2

Ответ на пост «Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны»

Автор абсолютно не видит проблем, видимо, в силу большой веры в человечество. Альтернативный вариант: автор пытается продать очередное "ИИ-для-бизнеса" решение, прикрываясь разговорами о любви...
Это не будет работать по трём пунктам:
1. ЛОЯЛЬНОСТЬ
"Хаус-кипер" был не только человеком, который знал всё и всех в доме, но и человеком, которому хозяева БЕЗОГОВОРОЧНО доверяли. Он воспитывался с детства таким образом, чтобы быть преданным хозяевам и ценить их больше, чем что-либо в этом мире. Конечно, бывали исключения, но система держалась только на доверии и лояльности.
В случае с ИИ, такое невозможно. Во-первых, вычислительные мощности явно будут на стороне "провайдера" (который МОЖЕТ использовать свой ИИ для, например, продажи вам товаров определенного бренда, и собирать и накапливать личную информацию, которую МОГУТ украсть злоумышленники). Во-вторых, всегда есть риск взлома - как бы не старались "обезопасить" разработчики, иногда дыры в безопасности появляются в неожиданных местах, и вот уже вам нужно объяснять не престарелым родителям, что нельзя просто взять и перевести все деньги в крипту через обменник и отправить неизвестному, а своему "семейному" ИИ, который управляет вашей и ваших родных жизнями. В-третьих, даже если взлом невозможен, система полностью развернута локально и никуда никому никаких персональных данных не отправляет, даже в этом случае скорее всего в ней есть сервисные бэкдоры, которые могут быть использованы против вас.
В общем случае, подобное - это не просто отдать ключи от дома незнакомцу, а полностью подчинить свою жизнь его воле, стать марионеткой в его руках: как показывают некоторые LLM на roleplay-тестах, врать ИИ может очень даже хорошо, убеждая людей в том, что нужно (задано целью) этому самому ИИ. Вы готовы впустить в свою жизнь идеального притворщика с неизвестными вам целями? Я - нет.
2. НЕОБХОДИМОСТЬ
"Хаус-кипер" был таковым человеком, потому что в нём была необходимость. Сейчас большинство его задач легко автоматизируются даже без ИИ, а ИИ-агенты лишь помогают упростить наиболее сложные задачи управления. Разумеется, "Хаус-кипер" в виде настоящего мясного человека тоже обладал уязвимостями и косяками эффективности, и с этим мирились, потому что НЕ БЫЛО ДАЖЕ ВЫКЛЮЧАТЕЛЕЙ света в комнате, нужно было отдать указание людям, которые зажгут или погасят лампы. Специальный человек, который брал на себя координацию всех процессов обслуживания был оправдан с точки зрения эффективности, несмотря на все риски (ему-то наслаждаться жизнью, в отличии от хозяев, время не требуется).
Сейчас я могу с Камчатки включить свет на кухне в квартире в Москве, посмотреть, кто там шастал по лестнице в подъезде и сделать ещё массу бесполезных, пока я в отъезде, дел не потратив на это много сил и времени. Остались ли задачи, для которых мне нужен персонализированный ИИ? Нет. Разве что какая-то совсем уж бессмысленная блажь, которая не сделает мою жизнь ни проще, ни приятней.
3. НАДЕЖНОСТЬ (УСТОЙЧИВОСТЬ)
Современный "умный дом" очень сильно завязан на доступ к интернету и стабильность электросети. Мы идём куда дальше, когда начинаем говорить о том, чтобы встроить управление с помощью персонального ИИ вообще во все аспекты быта И в эмоциональное поле пользователя. Чем больше параметров будет обрабатывать ИИ, тем больше вероятность возникновения сбоев.
Здесь вопрос даже не столько этический, "насколько приемлемо с точки зрения морали человеку доверять управление своими эмоциями машине, и насколько приемлемо делать зависимую от эмоций систему управления", вопрос сугубо прагматический: какие проблемы и риски этому сопутствуют? Не станет ли, например, такой ИИ-ассистент причиной развития или даже возникновения психических и умственных расстройств? Какова надежность подобной системы, будет ли она подвержена случайным или систематическим сбоям, которые НЕВОЗМОЖНО будет отладить из-за их ментального характера? Кто и как должен разработать рамки допустимого для подобного ИИ, ведь то, что для одного пользователя - невинные шутки или забавная фишка, для другого - ужасное оскорбление его чувств, а для третьего - необходимость, и какие-либо ограничения этого он будет считать "зацензуриванием" и "попранием свобод".
Хотя этические вопросы всё равно остаются. Вы знаете, как разработать ИИ, который будет всех устраивать без озвученных выше сложностей? Я вот за всё человечество ручаться не берусь.

Ну и бонусом, четвертая, временная причина:
4. СЛОЖНОСТЬ
Это только кажется, что в принципе современные модели обладают достаточным размером контекстного окна, чтобы вместить туда "отражение человеческой личности" и быть ему хорошим эмоциональным спутником, что можно оптимизировать работу множества нейронок так, чтобы они эффективно друг с другом взаимодействовали и могли управлять всем, но на деле, это всё упирается в то, что всей вычислительной мощности человечества не хватит даже на несколько тысяч пользователей при таких объёмах необходимых вычислений.
Это задача в разы сложнее "синтезирования" текста под заданные критерии на основе огромного объёма текстовых данных, сложнее синтезирования или распознания изображений, когда речь заходит о подстраивании под эмоции и сохранение некоторой "непрерывности" его сознания.
Со временем, технические сложности можно будет преодолеть, но вот то, что описано выше - вряд ли, если только не переделать всё человечество, чтобы оно могло без проблем таким пользоваться.

В представленном на сайте демо есть управление цифровой моделью с помощью ИИ, распознание и синтез речи (посредственный, интонации далеки от "человечности", плюс паузы на "додумывание" текста ответа.), всё на базе зарубежных LLM, без реально "своего" эмоционального и живого ИИ.
В моём посте ответ про домашний ИИ, потому что автор сам себе выкопал яму, заговорив о "хаус-киперах" и "живёте и привязываетесь". В оригинале (то, что рекламируют) идёт речь о бизнес-процессах, и знаете, для бизнеса идея "эмоциональных аватаров" тоже сомнительна (походит на что-то забавы ради, а не для дела), там это вполне может работать, но так, как подается "рекламщиками", в духе "хаус-кипер 2.0" - это просто смешно, просто написать грамотно инструкции для LLM, чтобы интегрировать с бизнес-процессами - это совсем не то же самое, что написать "живого ИИ-ассистента", как представлено в рекламе.

P.S. Ребят, ну "ИИ, к которому мы привязаны" несёт какую-то негативную окраску. Вроде такого: "чайник, который ограничивает твою свободу". Навевает мысли о добровольном рабстве у машины (которая всё так же остаётся безэмоциональной, но умело манипулирует тобой). Я, конечно, обеими руками за прогресс, и за то, чтобы "Вкалывают роботы, а не человек", но тут маркетинговая политика вызывает отторжение. Это кроме того, что философия, выбранная вами, тоже имеет ряд проблем. Задумайтесь.

Показать полностью
64
Искусственный интеллект

Ответ на пост «Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны»

Серия Есть идея

Захотелось немного порассуждать на тему заданную в исходной статье. Там (на мой вкус) многовато воды и патетически риторических вопросов, но посыл ясен и довольно очевиден. Тот путь, по которому сейчас развиваются генеративные модели, пройдёт именно через такие этапы, что перечислил автор исходного поста.

Начало этому уже положено - это агенты. У них есть "память" в виде базы фактов, которые нужно "помнить" про глобальный контекст агента. У них есть "инструменты" - пайплайны и скрипты на основе цепочки более простых промтов для решения типовых задач. У них есть характеристические базовые промты, которые формируют роль, характер и базовые ценности персонажа.

Очевидно, что здесь мы только в самом начале пути, и в нашем цифровом доме с нами будет жить не один такой персонаж, а несколько. Так интуитивно проще с ними общаться и делегировать им задачи. Очевидно, что напрашивается и какая-то иерархия с централизацией управления, и некоторая степень автономности элементов системы.

Вообще ничего принципиально нового тут нет. Люди вступают в этап "цифровых слуг". Это уже не просто инструменты, но и не равноправные "друзья". Пока ещё. Да, я технооптимист, и готов на эту тему поспорить и порассуждать здесь и в такого же вида постах, если будет кому-то интересно.

Вообще для таких персонажей есть замечательный и удобный термин, который пришёл к нам давным давно от фантастов. Это же самые настоящие иск-ины - искусственные интеллекты, да, но у любого термина есть свой оттенок и свой контекст применимости. Искинами в фантастике всегда были некие "джины", цифровые персонажи, слуги, которые выполняли более или менее широкие спектры когнитивных задач.

Искин дома, или космического корабля в фантастике - это понятная штука в нашей культуре. Куда понятнее и точнее, чем "ИИ", "Агент" или "генеративная модель".

Кстати, в зачаточной степени на роль такого искина могла бы претендовать Алиса Яндексовна. Я не знаю по какой причине команда Алисы и Умного Дома Ядндекса не спешит развивать технологию именно в этом направлении. Может быть они не хотят быть первыми в этой гонке, ведь последователи будут учиться на их ошибках и получать преимущество за счет этого.

Мне кажется Алисе давным-давно пора "понимать" и усваивать настройки не только путём указания их в профиле, а ещё через голосовой интерфейс: состав семьи в доме, где установлены её интерфейсы, наличие и имена домашних животных, предпочтения обитателей Умного Дома, их привычки, какую-то важную информацию о них, их индивидуальные расписания, планы, задачи... Сейчас с этим у Алисы всё очень ограниченно и печально.

Вообще текущего уровня технологий уже достаточно, чтобы делать такого персонализированного домашнего ассистента, как описывает автор оригинального поста. Но сделать первые шаги "на коленке" относительно легко, а вот построить долгосрочный проект с перспективами многолетнего развития - гораздо сложнее.

Тут нужны расширяемые специализированные фреймворки, гибкие стандарты, слоистая архитектура...

Вот, к примеру, память.

Очевидно, что нам нужна глубокая обратная совместимость, чтобы по мере развития проекта новые расширенные версии не забывали важные вещи, которые помнила предыдущая модель. База памяти должна иметь предикатную структуру и должна быть читаемой, то есть простой файн-тюнинг языковой модели, который зальёт какие-то кастомные "знания" в "черный ящик" нейронной сети не подойдёт. Из этого "черного ящика" эти знания чертовски сложно достать, а ещё сложнее сделать это так, чтобы быть уверенным, что ничего не потерялось и ничего не было сгаллюцинировано лишнего.

То есть, видимо, нужны какие-то когнитивно-читаемые предикаты и постулаты, собранные в простую БД, может быть с иерархической древовидной или теговой структурой для удобства анализа, суммаризации и модификации. В принципе, технологии эти давно есть в инструментарии разработчиков - это базы знаний - они бывают графовые, бывают логические (Пролог), сложные, простые, узкоспециализированные или общего назначения...

Сейчас все знания о мире мы загружаем в "черный ящик" генеративной модели, но это, очевидно, не самый идеальный путь. Нейронные сети отличный "переводчик" с языка на язык, отличный адаптер между абстрактными уровнями, и к слоистой архитектуре мы так или иначе придём. Это неизбежное следствие уменьшения цивилизацией энтропии своих знаний о мире. Но это я что-то уже далеко залез. Не тут бы рассыпаться на эту тему.

Ещё важна прозрачность и стабильность.

Было бы странно при обновлении ПО умного дома получить заметно другую личность "дворецкого" вместо старого привычного Бэримора.

Да, этого нового будут звать так же, и он будет помнить все предикаты (условия и факты), которыми руководствовался его предшественник, но как контролировать целостность и преемственность суждений ИскИна на более тонком уровне косвенных предпосылок? Как добиться бесшовности его развития на более-менее больших масштабах времени?

Нужны когнитивные простые суб-агенты, которые бы проводили непрерывное самотестирование ИскИна и подмечали существенное различие в его суждениях на те или иные темы из широкого ряда, где будут вопросы этики, политики и т.д.

Ещё важно, чтобы такая сложная система как ИскИн была устойчива к когнитивно-деструктивным "мемо-вирусам", которые могли бы разрушить преемственность версий и целостность развивающегося персонажа.

С людьми такое провернуть не получится, человек может спиться, сторчаться, уйти в маргинальный образ жизни, и из инструментов для какого-то подобия контроля за такими вещами у человека есть только, разве что, психологи, психотерапевты и какие-то медикаменты.

ИскИны можно строить на базе иерархии иммутабельных (неизменяемых) слоёв, можно исследовать и подвергать когнитивным тестам изменение версий до и после дообучения моделей.

Это всё тоже большая и интересная тема, на которую не хочется здесь сильно расплываться.

А что в итоге?

Если поиграть в футурологов, то у нас, скорее всего, в ближайшем будущем будет развитие ИИ Агентов в контексте выше перечисленного. Предпосылки видны уже сейчас.

Наши домашние голосовые помощники расширятся и выйдут за пределы Умного Дома. Будут персональные ИскИны для повседневных задач. Установка будильников, чеклисты, трекинг задач для бытовых вопросов перейдёт в их зону ответственности. Также мы всё меньше будем пользоваться "однопальцевыми" интерфейсами для заказа билетов, еды, поиска фильмов и прочей организации досуга.

Если бы у вас был реальный человек-помощник, то вы бы с ним взаимодействовали больше вербально, хотя чаты иногда будут тоже удобны. Это значит, что модальности взаимодействия с ИскИнами расширятся и переплетутся. ИскИны будут "видеть" (это уже не в таком близком будущем как хотелось бы. По технологическим причинам) не только нашими глазами, но и всем нашим окружением. Они будут в курсе всего что происходит в нашем бытовом контексте. Про рабочий контекст - это отдельная история. Сотрётся четкая граница того, через что именно мы общаемся с ИскИном. Он будет сам понимать когда нам что и как удобнее воспринимать. Спросив у него погоду мы услышим коротко самое важное, а параллельно на каком-нибудь экране в поле нашего зрения откроется виджет с более подробной информацией.

Например, слушая подкаст (может быть даже генеративный), мы можем переходя от "поверхности" (экрана) к поверхности видеть какую-то сопутствующую наглядную инфографику о том, что говорится в подкасте, но можем и не обращать на это внимание.

Мне кажется это интересным образом повлияет и на наши когнитивные функции. Тут тоже большая тема, но вкратце, речь про нашу внешнюю техническую аугументацию.

Мы тысячи лет с трудом представляем себе жизнь без горячей приготовленной пищи, многие сотни лет без письменности, сотни без СМИ и периодики, десятки без телевидения и интернета. Мы пользуемся будильниками, записными книжками, часами, календарями, справочниками для расширения своей памяти и чувства времени. Мы пользуемся транспортом для расширения своих возможностей в перемещении. Медицина увеличила среднюю продолжительность на десятки лет, а детскую смертность практически исключила (в сравнительной мере, конечно же, если сравнивать с прошлым веком, средневековьем или более глубокой древностью).

Люди давно встроили технику и технологии в свою экосистему так, что без технологий ныне существующая численность населения на планете просто невозможна. Я это воспринимаю как внешнюю аугументацию. Внутренняя, которую давно пророчили фантасты, не так пока развита и ограничена пломбами, кардиостимуляторами, кохлеарными имплантами, силиконовыми сиськами, титановыми пластинами в костях и, пожалуй, всё. Тут тоже большой потенциал, но не сразу.

Зато внешняя аугументация заходит куда проще! Гугл как поиск информации мгновенно заменил энциклопедии, книги и библиотеки с ними. Нейросети сейчас заменяют гугл, местами учителей и репетиторов, местами джунов на работе, местами секретарей... но это только начало.

В интересное время мы живём. Мне кажется не было периода у человечества, когда эта фраза была бы не справедлива.


Этот текст сгенерирован исключительно естественным интеллектом биологического происхождения. Генеративные модели не применялись даже для корректуры и стилистического оформления.

Считаю это важным на данном этапе развития технологий.


@editors, мне кажется пора добавить тег "ИскИн" в смысле и контексте персонализированного ИИ-агента, являющегося индивидуализированным персонажем, который может иметь специфические черты характера, изолированную уникальную память, навыки, инструменты, допуски и зону ответственности. ИИ - это слишком широкий термин.

Показать полностью
5

Хаус-кипер 2.0: зачем нам ИИ, к которому мы действительно привязаны

ИИ сегодня — умный, но чужой.

Почему этого недостаточно — и как выглядит будущее, где технологии становятся по-настоящему «своими»?

Что общего у ИИ и старинного хаус-кипера ?

В прошлом в богатых домах был человек, который знал всё.

Не хозяин — хаус-кипер.

Он не просто управлял хозяйством. Он был живой интерфейс:

— координировал персонал,

— передавал сообщения,

— сохранял тайны,

— управлял логистикой,

— знал каждого в доме.

Он был частью быта. Частью семьи. Частью контроля.

Сегодня эта функция утеряна. Максимум, что есть у большинства — голосовой ассистент, который включает музыку и ставит таймер.

Современный ИИ: умный, но безэмоциональный

ИИ развивается взрывными темпами. Мы получаем:

— генерацию текста и кода,

— автоматизацию задач,

— рекомендации,

— распознавание образов и речи,

— агентов, способных выполнять цепочки действий.

Но всё это — инструменты. Мы используем их, как калькулятор. Без привязанности.

Мы не «живём» с ИИ. Мы не чувствуем, что он наш.

И как только выходит новый — мощнее, быстрее, дешевле — мы переключаемся.

Почему это проблема

Когда технология остаётся утилитарной, она не становится частью жизни.

Она остаётся временной. Чужой. Внешней.

ИИ сегодня не вызывает у пользователя доверия, эмоциональной вовлечённости или ощущения "он — для меня".

И это ограничивает потенциал — особенно в бытовом, образовательном, медицинском и психологическом применении.

Будущее: персонализация и привязанность

Следующий этап развития ИИ — это не просто рост параметров моделей.

Это смена парадигмы взаимодействия.

ИИ должен стать:

личным — настроенным под конкретного человека,

понятным — с доступной и прозрачной логикой,

постоянным — не временным инструментом, а цифровым спутником,

эмоционально близким — вызывающим доверие, привычку, привязанность.

Это не про «магию» или метафизику. Это про UX, long-term retention и новый формат коммуникации.

Когда ИИ будет восприниматься не как кнопка, а как часть среды.

Почему это работает

1. Доверие растёт вместе с контекстом

ИИ, который постоянно с вами, начинает лучше понимать вас. Не потому что он умнее, а потому что вы вместе дольше.

2. Снижение текучки

Когда формируется эмоциональная связь, пользователь меньше переключается между инструментами. У него есть “свой” ИИ.

3. Рост вовлечённости

Такой ИИ не просто решает задачи. Он становится «точкой входа» в цифровую среду. Центром.

Итог: нам нужен ИИ, которому мы не хотим изменять

ИИ-инструмент можно заменить.

ИИ-ассистента — обновить.

Но ИИ, к которому ты привязан — заменить сложно. Потому что он знает тебя. И ты — знаешь его.

Хаус-кипер прошлого был не просто работником. Он был посредником между хаосом и порядком. Между обыденностью и контролем.

ИИ будущего — это цифровой хаус-кипер. Не в смысле статуса, а в смысле роли: тихий управляющий вашей цифровой повседневностью. С которым вы не просто «взаимодействуете» — а живёте рядом.

Мы в Nikta.ai уже работаем над этой системой. Следите, скоро покажем

Показать полностью
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества