scrllock

Постепенно из этих маленьких ассоциаций получаются целые ассоциативные ряды. «Мама» - человек, семья, дети, дом. «Мыла» - вода, мыло, уборка, чистота. Но вместе «мама мыла» создает уже новый ряд: пол, посуда, окна и та самая рама. Ассоциации накладываются друг на друга, и их сочетание может дать связь, которой не было ни у одного слова по отдельности. Поэтому рама и пол в теории побеждают баллистическую ракету.

Но если в запросе перед этим обсуждали подготовку ракеты к параду, то она внезапно получает целую кучу дополнительных ассоциаций и возвращается в игру. Примерно это мы уже наблюдали в предыдущей заметке про миры пользователя.

Готовая модель почти не содержит в себе исходных текстов. Тексты нужны прежде всего для того, чтобы сформировать этот чудовищный клубок ассоциаций. Какие-то фрагменты модель может фактически запомнить и воспроизвести, но это скорее побочный результат обучения, а не основной способ хранения знаний.

Поэтому модель не энциклопедия. Она постепенно связывает Париж с Францией, Цезаря с Римом, цезарь с пармезаном, холодильник с магнитиками, маму с рамой и миллионы других вещей друг с другом.

Больше заметок здесь или здесь.

Особенно хорошо это работает с прирученной моделью, которая уже знает любимые идеи хозяина и получила тысячи сообщений о том, как все на самом деле. Она будет учитывать их при каждом следующем ответе.

В результате человек постепенно получает идеального собеседника: тот знает все его теории, понимает их с полуслова, никогда не устает их обсуждать и способен подкинуть новые аргументы в их пользу.

А потом человек показывает переписку окружающим:

«Вот. Даже ИИ это подтверждает».

Разумеется подтверждает, вы его полгода этому учили.

Каков вопрос - таков ответ.

Больше заметок здесь или здесь

Есть еще одна важная деталь. ИИ смотрит не только на запрос. Если перед «мама мыла» пользователь спрашивал, почему хлорка так пахнет, и этот разговор еще находится в доступной модели части переписки, ситуация меняется. Теперь рядом оказываются хлорка, запах и «мама мыла». «Раму» никуда не исчезла и по-прежнему остается очень известным продолжением, но «пол» уже выглядит гораздо уместнее. Предыдущий разговор изменил то, какое продолжение лучше подходит сейчас.

Пример очень простой, но примерно так же строится и ответ на гораздо более сложный вопрос. Только вместо выбора между рамой, полом и ракетой модель учитывает огромное количество связей между словами и понятиями. Каждая новая часть текста немного меняет то, какие продолжения лучше подходят ко всему написанному до этого. Поэтому после описания производственной проблемы она может предложить причины, после куска программы - найти ошибку, а после вопроса по истории - рассказать, что происходило несколько веков назад. Но основной принцип остается тем же: исходя из уже написанного определить, что разумнее написать дальше.

Отсюда становится понятна и одна из главных проблем ИИ. У него нет обязательного этапа «сначала убедись, что это правда». Если правильное продолжение хорошо следует из вопроса, предыдущего разговора и того, чему модель научилась, она даст правильный ответ. Если знаний не хватает, задача никуда не исчезает: ей все равно нужно решить, что написать дальше. Поэтому иногда она может совершенно уверенно продолжить текст выдуманным фактом. У нее нет встроенного требования отличать правдоподобное утверждение от истинного. Собственно, люди тоже периодически могут специально или не очень нести чушь.

Именно поэтому фраза «ИИ просто продолжает текст» одновременно верна и сильно преуменьшает происходящее. Мы взяли огромное количество человеческих текстов и научили машину находить в них связи настолько хорошо, чтобы продолжать почти любой начатый текст.

А поскольку в текстах люди объясняют, спорят, сравнивают, ищут причины, пишут программы и решают задачи, машина научилась продолжать и это. Не потому, что ее отдельно учили программировать, рассуждать или объяснять историю. Все это оказалось частными случаями одной и той же задачи: понять написанное до этого и подобрать подходящее продолжение.

Продолжение следует.

Больше заметок здесь или здесь

С агентами это внезапно можно.

Есть хороший аналог из моей любимой физики.

Килограмм солнечного вещества производит гораздо меньше тепла, чем килограмм человеческого тела. Солнце чудовищно не потому что особенно эффективно производит энергию.

Просто этих килограммов там примерно два нониллиона (2 × 10³⁰ кг, 30 сука нулей).

По факту с ИИ происходит примерно то же самое.

Мы продолжаем спрашивать, умнее ли отдельная модель отдельного человека, хотя гораздо интереснее становится другой вопрос: сколько «интеллектуальной» мощности можно одновременно собрать, скоординировать и направить на одну задачу.

Иногда преимущество системы возникает не из качества элемента.

Иногда элементов просто очень, очень много.

Больше заметок здесь или здесь

И вот нормальный человек смотрит на это с лицом лица и охреневает, потому что в соседней вкладке корпорации увольняют людей из-за ИИ, дата-центры жрут электричество, память и все, что плохо лежит, всю воду в кране выпил уже не цвет российской интеллигенции, техника дорожает, а очередной миллиардер радостно сообщает, что скоро твоя профессия никому не понадобится.

После чего индустрия удивляется:

- А почему люди не очень любят ИИ?

Загадка.

При этом гораздо реже кто-нибудь рассказывает, как эту хуйню применять.

Я пользуюсь ИИ каждый день. GPT-5.3 расшифровывал митинги. GPT-5.6 расшифровывает митинги. Старый Sonnet помогал писать статьи. Новый Sonnet помогает писать статьи.

Да, лучше и быстрее. Одна за 2,5 минуты, вторая за 40 секунд. Только потом один хер все перечитывать и править.

Но между «МОДЕЛЬ НАБРАЛА 97,4% НА ХЕРПОЙМИКАКОМ БЕНЧМАРКЕ» и «я понял, что мне с ней делать завтра утром» по-прежнему лежит пропасть.

Человеку не нужен электронный бог, который попытался сбежать из контейнера.

Ему нужно после совещания получить протокол. Из трехсот писем вытащить пять важных. За минуту сравнить договоры. Собрать отчет за двадцать минут вместо дня. Быстро глянуть, насколько быстро его убьет состав очередной натуральной колбасы.

Вот только заголовок «НОВАЯ МОДЕЛЬ ПОМОГЛА ГАЛЕ ИЗ БУХГАЛТЕРИИ НЕ ЕБАТЬСЯ С EXCEL ДО ВОСЬМИ ВЕЧЕРА» почему-то собирает меньше денег.

Поэтому ИИ продолжают продавать примерно так:

«Мы построили невероятно могущественную штуку. Она отнимет вашу работу. Возможно, она опасна. Ради нее мы сожрем все электричество и поднимем цены на железо. Следующая будет еще могущественнее».

А потом люди говорят:

- Может, ну его?

И тут внезапно выясняется, что это они тупые ретрограды и луддиты, которые боятся прогресса, а не производители станков бегают по деревне и орут, что станки скоро всех нахуй уничтожат.

Больше заметок здесь или здесь

Отсюда и довольно странное требование: мы хотим, чтобы он был независим, но последнее слово оставлял за нами.

Возможно, поэтому вообще так плохо приживаются по-настоящему умные вещи. Автопилоту оставляют руль, автоматике - ручной режим, алгоритму - кнопку отмены. Нам важно не только чтобы система работала правильно. Нам важно ощущать, что решение все еще наше.

С ИИ это ощущение особенно легко потерять, потому что его орган управления - обычный разговор.

Но если хочется критики - ее можно попросить. Если хочется альтернативы - тоже.

Меня гораздо больше насторожил бы топор, который сам решал, что он сегодня рубит.

Больше заметок здесь или здесь

Потом это переносится на других: все сложнее воспринимать плохо сформулированную мысль, неструктурированную информацию или поверхностный анализ. Я всегда был слегка нетерпим к подобной фигне, но теперь у окружающих пропали последние оправдания.

Люди не стали хуже, изменилось мое представление о нормальном результате.

Поэтому я не очень верю и в популярное опасение исчезновения джунов и вообще всех низовых позиций.

Логика понятная: простую работу заберет ИИ, джунов перестанут нанимать, а через несколько лет сеньорам станет неоткуда браться.

Но здесь почему-то предполагается, что уровни сложности останутся на месте.

ИИ достанется не только сеньору. Джун с тем же инструментом сможет делать то, что для него вчера было слишком сложно и долго. Мидл полезет в сегодняшние задачи сеньора. Сеньор уйдет еще дальше.

Не обязательно исчезнет нижняя ступень. Скорее вся лестница немного поедет вверх вместе с требованиями.

В 1937 году Feuerhand продал около 12 миллионов керосиновых фонарей. Потом пришло электричество, которое должно было закончить эту историю.

Но в 2011 году Feuerhand все еще производил около 9000 практически идентичных фонарей в день - примерно 2,3 миллиона в год.

Электричество не уничтожило керосиновую лампу, а вытеснило ее из обычного домашнего освещения. Лампа уехала в походы, аварийное освещение и места без электросети - и продолжила существовать миллионными тиражами.

Технологии не обязательно уничтожают нижний уровень - они поднимают его.

Мы так много говорим о том, сколько времени сэкономит ИИ, как будто технологии обязаны вернуть его наличными и отпустить нас домой пораньше.

Но нет.

Сначала хороший результат становится дешевле. Потом все это замечают. А потом вчерашний хороший результат становится сегодняшним минимально приемлемым.

Поэтому я не уверен, что ИИ уменьшит нашу занятость.

Он сильно поднимет планку «нормы».

Рад ли я этому? И да и нет.

С одной стороны - да. А с другой - а жить-то когда? :-)

Немного достало это "надо очень быстро бежать, что бы оставаться на месте" (с) Красная Королева.

Больше заметок здесь или здесь