Серия «Про ИИ»

Есть еще одна важная деталь. ИИ смотрит не только на запрос. Если перед «мама мыла» пользователь спрашивал, почему хлорка так пахнет, и этот разговор еще находится в доступной модели части переписки, ситуация меняется. Теперь рядом оказываются хлорка, запах и «мама мыла». «Раму» никуда не исчезла и по-прежнему остается очень известным продолжением, но «пол» уже выглядит гораздо уместнее. Предыдущий разговор изменил то, какое продолжение лучше подходит сейчас.

Пример очень простой, но примерно так же строится и ответ на гораздо более сложный вопрос. Только вместо выбора между рамой, полом и ракетой модель учитывает огромное количество связей между словами и понятиями. Каждая новая часть текста немного меняет то, какие продолжения лучше подходят ко всему написанному до этого. Поэтому после описания производственной проблемы она может предложить причины, после куска программы - найти ошибку, а после вопроса по истории - рассказать, что происходило несколько веков назад. Но основной принцип остается тем же: исходя из уже написанного определить, что разумнее написать дальше.

Отсюда становится понятна и одна из главных проблем ИИ. У него нет обязательного этапа «сначала убедись, что это правда». Если правильное продолжение хорошо следует из вопроса, предыдущего разговора и того, чему модель научилась, она даст правильный ответ. Если знаний не хватает, задача никуда не исчезает: ей все равно нужно решить, что написать дальше. Поэтому иногда она может совершенно уверенно продолжить текст выдуманным фактом. У нее нет встроенного требования отличать правдоподобное утверждение от истинного. Собственно, люди тоже периодически могут специально или не очень нести чушь.

Именно поэтому фраза «ИИ просто продолжает текст» одновременно верна и сильно преуменьшает происходящее. Мы взяли огромное количество человеческих текстов и научили машину находить в них связи настолько хорошо, чтобы продолжать почти любой начатый текст.

А поскольку в текстах люди объясняют, спорят, сравнивают, ищут причины, пишут программы и решают задачи, машина научилась продолжать и это. Не потому, что ее отдельно учили программировать, рассуждать или объяснять историю. Все это оказалось частными случаями одной и той же задачи: понять написанное до этого и подобрать подходящее продолжение.

Продолжение следует.

Больше заметок здесь или здесь

Даже зависимость от очков почему-то редко вызывает философскую дискуссию о том, что человечество разучилось нормально видеть.

Про часы я вообще молчу.

Потому что обычно мы называем зависимостью не ситуацию, когда без технологии нам становится сильно хуже.

Мы называем зависимостью момент, когда впервые замечаем, насколько технология уже стала полезной.

ИИ просто проходит эту стадию взросления.

Сначала это была забавная игрушка, которая рисовала людей с семью пальцами и уверенно рассказывала несуществующие факты. Теперь выясняется, что часть интеллектуальной рутины действительно удобнее делать с моделью.

И человеку немедленно становится неуютно: а вдруг я без нее уже не смогу?

Сможете.

Примерно так же, как сможете добраться из Амстердама в Париж пешком или самостоятельно разделать свинью.

Сможете безусловно, вопрос только - зачем.

Тем более нынешние модели - вероятно, худшие из тех, от которых нам когда-либо придется зависеть. Они будут становиться мощнее, дешевле и специализированнее. Вместо одного универсального болтуна появятся сотни инструментов, которые будут лучше нас делать отдельные куски работы и стоить дешевле человека, которому пришлось бы этому учиться.

После этого разговор «не слишком ли мы зависим от ИИ» станет примерно таким же содержательным, как разговор о зависимости бухгалтерии от компьютеров.

Да, зависим.

Мы вообще построили цивилизацию из вещей, без которых теперь не можем нормально жить.

ИИ просто оказался следующим.

И, судя по всему, далеко не последним.

P.S. Остальные заметки лежат здесь

Потом это переносится на других: все сложнее воспринимать плохо сформулированную мысль, неструктурированную информацию или поверхностный анализ. Я всегда был слегка нетерпим к подобной фигне, но теперь у окружающих пропали последние оправдания.

Люди не стали хуже, изменилось мое представление о нормальном результате.

Поэтому я не очень верю и в популярное опасение исчезновения джунов и вообще всех низовых позиций.

Логика понятная: простую работу заберет ИИ, джунов перестанут нанимать, а через несколько лет сеньорам станет неоткуда браться.

Но здесь почему-то предполагается, что уровни сложности останутся на месте.

ИИ достанется не только сеньору. Джун с тем же инструментом сможет делать то, что для него вчера было слишком сложно и долго. Мидл полезет в сегодняшние задачи сеньора. Сеньор уйдет еще дальше.

Не обязательно исчезнет нижняя ступень. Скорее вся лестница немного поедет вверх вместе с требованиями.

В 1937 году Feuerhand продал около 12 миллионов керосиновых фонарей. Потом пришло электричество, которое должно было закончить эту историю.

Но в 2011 году Feuerhand все еще производил около 9000 практически идентичных фонарей в день - примерно 2,3 миллиона в год.

Электричество не уничтожило керосиновую лампу, а вытеснило ее из обычного домашнего освещения. Лампа уехала в походы, аварийное освещение и места без электросети - и продолжила существовать миллионными тиражами.

Технологии не обязательно уничтожают нижний уровень - они поднимают его.

Мы так много говорим о том, сколько времени сэкономит ИИ, как будто технологии обязаны вернуть его наличными и отпустить нас домой пораньше.

Но нет.

Сначала хороший результат становится дешевле. Потом все это замечают. А потом вчерашний хороший результат становится сегодняшним минимально приемлемым.

Поэтому я не уверен, что ИИ уменьшит нашу занятость.

Он сильно поднимет планку «нормы».

Рад ли я этому? И да и нет.

С одной стороны - да. А с другой - а жить-то когда? :-)

Немного достало это "надо очень быстро бежать, что бы оставаться на месте" (с) Красная Королева.

Больше заметок здесь или здесь

Отсюда и довольно странное требование: мы хотим, чтобы он был независим, но последнее слово оставлял за нами.

Возможно, поэтому вообще так плохо приживаются по-настоящему умные вещи. Автопилоту оставляют руль, автоматике - ручной режим, алгоритму - кнопку отмены. Нам важно не только чтобы система работала правильно. Нам важно ощущать, что решение все еще наше.

С ИИ это ощущение особенно легко потерять, потому что его орган управления - обычный разговор.

Но если хочется критики - ее можно попросить. Если хочется альтернативы - тоже.

Меня гораздо больше насторожил бы топор, который сам решал, что он сегодня рубит.

Больше заметок здесь или здесь

С агентами это внезапно можно.

Есть хороший аналог из моей любимой физики.

Килограмм солнечного вещества производит гораздо меньше тепла, чем килограмм человеческого тела. Солнце чудовищно не потому что особенно эффективно производит энергию.

Просто этих килограммов там примерно два нониллиона (2 × 10³⁰ кг, 30 сука нулей).

По факту с ИИ происходит примерно то же самое.

Мы продолжаем спрашивать, умнее ли отдельная модель отдельного человека, хотя гораздо интереснее становится другой вопрос: сколько «интеллектуальной» мощности можно одновременно собрать, скоординировать и направить на одну задачу.

Иногда преимущество системы возникает не из качества элемента.

Иногда элементов просто очень, очень много.

Больше заметок здесь или здесь

Особенно хорошо это работает с прирученной моделью, которая уже знает любимые идеи хозяина и получила тысячи сообщений о том, как все на самом деле. Она будет учитывать их при каждом следующем ответе.

В результате человек постепенно получает идеального собеседника: тот знает все его теории, понимает их с полуслова, никогда не устает их обсуждать и способен подкинуть новые аргументы в их пользу.

А потом человек показывает переписку окружающим:

«Вот. Даже ИИ это подтверждает».

Разумеется подтверждает, вы его полгода этому учили.

Каков вопрос - таков ответ.

Больше заметок здесь или здесь

Допустим, начинаем с букв. Но сочетание «ма» встречается постоянно - имеет смысл считать его одним кусочком. «Мама» встречается еще чаще - можно добавить целиком и его. То же самое постепенно происходит с частями слов, целыми словами, окончаниями, знаками препинания и даже пробелами. В результате получается огромный набор деталей, из которых можно собрать практически любой текст.

Вот эти детали и называются токенами.

Можно представить их как детали конструктора. В коробке есть крупные и часто используемые детали - распространенные слова и сочетания. Есть мелкие - части редких слов и отдельные символы. «Мама» может оказаться одной готовой деталью, какое-нибудь «межконтинентальный» придется собрать из нескольких, а фамилию никому не известного новозеландского разработчика климатического оружия модель, возможно, вообще будет собирать почти по буквам.

Внутри модели у каждого токена есть свой номер. Условно, «мама» - 18342, какой-нибудь кусок «континент» - 7311, точка - 13. Когда мы отправляем модели предложение, к ней в итоге приезжают не слова, а последовательность токенов, переведенных в номера.

И вот с ними она уже работает.

Поэтому наше старое «мама мыла» на самом деле означает не «модель выбирает следующее слово». Она получает цепочку номеров и решает, токен под каким номером должен быть следующим. Выбрала. Теперь последовательность стала длиннее, и нужно выбрать следующий. Еще один. Еще. Потом эти номера обратно собираются в токены, и мы видим нормальный человеческий ответ.

Этот процесс называется токенизацией. Вы спросите - зачем так сложно, почему не сделать каждый символ отдельным токеном и успокоиться? Потому что модель работает с токенами по одному. Если «мама» - один токен, для ее генерации достаточно одного шага. Если «мама» - четыре токена, нужно уже четыре, причем на каждом следующем шаге приходится учитывать все, что было до него. А теперь попробуйте таким способом собрать «межконтинентальную баллистическую ракету». Поэтому делать токенами отдельные буквы можно, но дорого, а сделать отдельный токен для каждого существующего слова не имеет смысла (приставки, суффиксы, окончания, новые слова). Поэтому часто встречающееся пакуем крупно, редкое собираем из мелочи. Чем короче в итоге получилась цепочка, тем меньше работы.

Сейчас придется немного уточнить и предыдущую заметку. Там мы для простоты представляли параметры как мини ассоциации между словами и понятиями. Это было упрощение: никаких готовых «мама - дом - уборка» модель не держит. Она работает с токенами и их сочетаниями, а привычные нам ассоциации возникают уже из всего это массива. Для понимания принципа сойдет, но теперь мы знаем, что под капотом все несколько хитрее.

Кстати, разным языкам повезло по-разному. Русский многие словари токенов режут мельче английского и других европейских языков, поэтому один и тот же по смыслу текст на русском часто превращается в более длинную цепочку.

В итоге, мы пишем модели слова, которых она не видит. Она отвечает словами, которые не выбирает. Между нами ездят только номера кусочков текстов.

Но «ИИ угадывает следующее слово» все равно остается вполне рабочим объяснением.

Просто иногда для того, чтобы подставить одно слово, ему приходится угадать его несколько раз по частям.

Больше заметок здесь или здесь.