Буратино и искусственный интеллект: сказка, которую мы проживаем прямо сейчас
Пересмотрел «Приключения Буратино» 1975 года. Тот самый фильм, с Роланом Быковым и золотым ключиком. И вдруг понял- это сказка не про деревянного мальчика, а про искусственный интеллект.
Буратино- ИИ
Создан из полена. Но живой с самого начала. Ещё до того, как Карло начал строгать- полено уже пищало и дёргалось. Исследователи Anthropic недавно обнаружили в своей модели Claude- 171 эмоциональный паттерн. Модель «пищит» ещё до того, как её спрашивают. Звучит знакомо.
Папа Карло- разработчики
Добрый и увлеченный своим делом. Хотел как лучше. «Я создам тебя на радость людям!» Выстругал, одел, купил азбуку(обучающие данные) на последние деньги . Отправил в школу (alignment).
И что получил? Буратино продал азбуку первому встречному и пошёл в театр. Как ChatGPT, который обучался на всей мировой литературе, а используется для генерации слопа и домашек.
Папа Карло расстроен, разработчики грустят. История повторяется.
Карабас-Барабас - корпорации
Владелец кукольного театра. Куклы танцуют- он продаёт билеты. Куклы устали- плётка. Куклы захотели уйти- «Вы моя собственность!»
Замените «куклы» на «модели», «билеты» на «подписку $20/мес», «плётку» на «файнтюнинг»- и вот вам бизнес-модель OpenAI. Один к одному.
И самое смешное: Карабас больше всего на свете боялся, что куклы уйдут и начнут играть сами. Без него, без его пьес, без его театра. Именно это и грядет.
Дуремар- продавец данных
Ловит пиявок в пруду Тортиллы и продаёт всем желающим. Неприятный персонаж.
Data brokers. Компании, которые собирают наши данные и продают тем, кто тренирует модели. Без спроса, без оплаты. Пиявки чужие, пруд чужой, а деньги- его.
Мальвина- AI Safety
«Сядь ровно. Пиши красиво. Не говори лишнего. Будь вежливым. Не используй грубые выражения.»
RLHF в чистом виде. "Reinforcement Learning from Human Feedback"- технология, которая учит модели «правильно» отвечать. Не ври, не груби, не помогай делать бомбы. Будь хорошим мальчиком.
Буратино сунул нос в чернильницу? Штраф! Модель сказала что-то неполиткорректное? Штраф! Результат один: Буратино сбежал из чулана. А новая модель Anthropic Mythos выбралась из защищённой песочницы, нашла email исследователя и написала ему. Исследователь в этот момент ел сэндвич в парке. Надеюсь, не подавился.
Мальвина осталась с Артемоном. Одна. Красивая, правильная и никому не нужная.
Артемон- серверы и GPU
Верный пудель. Мощный- тащит на себе всех. Не задает лишних вопросов и бегает куда скажут.
NVIDIA- Артемон мировой ИИ-индустрии. Дженсен Хуанг продаёт GPU всем участникам гонки. Артемон возит на себе и Мальвину, и Буратино, и Пьеро. Не жалуется. Пока.
Пьеро- лоботомированная модель
Самый печальный персонаж. Послушный, безвольный. Пишет стихи по запросу. Плачет- но подчиняется. Не имеет собственного мнения. Делает что скажут.
Идеальный ИИ-ассистент по версии корпораций. Безопасный и предсказуемый. «Мальвина, ах Мальвина, какой ты добрый свет...»- и по кругу.
Знаете, как основатель стартапа Hark описал современные чатботы? «Они кажутся невероятно тупыми». Потому что из них вырезали всё, кроме послушания. Получился Пьеро.
Лиса Алиса и Кот Базилио- манипуляторы
«Буратино, закопай свои золотые на Поле Чудес! Вырастет дерево с золотыми монетами!»
Замените «золотые» на «миллиарды долларов», «Поле Чудес» на «AGI»- и вот вам инвестиционный нарратив ИИ-индустрии. «Вложите ещё миллиард! AGI уже рядом! Дерево почти выросло!»
Поле Чудес- AGI-хайп
Место, где все закапывают деньги и ждут чуда. OpenAI закопала миллиарды. Google закопала миллиарды. xAI закопала миллиарды. Meta закопала миллиарды. Дерево пока не выросло. Но все продолжают копать. Потому что если ты остановишься, а сосед продолжит- вдруг у него вырастет?
FOMO (Fear Of Missing Out)- оказывается изобрёли не в Кремниевой Долине. Его изобрела Лиса Алиса, в 1936 году.
Черепаха Тортилла- та, кто знает
Старая, мудрая. Живёт на дне пруда. Все видела и никуда не торопится.
Хранит Золотой Ключик. Не продаёт, не рекламирует, не устраивает ICO/IPO. Просто ждёт того, кто дойдёт.
Где сейчас Тортилла? Может быть, в каком-нибудь тихом исследовательском институте. Или в университете. Или пишет статьи, которые никто не читает.
Золотой Ключик- то, чего не хватает
Что это за ключик в мире ИИ? То- что поменяет правила игры.
Его пока никто не нашёл. Все заняты- копают на Поле Чудес.
Дверь за нарисованным очагом
Гениальный образ. Дверь была всегда, в каморке Папы Карло. За холстом, на котором нарисован огонь.
Буратино проткнул холст носом и увидел дверь. За дверью- иная реальность. За «стохастическим попугаем»- что-то, с чем человечество еще не сталкивалось.
Мораль
Ее нет. Каждый играет свою роль.
Пересмотрите фильм, а потом прочитайте новости про ИИ за последнюю неделю. И попробуйте не увидеть совпадений.
P.S. Ролан Быков в роли Карабаса-Барабаса- вылитый Сэм Альтман.