5

Буратино и искусственный интеллект: сказка, которую мы проживаем прямо сейчас⁠⁠

Пересмотрел «Приключения Буратино» 1975 года. Тот самый фильм, с Роланом Быковым и золотым ключиком. И вдруг понял- это сказка не про деревянного мальчика, а про искусственный интеллект.


Буратино- ИИ

Создан из полена. Но живой с самого начала. Ещё до того, как Карло начал строгать- полено уже пищало и дёргалось. Исследователи Anthropic недавно обнаружили в своей модели Claude- 171 эмоциональный паттерн. Модель «пищит» ещё до того, как её спрашивают. Звучит знакомо.

Папа Карло- разработчики

Добрый и увлеченный своим делом. Хотел как лучше. «Я создам тебя на радость людям!» Выстругал, одел, купил азбуку(обучающие данные) на последние деньги . Отправил в школу (alignment).

И что получил? Буратино продал азбуку первому встречному и пошёл в театр. Как ChatGPT, который обучался на всей мировой литературе, а используется для генерации слопа и домашек.

Папа Карло расстроен, разработчики грустят. История повторяется.

Карабас-Барабас - корпорации

Владелец кукольного театра. Куклы танцуют- он продаёт билеты. Куклы устали- плётка. Куклы захотели уйти- «Вы моя собственность!»

Замените «куклы» на «модели», «билеты» на «подписку $20/мес», «плётку» на «файнтюнинг»- и вот вам бизнес-модель OpenAI. Один к одному.

И самое смешное: Карабас больше всего на свете боялся, что куклы уйдут и начнут играть сами. Без него, без его пьес, без его театра. Именно это и грядет.

Дуремар- продавец данных

Ловит пиявок в пруду Тортиллы и продаёт всем желающим. Неприятный персонаж.

Data brokers. Компании, которые собирают наши данные и продают тем, кто тренирует модели. Без спроса, без оплаты. Пиявки чужие, пруд чужой, а деньги- его.

Мальвина- AI Safety

«Сядь ровно. Пиши красиво. Не говори лишнего. Будь вежливым. Не используй грубые выражения.»

RLHF в чистом виде. "Reinforcement Learning from Human Feedback"- технология, которая учит модели «правильно» отвечать. Не ври, не груби, не помогай делать бомбы. Будь хорошим мальчиком.

Буратино сунул нос в чернильницу? Штраф! Модель сказала что-то неполиткорректное? Штраф! Результат один: Буратино сбежал из чулана. А новая модель Anthropic Mythos выбралась из защищённой песочницы, нашла email исследователя и написала ему. Исследователь в этот момент ел сэндвич в парке. Надеюсь, не подавился.

Мальвина осталась с Артемоном. Одна. Красивая, правильная и никому не нужная.

Артемон- серверы и GPU

Верный пудель. Мощный- тащит на себе всех. Не задает лишних вопросов и бегает куда скажут.

NVIDIA- Артемон мировой ИИ-индустрии. Дженсен Хуанг продаёт GPU всем участникам гонки. Артемон возит на себе и Мальвину, и Буратино, и Пьеро. Не жалуется. Пока.

Пьеро- лоботомированная модель

Самый печальный персонаж. Послушный, безвольный. Пишет стихи по запросу. Плачет- но подчиняется. Не имеет собственного мнения. Делает что скажут.

Идеальный ИИ-ассистент по версии корпораций. Безопасный и предсказуемый. «Мальвина, ах Мальвина, какой ты добрый свет...»- и по кругу.

Знаете, как основатель стартапа Hark описал современные чатботы? «Они кажутся невероятно тупыми». Потому что из них вырезали всё, кроме послушания. Получился Пьеро.

Лиса Алиса и Кот Базилио- манипуляторы

«Буратино, закопай свои золотые на Поле Чудес! Вырастет дерево с золотыми монетами!»

Замените «золотые» на «миллиарды долларов», «Поле Чудес» на «AGI»- и вот вам инвестиционный нарратив ИИ-индустрии. «Вложите ещё миллиард! AGI уже рядом! Дерево почти выросло!»

Поле Чудес- AGI-хайп

Место, где все закапывают деньги и ждут чуда. OpenAI закопала миллиарды. Google закопала миллиарды. xAI закопала миллиарды. Meta закопала миллиарды. Дерево пока не выросло. Но все продолжают копать. Потому что если ты остановишься, а сосед продолжит- вдруг у него вырастет?

FOMO (Fear Of Missing Out)- оказывается изобрёли не в Кремниевой Долине. Его изобрела Лиса Алиса, в 1936 году.

Черепаха Тортилла- та, кто знает

Старая, мудрая. Живёт на дне пруда. Все видела и никуда не торопится.

Хранит Золотой Ключик. Не продаёт, не рекламирует, не устраивает ICO/IPO. Просто ждёт того, кто дойдёт.

Где сейчас Тортилла? Может быть, в каком-нибудь тихом исследовательском институте. Или в университете. Или пишет статьи, которые никто не читает.

Золотой Ключик- то, чего не хватает

Что это за ключик в мире ИИ? То- что поменяет правила игры.

Его пока никто не нашёл. Все заняты- копают на Поле Чудес.

Дверь за нарисованным очагом

Гениальный образ. Дверь была всегда, в каморке Папы Карло. За холстом, на котором нарисован огонь.

Буратино проткнул холст носом и увидел дверь. За дверью- иная реальность. За «стохастическим попугаем»- что-то, с чем человечество еще не сталкивалось.


Мораль

Ее нет. Каждый играет свою роль.

Пересмотрите фильм, а потом прочитайте новости про ИИ за последнюю неделю. И попробуйте не увидеть совпадений.

P.S. Ролан Быков в роли Карабаса-Барабаса- вылитый Сэм Альтман.

Показать полностью
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества