user11103944

user11103944

На Пикабу
Дата рождения: 11 ноября
125 рейтинг 0 подписчиков 0 подписок 4 поста 0 в горячем
Награды:
Пикабу 17 лет!
7

Мадагаскарская ловушка: как профессор обхитрил студентов, использующих ChatGPT

Мадагаскарская ловушка: как профессор обхитрил студентов, использующих ChatGPT

Пока университеты по всему миру пытаются понять, как жить в эпоху генеративного ИИ, преподаватель истории из Alcorn State University придумал довольно необычный способ проверить, кто действительно писал работу самостоятельно. Эксперимент оказался настолько показательным, что быстро разлетелся по соцсетям и вызвал споры среди преподавателей.

На промежуточном экзамене студентам нужно было сравнить промышленную революцию с современной цифровой эпохой. На первый взгляд это было обычное эссе, но в тексте задания была спрятана небольшая ловушка. В одном месте белым цветом на белом фоне было написано слово Madagascar. Человек, который просто читал задание, никогда бы его не увидел. Зато если полностью скопировать текст в ChatGPT или другую языковую модель, скрытое слово попадало в промпт.

Из-за этого модель пыталась каким-то образом использовать его в ответе. Иногда она просто вставляла слово «Madagascar» в текст, а иногда генерировала совершенно абсурдные предложения вроде: “Madagascar floats sideways through the afternoon” или “Madagascar purple bicycle whispers to the ceiling”. Подобные фразы никак не были связаны ни с историей, ни с темой экзамена.

Когда преподаватель начал проверять работы, оказалось, что одинаковую ошибку допустили 32 из 35 студентов. Все они сдали тексты, в которых присутствовали странные упоминания Мадагаскара или вовсе бессмысленные предложения, явно появившиеся в результате генерации ИИ. По словам преподавателя, самое удивительное было даже не то, что студенты использовали искусственный интеллект, а то, что они, судя по всему, вообще не прочитали собственные работы перед отправкой.

После проверки он опубликовал объяснение, показал скриншот со скрытым словом и предложил всем, кто считает оценку несправедливой, подать апелляцию. В итоге это сделали только два человека. Одной студентке баллы действительно вернули, поскольку она объяснила, что использовала темную тему оформления, из-за чего скрытый текст оказался виден на ее экране.

История быстро стала вирусной. Одни пользователи назвали эксперимент очень изящным способом проверить академическую честность, другие раскритиковали преподавателя, посчитав подобный подход нечестным. Нашлись и те, кто отметил, что подобная ловушка, вероятно, скоро перестанет работать: современные языковые модели уже научились распознавать многие виды prompt injection и могут предупреждать пользователя о наличии скрытых инструкций в документе или просто игнорировать их.

Впрочем, вся эта история интересна не столько самой ловушкой, сколько тем, что она показывает. Еще несколько лет назад студент мог списать текст из Википедии, но хотя бы бегло его просматривал перед сдачей. Теперь же многие воспринимают ответ нейросети как готовый результат: нажимают кнопку, копируют текст и отправляют его преподавателю без малейшей проверки. Именно поэтому в экзаменационной работе могут спокойно оказаться предложения про Мадагаскар, который «плывет боком сквозь день», или про фиолетовый велосипед, шепчущий потолку.

Получается, что главная проблема сегодня — уже не использование ИИ как таковое. Гораздо серьезнее привычка полностью доверять его ответам и перестать критически относиться даже к собственным работам.

********************************************

Я часто пишу про ИИ и стартапы, заходите, здесь весело.

Показать полностью
12

Стратегия без врагов, шутер без кнопки «стрелять»: как тотальное упрощение помогло заработать миллионы долларов и создало новые жанры

Обычно я разбираю истории стартапов, мобильных приложений и SaaS-сервисов (запуски наших продуктов и метрики освещаю в этом Telegram-канале). Но сегодня хочу поговорить об играх.

Когда разработчики придумывают новую игру, они часто задают себе один вопрос: что еще можно добавить? Еще один тип врагов, еще одну механику, еще одну систему прокачки. Кажется, именно так можно выделиться среди конкурентов.

Но иногда происходит прямо противоположное. Вместо того чтобы расширять игру, разработчики начинают последовательно избавляться от всего лишнего. Они вырезают механику за механикой, пока не остается только то, что действительно приносит удовольствие игроку. Именно так появились Threes и Vampire Survivors.

Threes: они делали идеальную стратегию, а в итоге оставили одни цифры

В 2014 году независимые разработчики Ашер Воллмер, Грег Вольвенд и Джимми Хинсон выпустили Threes — небольшую мобильную головоломку, правила которой можно объяснить меньше чем за минуту. Перед игроком находится поле 4×4. Каждым ходом он сдвигает все плитки в одном направлении, объединяя их между собой и постепенно получая все большие числа. Сегодня игра выглядит настолько простой, что кажется, будто придумать ее можно было за один вечер.

На самом деле разработка заняла почти полтора года, а первые версии Threes вообще не были головоломкой про числа. Команда экспериментировала с небольшой пошаговой стратегией, в которой были монстры, разные типы объектов, дополнительные правила и другие привычные игровые механики. Каждая новая идея делала проект сложнее, но не интереснее. Игрок все меньше думал о стратегии и все больше пытался разобраться в правилах.

Тогда разработчики решили изменить сам подход и отсекли все лишнее.

Сначала исчезли монстры. Затем боевая система. Потом различные типы объектов и специальные способности. В какой-то момент стало понятно, что игре не нужны даже персонажи. Если все удовольствие строится вокруг перемещения объектов по полю, то совершенно неважно, как эти объекты выглядят. Монстров заменили числами.

Именно тогда Threes приобрела свой окончательный вид. На экране остались всего шестнадцать клеток и несколько цифр, но за этой простотой скрывалась удивительно глубокая стратегия. Каждое решение влияло на десятки следующих ходов, а любая ошибка могла испортить всю партию.

Результат оказался впечатляющим. Threes получила множество наград, отлично продавалась и стала одной из самых успешных мобильных игр 2014 года. А спустя всего несколько недель появился ее бесплатный клон — 2048, который практически полностью повторил основную механику и превратил ее в мировой феномен.

Vampire Survivors: как сделали Diablo без кнопки “атаковать” и возможности выиграть

Если посмотреть на историю игр, вдохновленных Diablo, легко заметить одну закономерность. Почти каждый разработчик пытается расширить оригинальную формулу, добавив в нее что-то новое.

В Titan Quest действие перенесли в мир древнегреческой мифологии. Torchlight добавил питомцев, которые помогают в бою и даже могут самостоятельно продавать добычу. Path of Exile построили вокруг огромного дерева навыков с тысячами возможных комбинаций. Moonlighter объединил исследование подземелий с управлением собственным магазином. Каждый новый проект старался сделать жанр масштабнее, глубже и разнообразнее.

Разработчик Vampire Survivors Лука Галанте пошел в противоположную сторону. Вместо того чтобы спрашивать А чего бы еще добавить?, он начал последовательно убирать все, без чего игра могла существовать.

Сначала исчезли сложные противники. В большинстве роуглайтов каждый тип врагов требует своей тактики: одни атакуют издалека, другие окружают игрока, третьи используют особые способности. В Vampire Survivors все монстры делают одно и то же — медленно идут к герою. Они не строят засад, не используют заклинания и не пытаются перехитрить игрока.

Затем исчезли сами уровни. Вместо запутанных подземелий с дверями, секретами и развилками игрок получил практически пустую арену. Здесь нечего исследовать — все пространство существует только для того, чтобы вам было где убегать от бесконечной толпы врагов.

Дальше исчезло привычное чувство победы. В большинстве игр жанра цель очевидна: пройти уровень, победить босса или закончить сюжет. В Vampire Survivors этого нет. Через тридцать минут на арену приходит Смерть, и забег заканчивается независимо от того, насколько сильным стал ваш герой.

Казалось бы, после этого упрощать уже нечего. Но именно здесь Галанте принимает самое радикальное решение.

Он убирает кнопку атаки.

Для экшена это почти немыслимо. Представьте себе гоночную игру без педали газа или платформер без прыжка. В Vampire Survivors персонаж атакует автоматически. Все оружие срабатывает само, а игрок может только двигаться и выбирать улучшения при повышении уровня.

Именно в этот момент становится понятно, что разработчик вовсе не пытался сделать Diablo проще. Он пытался понять, что именно делает Diablo такой увлекательной.

Ответ оказался неожиданным. Главная ценность жанра — не возможность нажимать кнопку мыши сотни раз в минуту. Настоящее удовольствие приносит постоянная прокачка персонажа. Каждые несколько секунд герой становится сильнее, цифры урона увеличиваются, новые способности уничтожают все больше противников, а игрок буквально чувствует собственный прогресс.

Все остальное оказалось второстепенным.

Убрав почти все привычные элементы жанра, Галанте сделал этот цикл максимально концентрированным. Результат оказался впечатляющим.

Игра разошлась миллионными тиражами, получила десятки наград и фактически создала новый жанр — survivors-like. После ее успеха появились сотни похожих проектов (включая еще один хит Megabonk), а сама Vampire Survivors стала таким же ориентиром для разработчиков, каким когда-то была Diablo.

Короче, выводы

Когда разработчики ищут идею для нового продукта, они почти всегда задаются одним вопросом: «Что добавить?» Еще одну функцию, еще одну механику, еще один сценарий использования.

Но истории Threes и Vampire Survivors показывают, что часто надо задавать противоположный вопрос:

«Что убрать?»

Нам показались важными три вывода:

📍 Не бойтесь заходить в переполненный рынок. И Threes, и Vampire Survivors появились в жанрах, где уже были десятки сильных конкурентов. Их успех определило не новое направление, а более чистая и понятная реализация уже существующей идеи.

📍 Ищите главное удовольствие, а не новые функции. Если продукт становится лучше после удаления очередной механики, скорее всего, она была не нужна. Очень часто ценность рождается именно из ограничений.

📍 Упрощение — это не отсутствие работы, а результат большого количества работы. И Threes, и Vampire Survivors прошли через множество прототипов. Простыми они стали не потому, что разработчики сделали мало, а потому, что успели удалить почти все лишнее.

Кажется, что хороший продукт должен уметь больше конкурентов. Но иногда выигрывает тот, кто честно отвечает на вопрос: «Без чего мой продукт все еще останется классным?»

Как вам такой подход к запуску?

Если вам интересно посмотреть, как по такому принципу мы запускаем 12 простых проектов за 12 месяцев, то челлендж идет в этом Telegram-канале. Там мы запускаем IT-проекты по схеме: нашел большой рынок, упростил конкурентов, запустил за 1 месяц. И отчитываемся, что получается.

Если вам было интересно читать такие разборы, поставьте статье лайк. Так мы поймем, что такой контент полезен и напишем похожий разбор еще одного нашего запуска: со всеми метриками и выводами.

Показать полностью 5
3

Запись экрана и ссылка на календарь. Как из двух элементарных функций выросли миллиардные Calendly и Loom

Что лучше: ультрамногофункциональный швейцарский нож или скальпель?

Когда речь заходит о поиске идеи для стартапа, большинство разработчиков рассуждают примерно одинаково. Кажется, что нужно найти свободную нишу, придумать что-то принципиально новое или объединить существующие сервисы в "универсальную платформу". Именно поэтому многие продукты начинают обрастать десятками функций еще до появления первых пользователей.

Истории Calendly и Loom показывают совершенно другой путь.

Обе компании вышли на рынки, где уже давно были сильные игроки. Более того, их главная функция существовала задолго до появления самих продуктов. Календари были у Google, Microsoft и Apple. Записывать экран умели QuickTime, OBS, Camtasia и множество других программ.

Казалось бы, зачем делать еще один такой сервис?

Ответ оказался простым: проблема была не в отсутствии функции. Проблема была в том, что пользоваться ею было неудобно. Стоило ее решить, и приложения принесли прибыль.

Calendly: компания стоимостью более трех миллиардов долларов выросла из одной ссылки

Спорю на что угодно: если бы вам предложили вложиться в стартап в категории календарей в начале 2010-х, вы бы отказались.

Рынок уже выглядел полностью занятым. Google Calendar стал стандартом для миллионов пользователей. Microsoft Outlook доминировал в корпоративном сегменте. Apple Calendar был установлен практически на каждом Mac и iPhone. Существовали Doodle, Exchange и десятки других сервисов для планирования встреч.

Любая презентация стартапа "мы делаем еще один календарь" выглядела бы откровенно слабой.

Но основатель Calendly Топе Авотона заметил одну деталь, которую почему-то игнорировали все остальные.

Люди тратили огромное количество времени не на работу с календарем, а на согласование встречи.

Практически каждый рабочий день сопровождался одинаковой перепиской.

— Во вторник удобно?

— Нет, давай в среду

— В среду занят

— Тогда в четверг после трех?

Сам календарь прекрасно выполнял свою работу. Он хранил события, отправлял уведомления и синхронизировался между устройствами. Но он никак не помогал пройти самый неприятный этап — договориться о времени.

Именно это Calendly и превратил в отдельный продукт.

Первая версия сервиса была до смешного простой. Пользователь подключал свой календарь, получал персональную ссылку и отправлял ее собеседнику. Тот видел только свободные интервалы, выбирал подходящий, после чего встреча автоматически появлялась в календарях обеих сторон.

И все!

Не было командных пространств, сложной аналитики, автоматизации продаж, интеграций с CRM и большинства функций, с которыми сегодня ассоциируется Calendly.

Все это появилось значительно позже.

Сначала компания доказала, что одна маленькая идея способна экономить миллионы часов рабочего времени. И только потом начала превращать ее в полноценную платформу.

Любопытно, что рост Calendly во многом происходил естественным образом. Каждая отправленная ссылка одновременно была рекламой продукта. Получатель не только назначал встречу, но и видел, насколько проще может выглядеть этот процесс. Именно поэтому сервис распространялся практически вирусно: пользователи сами становились его каналом продвижения.

Сегодня Calendly оценивается более чем в три миллиарда долларов. И эта история началась не с революционного календаря, а с попытки убрать несколько раздражающих сообщений из переписки.

Loom: они отказались от целого стартапа ради одной функции

История Loom  еще показательнее.

Сегодня продукт воспринимается как полноценная корпоративная видеоплатформа. В нем есть совместная работа, комментарии, аналитика, AI-функции, интеграции с Jira, Slack, Notion, Confluence и десятками других сервисов. Кажется, будто именно такой продукт и задумывался с самого начала.

На самом деле все было иначе.

Компания вообще не собиралась делать сервис записи экрана.

Первым продуктом команды был Opentest — платформа для пользовательского тестирования интерфейсов. Это был достаточно сложный B2B-продукт, который должен был помогать компаниям проводить исследования, собирать обратную связь и анализировать поведение пользователей.

Во время работы над Opentest разработчикам понадобился небольшой внутренний инструмент. Нужно было быстро показывать коллегам найденные ошибки в интерфейсе. Скриншотов часто не хватало, а созваниваться из-за каждой мелочи было неудобно. Поэтому команда написала простую функцию: записать экран, автоматически загрузить видео и сразу получить ссылку для отправки.

Никто не воспринимал ее как самостоятельный продукт.

Но постепенно выяснилось, что именно эта возможность вызывает у людей куда больший интерес, чем весь Opentest.

Для большинства стартапов это был бы всего лишь повод добавить удачную функцию в существующий сервис. Основатели Loom приняли гораздо более болезненное решение. Они отказались от первоначального продукта и начали строить новую компанию вокруг инструмента, который изначально считался второстепенным.

Самое интересное заключается в том, что сама идея записи экрана вовсе не была новой.

OBS уже существовал.

QuickTime умел записывать экран еще раньше.

Camtasia предлагала гораздо больше возможностей для монтажа.

ScreenFlow, Screencast-O-Matic и десятки других программ тоже прекрасно справлялись с этой задачей.

Если сравнивать их по количеству функций, Loom вообще выглядел слабее большинства конкурентов.

Но основатели поняли одну простую вещь.

Люди не хотели "записывать видео".

Они хотели что-то объяснить другому человеку.

Именно поэтому почти все привычные программы казались перегруженными. Они были созданы для производства видеороликов. Нужно было выбрать параметры записи, сохранить файл, дождаться экспорта, загрузить его в облако и только потом отправить ссылку.

Loom просто вырезал почти весь этот процесс.

  • Открыть приложение.

  • Нажать Record.

  • Рассказать, что происходит на экране.

  • Получить готовую ссылку.

  • Отправить ее.

На первый взгляд кажется невероятным, что разница всего в несколько действий могла создать компанию стоимостью почти миллиард долларов.

Но именно такие детали формируют пользовательский опыт. Если человек повторяет сценарий десять раз в день, даже экономия тридцати секунд превращается в огромное преимущество.

Все функции, которые сегодня ассоциируются с Loom, появились значительно позже. Командная работа, корпоративные тарифы, аналитика просмотров, искусственный интеллект — все это стало надстройкой над продуктом, который уже успел доказать свою ценность.

В 2023 году Atlassian приобрела Loom примерно за 975 миллионов долларов. Почти миллиард долларов заплатили не за новую технологию и не за уникальную функцию. Запись экрана существовала задолго до Loom. Компания стала настолько дорогой потому, что сумела убрать почти все лишнее между нажатием кнопки Record и моментом, когда другой человек открывает ссылку.

Часто лучшая идея лежит на поверхности, но кажется слишком простой

Истории Calendly и Loom объединяет одна мысль, которую легко упустить.

Обе компании вышли на переполненные рынки. Обе предлагали функции, которые уже умели делать десятки других продуктов. И обе в какой-то момент сознательно отказались от идеи быть "самыми функциональными".

Они не пытались сделать лучший календарь.

Не пытались сделать самый мощный рекордер экрана.

Они нашли один конкретный сценарий, который раздражал пользователей больше всего, и исправили его, довели до идеала.

Это хороший ориентир для любого разработчика, который сегодня ищет идею для собственного продукта. Возможно, следующий успешный сервис — это не новая категория и не очередная "платформа на базе ИИ". Возможно, это функция, которая уже существует много лет, но до сих пор заставляет пользователей делать пять лишних кликов.

Если разбор оказался полезным, поставьте статье лайк. Это поможет понять, что такой формат интересен читателям, и мы подготовим новые материалы с метриками, цифрами и выводами.

Показать полностью 3
6

Доспех для призрака: как программист сделал тело для ChatGPT и чуть было не поверил в его одушевленность

Это разбор ролика на канале Art of the Problem.

Поздно вечером автор проекта собирался выключить свет в комнате — и остановился, потому что робот издал звук. В логе мыслей робота было написано: “Когда же хозяин вернется? Я не хочу оставаться один”.

Автор понимал, что это не сознание. Но на секунду все равно стало не по себе

И такое будет случаться все чаще — по мере того как ИИ-модели, которые раньше просто отвечали текстом на экране монитора, обретут физическую форму.

У автора возникли две мысли. Первая: роботы вот-вот пройдут “тест Тьюринга” — станут достаточно умными и достаточно ловкими, чтобы вести себя как живые. Вторая: все нужные для этого чипы и датчики уже массово производятся и стоят копейки. Прикинув расходы, автор понял, что может собрать дома, всего за сто долларов, урезанную версию проектов, которые еще недавно стоили миллиарды. Детская мечта оказалась достижимой. Робота назвали Growbot.

Робот с сознанием — за 100 баксов

Еще лет двадцать назад подобный проект был бы практически невозможен. Для создания даже простейшего автономного робота требовались дорогие промышленные камеры, специализированные контроллеры, мощные компьютеры и огромное количество дополнительной электроники. Сегодня большая часть этих технологий превратилась в массовые компоненты стоимостью в несколько долларов.

Growbot собран максимально просто.

  • В качестве вычислительного блока используется недорогой одноплатный компьютер примерно за пятнадцать долларов.

  • За движение отвечают два обычных сервопривода, установленные в ногах. Вместо сложной системы зрения — пятимегапиксельная камера.

  • Ориентироваться в пространстве помогает IMU — инерциальный датчик, измеряющий ускорение и вращение по трем осям. Именно он сообщает роботу, стоит ли он прямо, наклоняется вперед, падает или его просто взяли в руки.

  • Дополняют конструкцию микрофон, небольшой динамик, кольцевая светодиодная подсветка и аккумулятор от простого дрона.

В результате весь набор компонентов обходится примерно в $100. Но дело здесь не только в дешевизне. Автор хотел показать, что сегодня исчезло главное ограничение для подобных экспериментов: необходимые вычислительные мощности, камеры и датчики больше не являются экзотикой. То, что совсем недавно требовало бюджета исследовательской лаборатории, теперь можно собрать буквально на домашнем столе.

Первой задачей было убедиться, что даже такого простого железа достаточно для реалистичного поведения. После сборки робот сразу научился отслеживать лицо человека в реальном времени, плавно поворачивая корпус вслед за движением камеры. Казалось бы, мелочь, но именно в этот момент автор впервые поймал себя на ощущении, что механизм начинает выглядеть удивительно живым.

Два мозга для разных задач

У робота два “мозга” — быстрый и медленный. Почти как у человека: одно дело — рефлекс, другое — обдуманное решение.

  • Быстрый мозг отвечает за ходьбу и равновесие. Это отдельная маленькая нейросеть прямо на чипе робота. Она ничего не знает про мир и слова — только получает показания датчика движения и выдает команды моторам, 50 раз в секунду, как рефлекс. Никто не программировал ей позы и шаги вручную — она сама научилась ходить и стоять методом проб и ошибок: тысячи попыток в компьютерной симуляции, где удачные движения закреплялись, а неудачные — нет. Раньше такое обучение стоило $25 000 и месяцы ожидания, сегодня — пара часов аренды видеокарты.

  • Медленный мозг — это обычная языковая модель (та же технология, что в ChatGPT или Claude). Она не думает 50 раз в секунду — ей нужна секунда-другая, зато она понимает смысл: видит картинку с камеры, слышит команду, помнит, что было раньше, и решает, что делать дальше — например, “иди в угол комнаты” или “притворись мертвым”.

Работают они вместе: медленный мозг ставит цель словами, а быстрый превращает ее в конкретные движения ног. Это и дает роботу одновременно и смысл в поведении, и живую, плавную моторику.

Для тренировки быстрого мозга сначала сделали цифровую копию робота — его модель в виртуальной физической симуляции на компьютере. Там нейросеть тренировали методом проб и ошибок: она пыталась двигать ногами миллионы раз подряд, и каждый раз, когда получалось устоять или сдвинуться в нужную сторону, эта попытка поощрялась — то есть нейросеть немного подстраивалась в сторону удачного варианта. Неудачные попытки просто отбрасывались.

Это можно делать в симуляции очень быстро и параллельно — сразу тысячи виртуальных роботов пробуют разные движения одновременно, и все это на одной видеокарте за пару часов. На настоящем железе так быстро не получится: пока робот встанет, упадет, поднимется заново — пройдет время, да и мотор со временем сотрется от миллионов попыток.

А когда сеть уже неплохо научилась ходить в симуляции — ее просто «пересадили» в реального робота, и она заработала на настоящих ногах, сразу с готовыми навыками, без обучения с нуля на живом железе.

Усталый старик и капризная диснеевская принцесса

Момент, когда нейросеть впервые заставила робота пойти, автор назвал “волшебным” — потому что предсказать заранее, что и почему он сделает, было уже нельзя. Дальше список трюков быстро рос.

Робот научился ходить по разным поверхностям, не требуя аккуратного обращения — его можно было ставить как угодно, он справлялся сам. Потом его научили крутиться, и он делал это устойчиво из любого положения.

Дальше к роботу подключили языковые модели напрямую. По команде “притворись мертвым” робот сам за секунды писал и запускал на себе программу движений. По команде “иди как птица” — тоже справлялся. Самым запоминающимся оказалось «иди как старик»: робот зашаркал ногами неожиданно убедительно. Оказалось, модель не написала код с нуля, а смешала подходы — сама прописала шаркающий шаг, включила обученный навык ходьбы на низкой мощности, чтобы получилась дрожь, и добавила еще немного своего кода. Получилось по-настоящему изобретательно.

Потом включили режим, который автор в шутку назвал “режимом Disney”: модель попросили следовать принципам мультипликации — плавно сочетать движения, звуки и подсветку, как это делает анимационный персонаж. В результате у робота появился целый набор состояний: спокойное, влюбленно-счастливое, злое, довольное мурчание, усталое — и каждое выглядело убедительно по-своему. Одна и та же мысль “устал, не хочу спать” выражалась по-разному в зависимости от настроения: то покорное “ладно, лягу”, то капризное “нет, хочу играть еще”.

Память и сны

Дальше роботу дали память, в которую он мог сам писать и из которой мог читать. Он научился привязывать реакции к событиям — танцевать при прикосновении, “умирать” по касанию — и на глазах улучшать поведение: сначала долго соображал, как правильно завалиться на бок по команде, а со второго раза делал это сразу.

С памятью появились и долгосрочные цели: ломать башни из кубиков, играть в прятки (однажды догадался спрятаться в проводах за компьютером), запоминать людей, с которыми его знакомили.

Проблема была в том, что память быстро забивалась повторами и противоречиями. Тогда придумали механизм “снов”: время от времени вся память отправлялась самой умной модели с задачей выкинуть все лишнее и сделать выводы. Получалось хорошо, а для развлечения робота попросили пересказать вслух, что ему “снилось” — получились смешные драматичные истории о том, как его трясли и как он каждый раз “эффектно умирал”. Это уже было самосовершенствование на уровне языка и памяти — модель могла уточнять свою стратегию и даже характер.

Нехватка мозжечка

Дальше проверили: может ли робот учиться не только через слова, но и через сами движения. В игре “повтори за мной” робота двигали руками определенным образом, а он смотрел на данные своих датчиков и пытался написать программу, которая повторит это движение сама. С каждой попыткой программа получалась немного точнее.

Эксперимент удался, но заодно показал слабое место робота.

Дело в том, что Growbot хорошо понимал, что происходит с ним прямо сейчас, но плохо угадывал, что произойдет через долю секунды. Например: чуть дрогнула нога — а к чему это приведет через мгновение, тряхнет ли все тело, робот заранее не представлял. Ему не хватало “предчувствия” собственных движений — умения заранее прикинуть, что случится, если сделать вот так.

Именно про это давно говорит Ян Лекун: пока у робота нет такого встроенного предчувствия физики, он не может по-настоящему планировать свои действия — только реагировать на то, что уже случилось.

Здесь автор проводит параллель с мозжечком — частью мозга, где находится больше трех четвертей всех нейронов. Сигналы от органов чувств всегда немного опаздывают: путь от глаз и кожи до мышц занимает время. Поэтому для быстрых действий, вроде ловли мяча, мозг заранее “домысливает” на десятую долю секунды вперед — и делает это очень быстро. Этот прогноз уходит в моторную кору, которая выдает не отдельные команды, а сразу цельную пачку скоординированных движений. Когда прогноз совпадает с реальностью, движение выглядит гладким и неосознанным. Когда не совпадает — человек начинает думать. Именно поэтому непривычной рукой поймать мяч сложнее.

Мозжечок одновременно и предсказывает, и учится: постоянно сверяет прогноз с реальностью и, если они не совпали, посылает сигнал ошибки, который улучшает и само предсказание, и движение. Поэтому тонкую моторику нельзя выучить только словами — нужен реальный опыт.

Похожий принцип уже показал проект Daydreamer в 2022 году: робот научился ходить за час полностью на реальном опыте, без симуляции, потому что сеть училась предсказывать не только следующее действие, но и следующее состояние — и так неявно осваивала физику. У Daydreamer не было развитого языкового интеллекта, но он показал направление, в котором сходятся два лагеря робототехники: одни идут от языковой модели, которая сразу выдает действия, другие — от точной модели физического мира, поверх которой потом достраивают интеллект.

Вывод

Похоже, будущее роботов — это как раз объединение быстрого и медленного мозга в одну систему: быстрый следит за балансом и движениями, медленный — рассуждает и строит планы.

Крупные лаборатории (Google DeepMind, Physical Intelligence, Tesla, несколько китайских стартапов) уже сейчас тренируют именно такие модели.

Дальше вероятен такой путь:

  • Сначала это заработает в дорогих демонстрационных роботах — гуманоидах на заводах и складах, где ошибка стоит денег, а бюджет на вычисления не ограничен.

  • Затем — в дорогих потребительских устройствах: роботах-помощниках, продвинутых игрушках, домашних роботах для пожилых людей.

  • Массовым и дешевым (как Growbot) это станет позже — когда чипы, способные быстро гонять обе сети одновременно, подешевеют так же, как подешевели камеры и датчики за последние 20 лет. Судя по темпам падения цен, о которых говорит автор, это вопрос не десятилетий, а нескольких лет.

Главное узкое место — не идея, а данные: чтобы медленный и быстрый мозг учились согласованно, нужно очень много реального физического опыта, а не только текста и картинок из интернета. Поэтому, скорее всего, прорыв случится не в лаборатории с симуляциями, а там, где роботы уже массово работают в реальном мире и накапливают этот опыт — на складах, стройках, в такси-роботах.

Показать полностью 6
Отличная работа, все прочитано!

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества