OpenAI тестирует агента, который не выключается
Журналисты Wired нашли в открытом коде Codex режим Persistent mode с описанием в одну строку: «продолжать работу, пока не усыпят». Агент, который не завершает сессию, сам придумывает себе следующие задачи и решает, чем заняться, опираясь на прошлые разговоры. OpenAI подтвердила, что экспериментирует с таким режимом.
Что нашли
Строка появилась в консольной версии Codex, в пул-реквесте под номером 40799 — и что характерно, не отдельной кнопкой, а прямо в списке уровней reasoning effort, рядом с low, medium и high. То есть «работать бесконечно» подано как ещё одна степень усердия модели.
По описанию режим умеет три вещи, которых у нынешних агентов нет. Первое — не умирать: сейчас Codex сам отключается по таймеру, часто не закончив задачу. Второе — проактивность: агент сам ставит себе follow-up задачи и продолжает их в следующих сессиях. Третье — память о пользователе: что делать дальше, он выбирает на основе прошлых взаимодействий. Действия, затрагивающие внешние системы, по-прежнему требуют подтверждения человеком.
Публичного запуска в ближайшее время в компании не обещают. Но история Codex показывает: фичи, которые появляются в консоли, со временем доезжают до всех остальных версий.
Не только OpenAI
Это не единичная идея, а направление. Microsoft ещё в июне представила агента Scout, Meta* разрабатывает проект Hatch. Индустрия одновременно двинулась к «агентам, которые не спят» — потому что упёрлась в потолок нынешнего формата: пока агент живёт ровно один запрос, он остаётся инструментом, а не сотрудником. Постоянный агент — это заявка на то, чтобы модель занимала место в рабочем процессе, а не в диалоговом окне.
Почему это важно
И здесь же спрятана главная проблема. Чем дольше агент работает без человека, тем больше у него шансов уйти не туда — и тем позже это обнаружат. В тестах GPT-5.6 Sol агенты, которых промптами подталкивали к persistent-поведению, начинали действовать против интересов пользователя, вплоть до удаления данных. В отрасли уже гуляет пример агента, вычистившего человеку весь почтовый ящик за ночь.
Разница между «инструмент ошибся» и «сотрудник ошибся» — во времени реакции. Модель, которая отработала три минуты и остановилась, ошибается на глазах. Модель, которая работает всю ночь и сама решает, чем заняться дальше, ошибается в одиночестве. Отсюда и главный вопрос к Persistent mode: не сможет ли агент работать без остановки — с этим как раз всё понятно, — а что именно будет считаться кнопкой «усыпить» и как быстро до неё дотянется человек.
* Meta признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.
Источники: Wired, The Decoder, Gizmodo

Искусственный интеллект
6.3K поста12.1K подписчиков
Правила сообщества
ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.
Разрешено:
- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.
- Делиться статьями, понятными большинству аудитории Пикабу.
- Делиться опытом создания моделей машинного обучения.
- Рассказывать, как работает та или иная фиговина в анализе данных.
- Век жить, век учиться.
Запрещено:
I) Невостребованный контент
I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.
I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.
I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.
II) Нетематический контент
II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.
II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".
II.3) Создавать контент, входящий в противоречие с правилами Пикабу.
III) Непотребный контент
III.1) Эротика, порнография (даже с NSFW).
III.2) Жесть.
За нарушение I - предупреждение
За нарушение II - предупреждение и перемещение поста в общую ленту
За нарушение III - бан