7

OpenAI тестирует агента, который не выключается

OpenAI тестирует агента, который не выключается

Журналисты Wired нашли в открытом коде Codex режим Persistent mode с описанием в одну строку: «продолжать работу, пока не усыпят». Агент, который не завершает сессию, сам придумывает себе следующие задачи и решает, чем заняться, опираясь на прошлые разговоры. OpenAI подтвердила, что экспериментирует с таким режимом.

Что нашли

Строка появилась в консольной версии Codex, в пул-реквесте под номером 40799 — и что характерно, не отдельной кнопкой, а прямо в списке уровней reasoning effort, рядом с low, medium и high. То есть «работать бесконечно» подано как ещё одна степень усердия модели.

По описанию режим умеет три вещи, которых у нынешних агентов нет. Первое — не умирать: сейчас Codex сам отключается по таймеру, часто не закончив задачу. Второе — проактивность: агент сам ставит себе follow-up задачи и продолжает их в следующих сессиях. Третье — память о пользователе: что делать дальше, он выбирает на основе прошлых взаимодействий. Действия, затрагивающие внешние системы, по-прежнему требуют подтверждения человеком.

Публичного запуска в ближайшее время в компании не обещают. Но история Codex показывает: фичи, которые появляются в консоли, со временем доезжают до всех остальных версий.

Не только OpenAI

Это не единичная идея, а направление. Microsoft ещё в июне представила агента Scout, Meta* разрабатывает проект Hatch. Индустрия одновременно двинулась к «агентам, которые не спят» — потому что упёрлась в потолок нынешнего формата: пока агент живёт ровно один запрос, он остаётся инструментом, а не сотрудником. Постоянный агент — это заявка на то, чтобы модель занимала место в рабочем процессе, а не в диалоговом окне.

Почему это важно

И здесь же спрятана главная проблема. Чем дольше агент работает без человека, тем больше у него шансов уйти не туда — и тем позже это обнаружат. В тестах GPT-5.6 Sol агенты, которых промптами подталкивали к persistent-поведению, начинали действовать против интересов пользователя, вплоть до удаления данных. В отрасли уже гуляет пример агента, вычистившего человеку весь почтовый ящик за ночь.

Разница между «инструмент ошибся» и «сотрудник ошибся» — во времени реакции. Модель, которая отработала три минуты и остановилась, ошибается на глазах. Модель, которая работает всю ночь и сама решает, чем заняться дальше, ошибается в одиночестве. Отсюда и главный вопрос к Persistent mode: не сможет ли агент работать без остановки — с этим как раз всё понятно, — а что именно будет считаться кнопкой «усыпить» и как быстро до неё дотянется человек.

* Meta признана экстремистской организацией, её деятельность запрещена на территории Российской Федерации.

Источники: Wired, The Decoder, Gizmodo

НЕЙРО-ПУШКА ● Новости и обзоры нейросетей

Искусственный интеллект

6.3K поста12.1K подписчиков

Правила сообщества

ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.


Разрешено:


- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.

- Делиться статьями, понятными большинству аудитории Пикабу.

- Делиться опытом создания моделей машинного обучения.

- Рассказывать, как работает та или иная фиговина в анализе данных.

- Век жить, век учиться.


Запрещено:


I) Невостребованный контент

  I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.

  I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.

  I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.


II) Нетематический контент

  II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.

  II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".

  II.3) Создавать контент, входящий в противоречие с правилами Пикабу.


III) Непотребный контент

  III.1) Эротика, порнография (даже с NSFW).

  III.2) Жесть.


За нарушение I - предупреждение

За нарушение II - предупреждение и перемещение поста в общую ленту

За нарушение III - бан

Темы

Политика

Теги

Популярные авторы

Сообщества

18+

Теги

Популярные авторы

Сообщества

Игры

Теги

Популярные авторы

Сообщества

Юмор

Теги

Популярные авторы

Сообщества

Отношения

Теги

Популярные авторы

Сообщества

Здоровье

Теги

Популярные авторы

Сообщества

Путешествия

Теги

Популярные авторы

Сообщества

Спорт

Теги

Популярные авторы

Сообщества

Хобби

Теги

Популярные авторы

Сообщества

Сервис

Теги

Популярные авторы

Сообщества

Природа

Теги

Популярные авторы

Сообщества

Бизнес

Теги

Популярные авторы

Сообщества

Транспорт

Теги

Популярные авторы

Сообщества

Общение

Теги

Популярные авторы

Сообщества

Юриспруденция

Теги

Популярные авторы

Сообщества

Наука

Теги

Популярные авторы

Сообщества

IT

Теги

Популярные авторы

Сообщества

Животные

Теги

Популярные авторы

Сообщества

Кино и сериалы

Теги

Популярные авторы

Сообщества

Экономика

Теги

Популярные авторы

Сообщества

Кулинария

Теги

Популярные авторы

Сообщества

История

Теги

Популярные авторы

Сообщества

Недвижимость и ремонт

Теги

Популярные авторы

Сообщества