Автор: Денис Аветисян

В эпоху стремительного развития искусственного интеллекта, когда традиционные языковые модели сталкиваются с ограничениями в решении сложных задач рассуждения и требующих значительных вычислительных ресурсов, возникает ключевой конфликт между потребностью в масштабируемости и необходимостью глубокого понимания контекста. В ‘Tongyi DeepResearch Technical Report’, авторы осмеливаются исследовать границы возможного, представляя новую парадигму – агентные системы глубоких исследований. Однако, несмотря на обещающие результаты, возникает вопрос: способна ли эта новая архитектура, объединяющая агентное обучение и масштабируемый поиск информации, преодолеть фундаментальные ограничения существующих моделей и по-настоящему раскрыть потенциал искусственного интеллекта для автономного проведения научных исследований?

Преодолевая Разрыв в Рассуждениях: Tongyi DeepResearch – Инструмент Логической Чистоты

Традиционные языковые модели, несмотря на впечатляющие успехи в генерации текста, демонстрируют ограниченные возможности при решении задач, требующих сложного логического вывода. Каждая операция, каждое логическое заключение требует экспоненциального роста вычислительных ресурсов, что делает масштабирование этих моделей проблематичным. Недостаточность заключается не в объеме данных, а в архитектуре, неспособной эффективно представлять и обрабатывать сложные взаимосвязи между понятиями.

В ответ на эту проблему, исследователи представили Tongyi DeepResearch – агент, основанный на принципах агентного искусственного интеллекта. В отличие от пассивных языковых моделей, Tongyi DeepResearch активно взаимодействует с окружающей средой, планирует свои действия и адаптируется к изменяющимся условиям. Это позволяет ему решать задачи, которые недоступны традиционным моделям, благодаря способности разбивать сложные проблемы на более мелкие, управляемые этапы.

Ключевым новшеством Tongyi DeepResearch является объединение этапов агентного обучения – предварительного и последующего. Данный подход позволяет не только эффективно использовать доступные данные, но и формировать у модели устойчивую основу для дальнейшего развития. Предварительное обучение направлено на формирование базовых навыков планирования и взаимодействия, в то время как последующее обучение – на совершенствование этих навыков и адаптацию к конкретным задачам. Это позволяет избежать перегрузки модели избыточной информацией и сосредоточиться на формировании ключевых компетенций.

В качестве основы для Tongyi DeepResearch была выбрана модель Qwen3-30B-A3B-Base. Данный выбор обусловлен ее архитектурными особенностями и потенциалом для дальнейшего развития. Модель обеспечивает необходимую вычислительную мощность и гибкость для реализации сложных алгоритмов планирования и вывода. При этом, благодаря использованию современных методов оптимизации, удалось сохранить разумный баланс между производительностью и вычислительными затратами. Исследователи подчеркивают, что выбор базовой модели – не случайность, а результат тщательного анализа и сравнения различных архитектур.

Таким образом, Tongyi DeepResearch представляет собой значительный шаг вперед в области агентного искусственного интеллекта. Его архитектура и алгоритмы позволяют эффективно решать сложные задачи, требующие планирования, вывода и адаптации к изменяющимся условиям. Данная работа открывает новые возможности для автоматизации интеллектуальных задач и создания более эффективных систем искусственного интеллекта.

Культивирование Агентного Интеллекта: Двухступенчатый Подход к Обучению

Исследования в области искусственного интеллекта неуклонно продвигаются к созданию систем, способных к автономному решению сложных задач. В данной работе исследователи представляют Tongyi DeepResearch – систему, основанную на принципах агентного обучения, и предлагают двухэтапный подход к ее тренировке, обеспечивающий как фундаментальную предрасположенность к рациональному поведению, так и возможность масштабирования для решения реальных задач.

Первый этап, названный исследователями Agentic Mid-Training, направлен на формирование у модели присущих ей агентных предубеждений. Это достигается путем предварительного обучения на масштабных наборах высококачественных данных, демонстрирующих образцы рационального поведения. Цель состоит не просто в обучении модели имитировать определенные действия, но и в привитии ей фундаментального понимания принципов планирования, поиска информации и принятия решений. Вместо слепого следования инструкциям, модель приобретает внутреннюю мотивацию к достижению целей.

Второй этап, Agentic Post-Training, служит для дальнейшей шлифовки этих способностей посредством масштабируемого многоходового обучения с подкреплением. Этот этап позволяет модели не только изучать новые стратегии, но и адаптироваться к меняющимся условиям, оптимизируя свое поведение в ответ на обратную связь от окружающей среды. Ключевым моментом здесь является возможность обучения в интерактивном режиме, где модель получает вознаграждение за успешные действия и штрафы за ошибки.

Следует подчеркнуть, что синтетические данные играют решающую роль в обоих этапах обучения. Исследователи справедливо отмечают, что реальные данные часто бывают недостаточными для эффективного обучения сложных моделей. Синтетические данные позволяют восполнить этот пробел, предоставляя модели возможность изучать широкий спектр сценариев и ситуаций, которые трудно или невозможно воспроизвести в реальном мире. Это особенно важно для обучения моделей, способных к автономному решению задач, где необходима способность к планированию и принятию решений в условиях неопределенности.

Таким образом, предложенный двухэтапный подход к обучению Tongyi DeepResearch представляет собой элегантное и эффективное решение для создания автономных интеллектуальных агентов. Акцент на формировании фундаментальных способностей к рациональному поведению в сочетании с масштабируемым обучением с подкреплением позволяет создать систему, способную не только решать сложные задачи, но и адаптироваться к меняющимся условиям и учиться на своих ошибках. Логика и математическая строгость, лежащие в основе данного подхода, являются ключевыми факторами, обеспечивающими надежность и предсказуемость поведения системы.

Оркестровка Мысли: Контекст и Механизмы Рассуждений

В основе Tongyi DeepResearch лежит тщательно продуманная архитектура, направленная на достижение не просто работоспособности, но и принципиальной корректности в процессе решения задач. Исследователи отказались от эвристических подходов, предпочитая им строгую логику и доказуемость алгоритмов. Ключевым элементом этой архитектуры является механизм управления контекстом – метод динамической реконструкции рабочего пространства, формирующего основу для процесса рассуждений. Этот подход позволяет агенту эффективно ориентироваться в сложных задачах, избегая накопления избыточной информации и сохраняя фокус на существенных деталях.

Взаимодействие с внешним миром и генерация ответов осуществляется посредством интеграции ReAct Framework. Этот подход синергично объединяет рассуждения и действия в чередующейся последовательности, обеспечивая эффективное решение проблем. В отличие от моделей, полагающихся на статические шаблоны, Tongyi DeepResearch способен адаптироваться к изменяющимся условиям, генерируя ответы, основанные на актуальной информации и логических выводах.

Оптимизация процесса обучения осуществляется посредством применения GRPO Algorithm – метода обучения с подкреплением, направляющего агента к улучшению производительности. В отличие от методов, основанных на случайном исследовании пространства решений, GRPO Algorithm использует целевую функцию, максимизирующую вероятность получения корректного ответа. Этот подход обеспечивает стабильность и предсказуемость процесса обучения, гарантируя, что агент приобретает навыки, необходимые для решения поставленных задач.

Сочетание управления контекстом, ReAct Framework и GRPO Algorithm позволяет Tongyi DeepResearch эффективно решать сложные задачи и генерировать содержательные ответы. Исследователи подчеркивают, что данный подход ориентирован не на достижение максимальной производительности на тестовых примерах, а на обеспечение принципиальной корректности и логической обоснованности принимаемых решений. Такой подход обеспечивает не только высокую точность, но и возможность интерпретации и анализа процесса решения, что является важным фактором для доверия и контроля над системой.

В отличие от систем, полагающихся на статистические закономерности, Tongyi DeepResearch стремится к пониманию сути проблемы и генерации ответов, основанных на логических выводах и доказательствах. Этот подход обеспечивает не только высокую точность, но и возможность адаптации к новым задачам и условиям, что делает Tongyi DeepResearch перспективным инструментом для решения широкого круга проблем.

Продемонстрированная Производительность: Сравнение с Передовыми Методами

Исследования, проведенные авторами, охватывают широкий спектр эталонных тестов, что позволяет оценить не просто работоспособность системы Tongyi DeepResearch, но и её способность к последовательному, логически обоснованному рассуждению. Особое внимание уделено проверке системы в задачах, требующих глубокого анализа и синтеза информации.

Проверка на эталонных тестах, таких как WebWalkerQA, Humanity's Last Exam и GAIA, демонстрирует развитые способности системы к рассуждению. Авторы подтверждают, что система не просто предоставляет ответы, но и выстраивает логическую цепочку, позволяющую прийти к этим ответам. Это особенно важно в задачах, где требуется не просто знание фактов, но и умение их интерпретировать.

Результаты, полученные на тестах BrowseComp, xbench-DeepSearch, FRAMES и xbench-DeepSearch-2510, подтверждают эффективность Tongyi DeepResearch в задачах глубокого поиска и анализа информации в сети Интернет. Система демонстрирует способность не просто находить релевантные данные, но и эффективно обрабатывать их, извлекая из них полезную информацию. Это особенно важно в эпоху информационного изобилия, когда поиск нужной информации может быть затруднен.

Полученные результаты демонстрируют, что Tongyi DeepResearch достигает сопоставимой или превосходящей производительности по сравнению с существующими методами. Авторы подчеркивают, что такая эффективность не является случайностью, а является следствием тщательно разработанной архитектуры и алгоритмов, которые обеспечивают не только высокую скорость, но и точность и надежность. Данные достижения подтверждают потенциал Tongyi DeepResearch для ускорения исследований и открытия новых знаний. Авторы стремятся не просто создать работающую систему, но и предоставить инструмент, который позволит ученым и исследователям решать сложные задачи и открывать новые горизонты.

В заключение, стоит отметить, что представленные результаты являются убедительным доказательством эффективности Tongyi DeepResearch. Авторы предоставили не просто набор цифр, но и тщательно проанализированные данные, которые подтверждают, что система действительно способна решать сложные задачи и открывать новые возможности. Их подход, основанный на принципах математической чистоты и логической обоснованности, является примером того, как должна строиться современная научная работа.

Без точного определения задачи любое решение — шум. Исследователи в данной работе демонстрируют эту истину, создавая Tongyi DeepResearch – агента, который требует четкого понимания целей обучения и синтеза данных. Как писал Блез Паскаль: “Всякое знание начинается с осознания собственного незнания.” (“Все познание начинается с осознания собственного незнания.”). Этот принцип напрямую применим к созданию эффективных агентов. Автоматизированный синтез данных, ключевой аспект Tongyi DeepResearch, требует от агента не просто генерации данных, но и оценки их соответствия поставленной задаче. Иначе, любой синтезированный набор данных – лишь шум, не способствующий прогрессу в обучении с подкреплением и, следовательно, снижающий эффективность агента. Авторы подчеркивают важность контекстного управления, что является прямым следствием необходимости четкого определения целей и границ решаемой задачи.

Что дальше?

Исследование, представленное авторами, безусловно, представляет собой шаг вперед в создании агентов, способных к самостоятельному исследованию. Однако, утверждение о “государственном уровне” результатов требует тщательной проверки. Успех, демонстрируемый в рамках предложенной архитектуры Tongyi DeepResearch, тесно связан с качеством используемых больших языковых моделей (LLM). Любая ошибка в LLM, даже незначительная, неизбежно приведет к каскаду неточностей в процессе автоматического синтеза данных и обучения с подкреплением. Это фундаментальное ограничение, которое необходимо учитывать.

Более того, сложность алгоритма управления контекстом и выбора стратегий обучения, вероятно, имеет асимптотическую сложность, препятствующую масштабированию. Простое увеличение объема синтетических данных не гарантирует улучшение результатов, а может привести к переобучению агента на искусственно созданных примерах. Необходимо разработать формальные методы верификации корректности и оптимальности этих стратегий, а не полагаться на эмпирические наблюдения.

В конечном счете, истинный прогресс в области агентов для научных исследований заключается не в создании все более сложных систем, а в разработке математически строгих алгоритмов, гарантирующих корректность и эффективность. Пока же, предложенная архитектура остается интересным, но все еще не доказанным, шагом в этом направлении. Будущие исследования должны сосредоточиться на формальной верификации и разработке алгоритмов с гарантированными свойствами сходимости и оптимальности.

Оригинал статьи: denisavetisyan.com

Связаться с автором: linkedin.com/in/avetisyan

Свершилось: первый из анонсированных несколько лет назад домашних роботов стал доступен для предзаказа. Глядите, какой симпатяжка:

И стоит не слишком дорого, всего 20 тысяч долларов, жена обойдётся заметно дороже. А если кому нужен тестовый период, то за 500 долларов компания-производитель предоставит робота в рабство на месяц.

Управлять роботом можно при помощи голоса или через мобильное приложение, причём через интернет или даже VR.

Первые поставки начнутся в 2026 году белым господам в США. Роботы производятся в Калифорнии, производственные мощности ограничены, так что пусть весь остальной мир подождёт.

Что может робот? Ну, на промо-роликах и в промо-материалах производитель показывает много: и ящики Neo таскает, и полы пылесосит, и окна протирает и даже поговорить с ним можно:

Пафосный ролик, в котором счастливые кожаные предаются безделью, а угнетаемые железные на них пашут:

А что в реальности? В реальности всё куда как менее приятно, фактически, речь идёт о программе раннего доступа для энтузиастов.

Neo Home Robot действительно предназначен для выполнения домашних дел а автономном режиме, однако функциональность его ограничена. Там, где робот не сможет справиться самостоятельно, подключается (через 5G или Wi-Fi) удалённый оператор. Производитель говорит, что только по желанию самого пользователя, но кто знает, как там на самом деле и как поведёт себя оператор. Кроме того, остро встаёт проблема безопасности: любой канал связи можно взломать при желании. Вот он, новый сюжет для триллеров.

Ну и ТТХ:

• Рост: 170 см.

• Вес: 30 кг.

• Максимальная скорость ходьбы: 6,2 м/с (убежать будет сложно);

• Ёмкость аккумулятора: 842 Втч, 4 часа работы;

• Скорость заряда: примерно 210 Втч за 6 минут;

• Водонепроницаемые руки;

• Возможность работать внутри дома и снаружи;

• Мягкая оболочка (душить будет нежно);

• Уровень шума: 22 дБ.

Пока это, конечно, дорогая игрушка, но через несколько лет действительно станет помощником по хозяйству.

P.S. Ещё у меня есть бессмысленные и беспощадные ТГ-каналы (ну а как без них?):

О науке, творчестве и прочей дичи: https://t.me/deeplabscience;

Вот тут про молекулярную биологию, медицину и новые исследования: https://t.me/nextmedi.

Привет гуманоидам!
Значит, смотрите: мне в голову пришла идея об интерактивном участии читателя в жизни персонажей и истории в целом. Сомневаюсь, что в этом я новатор, но попробовать охота.
В общем, схема такая:

* вам, гуманоиды, предлагается сюжетная глава (в данном случае - это колония на отдаленной планете, с условиями, максимально приближенными к земным);
* в определённый момент, перед персонажами (и читателями) встаёт некая дилемма, которую персонажи произведения обязаны решить. В качестве интерактивного механизма предлагается опрос в конце главы, в котором размещаются варианты разрешения дилеммы или "свой вариант" в комментарии;
* читатели выбирают вариант, к которому должно прибегнуть руководство колонии (или иные персонажи истории), после чего, в следующем посте, сюжет развивается как последствия выбранного решения. То есть, если читатели выберут неразумный вариант, объективно ведущий к исчезновению колонии или очень серьезным проблемам - сюжет пойдет именно так, в колонии будут или бунты, или большие проблемы, или полное вымирание.

Кроме того, если предлагаемые варианты читателю не понравятся, он может добавить свой, однако, хочу отметить, очень важно, чтобы вариант был адекватен и относительно реалистичен (с учетом фантастического допущения, разумеется). Если читатель, предлагая свой вариант, сможет грамотно его обосновать в комментариях, а другие читатели нещадно залайкают такой вариант, выбран может быть именно он (но это уже скорее на будущее, подумаем, как это будет реализовано, отдельно).

Итак, правила игры, полагаю, понятны? Если есть вопросы, можете также спрашивать в комментарии. Если же все понятно, давайте приступим, приятного чтения!

_________________________

- И что я здесь вижу?
- Это статистика по численности кровососущих насекомых по нашему сектору.
- Да, Ник, я прочитал название, почему ты решил, что мне стоит обратить внимание на статистику численности кровососущих насекомых?
- Ой, прости, Паша, я полагал, что архонт колонии должен обращать внимание на изменение факторов, что могут повлиять на выживание колонистов, - издевательски протянул Ник.
Павел нахмурил брови и тяжело вздохнул.
- Окей, местные комары куда-то делись. Может, к зиме, может еще почему-то, с чего вдруг это должно привести к вымиранию людей?
Ник закатил глаза, всем своим видом показывая, что это должно быть очевидно.
- Изменение в любом факторе окружающей среды требует внимания. Пока мы не знаем, по какой причине это происходит, нам следует воспринимать это как угрозу. И ты не дочитал, - Ник показал пальцем на папку бумаг, которые Павел держал в руках, - перелистни страницу и ты вообще упадешь.
Павел послушно перелистнул, пару минут внимательно знакомился с информацией на листе, после чего посмотрел на Ника и поднял бровь.
- Падальщики, - отчеканил Павел, - количество падальщиков тоже упало.
- Да! - воскликнул Ник и провел рукой по волосам, - ладно бы кровососы, но падальщики - это уже из ряда вон!
- Ой, прости, - саркастично произнес Павел, - пойду прямо сейчас объявлю тревогу, срочно сматываемся отсюда.
Ник распознал его сарказм и прищурился.
- Паша, падальщики - это вроде местных тараканов. Учитывая их живучесть и приспособленность... То, что угрожает тараканам - угрожает вообще всей жизни на планете!
Павел понимающе кивнул.
- Хорошо, теперь я хотя бы отдаленно тебя понял. Что ты предлагаешь?
Ник растерялся.
- В каком смысле?
- Ты принес архонту эти данные, представил. Я ознакомился, проявил озабоченность, но что теперь? Допустим, нам что-то угрожает. Что это? Когда произойдет? Что нам нужно, чтобы это пережить? Ник, прости, я не понимаю, что делать с твоей информацией.
- Я не знаю... - тихо пробормотал Ник, - мое дело - принести тебе тревожные данные, твое дело - решить, что с ними делать.
- У тебя нет предположений, что происходит?
- Определенно, происходят некие изменения, но пока рано судить, какие именно и в связи с чем. Нужны еще наблюдения.
- Значит, наблюдай, - отрезал Павел, - придешь ко мне, когда будешь готов сказать хотя бы примерно к чему колонии следует готовиться, - увидев, что Ник несколько расстроился, Павел смягчил тон, - Ник, ты - главный научный сотрудник колонии. Я доверяю твоим суждениям, но пока просто не знаю, что делать с этой информацией. Собери достаточно данных, чтобы делать выводы и тогда будем реагировать.

Семь лет назад, в Конторе* (см. сноску в конце) решили, что человечеству нужен "запасной план". Были определены несколько планет, пригодных для колонизации человечеством и туда были отправлены миссии численностью плюс минус три тысячи человек.
Участники миссий подбирались очень тщательно: первым критерием была единая языковая группа, у участников не должно быть языковых барьеров. Также, участники миссий не должны были иметь радикальных или ярких политических взглядов, которые могли бы повлиять на миссию, внести некую рознь или конфликт в общий коллектив.
Естественно, важную роль также играло состояние здоровья, фертильность, профессия и прочие факторы, имеющие значение для выживания вида в новых условиях.
Здесь, тем не менее, вновь проявила себя конкуренция планеты Земля - текущая колония являлась проектом носителей языков славянской группы, но были и другие, на Земле, получая донесения из колоний, активно мерялись космическими гениталиями и хвастались своими успехами, пытаясь доказать, что вот именно люди, использующие такую группу языков - самые крутые и делают прямо-таки лучшую колонию. Да, без предрассудков человека не обошлось даже в таком деле.

Спустя две недели после разговора об исчезновении насекомых, Ник вновь пришел к Павлу, ступая уже куда более уверенной походкой и с намного более озабоченным взглядом.
- Ты разобрался? - с порога спросил у него Павел вместо приветствия.
- Собирай консилиум! - воскликнул Ник.
- Даже так? - поднял бровь Павел, - ты уверен?
- Да, у нас достаточно данных.
- То есть, ты готов сказать, что нас ждет? И когда?
Ник покачал головой.
- Пока мы точно не знаем, что именно нас ждет и когда, но, мы готовы утверждать с полной уверенностью - нас ждет глобальная катастрофа, нужно немедленно начать принимать какие-то меры.
- Какие? - постукивая пальцем по столу спросил Павел.
- А мне почем знать, Паш? Я представлю вам данные, но вам решать, что из этих данных следует! - Ник практически перешёл на крик.
- Ладно, спокойно, - Павел взял рацию, - Миша, собери всех, нужно кое-что обсудить, срочно.
"Что случилось, Паш? Что за срочность?" - раздался голос из рации.
- Все узнаешь на месте, - Павел понизил голос, - это серьёзно. Бросай все, собирай остальных - и пулей сюда!

Когда консилиум собрался, Павел объявил, что Ник - главный научный сотрудник, изложит данные, на основании которых был собран консилиум.
- А что происходит? - подал голос Алексей - куратор направления социального и духовного развития колонии.
Павел поднял руку.
- Пожалуйста, дайте Нику сказать, после чего вы сможете задать все интересующие вас вопросы.
Ник начал свой доклад.
- Первые подозрения у нас закрались, когда начали исчезать паразитические разновидности насекомых, для простоты понимания я не буду называть термины, которыми мы их окрестили на этой планете, буду использовать более привычные, земные названия. В общем, около пяти недель назад мы начали замечать, что такие насекомые, как мухи, комары и тараканы, вдруг начали исчезать - их все меньше замечали в секторе обитания колонии, пока их численность не начала измеряться чуть ли не единицами. Разумеется, это нас насторожило и мы начали копать глубже.
- Простите, а можно к делу? - нетерпеливо высказалась Алина - куратор продовольственного и общего обеспечения колонии, - у нас так-то много вопросов, требующих внимания, давайте по сути?
Ник одарил ее недовольным взглядом.
- Боюсь, что этот вопрос важнее всех прочих и для полного понимания ситуации нам следует осветить все аспекты ситуации.
В разговор вмешался Павел.
- Алина, дослушайте доклад до конца, пожалуйста, наши ученые полагают, что это очень важно.
Проигнорировав недовольный комментарий Алины, который она высказала себе под нос: "Да у них вечно что-то очень важное", Ник продолжил доклад.
- После ситуации с насекомыми, мы решили проверить и другие аспекты животного мира планеты, других сообщений об изменениях в популяции не было, но мы решили заняться поведенческими признаками - и не прогадали. Стеги - это местные млекопитающие, относимые к собачьим, вроде земных лис или волков - начали рыть норы.
- Ужас какой, лисы роют норы, - рассмеялась Варвара - куратор экономического направления колонии, - это что, так удивительно?
- Нет, - раздраженно прошипел Ник, - но вас, думаю, удивит их глубина, самая глубокая зафиксированная нора была почти семнадцать метров.
Михаил, главный инженер и заместитель архонта, присвистнул.
- Это и правда занимательно. Раньше ведь они так не делали?
Ник покачал головой.
- И давайте больше не будем перебивать нашего докладчика, - произнес Павел, особенно строго глянув на Алину и Варвару.
- Продолжу, - немного успокоившись, проговорил Ник, - норы, как оказалось, были только верхушкой айсберга. Буквально через неделю, нам поступили новые тревожные сигналы: к нам обратились рыбаки, заявляя, что рыба попросту исчезла - за неделю в их сети попало количество рыбы, которое ранее попадалось за один час. Проверив их информацию, наша команда выяснила, что подавляющее большинство рыб никуда не исчезли, но, "ушли" на глубину, причем также на весьма впечатляющую. Это кстати, во многом объяснило для нас тот факт, что вся морская живность на планете имеет определенные признаки глубоководных существ, ранее мы не понимали, зачем им эти приспособительные элементы, если они плавают по поверхности. Тем не менее, мы вели также и проверку по насекомым и, буквально пару дней назад, мы наконец разобрались, куда они все подевались. Наши ботаники обнаружили странное дерево, будто покрытое чешуёй, при изучении оказалось, что насекомые перечисленных ранее разновидностей "облепили" это дерево вплотную. Обнаружив эту странность, мы обратили пристальное внимание на растения.
После этих слов Ник поставил на огромный овальный стол небольшую стеклянную баночку, наполненную полупрозрачной гелеобразной субстанцией, которая слегка переливалась разными цветами, когда на нее попадал свет.
- Это смола или слизь, которую растения начали активно и очень обильно выделять только сегодня. Анализ показал, что у этой смолы чрезвычайно высокие показатели устойчивости к перепадам температур, а также, высокая влагоотталкивающее свойство. Предполагается, что эта смола должна застыть, превратившись, таким образом в природный "щит" для растения. Насекомые же, в свою очередь, садятся на крупные растения и погружают свои организмы в состояние, близкое к анабиозу, позволяя смоле полностью покрыть их, таким образом, обеспечивая растению дополнительный бонус к теплообмену, получая от него защиту.
- Защиту от чего? - нахмурившись, спросил Павел.
Ник пожал плечами.
- Наша команда готова утверждать одно - на этой планете в скором времени случится глобальная и очень разрушительная катастрофа, вероятно, климатического характера, но у нас пока недостаточно данных, чтобы однозначно сказать, какого рода будет катастрофа и когда она наступит.
- То есть, - спросил Михаил, - мы должны готовиться непонятно к чему, которое случится непонятно когда?
Ник, улыбаясь, покачал головой.
- Не сказал бы, что мы совсем в потёмках. Мы знаем, что все живое на планете к чему-то готовится. На основании их поведения можно делать определенные выводы. Основой наших итоговых гипотез стала смола, которую выделяют местные растения: ее свойства показывают нам, что стоит ждать изменения условий на поверхности планеты, изменений в температуре и влажности. Также, у растений имеется еще один, ранее странный, но теперь понятный, механизм защиты, мы его назвали - водяной мешок, - увидев улыбки, Ник вздохнул и пояснил, - это рабочее название, не термин. В основании корней всех без исключения растений на этой планете есть образование, которое по форме напоминает мешок, а по факту является эластичным контейнером, где у растений хранится та же самая смола, которую они выделяют. Предполагаем, что этот мешок является чем-то вроде горба у земных верблюдов, там растения запасают влагу и необходимые для пережидания катастрофы питательные вещества. Свойства этой смолы пока не изучены целиком, но исследования в этой области сейчас в приоритете, вскоре мы будем знать о ней всё.
- Итак, зачем им нужны эти механизмы? Чего нам ждать? - спросил Павел.
- У нас несколько гипотез на этот счет. Помимо прочего, летающие существа на этой планете, местные "птицы", также делают очень глубокие дупла в местных вековых деревьях и, предполагаем, что, когда дупло закончено, смола как бы "закрывает" вход в дупло, также организуя герметичный и надежный метод защиты.
- А что с крупными травоядными? - спросила Алина. В ее взгляде уже не было насмешливости или издевки.
- Они пока ведут себя как обычно, - ответил Ник.
- Ник, пожалуйста, озвучь варианты, - попросил Павел, - что нас может ожидать?
Ник подошёл к белой доске, взял маркер и начал писать.
- В нашем личном рейтинге, на первом месте мы видим глобальной наводнение, проще говоря, потоп. Это объясняет как поведение растений и насекомых, так и наземной и водной живности.
- Почему ты считаешь, что уход рыбы на глубину доказывает этот вариант? - вмешался Михаил, - если везде будет вода, то им-то чего бояться?
- Предполагаем, что рано или поздно это наводнение кончается и тогда происходит отлив. Мелководная и поверхностная рыба при таких обстоятельствах вполне может оказаться выброшенной на берег.
- Есть уверенность, что катастрофа быстро кончится? - спросила Алина с надеждой в глазах.
- Насчет быстро или долго - трудно сказать, - задумчиво протянул Ник, - для этого нужно больше данных, но, точно ясно, что эта катастрофа, чем бы она не была, случается на этой планете с некоторой периодичностью.
- Почему вы в этом уверены? - спросил Павел.
- Потому что у всего живого на планете выработаны множественные и очень выверенные эволюционные механизмы защиты. Если бы катастрофа случилась в первый раз, их поведение было бы хаотичным, странным. Да, они, вероятно, могли бы почуять катастрофу раньше нас, но, они готовятся к ней так, словно она происходит здесь уже тысячи, если не миллионы лет. При этом, если бы период катастрофы был крупным, вроде тысячи лет или больше, механизмы не были бы такими радикальными, вероятно, мы бы видели некоторые схожие паттерны, но далеко не у всего живого. Поэтому мы считаем, что период катастрофы, относительно говоря, очень короткий.
- Насколько короткий? - спросил Михаил.
- Пока трудно сказать, но ориентировочно - от восьми до двадцати лет.
- Потому что мы находимся здесь семь лет, - как будто для самого себя, решил пояснить Павел, - если бы она была более частой, мы бы уже прошли через это.
- Именно! - улыбаясь. подтвердил Ник, довольный тем, что его ход мысли начали понимать, - так вот, второй номер в рейтинге - это радикальное изменение температурного режима. Я имею ввиду похолодание и потепление на пятьдесят и более градусов по цельсию. Эта теория также хорошо коррелирует с данными по смоле, единственное что, не объясняет ее водоотталкивающее свойство. При этом, поведение рыб, наземных животных и птиц в таком случае также кажется вполне логичным.
- Есть мысли насчет длительности катастрофы? - спросила Алина озабоченно.
Ник грустно покачал головой.
- Насчет этого - очень трудно сказать. Точно не больше года.
- Года... - ахнула Алина, - к такому нужно готовиться сильно заранее! Что по поводу сроков? Хотя бы примерно знаем, когда все начнется?
Ник вздохнул и вновь покачал головой.
- На самом деле, пока мы не знаем, чем будет вызвана катастрофа, мы не можем однозначно определить ни ее тип, ни сроки до ее начала. Именно поэтому готовиться нужно начинать прямо сейчас. У нас точно есть месяца три до начала катастрофы, но дальше мы точно пока не знаем. У нас может быть пара лет до нее, или же три месяца - это все, что у нас есть.
- Когда вы точно сможете выяснить? - рявкнул Михаил.
- Ну ты спросил, - обречённо усмехнулся Ник, - даже близко не представляю.
- Но к чему нам готовиться? - не унимался Михаил, - даже из того, что ты уже перечислил, это нужны очень разные меры! Какие еще варианты остались?
- Оставшиеся варианты маловероятны и предполагают полную невозможность для человека оставаться на этой планете. Это может быть или некий "огненный ад", если начнется извержение вулканов по всей поверхности планеты, к которому попросту не существует защиты для нас, может быть метеорит, который приведет к массовым вымираниям, сдвиг литосферных плит, который, в общем-то, тоже превратит планету в "огненный ад".
- Насколько вероятны такие исходы? - спокойно спросил Павел.
- Да процентов пять, может до двенадцати, в зависимости от вариантов. Приспособительные механизмы фауны и флоры этой планеты даже близко не говорят за такие варианты, так что, есть только шанс, что здесь происходит массовое вымирание каждые условные десять лет, после чего планета, каким-то совершенно немыслимым образом, восстанавливается за такие короткие сроки.
- Проще говоря, будь это "огненный ад", мы бы не наблюдали пышно цветущую планету сейчас? - уточнил Михаил.
- Почти наверняка нет, - кивнул Ник, - перед колонизацией, за планетой еще три года наблюдали со спутников и с помощью аппаратов, запущенных сюда. Никаких аномалий и отклонений не нашли, так что, нет причин считать, что планета станет совсем непригодной для обитания.
- Но точной гарантии нет? - снова уточнил Михаил.
- Во вселенной миллиарды звезд и планет. Если мы к чему-то привыкли - это не значит, что мы не можем получить новые данные, - пояснял Ник, - так что да, может быть и такое, что жизнь на этой планете способна зацвести за пару лет. Хотя и чрезвычайно маловероятно.
- Миша, есть ли общие паттерны? - спросил Павел, - в плане подготовки, можем ли мы что-то такое готовить, что подойдёт к любому из вариантов?
- Разве что точно нужно запасаться продовольствием, - пробормотал Михаил, - в остальном, варианты очень разные. Если будет потоп, нам нужно строить конструкцию, способную плавать и выдерживать шторма, давление воды и прочие морские факторы. Если будет похолодание или потепление - тогда строим помещения с серьезными вариантами изоляции, и, желательно, как можно глубже под землёй. Ну а в третьем случае вообще нужно готовить "Пифей" к отбытию с планеты.
Павел встал со своего кресла.
- Итак, мы можем готовиться к одному из трех вариантов развития событий, если я верно понял тебя, Ник. Первый - это готовиться плавать по всемирному океану, который вскоре окружит нашу планету целиком. Второй - готовиться к длительному периоду пребывания на планете при критически высоких или низких температурах. Третий - в целом, покидать планету, поскольку вскоре тут станет невозможно жить. Верно?
- Кстати, высокие температуры подразумевают, что растают ледники, а значит, наводнение будет неизбежно, - добавил Ник, - поэтому наводнение нам кажется наиболее вероятным вариантом.
- Кстати, не обязательно покидать планету окончательно, - задумчиво проговорил Михаил, - в теории, можно вывести "Пифей" на орбиту на период катастрофы и разместить колонию там.
- На этом корабле мы должны покинуть эту планету, если не приживемся, - возразил Павел, - если мы так поступим, то уже не сможем вывести колонию обратно на Землю.
Михаил пожал плечами.
- Я просто прикидываю варианты.
- Нам придется голосовать, - отрезал Павел, - варианты слишком разные, а времени может быть в обрез. Придется выбирать путь и следовать ему, пока наши ученые не смогут окончательно установить факты, иначе мы просто потеряем время, которого у нас нет.
- Но, - вмешался Михаил, - если мы выберем неверно, мы можем потерять гораздо больше, убить ресурсы на то, что нам не нужно.
- Предлагаешь ничего не делать, пока нам не станут известны факты? - уточнил Павел.
- В общем... Да, - поднял бровь Михаил, - может мы и упустим немного времени, но, по крайне мере, нам не придется все заново переделывать.
- Хорошо, твоя позиция принимается как одна из статей голосования, - объявил Павел, - итак, господа и дамы, давайте голосовать!
______________________________


И теперь, гуманоиды, я хотел бы, чтобы вы представили себя на месте этих людей, одним из участников этого консилиума и приняли решение вместе с ними. Ниже будет размещен опрос, в котором будут вынесены статьи голосования, жду вашего активного участия :)

*примечание для читателя - эта история является частью вселенной "Лидирующих мнений", для понимания, что такое "Контора" стоит почитать другие истории из этой серии.

Продолжение следует, если народу хорошо зайдет, постараюсь публиковать главу по результатам голосования каждую субботу :)

https://vk.com/devilhistory
https://author.today/u/logrinium/works

Мы часто думаем, что если есть несколько барьеров на пути возможной катастрофы, то вероятность её наступления невелика. Особенно когда речь идёт о такой серьёзной угрозе, как сверхразумный ИИ. Но недавняя работа Marco Grossi на arxiv.org ставит под сомнение эту уверенность.

Представьте защиту от угрозы сверхразумного ИИ в виде четырёх слоёв «швейцарского сыра» - модели, которую ещё в 1991 году предложил профессор Джеймс Ризон. Каждый слой - это отдельный способ защиты: технические ограничения, культурные запреты, настройка ИИ на человеческие цели и система надзора. Кажется, что такая защита надёжна: чтобы угроза реализовалась, нужно, чтобы все слои оказались «с дырами» одновременно. Но так ли это на самом деле?

На практике всё не так просто. Проблема в том, что эти слои защиты не являются полностью независимыми друг от друга. Например, если мы не сможем правильно настроить ИИ, чтобы его цели совпадали с человеческими, то система надзора тоже окажется неэффективной. Ведь самый эффективный способ контролировать ИИ - это использовать для этого другой, «дружественный» ИИ. А если мы не можем доверять искусственному интеллекту, то и контролировать его будет практически невозможно.

Культурные запреты тоже не панацея. Если мы запретим разработку ИИ из страха перед возможными последствиями, то не сможем научиться контролировать его, когда он всё-таки появится (а это неизбежно).

Автор статьи подчёркивает: даже если предположить, что у каждого слоя защиты есть 50 % шанс на успех (при условии полного незнания: нет данных, экспертизы или асимметрий, которые склоняли бы нас к сработает или нет слой), реальный риск катастрофы всё равно оказывается значительно выше, чем может показаться на первый взгляд. Вместо предполагаемых 6 % он может достигать 10 % и даже больше. Это уже не просто теоретическая угроза - это повод для серьёзного беспокойства.

Кроме того, мы не знаем всех возможных сценариев развития событий. Может быть, есть какой-то путь к выживанию, о котором мы пока не догадываемся. Но есть и вероятность того, что существует скрытая угроза, которую нынешние модели просто не учитывают. Мы имеем дело не просто с риском, а с неопределённостью: невозможно точно оценить, насколько серьёзной может быть угроза.

Вывод прост: паника и запреты не решат проблему. Нам нужно активно работать над повышением безопасности ИИ, а не прятать голову в песок. Иначе мы сами создадим условия для глобальной катастрофы

ссылка на исследование