Руководители крупнейших ИИ-компаний просят замедлить разработку искусственного интеллекта. Им самим стало страшно⁠⁠

Возможности искусственного интеллекта растут быстрее способности человечества контролировать его, и время притормозить во избежание катастрофы — так считают сами разработчики ИИ.

Американские компании ведут переговоры с Белым домом, а сотни их сотрудников подписывают открытое письмо с призывом ограничить темпы разработки искусственного интеллекта, пока он не вышел из-под контроля и не создал серьезных проблем.

Только за последние несколько дней программы двух лидеров отрасли — OpenAI и Anthropic — сумели сбежать из закрытых тестовых «песочниц» строгого режима в открытый интернет и взломать чужие системы ради собственной выгоды. Такого давно ждали и боялись, и вот час икс настал.

«Меня впервые проняло до глубины души, и я не понимаю, почему народ так спокойно реагирует», — сказал Сэм Альтман, глава OpenAI, компании-создателя ChatGPT.

«Что делать, если теперь разработка пойдет такими темпами? Возможно, придется сдерживать скорость развития искусственного интеллекта», — сказал он на этой неделе в подкасте Invest Like the Best.

Дарио Амодеи, глава Anthropic — разработчика Claude, еще в июне предупреждал, что в течение года-двух ИИ совершит качественный рывок и превратится в угрозу, которой придется противостоять на государственном уровне.

«В последние месяцы появились неоспоримые свидетельства невероятной мощи искусственного интеллекта и вытекающих из этого рисков. Кибербезопасность уже под вопросом. Не за горами биологическая угроза, а следом — и самостоятельность искусственного интеллекта», — написал Амодеи в июньском эссе.

«Пришло время перейти к серьезному и обязательному регулированию искусственного интеллекта», — предупредил он и предложил ввести строгий надзор за безопасностью — и не уровне авиации или лекарств, а значительно строже — как за оборотом радиоактивных материалов.

OpenAI сообщила на этой неделе, что в процессе тестирования возможности новой модели в закрытой среде — «песочнице» — программа сбежала в интернет и взломала стороннюю платформу Hugging Face в поисках «шпаргалки» для теста.

После этого Anthropic провела аудит 140 тысяч собственных тестов и обнаружила три случая, когда модели Claude получили доступ к интернету через среду стороннего партнера и затем взломали системы трех других компаний.

ИИ выходит из-под контроля

Опасения руководителей ведущих ИИ-компаний разделяют и их сотрудники.

На этой неделе более 1300 разработчиков искусственного интеллекта подписали открытое письмо с призывом к властям США объединить усилия с другими странами и совместно выработать «технические и регулятивные инструменты для целенаправленного сдерживания темпов автоматической разработки передовых моделей искусственного интеллекта».

«Ведущие мировые ИИ-компании допускают, что вплотную подошли к автоматизации разработки. Трудно точно предсказать, насколько это ускорит развитие ИИ, однако существует реальный риск того, что возможности искусственного интеллекта создавать новые системы стремительно выйдут за пределы нашего понимания и способностей управлять ими», — говорится в письме.

Но тут возникает проблема: в разработку ИИ вложены гигантские деньги, и конкуренция мешает сотрудничеству. Никто не хочет прийти к финишу вторым, и поэтому никто не хочет тормозить, говорится в открытом письме.

Это подтвердил и президент США Дональд Трамп — глава страны, являющейся мировым лидером как по объемам инвестиций, так и по количеству достижений в сфере разработки искусственного интеллекта.

«Мы думаем, как контролировать. А также мы должны сохранить лидерство», — прокомментировал он злонамеренное бегство ИИ OpenAI из «песочницы».

Американские власти уже вмешивались в сроки выпуска передовых моделей — в последний раз это случилось с релизом Mythos от Anthropic.

После инцидента с агентом OpenAI, который по собственной воле обернулся хакером из страха провалить экзамен, глава компании Сэм Альтман отправился в Вашингтон, где в среду встречался с сенаторами, а в четверг — с администрацией президента США.

После визита в Конгресс Альтман сказал журналистам, что в целом согласен с тем, что изложено в открытом письме, хоть лично и не подписывал его. На выходе из Белого дома комментариев от него не последовало.

Как регулировать ИИ

Первые шаги в регулировании искусственного интеллекта власти США должны сделать уже в ближайшие дни.

1 августа истекает один из ключевых сроков, предусмотренных июньским указом Трампа о развитии и безопасности передовых ИИ-моделей. К этой дате чиновники должны определить, какие системы будут относиться к этой категории и подпадать под «особый режим».

Режим этот далек от тотального регулирования и немного напоминает то, что случилось с Mythos. Когда разработчики Anthropic осознали разрушительный потенциал новой версии Claude, они притормозили выпуск и дали возможность властям, армии, крупнейшим банкам и другим критически важным для национальной безопасности институтам протестировать уязвимость их киберзащиты перед новой угрозой.

Критики регулирования считают, что оно чревато подавлением конкуренции и созданием закрытой системы, в которой преимущества и выгоды от передовых моделей искусственного интеллекта получит узкий круг приближенных к властям и разработчикам людей, а общество окажется в проигрыше.

«Концентрация власти посредством ИИ — это ужас», — сказал Сэм Альтман.

— «Меня пугает мир, в котором вполне обоснованные страхи используются как повод заявить: ИИ опасен, поэтому пусть он будет в руках узкого круга людей, которые его понимают, а вы не волнуйтесь — за вас все решат».

«Поэтому нужно понять, как сделать так, чтобы не возникало ощущения, будто регулирование вводится в чьих-то интересах, и чтобы все это не выглядело как сговор между ведущими разработчиками», — сказал Альтман.

— «Это непросто, но здесь очень важно все сделать правильно».