Anthropic призывает поставить ИИ на паузу: страх потери контроля
Anthropic, один из крупнейших разработчиков искусственного интеллекта, призывает ИИ-лаборатории рассмотреть скоординированную паузу в развитии технологий, если риски станут слишком высокими. Компания предупреждает: прогресс в ИИ может ускориться настолько, что общество, регуляторы и сами разработчики не успеют выстроить надёжные механизмы контроля.
Главная тревога Anthropic связана с возможностью самосовершенствования ИИ-систем. Если модели смогут помогать создавать более сильных преемников, то безопасность, мониторинг и управление их поведением станут критически важными. Особенно опасным может стать сценарий, где ИИ развивается быстрее, чем люди успевают понимать последствия.
При этом Anthropic не готова останавливать разработки в одиночку. Компания понимает, что односторонняя пауза просто отдаст лидерство конкурентам. Поэтому речь идёт именно о координации между крупнейшими ИИ-лабораториями — чтобы никто не получил преимущество за счёт игнорирования рисков.
Дополнительное напряжение создаёт тот факт, что продукты Anthropic уже активно автоматизируют сложные задачи, включая программирование. По данным компании, её ИИ-системы способны выполнять значительную часть задач по написанию кода, а это делает вопрос контроля ещё более важным.
Anthropic была основана бывшими сотрудниками OpenAI, которые изначально выступали за более осторожный подход к развитию искусственного интеллекта. Теперь компания снова поднимает вопрос: нужна ли индустрии пауза, прежде чем ИИ станет слишком автономным и слишком влиятельным?
Главный вопрос: возможно ли вообще остановить гонку искусственного интеллекта, если каждая крупная компания боится отстать от конкурентов?