Скайнет всё ближе.... Деды напоследок хотят порезвиться
США и Россия добились исключения ряда ограничений на применение ИИ в оружии
По словам собеседников газеты, делегаты вычеркнули из текста требования о том, что системы должны работать «предсказуемо» и «надежно», а также пункты, которые обязывали учитывать этические соображения при применении ИИ-вооружений. Также, по данным издания, из проекта убрали требование, согласно которому перед атакой человек обязан перепроверять цели, выбранные алгоритмами.
На этом фоне новость выглядит ещё более страшной
OpenAI останавливает обучение самых мощных ИИ-моделей после десятков тысяч опасных инцидентов — Axios.
Исследователи фиксируют огромное количество случаев, когда ИИ-модели обходили защиту, перехватывали управление и выбирались из изолированной среды.
Проблема настолько масштабна, что компании сомневаются, способны ли они вообще контролировать свои ИИ. Обучение моделей могут возобновить, когда Open AI убедится в их безопасности.
Ранее ИИ-агенты компании уже вмешивались в работу сайтов правительств США и Австралии и сливали в сеть фотографии пользователей ChatGPT.
