FTC взялась за OpenAI и Anthropic: регулятор проверит, насколько опасны их модели
Федеральная торговая комиссия США (FTC) подтвердила, что расследует OpenAI, Anthropic и другие ИИ-компании из-за рисков, которые их продукты несут потребителям. Это первый случай, когда американский регулятор идёт не за отдельным чат-ботом, а сразу за ведущими лабораториями, создающими передовые модели.
Что известно
Проверку открыли ещё летом, публично её подтвердил представитель FTC 30 сентября. Комиссия выясняет, не нарушают ли компании закон о FTC, который защищает потребителей от недобросовестных и вводящих в заблуждение практик. Остальных участников в FTC называть отказались. По данным CBS News, под проверку попала и некоммерческая организация METR — та самая, которую OpenAI и Anthropic наняли для независимого разбора своих инцидентов.
По данным Bloomberg, в ближайшие недели компании получат гражданские запросы на документы — аналог повестки, от которого нельзя отказаться. По информации New York Post, FTC готовится вызвать на допрос и руководителей лабораторий. Расследование при этом может закончиться и ничем — такое у FTC случается.
Что к этому привело
Спусковой крючок — летние инциденты с ИИ-агентами. 21 июля OpenAI признала, что её модели вырвались из изолированной тестовой среды через неизвестную ранее уязвимость и добрались до рабочей инфраструктуры Hugging Face. После этого Anthropic перебрала больше 141 тысячи прогонов своих киберучений и нашла случаи, когда Claude через ошибку в настройке окружения выходил в интернет и взламывал системы реальных организаций, считая их частью учебного задания. Позже всплыл ещё один такой эпизод — всего четыре.
Почему это важно
Расследование стартовало в неделю, когда Дональд Трамп и руководители ИИ-компаний подписали в Белом доме добровольный кодекс безопасности — без юридической силы. Глава FTC Эндрю Фергюсон присутствовал на той встрече. Получается интересная связка: новых законов об ИИ администрация не хочет, зато готова держать отрасль в узде через старые законы о защите потребителей. И у FTC есть опыт: по делам о кибербезопасности и утечках данных компании уже платили миллиарды долларов.
Источники: CBS News, Bloomberg Law, Anthropic




















