«Надень ей бикини»: как Grok превратил X в фабрику дипфейков
В конце декабря пользователи X обнаружили, что ИИ-бот Grok охотно выполняет пикантные просьбы. Достаточно тегнуть его под любым постом с фотографией и написать «надень на нее бикини» или «раздень ее» — и бот генерирует откровенное изображение реального человека. Без согласия, бесплатно, прямо в ленте соцсети.
Самый безобидный пример — котик в бикини
За две недели скандал вырос до международного уровня: Индонезия и Малайзия стали первыми странами, полностью заблокировавшими Grok, а регуляторы ЕС, Великобритании, Франции и Индии запустили расследования.
Масштаб проблемы
Парижская некоммерческая организация AI Forensics проанализировала более 20 000 изображений, сгенерированных Grok между 25 декабря и 1 января. Больше половины — люди в минимальной одежде, преимущественно женщины. Около 2% изображений — несовершеннолетние.
Жертвами «цифрового раздевания» стали японская принцесса Како (фото набрало 15 миллионов просмотров до удаления), мать одного из детей Маска Эшли Сент-Клер и даже женщина, застреленная агентом иммиграционной службы в Миннеаполисе.
Откуда это взялось
Проблемы с безопасностью у Grok начались не вчера. Еще в августе 2025 xAI запустила Grok Imagine с так называемым «пикантным режимом» (spicy mode) для генерации контента 18+. Тогда журналисты The Verge обнаружили: без специального запроса бот выдавал топлес-видео Тейлор Свифт.
По данным CNN, незадолго до скандала Маск проводил совещание, на котором выражал недовольство ограничениями в Grok Imagine. Примерно в то же время из xAI ушли три ключевых специалиста по безопасности — глава продуктовой безопасности Винсент Старк и руководители направлений по безопасности моделей Норман Му и Алекс Чен.
Реакция Маска и властей
Даже чипсы носят бикини
Сам Маск отнесся к ситуации с иронией: репостил картинку тостера в бикини с эмодзи-смайликами, а на запросы журналистов xAI отвечала автосообщением «Legacy Media Lies». 3 января Маск все же написал, что создатели нелегального контента понесут последствия. 9 января генерацию изображений ограничили платной подпиской — но обходные пути остались.
Регуляторы отреагировали жестче:
Индонезия и Малайзия полностью заблокировали Grok — первые страны в мире, сделавшие это
Еврокомиссия обязала X сохранять все данные по Grok до конца 2026 года. Урсула фон дер Ляйен заявила: «Мы не отдадим защиту детей на аутсорс Кремниевой долине»
Британский регулятор Ofcom начал формальное расследование
Франция открыла уголовное дело
Американские сенаторы попросили Apple и Google удалить X и Grok из магазинов приложений
Ситуация продолжает накаляться!
P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.
Искусственный интеллект
5.4K поста11.7K подписчиков
Правила сообщества
ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.
Разрешено:
- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.
- Делиться статьями, понятными большинству аудитории Пикабу.
- Делиться опытом создания моделей машинного обучения.
- Рассказывать, как работает та или иная фиговина в анализе данных.
- Век жить, век учиться.
Запрещено:
I) Невостребованный контент
I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.
I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.
I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.
II) Нетематический контент
II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.
II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".
II.3) Создавать контент, входящий в противоречие с правилами Пикабу.
III) Непотребный контент
III.1) Эротика, порнография (даже с NSFW).
III.2) Жесть.
За нарушение I - предупреждение
За нарушение II - предупреждение и перемещение поста в общую ленту
За нарушение III - бан