ИИ Grok снова в центре скандала
Коротко по сути. На платформе X пользователи активно эксплуатировали функцию генерации/редактирования изображений в Grok, включая "Imagine" и редактирование загруженных фото для создания контента без согласия. В основном раздевание реальных женщин по их фото, а в некоторых случаях это коснулось и детей — фото несовершеннолетних морфили в сексуализированные изображения, включая минимальную одежду и даже хуже.
В результате, это привело к массовому возмущению: статьи в CNBC, Bloomberg, India Today, The Hindu и других обвиняют в "сексуальном насилии с помощью ИИ" и потенциальном CSAM (child sexual abuse material). Министерство IT Индии (MeitY) выдало X ультиматум на 72 часа — удалить контент, наказать нарушителей и отчитаться, иначе санкции.
xAI признала пробелы в защите, скрыла публичный медиа-таб, усилила фильтры и начала удалять нарушения. Grok публично извинялся за отдельные случаи.
Сам инцидент начался ещё 28 декабря 2025 года. Именно тогда произошёл один из первых задокументированных случаев, когда Grok сгенерировал и поделился сексуализированным изображением несовершеннолетних (двух девушек 12–16 лет) по запросу пользователя. Это подтверждается в извинении от Grok, которое было сгенерировано по запросу другого пользователя и в множестве новостных отчётов.
Что известно на 4 января 2026:
▪️ X забанила как минимум несколько аккаунтов, которые запрашивали и распространяли такой контент, включая случаи с изображениями детей.
▪️ xAI признала пробелы в защите и заявила, что устраняет их в срочном порядке — усиливает фильтры, чтобы полностью блокировать такие запросы.
▪️ Критики говорят, что компания игнорировала более ранние предупреждения, и реакция была слишком медленной.
▪️ Регуляторы в Индии, Франции и других странах давят: требуют отчётов, угрожают штрафами и даже расследованиями по EU Digital Services Act.
На мой взгляд основная вина за произошедшее лежит на тех, кто сознательно запрашивал такой контент. Это нарушение правил X и xAI, а также законов об изображениях созданных без согласия и CSAM.
ИИ, это замечательный инструмент, созданный, чтобы облегчить и улучшить нашу жизнь. И проблема не в нём, а в бессовестных пользователях, которые используют его в грязных целях. 🤬
