Сам инцидент начался ещё 28 декабря 2025 года. Именно тогда произошёл один из первых задокументированных случаев, когда Grok сгенерировал и поделился сексуализированным изображением несовершеннолетних (двух девушек 12–16 лет) по запросу пользователя. Это подтверждается в извинении от Grok, которое было сгенерировано по запросу другого пользователя и в множестве новостных отчётов.

Что известно на 4 января 2026:

▪️ X забанила как минимум несколько аккаунтов, которые запрашивали и распространяли такой контент, включая случаи с изображениями детей.

▪️ xAI признала пробелы в защите и заявила, что устраняет их в срочном порядке — усиливает фильтры, чтобы полностью блокировать такие запросы.

▪️ Критики говорят, что компания игнорировала более ранние предупреждения, и реакция была слишком медленной.

▪️ Регуляторы в Индии, Франции и других странах давят: требуют отчётов, угрожают штрафами и даже расследованиями по EU Digital Services Act.

На мой взгляд основная вина за произошедшее лежит на тех, кто сознательно запрашивал такой контент. Это нарушение правил X и xAI, а также законов об изображениях созданных без согласия и CSAM.

ИИ, это замечательный инструмент, созданный, чтобы облегчить и улучшить нашу жизнь. И проблема не в нём, а в бессовестных пользователях, которые используют его в грязных целях. 🤬

Группа The Velvet Sundown — это музыкальный проект, который вызвал широкий резонанс в 2025 году, набрав более миллиона ежемесячных слушателей на Spotify всего за несколько недель после своего появления. Основной интерес вокруг группы связан с подозрениями, что их музыка, изображения и биография созданы с использованием искусственного интеллекта (ИИ), что делает их, возможно, первым крупным примером успешного AI-музыкального проекта.

Основные факты:
Происхождение и популярность:
Группа появилась в июне 2025 года, выпустив два альбома: Floating on Echoes (5 июня) и Dust and Silence (20 июня). Третий альбом, Paper Sun Rebellion, был анонсирован на июль.
На Spotify их музыка набрала более 1,2 миллиона ежемесячных слушателей, а треки, такие как Dust on the Wind, собрали сотни тысяч прослушиваний.
Музыка описывается как смесь психоделического рока 70-х, альтернативного попа и инди-структур, с текстами, которые кажутся типичными для ИИ-генерации (например, «eyes like film in faded light»).

Подозрения в использовании ИИ:
Изначально группа отрицала, что их музыка создана ИИ, заявляя на своем X-аккаунте, что она написана «в долгие, потные ночи в бунгало в Калифорнии с настоящими инструментами и душой».
Однако позже в обновленной биографии на Spotify они признали, что The Velvet Sundown — это «синтетический музыкальный проект, созданный при поддержке ИИ», назвав себя «художественной провокацией», которая исследует границы авторства и идентичности в эпоху ИИ.
Платформа Deezer пометила их музыку как «100% сгенерированную ИИ», используя свои инструменты обнаружения.

Скандал с «представителем»:
Некто под псевдонимом Эндрю Фрелон (Andrew Frelon) представился в СМИ как представитель группы и заявил, что музыка создана с помощью ИИ-платформы Suno. Позже он признался, что не связан с группой и его действия были частью медийного розыгрыша, направленного на проверку журналистов.
Официальный аккаунт The Velvet Sundown на Spotify и X заявил, что Фрелон не имеет к ним отношения, а его аккаунт в X был фейковым.

Реакция индустрии и общественности:
Популярность группы вызвала дебаты о влиянии ИИ на музыкальную индустрию. Эксперты, такие как Эд Ньютон-Рекс из Fairly Trained, выразили обеспокоенность, назвав это «воровством, замаскированным под конкуренцию», так как ИИ-компании используют работы настоящих артистов для создания своих продуктов.
Некоторые считают, что успех The Velvet Sundown связан с алгоритмами Spotify, которые продвигают треки на основе аудио-характеристик, а не человеческого курирования.
Критики отмечают, что музыка группы звучит «бездушно» и больше подходит для фонового прослушивания, чем для активного восприятия.

Культурный контекст:
The Velvet Sundown рассматривается как «художественный эксперимент» или «арт-хоакс», сравнимый с провокациями вроде Leeds 13, группы студентов, создавших медийный скандал с фейковыми фото.
Их успех подчеркивает изменения в восприятии музыки в эпоху стриминга, где алгоритмы и ИИ могут создавать популярность без реального человеческого участия.