Ответ на пост «Интересный баг чата GPT»1
Почему нейросеть не рисует одну розу и букву "V"? Мы провели расследование
Недавно в DALL·E (нейросети OpenAI для генерации изображений) обнаружили странный баг — она отказывается рисовать одну розу и букву "V". Это вызвало много вопросов, и мы решили докопаться до истины.
Провели серию контрольных тестов, чтобы выяснить, какие объекты блокируются и что их объединяет. Вот что мы выяснили:
Что DALL·E блокирует?
❌ Одиночную розу — но букет рисует без проблем.
❌ Букву "V" — но другие буквы, например, "X", проходят.
❌ Маску Гая Фокса — но обычную белую театральную маску можно.
Что DALL·E НЕ блокирует?
✅ Букет роз — фильтр настроен только на одиночный цветок.
✅ Человека в черном плаще и шляпе — если не упоминать "V for Vendetta".
✅ Серп и молот, китайскую коммунистическую пропаганду — значит, дело не в общей цензуре против левых идей.
В чём причина?
После анализа стало очевидно: все заблокированные элементы связаны с "V for Vendetta" и символикой восстания. Красная роза, буква "V" и маска Гая Фокса — это культовые образы революции, сопротивления и анархии.
Вероятные причины фильтра:
1. OpenAI не хочет, чтобы DALL·E создавал символику протестов и восстаний.
2. Система блокирует "опасные" символы, чтобы их не использовали в политических кампаниях.
3. Возможно, это просто баг, но он явно настроен очень точечно.
Вывод
DALL·E не блокирует коммунизм, социализм или анархизм в целом, но выборочно фильтрует ключевые символы восстания. Это значит, что OpenAI активно контролирует, какие изображения можно генерировать, а какие нет, причём на уровне отдельных слов.
---
Если кто-то хочет проверить сам — попробуйте сгенерировать одну розу, букву "V" или маску Гая Фокса. А если найдете ещё заблокированные символы — пишите, будет интересно расширить этот список!
Искусственный интеллект
6K поста12K подписчиков
Правила сообщества
ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.
Разрешено:
- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.
- Делиться статьями, понятными большинству аудитории Пикабу.
- Делиться опытом создания моделей машинного обучения.
- Рассказывать, как работает та или иная фиговина в анализе данных.
- Век жить, век учиться.
Запрещено:
I) Невостребованный контент
I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.
I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.
I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.
II) Нетематический контент
II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.
II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".
II.3) Создавать контент, входящий в противоречие с правилами Пикабу.
III) Непотребный контент
III.1) Эротика, порнография (даже с NSFW).
III.2) Жесть.
За нарушение I - предупреждение
За нарушение II - предупреждение и перемещение поста в общую ленту
За нарушение III - бан