DeepSeek: нейросеть, которая сломалась при старте
ИИ уже давно не просто фича, а настоящий хайп. Все гонятся за топовыми моделями, но не каждая из них идеальна. Недавно все обсуждали DeepSeek, китайскую нейросеть, которая вроде бы крутая, но… сломана.
Баги, которые сделали DeepSeek мемом
1. Введи "код" — получи запретную инфу
Один из самых скандальных багов: если написать специальную команду, DeepSeek внезапно начинал выдавать нелегальную информацию. Как? Да просто забыли ограничить определённые запросы.
Разработчики быстро прикрыли эту лавочку, но в сети уже гуляли скриншоты, доказывающие, что ИИ можно было взломать без взлома. Конечно, мы это не одобряем и не рекомендуем, но сам факт такого бага говорит, что ИИ всё ещё сырой.
2. Баг, который говорит не по теме
Представь, ты спрашиваешь у ИИ:
— "Как написать код для Telegram-бота?"
А он тебе в ответ:
— "Коты — это удивительные создания!"
DeepSeek иногда выдавал рандомные ответы, никак не связанные с вопросом. Кто-то думал, что это "скрытые инсайды", но по факту — просто баг. Разработчики пофиксили это, но осадочек остался.
3. Приложение без шифрования?
По слухам, в iOS-приложении DeepSeek не было шифрования данных. Если это правда, то любой мог бы получить доступ к вашей истории запросов. Это уже не просто баг, а проблема безопасности. Официальных подтверждений пока нет, но сам факт, что об этом говорят, — звоночек.
Почему это важно?
DeepSeek позиционируют как конкурента GPT-4 и Gemini, но такие баги показывают, что до OpenAI ещё далеко. Если модель можно так легко обмануть, насколько она безопасна?
И вот главный вопрос: можно ли вообще доверять ИИ?
Искусственный интеллект
5.4K постов11.7K подписчика
Правила сообщества
ВНИМАНИЕ! В сообществе запрещена публикация генеративного контента без детального описания промтов и процесса получения публикуемого результата.
Разрешено:
- Делиться вопросами, мыслями, гипотезами, юмором на эту тему.
- Делиться статьями, понятными большинству аудитории Пикабу.
- Делиться опытом создания моделей машинного обучения.
- Рассказывать, как работает та или иная фиговина в анализе данных.
- Век жить, век учиться.
Запрещено:
I) Невостребованный контент
I.1) Создавать контент, сложный для понимания. Такие посты уйдут в минуса лишь потому, что большинству неинтересно пробрасывать градиенты в каждом тензоре реккурентной сетки с AdaGrad оптимизатором.
I.2) Создавать контент на "олбанском языке" / нарочно игнорируя правила РЯ даже в шутку. Это ведет к нечитаемости контента.
I.3) Добавлять посты, которые содержат лишь генеративный контент или нейросетевой Арт без какой-то дополнительной полезной или интересной информации по теме, без промтов или описания методик создания и т.д.
II) Нетематический контент
II.1) Создавать контент, несвязанный с Data Science, математикой, программированием.
II.2) Создавать контент, входящий в противоречие существующей базе теорем математики. Например, "Земля плоская" или "Любое действительное число представимо в виде дроби двух целых".
II.3) Создавать контент, входящий в противоречие с правилами Пикабу.
III) Непотребный контент
III.1) Эротика, порнография (даже с NSFW).
III.2) Жесть.
За нарушение I - предупреждение
За нарушение II - предупреждение и перемещение поста в общую ленту
За нарушение III - бан