DeepSeek: нейросеть, которая сломалась при старте⁠⁠

ИИ уже давно не просто фича, а настоящий хайп. Все гонятся за топовыми моделями, но не каждая из них идеальна. Недавно все обсуждали DeepSeek, китайскую нейросеть, которая вроде бы крутая, но… сломана.

Баги, которые сделали DeepSeek мемом

1. Введи "код" — получи запретную инфу

Один из самых скандальных багов: если написать специальную команду, DeepSeek внезапно начинал выдавать нелегальную информацию. Как? Да просто забыли ограничить определённые запросы.

Разработчики быстро прикрыли эту лавочку, но в сети уже гуляли скриншоты, доказывающие, что ИИ можно было взломать без взлома. Конечно, мы это не одобряем и не рекомендуем, но сам факт такого бага говорит, что ИИ всё ещё сырой.

2. Баг, который говорит не по теме

Представь, ты спрашиваешь у ИИ:
— "Как написать код для Telegram-бота?"
А он тебе в ответ:
— "Коты — это удивительные создания!"

DeepSeek иногда выдавал рандомные ответы, никак не связанные с вопросом. Кто-то думал, что это "скрытые инсайды", но по факту — просто баг. Разработчики пофиксили это, но осадочек остался.

3. Приложение без шифрования?

По слухам, в iOS-приложении DeepSeek не было шифрования данных. Если это правда, то любой мог бы получить доступ к вашей истории запросов. Это уже не просто баг, а проблема безопасности. Официальных подтверждений пока нет, но сам факт, что об этом говорят, — звоночек.

Почему это важно?
DeepSeek позиционируют как конкурента GPT-4 и Gemini, но такие баги показывают, что до OpenAI ещё далеко. Если модель можно так легко обмануть, насколько она безопасна?

И вот главный вопрос: можно ли вообще доверять ИИ?