Исследователи из Израиля взломали DeepSeek⁠⁠

Наверное уже каждый слышал про какой то невероятный китайский стартап, который спровоцировал распродажу акций Nvidia. Речь, конечно же про DeepSeek, новый сервис от братьев из поднебесной, который на днях был взломан. Не из зависти, конечно, а исключительно в благородных целях (по крайней мере так говорят сами белые хакеры), но давай обо всём по порядку

Deep-что?

DeepSeek — китайская компания, специализирующаяся на разработке искусственного интеллекта (ИИ). Компания была основана в Ханчжоу в 2023 году миллиардером Ляном Вэньфэном. Это, конечно, не единственное его детище. У Вэньфэна также имеется собственный хэдж фонд, в который миллиардер привлекал победителей олимпиад, гениев и просто хороших ребят, чтобы создать самую совершенную нейронку.

Труды Вэньфэна окупились и в Декабре 2024 года стартап выпустил модель DeepSeek-V3. Главное её преимущество это низкая стоимость разработки, благодаря оптимизации китайцы смогли обучить свою модель на небольшом кластере из видеокарт Nvidia H800, в то время как остальным требовались не просто кластеры, а целые датацентры с огромной вычислительной мощностью (и стоимостью).

Олимпиадники настолько ударились в оптимизацию, что 20 января 2025 года DeepSeek представили ещё более совершенную модель DeepSeek-R1, которая, по заявлениям самих DeepSeek R1 способная не просто отвечать, а рассуждать шаг за шагом, как человек, что делает качество ответов выше чем у привычных моделей.

DeepSeek полностью бесплатная нейросеть которую обучили на старом оборудовании (и сэкономили тем самым миллионы долларов инвесторов), что и делает её прорывной. Всё как с сыном маминой подруги, который всё может быстрее, дешевле и эффективнее. Затраты меньше, а результат один, Profit!

Как они уронили рынок акций?

Трампоподобные фанаты ИИ были уверены: “Без тонны новых видеокарт для обучения тут точно не обойтись!”, ведь корпорации говорят, что для обучения нейронки нужны огромные вычислительные мощности, и с полной уверенностью инвестировали в Nvidia. Все счастливы, инвесторы получают иксы, Nvidia обгоняет Apple по капитализации.

И тут внезапно группа китайцев показывает всему миру, что дело не в горячих видеокартах, а в светлых умах и надлежащей оптимизации. Крах, слёзы, отчаяние, и падение капитализации Nvidia в $600 миллиардов. А у инвесторов лишь один резонный вопрос: “Альтман, какого чёрта?” (p.s. Сэм Альтман это со-основатель и со-руководитель ChatGPT, самого популярного нейросетевого ассистента)

Что за взлом?

Оставаясь белой вороной DeepSeek не особо интересовал исследовательские компании вплоть до Января 2025 года, когда Wiz Research обнаружил утечку конфиденциальной информации из базы данных DeepSeek, включая историю сообщений и прочей, “Крайне чувствительной” по словам исследователей информации. Всё оказалось довольно иронично, светлые умы из Китая просто не установили пароли на публично доступные инстансы базы данных ClickHouse. Зная адреса, к ним мог обращаться кто угодно и творить что угодно, от кражи логов чатов пользователей и внутренней информации компании, до получения полного контроля над инфраструктурой DeepSeek.

Если всё ещё не понятно что именно взломали и насколько это было просто, я объясню простым языком: представь что нейронка это огромный офис компании, у неё есть главный вход (это сайт компании, доступный по стандартным портам 80 и 443, которые нужны, чтобы люди могли заходить на сайт). Но у каждого офиса есть служебные входы: черный ход для сотрудников, техническая дверь для серверов, вентиляционные шахты (в нашем случае — порты 8123 и 9000). Обычно эти двери закрыты, но DeepSeek это вам не Microsoft, они оставили эти двери открытыми. Специалисты Wiz Research просто обошли здание и без проблем вошли в эти служебные двери, которые вели прямо к кабинету со всеми секретными документами, логами, запросами пользователей, в общем всем, что никто кроме сотрудника видеть не должен.

До сих пор неизвестно, воспользовался ли кто то кроме исследователей этой уязвимостью

Самое забавное, что будучи новыми игроками, DeepSeek не имеют никаких форм обратной связи для СМИ. Исследователи Wiz говорят, что они даже не знали, как сообщить о своих выводах компании, и просто отправили информацию об уязвимости на все адреса электронной почты и в профили LinkedIn DeepSeek, которые смогли найти или угадать. На момент написания статьи уязвимость уже закрыта, но никто из DeepSeek так и не ответил на обращения СМИ и исследователей.

Чем это чревато?

Взлом мощной ИИ-системы это не просто утечка данных, а потенциальная угроза безопасности на глобальном уровне. Чем глубже ИИ интегрируется в повседневную жизнь, тем опаснее становятся такие атаки.

Правительства постепенно открывают глаза на угрозу конфиденциальности своих граждан, так Итальянский регулятор по защите данных направил DeepSeek ряд вопросов о том, откуда компания получает данные для обучения, включена ли в них личная информация пользователей. Ответа дожидаться видимо не стали, поскольку приложение стало недоступно в стране. Политический ли это шаг, в контексте холодной войны ИИ между США и Китаем, либо же нейросети начинают восприниматься серьёзнее чем просто инструмент для работы, доподлинно неизвестно.

Думай дважды прежде чем делиться своими данными с нейросетью и жми “Подписаться на mad.online”, это совсем бесплатно и безопасно 😏