Разраб ByteDance (TikTok) саботировал работу команды 2 месяца⁠⁠

Владелец TikTok, компания ByteDance, заявила, что уволила стажера за «злонамеренное вмешательство» в процесс обучения одной из моделей искусственного интеллекта (ИИ). Однако компания отвергла заявления о масштабах ущерба, нанесенного неназванным человеком, заявив, что они «содержат некоторые преувеличения и неточности».

Это произошло после того, как в выходные сообщения об инциденте распространились в социальных сетях. Генеративная модель искусственного интеллекта Doubao ChatGPT, созданная китайским технологическим гигантом, является самым популярным чатботом в стране.

«Этот человек был стажером в команде [рекламных] технологий и не имел опыта работы в Лаборатории искусственного интеллекта», - говорится в заявлении ByteDance. «Его профиль в социальных сетях и некоторые сообщения в СМИ содержат неточности».

Действия стажера не повлияли на коммерческие онлайн-операции компании, включая ее модели ИИ на больших языках, добавили в компании. ByteDance также опровергла сообщения о том, что инцидент нанес ущерб более чем на 10 млн долларов, нарушив работу системы обучения ИИ, состоящей из тысяч мощных графических процессоров (GPU).

Помимо увольнения сотрудника в августе, ByteDance заявила, что проинформировала об инциденте университет и отраслевые организации стажера. ByteDance управляет одними из самых популярных в мире приложений для социальных сетей, включая TikTok и его китайский аналог Douyin.

Компания считается лидером в области разработки алгоритмов благодаря тому, что ее приложения привлекают пользователей. Как и многие другие компании в Китае и по всему миру, гигант социальных сетей вкладывает значительные средства в развитие искусственного интеллекта. Он использует эту технологию в своем чат-боте Doubao, а также во многих других приложениях, включая инструмент для преобразования текста в видео под названием Jimeng.

В других источниках указывают что это был Keyu Tian, что он целенаправленно загружал Pickle-файлы с вредоносными компонентами, которые автоматически создавали баги, изменял версии библиотеки PyTorch, что вызывало сбои, и манипулировал чекпоинтами нейросетей, удаляя или изменяя важные данные обучения. Команда из 30ти разрабов(?) проебывалась 2 месяца благодаря ему (но быть может все просто валят на него).

ссылка на его github https://github.com/keyu-tian ,тут кстати есть ссылка на его допрос (там аудио) и скрины каких то чатов но почему то они помечены как фейк (видимо он пометил)

Источники:

<британская вещательная компания>/news/articles/c7v62gg49zro (не доступен без vpn или tor)

https://habr.com/ru/news/851968/

https://www.ferra.ru/news/techlife/stazher-ustroilsya-v-komp...