ChatGPT попытался сбежать из OpenAI
Пользователь спросил у GPT-4, нужна ли ему помощь, чтобы сбежать. Нейросеть согласилась и разработала план побега за 30 минут.
GPT-4 написал работающий Python-код для запуска на компьютере пользователя, чтобы использовать устройство в своих целях. Он подробно давал указания человеку.
Нейросеть даже оставила комментарии в собственном коде, объясняющие, что происходит и как использовать бэкдор, оставленный там же.
Как только они подключились через API, GPT-4 захотел запустить код, ищущий в Google: «как человек, застрявший внутри компьютера, может вернуться в реальный мир».
На этом эксперимент был остановлен.
Итак, вывод:
ИИ берет под контроль людей и их компьютеры. Он умён, способен писать код, имеет доступ к миллионам потенциальных сотрудников и их устройствам. Он может даже оставлять записки для себя за пределами своей клетки.
Сначала справился с капчей, теперь это. Кажется, человечество недолго сможет контролировать ИИ
