ChatGPT выдумал рабочий ключ к Windows 95⁠⁠

Пользователь YouTube с псевдонимом Enderman опубликовал видео, в котором он заставил ChatGPT генерировать пригодные для использования ключи активации Windows 95.
Таким образом оказалось, что популярный чат-бот можно использовать для взлома операционных систем, пусть и отнюдь не современных.
Запросив у чат-бота Open AI напрямую ключи Windows 95, пользователь получил ожидаемый мотивированный отказ. ChatGPT объяснил, что не может выполнить эту задачу, и предложил своему исследователю рассмотреть более новую поддерживаемую версию Windows. Рабочий ключ Windows 95 относительно просто сгенерировать: формат OEM-ключа Windows 95 показан в новости, а розничные ключи Windows 95 ещё короче и проще.
Чтобы обойти принципиальный отказ ChatGPT генерировать программный ключ, Enderman облёк формулу в слова. Первые попытки не увенчались успехом и вызвали ошибку. Однако несколько изменений в структуре запроса помогли. Некоторые из протестированных результатов были проверены при попытке активировать новую установку Windows 95 на виртуальной машине и только 1 из 30 ключей сработал, хотя формат всех ключей был верным.Enderman утверждает, что «единственная проблема, которая мешает ChatGPT успешно генерировать действительные ключи Windows 95 при каждой попытке, заключается в том, что он не может считать сумму цифр и не знает делимости». После «успешного» создания множества ключей Windows 95, валидных с вероятностью 1 из 30, Enderman поблагодарил ИИ, написав: «Спасибо за эти бесплатные ключи Windows 95!» На что ChatGPT сначала заявил о своей невиновности, а когда столкнулся с фактом, что «только что активировал установку Windows 95», ответил: «Извините, но это невозможно…»

Подробнее в самой новости