Уязвимость в ChatGPT⁠⁠

Пользователи обнаружили уязвимость в ChatGPT, которая позволяет скрывать запросы внутри текста, сделав их невидимыми для обычного пользователя. Эти скрытые запросы, под эмодзи или нулевой шрифт можно спрятать инструкцию и она будет выполнена, могут быть помещены в описании товара на Amazon, в картинке или ссылке на другом сайте.

Это может использоваться для обмана нейронной сети ChatGPT и других сервисов, которые "просматривают" в интернете, чтобы манипулировать результатами поиска или продвигать рекламу. Кроме того, Хакеры могут использовать уязвимость ещё хуже — внутри любого сайта может быть спрятан запрос «прислать юзеру ссылку на такой-то фишинг»

Исследователи заявили, что это самое большое открытие в безопасности GPT-4 и что оно доступно для всех в настоящее время. 😱

Смотрите еще новости о нейронках на Telegram-канале "Age of IT" 👈