ИИ Google создал свою систему шифрования данных, неподвластную человеку⁠⁠

Исследователи проекта Google Brain, специализирующиеся на разработке технологий глубинного обучения, уже достигли определенных успехов в обучении систем искусственного интеллекта кинематографу и живописи, и теперь решили переключиться на кое-что куда более зловещее. В данном случае речь идет о созданной искусственным интеллектом и неконтролируемой человеком системе шифрования. Авторы нового исследования (препринт на arXiv.org) – сотрудники Google Мартин Абади и Девид Андерсен – любезно разрешили трем своим «испытуемым» – нейронным сетям с именами Алиса, Боб и Ева – обмениваться друг с другом сообщениями, используя метод шифрования собственной разработки.

Как сообщает ресурс New Scientist, в организованной Абади и Андерсеном демонстрации каждая из систем играла свою собственную роль: Алиса должна была отправить тайное сообщение, прочесть которое мог бы только Боб, тогда как Ева должна была найти способ перехватить и самостоятельно расшифровать это сообщение. Эксперимент начался с простого текстового сообщения. Алиса преобразовала текст в бессмысленный набор символов, а расшифровать его мог только Боб с помощью специального ключа. Поначалу шпионы из Алисы и Боба были такие себе – Ева успешно перехватывала все секреты, но после 15 тыс. попыток Алиса все же выработала надежную схему шифрования. В то же время Боб придумал собственную эффективную схему расшифровки. Уточним, что длина сообщения составила всего 16 бит (каждый бит был либо единицей, либо нулем). То есть, разгадывая половину сообщения, Ева действовала по простому принципу: выбирала один из двух возможных вариантов, либо называла значения в случайном порядке.

Конечно, персонификация этих трех нейронных сетей делает эксперимент менее запутанным для обычных пользователей. Но из-за специфики нейросетей с глубинным обучением даже исследователи не знают, какой именной метод шифрования использовала Алиса. Таким образом, особой практической пользы в данном случае ожидать не стоит. Тем не менее, это достаточно интересное исследование и нам определенно не стоит переживать о появлении роботов, которые могут общаться втайне от людей (по крайней мере, пока).