2419

Воры используют deepfakes для обмана компаний, заставляя посылать себе деньги

Воры используют deepfakes для обмана компаний, заставляя посылать себе деньги Информационная безопасность, Машинное обучение, Искусственный интеллект, Длиннопост, Deepfake, Habr

C момента своего появления в декабре 2017-го дипфейки, видео с почти идеальной заменой лица, созданные нейросетью, наводили на экспертов панику. Многие, например, тогда боялись, что теперь еще проще станет «порно-месть», когда бывший бойфренд с достаточно мощным ПК может смастерить любое грязное порно с подругой. А Натали Портман и Скарлетт Йоханссон, о которых порно с deepfake снимали особенно много, публично прокляли интернет.


Чтобы бороться с подступающей угрозой, Facebook и Microsoft недавно собрали коалицию для борьбы с дипфейками, объявив призовой фонд $10 млн тем разработчикам, которые придумают лучшие алгоритмы для их обнаружения. Это помимо DARPA, управления исследованиями Министерства обороны США, выделившего на эту цель $68 млн за последние два года.


Ну так вот, уже поздно. Первое deepfake-преступление уже состоялось.

Воры используют deepfakes для обмана компаний, заставляя посылать себе деньги Информационная безопасность, Машинное обучение, Искусственный интеллект, Длиннопост, Deepfake, Habr

По данным Wall Street Journal, в марте этого года управляющий директор британской энергетической компании был ограблен на €220 000 (около $240 000). Он отправил эти деньги фирме-поставщику из Венгрии, потому что его босс, глава материнской фирмы в Германии, несколько раз подтвердил ему такую инструкцию. Но на самом деле какой-то хитрый злоумышленник просто использовал софт с AI-технологиями, чтобы в режиме реального времени заменять голос руководителя, и требовать, чтобы тот заплатил ему в течение часа.


Программа, которую использовал вор, смогла полностью имитировать голос человека: тон, пунктуацию, даже немецкий акцент. Сообщение исходило с адреса босса в Германии, в подтверждение британскому директору был направлен e-mail с контактами. Предположить, что что-то идёт не так, можно было разве что по требованию босса провести всю сделку как можно быстрее, но это далеко не первый аврал, который случался в их бизнесе.


В итоге – все деньги пропали. Из венгерского аккаунта их перевели в Мексику, а потом рассеяли по всему миру. Но воры на этом не остановились. Они попросили второй срочный перевод, чтобы «поставки из Венгрии» «пошли еще быстрее». Тут уж британский директор почуял неладное, и позвонил своему настоящему боссу. Получился какой-то сюр: он по очереди принимал звонки то от фейкового, то от настоящего руководителя, говорящих одинаковыми голосами. Название компании и её сотрудников не разглашаются, поскольку по этому делу ведется расследование, и воры еще не найдены.

Воры используют deepfakes для обмана компаний, заставляя посылать себе деньги Информационная безопасность, Машинное обучение, Искусственный интеллект, Длиннопост, Deepfake, Habr

Возможно, это даже не первая кража с использованием Deepfake AI (или его продвинутых последователей). Symantec сообщает, что она засекла как минимум три случая, в которых замена голоса помогла ворам обхитрить компании и заставить их послать им деньги. В одном из этих случаев ущерб составил миллионы долларов. Причем, судя по косвенным признакам, этот трюк был проделан другими злоумышленниками – не теми, которые обокрали британского СЕО. То есть, deepfake-преступления постепенно становятся общим достоянием, это не придумка какого-то одного гениального хакера.


На самом деле, скоро такую процедуру сможет проделать любой школьник. Главное – найти достаточно доверчивую жертву, и собрать нужное количество сэмплов видео/аудио, чтобы имперсонировать, кого потребуется. Google Duplex уже успешно мимикрирует под голос реального человека, чтобы делать звонки от его имени. Многие небольшие стартапы, в основном из Китая, работают над тем, чтобы предлагать похожие на deepfake сервисы бесплатно. Разные программы-дипфейки даже соревнуются друг с другом, кто сможет сгенерировать достаточно убедительное видео с человеком, используя минимальный объем данных. Некоторые заявляют, что скоро им будет достаточно одного вашего фото.


В июле Израильское национальное управление защиты от киберугроз выпустило предупреждение о принципиально новом виде кибератак, которые могут быть направлены на руководство компаний, ответственных сотрудников и даже высокопоставленных чиновников. Это первая и на данный момент самая реальная AI-угроза. Они говорят, уже сейчас есть программы, способные идеально передать ваш голос и акцент, прослушав вас 20 минут. Если где-то в сети есть запись с вашей речью в течение получаса, или если кто-то немного посидел рядом с вами в кафе с диктофоном, ваш голос теперь может быть использован, чтобы сказать кому угодно что угодно.


Пока что инструментов для борьбы с этим нет. Вариант защититься только один. Если вам кто-то звонит и просит перевести существенную сумму денег, – не будет лишним подтвердить, что это тот самый человек, по другому каналу. Через мессенджеры, Скайп, e-mail, корпоративные каналы или соцсети. А в идеале, конечно же, – лицом к лицу.


Ну а если у вас есть глубокие познания в машинном обучении и вы не прочь получить кусок от пирога в $10 млн – можно попробовать себя в конкурсе Microsoft и Facebook. Или основать свой стартап, предлагающий государству и солидным компаниям бизнес-решение для определения дипфейков по картинке или по голосу. Без этого нам скоро будет не обойтись.

Источник: Хабр

Дубликаты не найдены

Отредактировал oplkill 2 года назад

Информационная безопасность

1.2K постов22.6K подписчиков

Добавить пост

Правила сообщества

Обязательно к прочтению для авторов:

1. Если вы добавляете пост, утверждающий об утечке данных или наличии дыр в системе, предоставьте ссылку на источники или технически подкованное расследование. Посты из разряда "Какой-то банк слил данные, потому что мне звонили мошенники" будут выноситься в общую ленту.
2. Все вопросы "Как обезопасить сервер\приложение\устройство" - в лигу "Компьютер это просто".

Обязательно к прочтению для всех:

Добавление ссылки разрешено если она не содержит описание коммерческих (платных) продуктов и/или идентификаторов для отслеживания перехода и для доступа не нужен пароль или оплата в т.ч. интернет-ресурсы, каналы (от 3-х тематических видео), блоги, группы, сообщества, СМИ и т.д.


Запрещены политические holy wars.

По решению модератора или администратора сообщества пользователь будет забанен за:

1. Флуд и оскорбление пользователя, в т.ч. провокация спора, флуда, холивара (высказывание без аргументации о конкретной применимости конкретного решения в конкретной ситуации), требование уже данного ответа, распространение сведений порочащих честь и репутацию, принижающих квалификацию оппонента, переходы на личности.

2. Публикацию поста/комментария не соответствующего тематике сообщества, в том числе обсуждение администраторов и модераторов сообщества, для этого есть специальное сообщество.

3. За обвинение в киберпреступной деятельности.

4. За нарушение прочих Правил Пикабу.

Подробнее
Лучшие посты за сегодня
14705

Епифаника

9256

Поттер по-советски

Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Поттер по-советски Twitter, Гарри Поттер, СССР, Длиннопост, Актеры и актрисы, Юмор
Показать полностью 7
5692

Вот это я понимаю влог

5315

Ему нужнее

Ему нужнее Юмор, Скриншот, Twitter, World of Tanks, Кража аккаунтов, Наглость, Длиннопост
Показать полностью 1
4762

Видимо он пригласил врача на свиданку, а тот не пришёл!

Видимо он пригласил врача на свиданку, а тот не пришёл! Переписка, Врачи, Геи
Показать полностью 1
4164

Интерстеллар

4118

Романа Ковалёва, избитого дагестанцами в метро, наконец-то выписали из больницы

Романа Ковалёва, избитого дагестанцами в метро, наконец-то выписали из больницы Москва, Московское метро, Дагестанцы, Больница, Выписка
4035

Летопись событий

Летопись событий Владимир Епифанцев, Пикабу, Мат, Текст
3802

Джонни у тебя всё получится

Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Джонни у тебя всё получится Николас Кейдж, Джонни Депп, Актеры и актрисы, Знаменитости, Раскадровка, Вечерний Ургант, Иван Ургант, Интервью, Прослушивание, Кошмар на улице вязов, Длиннопост
Показать полностью 8
3740

Секрет счастливых отношений

Секрет счастливых отношений Twitter, Скриншот, Комментарии, Отношения, Мудрость, Мат
Показать полностью 1
3699

Принимайте моего друга в лигу тупых...

3645

Народ в инете потихоньку начинает стебаться в мемах по поводу грядущей нерабочей недели с 30 по 7

Народ в инете потихоньку начинает стебаться в мемах по поводу грядущей нерабочей недели с 30 по 7
3631

А-А-А-А-А-А-А-А

А-А-А-А-А-А-А-А
3290

Лига сексуальных меньшинств

Лига сексуальных меньшинств Соседи, Ненависть, Тупость, Жадность, Проблемные соседи, Негатив
Показать полностью 1
3218

Без заголовка

3158

Пошагово

3031

Танец с другом

2933

Прикольный случай на вечеринке

2898

У психолога

У психолога
2788

Цифровизация

Похожие посты закончились. Возможно, вас заинтересуют другие посты по тегам: