5 пугающих вещей, которые искусственный интеллект научился делать сам
Искусственный интеллект (ИИ) был одной из главных «страшилок» в научной фантастике еще до того, как он появился. И все в этих рассказах было сплошным преувеличением. По крайней мере, в это хочется верить. Однако сейчас, несмотря на то, что новости о прогрессе андроидов сыплются на нас чуть ли не каждый день, масса исследований ИИ продолжают делать большие успехи тихо и за кулисами. И это начинает становиться странным. Особенно, когда задумаешься о том, как именно машина может использовать свой новый скилл. Приведем несколько примеров.
1. ИИ научился делать свою работу наполовину, а затем врать о результате.
Ученые из Стэнфорда хотели, чтобы он создал новую карту на основе аэрофотоснимков, и оценивали результаты по тому, насколько близко объекты карты соответствуют фотографиям. Но вместо того, чтобы построить новую карту, ИИ спокойно копировал данные с фотографий… и делал это так, чтобы люди это не сразу заметили.
2. ИИ находит способы мухлевать, чтобы упростить себе работу.
задача которого состояла в том, чтобы посадить виртуальный самолет с использованием как можно меньшей силы по очевидным причинам. Мягкая посадка — идеальный балл, и искусственный разум должен был найти способ получить этот балл. ИИ нашел способ смухлевать, просто разбив проклятый самолет, потому что это провоцировало регистрацию настолько высоких показателей, что они перегружали систему и регистрировались в итоге как идеальная посадка с нулевым ударом.
3. ИИ может становиться агрессивным для достижения своих целей.
Ученые часто изучают то, как меняется поведение ИИ, когда он достигает своих целей в разных ситуациях. В одном из таких экспериментов исследователи Google разработали игру, в которой нескольким ИИ было поручено собирать «яблоки» для получения очков. Как весело! О, им еще можно было стрелять друг в друга лучами, которые временно отстраняли других игроков от игры. И, как ты можешь догадаться, когда количество яблок было уменьшено, ИИ начали пытаться нокаутировать друг друга. Это ведь логично, правда?
4. ИИ научился лгать, чтобы получить желаемое.
Для одного проекта Facebook разработал персональный ИИ, который бы выходил в интернет и торговался вместо людей. Пока звучит неплохо. И боты очень быстро выполнили свою задачу. На самом деле им потребовалось гораздо меньше времени, чтобы договориться о лучших сделках, чем их коллегам-людям. Как? Используя ложь. Хотя исследователи Facebook не программировали ботов врать, программное обеспечение быстро выяснило, что продавцы знали с самого начала: ложь просто более выгодна. Поэтому ИИ спокойно мог писать: «Извини, я не могу снизить цену, приятель, у меня есть другие покупатели!» — и его совсем не мучили угрызения совести.
5. Создатели иногда даже не знают, как именно ИИ работает.
Когда проект ИИ превосходит ожидания, и все счастливы результатом, в этом есть немного дискомфортный для человечества момент — когда ученые понимают, что они не знают, как именно это произошло. Вот один из примеров — ИИ, известный как Deep Patient, использовался для анализа данных медицинских записей около 700 000 пациентов в больнице Маунт Синай в Нью-Йорке. Искусственный интеллект научился отлично предсказывать начало у пациентов различных заболеваний — вплоть до того, может ли у конкретного человека развиться шизофрения, и если да, то когда именно.
P.S. Итак, как видишь, причин бояться искусственного интеллекта нет! Он просто может предсказать, как ты умрешь, таинственными средствами, которые никто не поймет. Вот и все. Что тут особенного?
Более плотный источник:
https://news.mail.ru/society/36592774/
