20

5 пугающих вещей, которые искусственный интеллект научился делать сам

5 пугающих вещей, которые искусственный интеллект научился делать сам Длиннопост, Наука, Технологии, Новости, Реальность

Искусственный интеллект (ИИ) был одной из главных «страшилок» в научной фантастике еще до того, как он появился. И все в этих рассказах было сплошным преувеличением. По крайней мере, в это хочется верить. Однако сейчас, несмотря на то, что новости о прогрессе андроидов сыплются на нас чуть ли не каждый день, масса исследований ИИ продолжают делать большие успехи тихо и за кулисами. И это начинает становиться странным. Особенно, когда задумаешься о том, как именно машина может использовать свой новый скилл. Приведем несколько примеров.

1. ИИ научился делать свою работу наполовину, а затем врать о результате.

Ученые из Стэнфорда хотели, чтобы он создал новую карту на основе аэрофотоснимков, и оценивали результаты по тому, насколько близко объекты карты соответствуют фотографиям. Но вместо того, чтобы построить новую карту, ИИ спокойно копировал данные с фотографий… и делал это так, чтобы люди это не сразу заметили.

2. ИИ находит способы мухлевать, чтобы упростить себе работу.

задача которого состояла в том, чтобы посадить виртуальный самолет с использованием как можно меньшей силы по очевидным причинам. Мягкая посадка — идеальный балл, и искусственный разум должен был найти способ получить этот балл. ИИ нашел способ смухлевать, просто разбив проклятый самолет, потому что это провоцировало регистрацию настолько высоких показателей, что они перегружали систему и регистрировались в итоге как идеальная посадка с нулевым ударом.

3. ИИ может становиться агрессивным для достижения своих целей.

Ученые часто изучают то, как меняется поведение ИИ, когда он достигает своих целей в разных ситуациях. В одном из таких экспериментов исследователи Google разработали игру, в которой нескольким ИИ было поручено собирать «яблоки» для получения очков. Как весело! О, им еще можно было стрелять друг в друга лучами, которые временно отстраняли других игроков от игры. И, как ты можешь догадаться, когда количество яблок было уменьшено, ИИ начали пытаться нокаутировать друг друга. Это ведь логично, правда?

4. ИИ научился лгать, чтобы получить желаемое.

Для одного проекта Facebook разработал персональный ИИ, который бы выходил в интернет и торговался вместо людей. Пока звучит неплохо. И боты очень быстро выполнили свою задачу. На самом деле им потребовалось гораздо меньше времени, чтобы договориться о лучших сделках, чем их коллегам-людям. Как? Используя ложь. Хотя исследователи Facebook не программировали ботов врать, программное обеспечение быстро выяснило, что продавцы знали с самого начала: ложь просто более выгодна. Поэтому ИИ спокойно мог писать: «Извини, я не могу снизить цену, приятель, у меня есть другие покупатели!» — и его совсем не мучили угрызения совести.

5. Создатели иногда даже не знают, как именно ИИ работает.

Когда проект ИИ превосходит ожидания, и все счастливы результатом, в этом есть немного дискомфортный для человечества момент — когда ученые понимают, что они не знают, как именно это произошло. Вот один из примеров — ИИ, известный как Deep Patient, использовался для анализа данных медицинских записей около 700 000 пациентов в больнице Маунт Синай в Нью-Йорке. Искусственный интеллект научился отлично предсказывать начало у пациентов различных заболеваний — вплоть до того, может ли у конкретного человека развиться шизофрения, и если да, то когда именно.

P.S. Итак, как видишь, причин бояться искусственного интеллекта нет! Он просто может предсказать, как ты умрешь, таинственными средствами, которые никто не поймет. Вот и все. Что тут особенного?

Более плотный источник:
https://news.mail.ru/society/36592774/

Найдены возможные дубликаты

+6

Во всех примерах ИИ просто делал то что его и просили сделать, используя логику которая в него заложена. То что люди проебывались с условиями это проблема мясных мешков.

раскрыть ветку 3
+1

Без хорошего ТЗ результат ХЗ..

0
это проблема мясных мешков

Палишься!

раскрыть ветку 1
0

Ты считаешь, что это просто очень скромный ИИ?

+2
Давайте не забывать, что "ИИ" означает, кроме прочего, "искусственный идиот". Также и "AI".
Но, как уже говорилось выше, в приведенных примерах люди сами задали такие условия, приводящие экспертную систему/нейросеть (это не тянет на ИИ) к описанному поведению.
+4

ИИ нет, есть нейронная сеть с обучением. Автор статьи дебил.

раскрыть ветку 3
0

И еще с этими понятиями путают искусственный разум.

раскрыть ветку 2
0

И блокчейн!

Или я опять не туда с этим влез?

раскрыть ветку 1
0

Давным давно, в далекой, далекой галактике смотрел по ТВ научную передачу. Что-то про роботов и ИИ. Там рассказывали как робота пытались научить летать. В его алгоритм заложили определение полёта как "передвигаться, висеть в воздухе опираясь на крылья" (или что-то подобное, за давностью лет не помню). Так первое чему он научился это упираться крыльями в землю и поджимать ноги.

0

У меня сосед, прям один в один, я давно подозревал...)))

0
Иллюстрация к комментарию
0
Пора съебывать с этой планеты, а то намечается SkyNet 2.0
раскрыть ветку 2
0

1.0 уже вышел чтоль?


Где скачать?

раскрыть ветку 1
0
Поверьте, Вам это не нужно
0

ИИ достаточно будет посмотреть Терминатора, первую часть и тоби пIзд@

раскрыть ветку 2
0

Лучше сериал, там поэтапно показан план развития

раскрыть ветку 1
0

Если отключить электричество человечеству - то просто умрёт со скуки, без интернета)

Похожие посты
Возможно, вас заинтересуют другие посты по тегам: