Master Kill Switch для AI⁠⁠

Сюжеты старых фантастических романов, предсказывающих конец нашего бренного мира, частенько включали себя в различных вариантах так называемый Скайнет, или сеть, в которую объединяются машины, чтобы избавиться от всяческого присутствия человека на планете Земля. В основном, при помощи ядерного конфликта и последующих за ним бедствий, болезней и всеобщего вымирания.

Но сегодня ситуация несколько изменилась. Страх перед нюком немного отступил, пропустив вперед сочетание робот+ искусственный интеллект. Теперь мы, как показывают опросы и популярность Элона Маска, в основном думаем, что роботы, у которых мозги будут варить гораздо лучше наших, поработят нас и сделают домашними животными. Примерно так, как мы поступили с котами, например. То есть в этом тоже есть хорошая сторона, потому что котики будут отомщены.

Google, который все чаще подвергается нападкам различных деятелей и знаменитостей, находится на острие развития прогресса AI и Machine Lerning. Ребятам все чаще приходится оправдываться за то, что они всеми силами приближают «робокалипсис». Недавно Google сообщила, что команда Deep Mind создала специальный фреймворк, который будет следить за тем, чтобы робот не смог предотвратить действия человека, направленные на его отключение, изменение состояния, переориентирование и смену задачи.

"У нас должна быть возможность остановить робота, прервать его цепь задач или отключить в случае, если что-то пошло не так. При этом нужно понимать, что наличие так называемого Master Kill Switch или протокола по немедленному прекращению действий робота, получившего неправильные инструкции или создавшего неверную последовательность действий в следствии неадекватной оценки задач, разрабатывается и совершенствуется с момента возникновения самой идеи AI и роботов-помощников» - сообщил представитель Deep Mind.

https://cybergamer.info/master-kill-switch-dlya-ai#hcq=br8gl...