«Робот сочинит симфонию?»
Этот вопрос задал герой фильма, поставленного по мотивам сборника рассказов Азимова в 2009-м году.
Прошло 15 лет:
Этот вопрос задал герой фильма, поставленного по мотивам сборника рассказов Азимова в 2009-м году.
Прошло 15 лет:
Когда я думаю о влиянии интернета на обучение нейросетей, возникают опасения относительно того, какие идеи и установки могут быть переданы будущим роботам. Ведь если нейросети извлекают информацию из различных источников, то они могут подхватить и негативные тренды, такие как грубость и расизм. Например, если сеть обучается на комментариях из социальных сетей, где преобладают агрессивные высказывания, то она может начать репродуцировать подобное поведение.
Интересно большие корпорации придерживаются 3х правил робототехники написанных писателем Айзеком Азимовым:
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
P.S. Мало кто знает но Айзек Азимов однажды добавил Нулевой Закон, сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества, а не только отдельного человека:
0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.
Справились? Тогда попробуйте пройти нашу новую игру на внимательность. Приз — награда в профиль на Пикабу: https://pikabu.ru/link/-oD8sjtmAi
Небольшой рассказ в жанре антиутопии, весьма популярном в 1970-х. Суперкомпьютер Мультивак взял на себя опеку над человечеством. Отныне люди не знают бед, им не нужно заботиться о пропитании, каждый волен заниматься, чем захочет. Однако есть группа диссидентов, которых это не устраивает, и они решают Мультивак уничтожить. Эти люди не хотят жить в «золотой клетке», но как справиться с всесильным компьютером также не понимают.
Мне понравилось, как автор показал это самое общество несогласных. Они много размышляют о положении вещей, хотят сбросить опеку Мультивака, но при этом ничего не предпринимают. Когда же один из них все же переходит от слов к делу, диссиденты встречают его лишь гневом, растерянностью и непониманием. Вся проблема в том, что многие оказались не готовы вновь оказаться предоставленными самим себе. Самим принимать решения – это нелегкий труд. Многие задумались, что же лучше: «золотая клетка» или голодная свобода.
Итог: Довольно стандартный антиутопический рассказ, написанный тем не менее с немалым мастерством. Автор виртуозно обличает пороки человека и нежелание брать на себя ответственность за собственную судьбу.
"1.Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам."
Я бы хотел обсудить закон №1.
Там вроде как стоит оператор "ИЛИ"
Рассмотрим ситуацию: Первый человек нападает на второго человека. Какие варианты действия робота?
1. Робот стоит в сторонке курит бамбук. Он же не навредил человеку? Значит все ок "ИСТИНА" - робот молодец.
2. Робот пристрелил нападающего. Вроде навредил человеку №1, но при этом не допустил своим бездействием, что бы человеку №2 был причинен вред. Значит тоже "ИСТИНА" - робот молодец.
Или я в корне не верно понимаю этот закон?
Но как мне кажется, здесь заложена некоторая коллизия и у робота появляется свобода выбора на основе каких то других данных. Возможно, если при обработке данной коллизии робот будет основываться на своем накопленном "опыте"(нейронные сети), то это и будет первый шаг к ИИ?
▶️На Авроре, центральном мире космонитов, произошло «роботоубийство». Кто-то намеренно уничтожил мозг человекоподобного робота. Как считает доктор Фастольф, на то что бы такое сделать, на всей планете хватить знаний только у него самого. Но он это не делал. Фастольф – лидер политического движения помощи землянам, и правительству Земли очень не выгодно лишаться его поддержки и оно посылает проверенного уже человека. Бейли должен любой ценой распутать это деликатное дело.
Аудиокниги :