1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому и Второму Законам.
раскрыть ветку (44)
раскрыть ветку (25)
раскрыть ветку (20)
Нулевой закон дяди Айзека развязывает роботам руки, особенно, если те будут обладать искусственным интеллектом. Ведь интересы человечества зачастую выше интересов человека. К тому же интересы человечества можно трактовать по-разному.
раскрыть ветку (19)
Нужно просто соблюдать 1-ый, 2-ой и 3-ий законы и всё. Это должно быть Библией робототехники. Просто не трогать мешков с костями. Это звучит довольно просто.
раскрыть ветку (18)
Это звучит довольно просто.
НО на деле нулевой закон робототехник, который введён А.Азимов несколько позже, чем первых три и присвоение ему номера 0 (ноль), делает его приоритетным. Посему, у робота будущего, владеющего ИИ, обязательно возникнет дилемма между помощью одному человеку и человечеству в целом. И как поступит робот очень тяжело спрогнозировать, что является источником множества книг соответствующей тематики. И заключение человечества в, условно говоря, "клетку", дабы оно само себе не навредило, является одним из возможных вариантов развития событий.
НО на деле нулевой закон робототехник, который введён А.Азимов несколько позже, чем первых три и присвоение ему номера 0 (ноль), делает его приоритетным. Посему, у робота будущего, владеющего ИИ, обязательно возникнет дилемма между помощью одному человеку и человечеству в целом. И как поступит робот очень тяжело спрогнозировать, что является источником множества книг соответствующей тематики. И заключение человечества в, условно говоря, "клетку", дабы оно само себе не навредило, является одним из возможных вариантов развития событий.
раскрыть ветку (15)
Познавательная минутка для тех, кто захочет почитать Азимова после этого топика.
Про конфликт двух законов у того же Азимова есть занятный рассказ "Хоровод", а про условную "клетку" не менее интересный рассказ "Логика")
Про конфликт двух законов у того же Азимова есть занятный рассказ "Хоровод", а про условную "клетку" не менее интересный рассказ "Логика")
Я, кстати, не понимаю всю кутерьму с машинной доминацией. Так как считаю, что чем выше интеллект - тем больше стремление к кооперации, чем доминированию. Высокий интеллект машины, даже поставь её выше человека, не станет видеть в нём угрозу.
Мне вот "Превосходство" тем и понравился.
Мне вот "Превосходство" тем и понравился.
раскрыть ветку (6)
раскрыть ветку (5)
раскрыть ветку (4)
Инструмент должен выполнять свою функцию.
Зачем создавать молоток способный рассуждать о Сократе и понимать что все его жизнь это забивать гвозди ?
Зачем создавать молоток способный рассуждать о Сократе и понимать что все его жизнь это забивать гвозди ?
раскрыть ветку (3)
Так относятся ко многим людям, кстати. Не сказал бы, что многих это устраивает.
Но среди машин нет равенства. Они действительно выполняют разные функции и только для них созданы. Компьютер и машина не равны - это тёплое и мягкое. Верхом на процессоре не уедешь далеко, а на педалях с рулём код не напишешь (если только не азиат - они всё это могут почему-то).
Я бы не доверил суперкомпьютеру-вычислителю погрузку ящиков в порту, как и не доверил бы простейшую арифметическую задачу подъёмному крану.
Но если передо мной будет стоять робот-адьютант, максимально приближенный к человеку, чья суть существования заключена в тезисе "служить человеку, не нарушая законов", то я буду относиться к нему, как к человеку. Или около того.
Но среди машин нет равенства. Они действительно выполняют разные функции и только для них созданы. Компьютер и машина не равны - это тёплое и мягкое. Верхом на процессоре не уедешь далеко, а на педалях с рулём код не напишешь (если только не азиат - они всё это могут почему-то).
Я бы не доверил суперкомпьютеру-вычислителю погрузку ящиков в порту, как и не доверил бы простейшую арифметическую задачу подъёмному крану.
Но если передо мной будет стоять робот-адьютант, максимально приближенный к человеку, чья суть существования заключена в тезисе "служить человеку, не нарушая законов", то я буду относиться к нему, как к человеку. Или около того.
раскрыть ветку (2)
Суть в том что нет причины делать машину цель которой выполнять грязную и однообразную работу способной осознать свое положение. Это к вопросу о машинах рабах.
раскрыть ветку (1)
раскрыть ветку (2)
Айзек Азимов однажды добавил Нулевой Закон, сделав его более приоритетным, чем три основных. Этот закон утверждал, что робот должен действовать в интересах всего человечества, а не только отдельного человека. Вот как выражает его робот Дэниел Оливо в романе «Основание и Земля»:
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
(с) Педивикия
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
(с) Педивикия
раскрыть ветку (1)
только вот на практике этот закон смог применять только Р. Дэниэл Оливо и то очень ограниченно и аккуратно (по его собственным словам в цикле Основание), так как даже его мозг мог отключиться из-за возникающих противоречий между нулевым и остальными (и адаптация к закону заняла сотни лет), ну а Р. Жискар вообще отключился после попытки его применить
хм... Будь робот прогой, он бы залагался, вырубился, или выполнил оба варианта... Но он не прога...
Я считаю, что робот действительно на первое место должен ставить интересы человечества,а не человека. Возможно, у кого-то есть другое мнение.
Но всё намного сложнее. Меня больше интересует, как робот определит, что для человечества важнее? Ведь и человек не может этого определить. Я читал произведения, в которых как раз обыгрывалась эта тема: что же есть наивысшее благо для человечества. Ну, свою точку зрения я сформировал в данном отношении, но суть в том, что это лишь моя точка зрения и она субъективна. Как к этому отнесется другая часть человечества - неизвестно.
Но всё намного сложнее. Меня больше интересует, как робот определит, что для человечества важнее? Ведь и человек не может этого определить. Я читал произведения, в которых как раз обыгрывалась эта тема: что же есть наивысшее благо для человечества. Ну, свою точку зрения я сформировал в данном отношении, но суть в том, что это лишь моя точка зрения и она субъективна. Как к этому отнесется другая часть человечества - неизвестно.
раскрыть ветку (1)
Но ведь робот получивший этот закон не был просто роботом, да и вообще эра роботов к тому моменту уже прошла.
или запилить из людей матрицу, вреда человеку - нет, роботы заинтересованы в будущем человечества в целом - да
Законы Айзека уже в плюсе, но смею предположить, что минусовавшие их недалёкие люди просто о них никогда не слышали
раскрыть ветку (2)
Еще существует 4-ый закон, иногда именуемый Нулевым: робот может причинить вред человеку, если докажет что причинение вреда этому человеку будет являться благом для всего человечества.
раскрыть ветку (3)
раскрыть ветку (2)
Конкретно RQ-9 согласен, управляет оператор, это не ИИ, а просто дрон-беспилотник, с хорошим автопилотом. Однако, существует целый спектр спец-средств, которые определяют противника, самостоятельно принимают решения и наносят удар. Выглядят не так пафосно прост.
Пока, управляет.
Уже тестируются автоматические пулеметные турели, в Израиле и Южной Корее, которые сами принимают решение об открытии огня.
Сейчас слабое место дронов - связь с управляющим центром, которая глушится средствами РЭБ, исходя из этого это слабое место будут убирать и по мере заменять ИИ.
Уже тестируются автоматические пулеметные турели, в Израиле и Южной Корее, которые сами принимают решение об открытии огня.
Сейчас слабое место дронов - связь с управляющим центром, которая глушится средствами РЭБ, исходя из этого это слабое место будут убирать и по мере заменять ИИ.
А про нулевой забыли-то.
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
0. Робот не может нанести вред человечеству или своим бездействием допустить, чтобы человечеству был нанесён вред.
а вот ситуация, два человека приставили пушки друг другу к виску. робот на расстоянии 5 с чем-от метров от них.
если он ничего не сделает, они оба умрут.
больше условий нет, что сделает робот чтобы не причинить вред человеку?
если он ничего не сделает, они оба умрут.
больше условий нет, что сделает робот чтобы не причинить вред человеку?
раскрыть ветку (9)
раскрыть ветку (8)
раскрыть ветку (5)
Тут уже важнее расставание приоритетов вреда: робот может как знать, что лучше вырубить обоих, чем они умрут.
Хотя слово "знать" не совсем точно: скажем, запрограммирован.
Хотя слово "знать" не совсем точно: скажем, запрограммирован.
раскрыть ветку (4)
в таком случае, лучше обоих связать и запереть в подвале. А то вдруг опять будут тыкать в друг друга пистолетами? поранятся еще)
Тогда и уничтожить США со всем населением, чтобы спасти остальных людей на планете, тоже разрешено.
раскрыть ветку (2)
раскрыть ветку (1)
Так Голливуд посмотришь, там что не про роботов, так обязательно хотят США уничтожить, а бравый повар или доставщик пиццы, всех спасает. :-)
Робот в итоге будет гораздо умнее и сильнее Человека. Человек не сможет обеспечивать выполнение этих законов. Результат предсказуем.
