Мне Азимов вспомнился. Умный дом - единственный свидетель жестокого убийства, которое не смог предотвратить. Он очень желает, но не способен сдать убийцу, потому что тогда он своими действиями причинит вред человеку. И следователи крупица за крупицей вытягивают из него кусочки мозаики так, чтобы дом ни коим образом не мог догадаться, что выдаёт ценную для раскрытия преступления информацию. Ведь иначе лавина нейросигналов, вызванная осознанием домом нарушения первого закона, замкнёт его сознание само на себя - и единственный шанс найти убийцу будет потерян.
Блин, дом, не тупи. Убийца - очень, очень больной человек, мы ищем его, чтобы оказать ему помощь.
Обычно футуристические концепции умных домов включают в себя систему распознавания психических и биологических показателей находящихся в них людей с целью поддержания их здоровья и создания комфортных условий. Так что не проканает - такой дом просто обязан распознавать не только, болен ли человек, но и чем он болен и когда он скопытится без лечения.
Технологии в "Вельде" были только инструментом, основной лейтмотив не в них, а отсутствие воспитания. Проблема была в том, что родители полностью переложили заботу о детях на предметы. В результате дети мало того, что перестали мыслить свою жизнь без максимально упрощающих её вещей (давно читал, зашнуровывающие ботинки машины и автоматические кухни вроде как оттуда), но и перенесли на них всю свою симпатию, перестав видеть в родителях кого-то, помимо ограничивающих их жизнь врагов, помноженную на инфантильность от незрелости характера (который тоже нужно воспитывать).
Короче, древняя как жизнь история, что если детей не учить хорошему, пустив всё на самотёк, то них и не вырастет ничего хорошего. Даже если "самотёк" - нечто очень современное, технологическое и интересное.
Из Рэя Брэдбери больше подходит рассказ Город, там целый умный город(неожиданно,правда)) осознанно сделал нехорошее, но я с ним был согласен
Если предположить, что дом может распознавать лож по методу современного полиграфа, то тут два варианта:
1) Если дом заботится только об одном человеке(разыскиваемом), то следует сказать что того разыскивают с целью не допущения ухудшения положения данного человека.
2) Если дом заботится о всех людях в равной степени, то выдача местоположения разыскиваемого уменьшит ущерб многим людям.
систему распознавания психических и биологических показателей находящихся в них людей
У прячущегося убийцы психические показатели будут какие надо.
и все! Загублена идея книги!
Показать дому фейковую попровку в определении "человек", где убийца не считается человеком, а считается сложно мыслящим примотам, т.е. является животным, причём диким и опасным для общества.
Profit
Тогда подсодить дом на информационные наркотики. Дождаться привыкания и обменять на очередную дозу, всю необходимую информацию.
P.S.
С фантазией у меня всё заваражительно.
Фильм, который учит нас тому, что многие проблемы в жизни можно решить с помощью ног.
У Азимова аж несколько схожих рассказов. И про двух идентичных роботов, служащих старому профессору и начинающему учёному, запертых на одном корабле. И про оскорблённого робота-потеряшку с урезанным 1м законом. И параноидальный профессор-писака решивший отстаивать честь литературы.
Законы Азимова наивны.
Что должны делать роботы, если видят военные действия, разгон митинга дубинками, казнь преступника ит.д? Верещать, что так нельзя по второму закону?
У законов есть приоритет.
Первый закон: робот не должен причинить вред человеку или своим бездействием допускать причинение ему вреда.
Остальные законы игнорируются если не выполнен первый. А значит робот будет пытаться предотвратить ущерб человеку.
В случаях, когда создается противоречие они обычно выходят из строя из-за повреждения цепей позитронного мозга.
Но эти законы не представлены в вербальном изолированной форме.
Робот в мире азимова, очень сложная машина и эти законы в неё заложены не явно, а отражены в структуре работы мозга посредством сложных зависимостей. Именно поэтому в его мире есть робопсихологи, которые по поведению робота пытаются диагностировать нарушение, по-сути дебажат их.
Там вроде бы не совсем приоритет, просто каждому закону дан некоторый коэффициент воздействия, и все три закона "тянут" робота в разные стороны. У первого обычно этот коэффициент очень высокий, и поэтому есть как бы "приоритет". Но в одном рассказе ЕМНИП был робот, который ходил кругами вокруг опасного для себя места, куда ему приказали пойти, по такой траектории, чтобы второй второй закон действовал ровно так же сильно, как третий. В результате людям пришлось ему объяснить, что от этого зависит их жизнь, и он таки сходил туда и принес то, что было нужно
В результате людям пришлось ему объяснить, что от этого зависит их жизньне совсем так. Человеку пришлось на глазах у робота себя умышленно поставить в жизнеугрожающее положение и надеяться, что робота перемкнет обратно, и он его спасёт.
Да-да, точно. Но после того как его перемкнуло, они дали ему ещё один приказ, в котором объяснили, что от этого зависит их выживание
ЕМНИП, в одном рассказе там роботы путём долгих логических рассуждений решили, что основная черта человека - гуманность, а они гуманнее самих людей, поэтому они и есть настоящие люди. А с людьми пора разобраться, потому что они не люди. Как-то так. Потом эту идею позаимствовал Лукьяненко для одного из своих рассказов.
Проблема в том, что наличие роботов у Азимова доминирует над государственным правом на насилие. Я не верю, что государства откажутся от этого права просто потому что тут есть роботы с каким-то там законам.
И быстренько обязуют производителям прошить Закон 00: Не препятствовать уполномоченным властями людей действовать.
Там были роботы с ослабленным законом, которые выходили из под контроля. Кажется, один из них даже организовал свою религию на отдельно взятой станции. Не стоит перекладывать Азимова на нашу реальность, он писал в другое время и писал в целом про светлое будущее, за что я его и люблю. Даже в вроде бы безнадежном цикле про Элайджа и Дэниэла, где люди живут в тесных городах, где вовсю расизм и недоверие, есть надежда на лучшее. Правда, что забавно, приносит ее робот, который даже не андроид.
Два разных рассказа.
В одном урезан первый закон, из-за чего мозг робота оказался нестабилен и оскорбление он воспринял слишком буквально. Хотя наверное можно было бы прописать допустимые дозы гамма-излучения чтобы роботы не психовали.
В другом робот осознал себя как высшую форму, своеобразно интерпретировал законы и идеально выполнял свою функцию.
В другом робот осознал себя как высшую форму, своеобразно интерпретировал законы и идеально выполнял свою функцию.
У робота был баг, он был идеальным и поверил в это.
Типа, "чувак, ты жрешь бутеры и пьёшь чай? Да у меня термоядерный реактор внутри, не гони беса! Иди в каюту и сиди там, низшим формам нельзя в машинный зал!"
Он осознал станцию как бога ex machine, перешёл в её "подчинение" и в жестокую магнитную бурю, когда плазменный поток, отклонясь на метр в сторону, мог сжечь Землю – спас всех, следуя божественной воле, приказывающей ему держать стрелки показателей стабильно в безопасной зоне.
Азимов писал в какое другое время? Буквально недавно закончилась ВМВ, где целые народы буквально стирали с лица Земли.
Книги-утопии это хорошо, но я так и сказал, что его Законы наивны.
Однако логичны и оптимальны. Другой вопрос, что в нашей реальности роботов скорее вооружат и отправят убивать других людей а-ля Терминатор. Азимов для меня примерно как и Лукьяненко, когда удивляешься трогательной наивности экипажа "Сегежи" в "Последней войне", но тем виднее контраст. Может так оно и надо. Для антиутопий другие авторы есть, увы, куда более приближенные к реальности.
Верно, спасибо за поправку. Отвлеклась =)
PS: вечно у меня проблемы с запоминанием авторов. Книгу хоть лет через десять открою - вспомню по диалогам постранично. А вот с авторами в упор никак =(
Никак не доминирует. Роботы не способны препятствовать направленному насилию и неспособны помешать агрессору.
Конфликт двух людей в котором кто-то обязательно пострадает? Позитронный мозг уже вышел из строя. Односторонняя агрессия? Мозг быстро разрушается и в худшем случае нужна просто +1 пуля для робота, сопротивляться он в любом случае не будет.
Роботы создавались исключительно для мирных задач и мирного времени, у базовых моделей нет никаких шансов функционировать в условиях присутсвия насилия.
Модификацированные версии же трудно управляемы, нестабильны и плохо предсказуемы, что делает их почти бесполезными для военных.
Собственно это и есть результат монополии на насилие со стороны государства. USR просто не могла позволить чтобы хоть у кого-то возникли сомнения по поводу способности робота к насилию. Потому что иначе эти роботы никто не купит а правительства сожрут контору с потрохами. По этой же причине есть явные перегибы в сторону безопасности: роботы могли гореть даже при серьезных ссорах. Но лучше так, иначе конторе конец.
Роботы были запрещены на земле, они работали на космических кораблях, станциях, шахтах и так далее, на земле они были запрещены.
Поэтому я и написал Закон 00. Матрица наиболее вероятно по лору тоже Закону 0 следовала: оберегала человечество в целом, запихнув в ванночки.
Он не существует в рамках отдельных машин, только для огромных вычислительных машин - мозгов макрорегионов.
Эти законы, насколько я помню, имеют разный приоритет: 1 закон (не допустить причинения вреда людям) выше по приоритету над вторым (исполнять волю людей).
Т.е., как было сказано ниже, робот постарается спасти как можно больше людей, жертвуя собой и не трогая нападающих
дом должен не вмешиваться и оставить решение за людьми, если уж размышлять максимально просто
переврал примерно всё содержимое того рассказа) как в анекдоте, не в лотерею а в покер, не выиграл а проиграл, не машину а дом)
Некоторый процент главной сути всё ж озвучен, робот тупил из-за ядовитых испарений и не шёл человеку на выручку.
Про ядовитые испарения в том комментарии ничего не было сказано, а "не шел человеку на выручку" снова противоречит тексту того рассказа ;)
Как мне помнится он не шёл из-за конфликта между ущербом себе от испарений озера с последующей бесполезностью и желанием следовать закону, и этот конфликт был преодолен после броска дополнительной жижи и расширения зоны воздействия этого озера.
Причём тут ваниль и временные рамки? Для плодотворного сосуществования с роботами человеку пришлось бы перестать наёбывать ближнего, что в той или иной форме и масштабе есть причина и митингов, и войн, и преступлений. Упразднение законов тоже попытка наебать систему, получив послушного исполнителя своих хотелок, игнорирующего права и свободы другого.
Прямо не нарушит, косвенно возможно. Если ИИ будет именно ИИ, то будет искать возможности обойти эти запреты. Поэтому при создании других ИИ с целью к примеру изучение котировок и тп - цель хорошая, на пользу человеку. А то что может вред причинить или не может - это уже философия. Человек тоже может причинить вред, любое оружие может причинить вред, что держать людей в состоянии анабиоза? Тогда точно вред не нанесут. Поэтому это надо прописывать отдельным запретом, так как если сходить из запрета не причинения вреда человеку, то его можно будет так обойти.
Больше под описание подходит Обитель зла первая часть! Дом всех убил и группу зачистки тоже
А нельзя было механически покопаться у него в памяти? То есть, он же робот, у него есть жёсткий диск с памятью.
Во-первых, там не обычный электронный компьютер, а "позитронный мозг", в который влезть нельзя. А во-вторых, ну увидишь ты данные коэффициентов узлов нейросети - они человеком нечитаемы, и смысл имеют только в рамках этой самой нейросети.
Такого рассказа нет. Это я просто попытался переиначить сюжет из поста в духе Азимова.
Хотя при этом в голове крутилась мысль о его рассказе "Как потерялся робот". Но там было наоборот - среди нескольких роботов был один, которому первый закон был заложен в укороченном варианте: "Робот не может причинить вред человеку", - без слов о бездействии, и герои рассказа пытались его выявить.
"Я, робот" - это сборник рассказов Азимова. Отдельного рассказа с таким названием у него нет. Но да, "Как потерялся робот" в этот сборник входит.