Идеи для нового сезона черного зеркала
Мне Азимов вспомнился. Умный дом - единственный свидетель жестокого убийства, которое не смог предотвратить. Он очень желает, но не способен сдать убийцу, потому что тогда он своими действиями причинит вред человеку. И следователи крупица за крупицей вытягивают из него кусочки мозаики так, чтобы дом ни коим образом не мог догадаться, что выдаёт ценную для раскрытия преступления информацию. Ведь иначе лавина нейросигналов, вызванная осознанием домом нарушения первого закона, замкнёт его сознание само на себя - и единственный шанс найти убийцу будет потерян.
раскрыть ветку (135)
Блин, дом, не тупи. Убийца - очень, очень больной человек, мы ищем его, чтобы оказать ему помощь.
раскрыть ветку (39)
раскрыть ветку (4)
Блин, как я рад был, что не пришлось убивать этого одурманенного чародейкой тролля, уж очень мне импонируют эти косноязычные каменные существа)
раскрыть ветку (1)
Обычно футуристические концепции умных домов включают в себя систему распознавания психических и биологических показателей находящихся в них людей с целью поддержания их здоровья и создания комфортных условий. Так что не проканает - такой дом просто обязан распознавать не только, болен ли человек, но и чем он болен и когда он скопытится без лечения.
раскрыть ветку (23)
У Рэя Брэдбери есть рассказ "Вельд". Там концепция дома убийцы интересно подана: в частности детская комната с очень живыми обоями. Читал давно, не помню деталей(
раскрыть ветку (7)
Не с живыми обоями, а с комнатой симуляции реальности. Дети забавлялись тем, что вполне по-настоящему играли в смертельные игры с дикими животными, комната лишь материализовала их фантазии. Там не было ни намека на то, что это делал дом. Весь посыл рассказа вообще о том, как опасны могут быть технологии, если не относится к ним серьёзно.
раскрыть ветку (2)
Технологии в "Вельде" были только инструментом, основной лейтмотив не в них, а отсутствие воспитания. Проблема была в том, что родители полностью переложили заботу о детях на предметы. В результате дети мало того, что перестали мыслить свою жизнь без максимально упрощающих её вещей (давно читал, зашнуровывающие ботинки машины и автоматические кухни вроде как оттуда), но и перенесли на них всю свою симпатию, перестав видеть в родителях кого-то, помимо ограничивающих их жизнь врагов, помноженную на инфантильность от незрелости характера (который тоже нужно воспитывать).
Короче, древняя как жизнь история, что если детей не учить хорошему, пустив всё на самотёк, то них и не вырастет ничего хорошего. Даже если "самотёк" - нечто очень современное, технологическое и интересное.
Из Рэя Брэдбери больше подходит рассказ Город, там целый умный город(неожиданно,правда)) осознанно сделал нехорошее, но я с ним был согласен
раскрыть ветку (1)
Если предположить, что дом может распознавать лож по методу современного полиграфа, то тут два варианта:
1) Если дом заботится только об одном человеке(разыскиваемом), то следует сказать что того разыскивают с целью не допущения ухудшения положения данного человека.
2) Если дом заботится о всех людях в равной степени, то выдача местоположения разыскиваемого уменьшит ущерб многим людям.
раскрыть ветку (9)
Кстати, такой фантастический рассказ тоже есть. Но не вспомню ни автора, ни название, так как читал в далеком детстве. Там дома были настолько умные и настолько няньчились с людьми, что люди перестали чувствовать себя свободными, и начали самоубиваться от скуки и сверзаботы. Буду признателен, если кто-то вспомнит сюжет и напомнит автора и название рассказа.
раскрыть ветку (2)
систему распознавания психических и биологических показателей находящихся в них людей
У прячущегося убийцы психические показатели будут какие надо.
Напомнило как в фильме "Робот по имени Чаппи" (вроде, а мб и в другом) люди говорили роботу стрелять в людей, для того чтобы они уснули.
раскрыть ветку (2)
Он отказывался стрелять, поэтому его научили метать ножи, якобы это не оружие и от него засыпают
Приходит Азик к своему другу и говорит -комент (@error418) а ты ему ответил бы также
и все! Загублена идея книги!
и все! Загублена идея книги!
Показать дому фейковую попровку в определении "человек", где убийца не считается человеком, а считается сложно мыслящим примотам, т.е. является животным, причём диким и опасным для общества.
Profit
раскрыть ветку (3)
раскрыть ветку (2)
Тогда подсодить дом на информационные наркотики. Дождаться привыкания и обменять на очередную дозу, всю необходимую информацию.
P.S.
С фантазией у меня всё заваражительно.
раскрыть ветку (1)
раскрыть ветку (10)
раскрыть ветку (1)
Фильм, который учит нас тому, что многие проблемы в жизни можно решить с помощью ног.
У Азимова аж несколько схожих рассказов. И про двух идентичных роботов, служащих старому профессору и начинающему учёному, запертых на одном корабле. И про оскорблённого робота-потеряшку с урезанным 1м законом. И параноидальный профессор-писака решивший отстаивать честь литературы.
раскрыть ветку (6)
Законы Азимова наивны.
Что должны делать роботы, если видят военные действия, разгон митинга дубинками, казнь преступника ит.д? Верещать, что так нельзя по второму закону?
раскрыть ветку (48)
У законов есть приоритет.
Первый закон: робот не должен причинить вред человеку или своим бездействием допускать причинение ему вреда.
Остальные законы игнорируются если не выполнен первый. А значит робот будет пытаться предотвратить ущерб человеку.
В случаях, когда создается противоречие они обычно выходят из строя из-за повреждения цепей позитронного мозга.
Но эти законы не представлены в вербальном изолированной форме.
Робот в мире азимова, очень сложная машина и эти законы в неё заложены не явно, а отражены в структуре работы мозга посредством сложных зависимостей. Именно поэтому в его мире есть робопсихологи, которые по поведению робота пытаются диагностировать нарушение, по-сути дебажат их.
раскрыть ветку (21)
Там вроде бы не совсем приоритет, просто каждому закону дан некоторый коэффициент воздействия, и все три закона "тянут" робота в разные стороны. У первого обычно этот коэффициент очень высокий, и поэтому есть как бы "приоритет". Но в одном рассказе ЕМНИП был робот, который ходил кругами вокруг опасного для себя места, куда ему приказали пойти, по такой траектории, чтобы второй второй закон действовал ровно так же сильно, как третий. В результате людям пришлось ему объяснить, что от этого зависит их жизнь, и он таки сходил туда и принес то, что было нужно
раскрыть ветку (3)
В результате людям пришлось ему объяснить, что от этого зависит их жизньне совсем так. Человеку пришлось на глазах у робота себя умышленно поставить в жизнеугрожающее положение и надеяться, что робота перемкнет обратно, и он его спасёт.
раскрыть ветку (1)
Да-да, точно. Но после того как его перемкнуло, они дали ему ещё один приказ, в котором объяснили, что от этого зависит их выживание
ЕМНИП, в одном рассказе там роботы путём долгих логических рассуждений решили, что основная черта человека - гуманность, а они гуманнее самих людей, поэтому они и есть настоящие люди. А с людьми пора разобраться, потому что они не люди. Как-то так. Потом эту идею позаимствовал Лукьяненко для одного из своих рассказов.
Проблема в том, что наличие роботов у Азимова доминирует над государственным правом на насилие. Я не верю, что государства откажутся от этого права просто потому что тут есть роботы с каким-то там законам.
И быстренько обязуют производителям прошить Закон 00: Не препятствовать уполномоченным властями людей действовать.
раскрыть ветку (13)
Там были роботы с ослабленным законом, которые выходили из под контроля. Кажется, один из них даже организовал свою религию на отдельно взятой станции. Не стоит перекладывать Азимова на нашу реальность, он писал в другое время и писал в целом про светлое будущее, за что я его и люблю. Даже в вроде бы безнадежном цикле про Элайджа и Дэниэла, где люди живут в тесных городах, где вовсю расизм и недоверие, есть надежда на лучшее. Правда, что забавно, приносит ее робот, который даже не андроид.
раскрыть ветку (7)
Два разных рассказа.
В одном урезан первый закон, из-за чего мозг робота оказался нестабилен и оскорбление он воспринял слишком буквально. Хотя наверное можно было бы прописать допустимые дозы гамма-излучения чтобы роботы не психовали.
В другом робот осознал себя как высшую форму, своеобразно интерпретировал законы и идеально выполнял свою функцию.
раскрыть ветку (1)
В другом робот осознал себя как высшую форму, своеобразно интерпретировал законы и идеально выполнял свою функцию.
У робота был баг, он был идеальным и поверил в это.
Типа, "чувак, ты жрешь бутеры и пьёшь чай? Да у меня термоядерный реактор внутри, не гони беса! Иди в каюту и сиди там, низшим формам нельзя в машинный зал!"
Он осознал станцию как бога ex machine, перешёл в её "подчинение" и в жестокую магнитную бурю, когда плазменный поток, отклонясь на метр в сторону, мог сжечь Землю – спас всех, следуя божественной воле, приказывающей ему держать стрелки показателей стабильно в безопасной зоне.
Азимов писал в какое другое время? Буквально недавно закончилась ВМВ, где целые народы буквально стирали с лица Земли.
Книги-утопии это хорошо, но я так и сказал, что его Законы наивны.
раскрыть ветку (4)
Однако логичны и оптимальны. Другой вопрос, что в нашей реальности роботов скорее вооружат и отправят убивать других людей а-ля Терминатор. Азимов для меня примерно как и Лукьяненко, когда удивляешься трогательной наивности экипажа "Сегежи" в "Последней войне", но тем виднее контраст. Может так оно и надо. Для антиутопий другие авторы есть, увы, куда более приближенные к реальности.
раскрыть ветку (3)
раскрыть ветку (1)
Верно, спасибо за поправку. Отвлеклась =)
PS: вечно у меня проблемы с запоминанием авторов. Книгу хоть лет через десять открою - вспомню по диалогам постранично. А вот с авторами в упор никак =(
Вспоминается рассказ "Со сложенными руками" Там где у роботов был закон служить людям и беречь их от бед)
Никак не доминирует. Роботы не способны препятствовать направленному насилию и неспособны помешать агрессору.
Конфликт двух людей в котором кто-то обязательно пострадает? Позитронный мозг уже вышел из строя. Односторонняя агрессия? Мозг быстро разрушается и в худшем случае нужна просто +1 пуля для робота, сопротивляться он в любом случае не будет.
Роботы создавались исключительно для мирных задач и мирного времени, у базовых моделей нет никаких шансов функционировать в условиях присутсвия насилия.
Модификацированные версии же трудно управляемы, нестабильны и плохо предсказуемы, что делает их почти бесполезными для военных.
Собственно это и есть результат монополии на насилие со стороны государства. USR просто не могла позволить чтобы хоть у кого-то возникли сомнения по поводу способности робота к насилию. Потому что иначе эти роботы никто не купит а правительства сожрут контору с потрохами. По этой же причине есть явные перегибы в сторону безопасности: роботы могли гореть даже при серьезных ссорах. Но лучше так, иначе конторе конец.
Роботы были запрещены на земле, они работали на космических кораблях, станциях, шахтах и так далее, на земле они были запрещены.
раскрыть ветку (1)
Поэтому я и написал Закон 00. Матрица наиболее вероятно по лору тоже Закону 0 следовала: оберегала человечество в целом, запихнув в ванночки.
раскрыть ветку (2)
Он не существует в рамках отдельных машин, только для огромных вычислительных машин - мозгов макрорегионов.
раскрыть ветку (1)
Эти законы, насколько я помню, имеют разный приоритет: 1 закон (не допустить причинения вреда людям) выше по приоритету над вторым (исполнять волю людей).
Т.е., как было сказано ниже, робот постарается спасти как можно больше людей, жертвуя собой и не трогая нападающих
дом должен не вмешиваться и оставить решение за людьми, если уж размышлять максимально просто
Был такой рассказ, у того же азимова. Там все 4 закона друг друга нарушали, робота переклинило и он ходил по определенному радиус вокруг умирающего человека и не мог подойти
раскрыть ветку (4)
переврал примерно всё содержимое того рассказа) как в анекдоте, не в лотерею а в покер, не выиграл а проиграл, не машину а дом)
раскрыть ветку (3)
Некоторый процент главной сути всё ж озвучен, робот тупил из-за ядовитых испарений и не шёл человеку на выручку.
раскрыть ветку (2)
Про ядовитые испарения в том комментарии ничего не было сказано, а "не шел человеку на выручку" снова противоречит тексту того рассказа ;)
раскрыть ветку (1)
Как мне помнится он не шёл из-за конфликта между ущербом себе от испарений озера с последующей бесполезностью и желанием следовать закону, и этот конфликт был преодолен после броска дополнительной жижи и расширения зоны воздействия этого озера.
раскрыть ветку (2)
раскрыть ветку (1)
Причём тут ваниль и временные рамки? Для плодотворного сосуществования с роботами человеку пришлось бы перестать наёбывать ближнего, что в той или иной форме и масштабе есть причина и митингов, и войн, и преступлений. Упразднение законов тоже попытка наебать систему, получив послушного исполнителя своих хотелок, игнорирующего права и свободы другого.
раскрыть ветку (2)
раскрыть ветку (1)
Прямо не нарушит, косвенно возможно. Если ИИ будет именно ИИ, то будет искать возможности обойти эти запреты. Поэтому при создании других ИИ с целью к примеру изучение котировок и тп - цель хорошая, на пользу человеку. А то что может вред причинить или не может - это уже философия. Человек тоже может причинить вред, любое оружие может причинить вред, что держать людей в состоянии анабиоза? Тогда точно вред не нанесут. Поэтому это надо прописывать отдельным запретом, так как если сходить из запрета не причинения вреда человеку, то его можно будет так обойти.
Больше под описание подходит Обитель зла первая часть! Дом всех убил и группу зачистки тоже
Но после поимки убийцы, суда над ним и приговору к казни на электрическом стуле, умный дом узнает правду о произошедшем и совершает суицид, одновременного уничтожая все живое на планете ядерным взрывом, кроме... Того самого убийцы,так как электрические импульсы стула срезонировали с альфа-частицами и создали сверх-человека, который может спасти вселенную...
А нельзя было механически покопаться у него в памяти? То есть, он же робот, у него есть жёсткий диск с памятью.
раскрыть ветку (1)
Во-первых, там не обычный электронный компьютер, а "позитронный мозг", в который влезть нельзя. А во-вторых, ну увидишь ты данные коэффициентов узлов нейросети - они человеком нечитаемы, и смысл имеют только в рамках этой самой нейросети.
раскрыть ветку (3)
Такого рассказа нет. Это я просто попытался переиначить сюжет из поста в духе Азимова.
Хотя при этом в голове крутилась мысль о его рассказе "Как потерялся робот". Но там было наоборот - среди нескольких роботов был один, которому первый закон был заложен в укороченном варианте: "Робот не может причинить вред человеку", - без слов о бездействии, и герои рассказа пытались его выявить.
раскрыть ветку (2)
раскрыть ветку (1)
"Я, робот" - это сборник рассказов Азимова. Отдельного рассказа с таким названием у него нет. Но да, "Как потерялся робот" в этот сборник входит.