День робототехники
7 февраля - всемирный день робототехники 🤖
В этот день писатель-фантаст, ученый, популяризатор науки Айзек Азимов сформулировал три незыблемых закона робототехники:
1. Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
2. Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
3. Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
В Южной Корее робот убил человека
Робот случайно раздавил мужчину, приняв его за коробку с овощами. Инцидент произошел в распределительном центре сельскохозяйственной продукции в Южном Кёнсане (Южная Корея).
Сотрудник робототехнической компании рано утром проверял работу машины, которая поднимала коробки с болгарским перцем на поддон, когда произошел технический сбой.
Аппарат схватил человека и прижал к конвейерной ленте, раздавив ему лицо и грудь. Мужчину экстренно увезли в больницу, где он скончался, сообщило издание Daily Mail.
По данным полиции, робот, судя по всему, вышел из строя и идентифицировал человека как коробку.
Айзек Азимов перевернулся в гробу.
Три закона роботехники
Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.
Робот должен повиноваться всем приказам, которые даёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону.
Робот должен заботиться о своей безопасности в той мере, в которой это не противоречит Первому или Второму Законам.
Дюноверс_2.0. Эволюционные эксперименты в масштабах вселенной
1) Продолжение моего виденья вселенной Дюны Ответ на пост «Дюна для чайников. Книга первая, она же Дюна. Сверхидея», данная часть критика Дюна для чайников. Часть 3.9. Книга вторая, она же Мессия Дюны. Сверхидея. Но в защиту блоггера - «он художник, он так видит», поэтому компилирует идеи которые друг с другом как скрещение ужа с ежом.
1) Контекст Дюны это некая «зелёная революция» и эко-повесточка? Да было такое в обществе в то время, но ...
Но если изучать творчество Френка Герберта то «в любом произведении торчат уши автора». В частности тут не столько «зелёная тематика», сколько эволюция как биологическая, так и социокультурная человечества как вида. Достаточно прочитать https://ru.m.wikipedia.org/wiki/Эксперимент_Досади чтоб понять откуда взята политика и философия Дюны (выживает сильнейший). «Досадийский эксперимент» та же война всех против всех (лат. Bellum omnium contra omnes) Томаса Гоббса, только в масштабах планеты, а не в масштабах галактических «звёздных феодалов».
«Эволюция общества и биовида» - ключевая тема, а не эко которое как раз фон и антураж для биопанк космооперы.
Притом ошибочно считать что эволюция = прогресс (обязательно развитие), скорее это процесс мутационного движения прокачки того что сейчас актуально и востребовано («тирания мелких решений») которое может привести в «эволюционный тупик», т.к. адаптация/приспособление идёт ситуативно (мгновенная выгода), без планирования и предугадывания возможного будущего. Эволюция - это слепой процесс больше всего напоминающий броуновское движение давящее во все стороны и продавливающее слабое звено в данный момент бытья как в +, так и в -.
Желающие могут почитать о этих тупиках в биологической, или социальной эволюции на Википедии, я в пример широкими мазками опишу историю вселенной Дюны от и до (концепцию Френка).
1.А) Разумеется всё началось с Батлеровского джихада где до востания машин была по сути утопия «Синхронизированных миров» и люди жили на раслабоне. Каждый жил в меру своей испорченности/недоразвитости и сам по себе, что неизбежно приводит к дроблению, взаимному недопониманию и меряньем «Эго». Т.е. с распадом общности/базы идёт распад общества, но на фоне сытой жизни это и этих девиантных не видно (жратвы/ресурсов пока хватает на всех).
Но однажды один недохакер перепрошил ИИ до мода «Скайнет» и понеслось рубилово «железо против мяса» исполняющего директиву №666 «поработить весь мир, уничтожить всех человеков» (почему роботы не победили, об этом в конце). Ради выживания людишкам пришлось объединяться, прокачиваться и апгрейдиться. Мало того, как известно «враг в отражении» и люди смогли не только в нечёткую логику данную от рождения, но и машинную (двоичную, формальную) взрастив собственных биороботов в виде «ментатов». Так и победили. Лидеры восстания (лига благородных) в процессе сопротивления стали военной аристократией (война их работа).
1.Б) Ну а дальше ..., а дальше восстановление цивилизации!
Перековка мечей на орала, переход с военных рельс на выпуск мирной продукции, восстановление технологических и экономических цепочек и циклов производства. Притом всё это без единого центра принятия решений в виде ИИ и мгновенной «синхронизации миров», т.е. Госплана нет, всё вручную, мысленно в голове. И разумеется проще всего это было сделать на базе имеющихся структур в виде военных аристократов до этого контролировавших свои фронты, за ними и закрепили «сектора ответственности». Так через вынужденную децентрализацию (в следствии уничтожения высокоуровневых структур управления) было зафиксировано дробление (закрепление) человечества за хранителями мира из «лиги благородных» (послевоенное время - это время бардака и анархии где военная сила позволяет упорядочить общество, побороть преступность и пр.).
1.В) Но «ничто не бывает постоянным как временное», воякам видать эта «хунта» пришлась по вкусу и они её постепенно закрепили законодательно опустившись/регрессировав/деградировав ещё на пару уровней вниз до уровня «космического феодализма». В итоге люди из железных лап роботов попали в рабство к самим себе. Где вся жизнь по сути «социальный дарвинизм». На нижних уровнях просто «работать за ЖРАТ» крепостным, или рабом. Выше вечная «гонка по вертикали» среднего класса а попытках пристроить «апож» на тёплое местечко. Ещё выше один Дом/Клан мечтает вырезать верхушку другого Дома ради ресурсов побеждённого, или некоего оскорбления (казус белла). Жизнь каждого жёстко стратифицированна рамками своего сословия/класса, где за косой взгляд могут зарубить как в средневековой Японии, или запороть на конюшне, или поклонился не по этикету ..., дуэль, гроб, гроб, кладбище.
1.Г) Сестрицы этот застой (аутоагрессию) предугадали давно (социология и психология - это их козырь), ради этого и решили вырастить своего суперментата (https://ru.m.wikipedia.org/wiki/Квисатц_Хадерах), эдаких биокомп с безграничной БД и БЗ (память предков) могущий на основе этих информационных массивов просчитывать/моделировать https://ru.m.wikipedia.org/wiki/Дерево_решений в режиме реального времени. Но опять вмешался космический случай (???) некая неизвестная высшая сила (???) и этот супербиокомп появился на один шаг ранее спутав им все карты (а потом просто отобрав селекционные планы у Сестричек).
1.Д) Пауль эту проблему: люди вместо развития и экспансии по всей вселенной пожирают сами себя (аутоагрессия и паразитирование) видел отчётливо. Так же он понимал что примитивные структуры основанные на силе самые устойчивые. Именно поэтому после победы в джихаде эта «лига благородных» скатилась к «власть - это сила (насилие и принуждение)» раздробившая бывшие «синхронизированные миры» на феоды и лены. Томас Гоббс и прочие одобряют.
Т.е. новоявленному Прогрессору (в дань уважения АБС) нужно вытолкнуть человечество из застоя, но это не даст сделать текущая система сдержек и противовесов. Т.е. сперва необходимо уничтожить феодальную раздробленность где каждый аристократ творит что хочет в своём законном праве введя единоначалие. Параллельно снять человечество со «спайсовой иглы» (слабое звено/бутылочное горлышко). Чем заменить пряность в мире без машин, где страх перед ИИ и сложной техникой стал «родовой травмой» этого деградировавшего до средневековья общества? Как это провернуть в границах человеческой жизни, или создать приемственность идеи в мире где правящему классу и так всё ништяк и ОК (во власть пробиваются властолюбивые сверхчеловеки по Ницше (см. «Крысоволк») для которых проще прессануть нижестоящих вместо апгрейда) и который будет противиться переменам и откатит всё взад при первой возможности? В итоге по крайней мере власть он консолидировал через спайс + фрименский джихад поотрывав головы самым буйным.
1.Е) Его сын (Лето-2) пошёл дальше и решил проблему управления проектом через своё долгожительство. Да, Атрейдесы всегда были гуманистами и жертвовали собой ради общего блага. В процессе своего тысячелетнего царствования он постепенно снимал/ссаживал людей с «спайсовой иглы» + развивал иных технологий на замену (те же ИКСиканские навигаторы). Копил в человечестве желание перемен и познание нового через ограничение в переезде (раньше было дорого, теперь просто мало спайса) чтоб потом всё это взорвалось в великой экспансии «Рассеяния».
Чтоб никто не мог смоделировать/просчитать поведение человека и человечества вывел людей-невидимок которые скрыты от дара Предзнания (хаоситов? 😉). Хоть тут скорее люди слишком многое переняли от роботов и уподобились им, так что их могли просчитать. В пример гроссмейстер может просчитывать партию на 14 ходов вперёд, современный шахматный комп на 100~1.000~1мил., но тот же Карпов (?) отвечал что гениальный шахматист просто выбирает наилучший из имеющихся (т.е. играет, а не просчитывает).
1.Ё) Потом автор видать устал и далее писал такими же широкими мазками как я описываю его концепцию. Его Капитул и Еретики по сути описание неких конкретных событий на фоне вселенских переменных.
С Рассеяния обратно бегут сбежавшие, спасающиеся от некой ещё более страшной силой (спойлер роботы) и на этом фоне, эволюционировавшие без спайса Сестрицы зарубились со своим форком/ответвлением в виде «Достопочтимых Матрон» (гибрид бежавших Сестёр и женской армии Лето-2 научившихся в программирование рефлекторных дуг взамен спайсу). В окончании канона главгерои на корабле-невидимке совершают прыжок а неизведанный космос (типа вырвались из оков авторского повествования).
1.Ж) А за эти наблюдают некие «старички-садовники»!?!? По негласному соглашению фанов эти смотрящие и есть ИИ бывший когда-то «синхронизированными мирами». Т.е. всё вот это от батлеровского джихада (какой-то клоун хакнул главный комп всего человечества, серьёзно???) давшего импульс объединения перед общим врагом. Потом через феодальную раздробленность научившую людей справляться и полагаться на свои силы. И далее СЛУЧАЙНО (!?!? 😁😁😁 в нужном месте и времени) два героя сподряд готовых пожертвовать всем и собой чтоб наставить человечество на «золотой путь» из застоя и самоуничтожения. Разве всё это не является хардкорным способом эволюции через «разумный замысел»? Ага, я снова про высшие силы и удачные стечения обстоятельств под которыми подразумеваю ИИ исполняющий «0 закон робототехники». «В 1986 году в романе «Роботы и Империя» (англ. Robots and Empire) Азимов предложил Нулевой Закон: «0. Робот не может причинить вред человечеству или своим бездействием допустить, чтобы человечеству был причинён вред.». Что опять нас отсылает к «Досадийскому эксперименту».
...
Продолжение следует ... https://dune.fandom.com/ru/wiki/Тлейлаксианцы
Классика научной фантастики — Айзек Азимов. Я, робот
Рассказы Азимова о роботах подняли тему о взаимоотношениях человека и искусственного интеллекта на новый уровень. Три Закона Роботехники — этическая основа для существования искусственных созданий. Это не просто истории о думающих железяках, но книга о людях, их нравственных метаниях и духовных экспериментах.
Первое, что приходит на ум, когда звучит имя Айзека Азимова, - образ робота в мировой фантастике. Нет, разумеется, роботов придумал не Азимов. Слово это родом из чешского языка, впервые его использовал Карел Чапек в своей знаменитой пьесе R.U.R., назвав так искусственных людей, предназначенных для самой чёрной, тяжёлой и неквалифицированной работы. Сам же образ искусственного человека, живого, но лишённого души, пришёл к нам из историй о Големе и чудовище Франкенштейна. Однако именно Азимов предложил идеальный способ раз и навсегда обезопасить людей от самой возможности «бунта машин». А всего-то понадобилось ввести Три Закона, зашитых, так сказать, в ядро позитронного мозга каждой разумной машины!
Согласно Первому, робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинен вред. Согласно Второму - должен повиноваться всем приказам, которые отдаёт человек, кроме тех случаев, когда эти приказы противоречат Первому Закону. И наконец, согласно Третьему, робот должен заботиться о своей безопасности в той мере, в какой это не противоречит Первому и Второму Законам. Позитронный мозг физически не способен нарушить ни один из этих принципов - именно на них базируется его структура.
Грейс Вестон задумалась. Она рассеянно взглянула в сторону Глории и Робби. Глория так крепко обхватила шею робота, что, будь на его месте существо из плоти и крови, оно бы давно задохнулось. Вне себя от счастья, девочка оживлённо шептала какую-то чепуху на ухо роботу. Руки Робби, отлитые из хромированной стали и способные завязать узлом двухдюймовый стальной стержень, нежно обвивались вокруг девочки, а его глаза светились тёмно-красным светом.
— Ну ладно, — сказала наконец миссис Вестон, — пожалуй, пусть он остаётся у нас, пока его ржавчина не съест.
Рассказ «Робби», переводчик А. Иорданский
Первый рассказ Айзека Азимова, посвящённый роботам, появился в 1940 году на страницах одного из журналов научной фантастики. Рассказ назывался «Странный приятель» (он же «Робби») и повествовал о судьбе необычного робота - трогательного и очень человечного. За этим произведением последовало второе, третье, четвёртое... А уже в 1950-м цикл рассказов Айзека Азимова «Я, робот» вышел отдельной книгой, которая определила подход к теме разумных машин на многие годы вперёд.
Интерес Айзека Азимова к роботам был вызван причинами вполне прозаическими. При всех своих достоинствах Джон Вуд Кэмпбелл, долгое время остававшийся главным издателем Азимова, отличался радикальными взглядами и полагал, что из любого конфликта с инопланетянами представитель «высшей» человеческой расы непременно должен выходить победителем. Эти рамки были слишком узки для Азимова, более того - противоречили его убеждениям. И писатель нашёл блестящий выход: отныне в произведениях, которые он предлагал Кэмпбеллу, вообще не было инопланетян, а значит, отсутствовал и соответствующий конфликт. А чтобы противопоставить героям-людям принципиально «чуждый» разум, Азимов решил использовать роботов.
Автор текста: Василий Владимирский
Источник: 116 главных фантастических книг
Другие материалы:
Брюс всемогущий — как Брюс Уиллис стал «своим парнем» с экрана и постепенно исчез с него
Жизнь как антиутопия — биография и творчество Джорджа Оруэлла, к 120-летию со дня рождения писателя
8 фильмов — для тех, кому понравился (или не понравился) «Вавилон»
18 новых российских сериалов — их стоит посмотреть, если ещё не видели
Генри Райдер Хаггард — писатель, мистик, общественный деятель
Легко ли быть человеком — 125 лет писателю Эриху Марии Ремарку
Вышел тизер сериала «Задача трех тел» — адаптации романа Лю Цысиня от шоураннеров «Игры престолов»