Представьте, что вы едете в своем автомобиле с автопилотом. Причем такое возможно не в каком-то там далеком будущем, а вот-вот, уже почти. И вдруг прямо перед капотом, на дорогу, вываливается толпа людей.

ИИ-автопилот вашего автомобиля за доли секунды просчитывает варианты.

1. Продолжить движение — неминуемо сбить нескольких пешеходов.

2. Резко свернуть вправо — снести автобусную остановку женщиной и ребенком.

3. Вывернуть руль влево — уйти на встречку, под колеса груженой фуры. Гарантированная гибель для вас и всех, кто в салоне.

Какой же выбор должен сделать ИИ? И это при том, что Первый Закон робототехники, сформулированный Айзеком Азимовым гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред.»? И должна ли быть безопасность владельца автомобиля в приоритете?

То, что сегодня предлагают юристы и инженеры, вам, скорее всего, не понравится.

Азимов и его законы робототехники

Помните старика Айзека Азимова? Великий фантаст, сформулировавший «Три закона робототехники». Многие до сих пор думают, что это чуть ли не реальный технический регламент. Давайте по-честному: для реального мира эти законы весьма наивны, и вот почему.

Первый закон гласит: «Робот не может причинить вред человеку или своим бездействием допустить, чтобы человеку был причинён вред».

Красиво. Только в нашей гипотетической аварийной ситуации он нарушается при любом раскладе. Продолжишь движение - причинишь вред пешеходам. Свернешь - причинишь вред владельцу или людям на остановке. Бездействие (просто катиться дальше) — тоже причинение вреда. Всё, система зависла. Это логический тупик, из которого нет выхода. Любое причинение вреда - прямое нарушение Первого Закона.

Утилитарный подход

Тут начинают приводить свои доводы философы-утилитаристы. Их главный принцип звучит до ужаса логично: нужно действовать так, чтобы принести «наибольшее благо для наибольшего числа людей». В нашем случае — минимизировать количество жертв. Если на дороге пятеро, а в машине вы один, то, с точки зрения чистого утилитаризма, машина должна пожертвовать вами. Просто и страшно.

Чтобы понять, как люди по всему миру смотрят на эту проблему, в Массачусетском технологическом институте (MIT) запустили онлайн-эксперимент под названием «Moral Machine». На сайте эксперимента миллионам людей предлагали решать подобные дилеммы. И результаты, честно говоря, ошеломляют. Оказалось, что наши моральные компасы сильно зависят от того, где мы живем.

Например, люди из стран с коллективистской культурой (как в Азии) чаще жертвовали стариками ради спасения молодых. А вот в странах с индивидуалистической культурой (Европа, Северная Америка) этот разрыв был не таким большим. Почти все сходились в одном: люди важнее животных, а большее число спасенных жизней — лучше, чем меньшее.

А вы бы кого спасли? Старушку или известного ученого? Преступника, перебегающего на красный, или ребенка, выскочившего за мячом?

Кстати, вы тоже можете принять участие в этом эксперименте. Ссылка на сайт в комментариях.

Позиция производителей автомобилей с автопилотами

Философия это, конечно, прекрасно, но миром правят деньги и юристы. И они в один голос говорят: программировать машину на жертвование собственным владельцем — это коммерческое и юридическое самоубийство.

Представьте рекламный слоган: «Новый "Мерседес"! В 99% случаев абсолютно безопасен. В оставшемся 1% - пожертвует вами и вашей семьей ради спасения группы незнакомцев на дороге. Покупайте!» Много желающих будет?

Любой производитель понимает: его первая и главная обязанность перед клиентом, который заплатил деньги за продукт - это обеспечение его удобства и безопасности. Если автомобиль в критический момент вас предает, это не просто сбой программы, это нарушение негласного договора.

Поэтому производители имеют сильную мотивацию (и, вероятно, юридическое обязательство) проектировать системы, которые в первую очередь максимизируют безопасность пассажиров автомобиля, который они продали. Люди не купят автомобиль, запрограммированный пожертвовать ими. И в целом это подразумевает выбор «пожертвовать внешними людьми»

Чья жизнь ценнее?

А теперь давайте рассмотрим вопрос, который многие боятся даже задавать вслух.

Что, если на одной чаше весов — женщина с двумя детьми на остановке, а на другой — группа, скажем так, асоциальных личностей? И их больше. Должен ли ИИ учитывать «социальную ценность» потенциальных жертв?

Ответ может быть только один: категорически нет.

И вот почему. Как только мы разрешаем машине или алгоритму решать, что жизнь профессора ценнее жизни безработного, мы своими руками строим цифровой концлагерь. Это прямой путь к тому, что Оруэлл и Замятин описывали в своих антиутопиях.

Кто будет определять эту «ценность»? Страховые компании по вашим медицинским данным? Банки по кредитной истории? Государство по уровню вашей лояльности? Сегодня «неценным» окажется бездомный, а завтра вы, потому что вышли на пенсию, имеете хроническое заболевание или просто написали не тот комментарий в соцсетях.

Это не просто аморально, это юридически преступно. Принцип равенства всех людей перед законом - это фундамент, на котором стоит общество. Попытка ввести «рейтинги полезности» для людей - это и есть фашизм, только в цифровой обертке.

Автопилот не должен и не может знать, кто перед ним: нобелевский лауреат или сбежавший заключенный. Для него это просто «объект», человек, которому нельзя причинять вред. Точка.

Что говорят юристы

Если автопилот принимает решение направить машину под колеса грузовика, убивая водителя - это открывает ящик Пандоры. Семья погибшего засудит компанию-производителя на миллионы, и будет права. Доказать в суде, что это было «меньшим злом», практически невозможно.

Поэтому на практике большинство юристов склоняются к другому подходу. В случае неизбежной аварии машина должна действовать максимально предсказуемо и в рамках ПДД. То есть экстренно тормозить в своей полосе. Исход аварии в этом случае будет считаться следствием сложившейся ситуации, а не активно принятым «решением» машины кого-то убить. С юридической точки зрения это самый безопасный путь.

Такой вот элегантный способ уйти от ответа. Запретив «взвешивать» жизни, ответственность, по сути, перекладывается на физику и случай. Машина не будет выбирать. Она просто врежется туда, куда ее несет, отчаянно пытаясь затормозить.

Что в итоге?

Идеального алгоритма для «дилеммы вагонетки с ИИ» не существует. Есть три основных позиции, и все они с изъяном:

1. Утилитарная. Спасти большинство, пожертвовав меньшинством (включая владельца). Звучит логично, но нежизнеспособно на рынке.

2. Эгоистичная. Защищать владельца и пассажиров любой ценой. Именно этот подход, скорее всего, и станет стандартом де-факто, потому что он выгоден производителям и понятен покупателям.

3. Бюрократичная. Действовать строго по правилам, не принимая «моральных» решений. Тормозить в своей полосе и пусть будет что будет. Компромисс, который снимает ответственность с разработчиков.

Конечно, разработчики беспилотных систем и сами понимают дилемму вагонетки. Поэтому стремятся создать системы, которые не допустят попадания в такие неразрешимые ситуации благодаря:

• Сверхнадежному обнаружению и предвидению. Предвидеть опасность за много секунд до точки невозврата.

• Запасным системам безопасности. Резервное торможение, рулевое управление.

• Глубокой защите. Создание систем, где отказ одного компонента не приводит к катастрофе.

• Четким этическим рамкам. Фокусировка на минимизации общего вреда и защите всех участников движения, но с пониманием практических и юридических ограничений (защита пассажиров, следование ПДД). Открытое программирование "жертвовать владельцем" неприемлемо для рынка.

99,999% работы автопилота это не выбор в момент катастрофы, а сверхчеловеческая способность видеть, анализировать и предсказывать опасность за десятки секунд до того, как она станет фатальной. ИИ должен заметить ребенка с мячом раньше, чем тот даже подумает выбежать на дорогу. Он должен просчитать траекторию пьяного водителя задолго до того, как тот начнет вилять.

И в конечном счете, алгоритм, заложенный в машину - это всего лишь отражение наших ценностей. Пока общество, не договорится, что важнее — личная шкура или общее благо, машина не даст готового ответа.

«Наука для всех» в Telegram:https://t.me/sci_popular

А что бы выбрали вы, окажись за рулем в тот самый момент? Пишите в комментариях.

Оригинал статьи

https://dzen.ru/a/aJGplA983RfDd5nD

Ссылка на сайт онлайн эксперимента «Moral Machine»: https://www.moralmachine.net/

Правосудие по-новому

Самая наболевшая тема в социальной сфере после СВО относится к экзерсисам престарелых собственников. Точнее, бывших собственников. Как всегда, к катастрофам приводит длинная цепочка событий. И совсем не случайных. Много-много лет назад правительство оцифровало практически полностью весь финансовый и правовой сектор. В этом деле Россия действительно впереди планеты всей. Особенно это касается мегасервиса «Госуслуги» и экосистемы «Сбер». Но с бонусами пришли и уязвимости. Злоумышленники быстро осознали, что всего четыре цифры из СМС-сообщения не только позволяют получить доступ к банковским счетам, но и к собственности жертвы. Движимой и недвижимой собственности. Всё это дело густо приправили социальной инженерией и – вуаля – россияне ежемесячно теряют миллиарды рублей.

Примерно каждый шестой гражданин России лишался имущества или денег от телефонных мошенников. Гигантскую подрывную работу в этой схеме играют вражеские колл-центры на территории Украины и за её пределами. Реакция государства пришла с большим опозданием, и принимаемые меры не всегда эффективны. Центробанк, к примеру, явно перекрутил гайки, когда ограничил суммы переводов и стал просто параноидально относиться к банковским транзакциям. Но это всё лишь прелюдия к главному.

Естественными последствиями целенаправленной работы врага и его приспешников стали тысячи обманутых бабушек и дедушек, которые под психологическим прессингом продавали свои квартиры, машины и ценные вещи. Безусловно, это личные трагедии. Еще более невыносимо становится, когда деньги уходят на финансирование ВСУ. Таких историй в сети целое море. Но одно дело, когда под пресс телефонных подонков попадает наивная старушка, и совсем другое – народная артистка России Лариса Долина.

Заслуженная исполнительница хитов напомнила о себе лишний раз, поддавшись на незамысловатую схему мошенников. В итоге продала квартиру за 112 миллионов рублей, добавила еще около 90 миллионов из личных средств и перевела преступникам. Покупателем выступила Полина Лурье, 34-летняя московская предпринимательница. После полутора лет судебных тяжб суд постановил вернуть Долиной её квартиру, а мошенников посадить. Последних, к слову, достаточно быстро поймали. А Лурье, которая никакого отношения к мошеннической схеме не имела, осталась ни с чем. Суд постановил, что 112 миллионов рублей Лурье должна взыскивать с самих мошенников. Это напрямую противоречит правилу двусторонней реституции, когда две стороны обязаны рассчитаться друг с другом. Долина по идее возвращает 112 миллионов, а Лурье – квартиру. Но для народной артистки всё обошлось. Вот такая вот «схема Долиной».

И это далеко не единственный пример, когда продавцы взыскивают с покупателей недвижимость, приобретенную совершенно законно. Недобросовестные продавцы-пенсионеры (назовем их так) подают в суд, указывая на «помутнение рассудка» во время сделки. Само собой, речь идет о тех самых телефонных мошенниках. Некоторые для острастки добавляют, что бабушку обманули враги из ВСУ. Дескать, работали профессионалы, и что могла поделать наивная старушка? Забывают только об уголовном наказании, предусмотренном за финансирование структур противника.

Никто не призывает поголовно сажать в тюрьму несчастных старушек, но и лишать прав собственности вполне добросовестных покупателей тоже не дело. Особенно когда история подкрепляется прецедентом «схемы Долиной». На стороне новых владельцев статья 35 Конституции, надежно защищающая права собственности. Среди таких людей далеко не всегда миллионеры Лурья, которая купила квартиру дочери с внучкой, а люди с многолетней ипотекой и большой семьей. Продажа квартиры под давлением мошенников — трагедия, но не меньшая трагедия — судебное изъятие недвижимости у совершенно честных покупателей. Для многих из которых это единственная крыша над головой.

Последствия

Зло порождает зло. Телефонные схемы мошенничества вызвали волну пенсионерских афер. Точное количество возвратов после выдуманного «психологического давления» неизвестно, но только в 2024 году через суд вернули не менее 3 тысяч квартир. Аннулировали сделки купли-продажи и оставили новых собственников ни с чем. Суд не впечатляют даже справки от психиатра, выданные продавцу едва ли не в день продажи. Бабушки настаивают о своей недееспособности, и им верят. «Схема Долиной» только подстегнет интерес к махинациям подобного рода. Грустным анекдотом выглядит приглашение Ларисы Долиной в рабочую группу, призванную бороться с такими случаями. Представители ЛДПР в Госдуме создали антикризисную комиссию, к участию в работе которой пригласили певицу, сообщил депутат Дмитрий Свищев.

После «дела Долиной» и десятков аналогичных историй стало очевидно: вторичный рынок недвижимости в России в состоянии острого кризиса доверия. Люди боятся покупать квартиры. Честный человек сегодня рискует оказаться на улице из-за того, что мошенники научились обходить закон, а суды допускают отмену честных сделок

— написал он в своем телеграм-канале. 17 декабря ждем в Госдуме круглый стол на тему «Кризис доверия на вторичном рынке: правовые механизмы защиты участников сделок», на который приглашены юристы, представители Росреестра, Минюста, шоу-бизнеса и банков, а также риэлторы, адвокаты, блогеры и пострадавшие граждане. Ну и Лариса Александровна, разумеется. Результативность такого собрания будет чуть больше ноля. Разве что для раздумывающих пенсионерок и их подручных раскроют больше схем обмана — разрекламируют, так скажем, новые подходы.

Но если унять эмоции, то картина выглядит совсем удручающе, если не катастрофически. С одной стороны, судебные инстанции игнорируют конституционные гарантии прав собственности, фактически ориентируются на прецедентное право. Которое, напомним, в России отсутствует. Это больше западная история. Скверно получается. И пока нет никаких подвижек со стороны Верховного суда или законодателей. Кроме анонсированного в середине декабря круглого стола от ЛДПР.

Учитывая гигантскую инерцию государственного аппарата, ждать реальных шагов можно и до следующего лета. Любое новшество, регламентирующее подобные схемы отъема жилья, не будет иметь обратной силы. То есть все обманутые покупатели так и останутся ни с чем. Верховный регулятор должен как можно скорее оформить и объяснить новые правила игры на рынке вторичного жилья. Иначе последствия не заставят себя долго ждать. Во-первых, почувствовав безнаказанность, мошенники еще больше развернут деятельность. Пенсионеры далеко не во всех случаях решаются на обман – им в этом явно помогают. Где родственники, где риелторы, где адвокаты. Во-вторых, если получается у старичков, то почему бы не подключиться к «рабочей схеме» продавцам помоложе? В итоге есть признаки скорой парализации рынка вторичной недвижимости. Покупатель десять раз подумает перед покупкой квартиры с рук, что резко снизит цены. В шоколаде окажутся застройщики – здесь точно никто не расскажет сказки про «психологическое давление» и «невменяемое состояние». Но цены на новостройки точно поднимутся.

В итоге мы наблюдаем стремительное ухудшение конъюнктуры в отдельно взятом рыночном сегменте. Вроде бы и ничего глобального не происходит, но есть все шансы для падения доверия к власти со стороны общества. Если суды становятся на сторону продавцов в данном вопросе, то кому тогда вообще верить? Проблема затрагивает финансовые интересы игроков и, самое важное, разрушает основы социальной справедливости. Это очень ярко иллюстрирует общественное порицание, которому подверглась Лариса Долина. Артистку повсеместно отменяют – где-то реально, а где-то (такси, кафе, магазины) навешивая таблички «Только не для Л. Долиной». Разумеется, показуха, но показуха очень симптоматичная.

• Евгений Федоров

  Оригинал Статьи

• https://topwar.ru/274532-grustnyj-anekdot-na-teme-shemy-doli...

В России же предложения депутатов подобного рода (того же Михаила Матвеева) наталкиваются на утверждения, что Россия, мол, «многонациональная и многоконфессиональная страна». При этом то, что даже в мусульманских странах подобная одежда запрещается, похоже, никого особо не заботит. В России же экстремистами зачастую считают не тех, кто носит никабы, скрывающие лицо, а тех, кто протестует против этого.

Сложно представить такую вот операцию «Экстремист», подобную той, что проходит в Киргизии, в России – всякие ДУМ и другие подобные организации тут же поднимут небывалый вой и будут во всех возможных СМИ рассказывать, как «притесняют» мусульман.

Еще одна практика, которую всё чаще можно наблюдать на улицах российских городов, – публичные намазы. Различные мигранты расстилают свои коврики для намаза и в метро, и в автобусах, и в торговых центрах, и на улицах, и даже в православных храмах (!). При этом, несмотря на то, что за совершение публичного намаза в России предусмотрена административная ответственность, далеко не всегда правоохранители наказывают мигрантов за эти действия.

Например, 18 ноября в Кемерово группа мигрантов из Узбекистана совершила намаз прямо в торговом зале супермаркета, что вызвало негативную реакцию у многих покупателей. Руководство торговой точки не усмотрело в произошедшем нарушений и не стало принимать мер. В администрации магазина заявили, что «полиция лишь может ограничиться предупреждением, что и было предпринято».

Лишь после того, как несколько человек обратились с заявлением в полицию и была проведена проверка, было принято решение оштрафовать каждого иностранца на 30 000 рублей и депортировать их из России.

На днях произошел куда более вопиющий случай: 16-летний азербайджанец решил совершить намаз в торговом центре на Ореховом бульваре в Москве и после того, как охранник запретил ему это делать, ударил его ножом. Когда на место происшествия приехала полиция, подросток вел себя агрессивно и напал с ножом и на них. Впоследствии выяснилось, что несовершеннолетний азербайджанец давал присягу на верность террористам ИГИЛ.

Это является очередным доказательством того, что публичный намаз является, в первую очередь, политической акцией. Во многих мусульманских странах (ОАЭ, Узбекистане, Казахстане) публичные намазы запрещены и караются существенными штрафами.

Как справедливо отмечает член Совета по правам человека (СПЧ) Кирилл Кабанов, произошедшее является ничем иным, как терактом.

Нападения с ножом на охранника ТЦ, а потом и пытавшихся задержать его полицейских, совершенных несовершеннолетним азербайджанцем, учащимся московского колледжа – чистой воды теракт, основой которого служит религиозная ненависть. Теракту предшествовала политическая провокация в форме намаза, который он пытался совершить в непредназначенном для этого общественном месте – торговом центре. Согласно душманской идеологии этих радикальных террористов, любой человек-кяфир, посмевший сделать замечание во время проведения подобного рода акции, должен быть уничтожен. Этим человеком мог быть не охранник, а, например, женщина или старик. Это совершено спланированная акция. И надо понимать, что это новый этап развития провокаций с намазом в публичных местах. Пока всё развивается по худшему сценарию. И быстрее, чем некоторые ожидали. Радикалы пытаются всех нас запугать, всё более агрессивно насаждая на нашей земле свои звериные порядки. И это теперь наша новая реальность?

Автор не раз писал о «ползучей исламизации» в России, и ношение никабов, публичные намазы и различные так называемые «фетвы», которые выпускает ДУМ как из рога изобилия, являются частью этих процессов. Российским властям необходимо пресекать любые формы проявления исламистского экстремизма, в частности запретить никабы и ужесточить наказания за публичные намазы, и принимать решения без оглядки на организации, подобные ДУМ, поскольку в противном случае проблема будет усугубляться.

• Виктор Бирюков

• Оригинал статьи

• https://topwar.ru/274275-kogda-v-rossii-zapretjat-nikaby-i-n...