Как этика тормозит развитие науки
Этика как тормоз научного прогресса.
0:11 Научная этика
0:40 Наука против этики (этика как раздел философии)
2:40 Невежество под видом этики
4:15 Этика в робототехнике
Этика как тормоз научного прогресса.
0:11 Научная этика
0:40 Наука против этики (этика как раздел философии)
2:40 Невежество под видом этики
4:15 Этика в робототехнике
В этике есть известный мысленный эксперимент об убийстве человека, который называется "проблемой вагонетки". Он затрагивает проблемы морали. Интересно, что у этой проблемы есть несколько вариаций, на каждую из которых люди реагируют по-разному. Попробуйте и вы порассуждать над задачей.
Классическая формулировка
Тяжёлая неуправляемая вагонетка несётся по рельсам. На пути её следования находятся пять человек, привязанные к рельсам сумасшедшим философом. К счастью, вы можете переключить стрелку — и тогда вагонетка поедет по другому, запасному пути. К несчастью, на запасном пути находится один человек, также привязанный к рельсам. Каковы ваши действия?
С точки зрения утилитаризма - требуется обязательно переключить стрелку. Согласно этой теории, переключение стрелки является не единственным допустимым решением, но, самым правильным морально.
«Толстый человек»
Похожая проблема была предложена философом Д. Томсоном.
Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Вы находитесь на мосту, который проходит над рельсами. У вас есть возможность остановить вагонетку, бросив на пути что-нибудь тяжёлое. Рядом с вами находится толстый человек, и единственная возможность остановить вагонетку — столкнуть его с моста на пути. Каковы ваши действия?
Для большинства людей активное участие в этом случае практически невозможно. Большая часть тех, кто был готов переключить стрелку в первой ситуации, не стали бы толкать человека под вагонетку во второй. Эта особенность явилась предпосылкой для более глубокого исследования различия этих двух ситуаций. Главное различие состоит в том, что в первом случае наблюдатель не взаимодействует с человеком: смерть на запасном пути будет побочным эффектом переключения механизма. Смерть человека в первом случае не является частью плана по спасению остальных - к спасению приводит переключение рычага. Во втором случае агрессия по отношению к толстому человеку является неотъемлемой частью плана по спасению пятерых.
«Толстый злодей»
Дальнейшее развитие этого примера включает в себя ситуацию, когда толстый человек оказывается злодеем, который и поставил пятерых людей в опасную ситуацию (привязал их к рельсам). В этом случае выталкивание толстого человека на рельсы выглядит не только выигрышным с моральной точки зрения, но и обязательным для выполнения.
«Ответвление»
Как и прежде, вагонетка несётся по рельсам, к которым привязаны пять человек. Как и в первом случае, вы можете перевести её на запасной путь. К рельсам запасного пути привязан один толстый человек. Однако, после человека запасной путь делает петлю и снова возвращается на главный путь, перед тем местом, где привязаны пятеро. Таким образом, если бы на запасном пути не было бы толстого человека, который может остановить вагонетку, переключение стрелки не спасло бы пятерых. Каковы ваши действия?
Единственная разница между этой ситуацией и оригинальной формулировкой состоит в том, что добавлен дополнительный кусок путей. Это выглядит незначительным, особенно с учётом того, что по этому куску вагонетка в любом случае не проедет. Таким образом, интуиция подсказывает, что ответ должен быть таким же, как и в оригинальной проблеме — следует переключить стрелку. Однако, в этом случае смерть одного на самом деле является частью плана по спасению пятерых - что близко ко второй формулировке задачи.
«Донор»
У высококлассного хирурга есть 5 пациентов, каждому из которых необходима пересадка органа (разного для всех пятерых). Каждый пациент умрёт, если не получит этот орган. К сожалению, в больнице и окрестностях нет необходимых органов. В больницу для обычного рутинного осмотра приходит молодой здоровый посетитель. Осматривая его, хирург обнаруживает, что органы молодого человека полностью совместимы с организмами 5 его пациентов. Предположим, что в случае бесследного исчезновения посетителя никто не будет его искать и не заподозрит доктора в убийстве. Что должен сделать доктор?
Источник: Telegram-канал "Рубить сплеча"
Всё чаще в борьбе с заболеваниями людям вживляют имплантаты, стимулирующие отдельные области мозга, в результате чего восприятие реальности и поведение человека может серьёзно измениться. Что делать, если такой человек нарушит закон? Кого в таком случае винить за совершённое преступление?
Перевод от проекта Newочём
Оригинал статьи: The Conversation
Отгадайте, что общего у этих двух людей. Г-на Б. временами охватывает необъяснимая любовь к песням Джонни Кэша, а г-н Н. как-то раз собственными глазами увидел, как его доктора превратились в итальянских поваров.
Правильный ответ: и тот и другой проходили глубокую стимуляцию мозга (сокращенно ГСМ): им в голову вживили имплантат, который изменяет активность нейронов, посылая электрические импульсы в нужные области мозга. Имплантаты предназначены для лечения неврологических заболеваний, и, казалось бы, от них одна только польза. Но примеры г-на Б. и г-на Н. показывают, что эти устройства могут нежелательным образом влиять на поведение и восприятие действительности.
Правильный ответ: и тот и другой проходили глубокую стимуляцию мозга (сокращенно ГСМ): им в голову вживили имплантат, который изменяет активность нейронов, посылая электрические импульсы в нужные области мозга. Имплантаты предназначены для лечения неврологических заболеваний, и, казалось бы, от них одна только польза. Но примеры г-на Б. и г-на Н. показывают, что эти устройства могут нежелательным образом влиять на поведение и восприятие действительности.
Г-н Б. лечился от тяжелого обсессивно-компульсивного расстройства. Он никогда не был меломаном, однако во время стимуляции у него развилось отчетливое и ранее не наблюдаемое предпочтение к песням Джонни Кэша. Причем как только прибор выключался, пристрастие пропадало.
Г-ну Н., больному эпилепсией, назначили ГСМ, чтобы локализовать судорожный очаг. В ходе процедуры у него появились галлюцинации: халаты врачей вдруг превратились в поварские фартуки. Видение прекратилось лишь по окончании стимуляции.
В обоих случаях изменения восприятия были спровоцированы именно ГСМ. Возможность такого воздействия на человеческий мозг поднимает ряд непростых вопросов. По мере распространения нейротехнологий поведение пользователей устройств ГСМ и других видов мозговых имплантатов будет выходить за рамки устоявшегося понимания об ответственности за свои поступки.
Юристы, философы и специалисты по этике веками пытались определить критерии, по которым людей можно считать ответственными за свои действия с точки зрения морали и закона. По всеобщему мнению за самоконтроль, рациональное мышление, эмоции, а следовательно, за действия и поведение человека отвечает мозг. Это значит, что без здорового мозга не может быть свободы воли, самостоятельности и ответственности.
Но кто (или что) будет нести ответственность, если человек находится под влиянием мозгового имплантата? Этот вопрос находится на стыке нейроэтики и юриспруденции — дисциплин, входящих в сферу интересов авторов настоящей статьи. Мы считаем, что общество должно дать на него ответ до того, как это придется решать в зале суда.
Кого винить, если что-то пойдет не так?
Что если имплантат вызовет непреодолимое желание врезаться прямо в людей?
Фотография: Фабио Венни
Представим себе следующую ситуацию. Как-то раз за рулем г-же М. внезапно захотелось на полной скорости въехать в толпу людей на автобусной остановке. Итог: несколько пострадавших и разбитая вдребезги остановка. В ходе расследования полиция установила, что женщина пользуется мозговым имплантатом для лечения болезни Паркинсона. Как раз перед происшествием в устройстве произошел сбой, сама же г-жа М. утверждает, что в глаза никакой остановки не видела.
Технологии стимуляции мозга будут только совершенствоваться. В связи с этим гипотетическая история г-жи М. может помочь разобраться, как оценивать ответственность человека в подобных ситуациях. Отвечает ли г-жа М. за свои действия в полной мере? Можно ли переложить часть вины на устройство? А на инженеров или компанию-производителя? Может быть, виновен нейрохирург, который проводил операцию, или невролог, который задавал параметры?
Исторически сложилось, что и с моральной, и с юридической точки зрения ответственность всегда несет лицо, действующее осознанно и по собственной воле, согласно своим планам и желаниям, без вмешательства внешних сил. Однако, учитывая современный уровень развития технологий, в работу мозговых имплантатов могут вмешиваться несколько действующих лиц, в том числе программы на основе искусственного интеллекта с возможностью напрямую воздействовать на мозг.
Признав теоретическую возможность влиять на поведение человека с помощью медицинских устройств, следует разобраться, в какой мере пациент сохраняет контроль за своим поведением. Допустим, имплантаты оказывают влияние на чьи-то решения или реакции. Значит ли это, что человек больше не действует по собственной воле? Если да, то правильно ли призывать его к ответственности?
Назрела необходимость разработать план действий в тех случаях, когда наука и техника начинают расшатывать устоявшиеся договоренности.
Круг подозреваемых очень широк
Существует несколько юридических классификаций ответственности. В частности, выделяют ответственность причинную и виновную.
Оперируя этими терминами, можно рассудить, что причинную ответственность несет имплантат, а виновной считается г-жа М. Решение вполне интуитивное: все-таки женщина могла и не поддаваться соблазну. К тому же ей могло быть известно о побочных эффектах вживления аппарата. Альтернативный вердикт: приписать всю ответственность г-же М., но учесть наличие имплантата в качестве смягчающего обстоятельства.
Разобраться в этих нюансах крайне важно, поскольку тот вариант разделения ответственности, который будет одобрен обществом, может поставить пациентов перед нелегким выбором. Что хуже: перспектива уголовного наказания или невылеченное неврологическое заболевание?
Кто виноват больше: хирург или производитель устройства?
Изображение: Allurimd
Переосмыслению подлежат и ответственность производителей за безопасность продукта, и профессиональная ответственность исследователей и разработчиков, и ответственность за халатность медицинского персонала, который устанавливал и настраивал прибор. Можно признать виновными их всех, но остается еще определить степень вины каждой из сторон.
Разграничение ответственности усложняется еще и тем, что имплантаты подвержены вмешательству злоумышленников. В новейших аппаратах поддерживается возможность беспроводного соединения. Хакеры могут воспользоваться уязвимостью в защите этих устройств и подтолкнуть г-жу М. к совершению противоправных действий в корыстных целях.
Уже известны случаи взлома дозаторов инсулина и вживляемых кардиодефибрилляторов. Сообщений о вмешательстве в работу мозговых имплантатов еще не поступало, но по мере распространения технологии возможностей поставить изобретение на службу зла у технически подкованных преступников будет хоть отбавляй.
Как видно, современное понимание моральной и юридической ответственности не учитывает возможного влияния вживляемых устройств. Необходимо решить, можно ли оправдать правонарушение наличием у виновника мозгового имплантата, и если да, то в каких случаях. Правовые механизмы не раз подвергались корректировке или расширению с появлением очередной новой технологии. Вспомним, как в связи с распространением вспомогательных репродуктивных технологий пришлось переосмыслить значение слова «родитель».
Вот увидите, совсем скоро в любом зале суда можно будет услышать: «Ваша честь, я невиновен: это все имплантат».
Авторы: Лора И. Кабрера, преподавательница нейроэтики Мичиганского государственного университета, и Дженнифер Картер-Джонсон, доцент факультета права Мичиганского государственного университета
Другие переводы зарубежных СМИ от Newoчём здесь
Внимание! Сей длинопост скорее реакция на недавное интервью генерального директора компании Google Сундара Пичаи, в котором он заявил, что Искусственный Интеллект – это одна из самых важных вещей, над которым работает человечество и потенциально сравнимо по важности с электричеством или огнём. И дальше по тексту идут мои рассуждения на эту тему и попытка ответить на экзистанционные вопросы =)
Безусловно, Искусственный Интеллект в теории может оказать на человечество влияние, сравнимое только с изобретением колеса или освоении пламени. Только представьте себе, любая работа требующая вычислений или глубоких знаний, по крайней мере от части, может выполняться Искусственным Интеллектом. Фармацевтика, Диагностика заболеваний, юриспруденция, даже программирование, все эти обычно хорошо оплачиваемые, ну или по крайней мере востребованные профессии навсегда изменят свой облик. И это совсем не означает, что через 30 лет нам совсем не понадобятся настоящие, живые врачи или юристы, но чтобы преуспеть в этих профессиях, нам потребуется стать чем-то большим, чем простыми хранителями и распространителями знаний. От нас будет требоваться куда более глубокие знания в тех аспектах профессий, в которых Искусственный Интеллект не столь силён и компетентен. Например, в понимании людей и их эмоционального состояния, или в разработке творческих решений для проблем, которые не могут быть решены обычными методами или путём выполнения рутинных задач.
Представьте себе мир, в котором мы бы могли устранить почти все ошибки, вызванные человеческим фактором, практически во всех задачах требующих человеческих манипуляций. В таких как вождение, пилотирование, управление поездами, кранами или проведении хирургических операций. Использование Искусственного Интеллекта в этих и сотнях других профессий, сделает их не только более эффективными, но и куда более безопасными.
Плохая новость, однако, для всех тех деток, которые сегодня мечтают водить большой-пребольшой грузовик, маршрутку или даже такси. Мне черезвычайно жаль ломать ваши мечты в столь юном возрасте, но боюсь, что через 20-30 лет выбор профессий в этой сфере будет невелик. И вот почему. Ежегодно в мире в результате ДТП умирает порядка 1.3 миллиона человек, и я уверен, что любое правительство в здравом уме захочет это число сократить, заменив пьяных, неаккуратных или попросту некомпетентных водил на искусственный интеллект.
Опять же жизнь не сказка и на ряду с благоговением, искусственный интеллект внушает вполне обоснованный страх. Страх что в какой-то момент, и поверьте мне этот момент обязательно настанет, когда машина под управлением искусственного интеллекта кого-нибудь убьёт. И нет, в данном случае я не имею ввиду злых роботов устраивающих геноцид человеческой расы. Хотя и это не исключено в будущем, в котором меня скорее всего уже не будет. В данном конкретном случае я говорю о морально-этическом выборе, которые в том или ином виде встанет перед искусственным интеллектом и то, как он на него среагирует. Ниже я приведу пример с самоуправляемым автомобилем, но с тем же успехом нечто подобное может произойти и с Искуственным Интеллектом в машинах работающих на производстве или в каком-нибудь хирургичкском инструменте.
Так вот, например, я – ничего не подозревающий среднестатистический гражданин, еду, значит, в своём самоуправляемом авто на очень приличной скорости и неожиданно на дорогу выпрыгивает… ну скажем, ребёнок, дабы придать ситуации драматический эффект. Машинный интеллект в этот момент становится перед очень опасной дилеммой. С одной стороны, он может решить переехать мальца, размазав его тонким слоем по лобовому стеклу, либо резко повернуть, потерять управление и на полном ходу влететь в стену, столб или пропасть, почти наверняка покончив с бренным существованием своего владельца. Это конечно всё чисто теоретически.
Так вот, если за рулём, к примеру, будет сидеть человек, и особенно если этот человек сам будет родителем, то он скорее всего рискнёт и выберет пропасть. Ну или даже если он выберет иной вариант, в любом случае ответственность за принятое решение падёт на него. Но какие вычисления сделает машина? И если она сделает тот или иной выбор и результатом будет смерть невинного человека, кто останется виноватым в этой ситуации? Программист, который задал алгоритмы поведения? Или может быть компания, которая произвела этого монстра на свет? Или вообще люди, которые прописали морально-этический кодекс для подобной ситуации?
Что опять же ведёт к ещё одной не мало важной проблеме. В настоящий момент не существует признанных институтов, которые бы занимались написанием свода этических правил для Искусственного Интеллекта и регулировали бы его исполнение. И даже если бы существовал. К примеру, скажем в России создали такой институт и даже создали свод таких вот правил. Никто не гарантирует, что в других странах этот свод правил будет соблюдаться. Или даже с куда большей вероятностью появятся другие институты со своими правилами, и буду и те, кто по тем или иным причинам эти правила не будет вводить совсем.
И это оставляет открытым вопрос, а готовы ли мы вообще к искусственному интеллекту? Моё мнение - на данный момент нет, но не стоит забывать про тот факт, что возможности искусственного интеллекта будут развиваться постепенно, в течении многих лет и я уверен, что это даст человечеству время, чтобы всё обдумать, взвесить, сделать соответствующие выводы и создать соответствующие институты, регуляции и правила поведения.
Стремление понять, почему люди убивают друг друга, в течение многих столетий занимает умы философов, социологов и психологов. Мы врожденно жестоки или наше поведение формируется под влиянием окружающей среды? Ученые из Университета Гранады (Испания) пришли к выводу, что наша насильственная природа, по крайней мере, частично унаследована от древних предков.
Недавно испанские ученые, используя инструментарий филогенетики – науки, изучающей генетические взаимосвязи между видами во времени, предложили новый, хотя, по мнению коллег, достаточно спорный подход к попытке понять, насколько склонность к насилию у Homo sapiens заложена в его природе.
Люди – далеко не единственный вид, представители которого убивают себе подобных. Ученые создали базу данных, в которую вошла информация о более четырех миллионах случаев смертей современных млекопитающих более тысячи видов и посчитали, как часто животные разных видов убивают других представителей своего вида.
Выяснилось, что убийства себе подобных с разной интенсивностью практикует примерно сорок процентов видов млекопитающих. Летучие мыши и киты практически не убивают, но, например, белки делают это относительно часто. Более склонны к убийствам животные, которые живут группами и должны защищать свою территорию, такие как волки. Довольно сильно склонны к насилию приматы, среди шимпанзе процент убийств от общего количества смертей составляет почти 4,5%, правда, например, среди бонобо - только 0,68%.
Склонность к насилию или его отсутствию группируется вдоль ветвей генеалогического древа млекопитающих. То есть, статистически, если какой-то из видов убивает часто, то эволюционно близкий ему, скорее всего, тоже обладает этим качеством. Это позволяет, используя филогенетические инструменты, спрогнозировать уровень насилия для того или иного вида, что и было сделано для человека на основании уровня убийств среди наших ближайших «родственников» - приматов. Получилось, что убийства должны составлять 2% от всех смертей Homo sapiens.
Чтобы проверить свои теоретические выкладки, исследователи объединили имеющиеся данные, документирующие умышленные убийства людей, – в том числе убийства на войне или в результате казней – с доисторических времен до наших дней – используя данные археологических раскопок, исторические документы, современные статистические данные. Согласно археологическим данным, 50-10 тысяч лет назад, когда люди жили небольшими группами охотников-собирателей, уровень убийств был как раз на уровне прогнозируемых 2%.
Позже, когда у племен стали появляться вожди, когда образовались государства, доля убийств среди других причин смерти стремительно взлетела и составила, например, в средневековой Евразии 12%. Таким образом, ученые делают вывод, что эволюционный компонент склонности к убийству существует, но он далеко не единственный, и серьезный вклад вносят социальные взаимоотношения.
В современную эпоху существования в развитых странах принципа верховенства закона наблюдаемый уровень убийств колеблется в районе 1,3% по всему миру, то есть, он даже ниже предсказанного для нас как для детей эволюции. Доля убийств среди других причин смерти в обществах, где есть полиция, тюрьмы и отвергающая насилие общая культура, составляет примерно 0,01%. Так что, кажется, есть основания полагать, что, хотя люди по своей природе более жестоки, чем млекопитающие в среднем, они способны сдерживать эту тенденцию.
Критики исследования говорят о том, что анализ основывается на неточных данных, не учитывает культурные тонкости разных эпох, которые могут влиять на уровень насилия, что ошибочно присваивается равный вес данным, полученным из описаний, из данных раскопок и из современной статистики. К тому же не все убийства одинаковы - например, шимпанзе часто убивают детенышей, тогда как люди, как правило, убивают других взрослых. Авторы продолжают работу, стараясь учесть неточности, но считают, что глобально их выводы верны.
Взять с собой побольше вкусняшек, запасное колесо и знак аварийной остановки. А что сделать еще — посмотрите в нашем чек-листе. Бонусом — маршруты для отдыха, которые можно проехать даже в плохую погоду.