Исходя из общего правила, люди не очень-то и хотят умирать. Так же, они не хотят, чтобы умирали другие люди. Но жизнь жестока, а технологии иногда опасны, что приводит к расхождению этих двух желаний, особенно, когда это тяжёлые, быстродвижущиеся и все более автоматизированные транспортные средства.
На данный момент существует такое понятие, как "социальная дилемма автономных транспортных средств", этот термин затрагивает такие обстоятельства, при которых решается, как самоуправляемый автомобиль должен вести себя при форс-мажорных обстоятельствах.
В конце 2015 года, тремя крупными университетами, а именно, университет Тулуза, университет Орегона и Массачусетский Институт Технологий, было проведено шесть онлайн опросов, среди почти двух тысяч людей. Участникам опроса были предложены разные сценарии, в которых самоуправляемый автомобиль предстоял перед выбором: пожертвовать жизнью своего пассажира, либо сохранить жизнь одного, или более пешеходов.
Результаты оказались немного противоречивые - опрашиваемые указали, что приоритетней будет сохранить жизнь группе пешеходов, пожертвовав жизнью водителя, так же они сказали, что купить такой автомобиль они не захотят. Участники опроса предпочли бы купить автомобиль, который спасёт жизнь именно водителя, не смотря ни на что.
Невольно вспоминается "Проблема вагонетки", в которой предстоит моральный выбор: переехать вагонеткой пятерых людей, или нажать на рычаг и позволить умереть одному человеку. А как бы поступили Вы?
В нынешних обстоятельствах получаем "Автоматизированная проблема вагонетки". Неважно на сколько умными и автоматизированными автомобили являются, будут встречаться моменты, когда столкновение станет неизбежным. И автомобиль будет перед выбором - убить одного пешехода, группу пешеходов, либо же самого водителя. Сам водитель имеет несколько мгновений для того, чтобы принять определённое решение в таких случаях, но для самоуправляемой машины, такое поведение должно быть запрограммировано заранее.
Участники опроса примерно одинаково оценивают ситуацию, которая бы конкретно их не затронула: если бы 10 человек были спасены благодаря жертве водителя, 76% людей посчитало нужным убить водителя автомобиля. Но, когда людей попросили представить, что они вместе с членами семьи находятся в машине, ответы резко изменились.
Позже, людей попросили рассказать свою точку зрения, по поводу самого морального или нравственного алгоритма, на сколько им будет комфортно пользоваться таким автомобилем и захотят ли они вообще покупать такие авто.
В заключении, участники опроса восхваляют самоотверженные автомобили на дорогах, фактически не желая приобрести такую машину. Проблема заключается в том, что люди не хотят делать выбор. И всё придёт к тому, что эти моменты будут решаться правительством или производителями таких авто.
Весьма пугающим сценарием может быть тот момент, когда появятся два класса самоуправляемых автомобилей: стандартная модель, которая будет спасать пешеходов, и модель премиум-класса, которая будет спасать водителя.