Во-первых, "проблема вагонетки" и люди, о ней рассказывающие, никого не "учат этике".

Проблема вагонетки - это одна из теорий, возникших в процессе изучения этики.

Одни люди исследуют поведение других людей и как бы говорят вам:

- О, смотрите, мы тут обнаружили нечто любопытное! Если нескольким рандомным челам предложить решить "проблему вагонетки", то они решат ее по-разному и обоснуют свой выбор по-разному. Мы пока не поняли, почему так происходит, но этот факт определенно заслуживает дальнейшего изучения.

По аналогии: если вам на ОБЖ рассказывают, как действует на человека зарин или другое БОВ,

то это вовсе не значит, что вас учат травить людей зарином или наоборот - учат ,ас людей зарином не травить.

Во-вторых, проблема вагонетки когда-то действительно была в большей степени занимательной гимнастикой для ума исследователей.

Но с появлением ИИ про эту проблему внезапно вспомнили и оказалось, что штука это не только интересная, но и полезная.

На пикабу был про это пост (найти не смогу, не помню ни автора не названия).

Постараюсь тезисно пересказать, как понял сам.

Современная интерпретация дилеммы вагонетки выглядит так:

1) имеется "беспилотный" автомобиль, которым управляет ИИ. В автомобиле в качестве пассажира едет его владелец.

2) имеется ненулевая вероятность того, что при движении по дороге автомобиль попадет в патовую ситуацию - например, под колеса внезапно выскочит человек, затормозить не успеть, а объехать его невозможно (слева несется встречка, справа - пропасть или бетонные препятствия. То есть спасти можно только одного - либо пассажира, либо пешехода.

3) имеется необходимость обучить ИИ как действовать в патовой ситуации, кого спасать? Пассажира, он же хозяин машины? Или дурика, который выпрыгнул под колеса? А если это бабушка? А если это ребенок? А если на дорогу выпрыгнул ребенок, но и в машине тоже ребенок? А если в машине ребенок, но на дорогу выпрыгнуло 10 детей разом? А если в машине ребенок-троечник, а на дорогу выпрыгнул ребенок-лауреат 10 нобелевских премий и двух оскаров?

4) разработчики ИИ такую ответственность - решать за всех дилемму вагонетки - на себя брать не решились. Ибо в данном случае ответственность не только моральная, там и юридическая наступит, глазом моргнуть не успеешь.

Запрограммировал ИИ спасать пешехода? Получи иск на 100500 миллионов от вдовы владельца беспилотного авто. Не, ну а как? Человек машину купил, а она его же и убила, чтоб спасти какого-то пешехода.

Запрограммировал ИИ спасать владельца авто? Получи иск от родственников пешехода, заодно и иск от самого владельца машины, который будет орать, что он бы, конечно, пожертвовал собой, если бы мог, но вот злые программисты запрограммировали ИИ спасать пешехода.

И нашли исследователи, как им казалось, крайне изящный выход: покупаешь машину и прежде ее использовать - настраиваешь ее сам под себя! То есть садишься, наливаешь чаёк и отвечаешь на сотню-другую хитрых вопросов, которые задает тебе ИИ твоей беспилотной машины. ИИ, я так понимаю, был тестовый, т.е. реально на машины он не ставился. А может и нет, не помню.

Но суть в том, что на основании твоих ответов ИИ понимает, кого ты предпочитаешь спасать в патовой ситуации!

5) что же обнаружили исследователи? исследователи обнаружили, что теория - это одно, а "своя рубашка ближе к телу". То есть люди, которые думали, что программируют ИИ конкретно для себя - любую патовую ситуацию решали именно в свою пользу.

Так что проблема вагонетки - это не про то, что "вам делать", а про то, что "вы реально сделаете",

несмотря на весь ваш гуманизм и человеколюбие, которое вы демонстрируете в ситуациях, не угрожающих лично вашей безопасности.