trueresort

.net

Тысячи беспилотных такси уже ездят по обычным городским улицам и возят реальных пассажиров.

У того же Waymo уже сотни миллионов миль полностью автономного пробега без водителя за рулём. И тут есть один вопрос, который почему-то почти всегда теряется в разговорах о безопасности беспилотников.

Что делает такая машина, когда аварии уже нельзя избежать? Вот конкретно в ту секунду, когда впереди человек, справа другой автомобиль, слева велосипедист, а остановиться уже невозможно. Куда она поедет?

Это старая проблема вагонетки, только раньше её обсуждали философы, а теперь эта вагонетка реально ездит по улицам. Обычно на этот вопрос компании отвечают примерно так:

“Машина минимизирует вред”.

Звучит разумно. Только это не ответ. Что значит “минимизировать вред”? Допустим, прямо почти наверняка будет тяжело травмирован один человек. Если свернуть, риск для него станет меньше, зато появится риск для трёх других. Что лучше? А если с одной стороны пассажир, а с другой пешеход? А если один нарушил правила?
А если можно с высокой вероятностью убить одного человека или создать меньший риск сразу для нескольких?

Как ни называй это решение, в какой-то момент машина обязана выбрать. Можно говорить про оценку риска, тяжесть последствий, стоимость траектории и что угодно ещё. Суть от этого не меняется. Машина выбирает один вариант из нескольких, и этот выбор меняет риск для конкретных людей.

Даже самое простое правило вроде “никогда не сворачивать, а только тормозить прямо” уже является вполне определённым решением. Оно означает, что система считает недопустимым переносить угрозу на другого человека, даже если такой манёвр мог бы уменьшить общий вред. То есть проблема никуда не делась. Её просто перевели с языка философии на язык алгоритмов.

Теперь про масштаб.

У Waymo показатель аварий с тяжёлыми травмами или хуже находится примерно на уровне 0,01 случая на миллион автономных миль. Это не смертность, а более широкая категория.

Но для мысленного эксперимента возьмём очень простую цифру:

одна смерть на 100 миллионов миль.

Теперь представим, что беспилотники выполняют 20 процентов всего автомобильного пробега США. Американский автопарк проходит примерно 3,3 триллиона миль в год. 20 процентов от этого примерно 660 миллиардов миль.

При нашей условной цифре получаем около 6600 смертей в год.Это не прогноз для Waymo и вообще не попытка доказать, что беспилотники опасны. Это просто показывает масштаб. Даже очень безопасная система при массовом внедрении неизбежно будет участвовать в большом количестве смертельных аварий.

И часть этих аварий будет происходить в ситуациях, где решение машины реально влияет на исход.Значит, кто-то должен заранее определить, что именно она должна делать. Когда продолжать тормозить прямо. Когда разрешено уйти в сторону.
Можно ли повысить риск для одного человека, чтобы снизить риск для другого. Должен ли пассажир иметь преимущество. Нужно ли учитывать количество людей. Можно ли учитывать нарушение правил.

Какие характеристики человека вообще допустимо принимать во внимание. И вот тут начинается самое странное. Специалисты прекрасно понимают эту проблему. Немецкая комиссия по этике автономного транспорта ещё несколько лет назад прямо писала, что выбор между человеческими жизнями нельзя превратить в простой универсальный алгоритм.

Нельзя, например, ранжировать людей по возрасту, полу или физическому состоянию. Нельзя просто сказать: тут один, там пять, значит давим одного. Но машина всё равно обязана что-то сделать. Она не может остановить развитие аварии отойти в сторону и сказать: “Этическая дилемма. Решение невозможно”. Руль в следующую миллисекунду всё равно должен повернуться на какой-то угол. Тормоз должен сработать с какой-то силой.

Из нескольких возможных действий будет выбрано одно. И если общество заранее не определило правила этого выбора, их фактически определяет производитель. Не обязательно напрямую. Никто не пишет в коде: “Если справа один человек, а слева трое, выбираем одного”.

Вместо этого есть сотни ограничений, приоритетов, коэффициентов, моделей риска и правил поведения. Но в конце вся эта система всё равно выдаёт одно конкретное действие. И вот совокупность этих правил и есть реальный ответ машины на проблему вагонетки.

Европа уже попыталась зафиксировать хотя бы часть таких принципов. Например, там прямо прописано, что нельзя считать жизнь пассажира важнее жизни человека снаружи автомобиля. Нельзя принимать решение на основании личных характеристик человека. Нужно учитывать уязвимость пешеходов и велосипедистов.

Это уже похоже на начало нормального общественного договора.Но только на начало.
Потому что тысячи конкретных конфликтов всё равно остаются без ясного публичного ответа. Один человек против двух. Пассажир против пешехода. Высокий риск одному против небольшого риска нескольким. Нарушитель против того, кто ничего не нарушал. Продолжение движения прямо против активного ухода в сторону.

А дорогах всё это уже ездит. Есть разрешения, проверки, отчёты об авариях, испытания, нормативы. Но у обычного человека нет простого документа, где было бы написано: “Вот правила, по которым автономная машина действует, когда вред уже неизбежен и любой вариант плохой”.

Я могу вообще никогда не пользоваться беспилотным такси. Я не клиент Waymo. Я не покупал Tesla. Я не соглашался ни с какими условиями. Я просто перехожу дорогу.

Но в какой-то момент закрытая система частной компании может принять решение, которое напрямую касается моего физического риска.

Вот это, по-моему, и есть главный казус. У человеческого водителя есть ПДД. Они публичны. Я могу их прочитать и примерно понимать, что другой участник дороги обязан делать. У беспилотника ПДД тоже есть. Но поверх них существует ещё один слой. Внутренняя логика принятия решений самой машины. И этот слой обычному человеку почти не виден.

Получается странная конструкция. По дороге общего пользования ездит автономная система, которая в критической ситуации действует по правилам, полностью известных только её создателям и, возможно, регулятору. При этом эти правила могут определять, кому именно достанется больший риск.

Мне кажется, тут всё поставили немного задом наперёд. Сначала должен был появиться публичный набор принципов. Такой же понятный и обязательный, как ПДД. А уже потом производители должны были строить машины, которые этим принципам соответствуют.

Какие риски допустимо переносить с одного человека на другого. Имеет ли пассажир особый приоритет. Можно ли учитывать количество людей. Можно ли учитывать виновность. Когда машина имеет право менять траекторию ради уменьшения вреда. Когда обязана продолжать тормозить прямо. Какие данные о человеке она вообще имеет право использовать.

Это не должно решаться внутри частной компании. Не потому, что там плохие инженеры. Просто это не их полномочие. Инженер может реализовать любое правило. Но само правило должно появиться не в исходном коде автомобиля, а раньше, на уровне общества и закона. Потому что речь идёт не о внутреннем устройстве чужого телефона.

Эта штука ездит рядом со мной по дороге.

И если она однажды окажется в ситуации, где любой вариант плохой, я имею право заранее знать, по каким правилам она будет выбирать.

Последний рейс: что на самом деле случилось с омарами «Титаника»*

Когда в апреле 1912 года «Титаник» отходил от причала в Саутгемптоне, где-то в трюмах ресторана à la carte находился деревянный бак с морской водой. В нём партия живых омаров, взятых на борт как часть провизии для самого дорогого общепита на плаву. Ресторан работал, омары присутствовали в меню на каждый день, а значит к вечеру 14 апреля, на пятый день плавания, в баке почти наверняка ещё оставались живые особи — кухня просто не смогла бы кормить пассажиров первого класса лобстером до самого прибытия, если бы весь запас был израсходован раньше срока.

Действующее лицо

Разбираться в деталях стоит с того, кто именно плавал в этом баке. Прямых записей о виде в сохранившихся меню нет — просто «lobster». Но география подсказывает: маршрут Саутгемптон–Шербур–Куинстаун, кухня в стиле лондонского Ritz, поставки из Ла-Манша и Атлантики — всё указывает на обычного европейского омара, Homarus gammarus. Это донный житель континентального шельфа от Норвегии до Марокко, обожающий каменистое дно с расщелинами, комфортную температуру около 10°C и глубины не больше 50 метров, хотя технически заплывает и до 150.
Омар — существо хладнокровное в буквальном смысле: температура его тела равна температуре среды, никакой внутренней термостатики. Резкий скачок температуры — это не «некомфортно», это шок для организма: обменные процессы либо резко замедляются (входя в состояние, близкое к оцепенению), либо начинают давать сбои.

Жизнь в баке

Открытый сверху деревянный ящик, просмолённый или обшитый тканью, с ручной аэрацией и, вероятно, льдом для охлаждения, примерно так выглядели ёмкости для живого улова до эры стекла и акрила. Клешни омаров, скорее всего, были зафиксированы деревянными колышками (резиновая лента как массовый метод в промышленности утвердится позже) — не из садизма, а потому что запертые вместе в тесноте омары — агрессивны: клешня-давилка способна давить с силой до 45 килограммов на квадратный сантиметр, и без фиксации к утру персонал недосчитался бы половины партии.

23:40. Начало конца

Столкновение с айсбергом. Шесть затопленных отсеков при проектных четырёх, дифферент на нос, медленно, но неумолимо нарастающая обречённость судна. Палуба E, расположенная ниже камбуза, начала принимать воду в носовой части уже около 00:30. Спустя полчаса вода добралась до знаменитой Шотландской дороги — длинного коридора, соединявшего носовые и кормовые помещения третьего класса. Камбуз на палубе D, где стоял бак с омарами, находился выше и дальше от точки удара — поэтому, по всей вероятности, продержался сухим дольше соседних помещений. Где-то в промежутке между часом и половиной второго ночи ледяная забортная вода добралась и до кухни первого класса на палубе D.

События на кухне

Вариант первый. Деревянный бак, будучи просто ящиком с досками, а не броневой капсулой, вполне мог не выдержать напора воды, крена, ударов плавающей мебели и оборудования — и попросту развалиться задолго до финальной фазы. В этом случае содержимое бака — вода и омары — оказывается вымыто прямо в затопленное помещение камбуза. Свободы в привычном смысле это не даёт: кухня — это не открытое море, а лабиринт переборок, дверей и палуб, из которого нет прямого выхода наружу, пока корпус судна не разрушится физически.

Вариант второй. Бак сохранился как ёмкость дольше — тогда участь его содержимого зависела уже не от собственной хрупкости конструкции, а от судьбы всего камбуза целиком.

Принципиальной разницы для дальнейшего сюжета это не создаёт: оба варианта не представляют возможности омару покинуть помещение до разлома корпуса.

02:17. Разлом

Корпус «Титаника» разломился пополам примерно в 02:17–02:18. Именно с этого момента — а не раньше — содержимое затопленных помещений получает физическую возможность соприкоснуться с открытым океаном: до разлома омар, даже вымытый из бака, всё ещё был заперт внутри корпуса конструкцией самого судна.

Носовая секция после разлома уходит под воду и начинает свободное погружение к морскому дну со скоростью, по оценкам исследователей вроде Роберта Балларда, порядка 11–13 метров в секунду — это терминальная скорость крупного затонувшего объекта в толще воды. Для сравнения: экстренный «прыжок» омара — знаменитый тейл-флип, резкий удар хвостом-веером, — разгоняет животное максимум до 1–3 метров в секунду, и то лишь на долю секунды, после чего требуется восстановление. Иными словами, даже если бы омар в этот момент оказался в свободной воде и предпринял отчаянную попытку уплыть в сторону от тонущей громады, у него физически не было шанса обогнать или хотя бы угнаться от скорости погружения окружающей его массы металла и воды. Он был не пловцом в этой сцене, а пассажиром нисходящего потока — так же, как и всё остальное, что не удержалось на поверхности.

Критическая для вида отметка в 150 метров глубины — граница его естественного ареала обитания — была пройдена этим потоком буквально за 15–25 секунд от начала свободного погружения. Ниже этой линии начинается уже совершенно чуждый мир: давление и холод, для которых физиология животного никогда не была рассчитана эволюцией, ограничившей его жизнь континентальным шельфом.

Что в итоге

Если восстанавливать хронологию максимально честно, без драматизации сверх фактов: у омаров с камбуза «Титаника» было примерно 35–80 минут между моментом, когда ледяная вода впервые добралась до кухни, и моментом, когда обломки судна пересекли границу их естественной среды обитания на пути ко дну. Почти всё это время — не отчаянная борьба за жизнь в открытом океане, а медленное, холодное затопление внутри тонущего корпуса. И лишь последние секунды этого пути — уже после разлома судна — стали настоящим погружением в толщу воды, слишком быстрым и слишком глубоким для существа, чей весь опыт взаимодействия с океаном ограничивался полусотней метров у скалистого берега.

Наиболее вероятным сценарием является то, что омар погиб от переохлаждения. От банальной, но фатальной для хладнокровного существа гипотермии. Перепад с привычных +7…+13°C до ледяных −2°C — это удар, который организм омара просто не запрограммирован пережить: обменные процессы останавливаются, тело перестаёт функционировать.

К моменту, когда обломки прошли критическую отметку в 150 метров — границу его родного мира, — омар, по всей вероятности, был уже мёртв. Не раздавлен обломками, не расплющен давлением воды — просто замёрз насмерть в холодной ловушке, из которой у холоднокровного существа никогда не было шанса выбраться.

Метафора про омаров, обретших свободу в момент трагедии, безусловно красива. Проблема лишь в том, что у самой биологии и физики катастрофы на этот счёт было своё, куда менее романтичное мнение.

*Текст реконструкция — результат мини-расследования с использованием нейросетей на основе документально подтверждённых фактов о конструкции судна, хронологии крушения и биологии вида Homarus gammarus. Прямых свидетельств очевидцев о судьбе конкретно ресторанных омаров Титаника не существует.