Самоуправляемые автомобили "взломали" наклейками
Разработчики самоуправляемых автомобилей и регуляторы в основном обеспокоены угрозами безопасности "машин без водителя", связанных с возможностью их удаленного взлома через интернет или локального подключения к их компьютерным системам. Но, как выяснилось, создать проблемы автономным машинам и поставить под угрозу жизни людей можно куда проще.
Исследователи из университета Вашингтона обнаружили, что системы машинного зрения, применяемые в машинах с автопилотом для распознавания дорожных знаков, легко сбить с толку: достаточно определенным образом разместить на знаках небольшие наклейки.
Если злоумышленникам известно, как именно автомобиль идентифицирует тот или иной знак, они могут сгенерировать изображения, которые, не меняя знак значительно, "превратят" его в "глазах" машины в совершенно другой.
Например, разместив наклейки на знаке "СТОП" (см. фото выше), исследователи добились, чтобы системы автономных автомобилей воспринимали его как знак ограничения скорости. В реальном мире это может привести к серьезной аварии. Исследователи предлагают бороться с уязвимостью, добавляя в управляющие автономным автомобилем алгоритмы, дополнительно анализирующие контекст, в котором встретился знак. Они помогут убедиться, что знак не вводит систему в заблуждение — машина должна "удивиться", обнаружив "СТОП" на скоростном шоссе или ограничение скорости в 100 км/ч на городской улице.
Источник http://hitech.vesti.ru/article/670499
Само собой, алгоритмы распознавания будут улучшаться. Я бы вообще делал активные знаки, с дублированием информации по радиоканалу, например.
А пока, я думаю, на наших дорогах их бы многое "удивило". :)
Но корпорации, в отличии от нас, смертных, могут обжаловать в суде установку знаков и действия различных служб, "благодаря" которым на дорогах появляются или не убираются различные препятствия.
И на дорогах будет больше упорядоченности, ибо алгоритмам управления она жизненно необходима.
Будет, но не для людей-водителей.
Хорошо, что я застал другое время.