Яндекс "споткнулся" о Мурино

Яндекс активно развивает проект беспилотного вождения.

В рамках проекта гордость Яндекса - алгоритм машинного обучения. То есть если по новой развязке или дороге поедут машины с Я.Навигатором, то в дальнейшем программа поймет это и начнет прокладывать там маршрут.

Но что-то пошло не так в городе Мурино Ленобласти. Я.Навигатор строит разворот в неположенном месте, заставляя водителей разворачиваться через двойную сплошную.

Хотя судя по панораме машина Яндекса проезжала там уже по новой схеме.


Что же пошло не так? ИИ(искусственный интеллект) видит, что водители разворачиваются и думает, что маршрут построен правильно. Но он же не знает, что водители поверив ему развернулись в неположенном месте.
Получается пиковая ситуация - чем больше водителей следуют неправильному маршруту тем больше ИИ уверен в своей правоте.
Возникает вопрос - насколько правильны можно обучить ИИ правильному поведению?

Яндекс "споткнулся" о Мурино Мурино, Яндекс, Искусственный интеллект
Яндекс "споткнулся" о Мурино Мурино, Яндекс, Искусственный интеллект