Смотрю я на комментарии к "водительским постам", и каждый раз ловлю себя на мысли, что скорее бы все машины перешли на ИИ. Как хорошо станет, когда не останется кожно-мясных за водительским сиденьем - и само движение станет более упорядоченным и быстрым, и общая транспортная сеть будет лучше распределять нагрузку по дорогам. Но самое главное - никаких уебанов за рулём.
Дожить бы до этого времени...
Я, (10 лет в IT в основном в банках. Видел столько падений пром систем что к 30 годам уже седой наполовину) когда это прочитал.
Ну наконец-то хоть один дельный аргумент против. А то всем в первую очередь удовольствия от вождения не хватает.
Вопрос как специалисту - неужели нет способа обезопасить систему, если не от падения, то хотя бы от последствий: Резервные системы там... или переход управления машиной полностью на собственные ресурсы, если городская система управления потоком упадёт?
если городская система управления потоком упадёт?Если она упадёт, то обычные человекоуправляемые автомобили, внезапно, тоже никуда не поедут.
В 2005-м (кажется) году в Москве на одной из электроподстанций взорвался трансформатор, что привело к перегрузкам и аварийному отключению электроподстанций, питающих половину Москвы и области. Вечером того дня я возвращался домой. В нашем районе не работали светофоры. Просто на них электричество не подали. И всё, полный коллапс. Перекрёстки вдоль улицы каждые 100 метров, гаишников для ручного разруливания столько нет, а без управления перекрёстные транспортные потоки друг друга просто запирают.
Запирают из-за придурков, а если по ПДД, то можно ездить. Города с несколькими сотнями тысяч жителей без света не встанут наглухо.
Запирают из-за придурков, а если по ПДД, то можно ездить.Не-а. Водитель на перекрёстке нескольких многополосных улиц тупо не имеет достаточной информации, чтобы понять нужно ему в данный момент ехать или стоять. Он будет либо тупить и всех пропускать, либо поедет и упрётся в другого.
Ну так регулируемый перекресток, на котором светофор сломался. Если главная дорога обозначена, то второстепенные будут стоять вечно. Или будут пытаться ехать все, но в итоге перекресток запрется наглухо.
Ну так нерегулируемый перекресток проектируют так, чтобы все в итоге проехали.
А в данном случае перекресток регулируемый, но стал нерегулируемый из-за отключения электроснабжения. И на нём в итоге встают все.
Так и регулируемый в нерегулируемом положении проектируется так чтобы в итоге все проехали.Как они могут все проехать, если они не помещаются?
Анализируются потоки и прочееПотоки давно превосходят в разы возможности уличной сети, спроектированной десятилетия, а то и века назад.
В таком случае в случае аварии со светофорами ставят регулировщикаВы же прочитали о чем речь или тупо отвечаете на последний вырванный из контекста комментарий?
Речь про работу транспорта в условиях чрезвычайной ситуации. Как пример я привел отключение электроснабжения на половине 12-миллионного города.
Естественно, никаких регулировщиков заменить обесточенные светофоры не хватит.
Но двигались же. Я думаю около 300 тыс населения потолок когда без светофоров еще смогут двигаться.
Значит транспорта мало и улицы узкие и это не пробки, а просто водители у светофора стоят
Час полтора весь город это не пробка, это "нормально едем". Пробка это когда час на одном месте.
У ИИ и не должно возникнуть такого выбора. Если ребёнок вылетел на проезжую часть так, что ни маневр в пределах своей полосы, ни экстренное торможение не позволят избежать ДТП, то остаётся действовать по ПДД - тормозить в своей полосе. Если, скажем, есть возможность спасти ребёнка, но при этом вылететь за ограждение в пропасть, то, разумеется, никуда сворачивать не следует, только торможение.
Это не философский вопрос, требующий отречения от первого закона робототехники, на дороге для водителя всё достаточно ясно прописано, чтобы не стать виноватым, и неважно, живой это водитель или андроид.
И, да, если за рулём будет ИИ с обкатанной, хорошо протестированной программой и кучей датчиков, у ребёнка и у пассажиров в любом случае будет намного больше шансов остаться живыми/без увечий, чем если водителем будет даже очень опытный водитель.
если датчик заглючитА если АБС откажет? На авто без ИИ? В любой современной машине уже есть куча датчиков. Правовые последствия абсолютно те же самые: если вовремя обслуживался/менялся, нет брака со стороны производителя, то ущерб покрывает страховая компания. Если есть вопросы к обслуживанию этого датчика - это уже не проблема ИИ.
Ну и, да, ключевые датчики дублируются, а их состояние постоянно на контроле системы мониторинга. Как на самолётах. Не работает ключевой датчик - переход на вспомогательный и экстренная остановка на обочине, вызов эвакуатора. С толкача уже не заведёшь)
Самый простой пример, поворот налево через встречную полосу. Если я поверну налево, а в меня въедет водитель который значительно превысил скорость, кто будет виноват?
Плохой пример, так как виноваты оба. Подчеркну, если бы за рулём обоих авто был ИИ, такой ситуации просто не произошло бы.
Есть множество решений судов и в ту и в другую пользу
Так суды никуда и не денутся, так же, как и спорные ситуации. Всего предусмотреть невозможно. И суды, что сейчас, что потом будут выносить решения после взвешивания всех факторов (ну, в идеале). А знаете, какая будет разница? У ИИ будет абсолютная презумпция невиновности, в отличие от живого водителя. Суд, разумеется, будет исследовать возможность того, что вы, как собственник, возможно вмешались в конструктив авто (код ИИ) и что-либо изменили, либо не обслуживали и не ремонтировали авто согласно регламентам - тогда уже претензии к вам. Но вот обвинить ИИ в том, что он намеренно нарушил ПДД, или не предпринял все необходимые действия для предотвращения ДТП, или был сонным, или пьяным - уже не получится. Да, будут, конечно, какие-то кейсы ввиду несовершенства или противоречий программы ИИ, будут выдвигаться претензии и новые требования к производителю - всё это будет корректироваться, нормальный процесс. Но с прогрессом внедрения ИИ это не должно будет пересекаться.
Условно едете вы домой, вдруг на вашей полосе упавшее дерево/лось/сломавшаяся машина, и сплошная разделительная полоса. В обычной жизни вы уступите всем и аккуратно объедете. А как быть с ИИ?
Я думаю, что ИИ поступит точно так же, только в отличие от вас, он промониторит обстановку на несколько сотен метров дальше, чем вы, со всех сторон, а не только "по зеркалам", соответственно, манёвр будет максимально безопасным, иначе он не сдвинется с места.
Ответственность может понести производитель авто (недоработал), хозяин авто (не обслужил), слесарь из автомастерской (обслужил, но спустя рукава), представители автодора (не убрали яму вовремя), администрация города (не поставили знак) - ну и ещё много кто - как решит суд, исходя из объективных фактов, тут как бы всё очевидно. Если вы об ИИ - то как машина, которая не может сознательно что-то нарушить - может нести ответственность?
Если вы о компенсации - то на это есть страховая.
С юридической точки зрения на дороге ответственность несёт тот, кто нарушает ПДД. Очень маловероятно, что при работе ИИ будут массовыми такие нарушения (со стороны ИИ), а если они и будут - то это серьёзный повод для пересмотра алгоритма программы управления ТС (не дописали в программу какие-то правила, например), либо для пересмотра ПДД.
Вот случилось что машина под управлением ИИ сбила кого-то, нарушила ПДД или ещё что-нибудь
в этом случае самым первым вопросом будет "а как такое вообще могло произойти?". Ведь ИИ нарушать ПДД не может, в отличие от человека. Если это не человеческий фактор (сам выбежал на дорогу), значит одно из двух - недостаток в алгоритме, противоречие в ПДД. И то и другое решается один раз и навсегда, в отличие от человека-водителя, который может продолжить нарушать, выйдя из зала суда.
Ладно, допустим, что действительно виноват производитель - несовершенство алгоритма, непредвиденная ошибка и прочее. Значит производитель понесёт ответственность, тут как бы очевидно. Что происходит при авиакатастрофе? Расследование - по результатам, если исключён человеческий фактор, выносят решение о том, какая техническая недоработка привела к этому. Производитель принимает меры, например, устанавливает систему обогрева внешних датчиков. То же самое и с автомобилями на автопилоте, не вижу противоречий. Какая производителя в данном случае несёт ответственность - сказать не могу, но сомневаюсь, что главного конструктора ждёт тюрьма. Скорее всего выплачиваются компенсации погибшим, и эта ответственность застрахована, само собой. Как видите, никто полёты бортов данного производителя не запрещает, в случае, если были предприняты соответствующие меры.
По поводу того, кто отвечает за неисправное технически ТС - уже расписал ранее, если не согласны - аргументируйте.
Ну и вы видимо не очень знакомы с устройством современных ИИ.
Что конкретно вас смущает в моих знаниях (незнаниях)?
Я немного знаком с теорией ИИ, непосредственно программированием не занимался. На самом деле, мы здесь мало обсуждаем сам ИИ, так как этот алгоритм занимается распознаванием окружающего мира и переводом потока аналоговой информации в метаданные. А вот алгоритм действий на дороге согласно ПДД будет зашиваться руками программистов, тут "самообучаться" нечему - для меня это очевидно.
Вот, вы заметили, что по сути, кроме препятствия на дороге, при наличии сплошной полосы слева и отсутствии возможности объезда справа, больше спорных ситуаций на ум-то и не приходит?
При дорожных работах обычно организуются знаки, разметка, временные светофоры, ручная регулировка реверсивного движения самими рабочими. Если всего этого нет, или на пути неустранимое (неустранённое) препятствие в виде лося, дерева, извращенца в пальто, перевернувшегося автомобиля, и объехать его нет никакой возможности ни справа, ни слева, не пересекая при этом сплошную встречки, то - да, водитель (неважно, живой или ИИ) вынужден выполнить манёвр с нарушением, при этом правонарушением это не считается не может, что с успехом доказывается в судах даже сейчас, а уж с телеметрикой от ИИ, я думаю, и подавно будет доказываться (нас в автошколе, когда сдавали экзамен, так и учили проговаривать вслух инспектору: "вынужден нарушить"). Конечно, успех таких судов при участии ИИ в большой мере зависит от политической воли наших властей, но тут уже извините, мы уходим от темы, да и это больше обсуждение юридической стороны вопроса, которая была и будет всегда, вне зависимости от наличия/отсутствия ИИ на дороге.
Или это ИИ и он может совершать ошибки, но в тоже время может действовать в нестандартных ситуациях
Я уже описал, какая зона ответственности у алгоритма ИИ в автомобиле: однозначное распознавание окружающей среды и создание метаданных, на основе которых можно принимать решения. Сами решения не могут приниматься ИИ "по ситуации", поскольку есть ПДД, и им нужно следовать беспрекословно, плюс куча исключений. Это должно быть, как вы правильно заметили, "огромное дерево принятия решений" - да, по-другому никак.
Плюс ещё, какие-то ограничения, которые не приходят в голову, когда за рулём человек. Например, есть ли смысл махать рулём, когда в метре от твоих колёс оказалась кошка, а ты едёшь 90 км/ч? Живой человек, возможно, среагирует, сделает резкий бросок рулём - и улетит в кювет. Программа за пару десятков миллисекунд просчитает всю физику и - либо сделает уход минимально возможным манёвром, сохранив управляемость, либо - да, будет таранить животное, так как шанса избежать столкновение не было, но был шанс сохранить жизни внутри авто.
Кстати, уход в сторону от столкновения - это тоже нарушение п. 10.1 ПДД. Почему такое прописано в правилах? Потому что среднестатистический водитель не в состоянии учесть все факторы, сделать расчёты и придти к правильному решению за такое короткое время. А компьютер может. Значит в такой ситуации это даже подпадает под ст. 2.7 КоАП - "Крайняя необходимость"
Отсюда и ответ на ваш вопрос:
кто решает какие решения правильные.
ну, очевидно, что не одинокий бородатый программист, прикованный цепью к компьютеру в подвале, а команда юристов, аналитиков и разработчиков. При этом, бОльшая часть поправок в алгоритмы будет внесена на стадии тестирования, в том числе и на дорогах общего пользования, что происходит уже сейчас во многих регионах РФ, причём уже давно.
Напоследок, пара фото из личных архивов, Москва, ноябрь 2019 г.
Вот, вы заметили, что по сути, кроме препятствия на дороге, при наличии сплошной полосы слева и отсутствии возможности объезда справа, больше спорных ситуаций на ум-то и не приходит?Просто это первый попавшийся пример, если хотите вот вам еще:
ну, поехали:
- знаки/разметка которые противоречат друг другу
приложение 2 ПДД, п.1: В случаях если значения дорожных знаков, в том числе временных, и линий горизонтальной разметки противоречат друг другу либо разметка недостаточно различима, водители должны руководствоваться дорожными знаками
- отсутствие разметки, знаков приоритета на узкой дороге
вы подразумеваете двустороннюю дорогу, где нет места для разъезда двух авто? Что никак не регламентировано, скорее всего никем не обслуживается и встречается в основном за городом, в деревнях и прочих садоводствах? Ну, тут как бы очевидно - поступать так же, как поступил бы человек: искать обочину или карман, чтобы пропустить встречку. Если встречка уже нашла такой раньше - ехать вперёд. Если впереди нет - сдавать назад (езда задним ходом не запрещена ПДД, кроме исключений).
- изменение ПДД в зависимости от стран
ну блин, прошивку меняй) Вы же не будете жаловаться, если ваш смартфон перестал работать в другой стране, потому что там частоты с нашими не совпадают?
- проблемы с парковкой в местах без знаков/парковочной разметки
п. 12 ПДД, всё подробно расписано, в том числе без знаков и разметки, не вижу никаких противоречий
- случай когда лось выбежал на дорогу, должен ли ИИ нарушить ПДД и объехать его, или тормозить в своей полосе с весьма вероятной гибелью пассажиров.
уже обсуждалось выше:
Кстати, уход в сторону от столкновения - это тоже нарушение п. 10.1 ПДД. Почему такое прописано в правилах? Потому что среднестатистический водитель не в состоянии учесть все факторы, сделать расчёты и придти к правильному решению за такое короткое время. А компьютер может. Значит в такой ситуации это даже подпадает под ст. 2.7 КоАП - "Крайняя необходимость"
Пример в фуры на встречке лопнуло колесо(гвоздь попал), и она потеряла управления и вылетела вам на встречу. по ПДД вы должны тормозить в пол в своей полосе
вот это достаточно интересный пример. А вы точно сможете рассчитать траекторию фуры, что она не вылетит целиком на вашу обочину, либо не вернётся в свою полосу? И тогда ваш манёвр с нарушением ПДД подпишет вам приговор? И вы точно знаете, что за этой фурой не едет жопонюх - такая же фура, которая точно так же вас раскатает, но вы ещё и будете неправы?
Ситуаций много сложных на дороге, и правило "умирай в своей полосе" не просто так было добавлено.
Вот ещё пример: тебе в лоб летит обгонщик и у тебя в конце концов не остаётся другого выхода, кроме как уйти на обочину. На самом деле очень мало кто в такой ситуации прибегает к "торможению в своей полосе", хотя правила это прямо предписывают. И, если бы водитель не проговаривал про себя, что это не он должен тормозить, а обгоняющий, проглотил бы свой гонор и предпринял действия заранее (снизил скорость вплоть до остановки), то ситуация была бы предотвращена. И пострадала бы только гордость водителя. А у ИИ гордости нет, так-то..
А давайте ещё усложним ситуацию - ты вроде и снизил скорость, а встречка всё равно не успевает уйти в свою полосу и, вместо того, чтобы прижаться к своей попутке - метит на вашу обочину. Вот только вы об этом не в курсе! Итог - столкновение лоб-в-лоб на обочине! А если бы тормозили в своей полосе - остались бы целы.
Как бы там ни было, где замешан человеческий фактор - простите, мало что можно предсказать. Компьютер может просчитать всё, или почти всё, но одного он никогда не сможет учесть - что в голове у других участников движения - людей. Поэтому, единственное, что он может сделать - избежать плохой ситуации, приняв меры заранее. И это у него будет получаться однозначно получше, чем у людей.
а соответственно нету дураков которые подпишутся под этим
я тут, конечно, компрометирую лояльное отношение к ИИ, но, если вы в теме, то не могли не видеть уже не единичные новости про теслу, как вот эта, например:
https://rg.ru/2020/09/18/voditel-tesla-spal-za-rulem-na-skor...
другими словами - вы не правы, дураки найдутся)
Они есть и сейчас, даже при всём несовершенстве технологий.
Многие пилоты, не имеют адекватного опыта пилотирования в критических условиях
Как писал Денокан: "В современной авиации сложилась такая практика, что директорная система используется практически 100% полетного времени... ...В некоторых авиакомпаниях в принципе запрещено отключение директорной системы кроме редких случаев, когда документы это рекомендуют – вроде финальной части неточного захода на посадку или при визуальном заходе."
Я где-то писал об автопилоте самолёта?
Был пример с датчиками в самолёте, как правовой прецедент ответственности производителя при ДТП (авиакатастрофе в примере), в случае технической неисправности при отсутствии человеческого фактора.
Это могло произойти и при ручном управлении самолётом (и происходило ранее)
описанный вами случай лежит уже в другой плоскости. Тут либо есть главенство закона либо его нет.
так есть же уже давно сайт, где людям предлагают сделать выбор в похожих ситуациях, и на этих ответах учат ИИ принимать решение. Получается мы и учим.
безусловно, какой НИИ американский, но ничего же не мешает сделать уже на основе проведенной выборки, я лет 5 назад смотрел и там было смоделировано около 5 миллиардов ситуаций уже спорных.
Создание автопилотов ограничено множеством факторов.
1 реальный мир является очень хаотичным и непедопределенным. К примеру есть мобильные роботы они отлично работают и безопасны, но работают только в рамках кучи "но".
2 приведение неопределённости к чему то простому потребует создания инфраструктуры.
3 создание инфраструктуры это очень много денег, очень много сложных систем.
4. Это очень много программного кода
5. Чем сложнее система тем проще её сломать.
Мы живём в капитализме. Тут правит прибыль, никто не будет инвестировать в то, что не принесёт денег. В штатах оплоте технологий почти не раьотает оплата по nfc. Просто это надо менять терминалы а это деньги. А это в масштабах простого и существующего почти 10 лет.
Код будет писать миллионы строк программного обеспечения? Вы уверены что все будет правильно и хорошо, а не на отьебись? Вспомните историю с боингом 737 мах q. Автопилот для самолёта написали неправильно итого 2 самолёта улетели носом в землю.
Далее чем более используемая ит система, тем больше желающих её сломать, а как у нас компании относятся к безопасности? Вспоминаем тонны утечек данных, дыры в макбуках в процах и тд.
Автопилоты угроза миллионам рабочим местам, оставшиеся без работы люди куда пойдут? Смирятся и пойдут на курсы повышения квалификации или найдут в интернете гайд как за 100 баксов сломать автопилот? (всегда можно собрать компактное устройство которое сломает сенсоры)
Теоретически конечно это все можно сделать и даже есть базис технологий, но в текущем мире решения этих задач я не вижу.
Это если в кратце.
Это всё равно, что сказать:
- 5 лет езжу на машине и она ни разу не ломалась;
- 5 лет езжу на машине и ни разу не попадал в ДТП;
- 5 лет хожу в лес и ни разу не цеплял клещей;
Не знаю, как там в айти в банках. Работаю в сфере автоматизации. Начинал с промышленной, потом перешёл в спецтехнику. Можно сделать вполне надёжную технику с автоматическим управлением. Не нужно делать завязку всей системы на общий информационный центр. Должно быть как минимум 3 уровня, это 1. сбор информации в общие сервера, анализ, корректировка на уровне города; 2. сбор и анализ информации по каналу типа вай фай или (и) радио, для координации на уровне улицы, района, перевод на управление при потери связи с общими центрами; 3. центральный контроллер, с достаточной производительностью для контроля на местности плюс резервирование, желательно с возможностью передачи информации между ближайшими системами управления, даже таким образом можно на месте построить приличную сеть для достаточной степени передачи информации между машинами.
На технике годами работает оборудование без особых проблем, контроллеры мониторят состояние датчиков. Из опыта качественное оборудование работает без сбоев даже при не очень хорошем обслуживании.
Но для таких целей обслуживание нужно построить быстрое и качественное, это будет очень хороший залог надёжности и безопасности.
А если делать двойное резервированиеоборудования, то надёжность будет на очень высоком уровне.
Ты @лять не один такой, но я не поседел))) и конечно, однажды я чуть не положил мастер-систему банка... Но это уже совсем другая история))))
не один такой, но я не поседела я побрился под ноль, чтобы профессиональный опыт не выдавать))))
