11

Система распознавания лиц перепутала политиков с преступниками

Система распознавания лиц перепутала политиков с преступниками Amazon, Высокие технологии, Популярная механика, Полиция США, Распознавание лица

Американский союз гражданских свобод решил проверить новую систему распознавания лиц Rekognition, созданную Amazon. И система проверку не выдержала.


Американский союз гражданских свобод — это некоммерческая правозащитная организация, и на этой неделе она, потратив всего 12 долларов и 33 цента, проверила систему, от которой вполне может зависеть жизнь и свобода многих людей.


Используя настройки Rekognition, выставленные по умолчанию, то есть порог уверенности в 80% (это значит, что система на 80% уверена в том, что права, когда дает сигнал о совпадении), Союз просканировал 25000 фотографий преступников, лежащих в открытом доступе, и сравнила их с фотографиями всех членов Конгресса. В результате система идентифицировала 28 конгрессменов как преступников.


Стоит заметить, что это может показаться лишь забавным фактом, но Amazon активно рекламирует свою систему для полицейских и охранных организаций и некоторые уже ей пользуются, так что цена такой ошибки может оказаться довольно дорогой для того, кого опознали неверно.


Представитель Amazon заявил сайту The Verge, что в столь удручающих результатах скорее всего виновата недостаточная калибровка. «Восьмидесятипроцентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных или в социальных сетях, но она совершенно не подходит для идентификации людей». Также он заявил, что для любой идентификации, способной повлечь за собой серьезные последствия, нужна уверенность минимум в 95%.


Amazon не отказывается от идеи продавать систему правоохранительным органам, несмотря на петиции со стороны собственных акционеров и работников.


Источник: https://www.popmech.ru/technologies/news-434302-sistema-raspoznavaniya-lic-pereputala-politikov-s-prestupnikami/

Дубликаты не найдены

+10

что-то мне подсказывает, что недостаточная калибровка тут не при чем...

+4

ну почему же сразу перепутала?

+2

Какой умный ИИ

Иллюстрация к комментарию
+2

Никакой ошибки, отличная система.

+3

Ничего не перепутала. Технику не обманешь!

+3

Проверьте нашу Думу. Хотя , мы и так знаем...

+2

Зашла почитать каменты, что система была права. А её, скорее всего, пошлют сканировать хот-доги.

+1
Возможно неспроста...
+1

Это чувство, когда ИИ справился с задачей лучше человека

+1

«Восьмидесятипроцентная уверенность приемлема, когда дело касается фотографий хот-догов, стульев, животных или в социальных сетях, но она совершенно не подходит для идентификации людей»

Они проверяют этой системой хот-доги и стулья?) Зачем тогда вообще нужна эта 80% уверенность, если программа расчитана на проверку людей.

0

Срочно вводить в действие данную программу, особенно в России. Она уже допилена и долизанна до нехочу.

раскрыть ветку 1
+2

И что она будет делать?) преступники посмеются что она из опознала и отправят на доработку)

0

Робота не обманешь, раз распознал что преступники, значит так оно и есть :)

Похожие посты
Похожие посты не найдены. Возможно, вас заинтересуют другие посты по тегам: