Не политкорректный компьютер...⁠⁠

Ну начнём с того, что я не разжигаю и не призываю, а просто пересказываю то, что мне рассказали люди, которые тоже в свою очередь это услышали от кого-то другого. И вообще на всякий случай вся история вымышленная и всё совпадения случайны.

Всё началось с этой статейки:

https://www.wired.com/2017/04/courts-using-ai-sentence-crimi...

которую некто за пивком обсуждал с американскими знакомыми, которые так получилось, работали толи в подобной сфере, толи просто были более знакомы с этой материей.

Для тех кто не умеет в английский вкратце там речь идёт о том, что в скором времени AI можно будет использовать в судах для оценки риска, будет ли данный преступник опять нарушать закон или он реабилитировался в нормальное общество без преступных мыслей и желаний. 

Однако цимес в том , что один из американцев рассказал, что знал где и как обкатывали и тестировали эту программу. Дальше от его лица:

Программа представляла из себя обычную базу данных с элементами нейронной сети и механизма типа "акинатор". О преступнике вводились некие ключевые данные и программа давала процент вероятности, с которой данный преступник совершит преступление после выхода на свободу или по УДО или просто по истечении срока заключения.

Судья параллельно основываясь на своём опыте и актуальной обстановке делал те же манипуляции с инфой но у себя в голове и официально выносил своё решение относительно данного преступника. То есть он смотрел на решение программы ПОСЛЕ вынесения своего решения и просто документировал для статистики своё решение и решение программы.

Через некоторое время проводили ревизию и выяснилось, что компьютер намного чаще был прав относительно своих решений, чем этот делали судьи. То есть его альфа и бета ошибки были реже чем у судей-людей.

На пример судья посмотрел на дело первого преступника и решил, что он реабилитировался и его можно выпускать. В это время компьютер сказал, что человек совершит как минимум ещё одно подобное преступление согласно оценки рисков. Через некоторое время этот же преступник попадается опять с тем же обвинением.

Вывод: Суд ошибся. 

Бета ошибка менее очевидна. В данном случае судья посмотрел на дело второго преступника и решил, что он совершит ещё одно преступление, так как ещё не полностью осознал свою вину. Срок продлили, а компьютер предсказал, что человек не станет совершать новые преступления и может быть свободен.  Этот тип ошибки - к сожалению не проверяем, хотя наблюдение за заключённым показывало, что его агрессия уменьшилась, а желание кооперировать с законом увеличилось. 

Суды решили понять, почему компьютер реже ошибался на альфа ошибках и как устроен алгоритм принятия решения в целом. Инженеры показали какие типы данных получает программа и среди всего прочего там был цвет кожи и происхождение. Программа без всякой политкорректности оценивала шансы на повторное преступление намного выше у афро-американцев и  латино-американцев, чем у белых.

Суды потребовали убрать фактор цвета кожи из программы, что бы программа была полит-корректной. Инженеры сделали замену: вместо цвета кожи и происхождения они внесли район проживания, среднюю выплату по налогам и уровень образования преступников. Шоком для судов было, что результаты вообще не поменялись. Программу прогнали по уже известным преступникам до их выпуска и после. Компьютер сделал те же прогнозы, что и раньше. Суды опять сказали, что районы проживания в 90% подразумевают и цвет кожи, а уровень образования вместе с показателем по налоговым выплатам повышает вероятность почти до 98% попасть в представителя определённого культурного сообщества.

Инженеры сказали, что программа непредвзято оперирует факторами из биографии и географии каждого преступника и статистически выпускники Гарварда живущие в Манхэтане и платящие большие налоги с большого дохода почти не совершают повторного преступления в отличии от жителя Бронкса без образования и без постоянной работы.

На данный момент программа якобы проходит доработку для более человечной оценки рисков, то есть она должна более обдуманно принимать решения.

Если кто что нароет в интернете для подтверждения или опровержения этой статейки - то милости прошу в камменты.

А вообще это крайне  острая темка, которая граничит по смыслу с фильмом Особое Мнение, где в конце всё равно всех отпустили... Так что будем ждать новостей.

Всем добра :)