Программа предсказания преступлений, как оказалось, не любит негров
В ряде городов США работа правоохранительных органов и местной судебной системы в уже несколько лет строится на показаниях аналитических программ, которые ещё называют «программы предсказания преступлений». Эти программы анализируют статистику и выдают рекомендации. По ним строятся оптимальные маршруты ночного патрулирования с указанием потенциально опасного времени для каждого района или составляются списки вероятных будущих преступников для наблюдения и оперативного пресечения возможных неправомерных действий. Всего программ по штатам существует немало, разработаны они разными компаниями и зарекомендовали себя высокой точностью: к примеру, в Чикаго более 70% жертв огнестрельных ранений присутствовали в заранее составленном списке, а 80% стрелявших — в аналогичном списке преступников.
В судебной системе аналитические программы используют для вычисления так называемого показателя риска (risk assessment score) — то есть вероятности повторного нарушения закона уже привлеченным к ответственности лицом. Такой показатель влияет на тяжесть приговора, размер залоговой суммы, выбор меры пресечения и тому подобное.
Анализ журнала ProPublica более 7000 дел в округе Броуард (Флорида) показал, что программа компании Northpointe в два раза чаще выдаёт негативное предсказание афроамериканцам. Журналисты обвинили Northpointe в расизме и призвали исключить программу из действующей системы. Однако специалисты Northpointe выступили с развёрнутой защитой, где уверили правоохранительную систему в том, что в их алгоритме не используется фактор расы, но учитываются другие факторы, которые сильно коррелируют с расой: уровень образования, статус занятости, криминальная история родственников, приём запрещённых наркотиков друзьями/знакомыми и тому подобное.
