502

Не политкорректный компьютер...

Ну начнём с того, что я не разжигаю и не призываю, а просто пересказываю то, что мне рассказали люди, которые тоже в свою очередь это услышали от кого-то другого. И вообще на всякий случай вся история вымышленная и всё совпадения случайны.


Всё началось с этой статейки:


https://www.wired.com/2017/04/courts-using-ai-sentence-crimi...


которую некто за пивком обсуждал с американскими знакомыми, которые так получилось, работали толи в подобной сфере, толи просто были более знакомы с этой материей.


Для тех кто не умеет в английский вкратце там речь идёт о том, что в скором времени AI можно будет использовать в судах для оценки риска, будет ли данный преступник опять нарушать закон или он реабилитировался в нормальное общество без преступных мыслей и желаний. 


Однако цимес в том , что один из американцев рассказал, что знал где и как обкатывали и тестировали эту программу. Дальше от его лица:


Программа представляла из себя обычную базу данных с элементами нейронной сети и механизма типа "акинатор". О преступнике вводились некие ключевые данные и программа давала процент вероятности, с которой данный преступник совершит преступление после выхода на свободу или по УДО или просто по истечении срока заключения.


Судья параллельно основываясь на своём опыте и актуальной обстановке делал те же манипуляции с инфой но у себя в голове и официально выносил своё решение относительно данного преступника. То есть он смотрел на решение программы ПОСЛЕ вынесения своего решения и просто документировал для статистики своё решение и решение программы.


Через некоторое время проводили ревизию и выяснилось, что компьютер намного чаще был прав относительно своих решений, чем этот делали судьи. То есть его альфа и бета ошибки были реже чем у судей-людей.


На пример судья посмотрел на дело первого преступника и решил, что он реабилитировался и его можно выпускать. В это время компьютер сказал, что человек совершит как минимум ещё одно подобное преступление согласно оценки рисков. Через некоторое время этот же преступник попадается опять с тем же обвинением.

Вывод: Суд ошибся. 


Бета ошибка менее очевидна. В данном случае судья посмотрел на дело второго преступника и решил, что он совершит ещё одно преступление, так как ещё не полностью осознал свою вину. Срок продлили, а компьютер предсказал, что человек не станет совершать новые преступления и может быть свободен.  Этот тип ошибки - к сожалению не проверяем, хотя наблюдение за заключённым показывало, что его агрессия уменьшилась, а желание кооперировать с законом увеличилось. 


Суды решили понять, почему компьютер реже ошибался на альфа ошибках и как устроен алгоритм принятия решения в целом. Инженеры показали какие типы данных получает программа и среди всего прочего там был цвет кожи и происхождение. Программа без всякой политкорректности оценивала шансы на повторное преступление намного выше у афро-американцев и  латино-американцев, чем у белых.


Суды потребовали убрать фактор цвета кожи из программы, что бы программа была полит-корректной. Инженеры сделали замену: вместо цвета кожи и происхождения они внесли район проживания, среднюю выплату по налогам и уровень образования преступников. Шоком для судов было, что результаты вообще не поменялись. Программу прогнали по уже известным преступникам до их выпуска и после. Компьютер сделал те же прогнозы, что и раньше. Суды опять сказали, что районы проживания в 90% подразумевают и цвет кожи, а уровень образования вместе с показателем по налоговым выплатам повышает вероятность почти до 98% попасть в представителя определённого культурного сообщества.


Инженеры сказали, что программа непредвзято оперирует факторами из биографии и географии каждого преступника и статистически выпускники Гарварда живущие в Манхэтане и платящие большие налоги с большого дохода почти не совершают повторного преступления в отличии от жителя Бронкса без образования и без постоянной работы.


На данный момент программа якобы проходит доработку для более человечной оценки рисков, то есть она должна более обдуманно принимать решения.


Если кто что нароет в интернете для подтверждения или опровержения этой статейки - то милости прошу в камменты.


А вообще это крайне  острая темка, которая граничит по смыслу с фильмом Особое Мнение, где в конце всё равно всех отпустили... Так что будем ждать новостей.


Всем добра :)

Не политкорректный компьютер... Искусственный интеллект, Суд, Преступник, Математика, Нейронные сети, Политкорректность, Вымысел, Длиннопост

Найдены дубликаты

+89

Политкорректность теперь превыше науки, знания, фактов и здравого смысла

привет темные времена

раскрыть ветку 21
+34

Черножопые времена ты хотел сказать?

раскрыть ветку 20
+12

Фу, как нетолерантно. Афроамериканские времена.

раскрыть ветку 2
-13

именно темные. раньше все травли религию, хотя она не стояла на пути научного знания , но стояла на пути всяких извращенцев

Теперь всякие извращенцы стоят на пути науки и технологий

раскрыть ветку 16
ещё комментарии
+70
Чем читали половина комментаторов,хер знает. Наоборот машина оказалась донельзя политкорректной,т.к. доказала,что не в цвете кожи дело,а в образовании и соц.окружении.
раскрыть ветку 5
+13
Они читали заголовок ¯\_(ツ)_/¯
0
Ну, так, раз цвет кожи коррелирует с местом жительства и образованием, то всё правильно - черножопые преступают закон чаще и повторно тоже.
раскрыть ветку 3
+2

Потому что меланин в коже их заставляет нарушать закон? Или потому что в чернокожие всё ещё живут в гетто, в которых хреновые школы и социальное окружение?

раскрыть ветку 2
+41

Тоесть программа показала, что национальность не влияет поведение людей, влияет материальная обеспеченность? Это какаято коммунистическая программа, её надо срочно запретить.

раскрыть ветку 5
+1

дело не столько в обеспеченности. нормальные люди сами по себе стремятся не жить в гетто, а работать, учиться, одним словом быть достойными людьми. отсюда и вывод того, что во всяких бомжатниках-гетто больше преступников

раскрыть ветку 4
+8

Дело только в обеспеченности. Многоэтажная застройка в советском союзе - не привела к появлению гетто, и в китае не привела. Потому что люди видели, что живут не хуже других, видели, что если хорошо работать, на месте захолутных землянок - выростают красивые города. А что видят негры в гетто? Один черный адвокат прорвавшийся в универ, на стипендию общества защиты черных,  11 талантливых парней баскетбольной команды, и сотни наркобарыг, имеющих бабки здесь и сейчас. Какойже путь выбрать, охочему до бабок, толковому пареньку?

раскрыть ветку 3
+90

Ну как бы система права, чёрные (негры, латиносы, арабы, чурки) действительно чаще совершают преступления и тут нет дискриминации, это факт!

раскрыть ветку 21
+7

Чаще совершают преступление маргиналы и нищие. Другой менталитет. Условно, человек со средним достатком снимет проститутку. Мигрант со стройки - изнасилует случайную прохожую.

Деньги решают миллион потребностей, которые криминальные элементы не имеющие бабла - удовлетворяют незаконно. Если у тебя есть деньги на водку - зачем воровать? Есть машина - зачем угонять. Дело в том что чернокожие комфортно себя чувствуют в низах общества, но это не делает всех чернокожих - преступниками.

-13

Русских забыли. Ведь русские все в мафии, ленивые унтерменши, которые готовы воровать тачки, наёбывать государство и целыми днями валяться на диване вместо того чтобы работать 24\7, и ещё хотят отпусков как в России, по две недели, и оплачиваемых больничных, то есть они хуже бандитов - они коммунисты.

Если вы думаете что я сильно преувеличиваю, то вообще у славян репутация в США - не самая радужная. Поэтому правы они, что заменили "чёрный" на "бедняк с АУЕ головного мозга" - так банально точнее, а то попадёт в выборку белый ауешник, а система его ложно определит в "хороших" - он же белый.

раскрыть ветку 9
+1

Единственных кого не упомянул - это цыган

раскрыть ветку 8
-79

Судья не идиот и всё понимает относительно негров и латиносов. Он обладает большей информацией для анализа и поэтому в реальности он даст более точный прогноз.

А так это "один из американцев рассказал, что знал где и как обкатывали и тестировали эту программу". Одна бабка сказала, а другой послышалось.

раскрыть ветку 9
+27
в реальности он даст более точный прогноз.

но ведь в посте написано что они то как раз чаще ошибались чем нейросети.

раскрыть ветку 3
+10

Скорее судья, зная в каком обществе он живет, желает соблюсти видимость толерантности принимает заведомо ошибочные решения.

+6

Иногда сами судьи бывают чёрными. И у них проявляется солидарность к братишкам

раскрыть ветку 2
0
Расист от чёрной партии детектет.
ещё комментарии
+18

Вот это новость! Оказывается нищие и необразованные слои населения чаще совершают повторные преступления! Я то думал это дети богатеньких белых воротничков толкают крэк на углу, чтобы оплатить аборт сестре от отца, а оно вот как получается. Само собой, если район нищий, то школа говно, то перспектив у населения меньше чем, у дисней снять хорошее продолжение "войны без конечностей".

+10

Самиздат. Максим Шапиро. Факторный анализ (или как-то похоже, не помню точное название).

раскрыть ветку 4
+5

В точку! Максим Шапиро "Уважение культурных традиций", сборник неполиткорректных рассказов

раскрыть ветку 1
+1

Кстати, очень спорный момент)) как раз таки везде, где у него эксплуатируется эта тема, все настолько подчеркнуто политкорректно, что аж тошно. Вплоть до момента, где этнического "межпланетного" "типа-немца" лишают права на получение гражданства, когда он отказывается принять на работу такого же "межпланетного" "типа-кавказца"))

0
Шапиро в принципе шикарен и показан к прочтению)
0

да, тоже хотела написать про него. Плюс тебе, хороший человек

+8

К этому постепенно идем. Еще стоит упомянуть систему социального рейтинга, которую тестирует Китай

раскрыть ветку 10
+6

Вот это вобще стремная тема

раскрыть ветку 9
+3

Я думаю, это случится еще при нашей жизни

раскрыть ветку 2
-4

А что не так? Просто не косячь)

раскрыть ветку 5
+7

- Вы остановили мою тачку, потому что я чёрный!

- Нет, я остановил твою тачку, потому что у тебя в багажнике полтора килограмма дури!

раскрыть ветку 2
+2

Но там было два!

раскрыть ветку 1
+3

было

+7

Еще в начале нулевых, в журнале "Квант" был короткий рассказ - "Выгуглен". Там описывался мир в котором политикам нужно было при выдвижении себя на пост, открывать для всех историю запросов в гугле. Ну и про пару умных ребят которые научились эту историю чистить, и как из-за этого у них появились проблемы со спецслужбами. Тогда казалось дикостью.

+7

Судья оперирует фактами. Программа (нейросеть, компьютер) оперирует набором фактов. Чем их больше, тем точнее решение. Только живого судью можно подкупить/запугать/жена утром не дала и прочие воздействия, а с прогой не вступить в полемику, ну на данном этапе технологий.

Дело в своевременном внесении новых данных по конкретному делу, способных повлиять на исход. Плюс внося всё больше и больше данных, нейросеть становится "как человек". Вот кореш у меня занял денег, один раз вовремя не отдал, второй, на третий раз я всё =ему займу, и если б нейросеть знала тоже что и я и она б ему заняла, а так - два раза занял и не отдал, то всё досвидули.

раскрыть ветку 9
+2

Нейросеть - не живой человек и никогда им не будет. Точнее когда-то будет, но тогда у ней появятся свои недостатки. Текущую же нейросеть всегда нужно будет искусственно докармливать новыми концепциями из реального мира, потому что она в нем не живёт и ничего о нем не знает. Именно по этой причине машины пока водят хуже людей и почему всегда будут ситуации, когда самая умненькая машина не распознала какой-то объект который человек бы распознал, потому что он знает намного больше контекста о мире.

-5

Есть, по моему мнению, одна существенная разница между судьёй и программой. Судья может обосновать своё решение, предоставить свою логическую цепочку рассуждений, основанную на определённых фактах и их весе. Программа же, точнее ИИ - чёрный ящик, получает на входе результаты, на выходе даёт вероятностный ответ.

Но, на сколько я знаю и понимаю - нет возможности предоставить доказательства, почему программа приняла такое или иное решение. Просто нужно будет верить

раскрыть ветку 7
+2

Так и есть. Сейчас работают именно в этом направлении - чтобы машина не только говорила ответ но и обосновывала ключевыми факторами.

раскрыть ветку 1
+2

Зависит от программы (точнее, от того, что она возвращает). Можно заставить программу выводить не только финальное решение, но и факторы, которые на него повлияли

раскрыть ветку 1
0

с фигали чёрный ящик то?

алгоритмы работы полностью известны. то, что это непонятно судье(да и большинству людей) без высшего образования в области математики и программирования- не делают программу подобием чёрного ящика

раскрыть ветку 2
ещё комментарии
+27
Политкорректность — говно. Люди НЕ РАВНЫ.
раскрыть ветку 2
+11

Люди не одинаковы

раскрыть ветку 1
+1

На самом деле большинство одинаково.

+4

Это так мило и забавно, наблюдать, как пиндосы и европейцы, прекрасно понимая, что абсолютное большинство преступлений совершается неграми и мигрантами соответственно, отчаянно пытаются отрицать очевидное, прямо как Джим Керри в фильме "Лжец-лжец". Но, как рот себе ни затыкай, а ручка - то всё равно синяя...

Иллюстрация к комментарию
+13

Пффф. Да какие тут нейросети. За минуту написал

if (prisoner.getSkinColor() == Colors.WHITE) {

    return "Not a recidivist";

} else {

    return "Recidivist";

}

раскрыть ветку 5
+3

Нужен еще 70%  шанс, что не станет :)

раскрыть ветку 2
+1

Пфф

if (rand(1) >= 0.7) {

   return "Recidivist";

   } else {

       return "Not a Recidivist";

      }


Делов-то, ну

раскрыть ветку 1
+1

Ну кто так пишет?

Надо ж


is_recidivist(prisoner)

{

return prisoner.getSkinColor() != Colors.White

}

раскрыть ветку 1
0

И вот мы уже в процессе краудфайндинга и конкурентной борьбы за лучший код :)

+2

Нас счет ИИ во всяких таких делах, кто еще не читал "Зенитные комплексы Аль Эфесби" Пелевина всем быстро читать.

+2
Я бы еще добавил функцию расчёта срока уголовного наказания за тяжесть преступления, чтобы не было такого, когда за репост сажают на 5 лет, а за убийство или многомиллионную взятку год условки. Также неплохо было бы иметь нейросеть расчета финансовых потоков, чтобы государство осознало как распределять бюджет. И вообще, нейросеть в президенты, кандидат от народа, за непредвзятую политику!
раскрыть ветку 2
+1

Добро пожаловать в мизантропы :) у нас печеньки...

раскрыть ветку 1
+1

больше похоже на технократию

+2

Пожалуй, подожду

раскрыть ветку 5
+1

Просили не занимать

раскрыть ветку 4
+2

Спокуха, я договорился

раскрыть ветку 3
+1

@d0nate110


1. Глянул, что именно понимается под "акинатором"... А там точно упор делается на нейронную сетку, а не на комплекс fuzzy- регуляторов?


2. Забавно, что схожий механизм предсказывания преступлений (кажется, упор был на кражи и взломы) при разбиении по городским районам и кварталам в пилотных проектах тестировала полиция 2 или 3 года назад в нескольких немецких городах и в частности - в Мюнхене и Нюрнберге.


3. И что мне вспомнилось. Напрямую эксперимент не связан с сабжем, то там очень много точек пересечения.


Я об "зефирном стэндфордском эксперименте", о котором ты с большой вероятностью слышал (отложенный выигрыш/ожидание выигрыша и т.д.):


https://ru.m.wikipedia.org/wiki/Зефирный_эксперимент


https://en.m.wikipedia.org/wiki/Stanford_marshmallow_experim...


Так вот, в этом году выяснилось, что несмотря на общепризнанность и авторитетность эксперимента в методологии его проведения есть несколько критических слабых мест, да в добавку - малая и ограниченная выборка.


И это всё во многих случаях кардинальнейшим образом влияет на результаты. И выясняется, что наиболее точная корреляция результатов связана с... принадлежностью к социальным слоям и обеспеченностью семей детей, участвовавших в эксперименте.


https://anlazz.livejournal.com/285703.html


https://22century.ru/society/65628


А теперь посмотри на свою статью. ;)))


Короче, рекомендую ознакомиться со ссылками - это даст массу контактных точек с твоей заметкой и даже добавит в неё новые грани и измерения. ;)


P.S. Я по Regelungstechnik писал курсовую работу по фаззи-логике. ;)))

раскрыть ветку 3
0

Ты теперь мой герой. Я из Regelungstechnik помню только Bode-Diagramm, Tiefpassfilter и небольшую практику по Simulink после которой я понял, что если мне когда нибудь нужно будет сделать систему Sensor-Aktuator  То я пойду к спецу :)

-1

Про зефирный эксперимент не знал. Спасибо за интересную наводку. Теперь придется проверить на своей дочке.


;)

раскрыть ветку 1
0

Блин, некорректно будет!


Буквально в этом сентябре на Антенне Байерн проводили "предшкольный марафон" - и очень много зубоскалили по поводу наполнения Schultüte. =D


То, как раньше две шоколадки в вершине конуса были супер-пупер-радостью - и как сейчас это стало для детей по ценности чем-то слегка дороже песка, а ценность - это плейстейшн, дрон или новый десятидюймовый планшет. ;)))


P.S. Не, я фаззи-регуляторы уже только в общем помню. =Р


Но ведь у меня это и одним из фокусных направлений было. :)

+1

Скоро. От одного до трех органов.

Иллюстрация к комментарию
+1

пока компьютер не будет полностью автономный, доверять ему нельзя. а то будет как в сериале  "В поле зрения" - там почти такой же компьютер создали, посмотрите классный сериал  

раскрыть ветку 1
0

Сериал неплохой, но логики в поведении "the machine" там просто ноль ;)

0
Однако цимес в том , что один из американцев рассказал, что знал где и как обкатывали и тестировали эту программу. Дальше от его лица

Один португалец рассказал, что знал где и как можно публиковать истории из головы и никто в них не усомнится. Дальше с его лица:


— На Пикабу.

раскрыть ветку 2
-1

Lol que?

раскрыть ветку 1
0

Откуда дровишки? Где пруфы, амиго?

-12

Причины преступнрсти у всех разные! Я сам воровал, когда в 90-е зп была никакая. Потом перестал, когда зп подняли. Сейчас у меня семья, воровать срвсем не хочется, хотя я на это способен. Как меня программа будет оценивать, если управляют программой, т.е. заводят данные для анализа, в любом случае люди?..

раскрыть ветку 6
+28

Ну, если вдруг ты обеднеешь, то высока вероятность, что ты снова будешь воровать. Это не так сложно описать, как и вероятность того, что изменится твое финансовое состояние

ещё комментарии
+6
Ты черный?
ещё комментарии
-21

Нельзя допускать, чтобы правосудие вершил компьютер.

раскрыть ветку 20
+23
Зато ему взятку не дашь, как судье
ещё комментарии
+4
Почему?
ещё комментарии
+3
Тандем, с фиксацией статистики. лучшее решение думаю.
раскрыть ветку 3
-1

То есть палочная система?

раскрыть ветку 1
-5

Да. Главное, чтобы окончательное решение оставалось за человеком.

ещё комментарий
+1

Аргументируйте

раскрыть ветку 3
0

Ку.

-4

Есть, по моему мнению, одна существенная разница между судьёй и программой. Судья может обосновать своё решение, предоставить свою логическую цепочку рассуждений, основанную на определённых фактах и их весе. Программа же, точнее ИИ - чёрный ящик, получает на входе результаты, на выходе даёт вероятностный ответ. Но, на сколько я знаю и понимаю - нет возможности предоставить доказательства, почему программа приняла такое или иное решение. Просто нужно будет верить её результатам.


Кстати, получается, что решение программы нельзя опротестовать - нет смысла. только в случае появления новых фактов

раскрыть ветку 1
0

это да

ещё комментарии
Похожие посты
Возможно, вас заинтересуют другие посты по тегам: