Ментальное подбрюшье русской матрицы. Часть третья
Проводя свое собственное исследование на тему «Социального рейтинга», я поймала себя на занимательной мысли. Большинство статей на эту тему написано в стиле ласкового поругивания - это когда любимый котенок в десятый раз напружинил вам в тапки, тапки полетели в мусорку, но котик все равно хороший. Не перестаю удивляться широте русской души, порой граничащей с настоящим абсурдом.
Вот, посмотрите, все пишут почти одно и тоже- социальный рейтинг доверено формировать нейросети, но так как все несовершенно в этом мире, так и нейросети несовершенны тоже, поэтому системе свойственны «ложные срабатывания». И даже поругивают дальше, замечая, что коэффициент таких ложных срабатываний значительно варьируется от одного продукта к другому, и где также упоминается о том, что такую систему можно взломать, как снаружи, так и изнутри.
А теперь давайте разберемся, что скрывается под таким ласковым поругиванием. Вы ранее не бравший кредит в банке, в силу разных жизненных обстоятельств, а они как правило очень значительны в вашем случае, в банк все же обратились. У вас белая зарплата и вы ценный сотрудник. Вы подали заявку на заем, но менеджер проверил ваш запрос и выдал отказ. И все, хоть застрелись, потому что в любом другом банке тоже будет отказ без объяснения причин. И если вы подадите жалобу, вам ответят, что было ложное срабатывание системы и постараются от вас отбрехаться, если вообще снизойдут до ответа.
Теперь рассмотрим другой аспект жизни - медицину. Там этот коэффициент называют «ложно – положительным срабатыванием». Допустим, нейросеть ошибочно выдала вам положительный диагноз какой - нибудь «плохой» болезни и что произойдет дальше - ваш врач тут же начнет все перепроверять, а хороший врач еще и медицинский консилиум соберет, чтобы точно не ошибиться. Это в любой управляемой системе называется «обратная связь».
Вернемся в банк и зададимся простым вопросом - почему столько менеджеров в банке, но нет ни одного, который смог бы в ручном режиме исправить ошибку сети. Что сложного в том, чтобы прогнать по всем имеющимся базам ваш запрос и, убедившись что вы надежный клиент, данный заем предоставить. И между прочим, такого рода жалобами весь интернет забит. Не будем утрировать, но их много, очень много накопилось и достаточно давно. Но создать «обратную связь», посадив сотрудника для исправления этих самых ложных срабатываний, ни один банк не удосужился.
Почему? Отвечу, что не знаю. Разработчики нейросетей утверждают, что сама вычислительная система, которая работает с большими выходными данными, подсчитывает все так, как нужно заказчику, ведь на кону миллиардные суммы. И это лишь маленький срез хронических проблем банковской системы.
Разве не абсурд, когда многодетную мать, блогера из Новосибирска, которая выложила в соцсеть видео, в котором она готовила блюдо из медузы, зажаривая ее на сковороде, пытаются лишить прав на детей из- за травли её конкуренток-товарок. Ну давайте теперь запретим кулинарные контенты: там же и рыбу жарят, и раков варят и еще чего только не готовят!
Несложно же представить ситуацию, когда мать лишают прав за какие - нибудь высказывания в соцсетях, или штрафов за переход в неположенном месте, хотя уже сейчас известно, что нейросети ошибаются в идентификации личности, если на человеке одеты очки с радужными стеклами - штраф система все равно выпишет, но уже на другого человека, очень похожего на первого. И тогда мы узнаем, как жителю Владивостока выписали штраф в Москве, хотя он там никогда в жизни не был.
Если штраф выписан на 100 рублей – многие ли из нас пойдут в суд, чтобы его оспаривать? Как думаете, что выберет большинство? Десять таких штрафов за много лет и вы уже рецидивист, в кавычках конечно, но этого вполне может хватить, чтобы выставить вас в дурном свете, что при определенных условиях станет для вас приговором - как и с автором данной статьи
На суд общественности. А вы думали, что цифровая рейтинговая система только в Китае?
И тем более, совсем уже не гарантированно, что это нельзя будет сделать намеренно - за деньги, вне честной конкурентной борьбы или возвести поклеп в суде, да просто прижать соседа. Желающих купить такую услугу за любые деньги найдется достаточно, так как эти нейросети можно взломать, да и операторы совсем не святые.
Именно поэтому я категорически против, чтобы наряду с таким понятием как «вор рецидивист» появилось новое понятие –«социальный рецидивист». Если такое однажды произойдет, можете считать себя пацаком в мире Кин-дза-дза.
А пока я перечислю факты, где Цифра, по моему мнению, подорвала нашу с вами безопасность:
1) у людей, с приходом цифровой эры украли на порядок больше денег с банковских карт и счетов, чем раньше щипали из карманов и кошельков;
2) «условный интернет» знает нас лучше, чем мы себя сами. Все мы давно подсели на соцсети - доверительно общаемся, делимся новостями и творчеством, знаниями. А в ответ нас хладнокровно оценивают - привычки и вкусы, мечты и интересы, наши желания и тревоги. Кому-то интересно надежны ли вы, чтобы выплатить кредиты, здоровы ли вы, подходите на ту или иную должность. Короче, полная оценка потенциала человека на основе его прошлых действий, круга общения и прочих факторов. Когда человеком манипулируют, когда могут сподвигнуть на те или иные действия это, на самом деле, большая «БЕДА»;
3) появление первых случаев, как я их назвала ранее «социальный рецидивист», когда суды выносят приговор, основываясь не на фактах и доказательствах, а вешая ярлык «рецидивиста» по административным делам- это тоже «БЕДА»;
4) не может не удивить процент мнений, ратующих за такой мир абсурда, прикрываясь мемом, о якобы безопасности, которую принесет с собою Цифра.
Спасибо.
Первая часть:
Ментальное подбрюшье русской матрицы
Вторая часть: