Ответ на пост «Страной должен управлять ИИ»⁠⁠1

Дело в том что любая система подвержена "абьузу". Не в том смысле, что обидеть или оскорбить, а в том, чтобы использовать не так, как задумано, найти лазейки и тд.

Например КПИ, вроде бы хорошая идея, считать баллы производительности у подчиненных. Но они тут же находят пути накрутить себе баллы кпи при помощи левых звонков, накруток какого-то параметра и тд.

То же самое и с обучением ИИ: сколько было статей ,что ии слишком предвзято относятся к черным, но обучающая выборка такова, что именно черные совершают почти все преступления.
И появились директивы/фиксы "тесты на черного" чтобы как-то это уравновесить и сбалансировать.

То есть еще на стадии обучения ии будут заложены какие-то перекосы в сторону белых мужчин, чтобы обеспечить равенство с черными женщинами.

Таким образом, в обучение "Государственного ИИ" могут быть заложены и обязательно будут заложены некоторые бекдоры / перекосы для "кого надо". И это не будет независимая экспертная система. И её можно будет натравить на кого угодно (неудобного неугодного).
"Ну так это ж ИИ так решил, мы тут не при чем"