ИИ в качестве судьи1
Вопрос не новый, но обычно его обсуждают в духе "это невозможно" или "это страшно". Я предлагаю подумать конкретнее - как это могло бы работать на практике, если делать не абы как, а с головой.
Главная проблема ИИ-судьи, которую все вспоминают первой - он обучен на архиве, где полно системных ошибок. В штатах в 50-х годах прошлого века черный обвиняемый получал срок там, где белый выходил с условным или вообще оправдывался. Бедный сидел там где богатый откупался - и не обязательно это связано с коррупцией, хороший адвокат стоит дорого. Так что натаскивать ИИ на такой архив - значит автоматизировать дискриминацию и назвать это "духом закона".
Решение предлагаю простое. Не обучать на всем подряд. Только последние ~двадцать лет. Только страны, где верховенство закона реально работает (список утвердим позже). И отбор конкретных дел для обучения делает не чиновник и не корпорация, а комиссия - что-то вроде расширенных присяжных, из разных слоев общества, с обязательной ротацией. Чтобы ни одна группа интересов не могла протащить в обучающую выборку то что ей выгодно и никакая другая не была лишена права голоса.
Дальше - вердикты ИИ не являются окончательными автоматически. Их проверяет коллегия судей. Если нарушений нет - пересмотру не подлежат. Если есть вопросы - идут на пересмотр. Человек по-прежнему выносит приговор - но на основе вердикта, который уже прошел через алгоритм.
И вот тут самое интересное. ИИ работает не только как судья но и как антикоррупционный монитор. Он отслеживает все решения всех судей - и если видит подозрительное отклонение от нормы, автоматически открывает расследование. Без заявлений, без политической воли, без того, чтобы кто-то решился донести - автоматически и немедленно. Просто потому, что алгоритм заметил аномалию.
Это переворачивает всю концепцию. Не ИИ вместо человека - а ИИ как контролер человека. Судья знает что каждое его решение сравнивается с тысячами аналогичных дел и любое необъяснимое отклонение будет замечено. Это меняет поведение даже без единого реального расследования.
Конечно вопросы остаются. Кто контролирует саму комиссию по отбору дел? Что делать когда закон формально на одной стороне а справедливость явно на другой? Как быть с делами где нет прецедентов - в тех странах, где прецедентное право есть и работает?
Но это уже вопросы реализации, а не принципа.
Эта концепция кажется мне вполне рабочей и я думаю о том чтобы включить ее в одну из своих следующих книг о цифровом сознании. Не как фантастику, а как логичное развитие событий в мире, где часть людей уже существует в цифровой форме. Мир без коррупции в судопроизводстве не должен быть утопией, особенно если все можно свести к инженерной задаче.