ИИ-Правосудие⁠⁠

Пришло на днях уведомление с Госуслуг о приеме заявок всяких идей по улучшению нашей с вами жизни – идея.росконгресс.рф

Прошел по ссылке, почитал – годно, очень годно… государство наше явно хочет получить обратную связь от народа, что радует.

У меня давно уже была мысль о том, как повысить качество российского правосудия при помощи систем искусственного интеллекта, ну и, раз такая оказия случилась, то надо отправлять заявку…

Описание сути проблемы:

Согласно законодательству РФ, судья при рассмотрении дела должен совершить следующие действия:

1) Вынести справедливое, объективное и беспристрастное решение.

2) Доходчиво изложить его – описать обстоятельства дела, дать юридическую трактовку всем значимым аргументам сторон и разъяснить свою логику принятия решения. Чтобы даже проигравшая сторона поняла, почему это решение справедливо.

Однако, нынешняя практика такова, что оценка работы судьи (и соответственно его карьерные перспективы) зависят по сути от одного единственного фактора – сколько его решений устояло в апелляции. То есть, судья может описать своё решение как угодно криво и нелогично, главное, чтобы вышестоящая инстанция оставила решение в силе.

А если стороны спора не поймут логику решения судьи – «проблемы индейцев шерифа не волнуют».

Определенный смысл в таком подходе действительно есть – если решение по сути верное, то незачем пересматривать его лишь на основании невнятного разъяснения. И даже переписывать разъяснение незачем – «мы и так перегружены, отстаньте от нас».

Но такой подход создает отдаленные негативные последствия:

1) Снижается доверие народа к судебной системе.

Я сам много раз был судьей разных соревнований (в том числе тех, где судью выбирали сами игроки), и быстро уяснил, что на разъяснительной работе нельзя экономить – лучше потратить пару часов на разъяснение игрокам нюансов регламента, написать большой пост в ленте обсуждений и ответить на все комментарии, чем получить потом бунт или саботаж.

2) Повышается нагрузка на вышестоящие инстанции.

Всех нас в школе учили, что при решении задачи недостаточно получить правильный ответ, надо еще и написать правильное решение. Поэтому проигравшая сторона, увидев нелогичное или противоречивое судебное решение, с высокой вероятностью попытается его опротестовать.

То есть судья районного суда, сэкономив силы на разъяснении своего решения, просто перекладывает эту работу на апелляцию, кассацию и т.д. Причем общий объем нагрузки на судебную систему от этого возрастает – вышестоящим инстанциям ведь нужно самим вникнуть в суть дела.

Это общая закономерность поведения всех сложных систем – если один из узлов пытается разгрузить себя и перекладывает работу на другие узлы, то общая эффективность системы снижается.

Трудности и ограничения:

Уже несколько лет читаю разные юридические паблики, и в разных интервью много раз упоминалось, что в российских судах сейчас некомплект сотрудников, временами доходящий до 20-25%. Это много.

Поэтому не стоит рассматривать идеи вида «создать дополнительные судебные инстанции», «нанять большое количество проверяющих» и т.д. – если бы на это был финансовый и кадровый резерв, то это уже давно сделали бы. Варианты вида «уволить тех, кто плохо работает», тоже нереальны – и так работать некому.

Значит, следует идти путём снижения нагрузки на судей, частичного перекладывания их работы на плечи компьютеров. Тут уместна и обычная алгоритмика, и системы ИИ.

Немного о себе – программист по образованию и по специальности, в данный момент работаю аналитиком ИИ в «Интер РАО», внедряю системы искусственного интеллекта в российскую электроэнергетику. Поэтому представляю себе возможности и обычной алгоритмики и искусственного интеллекта.

Вокруг ИИ сейчас накручено довольно много мифов, сильно преувеличивающих его возможности. Понятно почему – идет активная накачка американцами биржевого пузыря, поэтому достоинства ИИ завышаются, а недостатки замалчиваются.

Если вкратце, то текстовый ИИ (LLM-модель) это очень хороший схоласт, словесный эквилибрист, комбинатор фраз, и в целом имитатор интеллекта. Но связь с реальностью у него отсутствует совсем – для него все слова это «набор букв + статистика использования в ранее прочитанных текстах».

Отсюда и вытекает оптимальная область применения ИИ – ответы на вопросы по текстам, анализ и сравнение текстов, поиск закономерностей и противоречий в текстах, генерация текстов по образцам и т.д.

То есть, ИИ не следует доверять вынесение судебных решений, составление сложных документов, ведение прений, и в целом принятие каких-либо решений, подразумевающих ответственность – это ещё очень долго останется за людьми. А вот всякую вспомогательную текстово-бумажную работу вполне можно поручать ИИ, главное, чтобы в цепочке документооборота между ИИ и финальным результатом стоял хоть один человек.

Еще по личному опыту разработки юридических ИИ-ассистентов могу отметить, что принятые в судопроизводстве и формат документов и литературный слог слишком «человеческие», не всегда понимаемые компьютером. Поэтому внедрение ИИ в судопроизводство лучше проводить в 2 этапа – сначала адаптировать процессуальный порядок под ИИ, но выполнять его вручную, потом по мере готовности ИИ-алгоритмов переложить работу на них.

Из вышеперечисленного вытекает…

Вариант решения:

Как было сказано выше, будем исходить из строгих ограничений по бюджету, по трудозатратам, но при этом из высоких требований к надежности работы (качество судопроизводства должно повыситься, а не понизиться).

1-й этап – на сайте суда (ГАС «Правосудие» или любой другой) после вынесения мотивированного решения в профиле дела появляется кнопка – «Запросить контроль качества».

При ее нажатии открывается меню со списком стандартных формальных ошибок. Например: неверно указана сумма иска, неверно указаны ФИО истца, неверно изложены обстоятельства дела, не дана юридическая трактовка значимым аргументам сторон и т.д.

Рядом поле для комментария в свободной форме, QR-код для оплаты пошлины (чтобы не злоупотребляли) и кнопка «Отправить».

После заполнения всех полей и оплаты пошлины решение суда вместе с остальным материалами дела отправляется случайному судье в случайный федеральный округ. Разумеется, берутся лишь судьи с низкой рабочей загрузкой – во многих небольших районных судах штат сотрудников превышает потребности района. Так, если в Москве-Питере для судьи нормально иметь график вида «1 дело каждые 10-15 минут», то в региональных судах бывает, что на одно заседание выделяется и час, и два.

Отправка, естественного, строго электронная (никакой бумажной волокиты) – уведомление, что в таком-то суде появилось дело на контроль качества + временный логин-пароль на доступ к делу.

Да – я в курсе, что сейчас еще нет единого цифрового хранилища судебных дел, а для описанной выше системы оно весьма желательно (хотя и необязательно). Но в этом направлении работа, как я слышал, идёт, так что перспективы вполне оптимистичные.

Итак, проверяющий судья, получив задание, должен в течение 1 рабочего дня проанализировать решение суда на наличие в нем указанных формальных ошибок. И только лишь их – он не апелляция, вчитываться в суть и смысл дела ему не надо, достаточно лишь пробежаться глазами по присланному списку ошибок и оценить – ДА/НЕТ (быть может, с небольшим комментарием).

Если ошибки подтверждаются – он заполняет соответствующую форму, и дело возвращается первоначальному судье с просьбой «переделайте текст решения». Если не подтверждаются – ну и хорошо.

Весь процесс контроля аккуратно протоколируется и складывается в архив.

Приятный бонус – снижается нагрузка на апелляцию, ведь наиболее простые ошибки устраняются на районном уровне.

2-й этап

После накопления определенного массива проверенных дел, приступаем к обучению ИИ.

Самое простое - взять готовую LLM-модель и подобрать промпты, на которых будет самый высокий процент совпадений с архивными данными. Если не получится добиться высокой точности – можно обучить на этом архиве специализированную юридическую LLM-модель с нуля, ну и или встроить этот архив в обучающую базу для LLM-модели общего назначения.

Ведь основная проблема и внедрения и обучении ИИ это база знаний – составленные людьми документы часто хаотичны, разбросаны по разным местам, сделаны в разных форматах, да еще и противоречат друг другу.

В случае судебных дел ситуация усугубляется еще и тем, что во всевозможных архивах правильные судебные решения перемешаны с неправильными, и ИИ воспринимает их одинаково – как правильные.

Отсюда и такое явление как «галлюцинации ИИ» - мат.логика утверждает, что «из двух противоречивых утверждений можно логически вывести любое утверждение», пример ИИ это наглядно демонстрирует.

Здесь же на 1-м этапе будет потихоньку формироваться достаточно единообразная и достаточно логичная выборка судебных актов. И самое главное – эта выборка будет размечена на «правильные» и «неправильные» документы. Ведь и человек и ИИ гораздо быстрее и лучше учатся, если в процессе обучения сталкиваются и с правильными и с неправильными примерами. Меньше «галлюцинируют», быстрее вырабатывают у себя четкость и критичность мысли.

По мере того, как точность ответов ИИ начнет приближаться в точности человеческих ответов, можно будет полностью поручить ИИ проверку текстов судебных решений по формальным признакам.

А со временем и вообще отказаться от интерфейса ручной отправки дела на контроль качества, производить автоматическую проверку всех решений независимо от наличия недовольной стороны.

3-й этап

То же самое, что 1-й этап, но список проверок расширяется – добавляются проверки внутренней логичности судебного решения.

Например, если в тексте решения написано, что «показания свидетеля Иванова достовернее, чем показания свидетеля Петрова», но дальнейшая логика рассуждений строится на показаниях Петрова, то это явная логическая ошибка.

Опять же, контроль качества это не апелляция, поэтому оценивать достоверность доказательств, полноту исследования обстоятельств дела и т.д. не требуется, надо лишь проверить внутреннюю непротиворечивость решения суда и правильность отсылок к материалам дела. Причем не по всему делу, а лишь по списку из жалобы.

Приятный бонус – нагрузка на апелляционные инстанции еще более снизится, еще больше ошибок будет исправляться на районном уровне.

4-й этап

То же самое, что 2-й этап, но теперь для обучающей выборки будут браться данные 3-го этапа, а в остальном то же самое.

Со временем это позволит даже сделать ИИ-консультанта по судебным спорам, куда можно будет загрузить исковые требования и сопутствующие материалы и попросить оценить их. Там, глядишь и количество дел уменьшится – спорщики будут получать квалифицированный ответ и чаще идти на мировое соглашение.

Достоинства сей идеи:

1) Она довольно дешевая в реализации, не требует огромной работы по составлению исторической базы знаний, не требует массового найма и обучения персонала.

2) Она дает эффект даже в частичной форме, даже на 1-м этапе (когда еще нет никакого ИИ).

3) Качество работы контролируется на каждом этапе, без достижения целевых показателей дальше не двигаемся.

4) Не требует существенных реформ в судопроизводстве (хотя и не мешает им), встраивается в любой процессуальный порядок.

5) Может внедряться частично – в отдельные регионы, в отдельные категории дел.

6) Может быть в любой момент отменена без последствий для судопроизводства, является необязательной надстройкой.

7) Рабочая нагрузка повысится лишь на судей, которые не полностью загружены.

Немного повысится нагрузка на судей, которые склонны писать некачественные решения (им придется их переписывать), но таковых со временем будет всё меньше и меньше. Как известно – «сразу сделать правильно намного проще, чем сначала сделать неправильно, а потом переделать».

А вот нагрузка на вышестоящие инстанции понизится – до них будут доходить уже проверенные и вылизанные по формулировкам материалы, в которых можно будет изучать лишь существенную часть дела. Да и дел этих станет поменьше.

8) Формализация судебных решений и усиление логической их составляющей сделает судебную практику намного более единообразной.

Да и в сам по себе анализ судьями дел из других федеральных округов будет приводить к увеличению единообразия судебной практики – у судей возникнет «эффект насмотренности».

9) Инвестиции частично окупятся за счет пошлин. Из них же можно будет формировать премиальный фонд для проверяющих – чтобы была мотивация качественно проверять.

Возможные проблемы и пути их решения:

1) Сложность сохранения судебной тайны – отправка материалов дела случайному судье в случайном регионе создает риски утечки информации.

Большинство дел проходят в открытом формате, на заседания может прийти любой желающий, но есть и дела, содержащие коммерческую тайну или приватность личной жизни. Их следует или не отправлять на контроль качества вообще, или автоматически анонимизировать – заменять ФИО и названия на спецсимволы, или адресовать особой группе проверяющих при Верховном суде,

2) Что делать, если проверяющий подтвердил формальные ошибки, но судья не согласен с этим? Что делать, если один проверяющий подтвердил формальные ошибки, а другой проверяющий не подтвердил?

Опять же – тут пригодится особая группа проверяющих при Верховном суде, которая будет автоматически подключаться при расхождениях районных судей в оценке ситуации. Ведь, если судебное решение допускает определенную степень субъективности, то вот факт наличия/отсутствия формальных ошибок достаточно объективен, и потому должен одинаково трактоваться разными судьями.

3) Возможны ли затяжки сроков рассмотрения дела? Теоретически да, поэтому процедуру контроля качества следует ограничить по срокам и по количеству попыток.

Например, не более 3 попыток на 1 инстанцию, и не более 10 рабочих дней с момента изготовления письменного решения при условии немедленной его доступности сторонам спора (отправка Почтой России не подходит).

4) Что делать, если в процессе контроля качества обнаружились ошибки, несовместимые с вынесенным решением?

Это самый сложный момент – оглашение судьей резолютивной части решения производится в зале суда, а изготовленный в дальнейшем письменный текст решения, согласно закону, не может противоречить резолютивной части. Это может приводить к ситуациям, когда судья, проанализировав материалы дела в спокойной обстановке, приходит к выводу, что решение должно было быть другим, но закон запрещает ему поменять своё решение.

При появлении процедуры контроля качества количество таких ситуаций увеличится, и они будут вынесены наружу.

Возможно, здесь есть смысл уточнить процессуальный кодекс – оглашенную резолютивную часть решения считать предварительной, а окончательным решение станет лишь после прохождения процедуры контроля качества. И, разумеется, никак не наказывать судей за изменение решения или его обоснования – полагать контроль качества частью процесса выработки решения.

Заключение

На всякий случай повторюсь – современные текстовые нейросети неспособны подняться выше уровня словесной эквилибристики, поэтому их ответы следует использовать как «быстрая предварительная аналитика», а не как руководство к действию.

Однако в этой самой словесной эквилибристике они ну очень сильны, поэтому везде, где требуется формальный текстовый анализ, применение ИИ способно дать существенный практический эффект.

Готов лично поучаствовать в подобном проекте.

Просьба читателям - отрецензируйте эту заявку, укажите слабые места, не рассмотренные в тексте. Ну и предложения, как ее улучшить (если есть). Пока еще заявку на идея.росконгресс.рф не подал, но завтра у них крайний срок, надо уложиться.