«Вы вообще новости смотрите?»: судья отчитала юриста за выдумки ChatGPT⁠⁠

Адвокат по делу об убийстве попросил ChatGPT сделать резюме, а тот придумал свидетелей и показания полиции, которых никогда не было. И адвокат отнёс это прямо в Верховный суд США.

Историю рассказало агентство Reuters. Дело было в американском штате Нью-Мексико. Защитник Стивен Ааронс вёл апелляцию своего клиента, осуждённого за убийство и получившего пожизненное. Ааронс загрузил в ChatGPT стенограмму суда и другие материалы, рассчитывая на «безупречное резюме». И получил бумагу с вымышленными свидетелями и придуманными показаниями, вплоть до деталей вроде тёмных брюк и белой рубашки стрелка. Проверять он это не стал и подал как есть.

А дальше суд заметил в жалобе несуществующие факты и потребовал объяснений. Ааронс признался, что не понимал, насколько сильно ИИ умеет выдумывать. Судья К. Шеннон Бэкон на слушании прямо спросила его, смотрит ли он вообще новости, ведь про выдумки ИИ в судах пишут каждый день.

Итог жёсткий. Суд оштрафовал Ааронса на 5000 долларов, признал виновным в неуважении к суду и отметил, что он не раскаялся и не позаботился о клиенте. Его убрали из дела, апелляцию поручили другому защитнику и начинают заново. А самого Ааронса ещё ждёт дисциплинарная комиссия.

Тут стоит понять, за что именно наказали. Пользоваться ChatGPT адвокату никто не запрещал. Спрос с него за другое: он подписал и подал в суд бумагу, не проверив ни слова.

Ответственность за содержание документа лежит на юристе всегда, чем бы он его ни готовил - хоть сам, хоть через ИИ, хоть через помощника. ChatGPT тут не виноват и виноватым быть не может - отвечает тот, кто поставил подпись.

--

Телеграм про право в IT и AI. IT юристы — PravoWeb.com