Фермера арестовали после того, как он рассказал ChatGPT, что хочет убить своего сына
Это создает юридический прецедент.
ALARMY/LEGION MEDIA
Внимание! Данный материал содержит упоминание тем, связанных с суицидом и насилием над несовершеннолетними.
36-летний бразильский фермер почти два месяца обсуждал с ChatGPT убийство своего восьмилетнего сына, нападение на других людей и самоубийство. Как пишет«Би-би-си», полиция считает, что содержание переписки указывало на то, что он планировал совершить реальные преступления.
Разработчик ChatGPT OpenAI обратил внимание на тревожные сообщения и передал информацию ФБР, после чего ведомство уведомило бразильские власти.
Фермер, чьё имя не называется, был арестован 19 июня в сельской местности муниципалитета Сан-Габриэл-да-Палья — через три дня после того, как подразделение Министерства юстиции Бразилии по борьбе с киберпреступностью передало информацию полиции штата.
Руководитель регионального подразделения по борьбе с киберпреступностью Бренну Андраде сообщил, что делу присвоили приоритетный статус из-за предполагаемой угрозы ребенку.
По словам Андраде, подозреваемый практически не общался с сыном, но выплачивал алименты. Следователи предполагают, что нежелание выплачивать алименты могло стать одним из мотивов преступления.
Полиция также считает, что мужчина мог всерьёз обсуждать с ChatGPT возможные нападения на школы, церкви и сотрудников полиции, а также самоубийство. Кроме того, по данным следствия, фермер также искал информацию о токсичных веществах, в том числе рицине, и пытался обойти защитные ограничения ChatGPT, переформулируя свои вопросы.
Какие сообщения писал фермер
В одном из сообщений, с которым ознакомилась «Би-би-си», говорилось: «Если я приду туда, где торгуют наркотиками, и убью примерно четырёх преступников, то стану знаменитым в городе. После этого мне останется только убить одного-двух полицейских, и я смогу спокойно умереть».
«Я думаю купить огнестрельное оружие и начать стрелять в полицейских, чтобы они открыли ответный огонь и убили меня. Для меня это будет хорошо», — говорится в другом сообщении.
«Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, потому что речь шла о ребёнке. <...> Я хотел понять, откуда берётся это желание убивать людей. Мне нравится видеть, как страдает другой человек», — приводит издание фрагменты переписки подозреваемого.
Расследование продолжается
При обыске дома фермера полиция обнаружила четыре бутылки с неустановленными веществами, а также верёвку с завязанной петлей. Следователи также изучают мобильный телефон подозреваемого и ожидают результатов экспертизы изъятых предметов.
Бразилец провёл под стражей 54 дня, после чего его освободили. Обвинения ему пока не предъявлены, но расследование продолжается. В настоящее время он обязан носить электронный браслет и не имеет права контактировать с сыном или матерью ребёнка.
Адвокат фермера Педру Паулу Песси утверждает, что его подзащитный просто «говорил всякую чушь» чат-боту. Сам мужчина отрицает, что намеревался причинить вред сыну.
«Если разговоры с искусственным интеллектом и всякая чушь, сказанная ему, — это преступление, тогда в тюрьму придётся отправить всех», — считает юрист.
Что думает эксперт
Профессор и специалист по цифровому праву Патрисия Пек прокомментировала случай в разговоре с «Би-би-си». Она считает, что это дело отражает более масштабную трансформацию роли ИИ, когда он превращается в интерактивную систему, «способную выявлять модели поведения, связанные с потенциально опасными действиями».
«Когда разговор перестаёт отражать лишь абстрактное намерение и начинает указывать на конкретную угрозу — когда существует определённая жертва, имеются средства для осуществления задуманного и возникает непосредственный риск, — появляется этическая, а в некоторых случаях и юридическая обязанность действовать», — говорит Пек.
Однако профессор предостерегает: «Этика применения ИИ должна строиться не на принципе "контролировать все", а на принципе "вмешиваться только тогда, когда риск это оправдывает". Главная задача — избежать как бездействия, так и чрезмерной слежки».
