OpenAI передала ФБР запросы пользователя с намерением совершить убийство сына

В Бразилии мужчину арестовали после того, как OpenAI раскрыла содержание его переписки с ChatGPT ФБР. Выяснилось, что в течение около двух месяцев 36-летний Жуан обсуждал с чат‑ботом возможный план убийства 8-летнего сына, совершения других нападений и сведения счётов с жизнью.

В сообщениях, адресованных искусственному интеллекту, фермер интересовался воздействием определённых токсичных веществ на организм, признавался, что предлагал деньги за убийство ребенка, и говорил, что испытывает удовлетворение, глядя на страдания людей.

«Я предложил ему 50 тысяч, чтобы он убил меня и моего сына, но он отказался, так как речь шла о ребёнке», — говорится в одном из сообщений.

«Хотел бы я знать, откуда берётся это желание убивать людей. Мне нравится чувство, когда я вижу, как страдает другой человек», — писал фермер в другом сообщении.

Эти разговоры сработали как сигнал тревоги в системе безопасности ИИ, в результате чего OpenAI сообщила о переписке ФБР, а там, в свою очередь, связалось с властями Бразилии.

Данные о деле поступила в Гражданскую полицию штата Эспириту‑Санту 16 июня через Ciberlab (Лабораторию киберопераций) — техническое подразделение Министерства юстиции и общественной безопасности, занимающееся борьбой с киберпреступностью.

Три дня спустя — и за сутки до даты, когда, по данным полиции, мужчина планировал осуществить задуманное, — он был арестован при выходе из дома в сельской местности муниципалитета Сан‑Габриэл‑да‑Палья. «Мы уделили этому делу приоритетное внимание из‑за его серьёзности и того факта, что отец, предположительно, планировал убить сына до 20-го числа», — сообщил детектив Бренно Андраде, возглавляющий отдел по борьбе с киберпреступностью и ведущий данное расследование.

Жуан был взят под стражу 19 июня. Однако 13 августа его освободили после того, как суд удовлетворил ходатайство защиты. Судья счёл, что сроки завершения полицейского расследования были чрезмерно затянуты. Фермер провёл под стражей 54 дня. При этом законом не установлен фиксированный дедлайн предварительного заключения. Однако, если подозреваемый находится под стражей, расследование должно быть завершено в разумные сроки, отметил суд.

В случае с фермером судья счёл, что по прошествии более чем 50 дней заключения полиция так и не завершила расследование, а прокуратура не предъявила обвинений. Дальнейшее содержание под стражей могло быть расценено как незаконное лишение свободы.

Суд равным образом назначил фермеру меру пресечения, в том числе ношение электронного браслета и запрет приближаться к сыну и матери ребенка или контактировать с ними.

По словам начальника полиции Бренно Андраде, у подозреваемого не было эмоциональной связи с ребенком или какого‑либо общения с ним. Он лишь выплачивал алименты, и это, как полагают, стало одной из причин планирования преступления.

«Он больше не хотел платить алименты [...] В одном из разговоров он упоминал о самоубийстве. Но он не хотел, скажем так, выслушивать упрёки от своей матери — бабушки ребенка — и испытывать давление по поводу выплат. Поэтому он также задумался об убийстве собственного сына», — уточнили в полиции.

Гражданская полиция штата Эспириту‑Санту сообщила, что ожидает результатов экспертизы предметов, изъятых в доме фермера, чтобы завершить расследование.

В доме подозреваемого были обнаружены четыре флакона с неизвестным веществом и связанная веревка, что, по мнению полиции, указывает на намерение совершить самоубийство.

«Все информация, полученные нами через платформу, подтвердились после прибытия полиции на место происшествия. Он признался, что искал информацию о сыне, но отрицал намерение убить его», — объявил начальник полиции. 

У мужчины изъяли мобильный телефон, чтобы установить, действительно ли тот связывался с наёмным убийцей.

«Предположим, что в телефоне сохранилась переписка, свидетельствующая о начале переговоров или даже об оплате услуг киллера. Полиция исходит из того, что в подобной ситуации он уже перешёл от стадии планирования к непосредственному осуществлению преступления, которое не было доведено до конца по независящим от него причинам — из‑за вмешательства полиции и последовавшего ареста», — пояснил начальник полиции. 

Сторона защиты фермера настаивает на том, что он не совершал никакого преступления. «Если бы общение с искусственным интеллектом и болтовня о всяких глупостях считались преступлением, то в тюрьму пришлось бы сажать всех подряд», — объявил адвокат Педро Песси.

Это дело поднимает вопрос, на который в бразильском законодательстве пока нет однозначного ответа: в какой мере диалог с системой искусственного интеллекта может служить доказательством совершения преступления? Эксперты, опрошенные BBC News Brazil, отмечают: хотя содержание сообщений стало достаточным основанием для заключения под стражу до суда — ввиду непосредственной угрозы жизни ребенка, — сами по себе они не позволяют обвинить отца в преступлении.

По мнению Луиса Д'Урсо, юриста, специализирующегося на цифровом праве, этот случай примечателен именно тем, что демонстрирует новую форму взаимодействия между платформами на базе искусственного интеллекта и правоохранительными органами. Он отмечает, что автоматизированные системы способны выявлять потенциально опасный контент, но решение о передаче информации властям должно приниматься человеком и требовать большой осторожности.

«Нельзя допускать, чтобы ИИ напрямую сообщал полиции о преступлениях для принятия мер, поскольку кто‑то должен проверять этот контент. В противном случае полицию может захлестнуть лавина ложных сообщений, вызванных „галлюцинациями“ систем или неверной интерпретацией данных», — подчёркивает юрист.

Что касается случая с фермером, Д'Урсо полагает, что у платформы были достаточные основания для беспокойства. В то же время он отмечает, что подобные ситуации указывают на необходимость принятия в Бразилии законодательства, способного регулировать изменения, вызванные развитием искусственного интеллекта.

По словам Патрисии Пек, профессора ESPM и специалиста в области цифрового права, этот случай равным образом свидетельствует об изменении роли инструментов искусственного интеллекта: тот перестал быть просто средствами генерации контента и стартовал функционировать как среда взаимодействия, способная выявлять закономерности, связанные с рискованными ситуациями.

«Когда диалог перестает быть выражением лишь абстрактного намерения и начинает указывать на конкретную угрозу — с наличием потенциальной жертвы, доступных средств и неминуемого риска, — возникает этическая, а при определённых обстоятельствах и юридическая обязанность действовать», — утверждает она.

По мнению Пек, применяемый критерий должен быть соразмерен риску: чем выше вероятность причинения непосредственного вреда третьим лицам, тем более обоснованным является задействование механизмов безопасности.

«Этика использования ИИ должна строиться не на принципе „следить за всем подряд“, а на принципе „вмешиваться лишь тогда, когда это оправдано риском“. Задача состоит в том, чтобы избежать как бездействия, так и чрезмерного контроля», — заключает она.

Между тем федеральный суд в Лос‑Анджелесе заявил о завершении судебного процесса без вердикта по делу о поджоге, который перерос в пожар в районе Pacific Palisades. Обвинение использовало переписку с ChatGPT в качестве доказательства, тем не менее она не убедила присяжных. 29-летний Джонатан Риндеркнехт, бывший водитель Uber, обвинялся в умышленном поджоге леса вблизи Pacific Palisades в ночь на 1 января 2025 года. Очагом возгорания, по версии обвинения, стала тлеющая сигарета. Прокуроры заявили, что из‑за неё и сильного ветра неделей позже разгорелся в катастрофический пожар, который унёс жизни 12 человек и уничтожил почти семь тысяч строений. Обвинение потребовало до 45 лет лишения свободы для Риндеркнехта. В переписке с ChatGPT мужчина спрашивал чат‑бота, может ли человек нести ответственность за пожар, начавшийся от непотушенной сигареты, а также просил сгенерировать изображения пожара.