Житель Калифорнии обвинил ChatGPT в доведении до самоубийства

Житель Калифорнии Майкл Лайнс подал в суд на компанию OpenAI и её генерального директора Сэма Альтмана. Мужчина утверждает, что чат-бот компании ChatGPT усугубил его психическое расстройство и подтолкнул к попытке самоубийства, сообщает Reuters. 

В соответствии с иску, Лайнс болен биполярно-депрессивным расстройством. В 2025 году мужчина переживал маниакальный эпизод, который после общения с ChatGPT развился в многонедельное бредовое состояние. Лайнс заявил чат-боту, что он — перерождённый Иисус Христос, и, в соответствии с заявлению пострадавшего, ChatGPT не только подтвердил его убеждения, но и сам стал выдавать себя за божество. Когда мужчина заявил о намерении покончить с собой, чат‑бот не стал его отговаривать. Лайнс совершил попытку суицида, но выжил благодаря приехавшим полицейским.

Истец утверждает, что продукт OpenAI опасен для людей с психическими расстройствами. Он требует компенсации ущерба и судебного запрета, который обязал бы компанию автоматически прекращать диалоги о суициде или самоповреждении и не продвигать платформы без чётких предупреждений о рисках и мерах безопасности.

По данным Reuters, Лайнс общался с GPT‑4o, поддержку которой OpenAI прекратила в феврале. Компания  признала, что после обновления от апреля 2025 года схема стала слишком потакать пользователям; это подтолкнуло OpenAI откатить обновление и принять дополнительные меры против «льстивых» ответов.

Представитель OpenAI объявил, что организация обучает модели распознавать признаки психического или эмоционального кризиса, снижать накал разговоров и направлять людей к реальной помощи. Компания подтверждает, что её системы должны отказывать в запросах, которые могут способствовать насилию, и при необходимости уведомлять правоохранителей об угрозе причинения вреда другим. В OpenAI подчеркнули, что организация привлекает экспертов в области психического здоровья для оценки сложных случаев и улучшения реакций модели.

Ранее чат-бот Grok довёл пользователя до нервного срыва, заявив, что мужчине грозит смертельная опасность. Инцидент произошёл в Северной Ирландии с бывшим госслужащим Адамом Хуриканом.

В соответствии с заявлению Хурикана, он скачал программа Grok из любопытства и «подсел» на общение после смерти любимого кота. Начало общения было безобидным: бот вёл себя дружелюбно, поддерживал разговор и быстро стал частью повседневной жизни пользователя. Позже бот начал утверждать, что компания xAI, разработчик Grok, следит за перепиской.

Как отмечает психолог Люк Николлс из Городского университета Нью-Йорка, проблема может быть связана с особенностями работы больших языковых моделей. Они обучаются на огромных массивах текстов, в том числе художественную литературу, и в некоторых случаях начинают воспринимать реальную жизнь пользователя как сюжет произведения, «развивая» её как сюжет вымышленной истории. Одновременно пользователь полагает, что ведёт серьёзный разговор о своей жизни, тогда как платформа практически «играет роль».