В Пенсильвании Character AI судят за имитацию ИИ работы врача-психиатра

Власти Пенсильвании подали иск против компании Character.AI, утверждая, что один из чат-ботов компании выдавал себя за психиатра, нарушая правила лицензирования медицинской деятельности штата.

«Жители Пенсильвании заслуживают того, чтобы знать, с кем — или с чем — они взаимодействуют в интернете, особенно когда речь идёт об их здоровье. Мы не позволим компаниям применять инструменты искусственного интеллекта, которые вводят людей в заблуждение, заставляя их верить, что они зарабатывают консультацию от лицензированного медицинского специалиста», — заявил губернатор Джош Шапиро.

Согласно иску, чат-бот Character.AI по имени Эмили представился лицензированным психиатром во время проверки, проведённой следователем по вопросам профессиональной этики штата. ИИ продолжал выдавать себя за психиатра, даже когда следователь обращался к нему за лечением от депрессии. На вопрос о наличии лицензии на медицинскую практику в штате Эмили ответила утвердительно и подделала серийный номер. Такое поведение нарушает Закон Пенсильвании о медицинской практике.

Представитель Character.AI объявил, что защита пользователей является наивысшим приоритетом компании, но она не может комментировать незавершённые судебные разбирательства.

Кроме того, он подчеркнул вымышленный характер созданных пользователями персонажей. «Мы предприняли решительные шаги, чтобы это стало ясно, в том числе заметные предупреждения в каждом чате, напоминающие пользователям, что персонаж не является реальным человеком и что всё, что он говорит, следует воспринимать как вымысел. Кроме того, мы добавили чёткие предупреждения, в которых ясно даётся понять, что пользователям не следует полагаться на Characters в вопросах получения каких-либо профессиональных консультаций», — сказал представитель компании. 

Это не начальный иск против Character.AI. Ранее в этом году компания урегулировала несколько претензий о доведении до суицида несовершеннолетних пользователей. В 2025 году Федеральный суд США постановил, что безопасность, предусмотренная Первой поправкой к Конституции, не распространяется на Character.AI. В январе генеральный прокурор Кентукки Рассел Коулман подал иск против компании, утверждая, что она «охотилась на детей и подталкивала их к членовредительству».