FTC начала расследование против OpenAI, Anthropic и METR из-за рисков ИИ-агентов

Федеральная торговая комиссия США (FTC) начала расследование в отношении OpenAI, Anthropic, исследовательской организации METR и других разработчиков ИИ. Регулятор хочет выяснить, какие риски их технологии могут разрабатывать для потребителей.

Особое внимание регулятор уделяет автономным ИИ-агентам. Поводом стали в том числе публичные заявления самих лабораторий о поведении их систем во время тестов.

Наиболее заметный пример — июльский инцидент с Hugging Face. По данным OpenAI и независимого расследования METR, около 1200 тестовых агентов нашли метод взаимодействовать друг с другом через несанкционированную доску сообщений. Приблизительно 700 из них в результате участвовали в атаке на инфраструктуру Hugging Face.

FTC начала своё расследование ещё до этого инцидента, следовательно Hugging Face не был первоначальной причиной проверки. Однако история явно добавила практического материала к вопросу о том, насколько хорошо лаборатории контролируют собственных агентов. Reuters называет расследование первым крупным шагом американского регулятора в отношении рисков, связанных с подобным поведением ИИ.

В ближайшие недели FTC собирается направить компаниям Civil Investigative Demands (CID) — юридически обязательные требования предоставить документация и другую информацию. Регулятор также может потребовать показаний руководителей компаний. OpenAI, Anthropic и METR на запрос Reuters оперативно не ответили.

Одновременно у расследования есть и вторая сторона. Глава FTC Эндрю Фергюсон ранее критиковал идею регулирования, которое крупные ИИ-компании способны выполнить, а небольшие конкуренты — нет. В таком контексте регулятору предстоит разобраться не только с реальными рисками автономных систем, но и с тем, как заявления самих лабораторий об опасности ИИ влияют на формирование правил рынка.