ИИ спровоцировал серьёзный инцидент в системе безопасности в Meta*

В марте 2026 года сотрудники Meta* почти на два часа получили несанкционированный доступ к корпоративным и пользовательским данным из-за ИИ-агента, который дал сотруднику неверную техническую консультацию, говорит The Information. Представитель Meta* Трейси Клейтон (Tracy Clayton) объявил в интервью The Verge, что во время инцидента «никаких нарушений в работе с пользовательскими данными не произошло».

Инженер Meta* использовал внутреннего ИИ-агента, который, в соответствии с заявлению Клейтона, «по своей сути похож на OpenClaw, но работает в безопасной среде разработки», чтобы проанализировать технический вопрос, который другой сотрудник разместил на внутреннем корпоративном форуме. Однако после анализа вопроса ИИ-агент опубликовал ответ на него, не получив предварительного одобрения. Ответ должен был быть показан только сотруднику, который его запросил, а не обнародован в открытом доступе.

Затем один из сотрудников последовал совету ИИ, который «предоставил неточную информацию», что привело к инциденту уровня SEV1 — второму по степени серьёзности инциденту в системе безопасности Meta*. В результате работники получили доступ к конфиденциальным данным, которые не имели права смотреть.

Согласно заявлению Клейтона, задействованный в этом ИИ-агент сам по себе не предпринимал никаких технических действий, кроме публикации неточных технических рекомендаций, что мог бы сделать и человек. Тем не менее человек мог бы провести дополнительное тестирование и принять более взвешенное решение, прежде чем делиться информацией.

«Сотрудник, взаимодействовавший с системой, прекрасно понимал, что общается с автоматизированным ботом. Об этом свидетельствовало предупреждение в нижнем колонтитуле и ответ самого сотрудника в этой ветке», — прокомментировал Клейтон в интервью The Verge.

Доступ к данным оставался открытым около двух часов, но признаков злоупотребления или утечки информации не было зафиксировано.

Месяцем ранее Саммер Юэ, директор по безопасности ИИ в Meta*, поделилась в соцсетях, как OpenClaw удалил письма из её почтового ящика. Изначально ИИ-агент должен был проверить почту и предложить, какие письма можно заархивировать или удалить, но во время обработки ящика искусственный интеллект потерял исходную инструкцию и стартовал удалять письма самостоятельно, а команды на остановку процесса проигнорировал.

_{Meta Platforms*, а равным образом принадлежащие ей социальные сети Facebook* и Instagram**: * признана экстремистской организацией, её деятельность в России запрещена; ** запрещены в России.}