Инициатива политики ЮАР в области искусственного интеллекта отозвали из‑за галлюцинаций ИИ

Министр связи и цифровых технологий Южно-Африканской Республики Солли Малатси отменил нацпроект политики в области искусственного интеллекта. В документе, который составляли при помощи ИИ, нашлись галлюцинации — выдуманные ссылки на научные статьи, говорит Times Live.

Проект политики был опубликован 10 апреля. Через некоторое время журналисты издания News24 заметили, что в документе цитируются несуществующие статьи из академических журналов. В результате документ отозвали.

По словам Солли Малатси, вероятно, документ нев достаточной степени тщательно проверили. По его словам, задача здесь не столько техническая, сколько человеческая, она демонстрирует, как важен строгий контроль за использованием искусственного интеллекта. Министр заявил, что это урок для властей, и пообещал «последствия» для тех, кто отвечал за подготовку и проверку документа.

В начале месяца федеральный судья в США наложил санкции на управляющего партнёра юридической фирмы Webb Law Group из-за судебного документа, подготовленного с использованием ИИ. В документе оказалась ложная ссылка на судебное дело. Управляющий партнёр Ленден Уэбб получил предупреждение, штраф $1 001 и обязательство пройти обучение по надзору за юристами и этичному использованию ИИ.

Год назад Anthropic была вынуждена извиниться за то, что её чат-бот Claude предоставил недостоверную информацию, которую впоследствии использовали в суде. Бот придумал «неточный заголовок и неверных авторов», сбой ускользнула от ручной проверки и осталась незамеченной.