Социальная сеть X начала расследование в связи с сообщений о расистских и оскорбительных публикациях, которые, как предполагается, были сгенерированы чатботом Grok от компании xAI. Об этом говорит Sky News со ссылкой на собственные источники.

По данным журналистов, специалисты по безопасности платформы проверяют роль чатбота в создании «ненавистнических и расистских сообщений», появившихся в сети в связи с запросы пользователей. Видео с объяснением ситуации опубликовал корреспондент Sky News Роб Харрис в официальном аккаунте издания на платформе X.

Компании X и xAI пока не дали официальных комментариев. Агентство Reuters также сообщило, что не смогло сразу подтвердить подлинность опубликованного видео.

Скандал происходит на фоне усиливающегося давления со стороны регуляторов и правительств разных стран на генеративные AI-системы. В последние месяцы власти в ряде государств начали расследования и потребовали дополнительных мер защиты в связи с контента, который может генерировать чатбот Grok.

В январе организация xAI, основанная Илоном Маском, уже ввела ограничения для пользователей Grok. Например, были ограничены функции редактирования изображений, а равным образом заблокирована функция генерировать изображения людей в откровенной одежде в странах, где подобный контент считается незаконным. Одновременно организация не уточнила, о каких именно юрисдикциях идёт речь.

История с Grok вновь поднимает вопрос о модерации контента и ответственности AI-разработчиков за материалы, которые могут появляться в результате работы генеративных моделей.

Источник

Больше полезного о нейросетях и технологиях — в нашем канале NH | Новости технологий, AI и будущее. Там публикуем новости AI, интересные сервисы, автоматизацию и реальные способы заработка на нейросетях. А если нужна зарубежная карта для оплаты сервисов — можно почитать здесь, как выпустить её за 10 минут.