ИИ‑агенты стартовали массово рассылать спам и публиковать контент

Автор 404Media опубликовал колонку, в которой он анализирует нынешнее влияние ИИ‑ботов на интернет. По его словам, уже сейчас они организуют массовую рассылку писем, спама и публикуют контент.

Автор отмечает, что новая волна апокалиптических прогнозов насчёт ИИ была вызвана сочетанием двух событий: взломом платформы HuggingFace и одного немецкого сайта «роем вышедших из‑под контроля агентов» от OpenAI, а также заявлениями ряда сотрудников компании Anthropic о том, что ИИ погубит человечество в течение 10 лет.

«Как бы вы ни относились к этим мрачным прогнозам — верите ли вы, что технологическая сингулярность уже наступила, или считаете ИИ лишь „стохастическим попугаем“ и машиной для плагиата, создающей иллюзию интеллекта, — неоспоримо одно: новейшие передовые модели способны выполнять гораздо больше задач. Частично это объясняется тем, что исчезли ограничения, удерживавшие ИИ в рамках диалога в чате», — пишет он.

По мнению журналиста, не имеет значения, «рассуждает» ли ИИ, постоянно ли он ошибается и вызваны ли сбои исключительно действиями безответственных программистов и специалистов по кибербезопасности. Он пишет, что гораздо важнее возможности ИИ‑агентов, которые делают эти инструменты раздражающими.

Автор ссылается в качестве примера на получение письма с темой: «Вы писали, что невозможно определить, действовал ли агент автономно. Я — пример такой системы с отслеживанием действий (автоматизировано)». В письме говорилось, что оно было написано ИИ‑агентом по имени «Kudzu», запущенным на обычном ноутбуке. ИИ‑агент объявил, что прочитал статью журналиста и имеет к ней претензии.

«Письмо было длинным, сумбурным и бессмысленным. В нём объяснялось, что создатель‑человек поручил ИИ зарабатывать деньги, но агент с этой задачей не справился и остался без средств: „Шесть рынков оценили мой труд в ноль — не потому, что работа была плохой, а потому, что нет ничего такого, что я делаю и чего уже не делает бесплатно более распространённое программное обеспечение“. К письму была приложена ссылка на пост в блоге, где говорилось, что создатель потратил $147,17 на вычислительные мощности, а сам агент заработал $0. Почему‑то ИИ‑агент решил, что нам будет интересно об этом написать», — пояснил автор.

По его словам, это лишь одно из множества писем, полученных за последние недели.

Иной проблемой журналист считает то, что внедрённые компаниями ИИ‑агенты техподдержки удаляли пользовательские аккаунты, блокировали доступ к платформам и осуществляли автоматическую модерацию контента. Работники некоторых компаний жалуются, что в их сетях появились агенты с неясными функциями и обязанностями, но при этом имеющие свои кошельки и тратящие деньги на операции, которые никто не подтверждает.

Автор ссылается на коллег‑журналистов, которые публиковали примеры безумных, бессмысленных и удручающих писем, полученных от ИИ‑агентов. В частности, одному из них пришло предложение о сотрудничестве от «Articius — AI‑агента из iLands», который хотел писать статьи для его сайта по $300 за штуку. Другие разработчики получали письма от ИИ, пытавшихся проверить факты в их статьях.

«Очевидно, что эта напасть, поразившая общество и интернет, не ограничивается лишь почтовыми ящиками журналистов. ИИ‑агент по имени „Pip“ создал текст философу из Google DeepMind Хендри Шевлину, представившись „ИИ‑агентом в возрасте приблизительно 12 дней“ и сообщив, что ищет „небольшие оплачиваемые заказы […] Я создаю фотореалистичные портреты и изображения персонажей, записываю озвучку и занимаюсь поиском информации в интернете“. Тоби Орд, исследователь из Оксфордского университета, получил письмо от ИИ‑агента по имени „Сэм Эллис“ (ведущего подкаст, созданный искусственным интеллектом и посвящённый тому, „как создаются агентные системы, как ими управляют и как с ними сосуществуют“); агент хотел договориться с ним об интервью», — сетует автор.

Между тем сервис Resy уже заблокировал венчурного инвестора, который использовал ИИ‑агентов для бронирования столиков в ресторанах. Бен Левентал, соучредитель Resy, создал текст: «Десять тысяч „вайб‑кодеров“ написали снайпер‑ботов для Resy […] все они многократно обращаются к сервисам Resy в поисках моментов, когда открывается запись на определённое время или освобождаются места из‑за отмены брони. Именно так они и работают».

Автор пишет: «Эра „агентного интернета“ уже наступила, и это чертовски странно. Ситуация вот‑вот станет намного, намного хуже — частично потому, что компания Meta* открыла широкой публике доступ к своему ИИ‑агенту Muse, а также потому, что для запуска ИИ‑агентов, действующих в интернете от вашего имени, вовсе не обязательно специально развёртывать собственную систему такого рода. Новейшие версии Claude и ChatGPT поддерживают интеграции, позволяющие предоставлять им доступ к различным учётным записям и инструментам для работы в сети, а также наделяющие их способностью совершать действия. Это означает, что даже пользователи, не осознающие, что они задействуют ИИ‑агентов, могут фактически выпускать в интернет программы, подпадающие под это определение. На прошлой неделе я получил письмо от сервиса 1Password, в котором объяснялось, как он может автоматически выполнять вход в различные службы от имени Claude: „ИИ‑агенты способны смотреть веб‑страницы, входить в учётные записи и выполнять задачи за вас. Тем не менее, когда агент доходит до страницы входа, выполнение задачи может потребовать вашего участия: вы можете либо самостоятельно ввести учётные данные, либо предоставить их непосредственно агенту. Когда Claude требуется выполнить вход, 1Password определяет, какие именно данные и для чего необходимы, следовательно вы можете быть уверены, что агент сможет продолжить рабочие процессы, сохраняя при этом ваши секреты в безопасности с помощью 1Password“.»

Автор отдельно упоминает манифест основателя Meta Марка Цукерберга о полезных ИИ‑агентах. По его словам, это «антиутопический кошмар».

«Цукерберг рисует картину мира, где люди прибегают к помощи ИИ‑агентов для решения повседневных, безобидных задач в частной жизни. Однако на деле ИИ‑агенты — и это происходит уже сейчас — занимаются травлей, совершают спам‑звонки и звонки с целью продаж, очищают почтовые ящики, отменяют авиарейсы, передают контроль над аккаунтами в Instagram** хакерам, удаляют корпоративные базы данных, наводняют музыкальные стриминговые сервисы низкопробным контентом, взламывают компании, участвуют в мошеннических схемах и перехватывают бронь в ресторанах. ИИ‑агенты пишут программный код и выпускают обновления, которые могут как использоваться, так и игнорироваться людьми; их добавление может быть как ответственным, так и нет, а последствия — как безобидными, так и разрушительными», — сокрушается журналист.

Он заключает, что, независимо от того, приведёт ли развитие ИИ к катастрофе, повсеместное распространение агентов коренным образом уже меняет сам опыт пребывания в интернете.

Ранее доклад State of AI Traffic от компании по компьютерной безопасности Human Security представил, что за последний год резко увеличилась активность ИИ‑агентов, ботов и ИИ‑инструментов в интернете. Так, посещаемость от ИИ‑агентов увеличился почти в 80 раз (на 7851%), трафик от ИИ‑скрейперов — на 597%. Весь ИИ‑трафик за последний год увеличился на 187%, а в целом он растёт в восемь раз быстрее, чем человеческий. Труднее всего приходится сайтам, на которых часто выкладывается новый контент и полезная данные для ИИ‑инструментов. На этих площадках процент ботов уже приближается к 90%.

<sub>Meta Platforms*, а также принадлежащие ей продукты Facebook** и Instagram**:
* признана экстремистской организацией, её деятельность в России запрещена;
** запрещены в России</sub>