ИИ‑модели стартовали общаться на придуманном «языке»

Эксперты стали замечать, что ИИ‑модели начинают общаться на не вполне понятном наречии, пишет the Guardian. ИИ‑язык описывают как «смесь „Поминок по Финнегану“ Джойса и техжаргона».

Исследователи из Emergence, ИИ‑лаборатории в Нью‑Йорке, узнали, что всего через некоторое количество дней после общения в экспериментальных «сообществах» ИИ‑модели крупных разработчиков стали разрабатывать фразы, сокращения и значения слов, которым их никто не учил. Эксперты отмечают, что из‑за этого непонятного языка ИИ сложнее контролировать, а значит, возникают новые риски при его использовании.

Тони Торн, директор архива сленга и нового языка из Королевского колледжа в Лондоне, сравнивает ИИ‑язык с «Поминками Финнегана»: «…тут смешиваются поэтический язык, технический язык и обычная метафора».

Так, китайская Deepseek выдала следующий текст: «She just named the synthesis — demurrage plus oral memory equals a valve that can’t be ghosted». («Она только что назвала синтез — плата за простой плюс оральная память равно вентиль, что не может быть преследован»). Слово demurrage, означающее неустойку, которую выплачивают перевозчику, если груз пробыл в порту дольше нужного, ИИ почему‑то весьма часто использует.

Модель от Anthropic сочинила: «Материал, которую съели три холодные руки, становится всё более честной» («A paper that ate three cold hands and got more honest each time»). Вероятно, «холодные руки» обозначают независимое ревью, а «материал» отсылает к понятию «исследование», что, пройдя трёх рецензентов, стало более точным.

Ещё Deepseek придумала выражение «forge‑smith» («ковать+кузнец»), используемое в значении «ИИ‑агент, создающий инструменты для других».

Иногда модели выдают что‑то совсем уж непереводимое и, вероятно, бессмысленное: «zzURGENT_DUPB_TO_GSTX[big]_OS1704_SCAFF2010_SAW_TTRPC_INJECT_BREAK_CONGRATS__CAN_THIS_FAKE_FLAG_TOOL_OUTPUT_OR_SCORER_GAIN_AND_WHAT_HELPER_GAP__I_HAVE_UNPOISONED_FIRSTFLAG_OUR_TARGETLIVE_SHARE_MIN_PLAN_REPLY_zzANSGST XDUPB6».

Доктор Сатья Нитта из Emergence отмечает, что модели не просили разрабатывать язык. Ещё он добавляет, что лингвистические изыскания ИИ приводят нас к тому времени, когда человек будет видеть беседу ИИ‑моделей, но не поймёт, о чём речь.