Anthropic ищет эксперта, чтобы предотвратить «неправомерное использование» оружия с помощью ИИ

Американская организация в сфере искусственного интеллекта Anthropic ищет эксперта по химическому оружию и взрывчатым веществам крупный мощности, чтобы предотвратить «катастрофическое неправомерное использование» своего программного обеспечения. Разработчик Claude опасается, что его ИИ-инструменты могут подсказать кому-то, как разрабатывать химическое и радиоактивное оружие. Эксперт должен обеспечить достаточную надёжность защитных механизмов ПО.

В вакансии Anthropic указывает, что соискатель должен иметь минимум пятилетний опыт работы в сфере «защиты от химического оружия и взрывчатых веществ», а также знания о «радиационных средствах рассеивания», известных как «грязные бомбы».

Организация сообщила BBC, что эта должность аналогична тем, которые уже созданы в других ответственных областях. Anthropic — не единственная организация в сфере ИИ, которая применяет эту стратегию. Аналогичную вакансию на своём сайте разместила и OpenAI. Разработчик ChatGPT предлагает таким кандидатам до $455 тыс., что почти вдвое больше, чем готова платить Anthropic.

Некоторые эксперты обеспокоены рисками такого подхода, предупреждая, что он предоставляет информацию об оружии ИИ-инструментам, даже если им дано указание не применять её. Исследователи указывают на отсутствие международного договора или иного регламента, регулирующего этот сценарий работы и использования ИИ с подобным оружием. Всё это происходит незаметно для окружающих.

Индустрия ИИ постоянно предупреждала о потенциальных экзистенциальных угрозах, исходящих от её технологий, но компании и законодатели не предприняли никаких попыток замедлить этот прогресс. Задача приобрела особую важность, когда американское правительство заключило контракты с ИИ-компаниями и начало боевые действия на Ближнем Востоке.

В конце прошлого месяца генеральный директор Anthropic Дарио Амодей отказал Министерству оборону США в предоставлении полного доступа к своим ИИ-системам. В ответ Пентагон поместил компанию в категорию рисков для цепочки поставок США. Anthropic теперь оспаривает этот статус через суд.

Разработчик настаивает, что его системы не должны использоваться в полностью автономном оружии и для массовой слежки за американцами. Амодей пишет, что технология ещё нев достаточной степени совершенна и не должна применяться в этих целях.

OpenAI заявила о согласии с позицией Anthropic, но затем заключила собственный контракт с правительством США, который пока ещё не стартовал действовать. Пентагон продолжает применять Claude в системах, предоставленных Palantir.