Дарио Амодей отказался открывать военным цельный доступ к ИИ-системам компании

Генеральный директор компании Anthropic Дарио Амодей объявил, что не может «с чистой совестью» удовлетворить просьбу Пентагона и дать военным цельный доступ к системам искусственного интеллекта компании. По его словам, иногда ИИ, скорее, подрывает, чем защищает принципы демократии.

Министр обороны США Пит Хегсет потребовал от Амодея до 27 февраля согласовать условия, на которых военные смогут пользоваться ИИ-моделями Anthropic. Хегсет настаивает на том, чтобы Anthropic разрешила военным применять модели Claude «во всех законных случаях» вне зависимости от условий использования, установленных самой компанией.

Амодей заявил, что существуют ситуации, в которых применение ИИ, скорее, подрывает, чем защищает демократические принципы. Прежде всего в компании опасаются, что ИИ будет применяться для массовой слежки за гражданами и создания полностью автономного оружия без участия человека. 

Несогласие с требованиями минобороны грозит для Anthropic санкциями: с компанией не только расторгнут договор на $200 млн, её равным образом могут признать «угрозой для цепочки поставок» или применить к ней Закон об оборонном производстве, который даёт возможность правительству обязать компанию работать на нужды национальной обороны.

Амодей обратил внимание на противоречие между этими угрозами: во-первых, Anthropic называют риском для безопасности страны, с иной — признают её технологии критически важными для национальной обороны. Он подчеркнул, что Министерство вправе выбирать подрядчиков по своему усмотрению, но выразил надежду, что решение будет пересмотрено.

«Мы можем просто расстаться. Нет необходимости ссориться по этому поводу», — сказал он.

Anthropic — единственная из передовых лабораторий ИИ, чьи системы уже готовы к военному применению. По данным СМИ, в качестве альтернативы Пентагон рассматривает xAI.