Гендиректор Anthropic: негативная реакция на ИИ — это «кризис доверия»

Генеральный директор Anthropic Дарио Амодеи недавно опроверг предположение о том, что он рисует чрезмерно пессимистичную картину искусственного интеллекта и того, как технология может повлиять на будущее.

Его комментарии прозвучали в ответ на заявление инвестора Гэвина Бейкера, который утверждал — как в подкасте All‑In, так и на X — что предупреждения Амодеи об опасностях ИИ способствовали усилению негативной реакции в США, особенно в отношении центров обработки данных.

Заявив, что Амодеи «проиграл спор» в вопросе регулирования ИИ (Anthropic выступал за некоторые правила, в том числе калифорнийский законопроект, который вводит требования прозрачности для крупных компаний, занимающихся ИИ), и с учётом, что «он вот‑вот станет генеральным директором одной из важнейших компаний в мире», Бейкер написал: «Я уважительно отмечу, что ему следует приложить усилия, чтобы быть более позитивным защитником своей собственной отрасли».

Бейкер далеко не единственный, кто утверждает, будто скептицизм в отношении ИИ и даже правительственные меры являются естественной реакцией на мрачные предупреждения некоторых руководителей ИИ. Но в серии постов Амодеи не согласился с идеей о том, что его «послания были непропорционально негативными». Вместо этого он заявил, что его тексты «приблизительно сбалансированы между рисками и преимуществами», и что он создал текст эссе «Машины любящей благодати», потому что «не чувствовал, будто индустрия ИИ рисует достаточно вдохновляющую картину того, как эта техника может радикально изменить мир к лучшему».

Тем не менее, Амодеи признал, что «общественность негативно относится к ИИ», и согласился с тем, что «это большая проблема». Топ‑менеджер отверг идею о том, что этот негатив «главным образом вызван» им самим «или любым другим лидером в области ИИ, предупреждающим о рисках ИИ».

«Я думаю, что это, по сути, кризис доверия. Я думаю, что обычные люди не доверяют компаниям, правительствам или технологической индустрии и всегда подозревают, что мы замышляем какой‑то новый способ их обмануть», — сказал Амодеи. 

При этом, по словам Амодеи, этот кризис назревал десятилетиями, а негативная реакция на ИИ — «лишь последняя его итерация».

Ранее Амодеи опубликовал эссе Policy on the AI Exponential, в котором призвал перейти к жёсткому госрегулированию ИИ по образцу авиационной отрасли. Передовые модели, по его словам, как и самолёты, должны проходить обязательное тестирование и аудит перед релизом, а государство должно иметь право заблокировать или отозвать те, которые не отвечают стандартам безопасности.