“Он проецирует”: реакция Илона Маска на заявление главы Anthropic о сознании Claude

Илон Маск ответил на заявление генерального директора Anthropic Дарио Амодеи, который допустил, что модели искусственного интеллекта, созданные его компанией, возможно, обрели сознание.

Технологический магнат язвительно отреагировал на публикацию в X от криптовалютной платформы прогнозных рынков Polymarket. В сообщении говорилось: “Глава Anthropic заявил, что Claude, возможно, обрёл сознание – а возможно, и нет; при этом схема начала демонстрировать признаки тревожности”. В ответ Маск создал текст коротко и ёмко: “Он проецирует”.

Пост Polymarket появился после того, как Амодей признался: он сам не знает, создала ли его компания модели ИИ, обладающие сознанием.

“В общем мы придерживаемся здесь осторожного подхода. Мы не знаем, обладают ли наши модели сознанием”, – сказал Амодей в интервью The New York Times.

“Мы даже не уверены, что вообще понимаем, что именно означало бы сознание у модели – и может ли модель обладать им в общем и целом. Но мы допускаем, что такое возможно”, – продолжил он.

Амодей пояснил: “Мы вкладываем огромные усилия в область, называемую интерпретируемостью – она занимается тем, чтобы заглянуть внутрь ‘мозга’ моделей и понять, о чём они, по существу, ‘думают’. И там обнаруживаются довольно любопытные вещи. Например, в моделях возникают определённые активации – словно загораются сигналы, которые мы связываем с понятием тревоги или чем-то подобным. Когда персонажи в тексте испытывают тревогу, а затем сама модель оказывается в ситуации, которую человек тоже мог бы счесть тревожной, – активируется тот же самый ‘нейрон тревоги’”, – сказал он.

Это поразительное признание Амодей в беседе с Times прозвучало на фоне конфликта между Anthropic и Министерством обороны США из-за использования искусственного интеллекта в военной сфере.

В соответствии с заявлению представителей компании, на этой неделе более миллиона человек в день регистрировались в Claude. Благодаря этому приложение обогнало ChatGPT от OpenAI и Gemini от Google и стало самым популярным приложением с ИИ более чем в двадцати странах в магазине App Store от Apple.