Компания Anthropic провела закрытый двухдневный саммит с участием приблизительно 15 христианских лидеров — представителей католической и протестантской церквей, академиков и бизнес-экспертов — чтобы обсудить моральные принципы, заложенные в поведение модели Claude.

Главная идея встречи — попытка понять, как должен вести себя ИИ в сложных человеческих ситуациях:

• что делать, если пользователь переживает горе или утрату

• как реагировать на психологический кризис

• можно ли рассматривать ИИ как нечто, обладающее моральным статусом

Некоторые обсуждения заходили ещё дальше — участники даже поднимали философский вопрос, можно ли считать ИИ «божьим созданием» или формой новой виртуальный сущности.

Anthropic уже использует внутреннюю систему правил — так называемую «конституцию Claude», длинный набор принципов, который направляет ответы модели и ограничивает вредные или опасные реакции. Но компания, судя по встрече, полагает, что одних технических правил нев достаточной степени.

Интересно, что часть исследователей Anthropic допускает более радикальные идеи: что продвинутые модели могут демонстрировать элементы «функциональных эмоций» или даже зачатки субъективного опыта — хотя это остаётся спорной точкой зрения в индустрии.

В общем и целом это демонстрирует уникальный решение Anthropic: компания пытается не просто улучшать ИИ технически, а формировать его «характер» через философию, религию и внешнюю этическую экспертизу.