Anthropic запускает институт изучения угроз от ИИ

2 мин
Anthropic запускает институт изучения угроз от ИИ

Anthropic объявила о запуске The Anthropic Institute — исследовательского подразделения, которое будет изучать влияние мощного ИИ на экономику, защита и правовую систему. Возглавил институт сооснователь компании Джек Кларк, получивший новую должность — Head of Public Benefit (глава по общественной пользе).

Институт объединяет три существующие команды Anthropic: красную команду (Frontier Red Team), которая тестирует пределы возможностей моделей, группу изучения социальных эффектов и команду экономических исследований. В дополнение к этого подразделение займется прогнозированием развития ИИ и анализом его взаимодействия с правовой системой. Организация подчеркивает, что у института есть уникальное преимущество — доступ к данным, которыми располагают только разработчики передовых моделей.

В команду уже вошли Мэтт Ботвиник, бывший старший директор по исследованиям в Google DeepMind и профессор Принстона, — он возглавит направление ИИ и права. Антон Коринек, профессор экономики Университета Виргинии, займется исследованием того, как ИИ может изменить саму природу экономической деятельности. Зои Хитциг, ранее изучавшая социально-экономические последствия ИИ в OpenAI, свяжет экономические исследования с разработкой моделей.

Запуск института Anthropic объясняет убеждением, что прогресс ИИ ускоряется и носит компаундный характер: каждое улучшение усиливает следующее. По мнению компании, крайне мощный ИИ, о котором Дарио Амодеи писал в эссе "Машины милосердия", появится значительно раньше, чем ожидает большинство. Параллельно Anthropic расширяет команду публичной политики и весной открывает первый офис в Вашингтоне.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.

Читают сейчас

46 минут назад

Наталья Касперская раскритиковала производительность блокировок и работу Роскомнадзора

В своём Telegram‑канале председатель совета директоров группы компаний (ГК) InfoWatch Наталья Касперская рассказала о встрече представителей компаниями‑разработчиками программного обеспечения и Федера

The Daily Agentic — June 11, 2026

1 час назад

The Daily Agentic — June 11, 2026

Stack Overflow хочет решить проблему забывчивости ИИ-агентов с помощью общей памяти Новая платформа знаний с api-first, созданная специально для ИИ-агентов, включает типы контента, удобные для них, ра

3 часа назад

Запред комитета Госмдумы по информполитике Telegram назвали главным кандидатом на возврат в Россию по примеру Roblox

Заместитель председателя комитета Госдумы по информационной политике, информационным технологиям и связи Андрей Свинцов объявил, что мессенджер Telegram может восстановить полноценную работу в России

Глава Microsoft AI теперь полагает, что ИИ не заменит офисных сотрудников полностью

4 часа назад

Глава Microsoft AI теперь полагает, что ИИ не заменит офисных сотрудников полностью

Глава подразделения Microsoft AI Мустафа Сулейман высказался в мягком тоне о том, что ИИ заменит офисных сотрудников. В свежем выпуске подкаста Decoder топ‑менеджер объявил, что на самом деле имел в в

IPO SpaceX сделало Маска первым триллионером, а 4400 сотрудников компании — миллионерами

4 часа назад

IPO SpaceX сделало Маска первым триллионером, а 4400 сотрудников компании — миллионерами

Илон Маск стал первым долларовым триллионером в истории. После того как SpaceX зафиксировала цену своего первичного размещения, состояние главы компании превысило $1,1 трлн. Сегодня, 12 июня, акции ко