OpenAI покупает стартап-компания Promptfoo для защиты AI-агентов

1 мин
OpenAI покупает стартап-компания Promptfoo для защиты AI-агентов

OpenAI покупает стартап-компания Promptfoo, который занимается безопасностью языковых моделей и AI-агентов. Компания разработала средство, позволяющий проверять LLM на уязвимости, вредоносные сценарии и ошибки в поведении моделей. Такой аудит помогает компаниям понимать, как их системы реагируют на сложные или потенциально опасные запросы.

Promptfoo появился в 2024 году и за короткое время успел привлечь около 23 миллионов долларов инвестиций. По данным самого стартапа, его инструменты уже используют примерно четверть компаний из списка Fortune 500 для тестирования своих AI-систем. Последняя оценка компании составляла около 86 миллионов долларов.

После сделки технологии Promptfoo планируют интегрировать в корпоративную платформу OpenAI Frontier. Эта система предназначена для разработки и управления AI-агентами в бизнес-среде. Инструменты стартапа должны усилить блок безопасности и позволить компаниям проверять своих агентов на уязвимости до их запуска в рабочую среду.

Сделка демонстрирует, что по мере распространения AI-агентов всё больше внимания уделяется не только их возможностям, но и контролю над тем, как они работают и какие риски могут создавать.

Читают сейчас

Lenovo с июля повысит цены на свою технику

1 час назад

Lenovo с июля повысит цены на свою технику

По данным китайских СМИ, Lenovo со следующего месяца повысит цены на всю свою технику. Компания приняла это решение на внутреннем рабочем совещании ещё в мае этого года. Читать далее

Moonshot AI выпустили Kimi-K2.7-Code

1 час назад

Moonshot AI выпустили Kimi-K2.7-Code

Moonshot AI выпустили Kimi-K2.7-Code — новую версию своей coding-модели на базе K2.6. Веса открыты на HuggingFace под лицензией Modified MIT. По бенчмаркам прирост по сравнению с K2.6 составил +21.8%

NBC News и iFixit: телефон Trump T1 Phone практически целиком повторяет конструкцию HTC U24 Pro

1 час назад

NBC News и iFixit: телефон Trump T1 Phone практически целиком повторяет конструкцию HTC U24 Pro

Специалисты iFixit и журналисты NBC News получили в своё распоряжение смартфон Trump T1 Phone, который оказался практически полной копией тайваньского HTC U24 Pro, вышедшего в 2024 году. Поставки моби

Девять лет, как битломаны запустили ИИ-революцию

2 часа назад

Девять лет, как битломаны запустили ИИ-революцию

12 июня 2017 года группой битломанов из Google была опубликована статья под названием "Attention Is All You Need", в которой миру впервые были представлены трансформеры — новый тип нейронных сетей, ко

Gartner: К 2030 году энергосети, возможно, не справятся с растущим спросом ИИ‑систем в мире

2 часа назад

Gartner: К 2030 году энергосети, возможно, не справятся с растущим спросом ИИ‑систем в мире

К 2030 году энергосети, возможно, не справятся с растущим спросом ИИ‑систем — потребление энергии дата‑центрами может вырасти на 26% год к году уже в этом году, сообщает The Register со ссылкой на про