OpenAI покупает Promptfoo: стартап-компания, который ломает ИИ-приложения

OpenAI объявила о покупке Promptfoo — платформы для тестирования безопасности ИИ-систем, которой пользуются более 25% компаний из Fortune 500. Инструменты стартапа будут интегрированы в OpenAI Frontier — корпоративную платформу для создания и управления ИИ-агентами, запущенную месяц назад.

Promptfoo специализируется на red-teaming и пентесте ИИ-приложений: автоматически ищет уязвимости вроде инъекций промптов, джейлбрейков, утечек данных и злоупотреблений инструментами. Стартап основали Иэн Вебстер и Майкл Д'Анджело, ранее масштабировавшие ИИ в Discord до 200 млн пользователей. Open-source CLI-инструментом пользуются более 125 000 разработчиков, а коммерческую платформу развернули свыше 30 компаний из Fortune 500. За два раунда стартап-компания уже привлек $23,4 млн.

После закрытия сделки в Frontier появятся встроенные инструменты безопасности: автоматическое тестирование агентов перед запуском, интеграция проверок в процесс разработки и отчетность для аудита и комплаенса. Open-source инициатива обещают продолжить развивать параллельно. "Защита ИИ стала главным блокером для корпоративного внедрения генеративных приложений", — объяснял Вебстер мотивацию компании еще при объявлении Series A.

Для OpenAI покупка — логичное усиление Frontier, которую компания активно достраивает: за месяц с момента запуска платформа получила партнерства с Accenture, McKinsey и Capgemini, а корпоративные клиенты (Uber, State Farm, Intuit) уже тестируют развертывание ИИ-агентов. Но в гонке за корпоративный рынок конкуренция нарастает: Anthropic закрепился в данном сегменте через Claude Code и Cowork, а Google использует существующие связи с бизнесом для продвижения Gemini.

P.S. Поддержать меня можно подпиской на канал "сбежавшая нейросеть", где я рассказываю про ИИ с творческой стороны.