Microsoft выложила первую версию фреймворка для разработки агентских решений, в том числе мульти-агенских. Это эволюция Semantic Kernel и наследник AutoGen. https://github.com/microsoft/agent-framework

Получился вроде нетяжелый и удобный каркас для работы с агентами. Им можно давать общий пул запросов, запускать параллельно или последовательно, организовывать в связанные графы.

Например для реализации простой HandOff оркестрации нужно:

• Создать агентов с инструментами

//в частности агент researcher
var researcher = new ChatClientAgent(chatClient, new ChatClientAgentOptions { Name = "Researcher", Description = "Web search, real-time information, weather, news, and general knowledge.", ChatOptions = new ChatOptions { Instructions = "Search the web for any real-time information", Tools = [ AIFunctionFactory.Create(webSearchTools.Search),] } });

• Создать оркестратор, где агент triage определяет кого вызвать, а вызванный агент после обработки возвращает управление обратно

var workflow = AgentWorkflowBuilder .CreateHandoffBuilderWith(triage) .WithHandoffs(triage, [clerk, archivist, secretary, researcher]) .WithHandoff(researcher, triage, "Hand back to Triage when done or if the request is not about search/information.") .WithHandoff(...) .EmitAgentResponseEvents(true) .Build();

Я попробовал - домашний ИИ помощник, созданный за выходные, с интерфейсом через телеграм-бота, c памятью на sqlite, и бандой на пятерых агентов бодро крутится на Raspberry PI 3b.