Microsoft выложила первую версию фреймворка для разработки агентских решений, в том числе мульти-агенских. Это эволюция Semantic Kernel и наследник AutoGen. https://github.com/microsoft/agent-framework
Получился вроде нетяжелый и удобный фреймворк для работы с агентами. Им можно давать общий пул запросов, запускать параллельно или последовательно, организовывать в связанные графы.
Например для реализации простой HandOff оркестрации нужно:
Создать агентов с инструментами
//например агент researcher var researcher = new ChatClientAgent(chatClient, new ChatClientAgentOptions { Name = "Researcher", Description = "Web search, real-time information, weather, news, and general knowledge.", ChatOptions = new ChatOptions { Instructions = "Search the web for any real-time information", Tools = [ AIFunctionFactory.Create(webSearchTools.Search),] } });
Создать оркестратор, где агент triage определяет кого вызвать, а вызванный агент после обработки возвращает управление обратно
var workflow = AgentWorkflowBuilder .CreateHandoffBuilderWith(triage) .WithHandoffs(triage, [clerk, archivist, secretary, researcher]) .WithHandoff(researcher, triage, "Hand back to Triage when done or if the request is not about search/information.") .WithHandoff(...) .EmitAgentResponseEvents(true) .Build();
Я попробовал - домашний ИИ помощник, созданный за выходные, с интерфейсом через телеграм-бота, c памятью на sqlite, и бандой на пятерых агентов бодро крутится на Raspberry PI 3b.
