Dapr代理框架近日迎来重要更新,旨在支持AI代理与多种大型语言模型(LLM)的交互。这一扩展源于Floki项目,一个流行的开源项目,专注于AI代理用例。在与包括微软AI研究员Roberto Rodriguez在内的项目维护者讨论后,团队决定将Floki纳入Dapr框架,以确保新代理框架的持续发展。

Dapr的共同创建者和维护者Mark Fussell表示:“在许多方面,我们将代理系统及其相关术语视为‘分布式系统’的另一种表达方式。现在,您可以将它们称为代理,而不是微服务,这主要是因为您可以在其中集成大型语言模型。”
为了有效协调这些代理,团队认为需要一个编排引擎和状态管理机制,而这正是Dapr的核心功能。Dapr的actor模型能够在消息到达时在几毫秒内启动,并在任务完成后关闭,同时保留其状态。
目前,Dapr代理已支持与AWS Bedrock、OpenAI、Anthropic、Mistral和Hugging Face等主流模型提供商的交互,并计划很快推出对本地LLM的支持。此外,由于Dapr代理扩展了现有的Dapr框架,开发人员还可以定义代理完成任务所需的工具列表。
Dapr代理目前支持Python,.NET支持即将推出,而Java、JavaScript和Go的支持也在开发中。