维度网讯，Nutanix与AMD合作推出企业级AI基础设施，结合AMD处理器与加速器，帮助企业通过私有和混合基础设施运行代理型AI工作负载。
随着自主AI代理进入生产环境，该方案旨在让企业对模型选择、数据治理和计算成本拥有更大控制权。Nutanix表示，组织可以采用双层模型策略，将前沿AI系统用于复杂推理任务，而高容量工作负载则在私有基础设施上运行的优化模型中处理。
自主代理可检索信息、与企业应用程序交互并执行长时间工作流，这些活动可能产生大量模型请求。当组织主要依赖租赁基础设施或外部模型服务时，由此产生的令牌使用量可能增加运营成本。
Nutanix提议使用代理网关在不同模型和基础设施环境之间引导请求。网关可应用组织策略、管理访问控制，并确定哪些工作负载需要外部前沿模型。常规请求可路由到组织自有基础设施内运行的模型，更复杂的任务则可发送给更大型的外部模型。这种结构旨在降低通过更高成本模型处理的工作负载比例，并为组织提供管理模型访问和使用策略的中央控制点。
Nutanix首席AI官Debo Dutta表示，拥有自己的智能并不意味着完全放弃前沿模型，而是掌握路由、容量和成本的控制，可将昂贵的前沿模型仅用于一小部分需要复杂边缘案例推理的任务，而大多数高容量任务则路由到在私有基础设施上安全运行的高度优化模型。
该架构将Nutanix云平台(Nutanix Cloud Platform)和Nutanix企业AI(Nutanix Enterprise AI)与AMD EPYC处理器及AMD Instinct MI355X加速器相结合。Nutanix企业AI用于在受治理的基础设施环境中部署和运行AI模型及应用，云平台则为跨私有和混合环境运行的工作负载提供底层计算、存储和管理层。将选定AI工作负载保留在私有基础设施内，可帮助组织保持对专有信息的控制，并支持数据主权要求。该平台旨在支持长期运行的代理，并可应用策略来决定代理可使用的模型、可访问的信息以及工作负载的处理位置。
AMD EPYC处理器和AMD Instinct MI355X加速器为模型推理和企业工作负载提供计算资源。Nutanix表示，组合基础设施可支持共享推理环境，无需为每个AI应用或业务部门配备独立系统。共享容量允许组织在多个工作负载之间分配计算资源，提高基础设施利用率。该设计针对希望扩展AI部署但不想为每个模型或代理分配专用硬件的企业，集中式基础设施可服务多个应用，同时通过平台管理治理和访问策略。
企业AI项目正从孤立试验转向在业务流程中持续运行的系统。代理系统对基础设施的需求与独立聊天机器人或偶发模型查询不同，代理可能长时间保持活跃，在完成任务之前查阅多个来源并重复发出请求。随着部署规模增加，这些运行模式可能提升计算和令牌成本，并增加模型治理的复杂性。Nutanix的双层结构将高容量处理与需要更大前沿模型的任务分开，允许组织保留使用外部系统的选项，同时通过私有运营的模型处理更可预测的工作负载。该平台还允许AI工作负载和专有数据保留在受治理的混合多云环境中，访问、路由和策略控制通过代理网关和Nutanix软件栈进行管理。
Nutanix表示，共享推理基础设施旨在最大化利用AMD EPYC CPU和AMD Instinct MI355X GPU，同时支持长期运行的代理并控制与令牌相关的成本。
