维度网讯，红帽公司（Red Hat）推出Red Hat AI 3.4平台，旨在帮助组织跨越AI实验与生产级运营之间的鸿沟，实现可扩展的AI部署。该平台提供了一个从硬件到智能体的统一框架，为构建者和运维人员提供一致的运营环境，支持自主系统的规模化部署。

Red Hat AI 3.4的核心功能之一是模型即服务（MaaS），它为开发者提供了一个受治理的单一接口来访问精选模型，同时允许管理员跟踪使用情况并执行策略。该功能建立在由vLLM和llm-d驱动的高性能分布式推理基础之上。平台新增的AgentOps工具，集成了追踪、可观测性、加密身份和生命周期管理能力，能够管理从开发到生产的智能体，无论其框架如何。

为了解决企业数据与模型和智能体的集成问题，Red Hat AI 3.4引入了提示管理功能，将提示视为数据资产，并提供了一个评估中心，用于评估模型和智能体的准确性、质量和安全性。这些功能由MLflow提供支持，用于集成实验跟踪和工件管理。该平台还整合了Chatterbox Labs和Garak项目的技术，支持自动化安全测试和红队测试，验证模型和智能体的安全性。

红帽AI业务部副总裁兼总经理Joe Fernandes表示，智能体时代代表了平台从运行传统应用向驱动自主系统的演进。他认为，通过为AI推理、MaaS和AgentOps提供加固基础，组织能够在创新同时保持所需的运营控制。NVIDIA企业软件副总裁John Fanelli指出，企业中自主、长时间运行的智能体需要新的基础设施控制和安全水平，Red Hat AI Factory with NVIDIA为开发者和运维人员提供了智能体时代所需的治理基础。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com