维度网讯，Citrix为其NetScaler平台增加AI应用交付安全治理功能。新增NetScaler AI Gateway可对大型语言模型性能进行管理并将现有运营策略与基础设施控制扩展至AI系统。该更新旨在为企业级AI部署提供生产环境所需的治理可见性与运营信心。

据Citrix公告AI Gateway包含三项核心能力。基于token的速率限制用于衡量团队与应用间公平消耗。基于token延迟的负载均衡通过将推理请求路由至多个LLM后端优化性能与可靠性。溢出路由功能在token配额用尽时将请求重定向至备用模型。NetScaler总经理Steve Shah表示AI Gateway将企业在应用交付领域的优势延伸至AI时代使组织能够以关键任务部署标准运行AI服务。

NetScaler同步发布Protecto AI原生数据保护平台。该平台为代理型工作负载增加上下文安全能力并与AI Gateway配合使用。Protecto创始人兼首席执行官Amar Kanagaraj说明其代理型数据分类可捕捉传统AI安全工具遗漏内容在敏感数据到达AI系统前进行阻止或掩码处理且不丢失AI运行所需上下文。

AI Gateway作为Citrix内置AI助手Aidrien的生产环境控制层支持企业规模AI应用运行。Protecto与AI Gateway集成后企业可在确保数据风险可控前提下扩展AI部署规模。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告之，本站将予以修改或删除。邮箱：news@wedoany.com