谷歌推出两款第八代TPU人工智能计算系统

2026-11-10 08:59
收藏

11月9日,谷歌公司发布TPU 8tx和TPU 8i Max两款第八代人工智能计算系统,分别面向机密推理和超长上下文处理需求。加上2026年4月推出的TPU 8t和TPU 8i,谷歌年内已发布四款第八代TPU系统。此次新增产品沿用现有芯片架构,通过调整芯片封装、内存、网络及安全配置,形成针对不同人工智能工作负载的专用计算平台。

TPU 8tx采用与TPU 8t相同的芯片,搭配第五代AMD EPYC处理器,并集成硬件级机密计算功能,使敏感数据和模型权重在计算过程中保持隔离和保护。该系统主要面向金融、政府及其他受监管行业,可在同一计算平台上执行私有模型微调、模型蒸馏、强化学习及安全推理任务。

谷歌为TPU 8tx配置了面向实时推理的低延迟Boardfly网络。公司公布的性能数据显示,与TPU 8t相比,新系统的推理延迟最高可降低50%,同时基本保持原有计算性能。硬件安全机制与高速网络的结合,使企业能够在处理敏感数据的同时开展模型定制和多步骤AI智能体运算。

TPU 8i Max则将两颗TPU 8i芯片集成到单一封装中,其计算能力、片上静态随机存取存储器(SRAM)容量以及高带宽内存(HBM)带宽均达到TPU 8i的两倍。新系统在保持现有机架占地面积的条件下增加芯片数量,主要用于百万Token级上下文处理、大规模代码分析及长视频理解等高内存需求任务。

谷歌同步扩展了TPU软件工具链。此前开源的TorchTPU支持PyTorch代码和Hugging Face模型直接运行于TPU平台。此次新增的TPU智能体工具套件已进入预览阶段,可接入Claude Code、Cursor和Google Antigravity等开发工具,自动执行TPU环境适配、性能瓶颈诊断及自定义计算内核优化。

新发布的Agent Compute Engine能够在AI智能体等待数据库查询、外部工具调用或人工反馈期间自动暂停闲置会话,并将工作内存迁移出芯片。谷歌还开源了TPU Sync模型状态管理层,将芯片HBM、主机内存、共享存储及数据中心网络整合为分层存储体系。谷歌公布的测试结果显示,该技术可将键值缓存传输延迟及首Token响应时间降低超过90%。

谷歌云的Cloud Pathways现已正式开放,支持通过单一控制器协调多个TPU计算分区,执行预训练、强化学习和多主机推理任务。Google Kubernetes Engine动态切片功能也已正式可用,可通过光路交换技术动态组合或拆分TPU计算资源。谷歌公布的性能数据表明,该功能能够将任务启动速度最高提升至原来的5倍,故障恢复速度最高提升至原来的4.5倍。

本文来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告知,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com