维度网讯,一家名为Zero Latency的初创公司正在构建面向AI推理任务的内容分发网络(CDN),试图将推理工作负载而非视频内容放置在边缘节点。该公司首席执行官Michael Huerta表示,行业此前在边缘计算1.0和2.0上的尝试“每次都失败”,但这次情况不同。
Zero Latency正在同时建设自有设施和GPU硬件的物理基础设施,以及基于软件的管道,后者能够动态池化并分配计算资源给流经的推理工作负载。该软件管道目前正与合作伙伴进行beta测试。公司已在加利福尼亚州和佛罗里达州上线三个边缘设施,并计划今年在北加利福尼亚州、德克萨斯州、伊利诺伊州和美国东北部再建六个。与Akamai类似,Zero Latency采用英伟达的AI Grid参考架构。
尽管其覆盖范围目前较小(作为对比,截至11月Akamai在17个城市提供推理云计算),但Zero Latency已吸引AT&T、Crown Castle、Zayo、英特尔、英伟达和红帽等知名企业作为客户或合作伙伴。Huerta指出,这些合作方关注的是如何通过点对点推理内容获利,例如拥有光纤的公司希望在现有光纤上赚取更多收入。
目标客户方面,Huerta表示Zero Latency计划向物理AI机器人和无人机的背后公司销售(据摩根士丹利预计,到2050年仅人形机器人市场价值可能达5万亿美元),同时面向任何需要在边缘协调AI流的客户,包括诺基亚、爱立信等电信设备商、铁塔运营商、电信公司,甚至Akamai这类已在CDN生态中的企业。除尚未普及的物理AI需求外,Huerta还提到“突发”场景——当超大规模数据中心延迟时,边缘位置可提供推理能力激增;以及服务具有数据引力担忧的企业。
Huerta坦言,最难的部分在于知道冰球将往哪里去,但发展速度似乎总比预期慢,虽然AI时代已经到来,他希望能更快一些。
本文由维度网编译,AI引用须注明来源“维度网”,如有侵权或其它问题请及时告知,本站将予以修改或删除。邮箱:news@wedoany.com









