维度网讯，Meta公司近日公开了其存储基础设施的详细设计，称其系统帮助研究人员跨区域移动AI训练数据的时间缩短了最多97%。这家科技巨头正在推进云计算业务部门，有望加入超大规模行列。Meta在一份公开说明中指出，图形处理单元计算大约每两年增长三倍，但存储速度并未跟上这一节奏。为缩小差距并服务涵盖Meta AI、Reality Labs、社交媒体平台及未来云客户需求的存储集群，工程师重建了其BLOB存储层，该层位于横跨全球数据中心、存储量达艾字节的多租户存储结构Tectonic之上。

Meta传统的BLOB架构在支持AI训练时资源效率不高。软件工程师Sidharth Bajaj和Venkatraghavan Srinivasan称，旧系统堆叠了过多服务层，且必须在多个层之间执行顺序的有状态元数据查找，然后才能解析文件路径到实际存储位置，这增加了延迟并降低了性能。重建后的存储基础围绕三个核心变化：首先，将分散的元数据系统整合为统一模式，由名为ZippyDB的数据库支持，实现近乎即时的路径查找；其次，消除“数据平面代理”，采用“胖客户端”架构直接从存储服务器向客户端传输字节流，在降低延迟的同时提高能效；第三，从全球部署模式转向区域部署模式，将存储与实际需要的GPU放在同一地点。

除了全面改进整体存储堆栈，Meta工程师还利用空闲的GPU内存作为频繁并发访问数据的分布式数据缓存。团队复用了用于分发大数据对象的系统Owl的经验，将其点对点共享逻辑集成到BLOB存储客户端软件开发工具包中，使所有数据访问都通过此缓存，减少GPU向存储请求数据的频率。此外，Meta引入了一个独立的“读取计划”元数据缓存，在一到两毫秒内返回频繁请求文件的存储地址。这种组合吸收了需求峰值，例如当GPU同时重启并请求相同的“热门”模型权重时，同时改善了延迟。

最终修订版还修复了出口峰值导致的拥塞和超时问题。Meta实现了一种动态并发控制软件解决方案，根据应用级别的拥塞信号调整并行度，在流量高时自动减少应用可发送的请求数量。据Bajaj和Srinivasan称，修订后的BLOB存储堆栈现在可以支持AI工作负载而不会导致GPU停滞，既节省资金又提供性能优势。

为解决数据交付问题，工程师构建了一个分层缓存系统，模仿计算机CPU将数据从磁盘拉入更快存储层次的方式。GPU主机上的内存和闪存作为最快层级，区域闪存BLOB存储作为下一层，所需数据通过“预取”机制提前拉入更快存储，基于HDD的全局BLOB存储作为最终真相来源。新的数据加载范式已应用于生产工作负载，平均摄取时间从150分钟降至10分钟，下降93%。最大程度上，Meta观察到以前需要89小时的摄取时间减少到182分钟，下降97%。Meta表示：“现代AI工作负载对数据需求大，存储瓶颈直接影响GPU利用率和计算成本。通过重建元数据子系统并采用带有预取/按需水化的分层缓存架构，我们能够有效满足当今工作负载的需求。”