维度网讯，大语言模型（LLM）性能竞争正与AI企业的“基础设施战略”深度捆绑。超威半导体（AMD）在其博客中提出，单纯增加GPU集群规模面临电力、成本和网络瓶颈等多重制约，因此从软件设计初期就考虑硬件限制的“硬件-软件协同设计”成为AI企业的核心战略。
xAI的“Grok 4.0”与深度求索（DeepSeek）的“DeepSeek-V2”展示了两种截然不同的基础设施路径。xAI通过部署规模达20万台的H100集群“Colossus”选择了大规模基础设施战略，但在此规模下，GPU间数据传输的网络瓶颈削弱了整体计算效率。为应对这一挑战，xAI在开发Grok 4.0时，将每台服务器9个400G网络接口卡（NIC）绑定，实现3.6 Tb/s带宽。同时，为降低成本，xAI采用了基于通用以太网的RoCE，而非英伟达InfiniBand。针对因静态计算图导致的“熵崩塌”问题，xAI引入了实时按数据包更改路径的“自适应路由（Adaptive Routing）”技术。
相反，DeepSeek选择了在2000至5万台规模的相对较小H800 GPU集群环境中，最大化硬件效率的方式。由于无法盲目增加硬件，DeepSeek从架构层面着手，从根源上减少网络通信量。DeepSeek-V2在采用混合专家（MoE）结构的同时，设计了“设备限制专家路由（Device-limited expert routing）”技术，将MoE模型的固有瓶颈——专家路由通信与GPU硬件计算同时重叠处理。得益于这一软件优化，GPU因网络阻塞而空闲的时间被最小化，DeepSeek以仅为Grok 4.0十分之一的硬件基础设施成本实现了具备竞争力的性能。
两种模型所采取的相反战略表明，盲目扩展基础设施的方式在成本和效率方面存在明显局限。准确理解硬件基础设施的限制条件并据此精细调整模型的“协同设计”能力，将成为未来AI市场竞争的关键因素。
