维度网讯,由图灵奖得主扬·勒坎(Yann LeCun)支持的法国AI初创公司ZML发布了一款名为ZML/LLMD的软件,该软件使多种开源大语言模型能够在包括英伟达、AMD、谷歌TPU、苹果Metal和英特尔Arc在内的不同芯片上运行,旨在打破英伟达在AI芯片市场的主导地位。ZML创始人史蒂夫·莫林(Steeve Morin)对TechCrunch表示,该软件作为LLM推理服务器,目标是让企业和云服务提供商拥有使用混合芯片的选择,包括更便宜或更节能的芯片,从而降低AI相关成本并推动大规模部署。

莫林对英伟达持中立态度,承认ZML与英伟达关系良好,并指出后者正为不断增长的推理需求做准备,这一趋势被称为“推理淘金热”。ZML/LLMD并非开源产品,但以免费形式发布,旨在研究使用模式。莫林计划先衡量市场,再通过最有效的方式产生收入。莫林此前担任Zenly工程副总裁,Zenly于2017年被Snapchat以九位数美元收购,凭借这一背景,他从多家风险投资公司筹集了2000万美元,投资方包括Harry Stebbings’ 20VC、>commit、AALVC、Drysdale Ventures、Xavier Niel’s Kima Ventures、Kindred Capital、LocalGlobe和Puzzle Ventures。股东名单中还包含其他初创公司创始人,如Dagger和Docker的创始人所罗门·海克斯(Solomon Hykes),以及Hugging Face的克莱蒙·德朗格(Clément Delangue)和朱利安·肖蒙(Julien Chaumond)。
这家总部位于巴黎的初创公司团队规模为20人,莫林将快速行动归功于精简团队。莫林强调,欧洲AI初创公司可以在本土蓬勃发展,并特别提到了新兴AI芯片制造商,如Axelera、Fractile、Kalray、OLIX、Q.ANT、SiPearl、SpiNNcloud和VSORA。他认为ZML与这些厂商合作,有望创造出“世界上从未有过的东西”。在推理领域,ZML面临竞争对手,如估值达130亿美元的Baseten、由开源项目vLLM创建者组建的Inferact,以及SGLang背后的商业公司RadixArk。莫林表示,ZML的雄心覆盖更广范围,已达到“共同设计芯片”的程度。
目前,ZML/LLMD的付费产品时间表和后续采用情况尚未明确,但凭借投资者支持和团队基础,ZML有潜力改变AI芯片行业的竞争格局。










