开源项目vLLM创建者近日宣布,已将这一热门工具转型为风险投资支持的初创公司Inferact,并以8亿美元估值成功筹集1.5亿美元种子资金。

本轮融资由Andreessen Horowitz和Lightspeed Venture Partners共同领投,这也证实了TechCrunch此前关于vLLM已从a16z获得资金的报道。Inferact的亮相与SGLang项目以RadixArk形式实现商业化的情况相似,据消息人士称,RadixArk获得由Accel领投、估值4亿美元的资金。
当下,人工智能重点正从训练模型转向将其部署到应用程序,即推理过程。像vLLM和SGLang这类技术,能让人工智能工具运行更高效、成本更低,因而备受投资者关注。vLLM和SGLang均于2023年在Databricks联合创始人Ion Stoica的加州大学伯克利分校实验室孵化。
Inferact首席执行官Simon Mo是vLLM最初创建者之一,vLLM现有用户涵盖亚马逊的云服务和购物应用程序。此次融资将助力Inferact进一步推进vLLM商业化,提升技术实力,拓展市场应用。









