Koyeb平台推出Tenstorrent AI加速器支持 助力开发者构建高效AI应用
2025-02-26 11:46
收藏

无服务器云平台Koyeb近日宣布,开发者现可通过其平台启动Tenstorrent的AI加速器。这一举措紧随Tenstorrent完成近7亿美元融资之后,进一步推动了AI硬件生态的发展。Tenstorrent专注于基于RISC-V指令集架构的AI处理器,并开发了开源神经网络库TT-NN及低级编程模型TT-Metalium,旨在为开发者提供高效的计算解决方案。

Tenstorrent与Axelera、Etched、Groq等公司共同竞争,试图构建Nvidia GPU及其CUDA库的替代方案。Koyeb则致力于为开发者提供高度抽象的无服务器云平台,与Fly.io、Railway和Render等平台展开竞争。Koyeb支持开发者通过命令行界面或git push部署应用程序,并兼容Docker容器及多种流行编程语言。其核心功能包括自动扩展服务器基础设施,以应对流量波动。

近年来,Koyeb将重点转向AI应用领域,凭借其无服务器架构为AI工作负载提供低延迟体验。为支持这一目标,Koyeb已在数据中心部署Tenstorrent的PCIe板,开发者可通过TT-Metalium SDK编写host和kernel程序。Koyeb平台新增了两种实例类型:TT-N300S实例配备24GB GDDR6内存、192MB SRAM,提供高达466 FP8 TFLOPS的计算能力;TT-LoudBox实例则集成四个N300芯片,提供96GB GDDR6内存、768MB SRAM及高达1864 FP8 TFLOPS的性能。

Koyeb联合创始人兼首席执行官Yann Leger表示,此举旨在将Koyeb定位为硬件无关的云平台。他提到:“这让我们回想起ARM在服务器市场的高性能芯片首次亮相。自2013-2014年通过Scaleway推出定制服务器以来,我们积累了丰富的多架构部署经验。”Tenstorrent则希望通过与合作伙伴共同构建开发者生态系统,围绕其开源编程模型提供Nvidia AI堆栈的替代方案。

本简讯来自全球互联网及战略合作伙伴信息的编译与转载,仅为读者提供交流,有侵权或其它问题请及时告之,本站将予以修改或删除,未经正式授权严禁转载本文。邮箱:news@wedoany.com