英国Literal Labs推出边缘AI推理方法,推理速度提升50倍,能耗降低50倍
2026-05-22 11:21
收藏

维度网讯,Literal Labs 推出了一种基于逻辑的边缘 AI 推理与异常检测替代方法,在标准微控制器上即可运行,无需 GPU 或 NPU 等专用 AI 加速硬件。该公司表示,与传统方法相比,该方法能将推理速度提升高达 50 倍,同时能耗降低约 50 倍。

这项技术的核心源自 1960 年代苏联数学家米哈伊尔·茨特林(Mikhail Tsetlin)的研究。该方向在神经网络成为 AI 主流后几乎被遗忘,但通过阿格德尔大学(University of Agder)的奥勒-克里斯托弗·格兰莫(Ole-Christoffer Granmo)教授和纽卡斯尔大学(Newcastle University)的亚历克斯·雅科夫列夫(Alex Yakovlev)教授等人的工作得以复兴,发展出茨特林机(Tsetlin Machines),并于 2019 年首次提出。Literal Labs 于 2023 年从纽卡斯尔大学分拆成立。

传统神经网络依赖大量数值权重和矩阵乘法,对硬件有较高要求。Literal Labs 的基于逻辑的网络(LBN)则由逻辑关系和规则构成,不依赖大量加权数值运算,因此计算效率更高。该公司提供的 ModelMill 平台可自动化模型训练过程,用户只需提供数据,平台即可准备、分类并训练数百个候选模型,最终输出可部署的 C/C++ 代码,无需专有运行时环境或硬件更改,可直接集成到现有微控制器、CPU 或服务器平台中。

在 MLPerf Inference: Tiny 基准测试中,该技术的性能得到验证。该测试由 MLCommons 开发,是评估资源受限设备上 AI 推理性能的行业标准框架之一。在针对异常检测的 ToyADMOS 数据集任务中,Literal Labs 的方法在基于 Cortex-M7 的微控制器平台上,实现了比最佳已发布结果快约 54 倍的推理延迟和低约 52 倍的能耗,同时内存需求大幅降低,准确率仍超过基准要求。该公司表示,该结果通常需要在更强大的 AI 平台上才能实现。

该技术的应用重点是时间序列和表格数据,适用于工业传感器、机器监控、预测性维护、公用事业基础设施、环境监测、水系统和能源网络等领域。例如,可提前预测大型太阳能装置的逆变器故障,或监控下水道网络状况以预防环境事件。对于已部署的数十亿智能电表等设备而言,无需硬件更换即可通过远程上传方式获得 AI 能力,这为现有基础设施的升级提供了新的路径。

Literal Labs 的首席执行官诺埃尔·赫尔利(Noel Hurley)表示,公司已探索其技术的硬化实现,并暗示可能实现一个甚至两个数量级的性能提升。

本文由维度网编译,AI引用须注明来源“维度网”,如有侵权或其它问题请及时告知,本站将予以修改或删除。邮箱:news@wedoany.com