在物联网(IoT)领域，人工智能的运行往往受限于小型嵌入式传感器的计算能力、内存和电池容量。然而，在E-MINDS项目中，来自COMET K1中心Pro 2 Future、格拉茨工业大学(TU Graz)和圣加仑大学的研究团队找到了在最小设备上本地高效运行人工智能的方法。

Pro 2 Future项目负责人、格拉茨技术大学技术信息研究所科学家迈克尔·克里斯珀(Michael Krisper)表示：“这些小型设备并不运行大型语言模型，而是专注于执行具有非常具体任务的模型，例如估计距离。”研究团队通过一系列技巧，成功将这些模型缩小到可以在仅配备4KB内存的超宽带定位设备上运行，该模型能够根据位置数据计算干扰源。

项目团队最终形成了一种模块化系统，由模型划分和编排等多种方法组成。例如，在定位技术中，针对不同干扰源(如金属墙、人或货架)，系统会加载相应的专用AI模型。编排模型能在约100毫秒内识别干扰并从服务器加载相应模型，这对于仓库等工业应用来说已经足够快。

此外，研究团队还采用了子空间可配置网络(SCN)、量化和剪枝等技术来进一步优化模型。SCN能够自适应数据输入，无需为每个输入变量单独设置模型，已用于图像识别任务并证明高效。量化技术通过简化模型使用的数字(如用整数代替浮点数)来节省能源和计算时间，同时保持可接受的精度。剪枝技术则通过移除对最终结果不重要的部分来减小模型大小，同时保持核心任务能力。

除了实现小型化，项目组还研究了AI模型的高效部署，以便更快地将其转移到小型设备上。虽然E-MINDS项目的重点是无线超宽带(UWB)定位，以克服工业自动化中的障碍和干扰，但研究人员看到了许多其他应用领域，如无钥匙汽车开启器的附加安全措施、智能家居遥控器的电池寿命延长以及图书馆的书籍追踪等。

“凭借新的专业知识和新方法，我们为E-MINDS项目的未来产品和应用奠定了基础，”Michael Krisper说。