随着人工智能系统在药物研发、信息合成和自动驾驶汽车等领域的广泛应用，其知识局限性和不确定性带来的问题日益凸显。麻省理工学院(MIT)衍生公司Themis AI正致力于通过其Capsa平台解决这一挑战，该平台能够在几秒钟内检测并纠正人工智能模型输出的不可靠信息。

Themis AI联合创始人、麻省理工学院教授Daniela Rus表示：“我们的Capsa平台可以封装任何机器学习模型，识别其中的不确定性和故障模式，并增强模型性能。”Capsa通过修改人工智能模型，使其能够检测数据处理中的模糊性、不完整性或偏差，从而提供更加可靠的输出。

自2021年成立以来，Themis AI由Rus与Alexander Amini和Elaheh Ahmadi共同创立，他们曾在Rus的实验室进行深入研究。公司已帮助电信公司优化网络规划，协助石油和天然气公司利用人工智能解读地震图像，并发表了关于开发更可靠聊天机器人的论文。

“我们希望让人工智能在风险最高的应用中也能发挥作用，”Amini说道，“Capsa平台能让这些系统更加透明，减少错误带来的潜在灾难性后果。”

多年来，Rus的实验室一直在探索模型不确定性，并获得了丰田的资助用于研究自动驾驶解决方案的可靠性。Capsa平台的出现，正是这一研究领域的成果之一。它不仅能够量化每个输出的不确定性，还能帮助大型语言模型(LLM)自我报告其信心和不确定性，从而更可靠地回答问题。

Themis AI技术主管Stewart Jamieson表示：“许多公司对使用基于自身数据的LLM感兴趣，但担心其可靠性。Capsa平台能帮助这些模型标记不可靠的输出，提高整体可靠性。”

此外，Themis AI还在与半导体公司合作，探索在芯片上构建可在云环境之外运行的AI解决方案，兼顾低延迟、高效的边缘计算与高质量输出。

制药公司同样可以利用Capsa改进用于识别候选药物并预测其在临床试验中表现的AI模型，加速识别最强预测，具有巨大的社会效益潜力。

Themis AI团队相信，Capsa平台将不断提升尖端人工智能技术的准确性，为人工智能在各行业的广泛应用提供坚实保障。