根据麦肯锡最近的一份报告，大多数组织表示，他们尚未做好充分准备，以安全负责的方式使用生成式人工智能。其中一个担忧是可解释性——理解人工智能如何以及为何做出某些决策。报告显示，尽管40%的受访者认为这是一个重大风险，但只有17%的受访者正在积极应对。

总部位于首尔的Datumo最初是一家 AI 数据标签公司，如今希望利用工具和数据帮助企业构建更安全的 AI，这些工具和数据能够测试、监控和改进其模型，而无需技术专业知识。周一，这家初创公司从 Salesforce Ventures、KB Investment、ACVC Partners 和 SBI Investment 等投资者那里筹集了 1550 万美元，使其总融资额达到约 2800 万美元。

Datumo 首席执行官 David Kim 曾任韩国国防发展署的人工智能研究员，他对数据标注耗时感到沮丧，于是萌生了一个新想法：开发一款基于奖励的应用程序，让任何人都能在业余时间标注数据并赚取收益。这家初创公司在韩国科学技术院 (KAIST) 的一场创业大赛中验证了这一想法。2018 年，Kim 与五位 KAIST 校友共同创立了 Datumo(前身为 SelectStar)。

甚至在应用程序完全构建之前，Datumo 在竞赛的客户发现阶段就获得了数万美元的预合同销售额，其中大部分来自 KAIST 校友领导的企业和初创企业。

这家初创公司成立第一年，营收就超过 100 万美元，并获得了几份重要合同。如今，三星、三星 SDS、LG 电子、LG CNS、现代、Naver 以及首尔电信巨头 SK 电讯等韩国巨头公司都是该公司的客户。然而，几年前，客户开始要求该公司提供超越简单数据标注的服务。这家成立 7 年的初创公司目前在韩国拥有 300 多家客户，并在 2024 年创造了约 600 万美元的收入。

Datumo 联合创始人 Michael Hwang 告诉 TechCrunch：“他们希望我们对他们的 AI 模型输出进行评分，或者将其与其他模型的输出进行比较。” “那时我们才意识到：我们已经在进行 AI 模型评估了——甚至在不知不觉中。” Hwang 补充道，Datumo 在这一领域加倍投入，并发布了韩国首个专注于 AI 信任和安全的基准数据集。

Kim 告诉 TechCrunch：“我们从数据注释开始，然后随着 LLM 生态系统的成熟扩展到预训练数据集和评估。”