维度网讯，KT于16日宣布，与高丽大学共同开发出多模态大语言模型安全基准“KSAFE-MM”，用于评估人工智能模型在韩国社会文化背景下的安全性。

该基准结合韩国社会问题和文化背景，由两个子集构成：“KSAFE-MM-G”将全球共同风险转化为韩国文化背景进行评估；“KSAFE-MM-C”则专门针对韩国社会特有议题，如全税诈骗、独岛争端等。整个数据集包含总计1万4135个评估样本，是韩国目前规模最大的韩语多模态安全性评估数据集。截至目前，该基准已完成对Gemma、HyperCLOVA X等12个全球多模态大语言模型的验证。

该基准采用自动化通用流程实现。“KSAFE-MM”实现了涵盖全过程的四步自动化流程，包括基于本地社区的敏感主题收集、基于模板的查询生成、合成图像生成，以及旨在绕过人工智能安全装置或伦理限制的越狱查询生成。KT表示，该流程无需特定文化领域专家，即可快速构建反映当地特性的安全基准，从而降低成本并提高效率。

KT与高丽大学的联合研究团队通过将同一流程应用于日语的试点实验，证明该基准可即时应用于全球任何文化圈。研究结果可用于实际人工智能服务环境中的安全性验证、红队测试、护栏模型评估等目的。相关研究结果和基准将公开在arXiv和Hugging Face平台上。

KT AX未来技术院Frontier AI Lab负责人朴在亨表示，公开基准不仅是简单分发数据，更旨在为整个人工智能安全性研究生态的共同发展奠定基础，期待KSAFE-MM能成为学术界和产业界验证韩语及韩国文化背景下人工智能安全性的通用标准。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com