维度网讯，微软研究人员发现Anthropic旗下Claude Code的GitHub自动化流程存在一处漏洞，该漏洞可能导致持续集成/持续部署工作流中的机密信息泄露，攻击者可能通过提示词注入攻击窃取敏感凭证。

微软威胁情报团队在监测到公开代码库中出现针对人工智能辅助型GitHub工作流的提示词注入尝试后，启动了本次研究。提示词注入是一类人工智能安全漏洞，攻击者会在大模型处理的内容中嵌入误导性指令，操控模型行为无视预设指令。研究人员举例说明，有攻击者将注入指令藏在HTML注释中，这些内容在GitHub展示界面中不可见，但读取原始Markdown源码的人工智能模型能够识别。该代码库当时借助GitHub自动化流程来自动处理工单问题。

攻击者可将恶意指令伪装成普通的功能需求，无需获得项目修改权限，只需提交一条GitHub工单，就能诱骗人工智能机器人代为执行修改操作。微软证实，同类提示词注入手段同样可针对Anthropic的Claude Code GitHub自动化流程发起攻击。此前Anthropic已为部分工具设置了沙箱防护，但微软发现，Claude用于读取文件的读取工具并未受到同等安全限制。研究人员制作了提示词注入攻击载荷进行验证测试，测试中恶意提示词成功绕过两层防护，诱导该人工智能助手读取存放着应用程序接口密钥及其他凭证的系统文件。

本文由维度网编译，AI引用须注明来源“维度网”，如有侵权或其它问题请及时告知，本站将予以修改或删除。邮箱：news@wedoany.com