维度网讯,中国科学院(Chinese Academy of Sciences)研究团队提出“网络安全人工智能科学家”(Cybersecurity AI Scientist)概念,并设计了一套名为赫菲斯托斯(Hephaestus)的模块化多智能体系统,旨在实现网络安全研究的全流程自动化。该团队在近期发表的一篇论文中,描述了这一能够自主完成从问题提出到实验设计、工具构建、受控执行、评估并形成书面结果的研究系统。
自主人工智能代理已开始执行真正的安全工作,例如探查软件漏洞、运行渗透测试并串联攻击步骤。然而,网络安全研究进展缓慢且高度依赖人工,受限于专家稀缺和手工设计的实验。该团队希望弥合这一差距。

赫菲斯托斯是一个模块化的多智能体系统,包含专门负责问题框架构建、威胁建模、工具生成和报告的角色定制化智能体。其名称源自荷马史诗中锻造矛与盾的工匠之神,象征着该系统旨在同时产出攻击与防御工作。
作者认为,现有的自动化研究系统,如人工智能科学家(AI Scientist)及其后续版本用于机器学习,以及“协作者科学家”(Co-Scientist)和“罗宾”(Robin)用于生物学和生物医学领域,无法直接迁移至网络安全领域。这是因为网络安全的研究对象会因被研究而自适应变化,模型平台、护栏和工具访问更新速度快于单个研究循环,且信任依赖于数字孪生、网络靶场和证据链等方法本身。
该团队提出了“四零框架”(four-zeros frame),明确了系统应关注的四种失败类型:风险(risk)、信任(trust)、事件(incident)和能量(energy)。风险指软件中的隐藏缺陷;信任指辅助行为需保持校准,确保人类操作员主导;事件指操作失误及测试环境需求;能量指长期积累的组织和伦理后果。系统需研究并缩减每一类失败。
在风险轴方面,论文提及前沿模型的能力跃升。例如,Anthropic公司发布的Claude Mythos预览版(属于Project Glasswing项目)因网络攻击能力过强而限制公开访问,需通过严格审核的合作伙伴计划才能使用;有报道称该模型已被用于大规模发现广泛使用软件中的漏洞,包括一些长期存在的缺陷。论文引用的基准测试CyberGym针对超过一千个真实世界漏洞(来自大量开源项目)测试智能体,前沿模型的单次成功率在百分之几十之间,并能自主发现全新的零日漏洞。
论文还提出“弹性智能体军团”(resilient agent legions)概念,颠覆了传统防御模型。设想大量冗余的防御智能体散布在网络边缘,监控各层、协调通道和恢复任务,每个智能体携带一个“事件与防御胶囊”,这是一个紧凑的捆绑包,将一类安全事件与其应对例程相关联。传统终端安全概念由此转变为智能体安全,工作变为管理智能体群体,依靠集体行为实现保护。
合著者翟立东(Lidong Zhai)阐述了对系统的评判方式。他将长期基准测试视为一种纵向协议,固定目标并随时间扰动模型堆栈、工具、护栏和威胁环境。输出为一个画像矩阵,报告研究产出、证据质量、校准负担、对模型和工具更替的鲁棒性、治理合规性以及后果处理。他强调基准测试应以后果为权重,高传播性、高损失的事件应获得更高权重,因为优先级排序本身是科学能力的一部分。
翟立东表示,遏制机制从能力、角色、环境和工件四个层面进行控制。攻击性探索、防御性分析、评估和发布决策遵循独立授权路径,敏感工作隔离在独立的数字孪生和网络靶场中。论文尚未构建完整系统,面临异构防御目标、代码层面难以区分攻击性和防御性用途等开放性挑战。翟立东认为,网络安全人工智能科学家的最终评判标准不仅在于加速研究,更在于提升战略镇定、更精准的优先级排序以及更持久的防御设计。










