清华与蚂蚁联合发布五层安全框架，护航自主AI代理

近日，清华大学与蚂蚁集团的研究团队针对当前热门的自主式大语言模型（LLM）代理系统OpenClaw，提出了一套创新的五层生命周期导向安全框架。OpenClaw这类新型AI代理已不再仅是被动响应的助手，而是能主动规划、调用高权限系统接口、执行长周期复杂任务的“数字员工”。然而研究发现，其核心采用的“内核-插件”架构存在显著安全隐患——作为最小可信计算基（TCB）的pi-coding-agent一旦被攻破，整个系统信任链将迅速崩塌。团队通过深度安全审计，识别出包括插件劫持、意图劫持、工具滥用等多类新型攻击路径，并据此构建覆盖设计、部署、运行、交互与退役全生命周期的安全防护体系。该框架不仅适用于OpenClaw，也为未来自主AI代理的工程化落地提供了可复用的安全治理范式。

来源：MarkTechPost