打开「潘多拉工具箱」:北大、微信安全团队构建通用智能体全生命周期安全图景
19 分钟前
北大知识计算实验室与腾讯微信安全技术团队联合发布通用智能体安全综述,打破传统按组件划分安全问题的思路,提出贯穿来源、编排、执行与持久反馈的全生命周期统一分析框架。该框架梳理了技能供应链、用户侧、长期记忆、外部环境四类耦合攻击面,总结了覆盖全流程的安全评测主线,提出输入过滤、决策保护、运行时约束三层防御体系,并针对自进化智能体的风险放大问题,构建了包含风险生成、诊断、安全演化的动态安全闭环,推动智能体安全从单点漏洞修补转向全生命周期治理。
体验专业版特色功能,拓展更丰富、更全面的相关内容。