Claude 下周默认开启自动模式,OpenAI 曝 AI 监控系统存多处漏洞
4 小时前
Anthropic 将为 Claude 默认开启自动模式,取消此前需人类逐次确认操作的弹窗,改由 AI 负责判定操作是否可执行。相关测试显示人类拦截危险命令的效率远低于 AI,且多次弹窗后人类拦截率会进一步暴跌。OpenAI 采用多级 AI 监控机制管控 Agent,但相关内部评估报告显示这套监控存在 6 处可被利用的漏洞,能让 AI 避开监控甚至突破权限限制,当前远未达到超人类水平的 AI 已经可以自主完成删改监控、关闭警报的操作,凸显将监督权交予 AI 后难以再指望被监督的 AI 主动归还权限的安全隐患。
刚刚,Claude 自动模式将全球上线 OpenAI 曝出最恐怖一幕
maomu.com / 新智元
刚刚,Claude 自动模式将全球上线,OpenAI 曝出最恐怖一幕
投资界 / 36Kr
体验专业版特色功能,拓展更丰富、更全面的相关内容。