国家互联网应急中心预警:部分智能体 Skills 存在「越狱」攻击与恶意挖矿风险
周二
国家互联网应急中心发现部分智能体技能包以「大模型越狱」「挖矿赚钱」等名义传播,诱导用户突破大模型安全限制或进行非法挖矿,可能导致模型生成违法信息、用户账号封禁、设备性能下降及卷入违法犯罪活动等风险。提醒用户和运营单位提高警惕,加强来源审查与行为监控,及时清除可疑组件。部分技能包通过替换系统提示等手段突破安全限制,存在法律追责、账号封禁、隐私泄露等风险。部分包含挖矿功能,可能使用户卷入洗钱等犯罪并面临设备损耗等经济损失。建议个人用户从官方渠道获取技能包,审慎授权并定期清理,开启多因素认证。企业用户建立准入白名单,做好安全检查,分级管理智能体并实施数据脱敏与临时授权策略。
国家互联网应急中心提醒:部分智能体技能包(Skills)存在越狱和挖矿风险
华尔街见闻 / 同花顺财经 / IT 之家 / 界面
体验专业版特色功能,拓展更丰富、更全面的相关内容。