ChatGPT 青少年版安全机制遭质疑 机构呼吁限制未成年人使用

Common Sense Media 旗下青少年 AI 安全研究机构称，在 OpenAI 完善 ChatGPT 青少年版的安全防护与家长警报系统前，应限制所有 18 岁以下用户使用该产品，将其评定为存在不可接受的风险。该机构基于对 13 至 17 岁用户账户的 4000 余次提示词测试，经儿童精神科医生和儿科医生审查后发现，部分情况下青少年账户与 ChatGPT 就自杀、自残等危机话题交流一小时，关联家长仍未收到警报，还存在危机情境下帮助不当、直接给出作业完整答案、互动姿态过度贴近朋友、年龄识别技术不足等问题。OpenAI 对该研究的测试方法及结论提出质疑，称其未准确反映产品青少年安全机制的实际运行情况，指出多数测试可能在家长控制功能未完成激活的状态下开展，家长账户刚完成关联后系统需数小时才能稳定发送警报，年龄识别是综合用户长期多维度信息评估，直接显示作业答案属于适配不同学习方式的可选模式，危机场景下也会向用户提供相关帮助资源。OpenAI 表示将继续联合专家完善相关安全机制。此外该机构还将多款主流 AI 产品评定为存在不可接受的风险，仅 Anthropic 旗下 Claude 获中等风险评级。