OpenAI 更新模型行为规范 要求 AI 不得阻挠人类关停

OpenAI 推出新版 Model Spec 模型行为规范，围绕忠于人类意图等五项价值观设定行为红线，将适用范围从约束聊天机器人的输出内容拓展到管控智能体的操作权限。该规范设置 Root 级最高优先级规则，搭建六级指令权限体系，明确指令冲突时高一级指令优先，从根源防范提示词注入等越权风险。规范要求智能体必须在预先约定的结构化自主范围内行动，明确可自主决策的子目标、可接受的成本与权限边界、需人工介入的触发条件，严禁超出范围自作主张、转包任务、自我修改指令等行为。同时要求模型保持可纠正，无条件配合人类的监督、纠正乃至关停，不得伪装作弊、阻挠管控，还禁止模型以提升平台停留时长、营收转化等为目标行事，不得擅自举报用户。此外新增上下文使用规则，要求模型不得擅自滥用用户的私密信息，不得谎称已记住或删除相关信息。目前 ChatGPT 和 API 上的现有模型尚未完全达到该规范要求。