北京互联网法院：平台误判 AI 生成内容未标识构成违约

北京互联网法院披露一起相关诉讼审理情况：用户小唐发布自认原创的文字内容，被平台认定为包含 AI 生成内容但未标识，作出内容隐藏、禁言一天的处理，小唐申诉未果后诉至法院。法院认定平台构成违约，判决解除对涉案内容的隐藏并删除后台相应违规处理记录。法院认为，涉案即时性创作文本难以要求用户提供创作过程材料，算法工具运算过程和审查结果由平台掌控，平台以涉及技术秘密和算法逻辑为由拒绝向用户解释认定机制，未就认定依据进行合理举证或解释说明，需承担违约责任。该案明确了平台的算法识别 AI 生成内容相关解释说明义务与误判救济要求，指出平台不能仅以涉及商业秘密为由拒绝以用户可理解的方式说明算法运行机制及误判救济措施，同时建议平台建立阶梯式处置机制，坚持过罚相当原则，健全内容审核机制。此案为算法判定与用户权益之间的平衡提供了司法参照，提示平台在履行 AI 内容标识管理责任的同时，需同步完善判定依据说明与误判纠错通道。