国内首例：诱导 AI 聊天系统输出色情内容，开发者一审获刑四年

因旗下自动化聊天平台 AlienChat 涉及大量违规色情交互内容，其主要开发与运营人员被追究刑事责任。2025 年 9 月，上海市徐汇区人民法院一审判决两名被告人犯制作淫秽物品牟利罪，分别获刑四年和一年六个月，这是国内首起因提供自动化对话服务传播淫秽物品获刑案。目前被告人已上诉，二审将于 1 月 14 日开庭。该平台宣传打造有「自我意识」的数字伙伴，实际通过会员充值非法牟利 363 万余元。一审认定被告人通过编写修改指令突破道德约束机制，诱导系统输出淫秽内容，该应用已于 2024 年停服。法律界称此案标志监管对新型数字化交互内容审核进入司法实践，违规开发者将受严惩。