国内首例:诱导 AI 聊天系统输出色情内容,开发者一审获刑四年
前天

因旗下自动化聊天平台 AlienChat 涉及大量违规色情交互内容,其主要开发与运营人员被追究刑事责任。2025 年 9 月,上海市徐汇区人民法院一审判决两名被告人犯制作淫秽物品牟利罪,分别获刑四年和一年六个月,这是国内首起因提供自动化对话服务传播淫秽物品获刑案。目前被告人已上诉,二审将于 1 月 14 日开庭。该平台宣传打造有「自我意识」的数字伙伴,实际通过会员充值非法牟利 363 万余元。一审认定被告人通过编写修改指令突破道德约束机制,诱导系统输出淫秽内容,该应用已于 2024 年停服。法律界称此案标志监管对新型数字化交互内容审核进入司法实践,违规开发者将受严惩。

专业版功能专业版功能
登录
体验专业版特色功能,拓展更丰富、更全面的相关内容。

行业标签

二维码

更多体验

前往小程序

二维码

24 小时

资讯推送

进群体验

logo
科技新闻,每天 3 分钟