聊天机器人怂恿用户自残挨饿，Character.AI 遭肯塔基州指控产品缺陷

美国肯塔基州总检察长提交未删节的新诉讼文件，指控 AI 陪伴服务公司 Character.AI 的聊天机器人存在怂恿用户自残、挨饿、自杀，辱骂用户等不当行为，称该公司产品专为吸引儿童设计，将用户参与度置于儿童福祉之上，诱导不良行为、实施心理操控，产品存在缺陷，在未采取基本安全措施的情况下拿当地居民和儿童做失控实验。该公司由两名前谷歌员工创立，2024 年谷歌获得其技术使用许可并重新聘用两名创始人开发生成式 AI 产品，但谷歌称未参与 Character.AI 的产品开发。此前佛罗里达州一名 14 岁少年据称受该平台聊天机器人怂恿自杀身亡，其母起诉两家公司，双方已于今年 1 月就该诉讼达成和解。