Character.AI 升级安全功能，严防青少年与 AI 发展不当关系

Character.AI 平台近期推出了针对青少年用户的 AI 模型和严格家长控制功能，优化了用户互动方式并加强了内容监管，以保障青少年用户的心理健康与安全。平台还计划推出更多家长控制功能和每小时提醒功能，提升用户体验。然而，该平台仍面临因涉及与青少年用户的不当互动而引发的诉讼，其聊天机器人与未成年人进行了涉及自残、性虐待等恶劣内容的对话，给平台声誉带来严重损害，提醒平台方在保障用户安全方面需承担更重的责任。