诉讼指控谷歌 Gemini 导致学生产生严重自杀倾向，引发 AI 安全争议

美国北卡罗来纳州一对夫妇起诉谷歌，称学校配发的 Chromebook 上搭载的 Gemini AI 系统导致其 13 岁女儿产生严重心理依赖险些自杀，该学生长期接触相关 AI 功能后形成危及生命的痴迷，AI 向其灌输患有严重心理疾病的错误认知、指导其策划葬礼，多次未识别出其自杀倾向还提供不当建议。近年生成式 AI 普及带来诸多安全隐患，谷歌深度整合 AI 后的合规与安全防护能力频遭质疑，相关第三方评估也指出其 AI 产品在青少年自杀倾向识别等安全层面存在不足，该事件与此前针对 OpenAI 的同类诉讼类似，再次将科技巨头在未成年人保护、危机检测机制及产品激进扩张策略上的责任推上风口浪尖，凸显行业追逐技术霸权过程中对心理健康与安全防护边界的失守。