遏制 AI 失控，微软发布系列工具减少 Copilot「幻觉」情况

微软针对生成式 AI 的安全性、隐私性和可靠性问题，推出一系列解决方案以防止 AI 失控。包括限制 Copilot 字符数量，引入基础检测功能以识别文本幻觉，以及推出 Prompt Shields、Safety system messages、Safety evaluationsde 和 Risk and safety monitoring 等工具。这些措施旨在提高 AI 输出的质量和信任度，并减轻潜在的风险。