微软发布 PyRIT 工具，帮专家和工程师识别生成式 AI 模型风险

微软发布了一款名为 PyRIT 的开源自动化框架，该框架是一个 Python 风险识别工具包，主要用于帮助安全专家和机器学习工程师识别生成式 AI 的风险，以防止人工智能系统失控。微软的 AI Red Team 已经使用该工具来检查包括 Copilot 在内的生成式人工智能系统中的风险。微软强调通过向公众提供内部工具和分享 AI Red Team 的其他投资成果，旨在推动人工智能安全民主化。