MAIA 新系统亮相：洞悉 AI 模型内在机制，审查其安全性

麻省理工学院计算机科学与人工智能实验室开发了一项名为 MAIA 的多模态自动化可解释性代理系统。MAIA 利用视觉语言模型自动执行神经网络可解释性任务，并配备了在人工智能系统上进行实验的工具。与现有方法不同，MAIA 可以生成假设、设计实验进行测试，并通过迭代分析完善自身理解。该系统已证明能够完成关键任务，包括为视觉模型内部组件贴标签，清理图像分类器，使其更稳健，以及寻找人工智能系统中的隐藏偏差。MAIA 旨在解释人工智能模型的内部机制，帮助我们了解其运作方式，并探究其安全性和偏差。