Claude 团队推出开源 LLM 思维可视化工具

Claude 团队开源了「电路追踪」工具，可帮助理解大模型的内部运作机制。该工具通过生成归因图可视化模型处理信息的路径，并允许用户干预节点激活值以验证假设。支持主流开源权重模型，提供交互式前端探索。研究展示了两阶推理和多语言电路的示例，验证了节点功能分工及模型决策逻辑。项目已在 GitHub 上获得广泛关注。