微软推出 Copilot 混合推理架构：云端本地模型可自动切换 本月底上线

微软宣布 GitHub Copilot 将于本月底前支持本地 AI 模型推理，开发者可在云端模型与设备端模型之间自动或手动切换。目前 GitHub Copilot 依赖云端托管模型，由协调器根据性能、成本与准确性路由请求。扩展后平台将支持自动编排或强制使用设备端模型两种模式，用户可在相关工具中设置偏好，还可指定本地模型的提供程序、模型或端点。微软同步推出 MAI Code 1.1 Flash 混合专家模型，经实测在相关设备上的多项性能表现显著提升，解码吞吐量表现优异。