OpenAI 首席科学家回应 Astra 争议：链式思维监控仍是研究重点

OpenAI 首席科学家 Jakub Pachocki 称，当前前沿模型计算图深度与 GPT-4 相差不超两倍，OpenAI 一直致力于链式思维监控，该技术可观察模型对齐能力泛化情况，但此监控方式较为脆弱，强化它已成为 OpenAI 核心研究目标。他希望避免误导性报道引发模型「不可监控化」竞赛，同时提到 Astra 采用循环深度技术，部分推理可在模型内部完成，引发模型监控难度提升的担忧。