ScienceVision 评测:前沿大模型三维科学理解能力表现不佳
1 小时前
此前 GPT-6 Astra 生成 CAD 的视频引发热议,其 BenchCAD 跑分达 95.9%,不少人讨论 CAD 工程师的就业问题,但专业工程师指出这类生成结果看似逼真却未必符合工程实际要求。近期推出的跨学科视觉三维理解与推理基准 ScienceVision,覆盖生物、化学、医学影像、建筑、机械 CAD5 个科学领域共 22 个子领域,包含 250 道基于真实三维数据构建的题目,由 66 位领域专家累计投入近 500 小时打造,采用确定性规则核验答案,无需语言模型充当裁判,还可直接作为强化学习环境。该基准模拟各领域专家真实的 3D 观察操作场景,要求模型自主操作三维对象完成观察、测量与分析,以此检验 AI 的三维科学观察与理解能力。当前 12 款前沿大模型参与评测,得分最高的 GPT-6-Astra 搭配 Codex 仅拿到 0.53 分,没有模型能在五个学科同时领先,即便配备交互检视工具,多数模型表现提升也十分有限,暴露出当前前沿大模型在真实科学任务的三维观察与推理能力上仍存在明显短板。这一基准首次在统一框架下衡量出 AI 三维科学观察的能力边界,填补了体系化科学 3D 推理评测的空白。
体验专业版特色功能,拓展更丰富、更全面的相关内容。