从数学理论「解」出语言模型 ——AGI 理论核心原语首次工程验证:BriLLM-MetaPred
20 分钟前
上海交通大学赵海教授团队推出 BriLLM-MetaPred,这是首个从严格定义的 AGI 数学理论中推导得出、而非人工拼装设计的机器学习原语 MetaPred 的语言建模可运行实例。该原语与神经科学领域的预测编码 / 自由能原理高度同构,核心特征为单一动力学状态同时承载表示与预测,依托内生的自我测量不动点信号实现自监督,训练与推理完全耦合。其仅用约十分之一于 GPT-1 的规模就达到同级别基线性能,当前最大验证尺寸达 1.5B 与 GPT-2 相当,是首个在开放域语言建模任务上完成工程落地的纯理论推导 AGI 路线,为解决主流大模型的灾难性遗忘、递归自我改进前提缺失、规模膨胀等结构性痛点提供了全新范式基底。
体验专业版特色功能,拓展更丰富、更全面的相关内容。