上海团队发布并开源记忆原生大模型 MemT-1.0

来自上海的记忆张量团队正式发布并开源记忆原生模型 MemT-1.0 系列，该系列将可持续存在、可更新的内部记忆纳入模型计算，可直接调用历史信息与任务经验，无需再次提供原始历史文本。此次开源包含参数规模分别为 288B 与 36B 的 MemT-1.0-Flash 与 MemT-1.0-Nano 两款模型，团队在选定的 Transformer 模块中引入原生记忆模块，让原有注意力与记忆注意力并行运行，使记忆成为模型前向传播的一部分。