蚂蚁开源万亿参数强化学习高性能权重交换框架 Awex

蚂蚁集团今日宣布开源万亿参数强化学习高性能权重交换框架 Awex。今年 10 月，该集团已开源两款万亿参数旗舰模型 Ling-1T 和 Ring-1T，其中 Ring-1T 基于 Awex，可在数千卡 GPU 集群上 5-10 秒内完成万亿参数级别的权重同步。