腾讯破解万亿参数大模型训练难题

腾讯的 Angel 机器学习平台荣获中国电子学会 2023 科学技术奖，其技术达到国际先进水平，特别是在高效缓存调度与管理技术、自适应预采样与图结构搜索技术方面处于国际领先地位。该平台解决了大模型训练中的通信开销、参数存储等难题，大幅提升了训练效率和性能。腾讯 Angel 平台自 2015 年诞生以来，不断进化，支持了腾讯混元大模型的开发，该模型拥有超过 2 万亿 tokens，具备强大的中文理解、创作和执行能力。此外，Angel 平台还支持了腾讯广告、会议、视频等多个产品和场景，推动了行业的数字化和智能化发展。