Readhub

腾讯微信 AI 团队发布新型扩散语言模型框架 WeDLM，旨在突破传统大模型并行推理效率限制。它通过拓扑重排技术，将扩散模型与标准因果注意力机制结合，兼容 KV 缓存技术，解决传统扩散模型推理速度限制问题，提升推理速度并保证生成质量。实际测试中，WeDLM-8B 在 GSM8K 等任务中速度优势显著，在多个基准测试中生成质量相当或更优。其适用于智能客服等多场景，有望降低计算成本、提高用户体验，推动 AI 技术广泛应用。