Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码
16 分钟前
端侧 AI 部署迎来里程碑突破,开源项目 Edge0 发布 Edge0-145B、Edge0-120B 两款模型及配套统一推理框架与部署工具,其中 Edge0-145B 是全球首个宣称可在个人电脑本地流畅运行的 1450 亿参数开源模型。团队从底层架构、训练、加载到调度四维度创新,通过稀疏专家架构、端侧协同训练、三层存储智能流水线、CPU 与 GPU 高效协同等技术,大幅降低运行门槛,在主流消费级 PC 上实现低内存占用、高生成速度与超长上下文支持,核心能力比肩云端前沿大模型,可离线支撑各类复杂本地工作流。Edge0 已形成覆盖多模态的完整模型矩阵,相关模型权重、部署工具均已开源,推动 AI 应用范式向端侧优先、云端辅助转变。
Edge0 重磅开源 145B 端侧模型,内存狂省 60% 还能满血写代码
ITBear 科技资讯/maomu.com/aibase
体验专业版特色功能,拓展更丰富、更全面的相关内容。