摩尔线程开源 vLLM-MUSA，通过 MUSA 软件栈对 CUDA 接口兼容2024 年 11 月 5 日摩尔线程官方发布消息称，已上线大语言模型高速推理框架 vLLM 的 MUSA 移植版本，并提供基于摩尔线程全功能 GPU 的开源项目 MUSA 移植范例。vLLM 是一个广泛应用于各种大语言模型的高效易用推理和服务框架，现通过 MUSA 软件栈对 CUDA 软件栈接口兼容，提升应用移植效率，缩短开发周期。开发者可基于摩尔线程 GPU 和 vLLM-MUSA 进行二次开发和升级。加速替代 CUDA！摩尔线程开源 vLLM-MUSA 加速国产 GPU AI凤凰科技 / 快科技摩尔线程推出 vLLM-MUSA 开源项目，助力国产 GPU 加速 AI，实现 CUDA 替代！ITBear 科技资讯摩尔线程开源 vLLM-MUSA，助力国产 GPU 加速替代 CUDA，推动 AI 发展新篇章！ITBear 科技资讯展开全部报道专业版功能登录体验专业版特色功能，拓展更丰富、更全面的相关内容。
Readhub
展开全部报道
专业版功能