IBM 的 ModelMesh 走向开源,使开发者能够大规模部署 AI 模型

通过其专有的 ModelMesh 模型服务管理层为 Watson 产品(如 Watson Assistant、Watson Natural Language Understanding 和 Watson Discovery)解决了这个难题 ... ModelMesh 使开发者能够在 Kubernetes 之上以「极端规模」部署 AI 模型 ... ModelMesh 运行时适配器-在每个模型服务 Pod 中运行的容器,充当 ModelMesh 和第三方模型服务器容器之间的中介, 它还包含了负责从存储中检索模型的「拉动器」逻辑。