东方通在 2024 大模型生态创新发展大会上推出了大模型中间件 TongLMM，该中间件具备传统中间件的基础支撑优势，能够在 AI 系统架构下利用向量数据库增加外部知识库，并在中文嵌入方面进行优化。TongLMM 可提供大模型应用编排功能，支持私有化模型部署，并融入多种现有组件，解决大模型落地过程中的数据集成、应用集成等问题。