龙辉优配平台范式智能联合睿思智联推出：开源一站式生产级 AI 部署平台 “模域ModelSphere”

10月16日，北京- 范式智能技术集团有限公司（“范式” 或“集团”，股票代码：6682.HK）联合北京睿思智联科技有限公司（“睿思智联”）宣布，一站式生产级 AI 部署平台“模域” (ModelSphere) 正式上线。该平台面向企业用户免费开源，将算力管理、模型部署和运行优化整合在统一平台，帮助企业降低部署与运维门槛，更高效地将算力转化为安全、稳定、可用于实际业务的AI服务。平台已在 GitHub 开源。

随着大模型进入规模化商业阶段，企业在算力统筹、模型部署与效能优化中，普遍面临资源利用率低、芯片生态割裂、部署门槛高、生产环境调优难等问题。模域致力于将这些工作整合为统一的部署与管理流程，减少企业在底层系统适配、资源调度和日常运维上的重复投入，让企业无需深度掌握驱动编译与硬件适配等复杂工作，即可将各类开源大模型嵌入核心业务流程，让技术团队更专注应用开发和业务需求。

模域具备四大核心优势：

1. 简化部署，保障模型服务稳定运行：模域提供图形化操作面板和预置部署能力，减少环境配置代码的偏写，帮助开发者快速大模型搭建推理服务，并简化不同芯片集群的。平台内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存、高可用负载均衡及服务断流自动续写等企业级能力，支持模型服务在生产环境中稳定运行。

2. 持续自动化调优，提高模型运行效率：平台内置 AutoTune 智能模型排期策略，以及结合硬件加速能力的自适应负载均衡调度，优化模型处理请求的能力和首次响应速度，系统极限吞吐效率较基准大幅提升约 285%，性能跃升至原来4倍，真正实现了算力的“满血”释放。

3. 统一管理多种芯片，减少重复适配：平台融合 EngineX 推理引擎，支持并针对多种算力芯片进行深度调优，可统一和混合调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力资源，用户无需为不同芯片重写底层逻辑代码。

4. 持续优化适配主流模型，加快部署应用：模域团队持续跟进开源社区迭代，已适配优化了 DeepSeek-V4/V4-Flash、Qwen、Kimi、MiniMax、GLM 等主流模型，支持在模型发布后快速部署并且性能调优至生产环境，帮助企业将新模型落地实际业务。

在技术层面上，模域与 vLLM、SGLang 等推理引擎互相配合：推理引擎负责提升单台服务器的计算效率，模域则负责集群架构级纳管和优化，包括负载和缓存感知的请求路由、统一的 KV 缓存池、基于服务质量的自动化扩缩容、服务断流自动续写、基于线上数据的自动化性能调优、运行监控及服务管理等，保证生产环境下系统的高性能和高可用。

模域采用宽松的 Apache 2.0 协议全面开源，将大模型部署与优化的工程能力向更多企业和开发者开放，同时汇聚产业力量，持续完善对不同芯片和模型的支持，减少硬件适配障碍，降低大模型应用门槛，帮助企业用好已有算力，高效释放异构算力的商业潜能。

下载“北京日报”客户端阅读体验更佳哦

扫描二维码下载手机客户端

-->

分享到

发布评论文明上网理性发言，请遵守评论服务协议

未登录

0/200发布发布全部评论

0条

点击加载更多

欢迎下载“北京日报”客户端发表评论

相关阅读热门报道换一批推荐阅读换一批精彩视频换一批猜你喜欢滚动企业北京国内国际北晚社会文娱体坛旅游文史阅读深度产经调查互联网美食北晚健康消费北晚行业北晚网摘网站地图新闻评论深度理论视频图库悦读互联网财经文化体坛科教消费矩阵网摘东城区政府网站西城区政府网站朝阳区政府网站海淀区政府网站丰台区政府网站石景山区政府网站门头沟区政府网站房山区政府网站通州区政府网站顺义区政府网站大兴区政府网站昌平区政府网站平谷区政府网站怀柔区政府网站密云区政府网站延庆区政府网站市人大市政协市监察委市高级人民法院市人民检察院市政府办公厅市发展改革委市教委市科委市经济信息化局市民族宗教委市公安局市民政局市司法局市财政局市人力社保局市规划自然资源委市生态资源局市住房城乡建设委市城市管理委市交通委市水务局市农业农村局市商务局市文化和旅游局市卫生健康委市退役军人事务局市应急管理局市市场监督管理局市审计局市政府外办市国资委市广播电视局市文物局市体育局市统计局市园林绿化局市地方金融监管局市人防办市信访办市知识产权局市医保局京报媒体矩阵北京日报北京晚报北京青年报北京商报音乐周报新闻与写作北京日报客户端长安街知事艺绽北晚在线北京深读空间