近日,中国移动全球合作伙伴大会上,中兴通讯展示了AiCube训推一体机,旨在为运营商和行业用户提供全栈智算解决方案,为企业数字化转型赋智提效。
2023年是AI大模型全面爆发的元年,大模型技术更新迭代加速,产业需求爆发。大模型在实际应用落地过程中,存在着研发周期长、产业入局门槛高,场景复杂等一系列挑战。基于此背景,中兴通讯推出了AiCube训推一体机,为运营商和行业用户提供一站式智算服务,开箱即用。
中兴通讯AiCube训推一体机由硬件平台,基础设施软件和AI平台软件组成。硬件平台GPU训推服务器能够适配多厂家多型号CPU/GPU,算力按需选择;多元融合存储能够为大模型训练提供高速并行文件存储服务;无损网络支持RoCE及IB组网,适应差异化网络需求。基础设施软件可实现训推资源统一管理,达到算力按需分配,动态调整,资源复用的目的。AI平台软件为运营商和企业用户提供数据管理,模型开发,模型训练,模型优化,模型评估,模型推理,应用统计等MLOps工具,覆盖训推全生命周期,方便用户使用,提升效率;训练数据,训练过程/结果可视化,让数据一目了然;模型仓库预置优选商业模型,兼容主流开源大模型,供用户灵活选择,降低大模型开发门槛,便于应用快速上线。
除此之外,中兴通讯还可以为用户提供大模型代训,精调以及大模型应用系统集成等客户化定制服务,满足差异化客户需求。
作为全栈智算解决方案提供商,中兴通讯将与运营商和合作伙伴紧密合作,持续推动算力优化升级,丰富模型应用,共同构建智算新生态,迎接智算新未来,为数字经济的发展注入新的动力。