直击巴展:电信携手华为发布基于昇腾的星河AI统一推理框架

2023年2月28日,世界移动通信大会(MWC 2023)期间,中国电信&华为2023云网核心能力创新成果全球发布会上,中国电信携手华为发布星河AI统一推理框架。

星河AI统一推理框架,专注AI算法开发和性能提升,实现底层异构算力协同,带来效率和性能大幅提升。

随着人工智能产业不断发展壮大,多样化算力需求场景不断涌现,AI在行业逐步渗透,AI处理器层出不穷,包括擅长图形运算的GPU、专注于更高效人工智能神经网络处理的NPU等。实际业务应用过程中,底层的AI异构计算平台多,API接口不统一,呈现烟囱式的应用开发,导致AI应用开发门槛高、代码维护成本高。

中国电信科技创新部副总经理 罗锐

“通过星河AI统一推理框架,根据不同硬件底层接口,向上将推理业务流抽象封装出业务功能模块接口,开发者只需要关注业务逻辑,无需关注底层硬件接口。”中国电信科技创新部副总经理罗锐在发布会上这样说到。

中国电信数字智能科技分公司AI研发中心高性能计算技术总监 朱庆军

从底层技术实现维度,中国电信数字智能科技分公司AI研发中心高性能计算技术总监朱庆军给出专业的答复:“星河AI统一推理框架致力于提升AI开发效率及性能提升,上层基于电信AI业务场景开发的技术沉淀,下层依托昇腾推理开发使能套件,快速实现AI应用开发,支持云边协同,业务部署达成小时级一键部署“。当前基于该平台已完成90%以上自研CV应用的开发,超过1000+AI算法完成适配迁移,助力500多个产业数字化项目落地。

在AI开发过程中,通过软硬件协同优化提升整体业务流性能。主要包括基于昇腾的视图解析硬件加速方案、模型算子加速库等,结合电信在业务流的优化处理方案,端到端提升AI应用性能。其中,CV类业务流性能提升约1.4~2倍,单纯视频解码场景性能提升2~3倍,图片解码场景性能提升1.5~2倍。

在实际应用中,通过星河AI统一推理框架,上层AI应用一处开发,云边多硬件平台部署,通过统一业务层接口,快速汇聚AI生态,推动多场景方案落地。

为应对AI长尾场景,中国电信联合华为及业界伙伴,依托星河AI统一推理框架,发挥中国电信算网资源优势,协同昇腾AI生态成果,快速孵化更多场景方案,吸引更多伙伴入驻,构筑面向未来自演进的电信AI生态。当前已有100+个生态伙伴,5000+算法,联合孵化出智慧城市、社会治理、明厨亮灶等10+场景化综合信息解决方案,支撑500多个产业数字化项目落地。

面向未来,依托星河AI统一推理框架,中国电信携手华为及业界伙伴,将持续丰富AI生态体系,不断升级星河AI能力,共同为千行百业提供融云、安全、AI等的数字化产品和服务。


微信扫描分享本文到朋友圈
扫码关注5G通信官方公众号,免费领取以下5G精品资料
  • 1、回复“YD5GAI”免费领取《中国移动:5G网络AI应用典型场景技术解决方案白皮书
  • 2、回复“5G6G”免费领取《5G_6G毫米波测试技术白皮书-2022_03-21
  • 3、回复“YD6G”免费领取《中国移动:6G至简无线接入网白皮书
  • 4、回复“LTBPS”免费领取《《中国联通5G终端白皮书》
  • 5、回复“ZGDX”免费领取《中国电信5GNTN技术白皮书
  • 6、回复“TXSB”免费领取《通信设备安装工程施工工艺图解
  • 7、回复“YDSL”免费领取《中国移动算力并网白皮书
  • 8、回复“5GX3”免费领取《R1623501-g605G的系统架构1
  • 本周热点本月热点

     

      最热通信招聘

      最新招聘信息

    最新技术文章

    最新论坛贴子