近年来，随着AI的发展，网络空间迎来新的安全风险，包括数据泄露、技术滥用等。因此，建立AI安全风险管理体系，具有划时代的重要性。为强化“AI+安全”的实际落地应用，中国电信多角度发力，努力在AI时代当好网络安全的守护者。
如何平衡AI业内的“攻守道”
AI 在现代社会中具有多方面落地应用的需求，既能在主动型应用领域发挥作用，也能在服务型应用领域提供支持，反映了AI进可攻、退可守的双属性。
随着AI技术的迭代，网络“矛盾”对抗已进入新阶段。正如深信服副总裁、研发体系总经理梁景波所言，有攻击者已经开始利用大模型技术来提升攻击能力，例如通过大模型生成的高对抗样本能够绕过现有安全设备。另一方面，AI技术也被用于安全运营，帮助提升运营效率和响应速度。
业内专家普遍认为，应尽快发挥AI赋能网络安全的积极作用，让稳固的“盾”抵御尖锐的“茅”。
加快推进人工智能安全治理
在日前举办的世界人工智能大会暨人工智能全球治理高级别会议（WAIC 2024）上，中国科学院院士姚期智表示，随着 AI 能力的出现，数据和网络安全的困难放大了 100 倍。
面对人工智能时代新的网络安全态势，各方都在呼吁提高对网络安全态势的重视水平，强化体系化安全能力建设。
国内政策方面，2023年8月实施的《生成式人工智能服务管理暂行办法》标志着我国在生成式大模型领域的立法领先地位。2023年10月，我国还提出《全球人工智能治理倡议》，旨在加强国际合作，推动建立公平、公正的国际治理体系。2024年7月4日，上海向全球发布了《人工智能全球治理上海宣言》，充分反映了对人工智能安全治理方面的诉求。
从国际角度看，近年来，已形成了各国政府主导、国际组织积极推进、科技企业协同治理的多方参与格局。联合国秘书长古特雷斯在出席联合国安理会人工智能与安全问题高级别公开会上就呼吁，管控人工智能技术风险，并成立新的联合国机构强化人工智能全球治理。
中国电信强化“AI+安全”应用
中国电信董事长柯瑞文近日在中国电信星辰人工智能生态论坛上提到，中国电信将联合多方共同制定产业规则、制度和技术标准，共同应对人工智能领域深度伪造、伦理安全、数字鸿沟等风险和不足。
纵观中国电信在强化“AI+安全”应用方面的努力，主要体现在以下几个方面。
首先，中国电信构建了四级算力布局体系，总智算规模达到16EFLOPS，这一强大的计算能力为各种AI应用提供了坚实的基础。
其次，中国电信还研发了星河AI平台，依托四级算力，在20省部署核心算法，算法日均调用量达3.3亿次。这一平台不仅能够为用户提供智能化的服务，还能够通过算法的优化和升级，不断提升服务的质量和效率。
此外，中国电信发布了见微安全大模型2.0等产品，专注于数据安全和人工智能安全，其通过深度嵌入实际的安全运营流程，增加了运营数据的积累，并扩展了场景应用驱动的采集源和RAG数据，为客户提供高质量的安全服务支持。
在未来，随着人工智能技术的不断发展和应用场景的不断拓展，中国电信将继续加大在“AI+安全”领域的投入和创新，为用户提供更加优质、安全的服务体验。
