9月19日，在华为全联接大会2025上，华为常务董事、云计算CEO张平安宣布CloudMatrix384 AI Token服务全面上线，展示了华为云昇腾AI云服务的重磅升级成果，为千行万业智能化升级注入强大动力，推动AI技术深度应用与发展。
昇腾AI云服务升级的关键举措
依托华为最新AI服务器规划，华为云昇腾AI云服务实现多方面升级。一方面，CloudMatrix云上超节点规格将从384卡升级到未来的8192卡，实现50 - 100万卡的超大集群，提供更澎湃的AI算力。另一方面，华为云首创弹性内存存储服务EMS，打破传统AI算力与显存绑定限制，以存补算，提升大模型多轮对话的性能。
CloudMatrix384 AI Token服务的优势与应用
张平安指出，AI的Token服务可有效屏蔽复杂底层技术实现，是最高效的推理算力使用方式。华为云CloudMatrix384 AI Token服务全面上线，通过创新架构将资源全面池化，解耦不同任务，将串行任务变为分布式并行任务，极大提升系统推理性能。在不同时延要求推理场景中，其平均单卡推理性能是中国特供H20的3 - 4倍。目前已为Pangu、DeepSeek、Qwen等业界主流大模型提供服务，如360纳米AI依托该服务成功处理每天上千万的内容生成请求，中科院“磐石·科学基础大模型”平台基于此超节点实现更高模型训练精度，支持100 +专业院所领域场景。
华为云数据中心的优化与服务模式
随着AI算力需求暴增，华为云在贵州、内蒙古、安徽部署大规模、领先的全液冷AI数据中心，将液冷年均PUE降低至1.1，实现单机柜80千瓦散热及AI智能运维。企业无需改造或新建传统数据中心，通过一对光纤就能获取华为云上高效的AI算力，还可获得全栈专属AI云服务，在保障数据安全的同时享用AI基础设施。
昇腾AI云服务升级的显著成效
华为云昇腾AI云服务的升级成效显著，昇腾AI云服务的客户数量从去年的321家增长到今年的1805家，华为云AI总算力规模相比去年同期增长了268%。
以上文章由 AI 总结生成
