8月27日,华为在数据存储AI SSD发布会上推出专为AI工作负载优化的AI SSD。华为公司副总裁周跃峰指出,AI时代存储介质挑战重重,华为此举意在打破“两堵墙”,解决行业落地难题,改变AI存储器市场格局,并推动国内AI产业链协同升级。
AI时代存储介质面临挑战
华为公司副总裁、数据存储线总裁周跃峰表示,“AI时代是数据的黄金时代”。随着AI大模型走进生产系统,数据规模呈指数级增长,数据效率影响企业生产力效能,可靠存储成为企业资产管理基本要求。然而,AI时代的数据采集、模型训练与推理,均对存储介质提出挑战,存在数据采集存不下、模型训练训不动、模型推理推得慢等问题。例如,训练67.1亿个参数的AI大模型,需采集3.5PB的数据,且AI大模型参数每两年增长750倍,对SSD容量提出更大挑战。
华为AI SSD欲破“两堵墙”
华为发布的AI SSD,意在打破“两堵墙”。一是向上打破内存墙,HBM和DRAM速度快但容量小,常存不下大模型参数和历史KV Cache,导致大模型无法运行或失忆,而AI SSD性能盘可应对此问题,还能与HBM智能协同提升系统整体效率;二是向下打破容量墙,机械硬盘虽容量大,但占空间、速度慢、功耗高,AI SSD容量盘最大单盘可提供245TB,容量密度比机械硬盘提升13倍,且每TB仅消耗0.1W,性价比更高。
或改变AI存储器市场格局
华为意图通过AI SSD在AI存储器领域树立新标杆,改变HBM当前在AI存储器领域一枝独秀的地位。HBM是GPU和AI加速器关键组件,能利用AI加速器算力,但牺牲容量换取带宽和能效,导致现有算力卡上HBM容量有限,如英伟达H20芯片仅有96GB的HBM。未来,AI存储架构将形成HBM与AI SSD智能协同格局,通过存储层级优化和智能数据调度,形成三层缓存架构,实现性能与成本最佳平衡。例如,训推一体机在算力卡数量有限时,可使用AI SSD性能盘与HBM智能协同运行大模型和长序列。
推动国内AI产业链协同升级
华为在发布AI SSD之后,将与国内训推一体机厂商合作,推动国内AI产业链协同升级,构建完整生态,为我国企业发展AI提供更高效、经济的解决方案。
以上文章由 AI 总结生成