


I系统已经把“高速存储容量”和“存储带宽”作为核心性能指标。 “AI的运行面临三重存储压力。”东芯半导体市场销售部副总经理潘惠忠介绍,模型要“装得下”,当前主流AI大模型参数量从千亿级迈向万亿级,存储容量需求不断变大;数据要“喂得上”,AI推理过程中,GPU和NPU处理器的算力远超内存供数速度,计算单元大部分时间在等待数据,这是高带宽存储需求爆发的根本原因;从云端大模型到手机、汽车等端侧AI设备
当前文章:http://fwy1o7.wenzhangtan.cn/53cezy/d2p138.html
发布时间:16:18:10