“AI的运行面临三重存储压力。”东芯半导体市场销售部副总经理潘惠忠介绍,模型要“装得下”,当前主流AI大模型参数量从千亿级迈向万亿级,存储容量需求不断变大;数据要“喂得上”,AI推理过程中,GPU和NPU处理器的算力远超内存供数速度,计算单元大部分时间在等待数据,这是高带宽存储需求爆发的根本原因;从云端大模型到手机、汽车等端侧AI设备,对存储的需求也在持续增加。
“AI对存储的需求是立体的。”英韧科技创始人、董事长吴子宁表示,例如,存储原始数据集需要大容量、高性价比的解决方案;在数据清洗和精炼阶段,则面临复杂的混合读写和高频随机访问压力;到了模型训练和推理环节米兰体育最新登录网址,高并发、低延迟的KV Cache(键值缓存)又成为关键。此外,边缘计算的兴起,也对设备的小型化、功耗和性能提出了严苛挑战。
米兰体育最新登录网址在哪下载安装?米兰体育最新登录网址好用吗?
作者: 闻人秀琬 2026年06月04日 07:55
网友评论更多
899武晴栋h
影石创新(688775):收入大幅增长创新高 战略性加大投入换取长期健康发展
2026/06/04 推荐
6220仲广颖535
弦子的山海经|特朗普的“购物车”里,藏着美国离不开中国的真相
2026/06/03 推荐
885赫连昭康pl
我患渐冻症的这五年
2026/06/02 不推荐