“AI的运行面临三重存储压力。”东芯半导体市场销售部副总经理潘惠忠介绍，模型要“装得下”，当前主流AI大模型参数量从千亿级迈向万亿级，存储容量需求不断变大；数据要“喂得上”，AI推理过程中，GPU和NPU处理器的算力远超内存供数速度，计算单元大部分时间在等待数据，这是高带宽存储需求爆发的根本原因；从云端大模型到手机、汽车等端侧AI设备，对存储的需求也在持续增加。
“AI对存储的需求是立体的。”英韧科技创始人、董事长吴子宁表示，例如，存储原始数据集需要大容量、高性价比的解决方案；在数据清洗和精炼阶段，则面临复杂的混合读写和高频随机访问压力；到了模型训练和推理环节，高并发、低延迟的KV Cache(键值缓存)又成为关键。此外，边缘计算的兴起，也对设备的小型化、功耗和性能提出了严苛挑战。
台湾东森集团官网首页在哪下载安装？台湾东森集团官网首页好用吗？
作者: 公羊倩云 2026年06月05日 04:53
网友评论更多
998施环贝l
花开花放花世界
2026/06/05 推荐
2714谈裕雁721
微信转账，有新变化
2026/06/04 推荐
506吉辉璐by
联合国《不扩散核武器条约》大会 - April 28, 2026
2026/06/03 不推荐