广发证券:HBM高带宽优势成为AI大模型训练推理关键 GDDR具备性价比优势 广发证券:HBM高带宽优势成为AI大模型训练推理关键 GDDR具备性价比优势
admin
2024-04-24 13:10:45
0

智通财经APP获悉,广发证券发布研报指出,GDDR是专为图形处理应用设计的高速内存技术,搭配GPU用于图形处理、数据中心加速和AI等需要高带宽数据处理的场景。HBM是一种新型内存,得益于堆叠结构和垂直TSV互连,HBM具有更高的传输带宽、更高的存储密度、更低的功耗以及更小的尺寸,高带宽优势对大模型训练和推理的效率提升至关重要。近年来,大部分高端数据中心GPU和ASIC均使用HBM作为内存方案,GDDR在推理等场景中具备性价比优势。未来,HBM技术持续向更高带宽、更大容量发展,12Hi-16Hi HBM4有望2026年进入量产。

广发证券主要观点如下:

AI存储路线图:更大容量、更大带宽、更低功耗

随着人工智能的快速发展,大模型的参数量指数级增长,不仅推升了处理器的算力需求,同时也对与处理器匹配的内存系统提出了更高的要求。一方面,大量模型数据的传输要求更大的内存带宽,以缓解“内存墙”问题,提升HPC系统计算效率;另一方面,内存系统的容量需要大幅拓展,以存储千亿参数乃至更大规模的大模型。

如何理解内存系统层级及关键参数?

对于单个乃至多个处理器组成的系统而言,内存系统自下而上可以分为单元、阵列、die、封装、系统几个层级。根据处理器设计和应用的不同,所配置的内存类型、规格选择和配置数量也有所不同,需要和处理器总线宽度、时钟频率等参数相匹配。内存最重要的性能参数是容量、带宽和延迟,同时还需要考虑能耗和性价比。不同类型的DRAM各有优势,在设计处理器系统架构的时候需要针对不同的应用,选择合适的内存系统设计。

DDR+LPDDR路线图:面向CPU,构建高效大容量内存系统

DDR是最传统、最主流的DRAM类型。广泛用于PC、服务器、HPC等领域。目前,DDR5是最新一代DDR标准,提供更高的速度、更高的效率和更大的容量。LPDDR正在成为数据中心CPU的新选择,其原因是需要在大规模AI和HPC工作负载的带宽、能效、容量和成本之间取得最佳平衡。

广发证券指出,随着前端先进制造技术接近物理极限,DRAM芯片本身的性能提升越来越难,从内存模组和系统架构层面进行性能提升成为新的方向。MCRDIMM/MRDIMM允许并行访问同一个DIMM中的两个阵列,从而大幅提升DIMM模组的容量和带宽。CXL是一种高速互连技术,提供处理器与专用加速器、高性能存储系统之间的高效、高速、低延时接口,以满足资源共享、内存池化和高效运算调度的需求。

风险提示:半导体行业周期性波动风险;人工智能行业发展不及预期风险;新技术进展不及预期风险。

相关内容

热门资讯

原创 中... 中国给非洲免关税,人家转头把矿锁上了,还张嘴要技术。 很多人第一反应:白眼狼,吃里扒外。 骂得很痛快...
智己一昆明经销商“经营异常”:... 红星资本局7月11日消息,近日,多位云南昆明的智己汽车车主发帖称,当地的智己经销商“暴雷”,门店关闭...
蔡璐(麦天儿):24年穿越五次... "技术总在迭代,但把故事讲好这件事,24年没怎么变过。" 受访人:蔡璐(笔名麦天儿),现就职于某...
期货交易中哪些信号表明趋势即将... 在期货交易里,准确判断趋势是否即将反转至关重要,这直接关系到交易策略的调整和投资收益。下面为大家介绍...
暴力反弹20%!行业拐点将至? 过去十多天,全国生猪市场经历了一轮堪称暴力的反弹。 据Mysteel数据,全国生猪(外三元)均价从6...
知情人曝具俊晔未放弃继承大S遗... 搜狐娱乐讯 据台媒,据知情人士爆料,具俊晔未放弃继承大S遗产,并已委托律师,预计于下周与大S儿女的代...
千亿算力项目烂尾!美国AI遭水... 今年夏天两件极具讽刺的事刷屏全球。英国37.7℃高温,一台专门演算全球变暖模型的国家级AI超算,直接...
戒烟限酒减少乳腺癌与心房颤动风... 引子:一个社区里的场景 在城市的社区活动中心,55岁以上的李阿姨坐在桌边聊天,手边是一杯红酒的半杯,...
基金定投为何变化运作机制更稳妥... 在基金投资领域,基金定投是一种颇受投资者青睐的方式。而适时变化运作机制,能让基金定投更加稳妥,这背后...
聚焦智慧医疗,全国智慧医疗学术... 7月10日至11日,由中国老年医学学会、中国老年医学学会智慧医疗技术与管理分会主办,中南大学湘雅医院...
持仓披露怎样估算运作机制更合理... 在基金投资中,对基金持仓披露进行合理估算运作机制是投资者和市场参与者关注的重点。合理的估算机制有助于...
IPO前,普生医疗创始人和大股... 文丨詹詹编辑丨杜海 来源丨新商悟 (本文约为 2200字) 2026年6月22日,珠海普生医疗科技股...
五年五战全败:老乡鸡的IPO长... 最近,老乡鸡五年内五次冲击IPO败北的消息冲上热搜,这绝不是运气差,或者资本市场不懂中式快餐,这其实...
风险等级怎样估算运作机制需重视... 在基金投资中,准确估算风险等级并重视其运作机制是非常关键的。基金的风险等级估算涉及到多个方面,这对于...
白宫“抗华”稀土计划遭重挫:被... 曾被视为美国对抗中国稀土“王牌”ReElement,已正式停止向五角大楼寻求一笔高达8000万美元的...
原创 印... 成本暴涨200%,配额砍掉七成,21天拆空整条产线海运回国——2026年上半年,中资企业在印尼镍产业...
管理层也不好干了!大厂集体向中... 图片来源:Pixabay “躲过了630,没想到还有720。”在美团(03690.HK)工作的王静向...
中国更多AI产品进入大众消费视... 7月2日,在北京隆福寺街区的隆福大厦,工作人员在数字“潮”市介绍展出的几款互动数字产品。新华社记者 ...
百度AI亮相WAIC 2026... AI发展正在从模型阶段纵深走向应用阶段,智能体加速成为AI落地的主流形态,一个由智能体应用爆发推动的...
艾问阎焱(6)| 雷军当年找过... 阎焱在《艾问人物》透露,二十多年前金山时期雷军就找过他融资,当时是杨东(Daniel)接待的,没投。...