广发证券:HBM高带宽优势成为AI大模型训练推理关键 GDDR具备性价比优势 广发证券:HBM高带宽优势成为AI大模型训练推理关键 GDDR具备性价比优势
admin
2024-04-24 13:10:45
0

智通财经APP获悉,广发证券发布研报指出,GDDR是专为图形处理应用设计的高速内存技术,搭配GPU用于图形处理、数据中心加速和AI等需要高带宽数据处理的场景。HBM是一种新型内存,得益于堆叠结构和垂直TSV互连,HBM具有更高的传输带宽、更高的存储密度、更低的功耗以及更小的尺寸,高带宽优势对大模型训练和推理的效率提升至关重要。近年来,大部分高端数据中心GPU和ASIC均使用HBM作为内存方案,GDDR在推理等场景中具备性价比优势。未来,HBM技术持续向更高带宽、更大容量发展,12Hi-16Hi HBM4有望2026年进入量产。

广发证券主要观点如下:

AI存储路线图:更大容量、更大带宽、更低功耗

随着人工智能的快速发展,大模型的参数量指数级增长,不仅推升了处理器的算力需求,同时也对与处理器匹配的内存系统提出了更高的要求。一方面,大量模型数据的传输要求更大的内存带宽,以缓解“内存墙”问题,提升HPC系统计算效率;另一方面,内存系统的容量需要大幅拓展,以存储千亿参数乃至更大规模的大模型。

如何理解内存系统层级及关键参数?

对于单个乃至多个处理器组成的系统而言,内存系统自下而上可以分为单元、阵列、die、封装、系统几个层级。根据处理器设计和应用的不同,所配置的内存类型、规格选择和配置数量也有所不同,需要和处理器总线宽度、时钟频率等参数相匹配。内存最重要的性能参数是容量、带宽和延迟,同时还需要考虑能耗和性价比。不同类型的DRAM各有优势,在设计处理器系统架构的时候需要针对不同的应用,选择合适的内存系统设计。

DDR+LPDDR路线图:面向CPU,构建高效大容量内存系统

DDR是最传统、最主流的DRAM类型。广泛用于PC、服务器、HPC等领域。目前,DDR5是最新一代DDR标准,提供更高的速度、更高的效率和更大的容量。LPDDR正在成为数据中心CPU的新选择,其原因是需要在大规模AI和HPC工作负载的带宽、能效、容量和成本之间取得最佳平衡。

广发证券指出,随着前端先进制造技术接近物理极限,DRAM芯片本身的性能提升越来越难,从内存模组和系统架构层面进行性能提升成为新的方向。MCRDIMM/MRDIMM允许并行访问同一个DIMM中的两个阵列,从而大幅提升DIMM模组的容量和带宽。CXL是一种高速互连技术,提供处理器与专用加速器、高性能存储系统之间的高效、高速、低延时接口,以满足资源共享、内存池化和高效运算调度的需求。

风险提示:半导体行业周期性波动风险;人工智能行业发展不及预期风险;新技术进展不及预期风险。

相关内容

热门资讯

地缘局势风险难稳、金价震荡调整... 上交易日周四(2月19日):国际黄金震荡收涨,其日内受到美伊紧张局势持续,获得反弹动力,但近日美元指...
逆周期调节推动A股行稳致远 (来源:经济日报) 转自:经济日报 高频数据显示,沪深北交易所调整融资保证金比例以来,融资融券市场交...
奥尔特曼:AI确实会影响就业,... 来源:市场资讯 (来源:IT之家) IT之家 2 月 19 日消息,OpenAI 首席执行官萨姆 ·...
全球第四大车企股价大跌,业绩突... 又到了一年一度各家车企公布成绩单的时候,就在这个节骨眼上,全球第四大车企Stellantis业绩变脸...
KKR合伙人兼大中华区私募股权... 岁序更新,新春将近。时间的刻度在前移,市场也在新的起点上重新校准方向。自2007年进入中国以来,KK...
全球第一,易主 当地时间2月19日(周四),美国三大股指全线收跌,道指跌0.54%,标普500指数跌0.28%,纳指...
再惠 Zaihui,在港交所递... 来自上海普陀区的再惠(上海)网络科技有限公司的开曼控股公司Zaihui Inc.(以下简称再惠),于...
春晚机器人刷屏背后!谁是最大赢... 除夕夜,当蔡明身边的仿生机器人精准复刻出她那标志性的挑眉,当宇树的机器人在舞台上完成空中七周半回旋,...
【首都除夕 护卫健康】一碗饺子... 2026年除夕夜,北京朝阳医院总务处餐饮中心联合护理部、医务处、保卫处,常营、石景山院区医疗护理部及...
矿企舆情扰动,炒资源股从成本维... 近期,国内某头部矿企下属矿段发生安全事故,后续涉事企业多名管理人员被控制。企业公告称,涉事矿段过往年...
港股科网股大跌:百度、哔哩哔哩... 记者|杜宇 编辑|程鹏易启江校对|金冥羽 2月20日,港股迎来马年首个开市日。香港恒生指数早盘收跌0...
原创 日... 很多人可能不知道,波音787的起落架、F1赛车的铝合金车架,还有iPhone的钢材外壳,这些高端产品...
原创 买... 在置办房产这一人生大事中,许多过来人都会郑重提醒,尽量避开那些被普遍认为存在问题的楼层,尤其是三层、...
OpenAI有望拿到1000亿... 出品|虎嗅科技组 作者|苗正卿 题图|视觉中国 OpenAI正处于一个命运十字路口。 对OpenAI...
利空来袭!美股集体下跌!资产管... 【导读】美股面临多重利空 隔夜美股市场受担忧、私人信贷消息和中东局势等多重因素拖累。 多重消息令美股...
美联储降息路径分歧加剧 高息预... 美联储内部对降息路径出现巨大分歧。会议纪要显示,部分官员支持通胀回落后降息,但多数委员指出就业下行风...
歪马送酒才是美团2025即时零... 「酒精消费量或许在下降,但我们仍然渴望那种微醺的感觉」,只是喝酒的场景发生了转移,这是歪马被需要的大...
春晚机器人出圈,港股相关概念股... 来源:新浪港股 2月20日消息,港股机器人概念股集体走强,其中,越疆涨超19%,速腾聚创涨超10%,...
金荣中国:美国对伊朗动武风险预... 行情回顾: 国际黄金周四(2月19日)维持震荡走势,开盘价4998.09美元/盎司,最高价5022...
港股异动丨AI应用股集体走强,... 港股市场AI应用股集体走强,其中,海致科技集团涨15%、五一视界、MINIMAX-WP、智普涨超5%...