对话Arm高级副总裁:AI大模型带来“计算”新挑战 对话Arm高级副总裁:AI大模型带来“计算”新挑战
admin
2023-11-30 20:28:33
0

本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。



作者 | 云鹏
编辑 | 李水青

智东西11月29日报道,今天Arm在北京举办了年度技术大会,会后智东西与少数业内媒体一起与Arm高级副总裁兼基础设施事业部总经理Mohamed Awad等高管进行了面对面深度交流。

Awad在沟通会上首先对上午演讲中的重点信息进行了总结,他的一个观点令人印象深刻,在AI新时代,Arm要做的并不是打造一个“完美的架构”,而是为更多企业的创新提供一个更好的“平台”,厂商们基于Arm架构可以设计出更多出色的芯片产品,例如英伟达的GH200 Grace Hopper。



AI大模型是当下科技产业讨论中避不开的一个话题,Awad说,AI技术发展太快了,我们每次讨论的内容都可能不一样,在他看来,AI领域最大的挑战之一就是内存带宽,解决这样的挑战需要新的系统架构,提高内存一致性。系统架构的灵活性、强大的生态系统至关重要,这些都是满足AI大模型发展需求的关键。

目前,从最小的设备到最大的数据中心,AI将会无处不在,每个涉及计算的领域都需要更多算力、更多加速能力。对于Arm而言,这是巨大的机会。

最近智能手机、PC等产品都在向生成式AI靠拢,比如提出AI PC的概念,Arm作为底层芯片技术提供商,对此是如何思考和布局的?AI大模型会给移动芯片生态带来哪些变化?

对于智东西提出的这些问题,Awad给出了自己的看法,他提到,AI大模型的训练更多会发生在云端,而推理过程则会发生在各个节点,从端侧设备到云端。

从提升计算性能的角度来看,实现软硬件的紧密耦合是必须的,包括CPU、NPU、GPU,整个计算系统。系统中的各个器件都不是孤立的。

五年以前,在基础设施建设方面,厂商会购买预配置好的芯片,购置服务器,但如今云计算巨头都在自研芯片。

云巨头自研的目的并不只是为了降低成本,其最主要的目的是把每一颗芯片的性能、效能做到极致,根据自己的工作负载、围绕自己的数据中心进行个性化定制。正因为有这样的优化,他们才越来越不惧怕日益增长的数据处理需求,从而为“GPTs”时代做好准备。

在基础设施建设领域,Arm Neoverse计算子系统(CSS)的核心优势是可以提供“预集成”,比如配置64核芯片和互联模块的产品,亚马逊AWS对芯片物理层的配置做了一些改变,这些意味着需要做很多工作,例如I/O接口加速,而Arm的CSS已经将这些基础工作做完了。



对于Arm的合作伙伴来说,厂商有很多选择,比如选择开箱即用的方案,或者使用芯粒、离散IP等方案。

在沟通后的参观环节,我们看到基于Arm的云实例相比基于x86的云实例在性能和成本上都有比较明显的优势,在芯片EDA设计、视频编解码等应用场景中优势比较明显。



结语:构建AI时代的“基础设施”,生成式AI加速Arm生态成长

在交流中,我们能看到Arm对于自身在AI新时代的机遇和挑战都有比较清晰的认识,同时Arm给自己在产业中的定位似乎更倾向于底层平台提供方,类似AI时代的“基础设施”建设者,基于自身硬件、软件、生态层面的优势技术,赋能芯片厂商。

面向未来的AI大模型时代,例如高通、联发科等移动芯片厂商,微软、亚马逊等云巨头都在芯片领域有更多新的布局,生成式AI在移动芯片、服务器芯片市场也掀起了新的技术革新浪潮,Arm生态无疑会继续加速成长。

相关内容

热门资讯

胆固醇高且血压高用什么品牌药 血压偏高,血脂检查单上的低密度脂蛋白胆固醇亮了红灯,很多患者会问:“这两种病是不是得吃两种药?”其实...
四川国资·一周时讯丨2026年... 本期导读 李强在四川调研 李强主持召开国务院常务会议 国务院国资委召开中央企业法治工作会议 中铁八局...
亲人离世,微信QQ零钱怎么提取... 逝者资金继承操作页面。
XREAL递交招股书,但徐驰还... 在三个月前的CES2026梧桐夜话栏目上,作为嘉宾的徐驰表示:阻碍下一个iPhone时刻的最大因素是...
长江产业集团:楚天凤鸣科创种子... 近日,由湖北省楚天凤鸣科创种子基金出资设立、长江创业投资基金管理有限公司管理的新楚种子投资基金合伙企...
净利连降5年!中国联塑2025... 近日,中国联塑(02128.HK)发布2025年度全年业绩公告。2025年中国联塑收入243.15亿...
加码海外产能 长虹能源拟定增募... 中证报中证网讯(记者 吴科任)4月3日,长虹能源披露2026年度向特定对象发行股票募集说明书(草案)...
到2035年,我国一线城市房价... 最近这几天看看到好多很有意思的一个评论以及预测有专家说,中国的房价到2023年一线城市将会达到15万...
叫板华尔街之神!诺奖得主在谷歌... 新智元报道 编辑:元宇 【新智元导读】AlphaGo之父搞完围棋,居然偷偷去搞钱了?Hassabi...
每经品牌100指数稳守千点,成... 外部冲突继续掣肘市场风险偏好,上周A股震荡调整,主要股指均出现下跌,每经品牌100指数周跌1.24%...
外卖大战再被监管点名!巨头“掠... 作者:正商参阅 来源:正商参阅(ID:zhengshangcanyue) 最近一段时间,关于外卖大战...
二次冲击IPO,量化看穿资金意... 最近有一家功率半导体企业动作频频,时隔四年重启IPO辅导,此前还尝试过借壳港股公司登陆资本市场。这家...
关于淳厚基金股权变更后首季度经... 自2026年1月6日,公司股权变更获批,上海长宁国有资产经营投资有限公司正式成为控股股东以来,在新股...
原创 马... 阿里巴巴从创立到现在拥有如此辉煌的成就,不止依靠马云一人,同样离不开的还有合伙人的默默付出。 200...
原创 中... 超市里不是"外国进口"那种美国货,它们比那更隐蔽。它们顶着中文名字,在中国扎根了十几年甚至几十年,赚...
原创 人... 人民币单边升值的势头被暂时摁住了,从去年11月20日以来,人民币单边持续3个月贬值,离岸汇率从7.1...
苏州银行招标结果:苏州银行股份... 证券之星消息,根据天眼查APP-财产线索数据整理,苏州银行股份有限公司4月1日发布《苏州银行股份有限...
线下:见面,还是更值得信任 很多老人不喜欢网上购物,并不仅仅是因为他们学不会这种新的购物方式,而是他们觉得店就在那里,万一有事儿...
原创 房... 高房价的阴影笼罩着普通百姓的心头,高昂的售价与大众的收入水平之间存在着显著的鸿沟,使得购房梦想遥不可...
原创 金... 看着手机银行里金条账户的浮亏,张伟想起了2015年秋天。 那时周围所有人都在讨论美联储要降息,金价一...