对话Arm高级副总裁:AI大模型带来“计算”新挑战 对话Arm高级副总裁:AI大模型带来“计算”新挑战
admin
2023-11-30 20:28:33
0

本文系网易新闻•网易号特色内容激励计划签约账号【智东西】原创内容,未经账号授权,禁止随意转载。



作者 | 云鹏
编辑 | 李水青

智东西11月29日报道,今天Arm在北京举办了年度技术大会,会后智东西与少数业内媒体一起与Arm高级副总裁兼基础设施事业部总经理Mohamed Awad等高管进行了面对面深度交流。

Awad在沟通会上首先对上午演讲中的重点信息进行了总结,他的一个观点令人印象深刻,在AI新时代,Arm要做的并不是打造一个“完美的架构”,而是为更多企业的创新提供一个更好的“平台”,厂商们基于Arm架构可以设计出更多出色的芯片产品,例如英伟达的GH200 Grace Hopper。



AI大模型是当下科技产业讨论中避不开的一个话题,Awad说,AI技术发展太快了,我们每次讨论的内容都可能不一样,在他看来,AI领域最大的挑战之一就是内存带宽,解决这样的挑战需要新的系统架构,提高内存一致性。系统架构的灵活性、强大的生态系统至关重要,这些都是满足AI大模型发展需求的关键。

目前,从最小的设备到最大的数据中心,AI将会无处不在,每个涉及计算的领域都需要更多算力、更多加速能力。对于Arm而言,这是巨大的机会。

最近智能手机、PC等产品都在向生成式AI靠拢,比如提出AI PC的概念,Arm作为底层芯片技术提供商,对此是如何思考和布局的?AI大模型会给移动芯片生态带来哪些变化?

对于智东西提出的这些问题,Awad给出了自己的看法,他提到,AI大模型的训练更多会发生在云端,而推理过程则会发生在各个节点,从端侧设备到云端。

从提升计算性能的角度来看,实现软硬件的紧密耦合是必须的,包括CPU、NPU、GPU,整个计算系统。系统中的各个器件都不是孤立的。

五年以前,在基础设施建设方面,厂商会购买预配置好的芯片,购置服务器,但如今云计算巨头都在自研芯片。

云巨头自研的目的并不只是为了降低成本,其最主要的目的是把每一颗芯片的性能、效能做到极致,根据自己的工作负载、围绕自己的数据中心进行个性化定制。正因为有这样的优化,他们才越来越不惧怕日益增长的数据处理需求,从而为“GPTs”时代做好准备。

在基础设施建设领域,Arm Neoverse计算子系统(CSS)的核心优势是可以提供“预集成”,比如配置64核芯片和互联模块的产品,亚马逊AWS对芯片物理层的配置做了一些改变,这些意味着需要做很多工作,例如I/O接口加速,而Arm的CSS已经将这些基础工作做完了。



对于Arm的合作伙伴来说,厂商有很多选择,比如选择开箱即用的方案,或者使用芯粒、离散IP等方案。

在沟通后的参观环节,我们看到基于Arm的云实例相比基于x86的云实例在性能和成本上都有比较明显的优势,在芯片EDA设计、视频编解码等应用场景中优势比较明显。



结语:构建AI时代的“基础设施”,生成式AI加速Arm生态成长

在交流中,我们能看到Arm对于自身在AI新时代的机遇和挑战都有比较清晰的认识,同时Arm给自己在产业中的定位似乎更倾向于底层平台提供方,类似AI时代的“基础设施”建设者,基于自身硬件、软件、生态层面的优势技术,赋能芯片厂商。

面向未来的AI大模型时代,例如高通、联发科等移动芯片厂商,微软、亚马逊等云巨头都在芯片领域有更多新的布局,生成式AI在移动芯片、服务器芯片市场也掀起了新的技术革新浪潮,Arm生态无疑会继续加速成长。

相关内容

热门资讯

原创 2... 2025比特币闪崩惊魂!2.4万美元是乌龙?赵长鹏揭秘流动性陷阱 深夜被炒币的朋友@爆手机,群里满屏...
尘埃落定!2025年主动权益基... 《每日经济新闻》获悉,随着12月31日基金净值的披露,2025年公募基金主动权益排名之争终于落下帷幕...
一招搞定口臭烦恼 轻松拥有清新... 一招搞定口臭烦恼轻松拥有清新口气 口臭是许多人在日常生活中可能遇到的困扰,它不仅影响社交自信,也可能...
早报|雷军推迟跨年直播,YU7... 制糖工厂 AI 小电拼登上「金充奖」年度榜单 机主反映 iPhone 17 Pro 充电时发出电流...
冲刺商业航天第一股!蓝箭航天I... 中国“商业航天第一股”要来了? 2025年12月31日,据上交所官网显示,蓝箭航天空间科技股份有限公...
美国国债:2025年多品种收益... 【12月31日纽约尾盘美债收益率有涨有跌,2025年各期限美债表现不一】12月31日纽约尾盘,美国1...
海关总署发布关于对实施保障措施... 12月31日,海关总署发布关于对实施保障措施牛肉产品申报进口事项的公告。根据《中华人民共和国保障措施...
全国累计清理地方违规设置准入壁... 在今天国家发展改革委举行的新闻发布会上,新闻发言人表示,2025年4月,2025年版的市场准入负面清...
沃伦·巴菲特:2025年底卸任... 【著名投资人巴菲特2025年底退休,卸任伯克希尔职务】当地时间2025年12月31日,也就是1月1日...
中证协召开国际业务专业委员会主... 中国证券业协会日前召开国际业务专业委员会主任委员会议及全体会议。会议研究委员会下一步工作计划,并就资...
092手术视频|频繁复发的尖锐... 宋宝林谈泌尿 专注泌尿系健康 值得您长期关注 公众号 个人微信 我的网站 抖音 观 看 方 式 关注...
刚刚,全线暴跌! 贵金属市场多头遭遇沉重一击。 12月31日,全球贵金属市场再度巨震,现货白银日内一度大跌超7%,现货...
2026年家电以旧换新兼顾售新... 新华社北京12月31日电(记者 谢希瑶)商务部等部门12月31日发布关于做好2026年家电以旧换新、...
9月末我国银行业对外金融资产1... 人民网北京12月31日电 (记者罗知之)据国家外汇管理局网站消息,2025年9月末,我国银行业对外金...
2025私募投资基金业务法律法... 汇编由宁波市律师行业协会证券与金融专业委员会编制,系统整合全国性私募投资基金法律法规、基金业协会自律...
中邮证券:维持优然牧业“买入”... 来源:新浪港股 中邮证券发布研报称,优然牧业(09858)受益于奶牛存栏持续去化及牛肉价格显著上涨,...
原创 美... 近日,随着全球宏观经济格局重塑与主要央行货币政策转向,华尔街各大银行及金融机构近期集体抛出重磅预判。...
盘点2025丨半导体产业十大亮... 编者按:2025年,全球半导体产业在人工智能、高性能计算、数据中心基础设施建设等需求的拉动下,延续增...
调降费率上限!证监会出台公募基... 【大河财立方消息】12月31日,证监会修订发布《公开募集证券投资基金销售费用管理规定》,自2026年...
比你自己更懂你的,是 2025... 朋友们,又到了 12 月底,熟悉的“ 赛博跨年 ”又来了。 没错,各家 APP 的年终报告,虽迟但到...