囤上千英伟达芯片浮盈即过亿,国产大模型的路更难走了
admin
2023-10-22 09:51:59
0



从事大模型开发的国内创业者李鹏,最近切身感受了一把AI芯片行业的疯狂。

今年4月份,李鹏以单个近8万元的价格,下单了上千英伟达A800芯片,10月中旬收到货后,随即迎来美国对高性能AI芯片的进一步限制。国内A800芯片价格应声上涨,至10月20日,其单个价格已经涨至约30万元。这意味着,李鹏手里这批A800芯片,浮盈已经破亿元。

英伟达芯片价格暴涨的背后,离不开美国商务部工业与安全局(BIS)出台的AI芯片出口管制新规定。美东时间10月17日,BIS在去年10月对AI芯片带宽速度做出限制的基础上,正式公布了把性能密度作为限制新标准的相关要求,并提供了30天缓冲期。



在新规影响下,英伟达原本针对中国市场推出的A100/H100的定制版芯片A800/H800,因为超标也将被全面禁售。

除此之外,BIS还希望借助对芯片性能密度的新限制,防止中国厂商通过Chiplet封装技术进行多个芯片的拼接,从而达到提升芯片整体性能的目的。华为在Mate 60 Pro上回归的5G芯片,就曾一度被外界揣测为是通过Chiplet封装技术实现了媲美7nm的工艺性能。

按照美国商务部长雷蒙多的说法,AI芯片的出口管制规定将至少每年更新一次,以便尽可能封堵中国获取先进AI芯片的漏洞。

在李鹏见证A800芯片价格暴涨之际,英伟达针对游戏市场发行的RTX 4090显卡,也走上了身价暴涨之路。

作为全球消费级产品界配置最高、性能最强大的显卡,RTX 4090因为性能密度超标而被列入禁售名单。受此消息影响,从10月18日开始,国内电商渠道的RTX 4090显卡一度显示缺货,价格更是从原本的15000元左右,快速飙升至3万-5万元。

不过,在美国继续执行“小院高墙(small yard, high fence)”方针之下,BIS将限制锁定在了有限范围内,仍然允许出口用于笔记本、智能手机、游戏应用等消费类应用的芯片,但对于少量高端游戏芯片则制定了许可通知要求。

英伟达能否顺利申请到RTX 4090显卡的出口许可,眼下仍存在变数。字母榜就此向英伟达在国内的合作商之一七彩虹求证,后者表示暂时还不清楚后续能否继续售卖RTX 4090显卡产品。

但市场已经率先给出了乐观反馈。到10月20日,国内电商渠道RTX 4090显卡已经很少显示缺货状态,价格也回落到2万-3万元。

相比有可能“虚惊一场”的RTX 4090显卡被禁风波,英伟达A800/H800芯片被禁,几乎已是板上钉钉的事实。

在回应美国升级对中国AI芯片监管措施的影响时,英伟达在公告中提到,“考虑到全球对英伟达产品需求强劲,预计不会对财务业绩产生短期有意义的影响。”

但长期来看,中国市场的缺失,将对英伟达造成无可避免的冲击。在今年二季度财报会上,英伟达CEO黄仁勋就曾对此表态,认为一旦长期向中国销售数据中心GPU的禁令实施,将导致英伟达产业失去在全球最大市场之一竞争和领先的机会。

将要遭遇长期阵痛的不止英伟达。对于一众国内大模型厂商而言,英伟达芯片的断供,或将成为其追赶ChatGPT乃至GPT-4的最大阻力。

A

尽管有部分声音认为巨型人工智能模型的时代正在走向终结,但在OpenAI CEO奥特曼看来,模型性能的缩放法则(scaling laws)仍然有效,增加模型的大小将继续提高性能,奥特曼甚至提出了芯片需求每三四个月就要翻一番的大模型时代“摩尔定律”。

根据DeepMind联合创始人、现Inflection AI CEO穆斯塔法・苏莱曼爆料,OpenAI正在秘密训练的GPT-5,其所需英伟达芯片数量预估在30000—50000个H100。

哪怕国内大厂如阿里、腾讯、百度等都表态称在新规出台之前,已经提前采购了一批芯片且部署到位,但面对仍在大模型技术上持续迭代中的OpenAI,不想在大模型竞争中掉队的国内大厂,其芯片储备是否足够应付未来的竞争,仍是个问题。

8月份,百度、腾讯、阿里、字节被爆出向英伟达下了一笔累计达10亿美元的交付订单,总共采购约10万个A800芯片,明年交付的AI芯片价值更是达到40亿美元。明年的订单大概率已经没有指望,即便年内的10万个A800芯片顺利交付,分摊下来每家大厂的份额也只有2.5万个,远不足以支撑它们跟上GPT-5的脚步。



且从BIS给英伟达预留的30天缓冲期来看,这也切断了国内大厂赶在禁令生效前抢购一波的幻想。

据CoreWeave联合创始人兼CTO Brian Venturo说法,今年一季度,获取英伟达GPU还相对容易,但从4月份开始,市场忽然变得异常紧张,交货时间已经需要排到2024年一季度甚至二季度。

字母榜向李鹏求证,上述交货时间得到验证,据其透露,向英伟达发出订单需求后,要等待六七个月才能拿到货。

更糟糕的情况还在于,英伟达还将继续在“黄氏定律”指导下,每六个月推出一款新AI芯片,届时,连定制版都无法获取的国内大厂,在硬件配置上与美国竞争对手的差距可能越拉越大。

一旦英伟达芯片全面断供成真,留给大厂的替代方案或许只剩更换国产GPU厂商这一条路。

近期三季度财报发布会上,科大讯飞副总裁江涛就对此表示,讯飞星火大模型不受英伟达芯片断供影响,其采用的华为昇腾910B能力已经基本做到可对标英伟达A100。

但头部云厂商大模型研发工程师吴伟告诉字母榜,从单一芯片来看,部分国内GPU芯片或许已经可以媲美A800乃至A100,但在多卡串联的并行计算环节,仍然存在较大差距。

微软大中华区Azure事业部总经理陶然同样秉持这样的观点,认为很多厂商没有能力去实现多卡连接,但多卡并行运算却直接决定着大模型训练所需花费的时间成本,“同样的一套模型,如果训练一次需要花费一周成本为100万美元,但如果带宽太小最终耗时两周,那成本就将乘以2。”

在崇尚效率的大模型赛道,时间有时比金钱更重要。使用大厂自研芯片,同样存在类似的费效比问题。



在实际应用中,据吴伟介绍,大厂自研芯片更多被用来执行推理任务,即在由英伟达芯片训练好的大模型上,大厂借助自研芯片,保证大模型的日常运行。

即便是在更换国产GPU的过程中,大厂眼下也面临无法使用更先进制程工艺芯片的挑战。BIS已经将壁仞、摩尔线程等国产GPU公司列入实体清单,这意味着在没有获得许可情况下,它们既不能进口含有美国公司的任何技术或产品,也不能通过台积电等代工厂生产14nm以下的先进芯片。

另一个不容忽视的影响是,更先进芯片往往还会通过不断的技术迭代,帮助降低大模型的运行成本。黄仁勋就曾表示,“H100可以将大语言模型的处理成本降低一个数量级。”

一旦大模型训练成本变得更低,客户调用大模型API接口的价格也将变得更便宜。届时,国内大厂不仅要直面芯片性能落后的现实,还将承担起比海外竞争对手更加高昂的大模型运行成本。

B

国内大厂并不是英伟达芯片断供风波中受影响最大的一方。相比大厂借助充沛资金提前储备芯片的举措,国内大模型创业者所要迎接的震荡,将更为剧烈。其中,又以研发通用大模型的创业者受冲击更重。

近期,部分立志做通用大模型的创业公司,纷纷宣布融资消息:百川智能宣布完成3亿美元新融资;智谱AI宣布完成超25亿元累计融资。但眼下,这些原本可能用来购买英伟达芯片的融资款,一时间没了用武之地。

即便是那些盯着垂直领域研发行业大模型的创业公司,也同样会受到波及。据李鹏介绍,部分参数量维持在数十亿级别的行业大模型,理论上购买大厂云资源就足以满足需求。但对于想做出极致体验的创业公司来说,稳定的算力仍是必不可少的条件。购买大厂云资源,很可能遭遇公司算力需求扩大而对方无法及时支援的情况。



但相比大厂,大模型创业公司在更换到国产GPU的过程中,除了需要付出更多时间成本的代价外,还可能因为在算法方面的短板,人为制造出更大的追赶差距。

在人工智能专家丁磊博士看来,相比耗时一个月还是三个月训练好大模型,更大的挑战在于当前部分大模型创业公司“还不是那么会训练大模型……如果训练方法错的话,你有再多的GPU也没用。”

在模型层创业之外,基于大模型的应用层创业也可能会因为美国政府新的制裁措施,影响到业务发展。

据媒体爆料,美国政府还在考虑限制向中国AI公司出租云服务,以堵上这些公司通过租赁微软云的方式,从而规避对先进制程芯片的出口禁令。

C

在国内一众大模型厂商业务遭遇冲击或挑战之际,作为风暴中心的英伟达,同样难逃损失。

在美国政府传出将对半导体技术实施新的出口限制,进一步限制中国市场获取A800和H800时,黄仁勋曾在7月份接受采访中表示,“如果我们被剥夺了中国市场,我们没有应急措施。因为世界上没有其他中国,只有一个中国。”

2022年,中国市场的营收占到英伟达的约四成。美国半导体行业协会数据更是显示,2022年,中国半导体采购额为1800亿美元,占全球半导体采购总额5559亿美元的三分之一以上,是最大的全球单一市场。

为了尽可能挽回损失,黄仁勋一度尝试游说美国政府改变策略。今年7月份,黄仁勋曾连同英特尔CEO基辛格、高通CEO阿蒙与美国政府官员在华盛顿举行会谈。这些芯片巨头们希望美国政府应该进一步评估“限制对华半导体出口”的影响,认为出口管制将有损于美国在半导体行业的领导地位,希望停止实施新的对华限制。



黄仁勋

黄仁勋更是直言,“限制英伟达在华芯片销售,只会给其他品牌提供机会。”在黄仁勋看来,中国占据了美国科技产业约三分之一的市场,令其作为半导体零部件来源地和产品终端市场的地位无可取代,退出中国市场不是一种可行选项。

尽管这场游说活动在某种程度上推迟了美国政府对华芯片出口新规的出台时间,但最终却未能彻底让美国政府改变心意。

待30天公示期结束,留给黄仁勋的挑战之一,将是如何解决芯片重回中国市场的问题。

考虑到去年10月美国政府颁布出口禁令后,英伟达迅速调整了芯片带宽速度,及时发布了符合禁令规定的定制版芯片A800。Spear Invest创始人Ivana Delevska认为:“随着时间的推移,会出现某种与此类似的解决方案,而不是完全禁止它们。”即英伟达或许会再次通过微调其芯片来满足新的禁令要求,从而缓和这项AI芯片禁令带来的营收下滑等一系列影响。

受新规影响,英伟达股价已经从10月17日的446美元,一路下跌至10月20日的414美元,总市值三天内暴跌769亿美元(约合人民币5600亿元)。

不过,一旦在A800/H800的基础上再次进行性能阉割,届时英伟达推出的AI芯片,在中国市场是否还具备相当程度的竞争力,就要看“皮衣刀客”黄仁勋的刀法,这次精不精准了。

相关内容

热门资讯

摩通:华尔街银行业绩强劲提振欧... 观点网讯:7月22日,华尔街大型银行第二季度业绩表现强劲,提振了市场对欧洲投资银行即将开启的财报季的...
广州拟推动房地产纾困和发展 引... 观点网讯:7月22日,“十五五”时期,广州拟切实推动房地产纾困和发展,引导房地产市场企业转型升级。 ...
AI投入成“无底洞”?谷歌资本... 隔夜美股三大指数集体收低,道琼斯工业指数下跌0.01%报52218.58点,标普500指数跌0.14...
新太空经济从“起势”迈向“成势... 当前,全球正处于新一轮科技革命和产业变革加速演进的关键节点,人工智能、合成生物学、固态电池、高端算力...
金价四连涨,水贝又挤满人 每经记者:赵景致 每经编辑:何小桃,廖丹 记者|赵景致 编辑|何小桃 廖丹杜恒峰校对|金冥羽 金价在...
专访微亿智造董事长张志琦:在“... 本报(chinatimes.net.cn)记者石飞月 上海报道 在刚刚过去的2026世界人工智能大会...
Alphabet CEO:市场... 美东时间周三(7月22日)盘后,在Alphabet财报电话会上,公司CEO Sundar Picha...
毕马威:香港基金税制改革料吸引... 观点网讯:7月22日,毕马威发布《香港资产管理及私募股权展望》报告,指出香港基金免税制度及附带权益税...
维护资本市场平稳运行,组合拳来... 重要新闻提示 7月20日,证监会召开证券公司及基金机构座谈会,听取各方关于促进资本市场平稳健康发展的...
原创 缩... 其实这个阶段,反攻继不继续,对我来说没啥意义。因为小登估值依旧高高在上,随时可能像上周五,带崩老登。...
易方达张坤,罕见调仓 图/视觉中国 昔日公募圈“一哥”,也不“爱”白酒了。 7月21日,易方达知名基金经理张坤旗下多只产品...
宽基ETF连续2日净流出 7月23日,本周二、周三,宽基ETF连续2日资金流出。 数据显示,7月22日,ETF市场净流出216...
367 款新品换不来年轻人一句... 作者|极点商业 张先森 2026年初夏,#康师傅冰红茶卖不动了#登上热搜。 网友对此的反应颇为两极...
1元净资产市场只给5毛8!银行... 继中信银行、招商银行之后,光大银行也于7月20日在投资者互动平台透露,该行已成立市值管理小组,全面统...
风险等级为何需要运作机制更关键... 在基金投资领域,风险等级是投资者评估基金产品的重要参考指标之一。然而,很多投资者往往只关注风险等级的...
刚刚!万亿“光模块一哥”正式招... (来源:上市之家) 7月22日,中际旭创股份有限公司(300308.SZ)正式刊发H股招股章程,启动...
智象未来完成15亿元C轮融资,... 智象未来(合肥)信息技术有限公司(以下简称“智象未来”)是一家全球多模态生成式人工智能创新企业,也是...
半年赚170%、规模565亿,... 来源:市场资讯 来源:资管网 半年赚170%,管理规模从89亿干到565亿。 然后他减仓了。 财通基...
Token账单背后的资本博弈 最近大家可能有一个困惑:为什么大模型概念股,看似业务高速增长、调用量节节攀升,但估值在经历了高速攀升...
Costco签约入驻 京东成为... 观点网讯:7月22日,全球知名会员制仓储零售商Costco(开市客)与京东达成合作,京东成为Cost...