猫鼠游戏中的英伟达 猫鼠游戏中的英伟达 猫鼠在所有游戏中的热度
admin
2023-12-06 15:47:09
0


自步入人工智能时代以来,中国一直是英伟达的大客户。

2022年,英伟达销售数据中,25%来自中国客户,尤其是一些互联网大厂,他们对英伟达的算力产品,比如H800,可以说是疯狂买买买。

但是随着美国在2023年10月更新了先进半导体和计算设备的出口管制,英伟达中国特供版GPU A800和H800都将在11月17号后禁止出口中国。而且更难处理的是,华盛顿新的出口管制下,几乎绝大多数高算力产品都不再能出口中国了。

不过英伟达有他们的小心思,25%的巨大收入来源不可能说断就断,所以英伟达决定要和美国政府来一场猫鼠游戏,要在这只猫的眼皮底下,偷走奶酪。于是英伟达开始布局一款新的产品——H20。注意,这个H20是“H”和“二十”,不是水分子的化学式。

H20这款产品的浮点运算能力仅有296TFLOPs,性能密度只有2.9。这意味着它从纸面上看已经是一款超低性能产品,然而有意思的事情来了,如此低性能的产品,依然有公司会买,而且它继续引发美国的监管部门以及英伟达竞争对手的恐慌。在硅星人此前的文章《》中已经提到,英伟达的美国对手批评它不够美国,而英伟达认为这些批评不合逻辑;而最近的消息是,美国商务部长 Gina Raimondo又点名英伟达,警告它停止为中国设计绕过出口管控的 AI 芯片。

所以,这个猫鼠游戏里,英伟达到底是如何做的?

3A090里的文字游戏

3A090,是华盛顿出口管制中的ECCN编码物项。3A090特指特定高性能集成电路,当一颗芯片输入输出双向传输速率超过每秒600GB,或算力超过4800TOPS时就属于3A090,也就意味着禁止向中国出口。

上一次美国规定先进半导体出口措施的时候,英伟达旗舰产品A100和H100都被划在了禁止向中国出口的列表当中。英伟达当时采取的措施是推出低配版、但是同架构、且同样配备高带宽插槽版本(也就是SXM版本)的A800和H800。这两块产品在性能上和原版的A100、H100几乎完全一致,甚至连内存芯片用的也都是HBM2e和HBM3这种当时的顶级内存芯片。颇有种孙悟空和六耳猕猴的感觉。

在上一次禁令发布的时候,美国只是对产品的具体型号做出了禁止出口的规定,这才有了H800和A800这种李逵李鬼的情况。所以这次新规就加入了更为严格的限制,规定了算力总和以及性能密度,所有人工智能产业能用到的高端张量计算GPU全都被划进了限制。

说得更直白一点,高性能的GPU不让卖,低性能的GPU买了也没用。

然而有意思的事情来了,禁令所限制的两个词汇“性能密度”和“总算力”,其实是一个文字游戏。

什么是性能密度?国际上有两个说法,第一个是人工智能公司常用的,浮点计算能力FLOPs,也就是每秒浮点操作数除以单位面积内的晶体管数量得来的。第二个是MIPS,也就是每秒百万指令数除以单位面积内的晶体管数量得来的。

我们都清楚一个道理,那就是“大人时代变了”。就拿英伟达刚推出的新品H200所搭载的HBM3e来说,这颗芯片采用了一种3D技术,通过立体空间堆叠的方式增加内存。如果只按面积来说,那这颗芯片的性能密度就很高,但是要按体积算,这颗芯片的性能密度也挺高,只是没有按面积算那么高而已。所以如果想要性能密度这个数字越小,算的时候以体积为单位就可以了。毕竟除法嘛,分母越大结果越小。

另外MIPS通常比FLOPs大,因为在计算过程中除了浮点,还有整数类型(INT)的运算。而且浮点自己还囊括了单精度(32位)、双精度(64位)等以所需存储空间来划分的类型。因为传统FLOPs计算方式,往往只会统计单精度和双精度,因此一颗张量计算用的GPU,在数据测试的时候,也可以只报单精度、双精度的浮点,这样无论是它的MIPS还是FLOPs都会很低。毕竟除法嘛,分子越小结果越小。

总算力这块能玩的花活就更多了。总算力,这个词指的是每个核心的时钟速度总和。英伟达H20,或者说整个H系列所采用的Hooper架构,它都是有多种核心的,比如专门用来做张量计算的TensorFloat32核心,还有脑浮点(BF16)核心。那刚才咱们聊了,计算FLOPs时,可以只计算单精度,双精度,也就意味着它在算力总和的测试中,就可以只计算单精度和双精度核心,而不再启用上述的这些张量计算核心。毕竟自然数加法嘛,加数越少结果越小。

综上,作为一个算力芯片厂商,他们可以很简单地把芯片数据弄得很低。这只是一种可能的假说,因为英伟达的最终目的不是通过3A090的限制,他是要把产品卖出去,赚取利润。一个性能极低的产品根本没有市场销路,就算设计出来了也没有实际的价值。

H20背后的真正秘密

区区是一张中上游的游戏显卡RTX 4080,它的浮点运算能力都能达到320TFLOPs,同时RTX 4080的性能密度有6.8。H20尊为一个张量计算用的GPU,296的浮点和2.9的性能密度,就好像是一个超级富二代独生子,从出生开始就享受世界上最优质的资源,顿顿早餐吃的煎饼果子都能加俩鸡蛋,喝酸奶从来用不着舔盖,结果到头来算个10以内加减法都能把CPU干冒烟了。

可我要是说H20的Die足足有814平方毫米,和H100完全相同,阁下应该如何应对?这并不是好钢用在刀背上,相反这正是H20的隐藏属性。也正因此,才让我更加相信,英伟达在H20的数据上,存在一些猫腻。

Die指的是芯片的裸晶,一般来说,越是性能优越的芯片,Die尺寸就会越大。比如RTX 4080的Die尺寸是379,而目前性能最好的游戏显卡RTX 4090的Die尺寸是609。因此,H20实际上并不是低端芯片,至少从芯片的制程来讲,H20是站在第一梯队的。

老鼠没有猫力气大,速度上也不占优势,如果老鼠不想被猫抓住,那就要想方设法地躲起来,不暴露自己。

诚然,H20的浮点运算能力很低,可是H20 SXM的内存足足有96GB,更恐怖的是它的带宽来到了4Tbps。相较之下,1979TFLOPs浮点运算能力的H100 SXM只有80GB的内存和3.4Tbps的带宽。在人工智能领域,尤其是现在火热的大语言模型中。内存是影响模型运行的关键,每10亿参数就要消耗3到5GB的内存,如果内存溢出则会严重影响模型的质量,产生不可预估的后果。那也就是说,在面对实际应用的时候,H20能比H100承担更大规模的大语言模型。

可能你会问了,H20的浮点运算能力不行啊,光有内存没用,跑的速度会慢。如果是2022年,那这的确是个大问题,毕竟没有人工智能公司会考虑低效率的GPU,这样做会拖垮整个训练过程。可是2023年,英伟达的TensorRT-LLM已经问世,并且拥有TensorRT-LLM功能的H200即将要在2024年发售了。

TensorRT-LLM是一个帮助GPU快速解决复杂计算的优化软件,搭载在GPU内部,类似于游戏显卡驱动一样。以H100为例,使用TensorRT-LLM后的H100,在对一些媒体网站进行文章摘要时的工作效率,比使用前快出整整1倍。而在700亿参数的Llama2上,前者比后者快77%。目前流通在市面上的A800也好,H800也好,都没有搭载TensorRT-LLM功能。H20很有可能,或者说板上钉钉的会搭载TensorRT-LLM。

英伟达虽然一直以硬件销售为主,然而其软件能力非同小可。比如DLSS,这是一种专门用来“欺骗”软件。不过DLSS所骗的目标并不是用户,而是显卡。当计算机需要大量图形计算时,DLSS会把图形以极低分辨率的形式交给显卡,它去骗显卡说:“你干这么点活就得了,剩下的不用你操心”,再通过DLSS技术还原成高分辨率的图形,这会大幅减轻显卡的压力,进而提升画面效果。

回到现在,TensorRT-LLM也是一个给GPU减压减负的软件技术,这就让GPU能够表现出本不该属于它的性能。此外,如果英伟达真的隐藏了H20的真实数据,实际上H20的表现力很有可能会超过H100。

你以为英伟达是壁虎,断尾求生。实际上英伟达压根不打算“阉割”,他们想的是换一种方式,绕过监管,达到目的。毕竟,如果H20算力很低,就算可以出口中国,也没有买家愿意购买这样的产品。当猫堵住了一个老鼠洞,老鼠还是能有办法溜出来,因为不可能只有一个出口。

不只是英伟达自己的猫鼠游戏

英伟达有个好朋友叫做SK海力士,英伟达最新旗舰产品H200 SXM上的内存芯片HBM3e,就是SK海力士的。目前他们正联手开发HBM4,以颠覆整个产业。英伟达也是SK海力士最大的客户之一,如果英伟达失去了中国市场,那么SK海力士的损失也会是巨大的。

最重要的是,GPU是一个横跨软硬件两个领域的事情,造就了一个附加值极高的交易体系。比如英伟达的Hooper架构,也就是H100、H200、H800、H20所采用的架构,多种同架构的GPU并联在一起,能够更好地分配计算资源。一般来说,人工智能企业都是买很多块GPU,而不是就买一块。所以当人工智能公司进行算力扩展的时候,GPU的第一个附加价值就体现出来了,它会要求人工智能公司只能接着购买该公司的GPU产品。

第二个附加价值在于算法的开发,不同的GPU产品,比如AMD的MI,英特尔的Gaudi,他们的差别不只有浮点运算能力、性能密度这些,还有指令集、逻辑芯片、底层语言上的差异等等。一个能在H100上运行的算法,不一定就完美适配MI300X。换言之,如果开发伊始就是基于某公司产品的话,后续的开发大概率也只能基于同公司,甚至是同架构的产品。

第三个附加价值是反向的,由人工智能公司给予GPU公司。在算法的开发过程中总是会遇到各种各样的难题,当这些难题反馈给GPU公司时,GPU就会清楚下一代产品应该做怎样的改进。就比如上文说的HBM4,英伟达和SK海力士要非常清楚目前GPU在当前场景下还有哪些不足,才能做出足以颠覆产业的产品。

正是这些附加价值,绑定了GPU公司和人工智能公司,形成了复杂的裙带关系。所以英伟达不能失去中国市场,不单单是为了25%的销售额,还有比销售数字更重要的这些附加价值。中国的人工智能水平增长非常迅速,英伟达深知其中的利害。

在猫鼠游戏中,老鼠之间也会互相打配合,有些负责吸引猫的注意力,有些负责搬运奶酪。还有一点,猫和老鼠都明白两者虽然对立,但是存在着一个用来维持双方平衡的灰色空间,既不黑也不白,两者都能生存。猫不能一下子将老鼠全抓死,那样猫就失去了作用,老鼠也不能太猖狂,那样会压缩猫的生活空间。



欢迎加入这个星球,见证硅基时代发展↓

相关内容

热门资讯

澜起科技:出售所持XConn公... 澜起科技1月7日早间公告,公司全资子公司澜起开曼参股的XConn公司(标的公司)收到Marvell ...
有钱就任性!英伟达CEO黄仁勋... 黄仁勋 凤凰网科技讯 北京时间1月7日,据彭博社报道,英伟达CEO黄仁勋(Jensen Huang)...
现货金重新站上4500美元!桥... 财联社1月7日讯(编辑 卞纯)在刚刚结束的2025年,国际金价迭创新高,累计涨超60%,创下1979...
“红人经济第一股”天下秀业绩三... (图片来源:视觉中国) 蓝鲸新闻1月6日讯(记者 邵雨婷)1月5日,港交所官网显示,天下秀(6005...
“人民币”做矿泉水包装?官方通... 近日,有网友在社交媒体发帖称,广西某矿泉水包装标签上印有与20元人民币背面高度相似的图案,质疑企业违...
新思考赴港IPO:舅甥二人控股... 瑞财经 王敏 1月2日,据港交所披露,新思考电机股份有限公司(以下简称“新思考”)向港交所主板提交上...
不确定性升温,避险需求释放,关... 南美局势升温提升全球秩序的不确定性,黄金的避险属性在短期或将继续凸显;从中长期来看,流动性宽松和去美...
特朗普称委内瑞拉将向美国移交3... 当地时间1月6日,美国总统特朗普宣布,委内瑞拉临时政府将向美国移交3000万至5000万桶石油。这些...
长城汽车取消大小周,员工感慨:... 红星资本局1月6日消息,今日,长城汽车(601633.SH)取消大小周、实行全面双休的消息引发关注。...
紫光国芯启动A股IPO辅导 脱... 《科创板日报》1月7日讯(记者 黄修眉)证监会官网IPO辅导公示系统显示,西安紫光国芯半导体股份有限...
商业火箭“国家队”增资 卫星互... 上证报中国证券网讯(记者 刘怡鹤)1月6日,卫星互联网概念午后局部异动走强。截至13时54分,立昂微...
1月7日投资避雷针:大牛股嘉美... 导读:财联社1月7日投资避雷针,近日,A股及海外市场潜在风险事件如下。国内经济信息方面包括:1)今年...
一月暴涨249%急踩刹车,嘉美... 深圳商报·读创客户端记者 梁佳彤 1月6日晚间,16天12板嘉美包装(002969)发布公告称,公司...
和讯投顾邓雄:商业航天还未结束 直接说结论。商业航天主线行情还未结束,盘面虽然混沌,但此时并不是新周期的开启,今天脑机接口大高潮主要...
开封市市场监管局组织召开“放心... 为应对预付式消费领域退款难、维权难等突出问题,探索建立有效风险防控机制,1月6日上午,开封市市场监管...
内黄县召开规范涉企行政执法培训... 1月5日,内黄县聚焦营商环境领域群众身边不正之风和腐败问题专项整治“百日攻坚”行动部署,召开规范涉企...
【美股七巨头收盘播报|特斯拉收... 【美股七巨头收盘播报|特斯拉收跌超4.1%,苹果跌超1.8%,亚马逊涨约3.4%】周二(1月6日),...
高端、次高端率先发力 白酒市场... 2026年伊始,酒类市场逐渐复苏。1月6日,北京商报记者走访北京部分终端市场发现,开年以来,高端白酒...
控价怎么做?品牌高效控价的全流... 在电商渠道高度分散、价格竞争日趋白热化的今天,低价乱价已从个别现象演变为系统性风险。它不仅侵蚀品牌利...
“中保”盘点2025⑥中国资产... 2026年开局,A股迎来“开门红”,沪指时隔两个月再创十年新高,保险股表现亦不俗。 1月5日、6日两...