揭开AI背后的“武林秘籍”:NVIDIA发布DPU处理器编程入门书籍
admin
2023-10-23 18:30:18
0

被公众誉为“AI教主”的NVIDIA创始人兼CEO黄仁勋,曾在2023年GTC大会上指出“AI的iPhone时刻”已来临。面对以大模型为代表的生成式AI的迅猛发展态势,“三芯+二意,打造AI世界”成为加速计算和生成式AI的成功秘诀,而他的带领之下,英伟达团队撰写了一本“AI背后的武林秘籍”。

2023年10 月 17 日,在“揭开AI背后的武林秘籍”发布会现场,NVIDIA全球副总裁,中国企业营销负责人刘念宁和NVIDIA中国区工程和解决方案高级总监赖俊杰分别身着绿色武侠装,在台上正式揭晓了三只宝箱中封存的秘籍——《数据处理器:DPU编程入门》。



DPU:What?How?

在AI时代扑面而来的今天,相信有越来越多的普通人已经意识到,AI给其带来的诸多正面影响,远超一个智能机器人的范畴。AI不仅日益贴近人类的生活,还在改变生产力方面发挥着重要作用,让许多行业迎来革命性的变化。

在支撑AI发展的过程中,作为计算单元的数据中心发挥着关键作用。黄仁勋曾表示:”如果数据中心是计算机,那么网络就定义了数据中心“。为了满足AI工厂和生成式AI云的需求,为大规模AI模型需要的大量GPU计算提供数据中心级别的良好性能,NVIDIA定位了不同类型的AI数据中心基础设施网络。其中,需要说明的是,数据中心拥有很多不同的组件,这也包括黄仁勋提到的“三芯”,即CPU、GPU和DPU。

CPU和GPU我们已然不再陌生,那么,DPU是什么呢?DPU(Data Processing Unit,数据处理器)简单来说就是面向以数据为中心的计算的新一代处理器。它的出现,能够代替CPU执行数据中心中安全、网络、存储等基础架构操作,进而帮助CPU和GPU的计算资源更好地集中于应用程序和业务负载上。因此,DPU也和CPU及GPU一同构成了新型计算的三大支柱。

具体到大模型训练上,DPU能发挥什么作用?赖俊杰表示:“DPU可以更加有效或者更快地做好数据传输这件事情,最终的计算任务就是训练一个大模型,任务会被拆解成不同的部分,在任务处理上也不会有短板,能够把GPU的利用率尽可能提高,同时把DPU利用好,做好数据的传输。”

在此发展背景下,为给现代数据中心和超级计算集群带来更进一步的创新,NVIDIA发布了NVIDIA BlueField 系列DPU,通过对各种高级网络、存储和安全服务进行卸载、加速和隔离,来为云端、数据中心或边缘计算等任何环境中的任何工作负载提供安全、加速的基础设施,从而极大地推动性能加速。

同时,为了让开发者快速创建基于DPU加速的高性能应用,NVIDIA也为NVIDIA BlueField系列DPU量身定做了一个名为NVIDIA DOCA的软件开发环境,助力DPU潜力的释放。

刘念宁表示:“NVIDIA BlueField系列DPU在NVIDIA DOCA软件开发环境的支持下,能帮助企业构建一个软件定义、硬件加速的数据中心基础设施,从而更好地支撑大模型训练的苛刻要求,值得广大开发者投入研究和学习。”

2021年6月,NVIDIA启动了DOCA 中国开发者社区,不仅为社区成员提供丰富知识,还举办DPU 中国黑客松竞赛、DOCA代码开源活动等重点活动,逐渐将其发展成为全球最活跃的DOCA开发者社区。如今,全球的DOCA开发者有将近一半来自中国,并且还在持续增长中。这些开发者包括初创公司、企业客户、生态合作伙伴、学生和老师等,他们迫切需要一本由浅入深、化繁为简的入门书籍,来帮助其更好地学习DPU和DOCA。正是在此发展现状下 ,NVIDIA撰写并推出了《数据处理器: DPU编程入门》一书。值得一提的是,这也是NVIDIA的全球首部DPU处理器编程入门书籍。

AI背后的“武林秘籍”,为开发者提供实用DPU指南

据了解,《数据处理器: DPU编程入门》一书由机械工业出版社出版,编委会由18位 NVIDIA中国员工组成,其中有17位是资深系统架构师。

NVIDIA网络市场总监孟庆指出:“书籍的编委会成员主要来自赖俊杰博士领导的系统架构师团队。他们都是在第一线接触客户的资深系统架构师,非常了解客户的实际需求和应用场景,他们自愿利用自己的休息时间和业余时间撰写了各个章节的内容,在互相交流的过程中完成写作,保障内容通畅和可读性。”

从内容上看,该书共分为五大部分十个章节。详细来说,五大部分分别讲述了DPU的技术发展背景、NVIDIA BlueField DPU的概述及应用、NVIDIA DOCA概述及开发体验、NVIDIA DOCA开发实践,以及生态体系与网络平台。基于本书,读者会拥有一个对DPU自身、DPU市场现状和未来应用场景的宏观初步认识,并学习到如何在NVIDIA DOCA的软件架构上搭建开发环境,另外还能了解到一些经典的NVIDIA生态合作伙伴应用案例。

NVIDIA网络技术专家崔岩表示:“我们当时在策划这本书的时候就是将其作为一个入门的书籍。考虑到一些DPU的核心技术特性,我们对读者也有一些画像和定位,大概分为三个方面。”

首先,读者要对网络基础有一定的知识理解;其次,由于是在Linux的环境中开发和配置使用,因此要求读者对Linux的命令和日常使用需要具有一定的基础知识;此外,由于是以C语言开发为主,因此需要读者掌握比较通用基础的语言。更进一步来说,最好拥有已安装DPU的服务器环境,以便更容易地实现想要开发的创意软件或者服务。

从该书的定位可以看出,其目标读者主要包括没有DPU开发经验的普通开发者、具有DPU开发经验的工程师,以及数据中心管理人员和开发运维人员。书籍内容能够帮助普通开发者快速掌握DOCA软件开发技能,帮助有经验的从业者更系统地学习DOCA软件开发环境,了解更多DPU的应用范畴,帮助数据中心管理和运维人员更好地在数据中心部署和使用NVIDIA BlueField DPU和NVIDIA DOCA应用程序或服务,甚至帮助做大模型的科研人员和学生提高效率、减少工作量。

据悉,目前《数据处理器: DPU编程入门》一书已经正式上市发行,读者既可以通过机械工业出版社的京东自营官方旗舰店、当当自营官方旗舰店和天猫旗舰店等线上渠道购买,也可以在各地区的新华书店等线下渠道购买。

对于该书的未来销量,机械工业出版社内部也初步定下了一个小目标。据机械工业出版社华章分社计算机图书事业部总经理杨福川透露:“计划在第一阶段达到10000册的销量。为什么是10000册呢?因为这是当下畅销书的分水岭。”

另外,他也指出,在云计算、大数据和大模型的发展和普及的背景下下,DPU的应用场景会越来越多,随着DPU技术的逐渐成熟,会有越来越多的开发者和应用加入到这个大生态中来未来也一定会有更多相关的书籍和课程被开发出来。

事实上,在AI的热潮之下,NVIDIA已经凭借在AI领域取得的突破,实现了股价翻倍,并成功地达到万亿美元以上的市值。在加速计算和生成式AI成功秘诀和秘籍的指导下,相信由“AI教主” 黄仁勋带领的NVIDIA将走向更长阔的发展之路。

相关内容

热门资讯

美联储会议纪要:通胀压力升温,... 北京时间周四(9日)凌晨,美联储公布今年3月联邦公开市场委员会(FOMC)政策会议纪要。 纪要显示,...
“杭州六小龙第一股”,上市时间... 4月9日,全球空间智能独角兽Manycore Tech Inc.(以下简称群核科技)披露全球发售文件...
上海商业2026年部分展厅设计... 随着上海作为全球卓越城市的地位日益巩固,其商业展览与品牌展示的需求也呈现出专业化、高端化与数字化的新...
黄金股ETF华夏(159562... 格隆汇4月8日|4月8日,受美伊停火消息影响,国际金价强势反弹至4800美元,黄金ETF华夏(518...
杭州六小龙第一股来了:群核科技... 雷递网 雷建平 4月9日 “杭州六小龙”之一、空间智能独角兽Manycore Tech(简称:“群核...
原创 2... 说实话,眼下这个楼市,好消息坏消息一块儿来。政策那边拼了命地"灌药",身体底子却还虚着。2026年3...
Pi Network 推出智能... 来源:市场资讯 (来源:区块链QKL) Pi Network 公布了其托管智能合约系统的详细设计,...
A股四大指数下跌,算力硬件股逆... 每经记者|黄胜 每经编辑|张锦河 记者|黄胜 编辑|张锦河 杜波 校对|金冥羽 4月9日,市场早盘...
深圳市内免税店首推“线上购、机... 观点网讯:近日,深圳市内免税店正式推出线上预订业务,出境旅客免税购物开启“线上购、机场提”新模式。旅...
有人减仓科技,有人死磕AI,震... 近来,多家上市公司因回购、并购等事项披露了最新前十大流通股股东情况,部分知名基金经理的调仓轨迹由此浮...
美伊停火,悬念给到了它 “世界重新回到特朗普的舒适区——走向谈判桌。去年是怎么谈关税,而今年是谈怎么过海峡。” 文 /巴九...
英特尔携手马斯克共建德州AI芯... 英特尔将协助设计建造用于SpaceX和特斯拉的半导体工厂。 马斯克位于德州奥斯汀的Terafab A...
业绩滑坡IPO折戟,量化看清新... 最近市场上有个光伏龙头的事儿闹得沸沸扬扬:筹备已久的港股IPO因招股书失效暂时搁置,刚披露的年报里四...
曜光智策app贵金属投资不合规...   矅光智策APP投资人做贵金属交易出现严重亏损,投资人并不知道该平台是否合规合法就下载了软件,还在...
一通金业app贵金属交易投资骗...   一通金业APP平台根本不具有相关交易资质,做了一款贵金属交易软件就在网上大肆宣传,利用充值优惠等...
掌上工美白银交易APP不靠谱是...   提示在掌上工美做白银的投资者:若您有意参与商品期货交易,请务必通过中国证监会批准的正规期货公司开...
长安银行整合“长银系”村镇银行... 近日,金融监管部门发布批复,同意解散陕西太白长银村镇银行股份有限公司、乐山昆仑村镇银行有限责任公司,...
继续加仓,继续满怀希望 一、市场概览:分化格局下的结构性机会 1.1 市场情绪监测 根据实时情绪指标监测(18:07数据):...
房地产专题报告:收储助力房地产... 报告聚焦存量房与闲置土地收储,分析政策推进、落地实践、资金支撑及市场影响,指出收储已成为房地产去库存...
泓德红利优选混合(LOF)A:... AI基金泓德红利优选混合(LOF)A(501227)披露2025年年报,2025年基金利润1245....