揭开AI背后的“武林秘籍”:NVIDIA发布DPU处理器编程入门书籍
admin
2023-10-23 18:30:18
0

被公众誉为“AI教主”的NVIDIA创始人兼CEO黄仁勋,曾在2023年GTC大会上指出“AI的iPhone时刻”已来临。面对以大模型为代表的生成式AI的迅猛发展态势,“三芯+二意,打造AI世界”成为加速计算和生成式AI的成功秘诀,而他的带领之下,英伟达团队撰写了一本“AI背后的武林秘籍”。

2023年10 月 17 日,在“揭开AI背后的武林秘籍”发布会现场,NVIDIA全球副总裁,中国企业营销负责人刘念宁和NVIDIA中国区工程和解决方案高级总监赖俊杰分别身着绿色武侠装,在台上正式揭晓了三只宝箱中封存的秘籍——《数据处理器:DPU编程入门》。



DPU:What?How?

在AI时代扑面而来的今天,相信有越来越多的普通人已经意识到,AI给其带来的诸多正面影响,远超一个智能机器人的范畴。AI不仅日益贴近人类的生活,还在改变生产力方面发挥着重要作用,让许多行业迎来革命性的变化。

在支撑AI发展的过程中,作为计算单元的数据中心发挥着关键作用。黄仁勋曾表示:”如果数据中心是计算机,那么网络就定义了数据中心“。为了满足AI工厂和生成式AI云的需求,为大规模AI模型需要的大量GPU计算提供数据中心级别的良好性能,NVIDIA定位了不同类型的AI数据中心基础设施网络。其中,需要说明的是,数据中心拥有很多不同的组件,这也包括黄仁勋提到的“三芯”,即CPU、GPU和DPU。

CPU和GPU我们已然不再陌生,那么,DPU是什么呢?DPU(Data Processing Unit,数据处理器)简单来说就是面向以数据为中心的计算的新一代处理器。它的出现,能够代替CPU执行数据中心中安全、网络、存储等基础架构操作,进而帮助CPU和GPU的计算资源更好地集中于应用程序和业务负载上。因此,DPU也和CPU及GPU一同构成了新型计算的三大支柱。

具体到大模型训练上,DPU能发挥什么作用?赖俊杰表示:“DPU可以更加有效或者更快地做好数据传输这件事情,最终的计算任务就是训练一个大模型,任务会被拆解成不同的部分,在任务处理上也不会有短板,能够把GPU的利用率尽可能提高,同时把DPU利用好,做好数据的传输。”

在此发展背景下,为给现代数据中心和超级计算集群带来更进一步的创新,NVIDIA发布了NVIDIA BlueField 系列DPU,通过对各种高级网络、存储和安全服务进行卸载、加速和隔离,来为云端、数据中心或边缘计算等任何环境中的任何工作负载提供安全、加速的基础设施,从而极大地推动性能加速。

同时,为了让开发者快速创建基于DPU加速的高性能应用,NVIDIA也为NVIDIA BlueField系列DPU量身定做了一个名为NVIDIA DOCA的软件开发环境,助力DPU潜力的释放。

刘念宁表示:“NVIDIA BlueField系列DPU在NVIDIA DOCA软件开发环境的支持下,能帮助企业构建一个软件定义、硬件加速的数据中心基础设施,从而更好地支撑大模型训练的苛刻要求,值得广大开发者投入研究和学习。”

2021年6月,NVIDIA启动了DOCA 中国开发者社区,不仅为社区成员提供丰富知识,还举办DPU 中国黑客松竞赛、DOCA代码开源活动等重点活动,逐渐将其发展成为全球最活跃的DOCA开发者社区。如今,全球的DOCA开发者有将近一半来自中国,并且还在持续增长中。这些开发者包括初创公司、企业客户、生态合作伙伴、学生和老师等,他们迫切需要一本由浅入深、化繁为简的入门书籍,来帮助其更好地学习DPU和DOCA。正是在此发展现状下 ,NVIDIA撰写并推出了《数据处理器: DPU编程入门》一书。值得一提的是,这也是NVIDIA的全球首部DPU处理器编程入门书籍。

AI背后的“武林秘籍”,为开发者提供实用DPU指南

据了解,《数据处理器: DPU编程入门》一书由机械工业出版社出版,编委会由18位 NVIDIA中国员工组成,其中有17位是资深系统架构师。

NVIDIA网络市场总监孟庆指出:“书籍的编委会成员主要来自赖俊杰博士领导的系统架构师团队。他们都是在第一线接触客户的资深系统架构师,非常了解客户的实际需求和应用场景,他们自愿利用自己的休息时间和业余时间撰写了各个章节的内容,在互相交流的过程中完成写作,保障内容通畅和可读性。”

从内容上看,该书共分为五大部分十个章节。详细来说,五大部分分别讲述了DPU的技术发展背景、NVIDIA BlueField DPU的概述及应用、NVIDIA DOCA概述及开发体验、NVIDIA DOCA开发实践,以及生态体系与网络平台。基于本书,读者会拥有一个对DPU自身、DPU市场现状和未来应用场景的宏观初步认识,并学习到如何在NVIDIA DOCA的软件架构上搭建开发环境,另外还能了解到一些经典的NVIDIA生态合作伙伴应用案例。

NVIDIA网络技术专家崔岩表示:“我们当时在策划这本书的时候就是将其作为一个入门的书籍。考虑到一些DPU的核心技术特性,我们对读者也有一些画像和定位,大概分为三个方面。”

首先,读者要对网络基础有一定的知识理解;其次,由于是在Linux的环境中开发和配置使用,因此要求读者对Linux的命令和日常使用需要具有一定的基础知识;此外,由于是以C语言开发为主,因此需要读者掌握比较通用基础的语言。更进一步来说,最好拥有已安装DPU的服务器环境,以便更容易地实现想要开发的创意软件或者服务。

从该书的定位可以看出,其目标读者主要包括没有DPU开发经验的普通开发者、具有DPU开发经验的工程师,以及数据中心管理人员和开发运维人员。书籍内容能够帮助普通开发者快速掌握DOCA软件开发技能,帮助有经验的从业者更系统地学习DOCA软件开发环境,了解更多DPU的应用范畴,帮助数据中心管理和运维人员更好地在数据中心部署和使用NVIDIA BlueField DPU和NVIDIA DOCA应用程序或服务,甚至帮助做大模型的科研人员和学生提高效率、减少工作量。

据悉,目前《数据处理器: DPU编程入门》一书已经正式上市发行,读者既可以通过机械工业出版社的京东自营官方旗舰店、当当自营官方旗舰店和天猫旗舰店等线上渠道购买,也可以在各地区的新华书店等线下渠道购买。

对于该书的未来销量,机械工业出版社内部也初步定下了一个小目标。据机械工业出版社华章分社计算机图书事业部总经理杨福川透露:“计划在第一阶段达到10000册的销量。为什么是10000册呢?因为这是当下畅销书的分水岭。”

另外,他也指出,在云计算、大数据和大模型的发展和普及的背景下下,DPU的应用场景会越来越多,随着DPU技术的逐渐成熟,会有越来越多的开发者和应用加入到这个大生态中来未来也一定会有更多相关的书籍和课程被开发出来。

事实上,在AI的热潮之下,NVIDIA已经凭借在AI领域取得的突破,实现了股价翻倍,并成功地达到万亿美元以上的市值。在加速计算和生成式AI成功秘诀和秘籍的指导下,相信由“AI教主” 黄仁勋带领的NVIDIA将走向更长阔的发展之路。

相关内容

热门资讯

摩通:华尔街银行业绩强劲提振欧... 观点网讯:7月22日,华尔街大型银行第二季度业绩表现强劲,提振了市场对欧洲投资银行即将开启的财报季的...
广州拟推动房地产纾困和发展 引... 观点网讯:7月22日,“十五五”时期,广州拟切实推动房地产纾困和发展,引导房地产市场企业转型升级。 ...
AI投入成“无底洞”?谷歌资本... 隔夜美股三大指数集体收低,道琼斯工业指数下跌0.01%报52218.58点,标普500指数跌0.14...
新太空经济从“起势”迈向“成势... 当前,全球正处于新一轮科技革命和产业变革加速演进的关键节点,人工智能、合成生物学、固态电池、高端算力...
金价四连涨,水贝又挤满人 每经记者:赵景致 每经编辑:何小桃,廖丹 记者|赵景致 编辑|何小桃 廖丹杜恒峰校对|金冥羽 金价在...
专访微亿智造董事长张志琦:在“... 本报(chinatimes.net.cn)记者石飞月 上海报道 在刚刚过去的2026世界人工智能大会...
Alphabet CEO:市场... 美东时间周三(7月22日)盘后,在Alphabet财报电话会上,公司CEO Sundar Picha...
毕马威:香港基金税制改革料吸引... 观点网讯:7月22日,毕马威发布《香港资产管理及私募股权展望》报告,指出香港基金免税制度及附带权益税...
维护资本市场平稳运行,组合拳来... 重要新闻提示 7月20日,证监会召开证券公司及基金机构座谈会,听取各方关于促进资本市场平稳健康发展的...
原创 缩... 其实这个阶段,反攻继不继续,对我来说没啥意义。因为小登估值依旧高高在上,随时可能像上周五,带崩老登。...
易方达张坤,罕见调仓 图/视觉中国 昔日公募圈“一哥”,也不“爱”白酒了。 7月21日,易方达知名基金经理张坤旗下多只产品...
宽基ETF连续2日净流出 7月23日,本周二、周三,宽基ETF连续2日资金流出。 数据显示,7月22日,ETF市场净流出216...
367 款新品换不来年轻人一句... 作者|极点商业 张先森 2026年初夏,#康师傅冰红茶卖不动了#登上热搜。 网友对此的反应颇为两极...
1元净资产市场只给5毛8!银行... 继中信银行、招商银行之后,光大银行也于7月20日在投资者互动平台透露,该行已成立市值管理小组,全面统...
风险等级为何需要运作机制更关键... 在基金投资领域,风险等级是投资者评估基金产品的重要参考指标之一。然而,很多投资者往往只关注风险等级的...
刚刚!万亿“光模块一哥”正式招... (来源:上市之家) 7月22日,中际旭创股份有限公司(300308.SZ)正式刊发H股招股章程,启动...
智象未来完成15亿元C轮融资,... 智象未来(合肥)信息技术有限公司(以下简称“智象未来”)是一家全球多模态生成式人工智能创新企业,也是...
半年赚170%、规模565亿,... 来源:市场资讯 来源:资管网 半年赚170%,管理规模从89亿干到565亿。 然后他减仓了。 财通基...
Token账单背后的资本博弈 最近大家可能有一个困惑:为什么大模型概念股,看似业务高速增长、调用量节节攀升,但估值在经历了高速攀升...
Costco签约入驻 京东成为... 观点网讯:7月22日,全球知名会员制仓储零售商Costco(开市客)与京东达成合作,京东成为Cost...