大模型应用门槛降至千元,小企业也能上车?云天励飞陈宁:AI必须走向产品化 云天励飞发布最新大模型 大模型应用在企业落地
admin
2024-03-30 10:08:41
0次

本文来源:时代财经 作者:谢斯临


AI模盒“深目”,图片来源:云天励飞提供

伴随着大模型之战转入商业化落地应用的下半场,如何实现更低成本的进行部署成为市场关注的焦点。深圳AI上市企业云天励飞(688343.SH)开始在这个方向做出尝试和探索,希望通过推出低配版的AI盒子,打响大模型“平民化”的第一枪。

3月28日,云天励飞举办AI大模型产品发布会,正式发布“深目”AI模盒。据介绍,该产品售价在千元级,用单手就能托起,搭载了云天励飞自研的DeepEdge10 Max芯片以及多模态大模型“云天天书”,单盒子具备48 TOPS峰值算力。

云天励飞试图通过这一产品解决大模型在场景落地最后一公里的问题,帮助更多中小企业客户在端侧部署大模型。

对于云天励飞而言,这也是加速商业化之举。据云天励飞3月28日发布的业绩快报,2023年实现营业收入5.35亿元,同比下降2.14%;归母净亏损3.9亿元,较2022年4.47亿元的亏损有所收窄。

对于盈利预期,云天励飞董秘邓浩然在会后的媒体交流环节解释称,去年公司曾披露限制性股票激励计划,为管理层设定了2024年、2025年实现对2022年60%及90%业绩增长的目标,公司对于完成这一要求有比较大的信心。

“我相信,随着我们运营业务的加强,以及标准化AI产品的推进,整体盈利时间指日可待。”邓浩然表示。

推理应用才是目的

相比燧原科技云燧i20及寒武纪MLU370-X4等其他厂商旗下推理卡256 TOPS算力,“深目”AI模盒48 TOPS的峰值算力有着较大差距。但算力上的压缩显著降低了成本,云天励飞认为这是一大优势。

在发布会上,云天励飞董事长、CEO陈宁分析指出,从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型的能力在不断进化,引发新一轮的AI变革。在此基础上,陈宁预判,未来3年内,全球80%的企业都将使用大模型。

但问题是,目前大模型一次训练成本在千万级,主流的训推一体机价格也普遍在百万元上下,绝大多数企业根本无法承担这样高昂的成本。

因此,只有降低成本,才能让大模型“平民化”,成为人人都可用的产品——这正是云天励飞打造“深目”AI模盒这类边缘端承载的小模型产品的原因。

在接受时代财经等媒体采访时,陈宁坦言,市场对于大模型训练的关注程度更高,GPU一卡难求,国内也掀起了算力建设的热潮。但在此之外,市场对于大模型推理部署的关注程度偏低。

目前,AI芯片可分为两大类:训练芯片和推理芯片。前者更高端,以英伟达A100、H100,以及华为昇腾的910B芯片为代表,用于构建神经网络算力模型,更为注重绝对的计算能力。而后者,主要是利用训练好的神经网络模型进行推理预测,更强调实用,对算力的要求相对低一些,更关注低延时、低功耗。

在陈宁看来,大模型算法的训练不是目的,千行百业的推理应用才是最终目的。因此,随着大模型逐渐开始广泛落地应用,推理芯片将会越来越重要。

“未来,无论是机器人、无人机、无人车、还是各类智能设备如AIPC、AI手机等,都需要一颗或几颗具备神经网络处理器的推理芯片,并可能因此诞生一个万亿颗芯片的巨大蓝海市场。”陈宁说。

更重要的是,在这个市场上,还没有诞生英伟达这样的垄断性的巨头。

“中国拥有丰富的应用场景,推理芯片要落到行业里解决各个场景的问题,这是很大的机会。”陈宁表示。

AI必须走向产品化

去年,云天励飞已经发布了国内首创14nm大模型推理芯片DeepEdge10 MAX,该芯片内含国产RISC-V核,足以支持大模型推理部署。

而为了把复杂的技术通过简单的产品提供给用户,降低用户的学习成本,快速训练出自己需要的算法,云天励飞在上述芯片的基础上,结合自研的多模态大模型“云天天书”进行封装,并做出大量优化调整,最终打造出AI模盒“深目”。

与此同时,云天励飞还以天书大模型为底座,与生态合作伙伴完成预训练场景算法,再将预训练算法以算法商城的形式提供给中小企业用户,让它们根据自身场景需求,在边缘端完成算法微调。

此外,由于大模型具备泛化和学习的能力,客户部署算法后,大模型还能够不断根据现实应用场景情况,在线学习、优化算法,不断提升算法精度。

据云天励飞副总裁罗忆透露,“深目”可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%。

这背后,是云天励飞试图通过打造更为标准化的产品,让AI逐渐走入产品化的阶段。

在陈宁看来,AI商业化发展有三个阶段:AI方案化、AI运营化、AI产品化。在AI商业化的初期,AI企业主要通过项目制满足不同垂直领域客户需求,以定制化的方案解决问题,其弊端在于普遍投入产出比不高,难以实现大规模盈利。

但AI企业必须在打磨行业标杆项目的过程中,不断积累行业认知和数据,增强AI技术实力,并形成具备越来越强的泛化能力AI平台,企业也得以开启AI运营业务。“最终,所有的技术都需要通过物理实体赋能,因此AI必须走向产品化。”陈宁分析到。

为此,云天励飞已经开始做出诸多尝试。

除“深目”外,去年云天励飞还曾与华为昇腾联合推出更为高端的天舟大模型训推一体机,并通过投资、收购的方式,进军智能穿戴和机器人等硬件领域,启动了相关技术产品市场探索。

云天励飞副总裁郑文先透露,未来,公司将从AI方案为主,逐渐过渡到AI方案、AI运营和AI产品三驾马车并驾齐驱的阶段,远期目标是实现4:3:3的营收构成。后两者将会成为主要的收入模式和来源,未来占到收入的60%。

相关内容

热门资讯

蜻蜓订购APP贵金属订购非法期...   蜻蜓订购APP以"投资平台"名义对外宣传,主打贵金属期货(订购)交易。该平台一方面强调自身"正规...
悟空订购APP非法期货交易欺骗...   近期,有投资者反映,“悟空订购APP”等平台以白银、贵金属订购为名,宣传所谓“高收益”“低门槛”...
小赢淘金APP期货投资骗局,平...   “小赢淘金”之流,最擅长的就是用“注册送现金”、“充值返券”的糖衣炮弹来引流。别天真地以为那是福...
八方淘金APP非法期货交易欺骗...   警惕!八方生财、每日淘金、小赢淘金、悟空订购、蜻蜓订购、斗金订购等APP均涉嫌非法期货交易!  ...
智易购APP贵金属订购交易骗局...   很多人看到“3元起投”“充值送福利”“操作简单”“随时提现”这类宣传,很容易把智易购APP当成普...
喜玛银庄APP商品订购投资骗局...   喜玛银庄APP白银、铂金“现货订购”骗局警示:无资质平台涉嫌非法期货交易,投资者爆仓后如何维权?...
吉鑫乐享APP炒贵金属订购交易...   近期,多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损,甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局,...   “易掘金”的APP它打着“高收益、灵活投资”的旗号,宣称通过“商品订购”就能轻松赚钱,吸引了不少...
在大吉订购APP订购交易亏损被...   近期,不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损...   许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道,殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏...   白银、贵金属或其他商品类投资,除国家批准的正规期货交易场所及持牌期货公司外,市面上大量第三方交易...
铂银掘金APP无资质的违规平台...   铂银掘金等平台的投资者,往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引,进而下载...
八方淘金APP订购交易不合规,...   “八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名,实际采用高杠...
在指尖订购APP订购商品亏损被...   指尖订购APP这类平台,表面是“订购交易”,实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易...   市面上打着“现货投资”“贵金属交易”旗号的APP并不少,但真正合规、受监管的平台并不多。犀贝易购...
易达淘金APP虚假商品订购交易...   易达淘金APP存在严重的虚假宣传与违规交易行为。该平台打着“商品订购”的旗号,实则通过不合规的交...
大浪淘金APP白银订购亏损被骗...   大浪淘金APP最隐蔽的套路,在于其完全封闭的内盘交易系统。表面上,它宣称与国际贵金属市场接轨;实...
一品好购APP上订购白银出现亏...   一品好购APP原名“一品订购”,运营方为上海宝智未来信息技术有限公司。近期不少投资者反映在该平台...
九州订购APP贵金属订购投资骗...   九州订购APP正通过抖.音、快手、今日头条等平台大量投放投资广告,用“5元起投”“充值返现”“0...
坚锅淘金APP交易软件并不正规...   当前,市面上大量所谓的“现货商城订购”交易软件,早已偏离了正常的实物商品买卖,演变为高杠杆、高手...