大模型落地手机芯片!阿里云牵手联发科趟路子,低迷手机市场等风来 大模型产业化落地 大模型阿里云
admin
2024-03-29 10:09:20
0次


本报(chinatimes.net.cn)记者卢晓 北京报道

AI大模型在手机终端上的部署日益提速。

3月28日,阿里云与联发科联合宣布,通义千问18亿、40亿参数大模型已成功部署进天玑9300移动平台。据悉,这是通义大模型首次完成芯片级的软硬适配,同时意味着Model-on-Chip的探索正式从验证走向商业化落地新阶段。

在这背后,本身拥有计算能力的终端被认为是AI大模型落地的重要场景之一,特别是使用频率极高的手机。与此同时,外界也期待AI大模型能搅动疲软许久的手机市场。

端侧大模型加速

在手机终端部署AI大模型,手机算力决定了大模型的表现。

记者从阿里云方面了解到,通义千问18亿参数开源大模型,在多个权威测试集上性能表现远超此前SOTA模型,且推理2048 token最低仅用1.8G内存,是一款低成本、易于部署、商业化友好的小尺寸模型。天玑9300集成MediaTek第七代AI处理器APU790,生成式AI处理速度是上一代AI处理器的8倍。

此外,阿里云方面还告诉《华夏时报》记者,双方团队也已完成了通义千问40亿参数大模型与天玑9300的适配,未来还将基于天玑适配70亿等更多尺寸大模型,“打样”并支持开发更多AI智能体及应用。“不是参数越大越好,适配最重要。”阿里云相关人士告诉记者。

据记者了解,通义千问是阿里云自研的基础大模型,迄今已推出千亿参数的2.0版本以及开源的720亿、140亿、70亿、40亿、18亿、5亿参数等尺寸,以及视觉理解模型Qwen-VL、音频大模型Qwen-Audio等多模态大模型。

有业内人士在跟记者交流时认为,利用终端算力进行AI推理,可大幅降低推理成本、保证数据安全并提升AI响应速度,让大模型可以更好地为用户提供个性化体验。

3月24日,上海人工智能实验室领军科学家林达华在2024全球开发者先锋大会大模型前沿论坛也提出,伴随着云侧计算的指数级增长,端侧计算将迎来黄金增长期。目前,很多模型越做越小,可以直接进入手机运用。为此,手机算力也需不断增长。未来,云端协同将成为重要趋势,大模型用户量的增长将主要依靠端侧。

不过需要提及的是,在手机端部署大模型并不容易。

据记者了解,要将大模型部署并运行在终端,需完成从底层芯片到上层操作系统及应用开发的软硬一体深度适配,存在技术未打通、算子不支持、开发待完善等诸多挑战。

阿里巴巴通义实验室业务负责人徐栋介绍称,阿里云与联发科在模型瘦身、工具链优化、推理优化、内存优化、算子优化等多个维度展开合作,实现了基于AI处理器的高效异构加速,真正把大模型“装进”并运行在手机芯片中,给业界成功打样端侧AI的Model-on-Chip部署新模式。

搅动低迷手机市场

作为全球智能手机芯片出货量最高的半导体公司,联发科与阿里云在端侧大模型的合作,对手机市场影响不言而喻。Canalys最新数据显示,其2023年第4季度出货超1.17亿部,苹果以7800万出货量位居第二,高通以6900万出货量位居第三。

事实上不只联发科,今年3月,高通也宣布推出第三代骁龙8s移动平台,支持100亿参数级别的大语言模型,也能够支持多模态生成式AI模型,由小米Civi 4 Pro全球首发。

手机终端厂商布局AI大模型更早。据记者了解,去年10月发布的小米14以及14Pro,已经部署了AI端侧大模型。今年2月,OPPO对外发布了自己的1+N智能体生态战略,魅族也在宣布进行战略调整,停止传统“智能手机”新项目的开发,全力投入新一代AI设备。

在手机产业链都全力AI背后,TechInsights给出的数据显示,2023年全球智能手机的换机率可能会跌至23.5%(换机周期为51个月)的最低点。

IDC发布的《AI手机白皮书》预计,2024年起新一代AI手机将带动新一轮换机潮,2024年全球新一代AI手机出货量将达到1.7亿部,约占智能机整体出货量的15%,具体到中国市场,IDC也预计,随着新的芯片和用户使用场景的快速迭代,新一代AI手机在2027年将达到1.5亿台,市场份额超过50%。

在此之前,手机市场已经低迷太久。就在刚过去的2023年,IDC数据显示,当年全球智能机出货量同比下降3.2%至11.7亿部,为十年来最低,当年中国智能机出货量约2.71亿台,同比下降5%,也创下近10年以来最低出货量。

AI大模型被期待能成为刺激手机市场增长的强心针。不过IDC中国高级分析师郭天翔对《华夏时报》记者指出,随着芯片的升级,会有更多手机从算力上可以支持大模型,但对于消费者而言,短时间内AI大模型尚不会成为刚需,难以成为推动消费者换机主推力。

责任编辑:黄兴利 主编:寒丰

相关内容

热门资讯

蜻蜓订购APP贵金属订购非法期...   蜻蜓订购APP以"投资平台"名义对外宣传,主打贵金属期货(订购)交易。该平台一方面强调自身"正规...
悟空订购APP非法期货交易欺骗...   近期,有投资者反映,“悟空订购APP”等平台以白银、贵金属订购为名,宣传所谓“高收益”“低门槛”...
小赢淘金APP期货投资骗局,平...   “小赢淘金”之流,最擅长的就是用“注册送现金”、“充值返券”的糖衣炮弹来引流。别天真地以为那是福...
八方淘金APP非法期货交易欺骗...   警惕!八方生财、每日淘金、小赢淘金、悟空订购、蜻蜓订购、斗金订购等APP均涉嫌非法期货交易!  ...
智易购APP贵金属订购交易骗局...   很多人看到“3元起投”“充值送福利”“操作简单”“随时提现”这类宣传,很容易把智易购APP当成普...
喜玛银庄APP商品订购投资骗局...   喜玛银庄APP白银、铂金“现货订购”骗局警示:无资质平台涉嫌非法期货交易,投资者爆仓后如何维权?...
吉鑫乐享APP炒贵金属订购交易...   近期,多名投资者反映在“吉鑫乐享APP”进行贵金属投资时遭遇严重亏损,甚至血本无归。看似正规的“...
易掘金APP虚假期货投资骗局,...   “易掘金”的APP它打着“高收益、灵活投资”的旗号,宣称通过“商品订购”就能轻松赚钱,吸引了不少...
在大吉订购APP订购交易亏损被...   近期,不少投资者反映在“大吉订购App”上投资白银、铂金等商品遭遇严重亏损。该平台宣称提供现货订...
铂银壹号APP商品订购交易亏损...   许多中小投资者误以为网上的“商品现货订购”是合规合法的理财渠道,殊不知这背后隐藏着巨大的合规风险...
兴鑫淘金APP贵金属订购交易亏...   白银、贵金属或其他商品类投资,除国家批准的正规期货交易场所及持牌期货公司外,市面上大量第三方交易...
铂银掘金APP无资质的违规平台...   铂银掘金等平台的投资者,往往是被“注册送现金”“充值返现券”“首单免亏”等广告话术吸引,进而下载...
八方淘金APP订购交易不合规,...   “八方淘金APP”“铂银掘金APP”“铂银壹号APP”等软件被指以“现货订购”为名,实际采用高杠...
在指尖订购APP订购商品亏损被...   指尖订购APP这类平台,表面是“订购交易”,实则是披着电商外衣的非法期货陷阱。绝大多数投资者被蒙...
在犀贝易购APP做商品订购交易...   市面上打着“现货投资”“贵金属交易”旗号的APP并不少,但真正合规、受监管的平台并不多。犀贝易购...
易达淘金APP虚假商品订购交易...   易达淘金APP存在严重的虚假宣传与违规交易行为。该平台打着“商品订购”的旗号,实则通过不合规的交...
大浪淘金APP白银订购亏损被骗...   大浪淘金APP最隐蔽的套路,在于其完全封闭的内盘交易系统。表面上,它宣称与国际贵金属市场接轨;实...
一品好购APP上订购白银出现亏...   一品好购APP原名“一品订购”,运营方为上海宝智未来信息技术有限公司。近期不少投资者反映在该平台...
九州订购APP贵金属订购投资骗...   九州订购APP正通过抖.音、快手、今日头条等平台大量投放投资广告,用“5元起投”“充值返现”“0...
坚锅淘金APP交易软件并不正规...   当前,市面上大量所谓的“现货商城订购”交易软件,早已偏离了正常的实物商品买卖,演变为高杠杆、高手...