通义千问开源王炸,1100亿参数称霸开源榜单,中文能力全球第一 通义千问开源商用要求 通义千问开源后怎么部署
admin
2024-04-30 17:00:54
0


作者 | 椰子
邮箱 | lixiaoxian@pingwest.com

一款开源模型火不火,看生态中的产品对他的支持有多快就知道了。

4 月 26 日,通义千问一言不合又开源了,直接甩出1100亿参数的王炸模型Qwen1.5-110B ,刷新开源模型性能新高。模型发布还不到 24 小时,Ollama 便火速上线了对 110B 的支持。这意味着你除了在魔搭社区和 HuggingFace 上白嫖 Demo 以外,能在模型发布的第一时间,就将它部署到你自己的电脑上。


还有一些像是 SkyPilot 的云部署平台,也是第一时间发推去蹭 Qwen1.5 的热度。纵观大模型开源社区,也只有 Llama 是人人都想蹭。Qwen系列持续开源大半年,在开源生态里的位置已经渐渐开始向Llama 靠近。


在发布当天,Qwen1.5-110B 占领了 Hacker News 热度榜首一段时间,上一次有这么多热度和讨论,还是去年8月通义千问首次宣布开源的时候。不过,人们讨论的方向,已经从当时的“这是什么?”转变为认真的讨论“这有多强?”。质疑的噪声随着 Qwen 的实力增强逐渐消散。


有的网友对于Qwen1.5-110B在摘要生成、信息提取方面的能力表示肯定,认为效果好于Llama 3。


不过也有的朋友表达喜爱的方式有些粗暴。


这次通义千问发布的 Qwen1.5-110B 开源模型是 Qwen 系列的首个千亿参数的模型,110B相比同一系列的72B模型性能有明显提升。而通义千问72B此前一直是最受社区欢迎的开源模型,说句屡屡霸榜也不为过。不过在这个模型中,没有对预训练的方法进行大幅改变,因此性能提升主要来自于模型规模的增加。

Qwen1.5-110B与其他Qwen1.5模型相似,采用了相同的Transformer解码器架构,使用了分组查询注意力(GQA)。支持32K tokens的上下文长度,支持英、中、法、西、德、俄、日、韩、越、阿等多种语言。

从跑分性能上来看,大部分测试项目都超越了 Llama 3 70B:


除了跑分,我们更好奇 Qwen1.5-110B 的实际表现如何,跟 Llama 3-70B 又有多大区别?接下来就实测看看。

1

Qwen1.5-110B VS Llama 3 70B

先来几个新鲜的弱智吧问题:




在没有进行任何人格化Prompt 的前提下, Qwen1.5-110B 的语言更有逻辑,信息更丰富,都是正确答案。而 Llama 3 的回答比弱智吧还要弱智一点,不仅有一个半小时是 1.5 小时这种废话文学,还有电动车变三轮车这种幻觉。或许对于弱智吧来说这才是正确答案?

再来看看它的中文理解能力怎么样:


这句话的正确回答应该是:我一下就把“把手”/“车把”给握住了。

Qwen 的回答是正确的,只不过少了一层握住车把的意思。而 Llama 3 自以为自己很搞笑。

再进行一轮跟进的连续问答:


多让 Qwen 思考一次,基本上完全回答正确了问题。而 Llama 3 依然在搞笑。我真给 Llama 3 的回答看笑了。

来一道正儿八经的数学题:

王老太上集市上去卖鸡蛋,第一个人买走 篮子里鸡蛋的一半又一个,第二个人买走剩下鸡蛋的一半又一个,这时 篮子里还剩一个鸡蛋,请问王老太共卖出多少个鸡蛋?

他们的答案是:


Qwen 思路清晰,答案正确。而 Llama 3 过程是对的,但是解一个一元一次方程给解错了。而且从解题思路上来说,Qwen 是逆向思维,很巧妙。Llama是典型的小学生思维,相信所有小学生看到这道题都会用 Llama 3 的方式來解题。

在没有清空聊天记录的情况下,用韩语沟通,Llama 3 会延续之前中文的回答习惯。Qwen 则更换成了韩语回答。


这几道测试题 Qwen1.5-110B 完胜 Llama 3 70B。不是说 Llama 3 不行,只是在中文这块,Qwen1.5-110B说一句最强开源模型应该没什么争议了。

1

把开源进行到底

在Hugging Face 上,Qwen 系列模型几乎自开源以来就一直处于热度榜前列的位置,随着1.5 版本的到来,以及 72B 和 110B 大参数量模型的推出,更是一度成为了 Llama 之外最耀眼的开源模型之一。尤其在中文这一母语领域,基本是全网无代餐的存在。

自去年 8 月以来,通义千问的开源节奏马不停蹄。自2月初Qwen 1.5系列发布后,三个月里就推出了 10 款不同参数规格的开源模型,包括8款大语言模型、 Code系列模型和 MoE 模型。去年底,通义千问还开源了两款多模态模型,视觉理解模型Qwen-VL和音频理解模型Qwen-Audio。


如果还算上各种部署和调试的版本, HuggingFace 上已经有 76 个不同型号的 Qwen 模型。作为对比,Mistral 和 Llama 都只有个位数个模型。相比之下,Qwen 简直是开源界的劳模。

辛苦自然也是有回报的,大半年时间,Qwen 系列模型的下载量已经超过 700 万,HF和魔搭上随手都能翻到基于Qwen系列的模型和应用。

对于大量开发者和企业来说,从5亿到1100亿参数全覆盖的Qwen系列,提供了最理想的模型选型套餐。通义大模型近期频频公布客户合作信息,先后接入中科院国家天文台、新东方、同程旅行、长安汽车等机构和企业,中国科学院国家天文台基于通义千问开源模型开发了新一代天文大模型“星语3.0”,这是中国大模型首次“上天”,应用到天文观测领域。


近期,随着模型能力逐渐拉齐,开闭源之争也变得更有讨论的意义。相比于追求自我闭环商业化的闭源模型,开源赛道展开的是另一种“一切皆有可能”的想象力。

有人用有人讨论,开源才有意义。

而从这个角度来说, Qwen 系列已经成为了国内目前最成功的开源产品,没有之一。

相关内容

热门资讯

银行保管实物黄金有哪些要求? 实物黄金作为一种具有高价值和稳定性的资产,很多人会选择将其交由银行保管。银行在保管实物黄金时,有着一...
2026年洞头区铂金项链回收:... 洞头区铂金项链回收是居民将闲置或不再佩戴的铂金材质项链,通过专业机构进行鉴定、估价并变现的消费服务环...
半年劲销118亿元,市占率多城... 2026年上半年,佛山楼市持续回暖。 中指研究院数据显示,上半年佛山商品住宅成交达186.5万平方米...
刘清云互联网运营实践者 刘清云 刘清云,字云飞,80后,学医出身,非同名艺人,目前是河北云荣企业管理咨询有限公司(简称:河北...
曲靖敬创新能源汽车有限责任公司... 天眼查App显示,近日,曲靖敬创新能源汽车有限责任公司成立,法定代表人为刘晓东,注册资本100万人民...
原创 黄... 2026年7月7日央行数据显示,截至6月末我国黄金储备达7544万盎司,环比再添48万盎司,这是自2...
科乐美为免费游戏《寂静岭:短信... IT之家 7 月 8 日消息,科乐美联合发行商 Limited Run Games 为旗下免费游戏《...
碳酸锂遭遇4连跌!锂矿股全线下... 7月9日,A股市场锂矿股全线下跌,其中, 天华新能(300390.SZ)跌超17%, 融捷股份(00...
竞业达董事长被留置,2.6万股... 7月9日,竞业达开盘一字跌停,截至发稿报12.11元/股,最新市值28亿元。 消息面上,7月8日,...
美军发动更大规模打击,伊朗多处... 中东战火重燃,美国军方正在对伊朗发动新一轮规模更大的打击。 当地时间7月8日深夜,伊朗锡里克、阿巴斯...
日本或干预汇市预期升温推动日元... 汇通财经APP讯——美元兑日元周四亚洲时段震荡回落,汇价一度跌至162.45附近。尽管美元整体仍受到...
基因治疗新希望:高风险阿尔茨海... 在一个温暖的家庭客厅里,老人每日都在努力记起熟悉的日程。家人扶着他,眼神里是爱与无奈的交错。医生的提...
如何分析黄金价格的涨跌趋势? 分析黄金价格的波动走向,需要综合多方面因素,从宏观经济、市场供需以及地缘政治等层面进行剖析。 宏观经...
原创 苹... 前几天,有媒体报道称,苹果一直以游说美国政府,希望美国同意它采购长鑫的内存。 因为长鑫被美国拉入了名...
白酒“悦己”时代:汾酒如何与年... 2026年7月5日,武汉,一场名为“汾酒品质生活大赏”的品牌活动在此落地。以“激情汾享,悦己而活”为...
黄金与铂金投资风险哪个更高? 在投资领域,黄金和铂金都是备受关注的贵金属。然而,它们各自的投资风险却有所不同。下面我们就来详细分析...
深圳宇顺华科技有限公司成立 注... 天眼查App显示,近日,深圳宇顺华科技有限公司成立,法定代表人为尹华红,注册资本10万人民币,经营范...
原创 遇... 作者|睿研消费 编辑|Emma 来源|蓝筹企业评论 一碗重庆小面,从广州30平米的街边档口走到港交所...
利润超10亿美元、ARR剑指千... 7 月 9 日消息,SemiAnalysis 昨日发布的最新报告显示,Anthropic 今年第三季...
普通投资者真正需要的基金长啥样... 出品|公司研究室 作者|李颖 2026年已过半,市场仍极致分化。 对普通投资者来说,借助机构的专业优...