中国版Sora来了!清华打造! sora国内体验 sora来了到底意味着什么
admin
2024-04-28 14:14:41
0


来源:证券时报

时隔两个月,清华团队打造了一个中国版的Sora视频大模型。

4月27日,在中关村论坛未来人工智能先锋论坛上,中国首个长时长、高一致性、高动态性视频大模型Vidu正式发布。这一模型由清华大学和大模型创业公司生数科技联合发布,可以一键生成长度达16秒、分辨率为1080P的高清视频内容。

证券时报记者独家获悉,清华大学人工智能研究院副院长、生数科技首席科学家朱军在Vidu发布后发声表示:“Vidu,we do, we did, we do together!感谢小伙伴们日以继夜的坚持,在实验室架构上开花结果。”据介绍,这也是自OpenAI发布Sora以后,全球率先取得重大突破的视频大模型。


Sora发布后,行业内一直有团队宣称要追赶和复现Sora,而Vidu团队用两个月的时间率先跑出来。记者梳理发现,生数科技在多模态大模型领域已经有较深的积累,也是目前多模态大模型赛道估值最高的初创公司之一。目前公司已完成三轮融资,融资额达数亿元人民币,投资方包括启明创投、智谱AI、BV百度风投、锦秋基金等一众机构。

对标Sora,生成视频连贯高清

“画室里的一艘船驶向镜头”,只需要输入这样一句简单的指令,即可以生成效果逼真、镜头连贯的一段视频。在生数科技发布的Vidu模型生成视频样片中,视频的整体质感几乎可与Sora相媲美。


据生数科技介绍,Vidu模型采用团队原创的Diffusion与Transformer融合的架构U-ViT,支持一键生成长达16秒、分辨率高达1080P的高清视频内容。“U-ViT架构早在2022年9月就由团队提出,早于Sora采用的DiT架构,是全球首个Diffusion与Transformer融合的架构。”生数科技表示。

记者注意到,今年3月生数科技完成新一轮融资后,公司就公开表示,虽然Sora的出现表明美国在多模态大模型领域具有领先性,“但中国也并非完全从零开始的阶段”。据介绍,朱军在2023年1月就提出了基于Transformer的多模态扩散大模型UniDiffuser,采用了U-ViT,该架构与Sora的架构路线完全一致,区别在于UniDiffuser主要应用于图像生成任务,但也可以以此为基础进行视频任务的拓展。

正是基于在机器学习和多模态大模型的长期积累,团队才能够在短短的两个月时间里突破了长视频表示与处理的多项关键技术,成功研发推出Vidu视频大模型。朱军在Vidu模型发布现场表示,Vidu主要有以下方面的特点与优势:

一是模拟真实物理世界,可以生成复杂、细节丰富的场景,光影效果与人物表情都能够符合真实的物理规律。

二是富有想象力,可以虚构场景以及想象超现实主义的画面。

三是具有多镜头语言,不再局限于固定镜头,能够在遵循主体一致性的情况下实现远景、近景、中景、特写等不同镜头的动态切换,还可以实现长镜头、追焦等效果。

四是有出色的视频时长,能支持16秒长度的视频生成,保持镜头和主体的连贯一致。

五是能理解中国元素,可以更好地理解生成熊猫、龙等富有中国文化特色的形象。


Vidu生成的龙、熊猫等中国文化元素视频

背后团队来自清华,已融资数亿元

Vidu的背后,是一家来自清华的明星创业公司生数科技。

公开资料显示,生数科技成立于2023年3月,核心成员来自清华大学人工智能研究院,致力于自主研发世界领先的可控多模态通用大模型。公司的CEO本硕就读于清华大学计算机系的唐家渝,首席科学家由清华人工智能研究院副院长朱军担任,CTO鲍凡则是清华大学计算机系博士生、朱军教授的课题组成员,长期关注扩散模型领域研究。

记者注意到,今年3月,唐家渝曾在沟通会上向媒体表示,今年内公司的大模型一定能达到Sora目前版本的效果,“但很难说是三个月还是半年”。然而,Vidu却提前交出了一份令人惊艳的考卷,这主要得益于团队是国内最早布局多模态大模型的团队之一,多年以来在这一领域形成了深厚的积累。

据唐家渝介绍,生数科技目前采取模型层和应用层两条路走路的模式。一方面,构建覆盖文本、图像、视频、3D 模型等多模态能力的底层通用大模型,面向B端提供模型服务能力;另一方面,面向图像生成、视频生成等场景打造垂类应用,按照订阅等形式收费,应用方向主要是游戏制作、影视后期等内容创作场景。

记者梳理发现,生数科技自成立以来就备受资本关注。天眼查数据显示,生数科技目前共完成3轮融资。2023年6月,完成近亿元人民币天使轮融资,投资方包括蚂蚁集团、BV百度风投、卓源亚洲、卓源资本;2023年8月,完成数千万人民币天使+轮融资,投资方为锦秋基金;2024年3月,完成数亿元人民币A轮融资,投资方除了启明创投、达泰资本、智谱AI等新机构以外,还有BV百度风投、卓源亚洲两个老股东。

在三轮融资总计数亿元人民币的资本加持下,生数科技已成为目前国内多模态大模型中估值最高的初创公司之一。生数科技表示,Vidu的问世不仅是U-ViT融合架构在大规模视觉任务中的又一次成功验证,也代表了生数科技在多模态原生大模型领域的持续创新能力和领先性。

相关内容

热门资讯

瑞丰银行招标结果:瑞丰银行LE... 证券之星消息,根据天眼查APP-财产线索数据整理,浙江绍兴瑞丰农村商业银行股份有限公司7月6日发布《...
“四个共享”助力百色芒果行销大... 7月9日,为期两天的“芒香入湾·合作共赢”百色芒果广东产销对接暨展销推介活动在广东区域协作消费帮扶产...
这个拥有百年历史的设备,正成为... 文|财联社 电力从发电端输送至用户端的全过程,约90%的电力都会流经变压器:输电环节升压以减少输电...
华泰证券执委陈天翔:AI进入财... 财联社7月10日讯(记者 赵昕睿)由财联社携手华夏基金、腾势共同举办的第五届财富管理论坛暨第三届“财...
第四届暑期港澳青创嘉年华缤纷日... 中新网广州7月9日电 (张璐 余冰冰)“创响湾区·就约盛夏”第四届暑期港澳青创嘉年华缤纷日活动暨大湾...
美元通胀变化如何影响黄金? 在金融市场中,美元通胀的变化对黄金价格有着显著的影响。要理解这种影响,我们首先需要明白美元通胀的本质...
原创 永... 2026年以来,永诚财产保险股份有限公司(下称永诚财险)合规风险持续暴露。这家由华能集团联合五大电力...
“为哈梅内伊复仇”,伊朗打击美... 伊朗南部布什尔市和乔加达克市9日晚传出爆炸声。当地居民表示,在伊朗南部的阿巴斯港也听到了数声爆炸。伊...
巴西将12%原油出口税延长60... △巴西首都巴西利亚(资料图) 巴西发展、工业、贸易和服务部9日发布会议决议显示,巴西对外贸易商会执行...
茅台健康产业公司挂牌转让10%... 茅台集团旗下一家公司部分股权被挂牌转让。 7月9日,南都湾财社-酒水新消费指数课题组记者从北京产权交...
深度 | FOF“赛马” 当数十万亿元到期存款寻找新出路时,一个曾蛰伏于公募版图角落的小众品类——FOF(基金中基金)正迎来一...
锚定价值创造 深耕全链协同 蒙... 7月9日,由中国奶业协会主办的第十七届奶业大会 奶业20强(D20)论坛暨2026奶业展览会在江西省...
原创 母... 创始人离世1年后爆发家族纷争。 作者 | 贾紫聪 编辑丨高岩 来源 | 野马财经 A股的资本江湖里...
AI制药的尽头,还得是CXO 2012年,当AlexNet在ImageNet竞赛中横空出世、将图像识别错误率一举降低近一半时,制药...
假如长鑫上市,冲上1万亿美金! 来源:市场资讯 来源:格隆 本文作者 | 弗雷迪 数据支持 | 勾股大数据 01 1995年一月,《...
SK海力士美国上市带动杠杆ET... 7月10日,财闻海外资讯消息,ProShares、Leverage Shares和Rex Share...
真金白银出手!近30家基金公司... 近期市场震荡之际,公募基金自购再度升温。 根据Wind公开数据统计,截至7月初,最近一个月已有近30...
人大讲座风波后,张小龙辞任CE... 本报(chinatimes.net.cn)记者于玉金 北京报道 人大讲座风波后,粉笔CEO张小龙离职...
Meta收涨4.7%背后:扎克... 格隆汇7月10日|Meta周四低开高走,最终收涨4.7%,报631.48美元。 据金融投资AI助手...