新V观海外:OpenAI Sora模型背后的架构创新 新V观海外:OpenAI Sora模型背后的架构创新
admin
2024-02-18 12:45:10
0


陈沛/文 OpenAI最近介绍了新的AI视频模型Sora的部分生成视频示例,引发了很多关注。Sora模型直观上带来的最大提升是能够直接生成长达60秒的视频,且在视频质感和流畅度方面表现的非常出色。

由于OpenAI的明星效应,Sora模型一经推出便引发很多用户竞相转发,表示视频效果惊为天人,视频制作的相关工作都会被取代。

Sora模型的实际生成效果仍是未知数

但从我实际使用和观察RunwayML、Stable Video Diffusion(SVD)、Adobe Firefly等主流AI视频服务的情况来看,目前AI生成视频的质感往往达不到最初宣传的效果,还会在物体行进方向、人物四肢等方面出现明显错误,无法满足实际应用的需求。

而Sora模型目前还处于测试阶段,预计再经过一段时间的安全测试和用户反馈后才会正式提供服务,因此还无法了解Sora模型的实际效果。

不过,OpenAI也没有刻意回避Sora模型生成错误内容的情况。在OpenAI发布的技术报告中有一段Sora模型生成的错误视频,展示了桌上的水杯会先从底部流出果汁,然后沿着错误的方向和角度倒在桌上。

Sora模型的背后是2022年刚刚面世的新架构

Sora模型的最大突破是视频时长。与之前的RunwayML、SVD只能生成4秒左右的视频片段相比,Sora模型生成的60秒视频实现了明显提升。

Sora模型实现视频时长突破的主要功臣是它所采用的Diffusion Transformer架构。该架构由Sora模型的主要作者Bill Peebles在2022年刚刚提出,才在ICCV 2023大会上做过介绍。

按照Bill Peebles在论文中的说法,他将Transformer结构替代了Diffusion模型中常用的U-Net结构,并将图像输入转化成了Patch(类似语言模型中输入的Token),得到了新的Diffusion Transformers架构,提升了原来Diffusion模型在深度和宽度上的可扩展性,为视频模型增加输出时长奠定了基础。

实际上,不仅Sora模型背后的Diffusion Transformer架构才面世不久,就连Sora技术报告后引用的32篇研究论文中,绝大多数也都是近3年新发布的研究结果。

研究驱动和融资驱动已成为AI发展的关键要素

回首2017年Transformer研究论文面世后,2019年就出现了首个GPT模型的发展成果。而近两年刚刚提出Diffusion Transformer的研究论文,很快就转化成了Sora模型这样的突破性产品。

如今AI领域的重要变化,往往不是来自于某个功能或应用层面,而是发源于底层架构的研究创新。研究驱动正在AI发展中起到越来越关键的作用。

另一方面,有了Diffusion Transformer这样的研究创新后,往往也是在OpenAI这样资源雄厚的机构中才能做的出来。

在开发阶段,把Diffusion Transformer的研究落地成Sora的产品需要投入大量的预训练、数据、工程资源。而在Sora服务正式推出后,运营推理过程中的资源消耗和算力成本也不可小视,融资驱动也正在成为AI发展的必要条件。

从Sora模型这个例子也能看出,要深度理解AI领域的关键动向,如今必须要从研究层面和融资层面进行观察和跟踪,从而更好地洞察AI发展的未来走势。

相关内容

热门资讯

综述丨国际金价突破5500美元... 新华社纽约1月28日电 综述|国际金价突破5500美元 再创历史新高 新华社记者徐静 受基本面因素支...
乳腺结节饮食避坑,这些食物少吃... 太原龙城中医医院科普:乳腺结节的形成与内分泌平衡密切相关,而饮食作为影响内分泌的重要因素,对结节的发...
聚焦AI应用,这只特色ETF火... 最近的市场,正在释放一种并不寻常的信号。 不是指数的全面突破,也不是权重板块的集体异动,而是一股来自...
网民票选AI王者,LMAren... 一场AI界的《创造101》火了!LMArena让你盲投选出最强AI,三年从校园项目逆袭,刚刚融1.5...
近40美妆企业IPO激战:上游... “美妆产业 全链逐鹿IPO” 2025年美妆行业资本化的浪潮未歇,2026年开年便呈现密集发力态势:...
OEXN:金银比与历史周期预警 来源:市场资讯 1月28日,在全球资产波动性加剧的背景下,OEXN观察到比特币与白银的价格比率正释放...
数据看盘五家机构集体抢筹泸州老... 沪深股通今日合计成交3972.24亿,其中紫金矿业和宁德时代分居沪股通和深股通个股成交额首位。板块主...
原创 通... 近些年,国内经济一直处于通缩的周期之内。数据显示:2025年居民消费价格涨跌幅为0。这意味着2025...
新春订货会“热”背后的仰韶战略... 2026年开年,白酒行业仍在存量博弈的深水区中艰难前行。渠道信心疲软、消费理性回归、名酒下沉加剧,区...
赛道精准卡位、业绩出色、产品线... 最近几天市场总体震荡上行,走势也比较复杂,多个题材热点交替表现。市场有机会,但也有不确定性,有色资源...
郎酒1月出货同比增长,全年销售... 1月28日,古蔺县召开2026年郎酒高质量发展交流会。会上,郎酒集团董事长汪俊林表示,2026年开局...
刚刚,大面积涨停!午后突然暴涨... 【导读】白酒板块午后集体上攻,贵州茅台涨近9% 中国基金报记者 晨曦 刚刚,白酒股集体暴涨! 1月2...
麦趣尔被申请破产清算 1月28日,麦趣尔发布公告称,公司于近期知悉债权人广州市铭慧机械股份有限公司(以下简称“铭慧机械”)...
金饰克价破1700元,一夜涨9... 黄金价格再度上涨。 1月29日早盘,国际金价现货黄金价格一度冲高至5579.67美元/盎司,再度创下...
起底水贝黄金平台“杰我睿”:资... “超580万元资金无法提现,另有7800克黄金无法提货!”消费者张小茹(化名)心急如焚。 近日,和张...
白酒涨停,科技熄火!帮主收评:... 各位朋友,收盘了。我是帮主郑重。 如果你只看上证指数那0.16%的微涨,可能觉得今天风平浪静。但打开...
互联网医院系统源码如何落地?智... 这两年,医疗数字化的推进速度远超很多人的预期。从线上问诊到互联网医院,从电子病历到智慧医院建设,政策...
多地公布数字人民币最新“成绩单... 2026年伊始,随着新一代数字人民币计量框架、管理体系等正式落地,我国数字人民币试点工作全面迈入2....
发展新能源就是拥抱未来 在世界经济论坛2026年年会上,绿色经济和新能源话题引发热议。其中,一份名为《绿色经济增长的首席执行...
被扣5分+罚40万!北京国安:... 北京时间1月29日,中国足协反赌扫黑专项整治行动新闻发布会,公布了最新的处罚结果。北京国安足球俱乐部...