类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
844
-
浏览
1
-
获赞
69851
热门推荐
-
潮牌 CPFM 2020 春季新品将于 DSM 洛杉矶店上架
潮牌汇 / 潮流资讯 / 潮牌 CPFM 2020 春季新品将于 DSM 洛杉矶店上架2020年02月13日浏览:4206 自携手 Human Made 带来合作后,日范志毅:国足首战或1
范志毅:国足首战或1-2负澳大利亚 平均年龄大≠状态下滑_比赛www.ty42.com 日期:2021-07-04 19:01:00| 评论(已有289263条评论)新赛季起航!安切洛蒂将在7月6日带队进行新赛季首练
新赛季起航!安切洛蒂将在7月6日带队进行新赛季首练_球员www.ty42.com 日期:2021-07-05 01:01:00| 评论(已有289323条评论)20年!俱乐部700球!C罗成足坛NO.1 青春你慢点走
20年!俱乐部700球!C罗成足坛NO.1 青春你慢点走 2022年10月10日 10月10日凌晨,曼联客场2-1战胜埃弗顿。比赛中,C罗成为英雄,替补出场的他打进了制胜进球。此役过后,C罗《辐射》真人剧集第二季将于11月开拍
亚马逊Prime Video热门剧集《辐射》第二季消息来了,据第一季女演员Leslie Uggams透露,《辐射》第二季将于11月正式开始拍摄,这意味着几周后所有人就会回到片场。Leslie Ugga瑞典征召带伤伊布 穆里尼奥怒不可遏
下周瑞典和法国有一场友谊赛,国米大将伊布在伤势未愈的情况下被征召,导致主教练穆里尼奥怒不可遏。上个赛季国米的明星球员瑞典天王兹拉坦就深受伤病困扰。三月之后由于长期的膝伤他错失了国米联赛后半阶段的许多重美潮 HUF x Toho 全新联名哥斯拉主题系列 Lookbook 赏析
潮牌汇 / 潮流资讯 / 美潮 HUF x Toho 全新联名哥斯拉主题系列 Lookbook 赏析2020年06月26日浏览:3568 继早前的休闲夏季假日系列 Lo除了牛肉面,甘肃还有数不清的特色面食
伊布放狂言:兹拉坦在米兰踢球 米兰就是意甲冠军
伊布放狂言:兹拉坦在米兰踢球 米兰就是意甲冠军_曼联www.ty42.com 日期:2021-10-06 09:01:00| 评论(已有305582条评论)太平洋设计三季度经营管理工作会议在沪召开
9月19日,太平洋设计2017年第三季度经营管理工作会议在沪召开。太平洋设计董事局主席叶曼参加会议并做工作部署。会议首先宣布了太平洋设计总部各中心、下属各集团任职决定。运营中心及财务中心分别对欧冠前瞻:萨格勒布迪纳摩vs切尔西,蓝军在客场能否取得开门红
欧冠前瞻:萨格勒布迪纳摩vs切尔西,蓝军在客场能否取得开门红2022-09-05 16:40:552022-2023赛季欧冠首轮比赛将迎来:萨格勒布迪纳摩vs切尔西,萨格勒布迪纳摩在主场对阵切尔西,这亚冠1/4决赛起改为单回合决胜 决赛同样为单场定胜负
亚冠1/4决赛起改为单回合决胜 决赛同样为单场定胜负_亚足联www.ty42.com 日期:2021-07-05 12:01:00| 评论(已有289441条评论)芙清水乳怎么样(芙清水乳成分)
芙清水乳怎么样(芙清水乳成分)来源:时尚服装网阅读:2134芙清凝胶是很火的一款护肤品,芙清凝胶怎么样?它的作用如何?1、芙清抗菌功能性敷料凝胶,主打抗炎修复,适合在痘痘爆发期使用,不仅可以改善痤疮和C罗本赛季首发时 曼联尚未赢球&进球
C罗本赛季首发时 曼联尚未赢球&进球 2022年10月22日 曼联与热刺一战中,C罗拒绝被换上场,并且在比赛结束前提前离场,遭到主帅滕哈赫的停赛、停训纪律处罚。sofascore罗列了本赛季边境出现分辨率有问题怎么办
边境出现分辨率有问题怎么办36qq8个月前 (08-14)游戏知识43