类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
-
文章
4463
-
浏览
9513
-
获赞
14
热门推荐
-
李铁:尊重和重视每一个对手 长期封闭对球员非常残酷
李铁:尊重和重视每一个对手 长期封闭对球员非常残酷_比赛www.ty42.com 日期:2021-10-06 23:31:00| 评论(已有305679条评论)时尚南站服装店地址查询,时尚中心几点营业
时尚南站服装店地址查询,时尚中心几点营业来源:时尚服装网阅读:616广州南站附近服装批发市场在哪1、有。批发商业市场就是指向再销售者,广州南站附近有白马服装市场位置位于广州火车站对面。服装批发是服装销报道称《最后的生还者》HBO第二季将于2025年上半年播出
根据外媒Deadline报道称,HBO剧集《最后的生还者》第二季将于2025年上半年播出,这与去年剧中艾莉的扮演者贝拉·拉姆齐的说法一致,而官方给出的播出时间只有很宽泛的2025年。《最后的生还者》第像素风生活模拟《月光石岛》:全新DLC“魔法DLC”即将上线
我们非常高兴地宣布,《月光石岛》将于5月21日晚些时候推出全新DLC“魔法DLC”。这个以魔法为主题的扩展包将为您的游戏体验带来一系列新功能和增强内容。新DLC:魔法DLC我们即将推出的DLC“魔法D辽宁:省市区12315部门三级联动 优化市场服务环境
中国消费者报沈阳讯(记者王文郁)9月9日,《中国消费者报》记者从辽宁省市场监管局了解到,辽宁省市场监管事务服务中心投诉举报中心近日会同沈阳市市场监管投诉举报中心、浑南区市场监管局召开专题座谈会议,就O兰州:400余件民间藏品将集中亮相 收藏资讯
声明:本文来源于网络版权归原作者所有,仅供大家共同分享学习,如作者认为涉及侵权,请与我们联系,我们核实后立即删除。监事会主席董树奎视察中粮麦芽(呼伦贝尔)有限公司
8月15日,国务院驻中粮集团监事会主席董树奎一行赴中粮麦芽(呼伦贝尔)有限公司视察。董树奎听取了呼伦贝尔麦芽工程建设及试生产的汇报,参观了制麦车间及物流设施,详细了解麦芽生产及大麦采购、产品销售等企业灰熊平息奇才队小牛队连续第四场获胜唐西奇取得三双
卢卡·唐西奇Luka Doncic)完成了他的NBA赛季第八次三双,达拉斯小牛队Dallas Mavericks)连续115-104战胜了圣安东尼奥马刺队San Antonio Spurs),这是他们徐福记酥心糖的简单介绍
徐福记酥心糖的简单介绍来源:时尚服装网阅读:3707徐福记酥心糖的做法?无皮花生烤箱150度烤10-15分钟,花生变色即可。把奶粉和椰丝,均匀撒到花生上,然后撒上棉花糖,烤箱温度调到200度高火,快速浙江嘉善消保委发布“五一”消费提示
中国消费者报杭州讯记者施本允)“五一”小长假的消费高峰将至,为使广大消费者平安、愉快过节,浙江省嘉兴市嘉善县消保委发布“五一”小长假消费警示,提醒广大消费者文明、理性、健康消费,共同创建和谐稳定的消费官方:国足VS越南8日凌晨1点开球 战沙特时间为13日1点
官方:国足VS越南8日凌晨1点开球 战沙特时间为13日1点_比赛www.ty42.com 日期:2021-10-01 16:01:00| 评论(已有304884条评论)湾区建设九集团领导与广东河源市龙川县县长会谈
3月8日,湾区建设九集团董事局主席连长秋与广东河源市龙川县县长朱以威会谈,双方就幸福新城基础设施项目深入沟通。 连长秋详细介绍了太平洋建设在龙川的战略布局及项目投资建设情况。他表示,集团BEAMS x Columbia 联名 90s 军事风系列公布,6 种款式
潮牌汇 / 潮流资讯 / BEAMS x Columbia 联名 90s 军事风系列公布,6 种款式2020年02月26日浏览:3094 此前携手始祖鸟等多品牌进行合作3年内更换3次全套动力电池组,这台长城欧拉电动汽车怎么了?
中国消费者报报道安徽省马鞍山市消费者刘女士于2019年2月购置了一辆长城欧拉电动汽车,该车在使用过程中多次出现续航问题,截至2022年1月,更换了3次全套动力电池组,且商家未能提供动力电池组的生产合格缺氧手动气闸有什么用
缺氧手动气闸有什么用36qq10个月前 (08-05)游戏知识63