类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
16
-
浏览
575
-
获赞
114
热门推荐
-
《如龙》真人剧花絮曝光 神室町场景完美还原
SEGA近日发布了《如龙》真人电视剧的幕后制作花絮视频,揭秘了剧组如何在现实中重现游戏标志性场景——神室町的幕后故事。 《如龙》真人电视剧制作花絮:视频展现了剧组在东京近郊大规模搭建神室町场景的幕后工专家冀洪秀柱到访大陆为两岸关系发展增加新动能
中新社郑州10月24日电 (记者 郑巧)中国国民党主席洪秀柱将于10月30日至11月3日率团到访南京、北京,并出席两岸和平发展论坛。对此,两岸专家24日在河南郑州表示,大陆跟台湾在野党、社会国企将首次实行重大决策终身追责制 追责“追”什么
原标题:国企将首次实行重大决策终身追责制 追责“追”什么制图:张芳曼国企投资决策有了“硬”约束。近日,国务院办公厅发布《关于建立国有企业违规经营投资责任追究制度的意见》,两部委将进行商品房销售明码标价专项检查
近日,国家发展改革委和住房城乡建设部发出通知,部署从2016年11月10日至12月10日在全国范围内开展商品房销售明码标价专项检查,检查对象为房地产开发企业和房地产中介机构,对房地产开发企业布斯克茨:反超球明显越位 裁判却说我们主动碰球
布斯克茨:反超球明显越位 裁判却说我们主动碰球_姆巴佩www.ty42.com 日期:2021-10-11 06:01:00| 评论(已有306285条评论)《中医健康管理服务规范》《药食同源药膳标准通则》发布
新华社北京11月2日电董瑞丰、徐舟)随着中医药在世界范围不断被人熟悉,如何进一步完善中医药的标准,日益成为业内专家关心的问题。中华中医药学会近日发布《中医健康管理服务规范》《药食同源药膳标准环境保护税法(草案):机动车不缴纳环保税
今天上午,全国人大常委会召开第二十二次会议,《中华人民共和国环境保护税法草案)》首次与公众见面。草案规定,考虑到现行税制中已有车船税、消费税、车辆购置税等税种对机动车的生产和使用进行调节,其中车船税和宋与辽西夏金元的战争总体上说,败多胜少的原因有哪些?
宋与辽西夏金元的战争总体上说,宋大多处于守势,但也有多次积极进攻的情况发生:北宋太宗、徽宗对于燕云地区的经略,北宋仁宗、神宗对西夏的战略进攻,南宋欲复北方故土而展开对金的数次北伐战争:岳飞四次北伐、宋全满贯!法国集齐四大冠军头衔 欧洲杯折戟后正名
全满贯!法国集齐四大冠军头衔 欧洲杯折戟后正名_决赛www.ty42.com 日期:2021-10-11 06:01:00| 评论(已有306286条评论)两部委将进行商品房销售明码标价专项检查
近日,国家发展改革委和住房城乡建设部发出通知,部署从2016年11月10日至12月10日在全国范围内开展商品房销售明码标价专项检查,检查对象为房地产开发企业和房地产中介机构,对房地产开发企业解振华:今年前三季已经完成全年节能降碳目标
中新网11月1日电 中国气候变化事务特别代表解振华1日表示,今年的目标是全年能耗的强度要下降3.4%、碳强度要下降3.9%,前三个季度能耗的强度已经下降了5.2%,碳强度下降了6%左右,也就明成祖朱棣即位后,锦衣卫的权利是怎样达到巅峰时期?
明成祖即位后恢复了锦衣卫,从此锦衣卫的权利渐渐加大,巅峰时期的锦衣卫监视全国,令人闻风丧胆。下面趣历史小编就为大家带来详细的介绍,一起来看看吧!明成祖朱棣即位后,又恢复并加强了锦衣卫的权力。在那以后,关键先生!黄喜灿数据:点射绝平+造反超任意球&红牌,获评7.7分
2月3日讯 亚洲杯1/4决赛第2场较量,澳大利亚1-2被韩国队逆转。黄喜灿首发出战105分钟被换下,他在补时阶段点射绝平,加时赛制造了孙兴慜反超比分的任意球,随后黄喜灿又制造澳大利亚球员奥尼尔红牌离场中国社科院蓝皮书: 国企社会责任发展指数上升
中国社科院企业社会责任研究中心10月30日在“首届中国社会责任百人论坛”上发布的《企业社会责任蓝皮书2016)》显示,国企100强,尤其是中央企业社会责任发展指数持续领先于民企吉林:与焦裕禄干部学院合作加强公务员党性教育
近日,吉林省“学习焦裕禄精神,坚定理想信念”实践教育专题培训班在河南省兰考县焦裕禄干部学院进行。焦裕禄干部学院被确定为“吉林省行政机关公务员党性教育培训基地”,双方举行了挂牌仪式,签署了公务