类Sora模型到底懂不懂物理?字节完成系统性实验证明
Sora爆火以来,模明“视频生成模型到底懂不懂物理规律”受到热议,型到系统性实但业界一直未有研究证实。底懂近日,不懂字节跳动豆包大模型团队公布最新论文,物理完成研究历时8个月,字节围绕“视频生成模型距离世界模型有多远”首次在业界完成系统性实验并给出明确结论:视频生成模型可以记忆训练案例,验证但暂时还无法真正理解物理规律,模明做到“举一反三”。型到系统性实
图灵奖得主、底懂Meta首席AI科学家杨立昆点赞并转发了该研究,不懂表示“结论不令人意外,物理完成但很高兴终于有人做了这个尝试!字节”
自OpenAI发布Sora模型以来,验证很多视频生成模型都会强调其生成结果对物理规律的模明遵循。豆包大模型视觉团队相关小组,对视频生成模型究竟能否从视觉数据中“发现”并“理解”物理定律感到好奇,决定深入研究。
历时8个月,该团队完成了业界首个系统性的实验研究。团队通过专门开发的物理引擎合成了匀速直接运动、小球碰撞、抛物线运动等经典物理场景的运动视频,用于训练基于主流DiT架构的视频生成模型。然后,通过检验模型后续生成的视频在运动和碰撞方面是否符合力学定律,判断模型是否真正理解了物理规律,并具有“世界模型”的潜力。
实验中设计的不同运动场景
豆包大模型团队的实验发现,即使遵循“Scaling Law”增大模型参数规模和数据量,模型依然无法抽象出一般物理规则,做到真正“理解”。
以最简单的匀速直线运动为例,当模型学习了不同速度下小球保持匀速直线运动的训练数据后,给定初始几帧,要求模型生成小球在训练集速度区间内匀速直线运动的视频,随着模型参数和训练数据量的增加,生成的视频逐渐更符合物理规律。
然而,当要求模型生成未曾见过的速度区间(即超出训练数据范围)的运动视频时,模型突然不再遵循物理规律,并且无论如何增加模型参数或训练数据,生成的结果都没有显著改进。这表明,视频生成模型无法真正理解物理规律,也无法将这些规律泛化应用到全新的场景中。
通过进一步的实验分析,研究团队得出结论,“生成新视频时,模型主要依赖对训练案例的记忆和匹配。视频生成模型就像一个只会‘抄作业’的学生,一旦遇到从未见过的场景,如不同大小、速度的物体相互作用,就会‘犯迷糊’,生成结果与物理规则不符。”
不过,研究中也有一个好消息:如果训练视频中所有概念和物体都是模型已熟悉的,此时加大训练视频的复杂度,比如组合增加物体间的物理交互,通过加大训练数据,模型对物理规律的遵循将越来越好。这一结果可为视频生成模型继续提升表现提供启发。
据了解,本研究两位核心一作都非常年轻,一位是95后,一位是00后,在豆包大模型团队专注视觉领域的基础研究工作。作者们一直对世界模型感兴趣,在8个月的探索中,他们阅读了大量物理学研究文献,也尝试从游戏中获得研发灵感,历经多次失败后,最终一步步确定研究思路和实验方法。
友链
外链
互链
Copyright © 2023 Powered by
六合彩图库源码【购买联系电报bc3979】AC彩票网站源码|六合彩源码|彩票搭建|新中原六合彩源码|【网站bc9797.com】六合彩论坛源码【联系飞机bc3979】
sitemap
-
文章
839
-
浏览
85
-
获赞
19516
热门推荐
-
强!麦迪逊本赛季客场送出6记助攻,五大联赛球员中最多
2月3日讯 在英超第23轮比赛中,麦迪逊助攻理查利森破门,帮助热刺客场2比1领先埃弗顿。据Squawka统计,本赛季至今,麦迪逊在联赛客场比赛中送出6记助攻,五大联赛球员中最多。 木子)标签:埃弗顿司法服务融入基层治理,“老娘舅”们的参考书走进了沉浸式实训课堂
当司法服务融入基层治理,典型案例走进实训课堂,会产生怎样的联动效应?昨天,上海二中院与宝山法院、宝山区社区治理学院共同开展“缘法善治 聚力赋能——法治服务基层治理”联建活动,以法治思维赋能基层治理,以独家述评|玉兰花开,活力无限
杨洁/文一朵造型别致的玉兰花,在春天的上海缓缓绽放。昨晚,备受关注的苹果上海静安店揭开面纱。这是中国最高规格的苹果店,等级仅次于苹果纽约第五大道店。特别设计的苹果Logo选取上海市花白玉兰的造型,展现3月底前,国务院安委会组织22个综合检查组开展一季度全国安全生产明查暗访
讯记者 杜雨敖)记者今天从应急管理部了解到,从3月上旬至3月底,国务院安委会组织22个综合检查组对31个省自治区、直辖市)和新疆生产建设兵团开展一季度安全生产明查暗访。此次安全生产明查暗访,意在进一步伊布放狂言:兹拉坦在米兰踢球 米兰就是意甲冠军
伊布放狂言:兹拉坦在米兰踢球 米兰就是意甲冠军_曼联www.ty42.com 日期:2021-10-06 09:01:00| 评论(已有305582条评论)长宁职工文体社团“长宫舞团”招新啦!
长宁区工人文化宫职工文体社团——“长宫舞团”招募新成员啦!社团由专业的舞蹈老师进行教学指导,常规开设中国舞、燃脂舞、爵士舞等,兼具艺术与运动的特性,社团还会不定期组织参加各类演出及赛事。如果你对舞蹈有本周末起,嘉定这5条公交线路有调整
@嘉定的小伙伴们,注意啦!嘉定63路、嘉定57路、嘉定125路、嘉定71路、嘉定115路这5条公交线路调整行车时刻表~嘉定63路自2024年3月23日首班车起,公交嘉定63路调整行车时刻表,具体如下:酒后结伴偷车,闲逛顺走三轮车!警方迅速破案
3月16日清晨,两名群众相继到崇明公安分局长兴派出所报警,称她们停放在同一小区内的电瓶车被偷。民警迅速前往案发地,通过调阅公共视频,发现一男子于前一晚23时许推着一辆电瓶车走出大门,经报警人辨认,正是Vans x Sandy Liang 联名系列下月开售,创意混搭
潮牌汇 / 潮流资讯 / Vans x Sandy Liang 联名系列下月开售,创意混搭2020年02月25日浏览:4521 近日,范斯释出了与纽约设计师 Sandy对电动车安全隐患say no!他们这样做→
电动车充电难,是不少老小区“老大难”的问题。为了充电,个别居民出“奇招”:私自飞线、将电瓶带回家、把车停进楼道……引发一系列安全隐患。在实地走访、充分调研的基础上,3月以来,四平路街道深入开展消防安全春意盎然?!南浔“油基鱼塘”油菜花开金灿灿?
眼下,在南浔和孚镇新荻村“油基鱼塘”春意盎然,千亩鱼塘的塘坝上油菜花竞相开放,一大片一大片的金黄映衬在蓝天碧云下,俨然是一幅沁人心脾的风景图画。图说:空中俯瞰,鱼塘上盛开的油菜花和周边的村庄相得益彰。燃青春之热血,固全民之国防 上海市举行2024年上半年新兵欢送仪式
3月21日上午,本市新兵欢送仪式在上海火车站举行。市委常委、副市长华源,市委常委、警备区少将政委胡世军等军地领导为即将开启军旅生涯、踏上保家卫国征途的新兵送行。他们与新兵一一握手话别,寄语新兵牢记初心樱花粉 Air Max 270 React ENG 鞋款上脚美图赏析
潮牌汇 / 潮流资讯 / 樱花粉 Air Max 270 React ENG 鞋款上脚美图赏析2020年02月21日浏览:4464 自诞生以来,Air Max 270徐汇首例!社区医院也有这项技术
对于很多居民朋友们来说,有个头疼脑热去社区卫生服务中心瞧瞧最方便不过,但其实随着公共卫生服务水平的提高,许多社区卫生服务中心功能正日趋完善,以前只能在二三级医院进行的专业治疗,如今居民在“家门口”就可紫叶李盛开啦!长宁这条“粉色大道”也太浪漫了
春风和煦,万物苏醒,又到了百花竞艳的好时节。在长宁区外环林带生态绿道,一场春的盛宴正悄然上演。“宁宁”在绿道空港八路入口不远处的三米林带里看到,路两旁的紫叶李已经迎春盛开,满树繁花如云似锦,从远处望去