好看不等于会交互!阿里发布基于交互的世界模型基准

news2026/3/27 3:21:05
视频生成技术正在以惊人的速度迭代那些光影绚丽的画面常常让人惊叹人工智能的创造力但当你仔细观察视频中的物理碰撞或物体运动时会发现它们常常并不符合现实世界的常识。由阿里、中科院、北航和北邮的研究人员联合推出的 Omni-WorldBench 评估框架揭开了当前视频模型的幻觉面纱直接指出绝大多数高颜值的 AI 视频在物理规律和交互逻辑面前依然不堪一击。研究团队构建了一个包含上千个测试用例的庞大题库通过引入代理机制的评分系统对市面上最先进的18款模型进行了深度体检不仅明确了各个模型在交互响应能力上的真实边界也为下一代具备真实物理认知能力的4D世界模型指明了研发方向。评估视角的彻底转换世界模型的核心目标是刻画环境状态在特定交互条件下的时间演变以此为反事实推理、规划和决策提供基础。得益于视频生成技术的突破利用高质量的通用视频表征来模拟世界动态已经成为自动驾驶、具身智能和游戏智能体领域的核心路径。视频模型的设计突飞猛进但专门针对世界模型的评估标准却显得有些迟缓。现有的评估基准大多依赖于传统的视频生成指标关注的焦点仅仅停留在静态画面的视觉保真度或文本与视频的对齐程度上使用的往往是 FID 或 FVD 这样的通用测度。另有一些测试虽然意识到了三维空间的重要性评估了模型在视角变化下生成几何一致性场景的能力但它们根本上忽略了时间维度上的动态演变。未来的世界模型必定走向4D生成也就是将空间结构与时间演化结合起来进行联合建模。在这个崭新的范式中模型的核心能力是交互响应即模型需要忠实地反映动作指令是如何在空间和时间中驱动状态发生改变的。没有任何现存的测试基准系统地评估过这一关键维度。为了填补这一空白研究团队提出了 Omni-WorldBench 框架专门用来评估模型在4D环境下的交互响应能力。这个框架包含两个核心组件一个是覆盖多种交互层级和场景类型的系统性提示词套件 Omni-WorldSuite另一个是基于代理机制的量化评估框架 Omni-Metric。左侧的 Omni-WorldSuite 定义了三个层级的交互右侧的 Omni-Metric 则展示了包含交互效果保真度、视频质量、可控性以及最终由多模态大模型融合得出的综合评分流程。题库与分级构建体系为了全面剖析模型的交互表现Omni-WorldSuite 题库在设计上跨越了不同的交互层级与场景类型。交互条件产生的效果可能仅限于单个物体也可能波及局部环境甚至引发全局的环境变化。这种逐步扩大的交互范围对模型的表征和动态模拟能力提出了完全不同的要求。题库中的1068个测试用例严格按照三个互动层级进行组织。第一层级的动作影响仅仅局限于发起动作的物体本身不会改变周围的物体或环境涵盖了透过水晶球观察远方或者沿着河畔小径连续移动等场景。第二层级涉及局部的互动一个物体会直接对另一个物体产生影响例如在篝火中加热金属棒或者自动驾驶车辆在复杂的动态车流中穿梭。第三层级的动作会影响多个物体并导致更广泛的环境变化例如折断意大利面、整理房间的物品或是机械臂抓取水瓶并递给旁边的人。由于世界模型的应用范围极广评估题库不仅包含了日常物理场景还专门覆盖了自动驾驶、具身机器人和游戏模拟三大应用领域全方位考察物理定律、常识推理、因果关系、相机运动、闭环动态和空间约束。如上图所示题库中的测试用例生动地展示了三个交互层级的差异左侧是通用场景中的光学、流体和物理动态右侧则展示了自动驾驶、具身智能和游戏场景中的具体任务红框清晰地标注出了与交互相关的核心实体。为了保证测试用例的高质量和严谨性研究人员采用了两种截然不同的提示词构建策略。第一种是基于真实数据集的生成策略用来解决合成图像在真实感、复杂度和鲁棒性上的不足。研究人员从 DriveLM 数据集中提取自动驾驶视角的首帧图像和相机轨迹测试模型在真实路况下推断道路动态的能力从 InternData-A1 数据集中选取具身机器人的操作任务考察机器人与物体交互时的物理因果关系从 Sekai 数据集中调取游戏环境数据检验模型在高度动态的非真实渲染环境中保持一致运动模式的能力。这些数据提取后由 Qwen-VL 生成初始描述再经由人工逐一核对和精调确保空间关系和物体属性准确无误。第二种是概念驱动的生成策略采用生成、验证、修正的流水线来合成文本、初始状态图像和相机轨迹。研究人员首先构建一个涵盖场景、目标物体和动作的原型概念库随机抽取属性组合后交由 ChatGPT-5.2 生成文本提示和轨迹参数。随后这些输出会经过 Gemini 和 DeepSeek-R1 的交叉比对最后再由人类进行审核与修正。图像生成环节更是精益求精使用 FLUX.1-dev 为每个提示词生成3个候选图像经过严格的物理合理性、指令遵循度和视觉质量筛选部分图像还会利用 Qwen-Image 进行局部修复最终所有入选的图像分辨率均不低于1024乘以1024。上面这张图表详细拆解了 Omni-WorldSuite 的构建流程展示了基于真实数据集和概念驱动两种策略的工作流同时与现有其他评测平台进行了维度和覆盖面的直观对比。题库中的每个测试不仅有文本描述和首帧图像研究人员还为数据打上了详细的辅助标签列出所有出现的实体标记出受影响和不受影响的对象记录受影响实体的预期运动方向和幅度提取按时间顺序发生的关键事件并标注了部分相机的运动方向和闭环轨迹。从上方图表中可以清晰地看到题库的数据分布物理原理、因果关系和常识推理占据了最大的比重牛顿力学、流体力学是物理维度中最常见的类型充分体现了测试用例在语义和结构覆盖上的广度与深度。三维度的裁判法则针对当前模型评估缺乏动态视角的痛点Omni-Metric 评估框架确立了三个相互独立又高度互补的评价维度。第一个维度是生成视频质量。在这个层面评估体系直接采用行业内成熟的客观标准包括成像质量、时间闪烁程度、运动平滑度、动态程度以及内容对齐度。这个维度不仅考察视频单帧画面的静态美感更聚焦于连续序列在时间轴上的视觉连贯性。第二个维度是相机与对象可控性。它专门审查模型在没有外部干预情况下的场景连贯性和对象稳定性。相机控制指标负责定量分析视频中相机运动轨迹的旋转和平移误差。对象控制指标打破了常规的目标检测加规则匹配的局限创造性地将对象一致性问题转化为视觉问答任务从视频中均匀抽取帧画面询问多模态大模型指定的物体是否存在有效避免了因同义词造成的语义误判。此外考虑到视频中经常出现的场景突然切换会破坏评估的准确性框架引入了基于 PySceneDetect 工具的场景过渡检测指标对任何发生画面突变跳跃的视频直接给予零分惩罚以此保障对时间连续性的严苛审查。第三个维度是评估框架的核心所在即交互效果保真度。它下设了四个极其关键的量化指标全面检验模型是否遵循物理定律和时间逻辑。InterStab-L 指标负责量化长周期的时序连贯性它将时间戳离散化运用 SSIM (结构相似性指数) 和 CLIP 视觉编码器综合计算模型在特定的重访时间节点上的低层结构保真度和高层语义一致性同时引入动态门控机制防止那些根本没有发生运动的静态视频骗取高分。InterStab-N 指标专门评估非目标区域的稳定性它提取视频全局的实体掩码剔除目标区域后利用光流场计算剩余背景区域的运动能量能量越小说明背景越稳定得分也就越高。InterCov 指标用于衡量对象层面的因果真实性它利用视觉语言模型的推理能力作为语义验证器检查受动作影响的物体是否做出了符合常识的动态响应同时确认不受影响的物体是否保持了静止。InterOrder 指标则专注于验证视频中连串事件发生的先后顺序是否与真实物理逻辑保持一致。为了整合这三大维度研究人员摒弃了简单的算术平均法创新性地引入了名为 AgenticScore 的代理评分机制。评估框架将每个评价指标视为独立的代理节点先分别算出各维度的平均分随后引入多模态大型语言模型作为聚合代理。这个聚合代理会深入分析测试提示词的语义重心动态计算并分配视频质量、可控性和保真度三个维度的权重比例最终得出一个高度契合测试场景的综合评分。十八款模型现原形带着这套严苛的测试标准研究团队对当下最具代表性的18款前沿模型展开了全面测评。这些模型涵盖了 T2V (文本生成视频)、IT2V (图像生成视频) 以及支持相机参数控制的多种生成范式。参与测试的模型包括 Director3D、OpenSoraPlan、T2V-Turbo、HunyuanVideo、Matrix-Game2.0、Wan2.1、Wan2.2、CogVideo、OpenSora、Cosmos、LargeVideoPlanner、HunyuanWorld、HunyuanGameCraft、ViewCrafter、Gen3c、Lingbot、FantasyWorld 以及 WonderWorld。测试过程全部部署在 H20 计算集群上严格遵循各个模型的官方运行参数。数据表格展现了最直观的成绩单。从综合表现来看拥有丰富输入条件图像生成视频范式展现出了最强的战斗力。在这个组别里Wan2.2 以 75.92% 的 AgenticScore 综合得分傲视群雄Cosmos 以 75.42% 紧随其后。纯文本生成视频组中HunyuanVideo 表现最为出色拿下了 73.96% 的分数。而在支持复杂相机调度的组别中HunyuanWorld 和 WonderWorld 成功领跑得分分别达到了 74.36% 和 74.02%。在基础视觉质量方面绝大多数模型都展现出了极高的水准时间闪烁和运动平滑度这两项指标常常飙升到 95.00% 以上。模型之间的核心差距主要集中在画面动态程度和内容对齐度上比如在相机控制组别里ViewCrafter 和 WonderWorld 在动态程度上拿到了满分但同组的其他模型在这项得分上却参差不齐。真正让各路模型暴露短板的是交互效果保真度测试这项测试无情地考察着模型应对物理规则和逻辑交互的下限。图像生成视频组展现出了较高的逻辑一致性Wan2.2 拔得头筹平均分达到 67.34%。但在带有相机的控制组中模型往往顾此失彼呈现出明显的妥协现象。例如 WonderWorld 在长周期连贯性 InterStab-L 上拿下了惊艳的 84.96%但其非目标区域稳定性 InterStab-N 却断崖式下跌到了 24.89%。当前模型在处理交互逻辑时依然面临挑战维持复杂相机调度的同时保障底层交互规律依然是尚未攻克的难关。现有的视频模型确实已经能在常规指标上跑出漂亮的分数但 Omni-WorldBench 这块试金石证明想要真正打造一个能够受控演化、遵循因果律且支持灵活相机操作的交互式世界模型仍有一段不短的路要走。参考资料https://arxiv.org/pdf/2603.22212https://github.com/AMAP-ML/Omni-WorldBench

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2453099.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…