【202511】Cosmos-Predict2.5-01-数据篇:用于PhysicalAI的基于视频基础模型的世界模拟【2亿原始视频(3500万小时)➞60亿经整理的片段➞4%➞2亿高质量clips】

news2026/4/30 18:40:49
《World Simulation with Video Foundation Models for Physical AI》Abstract摘要We introduce [Cosmos-Predict2.5], the latest generation of the Cosmos World Foundation Models for Physical AI. Built on a flow-based architecture, [Cosmos-Predict2.5] unifies Text2World, Image2World, and Video2World generation in a single model and leverages [Cosmos-Reason1], a Physical AI visionlanguage model, to provide richer text grounding and finer control of world simulation. Trained on 200 M curated video clips and refined with reinforcement learning-based post-training, [Cosmos-Predict2.5] achieves substantial improvements over [Cosmos-Predict1] in video quality and instruction alignment, with models released at and scales. These capabilities enable more reliable synthetic data generation, policy evaluation, and closed-loop simulation for robotics and autonomous systems. We further extend the family with [Cosmos-Transfer2.5], a control-net style framework for Sim2Real and Real2Real world translation. Despite being3.5 × 3 . 5 \times3.5×smaller than [Cosmos-Transfer1], it delivers higher fidelity and robust long-horizon video generation. Together, these advances establish [Cosmos-Predict2.5] and [Cosmos-Transfer2.5] as versatile tools for scaling embodied intelligence. To accelerate research and deployment in Physical AI, we release source code, pretrained checkpoints, and curated benchmarks under the NVIDIA Open Model License at http s://github.com/nvidia-cosmos/cosmos-predict2.5 and https://github.com/nvidia-cosmos/cosmos-transfer2. 5. We hope these open resources lower the barrier to adoption and foster innovation in building the next generation of embodied intelligence.我们推出 [Cosmos-Predict2.5],这是 Cosmos 物理人工智能世界基础模型的最新一代产品。基于流式架构构建的 [Cosmos-Predict2.5] 将 Text2World、Image2World 和 Video2World 生成功能整合于单一模型之中,并借助物理人工智能视觉语言模型 [Cosmos-Reason1],提供更丰富的文本锚定能力以及对世界模拟的更精细控制。[Cosmos-Predict2.5] 基于 2 亿段精心筛选的视频片段进行训练,并通过基于强化学习的后训练进行优化,在视频质量和指令对齐方面较 [Cosmos-Predict1] 实现了显著提升,并发布了 和 两种规模的模型。这些能力为机器人和自主系统提供了更可靠的合成数据生成、策略评估和闭环仿真。我们进一步扩展了该系列,推出了 [Cosmos-Transfer2.5]— 一个用于 Sim2Real 和 Real2Real 世界转换的 Control-Net风格框架。尽管其规模比 [Cosmos-Transfer1] 小了3.5 × 3 . 5 \times3.5×,但它能提供更高保真度且稳健的长期视频生成。这些进展共同确立了 [Cosmos-Predict2.5] 和 [Cosmos-Transfer2.5] 作为扩展具身智能的多功能工具的地位 。为 加 速 Physical AI 的 研 究 与 部 署 , 我 们 根 据 NVIDIA Open Model License 在https://github.com/nvidia-cosmos/cosmos-predict2.5 和 https://github.com/nvidia-cosmos/cosmos-transfer2.5 发布源代码、预训练 checkpoints 以及精选 benchmarks。我们希望这些开放资源能够降低采用门槛,并促进构建下一代 embodied intelligence 的创新。Contents目录1 Introduction … 31 引言 … 32 Data … 32 数据 … 32.1 Video Curation Pipeline … 42.1 视频筛选流程 … 42.2 Domain Specific Data … 62.2 领域特定数据 … 62.2.1 Robotics … 62.2.1 机器人技术 … 62.2.2 Autonomous Driving … 72.2.2 自动驾驶 … 72.2.5 Physics … 82.2.5 物理 … 83 Method … 83 方法 … 83.1 Flow Matching … 83.2 Network Architecture … 93.2 网络架构 … 94 Training … 104 训练 … 104.1 Pre-training … 104.1 预训练 … 104.2 Post-training … 114.2 后训练 … 114.2.1 Supervised Fine-tuning … 114.2.2 Reinforcement Learning … 134.2.2 强化学习 … 134.2.3 Timestep Distillation … 144.2.3 时间步蒸馏 … 144.3 Infrastructure … 144.3 基础设施 … 145 Results … 155 结果 … 156 Applications … 176 应用 … 176.1 Cosmos-Transfer2.5 … 186.1.1 Results … 196.1.1 结果 … 196.1.2 Long Video Generation … 196.1.2 长视频生成 … 196.2 Cosmos-Transfer2.5 for Robot Policy Learning … 206.2 用于机器人策略学习的 Cosmos-Transfer2.5 … 206.2.1 System and Task Settings … 216.2.1 系统和任务设置 … 216.2.2 Data Augmentation Strategy … 226.2.2 数据增强策略 … 226.2.3 Experiments and Results … 236.2.3 实验与结果 … 236.3 Cosmos-Transfer2.5 for Driving Simulation … 256.3 用于驾驶仿真的 Cosmos-Transfer2.5 … 256.3.1 Model Architecture … 256.3.1 模型架构 … 256.3.2 Training Datasets … 256.3.2 训练数据集 … 256.3.3 Experiments and Results … 286.3.3 实验与结果 … 286.4 Multi-view Generation with Camera Control … 286.4 具有相机控制的多视图生成 … 286.5 Synthetic Data Generation for VLA training … 326.5 用于 VLA 训练的合成数据生成 … 326.6 Action-Conditioned World Generation … 336.6 动作条件世界生成 … 337 Related Work … 357 相关工作 … 358 Conclusion … 368 结论 … 36A Contributors and Acknowledgments … 37A 贡献者与致谢 … 37A. 1 Contributors … 37A. 1 贡献者 … 37A. 2 Acknowledgments … 37A. 2 致谢 … 37Introduction1. 引言Physical AI systems-embodied agents equipped with sensors and actuators-assist humans in carrying out physical tasks by interacting with the environment: their actuators act on the world in response to sensory inputs. Training such systems directly in the real world, however, is often slow, costly, and risky.This is particularly true in the early stages, when system imperfections may lead to unsafe actions that damage either the agent, the environment, or both.Aworld simulatorthat can generatehigh-quality, diverse visual environmentsbased onthe actions of a Physical AI agentcan serve as a safe proxy for the physical world.Such simulators enable agents to acquire perception and control skills entirely in silicon before deployment in the real world (NVIDIA, 2025).In this paper, we introduce [Cosmos-Predict2.5], our latest world foundation model based on flow matching that significantly enhances simulation fidelity across diverse Physical AI domains.Physical AI 系统——配备传感器和执行器的具身智能体——通过与环境交互来协助人类完成物理任务:它们的执行器根据传感输入对世界施加作用。然而,直接在现实世界中训练这类系统往往缓慢、成本高且风险大。这在早期阶段尤为如此,因为系统缺陷可能导致不安全的动作,从而损坏智能体、环境,或两者兼而有之。一个能够基于Physical AI 智能体动作生成高质量、多样化视觉环境的世界模拟器,可以作为物理世界的安全代理。此类模拟器使智能体能够在部署到现实世界之前,完全在硅基环境中获得感知与控制技能(NVIDIA,2025)。在本文中,我们介绍 [Cosmos-Predict2.5],这是我们最新的基于 flow matching 的世界 Foundation Model,显著提升了不同 Physical AI 领域中的模拟保真度。[Cosmos-Predict2.5] leapfrogs the diffusion video world model in [Cosmos-Predict1] (NVIDIA, 2025) via three key improvements. First, we strengthen the data filtering pipeline to produce higher-quality pre-training datasets and manually curate specialized post-training data tailored for Physical AI. Second, we simplify the model architecture and combine Text2World, Image2World, and Video2World capabilities into a single model. Third, we improve the training recipe, leveraging model merging and a novel reinforcement learning algorithm for post-training, and replace the T5 text encoder used in [Cosmos-Predict1] with [Cosmos-Reason1] (NVIDIA, 2025), a modern decoder-only VLM architecture specialized for Physical AI, providing richer text representations and enabling finer-grained control over world generation. Through extensive experiments, we demonstrate that [Cosmos-Predict2.5] delivers substantial gains over [Cosmos-Predict1] in bothoutput quality and prompt alignment.[Cosmos-Predict2.5] 通过三项关键改进,超越了 [Cosmos-Predict1](NVIDIA,2025)中的 diffusion video worldmodel。首先,我们强化了数据过滤流水线,以生成更高质量的预训练数据集,并为 Physical AI 手动整理了定制化的专业后训练数据。其次,我们简化了模型架构,并将 Text2World、Image2World 和 Video2World 能力整合到单一模型中。第三,我们改进了训练方案,利用模型合并和一种用于后训练的新型强化学习算法,并将 [Cosmos-Predict1] 中使用的 T5text encoder 替换为 [Cosmos-Reason1](NVIDIA,2025) —一 种面向 Physical AI 的现代 decoder-only VLMarchitecture,可提供更丰富的文本表征,并实现对 world generation 更细粒度的控制。通过大量实验,我们表明[Cosmos-Predict2.5] 在输出质量和 Prompt Alignment 两方面都较 [Cosmos-Predict1] 有显著提升。We further demonstrate that these advancements yield broad and practical benefits across diverse downstream Physical AI applications.In particular, they enable more efficient synthetic data generation for Vision-LanguageAction (VLA) model training (Jang et al., 2025), a key ingredient for scaling embodied intelligence.Beyond this, [Cosmos-Predict2.5] improvesaction-conditioned video world generationforpolicy validation, enhances coherent multi-view video world generation for autonomous driving simulation, and supports camera-controllable multi-view video world generation for robotic manipulation.我们进一步证明,这些进展为各类下游物理人工智能应用带来了广泛且切实的益处。特别是,它们能够更高效地生成用于视觉-语言-动作(VLA)模型训练的合成数据(Jang et al., 2025),而这正是实现具身智能规模化应用的关键要素。除此之外,[Cosmos-Predict2.5] 还改进了用于策略验证(policy validation)

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2569618.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…