OpenAI发布MRC超算协议,重塑10万GPU集群通信,AMD等合作推进

news2026/5/9 15:29:29
每周有9亿人在使用ChatGPT支撑其运转的系统正在成为核心基础设施。要让AI变得更聪明企业必须把成千上万块芯片连接在一起协同工作。而芯片之间的数据传输速度直接决定了整个系统的计算效率。OpenAI联合AMD、博通、英特尔、微软和英伟达通过开放计算项目正式发布了多路径可靠连接网络协议Multipath Reliable ConnectionMRC。MRC技术打破了传统网络设计的局限通过多平面网络、数据包喷射和静态源路由技术彻底解决了超大规模计算集群中的网络拥堵和设备故障停机难题大幅降低了建设成本与能耗。拆解超大单行道训练前沿AI模型时一个简单的计算步骤会产生数百万次的数据传输。哪怕只有一个数据包迟到整个训练任务都会受到波及导致昂贵的计算芯片只能停下来原地等待。集群规模越大网络拥堵、线路老化和设备故障引发的延迟就越频繁。在以往的架构下哪怕只是一根网线接触不良都有可能导致整个训练任务彻底崩溃。工程师必须让系统从上一个保存点重新启动或者让整个网络停顿数十秒去重新计算数据传输路线。大规模同步预训练要求所有芯片步调一致工作负载就成了一个巨大的故障放大器一点微小的波动都会带来极高的算力周期和时间成本。为了应对Stargate星际之门级别超级计算机的建设需求工程师必须从底层架构重新思考网络设计。OpenAI的扩展团队与业界伙伴耗时两年开发出了MRCMultipath Reliable Connection多路径可靠连接协议。这项技术建立在RoCERDMA over Converged Ethernet基于融合以太网的远程直接内存访问标准的基础之上。RoCE是一项由IBTAInfiniBand Trade AssociationInfiniBand贸易协会制定的标准专门用于加速图形处理器和中央处理器之间的直接内存读取。MRC吸收了UECUltra Ethernet Consortium超级以太网联盟开发的相关技术并将其扩展到支持大规模计算网络。构建高弹性的网络需要足够的物理冗余保证部分线路断开时数据依然有路可走。传统思路是将每个网络接口视作一条800Gb/s每秒800吉比特的超宽单行道。MRC选择将这条单行道拆分。一个接口可以连接到8个不同的交换机上由此构建出8个独立的、平行运行的100Gb/s网络平面。这种设计让计算集群的形态发生了巨大改变。一台原本只能连接64个800Gb/s端口的交换机现在可以连接512个100Gb/s的端口。在连接约13万块GPU时新架构只需要两层交换机就能完成全互联配置传统架构往往需要堆叠三到四层交换机。MRC对多平面网络的支持意味着我们可以用两层交换机连接超过10万个GPU。与传统方法相比这降低了所需的功率、可能发生故障的组件数量和网络的总成本。层级的减少大幅削减了建设成本降低了系统整体能耗减少了潜在的硬件故障点。更多的数据流量可以留在底层交换机内部进行本地处理传输效率得到了实质性的提升。把数据当水洒出去多平面网络提供了极其丰富的路径选择想要充分利用这些路径并非易事。传统的AI训练网络协议要求单次数据传输必须沿着固定的一条路径前进以确保数据包能够按照原本的顺序到达终点。在拥有众多平面的大型网络中死板的单路径规则会引发严重的后果。不同的数据流很容易在同一条线路上发生碰撞造成局部拥堵其他空闲的平行网络平面却无事可做。单纯增加物理路径而不改变传输规则系统的整体表现依然会非常糟糕。MRC彻底改变了数据传输的派发模式。系统不再给数据分配单一的固定通道而是将一次传输任务拆散像喷水壶一样将海量的数据包均匀地喷射到网络中的数百条路径和所有平面上。这些数据包到达终点的顺序是完全错乱的。每一个MRC数据包内部都携带了最终的内存地址坐标。目的地接收端会在数据到达的瞬间直接将它们安放到对应的内存位置上完成拼图般的重组。把流量摊薄到无数条路径上网络内部的局部拥堵热点就不复存在了。所有的数据交互任务都能保持相近的处理时间消除了拖慢同步训练的木桶短板。每一个MRC连接都会在系统里保留一点状态记录。一旦协议察觉到某条路径的流速变慢就会迅速将其替换为另一条畅通的路径让整个网络的负载保持绝对的均衡。遇到数据包丢失的情况系统会采取最保守的安全策略假定该路径上的某些硬件已经损坏立即停止向该路径发送数据并重新发送丢失的内容。被弃用的路径也不会被彻底遗忘系统会定期发送探测包去检查故障是否已经修复一旦确认恢复正常就会将其重新纳入传输队伍。网络发生拥堵时接收端来不及处理数据同样会造成丢包。MRC引入了数据包修剪机制来应对这种状况。面临拥堵时交换机会切掉数据包的核心有效载荷只把表头信息发送给目的地接收端看到表头后会直接发起明确的重传请求。这种修剪动作有效避免了系统产生误判防止协议把单纯的拥堵错误地当成物理硬件损坏。让交换机停止思考有了多平面拓扑、数据喷射、负载均衡和数据包修剪这些特性的配合MRC连接能够在微秒级别内察觉并绕过网络故障。传统网络往往需要耗费几秒甚至几十秒的时间才能稳定下来并重新规划路线。MRC在简化网络控制层面走得更远。传统的交换机通常需要运行BGPBorder Gateway Protocol边界网关协议等动态路由协议。这类协议的作用是让交换机自己去计算可用的路径并绕开故障。交换机本身是非常复杂的设备里面运行着复杂的控制软件。当它们出现一些难以察觉的隐蔽故障时工程师很难排查原因网络连接也会随之频繁中断。动态路由在MRC架构下失去了存在的必要。MRC采取了非常激进的做法直接禁用了动态路由转而使用SRv6IPv6 Segment Routing基于IPv6的段路由技术。利用SRv6发送端可以直接决定每一个数据包在网络中应该走的具体路径。发送端把沿途每一台交换机的识别码按顺序嵌入到数据包的目的地址里。交换机在转发数据时只需要核对数据包上有没有自己的识别码。核对无误后交换机把自己的识别码抹掉让下一台交换机的识别码显露出来。接着交换机去查看一张静态路由表把数据包扔向下一个目的地。这张静态路由表在交换机初次开机部署时就已经配置完毕此后再也不会发生变动。交换机不需要再耗费算力去重新计算路线只需要像一个毫无思想的流水线工人一样机械地遵循静态规则进行转发。如果某条路径真的断了发送端不再往这条路上喷射数据包即可。这样的设计在实际生产环境中展现出了惊人的稳定性。在拥有数百万条网线的训练网络里底层和上层交换机之间每分钟都会发生多次链路抖动。MRC确保了这些抖动对同步预训练任务没有产生任何可测量的负面影响工程师甚至不需要优先去维修那些不稳定的网线。在近期一次前沿模型的训练过程中运维团队重启了四台上层交换机。按照以往的经验运维人员必须极其谨慎地协调时间生怕打断训练任务。有了MRC的庇护运维团队无需跟负责训练的团队打任何招呼直接在系统全速运转时完成了设备重启。线路维修也是如此损坏的网线可以带电直接热修复。能用的线MRC自然会用不能用的线它会自行绕开。在训练运行期间捕获的真实数据显示MRC对T1开关完全丢失的反应。训练工作暂时放缓但很快恢复。以往只要GPU网卡和底层交换机之间的连接断开整个训练任务就会宣告失败。现在哪怕一张拥有8个端口的网卡坏掉了一个端口系统最高传输速率仅仅下降八分之一。MRC会瞬间察觉到端口丢失立刻重新计算路径绕开损坏的平面同时通知网络里的其他节点不要再往这个损坏的平面发送数据。多数掉线故障在一分钟内就能物理恢复随后该平面会被无缝接纳回传输队伍中。系统速度的实际损耗往往比物理硬件容量的损失要小得多。开放标准与硬件落地没有任何一家企业能独自解决AI领域的硬件挑战。MRC协议目前已经部署在OpenAI最大的英伟达GB200超级计算机上包括位于德克萨斯州阿比林市的OCIOracle Cloud Infrastructure甲骨文云基础设施站点以及微软的Fairwater超级计算机中。这项技术已经利用英伟达和博通的硬件成功训练了OpenAI多个模型。AMD不仅联合主导了MRC规范的编写还贡献了应对真实世界复杂环境的高级拥塞控制技术。AMD已经在其实验集群中大规模部署并验证了这项技术。凭借Pensando Pollara 400 AI NICNetwork Interface Card网络接口卡的软硬件全可编程能力AMD在MRC标准正式确立之前就已经实现了改进版RoCEv2传输协议的早期验证。目前AMD正将这项成熟的技术平滑过渡到下一代Vulcano 800G AI NIC网卡上。AMD近期股价也翻了一番。通过开放计算项目MRC规范的细节已经向全世界公开。全行业建立统一的关键基础设施标准能够让计算系统跨越不同合作伙伴的生态壁垒。网络正在成为消化硬件故障的减震器保持计算资源的持续高产出让通向通用AI的道路变得更加平稳。参考资料https://openai.com/index/mrc-supercomputer-networking/https://www.amd.com/en/blogs/2026/amd-advances-ai-networking-at-scale-with-mrc.htmlhttps://www.opencompute.org/documents/ocp-mrc-1-0-pdf

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2597965.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

SpringBoot-17-MyBatis动态SQL标签之常用标签

文章目录 1 代码1.1 实体User.java1.2 接口UserMapper.java1.3 映射UserMapper.xml1.3.1 标签if1.3.2 标签if和where1.3.3 标签choose和when和otherwise1.4 UserController.java2 常用动态SQL标签2.1 标签set2.1.1 UserMapper.java2.1.2 UserMapper.xml2.1.3 UserController.ja…

wordpress后台更新后 前端没变化的解决方法

使用siteground主机的wordpress网站,会出现更新了网站内容和修改了php模板文件、js文件、css文件、图片文件后,网站没有变化的情况。 不熟悉siteground主机的新手,遇到这个问题,就很抓狂,明明是哪都没操作错误&#x…

网络编程(Modbus进阶)

思维导图 Modbus RTU(先学一点理论) 概念 Modbus RTU 是工业自动化领域 最广泛应用的串行通信协议,由 Modicon 公司(现施耐德电气)于 1979 年推出。它以 高效率、强健性、易实现的特点成为工业控制系统的通信标准。 包…

UE5 学习系列(二)用户操作界面及介绍

这篇博客是 UE5 学习系列博客的第二篇,在第一篇的基础上展开这篇内容。博客参考的 B 站视频资料和第一篇的链接如下: 【Note】:如果你已经完成安装等操作,可以只执行第一篇博客中 2. 新建一个空白游戏项目 章节操作,重…

IDEA运行Tomcat出现乱码问题解决汇总

最近正值期末周,有很多同学在写期末Java web作业时,运行tomcat出现乱码问题,经过多次解决与研究,我做了如下整理: 原因: IDEA本身编码与tomcat的编码与Windows编码不同导致,Windows 系统控制台…

利用最小二乘法找圆心和半径

#include <iostream> #include <vector> #include <cmath> #include <Eigen/Dense> // 需安装Eigen库用于矩阵运算 // 定义点结构 struct Point { double x, y; Point(double x_, double y_) : x(x_), y(y_) {} }; // 最小二乘法求圆心和半径 …

使用docker在3台服务器上搭建基于redis 6.x的一主两从三台均是哨兵模式

一、环境及版本说明 如果服务器已经安装了docker,则忽略此步骤,如果没有安装,则可以按照一下方式安装: 1. 在线安装(有互联网环境): 请看我这篇文章 传送阵>> 点我查看 2. 离线安装(内网环境):请看我这篇文章 传送阵>> 点我查看 说明&#xff1a;假设每台服务器已…

XML Group端口详解

在XML数据映射过程中&#xff0c;经常需要对数据进行分组聚合操作。例如&#xff0c;当处理包含多个物料明细的XML文件时&#xff0c;可能需要将相同物料号的明细归为一组&#xff0c;或对相同物料号的数量进行求和计算。传统实现方式通常需要编写脚本代码&#xff0c;增加了开…

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器的上位机配置操作说明

LBE-LEX系列工业语音播放器|预警播报器|喇叭蜂鸣器专为工业环境精心打造&#xff0c;完美适配AGV和无人叉车。同时&#xff0c;集成以太网与语音合成技术&#xff0c;为各类高级系统&#xff08;如MES、调度系统、库位管理、立库等&#xff09;提供高效便捷的语音交互体验。 L…

(LeetCode 每日一题) 3442. 奇偶频次间的最大差值 I (哈希、字符串)

题目&#xff1a;3442. 奇偶频次间的最大差值 I 思路 &#xff1a;哈希&#xff0c;时间复杂度0(n)。 用哈希表来记录每个字符串中字符的分布情况&#xff0c;哈希表这里用数组即可实现。 C版本&#xff1a; class Solution { public:int maxDifference(string s) {int a[26]…

【大模型RAG】拍照搜题技术架构速览:三层管道、两级检索、兜底大模型

摘要 拍照搜题系统采用“三层管道&#xff08;多模态 OCR → 语义检索 → 答案渲染&#xff09;、两级检索&#xff08;倒排 BM25 向量 HNSW&#xff09;并以大语言模型兜底”的整体框架&#xff1a; 多模态 OCR 层 将题目图片经过超分、去噪、倾斜校正后&#xff0c;分别用…

【Axure高保真原型】引导弹窗

今天和大家中分享引导弹窗的原型模板&#xff0c;载入页面后&#xff0c;会显示引导弹窗&#xff0c;适用于引导用户使用页面&#xff0c;点击完成后&#xff0c;会显示下一个引导弹窗&#xff0c;直至最后一个引导弹窗完成后进入首页。具体效果可以点击下方视频观看或打开下方…

接口测试中缓存处理策略

在接口测试中&#xff0c;缓存处理策略是一个关键环节&#xff0c;直接影响测试结果的准确性和可靠性。合理的缓存处理策略能够确保测试环境的一致性&#xff0c;避免因缓存数据导致的测试偏差。以下是接口测试中常见的缓存处理策略及其详细说明&#xff1a; 一、缓存处理的核…

龙虎榜——20250610

上证指数放量收阴线&#xff0c;个股多数下跌&#xff0c;盘中受消息影响大幅波动。 深证指数放量收阴线形成顶分型&#xff0c;指数短线有调整的需求&#xff0c;大概需要一两天。 2025年6月10日龙虎榜行业方向分析 1. 金融科技 代表标的&#xff1a;御银股份、雄帝科技 驱动…

观成科技:隐蔽隧道工具Ligolo-ng加密流量分析

1.工具介绍 Ligolo-ng是一款由go编写的高效隧道工具&#xff0c;该工具基于TUN接口实现其功能&#xff0c;利用反向TCP/TLS连接建立一条隐蔽的通信信道&#xff0c;支持使用Let’s Encrypt自动生成证书。Ligolo-ng的通信隐蔽性体现在其支持多种连接方式&#xff0c;适应复杂网…

铭豹扩展坞 USB转网口 突然无法识别解决方法

当 USB 转网口扩展坞在一台笔记本上无法识别,但在其他电脑上正常工作时,问题通常出在笔记本自身或其与扩展坞的兼容性上。以下是系统化的定位思路和排查步骤,帮助你快速找到故障原因: 背景: 一个M-pard(铭豹)扩展坞的网卡突然无法识别了,扩展出来的三个USB接口正常。…

未来机器人的大脑:如何用神经网络模拟器实现更智能的决策?

编辑&#xff1a;陈萍萍的公主一点人工一点智能 未来机器人的大脑&#xff1a;如何用神经网络模拟器实现更智能的决策&#xff1f;RWM通过双自回归机制有效解决了复合误差、部分可观测性和随机动力学等关键挑战&#xff0c;在不依赖领域特定归纳偏见的条件下实现了卓越的预测准…

Linux应用开发之网络套接字编程(实例篇)

服务端与客户端单连接 服务端代码 #include <sys/socket.h> #include <sys/types.h> #include <netinet/in.h> #include <stdio.h> #include <stdlib.h> #include <string.h> #include <arpa/inet.h> #include <pthread.h> …

华为云AI开发平台ModelArts

华为云ModelArts&#xff1a;重塑AI开发流程的“智能引擎”与“创新加速器”&#xff01; 在人工智能浪潮席卷全球的2025年&#xff0c;企业拥抱AI的意愿空前高涨&#xff0c;但技术门槛高、流程复杂、资源投入巨大的现实&#xff0c;却让许多创新构想止步于实验室。数据科学家…

深度学习在微纳光子学中的应用

深度学习在微纳光子学中的主要应用方向 深度学习与微纳光子学的结合主要集中在以下几个方向&#xff1a; 逆向设计 通过神经网络快速预测微纳结构的光学响应&#xff0c;替代传统耗时的数值模拟方法。例如设计超表面、光子晶体等结构。 特征提取与优化 从复杂的光学数据中自…