腾讯混元干了件大事:Skill Graphs
想象你在训练一个 AI 操作命令行终端。直觉告诉你给它安排越多的练习任务它就会越强。但腾讯混元团队的最新研究发现这个直觉可能是错的——真正决定训练效果的不是任务数量而是 AI 在执行这些任务时经历了多少种不同的场景和技能组合。他们构建了一张包含8.2 万个场景节点、5.7 万项技能的技能图谱从图中采样多样化的工作流路径来生成训练任务。结果用这种方式训练的Qwen3-32B320 亿参数在权威终端 Agent 基准 Terminal-Bench 2.0 上得分 **29.6%**直接超越了参数量是它 15 倍的Qwen 3 Coder 480B23.9%。问题在哪堆任务数量不管轨迹多样性终端 Agent 是指用大语言模型驱动、通过命令行界面完成复杂任务的 AI 系统。训练这样的 Agent 需要大量执行轨迹——也就是 AI 在终端里一步步操作的全过程记录。现有的合成训练数据方法主要走两条路要么让 LLM 生成分类体系来扩展领域覆盖但往往和真实使用脱节要么从 GitHub 仓库反推任务但局限在软件工程场景。两条路都只关心生成多少任务却没有控制 AI 在这些任务里到底经历了多少种不同的场景×技能组合。轨迹多样性对比论文用数据直接展示了这个问题现有数据集中不同任务让 Agent 经历的场景和技能高度重叠轨迹冗余严重。核心方法用图谱结构控制训练轨迹的多样性SkillSynth的核心思路是把 AI 操作终端的过程抽象成场景-技能序列。场景AI 在某个决策点面临的状态比如视频文件已下载但未压缩技能AI 在这个状态下执行的一组动作比如用 ffmpeg 压缩视频每个技能从一个前置场景指向一个后置场景形成有向图。图中的一条路径就对应一个真实的多步骤工作流。这个图谱的规模非常可观82,073 个场景节点、57,214 条技能边、185,529 个 LLM 验证的桥接关系。85.6% 的节点连通在最大连通分量中意味着绝大多数技能都能串联成完整的工作流。构建过程分五步从 ClawHub 和 GitHub 过滤技能 → LLM 推断每个技能的前置/后置场景 → 聚类去重 → 跨技能对齐后置场景匹配下一个技能的前置场景→ 合并过滤。采样策略也很关键用逆频率加权——被访问少的节点和边优先被选中避免路径扎堆在热门节点上。这保证了采样出的路径在场景×技能空间上的均匀覆盖。自动生成多 Agent 协作一次跑出 3560 个验证过的任务采样出路径后一个多 Agent 协作流程把抽象路径变成具体的可执行任务规划器把路径转化成结构化的子目标和预期输出构造器根据计划生成完整任务实例指令、文件系统快照、容器环境、验证脚本、参考解法双验证执行验证跑参考解法确保任务可解 评分验证LLM 判断指令和测试是否对齐不通过则进入修复循环最多3 轮修复每轮最多 20 次工具调用一次全自动运行的成绩单从 3,721 条采样路径中产出3,560 个通过验证的任务实例95.7% 的 oracle 通过率平均成本仅$27.3/个。这些任务难度不低——Claude Opus 4.6 平均需要37 步才能解决121 个任务三次尝试都没解出来。实验结果多样性 数量核心对比数据方法TB 1.0TB 2.0Qwen3-8B 单技能8.7%5.3%Qwen3-8B 随机多技能13.4%11.6%Qwen3-8B SkillSynth17.1%13.5%Qwen3-32B 单技能25.4%21.3%Qwen3-32B 随机多技能30.8%25.8%Qwen3-32B SkillSynth33.8%29.6%Qwen 3 Coder 480B未用 SkillSynth—23.9%SkillSynth 比单技能基线高8.4 分TB 1.0比随机组合多技能基线高3.0 分。多样性指标更直接SkillSynth 轨迹的唯一场景-技能覆盖率比单技能高 **31%**比随机多技能高 **19%**。消融实验还揭示了一个重要发现随机拼凑多个技能不经过图谱引导效果明显更差因为随机组合缺乏工作流连贯性——生成的任务包含多个细碎要求但实际执行步骤很少。这意味着什么SkillSynth 已经不只是论文里的方法了。它生成的任务实例已被腾讯混元团队用于训练Hy3 Preview模型直接提升了终端场景下的 Agent 能力。技能领域分布图谱本身还在持续扩展——随着 ClawHub 社区贡献更多技能图谱自动生长任务的多样性持续提升。目前图谱已覆盖编码、文档处理、DevOps、安全等常见领域也包括音频语音、3D 仿真、IoT 硬件等长尾领域。图谱度分布对 AI 从业者来说这篇论文传递的核心信息很明确训练 Agent 的胜负手不在参数量也不在任务数量而在训练轨迹的多样性。如果你在做 Agent 训练数据与其堆量不如用图谱结构控制场景×技能的覆盖密度。学AI大模型的正确顺序千万不要搞错了2026年AI风口已来各行各业的AI渗透肉眼可见超多公司要么转型做AI相关产品要么高薪挖AI技术人才机遇直接摆在眼前有往AI方向发展或者本身有后端编程基础的朋友直接冲AI大模型应用开发转岗超合适就算暂时不打算转岗了解大模型、RAG、Prompt、Agent这些热门概念能上手做简单项目也绝对是求职加分王给大家整理了超全最新的AI大模型应用开发学习清单和资料手把手帮你快速入门学习路线:✅大模型基础认知—大模型核心原理、发展历程、主流模型GPT、文心一言等特点解析✅核心技术模块—RAG检索增强生成、Prompt工程实战、Agent智能体开发逻辑✅开发基础能力—Python进阶、API接口调用、大模型开发框架LangChain等实操✅应用场景开发—智能问答系统、企业知识库、AIGC内容生成工具、行业定制化大模型应用✅项目落地流程—需求拆解、技术选型、模型调优、测试上线、运维迭代✅面试求职冲刺—岗位JD解析、简历AI项目包装、高频面试题汇总、模拟面经以上6大模块看似清晰好上手实则每个部分都有扎实的核心内容需要吃透我把大模型的学习全流程已经整理好了抓住AI时代风口轻松解锁职业新可能希望大家都能把握机遇实现薪资/职业跃迁这份完整版的大模型 AI 学习资料已经上传CSDN朋友们如果需要可以微信扫描下方CSDN官方认证二维码免费领取【保证100%免费】
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2579635.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!