摩尔线程 × 上海AI实验室|基于S5000和KernelSwift实现DeepSeek-V4核心算子Day-0适配
今日DeepSeek-V4预览版正式发布并开源。摩尔线程携手上海 AI 实验室 DeepLink 团队通过大模型驱动的智能算子迁移系统 KernelSwift率先在旗舰级AI训推一体智算卡 MTT S5000 上完成了核心算子的Day-0适配。目前算子通过率已超80%真正实现了模型发布与国产算力适配的同步落地。这一成果不仅为开发者提供了无缝部署体验更彰显了 KernelSwift 与 MUSA 软件栈在生态协同中的强大支撑作用。支撑多元国产芯片Day-0适配KernelSwift极致提升开发效率KernelSwift作为支持多元算力的智能算子迁移系统可提供指定芯片的Triton算子定制优化服务。以高级抽象与自动算子生成KernelSwift将适配周期从数月压缩至小时级为多元国产AI芯片提供“开箱即用”的高性能算子支持助力Day0适配计划的真正落地。在公开数据集 Kernelbench 上KernelSwift 实现 SOTA 级别的表现可自动生成的高性能算子覆盖语言大模型和科学大模型并基于深度学习编译器DLCompiler实现编译器到算子生成全链路支撑摆脱单一生态绑定。国产算力底座标杆MTT S5000硬核支撑前沿模型摩尔线程旗舰级全功能AI训推一体智算卡MTT S5000专为大模型训练与推理设计其核心亮点在于原生支持FP8精度并配备硬件级FP8 Tensor Core加速单元。相比国内主流芯片普遍依赖的BF16/FP16FP8可将数据位宽减半使显存带宽压力降低50%、理论计算吞吐量翻倍从而更高效地承载DeepSeek-V4等前沿模型所需的“FP4FP8”混合精度策略为模型部署与推理提供坚实的算力底座。深度协同优化释放极致性能在DeepSeek-V4模型发布后KernelSwift基于摩尔线程MTT S5000启动全自动流程生成核心算子全程无需人工干预。得益于摩尔线程对Triton的全面支持以及MUSA软件生态的高兼容性与开放架构KernelSwift得以快速完成与MTT S5000的对接验证。在此基础上DeepSeek-V4模型共计21个核心算子均实现明显加速算子通过率超过80%自动生成的算子经少量人工修改后在MTT S5000上实现100%正确性。算子筑基共筑国产AI生态新范式KernelSwift 与 MTT S5000 在 DeepSeek-V4 上的Day-0协同落地充分展示了国产 AI 生态的高效协作为国产算力生态从技术研发走向大规模应用积累了重要经验。摩尔线程 MUSA 软件栈与 KernelSwift 的深度融合证明了国产全功能 GPU 能够即时响应最前沿的大模型需求为构建自主可控、高效敏捷的 AI 基础设施树立了标杆。未来摩尔线程将持续联合生态伙伴推动更多前沿模型在国产算力平台高效部署加速 AI 生态向“好用”和“领先”跨越。▼KernelSwift 在线体验链接https://deeplink.org.cn/kernelswift▼DeepSeek-v4算子代码仓https://github.com/DeepLink-org/DLBlas/tree/add-dsv4-kernels/dlblas/kernels/kernelswift_triton/level3
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2566247.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!