三大 AI 芯片架构
AI尤其是深度学习最核心的工作就是海量、重复的数学计算矩阵乘法、向量运算。训练 ChatGPT要算几十亿、上万亿次数学题。自动驾驶每秒要算上千次环境识别。普通 CPU电脑 / 手机的 “大脑”不擅长干这个—— 它像一个全能 CEO什么都能做但算得慢、效率低。所以需要专门的 AI 芯片来加速这些计算。GPU Graphics Processing Unit图形处理器最早是给游戏显卡做的负责3D 游戏画面视频渲染特效计算这些都需要同时算几百万个点像是几千个小工人同时干同一件简单活。后来发现AI 计算和游戏画面计算几乎一模一样于是 GPU 直接变成 AI 主力芯片。GPU 的特点几万个小核心每个核心都很简单专门擅长并行计算一起算。通用性极强游戏、AI、画图、视频都能做。生态最成熟软件、框架、教程最多有 CUDA、PyTorch、TensorFlow 等完善工具。算力超大目前最能 “暴力算” 的芯片几千个核心同时算速度比 CPU 快几十到几百倍。开发最简单写 Python 就能用。缺点是功耗巨大300W700W贵一张 H100 要几十万不是专门给 AI 设计有很多多余电路。现在ChatGPT、文心一言、Claude训练本地 AI 画图Stable Diffusion抖音、淘宝、B 站的推荐模型训练AI 换脸、AI 配音、AI 视频。都是靠GPUGPU 是 AI 时代的 “通用大力士”。FPGA Field-Programmable Gate Array现场可编程门阵列最特殊的地方硬件可以改硬件级的 “乐高积木”—— 电路可以反复改写。内部有几百万个逻辑门你可以连线改功能重新配置硬件专门为你的 AI 模型定制电路、低功耗、低延迟比 GPU 省电很多适合实时场景、半定制化比通用 GPU 高效比全定制 ASIC 灵活。缺点极难开发要懂硬件语言算力不如 GPU价格不便宜不能大规模量产。FPGA 可反复拼的乐高灵活、省电适合需要经常改算法的场景。现在的 AI 应用边缘 AI 推理安防摄像头实时人脸识别、工业质检、自动驾驶辅助。数据中心预处理阿里云 / 腾讯云用 FPGA 做 AI 数据清洗、格式转换比 GPU 省电 70%。5G 基站、通信设备需要频繁升级算法FPGA 可以在线改电路。百度 XPU、阿里含光 800 早期版本用 FPGA 做云端 AI 加速ASIC Application-Specific Integrated Circuit专用集成电路为某一件事专门造的机器只能干这件事但干到极致。只为 AI 设计只干 AI 这件事。从电路到结构100% 为深度学习定制。极致能效比同样算力功耗只有 GPU 的1/5~1/20。成本低量产时一旦设计好、大规模生产单价可以压得很低。性能最高、延迟最低没有冗余电路所有资源都为 AI 计算服务。缺点完全不可改设计生产后电路固定死算法一变就没用了研发成本极高、周期长流片一次要几千万、上亿周期半年以上灵活性为 0只能干设计时定好的事现在的 ASIC应用谷歌 TPU专门为 TensorFlow 设计用于 Google 搜索、翻译、YouTube 推荐、Gemini 大模型。华为昇腾、寒武纪思元、地平线征程手机 / 边缘端 AI、自动驾驶、服务器推理。亚马逊 Inferentia/Trainium、微软 Maia、Meta MTIA各大云厂商自研 ASIC用于自家大模型训练 / 推理。手机 NPU华为麒麟 NPU、苹果 Neural Engine、小米澎湃 NPU—— 专门负责手机 AI拍照、语音助手、实时翻译、人脸解锁。TPU Tensor Processing Unit张量处理单元谷歌自家的云端 AI 专用芯片。谷歌每天要跑海量 AI搜索、翻译、YouTube 推荐、大模型…需要更省电、更便宜、更适合 AI 推理的芯片。NPU Neural Processing Unit神经网络处理单元。专门给手机、智能设备跑 AI 用的 “微型 AI 专用芯片”。手机电池很小不能用功耗几百瓦的 GPU。手机里80% AI 部分都是 NPU 在跑。AI拍照实时翻译人脸解锁。只做AI结算低功耗体积小成本低。现在行业趋势训练靠 GPU推理靠 ASIC边缘用 FPGA/ASIC。AI芯片的4个关键特征1. 新型的计算范式AI 专用的算数方式普通 CPU 一步一步算AI 要大批量、并行、矩阵运算所以必须用新的计算方式。2. 训练和推断AI 的两大工作训练让 AI 学习看书推断让 AI 做题用学到的知识判断AI 芯片必须两样都能干。3. 大数据处理能力能吃大量数据AI 要靠海量图片、语音、视频学习所以芯片必须读得快、处理得多。4. 可重构的能力能改、能适配新算法AI 技术更新快芯片要灵活改结构跟上新模型。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2418897.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!