【摘要】2024年3月我作为核心系统架构师主导了某新能源车企“新一代自动驾驶云控与数据平台”的重构与研发工作。该平台主要负责接入现役50万辆在线车辆处理海量的多模态工况数据并支撑大规模自动驾驶算法的并行仿真与实时监控。原有的传统IT架构在面临海量数据并发写入与异构算力调度时暴露出资源利用率低下、服务治理混乱等严重问题。为此我全面引入了云原生层次架构对平台进行重构。本文结合该项目深入论述了云原生层次架构的设计与实践在基础设施层用 Kubernetes 结合 Ray 分布式框架解决仿真训练算力分配僵化的问题实现异构计算任务的秒级弹性和细粒度调度在微服务应用层用 Service Mesh服务网格技术解决跨语言异构微服务治理复杂的痛点实现业务算法与网络通信底座的彻底解耦在数据服务层用 PostgreSQL 结合数据湖与 Elasticsearch 构建多模态数据底座解决海量异构数据的存储与检索瓶颈实现底层数据的无限水平扩展与实时报警的毫秒级响应。该平台已于2024年10月正式上线平稳运行各项性能指标均达到预期圆满完成了架构升级目标。【正文】随着 L2 级自动驾驶技术的普及我司旗下自动驾驶车辆保有量已突破50万大关。为了支撑海量数据的闭环迭代2024年3月公司正式启动“新一代自动驾驶云控与数据平台”的重构项目。该平台的核心功能包括车辆实时健康监控告警、影子模式下的算法流量灰度验证以及PB级多模态数据如点云、图像、车端日志的离线仿真训练。在平台初创期底层依赖的是传统的基于虚拟机的单体与SOA架构。随着接入车辆的激增痛点日益凸显首先仿真训练任务呈明显的潮汐特性传统静态分配机器的方式导致算力极大浪费且缺乏对复杂计算图的调度能力其次自动驾驶研发涉及 C、Python、Go 等多种语言跨语言的服务调用与链路追踪极度混乱最后单机关系型数据库加上零散的文件系统根本无法承受50万辆车每秒高频并发的复合数据写入与复杂查询。作为该项目的核心系统架构师我全面负责平台的技术选型与架构演进。经过深度评估我决定采用业内领先的云原生层次架构从底层基础设施到上层数据服务进行彻底重构。在基础设施层的重构中我采用Kubernetes Volcano 调度器结合Ray 分布式计算框架解决了大批次仿真训练任务面临的算力分配僵化与任务编排极其困难的问题。在自动驾驶研发中算法团队提交的数十万个并行仿真任务既包含 CPU 密集型的预处理又包含 GPU 密集型的模型推理。为了根治传统调度框架难以高效混编的痛点我从底层硬件到上层调度重构了整个 IaaS 资源池。首先在硬件资源层我引入了vGPU 虚拟化技术对底层昂贵的物理显卡进行细粒度切分确保轻量级的仿真推理模型可以共享物理卡避免了算力的独占浪费其次在集群调度层我引入了Volcano 批处理调度器利用其核心的组调度Gang Scheduling机制彻底解决了大规模 AI 任务并发申请碎片化 vGPU 资源时极易产生的“死锁”问题确保了底层 Pod 的高并发统一起停最后在应用计算层我引入了专为 AI 设计的Ray框架并将数据清洗与仿真微服务封装为 Ray 的 Actor 与 Task。通过 KubeRay 组件Ray 能够智能感知任务的复杂依赖关系DAG图并由 Volcano 提供底层的极致调度在几十秒内精准弹出成百上千个 Worker 节点进行分布式计算。这一‘底层切分硬件、中层统筹调度、上层重构编排’的云原生混合架构不仅赋予了系统极强的异构算力调度能力更将集团内部的 GPU 综合利用率提升了三倍以上。在微服务应用层的设计上我全面引入 Service Mesh服务网格技术解决了跨语言、跨团队异构系统服务治理极其复杂的痛点实现了业务算法逻辑与底层网络通信的彻底解耦。自动驾驶云端系统是一个极其复杂的异构生态网关接入层由 Go 语言开发业务控制逻辑由 Java 编写而核心的感知与规控算法服务往往是用 C 或 Python 实现的。在过去为了实现服务间的限流、熔断和全链路追踪我们需要在每种语言的 SDK 中硬编码治理逻辑导致业务代码臃肿不堪。更致命的是在进行算法“影子模式”测试时极难在代码层面对特定车型的流量进行精准拷贝与路由。为此我选用了基于 Istio 的 Service Mesh 架构将流量路由、超时重试、熔断降级等非业务功能全部下沉到伴生于应用容器的 Sidecar边车代理中。开发与算法人员只需专注具体的规控逻辑而 Sidecar 会透明地接管所有进出流量。借助这一云原生通信底座我们极其轻松地实现了基于车架号VIN和地域标签的动态流量路由让实车上报的数据可以无缝复制并引流到新版本的算法集群进行“影子验证”大幅加速了自动驾驶算法的迭代安全与效率。在底层数据服务层的规划中我采用 PostgreSQL 结合流式数据湖与 Elasticsearch 构建了多模态数据底座彻底解决了50万辆车高并发上报数据的存储成本与检索性能瓶颈问题实现了平台数据的无限水平扩展与毫秒级查询响应。云控平台最核心的挑战在于处理复杂异构数据既有结构化的车辆配置信息又有半结构化的车端日志还有非结构化的海量点云与图像。面对这一致命瓶颈我彻底革新了数据层架构采用了“各司其职”的混合存储策略。首先我保留了成熟稳定的 PostgreSQL配合分布式中间件专门处理强一致性的车辆注册状态、用户账号及业务订单等核心关系型数据确保交易的绝对安全其次对于海量的离线训练数据我引入了基于对象存储OSS的流式数据湖Iceberg将 PB 级的点云和图像数据低成本持久化供 Ray 框架进行高吞吐扫描最后针对诸如“电池热失控告警日志分析”这类需要极低延迟的实时全文检索需求我将清洗后的文本日志与告警事件通过 Kafka 准实时同步至 Elasticsearch 集群。这套多模态的云原生数据架构不仅大幅降低了系统的整体存储成本还完美支撑了结构化事务、复杂检索与大规模离线计算等多元化业务场景确保了车辆高危故障告警的绝对实时。经过团队大半年的日夜奋战新一代自动驾驶云控与数据平台于2024年10月顺利全量上线。在随后的冬季寒冷工况大并发实测中新平台经受住了百万级连接洪峰的严苛洗礼。系统核心链路接口的响应时间稳定在 50 毫秒以内异构微服务的灰度发布成功率达到了100%整体资源服务器的持有成本显著下降。回顾整个项目的历程云原生层次架构的全面落地不仅是一次技术的升级更是自动驾驶研发效能的一次革命。通过底层 K8sRay 的算力自动化、应用层治理的网格化以及数据层多模态底座的构建平台拥有了面向百万级车队演进的强悍基石。当然目前系统在边缘计算车端计算与云端编排的协同深度整合上还有进一步优化的空间。在未来的平台迭代中我计划探索引入 KubeEdge 等云原生边缘计算框架将部分实时性要求极高的清洗与告警微服务直接下发至车端的车机系统中运行在现有云原生架构的基础上追求更为极致的“车云协同”与端到端的高可用性。