1. DolphinScheduler集群部署前的关键准备第一次接触DolphinScheduler集群部署时我在硬件选型上栽过跟头。当时为了节省成本用了三台4核8G的虚拟机结果跑复杂工作流时直接卡死。后来才发现集群部署不是简单的多机堆砌需要系统化的规划。1.1 硬件配置的黄金法则实测发现Master节点对CPU要求更高。建议配置Master节点8核16G起步复杂场景建议16核32GWorker节点4核8G起步根据任务并发量线性扩展磁盘至少500GB SSD日志和临时文件很吃空间网络方面有个坑要注意千兆网卡在任务量暴增时可能成为瓶颈。我们生产环境遇到过因为网络延迟导致任务超时的案例后来升级到万兆网卡才解决。1.2 软件环境的避坑指南官方文档说支持CentOS 7但我实测推荐用CentOS 8 Stream内核版本更新对容器化支持更好。遇到过在CentOS 7.6上ZooKeeper频繁超时的问题升级系统后消失。关键依赖版本# JDK必须用1.8.0_201以上版本 java -version # 检查输出是否包含Java(TM) SE Runtime Environment (build 1.8.0_301-b09) # MySQL配置建议my.cnf [mysqld] innodb_buffer_pool_size 4G # 最小配置建议按内存50%调整 max_connections 1000 transaction_isolation READ-COMMITTED2. 集群部署的魔鬼细节2.1 网络拓扑的隐藏陷阱很多教程不会告诉你所有节点必须在同一可用区。我们曾经跨机房部署结果网络延迟导致Master误判Worker下线。正确的做法是使用ping测试节点间延迟应1ms禁用防火墙或开放以下端口5678Master通信端口1234Worker通信端口2181/2888/3888ZooKeeper端口2.2 数据库初始化的实战技巧官方提供的初始化脚本有个坑不会自动创建HDFS目录。需要手动执行hdfs dfs -mkdir -p /dolphinscheduler hdfs dfs -chown -R atguigu:atguigu /dolphinschedulerMySQL权限配置更安全的做法是-- 生产环境建议这样授权 GRANT SELECT, INSERT, UPDATE, DELETE, CREATE, INDEX ON dolphinscheduler.* TO ds_user192.168.% IDENTIFIED BY ComplexPwd123;3. 性能调优的终极方案3.1 Master节点的关键参数修改conf/master.properties# 任务队列大小默认100大集群建议调大 master.task.exec.num500 # 任务派发线程数CPU核数×2 master.dispatch.task.num16 # 心跳超时时间网络不稳定时调大 master.task.heartbeat.timeout1203.2 Worker节点的优化秘籍conf/worker.properties的隐藏参数# 同时执行任务数建议CPU核数×1.5 worker.exec.threads12 # 内存控制防止OOM worker.max.cpuload.avg10 worker.reserved.memory2G3.3 ZooKeeper的黄金配置在zoo.cfg中添加# 会话超时集群规模大时调高 tickTime2000 initLimit20 syncLimit10 # 增加ZK堆内存 export JAVA_OPTS-Xms4G -Xmx4G4. 高可用架构设计4.1 多Master热备方案在install_config.conf中配置# 多个Master用逗号分隔 mastershadoop102,hadoop103 # 需要额外配置HA参数 master.standby.servershadoop103 master.active.standby.retry.interval10s4.2 Worker分组策略按业务线划分Worker组# 在install_config.conf中 workershadoop102:groupA,hadoop103:groupB,hadoop104:groupC # 工作流提交时指定执行组 workerGroup: groupA4.3 容灾恢复实战当Master宕机时快速切换步骤检查ZooKeeper选举状态echo stat | nc hadoop102 2181 | grep Mode手动激活备用Master./bin/dolphinscheduler-daemon.sh start master-server5. 监控与排错宝典5.1 必备监控指标用Prometheus监控关键指标# prometheus.yml配置示例 scrape_configs: - job_name: ds_master static_configs: - targets: [hadoop102:5678] - job_name: ds_worker static_configs: - targets: [hadoop102:1234,hadoop103:1234]5.2 日志分析技巧快速定位任务卡住# 查看Master日志 tail -f logs/master-server.log | grep -A 10 ERROR # 分析Worker线程转储 jstack worker_pid | grep -C 20 RUNNING5.3 常见故障处理任务积压先看Master的队列状态curl -s http://hadoop102:5678/api/master/queue | jq .data.waitingCount资源不足检查Worker负载watch -n 1 echo load avg: $(cat /proc/loadavg); free -h