1. 为什么要在Kubernetes上部署Zookeeper集群Zookeeper作为分布式系统的大脑在微服务架构中扮演着关键角色。它负责维护配置信息、命名服务、分布式同步和集群管理等核心功能。传统物理机部署Zookeeper集群时我们需要手动配置每台服务器维护复杂的网络拓扑而Kubernetes提供的StatefulSet控制器完美解决了这些问题。我在实际项目中发现使用Kubernetes部署Zookeeper至少带来三个明显优势首先是自动化运维Pod故障后会自动重建并保持原有身份其次是资源隔离不同业务线的Zookeeper集群可以共享同一套Kubernetes基础设施最后是弹性扩展只需修改replicas参数就能快速扩容集群规模。2. 部署前的关键准备工作2.1 基础设施检查在动手部署之前建议先运行以下命令检查Kubernetes集群状态kubectl get nodes -o wide kubectl get storageclass特别是要确认StorageClass配置正确因为Zookeeper作为有状态应用依赖持久化存储。我遇到过因为StorageClass配置错误导致Pod不断重启的案例最终发现是nfs-client-provisioner的权限设置有问题。2.2 镜像准备技巧官方文档推荐的registry.k8s.io/kubernetes-zookeeper:1.0-3.4.10镜像在国内可能拉取困难。这里分享一个实用技巧可以先用阿里云等国内镜像源拉取再重新打标签docker pull registry.cn-hangzhou.aliyuncs.com/google_containers/zookeeper:3.4.10 docker tag registry.cn-hangzhou.aliyuncs.com/google_containers/zookeeper:3.4.10 registry.k8s.io/kubernetes-zookeeper:1.0-3.4.103. 详解Zookeeper集群部署配置3.1 剖析StatefulSet核心配置Zookeeper的集群特性决定了它必须使用StatefulSet而非Deployment。下面是我们调整后的关键配置片段apiVersion: apps/v1 kind: StatefulSet metadata: name: zk spec: serviceName: zk-hs replicas: 3 podManagementPolicy: OrderedReady updateStrategy: type: RollingUpdate template: spec: containers: - name: kubernetes-zookeeper image: registry.k8s.io/kubernetes-zookeeper:1.0-3.4.10 ports: - containerPort: 2181 name: client - containerPort: 2888 name: server - containerPort: 3888 name: leader-election command: - sh - -c - start-zookeeper \ --servers3 \ --data_dir/var/lib/zookeeper/data \ --conf_dir/opt/zookeeper/conf \ --client_port2181 \ --heap512M这里有几个容易踩坑的点podManagementPolicy必须设置为OrderedReady确保Pod按顺序启动每个容器需要暴露三个端口2181用于客户端连接2888用于节点间数据同步3888用于Leader选举command中的启动参数要根据实际资源情况调整特别是heap大小3.2 网络服务配置要点Zookeeper集群需要两类Service# 无头服务用于Pod间直接通信 apiVersion: v1 kind: Service metadata: name: zk-hs spec: clusterIP: None ports: - port: 2888 name: server - port: 3888 name: leader-election selector: app: zk # 普通服务用于外部访问 apiVersion: v1 kind: Service metadata: name: zk-cs spec: ports: - port: 2181 name: client selector: app: zk特别注意无头服务(zk-hs)的clusterIP: None设置这使得Pod可以通过稳定的DNS名称直接互相访问格式为pod-name.service-name。4. 集群验证与故障演练4.1 基础状态检查部署完成后建议按以下步骤验证# 查看Pod运行状态 kubectl get pods -l appzk -w # 检查各节点角色 for i in {0..2}; do kubectl exec zk-$i -- zkServer.sh status done # 验证DNS解析 kubectl run dns-test --imagebusybox:1.28 --rm -it --restartNever -- nslookup zk-0.zk-hs正常情况下应该看到1个Leader和2个Follower。我曾经遇到所有节点都显示Follower的情况最后发现是防火墙规则阻塞了3888端口。4.2 数据持久化测试验证数据持久化的正确姿势# 在zk-0创建测试数据 kubectl exec zk-0 -- zkCli.sh create /test-data hello # 删除zk-0 Pod模拟节点故障 kubectl delete pod zk-0 # 等待Pod重建后验证数据 kubectl exec zk-0 -- zkCli.sh get /test-data这个测试能验证PV/PVC是否正常工作。如果数据丢失首先要检查storageClass的配置是否正确。4.3 模拟Leader节点故障高可用测试的关键步骤# 找出当前Leader节点 LEADER$(for i in {0..2}; do kubectl exec zk-$i -- zkServer.sh status | grep Leader echo $i done) # 删除Leader Pod kubectl delete pod zk-$LEADER # 观察Leader切换过程 watch -n 1 for i in {0..2}; do kubectl exec zk-$i -- zkServer.sh status | grep -E Mode|ZooKeeper done正常情况下剩余的Follower会在几秒内完成新Leader选举。我建议至少进行3次这样的测试确保集群在各种情况下都能保持稳定。5. 生产环境优化建议5.1 资源限制与调优默认配置中的资源请求可能不适合生产环境建议根据实际负载调整resources: requests: memory: 1Gi cpu: 500m limits: memory: 2Gi cpu: 1Zookeeper对内存比较敏感如果看到频繁的GC日志就需要增加heap大小。可以通过修改command中的--heap参数来调整。5.2 监控与告警配置推荐使用Prometheus监控Zookeeper集群需要在Pod模板中添加ports: - containerPort: 7000 name: metrics env: - name: ZK_METRICS_PORT value: 7000然后配置Prometheus的scrape_config- job_name: zookeeper static_configs: - targets: [zk-0.zk-hs:7000,zk-1.zk-hs:7000,zk-2.zk-hs:7000]关键监控指标包括zookeeper_avg_latency请求平均延迟zookeeper_outstanding_requests排队请求数zookeeper_znode_count节点数量5.3 备份策略设计虽然Zookeeper本身具有高可用性但定期备份snapshot仍是必要措施# 手动备份示例 kubectl exec zk-0 -- bash -c tar czvf /tmp/backup.tar.gz /var/lib/zookeeper/data kubectl cp zk-0:/tmp/backup.tar.gz ./zk-backup-$(date %Y%m%d).tar.gz对于生产环境建议编写CronJob定期执行备份并将备份文件上传到对象存储。记住要同时备份数据和事务日志。