保姆级教程:在3台CentOS虚拟机上从零搭建Apache Doris 2.1.6集群(含防火墙、JDK配置)
从零构建Apache Doris 2.1.6分布式集群三节点CentOS实战指南环境准备与系统调优在开始部署Apache Doris集群之前我们需要确保三台CentOS虚拟机处于最佳状态。以下是关键的系统配置步骤关闭防火墙与SELinux执行以下命令永久禁用防火墙和SELinuxsystemctl stop firewalld systemctl disable firewalld sed -i s/SELINUXenforcing/SELINUXdisabled/g /etc/selinux/config setenforce 0优化系统参数编辑/etc/security/limits.conf文件添加以下内容* soft nofile 655360 * hard nofile 655360然后修改/etc/sysctl.confecho vm.max_map_count2000000 /etc/sysctl.conf sysctl -p关闭Swap分区临时和永久关闭Swapswapoff -a sed -ri s/.*swap.*/#/ /etc/fstab提示这些系统级优化对Doris集群的稳定运行至关重要特别是文件描述符限制和内存管理参数。JDK环境配置Apache Doris 2.1.6需要JDK 8运行环境。以下是配置步骤下载并解压JDK 8至/usr/lib/jvm/目录配置环境变量编辑/etc/profile文件export JAVA_HOME/usr/lib/jvm/jdk-8u451 export PATH$JAVA_HOME/bin:$PATH export CLASSPATH.:$JAVA_HOME/lib/dt.jar:$JAVA_HOME/lib/tools.jar使配置生效source /etc/profile验证安装java -version应显示类似输出java version 1.8.0_451 Java(TM) SE Runtime Environment (build 1.8.0_451-b09) Java HotSpot(TM) 64-Bit Server VM (build 25.451-b09, mixed mode)Doris软件部署下载安装包从官网获取稳定版本wget https://doris.apache.org/download解压与目录准备在三台节点上执行tar -zxvf apache-doris-2.1.6-bin-x64.tar.gz -C /export/server/ mv /export/server/apache-doris-2.1.6-bin-x64/ /export/server/doris216创建数据目录mkdir -p /export/doris_data/{storage,doris-meta}FE节点部署与配置主FE节点配置修改fe.conf关键参数priority_networks 192.168.88.0/24 meta_dir /export/doris_data/doris-meta添加环境变量echo export DORIS_HOME/export/server/doris216 /etc/profile echo PATH$PATH:$DORIS_HOME/bin /etc/profile source /etc/profile启动主FE节点/export/server/doris216/fe/bin/start_fe.sh --daemon验证启动状态curl http://127.0.0.1:8030/api/bootstrap成功响应应包含msg:success。Follower/Observer节点部署复制安装文件到其他节点scp -r /export/server/doris216 rootnode2:/export/server/ scp -r /export/server/doris216 rootnode3:/export/server/在MySQL客户端注册新节点ALTER SYSTEM ADD FOLLOWER node2:9010; ALTER SYSTEM ADD OBSERVER node3:9010;启动从节点# node2 (Follower) /export/server/doris216/fe/bin/start_fe.sh --helper node1:9010 --daemon # node3 (Observer) /export/server/doris216/fe/bin/start_fe.sh --helper node1:9010 --daemon检查集群状态SHOW FRONTENDS;应显示三个节点且Alive状态为true。BE节点部署与配置基础配置修改be.conf关键参数storage_root_path /export/doris_data/storage priority_networks 192.168.88.0/24创建存储目录软链接ln -sfn /export/doris_data/storage /export/server/doris216/be/storage节点注册与启动在MySQL客户端注册BE节点ALTER SYSTEM ADD BACKEND node1:9050; ALTER SYSTEM ADD BACKEND node2:9050; ALTER SYSTEM ADD BACKEND node3:9050;启动BE服务/export/server/doris216/be/bin/start_be.sh --daemon验证BE状态SHOW BACKENDS;关键指标检查Alive: trueTabletNum: 应均匀分布Disk使用率: 在合理范围内集群安全与测试密码设置修改默认空密码SET PASSWORD PASSWORD(your_secure_password);功能验证创建测试数据库CREATE DATABASE testdb;建立测试表CREATE TABLE testdb.demo_table ( id INT, name VARCHAR(50), value DECIMAL(10,2) ) DISTRIBUTED BY HASH(id) BUCKETS 32;插入测试数据INSERT INTO testdb.demo_table VALUES (1, Item A, 10.5), (2, Item B, 20.3), (3, Item C, 15.7);查询验证SELECT * FROM testdb.demo_table;常见问题排查问题现象可能原因解决方案FE启动失败端口冲突检查8030/9030端口占用BE无法注册网络不通验证节点间网络连通性查询超时资源不足检查BE节点负载和内存数据不均衡副本设置检查tablet分布和副本数关键日志位置FE日志/export/server/doris216/fe/log/BE日志/export/server/doris216/be/log/性能优化建议内存配置根据服务器内存调整BE的mem_limit参数建议不超过物理内存的80%存储优化考虑使用SSD作为热数据存储storage_root_path/data/ssd,medium:SSD;/data/hdd,medium:HDD查询并行度调整parallel_fragment_exec_instance_num参数提高查询并发能力监控设置建议部署PrometheusGrafana监控集群关键指标FE JVM使用率BE磁盘IO查询延迟日常维护命令集群状态检查SHOW PROC /frontends; SHOW PROC /backends;节点下线操作ALTER SYSTEM DECOMMISSION BACKEND be_host:be_heartbeat_port;元数据备份mysql -uroot -P9030 -h fe_host -e BACKUP SNAPSHOT db_name TO repo_name ON (backend1, backend2)在实际生产环境中建议定期检查集群日志和监控指标特别是在执行重大变更或观察到性能波动时。根据我们的经验合理的硬件配置和参数调优可以使Doris集群性能提升30%以上。
本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/2447132.html
如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!