kudu集群数据节点(tserver)扩容(缩容)

news2025/8/13 13:15:09

背景: 4个数据节点有数据倾斜,rebalance后依旧如此,检查分片数量和分布情况也是均衡的。最后发现相同的分片在其中一个节点存储消耗的磁盘资源比其他节点要大很多,导致了这个节点磁盘消耗较快。于是决定更换节点的磁盘


操作计划如下:

1- 将有问题的节点踢出集群 (缩容)        

2- 等待数据rebalance达到数据迁移的效果

3- 更换好磁盘后,将节点重新加入到集群 (扩容)


缩容-  数据迁移
1- 设置宕机恢复时间为1分钟后,关闭 问题节点22的kudu

--follower_unavailable_considered_failed_sec :参数的意思是tserver宕机多久后,没有恢复正常,则将该tserver上的数据迁移到其他节点上。

## 范例
sudo -u kudu 
kudu tserver set_flag $(hostname) follower_unavailable_considered_failed_sec 60 --force

## 例如:
sudo -u kudu 
kudu tserver set_flag calculate22.xxx.xxx:7050 follower_unavailable_considered_failed_sec 60 --force

2- 到kudu webUI上确认节点已经移出kudu集群。

CDH, Ambari安装的话可以直接在 CDH和Ambari的kudu实例列表上确认。

也可以使用kudu的webUID查看kudu的集群情况  (master节点,默认port是8051)

 

3- 等待数据迁移

数据迁移有两种方法,一种是手动迁移,一种是自动迁移。由于是线上升级,且是凌晨升级,时间充裕,为了保险,采用自动迁移。不需要操作!!!! 

2.4T的数据,自动迁移花了2个多小时,将近3小时。


4- 更换磁盘后,重新加入到集群(扩容)

因为集群配置文件并没有更改,所以直接启动kudu,观察节点22的数据是否会。

sudo systemctl start kudu-tserver

5- 检查kudu集群,查看是否加入成功。

    同步骤2 

6- 检查kudu集群的健康情况,也是要等待3小时左右,全部的表才恢复正常。

sudo -u kudu kudu cluster ksck <master地址>

# 例如

sudo -u kudu kudu cluster ksck master_node1:7051,master_node2:7051,master_node3:7051

参考文档:

4. Kudu Administration - 数据节点Started with Kudu [Book]   搜索Adding and Removing Tablet Servers

Apache Kudu - Apache Kudu Administration

kudu集群:kudu_master、kudu_tserver服务及数据的迁移(根据官网总结) - 天下熙攘皆为利往 - 博客园

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/14977.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

【freeRTOS】操作系统之一-任务调度

一. 任务调度 ​ FreeRTOS操作系统支持三种调度方式&#xff1a;抢占式调度&#xff0c;时间片调度和合作式调度。实际应用主要是抢占式调度和时间片调度&#xff0c;合作式调度用到的很少。 挂起/阻塞/就绪/运行 三种基本状态 进程在运行中不断地改变其运行状态。通常&…

智能网联汽车网络安全攻击与防御技术概述

作者 | 王博文 上海控安可信软件创新研究院研究员 来源 | 鉴源实验室 01 引言 在汽车电动化、网联化、智能化和共享化等新四化的发展趋势下&#xff0c;智能网联汽车&#xff08;Intelligent Connected Vehicles&#xff0c;ICVs&#xff09;已经是新时代的必然产物。在智能网…

【学习笔记】浅谈闵可夫斯基和

学这东西主要是 这道题 要用 233 定义&#xff1a;给定两个凸包AAA,BBB&#xff0c;定义C{ab∣a∈A,b∈B}C\{ab|a\in A,b\in B\}C{ab∣a∈A,b∈B} &#xff0c;其中aaa,bbb均为坐标。 不好意思图是嫖的 首先我们感性认识一下。可以直接将一个凸包的顶点换成另一个凸包&#x…

实现登陆模块时Cookie,Session,Token的理解

目录引言一、简化版登陆&#xff08;不保存登录状态&#xff09;二、Session 登陆三、CookieSession 实现登录四、Token登陆引言 先思考问题&#xff1a; 1、如何实现登陆&#xff1f; &#xff08;1&#xff09;表单输入账号密码 &#xff08;2&#xff09;后台数据库验证 …

治愈系书单|林曦《只生欢喜不生愁》

《只生欢喜不生愁》是水墨画家林曦的艺术生活随笔集&#xff0c;谈艺术之道&#xff0c;论无用之美。      全书按主题分为六辑&#xff1a;“艺可通道”“观照世间”“得自在禅”“心安之所”“写给时间”“赤子之心”&#xff0c;文字轻盈、意境优雅。林曦以手艺人之道&a…

Java#13(String Builder介绍及其常用办法)

目录 一.String Builder 1.理解:可以将String Builder当作一个容器,创建之后的内容是可以变的 2.作用:可以提高字符串的操作效率 二. StringBuilder中的常用方法 1.public StringBuilder append (任意类型) 添加数据&#xff0c;并返回对象本身 2.public StringBuild…

Keysight是德科技e5063A网络分析仪-安泰测试

Keysight E5063A ENA 是一款经济适用的台式矢量网络分析仪&#xff0c;可用于测试简单的无源元器件&#xff0c;例如频率最高达到 18 GHz 的天线、滤波器、电缆或连接器。 作为业界闻名的 ENA 系列中的一员&#xff0c;它传承了一致的测量框架&#xff0c;以便提高效率和生产率…

大学生静态HTML鲜花网页设计作品 DIV布局网上鲜花介绍网页模板代码 DW花店网站制作成品 web网页制作与实现

&#x1f389;精彩专栏推荐 &#x1f4ad;文末获取联系 ✍️ 作者简介: 一个热爱把逻辑思维转变为代码的技术博主 &#x1f482; 作者主页: 【主页——&#x1f680;获取更多优质源码】 &#x1f393; web前端期末大作业&#xff1a; 【&#x1f4da;毕设项目精品实战案例 (10…

RabbitMQ初步到精通-第二章-RabbitMQ介绍

第二章 RabbitMQ介绍 1、RabbitMQ简介 RabbitMQ 是一个由 Erlang 语言开发的 AMQP 的开源实现。RabbitMQ最初起源于金融系统&#xff0c;用于在分布式系统中存储转发消息&#xff0c;在易用性、扩展性、高可用性等方面表现不俗。 rabbit- 兔子&#xff0c;兔子的特点是什么? 轻…

图解https读书笔记

7.确保Web安全的HTTPS 7.2 HTTP 加密 认证 完整性保护 HTTPS https http ssL(Secure socket layer)client: 使用servcer端的publickey对消息加密-----》server&#xff1a;收到消息&#xff0c;用privatekey进行解密参考&#xff1a;彻底搞懂HTTPS的加密原理_峰子2012的博…

VS+QT错误集合

主要是使用VSQT时遇到等一些问题&#xff0c;现在使用等是VS2015&#xff08;专业版&#xff09; QT5.13.1 这章主要解决遇到的无法解析等外部符号这类问题 1、LNK2001 无法解析的外部符号 "public: virtual struct QMetaObject const * __cdecl Process::metaObject…

【分析笔记】Linux 4.9 backlight 子系统分析

相关信息 内核版本&#xff1a;Linux version 4.9.56 驱动文件&#xff1a;lichee\linux-4.9\drivers\video\backlight\backlight.c 驱动作用 对上&#xff0c;面对应用层提供统一的设备节点入口同级&#xff0c;面对驱动层提供设备驱动加载卸载通知事件&#xff0c;以及背光…

闲人闲谈PS之三十二——业务工程预算和PS成本计划

惯例闲话&#xff1a;年底&#xff0c;又要开始忙了&#xff0c;今年这一年&#xff0c;收获还不错&#xff0c;至少规划了第三年实现的目标——工程行业彩虹图&#xff0c;在今年居然奇迹般的实现了&#xff0c;看样子闲人还是保守了。还是应验了那句话&#xff0c;只要标准化…

React插槽

在开发中&#xff0c;我们抽取了一个组件&#xff0c;但是为了让这个组件具备更强的通用性&#xff0c;我们不能将组件中的内容限制为固定的div、span等等这些元素。我们应该让使用者可以决定某一块区域到底存放什么内容。这里可以使用插槽。 而在React中&#xff0c;我们可以通…

Spring Cloud Circuit Breaker 使用示例

Spring Cloud Circuit Breaker 使用示例 作者&#xff1a; Grey 原文地址&#xff1a; 博客园&#xff1a;Spring Cloud Circuit Breaker 使用示例 CSDN&#xff1a;Spring Cloud Circuit Breaker 使用示例 说明 Spring Cloud Circuit breaker提供了一个跨越不同断路器实现…

留学Essay写作怎么注意具体结构?

留学生都知道Essay一般分为Introduction,Main Body和Conclusion这三个部分&#xff0c;Introduction说明了文章的整体内容&#xff0c;但本身并没有提出任何论点&#xff1b;Conclusion通常简要地概括了正文的要点&#xff0c;并建议进一步研究给出一些或结论性的想法&#xff…

Springboot实现ENC加密

目录1. 为什么要用ENC加密2. jasypt实现ENC加密1. 实现流程2. 说明1. 自定义加密秘钥1. 盐、前缀、后缀2. 自定义加密方案2. 部署方案1. 为什么要用ENC加密 以下是未经过加密的数据库配置&#xff0c;密码均是采用明文密码&#xff0c;很容易导致数据库泄露。 spring:datasou…

gitlab 简单优化 gitlab cpu高,内存高 gitlab 负载飙高

1.首先要说得是&#xff0c;优化不能解决根本问题&#xff0c;机器小水管&#xff0c;再优化还是不行。 我感觉4核8g应该可以&#xff0c;截图这机器是阿里云送的免费一个月 4核8g 内存&#xff0c;不知是不是送得问题&#xff0c;感觉也是hold不住。 负载逛逛升&#xff0c;8…

【springboot】19、数据库操作

文章目录基本说明默认数据源HikariDataSource切换数据源为Druid基本说明 这篇文章介绍如何在springboot的项目中进行数据库的连接&#xff0c;完成数据库操作。 默认数据源HikariDataSource HikariDataSource是springboot的默认数据源&#xff0c;性能十分优秀&#xff0c;我…

【Hack The Box】windows练习-- love

HTB 学习笔记 【Hack The Box】windows练习-- love &#x1f525;系列专栏&#xff1a;Hack The Box &#x1f389;欢迎关注&#x1f50e;点赞&#x1f44d;收藏⭐️留言&#x1f4dd; &#x1f4c6;首发时间&#xff1a;&#x1f334;2022年9月7日&#x1f334; &#x1f36d…