使用logstash把mysql同步到es,Kibana可视化查看

news2025/10/20 21:59:34

1:首先需要电脑本地有es环境,并且要牢记版本后,后续安装的logstash和Kibana一定要版本对应

查看es版本:http://localhost:9200/

在这里插入图片描述

2:安装对应版本的logstash:找到自己对应ES版本,然后解压

Logstash下载地址:https://www.elastic.co/cn/downloads/logstash
在这里插入图片描述
在这里插入图片描述

3:解压后我这里重命名了一下,进入后是这个样子:

在这里插入图片描述

4:进入bin目录,新建配置为文件:my_logstash.conf,里面的jdbc_driver_library需要自己手动添加这个jar包,然后statement 设置为你所需的sql语句,里面注释也写得很清楚, jdbc_connection_string里面数据库的名字改成自己的

在这里插入图片描述

my_logstash.conf:

input {
    stdin{
    }
    jdbc {
        # 设置 MySql/MariaDB 数据库url以及数据库名称
        jdbc_connection_string => "jdbc:mysql://127.0.0.1:3306/ry-vue-blog?tinyInt1isBit=false&characterEncoding=UTF-8&useSSL=false&autoReconnect=true"
        # 用户名和密码
        jdbc_user => "root"
        jdbc_password => "root"
        # 数据库驱动mysql-connector-java-8.0.19.jar所在位置,可以是绝对路径或者相对路径,下载地址:https://download.csdn.net/download/qq_30667039/86490851
        jdbc_driver_library => "D:\Environment\Logstash\7.8.0\bin\mysql-connector-java-8.0.27.jar"
        # 驱动类名
        jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
         # 是否开启分页,ture为开启
        jdbc_paging_enabled => false
         # 分页每页数量
        jdbc_page_size => "50"
        # 设置时区
        jdbc_default_timezone =>"Asia/Shanghai"
        # 执行的sql文件路径
        # statement_filepath => "E:/logstash-7.8.0/bin/scrm.sql"
        # 使用这个可以直接写sql语句,但是复杂的语句最好是写在文件内
        statement =>"SELECT * FROM blog_article"
        # 设置定时任务间隔  含义:分、时、天、月、年,全部为*默认含义为每分钟跑一次任务
        schedule => "*/5 * * * * *"
        #是否需要记录某个字段值,如果为true,我们可以自定义要记录的数据库某个字段值,例如id或date字段。如果为false,记录的是上次执行的标记,默认是一个timestamp
        use_column_value => true
        #记录上次执行字段值路径。我们可以在sql语句中这么写:WHERE ID > :last_sql_value。其中 :sql_last_value 取得就是该文件中的值,这个last_time会以文件形式存在
        last_run_metadata_path => "E:\logstash-7.8.0\bin\last_time"
        #如果use_column_value为真,需配置此参数. 指定增量更新的字段名。当然该字段必须是递增的,比如id或date字段。
        tracking_column => "updateTime"
        # tracking_column 对应字段的类型,只能选择timestamp或者numeric(数字类型),默认numeric。
        tracking_column_type => "timestamp"
       #如果为true,每次会记录所更新的字段的值,并保存到 last_run_metadata_path 指定的文件中
        record_last_run => true
        # 是否清除 last_run_metadata_path 的记录,true则每次都从头开始查询所有的数据库记录
        clean_run => false
         # 是否将字段名称转小写。默认是true。这里注意Elasticsearch是区分大小写的
        lowercase_column_names => false
    } 	
} 
 
output {
	elasticsearch {
         # es地址 集群数组hosts => ["127.0.0.1:9200"]     
        hosts => ["127.0.0.1:9200"] 
       # 同步的索引名必须要有@timestamp  不然yyyyMM不起效
        index => "blog_article"
        # 设置_docID和数据相同
        document_id => "%{id}"
        #自定的模板名称
       #template_name => "ps_seal_log"
        #自定义的模板配置文件
       #template => "/usr/local/logstash/logstash-7.12.1/mysqlnote/ps_test_log_template.json"
        #是否重写模板
       #template_overwrite => true 
    }
    stdout{
    }
}

注意上面 index => "blog_article"这里是索引,根据自己的需求设置索引名

5:然后就可以启动logstash进行数据的同步:在当前bin打开cmd输入命令:logstash -f my_logstash.conf:自动开始同步

在这里插入图片描述

6:下载Kibana同样对应es版本:解压后:(记得换成自己的版本,更改后面的-6-6-0为自己的ES版本)

下载地址:https://www.elastic.co/cn/downloads/past-releases/kibana-6-6-0Kibana

7:修改kibana配置文件:改成中文

8:启动kibana:访问: http://localhost:5601/

在这里插入图片描述

9:查询同步的索引:

在这里插入图片描述
在这里插入图片描述

本文来自互联网用户投稿,该文观点仅代表作者本人,不代表本站立场。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如若转载,请注明出处:http://www.coloradmin.cn/o/334088.html

如若内容造成侵权/违法违规/事实不符,请联系多彩编程网进行投诉反馈,一经查实,立即删除!

相关文章

聚观早报 |微软正式将ChatGPT引入必应;百度将于3月上线ChatGPT

今日要闻:微软正式将ChatGPT引入必应;抖音否认3月全国上线外卖服务;百度将于3月上线ChatGPT产品;印尼跃升成全球第二大钴生产国;特斯拉在德国喜获“开年红” 微软正式将ChatGPT引入必应 2 月 8 日,据 CNET …

低代码开发平台|生产管理-成本核算搭建指南

1、简介1.1、案例简介本文将介绍,如何搭建生产管理-成本核算。1.2、应用场景计算主生产及子生产计划的工序成本、领料成本,统计出总的生产成本金额。2、设置方法2.1、表单搭建1)新建表单【商品信息】,字段设置如下;名称…

数据库模式(schema)是什么?

在数据库的术语中,模式(schema)是一个逻辑概念,用于组织数据库中的对象。模式中的对象通常包括表、索引、数据类型、序列、视图、存储过程、主键、外键等等。 模式可以为数据库对象提供逻辑隔离功能,不用应用程序可以…

基于libcurl 实现web-uploader客户端 大文件分片,断点续传(curl-uploader)

嵌入式设备Arm linux 基于libcurl 实现大文件分片上传,断点续传,分片大小可控,使用libcurl 实现web-upload linux c/c 客户端(curl-uploader)。通过wireshark 抓包网页版客户端上传文件过程,分析http post 流程。工程代码&#xf…

【排序算法】快速排序(Quick Sort)

快速排序(Quick Sort)使用分治法算法思想。快速排序介绍它的基本思想是: 选择一个基准数,通过一趟排序将要排序的数据分割成独立的两部分;其中一部分的所有数据都比另外一部分的所有数据都要小。然后,再按此方法对这两部分数据分别进行快速排…

SCADA软件平台数据库功能的应用

一、前言 SCADA系统是以计算机为基础的过程控制和调度自动化系统,它对工业现场的设备进行监视和控制,并实现数据采集与分析、设备运行控制、异常报警等。数据库系统作为SCADA系统中的重要组成部分,是进行数据采集、处理和存储的基础&#xf…

软件设计(八)

软件设计(七)https://blog.csdn.net/ke1ying/article/details/128927149 71、计算机系统主要是由 DRAM 构成的。 解析:随机访问存储器RAM有两类。 DRAM:(dynamic)动态随机访问存储器。SRAM比DRAM贵很多,DRAM电容很小&#xff0…

基于深度学习的安全帽监管系统

摘 要 安全生产管理是建筑、重工业等高危企业发展的重要方针,安全帽在施工生产环境中对人员头部防护起着关键作用,因此加强安全帽佩戴监管十分必要。近年来,基于图像视觉的安全帽佩戴监测方法成为了企业实施管理的主要手段,如何提高安全帽佩戴检测精度和检测速度是应用的关键难…

Linux系列文章 —— 进程概念(图解PCB、进程的描述、状态、创建、组织、查看详解)

系列文章目录 文章目录系列文章目录前言一、冯诺依曼体系结构二、操作系统三、进程概念进程概念描述进程(PCB)组织进程查看进程创建进程(fork)进程队列进程状态运行状态 - R睡眠状态 - S停止状态 - T僵尸进程 - Z孤儿进程进程优先…

不会做UI自动化测试?一起设计框架再实践吧

目的相信做过测试的同学都听说过自动化测试,而UI自动化无论何时对测试来说都是比较吸引人的存在。相较于接口自动化来说它可以最大程度的模拟真实用户的日常操作与特定业务场景的模拟,那么存在即合理,自动化UI测试自然也是广大测试同学职业道…

Jmeter之实现参数化的不同方式详解

参数化简介 定义:动态的获取、设置或生成数据,是一种由程序驱动代替人工驱动的数据设计方案,提高脚本的编写效率以及编写质量 适用场景:当提交的数据量较大时,每次修改太麻烦,可以使用参数化 本文介绍实现…

DAMA数据管理知识体系指南之数据仓库和商务智能管理

第9章 数据仓库和商务智能管理 9.1简介 数据仓库(Data Warehouse,DW)由两个主要部分构成:首先是一个整合的决策支持数据库,其次是用于收集、清洗、转换、存储来自于各种操作型数据源和外部数据源数据的相关软件程序。两者结合以支持历史的、…

mycat学习

安装部署下载1:mycat2-install-template-1.21.zip下载2:mycat2-1.21-release-jar-with-dependencies.jar解压mycat2-install-template-1.21.zipunzip mycat2-install-template-1.21.zip把mycat2-1.21-release-jar-with-dependencies.jar放在mycat/lib中修…

【逐步剖C】-第五章-指针初阶

一、指针的基本知识 1. 预备知识: (1)内存的简单概念: 内存是电脑上特别重要的存储器,计算机中程序的运行都是在内存中进行。 为了有效的使用内存,就把内存划分成一个个小的内存单元,经过仔细…

js方法总结:join 、split、splice、async await

async await 异步里面有同步操作 执行完一个,再去执行另一个是同步,如promise().then() 所有的一起执行是异步 同步和异步操作的区别就是是否阻碍后续代码的执行。 下面例子是同步,执行完 test再去执行test2最后test3,&#xff…

Android 性能优化之内存优化与泄漏分析工具LeakCanary

一、背景 在Android应用中,除了正常的业务开发,我们也要关注性能问题。卡顿、内存溢出、内存泄漏等问题,直接的表现会反馈到用户体验上,用户体验不好导致应用被卸载或者换到其他平台。 在性能优化,各大公司都会付出一些…

sass预处理中文教程(2023开学版)

Sass安装步骤 一、Sass的安装 由于Sass是使用Ruby编写的,所以我们在使用Sass之前需要安装一下Ruby。下面是Windows平台的安装步骤。对于Mac平台,请查看这里:Mac平台安装Sass。 【步骤1“下载Ruby”】:大家到Ruby的官网&#xf…

MySQL----内置函数

MySQL---->内置函数 函数:将经常使用的代码封装起来,需要的时候直接调用就可以 从函数定义角度,函数可分为: 内置函数:系统内置的通用函数自定义函数:需要根据需求编写的函数 MySQL提供的内置函数从…

【游戏逆向】RPG游戏自动打怪之取得最近怪物

RPG游戏辅助想要自动打怪,首要的任务就是需要获得最近的怪物,否则打怪的顺序会非常混乱。 想要取得最近怪物信息 要2个步骤 第一步 计算出所有怪物的距离 第二步 对所有怪物的距离进行判断,筛选出距离最近的 第一步怪物距离计算 如果是以2D的平面来看 2个点的距…

[Tomcat下载安装以及配置(详细教程)]

下载及安装Tomcat进入tomcat官网,Tomcat官网Apache Tomcat - Welcome!选择需要下载的版本,点击下载下载路径一定要记住,并且路径中尽量不要有中文下载后是压缩包 .zip,解压后tomcat系统各个文件夹目录是什么意义:bin&a…