1、安装前准备,安装Logstash7.6.1需要使用和Elasticsearch相同的版本,我使用的版本是7.6.1,所需版本也基本相同,详细的安装步骤步骤可以查看 Elasticsearch7.6.1a安装步骤
2、安装脚本命令
#下载Logstash7.6.1文件 curl -L -O https://artifacts.elastic.co/downloads/logstash/logstash-7.6.1.tar.gz #解压文件 tar -xvf logstash-7.6.1.tar.gz #切换目录 cd /logstash-7.6.1/bin/
3、下载JDBC 所需要的包,并放置到服务器目录
curl -L -O https://repo1.maven.org/maven2/mysql/mysql-connector-java/8.0.19/mysql-connector-java-8.0.19.jar
4、准备导入logstash的SQL文件/home/elk/jdbc-sql/jdbc.sql
SELECT * FROM tablename WHERE catalog ='2' AND iid > :sql_last_value
5、准备logstash配置文件 logstash.conf
input { stdin { } jdbc { # mysql jdbc connection string to our backup databse jdbc_connection_string => "jdbc:mysql://192.168.1.12:3306/products" jdbc_user => "xxx" jdbc_password => "xxx" jdbc_driver_library => "/home/elk/mylibs/mysql-connector-java-8.0.19.jar" jdbc_driver_class => "com.mysql.cj.jdbc.Driver" jdbc_paging_enabled => "true" jdbc_page_size => "5000" statement_filepath => "/home/elk/jdbc-sql/jdbc.sql" schedule => "* * * * *" } } output { elasticsearch { hosts => ["192.168.1.11:9200"] index => "jqm_komatsu" document_type => "parts" document_id => "%{iid}" } }
6、执行导入,查看导入结果
./logstash -f ./logstash.conf
通过
GET _cat/indices
命令,即可查看索引数据,判断是否导入成功,如图: