如何实现logstash-input-jdbc 增量读取SQLserver数据库

发布网友发布时间：2022-04-10 04:45

共2个回答

懂视网时间：2022-05-03 08:17

需要学习的地方：使用logstash获取数据后，然后根据这些数据再从MySQL数据库中进行匹配，增加一些数据到logstash的数据流中，然后输出到es

在IoT物联网时代，我们经常会遇到从传感器采集数据的情况。这些传感器，可以上传物联网数据，比如温度，湿度。通常这些传感器带有自己的ID，但是它并不具有像地理位置等这样的信息。当物联网数据传到我们的数据平台时，我们希望对采集上来的数据进行数据的丰富，比如我们对物联网的数据加上它所在的位置等信息，这将对我们的数据分析非常有用。这些需要丰富的数据通常会存放于一个关系数据库的表格中，比如MySQL的数据库中。在今天的文章中，我们来介绍如何使用jdbc_streamline来丰富我们的数据。

安装Logstash

安装MySQL

把MySQL数据导入到Elasticsearch中”来进行安装及配置好自己的MySQL数据库。记得把相应的Connector放入相应的文件目录中。

安装好我们的MySQL后，创建一个叫做data的数据库，并创建一个叫做sensors的表格

在这里，我们创建一个记录。这个记录是用来丰富我们的物联网的数据的。当传感器传入的数据的id和这个表格id相匹配的时候，那么这个表格的数据将会被加入到事件中，从而丰富我们的事件数据。

Logstash配置文件

我们先定义一个配置这样一个叫做logstash_jdbc_streaming.con的文件，并把它置于自己的一个文件目录中，比如我把它存于我的一个叫做data的目录中：

# data/logstash_jdbc_streaming.conf

 input {
 http {
 id => "sensor_data_http_input"
 user => "sensor_data"
 password => "sensor_data"
 }
 }
 
 
 output {
 stdout { 
 codec => rubydebug 
 }
 }

在这里，我们使用一个叫做http的input。HTTP输入插件的参考文档位https://www.elastic.co/guide/en/logstash/current/plugins-inputs-http.html。
在这种情况下，由于我们使用的是http输入插件的默认配置，因此我们刚刚指定了ID。我们应该保护此HTTP端点的安全，因为它将在Internet上公开，以允许传感器从任何地方发送数据。我们可以配置用户和密码参数，以使用所需的用户名和密码保护此端。

我们可以先启动我们的Logstash。在Logstash的安装目录下运行：

./bin/logstash -f ~/data/logstash_jdbc_streaming.conf

使用此输入插件启动Logstash时，它将在端口8080上启动HTTP服务器，该HTTP服务器使用具有给定用户名和密码的基本身份验证进行保护。我们可以使用curl命令将请求发送到此Logstash管道，如下所示：

curl -XPOST -u sensor_data:sensor_data --header "Content-Type:application/json" "http://localhost:8080/" -d '{"id":1,"time":1512102540000,"reading":17.00}'

当我们执行上面的命令后，我们可以在Logstash运行的terminal中看到显示结果。

使用jdbc_streaming丰富数据

我们接下来丰富我们的传感器传来的数据。首先，我们来进一步修改我们的Logstash配置文件：

# cat data/logstash_jdbc_streaming.conf

 input {
 http {
 id => "sensor_data_http_input"
 user => "sensor_data"
 password => "sensor_data"
 }
 }
 
 filter {
 jdbc_streaming {
 jdbc_connection_string => "jdbc:mysql://localhost:3306/data?useTimezone=true&&serverTimezone=UTC"
 jdbc_user => "root"
 jdbc_password => "YourDatabasePassword"
 jdbc_validate_connection => true
 jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
 parameters => { "sensor_identifier" => "id"}
 statement => "select * from sensors where id= :sensor_identifier"
 target => lookupResult
 }
 }
 
 output {
 stdout { 
 codec => rubydebug 
 }
 }

这里必须注意的几点：

在配置jdbc connector时，必须把相应的驱动拷贝到Logstash安装目录下的

 $ pwd
 /Users/liuxg/elastic/logstash-7.3.0
 (base) liuxg:logstash-7.3.0 liuxg$ ls ./logstash-core/lib/jars/mysql-connector-java-8.0.17.jar 
 ./logstash-core/lib/jars/mysql-connector-java-8.0.17.jar

另外在配置文件中，不要配置jdbc_driver_library这个项。否则我们可能会看到如下的错误信息

[2019-10-10T14:41:53,015][ERROR][logstash.javapipeline ] Pipeline aborted due to error {:pipeline_id=>"main", :exception=>#<TypeError: failed to coerce jdk.internal.loader.ClassLoaders$AppClassLoader to java.net.URLClassLoader>, :backtrace=>["org/jruby/java/addons/KernelJavaAddons.java:29:in `to_java'", "/Users/liuxg/elastic/logstash-7.3.0/vendor/bundle/jruby/2.5.0/gems/logstash-filter-jdbc_streaming-1.0.7/lib/logstash/plugin_mixins/jdbc_streaming.rb:48:in `prepare_jdbc_connection'", "/Users/liuxg/elastic/logstash-7.3.0/vendor/bundle/jruby/2.5.0/gems/logstash-filter-jdbc_streaming-1.0.7/lib/logstash/filters/jdbc_streaming.rb:200:in `prepare_connected_jdbc_cache'", "/Users/liuxg/elastic/logstash-7.3.0/vendor/bundle/jruby/2.5.0/gems/logstash-filter-jdbc_streaming-1.0.7/lib/logstash/filters/jdbc_streaming.rb:116:in `register'", "org/logstash/config/ir/compiler/AbstractFilterDelegatorExt.java:56:in `register'", "/Users/liuxg/elastic/logstash-7.3.0/logstash-core/lib/logstash/java_pipeline.rb:192:in `block in register_plugins'", "org/jruby/RubyArray.java:1792:in `each'", "/Users/liuxg/elastic/logstash-7.3.0/logstash-core/lib/logstash/java_pipeline.rb:191:in `register_plugins'", "/Users/liuxg/elastic/logstash-7.3.0/logstash-core/lib/logstash/java_pipeline.rb:463:in `maybe_setup_out_plugins'", "/Users/liuxg/elastic/logstash-7.3.0/logstash-core/lib/logstash/java_pipeline.rb:204:in `start_workers'", "/Users/liuxg/elastic/logstash-7.3.0/logstash-core/lib/logstash/java_pipeline.rb:146:in `run'", "/Users/liuxg/elastic/logstash-7.3.0/logstash-core/lib/logstash/java_pipeline.rb:105:in `block in start'"], :thread=>"#<Thread:0x3fa8c5a3 run>"}

如果有运行错误，比如timezone错误，需要在JDBC请求时加入serverTimezone

当我们完成上面的一步的时候，我们重新运行我们的Logstash:

./bin/logstash -f ~/data/logstash_jdbc_streaming.conf

在另外一个terminal上，打入如下的命令：

curl -XPOST -u sensor_data:sensor_data --header "Content-Type:application/json" "http://localhost:8080/" -d '{"id":1,"time":1512102540000,"reading":17.00}'

我们可以看到如下的输出在Logstash的terminal上.

在上面，我们可以看到丰富后的数据在lookupResult中出现了。我们可以进一步改造我们的配置文件，并对从收据库中收集的数据更进一步地加工：

# cat data/logstash_jdbc_streaming.conf

 input {
 http {
 id => "sensor_data_http_input"
 user => "sensor_data"
 password => "sensor_data"
 }
 }
 
 filter {
 jdbc_streaming {
 jdbc_connection_string => "jdbc:mysql://localhost:3306/data?useTimezone=true&&serverTimezone=UTC"
 jdbc_user => "root"
 jdbc_password => "YourDabaePassword"
 jdbc_validate_connection => true
 jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
 parameters => { "sensor_identifier" => "id"}
 statement => "select * from sensors where id= :sensor_identifier"
 target => lookupResult
 }
 
 mutate {
 rename => {"[lookupResult][0][sensorType]" => "sensorType"}
 rename => {"[lookupResult][0][customer]" => "customer"}
 rename => {"[lookupResult][0][department]" => "department"}
 rename => {"[lookupResult][0][buildingName]" => "buildingName"}
 rename => {"[lookupResult][0][room]" => "room"}
 rename => {"[lookupResult][0][floor]" => "floor"}
 rename => {"[lookupResult][0][locationOnFloor]" => "locationOnFloor"}
 add_field => {
  "location" => "%{[lookupResult][0][latitude]},%{[lookupResult][0][longitude]}"
 }
 remove_field => ["lookupResult", "headers", "host"]
 } 
 }
 
 output {
 stdout { 
 codec => rubydebug 
 }
 }

重新运行我们的Logstash应用，并在另外一个terminal中打入curl指令，可以看出来这是经过我们转换后的数据。我们删除了一下并不需要的数据，同时，我们也把经纬度信息组合为我们需要的location字段。可以为未来我们的位置信息查询提供方便。

输出至Elasticsearch

到目前为止，我们只显示我们的数据到stdout，仅供我们调试所使用。我们可以进一步改造我们的配置文件：

cat data/logstash_jdbc_streaming.conf

 input {
 http {
 id => "sensor_data_http_input"
 user => "sensor_data"
 password => "sensor_data"
 }
 }
 
 filter {
 jdbc_streaming {
 jdbc_connection_string => "jdbc:mysql://localhost:3306/data?useTimezone=true&&serverTimezone=UTC"
 jdbc_user => "root"
 jdbc_password => "YourPassword"
 jdbc_validate_connection => true
 jdbc_driver_class => "com.mysql.cj.jdbc.Driver"
 parameters => { "sensor_identifier" => "id"}
 statement => "select * from sensors where id= :sensor_identifier"
 target => lookupResult
 }
 
 mutate {
 rename => {"[lookupResult][0][sensorType]" => "sensorType"}
 rename => {"[lookupResult][0][customer]" => "customer"}
 rename => {"[lookupResult][0][department]" => "department"}
 rename => {"[lookupResult][0][buildingName]" => "buildingName"}
 rename => {"[lookupResult][0][room]" => "room"}
 rename => {"[lookupResult][0][floor]" => "floor"}
 rename => {"[lookupResult][0][locationOnFloor]" => "locationOnFloor"}
 add_field => {
  "location" => "%{[lookupResult][0][latitude]},%{[lookupResult][0][longitude]}"
 }
 remove_field => ["lookupResult", "headers", "host"]
 } 
 }
 
 output {
 stdout { 
 codec => rubydebug 
 }
 
 elasticsearch {
 hosts => ["localhost:9200"]
 index => "sensor_data-%{+YYYY.MM.dd}"
 user => "elastic"
 password => "elastic"
 } 
 }

这次，我们加入了elasticsearch作为一个输出。打开我们的Kibana可以看出来，我们已经成功地把数据输出到Elasticsearch之中了。

在实际的使用中，我们可以不间断地运用这个jdbc_streaming把我们的从物联网中收集的数据进行丰富。

Logstash：运用jdbc_streaming来丰富我们的数据

标签：html time 位置情况下 bae cal plugins http服务器组合

热心网友时间：2022-05-03 05:25

我的logstash input 配置文件如下 input { jdbc { type => "testdb" jdbc_driver_library => "/app/sqljdbc_6.0/enu/sqljdbc42.jar" jdbc_driver_class