因此,我尝试使用logstash将数据从MongoDB移动到elasticsearch。我不希望写入重复的数据,所以我在输出中使用doc_as_upsert => true
沿着document_id
参数。这是我的logstash配置文件
input {
jdbc{
jdbc_driver_class => "com.dbschema.MongoJdbcDriver"
jdbc_driver_library => "/path/to/mongojdbc1.8.jar"
jdbc_user => ""
jdbc_password => ""
jdbc_connection_string => "jdbc:mongodb://127.0.0.1:27017/db1"
statement => "db1.coll1.find({ },{'_id': false})"
}
}
output {
elasticsearch {
hosts => ["http://127.0.0.1:9200"]
index => "test"
user => ""
password => ""
doc_as_upsert => true
document_id => "%{datetime}"
}
}
正如您所看到的,我尝试使用MongoDB文档的 datetime 字段(一个字符串)作为elasticsearch的文档id。
{
"_index" : "test",
"_type" : "_doc",
"_id" : "%{datetime}",
"_score" : 1.0,
"_source" : {
"@timestamp" : "2020-05-28T08:53:28.244Z",
"document" : {
# .. some fields ..
"datetime" : "2020-05-28 14:22:29.133363",
# .. some fields ..
},
"@version" : "1"
}
}
将字符串%{datetime}用作ID,而不是将datetime字段的值用作_id。如何修复此问题?
1条答案
按热度按时间hpcdzsge1#
document_id
字段不在根级别,因此需要将语法更改为以下格式: