我是rsyslog和kafka的新手,在尝试使用下面的日志流时遇到了一些麻烦。
nginx log -> rsyslog-imudp -> rsyslog-omkafka -> kafka
这是nginx conf
log_format jsonlog '{'
'"host": "$host",'
'"server_addr": "$server_addr",'
'"http_x_forwarded_for":"$http_x_forwarded_for",'
'"remote_addr":"$remote_addr",'
'"time_local":"$time_local",'
'"request_method":"$request_method",'
'"request_uri":"$request_uri",'
'"status":$status,'
'"body_bytes_sent":$body_bytes_sent,'
'"http_referer":"$http_referer",'
'"http_user_agent":"$http_user_agent",'
'"upstream_addr":"$upstream_addr",'
'"upstream_status":"$upstream_status",'
'"upstream_response_time":"$upstream_response_time",'
'"request_time":$request_time'
'}';
access_log syslog:server=server_ip,facility=local7,tag=nginx_access_log jsonlog;
和rsyslog conf
module(load="imudp")
input(type="imudp" port="514")
module(load="omkafka")
template(name="nginxLog" type="string" string="%msg%")
if $inputname == "imudp"then {
action(type="omkafka"
template="nginxLog"
broker=["localhost:9092"]
topic="rsyslog_logstash"
partitions.auto="on"
confParam=[
"socket.keepalive.enable=true"
]
)
}
不幸的是,我没有任何输出在消费终端
bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic rsyslog_logstash --from-beginning
也许是模板,但我找不到太多关于它的文档。
2条答案
按热度按时间368yc8dk1#
对于调试,停止rsyslog并使用:rsyslogd-nd运行它(我建议使用rsyslogd-n运行并再次检查您的kafka主题,然后调试它)
您可能遇到过selinux问题,可以通过以下方法解决:
m528fe3b2#
使用rsyslog impstats模块检查您的imudp接收了多少消息,以及有多少消息发送到omkafka。