rsyslog不会将日志写入kafka

piok6c0g  于 2021-06-07  发布在  Kafka
关注(0)|答案(2)|浏览(544)

我是rsyslog和kafka的新手,在尝试使用下面的日志流时遇到了一些麻烦。

nginx log -> rsyslog-imudp -> rsyslog-omkafka -> kafka

这是nginx conf

log_format  jsonlog '{'
    '"host": "$host",'
    '"server_addr": "$server_addr",'
    '"http_x_forwarded_for":"$http_x_forwarded_for",'
    '"remote_addr":"$remote_addr",'
    '"time_local":"$time_local",'
    '"request_method":"$request_method",'
    '"request_uri":"$request_uri",'
    '"status":$status,'
    '"body_bytes_sent":$body_bytes_sent,'
    '"http_referer":"$http_referer",'
    '"http_user_agent":"$http_user_agent",'
    '"upstream_addr":"$upstream_addr",'
    '"upstream_status":"$upstream_status",'
    '"upstream_response_time":"$upstream_response_time",'
    '"request_time":$request_time'
'}';

access_log syslog:server=server_ip,facility=local7,tag=nginx_access_log jsonlog;

和rsyslog conf

module(load="imudp")
input(type="imudp" port="514")

module(load="omkafka")

template(name="nginxLog" type="string" string="%msg%")

if $inputname == "imudp"then {
        action(type="omkafka"
            template="nginxLog"
            broker=["localhost:9092"]
            topic="rsyslog_logstash"
            partitions.auto="on"
            confParam=[
                "socket.keepalive.enable=true"
            ]
        )
}

不幸的是,我没有任何输出在消费终端

bin/kafka-console-consumer.sh --zookeeper localhost:2181 --topic rsyslog_logstash --from-beginning

也许是模板,但我找不到太多关于它的文档。

368yc8dk

368yc8dk1#

对于调试,停止rsyslog并使用:rsyslogd-nd运行它(我建议使用rsyslogd-n运行并再次检查您的kafka主题,然后调试它)
您可能遇到过selinux问题,可以通过以下方法解决:

sudo semanage port -d -t unreserved_port_t -p tcp 9092
sudo semanage port -a -t http_port_t -p tcp 9092
m528fe3b

m528fe3b2#

使用rsyslog impstats模块检查您的imudp接收了多少消息,以及有多少消息发送到omkafka。

相关问题