麋鹿的好架构是什么?

t98cgbkg  于 2021-06-08  发布在  Kafka
关注(0)|答案(3)|浏览(361)

我试图用麋鹿建立一个日志分析系统。我看到很多建筑以不同的方式使用麋鹿。其中之一就是
logstash->redis->logstash->elasticseach->kibana
第一个日志存储用于收集日志,第二个日志存储用于过滤日志。
我对redis不是很清楚,我们一定要用它吗?为什么不用Kafka?

kyks70gy

kyks70gy1#

你可以找到麋鹿的简单设置( if doesn't need of Redis ). 您可以通过下面的链接了解完整的设置,以及如何使用logstash加载日志,使用elsticsearch搜索日志,并在kibana中进行可视化
elk安装

xpcnnkqh

xpcnnkqh2#

第二个logstash用于标记日志,并将它们从日志行转换为解析的json。
关于体系结构,您可能还需要考虑一些其他因素,比如安全性、Map、可伸缩性。你可以看看我写的一篇关于如何在生产中部署elk的博客文章(http://logz.io/blog/deploy-elk-production/)
hth公司

7gs2gvoe

7gs2gvoe3#

两个logstash示例之间的redis是一个缓冲区,以防elasticsearch或logstash indexer崩溃。
根据使用logstash处理的内容,您可能不需要它。如果您正在读取日志文件,当logstash(索引器)被淹没时,logstash(发货人)将停止发送日志。这样,您就得到了一个分布式缓存(在日志文件中!)。
如果您使用的是一次性事件(例如来自网络设备的陷阱或系统日志),那么像redis或rabbitmq这样的缓冲区在logstash(indexer)可用之前存储它们是很重要的。

相关问题