增加Kafka线索中的主题数

eh57zj3b  于 2021-06-07  发布在  Kafka
关注(0)|答案(2)|浏览(285)

我们计划使用kafka作为物联网用例的消息代理,其中每个设备都被视为唯一的主题。当我模拟每秒10条消息到10000个主题时,zookeeper遇到了瓶颈,所有kafka监控工具都无法从jmx端口读取吞吐量值和主题数。管理员会解决问题的。在物联网用例中,将有数百万个设备轮询数据到数百万个主题。我想确保这个方法是完美的。请建议。

7fyelxc5

7fyelxc51#

现在有另一个解决方案可用-试用ApachePulsar。它看起来很有前途的主题数量和一般相当类似Kafka,它现在是兼容Kafka。https://pulsar.apache.org/

cwxwcias

cwxwcias2#

你说的没错,即使理论上你在卡卡里可以有数百万个主题,Kafka里的主题数量是受zookeeper限制的,但你不可能有百万个主题。为每个设备创建主题/分区不是可扩展的解决方案。
你为什么需要数百万个主题?

相关问题