我们计划使用kafka作为物联网用例的消息代理,其中每个设备都被视为唯一的主题。当我模拟每秒10条消息到10000个主题时,zookeeper遇到了瓶颈,所有kafka监控工具都无法从jmx端口读取吞吐量值和主题数。管理员会解决问题的。在物联网用例中,将有数百万个设备轮询数据到数百万个主题。我想确保这个方法是完美的。请建议。
7fyelxc51#
现在有另一个解决方案可用-试用ApachePulsar。它看起来很有前途的主题数量和一般相当类似Kafka,它现在是兼容Kafka。https://pulsar.apache.org/
cwxwcias2#
你说的没错,即使理论上你在卡卡里可以有数百万个主题,Kafka里的主题数量是受zookeeper限制的,但你不可能有百万个主题。为每个设备创建主题/分区不是可扩展的解决方案。你为什么需要数百万个主题?
2条答案
按热度按时间7fyelxc51#
现在有另一个解决方案可用-试用ApachePulsar。它看起来很有前途的主题数量和一般相当类似Kafka,它现在是兼容Kafka。https://pulsar.apache.org/
cwxwcias2#
你说的没错,即使理论上你在卡卡里可以有数百万个主题,Kafka里的主题数量是受zookeeper限制的,但你不可能有百万个主题。为每个设备创建主题/分区不是可扩展的解决方案。
你为什么需要数百万个主题?