能用吗?

mrzz3bfm  于 2021-06-07  发布在  Kafka
关注(0)|答案(1)|浏览(456)

我以前从来没有用过zookeeper/kafka,所以如果有什么我说的是错误的,请随时更正。
让zookeeper/kafka集群使用aws ecs进行上下扩展是个好主意吗?我不太清楚这是怎么做到的,因为似乎没有太多的信息将两者结合在一起,所以我开始觉得这不是我应该做的事情。
似乎没有一种方法可以将zookeeper副本自动添加到集群中,而kafka似乎也是如此(除非使用mirrormaker)。

fdbelqdn

fdbelqdn1#

zookeeper可由参展商使用共享配置位置进行自动示例管理。把它组合成一个docker映像,使用AmazonS3作为后端选项,你就可以开始了。
Kafka有点复杂,因为每个节点都需要一个唯一的 broker.id 而且您需要管理那些考虑到故障和节点替换的节点。另外,当一个新的 broker.id 添加到集合中,或从集合中移除(即,当您放大或缩小时)。我强烈推荐这篇关于 broker.id 自动缩放组中的管理。
请注意,这两个问题都与kafka自动伸缩有关,而不是使用amazonecs本身。在AmazonECS上的docker容器中部署kafka(带有一些限制)应该相当简单。
我不确定mirrormaker如何适合您的场景,但请记住,这只是另一个消费者—它与集群管理无关。

相关问题