生产者a将消息写入代理a(分区1),生产者b将相同的消息写入代理a(分区1)。消息或代理发生了什么?
我猜既然有相同的消息,生产者b会停止相同的消息,然后继续消息的下一部分吗?
我还有一个问题,如果你想发送一个电影文件,例如,Kafka集群,我可以让4个制片人,并让他们发送到集群电影的不同部分?例如,制片人a发送电影的第一部分,制片人b发送电影的第二部分,依此类推(因为这似乎比一个生产商更有效。)
生产者a将消息写入代理a(分区1),生产者b将相同的消息写入代理a(分区1)。消息或代理发生了什么?
我猜既然有相同的消息,生产者b会停止相同的消息,然后继续消息的下一部分吗?
我还有一个问题,如果你想发送一个电影文件,例如,Kafka集群,我可以让4个制片人,并让他们发送到集群电影的不同部分?例如,制片人a发送电影的第一部分,制片人b发送电影的第二部分,依此类推(因为这似乎比一个生产商更有效。)
1条答案
按热度按时间wmomyfyw1#
如果两个制作人向Kafka发送相同的消息,则消息将被写入两次。Kafka不检查信息的内容。如果你打电话也一样
send()
两次在一个制片人,你得到两个Kafka信息。如果要发送大量数据,建议使用多个生产者来分割工作。另外,kafka并不是专门用来处理大于1gb的消息的,所以将大文件分割成更小的块是个好主意。只是小心你如何分割你的数据,因为你可能需要重新组装它在消费者方面!