ApacheKafka—当多个生产者将同一消息写入代理时,代理会做什么?还有一个相关的问题(由于150字的限制)

xlpyo6sf  于 2021-06-06  发布在  Kafka
关注(0)|答案(1)|浏览(354)

生产者a将消息写入代理a(分区1),生产者b将相同的消息写入代理a(分区1)。消息或代理发生了什么?
我猜既然有相同的消息,生产者b会停止相同的消息,然后继续消息的下一部分吗?
我还有一个问题,如果你想发送一个电影文件,例如,Kafka集群,我可以让4个制片人,并让他们发送到集群电影的不同部分?例如,制片人a发送电影的第一部分,制片人b发送电影的第二部分,依此类推(因为这似乎比一个生产商更有效。)

wmomyfyw

wmomyfyw1#

如果两个制作人向Kafka发送相同的消息,则消息将被写入两次。Kafka不检查信息的内容。如果你打电话也一样 send() 两次在一个制片人,你得到两个Kafka信息。
如果要发送大量数据,建议使用多个生产者来分割工作。另外,kafka并不是专门用来处理大于1gb的消息的,所以将大文件分割成更小的块是个好主意。只是小心你如何分割你的数据,因为你可能需要重新组装它在消费者方面!

相关问题