关闭。这个问题是基于意见的。它目前不接受答案。**想改进这个问题吗?**更新这个问题,这样就可以通过编辑这篇文章用事实和引文来回答。
三年前关门了。改进这个问题发布大型数据以便在企业应用程序中进行处理的最佳方法是什么?数据数据大小将高达1 gb消耗时,可移除(如果处理);不需要坚持。我们可以看看jms技术/kafka集群来接收和分发数据吗?数据必须完全使用,只能使用一个,并且不能在多个使用者之间共享(分区)。还有什么其他的选择可以探索?
rjee0c151#
apachekafka更适合处理实时数据流,而不是大数据传输。消息也不会被删除,而是被提交。同样,您需要实现一次处理。Kafka本身并不了解jta。我建议不要使用大消息大小。无论您使用什么其他排队技术,您都需要使用小于1gb的消息大小(即,您需要将数据分块并重新组合或使处理流类似于而不是批量)。
1条答案
按热度按时间rjee0c151#
apachekafka更适合处理实时数据流,而不是大数据传输。消息也不会被删除,而是被提交。同样,您需要实现一次处理。Kafka本身并不了解jta。我建议不要使用大消息大小。
无论您使用什么其他排队技术,您都需要使用小于1gb的消息大小(即,您需要将数据分块并重新组合或使处理流类似于而不是批量)。