阅读Kafka主题相关记录的有限列表的最佳方式是什么?例如,来自包含几百条记录的db查询的结果。我怎么知道“结局”?标题中的简单标志?
vaqhlq811#
听起来你想问Kafka。在这种情况下,您可能需要尝试ksql(https://github.com/confluentinc/ksql ). 它允许您从mytopic创建类似sql的查询,比如select*,其中regionid类似于“%$8”或regionid类似于“%$9”,限制为100;
z9zf31ra2#
对于这样的用例,kafka不是一个好的选择。您必须记住与db查询相对应的消息的起始偏移量和结束偏移量,还必须确保这些消息进入单个分区,否则它们可能会无序添加,甚至需要记住更多的状态。如果对每个查询使用一个独占主题,则效果会更好。Kafka不是一个很好的选择,创建和删除主题的飞行。相反,对于您提到的用例,redis列表将是一个更好的选择。
2条答案
按热度按时间vaqhlq811#
听起来你想问Kafka。在这种情况下,您可能需要尝试ksql(https://github.com/confluentinc/ksql ). 它允许您从mytopic创建类似sql的查询,比如select*,其中regionid类似于“%$8”或regionid类似于“%$9”,限制为100;
z9zf31ra2#
对于这样的用例,kafka不是一个好的选择。您必须记住与db查询相对应的消息的起始偏移量和结束偏移量,还必须确保这些消息进入单个分区,否则它们可能会无序添加,甚至需要记住更多的状态。如果对每个查询使用一个独占主题,则效果会更好。Kafka不是一个很好的选择,创建和删除主题的飞行。
相反,对于您提到的用例,redis列表将是一个更好的选择。