Kafka从主题中读有限列表

qoefvg9y  于 2021-06-07  发布在  Kafka
关注(0)|答案(2)|浏览(232)

阅读Kafka主题相关记录的有限列表的最佳方式是什么?例如,来自包含几百条记录的db查询的结果。我怎么知道“结局”?标题中的简单标志?

vaqhlq81

vaqhlq811#

听起来你想问Kafka。在这种情况下,您可能需要尝试ksql(https://github.com/confluentinc/ksql ). 它允许您从mytopic创建类似sql的查询,比如select*,其中regionid类似于“%$8”或regionid类似于“%$9”,限制为100;

z9zf31ra

z9zf31ra2#

对于这样的用例,kafka不是一个好的选择。您必须记住与db查询相对应的消息的起始偏移量和结束偏移量,还必须确保这些消息进入单个分区,否则它们可能会无序添加,甚至需要记住更多的状态。如果对每个查询使用一个独占主题,则效果会更好。Kafka不是一个很好的选择,创建和删除主题的飞行。
相反,对于您提到的用例,redis列表将是一个更好的选择。

相关问题