kafka流：如何获取会话窗口的第一个和最后一个记录？

qoefvg9y 于 2021-06-06 发布在 Kafka

关注(0)|答案(1)|浏览(374)

默认情况下， .windowedBy(SessionWindows.with(Duration.ofSeconds(60)) 返回每个传入记录的记录。
结合了 .count() 和一个 .filter() 检索第一条记录很容易。
使用 .suppress(Suppressed.untilWindowCloses(unbounded())) 检索上一张唱片也很容易。
所以…我做了两次处理，你可以看到改编的字数计算示例：

final KStream<String, String> streamsBranches = builder.<String,String>stream("streams-plaintext-input");

streamsBranches
  .flatMapValues(value -> Arrays.asList(value.toLowerCase(Locale.getDefault()).split("\\W+")))
  .groupBy((key, value) -> ""+value)
  .windowedBy(SessionWindows.with(Duration.ofSeconds(60)).grace(Duration.ofSeconds(2)))
  .count(Materialized.with(Serdes.String(), Serdes.Long()))
  .toStream()
  .map((wk, v) -> new KeyValue<>(wk.key(), v == null ? -1l : v))
  .filter((wk, v) -> v == 1)
  .to("streams-wordcount-output", Produced.with(Serdes.String(), Serdes.Long()));

streamsBranches
  .flatMapValues(value -> Arrays.asList(value.toLowerCase(Locale.getDefault()).split("\\W+")))
  .groupBy((key, value) -> ""+value)
  .windowedBy(SessionWindows.with(Duration.ofSeconds(60)).grace(Duration.ofSeconds(2)))
  .count(Materialized.with(Serdes.String(), Serdes.Long()))
  .suppress(Suppressed.untilWindowCloses(unbounded()))
  .toStream()
  .map((wk, v) -> new KeyValue<>(wk.key(), v))
  .filter((wk, v) -> v != null)
  .to("streams-wordcount-output", Produced.with(Serdes.String(), Serdes.Long()));

但我想知道是否有一个更简单和更美丽的方式做同样的事情。

Java apache-kafka apache-kafka-streams

来源：https://stackoverflow.com/questions/55358650/kafka-streams-how-to-get-the-first-and-the-last-record-of-a-sessionwindow

1条答案

按热度按时间

vyu0f0g11#

我想你应该用 SessionWindowedKStream::aggregate(...) 并根据逻辑在聚合器中累积结果（第一个值和最后一个值）
示例代码可能如下所示：

streamsBranches.groupByKey()
        .windowedBy(SessionWindows.with(Duration.ofSeconds(60)).grace(Duration.ofSeconds(2)))
        .aggregate(
                AggClass::new,
                (key, value, oldAgg) -> oldAgg.update(value),
                (key, agg1, agg2) -> agg1.merge(agg2),
                Materialized.with(Serdes.String(), new AggClassSerdes())
        ).suppress(Suppressed.untilWindowCloses(unbounded()))
        .toStream().map((wk, v) -> new KeyValue<>(wk.key(), v))
.to("streams-wordcount-output", Produced.with(Serdes.String(), new AggClassSerdes()));

哪里 AggClass 是累加器和 AggClassSerdes 塞德斯是那个蓄能器的

public class AggClass {
    private String first;
    private String last;

    public AggClass() {}

    public AggClass(String first, String last) {
        this.first = first;
        this.last = last;
    }

    public AggClass update(String value) {
        if (first == null)
            first = value;
        last = value;
        return this;
    }

    public AggClass merge(AggClass other) {
        if (this.first == null)
            return other;
        else return new AggClass(this.first, other.last);
    }
}

赞(0）回复(0）举报 2021-06-06

我来回答

kafka流：如何获取会话窗口的第一个和最后一个记录？

1条答案

相关问题

热门标签

最新问答