kafka消费者100%cpu使用率

slmsl1lt  于 2021-06-08  发布在  Kafka
关注(0)|答案(2)|浏览(908)

我有一个Kafka消费者已经运行了几天完美。昨天经纪人破产了。从那时起,消费者显示100%的cpu使用率。当经纪人上升时,使用率大大下降(低于10%)。我很好奇,为什么当经纪人下跌时,使用率是100%(或接近100%)?我在日志里什么都没看到。
kafka代理/服务器:0.8.2.1
Kafka高级api:0.8.2.0

vcirk6k6

vcirk6k61#

我把Kafka升级为:

<dependency>
        <groupId>org.apache.kafka</groupId>            
        <artifactId>kafka_2.11</artifactId>
        <version>0.11.0.1</version>
    </dependency>

<dependency>
        <groupId>org.apache.kafka</groupId>
        <artifactId>kafka_2.12</artifactId>
        <version>2.0.1</version>
    </dependency>
vohkndzv

vohkndzv2#

Kafka消费者和经纪人的cpu利用率增加通常是因为消费者的投票请求频率非常高。这主要是因为消费者的配置效率低下。
检查两个属性:
fetch.min.bytes->完成轮询请求的最小字节数
fetch.max.wait.ms->max wait at broker以完成轮询请求
如果topic中的数据不是频繁生成的,则保持fetch.max.wait.ms的较高值和fetch.min.bytes的非零值,以避免频繁地对代理进行轮询请求

相关问题