flink改进了flinkkafkaconsumer的空记录处理
当 DeserializationSchema 遇到损坏的消息。它可以抛出一个 IOException 这会导致管道重新启动，或者它会返回 null flink kafka的消费者会悄悄跳过损坏的消息。
有关更多详细信息，请参见此链接。

最简单的解决方案是实现自己的 DeserializationSchema Package JSONDeserializationSchema . 然后可以捕获异常并忽略它或执行自定义操作。

按照@twalthr的建议，我实现了自己的 DeserializationSchema 通过复制 JSONDeserializationSchema 并添加了异常处理。

import org.apache.flink.api.common.serialization.AbstractDeserializationSchema;
import org.apache.flink.shaded.jackson2.com.fasterxml.jackson.databind.ObjectMapper;
import org.apache.flink.shaded.jackson2.com.fasterxml.jackson.databind.node.ObjectNode;
import java.io.IOException;

public class CustomJSONDeserializationSchema extends AbstractDeserializationSchema<ObjectNode> {

    private ObjectMapper mapper;

    @Override
    public ObjectNode deserialize(byte[] message) throws IOException {
        if (mapper == null) {
            mapper = new ObjectMapper();
        }

        ObjectNode objectNode;
        try {
            objectNode = mapper.readValue(message, ObjectNode.class);
        } catch (Exception e) {
            ObjectMapper errorMapper = new ObjectMapper();
            ObjectNode errorObjectNode = errorMapper.createObjectNode();
            errorObjectNode.put("jsonParseError", new String(message));
            objectNode = errorObjectNode;
        }
        return objectNode;
    }

    @Override
    public boolean isEndOfStream(ObjectNode nextElement) {
        return false;
    }

}

在我的流媒体工作中。

messageStream
        .filter((event) -> {
            if(event.has("jsonParseError")) {
                LOG.warn("JsonParseException was handled: " + event.get("jsonParseError").asText());
                return false;
            }
            return true;
        }).print();