从kafka到aws红移读取数据的最佳实践

rwqw0loc  于 2021-06-08  发布在  Kafka
关注(0)|答案(1)|浏览(581)

将数据从kafka集群移动到红移表的最佳实践是什么?我们有连续的数据到达Kafka,我想把它写在红移表(它不必是实时的)。
我应该使用lambda函数吗?
我应该写一个红移连接器(consumer)在专用ec2示例上运行吗(缺点是我需要处理冗余)
有美国焊接学会的管道服务吗?

t98cgbkg

t98cgbkg1#

kafka connect通常用于将数据从kafka流式传输到(或从)数据存储。它可以做一些有用的事情,比如自动管理扩展、故障转移、模式、序列化等等。
这个博客展示了如何使用开源的jdbc-kafka-connect连接器将流传输到redshift。还有一个社区红移连接器,但我没有尝试过这个。
这个博客展示了另一种方法,而不是使用Kafka连接。
免责声明:我为confluent工作,他创建了jdbc连接器。

相关问题