使用kafka从oracle传输数据

zzlelutf  于 2021-06-04  发布在  Kafka
关注(0)|答案(1)|浏览(480)

我从kafka开始,我需要控制特定oracle表中的插入,通过kafka发送新记录。我对数据库没有控制权,所以原则上,debizium被排除在外。我该怎么做?不使用触发器。
我已经让一个生产者用eclipse中的java程序从oracle读取数据,但是这会不断地向数据库发出请求。我使用java来模拟一个消费者的etl。
附言:我用windows工作,但那是次要的。

mcvgt66p

mcvgt66p1#

如果我正确理解了您的问题,那么您正在尝试将插入从kafka路由到oracle数据库。几乎没有可能:
您实现了kafka消费者,当您的kafka集群收到一条消息时,消费者就会进行插入。您可以在这里重用java代码—只需删除轮询部分。请访问这里
如果您在云环境中部署了kafka并将其作为服务(aws-msk)使用,那么您可以选择处理事件。同样,您可以使用java程序或编写python脚本来进行插入。请访问这里
我想了解您的吞吐量要求,无论您真的需要kafka作为一个分布式消息传递系统还是一个简单的aws sqs都可以。如果你能使用sqs,事情会很简单。您创建了一个队列,并在其中编写了一个侦听器
python或java
boto3是一个优秀的python库,用于处理sqs

相关问题