有没有一种方法可以使用kafka connect连接到多个主机中的多个数据库?

oknrviil  于 2021-06-07  发布在  Kafka
关注(0)|答案(2)|浏览(453)

我需要使用kafka connect从informix数据库获取数据。场景是这样的-我有50个informix数据库驻留在50个主机上。通过阅读kafka connect,我了解到我们需要在每个主机中安装kafka connect,以便从驻留在该主机中的数据库获取数据。我的问题是-有没有一种方法可以让我为这50台主机集中创建连接器,而不是安装到每台主机中并从数据库中提取数据?

ckx4rj1h

ckx4rj1h1#

您不需要在运行informix服务器的系统上安装任何额外的软件,我不完全清楚您计划执行的问题或操作类型。如果计划设置实时复制类型的场景,则可能必须调用cdcapi。然后需要在服务器上一次性设置cdcapi,然后可以使用任何informix数据库驱动程序api调用这个api。如果您计划从表中读取现有数据并将其注入kafka主题,则不需要在服务器端进行任何其他设置。您可以从一个程序(远程)连接到所有50个数据库服务器,然后将这些记录传送到Kafka主题。根据您使用的程序语言,您可以选择informix数据库驱动程序。

yfwxisqw

yfwxisqw2#

kafka connect jdbc不必在数据库上运行,就像其他jdbc客户机不必运行一样,因此可以让kafka connect集群比数据库池大或小。
informix似乎有一个东西叫做“cdc-replicationengineforkafka”,然而,这可能是一个值得研究的东西,因为cdc总体上减少了数据库的负载

相关问题