在工作流中重用任务

yhqotfr8  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(371)

我正在尝试用气流来协调我的一些数据管道。我对每个摄取管道有多个任务。这些任务在多个摄取管道中重复。如何在气流中跨DAG重用任务?

kqhtkvqz

kqhtkvqz1#

就像 object 是一个 class ,气流任务是 Operator (严格地说, BaseOperator )
因此,编写一个“可重用”(又名generic)操作符,通过传递不同的参数(特别是 task_id )

相关问题