如何用滤波器通过spark从greenplum读取数据

zc0qhyus  于 2021-05-27  发布在  Spark
关注(0)|答案(0)|浏览(252)

我尝试使用where子句过滤数据,该子句包含greenplum中的或condition。我用的是Spark中的“青梅”接头。
代码段-

Df1 = Df.filter(col(‘id’)==‘1’ & (col(‘Name’)==‘abc’ | col(‘Name’).isNull()))

连接器在内部将其转换为sql查询,如下所示-

Select * from df where
id=‘1’ and Name=‘abc’ or Name is null;

这是一个不正确的查询,因为我想获取id为1,name为或null的所有记录。通过此查询,获取的数据具有id不等于1但name为null的记录。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题