如何计算从一个配置单元表复制到另一个配置单元表的行数

k4emjkb1  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(252)

我正在将数据从一个配置单元表移动到另一个配置单元表。在移动数据时,我添加了一些新的列来添加分区并应用压缩。
我想知道是否有一种简单的方法可以知道从一个表移到另一个表的行数是相同的。只是为了验证移动数据操作。目前我正在两个表上进行计数,由于行数的大小是10^10,这占用了太多的时间。
谢谢

dfty9e19

dfty9e191#

在将数据从第一个表传输到第二个表的过程中触发map reduce作业时,可以使用map/reduce中的records计数器来验证行计数。

相关问题