我们可以拆分一个大的hdfs文件夹吗?

egmofgnx  于 2021-06-03  发布在  Hadoop
关注(0)|答案(1)|浏览(364)

关闭。这个问题需要细节或清晰。它目前不接受答案。
**想改进这个问题吗?**通过编辑这个帖子来添加细节并澄清问题。

5年前关门了。
改进这个问题
我有一个大约570 tb大小的hdfs文件夹,有很多子文件夹,我想拆分其中一个子文件夹,大约530 tb。

vvppvyoh

vvppvyoh1#

你可以用 hadoop fs -mv (移动)命令来实现相同的效果。
例如,假设您有以下文件夹结构:

/tmp/1GB/
/tmp/2GB/
/tmp/3GB/

现在,你想分开吗 /2GB//tmp/ 把它移到下面 / (根文件夹)。
你所要做的就是: hadoop fs -mv /tmp/2GB / 现在文件夹结构将是:

/2GB/
/tmp/1GB/
/tmp/3GB/

还有,自从 move 只是一个元数据操作,执行它并不昂贵,而不是 copy 操作。

相关问题