hadoop中reducer级别的复制?

5kgi1eie  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(329)

当reducer试图从temp文件夹复制中间数据(由mapper发出)时,中间数据的复制会发生吗?

bqujaahr

bqujaahr1#

不,Map器发出的数据将在Map器计算机的本地磁盘上。减速机通过网络复制它。如果在复制过程中或在复制开始之前Map器节点关闭,则会在其他节点上生成新的Map器任务。

相关问题