hadoop:在运行hdfs基准测试之后,如何删除块?

fiei3ece  于 2021-06-04  发布在  Hadoop
关注(0)|答案(1)|浏览(331)

在我的双datanode设置中,我运行testdfsio基准测试,并观察到在运行基准测试的最后阶段块被删除。
这似乎是在基准测试结束时执行的清理过程的一部分。日志通过以下行确认这一点:

hadoop.mapred.JobTracker: Adding task (JOB_CLEANUP) ...

添加job\u cleanup任务实际上与删除的块/文件有何关联?
我知道testdfsio.java有清理方法,但在完成基准测试执行时,我看不到它们是如何被调用的。

bzzcjhmw

bzzcjhmw1#

mapper类的run()方法(由hadoop框架提供)调用cleanup方法:

public void run(Context context) throws IOException, InterruptedException {
  setup(context);
  while (context.nextKeyValue()) {
    map(context.getCurrentKey(), context.getCurrentValue(), context);
  }
  cleanup(context);
}

相关问题