默认Map减少作业?有多少Map器和还原器

llycmphe  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(321)

我的问题是有多少默认Map器和还原器工作,一个雇主问我说默认Map器4,还原器1,什么是sqoop默认Map器

3b6akqbq

3b6akqbq1#

默认情况下,sqoop运行4个Map器,可以用 -m 或者 --num-mappers 旗帜。
如果要导入的表不包含主键或没有 --split-by 在中设置选项 sqoop 命令,则它必须是单个Map任务。显式设置 -m 1 或者 --autoreset-to-one-mapper 只运行一个Map任务。
注意:sqoop只运行map-only作业(没有reducer)。
在典型的mapreduce作业中,Map器的数量将取决于输入(及其文件格式),并且还原器的数量默认为1。
为了 Distcp 作业,Map任务的数量将等于文件的数量。

相关问题