我想将hadoop作业输出导入配置单元表。如何在map reduce作业/流中实现post挂钩?或者其他自动选项?我也会在工作完成后通知,如发送电子邮件给用户。我发现这个:https://issues.apache.org/jira/browse/hadoop-1111,但我不太明白怎么做,因为我是MapReduce新手。谢谢。
qyyhg6bp1#
conf.set("mapreduce.job.end-notification.url","url") 就行了。这个 url 应该是一个 http url 在那里你会收到回电。来自javadocs:设置要调用的uri,以便在作业完成(成功/失败)后发送通知。uri可以包含两个特殊参数:$jobid和$jobstatus。如果存在,则分别由作业的标识符和完成状态替换。这通常由应用程序编写器用于以异步方式实现map reduce作业的链接。请注意,较旧的hadoop版本使用 job.end.notification.url .它在新版本中被弃用,取而代之的是 mapreduce.job.end-notification.url .参考 mapred-default.xml#mapreduce.job.end-notification.url .
conf.set("mapreduce.job.end-notification.url","url")
url
http url
job.end.notification.url
mapreduce.job.end-notification.url
mapred-default.xml#mapreduce.job.end-notification.url
1条答案
按热度按时间qyyhg6bp1#
conf.set("mapreduce.job.end-notification.url","url")
就行了。这个url
应该是一个http url
在那里你会收到回电。来自javadocs:
设置要调用的uri,以便在作业完成(成功/失败)后发送通知。
uri可以包含两个特殊参数:$jobid和$jobstatus。如果存在,则分别由作业的标识符和完成状态替换。
这通常由应用程序编写器用于以异步方式实现map reduce作业的链接。
请注意,较旧的hadoop版本使用
job.end.notification.url
.它在新版本中被弃用,取而代之的是
mapreduce.job.end-notification.url
.参考
mapred-default.xml#mapreduce.job.end-notification.url
.