Apache Spark 在Goolge Dataproc历史服务器上看不到“不完整的应用程序

5sxhfpxr  于 2023-02-24  发布在  Apache
关注(0)|答案(1)|浏览(116)

当我运行一个spark作业时,我在历史服务器的“未完成的应用程序”选项卡下看不到它,并且它直到作业完成后才显示。是否需要设置一些设置才能在那里显示作业?

bqjvbblv

bqjvbblv1#

啊,好像设定是:需要设置为“FLUSHABLE_COMPOSITE”的“Spark:Spark.历史.fs.gs.输出流.类型”
否则,它将只在作业完成时写入更新。

相关问题