如何从intellij中的spark log4j-defaults.properties文件过滤日志

2fjabf4q  于 2021-05-27  发布在  Spark
关注(0)|答案(2)|浏览(507)

我在经营一家公司 Spark 使用 Maven 依赖关系。问题是控制台日志是由 log4j-defaults.properties spark的文件和日志都是我真的不想拥有的信息日志。
我想修改日志文件,以摆脱信息日志(或任何日志)。或者过滤信息日志而不修改属性文件。问题是我不能修改 log4j-defaults.properties 文件来自 Maven intellij中的依赖,或者至少我没有找到方法。
你知道吗?

o2gm4chl

o2gm4chl1#

将这些行放在spark scala代码的开头:

import org.apache.log4j.{Level, Logger}
Logger.getRootLogger.setLevel(Level.OFF)
hfsqlsce

hfsqlsce2#

获得spark上下文后,您可以尝试: sparkContext.setLogLevel("OFF") 你根本看不到日志。您也可以使用“error”,它将只显示错误或以上的日志。
有效的日志级别包括:all、debug、error、fatal、info、off、trace、warn

相关问题