我正在尝试导入在kubernetes上运行的spark cluster上的graphframes。
spark版本:2.3.0,livy和sparkmagic.magics用于使用jupiter笔记本连接到集群
我尝试的第一个代码:
%load_ext sparkmagic.magics
%%spark config
{"executorCores":2,"numExecutors":2,"executorMemory":"5G","conf":{"spark.jars.packages":"graphframes:graphframes:0.7.0-spark2.3-s_2.11"}}
%spark add -s session_name -l python -u http://spark-livy.cluster:8998
%%spark -s session_name
from graphframes import *
错误出现在我尝试导入graphframe时,在本例中,spark应用程序成功启动。
第一个代码的错误屏幕截图
我试过的第二个密码
%load_ext sparkmagic.magics
%%spark config
{"executorCores":2,"numExecutors":2,"executorMemory":"5G","jars":["graphframes:graphframes:0.5.0-spark2.0-s_2.11"],"conf":{"spark.jars.packages":"graphframes:graphframes:0.5.0-spark2.0-s_2.11"}
%spark add -s session_name -l python -u http://spark-livy.cluster:8998
}
启动spark会话时出错
第二个代码的错误截图
任何关于如何使用livy在kubernetes集群的spark上运行graphframes的帮助都会非常有用。
暂无答案!
目前还没有任何答案,快来回答吧!