apache spark 2.4+和最大广播对象大小和数量

zbq4xfa0 于 2021-05-27 发布在 Spark

关注(0)|答案(0)|浏览(274)

从spark 2.4开始，有一个8GB的上限。源代码
当我们谈论8gb时，我们谈论的是每个要广播的对象的8gb，以及在spark集群中有可用内存的情况下无限数量的广播对象
或
总内存约8gb，可分配给所有广播对象？

apache-spark Broadcast

来源：https://stackoverflow.com/questions/62901403/apache-spark-2-4-and-maximum-broadcast-objects-size-and-numbers

暂无答案！

目前还没有任何答案，快来回答吧！

相关问题

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 4个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 4个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 4个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 4个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 4个月前