maxcombinedsplitsize属性？

gstyhher 于 2021-06-02 发布在 Hadoop

关注(0)|答案(1)|浏览(425)

在pig中有一个名为
“pig.maxcombinedsplitsize”-指定要由单个Map处理的数据的大小（以字节为单位）。合并较小的文件，直到达到此大小。
配置单元中是否有类似的属性用于指定单个Map要处理的数据的大小？
我正在尝试下面的命令，但它不工作。

'SET hive.maxCombinedSplitSize=64mb';

有什么建议吗？

hadoop Hive hiveql hive-configuration

来源：https://stackoverflow.com/questions/23813171/maxcombinedsplitsize-property-in-hive

1条答案

按热度按时间

试试这个：

set hive.input.format=org.apache.hadoop.hive.ql.io.CombineHiveInputFormat;
set mapred.min.split.size=67108864;

赞(0）回复(0）举报 2021-06-03

相关问题

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

xxl-job 安全组扫描到执行器端口服务存在信息泄露漏洞
回答(1) 发布于 3个月前
xxl-job 不能和nacos兼容？
回答(3) 发布于 3个月前
xxl-job 任务执行完后无法结束，日志一直转圈
回答(3) 发布于 2个月前
xxl-job-admin页面上查看调度日志样式问题
回答(1) 发布于 3个月前
xxl-job 参数512字符限制能否去掉
回答(1) 发布于 3个月前