hive如何管理非tez和非mapreduce查询

j13ufse2  于 2021-07-13  发布在  Hadoop
关注(0)|答案(1)|浏览(461)
Create table t1(id int)

我在Hive2.3.6(MaprHadoopDistribution6.3.0)上启动了上述查询。
默认配置单元引擎是tez。因此,在启动查询后,我无法看到yarn资源管理器webui上启动了任何tez应用程序
所以我把执行引擎改成了mapreduce。

set hive.execution.engine=mr

并尝试再次运行相同的查询。同样,我无法看到任何mr应用程序在yarn资源管理器webui上启动
所以我的问题是hive如何管理这种类型的查询?这些查询的细节存储在哪里,比如应用程序id、开始时间等等?

5sxhfpxr

5sxhfpxr1#

create table -仅是元数据操作,不处理数据。它在metastore数据库中创建记录,不需要像tez或mr这样的分布式处理框架,不使用yarn。
编译器仅在可能的情况下将ddl转换为元存储查询。
此外,仅当存在统计信息且启用了此功能时,一些简单的dql查询才能作为元存储执行:https://stackoverflow.com/a/41021682/2700344,而不使用tez或mr。
也可以在不使用分布式框架的情况下使用fetch only task查询小表,请参见:为什么配置单元中的fetch task比map only task工作得更快?

相关问题