Hive快速入门系列(14) | Hive性能调优 [一]Fetch抓取与本地模式

2020-10-28 16:14:24 浏览数 (1)

  此次博主为大家带来的是Hive性能调优中的Fetch抓取与本地模式。

一. Fetch抓取

  我们在刚开始学习hive的时候,都知道hive可以降低程序员的学习成本和开发成本,具体表现就在于可以将SQL语句转换成MapReduce程序运行。 Hive中对某些情况的查询可以不必使用MapReduce计算。例如：SELECT * FROM employees;在这种情况下，Hive可以简单地读取employee对应的存储目录下的文件，然后输出查询结果到控制台。   在hive-default.xml.template文件中hive.fetch.task.conversion默认是more，老版本hive默认是minimal，该属性修改为more以后，在全局查找、字段查找、limit查找等都不走mapreduce。

代码语言：javascript复制
<property>
    <name>hive.fetch.task.conversion</name>
    <value>more</value>
    <description>
      Expects one of [none, minimal, more].
      Some select queries can be converted to single FETCH task minimizing latency.
      Currently the query should be single sourced not having any subquery and should not have any aggregations or distincts (which incurs RS), lateral views and joins.
      0. none : disable hive.fetch.task.conversion
      1. minimal : SELECT STAR, FILTER on partition columns, LIMIT only
      2. more  : SELECT, FILTER, LIMIT only (support TABLESAMPLE and virtual columns)
    </description>
  </property>

案例实操

  • 1. 把hive.fetch.task.conversion设置成none，然后执行查询语句，都会执行mapreduce程序。
代码语言：javascript复制
hive (default)> set hive.fetch.task.conversion=none;
hive (default)> select * from student;
hive (default)> select student.name from student;
hive (default)> select student.name from student limit 2;
  • 2. 把hive.fetch.task.conversion设置成more，然后执行查询语句，如下查询方式都不会执行mapreduce程序。
代码语言：javascript复制
hive (default)> set hive.fetch.task.conversion=more;
hive (default)> select * from student;
hive (default)> select student.name from student;
hive (default)> select student.name from student limit 2;

二. 本地模式

  大多数的Hadoop Job是需要Hadoop提供的完整的可扩展性来处理大数据集的。不过，有时Hive的输入数据量是非常小的。在这种情况下，为查询触发执行任务消耗的时间可能会比实际job的执行时间要多的多。对于大多数这种情况，Hive可以通过本地模式在单台机器上处理所有的任务。对于小数据集，执行时间可以明显被缩短。   用户可以通过设置hive.exec.mode.local.auto的值为true，来让Hive在适当的时候自动启动这个优化，默认是false。

代码语言：javascript复制
set hive.exec.mode.local.auto=true;  //开启本地mr
//设置local mr的最大输入数据量，当输入数据量小于这个值时采用local  mr的方式，默认为134217728，即128M
set hive.exec.mode.local.auto.inputbytes.max=50000000;
//设置local mr的最大输入文件个数，当输入文件个数小于这个值时采用local mr的方式，默认为4
set hive.exec.mode.local.auto.input.files.max=10;

案例实操：

  • 1. 开启本地模式，并执行查询语句
代码语言：javascript复制
hive (default)> set hive.exec.mode.local.auto=true; 
hive (default)> select * from emp cluster by deptno;
Time taken: 1.328 seconds, Fetched: 14 row(s)
  • 2. 关闭本地模式，并执行查询语句
代码语言：javascript复制
hive (default)> set hive.exec.mode.local.auto=false; 
hive (default)> select * from emp cluster by deptno;
Time taken: 20.09 seconds, Fetched: 14 row(s)

我们可以很明显的看出开启本地模式，速度加快好多。

  本次的分享就到这里了

hive mapreduce hadoop 爬虫

0 人点赞