超实用干货!Hive 函数 + Shell编程的具体实践与运用

2022-07-05 14:08:49 浏览数 (1)

Hive Shell参数

1.Hive命令行
(1). 命令:hive -i filename

含义:从文件初始化HQL

filename为test001.sql的内容如下

hive -i test001.sql命令执行结果如下

(2). 命令:hive -e 'sql语句'

含义:从命令行执行指定的HQL指令

具体执行示例如下:

(3). 命令:hive -f filename

含义:执行文件中的HQL脚本

这里的filename为test001.sql文件,文件内容如下

hive -f test001.sql执行结果如下

(4). 命令:hive -v

含义:输出执行的HQL语句到控制台

(5). 命令:hive -p

含义:connect to Hive Server on port number -hiveconf x=y Use this to set hive/hadoop configuration variables.

(6). 命令:hive -hiveconf set x=y;

含义:设置hive运行时候的参数配置信息

2.Hive参数配置方式

目的:设定 Hive 的参数可以优化 HQL 代码的执行效率,协助定位问题。

三种参数设定方式:

  • 配置文件
  • 命令行参数
  • 参数声明
配置文件

Hive 的配置文件包含:

  • 用户自定义的配置文件:$HIVE_CONF_DIR/hive-site.xml
  • 默认配置文件:$HIVE_CONF_DIR/hive-default.xml

用户自定义的配置文件会覆盖默认配置文件。

另外,Hive 也会读入 Hadoop 的配置,因为 Hive 是作为 Hadoop 的客户端启动的,Hive的配置会覆盖 Hadoop 的配置。

配置文件的设定对本机启动的所有 Hive 进程都有效。

命令行参数

启动 Hive 客户端或 Server 方式时,可以在命令行添加 -hiveconf param=value 来设定参数,例如:

代码语言:javascript复制
hive -hiveconf hive.root.logger=INFO,console

这一设定对本次启动的 Session(对于 Server 方式启动,则是所有请求的 Sessions)有效。

参数声明

可以在 HQL 中使用 SET 关键字设定参数,例如:

代码语言:javascript复制
set mapred.reduce.tasks=100;

这一设定的作用域也是Session(一次会话)级别的。

上述三种设定方式的优先级依次递增。即参数声明 > 命令行参数 > 配置文件参数

注意: 某些系统级的参数,例如:log4j 相关的设定,必须用参数声明或命令行参数这两种方式设定,因为那些参数的读取在 Session 建立以前已经完成了。

Hive函数

1.内置函数

(1).查看系统自带的函数

代码语言:javascript复制
show functions;

从上图中可以看到 hive 有许多系统自带的内置函数。

(2).显示自带的函数的用法

代码语言:javascript复制
# 查看abs函数的用法
desc function abs;

abs函数的含义:返回一个数的绝对值

(3).详细显示自带的函数的用法

代码语言:javascript复制
# 详细显示upper函数的使用方法
desc function extended upper;

上图是举例说明,upper函数的功能是将字符串"Facebook"全部转换成大写"FACEBOOK"返回

(4).常用内置函数

代码语言:javascript复制
# 字符串拼接函数:concat
用法:select concat('abc', 'def', 'gh');
实现效果:abcdefgh
代码语言:javascript复制
# 带分隔符字符串连接函数:concat_ws
用法:select concat_ws('-','hello','world')
实现效果:hello-world
代码语言:javascript复制
# 数据类型转换函数:cast
用法:select cast(1.8 as int);
实现效果:1
代码语言:javascript复制
# json解析函数,用来处理json串:get_json_object
用法:select get_json_object('{"name":"tom", "age":"10"}', '$.name');
实现效果:tom
代码语言:javascript复制
# URL解析函数:parse_url
用法:select parse_url('http://www.baidu.com/path1?key1=value1&key2=value2#Ref1', 'HOST')
实现效果:
当关键字为HOST时,获取到的值为:www.baidu.com
当关键字为PATH时,获取到的值为:/path1
当关键字为QUERY时,获取到的值为:key1=value1&key2=value2
当关键字为QUERY,key1时,获取到的值为:value1
2.自定义函数

当 Hive 提供的内置函数无法满足我们的业务需求时,此时就可以考虑使用用户自定义函数。

自定义函数类别分为以下三种: (1): UDF(User-Defined-Function): 一进一出

(2): UDAF(User-Defined Aggregation Function): 聚集函数,多进一出,类似于count、max等函数

(3): UDTF(User-Defined Table-Generating Functions): 一进多出,例如lateral view explore()

实现UDF函数注意事项

(1): 需要继承org.apache.hadoop.hive.ql.UDF

(2): 需要实现evaluate函数,且evaluate函数支持重载

(3): UDF必须要有返回类型,可以返回null,但是返回类型不能是void; UDF中常用Text字符串、LongWritable等类型,不推荐使用java类型;

UDF自定义函数开发实例

step1: 创建Maven工程

step2: 开发Java类集成UDF

step3: 项目打成jar包,上传到Hive的lib目录下

step4: Hive客户端添加打好的jar包

代码语言:javascript复制
# 进入hive的lib目录下
cd /opt/hadoop/apache-hive-2.7.5-bin/lib

# 给jar包重命名
mv original-hiveudf-1.0-SNAPSHOT.jar udf_upper.jar

# Hive客户端添加jar包
add jar /opt/hadoop/apache-hive-2.7.5-bin/lib/udf_upper.jar

step5: 设置函数与我们自定义函数关联

代码语言:javascript复制
create temporary function udf_upper as 'cn.itcast.udf.MyUDF';

step6: 使用自定义函数

代码语言:javascript复制
select udf_upper('how are you?');

# 实际返回结果:实现了首字母大写的功能
How are you?

0 人点赞