2021年大数据HBase(十二):Apache Phoenix 二级索引

2021-10-11 16:31:18 浏览数 (1)

Apache Phoenix 二级索引

因为没有建立索引,组合条件查询效率较低,而通过使用Phoenix,我们可以非常方便地创建二级索引。Phoenix中的索引,其实底层还是表现为HBase中的表结构。这些索引表专门用来加快查询速度。

一、索引分类

  • 全局索引
  • 本地索引
  • 覆盖索引
  • 函数索引

二、索引分类_全局索引

  • 全局索引适用于读多写少业务
  • 全局索引绝大多数负载都发生在写入时,当构建了全局索引时,Phoenix会拦截写入(DELETE、UPSERT值和UPSERT SELECT)上的数据表更新,构建索引更新,同时更新所有相关的索引表,开销较大
  • 读取时,Phoenix将选择最快能够查询出数据的索引表。默认情况下,除非使用Hint,如果SELECT查询中引用了其他非索引列,该索引是不会生效的
  • 全局索引一般和覆盖索引搭配使用,读的效率很高,但写入效率会受影响
  • 创建语法:   CREATE INDEX 索引名称 ON 表名 (列名1, 列名2, 列名3...)

三、索引分类_本地索引

  • 本地索引适合写操作频繁,读相对少的业务
  • 当使用SQL查询数据时,Phoenix会自动选择是否使用本地索引查询数据
  • 在本地索引中,索引数据和业务表数据存储在同一个服务器上,避免写入期间的其他网络开销
  • 在Phoenix 4.8.0之前,本地索引保存在一个单独的表中,在Phoenix 4.8.1中,本地索引的数据是保存在一个影子列蔟中
  • 本地索引查询即使SELECT引用了非索引中的字段,也会自动应用索引的
  • 注意:创建表的时候指定了SALT_BUCKETS,是不支持本地索引的
  • 创建语法:   CREATE LOCAL INDEX 索引名称 ON 表名 (列名1, 列名2, 列名3...) 

四、索引分类_覆盖索引

hoenix提供了覆盖的索引,可以不需要在找到索引条目后返回到主表。Phoenix可以将关心的数据捆绑在索引行中,从而节省了读取时间的开销。

       例如,以下语法将在v1和v2列上创建索引,并在索引中包括v3列,也就是通过v1、v2就可以直接把数据查询出来。

代码语言:javascript复制
CREATE INDEX my_index ON my_table (v1,v2) INCLUDE(v3)
  • 可以被表中任意的字段构建覆盖 索引, 建立之后, 可以在查询的时候, 不需要在去到主表查询, 可以减少查询的时间, 提升效率, 但是带来弊端, 导致数据出现冗余情况
  • 注意: 无法单独使用, 必须结合全局或者本地索引
  • 创建语法: create [local] index my_index on 目标表(列1,列2...) include(覆盖索引列....)

五、索引分类_函数索引

函数索引(4.3和更高版本)可以支持在列上创建索引,还可以基于任意表达式上创建索引。然后,当查询使用该表达式时,可以使用索引来检索结果,而不是数据表。例如,可以在UPPER(FIRST_NAME||‘ ’||LAST_NAME)上创建一个索引,这样将来搜索两个名字拼接在一起时,索引依然可以生效。

-- 创建索引        

代码语言:javascript复制
CREATE INDEX UPPER_NAME_IDX ON EMP (UPPER(FIRST_NAME||' '||LAST_NAME)) 

-- 以下查询会走索引        

代码语言:javascript复制
SELECT EMP_ID FROM EMP WHERE UPPER(FIRST_NAME||' '||LAST_NAME)='JOHN DOE'
  •  可以针对某一个函数的结果 构建索引, 将结果数据建好索引, 这样当我们使用这个函数时可以直接将结果返回
  • 创建语法:  create  index  索引名称 on 表名(函数)

六、索引案例一: 创建全局索引 覆盖索引

1、需求

我们需要根据用户ID来查询订单的ID以及对应的支付金额。

例如:查询已付款的订单ID和支付金额        

此时,就可以在USER_ID列上创建索引,来加快查询

2、创建索引

代码语言:javascript复制
create index GBL_IDX_ORDER_DTL on ORDER_DTL(C1."user_id") INCLUDE("id", C1."money");    

  可以在HBase shell中看到,Phoenix自动帮助我们创建了一张GBL_IDX_ORDER_DTL的表。这种表就是一张索引表

3、查询数据

代码语言:javascript复制
select "user_id", "id", "money" from ORDER_DTL where "user_id" = '8237476';

4、查询执行计划

代码语言:javascript复制
explain select "user_id", "id", "money" from ORDER_DTL where "user_id" = '8237476';

5、删除索引

使用drop index 索引名 ON 表名

代码语言:javascript复制
drop index IDX_ORDER_DTL_DATE on ORDER_DTL;

6、查看索引

!table

7、测试查询所有列是否会使用索引

代码语言:javascript复制
explain select * from ORDER_DTL where "user_id" = '8237476';

8、使用Hint强制使用索引

代码语言:javascript复制
explain select /*  INDEX(ORDER_DTL GBL_IDX_ORDER_DTL) */ * from ORDER_DTL where USER_ID = '8237476';

 通过执行计划,我们可以观察到查看全局索引,找到ROWKEY,然后执行全表的JOIN,其实就是把对应ROWKEY去查询ORDER_DTL表。

七、索引案例二: 创建本地索引

1、查看数据

代码语言:javascript复制
explain select * from ORDER_DTL WHERE "status" = '已提交';
explain select * from ORDER_DTL WHERE "status" = '已提交' AND "pay_way" = 1;

 通过观察上面的两个执行计划发现,两个查询都是通过RANGE SCAN来实现的。说明本地索引生效

2、删除索引

代码语言:javascript复制
drop index LOCAL_IDX_ORDER_DTL on ORDER_DTL;

八、陌陌案例二级索引构建

1、创建本地函数索引

代码语言:javascript复制
CREATE LOCAL INDEX LOCAL_IDX_MOMO_MSG ON MOMO_CHAT.MSG(substr("msg_time", 0, 10), "sender_account", "receiver_account");

2、执行数据查询

代码语言:javascript复制
explain select "C1"."sender_account", "C1"."receiver_account","C1"."msg_time","C1"."message"  from "MOMO_CHAT"."MSG" where substr("C1"."msg_time",0,10) = '2021-01-16' and "C1"."sender_account" = '17344828999' and "C1"."receiver_account" = '18040049394';

 可以看到,查询速度非常快,0.1秒就查询出来了数据。