HBase调优 | 写入阻塞问题与参数优化

2020-04-22 19:47:19 浏览数 (1)

一图胜千言,先来看下HBase数据写入流程:

如上图所示,当数据写到服务端时,在持久化到磁盘之前,要经过三个重要过程:

  • 追加写WAL日志:数据会首先追加写入到WAL文件,用于故障恢复。
  • 写入MemStore:然后写入所属Region的MemStore缓存中,此时客户端写入就算成功了。
  • MemStore Flush:当MemStore达到一定阈值,或者满足一定条件就会Flush到磁盘,生成一个HFile文件。

在此过程中,我们经常会遇到写入阻塞问题,表现为数据无法写入,本文我们就来分析可能会引发写入阻塞的几种情况,以及如何尽量避免阻塞问题。

HFile级别的阻塞

如上所述,数据写入过程中,MemStore在满足一定条件时会flush刷写到磁盘,生成一个HFile文件。当一个Store下的HFile文件数量大于某个阈值时,就会引起写入或更新阻塞。RS日志中会有类似“has too many store files...”的信息。当出现这种情况时,需要等待Compaction合并以减少HFile数量,这里主要是Minor Compaction即小合并。涉及的主要参数有:

  • hbase.hstore.blockingStoreFiles
  • hbase.hstore.compaction.min
  • hbase.hstore.compaction.max
  • hbase.regionserver.thread.compaction.small
  • hbase.regionserver.thread.compaction.large

这几个参数默认值都有点小,可以根据实际场景调整,针对hbase.hstore.blockingStoreFiles这个参数,HBase 1.x的默认值是10(2.x调整到了16),通常建议调大点比如100,尽量避免写入阻塞。另外几个参数也可以适当调大,参数含义与调整建议可以参考《从原理到参数解析,HBase刷写与合并机制介绍》这篇文章。

MemStore阻塞倍数

当MemStore大小达到刷写阈值(hbase.hregion.memstore.flush.size,默认128M)时,就会flush刷写到磁盘,这个操作基本没有阻塞。但当一个Region的所有MemStore大小达到一个阻塞倍数(hbase.hregion.memstore.block.multiplier,默认值为4,即4倍的刷写阈值 默认4*128=512M)时,就会阻塞该Region所有的更新请求,并强制flush。客户端可能会抛出RegionTooBusyException异常。涉及参数包括:

  • hbase.hregion.memstore.flush.size
  • hbase.hregion.memstore.block.multiplier

为了尽量避免写入阻塞,可以适当调整这两个参数,比如当数据写入过快,并且服务端内存充裕时,我们可以把刷写阈值调大到256M,阻塞倍数可以不调或调到5~8,并观察实际刷写或阻塞的情况。

RegionServer级别的阻塞

最后则是RegionServer(简称RS)级别的限制,一个RS中所有的MemStore有一个总大小限制和低水位阈值。前者受限于一个global memstore size参数,默认为0.4即一个RS中所有MemStore总大小最多占RS堆内存的40%,达到该阈值写入请求就会被阻塞,此时RS日志会有类似"Blocking updates...the global memstore size..."的信息;后者由一个lower limit参数控制,默认为0.95,表示达到前者的95%时会强制flush一些MemStore,使得写缓存总大小维持在一个低水位以下。

另外一个RS堆内存除了上述的40%外,读缓存BlockCache也占据了40%,这二者比例可以相互调整,在一些重写轻读场景中我们可以适当增加写缓存、减少读缓存的比例,这样可以尽量避免写阻塞。涉及参数包括:

  • RegionServer Heap
  • hbase.regionserver.global.memstore.size
  • hbase.regionserver.global.memstore.size.lower.limit
  • hfile.block.cache.size

除了在一些场景下读写缓存比例可以适当调整外,RS堆自身内存的设置也比较重要,HBase进程默认只有1G大小的堆,生产环境中肯定不够用,调整RS堆大小需要参考集群规模、负载情况等,另外调整RS堆的同时可能还涉及JVM的调整,比如选择什么样的垃圾收集器、JVM参数等。

小结

本文主要从HFile级别、MemStore或者说Region级别、RegionServer级别等三个方面,分析了几种可能会导致写入阻塞的情况,给出了一些关键参数,以及如何调整才能尽量避免写入阻塞。

0 人点赞