zl程序教程

您现在的位置是:首页 >  数据库

当前栏目

hbase每个RS高达几十上百万个压缩队列 日志显示频繁的minor compaction 现在导致写入数据变的缓慢? 这种情况该如何优化?

HBase日志队列数据队列 如何 优化 显示
2023-09-11 14:14:47 时间

大家帮忙看下 hbase每个RS高达几十上百万个压缩队列 日志显示频繁的minor compaction 现在导致写入数据变的缓慢了 这种情况该如何优化或解决?我的设置参数如下:
hbase.hregion.memstore.flush.size=256M
每台redionserver上有region数量2000+个
每台regionserver的HBASE_HEAPSIZE设置为24G
每个RS上memstore3G
每次flush的时候 memstore才10m以内 增加的filesize才几百kb。

单台redionserver上的region数量太多了, memstore总和达到阈值导致不断flush,官方建议最多1000个
hbase.hregion.memstore.mslab.chunksize。 默认2M的话,光2000region就要小4G内存了