Chinaunix首页 | 论坛 | 博客
  • 博客访问: 540671
  • 博文数量: 906
  • 博客积分: 0
  • 博客等级: 民兵
  • 技术积分: 7350
  • 用 户 组: 普通用户
  • 注册时间: 2022-03-07 15:28
个人简介

天翼云是中国电信倾力打造的云服务品牌,致力于成为领先的云计算服务提供商。提供云主机、CDN、云电脑、大数据及AI等全线产品和场景化解决方案。

文章分类

全部博文(906)

文章存档

2026年(11)

2025年(202)

2024年(244)

2023年(247)

2022年(202)

我的朋友

分类: 大数据

2025-06-26 18:12:28

本文分享自天翼云开发者社区《HBase Sync功能导致HBase入库性能下降》,作者:5****m

问题背景与现象

HBase入库慢,regionserver日志中大量打印slow sync

原因分析
    1.
对比正常写入时间段监控,检查HBase服务整体CPU、内存以及NameNode RPC在异常时间段是否增加;
    2.
检查regionserver日志中slow sync打印是否集中在个别RegionServer节点;
    3.
如果slow sync集中于个别regionserver节点,检查该节点是否存在热点region、节点RPC是否持续被占用、是否Full GC,请求量是否增加。
   4.
如果regionserver节点中slow sync无规律,检查datanode日志中slow打印情况,根据slow类型分析写入慢原因;
      a.Slow manageWriterOsCache
:将块写入OS缓存有延迟。
      b.Slow BlockReceiver write packet to mirror :
网络上写块有延迟。
      c.Slow BlockReceiver write data to disk cost
Slow flushOrSync:将块写入磁盘有延时。
   
根据regionserver中写入慢的block idNameNode日志中查询块写入链路,根据链路信息分析写入三个副本时哪个副本写入有异常,DataNode性能不足,导致写入文件耗时较长。

解决办法
   1.
网络原因联系网络工程师整改网络
   2.
磁盘问题需具体分析是磁盘性能不足还是磁盘坏道
   3.
如果HDFSHBase服务写入性能已达到瓶颈,可关闭sync功能。

hbase.regionserver.hfile.durable.sync=false

hbase.regionserver.wal.durable.sync=false

阅读(49) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~