Chinaunix首页 | 论坛 | 博客
  • 博客访问: 1210766
  • 博文数量: 259
  • 博客积分: 10
  • 博客等级: 民兵
  • 技术积分: 2518
  • 用 户 组: 普通用户
  • 注册时间: 2012-10-13 16:12
个人简介

科技改变世界,技术改变人生。

文章分类

全部博文(259)

分类: 大数据

2015-12-21 10:30:54

KafkaOffsetMonitor安装部署

KafkaOffsetMonitor是有由Kafka开源社区提供的一款Web管理界面,这个应用程序用来实时监控Kafka服务的Consumer以及它们所在的Partition中的Offset,你可以通过浏览当前的消费者组,并且每个Topic的所有Partition的消费情况都可以观看的一清二楚。它让我们很直观的知道,每个Partition的Message是否消费掉,有木有阻塞等等。

这个Web管理平台保留的Partition、Offset和它的Consumer的相关历史数据,我们可以通过浏览Web管理的相关模块,清楚的知道最近一段时间的消费情况。

该Web管理平台有以下功能:

    对Consumer的消费监控,并列出每个Consumer的Offset数据
    保护消费者组列表信息
    每个Topic的所有Partition列表包含:Topic、Pid、Offset、LogSize、Lag以及Owner等等
    浏览查阅Topic的历史消费信息

环境:
部署本机 192.168.1.171
zk 192.168.1.110,192.168.1.112

下载:
在安装KafkaOffsetMonitor管理平台时,我们需要先下载其安装包,其资源可以在Github上找到

源码地址:


jar包地址:
/releases/tag/v0.2.1

网络共享:



安装部署
KafkaOffsetMonitor的安装部署较为简单,所有的资源都打包到一个JAR文件中了,因此,直接运行即可,省去了我们去配置。这里我们可以新建一个目录单独用于Kafka的监控目录,我这里新建一个kafka_monitor文件目录,然后我们在准备启动脚本,脚本内容如下所示:

java -cp KafkaOffsetMonitor-assembly-0.2.1.jar \
     com.quantifind.kafka.offsetapp.OffsetGetterWeb \
     --offsetStorage kafka
     --zk zk-server1,zk-server2 \
     --port 8080 \
     --refresh 10.seconds \
     --retain 2.days

解释下这条启动命令的含义,首先我们需要指明运行Web监控的类,然后需要用到ZooKeeper,所有要填写ZK集群信息,接着是Web运行端口,页面数据刷新的时间以及保留数据的时间值。

可以写个启动脚本:
vi start.sh
nohup java -cp ./kom-local.jar com.quantifind.kafka.offsetapp.OffsetGetterWeb --zk 192.168.1.110:2181,192.168.1.111:2181 --port 9001 --refresh 10.seconds --retain 3.days &

访问:








一些参数的含义如下:
    Topic:创建Topic名称
    Partition:分区编号
    Offset:表示该Parition已经消费了多少Message
    LogSize:表示该Partition生产了多少Message
    Lag:表示有多少条Message未被消费
    Owner:表示消费者
    Created:表示该Partition创建时间
    Last Seen:表示消费状态刷新最新时间

在运行KafkaOffsetMonitor的JAR包时,需要确保启动参数的配置正确,以免启动出错,另外,Github的上的KafkaOffsetMonitor的JAR中的静态资源有些链接用到了Google的超链接,所有如果直接只用,若本地木有代理软件会启动出错,这里使用网络所提供的JAR,这个JAR是经过静态资源改版后重新编译的使用本地静态资源

参考:
http://www.cnblogs.com/Leo_wl/p/4564699.html

http://my.oschina.net/cjun/blog/514956
阅读(4730) | 评论(0) | 转发(0) |
给主人留下些什么吧!~~