Flume快速入门系列(7) | Flume监控之Ganglia的安装与部署

  这篇文章我们讲解的是Flume监控之Ganglia的安装与部署。


1. Ganglia的安装与部署

  • 1. 安装httpd服务与php
[bigdata@hadoop002 flume]$ sudo yum -y install httpd php

  
 
  • 1
  • 2. 安装其他依赖
[bigdata@hadoop002 flume]$ sudo yum -y install rrdtool perl-rrdtool rrdtool-devel
[bigdata@hadoop002 flume]$ sudo yum -y install apr-devel

  
 
  • 1
  • 2
  • 3. 安装ganglia
[atguigu@hadoop102 flume]$ sudo rpm -Uvh http://dl.fedoraproject.org/pub/epel/6/x86_64/epel-release-6-8.noarch.rpm
[bigdata@hadoop002 flume]$ sudo yum -y install ganglia-gmetad 
[bigdata@hadoop002 flume]$ sudo yum -y install ganglia-web
[bigdata@hadoop002 flume]$ sudo yum install -y ganglia-gmond   // 如果这三个不能下载安装的话修改epel源即可


  
 
  • 1
  • 2
  • 3
  • 4
  • 5

  Ganglia由gmond、gmetad和gweb三部分组成。
  gmond(Ganglia Monitoring Daemon)是一种轻量级服务,安装在每台需要收集指标数据的节点主机上。使用gmond,你可以很容易收集很多系统指标数据,如CPU、内存、磁盘、网络和活跃进程的数据等。
  gmetad(Ganglia Meta Daemon)整合所有信息,并将其以RRD格式存储至磁盘的服务。
  gweb(Ganglia Web)Ganglia可视化工具,gweb是一种利用浏览器显示gmetad所存储数据的PHP前端。在Web界面中以图表方式展现集群的运行状态下收集的多种不同指标数据。

  • 4. 修改配置文件/etc/httpd/conf.d/ganglia.conf
[bigdata@hadoop002 flume]$ sudo vim /etc/httpd/conf.d/ganglia.conf

// 修改成如下的内容
# Ganglia monitoring system php web frontend
Alias /ganglia /usr/share/ganglia
<Location /ganglia>
  Order deny,allow
  #Deny from all
  Allow from all
  # Allow from 127.0.0.1
  # Allow from ::1
  # Allow from .example.com
</Location>


  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14

1

  • 5. 修改配置文件/etc/ganglia/gmetad.conf
[bigdata@hadoop002 flume]$ sudo vim /etc/ganglia/gmetad.conf
// 仅修改此处
data_source "hadoop102" 192.168.1.102

  
 
  • 1
  • 2
  • 3
  • 6. 修改配置文件/etc/ganglia/gmond.conf
[bigdata@hadoop002 flume]$ sudo vim /etc/ganglia/gmond.conf

// 以下为要修改部分
cluster {
  name = "hadoop002"
  owner = "unspecified"
  latlong = "unspecified"
  url = "unspecified"
}
udp_send_channel {
  #bind_hostname = yes # Highly recommended, soon to be default. # This option tells gmond to use a source address # that resolves to the machine's hostname.  Without # this, the metrics may appear to come from any # interface and the DNS names associated with # those IPs will be used to create the RRDs.
  # mcast_join = 239.2.11.71
  host = 192.168.2.112
  port = 8649
  ttl = 1
}
udp_recv_channel {
  # mcast_join = 239.2.11.71
  port = 8649
  bind = 192.168.2.112
  retry_bind = true
  # Size of the UDP buffer. If you are handling lots of metrics you really
  # should bump it up to e.g. 10MB or even higher.
  # buffer = 10485760
}


  
 
  • 1
  • 2
  • 3
  • 4
  • 5
  • 6
  • 7
  • 8
  • 9
  • 10
  • 11
  • 12
  • 13
  • 14
  • 15
  • 16
  • 17
  • 18
  • 19
  • 20
  • 21
  • 22
  • 23
  • 24
  • 25
  • 26
  • 27
  • 28
  • 29
  • 30
  • 31
  • 7. 修改配置文件/etc/selinux/config
[bigdata@hadoop002 flume]$ sudo vim /etc/selinux/config


  
 
  • 1
  • 2

2

  • 8. 启动ganglia
[bigdata@hadoop002 flume]$ sudo service httpd start
[bigdata@hadoop002 flume]$ sudo service gmetad start
[bigdata@hadoop002 flume]$ sudo service gmond start


  
 
  • 1
  • 2
  • 3
  • 4
  • 9. 打开网页浏览ganglia页面

http://192.168.2.112/ganglia
3

提示:如果完成以上操作依然出现权限不足错误,请修改/var/lib/ganglia目录的权限:

[bigdata@hadoop002 flume]$ sudo chmod -R 777 /var/lib/ganglia

  
 
  • 1

2. 操作Flume测试监控

  • 1. 修改/opt/module/flume/conf目录下的flume-env.sh配置
JAVA_OPTS="-Dflume.monitoring.type=ganglia
-Dflume.monitoring.hosts=192.168.2.112:8649
-Xms100m
-Xmx200m"


  
 
  • 1
  • 2
  • 3
  • 4
  • 5

4

  • 2. 启动Flume任务
[bigdata@hadoop002 flume]$ bin/flume-ng agent -c conf/ -n a1 -f job/flume-netcat-logger.conf -Dflume.root.logger=INFO,console


  
 
  • 1
  • 2

5
6

  • 3. 发送数据观察ganglia监测图
[bigdata@hadoop002 flume]$ nc localhost 44444

  
 
  • 1

在这里插入图片描述
图例说明:

字段(图表名称) 字段含义
EventPutAttemptCount source尝试写入channel的事件总数量
EventPutSuccessCount 成功写入channel且提交的事件总数量
EventTakeAttemptCount sink尝试从channel拉取事件的总数量。这不意味着每次事件都被返回,因为sink拉取的时候channel可能没有任何数据。
EventTakeSuccessCount sink成功读取的事件的总数量
StartTime channel启动的时间(毫秒)
StopTime channel停止的时间(毫秒)
ChannelSize 目前channel中事件的总数量
ChannelFillPercentage channel占用百分比
ChannelCapacity channel的容量

  本次的分享就到这里了,


11

   看 完 就 赞 , 养 成 习 惯 ! ! ! \color{#FF0000}{看完就赞,养成习惯!!!} ^ _ ^ ❤️ ❤️ ❤️
  码字不易,大家的支持就是我坚持下去的动力。点赞后不要忘了关注我哦!

文章来源: buwenbuhuo.blog.csdn.net,作者:不温卜火,版权归原作者所有,如需转载,请联系作者。

原文链接:buwenbuhuo.blog.csdn.net/article/details/105916111

(完)