RRDtool 安装和使用

一、RRDtool 的功能及使用介绍

定义:RRDtool(Round Robin Database Tool)是一个用来处理定量数据的开源高性能数据库。

1.RRDtool 的特性

由于 RRDtool 设计的初衷就是为监控开发的,所以与其他的数据库相比,RRDtool 有以下特性:

  • 有一个强大的绘图引擎,可以根据数据库内容,创建 png 格式的图片。图 1,图 2 和图 3 所示的就是三张通过 rrdtool graph 命令生成的网络带宽波形图。
图 2. 最近一天的网卡收发速率

图 1. 最近一小时的网卡收发速率

图 3. 最近一年的网卡收发速率

图 2. 最近一天的网卡收发速率

图 3. 最近一年的网卡收发速率

图 3. 最近一年的网卡收发速率

  • 是一个基于时间序列的环形数据库。可以想象一个圆,圆周上有一些均匀分散的点。这些点就是数据存储的位置。从圆心画一条到圆周的某个点的箭头,这个箭头就是指向当前元素的指针。在当前元素被读或写之后,指针就往下一个元素移动。当所有位置都被用过,原来的位置就会被重用。这样,数据库永远不会满,不需要维护。
  • 可以被配置成存储当前值与前一个值变化速度,而不是简单地存储提供的值。
  • 要求在预定的时间间隔中取得监控数据,如果没有得到更新的数据,就将该时间段的值设为 UNKNOWN.

2.RRDTool 中的数据处理

RRD 数据库存储的值并不一定等于更新时提供的值。这个值是根据数据库设定对提供的值进行计算得到的。计算过程可以分为三个步骤:

1.根据用户定义的数据类型对提供的值进行计算,具体计算方法见表 1

数据类型 计算方法
GAUGE 等于提供的值,适用于提供值为速度计、温度或人数等
COUNTER 当前值与前一个值的变化速度,要求递增的值,如计数器,里程表等。如果计数器溢出,RRDTool会检查溢出是32位还是64位,并相应的加上合适的值
DERIVE 当前值与前一个值的变化速度,不要求递增。除了不进行溢出处理之外,该类型的内部处理机制与COUNTER相同
ABSOLUTE 假定前一个值始终为0,求变化速度。可用来存储读取后复位的计数器

 

 

 

 

 

表 1.RRDtool 中的数据类型

1)整形

输入的时间经常会不在时间间隔的边界,所以需要根据前后两个有效的更新进行线性整形。(有效时间是被 heartbeat 设定控制的 )假定你在监视一个增长速度不均匀的计数器,每分钟检查一次,在 4:30 是 2,5:30 是 4,那么第 5 分钟的变化速度为 3。整形后得到的值称为 PDP(Primary Data Points)。

2)合并

RRDtool 最终会根据设定对 PDP 进行合并,得到 CDP(Consolidated Data Point)。CDP 可以是多个(可以是一个)PDP 的平均值、最小值、最大值以及最近的值。CDP 是 RRD 数据库中最终存储的数据。这对于输出监控数据时是非常有利的。假设每个 PDP 的时间间隔是 1 分钟,如果你想查看 1 天的数据,而且你不需要查看每一分钟具体的监控数据,只是想看一下这一个天中每半个小时的监控数据。如果 RRD 中存储的是 PDP, 在输出时就需要对当天的 PDP 每 30 个进行合并。合并需要时间,如果你需要合并的数据量更大,如 1 个月或是 1 年,那这个合并的时间会非常长。所以 RRDtool 选择在数据库更新时对 PDP 进行合并,保存 CDP。用户可以根据需要设定如何对 PDP(非 UNKNOWN)进行合并。

合并方式 计算方法
AVERAGE 平均值
MIN 最小值
MAX 最大值
LAST 最近值

 

 

 

 

表 2.PDP 的合并方式

二、RRDTool的安装

1.通过yum 安装,rrdtool版本1.3.8

#yum install -y rrdtool  

 

#yum install -y gcc

#yum install -y rrdtool-python

2.安装最新版本 1.4.7

# wget http://pkgs.repoforge.org/rrdtool/rrdtool-devel-1.4.7-1.el6.rfx.x86_64.rpm
# wget http://pkgs.repoforge.org/rrdtool/rrdtool-1.4.7-1.el6.rfx.x86_64.rpm
# wget http://pkgs.repoforge.org/rrdtool/perl-rrdtool-1.4.7-1.el6.rfx.x86_64.rpm
# wget http://pkgs.repoforge.org/rrdtool/python-rrdtool-1.4.7-1.el6.rfx.x86_64.rpm

安装下列辅助工具

#yum install libdbi ruby xorg-x11-fonts-Type1 -y
#yum install perl-Time-HiRes perl-TermReadKey -y


卸载旧版本

# yum erase rrdtool -y

正式安装

# rpm -Uvh perl-rrdtool-1.4.7-1.el6.rfx.x86_64.rpm python-rrdtool-1.4.7-1.el6.rfx.x86_64.rpm rrdtool-1.4.7-1.el6.rfx.x86_64.rpm rrdtool-devel-1.4.7-1.el6.rfx.x86_64.rpm

 

3.RRDTool 的使用

1. 创建 RRD 数据库

语法:

rrdtool create filename [--start|-b start time] [--step|-s step] [--no-overwrite] [DS:ds-name:DST:dst arguments] [RRA:CF:cf arguments]

参数:

1) create 关键字,用于创建一个 RRD 数据库文件

filename 文件名,扩展名最好是 .rrd

--start|-b start time 第一个记录的开始时间,默认是当前时间减 10 秒。表示方法为从 1970-01-01 UTC 到指定时间的秒数

--step|-s step 每条记录的时间间隔,默认为 300 秒

--no-overwrite 不覆盖同文件名的数据库文件

2) DS:ds-name:DST:dst arguments

DS 关键字,用于定义数据源。一个 RRD 文件可以有多个 DS。

ds-name 数据源名称,可以是 1 ~ 19 个 [a-zA-Z0-9_] 中的任意字符,一个 RRD 数据库文件可以有多个数据源。

DST 数据类型。支持的数据类型有:

GAUGE, COUNTER, DERIVE, ABSOLUTE,COMPUTE

DS:ds-name:GAUGE | COUNTER | DERIVE | ABSOLUTE:heartbeat:min:max

DS:ds-name:COMPUTE:rpn-expression

COMPUTE 存放对其他数据源进行公式计算的结果。

Heartbeat 心跳,两次数据源更新之间将数据源的数值确定为 UNKNOWN 前所允许的最大秒数。Min:max PDP 的最小值 / 最大值。

3) RRA:CF:cf arguments

RRA 关键字,用于定义 RRA(round robin archive) 档。一个 RRD 数据库文件有至少一个的 RRA 档。CDP 就被保存于 RRA 中。

CF 合并方式,可以是 AVERAGE,MIN,MAX,LAST

RRA:AVERAGE | MIN | MAX | LAST:xff:steps:rows

xff 定义合并时间间隔内允许的 PDP 为 UNKNOWN 的比例,超过这个比例时,CDP 被置为 UNKNOWN。

steps 定义多少个 PDP 合并一个 CDP。

rows 定义一个 RRA 档保存有多少条记录。

demo:#创建一个rrd文件 create_rrd.py

#coding=utf-8

import rrdtool,time

rrdb=rrdtool.create('mysql.rrd','--step','3','--start','1402643365',#数据库名称:mysql.rrd;每三秒获取一次数据;从2014年6月18日15时开始

'DS:mysqlselect:COUNTER:5:0:U',#数据源名称:mysqlselect,类型是Counter类型(不断增加的数值;5是heartbeat 0是最小值 U表示最大值,这里表示未知;详细介绍参考:http://bbs.chinaunix.net/forum.php?mod=viewthread&tid=864861&page=1

'RRA:AVERAGE:0.5:1:28800',#RRA用于指定数据如何存放

'RRA:AVERAGE:0.5:10:2880',

'RRA:MAX:0.5:10:2880',

'RRA:LAST:0.5:10:2880')

 

2. 更新 RRD 数据库

语法:

rrdtool {update | updatev} filename [--template|-t ds-name[:ds-name]...] [--daemon address] [--] N|timestamp:value[:value...] at-timestamp@value[:value...] [timestamp:value[:value...] … ]

参数:

1) update/updatev 关键字,用于更新数据库

updatev 会输出磁盘上数据库文件更新后输出更新信息。由于 updatev 需要直接的磁盘访问,所有不能与 --daemon 共用。

filename 需要更新的 RRD 数据库的文件名

2) --template|-t ds-name[:ds-name]...

默认情况下,需要按照数据源定义的顺序更新。该参数允许你指定要更新的数据。

3) --daemon address

使用缓存后台程序更新数据库,而不直接访问磁盘。

4)N|timestamp:value[:value...]

更新时间及数据。时间格式可以是 N| 时戳;N 表示现在;时戳以自 1970-01-01 以来的秒数来表示。 如果使用负数时间(当前时间之前多长时间),需要使用—与其它选项区分开。用 U 表示数据的值为 UNKNOWN。

at-timestamp@value[:value...]

更新时间也可以使用 AT 风格表示。

环境变量 RRDCACHED_ADDRESS 与 --daemon 选项的作用是一样的,如果两者都出现的话,前者优先。

 

demo:#使用rrdtool update更新网卡流量 getselect.sh(这里用到snmp简单网络管理协议,具体安装可以参考:http://www.cnblogs.com/smallcoderhujin/p/3785731.html

while true; do

    SELECT=`snmpget -v 2c -c public [your host ip] ifInOctets.2 | sed -e 's/.*ter32: \(.*\)/\1/'`

    rrdtool update mysql.rrd N:$SELECT

    sleep 3

done

 

3. 读取数据

语法:

rrdtool fetch filename CF [--resolution|-r resolution] [--start|-s start] [--end|-e end] [--daemon address]

参数:

1) fetch 关键字,用于取数据。

2) filename 需要读取的文件的文件名

3) CF 需要读取数据的合并方式 (AVERAGE,MIN,MAX,LAST)

4) --resolution|-r resolution (default is the highest resolution)

解析度,也就是你要取数据的时间间隔(单位:秒);rrdfetch 会尽量找到最匹配的 RRA。默认为数据库文件支持的最高解析度,即时间间隔最短的;如果想取的不是最高解析度的 RRA,假设要取得的是解析度为 x 的 RRA,开始时间和结束时间必须落在期望解析度的边界点上,即需要满足以下条件:

a.start 时间和 end 时间都是 x 的倍数

b.start 时间和 end 时间都在 RRA 记录的时间范围内。

5) --start|-s start (default end-1day)

开始时间;支持时戳和 AT 风格;默认是 1 天前。

6) --end|-e end (default now)

结束时间;格式与开始时间相同;默认是现在;

7) --daemon address

缓存后台程序地址。如果指定的话,在读取之前,会发 flush 指令给缓存后台程序将缓存的数据同步到磁盘。

demo:#查询,查询2014.6.12 15:50:25至2014.6.12 15:51:25之间的数据

import rrdtool

print rrdtool.fetch('mysql.rrd','AVERAGE','--start','1402645825','--end','1402645885')

 

4.绘图

demo:#绘图 graph_rrd.py(需要注意的是数据库的名称,数据源名称需要一致)

#coding=utf-8

import rrdtool

rrdtool.graph('mysql.png','--start','1402645825',

'--title','mysql select',

'--vertical-label','selects/3',

'DEF:select3=mysql.rrd:mysqlselect:AVERAGE:step=3',

'LINE1:select3#FF0000:select',)

 

5.效果图

效果图:

 

参考:

http://my.oschina.net/guol/blog/136023

http://freeloda.blog.51cto.com/2033581/1307492

http://bbs.hexun.com/money/post_568_6335152_1_d.html

http://bbs.chinaunix.net/forum.php?mod=viewthread&tid=864861&page=1


posted @ 2014-06-19 14:57  smallcoderhujin  阅读(11183)  评论(1编辑  收藏  举报