nCompass-网络流量基础知识及数据源

单击返回：自学N-Compass之路 
nCompass-网络流量基础知识及数据源

1.  流量分析基础知识

1.1  常见的流量分析方式：

• SNMP： 网管平台通过主动式获取设备接口流量信息。
• Flow：网络设备将穿越的数据流信息精简压缩打包。
• 日志：有些设备支持基于业务访问内容生成详细的交互信息。
• 原包：通常是交换机将穿越的数据包1：1的复制到一个新的物理端口发送至分析平台，然后分析平台进行拆解分析出指标。

SNMP ：

网管平台以主动获取MIB-ID的方式读取设备接口硬件级信息，包含接口命名/速率/带宽/流入流出包数/流入流出吞吐量等。

优点： 运维人员最常用的流量分析方式，技术成熟

缺点：

• 数据精细化颗粒度较差，获取到的数值为最近5分钟平均值；
• 高频主动式获取可能会对地段设备性能消耗较大，业界内通常采用每5分钟或每1分钟读取一次；
• 分析内容极少，有效信息仅包含接口实时吞吐量，无法看到明细通讯对。

Flow（NetStream、NetFlow和sFlow）

Flow技术基于“流”提供报文统计功能，可以对网络设备的每个端口上出入方向的流量进行采样，对采样到的报文依据报文中的关键值（例如五元组等）对网络中的流量进行分类统计。

优点：轻量级

缺点：

• 采样比原因可能会导致数据准确性较差；
• 有效的分析内容较少，仅包含基本的五元组信息；
• 传输可能会消耗带宽。

日志：

优点：轻量级

缺点：

• 传输可能会占用业务带宽（有的日志内容只能从业务端口发出，不能出带外端口发出）；
• 内容精细程度和各设备厂商所支持的分析程度有关。

原包（第一种：流量镜像）：

 优点：

• 非入侵式旁路部署，不会对现网架构造成影响，隔离且独立的网络架构；
• 高密度镜像端口集中化管理；
• 良好的可扩展性。

缺点： 可能会对设备处理性能造成极微影响，

原包（第二种：分光器）：

 优点：

• 不会对网络设备的性能造成任何影响；
• 高密度镜像端口集中化管理；
• 良好的可扩展性；
• 分光器为无源设备，异常时会自动bypass，对业务影响几乎为零。

缺点： 初次上线分光器会中断业务。

1.2  nCompass采集口

• 电口：通用千兆电口模块。
• 光口：SFP 850nm LC多模模块，支持千/万兆。
• 注意，对端设备模块要求必须类型一致。

1.3 流量规划

• 监控节点：同一台设备的同一个物理接口才是一个监控节点。（同一台设备的不同物理接口不能当做一个监控节点。）
• 避免问题：非同一条数据流无法重组。（安全类设备随机回话序列号）
• 建议镜像方式：统一监控节点both双向镜像。
• 如何判定数据是同一监控节点？ 通过一条数据流里面两个方向的数据（服务端到客户端，客户端到服务端），查看源目MAC是否是一对。
• 关键设备重点监控：例如串接的负载、WAF、代理设备、行为管理、防火墙、防水墙、防毒墙。（需分别监控交换机、入关键设备、出关键设备接口，尽可能的避免交换机异常导致故障定位分析的错误。）

1.4 监控原则

• 关键性：需监控所有4层设备（对数据包具有处理功能的设备，防火墙、负载等）前后端节点；交换机只对数据进行快速转发，通常场景下不会对数据进行处理，不监控交换机的前后端。
• 全面性：针对各关键业务系统架构特点合理部署监控节点，尽可能监控业务流上的每个关键节点。
• 准确性：交换机镜像出的流量尽可能的纯净，应避免出现单向流量或重复流量，以减轻设备性能压力。
• 唯一性：若两个监控点的流量重复，需借助TAP流量汇聚设备分别打上不同的VLAN标签或将以上两个节点的流量分配给不同的设备物理接口分析。
• 均衡性：针对各区域数据量特点合理分配设备接口及处理性能，做到压力分摊，以保证数据的准确性。例如，东西向数据交互量大、南北向IP通讯对量大等。
• 分压性：根据数据中心网络内部区域明细划分原则，大流量的不同区域尽可能使用不同的探针进行监控，以降低运维复杂度。
• 扩展性：设备的部署应考虑峰值流量以及未来一段时间内业务增长蹴球，避免输入到设备的流量
• 超出设备的实际处理能力。

1.5  nCompass的重要概念

   “我的网络”：

     nCompass流量分析平台是旁路设备，不像是串接的网络设备，很难去判定数据的流入/流出的方向，所以引入“我的网络”的概念。 进入“我的网络”流量为流入，离开“我的网络”流量为流出。

     哪些地址段需要定义为“我的网络”：

•   公网对外提供服务地址
•    数据中心内部私有地址
•    外联第三方单位对外体用服务地址

   “时间戳”：

      nCompass平台会对收到的每个数据包打上nm级时间戳，准确定为100%。

     不建议使用TAP设备打时间戳。

    如何定义分支站点？

      分支站点定义存在一个很大的误区，如何准确的定义分支站点？

      网络工程师可能会对此产生误解，专线的互联地址也就是网络设备的接口地址不应该定义为站点，因为在访问的实际交互过程中，例如一台上海的终端192.21.0.1访问的目的肯定真实的业务IP，而不是网络设备的接口，原始流量中看到的源目IP也是一样。

2. nCompass数据源

2.1 数据源的几个概念

• 数据模型：nCompass平台的数据分类方式。数据模型之间可以通过共同的维度实现关联。
• 维度：是指流量分析里的分析对象，比如链路、IP、通讯对、省份、运营商、MAC、Vlan、租户、VXlan等等
• 指标：对分析对象的行为、状态、数量进行聚类、统计得到的结果。

      维度和指标的区别：

• 指标随着时间变化、维度不随时间变化
• 指标有单位，维度没有单位
• 指标大多是数值，维度大多是名称
• 时间是特殊的维度

2.2 数据源的使用步骤

• 选择数据模型
• 选择维度
• 选择指标
• 过滤维度
• 筛选指标

2.3 常用的数据模型

• TCPIP：最常见的模型，包括OSI参考模型1-4层的维度：包括数量、延时、大小、成功失败等种指标。
• HTTP：专门分析HTTP协议的模型，包括域名、URL、useragent等各种维度：包括，延时、返回码的统计。
• HTTPS：专门FenixSSL握手的协议。
• Oracle、DB2、SQLserver：各种数据库模型。
• NetFlow：专门分析Flow的模型，包括netflow、Netstream、sflow等。
• ICMP模型：专门分析ICMP差错报文的模型。
• 拨测：主动拨测的模型。

 2.4 数据源的使用（数据表格的方式）

      数据回溯（里面有各种数据表格）

 

 

 2.4.1 具体看一下“接口”数据表格：     

 维度：探针接口

 指标： 总吞吐量、流量吞吐量、流出吞吐量、丢包率、网络时延、建连请求数、新建回话数、建连失败数。

如果想知道这个接口里面各个通讯对的情况？

接口右键---“添加维度”

• 应用： 应用、应用组、域名、URL
• 站点：站点、站点组、客户端站点、服务端站点、客户端站点组、服务端站点组
• IP：IP、服务端IP、客户端IP、IP通讯对、服务端口、客户端端口、服务端IP端口、XFF-IP
• 采集点：
• 其他：

现在看一下常用的，在这个探针接口下面的 ” 服务端IP、客户端IP、服务端口”  ，  还可以进行排序。

右上角可以单独 “修改维度” “修改指标” 。

 

“修改指标” 内具体内容：

 

 2.4.2  具体看一下“服务端口”数据表格（数据中心有哪些服务端口）：     

 如何具体看都有哪些服务器使用了 80 端口：

如何看一台服务器对外提供了哪些端口服务呢？

此时可以把“服务端IP”也添加进来

 2.5 Dashboard 数据源的使用

 新建一个Dashboard ---  图表区

那么如果想知道曲线上面某一时间点的具体内容是什么？  可以新建一个表格区

此时可以讲“接口流量”的图标区  和 “TopN通讯对”的表格区 做关联 。

如果当你看到IP通讯对之后， 想进一步只看某一个客户端IP访问的所有服务器端IP端口，如何查看？

复制一份表格粘贴在表格区------再原表格右键关联-----

关联的时候把“服务器IP”“服务端口” 去掉，   意思就是当从表格“Top N通讯对”复制到关联表格“客户端访问的所有IP端口”时，会忽略“服务器IP”“服务端口”  。

 

以上为列出所有客户端IP为172.19.16.14访问的所有ip端口。

以上为列出所有客户端IP为172.16.104.8访问的所有ip端口。