网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS)

网络流媒体协议的联系与区别(RTP RTCP RTSP RTMP HLS)


三句话简结

RTP RTCP RTSP RTMP HLS区别与联系

RTP传输流媒体数据、RTCP对RTP进行控制,同步、RTSP发起/终止流媒体
RTP和RTCP互为姐妹关系,RTSP可以使用RTP来传输数据,但并没有绑定关系也可以使用TCP/UDP
RTSP、RTMP、HLS都可以做直播和点播,它们是三种不同的应用层协议

流媒体各协议层次图

关于RTP(RTCP)协议位置的理解:
RTP实际上介于应用层和传输层之间。同时具有应用层和传输层的各种特点。这个特点需要仔细甄别。

从应用开发者的角度看,RTP应该是应用层的一个部分。在应用程序的发送端,开发者必须编写用RTP封装分组(数据包)的程序代码,然后把该RTP分组交给UDP套接字接口。在接收端设备,RTP分组通过UDP套接字接口进入应用层程序后,会利用开发者编写的程序代码把RTP分组从应用数据块提取出来。RTP实际上为视频程序的开发者提供了一个开发平台。

RTP也可以理解为运输层协议,实际上RTP协议偏重于传输层,是UDP协议(用户数据报)上边的一层协议。因为RTP封装了多媒体应用(包括视频流、音频流)的数据块,关键是提供运输层的服务(时间戳,序号、同步源标识符等),因此可以把RTP看成一层UDP上的运输层子层协议,特别要注意是子层协议。

综合来看,RTP协议实际上是一个介于传输层和应用层之间的协议,作用是在UDP协议之上完成一次对媒体流的封装。

基于RTP的流式媒体

流式传输是实现流媒体的关键技术。使用流式传输可以边下载边观看流媒体节目。由于Internet是基于分组传输的,所以接收端收到的数据包往往有延迟和乱序(流式传输构建在UDP上)

要实现流式传输,就要从降低延迟和恢复数据包时序入手。

「在发送端,为降低延迟,往往对传输数据进行预处理(降低质量和高效压缩(常见压缩格式如aac/h264...))」

「在接收端为了恢复时序,常采用接收缓冲,而为了实现媒体的流畅播放,一般会使用播放缓冲」

RTP

RTP(Real-time Transport Protocol)协议创建在UDP协议上常配合RTSP和RTCP一起使用。用于实时传输网络中的多媒体数据,提供端到端的实时传输服务,但并不保证服务质量,服务质量由RTCP来提供。

RTP是流媒体协议族中最基础的一个协议了,它是IETF提出的一个标准,对应RFC文档RFC3550,RFC3550不仅定义了RTP还定义了配套相关协议RTCP。

RTP协议主要职责就是负责流媒体数据包和媒体流的实时传输,每个RTP数据报文由头(header)和装载(Payload)两部分组成,其中头的前12个字节的含义是固定的,装载的数据可以是音频或视频数据。RTP数据报的报头格式如下所示:

「可以将RTP比作一辆货车,货车里面可以随意装东西,但是容积有限制,如果太大你就需要分包,一辆一辆装车发送过,另外可能也不一定按序到达对端,甚至可能失踪」

RTP载荷类型
因为有些类型由于诞生的较晚,没有具体的PT值,只能使用动态(dynamic)PT值,即96-127,这就是为什么大家普遍指定H264的PT值为96。

rtp_payload_types[] = {
  {0, "PCMU",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_MULAW, 8000, 1},
  {3, "GSM",         AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
  {4, "G723",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_G723_1, 8000, 1},
  {5, "DVI4",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
  {6, "DVI4",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 16000, 1},
  {7, "LPC",         AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
  {8, "PCMA",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_ALAW, 8000, 1},
  {9, "G722",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_ADPCM_G722, 8000, 1},
  {10, "L16",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_S16BE, 44100, 2},
  {11, "L16",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_PCM_S16BE, 44100, 1},
  {12, "QCELP",      AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_QCELP, 8000, 1},
  {13, "CN",         AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
  {14, "MPA",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_MP2, -1, -1},
  {14, "MPA",        AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_MP3, -1, -1},
  {15, "G728",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
  {16, "DVI4",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 11025, 1},
  {17, "DVI4",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 22050, 1},
  {18, "G729",       AVMEDIA_TYPE_AUDIO,   AV_CODEC_ID_NONE, 8000, 1},
  {25, "CelB",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_NONE, 90000, -1},
  {26, "JPEG",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_MJPEG, 90000, -1},
  {28, "nv",         AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_NONE, 90000, -1},
  {31, "H261",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_H261, 90000, -1},
  {32, "MPV",        AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_MPEG1VIDEO, 90000, -1},
  {32, "MPV",        AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_MPEG2VIDEO, 90000, -1},
  {33, "MP2T",       AVMEDIA_TYPE_DATA,    AV_CODEC_ID_MPEG2TS, 90000, -1},
  {34, "H263",       AVMEDIA_TYPE_VIDEO,   AV_CODEC_ID_H263, 90000, -1},
  {-1, "",           AVMEDIA_TYPE_UNKNOWN, AV_CODEC_ID_NONE, -1, -1}
};

RTCP

RTCP(Real-time Transport Control Protocol或RTP Control Protocol)是实时传输协议(RTP)的一个姐妹协议。

RTCP常与RTP联合工作,RTP实施实际数据的传输,RTCP则负责将控制包送至电话中的每个人。其主要功能就是为RTP提供的服务质量做出反馈,同时同步音视频数据,它本身没不传递任何数据。它们能以有效的反馈和最小的开销使传输效率最佳化,因而特别适合传送网上的实时数据。

在RTP会话期间,各参与者周期性地传送RTCP包。RTCP包中含有已发送的数据包的数量、丢失的数据包的数量等统计资料,因此,服务器可以利用这些信息动态地改变传输速率,甚至改变有效载荷类型。

RTCP根据所携带的控制信息不同RTCP信息包可分为RR (接收者报告包)、SR (源报告包)、SE
DS (源描述包)、BYE (离开申明)和APP (特殊应包)5类

RTSP

实时流协议(RTSP,Real-time Streaming Protocol)是一种用于控制声音或图像的流媒体议,并且允许控制多条流,但RTSP连接并没有被绑定传输层的连接(如RTP),服务器甚至可以选择TCP或者UDP来传输流内容。

它的语法类似于HTTP 1.1,但不强调时间的同步,因此比较可以容忍网络延迟,是一种基于文本的多媒体播放控制协议。RTSP定义流格式,流数据可经由RTP传输;所以RTSP的实时效果非常好,适合视频聊天,视频监控等方向。

RTSP的请求主要包括,如「描述(describe),设置(setup),播放(play),暂停(pause),回放(teardown),选项(options)」等,在RTSP对话期间,Setup可以指定RTP/RTCP使用的端口,「playpauseteardown」可以开始和暂停RTP的发送。

RTSP请求例

SETUP 请求
SETUP请求指定如何传输单个媒体流。这必须在发送PLAY请求之前完成。请求包含媒体流URL和传输说明符。该说明符通常包括用于接收RTP数据(音频或视频)的本地端口,另一个用于RTCP数据(元信息))。服务器回复通常会确认所选参数,并填写缺少的部分,例如服务器选择的端口。必须在发送聚合播放请求之前,使用SETUP配置每个媒体流。

C->S: SETUP rtsp://example.com/media.mp4/streamid=0 RTSP/1.0
CSeq: 3
Transport: RTP/AVP;unicast;client_port=8000-8001

S->C: RTSP/1.0 200 OK
CSeq: 3
Transport: RTP/AVP;unicast;client_port=8000-8001;server_port=9000-9001;ssrc=1234ABCD
Session: 12345678

Play 播放请求
Play 播放请求 将导致播放一个或所有媒体流。可以通过发送多个播放请求来堆叠播放请求。URL可以是聚合URL(播放所有媒体流)或单个媒体流URL(仅播放该流)。可以指定范围。如果没有指定范围,流将从头开始播放,并播放到最后,或者如果流暂停,则在暂停点恢复播放。

C->S: PLAY rtsp://example.com/media.mp4 RTSP/1.0
CSeq: 4
Range: npt=5-20
Session: 12345678

S->C: RTSP/1.0 200 OK
CSeq: 4
Session: 12345678
RTP-Info: url=rtsp://example.com/media.mp4/streamid=0;seq=9810092;rtptime=3450012

PAUSE 暂停请求
PAUSE 暂停请求 暂时停止一个或所有媒体流,因此稍后可以通过播放请求恢复。请求包含聚合或媒体流URL。PAUSE请求中的范围参数指定何时暂停。当省略范围参数时,暂停会立即无限期地发生。

C->S: PAUSE rtsp://example.com/media.mp4 RTSP/1.0
CSeq: 5
Session: 12345678

S->C: RTSP/1.0 200 OK
CSeq: 5
Session: 12345678

RTMP

RTMP(Real Time Messaging Protocol)实时消息传送协议是Adobe Systems公司为Flash播放器和服务器之间音频、视频和数据传输开发的开放应用层协议.

RTMP传输层是TCP协议,不过这种可靠的保障也会造成一些问题,也就是说前面的数据包没有交付到目的地,后面的数据也无法进行传输。幸运的是,目前的网络带宽基本上可以满足RTMP协议传输普通质量视频的要求,而且一般延迟在延迟在1-3秒内。

RTMP传输的数据的基本单元为Message,但是实际上传输的最小单元是Chunk(消息块),因为RTMP协议为了提升传输速度,在传输数据的时候,会把Message拆分开来,形成更小的块,这些块就是Chunk。

RTMP扩展

RTMP是一个协议族,包括RTMP基本协议及RTMPT/RTMPS/RTMPE等多种变种:

・工作在TCP之上的明文协议,使用端口1935;
・RTMPE在RTMP的基础上增加了加密功能;
・RTMPT封装在HTTP请求之中,可穿越防火墙;
・RTMPS类似RTMPT,但使用的是HTTPS连接;

RTMP协议(Real Time Messaging Protocol)是被Flash用于对象,视频,音频的传输.这个协议建立在TCP协议或者轮询HTTP协议之上.

RTMP协议就像一个用来装数据包的容器,这些数据既可以是AMF格式的数据,也可以是FLV中的视/音频数据.一个单一的连接可以通过不同的通道传输多路网络流.这些通道中的包都是按照固定大小的包传输的.

HLS

HTTP Live Streaming(HLS)是苹果公司(Apple Inc.)实现的基于HTTP的流媒体传输协议,可实现流媒体的直播和点播,主要应用在iOS系统,为iOS设备(如iPhone、iPad)提供音视频直播和点播方案。HLS点播,基本上就是常见的分段HTTP点播,不同在于,它的分段非常小。

相对于常见的流媒体直播协议,例如RTMP协议、RTSP协议、MMS协议等,HLS直播最大的不同在于,「直播客户端获取到的,并不是一个完整的数据流。HLS协议在服务器端将直播数据流存储为连续的、很短时长的媒体文件(MPEG-TS格式),而客户端则不断的下载并播放这些小文件,因为服务器端总是会将最新的直播数据生成新的小文件,这样客户端只要不停的按顺序播放从服务器获取到的文件,就实现了直播。」
由此可见,基本上可以认为,HLS是以点播的技术方式来实现直播。由于数据通过HTTP协议传输,所以完全不用考虑防火墙或者代理的问题,而且分段文件的时长很短,客户端可以很快的选择和切换码率,以适应不同带宽条件下的播放。不过HLS的这种技术特点,决定了它的延迟一般总是会高于普通的流媒体直播协议。 

HLS提供一个m3u8地址,Apple的Safari浏览器直接就能打开m3u8地址,譬如
香港卫视:http://live.hkstv.hk.lxdns.com/live/hks/playlist.m3u8

总结

RTP RTCP RTSP 区别与联系

RTP传输流媒体数据、RTCP对RTP进行控制,同步、RTSP发起/终止流媒体
RTP和RTCP互为姐妹关系,RTSP可以使用RTP来传输数据,但并没有绑定关系也可以使用TCP/UDP
RTSP、RTMP、HLS都可以做直播和点播,它们是三种不同的应用层协议

RTSP、RTMP、HLS 区别与联系

RTSP、RTMP、HLS都可以做直播和点播,它们是三种不同的应用层协议

・HLS 延迟大,适合视频点播
・RTSP实时性最好,但是实现复杂,适合视频聊天和视频监控
・RTMP强在浏览器支持好,加载flash插件后就能直接播放,非常火,相反在浏览器里播放rtsp就很困难了

关于直播

直播应用中,RTMP和HLS基本上可以覆盖所有客户端观看。

・RTSP优势主要在于传输层可以使用udp/rtp,实时性好,延迟可控制到1s内,
・RTMP主要优势在于延时相对较低(1-3s),而且RTMP支持的很完善,能做到flash播放RTMP流长时间不断流,以前很多SIP的视频会议已被RTMP所取代。
・HLS的优势就是直接使用http协议请求流数据,可以在不同速率的版本间自由切换,实现无缝播放,缺点是延时比较大(10s以上)。

三种协议各有各的优势,主要还是看场景选择,当然大点公司,可以做些私有协议来提供更好更符合场景的服务。

参考:
RFC3550
维基百科

posted @ 2020-03-07 22:46  靑い空゛  阅读(3494)  评论(1编辑  收藏  举报