音视频流媒体开发【五十一】HLS流媒体3-m3u8协议详解

音视频流媒体开发-目录
iOS知识点-目录
Android-目录
Flutter-目录
数据结构与算法-目录
uni-pp-目录

官⽅⽂档:https://tools.ietf.org/html/rfc8216

1. 综述

HLS(HTTP Live Streaming) 把整个流分成⼀个个⼩的基于 HTTP 的⽂件来下载,每次只下载⼀些。

HLS 协议由三部分组成:HTTP、M3U8、TS。这三部分中,HTTP 是传输协议,M3U8 是索引⽂件,TS是⾳视频的媒体信息。

关于 HLS 的详细介绍可参考: HTTP Live Streaming draft-pantos-http-live-streaming-18

HLS 是提供⼀个 m3u8 地址,Apple 的 Safari 浏览器直接就能打开 m3u8 地址,譬如:

http://demo.srs.com/live/livestream.m3u8

Android 不能直接打开,需要使⽤ html5 的 video 标签,然后在浏览器中打开这个⻚⾯即可,譬如:

<!-- livestream.html -->
<video width="640" height="360"
    autoplay controls autobuffer
    src="http://demo.srs.com/live/livestream.m3u8"
    type="application/vnd.apple.mpegurl">
</video>

HLS 的 m3u8,是⼀个 ts 的列表,也就是告诉浏览器可以播放这些 ts ⽂件,譬如:

#EXTM3U
#EXT-X-VERSION:3
#EXT-X-MEDIA-SEQUENCE:64
#EXT-X-TARGETDURATION:12
#EXTINF:11.550
livestream-64.ts
#EXTINF:5.250
livestream-65.ts
#EXTINF:7.700
livestream-66.ts
#EXTINF:6.850
livestream-67.ts

有⼏个关键的参数,这些参数在 SRS 的配置⽂件中都有配置项:

#EXTM3U:每个M3U⽂件第⼀⾏必须是这个tag,请标示作⽤

#EXT-X-VERSION:该属性可以没有,⽬前主要是version 3,最新的是7

#EXT-X-MEDIA-SEQUENCE:每⼀个media URI在PlayList中只有唯⼀的序号,相邻之间序号+1,⼀个media URI并不是必须要包含的,如果没有,默认为0

#EXT-X-TARGETDURATION:所有切⽚的最⼤时⻓。有些 Apple 设备这个参数不正确会⽆法播放。

SRS 会⾃动计算出 ts ⽂件的最⼤时⻓,然后更新 m3u8 时会⾃动更新这个值。⽤户不必⾃⼰配置。

#EXTINF:ts 切⽚的实际时⻓,SRS 提供配置项 hls_fragment,但实际上的 ts 时⻓还受 gop 影响。

ts ⽂件的数⽬:SRS 可配置 hls_window(单位是秒,不是数量),指定 m3u8 中保存多少个切⽚,譬如,每个 ts 切⽚为 10 秒,窗⼝为 60 秒,那么 m3u8 中最多保存 6 个 ts 切⽚,SRS 会⾃动清理旧的切⽚。

livestream-67.ts:SRS 会⾃动维护 ts 切⽚的⽂件名,在编码器重推之后,这个编号会继续增⻓,保证流的连续性。直到 SRS 重启,这个编号才重置为 0。

每⼀个 .m3u8 ⽂件,分别对应若⼲个 ts ⽂件,这些 ts ⽂件才是真正存放视频的数据。

m3u8 ⽂件只是存放了⼀些 ts ⽂件的配置信息和相关路径,当视频播放时,.m3u8 是动态改变的,video标签会解析这个⽂件,并找到对应的 ts ⽂件来播放,所以⼀般为了加快速度,.m3u8 放在 web 服务器上,ts ⽂件放在 cdn 上。

.m3u8 ⽂件,其实就是以 utf-8 编码的 m3u ⽂件,这个⽂件本身不能播放,只是存放了播放信息的⽂本⽂件。

HLS 整体框架图:Server、CDN 和 Client

image.png
HLS 协议编码格式要求
  • 视频的编码格式:H264
  • ⾳频的编码格式:AAC、MP3、AC-3
  • 视频的封装格式:ts
  • 保存 ts 索引的 m3u8 ⽂件
HLS 协议优势
  • HLS 相对于 RTMP 来讲使⽤了标准的 HTTP 协议来传输数据,可以避免在⼀些特殊的⽹络环境下被屏蔽。
  • HLS 相⽐ RTMP 在服务器端做负载均衡要简单得多。因为 HLS 是基于⽆状态协议 HTTP 实现的,客户端只需要按照顺序使⽤下载存储在服务器的普通 ts ⽂件进⾏播放就可以。⽽ RTMP 是⼀种有状态协议,很难对视频服务器进⾏平滑扩展,因为需要为每⼀个播放视频流的客户端维护状态。
  • HLS 协议本身实现了码率⾃适应,在不同带宽情况下,设备可以⾃动切换到最适合⾃⼰码率的视频播放。
HLS 协议缺点
  • HLS 协议在直播的视频延迟时间很难做到 10 s 以下延时,⽽ RTMP 协议的延时可以降到 1s 左右。

2. HLS 之 M3U8

m3u8 ⽂件是⽤⽂件⽅式对媒体⽂件进⾏描述,由⼀些列标签组成。

2.1 m3u8示例

m3u8 ⽂件示例 1:单码率适配流
#EXTM3U
#EXT-X-VERSION:3
#EXT-X-ALLOW-CACHE:YES
#EXT-X-MEDIA-SEQUENCE:2
#EXT-X-TARGETDURATION:16
#EXTINF:14.357, no desc
livestream-2.ts
#EXTINF:15.617, no desc
livestream-3.ts
#EXTINF:14.358, no desc
livestream-4.ts
#EXTINF:15.618, no desc
livestream-5.ts
#EXTINF:11.130, no desc
livestream-6.ts

该 m3u8 ⽂件只是⼀个简单的 Media Playlist。

m3u8 ⽂件示例 2:多码率适配流
#EXTM3U
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=1280000
http://example.com/low.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=2560000
http://example.com/mid.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=7680000
http://example.com/hi.m3u8
#EXT-X-STREAM-INF:PROGRAM-ID=1,BANDWIDTH=65000,CODECS="mp4a.40.5"
http://example.com/audio-only.m3u8

包含多种⽐特率的 Master Playlist。该⽂件是⼀个实际使⽤中的顶级 m3u8 ⽂件,该⽂件中⼜定义了http://example.com/low.m3u8http://example.com/mid.m3u8 等 ⼏ 个 ⼆ 级 ⽂ 件 。 顶 级m3u8 ⽂件主要是做码率适配的,⼆级 m3u8 才是真正的切⽚⽂件,客户端会默认选择码率最⾼的请求,如果发现码率达不到,会请求降低码率的流。客户端拿到⼆级 m3u8 ⽂件后,会继续请求⾥⾯的⽂件,这时就可以进⾏播放了。

2.2 基础概念

2.2.1 Playlist file

⼀个 m3u 的 Playlist 就是⼀个由多个独⽴⾏组成的⽂本⽂件,每⾏由回⻋/换⾏区分。每⼀⾏可以是⼀个URI、空⽩⾏或是⼀个 以 "#" 号开头的字符串,并且空格只能存在于⼀⾏中不同元素间的分隔。

⼀个 URI 表示⼀个媒体段或是 "variant Playlist file"(最多⽀持⼀层嵌套,即⼀个 m3u8 ⽂件中嵌套另⼀个 m3u8),以 "EXT" 开头的表示⼀个 "tag",否则表示注释,直接忽略。

2.2.2 Tags

1. #EXTM3U :

每个 m3u8 ⽂件第⼀⾏必须是这个 tag,如上⾯的两个示例。

2. #EXT-X-VERSION:m3u8⽂件版本号,⽐如#EXT-X-VERSION:3。

3. #EXTINF :指定每个媒体段(ts)的持续时间,这个仅对其后⾯的 URI 有效,每两个媒体段 URI 间被这个 tag 分隔开其格式为: #EXTINF:<duration>,<title>, ⽐如#EXTINF:14.357, no desc
duration:表示持续的时间(秒),"Durations MUST be integers if the protocol version of the Playlist file is less than 3",否则可以是浮点数。

4. #EXT-X-BYTERANGE :表示媒体段是⼀个媒体 URI 资源中的⼀段,只对其后的 media URI 有效,格式为: #EXT-X-BYTERANGE:<n>[@o]
n:表示这个区间的⼤⼩
o:表示在 URI 中的 offset
The EXT-X-BYTERANGE tag appeared in version 4 of the protocol

5. #EXT-X-TARGETDURATION :指定当前视频流中的单个切⽚(即 ts)⽂件的最⼤时⻓(秒)。所以#EXTINF 中指定的时间⻓度必须⼩于或是等于这个最⼤值。这个 tag 在整个 Playlist ⽂件中只能出现⼀次(在嵌套的情况下,⼀般有真正ts url 的 m3u8 才会出现该 tag)。格式为: #EXT-XTARGETDURATION:<s>
s:表示最⼤的秒数。

6. #EXT-X-MEDIA-SEQUENCE :
每⼀个 media URI 在 Playlist 中只有唯⼀的序号,相邻之间序号 +1。
格式为: #EXT-X-MEDIA-SEQUENCE:<number> 。⼀个 media URI 并不是必须要包含的,如果没有,默认为 0.

7. #EXT-X-KEY :表示怎么对 media segments 进⾏解码。其作⽤范围是下次该 tag 出现前的所有media URI。格式为: #EXT-X-KEY:<attribute-list>

NONE 或者 AES-128。如果是 NONE,则 URI 以及 IV 属性必须不存在,如果是 AES128(Advanced Encryption Standard),则 URI 必须存在,IV 可以不存在。

对于 AES-128 的情况,keytag 和 URI 属性共同表示了⼀个 key ⽂件,通过 URI 可以获得这个key,如果没有 IV(Initialization Vector),则使⽤序列号作为 IV 进⾏编解码,将序列号的⾼位赋到 16 个字节的 buffer 中,左边补 0;如果有 IV,则将该值当成 16 个字节的 16 进制数。

8. #EXT-X-PROGRAM-DATE-TIME :将⼀个绝对时间或是⽇期和⼀个媒体段中的第⼀个 sample 相关联,只对下⼀个 media URI 有效,格式如下: #EXT-X-PROGRAM-DATE-TIME:<YYYY-MMDDThh:mm:ssZ>

例如: #EXT-X-PROGRAM-DATE-TIME:2010-02-19T14:54:23.031+08:00

9. #EXT-X-ALLOW-CACHE :
是否允许做 cache,这个可以在 Playlist ⽂件中任意地⽅出现,并且最多只出现⼀次,作⽤效果是所有的媒体段。格式如下: #EXT-X-ALLOW-CACHE:<YES|NO>

10. #EXT-X-PLAYLIST-TYPE :提供关于 Playlist 的可变性的信息,这个对整个 Playlist ⽂件有效,是可选的,格式如下: #EXT-X-PLAYLIST-TYPE:<EVENT|VOD>

VOD,即为点播视频,服务器不能改变 Playlist ⽂件,换句话说就是该视频全部的 ts ⽂件已经被⽣成好了

EVENT,就是实时⽣成 m3u8 和 ts ⽂件。服务器不能改变或是删除 Playlist ⽂件中的任何部分,但是可以向该⽂件中增加新的⼀⾏内容。它的索引⽂件⼀直处于动态变化中,播放的时候需要不断下载⼆级 index ⽂件

11. #EXT-X-ENDLIST :

表示 m3u8 ⽂件的结束,live m3u8 没有该 tag。它可以在 Playlist 中任意位置出现,但是只能出现⼀个,格式如下: #EXT-X-ENDLIST

12. #EXT-X-MEDIA :被⽤来在 Playlist 中表示相同内容的不同语种/译⽂的版本,⽐如可以通过使⽤ 3个这种 tag 表示 3 种不同语⾳的⾳频,或者⽤ 2 个这个 tag 表示不同⻆度的 video。在 Playlist中,这个标签是独⽴存在的,其格式如下: #EXT-X-MEDIA:<attribute-list>

该属性列表中包含:URI、TYPE、GROUP-ID、LANGUAGE、NAME、DEFAULT、AUTOSELECT。

URI:如果没有,则表示这个 tag 描述的可选择版本在主 PlayList 的 EXT-X-STREAM-INF 中存在
TYPE:AUDIO and VIDEO
GROUP-ID:具有相同 ID 的 MEDIAtag,组成⼀组样式
LANGUAGE:identifies the primary language used in the rendition
NAME:The value is a quoted-string containing a human-readable description of the rendition. If the LANGUAGE attribute is present then this description SHOULD be inthat language
DEFAULT:YES 或是 NO,默认是 No,如果是 YES,则客户端会以这种选项来播放,除⾮⽤户⾃⼰进⾏选择
AUTOSELECT:YES 或是 NO,默认是 No,如果是 YES,则客户端会根据当前播放环境来进⾏选择(⽤户没有根据⾃⼰偏好进⾏选择的前提下)
The EXT-X-MEDIA tag appeared in version 4 of the protocol。

13. #EXT-X-STREAM-INF :指定⼀个包含多媒体信息的 media URI 作为 Playlist,⼀般做 m3u8 的嵌套使⽤,它只对紧跟后⾯的 URI 有效,格式如下: #EXT-X-STREAM-INF:<attribute-list>

常⽤的属性如下:
BANDWIDTH:带宽,必须有
PROGRAM-ID:该值是⼀个⼗进制整数,唯⼀地标识⼀个在 Playlist ⽂件范围内的特定的描述。⼀个 Playlist ⽂件中可能包含多个有相同 ID 的此 tag
CODECS:指定流的编码类型,不是必须的
RESOLUTION:分辨率
AUDIO:这个值必须和 AUDIO 类别的 "EXT-X-MEDIA" 标签中 "GROUP-ID" 属性值相匹配
VIDEO:同上

14. #EXT-X-DISCONTINUITY :当遇到该 tag 的时候说明以下属性发⽣了变化:
file format ⽂件格式
number and type of tracks 轨道
encoding parameters 编码参数
encoding sequence 编码序号
timestamp sequence 时间戳序号

15. #ZEN-TOTAL-DURATION :
表示这个 m3u8 所含 ts 的总时间⻓度

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 219,427评论 6 508
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 93,551评论 3 395
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 165,747评论 0 356
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 58,939评论 1 295
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 67,955评论 6 392
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 51,737评论 1 305
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 40,448评论 3 420
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 39,352评论 0 276
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 45,834评论 1 317
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 37,992评论 3 338
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 40,133评论 1 351
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 35,815评论 5 346
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 41,477评论 3 331
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 32,022评论 0 22
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 33,147评论 1 272
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 48,398评论 3 373
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 45,077评论 2 355

推荐阅读更多精彩内容