FFMPEG小白之视音频基础知识

首先,向雷霄骅致敬

必备知识:

c语言  及其  开发环境

视频播放器的原理

播放视频文件的流程:

封装格式数据(即FLV、MKV、MP4等等视频文件)

通过 解封装格式 将视频数据和音频数据进行解析

得到 音频压缩数据(aac mp3 等) 和视频压缩数据(h.264 mpeg2 等)

(需要注意的是,这些压缩数据 占用内存空间小,而视频压缩数据又称码流,不能直接用于显示)

音频

音频压缩数据 进行 音频解码 得到 音频采样数据 (即 pcm等)

同样 视频也是类似的

视频压缩数据 进行 视频解码 得到 视频像素数据(即 yuv 等)

然后,将视频像素数据 和音频采样数据 进行 视音频同步  从而呈现给我们视频和音频享受 

备注:

1.通过mediaoinfo能够看到文件的一些常用信息 比如 视频格式 音频 平均混合码率等 视频分辨率 音频采样率

2.视频封装格式中的 MPEG2-TS格式 特点:不包含文件头,由数据大小固定的ts packet组成,所以此类型的文件如果文件头丢失,也能正常播放;另一种 FLVg格式 特点:包含文件头,数据有大小不固定的tag构成,所以正因为有文件头,所以当文件开头丢失的时候就会导致不能正常播放。 

3.上面说的视频编码数据,其实是对视频像素数据(RGB YUV等)压缩成的视频码流,从而降低视频的数据量,一般如果直接用视频像素数据存储视频的话,会占用很多物理空间。 目前最常用的,就是H.264,目前90%都在使用h.264视频编码格式,而MPEG2 现在一些数字电视在使用。查看视频编码格式的软件有Elecard Stream Eye

视频编码格式

h.264编码格式

他的存储方式是将视频的画面按照单位存储,即1帧画面经过压缩编码后,存储到1个NALU单位中,但是他的压缩方法很复杂,包含了帧内预测、帧间预测、熵编码、环路滤波等环节构成。比较复杂,所以暂不深究。

H.264的优点是可以将图像数据压缩至100倍以上,即100m的图像数据可以用其压缩至1m。


h.264编码示意图1


h264编码示意图2

可见h264编码格式比较负责,她首先将视频图像进行网格划分,然后对于复杂的图像,再进行网格划分,计算获取图像的运动矢量等信息其中I帧 会把图像直接进行存储,而P帧会预测运动矢量,跟I帧进行参考,B帧跟P帧类似但做的事情更多。

音频编码数据

 作用:将音频编码数据(pcm等)压缩成音频码流,从而降低音频的数据量,但是其实不需要压缩,也能够播放。

aac目前是主流

音频编码数据

AAC存储方式是由大小不固定的ADTS构成,压缩方法比较复杂,可以将音频数据压缩10倍以上

视频像素数据(视频解码之后的数据,体积会变大100倍,像素数据就是送给显卡用于显示的数据)

作用:

保存了从屏幕左上角开始知道所有每个像素点的像素值

常见的格式:RGB24,RGB32,YUV420P,YUV422P,YUV444P(Y包含亮度信息,UA包含色度信息,YUV对色度信息采用更狠的压缩方案,从而提高压缩效率,因为人眼对亮度敏感,二队色度不太敏感uv的值只有y的1/4)

最常用的是YUV420P.

特点:视频像素数据体积很大,一般情况下1小时高兴视频的RGB24格式的数据体积为

3600*25*1920*1080*3=559.9Gbyte(假定帧率为25HZ,取样精度8bit,RGB是每个像素点占用3字节)

YUV格式像素数据查看工具是:YUV player

音频采样数据(音乐中记录声音的数据)

作用:保存了音频中的而每个采样点的值

特点:音频采样数据体积很大,一般情况下一首4分钟的pcm格式的歌曲体积为

4*60*44100*2*2=42.4MByte(假定采样率44100Hz,采样精度为16bit,立体声道)

PCM查看工具:Adobe Audition


下方是我的微信公众号,关注获取更多学习资源

image

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 211,376评论 6 491
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 90,126评论 2 385
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 156,966评论 0 347
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 56,432评论 1 283
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 65,519评论 6 385
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 49,792评论 1 290
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,933评论 3 406
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 37,701评论 0 266
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 44,143评论 1 303
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 36,488评论 2 327
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 38,626评论 1 340
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 34,292评论 4 329
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,896评论 3 313
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,742评论 0 21
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,977评论 1 265
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 46,324评论 2 360
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 43,494评论 2 348

推荐阅读更多精彩内容

  • 前言 说到视频,大家自己脑子里基本都会想起电影、电视剧、在线视频等等,也会想起一些视频格式 AVI、MP4、RMV...
    ForestSen阅读 22,854评论 10 202
  • [TOC] 音视频&流媒体 是什么促使我要写这一篇音视频入门文章?那是因为和一妹子打赌码率的概念,结果输了;对一个...
    AllenWu阅读 4,806评论 1 25
  • 好记性不如烂键盘,持续整理了一下视频里面一些基础的概念。 文件格式 封装格式 视频编解码方式H.26X 系列MPE...
    vedon_fu阅读 2,190评论 0 3
  • 换台的时候,北京电视台在播《生命缘》,我停下来,看。 相比其他真人秀,这节目从来不用刻意的制造效果,唉声叹气啊,手...
    shea阅读 478评论 0 2
  • 执子之手,共你一世风霜;吻子之眸,赠你一世深情。那一世 ,转山转水转佛塔,不为修来生 ,只为途中与你相见。 1. ...
    孙小山阅读 755评论 25 11