从一张图片开始吧!这就是视频文件播放的一个流程图。所有的播放器都是这个原理。
比如我们的一个视频文件mp4需要播放
1、解封装格式,就是解mp4文件,得到音频流跟视频流等。
2、解码音视频,视频:h264->yuv,音频:aac->pcm等,当然还有很多其他的编码格式
3、给设备播放出去,yuv其实就对应了一张张未编码的图片,当然也可以转换为RGB显示。pcm,为编码过的音频格式,可以直接播放。
代码仓库:https://github.com/wulang150/FFmpegTest.git
FFmpeg的整体架构
libavutil:核心工具库,下面的许多其他模块都会依赖该库做一些基本的音视频处理操作。
libavformat:文件格式和协议库,封装了Protocol层和Demuxer、Muxer层,使得协议和格式对于开发者来说是透明的
libavcodec:编解码库,封装了Codec层,但是有一些Codec是具备自己的License的,FFmpeg是不会默认添加像libx264、FDK-AAC、lame等库的,但是FFmpeg就像一个平台一样,可以将其他的第三方的Codec以插件的方式添加进来,然后为开发者提供统一的接口
libavfilter:音视频滤镜库,该模块提供了包括音频特效和视频特效的处理,在使用FFmpeg的API进行编解码的过程中,直接使用该模块为音视频数据做特效处理是非常方便同时也非常高效的一种方式
libavdevice:输入输出设备库,比如,需要编译出播放声音或者视频的工具ffplay
libavresample:该模块可用于音频重采样,可以对数字音频进行声道数、数据格式、采样率等多种基本信息的转换
libswscale:该模块是将图像进行格式转换的模块,比如,可以将YUV的数据转换为RGB的数据”
libpostproc:该模块可用于进行后期处理,当我们使用AVFilter的时候需要打开该模块的开关,因为Filter中会使用到该模块的一些基础函数
FFmpeg中比较重要的一些结构体:
AVFormatContext:视频格式和协议的封装上下文
AVStream:对应流格式,存在于AVFormatContext中,如音频流、视频流、文本流等
AVCodecContext:对应的编解码信息的上下文,存在于AVStream中
AVCodec:对应具体的编解码信息,存在于AVCodecContext
AVPacket:对应编码后或解码前的数据,所以存的是编码数据
AVFrame:对应解码后或编码前的数据,所以存档是解码数据
FFmpeg中的时间问题-timebase
ffmpeg的timebse我们可以理解为单位。比如米,毫秒,秒,千克这些都是单位,但这个timebse有时候不是我们日常中能见到的单位
举个例子ffmpeg本身是以秒为基准的,1秒= 1000毫秒,那如果timebse是1:1很好理解是秒的单位,如果timebase是1:1000也很好理解是毫秒单位,但如果timebase是1:25呢,我们的常用单位就很难解释了。
在FFmpeg中两个较重要的时间单位:
1、在AVStream中的timebase,比如1:90000
2、在AVCodecContext中的timebase,比如1:15,可以以帧率的思维思考
最后它们都是要转换为秒的,因为只有转换为秒后,它们才可以相互转换
比如在AVCodecContext中,pts为15,然后timebase为1:15,那么pts转成秒就是:
15(1/15) = 1;转成AVStream中的时间,那么就是15(1/15)/(1/90000)=90000
这些后面还会具体讲到,这里大概了解下就可以了。
FFmpeg安装,编译,使用
方法一
1、网上下载源码:
www.ffmpeg.org/download.html
git clone https://git.ffmpeg.org/ffmpeg.git
2、然后进行编译,编译得配置不是参数,如果嫌麻烦,也可以参考FFmpegCompileTool-master库,已经帮你配置好了,只需要修改配置文件就可以
3、把编译后的lib跟include拖到IOS项目总使用
方法二
1、在Mac上安装ffmpeg
brew install ffmpeg
或者把ffplay也一块安装了:
brew install ffmpeg --with-ffplay 已经弃用,就换成:
brew install ffmpeg --with-sdl2
或者
brew install ffmpeg
brew install sdl2
2、去/usr/local/Cellar/ffmpeg/。获取lib跟include
最好还是都在mac上安装ffmpeg较好,对后面开发调试还是很有帮助的。
错误
把lib跟include拖入到IOS项目中,如果提示错误:
ld: symbol(s) not found for architecture arm64,基本都是ffmpeg关联的库没添加完整:
参考:
libz.tbd libbz2.tbd libiconv.tbd CoreMedia.framework
VideoToolbox.framework AudioToolbox.framework
之后的FFmpeg编程,主要以IOS为主!!