在写了几个avfilter之后,原本以为对ffmpeg应该算是入门了。 结果今天想对一个视频文件进行转码操作,才发现基本的视频读取,输出都搞不定。 痛定思痛,仔细研究了一下ffmpeg提供的example,总结归纳读取处理视频文件的简要思路。
在读取,处理视频文件时,以下四个结构体是非常重要的,所以放在片首提一下。
AVFormatContext
AVInputFormat / AVOutputFormat
AVCodecContext / AVCodecParameters
AVStream
AVCodec
四个结构体的包含关系大致如下:
|AVFormatContext
|
|---------> AVInputFormat / AVOutputFormat
|
|---------> AVStream
|-------> time_base (解码时不需要设置, 编码时需要用户设置)
|
|-------> AVCodecParameters|--------> codec id
|
|
|AVCodec ------------通过 codec id 关联----------------------------+
|
|
|-------------->AVCodecContext
读取/输出视频时,基本就是围绕这五个结构体来进行操作的。 而不同点在于,读取文件时,ffmpeg
会通过读取容器metadata来完成AVFormateContext
的初始化。输出文件时,我们需要根据实际情况自行封装AVFormateContext
里面的数据。封装时的数据来源,一部分来自于实际情况(例如time_base,framerate等等),另外一部分则来自于数据源。
下面分别来描述读取和输出的差异。
先看读取的大致流程:
|------------------------------------------------------loop---------------------------------------------------|
| |-------------------------------------------------------------------- |
| | | |
avformat_open_input ----------> AVFormatContext ----------> stream ----avcodec_find_decoder----> codec -------avcodec_alloc_context3-----------> codecContent ---avcodec_open2-->
| |
|------------------------------------avcodec_parameters_to_context--------------------------|
avformat_open_input
会尝试根据指定文件的metadata完成AVFormatContext
的部分初始化,如果视频源是包含header的,那么此时的AVFormatContext
数据基本都齐了。如果是不包含header的容器格式(例如MPEG),AVFormatContext
此时就没有AVStream
的数据,需要单独使用avformat_find_stream_info
来完成AVStream
的初始化。
无论怎样,待AVFormatContext
完成了初始化,就可以通过轮询AVStream
来单独处理每一个stream
数据,也就是上面的loop
。下面单拎一条stream
来聊。
解码视频只需要AVCodecContext
就可以了,从包含图可以得知根据AVCodec
可以生成AVCodecContext
,而avcodec_find_decoder
又可以生成对应的codec
。所以大致的思路就清晰了,首先通过inStream->codecpar(AVCodecParameters)->codec_id
和avcodec_find_decoder
生成指定的解码器AVCodec
, 然后通过avcodec_alloc_context3
就可以生成可以解码视频源的AVCodecContext
。
此时产生了第一个误区:生成的AVCodecContext
就可以直接解码视频! 这是错误的
现在的AVCodecContext
只是一个通用Codec
描述,没有视频源的特定信息(avcodec_parameters_to_context的代码有些长,我也没搞明白具体是哪些信息)。 所以需要调用avcodec_parameters_to_context
将inStream->codecpar
和AVCodecContext
糅合到一起(俗称merge)。这时的AVCodecContext
才能打开特定的视频文件。
最后就是使用avcodec_open2
打开AVCodecContext
并处于待机状态。
输出的流程和读取的流程相似,但又有不同。 读取读取参数较多,而输出更多的是封装参数。 下面是输出的大致流程:
|----------------------------------avcodec_parameters_from_context-----------------|
| |
stream(enc)---avcodec_find_encoder ---> codec(enc)---avcodec_alloc_context3---> codecContent(enc)----avcodec_open2---->
-----------
|
|
|
avformat_alloc_output_context2 -------> AVFormatContext --------avformat_new_stream--------> stream -------copy dec to enc---
| |
|---------------------loop--------------|
无论是读取还是输出,首要任务都是构建AVFormateContext
。有所不同的是此时(输出),我们先构建一个模板,然后往里面填值,因此使用的是avformat_alloc_output_context2
函数。
编码一个视频文件,需要的也只是一个AVCodecContext
. 但此时离生成AVCodecContext
还差很多东西。所以需要我们逐一进行准备,按照最上面的包含图,需要先生成一个AVStream
。因此调用avformat_new_stream
生成一个空AVStream
。
有了AVStream
之后,就需要将这个Stream
与具体的Codec
关联起来。 其次,根据需要我们指定avcodec_find_encoder
生成一个标准的AVCodec
,而后使用avcodec_alloc_context3
生成对应的AVCodecContext
。
第二个误区:生成的AVCodecContext
就可以直接解码视频! 这是错误的
现在生成的AVCodecContext
不能直接使用,因为还有参数是标准参数没有适配。以下参数是经常容易出错的:
width
height
framerate
time_base
sample_aspect_ratio
pix_fmt
time_base(AVSteam)
在对codecpar
和AVCodecContext
进行反向
merge. 反向指的是从AVCodecContext
读取参数填充到codecpar
中所以才需要提前设置AVCodecContext
中的参数。
最后调用avcodec_open2
处于待输出状态。
上面是读取/输出的流程,下面来补充说一下如何从视频源读数据,再写到目标视频中。
真正读取视频数据涉及到的结构体是:
AVPacket
AVFrame
一个典型的读取处理代码,看起来应该是下面的样子:
while (1){
av_read_frame (读取数据)
...
avcodec_decode_video2 (对读到的数据进行解码)
...
avcodec_encode_video2 (对数据进行编码)
...
av_interleaved_write_frame (写到文件中)
}
av_write_trailer (写metadata)
在这里也有几个误区:
第三个误区,AVPacket声明后就可用。 这是错误的
第四个误区,AVPacket time_base直接设置 经过验证,这也是错误的
以上就是今天学习的结果,希望对以后解析/输出视频能有所帮助。示例代码可以参考 https://andy-zhangtao.github.io/ffmpeg-examples