FFmpeg学习笔记001_视音频基础知识

考虑到研究方向和项目需要最近在学习视音频编解码技术，主要是在用ffmpeg这个开源库。这儿就把学习的视音频基础知识做个整理以作备。

1 视频播放器原理

播放一个视频文件的流程：



常用播放器

跨平台系列（非DirectShow框架）

VLC,Mplayer,ffplay.....

Windows系列（DireckShow框架）

完美解码，终极解码，暴风影音......

信息查看工具

综合信息查看

MediaInfo

二进制信息查看

UltraEdit

单项详细分析

封装格式：Elecard Format Analyzer

视频编码数据：Elecard Stream Eye

视频像素数据：YUV Player

音频采样数据：Adobe Audition

2 封装格式（MP4，RMVB,TS,FLV,AVI）

封装格式的作用

视频码流和音频码流按照一定的格式存储在一个文件中



封装格式分析工具

Elecard Format Analyzer

常见的封装格式

3 视频编码数据(H.264,MPEG2,VC-1)

视频编码的作用

将视频像素数据（ RGB， YUV等）压缩成为视频码流，从而降低视频的数据量。

视频编码分析工具

Elecard Stream Eye

常见的视频编码



MPEG2-TS格式

不包含文件头。数据大小固定（188Byte）的TS Packet构成。



FLV格式

包含头文件。数据由大小不固定的Tag构成。



H.264格式

数据由大小不固定的NALU构成

最常见的情况下，1个NALU存储了1帧画面的压缩编码后的数据



H.264压缩方法

比较复杂。包含了帧内预测、帧间预测、熵编码、环路滤波等环节构成。可以将图像数据压缩100倍以上。包括红色的帧I帧，蓝色的帧P帧，绿色的帧B帧。

4 音频编码数据(AAC,MP3,AC-3)

音频编码的作用

将音频采样数据(PCM等)压缩成为音频码流，从而降低音频的数据量。

常见的音频格式



AAC格式简介

数据由大小不固定的ADTS构成



AAC可以将音频数据压缩10倍以上

5 视频像素数据(YUV420,RGB)

视频像素数据作用

保存在屏幕上每个像素点的像素值

格式

常见的像素数据格式有RGB24，RGB32，YUV420，YUV422P,YUV44P等。压缩编码一般使用的是YUV格式的像素数据，最为常见的格式为YUV420P

特点

视频像素数据体积很大，一般情况下1小时高清视频的RGB24格式的数据体积为：

3600*25*1920*1080*3 = 559.9GByte

这里假定帧率为25HZ,取样精度8bit

YUV格式像素数据查看工具

YUV Player

RGB格式简介

Red、 Green、 Blue三种颜色，可以混合成世界上所有的颜色。

彩色图像中每个点，由R、 G、 B三个分量组成。

以RGB24为例，图像像素数据的存储方式如下：



从图中可以看出， RGB24依次存储了每个像素点的R、 G、 B信息。

PS： BMP文件中存储的就是RGB格式的像素数据。

YUV格式简介

相关实验表明，人眼对亮度敏感而对色度不敏感。因而可以将亮度信息和色度信息分离，并对色度信息采用更“狠”一点的压缩方案，从而提高压缩效率。YUV格式中， Y只包含亮度信息，而UV只包含色度信息。以YUV420P为例，图像像素数据的存储方式如图所示。



从图中可以看出， YUV420P首先存储了整张图像的Y信息，然后存储整张图像的U信息，最后存储了整张图像的V信息。

6 音频采样数据(PCM)

音频采样数据作用

保存了音频中每个采样点的值。

特点

音频采样数据体积很大，一般情况下一首4分钟的PCM格式的歌曲体积为：

4*60*44100*2*2=42.3MByte

PS:这里假定采样率为44100Hz，采样精度为16bit。

音频采样数据查看工具： Adobe Audition

PCM格式简介

单声道的情况下按照顺序存储每个采样点的数据。

双声道的情况下按照“左右、左右”的顺序存储每个采样点两个声道的数据。