分类： 嵌入式
2015-11-17 11:11:40
原文地址：使用8位YUV格式的视频呈现 作者：gliethttp
Gary Sullivan 和 Stephen Estrop
Microsoft Digital Media Division
适用于：
Microsoft® Windows®, Microsoft DirectShow®
摘要：本文讲述了在 Microsoft Windows 操作系统中呈现视频时推荐使用的 8 位 YUV 格式。本文讲述了可用于在 YUV 格式和 RGB 格式之间进行转换的技术，还提供了用于对 YUV 格式进行上采样的技术。本文适用于在 Windows 中使用 YUV 视频解码或呈现的所有人员。
在整个视频行业中，定义了很多 YUV 格式。本文讲述的是在 Microsoft® Windows® 操作系统中呈现视频时推荐使用的 8 位 YUV 格式。鼓励解码器供应商和显示供应商支持本文所讲述的格式。本文不对 YUV 颜色的其他用途（如静止摄影）进行描述。
本文讲述的格式全部使用每个像素位置 8 位的方式来编码 Y 频道（也称为灯光频道），并使用每样例 8 位的方式来编码每个 U 或 V 色度样例。但是，大多数 YUV 格式平均使用的每像素位数都少于 24 位，这是因为它们包含的 U 和 V 样例比 Y 样例要少。本文不讲述带有 10 位和 12 位 Y 频道的 YUV 格式。
注 在本文中，U 一词相当于 Cb，V 一词相当于 Cr。
本文包括以下主题：
| • |
在 DirectShow 中标识 YUV 格式 — 讲述了如何描述 Microsoft DirectShow® YUV 格式类型。 |
| • |
YUV 采样 — 讲述了一些最常用的 YUV 采样技术。 |
| • |
表面定义 — 讲述了推荐的 YUV 格式。 |
| • |
颜色空间和色度采样率转换 — 提供了一些在 YUV 和 RGB 格式之间进行转换的指南，以及在不同 YUV 格式之间进行转换的指南。 |
| • |
其他信息提供了其他信息。 |
本文讲述的每种 YUV 格式都指定了一个 FOURCC 码。FOURCC 码是一个 32 位、不带正负号的整数，它是通过串联四个 ASCII 字符创建而成的。
有很多 C/C++ 宏可使得在源代码中声明 FOURCC 值变得更加简单。例如，MAKEFOURCC 宏是在 Mmsystem.h 中声明的，FCC 宏则是在 Aviriff.h 中声明的。请按照下列方式使用这些宏：
DWORD fccYUY2 = MAKEFOURCC('Y','U','Y','2');
DWORD fccYUY2 = FCC('YUY2');
只需通过调转字符的顺序，您还可以将 FOURCC 码直接声明为字符文本。例如：
DWORD fccYUY2 = '2YUY'; // Declares the FOURCC 'YUY2'
因为 Windows 操作系统使用的是 little-endian 体系结构，所以调转顺序是必需的。“Y”= 0x59，“U”= 0x55，“2”= 0x32，所以“2YUY”为 0x32595559。
在 DirectShow 中，格式是由一个主类型全局唯一标识符 (GUID) 和一个子类型 GUID 标识的。计算机视频格式的主类型总是 MEDIATYPE_Video。子类型则可以通过将 FOURCC 码与 GUID 进行映射的方式来构造，如下所示：
XXXXXXXX-0000-0010-8000-00AA00389B71
其中 XXXXXXXX 为 FOURCC 码。因此，YUY2 的子类型 GUID 为：
32595559-0000-0010-8000-00AA00389B71
很多这样的 GUID 都已经在头文件 Uuids.h 中进行了定义。例如，YUY2 子类型被定义为 MEDIASUBTYPE_YUY2。DirectShow 基类库还提供了一个帮助器类 FOURCCMap，该类可用于将 FOURCC 码转换为 GUID 值。FOURCCMap 构造函数采用 FOURCC 码作为输入参数。然后，您可以将 FOURCCMap 对象强制转换为相应的 GUID：
FOURCCMap fccMap(FCC('YUY2'));
GUID g1 = (GUID)fccMap;
// Equivalent:
GUID g2 = (GUID)FOURCCMap(FCC('YUY2'));
YUV 的优点之一是，色度频道的采样率可比 Y 频道低，同时不会明显降低视觉质量。有一种表示法可用来描述 U 和 V 与 Y 的采样频率比例，这个表示法称为 A:B:C 表示法：
| • |
4:4:4 表示色度频道没有下采样。 |
| • |
4:2:2 表示 2:1 的水平下采样，没有垂直下采样。对于每两个 U 样例或 V 样例，每个扫描行都包含四个 Y 样例。 |
| • |
4:2:0 表示 2:1 的水平下采样，2:1 的垂直下采样。 |
| • |
4:1:1 表示 4:1 的水平下采样，没有垂直下采样。对于每个 U 样例或 V 样例，每个扫描行都包含四个 Y 样例。与其他格式相比，4:1:1 采样不太常用，本文不对其进行详细讨论。 |
图 1 显示了 4:4:4 图片中使用的采样网格。灯光样例用叉来表示，色度样例则用圈表示。
图 1. YUV 4:4:4 样例位置
4:2:2 采样的这种主要形式在 ITU-R Recommendation BT.601 中进行了定义。图 2 显示了此标准定义的采样网格。
图 2. YUV 4:2:2 样例位置
4:2:0 采样有两种常见的变化形式。其中一种形式用于 MPEG-2 视频，另一种形式用于 MPEG-1 以及 ITU-T recommendations H.261 和 H.263。图 3 显示了 MPEG-1 方案中使用的采样网格，图 4 显示了 MPEG-2 方案中使用的采样网格。
图 3. YUV 4:2:0 样例位置（MPEG-1 方案）
图 4. YUV 4:2:0 样例位置（MPEG-2 方案）
与 MPEG-1 方案相比，在 MPEG-2 方案与为 4:2:2 和 4:4:4 格式定义的采样网格之间进行转换更简单一些。因此，在 Windows 中首选 MPEG-2 方案，应该考虑将其作为 4:2:0 格式的默认转换方案。
本节讲述推荐用于视频呈现的 8 位 YUV 格式。这些格式可以分为几个类别：
| • |
4:4:4 格式，每像素 32 位 |
| • |
4:2:2 格式，每像素 16 位 |
| • |
4:2:0 格式，每像素 16 位 |
| • |
4:2:0 格式，每像素 12 位 |
首先，您应该理解下列概念，这样才能理解接下来的内容：
| • |
表面原点。对于本文讲述的 YUV 格式，原点 (0,0) 总是位于表面的左上角。 |
| • |
跨距。表面的跨距，有时也称为间距，指的是表面的宽度，以字节数表示。对于一个表面原点位于左上角的表面来说，跨距总是正数。 |
| • |
对齐。表面的对齐是根据图形显示驱动程序的不同而定的。表面始终应该 DWORD 对齐，就是说，表面中的各个行肯定都是从 32 位 (DWORD) 边界开始的。对齐可以大于 32 位，但具体取决于硬件的需求。 |
| • |
打包格式与平面格式。YUV 格式可以分为打包 格式和平面 格式。在打包格式中，Y、U 和 V 组件存储在一个数组中。像素被组织到了一些巨像素组中，巨像素组的布局取决于格式。在平面格式中，Y、U 和 V 组件作为三个单独的平面进行存储。 |
4:4:4 格式，每像素 32 位
推荐一个 4:4:4 格式，FOURCC 码为 AYUV。这是一个打包格式，其中每个像素都被编码为四个连续字节，其组织顺序如下所示。
图 5. AYUV 内存布局
标记了 A 的字节包含 alpha 的值。
4:2:2 格式，每像素 16 位
支持两个 4:2:2 格式，FOURCC 码如下：
| • |
YUY2 |
| • |
UYVY |
两个都是打包格式，其中每个巨像素都是编码为四个连续字节的两个像素。这样会使得色度水平下采样乘以系数 2。
YUY2
在 YUY2 格式中，数据可被视为一个不带正负号的 char 值组成的数组，其中第一个字节包含第一个 Y 样例，第二个字节包含第一个 U (Cb) 样例，第三个字节包含第二个 Y 样例，第四个字节包含第一个 V (Cr) 样例，如图 6 所示。
图 6. YUY2 内存布局
如果该图像被看作由两个 little-endian WORD 值组成的数组，则第一个 WORD 在最低有效位 (LSB) 中包含 Y0，在最高有效位 (MSB) 中包含 U。第二个 WORD 在 LSB 中包含 Y1，在 MSB 中包含 V。
YUY2 是用于 Microsoft DirectX® Video Acceleration (DirectX VA) 的首选 4:2:2 像素格式。预期它会成为支持 4:2:2 视频的 DirectX VA 加速器的中期要求。
UYVY
此格式与 YUY2 相同，只是字节顺序是与之相反的 — 就是说，色度字节和灯光字节是翻转的（图 7）。如果该图像被看作由两个 little-endian WORD 值组成的数组，则第一个 WORD 在 LSB 中包含 U，在 MSB 中包含 Y0，第二个 WORD 在 LSB 中包含 V，在 MSB 中包含 Y1。
图 7. UYVY 内存布局
4:2:0 格式，每像素 16 位
推荐两个 4:2:0 每像素 16 位格式，FOURCC 码如下：
| • |
IMC1 |
| • |
IMC3 |
两个 FOURCC 码都是平面格式。色度频道在水平方向和垂直方向上都要以系数 2 来进行再次采样。
IMC1
所有 Y 样例都会作为不带正负号的 char 值组成的数组首先显示在内存中。后面跟着所有 V (Cr) 样例，然后是所有 U (Cb) 样例。V 和 U 平面与 Y 平面具有相同的跨距，从而生成如图 8 所示的内存的未使用区域。
图 8. IMC1 内存布局
IMC3
此格式与 IMC1 相同，只是 U 和 V 平面进行了交换：
图 9. IMC3 内存布局
4:2:0 格式，每像素 12 位
推荐四个 4:2:0 每像素 12 位格式，FOURCC 码如下：
| • |
IMC2 |
| • |
IMC4 |
| • |
YV12 |
| • |
NV12 |
在所有这些格式中，色度频道在水平方向和垂直方向上都要以系数 2 来进行再次采样。
IMC2
此格式与 IMC1 相同，只是 V (Cr) 和 U (Cb) 行在半跨距边界处进行了交错。换句话说，就是色度区域中的每个完整跨距行都以一行 V 样例开始，然后是一行在下一个半跨距边界处开始的 U 样例（图 10）。此布局与 IMC1 相比，能够更加高效地利用地址空间。它的色度地址空间缩小了一半，因此整体地址空间缩小了 25%。在各个 4:2:0 格式中，IMC2 是第二首选格式，排在 NV12 之后。
图 10. IMC2 内存布局
IMC4
此格式与 IMC2 相同，只是 U (Cb) 和 V (Cr) 行进行了交换：
图 11. IMC4 内存布局
YV12
所有 Y 样例都会作为不带正负号的 char 值组成的数组首先显示在内存中。此数组后面紧接着所有 V (Cr) 样例。V 平面的跨距为 Y 平面跨距的一半，V 平面包含的行为 Y 平面包含行的一半。V 平面后面紧接着所有 U (Cb) 样例，它的跨距和行数与 V 平面相同（图 12）。
图 12. YV12 内存布局
NV12
所有 Y 样例都会作为由不带正负号的 char 值组成的数组首先显示在内存中，并且行数为偶数。Y 平面后面紧接着一个由不带正负号的 char 值组成的数组，其中包含了打包的 U (Cb) 和 V (Cr) 样例，如图 13 所示。当组合的 U-V 数组被视为一个由 little-endian WORD 值组成的数组时，LSB 包含 U 值，MSB 包含 V 值。NV12 是用于 DirectX VA 的首选 4:2:0 像素格式。预期它会成为支持 4:2:0 视频的 DirectX VA 加速器的中期要求。
图 13. NV12 内存布局
本节提供了在 YUV 和 RGB 之间进行转换的指南，以及在某些不同 YUV 格式之间进行转换的指南。在本节中，我们会以两个 RGB 编码方案为例：8 位计算机 RGB 和 studio 视频 RGB，前者也称为 sRGB 或“全范围”RGB，后者也称为“带有头空间和脚空间的 RGB”。这两个方案的定义如下：
| • |
计算机 RGB 对于每个红色、绿色和蓝色样例都使用 8 位。黑色表示为 R = G = B = 0，白色则表示为 R = G = B = 255。 |
| • |
Studio 视频 RGB 对于每个红色、绿色和蓝色样例使用一定的位数，即 N 位，其中 N 为 8 或更大的数字。Studio 视频 RGB 使用的缩放系数与计算机 RGB 使用的缩放系数不同，它具有一个偏移量。黑色表示为 R = G = B = 16*2N-8，白色则表示为 R = G = B = 235*2N-8。但是，实际的值可能不在此范围之内。 |
Studio 视频 RGB 是 Windows 中视频的首选 RGB 定义，而计算机 RGB 则是非视频应用的首选 RGB 定义。在这两种形式的 RGB 中，色度座标都与在 RGB 原色定义的 ITU-R BT.709 中指定的一样。R、G 和 B 的 (x,y) 座标分别为 (0.64, 0.33)、(0.30, 0.60) 和 (0.15, 0.06)。基准白色为 D65，座标为 (0.3127, 0.3290)。标称灰度系数为 1/0.45（大约为 2.2），精确的灰度系数在 ITU-R BT.709 中进行了详细定义。
RGB 和 4:4:4 YUV 之间的转换
我们首先讲述 RGB 和 4:4:4 YUV 之间的转换。要将 4:2:0 或 4:2:2 YUV 转换为 RGB，我们建议首先将 YUV 数据转换为 4:4:4 YUV，然后再将 4:4:4 YUV 转换为 RGB。AYUV 格式是一个 4:4:4 格式，它对于每个 Y、U 和 V 样例都使用 8 位。对于某些应用，还可以使用每样例多于 8 位的位数定义 YUV。
对于数字视频，定义了从 RGB 到两个主要 YUV 的转换。这两个转换都基于称为 ITU-R Recommendation BT.709 的规范。第一个转换是 BT.709 中定义用于 50-Hz 的较早的 YUV 格式。它与在 ITU-R Recommendation BT.601 中指定的关系相同， ITU-R Recommendation BT.601 也被称为它的旧名称 CCIR 601。这种格式应该被视为用于标准定义 TV 分辨率 (720 x 576) 和更低分辨率视频的首选 YUV 格式。它的特征由下面两个常量 Kr 和 Kb 的值来定义：
Kr = 0.299
Kb = 0.114
第二个转换为 BT.709 中定义用于 60-Hz 的较新 YUV 格式，应该被视为用于高于 SDTV 的视频分辨率的首选格式。它的特征由下面两个不同的常量值来定义：
Kr = 0.2126
Kb = 0.0722
从 RGB 到 YUV 转换的定义以下列内容开始：
L = Kr * R + Kb * B + (1 – Kr – Kb) * G
然后，按照下列方式获得 YUV 值：
Y = floor(2^(M-8) * (219*(L–Z)/S + 16) + 0.5)
U = clip3(0, 2^M-1, floor(2^(M-8) * (112*(B-L) / ((1-Kb)*S) + 128) + 0.5))
V = clip3(0, 2^M-1, floor(2^(M-8) * (112*(R-L) / ((1-Kr)*S) + 128) + 0.5))
其中
| • |
M 为每个 YUV 样例的位数 (M >= 8)。 |
| • |
Z 为黑电平变量。对于计算机 RGB，Z 等于 0。对于 studio 视频 RGB，Z 等于 16*2N-8，其中 N 为每个 RGB 样例的位数 (N >= 8)。 |
| • |
S 为缩放变量。对于计算机 RGB，S 等于 255。对于 studio 视频 RGB，S 等于 219*2N-8。 |
函数 floor(x) 返回大于或等于 x 的最大整数。函数 clip3(x, y, z) 的定义如下所示：
clip3(x, y, z) = ((z < x) ? x : ((z > y) ? y : z))
Y 样例表示亮度，U 和 V 样例分别表示偏向蓝色和红色的颜色偏差。Y 的标称范围为 16*2M-8 到 235*2M-8。黑色表示为 16*2M-8，白色表示为 235*2M-8。U 和 V 的标称范围为 16*2M-8 到 240*2M-8，值 128*2M-8 表示中性色度。但是，实际的值可能不在这些范围之内。
对于 studio 视频 RGB 形式的输入数据，要使得 U 和 V 值保持在 0 到 2M-1 范围之内，必需进行剪辑操作。如果输入为计算机 RGB，则不需要剪辑操作，这是因为转换公式不会生成超出此范围的值。
这些都是精确的公式，没有近似值。本文后面的所有内容均派生自这些公式。
| • |
示例：将 RGB888 转换为 YUV 4:4:4 |
| • |
示例：将 8 位 YUV 转换为 RGB888 |
| • |
将 4:2:0 YUV 转换为 4:2:2 YUV |
| • |
将 4:2:2 YUV 转换为 4:4:4 YUV |
| • |
将 4:2:0 YUV 转换为 4:4:4 YUV |
示例：将 RGB888 转换为 YUV 4:4:4
在输入为计算机 RGB，输出为 8 位 BT.601 YUV 的情况下，我们相信前面一节中给出的公式可以按照下列公式进行合理近似计算：
Y = ( ( 66 * R + 129 * G + 25 * B + 128) >> 8) + 16
U = ( ( -38 * R - 74 * G + 112 * B + 128) >> 8) + 128
V = ( ( 112 * R - 94 * G - 18 * B + 128) >> 8) + 128
这些公式使用精确度不大于 8 位（不带正负号）的系数计算出 8 位结果。中间结果需要最多 16 位的精确度。
示例：将 8 位 YUV 转换为 RGB888
从原始的 RGB 到 YUV 公式，您可以为 YUV 的 8 位 BT.601 定义派生出下列关系：
Y = round( 0.256788 * R + 0.504129 * G + 0.097906 * B) + 16
U = round(-0.148223 * R - 0.290993 * G + 0.439216 * B) + 128
V = round( 0.439216 * R - 0.367788 * G - 0.071427 * B) + 128
因此，假设：
C = Y - 16
D = U - 128
E = V - 128
将 YUV 转换为计算机 RGB 的公式可以按照下列方式进行派生：
R = clip( round( 1.164383 * C + 1.596027 * E ) )
G = clip( round( 1.164383 * C - (0.391762 * D) - (0.812968 * E) ) )
B = clip( round( 1.164383 * C + 2.017232 * D ) )
其中 clip() 表示剪辑为范围 [0..255]。这些公式可以由下列公式进行合理近似计算：
R = clip(( 298 * C + 409 * E + 128) >> 8)
G = clip(( 298 * C - 100 * D - 208 * E + 128) >> 8)
B = clip(( 298 * C + 516 * D + 128) >> 8)
这些公式使用精确度必需大于 8 位的一些系数计算出每个 8 位结果，中间结果需要多于 16 位的精确度。
将 4:2:0 YUV 转换为 4:2:2 YUV
将 4:2:0 YUV 转换为 4:2:2 YUV 需要系数为 2 的垂直上转换。本节讲述了一个执行上转换的方法示例。该方法假设视频图片为逐行扫描。
注 4:2:0 到 4:2:2 隔行扫描转换过程会出现不常见的问题，难以实现。本文不会对转换从 4:2:0 到 4:2:2 的隔行扫描时出现的问题进行解决。
让输入色度样例的每个垂直行都成为一个数组 Cin[]，其范围为从 0 到 N - 1。输出图像上相应的垂直行则会成为数组 Cout[]，其范围为从 0 到 2N - 1。要转换每个垂直行，请执行下列过程：
Cout[0] = Cin[0];
Cout[1] = clip((9 * (Cin[0] + Cin[1]) – (Cin[0] + Cin[2]) + 8) >> 4);
Cout[2] = Cin[1];
Cout[3] = clip((9 * (Cin[1] + Cin[2]) - (Cin[0] + Cin[3]) + 8) >> 4);
Cout[4] = Cin[2]
Cout[5] = clip((9 * (Cin[2] + Cin[3]) - (Cin[1] + Cin[4]) + 8) >> 4);
...
Cout[2*i] = Cin[i]
Cout[2*i+1] = clip((9 * (Cin[i] + Cin[i+1]) - (Cin[i-1] + Cin[i+2]) + 8) >> 4);
...
Cout[2*N-3] = clip((9 * (Cin[N-2] + Cin[N-1]) - (Cin[N-3] + Cin[N-1]) + 8) >> 4);
Cout[2*N-2] = Cin[N-1];
Cout[2*N-1] = clip((9 * (Cin[N-1] + Cin[N-1]) - (Cin[N-2] + Cin[N-1]) + 8) >> 4);
其中 clip() 表示剪辑范围为 [0..255]。
注 用于处理边缘的等式在计算上可以进行简化。这些等式以这种形式显示，是为了说明图片边缘的附着效果。
实际上，这种方法会通过在四个相邻像素上插入曲线，并趋向两个最近的像素值进行加权，来计算每个缺少的值（图 14）。此示例中使用的这个特定插入方法使用一个众所周知的方法来计算半整数位置缺少的样例，这个方法称为 Catmull-Rom 插入，也称为立方回旋插入。
图 14. 4:2:0 到 4:2:2 上采样
对于信号处理过程，理想情况下，垂直上转换应该包括一个相移补偿，以将 4:2:0 样例行位置和每隔一个 4:2:2 样例行位置之间的半像素垂直偏移量（与输出 4:2:2 采样网格相比较）考虑在内。但是，引入此偏移量会提高生成样例所需的处理量，并且会导致无法从上采样 4:2:2 图像重新构造原始的 4:2:0 样例。引入此偏移量还会导致无法将视频直接解码到 4:2:2 表面，也就无法将这些表面用作解码流中后续图片的参考图片。因此，此处提供的这种方法不会考虑样例的精确垂直对齐。这样做在合理的高图片分辨率下可能不会 影响视觉效果。
如果您首先从一个 4:2:0 视频开始，并且该视频使用在 H.261、H.263 和 MPEG-1 视频中定义的采样网格，输出 4:2:2 色度样例的相也会相对于灯光采样网格间隔而产生半个像素的水平 偏移量（相对于 4:2:2 色度采样网格间隔则为四分之一像素偏移量）。但是，4:2:0 视频的 MPEG-2 形式在 PC 上可能更经常使用，不会出现上述问题。而且，这种偏差在合理的高图片分辨率下可能不会影响视觉效果。尝试更正此问题会产生与垂直相偏移相同种类的问题。
将 4:2:2 YUV 转换为 4:4:4 YUV
将 4:2:2 YUV 转换为 4:4:4 YUV 需要系数为 2 的水平上转换。前面讲述的用于垂直上转换的方法也适用于水平上转换。对于 MPEG-2 和 ITU-R BT.601 视频，此方法会生成带有正确相对齐的样例。
将 4:2:0 YUV 转换为 4:4:4 YUV
要将 4:2:0 YUV 转换为 4:4:4 YUV，按照前面讲述的两个方法进行操作即可。首先将 4:2:0 图像转换为 4:2:2，然后将 4:2:2 图像转换为 4:4:4。您还可以切换两个上转换过程的顺序，因为操作顺序对于结果的视觉质量不会产生真正的影响。