分类： LINUX
2013-03-21 16:28:48
变换和量化
1． 引言
联合视频工作组（JVT）正在定案一个新的自然视频图像编码（压缩）标准。新标准[1]被称为H.264或称作MPEG-4 Part 10、“高级视频编码（AVS）”。这篇文档描述了标准所定义或隐含的变换和量化过程。
每个残差宏块被传输，量化并编码。之前的标准如MPEG-1，MPEG-2，MPEG-4和H.263使用了8X8离散余弦变换（DCT）作为基本变换。H.264的基本规范使用三种变换，采用何种变换取决于被编码的残差数据：（1）对宏块内部（以16X16模式预测）的亮度直流系数4X4数组进行变换。（2）对（任何宏块中的）色度直流系数2X2数组进行变换（3）对所有其它的4X4块的残差数据进行变换。如果使用了“自适应块大小变换”选项，则根据运动补偿块大小（4X8，8X4，8X8，16X8等等）选择更进一步的变换。
宏块中的数据以图Figure 1-1中所示顺序进行传输。如果宏块以16X16帧内模式编码，则标注为“-1”的块（包含每个4X4亮度块的直流系数）首先被传输。然后，亮度残差块0-15按所示顺序传输（16X16宏块内部直流系数被设为0）。块16和块17各自包含一个来自色度分量Cb和Cr的2X2排列。最后，色度残差块18-25（直流系数为0）被发送。
2. 4X4残差变换和量化（块0-15,18-25）
在运动补偿预测和帧内预测后对4X4残差数据块（在Figure 1-1中标志为0-15和18-25）使用这个变换。这个变换基于DCT但是有一些基本的区别：
（1） 它是一个整数变换（所有的操作可以用整数算术进行，没有降低精度）。
（2） 逆变换在H.264标准中已经被充分描述，如果这个描述被正确的继承，那么编码器与解码器之间不应该存在不匹配。
（3） 变换的核心部分是没有乘法的，即它只需进行加、减和移位。
（4） 一个缩放乘法（完整变换的一部分）被融入到量化器中（减少了总的乘法次数）。
变换和量化的整个过程可以使用16位整数算术来进行，并且每个系数只乘一次，没有降低精度。
2．1 从4X4 DCT推出的整数变换
对一个输入阵列X进行4X4 DCT变换：
CXC^T(即CXC’)是一个“核心”2-D变换。E是一个比例因子矩阵，并且符号⊕（圆圈中实为X号）表示(CXC’）的每个元素与E中对应位置的比例因子相乘（用点乘代替矩阵乘法）。常量a和b与之前值相等，d=c/b(近似于0.414).
为简化变换实现过程，d被近似成0.5。为了确保变换仍然正交，b也需要进行改变。所以
a=1/2 b=(2/5)^(1/2) d=1/2
矩阵C的第2行和第4行和矩阵C’的第2列和第4列以一个2为比例因子缩放（乘以2）并且后缩放矩阵E也被按比例缩小来进行补偿。（这就避免了核心变换CXC’中乘1/2的运算，使得使用整数算术运算不会降低精度）。最终的变换变成：
这次，Y的每个系数与矩阵Ei中对应位置的合适加权因子相乘，以此来进行预缩放。注意矩阵C和C’中的+/-（1/2）因子；它们可以通过一个右移来实现并且不会造成明显的精度损失，因为Y已经经过了预缩放。
正变换和逆变换都是正交的，即T^-1(T(X))=X.
2.2 量化
H.264使用了一个纯量量化器。它的定义和实现因为实际要求而变得复杂。它有以下要求：
（1）避免除法和（或）浮点算术运算。
（2）使上述的后缩放和预缩放矩阵Ef，Ei中的因子统一。
基本的正变换量化器操作如下：
Zij = round(Yij/Qstep)
Yij是上述变换的一个系数，Qstep是量化步长，Zij是一个量化系数。
标准支持的量化步长有52种，量化步长根据量化参数QP建立索引。每个量化参数对应的量化步长的值如表Table 2-1所示。注意QP每增加6，量化步长约增加一倍；QP每增加1，量化步长增加12.5%.各种各样的量化步长使得编码器可以精确，灵活的在比特率和质量之间权衡。亮度和色度的QP值可能不同，虽然两个参数的变化范围都是0-51，但QPChroma是从QPy中得来的，QPc比QPy小，QPy的值大于30。一个用户定义的QPy和QPc之间的偏移量或许可以从一个图像参数集中得到。
这里MF/2^qbits=PF/Qstep,qbits=15+floor(QP/6)
用整数算术，Equation 2-6可以用下述方法实现：
表中第二列和第三列（因子为b^2/4和ab/2的位置）的值对Equaton 2-6的结果做了些小的修改（因为只有逆量化过程被标准化，所以为提高解码器的可感质量而改变一个前置量化器是可以接受的）。
QP>5的时候，MF因子保持不变（以6为周期重复上表）但是QP每增加6，除数2^qbits增加一倍。例如，当6<=QP<=11时，qbits=16；12<=QP<=17时，qbits=17等等。
原文：http://wsyjwps1983.blog.163.com/blog/static/68009001200991434055891/
