基于统计分析的H．264快速模式选择算法

最终，摒弃了采用SKIP模式的某几种特征的组合作为判决条件，依然采用率失真代价来判断。但是实验中利用SKIP模式的率失真代价跟inter16×16模式的率失真代价值比较作为判决条件，即当满足RDcost (SKIP)≤RDcost(inter16×16)时，认为当前宏块的最佳模式为SKIP模式。这出于这样的假设，即在分块大小都为16×16的情况下，如果没有采用多参考帧选择、运动估计以及对残差进行编码这样非常简陋的模式的率失真代价值依然比采用了相关技术的inter16×16模式的率失真代价值还小，则说明这一宏块的细节非常少，该宏块为SKIP模式的概率应该非常大。当然不排除一种情况就是当前宏块采用SKIP模式和inter16×16模式本身失真都非常严重，远远高于其他采用更细的分块模式。此时率失真值主要由码率决定，那么由于SKIP模式的码率要低得多，从而SKIP的率失真值比inter16×16要小，导致误判。表3是经实验得到的准确度表。由该表看出，该方法(方法4)判断准确性也很高，但却没有一个漏判，这是因为此方法本身用的是率失真代价值与inter16×16的比较，符合所有模式中率失真代价值最低必然符合比inter16×16模式的代价低这一条件。因此这里采用此方法作为SKIP模式的快速判决方法。

4 基于纹理预测的inter8×8子模式快速选择
文献[3]提出一种假设：宏块的代价值随分块方向单调增减。也就是说宏块或者子块如果最佳的分块方向是纵向(inter8×16或者inter4×8)或者横向(inter16×8或者inter8×4)，那么与相应方向相符的分块方式代价值必然要小于与该最佳方向相反的分块方式的代价值，即大的分块方式的宏块代价值的比较大体反应了宏块的纹理方向。利用这一点，对inter8×8模式的选择范围进行限定，以缩小子模式选择范围。图1描述了对inter8×8子模式可选范围的确定。其中Jmode=REF_COST(mode)+MV_COST(mode)。

5 Intra模式快速选择的简化算法
采用帧内预测时，宏块可以分成intra16×16和in-tra4×4两种模式。其中intra4×4用到了9种预测模式，它的预测算法并不复杂，但是对于率失真代价的计算量却非常可观。因此，对于帧内模式，人们已经提出了很多种快速算法。单纯针对帧内模式，这些快速算法确实对编码速度的提高程度非常大。但是从整个视频序列来看，效果并不明显。因为对于P帧，从统计结果来看，in-tra模式所占的比重非常小，而运算量极大的intra4×4模式所占比重更是微乎其微。表4是各序列在P帧及I帧中intra模式所占的百分比统计。

对于I帧，由于采用的全部是intra模式，且由上表可以看出，intra4×4模式所占的比重却非常高，本可以考虑采用某种快速选择算法。但是由于I帧在整个序列中所占比重不大，通常每30帧1帧I帧。因此，改进I帧的模式选择，对于整个序列来说，同样是微乎其微。因此针对intra模式，本文提出了一种简化算法，即忽略P帧中的intra4×4模式，但为保证视频质量，保留intra16×16模式；对I帧的模式选择，采用最原始的算法。表5是采用该方法后PSNR和编码时间与JM 8．6原始算法的性能比较。由表5可看出，编码时间有了比较大的下降，PSNR下降并不明显，且算法也并不复杂。

6 综合实验结果
最后，结合上述三方面的方法进行了实验，实验结果与JM 8．6参考软件的性能比较如表6和表7。其中，I帧周期是30，起始QP值为28，启用了码率控制，编码帧数为100。

结果显示，除了运动较为剧烈的mobile序列以外，PSNR并没有明显的下降，但是编码时间下降平均达到37％左右。

7 结 语
在研究了JM 8．6参考软件的基础上，提出了基于统计与纹理预测的综合快速模式选择算法。实验数据显示，该算法对于整个图像序列编码时间平均降低了37％左右，而同时图像的峰值信躁比降低了0．02～0．08 dB，图像的质量并没有明显的下降。由于该算法对于固定背景比较多、运动对象比较少的序列具有更好的优化效果，因此更加适用于视频会议(电话)、远程视频监控等场合。