针对高效视频编码标准(HEVC)中帧内预测模式选择计算复杂度极高的问题,提出一种基于Hough变换的HEVC帧内预测模式选择快速算法,该算法可以减少对35种预测模式的遍历次数。首先,在对预测模式进行粗选(RMD)过程之前对各尺寸预测单元(PU)进行边缘检测与Hough变换;其次,采用直方图对检测出来的直线段方向角正切值进行统计分析;最后,从35种模式中选择出RMD和率失真优化(RDO)过程中较适用的候选模式集,并在VS 2008运行环境下用C++和Open CV开发应用程序。实验结果表明,所提算法在编码性能稍微有影响的情况下(码率平均升高1.02%,峰值信噪比平均下降0.035 d B),编码时间平均减少了23%。所提算法增强了编码器的实时性,适合高分辨率、大尺寸视频应用。
