【HEVC学习与研究】46、HEVC参考代码中SAO的实现

1、HM10 encoder关于SAO的初始化操作

在编码开始之前，编码器将进行与SAO有关的一些初始化设置。如在TAppEncTop::encode()函数中调用TAppEncTop::xInitLibCfg()进行与config相关的设置：

 m_cTEncTop.setLFCrossSliceBoundaryFlag( m_bLFCrossSliceBoundaryFlag );//parseCfg时设置，指定loop filter是否能跨越slice边界，默认为false

 m_cTEncTop.setUseSAO ( m_bUseSAO );//parseCfg时设置，指定SAO功能是否开启，由cfg文件指定

 m_cTEncTop.setMaxNumOffsetsPerPic (m_maxNumOffsetsPerPic);//每一个像素最大允许的偏移量，默认为2048

 m_cTEncTop.setSaoLcuBoundary (m_saoLcuBoundary);//是否使用非deblocked像素做SAO参数估计

 m_cTEncTop.setSaoLcuBasedOptimization (m_saoLcuBasedOptimization);//选择基于picture还是CTU的估计，默认选择CTU

在TEncTop::create ()中，会依据前面配置的结果进行初始化操作：

 if (m_bUseSAO)

 m_cEncSAO.setSaoLcuBoundary(getSaoLcuBoundary());

 m_cEncSAO.setSaoLcuBasedOptimization(getSaoLcuBasedOptimization());

 m_cEncSAO.setMaxNumOffsetsPerPic(getMaxNumOffsetsPerPic());

 m_cEncSAO.create( getSourceWidth(), getSourceHeight(), g_uiMaxCUWidth, g_uiMaxCUHeight );

 m_cEncSAO.createEncBuffer();

 }

前面三个函数分别实现对m_cEncSAO私有数据成员的赋值，后两个函数主要为编码器分配内存以及其他一些初始化操作。随后，在TEncGOP::init中获取SAO滤波器对象的指针：

Void TEncGOP::init ( TEncTop* pcTEncTop )

{//......

 //--Adaptive Loop filter

 m_pcSAO = pcTEncTop- getSAO();

 //......

}

2、实际进行SAO滤波操作

在TEncGOP::compressGOP函数中调用SAOProcess实现：

Void TEncSampleAdaptiveOffset::SAOProcess(SAOParam *pcSaoParam, Double dLambda)

#endif

 m_dLambdaLuma = dLambdaLuma;

 m_dLambdaChroma = dLambdaChroma;

 if(m_bUseNIF)

 m_pcPic- getPicYuvRec()- copyToPic(m_pcYuvTmp);

 m_uiSaoBitIncreaseY = max(g_bitDepthY - 10, 0);

 m_uiSaoBitIncreaseC = max(g_bitDepthC - 10, 0);

 m_iOffsetThY = 1 min(g_bitDepthY - 5, 5);

 m_iOffsetThC = 1 min(g_bitDepthC - 5, 5);

 resetSAOParam(pcSaoParam);

 if( !m_saoLcuBasedOptimization || !m_saoLcuBoundary )

 resetStats();

 Double dCostFinal = 0;

 if ( m_saoLcuBasedOptimization)

 rdoSaoUnitAll(pcSaoParam, dLambdaLuma, dLambdaChroma, depth);

 else

 pcSaoParam- bSaoFlag[0] = 1;

 pcSaoParam- bSaoFlag[1] = 0;

 dCostFinal = 0;

 Double lambdaRdo = dLambdaLuma;

 resetStats();

 getSaoStats(pcSaoParam- psSaoPart[0], 0);

 runQuadTreeDecision(pcSaoParam- psSaoPart[0], 0, dCostFinal, m_uiMaxSplitLevel, lambdaRdo, 0);

 pcSaoParam- bSaoFlag[0] = dCostFinal 0 ? 1:0;

 if(pcSaoParam- bSaoFlag[0])

 convertQT2SaoUnit(pcSaoParam, 0, 0);

 assignSaoUnitSyntax(pcSaoParam- saoLcuParam[0], pcSaoParam- psSaoPart[0], pcSaoParam- oneUnitFlag[0], 0);

 if (pcSaoParam- bSaoFlag[0])

 processSaoUnitAll( pcSaoParam- saoLcuParam[0], pcSaoParam- oneUnitFlag[0], 0);

 if (pcSaoParam- bSaoFlag[1])

 processSaoUnitAll( pcSaoParam- saoLcuParam[1], pcSaoParam- oneUnitFlag[1], 1);

 processSaoUnitAll( pcSaoParam- saoLcuParam[2], pcSaoParam- oneUnitFlag[2], 2);

}

具体的实现原理下篇继续研究


原文地址:https://www.cnblogs.com/ziyi--caolu/p/8034367.html 非常感谢原文作者，总结的很好，讲解的也很详细，学习了。
《H.264/AVC视频编解码技术详解》视频教程已经在“CSDN学院”上线，视频中详述了H.264的背景、标准协议和实现，并通过一个实战工程的形式对H.
《H.264/AVC视频编解码技术详解》视频教程已经在“CSDN学院”上线，视频中详述了H.264的背景、标准协议和实现，并通过一个实战工程的形式对H.
《H.264/AVC视频编解码技术详解》视频教程已经在“CSDN学院”上线，视频中详述了H.264的背景、标准协议和实现，并通过一个实战工程的形式对H.
《H.264/AVC视频编解码技术详解》视频教程已经在“CSDN学院”上线，视频中详述了H.264的背景、标准协议和实现，并通过一个实战工程的形式对H.
《H.264/AVC视频编解码技术详解》视频教程已经在“CSDN学院”上线，视频中详述了H.264的背景、标准协议和实现，并通过一个实战工程的形式对H.
为了有效地预测多种不同种类的内容，HEVC支持多种不同的预测方法。角度预测可以模拟多种不同方向的结构，而平面和DC模式适用于平滑和渐变区域。
【变换和量化是整个视频编码技术系列中理论性和研究性较强的一部分，本文暂时不去研究变换的原理、推导过程等，只是调试一下在参考代码中对预测残差进行变换的实现过程。
jerry.yin 毕业于上海大学通信与信息工程学院，从事流媒体和视频编解码的研究与开发工作； 研究领域包括视频编解码标准、视频处理和流媒体技术、移动互联网技术等。