CN108156458B - 一种确定编码模式方法及装置 - Google Patents
一种确定编码模式方法及装置 Download PDFInfo
- Publication number
- CN108156458B CN108156458B CN201711466710.3A CN201711466710A CN108156458B CN 108156458 B CN108156458 B CN 108156458B CN 201711466710 A CN201711466710 A CN 201711466710A CN 108156458 B CN108156458 B CN 108156458B
- Authority
- CN
- China
- Prior art keywords
- distortion cost
- rate
- preset
- frame prediction
- prediction mode
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
- 238000000034 method Methods 0.000 title claims abstract description 54
- 238000012216 screening Methods 0.000 claims abstract description 32
- 238000004422 calculation algorithm Methods 0.000 claims abstract description 30
- 238000001914 filtration Methods 0.000 claims description 20
- 238000004364 calculation method Methods 0.000 claims description 11
- 238000012545 processing Methods 0.000 abstract description 6
- 230000008569 process Effects 0.000 description 14
- 238000010586 diagram Methods 0.000 description 7
- 208000037170 Delayed Emergence from Anesthesia Diseases 0.000 description 6
- 238000004891 communication Methods 0.000 description 5
- 238000005192 partition Methods 0.000 description 4
- 238000013139 quantization Methods 0.000 description 4
- 230000009471 action Effects 0.000 description 3
- 230000006835 compression Effects 0.000 description 2
- 238000007906 compression Methods 0.000 description 2
- 230000001419 dependent effect Effects 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 230000005540 biological transmission Effects 0.000 description 1
- 238000004590 computer program Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 238000000638 solvent extraction Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
- H04N19/146—Data rate or code amount at the encoder output
- H04N19/147—Data rate or code amount at the encoder output according to rate distortion criteria
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/103—Selection of coding mode or of prediction mode
- H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
- H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
- H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
- H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- Discrete Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
本申请实施例提供了一种确定编码模式的方法及装置，属于图像处理技术领域。所述方法包括：获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到，根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目，在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目，如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。采用本发明，可以提高编码效率。
Description
技术领域
本申请涉及图像处理技术领域，特别是涉及一种确定编码模式方法及装置。
背景技术
由于高分辨率拍摄设备的普及化，互联网视频量急速增长。为了高效的存储和传输高清视频，人们通常采用具有更高压缩编码效率的新一代视频编码标准对视频进行压缩，比如HEVC/H.265。
在高效视频编码中，编码器会将待编码的图像分割成编码树单元(即CTU)，然后逐个进行编码。CTU大小由编码器决定，为了最高编码效率，一般设CTU为其最大尺寸64x64。编码器通常以四叉树的形式把CTU分为编码单元(CU)，然后确定编码模式，对CU进行编码。CU可以有64x64、32x32、16x16、8x8共4种大小，一个64x64的块，可以以四叉树的形式任意分割为不同大小的CU进行编码。编码模式可以包括帧内预测模式和帧间预测模式，编码器可以选择一种帧内预测模式和/或一种帧间预测模式，对该CU进行编码。具体的，帧内预测模式中包含35种不同的预测模式，帧间预测模式包含有7种预测模式。编码器需要先计算所有可能的组合的率失真，然后选择失真率最小的一组编码模式对CU进行编码，以获得最佳的压缩编码效率。
然而，帧内预测模式中包含35种不同的预测模式，帧间预测模式包含有7种预测模式，可能的组合很多，这样，需要先计算所有可能的编码模式或编码模式组合的失真率，然后再选择失真率最小的一种编码模式或编码模式组对CU进行编码，导致编码效率较低。
发明内容
本申请实施例的目的在于提供一种确定编码模式方法及装置，以实现提高编码效率。具体技术方案如下：
第一方面，提供了一种确定编码模式的方法，所述方法包括：
获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；
根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目；
在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目；
如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述方法还包括：
如果所述最优率失真花费和所述第一数目不满足所述第一筛选条件，则根据预设的阿达玛花费算法、所述编码单元和预设的各帧内预测模式，计算所述各帧内预测模式对应的阿达玛花费；
确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、所述编码单元和所述目标帧内预测模式，计算所述目标帧内预测模式对应的率失真花费；
如果所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目，包括：
在计算出的所述各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取所述最优率失真花费对应的非零量化变换系数的第一数目。
可选的，所述方法还包括：
如果所述最优率失真花费小于第一预设阈值，且所述第一数目大于第二预设阈值，则判定所述最优率失真花费和所述第一数目满足预设的第一筛选条件。
可选的，所述方法还包括：
确定所述目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积；
如果所述第一乘积与所述第二乘积的差值，大于所述最优率失真花费，则判定所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
第二方面，提供了一种确定编码模式的装置，所述装置包括：
获取模块，用于获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；
第一计算模块，用于根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目；
第一确定模块，用于在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目；
第二确定模块，用于如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述装置还包括：
第二计算模块，用于如果所述最优率失真花费和所述第一数目不满足所述第一筛选条件，则根据预设的阿达玛花费算法、所述编码单元和预设的各帧内预测模式，计算所述各帧内预测模式对应的阿达玛花费；
第三计算模块，用于确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、所述编码单元和所述目标帧内预测模式，计算所述目标帧内预测模式对应的率失真花费；
第三确定模块，用于如果所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述第一确定模块，具体用于：
在计算出的所述各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取所述最优率失真花费对应的非零量化变换系数的第一数目。
可选的，所述装置还包括：
第一判定模块，用于如果所述最优率失真花费小于第一预设阈值，且所述第一数目大于第二预设阈值，则判定所述最优率失真花费和所述第一数目满足预设的第一筛选条件。
可选的，所述装置还包括：
第四确定模块，用于确定所述目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积；
第二判定模块，用于如果所述第一乘积与所述第二乘积的差值，大于所述最优率失真花费，则判定所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
第二方面，提供了一种编码设备，包括处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令，所述处理器被所述机器可执行指令促使：实现第一方面任一所述的方法步骤。
第二方面，提供了一种机器可读存储介质，存储有机器可执行指令，在被处理器调用和执行时，所述机器可执行指令促使所述处理器：实现第一方面任一所述的方法步骤。
本发明实施例提供的确定编码模式的方法，先获取待编码的编码单元，然后根据预设的合并模式的率失真花费算法、编码单元和预设的各帧间预测模式，计算各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目，进而在计算出的各率失真花费中，确定最优率失真花费和最优失真花费对应的非零量化变换系数的第一数目，如果最优率失真花费和第一数目满足预设的第一筛选条件，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式。基于本方案，当最优率失真花费和第一数目满足预设的第一筛选条件时，可以跳过帧内预测模式决定过程，直接将目标帧间预测模式作为编码单元的编码模式，无需计算所有可能的编码模式或编码模式组合的失真率，从而提高了编码效率。当然，实施本申请的任一产品或方法必不一定需要同时达到以上所述的所有优点。
附图说明
为了更清楚地说明本申请实施例或现有技术中的技术方案，下面将对实施例或现有技术描述中所需要使用的附图作简单地介绍，显而易见地，下面描述中的附图仅仅是本申请的一些实施例，对于本领域普通技术人员来讲，在不付出创造性劳动的前提下，还可以根据这些附图获得其他的附图。
图1为本发明实施例提供的一种确定编码模式的方法流程图；
图2为本发明实施例提供的一种确定编码模式的方法流程图；
图3为本发明实施例提供的一种确定编码模式的方法流程图；
图4为本发明实施例提供的一种确定编码模式的方法流程图；
图5为本发明实施例提供的一种帧间预测模式的示意图；
图6为本发明实施例提供的一种确定编码模式的装置结构示意图；
图7为本发明实施例提供的一种确定编码模式的装置结构示意图；
图8为本发明实施例提供的一种确定编码模式的装置结构示意图；
图9为本发明实施例提供的一种确定编码模式的装置结构示意图；
图10为本发明实施例提供的一种编码设备的结构示意图。
具体实施方式
下面将结合本申请实施例中的附图，对本申请实施例中的技术方案进行清楚、完整地描述，显然，所描述的实施例仅仅是本申请一部分实施例，而不是全部的实施例。基于本申请中的实施例，本领域普通技术人员在没有做出创造性劳动前提下所获得的所有其他实施例，都属于本申请保护的范围。
本发明实施例还提供了确定编码模式的方法，该方法应用于编码设备，该编码设备可以是终端或服务器，还可以是终端或服务器中设置的编码器。
步骤110，获取待编码的编码单元。
其中，编码单元是通过对待编码的目标图像进行划分得到。
在实施中，当需要对某图像进行编码时，编码设备可以获取待编码的图像，然后将待编码的图像分割成编码树单元(即CTU)，一般设CTU的尺寸为64x64。编码设备通常以四叉树的形式把CTU分为编码单元(CU)，然后确定编码模式，对CU进行编码。CU可以有64x64、32x32、16x16、8x8共4种大小，一个64x64的块，可以以四叉树的形式任意分割为不同大小的CU进行编码。编码模式可以包括帧内预测模式和帧间预测模式，帧内预测模式可以包含35种不同的预测模式，帧间预测模式包含有7种预测模式。其中，不同的预测模式中，对CU的划分方式不同。具体的划分方式为现有技术，本实施例不再赘述。
步骤120，根据预设的合并模式的率失真花费算法、编码单元和预设的各帧间预测模式，计算各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目。
在实施中，目前的帧间预测模式通常有7种，通过帧间预测模式，可以在其他帧中确定与该CU进行预测计算的预测块。其中，第一种模式叫合并(merge)模式，在这种模式中，当前块的MVF(MVF，包括运动向量(MV)和参考索引(refidx，指示使用那幅图片作为参考))完全拷贝于其一个空域邻居或时域邻居，且前向后向一起拷贝。其余模式包括2Nx2N、2NxN、Nx2N、2NxnU、2NxnD、nLx2N、nRx2N，如图5所示，为帧间预测模式的示意图。
针对划分出的任一CU，编码设备可以根据预设的合并模式的率失真花费算法和预设的各帧间预测模式，计算通过各帧间预测模式对该CU进行处理时的率失真花费(即帧间预测模式对应的率失真花费)，具体的处理过程可以如下：
对一个CU进行编码时，需要对该CU进行预测和变换。在对CU进行预测时，会将该CU划分为多个预测单元(即PU)，具体的划分方式有多种。同理，在对CU进行变换时，会将该CU划分为多个变换单元(即TU)，具体的划分方式同样有多种。
在计算一个CU的率失真花费时。会先选定一个对该CU进行划分的PU划分方式和一个TU划分方式、以及一个帧间预测模式，然后根据该帧间预测模式和PU划分方式，确定该CU对应的预测图像，进而将预测图像和源图像进行相减得到残差，然后根据TU划分方式对该残差执行DCT变换，然后量化得到量化系数，然后再进行反量化、反变换，进而加上预测图像，得到该CU的重构图像。编码设备可以计算源图像和重构图像之间的平方和失真(SSE)，然后把该CU的编码参数和量化系数等用熵编码设备编码，得到其码率bits。具体的，率失真花费的计算公式可以如下：
Rdcost＝SSE+λ*bits
其中，Rdcost为率失真花费，λ是一个依赖于量化参数的常数，λmode＝α×2((QP -12)/3.0)；α是一个依赖于图像类型的参数，为一个预设的常数。
编码设备还可以获取上述计算过程中的量化变换系数，并在这些量化变换系数中，确定非零量化变换系数，进而统计非零量化变换系数的数目。这样，编码设备基于各帧间预测模式进行上述计算处理，可以得到各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目。
需要说明的是，在实际中，一个CU通常会映射为3个块：即一个亮度块和两个色差块，编码设备可以通过上述计算方式，分别计算每个块的率失真花费，得到三个率失真花费，然后进行求和，得到该CU的率失真花费。
步骤130，在计算出的各率失真花费中，确定最优率失真花费和最优失真花费对应的非零量化变换系数的第一数目。
在实施中，编码设备可以在计算出的各率失真花费中，确定最优率失真花费，例如，最优率失真花费可以是数值小于预设阈值的率失真花费，或者，也可以是数值最小的率失真花费。编码设备确定最优率失真花费后，可以确定该最优率失真花费对应的帧间预测模式，进而获取该帧间预测模式对应的非零量化变换系数的数目(即第一数目)。其中，最优率失真花费可记为rdcostinter，最优率失真花费对应的非零量化变换系数的数目可记为cfnuminter。
步骤140，如果最优率失真花费和第一数目满足预设的第一筛选条件，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式。
在实施中，编码设备中可以预先存储最优编码模式的判断条件(即第一筛选条件)，该判断条件可以由技术人员根据经验设定。例如，编码设备确定最优率失真花费和最优失真花费对应的非零量化变换系数的第一数目后，可以判断最优率失真花费是否小于第一预设阈值、以及第一数目是否大于第二预设阈值，如果最优率失真花费小于第一预设阈值，且第一数目大于第二预设阈值，则可以判定最优率失真花费和第一数目满足预设的筛选条件。也即，如果rdcostinter<th0且cfnuminter>th1，则判定最优率失真花费和第一数目满足预设的第一筛选条件。其中，th0为第一预设阈值，th1为第二预设阈值，第一预设阈值和第二预设阈值可以是两个数值较小的阈值，具体的数值可以由技术人员根据经验设定。
编码设备判定最优率失真花费和第一数目满足预设的第一筛选条件后，可以跳过帧内预测模式决定过程，直接将最优率失真花费对应的目标帧间预测模式作为该CU的最优编码模式，然后根据目标帧间预测模式对该CU进行编码。如果最优率失真花费和第一数目满足预设的第一筛选条件，比如最优率失真花费大于第一预设阈值，或者第一数目小于第二预设阈值，则编码设备可以基于现有技术中的编码模式选择策略，确定最优编码模式，或者，编码设备也可以执行步骤150。
在本发明提供的又一实施例中，如图2所示，确定最优率失真花费和第一数目的处理步骤可以为：
步骤131，在计算出的各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取最优率失真花费对应的非零量化变换系数的第一数目。
在实施中，编码设备可以在计算出的各率失真花费中，数值最小的率失真花费。编码设备确定最优率失真花费后，可以确定该最优率失真花费对应的帧间预测模式(即目标帧间预测模式)，进而获取帧间预测模式对应的非零量化变换系数的数目(即第一数目)。这样，提供了一种确定最优率失真花费和第一数目的实现方式。
如图3所示，如果最优率失真花费和第一数目不满足第一筛选条件(比如最优率失真花费大于第一预设阈值，或者第一数目小于第二预设阈值)，则可以执行以下步骤：
步骤150，根据预设的阿达玛花费算法、编码单元和预设的各帧内预测模式，计算各帧内预测模式对应的阿达玛花费。
在实施中，目前的帧内预测模式通常有35种，通过帧内预测模式，可以在当前帧内确定与该CU进行预测计算的预测块。帧内预测模式属于现有技术，本实施例中不再赘述。
编码设备中还可以预先存储阿达玛花费算法。本实施例中，可以通过预设的阿达玛花费算法、CU对应的亮度块和预设的各帧内预测模式，计算各帧内预测模式对应的阿达玛花费。计算阿达玛花费的处理过程属于现有技术，本实施例仅对该处理过程进行简单介绍：首先通过一个帧内预测模式确定该CU的亮度块对应的预测块，然后和该亮度块相减，得到预测残差块，然后对预测残差块执行阿达玛变换。如果该预测残差块的宽和高都是8的倍数，那么把该预测残差块划分成若干8x8块，否则，划分成若干4x4块，接着对每个8x8块或4x4块执行阿达玛(hadamard)变换，然后将所有的变换系数的绝对值累加起来得到Ap，如果当前块是4x4，那么Ap就是4x4块的阿达玛花费，如果是8x8块，那么(Ap+2)/4就是当前8x8块的阿达玛花费，一个预测残差块的阿达玛花费是其划分出的所有4x4或8x8块的阿达玛花费的总和。
这样，编码器可以计算出每个帧内预测模式对应的阿达玛花费。
步骤160，确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、编码单元和目标帧内预测模式，计算目标帧内预测模式对应的率失真花费。
在实施中，编码器可以在计算出的阿达玛花费中，确定数值最小的阿达玛花费，进而确定该阿达玛花费对应的帧内预测模式(即目标帧内预测模式)，然后可以根据预设的平面模式的率失真花费算法、编码单元和目标帧内预测模式，计算目标帧内预测模式对应的率失真花费。其中，率失真花费的计算过程与上述率失真花费的计算过程类似，区别仅在于通过预测图像是通过目标帧内预测模式预测出的，因此，此处不再赘述。其中，目标帧内预测模式对应的率失真花费可记为rdcostprv。
步骤170，如果目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式。
在实施中，编码设备计算出目标帧内预测模式对应的率失真花费后，可以判断该率失真花费是否大于最优率失真花费，如果是，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式；否则，可以基于现有技术中的编码模式选择策略，确定最优编码模式。
需要说明的是，为了提高计算的准确度，本实施例中，编码器还可以在计算出的阿达玛花费中，确定数值小于预设阈值的阿达玛花费，从而得到多个候选帧内预测模式。如果目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则分别计算各候选帧内预测模式对应的率失真花费，然后与最优率失真花费进行比较，进而确定出数值最小的率失真花费，将该率失真花费对应的帧内预测模式作为最优编码模式。
这样，当最优率失真花费和第一数目不满足第一筛选条件时，可以通过阿达玛花费做进一步的判断是否跳过帧内预测模式选择，从而提高了编码效率。
如图4所示，方法还包括：
步骤180，确定目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积。
在实施中，编码设备可以计算的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积，然后可以用第一乘积减去第二乘积，得到差值。
步骤190，如果第一乘积与第二乘积的差值，大于最优率失真花费，则判定目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
在实施中，编码设备计算出差值后，可以判断该差值是否大于最优率失真花费，如果是，则判定目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，然后可以执行步骤190；否则，基于现有技术中的编码模式选择策略，确定最优编码模式。也即，需要满足的第二筛选条件为：
rdcostprv*scl1-lambda*scl2>rdcostinter。
其中，scl1为第一预设系数，是小于1的小数，具体的数值可以由技术人员设定，例如，scl1的取值可以为15/16；scl2为第二预设系数，scl2是一个常数，当CU宽度大于等于16时为0,8时为8；Lambda是拉格朗日参数。
本发明实施例中，先获取待编码的编码单元，然后根据预设的合并模式的率失真花费算法、编码单元和预设的各帧间预测模式，计算各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目，进而在计算出的各率失真花费中，确定最优率失真花费和最优失真花费对应的非零量化变换系数的第一数目，如果最优率失真花费和第一数目满足预设的第一筛选条件，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式。基于本方案，当最优率失真花费和第一数目满足预设的第一筛选条件时，可以跳过帧内预测模式决定过程，直接将目标帧间预测模式作为编码单元的编码模式，无需计算所有可能的编码模式或编码模式组合的失真率，从而提高了编码效率。
基于相同的技术构思，如图6所示，本申请实施例还提供了一种确定编码模式的装置，所述装置包括：
获取模块610，用于获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；
第一计算模块620，用于根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目；
第一确定模块630，用于在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目；
第二确定模块640，用于如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，如图7所示，所述装置还包括：
第二计算模块650，用于如果所述最优率失真花费和所述第一数目不满足所述第一筛选条件，则根据预设的阿达玛花费算法、所述编码单元和预设的各帧内预测模式，计算所述各帧内预测模式对应的阿达玛花费；
第三计算模块660，用于确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、所述编码单元和所述目标帧内预测模式，计算所述目标帧内预测模式对应的率失真花费；
第三确定模块670，用于如果所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述第一确定模块630，具体用于：
在计算出的所述各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取所述最优率失真花费对应的非零量化变换系数的第一数目。
可选的，如图8所示，所述装置还包括：
第一判定模块680，用于如果所述最优率失真花费小于第一预设阈值，且所述第一数目大于第二预设阈值，则判定所述最优率失真花费和所述第一数目满足预设的第一筛选条件。
可选的，如图9所示，所述装置还包括：
第四确定模块690，用于确定所述目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积；
第二判定模块6100，用于如果所述第一乘积与所述第二乘积的差值，大于所述最优率失真花费，则判定所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
本发明实施例中，先获取待编码的编码单元，然后根据预设的合并模式的率失真花费算法、编码单元和预设的各帧间预测模式，计算各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目，进而在计算出的各率失真花费中，确定最优率失真花费和最优失真花费对应的非零量化变换系数的第一数目，如果最优率失真花费和第一数目满足预设的第一筛选条件，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式。基于本方案，当最优率失真花费和第一数目满足预设的第一筛选条件时，可以跳过帧内预测模式决定过程，直接将目标帧间预测模式作为编码单元的编码模式，无需计算所有可能的编码模式或编码模式组合的失真率，从而提高了编码效率。
本发明实施例还提供了一种编码设备，如图10所示，包括处理器1001、通信接口1002、存储器1003和通信总线1004，其中，处理器1001，通信接口1002，存储器1003通过通信总线1004完成相互间的通信，
存储器1003，用于存放计算机程序；
处理器1001，用于执行存储器1003上所存放的程序时，以使该节点设备执行如下步骤，该步骤包括：
获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；
根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目；
在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目；
如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述方法还包括：
如果所述最优率失真花费和所述第一数目不满足所述第一筛选条件，则根据预设的阿达玛花费算法、所述编码单元和预设的各帧内预测模式，计算所述各帧内预测模式对应的阿达玛花费；
确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、所述编码单元和所述目标帧内预测模式，计算所述目标帧内预测模式对应的率失真花费；
如果所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
可选的，所述在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目，包括：
在计算出的所述各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取所述最优率失真花费对应的非零量化变换系数的第一数目。
可选的，所述方法还包括：
如果所述最优率失真花费小于第一预设阈值，且所述第一数目大于第二预设阈值，则判定所述最优率失真花费和所述第一数目满足预设的第一筛选条件。
可选的，所述方法还包括：
确定所述目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积；
如果所述第一乘积与所述第二乘积的差值，大于所述最优率失真花费，则判定所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
机器可读存储介质可以包括RAM(Random Access Memory，随机存取存储器)，也可以包括NVM(Non-Volatile Memory，非易失性存储器)，例如至少一个磁盘存储器。另外，机器可读存储介质还可以是至少一个位于远离前述处理器的存储装置。
上述处理器可以是通用处理器，包括CPU(Central Processing Unit，中央处理器)、NP(Network Processor，网络处理器)等；还可以是DSP(Digital Signal Processing，数字信号处理器)、ASIC(Application Specific Integrated Circuit，专用集成电路)、FPGA(Field-Programmable Gate Array，现场可编程门阵列)或者其他可编程逻辑器件、分立门或者晶体管逻辑器件、分立硬件组件。
本发明实施例中，先获取待编码的编码单元，然后根据预设的合并模式的率失真花费算法、编码单元和预设的各帧间预测模式，计算各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目，进而在计算出的各率失真花费中，确定最优率失真花费和最优失真花费对应的非零量化变换系数的第一数目，如果最优率失真花费和第一数目满足预设的第一筛选条件，则将最优率失真花费对应的目标帧间预测模式作为编码单元的编码模式。基于本方案，当最优率失真花费和第一数目满足预设的第一筛选条件时，可以跳过帧内预测模式决定过程，直接将目标帧间预测模式作为编码单元的编码模式，无需计算所有可能的编码模式或编码模式组合的失真率，从而提高了编码效率。
需要说明的是，在本文中，诸如第一和第二等之类的关系术语仅仅用来将一个实体或者操作与另一个实体或操作区分开来，而不一定要求或者暗示这些实体或操作之间存在任何这种实际的关系或者顺序。而且，术语“包括”、“包含”或者其任何其他变体意在涵盖非排他性的包含，从而使得包括一系列要素的过程、方法、物品或者设备不仅包括那些要素，而且还包括没有明确列出的其他要素，或者是还包括为这种过程、方法、物品或者设备所固有的要素。在没有更多限制的情况下，由语句“包括一个……”限定的要素，并不排除在包括所述要素的过程、方法、物品或者设备中还存在另外的相同要素。
本说明书中的各个实施例均采用相关的方式描述，各个实施例之间相同相似的部分互相参见即可，每个实施例重点说明的都是与其他实施例的不同之处。尤其，对于系统实施例而言，由于其基本相似于方法实施例，所以描述的比较简单，相关之处参见方法实施例的部分说明即可。
以上所述仅为本申请的较佳实施例而已，并非用于限定本申请的保护范围。凡在本申请的精神和原则之内所作的任何修改、等同替换、改进等，均包含在本申请的保护范围内。
Claims (10)
1.一种确定编码模式的方法，其特征在于，所述方法包括：
获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；
根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目；
在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目；
如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式；
所述方法还包括：
如果所述最优率失真花费小于第一预设阈值，且所述第一数目大于第二预设阈值，则判定所述最优率失真花费和所述第一数目满足预设的第一筛选条件。
2.根据权利要求1所述的方法，其特征在于，所述方法还包括：
如果所述最优率失真花费和所述第一数目不满足所述第一筛选条件，则根据预设的阿达玛花费算法、所述编码单元和预设的各帧内预测模式，计算所述各帧内预测模式对应的阿达玛花费；
确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、所述编码单元和所述目标帧内预测模式，计算所述目标帧内预测模式对应的率失真花费；
如果所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
3.根据权利要求1所述的方法，其特征在于，所述在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目，包括：
在计算出的所述各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取所述最优率失真花费对应的非零量化变换系数的第一数目。
4.根据权利要求2所述的方法，其特征在于，所述方法还包括：
确定所述目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积；
如果所述第一乘积与所述第二乘积的差值，大于所述最优率失真花费，则判定所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
5.一种确定编码模式的装置，其特征在于，所述装置包括：
获取模块，用于获取待编码的编码单元，所述编码单元是通过对待编码的目标图像进行划分得到；
第一计算模块，用于根据预设的合并模式的率失真花费算法、所述编码单元和预设的各帧间预测模式，计算所述各帧间预测模式对应的率失真花费、以及各率失真花费对应的非零量化变换系数的数目；
第一确定模块，用于在计算出的所述各率失真花费中，确定最优率失真花费和所述最优率失真花费对应的非零量化变换系数的第一数目；
第二确定模块，用于如果所述最优率失真花费和所述第一数目满足预设的第一筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式；
所述装置还包括：
第一判定模块，用于如果所述最优率失真花费小于第一预设阈值，且所述第一数目大于第二预设阈值，则判定所述最优率失真花费和所述第一数目满足预设的第一筛选条件。
6.根据权利要求5所述的装置，其特征在于，所述装置还包括：
第二计算模块，用于如果所述最优率失真花费和所述第一数目不满足所述第一筛选条件，则根据预设的阿达玛花费算法、所述编码单元和预设的各帧内预测模式，计算所述各帧内预测模式对应的阿达玛花费；
第三计算模块，用于确定阿达玛花费最小的目标帧内预测模式，并根据预设的平面模式的率失真花费算法、所述编码单元和所述目标帧内预测模式，计算所述目标帧内预测模式对应的率失真花费；
第三确定模块，用于如果所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件，则将所述最优率失真花费对应的目标帧间预测模式作为所述编码单元的编码模式。
7.根据权利要求5所述的装置，其特征在于，所述第一确定模块，具体用于：
在计算出的所述各率失真花费中，确定数值最小的率失真花费，得到最优率失真花费，并获取所述最优率失真花费对应的非零量化变换系数的第一数目。
8.根据权利要求6所述的装置，其特征在于，所述装置还包括：
第四确定模块，用于确定所述目标帧内预测模式的率失真花费与第一预设系数的第一乘积、以及预设的拉格朗日参数与第二预设系数的第二乘积；
第二判定模块，用于如果所述第一乘积与所述第二乘积的差值，大于所述最优率失真花费，则判定所述目标帧内预测模式对应的率失真花费满足预设的第二筛选条件。
9.一种编码设备，其特征在于，包括处理器和机器可读存储介质，所述机器可读存储介质存储有能够被所述处理器执行的机器可执行指令，所述处理器被所述机器可执行指令促使：实现权利要求1-4任一所述的方法步骤。
10.一种机器可读存储介质，其特征在于，存储有机器可执行指令，在被处理器调用和执行时，所述机器可执行指令促使所述处理器：实现权利要求1-4任一所述的方法步骤。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711466710.3A CN108156458B (zh) | 2017-12-28 | 2017-12-28 | 一种确定编码模式方法及装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| CN201711466710.3A CN108156458B (zh) | 2017-12-28 | 2017-12-28 | 一种确定编码模式方法及装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| CN108156458A CN108156458A (zh) | 2018-06-12 |
| CN108156458B true CN108156458B (zh) | 2020-04-10 |
Family
ID=62463659
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| CN201711466710.3A Active CN108156458B (zh) | 2017-12-28 | 2017-12-28 | 一种确定编码模式方法及装置 |
Country Status (1)
| Country | Link |
|---|---|
| CN (1) | CN108156458B (zh) |
Families Citing this family (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN112153385B (zh) * | 2020-11-25 | 2021-03-02 | 腾讯科技（深圳）有限公司 | 编码处理方法、装置、设备及存储介质 |
| CN114786008B (zh) * | 2022-03-07 | 2025-09-16 | 杭州未名信科科技有限公司 | 帧内预测模式的选择方法、装置、存储介质及电子设备 |
| CN114885164B (zh) * | 2022-07-12 | 2022-09-30 | 深圳比特微电子科技有限公司 | 确定帧内预测模式的方法、装置及电子设备和存储介质 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1104627A1 (en) * | 1998-06-16 | 2001-06-06 | Daewoo Electronics Co., Ltd | Method and apparatus for encoding a video signal |
| CN103873862A (zh) * | 2014-02-28 | 2014-06-18 | 北京师范大学 | 一种帧内快速编码方法及系统 |
| CN104601991A (zh) * | 2014-12-30 | 2015-05-06 | 北京奇艺世纪科技有限公司 | 一种时域预测参数的搜索方法和装置 |
| CN104754338A (zh) * | 2014-12-30 | 2015-07-01 | 北京奇艺世纪科技有限公司 | 一种帧内预测模式的选择方法和装置 |
| CN105933717A (zh) * | 2016-04-25 | 2016-09-07 | 北京奇艺世纪科技有限公司 | 一种编码单元的模式决策方法和装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US8155195B2 (en) * | 2006-04-07 | 2012-04-10 | Microsoft Corporation | Switching distortion metrics during motion estimation |
-
2017
- 2017-12-28 CN CN201711466710.3A patent/CN108156458B/zh active Active
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP1104627A1 (en) * | 1998-06-16 | 2001-06-06 | Daewoo Electronics Co., Ltd | Method and apparatus for encoding a video signal |
| CN103873862A (zh) * | 2014-02-28 | 2014-06-18 | 北京师范大学 | 一种帧内快速编码方法及系统 |
| CN104601991A (zh) * | 2014-12-30 | 2015-05-06 | 北京奇艺世纪科技有限公司 | 一种时域预测参数的搜索方法和装置 |
| CN104754338A (zh) * | 2014-12-30 | 2015-07-01 | 北京奇艺世纪科技有限公司 | 一种帧内预测模式的选择方法和装置 |
| CN105933717A (zh) * | 2016-04-25 | 2016-09-07 | 北京奇艺世纪科技有限公司 | 一种编码单元的模式决策方法和装置 |
Non-Patent Citations (1)
| Title |
|---|
| "HEVC帧内预测编码快速判决算法分析";詹晓涛;《中国有线电视》;20150731(第7期);第826页，右栏 * |
Also Published As
| Publication number | Publication date |
|---|---|
| CN108156458A (zh) | 2018-06-12 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP7695324B2 (ja) | 復元されたビデオデータにデブロッキングフィルタを適用するためのシステム及び方法 | |
| JP6715296B2 (ja) | ビデオ復号化方法及び装置とビデオ符号化方法及び装置 | |
| KR102328179B1 (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR102390452B1 (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| WO2018129322A1 (en) | Multi-type-tree framework for video coding | |
| KR20130002298A (ko) | 엔트로피 부호화/복호화 방법 및 장치 | |
| KR20180061027A (ko) | 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체 | |
| KR20130085392A (ko) | 인트라 예측 처리 속도 향상을 위한 비디오의 부호화 방법 및 장치, 비디오의 복호화 방법 및 장치 | |
| JP7448549B2 (ja) | ビデオ符号化におけるビデオブロックのための量子化パラメータを導出するシステム及び方法 | |
| KR101790671B1 (ko) | 하다마드-양자화 비용에 기반하여 율-왜곡 최적화를 수행하는 장치 및 방법 | |
| KR20150048637A (ko) | 색 성분 간 예측 방법 및 장치 | |
| KR20140113854A (ko) | 비디오의 부호화 방법 및 장치, 비디오의 복호화 방법 및 장치 | |
| CN108156458B (zh) | 一种确定编码模式方法及装置 | |
| KR20170124079A (ko) | 영상 신호 부호화/복호화 방법 및 장치 | |
| CN113994690B (zh) | 图像编码/解码方法和装置、以及存储比特流的记录介质 | |
| KR20140127385A (ko) | 부호화 유닛 분할 결정 방법 | |
| KR101603887B1 (ko) | Hevc에서의 고속 cu 결정을 통한 부호화방법 | |
| KR20140104064A (ko) | 부호화 모드 결정 방법 및 장치 | |
| CN113906754B (zh) | 图像编码/解码方法和设备 | |
| CN108322741B (zh) | 一种确定编码模式的方法、装置、编码器及可读存储介质 | |
| CN110049322B (zh) | 模式选择的方法、装置、电子设备及存储介质 | |
| CN113645465A (zh) | 一种基于hevc的帧间cu深度估计方法及装置 | |
| KR20140125463A (ko) | 영상의 고속 부호화를 위한 방법 | |
| Zhao et al. | A novel fast intra-prediction algorithm for high-efficiency video coding based on structural similarity | |
| KR20180121340A (ko) | 압축 영역에서 야간 영상의 장면 전환 검출 방법 및 장치 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| PB01 | Publication | ||
| PB01 | Publication | ||
| SE01 | Entry into force of request for substantive examination | ||
| SE01 | Entry into force of request for substantive examination | ||
| GR01 | Patent grant | ||
| GR01 | Patent grant |