WO2017131475A1 - 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치 - Google Patents

예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치 Download PDF

Info

Publication number
WO2017131475A1
WO2017131475A1 PCT/KR2017/000967 KR2017000967W WO2017131475A1 WO 2017131475 A1 WO2017131475 A1 WO 2017131475A1 KR 2017000967 W KR2017000967 W KR 2017000967W WO 2017131475 A1 WO2017131475 A1 WO 2017131475A1
Authority
WO
WIPO (PCT)
Prior art keywords
prediction
block
current block
reconstructed
mode
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/KR2017/000967
Other languages
English (en)
French (fr)
Inventor
고현석
임성창
강정원
이진호
전동산
김휘용
전병우
김남욱
전승수
최진수
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Electronics and Telecommunications Research Institute ETRI
Sungkyunkwan University
Original Assignee
Electronics and Telecommunications Research Institute ETRI
Sungkyunkwan University
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from KR1020170012161A external-priority patent/KR20170089778A/ko
Application filed by Electronics and Telecommunications Research Institute ETRI, Sungkyunkwan University filed Critical Electronics and Telecommunications Research Institute ETRI
Priority to CN202211137157.XA priority Critical patent/CN115460410B/zh
Priority to CN202211136616.2A priority patent/CN115460407B/zh
Priority to CN202211136485.8A priority patent/CN115442614B/zh
Priority to CN202211136906.7A priority patent/CN115460409B/zh
Priority to CN202211136714.6A priority patent/CN115460408A/zh
Priority to CN201780008673.3A priority patent/CN108605139B/zh
Publication of WO2017131475A1 publication Critical patent/WO2017131475A1/ko
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/33—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability in the spatial domain
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques

Definitions

  • An embodiment may provide a method and apparatus for performing a second prediction selectively in a direction of a first prediction mode with respect to a prediction error according to the first prediction.
  • the first prediction may be a prediction for a portion of the current block except for the portion.
  • a unit may be an area generated by division of one image.
  • One image may be divided into a plurality of units.
  • a predefined process for the unit may be performed according to the type of the unit.
  • the type of unit may be classified into a macro unit, a coding unit (CU), a prediction unit (PU), a transform unit (TU), and the like.
  • One unit may be further divided into subunits having a smaller size than the unit.
  • the highest node may correspond to the first unit that is not split.
  • the highest node may be referred to as a root node.
  • the highest node may have a minimum depth value. At this time, the highest node may have a depth of level 0.
  • the encoding apparatus 100 may encode the input image in an intra mode and / or an inter mode.
  • the input image may be referred to as a current image that is a target of current encoding.
  • the entropy decoder 150 may generate a bitstream by performing entropy encoding according to a probability distribution based on the values calculated by the quantizer 140 and / or encoding parameter values calculated in the encoding process. .
  • the entropy decoder 150 may output the generated bitstream.
  • the encoded current image may be used as a reference image with respect to other image (s) to be processed later. Therefore, the encoding apparatus 100 may decode the encoded current image again and store the decoded image as a reference image. Inverse quantization and inverse transform on the encoded current image may be processed for decoding.
  • the restored block may pass through the filter unit 180.
  • the filter unit 180 may apply at least one or more of a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter (ALF) to the reconstructed block or the reconstructed picture. have.
  • the filter unit 180 may be referred to as an adaptive in-loop filter.
  • the deblocking filter may remove block distortion generated at boundaries between blocks.
  • the SAO may add an appropriate offset value to the pixel value to compensate for coding errors.
  • the ALF may perform filtering based on a value obtained by comparing the reconstructed image and the original image.
  • the reconstructed block that has passed through the filter unit 180 may be stored in the reference picture buffer 190.
  • FIG. 5 is a diagram illustrating a form of a transform unit (TU) that may be included in a coding unit (CU).
  • TU transform unit
  • CU coding unit
  • a 64x64 coding tree unit may be split into a plurality of smaller CUs by a recursive quad-tree structure.
  • One CU may be divided into four CUs having the same sizes.
  • CUs may be recursively split, and each CU may have a quad tree structure.
  • the number of intra prediction modes may differ depending on the type of color component.
  • the number of prediction modes may vary depending on whether the color component is a luma signal or a chroma signal.
  • FIG. 7 is a diagram for describing a position of a reference sample used in an intra prediction process.
  • the lower left reference samples 731, the left reference samples 733, the upper reference samples 737, and the upper right reference samples 739 may each be N pieces.
  • the encoding apparatus 100 and the decoding apparatus 200 may perform prediction and / or motion compensation on the encoding target unit and the decoding target unit.
  • the encoding apparatus 100 or the decoding apparatus 200 may perform prediction and / or motion compensation by using the reconstructed motion information of the neighboring unit as the motion information of the encoding target unit or the decoding target unit.
  • the encoding target unit or the decoding target unit may mean a prediction unit and / or a prediction unit partition.
  • Inter prediction may be performed using a reference picture and motion information.
  • inter prediction may use the skip mode described above.
  • the encoding apparatus 100 and the decoding apparatus 200 may use encoding information and / or decoding efficiency by using motion information of a restored neighboring block and / or motion information of a collocated block (col block). Can improve.
  • the call block may be a block corresponding to the current block in a collocated picture (col picture).
  • each of the encoding apparatus 100 and the decoding apparatus 200 may predict the motion vector candidate using the motion vector of the reconstructed neighboring block and / or the motion vector of the call block. You can create a list. The motion vector of the reconstructed neighboring block and / or the motion vector of the collocated block may be used as a prediction motion vector candidate.
  • the encoding apparatus 100 may calculate a motion vector difference (MVD) between the motion vector and the predictive motion vector of the current block, and may encode the MVD.
  • the bitstream may include encoded MVD.
  • the MVD may be transmitted from the encoding apparatus 100 to the decoding apparatus 200 through a bitstream.
  • the decoding apparatus 200 may decode the received MVD.
  • the decoding apparatus 200 may derive the motion vector of the current block through the sum of the decoded MVD and the predictive motion vector.
  • the bitstream may include a reference picture index and the like indicating the reference picture.
  • the reference picture index may be transmitted from the encoding apparatus 100 to the decoding apparatus 200 through a bitstream.
  • the decoding apparatus 200 may predict the motion vector of the current block by using the motion information of the neighboring block, and may derive the motion vector of the current block by using the predicted motion vector and the motion vector difference.
  • the decoding apparatus 200 may generate a prediction block for the current block based on the derived motion vector and the reference picture index information.
  • Merge may mean merging of motions for a plurality of blocks. Merge may mean applying motion information of one block to other blocks.
  • each of the encoding apparatus 100 and the decoding apparatus 200 may generate a merge candidate list using the motion information of the reconstructed neighboring block and / or the motion information of the call block.
  • the motion information may include at least one of 1) a motion vector, 2) an index for a reference image, and 3) a prediction direction.
  • the prediction direction may be unidirectional or bidirectional.
  • the residual block may be the difference between the current block and the prediction block.
  • the residual block may be generated based on the difference between the current block and the prediction block.
  • a block that is the target of the first prediction and a block that is the target of the second prediction may be different from each other.
  • the "block to be predicted” may mean to which block the "prediction” generates a prediction block.
  • the information related to the prediction may include selected part information indicating a selected part to which the second prediction is applied among the two parts generated by the division of the current block.
  • the prediction unit may perform first prediction on each prediction mode of the plurality of prediction modes to find a prediction mode of the first prediction that is optimal for encoding the current block.
  • step 1310 may be performed for each prediction mode of the plurality of prediction modes.
  • the residual block of the current block may be a block indicated by the first prediction error.
  • the first prediction error may be provided as a residual block.
  • the prediction unit may determine whether to perform the second prediction based on the predefined condition.
  • second prediction may be performed for each of the portions generated by the split.
  • the prediction unit may calculate the rate-distortion cost of the second prediction of the first portion using the second prediction error of the first portion.
  • the prediction unit may set a value of the second prediction usage information to indicate that the second prediction usage information uses the second prediction.
  • the reconstructed block generator may generate the reconstructed block by adding the first prediction signal for the remaining part to the reconstructed residual signal.
  • the first prediction signal may be a signal generated by the first prediction for the remaining part.
  • the reconstructed block may be a block generated by the reconstructed residual block, the first prediction block, and the second prediction block.
  • the reconstructed block generator may generate the reconstructed first residual signal by adding the reconstructed residual signal and the second prediction signal.
  • the reconstructed block generator may generate the reconstructed block by adding the reconstructed first residual signal and the first prediction signal.
  • the reconstructed block generator may generate a second prediction signal by performing a second prediction.
  • the value of the selected portion information may indicate a portion of the two portions to which the second prediction is applied. If the value of the selected portion information is "0", the selected portion may be the portion S1 described above with reference to FIG. 11. If the value of the selected portion information is "1", the selected portion may be the portion S2 described above with reference to FIG. 11.
  • the selected part to which the first prediction is applied and the remaining part to which the second prediction is applied may be separated.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

제1 예측 및 제2 예측을 사용하는 부호화 및 복호화를 위한 방법 및 장치가 개시된다. 현재 블록의 부호화에 있어서, 현재 블록의 잔차 신호는 현재 블록, 제1 예측 및 제2 예측에 기반하여 생성된다. 또한, 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보가 생성된다. 제2 예측은 현재 블록의 부분에 대한 예측이다. 현재 블록의 복호화에 있어서, 현재 블록에 대한 복원된 잔차 신호가 생성된다. 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록이 생성된다. 제2 예측은 현재 블록의 부분에 대한 예측이다.

Description

예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치
아래의 실시예들은 비디오의 복호화 방법, 복호화 장치, 부호화 방법 및 부호화 장치에 관한 것으로서, 보다 상세하게는 대상 블록에 대한 예측을 사용하여 동영상에 대한 부호화 및 복호화를 수행하는 방법 및 장치에 관한 것이다.
정보 통신 산업의 지속적인 발달을 통해 HD(High Definition) 해상도를 가지는 방송 서비스가 세계적으로 확산되었다. 이러한 확산을 통해, 많은 사용자들이 고해상도이며 고화질인 영상(image) 및/또는 비디오(video)에 익숙해지게 되었다.
높은 화질에 대한 사용자들의 수요를 만족시키기 위하여, 많은 기관들이 차세대 영상 기기에 대한 개발에 박차를 가하고 있다. 에이치디티브이(High Definition TV; HDTV) 및 풀에이치디(Full HD; FHD) TV뿐만 아니라, FHD TV에 비해 4배 이상의 해상도를 갖는 울트라에이치디(Ultra High Definition; UHD) TV에 대한 사용자들의 관심이 증대하였고, 이러한 관심의 증대에 따라, 더 높은 해상도 및 화질을 갖는 영상에 대한 영상 부호화(encoding)/복호화(decoding) 기술이 요구된다.
영상 부호화(encoding)/복호화(decoding) 장치 및 방법은 고해상도 및 고화질의 영상에 대한 부호화/복호화를 수행하기 위해, 인터(inter) 예측(prediction) 기술, 인트라(intra) 예측 기술 및 엔트로피 부호화 기술 등을 사용할 수 있다. 인터 예측 기술은 시간적으로(temporally) 이전의 픽쳐 및/또는 시간적으로 이후의 픽쳐를 이용하여 현재 픽쳐에 포함된 픽셀의 값을 예측하는 기술일 수 있다. 인트라 예측 기술은 현재 픽쳐 내의 픽셀의 정보를 이용하여 현재 픽쳐에 포함된 픽셀의 값을 예측하는 기술일 수 있다. 엔트로피 부호화 기술은 출현 빈도가 높은 심볼에는 짧은 코드(code)를 할당하고, 출현 빈도가 낮은 심볼에는 긴 코드를 할당하는 기술일 수 있다.
영상의 부호화 및 복호화에 있어서, 예측은 원본 신호와 유사한 예측 신호를 생성하는 것을 의미할 수 있다. 예측은 크게 공간적(spatial) 복원된(reconstructed) 영상을 참조하는 예측, 시간적(temporal) 복원된 영상을 참조하는 예측 및 그 밖의 심볼에 대한 예측으로 분류될 수 있다. 말하자면, 시간적 참조는 시간적 복원된 영상을 참조하는 것을 의미할 수 있고, 공간적 참조는 공간적 복원된 영상을 참조하는 것을 의미할 수 있다.
현재 블록은 현재 부호화 또는 복호화의 대상인 블록일 수 있다. 현재 블록은 대상 블록 또는 대상 유닛으로 명명될 수 있다. 부호화에 있어서, 현재 블록은 부호화 대상 블록 또는 부호화 대상 유닛으로 명명될 수 있다. 복호화에 있어서, 현재 블록은 복호화 대상 블록 또는 복호화 대상 유닛으로 명명될 수 있다.
인터(inter) 예측은 시간적 참조 및 공간적 참조를 사용하여 현재 블록을 예측하는 기술일 수 있다. 인트라(intra) 예측은 공간적 참조만을 사용하여 현재 블록을 예측하는 기술일 수 있다.
영상 부호화/복호화 기술은 공간적인 반복을 감소시키기 위해 인트라 예측을 수행할 때 복수의 예측 모드들 중 하나의 예측 모드를 사용하여 현재 블록을 부호화한다. 예를 들면, 고 효율 비디오 코딩(High Efficiency Video Coding; HEVC) 기술에서는 35 개의 인트라 예측 모드들을 사용한다.
부호화 장치는 복수의 예측 모드들 중 가용한 모든 예측 모드들을 사용하여 현재 블록의 예측 블록들을 생성하고, 가장 우수한 결과를 낳는 하나의 예측 모드들 현재 블록의 부호화의 예측 모드로서 선택한다. 그러나, 가장 우수한 결과를 낳는 예측 모드를 사용하더라도, 원래의 블록 및 예측 블록 간에는 여전히 오차가 존재한다. 이러한 오차는 잔차 블록으로서 표현된다.
픽셀들 중 일부에 대해서는, 원래의 블록 및 예측 블록 간에 큰 오차가 존재한다. 이러한 큰 오차에 의해 잔차 블록에 대한 변환 및/또는 양자화가 적용된 이후에도 충분한 공간적 반복 감소가 이루어지지 않을 수 있다.
인트라 예측은 전체의 블록에 대한 하나의 방향으로의 예측이기 때문에, 인트라 예측은 블록의 일 부분에 대해서는 큰 오차를 발생시킬 수 있다.
일 실시예는 예측에 의해 발생하는 예측 단위의 예측 오차를 감소시키는 방법 및 장치를 제공할 수 있다.
일 실시예는 예측 모드의 예측 방향에 의해 발생하는 예측 오차를 감소시키는 방법 및 장치를 제공할 수 있다.
일 실시예는 제1 예측에 따른 예측 오차에 대해 제1 예측 모드의 방향으로 선택적인 제2 예측을 수행하는 방법 및 장치를 제공할 수 있다.
일 실시예는 현재 블록을 픽셀들의 개수들이 동일한 2개의 부분들로 분할하고, 2개의 부분들에 대해 제2 예측을 수행하는 방법 및 장치를 제공할 수 있다.
일 실시예는 현재 블록의 부분들 중 제1 예측에 따른 예측 오차가 큰 부분에 대해 제2 예측을 사용하는 방법 및 장치를 제공할 수 있다.
일 실시예는 제2 예측을 사용함으로써 현재 블록의 예측 오차를 감소시키는 방법 및 장치를 제공할 수 있다.
일 실시예는 제2 예측을 사용함으로써 현재 블록에 대해 더 높은 압축 효과를 제공하는 방법 및 장치를 제공할 수 있다.
일 측에 있어서, 현재 블록, 제1 예측 및 제2 예측에 기반하여 현재 블록의 잔차 신호를 생성하는 단계; 및 상기 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성하는 단계를 포함하고, 상기 제2 예측은 상기 현재 블록의 부분에 대한 예측인, 부호화 방법이 제공된다.
현재 블록에 대한 복원된 잔차 신호를 생성하는 복원된 잔차 신호 생성부; 및 상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 복원된 블록 생성부를 포함하고, 상기 제2 예측은 상기 현재 블록의 부분에 대한 예측인, 복호화 방법이 제공된다.
현재 블록에 대한 복원된 잔차 신호를 생성하는 단계; 및 상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 단계를 포함하고, 상기 제2 예측은 상기 현재 블록의 부분에 대한 예측인, 복호화 방법이 제공된다.
상기 제1 예측 및 상기 제2 예측은 인트라 예측일 수 있다.
상기 부분은 비-정방(non-square)형일 수 있다.
상기 부분은 상기 제1 예측의 예측 모드에 기반하여 결정될 수 있다.
상기 부분은 상기 현재 블록의 중심을 상기 제1 예측의 예측 방향으로 지나는 직선에 기반하여 결정될 수 있다.
상기 제1 예측의 예측 방향 및 상기 제2 예측의 예측 방향은 서로 상이할 수 있다.
상기 부분은 상기 현재 블록을 분할함에 따라 생성되는 2개의 부분들 중 하나일 수 있다.
상기 2개의 부분들의 픽셀들의 개수들은 동일할 수 있다.
상기 2개의 부분들의 각각은 비정방형일 수 있다.
상기 2개의 부분들은 상기 현재 블록의 중심을 상기 제1 예측의 예측 방향으로 지나는 직선에 기반하여 결정될 수 있다.
상기 부분은 상기 2개의 부분들 중 하나를 가리키는 선택된 부분 정보에 따라서 선택될 수 있다.
상기 제1 예측의 예측 모드가 비방향성 모드이면 상기 제2 예측은 사용되지 않을 수 있다.
상기 현재 블록의 부호화에 있어서 상기 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보가 상기 제2 예측을 사용하지 않는다는 것을 나타내는 경우 상기 제2 예측은 사용되지 않을 수 있다.
상기 제2 예측이 사용되지 않는 경우, 상기 제1 예측은 상기 현재 블록의 전체에 대한 예측일 수 있다.
상기 부분에 대한 상기 제2 예측에 의해 생성된 제2 예측 신호는 상기 복원된 잔차 신호에 더해질 수 있다.
상기 제1 예측은 상기 현재 블록 중 상기 부분을 제외한 나머지의 부분에 대한 예측일 수 있다.
상기 나머지의 부분에 대한 상기 제1 예측에 의해 생성된 제1 예측 신호는 상기 복원된 잔차 신호에 더해질 수 있다.
상기 복원된 블록은 상기 부분에 대한 상기 제2 예측에 의해 생성된 제2 예측 신호 및 상기 나머지의 부분에 대한 상기 제1 예측에 의해 생성된 제1 예측 신호에 기반하여 생성될 수 있다.
예측에 의해 발생하는 예측 단위의 예측 오차를 감소시키는 방법 및 장치가 제공된다.
예측 모드의 예측 방향에 의해 발생하는 예측 오차를 감소시키는 방법 및 장치가 제공된다.
제1 예측에 따른 예측 오차에 대해 제1 예측 모드의 방향으로 선택적인 제2 예측을 수행하는 방법 및 장치가 제공된다.
현재 블록을 픽셀들의 개수들이 동일한 2개의 부분들로 분할하고, 2개의 부분들에 대해 제2 예측을 수행하는 방법 및 장치가 제공된다.
현재 블록의 부분들 중 제1 예측에 따른 예측 오차가 큰 부분에 대해 제2 예측을 사용하는 방법 및 장치가 제공된다.
일 실시예는 제2 예측을 사용함으로써 현재 블록의 예측 오차를 감소시키는 방법 및 장치를 제공할 수 있다.
일 실시예는 제2 예측을 사용함으로써 현재 블록에 대해 더 높은 압축 효과를 제공하는 방법 및 장치를 제공할 수 있다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
도 4는 코딩 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
도 5는 코딩 유닛(CU)에 포함될 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
도 6은 인트라 예측 과정의 실시예를 설명하기 위한 도면이다.
도 7은 인트라 예측 과정에서 사용되는 참조 샘플의 위치를 설명하기 위한 도면이다.
도 8은 인터 예측 과정의 실시예를 설명하기 위한 도면이다.
도 9는 일 예에 따른 원본 영상이 수직 방향으로 예측된 경우의 예측 오차를 나타낸다.
도 10은 일 실시예에 따른 부호화 장치의 구조도이다.
도 11은 일 실시예에 따른 부호화 방법의 흐름도이다.
도 12는 일 실시예에 따른 인트라 예측을 사용하는 제1 예측 및 제2 예측을 나타낸다.
도 13은 일 실시예에 따른 잔차 블록의 생성 방법의 흐름도이다.
도 14는 일 예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 15는 일 실시예에 따른 부호화 과정을 도시한다.
도 16은 일 실시예에 따른 복호화 장치의 구조도이다.
도 17은 일 실시예에 따른 복호화 방법의 흐름도이다.
후술하는 예시적 실시예들에 대한 상세한 설명은, 특정 실시예를 예시로서 도시하는 첨부 도면을 참조한다. 이들 실시예는 당업자가 실시예를 실시할 수 있기에 충분하도록 상세히 설명된다. 다양한 실시예들은 서로 다르지만 상호 배타적일 필요는 없음이 이해되어야 한다. 예를 들어, 여기에 기재되어 있는 특정 형상, 구조 및 특성은 일 실시예에 관련하여 본 발명의 정신 및 범위를 벗어나지 않으면서 다른 실시예로 구현될 수 있다. 또한, 각각의 개시된 실시예 내의 개별 구성요소의 위치 또는 배치는 실시예의 정신 및 범위를 벗어나지 않으면서 변경될 수 있음이 이해되어야 한다. 따라서, 후술하는 상세한 설명은 한정적인 의미로서 취하려는 것이 아니며, 예시적 실시예들의 범위는, 적절하게 설명된다면, 그 청구항들이 주장하는 것과 균등한 모든 범위와 더불어 첨부된 청구항에 의해서만 한정된다.
도면에서 유사한 참조부호는 여러 측면에 걸쳐서 동일하거나 유사한 기능을 지칭한다. 도면에서의 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 과장될 수 있다.
어떤 구성요소(component)가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 상기의 2개의 구성요소들이 서로 간에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있으나, 상기의 2개의 구성요소들의 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 또한, 예시적 실시예들에서 특정 구성을 "포함"한다고 기술하는 내용은 상기의 특정 구성 이외의 구성을 배제하는 것이 아니며, 추가적인 구성이 예시적 실시예들의 실시 또는 예시적 실시예들의 기술적 사상의 범위에 포함될 수 있음을 의미한다.
제1 및 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기의 구성요소들은 상기의 용어들에 의해 한정되어서는 안 된다. 상기의 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하여 지칭하기 위해서 사용된다. 예를 들어, 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다.
또한 실시예들에 나타나는 구성요소들은 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시되는 것으로, 각 구성요소가 분리된 하드웨어나 하나의 소프트웨어 구성 단위로만 이루어짐을 의미하지 않는다. 즉, 각 구성요소는 설명의 편의상 각각의 구성요소로 나열된 것이다. 예를 들면, 구성요소들 중 적어도 두 개의 구성요소들이 하나의 구성요소로 합쳐질 수 있다. 또한, 하나의 구성요소가 복수의 구성요소들로 나뉠 수 있다. 이러한 각 구성요소의 통합된 실시예 및 분리된 실시예 또한 본질에서 벗어나지 않는 한 권리범위에 포함된다.
또한, 일부의 구성요소는 본질적인 기능을 수행하는 필수적인 구성요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성요소일 수 있다. 실시예들은 실시예의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 예를 들면, 단지 성능 향상을 위해 사용되는 구성요소와 같은, 선택적 구성요소가 제외된 구조 또한 권리 범위에 포함된다.
이하에서는, 기술분야에서 통상의 지식을 가진 자가 실시예들을 용이하게 실시할 수 있도록 하기 위하여, 첨부된 도면을 참조하여 실시예들을 상세히 설명하기로 한다. 실시예들을 설명함에 있어, 관련된 공지 구성 또는 기능에 대한 구체적인 설명이 본 명세서의 요지를 흐릴 수 있다고 판단되는 경우에는 그 상세한 설명은 생략한다.
이하에서, 영상은 비디오(video)을 구성하는 하나의 픽쳐(picture)를 의미할 수 있으며, 비디오 자체를 나타낼 수도 있다. 예를 들면, "영상의 부호화 및/또는 복호화"는 "비디오의 부호화 및/또는 복호화"를 의미할 수 있으며, "비디오를 구성하는 영상들 중 하나의 영상의 부호화 및/또는 복호화"를 의미할 수도 있다.
이하에서, "비디오" 및 "동영상(motion picture)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
이하에서, "영상", "픽쳐", "프레임(frame)" 및 "스크린(screen)"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
실시예들에서, 특정된 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 각각은 값을 가질 수 있다. 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 값 "0"은 논리 거짓(logical false) 또는 제1 기정의된(predefined) 값을 나타낼 수 있다. 말하자면, 값 "0", 논리 거짓 및 제1 기정의된 값은 서로 대체되어 사용될 수 있다. 정보, 데이터, 플래그(flag) 및 요소(element), 속성(attribute) 등의 값 "1"은 논리 참(logical true) 또는 제2 기정의된(predefined) 값을 나타낼 수 있다. 말하자면, 값 "1", 논리 참 및 제2 기정의된 값은 서로 대체되어 사용될 수 있다.
행, 열 또는 인덱스(index)를 나타내기 위해 i 또는 j 등의 변수가 사용될 때, i의 값은 0 이상의 정수일 수 있으며, 1 이상의 정수일 수도 있다. 말하자면, 실시예들에서 행, 열 및 인덱스 등은 0에서부터 카운트될 수 있으며, 1에서부터 카운트될 수 있다.
아래에서는, 실시예들에서 사용되는 용어가 설명된다.
유닛(unit): "유닛"은 영상의 부호화 및 복호화의 단위를 나타낼 수 있다. 유닛 및 블록(block)의 의미들은 동일할 수 있다. 또한, 용어 "유닛" 및 "블록"은 서로 교체되어 사용될 수 있다.
- 유닛(또는, 블록)은 샘플의 MxN 배열일 수 있다. M 및 N은 각각 양의 정수일 수 있다. 유닛은 흔히 2차원의 샘플의 배열을 의미할 수 있다. 샘플은 픽셀 또는 픽셀 값일 수 있다.
- 용어 "픽셀" 및 "샘플"은 동일한 의미로 사용될 수 있으며, 서로 교체되어 사용될 수 있다.
- 영상의 부호화 및 복호화에 있어서, 유닛은 하나의 영상의 분할에 의해 생성된 영역일 수 있다. 하나의 영상은 복수의 유닛들로 분할될 수 있다. 영상의 부호화 및 복호화에 있어서, 유닛의 종류에 따라서 유닛에 대한 기정의된 처리가 수행될 수 있다. 기능에 따라서, 유닛의 타입은 매크로 유닛(Macro Unit), 코딩 유닛(Coding Unit; CU), 예측 유닛(Prediction Unit; PU) 및 변환 유닛(transform Unit; TU) 등으로 분류될 수 있다. 하나의 유닛은 유닛에 비해 더 작은 크기를 갖는 하위 유닛으로 더 분할될 수 있다.
- 유닛 분할 정보는 유닛의 깊이(depth)에 관한 정보를 포함할 수 있다. 깊이 정보는 유닛이 분할되는 회수 및/또는 정도를 나타낼 수 있다.
- 하나의 유닛은 트리 구조(tree structure)에 기반하여 깊이 정보(depth)를 가지면서 계층적으로 복수의 하위 유닛들로 분할될 수 있다. 말하자면, 유닛 및 상기의 유닛의 분할에 의해 생성된 하위 유닛은 노드 및 상기의 노드의 자식 노드에 각각 대응할 수 있다. 각각의 분할된 하위 유닛은 깊이 정보를 가질 수 있다. 유닛의 깊이 정보는 유닛이 분할된 회수 및/또는 정도를 나타내므로, 하위 유닛의 분할 정보는 하위 유닛의 크기에 관한 정보를 포함할 수도 있다.
- 트리 구조에서, 가장 상위 노드는 분할되지 않은 최초의 유닛에 대응할 수 있다. 가장 상위 노드는 루트 노드(root node)로 칭해질 수 있다. 또한, 가장 상위 노드는 최소의 깊이 값을 가질 수 있다. 이 때, 가장 상위 노드는 레벨 0의 깊이를 가질 수 있다.
- 레벨 1의 깊이를 갖는 노드는 최초의 유닛이 한 번 분할됨에 따라 생성된 유닛을 나타낼 수 있다. 레벨 2의 깊이를 갖는 노드는 최초의 유닛이 두 번 분할됨에 따라 생성된 유닛을 나타낼 수 있다.
- 레벨 n의 깊이를 갖는 노드는 최초의 유닛이 n번 분할됨에 따라 생성된 유닛을 나타낼 수 있다.
- 리프 노드는 가장 하위의 노드일 수 있으며, 더 분할될 수 없는 노드일 수 있다. 리프 노드의 깊이는 최대 레벨일 수 있다. 예를 들면, 최대 레벨의 기정의된 값은 3일 수 있다.
변환 유닛(Transform Unit): 변환 유닛은 변환, 역변환, 양자화, 역양자화, 변환 계수 부호화, 및 변환 계수 복호화 등과 같은 잔차 신호(residual signal) 부호화 및/또는 잔여 신호 복호화에 있어서의 기본 유닛일 수 있다. 하나의 변환 유닛은 더 작은 크기를 갖는 다수의 변환 유닛들 분할될 수 있다.
예측 유닛(Prediction Unit) : 예측 유닛은 예측 또는 보상(compensation)의 수행에 있어서의 기본 단위일 수 있다. 예측 유닛은 분할에 의해 다수의 파티션(partition)들이 될 수 있다. 다수의 파티션들 또한 예측 또는 보상의 수행에 있어서의 기본 단위일 수 있다. 예측 유닛의 분할에 의해 생성된 파티션 또한 예측 유닛일 수 있다.
복원된 이웃 유닛(Reconstructed Neighbor Unit) : 복원된 이웃 유닛은 부호화 대상 유닛 또는 복호화 대상 유닛의 주변에 이미 부호화 또는 복호화되어 복원된 유닛일 수 있다. 복원된 이웃 유닛은 대상 유닛에 대한 공간적(spatial) 인접 유닛 또는 시간적(temporal) 인접 유닛일 수 있다.
예측 유닛 파티션 : 예측 유닛 파티션은 예측 유닛이 분할된 형태를 의미할 수 있다.
파라미터 세트(Parameter Set): 파라미터 세트는 비트스트림 내의 구조(structure) 중 헤더(header) 정보에 해당할 수 있다. 예를 들면, 파라미터 세트는 시퀀스 파라미터 세트(sequence parameter set), 픽쳐 파라미터 세트(picture parameter set) 및 적응 파라미터 세트(adaptation parameter set) 등을 포함할 수 있다.
율-왜곡 최적화(rate-distortion optimization): 부호화 장치는 코딩 유닛의 크기, 예측 모드, 예측 유닛의 크기, 움직임 정보 및, 변환 유닛의 크기 등의 조합을 이용해서 높은 부호화 효율을 제공하기 위해 율-왜곡 최적화를 사용할 수 있다.
- 율-왜곡 최적화 방식은 상기의 조합들 중에서 최적의 조합을 선택하기 위해 각 조합의 율-왜곡 비용(rate-distortion cost)을 계산할 수 있다. 율-왜곡 비용은 아래의 수학식 1을 이용하여 계산될 수 있다. 일반적으로 상기 율-왜곡 비용이 최소가 되는 조합이 율-왜곡 최적화 방식에 있어서의 최적의 조합으로 선택될 수 있다.
Figure PCTKR2017000967-appb-M000001
D는 왜곡을 나타낼 수 있다. D는 변환 블록 내에서 원래의 변환 계수들 및 복원된 변환 계수들 간의 차이 값들의 제곱들의 평균(mean square error)일 수 있다.
R은 율을 나타낼 수 있다. R은 관련된 문맥 정보를 이용한 비트 율을 나타낼 수 있다.
λ는 라그랑지안 승수(Lagrangian multiplier)를 나타낼 수 있다. R은 예측 모드, 움직임 정보 및 부호화 블록 플래그(coded block flag) 등과 같은 부호화 파라미터 정보뿐만 아니라, 변환 계수의 부호화에 의해 발생하는 비트도 포함할 수 있다.
부호화 장치는 정확한 D 및 R을 계산하기 위해 인터 예측 및/또는 인트라 예측, 변환, 양자화, 엔트로피 부호화, 역양자화, 역변환 등의 과정을 수행하는데, 이러한 과정은 부호화 장치에서의 복잡도를 크게 증가시킬 수 있다.
참조 픽쳐(reference picture) : 참조 픽쳐는 인터 예측 또는 움직임 보상에 사용되는 영상일 수 있다. 참조 픽쳐는 인터 예측 또는 움직임 보상을 위해 대상 유닛이 참조하는 참조 유닛을 포함하는 픽쳐일 수 있다. 픽쳐 및 영상의 의미들은 동일할 수 있다. 또한, 용어 "픽쳐" 및 "영상"은 서로 교체되어 사용될 수 있다.
참조 픽쳐 리스트(reference picture list) : 참조 픽쳐 리스트는 인터 예측 또는 움직임 보상에 사용되는 참조 영상들을 포함하는 리스트일 수 있다. 참조 픽쳐 리스트의 종류는 리스트 조합(List Combined; LC), 리스트 0(List 0; L0) 및 리스트 1(List 1; L1) 등이 있을 수 있다.
움직임 벡터(Motion Vector; MV) : 움직임 벡터는 인터 예측에서 사용되는 2차원의 벡터일 수 있다. 예를 들면, MV는 (mvx, mvy)와 같은 형태로 표현될 수 있다. mvx는 수평(horizontal) 성분을 나타낼 수 있고, mvy 는 수직(vertical) 성분을 나타낼 수 있다.
- MV는 대상 픽쳐 및 참조 픽쳐 간의 오프셋(offset)을 나타낼 수 있다.
탐색 영역(search range) : 탐색 영역은 인터 예측 중 MV에 대한 탐색이 이루어지는 2차원의 영역일 수 있다. 예를 들면, 탐색 영역의 크기는 MxN일 수 있다. M 및 N은 각각 양의 정수일 수 있다.
도 1은 본 발명이 적용되는 부호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
부호화 장치(100)는 비디오 부호화 장치 또는 영상 부호화 장치일 수 있다. 비디오는 하나 이상의 영상들을 포함할 수 있다. 부호화 장치(110)는 비디오의 하나 이상의 영상들을 시간에 따라 순차적으로 부호화할 수 있다.
도 1을 참조하면, 부호화 장치(100)는 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 복호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽쳐 버퍼(190)를 포함할 수 있다.
부호화 장치(100)는 입력 영상에 대해 인트라 모드 및/또는 인터 모드로 부호화를 수행할 수 있다. 입력 영상은 현재 부호화의 대상인 현재 영상으로 칭해질 수 있다.
또한, 부호화 장치(100)는 입력 영상에 대한 부호화를 통해 부호화의 정보를 포함하는 비트스트림을 생성할 수 있고, 생성된 비트스트림을 출력할 수 있다.
인트라 모드가 사용되는 경우, 스위치(115)는 인트라로 전환될 수 있다. 인터 모드가 사용되는 경우, 스위치(115)는 인터로 전환될 수 있다.
부호화 장치(100)는 입력 영상의 입력 블록에 대한 예측 블록을 생성할 수 있다. 또한, 부호화 장치(100)는 예측 블록이 생성된 후, 입력 블록 및 예측 블록의 차분(residual)을 부호화할 수 있다. 입력 블록은 현재 부호화의 대상인 현재 블록으로 칭해질 수 있다.
예측 모드가 인트라 모드인 경우, 인트라 예측부(120)는 현재 블록의 주변에 있는, 이미 부호화된 블록의 픽셀 값을 참조 픽셀로서 이용할 수 있다. 인트라 예측부(120)는 참조 픽셀을 이용하여 현재 블록에 대한 공간적 예측을 수행할 수 있고, 공간적 예측을 통해 현재 블록에 대한 예측 샘플들을 생성할 수 있다.
인터 예측부(110)는 움직임 예측부 및 움직임 보상부를 포함할 수 있다.
예측 모드가 인터 모드인 경우, 움직임 예측부는, 움직임 예측 과정에서 참조 영상으로부터 현재 블록과 가장 매치가 잘 되는 영역을 검색할 수 있고, 현재 블록 및 검색된 영역에 대한 움직임 벡터를 도출할 수 있다. 참조 영상은 참조 픽쳐 버퍼(190)에 저장될 수 있으며, 참조 영상에 대한 부호화 및/또는 복호화가 처리될 때 참조 픽쳐 버퍼(190)에 저장될 수 있다.
움직임 보상부는 움직임 벡터를 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다. 여기에서, 움직임 벡터는 인터 예측에 사용되는 2차원 벡터일 수 있다. 또한 움직임 벡터는 현재 영상 및 참조 영상 간의 오프셋(offset)을 나타낼 수 있다.
감산기(125)는 입력 블록 및 예측 블록의 차분인 잔차 블록(residual block)을 생성할 수 있다. 잔차 블록은 잔차 신호로 칭해질 수도 있다.
변환부(130)는 잔차 블록에 대해 변환(transform)을 수행하여 변환 계수를 생성할 수 있고, 생성된 변환 계수(transform coefficient)를 출력할 수 있다. 여기서, 변환 계수는 잔차 블록에 대한 변환을 수행함으로써 생성된 계수 값일 수 있다. 변환 생략(transform skip) 모드가 적용되는 경우, 변환부(130)는 잔차 블록에 대한 변환을 생략할 수도 있다.
변환 계수에 양자화를 적용함으로써 양자화된 변환 계수 레벨(transform coefficient level)이 생성될 수 있다. 이하, 실시예들에서는 양자화된 변환 계수 레벨도 변환 계수로 칭해질 수 있다.
양자화부(140)는 변환 계수를 양자화 파라미터에 맞춰 양자화함으로써 양자화된 변환 계수 레벨(quantized transform coefficient level)을 생성할 수 있다. 양자화부(140)는 생성된 양자화된 변환 계수 레벨을 출력할 수 있다. 이때, 양자화부(140)에서는 양자화 행렬을 사용하여 변환 계수를 양자화할 수 있다.
엔트로피 복호화부(150)는, 양자화부(140)에서 산출된 값들 및/또는 부호화 과정에서 산출된 부호화 파라미터 값들 등에 기초하여 확률 분포에 따른 엔트로피 부호화를 수행함으로써 비트스트림(bitstream)을 생성할 수 있다. 엔트로피 복호화부(150)는 생성된 비트스트림을 출력할 수 있다.
엔트로피 복호화부(150)는 영상의 픽셀의 정보 외에 영상의 복호화를 위한 정보에 대한 엔트로피 부호화를 수행할 수 있다. 예를 들면, 영상의 복호화를 위한 정보는 신택스 엘리먼트(syntax element) 등을 포함할 수 있다.
부호화 파라미터는 부호화 및/또는 복호화를 위해 요구되는 정보일 수 있다. 부호화 파라미터는 부호화 장치에서 부호화되어 복호화 장치로 전달되는 정보를 포함할 수 있고, 부호화 혹은 복호화 과정에서 유추될 수 있는 정보를 포함할 수 있다. 예를 들면, 복호화 장치로 전달되는 정보로서, 신택스 엘리먼트가 있다.
예를 들면, 부호화 파라미터는 예측 모드, 움직임 벡터, 참조 픽쳐 색인(index), 부호화 블록 패턴(pattern), 잔차 신호 유무, 변환 계수, 양자화된 변환 계수, 양자화 파라미터, 블록 크기, 블록 분할(partition) 정보 등의 값 또는 통계를 포함할 수 있다. 예측 모드는 인트라 예측 모드 또는 인터 예측 모드를 가리킬 수 있다.
잔차 신호는 원 신호 및 예측 신호 간의 차이(difference)를 의미할 수 있다. 또는, 잔차 신호는 원신호 및 예측 신호 간의 차이를 변환(transform)함으로써 생성된 신호일 수 있다. 또는, 잔차 신호는 원 신호 및 예측 신호 간의 차이를 변환 및 양자화함으로써 생성된 신호일 수 있다. 잔차 블록은 블록 단위의 잔차 신호일 수 있다.
엔트로피 부호화가 적용되는 경우, 높은 발생 확률을 갖는 심볼에 적은 수의 비트가 할당될 수 있고, 낮은 발생 확률을 갖는 심볼에 많은 수의 비트가 할당될 수 있다. 이러한 할당을 통해 심볼이 표현됨에 따라, 부호화의 대상인 심볼들에 대한 비트열(bitstring)의 크기가 감소될 수 있다. 따라서, 엔트로피 부호화를 통해서 영상 부호화의 압축 성능이 향상될 수 있다.
또한, 엔트로피 부호화를 위해 지수 골롬(exponential golomb), 문맥-적응형 가변 길이 코딩(Context-Adaptive Variable Length Coding; CAVLC) 및 문맥-적응형 이진 산술 코딩(Context-Adaptive Binary Arithmetic Coding; CABAC) 등과 같은 부호화 방법이 사용될 수 있다. 예를 들면, 엔트로피 복호화부(150)는 가변 길이 부호화(Variable Lenghth Coding/Code; VLC) 테이블을 이용하여 엔트로피 부호화를 수행할 수 있다. 예를 들면, 엔트로피 복호화부(150)는 대상 심볼에 대한 이진화(binarization) 방법을 도출할 수 있다. 또한, 엔트로피 복호화부(150)는 대상 심볼/빈(bin)의 확률 모델(probability model)을 도출할 수 있다. 엔트로피 복호화부(150)는 도출된 이진화 방법 또는 확률 모델을 사용하여 엔트로피 부호화를 수행할 수도 있다.
부호화 장치(100)에 의해 인터 예측을 통한 부호화를 수행되기 때문에, 부호화된 현재 영상은 이후에 처리되는 다른 영상(들)에 대하여 참조 영상으로서 사용될 수 있다. 따라서, 부호화 장치(100)는 부호화된 현재 영상을 다시 복호화할 수 있고, 복호화된 영상을 참조 영상으로서 저장할 수 있다. 복호화를 위해 부호화된 현재 영상에 대한 역양자화 및 역변환이 처리될 수 있다.
양자화된 계수는 역양자화부(160)에서 역양자화될(inversely quantized) 수 있고, 역변환부(170)에서 역변환될(inversely transformed) 수 있다. 역양자화 및 역변환된 계수는 가산기(175)를 통해 예측 블록과 합해질 수 있다, 역양자화 및 역변환된 계수 및 예측 블록을 합함으로써 복원된(reconstructed) 블록이 생성될 수 있다.
복원된 블록은 필터부(180)를 거칠 수 있다. 필터부(180)는 디블록킹 필터(deblocking filter), 에스에이오(Sample Adaptive Offset; SAO), 에이엘에프(Adaptive Loop Filter; ALF) 중 적어도 하나 이상을 복원된 블록 또는 복원된 픽쳐에 적용할 수 있다. 필터부(180)는 적응적(adaptive) 인루프(in-loop) 필터로 칭해질 수도 있다.
디블록킹 필터는 블록들 간의 경계에서 발생한 블록 왜곡을 제거할 수 있다. SAO는 코딩 에러에 대한 보상을 위해 픽셀 값에 적정 오프셋(offset) 값을 더할 수 있다. ALF는 복원된 영상 및 원래의 영상을 비교한 값에 기반하여 필터링을 수행할 수 있다. 필터부(180)를 거친 복원된 블록은 참조 픽쳐 버퍼(190)에 저장될 수 있다.
도 2는 본 발명이 적용되는 복호화 장치의 일 실시예에 따른 구성을 나타내는 블록도이다.
복호화 장치(200)는 비디오 복호화 장치 또는 영상 복호화 장치일 수 있다.
도 2를 참조하면, 복호화 장치(200)는 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 가산기(255), 필터부(260) 및 참조 픽쳐 버퍼(270)를 포함할 수 있다.
복호화 장치(200)는 부호화 장치(100)에서 출력된 비트스트림을 수신할 수 있다. 복호화 장치(200)는 비트스트림에 대하여 인트라 모드 및/또는 인터 모드의 복호화를 수행할 수 있다. 또한, 복호화 장치(200)는 복호화를 통해 복원된 영상을 생성할 수 있고, 생성된 복원된 영상을 출력할 수 있다.
예를 들면, 복호화에 사용되는 예측 모드에 따른 인트라 모드 또는 인터 모드로의 전환은 스위치에 의해 이루어질 수 있다. 복호화에 사용되는 예측 모드가 인트라 모드인 경우 스위치가 인트라로 전환될 수 있다. 복호화에 사용되는 예측 모드가 인터 모드인 경우 스위치가 인터로 전환될 수 있다.
복호화 장치(200)는 입력된 비트스트림으로부터 복원된 잔차 블록(reconstructed residual block)을 획득할 수 있고, 예측 블록을 생성할 수 있다. 복원된 잔차 블록 및 예측 블록이 획득되면, 복호화 장치(200)는 복원된 잔차 블록 및 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
엔트로피 복호화부(210)는 확률 분포에 기초하여 비트스트림에 대한 엔트로피 복호화를 수행함으로써 심볼들을 생성할 수 있다. 생성된 심볼들은 양자화된 계수(quantized coefficient) 형태의 심볼을 포함할 수 있다. 여기에서, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법과 유사할 수 있다. 예를 들면, 엔트로피 복호화 방법은 상술된 엔트로피 부호화 방법의 역과정일 수 있다.
양자화된 계수는 역양자화부(220)에서 역양자화될 수 있다. 또한, 역양자화된 계수는 역변환부(230)에서 역변환될 수 있다. 양자화된 계수가 역양자화 및 역변환 된 결과로서, 복원된 잔차 블록이 생성될 수 있다. 이때, 역양자화부(220)는 양자화된 계수에 양자화 행렬을 적용할 수 있다.
인트라 모드가 사용되는 경우, 인트라 예측부(240)는 현재 블록 주변의 이미 복호화된 블록의 픽셀 값을 이용하는 공간적 예측을 수행함으로써 예측 블록을 생성할 수 있다.
인터 예측부(250)는 움직임 보상부를 포함할 수 있다. 인터 모드가 사용되는 경우, 움직임 보상부는 움직임 벡터 및 참조 영상을 이용하는 움직임 보상을 수행함으로써 예측 블록을 생성할 수 있다. 참조 영상은 참조 픽쳐 버퍼(270)에 저장될 수 있다.
복원된 잔차 블록 및 예측 블록은 가산기(255)를 통해 더해질 수 있다. 가산기(255)는 복원된 잔차 블록 및 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
복원된 블록은 필터부(260)를 거칠 수 있다. 필터부(260)는 디블록킹 필터, SAO 및 ALF 중 적어도 하나 이상을 복원된 블록 또는 복원된 픽쳐에 적용할 수 있다. 필터부(260)는 복원된 영상을 출력할 수 있다. 복원된 영상은 참조 픽쳐 버퍼(270)에 저장되어 인터 예측에 사용될 수 있다.
도 3은 영상을 부호화 및 복호화할 때의 영상의 분할 구조를 개략적으로 나타내는 도면이다.
영상을 효율적으로 분할하기 위해, 부호화 및 복호화에 있어서, 코딩 유닛(Coding Unit; CU)이 사용될 수 있다. 유닛은 1) 영상 샘플들을 포함하는 블록 및 2) 구문 요소(syntax element)을 합쳐서 지칭하는 용어일 수 있다. 예를 들면, "유닛의 분할"은 "유닛에 해당하는 블록의 분할"을 의미할 수 있다.
도 3을 참조하면, 영상(300)은 최대 코딩 유닛(Largest Coding Unit; LCU)의 단위로 순차적으로 분할될 수 있고, 영상(300)의 분할 구조는 LCU에 따라서 결정될 수 있다. 여기서, LCU는 코딩 트리 유닛(Coding Tree Unit; CTU)과 동일한 의미로 사용될 수 있다.
분할 구조는 LCU(310) 내에서의, 영상을 효율적으로 부호화하기 위한, 코딩 유닛(Coding Unit; CU)의 분포를 의미할 수 있다. 이러한 분포는 하나의 CU를 4개의 CU들로 분할할지 여부에 따라 결정될 수 있다. 분할에 의해 생성된 CU의 가로 크기 및 세로 크기는 각각 분할 전의 CU의 가로 크기의 절반 및 세로 크기의 절반일 수 있다. 분할된 CU는 동일한 방식으로 가로 크기 및 세로 크기가 절반으로 감소된 4개의 CU로 재귀적으로 분할될 수 있다.
이때, CU의 분할은 기정의된 깊이까지 재귀적으로 이루어질 수 있다. 깊이 정보는 CU의 크기를 나타내는 정보일 수 있다. 각 CU 별로 깊이 정보가 저장될 수 있다. 예컨대, LCU의 깊이는 0일 수 있고, 최소 코딩 유닛(Smallest Coding Unit; SCU)의 깊이는 기정의된 최대 깊이일 수 있다. 여기서, LCU는 상술된 것과 같이 최대의 코딩 유닛 크기를 가지는 CU일 수 있고, SCU는 최소의 코딩 유닛 크기를 가지는 CU일 수 있다.
LCU(310)로부터 분할이 시작될 수 있고, 분할에 의해 CU의 가로 크기 및 세로 크기가 절반으로 줄어들 때마다 CU의 깊이는 1씩 증가할 수 있다. 각각의 깊이 별로, 분할되지 않는 CU는 2Nx2N 크기를 가질 수 있다. 또한, 분할되는 CU의 경우, 2Nx2N 크기의 CU가 NxN 크기를 가지는 4개의 CU들로 분할될 수 있다. N의 크기는 깊이가 1씩 증가할 때마다 절반으로 감소할 수 있다.
도 3을 참조하면, 깊이가 0인 LCU는 64x64 픽셀들일 수 있다. 0은 최소 깊이일 수 있다. 깊이가 3인 SCU는 8x8 픽셀들일 수 있다. 3은 최대 깊이일 수 있다. 이때, LCU인 64x64 픽셀들의 CU는 깊이 0으로 표현될 수 있다. 32x32 픽셀들의 CU는 깊이 1로 표현될 수 있다. 16x16 픽셀들의 CU는 깊이 2로 표현될 수 있다. SCU인 8x8 픽셀들의 CU는 깊이 3으로 표현될 수 있다.
또한, CU가 분할되는지 여부에 대한 정보는 CU의 분할 정보를 통해 표현될 수 있다. 분할 정보는 1비트의 정보일 수 있다. SCU를 제외한 모든 CU는 분할 정보를 포함할 수 있다. 예를 들면, CU가 분할되지 않는 경우 CU의 분할 정보의 값은 0일 수 있고, CU가 분할되는 경우 CU의 분할 정보의 값은 1일 수 있다.
도 4는 코딩 유닛(CU)이 포함할 수 있는 예측 유닛(PU)의 형태를 도시한 도면이다.
LCU로부터 분할된 CU 중 더 이상 분할되지 않는 CU는 하나 이상의 예측 유닛(Prediction Unit; PU)들로 분할될 수 있다. 이러한 분할 또한, 파티션(partition)로 칭해질 수 있다.
PU는 예측에 대한 기본 단위일 수 있다. PU는 스킵(skip) 모드, 인터 모드 및 인트라 모드 중 어느 하나로 부호화 및 복호화될 수 있다. PU는 각 모드에 따라서 다양한 형태로 분할될 수 있다.
스킵 모드에서는, CU 내에 분할이 존재하지 않을 수 있다. 스킵 모드에서는 분할 없이 PU 및 CU의 크기들이 동일한 2Nx2N 모드(410)가 지원될 수 있다.
인터 모드에서는, CU 내에서 8가지로 분할된 형태들이 지원될 수 있다. 예를 들면, 인터 모드에서는 2Nx2N 모드(410), 2NxN 모드(415), Nx2N 모드(420), NxN 모드(425), 2NxnU 모드(430), 2NxnD 모드(435), nLx2N 모드(440) 및 nRx2N 모드(445)가 지원될 수 있다.
인트라 모드에서는, 2Nx2N 모드(410) 및 NxN 모드(425)가 지원될 수 있다.
2Nx2N 모드(410)에서는 2Nx2N의 크기의 PU가 부호화될 수 있다. 2Nx2N의 크기의 PU는 CU의 크기와 동일한 크기의 PU를 의미할 수 있다. 예를 들면, 2Nx2N의 크기의 PU는 64x64, 32x32, 16x16 또는 8x8의 크기를 가질 수 있다.
NxN 모드(425)에서는 NxN의 크기의 PU가 부호화될 수 있다.
예를 들면, 인트라 예측에서, PU의 크기가 8x8일 때, 4개의 분할된 PU들이 부호화될 수 있다. 분할된 PU의 크기는 4x4일 수 있다.
PU가 인트라 모드에 의해 부호화될 경우, PU는 복수의 인트라 예측 모드들 중 하나의 인트라 예측 모드를 사용하여 부호화될 수 있다. 예를 들면, 고 효율 비디오 코딩(High Efficiency Video Coding; HEVC) 기술에서는 35 개의 인트라 예측 모드들을 제공할 수 있고, PU는 35 개의 인트라 예측 모드들 중 하나의 인트라 예측 모드로 부호화될 수 있다.
PU가 2Nx2N 모드(410) 및 NxN 모드(425) 중 어느 모드에 의해 부호화될 것인가는 율-왜곡 비용(rate-distortion cost)에 의해 결정될 수 있다.
부호화 장치(100)는 2Nx2N 크기의 PU에 대해 부호화 연산을 수행할 수 있다. 여기에서, 부호화 연산은 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들의 각각으로 PU를 부호화하는 것일 수 있다. 부호화 연산을 통해 2Nx2N 크기의 PU에 대한 최적의 인트라 예측 모드가 도출될 수 있다. 최적의 인트라 예측 모드는 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들 중 2Nx2N 크기의 PU의 부호화에 대하여 최소의 율-왜곡 비용을 발생시키는 인트라 예측 모드일 수 있다.
또한, 부호화 장치(100)는 NxN으로 분할된 PU들의 각 PU에 대해서 순차적으로 부호화 연산을 수행할 수 있다. 여기에서, 부호화 연산은 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들의 각각으로 PU를 부호화하는 것일 수 있다. 부호화 연산을 통해 NxN 크기의 PU에 대한 최적의 인트라 예측 모드가 도출될 수 있다. 최적의 인트라 예측 모드는 부호화 장치(100)가 사용할 수 있는 복수의 인트라 예측 모드들 중 NxN 크기의 PU의 부호화에 대하여 최소의 율-왜곡 비용을 발생시키는 인트라 예측 모드일 수 있다.
부호화 장치(100)는 2Nx2N 크기의 PU의 율-왜곡 비용 및 NxN 크기의 PU들의 율-왜곡 비용들의 비교에 기반하여 2Nx2N 크기의 PU 및 NxN 크기의 PU들 중 어느 것을 부호화할 지를 결정할 수 있다.
도 5는 코딩 유닛(CU)에 포함될 수 있는 변환 유닛(TU)의 형태를 도시한 도면이다.
변환 유닛(Transform Unit; TU)은 CU 내에서 변환, 양자화, 역변환, 역양자화, 엔트로피 부호화 및 엔트로피 복호화의 과정을 위해 사용되는 기본 단위일 수 있다. TU는 정사각형 형태 또는 직사각형 형태를 가질 수 있다.
LCU로부터 분할된 CU 중, 더 이상 CU들로 분할되지 않는 CU는 하나 이상의 TU들로 분할될 수 있다. 이때, TU의 분할 구조는 쿼드-트리(quad-tree) 구조일 수 있다. 예컨대, 도 5에서 도시된 것과 같이, 하나의 CU(510)가 쿼드-트리 구조에 따라서 한 번 혹은 그 이상 분할될 수 있다. 분할을 통해, 하나의 CU(510)는 다양한 크기의 TU들로 구성될 수 있다.
부호화 장치(100)에서, 64x64 크기의 부호화 트리 유닛(Coding Tree Unit; CTU)는 재귀적인 쿼드-크리 구조에 의해 더 작은 복수의 CU들로 분할될 수 있다. 하나의 CU는 동일한 크기들을 갖는 4개의 CU들로 분할될 수 있다. CU는 재귀적으로 분할될 수 있으며, 각 CU는 쿼드 트리의 구조를 가질 수 있다.
CU는 깊이를 가질 수 있다. CU가 분할되면, 분할에 의해 생성된 CU들은 분할된 CU의 깊이에서 1 증가한 깊이를 가질 수 있다.
예를 들면, CU의 깊이는 0 내지 3의 값을 가질 수 있다. CU의 크기는 CU의 깊이에 따라 64x64로부터 8x8까지의 크기일 수 있다.
CU에 대한 재귀적인 분할을 통해, 최소의 율-왜곡 비율을 발생시키는 최적의 분할 방법이 선택될 수 있다.
도 6은 인트라 예측 과정의 실시예를 설명하기 위한 도면이다.
도 6의 그래프의 중심으로부터 외곽으로의 화살표들은 인트라 예측 모드들의 예측 방향들을 나타낼 수 있다. 또한, 화살표에 근접하게 표시된 숫자는 인트라 예측 모드 또는 인트라 예측 모드의 예측 방향에 할당된 모드 값의 일 예를 나타낼 수 있다.
인트라 부호화 및/또는 복호화는 대상 유닛의 주변의 유닛의 참조 샘플을 이용하여 수행될 수 있다. 주변의 유닛은 주변의 복원된 유닛일 수 있다. 예를 들면, 인트라 부호화 및/또는 복호화는 주변의 복원된 유닛이 포함하는 참조 샘플의 값 또는 부호화 파라미터를 이용하여 수행될 수 있다.
부호화 장치(100) 및/또는 복호화 장치(200)는 현재 픽쳐 내의 샘플의 정보에 기초하여 대상 유닛에 대한 인트라 예측을 수행함으로써 예측 블록을 생성할 수 있다. 인트라 예측을 수행할 때, 부호화 장치(100) 및/또는 복호화 장치(200)는 현재 픽쳐 내의 샘플의 정보에 기반하여 인트라 예측을 수행함으로써 대상 유닛에 대한 예측 블록을 생성할 수 있다. 인트라 예측을 수행할 때, 부호화 장치(100) 및/또는 복호화 장치(200)는 적어도 하나의 복원된 참조 샘플에 기반하여 방향성 예측 및/또는 비방향성 예측을 수행할 수 있다.
예측 블록은 인트라 예측의 수행의 결과로 생성된 블록을 의미할 수 있다. 예측 블록은 CU, PU 및 TU 중 적어도 하나에 해당할 수 있다.
예측 블록의 단위는 CU, PU 및 TU 중 적어도 하나의 크기일 수 있다. 예측 블록은 2Nx2N의 크기 또는 NxN의 크기를 갖는, 정사각형의 형태를 가질 수 있다. NxN의 크기는 4x4, 8x8, 16x16, 32x32 및 64x64 등을 포함할 수 있다.
또는, 예측 블록은 2x2, 4x4, 16x16, 32x32 또는 64x64 등의 크기를 갖는 정사각형의 형태의 블록일 수 있고, 2x8, 4x8, 2x16, 4x16 및 8x16 등의 크기를 갖는 직사각형 모양의 블록일 수도 있다.
인트라 예측은 대상 유닛에 대한 인트라 예측 모드에 따라 수행될 수 있다. 대상 유닛이 가질 수 있는 인트라 예측 모드의 개수는 기정의된 고정된 값일 수 있으며, 예측 블록의 속성에 따라 다르게 결정된 값일 수 있다. 예를 들면, 예측 블록의 속성은 예측 블록의 크기 및 예측 블록의 타입 등을 포함할 수 있다.
예를 들면, 인트라 예측 모드의 개수는 예측 유닛의 크기에 관계없이 35개로 고정될 수 있다. 또는, 예를 들면, 인트라 예측 모드의 개수는 3, 5, 9, 17, 34, 35 또는 36 등일 수 있다.
인트라 예측 모드는 도 6에서 도시된 것과 같이 2개의 비방향성 모드들 및 33개의 방향성 모드들을 포함할 수 있다. 2개의 비방향성 모드들은 디씨(DC) 모드 및 플래너(Planar) 모드를 포함할 수 있다.
예를 들면, 모드 값이 26인 수직 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수직 방향으로 예측이 수행될 수 있다. 예를 들면, 모드 값이 10인 수평 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수평 방향으로 예측이 수행될 수 있다. 예를 들면, 모드 값이 26인 수직 모드의 경우, 참조 샘플의 픽셀 값에 기반하여 수직 방향으로 예측이 수행될 수 있다.
전술된 모드 이외의 방향성 모드인 경우에도 부호화 장치(100) 및 복호화 장치(200)는 방향성 모드에 대응하는 각도에 따라 참조 샘플을 이용하여 대상 유닛에 대한 인트라 예측을 수행할 수 있다.
수직 모드의 우측에 위치한 인트라 예측 모드는 수직 우측 모드(vertical-right mode)로 명명될 수 있다. 수평 모드의 하단에 위치한 인트라 예측 모드는 수형 하단 모드(horizontal-below mode)로 명명될 수 있다. 예를 들면, 도 6에서, 모드 값이 27, 28, 29, 30, 31, 32, 33 및 34 중 하나인 인트라 예측 모드들은 수직 우측 모드들(613)일 수 있다. 모드 값이 2, 3, 4, 5, 6, 7, 8 및 9 중 하나인 인트라 예측 모드들은 수평 하단 모드들(616)일 수 있다.
비방향성 모드는 디씨(DC) 모드 및 플래너(planar) 모드를 포함할 수 있다. 예를 들면, 디씨 모드의 모드 값은 1일 수 있다. 플래너 모드의 모드 값은 0일 수 있다.
방향성 모드는 각진(angular) 모드를 포함할 수 있다. 복수의 인트라 예측 모드들 중 DC 모드 및 플래너 모드를 제외한 나머지의 모드는 방향성 모드일 수 있다.
DC 모드인 경우, 복수의 참조 샘플들의 픽셀 값들의 평균에 기반하여 예측 블록이 생성될 수 있다. 예를 들면, 예측 블록의 픽셀의 값은 복수의 참조 샘플들의 픽셀 값들의 평균에 기반하여 결정될 수 있다.
전술된 인트라 예측 모드들의 개수 및 각 인트라 예측 모드들의 모드 값은 단지 예시적인 것일 수 있다. 전술된 인트라 예측 모드들의 개수 및 각 인트라 예측 모드들의 모드 값은 실시예, 구현 및/또는 필요에 따라 다르게 정의될 수도 있다.
인트라 예측 모드의 개수는 색 성분(color component)의 타입에 따라 상이할 수 있다. 예를 들면, 색 성분이 휘도(luma) 신호인지 아니면 색차(chroma) 신호인지에 따라 예측 모드의 개수가 다를 수 있다.
도 7은 인트라 예측 과정에서 사용되는 참조 샘플의 위치를 설명하기 위한 도면이다.
도 7은 대상 유닛의 인트라 예측을 위해 사용되는 참조 샘플의 위치를 도시한다. 도 7을 참조하면, 현재 블록의 인트라 예측에 사용되는 복원된 참조 픽셀에는 예를 들어, 참조 샘플은 하단 좌측(below-left) 참조 샘플들(731), 좌측(left) 참조 샘플들(733), 상단 좌측(above-left) 코너 참조 샘플(735), 상단(above) 참조 샘플들(737) 및 상단 우측(above-right) 참조 샘플들(739) 등을 포함할 수 있다.
예를 들면, 좌측 참조 샘플들(733)은 대상 유닛의 좌측에 인접한 복원된 참조 픽셀을 의미할 수 있다. 상단 참조 샘플들(737)은 대상 유닛의 상단에 인접한 복원된 참조 픽셀을 의미할 수 있다. 상단 좌측 코너 참조 픽셀(735)은 대상 유닛의 상단 좌측 코너에 위치한 복원된 참조 픽셀을 의미할 수 있다. 또한, 하단 좌측 참조 샘플들(731)은 좌측 참조 샘플들(733)로 구성된 좌측 샘플 라인과 동일 선상에 위치한 샘플들 중에서 좌측 샘플 라인의 하단에 위치한 참조 샘플을 의미할 수 있다. 상단 우측 참조 샘플들(739)은 상단 참조 샘플들(737)로 구성된 상단 샘플 라인과 동일 선상에 위치한 샘플들 중에서 상단 픽셀 라인의 우측에 위치한 참조 샘플들을 의미할 수 있다.
대상 유닛의 크기가 NxN일 때, 하단 좌측 참조 샘플들(731), 좌측 참조 샘플들(733), 상단 참조 샘플들(737) 및 상단 우측 참조 샘플들(739)은 각각 N개일 수 있다.
대상 유닛에 대한 인트라 예측을 통해 예측 블록이 생성될 수 있다. 예측 블록의 생성은 예측 블록의 픽셀들의 값이 결정되는 것을 포함할 수 있다. 대상 유닛 및 예측 블록의 크기는 동일할 수 있다.
대상 유닛의 인트라 예측에 사용되는 참조 샘플은 대상 유닛의 인트라 예측 모드에 따라 달라질 수 있다. 인트라 예측 모드의 방향은 참조 샘플들 및 예측 블록의 픽셀들 간의 의존 관계를 나타낼 수 있다. 예를 들면, 특정된 참조 샘플의 값이 예측 블록의 특정된 하나 이상의 픽셀들의 값으로서 사용될 수 있다. 이 경우, 특정된 참조 샘플 및 예측 블록의 특정된 하나 이상의 픽셀들은 인트라 예측 모드의 방향의 직선으로 지정되는 샘플 및 픽셀들일 수 있다. 말하자면, 특정된 참조 샘플의 값은 인트라 예측 모드의 방향의 역방향에 위치한 픽셀의 값으로 복사될 수 있다. 또는, 예측 블록의 픽셀의 값은 상기의 픽셀의 위치를 기준으로 인트라 예측 모드의 방향에 위치한 참조 샘플의 값일 수 있다.
예를 들면, 대상 유닛의 인트라 예측 모드가 모드 값이 26인 수직 모드인 경우, 상단 참조 샘플들(737)이 인트라 예측에 사용될 수 있다. 인트라 예측 모드가 수직 모드인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀의 위치를 기준으로 수직으로 위에 위치한 참조 픽셀의 값일 수 있다. 따라서, 대상 유닛에 상단으로 인접한 상단 참조 샘플들(737)이 인트라 예측을 위해 사용될 수 있다. 또한, 예측 블록의 한 행의 픽셀들의 값들은 상단 참조 샘플들(737)의 값들과 동일할 수 있다.
예를 들면, 현재 블록의 인트라 예측 모드가 모드 값이 10인 수평 모드인 경우, 좌측 참조 샘플들(733)이 인트라 예측에 사용될 수 있다. 인트라 예측 모드가 수평 모드인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀을 기준으로 수평으로 좌측에 위치한 참조 픽셀의 값일 수 있다. 따라서, 대상 유닛에 좌측으로 인접한 좌측 참조 샘플들(733)이 인트라 예측을 위해 사용될 수 있다. 또한, 예측 블록의 한 열의 픽셀들의 값들은 좌측 참조 샘플들(733)의 값들과 동일할 수 있다.
예를 들면, 현재 블록의 인트라 예측 모드의 모드 값이 18인 경우 좌측 참조 샘플들(733)의 적어도 일부, 상단 좌측 코너 참조 샘플(735) 및 상단 참조 샘플들(737)의 적어도 일부 인트라 예측에 사용될 수 있다. 인트라 예측 모드의 모드 값이 18인 경우, 예측 블록의 픽셀의 값은 상기의 픽셀을 기준으로 대각선으로 상단 좌측에 위치한 참조 픽셀의 값일 수 있다.
또한, 모드 값이 27, 28, 29, 30, 31, 32, 33 또는 34인 인트라 예측 모드가 사용되는 경우에는 상단 우측 참조 픽셀들(439) 중 적어도 일부가 인트라 예측에 사용될 수 있다.
또한, 모드 값이 2, 3, 4, 5, 6, 7, 8 또는 9인 인트라 예측 모드가 사용되는 경우에는 하단 좌측 참조 픽셀들(431) 중 적어도 일부가 인트라 예측에 사용될 수 있다.
또한, 모드 값이 11 내지 25 중 하나인 인트라 예측 모드가 사용되는 경우에는 상단 좌측 코너 참조 샘플들(735)이 인트라 예측에 사용될 수 있다.
예측 블록의 하나의 픽셀의 픽셀 값을 결정하기 위해 사용되는 참조 샘플은 1개일 수 있고, 2개 이상일 수도 있다.
전술된 것과 같이 예측 블록의 픽셀의 픽셀 값은 상기의 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치에 따라 결정될 수 있다. 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 정수 위치인 경우, 정수 위치가 가리키는 하나의 참조 샘플의 값이 예측 블록의 픽셀의 픽셀 값을 결정하기 위해 사용될 수 있다.
픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 정수 위치가 아닌 경우, 참조 샘플의 위치에 가장 가까운 2개의 참조 샘플들에 기반하여 보간된(interpolated) 참조 샘플이 생성될 수 있다. 보간된 참조 샘플의 값이 예측 블록의 픽셀의 픽셀 값을 결정하기 위해 사용될 수 있다. 말하자면, 예측 블록의 픽셀의 위치 및 인트라 예측 모드의 방향에 의해 가리켜지는 참조 샘플의 위치가 2개의 참조 샘플들 간의 사이를 나타낼 때, 상기의 2개의 샘플들의 값들에 기반하여 보간된 값이 생성될 수 있다.
예측에 의해 생성된 예측 블록은 원래의 대상 유닛과는 동일하지 않을 수 있다. 말하자면, 대상 유닛 및 예측 블록 간의 차이인 예측 오차가 존재할 수 있으며, 대상 유닛의 픽셀 및 예측 블록의 픽셀 간에도 예측 오차가 존재할 수 있다. 예를 들면, 방향성 인트라 예측의 경우, 예측 블록의 픽셀 및 참조 샘플 간의 거리가 더 멀수록 더 큰 예측 오차가 발생할 수 있다. 이러한 예측 오차에 등 의해 생성된 예측 블록 및 주변 블록 간에는 불연속성이 발생할 수 있다.
예측 오차의 감소를 위해 예측 블록에 대한 필터링이 사용될 수 있다. 필터링은 예측 블록 중 큰 예측 오차를 갖는 것으로 간주되는 영역에 대해 적응적으로 필터를 적용하는 것일 수 있다. 예를 들면, 큰 예측 오차를 갖는 것으로 간주되는 영역은 예측 블록의 경계일 수 있다. 또한, 인트라 예측 모드에 따라서 예측 블록 중 큰 예측 오차를 갖는 것으로 간주되는 영역이 다를 수 있으며, 필터의 특징이 다를 수 있다.
도 8은 인터 예측 과정의 실시예를 설명하기 위한 도면이다.
도 8에 도시된 사각형은 영상(또는, 픽쳐)를 나타낼 수 있다. 또한, 도 8에서 화살표는 예측 방향을 나타낼 수 있다. 즉, 영상은 예측 방향에 따라 부호화 및/또는 복호화될 수 있다.
각 영상(또는, 픽쳐)는 부호화 타입에 따라 I 픽쳐(Intra Picture), P 픽쳐(Uni-prediction Picture), B 픽쳐(Bi-prediction Picture)로 분류될 수 있다. 각 픽쳐는 각 픽쳐의 부호화 타입에 따라 부호화될 수 있다.
부호화의 대상인 영상이 I 픽쳐인 경우, 영상은 인터 예측 없이 영상 자체에 대해 부호화될 수 있다. 부호화의 대상인 영상이 P 픽쳐인 경우, 영상은 순방향으로만 참조 픽쳐를 이용하는 인터 예측을 통해 부호화될 수 있다. 부호화의 대상인 영상이 B 픽쳐인 경우, 순방향 및 역방향의 양측으로 참조 픽쳐들을 이용하는 인터 예측을 통해 부호화될 수 있으며, 순방향 및 역방향 중 일 방향으로 참조 픽쳐를 이용하는 인터 예측을 통해 부호화될 수 있다.
참조 픽쳐를 이용하여 부호화 및/또는 복호화되는 P 픽쳐 및 B 픽쳐는 인터 예측이 사용되는 영상으로 간주될 수 있다.
아래에서, 실시예에 따른 인터 모드에서의 인터 예측에 대해 구체적으로 설명된다.
인터 모드에서, 부호화 장치(100) 및 복호화 장치(200)는 부호화 대상 유닛 및 복호화 대상 유닛에 대한 예측 및/또는 움직임 보상을 수행할 수 있다. 예를 들면, 부호화 장치(100) 또는 복호화 장치(200)는 복원된 주변 유닛의 움직임 정보를 부호화 대상 유닛 또는 복호화 대상 유닛의 움직임 정보로 사용함으로써 예측 및/또는 움직임 보상을 수행할 수 있다. 여기에서, 부호화 대상 유닛 또는 복호화 대상 유닛은 예측 유닛 및/또는 예측 유닛 파티션을 의미할 수 있다.
인터 예측은 참조 픽쳐 및 움직임 정보를 이용하여 수행될 수 있다. 또한, 인터 예측은 전술된 스킵 모드를 이용할 수도 있다.
참조 픽쳐(reference picture)는 현재 픽쳐의 이전 픽쳐 또는 현재 픽쳐의 이후 픽쳐 중 적어도 하나일 수 있다. 이때, 인터 예측은 참조 픽쳐에 기반하여 현재 픽쳐의 블록에 대한 예측을 수행할 수 있다. 여기에서, 참조 픽쳐는 블록의 예측에 이용되는 영상을 의미할 수 있다.
이때, 참조 픽쳐 내의 영역은 참조 픽쳐를 지시하는 참조 픽쳐 인덱스(refIdx) 및 후술될 움직임 벡터(motion vector) 등을 이용함으로써 특정될 수 있다.
인터 예측은 참조 픽쳐 및 참조 픽쳐 내에서 현재 블록에 대응하는 참조 블록을 선택할 수 있고, 선택된 참조 블록을 사용하여 현재 블록에 대한 예측 블록을 생성할 수 있다. 현재 블록은 현재 픽쳐의 블록들 중 현재 부호화 또는 복호화의 대상인 블록일 수 있다.
움직임 정보는 부호화 장치(100) 및 복호화 장치(200)의 각각에 의해 인터 예측 중 도출될 수 있다. 또한, 도출된 움직임 정보는 인터 예측을 수행하는데 사용될 수 있다.
이때, 부호화 장치(100) 및 복호화 장치(200)는 복원된 주변 블록(neighboring block)의 움직임 정보 및/또는 콜 블록(collocated block; col block)의 움직임 정보를 이용함으로써 부호화 효율 및/또는 복호화 효율을 향상시킬 수 있다. 콜 블록은 이미 복원된 콜 픽쳐(collocated picture; col picture) 내의 현재 블록에 대응하는 블록일 수 있다.
복원된 주변 블록은 현재 픽쳐 내의 블록이면서, 이미 부호화 및/또는 복호화를 통해 복원된 블록일 수 있다. 복원된 블록은 현재 블록에 인접한 이웃 블록 및/또는 현재 블록의 외부 코너에 위치한 블록일 수 있다. 여기에서, 현재 블록의 외부 코너에 위치한 블록이란, 현재 블록에 가로로 인접한 이웃 블록에 세로로 인접한 블록 또는 현재 블록에 세로로 인접한 이웃 블록에 가로로 인접한 블록일 수 있다.
예를 들면, 복원된 주변 유닛은 대상 유닛의 좌측에 위치한 유닛, 대상 유닛의 상단에 위치한 유닛, 대상 유닛의 좌측 하단 코너에 위치한 유닛, 대상 유닛의 우측 상단 코너에 위치한 유닛 또는 대상 유닛의 좌측 상단 코너에 위치한 유닛일 수 있다.
부호화 장치(100) 및 복호화 장치(200)의 각각은 콜 픽쳐 내에서 공간적으로 현재 블록에 대응하는 위치에 존재하는 블록을 결정할 수 있고, 결정된 블록을 기준으로 기정의된 상대적인 위치를 결정할 수 있다. 기정의된 상대적인 위치는 공간적으로 현재 블록에 대응하는 위치에 존재하는 블록의 내부 및/또는 외부의 위치일 수 있다. 또한, 부호화 장치(100) 및 복호화 장치(200)의 각각은 결정된 기정의된 상대적인 위치에 기반하여 콜 블록을 도출할 수 있다. 여기서, 콜 픽쳐는 참조 픽쳐 리스트에 포함된 적어도 하나의 참조 픽쳐 중에서 하나의 픽쳐일 수 있다.
참조 픽쳐 내의 블록은 복원된 참조 픽쳐 내에서 현재 블록의 위치에 공간적으로 대응되는 위치에 존재할 수 있다. 말하자면, 현재 픽쳐 내에서의 현재 블록의 위치 및 참조 픽쳐 내에서의 블록의 위치는 서로 대응할 수 있다. 이하, 참조 픽쳐에 포함된 블록의 움직임 정보는 시간적 움직임 정보로 불릴 수 있다.
움직임 정보의 도출 방식은 현재 블록의 예측 모드에 따라 변할 수 있다. 예를 들면, 인터 예측을 위해 적용되는 예측 모드로서, 향상된 움직임 벡터 예측자(Advanced Motion Vector Predictor; AMVP) 및 머지(merge) 등이 있을 수 있다.
예를 들면, 예측 모드로서, AMVP가 적용되는 경우, 부호화 장치(100) 및 복호화 장치(200)의 각각은 복원된 주변 블록의 움직임 벡터 및/또는 콜 블록의 움직임 벡터를 이용하여 예측 움직임 벡터 후보 리스트를 생성할 수 있다. 복원된 주변 블록의 움직임 벡터 및/또는 콜 블록의 움직임 벡터는 예측 움직임 벡터 후보로 사용될 수 있다.
부호화 장치(100)에 의해 생성된 비트스트림은 예측 움직임 벡터 인덱스를 포함할 수 있다. 예측 움직임 벡터 인덱스는 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보 중에서 선택된 최적의 예측 움직임 벡터를 지시할 수 있다. 비트스트림을 통해 예측 움직임 벡터 인덱스는 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다.
복호화 장치(200)는 예측 움직임 벡터 인덱스를 이용하여 예측 움직임 벡터 후보 리스트에 포함된 예측 움직임 벡터 후보 중에서 현재 블록의 예측 움직임 벡터를 선택할 수 있다.
부호화 장치(100)는 현재 블록의 움직임 벡터 및 예측 움직임 벡터 간의 움직임 벡터 차분(MVD: Motion Vector Difference)을 계산할 수 있고, MVD를 부호화할 수 있다. 비트스트림은 부호화된 MVD를 포함할 수 있다. MVD는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다. 이 때, 복호화 장치(200)는 수신된 MVD를 복호화할 수 있다. 복호화 장치(200)는 복호화된 MVD 및 예측 움직임 벡터의 합을 통해 현재 블록의 움직임 벡터를 도출할 수 있다.
비트스트림은 참조 픽쳐를 지시하는 참조 픽쳐 인덱스 등을 포함할 수 있다. 참조 픽쳐 인덱스는 비트스트림을 통해 부호화 장치(100)로부터 복호화 장치(200)로 전송될 수 있다. 복호화 장치(200)는 주변 블록의 움직임 정보들을 이용하여 현재 블록의 움직임 벡터를 예측할 수 있고, 예측된 움직임 벡터 및 움직임 벡터 차분을 이용하여 현재 블록의 움직임 벡터를 유도할 수 있다. 복호화 장치(200)는 유도된 움직임 벡터와 참조 픽쳐 인덱스 정보에 기반하여 현재 블록에 대한 예측 블록을 생성할 수 있다.
부호화 대상 유닛 및 복호화 대상 유닛에 대해서 복원된 주변 유닛의 움직임 정보가 사용될 수 있기 때문에, 특정한 인터 예측 모드에서는, 부호화 장치(100)가 대상 유닛에 대한 움직임 정보를 별도로 부호화하지 않을 수도 있다. 대상 유닛의 움직임 정보가 부호화되지 않으면, 복호화 장치(200)로 전송되는 비트량이 감소될 수 있고, 부호화 효율이 향상될 수 있다. 예를 들면, 이러한 대상 유닛의 움직임 정보가 부호화되지 않는 인터 예측 모드로서, 스킵 모드(skip mode) 및/또는 머지 모드(merge mode) 등이 있을 수 있다. 이때, 부호화 장치(100) 및 복호화 장치(200)는 복원된 주변 유닛 중 어떤 유닛의 움직임 정보를 대상 유닛의 움직임 정보로서 사용되는지를 지시하는 식별자 및/또는 인덱스를 사용할 수 있다.
움직임 정보의 도출 방식의 다른 예로, 머지(merge)가 있다. 머지란 복수의 블록들에 대한 움직임의 병합을 의미할 수 있다. 머지는 하나의 블록의 움직임 정보를 다른 블록에도 함께 적용시키는 것을 의미할 수 있다. 머지가 적용되는 경우, 부호화 장치(100) 및 복호화 장치(200)의 각각은 복원된 주변 블록의 움직임 정보 및/또는 콜 블록의 움직임 정보를 이용하여 머지 후보 목록(merge candidate list)를 생성할 수 있다. 움직임 정보는 1) 움직임 벡터, 2) 참조 영상에 대한 인덱스, 및 3) 예측 방향 중 적어도 하나를 포함할 수 있다. 예측 방향은 단방향 또는 양방향일 수 있다.
이때, 머지는 CU 단위 또는 PU 단위로 적용될 수 있다. CU 단위 또는 PU 단위로 머지가 수행되는 경우, 부호화 장치(100)는 비트스트림을 통해 기정의된 정보를 복호화 장치(200)로 전송할 수 있다. 비트스트림은 기정의된 정보를 포함할 수 있다. 기정의된 정보는, 1) 블록 파티션(partition)별로 머지를 수행할지 여부를 나타내는 정보, 2) 현재 블록에 인접한 주변 블록들 중 어떤 블록과 머지를 할 것인가에 대한 정보를 포함할 수 있다. 예를 들면, 현재 블록의 주변 블록들은 현재 블록의 좌측 인접 블록, 현재 블록의 상단 인접 블록 및 현재 블록의 시간적(temporal) 인접 블록 등을 포함할 수 있다.
머지 후보 목록은 움직임 정보들이 저장된 목록을 나타낼 수 있다. 또한, 머지 후보 목록은 머지가 수행되기 전에 생성될 수 있다. 머지 후보 목록에 저장되는 움직임 정보는, 1) 현재 블록에 인접한 주변 블록의 움직임 정보 또는 2) 참조 영상 에서 현재 블록에 대응하는 콜 블록(collocated block) 움직임 정보일 수 있다. 또한, 머지 후보 목록에 저장된 움직임 정보는 이미 머지 후보 목록에 존재하는 움직임 정보들의 조합에 의해 생성된 새로운 움직임 정보일 수 있다.
스킵 모드는 주변 블록의 정보를 그대로 현재 블록에 적용하는 모드일 수 있다. 스킵 모드는 인터 예측에 이용되는 모드 중 하나일 수 있다. 스킵 모드가 사용되는 경우, 부호화 장치(100)는 어떤 블록의 움직임 정보를 현재 블록의 움직임 정보로서 이용할 것인지에 대한 정보만을 비트스트림을 통해 복호화 장치(200)에 전송할 수 있다. 부호화 장치(100)는 다른 정보는 복호화 장치(200)에 전송하지 않을 수 있다. 예를 들면, 다른 정보는 신택스(syntax) 정보일 수 있다. 신택스 정보는 움직임 벡터 차분 정보를 포함할 수 있다.
도 9는 일 예에 따른 현재 블록의 부분에 대한 제2 예측을 나타낸다.
도 9에서 도시된 현재 블록은 PU일 수 있다.
현재 블록에 대한 최적의 인트라 예측이 수행될 경우, 현재 블록의 전체에 대해 하나의 방향으로만 에측이 되기 때문에, 일 부분에서 큰 예측 오차가 발생할 수 있다.
큰 예측 오차가 발생하는 부분에 대해, 현재 블록을 비정방(non-sqaure)형으로 분할하는 방식이 사용될 수 있다.
말하자면, 정방형인 예측 단위에 대해 제1 예측이 수행된 후, 큰 예측 오차를 갖는 일 부분에 대해 다른 예측 모드의 제2 예측이 수행된다면, 현재 블록에 대한 예측 오차가 감소될 수 있다.
예를 들면, 제1 예측 모드 및 제2 예측 모드는 인트라 예측 모드일 수 있다.
도 9에서, 현재 블록은 정방형일 수 있다. 현재 블록의 전체에 대한 제1 예측의 예측 방향이 도시되었다. 예를 들면, 제1 예측의 예측 모드는 26의 값을 갖는 수직 모드일 수 있다.
현재 블록은 제1 부분 및 제2 부분으로 분할될 수 있다. 제1 부분 및 제2 부분의 각각은 비정방형일 수 있다.
도 9에서, 제1 부분에 대한 제2 예측의 예측 방향이 도시되었고, 제2 부분에 대한 제2 예측의 예측 방향이 도시되었다. 예를 들면, 제1 부분에 대한 제2 예측의 예측 모드는 10의 값을 갖는 수평 모드일 수 있다. 제2 부분에 대한 제2 예측의 예측 모드는 34의 값을 갖는 최하단 대각 모드일 수 있다.
큰 예측 오차를 갖는 일부분의 형태는 현재 블록의 최적의 예측 모드의 방향에 상응할 수 있다. 아래의 실시예에서는, 큰 예측 오차를 갖는 일부분의 형태가 현재 블록의 최적의 예측 모드의 방향에 상응한다는 경향을 효율적으로 사용함으로써 예측의 성능을 향상시키고, 예측 오차를 감소시키는 방법 및 장치가 설명될 수 있다.
도 10은 일 실시예에 따른 부호화 장치의 구조도이다.
부호화 장치(1000)는 부호화를 수행하는 범용의 컴퓨터 시스템일 수 있다.
도 10에서 도시된 바와 같이, 부호화 장치(1000)는 버스(1090)를 통하여 서로 통신하는 적어도 하나의 프로세서(1010), 메모리(1030), 사용자 인터페이스(User Interface; UI) 입력 디바이스(1050), UI 출력 디바이스(1060) 및 저장소(1040)를 포함할 수 있다. 또한, 부호화 장치(1000)는 네트워크(1099)에 연결되는 통신부(1020)를 더 포함할 수 있다. 프로세서(1010)는 중앙 처리 장치(Central Processing Unit; CPU), 메모리(1030) 또는 저장소(1040)에 저장된 프로세싱(processing) 명령어(instruction)들을 실행하는 반도체 장치일 수 있다. 메모리(1030) 및 저장소(1040)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들면, 메모리는 롬(ROM)(1031) 및 램(RAM)(1032) 중 적어도 하나를 포함할 수 있다.
프로세서(1010)는 부호화 장치(100)의 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 복호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽쳐 버퍼(190)를 포함할 수 있다.
기록 매체는 부호화 장치(1000)의 동작을 위한 적어도 하나의 모듈을 저장할 수 있다. 메모리(1030)는 적어도 하나의 모듈을 저장할 수 있고, 적어도 하나의 프로세서(1010)에 의하여 실행되도록 구성될 수 있다.
일 실시예에 따르면, 부호화 장치(100)의 인터 예측부(110), 인트라 예측부(120), 스위치(115), 감산기(125), 변환부(130), 양자화부(140), 엔트로피 복호화부(150), 역양자화부(160), 역변환부(170), 가산기(175), 필터부(180) 및 참조 픽쳐 버퍼(190)의 적어도 일부는 프로그램 모듈들일 수 있으며, 외부의 장치 또는 시스템과 통신할 수 있다. 프로그램 모듈들은 운영 체제, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 부호화 장치(1000)에 포함될 수 있다.
프로그램 모듈들은 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈 중 적어도 일부는 부호화 장치(1000)와 통신 가능한 원격 기억 장치 에 저장될 수도 있다.
프로그램 모듈들은 일 실시예에 따른 기능 또는 동작을 수행하거나, 일 실시예에 따른 추상 데이터 유형을 구현하는 루틴(routine), 서브루틴(subroutine), 프로그램, 오브젝트(object), 컴포넌트(component) 및 데이터 구조(data structure) 등을 포괄할 수 있지만, 이에 제한되지는 않는다.
프로그램 모듈들은 프로세서(1010)에 의해 수행되는 명령어(instruction) 또는 코드(code)로 구성될 수 있다.
부호화 장치(1000)의 데이터 또는 정보의 통신과 관련된 기능은 통신부(1020)를 통해 수행될 수 있다.
도 11은 일 실시예에 따른 부호화 방법의 흐름도이다.
실시예의 부호화 방법은 부호화 장치(100) 또는 부호화 장치(1000)에 의해 수행될 수 있다.
단계(1110)에서, 예측부는 현재 블록, 제1 예측 및 제2 예측에 기반하여 현재 블록의 잔차 신호를 생성할 수 있다.
예측부는 인터 예측부(110), 인트라 예측부(120) 및 감산기(125)를 포함할 수 있다.
예를 들면, 잔차 신호는 잔차 블록을 나타낼 수 있다.
예를 들면, 잔차 블록은 현재 블록 및 예측 블록의 차분일 수 있다. 또는, 잔차 블록은 현재 블록 및 예측 블록의 차분에 기반하여 생성될 수 있다.
예를 들면, 예측 블록은 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 잔차 블록은 현재 블록에서 제1 예측 블록 및 제2 예측 블록의 합을 뺀 것일 수 있다.
제1 예측 블록은 제1 예측에 의해 생성된 블록일 수 있다. 제2 예측 블록은 제2 예측에 의해 생성된 블록일 수 있다. 제2 예측이 사용되지 않은 경우 제2 예측 블록은 널(null) 블록일 수 있다. 널 블록은 블록의 모든 픽셀들의 값들이 "0"인 블록일 수 있다.
예측부는 인터 예측 또는 인트라 예측을 수행함으로써 현재 블록의 잔차 블록을 생성할 수 있다.
일 실시예에서, 예측부는 현재 블록 및/또는 제1 예측 블록에 기반하여 제2 예측 블록을 생성할 수 있다.
일 실시예에서, 예측부는 현재 블록에 대하여 제1 예측을 수행하고, 제1 예측의 결과인 제1 예측 오차에 대해 제2 예측을 수행함으로써 현재 블록의 잔차 신호를 생성할 수 있다. 여기에서, 제1 예측 오차는 현재 블록 및 제1 예측 신호 간의 차이일 수 있다. 잔차 신호는 제1 예측 오차 및 제2 예측 신호 간의 차이일 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 상이한 종류의 예측들일 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 동일한 종류의 예측들일 수 있다. 예를 들면, 제1 예측 및 제2 예측의 각각은 인트라 예측일 수 있다. 제1 예측이 인트라 예측이면, 제2 예측도 인트라 예측으로 설정될 수 있다.
일 실시예에서, 제1 예측의 예측 방향 및 제2 예측의 예측 방향은 동일할 수 있다. 제2 예측의 예측 방향은 제1 예측의 예측 방향과 동일하게 설정될 수 있다.
예를 들면, 일 실시예에서, 제1 예측 및 제2 예측의 각각은 인터 예측일 수 있다.
일 실시예에서, 제1 예측의 대상인 블록 및 제2 예측의 대상인 블록은 서로 상이할 수 있다. 여기에서, "예측의 대상인 블록"은 "예측"이 어떤 블록에 대한 예측 블록을 생성하는가를 의미할 수 있다.
예를 들면, 제1 예측의 대상인 블록의 종류 및 제2 예측의 대상인 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 원본 블록, 루마(luma) 블록, 색차(chroma) 블록, 깊이(depth) 블록 및 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 대상인 블록은 현재 블록 또는 원본 블록일 수 있다.
예를 들면, 제1 예측에 의해 생성된 제1 예측 오차는 제1 예측 오차 블록을 나타낼 수 있다. 제1 예측 오차는 제1 잔차 신호일 수 있다. 또한, 제1 잔차 신호는 제1 잔차 블록을 나타낼 수 있다. 제2 예측의 대상인 블록은 제1 예측 오차 블록 또는 제1 잔차 블록일 수 있다. 이러한 경우, 제1 예측에 의해서는 제1 잔차 신호가 생성될 수 있고, 제2 예측에 의해서는 제2 예측에 제2 예측 오차가 생성될 수 있다. 제2 예측 오차는 제2 잔차 신호일 수 있다. 제2 잔차 신호는 제2 잔차 블록을 나타낼 수 있다.
예측을 위해서는 참조 블록이 사용될 수 있다. 일 실시예에서, 제1 예측의 제1 참조 블록 및 제2 예측의 제2 참조 블록은 서로 상이할 수 있다. 참조 블록들은 종류 및/또는 위치의 측면에서 서로 상이할 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 위치 및 제2 예측의 제2 참조 블록의 위치는 서로 상이할 수 있다. 여기에서, 제1 참조 블록의 위치는 제1 예측의 대상인 블록에 대한 상대적인 위치일 수 있다. 제2 참조 블록의 위치는 제2 예측의 대상인 블록에 대한 상대적인 위치일 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록은 복수일 수 있다. 제2 예측의 제2 참조 블록은 복수일 수 있다. 제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 부분은 서로 상이할 수 있다.
제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 하나의 블록의 위치는 복수의 제1 참조 블록들의 위치들 및 복수의 제2 참조 블록들의 위치들 중 하나에만 포함될 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 종류 및 제2 예측의 제2 참조 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 복원된 블록, 복원된 루마(luma) 블록, 복원된 색차(chroma) 블록, 복원된 깊이(depth) 블록, 복원된 제1 잔차 블록 및 복원된 제2 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 복원된 블록일 수 있다. 제2 예측의 제2 참조 블록은 복원된 제1 잔차 블록일 수 있다. 제1 예측의 제1 참조 샘플은 복원된 블록의 픽셀일 수 있다. 제2 예측의 제2 참조 샘플은 복원된 제1 잔차 블록의 픽셀일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록일 수 있다. 제2 예측의 제2 참조 블록은 현재 블록에 이웃한 복원된 제1 잔차 블록일 수 있다.
현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록의 복원된 잔차 블록에 복원된 이웃 블록의 제2 예측 블록을 더한 것일 수 있다. 또는, 현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록 및 복원된 이웃 블록의 제1 예측 블록 간의 차분일 수 있다.
예를 들면, 제1 예측의 대상이 현재 블록인 경우, 현재 블록에 대한 예측을 위해 참조 블록으로서 현재 블록의 주변의 복원된 블록이 사용될 수 있다. 제2 예측의 대상이 제1 잔차 블록인 경우, 제1 잔차 블록에 대한 예측을 위해 제2 참조 블록으로서 현재 블록 또는 제1 잔차 블록의 주변의 복원된 제1 잔차 블록이 사용될 수 있다.
일 실시예에서, 제1 예측의 영역 및 제2 예측의 영역은 서로 상이할 수 있다. 여기에서, "예측의 영역"은 예측의 대상인 블록 중 예측 값이 생성되는 영역을 나타낼 수 있다. 또는, "예측의 영역"은 예측의 대상인 블록에 대응하는 예측 블록 중 예측에 의해 생성된 예측 값이 할당되는 영역을 나타낼 수 있다.
일 실시예에서 제2 예측은 현재 블록의 부분에 대한 예측일 수 있다. 제1 예측은 현재 블록의 전체에 대한 예측일 수 있다. 또는, 제1 예측은 현재 블록 중 제2 예측에 의해 예측되는 부분을 제외한 나머지의 부분에 대한 예측일 수 있다.
예를 들면, 제2 예측의 영역은 현재 블록의 부분일 수 있다. 제1 예측의 영역은 현재 블록의 전체일 수 있다. 또는, 제1 예측의 영역은 현재 블록 중 제2 예측의 부분을 제외한 나머지의 부분일 수 있다.
예를 들면, 제2 예측의 영역은 현재 블록의 비정방형인 부분일 수 있다. 제1 예측의 영역은 현재 블록의 전체일 수 있다. 또는, 제1 예측의 영역은 현재 블록 중 제2 예측의 비정방형인 부분을 제외한 나머지의 비정방형인 부분일 수 있다.
예를 들면, 제1 예측의 대상인 블록 중 제1 예측의 영역 내의 픽셀에 대해서만 제1 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 제1 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 기정의된 값은 "0"일 수 있다.
예를 들면, 제2 예측의 대상인 블록 중 제2 예측의 영역 내의 픽셀에 대해서만 제2 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 제2 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
일 실시예에서, 제1 예측의 영역은 제1 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제1 예측의 영역은 제1 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측의 예측 방향에 기반하여 결정될 수 있다.
일 실시예에서, 제2 예측의 영역은 제2 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제2 예측의 영역은 제2 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측의 예측 방향에 기반하여 결정될 수 있다.
단계(1120)에서, 부호화부는 잔차 신호에 대한 부호화를 수행할 수 있다. 부호화부는 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성할 수 있다.
부호화부는 변환부(130), 양자화부(140) 및 엔트로피 부호화부(150)를 포함할 수 있다.
단계(1120)는 단계들(1121, 1122 및 1123)을 포함할 수 있다.
단계(1121)에서, 변환부(130)는 잔차 신호의 변환 계수를 생성할 수 있다.
단계(1122)에서, 양자화부(140)는 변환 계수에 대한 양자화를 수행함으로써 양자화된 변환 계수를 생성할 수 있다.
단계(1123)에서, 엔트로피 부호화부(150)는 양자화된 변환 계수에 대한 엔트로피 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성할 수 있다.
단계(1130)에서, 엔트로피 부호화부(150)는 부호화된 잔차 신호에 대한 정보를 포함하는 비트스트림을 생성할 수 있다.
비트스트림은 부호화된 잔차 신호에 대한 정보를 포함할 수 있고, 예측에 관련된 정보를 포함할 수 있다.
엔트로피 부호화부(150)는 예측에 관련된 정보를 비트스트림에 포함시킬 수 있다. 예측의 관련된 정보는 엔트로피 부호화될 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록이 어떠한 방식에 의해 부호화되었는지를 나타내는 예측 방식 정보를 포함할 수 있다.
예를 들면, 예측 방식 정보는 현재 블록이 인트라 예측 및 인트라 예측 중 어떤 예측으로 부호화되었는지를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인트라 예측에 의해 부호화되었는지 여부를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인터 예측에 의해 부호화되었는지 여부를 나타낼 수 있다.
예를 들면, 예측에 관련된 정보는 인트라 예측의 예측 모드를 나타내는 인트라 예측 모드 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록의 부호화에 있어서 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 제1 예측의 예측 모드를 나타내는 제1 예측 모드 정보 및 제2 예측의 예측 모드를 나타내는 제2 예측 모드 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록의 분할에 의해 생성된 2개의 부분들 중 제2 예측이 적용되는 선택된 부분을 나타내는 선택된 부분 정보를 포함할 수 있다.
예를 들면 예측에 관련된 정보는 현재 블록의 종류를 나타내는 현재 블록 종류 정보, 제1 예측 블록의 종류를 나타내는 제1 예측 블록 종류 정보, 제2 예측 블록의 종류를 나타내는 제2 예측 블록 종류 정보, 제1 참조 블록의 종류를 나타내는 제1 참조 블록 종류 정보, 제2 참조 블록의 종류를 나타내는 제2 참조 블록 종류 정보, 제1 참조 샘플의 종류를 나타내는 제1 참조 샘플 종류 정보 및 제2 참조 샘플의 종류를 나타내는 제2 참조 샘플 종류 정보 등을 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 제1 예측의 영역을 나타내는 제1 예측 영역 정보 및/또는 제2 예측의 제2 예측 영역을 나타내는 제2 예측 영역 정보를 포함할 수 있다.
예측에 관련된 정보는 실시예들에서 설명된 예측을 위해 사용된 정보를 포함할 수 있다. 엔트로피 부호화부(150)는 예측에 관련된 정보들을 실시예에서 설명된 순서 또는 실시예에 따른 생성의 순서에 따라서 비트스트림에 포함시킬 수 있다.
단계(1140)에서, 통신부(1020)는 비트스트림을 복호화 장치(200) 또는 복호화 장치(1700)로 전송할 수 있다.
단계(1150)에서, 복원된 잔차 신호 생성부는 잔차 신호에 대한 정보에 기반하여 복원된 잔차 신호를 생성할 수 있다.
복원된 잔차 신호 생성부는 역양자화부(160) 및 역변환부(170)를 포함할 수 있다.
단계(1150)는 단계들(1151 및 1152)를 포함할 수 있다.
단계(1151)에서, 역양자화부(160)는 양자화된 변환 계수에 대한 역양자화를 수행함으로써 복원된 변환 계수를 생성할 수 있다.
단계(1152)에서, 변환부(130)는 복원된 변환 계수에 대한 변환을 수행함으로써 복원된 잔차 신호를 생성할 수 있다.
단계(1160)에서, 복원된 블록 생성부는 복원된 잔차 신호, 제1 예측 및 제2 예측에 기반하여 복원된 블록을 생성할 수 있다.
복원된 블록 생성부는 가산부(175)를 포함할 수 있다.
예를 들면, 복원된 잔차 신호 및 예측 신호의 합은 복원된 블록을 나타낼 수 있다. 또는, 복원된 블록은 복원된 잔차 신호 및 예측 신호의 합에 기반하여 생성될 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합일 수 있다. 예측 블록은 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 제2 예측 신호는 현재 블록의 부분에 대한 제2 예측에 의해 생성된 신호일 수 있다. 제1 예측 신호는 현재 블록 또는 현재 블록에서 제2 예측의 부분을 제외한 나머지의 부분에 대한 제1 예측에 의해 생성된 신호일 수 있다.
또는, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합에 기반하여 생성될 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록, 제1 예측 블록 및 제2 예측 블록에 의해 생성된 블록일 수 있다. 복원된 블록 생성부는 복원된 잔차 신호 및 제2 예측 신호를 더함으로써 복원된 제1 잔차 신호를 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 잔차 신호 및 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다.
또는, 복원된 블록 생성부는 복원된 잔차 블록 및 제2 예측 블록을 더함으로써 복원된 제1 잔차 블록을 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 잔차 블록 및 제1 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
복원된 블록 및 복원된 제1 잔차 신호는 다른 블록의 부호화를 위한 참조 블록으로서 사용될 수 있다.
도 12는 일 실시예에 따른 현재 블록의 분할을 나타낸다.
도 12에서는, NxN의 크기의 현재 블록이 도시되었다.
현재 블록은 2개의 부분들로 분할될 수 있다. 2개의 부분들은 현재 블록의 중심을 제1 예측의 예측 방향으로 지나는 직선에 기반하여 결정될 수 있다. 도 12에서, 제1 예측의 예측 방향은 3의 모드 값을 갖는 예측 모드의 예측 방향일 수 있다.
제1 예측은 현재 블록에 대한 인트라 예측을 통해 획득된 첫 번째의 최적의 예측 모드를 사용하는 예측일 수 있다.
현재 블록은 제1 예측의 예측 모드를 이용하여 2개의 부분들의 픽셀들의 개수들이 동일하도록 2개의 부분들로 분할될 수 있다.
여기에서, 제1 예측의 예측 방향으로 현재 블록이 분할되는 것은, 인트라 예측에 의해 현재 블록에 대한 예측이 수행된 경우, 예측 방향으로 특정된 구간에서 큰 예측 오차가 발생하는 경향이 있기 때문일 수 있다.
도 12에서, 2개의 부분들은 S1 및 S2로 도시되었다. x 좌표의 값이 i인 점들 중, y 좌표의 값이 j2인 점은 S1에 포함될 수 있다. x 좌표의 값이 i인 점들 중, y 좌표의 값이 j1인 점은 S2에 포함될 수 있다.
예측 모드의 예측 방향은 아래의 수학식 2, 수학식 3, 수학식 4, 수학식 5, 수학식 6 및 표 1에 따라서 계산될 수 있다.
모드 값이 0 또는 1인 예측 모드는 비방향성 예측 모드이기 때문에 분할에서 제외될 수 있다.
Figure PCTKR2017000967-appb-M000002
predMode는 예측 모드의 번호를 나타낼 수 있다. vertical은 예측 모드가 수직 모드에 해당함을 나타낼 수 있다. horizontal은 예측 모드가 수평 모드에 해당함을 나타낼 수 있다.
Figure PCTKR2017000967-appb-M000003
Figure PCTKR2017000967-appb-M000004
Figure PCTKR2017000967-appb-M000005
Figure PCTKR2017000967-appb-M000006
absAngle의 값은 아래의 표 1과 같이 정의될 수 있다.
absAngle 0 1 2 3 4 5 6 7 8
value 0 2 5 9 13 17 21 26 32
예측 모드의 Tan의 값이 계산되면, 현재 블록 중 좌표 (i, j)의 픽셀은 아래의 수학식 7에 따라서 부분 S0 및 부분 S1 중 적어도 하나에 포함될 수 있다.
Figure PCTKR2017000967-appb-M000007
예측 모드 PredMode의 모드 값이 3, 18 또는 34인 경우, Tan의 값은 -1 또는 +1 일 수 있다. 이 경우, 현재 블록을 분할하는 직선 상의 픽셀은 2개의 부분들 S0 및 S1의 각각에 포함될 수 있다.
말하자면, 현재 블록이 현재 블록의 중심을 지나는 직선에 의해 2개의 부분들로 분할될 때 현재 블록 중 직선 상에 놓인 픽셀들은 2개의 부분들의 각각에 포함될 수 있다.
도 13은 일 실시예에 따른 잔차 블록의 생성 방법의 흐름도이다.
도 11을 참조하여 전술된 단계(1110)는 단계들(1310, 1320, 1330, 1335, 1340, 1345, 1350, 1355, 1360, 1370 및 1380)을 포함할 수 있다.
일 실시예에서, 제1 예측의 대상인 블록은 현재 블록일 수 있다. 제1 예측은 인트라 예측일 수 있다.
단계(1310)에서, 예측부는 현재 블록에 대한 제1 예측을 수행함으로써 제1 예측 신호를 생성할 수 있다.
제1 예측 신호는 제1 예측 블록을 나타낼 수 있다.
예측부는 현재 블록의 부호화를 위한 최적의 제1 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제1 예측을 수행할 수 있다. 말하자면, 단계(1310)는 복수의 예측 모드들의 각 예측 모드에 대하여 수행될 수 있다.
복수의 예측 모드들은 서로 다른 예측 방향들에 대응할 수 있다.
예측부는 현재 블록 및 제1 예측 신호에 기반하여 제1 예측 오차를 생성할 수 있다.
제1 예측 오차는 제1 잔차 블록을 나타낼 수 있다.
제1 잔차 블록은 현재 블록 및 제1 예측 블록의 차분(residual)을 나타낼 수 있다. 말하자면, 예측부는 현재 블록으로부터 제1 예측 신호가 나타내는 제1 예측 블록을 뺌으로써 제1 예측 오차를 생성할 수 있다.
예측부는 제1 예측 오차를 사용하여 제1 예측의 율-왜곡 비용을 계산할 수 있다.
예측부는 계산된 제1 예측 오차 및/또는 제1 예측의 율-왜곡 비용을 메모리(1030), 저장소(1040) 또는 버퍼에 저장할 수 있다.
예측부는 현재 블록의 부호화를 위한 최적의 제1 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제1 예측을 수행할 수 있다. 예측부는 복수의 예측 모드들의 제1 예측 오차들을 사용하여 복수의 예측 모드의 율-왜곡 비용들을 계산할 수 있다. 예측부는 계산된 율-왜곡 비용들 중 최소의 율-왜곡 비용을 최소 제1 율-왜곡 비용 RDcost_1로서 저장할 수 있다. 예를 들면, RDcost_1는 1차의 화면내 예측에 있어서 최소의 율-왜곡 비용을 갖는 모드의 율-왜곡 비용일 수 있다.
예측부는 RDcost_1 및 RDcost_1에 대응하는 제1 예측 오차를 저장할 수 있다.
단계(1320)에서, 예측부는 제1 예측의 제1 예측 모드를 결정할 수 있다. 제1 예측 모드는 제1 예측의 예측 방향을 나타낼 수 있다.
예측부는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드를 제1 예측 모드로서 결정할 수 있다. 이하에서, 제1 예측의 예측 모드는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드일 수 있다. 제1 예측의 예측 방향은 제1 예측의 예측 모드의 예측 방향일 수 있다.
단계(1330)에서, 현재 블록에 대해 제2 예측을 수행할지 여부를 결정할 수 있다.
일 실시예에서, 단계(1330)의 결정은 현재 블록이 제2 예측을 사용하여 부호화되는 것을 최종적으로 결정하는 것은 아닐 수 있다. 단계(1130)에서, 예측부는 현재 블록에 대해 제2 예측이 가능한지 여부를 판단할 수 있다.
예를 들면, 제2 예측을 수행하지 않기로 결정된 경우 현재 블록은 제2 예측을 사용하지 않고 부호화될 수 있다. 제2 예측을 수행하기로 결정된 경우, 제2 예측에 의해 제2 예측 신호 및 제2 예측 오차 등이 생성될 수 있으나, 단계(1360)의 율-왜곡 비용들의 비교를 통해 현재 블록의 부호화에 있어서 제2 예측을 사용하지 여부가 결정될 수 있다.
제2 예측을 수행하지 않기로 결정된 경우, 현재 블록의 잔차 블록은 제1 예측 오차가 나타내는 블록일 수 있다. 말하자면, 제1 예측 오차가 잔차 블록으로서 제공될 수 있다.
제2 예측을 수행하기로 결정된 경우, 현재 블록의 잔차 블록은 후술될 제2 예측 오차가 나타내는 블록일 수 있다. 말하자면, 제2 예측 오차가 잔차 블록으로서 제공될 수 있다.
예측부는 기정의된 조건에 기반하여 제2 예측을 수행할지 여부를 결정할 수 잇다.
일 실시예에서, 예측부는 제1 예측의 예측 모드에 기반하여 제2 예측을 수행할지 여부를 결정할 수 있다.
예를 들면, 예측부는 제1 예측의 예측 모드가 비방향성 모드이면 제2 예측을 수행하지 않을 수 있다. 또는, 예측부는 제1 예측의 예측 모드가 방향성 모드이면 제2 예측을 수행할 수 있다.
제1 예측의 예측 모드가 복수의 예측 모드들 중 비방향성 모드인 경우, 예측 모드의 방향이 없기 때문에 예측 방향에 따라서 현재 블록을 분할하지 못할 수 있다.
제2 예측을 수행하기로 결정된 경우, 단계(1335)가 수행될 수 있다.
재2 예측을 수행하지 않기로 결정된 경우, 단계(1370) 또는 단계(1120)가 수행될 수 있다. 단계(1120)가 수행되는 경우, 단계(1120)의 잔차 신호는 제1 예측 오차일 수 있다. 말하자면, 제2 예측 없이 제1 예측 만이 수행되는 경우, 제1 예측에 의해 생성된 제1 예측 오차가 현재 블록의 잔차 신호로서 사용될 수 있다.
단계(1335)에서, 예측부는 현재 블록을 제1 예측 모드에 기반하여 분할할 수 있다. 예측부는 현재 블록을 제1 예측 모드에 기반하여 분할함으로써 2개의 부분들을 생성할 수 있다.
일 실시예에서, 예측부는 현재 블록을 제1 예측의 예측 방향으로 현재 블록의 중심을 지나는 직선으로 분할함으로써 2개의 비정방형인 부분들을 생성할 수 있다. 아래에서, 2개의 비정방형인 부분들은 각각 제1 부분 및 제2 부분으로 칭해진다.
현재 블록이 분할되면, 분할에 의해 생성된 부분들의 각각에 대해 제2 예측이 수행될 수 있다.
단계(1340)에서, 예측부는 제1 부분에 대한 제2 예측을 수행함으로써 제1 부분의 제2 예측 신호를 생성할 수 있다.
제1 부분의 제2 예측 신호는 제1 부분의 제2 예측 블록을 나타낼 수 있다.
제1 부분의 제2 예측은 인트라 예측일 수 있다.
예측부는 제1 부분의 부호화를 위한 최적의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제2 예측을 수행할 수 있다. 말하자면, 단계(1340)는 복수의 예측 모드들의 각 예측 모드에 대하여 수행될 수 있다.
복수의 예측 모드들은 서로 다른 예측 방향들에 대응할 수 있다.
예측부는 제1 부분 및 제2 예측 신호에 기반하여 제1 부분의 제2 예측 오차를 생성할 수 있다.
제1 부분의 제2 예측 오차는 제1 부분의 제2 잔차 블록을 나타낼 수 있다.
제1 부분의 제2 잔차 블록은 제1 부분 및 제2 예측 블록의 차분(residual)을 나타낼 수 있다. 말하자면, 예측부는 제1 부분으로부터 제1 부분의 제2 예측 신호가 나타내는 제1 부분의 제2 예측 블록을 뺌으로써 제1 부분의 제2 예측 오차를 생성할 수 있다.
예측부는 제1 부분의 제2 예측 오차를 사용하여 제1 부분의 제2 예측의 율-왜곡 비용을 계산할 수 있다.
예측부는 계산된 제1 부분의 제2 예측 오차 및/또는 제1 부분의 제2 예측의 율-왜곡 비용을 메모리(1030), 저장소(1040) 또는 버퍼에 저장할 수 있다.
예측부는 제1 부분의 부호화를 위한 최적의 제1 부분의 제2 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제2 예측을 수행할 수 있다. 예측부는 복수의 예측 모드들의 제2 예측 오차들을 사용하여 복수의 예측 모드의 율-왜곡 비용들을 계산할 수 있다. 예측부는 계산된 율-왜곡 비용들 중 최소의 율-왜곡 비용을 제1 부분의 최소 제2 율-왜곡 비용 RDcost_2로서 저장할 수 있다. 예를 들면, RDcost_2는 제1 부분의 2차의 화면내 예측에 있어서 최소의 율-왜곡 비용을 갖는 모드의 율-왜곡 비용일 수 있다.
예측부는 제1 부분의 RDcost_2 및 제1 부분의 RDcost_2에 대응하는 제1 부분의 제2 예측 오차를 저장할 수 있다.
단계(1345)에서, 예측부는 제1 부분의 제2 예측의 제2 예측 모드들 결정할 수 있다. 제1 부분의 제2 예측 모드는 제1 부분의 제2 예측의 예측 방향을 나타낼 수 있다.
예측부는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드를 제1 부분의 제2 예측 모드로서 결정할 수 있다. 이하에서, 제1 부분의 제2 예측의 예측 모드는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드일 수 있다. 제1 부분의 제2 예측의 예측 방향은 제1 부분의 제2 예측의 예측 모드의 예측 방향일 수 있다.
단계(1350)에서, 예측부는 제2 부분에 대한 제2 예측을 수행함으로써 제2 부분의 제2 예측 신호를 생성할 수 있다.
제2 부분의 제2 예측 신호는 제2 부분의 제2 예측 블록을 나타낼 수 있다.
제2 부분의 제2 예측은 인트라 예측일 수 있다.
예측부는 제2 부분의 부호화를 위한 최적의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제2 예측을 수행할 수 있다. 말하자면, 단계(1340)는 복수의 예측 모드들의 각 예측 모드에 대하여 수행될 수 있다.
복수의 예측 모드들은 서로 다른 예측 방향들에 대응할 수 있다.
예측부는 제2 부분 및 제2 예측 신호에 기반하여 제2 부분의 제2 예측 오차를 생성할 수 있다.
제2 부분의 제2 예측 오차는 제2 부분의 제2 잔차 블록을 나타낼 수 있다.
제2 부분의 제2 잔차 블록은 제2 부분 및 제2 예측 블록의 차분(residual)을 나타낼 수 있다. 말하자면, 예측부는 제2 부분으로부터 제2 부분의 제2 예측 신호가 나타내는 제2 부분의 제2 예측 블록을 뺌으로써 제2 부분의 제2 예측 오차를 생성할 수 있다.
예측부는 제2 부분의 제2 예측 오차를 사용하여 제2 부분의 제2 예측의 율-왜곡 비용을 계산할 수 있다.
예측부는 계산된 제2 부분의 제2 예측 오차 및/또는 제2 부분의 제2 예측의 율-왜곡 비용을 메모리(1030), 저장소(1040) 또는 버퍼에 저장할 수 있다.
예측부는 제2 부분의 부호화를 위한 최적의 제2 부분의 제2 예측의 예측 모드를 찾기 위해 복수의 예측 모드들의 각 예측 모드에 대하여 제2 예측을 수행할 수 있다. 예측부는 복수의 예측 모드들의 제2 예측 오차들을 사용하여 복수의 예측 모드의 율-왜곡 비용들을 계산할 수 있다. 예측부는 계산된 율-왜곡 비용들 중 최소의 율-왜곡 비용을 제2 부분의 최소 제2 율-왜곡 비용 RDcost_2로서 저장할 수 있다. 예를 들면, RDcost_2는 제2 부분의 2차의 화면내 예측에 있어서 최소의 율-왜곡 비용을 갖는 모드의 율-왜곡 비용일 수 있다.
예측부는 제2 부분의 RDcost_2 및 제2 부분의 RDcost_2에 대응하는 제2 부분의 제2 예측 오차를 저장할 수 있다.
단계(1355)에서, 예측부는 제2 부분의 제2 예측의 제2 예측 모드들 결정할 수 있다. 제2 부분의 제2 예측 모드는 제2 부분의 제2 예측의 예측 방향을 나타낼 수 있다.
예측부는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드를 제2 부분의 제2 예측 모드로서 결정할 수 있다. 이하에서, 제2 부분의 제2 예측의 예측 모드는 복수의 예측 모드들 중 최소의 율-왜곡 비용을 갖는 예측 모드일 수 있다. 제2 부분의 제2 예측의 예측 방향은 제2 부분의 제2 예측의 예측 모드의 예측 방향일 수 있다.
단계(1360)에서, 예측부는 현재 블록의 부호화에 있어서 제2 예측을 사용할지 여부를 결정할 수 있다.
예측부는 기정의된 조건에 기반하여 현재 블록의 부호화에 있어서 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 예측부는 제2 예측을 사용함으로써 율-왜곡 비용이 더 감소될 경우 제2 예측을 사용할 것을 결정할 수 있다. 예측부는 제2 예측을 사용하더라도 율-왜곡 비용이 더 감소되지 않는 경우 제2 예측을 사용하지 않을 것을 결정할 수 있다.
예를 들면, 예측부는 제2 예측을 사용하였을 경우의 최소의 율-왜곡 비용이 제2 예측을 사용하지 않았을 경우의 최소의 율-왜곡 비용보다 더 작은 경우 제2 예측을 사용할 것을 결정할 수 있다.
일 실시예에서, 예측부는 제1 예측의 예측 모드의 율-왜곡 비용, 제1 부분의 제2 예측의 예측 모드의 율-왜곡 비용 및 제2 부분의 제2 예측의 예측 모드의 율-왜곡 비용 간의 비교의 결과에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
일 실시예에서, 예측부는 제1 부분 및 제2 부분 중 부호화될 부분을 선택할 수 있다. 예측부는 제1 부분의 제2 예측 모드의 율-왜곡 비용 및 제2 부분의 제2 예측 모드의 율-왜곡 비용 간의 비교에 기반하여 제1 부분 및 제2 부분 중 부호화될 부분을 선택할 수 있다.
예를 들면, 예측부는 제1 부분 및 제2 부분 중 더 큰 율-왜곡 비용을 갖는 부분을 선택할 수 있다. 예측부는 제1 부분의 제2 예측 모드의 율-왜곡 비용이 제2 부분의 제2 예측 모드의 율-왜곡 비용 보다 더 큰 경우 제1 부분을 선택할 수 있다. 예측부는 제1 부분의 제2 예측 모드의 율-왜곡 비용이 제2 부분의 제2 예측 모드의 율-왜곡 비용 보다 더 작은 경우 제2 부분을 선택할 수 있다.
예를 들면, 예측부는 제1 부분의 제2 예측 모드의 율-왜곡 비용 및 제2 부분의 제2 예측 모드의 율-왜곡 비용이 같은 경우, 제1 부분의 제2 예측 모드가 제1 예측 모드와 다르면 제1 부분을 선택할 수 있고, 제2 부분의 제2 예측 모드가 제1 예측 모드와 다르면 제1 부분을 선택할 수 있다. 말하자면, 예측부는 율-왜곡 비용을 우선적인 기준으로, 예측 모드를 다음의 기준으로 제1 부분 및 제2 부분 중 하나의 부분을 선택할 수 있다.
이하에서, 제1 부분 및 제2 부분 중 예측부가 선택한 부분을 선택된 부분으로 칭한다. 또한, 제2 예측은 제1 부분의 제2 예측 및 제2 부분의 제2 예측 중 선택된 부분의 제2 예측을 의미한다. 제1 부분 및 제2 부분 중 예측부가 선택하지 않은 부분을 나머지의 부분으로 칭한다.
일 실시예에서, 예측부는 선택된 부분의 제2 예측 모드 및 현재 블록의 제1 예측 모드에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 선택된 부분의 제2 예측 모드 및 현재 블록의 제1 예측 모드가 동일하면, 제2 예측이 사용되었을 때의 결과와 제2 예측이 사용되지 않았을 때의 결과는 동일할 수 있다. 따라서, 이러한 경우, 제2 예측으로 인한 효과가 없을 수 있다. 예측부는 선택된 부분의 제2 예측 모드 및 현재 블록의 제1 예측 모드가 동일하면 선택된 부분에 대한 제2 예측을 사용하지 않을 것을 결정할 수 있다.
일 실시예에서, 예측부는 선택된 부분에 대한 제2 예측에 의해 현재 블록의 예측에 대한 율-왜곡 비용이 감소하면 선택된 부분에 대한 제2 예측을 사용할 것을 결정할 수 있다. 예측부는 선택된 부분에 대한 제2 예측에 의해 현재 블록의 예측에 대한 율-왜곡 비용이 감소하지 않으면 선택된 부분에 대한 제2 예측을 사용할 것을 결정할 수 있다.
예를 들면, 선택된 부분에 대한 제2 예측에 의한 율-왜곡 비용이 RDcost_SS이고, 나머지 부분에 대한 제1 예측에 의한 율-왜곡 비용이 RDcost_SNS이고, 현재 블록에 대한 제1 예측에 의한 율-왜곡 비용이 RDcost일 때, 예측부는 RDcost_SS 및 RDcost_SNS의 합이 RD_cost 보다 더 작으면 선택된 부분에 대한 제2 예측을 사용할 것을 결정할 수 있다. 또한, 예측부는 RDcost_SS 및 RDcost_SNS의 합이 RD_cost의 이상이면 선택된 부분에 대한 제2 예측을 사용하지 않을 것을 결정할 수 있다.
예를 들면, 선택된 부분에 대한 제2 예측에 의한 율-왜곡 비용이 선택된 부분에 대한 제1 예측에 의한 율-왜곡 비용보다 더 작으면 선택된 부분에 대한 제2 예측을 사용할 것을 결정할 수 있다. 선택된 부분에 대한 제2 예측에 의한 율-왜곡 비용이 선택된 부분에 대한 제1 예측에 의한 율-왜곡 비용의 이상이면 선택된 부분에 대한 제2 예측을 사용하지 않을 것을 결정할 수 있다.
현재 블록의 부호화를 위해 제2 예측이 사용되지 않을 경우 단계(1370)가 수행될 수 있다.
현재 블록의 부호화를 위해 제2 예측이 사용될 경우 단계(1380)가 수행될 수 있다.
단계(1370)에서, 예측부는 제2 예측을 사용하지 않는 것을 나타내는 설정을 수행할 수 있다.
예측부는 제2 예측 사용 정보가 제2 예측을 사용하지 않는다는 것을 나타내도록 제2 예측 사용 정보의 값을 설정할 수 있다. 예를 들면, 제2 예측 사용 정보는 추가적 2차 인트라 예측(Additional Secondary Intra Prediction; ASIP) 플래그일 수 있다.
예를 들면, 제2 예측 사용 정보의 값이 "0"이면, 제2 예측 사용 정보는 제2 예측을 사용하지 않는다는 것을 나타낼 수 있다.
예측부는 제1 예측 모드 정보를 제1 예측의 예측 모드로 설정할 수 있다.
단계(1370)가 수행되는 경우, 단계(1120)의 잔차 신호는 현재 블록의 잔차 신호일 수 있다. 현재 블록의 잔차 신호는 제1 예측 오차일 수 있다. 말하자면, 현재 블록에 대해 제2 예측이 수행되지 않는 경우, 제1 예측에 기반하여 생성된 제1 예측 오차가 현재 블록의 잔차 신호로서 사용될 수 있다.
단계(1380)에서, 예측부는 제2 예측을 사용하는 것을 나타내는 설정을 수행할 수 있다.
일 실시예에서, 예측부는 제2 예측 사용 정보가 제2 예측을 사용한다는 것을 나타내도록 제2 예측 사용 정보의 값을 설정할 수 있다.
일 실시예에서, 예를 들면, 제2 예측 사용 정보의 값이 "1"이면, 제2 예측 사용 정보는 제2 예측을 사용한다는 것을 나타낼 수 있다.
예측부는 선택된 부분 정보가 제2 예측이 적용되는 선택된 부분을 나타내도록 선택된 부분 정보의 값을 설정할 수 있다. 예를 들면, 선택된 부분 정보는 선택 구역 플래그(Select Section Flag)일 수 있다.
예를 들면, 예측부는 선택된 부분 정보가 현재 블록의 분할에 의해 생성된 2개의 부분들 중 하나의 부분을 나타내도록 선택된 부분 정보의 값을 설정할 수 있다. 예측부는 선택된 부분이 도 11을 참조하여 전술된 부분 S1이면, 선택된 부분 정보의 값을 "0"으로 설정할 수 있다. 예측부는 선택된 부분이 도 11을 참조하여 전술된 부분 S2이면, 선택된 부분 정보의 값을 "1"로 설정할 수 있다.
예측부는 제1 예측 모드 정보를 제1 예측의 예측 모드로 설정할 수 있다. 예측부는 제2 예측 모드 정보를 제2 예측의 예측 모드로 설정할 수 있다.
단계(1370)가 수행되는 경우, 단계(1120)의 잔차 신호는 현재 블록의 잔차 신호일 수 있다. 현재 블록의 잔차 신호는 현재 블록 및 예측 블록 간의 차분에 대응하는 신호일 수 있다. 예측 블록은 선택된 부분에 대한 제2 예측에 의해 생성된 예측 블록 및 나머지의 부분에 대한 제1 예측에 의해 생성된 예측 블록의 합일 수 있다.
말하자면, 현재 블록에 대해 제2 예측이 수행되는 경우, 제1 예측 및 제2 예측에 기반하여 생성된 예측 오차가 잔차 신호로서 사용될 수 있다.
또는, 단계(1370)가 수행되는 경우, 단계(1120)의 잔차 신호는 선택된 부분의 잔차 신호 및 나머지의 부분의 잔차 신호일 수 있다. 선택된 부분의 잔차 신호는 선택된 부분 및 선택된 부분에 대한 제2 예측에 의해 생성된 제2 예측 블록 간의 차분에 대응하는 신호일 수 있다. 나머지의 부분의 잔차 신호는 나머지의 부분 및 나머지의 부분에 대한 제1 예측에 의해 생성된 제3 예측 블록 간의 차분에 대응하는 신호일 수 있다.
도 14는 일 예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 11을 참조하여 전술된 단계(1160)는 아래의 단계들(1410, 1420 및 1430)을 포함할 수 있다.
단계(1410)에서, 복원된 블록 생성부 현재 블록의 부호화에 대해서 제2 예측이 사용되었는지 여부를 판단할 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용된 경우 단계(1420)가 수행될 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용되지 않은 경우 단계(1430)가 수행될 수 있다,
단계(1420)에서, 복원된 블록 생성부는 복원된 잔차 신호에 선택된 부분에 대한 제2 예측 신호를 더할 수 있다.
제2 예측 신호는 선택된 부분에 대한 제2 예측에 의해 생성된 신호일 수 있다.
단계(1430)에서, 복원된 블록 생성부는 복원된 잔차 신호에 현재 블록 또는 나머지의 부분에 대한 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다.
일 실시예에서, 제2 예측이 사용되지 않은 경우, 복원된 블록 생성부는 복원된 잔차 신호에 현재 블록에 대한 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다. 제1 예측 신호는 현재 블록에 대한 제1 예측에 의해 생성된 신호일 수 있다.
일 실시예에서, 제2 예측이 사용되지 않은 경우, 복원된 블록 생성부는 복원된 잔차 신호에 나머지의 부분에 대한 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다. 제1 예측 신호는 나머지의 부분에 대한 제1 예측에 의해 생성된 신호일 수 있다.
예를 들면, 제2 예측이 사용된 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호, 선택된 부분에 대한 제2 예측 신호 및 나머지의 부분에 대한 제1 예측 신호의 합일 수 있다. 단계들(1420 및 1430)에서 설명된 것과 같이, 제2 예측이 사용된 경우, 선택된 부분에 대한 제2 예측 신호 및 나머지의 부분에 대한 제1 예측 신호가 복원된 잔차 신호에 더해질 수 있다. 또는, 제2 예측이 사용된 경우, 복원된 블록은 복원된 잔차 신호, 선택된 부분에 대한 제2 예측 신호 및 나머지의 부분에 대한 제1 예측 신호에 기반하여 생성될 수 있다.
예를 들면, 제2 예측이 사용되지 않은 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호 및 현재 블록에 대한 제1 예측 신호의 합일 수 있다. 또는, 제2 예측이 사용되지 않은 경우, 복원된 블록은 복원된 잔차 신호 및 현재 블록에 대한 제1 예측 신호에 기반하여 생성될 수 있다.
도 15는 일 실시예에 따른 복호화 장치의 구조도이다.
복호화 장치 (1500)는 복호화를 수행하는 범용의 컴퓨터 시스템일 수 있다.
도 15에서 도시된 바와 같이, 복호화 장치(1500)는 버스(1590)를 통하여 서로 통신하는 적어도 하나의 프로세서(1510), 메모리(1530), 사용자 인터페이스(User Interface; UI) 입력 디바이스(1550), UI 출력 디바이스(1560) 및 저장소(1540)를 포함할 수 있다. 또한, 복호화 장치(1500)는 네트워크(1599)에 연결되는 통신부(1520)를 더 포함할 수 있다. 프로세서(1510)는 중앙 처리 장치(Central Processing Unit; CPU), 메모리(1530) 또는 저장소(1540)에 저장된 프로세싱(processing) 명령어(instruction)들을 실행하는 반도체 장치일 수 있다. 메모리(1530) 및 저장소(1540)는 다양한 형태의 휘발성 또는 비휘발성 저장 매체일 수 있다. 예를 들면, 메모리는 롬(ROM)(1531) 및 램(RAM)(1532) 중 적어도 하나를 포함할 수 있다.
프로세서(1510)는 복호화 장치(200)의 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 가산기(255), 필터부(260) 및 참조 픽쳐 버퍼(270)를 포함할 수 있다.
기록 매체는 복호화 장치(1500)의 동작을 위한 적어도 하나의 모듈을 저장할 수 있다. 메모리(1530)는 적어도 하나의 모듈을 저장할 수 있고, 적어도 하나의 프로세서(1510)에 의하여 실행되도록 구성될 수 있다.
일 실시예에 따르면, 복호화 장치(1500)의 엔트로피 복호화부(210), 역양자화부(220), 역변환부(230), 인트라 예측부(240), 인터 예측부(250), 가산기(255), 필터부(260) 및 참조 픽쳐 버퍼(270)의 적어도 일부는 프로그램 모듈들일 수 있으며, 외부의 장치 또는 시스템과 통신할 수 있다. 프로그램 모듈들은 운영 체제, 응용 프로그램 모듈 및 기타 프로그램 모듈의 형태로 복호화 장치(1500)에 포함될 수 있다.
프로그램 모듈들은 물리적으로는 여러 가지 공지의 기억 장치 상에 저장될 수 있다. 또한, 이러한 프로그램 모듈 중 적어도 일부는 복호화 장치(1500)와 통신 가능한 원격 기억 장치 에 저장될 수도 있다.
프로그램 모듈들은 일 실시예에 따른 기능 또는 동작을 수행하거나, 일 실시예에 따른 추상 데이터 유형을 구현하는 루틴(routine), 서브루틴(subroutine), 프로그램, 오브젝트(object), 컴포넌트(component) 및 데이터 구조(data structure) 등을 포괄할 수 있지만, 이에 제한되지는 않는다.
프로그램 모듈들은 프로세서(1510)에 의해 수행되는 명령어(instruction) 또는 코드(code)로 구성될 수 있다.
복호화 장치(1500)의 데이터 또는 정보의 통신과 관련된 기능은 통신부(1520)를 통해 수행될 수 있다.
도 16은 일 실시예에 따른 복호화 방법의 흐름도이다.
실시예의 복호화 방법은 복호화 장치(200) 또는 복호화 장치(1500)에 의해 수행될 수 있다.
단계(1610)에서, 통신부(1520)는 부호화 장치(100) 또는 부호화 장치(1100)로부터 비트스트림을 수신할 수 있다.
비트스트림은 부호화된 잔차 신호에 대한 정보를 포함할 수 있고, 예측에 관련된 정보를 포함할 수 있다.
부호화된 잔차 신호에 대한 정보는 엔트로피 부호화된 양자화된 변환 계수를 포함할 수 있다.
예측에 관련된 정보는 엔트로피 부호화될 수 있다.
단계(1620)에서, 엔트로피 복호화부(210)는 비트스트림에 대한 엔트로피 복호화를 수행함으로써 양자화된 변환 계수를 생성할 수 있다. 또한, 엔트로피 복호화부(210)는 비트스트림에 대한 엔트로피 복호화를 수행함으로써 예측에 관련된 정보를 생성할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록이 어떠한 방식에 의해 부호화되었는지를 나타내는 예측 방식 정보를 포함할 수 있다.
예를 들면, 예측 방식 정보는 현재 블록이 인트라 예측 및 인트라 예측 중 어떤 예측으로 부호화되었는지를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인트라 예측에 의해 부호화되었는지 여부를 나타낼 수 있다. 또는, 예측 방식 정보는 현재 블록이 인터 예측에 의해 부호화되었는지 여부를 나타낼 수 있다.
예를 들면, 예측에 관련된 정보는 인트라 예측의 예측 모드를 나타내는 인트라 예측 모드 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록의 부호화에 있어서 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 제1 예측의 예측 모드를 나타내는 제1 예측 모드 정보 및 제2 예측의 예측 모드를 나타내는 제2 예측 모드 정보를 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 현재 블록의 분할에 의해 생성된 2개의 부분들 중 제2 예측이 적용되는 선택된 부분을 나타내는 선택된 부분 정보를 포함할 수 있다.
예를 들면 예측에 관련된 정보는 현재 블록의 종류를 나타내는 현재 블록 종류 정보, 제1 예측 블록의 종류를 나타내는 제1 예측 블록 종류 정보, 제2 예측 블록의 종류를 나타내는 제2 예측 블록 종류 정보, 제1 참조 블록의 종류를 나타내는 제1 참조 블록 종류 정보, 제2 참조 블록의 종류를 나타내는 제2 참조 블록 종류 정보, 제1 참조 샘플의 종류를 나타내는 제1 참조 샘플 종류 정보 및 제2 참조 샘플의 종류를 나타내는 제2 참조 샘플 종류 정보 등을 포함할 수 있다.
예를 들면, 예측에 관련된 정보는 제1 예측의 영역을 나타내는 제1 예측 영역 정보 및/또는 제2 예측의 제2 예측 영역을 나타내는 제2 예측 영역 정보를 포함할 수 있다.
또한, 예측에 관련된 정보는 실시예들에서 설명된 예측을 위해 사용된 정보를 포함할 수 있다. 예측에 관련된 정보들은 실시예에서 설명된 순서 또는 실시예에 따른 생성의 순서에 따라서 비트스트림에 포함될 수 있다. 복원된 잔차 신호 생성부는 예측에 관련된 정보들을 실시예에서 설명된 순서 또는 실시예에 따른 생성의 순서에 따라서 비트스트림으로부터 획득할 수 있다.
단계(1630)에서, 복원된 잔차 신호 생성부는 양자화된 변환 계수에 기반하여 현재 블록에 대한 복원된 잔차 신호를 생성할 수 있다.
복원된 잔차 신호 생성부는 역양자화부(220) 및 역변환부(230)를 포함할 수 있다.
단계(1630)은 단계들(1631 및 1732)를 포함할 수 있다.
단계(1631)에서, 역양자화부(220)는 양자화된 변환 계수에 대한 역양자화를 수행함으로써 복원된 변환 계수를 생성할 수 있다.
단계(1632)에서, 변환부(230)는 역양자화된 변환 계수에 대한 역변환을 수행함으로써 복원된 잔차 신호를 생성할 수 있다.
단계들(1610, 1720 및 1730)을 통해 현재 블록에 대한 복원된 잔차 신호가 생성될 수 있다.
단계(1640)에서, 복원된 블록 생성부는 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 복원된 블록을 생성할 수 있다.
복원된 블록 생성부는 가산부(225), 인트라 예측부(240), 인터 예측부(250), 필터부(260) 및 참조 픽쳐 버퍼(270)를 포함할 수 있다.
복원된 잔차 신호는 복원된 잔차 블록일 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합일 수 있다. 또는, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합에 기반하여 생성될 수 있다.
예를 들면, 예측 블록은 제1 예측 블록 및 제2 예측 블록의 합일 수 있다. 또는, 예측 신호는 제1 예측 신호 및 제2 예측 신호의 합일 수 있다. 제2 예측 신호는 현재 블록의 선택된 부분에 대한 제2 예측에 의해 생성된 신호일 수 있다. 제1 예측 신호는 현재 블록 또는 현재 블록에서 나머지의 부분에 대한 제1 예측에 의해 생성된 신호일 수 있다.
또는, 복원된 블록은 복원된 잔차 블록 및 예측 블록의 합에 기반하여 생성될 수 있다.
예를 들면, 복원된 블록은 복원된 잔차 블록, 제1 예측 블록 및 제2 예측 블록에 의해 생성된 블록일 수 있다. 복원된 블록 생성부는 복원된 잔차 신호 및 제2 예측 신호를 더함으로써 복원된 제1 잔차 신호를 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 잔차 신호 및 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다.
또는, 복원된 블록 생성부는 복원된 잔차 블록 및 제2 예측 블록을 더함으로써 복원된 제1 잔차 블록을 생성할 수 있다. 복원된 블록 생성부는 복원된 제1 잔차 블록 및 제1 예측 블록을 더함으로써 복원된 블록을 생성할 수 있다.
일 실시예에서, 제2 예측이 사용되지 않은 경우, 제2 예측 신호는 널(null) 신호일 수 있고, 제2 예측 블록은 널(null) 블록일 수 있다. 널 블록은 블록의 모든 픽셀들의 값들이 "0"인 블록일 수 있다.
복원된 블록 생성부는 인터 예측 또는 인트라 예측을 수행함으로써 복원된 블록을 생성할 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 상이한 종류의 예측들일 수 있다.
일 실시예에서, 제1 예측 및 제2 예측은 서로 동일한 종류의 예측들일 수 있다. 예를 들면, 제1 예측 및 제2 예측의 각각은 인트라 예측일 수 있다. 제1 예측이 인트라 예측이면, 제2 예측도 인트라 예측으로 설정될 수 있다.
일 실시예에서, 제1 예측의 예측 방향 및 제2 예측의 예측 방향은 동일할 수 있다. 제2 예측의 예측 방향은 제1 예측의 예측 방향과 동일하게 설정될 수 있다.
예를 들면, 일 실시예에서, 제1 예측 및 제2 예측의 각각은 인터 예측일 수 있다.
일 실시예에서, 제1 예측의 대상인 블록 및 제2 예측의 대상인 블록은 서로 상이할 수 있다. 여기에서, "예측의 대상인 블록"은 "예측"이 어떤 블록에 대한 예측 블록을 생성하는가를 의미할 수 있다.
예를 들면, 제1 예측의 대상인 블록의 종류 및 제2 예측의 대상인 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 원본 블록, 루마(luma) 블록, 색차(chroma) 블록, 깊이(depth) 블록 및 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 대상인 블록은 복원된 블록일 수 있다.
예측을 위해서는 참조 블록이 사용될 수 있다. 일 실시예에서, 제1 예측의 제1 참조 블록 및 제2 예측의 제2 참조 블록은 서로 상이할 수 있다. 참조 블록들은 종류 및/또는 위치의 측면에서 서로 상이할 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 위치 및 제2 예측의 제2 참조 블록의 위치는 서로 상이할 수 있다. 여기에서, 제1 참조 블록의 위치는 제1 예측의 대상인 블록에 대한 상대적인 위치일 수 있다. 제2 참조 블록의 위치는 제2 예측의 대상인 블록에 대한 상대적인 위치일 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록은 복수일 수 있다. 제2 예측의 제2 참조 블록은 복수일 수 있다. 제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 부분은 서로 상이할 수 있다.
제1 예측의 복수의 제1 참조 블록들 및 제2 예측의 복수의 제2 참조 블록들 중 적어도 하나의 블록의 위치는 복수의 제1 참조 블록들의 위치들 및 복수의 제2 참조 블록들의 위치들 중 하나에만 포함될 수 있다.
일 실시예에서, 제1 예측의 제1 참조 블록의 종류 및 제2 예측의 제2 참조 블록의 종류는 서로 상이할 수 있다. 블록의 종류는 복원된 블록, 복원된 루마(luma) 블록, 복원된 색차(chroma) 블록, 복원된 깊이(depth) 블록, 복원된 제1 잔차 블록 및 복원된 제2 잔차 블록 등일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 복원된 블록일 수 있다. 제2 예측의 제2 참조 블록은 복원된 제1 잔차 블록일 수 있다. 제1 예측의 제1 참조 샘플은 복원된 블록의 픽셀일 수 있다. 제2 예측의 제2 참조 샘플은 복원된 제1 잔차 블록의 픽셀일 수 있다.
예를 들면, 제1 예측의 제1 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록일 수 있다. 제2 예측의 제2 참조 블록은 현재 블록에 이웃한 복원된 제1 잔차 블록일 수 있다.
현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록의 복원된 잔차 블록에 복원된 이웃 블록의 제2 예측 블록을 더한 것일 수 있다. 또는, 현재 블록에 이웃한 복원된 이웃 잔차 블록은 복원된 이웃 블록 및 복원된 이웃 블록의 제1 예측 블록 간의 차분일 수 있다.
예를 들면, 제1 예측의 대상이 현재 블록인 경우, 현재 블록에 대한 예측을 위해 참조 블록으로서 현재 블록의 주변의 복원된 블록이 사용될 수 있다. 제2 예측의 대상이 제1 잔차 블록인 경우, 제1 잔차 블록에 대한 예측을 위해 제2 참조 블록으로서 현재 블록 또는 제1 잔차 블록의 주변의 복원된 제1 잔차 블록이 사용될 수 있다.
일 실시예에서, 제1 예측의 영역 및 제2 예측의 영역은 서로 상이할 수 있다. 여기에서, "예측의 영역"은 예측의 대상인 블록 중 예측 값이 생성되는 영역을 나타낼 수 있다. 또는, "예측의 영역"은 예측의 대상인 블록에 대응하는 예측 블록 중 예측에 의해 생성된 예측 값이 할당되는 영역을 나타낼 수 있다.
일 실시예에서 제2 예측은 현재 블록의 선택된 부분에 대한 예측일 수 있다. 제1 예측은 현재 블록의 전체에 대한 예측일 수 있다. 또는, 제1 예측은 현재 블록 중 제2 예측에 대해 선택된 부분을 제외한 나머지의 부분에 대한 예측일 수 있다.
예를 들면, 제2 예측의 영역은 현재 블록의 선택된 부분일 수 있다. 제1 예측의 영역은 현재 블록의 전체일 수 있다. 또는, 제1 예측의 영역은 현재 블록 중 제2 예측의 선택된 부분을 제외한 나머지의 부분일 수 있다.
예를 들면, 제2 예측의 영역은 현재 블록의 비정방형인 부분일 수 있다. 제1 예측의 영역은 현재 블록의 전체일 수 있다. 또는, 제1 예측의 영역은 현재 블록 중 제2 예측의 비정방형인 부분을 제외한 나머지의 비정방형인 부분일 수 있다.
예를 들면, 제1 예측의 대상인 블록 중 제1 예측의 영역 내의 픽셀에 대해서만 제1 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 제1 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제1 예측의 대상인 블록 중 제1 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
예를 들면, 제2 예측의 대상인 블록 중 제2 예측의 영역 내의 픽셀에 대해서만 제2 예측에 의해 결정된 예측 값들이 할당될 수 있다. 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 제2 예측에 의한 예측 값이 할당되지 않을 수 있다. 또는, 제2 예측의 대상인 블록 중 제2 예측의 영역 외의 픽셀에는 기정의된 값이 할당될 수 있다. 예를 들면, 기정의된 값은 "0"일 수 있다.
일 실시예에서, 제1 예측의 영역은 제1 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제1 예측의 영역은 제1 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제1 예측의 영역은 제1 예측의 예측 방향에 기반하여 결정될 수 있다.
일 실시예에서, 제2 예측의 영역은 제2 예측의 종류에 기반하여 결정될 수 있다. 예를 들면, 제2 예측의 영역은 제2 예측이 인터 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측이 인트라 예측인지 여부에 기반하여 결정될 수 있다. 또는, 제2 예측의 영역은 제2 예측의 예측 방향에 기반하여 결정될 수 있다.
도 17은 일 실시예에 따른 복원된 블록의 생성 방법의 흐름도이다.
도 16을 참조하여 전술된 단계(1640)는 아래의 단계들(1710, 1720, 1730, 1740 및 1750)을 포함할 수 있다.
제2 예측은 기정의된 조건에 기반하여 선택적으로 수행될 수 있다.
단계(1710)에서, 복원된 블록 생성부는 복원된 블록의 생성에 대해서 제2 예측을 사용할 것인지 여부를 판단할 수 있다.
복원된 블록 생성부는 기정의된 조건에 기반하여 복원된 블록의 생성에 대해서 제2 예측을 사용할 것인지 여부를 판단할 수 있다.
일 실시예에서, 복원된 블록 생성부는 제1 예측의 예측 모드에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 복원된 블록 생성부는 비트스트림으로부터 제1 예측의 예측 모드를 나타내는 제1 예측 모드 정보를 획득할 수 있다. 복원된 블록 생성부는 제1 예측의 예측 모드가 비방향성 모드이면 제2 예측을 사용하지 않을 수 있다.
일 실시예에서, 예측 모드, 현재 블록의 위치 및/또는 인접한 복원된 블록의 개수 등에 의해 제2 예측을 사용할 것인지에 대한 판단이 이루어진 다음으로, 복원된 블록 생성부는 현재 블록의 부호화에 대해서 제2 예측이 사용되었는지 여부에 기반하여 제2 예측을 사용할지 여부를 결정할 수 있다.
예를 들면, 복원된 블록 생성부는 비트스트림으로부터 제2 예측 사용 정보를 획득할 수 있다. 복원된 블록 생성부는 제2 예측 사용 정보가 제2 예측을 사용한다는 것을 나타내는 경우 제2 예측을 사용할 수 있다. 복원된 블록 생성부는 제2 예측 사용 정보가 제2 예측을 사용하지 않는다는 것을 나타낼 경우 제2 예측을 사용하지 않을 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용될 경우 단계(1720)가 수행될 수 있다.
현재 블록의 부호화에 대해서 제2 예측이 사용되지 않을 경우 단계(1740)가 수행될 수 있다,
단계(1720)에서, 복원된 블록 생성부는 제2 예측을 수행하여 제2 예측 신호를 생성할 수 있다.
복원된 블록 생성부는 선택된 부분에 대한 제2 예측을 수행하여 제2 예측 신호를 생성할 수 있다.
제2 예측은 도 11 및 도 13을 참조하여 전술된 현재 블록의 부호화에서의 선택된 부분에 대한 제2 예측에 대응할 수 있다. 예를 들면, 제2 예측은 현재 블록의 선택된 부분에 대한 예측일 수 있다. 제2 예측 신호는 도 11 및 도 13을 참조하여 전술된 선택된 부분에 대한 제2 예측에 대응할 수 있다.
제2 예측 신호는 제2 예측 블록을 나타낼 수 있다.
제1 예측 및 제2 예측은 인트라 예측일 수 있고, 제2 예측의 제2 예측 모드는 제1 예측의 제1 예측 모드와 상이할 수 있다. 또는, 제2 예측의 예측 방향 및 제2 예측 방향은 서로 상이할 수 있다.
제1 예측의 참조 블록 및 제2 예측의 참조 블록은 현재 블록에 이웃한 복원된 이웃 블록일 수 있다.
일 실시예에서, 제2 예측이 수행되는 선택된 부분은 현재 블록의 분할에 의해 생성된 2개의 부분들 중 하나의 부분일 수 있다.
일 실시예에서, 2개의 부분들의 각각은 비-정방형일 수 있다. 선택된 부분은 비정방형일 수 있다.
제2 예측이 수행되는 선택된 부분은 제1 예측의 예측 모드의 예측 방향에 기반해서 결정될 수 있다.
일 실시예에서, 도 12를 참조하여 전술된 방식에 따라 예측 방향에 따라 현재 블록의 분할이 이루어질 수 있다. 2개의 부분들은 현재 블록의 중심을 제1 예측의 예측 방향으로 지나는 직선에 기반하여 결정될 수 있다. 2개의 부분들은 현재 블록을 현재 블록의 중심을 제1 예측의 예측 방향으로 지나는 직선으로 현재 블록을 분할함에 따라 생성되는 2개의 부분들 중 하나일 수 있다.
일 실시예에서, 분할에 의해 생성되는 2개의 부분들의 크기들을 동일할 수 있다. 또는, 2개의 부분들의 픽셀들의 개수들은 동일할 수 있다.
일 실시예에서, 분할에 의해 생성되는 2개의 부분들의 각각은 비정방형일 수 있다.
일 실시예에서, 2개의 부분들 중 제2 예측이 적용될 선택된 부분은 선택된 부분 정보에 따라서 선택될 수 있다. 복원된 블록 생성부는 비트스트림으로부터 선택된 부분 정보를 획득할 수 있다. 선택된 부분은 2개의 부분들 중 하나를 가리키는 선택된 부분 정보에 따라서 선택될 수 있다. 2개의 부분들 중 선택된 부분 정보가 가리키지 않는 부분은 나머지의 부분일 수 있다.
예를 들면, 선택된 부분 정보의 값은 2개의 부분들 중 제2 예측이 적용되는 부분을 나타낼 수 있다. 선택된 부분 정보의 값이 "0"이면 선택된 부분은 도 11을 참조하여 전술된 부분 S1일 수 있다. 선택된 부분 정보의 값이 "1"이면 선택된 부분은 도 11을 참조하여 전술된 부분 S2일 수 있다.
단계(1730)에서, 복원된 블록 생성부는 복원된 잔차 신호에 선택된 부분에 대한 제2 예측 신호를 더할 수 있다.
제2 예측 신호는 선택된 부분에 대한 제2 예측에 의해 생성된 신호일 수 있다.
단계(1740)에서, 복원된 블록 생성부는 현재 블록 또는 나머지의 부분에 대한 제1 예측 신호를 생성할 수 있다.
복원된 블록 생성부는 현재 블록 또는 나머지의 부분에 대하여 제1 예측을 수행하여 제1 예측 신호를 생성할 수 있다.
제1 예측 신호는 제1 예측 블록을 나타낼 수 있다.
제1 예측에 있어서, 현재 블록의 주변의 복원된 블록들이 참조 블록들로서 사용될 수 있다. 또한, 현재 블록의 주변의 복원된 블록들의 픽셀들이 참조 샘플들로서 사용될 수 있다.
일 실시예에서, 제2 예측이 사용되지 않은 경우, 현재 블록에 대하여 제1 예측을 수행하여 현재 블록에 대한 제1 예측 신호를 생성할 수 있다. 제1 예측 신호는 현재 블록에 대한 제1 예측에 의해 생성된 신호일 수 있다. 현재 블록의 복호화에 대하여 제2 예측이 사용되지 않는 경우, 제1 예측은 현재 블록의 전체에 대한 예측일 수 있다.
일 실시예에서, 제2 예측이 사용된 않은 경우, 나머지의 부분에 대하여 제1 예측을 수행하여 나머지의 부분에 대한 제1 예측 신호를 생성할 수 있다. 제1 예측 신호는 나머지의 부분에 대한 제1 예측에 의해 생성된 신호일 수 있다. 현재 블록의 복호화에 대하여 제2 예측이 사용되는 경우, 제1 예측은 현재 블록 중 제2 예측에 대해 선택된 부분을 제외한 나머지의 부분에 대한 예측일 수 있다.
단계(1750)에서, 복원된 블록 생성부는 복원된 잔차 신호에 현재 블록 또는 나머지의 부분에 대한 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다.
일 실시예에서, 제2 예측이 사용되지 않은 경우, 복원된 블록 생성부는 복원된 잔차 신호에 현재 블록에 대한 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다. 제1 예측 신호는 현재 블록에 대한 제1 예측에 의해 생성된 신호일 수 있다.
일 실시예에서, 제2 예측이 사용되지 않은 경우, 복원된 블록 생성부는 복원된 잔차 신호에 나머지의 부분에 대한 제1 예측 신호를 더함으로써 복원된 블록을 생성할 수 있다. 제1 예측 신호는 나머지의 부분에 대한 제1 예측에 의해 생성된 신호일 수 있다.
전술된 단계들(1710, 1720, 1730, 1740 및 1750)에 따르면, 제2 예측이 사용된 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호, 선택된 부분에 대한 제2 예측 신호 및 나머지의 부분에 대한 제1 예측 신호의 합일 수 있다. 단계들(1730 및 1750)에서 설명된 것과 같이, 제2 예측이 사용된 경우, 선택된 부분에 대한 제2 예측 신호 및 나머지의 부분에 대한 제1 예측 신호가 복원된 잔차 신호에 더해질 수 있다. 또는, 제2 예측이 사용된 경우, 복원된 블록은 복원된 잔차 신호, 선택된 부분에 대한 제2 예측 신호 및 나머지의 부분에 대한 제1 예측 신호에 기반하여 생성될 수 있다.
전술된 단계들(1710, 1720, 1730, 1740 및 1750)에 따르면, 제2 예측이 사용되지 않은 경우, 복원된 블록을 나타내는 신호는 복원된 잔차 신호 및 현재 블록에 대한 제1 예측 신호의 합일 수 있다. 또는, 제2 예측이 사용되지 않은 경우, 복원된 블록은 복원된 잔차 신호 및 현재 블록에 대한 제1 예측 신호에 기반하여 생성될 수 있다.
복원된 블록은 다른 블록의 복호화를 위한 참조 블록으로서 사용될 수 있다.
전술된 실시예에 따르면, 제2 예측이 사용되는 경우, 제1 예측이 적용되는 선택된 부분 및 제2 예측이 적용되는 나머지의 부분이 분리될 수 있다.
일 실시예에서, 제2 예측이 사용되는 경우, 제1 예측은 현재 블록의 전체에 적용될 수 있다. 이러한 경우, 제2 예측이 적용되는 선택된 부분에 대한 복원된 블록은 복원된 잔차 블록, 제2 예측에 의해 생성된 제2 예측 신호 및 제1 예측에 의해 생성된 제1 예측 신호의 합에 기반하여 생성될 수 있다. 또한, 제2 예측이 적용되지 않는 나머지의 부분에 대한 복원된 블록은 복원된 잔차 블록 및 제1 예측에 의해 생성된 제1 예측 신호의 합에 기반하여 생성될 수 있다.
이러한 경우, 제2 예측은 잔차에 대한 예측일 수 있다. 제2 예측은 현재 블록 및 제1 예측 신호 간의 차이인 제1 잔차 신호에 대한 예측일 수 있다. 제2 예측의 참조 블록은 복원된 잔차 블록일 수 있고, 제2 예측의 참조 픽셀은 복원된 잔차 블록의 픽셀일 수 있다. 말하자면, 제1 잔차 신호에 대한 제2 예측을 통해 제1 잔차 신호 및 제2 예측 신호 간의 차이인 제2 잔차 신호가 생성될 수 있고, 제2 잔차 신호를 사용하여 현재 블록의 부호화된 정보가 생성될 수 있다.
또는, 이러한 경우, 제2 예측이 적용되는 선택된 부분에 대한 복원된 블록은 복원된 잔차 블록, 제2 예측 신호 및 제1 예측 신호의 가중치가 부여된 합(weighted-sum)일 수 있다. 예측에 관련된 정보는 복원된 잔차 블록의 제1 가중치, 제2 예측 신호의 제2 가중치 및 제1 예측 신호의 제3 가중치를 포함할 수 있다. 제2 예측이 사용되지 않는 것은 제2 예측 신호의 제2 가중치가 0으로 설정된 것으로 간주될 수 있다. 또는, 제2 예측이 적용되지 않는 나머지의 부분에 대해서는 제2 예측 신호의 제2 가중치가 0으로 설정된 것으로 간주될 수 있다.
전술된 현재 블록의 부호화에 대한 설명은 현재 블록의 복호화에도 적용될 수 있다. 중복되는 설명은 생략된다. 또한, 전술된 현재 블록의 복호화에 대한 설명은 현재 블록의 부호화에도 적용될 수 있다. 중복되는 설명은 생략된다.
상술한 실시예들에서, 방법들은 일련의 단계 또는 유닛으로서 순서도를 기초로 설명되고 있으나, 본 발명은 단계들의 순서에 한정되는 것은 아니며, 어떤 단계는 상술한 바와 다른 단계와 다른 순서로 또는 동시에 발생할 수 있다. 또한, 당해 기술 분야에서 통상의 지식을 가진 자라면 순서도에 나타난 단계들이 배타적이지 않고, 다른 단계가 포함되거나, 순서도의 하나 또는 그 이상의 단계가 본 발명의 범위에 영향을 미치지 않고 삭제될 수 있음을 이해할 수 있을 것이다.
이상 설명된 본 발명에 따른 실시예들은 다양한 컴퓨터 구성요소를 통하여 수행될 수 있는 프로그램 명령어의 형태로 구현되어 컴퓨터 판독 가능한 기록 매체에 기록될 수 있다. 상기 컴퓨터 판독 가능한 기록 매체는 프로그램 명령어, 데이터 파일, 데이터 구조 등을 단독으로 또는 조합하여 포함할 수 있다. 상기 컴퓨터 판독 가능한 기록 매체에 기록되는 프로그램 명령어는 본 발명을 위하여 특별히 설계되고 구성된 것들이거나 컴퓨터 소프트웨어 분야의 당업자에게 공지되어 사용 가능한 것일 수도 있다. 컴퓨터 판독 가능한 기록 매체의 예에는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM, DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical media), 및 ROM, RAM, 플래시 메모리 등과 같은 프로그램 명령어를 저장하고 수행하도록 특별히 구성된 하드웨어 장치가 포함된다. 프로그램 명령어의 예에는, 컴파일러에 의해 만들어지는 것과 같은 기계어 코드뿐만 아니라 인터프리터 등을 사용해서 컴퓨터에 의해서 실행될 수 있는 고급 언어 코드도 포함된다. 상기 하드웨어 장치는 본 발명에 따른 처리를 수행하기 위해 하나 이상의 소프트웨어 모듈로서 작동하도록 구성될 수 있으며, 그 역도 마찬가지이다.
이상에서 본 발명이 구체적인 구성요소 등과 같은 특정 사항들과 한정된 실시예 및 도면에 의해 설명되었으나, 이는 본 발명의 보다 전반적인 이해를 돕기 위해서 제공된 것일 뿐, 본 발명이 상기 실시예들에 한정되는 것은 아니며, 본 발명이 속하는 기술분야에서 통상적인 지식을 가진 자라면 이러한 기재로부터 다양한 수정 및 변형을 꾀할 수 있다.
따라서, 본 발명의 사상은 상기 설명된 실시예에 국한되어 정해져서는 아니 되며, 후술하는 특허청구범위뿐만 아니라 이 특허청구범위와 균등하게 또는 등가적으로 변형된 모든 것들은 본 발명의 사상의 범주에 속한다고 할 것이다.

Claims (20)

  1. 현재 블록, 제1 예측 및 제2 예측에 기반하여 현재 블록의 잔차 신호를 생성하는 단계; 및
    상기 잔차 신호에 대한 부호화를 수행함으로써 부호화된 잔차 신호에 대한 정보를 생성하는 단계
    를 포함하고,
    상기 제2 예측은 상기 현재 블록의 부분에 대한 예측인, 부호화 방법.
  2. 현재 블록에 대한 복원된 잔차 신호를 생성하는 복원된 잔차 신호 생성부; 및
    상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 복원된 블록 생성부
    를 포함하고,
    상기 제2 예측은 상기 현재 블록의 부분에 대한 예측인, 복호화 방법.
  3. 현재 블록에 대한 복원된 잔차 신호를 생성하는 단계; 및
    상기 복원된 잔차 신호, 제2 예측 및 제1 예측에 기반하여 현재 블록에 대한 복원된 블록을 생성하는 단계
    를 포함하고,
    상기 제2 예측은 상기 현재 블록의 부분에 대한 예측인, 복호화 방법.
  4. 제3항에 있어서,
    상기 제1 예측 및 상기 제2 예측은 인트라 예측인, 복호화 방법.
  5. 제3항에 있어서,
    상기 부분은 비-정방(non-square)형인, 복호화 방법.
  6. 제3항에 있어서,
    상기 부분은 상기 제1 예측의 예측 모드에 기반하여 결정되는, 복호화 방법.
  7. 제6항에 있어서,
    상기 부분은 상기 현재 블록의 중심을 상기 제1 예측의 예측 방향으로 지나는 직선에 기반하여 결정되는, 복호화 방법.
  8. 제3항에 있어서,
    상기 제1 예측의 예측 방향 및 상기 제2 예측의 예측 방향은 서로 상이한, 복호화 방법.
  9. 제3항에 있어서,
    상기 부분은 상기 현재 블록을 분할함에 따라 생성되는 2개의 부분들 중 하나인, 복호화 방법.
  10. 제9항에 있어서,
    상기 2개의 부분들의 픽셀들의 개수들은 동일한, 복호화 방법.
  11. 제9항에 있어서,
    상기 2개의 부분들의 각각은 비정방형인, 복호화 방법.
  12. 제9항에 있어서,
    상기 2개의 부분들은 상기 현재 블록의 중심을 상기 제1 예측의 예측 방향으로 지나는 직선에 기반하여 결정되는, 복호화 방법.
  13. 제9항에 있어서,
    상기 부분은 상기 2개의 부분들 중 하나를 가리키는 선택된 부분 정보에 따라서 선택되는, 복호화 방법.
  14. 제3항에 있어서,
    상기 제1 예측의 예측 모드가 비방향성 모드이면 상기 제2 예측은 사용되지 않는, 복호화 방법.
  15. 제3항에 있어서,
    상기 현재 블록의 부호화에 있어서 상기 제2 예측의 사용 여부를 나타내는 제2 예측 사용 정보가 상기 제2 예측을 사용하지 않는다는 것을 나타내는 경우 상기 제2 예측은 사용되지 않는, 복호화 방법.
  16. 제3항에 있어서,
    상기 제2 예측이 사용되지 않는 경우, 상기 제1 예측은 상기 현재 블록의 전체에 대한 예측인, 복호화 방법.
  17. 제3항에 있어서,
    상기 부분에 대한 상기 제2 예측에 의해 생성된 제2 예측 신호는 상기 복원된 잔차 신호에 더해지는, 복호화 방법.
  18. 제3항에 있어서,
    상기 제1 예측은 상기 현재 블록 중 상기 부분을 제외한 나머지의 부분에 대한 예측인, 복호화 방법.
  19. 제18항에 있어서,
    상기 나머지의 부분에 대한 상기 제1 예측에 의해 생성된 제1 예측 신호는 상기 복원된 잔차 신호에 더해지는, 복호화 방법.
  20. 제18항에 있어서,
    상기 복원된 블록은 상기 부분에 대한 상기 제2 예측에 의해 생성된 제2 예측 신호 및 상기 나머지의 부분에 대한 상기 제1 예측에 의해 생성된 제1 예측 신호에 기반하여 생성되는, 복호화 방법.
PCT/KR2017/000967 2016-01-27 2017-01-26 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치 Ceased WO2017131475A1 (ko)

Priority Applications (6)

Application Number Priority Date Filing Date Title
CN202211137157.XA CN115460410B (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211136616.2A CN115460407B (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211136485.8A CN115442614B (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211136906.7A CN115460409B (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN202211136714.6A CN115460408A (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置
CN201780008673.3A CN108605139B (zh) 2016-01-27 2017-01-26 通过使用预测对视频进行编码和解码的方法和装置

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
KR20160010267 2016-01-27
KR10-2016-0010267 2016-01-27
KR1020170012161A KR20170089778A (ko) 2016-01-27 2017-01-25 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치
KR10-2017-0012161 2017-01-25

Publications (1)

Publication Number Publication Date
WO2017131475A1 true WO2017131475A1 (ko) 2017-08-03

Family

ID=59398281

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2017/000967 Ceased WO2017131475A1 (ko) 2016-01-27 2017-01-26 예측을 사용하는 비디오의 부호화 및 복호화를 위한 방법 및 장치

Country Status (2)

Country Link
CN (5) CN115442614B (ko)
WO (1) WO2017131475A1 (ko)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111277824A (zh) * 2020-02-12 2020-06-12 腾讯科技（深圳）有限公司 图像预测处理方法、装置、终端及计算机可读存储介质
CN111418208A (zh) * 2018-11-06 2020-07-14 北京字节跳动网络技术有限公司 用于几何分割的权重推导

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2013005967A2 (ko) * 2011-07-05 2013-01-10 한국전자통신연구원 영상 정보 부호화 방법 및 복호화 방법
KR20140099510A (ko) * 2010-11-25 2014-08-12 엘지전자 주식회사 영상 정보의 시그널링 방법 및 이를 이용한 영상 정보의 복호화 방법
KR20150079989A (ko) * 2011-11-07 2015-07-08 가부시키가이샤 엔.티.티.도코모 동화상 예측 부호화 장치, 동화상 예측 부호화 방법, 동화상 예측 부호화 프로그램, 동화상 예측 복호 장치, 동화상 예측 복호 방법 및 동화상 예측 복호 프로그램
KR20150079742A (ko) * 2012-12-28 2015-07-08 니폰 덴신 덴와 가부시끼가이샤 영상 부호화 장치 및 방법, 영상 복호 장치 및 방법, 및 그 프로그램
WO2016003209A1 (ko) * 2014-07-03 2016-01-07 주식회사 케이티 다시점 비디오 신호 처리 방법 및 장치

Family Cites Families (24)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006517364A (ja) * 2003-01-07 2006-07-20 トムソン ライセンシング マクロブロック・パーティションのインター／イントラ混在ビデオ符号化
US8085846B2 (en) * 2004-08-24 2011-12-27 Thomson Licensing Method and apparatus for decoding hybrid intra-inter coded blocks
KR100703770B1 (ko) * 2005-03-25 2007-04-06 삼성전자주식회사 가중 예측을 이용한 비디오 코딩 및 디코딩 방법, 이를위한 장치
KR100727972B1 (ko) * 2005-09-06 2007-06-14 삼성전자주식회사 영상의 인트라 예측 부호화, 복호화 방법 및 장치
KR100891663B1 (ko) * 2005-10-05 2009-04-02 엘지전자 주식회사 비디오 신호 디코딩 및 인코딩 방법
KR100750136B1 (ko) * 2005-11-02 2007-08-21 삼성전자주식회사 영상의 부호화, 복호화 방법 및 장치
KR100772873B1 (ko) * 2006-01-12 2007-11-02 삼성전자주식회사 스무딩 예측을 이용한 다계층 기반의 비디오 인코딩 방법,디코딩 방법, 비디오 인코더 및 비디오 디코더
JP5394212B2 (ja) * 2008-12-19 2014-01-22 トムソン ライセンシング データを挿入する方法、挿入されたデータを読み出す方法
JP5475409B2 (ja) * 2009-11-20 2014-04-16 三菱電機株式会社 動画像符号化装置および動画像符号化方法
KR101614781B1 (ko) * 2009-11-24 2016-04-22 에스케이 텔레콤주식회사 왜곡 블록 기반 2차 예측을 통한 동영상 부호화/복호화 장치, 방법 및 기록 매체
KR101733735B1 (ko) * 2009-12-07 2017-05-08 에스케이 텔레콤주식회사 쌍예측을 이용한 멀티 플레인 영상의 부호화/복호화 장치와 방법 및 이를 위한 기록매체
CN105163118B (zh) * 2010-07-20 2019-11-26 Sk电信有限公司 用于解码视频信号的解码方法
KR101739579B1 (ko) * 2011-01-04 2017-05-24 에스케이 텔레콤주식회사 코딩 유닛 단위 병렬 인트라예측을 이용한 부호화/복호화 방법 및 장치
JP5594841B2 (ja) * 2011-01-06 2014-09-24 Ｋｄｄｉ株式会社 画像符号化装置及び画像復号装置
US20140133559A1 (en) * 2011-07-05 2014-05-15 Electronics And Telecommunications Research Institute Method for encoding image information and method for decoding same
RS66687B1 (sr) * 2011-10-18 2025-05-30 Lg Electronics Inc Postupak za dekodiranje slika, postupak za kodiranje slika, računarski čitljiv medijum za čuvanje podataka i postupak za prenos podataka za sliku
KR101830352B1 (ko) * 2011-11-09 2018-02-21 에스케이 텔레콤주식회사 스킵모드를 이용한 동영상 부호화 및 복호화 방법 및 장치
EP2942961A1 (en) * 2011-11-23 2015-11-11 HUMAX Holdings Co., Ltd. Methods for encoding/decoding of video using common merging candidate set of asymmetric partitions
CN110830797B (zh) * 2012-01-18 2023-09-15 韩国电子通信研究院 视频解码装置、视频编码装置和传输比特流的方法
US9438904B2 (en) * 2012-01-19 2016-09-06 Futurewei Technologies, Inc. Reduced look-up table for LM mode calculation
KR20140072941A (ko) * 2012-12-04 2014-06-16 광운대학교 산학협력단 계층간 참조샘플을 이용하여 화면 내 예측을 수행하는 확장 비디오 부/복호화 방법 및 장치
KR101427516B1 (ko) * 2013-01-31 2014-08-13 세종대학교산학협력단 변환 계수의 분포에 기반한 예측 방법 및 장치
KR20150027530A (ko) * 2013-09-04 2015-03-12 한국전자통신연구원 Hevc 부호화 장치 및 이를 이용한 부호화 방법
CN104113762A (zh) * 2014-07-03 2014-10-22 宁波摩米创新工场电子科技有限公司 一种图像与视频重构用编解码系统

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20140099510A (ko) * 2010-11-25 2014-08-12 엘지전자 주식회사 영상 정보의 시그널링 방법 및 이를 이용한 영상 정보의 복호화 방법
WO2013005967A2 (ko) * 2011-07-05 2013-01-10 한국전자통신연구원 영상 정보 부호화 방법 및 복호화 방법
KR20150079989A (ko) * 2011-11-07 2015-07-08 가부시키가이샤 엔.티.티.도코모 동화상 예측 부호화 장치, 동화상 예측 부호화 방법, 동화상 예측 부호화 프로그램, 동화상 예측 복호 장치, 동화상 예측 복호 방법 및 동화상 예측 복호 프로그램
KR20150079742A (ko) * 2012-12-28 2015-07-08 니폰 덴신 덴와 가부시끼가이샤 영상 부호화 장치 및 방법, 영상 복호 장치 및 방법, 및 그 프로그램
WO2016003209A1 (ko) * 2014-07-03 2016-01-07 주식회사 케이티 다시점 비디오 신호 처리 방법 및 장치

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN111418208A (zh) * 2018-11-06 2020-07-14 北京字节跳动网络技术有限公司 用于几何分割的权重推导
US11665344B2 (en) 2018-11-06 2023-05-30 Beijing Bytedance Network Technology Co., Ltd. Multiple merge lists and orders for inter prediction with geometric partitioning
CN111418208B (zh) * 2018-11-06 2023-12-05 北京字节跳动网络技术有限公司 用于几何分割的权重推导
CN111277824A (zh) * 2020-02-12 2020-06-12 腾讯科技（深圳）有限公司 图像预测处理方法、装置、终端及计算机可读存储介质

Also Published As

Publication number Publication date
CN115460407B (zh) 2025-11-11
CN115460407A (zh) 2022-12-09
CN115460408A (zh) 2022-12-09
CN115442614B (zh) 2025-10-28
CN115460409A (zh) 2022-12-09
CN115442614A (zh) 2022-12-06
CN115460410A (zh) 2022-12-09
CN115460409B (zh) 2025-11-18
CN115460410B (zh) 2025-11-14

Similar Documents

Publication Publication Date Title
WO2018012886A1 (ko) 영상 부호화/복호화 방법 및 이를 위한 기록 매체
WO2019190224A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018030773A1 (ko) 영상 부호화/복호화 방법 및 장치
WO2018097693A2 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018226015A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2019177354A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2019083334A1 (ko) 비대칭 서브 블록 기반 영상 부호화/복호화 방법 및 장치
WO2019172705A1 (ko) 샘플 필터링을 이용한 영상 부호화/복호화 방법 및 장치
WO2019182385A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2021015581A1 (ko) 기하학적 분할을 사용하는 영상 부호화/복호화를 위한 방법, 장치 및 기록 매체
WO2018012851A1 (ko) 영상 부호화/복호화 방법 및 이를 위한 기록 매체
WO2018097692A2 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018016823A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018066867A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2017222237A1 (ko) 화면 내 예측 방법 및 장치
WO2018097607A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018174617A1 (ko) 블록 형태에 기반한 예측 방법 및 장치
WO2020005035A1 (ko) 처리율 향상을 위한 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020050600A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020032531A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2020004978A1 (ko) 비디오 신호 처리 방법 및 장치
WO2020256377A1 (ko) 서브 블록 분할 기반 영상 부호화/복호화 방법 및 장치
WO2018101700A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2017176092A1 (ko) 움직임 예측 정보를 유도하는 방법 및 장치
WO2017119540A1 (ko) 잔차 신호에 대한 예측 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17744596

Country of ref document: EP

Kind code of ref document: A1

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 17744596

Country of ref document: EP

Kind code of ref document: A1