본 발명은 다양한 변경을 가할 수 있고 여러 가지 실시예를 가질 수 있는 바, 특정 실시예들을 도면에 예시하고 상세한 설명에 상세하게 설명하고자 한다. 그러나, 이는 본 발명을 특정한 실시 형태에 대해 한정하려는 것이 아니며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다. 각 도면을 설명하면서 유사한 참조부호를 유사한 구성요소에 대해 사용하였다.
제1, 제2 등의 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되어서는 안 된다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다. 예를 들어, 본 발명의 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 명명될 수 있다. 및/또는 이라는 용어는 복수의 관련된 기재된 항목들의 조합 또는 복수의 관련된 기재된 항목들 중의 어느 항목을 포함한다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어"있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어"있다거나 "직접 접속되어"있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
본 출원에서 사용한 용어는 단지 특정한 실시예를 설명하기 위해 사용된 것으로, 본 발명을 한정하려는 의도가 아니다. 단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다. 본 출원에서, "포함하다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
이하, 첨부한 도면들을 참조하여, 본 발명의 바람직한 실시예를 보다 상세하게 설명하고자 한다. 이하, 도면상의 동일한 구성요소에 대해서는 동일한 참조부호를 사용하고 동일한 구성요소에 대해서 중복된 설명은 생략한다.
도 1은 본 발명의 일실시예에 따른 영상 부호화 장치를 나타낸 블록도이다.
도 1을 참조하면, 영상 부호화 장치(100)는 픽쳐 분할부(110), 예측부(120, 125), 변환부(130), 양자화부(135), 재정렬부(160), 엔트로피 부호화부(165), 역양자화부(140), 역변환부(145), 필터부(150) 및 메모리(155)를 포함할 수 있다.
도 1에 나타난 각 구성부들은 영상 부호화 장치에서 서로 다른 특징적인 기능들을 나타내기 위해 독립적으로 도시한 것으로, 각 구성부들이 분리된 하드웨어나 하나의 소프트웨어 구성단위로 이루어짐을 의미하지 않는다. 즉, 각 구성부는 설명의 편의상 각각의 구성부로 나열하여 포함한 것으로 각 구성부 중 적어도 두 개의 구성부가 합쳐져 하나의 구성부로 이루어지거나, 하나의 구성부가 복수개의 구성부로 나뉘어져 기능을 수행할 수 있고 이러한 각 구성부의 통합된 실시예 및 분리된 실시예도 본 발명의 본질에서 벗어나지 않는 한 본 발명의 권리범위에 포함된다.
또한, 일부의 구성 요소는 본 발명에서 본질적인 기능을 수행하는 필수적인 구성 요소는 아니고 단지 성능을 향상시키기 위한 선택적 구성 요소일 수 있다. 본 발명은 단지 성능 향상을 위해 사용되는 구성 요소를 제외한 본 발명의 본질을 구현하는데 필수적인 구성부만을 포함하여 구현될 수 있고, 단지 성능 향상을 위해 사용되는 선택적 구성 요소를 제외한 필수 구성 요소만을 포함한 구조도 본 발명의 권리범위에 포함된다.
픽쳐 분할부(110)는 입력된 픽쳐를 적어도 하나의 처리 단위로 분할할 수 있다. 이때, 처리 단위는 예측 단위(Prediction Unit: PU)일 수도 있고, 변환 단위(Transform Unit: TU)일 수도 있으며, 부호화 단위(Coding Unit: CU)일 수도 있다. 픽쳐 분할부(110)에서는 하나의 픽쳐에 대해 복수의 부호화 단위, 예측 단위 및 변환 단위의 조합으로 분할하고 소정의 기준(예를 들어, 비용 함수)으로 하나의 부호화 단위, 예측 단위 및 변환 단위 조합을 선택하여 픽쳐를 부호화 할 수 있다.
예를 들어, 하나의 픽쳐는 복수개의 부호화 단위로 분할될 수 있다. 픽쳐에서 부호화 단위를 분할하기 위해서는 쿼드 트리 구조(Quad Tree Structure)와 같은 재귀적인 트리 구조를 사용할 수 있는데 하나의 영상 또는 최대 크기 부호화 단위(largest coding unit) 또는 부호화 트리 단위(Coding Tree Unit, CTU)를 루트로 하여 다른 부호화 단위로 분할되는 부호화 단위는 분할된 부호화 단위의 개수만큼의 자식 노드를 가지고 분할될 수 있다. 일정한 제한에 따라 더 이상 분할되지 않는 부호화 단위는 리프 노드가 된다. 즉, 하나의 부호화 단위에 대하여 정방형 분할만이 가능하다고 가정하는 경우, 하나의 부호화 단위는 최대 4개의 다른 부호화 단위로 분할될 수 있다.
이하, 본 발명의 실시예에서는 부호화 단위는 부호화를 수행하는 단위의 의미로 사용할 수도 있고, 복호화를 수행하는 단위의 의미로 사용할 수도 있다.
예측 단위는 하나의 부호화 단위 내에서 동일한 크기의 적어도 하나의 정사각형 또는 직사각형 등의 형태를 가지고 분할된 것일 수도 있고, 하나의 부호화 단위 내에서 분할된 예측 단위 중 어느 하나의 예측 단위가 다른 하나의 예측 단위와 상이한 형태 및/또는 크기를 가지도록 분할된 것일 수도 있다.
부호화 단위를 기초로 인트라 예측을 수행하는 예측 단위를 생성시 최소 부호화 단위가 아닌 경우, 복수의 예측 단위 NxN 으로 분할하지 않고 인트라 예측을 수행할 수 있다.
예측부(120, 125)는 인터 예측을 수행하는 인터 예측부(120)와 인트라 예측을 수행하는 인트라 예측부(125)를 포함할 수 있다. 예측 단위에 대해 인터 예측을 사용할 것인지 또는 인트라 예측을 수행할 것인지를 결정하고, 각 예측 방법에 따른 구체적인 정보(예컨대, 인트라 예측 모드, 움직임 벡터, 참조 픽쳐 등)를 결정할 수 있다. 이때, 예측이 수행되는 처리 단위와 예측 방법 및 구체적인 내용이 정해지는 처리 단위는 다를 수 있다. 예컨대, 예측의 방법과 예측 모드 등은 예측 단위로 결정되고, 예측의 수행은 변환 단위로 수행될 수도 있다. 생성된 예측 블록과 원본 블록 사이의 잔차값(잔차 블록)은 변환부(130)로 입력될 수 있다. 또한, 예측을 위해 사용한 예측 모드 정보, 움직임 벡터 정보 등은 잔차값과 함께 엔트로피 부호화부(165)에서 부호화되어 복호화기에 전달될 수 있다. 특정한 부호화 모드를 사용할 경우, 예측부(120, 125)를 통해 예측 블록을 생성하지 않고, 원본 블록을 그대로 부호화하여 복호화부에 전송하는 것도 가능하다.
인터 예측부(120)는 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐의 정보를 기초로 예측 단위를 예측할 수도 있고, 경우에 따라서는 현재 픽쳐 내의 부호화가 완료된 일부 영역의 정보를 기초로 예측 단위를 예측할 수도 있다. 인터 예측부(120)는 참조 픽쳐 보간부, 움직임 예측부, 움직임 보상부를 포함할 수 있다.
참조 픽쳐 보간부에서는 메모리(155)로부터 참조 픽쳐 정보를 제공받고 참조 픽쳐에서 정수 화소 이하의 화소 정보를 생성할 수 있다. 휘도 화소의 경우, 1/4 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 8탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다. 색차 신호의 경우 1/8 화소 단위로 정수 화소 이하의 화소 정보를 생성하기 위해 필터 계수를 달리하는 DCT 기반의 4탭 보간 필터(DCT-based Interpolation Filter)가 사용될 수 있다.
움직임 예측부는 참조 픽쳐 보간부에 의해 보간된 참조 픽쳐를 기초로 움직임 예측을 수행할 수 있다. 움직임 벡터를 산출하기 위한 방법으로 FBMA(Full search-based Block Matching Algorithm), TSS(Three Step Search), NTS(New Three-Step Search Algorithm) 등 다양한 방법이 사용될 수 있다. 움직임 벡터는 보간된 화소를 기초로 1/2 또는 1/4 화소 단위의 움직임 벡터값을 가질 수 있다. 움직임 예측부에서는 움직임 예측 방법을 다르게 하여 현재 예측 단위를 예측할 수 있다. 움직임 예측 방법으로 스킵(Skip) 방법, 머지(Merge) 방법, AMVP(Advanced Motion Vector Prediction) 방법, 인트라 블록 카피(Intra Block Copy) 방법 등 다양한 방법이 사용될 수 있다.
인트라 예측부(125)는 현재 픽쳐 내의 화소 정보인 현재 블록 주변의 참조 화소 정보를 기초로 예측 단위를 생성할 수 있다. 현재 예측 단위의 주변 블록이 인터 예측을 수행한 블록이어서, 참조 화소가 인터 예측을 수행한 화소일 경우, 인터 예측을 수행한 블록에 포함되는 참조 화소를 주변의 인트라 예측을 수행한 블록의 참조 화소 정보로 대체하여 사용할 수 있다. 즉, 참조 화소가 가용하지 않는 경우, 가용하지 않은 참조 화소 정보를 가용한 참조 화소 중 적어도 하나의 참조 화소로 대체하여 사용할 수 있다.
인트라 예측에서 예측 모드는 참조 화소 정보를 예측 방향에 따라 사용하는 방향성 예측 모드와 예측을 수행시 방향성 정보를 사용하지 않는 비방향성 모드를 가질 수 있다. 휘도 정보를 예측하기 위한 모드와 색차 정보를 예측하기 위한 모드가 상이할 수 있고, 색차 정보를 예측하기 위해 휘도 정보를 예측하기 위해 사용된 인트라 예측 모드 정보 또는 예측된 휘도 신호 정보를 활용할 수 있다.
인트라 예측을 수행할 때 예측 단위의 크기와 변환 단위의 크기가 동일할 경우, 예측 단위의 좌측에 존재하는 화소, 좌측 상단에 존재하는 화소, 상단에 존재하는 화소를 기초로 예측 단위에 대한 인트라 예측을 수행할 수 있다. 그러나 인트라 예측을 수행할 때 예측 단위의 크기와 변환 단위의 크기가 상이할 경우, 변환 단위를 기초로 한 참조 화소를 이용하여 인트라 예측을 수행할 수 있다. 또한, 최소 부호화 단위에 대해서만 NxN 분할을 사용하는 인트라 예측을 사용할 수 있다.
인트라 예측 방법은 예측 모드에 따라 참조 화소에 AIS(Adaptive Intra Smoothing) 필터를 적용한 후 예측 블록을 생성할 수 있다. 참조 화소에 적용되는 AIS 필터의 종류는 상이할 수 있다. 인트라 예측 방법을 수행하기 위해 현재 예측 단위의 인트라 예측 모드는 현재 예측 단위의 주변에 존재하는 예측 단위의 인트라 예측 모드로부터 예측할 수 있다. 주변 예측 단위로부터 예측된 모드 정보를 이용하여 현재 예측 단위의 예측 모드를 예측하는 경우, 현재 예측 단위와 주변 예측 단위의 인트라 예측 모드가 동일하면 소정의 플래그 정보를 이용하여 현재 예측 단위와 주변 예측 단위의 예측 모드가 동일하다는 정보를 전송할 수 있고, 만약 현재 예측 단위와 주변 예측 단위의 예측 모드가 상이하면 엔트로피 부호화를 수행하여 현재 블록의 예측 모드 정보를 부호화할 수 있다.
또한, 예측부(120, 125)에서 생성된 예측 단위를 기초로 예측을 수행한 예측 단위와 예측 단위의 원본 블록과 차이값인 잔차값(Residual) 정보를 포함하는 잔차 블록이 생성될 수 있다. 생성된 잔차 블록은 변환부(130)로 입력될 수 있다.
변환부(130)에서는 원본 블록과 예측부(120, 125)를 통해 생성된 예측 단위의 잔차값(residual)정보를 포함한 잔차 블록을 DCT(Discrete Cosine Transform), DST(Discrete Sine Transform), KLT와 같은 변환 방법을 사용하여 변환시킬 수 있다. 잔차 블록을 변환하기 위해 DCT를 적용할지, DST를 적용할지 또는 KLT를 적용할지는 잔차 블록을 생성하기 위해 사용된 예측 단위의 인트라 예측 모드 정보를 기초로 결정할 수 있다.
양자화부(135)는 변환부(130)에서 주파수 영역으로 변환된 값들을 양자화할 수 있다. 블록에 따라 또는 영상의 중요도에 따라 양자화 계수는 변할 수 있다. 양자화부(135)에서 산출된 값은 역양자화부(140)와 재정렬부(160)에 제공될 수 있다.
재정렬부(160)는 양자화된 잔차값에 대해 계수값의 재정렬을 수행할 수 있다.
재정렬부(160)는 계수 스캐닝(Coefficient Scanning) 방법을 통해 2차원의 블록 형태 계수를 1차원의 벡터 형태로 변경할 수 있다. 예를 들어, 재정렬부(160)에서는 지그-재그 스캔(Zig-Zag Scan)방법을 이용하여 DC 계수부터 고주파수 영역의 계수까지 스캔하여 1차원 벡터 형태로 변경시킬 수 있다. 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔 대신 2차원의 블록 형태 계수를 열 방향으로 스캔하는 수직 스캔, 2차원의 블록 형태 계수를 행 방향으로 스캔하는 수평 스캔이 사용될 수도 있다. 즉, 변환 단위의 크기 및 인트라 예측 모드에 따라 지그-재그 스캔, 수직 방향 스캔 및 수평 방향 스캔 중 어떠한 스캔 방법이 사용될지 여부를 결정할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160)에 의해 산출된 값들을 기초로 엔트로피 부호화를 수행할 수 있다. 엔트로피 부호화는 예를 들어, 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 부호화 방법을 사용할 수 있다.
엔트로피 부호화부(165)는 재정렬부(160) 및 예측부(120, 125)로부터 부호화 단위의 잔차값 계수 정보 및 블록 타입 정보, 예측 모드 정보, 분할 단위 정보, 예측 단위 정보 및 전송 단위 정보, 움직임 벡터 정보, 참조 프레임 정보, 블록의 보간 정보, 필터링 정보 등 다양한 정보를 부호화할 수 있다.
엔트로피 부호화부(165)에서는 재정렬부(160)에서 입력된 부호화 단위의 계수값을 엔트로피 부호화할 수 있다.
역양자화부(140) 및 역변환부(145)에서는 양자화부(135)에서 양자화된 값들을 역양자화하고 변환부(130)에서 변환된 값들을 역변환한다. 역양자화부(140) 및 역변환부(145)에서 생성된 잔차값(Residual)은 예측부(120, 125)에 포함된 움직임 추정부, 움직임 보상부 및 인트라 예측부를 통해서 예측된 예측 단위와 합쳐져 복원 블록(Reconstructed Block)을 생성할 수 있다.
필터부(150)는 디블록킹 필터, 오프셋 보정부, ALF(Adaptive Loop Filter)중 적어도 하나를 포함할 수 있다.
디블록킹 필터는 복원된 픽쳐에서 블록간의 경계로 인해 생긴 블록 왜곡을 제거할 수 있다. 디블록킹을 수행할지 여부를 판단하기 위해 블록에 포함된 몇 개의 열 또는 행에 포함된 화소를 기초로 현재 블록에 디블록킹 필터 적용할지 여부를 판단할 수 있다. 블록에 디블록킹 필터를 적용하는 경우 필요한 디블록킹 필터링 강도에 따라 강한 필터(Strong Filter) 또는 약한 필터(Weak Filter)를 적용할 수 있다. 또한 디블록킹 필터를 적용함에 있어 수직 필터링 및 수평 필터링 수행시 수평 방향 필터링 및 수직 방향 필터링이 병행 처리되도록 할 수 있다.
오프셋 보정부는 디블록킹을 수행한 영상에 대해 화소 단위로 원본 영상과의 오프셋을 보정할 수 있다. 특정 픽쳐에 대한 오프셋 보정을 수행하기 위해 영상에 포함된 화소를 일정한 수의 영역으로 구분한 후 오프셋을 수행할 영역을 결정하고 해당 영역에 오프셋을 적용하는 방법 또는 각 화소의 에지 정보를 고려하여 오프셋을 적용하는 방법을 사용할 수 있다.
ALF(Adaptive Loop Filtering)는 필터링한 복원 영상과 원래의 영상을 비교한 값을 기초로 수행될 수 있다. 영상에 포함된 화소를 소정의 그룹으로 나눈 후 해당 그룹에 적용될 하나의 필터를 결정하여 그룹마다 차별적으로 필터링을 수행할 수 있다. ALF를 적용할지 여부에 관련된 정보는 휘도 신호는 부호화 단위 별로 전송될 수 있고, 각각의 블록에 따라 적용될 ALF 필터의 모양 및 필터 계수는 달라질 수 있다. 또한, 적용 대상 블록의 특성에 상관없이 동일한 형태(고정된 형태)의 ALF 필터가 적용될 수도 있다.
메모리(155)는 필터부(150)를 통해 산출된 복원 블록 또는 픽쳐를 저장할 수 있고, 저장된 복원 블록 또는 픽쳐는 인터 예측을 수행 시 예측부(120, 125)에 제공될 수 있다.
도 2는 본 발명의 일실시예에 따른 영상 복호화 장치를 나타낸 블록도이다.
도 2를 참조하면, 영상 복호화기(200)는 엔트로피 복호화부(210), 재정렬부(215), 역양자화부(220), 역변환부(225), 예측부(230, 235), 필터부(240), 메모리(245)가 포함될 수 있다.
영상 부호화기에서 영상 비트스트림이 입력된 경우, 입력된 비트스트림은 영상 부호화기와 반대의 절차로 복호화될 수 있다.
엔트로피 복호화부(210)는 영상 부호화기의 엔트로피 부호화부에서 엔트로피 부호화를 수행한 것과 반대의 절차로 엔트로피 복호화를 수행할 수 있다. 예를 들어, 영상 부호화기에서 수행된 방법에 대응하여 지수 골롬(Exponential Golomb), CAVLC(Context-Adaptive Variable Length Coding), CABAC(Context-Adaptive Binary Arithmetic Coding)과 같은 다양한 방법이 적용될 수 있다.
엔트로피 복호화부(210)에서는 부호화기에서 수행된 인트라 예측 및 인터 예측에 관련된 정보를 복호화할 수 있다.
재정렬부(215)는 엔트로피 복호화부(210)에서 엔트로피 복호화된 비트스트림을 부호화부에서 재정렬한 방법을 기초로 재정렬을 수행할 수 있다. 1차원 벡터 형태로 표현된 계수들을 다시 2차원의 블록 형태의 계수로 복원하여 재정렬할 수 있다. 재정렬부(215)에서는 부호화부에서 수행된 계수 스캐닝에 관련된 정보를 제공받고 해당 부호화부에서 수행된 스캐닝 순서에 기초하여 역으로 스캐닝하는 방법을 통해 재정렬을 수행할 수 있다.
역양자화부(220)는 부호화기에서 제공된 양자화 파라미터와 재정렬된 블록의 계수값을 기초로 역양자화를 수행할 수 있다.
역변환부(225)는 영상 부호화기에서 수행한 양자화 결과에 대해 변환부에서 수행한 변환 즉, DCT, DST, 및 KLT에 대해 역변환 즉, 역 DCT, 역 DST 및 역 KLT를 수행할 수 있다. 역변환은 영상 부호화기에서 결정된 전송 단위를 기초로 수행될 수 있다. 영상 복호화기의 역변환부(225)에서는 예측 방법, 현재 블록의 크기 및 예측 방향 등 복수의 정보에 따라 변환 기법(예를 들어, DCT, DST, KLT)이 선택적으로 수행될 수 있다.
예측부(230, 235)는 엔트로피 복호화부(210)에서 제공된 예측 블록 생성 관련 정보와 메모리(245)에서 제공된 이전에 복호화된 블록 또는 픽쳐 정보를 기초로 예측 블록을 생성할 수 있다.
전술한 바와 같이 영상 부호화기에서의 동작과 동일하게 인트라 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 동일할 경우, 예측 단위의 좌측에 존재하는 화소, 좌측 상단에 존재하는 화소, 상단에 존재하는 화소를 기초로 예측 단위에 대한 인트라 예측을 수행하지만, 인트라 예측을 수행시 예측 단위의 크기와 변환 단위의 크기가 상이할 경우, 변환 단위를 기초로 한 참조 화소를 이용하여 인트라 예측을 수행할 수 있다. 또한, 최소 부호화 단위에 대해서만 NxN 분할을 사용하는 인트라 예측을 사용할 수도 있다.
예측부(230, 235)는 예측 단위 판별부, 인터 예측부 및 인트라 예측부를 포함할 수 있다. 예측 단위 판별부는 엔트로피 복호화부(210)에서 입력되는 예측 단위 정보, 인트라 예측 방법의 예측 모드 정보, 인터 예측 방법의 움직임 예측 관련 정보 등 다양한 정보를 입력 받고 현재 부호화 단위에서 예측 단위를 구분하고, 예측 단위가 인터 예측을 수행하는지 아니면 인트라 예측을 수행하는지 여부를 판별할 수 있다. 인터 예측부(230)는 영상 부호화기에서 제공된 현재 예측 단위의 인터 예측에 필요한 정보를 이용해 현재 예측 단위가 포함된 현재 픽쳐의 이전 픽쳐 또는 이후 픽쳐 중 적어도 하나의 픽쳐에 포함된 정보를 기초로 현재 예측 단위에 대한 인터 예측을 수행할 수 있다. 또는, 현재 예측 단위가 포함된 현재 픽쳐 내에서 기-복원된 일부 영역의 정보를 기초로 인터 예측을 수행할 수도 있다.
인터 예측을 수행하기 위해 부호화 단위를 기준으로 해당 부호화 단위에 포함된 예측 단위의 움직임 예측 방법이 스킵 모드(Skip Mode), 머지 모드(Merge 모드), AMVP 모드(AMVP Mode), 인트라 블록 카피 모드 중 어떠한 방법인지 여부를 판단할 수 있다.
인트라 예측부(235)는 현재 픽쳐 내의 화소 정보를 기초로 예측 블록을 생성할 수 있다. 예측 단위가 인트라 예측을 수행한 예측 단위인 경우, 영상 부호화기에서 제공된 예측 단위의 인트라 예측 모드 정보를 기초로 인트라 예측을 수행할 수 있다. 인트라 예측부(235)에는 AIS(Adaptive Intra Smoothing) 필터, 참조 화소 보간부, DC 필터를 포함할 수 있다. AIS 필터는 현재 블록의 참조 화소에 필터링을 수행하는 부분으로써 현재 예측 단위의 예측 모드에 따라 필터의 적용 여부를 결정하여 적용할 수 있다. 영상 부호화기에서 제공된 예측 단위의 예측 모드 및 AIS 필터 정보를 이용하여 현재 블록의 참조 화소에 AIS 필터링을 수행할 수 있다. 현재 블록의 예측 모드가 AIS 필터링을 수행하지 않는 모드일 경우, AIS 필터는 적용되지 않을 수 있다.
참조 화소 보간부는 예측 단위의 예측 모드가 참조 화소를 보간한 화소값을 기초로 인트라 예측을 수행하는 예측 단위일 경우, 참조 화소를 보간하여 정수값 이하의 화소 단위의 참조 화소를 생성할 수 있다. 현재 예측 단위의 예측 모드가 참조 화소를 보간하지 않고 예측 블록을 생성하는 예측 모드일 경우 참조 화소는 보간되지 않을 수 있다. DC 필터는 현재 블록의 예측 모드가 DC 모드일 경우 필터링을 통해서 예측 블록을 생성할 수 있다.
복원된 블록 또는 픽쳐는 필터부(240)로 제공될 수 있다. 필터부(240)는 디블록킹 필터, 오프셋 보정부, ALF를 포함할 수 있다.
영상 부호화기로부터 해당 블록 또는 픽쳐에 디블록킹 필터를 적용하였는지 여부에 대한 정보 및 디블록킹 필터를 적용하였을 경우, 강한 필터를 적용하였는지 또는 약한 필터를 적용하였는지에 대한 정보를 제공받을 수 있다. 영상 복호화기의 디블록킹 필터에서는 영상 부호화기에서 제공된 디블록킹 필터 관련 정보를 제공받고 영상 복호화기에서 해당 블록에 대한 디블록킹 필터링을 수행할 수 있다.
오프셋 보정부는 부호화시 영상에 적용된 오프셋 보정의 종류 및 오프셋 값 정보 등을 기초로 복원된 영상에 오프셋 보정을 수행할 수 있다.
ALF는 부호화기로부터 제공된 ALF 적용 여부 정보, ALF 계수 정보 등을 기초로 부호화 단위에 적용될 수 있다. 이러한 ALF 정보는 특정한 파라미터 셋에 포함되어 제공될 수 있다.
메모리(245)는 복원된 픽쳐 또는 블록을 저장하여 참조 픽쳐 또는 참조 블록으로 사용할 수 있도록 할 수 있고 또한 복원된 픽쳐를 출력부로 제공할 수 있다.
본 명세서에서, 부호화 단위, 부호화 블록, 현재 블록 등은 동일한 의미로 해석될 수 있다. 후술하는 실시예는, 상기 영상 부호화 장치 및/또는 영상 복호화 장치의 대응 유닛에서 수행될 수 있다.
도 3은 본 발명이 적용되는 일실시예로서, 픽쳐를 복수의 조각 영역으로 분할하는 방법을 도시한 것이다.
하나의 픽쳐는 소정의 조각 영역으로 분할될 수 있다. 본 발명에 따른 조각 영역은, 서브픽쳐(subpicture), 슬라이스(slice), 타일(tile), 부호화 트리 단위(CTU) 또는 부호화 단위(CU) 중 적어도 하나를 포함할 수 있다.
도 3을 참조하면, 픽쳐(300)는 하나 또는 그 이상의 서브픽쳐를 포함할 수 있다. 즉, 픽쳐는 하나의 서브픽쳐로 구성될 수도 있고, 도 3과 같이 복수의 서브픽쳐로 분할될 수도 있다.
서브픽쳐는 부호화 설정에 따라 분할 정보가 달리 구성될 수 있다. (1) 예를 들어, 픽쳐를 가로지르는 수직 또는 수평 라인에 기반한 일괄적인 분할 방식으로 서브픽쳐를 획득할 수 있다. (2) 또는, 각 서브픽쳐의 특징 정보(위치, 크기, 형태 등. 형태는 직사각을 가정하여 후술)에 기반한 부분적인 분할 방식으로 서브픽쳐를 획득할 수 있다.
(1) 전자의 경우, 서브픽쳐를 구획하는 수직 또는 수평 라인에 기반하여 서브픽쳐의 분할 정보가 구성될 수 있다.
상기 라인 기반의 분할은 균등 또는 비균등 분할 중의 하나의 방식을 사용할 수 있다. 균등 방식이 사용될 경우에는 각 라인의 분할 개수에 관한 정보가 발생할 수 있고, 비균등 방식이 사용될 경우에는 각 라인 간의 간격 정보(너비 또는 높이)가 발생할 수 있다. 부호화 설정에 따라 균등 또는 비균등 분할 방식 중에 하나가 사용될 수 있으며, 방식 선택 정보가 명시적으로 발생할 수도 있다. 수직과 수평 라인에 균등 또는 비균등 분할 방식이 일괄적으로 적용될 수 있다. 또는, 수직과 수평 라인에 적용되는 방식을 달리하는 경우 또한 가능하다. 상기 분할 정보에 기반하여 서브픽쳐의 개수 정보가 유도될 수 있다.
상기 라인 간의 간격 정보는 n개의 샘플 단위, CTU 크기, (2*CTU 크기), (4*CTU 크기) 등의 단위로 부호화된 것일 수 있다. 여기서, n은 4, 8, 16, 32, 64, 128, 256 또는 그 이상의 자연수일 수 있다. 상기 발생하는 정보는 비디오 파라미터 세트(VPS), 시퀀스 파라미터 세트(SPS), 픽쳐 파라미터 세트(PPS), 픽쳐 헤더(PH) 중 적어도 하나의 레벨에서 시그날링될 수 있다.
(2) 후자의 경우, 서브픽쳐의 위치 정보(예를 들어, 각 서브픽쳐의 좌상단, 우상단, 좌하단, 우하단 위치 등을 가리키는 정보), 크기 정보(예를 들어, 너비 또는 높이를 가리키는 정보), 서브픽쳐의 개수 정보 등에서 서브픽쳐의 분할 정보가 구성될 수 있다.
서브픽쳐의 개수를 특정하는 정보(이하, 개수 정보)는 부호화 장치에서 부호화되고, 복호화 장치는 부호화된 개수 정보에 기초하여 하나의 픽쳐를 구성하는 서브픽쳐의 개수를 결정할 수 있다. 상기 개수 정보는 VPS, SPS, PPS, PH 중 적어도 하나의 레벨에서 시그날링될 수 있다. 또는, 서브픽쳐의 분할 정보(위치, 크기 정보 등)에 기반하여 서브픽쳐의 개수 정보를 묵시적으로 유도할 수도 있다.
각 서브픽쳐의 위치를 특정하는 정보(이하, 위치 정보)는 해당 서브픽쳐의 기-약속된 위치의 x좌표 또는 y좌표를 포함할 수 있다. 기-약속된 위치는 해당 서브픽쳐의 좌상단, 우상단, 좌하단, 우하단 중에서 정해질 수 있다. 상기 위치 정보는 부호화 장치에서 부호화되고, 복호화 장치에서 부호화된 위치 정보에 기초하여 각 서브픽쳐의 위치를 결정할 수 있다. 여기서, x좌표/y좌표는 n개 샘플 단위, CTU 크기, (2*CTU 크기), (4*CTU 크기) 등의 단위로 표현될 수 있다. 여기서, n은 1, 2, 4, 8, 16, 32, 64, 128, 256 또는 그 이상의 자연수일 수 있다. 일예로, 서브픽쳐의 좌상단 CTU의 x좌표와 y좌표로 위치 정보를 부호화한 경우, CTU(CtbSize)의 단위로 너비와 높이가 각각 2와 3이면, 서브픽쳐의 위치(좌상단)는 (2*CtbSize, 3*CtbSize)로 결정될 수 있다.
각 서브픽쳐의 크기를 특정하는 정보(이하, 크기 정보)는 해당 서브픽쳐의 너비 정보와 높이 정보 중 적어도 하나를 포함할 수 있다. 여기서, 너비/높이 정보는 n개 샘플 단위, CTU 크기, (2*CTU 크기), (4*CTU 크기) 등의 단위로 부호화된 것일 수 있다. 여기서, n은 4, 8, 16, 32, 64, 128, 256 또는 그 이상의 자연수일 수 있다. 일예로, 너비 정보가 CTU 크기(CtbSize)의 단위로 부호화된 경우에 있어서, 너비 정보가 6이면, 서브픽쳐의 너비는 (6*CtbSize)로 결정될 수 있다.
전술한 위치 정보와 크기 정보는, 픽쳐에 속한 서브픽쳐의 개수가 2개 이상인 경우에 한하여 부호화/복호화되도록 제한될 수도 있다. 즉, 상기 개수 정보에 따른 서브픽쳐의 개수가 2개보다 크거나 같은 경우, 위치 정보와 크기 정보가 시그날링되고, 그렇지 않은 경우, 서브픽쳐는 픽쳐와 동일한 위치/크기로 설정될 수 있다. 다만, 서브픽쳐의 개수가 2개 이상인 경우라도, 픽쳐의 좌상단에 위치한 첫번째 서브픽쳐에 대한 위치 정보는 시그날링되지 않고, 두번째 서브픽쳐에 대한 위치 정보부터 시그날링될 수 있다. 또한, 픽쳐의 마지막 서브픽쳐에 대한 위치 정보 또는 크기 정보 중 적어도 하나는 시그날링되지 않을 수 있다.
도 3을 참조하면, 하나의 서브픽쳐는 하나 또는 그 이상의 슬라이스를 포함할 수 있다. 즉, 하나의 서브픽쳐는 하나의 슬라이스로 구성될 수도 있고, 복수의 슬라이스로 분할될 수도 있다. 서브픽쳐는 수평 방향으로 분할된 복수의 슬라이스로 구성될 수도 있고, 수직 방향으로 분할된 복수의 슬라이스로 구성될 수도 있다.
하나의 픽쳐 또는 서브픽쳐에 속한 슬라이스의 개수를 특정하는 정보(이하, 개수 정보)는 부호화 장치에서 부호화되고, 복호화 장치는 부호화된 개수 정보에 기초하여 하나의 픽쳐 또는 서브픽쳐를 구성하는 서브픽쳐의 개수를 결정할 수 있다. 상기 개수 정보는 VPS, SPS, PPS, PH 중 적어도 하나의 레벨에서 시그날링될 수 있다. 다만, 상기 개수 정보는, 직사각형 형태의 슬라이스가 허용되는 경우 또는 하나의 서브픽쳐가 하나의 슬라이스로 구성되지 않은 경우 중 적어도 하나의 조건을 만족할 때에만 시그날링될 수 있다.
각 슬라이스의 크기를 특정하는 정보(이하, 크기 정보)는 해당 슬라이스의 너비 정보와 높이 정보 중 적어도 하나를 포함할 수 있다. 여기서, 너비/높이 정보는 타일, CTU 의 단위로 부호화된 것일 수 있다.
다만, 하나의 슬라이스가 복수의 서브픽쳐에 걸치도록 분할되는 것은 허용되지 않을 수 있다. 다시 말해, 하나의 서브픽쳐가 하나 또는 그 이상의 슬라이스를 완전히 포함하도록 구획될 수 있다. 또는, 하나의 서브픽쳐를 구성하는 슬라이스는 수평 방향 또는 수직 방향 중 어느 하나의 방향으로만 분할되도록 제한될 수도 있다.
도 3을 참조하면, 하나의 서브픽쳐 또는 슬라이스(310)는 하나 또는 그 이상의 타일을 포함할 수 있다. 즉, 하나의 슬라이스는 하나의 타일로 구성될 수도 있고, 복수의 타일로 구성될 수도 있다. 다만, 이에 한정되지 아니하며, 하나의 타일에 복수의 슬라이스가 포함되는 것도 허용될 수 있다. 일예로, 하나의 슬라이스는 하나의 타일에 속한 복수의 CTU 행의 서브셋(subset)으로 구성될 수 있다. 이 경우, 하나의 타일에 속한 슬라이스의 개수를 특정하는 정보(이하, 개수 정보)는 부호화 장치에서 부호화되고, 복호화 장치는 부호화된 개수 정보에 기초하여 하나의 타일을 구성하는 슬라이스의 개수를 결정할 수 있다. 각 슬라이스의 크기를 특정하는 정보(이하, 크기 정보)는 해당 슬라이스의 너비 정보와 높이 정보 중 적어도 하나를 포함할 수 있다. 여기서, 너비/높이 정보는 CTU 크기의 단위로 부호화된 것일 수 있다. 다만, 하나의 슬라이스가 복수의 CTU 행의 서브셋(subset)으로 구성된 경우, 해당 슬라이스의 높이 정보만이 시그날링되고, 너비 정보는 시그날링되지 않을 수 있다. 상기 개수/크기 정보는 VPS, SPS, PPS, PH 중 적어도 하나의 레벨에서 시그날링될 수 있다.
전술한 개수, 위치, 크기에 관한 정보 중 적어도 하나는, 픽쳐가 소정의 조각 영역으로 분할되는 경우에 한하여 요구된다. 일예로, 상기 정보는, 해당 픽쳐가 복수의 슬라이스 또는 타일로 분할되는 경우에 한하여 시그날링될 수 있다. 이를 위해, 현재 픽쳐가 복수의 슬라이스 또는 타일로 분할되는지 여부를 나타내는 별도의 플래그가 이용될 수 있다. 상기 플래그는 VPS, SPS, PPS, PH 중 적어도 하나의 레벨에서 시그날링될 수 있다.
도 3을 참조하면, 하나의 타일은 복수의 CTU로 구성될 수 있고, 하나의 CTU(320)(이하, 제1 블록)은 수직 라인 또는 수평 라인 중 적어도 하나에 의해서 복수의 서브블록(이하, 제2 블록)으로 분할될 수 있다. 상기 수직 라인과 수평 라인은 1개, 2개 또는 그 이상일 수 있다. 이하, 제1 블록은 CTU로 제한되지 않으며, CTU로부터 분할된 부호화 블록(CU), 예측 부호화/복호화의 기본 단위인 예측 블록(PU), 또는 변환 부호화/복호화의 기본 단위인 변환 블록(TU)일 수 있다. 상기 제1 블록은 정방형 블록일 수도 있고, 비정방형 블록일 수도 있다.
상기 제1 블록의 분할은, 쿼드 트리(quad tree)뿐만 아니라 바이너리 트리(binary tree), 터너리 트리(ternary tree) 등과 같은 멀티 트리에 기초하여 수행될 수 있다.
구체적으로, 쿼드 트리 분할(QT)은, 제1 블록을 4개의 제2 블록으로 사분할하는 분할 타입이다. 예를 들어, 2Nx2N의 제1 블록이 QT로 분할되는 경우, 제1 블록은 NxN 크기를 가진 4개의 제2 블록으로 사분할될 수 있다. QT는 정방형 블록에만 적용되도록 제한될 수 있으나, 비정방형 블록에 적용하는 것도 가능하다.
바이너리 트리 분할(BT)는 제1 블록을 2개의 제2 블록으로 이분할하는 분할 타입이다. BT는 수평 바이너리 트리(이하, Horizontal BT)와 수직 바이너리 트리(이하, Vertical BT)를 포함할 수 있다. Horizontal BT는, 1개의 수평 라인에 의해서 제1 블록이 2개의 제2 블록으로 이분할되는 분할 타입이다. 상기 이분할은 대칭 혹은 비대칭으로 수행될 수 있다. 예를 들어, 2Nx2N의 제1 블록이 Horizontal BT로 분할되는 경우, 제1 블록은 높이의 비율이 (a:b)인 2개의 제2 블록으로 분할될 수 있다. 여기서, a와 b는 동일한 값일 수도 있고, a는 b보다 크거나 작을 수도 있다. Vertical BT는, 1개의 수직 라인에 의해서 제1 블록이 2개의 제2 블록으로 이분할되는 분할 타입이다. 상기 이분할은 대칭 혹은 비대칭으로 수행될 수 있다. 예를 들어, 2Nx2N의 제1 블록이 Vertical BT로 분할되는 경우, 제1 블록은 너비의 비율이 (a:b)인 2개의 제2 블록으로 분할될 수 있다. 여기서, a와 b는 동일한 값일 수도 있고, a는 b보다 크거나 작을 수도 있다.
터너리 트리 분할(TT)는 제1 블록을 3개의 제2 블록으로 삼분할하는 분할 타입이다. 마찬가지로, TT는 수평 터너리 트리(이하, Horizontal TT)와 수직 터너리 트리(이하, Vertical TT)를 포함할 수 있다. Horizontal TT는, 2개의 수평 라인에 의해서 제1 블록이 3개의 제2 블록으로 삼분할되는 분할 타입이다. 예를 들어, 2Nx2N의 제1 블록이 Horizontal TT로 분할되는 경우, 제1 블록은 높이의 비율이 (a:b:c)인 3개의 제2 블록으로 분할될 수 있다. 여기서, a, b, c는 동일한 값일 수 있다. 또는, a와 c는 동일하고, b는 a보다 크거나 작을 수 있다. 일예로, a와 c는 2이고, b는 1일 수 있다. Vertical TT는, 2개의 수직 라인에 의해서 제1 블록이 3개의 제2 블록으로 삼분할되는 분할 타입이다. 예를 들어, 2Nx2N의 제1 블록이 Vertical TT로 분할되는 경우, 제1 블록은 너비의 비율이 (a:b:c)인 3개의 제2 블록으로 분할될 수 있다. 여기서, a, b, c는 동일한 값일 수도 있고, 서로 다른 값일 수도 있다. 또는, a와 c는 동일하고, b는 a보다 크거나 작을 수 있다. 또는, a와 b는 동일하고, c는 a보다 크거나 작을 수 있다. 또는, b와 c는 동일하고, a는 b보다 크거나 작을 수 있다. 일예로, a와 c는 2이고, b는 1일 수 있다.
전술한 분할은, 부호화 장치로부터 시그날링되는 분할 정보에 기초하여 수행될 수 있다. 상기 분할 정보는, 분할 타입 정보, 분할 방향 정보 또는 분할 비율 정보 중 적어도 하나를 포함할 수 있다.
상기 분할 타입 정보는, 부호화/복호화 장치에 기-정의된 분할 타입 중 어느 하나를 특정할 수 있다. 상기 기-정의된 분할 타입은, QT, Horizontal BT, Vertical BT, Horizontal TT, Vertical TT 또는 비분할 모드(No split) 중 적어도 하나를 포함할 수 있다. 또는, 상기 분할 타입 정보는, QT, BT 또는 TT가 적용되는지 여부에 관한 정보를 의미할 수도 있으며, 이는 플래그 혹은 인덱스의 형태로 부호화될 수 있다. 일예로, 분할 타입 정보는, QT가 적용되는지 여부를 나타내는 제1 플래그 또는 BT 또는 TT가 적용되는지 여부를 나타내는 제2 플래그 중 적어도 하나를 포함할 수 있다. 제2 플래그에 따라 BT 또는 TT 중 어느 하나가 선택적으로 이용될 수 있다. 다만, 제1 플래그는 제1 블록의 크기가 소정의 문턱크기보다 작거나 같은 경우에 한하여 시그날링될 수 있다. 문턱크기는 64, 128 또는 그 이상의 자연수일 수 있다. 제1 블록의 크기가 문턱크기보다 큰 경우, 제1 블록은 QT만을 이용하여 분할되도록 강제될 수 있다. 또한, 제2 플래그는 제1 플래그에 따라 QT가 적용되지 않는 경우에 한하여 시그날링될 수 있다.
상기 분할 방향 정보는, BT 또는 TT의 경우, 수평 방향으로 분할되는지 아니면 수직 방향으로 분할되는지를 나타낼 수 있다. 상기 분할 비율 정보는, BT 또는 TT의 경우, 제2 블록의 너비 및/또는 높이의 비율을 나타낼 수 있다.
도 3에 도시된 블록(320)은 8Nx8N 크기이고, 분할 뎁스가 k인 정방형 블록(이하, 제1 블록)이라 가정한다. 제1 블록의 분할 정보가 QT 분할을 지시하는 경우, 제1 블록은 4개의 서브블록(이하, 제2 블록)으로 사분할될 수 있다. 상기 제2 블록은 4Nx4N 크기이고, (k+1)의 분할 뎁스를 가질 수 있다.
상기 4개의 제2 블록은, QT, BT, TT 또는 비분할 모드 중 어느 하나에 기초하여 다시 분할될 수 있다. 예를 들어, 제2 블록의 분할 정보가 Horizontal BT)를 나타내는 경우, 상기 제2 블록은 2개의 서브블록(이하, 제3 블록)으로 이분할될 수 있다. 이때, 상기 제3 블록은, 4Nx2N 크기이고, (k+2)의 분할 뎁스를 가질 수 있다.
상기 제3 블록도 QT, BT, TT 또는 비분할 모드 중 어느 하나에 기초하여 다시 분할될 수 있다. 예를 들어, 상기 제3 블록의 분할 정보가 Vertical BT를 나타내는 경우, 상기 제3 블록은 2개의 서브블록(321, 322)으로 이분할될 수 있다. 이때, 상기 서브블록(321, 322)은, 2Nx2N 크기이고, (k+3)의 분할 뎁스를 가질 수 있다. 또는, 상기 제3 블록의 분할 정보가 Horizontal BT를 나타내는 경우, 상기 제3 블록은 2개의 서브블록(323, 324)으로 이분할될 수 있다. 이때, 상기 서브블록(323, 324)은, 4NxN 크기이고, (k+3)의 분할 뎁스를 가질 수 있다.
상기 분할은, 주변 블록과 독립적 혹은 병렬적으로 수행될 수도 있고, 소정의 우선순위에 따라 순차적으로 수행될 수도 있다.
분할 대상인 현재 블록의 분할 정보는, 현재 블록의 상위 블록의 분할 정보 또는 주변 블록의 분할 정보 중 적어도 하나에 기초하여 종속적으로 결정될 수도 있다. 예를 들어, 상기 제2 블록이 Horizontal BT로 분할되고, 상단의 제3 블록이 Vertical BT로 분할된 경우, 하단의 제3 블록은 Vertical BT로 분할될 필요가 없다. 하단의 제3 블록이 Vertical BT로 분할될 경우, 이는 제2 블록이 QT로 분할되는 것과 동일한 결과가 나오기 때문이다. 따라서, 하단의 제3 블록의 분할 정보(특히, 분할 방향 정보)는 부호화가 생략될 수 있고, 복호화 장치는 하단의 제3 블록이 수평 방향으로 분할되도록 설정할 수 있다.
상기 상위 블록은 상기 현재 블록의 분할 뎁스보다 작은 분할 뎁스를 가진 블록을 의미할 수 있다. 예를 들어, 현재 블록의 분할 뎁스가 (k+2)인 경우, 상위 블록의 분할 뎁스는 (k+1)일 수 있다. 상기 주변 블록은, 현재 블록의 상단 혹은 좌측에 인접한 블록일 수 있다. 상기 주변 블록은, 현재 블록과 동일한 분할 뎁스를 가진 블록일 수 있다.
전술한 분할은, 부호화/복호화의 최소 단위까지 반복적으로 수행될 수 있다. 최소 단위로 분할된 경우, 해당 블록에 대한 분할 정보는 부호화 장치로부터 더 이상 시그날링되지 아니한다. 상기 최소 단위에 대한 정보는, 최소 단위의 크기 또는 형태 중 적어도 하나를 포함할 수 있다. 상기 최소 단위의 크기는, 블록의 너비, 높이, 너비와 높이 중 최소값 혹은 최대값, 너비와 높이의 합, 화소 개수, 분할 뎁스 등으로 표현될 수 있다. 상기 최소 단위에 대한 정보는, 비디오 시퀀스, 픽쳐, 슬라이스 또는 블록 단위 중 적어도 하나에서 시그날링될 수 있다. 또는, 상기 최소 단위에 대한 정보는 부호화/복호화 장치에 기-약속된 값일 수도 있다. 상기 최소 단위에 대한 정보는, CU, PU, TU에 대해서 각각 시그날링될 수 있다. 하나의 최소 단위에 대한 정보가 CU, PU, TU에 동일하게 적용될 수도 있다. 이하 후술하는 실시예의 블록은 전술한 블록 분할을 통해 획득된 것일 수 있다.
본 발명의 일실시예에 따른 블록 분할은 지원 가능한 범위 내에서 획득될 수 있으며, 이를 위한 블록 분할 설정 정보가 지원될 수 있다. 예를 들어, m x n 크기(예로, m과 n은 2, 4, 8, 16, 32, 64, 128 등의 자연수)의 최대 부호화 블록(CTU), 최소 부호화 블록, 최대 변환 블록, 최소 변환 블록, 블록 별 최대 분할 ?X스 k (예로, 부호화/변환 x Intra/Inter x QT/BT/TT 등. k는 0, 1, 2 또는 그 이상) 등이 블록 분할 설정 정보에 포함될 수 있으며, 이는 VPS, SPS, PPS, PH, 슬라이스 헤더 중 적어도 하나의 레벨에서 시그날링될 수 있다.
전술한 일부 조각 영역(서브픽쳐, 슬라이스, 타일 등)의 경우 각 조각 영역을 구획/분할(예를 들어, 조각 영역의 위치, 크기 정보를 유도 등)하기 위해서는 소정의 기초 정보(예를 들어, CTU, 타일 등과 같이 해당 조각 영역의 하위 또는 기초 단위에 대한 정보)가 요구될 수 있다. 이때, VPS - SPS - PPS 등의 순차적으로 진행할 수도 있지만, 동시다발적인 부호화/복호화를 위해서라면 상기 기초 정보를 각 조각 영역의 구획/분할이 지원되는 레벨에 제공하는 것이 필요할 수 있다.
예를 들어, SPS에서 CTU 정보가 발생(고정적으로 발생)할 수 있고 이에 기반하여 서브픽쳐(SPS에서 처리 가정)의 분할여부에 따라 CTU 정보가 사용(분할될 경우)될 수 있다. 또는, 슬라이스, 타일(PPS에서 처리 가정)의 분할여부에 따라 CTU 정보가 발생(분할될 경우. 추가적으로 발생)할 수 있고 이에 기반하여 슬라이스, 타일로 분할될 수 있다.
정리하면, 조각 영상의 구획/분할에 사용되는 기초 정보는 하나의 레벨에서 발생할 수 있다. 또는, 조각 영상의 종류에 따라 구획/분할에 사용되는 기초 정보는 둘 이상의 레벨에서 발생할 수도 있다.
조각 영상의 종류에 상관없이 조각 영상의 구획에 참조되는 기초 정보(신택스 또는 플래그)는 하나의 레벨에서 발생할 수 있다. 또는, 조각 영상에 따라 각 조각 영상의 구획에 참조되는 기초 정보는 복수의 레벨에서 발생할 수도 있다. 이때, 상기 기초 정보는 둘 이상의 레벨에서 발생 및 존재할 수 있어도, 동일한 값 또는 정보를 갖게 설정하여 하나의 레벨에서 발생 및 존재하는 것과 같은 효과를 유지할 수 있다. 그러나 상기 기초 정보의 경우 동일한 값 또는 정보를 갖게 하는 것이 기본적인 설정일 수 있으나, 이에 한정하지 않고 다른 값 또는 정보를 갖는 변형 또한 가능할 수 있다.
도 4는 본 발명이 적용되는 일실시예로서, 영상 부호화/복호화 장치에 기-정의된 인트라 예측 모드를 나타낸 예시도이다.
도 4를 참조하면, 기-정의된 인트라 예측 모드는 67개의 모드로 구성된 예측 모드 후보군으로 정의될 수 있고, 구체적으로 65개의 방향성 모드(2번 내지 66번)와 2개의 비방향성 모드(DC, Planar)를 포함할 수 있다. 이때, 방향성 모드는 기울기(예를 들어, dy/dx) 또는 각도 정보(Degree)로 구분될 수 있다. 상기 예에서 설명되는 인트라 예측 모드의 전부 또는 일부가 휘도 성분 또는 색차 성분의 예측 모드 후보군에 포함될 수 있고, 그 외의 추가적인 모드가 예측 모드 후보군에 포함될 수도 있다.
또한, 컬러 공간 간의 상관성을 이용하여 부/복호화가 완료된 다른 컬러 공간의 복원 블록을 현재 블록의 예측에 사용할 수 있고, 이를 지원하는 예측 모드를 포함할 수 있다. 예를 들어, 색차 성분의 경우, 현재 블록과 대응되는 휘도 성분의 복원된 블록을 이용하여 현재 블록의 예측 블록을 생성할 수 있다. 즉, 컬러 공간 간의 상관성을 고려하여 복원된 블록을 기반으로 예측 블록을 생성할 수 있다.
부/복호화 설정에 따라 예측 모드 후보군을 적응적으로 결정할 수 있다. 예측의 정확도를 높이기 위한 목적으로 후보군의 수를 늘릴 수 있고, 예측 모드에 따른 비트량을 줄이기 위한 목적으로 후보군의 수를 줄일 수 있다.
예를 들어, A 후보군(67개. 65개 방향성 모드와 2개의 비방향성 모드), B 후보군(35개. 33개의 방향성 모드와 2개의 비방향성 모드), C 후보군(18개. 17개의 방향성 모드와 1개의 비방향성 모드) 등의 후보군 중 하나를 선택할 수 있으며, 블록의 크기와 형태에 따라 적응적으로 후보군 선택이 가능하거나 결정될 수 있다.
또한, 부/복호화 설정에 따라 예측 모드 후보군의 구성을 다양하게 가질 수 있다. 예를 들어, 도 4와 같이 모드 사이가 균등하게 예측 모드 후보군을 구성하거나, 도 4에서 18번과 34번 모드 사이의 모드 개수가 2번과 18번 모드 사이의 모드 개수보다 더 많이 후보군을 구성할 수 있다. 또는, 그 반대의 경우가 가능할 수 있다. 블록의 형태(즉, 정방형, 너비가 높이보다 큰 비정방형, 높이가 너비보다 큰 비정방형 등)에 따라 적응적으로 후보군이 구성될 수 있다.
예를 들어, 현재 블록의 너비가 높이보다 큰 경우, 2번 내지 18번에 속한 인트라 예측 모드 전부 또는 일부는 이용되지 않고, 67번 내지 80번에 속한 인트라 예측 모드 전부 또는 일부로 대체될 수 있다. 반면, 현재 블록의 너비가 높이보다 작은 경우, 50번 내지 66번에 속한 인트라 예측 모드 전부 또는 일부는 이용되지 않고, -14번 내지 -1번에 속한 인트라 예측 모드 전부 또는 일부로 대체될 수 있다.
본 발명에서 특별한 언급이 없을 때, 균등한 모드 간격을 갖는 기 설정된 하나의 예측 모드 후보군(A 후보군)으로 인트라 예측을 수행하는 경우를 가정하여 설명하지만, 본 발명의 주요 요소가 상기 설명과 같은 적응적인 인트라 예측 설정에도 변경되어 적용이 가능할 수 있다.
도 5는 본 발명이 적용되는 일실시예로서, 인트라 예측 기반하여 현재 블록을 복호화하는 방법을 도시한 것이다.
도 5를 참조하면, 현재 블록의 인트라 예측을 위한 참조 영역을 결정할 수 있다(S500).
본 발명에 따른 참조 영역은, 현재 블록의 좌측, 상단, 좌상단, 좌하단 또는 우상단 중 적어도 하나에 인접한 영역일 수 있다. 또한, 도 5에 도시되지 않았지만, 참조 영역은 현재 블록의 우측, 우하단 또는 하단 중 적어도 하나에 인접한 영역을 더 포함할 수 있고, 이는 현재 블록의 인트라 예측 모드, 부호화/복호화 순서, 스캔 순서 등에 기초하여 선택적으로 이용될 수 있다.
부호화/복호화 장치는, 인트라 예측에 이용 가능한 복수의 화소 라인을 정의할 수 있다. 복수의 화소 라인은, 현재 블록에 인접한 제1 화소 라인, 제1 화소 라인에 인접한 제2 화소 라인, 제2 화소 라인에 인접한 제3 화소 라인 또는 제3 화소 라인에 인접한 제4 화소 라인 중 적어도 하나를 포함할 수 있다.
예를 들어, 부호화/복호화 설정에 따라, 복수의 화소 라인은 제1 내지 제4 화소 라인을 모두 포함할 수도 있고, 제3 화소 라인을 제외한 나머지 화소 라인만을 포함할 수도 있다. 또는, 복수의 화소 라인은 제1 화소 라인 및 제4 화소 라인만을 포함하거나, 제1 화소 라인 내지 제3 화소 라인만을 포함할 수도 있다.
현재 블록은 상기 복수의 화소 라인 중 어느 하나 또는 그 이상의 화소 라인을 선택하고, 이를 참조 영역으로 이용할 수 있다. 이때, 상기 선택은, 부호화 장치에서 시그날링되는 인덱스(refIdx)에 기초하여 수행될 수 있다. 또는, 상기 선택은 소정의 부호화 정보에 기초하여 수행될 수 있다. 여기서, 부호화 정보는, 현재 블록의 크기, 형태, 분할 타입, 인트라 예측 모드가 비방향성 모드인지 여부, 인트라 예측 모드가 수평 방향성인지 여부, 인트라 예측 모드의 각도 또는 성분 타입 중 적어도 하나를 포함할 수 있다.
예를 들어, 인트라 예측 모드가 Planar 모드 또는 DC 모드인 경우, 제1 화소 라인만이 이용되도록 제한될 수 있다. 또는, 현재 블록의 크기가 소정의 문턱값보다 작거나 같은 경우, 제1 화소 라인만이 이용되도록 제한될 수 있다. 여기서, 크기는, 현재 블록의 너비 또는 높이 중 어느 하나(e.g., 최대값, 최소값 등), 너비와 높이의 합 또는 현재 블록에 속한 샘플의 개수로 표현될 수 있다. 또는, 인트라 예측 모드가 소정의 문턱각도보다 큰 경우(또는, 소정의 문턱각도보다 작은 경우), 제1 화소 라인만이 이용되도록 제한될 수 있다. 상기 문턱각도는, 전술한 예측 모드 후보군 중 모드 2, 모드 66에 대응하는 인트라 예측 모드의 각도일 수 있다.
한편, 상기 참조 영역의 화소 중 적어도 하나가 비가용인 경우가 발생할 수 있으며, 이러한 경우 비가용 화소는 기-결정된 디폴트 값으로 대체되거나, 가용 화소로 대체될 수 있다. 이에 대해서는 도 6을 참조하여 자세히 살펴보도록 한다.
도 5를 참조하면, 현재 블록의 인트라 예측 모드를 유도할 수 있다(S510).
현재 블록은, 휘도 블록과 색차 블록을 포함하는 개념이며, 상기 인트라 예측 모드는 휘도 블록과 색차 블록 각각에 대해서 결정될 수 있다. 이하, 복호화 장치에 기-정의된 인트라 예측 모드는, 비방향성 모드(Planar 모드, DC 모드) 및 65개의 방향성 모드로 구성됨을 가정한다.
1. 휘도 블록의 경우
전술한 기-정의된 인트라 예측 모드는, MPM 후보군과 Non-MPM 후보군으로 구분될 수 있다. 현재 블록의 인트라 예측 모드는, MPM 후보군 또는 Non-MPM 후보군 중 어느 하나를 선택적으로 이용하여 유도될 수 있다. 이를 위해, 현재 블록의 인트라 예측 모드가 MPM 후보군으로부터 유도되는지 여부를 나타내는 플래그(이하, 제1 플래그)가 이용될 수 있다. 예를 들어, 제1 플래그가 제1 값인 경우, MPM 후보군이 이용되고, 제1 플래그가 제2 값인 경우, Non-MPM 후보군이 이용될 수 있다.
구체적으로, 제1 플래그가 제1 값인 경우, 현재 블록의 인트라 예측 모드는, 적어도 하나의 MPM 후보를 포함한 MPM 후보군(candModeList) 및 MPM 인덱스를 기반으로 결정될 수 있다. MPM 인덱스는, MPM 후보군에 속한 MPM 후보 중 어느 하나를 특정하는 정보일 수 있다. MPM 인덱스는, MPM 후보군에 복수의 MPM 후보가 속한 경우에 한하여 시그날링될 수 있다.
반면, 제1 플래그가 제2 값인 경우(즉, MPM 후보군에 현재 블록의 인트라 예측 모드와 동일한 MPM 후보가 존재하지 않는 경우), 현재 블록의 인트라 예측 모드는, 시그날링되는 잔여 모드 정보에 기초하여 결정될 수 있다. 상기 잔여 모드 정보는, MPM 후보를 제외한 나머지 모드 중 어느 하나를 특정할 수 있다.
이하, MPM 후보군을 결정하는 방법에 대해서 살펴보기로 한다.
(실시예 1) MPM 후보군은, 이웃 블록의 인트라 예측 모드 modeA, (modeA-n), (modeA+n) 또는 디폴트 모드 중 적어도 하나를 포함할 수 있다. 상기 n 값은 1, 2, 3, 4 또는 그 이상의 정수일 수 있다. 상기 이웃 블록은, 현재 블록의 좌측 및/또는 상단에 인접한 블록을 의미할 수 있다. 다만, 이에 한정되지 아니하며, 이웃 블록은 좌상단, 좌하단 또는 우상단에 인접한 블록 중 적어도 하나를 포함할 수도 있다. 디폴트 모드는, Planar 모드, DC 모드, 또는 소정의 방향성 모드 중 적어도 하나일 수 있다. 소정의 방향성 모드는, 수평 모드(modeV), 수직 모드(modeH), (modeV-k), (modeV+k), (modeH-k) 또는 (modeH+k) 중 적어도 하나를 포함할 수 있다. 여기서 k는 1, 2, 3, 4, 5, 또는 그 이상의 정수일 수 있다.
상기 MPM 인덱스는, MPM 후보군의 MPM 중에서 현재 블록의 인트라 예측 모드와 동일한 MPM을 특정할 수 있다. 즉, MPM 인덱스에 의해 특정된 MPM이 현재 블록의 인트라 예측 모드로 설정될 수 있다.
(실시예 2) MPM 후보군은, m개의 후보 그룹으로 구분될 수도 있다. m은 2, 3, 4 또는 그 이상의 정수일 수 있다. 이하, 설명의 편의를 위해, MPM 후보군은 제1 후보 그룹과 제2 후보 그룹으로 구분됨을 가정한다.
부호화/복호화 장치는, 제1 후보 그룹 또는 제2 후보 그룹 중 어느 하나를 선택할 수 있다. 상기 선택은, 현재 블록의 인트라 예측 모드가 제1 후보 그룹에 속하는지 아니면 제2 후보 그룹에 속하는지를 특정하는 플래그(이하, 제2 플래그)를 기반으로 수행될 수 있다. 예를 들어, 제2 플래그가 제1 값인 경우, 현재 블록의 인트라 예측 모드는 제1 후보 그룹으로부터 유도되고, 그렇지 않은 경우, 현재 블록의 인트라 예측 모드는 제2 후보 그룹으로부터 유도될 수 있다.
구체적으로, 제2 플래그에 따라 제1 후보 그룹이 이용되는 경우, 제1 후보 그룹에 속한 복수의 디폴트 모드 중 어느 하나를 특정하는 제1 MPM 인덱스가 시그날링될 수 있다. 시그날링된 제1 MPM 인덱스에 대응하는 디폴트 모드는, 현재 블록의 인트라 예측 모드로 설정될 수 있다. 반면, 제1 후보 그룹이 하나의 디폴트 모드로 구성된 경우, 상기 제1 MPM 인덱스는 시그날링되지 않으며, 현재 블록의 인트라 예측 모드는 제1 후보 그룹의 디폴트 모드로 설정될 수 있다.
제2 플래그에 따라 제2 후보 그룹이 이용되는 경우, 제2 후보 그룹에 속한 복수의 MPM 후보 중 어느 하나를 특정하는 제2 MPM 인덱스가 시그날링될 수 있다. 시그날링된 제2 MPM 인덱스에 대응하는 MPM 후보는, 현재 블록의 인트라 예측 모드로 설정될 수 있다. 반면, 제2 후보 그룹이 하나의 MPM 후보로 구성된 경우, 상기 제2 MPM 인덱스는 시그날링되지 않으며, 현재 블록의 인트라 예측 모드는 제2 후보 그룹의 MPM 후보로 설정될 수 있다.
한편, 상기 제2 플래그는, 전술한 제1 플래그가 제1 값인 경우(조건 1)에 한하여 시그날링될 수 있다. 또한, 상기 제2 플래그는, 현재 블록의 참조 영역이 제1 화소 라인으로 결정된 경우에 한하여 시그날링될 수 있다. 현재 블록이 인접하지 않은 화소 라인을 참조하는 경우, 제1 후보 그룹의 MPM 후보가 사용되지 않도록 제한될 수 있다. 또는, 역으로, 제2 플래그에 따라, 현재 블록의 인트라 예측 모드가 제1 후보 그룹으로부터 유도되는 경우, 현재 블록이 제1 화소 라인만을 참조하도록 제한될 수도 있다.
또한, 현재 블록이 서브블록 단위의 인트라 예측을 수행하지 않는 경우(조건 2)에 한하여 제2 플래그가 시그날링될 수 있다. 반대로, 현재 블록이 서브블록 단위의 인트라 예측을 수행하는 경우, 상기 플래그는 시그날링되지 않고, 복호화 장치에서 제2 값으로 설정될 수도 있다.
전술한 조건 1 또는 2 중 어느 하나의 조건을 만족하는 경우, 제2 플래그가 시그날링될 수도 있고, 조건 1 및 2를 모두 만족하는 경우, 제2 플래그가 시그날링되도록 설정될 수도 있다.
제1 후보 그룹은, 기-정의된 디폴트 모드로 구성될 수 있다. 상기 디폴트 모드는, 방향성 모드 또는 비방향성 모드 중 적어도 하나일 수 있다. 예를 들어, 방향성 모드는, 수직 모드, 수평 모드 또는 대각선 모드 중 적어도 하나를 포함할 수 있다. 비방향성 모드는, Planar 모드 또는 DC 모드 중 적어도 하나를 포함할 수 있다.
제1 후보 그룹은 r개의 비방향성 모드 또는 방향성 모드만으로 구성될 수 있다. r은 1, 2, 3, 4, 5 또는 그 이상의 정수일 수 있다. r은 부호화/복호화 장치에 기-약속된 고정된 값일 수도 있고, 소정의 부호화 파라미터에 기초하여 가변적으로 결정될 수도 있다.
제2 후보 그룹은, 복수의 MPM 후보를 포함할 수 있다. 다만, 제2 후보 그룹은 제1 후보 그룹에 속한 디폴트 모드를 포함하지 않도록 제한될 수 있다. 상기 MPM 후보의 개수는, 2개, 3개, 4개, 5개, 6개 또는 그 이상일 수 있다. MPM 후보의 개수는, 부호화/복호화 장치에 기-약속된 고정된 값이거나, 부호화 파라미터에 기초하여 가변적으로 결정될 수 있다. MPM 후보는, 현재 블록에 인접한 주변 블록의 인트라 예측 모드에 기초하여 유도될 수 있다. 주변 블록은 현재 블록의 좌측, 상단, 좌상단, 좌하단 또는 우상단 중 적어도 하나에 인접한 블록일 수 있다.
구체적으로, 좌측 블록의 인트라 예측 모드(candIntraPredModeA)와 상단 블록의 인트라 예측 모드(candIntraPredModeB) 간의 동일 여부, candIntraPredModeA와 candIntraPredModeB가 비방향성 모드인지 여부를 고려하여 MPM 후보가 결정될 수 있다.
[CASE 1] 예를 들어, candIntraPredModeA와 candIntraPredModeB이 동일하고, candIntraPredModeA가 비방향성 모드가 아닌 경우, 현재 블록의 MPM 후보는 candIntraPredModeA, (candIntraPredModeA-n), (candIntraPredModeA+n) 또는 비방향성 모드 중 적어도 하나를 포함할 수 있다. 여기서, n은 1, 2, 또는 그 이상의 정수일 수 있다. 상기 비방향성 모드는, Planar 모드 또는 DC 모드 중 적어도 하나를 포함할 수 있다. 일예로, 현재 블록의 MPM 후보는 다음 표 1과 같이 결정될 수 있다. 표 1의 index는 MPM 후보의 위치 또는 우선순위를 특정하나, 이에 한정되지 아니한다.
| index |
MPM 후보 |
| 0 |
candIntraPredModeA |
| 1 |
2 + ( ( candIntraPredModeA + 61 ) % 64 ) |
| 2 |
2 + ( ( candIntraPredModeA - 1 ) % 64 ) |
| 3 |
2 + ( ( candIntraPredModeA + 60 ) % 64 ) |
| 4 |
2 + ( ( candIntraPredModeA % 64 ) |
[CASE 2] 또는, candIntraPredModeA와 candIntraPredModeB가 동일하지 않고, candIntraPredModeA와 candIntraPredModeB 둘다 비방향성 모드가 아닌 경우, 현재 블록의 MPM 후보는 candIntraPredModeA, candIntraPredModeB, (maxAB-n), (maxAB+n), (minAB-n), (minAB+n) 또는 비방향성 모드 중 적어도 하나를 포함할 수 있다. 여기서, maxAB와 minAB은 candIntraPredModeA와 candIntraPredModeB 중 최대값과 최소값을 각각 의미하고, n은 1, 2, 또는 그 이상의 정수일 수 있다. 상기 비방향성 모드는, Planar 모드 또는 DC 모드 중 적어도 하나를 포함할 수 있다. 일예로, candIntraPredModeA와 candIntraPredModeB의 차이값(D)에 기초하여, 제2 후보군의 후보 모드는 다음 표 2와 같이 결정될 수 있다. 표 2의 index는 MPM 후보의 위치 또는 우선순위를 특정하나, 이에 한정되지 아니한다.
| Index |
후보 모드 (D = 1) |
후보 모드 (D = 2) |
후보 모드 (D >= 62) |
후보 모드 (Otherwise) |
| 0 |
candIntraPredModeA |
candIntraPredModeA |
candIntraPredModeA |
candIntraPredModeA |
| 1 |
candIntraPredModeB |
candIntraPredModeB |
candIntraPredModeB |
candIntraPredModeB |
| 2 |
2 + ( ( minAB + 61 ) % 64 ) |
2 + ( ( minAB - 1 ) % 64 ) |
2 + ( ( minAB - 1 ) % 64 ) |
2 + ( ( minAB + 61 ) % 64 ) |
| 3 |
2 + ( ( maxAB - 1 ) % 64 ) |
2 + ( ( minAB + 61 ) % 64 ) |
2 + ( ( maxAB + 61 ) % 64 ) |
2 + ( ( minAB - 1 ) % 64 ) |
| 4 |
2 + ( ( minAB + 60 ) % 64 ) |
2 + ( ( maxAB - 1 ) % 64 ) |
2 + ( minAB % 64 ) |
2 + ( ( maxAB + 61 ) % 64 ) |
전술한 표 2에서, MPM 후보 중 어느 하나는 minAB에 기초하여 유도되고, 다른 하나는 maxAB에 기초하여 유도된다. 다만, 이에 한정되지 아니하며, MPM 후보는 minAB와 관계없이 maxAB에 기초하여 유도될 수 있고, 반대로 maxAB에 관계없이 minAB에 기초하여 유도될 수 있다.
[CASE 3] candIntraPredModeA와 candIntraPredModeB가 동일하지 않고, candIntraPredModeA와 candIntraPredModeB 중 어느 하나만이 비방향성 모드인 경우, 현재 블록의 MPM 후보는 maxAB, (maxAB-n), (maxAB+n) 또는 비방향성 모드 중 적어도 하나를 포함할 수 있다. 여기서, maxAB은 candIntraPredModeA와 candIntraPredModeB 중 최대값을 의미하고, n은 1, 2, 또는 그 이상의 정수일 수 있다. 상기 비방향성 모드는, Planar 모드 또는 DC 모드 중 적어도 하나를 포함할 수 있다. 일예로, 현재 블록의 MPM 후보는 다음 표 3과 같이 결정될 수 있다. 표 3의 index는 MPM 후보의 위치 또는 우선순위를 특정하나, 이에 한정되지 아니한다.
| Index |
MPM 후보 |
| 0 |
maxAB |
| 1 |
2 + ( ( maxAB + 61 ) % 64 ) |
| 2 |
2 + ( ( maxAB - 1 ) % 64 ) |
| 3 |
2 + ( ( maxAB + 60 ) % 64 ) |
| 4 |
2 + ( maxAB % 64 ) |
[CASE 4] candIntraPredModeA와 candIntraPredModeB이 동일하지 않고, candIntraPredModeA와 candIntraPredModeB 둘다 비방향성 모드인 경우, 현재 블록의 MPM 후보는 비방향성 모드, 수직 모드, 수평 모드, (수직 모드-m), (수직 모드+m), (수평 모드-m) 또는 (수평 모드+m) 중 적어도 하나를 포함할 수 있다. 여기서, m은 1, 2, 3, 4 또는 그 이상의 정수일 수 있다. 상기 비방향성 모드는, Planar 모드 또는 DC 모드 중 적어도 하나를 포함할 수 있다. 일예로, 현재 블록의 MPM 후보는 다음 표 5와 같이 결정될 수 있다. 표 4의 index는 MPM 후보의 위치 또는 우선순위를 특정하나, 이에 한정되지 아니한다. 예를 들어, 수평 모드에 index 1이 할당되거나, 가장 큰 index가 할당될 수 있다. 또한, MPM 후보는, 대각선 모드(e.g., 모드 2, 모드 34, 모드 66), (대각선 모드-m) 또는 (대각선 모드+m) 중 적어도 하나를 포함할 수도 있다.
| Index |
MPM 후보 |
| 0 |
INTRA_DC |
| 1 |
수직 모드 |
| 2 |
수평 모드 |
| 3 |
(수직 모드-4) |
| 4 |
(수직 모드+4) |
전술한 과정을 통해 복호화된 인트라 예측 모드(IntraPredMode)는 소정의 오프셋에 기반하여 변경/보정될 수 있으며, 이는 도 7을 참조하여 자세히 살펴보기로 한다.
2. 색차 블록의 경우
색차 블록을 위한 기-정의된 인트라 예측 모드는, 제1 그룹과 제2 그룹으로 구분될 수 있다. 여기서, 제1 그룹은, 성분 간 참조 기반의 예측 모드로 구성되고, 제2 그룹은 전술한 기-정의된 인트라 예측 모드의 전부 또는 일부로 구성될 수 있다.
색차 블록의 인트라 예측 모드는, 상기 제1 그룹 또는 제2 그룹 중 어느 하나를 선택적으로 이용하여 유도될 수 있다. 상기 선택은, 소정의 제3 플래그에 기초하여 수행될 수 있다. 상기 제3 플래그는, 색차 블록의 인트라 예측 모드가 제1 그룹에 기초하여 유도되는지 또는 제2 그룹에 기초하여 유도되는지 여부를 나타낼 수 있다.
예를 들어, 상기 제3 플래그가 제1 값인 경우, 색차 블록의 인트라 예측 모드는 제1 그룹에 속한 하나 또는 그 이상의 성분 간 참조 기반의 예측 모드 중 어느 하나로 결정될 수 있다. 이에 대해서는 도 8에서 자세히 살펴보도록 한다.
반면, 상기 제3 플래그가 제2 값인 경우, 색차 블록의 인트라 예측 모드는, 제2 그룹에 속한 복수의 인트라 예측 모드 중 어느 하나로 결정될 수 있다. 일예로, 제2 그룹은 표 5와 같이 정의될 수 있으며, 색차 블록의 인트라 예측 모드는, 부호화 장치에서 시그날링되는 정보(intra_chroma_pred_mode)와 휘도 블록의 인트라 예측 모드(IntraPredModeY)에 기초하여 유도될 수 있다.
| intra_chroma_pred_mode[ xCb ][ yCb ] |
IntraPredModeY[ xCb + cbWidth / 2 ][ yCb + cbHeight / 2 ] |
| 0 |
50 |
18 |
1 |
X ( 0 <= X <= 66 ) |
| 0 |
66 |
0 |
0 |
0 |
0 |
| 1 |
50 |
66 |
50 |
50 |
50 |
| 2 |
18 |
18 |
66 |
18 |
18 |
| 3 |
1 |
1 |
1 |
66 |
1 |
| 4 |
0 |
50 |
18 |
1 |
X |
표 5에 따르면, 색차 블록의 인트라 예측 모드는, 상기 시그날링된 정보와 휘도 블록의 인트라 예측 모드에 기초하여 결정될 수 있다. 표 5에 기재된 모드 번호는 도 4에서의 모드 번호에 대응된다. 예를 들어, 시그날링된 정보 intra_chroma_pred_mode의 값이 0인 경우, 색차 블록의 인트라 예측 모드는 휘도 블록의 인트라 예측 모드에 따라 대각 모드(66) 또는 Planar 모드(0)으로 결정될 수 있다. 또는, 시그날링된 정보 intra_chroma_pred_mode의 값이 4인 경우, 색차 블록의 인트라 예측 모드는 휘도 블록의 인트라 예측 모드와 동일하게 설정될 수 있다.
한편, 휘도 블록의 인트라 예측 모드(IntraPredModeY)는 휘도 블록 내 특정 위치를 포함하는 서브블록의 인트라 예측 모드일 수 있다. 여기서, 휘도 블록 내 특정 위치는, 색차 블록 내 중앙 위치에 대응될 수 있다.
다만, 색차 블록 내 중앙 위치에 대응하는 휘도 블록 내 서브블록이 비가용인 경우가 발생할 수 있다. 여기서, 비가용이라 함은, 해당 서브블록이 인트라 모드로 부호화되지 않은 경우일 수 있다. 예를 들어, 해당 서브블록이 인터 모드 또는 현재 픽쳐 참조 모드로 부호화된 경우와 같이, 서브블록이 인트라 예측 모드를 가지고 있지 않은 경우, 해당 서브블록은 비가용한 것으로 판단될 수 있다. 이 경우, 휘도 블록의 인트라 예측 모드(IntraPredModeY)는 부호화/복호화 장치에 기-약속된 모드로 설정될 수 있다. 여기서, 기-약속된 모드는, Planar 모드, DC 모드, 수직 모드 또는 수평 모드 중 어느 하나일 수 있다.
도 5를 참조하면, 인트라 예측을 위한 참조 영역과 인트라 예측 모드에 기초하여, 현재 블록을 복호화할 수 있다(S520).
상기 현재 블록의 복호화는, 현재 블록의 서브블록 단위로 수행될 수 있다. 이를 위해, 현재 블록은 복수의 서브블록으로 분할될 수 있다. 여기서, 현재 블록은 리프 노드(leaf node)에 해당할 수 있다. 리프 노드는, 더 작은 부호화 블록으로 더 이상 분할되는 않는 부호화 블록을 의미할 수 있다. 즉, 리프 노드는, 전술한 트리 기반의 블록 분할을 통해 더 이상 분할되지 않는 블록을 의미할 수 있다.
상기 분할은, 현재 블록의 크기에 기초하여 수행될 수 있다(실시예 1).
예를 들어, 현재 블록의 크기가 소정의 문턱크기보다 작은 경우, 현재 블록은 수직 또는 수평 방향으로 2분할될 수 있다. 반대로, 현재 블록의 크기가 상기 문턱크기보다 크거나 같은 경우, 현재 블록은 수직 또는 수평 방향으로 4분할될 수 있다. 상기 문턱크기는, 부호화 장치에서 시그날링될 수도 있고, 복호화 장치에 기-정의된 고정된 값일 수도 있다. 예를 들어, 문턱크기는 NxM으로 표현되며, N과 M은 4, 8, 16 또는 그 이상일 수 있다. 상기 N과 M은 동일할 수도 있고, 서로 상이하게 설정될 수도 있다.
또는, 현재 블록의 크기가 소정의 문턱크기보다 작은 경우, 현재 블록은 비분할(non-split)되고, 그렇지 않은 경우, 현재 블록은 2분할 또는 4분할될 수 있다.
상기 분할은, 현재 블록의 형태에 기초하여 수행될 수 있다(실시예 2).
예를 들어, 현재 블록의 형태가 정사각형인 경우, 현재 블록은 4분할되고, 그렇지 않은 경우, 현재 블록은 2분할될 수 있다. 역으로, 현재 블록의 형태가 정사각형인 경우, 현재 블록은 2분할되고, 그렇지 않은 경우, 현재 블록은 4분할될 수 있다.
또는, 현재 블록의 형태가 정사각형인 경우, 현재 블록은 2분할 또는 4분할되고, 그렇지 않은 경우, 현재 블록은 비분할될 수 있다. 역으로, 현재 블록의 형태가 정사각형인 경우, 현재 블록은 비분할되고, 그렇지 않은 경우, 현재 블록은 2분할 또는 4분할될 수 있다.
전술한 실시예 1 또는 2 중 어느 하나가 선택적으로 적용되어 분할될 수도 있고, 실시예 1과 2의 조합에 기초하여 분할될 수도 있다.
상기 2분할은, 수직 또는 수평 중 어느 하나의 방향으로 2분할되는 것이고, 4분할은 수직 또는 수평 중 어느 하나의 방향으로 4분할되거나, 수직 및 수평 방향으로 4분할되는 것을 포함할 수 있다.
상기 실시예에서는 2분할 또는 4분할을 설명하나, 이에 한정되지 아니하며, 현재 블록은 수직 또는 수평 방향으로 3분할될 수도 있다. 이 경우, 너비 또는 높이의 비가 (1:1:2), (1:2:1) 또는 (2:1:1)일 수 있다.
서브블록 단위로의 분할 여부, 4분할 여부, 분할 "??*, 분할 개수 등에 관한 정보는, 부호화 장치로부터 시그날링될 수도 있고, 소정의 부호화 파라미터에 기초하여 복호화 장치에서 가변적으로 결정될 수도 있다. 여기서, 부호화 파라미터는, 블록 크기/형태, 분할 타입(4분할, 2분할, 3분할), 인트라 예측 모드, 인트라 예측을 위한 이웃 화소의 범위/위치, 성분 타입(e,g., 휘도, 색차), 변환 블록의 최대/최소크기, 변환 타입(e.g., 변환 스킵, DCT2, DST7, DCT8) 등을 의미할 수 있다.
현재 블록의 서브블록은 소정의 우선순위에 따라 순차적으로 예측/복원될 수 있다. 이 경우, 현재 블록의 제1 서브블록에 대해서 예측/복원되고, 제2 서브블록은 기-복호화된 제1 서브블록을 참조하여 예측/복원될 수 있다. 상기 우선순위와 관련하여, 상->하의 순서로 예측/복원하되, 상단 및 하단의 각 서브블록은 좌->우의 순서로 예측/복원될 수 있다. 또는, 상->하의 순서로 예측/복원하되, 상단 및 하단의 각 서브블록은 우->좌의 순서로 예측/복원될 수 있다. 또는, 하->상의 순서로 예측/복원하되, 하단 및 상단의 각 서브블록은 좌->우의 순서로 예측/복원될 수 있다. 또는, 하->상의 순서로 예측/복원하되, 하단 및 상단의 각 서브블록은 우->상의 순서로 예측/복원될 수 있다. 또는, 좌->우의 순서로 예측/복원하되, 좌측 및 우측의 각 서브블록은 상->하의 순서로 예측/복원될 수 있다. 또는, 좌->우의 순서로 예측/복원하되, 좌측 및 우측의 각 서브블록은 하->상의 순서로 예측/복원될 수 있다. 또는, 우->좌의 순서로 예측/복원하되, 우측 및 좌측의 각 서브블록은 상->하의 순서로 예측/복원될 수 있다. 또는, 우->좌의 순서로 예측/복원하되, 우측 및 좌측의 각 서브블록은 하->상의 순서로 예측/복원될 수 있다.
부호화/복호화 장치는, 전술한 순서 중 어느 하나를 정의하고, 이를 고정적으로 사용할 수 있다. 또는, 부호화/복호화 장치는, 전술한 순서 중 적어도 2개 이상을 정의하고, 이 중 어느 하나를 선택적으로 사용할 수도 있다. 이를 위해, 기-정의된 순서 중 어느 하나를 특정하는 인덱스 또는 플래그가 부호화되어 시그날링될 수 있다.
도 6은 본 발명이 적용되는 일실시예로서, 참조 영역의 비가용 화소를 대체하는 방법을 도시한 것이다.
전술한 바와 같이, 참조 영역은 제1 화소 라인 내지 제4 화소 라인 중 어느 하나로 결정될 수 있다. 다만, 본 실시예에서는 설명의 편의를 위해 참조 영역이 제1 화소 라인인 경우를 가정한다. 본 실시예는 제2 화소 라인 내지 제4 화소 라인에 대해서도 동일/유사하게 적용될 수 있다.
참조 영역의 화소가 모두 비가용인 경우, 해당 화소는 비트 심도(bitdepth)에 의해 표현되는 화소값 범위 또는 영상의 실제 화소값 범위 중 하나의 값으로 대체될 수 있다. 예를 들어, 화소값 범위의 최대값, 최소값, 중앙값, 평균값 등이 대체되는 값에 해당할 수 있다. 비트 심도가 8인 경우, 비트 심도의 중앙값으로 대체하는 경우 참조 영역의 모든 화소는 128로 채워질 수 있다.
다만, 그렇지 않은 경우 즉, 참조 영역의 화소가 모두 비가용은 아니나, 참조 영역의 화소 중 적어도 하나가 비가용인 경우, 현재 블록의 상단 참조 영역, 좌측 참조 영역, 우측 참조 영역 또는 하단 참조 영역 중 적어도 하나에 대해서 대체 과정이 수행될 수 있다. 설명의 편의를 위해 현재 블록의 좌측, 상단, 우측 참조 영역을 중심으로 설명한다.
(STEP1) 현재 블록(예측 블록)에 인접한 좌상단 화소(TL)가 비가용인지 여부를 판단한다. 만일 좌상단 화소(TL)가 비가용인 경우, 해당 화소는 비트 심도의 중앙값으로 대체될 수 있다.
(STEP2) 상단 참조 영역에 비가용 화소가 존재하는지를 순차적으로 탐색할 수 있다. 여기서, 상단 참조 영역은, 현재 블록의 상단 또는 우상단에 인접한 화소 라인 중 적어도 하나를 포함할 수 있다. 상단 참조 영역의 길이는 현재 블록의 너비(nW), (2*nW) 또는 너비와 높이의 합(nW+nH)과 동일할 수 있다.
여기서, 탐색 방향은, 좌측에서 우측 방향으로 수행될 수 있다. 이때, 화소 p[x][-1]이 비가용으로 판단된 경우, 화소 p[x][-1]는 주변 화소 p[x-1][-1]으로 대체될 수 있다. 또는, 탐색 방향은, 우측에서 좌측 방향으로 수행될 수도 있다. 이때, 화소 p[x][-1]이 비가용으로 판단된 경우, 화소 p[x][-1]는 주변 화소 p[x+1][-1]으로 대체될 수 있다.
(STEP3) 좌측 참조 영역에 비가용 화소가 존재하는지를 순차적으로 탐색할 수 있다. 여기서, 좌측 참조 영역은, 현재 블록의 좌측 또는 좌하단에 인접한 화소 라인 중 적어도 하나를 포함할 수 있다. 좌측 참조 영역의 길이는 현재 블록의 높이(nH), (2*nH) 또는 너비와 높이의 합(nW+nH)과 동일할 수 있다.
여기서, 탐색 방향은, 상단에서 하단 방향으로 수행될 수 있다. 이때, 화소 p[-1][y]이 비가용으로 판단된 경우, 화소 p[-1][y]는 주변 화소 p[-1][y-1]으로 대체될 수 있다. 또는, 탐색 방향은, 하단에서 상단 방향으로 수행될 수도 있다. 이때, 화소 p[-1][y]이 비가용으로 판단된 경우, 화소 p[-1][y]는 주변 화소 p[-1][y+1]으로 대체될 수 있다.
(STEP4) 우측 참조 영역에 비가용 화소가 존재하는지를 순차적으로 탐색할 수 있다. 여기서, 우측 참조 영역은, 현재 블록의 우측에 인접한 화소 라인을 포함할 수 있다. 우측 참조 영역의 길이는 현재 블록의 높이(nH)와 동일할 수 있다.
여기서, 탐색 방향은, 상단에서 하단 방향으로 수행될 수 있다. 이때, 화소 p[nW][y]이 비가용으로 판단된 경우, 화소 p[nW][y]는 주변 화소 p[nW][y-1]으로 대체될 수 있다. 또는, 탐색 방향은, 하단에서 상단 방향으로 수행될 수도 있다. 이때, 화소 p[nW][y]이 비가용으로 판단된 경우, 화소 p[nW][y]는 주변 화소 p[nW][y+1]으로 대체될 수 있다.
또는, 우측 참조 영역에 대해서는 별도의 탐색 과정이 생략될 수 있다. 대신에, 우측 참조 영역의 비가용 화소는, 비트 심도의 중앙값으로 채워질 수 있다. 또는, 우측 참조 영역의 비가용 화소는, 현재 블록에 인접한 우상단 화소(TR) 또는 우하단 화소(BR) 중 어느 하나로 대체되거나, 이들의 대표값으로 대체될 수 있다. 여기서, 대표값은, 평균값, 최대값, 최소값, 최빈값, 중간값 등으로 표현될 수 있다. 또는, 우측 참조 영역의 비가용 화소는, 우상단 화소(TR)과 우하단 화소(BR) 각각에 소정의 가중치를 적용하여 유도될 수 있다. 이때, 가중치는, 우측 참조 영역의 비가용 화소와 우상단 화소(TR) 간 제1 거리와 우측 참조 영역의 비가용 화소와 우하단 화소(BR) 간의 제2 거리를 고려하여 결정될 수 있다. 상기 우하단 화소(BR)는, 현재 블록에 인접한 좌상단 화소(TL), 우상단 화소(TR) 또는 좌하단 화소(BL) 중 어느 하나로 채워지거나, 좌상단 화소(TL), 우상단 화소(TR) 또는 좌하단 화소(BL) 중 적어도 2개의 대표값으로 대체될 수 있다. 여기서, 대표값은 전술한 바와 같다. 또는, 상기 우하단 화소(BR)는, 좌상단 화소(TL), 우상단 화소(TR) 또는 좌하단 화소(BL) 중 적어도 2개에 각각 소정의 가중치를 적용하여 유도될 수 있다. 여기서, 가중치는, 상기 우하단 화소(BR)와의 거리를 고려하여 결정될 수 있다.
한편, 전술한 대체 과정은, 상단 -> 좌측 -> 우측의 우선순서로 수행되는 것으로 한정되지 아니한다. 예를 들어, 대체 과정은, 좌측 -> 상단 -> 우측의 우선순서로 수행될 수 있다. 또는, 대체 과정은, 상단 및 좌측 참조 영역에 대해서 병렬적으로 수행되고, 그런 다음 우측 참조 영역에 대해서 수행될 수도 있다. 또한, STEP1 과정은, 좌측 -> 상단 -> 우측의 우선순서로 대체 과정이 수행되는 경우에는 생략될 수 있다.
도 7은 본 발명이 적용되는 일실시예로서, 인트라 예측 모드를 변경/보정하는 방법을 도시한 것이다.
복호화된 인트라 예측 모드(IntraPredMode)는 소정의 오프셋에 기반하여 변경될 수 있다. 상기 오프셋의 적용은, 블록의 속성 즉, 크기, 형태, 분할 정보, 분할 뎁스, 인트라 예측 모드의 값 또는 성분 타입 중 적어도 하나에 기초하여 선택적으로 수행될 수 있다. 여기서, 블록은 상기 현재 블록 및/또는 현재 블록의 주변 블록을 의미할 수 있다.
상기 분할 정보는, 현재 블록이 복수의 서브블록으로 분할되는지 여부를 나타내는 제1 정보, 분할 방향(e.g., 수평 또는 수직)을 나타내는 제2 정보, 또는 분할된 서브블록의 개수에 관한 제3 정보 중 적어도 하나를 포함할 수 있다. 상기 분할 정보는 부호화 장치에서 부호화되어 시그날링될 수 있다. 또는, 상기 분할 정보의 일부는, 전술한 블록의 속성에 기초하여 복호화 장치에서 가변적으로 결정될 수도 있고, 부호화/복호화 장치에 기-정의된 고정된 값으로 설정될 수도 있다.
예를 들어, 상기 제1 정보가 제1 값인 경우, 현재 블록은 복수의 서브블록으로 분할되고, 그렇지 않은 경우, 현재 블록은 복수의 서브블록으로 분할되지 않을 수 있다(NO_SPLIT). 현재 블록이 복수의 서브블록으로 분할되는 경우, 상기 제2 정보에 기초하여 현재 블록은 수평 분할(HOR_SPLIT) 또는 수직 분할(VER_SPLIT)될 수 있다. 이때, 현재 블록은 k개의 서브블록으로 분할될 수 있다. 여기서, k는 2,3,4 또는 그 이상의 정수일 수 있다. 또는, k는 1, 2, 4 등과 같이 2의 지수승으로 제한될 수 있다. 또는, 현재 블록의 너비 또는 높이 중 적어도 하나가 4인 블록(예를 들어, 4x8, 8x4)의 경우, 상기 k는 2로 설정되고, 그렇지 않은 경우, 상기 k는 4, 8, 또는 16으로 설정될 수 있다. 현재 블록이 비-분할인 경우(NO_SPLIT), 상기 k는 1로 설정될 수 있다.
상기 현재 블록은, 서로 동일한 너비와 높이를 가진 서브블록으로 분할될 수도 있고, 서로 상이한 너비와 높이를 가진 서브블록으로 분할될 수도 있다. 현재 블록은, 전술한 블록의 속성에 관계없이, 부호화/복호화 장치에 기-약속된 NxM 블록 단위(예를 들어, 2x2, 2x4, 4x4, 8x4, 8x8 등)로 분할될 수도 있다.
상기 오프셋은, 현재 블록의 크기가 소정의 문턱값(T1)보다 작거나 같은 경우에만 적용될 수 있다. 여기서, 문턱값(T1)은 오프셋이 적용되는 최대 블록 크기를 의미할 수 있다. 또는, 현재 블록의 크기가 소정의 문턱값(T2)보다 크거나 같은 경우에만 적용될 수도 있다. 이때, 문턱값(T2)은 오프셋이 적용되는 최소 블록 크기를 의미할 수 있다. 상기 문턱값은 비트스트림을 통해 시그날링될 수도 있다. 또는, 전술한 블록의 속성 중 적어도 하나에 기초하여 복호화 장치에서 가변적으로 결정될 수도 있고, 부호화/복호화 장치에 기-약속된 고정된 값일 수도 있다.
또는, 상기 오프셋은, 현재 블록의 형태가 non-square인 경우에만 적용될 수 있다. 일예로, 다음 조건을 만족하는 경우, 현재 블록의 IntraPredMode에 소정의 오프셋(예를 들어, 65)이을 가산될 수 있다.
- nW is greater than nH
- IntraPredMode is greater than or equal to 2
- IntraPredMode is less than (whRatio>1) ? (8+2*whRatio) : 8
여기서, nW와 nH는 현재 블록의 너비와 높이를 각각 의미하고, whRatio는 Abs(Log2(nW/nH))로 설정될 수 있다.
또는, 다음 조건을 만족하는 경우, 현재 블록의 IntraPredMode에 소정의 오프셋(예를 들어, 67)을 감산할 수 있다.
- nH is greater than nW
- IntraPredMode is less than or equal to 66
- IntraPredMode is greater than (whRatio>1) ? (60-2*whRatio) : 60
전술한 바와 같이, 현재 블록의 속성을 고려하여, 현재 블록의 인트라 예측 모드(IntraPredMode)에 오프셋을 가산/감산하여 최종 인트라 예측 모드를 결정할 수 있다. 다만, 이에 한정되지 아니하며, 오프셋의 적용은 현재 블록 대신에 서브블록의 속성(e.g., 크기, 형태)을 고려하여 동일/유사하게 수행될 수도 있다.
도 8은 본 발명이 적용되는 일실시예로서, 성분 간 참조 기반의 예측 방법을 도시한 것이다.
현재 블록은, 성분 타입에 따라 휘도 블록과 색차 블록으로 분류될 수 있다. 색차 블록은 기-복원된 휘도 블록의 화소를 이용하여 예측될 수 있으며, 이를 성분 간 참조라 부르기로 한다. 본 실시예에서는, 색차 블록은 (nTbW x nTbH)의 크기를 가지고, 색차 블록에 대응하는 휘도 블록은 (2*nTbW x 2*nTbH)의 크기를 가지는 것을 가정한다.
도 8을 참조하면, 색차 블록의 인트라 예측 모드를 결정할 수 있다(S800).
도 5에서 살펴본 바와 같이, 제3 플래그에 따라 색차 블록의 인트라 예측 모드는 제1 그룹에 속한 하나 또는 그 이상의 성분 간 참조 기반의 예측 모드 중 어느 하나로 결정될 수 있다. 제1 그룹은, 성분 간 참조 기반의 예측 모드만으로 구성될 수 있다. 부호화/복호화 장치는, 성분 간 참조 기반의 예측 모드로서, INTRA_LT_CCLM, INTRA_L_CCLM, 또는 INTRA_T_CCLM 중 적어도 하나를 정의할 수 있다. INTRA_LT_CCLM는 휘도/색차 블록에 인접한 좌측 및 상단 영역을 모두 참조하는 모드이고, INTRA_L_CCLM는 휘도/색차 블록에 인접한 좌측 영역을 참조하는 모드이며, INTRA_T_CCLM는 휘도/색차 블록에 인접한 상단 영역을 참조하는 모드일 수 있다.
상기 성분 간 참조 기반의 예측 모드 중 어느 하나를 선택하기 위해 소정의 인덱스가 이용될 수 있다. 상기 인덱스는, INTRA_LT_CCLM, INTRA_L_CCLM, 또는 INTRA_T_CCLM 중 어느 하나를 특정하는 정보일 수 있다. 상기 인덱스는, 상기 제3 플래그가 제1 값인 경우에 한하여 시그날링될 수 있다. 제1 그룹에 속한 성분 간 참조 기반의 예측 모드와 각 예측 모드에 할당된 인덱스는 다음 표 6과 같다.
| Idx |
성분 간 참조 기반의 예측 모드 |
| 0 |
INTRA_LT_CCLM |
| 1 |
INTRA_L_CCLM |
| 2 |
INTRA_T_CCLM |
표 6은, 각 예측 모드에 할당되는 인덱스의 일예에 불과하며, 이에 한정되지 아니한다. 즉, 표 6과 같이, INTRA_LT_CCLM, INTRA_L_CCLM, INTRA_T_CCLM의 우선순서로 인덱스가 할당될 수도 있고, INTRA_LT_CCLM, INTRA_T_CCLM, INTRA_L_CCLM의 우선순서로 인덱스가 할당될 수도 있다. 또는, INTRA_LT_CCLM가 INTRA_T_CCLM 또는 INTRA_L_CCLM보다 낮은 우선순서를 가질 수도 있다.
상기 제3 플래그는, 성분 간 참조가 허용되는지 여부를 나타내는 정보에 기초하여 선택적으로 시그날링될 수 있다. 예를 들어, 상기 정보의 값이 1인 경우, 상기 제3 플래그가 시그날링되고, 그렇지 않은 경우, 상기 제3 플래그는 시그날링되지 않을 수 있다. 여기서, 정보는 후술하는 소정의 조건에 기초하여 0 또는 1로 결정될 수 있다.
(조건 1) 성분 간 참조 기반의 예측이 허용되는지 여부를 나타내는 제4 플래그가 0인 경우, 상기 정보는 0으로 설정될 수 있다. 상기 제4 플래그는 VPS, SPS, PPS, PH, 슬라이스 헤더 중 적어도 하나에서 시그날링될 수 있다.
(조건 2) 다음 서브-조건 중 적어도 하나를 만족하는 경우, 상기 정보는 1로 설정될 수 있다.
- qtbtt_dual_tree_intra_flag의 값이 0인 경우
- 슬라이스 타입이 I 슬라이스가 아닌 경우
- 부호화 트리 블록의 크기가 64x64보다 작은 경우
상기 조건 2에서, qtbtt_dual_tree_intra_flag는 부호화 트리 블록이 64x64 크기의 부호화 블록으로 묵시적 분할되고, 64x64 크기의 부호화 블록이 듀얼 트리로 분할되는지 여부를 나타낼 수 있다. 상기 듀얼 트리는, 휘도 성분과 색차 성분가 서로 독립적인 분할 구조를 가지고 분할되는 방식을 의미할 수 있다. 상기 부호화 트리 블록의 크기(CtbLog2Size)는, 부호화/복호화 장치에 기-정의된 크기(e.g., 64x64, 128x128, 256x256)일 수도 있고, 부호화 장치에서 부호화되어 시그날링될 수도 있다.
(조건 3) 다음 서브-조건 중 적어도 하나를 만족하는 경우, 상기 정보는 1로 설정될 수 있다.
- 제1 상위 블록의 너비와 높이가 64인 경우
- 제1 상위 블록의 뎁스가 (CtbLog2Size-6)과 동일하고, 제1 상위 블록이 Horizontal BT로 분할되고, 제2 상위 블록이 64x32인 경우
- 제1 상위 블록의 뎁스가 (CtbLog2Size-6)보다 큰 경우
- 제1 상위 블록의 뎁스가 (CtbLog2Size-6)과 동일하고, 제1 상위 블록이 Horizontal BT로 분할되고, 제2 상위 블록이 Vertical BT로 분할된 경우
상기 조건 3에서, 제1 상위 블록은 현재 색차 블록을 하위 블록으로 포함하는 블록일 수 있다. 예를 들어, 현재 색차 블록의 뎁스가 k인 경우, 제1 상위 블록의 뎁스는 (k-n)이고, n은 1, 2, 3, 4 또는 그 이상일 수 있다. 상기 제1 상위 블록의 뎁스는, 쿼드 트리 기반의 분할에 따른 뎁스만을 의미하거나, 쿼드 트리, 바이너리 트리 또는 터너리 트리 중 적어도 하나의 분할에 따른 뎁스를 의미할 수도 있다. 상기 제2 상위 블록은 제1 상위 블록에 속한 하위 블록으로서, 현재 색차 블록보다 작은 뎁스를, 제1 상위 블록보다 큰 뎁스를 가질 수 있다. 예를 들어, 현재 색차 블록의 뎁스가 k인 경우, 제2 상위 블록의 뎁스는 (k-m)이고, m은 n보다 작은 자연수일 수 있다.
전술한 조건 1 내지 3 중 어느 하나도 만족하지 않는 경우, 상기 정보는 0으로 설정될 수 있다.
다만, 조건 1 내지 3 중 적어도 하나를 만족하는 경우라도, 다음 서브-조건 중 적어도 하나를 만족하는 경우, 상기 정보는 0으로 재설정될 수 있다.
- 제1 상위 블록이 64x64이고, 전술한 서브블록 단위의 예측을 수행하는 경우
- 제1 상위 블록의 너비 또는 높이 적어도 하나가 64보다 작고, 제1 상위 블록의 뎁스가 (CtbLog2Size-6)와 동일한 경우
도 8을 참조하면, 색차 블록의 성분 간 참조를 위한 휘도 영역을 특정할 수 있다(S810).
상기 휘도 영역은, 휘도 블록 또는 휘도 블록에 인접한 이웃 영역 중 적어도 하나를 포함할 수 있다. 여기서, 휘도 블록은 화소 pY[x][y] (x=0..nTbW*2-1, y=0..nTbH*2-1)을 포함하는 영역으로 정의될 수 있다. 상기 화소는, 인-루프 필터가 적용되기 전의 복원값을 의미할 수 있다.
상기 이웃 영역은, 좌측 이웃 영역, 상단 이웃 영역 또는 좌상단 이웃 영역 중 적어도 하나를 포함할 수 있다. 상기 좌측 이웃 영역은, 화소 pY[x][y] (x=-1..-3, y=0..2*numSampL-1)을 포함하는 영역으로 설정될 수 있다. 상기 설정은, numSampL의 값이 0보다 큰 경우에 한하여 수행될 수 있다. 상기 상단 이웃 영역은, 화소 pY[x][y] (x=0..2*numSampT-1, y=-1..-3)을 포함하는 영역으로 설정될 수 있다. 상기 설정은, numSampT의 값이 0보다 큰 경우에 한하여 수행될 수 있다. 상기 좌상단 이웃 영역은, 화소 pY[x][y] (x=-1, y=-1,-2)을 포함하는 영역으로 설정될 수 있다. 상기 설정은, 휘도 블록의 좌상단 영역이 가용인 경우에 한하여 수행될 수 있다.
전술한, numSampL 및 numSampT은, 현재 블록의 인트라 예측 모드에 기초하여 결정될 수 있다. 여기서, 현재 블록은 색차 블록을 의미할 수 있다.
예를 들어, 현재 블록의 인트라 예측 모드가 INTRA_LT_CCLM인 경우, 다음 수학식 1과 같이 유도될 수 있다. 여기서, INTRA_LT_CCLM은 성분 간 참조가 현재 블록의 좌측 및 상단에 인접한 영역에 기반하여 수행되는 모드를 의미할 수 있다.
[수학식 1]
numSampT = availT ? nTbW : 0
numSampL = availL ? nTbH : 0
수학식 1에 따르면, numSampT는 현재 블록의 상단 이웃 영역이 가용인 경우에는 nTbW으로 유도되고, 그렇지 않은 경우에는 0으로 유도될 수 있다. 마찬가지로, numSampL은 현재 블록의 좌측 이웃 영역이 가용인 경우에는 nTbH으로 유도되고, 그렇지 않은 경우에는 0으로 유도될 수 있다.
반면, 현재 블록의 인트라 예측 모드가 INTRA_LT_CCLM가 아닌 경우, 다음 수학식 2와 같이 유도될 수 있다.
[수학식 2]
numSampT = ( availT && predModeIntra = = INTRA_T_CCLM ) ? ( nTbW + numTopRight ) : 0
numSampL = ( availL && predModeIntra = = INTRA_L_CCLM ) ? ( nTbH + numLeftBelow ) : 0
수학식 2에서, INTRA_T_CCLM은 성분 간 참조가 현재 블록의 상단에 인접한 영역에 기반하여 수행되는 모드를 의미하고, INTRA_L_CCLM은 성분 간 참조가 현재 블록의 좌측에 인접한 영역에 기반하여 수행되는 모드를 의미할 수 있다. numTopRight은, 색차 블록의 우상단에 인접한 영역에 속한 전부 또는 일부 화소의 개수를 의미할 수 있다. 일부 화소는, 해당 영역의 최하단 화소 라인(row)에 속한 화소 중 가용 화소를 의미할 수 있다. 가용에 대한 판단은, 좌측에서 우측 방향으로 화소의 가용 여부를 순차적으로 판단하며, 이는 비가용 화소가 발견될 때까지 수행될 수 있다. numLeftBelow은, 색차 블록의 좌하단에 인접한 영역에 속한 전부 또는 일부 화소의 개수를 의미할 수 있다. 일부 화소는, 해당 영역의 최우측 화소 라인(column)에 속한 화소 중 가용 화소를 의미할 수 있다. 가용에 대한 판단은, 위에서 아래 방향으로 화소의 가용 여부를 순차적으로 판단하며, 이는 비가용 화소가 발견될 때까지 수행될 수 있다.
도 8을 참조하면, S810에서 특정된 휘도 영역에 대해서 다운샘플링이 수행될 수 있다(S820).
상기 다운샘플링은, 1. 휘도 블록에 대한 다운샘플링, 2. 휘도 블록의 좌측 이웃 영역에 대한 다운샘플링, 또는 3. 휘도 블록의 상단 이웃 영역에 대한 다운샘플링 중 적어도 하나를 포함할 수 있으며, 이하 상세히 살펴 보도록 한다.
1. 휘도 블록에 대한 다운샘플링
(실시예 1)
다운샘플링된 휘도 블록의 화소 pDsY[x][y] (x=0..nTbW-1, y=0..nTbH-1)은, 휘도 블록의 대응 화소 pY[2*x][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측, 우측, 상단, 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[x][y]은 다음 수학식 3과 같이 유도될 수 있다.
[수학식 3]
pDsY[ x ][ y ] = ( pY[ 2 * x ][ 2 * y - 1 ] + pY[ 2 * x - 1 ][ 2 * y ] + 4 * pY[ 2 * x ][ 2 * y ] + pY[ 2 * x + 1 ][ 2 * y ] + pY[ 2 * x ][ 2 * y + 1 ] + 4 ) >> 3
다만, 현재 블록의 좌측/상단 이웃 영역이 비가용인 경우가 존재할 수 있다. 만일 현재 블록의 좌측 이웃 영역이 비가용인 경우, 다운샘플링된 휘도 블록의 화소 pDsY[0][y] (y=1..nTbH-1)은, 휘도 블록의 대응 화소 pY[0][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 상단 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[0][y] (y=1..nTbH-1)은 다음 수학식 4과 같이 유도될 수 있다.
[수학식 4]
pDsY[ 0 ][ y ] = ( pY[ 0 ][ 2 * y - 1 ] + 2 * pY[ 0 ][ 2 * y ] + pY[ 0 ][ 2 * y + 1 ] + 2 ) >> 2
만일 현재 블록의 상단 이웃 영역이 비가용인 경우, 다운샘플링된 휘도 블록의 화소 pDsY[x][0] (x=1..nTbW-1)은, 휘도 블록의 대응 화소 pY[2*x][0] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[x][0] (x=1..nTbW-1)은 다음 수학식 5와 같이 유도될 수 있다.
[수학식 5]
pDsY[ x ][ 0 ] = ( pY[ 2 * x - 1 ][ 0 ] + 2 * pY[ 2 * x ][ 0 ] + pY[ 2 * x + 1 ][ 0 ] + 2 ) >> 2
한편, 다운샘플링된 휘도 블록의 화소 pDsY[0][0]은, 휘도 블록의 대응 화소 pY[0][0] 및/또는 주변 화소에 기초하여 유도될 수 있다. 주변 화소의 위치는, 현재 블록의 좌측/상단 이웃 영역의 가용 여부에 따라 상이하게 결정될 수 있다.
예를 들어, 좌측 이웃 영역은 가용하고, 상단 이웃 영역이 가용하지 않은 경우, pDsY[0][0]은 다음 수학식 6과 같이 유도될 수 있다.
[수학식 6]
pDsY[ 0 ][ 0 ] = ( pY[ -1 ][ 0 ] + 2 * pY[ 0 ][ 0 ] + pY[ 1 ][ 0 ] + 2 ) >> 2
반면, 좌측 이웃 영역은 가용하지 않고, 상단 이웃 영역이 가용한 경우, pDsY[0][0]은 다음 수학식 7과 같이 유도될 수 있다.
[수학식 7]
pDsY[ 0 ][ 0 ] = ( pY[ 0 ][ -1 ] + 2 * pY[ 0 ][ 0 ] + pY[ 0 ][ 1 ] + 2 ) >> 2
한편, 좌측 및 상단 이웃 영역 모두 가용하지 않은 경우, pDsY[ 0 ][ 0 ]은 휘도 블록의 대응 화소 pY[0][0]로 설정될 수 있다.
(실시예 2)
다운샘플링된 휘도 블록의 화소 pDsY[x][y] (x=0..nTbW-1, y=0..nTbH-1)은, 휘도 블록의 대응 화소 pY[2*x][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 하단, 좌측, 우측, 좌하단 또는 우하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pDsY[x][y]은 다음 수학식 8과 같이 유도될 수 있다.
[수학식 8]
pDsY[ x ][ y ] = ( pY[ 2 * x - 1 ][ 2 * y ] + pY[ 2 * x - 1 ][ 2 * y + 1 ] + 2* pY[ 2 * x ][ 2 * y ] +
2*pY[ 2 * x ][ 2 * y + 1 ] + pY[ 2 * x + 1 ][ 2 * y ] + pY[ 2 * x + 1 ][ 2 * y + 1 ] + 4 ) >> 3
다만, 만일 현재 블록의 좌측 이웃 영역이 비가용인 경우, 다운샘플링된 휘도 블록의 화소 pDsY[0][y] (y=0..nTbH-1)은, 휘도 블록의 대응 화소 pY[0][2*y] 및 하단 주변 화소에 기초하여 유도될 수 있다. 예를 들어, 화소 pDsY[0][y] (y=0..nTbH-1)은 다음 수학식 9와 같이 유도될 수 있다.
[수학식 9]
pDsY[ 0 ][ y ] = ( pY[ 0 ][ 2 * y ] + pY[ 0 ][ 2 * y + 1 ] + 1 ) >> 1
휘도 블록의 다운샘플링은, 전술한 실시예 1과 2 중 어느 하나에 기초하여 수행될 수 있다. 이때 소정의 플래그에 기초하여 실시예 1 또는 2 중 어느 하나가 선택될 수 있다. 상기 플래그는, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가지는지 여부를 나타낼 수 있다. 예를 들어, 상기 플래그가 제1 값인 경우, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가진다. 반면, 상기 플래그가 제2 값인 경우, 다운샘플링된 휘도 화소는 원 휘도 화소와 수평 방향으로는 동일한 위치를 가지나, 수직 방향으로는 하프 펠(half pel)만큼 쉬프트된 위치를 가진다.
2. 휘도 블록의 좌측 이웃 영역에 대한 다운샘플링
(실시예 1)
다운샘플링된 좌측 이웃 영역의 화소 pLeftDsY[y] (y=0..numSampL-1)은, 좌측 이웃 영역의 대응 화소 pY[-2][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측, 우측, 상단, 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pLeftDsY[y]은 다음 수학식 10과 같이 유도될 수 있다.
[수학식 10]
pLeftDsY[ y ] = ( pY[ -2 ][ 2 * y - 1 ] + pY[ -3 ][ 2 * y ] + 4 * pY[ -2 ][ 2 * y ] + pY[ -1 ][ 2 * y ] + pY[ -2][ 2 * y + 1 ] + 4 ) >> 3
다만, 현재 블록의 좌상단 이웃 영역이 비가용인 경우, 다운샘플링된 좌측이웃 영역의 화소 pLeftDsY[ 0 ]은, 좌측 이웃 영역의 대응 화소 pY[-2][0] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pLeftDsY[ 0 ]은 다음 수학식 11과 같이 유도될 수 있다.
[수학식 11]
pLeftDsY[ 0 ] = ( pY[ -3 ][ 0 ] + 2 * pY[ -2 ][ 0 ] + pY[ -1 ][ 0 ] + 2 ) >> 2
(실시예 2)
다운샘플링된 좌측 이웃 영역의 화소 pLeftDsY[y] (y=0..numSampL-1)은, 좌측 이웃 영역의 대응 화소 pY[-2][2*y] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 하단, 좌측, 우측, 좌하단 또는 우하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pLeftDsY[y]은 다음 수학식 12와 같이 유도될 수 있다.
[수학식 12]
pLeftDsY[ y ] = ( pY[ -1 ][ 2 * y ] + pY[ -1 ][ 2 * y + 1 ] + 2* pY[ -2 ][ 2 * y ] + 2*pY[ -2 ][ 2 * y + 1 ] + pY[ -3 ][ 2 * y ] + pY[ -3 ][ 2 * y + 1 ] + 4 ) >> 3
마찬가지로, 좌측 이웃 영역의 다운샘플링은, 전술한 실시예 1과 2 중 어느 하나에 기초하여 수행될 수 있다. 이때 소정의 플래그에 기초하여 실시예 1 또는 2 중 어느 하나가 선택될 수 있다. 상기 플래그는, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가지는지 여부를 나타내며, 이는 전술한 바와 같다.
한편, 좌측 이웃 영역에 대한 다운샘플링은, numSampL 값이 0보다 큰 경우에 한하여 수행될 수 있다. numSampL 값이 0보다 큰 경우라 함은, 현재 블록의 좌측 이웃 영역이 가용이고, 현재 블록의 인트라 예측 모드는 INTRA_LT_CCLM 또는 INTRA_L_CCLM인 경우를 의미할 수 있다.
3. 휘도 블록의 상단 이웃 영역에 대한 다운샘플링
(실시예 1)
다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x] (x=0..numSampT-1)은, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는지 여부를 고려하여 유도될 수 있다.
상단 이웃 영역이 휘도 블록과 동일한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-2] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측, 우측, 상단, 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[x]은 다음 수학식 13과 같이 유도될 수 있다.
[수학식 13]
pTopDsY[ x ] = ( pY[ 2 * x ][ -3 ] + pY[ 2 * x - 1 ][ -2 ] + 4 * pY[ 2 * x ][ -2 ] + pY[ 2 * x + 1 ][ -2 ] + pY[ 2 * x ][ -1 ] + 4 ) >> 3
반면, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-1] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ x ]은 다음 수학식 14와 같이 유도될 수 있다.
[수학식 14]
pTopDsY[ x ] = ( pY[ 2 * x - 1 ][ -1 ] + 2* pY[ 2 * x ][ -1 ] + pY[ 2 * x + 1 ][ -1 ] + 2 ) >> 2
또는, 현재 블록의 좌상단 이웃 영역이 비가용인 경우, 상기 주변 화소는 대응 화소의 상단 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ 0 ]은 다음 수학식 15와 같이 유도될 수 있다.
[수학식 15]
pTopDsY[ 0 ] = ( pY[ 0 ][ -3 ] + 2 * pY[ 0 ][ -2 ] + pY[ 0 ][ -1 ] + 2 ) >> 2
또는, 현재 블록의 좌상단 이웃 영역이 비가용이고, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 화소 pTopDsY[ 0 ]은 상단 이웃 영역의 화소 pY[ 0 ][ -1 ]로 설정될 수 있다.
(실시예 2)
다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x] (x=0..numSampT-1)은, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는지 여부를 고려하여 유도될 수 있다.
상단 이웃 영역이 휘도 블록과 동일한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-2] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 하단, 좌측, 우측, 좌하단 또는 우하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[x]은 다음 수학식 16과 같이 유도될 수 있다.
[수학식 16]
pTopDsY[ x ] = ( pY[ 2 * x - 1 ][ -2 ] + pY[ 2 * x - 1 ][ -1 ] + 2* pY[ 2 * x ][ -2 ] +
2*pY[ 2 * x ][ -1 ] + pY[ 2 * x + 1 ][ -2 ] + pY[ 2 * x + 1 ][ -1 ] + 4 ) >> 3
반면, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 다운샘플링된 상단 이웃 영역의 화소 pTopDsY[x]는 상단 이웃 영역의 대응 화소 pY[2*x][-1] 및 주변 화소에 기초하여 유도될 수 있다. 주변 화소는, 대응 화소의 좌측 또는 우측 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ x ]은 다음 수학식 17과 같이 유도될 수 있다.
[수학식 17]
pTopDsY[ x ] = ( pY[ 2 * x - 1 ][ -1 ] + 2* pY[ 2 * x ][ -1 ] + pY[ 2 * x + 1 ][ -1 ] + 2 ) >> 2
또는, 현재 블록의 좌상단 이웃 영역이 비가용인 경우, 상기 주변 화소는 대응 화소의 상단 또는 하단 중 적어도 하나의 방향으로 인접한 화소를 의미할 수 있다. 예를 들어, 화소 pTopDsY[ 0 ]은 다음 수학식 18과 같이 유도될 수 있다.
[수학식 18]
pTopDsY[ 0 ] = ( pY[ 0 ][ -2 ] + pY[ 0 ][ -1 ] + 1 ) >> 1
또는, 현재 블록의 좌상단 이웃 영역이 비가용이고, 상단 이웃 영역이 휘도 블록과 상이한 CTU에 속하는 경우, 화소 pTopDsY[ 0 ]은 상단 이웃 영역의 화소 pY[ 0 ][ -1 ]로 설정될 수 있다.
마찬가지로, 상단 이웃 영역의 다운샘플링은, 전술한 실시예 1과 2 중 어느 하나에 기초하여 수행될 수 있다. 이때 소정의 플래그에 기초하여 실시예 1 또는 2 중 어느 하나가 선택될 수 있다. 상기 플래그는, 다운샘플링된 휘도 화소가 원 휘도 화소와 동일한 위치를 가지는지 여부를 나타내며, 이는 전술한 바와 같다.
한편, 상단 이웃 영역에 대한 다운샘플링은, numSampT 값이 0보다 큰 경우에 한하여 수행될 수 있다. numSampT 값이 0보다 큰 경우라 함은, 현재 블록의 상단 이웃 영역이 가용이고, 현재 블록의 인트라 예측 모드는 INTRA_LT_CCLM 또는 INTRA_T_CCLM인 경우를 의미할 수 있다.
전술한 휘도 블록의 좌측 또는 상단 이웃 영역 중 적어도 하나(이하, 휘도 참조 영역)에 대한 다운샘플링은, 특정 위치의 대응 화소 pY[-2][2*y] 및 주변 화소만을 이용하여 수행될 수 있다. 여기서, 특정 위치는, 색차 블록의 좌측 또는 상단 이웃 영역 중 적어도 하나(이하, 색차 참조 영역)에 속한 복수의 화소 중 선택된 화소의 위치에 기초하여 결정될 수 있다.
상기 선택된 화소는, 색차 참조 영역에서 홀수번째에 위치한 화소이거나 짝수번째에 위치한 화소일 수 있다. 또는, 상기 선택된 화소는, 시작 화소 및 시작 화소로부터 소정의 간격마다 위치한 하나 또는 그 이상의 화소일 수 있다. 여기서, 시작 화소는 색차 참조 영역에서 첫번째, 두번째 또는 세번째에 위치한 화소일 수 있다. 상기 간격은 1개, 2개, 3개, 4개 또는 그 이상의 샘플 간격일 수 있다. 예를 들어, 상기 간격이 1개 샘플 간격인 경우, 선택된 화소는 n번째 화소, (n+2)번째 화소 등을 포함할 수 있다. 선택된 화소의 개수는, 2개, 4개, 6개, 8개 또는 그 이상일 수 있다.
상기 선택된 화소의 개수, 시작 화소 및 간격은, 색차 참조 영역의 길이(즉, numSampL 및/또는 numSampT) 또는 색차 블록의 인트라 예측 모드 중 적어도 하나에 기초하여 가변적으로 결정될 수 있다. 또는, 선택된 화소의 개수는, 색차 참조 영역의 길이 및 색차 블록의 인트라 예측 모드에 관계없이, 부호화/복호화 장치에 기-약속된 고정된 개수(e.g., 4개)일 수 있다.
도 8을 참조하면, 색차 블록의 성분 간 참조를 위한 파라미터를 유도할 수 있다(S830).
상기 파라미터는 가중치 또는 오프셋 중 적어도 하나를 포함할 수 있다. 상기 파라미터는, 현재 블록의 인트라 예측 모드를 고려하여 결정될 수 있다. 상기 파라미터는, 색차 참조 영역의 선택된 화소 및 휘도 참조 영역의 다운샘플링을 통해 획득된 화소를 이용하여 유도될 수 있다.
구체적으로, 휘도 참조 영역의 다운샘플링을 통해 획득된 n개의 화소 간의 크기 비교를 수행하여, n개의 화소를 2개의 그룹으로 분류할 수 있다. 예를 들어, 제1 그룹은 n개의 화소 중 상대적으로 큰 값을 가진 화소의 그룹이고, 제2 그룹은 n개의 샘플 중 제1 그룹의 화소를 제외한 나머지 화소의 그룹일 수 있다. 즉, 제2 그룹은 상대적으로 작은 값을 가진 화소의 그룹일 수 있다. 여기서, n은 4, 8, 16 또는 그 이상일 수 있다. 제1 그룹에 속한 화소들의 평균값을 최대값(MaxL)으로 설정하고, 제2 그룹에 속한 화소들의 평균값을 최소값(MinL)으로 설정할 수 있다.
상기 휘도 참조 영역의 다운샘플링을 통해 획득된 n개의 화소에 대한 그룹핑에 따라, 색차 참조 영역의 선택된 화소를 그룹핑할 수 있다. 휘도 참조 영역에 대한 제1 그룹의 화소에 대응하는 색차 참조 영역의 화소를 이용하여, 색차 참조 영역에 대한 제1 그룹을 구성하고, 휘도 참조 영역에 대한 제2 그룹의 화소에 대응하는 색차 참조 영역의 화소를 이용하여, 색차 참조 영역에 대한 제2 그룹을 구성할 수 있다. 마찬가지로, 제1 그룹에 속한 화소들의 평균값을 최대값(MaxC)으로 설정하고, 제2 그룹에 속한 화소들의 평균값을 최소값(MinC)으로 설정할 수 있다.
상기 산출된 최대값(MaxL, MaxC) 및 최소값(MinL, MaxC)을 기반으로, 상기 파라미터의 가중치 및/또는 오프셋을 유도할 수 있다.
색차 블록은, 다운샘플링된 휘도 블록과 파라미터를 기반으로 예측?? 수 있다(S840).
색차 블록은 다운샘플링된 휘도 블록의 화소에 기-유도된 가중치 또는 오프셋 중 적어도 하나를 적용하여 예측될 수 있다.
도 9는 본 발명이 적용되는 일실시예로서, 참조 영역을 구성하는 방법을 도시한 것이다.
본 발명에 따른 참조 영역은 현재 블록의 인접한 영역일 수 있으며, 다음은 카테고리 별로 참조 영역이 분류되어 각 참조 영역을 가용 화소로 구성하는 방법을 살펴본다. 설명의 편의를 위해 현재 블록의 좌측, 상단, 우측 참조 영역을 중심으로 설명한다. 후술하는 실시예에서 언급하지 않은 설명은 도 6를 통해 설명한 실시예를 통해 참조 또는 유도할 수 있다.
도 9를 참조하면, 참조 영역의 화소를 소정의 카테고리로 구분할 수 있다(SA00).
참조 영역은 k개의 카테고리로 구분/분류할 수 있으며, k는 1, 2, 3 또는 그 이상의 정수일 수 있다. 또는, k는 2 이하의 정수로 제한될 수 있다. 참조 영역은 영상 타입(I/P/B), 성분 타입(Y/Cb/Cr 등), 블록의 속성(크기, 형태, 분할 정보, 분할 ?X스 등), 참조 화소의 위치 등에 기반하여 소정의 카테고리 중 하나로 분류될 수 있다. 여기서, 블록은 현재 블록 및/또는 현재 블록의 주변 블록을 의미할 수 있다.
예를 들어, 블록의 크기에 따라 소정의 카테고리로 분류될 수 있다. 이때, 블록의 크기는 문턱크기에 의해 지원 범위가 정해질 수 있다. 각 문턱 크기는 너비(W)와 높이(H)로 W, H, W x H, W*H로 표현될 수 있다. W와 H는 4, 8, 16, 32 등과 같은 자연수 일 수 있다. 문턱 크기는 2개 이상 지원되어 블록이 가질 수 있는 최소값, 최대값 등과 같은 지원 범위 설정에 사용될 수 있다.
또는, 참조 화소의 위치에 따라 소정의 카테고리로 분류될 수 있다. 이때, 상기 참조 화소 위치는 화소 단위로 정의할 수 있거나 또는 해당 참조 화소가 속한 블록의 방향(좌, 우, 상, 하, 좌상, 우상, 좌하, 우하 방향)으로 정의할 수 있다.
도 6을 참조하면, 좌상단 화소(TL), 우상단 화소(TR), 좌하단 화소(BL), 우하단 화소(BR) 위치 중에 포함되는지 여부로 정의할 수 있다. 또한, 현재 블록의 너비(2*nW), 높이(2*nH) 또는 너비와 높이의 합(nW+nH)에 기반하여 위치하는 TL0, TL1, TR0, TR1, BL0, BL1, BR0, BR1 화소 위치 중에 포함되는지 여부로 정의할 수 있다. 또한, 도 12를 참조하면, 상, 하, 좌, 우 블록의 양 끝에 위치하는 화소인 T0, T3, B0, B3, L0, L3, R0, R3 화소 위치 중에 포함되는지 여부로 정의할 수 있다. 또는, 각 블록의 중간에 위치하는 화소(T1, L2, B2, R1 등) 중에 포함되는지 여부로 정의할 수 있다.
상기 다양한 부호화 요소에 기반하여 참조 영역(참조 화소)를 카테고리 별로 분류할 수 있다.
도 9를 참조하면, 참조 영역에 속한 비가용 화소를 탐색할 수 있다(SA10).
참조 영역에 비가용 화소가 존재하는지를 순차적으로 탐색할 수 있다. 도 6을 참조하면, 탐색의 시작 위치는 TL, TR, BL, BR 중에서 정해질 수 있으나, 이에 한정되지는 않는다. 이때, 순차적으로 진행되는 경우에는 탐색의 시작 위치는 1개로 설정할 수 있으나, 병렬적으로 진행되는 경우를 위해 2개 이상으로 설정할 수도 있다.
비가용 화소의 탐색 영역은 상기 탐색의 시작 위치에 기반하여 정해질 수 있다. 만약 1개의 탐색 위치가 지정된 경우(TL로 가정)에는 상단 참조 영역 또는 좌측 참조 영역을 우측 참조 영역보다 먼저 탐색을 수행할 수 있으나, 부호화 설정(병렬 처리)에서는 그렇지 않을 수 있다.
여기서, 탐색 방향은 시계 방향 또는 시계 반대 방향 중에서 정해질 수 있다. 이때, 참조 영역 전체를 대상으로 상기 시계 방향 또는 시계 반대 방향 중 하나를 선택할 수 있다. 또는, 참조 영역 위치에 따라 적응적으로 선택할 수 있다. 즉, 상단/하단/좌측/우측 참조 영역에 시계 방향 또는 시계 반대 방향 중에 하나의 탐색 방향을 지원할 수 있다. 여기서 상기 참조 영역의 위치가 현재 블록의 너비(nW), 높이(nH)에만 제한되어 배치되지 않음(즉, 2*nW, 2*nH, nW+nH 등에 포함되는 참조 영역도 포함)을 이해하여야 한다.
여기서, 시계 방향의 경우 좌측 참조 영역에서는 하단에서 상단 방향, 상단 참조 영역에서는 좌측에서 우측 방향, 우측 참조 영역에서는 상단에서 하단 방향, 하단 참조 영역에서는 우측에서 좌측 방향을 의미할 수 있다. 시계 반대 방향은 시계 방향에서 반대로 유도될 수 있다.
예를 들어, 현재 블록에 인접한 좌상단 화소(TL)에서 탐색을 시작할 때, 상단 참조 영역과 우측 참조 영역은 시계 방향(좌->우, 상->하)으로 탐색할 수 있다. 그리고 좌측 참조 영역과 하단 참조 영역은 시계 반대 방향(상->하, 좌->우)으로 탐색할 수 있다. 단, 상기 설명은 일부 예시에 불과하며, 다양한 변형의 예가 가능할 수 있다.
도 9를 참조하면, 카테고리 별로 설정된 방법을 사용하여 가용 화소로 대체할 수 있다(SA20).
비가용 화소는 기 결정된 디폴트 값(예를 들어, 화소값 범위의 중앙값 등)으로 대체할 수 있다. 또는, 소정의 가용 화소에 기반하여 대체할 수 있는데, 1개 이상의 인접한 가용 화소를 복사, 선형 외삽, 내삽 등을 통해 획득된 값으로 비가용 화소를 대체할 수 있다. 우선 각 화소의 위치에 기반하여 카테고리를 구분하는 과정을 선행한다. 다음은 상기 각 방법이 복수의 카테고리에 따라 어떻게 적용되는지에 관한 예시를 들며, 상기 비가용 화소는 대상 화소라는 지칭한다.
일예<1>로, 대상 화소는 참조 영역에 가용 화소가 존재할 경우에는 가용 화소에 기반하여 획득된 화소값을 사용하여 대체할 수 있고, 참조 영역에 가용 화소가 존재하지 않을 경우에는 디폴트 값으로 대체할 수 있다.
일예<2>로, 대상 화소는 탐색의 시작 위치를 포함하여 대상 화소 전에 가용 화소가 존재할 경우에는 가용 화소에 기반하여 획득된 화소값을 사용하여 대체할 수 있고, 대상 화소 전에 가용 화소가 존재하지 않을 경우에는 디폴트 값으로 대체할 수 있다.
일예<3>로, 대상 화소는 디폴트 값으로 대체할 수 있다.
<1>의 경우 참조 영역에 가용 화소가 존재하는지 여부에 따라 가용 화소로 대체하는 방법을 설명하고 있다. <2>의 경우 이전 탐색 과정 중에 가용 화소가 존재하는지 여부에 따라 가용 화소로 대체하는 방법을 설명하고 있다. <3>의 경우 하나의 고정적인 가용 화소로 대체하는 방법을 설명하고 있다.
만약 1개의 카테고리가 지원될 경우, 상기 <1> 내지 <3>에서 하나의 가용 화소로 대체하는 방법을 사용할 수 있다. 만약 2개 이상의 카테고리가 지원될 경우 하나의 카테고리에 속한 참조 화소는 <1> 내지 <3>에서 하나를 선택하고, 다른 카테고리에 속한 참조 화소는 <1> 내지 <3>에서 하나를 선택하여 사용할 수 있다.
도 9를 참조하면, 참조 영역을 가용 화소로 구성할 수 있다(SA30). 그리고 화면내 예측(인트라 예측)을 수행할 수 있다(SA40).
전술한 실시예를 통해 참조 영역의 비가용 화소를 대상으로 카테고리로 구분하여 카테고리에 따른 가용 화소를 대체하는 방법을 설명하였다. 또한, 비가용 화소뿐만 아니라 가용 화소라도 카테고리에 따라 디폴트 값으로 대체하거나 다른 가용 화소로 대체하거나 또는 다른 가용 화소에 기반하여 획득된 값으로 대체하는 등의 변형이 가능할 수 있다.
도 10은 본 발명이 적용되는 일실시예로서, 단계별로 인트라 예측 모드 세트를 구성하는 예시도이다.
도 10의 (Step 1)을 참조하면, 다양한 예측 모드 후보군 구성이 지원될 수 있으며, 이 중 하나를 묵시적 또는 명시적으로 선택할 수 있다. 상기 예측 모드 후보군은 모드의 개수, 방향성 모드의 기울기 정보(dy/dx), 방향성 모드의 지원 범위 등에 의해 구분될 수 있다. 이때, 모드의 개수의 경우 k개(방향성 a개, 비방향성 b개)로 구성되더라도, a 또는 b가 다른 예측 모드 후보군이 존재할 수 있다.
예측 모드 후보군 선택 정보는 명시적으로 발생할 수 있으며, VPS, SPS, PPS, PH, 슬라이스 헤더 중 적어도 하나의 레벨에서 시그날링될 수 있다. 또는, 부호화 설정에 따라 묵시적으로 예측 모드 후보군이 선택될 수 있다. 이때, 영상 타입(I/P/B), 성분 타입, 블록의 속성(크기, 형태, 분할 정보, 분할 ?X스 등)에 기초하여 상기 부호화 설정이 정의될 수 있다. 여기서, 블록은 현재 블록 및/또는 현재 블록의 주변 블록을 의미할 수 있으며, 본 실시예에서는 동일하게 적용되는 설명일 수 있다.
(Step 1)을 통해 하나의 예측 모드 후보군이 선정(본 예에서 B가 선정)되면, 이에 기반하여 인트라 예측 또는 예측 모드 부호화를 수행할 수 있다. 또는, 효율적인 후보군 구성을 위한 작업을 진행할 수 있으며, 이를 (Step 2)를 통해 살펴본다.
도 10의 (Step 2)를 참조하면, 일부 예측 모드의 구성을 다양하게 구성할 수 있으며, 이 중에 하나를 묵시적 또는 명시적으로 선택할 수 있다. (B0) 내지 (B2)는 일부 방향의 예측 모드(도면에서 점선)는 잘 사용되지 않을 것을 가정한 후보 구성일 수 있다.
예측 모드 후보군 선택 정보는 명시적으로 발생할 수 있으며, CTU, 부호화 블록, 예측 블록, 변환 블록 등에서 시그날링될 수 있다. 또는, 부호화 설정에 따라 묵시적으로 예측 모드 후보군이 선택될 수 있으며, 부호화 설정은 이전의 다양한 부호화 요소로 정의될 수 있다.
여기서, 블록의 형태는 블록의 너비/높이 비(W:H)에 따라 세밀화할 수 있는데, W:H의 모든 가능한 비율에 맞춰 예측 모드 후보군도 달리 구성될 수 있거나 또는 W:H의 일정 비율에 한하여 예측 모드 후보군이 달리 구성될 수도 있다.
(Step 2)를 통해 하나의 예측 모드 후보군이 선정(본 예에서 B1이 선정)되면, 이에 기반하여 인트라 예측 또는 예측 모드 부호화를 수행할 수 있다. 또는, 효율적인 후보군 구성을 위한 작업을 진행할 수 있으며, 이를 (Step 3)를 통해 살펴본다.
도 10의 (Step 3)를 참조하면, 예측 모드 후보군의 수가 많기 때문에 일부 예측 모드(도면에서 점선)는 잘 사용되지 않을 것을 가정한 후보 구성일 수 있다.
예측 모드 후보군 선택 정보는 명시적으로 발생할 수 있고, CTU, 부호화 블록, 예측 블록, 변환 블록 등에서 시그날링될 수 있다. 또는, 부호화 설정에 따라 묵시적으로 예측 모드 후보군이 선택될 수 있으며, 부호화 설정은 이전의 다양한 부호화 요소로 정의될 수 있다. 그리고 블록의 예측 모드, 위치 등이 부호화 설정을 정의하는데 추가적으로 고려되는 요소일 수 있다.
이때, 예측 모드, 블록의 위치는 현재 블록의 인접한 이웃 블록의 정보를 의미할 수 있다. 즉, 현재 블록과 이웃 블록의 속성 정보에 기반하여 잘 사용되지 않을 것이라 추정되는 예측 모드를 유도하고, 해당 모드를 예측 모드 후보군에서 제외할 수 있다.
예를 들어, 이웃 블록은 도 12의 TL, T0, TR0, L0, BL0 위치를 포함할 때, 해당 블록의 예측 모드가 일부 방향성(왼쪽 위에서 오른쪽 아래 방향)을 갖는다고 가정한다. 이때, 현재 블록의 예측 모드는 높은 확률로 일부 방향성을 가질 것으로 예상할 수 있는데, 다음의 처리 가능성이 존재할 수 있다.
예를 들어, 예측 모드 후보군 내 모드를 모두 인트라 예측을 수행할 수 있다. 그리고 예측 모드 후보군에 기반하여 예측 모드 부호화를 수행할 수 있다.
또는, 일부 모드는 제거된 예측 모드 후보군 내 모드를 인트라 예측을 수행할 수 있다. 그리고 일부 모드는 제거된 예측 모드 후보군에 기반하여 예측 모드 부호화를 수행할 수 있다.
상기 예를 비교하면, 발생 확률이 낮을 것이라 생각되는 예측 모드를 실제 예측 및 부호화 과정(non-MPM 등으로 포함할 수 있음)에서 포함하여 진행할 지 또는 제거하고 진행할 지가 구분되는 특성일 수 있다.
(B21)의 경우 이웃 블록의 예측 모드와는 다른 방향성을 갖는 예측 모드를 일부 제거한 구성일 수 있는데, 해당 방향성 모드가 실제로 발생하는 경우를 위해 듬성듬성 배치된 일부 모드가 제거된 예시일 수 있다.
도 11은 본 발명이 적용되는 일실시예로서, 인트라 예측 모드를 복수의 후보군으로 분류하는 방법을 도시한 것이다.
다음을 통해 인트라 예측 모드의 복호화를 위해 하나 이상의 후보군으로 분류하는 경우를 설명할 것이며, 이는 전술한 MPM 후보군, Non-MPM 후보군과 동일하거나 비슷한 개념일 수 있다. 그래서 본 실시예에서 언급하지 않은 부분은 이전 실시예를 통해 동일하거나 유사하게 유도할 수 있다. 본 실시예의 경우 다양한 후보군 개수로의 확장과 후보군 구성 방법에 관하여 후술한다.
현재 블록의 인트라 예측 모드는 복수의 후보군 중 어느 하나를 선택적으로 이용하여 유도될 수 있는데, 이를 위해 (후보군 개수 - 1) 이하의 개수만큼 선택 플래그가 이용될 수 있다.
예를 들어, 3개의 후보군(A, B, C)으로 예측 모드가 분류될 경우, 현재 블록의 인트라 예측 모드가 A 후보군으로부터 유도되는지 여부를 나타내는 플래그(제1 플래그)가 이용될 수 있다.
이때, 제1 플래그가 제1값인 경우, A 후보군이 이용되고, 제1 플래그가 제2값인 경우, 현재 블록의 인트라 예측 모드가 B 후보군으로부터 유도되는지 여부를 나타내는 플래그(제2 플래그)가 이용될 수 있다.
이때, 제2 플래그가 제1값인 경우, B 후보군이 이용되고, 제2 플래그가 제2값인 경우, C 후보군이 이용될 수 있다. 상기 예에서는 3개의 후보군이 지원되며, 이를 위해 제1 플래그와 제2 플래그, 총 2개의 선택 플래그가 사용될 수 있다.
상기 후보군 중 하나가 선택이 될 때, 현재 블록의 인트라 예측 모드는, 후보군 및 후보군 인덱스에 기초하여 결정될 수 있다. 후보군 인덱스는, 후보군에 속한 후보 중 어느 하나를 특정하는 정보일 수 있다. 후보군 인덱스는, 후보군에 복수의 후보가 속한 경우에 한하여 시그날링될 수 있다.
상기 예를 통해 3개의 후보군이 지원될 때의 선택 플래그에 관한 구성을 설명하였다. 상기 구성과 같이 우선 순위가 높은 후보군으로부터 현재 블록의 예측 모드가 유도되는지 여부를 나타내는 플래그가 순차적으로 지원(예로, 제1 플래그 -> 제2 플래그 순서)될 수 있다. 즉, 소정의 후보군 선택 플래그가 발생하고, 해당 후보군이 선정되지 않으면, 그 다음 순위의 후보군의 선택 플래그가 발생하는 구성일 수 있다.
또는, 상기 선택 플래그와 다른 의미를 갖는 구성일 수 있다(EE). 예를 들어, 현재 블록의 인트라 예측 모드가 A 또는 B 후보군으로부터 유도되는지 여부를 나타내는 플래그(제1 플래그)가 이용될 수 있다.
이때, 제1 플래그가 제1값인 경우, C 후보군이 이용되고, 제1 플래그가 제2값인 경우, 현재 블록의 인트라 예측 모드가 A 후보군으로부터 유도되는지 여부를 나타내는 플래그(제2 플래그)가 이용될 수 있다.
이때, 제2 플래그가 제1값인 경우, A 후보군이 이용되고, 제2 플래그가 제2값인 경우, B 후보군이 이용될 수 있다.
A, B, C 후보군은 각각 m, n, p개 후보를 가질 수 있으며, m은 1, 2, 3, 4, 5, 6 또는 그 이상의 정수일 수 있다. n은 1, 2, 3, 4, 5, 6 또는 그 이상의 정수일 수 있다. 또는, n은 10 내지 40 사이의 정수일 수 있다. p는 (예측 모드 총 개수 - m - n)개일 수 있다. 여기서, m은 n과 같거나 작을 수 있고, n은 p와 같거나 작을 수 있다.
다른 예로, 4개의 후보군(A, B, C, D)으로 예측 모드가 분류될 경우, 현재 블록의 인트라 예측 모드가 A, B, C 후보군으로부터 유도되는지 여부를 나타내는 플래그들(제1 플래그, 제2 플래그, 제3 플래그)이 이용될 수 있다.
이때, 제2 플래그는 제1 플래그가 제2값인 경우에 발생할 수 있고, 제3 플래그는 제2 플래그가 제2값인 경우에 발생할 수 있다. 즉, 제1 플래그가 제1값인 경우에 A 후보군이 이용되고, 제2 플래그가 제1값인 경우에 B 후보군이 이용될 수 있다. 그리고 제3 플래그가 제1값인 경우에 C 후보군이 이용되고, 제2값인 경우에 D 후보군이 이용될 수 있다. 본 예는 3개의 후보군 구성의 일부 예시(EE)와 같이 반대되는 구성 또한 가능하다.
또는, 제2 플래그는 제1 플래그가 제1값인 경우에 발생할 수 있고, 제3 플래그는 제1 플래그가 제2값인 경우에 발생할 수 있다. 제2 플래그가 제1값인 경우에 A 후보군이 이용되고, 제2값일 때 B 후보군이 이용될 수 있다. 제3 플래그가 제1값인 경우에 C 후보군이 이용되고, 제2값인 경우에 D 후보군이 이용될 수 있다.
A, B, C, D 후보군은 각각 m, n, p, q개 후보를 가질 수 있으며, m은 1, 2, 3, 4, 5, 6 또는 그 이상의 정수일 수 있다. n은 1, 2, 3, 4, 5, 6 또는 그 이상의 정수일 수 있다. 또는, n은 8 내지 24 사이의 정수일 수 있다. p는 6, 7, 8, 9, 10, 11, 12 등과 같은 정수일 수 있다. 또는, p는 10 내지 32 사이의 정수일 수 있다. q는 (예측 모드 총 개수 - m - n - p)일 수 있다. 여기서, m은 n과 같거나 작을 수 있고, n은 p와 같거나 작을 수 있고, p는 q와 같거나 작을 수 있다.
다음은 복수의 후보군이 지원될 때, 각 후보군을 구성하는 방법에 대해 살펴보기로 한다. 복수의 후보군을 지원하는 이유는 효율적인 인트라 예측 모드 복호화를 위한 목적에 있다. 즉, 현재 블록의 인트라 예측 모드와 동일할 것이라 예상되는 예측 모드를 우선 순위가 높은 후보군으로 구성을 하고, 그렇지 않은 예측 모드는 우선 순위가 낮은 후보군으로 구성을 하는데 그 목적이 있다.
예를 들어, 도 11에서 각각 category 2(a), category 3(b와 c), category 4(d)가 우선 순위가 가장 낮은 후보군일 경우, 앞선 우선 순위의 후보군 어디에도 포함되지 못한 예측 모드로 후보군을 구성될 수 있다. 본 실시예에서 상기 후보군은 앞선 후보군에 포함되지 못한 나머지 예측 모드로 구성되므로, 후술하는 각 후보군을 구성하는 예측 모드 간의 우선 순위에 무관(즉, 우선 순위를 고려하지 않고 앞선 후보군에 포함되지 못한 나머지 모드로만 구성)한 후보군이라 가정한다. 그리고 후보군 간의 우선 순위(중요도)는 도 11과 같이 올림차순 순(category 1 -> category 2 -> category 3 -> category 4)이라고 가정하며, 후술하는 예에서의 우선 순위는 각 후보군을 구성하기 위해 예측 모드의 나열에 사용되는 용어임을 가정한다.
전술한 MPM 후보군과 같이 이웃 블록의 예측 모드, 디폴트 모드, 소정의 방향성 모드 등으로 후보군을 구성할 수 있다. 이 중에서도 가장 발생 가능성이 높은 예측 모드에 적은 비트량을 할당하기 위한 목적으로 후보군 구성을 위한 소정의 우선 순위를 정하여 후보군을 구성할 수 있다.
도 11의 (a)를 참조하면, 제1 후보군(Category 1)을 위한 우선 순위가 지원될 수 있다. 상기 우선 순위에 따라 제1 후보군의 개수에 맞춰 제1 후보군 구성을 완료하면, 나머지 예측 모드(b, j 등)는 제2 후보군(Category 2)으로 구성할 수 있다.
도 11의 (b)를 참조하면, 제1 후보군과 제2 후보군을 위한 공통의 우선 순위가 지원될 수 있다. 상기 우선 순위에 따라 제1 후보군의 개수에 맞춰 제1 후보군 구성을 완료한다. 제1 후보군에 최종으로 포함된 예측 모드(e) 이후의 우선 순위(c 이후)에 따라 제2 후보군의 개수에 맞춰 제2 후보군 구성을 완료한다. 그리고 나머지 예측 모드(b, j 등)는 제3 후보군(Category 3)으로 구성할 수 있다.
도 11의 (c)를 참조하면, 제1 후보군과 제2 후보군을 위한 개별적인 우선 순위(제1 우선 순위, 제2 우선 순위)가 지원될 수 있다. 제1 우선 순위에 따라 제1 후보군의 개수에 맞춰 제1 후보군 구성을 완료한다. 그리고 제2 우선 순위에 따라 제2 후보군의 개수에 맞춰 제2 후보군 구성을 완료한다. 그리고 나머지 예측 모드(b, w, x 등)는 제3 후보군으로 구성할 수 있다.
여기서, 제2 우선 순위는 기존의 우선 순위(제1 우선 순위)와 같이 이웃 블록의 예측 모드<1>, 디폴트 모드<2>, 소정의 방향성 모드<3> 등에 기반하여 설정될 수 있다. 단, 제1 우선 순위와 다른 중요도에 기반하여 우선 순위가 설정(예로, 제1 우선 순위가 1-2-3 순으로 구성했다면, 제2 우선 순위는 3-2-1 순으로 구성 등)될 수도 있다. 또한, 제2 우선 순위는 이전 후보군에 포함된 모드가 무엇인지에 따라 가변적으로 구성될 수 있으며, 현재 블록의 이웃 블록의 모드에도 영향을 받을 수 있다. 제2 우선 순위는 제1 우선 순위와는 달리 구성되는 것이 기본 원칙일 수 있으나, 제1 후보군의 구성에 따라 제2 우선 순위의 구성이 부분적인 영향을 받을 수 있음을 이해할 수 있다. 본 문단에서 제1 우선 순위(이전 순위)과 제1 후보군(이전 후보군), 그리고 제2 우선 순위(현재 순위)와 제2 후보군(현재 후보군)은 숫자와 같이 고정적인 순위에 한하여 설명됨이 아님을 역시 이해하여야 한다.
도 11의 (d)를 참조하면, 제1 후보군과 제2 후보군을 위한 공통의 우선 순위(제1 우선 순위)가 지원되고, 제3 후보군을 위한 개별적인 우선 순위(제2 우선 순위)가 지원될 수 있다. 제1 우선순위에 따라 제1 후보군의 개수에 맞춰 제1 후보군 구성을 완료한다. 제1 후보군에 최종으로 포함된 예측 모드(d) 이후의 우선 순위(e 이후)에 따라 제2 후보군의 개수에 맞춰 제2 후보군 구성을 완료한다. 그리고 제2 우선 순위에 따라 제3 후보군의 개수에 맞춰 제3 후보군 구성을 완료한다. 그리고 나머지 예측 모드(u, f 등)는 제4 후보군으로 구성할 수 있다.
본 발명의 일실시예에 따르면, 현재 블록의 인트라 예측 모드는 예측 모드를 하나 또는 그 이상의 후보군으로 구성할 수 있으며, 이에 기반하여 예측 모드 복호화를 수행할 수 있다. 이때, 후보군 구성을 위해 사용되는 우선 순위가 하나 또는 그 이상 지원될 수 있다. 상기 우선 순위는 하나 또는 그 이상의 후보군 구성 과정에 사용될 수 있다.
상기 예에서는 둘 이상의 우선 순위가 지원될 경우, 앞선 후보군(제1 후보군)에 사용된 우선 순위(제1 우선 순위)와는 별개의 우선 순위(제2 우선 순위)를 다른 후보군(제2 후보군)에 사용하는 경우를 설명하였다. 이는 하나의 후보군 내 모든 후보는 하나의 우선 순위에 따라 구성되는 경우에 해당할 수 있다.
또한, 제1 후보군에 사용된 제1 우선 순위는 제2 후보군의 일부 후보 구성에 사용할 수 있다. 즉, 제2 후보군의 일부 후보(cand_A)는 제1 우선 순위(제 1 후보군에 포함되지 못한 모드부터 시작)에 기반하여 결정되고, 제2 후보군의 일부 후보(또는 나머지 후보. cand_B)는 제2 우선 순위에 기반하여 결정될 수 있다. 이때, cand_A는 0, 1, 2, 3, 4, 5 또는 그 이상의 정수일 수 있다. 즉, 제1 후보군을 구성할 때 미쳐 포함되지 못한 예측 모드는 제2 후보군에 포함시키는 구성일 수 있다.
예를 들어, 3개의 후보군이 지원되고 제1 후보군은 2개의 후보로 구성되며, 제1 우선 순위는 인접한 블록(예로, 좌, 상)의 예측 모드, 소정의 방향성 모드(예로, Ver, Hor 등), 소정의 비방향성 모드(예로, DC, Planar 등)에서 정해질 수 있다(예로, Pmode_L - Pmode_U - DC - Planar - Ver - Hor 등). 제1 우선 순위에 따라 제1 후보군의 개수에 맞춰 후보군 구성을 완료한다(예로, Pmode_L, Pmode_U).
이때, 제2 후보군은 6개의 후보로 구성되며, 제2 우선 순위는 인접한 블록의 예측 모드에 소정의 간격(1, 2, 3, 4 또는 그 이상 정수)을 갖는 방향성 모드, 일정 기울기(dy/dx. 1:1, 1:2, 2:1, 4:1, 1:4 등)의 방향성 모드에서 정해질 수 있다(예로, Diagonal down left - Diagonal down right - Diagonal up right - <Pmode_L + 2>, <Pmode_U + 2> 등).
상기 제2 후보군은 제2 우선 순위에 기반하여 제2 후보군의 개수에 맞춰 후보군을 구성할 수 있다. 또는, 상기 제2 후보군의 2개 후보는 제1 우선 순위에 기반하여 구성(DC, Planar)할 수 있고, 나머지 4개 후보는 제2 우선 순위에 기반하여 구성(DDL, DDR, DUR)할 수 있다.
설명의 편의를 위해 제1 후보군, 제2 후보군, 제1 우선 순위와 같이 이전 설명과 동일한 용어를 사용하지만, 복수의 후보군 중 후보군 간 우선 순위가 1번째와 2번째로 고정된 것이 아님을 유의하여야 한다.
정리하면, 예측 모드 복호화를 위해 복수의 후보군으로 분류되고, 하나 이상의 우선 순위가 지원될 때, 소정의 후보군은 하나 또는 그 이상의 우선 순위에 기반하여 구성될 수 있다.
도 12는 본 발명이 적용되는 일실시예로서, 현재 블록과 그에 인접한 화소를 나타낸 예시도이다.
도 12를 참조하면, 현재 블록에 속한 화소(a ~ p)와 그에 인접한 화소를 나타내고 있다. 상세하게는, 현재 블록에 인접하며 참조 가능한 화소(Ref_T, Ref_L, Ref_TL, Ref_TR, Ref_BL)와 인접하지만 참조 불가능한 화소(B0 ~ B3, R0 ~ R3, BR)을 나타낸다. 이는 일부 부호화 순서, 스캔 순서 등이 고정적인 상황(현재 블록의 좌, 상, 좌상, 우상, 좌하 블록은 참조 가능)임을 가정하여 나타낸 도면이며, 상기 부호화 설정의 변화에 따라 다른 구성으로 변형 가능함을 이해하여야 한다.
도 13은 본 발명이 적용되는 일실시예로서, 인트라 예측을 단계별로 수행하는 방법을 도시한 것이다.
현재 블록은 좌, 우, 상, 하 방향 중에 위치한 화소를 사용하여 인트라 예측을 수행할 수 있다. 이때, 도 12에서 도시한 바와 같이 참조 가능한 화소뿐만 아니라 참조 불가능한 화소가 존재할 수 있다. 참조 가능한 화소뿐만 아니라 참조 불가능한 화소 위치도 화소값을 잘 추정하여 이를 활용함으로써 부호화 효율을 향상시킬 수 있다.
도 13을 참조하면, 임의의 화소값을 획득할 수 있다(SB00).
여기서, 임의의 화소는 현재 블록을 중심으로 참조 불가능한 화소 또는 현재 블록 내부 화소가 그 대상이 될 수 있다. 다음 도면을 통해 임의의 화소 위치에 관하여 설명한다.
도 14는 본 발명이 적용되는 일실시예로서, 인트라 예측을 위한 임의의 화소에 대한 예시도이다.
도 14를 참조하면, 현재 블록의 외부에 위치하며 참조 불가능한 화소(c)뿐만 아니라 현재 블록의 내부에 위치하는 화소(a, b)도 상기 임의의 화소 대상이 될 수 있다. 다음은 현재 블록의 크기가 Width x Height이고 좌상측 좌표가 (0, 0)임을 가정한다.
도 14의 a, b는 (0, 0) ~ (Width - 1, Height - 1)에 위치할 수 있다.
일예로, 현재 블록의 경계 라인(좌, 우, 상, 하)에 위치할 수 있다. 예를 들어, 현재 블록의 우측 열인 (Width - 1, 0) ~ (Width - 1, Height - 1) 또는 현재 블록의 하단 행인 (0, Height - 1) ~ (Width - 1, Height - 1)에 위치할 수 있다.
일예로, 현재 블록의 홀수 또는 짝수의 열과 행에 위치할 수 있다. 예를 들어, 현재 블록의 짝수 행에 위치할 수 있거나 또는 현재 블록의 홀수 열에 위치할 수 있다. 또는, 현재 블록의 짝수 행과 홀수 열에 위치할 수 있거나 또는 현재 블록의 홀수 행과 홀수 열에 위치할 수 있다. 여기서, 상기 홀수나 짝수 외에 k의 배수 또는 지수승(2k)에 해당하는 열 또는 행에 위치할 수도 있으며, k는 1, 2, 3, 4, 5 또는 그 이상의 정수일 수 있다.
도 14의 c는 참조 가능한 화소와 현재 블록을 벗어난 곳에 위치할 수 있다.
일예로, 현재 블록의 경계 라인(본 예에선 우, 하)에 위치할 수 있다. 예를 들어, 현재 블록의 우측 경계인 (Width, 0) ~ (Width, Height) 또는 현재 블록의 하단 경계인 (0, Height) ~ (Width, Height)에 위치할 수 있다.
일예로, 현재 블록의 홀수 또는 짝수의 열과 행에 위치할 수 있다. 예를 들어, 현재 블록의 우측 경계 너머의 짝수 행에 위치할 수 있거나 또는 현재 블록의 하단 경계 너머의 홀수 열에 위치할 수 있다. 여기서, 상기 홀수나 짝수 외에 k의 배수 또는 지수승(2k)에 해당하는 열 또는 행에 위치할 수도 있으며, k는 1, 2, 3, 4, 5 또는 그 이상의 정수일 수 있다.
현재 블록의 인트라 예측을 위해 사용/참조되는 임의의 화소는 m개일 수 있으며, m은 1, 2, 3, 4 또는 그 이상일 수 있다. 또는, 임의의 화소의 개수는 현재 블록의 크기(너비 또는 높이)에 기반하여 설정될 수도 있다. 예를 들어, Width/w_factor개, Height/h_factor개, 또는 (Width*Height)/wh_factor개의 임의의 화소가 인트라 예측을 위해 사용될 수 있다. 여기서, w_factor, h_factor는 각각 블록의 너비와 높이에 기반하여 나눔값으로 사용되는 기-결정된 값일 수 있으며, 1, 2, 4, 8 등의 정수일 수 있다. 여기서, wh_factor는 블록의 크기에 기반하여 나눔값으로 사용되는, 기-결정된 값일 수 있으며, 2, 4, 8, 16 등의 정수일 수 있다.
또한, 임의의 화소의 개수는 영상 타입, 성분 타입, 블록의 속성, 인트라 예측 모드 등의 전체 또는 일부 부호화 요소에 기반하여 정해질 수도 있다.
상기 과정을 통해 획득된 임의의 화소는 해당 화소값을 참조 가능한 영역으로부터 획득할 수 있다. 예를 들어, 임의의 화소를 기준으로 수평 또는 수직 방향에 위치하는 참조 가능한 화소에 기반하여 화소값을 획득할 수 있다.
이때, (<1>수평 방향/<2>수직 방향)에 위치하는 하나 또는 그 이상의 화소(k개. k는 1, 2, 3, 4, 5, 6 등의 정수)에서 복사 또는 가중치 평균 등을 통해 획득된 값으로 임의의 화소의 화소값을 획득할 수 있다. 상기 (<1>수평 방향/<2>수직 방향)은 임의의 화소의 좌표 중 (<1>y 성분/<2>x 성분)이 동일하거나 비슷한 참조 가능한 화소가 화소값 획득에 사용/참조될 수도 있으나, 넓은 의미로 현재 블록의 (<1>좌측 방향/<2>상단 방향)에 위치한 참조 가능한 화소가 임의의 화소의 화소값 획득에 사용될 수 있는 형태로의 확장 또한 가능할 수 있다.
상기 수평 또는 수직 방향 중 하나의 방향에 기반하여 화소값이 획득될 수 있거나 둘다에 기반하여 화소값이 획득될 수 있다. 이때, 다양한 부호화 요소(영상 타입, 블록의 속성 등과 같이 전술한 예에서 설명함)에 기반하여 화소값 획득 설정이 정해질 수 있다.
예를 들어, 현재 블록은 너비가 높이보다 더 큰 직사각 형태일 경우, 수직 방향에 위치하는 참조 가능한 화소에 기반하여 임의의 화소의 화소값을 획득할 수 있다. 또는, 수직 방향과 수평 방향에 위치하는 참조 가능한 화소에 기반하여 각각의 1차 화소값을 획득한 경우, 수평 방향에서 획득된 1차 화소값보다 수직 방향에서 획득된 1차 화소값에 가중치를 더 적용하여 2차 화소값(즉, 임의의 화소의 화소값)을 획득할 수 있다.
또는, 현재 블록은 높이가 너비보다 더 큰 직사각 형태일 경우, 수평 방향에 위치하는 참조 가능한 화소에 기반하여 임의의 화소의 화소값을 획득할 수 있다. 또는, 수직 방향과 수평 방향에 위치하는 참조 가능한 화소에 기반하여 각각의 1차 화소값을 획득한 경우, 수직 방향에서 획득된 1차 화소값보다 수평 방향에서 획득된 1차 화소값에 가중치를 더 적용하여 2차 화소값(즉, 임의의 화소의 화소값)을 획득할 수 있다. 물론, 상기 예에 한정되지 않고 반대되는 구성 또한 가능할 수 있다.
또한, 소정의 후보 리스트를 구성하여 그 중에 최소 하나를 선택하여 임의의 화소의 화소값을 획득할 수 있으며, CTU, 부호화 블록, 예측 블록, 변환 블록 등의 단위 중 하나에서 시그날링될 수 있다. 이때, 상기 후보 리스트는 기-결정된 값으로 구성될 수 있거나 또는 전술한 현재 블록에 인접한 참조 가능한 화소에 기반하여 구성될 수도 있다. 이때, 후보 리스트의 개수는 2, 3, 4, 5 또는 그 이상의 정수일 수 있다. 또는, 10 내지 20 사이의 정수 또는 20 내지 40 사이의 정수 또는 10 내지 40 사이의 정수일 수 있다.
여기서, 상기 후보 리스트는 화소값이 후보가 구성될 수 있거나 또는 화소값을 유도하는 수식, 특징값 등이 후보로 구성될 수 있다. 후자의 경우 임의의 화소의 위치(x 또는 y 좌표)와 화소값을 구하는 수식 또는 특징값에 기반하여 다양한 화소값이 임의의 화소 단위로 유도될 수도 있다.
상기 설명과 같이 하나 이상의 임의의 화소가 획득되고, 그에 기반하여 인트라 예측이 수행될 수 있다. 다음은 설명의 편의를 위해 임의의 화소가 1개인 경우를 가정한다. 그러나 후술하는 예가 임의의 화소가 2개 이상 획득되는 경우에도 동일하거나 비슷한 경우로 확장 적용될 수 있는 것은 분명하다.
도 13을 참조하면, 임의의 화소에 기반하여 복수의 서브 영역으로 구획할 수 있다(SB10).
여기서, 서브 영역은 임의의 화소를 기준으로 수평 또는 수직 라인에 기반하여 구획될 수 있으며, 서브 영역의 개수는 2, 3, 4 또는 그 이상의 정수일 수 있다. 다음 도면을 통해 서브 영역의 구성에 관하여 설명한다.
도 15는 본 발명이 적용되는 일실시예로서, 임의의 화소에 기반하여 복수의 서브 영역으로 구획되는 예시도이다.
도 15를 참조하면, 임의의 화소(d)의 수직 또는 수평 라인인 소정의 서브 영역(b, c)가 획득될 수 있고, 수직과 수평 라인에 기반하여 소정의 서브 영역(a)가 획득될 수 있다.
이때, 임의의 화소와 수직 방향으로 참조 가능한 화소 T 사이로 서브 영역(b)이 획득될 수 있고, 임의의 화소와 수평 방향으로 참조 가능한 화소 L 사이로 서브 영역(c)가 획득될 수 있다. 이때, 서브 영역 b와 c는 항상 고정적으로 생기는 영역은 아닐 수 있으며, 현재 블록의 임의의 화소 관련 설정(예로, b 또는 c도 임의의 화소인 경우 등)에 따라 둘 중에 하나만 발생하는 경우 또한 가능할 수 있다. 만약 서브 영역 b와 c 중에 하나만 발생하는 경우라면 서브 영역 a는 발생되지 않는 구성일 수도 있다.
도 15와 같이 T 또는 L은 현재 블록의 인접한 참조 가능한 화소를 의미할 수 있다. 또는, T 또는 L은 임의의 화소(d)의 수직 또는 수평 방향에 위치한 d와는 다른 임의의 화소(e, f)를 의미할 수도 있다. 이는 임의의 화소(d) 또한 다른 임의의 화소의 T 또는 L일 수도 있다는 의미이다.
상기 예와 같이 현재 블록 내 임의의 화소의 개수, 배치 등에 기반하여 서브 영역의 크기가 정해질 수 있다.
예를 들어, 임의의 화소가 2개 이상 존재하며 1칸 간격으로 위치할 경우, 서브 영역 a, b, c는 각각 1 x 1 크기를 가질 수 있다. 또는, 임의의 화소가 1개 존재하며 도 14의 c에 위치할 경우, 서브 영역 a, b, c는 각각 (Width x Height), (1 x Height), (Width x 1)의 크기를 가질 수 있다.
도 13을 참조하면, 소정의 순서에 따라 화면내 예측(인트라 예측)을 수행할 수 있다(SB20).
여기서, 임의의 화소의 위치에 따라 일부 서브 영역은 인트라 예측을 위한 예측값으로 사용될 수 있거나 또는 인트라 예측을 위한 임시 참조값으로 사용될 수도 있다.
예를 들어, 임의의 화소(또는 서브 영역 d)가 도 14의 c에 위치할 경우, 서브 영역 b와 c는 현재 블록의 외부에 위치하며, 서브 영역 a만이 인트라 예측 대상이 될 수 있다. 또는, 임의의 화소가 도 14의 c의 위쪽에 위치할 경우, 서브 영역 b는 현재 블록의 외부에 위치하며, 서브 영역 a와 c는 인트라 예측 대상이 될 수 있다. 또는, 임의의 화소가 도 14의 c의 왼쪽에 위치할 경우, 서브 영역 c는 현재 블록의 외부에 위치하며, 서브 영역 a와 b는 인트라 예측 대상이 될 수 있다. 또는, 임의의 화소가 현재 블록의 내부에 위치할 경우, 서브 영역 a, b, c는 인트라 예측 대상이 될 수 있다.
상기 예와 같이 임의의 화소의 위치에 따라 인트라 예측 대상이 되거나 또는 임시 참조값으로 사용될 수 있다.
다음은 임의의 화소가 현재 블록 내부에 위치하는 경우를 가정하여 설명하나, 상기 위치로의 변경이 일어나더라도 후술하는 예가 동일하거나 비슷하게 적용되어 이해될 수 있다.
임의의 화소 위치 및 화소값은 전 단계를 통해 획득하였으므로, 서브 영역 a, b, c 중에서 소정의 우선 순위에 따라 각 서브 영역 획득 과정을 거칠 수 있다. 예를 들어, b -> c 또는 c -> b 순서로 각 서브 영역의 화소값을 획득하고, 서브 영역 a의 화소값을 획득할 수 있다.
서브 영역 b의 경우 임의의 화소 d 또는 T에 기반하여 화소값을 획득할 수 있다. 서브 영역 c의 경우 임의의 화소 d 또는 L에 기반하여 화소값을 획득할 수 있다.
도면에 도시되지 않았지만, 좌상측의 화소를 TL(즉, T의 수평 라인과 L의 수직 라인의 교차점)이라 가정하자. TL과 T가 현재 블록의 상단에 위치할 경우 TL과 T 사이의 화소는 참조 가능할 수 있다. 또한, TL과 L이 현재 블록의 좌측에 위치할 경우 TL과 L 사이의 화소는 참조 가능할 수 있다. 상기 참조 가능한 화소는 현재 블록의 인접한 블록에 속하기 때문이다.
반면, TL 또는 T 중에 하나라도 현재 블록의 내부에 위치할 경우, TL과 T 사이의 화소는 참조 가능할 수 있다. 또한, TL 또는 L 중 하나라도 현재 블록의 내부에 위치할 경우, TL과 L 사이의 화소는 참조 가능할 수 있다. 상기 참조 가능한 화소는 다른 임의의 화소에 기반하여 획득된 서브 영역일 수 있기 때문이다.
그렇기 때문에 서브 영역 a의 경우 서브 영역 b, c, 그리고 TL과 T 사이의 참조 가능한 영역과 TL과 L 사이의 참조 가능한 영역에 기반하여 화소값을 획득할 수 있다. 물론, TL, T, L, d가 상기 서브 영역 a의 화소값 획득에 사용될 수도 있다. 여기서, 임의의 화소도 참조 가능함을 의미한다.
상기 과정을 통해 임의의 화소에 기반하여 현재 블록의 인트라 예측을 수행할 수 있다.
임의의 화소에 기반하여 인트라 예측을 수행하는 것은 인트라 예측 모드 중에 하나의 모드로 구성될 수 있거나 또는 기존의 모드를 대체하는 구성으로 포함될 수 있다.
또는, 예측 방법 중 하나의 후보로 구분하고 이를 위한 선택 정보가 발생할 수도 있다. 예를 들어, 방향성 모드 또는 비방향성 모드에 기반하여 인트라 예측을 수행하는 방법에 추가적인 예측 방법으로 고려될 수 있다. 상기 선택 정보는 CTU, 부호화 블록, 예측 블록, 변환 블록 등에서 시그날링될 수 있다.
다음은 상기 임의의 화소 위치가 도 14의 c인 경우를 가정하여 설명한다. 단, 이에 한정되지 않고, 다른 위치로 배치되는 경우에도 후술하는 내용이 동일하거나 비슷하게 적용될 수 있다. 다음은 도 12를 참조하여 설명한다.
현재 블록과 현재 블록의 우, 하 블록은 부호화가 되지 않았지만, 참조 가능한 영역의 데이터에 기반하여 추정할 수 있다.
예를 들어, 현재 블록의 오른쪽과 아래쪽 경계에 인접한 영역인 Ref_TR, Ref_BL 등에서 데이터를 그대로 복사하거나 또는 유도하고, 이를 현재 블록의 오른쪽 또는 아래쪽 경계에 채워넣을 수 있다. 일예로, 오른쪽 경계는 T3, TR0, TR1 등의 화소 중 하나를 그대로 복사하여 채우거나 또는 T3, TRO, TR1 등에 필터링을 적용하여 획득된 값을 채울 수 있다.
또는, 현재 블록의 인접한 영역인 Ref_TL, Ref_T, Ref_L, Ref_TR, Ref_BL 등에서 데이터를 그대로 복사하거나 또는 유도하고, 이를 현재 블록의 오른쪽 아래 경계에 채워넣을 수 있다. 일예로, 상기 인접한 영역에서 하나 또는 그 이상의 화소에 기반하여 획득된 값을 현재 블록의 오른쪽 아래 경계에 채울 수 있다.
여기서, 현재 블록의 오른쪽 경계는 (d ~ p) 또는 (R0 ~ R3)일 수 있다. 현재 블록의 아래쪽 경계는 (m ~ p) 또는 (B0 ~ B3)일 수 있다. 현재 블록의 오른쪽 아래 경계는 p, BR, R3, B3 중에 하나일 수 있다.
다음 예에서는 오른쪽 경계는 R0 ~ R3를, 아래쪽 경계는 B0 ~ B3를, 오른쪽 아래 경계를 BR이라 가정한다.
(오른쪽 경계와 아래쪽 경계 처리)
예를 들어, 오른쪽 경계는 수직 방향으로 인접한 T3, TR0, TR1 중 하나를 복사하여 채우고, 아래쪽 경계는 수평 방향으로 인접한 L3, BL0, BL1 중 하나를 복사하여 채울 수 있다.
또는, 오른쪽 경계는 수직 방향으로 인접한 T3, TR0, TR1에 가중치 평균한 값으로 채우고, 아래쪽 경계는 수평 방향으로 인접한 L3, BL0, BL1에 가중치 평균한 값으로 채울 수 있다.
상기 오른쪽 경계와 아래쪽 경계의 값을 획득한 후에 이에 기반하여 현재 블록의 인트라 예측을 수행할 수 있다.
(오른쪽 아래 경계 처리)
예를 들어, 오른쪽 아래 경계는 T3, TR0, TR1, L3, BL0, BL1 중에 하나를 복사하여 채울 수 있다. 또는, T3, TR0, TR1 중 하나와 L3, BL0, BL1 중 하나를 가중치 평균한 값으로 채울 수 있다. 또는, T3, TR0, TR1에 가중치 평균한 값과 L3, BL0, BL1에 가중치 평균한 값 중에 하나를 채울 수 있다. 또는, T3, TR0, TR1에 1차 가중치 평균한 값과 L3, BL0, BL1에 1차 가중치 평균한 값을 2차 가중치 평균한 값으로 채울 수 있다.
상기 오른쪽 아래 경계의 값을 획득한 후에 이에 기반하여 오른쪽 경계 또는 아래쪽 경계의 값을 획득할 수 있고, 오른쪽 경계 또는 아래쪽 경계에 기반하여 현재 블록의 인트라 예측을 수행할 수 있다.
다음은 오른쪽 아래 경계 처리에 관한 설명을 이어간다.
TL, TR0, BL0, BR 위치를 고려하는 구성을 가정한다. 여기서, BR은 오른쪽 아래 경계의 화소를 의미하고, TR0는 BR의 수직 방향에 위치하는 참조 가능한 화소, BL0는 BR의 수평 방향에 위치하는 참조 가능한 화소, TL은 현재 블록의 왼쪽 위 경계 또는 TR0의 수평 방향과 BL0의 수직 방향에 교차점에 위치하는 참조 가능한 화소일 수 있다.
상기 화소 위치에 기반하여 현재 블록의 방향성, 특징 정보(예를 들어, 에지 등)을 추정할 수 있다.
일예<1>로, TL에서 BR로 대각선 방향 이동할 때 화소값이 서서히 증가하거나 감소할 수 있다. 이때, TL은 TR0과 BL0보다 크거나 같다면, BR은 TR0과 BL0보다 작거나 같을 수 있다. 또는, 반대되는 구성일 수 있다.
일예<2>로, BL0에서 TR0로 대각선 방향 이동할 때 화소값이 서서히 증가하거나 감소할 수 있다. 이때, BL0는 TL과 BR보다 크거나 같다면, TR0는 TL과 BR보다 작거나 같을 수 있다. 또는, 반대되는 구성일 수 있다.
일예<3>로, 좌측(TL, BL0)에서 우측(TR0, BR)으로 수평 방향 이동할 때 화소값이 서서히 증가하거나 감소할 수 있다. 이때, TL은 TR0보다 크거나 같다면, BL0은 BR보다 크거나 같을 수 있다. 또는, 반대되는 구성일 수 있다.
일예<4>로, 상단(TL, TR0)에서 하단(BL0, BR)으로 수직 방향 이동할 때 화소값이 서서히 증거하거나 감소할 수 있다. 이때, TL은 BL0보다 크거나 같다면, TR0는 BR보다 크거나 같을 수 있다. 또는, 반대되는 구성일 수 있다.
상기 예와 같은 영상 특징이 현재 블록에 존재한다면, 이를 이용하여 오른쪽 아래 경계를 예상할 수 있다. 이때, 추정 대상 화소의 수직 또는 수평 방향에 위치하는 화소와 각 화소의 수직 또는 수평 방향의 교차점인 화소 등이 요구될 수 있으며, 이들의 화소값 비교 등에 기반하여 추정 대상 화소를 예측할 수 있다.
<1> 예시: TL <= TR0, TL <= BL0인 조건일 때는, TL에서 BR쪽으로 증가하는 경향임을 추정하여 화소 간의 차분치에 기반하여 BR 값을 유도(예측)할 수 있다.
예를 들어, TR0에다가 (BL0 - TL)값을 더해서 BR 화소값을 유도하던지 또는 BL0에다가 (TR0 - TL)값을 더해서 BR 화소값을 유도하던지 또는 앞의 두 개를 평균하거나 가중치 평균하거나 해서 BR 화소값을 유도할 수 있다.
<2> 예시: TL >= BL0, TL <= TR0인 조건일 때는, BL0에서 TR0쪽으로 증가하는 경향임을 추정하여 화소 간의 차분치에 기반하여 BR값을 유도할 수 있다.
예를 들어, TR0에다가 (TL - BL0)값을 빼서 BR 화소값을 유도하던지 또는 BL0에다가 (TR0 - TL)값을 더해서 BR 화소값을 유도하던지 또는 앞의 두 개를 평균하거나 가중치 평균하여 해서 BR 화소값을 유도한다.
상기 예는 현재 블록을 중심으로 인접한 소정의 화소에 기반하여 블록의 특성을 추정하여 임의의 화소(BR)을 예측하는 경우를 설명하였다. 한편, 제한적인 화소로 인하여 블록의 특징을 정확하게 파악하기가 어려울 수 있다. 일예로, 상기 BR을 유도하기 위해 참조되는 화소 중의 일부에 임펄스 성분이 존재할 경우, 정확한 특징 파악이 어려울 수 있다.
이를 위해 현재 블록의 상단 영역과 좌측 영역의 특성 정보(예로, 분산, 표준 편차 등)를 산출할 수 있다. 일예로, TL과 TR0 사이의 화소들의 특성 정보 또는 TL과 BL0 사이의 화소들의 특성 정보가 블록의 증가 또는 감소 등을 잘 반영하는 것으로 판단되면, 상기 TL, TR0, BL0 와 같은 현재 블록의 소정의 화소에 기반하여 BR과 같은 임의의 화소의 값을 유도하는 방법을 사용할 수 있다.
본 개시의 다양한 실시예는 모든 가능한 조합을 나열한 것이 아니고 본 개시의 대표적인 양상을 설명하기 위한 것이며, 다양한 실시예에서 설명하는 사항들은 독립적으로 적용되거나 또는 둘 이상의 조합으로 적용될 수도 있다.
또한, 본 개시의 다양한 실시예는 하드웨어, 펌웨어(firmware), 소프트웨어, 또는 그들의 결합 등에 의해 구현될 수 있다. 하드웨어에 의한 구현의 경우, 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 범용 프로세서(general processor), 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
본 개시의 범위는 다양한 실시예의 방법에 따른 동작이 장치 또는 컴퓨터 상에서 실행되도록 하는 소프트웨어 또는 머신-실행가능한 명령들(예를 들어, 운영체제, 애플리케이션, 펌웨어(firmware), 프로그램 등), 및 이러한 소프트웨어 또는 명령 등이 저장되어 장치 또는 컴퓨터 상에서 실행 가능한 비-일시적 컴퓨터-판독가능 매체(non-transitory computer-readable medium)를 포함한다.