이 개시는 디블록 필터링하기 위한 바운더리 경계 값 결정을 위한 예시적인 기법들을 설명한다. 예를 들어, 본 개시는 이를 테면, 스크린 컨텐츠 코딩을 위하여 인트라 블록 카피 (intra block copy; IBC) 모드가 인에이블될 때 디블록 필터링의 개선된 효과를 가능하게 하는 방법들을 설명한다. 예시적인 기술들은 스크린 컨텐츠 코딩에 관하여 설명되어 있지만, 스크린 컨텐츠 코딩으로 제한되는 것으로 고려되지 않는다.
블록이 재구성된 후, 디블록 필터링 프로세스는 블록 바운더리들에서의 아티팩트들을 검출하고, 선택된 필터를 적용하는 것에 의해 블록 아티팩트들을 감쇠시키는데 이용될 수도 있다. 예를 들어, 블록은 4 개의 블록 바운더리들 (예를 들어, 에지들): 상부 에지, 하부 에지, 좌측 에지 및 우측 에지를 포함한다. 따라서, 블록은 최대 4 개의 이웃하는 블록들: 상부 이웃 블록, 하부 이웃 블록, 좌측, 이웃 블록, 및 우측 이웃 블록을 포함할 수도 있다. 디블록 필터링 프로세스는 개별적인 이웃 블록과의 에지를 따라 블록 아티팩트들을 감쇠시킬 수도 있으며, 필터링 결정은 각각의 바운더리에 대하여 선택적으로 행해진다.
이해를 쉽게 하기 위하여, 이 개시는 이웃 블록과의 에지를 형성하는 현재 블록에 적용되고 있는 기법들을 설명한다. 비디오 코더 (예를 들어, 비디오 인코더 또는 비디오 디코더) 는 현재 블록을 재구성하고, 이웃 블록의 샘플 또는 픽셀 값들을 취출하고, 그리고 현재 블록과 이웃 블록에 의해 형성된 에지를 따라 디블록 필터링할 수도 있다. 비디오 코더는 에지에 근접한 현재 블록에서의 픽셀 값들의 디블록 필터링을 수행하고, 디코딩된 픽처 버퍼 (decoded picture buffer; DPB) 에서의 결과적인 디블록 필터링된 블록을 저장할 수도 있다.
예를 들어, 비디오 인코더는 디블록 필터링된 블록이 후속하는 블록에 대한 참조 블록으로서 이용될 수 있도록 재구성의 부분으로서 디블록 필터링을 수행할 수도 있다. 비디오 디코더는 현재 블록을 포함하는 픽처가 디스플레이될 때 비쥬얼 아티팩트들이 제거되도록 디블록 필터링을 재구성의 부분으로서 수행할 수도 있다. 비디오 디코더는 또한, 현재 블록이 후속하는 블록에 대한 참조 블록으로서 이용되면, 비디오 디코더가 동일한 샘플 또는 픽셀 값들을 이용하여 비디오 인코더가 후속하는 블록을 인코딩하는데 이용하였던 후속하는 블록을 재구성하게 하도록 디블록 필터링을 수행할 수도 있다.
본 개시는 비디오 인코더 및 비디오 디코더 양쪽이 디블록 필터링에 대해 실질적으로 유사한 기능들을 수행하기 때문에 비디오 코더로 구현되는 기법들을 설명한다. 비디오 코더는 일반적으로 비디오 인코더 및 비디오 디코더를 지칭하는데 이용되고, 디블록 필터링에 관련된 기법들은 비디오 데이터를 프로세싱하기 위한 기법들의 부분일 수도 있다. 예를 들어, 비디오 데이터를 프로세싱하는 디바이스는 본 개시에서 설명된 예의 기법들을 수행하도록 구성되는 비디오 코더를 포함한다.
디블록 필터링은 모든 사례에 적용되는 것은 아닐 수도 있다. 다만, 비디오 코더는 디블록 필터링이 현재 블록과 이웃 블록 사이의 에지를 따라 적용되는 것인지의 여부를 결정할 수도 있다. 예를 들어, 비디오 코더는 바운더리 강도 값을 결정하고, 결정된 바운더리 강도 값에 기초하여 에지를 따라 디블록 필터링할 수도 있다.
본 개시는 IBC (intra-block copy) 모드가 에지를 형성하는 블록들 중 적어도 하나에 대하여 이용될 때의 예시적인 기법들을 설명한다. IBC 모드에서, 블록은 예측되고 있는 블록과 동일한 픽처에서의 참조 블록을 이용하여 예측된다. 이 참조 블록은 그 픽처에서 코딩되고 있는 현재 블록에 대하여 픽처 내의 예측기 블록의 변위를 정의하는 블록 벡터에 의해 식별된다.
본 개시에서, 비디오 코더는 에지를 형성하는 적어도 하나의 블록이 IBC 모드를 이용하여 코딩되는지의 여부에 기초하여 비디오 데이터의 픽처에서의 에지를 디블록 필터링하기 위하여 바운더리 강도 값을 결정한다. 그 후, 비디오 코더는 결정된 바운더리 강도 값에 기초하여 에지를 디블록 필터링하는 방식을 결정할 수도 있다. 본 개시의 필터링 기법들은, 주어진 비디오 블록의 일부 또는 모든 에지들, 예를 들어, 상부 에지, 우측 에지, 좌측 에지 또는 하부 에지에 이용될 수도 있다.
일 예로서, 에지를 형성하는 현재 블록 또는 이웃 블록이 IBC 모드에서 코딩되면, 비디오 코더는 특정 값 (예를 들어, 1) 과 동일하게 바운더리 강도 값을 설정할 수도 있다. 다른 예로서, 에지를 형성하는 현재 블록 또는 이웃 블록이 IBC 모드에서 코딩되면, 비디오 코더는 IBC 모드에서 코딩되는 이 블록에 대한 인트라-블록 카피 참조 블록 (IBC 참조 블록) 을 결정할 수도 있다. 그 후, 비디오 코더는 IBC 참조 블록에서의 임의의 픽셀이 인트라-예측 모드에서 코딩되는지의 여부를 결정할 수도 있다. IBC 참조 블록에서의 임의의 픽셀이 인트라-예측 모드에서 코딩되면, 비디오 코더는 제 1 값 (예를 들어, 2) 과 동일하도록 바운더리 강도 값을 결정할 수도 있고, 그렇지 않으면, 비디오 코더는 제 1 값과 상이한 제 2 값 (예를 들어, 1) 과 동일하도록 바운더리 강도 값을 결정할 수도 있다.
다른 예로서, 에지를 형성하는 현재 블록 또는 이웃 블록이 IBC 모드에서 코딩되면, 비디오 코더는 IBC 모드에서 코딩되는 이 블록에 대한 인트라-블록 카피 참조 블록 (IBC 참조 블록) 을 결정할 수도 있다. 그 후, 비디오 코더는 IBC 참조 블록에서의 임의의 픽셀이 인트라-예측 모드에서 코딩되는지 또는 IBC 모드에서 코딩되는지의 여부를 결정할 수도 있다. IBC 참조 블록에서의 임의의 픽셀이 인트라-예측 모드 또는 IBC 모드에서 코딩되면, 비디오 코더는 제 1 값 (예를 들어, 2) 과 동일하도록 바운더리 강도 값을 결정할 수도 있고, 그렇지 않으면, 비디오 코더는 제 1 값과 상이한 제 2 값 (예를 들어, 1) 과 동일하도록 바운더리 강도 값을 결정할 수도 있다.
일부 예들에서, 디블록 필터링 프로세스에 대한 제약들이 놓일 수도 있다. 예를 들어, 현재 블록 또는 이웃 블록이 인트라-예측 모드에서 코딩되면, 현재 블록 또는 이웃 블록이 IBC 모드에서 코딩되는지의 여부와 무관하게, 비디오 코더는 특정 값 (예를 들어, 2) 과 동일하게 바운더리 강도 값을 설정할 수도 있다. 현재 블록도 이웃 블록도 인트라-예측 모드에서 코딩되지 않고, 현재 블록 또는 이웃 블록 중 한 블록이 IBC 모드에서 코딩되며, 다른 블록이 인터-예측 모드에서 코딩되면, 비디오 코더는 현재 블록 또는 이웃 블록 중 한 블록이 IBC 모드에서 코딩될 때에 대한 위의 예시적인 기법들에 기초하여 바운더리 강도 값을 설정할 수도 있다.
인트라-예측 블록들의 특징들은 이들이 더 강한 디블록 필터링을 요구하도록 할 수도 있다. 따라서, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-예측되면, 비디오 코더는, 블록들 중 다른 블록이 IBC 모드에서 코딩되거나 또는 인터-예측 모드에서 코딩되는 경우에도 블록들 중 한 블록이 인트라-예측 모드에서 코딩되는 것에 기초하여 바운더리 값을 단독으로 결정할 수도 있다. 인터-예측 블록들에 기초한 바운더리 강도 결정은 복잡하게 될 수도 있고, 인터-예측 블록에 대한 모션 벡터를 식별하는 것을 포함한다. 따라서, 현재 블록 또는 이웃 블록 중 한 블록이 IBC 모드에서 코딩되면, 비디오 코더는, 다른 블록이 인터-예측 모드에서 코딩되는 경우에도 블록 중 한 블록이 IBC 모드에서 코딩되는 것에 기초하여 바운더리 강도 값을 단독으로 결정할 수도 있다.
이러한 식으로, 본 개시에 설명된 기법들은 인트라-예측 블록들에 적용된 바운더리 강도 값 결정들과 IBC-예측 블록들에 대한 바운더리 강도 값 결정들에 대한 인터-예측 블록들 사이에 중간 프로세스를 제공한다. 예를 들어, IBC-코딩된 블록들 (즉, IBC 모드에서 코딩된 블록들) 은 인트라-코딩된 블록들 (즉, 인트라-예측 모드에서 코딩된 블록들) 과 유사한 특징들을 갖지 않을 수도 있다. 따라서, 이웃 블록들 중 어느 것도 인트라 코딩되지 않으면, 블록들 중 한 블록이 IBC-코딩된 경우의 바운더리 강도 값이, 블록들 중 한 블록이 인트라-코딩된 경우보다 더 작아야 한다. 그러나, 인터-코딩된 블록들 (예를 들어, 인터-예측 모드에서 코딩된 블록들) 에 이용된 기법들에 기초한 바운더리 강도 값 결정들에 의존하는 것은 너무 복잡하게 될 수도 있다. 본 개시에 설명된 기법들에서, IBC-코딩된 블록들이 인터-코딩된 블록들에 대한 것만큼 복잡하게 되는 바운더리 강도 결정을 반드시 필요로 하는 것 없이, 블록들 중 한 블록이 인트라-코딩되는 경우의 바운더리 강도 값의 결정이 보전된다.
예를 들어, 비디오 코더는 비디오 데이터의 픽처에서의 현재 블록의 코딩 모드와 비디오 데이터의 픽처에서의 이웃 블록의 코딩 모드를 결정할 수도 있다. 비디오 코더는 다음의 기법들 중 하나를 수행하는 것에 기초하여 바운더리 강도 값을 결정할 수도 있다. 비디오 코더는 현재 블록 또는 이웃 블록 중 적어도 하나가 인트라-예측 모드에서 코딩되고 그리고 다른 블록이 인트라-블록 카피 (intra-block copy; IBC) 모드에서 코딩되는 것에 기초하여 제 1 바운더리 강도 값 결정을 수행할 수도 있거나, 또는 현재 블록 또는 이웃 블록 중 적어도 하나가 IBC 모드에서 코딩되고 어느것도 인트라-예측 모드에서 코딩되지 않는 것에 기초하여 제 2 의 상이한 바운더리 강도 값 결정을 수행할 수도 있다. 제 2 바운더리 강도 값 결정 프로세스는 비-IBC 코딩된 블록 (예를 들어, 인터-예측 블록) 에 대한 모션 벡터를 식별하는 것을 포함하지 않을 수도 있다. 비디오 코더는 결정된 바운더리 강도 값에 기초하여 현재 블록과 이웃 블록 사이의 에지를 따라 디블록 필터링할 수도 있다.
바운더리 강도 값을 결정하기 위한 위의 예시의 기법들에 더하여, 본 개시는 데이터 저장을 위한 기법들을 IBC 모드의 부분으로서 또한 설명한다. 예를 들어, 블록이 IBC 모드에서 코딩될 때, 블록에 대한 블록 벡터는 위에 설명된 바와 같이, 참조 블록을 식별한다. 그러나, 참조 블록의 필터링된 (예를 들어, 디블록 필터링 프로세스 또는 일부 다른 필터링을 통하여 필터링되는) 픽셀 값들을 이용하기 보다는, 비디오 코더는 참조 블록의 필터링되지 않는 픽셀 값들에 기초하여 블록을 IBC 예측 (예를 들어, IBC 코딩) 한다.
따라서, IBC 를 구현하기 위하여, 비디오 코더는 픽처의 이전에 디코딩된 영역들의 필터링되지 않는 픽셀 값들을 메모리에 저장하는 것을 필요로 할 수도 있고, 인터-예측을 구현하기 위하여, 비디오 코더는 픽처의 이전에 디코딩된 영역들의 필터링된 픽셀 값들을 메모리에 저장하는 것을 필요로 할 수도 있다. 추가적인 저장부 및 메모리 액세스는 비디오 코딩 프로세스에서 병목현상을 생성할 수도 있다.
그러나, 픽처의 모든 영역들이 IBC 코딩 (예를 들어, IBC 예측) 에 이용될 수도 있는 것은 아니다. 따라서, 픽처의 모든 영역들에 대해 필터링되지 않는 픽셀 값들을 반드시 저장하는 것은 필요하지 않을 수도 있다. 메모리에 저장될 필요가 있는 데이터의 양을 제한하는 것에 의해, 기법들은 비디오 프로세싱 효율들을 촉진할 수도 있다.
일부 예들에서, 비디오 인코더는 픽처에서의 영역이 IBC 코딩에 이용되지 않는다고 결정할 수도 있고, 픽처에서의 영역이 IBC 코딩에 이용되지 않음을 나타내는 정보를 비트스트림으로 시그널링할 수도 있다. 비디오 디코더는 비트스트림으로부터 정보를 수신할 수도 있고, 픽처에서의 영역이 IBC 에 이용되지 않는다고 결정할 수도 있다. IBC 코딩에 이용되지 않는다고 결정되는 영역에 대해, 비디오 인코더 및 비디오 디코더는 각각, 메모리에 필터링되지 않는 픽셀 값들을 저장하지 않을 수도 있고, 이에 의해, 메모리가 액세스될 횟수들 및 메모리에 저장되는 데이터의 양을 감소시킨다. 이러한 감소는 메모리 대역폭 사용률을 촉진한다.
도 1 은 비디오 데이터를 필터링하기 위한 기법들을 이용할 수도 있는 예의 비디오 인코딩 및 디코딩 시스템 (10) 을 예시하는 블록도이다. 도 1 에 도시된 바와 같이, 시스템 (10) 은 나중의 시점에서 디코딩될 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에 제공하는 소스 디바이스 (12) 를 포함한다. 구체적으로, 소스 디바이스 (12) 는 컴퓨터 판독가능 매체 (16) 를 통하여 목적지 디바이스 (14) 에 비디오 데이터를 제공할 수 있다. 소스 디바이스 (12) 및 목적지 디바이스 (14) 는, 데스크탑 컴퓨터들, 노트북(즉, 랩탑) 컴퓨터들, 태블릿 컴퓨터들, 셋탑박스들, 소위 "스마트" 폰들과 같은 전화 핸드셋들, 소위 "스마트" 패드들, 텔레비젼들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게임용 콘솔들, 비디오 스트리밍 디바이스 등을 포함하는 다양한 범위의 디바이스들 중 임의의 것을 포함할 수도 있다. 일부 경우들에서, 소스 디바이스 (12) 및 목적지 디바이스 (14) 는 무선 통신용으로 탑재될 수도 있다.
목적지 디바이스 (14) 는 디코딩될 인코딩된 비디오 데이터를 컴퓨터 판독가능 매체 (16) 를 통하여 수신할 수도 있다. 컴퓨터 판독가능 매체 (16) 는 인코딩된 비디오 데이터를 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로 이동시킬 수 있는 임의의 유형의 매체 또는 디바이스를 포함할 수도 있다. 일 예에서, 컴퓨터 판독가능 매체 (16) 는 소스 디바이스 (12) 로 하여금 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 실시간으로 직접적으로 송신하게 하는 통신 매체를 포함할 수도 있다. 인코딩된 비디오 데이터는 무선 통신 프로토콜과 같은 통신 표준에 따라 변조되고, 목적지 디바이스 (14) 로 송신될 수도 있다. 통신 매체는 임의의 무선 또는 유선 통신 매체, 예컨대 무선 주파수 (RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 통신 매체는 패킷 기반의 네트워크, 예컨대 근거리 통신망 (local area network), 광역 통신망(wide-area network), 또는 인터넷과 같은 글로벌 네트워크의 일부를 형성할 수도 있다. 통신 매체는 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 에서 목적지 디바이스 (14) 로의 통신을 용이하게 하는데 유용할 수도 있는 임의의 다른 장비를 포함할 수도 있다.
일부 예들에서, 인코딩된 데이터는 출력 인터페이스 (22) 로부터 저장 디바이스로 출력될 수도 있다. 이와 유사하게, 인코딩된 데이터는 입력 인터페이스에 의해 저장 디바이스로부터 액세스될 수도 있다. 저장 디바이스는 하드 드라이브, 블루레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 휘발성 또는 비휘발성 메모리와 같은 임의의 다양한 분산된 또는 로컬하게 액세스된 데이터 저장 매체, 또는 인코딩된 비디오 데이터를 저장하기 위한 임의의 다른 적절한 디지털 저장 매체를 포함할 수도 있다. 추가 예에서, 저장 디바이스는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오를 저장할 수도 있는 파일 서버 또는 또 다른 중간 저장 디바이스에 대응할 수도 있다.
목적지 디바이스 (14) 는 스트리밍 또는 다운로드를 통해 저장 디바이스로부터의 저장된 비디오 데이터에 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장할 수 있고 그 인코딩된 비디오 데이터를 목적지 디바이스(14)로 송신할 수 있는 임의의 타입의 서버일 수도 있다. 예시적인 파일 서버들은 (예를 들면 웹사이트 용의) 웹서버, FTP 서버, NAS (network attached storage) 디바이스들, 또는 로컬 디스크 드라이브를 포함한다. 목적지 디바이스 (14) 는 인터넷 접속을 포함하는 임의의 표준 데이터 접속을 통해 인코딩된 비디오 데이터에 액세스할 수도 있다. 이것은 파일 서버에 저장된 인코딩된 비디오 데이터를 액세스하는데 적합한 무선 채널 (예를 들어, Wi-Fi 접속), 유선 접속 (예를 들어, DSL, 케이블 모뎀 등), 또는 이들 양자의 조합을 포함할 수도 있다. 저장 디바이스로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 이들의 조합일 수도 있다.
이 개시의 기법들은 무선 애플리케이션들 또는 설정들로 반드시 제한되는 것은 아니다. 기법들은 다양한 멀티미디어 애플리케이션들, 예컨대 지상파 (over-the-air) 텔레비젼 브로드캐스트들, 케이블 텔레비젼 송신들, 위성 텔레비젼 송신들, 인터넷 스트리밍 비디오 송신들, 이를 테면 DASH (dynamic adaptive streaming over HTTP), 데이터 저장 매체 상에서 인코딩된 디지털 비디오, 데이터 저장 매체 상에 저장된 디지털 비디오의 디코딩 또는 다른 애플리케이션들의 지원에 있어서 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 시스템 (10) 은, 비디오 스트리밍, 비디오 플레이백, 비디오 방송, 및/또는 영상 전화와 같은 애플리케이션들을 지원하기 위해 일방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
도 1 의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20) 및 출력 인터페이스 (22) 를 포함한다. 목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 포함한다. 본 개시에 따르면, 소스 디바이스 (12) 의 비디오 인코더 (20) 는 비디오 코딩에서의 변환을 수행하기 위한 기법들을 적용하도록 구성될 수도 있다. 다른 예들에서, 소스 디바이스와 목적지 디바이스는 다른 컴포넌트들 또는 설비들을 포함할 수도 있다. 예를 들면, 소스 디바이스 (12) 는 외부 비디오 소스 (18), 이를 테면, 외부 카메라로부터 비디오 데이터를 수신할 수도 있다. 이와 유사하게, 목적지 디바이스 (14) 는, 통합형 디스플레이 디바이스를 포함하는 대신, 외부 디스플레이 디바이스와 인터페이스할 수도 있다.
도 1 의 예시된 시스템 (10) 은 단지 일 예에 불과하다. 비디오 코딩에서의 필터링을 수행하기 위한 기법들은 임의의 디지털 비디오 인코딩 및/또는 디코딩 디바이스에 의해 수행될 수도 있다. 이 개시의 일반적인 기법들이 비디오 인코딩 디바이스에 의해 수행되는 것이지만, 기법들은 또한 비디오 코덱에 의해 수행될 수도 있다. 또한, 이 개시의 기법들은 비디오 프리프로세서에 의해 또한 수행될 수도 있다. 소스 디바이스 (12) 와 목적지 디바이스 (14) 는, 소스 디바이스 (12) 가 목적지 디바이스 (14) 로의 송신을 위한 코딩된 비디오 데이터를 생성하는 이러한 코딩 디바이스들의 단지 예들에 불과하다. 일부 예들에서, 디바이스들 (12, 14) 은, 디바이스들 (12, 14) 의 각각이 비디오 인코딩 및 디코딩 컴포넌트들을 포함하도록 실질적으로 대칭적 방식으로 동작할 수도 있다. 따라서, 시스템 (10) 은, 예를 들어, 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 또는 화상 전화를 위해, 비디오 디바이스들 (12, 14) 사이의 일방향 또는 양방향 비디오 송신을 지원할 수도 있다.
소스 디바이스 (12) 의 비디오 소스 (18) 는 비디오 캡쳐 디바이스, 이를 테면 비디오 카메라, 이전에 캡쳐된 비디오를 포함하는 비디오 아카이브, 및/또는 비디오 컨텐츠 공급자로부터 비디오를 수신하는 비디오 피드 인터페이스를 포함할 수도 있다. 다른 대안으로서, 비디오 소스 (18) 는 소스 비디오로서의 컴퓨터 그래픽 기반 데이터, 또는 라이브 비디오, 아카이브된 비디오, 및 컴퓨터 생성 비디오의 조합을 생성할 수도 있다. 일부 경우들에서, 비디오 소스 (18) 가 비디오 카메라이면, 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 소위 카메라 폰들 또는 비디오 폰들을 형성할 수도 있다. 그러나, 위에 언급된 바와 같이, 이 개시에서 설명된 기법들은 일반적으로 비디오 코딩에 적용될 수 있으며, 무선 및/또는 유선 애플리케이션들에 적용될 수도 있다. 각각의 경우에서, 캡쳐된, 프리캡쳐된, 또는 컴퓨터 생성된 비디오는 비디오 인코더 (20) 에 의해 인코딩될 수도 있다. 인코딩된 비디오 정보는 출력 인터페이스 (22) 에 의해 컴퓨터 판독가능 매체 (16) 상에 출력될 수도 있다.
컴퓨터 판독가능 매체 (16) 는 일시적 매체들, 이를 테면, 무선 브로드캐스트 또는 유선 네트워크 송신, 또는 저장 매체들 (즉, 비일시적 저장 매체들), 이를 테면, 하드 디스크, 플래시 드라이브, 컴팩트 디스크, 디지털 비디오 디스크, 블루 레이 디스크, 또는 다른 컴퓨터 판독가능 매체들을 포함할 수도 있다. 일부 예들에서, 네트워크 서버 (도시 생략) 는 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고, 예를 들어 네트워크 송신을 통하여 인코딩된 비디오 데이터를 목적지 디바이스 (14) 에 제공할 수도 있다. 이와 유사하게, 매체 제조 설비의 컴퓨팅 디바이스, 이를 테면 디스크 (disc) 스탬핑 설비는, 소스 디바이스 (12) 로부터 인코딩된 비디오 데이터를 수신하고 그 인코딩된 비디오 데이터를 포함하는 디스크를 제조할 수도 있다. 이에 따라, 컴퓨터 판독가능 매체 (16) 는, 다양한 예들에서, 다양한 형태들의 하나 이상의 컴퓨터 판독가능 매체들을 포함하는 것으로 이해될 수도 있다.
목적지 디바이스 (14) 의 입력 인터페이스 (28) 는 컴퓨터 판독가능 매체 (16) 로부터 정보를 수신한다. 컴퓨터 판독가능 매체 (16) 의 정보는, 비디오 디코더 (30) 에 의해 또한 사용되고, 블록들 및 다른 코딩된 유닛들, 예를 들어 GOP들의 특성들 및/또는 프로세싱을 기술하는 신택스 엘리먼트들을 포함하는, 비디오 인코더 (20) 에 의해 정의된 신택스 정보를 포함할 수도 있다. 일반적으로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 사용자에게 디스플레이하고, 음극선관 (CRT), 액정 디스플레이 (liquid crystal display; LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (organic light emitting diode; OLED) 디스플레이, 또는 다른 타입의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들 중 임의의 것을 포함할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 각각은, 적용 가능하다면, 임의의 다양한 적절한 인코더 또는 디코더 회로부, 예컨대 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (DSPs), 주문형 집적 회로들 (application specific integrated circuits; ASICs), 필드 프로그램가능 게이트 어레이들 (FPGAs), 디스크리트 로직 회로, 소프트웨어, 하드웨어, 펌웨어 또는 이들의 임의의 조합들로서 구현될 수도 있다. 기법들이 부분적으로 소프트웨어로 구현되는 경우, 디바이스는 그 소프트웨어에 대한 명령들을 적절한 비일시적 컴퓨터 판독가능 매체에 저장할 수도 있고, 본 개시의 기술들을 수행하기 위해 하나 이상의 프로세서들을 사용하는 하드웨어에서 그 명령들을 실행할 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 각각은 하나 이상의 인코더들 또는 디코더들에 포함될 수도 있고, 이들 중 어느 것도 결합된 인코더/디코더 (CODEC) 의 일부로서 통합될 수도 있다. 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 를 포함하는 디바이스는 집적 회로, 마이크로프로세서, 및/또는 무선 통신 디바이스, 이를 테면 셀룰러 전화기를 포함할 수도 있다.
도 1 에 도시되지 않았으나, 일부 양태들에서 비디오 인코더 (20) 및 비디오 디코더 (30) 는 각각 오디오 인코더 및 디코더와 통합될 수도 있고, 공통 데이터 스트림 또는 개별의 데이터 스트림들에서 오디오 및 비디오 양자의 인코딩을 핸들링하기 위해 적절한 MUX-DEMUX 유닛들, 또는 다른 하드웨어 및 소프트웨어를 포함할 수도 있다. 적용가능한 경우, MUX-DEMUX 유닛들은 ITU H.223 멀티플렉서 프로토톨, 또는 사용자 데이터그램 프로토콜 (user datagram protocol; UDP) 과 같은 다른 프로토콜에 따를 수도 있다.
이 개시는, 다른 디바이스, 이를 테면, 비디오 디코더 (30) 로 어떤 정보를 "시그널링"하는 비디오 인코더 (20) 에 일반적으로 관련될 수도 있다. 그러나, 비디오 인코더 (20) 는 어떤 신택스 엘리먼트들을 비디오 데이터의 여러 인코딩된 부분들과 연관시키는 것에 의해 정보를 시그널링할 수도 있음이 이해되어야만 한다. 즉, 비디오 인코더 (20) 는 비디오 데이터의 다양한 인코딩된 부분들의 헤더들에 소정의 신택스 엘리먼트들을 저장하는 것에 의해 데이터를 "시그널링"할 수도 있다. 일부 경우들에서, 이러한 신택스 엘리먼트들은 비디오 디코더 (30) 에 의해 수신되어 디코딩되기 전에 인코딩되어 저장될 수도 있다 (예를 들면, 저장 디바이스 (24) 에 저장될 수도 있다). 따라서, 용어 "시그널링" 은, 이러한 통신이 실시간이나 거의 실시간 또는 시구간에 걸쳐 일어나는, 예컨대, 인코딩할 시에 매체에 신택스 엘리먼트들을 저장하는 경우에 일어날 수도 있는, 그 다음에 이러한 매체에 저장된 후에 언제든지 디코딩 디바이스에 의해 검색될 수도 있는 통신이든지, 압축된 비디오 데이터를 디코딩하기 위한 신택스 또는 다른 데이터의 통신을 일반적으로 지칭할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 는, MPEG-4, 파트 10, 고급 비디오 코딩 (AVC) 으로도 달리 지칭되는 ITU-T H.264 표준과 같은 비디오 압축표준, 또는 이러한 표준들의 확장안들에 따라 동작할 수도 있다. ITU-T H.264/MPEG-4 (AVC) 표준은, Joint Video Team (JVT) 으로서 알려진 공동 파트너쉽의 산물로서 ISO/IEC Moving Picture Experts Group (MPEG) 과 함께 한 ITU-T Video Coding Experts Group (VCEG) 에 의해 정형화되었다. 일부 양태들에서, 본 개시에서 설명된 기술들은 H.264 표준을 일반적으로 따르는 디바이스들에 적용될 수도 있다. H.264 표준은 본원에서 H.264 표준 또는 H.264 명세, 또는 H.264/AVC 표준 또는 명세로 지칭될 수도 있는, ITU-T 연구 그룹에 의한 2005년 3월자의, ITU-T Recommendation H.264의 "Advanced Video Coding for generic audiovisual services" 에서 설명된다. 비디오 압축 표준들의 다른 예들은 MPEG-2 및 ITU-T H.263 을 포함한다.
비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비쥬얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비쥬얼, ITU-T H.263, ISO/IEC MPEG-4 비쥬얼 및 자신의 SVC (Scalable Video Coding) 및 MVC (Multiview Video Coding) 확장안들을 포함하는 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 을 포함한다. 최근, ITU-T 비디오 코딩 전문가 그룹(Video Coding Experts Group; VCEG) 및 ISO/IEC 동화상 전문가 그룹 (MPEG)의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해, 새로운 비디오 코딩 표준, 즉 고효율 비디오 코딩 (High-Efficiency Video Coding; HEVC) 의 설계가 마무리되었다. 최신의 HEVC 드래프트 명세 (그리고 이하 HEVC WD 로서 지칭함) 는 http://phenix.int-evry.fr/jct/doc_end_user/documents/15_Geneva/wg11/JCTVC-O1003-v2.zip 에서 입수가능하다. HEVC RExt 명칭의 HEVC 에 대한 레인지 확장안들은 또한 JCT-VC 에 의해 개발되고 있다. RExt WD7 로서 이하 지칭되는 레인지 확장안들의 최근 작업 드래프트 (Working Draft; WD) 는 http://phenix.int-evry.fr/jct/doc_end_user/documents/17_Valencia/wg11/JCTVC-Q1005-v4.zip 로부터 입수가능하다.
이 문서에서, JCTVC-Q1003 와 같은 HEVC 명세서 텍스트는 종종 HEVC 버전 1 로서 지칭된다. 레인지 확장 명세는 HEVC 의 버전 2 가 된다. 그러나, 큰 범위에서, 특정 기법들 (예를 들어, 모션 벡터 예측) 에 대해, HEVC 버전 1 및 범위 확장 명세는 기술적으로 유사하다. 따라서, 이 개시가 HEVC 버전 1 에 기초한 변경들을 언급할 때마다, 동일한 변경들이 레인지 확장 명세에 적용가능하고, 이 개시가 HEVC 버전 1 을 재사용하여 기술할 때마다 본 개시는 또한 (동일한 종속절들을 갖는) HEVC 레인지 확장 모듈을 또한 실제로 재사용하는 것을 지칭할 수도 있다.
최근, 스크린-컨텐츠 재료에 대한 새로운 코딩 툴들, 이를 테면, 모션을 갖는 그래픽 및 텍스처의 연구가 요청되었고 스크린 컨텐츠에 대한 코딩 효율을 향상시키는 기법들이 제안되었다. 코딩 효율에서의 상당한 개선들이 신규의 전용 코딩 툴들에 의해 스크린 컨텐츠의 특징들을 활용하는 것에 의해 획득될 수 있다는 것이 명백하기 때문에, 스크린 컨텐츠 코딩에 대한 고유의 CfP (Call for Proposals) 는 스크린 컨텐츠 코딩을 위한 고유 툴들을 포함하는 HEVC 표준의 장래의 확장안들을 가능하게 개발하는 목표를 갖고 공표되고 있다. 캠페인들 및 조직들은 이 콜에 응답하여 제안들을 제출하도록 초대된다. 이 CfP 의 사용 케이스들 및 요건들은 MPEG 문서 N14174 에 설명되어 있다. 17th JCT-VC 회의 동안에, 스크린 컨텐츠 코딩 테스트 모델 (screen content coding test model; SCM) 이 확립되었고, 이는 http://phenix.int-evry.fr/jct/doc_end_user/documents/17_Valencia/wg11/JCTVC-Q1014-v1.zip 에서 입수가능하다.
이 개시의 기법들이 임의의 특정 코딩 표준으로 제한되지 않지만, 기법들은 HEVC 표준에 관련될 수 있다. HEVC 표준화 노력들은 HEVC 테스트 모델 (HEVC Test Model; HM) 로 지칭되는 비디오 코딩 디바이스의 모델에 기초한다. HM 은 예를 들어 ITU-T H.264/AVC 에 따른 기존 디바이스들에 관한 비디오 코딩 디바이스들의 수개의 부가적 능력들을 추정한다. 예를 들어, H.264가 9개의 인트라 예측 인코딩 모드들을 제공하지만, HM 은 35 개만큼 많은 인트라-예측 인코딩 모드들을 제공할 수도 있다.
일반적으로, HEVC 표준은 비디오 픽처가 루마 및 크로마 샘플들 양쪽을 포함하는 최대 코딩 유닛들 (largest coding units; LCU) 또는 트리 블록들의 시퀀스로 분할될 수도 있다. 비트스트림 내의 신택스 데이터는 픽셀들의 수의 면에서 최대 코딩 유닛인 LCU 를 정의할 수도 있다. 슬라이스는 복수의 연속하는 코딩 트리 유닛들 (coding tree units; CTUs) 을 포함한다. CTU들 각각은 루마 샘플들의 코딩 트리 블록, 크로마 샘플들의 2 개의 대응하는 코딩 트리 블록들, 및 코딩 트리 블록들의 샘플들을 코딩하는데 이용되는 신택스 구조들을 포함할 수도 있다. 단색 픽처 또는 3 개의 별개의 컬러 평면들을 갖는 픽처에서, CTU 는 단일의 코딩 트리 블록, 및 코딩 트리 블록의 샘플들을 코딩하는데 이용된 신택스 구조들을 포함할 수도 있다.
비디오 픽처는 하나 이상의 슬라이스들로 파티션될 수도 있다. 각각의 트리블록은 쿼드트리에 따라 코딩 유닛들 (coding units; CU들) 로 스플릿될 수도 있다. 일반적으로, 쿼드트리 데이터 구조는 CU당 하나의 노드를 포함하는데, 여기서 루트 노드는 트리블록에 대응한다. CU 가 4 개의 서브-CU들로 스플릿되면, 그 CU 에 대응하는 노드는 4개의 리프 노드들을 포함하고, 리프 노드 각각은 서브-CU들의 하나에 대응한다. CU 는 루마 샘플들의 코딩된 블록, 그리고 루마 샘플 어레이, Cb 샘플 어레이 및 Cr 샘플 어레이를 갖는 픽처의 크로마 샘플들의 2 개의 대응하는 코딩된 블록들, 및 코딩된 블록들의 샘플들을 코딩하는데 이용되는 신택스 구조들을 포함할 수도 있다. 단색 픽처 또는 3 개의 별개의 컬러 평면들을 갖는 픽처에서, CU 는 단일의 코딩된 블록, 및 코딩된 블록의 샘플들을 코딩하는데 이용된 신택스 구조들을 포함한다. 코딩된 블록은 샘플들의 NxN 블록이다.
쿼드트리 데이터 구조의 각각의 노드는 대응하는 CU 에 대해 신택스 데이터를 제공할 수도 있다. 예를 들어, 쿼드트리 내의 노드는, 그 노드에 대응하는 CU 가 서브-CU들로 스플릿되는지의 여부를 나타내는 스플릿 플래그를 포함할 수도 있다. CU 에 대한 신택스 엘리먼트들은 재귀적으로 정의될 수도 있고, CU 가 서브 CU들로 스플릿되는지에 의존할 수도 있다. CU 가 더 이상 스플릿되지 않으면, 그것은 리프-CU로서 지칭된다. 본 개시에서, 리프-CU 의 4개의 서브-CU들은, 오리지널 리프-CU 의 명백한 스플릿이 없는 경우에도 리프-CU들로서 또한 지칭될 것이다. 예를 들어, 16x16 사이즈에서의 CU 가 더 이상 스플릿되지 않으면, 4 개의 8x8 서브-CU들은, 16x16 CU 가 결코 스플릿되지 않았지만, 리프-CU들로서 또한 지칭될 것이다.
CU 가 사이즈 구별을 갖지 않는다는 점을 제외하면, CU 는 H.264 표준의 매크로 블록과 유사한 목적을 갖는다. 예를 들어, 트리블록은 4개의 자식 노드들 (또한 서브-CU들로 지칭됨) 로 스플릿되고, 이어서 각각의 자식 노드는 부모 노드가 될 수도 있고 다른 4개의 자식 노드들로 스플릿될 수도 있다. 최종적으로, 쿼드트리의 리프 노드로서 지칭되는 스플릿되지 않는 자식 노드는 리프-CU 로서 또한 지칭되는 코딩 노드를 포함한다. 코딩된 비트스트림과 연관된 신택스 데이터는 트리블록이 스플릿될 수도 있는 최대 횟수 (최대 CU 깊이로서 지칭됨) 를 정의할 수도 있고, 코딩 노드들의 최소 사이즈를 또한 정의할 수도 있다. 따라서, 비트스트림은 최소 코딩 유닛 (smallest coding unit; SCU) 을 또한 정의할 수도 있다. 이 개시는 HEVC 의 컨텍스트에서의 CU, PU 또는 TU, 또는 다른 표준들의 컨텍스트에서의 유사한 데이터 구조 (예를 들어, H.264/AVC 에서 매크로블록들 및 그 서브-블록들) 를 지칭하기 위해 용어 "블록" 을 이용한다.
CU 는 코딩 노드 및 코딩 노드와 관련된 변환 유닛들 (transform units; TU들) 및 예측 유닛들 (prediction units; PU들) 을 포함한다. CU 의 사이즈는 코딩 노드의 사이즈에 대응하고 정사각형 형상임에 틀림없다. CU 의 사이즈는 8x8 픽셀들에서 최대 64x64 픽셀들 이상의 픽셀들을 갖는 트리블록의 사이즈까지의 범위에 있을 수도 있다. 각각의 CU 는 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다.
일반적으로, PU 는 대응 CU 의 전부 또는 일부에 대응하는 공간 영역을 나타내며, PU 에 대한 참조 샘플을 취출하기 위한 데이터를 포함할 수도 있다. 또한, PU 는 예측과 관련된 데이터를 포함한다. 예를 들어, PU 가 인트라-모드 인코딩될 때, PU 에 대한 데이터는 PU 에 대응하는 TU 에 대한 인트라 예측 모드를 기술하는 데이터를 포함할 수도 있는, 잔여 쿼드트리 (RQT) 에 포함될 수도 있다. 다른 예로서, PU 가 인터-모드 인코딩되는 경우, PU 는 PU 에 대한 모션 벡터들을 정의하는 데이터를 포함할 수도 있다. 예측 블록은 동일한 예측이 적용되는 샘플들의 직사각형 (즉, 정사각형 또는 비정사각형) 블록일 수도 있다. CU 의 예측 유닛 (PU) 은 루마 샘플들의 예측 블록, 픽처의 크로마 샘플들의 2 개의 대응하는 예측 블록들, 및 예측 블록 샘플들을 예측하는데 이용되는 신택스 구조들을 포함할 수도 있다. 단색 픽처 또는 3 개의 별도의 컬러 평면들을 갖는 픽처에서, PU 는 단일의 예측 블록, 및 예측 블록 샘플들을 예측하는데 이용되는 신택스 구조들을 포함할 수도 있다.
따라서, HEVC 에서, 슬라이스에서의 최대 코딩 유닛은 코딩 트리 블록 (coding tree block; CTB) 으로 지칭된다. CTB 는 쿼드-트리를 포함하고, 이 쿼드-트리의 노드들은 코딩 유닛들이다. CTB 의 사이즈는 (기술적으로 8x8 CTB 사이즈들이 지원될 수 있는 경우에도) HEVC 메인 프로파일에서 16x16 내지 64x64 의 범위일 수 있다. 코딩 유닛 (coding unit; CU) 은 8x8 만큼 작기는 하지만 동일한 사이즈의 CTB 일 수 있다. 각각의 코딩 유닛은 하나의 모드로 코딩된다. CU 가 인터-코딩 (인터-예측 코딩 또는 인터-예측) 될 때, CU 는 2 개의 예측 유닛들 (prediction units; PUs) 로 추가로 파티션될 수도 있거나 또는 추가의 파티션이 적용되지 않을 때 오직 하나의 PU 로 된다. 2 개의 PU들이 하나의 CU 에 존재할 때, 이들 PU들은 하프 사이즈 직사각형들 또는 CU 의 ¼ 또는 ¾ 사이즈를 갖는 2 개의 직사각형 사이즈일 수 있다. CU 가 인터-코딩될 때, 모션 정보의 한 세트는 각각의 PU 에 대해 존재한다. 추가로, 각각의 PU 는 모션 정보의 세트를 도출하도록 고유한 인터-예측 모드로 코딩된다. HEVC 에서, 최소의 PU 사이즈들은 8x4 및 4x8 이다.
픽처 오더 카운트 (Picture order count; POC) 는 픽처의 디스플레이 순서를 식별하기 위해 비디오 코딩 표준들에서 널리 이용된다. 하나의 코딩된 비디오 시퀀스 내에 2 개의 픽처들이 동일한 POC 값을 가질 수도 있는 사례가 있더라도, 이는 통상적으로 코딩된 비디오 시퀀스 내에서 발생하지 않는다. 다수의 코딩된 비디오 시퀀스들이 비트스트림에 존재할 때, 동일한 값의 POC 를 갖는 픽처들은 디코딩 순서의 관점에서 서로 가까울 수도 있다. 픽처들의 POC 값들은 통상적으로 HEVC 및 모션 벡터 스케일링에서와 같이 참조 픽처 세트의 도출, 참조 픽처 리스트 구성에 이용된다.
TU들은 잔차 비디오 데이터에 대해 변환, 예를 들어, 이산 코사인 변환 (discrete cosine transform; DCT), 정수 변환, 웨이브릿 변환, 또는 개념적으로 유사한 변환의 적용에 후속하는 변환 도메인에서의 계수들을 포함할 수도 있다. 잔차 데이터는 PU들에 대응하는 예측 값들과 인코딩되지 않는 픽처의 픽셀들 사이의 픽셀 차이들에 대응할 수도 있다. 비디오 인코더 (20) 는 CU 에 대한 잔차 데이터를 포함하는 TU들을 형성하고, 그 다음 TU들을 변환하여 CU에 대한 변환 계수들을 생성할 수도 있다. 변환 블록은 동일한 변환이 적용되는 샘플들의 직사각형 블록일 수도 있다. CU 의 변환 유닛 (TU) 은 루마 샘플들의 변환 블록, 크로마 샘플들의 2 개의 대응하는 변환 블록들, 및 변환 블록 샘플들을 변환하는데 이용되는 신택스 구조들을 포함할 수도 있다. 단색 픽처 또는 3 개의 별도의 컬러 평면들을 갖는 픽처에서, TU 는 단일의 변환 블록, 및 변환 블록 샘플들을 변환하는데 이용되는 신택스 구조들을 포함할 수도 있다.
변환에 뒤이어서, 비디오 인코더 (20) 는 변환 계수들의 양자화를 수행할 수도 있다. 양자화는 일반적으로, 변환 계수들을 표현하기 위해 사용되는 데이터의 양을 최대한 줄이기 위해 변환 계수들이 양자화되어 추가적인 압축을 제공하는 프로세스를 지칭한다. 양자화 프로세스는 계수들의 일부 또는 전부와 관련된 비트 깊이를 감소시킬 수도 있다. 예를 들어, n-비트 값은 양자화 동안 m-비트 값으로 내림 (round down) 될 수도 있는데, 여기서 n 은 m 보다 더 크다.
비디오 인코더 (20) 가 계수 블록을 양자화한 후에, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들에 대해 CABAC (Context-Adaptive Binary Arithmetic Coding) 를 수행할 수도 있다. 엔트로피 코딩에 대해, 비디오 인코더 (20) 는 특정 스캔 순서 (예를 들어, 수직 스캔, 수평 스캔 또는 대각선 스캔) 에 따라 양자화된 변환 계수들을 스캔한다. 비디오 인코더 (20) 는 비트스트림으로 엔트로피-인코딩된 신택스 엘리먼트들을 출력할 수도 있다.
여기에서, 비트스트림은 비디오 데이터의 코딩된 표현을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 비트스트림은 코딩된 영상들 및 연관된 데이터를 포함할 수도 있다. 코딩된 픽처는 픽처의 코딩된 표현이다. 연관된 데이터는 비디오 파라미터 세트들 (VPS), 시퀀스 파라미터 세트들 (SPS), 픽처 파라미터 세트들 (PPS), 적응 파라미터 세트들 (APS), 및 다른 신택스 구조들을 포함할 수도 있다. SPS 는 0개 이상의 시퀀스들에 적용가능한 파라미터들을 포함할 수도 있다. PPS 는 0개 이상의 픽처들에 적용가능한 파라미터들을 포함할 수도 있다.
잔차 블록을 변환하고 양자화하는 것은 정보의 손실을 야기한다 (예를 들어, 역양자화 및 역변환 블록이 오리지널 잔차 블록과 상이하다). 따라서, 잔차 블록이 변환되고 양자화되는 비디오 코딩의 예들은 손실성 코딩으로서 지칭된다. 일부 예들에서, 비디오 인코더 (20) 는 잔차 블록을 양자화하지만 잔차 블록의 변환을 스킵할 수도 있다. 비디오 코딩의 이러한 예들은 변환-스킵 코딩으로서 지칭된다. 변환-스킵 코딩은 양자화가 정보의 손실을 야기하기 때문에 손실성 코딩의 일 변형일 수도 있다. 혼란을 피하기 위하여, 변환 및 양자화 양쪽을 포함하는 비디오 코딩 방법들을 지칭하도록 손실성 코딩이 이 설명에 이용되고, 변환이 스킵되지만 양자화가 여전히 수행되는 비디오 코딩 방법들을 지칭하도록 변환-스킵 코딩이 이 설명에 이용된다.
비디오 인코더 (20) 는 모든 경우들에서 변환-스킵 코딩 또는 손실성 코딩을 수행할 필요는 없다. 일부 예들에서, 비디오 인코더 (20) 는 무손실 코딩을 수행할 수도 있다. 무손실 코딩 (종종 트랜스퀀트 바이패스로 지칭됨) 에서, 비디오 인코더 (20) 는 잔차 블록을 변환하지 않고 잔차 블록을 양자화하지 않는다. 이 예에서, 비디오 디코더 (30) 에 의해 재구성된 잔차 블록은 비디오 인코더 (20) 에 의해 생성된 잔차 블록과 동일한 한편, 손실성 코딩 및 변환-스킵 코딩에 대해, 비디오 디코더 (30) 에 의해 재구성되는 잔차 블록은 비디오 인코더 (20) 에 의해 생성된 잔차 블록과는 약간 상이할 수도 있다.
즉, 변환이 수행될 때, 변환은 픽셀 도메인으로부터 변환 도메인으로 잔차 블록의 잔차 값들을 변환한다. 일부 예들에서, 변환 스킵 또는 변환 바이패스에 대해, 잔차 데이터는, 픽셀 도메인으로부터 변환 도메인으로 잔차 값들을 변환하는 잔차 값들에 적용된 변환 없이, 예측 블록과 현재 블록 사이의 차이로부터 잔차값들을 포함한다.
비디오 디코더 (30) 는 코딩된 비디오 데이터를 획득시, 비디오 인코더 (20) 에 대하여 설명된 인코딩 패스에 일반적으로 역순인 디코딩 패스를 수행할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 비디오 인코더 (20) 로부터, 인코딩된 비디오 슬라이스의 비디오 블록들을 표현하는 인코딩된 비디오 비트스트림 및 연관된 신택스 엘리먼트들을 획득할 수도 있다. 비디오 디코더 (30) 는 비트스트림에 포함된 데이터를 이용하여, 오리지널의 인코딩되지 않는 비디오 시퀀스 (예를 들어, 또는 손실성 코딩에 대한 양자화된 버전의 오리지널 잔차) 을 재구성할 수도 있다. 예를 들어, 손실성 코딩을 위하여, 비디오 디코더 (30) 는 양자화된 변환 계수들을 결정하기 위해 비트스트림에서 신택스 엘리먼트들을 엔트로피 디코딩할 수도 있다. 비디오 디코더 (30) 는 비디오 인코더 (20) 가 양자화된 잔차 블록을 구성하기 위해 이용하였던 동일한 스캔 순서를 이용할 수도 있다. 비디오 디코더 (30) 는 그 후, 변환 계수들을 결정하기 위해 양자화된 변환 계수들을 역양자화할 수도 있다. 비디오 디코더 (30) 는 또한 잔차 블록의 계수들을 결정하기 위해 변환 계수들에 대한 역 변환을 적용할 수도 있다.
변환-스킵 코딩에 대해, 비디오 디코더 (30) 는 양자화된 계수들을 결정하기 위해 비트스트림에서의 신택스 엘리먼트들을 엔트로피 디코딩할 수도 있고, 비디오 인코더 (20) 가 양자화된 잔차 블록을 구성하는데 이용하였던 동일한 스캔 순서를 이용할 수도 있고, 그 후, 잔차 블록의 계수들을 결정하기 위해 양자화된 계수들을 역양자화할 수도 있다. 변환이 인코딩 프로세스에서 스킵되었기 때문에 역 변환이 필요하지 않다.
무손실 코딩 (예를 들어, 변환 바이패스 또는 간단한 바이패스) 에 대해 비디오 디코더 (30) 는 비트스트림에서의 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있고, 비디오 인코더 (20) 가 잔차 블록의 계수들을 직접 결정하는데 이용하였던 것과 동일한 스캔 순서를 이용할 수도 있다. 변환 및 양자화 양쪽이 인코딩 프로세스에서 스킵되었기 때문에 역 양자화 또는 변환이 필요하지 않다.
어느 경우에도, 비디오 디코더 (30) 는 예측 블록을 결정한다. 예측 블록은 현재 블록으로서, (예를 들어, 인터-예측에 대해) 상이한 픽처에서 또는 (예를 들어, 인트라-예측에 대해 또는 인트라-BC 예측에 대해) 동일한 픽처에 위치될 수도 있다. 비디오 디코더 (30) 는 예측 블록에서 재구성된 픽셀 값들을 이용하고 (예를 들어, 인코딩된 비트스트림으로부터 획득된) 잔차 블록에서 잔차 값들을 이용하여, (예를 들어, 현재 블록을 디코딩하기 위해) 현재 블록의 픽셀 값들을 재구성한다.
HEVC 의 레인지 확장들, 스크린 컨텐츠 코딩 확장, 또는 다른 비디오 코딩 툴들은 인트라-블록 카피 (인트라-BC 또는 IBC) 모드를 지원할 수도 있다. 많은 애플리케이션, 이를 테면, 몇몇 예들을 들면, 원격 데스크톱, 원격 게이밍, 무선 디스플레이들, 자동차 인포테인먼트 (automotive infotainment), 및 클라우드 컴퓨팅에 대해, 이들 애플리케이션들에서의 비디오 컨텐츠는 통상 자연 컨텐츠, 텍스트, 인공적인 그래픽들 등의 조합이다. 테스트 및 인공적인 그래픽 영역들에서, 반복되는 패턴들 (이를 테면, 몇몇 예를 들면, 문자들, 아이콘들, 및 기호들) 이 종종 존재한다. 인트라-BC 는 이 종류의 리던던시의 제거에 대한 전용 프로세스로서 특징화될 수도 있으며 이에 의해 인트라-픽처 코딩 효율을 잠재적으로 개선한다.
디블록 필터링은 인터-예측 모드 (예를 들어, 인터-코딩), 인트라-예측 모드 (예를 들어, 인트라-코딩), 또는 IBC 모드 (예를 들어, IBC-코딩) 에서 예측되는 블록에 적용될 수도 있다. HEVC 버전 1 (예를 들어, JCTVC-Q1003 에서와 같은 HEVC 명세 텍스트) 에서, 픽처 재구성 후에, 디블록 필터링 프로세스는 코딩된 블록 바운더리들에서의 아티팩트들을 검출하고, 선택된 필터를 적용하는 것에 의해 블록 아티팩트들을 감소시킬 수도 있다. 필터링 판정들은 8×8 샘플들의 블록들로 픽처를 분할하는 그리드 상에 존재하는 4 개의 샘플 길이의 각각의 바운더리에 대해 개별적으로 행해진다.
비디오 인코더 (20) 및 비디오 디코더 (30) 양쪽은 디블록 필터링 프로세스를 수행하도록 구성될 수도 있다. 예를 들어, 비디오 인코더 (20) 는, 디블록 필터링되는 재구성된 블록이 후속하는 블록이 인코딩되는 참조 블록으로서 이용될 수 있도록, 인코딩된 블록의 재구성의 부분으로서 디블록 필터링을 수행하도록 구성될 수도 있다. 디블록 필터링이 아티팩트들을 제거하는 것은, 디블록 필터링이, 비디오가 디스플레이될 비디오 디코더 (30) 측에서 유용하다는 것을 의미한다. 비디오 디코더 (30) 가 디블록 필터링을 수행하고, 이들 디블록 필터링된 블록들이 비디오 디코더 (30) 측에서 참조 블록들이기 때문에, 비디오 인코더 (20) 는 또한, 비디오 인코더 (20) 측에서의 참조 블록이 비디오 디코더 (30) 측에서의 대응하는 참조 블록과 동일하게 되도록 재구성 동안에 디블록 필터링을 수행할 수도 있다.
비디오 인코더 (20) 및 비디오 디코더 (30) 가 포스트 필터링 기법들을 구현하는 것도 또한 가능할 수도 있다. 이 경우에, 디블록 필터링은 픽셀 값들의 저장 이전에 반드시 수행될 필요가 있는 것은 아닐 수도 있다. 다만, 픽셀 값들은 비디오 디코더 (30) 에 의한 디스플레이 이전에 필터링될 수도 있다. 포스트 필터링의 예는 단지 일 예로서만 제공되며, 모든 경우에 포함되지 않을 수도 있다.
일부 예들에서, 디블록 필터링 프로세스를 수행할 때, 다음의 3 개의 기준들이 참이어야 한다 : (1) 블록 바운더리가 예측 유닛 또는 변환 유닛 바운더리이다, (2) 바운더리 강도가 0 보다 더 크다, 그리고 (3) 블록 바운더리의 양쪽 측면들 상의 신호들의 변동이 특정된 임계값 미만이다. 특정의 추가적인 조건이 유지될 때, 강 필터가 정규 디블록 필터링을 대신하여 블록 에지에 적용된다.
수행되는 이러한 유형의 디블록 필터링은 디블록 필터링에 이용된 2 개의 블록들 사이 (예를 들어, 현재 블록과 이웃 블록 사이) 의 에지의 바운더리 강도 값에 기초할 수도 있다. 일부 예들에서, 인트라-BC 로 코딩된 블록의 디블록 필터링을 수행할 때, 블록은 인트라-예측으로 블록이 코딩되었던 것처럼 처리될 수도 있다. 즉, 인트라-예측 블록들에 대한 디블록 필터링 프로세스는 인트라-BC 블록들에 직접 적용될 수도 있다. 그러나, 인트라-BC 코딩된 블록들은 인트라-코딩된 블록들과 유사한 특징들을 갖지 않을 수도 있다. 추가로, 인터-예측 블록들을 디블록 필터링할 때 (예를 들어, 이를 테면, 아래 보다 자세하게 설명될 바와 같이 바운더리 강도 (Bs) 값을 결정할 때) 수행되는 일부 계산들은 비교적 복잡할 수도 있다.
이 개시의 기법들은 인트라-BC 를 이용하여 코딩된 비디오 블록들을 디블록 필터링하는 기법들을 포함할 수도 있다. 예를 들어, 기법들은 일부 사례들에서, 인트라-BC 예측된 블록들 및 인트라-예측된 블록들이 동일한 디블록 필터링 계산들을 이용하지 않도록, 인트라-BC 코딩된 블록들을 위한 디블록 필터링 프로세스로의 변경들을 포함할 수도 있다. 일부 사례들에서, 이 개시의 양태들은 예를 들어, 인터-예측된 블록들에 대한 간략화된 디블록 필터링 설계를 이용하는 것을 포함할 수도 있다.
디블록 필터링 프로세스의 부분으로서, 비디오 인코더 (20) 및 비디오 디코더 (30)는 디블록 필터링 프로세스가 수행되어야 하는 에지를 형성하는 2 개의 블록들에 대한 바운더리 강도 값을 개별적으로 결정할 수도 있다. 바운더리 강도 값은 비디오 인코더 (20) 및 비디오 디코더 (30) 가 디블록 필터링하는 방법 (예를 들어, 필터링에 대한 필터 계수들 및 2 개의 이웃 블록들 각각에서의 픽셀들의 수) 을 표시한다.
아래의 표 1 은 2 개의 이웃 루마 블록들 사이의 바운더리에 대하여 바운더리 강도 값 (Bs) 값들이 결정되는 방법을 예시한다. 표 1 에서, 바운더리 강도 값들은 인트라-코딩된 그리고 인터-코딩된 블록들에 대해 주어진다 (예를 들어, 2 개의 이웃 블록들 중 일방 또는 양방이 인트라-코딩 및/또는 인터-코딩되는 경우).
표 1: 2 개의 이웃하는
루마
블록들 사이의
바운더리에
대한 BS 값들의 정의
표 1 로부터 알수 있는 바와 같이, 2 개의 이웃하는 블록들 중 하나 (예를 들어, 현재 블록 또는 이웃 블록 중 한 블록) 가 인트라-코딩되면, 비디오 코더 (예를 들어, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 2 와 동일하도록 바운더리 강도 값을 설정할 수도 있다. 양쪽 이웃 블록들이 인터-코딩되면, 비디오 코더는 바운더리 강도 값이 1 인지를 결정하기 위하여, ID 3 및 4 에서 레이아웃되는 것으로서, 인터-코딩된 블록들에 대한 모션 벡터들을 식별할 수도 있다. 그렇지 않으면, 바운더리 강도 값은 0 이다.
표 1 은 블록들 중 한 블록이 IBC 모드에서 코딩되는 경우를 예시하지 않는다. 현재의 SCM 의 디블록 필터링 프로세스에서, IBC 코딩된 블록은 인트라-코딩된 블록으로서 처리된다 (예를 들어, 이웃 블록들 중 어느 블록이 IBC 코딩되면, 바운더리 강도 값이 2 이다). 그러나, 일부 다른 기법, 이를 테면, 미국 특허 공개 공보 2014/0376634 A1 에서의 기법은 IBC 코딩된 블록들에 대한 디블록 필터링 프로세스가 인트라-코딩된 블록들로서 IBC 코딩된 블록들을 처리하거나 또는 인터-코딩된 블록들로서 IBC 코딩된 블록들을 처리하는 것에 의해 실현될 수 있다. 미국 출원 번호 제14/743,722호에서, IBC 코딩된 블록은, 디블록 필터링 프로세스 이전에 RefPicList0 또는 RefPicList1 에서 특정 참조 인덱스에서의 참조 블록을 식별하는 모션 벡터에 의해 단방향-예측성 인터-코딩된 블록으로 변환 (으로서 처리) 되며, 디블록 필터링 프로세스에 대한 더 이상의 변경들은 존재하지 않는다.
인트라-코딩된 또는 인터-코딩된 블록 기법을 활용하기보다는 변형안을 제안하였던 C. Rosewarne, JCTVC-R0126, Sapporo, JP, 30 June - 9 July (JCTVC-R0126), JCTVC-R0126 에 대한 표준의 제출 문헌 "On Deblocking for Intra Block Copy" 에서는, IBC 코딩된 블록들이 상이하게 처리되었다. 예를 들어, JCTVC-R0126 에서, 바운더리의 어느 측이 (예를 들어, 2 개의 이웃 블록들 중 어느 블록이) IBC 코딩되면, 바운더리 강도 값은 1 로 설정된다. 그렇지 않으면, 위의 표 1 에서 예시된 예가 사용된다. 이 경우에, 블록이 인트라-코딩되면 바운더리 강도 값이 2 인 표 1 의 경우와 달리, 현재 블록 또는 이웃 블록 중 한 블록이 IBC 코딩되고 다른 블록이 인트라-코딩되면, 바운더리 강도 값은 1 이 된다.
IBC 코딩된 블록들에 의한 바운더리 강도 값 결정에 대한 이들 다른 기법들의 일부에는 문제가 있을 수도 있다. 예를 들어, IBC 코딩된 블록들은 인트라-코딩된 블록들과 유사한 특징들을 갖지 않을 수도 있고, 이에 따라, 이들을 동일하게 처리하는 것은 아티팩트들을 미달 보상 또는 과잉 보상하는 디블록 필터링을 초래할 수도 있다. 블록 바운더리들을 따라 블록성 아티팩트들을 방지하도록 인터-코딩된 블록들의 경우와 유사하게, 2 개의 블록들 중 한 블록이 IBC 코딩될 때 (그리고 다른 블록이 인트라-코딩되지 않을 때) 보다 적은 바운더리 강도 값을 이용하는 것이 보다 더 자연스럽다.
그러나, 인터-코딩된 블록들로서 IBC 코딩된 블록들을 처리하는 것은 또한 원하는 필터링 결과들을 실현하는데 있어 불충분할 수도 있다. 예를 들어, 표 1 에 대하여 위에 설명된 바와 같이, 인터-코딩된 블록들에 대해, 바운더리 강도 값 결정 프로세스는 모션 벡터 식별 및 비교 및 참조 픽처 식별을 포함하고, 이는 인트라-코딩된 블록들에 대한 것보다 더 복잡한 프로세스이다. 따라서, IBC-코딩된 블록들을 인터-코딩된 블록들로서 처리하는 것은 (인트라-코딩된 블록들로서 이들을 처리하는 것에 비하여) 감소된 바운더리 강도 값을 가져올 수도 있지만, 바운더리 강도 값 결정 프로세스는 너무 복잡하게 될 수도 있다.
본 개시는 인트라-코딩된 블록들에 대한 바운더리 강도 결정 프로세스와 인터-코딩된 블록들에 대한 바운더리 강도 결정 프로세스 사이의 차이를 연결하기 위해 인트라 블록 카피 코딩된 블록들 (예를 들어, IBC 모드에서 코딩된 블록들) 의 중간 바운더리 강도 결정 프로세스에 대한 예의 기법들을 설명한다. 예를 들어, 비디오 코더 (예를 들어, 비디오 인코더 (20) 또는 비디오 디코더 (30)) 는 현재 블록 또는 이웃 블록 중 적어도 한 블록이 인트라-예측 모드에서 코딩되는 것에 기초하여 제 1 바운더리 강도 값 결정 프로세스를 수행할 수도 있고, 현재 블록 또는 이웃 블록 중 적어도 하나가 IBC 모드에서 코딩되고 다른 블록이 비-IBC 모드에서 코딩 (예를 들어, 인터-코딩) 되고 어느것도 인트라-예측 모드에서 코딩되지 않는 것에 기초하여 제 2 의 상이한 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 이 제 2 바운더리 강도 값 결정에서, 한 블록이 인터-코딩된 블록이였던 것처럼 행해졌기 때문에 비-IBC 코딩된 블록에 대한 모션 벡터들을 식별하는 것이 없을 수도 있다.
비디오 코더는 결정된 바운더리 강도 값에 기초하여 현재 블록과 이웃 블록 사이의 에지를 따라 디블록 필터링할 수도 있다. 예를 들어, 비디오 코더는 현재 블록과 이웃 블록에서의 픽셀들을 디블록 필터링하는 방식 (예를 들어, 필터 타입, 에지의 각각 측에 이용된 픽셀들의 수, 계수들 등) 을 결정할 수도 있다.
디블록 필터링에 대한 기법들에 더하여, 이 개시에 설명된 예들은 또한, IBC 모드가 현재 픽처에서의 예측에 이용될 때 평균 대역폭을 감소시키는 것에 관련된다. 이들 기법들은 가능한 높은 비트 깊이 (8 비트보다 큼), 상이한 크로마 샘플링 포맷, 이를 테면, 4:4:4, 4:2:2, 4:2:0, 4:0:0 의 지원을 포함하는 스크린 컨텐츠 코딩에 적용가능한 것으로서 설명된다.
위에 설명된 바와 같이, IBC 모드는 그 예측을 위한 동일한 픽처 내의 이전에 디코딩된 필터링되지 않는 샘플들을 이용한다. IBC 모드에 대해, 현재 테스트 모델에서, 검색 범위는 제한되지 않으며, 현재 픽처의 임의의 필터링되지 않는 디코딩된 샘플들을 이용할 수 있다 (전체 검색 IBC). 이는 (시간적 예측에 대하여 요구되는 필터링되어진 디코딩된 샘플들에 더하여) 현재 픽처의 필터링되지 않는 디코딩된 샘플들을 저장하는데 필요한 추가적인 대역폭을 도입한다.
그러나, 대체로, 현재 픽처의 이전에 디코딩된 필터링되지 않은 샘플들 모두가 IBC 모드에서 예측에 이용되는 것은 아니며, 사용량은 컨텐츠의 특징들, 예를 들어, 텍스트 및 그래픽 시퀀스들에 대한 사용량 피크에 의존하며, 카메라 캡처된 컨텐츠에 대해 최소이다. 따라서, 현재 픽처에 대한 이전에 디코딩된 필터링되지 않는 샘플들을 항상 저장하는 것은 대역폭 관점에서 효율적이지 못하다. 일부 예들에서, 비디오 인코더 (20) 는 이전의 디코딩된 코딩된 블록 트리들 (coded block trees; CTBs) 중 어느 것이 IBC 예측에 이용되는지를 표시할 수도 있어, 비디오 디코더 (30) 는 이들 CTB들만을 저장할 수 있음으로써 평균 대역폭을 감소시킨다.
예를 들어, 비디오 코더는 픽처에서의 영역이 픽처에서의 적어도 하나의 블록에 대하여 IBC 모드를 이용하여 예측에 참조되는지의 여부를 결정할 수도 있다. 비디오 코더는 그 영역이 IBC 모드를 이용하여 예측에 참조된다는 결정에 기초하여 픽처에서의 그 영역에 대한 필터링되지 않는 픽셀 값들을 저장할 수도 있고, 그 영역이 IBC 모드에서 예측에 참조되지 않는다는 결정에 기초하여 픽처에서의 영역에 대한 필터링되지 않는 픽셀 값들의 저장을 방지할 수도 있다.
이러한 예들에서, 비디오 코더는 IBC 모드를 이용하여 예측에 참조되지 않는 영역에 대한 필터링된 (예를 들어, 디블록 필터링된 SAO 필터링된, 또는 그 외의 경우의) 픽셀 값들을 여전히 저장할 수도 있다. 그 이유는 필터링된 픽셀 값들이 IBC 예측에 결코 이용되지 않는 경우에도 인터-예측 목적들을 위해 참조 블록을 형성하는데 이용될 수도 있기 때문이다.
도 2 는 이 개시에 설명된 바와 같이, 변환을 위한 기법들을 이용할 수도 있는 비디오 인코더 (20) 의 일 예를 예시하는 블록도이다. 비디오 인코더 (20) 는 다른 코딩 표준들에 관하여 이 개시의 제한 없이 예시의 목적을 위하여 HEVC 코딩의 문맥에서 설명될 것이다.
비디오 인코더 (20) 는 비디오 슬라이스들 내에서 비디오 블록들의 인트라- 및 인터-코딩을 수행할 수도 있다. 인트라 코딩은 주어진 비디오 픽처 내의 비디오에서의 공간적 리던던시를 감소시키거나 제거하기 위해 공간적 예측에 의존한다. 인터-코딩은 비디오 시퀀스의 인접한 픽처들 내에서 비디오에서의 시간적 리던던시를 감소시키거나 제거하기 위해 시간적 예측에 의존한다. 인트라-모드 (I 모드) 는 다양한 공간적 기반 압축 모드들 중 임의의 것을 지칭할 수도 있다. 단방향 예측 (P 모드) 또는 양방향 예측 (B 모드) 과 같은 인터-모드들은 다양한 시간적 기반의 압축 모드들 중 임의의 것을 지칭할 수도 있다. 인트라 블록 카피 모드는 인트라-모드와 유사하게 동일한 픽처 내의 블록들에 의존할 수도 있지만 인터-모드와 유사한 블록 벡터를 갖는다.
도 2 의 예에서, 비디오 인코더 (20) 는 비디오 데이터 메모리 (38), 모드 선택 유닛 (40), 참조 픽처 메모리 (64), 합산기 (50), 변환 프로세싱 유닛 (52), 양자화 유닛 (54) 및 엔트로피 인코딩 유닛 (56) 을 포함한다. 이어서, 모드 선택 유닛 (40) 은 모션 보상 유닛 (44), 모션 추정 유닛 (42), 인트라-예측 유닛 (46), 인트라-BC 유닛 (47) 및 파티션 유닛 (48) 을 포함한다. 비디오 블록 재구성을 위해, 비디오 인코더 (20) 는 역양자화 유닛 (58), 역변환 모듈 (60), 합산기(62) 및 필터링 유닛 (66) 을 또한 포함한다.
비디오 데이터 메모리 (38) 는 비디오 인코더 (20) 의 컴포넌트들에 의해 인코딩될 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (38) 에 저장된 비디오 데이터는 예를 들어, 비디오 소스 (18) 로부터 획득될 수도 있다. 참조 픽처 메모리 (64) 는 비디오 인코더 (20) 에 의해 비디오 데이터를, 예를 들어, 인트라-, 인터-, 또는 IBC-코딩 모드들에서 인코딩하는데 이용하기 위한 참조 비디오 데이터를 저장하는 디코딩된 픽처 버퍼로서 지칭될 수도 있다. 비디오 데이터 메모리 (38) 및 참조 픽처 메모리 (64) 는 여러 메모리 디바이스들, 이를 테면, SDRAM (synchronous DRAM), MRAM (magnetoresistive RAM), RRAM (resistive RAM) 을 포함하는 DRAM (Dynamic random access memory), 또는 다른 유형들의 메모리 디바이스들의 어느 것에 의해 형성될 수도 있다. 비디오 데이터 메모리 (38) 및 참조 픽처 메모리 (64) 는 동일한 메모리 디바이스 또는 별도의 메모리 디바이스들에 의해 제공될 수도 있다. 여러 예들에서, 비디오 데이터 메모리 (38) 는 비디오 인코더 (20) 의 다른 컴포넌트들과의 온칩일 수도 있거나 또는 이들 컴포넌트들에 대하여 오프칩일 수도 있다.
인코딩 프로세스 동안, 비디오 인코더 (20) 는 코딩될 비디오 픽처 또는 슬라이스를 수신한다. 픽처 또는 슬라이스는 복수의 비디오 블록들로 분할될 수도 있다. 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 하나 이상의 참조 픽처들에서의 하나 이상의 블록들에 대한 수신된 비디오 블록의 인터 예측 코딩을 수행하여 시간적 압축을 제공한다. 대안으로서, 인트라-예측 유닛 (46) 은 공간적 예측을 제공하기 위해 코딩될 블록과 동일한 픽처 또는 슬라이스에서 하나 이상의 이웃 블록들에 대해 수신된 비디오 블록의 인트라-예측 코딩을 수행할 수도 있다. 비디오 인코더 (20) 는, 예를 들어 비디오 데이터의 각각의 블록에 대한 적절한 코딩 모드를 선택하기 위해 다중 코딩 패스들을 수행할 수도 있다.
또한, 파티션 유닛 (48) 은 이전 코딩 패스들에서 이전 파티션 방식들의 평가에 기초하여, 비디오 데이터의 블록들을 서브 블록들로 파티션할 수도 있다. 예를 들어, 파티션 유닛 (48) 은 초기에 픽처 또는 슬라이스를 LCU들로 파티션하고, LCU들의 각각을 레이트 왜곡 분석 (예를 들어, 레이트 왜곡 최적화) 에 기초하여 서브-CU들로 파티션할 수도 있다. 모드 선택 유닛 (40) 은 서브-CU들로의 LCU 의 파티션을 표시하는 쿼드트리 데이터 구조를 더 생성할 수도 있다. 쿼드트리의 리프-노드 CU들은 하나 이상의 PU들 및 하나 이상의 TU들을 포함할 수도 있다.
모드 선택 유닛 (40) 은, 예를 들어, 에러 결과들에 기초하여 코딩 모드들 중 하나, 인트라 또는 인터를 선택할 수도 있고, 결과적인 인트라- 또는 인터-코딩된 블록을 합산기 (50) 에 제공하여 잔차 블록 데이터를 생성하고 합산기 (62) 에 제공하여 참조 픽처로서 이용하기 위한 인코딩된 블록을 재구성한다. 모드 선택 유닛 (40) 은 또한 신택스 엘리먼트들, 예컨대 모션 벡터들, 인트라 모드 표시자들, 파티션 정보 및 다른 그러한 신택스 정보를 엔트로피 코딩 유닛 (56) 에 제공한다.
모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 은 고밀도로 통합될 수도 있지만, 개념적 목적들을 위해 별개로 예시되어 있다. 모션 추정 유닛 (42) 에 의해 수행된 모션 추정은 모션 벡터들을 생성하는 프로세스이며, 모션 벡터들은 비디오 블록들에 대한 모션을 예측한다. 모션 벡터는, 예를 들어, 현재 픽처 (또는 다른 코딩된 유닛) 내의 코딩되고 있는 현재 블록에 대해 참조 픽처 (또는 다른 코딩된 유닛) 내의 예측 블록에 대한 현재 비디오 픽처 내의 비디오 블록의 PU 의 변위를 표시할 수도 있다.
예측 블록은 픽셀 차이의 관점에서, 코딩될 비디오 블록과 밀접하게 일치하는 것으로 발견된 블록인데, 픽셀 차이는 절대 차의 합 (sum of absolute difference; SAD), 제곱 차의 합 (sum of square difference; SSD), 또는 다른 차이 메트릭들에 의해 결정될 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 참조 픽처 메모리 (64) 에 저장된 참조 픽처들의 서브-정수 픽셀 위치들 (sub-integer pixel positions) 에 대한 값들을 계산할 수도 있다. 예를 들면, 비디오 인코더 (20) 는 참조 픽처의 1/4 픽셀 위치들, 1/8 픽셀 위치들, 또는 다른 분수의 픽셀 위치들의 값들을 보간할 수도 있다. 따라서, 모션 추정 유닛 (42) 은 전체 픽셀 (full pixel) 위치들 및 부분적 (fractional) 픽셀 위치들에 대한 모션 검색을 수행하고 부분적 픽셀 정밀도를 갖는 모션 벡터를 출력할 수도 있다.
모션 추정 유닛 (42) 은 PU 의 위치를 참조 픽처의 예측 블록의 위치와 비교하는 것에 의해 인터-코딩된 슬라이스에서의 비디오 블록의 PU 에 대한 모션 벡터를 계산한다. 예를 들어, 모션 정보의 세트는 순방향 및 역방향 예측 방향들에 대한 모션 정보를 포함할 수도 있다. 여기에서, 순방향 및 역방향 예측 방향들은 양방향 예측 모드의 2 개의 예측 방향들이며, 용어 "순방향" 및 "역방향" 은 지오메트리 의미를 반드시 갖는 것은 아니다. 그 대신에, 순방향 및 역방향은 현재 픽처의 참조 픽처 리스트 0 (RefPicList0) 및 참조 픽처 리스트 1 (RefPicList1) 에 대응한다. 오직 하나의 참조 픽처 리스트가 픽처 또는 슬라이스에 이용가능할 때, RefPicList0 만이 이용가능하며, 슬라이스의 각각의 블록의 모션 정보는 항상 순방향이다.
일부 경우들에서, 간략화를 위하여, 모션 벡터 자체는 이것이 연관된 참조 인덱스를 갖는 것으로 추정되는 방식으로 언급될 수도 있다. 참조 인덱스는 현재의 참조 픽처 리스트 (RefPicList0 또는 RefPicList1) 에서의 참조 픽처 를 식별하는데 이용될 수도 있으며, 이들 각각은 참조 픽처 메모리 (64) 에 저장된 하나 이상의 참조 픽처들을 식별한다. 모션 벡터는 수평 및 수직 컴포넌트를 갖는다. 모션 추정 유닛 (42) 은 계산된 모션 벡터를 엔트로피 인코딩 유닛 (56) 과 모션 보상 유닛 (44) 으로 전송한다.
일부 사례들에서, 모션 정보는 예측될 수도 있다. 예를 들어, HEVC 표준에서, 아래의 도 6 의 예에 대하여 보다 자세하게 설명될 바와 같이, PU 에 대하여 병합 모드 (스킵 모드가 병합의 특수 케이스로서 고려되는 경우) 및 어드밴스드 모션 벡터 예측 (advanced motion vector prediction; AMVP) 모드로서 지칭되는 2 개의 인터 예측 모드들이 존재한다.
모션 보상 유닛 (44) 에 의해 수행된 모션 보상은, 모션 추정 유닛 (42) 에 의해 결정된 모션 벡터에 기초하여 예측 블록을 페칭 (fetching) 하거나 생성하는 것을 수반할 수도 있다. 또한, 모션 추정 유닛 (42) 과 모션 보상 유닛 (44) 은, 일부 예들에서, 기능적으로 통합될 수도 있다. 현재 비디오 블록의 PU 에 대한 모션 벡터를 수신시, 모션 보상 유닛 (44) 은 기준 픽쳐 리스트들 중 하나에서 모션 벡터가 가리키는 예측 블록을 찾아낼 수도 있다. 합산기 (50) 는 하기에서 논의되는 바와 같이, 픽셀 차이값들을 형성하는, 코딩될 현재 비디오 블록의 픽셀값들로부터 예측 블록의 픽셀값들을 감산하는 것에 의해 잔차 비디오 블록을 형성한다. 일반적으로, 모션 추정 유닛 (42) 은 루마 컴포넌트들에 대한 모션 추정을 수행하고, 모션 보상 유닛 (44) 은 크로마 성분들 및 루마 성분들 양쪽에 대한 루마 성분들에 기초하여 계산된 모션 벡터들을 이용한다. 모드 선택 유닛 (40) 은 또한, 비디오 슬라이스의 비디오 블록들을 디코딩하는데 있어서 비디오 디코더 (30) 에 의한 이용을 위해 비디오 슬라이스 및 비디오 블록들과 연관된 신택스 엘리먼트들을 생성할 수도 있다.
비디오 인코더 (20) 의 인트라-BC 유닛 (47) 은 인트라-블록 카피 모드를 이용하여 비디오 블록의 비디오 압축을 수행할 수도 있다. 예를 들어, 인트라-BC 유닛 (47) 은 현재 슬라이스에서의 다른 블록에 기초하여 현재 슬라이스의 비디오 블록에 대한 예측 정보를 결정할 수도 있다. 인트라-BC 유닛 (47) 은 슬라이스에서 블록을 식별하는 블록 벡터 (이는 또한 "오프셋 벡터" 로서 지칭될 수도 있음) 를 결정할 수도 있다. 블록 벡터는 모션 벡터와 유사하게 수평 컴포넌트 및 수직 컴포넌트를 가질 수도 있다. 인트라-BC 유닛 (47) 은 동일한 슬라이스에서의 예측 블록과 현재 블록 사이의 차이에 기초하여 잔차 블록을 결정할 수도 있다. 비디오 인코더 (20) 는 인코딩된 비트스트림에서 잔차의 표시 및 블록 벡터를 포함할 수도 있다. 일부 사례들에서, 블록 벡터는 모션 벡터들과 동일한 방식으로 예측될 수도 있다.
인트라-예측 모듈 (46) 은, 위에서 설명된 바와 같이, 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 수행된 인터-예측에 대한 대안으로서 현재 블록을 인트라-예측할 수도 있다. 특히, 인트라-예측 유닛 (46) 은 현재 블록을 인코딩하는데 이용하기 위해 인트라-예측 모드를 결정할 수도 있다. 일부 예들에서, 인트라 예측 유닛 (46) 은 예를 들어 별도의 인코딩 패스들 동안, 다양한 인트라 예측 모드들을 사용하여 현재 블록을 인코딩할 수도 있고, 인트라 예측 유닛 (46)(또는 일부 예들에서, 모드 선택 유닛 (40)) 은 테스트된 모드들로부터 사용하는데 적절한 인트라-예측 모드를 선택할 수도 있다.
예를 들어, 인트라-예측 유닛 (46) 은 여러 테스트된 인트라 예측 모드들에 대한 레이트 왜곡 분석을 사용하여 레이트 왜곡값들을 계산하고, 테스트된 모드들 중에서 최상의 레이트 왜곡 특성들을 갖는 인트라 예측 모드를 선택할 수도 있다. 레이트-왜곡 분석은 일반적으로, 인코딩된 블록을 생성하는데 시용된 비트 레이트 (즉, 다수의 비트들) 뿐만 아니라, 인코딩된 블록을 생성하기 위해 인코딩되었던 인코딩된 블록과 원래의 인코딩되지 않은 블록 사이의 왜곡 (또는 에러) 의 양을 결정한다. 인트라-예측 유닛 (46) 은 인트라 예측 모드가 블록에 대한 최상의 레이트 왜곡값을 나타내는 것을 결정하기 위해 여러 인코딩된 블록들에 대한 왜곡들 및 레이트들로부터 비를 계산할 수도 있다.
비디오 인코더 (20) 는 코딩될 원래의 비디오 블록으로부터 모드 선택 유닛 (40) 으로부터의 예측 데이터를 감산하는 것에 의해 잔차 비디오 블록을 형성한다. 합산기 (50) 는 이 감산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다.
변환 프로세싱 유닛 (52) 은, 이산 코사인 변환 (discrete cosine transform; DCT) 또는 개념적으로 유사한 변환과 같은 변환을 잔차 블록에 적용하여, 잔차 변환 계수 값들을 포함하는 비디오 블록을 생성한다. 변환 프로세싱 유닛 (52) 은 DCT 와 개념적으로 유사한 다른 변환들을 수행할 수도 있다. 웨이블릿 변환들, 정수 변환들, 서브-대역 변환들, 또는 다른 유형의 변환들이 또한 이용될 수 있다. 어떠한 경우에도, 변환 프로세싱 유닛 (52) 은 잔차 블록에 변환을 적용하여, 잔차 변환 계수들의 블록을 생성한다. 변환은 잔차 정보를 픽셀 도메인에서 주파수 도메인과 같은 변환 도메인으로 변환할 수도 있다.
변환 프로세싱 유닛 (52) 은 결과적인 변환 계수들을 양자화 유닛 (54) 으로 전송할 수도 있다. 양자화 유닛 (54) 은 변환 계수들을 양자화하여 비트 레이트를 더 감소시킬 수도 있다. 양자화 프로세스는 계수들의 일부 또는 전부와 관련된 비트 깊이를 감소시킬 수도 있다. 양자화의 정도는 양자화 파라미터를 조정하는 것에 의해 변경될 수도 있다. 그 다음, 일부 예들에서, 양자화 유닛 (54) 은 양자화된 변환 계수들을 포함하는 매트릭스의 스캔을 수행할 수도 있다. 대안으로서, 엔트로피 인코딩 유닛 (56) 이 스캔을 수행할 수도 있다.
양자화에 후속하여, 엔트로피 인코딩 유닛 (56) 은 양자화된 변환 계수들을 엔트로피 코딩한다. 예를 들어, 엔트로피 인코딩 유닛 (56) 은 CAVLC (context adaptive variable length coding), CABAC (context adaptive binary arithmetic coding), SBAC (syntax-based context-adaptive binary arithmetic coding), PIPE (probability interval partitioning entropy) 코딩 또는 다른 엔트로피 코딩 기법을 수행할 수도 있다. 컨텍스트 기반 엔트로피 코딩의 경우에 있어서, 컨텍스트는 이웃 블록들에 기초할 수도 있다. 엔트로피 인코딩 유닛 (56) 에 의한 엔트로피 코딩에 후속하여, 인코딩된 비트스트림이 또 다른 디바이스 (예를 들어, 비디오 인코더 (30)) 로 송신될 수도 있거나 또는 이후의 송신 또는 취출을 위해 아카이브될 수도 있다.
역양자화 유닛 (58) 및 역변환 유닛 (60) 은 역양자화 및 역변환을 개별적으로 적용하여, 예를 들어 이후 참조 블록으로서의 사용을 위해, 픽셀 도메인에서 잔차 블록을 재구성한다.
모션 보상 유닛 (44) 은 참조 픽처 메모리 (64) 의 픽처들 중 한 픽처의 예측 블록에 잔차 블록을 가산하는 것에 의해 참조 블록을 계산할 수도 있다. 모션 보상 유닛 (44) 은, 모션 추정에서 사용하기 위한 서브-정수 픽셀 값들을 계산하기 위해, 재구성된 잔차 블록에 하나 이상의 보간 필터들을 또한 적용할 수도 있다. 합산기 (62) 는 재구성된 잔차 블록을 모션 보상 유닛 (44) 에 의해 생성된 모션 보상된 예측 블록에 가산하여 참조 픽처 메모리 (64) 에 저장하기 위한 재구성된 비디오 블록을 생성한다. 재구성된 비디오 블록은 후속하는 비디오 픽처에서의 블록을 인터-코딩하기 위한 참조 블록으로서 모션 추정 유닛 (42) 및 모션 보상 유닛 (44) 에 의해 이용될 수도 있다.
필터링 유닛 (66) 은 다양한 필터링 프로세스들을 수행할 수도 있다. 예를 들어, 필터링 유닛 (66) 은 디블록 필터링을 수행할 수도 있다. 즉, 필터링 유닛 (66) 은 재구성된 비디오의 슬라이스 또는 프레임을 형성하는 복수의 재구성된 비디오 블록들을 수신하고, 슬라이스 또는 프레임으로부터 블록성 아티팩트들을 제거하기 위해 블록 바운더리들을 필터링할 수도 있다. 일 예에서, 필터링 유닛 (66) 은 아래 보다 자세하게 설명될 바와 같이, 비디오 블록의 소위 "바운더리 강도"를 평가한다. 비디오 블록의 바운더리 경계에 기초하여, 한 비디오 블록으로부터의 트랜지션이 뷰어 (viewer) 에게 보다 시인되기 어렵도록, 비디오 블록의 에지 픽셀들은 인접한 비디오 블록의 에지 픽셀들에 대해 필터링될 수도 있다.
이 개시에 설명된 기법들의 여러 양태들에 따르면, 비디오 인코더 (20) 는 아래 설명된 디블록 필터링 및 인트라-블록 카피 기법들을 수행할 수도 있다. 예를 들어, 인트라-BC 유닛 (47) 을 이용하여 블록을 인코딩할 때, 필터링 유닛 (66) 은 블록을 디블록 필터링하고 인트라-블록 카피하기 위하여 이 개시의 기법들을 적용할 수도 있다.
예를 들어, 비디오 인코더 (20) 는 현재 블록 (예를 들어, 인코딩되고 있는 블록) 과 이웃 블록 (예를 들어, 재구성되어 참조 픽처 메모리 (64) 에 저장되었던 이전에 인코딩된 블록) 중 적어도 한 블록이 IBC 모드에서 코딩되고 어느 것도 인트라-예측 모드에서 코딩되지 않을 때 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 이 이웃 블록은 현재 블록의 어느 에지가 디블록 필터링되고 있는지에 기초하여, 상부 블록, 하부 블록, 우측 블록, 또는 좌측 블록일 수도 있다.
필터링 유닛 (66) 또는 가능하다면 모드 선택 유닛 (40) 은 현재 블록과 이웃 블록의 코딩 모드에 기초하여 상이한 바운더리 강도 값 결정 프로세스들을 수행하도록 구성될 수도 있다. 쉬운 설명을 위하여, 필터링 유닛 (66) 이 바운더리 강도 값을 결정하고 있는 것으로 설명한다. 그러나, 일부 예들에서, 모드 선택 유닛 (40) 이 바운더리 강도 값을 결정할 수도 있고 바운더리 강도 값을 출력할 수도 있다. 이들 예들에서, 필터링 유닛 (66) 은 수신된 바운더리 강도 값에 기초하여 디블록 필터링할 수도 있다. 일반적으로, 모드 선택 유닛 (40) 및 필터링 유닛 (66) 이 비디오 인코더 (20) 의 양쪽 부분이기 때문에, 비디오 인코더 (20) 는 예의 기법들을 이용하여 바운더리 강도 값을 결정하고 결정된 바운더리 강도 값에 기초하여 에지를 따라 디블록 필터링하는 것으로서 고려될 수도 있다.
모드 선택 유닛 (40) 은 현재 블록 및 이웃 블록에 대한 코딩 모드를 결정할 수도 있다. 필터링 유닛 (66) 은 다음의 예의 바운더리 강도 결정 프로세스들 중 하나를 수행하는 것에 기초하여 바운더리 강도 값을 결정할 수도 있다. 필터링 유닛 (66) 은 바운더리 강도 값을 결정하기 위해, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-블록 (IBC)-코딩된 블록 (예를 들어, IBC 모드에서 코딩되고 있는 블록) 이고 다른 블록이 인터-코딩된 블록 (예를 들어, 인터-예측된 모드에서 코딩되고 있는 블록) 이라는 것에 기초하여 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 이 예에서, 바운더리 강도 값 결정 프로세스는 표 1 의 ID 3 및 4 에 대한 케이스인 것과 같이 인터-코딩된 블록에 대한 모션 벡터를 수행하는 것을 포함하지 않는다. ID 3 및 4 에 대하여 표 1 에서 나타낸 바와 같이, 바운더리 강도 값은 2 개의 블록들의 모션 벡터 컴포넌트들 사이의 차이들에 기초하여 결정되고, 모션 벡터들은 상이한 픽처들을 지칭하거나 또는 모션 벡터들의 수는 2 개의 블록들에 대해 상이하다.
또한, 모션 벡터는 참조 픽처 리스트로 참조 인덱스에 의해 식별되는 참조 픽처에서의 블록을 지칭한다. 모션 벡터 및 블록 벡터는 혼동되지 않아야 한다. 블록 벡터는 IBC-코딩된 블록에 이용되고, 현재 블록과 동일한 픽처에서의 블록을 지칭한다.
또한, 바운더리 강도 값 결정 프로세스는, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-코딩되고 다른 블록이 IBC-코딩되는 경우의 바운더리 강도 값 결정 프로세스와 상이하다. 예를 들어, 이 바운더리 강도 값 결정 프로세스는 표 1 의 ID 1 과는 상이하다.
예를 들어, JCTVC-R0126 에서, 현재 블록 또는 이웃 블록 중 한 블록이 IBC-코딩되고 다른 블록이 인트라-코딩되는 것 처럼 현재 블록 또는 이웃 블록 중 한 블록이 IBC-코딩되고 다른 블록이 인터-코딩되면 동일한 프로세스를 이용하여 바운더리 강도 값을 결정한다. JCTVC-R0126 에서, 양쪽 경우에 (예를 들어, 하나가 IBC-코딩되고 다른 블록이 인터-코딩되고, 하나가 IBC-코딩되고 다른 블록이 인트라-코딩되는 경우에), JCTVC-R0126 기법들은 바운더리 강도 값 결정을 위한 동일한 프로세스를 이용한다 (예를 들어, 바운더리 강도 값을 1 과 동일하게 설정한다). 이 개시에 설명된 기법들에서, 하나의 블록이 IBC-코딩되고 다른 블록이 인트라-코딩되면, 필터링 유닛 (66) 은 하나의 블록이 IBC-코딩되고 다른 블록이 인터-코딩되는 것과는 상이한 바운더리 강도 값 결정 프로세스를 수행할 수도 있다.
이 개시에 설명된 기법들에서, 필터링 유닛 (66) 은 현재 블록 또는 이웃 블록 중 한 블록이 IBC-코딩된 블록이고 (예를 들어, IBC 모드에서 코딩된 블록) 이고 다른 블록이 인트라-코딩된 블록 (예를 들어, 인트라-예측 모드에서 코딩된 블록) 인 것에 기초하여 제 1 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 필터링 유닛 (66) 은 현재 블록 또는 이웃 블록 중 한 블록이 IBC-코딩된 블록이고 다른 블록이 비-IBC-코딩된 블록이라는 것에 기초하여 제 2 의 상이한 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 이 예에서, 제 2 바운더리 강도 값 결정 프로세스는 비-IBC-코딩된 블록에 대한 모션 벡터를 식별하는 것을 포함하지 않는다.
한 블록이 인터-코딩될 때 그리고 다른 블록이 IBC-코딩될 때 필터링 유닛 (66)(또는 모드 선택 유닛 (40)) 이 수행하는 바운더리 강도 값 결정 프로세스의 일 예는 바운더리 강도 값을 1 과 동일하게 설정하는 것이다. 한 블록이 인터-코딩될 때 그리고 다른 블록이 IBC-코딩될 때 필터링 유닛 (66)(또는 모드 선택 유닛 (40)) 이 수행하는 바운더리 강도 값 결정 프로세스의 다른 예는 IBC-코딩된 블록에 대한 참조 블록을 결정하는 것 및 참조 블록에서의 어느 픽셀이 인트라-예측 모드에서 코딩되는지 또는 IBC 모드에서 코딩되는지의 여부를 결정하는 것을 포함한다. 이 예에서, 필터링 유닛 (66) 또는 모드 선택 유닛 (40) 은 참조 블록에서의 임의의 픽셀이 인트라-예측 모드 또는 IBC 모드에서 코딩되는 것에 기초하여 바운더리 강도 값을 1 과 동일하게 설정할 수도 있거나, 또는 참조 블록에서의 어떠한 픽셀도 인트라-예측 모드 또는 IBC 모드에서 코딩되고 있지 않다는 것에 기초하여 바운더리 강도 값을 1 과 동일하게 설정할 수도 있다.
필터링 유닛 (66) 은 결정된 바운더리 강도 값에 기초하여 현재 블록과 이웃 블록 사이의 에지를 따라 디블록 필터링할 수도 있다. 그 후, 필터링 유닛 (66) 은 필터링된 픽셀 값들이 인터-코딩된 후속하는 블록에 대한 참조 픽셀들로서 이용될 수 있도록, 참조 픽처 메모리 (64) 에 결과적인 필터링된 픽셀 값들을 저장할 수도 있다.
블록이 IBC-코딩될 때에 대한 바운더리 강도 값을 결정하기 위한 예시적인 기법들을 수행하는 것에 더하여, 비디오 인코더 (20) 는 또한, IBC 코딩을 위해 필요하지 않을 픽처에서의 영역에 대한 필터링되지 않는 픽셀 값들의 선택적 저장에 관련된 기법들을 수행하도록 구성될 수도 있다. 예를 들어, 모드 선택 유닛 (40) 은 픽처에서의 영역이 픽처에서의 적어도 하나의 블록에 대하여 IBC 모드를 이용하여 예측에 참조되는지의 여부 (예를 들어, 영역이 IBC 코딩을 위해 참조로서 이용될 것인지의 여부) 를 결정할 수도 있다.
모드 선택 유닛 (40) 은, 영역의 비디오 컨텐츠에 기초하여 또는 다른 일부 기법에 기초하여 영역이 IBC 모드에 대하여 이용될 것인지의 여부의 결정을 수행할 수도 있다. 그러나, 일부 예들에서, 모드 선택 유닛 (40) 은 전체 픽처가 인코딩된 후까지 영역이 IBC 모드에 대하여 이용될 것인지의 여부를 결정가능하지 못할 수도 있다. 이러한 예들에서, 필터링되지 않는 픽셀 값들의 선택적 저장은 비디오 인코더 (20) 측상에 적용가능하지 않을 수도 있다. 비디오 인코더 (20) 가 픽처의 정보를 출력하기 전에 픽처가 완전히 코딩될 때의 예에서, 비디오 인코더 (20) 는 여전히 영역이 IBC 모드에 대하여 이용될 것인지 아닌지의 여부를 결정할 수도 있고 이 정보를 비디오 디코더 (30) 에 출력할 수도 있다. 그 후, 비디오 디코더 (30) 는 비디오 디코더 (30) 가 메모리에 액세스할 필요가 있는 시간의 양이 감소하도록, 필터링되지 않는 픽셀 값들을 선택적으로 저장하도록 이 정보를 활용할 수도 있다.
영역이 IBC 모드를 이용하여 예측에 참조된다고 (예를 들어, IBC 코딩을 위해 참조로서 이용될 것이라고) 모드 선택 유닛 (40) 이 결정하면, 필터링 유닛 (66) 은 필터링 없이 영역의 필터링되지 않는 픽셀 값들을 통과시킬 수도 있고 (또는 모드 선택 유닛 (40) 은 필터링 유닛 (66) 으로 하여금 파선에 의해 예시된 바와 같이 바이패스되게끔 할 수도 있고), 필터링되지 않는 픽셀 값들은 참조 픽처 메모리 (64) 에 저장될 수도 있다. 일부 예들에서, 필터링 유닛 (66) 은 또한, 영역의 픽셀 값들을 필터링할 수도 있고 (예를 들어, 디블록 필터링 및/또는 일부 다른 필터링을 적용할 수도 있고), 참조 픽처 메모리 (64) 에 필터링된 픽셀 값들을 저장할 수도 있다. 따라서, 영역이 IBC 모드를 이용하여 예측에 참조된다고 모드 선택 유닛 (40) 이 결정하면, 참조 픽처 메모리 (64) 는 영역에 대한 필터링되지 않는 픽셀 값들과 영역에 대한 필터링된 픽셀 값들 양쪽을 저장할 수도 있다.
영역이 IBC 모드를 이용하여 예측에 참조되지 않는다고 (예를 들어, IBC 코딩에 참조로서 이용되지 않을 것이라고) 모드 선택 유닛 (40) 이 결정하면, 필터링 유닛 (66)(또는 모드 선택 유닛 (40)) 은 참조 픽처 메모리 (64) 에 필터링되지 않는 픽셀 값들을 저장하는 것을 방지할 수도 있다. 그러나, 필터링 유닛 (66) 은 픽셀 값들을 여전히 필터링할 수도 있고, 참조 픽처 메모리 (64) 에 결과적인 필터링된 픽셀 값들을 저장할 수도 있다. 따라서, 영역이 IBC 모드를 이용하여 예측에 참조되지 않는다고 모드 선택 유닛 (40) 이 결정하면, 참조 픽처 메모리 (64) 는 영역에 대한 필터링된 픽셀 값들을 저장할 수도 있고 영역에 대한 필터링되지 않는 픽셀 값들을 저장하지 않을 수도 있다.
이러한 식으로, 이들 기법들은 비디오 디코더 (30)(그리고 심지어 가능하다면 비디오 인코더 (20)) 가 IBC 모드를 이용하여 예측에 이용되는 영역들만을 선택적으로 저장할 수도 있도록, IBC 예측 사용량 정보를 표시하는 평균 대역폭을 감소시킬 수도 있다. 예를 들어, 필터링되지 않는 픽셀 값들이 필요하지 않으면, 참조 픽처 메모리 (64) 에 대한 액세스는 제한될 수도 있다. 참조 픽처 메모리 (64) 는 비디오 인코더 (20) 의 온-칩 또는 오프-칩일 수도 있고, 일반적으로, 참조 픽처 메모리 (64) 에 대한 액세스를 제한하는 것은 다른 데이터가 저장되기 위한 시간 및 공간을 프리하게 하고 메모리 대역폭 활용을 촉진할 수도 있다.
영역이 IBC 코딩에 참조로서 이용될 것인지의 여부를 표시하는 정보는 플래그 (예를 들어, 특정 CTB 가 예측 유닛 IBC 모드에 대해 적어도 하나의 블록마다 참조되는지의 여부를 각각의 CTB 가 표시하기 위해 시그널링되는 플래그) 일 수도 있다. 그러나, 영역은 CTB 로 제한되지 않을 수도 있다. 영역은 픽처, 타일, 슬라이스, PU 블록, CU, CTB, CTB들의 그룹, NxN 의 고정된 사이즈 (예를 들어, 64x64), 또는 MxN 의 직사각형의 파티션들 (예를 들어, 16x32 또는 32x16) 중 하나일 수도 있다. 비디오 인코더 (20) 는 영역의 사이즈의 이들 예들 중 어느 것에 대한 플래그를 출력할 수도 있다.
또한, 비디오 인코더 (20) 는, 비디오 파라미터 세트 (video parameter set; VPS), 시퀀스 파라미터 세트 (sequence parameter set; SPS), 픽처 파라미터 세트 (picture parameter set; PPS), 슬라이스 헤더, 코딩 트리 유닛 헤더, 코딩 유닛 헤더, 또는 보충적 강화 정보 (supplemental enhancement information; SEI) 메시지 또는 파라미터 세트 확장들 중 하나 이상에서 IBC 모드에 대한 참조로서 이용될 것인지 이용되지 않을 것인지를 표시하는 정보를 출력할 수도 있다. 일부 예들에서, 비디오 인코더 (20) 는 인트라-블록 카피 모드가 인에이블되는지 아닌지의 여부에 기초하여 조건적으로 시그널링할 수도 있다.
일부 예들에서, 비디오 인코더 (20) 는 영역이 참조로서 이용될 것인지의 여부를 표시하는 플래그의 존재를 표시하기 위해 다른 게이팅 플래그를 결정 및 출력할 수도 있다. 예를 들어, 게이팅 플래그가 인에이블되면, 비디오 인코더 (20) 는 영역이 IBC 모드에서 참조를 위해 이용되는지의 여부를 표시하는 플래그를 출력할 수도 있고, 이 게이팅 플래그가 디스에이블되면, 비디오 인코더 (20) 는 영역이 IBC 모드에서의 참조에 이용되는지의 여부를 표시하는 플래그를 출력하지 않을 수도 있다.
또한, CTU들 (또는 여러 세분화도 레벨을 일반적으로 갖는 블록들) 의 수는 CTB 가 인트라 블록 카피 참조로서 이용되는지의 여부를 표시하는 코딩된 또는 디코딩된 플래그들의 수를 식별하도록 명시적으로 시그널링되는 것에 필요할 수도 있다. 예를 들어, 슬라이스 내에 포함된 CTU들의 수가 미리 알려져 있지 않을 수도 있기 때문에, 슬라이스 헤더에서 플래그들이 시그널링되면 이 시그널링이 유용할 수도 있다. 그러나, 웨이브프론트 병렬 프로세싱 (wavefront parallel processing; WPP) 또는 타일들이 인에이블되면, 이러한 정보 (CTU들의 수) 가 이용가능할 수도 있고, 이에 따라 추가적으로 시그널링되는 것이 필요하지 않을 수도 있어, CTU들의 수는 WPP 또는 타일들이 이용되는 경우에만 시그널링될 수 있다.
기법들의 복수의 여러 양태들 및 예들이 이 개시에 설명되어 있지만, 이 기법들의 복수의 여러 양태들 및 예들은 함께 수행될 수도 있거나 또는 서로 개별적으로 수행될 수도 있다. 즉, 기법들은 위에 설명된 여러 양태들 및 예들로 엄격하게 제한되지 않아야 하며, 조합하여 이용될 수도 있거나 또는 함께 및/또는 개별적으로 수행될 수도 있다. 추가로, 특정 기법들이 비디오 인코더 (20) 의 특정 유닛들 (이를 테면, 인트라-BC 유닛 (47) 및/또는 필터링 유닛 (66)) 으로 설명될 수도 있지만, 비디오 인코더 (20) 의 하나 이상의 다른 유닛들이 이러한 기법들을 수행하는 것을 또한 담당할 수도 있음을 이해해야 한다.
도 3 은 본 개시에서 설명되는 변환들을 위한 기법들을 구현할 수도 있는 비디오 디코더 (30) 의 일 예를 예시하는 블록도이다. 또한, 비디오 디코더 (30) 는 다른 코딩 표준들에 관하여 이 개시의 제한 없이 예시의 목적을 위하여 HEVC 코딩의 문맥에서 설명될 것이다.
도 3 의 예에서, 비디오 디코더 (30) 는 비디오 데이터 메모리 (68), 엔트로피 디코딩 유닛 (70), 모드 선택 유닛 (71)(이는 모션 보상 유닛 (72), 인트라-예측 유닛 (74), 및 인트라-BC 유닛 (75) 을 포함함), 역 양자화 유닛 (76), 역변환 유닛 (78), 참조 픽처 메모리 (82), 합산기 (80) 및 필터링 유닛 (84) 을 포함한다.
비디오 데이터 메모리 (68) 는 비디오 디코더 (30) 의 컴포넌트들에 의해 디코딩되는 비디오 데이터, 이를 테면, 인코딩된 비디오 비트스트림을 저장할 수도 있다. 비디오 데이터 메모리 (68) 에 저장된 비디오 데이터는 예를 들어, 컴퓨터 판독가능 매체 (16) 로부터, 예를 들어, 로컬 비디오 소스, 이를 테면, 카메라로부터, 비디오 데이터의 유선 또는 무선 네트워크 통신을 통하여 또는 물리적 데이터 저장 매체에 액세스하는 것에 의해 획득될 수도 있다. 비디오 데이터 메모리 (68) 는 인코딩된 비디오 비트스트림으로부터 인코딩된 비디오 데이터를 저장하는 코딩된 픽쳐 버퍼 (coded picture buffer; CPB) 를 형성할 수도 있다. 참조 픽처 메모리 (82) 는 비디오 디코더 (30) 에 의해 비디오 데이터를, 예를 들어, 인트라-, 인터-, 또는 IBC-코딩 모드들에서 디코딩하는데 이용하기 위한 참조 비디오 데이터를 저장하는 디코딩된 픽처 버퍼로서 지칭될 수도 있다. 비디오 데이터 메모리 (68) 및 참조 픽처 메모리 (82) 는 여러 메모리 디바이스들, 이를 테면, SDRAM (synchronous DRAM), MRAM (magnetoresistive RAM), RRAM (resistive RAM) 을 포함하는 DRAM (Dynamic random access memory), 또는 다른 유형들의 메모리 디바이스들의 어느 것에 의해 형성될 수도 있다. 비디오 데이터 메모리 (68) 및 참조 픽처 메모리 (82) 는 동일한 메모리 디바이스 또는 별도의 메모리 디바이스들에 의해 제공될 수도 있다. 여러 예들에서, 비디오 데이터 메모리 (68) 는 비디오 디코더 (30) 의 다른 컴포넌트들과의 온칩일 수도 있거나 또는 이들 컴포넌트들에 대하여 오프칩일 수도 있다.
디코딩 프로세스 동안, 비디오 디코더 (30) 는 비디오 인코더 (20) 로부터, 관련 신택스 엘리먼트들과 인코딩된 비디오 슬라이스의 비디오 블록들을 나타내는 인코딩된 비디오 비트스트림을 수신한다. 비디오 디코더 (30) 의 엔트로피 디코딩 유닛 (70) 은 양자화된 계수들, 모션 벡터들 또는 인트라 예측 모드 표시자들, 및 다른 신택스 엘리먼트들을 생성하기 위해 비트스트림을 엔트로피 디코딩한다. 엔트로피 디코딩 유닛 (70) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 모션 보상 유닛 (72) 으로 포워딩한다. 비디오 디코더 (30) 는 비디오 슬라이스 레벨 및/또는 비디오 블록 레벨에서 신택스 엘리먼트들을 수신할 수도 있다.
비디오 슬라이스가 인트라 코딩된 (I) 슬라이스로서 코딩될 때, 인트라-예측 유닛 (74) 은 현재 픽처의 이전에 디코딩된 블록들로부터의 데이터 및 시그널링된 인트라 예측 모드에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 데이터를 생성할 수도 있다. 비디오 픽처가 인터-코딩된 (예를 들어, B 또는 P) 슬라이스로서 코딩될 때, 모션 보상 유닛 (72) 은 엔트로피 디코딩 유닛 (70) 으로부터 수신된 다른 신택스 엘리먼트들 및 모션 벡터들에 기초하여 현재 비디오 슬라이스의 비디오 블록에 대한 예측 블록들을 생성한다. 예측 블록들은 참조 픽처 리스트들 중 하나 내의 참조 픽처들 중 한 픽처로부터 생성될 수도 있다. 비디오 디코더 (30) 는, 참조 픽처 메모리 (82) 에 저장된 참조 픽처들에 기초한 디폴트 구성 기법들을 이용하여, 참조 픽처 리스트들, efPicList0 및 RefPicList1 을 구성할 수도 있다.
모션 보상 유닛 (72) 은 모션 벡터들 및 다른 신택스 엘리먼트들을 파싱 (parsing) 하는 것에 의해 현재 비디오 슬라이스의 비디오 블록에 대한 예측 정보를 결정하고, 이 예측 정보를 사용하여 코딩될 현재 비디오 블록을 위한 예측 블록들을 생성한다. 예를 들어, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들의 일부를 사용하여, 비디오 슬라이스의 비디오 블록을 코딩하는데 사용되는 예측 모드 (예를 들어, 인트라- 또는 인터-예측), 인터 예측 슬라이스 유형 (예를 들어, B 슬라이스 또는 P 슬라이스), 슬라이스에 대한 참조 픽처들 중 하나 이상을 위한 구성 정보, 슬라이스의 각각의 인터 인코딩된 비디오 블록을 위한 모션 벡터들, 슬라이스의 각각의 인터 코딩된 비디오 블록을 위한 인터 예측 상태, 및 현재 비디오 슬라이스에서의 비디오 블록들을 디코딩하기 위한 다른 정보를 결정한다.
모션 보상 유닛 (72) 은 또한 보간 필터들에 기초하여 보간을 수행할 수도 있다. 모션 보상 유닛 (72) 은 레퍼런스 블록들의 서브 정수 픽셀들에 대한 보간된 값들을 계산하기 위해 비디오 블록들의 인코딩 동안 비디오 인코더 (20) 에 의해 사용되는 바와 같이 보간 필터들을 사용할 수도 있다. 이 경우, 모션 보상 유닛 (72) 은 수신된 신택스 엘리먼트들로부터 비디오 인코더 (20) 에 의해 사용되는 보간 필터들을 결정하고 이 보간 필터들을 사용하여 예측 블록들을 생성할 수도 있다.
비디오 디코더 (30) 의 인트라-BC 유닛 (75) 은 인트라-블록 카피를 수행할 수도 있다. 예를 들어, 인트라-BC 유닛 (75) 은 예를 들어, 현재 디코딩되고 있는 픽처에서의 다른 블록을 식별하는 블록 벡터 및 잔차 블록을 포함하는 현재 슬라이스의 비디오 블록에 대한 예측 정보를 수신할 수도 있다. 일부 사례들에서, 블록 벡터는 아래 설명된 바와 같이, 블록 벡터 예측기에 대하여 코딩될 수도 있다. 인트라-BC 유닛 (75) 은 오프셋 벡터에 의해 식별되는 블록 및 수신된 잔차 블록을 결합하는 것에 의해 픽처의 현재 블록을 결정할 수도 있다.
역 양자화 유닛 (76) 은 비트스트림으로 제공되고 엔트로피 디코딩 유닛 (70) 에 의해 디코딩된 양자화된 변환 계수들을 역양자화, 즉, 양자화 해제한다. 역 양자화 프로세스는 비디오 슬라이스에서의 각각의 비디오 블록에 대해 비디오 디코더 (30) 에 의해 계산된 양자화 파라미터 (QPY) 의 사용을 포함하여 양자화의 정도를 결정하고, 마찬가지로 적용되어야 하는 역 양자화의 정도를 결정할 수도 있다.
역변환 모듈 (78) 은, 픽셀 도메인에서의 잔차 블록들을 생성하기 위해 변환 계수들에 대해 역변환, 예를 들어, 역 DCT, 역정수 변환, 또는 개념적으로 유사한 역변환 프로세스를 적용한다. 비디오 디코더 (30) 는 모션 보상 유닛 (72) 에 의해 생성된 대응하는 예측 블록들과 역변환 유닛 (78) 으로부터의 잔차 블록들을 합산하는 것에 의해 디코딩된 비디오 블록을 형성한다. 합산기 (80) 는 이 합산 동작을 수행하는 컴포넌트 또는 컴포넌트들을 나타낸다.
필터링 유닛 (84) 은 일부 예들에서, 비디오 인코더 (20; 도 2) 의 필터링 유닛 (66) 과 유사하게 구성될 수도 있다. 예를 들어, 필터링 유닛 (84) 은 인코딩된 비트스트림으로부터 비디오 데이터를 디코딩하고 재구성할 때 디블록 필터링, SAO, 또는 다른 필터링 동작들을 수행하도록 구성될 수도 있다. 특히, 일부 예들에서, 필터링 유닛 (84) 은 아래 도 4 의 예에 대하여 설명된 바와 같이 디블록 필터링을 수행할 수도 있다.
이 개시에 설명된 기법들의 여러 양태들에 따르면, 비디오 디코더 (30) 는 아래 설명된 디블록 필터링 및 인트라-블록 카피 기법들을 수행할 수도 있다. 예를 들어, 인트라-BC 유닛 (75) 을 이용하여 블록을 디코딩할 때, 필터링 유닛 (84) 은 블록을 디블록 필터링하고 인트라-블록 카피하기 위하여 이 개시의 기법들을 적용할 수도 있다.
예를 들어, 비디오 디코더 (30) 는 비디오 인코더 (20) 에 대하여 위에 설명된 바운더리 강도 값 결정 프로세스와 유사하게 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 예를 들어, 비디오 디코더 (30) 는 현재 블록 (예를 들어, 디코딩되고 있는 블록) 과 이웃 블록 (예를 들어, 참조 픽처 메모리 (82) 에 저장된 이전에 디코딩된 블록) 중 적어도 하나가 IBC 모드에서 코딩되고 어느것도 인트라-예측 모드에서 코딩되지 않을 때 바운더리 강도 값을 결정할 수도 있다. 위와 같이, 이웃 블록은 현재 블록의 어느 에지가 디블록 필터링되고 있는지에 기초하여, 상부 블록, 하부 블록, 우측 블록, 또는 좌측 블록일 수도 있다.
필터링 유닛 (84) 또는 가능하다면 모드 선택 유닛 (71) 은 현재 블록과 이웃 블록의 코딩 모드에 기초하여 상이한 바운더리 강도 값 결정 프로세스들을 수행하도록 구성될 수도 있다. 쉬운 설명을 위하여, 필터링 유닛 (84) 이 바운더리 강도 값을 결정하고 있는 것으로 설명한다. 그러나, 일부 예들에서, 모드 선택 유닛 (71) 이 바운더리 강도 값을 결정할 수도 있고 바운더리 강도 값을 출력할 수도 있다. 이들 예들에서, 필터링 유닛 (84) 은 수신된 바운더리 강도 값에 기초하여 디블록 필터링할 수도 있다. 일반적으로, 모드 선택 유닛 (71) 및 필터링 유닛 (84) 이 비디오 디코더 (30) 의 양쪽 부분이기 때문에, 비디오 인코더 (30) 는 예의 기법들을 이용하여 바운더리 강도 값을 결정하고 결정된 바운더리 강도 값에 기초하여 에지를 따라 디블록 필터링하는 것으로서 고려될 수도 있다.
모드 선택 유닛 (71) 은 (예를 들어, 엔트로피 디코딩 유닛 (70) 에 의해 제공된 정보에 기초하여) 현재 블록 및 이웃 블록에 대한 코딩 모드를 결정할 수도 있다. 필터링 유닛 (84) 은 다음의 예의 바운더리 강도 결정 프로세스들 중 하나를 수행하는 것에 기초하여 바운더리 강도 값을 결정할 수도 있다. 필터링 유닛 (84) 은 바운더리 강도 값을 결정하기 위해, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-블록 (IBC)-코딩된 블록 (예를 들어, IBC 모드에서 코딩되고 있는 블록) 이고 다른 블록이 인터-코딩된 블록 (예를 들어, 인터-예측된 모드에서 코딩되고 있는 블록) 이라는 것에 기초하여 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 이 예에서, 바운더리 강도 값 결정 프로세스는 표 1 의 ID 3 및 4 에 대한 케이스인 것과 같이 인터-코딩된 블록에 대한 모션 벡터를 수행하는 것을 포함하지 않는다. 또한, ID 3 및 4 에 대하여 표 1 에서 나타낸 바와 같이, 바운더리 강도 값은 2 개의 블록들의 모션 벡터 컴포넌트들 사이의 차이들에 기초하여 결정되고, 모션 벡터들은 상이한 픽처들을 지칭하거나 또는 모션 벡터들의 수는 2 개의 블록들에 대해 상이하다.
반복하여 말하면, 모션 벡터는 참조 픽처 리스트로 참조 인덱스에 의해 식별되는 참조 픽처에서의 블록을 지칭한다. 용어 "모션 벡터" 및 "블록 벡터"는 혼동되지 않아야 한다. 블록 벡터는 IBC-코딩된 블록에 이용되고, 현재 블록과 동일한 픽처에서의 예측 블록을 적시한다. 이와 대조적으로, 모션 벡터는 현재 블록과 연관된 픽처와는 상이한 픽처에서의 예측 블록을 적시한다.
또한, 바운더리 강도 값 결정 프로세스는, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-코딩되고 다른 블록이 IBC-코딩되는 경우의 바운더리 강도 값 결정 프로세스와 상이하다. 예를 들어, 이 바운더리 강도 값 결정 프로세스는 표 1 의 ID 1 과는 상이하다.
위에 설명된 바와 같이, JCTVC-R0126 에서, 양쪽 경우에 (예를 들어, 하나가 IBC-코딩되고 다른 블록이 인터-코딩되고, 하나가 IBC-코딩되고 다른 블록이 인트라-코딩되는 경우에), JCTVC-R0126 기법들은 바운더리 강도 값 결정을 위한 동일한 프로세스를 이용한다 (예를 들어, 바운더리 강도 값을 1 과 동일하게 설정한다. 이 개시에 설명된 기법들에서, 하나의 블록이 IBC-코딩되고 다른 블록이 인트라-코딩되면, 필터링 유닛 (84) 은 하나의 블록이 IBC-코딩되고 다른 블록이 인터-코딩되는 것과는 상이한 바운더리 강도 값 결정 프로세스를 수행할 수도 있다.
이 개시에 설명된 기법들에서, 필터링 유닛 (84) 은 현재 블록 또는 이웃 블록 중 한 블록이 IBC-코딩된 블록이고 (예를 들어, IBC 모드에서 코딩된 블록) 이고 다른 블록이 인트라-코딩된 블록 (예를 들어, 인트라-예측 모드에서 코딩된 블록) 인 것에 기초하여 제 1 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 필터링 유닛 (84) 은 현재 블록 또는 이웃 블록 중 한 블록이 IBC-코딩된 블록이고 다른 블록이 비-IBC-코딩된 블록이라는 것에 기초하여 제 2 의 상이한 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 이 예에서, 제 2 바운더리 강도 값 결정 프로세스는 비-IBC-코딩된 블록에 대한 모션 벡터를 식별하는 것을 포함하지 않는다.
한 블록이 인터-코딩될 때 그리고 다른 블록이 IBC-코딩될 때 필터링 유닛 (84)(또는 모드 선택 유닛 (71)) 이 수행하는 바운더리 강도 값 결정 프로세스의 일 예는 바운더리 강도 값을 1 과 동일하게 설정하는 것이다. 한 블록이 인터-코딩될 때 그리고 다른 블록이 IBC-코딩될 때 필터링 유닛 (84)(또는 모드 선택 유닛 (71)) 이 수행하는 바운더리 강도 값 결정 프로세스의 다른 예는 IBC-코딩된 블록에 대한 참조 블록을 결정하는 것 및 참조 블록에서의 어느 픽셀이 인트라-예측 모드에서 코딩되는지 또는 IBC 모드에서 코딩되는지의 여부를 결정하는 것을 포함한다. 이 예에서, 필터링 유닛 (84) 또는 모드 선택 유닛 (71) 은 참조 블록에서의 임의의 픽셀이 인트라-예측 모드 또는 IBC 모드에서 코딩되는 것에 기초하여 바운더리 강도 값을 1 과 동일하게 설정할 수도 있거나, 또는 참조 블록에서의 어떠한 픽셀도 인트라-예측 모드 또는 IBC 모드에서 코딩되고 있지 않다는 것에 기초하여 바운더리 강도 값을 1 과 동일하게 설정할 수도 있다.
필터링 유닛 (84) 은 결정된 바운더리 강도 값에 기초하여 현재 블록과 이웃 블록 사이의 에지를 따라 디블록 필터링할 수도 있다. 그 후, 필터링 유닛 (84) 은 필터링된 픽셀 값들이 인터-코딩된 후속하는 블록에 대한 참조 픽셀들로서 디스플레이되고 가능하게 이용될 수 있도록, 참조 픽처 메모리 (82) 에 결과적인 필터링된 픽셀 값들을 저장할 수도 있다.
블록이 IBC-코딩될 때에 대한 바운더리 강도 값을 결정하기 위한 예시적인 기법들을 수행하는 것에 더하여, 비디오 디코더 (30) 는 또한, IBC 코딩을 위해 필요하지 않을 픽처에서의 영역에 대한 필터링되지 않는 픽셀 값들의 선택적 저장에 관련된 기법들을 수행하도록 구성될 수도 있다. 예를 들어, 모드 선택 유닛 (71) 은 픽처에서의 영역이 픽처에서의 적어도 하나의 블록에 대하여 IBC 모드를 이용하여 예측에 참조되는지의 여부 (예를 들어, 영역이 IBC 코딩을 위해 참조로서 이용될 것인지의 여부) 를 결정할 수도 있다.
모드 선택 유닛 (71) 은 인코딩된 비디오 비트스트림에서 수신된 정보에 기초하여 영역이 IBC 모드에 대해 이용될 것인지의 여부의 결정을 수행할 수도 있다. 예를 들어, 위에 설명된 바와 같이, 비디오 인코더 (20) 는 IBC 코딩에 대해 영역이 참조될지의 여부를 표시하는 정보를 출력할 수도 있다. 일부 예들에서, 비디오 컨텐츠에 기초하여 IBC 모드에 대해 영역이 이용될지의 여부를 모드 선택 유닛 (71) 이 결정하는 것이 가능할 수도 있다.
영역이 IBC 모드를 이용하여 예측에 참조된다고 (예를 들어, IBC 코딩을 위해 참조로서 이용될 것이라고) 모드 선택 유닛 (71) 이 결정하면, 필터링 유닛 (84) 은 필터링 없이 영역의 필터링되지 않는 픽셀 값들을 통과시킬 수도 있고 (또는 모드 선택 유닛 (71) 은 필터링 유닛 (84) 으로 하여금 파선에 의해 예시된 바와 같이 바이패스되게끔 할 수도 있고), 필터링되지 않는 픽셀 값들은 참조 픽처 메모리 (82) 에 저장될 수도 있다. 일부 예들에서, 필터링 유닛 (84) 은 또한, 영역의 픽셀 값들을 필터링할 수도 있고 (예를 들어, 디블록 필터링 및/또는 일부 다른 필터링을 적용할 수도 있고), 참조 픽처 메모리 (82) 에 필터링된 픽셀 값들을 저장할 수도 있다. 따라서, 영역이 IBC 모드를 이용하여 예측에 참조된다고 모드 선택 유닛 (71) 이 결정하면, 참조 픽처 메모리 (71) 는 영역에 대한 필터링되지 않는 픽셀 값들과 영역에 대한 필터링된 픽셀 값들 양쪽을 저장할 수도 있다.
영역이 IBC 모드를 이용하여 예측에 참조되지 않는다고 (예를 들어, IBC 코딩에 참조로서 이용되지 않을 것이라고) 모드 선택 유닛 (71) 이 결정하면, 필터링 유닛 (84)(또는 모드 선택 유닛 (71)) 은 참조 픽처 메모리 (82) 에 필터링되지 않는 픽셀 값들을 저장하는 것을 방지할 수도 있다. 그러나, 필터링 유닛 (84) 은 픽셀 값들을 여전히 필터링할 수도 있고, 참조 픽처 메모리 (82) 에 결과적인 필터링된 픽셀 값들을 저장할 수도 있다. 따라서, 영역이 IBC 모드를 이용하여 예측에 참조되지 않는다고 모드 선택 유닛 (71) 이 결정하면, 참조 픽처 메모리 (82) 는 영역에 대한 필터링된 픽셀 값들을 저장할 수도 있고 영역에 대한 필터링되지 않는 픽셀 값들을 저장하지 않을 수도 있다.
이러한 식으로, 이들 기법들은 비디오 디코더 (30) 가 IBC 모드를 이용하여 예측에 이용되는 영역들만을 선택적으로 저장할 수도 있도록, IBC 예측 사용량 정보를 표시하는 평균 대역폭을 감소시킬 수도 있다. 예를 들어, 필터링되지 않는 픽셀 값들이 필요하지 않으면, 참조 픽처 메모리 (82) 에 대한 액세스는 제한될 수도 있다. 참조 픽처 메모리 (82) 는 비디오 인코더 (30) 의 온-칩 또는 오프-칩일 수도 있고, 일반적으로, 참조 픽처 메모리 (82) 에 대한 액세스를 제한하는 것은 다른 데이터가 저장되기 위한 시간 및 공간을 프리하게 하고 메모리 대역폭 활용을 촉진할 수도 있다.
비디오 디코더 (30) 는 영역이 IBC 코딩에 참조로서 이용될 것인지의 여부를 표시하는 정보로서의 플래그 (예를 들어, 특정 CTB 가 예측 유닛 IBC 모드에 대해 적어도 하나의 블록마다 참조되는지의 여부를 각각의 CTB 가 표시하기 위해 시그널링되는 플래그) 를 디코딩할 수도 있다. 그러나, 영역은 CTB 로 제한되지 않을 수도 있다. 영역은 픽처, 타일, 슬라이스, PU 블록, CU, CTB, CTB들의 그룹, NxN 의 고정된 사이즈 (예를 들어, 64x64), 또는 MxN 의 직사각형의 파티션들 (예를 들어, 16x32 또는 32x16) 중 하나일 수도 있다. 비디오 디코더 (30) 는 영역의 사이즈의 이들 예들 중 어느 것에 대한 플래그를 출력할 수도 있다.
또한, 비디오 인코더 (30) 는, 비디오 파라미터 세트 (video parameter set; VPS), 시퀀스 파라미터 세트 (sequence parameter set; SPS), 픽처 파라미터 세트 (picture parameter set; PPS), 슬라이스 헤더, 코딩 트리 유닛 헤더, 코딩 유닛 헤더, 또는 보충적 강화 정보 (supplemental enhancement information; SEI) 메시지 또는 파라미터 세트 확장들 중 하나 이상에서 IBC 모드에 대한 참조로서 이용될 것인지 이용되지 않을 것인지를 표시하는 정보를 수신할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 는 인트라-블록 카피 모드가 인에이블되는지 아닌지의 여부에 기초하여 조건적으로 정보를 수신할 수도 있다.
일부 예들에서, 비디오 디코더 (30) 는 영역이 참조로서 이용될 것인지의 여부에 대한 플래그의 존재를 표시하는 다른 게이팅 플래그를 수신할 수도 있다. 게이팅 플래그는 영역이 참조로서 이용될 것인지의 여부를 표시하는 플래그가 비트스트림에 존재하는지 아닌지의 여부를 첫번째로 표시하는 하이-레벨 플래그일 수도 있다. 예를 들어, 이 게이팅 플래그가 하이이면, 비디오 디코더 (30) 는 영역이 IBC 모드에서 참조를 위해 이용되는지의 여부를 표시하는 플래그를 수신할 수도 있고, 이 게이팅 플래그가 로우이면, 비디오 디코더 (30) 는 영역이 IBC 모드에서의 참조에 이용되는지의 여부를 표시하는 플래그를 수신하지 않을 수도 있다.
또한, CTU들 (또는 여러 세분화도 레벨을 일반적으로 갖는 블록들) 의 수는 CTB 가 인트라 블록 카피 참조로서 이용되는지의 여부를 표시하는 코딩된 또는 디코딩된 플래그들의 수를 식별하도록 명시적으로 시그널링되는 것에 필요할 수도 있다. 예를 들어, 슬라이스 내에 포함된 CTU들의 수가 미리 알려져 있지 않을 수도 있기 때문에, 슬라이스 헤더에서 플래그들이 시그널링되면 이 시그널링이 유용할 수도 있다. 그러나, 웨이브프론트 병렬 프로세싱 (wavefront parallel processing; WPP) 또는 타일들이 인에이블되면, 이러한 정보 (CTU들의 수) 가 이용가능할 수도 있고, 이에 따라 추가적으로 시그널링되는 것이 필요하지 않을 수도 있어, CTU들의 수는 WPP 또는 타일들이 이용되는 경우에만 시그널링될 수 있다.
기법들의 복수의 여러 양태들 및 예들이 이 개시에 설명되어 있지만, 이 기법들의 복수의 여러 양태들 및 예들은 함께 수행될 수도 있거나 또는 서로 개별적으로 수행될 수도 있다. 즉, 기법들은 위에 설명된 여러 양태들 및 예들로 엄격하게 제한되지 않아야 하며, 조합하여 이용될 수도 있거나 또는 함께 및/또는 개별적으로 수행될 수도 있다. 또한, 특정 기법들이 비디오 디코더 (30) 의 특정 유닛들로 설명될 수도 있지만, 비디오 디코더 (30) 의 하나 이상의 다른 유닛들이 이러한 기법들을 수행하는 것을 또한 담당할 수도 있음을 이해하여야 한다.
이 개시의 양태들에 따르면, 비디오 인코더 (20) 및/또는 비디오 디코더 (30) 는 위에 설명된 디블록 필터링 기법들을 수행할 수도 있다. 어떠한 비디오 코딩 표준에도 엄격하게 적용되는 것은 아니지만, 이 기법들은 HEVC 레인지 확장들, 스크린 컨텐츠 코딩 확장들, 또는 가능하게는 다른 표준화된 또는 독점적 비디오 압축 프로세스들에 이용될 수도 있다.
위의 예들은 비디오 인코더 (20) 또는 비디오 디코더 (30) 가 디블록 필터링을 위한 바운더리 강도 값을 결정하는 기법들을 설명한다. 비디오 인코더 (20) 및 비디오 디코더 (30) 양쪽이 비디오 데이터를 프로세싱하기 위한 동일한 기법들을 수행하기 때문에, 본 개시는 용어 "비디오 코더" 를 이용하여 양쪽 모두를 일반적으로 지칭한다. 예를 들어, 다음은 바운더리 강도 값을 결정하기 위해 디블록 필터링 프로세스에 대한 변경들의 3 개의 예의 기법들에 대한 것이다. 설명된 기법 1-3 에서 지칭된 "변경들"은 HEVC 버전 1 에 관련될 수도 있다.
기법 1 의 예로서, 비디오 코더가 인트라 블록 카피가 이용된다고 결정할 때, 디블록 필터링 프로세스는 다음과 같이 변경될 수도 있다. 비디오 코더가 에지의 어느 쪽 (예를 들어, 현재 블록 또는 이웃 블록 중 어느 것) 이 인트라-코딩된 블록이라고 결정하면, 비디오 코더는 표 1 과 유사하게, 바운더리 강도 값을 2 와 동일하도록 설정할 수도 있다. 그 외에, 비디오 코더가 에저의 어느 쪽이 IBC-코딩된 블록이라고 (그리고 어느 것도 인트라-코딩되지 않은 블록이라고)결정하면, 비디오 코더는 1 과 동일하게 바운더리 강도 값을 설정할 수도 있다. 그 외에 (예를 들어, 어느 블록도 인트라-코딩되지 않고 어느 블록도 IBC-코딩되지 않으면), 비디오 코더는 표 1 에서 위에 설명된 상호규칙들을 적용하여 바운더리 강도 값을 0 또는 1 과 동일하도록 설정할 수도 있다.
기법 2 의 예로서, 비디오 코더가 인트라 블록 카피가 이용된다고 결정할 때, 디블록 필터링 프로세스는 다음과 같이 변경될 수도 있다. 비디오 코더가 에지의 어느 쪽 (예를 들어, 현재 블록 또는 이웃 블록 중 어느 것) 이 인트라-코딩된 블록이라고 결정하면, 비디오 코더는 표 1 과 유사하게, 바운더리 강도 값을 2 와 동일하도록 설정할 수도 있다. 그 외에, 비디오 코더가 에저의 어느 쪽이 IBC-코딩된 블록이라고 (그리고 어느 것도 인트라-코딩되지 않은 블록이라고)결정하면, 비디오 코더는 IBC-코딩된 블록에 대한 블록 벡터에 기초하여 IBC-코딩된 블록의 참조 블록을 식별할 수도 있다. 이 참조 블록에서의 어느 픽셀이 인트라-예측 모드에서 코딩되면, 비디오 코더는 바운더리 강도 값을 2 와 동일하게 설정할 수도 있다. 그렇지 않으면, 비디오 코더는 바운더리 강도 값을 1 과 동일하게 설정한다. 그 외에 (예를 들어, 어느 블록도 인트라-코딩되지 않고 어느 블록도 IBC-코딩되지 않으면), 비디오 코더는 표 1 에서 위에 설명된 상호규칙들을 적용하여 바운더리 강도 값을 0 또는 1 과 동일하도록 설정할 수도 있다.
기법 3 의 예로서, 비디오 코더가 인트라 블록 카피가 이용된다고 결정할 때, 디블록 필터링 프로세스는 다음과 같이 변경될 수도 있다. 비디오 코더가 에지의 어느 쪽 (예를 들어, 현재 블록 또는 이웃 블록 중 어느 것) 이 인트라-코딩된 블록이라고 결정하면, 비디오 코더는 표 1 과 유사하게, 바운더리 강도 값을 2 와 동일하도록 설정할 수도 있다. 그 외에, 비디오 코더가 에저의 어느 쪽이 IBC-코딩된 블록이라고 (그리고 어느 것도 인트라-코딩되지 않은 블록이라고)결정하면, 비디오 코더는 IBC-코딩된 블록에 대한 블록 벡터에 기초하여 IBC-코딩된 블록의 참조 블록을 식별할 수도 있다. 이 참조 블록에서의 어느 픽셀이 인트라-예측 모드 또는 IBC-모드에서 코딩되면, 비디오 코더는 바운더리 강도 값을 2 와 동일하게 설정할 수도 있다. 그렇지 않으면, 비디오 코더는 바운더리 강도 값을 1 과 동일하게 설정한다. 그 외에 (예를 들어, 어느 블록도 인트라-코딩되지 않고 어느 블록도 IBC-코딩되지 않으면), 비디오 코더는 표 1 에서 위에 설명된 상호규칙들을 적용하여 바운더리 강도 값을 0 또는 1 과 동일하도록 설정할 수도 있다.
따라서, 비디오 코더 (이를 테면, 비디오 인코더 (20) 및/또는 비디오 디코더 (30)) 는, 에지를 형성하는 적어도 하나의 블록이 인트라-블록 카피 (인트라-BC) 모드를 이용하여 코딩되는지의 여부에 기초하여 비디오 데이터의 픽처에서의 에지를 디블록 필터링하기 위한 바운더리 강도 값을 결정하고 결정된 바운더리 강도 값을 이용하여 에지를 디블록 필터링하는 것을 포함한, 비디오 데이터를 프로세싱할 수도 있다. 바운더리 강도 값은 예를 들어, 필터링 유닛 (66) 및/또는 필터링 유닛 (84) 에 의해 구현되는 바와 같은 디블록 필터링 프로세스 동안에 이용되는 파라미터일 수도 있다.
도 4a 내지 도 4i 는 이웃하는 블록들의 상이한 코딩 모드들의 상이한 조합들을 예시하는 개념도들이다. 도 4a 내지 도 4e 에 예시된 예에서, 이웃 블록들 중 적어도 하나가 인트라-코딩된다. 따라서, 이들 예들에서, 비디오 코더는 제 1 바운더리 강도 값 결정 프로세스를 수행할 수도 있다 (예를 들어, 바운더리 강도 값을 2 와 동일하도록 설정한다). 이러한 제 1 바운더리 강도 값 결정 프로세스는 위의 표 1 에서의 ID 1 과 동일할 수도 있다. 도 4a 내지 도 4i 는 이웃들이 또한 상부 및 하부 이웃들일 수 있지만 나란히 있는 것으로서 이웃들을 도시한다.
제 1 바운더리 강도 값 결정 프로세스는 JCTVC-R0126 기법들과는 상이하다. JCTVC-R0126 에서, 블록들 중 하나가 IBC 코딩되면, 바운더리 강도 값은 1 이다. 예를 들어, JCTVC-R0126 에서, 도 4b 및 도 4c 에 대한 바운더리 강도 값은 블록들 중 한 블록이 IBC-코딩되기 때문에 1 이 된다. 그러나, 이 개시에 설명된 하나 이상의 예들의 기법들에서, 바운더리 강도 값 결정 프로세스는 상이하며, 인트라-코딩된 블록들의 것에 따른다.
도 4f 내지 도 4h 에서, 블록들 중 적어도 하나는 IBC-코딩되고 어느 것도 인트라-코딩되지 않는다. 도 4f 내지 도 4h 에 예시된 예들에 대해, 비디오 코더는 제 2 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 예를 들어, 비디오 코더는 양쪽 블록들이 IBC-코딩될 때 또는 하나의 블록이 IBC-코딩되고 다른 블록이 인터-코딩될 때, 제 2 바운더리 강도 값 결정 프로세스를 수행할 수도 있다.
제 2 바운더리 강도 값 결정 프로세스에 대해, 일 예로서, 비디오 코더는 바운더리 강도 값을 1 과 동일한 것으로서 결정할 수도 있다. 다른 예로서, 비디오 코더는 IBC-코딩된 블록이 참조하는 참조 블록을 식별할 수도 있고, 그리고 참조 블록에서의 임의의 픽셀들이 인트라-예측 모드에서 코딩되는지 또는 IBC 모드에서 코딩되었는지의 여부를 결정할 수도 있다. 비디오 코더는 참조 블록에서의 임의의 픽셀이 인트라-예측 모드 또는 IBC 모드에서 코딩되고 있는 것에 기초하여 바운더리 강도 값을 2 와 동일하게 설정할 수도 있거나, 또는 참조 블록에서의 어떠한 픽셀도 인트라-예측 모드 또는 IBC 모드에서 코딩되고 있지 않다는 것에 기초하여 바운더리 강도 값을 1 과 동일하게 설정할 수도 있다.
도 4i 에서, 블록들 양쪽은 인터-코딩된다. 이 경우에, 비디오 코더는 제 3 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 예를 들어, 비디오 코더는 위의 표 1 의 ID 3 및 4 에서 프로세스를 수행할 수도 있다.
이 개시에 설명된 예들에서, 비디오 코더는 바운더리 강도 값을 결정하기 위해, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-블록 카피 (intra-block copy; IBC)-코딩된 블록이고 다른 블록이 인터-코딩된 블록인 것에 기초하여 바운더리 강도 값 결정 프로세스를 수행할 수도 있다. 예를 들어, 비디오 코더는 위에 설명된 제 2 바운더리 스트림 값 결정 프로세스를 수행할 수도 있다. 이 예에서, 바운더리 강도 값 결정 프로세스는 인터-코딩된 블록에 대한 모션 벡터를 식별하는 것을 포함하지 않으며, 바운더리 강도 값 결정 프로세스는 현재 블록 또는 이웃 블록 중 한 블록이 인트라-코딩되고 다른 블록이 IBC-코딩되는 경우의 바운더리 강도 값 결정 프로세스와는 상이하다.
예를 들어, 위에 설명된 바와 같이, 블록들이 인터-코딩될 때, 2 개의 블록들의 대응하는 공간적 모션 벡터 컴포넌트들 사이의 절대 차이는 표 1 의 ID 3 으로서 바운더리 강도 값을 결정하기 위해 정수 픽셀들의 단위에서 1 에 비교된다. 표 1 의 ID 4 에서, 비디오 코더는 2 개의 블록들에 대한 모션-보상된 예측이 상이한 참조 픽처들을 참조하는지 또는 모션 벡터들의 수가 2 개의 블록들에 대해 상이한지의 여부를 결정할 필요가 있다.
제 2 바운더리 강도 값 결정 프로세스에서, 인터-코딩된 블록에 대한 이러한 모션 벡터는 결정될 필요가 있다. 이러한 식으로, 제 2 바운더리 강도 값 결정 프로세스 (예를 들어, 하나의 블록이 IBC-코딩되고 다른 블록이 인터-코딩되는 경우) 는 일부 다른 기법들과 상이하다.
하나의 블록이 인터-코딩되고 다른 블록이 IBC-코딩되는 경우 위에 설명된 다른 기법들 중 몇몇은 IBC-코딩된 블록을 인터-코딩된 블록으로서 처리하는 것 또는 IBC-코딩된 블록을 단방향-예측성 인터-코딩된 블록으로 변환하는 것을 포함한다. 이들 예들에서, 비디오 코더는 인터-코딩된 블록의 모션 벡터를 식별해야 하고 표 1 의 ID 3 및 4 에 필요한 비교들을 위하여 이용해야 한다. 제 2 바운더리 강도 값 결정 프로세스에서, 인터-코딩된 블록의 모션 벡터는 바운더리 강도 값을 결정하기 위하여 요구되지 않는다. 일부 경우들에서, 비디오 코더는 참조 블록을 식별하기 위해 블록 벡터를 이용할 수도 있지만, 인터-코딩된 블록의 모션 벡터가 요구되지 않을 수도 있다.
또한, 제 2 바운더리 강도 값 결정 프로세스는, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-코딩되고 다른 블록이 IBC-코딩되는 경우의 바운더리 강도 값 결정 프로세스와 상이하다. 일부 기법들에서, IBC-코딩된 블록은 인트라-코딩된 블록과 동일하게 처리되며, 이는 다른 블록이 인터-코딩되면, 바운더리 강도 값 결정이 이 개시에 설명된 예들과는 상이할 것임을 의미한다. 또한, JCTVC-R0126 에서, 하나의 블록이 IBC-코딩되고, 다른 블록이 인트라-코딩되면, 바운더리 강도 값은 1 이다. 이 개시에 설명된 기법들에서, 한 블록이 IBC-코딩되고 다른 블록이 인트라-코딩되면, 바운더리 강도 값은 2 이다.
이 개시에서의 하나 이상의 기법들에 의해, 바운더리 강도 값 결정 프로세스는 한 블록이 IBC-코딩되고 다른 블록이 인터-코딩되는 상황에 비하여, 한 블록이 인트라-코딩되고 다른 블록이 IBC-코딩될 때 상이하다. 결과적인 바운더리 강도 값은 일부 사례들에서 동일하게 끝나도록 발생할 수도 있지만, 바운더리 강도 값을 결정하기 위한 프로세스는 상이하다. 달리 말하면, 상이해야 하는 바운더리 강도 값이 반드시 그러한 것은 아니지만, 바운더리 강도 값을 결정하도록 수행되는 프로세스는 바운더리 강도 값이 반드시 상이한 것은 아닌 경우에도 상이할 수도 있다.
도 5 는 디블록 필터링이 수행될 수도 있는 인접하는 블록들을 예시한다. 예를 들어, 도 5 의 예는 인접하는 블록 P 와 Q 에 의해 형성되는 4개의 픽셀 길이의 수직 블록 바운더리를 예시한다. 도 5 의 예에서, 블록들 P 및 Q 는 에지 (88) 를 형성하고, 이 에지는 디블록 필터링 기법을 이용하여 디블록킹될 수도 있다.
도 5 의 예에서, 비디오 코더는 필터가 적용되는 방식 그리고 필터링이 적용되는지의 여부를 결정하기 위해 필터 판정 기준을 이용할 수도 있다. 바운더리 강도 판정 기준은 표 1 을 포함할 수도 있다.
일부 예들에서, 바운더리 강도 (Bs) 가 양이면, 디블록 필터링이 인에이블되는지 아닌지의 여부를 결정하기 위한 기준은 다음과 같을 수도 있다:
정상 및 강한 디블록킹 필터를 결정하기 위한 기준들은 하기와 같을 수 있다 (i = 0, 3):
수평 블록 바운더리는 유사한 방식으로 처리될 수도 있다. HEVC 디블록 필터링 프로세스에 관한 추가적인 상세들은 HEVC Section 8.7.2 에서 구할 수도 있다. 예를 들어, 도 2 및 도 3 에 대하여 위에 설명된 바와 같이, 필터링 유닛 (66) 및/또는 필터링 유닛 (84) 은 아래 설명된 디블록 필터링 (예를 들어, HEVC Section 8.7.2 의 디블록 필터링 프로세스) 을 포함하는 디블록 필터링을 수행하도록 개별적으로 구성될 수도 있다. 추가로, 필터링 유닛 (66) 및/또는 필터링 유닛 (84) 은 이 개시의 필터링 기법을 수행하도록 구성될 수도 있다.
HEVC Section 8.7.2 로부터의 루마 블록 에지들에 대한 판정 프로세스에 대한 디블록 필터링은 디블록 필터링을 위하여 아래 재현된다. 아래 텍스트에서, 변수 BS 는 바운더리 강도 값을 지칭하고, 이 값은 이 개시에 설명된 기법들을 이용하여 결정될 수도 있다. 바운더리 강도 값은 얼마나 많은 픽셀들이 필터링되어야 하는지 (예를 들어, 도 5 의 예에서 필터링되어야 하는 픽셀들의 수) 및 필터링에 이용하는 계수들을 결정하는데 이용될 수도 있다.
루마
블록 에지들에 대한 판정 프로세스
이 프로세스에 대한 입력들은:
- 루마 픽처 샘플 어레이 (recPictureL),
- 현재 픽처의 상부-좌측 루마 샘플에 대한 현재 루마 코딩된 블록의 상부-좌측 샘플을 특정하는 루마 로케이션 ( xCb, yCb ),
- 현재 루마 코딩된 블록의 상부-좌측 샘플에 대한 현재 루마 블록의 상부-좌측 샘플을 특정하는 루마 로케이션 ( xBl, yBl ),
- 수직 (EDGE_VER) 또는 수평 (EDGE_HOR) 에지가 필터링되는지의 여부를 특정하는 변수 edgeType,
- 바운더리 필터링 강도를 특정하는 변수 bS.
이 프로세스의 출력들은:
- 판정들을 포함하는 변수들 dE, dEp, 및 dEq,
- 변수들 β 및 tC.
edgeType 이 EDGE_VER 와 같으면, 샘플 값들 (pi,k 및 qi ,k; 여기에서 i = 0..3 및 k = 0 및 3) 이 다음과 같이 도출된다:
그렇지 않으면 (edgeType 이 EDGE_HOR 와 같으면), 샘플 값들 (pi,k 및 qi ,k; 여기에서 i = 0..3 및 k = 0 및 3) 이 다음과 같이 도출된다:
변수들 (QpQ 및 QpP) 은 샘플 (q0 ,0 및 p0 ,0) 을 각각 포함하는 코딩된 블록들을 포함하는 코딩 유닛들의 QpY 값들과 동일하게 설정된다.
변수 (qPL) 는 다음과 같이 도출된다.
변수 (β′) 의 값은 다음과 같이 도출된 루마 양자화 파라미터 (Q) 에 기초하여 표 8-11 에서 특정된 바와 같이 결정된다:
여기에서 slice_beta_offset_div2 는 샘플 (q0 ,0) 을 포함하는 슬라이스에 대한 신택스 엘리먼트 (slice_beta_offset_div2) 의 값이다.
변수 (β) 는 다음과 같이 도출된다:
변수 (tC′) 의 값은 다음과 같이 도출된 루마 양자화 파라미터 (Q) 에 기초하여 표 8-11 에서 특정된 바와 같이 결정된다:
여기에서 slice_beta_offset_div2 는 샘플 (q0 ,0) 을 포함하는 슬라이스에 대한 신택스 엘리먼트 (slice_tc_offset_div2) 의 값이다.
변수 (tC) 는 다음과 같이 도출된다:
edgeType 의 값에 의존하여, 다음이 적용된다:
- edgeType 이 EDGE_VER 와 동일하면, 다음 순서로 된 단계들이 적용된다:
1. 변수들 (dpq0, dpq3, dp, dq, 및 d) 은 다음과 같이 도출된다:
2. 변수들 (dE, dEp, 및 dEq) 은 0 과 동일하게 설정된다.
3. d 가 β 미만일 때, 다음 순서로 된 단계들이 적용된다:
a. 변수들 (dpq) 은 2 * dpq0 와 동일하게 설정된다.
b. 샘플 로케이션 ( xCb + xBl, yCb + yBl ) 에서, 종속절 8.7.2.5.6 에서 특정된 루마 샘플에 대한 판정 프로세스는 샘플 값들 (pi,0, qi ,0; 여기에서 i = 0..3), 입력들로서의 변수들 (dpq, β, 및 tC) 로 인보크되고, 출력이 판정 (dSam0) 에 배정된다.
c. 변수들 (dpq) 은 2 * dpq3 와 동일하게 설정된다.
d. 샘플 로케이션 ( xCb + xBl, yCb + yBl + 3 ) 에서, 종속절 8.7.2.5.6 에서 특정된 루마 샘플에 대한 판정 프로세스는 샘플 값들 (pi,3, qi ,3; 여기에서 i = 0..3), 입력들로서의 변수들 (dpq, β, 및 tC) 로 인보크되고, 출력이 판정 (dSam3) 에 배정된다.
e. 변수 (dE) 는 1 과 동일하게 설정된다.
f. dSam0 이 1 과 동일하고 dSam3 이 1 과 동일할 때, 변수 (dE) 는 2 와 동일하게 설정된다.
g. dp 가 ( β + ( β >> 1 ) ) >> 3 미만일 때, 변수 (dEp) 는 1 과 동일하게 설정된다.
h. dq 가 ( β + ( β >> 1 ) ) >> 3 미만일 때, 변수 (dEq) 는 1 과 동일하게 설정된다.
- 그렇지 않으면 (edgeType 이 EDGE_HOR 와 동일하면), 다음 순서로 된 단계들이 적용된다:
1. 변수들 (dpq0, dpq3, dp, dq, 및 d) 은 다음과 같이 도출된다:
2. 변수들 (dE, dEp, 및 dEq) 은 0 과 동일하게 설정된다.
3. d 가 β 미만일 때, 다음 순서로 된 단계들이 적용된다:
a. 변수들 (dpq) 은 2 * dpq0 와 동일하게 설정된다.
b. 샘플 로케이션 ( xCb + xBl, yCb + yBl ) 에서, 종속절 8.7.2.5.6 에서 특정된 루마 샘플에 대한 판정 프로세스는 샘플 값들 (p0 ,0, p3 ,0, q0 ,0, 및 q3 ,0), 입력들로서의 변수들 (dpq, β, 및 tC) 로 인보크되고, 출력이 판정 (dSam0) 에 배정된다.
c. 변수들 (dpq) 은 2 * dpq3 와 동일하게 설정된다.
d. 샘플 로케이션 ( xCb + xBl + 3, yCb + yBl ) 에서, 종속절 8.7.2.5.6 에서 특정된 루마 샘플에 대한 판정 프로세스는 샘플 값들 (p0 ,3, p3 ,3, q0 ,3, 및 q3 ,3), 입력들로서의 변수들 (dpq, β, 및 tC) 로 인보크되고, 출력이 판정 (dSam3) 에 배정된다.
e. 변수 (dE) 는 1 과 동일하게 설정된다.
f. dSam0 이 1 과 동일하고 dSam3 이 1 과 동일할 때, 변수 (dE) 는 2 와 동일하게 설정된다.
g. dp 가 ( β + ( β >> 1 ) ) >> 3 미만일 때, 변수 (dEp) 는 1 과 동일하게 설정된다.
h. dq 가 ( β + ( β >> 1 ) ) >> 3 미만일 때, 변수 (dEq) 는 1 과 동일하게 설정된다.
표 8-11 - 입력 (Q)
로부터의
임계 변수들 (β′ 및
t
C
′) 의 도출
바운더리 강도 값이 이용되는 위의 텍스트 설명은 단지 일 예로만 제공되는 것이고 제한을 두는 것으로서 고려되지 않아야 함을 이해해야 한다. 바운더리 강도 값이 디블록 필터링 기법들에 이용될 수도 있는 다른 방식들이 존재할 수도 있다. 또한, 바운더리 강도 값이 이용되는 HEVC 의 섹션 8.7.2 에 더하여 HEVC 에서의 부분들이 존재할 수도 있다.
도 6 은 인트라-블록 카피 프로세스의 일 예를 예시하는 다이어그램이다. 인트라-BC 는 SCM 에 포함되었다. 도 6 의 예는 현재 코딩 유닛 (coding unit; CU)(90), 검색 영역 (94) 에 위치된 예측 블록 (92), 및 블록 벡터 (96) 를 포함한다. 인코딩 동안에, 비디오 인코더 (20) 는 현재 CU (90) 와 예측 블록 (92) (이는 또한 예측 신호로서 지칭될 수도 있음) 사이의 차이에 기초하여 현재 CU (90) 에 대한 잔차를 인코딩할 수도 있다. 비디오 인코더 (20) 는 현재 CU (90) 와 동일한 픽처에서 이미 재구성되었던 검색 영역 (94) 에 예측 블록 (92) 을 위치시킬 수도 있다. 비디오 인코더 (20)는 블록 벡터 (96)(이는 또한 "오프셋 벡터" 또는 "변위 벡터" 로서 지칭될 수도 있음) 를 이용하여 예측 블록 (92) 을 위치시킬 수도 있다. 일부 사례들에서, 예측 신호, 예를 들어, 예측 블록 (92) 은 블록-해제 및 샘플 적응성 오프셋 (Sample Adaptive Offset; SAO) 을 포함하는 인-루프 필터링 없이 단지 재구성될 수도 있다.
비디오 인코더 (20) 는 잔차 신호와 함께 블록 벡터 (96) 를 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 인코딩된 비디오 비트스트림에서 블록 벡터 (96) 의 수직 변위 컴포넌트와 블록 벡터 (96) 의 수평 변위 컴포넌트를 정의 또는 식별하는 하나 이상의 신택스 엘리먼트들을 포함할 수도 있다. 일부 사례들에서, 아래에 주지된 바와 같이, 비디오 인코더 (20) 는 블록 벡터 (96) 를 예측할 수도 있고, 인코딩된 비디오 비트스트림에서 예측기와 블록 벡터 (96) 사이의 차이를 표시하는 데이터를 포함할 수도 있다. 비디오 인코더 (20) 는 또한 잔차, 예를 들어, 현재 CU (90) 의 픽셀 값들과 예측 블록 (92) 의 픽셀 값들 사이의 차이를 인코딩할 수도 있다.
비디오 디코더 (30) 는 블록 벡터 (96) (또는 블록 벡터 (96) 와 블록 벡터 예측기 사이의 차이를 표시하는 데이터) 를 결정하기 위해 하나 이상의 신택스 엘리먼트들을 디코딩할 수도 있고 결정된 벡터를 이용하여 현재 CU (90) 에 대한 예측 블록 (92) 을 식별할 수도 있다. 비디오 디코더 (30) 는 또한 잔차를 디코딩할 수도 있다. 비디오 디코더 (30) 는 (블록 벡터 (96) 에 의해 식별되는 바와 같은) 예측 블록 (92) 의 재구성된 픽셀 값들과 디코딩된 잔차를 결합하는 것에 의해 CU (90) 를 재구성할 수도 있다.
일부 예들에서, 블록 벡터 (96) 의 분해능은 정수 픽셀일 수도 있고 예를 들어, 정수 픽셀 분해능을 갖도록 제약될 수도 있다. 이러한 예들에서, 수평 변위 컴포넌트와 수직 변위 컴포넌트의 분해능은 정수 픽셀이다. 이러한 예들에서, 비디오 인코더 (20) 및 비디오 디코더 (30) 는 현재 CU (90) 에 대한 예측기를 결정하도록 예측 블록 (92) 의 픽셀 값들을 보간할 필요가 없다. 다른 예들에서, 수평 변위 컴포넌트와 수직 변위 컴포넌트의 일방 또는 양방의 분해능은 분해능에 있어서 서브-픽셀일 수도 있다. 예를 들어, 수직 및 수평 컴포넌트들의 일방은 정수 픽셀 분해능을 가질 수도 있는 한편, 타방은 서브-픽셀 분해능을 가질 수도 있다.
위에 주지된 바와 같이, 블록 벡터 (96) 는 정수 레벨에서 예측 및 시그널링될 수도 있다. 예를 들어, 일부 사례들에서, 블록 벡터 (96) 는 본원에 설명된 모션 벡터들의 예측과 유사한 방식으로 예측될 수도 있다. 즉, 블록 벡터 (96) 의 표시를 비트스트림에서 포함하기 보다는, 비디오 인코더 (20) 는 블록 벡터 (96) 와 블록 벡터 예측기 사이의 블록 벡터 차이의 표시를 인코딩 (그리고 비디오 디코더 (30) 는 디코딩) 할 수도 있다. 블록 벡터 (96) 는 정수 레벨에서 예측 및 시그널링될 수도 있다. 현재 SCM 에서, 블록 벡터 예측기는 각각의 CTB 의 시작에서 (-w, 0) 로 설정될 수도 있고, 여기에서, w 는 CU 의 폭이다. 블록 벡터 예측기는 가장 최근에 코딩된 CU/PU 중 하나이도록 업데이트될 수도 있고, 마지막 코딩된 CU/PU 는 인트라-BC 모드로 코딩된다. CU/PU 는 인트라-BC 로 코딩되지 않으면, 블록 벡터 예측기는 변경되지 않은 상태로 유지된다. 블록 벡터 예측 후에, 블록 벡터 차이는 HEVC 에서처럼 모선 벡터 차이 코딩 방법 (예를 들어, 현재 블록 벡터와 블록 벡터 예측기 사이의 블록 벡터 차이) 을 이용하여 인코딩된다. 따라서, 본원에 설명된 특정 기법들이 블록 벡터 (이를 테면 블록 벡터 (96)) 의 표시를 시그널링하는 것을 포함하고 있지만, 일부 사례들에서, 블록 벡터 차이의 표시가 대안으로서 시그널링될 수도 있음을 이해해야 한다.
현재 인트라-BC 모드는 CU 와 PU 레벨 양쪽에서 인에이블된다. PU 레벨 인트라-BC 에 대해, 2NxN 및 Nx2N PU 파티션이 모든 CU 사이즈들에 대해 지원된다. 추가로, CU 가 최소의 CU 일 때, NxN PU 파티션이 지원된다.
도 7 은 병합 및 AMVP 모드들에 대한 공간적 이웃 모션 벡터 후보들을 예시한다. 예를 들어, HEVC 표준은 병합 모드와 AMVP 모드를 포함하는 2 개의 인터-예측 모드들을 포함한다. AMVP 또는 병합 모드에서, 모션 벡터 (motion vector; MV) 후보 리스트는 다수의 모션 벡터 예측기들에 대하여 유지된다. 현재의 PU 의, 병합 모드에서의 참조 인덱스들 뿐만 아니라 모션 벡터(들) 은 MV 후보 리스트로부터 한 후보를 취하는 것에 의해 생성된다. MV 후보 리스트는 병합 모드에 대해 최대 5 개의 후보들을 그리고 AMVP 모드에 대해 오직 2 개만의 후보들을 포함한다. 병합 후보는 모션 정보의 세트, 예를 들어, 참조 픽처 리스트들 (list 0 및 list 1) 과 참조 인덱스들 양쪽에 대응하는 모션 벡터들을 포함할 수도 있다. 병합 후보가 병합 인덱스에 의해 식별되면, 참조 픽처들이 현재 블록들의 예측에 이용될 뿐만 아니라 연관된 모션 벡터들이 결정된다. 그러나, list 0 또는 list 1 로부터의 각각의 잠재적 예측 방향에 대한 AMVP 모드 하에서, AMVP 후보가 모션 벡터만을 포함하기 때문에 MV 후보 리스트에 대한 MVP 인덱스와 함께 참조 인덱스가 명시적으로 시그널링된다. AMVP 모드에서, 예측된 모션 벡터들이 추가로 리파이닝될 수 있다. 따라서, 병합 후보는 모션 정보의 전체 세트에 대응하는 한편, AMVP 후보는 특수 예측 방향 및 참조 인덱스에 대한 오직 하나의 모션 벡터를 포함한다. 양쪽 모두들에 대한 후보들은 동일한 공간적 및 시간적 이웃 블록들로부터 유사하게 도출된다.
병합 모드에서, 5 개의 공간적 MV 후보들의 포지션들이 도 7 에 도시된다. 각각의 후보 포지션의 이용가능성은 다음 순서에 따라 체크될 수도 있다: {a1, b1, b0, a0, b2}.
AVMP 모드에서, 이웃 블록들은 MV 후보 리스트를 구성하는데 이용될 수도 있다. 이웃 블록들은 블록들 (b0, b1, 및 b2) 로 구성되는 상부 그룹과 블록 (a0 및 a1) 으로 구성되는 좌측 그룹인 2 개의 그룹들로 분할될 수도 있다. 좌측 그룹에 대해, 이용가능성은 다음 순서에 따라 체크된다: {a0, a1}. 상부 그룹에 대해, 이용가능성은 다음 순서에 따라 체크된다: {b0, b1, b2}. 각각의 그룹에 대해, 시그널링된 참조 인덱스에 의해 표시되는 것과 동일한 참조 픽처를 지칭하는 이웃 블록에서의 잠재적인 후보는 그룹의 최종 후보를 형성하도록 선택되는 최고 우선순위를 갖는다. 이웃 블록들의 어느 것도 동일한 참조 픽처를 적시하는 모션 벡터를 포함하지 않는 것이 가능하다. 이러한 사례들에서, 이러한 후보가 발견될 수 없다면, 제 1 이용가능한 후보는 최종 후보를 형성하도록 스케일링될 수도 있고, 이에 따라 시간적 거리 차이들이 보상될 수도 있다.
일반적으로, 모션 벡터는 현재 PU/CU 의 루마 성분에 대하여 도출될 수도 있다. 모션 벡터가 크로마 모션 보상에 이용되기 전에, 모션 벡터는 크로마 샘플링 포맷에 기초하여 스케일링될 수도 있다.
HEVC 에서, LCU 는 병렬 모션 추정 영역들 (motion estimation regions; MERs) 로 분할될 수도 있고 현재 PU 와는 상이한 MER들에 속하는 이들 이웃 PU들만이 병합/스킵 MVP 리스트 구성 프로세스에 포함되는 것을 허용할 수도 있다. MER 의 사이즈는 log2_parallel_merge_level_minus2 로서 픽처 파라미터 세트에서 시그널링될 수도 있다. MER 사이즈가 NxN 보다 클 때, 2Nx2N 이 최소 CU 사이즈인 경우, 공간적 이웃 블록이 현재 PU 와 동일한 MER 내에 있다면 이용가능하지 않은 것으로 고려되는 방식으로 MER 이 효과를 나타낸다.
도 8 은 픽처에서의 코딩 유닛 (coding unit; CU) 에 대한 예시적인 인트라-블록 (intra-block copy; IBC) 예측 분포를 예시하는 개념도이다. 인터 모드들과 달리, IBC 모드는 그 예측에 대하여 동일한 픽처 내에서 이미 디코딩된 필터링되지 않는 샘플들을 이용한다. IBC 모드에 대해 현재 테스트 모델에서, 검색 범위는 제한되지 않는다 (전체 검색 IBC).
도 8 에 도시된 바와 같이, (블랙으로 채워진) 현재 블록들은 이전에 디코딩된 필터링되지 않는 샘플들 (체크 무늬 표시된 블록들) 중 어느 것으로부터 예측할 수도 있다. 체크 무늬 표시된 블록들에 대한 사용량 정보는 현재 픽처들에서의 모든 블록들이 디코딩될 때까지 알지 못하기 때문에, IBC 는 모든 디코딩된 블록들에 대한 필터링되지 않는 샘플들의 추가적인 저장을 도입할 수도 있다. 그러나, (회색으로 채워진) 일부 영역들은 IBC 예측에 이용되지 않고 컨텐츠의 특징들에 의존하는 것이 관찰된다. 따라서, 현재 픽처에 대하여 이전에 디코딩된 필터링되지 않는 샘플들 (회색으로 채워진 영역을 포함함) 을 항상 저장하는 것은 대역폭 관점에서 비효율적일 수도 있다.
이 개시에서 설명된 기법들에서, IBC 예측 사용량 정보가 (예를 들어, 비제한적인 예로서 비디오 인코더 (20) 에 의해)표시될 수도 있어, 디코더 (예를 들어, 비디오 디코더 (30)) 가 IBC 모드를 이용하여 예측에 이용되는 영역들을 (그리고 일부 예들에서는 영역들만을) 선택적으로 저장할 수 있다. 이러한 저장은 평균 대역폭을 감소시킬 수도 있다.
다음 설명은 이 개시에 설명된 기법들에 따른 예들을 설명한다. 다음 예들의 각각은 다른 것들 중 하나 이상과 개별적으로 또는 공동으로 적용될 수도 있다. 이하의 예들에서, 용어 "시그널링" 은 정보의 포함을 표시하는데 이용된다. 예를 들어, 비디오 인코더 (20) 는 아래 예들에서 정보를 시그널링 (예를 들어, 출력) 할 수도 있고 비디오 디코더 (30) 는 아래 예들에서 정보를 수신할 수도 있다. 그러나, 비디오 인코더 (20) 가 이러한 정보를 시그널링하고 비디오 디코더 (30) 가 이러한 정보를 수신하는 것은 예시의 목적으로만 제공된다.
일 예에서, 적어도 하나의 블록마다 IBC 모드를 이용하여 특정 CTB 가 예측에 참조되는지의 여부를 각각의 CTB 가 표시하기 위해 플래그가 시그널링될 수도 있다. 일 예에서, 특정 영역이 하나의 블록마다 적어도 IBC 모드를 이용하여 예측에 참조되는지의 여부를 각각의 영역이 표시하도록 플래그가 시그널링될 수도 있다. 영역은 상이한 세분화도 레벨에서, 예를 들어, 픽처, 타일, 슬라이스, PU 블록, CU, CTB, CTB들의 그룹, NxN 의 고정된 사이즈 (예를 들어, 64x64), 또는 MxN 의 직사각형의 파티션들 (예를 들어, 16x32 또는 32x16) 중 하나일 수도 있다.
상기 정보 ((CTB 를 포함한) 각각의 영역들 참조 사용량에 대한 플래그) 는 VPS, SPS, PPS, 슬라이스 헤더 또는 그 확장과 같은 여러 세분화도 레벨에서 시그널링될 수도 있다. 대안으로서, 또는 추가적으로, 이 (위의 정보) 는 SEI 메시지에서 시그널링될 수 있다. 일부 예들에서, 이 (위의 정보) 는 인트라 블록 카피 모드가 인에이블되는지 아닌지의 여부에 기초하여 조건적으로 시그널링될 수도 있다.
일부 예들에서, 다른 게이팅 플래그는 위의 정보 (IBC 참조 사용량) 의 존재를 표시하도록 시그널링될 수 있다. 이 게이팅 플래그는 VPS, SPS, PPS, 슬라이스 헤더 또는 그 확장과 같은 여러 세분화도 레벨에서 시그널링될 수도 있다.
CTU들 (또는 여러 세분화도 레벨을 일반적으로 갖는 블록들) 의 수는 CTB 가 인트라 블록 카피 참조로서 이용되는지의 여부를 표시하는 코딩된 또는 디코딩된 플래그들의 수를 식별하도록 명시적으로 시그널링되는 것에 필요할 수도 있다. 예를 들어, 슬라이스 내에 포함된 CTU들의 수가 미리 알려져 있지 않을 수도 있기 때문에, 슬라이스 헤더에서 플래그들이 시그널링되면 이 시그널링이 유용할 수도 (그리고 일부 예들에서 필수적일 수도) 있다. 그러나, 웨이브프론트 병렬 프로세싱 (wavefront parallel processing; WPP) 또는 타일들이 인에이블되면, 이러한 정보 (CTU들의 수) 가 이용가능할 수도 있고, 이에 따라 추가적으로 시그널링되는 것이 필요하지 않을 수도 있어, CTU들의 수는 WPP 또는 타일들이 이용되는 경우에 시그널링될 수 있다 (예를 들어, 오직 시그널링만 될 수도 있다).
다음은 일 예시적인 구현을 설명한다.
일반 슬라이스
세그먼트
헤더
신택스
num _ ctb _in_slice는 슬라이스 헤더에서의 ibc_ref_usage_info[ i ] 신택스 엘리먼트들의 수를 특정한다. 존재하지 않을 때, num_ctb_in_slice 의 값은 0 과 동일한 것으로 추론된다.
0 과 동일한 ibc_ref_usage_info[ i ] 는 코딩된 블록 트리 i 내에 어떠한 샘플도 현재 픽처에서의 인트라 블록 카피 모드에 대한 예측에 이용되지 않음을 특정한다. 0 과 동일한 ibc_ref_usage_info[ i ] 는 코딩된 블록 트리 i 내에 샘플이 현재 픽처에서의 인트라 블록 카피 모드에 대한 예측에 이용될 수도 있음을 특정한다. ibc_ref_usage_info[ i ] 가 존재하지 않을 때, 이는 1 인 것으로 추론된다.
일반
픽처
파라미터 세트
RBSP
신택스
1 과 동일한 pps_ibc_ref_usage_present_flag 는 인트라 블록 카피 참조 사용량 정보가 슬라이스의 모든 코딩된 트리 블록들에 대한 슬라이스 세그먼트 헤더에 존재함을 특정한다. 0 과 동일한 pps_ibc_ref_usage_present_flag 는 인트라 블록 카피 참조 사용량 정보가슬라이스 세그먼트 헤더에 존재하지 않음을 특정한다. pps_ibc_ref_usage_present_flag 가 존재하지 않을 때, 이는 0 인 것으로 추론된다.
도 9 는 이 개시에 따른 일 예시적인 기술을 예시하는 플로우차트이다. 도 9 의 예는 비디오 인코더 (20) 및 비디오 디코더 (30) 양쪽이 수행할 수도 있는 비디오 데이터 프로세싱 방법을 예시하며, 따라서 도 9 는 비디오 코더의 관점에서 설명된다.
비디오 코더는 비디오 데이터의 픽처에서의 현재 블록의 코딩 모드와 비디오 데이터의 픽처에서의 이웃 블록의 코딩 모드를 결정할 수도 있다. 비디오 코더는 바운더리 강도 값을 결정하기 위해, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-블록 카피 (intra-block copy; IBC)-코딩된 블록이고 다른 블록이 인터-코딩된 블록인 것에 기초하여 바운더리 강도 값 결정 프로세스를 수행할 수도 있다 (102). 바운더리 강도 값 결정 프로세스는 인터-코딩된 블록에 대한 모션 벡터를 식별하는 것을 포함하지 않는다. 또한, 바운더리 강도 값 결정 프로세스는, 현재 블록 또는 이웃 블록 중 한 블록이 인트라-코딩되고 다른 블록이 IBC-코딩되는 경우의 바운더리 강도 값 결정 프로세스와 상이하다. 바운더리 강도 값 결정 프로세스는, 현재 블록 및 이웃 블록 양쪽이 IBC-코딩된 블록들인 경우의 바운더리 강도 값 결정 프로세스와 동일할 수도 있다.
일부 예들에서, 바운더리 강도 값 결정 프로세스를 수행하기 위해, 비디오 코더는 1 과 동일하게 바운더리 강도 값을 설정할 수도 있다. 일부 예들에서, 바운더리 강도 값을 수행하기 위해, 비디오 코더는 (예를 들어, 블록 벡터에 기초하여) IBC-코딩된 블록에 대한 참조 블록을 결정할 수도 있고, 참조 블록에서의 임의의 픽셀이 인트라-예측 모드에서 또는 IBC 모드에서 코딩되는지의 여부를 결정할 수도 있다. 비디오 코더는 참조 블록에서의 임의의 픽셀이 인트라-예측 모드 또는 IBC 모드에서 코딩되고 있는 것에 기초하여 바운더리 강도 값을 2 와 동일하게 설정할 수도 있거나, 또는 참조 블록에서의 어떠한 픽셀도 인트라-예측 모드 또는 IBC 모드에서 코딩되고 있지 않다는 것에 기초하여 바운더리 강도 값을 1 과 동일하게 설정할 수도 있다.
비디오 코더는 결정된 바운더리 강도 값에 기초하여 현재 블록과 이웃 블록 사이의 에지를 따라 디블록 필터링할 수도 있다 (104). 비디오 코더는 참조 픽처 메모리 (예를 들어, 참조 픽처 메모리 (64) 또는 참조 픽처 메모리 (82)) 에 현재 블록의 결과적인 디블록 필터링된 픽셀 값들을 저장할 수도 있다.
도 10 은 이 개시에 따른 일 예시적인 기술을 예시하는 플로우차트이다. 도 10 의 예는 비디오 인코더 (20) 및 비디오 디코더 (30) 양쪽이 수행할 수도 있는 비디오 데이터 프로세싱 방법을 예시하며, 따라서 도 10 은 비디오 코더의 관점에서 설명된다.
비디오 코더는 픽처에서의 영역이 픽처에서의 적어도 하나의 블록에 대하여 IBC 모드를 이용하여 예측에 참조되는지의 여부를 결정할 수도 있다 (106). 비디오 코더는 그 영역이 IBC 모드를 이용하여 예측에 참조된다는 결정에 기초하여 픽처에서의 그 영역에 대한 필터링되지 않는 픽셀 값들을 참조 픽처 메모리에 저장할 수도 있다 (108). 비디오 코더는 그 영역이 IBC 모드를 이용하여 예측에 참조되지 않는다는 결정에 기초하여 픽처에서의 그 영역에 대한 필터링되지 않는 픽셀 값들을 참조 픽처 메모리에 저장하는 것을 방지할 수도 있다 (110).
예를 들어, 비디오 디코더 (30) 가 도 10 의 예시적 기법들을 수행하고 있을 때, 비디오 디코더 (30) 는 VPS, SPS, PPS, 슬라이스 헤더 또는 SEI 메시지 중 하나 이상에서 정보 (예를 들어, 플래그) 를 수신할 수도 있고, 수신된 정보에 기초하여 픽처에서의 영역이 블록에 대한 IBC 모드를 이용하여 예측에 참조되는지의 여부를 결정할 수도 있다. 비디오 인코더 (20) 가 도 10 의 예시적인 기법들을 수행하고 있을 때, 비디오 인코더 (20) 는 픽처에서의 영역이 픽처에서의 적어도 하나의 블록에 대한 IBC 모드를 이용하여 예측에 참조되는지의 여부를 식별하는 정보 (예를 들어, 플래그) 를 VPS, SPS, PPS, 슬라이스 헤더 또는 SEI 메시지 중 하나 이상에서 출력할 수도 있다.
예에 의존하여, 본원에 설명된 기법들의 소정의 작용들 또는 이벤트들은 상이한 시퀀스로 수행될 수 있으며, 부가, 병합, 또는 모두 배제될 수도 있음 (예를 들어, 반드시 모든 설명된 작용들 또는 이벤트들이 기법들의 실시를 위해 필요한 것은 아니다) 을 알아야 한다. 또한, 소정의 예들에서, 작용들 및 이벤트들은, 순차적으로 수행되는 대신에, 예를 들어, 멀티 스레드 프로세싱, 인터럽트 프로세싱, 또는 멀티 프로세서들을 통해 동시에 수행될 수도 있다.
본 개시의 특정 양태들은 예시의 목적으로 개발중인 HEVC 표준에 대하여 설명되었다. 그러나, 본 개시에 설명된 기법들은 아직 개발되지 않은 독점적인 비디오 코딩 프로세들 또는 다른 표준을 포함하는 다른 비디오 코딩 프로세스들에 대하여 유용할 수도 있다.
본 개시에서 설명된 바와 같이, 비디오 코더는 비디오 인코더 또는 비디오 디코더로 지칭될 수도 있다. 마찬가지로, 비디오 코딩 유닛은 비디오 인코더 또는 비디오 디코더를 지칭할 수도 있다. 마찬가지로, 비디오 코딩은 비디오 인코딩 또는 비디오 디코딩으로 지칭될 수도 있다. 추가로, 비디오 데이터를 인코딩하는 것 및/또는 비디오 데이터를 디코딩하는 것은 일반적으로 비디오 데이터를 프로세싱하는 것으로 지칭될 수도 있다.
하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 이들의 임의의 조합으로 구현될 수도 있다. 소프트웨어로 구현된다면, 그 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독가능 매체 상에 저장되거나 또는 그것을 통해 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터 판독가능 매체는 데이터 저장 매체와 같은 유형의 매체에 대응하는 컴퓨터 판독가능 저장 매체를 포함할 수도 있다.
데이터 저장 매체는 이 개시물에 설명된 기법들의 구현을 위한 명령들, 코드, 및/또는 데이터 구조들을 검색하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 이용가능한 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수도 있다.
비제한적인 예로서, 이러한 컴퓨터 판독가능 저장 매체는 RAM, ROM, EEPROM, CD-ROM 또는 다른 광학 디스크 스토리지, 자기 디스크 스토리지 또는 다른 자기 스토리지 디바이스들, 플래시 메모리, 또는 소망의 프로그램 코드를 명령들 또는 데이터 구조들의 형태로 저장하기 위해 사용될 수 있으며 컴퓨터에 의해 액세스될 수 있는 임의의 다른 매체를 포함할 수 있다. 또한, 임의의 접속은 컴퓨터 판독 가능한 매체라고 적절히 지칭된다. 예를 들면, 소프트웨어가 동축 케이블, 광섬유 케이블, 연선, 디지털 가입자 회선 (DSL), 또는 적외선, 무선, 및 마이크로파와 같은 무선 기술들을 이용하여 웹사이트, 서버, 또는 다른 원격 소스로부터 명령들이 송신되면, 동축 케이블, 광섬유 케이블, 연선, DSL, 또는 적외선, 무선, 및 마이크로파와 같은 무선 기술들은 매체의 정의 내에 포함된다.
그러나, 컴퓨터 판독가능 저장 매체 및 데이터 저장 매체가 접속들, 반송파들, 신호들, 또는 다른 송신 매체를 포함하지 않지만, 대신 비일시적인 유형의 저장 매체에 관련됨이 이해되어야만 한다. 본원에서 이용된 디스크(disk)와 디스크(disc) 는, 컴팩트 디스크(CD), 레이저 디스크, 광학 디스크, 디지털 다기능 디스크 (DVD), 플로피 디스크, 및 블루레이 디스크를 포함하며, 여기서 디스크 (disk) 들은 통상 자기적으로 데이터를 재생하는 반면, 디스크 (disc) 들은 레이저들을 이용하여 광학적으로 데이터를 재생한다. 위의 조합들도 컴퓨터 판독가능 매체들의 범위 내에 포함되어야 한다.
명령들은, 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적 회로들 (ASIC들), 필드 프로그래머블 로직 어레이 (FPGA들), 또는 다른 등가의 집적 또는 이산 로직 회로와 같은, 하나 이상의 프로세서들에 의해 실행될 수도 있다. 그에 따라, 본원에서 이용되는 바와 같은 용어 "프로세서" 는 앞서 언급한 구조들, 또는 본원에서 설명된 기법들을 구현하기에 적합한 임의의 다른 구조 중 임의의 것을 지칭한다. 또한, 몇몇 양태들에서, 본원에서 설명된 기능은 인코딩 및 디코딩을 위해 구성된 전용 하드웨어 및/또는 소프트웨어 모듈들 내에서 제공될 수도 있거나, 또는 통합 코덱에 내장될 수도 있다. 또한, 기법들은 하나 이상의 회로들 또는 논리 소자들로 충분히 구현될 수 있다.
본 개시물의 기술들은, 무선 헤드셋, 집적 회로 (IC) 또는 IC들의 세트 (예를 들어, 칩 세트) 를 포함하는 다양한 디바이스들 또는 장치들에서 구현될 수도 있다. 개시된 기술들을 수행하도록 구성된 디바이스들의 기능적 양태를 강조하기 위해 다양한 소자들, 모듈들, 또는 유닛들이 본 개시에서 설명되었지만, 반드시 상이한 하드웨어 유닛들에 의해 실현될 필요는 없다. 대신, 상술한 바와 같이, 다양한 유닛들은, 적절한 소프트웨어 및/또는 펌웨어와 연계하여, 코덱 하드웨어 유닛에 통합되거나 또는 상술한 바와 같은 하나 이상의 프로세서들을 포함하는 상호 동작적인 하드웨어 유닛들의 집합에 의해 제공될 수도 있다.
다양한 실시형태들을 설명하였다. 이러한 예들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.