KR20170107452A - 예측 잔차를 위한 향상된 다수의 변환들 - Google Patents

예측 잔차를 위한 향상된 다수의 변환들 Download PDF

Info

Publication number
KR20170107452A
KR20170107452A KR1020177020597A KR20177020597A KR20170107452A KR 20170107452 A KR20170107452 A KR 20170107452A KR 1020177020597 A KR1020177020597 A KR 1020177020597A KR 20177020597 A KR20177020597 A KR 20177020597A KR 20170107452 A KR20170107452 A KR 20170107452A
Authority
KR
South Korea
Prior art keywords
transform
block
subset
video
subsets
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020177020597A
Other languages
English (en)
Other versions
KR102452745B1 (ko
Inventor
신 자오
성원 이
지안레 천
리 장
샹 리
잉 천
마르타 카르체비츠
홍빈 리우
Original Assignee
퀄컴 인코포레이티드
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 퀄컴 인코포레이티드 filed Critical 퀄컴 인코포레이티드
Publication of KR20170107452A publication Critical patent/KR20170107452A/ko
Application granted granted Critical
Publication of KR102452745B1 publication Critical patent/KR102452745B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/109—Selection of coding mode or of prediction mode among a plurality of temporal predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/112—Selection of coding mode or of prediction mode according to a given display mode, e.g. for interlaced or progressive display mode
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/12—Selection from among a plurality of transforms or standards, e.g. selection between discrete cosine transform [DCT] and sub-band transform or selection between H.263 and H.264
    • H04N19/122—Selection of transform size, e.g. 8x8 or 2x4x8 DCT; Selection of sub-band transforms of varying structure or type
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/136—Incoming video signal characteristics or properties
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/167—Position within a video image, e.g. region of interest [ROI]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

비디오 인코딩 및 비디오 디코딩 동안 사용될 변환들을 결정하는 예의 기법들이 설명된다. 비디오 인코더와 비디오 디코더는 하나 이상의 후보 변환들을 각각 식별하는 변환 서브세트들을 선택할 수도 있다. 비디오 인코더와 비디오 디코더는 선택된 변환 서브세트들로부터 변환들을 결정할 수도 있다.

Description

예측 잔차를 위한 향상된 다수의 변환들{ENHANCED MULTIPLE TRANSFORMS FOR PREDICTION RESIDUAL}
본 출원은 2015년 1월 26일자로 출원된 미국 가출원 제62/107,996호와, 2015년 3월 23일자로 출원된 미국 가출원 제62/137,038호를 우선권 주장하며, 그것들의 각각의 전체 내용은 참조로 본 명세서에 통합된다.
본 개시물은 비디오 인코딩 및 디코딩에 관한 것이다.
디지털 비디오 능력들은 디지털 텔레비전들, 디지털 직접 브로드캐스트 시스템들, 무선 브로드캐스트 시스템들, 개인 정보 단말기들 (personal digital assistants, PDA들), 랩톱 또는 데스크톱 컴퓨터들, 태블릿 컴퓨터들, e-북 리더들, 디지털 카메라들, 디지털 레코딩 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 디바이스들, 비디오 게임 콘솔들, 셀룰러 또는 위성 무선 전화기들, 이른바 "스마트 폰들", 비디오 원격회의 디바이스들, 비디오 스트리밍 디바이스들 등을 포함한 넓은 범위의 디바이스들에 통합될 수 있다. 디지털 비디오 디바이스들은 MPEG-2, MPEG-4, ITU-T H.263 또는 ITU-T H.264/MPEG-4, 파트 10, 고급 비디오 코딩 (Advanced Video Coding, AVC), ITU- H.265, 고 효율 비디오 코딩 (High Efficiency Video Coding, HEVC) 에 의해 정의된 표준들, 및 이러한 표준들의 확장본들에 기재된 것들과 같은 비디오 압축 기법들을 구현한다. 비디오 디바이스들은 이러한 비디오 압축 기법들을 구현하는 것에 의해 디지털 비디오 정보를 더 효율적으로 송신, 수신, 인코딩, 디코딩, 및/또는 저장할 수도 있다.
비디오 압축 기법들은 공간적 (픽처 내) 예측 및/또는 시간적 (픽처 간) 예측을 수행하여 비디오 시퀀스들에 내재하는 리던던시를 감소시키거나 또는 제거한다. 블록 기반 비디오 코딩의 경우, 비디오 슬라이스 (즉, 비디오 프레임 또는 비디오 프레임의 부분) 가 비디오 블록들로 파티셔닝될 수도 있다. 픽처의 인트라 코딩식 (intra-coded; I) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃 블록들에서의 참조 샘플들에 관한 공간적 예측을 사용하여 인코딩된다. 픽처의 인터 코딩식 (inter-coded; P 또는 B) 슬라이스에서의 비디오 블록들은 동일한 픽처의 이웃 블록들에서의 참조 샘플들에 관한 공간적 예측 또는 다른 참조 픽처들에서의 참조 샘플들에 관한 시간적 예측을 사용할 수도 있다. 공간적 또는 시간적 예측은 코딩될 블록에 대한 예측 블록으로 나타나게 된다. 잔차 데이터는 코딩될 원래의 블록과 예측 블록 사이의 화소 차이들을 나타낸다. 인터 코딩식 블록이 예측 블록을 형성하는 참조 샘플들의 블록을 가리키는 모션 벡터 (motion vector) 에 따라 인코딩되고, 잔차 데이터는 코딩된 블록 및 예측 블록 사이의 차이를 나타낸다. 인트라 코딩식 블록이 인트라 코딩 모드 및 잔차 데이터에 따라 인코딩된다. 추가 압축을 위해, 잔차 데이터는 화소 도메인으로부터 변환 도메인으로 변환될 수도 있으며, 결과적으로 잔차 계수들이 생기게 하며, 그 계수들은 그 다음에 양자화될 수도 있다.
본 개시물은 비디오 인코딩의 일부로서 변환 블록으로부터 계수 블록을 생성하기 위해 사용하는 변환들과 비디오 디코딩의 일부로서 계수 블록으로부터 변환 블록을 생성하기 위해 사용하는 변환들을 결정하는 기법들을 설명한다. 일부 예들에서, 비디오 인코더가 복수의 변환 서브세트들을 결정할 수도 있다. 비슷하게, 비디오 디코더가 복수의 변환 서브세트들을 결정할 수도 있다. 비디오 인코더와 비디오 디코더는 추가적인 시그널링을 반드시 요구하지는 않는 암시적 기법들을 사용하여 복수의 변환 서브세트들에 대해 변환 서브세트를 선택하고 선택된 변환 서브세트들로부터 변환들을 결정할 수도 있다. 이런 식으로, 비디오 인코더와 비디오 디코더는 시그널링될 것이 필요한 정보의 양에서의 최소 증가로 상대적으로 큰 변환들의 세트로부터 선택할 수도 있다.
하나의 예에서, 본 개시물은 비디오 데이터를 디코딩하는 방법을 설명하는데, 그 방법은, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 단계로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 단계, 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 단계, 비디오 데이터의 현재 계수 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 단계, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하는 단계, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하는 단계, 좌측 변환, 우측 변환, 및 현재 계수 블록에 기초하여 현재 변환 블록을 결정하는 단계, 그리고 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하는 단계를 포함한다.
하나의 예에서, 본 개시물은 비디오 데이터를 인코딩하는 방법을 설명하는데, 그 방법은, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 단계로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 단계, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 단계, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 단계, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하는 단계, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하는 단계, 좌측 변환, 우측 변환, 및 현재 변환 블록에 기초하여 현재 계수 블록을 결정하는 단계, 그리고 비디오 블록의 복원을 위해 사용되는 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하는 단계를 포함한다.
하나의 예에서, 본 개시물은 비디오 데이터를 비디오 디코딩하는 디바이스를 설명하는데, 그 디바이스는, 비디오 데이터와, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 변환 서브세트들을 저장하도록 구성되는 비디오 데이터 메모리로서, 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 상기 비디오 데이터 메모리와, 집적 회로를 포함하는 비디오 디코더를 포함하며, 비디오 디코더는, 저장된 변환 서브세트들로부터 복수의 변환 서브세트들을 결정하도록, 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하도록, 비디오 데이터의 현재 계수 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하도록, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하도록, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하도록, 좌측 변환, 우측 변환, 및 현재 계수 블록에 기초하여 현재 변환 블록을 결정하도록, 그리고 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하도록 구성된다.
하나의 예에서, 본 개시물은 비디오 데이터를 인코딩하는 디바이스를 설명하는데, 그 디바이스는, 비디오 데이터와, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 변환 서브세트들을 저장하도록 구성되는 비디오 데이터 메모리로서, 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 상기 비디오 데이터 메모리와, 비디오 인코더를 포함하며, 비디오 인코더는, 저장된 변환 서브세트들로부터 복수의 변환 서브세트들을 결정하도록, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하도록, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하도록, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하도록, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하도록, 좌측 변환, 우측 변환, 및 현재 변환 블록에 기초하여 현재 계수 블록을 결정하도록, 그리고 비디오 블록의 복원을 위해 사용되는 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하도록 구성된다.
하나의 예에서, 본 개시물은 비디오 데이터를 디코딩하는 디바이스를 설명하는데, 그 디바이스는, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 수단으로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 수단, 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 수단, 비디오 데이터의 현재 계수 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 수단, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하는 수단, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하는 수단, 좌측 변환, 우측 변환, 및 현재 계수 블록에 기초하여 현재 변환 블록을 결정하는 수단, 그리고 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하는 수단을 포함한다.
하나의 예에서, 본 개시물은 명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서, 그 명령들은, 실행되는 경우, 비디오 디코딩을 위한 디바이스의 비디오 디코더로 하여금, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하며 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하게 하며, 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하게 하며, 비디오 데이터의 현재 계수 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하게 하며, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하게 하며, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하게 하며, 좌측 변환, 우측 변환, 및 현재 계수 블록에 기초하여 현재 변환 블록을 결정하게 하며, 그리고 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하게 하는, 비일시적 컴퓨터 판독가능 저장 매체를 설명한다.
하나의 예에서, 본 개시물은 비디오 데이터를 인코딩하는 디바이스를 설명하는데, 그 디바이스는, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 수단으로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 수단, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 수단, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 수단, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하는 수단, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하는 수단, 좌측 변환, 우측 변환, 및 현재 변환 블록에 기초하여 현재 계수 블록을 결정하는 수단, 그리고 비디오 블록의 복원을 위해 사용되는 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하는 수단을 포함한다.
하나의 예에서 본 개시물은, 명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서, 명령들은, 실행되는 경우, 비디오 인코딩을 위한 디바이스의 비디오 인코더로 하여금, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하며 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하게 하며, 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하게 하며, 비디오 데이터의 비디오 블록의 변환 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하게 하며, 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하게 하며, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정하게 하며, 좌측 변환, 우측 변환, 및 현재 변환 블록에 기초하여 현재 계수 블록을 결정하게 하며, 그리고 비디오 블록의 복원을 위해 사용되는 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하게 하는, 비일시적 컴퓨터 판독가능 저장 매체를 설명한다.
하나 이상의 예들의 세부사항들은 첨부 도면들 및 다음의 설명에서 언급된다. 다른 특징들, 목적들, 및 이점들은 상세한 설명 및 도면들로부터, 그리고 청구항들로부터 명확하게 될 것이다.
도 1a 내지 도 1f는 변환 유형들의 예들을 도시하는 표들이다.
도 2는 본 개시물에서 설명되는 기법들을 이용할 수도 있는 예시적인 비디오 코딩 시스템을 도시하는 블록도이다.
도 3은 고 효율 비디오 코딩 (HEVC) 에서 잔차 쿼드트리 (residual quadtree) 에 기초한 변환 스킴의 일 예를 도시하는 개념도이다.
도 4는 HEVC에서 코딩 그룹에 기초한 계수 스캔의 일 예를 도시하는 개념도이다.
도 5는 본 개시물에서 설명되는 기법들을 구현할 수도 있는 예시적인 비디오 인코더를 도시하는 블록도이다.
도 6은 본 개시물에서 설명되는 기법들을 구현할 수도 있는 일 예의 비디오 디코더를 도시하는 블록도이다.
도 7은 ITU-T H.263 표준에서 정의된 비디오 코딩 프로세스에 따른 중복 블록 모션 보상 (overlapped block motion compensation, OBMC) 의 일 예를 도시하는 개념도이다.
도 8a와 도 8b는 OBMC를 위한 블록의 부분들을 예시하는 개념도들이다.
도 9는 비디오 데이터를 디코딩하는 일 예의 방법을 도시하는 흐름도이다.
도 10은 비디오 데이터를 인코딩하는 일 예의 방법을 도시하는 흐름도이다.
본 개시물은 인트라 또는 인터 예측 잔차에 적용되는 다수의 변환들에 관련된다. 그 기법들은 고 효율 비디오 코딩 (HEVC) 표준 또는 차세대의 비디오 코딩 표준들의 확장본들과 같은 고급 비디오 코덱들의 맥락에서 사용될 수도 있다.
비디오 코딩에서, 비디오 인코더가 예측 블록의 샘플 값들로부터 현재 블록의 샘플 값들을 감산함으로써 잔차 블록을 생성한다. 비디오 인코더는 잔차 블록을 하나 이상의 변환 블록들로 나누고 변환 (예컨대, 이산 코사인 변환 (discrete cosine transform, DCT) 과 같은 이산 주파수 변환) 을 하나 이상의 변환 블록들에 적용하여 하나 이상의 변환 블록들에서의 잔차 값들을 화소 도메인에서부터 주파수 도메인으로 변환시킨다. 주파수 도메인에서, 변환된 블록들은 하나 이상의 변환 계수 값들을 포함하는 계수 블록들이라고 지칭된다.
디코딩 동안, 비디오 디코더가 역 프로세스를 수행한다. 예를 들면, 비디오 디코더는 계수 블록에 역-변환을 적용하여 계수 블록을 변환 블록으로 변환시킨다 (예컨대, 주파수 도메인에서부터 화소 도메인으로 변환시킨다). 변환 블록은 잔차 블록의 하나의 블록이고, 비디오 디코더는 잔차 블록의 잔차 값들을 예측 블록의 샘플 값들에 가산하여 현재 블록을 복원한다.
설명을 편의만을 위해, 본 개시물은 각각 인코딩 및 디코딩 프로세스를 위해 사용되는 변환을 결정하는 것으로서 비디오 인코더와 비디오 디코더를 설명한다. 그러나, 비디오 인코더는 변환 블록에 변환을 적용하여 계수 블록을 생성한다는 것과 비디오 디코더는 그 변환의 역을 계수 블록에 적용하여 변환 블록을 복원한다는 것이 이해되어야 한다. 따라서, 비디오 디코더가 적용하는 변환은 비디오 인코더가 적용하는 변환의 역이다. 그러므로, 본 개시물에서, 비디오 디코더가 변환을 결정하는 그리고/또는 변환을 적용하는 것으로서 설명되는 경우, 비디오 디코더는 비디오 인코더에 의해 결정된 변환의 역인 변환을 결정하고 있다는 것 및/또는 비디오 디코더는 비디오 인코더에 의해 적용된 변환의 역인 변환을 적용하고 있다는 것이 이해되어야 한다.
본 개시물은 변환 계수들을 인코딩하기 위한 잔차 값들의 변환 블록에 적용되는 또는 잔차 값들을 디코딩하기 위한 변환 계수들의 계수 블록에 적용되는 변환을 결정하는 예의 기법들을 설명한다. 예를 들면, 비디오 인코더와 비디오 디코더는 각각의 변환 서브세트가 복수의 후보 변환들을 식별하는 복수의 변환 서브세트들을 각각 구성할 수도 있다. 후보 변환들은 상이한 유형들의 DCT들 및 상이한 유형들의 이산 사인 변환들 (discrete sine transforms, DST들) 과 같은 상이한 유형들의 변환들이라고 지칭한다. 비디오 인코더와 비디오 디코더는 변환 서브세트(들)를 선택하고, 비디오 인코딩을 위해 변환 블록으로부터 계수 블록을 또는 비디오 디코딩을 위해 계수 블록으로부터 변환 블록을 결정하는데 사용되는 변환들을 선택된 변환 서브세트(들)로부터 결정한다.
이런 식으로, 비디오 인코더와 비디오 디코더는 더 큰 후보 변환들의 세트로부터 어떤 변환들을 사용할지를 결정하여, 비트스트림 대역폭에 지나치게 부담을 주는 일 없이 변환 블록의 가변하는 통계에 더 나은 적응을 허용할 수도 있다. 예를 들면, 일부 기법들은 얼마나 많은 변환들이 이용 가능한지를 제한하며, 이는 변환 블록의 통계가 이용 가능한 변환들이 잘 수행되지 않도록 하기 때문에 열악한 코딩 성능을 초래할 수도 있다. 다른 양호한 변환들이 있을 수도 있지만 이들 변환들은 제약조건들로 인해 이용 불가능하다.
본 개시물에서 설명되는 기법들에서, 더 많은 변환들이 이용 가능하기 때문에, 비디오 인코더와 비디오 디코더는 제한된 변환들의 세트로 가능할 것보다 더 나은 코딩 성능을 제공하는 변환을 사용할 수도 있다. 더욱이, 더 상세히 설명되는 바와 같이, 어떤 변환이 사용될 것인지를 표시하는데 사용되는 시그널링 오버헤드는, 더 많은 변환들을 가지고 대역폭에 대한 영향을 낮게 유지하면서도 코딩 이득들이 성취될 수 있도록 낮게 유지된다.
예를 들어, 비트스트림에서의 시그널링된 정보에 의존하는 것이 아니라, 비디오 디코더는 어떤 변환 서브세트(들)를 사용할지를 암시적 기법들에 기초하여 이를테면 인트라 예측 모드, 변환 블록의 로케이션 등에 기초하여 선택할 수도 있다. 비디오 디코더는 그 다음에, 비트스트림에서 시그널링되는, 선택된 변환 서브세트(들)중 각각의 선택된 변환 서브세트들에 대한 하나 이상의 변환 서브세트 인덱스들 또는 계수 블록에서의 0이 아닌 계수들의 수, 0이 아닌 계수들의 합, 또는 0이 아닌 계수들의 포지션을 비제한적으로 포함하는 다른 팩터들에 아마도 기초하여, 선택된 변환 서브세트(들)로부터 어떤 변환(들)을 사용할지를 결정할 수도 있다.
심지어 변환 서브세트 인덱스가 각각의 변환 서브세트(들)에 대해 시그널링되는 경우, 인덱스 값이 모든 가능한 변환들에 걸쳐 있는 것이 아니라 변환 서브세트의 범위에만 걸쳐 있기 때문에 시그널링 오버헤드는 낮게 유지될 수도 있다. 예를 들면, 16 개까지의 가능한 변환들이 있다고, 그리고 변환 서브세트는 세 개의 후보 변환들을 포함한다고 가정한다. 이 경우, 인덱스 값은 0부터 2까지의 범위일 반면, 모든 변환들의 리스트에의 인덱스가 0부터 15까지의 범위일 것이다. 0 내지 2와 같은 더 작은 값들을 시그널링하는 것은 더 큰 값들을 시그널링하는 것보다 더 적은 비트들을 요구할 수도 있다.
변환 서브세트들이 구성되고 선택되는 방식을 설명하기에 앞서, 다음에서는 비디오 코딩 표준들, 일반적으로 DCT들 및 DST들, 상이한 유형들의 DCT들 및 DST들, 그리고 일부 현존 DCT 및 DST 기법들을 설명한다. 본 개시물은 그 다음에 현존 기법들에서의 일부 문제들과, 그 문제들을 극복할 수도 있는 예시적인 기법들을 뒤따라 설명한다.
비디오 코딩 표준들은 ITU-T H.261, ISO/IEC MPEG-1 비주얼, ITU-T H.262 또는 ISO/IEC MPEG-2 비주얼, ITU-T H.263, ISO/IEC MPEG-4 비주얼 그리고 스케일러블 비디오 코딩 (scalable video coding, SVC) 및 멀티-뷰 비디오 코딩 (multiview video coding, MVC) 확장본들을 포함한 ITU-T H.264 (또한 ISO/IEC MPEG-4 AVC로 알려짐) 를 포함한다. 덧붙여서, 새로운 비디오 코딩 표준, 즉 고 효율 비디오 코딩 (HEVC) 이 ITU-T 비디오 코딩 전문가 그룹 (Video Coding Experts Group, VCEG) 및 ISO/IEC 모션 픽처 전문가 그룹 (Motion Picture Experts Group, MPEG) 의 JCT-VC (Joint Collaboration Team on Video Coding) 에 의해 최근에 개발되어 있다. 최종 HEVC 초안 규격이고 이하에서 HEVC WD라고 지칭되는 것이, 다음으로부터 입수 가능하다: http://phenix.int-evry.fr/jct/doc_end_user/documents/14_Vienna/wg11/JCTVC-N1003-v1.zip. HEVC 표준의 최종 초안은: 『ITU-T H.265, Series H: Audiovisual and Multimedia Systems, Infrastructure of audiovisual services - Coding of moving video, Advanced video coding for generic audiovisual services, The International Telecommunication Union, October 2014』이고, http://www.itu.int/rec/T-REC-H.265-201410-I/en으로부터 입수 가능하다.
다음은 이산 사인 및 코사인 변환들의 설명이다. 변환은 입력 신호의 대체 표현을 도출하는 프로세스를 나타낸다. 예를 들어, 변환은 (예컨대, 비디오 인코딩에서는) 화소 도메인으로부터 주파수 도메인으로 또는 (예컨대, 비디오 디코딩에서는) 주파수 도메인으로부터 화소 도메인으로 값들을 변환한다. N-포인트 벡터
Figure pct00001
=[x 0, x 1, ..., x N - 1]T 및 주어진 벡터들의 세트 { φ 0, φ 1, …, φ M - 1}가 주어지면,
Figure pct00002
는 근사화될 수 있거나 또는 다음과 같이 공식화될 수 있는 φ 0, φ 1, ..., φ M -1의 선형 조합을 사용하여 정확히 표현될 수 있으며,
Figure pct00003
여기서
Figure pct00004
는
Figure pct00005
의 근사값 또는 동치일 수 있고, 벡터 f = [f 0 , f 1, f 2 ,.., f M - 1]은 변환 계수 벡터 라 불리고 { φ 0, φ 1, ..., φ M - 1}은 변환 기저 벡터들 이다.
비디오 코딩의 시나리오에서, 변환 계수들은 거의 비-상관되고 드문드문하며, 즉, 입력 벡터 (x) 의 에너지는 단지 몇 개의 변환 계수들에 대해서만 압축되고, 남아있는 대부분의 변환 계수들은 통상적으로 0에 가깝다. 예를 들면, 비디오 인코더가 변환 블록을 계수 블록으로 변환하는 경우, 계수 블록에서의 0이 아닌 계수 값들은 계수 블록의 좌측상단 코너에서 함께 모여 있는 경향이 있고, 대부분의 계수 값들은 0이다. 계수 블록의 좌측상단 코너 근처에 모여 있는 0이 아닌 계수들은 낮은 주파수 성분들을 반영하는 한편, 계수 블록의 우측하단 코너 근처의 계수 값들은, 0이 되는 경향을 있으며, 높은 주파수 성분들을 반영한다.
특정 입력 데이터가 주어지면, 에너지 비교의 측면에서의 최적의 변환은 이른바 카루넨 뢰베 변환 (Karhunen-Loeve transform, KLT) 인데, 이는 변환 기저 벡터들로서 입력 데이터의 공분산 행렬의 고유 벡터들을 사용한다. 그러므로, KLT는 실제로 데이터-의존적 변환이고 일반적인 수학 공식을 갖지 않는다. 그러나, 예컨대, 입력 데이터가 제 1-차 정지 마르코프 과정을 형성한다는 특정한 가정들 하에서, 대응하는 KLT는 유니터리 변환들의 사인곡선 족 의 실제로 일원이라는 것이 문헌에서 입증되어 있으며, 이는 『Jain, A.K., A sinusoidal family of unitary transforms, IEEE Trans. on Pattern Analysis and Machine Intelligence, 1, 356, 1979』에서 설명된다. 유니터리 변환들의 사인곡선 족 은 다음과 같이 공식화된 변환 기저 벡터들을 사용하여 변환들을 표시하며:
φ m(k) = A·e ikθ+B·e - ikθ
여기서 e는 2.71828과 동일한 자연 로그의 밑이며, A, B, 및 θ는 일반적으로 복소수이고, m의 값에 의존한다.
이산 푸리에, 코사인, 사인, 및 KLT (제 1-차 정지 마르코프 과정들을 위한 것임) 를 포함하는 여러 널리 공지된 변환들은 이 유니터리 변환들의 사인곡선 족의 일원들이다. 『S. A. Martucci, "Symmetric convolution and the discrete sine and cosine transforms," IEEE Trans. Sig. Processing SP-42, 1038-1051 (1994) 』에 따르면, 완전한 이산 코사인 변환 (DCT) 및 이산 사인 변환 (DST) 족들은 상이한 유형들, 즉, A, B, 및 의 상이한 값들에 기초한 총 16 개 변환들을 포함하고, DCT 및 DST의 상이한 유형들의 완전한 정의는 아래에서 주어진다.
입력 N-포인트 벡터가 x =[x 0, x 1, ,,,, x N-1]T로서 표시되고, 그것이 행렬을 곱함으로써 y =[y 0, y 1,…, y N-1]T로서 표시된 다른 N-포인트 변환 계수 벡터로 변환된다고 가정하면, 그 과정은, k가 0 내지 N-1의 범위인 다음의 변환 공식 중 하나에 따라 추가로 예시될 수 있다:
DCT 유형-I (DCT-1):
Figure pct00006
,
여기서
Figure pct00007
DCT 유형-II (DCT-2):
Figure pct00008
,
여기서
Figure pct00009
DCT 유형-III (DCT-3):
Figure pct00010
,
여기서
Figure pct00011
DCT 유형-IV (DCT-4):
Figure pct00012
,
DCT 유형-V (DCT-5):
Figure pct00013
,
여기서
Figure pct00014
,
Figure pct00015
DCT 유형-VI (DCT-6):
Figure pct00016
,
여기서
Figure pct00017
,
Figure pct00018
DCT 유형-VII (DCT-7):
Figure pct00019
,
여기서
Figure pct00020
,
Figure pct00021
DCT 유형-VIII (DCT-8):
Figure pct00022
,
DST 유형-I (DST-1):
Figure pct00023
,
DST 유형-II (DST-2):
Figure pct00024
,
여기서
Figure pct00025
DST 유형-III (DST-3):
Figure pct00026
,
여기서
Figure pct00027
DST 유형-IV (DST-4):
Figure pct00028
,
DST 유형-V (DST-5):
Figure pct00029
,
DST 유형-VI (DST-6):
Figure pct00030
,
DST 유형-VII (DST-7):
Figure pct00031
,
DST 유형-VIII (DST-8):
Figure pct00032
,
여기서
Figure pct00033
,
Figure pct00034
위에서는 상이한 DCT 및 DST 유형들의 예들을 제공하며, 대체로 16 개 변환 유형들이 존재한다. 변환 유형 은 변환 기저 함수의 수학적 공식에 의해 특정된다. 변환 유형 및 변환 사이즈는 혼동되지 않아야 한다. 변환 유형은 기저 함수를 지칭하는 반면, 변환 사이즈는 변환의 사이즈를 지칭한다. 예를 들면, 4-포인트 DST-VII 및 8-포인트 DST-VII가, N의 값 (예컨대, 4-포인트 또는 8-포인트) 에 무관하게, 동일한 변환 유형이다.
일반론의 손실 없이, 모든 위의 변환 유형들은 아래의 일반화된 공식을 사용하여 표현될 수 있으며:
Figure pct00035
,
여기서 T는 하나의 특정한 변환, 예컨대, DCT 유형-I ~ DCT 유형-VIII, 또는 DST 유형-I ~ DST 유형-VIII의 정의에 의해 특정된 변환 행렬 이고, T의 행 벡터들, 예컨대, [Ti,0, Ti,1, Ti,2, …, Ti,N-1]은 i번째 변환 기저 벡터들이다. N-포인트 입력 벡터에 적용된 변환이 N -포인트 변환이라 불린다.
1-D 입력 데이터 (x) 에 적용되는 위의 변환 공식들은 아래에서와 같은 행렬 곱 형태
Figure pct00036
로 표현될 수 있으며, 여기서 T 는 변환 행렬을 나타내며, x는 입력 데이터 벡터를 나타내고, y는 출력 변환 계수들의 벡터를 나타낸다는 것의 주의한다.
예를 들면, 비디오 인코더는 행렬 곱셈
Figure pct00037
를 수행하여 변환 계수 벡터를 생성할 수도 있다. 비디오 디코더는 역 행렬 곱셈을 수행하여 변환 계수 벡터로부터 변환 벡터를 생성할 수도 있다.
위에서 소개된 바와 같은 변환들은 1-D 입력 데이터에 적용되고, 변환들은 2-D 입력 데이터 소스들에 대해 또한 확장될 수 있다. X가 입력 MxN 데이터 어레이라고 가정한다. 2-D 입력 데이터에 변환을 적용하는 전형적인 방법들은 분해가능 및 비-분해가능 2-D 변환들을 포함한다.
분해가능 2-D 변환이 아래와 같이 공식화된 X의 수평 및 수직 벡터들을 위한 1-D 변환들에 순차적으로 적용되며:
Figure pct00038
여기서 C 및 R은 각각 주어진 MxM 및 NxN 변환 행렬들을 나타낸다.
공식으로부터, C는 X의 열 벡터들에 대한 1-D 변환들에 적용되는 한편, R은 X의 행 벡터들에 대한 1-D 변환들에 적용된다. 본 개시물의 나중의 일부에서, 단순화를 위해 C 및 R은 좌측 (수직) 및 우측 (수평) 변환들로서 표시되고 그것들 둘 다는 변환 쌍을 형성한다. C가 R과 동일하고 직교 행렬인 경우들이 있다. 이러한 경우에, 분해가능 2-D 변환이 단지 하나의 변환 행렬에 의해 결정된다.
비-분해가능 2-D 변환이 일 예로서 다음의 수학적 매핑을 행함으로써 단일 벡터, 즉 X'로의 X의 모든 엘리먼트들을 먼저 인식하였다:
Figure pct00039
그 다음에 1-D 변환 T'이 다음과 같이 X'에 적용되며:
Figure pct00040
여기서 T'는 (M*N)x(M*N) 변환 행렬이다.
비디오 코딩에서, 분해가능 2-D 변환들은 항상 적용되는데 그것이 1-D 변환과 비교하면 훨씬 더 적은 연산 (가산, 곱셈) 카운트들을 요구하여서이다. 아래에서 더 상세히 설명되는 바와 같이, 본 개시물은 비디오 인코더와 비디오 디코더가 좌측 및 우측 변환들을 선택하게 하는 예의 기법들을 설명한다.
예를 들면, 비디오 인코더와 비디오 디코더는 각각의 변환 서브세트가 복수의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정할 수도 있다. 16 개의 가능한 변환들 (예컨대, DCT-1 내지 DCT-8 및 DST-1 내지 DST-8) 중 일 예로서, 비디오 인코더와 비디오 디코더는 세 개의 변환 서브세트들을 결정할 수도 있고 변환 서브세트들의 각각은 16 개 변환들 중 둘 이상을 포함한다. 비디오 인코더와 비디오 디코더는 세 개의 변환 서브세트들 중 하나를 선택하고 선택된 변환 서브세트로부터 좌측 변환 (예컨대, C) 를 결정하고 세 개의 변환 서브세트들 중 하나의 변환 서브세트를 선택하고 선택된 변환 서브세트로부터 우측 변환 (예컨대, R) 을 결정할 수도 있다. 선택된 변환 서브세트들은 상이한 서브세트들 또는 동일한 서브세트들일 수도 있다.
다음은 HEVC에 적용되는 변환 유형들의 설명이다. 기존의 비디오 코덱들, 이를테면 H.264/AVC에서, 4-포인트 및 8-포인트 이산 코사인 변환 (DCT) 유형-II의 정수 근사가 인트라 및 인터 예측 잔차들 둘 다에 항상 적용된다. 인트라 예측 잔차는 인트라 예측으로부터의 잔차를 지칭하고 인터 예측 잔차는 인터-예측으로부터의 잔차를 지칭한다. 잔차, 인터-예측, 및 인트라 예측은 모두가 아래에서 더 상세히 설명된다. 대체로, 잔차 블록은 복수의 변환 블록들로 나누어진다. 비디오 인코딩에서, 변환들은 계수 블록들을 생성하기 위해 변환 블록들의 각각에 적용된다. 비디오 디코딩에서, 변환들은 변환 블록들을 생성하기 위해 그리고 잔차 블록을 복원하기 위해 계수 블록들의 각각에 적용된다.
잔차 샘플들의 다양한 통계를 더 잘 수용하기 위해, DCT 유형-II 이외의 더욱 유연한 유형들의 변환들이 새로운 세대의 비디오 코덱에서 이용된다. 예를 들어, HEVC에서, 4-포인트 유형-VII 이산 사인 변환 (DST) 의 정수 근사가 인트라 예측 잔차에 이용되는데, 인트라 예측 방향들을 따라 생성된 잔차 벡터들에 대해 DST 유형-VII이 DCT 유형-II보다 더욱 효율적이라는 것, 예컨대, 수평 인트라 예측 방향에 의해 생성된 행 잔차 벡터들에 대해 DST 유형-VII이 DCT 유형-II보다 더욱 효율적이라는 것이 이론적으로 입증되고 실험적으로 검정된다. 예를 들어, 『J. Han, A. Saxena and K. Rose, "Towards jointly optimal spatial prediction and adaptive transform in video/image coding," IEEE International Conference on Acoustics, Speech and Signal Processing (ICASSP), March 2010, pp. 726-729』를 참조한다.
HEVC에서, 4-포인트 DST 유형-VII의 정수 근사가 4x4 루마 인트라 예측 잔차 블록들에만 적용된다 (루마 인트라 예측 잔차 블록들은 아래에서 더 상세히 설명된다). HEVC에서 사용되는 4-포인트 DST-VII은 도 1a에 도시된다.
HEVC에서, 4x4 루마 인트라 예측 잔차 블록들이 아닌 잔차 블록들에 대해, 4-포인트, 8-포인트, 16-포인트 및 32-포인트 DCT 유형-II의 정수 근사들이 또한 적용된다. 도 1b는 4-포인트 DCT-II의 일 예를 도시하며; 도 1c는 8-포인트 DCT-II의 일 예를 도시하며; 도 1d는 16-포인트 DCT-II의 일 예를 도시하며; 그리고 도 1e 및 도 1f는 32-포인트 DCT-II의 일 예를 도시한다. 도 1a 내지 도 1f는 유형 II의 상이한 사이즈로 된 DCT들의 예들을 도시하고, 도 1a 내지 도 1f처럼, 상이한 유형들의 N-포인트 DCT들 및 DST들의 예들이 있다.
도 2는 본 개시물의 기법들을 이용할 수도 있는 예시적인 비디오 코딩 시스템 (10) 을 도시하는 블록도이다. 본 명세서에서 사용되는 바와 같이, "비디오 코더"라는 용어는 비디오 인코더들 및 비디오 디코더들 양쪽 모두를 일반적으로 지칭한다. 본 개시물에서, "비디오 코딩" 또는 "코딩"이란 용어들은 비디오 인코딩 또는 비디오 디코딩을 일반적으로 지칭할 수도 있다. 비디오 코딩 시스템 (10) 의 비디오 인코더 (20) 및 비디오 디코더 (30) 는 본 개시물에서 설명되는 다양한 예들에 따라 예측 잔차에 대한 향상된 다수의 변환들을 위한 기법들을 수행하도록 구성될 수도 있는 디바이스들의 예들을 나타낸다.
도 1에 도시된 바와 같이, 비디오 코딩 시스템 (10) 은 소스 디바이스 (12) 와 목적지 디바이스 (14) 를 포함한다. 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 생성한다. 따라서, 소스 디바이스 (12) 는 비디오 인코딩 디바이스 또는 비디오 인코딩 장치라고 지칭될 수도 있다. 목적지 디바이스 (14) 는 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오 데이터를 디코딩할 수도 있다. 따라서, 목적지 디바이스 (14) 는 비디오 디코딩 디바이스 또는 비디오 디코딩 장치라고 지칭될 수도 있다. 소스 디바이스 (12) 와 목적지 디바이스 (14) 는 비디오 코딩 디바이스들 또는 비디오 코딩 장치들의 예들일 수도 있다.
소스 디바이스 (12) 와 목적지 디바이스 (14) 는 데스크톱 컴퓨터들, 모바일 컴퓨팅 디바이스들, 노트북 (예컨대, 랩톱) 컴퓨터들, 태블릿 컴퓨터들, 셋톱 박스들, 이른바 "스마트" 폰들과 같은 전화기 핸드셋들, 텔레비전들, 카메라들, 디스플레이 디바이스들, 디지털 미디어 플레이어들, 비디오 게이밍 콘솔들, 차량내 컴퓨터들 등을 포함한 다양한 범위의 디바이스들을 포함할 수도 있다.
목적지 디바이스 (14) 는 소스 디바이스 (12) 로부터의 인코딩된 비디오 데이터를 채널 (16) 을 통해 수신할 수도 있다. 채널 (16) 은 소스 디바이스 (12) 로부터의 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 이동시킬 수 있는 하나 이상의 매체들 또는 디바이스들을 포함할 수도 있다. 하나의 예에서, 채널 (16) 은 소스 디바이스 (12) 가 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 직접 실시간으로 송신하는 것을 가능하게 하는 하나 이상의 통신 매체들을 포함할 수도 있다. 이 예에서, 소스 디바이스 (12) 는 인코딩된 비디오 데이터를 통신 표준, 이를테면 무선 통신 프로토콜에 따라 변조할 수도 있고, 변조된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수도 있다. 하나 이상의 통신 매체들은 무선 및/또는 유선 통신 매체들, 이를테면 라디오 주파수 (radio frequency, RF) 스펙트럼 또는 하나 이상의 물리적 송신 라인들을 포함할 수도 있다. 하나 이상의 통신 매체들은 패킷 기반 네트워크, 이를테면 국부 영역 네트워크, 광역 네트워크, 또는 글로벌 네트워크 (예컨대, 인터넷) 의 일부를 형성할 수도 있다. 하나 이상의 통신 매체들은 라우터들, 스위치들, 기지국들, 또는 소스 디바이스 (12) 로부터 목적지 디바이스 (14) 로의 통신을 용이하게 하는 다른 장비를 포함할 수도 있다.
다른 예에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오 데이터를 저장하는 저장 매체를 포함할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 예컨대, 디스크 액세스 또는 카드 액세스를 통해 저장 매체에 액세스할 수도 있다. 저장 매체는 블루 레이 디스크들, DVD들, CD-ROM들, 플래시 메모리, 또는 인코딩된 비디오 데이터를 저장하기 위한 다른 적합한 디지털 저장 매체들과 같은 다양한 국부적으로 액세스되는 데이터 저장 매체들을 포함할 수도 있다.
추가의 예에서, 채널 (16) 은 소스 디바이스 (12) 에 의해 생성된 인코딩된 비디오 데이터를 저장하는 파일 서버 또는 다른 중간 저장 디바이스를 포함할 수도 있다. 이 예에서, 목적지 디바이스 (14) 는 파일 서버 또는 다른 중간 저장 디바이스에 저장된 인코딩된 비디오 데이터를 스트리밍 또는 다운로드를 통해 액세스할 수도 있다. 파일 서버는 인코딩된 비디오 데이터를 저장하고 그 인코딩된 비디오 데이터를 목적지 디바이스 (14) 로 송신할 수 있는 유형의 서버일 수도 있다. 예의 파일 서버들은 웹 서버들 (예컨대, 웹사이트용), 파일 전송 프로토콜 (file transfer protocol, FTP) 서버들, 네트워크 부속 스토리지 (network attached storage, NAS) 디바이스들, 및 국부 디스크 드라이브들을 포함한다.
목적지 디바이스 (14) 는 표준 데이터 접속, 이를테면 인터넷 접속을 통해, 인코딩된 비디오 데이터에 액세스할 수도 있다. 예의 유형들의 데이터 접속들은 파일 서버 상에 저장된 인코딩된 비디오 데이터에 액세스하기에 적합한 무선 채널들 (예컨대, Wi-Fi 접속들), 유선 접속들 (예컨대, DSL, 케이블 모뎀 등), 또는 양쪽 모두의 조합들을 포함할 수도 있다. 파일 서버로부터의 인코딩된 비디오 데이터의 송신은 스트리밍 송신, 다운로드 송신, 또는 둘 다의 조합일 수도 있다.
본 개시물의 기법들은 무선 애플리케이션들 또는 설정 (setting) 들로 제한되지 않는다. 그 기법들은, 다양한 멀티미디어 애플리케이션들, 이를테면 OTA (over-the-air) 텔레비전 브로드캐스트들, 케이블 텔레비전 송신들, 위성 텔레비전 송신들, 예컨대, 인터넷을 통한 스트리밍 비디오 송신들, 데이터 저장 매체 상의 저장을 위한 비디오 데이터의 인코딩, 데이터 저장 매체 상에 저장된 비디오 데이터의 디코딩, 또는 다른 애플리케이션들의 지원 하의 비디오 코딩에 적용될 수도 있다. 일부 예들에서, 비디오 코딩 시스템 (10) 은 비디오 스트리밍, 비디오 플레이백, 비디오 브로드캐스팅, 및/또는 화상 통화와 같은 애플리케이션들을 지원하기 위해 단방향 또는 양방향 비디오 송신을 지원하도록 구성될 수도 있다.
도 2에 예시된 비디오 코딩 시스템 (10) 은 단지 일 예이고 본 개시물의 기법들은 인코딩 및 디코딩 디바이스들 간에 임의의 데이터 통신을 반드시 포함하지는 않는 비디오 코딩 설정들 (예컨대, 비디오 인코딩 또는 비디오 디코딩) 에 적용될 수도 있다. 다른 예들에서, 데이터는 국부 메모리로부터 취출되며, 네트워크를 통해 스트리밍되는 등등이 된다. 비디오 인코딩 디바이스가 데이터를 인코딩하고 메모리에 저장할 수도 있으며, 그리고/또는 비디오 디코딩 디바이스가 메모리로부터 데이터를 취출하고 디코딩할 수도 있다. 많은 예들에서, 인코딩 및 디코딩은, 서로 통신하지 않지만 단순히 데이터를 메모리에 인코딩하고 및/또는 메모리로부터 데이터를 취출하고 디코딩하는 디바이스들에 의해 수행된다.
도 2의 예에서, 소스 디바이스 (12) 는 비디오 소스 (18), 비디오 인코더 (20), 및 출력 인터페이스 (22) 를 구비한다. 일부 예들에서, 출력 인터페이스 (22) 는 변조기/복조기 (모뎀) 및/또는 송신기를 구비할 수도 있다. 비디오 소스 (18) 는 비디오 캡처 디바이스, 예컨대, 비디오 카메라, 이전에 캡처된 비디오 데이터를 포함하는 비디오 아카이브 (archive), 비디오 콘텐츠 제공자로부터 비디오 데이터를 수신하는 비디오 피드 인터페이스, 및/또는 비디오 데이터를 생성하는 컴퓨터 그래픽 시스템, 또는 비디오 데이터의 이러한 소스들의 조합을 포함할 수도 있다.
비디오 인코더 (20) 는 비디오 소스 (18) 로부터의 비디오 데이터를 인코딩할 수도 있다. 일부 예들에서, 소스 디바이스 (12) 는 출력 인터페이스 (22) 를 통해 목적지 디바이스 (14) 로 인코딩된 비디오 데이터를 직접 송신할 수도 있다. 다른 예들에서, 인코딩된 비디오 데이터는 디코딩 및/또는 플레이백을 위한 목적지 디바이스 (14) 에 의한 나중의 액세스를 위해 저장 매체 또는 파일 서버 상에 또한 저장될 수도 있다.
도 2의 예에서, 목적지 디바이스 (14) 는 입력 인터페이스 (28), 비디오 디코더 (30), 및 디스플레이 디바이스 (32) 를 구비한다. 일부 예들에서, 입력 인터페이스 (28) 는 수신기 및/또는 모뎀을 구비한다. 입력 인터페이스 (28) 는 채널 (16) 을 통해 인코딩된 비디오 데이터를 수신할 수도 있다. 디스플레이 디바이스 (32) 는 목적지 디바이스 (14) 와 통합되거나 또는 그것 외부에 있을 수도 있다. 대체로, 디스플레이 디바이스 (32) 는 디코딩된 비디오 데이터를 디스플레이한다. 디스플레이 디바이스 (32) 는 액정 디스플레이 (liquid crystal display, LCD), 플라즈마 디스플레이, 유기 발광 다이오드 (organic light emitting diode, OLED) 디스플레이, 또는 다른 유형의 디스플레이 디바이스와 같은 다양한 디스플레이 디바이스들을 포함할 수도 있다.
비디오 인코더 (20) 와 비디오 디코더 (30) 각각은 다양한 적합한 회로, 이를테면 하나 이상의 마이크로프로세서들, 디지털 신호 프로세서들 (digital signal processors, DSP들), 주문형 집적회로들 (application-specific integrated circuits, ASIC들), 필드 프로그램가능 게이트 어레이들 (field-programmable gate arrays, FPGA들), 개별 로직, 하드웨어, 또는 그것들의 임의의 조합 중 임의의 것으로서 구현될 수도 있다. 그 기법들이 부분적으로 소프트웨어로 구현되면, 디바이스가 적합한 비일시적 컴퓨터 판독가능 저장 매체 내에 소프트웨어에 대한 명령을 저장할 수도 있고 하나 이상의 프로세서들을 사용하여 하드웨어에서 그 명령들을 실행하여 본 개시물의 기법들을 수행할 수도 있다. 전술한 바 (하드웨어, 소프트웨어, 하드웨어 및 소프트웨어의 조합 등을 포함) 중 임의의 것은 하나 이상의 프로세서들이라고 간주될 수도 있다. 비디오 인코더 (20) 및 비디오 디코더 (30) 의 각각은 하나 이상의 인코더들 또는 디코더들 내에 구비될 수도 있고, 그것들 중 어느 하나는 결합형 인코더/디코더 (CODEC) 의 일부로서 각각의 디바이스 내에 통합될 수도 있다.
본 개시물은 다른 디바이스, 이를테면 비디오 디코더 (30) 에 특정 정보를 "시그널링하는" 또는 "송신하는" 비디오 인코더 (20) 에 일반적으로 관련이 있을 수도 있다. "시그널링" 또는 "송신"이란 용어는 압축된 비디오 데이터를 디코딩하는데 사용되는 신택스 엘리먼트들 및/또는 다른 데이터의 통신을 일반적으로는 지칭할 수도 있다. 이러한 통신은 실시간 또는 거의 실시간으로 일어날 수도 있다. 대안으로, 이러한 통신은, 인코딩 시에 신택스 엘리먼트들을 인코딩된 비트스트림으로 컴퓨터 판독가능 저장 매체에 저장하고 그 신택스 엘리먼트들이 이 매체에 저장된 후의 임의의 시간에 디코딩 디바이스에 의해 취출될 수도 있는 경우에 일어날 바와 같이 어떤 기간 (span of time) 에 걸쳐 일어날 수도 있다.
일부 예들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 비디오 압축 표준, 이를테면 위에서 언급된 HEVC 표준, HEVC의 확장본들, 또는 아마도 개발 중인 차세대의 비디오 코딩에 따라 동작한다. 이해의 편의만을 위해, 다음에서는 HEVC 표준에 관한 일부 정보를 제공한다. 그러나, 본 개시물에서 설명되는 기법들은 HEVC 표준으로 제한되는 것으로 여겨지지 않아야 한다.
HEVC 및 다른 비디오 코딩 표준들에서, 비디오 시퀀스가 일련의 픽처들을 통상 포함한다. 픽처들은 "프레임들"이라고 또한 지칭될 수도 있다. 픽처가 SL, SCb 및 SCr로 표시되는 세 개의 샘플 어레이들을 포함할 수도 있다. SL은 루마 샘플들의 2차원 어레이 (즉, 블록) 이다. SCb는 Cb 색차 샘플들의 2차원 어레이이다. SCr은 Cr 색차 샘플들의 2차원 어레이이다. 색차 샘플들은 본 명세서에서 "크로마" 샘플들이라고 또한 지칭될 수도 있다. 다른 사례들에서, 픽처가 모노크롬일 수도 있고 루마 샘플들의 어레이만을 포함할 수도 있다.
픽처의 인코딩된 표현을 생성하기 위해, 비디오 인코더 (20) 는 코딩 트리 유닛들 (coding tree units, CTU) 의 세트를 생성할 수도 있다. CTU들의 각각은, 루마 샘플들의 코딩 트리 블록 (coding tree block), 크로마 샘플들의 두 개의 대응 코딩 트리 블록들, 및 코딩 트리 블록들의 샘플들을 코딩하는데 사용된 신택스 구조들일 수도 있다. 코딩 트리 블록이 샘플들의 NxN 블록일 수도 있다. CTU가 "트리 블록" 또는 "최대 코딩 유닛 (largest coding unit, LCU)"이라고 또한 지칭될 수도 있다. HEVC의 CTU들은 다른 표준들, 이를테면 H.264/AVC의 매크로블록들과 대체로 유사할 수도 있다. 그러나, CTU가 특정 사이즈로 반드시 제한되는 것은 아니고 하나 이상의 코딩 유닛들 (CU들) 을 포함할 수도 있다. 슬라이스가 래스터 스캔으로 연속하여 순서화된 정수 수의 CTU들을 포함할 수도 있다.
코딩된 CTU를 생성하기 위해, 비디오 인코더 (20) 는 CTU의 코딩 트리 블록들에 대해 쿼드트리 파티셔닝을 재귀적으로 수행하여 코딩 트리 블록들을 코딩 블록들로 나눌 수도 있으며, 그래서 그 이름이 "코딩 트리 유닛들"이다. 코딩 블록이 샘플들의 NxN 블록이다. CU가, 루마 샘플 어레이, Cb 샘플 어레이 및 Cr 샘플 어레이를 갖는 픽처의 루마 샘플들의 코딩 블록 및 크로마 샘플들의 대응하는 두 개의 코딩 블록들과, 그 코딩 블록들의 샘플들을 코딩하는데 사용된 신택스 구조들일 수도 있다. 비디오 인코더 (20) 는 CU의 코딩 블록을 하나 이상의 예측 블록들로 파티셔닝할 수도 있다. 예측 블록이 동일한 예측이 적용되는 샘플들의 직사각형 (즉, 정사각형 또는 정사각형 아닌) 블록일 수도 있다. CU의 예측 유닛 (PU) 이 픽처의 루마 샘플들의 예측 블록, 크로마 샘플들의 두 개의 대응하는 예측 블록들, 및 예측 블록 샘플들을 예측하는데 사용된 신택스 구조들일 수도 있다. 비디오 인코더 (20) 는 CU의 각각의 PU의 루마, Cb 및 Cr 예측 블록들에 대한 예측 루마, Cb 및 Cr 블록들을 생성할 수도 있다.
비디오 인코더 (20) 는 PU에 대한 예측 블록들을 생성 (예컨대, 결정) 하기 위해 인트라 예측 또는 인터 예측을 사용할 수도 있다. 비디오 인코더 (20) 가 PU의 예측 블록들을 생성하기 위해 인트라 예측을 사용하면, 비디오 인코더 (20) 는 그 PU에 연관된 픽처의 디코딩된 샘플들에 기초하여 그 PU의 예측 블록들을 생성할 수도 있다.
비디오 인코더 (20) 가 PU의 예측 블록들을 생성 (예컨대, 결정) 하기 위해 인터 예측을 사용하면, 비디오 인코더 (20) 는 그 PU에 연관된 픽처 이외의 하나 이상의 픽처들의 디코딩된 샘플들에 기초하여 그 PU의 예측 블록들을 생성할 수도 있다. 비디오 인코더 (20) 는 PU의 예측 블록들을 생성하기 위해 단-예측 (uni-prediction) 또는 양-예측 (bi-prediction) 을 사용할 수도 있다. 비디오 인코더 (20) 가 단-예측을 사용하여 PU에 대한 예측 블록들을 생성하는 경우, 그 PU는 단일 모션 벡터 (MV) 를 가질 수도 있다. 비디오 인코더 (20) 가 양-예측을 사용하여 PU에 대한 예측 블록들을 생성하는 경우, PU는 두 개의 MV들을 가질 수도 있다.
비디오 인코더 (20) 가 CU의 하나 이상의 PU들에 대한 예측 루마, Cb 및 Cr 블록들을 생성한 후, 비디오 인코더 (20) 는 그 CU에 대한 루마 잔차 블록을 생성할 수도 있다. CU의 루마 잔차 블록에서의 각각의 샘플은 CU의 예측 루마 블록들 중 하나의 예측 루마 블록에서의 루마 샘플과 CU의 원래의 루마 코딩 블록에서의 대응하는 샘플 간의 차이를 나타낸다. 덧붙여서, 비디오 인코더 (20) 는 CU에 대한 Cb 잔차 블록을 생성할 수도 있다. CU의 Cb 잔차 블록에서의 각각의 샘플은 CU의 예측 Cb 블록들 중 하나의 예측 Cb 블록에서의 Cb 샘플과 CU의 원래의 Cb 코딩 블록에서의 대응 샘플 간의 차이를 나타낼 수도 있다. 비디오 인코더 (20) 는 CU에 대한 Cr 잔차 블록을 또한 생성할 수도 있다. CU의 Cr 잔차 블록에서의 각각의 샘플은 CU의 예측 Cr 블록들 중 하나의 예측 Cr 블록에서의 Cr 샘플과 CU의 원래의 Cr 코딩 블록에서의 대응 샘플 간의 차이를 나타낼 수도 있다.
더욱이, 비디오 인코더 (20) 는 쿼드트리 파티셔닝을 사용하여 CU의 루마, Cb 및 Cr 잔차 블록들을 하나 이상의 루마, Cb 및 Cr 변환 블록들로 분해할 수도 있다. 변환 블록이 동일한 변환이 적용되는 샘플들의 직사각형 블록일 수도 있다. CU의 변환 유닛 (transform unit, TU) 이 루마 샘플들의 변환 블록, 크로마 샘플들의 2 개의 대응하는 변환 블록들, 및 변환 블록 샘플들을 변환하는데 사용된 신택스 구조들일 수도 있다. 따라서, CU의 각각의 TU는 루마 변환 블록, Cb 변환 블록, 및 Cr 변환 블록에 연관될 수도 있다. TU에 연관된 루마 변환 블록은 CU의 루마 잔차 블록의 서브-블록일 수도 있다. Cb 변환 블록은 CU의 Cb 잔차 블록의 서브-블록일 수도 있다. Cr 변환 블록은 CU의 Cr 잔차 블록의 서브-블록일 수도 있다.
비디오 인코더 (20) 는 하나 이상의 변환들을 TU의 루마 변환 블록에 적용하여 그 TU에 대한 루마 계수 블록을 생성할 수도 있다. 계수 블록이 변환 계수들의 2차원 어레이일 수도 있다. 변환 계수가 스칼라 양일 수도 있다. 비디오 인코더 (20) 는 하나 이상의 변환들을 TU의 Cb 변환 블록에 적용하여 TU에 대한 Cb 계수 블록을 생성할 수도 있다. 비디오 인코더 (20) 는 하나 이상의 변환들을 TU의 Cr 변환 블록에 적용하여 TU에 대한 Cr 계수 블록을 생성할 수도 있다. 더 상세히 설명되는 바와 같이, 본 개시물은 비디오 인코더 (20) 가 계수 블록들을 생성하기 위해 사용할 변환들을 결정하는 예시적인 방도들을 설명한다.
계수 블록 (예컨대, 루마 계수 블록, Cb 계수 블록 또는 Cr 계수 블록) 을 생성한 후, 비디오 인코더 (20) 는 그 계수 블록을 양자화할 수도 있다. 양자화는 변환 계수들이 그 변환 계수들을 표현하는데 사용된 데이터의 양을 가능한 한 줄이도록 양자화되어서, 추가의 압축을 제공하는 프로세스를 일반적으로 지칭한다. 비디오 인코더 (20) 가 계수 블록을 양자화한 후, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들을 엔트로피 인코딩할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 양자화된 변환 계수들을 나타내는 신택스 엘리먼트들에 대해 콘텍스트 적응 이진 산술 코딩 (Context-Adaptive Binary Arithmetic Coding, CABAC) 을 수행할 수도 있다. 비디오 인코더 (20) 는 엔트로피 인코딩된 신택스 엘리먼트들을 비트스트림으로 출력할 수도 있다.
비디오 인코더 (20) 는 엔트로피 인코딩된 신택스 엘리먼트들을 포함하는 비트스트림을 출력할 수도 있다. 그 비트스트림은 코딩된 픽처들 및 연관된 데이터의 표현을 형성하는 비트들의 시퀀스를 포함할 수도 있다. 그 비트스트림은 네트워크 추상화 계층 (network abstraction layer, NAL) 유닛들의 시퀀스를 포함할 수도 있다. NAL 유닛들의 각각은 NAL 유닛 헤더를 포함하고 원시 바이트 시퀀스 패이로드 (raw byte sequence payload, RBSP) 를 캡슐화한다. NAL 유닛 헤더는 NAL 유닛 유형 코드를 나타내는 신택스 엘리먼트를 포함할 수도 있다. NAL 유닛의 NAL 유닛 헤더에 의해 특정된 NAL 유닛 유형 코드는 NAL 유닛의 유형을 나타낸다. RBSP가 NAL 유닛 내에 캡슐화되는 정수 수의 바이트들을 포함하는 신택스 구조일 수도 있다. 일부 사례들에서, RBSP가 영 비트들을 포함한다.
상이한 유형들의 NAL 유닛들이 상이한 유형들의 RBSP들을 캡슐화할 수도 있다. 예를 들어, 제 1 유형의 NAL 유닛이 픽처 파라미터 세트 (picture parameter set, PPS) 에 대한 RBSP를 캡슐화할 수도 있으며, 제 2 유형의 NAL 유닛이 코딩된 슬라이스에 대한 RBSP를 캡슐화할 수도 있으며, 제 3 유형의 NAL 유닛이 SEI에 대한 RBSP를 캡슐화할 수도 있다는 등등이다. 비디오 코딩 데이터에 대한 RBSP들 (파라미터 세트들 및 SEI 메시지들에 대한 RBSP과는 대조적임) 을 캡슐화하는 NAL 유닛들은, 비디오 코딩 계층 (video coding layer, VCL) NAL 유닛들이라고 지칭될 수도 있다.
비디오 디코더 (30) 는 비디오 인코더 (20) 에 의해 생성된 비트스트림을 수신할 수도 있다. 덧붙여서, 비디오 디코더 (30) 는 그 비트스트림으로부터 신택스 엘리먼트들을 디코딩하기 위해 그 비트스트림을 파싱할 수도 있다. 비디오 디코더 (30) 는 비트스트림으로부터 디코딩된 신택스 엘리먼트들에 적어도 부분적으로 기초하여 비디오 데이터의 픽처들을 복원할 수도 있다. 비디오 데이터를 복원하는 프로세스는 비디오 인코더 (20) 에 의해 수행된 프로세스에 일반적으로 역일 수도 있다. 예를 들면, 비디오 디코더 (30) 는 현재 CU의 PU들에 대한 예측 블록들을 결정하기 위해 그 PU들의 MV들을 사용할 수도 있다. 덧붙여서, 비디오 디코더 (30) 는 현재 CU의 TU들에 연관된 변환 계수 블록들을 역 양자화할 수도 있다.
비디오 디코더 (30) 는 현재 CU의 TU들에 연관된 변환 블록들을 복원하기 위해 변환 계수 블록들에 대해 역 변환들을 수행할 수도 있다. 본 개시물은 비디오 디코더 (30) 가 변환 계수 블록들에 대해 역 변환들을 수행하는데 사용되는 변환들을 결정하는 방도에 대한 예시적인 기법들을 설명한다.
비디오 디코더 (30) 는 현재 CU의 PU들에 대한 예측 블록들의 샘플들을 현재 CU의 TU들의 변환 블록들의 대응 샘플들에 가산함으로써 현재 CU의 코딩 블록들을 복원할 수도 있다. 픽처의 각각의 CU에 대한 코딩 블록들을 복원함으로써, 비디오 디코더 (30) 는 그 픽처를 복원할 수도 있다.
위에서 설명된 바와 같이, CU가 하나 이상의 TU들을 포함한다. 다음에서는 HEVC에서의 잔차 쿼드트리에 기초한 변환 스킴을 설명한다. 잔차 블록들의 다양한 특성들에 적응하기 위해, 잔차 쿼드트리 (RQT) 를 사용하는 변환 코딩 구조가 HEVC에서 적용되며, 이는 http://www.hhi.fraunhofer.de/fields-of-competence/image-processing/research-groups/image-video-coding/hevc-high-efficiency-video-coding/transform-coding-using-the-residual-quadtree-rqt.html에서 간략히 설명된다.
위에서 설명된 바와 같이, 각각의 픽처는 CTU들로 나누어지며, 그것들은 특정 타일 또는 슬라이스에 대한 래스터 스캔 순서로 코딩된다. CTU가 정사각형 블록이고 쿼드트리, 즉, 코딩 트리의 루트를 나타낸다. CTU 사이즈는 8×8부터 64×64까지의 루마 샘플들의 범위일 수도 있지만, 통상적으로 64×64가 사용된다. 각각의 CTU는 코딩 유닛들 (CU들) 이라 불리는 더 작은 정사각형 블록들로 추가로 분할될 수 있다. CTU가 CU들로 재귀적으로 분할된 후, 각각의 CU는 예측 유닛들 (PU) 과 변환 유닛들 (TU) 로 추가로 나누어진다. CU의 TU들로의 파티셔닝은 쿼드트리 접근법에 기초하여 재귀적으로 수행되며, 그러므로 각각의 CU의 잔차 신호는 트리 구조 즉, 잔차 쿼드트리 (RQT) 에 의해 코딩된다. RQT는 4×4부터 32×32까지의 루마 샘플들의 TU 사이즈들을 허용한다.
도 3은 CU가 글자들 "a" 내지 "j"로 라벨표시된 10 개의 TU들을 포함하는 일 예와, 대응하는 블록 파티셔닝을 도시한다. RQT의 각각의 노드는 실제로 변환 유닛 (TU) 이다. 개개의 TU들은, 깊이-우선 순회로 재귀적 Z-스캔을 추종하는, 도 3에서 알파벳 순서로 예시된 깊이-우선 트리 순회 순서 (depth-first tree traversal order) 로 진행된다. 쿼드트리 접근법은 잔차 신호의 가변하는 공간-주파수 특성들에 대한 변환의 적응을 가능하게 한다. 통상적으로, 더 큰 공간적 지원을 갖는 더 큰 변환 블록 사이즈들이, 더 나은 주파수 해상도를 제공한다. 그러나, 더 작은 공간적 지원을 갖는 더 작은 변환 블록 사이즈들이, 더 나은 공간적 해상도를 제공한다. 두 개의, 공간적 및 주파수 해상도들 사이의 절충은, 인코더 모드 결정에 의해 (예컨대, 비디오 인코더 (20) 에 의해), 예를 들어, 레이트-왜곡 최적화 기법에 기초하여 선택된다. 레이트-왜곡 최적화 기법은, 각각의 코딩 모드 (예컨대, 특정 RQT 분할 구조) 에 대해, 코딩 비트들 및 복원 왜곡의 가중된 합, 즉, 레이트-왜곡 비용을 계산하고, 최소 레이트-왜곡 비용을 갖는 코딩 모드를 최상의 모드로서 선택한다.
세 개의 파라미터들, 즉, 트리의 최대 깊이, 최소 허용된 변환 사이즈, 및 최대 허용된 변환 사이즈가 RQT에서 정의된다. 최소 및 최대 변환 사이즈들은 이전의 단락에서 언급된 지원되는 블록 변환들에 대응하는 4×4부터 32×32까지의 샘플들의 범위 내에서 가변할 수 있다. RQT의 최대 허용된 깊이는 TU들의 수를 제한한다. 0과 동일한 최대 깊이가, 각각의 포함된 TB (transform block) 가 최대 허용된 변환 사이즈, 예컨대, 32x32에 도달한다면 CB (coding block) 가 임의의 것으로 추가로 분할될 수 없다는 것을 의미한다.
모든 이들 파라미터들은 RQT 구조와 상호작용하고 그 RQT 구조에 영향을 미친다. 루트 CB 사이즈가 64×64이며, 최대 깊이가 0과 동일하고 최대 변환 사이즈가 32×32와 동일한 경우를 고려한다. 이 경우, CB는 적어도 한번 파티셔닝되어야만 하는데, 그렇지 않으면 그것이, 허용되지 않는 64×64 TB로 이어질 것이라서이다. HEVC에서, 더 큰 사이즈의 변환들, 예컨대, 64x64 변환들이, 상대적으로 더 작은 해상도의 비디오들에 대한 상대적으로 높은 복잡도와 고려되는 그것의 제한된 이점으로 인해 채택되지 않는다.
RQT 파라미터들, 즉, 최대 RQT 깊이, 최소 및 최대 변환 사이즈는, 비트스트림에서는 시퀀스 파라미터 세트 (sequence parameter set) 레벨에서 송신된다. RQT 깊이를 고려하여, 상이한 값들이 인트라 및 인터 코딩된 CU들 (즉, 인트라-예측된 인코딩된 CU들 또는 인터-예측된 디코딩된 CU들 또는 인트라-예측된 인코딩된 CU들 또는 인터-예측된 CU들) 에 대해 특정되고 시그널링된다.
쿼드트리 변환이 인트라 및 인터 잔차 블록들에 적용된다. 통상적으로 동일한 사이즈의 현재 잔차 쿼드트리 파티션의 DCT-II 변환이 잔차 블록에 적용된다. 그러나, 현재 잔차 쿼드트리 블록이 4x4이고 인트라 예측에 의해 생성된다면, 위의 4x4 DST-VII 변환이 적용된다.
다음에서는 HEVC에서의 계수 코딩을 설명한다. TU 사이즈에 상관없이, 변환 유닛의 잔차는 비-중복 계수 그룹들 (coefficient groups) (CG) 로 코딩되고, 각각은 TU의 4x4 블록의 계수들을 포함한다. 예를 들어, 32x32 TU는 총 64 개의 CG들을 갖고, 16x16 TU는 총 16 개의 CG들을 갖는다. TU 내부의 CG들은 특정한 미리 정의된 스캔 순서에 따라 코딩된다. 각각의 CG를 코딩하는 경우, 현재 CG 내부의 계수들은 4x4 블록에 대한 특정한 미리 정의된 스캔 순서에 따라 스캔되고 코딩된다. 도 4는 4 개의 CG들을 포함하는 8x8 TU에 대한 계수 스캔을 예시한다.
각각의 컬러 성분에 대해, 현재 변환 유닛이 적어도 하나의 0이 아닌 계수를 갖는지의 여부를 표시하는 하나의 플래그가 맨 먼저 시그널링될 수도 있다. 적어도 하나의 0이 아닌 계수가 있다면, 변환 유닛에서 계수 스캔 순서에서의 최종 유효 계수 (last significant coefficient) 의 포지션은 변환 유닛의 좌측상단 코너를 기준으로 하는 코디네이션 (coordination) 으로 명시적으로 코딩된다. 그 코디네이션의 수직 또는 수평 성분은 그것의 접두부 및 접미부에 의해 표현되는데, 접두부는 절단형 라이스 (truncated rice, TR) 로 이진화되고 접미부는 고정된 길이로 이진화된다.
last_sig_coeff_x_prefix는 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 열 포지션의 접두부를 특정한다. last_sig_coeff_x_prefix의 값들은 0 내지 (log2TrafoSize << 1) - 1의 범위에 있을 것이다.
last_sig_coeff_y_prefix는 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 행 포지션의 접두부를 특정한다. last_sig_coeff_y_prefix의 값들은 0 내지 (log2TrafoSize << 1) - 1의 범위에 있을 것이다.
last_sig_coeff_x_suffix는 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 열 포지션의 접미부를 특정한다. last_sig_coeff_x_suffix의 값들은 0 내지 (1 << ((last_sig_coeff_x_prefix >> 1) - 1)) - 1의 범위에 있을 것이다.
변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 열 포지션 (LastSignificantCoeffX) 은 다음과 같이 도출된다:
- last_sig_coeff_x_suffix가 존재하지 않는다면, 다음이 적용되며:
LastSignificantCoeffX = last_sig_coeff_x_prefix
- 그렇지 않으면 (last_sig_coeff_x_suffix가 존재한다면), 다음이 적용된다:
LastSignificantCoeffX = (1 << ((last_sig_coeff_x_prefix >> 1) - 1)) *
(2 + (last_sig_coeff_x_prefix & 1)) + last_sig_coeff_x_suffix
last_sig_coeff_y_suffix는 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 행 포지션의 접미부를 특정한다. last_sig_coeff_y_suffix의 값들은 0 내지 (1 << ((last_sig_coeff_y_prefix >> 1) - 1)) - 1의 범위에 있을 것이다.
변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 행 포지션 (LastSignificantCoeffY) 은 다음과 같이 도출된다:
- last_sig_coeff_y_suffix가 존재하지 않는다면, 다음이 적용되며:
LastSignificantCoeffY = last_sig_coeff_y_prefix
- 그렇지 않으면 (last_sig_coeff_y_suffix가 존재한다면), 다음이 적용된다:
LastSignificantCoeffY = (1 << ((last_sig_coeff_y_prefix>> 1) - 1)) *
(2 + (last_sig_coeff_y_prefix & 1)) + last_sig_coeff_y_suffix
scanIdx가 2와 동일한 경우, 좌표들은 다음과 같이 스왑된다:
(LastSignificantCoeffX, LastSignificantCoeffY) = Swap(LastSignificantCoeffX, LastSignificantCoeffY)
코딩된 그런 포지션과 또한 CG들의 계수 스캐닝 순서로, 하나의 플래그는 0이 아닌 계수들을 포함하는지의 여부를 표시하는 마지막 CG (스캐닝 순서에서임) 를 제외한 CG들에 대해 추가로 시그널링된다. 0이 아닌 계수들을 포함할 수도 있는 그들 CG들에 대해, 유효 플래그들, 계수들의 절대 값들 및 부호 정보가 미리 정의된 4x4 계수 스캔 순서에 따라 각각의 계수에 대해 추가로 코딩될 수도 있다.
위에서 설명된 바와 같이, 본 개시물에서 설명되는 기법들은, 변환 블록을 계수 블록으로 변환하기 위해 비디오 인코더 (20) 가 적용할 변환을 결정하는 방도와 계수 블록을 변환 블록으로 변환하기 위해 비디오 디코더 (30) 가 (예컨대, 역 변환으로서) 적용할 변환을 결정하는 방도를 설명한다. 다음에서는 인트라 및 인터 예측 잔차에 대한 다중 변환 (예컨대, 잔차 블록이 인트라 예측으로부터 생성되는 경우를 위한 그리고 잔차 블록이 인터-예측으로부터 생성되는 경우를 위한 상이한 변환 유형들) 을 설명한다.
일부 경우들에서, DST 유형-VII이 기존의 DCT 유형-II에 비하여 인트라 코딩 효율을 효율적으로 개선할 수 있다는 사실에도 불구하고, 예측 잔차들이 다양한 통계를 제시하기 때문에 변환 효율은 상대적으로 제한되고, DCT 유형-II 및 DST 유형-VII의 고정된 사용이 모든 가능한 경우들에 효율적으로 적응할 수 없다. 일부 기법들이 상이한 경우들에 적응하기 위해 제안되어 있다.
『S.-C. Lim, D.-Y. Kim, S. Jeong, J. S. Choi, H. Choi, and Y.-L. Lee, "Rate-distortion optimized adaptive transform coding," Opt. Eng., vol. 48, no. 8, pp. 087004-1-087004-14, Aug. 2009 』에서, 예측 잔차에 대해 DCT 또는 DST의 정수 버전을 적응적으로 채용하는 새로운 변환 스킴이 제안되어, 각각의 블록에 대해 DCT 또는 DST 변환이 예측 잔차에 대해 사용되는지의 여부가 시그널링된다. 『Y. Ye and M. Karczewicz, "Improved H.264 intra coding based on bidirectional intra prediction, directional transform, and adaptive coefficient scanning," in Proc. 15th IEEE Int. Conf. Image Process., Oct. 2008, pp. 2116-2119』에서, 각각의 인트라 예측 모드가 KLT 쌍으로서 미리 정의된 고유 변환 쌍 (C 및 R) 에 매핑될 수 있어서, 모드 의존적 변환 (mode dependent transform, MDDT) 이 적용된다는 것이 제안되어 있다. 이 방식의, 상이한 KLT 변환들은 상이한 인트라 예측 모드들을 위해 사용될 수 있지만; 사용될 어떤 변환은 미리 정의되고 인트라 예측 모드에 의존적이다.
『X. Zhao, L. Zhang, S. W. Ma, and W. Gao, "Video coding with rate-distortion optimized transform," IEEE Trans. Circuits Syst. Video Technol., vol. 22, no. 1, pp. 138-151, Jan. 2012』에서, 그러나, 더 많은 변환들이 사용될 수 있고 오프-라인 훈련 프로세스로부터 도출되는 미리-정의된 변환 후보들의 세트로부터의 변환들에 대한 인덱스가 명시적으로 시그널링된다. MDDT와 마찬가지로, 각각의 인트라 예측 방향은 그것의 고유한 변환 쌍들의 세트를 가질 수도 있다. 인덱스가 어떤 변환 쌍이 그 세트로부터 선택되는지를 특정하기 위해 시그널링된다. 예를 들어, 최소 블록 사이즈 4x4에 대해 네 개까지의 수직 KLT 변환들과 네 개까지의 수평 KLT 변환들이 있고; 그러므로 16 개 조합들이 선택될 수도 있다. 더 큰 블록 사이즈들에 대해, 적은 수의 조합들이 사용된다. "레이트-왜곡 최적화된 변환을 이용한 비디오 코딩"에서의 제안된 방법은 인트라 및 인터 예측 잔차들 둘 다에 적용된다. 인터 예측 잔차에 대해, KLT 변환들의 16 개까지의 조합들이 선택될 수 있고 조합들 (4x4에 대한 네 개와 8x8에 대한 열여섯 개) 중 하나에의 인덱스는 각각의 블록에 대해 시그널링된다.
『A. Saxena and F. Fernandes, "DCT/DST-based transform coding for intra prediction in image/video coding," IEEE Trans. Image Processing』 및 『C. Yeo, Y. H. Tan, Z. Li, and S. Rahardja, "Mode-dependent transforms for coding directional intra prediction residuals," IEEE Trans. Circuits Syst. Video Technol., vol. 22, no. 4, pp. 545-554, 2012』에서, 다수의 변환들이 사용되지만; KLT 변환들 (이것들은 훈련될 것이 통상적으로 필요함) 을 사용하는 대신, DCT (DCT-II) 또는 DST (DST-VII) 중 어느 하나가 변환 유닛에 대해 (동일한 좌측 및 우측 변환들 (예컨대, C 및 R) 둘 다로) 사용되고 어떤 것이 사용될 것인지가 시그널링된 플래그에 의해 결정된다. 『F. Zou, O. C. Au, C. Pang, J. Dai, and F. Lu, "Rate-Distortion Optimized Transforms Based on the Lloyd-Type Algorithm for Intra Block Coding," IEEE Journal of Selected Topics in Signal Processing, Volume:7, Issue: 6, Nov. 2013』에서, 여러 미리-정의된 KLT 변환 쌍들이 사용되고, 변환 쌍에의 인덱스가 코딩 유닛에 대해 (도출되는 대신) 시그널링되어서, 코딩 유닛의 각각의 변환 유닛은 동일한 변환 쌍을 사용한다.
『J. An, X. Zhao, X. Guo and S. Lei, "Non-CE7: Boundary-Dependent Transform for Inter-Predicted Residue," JCTVC-G281』에서, 다수의 변환들이 TU들의 인터 예측된 잔차에 대해 CU 내의 그 TU들의 로케이션들에 따라 선택된다. C 및 R 변환들 둘 다는 DST-VII와 DST-VII의 뒤집힌 (flipped) 버전으로부터 선택된다. 그러므로, 네 개까지의 조합들이 CU 내의 TU들에 대해 가능하다. 그러나, 그 조합이 PU들의 로케이션에 의해 충분히 결정되므로, 어떤 조합이 사용되고 있는지를 시그널링할 필요는 없다.
잔차들에 대한 변환들에 관련된 기법들과 함께 하는 특정한 문제들 (예컨대, 인트라-예측으로부터 초래되지만 인터-예측으로부터 초래된 인터-예측된 잔차들에도 적용 가능할 수도 있는 인트라-예측된 잔차들에 대한 문제들) 이 있을 수도 있다. 현존 방법들은 인트라 예측된 잔차에 대해 한 쌍의 DST 또는 DCT 변환들을 사용할 수도 있다. 그러나, 그들 변환들은 잔차 신호의 모든 가능한 분포들을 커버할 수 없다.
예를 들어, DCT 유형-II만이 HEVC에서 8x8 이상인 인트라 예측 잔차 블록들에 적용되며, 이는 인트라 예측 잔차의 가변하는 통계에 적응할 수 없다. DCT 유형-II만이 HEVC에서의 인터 예측 잔차에 적용되며, 이는 인터 예측 잔차의 가변하는 통계에 적응할 수 없다. 변환 블록 사이즈 또는 인트라 예측 모드들에 의존하여 변환을 단순히 선택하는 것은, 심지어 동일한 인트라 예측 모드 또는 동일한 변환 사이즈 하에서 잔차 통계가 여전히 큰 변동을 가질 수도 있기 때문에 매우 효율적이지는 않다.
본 개시물은 다음의 기법들을 설명한다. 일부 예들에서, 다음의 기법들 중 하나 이상이 위에서 언급된 문제들 중 하나 이상을 해결할 수도 있다. 그러나, 다음의 기법들이 위에서 언급된 문제들 중 하나 이상을 해결하는 것은 요건이 아니다. 다음의 기법들이 개별적으로 적용될 수도 있다. 일부 경우들에서, 예시적인 기법들의 임의의 조합이 적용될 수도 있다. 예를 들면, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 기법들을 개별적으로 적용할 수도 있거나, 또는, 일부 경우들에서, 하나 이상의 기법들의 임의의 조합을 적용할 수도 있다.
일부 예들에서, HEVC에서 사용되는 DCT-II 기반 변형 외에도, 인트라 예측 모드에 의해 생성된 각각의 잔차 블록에 대해, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 DCT 및 DST 족들로부터의 둘 이상의 후보 변환들로부터 변환들을 선택할 수도 있다. 하나의 예로서, 후보 변환들은 상이한 유형들의 DCT 및 DST 족들에 기초하여 총 16 개 변환들에 속할 수도 있고, DCT-I ~ DCT-VIII, DST-I ~ DST-VIII을 비제한적으로 포함할 수도 있다. 대안적으로 또는 부가적으로, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 다른 사인곡선 유니타리 변환들을 사용할 수도 있거나, 또는 심지어 다른 KLT 변환들이 사용될 수도 있다. 각각의 TU에 대해, 수평 및 수직 변환들 (예컨대, 우측 및 좌측 변환들) 이 동일한 유형일 수도 있다. 예를 들어, 후보 변환들은 DST-VII, DCT-VIII, DST-I 및 DST-V이다.
위에서 설명된 바와 같이, 16 개 변환들 (예컨대, DCT-I 내지 DCT-VIII 및 DST-I 내지 DST-VIII) 이 있다. 어떤 변환들을 사용할지를 식별하는 하나의 방도는 비디오 인코더 (20) 및 비디오 디코더 (30) 가 이들 16 개 변환들의 리스트를 구성하는 것이다. 비디오 인코더 (20) 는 그 다음에 좌측 변환 (예컨대, X가 변환 블록이고 Y가 결과적인 계수 블록인 수학식 Y = C*X*RT에 대한 변환 C) 을 식별하는 리스트에의 제 1 인덱스를 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있고 우측 변환 (예컨대, 수학식 Y = C*X*RT에 대한 변환 R) 을 식별하는 리스트에의 제 2 인덱스를 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있다. 비디오 디코더 (30) 는 그 다음에 비트스트림으로부터 제 1 인덱스 및 제 2 인덱스를 수신하고 비디오 디코더 (30) 가 계수 블록을 다시 변환 블록으로 역 변환하는데 사용할 변환들 (C 및 R) 을 결정할 것이다.
이 예에서, 제 1 인덱스의 값은 0부터 15까지의 범위일 수도 있고, 제 2 인덱스의 값은 0부터 15까지의 범위일 수도 있다. 대체로, 더 큰 수들을 코딩하는 것은 더 작은 수들을 코딩하는 것보다 더 많은 비트들을 시그널링하는 것을 요구한다 (예컨대, 인덱스 값 15를 표시하는 것은 인덱스 값 2를 표시하는 것보다 더 많은 비트들을 요구한다). 리스트가 모든 16 개 변환들을 포함하는 경우, 원하는 것보다 더 많은 대역폭을 소비하는 시그널링 오버헤드가 있을 수도 있다. 그러나, 어떤 변환들이 사용될 수 있는지에 관한 옵션들을 제한하는 것은, HEVC에서 행해진 바와 같이, 시그널링 오버헤드를 감소시키지만 더 나은 변환들이 사용 가능하지 않다면 코딩 효율에 부정적으로 영향을 줄 수도 있다.
본 개시물에서 설명되는 기법들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 시그널링 오버헤드에 대한 낮은 영향으로, 비교적 큰 수량의 후보 변환들로부터 좌측 및 우측 변환을 결정할 수도 있다. 하나의 예로서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각의 변환 서브세트가 복수의 후보 변환들을 식별하는 복수의 변환 서브세트들을 각각 결정할 수도 있다.
예를 들어, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각 다음 세 개의 변환 서브세트들을 구성하고 그 변환 서브세트들을 메모리에 저장할 수도 있다: 변환 서브세트 0: {DST-VII, DCT-VIII}, 변환 서브세트 1: {DST-VII, DST-I}, 및 변환 서브세트 2: {DST-VII, DCT-V}. 일부 예들에서, 이들 세 개의 변환들은 비디오 인코더 (20) 및 비디오 디코더 (30) 의 메모리에 미리 저장될 수도 있다. 여하튼, 비디오 인코더 (20) 와 비디오 디코더 (30) 는, 세 개의 변환 서브세트의 각각이 복수의 후보 변환들 (예컨대, 이 예에서 두 개의 변환들) 을 식별하는, 이들 세 개의 변환 서브세트들을 결정하는 것으로서 간주될 수도 있다. 복수의 변환 서브세트들은 세 개를 초과하는 또는 세 개 미만의 변환 서브세트들을 포함할 수도 있고, 일반적으로 둘 이상의 변환 서브세트들을 포함한다. 각각의 변환 서브세트는 하나 이상의 후보 변환들을 포함할 수도 있지만, 적어도 하나는 복수의 후보 변환들을 식별한다. 예를 들면, 일부 변환 서브세트들은 단지 하나의 변환을 식별할 수도 있고, 다른 것들은 둘 이상의 변환들을 식별할 수도 있다. 일부 예들에서, 각각의 변환 서브세트는 비교적 적은 수 (예컨대, 5 이하) 의 변환들을 식별할 수도 있다.
본 개시물에서 설명되는 기법들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 대응하는 변환 서브세트들을 결정할 수도 있다. 예를 들면, 비디오 인코더 (20) 에서의 저장된 변환 서브세트들이 변환 서브세트 0: {DST-VII, DCT-VIII}, 변환 서브세트 1: {DST-VII, DST-I}, 및 변환 서브세트 2: {DST-VII, DCT-V}이면, 비디오 디코더 (30) 는 역 변환 서브세트들: 역-변환 서브세트 0: {IDST-VII, IDCT-VIII}, 역-변환 서브세트 1: {IDST-VII, IDST-I}, 및 역-변환 서브세트 2: {IDST-VII, IDCT-V}를 저장할 수도 있다. 다른 예로서, 비디오 디코더 (30) 는 비디오 인코더 (20) 와는 동일한 변환들을 저장할 수도 있고 역-변환을 적용하기 전에 그것들을 뒤집을 수도 있다. 어느 하나의 예에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 대응하는 변환 서브세트들 (예컨대, 동일한 서브세트들 또는 서로의 역 변환들을 갖는 서브세트들) 을 저장하는 것으로서 간주될 수도 있다.
비디오 인코더 (20) 와 비디오 디코더 (30) 는 좌측 및 우측 변환들에 대한 변환 서브세트들을 선택하기 위해 암시적 기법들을 이용할 수도 있다. 암시적 기법들은 비디오 인코더 (20) 가 어떤 변환 서브세트들을 선택할 것인지에 관해 비디오 디코더 (30) 에게 지시하는 정보를 비디오 디코더 (30) 로 송신하는 것이 필요하지 않다는 것을 의미한다. 비디오 인코더 (20) 와 비디오 디코더 (30) 는 시그널링될 것이 필요한 정보의 양에서의 임의의 증가 없이 비디오 인코더 (20) 와 비디오 디코더 (30) 가 동일한 변환 서브세트들을 선택하는 것을 초래하는 변환 서브세트들을 선택하기 위해 동일한 암시적 기법을 수행하도록 구성될 수도 있다.
하나의 예로서, 변환 블록이 인트라 예측으로부터 생성된다면, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 인트라 예측 모드에 기초하여 어떤 변환 서브세트들을 선택할 것인지를 결정할 수도 있다. 예를 들면, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 인트라 예측 모드를 좌측 변환이 결정되게 할 변환 서브세트에 매핑하는 테이블 및 우측 변환이 결정되게 할 변환 서브세트에 매핑하는 테이블을 각각 저장할 수도 있다.
일 예로서, 비디오 인코더 (20) 는 인트라 예측 모드 X에서 현재 블록을 인트라 예측 인코딩할 수도 있다. 이 예에서, 비디오 인코더 (20) 는 인트라 예측 모드 X에서 현재 블록을 인트라 예측 인코딩하는 것에서부터 생성된 잔차 블록으로부터 변환 블록을 생성한다. 비디오 인코더 (20) 는 인트라 예측 모드 X에 기초하여 좌측 변환을 위한 변환 서브세트를 선택하고 인트라 예측 모드 X에 기초하여 우측 변환을 위한 변환 서브세트를 선택할 수도 있다. 비디오 인코더 (20) 는, 아래에서 더 상세히 설명되는 바와 같이 각각의 선택된 변환 서브세트들로부터 좌측 및 우측 변환들을 결정하고, 그 변환들을 적용하여 계수 블록을 생성할 수도 있다.
비디오 인코더 (20) 는 계수 블록의 계수 값들을 나타내는 정보뿐만 아니라 계수 블록으로부터 생성된 변환 블록이 인트라 예측 모드 X를 사용하여 인트라 예측 인코딩되었던 블록을 위한 것임을 나타내는 정보를 포함하는 비디오 비트스트림을 생성할 수도 있다. 비디오 디코더 (30) 는 시그널링된 정보로부터 계수 블록을 생성하고 또한 시그널링된 정보로부터 인트라 예측 모드가 모드 X였음을 결정할 수도 있다. 비디오 디코더 (30) 는 모드 X인 인트라 예측 모드에 기초하여 좌측 변환을 위한 변환 서브세트 (이는 이 경우에 비디오 인코더 (20) 에 의해 적용된 변환의 역일 것임) 와 우측 변환을 위한 변환 서브세트 (이는 이 경우에 비디오 인코더 (20) 에 의해 적용된 변환의 역일 것임) 를 선택할 수도 있다.
어떤 변환 서브세트들이 어떤 인트라 예측 모드에 매핑하는지를 표시하는 저장된 매핑은 비디오 인코더 (20) 측과 비디오 디코더 (30) 측에서 동일하다. 그러므로, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 대응하는 변환 서브세트들을 선택한다. 비디오 디코더 (30) 는, 아래에서 더 상세히 설명되는 바와 같이 각각의 선택된 변환 서브세트들로부터 좌측 및 우측 변환들을 결정하고, 그 변환들을 적용하여 변환 블록을 생성할 수도 있다.
비록 위의 예가 인트라 예측 모드들에 대해 설명하지만, 본 개시물에서 설명되는 기법들은 그렇게 제한되지는 않는다. 일부 예들에서, 인트라 예측 모드들이 아니라, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 RQT 깊이, 양자화된 계수들 등과 같은 다른 정보에 기초하여 각각의 변환 서브세트들을 선택할 수도 있다.
또한, 비록 위의 예가 인트라 예측에 대해 설명되지만, 본 개시물에서 설명되는 기법들은 인터-예측에도 또한 확장될 수도 있다. 예를 들어, 위와 유사하게, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 복수의 변환 서브세트들을 결정할 수도 있다. 인터-예측 경우를 위한 이들 복수의 변환 서브세트들은 인트라 예측 경우를 위한 복수의 변환 서브세트들과는 동일하거나 또는 상이할 수도 있다. 일부 경우들에서, 인터-예측 경우를 위한 복수의 변환 서브세트들은 인트라 예측 경우를 위한 복수의 변환 서브세트와는 전부는 아니라 일부가 동일할 수도 있다.
인터-예측에 대해, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 변환 블록이 연관되는 PU, CU, 또는 LCU에 대하여 그 변환 블록의 포지션과의 매핑을 저장할 수도 있다. 예를 들면, 매핑은, 변환 블록이 PU, CU, 또는 LCU의 좌측 경계에 있다면, 변환 서브세트들의 제 1 그룹 (예컨대, 좌측 변환을 위한 하나의 변환 서브세트와 우측 변환을 위한 하나의 변환 서브세트) 이 선택됨을 표시할 수도 있다. 변환 블록이 PU, CU, 또는 LCU의 우측 경계에 있다면, 변환 서브세트들의 제 2 그룹이 선택되고, 상단 및 바닥 경계들에 대해서도 이와 같으며, 각각의 경우, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 좌측 변환을 위한 하나의 변환 서브세트와 우측 변환을 위한 하나의 변환 서브세트를 선택한다.
비디오 인코더 (20) 와 비디오 디코더 (30) 는 픽처의 블록들을 특정 순서로 인코딩 및 디코딩할 수도 있다. 따라서, 단지 인코딩된 또는 디코딩된 블록의 로케이션에 기초하여, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 PU, CU, 또는 LCU에서의 변환 블록의 로케이션을 결정할 수도 있다. 다시, 비디오 디코더 (30) 의 관점에서, 비디오 디코더 (30) 는 계수 블록으로부터 변환 블록을 생성하고 있다. 그러나, 디코딩 순서에 기초하여, 비디오 디코더 (30) 는 계수 블록으로부터 생성될 변환 블록의 로케이션을 결정할 수도 있다.
이런 식으로, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 시그널링될 것이 필요한 정보의 양에서의 임의의 증가 없이 좌측 변환 및 우측 변환이 결정될 각각의 변환 서브세트들을 결정할 수도 있다. 일부 예들에서, 비디오 인코더 (20) 가 변환 서브세트들을 선택한 후, 비디오 인코더 (20) 는 선택된 변환 서브세트들에서의 어떤 변환이 좌측 변환을 위한 것인지와 어떤 변환이 우측 변환을 위한 것인지를 표시하는 정보를 시그널링 (예컨대, 비디오 비트스트림에서 정보를 생성) 할 수도 있다. 비디오 디코더 (30) 는 시그널링된 정보를 수신하고 좌측 및 우측 변환들을 결정한다.
예를 들면, 비디오 인코더 (20) 는 좌측 변환을 위해 선택된 변환 서브세트에의 인덱스를 시그널링 (예컨대, 비트스트림에서 생성) 하고 우측 변환을 위해 선택된 변환 서브세트에의 인덱스를 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있다. 비디오 디코더 (30) 는 각각의 변환 서브세트들에의 각각의 인덱스들을 수신하고, 좌측 및 우측 변환을 결정할 수도 있다.
이 예에서, 시그널링될 것이 필요한 정보에서의 증가가 있을 수도 있다 (예컨대, 좌측 및 우측 변환들을 결정하기 위한 인덱스들이 시그널링된다). 그러나, 시그널링될 것이 필요한 정보에서의 증가는 최소화될 수도 있다. 위에서 설명된 바와 같이, 변환 서브세트들의 각각은 상대적으로 적은 수의 변환들을 식별할 수도 있다. 그러므로, 인덱스 값의 범위는 상대적으로 작을 (예컨대, 각각의 변환 서브세트가 식별하는 변환들의 최대 수가 5이면 0 내지 4일) 수도 있다.
따라서, 시그널링 오버헤드에서의 상대적으로 작은 증가에 대해, 본 개시물에서 설명되는 기법들은 선택될 수 있는 변환들의 수에서의 상대적으로 큰 증가를 허용한다. 예를 들어, 각각이 하나 이상의 변환들을 포함하는 복수의 변환 서브세트들이 있기 때문에, 16 개의 예의 변환들 중 많은 것, 그리고 아마도 모두가 변환들 중 하나 이상의 변환들에서 식별될 수도 있다. 변환 서브세트들이 암시적 기법들로 선택되기 때문에 시그널링 오버헤드에서의 증가는 없고, 각각의 변환 서브세트가 상대적으로 작은 수의 변환들을 식별하기 때문에, 특정 변환을 식별하는 것은 시그널링 오버헤드를 대폭적으로 증가시키지 않는다.
일부 예들에서, 시그널링 오버헤드의 양을 추가로 감소시키는 것이 가능할 수도 있다. 예를 들면, 일부 예들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 위에서 설명된 바와 같은 변환 서브세트들을 선택할 수도 있지만, 그때 특정한 조건들에 기초하여 각각의 변환 서브세트들의 각각으로부터 특정 변환을 결정하도록 구성될 수도 있다. 이 경우, 비디오 인코더 (20) 는 시그널링하는 것이 필요하지 않을 수도 있고 비디오 디코더 (30) 는 선택된 변환 서브세트들 내에서 어떤 변환을 사용할 것인지를 표시하는 정보를 수신하는 것이 필요하지 않을 수도 있다.
일 예로서, 인코딩 프로세스 동안, 비디오 인코더 (20) 는 선택된 변환 서브세트로부터의 특정 변환을 (예컨대, 선택된 변환 서브세트에서의 제 1 식별된 변환을) 사용하고, 변환이 적용된 후, 결과적인 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 결정할 수도 있다. 이 경우, 비디오 디코더 (30) 는 계수 블록의 계수 값들을 표시하는 정보를 수신하고 0이 아닌 계수들의 수가 임계값 미만이라고 유사하게 결정할 수도 있다. 일부 예들에서, 비디오 디코더 (30) 가 계수 블록에서의 0이 아닌 계수들의 수가 임계값 (예컨대, 1 또는 2) 미만이라고 결정하면, 비디오 디코더 (30) 가 선택된 변환 서브세트로부터의 특정 변환 (예컨대, 선택된 변환 서브세트에서의 제 1 식별된 변환) 을 사용해야 한다고 비디오 디코더 (30) 는 결정할 수도 있다.
예를 들면, 인트라 예측 모드에 기초하여, 비디오 인코더 (20) 는 좌측 변환을 위한 변환 서브세트가 서브세트 0이고 우측 변환을 위한 변환 서브세트가 서브세트 1이라고 결정하였다고 가정한다. 이 경우, 비디오 인코더 (20) 는, 서브세트 0에서의 제 1 식별된 변환이 좌측 변환으로서 사용된다면 그리고 서브세트 1에서의 제 1 식별된 변환이 우측 변환으로서 사용된다면, 결과적인 계수 블록에서의 0이 아닌 계수들의 수가 임계 값 미만이라고 결정할 수도 있다. 이 예에서, 비디오 인코더 (20) 는 서브세트 0 및 서브세트 1에서의 제 1 식별된 변환이 각각 좌측 및 우측 변환들로서 사용될 것임을 표시하는 정보를 시그널링하지 않을 수도 있다. 다른 경우들에서, 서브세트 0 (또는 서브세트 1) 에서의 제 1 식별된 변환이 좌측 변환 (또는 우측 변환) 으로서 사용되지 않는다면, 결과적인 계수 블록에서의 0이 아닌 계수들의 수는 임계 값 미만이다. 이 예에서, 비디오 인코더 (20) 는 서브세트 0 및 서브세트 1에서의 식별된 변환들이 좌측 및 우측 변환으로서 사용될 수 없다는 제약을 추가한다.
비디오 디코더 (30) 는 인트라 예측 모드를 수신할 수도 있고 비디오 인코더 (20) 는 변환 서브세트 0 및 변환 서브세트 1이 인트라 예측 모드에 기초하여 각각 좌측 및 우측 변환들에 대해 선택될 것이라고 결정한다. 또한, 계수 값들을 표시하는 정보로부터 계수 블록을 생성한 후, 비디오 디코더 (30) 는 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 또한 결정할 수도 있다. 비디오 디코더 (30) 는, 0이 아닌 계수들의 수가 임계값 미만이기 때문에, 서브세트 0에서의 제 1 식별된 변환과 서브세트 1에서의 제 1 식별된 변환이, 비디오 인코더 (20) 로부터 이 정보를 수신하는 일 없이, 각각 좌측 및 우측 변환들로서 사용될 것이라고 결정할 수도 있다.
위의 예들에서, 변환 서브세트들은 16 개 변환들 (즉, 여덟 개의 DCT들 및 여덟 개의 DST들) 로부터 형성된다. 그러나, 본 개시물에서 설명된 기법들은 그렇게 제한되지 않는다. 변환들의 추가적인 예들은 KLT 변환들을 포함한다. 따라서, 변환 서브세트들은 여덟 개의 DCT들, 여덟 개의 DST들, KLT 변환들, 및 다른 변환 예들로부터의 하나 이상의 변환들을 포함할 수도 있다. 오로지 설명의 편의를 위해, 예들은 여덟 개의 DCT들 및 여덟 개의 DST들에 대해 설명된다.
요약으로서, 본 개시물에서 설명되는 예들의 일부에서, 세 개 이상의 후보 변환들로부터의 사전-선택이 변환들의 서브세트를 공식화하도록 수행되고, 현재 TU를 위해 사용될 최종 변환은 변환들의 서브세트로부터 선택된다. 예를 들어, 변환들의 서브세트는 좌측 변환들의 서브세트 및/또는 우측 변환들의 서브세트를 합성할 수도 있다. 변환들의 서브세트 (또는 좌측 변환들의 서브세트 및 우측 변환들의 서브세트) 를 공식화하는 사전-선택은 인트라 예측 모드들, RQT 깊이, 양자화된 계수들 등과 같은 이미 디코딩된 정보에 의해 결정될 수도 있다.
변환의 서브세트들의 수는 작은 정수, 예컨대, 1, 2, 3 또는 4로 제한될 수도 있고, 변환의 상이한 서브세트들이 변환들의 상이한 유형을 포함한다. 하나의 예에서, 각각의 서브세트가 두 개의 변환들을 포함하는 세 개의 변환 서브세트들이 생성된다. 주어진 인트라 예측 모드에 기초하여, 좌측 변환들의 서브세트는 세 개의 서브세트들 중 하나의 서브세트로 설정되고 우측 변환들의 서브세트는 (좌측 변환들의 서브세트와 동일할 수도 있거나 또는 동일하지 않을 수도 있는) 세 개의 서브세트들 중 하나의 서브세트로 또한 설정된다. 일 예로서, 세 개의 변환 서브세트들은 다음과 같다: {DST-VII, DCT-VIII}, {DST-VII, DST-I} 및 {DST-VII, DCT-V}. 좌측 변환들의 서브세트 또는 우측 변환들의 서브세트 중 어느 하나는 위의 세 개의 서브세트들 중 하나일 수 있다. 그러므로, 다양한 인트라 예측 모드들이 좌측 및 우측 변환들에 대한 9 개까지의 상이한 서브세트 조합들에 대응할 수도 있다. 대안적으로 또는 부가적으로, 좌측 변환들의 서브세트 또는 우측 변환들의 서브세트는 단지 하나의 변환을 포함한다. 대안적으로 또는 부가적으로, 좌측 변환들의 서브세트 및 우측 변환들의 서브세트 둘 다는 단지 하나의 변환을 포함할 수도 있다.
위에서 설명된 예들에서, 변환 서브세트들과 변환 서브세트들에서 식별된 변환들은 TU 사이즈에 상관없이 동일할 수도 있고 변환 서브세트들에서의 변환들의 수는 상이한 인트라 예측 모드들에 대해 동일할 수도 있다. 그러나, 본 개시물에서 설명된 기법들은 그렇게 제한되지는 않는다.
일부 예들에서, 상이한 TU 사이즈들에 대해, 좌측/우측 변환들의 서브세트에서의 변환들의 수는 상이할 수 있으며, 전형적인 수는 비제한적으로 2, 3 및 4일 수도 있다. 상이한 인트라 예측 모드들에 대해, 좌측/우측 변환들의 서브세트에서의 변환들의 수는 상이할 수 있으며; 전형적인 변환들의 수는 비제한적으로 2, 3 및 4일 수도 있다.
위에서 설명된 바와 같이, 변환들의 서브세트가 미리 선택되는 경우, 사용될 최종 변환은 변환들의 서브세트에의 인덱스에 의해 시그널링될 수도 있다. 좌측 변환들의 서브세트 (또는 우측 변환들의 서브세트) 가 둘 이상의 변환들을 포함하는 경우, 좌측 변환들의 서브세트 (또는 우측 변환들의 서브세트) 에 속하는 변환에 대한 인덱스가 시그널링된다. 그것은, 서브세트의 좌측 또는 우측 변환들의 수가 1과 동일한 경우, 변환들의 인덱스를 시그널링할 필요가 없다는 것을 의미한다.
위의 예들은 비디오 인코더 (20) 와 비디오 디코더 (30) 가 변환 서브세트들을 공식화하는 것을 미리 선택할 수도 있는 경우를 설명하였다. 그러나, 본 개시물에서 설명된 예들은 그렇게 제한되지는 않는다. 대안적으로 또는 부가적으로, 변환들의 서브세트들을 공식화하기 위한 사전 선택을 할 필요가 없을 수도 있고 (전체 세트로서의) 둘 이상의 후보 변환들에 대한 하나의 인덱스가 좌측 또는 우측 변환을 표시하기 위해 직접적으로 시그널링된다. 예를 들어, 비디오 인코더 (20) 에서, 전체 세트 내의 변환들 중 일부만이 테스트될 수도 있고 다른 변환들이 인코더 복잡도를 줄이기 위해 테스트되지 않는 제약이 도입될 수도 있다. 어떤 변환들이 선택될 것인지와 변환들의 인덱스들은 인트라 예측 모드 또는 다른 정보에 의존할 수도 있다.
일부 예들에서, 각각의 TU의 경우, 좌측 변환 (우측 변환) 에 대해, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 후보 변환들의 서브세트로부터 좌측 및 우측 변환을 선택할 수도 있다는 것이 제약될 수도 있다. 예를 들어, 변환들의 유일한 하나의 서브세트는 DST-VII, DCT-VIII 및 DCT-II를 포함하고, 각각의 TU에 대한 좌측 변환은 {DST-VII, DCT-VIII 및 DCT-II}로부터 항상 선택되고, 각각의 TU에 대한 우측 변환은 {DST-VII, DCT-VIII 및 DCT-II}로부터 또한 항상 선택된다.
위에서 설명된 바와 같이, 본 개시물에서 설명되는 예시적인 기법들은 인트라 예측 및 인터-예측 둘 다에 적용 가능할 수도 있다. HEVC에서, 인터-예측으로부터 생성된 변환 블록에 대해, DCT-II 기반 변환만이 이용 가능하였다. 일부 예들에서, HEVC에서와 같은 기존의 DCT-II 기반 변환 외에도, 인터 예측 모드에 의해 생성된 각각의 잔차 블록에 대해, 좌측 변환들의 서브세트 및 우측 변환들의 서브세트가 생성되는 것에 더하여, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 DCT 및 DST 족들 또는 다른 변환들, 예컨대, KLT로부터의 둘 이상의 후보 변환 방법들로부터 변환들을 선택할 수도 있다. 인트라 예측에 대한 위의 예와 유사하게, 비디오 인코더 (20) 는 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있고 비디오 디코더 (30) 는 좌측 및 우측 변환들을 결정하기 위해 각각의 TU에 대해 좌측 변환들의 서브세트에의 인덱스 및 우측 변환들의 서브세트에의 인덱스를 비트스트림에서 수신할 수도 있다.
하나의 예로서, 두 개의 변환들, 예컨대, DST-VII 및 DCT-VIII이 좌측 변환들의 서브세트 및 우측 변환들의 서브세트 내에 놓일 수도 있다. 이들 서브세트들의 각각에 대한 1-비트 인덱스가 현재 TU의 최종 좌측 및 우측 변환들을 결정한다. 서브세트들은 {DST-VII, DCT-VIII} 또는 {DST-VIII, DCT-VII} 중 어느 하나일 수 있다.
대안적으로 또는 부가적으로, 세 개 이상의 후보 변환들로부터의 사전-선택이 변환들의 서브세트를 공식화하도록 수행되고, 현재 TU를 위해 사용될 최종 변환은 그 변환들의 서브세트로부터 선택된다. 예를 들어, 변환들의 서브세트 (또는 좌측 변환들의 서브세트 및 우측 변환들의 서브세트) 를 공식화하는 사전-선택은 속하는 PU에 대한 현재 TU의 상대 포지션, 즉, 현재 TU가 속하는 PU의 상단 경계에 있는지, 좌측 경계에 있는지, 우측 경계에 있는지, 하단 경계에 있는지 또는 다른 포지션에 있는지에 의해 결정될 수도 있다.
하나의 예에서, 각각의 서브세트가 두 개의 변환들을 포함하는 세 개의 변환 서브세트들이 생성된다. 속하는 PU에 대한 현재 TU의 상대 포지션에 기초하여, 좌측 변환들의 서브세트는 세 개의 서브세트들 중 하나의 서브세트로 설정되고 우측 변환들의 서브세트는 (좌측 변환들의 서브세트와 동일할 수도 있거나 또는 동일하지 않을 수도 있는) 세 개의 서브세트들 중 하나의 서브세트로 또한 설정된다. 대안적으로 또는 부가적으로, 좌측 변환들의 서브세트 또는 우측 변환들의 서브세트는 단지 하나의 변환을 포함한다. 대안적으로 또는 부가적으로, 좌측 변환들의 서브세트 및 우측 변환들의 서브세트 둘 다는 단지 하나의 변환을 포함할 수도 있다.
위의 예들에서, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 위에서 설명된 바와 같이 CU의 각각의 TU에 대한 변환 서브세트들을 선택한 다음 각각의 TU에 대한 좌측 및 우측 변환들을 결정할 수도 있다. 이 예에서, 어떤 변환들을 사용할지의 결정은 TU 레벨에서 되는 것으로 간주된다. 그러나, 본 개시물에서 설명되는 예시적인 기법들은 그렇게 제한되지는 않는다.
일부 경우들에서, 비디오 인코더 (20) 는 CU의 각각의 TU에 대한 좌측 및 우측 변환들이 동일한 디폴트 변환이어야 한다고 결정할 수도 있다 (예컨대, DCT-II가 하나의 예이지만, 다른 변환 유형들 역시 가능하다). 또한, 좌측 변환에 대한 디폴트 변환과 우측 변환에 대한 디폴트 변환이 있을 수도 있거나, 또는 좌측 변환 및 우측 변환에 대한 디폴트 변환이 동일할 수도 있다. 다음의 설명에서, "디폴트 변환"이란 용어는 좌측 및 우측 변환들에 대한 디폴트 변환이 상이한 경우와 좌측 및 우측 변환들에 대한 디폴트 변환이 동일한 경우 둘 다를 포함하는 것으로 해석되어야 한다. 예를 들면, 좌측 및 우측 변환에 대한 디폴트 변환 (예컨대, 상이하거나 또는 동일한 경우) 은 사전 선택될 수도 있고 비디오 인코더 (20) 및 비디오 디코더 (30) 에 대해 동일할 수도 있다.
CU의 각각의 TU가 동일한 디폴트 변환을 가진다고 비디오 인코더 (20) 가 결정한다면, 비디오 인코더 (20) 는 이와 같이 표시하는 정보를 시그널링 (예컨대, 이와 같이 표시하는 정보를 비디오 비트스트림에서 생성할 수도 있다. 이 예에서, 비디오 인코더 (20) 는 변환 서브세트들에의 인덱스들을 시그널링하지 않을 수도 있으며, 이는 시그널링될 것이 필요한 정보의 양을 감소시키는데, 비디오 디코더 (30) 가 수신된 정보에 기초하여 디폴트 변환이 CU의 각각의 TU에 대해 사용될 것이라고 결정할 수도 있기 때문이다.
일 예로서, 비디오 인코더 (20) 는 CU의 각각의 TU가 동일한 디폴트 변환을 적용할 것인지의 여부를 표시하는 플래그를 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있다. 그 플래그가 제 1 값 (예컨대, 디지털 하이) 을 가지면, CU의 각각의 TU에는 동일한 디폴트 변환이 적용되었다. 그 플래그가 제 2 값 (예컨대, 디지털 로우) 을 가지면, CU의 적어도 하나의 TU에는 디폴트 변환과는 다른 변환이 적용되었다. CU의 적어도 하나의 TU에는 상이한 변환이 적용되었던 경우, 비디오 인코더 (20) 는, 위에서 설명된 바와 같이, 변환 서브세트들을 선택하고, 필요하다면 (예컨대, 0이 아닌 계수들이 임계값보다 크면) 변환 서브세트들에서의 인덱스들을 시그널링할 수도 있다. CU의 각각의 TU에는 동일한 디폴트 변환이 적용되었던 경우, 비디오 디코더 (30) 가 어떤 변환을 사용할지를 미리 결정할 수도 있으므로, 비디오 인코더 (20) 는 변환 서브세트들 중 임의의 변환 서브세트에서의 임의의 인덱스들을 시그널링하지 않을 수도 있다.
비디오 디코더 (30) 는 CU의 각각의 TU에는 동일한 디폴트 변환을 적용할지의 여부를 표시하는 플래그를 수신할 수도 있다. 그 플래그가 제 1 값을 가지면, 비디오 디코더 (30) 는 변환 서브세트들이 선택되지 않을 것이라고 그리고 변환 서브세트들로의 인덱스들이 비트스트림으로부터 파싱 (예컨대, 수신) 되지 않을 것이라고 결정할 수도 있다. 이 경우, 비디오 디코더 (30) 는 디폴트 변환을 CU의 각각의 계수 블록에 적용할 수도 있다. 그 플래그가 제 2 값을 가지면, 비디오 디코더 (30) 는 변환 서브세트들이 선택될 것이라고 결정하며, 인덱스들이 수신될 것인지의 여부를 (예컨대, 0이 아닌 계수들의 수에 기초하여) 결정하고, 인덱스들이 수신될 것이라는 결정에 기초하여 선택된 변환 서브세트들에서의 인덱스들을 결정할 수도 있다.
위의 예에서, 각각의 TU가 동일한 디폴트 변환을 사용할 것인지의 여부를 표시하는 플래그는 CU 레벨에 있다 (예컨대, CU의 각각의 TU가 동일한 디폴트 변환을 사용함을 표시한다). 일부 예들에서, CU 레벨에 있는 것이 아니라, 플래그는 CTU 레벨 또는 PU 레벨에 있을 수도 있다.
예를 들어, 비디오 인코더 (20) 는 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는지의 여부를 표시하는 플래그를 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있다. 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 플래그를 수신하는 것에 응답하여, 비디오 디코더 (30) 는 위에서 설명된 바와 같이 변환 서브세트들을 선택하고 선택된 변환들에서의 인덱스들을 결정할 수도 있다. 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환됨을 표시하는 플래그를 수신하는 것에 응답하여, 비디오 디코더 (30) 는 블록의 변환 블록의 각각에 대해 그 변환을 사용할 수도 있다. 이 예에서, "블록"은 몇 가지 예들로서 CTU, CU, 또는 PU 중 하나일 수도 있다.
요약으로서, 각각의 TU를 위해 사용될 변환들의 시그널링은, 예컨대, 위에서 설명된 바와 같이, 추가적인 변환들을 이용하는 현재 CU가 사용되는 경우 TU 레벨에서 행해질 수 있다. 예를 들어, 비디오 인코더 (20) 는 각각의 CU 내의 TU들이 추가적인 변환들로 (예컨대, HEVC에서의 변환들과는 다른 변환들을 사용하여) 코딩되는지의 여부를 표시하는, 각각의 CU에 대한 하나의 플래그를 전송할 수도 있다. 대안적으로 또는 부가적으로, 이러한 표시는 LCU 레벨 (CTU 레벨), CU 레벨, PU 레벨, TU 또는 임의의 다른 블록 레벨에서 시그널링될 수도 있다.
CU 내의 TU가 추가적인 변환들로 코딩되지 않음을 플래그가 표시하는 경우, 모든 TU들은 하나의 디폴트 변환으로 코딩된다. 하나의 예에서, 디폴트 변환은 DCT-II이다. 대안적으로 또는 부가적으로, 디폴트 변환은 인트라/인터 모드들, 인트라 예측 모드, 블록 사이즈, PU 내의 TU 포지션, 또는 현재 TU의 임의의 다른 통계에 의존할 수도 있다. 예를 들어, 위에서 설명된 바와 같이, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 동일한 디폴트 변환을 결정할 수도 있고, 어떤 디폴트 변환을 사용할지에 대한 조건은 인트라/인터 모드들, 인트라 예측 모드, 블록 사이즈, PU 내의 TU 포지션, 또는 현재 TU의 임의의 다른 통계와 같은 요인들에 기초할 수도 있다. 이런 식으로, 디폴트 변환들을 사용함으로써, 시그널링될 것이 필요한 정보의 양은 감소될 수도 있다.
덧붙여서, 표시들은 상이한 계층구조들에서 존재할 수 있다. 예를 들어, 1-비트 플래그가 0이면, 비디오 인코더 (20) 는 LCU (CTU) 레벨에서 1-비트 플래그를 먼저 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있으며, 그렇지 않고 1-비트 플래그가 1이면, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각의 CU에만 DCT-II를 적용할 수도 있으며, 비디오 인코더 (20) 는 CU 내의 TU들이 다수의 변환들을 사용하는지 또는 단지 디폴트 변환을 사용하는지를 특정하는 CU 레벨에서의 다른 플래그를 시그널링할 수도 있다.
이 예에서, 비디오 디코더 (30) 는 특정 계층 레벨 내의 모든 TU들이 디폴트 변환을 사용하는지의 여부를 각각의 계층 레벨에서 결정할 수도 있다. 예를 들어, CTU의 모든 TU들이 동일한 디폴트 변환을 사용함을 CTU 레벨에서의 플래그가 표시한다면, 비디오 디코더 (30) 는 CTU의 모든 TU들에 대해 동일한 디폴트 변환을 사용할 수도 있다. CTU의 모든 TU들이 동일한 디폴트 변환을 사용하는 것은 아님을 CTU 레벨에서의 플래그가 표시한다면, 비디오 디코더 (30) 는 위에서 설명된 바와 같이 변환 서브세트들을 선택하고 CTU의 각각의 TU에 대한 변환들을 결정할 수도 있다.
일부 경우들에서, CTU 레벨에서 중단하고 각각의 TU에 대해 변환들을 결정하는 것이 아니라, CTU의 CU들의 각각에 대해 다른 플래그가 있을 수도 있다. 예를 들어, 비디오 디코더 (30) 는 CU의 모든 TU들이 동일한 디폴트 변환을 사용하는지 또는 동일한 디폴트 변환을 사용하지 않는지를 표시하는 CTU의 각각의 CU에 대한 플래그를 수신할 수도 있다. CU에 대해, 비디오 디코더 (30) 가 CU의 모든 TU들이 동일한 디폴트 변환을 사용함을 표시하는 플래그를 수신한다면, 비디오 디코더 (30) 는 디폴트 변환을 적용할 수도 있다. CU에 대해, 비디오 디코더 (30) 가 CU의 모든 TU들이 동일한 디폴트 변환을 사용하는 것은 아님을 표시하는 플래그를 수신한다면, 비디오 디코더 (30) 는 위에서 설명된 바와 같이 변환 서브세트들을 선택하고 CU의 각각의 TU에 대한 변환들을 결정할 수도 있다.
일부 경우들에서, CU 레벨에서 중단하고 각각의 TU에 대해 변환들을 결정하는 것이 아니라, CU의 PU들의 각각에 대해 다른 플래그가 있을 수도 있다. 예를 들어, 비디오 디코더 (30) 는 PU의 모든 TU들이 동일한 디폴트 변환을 사용하는지 또는 동일한 디폴트 변환을 사용하지 않는지를 표시하는 CU의 각각의 PU에 대한 플래그를 수신할 수도 있다. PU에 대해, 비디오 디코더 (30) 가 PU의 모든 TU들이 동일한 디폴트 변환을 사용함을 표시하는 플래그를 수신한다면, 비디오 디코더 (30) 는 디폴트 변환을 적용할 수도 있다. PU에 대해, 비디오 디코더 (30) 가 PU의 모든 TU들이 동일한 디폴트 변환을 사용하는 것은 아님을 표시하는 플래그를 수신한다면, 비디오 디코더 (30) 는 위에서 설명된 바와 같이 변환 서브세트들을 선택하고 PU의 각각의 TU에 대한 변환들을 결정할 수도 있다.
대안적으로 또는 부가적으로, 더욱이, CU의 중복 블록 모션 보상 (OBMC) 플래그가 오프로서 시그널링되는 경우, 단지 하나의 디폴트 변환이 적용되는지의 여부를 표시하는 1-비트 플래그는, 현재 CU에 대해 시그널링되지 않고 디폴트 변환 (예컨대, DCT-II) 이 적용됨을 표시하는 디폴트 값 (예컨대, 0) 으로서 유추된다. 대안적으로 또는 부가적으로, 단지 하나의 디폴트 변환이 적용되는지의 여부를 표시하는 하나의 블록의 1-비트 플래그의 CABAC 콘텍스트 모델링은, OBMC가 현재 슬라이스에 대해 허용되는 경우 현재 블록의 OBMC 플래그에 의존적 (예컨대, OBMC 플래그의 값에 의존적) 이다.
하나의 예에서, OBMC 플래그 (암시적으로 도출되거나 또는 명시적으로 시그널링됨) 가 참인 (즉, 1과 동일한) 경우, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 1-비트 플래그를 CABAC-인코딩 또는 CABAC-디코딩하기 위해 콘텍스트 모델들의 하나의 세트를 사용할 수도 있다. OBMC 플래그가 거짓인 (즉, 0과 동일한) 경우, 콘텍스트 모델들의 다른 세트가 1-비트 플래그를 코딩하기 위해 사용될 수도 있다. 대안적으로 또는 부가적으로, 더욱이, 콘텍스트 모델들의 두 개의 세트들의 초기화된 확률들은 상이할 수도 있다. 대안적으로 또는 부가적으로, 단지 하나의 디폴트 변환이 적용되는지의 여부를 표시하는 하나의 블록의 1-비트 플래그의 CABAC 콘텍스트 모델링은, 공간적 이웃 블록들 (예컨대, 좌측 이웃 블록 및/또는 상측 이웃 블록) 또는 시간적 이웃 블록들 (예컨대, 참조 픽처에서의 병치된 블록) 의 대응하는 1-비트 플래그의 값에 의존적이다.
CU가 가능하게 된 추가적인 변환들을 갖는 경우 (이는 예컨대, HEVC의 더욱 제한된 선택들을 의미함), 각각의 TU에 대해, 위에서 설명된 바와 같이 (세트 또는 서브세트의) 후보 변환들로부터 변환들에의 인덱스들을 비디오 인코더 (20) 는 시그널링할 수신할 수도 있고 비디오 디코더 (30) 는 수신할 수도 있다. 대안적으로 또는 부가적으로, LCU 레벨, CU 레벨, PU 레벨, 또는 임의의 다른 블록 레벨에서 비디오 인코더 (20) 는 이러한 정보를 시그널링할 수도 있고 비디오 디코더 (30) 는 이러한 정보를 수신할 수도 있다. 비디오 인코더 (20) 가 LCU 레벨, CU 레벨, PU 레벨 또는 임의의 다른 블록 레벨에 있는 표시자를 시그널링하는 경우, 그 레벨 내의 모든 포함된 TU들은 동일한 변환들의 쌍을 사용할 수도 있다.
예를 들면, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 (예컨대, 인트라 예측 모드에 기초하여 또는 인터-예측을 위한 TU의 로케이션에 기초하여) 위에서 설명된 바와 같이 변환 서브세트들을 선택할 수도 있다. 일부 예들에서, 각각의 변환 블록에 대해, 비디오 인코더 (20) 는 인덱스들을 시그널링할 수도 있고 비디오 디코더 (30) 는 각각의 변환 블록에 대한 인덱스들을 수신할 수도 있다. 그러나, 일부 예들에서, 각각의 변환 블록에 대한 인덱스들을 수신하는 것이 아니라, 비디오 인코더 (20) 는, 몇 가지 예들로서, CTU의 모든 TU들, CU의 모든 TU들, 또는 PU의 모든 TU들에 대해 좌측 변환을 위한 하나의 인덱스와 우측 변환을 위한 하나의 인덱스를 시그널링할 수도 있다. 이 예에서, 비디오 디코더 (30) 가 TU에 대한 우측 및 좌측 변환들을 위해 선택하는 각각의 변환 서브세트에 대해, 비디오 디코더 (30) 는 (예컨대, CUT, CU, 또는 PU의) 블록의 TU들의 모두에 대해 인덱스에 의해 식별된 변환을 적용할 수도 있다.
다르게 말하면, 어떤 경우에, 변환 서브세트들에의 인덱스들은 더욱 "전역적 (global)"인 것으로서 간주될 수도 있다. 예를 들어, 비디오 인코더 (20) 는 좌측 변환 및 우측 변환을 위한 인덱스들을 시그널링할 수도 있다. 이 경우, 인덱스들은, 블록이 CTU, CU, 또는 PU인 경우, 선택되는 특정 변환 서브세트들에 상관없이, 인덱스들이 블록의 각각의 TU에 대해 동일하다는 의미에서 전역적일 수도 있다. 이러한 예들에서, 비디오 디코더 (30) 는 이들 전역적 인덱스들로부터 선택된 변환 서브세트들로부터 좌측 및 우측 변환들을 결정할 수도 있다. 예를 들면, 비디오 디코더 (30) 는 각각의 변환 블록에 대해 각각의 선택된 변환 서브세트에 대한 인덱스들을 파싱하지 않지만, 대신에, 전역적 인덱스들에 기초하여 블록 (예컨대, CTU, CU, 또는 PU) 의 모든 변환 블록들에 대한 변환을 식별할 수도 있다.
위에서 설명된 바와 같이, 일부 예들에서, 비디오 인코더 (20) 는 선택된 변환 서브세트들에의 인덱스들을 시그널링하지 않을 수도 있다. 예를 들어, 특정한 TU들에 대해, 잔차 신호의 에너지가 제한된다면, 예컨대, 현재 TU를 위해 송신되는 0이 아닌 계수가 없다면, 추가적인 변환들의 시그널링은 스킵될 수도 있다. 추가적인 변환 시그널링의 유사한 스킵은 LCU, CU, PU 또는 임의의 다른 블록 레벨에 적용될 수도 있다.
대안적으로 또는 부가적으로, 특정한 블록 레벨에서의 표시자는 그 특정한 블록 레벨에서 송신되는 0이 아닌 계수들의 총 수 또는 총 절대 합 또는 제곱된 값의 합이 주어진 임계 값보다 작다면 스킵될 수도 있다. 다르게 말하면, 비디오 인코더 (20) 는, 계수 블록의 0이 아닌 계수들의 총 수 또는 총 절대 합 또는 제곱된 값의 합이 임계 값보다 작다면, 선택된 변환 서브세트들에의 인덱스들을 시그널링하지 않을 수도 있다. 이러한 예들에서, 0이 아닌 계수들의 총 수 또는 총 절대 합 또는 제곱된 값의 합이 주어진 임계 값보다 작다고 비디오 디코더 (30) 가 결정한다면, 비디오 디코더 (30) 는 선택된 변환 서브세트들에의 인덱스들이 비트스트림으로부터 수신 (예컨대, 파싱) 되지 않는다고 결정할 수도 있다.
하나의 예에서, 0이 아닌 계수들의 총 수의 임계 값은 2이다. 대안적으로 또는 부가적으로, 0이 아닌 계수들의 총 수에 대한 임계 값은 상이한 블록 사이즈들 또는 상이한 인트라 예측 모드들에 대해 상이할 수도 있다.
일부 예들에서, LCU, CU, PU 또는 블록의 사이즈가 미리-정의된 임계 값보다 더 크거나 또는 더 작은, 또는 주어진 임계 값 범위 내에 있는 경우, 비디오 인코더 (20) 는 표시자 (예컨대, 변환 서브세트들로의 인덱스들) 의 시그널링을 스킵할 수도 있고 비디오 인코더 (20) 와 비디오 디코더 (30) 는 디폴트 변환 유형만을 적용할 수도 있다. 하나의 예에서, 디폴트 변환은 DCT-II이다. 더욱이, CU 사이즈가 32x32보다 더 큰 경우, 비디오 인코더 (20) 는 표시자를 시그널링하지 않을 수도 있고 비디오 인코더 (20) 와 비디오 디코더 (30) 는 각각의 TU에 대해서만 DCT-II를 적용할 수도 있다.
비디오 인코더 (20) 와 비디오 디코더 (30) 는, 예를 들어 고정-길이 코드, 절단된 유너리 코드 (truncated unary code) 또는 지수 골롬 코드 (exponential Golomb code) 를 사용하여, 표시자들 (예컨대, 변환 서브세트들에의 인덱스들) 을 이진화할 수도 있다. 비디오 인코더 (20) 와 비디오 디코더 (30) 는 콘텍스트들을 갖는 CABC를 사용하여 표시자들을 엔트로피 코딩 (예컨대, 각각 인코딩 또는 디코딩) 할 수도 있고, 각각의 빈에 대해, 하나의 콘텍스트가 적용된다. 하나의 예에서, 콘텍스트 모델은 빈 인덱스에 기초하여 선택된다. 다른 예에서, 더욱이, 인트라 예측 모드 또는 TU 사이즈 또는 TU 깊이는 콘텍스트 모델들을 선택하는 경우 또한 고려된다. 대안적으로 또는 부가적으로, 빈들의 부분들은 콘텍스트 모델들로 코딩되고 나머지 빈들은 바이패스 모드로 코딩된다. 대안적으로 또는 부가적으로, 표시자들은 바이패스 코딩될 수도 있으며, 즉, 콘텍스트 모델링이 적용되지 않는다.
예의 기법들에서, 비디오 인코더 (20) 는 다양한 정보를 비트스트림에서 시그널링할 수도 있고 비디오 디코더 (30) 는 이러한 정보를 비트스트림으로부터 수신할 수도 있다. 비디오 인코더 (20) 는 이러한 정보를 시그널링할 수도 있고 비디오 디코더 (30) 는 이러한 정보를 상이한 로케이션들로부터 수신할 수도 있다.
하나의 예로서, 다수의 변환들에 관련된 신택스는 하이-레벨 신택스에 존재할 수 있다. 둘 이상의 후보 변환들로부터 선택된 변환들에 대해 위에서 설명된 바와 같이, 픽처 파라미터 세트 (PPS), 시퀀스 파라미터 세트 (SPS) 또는 심지어 슬라이스 헤더를 포함하는 임의의 다른 장소들에서 사용될 후보 변환들의 수를 비디오 인코더 (20) 는 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있고 비디오 디코더 (30) 는 수신할 수도 있다. 세 개 이상 후보 변환들로부터의 사전-선택에 관해 위에서 설명된 바와 같이, 슬라이스 헤더, 픽처 파라미터 세트 (PPS), 시퀀스 파라미터 세트 (SPS) 또는 임의의 다른 장소들에서 각각의 서브세트에서의 후보 변환들의 수를 비디오 인코더 (20) 는 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있고 비디오 디코더 (30) 는 수신할 수도 있다.
플래그 또는 인덱스는 위에서 언급된 다중 변환가 블록 레벨에서 적용되는지의 여부를 표시하기 위해 슬라이스 헤더, PPS, SPS 또는 임의의 다른 장소에서 시그널링될 수 있다. 위에서 설명된 바와 같이, 이 플래그 또는 인덱스의 하나의 전용 값은 모든 TU들이 하나의 디폴트 변환으로 코딩됨을 표시할 수도 있다. 부가적으로 또는 대안적으로, 이 플래그 또는 인덱스의 하나의 전용 값은 플래그/인덱스 또는 플래그들/인덱스들이 변환 선택을 블록 레벨로 시그널링될 수도 있다는 것을 블록 레벨에서 표시할 수도 있다. 또한, 다수의 변환들이 적용되지 않는 블록의 사이즈 (사이즈가 시그널링된 사이즈보다 더 크거나 또는 시그널링된 사이즈보다 더 작거나 또는 두 개의 시그널링된 사이즈의 범위에 있는 경우임) 는 파라미터 세트, 예컨대, 픽처 파라미터 세트 또는 시퀀스 파라미터 세트에 존재할 수도 있다.
반복하기 위해, 위의 설명은 "변환"이란 용어를 이용한다. 그러나, 비디오 인코더 (20) 는 잔차 블록으로부터 변환 계수 값들의 변환 블록을 생성하기 위해 변환을 이용한다는 것이 이해되어야 한다. 한편, 비디오 디코더 (30) 는 변환 블록으로부터 잔차 값들의 잔차 블록을 생성하기 위해 역-변환을 이용한다. 따라서, 위의 설명에서, 변환의 설명은 비디오 디코더 (30) 에 동일하게 적용 가능하지만; 비디오 디코더 (30) 는 역-변환을 이용한다는 것이 이해되어야 한다.
도 5는 본 개시물의 기법들을 구현할 수도 있는 예시적인 비디오 인코더 (20) 를 도시하는 블록도이다. 도 5는 설명의 목적으로 제공되고 본 개시물에서 폭넓게 예시되고 설명된 바와 같은 기법들의 제한으로서 고려되지 않아야 한다. 설명의 목적으로, 본 개시물은 HEVC 코딩의 맥락에서 비디오 인코더 (20) 를 설명한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에 적용 가능할 수도 있다. 예를 들어, 비디오 인코더 (20) 는 변환 블록에 대해 HEVC에서 제공된 제한된 옵션들보다 더 많은 변환들을 적용하도록 구성될 수도 있다.
도 5의 예에서, 비디오 인코더 (20) 는 예측 프로세싱 부 (100), 비디오 데이터 메모리 (101), 잔차 생성 부 (102), 변환 프로세싱 부 (104), 양자화 부 (106), 역 양자화 부 (108), 역 변환 프로세싱 부 (110), 복원 부 (112), 필터 부 (114), 디코딩된 픽처 버퍼 (116), 및 엔트로피 인코딩 부 (118) 를 포함한다. 예측 프로세싱 부 (100) 는 인터 예측 프로세싱 부 (120) 와 인트라 예측 프로세싱 부 (126) 를 구비한다. 인터 예측 프로세싱 부 (120) 는 모션 추정 부와 모션 보상 부 (미도시) 를 구비한다. 다른 예들에서, 비디오 인코더 (20) 는 더 많거나, 더 적거나, 또는 상이한 기능성 컴포넌트들을 포함할 수도 있다.
비디오 데이터 메모리 (101) 는 비디오 인코더 (20) 의 컴포넌트들에 의해 인코딩될 비디오 데이터를 저장할 수도 있다.　 비디오 데이터 메모리 (101) 에 저장된 비디오 데이터는, 예를 들어, 비디오 소스 (18) 로부터 획득될 수도 있다.　 디코딩된 픽처 버퍼 (116) 가, 예컨대, 인트라 코딩 또는 인터 코딩 모드들에서 비디오 인코더 (20) 에 의해 비디오 데이터를 인코딩함에 있어서의 사용을 위한 참조 비디오 데이터를 저장하는 참조 픽처 메모리일 수도 있다.　 비디오 데이터 메모리 (101) 와 디코딩된 픽처 버퍼 (116) 는 동기식 DRAM (SDRAM) 을 포함한 다이나믹 랜덤 액세스 메모리 (DRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 유형들의 메모리 디바이스들과 같은 다양한 메모리 디바이스들 중 임의의 것에 의해 형성될 수도 있다.　 비디오 데이터 메모리 (101) 와 디코딩된 픽처 버퍼 (116) 는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스들에 의해 제공될 수도 있다. 　다양한 예들에서, 비디오 데이터 메모리 (101) 는 비디오 인코더 (20) 의 다른 컴포넌트들과 온-칩, 또는 그들 컴포넌트들에 대하여 오프-칩일 수도 있다.
비디오 인코더 (20) 는 비디오 데이터를 수신할 수도 있다. 비디오 인코더 (20) 는 비디오 데이터의 픽처의 슬라이스에서의 각각의 CTU를 인코딩할 수도 있다. CTU들의 각각은 픽처의 동일 사이즈로 된 루마 코딩 트리 블록들 (CTB들) 및 대응하는 CTB들에 연관될 수도 있다. CTU를 인코딩하는 부분으로서, 예측 프로세싱 부 (100) 는 쿼드트리 파티셔닝를 수행하여 CTU의 CTB들을 점차적으로 더 작은 블록들로 나눌 수도 있다. 더 작은 블록은 CU들의 코딩 블록들일 수도 있다. 예를 들어, 예측 프로세싱 부 (100) 는 CTU에 연관된 CTB를 네 개의 동일 사이즈로 된 서브-블록들로 파티셔닝하며, 그 서브-블록들 중 하나 이상을 네 개의 동일 사이즈로 된 서브-블록들로 파티셔닝하는 등등을 수행할 수도 있다.
비디오 인코더 (20) 는 CTU의 CU들을 인코딩하여 CU들의 인코딩된 표현들 (즉, 코딩된 CU들) 을 생성할 수도 있다. CU를 인코딩하는 부분으로서, 예측 프로세싱 부 (100) 는 CU의 하나 이상의 PU들 중에서 CU에 연관된 코딩 블록들을 파티셔닝할 수도 있다. 따라서, 각각의 PU는 루마 예측 블록 및 대응하는 크로마 예측 블록들에 연관될 수도 있다. 비디오 인코더 (20) 와 비디오 디코더 (30) 는 다양한 사이즈들을 갖는 PU들을 지원할 수도 있다. 위에서 나타낸 바와 같이, CU의 사이즈는 CU의 루마 코딩 블록의 사이즈를 지칭할 수도 있고 PU의 사이즈는 PU의 루마 예측 블록의 사이즈를 지칭할 수도 있다. 특정 CU의 사이즈가 2Nx2N이라고 가정하면, 비디오 인코더 (20) 와 비디오 디코더 (30) 는 인트라 예측을 위한 2Nx2N 또는 NxN의 PU 사이즈들과, 인터 예측을 위한 2Nx2N, 2NxN, Nx2N, NxN, 또는 유사한 것의 대칭적 PU 사이즈들을 지원할 수도 있다. 비디오 인코더 (20) 와 비디오 디코더 (30) 는 인터 예측을 위해 2NxnU, 2NxnD, nLx2N, 및 nRx2N의 PU 사이즈들에 대한 비대칭 파티셔닝을 또한 지원할 수도 있다.
인터 예측 프로세싱 부 (120) 는 CU의 각각의 PU에 대해 인터 예측을 수행함으로써 PU에 대한 예측 데이터를 생성할 수도 있다. PU에 대한 예측 데이터는 PU의 예측 블록들 및 그 PU에 대한 모션 정보를 포함할 수도 있다. 인터 예측 부 (121) 는 PU가 I 슬라이스, P 슬라이스, 또는 B 슬라이스 중 어느 것에 있는지에 의존하여 CU의 PU에 대해 상이한 동작들을 수행할 수도 있다. I 슬라이스에서, 모든 PU들이 인트라 예측된다. 그런고로, PU가 I 슬라이스에 있으면, 인터 예측 부 (121) 는 PU에 대해 인터 예측을 수행하지 않는다. 따라서, I-모드에서 인코딩된 블록들에 대해, 예측된 블록은 동일한 프레임 내의 이전에 인코딩된 이웃 블록들로부터 공간적 예측을 사용하여 형성된다.
PU가 P 슬라이스에 있다면, 인터 예측 프로세싱 부 (120) 의 모션 추정 부는 PU에 대한 참조 지역을 참조 픽처들의 리스트 (예컨대, "RefPicList0") 에서의 참조 픽처들에서 검색할 수도 있다. PU에 대한 참조 지역은, 참조 픽처 내의, PU의 샘플 블록들에 가장 밀접하게 대응하는 샘플 블록들을 포함하는 지역일 수도 있다. 모션 추정 부는 PU에 대한 참조 지역을 포함하는 참조 픽처의 RefPicList0에서의 포지션을 나타내는 참조 인덱스를 생성할 수도 있다. 덧붙여서, 모션 추정 부는 PU의 코딩 블록 및 참조 지역에 연관된 참조 로케이션 사이의 공간적 변위를 나타내는 MV를 생성할 수도 있다. 예를 들면, MV는 현재 디코딩된 픽처에서의 좌표들로부터 참조 픽처에서의 좌표들로의 오프셋을 제공하는 2차원 벡터일 수도 있다. 모션 추정 부는 참조 인덱스 및 MV를 PU의 모션 정보로서 출력할 수도 있다. 인터 예측 프로세싱 부 (120) 의 모션 보상 부는 PU의 모션 벡터에 의해 가리켜진 참조 로케이션에 있는 실제 또는 보간된 샘플들에 기초하여 PU의 예측 블록들을 생성할 수도 있다.
PU가 B 슬라이스에 있다면, 인터 예측 프로세싱 부 (120) 의 모션 추정 부는 PU에 대해 단-예측 또는 양-예측을 수행할 수도 있다. PU에 대한 단-예측을 수행하기 위해, 모션 추정 부는 PU에 대한 참조 지역을 RefPicList0 또는 제 2 참조 픽처 리스트 ("RefPicList1") 의 참조 픽처들에서 검색할 수도 있다. 모션 추정 부는, PU의 모션 정보로서, 참조 지역을 포함하는 참조 픽처의 RefPicList0 또는 RefPicList1에서의 포지션을 나타내는 참조 인덱스, PU의 예측 블록 및 참조 지역에 연관된 참조 로케이션 사이의 공간적 변위를 나타내는 MV, 및 참조 픽처가 RefPicList0에 있는지 또는 RefPicList1에 있는지를 나타내는 하나 이상의 예측 방향 표시자들을 출력할 수도 있다. 인터 예측 프로세싱 부 (120) 의 모션 보상 부는 PU의 모션 벡터에 의해 가리켜진 참조 지역에 있는 실제 또는 보간된 샘플들에 적어도 부분적으로 기초하여 PU의 예측 블록들을 생성할 수도 있다.
PU에 대한 양방향 인터 예측을 수행하기 위해, 모션 추정 부는 그 PU에 대한 참조 지역을 RefPicList0에서의 참조 픽처들에서 검색할 수도 있고, 또한 그 PU에 대한 다른 참조 지역을 RefPicList1에서의 참조 픽처들에서 검색할 수도 있다. 모션 추정 부는 참조 지역들을 포함하는 참조 픽처들의 RefPicList0 및 RefPicList1에서의 포지션들을 나타내는 참조 픽처 인덱스들을 생성할 수도 있다. 덧붙여서, 모션 추정 부는 참조 지역들에 연관된 참조 로케이션 및 PU의 샘플 블록 사이의 공간적 변위들을 나타내는 MV들을 생성할 수도 있다. PU의 모션 정보는 PU의 MV들 및 참조 인덱스들을 포함할 수도 있다. 인터 예측 프로세싱 부 (120) 의 모션 보상 부는 PU의 모션 벡터들에 의해 가리켜진 참조 지역들에 있는 실제 또는 보간된 샘플들에 적어도 부분적으로 기초하여 PU의 예측 블록들을 생성할 수도 있다.
인트라 예측 프로세싱 부 (126) 는 PU에 대해 인트라 예측을 수행함으로써 그 PU에 대한 예측 데이터를 생성할 수도 있다. PU에 대한 예측 데이터는 PU에 대한 예측 블록들과 다양한 신택스 엘리먼트들을 포함할 수도 있다. 인트라 예측 프로세싱 부 (126) 는 I 슬라이스들, P 슬라이스들, 및 B 슬라이스들에서의 PU들에 대해 인트라 예측을 수행할 수도 있다.
PU에 대해 인트라 예측을 수행하기 위해, 인트라 예측 프로세싱 부 (126) 는 PU에 대한 예측 데이터의 다수의 세트들을 생성하기 위해 다수의 인트라 예측 모드들을 사용할 수도 있다. 인트라 예측 프로세싱 부 (126) 는 이웃하는 PU들의 샘플 블록들로부터의 샘플들을 사용하여 PU에 대한 예측 블록을 생성할 수도 있다. PU들, CU들, 및 CTU들에 대한 좌측에서 우측으로, 상단에서 하단으로의 인코딩 순서를 가정하면, 이웃하는 PU들은 PU의 상측, 우상측, 좌상측, 또는 좌측에 있을 수도 있다. 인트라 예측 프로세싱 부 (126) 는 다양한 수들의 인트라 예측 모드들, 예컨대, 35 개의 방향성 인트라 예측 모드들을 사용할 수도 있다. 일부 예들에서, 인트라 예측 모드들의 수는 PU에 연관된 지역의 사이즈에 의존할 수도 있다.
예측 프로세싱 부 (100) 는 CU의 PU들에 대한 예측 데이터를, 그 PU들에 대해 인터 예측 프로세싱 부 (120) 에 의해 생성된 예측 데이터 또는 그 PU들에 대해 인트라 예측 프로세싱 부 (126) 에 의해 생성된 예측 데이터 중에서 선택할 수도 있다. 일부 예들에서, 예측 프로세싱 부 (100) 는 예측 데이터의 세트들의 레이트/왜곡 메트릭들에 기초하여 CU의 PU들에 대한 예측 데이터를 선택한다. 선택된 예측 데이터의 예측 블록들은 본 명세서에서는 선택된 예측 블록들이라고 지칭될 수도 있다.
본 개시물에서 설명되는 예들에서, 기법들은 비디오 블록이 인트라-예측된 또는 인트라-예측된 경우에 적용 가능하다. 예를 들어, 블록이 인트라-예측된 경우, 인트라 예측 모드는 변환 서브세트들을 결정하는데 사용될 수도 있다. 블록이 인터-예측된 경우, 그 블록의 포지션은 변환 서브세트들을 결정하는데 사용될 수도 있다. 따라서, 예시적인 기법들은 인트라 예측 모드들 중 임의의 인트라 예측 모드로 인트라-예측된 또는 단-방향 또는 양-방향으로 인터-예측된 비디오 블록에 적용된다.
더욱이, 예시적인 기법들은 인트라 예측 또는 인터-예측으로 제한되지 않고, 인트라-블록 복사 (intra-block copy, IBC) 모드에도 또한 확장될 수도 있다. IBC 모드에서, 예측 블록이 인코딩되고 있는 비디오 블록과는 동일한 픽처에 있고, 블록 벡터에 의해 식별된다. IBC 모드에서, 변환 서브세트들은, 몇 가지 예들로서, 비디오 블록의 포지션, 예측 블록의 포지션, 또는 블록 벡터로부터 선택될 수도 있다.
잔차 생성 부 (102) 는, CU의 루마, Cb 및 Cr 코딩 블록과 CU의 PU들의 선택된 예측 루마, Cb 및 Cr 블록들에 기초하여, CU의 루마, Cb 및 Cr 잔차 블록들을 생성할 수도 있다. 예를 들면, 잔차 생성 부 (102) 는 CU의 잔차 블록들에서의 각각의 샘플이 그 CU의 코딩 블록에서의 샘플 및 그 CU의 PU의 대응하는 선택된 예측 블록에서의 대응하는 샘플 사이의 차이와 동일한 값을 가지도록 CU의 잔차 블록들을 생성할 수도 있다.
변환 프로세싱 부 (104) 는 쿼드트리 파티셔닝을 수행하여 CU에 연관된 잔차 블록들을 그 CU의 TU들에 연관된 변환 블록들로 파티셔닝할 수도 있다. 따라서, TU가 루마 변환 블록 및 두 개의 크로마 변환 블록들에 연관될 수도 있다. CU의 TU들의 루마 및 크로마 변환 블록들의 사이즈들 및 포지션들은 그 CU의 PU들의 예측 블록들의 사이즈들 및 포지션들에 기초할 수도 있거나 또는 기초하지 않을 수도 있다. "잔차 쿼드-트리" (RQT) 로서 알려진 쿼드트리 구조가 지역들의 각각에 연관된 노드들을 포함할 수도 있다. CU의 TU들은 RQT의 리프 노드들에 대응할 수도 있다.
변환 프로세싱 부 (104) 는 CU의 각각의 TU에 대한 변환 계수 블록들을, 하나 이상의 변환들을 그 TU의 변환 블록들에 적용함으로써 생성할 수도 있다. 변환 프로세싱 부 (104) 는 다양한 변환들을 TU에 연관된 변환 블록에 적용할 수도 있다. 예를 들어, 변환 프로세싱 부 (104) 는 이산 코사인 변환 (DCT), 방향성 변환 (directional transform), 또는 개념적으로 유사한 변환을 변환 블록에 적용할 수도 있다. 일부 예들에서, 변환 프로세싱 부 (104) 는 변환들을 변환 블록에 적용하지 않는다. 그런 예들에서, 변환 블록은 변환 계수 블록으로서 다루어질 수도 있다.
본 개시물에서 설명되는 기법들에서, 변환 프로세싱 부 (104) 는 좌측 변환 및 우측 변환을 TU의 변환 블록에 적용할 수도 있다. 일부 예들에서, 예측 프로세싱 부 (100) 는 본 개시물에서 설명되는 기법들을 사용하여 어떤 변환들을 적용할 것인지를 결정할 수도 있다.
예를 들어, 예측 프로세싱 부 (100) 는, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하며 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 복수의 변환 서브세트들을 결정할 수도 있다. 후보 변환들은 상이한 변환 유형들로 되며, 일부 예들에서, 예측 프로세싱 부 (100) 는 인코딩되고 있는 비디오 블록의 사이즈에 기초하여 복수의 변환 서브세트들을 결정한다.
일부 예들에서, 비디오 데이터 메모리 (101) 는 복수의 변환 서브세트들을 저장하고, 예측 프로세싱 부 (100) 는 저장된 변환 서브세트들로부터 복수의 변환 서브세트들을 결정할 수도 있다. 일부 예들에서, 비디오 데이터 메모리 (101) 는 변환들의 모두를 저장할 수도 있고, 예측 프로세싱 부 (100) 는 미리 정의된 방식으로 변환 서브세트들을 구성할 수도 있다. 후보 변환들의 예들은 DCT-I 내지 DCT-VIII, DST-I 내지 DST-VIII, KLT 변환들 등을 포함한다. 일부 예들에서, 복수의 변환 서브세트들은 세 개 이상의 변환 서브세트들을 포함한다.
예측 프로세싱 부 (100) 는 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하고, 비디오 데이터의 비디오 블록의 변환 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택할 수도 있다. 현재 변환 블록은 변환 프로세싱 부 (104) 가 생성하고 거기에 변환 프로세싱 부 (104) 가 변환들을 적용하는 변환 블록일 수도 있다.
예측 프로세싱 부 (100) 는 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하고 선택된 제 2 변환 서브세트로부터 우측 변환을 결정할 수도 있다. 예를 들면, 예측 프로세싱 부 (100) 는 선택된 변환 서브세트들에서의 변환들의 각각을 테스트하고 어떤 변환이 최상의 비디오 코딩을 제공하는지를 결정할 수도 있다. 예측 프로세싱 부 (100) 는 좌측 변환 및 우측 변환으로서 최상의 비디오 코딩을 제공하는 각각의 변환들을 결정할 수도 있다.
변환 프로세싱 부 (104) 는 좌측 변환, 우측 변환, 및 현재 변환 블록에 기초하여 현재 계수 블록을 결정할 수도 있다. 예를 들면, 변환 프로세싱 부 (104) 는 다음의 수학식을 수행할 수도 있으며: Y = C*X*RT, 여기서 C는 좌측 변환이며, R은 우측 변환이며, X는 현재 변환 블록이고, Y는 결과적인 현재 계수 블록이다.
비디오 블록 (예컨대, CU 또는 PU) 이 인트라 예측 인코딩된다면, 예측 프로세싱 부 (100) 는 비디오 블록의 인트라 예측 모드를 결정할 수도 있다. 예측 프로세싱 부 (100) 는 결정된 인트라 예측 모드에 기초하여 제 1 변환 서브세트를 선택하고, 결정된 인트라 예측 모드에 기초하여 제 2 변환 서브세트를 선택할 수도 있다.
비디오 블록 (예컨대, CU 또는 PU) 이 인터-예측 인코딩된다면, 예측 프로세싱 부 (100) 는 비디오 블록에서의 현재 변환 블록의 로케이션을 결정할 수도 있다 (예컨대, 변환 블록이 비디오 블록에서의 특정 로케이션으로부터 생성된 잔차에 대한 것인지의 여부를 결정할 수도 있다). 예측 프로세싱 부 (100) 는 현재 변환 블록의 결정된 로케이션에 기초하여 제 1 변환 서브세트를 선택하고, 현재 변환 블록의 결정된 로케이션에 기초하여 제 2 변환 서브세트를 선택할 수도 있다.
인트라 예측 또는 인터-예측에 대해, 일부 예들에서, 예측 프로세싱 부 (100) 는, 엔트로피 인코딩 부 (118) 가, 현재 계수 블록을 결정하는데 사용되는 제 1 변환 서브세트에서의 변환을 식별하기 위한 제 1 변환 서브세트에의 제 1 변환 서브세트 인덱스를 시그널링 (예컨대, 비트스트림에서 생성) 하게 할 수도 있고, 현재 계수 블록을 결정하는데 사용되는 제 2 변환 서브세트에서의 변환을 식별하기 위한 제 2 변환 서브세트에의 제 2 변환 서브세트 인덱스를 시그널링 (예컨대, 비트스트림에서 생성) 하게 할 수도 있다. 일부 예들에서, 예측 프로세싱 부 (100) 는 현재 계수 블록에서의 0이 아닌 계수들의 수를 결정할 수도 있다. 이들 예들에서, 예측 프로세싱 부 (100) 는, 엔트로피 인코딩 부 (118) 가, 임계값보다 큰 0이 아닌 계수들의 수에 기초하여 제 1 변환 서브세트 인덱스를 시그널링하게 하고, 임계값보다 큰 0이 아닌 계수들의 수에 기초하여 제 2 변환 서브세트 인덱스를 시그널링하게 할 수도 있다. 0이 아닌 계수들의 수가 임계값 미만이면, 예측 프로세싱 부 (100) 는 엔트로피 인코딩 부 (118) 가 제 1 및 제 2 변환 서브세트들에서의 인덱스들을 시그널링하지 않게 할 수도 있다.
일부 예들에서, 제 1 변환 서브세트 또는 제 2 변환 서브세트 중 적어도 하나는 이산 코사인 변환 (DCT) -II 변환 및 이산 사인 변환 (DST) -VII 변환과는 상이한 변환을 포함한다. 일부 예들에서, 제 1 변환 서브세트와 제 2 변환 서브세트는 상이한 변환들을 포함한다 (예컨대, 제 1 변환 서브세트에서의 적어도 하나의 변환은 제 2 변환 서브세트에 있지 않거나 또는 그 반대의 경우도 성립한다).
양자화 부 (106) 는 계수 블록에서의 변환 계수들을 양자화할 수도 있다. 양자화 프로세스는 변환 계수들의 일부 또는 전부에 연관된 비트 깊이를 감소시킬 수도 있다. 예를 들어, n-비트 변환 계수가 양자화 동안에 m-비트 변환 계수로 버림될 (rounded down) 수도 있으며, 여기서 n은 m보다 크다. 양자화 부 (106) 는 CU에 연관된 양자화 파라미터 (quantization parameter, QP) 값에 기초하여 그 CU의 TU에 연관된 계수 블록을 양자화할 수도 있다. 비디오 인코더 (20) 는 CU에 연관된 QP 값을 조정함으로써 그 CU에 연관된 계수 블록들에 적용되는 양자화 정도를 조정할 수도 있다. 양자화는 정보의 손실을 도입할 수도 있고, 따라서 양자화된 변환 계수들은 원래의 것들보다 더 낮은 정밀도를 가질 수도 있다.
역 양자화 부 (108) 와 역 변환 프로세싱 부 (110) 는 계수 블록으로부터 잔차 블록을 복원하기 위해 역 양자화 및 역 변환들을 계수 블록에 각각 적용할 수도 있다. 복원 부 (112) 는 TU에 연관된 복원된 변환 블록을 생성하기 위해 복원된 잔차 블록을 예측 프로세싱 부 (100) 에 의해 생성된 하나 이상의 예측 블록들로부터의 대응하는 샘플들에 가산할 수도 있다. CU의 각각의 TU에 대한 변환 블록들을 이런 식으로 복원함으로써, 비디오 인코더 (20) 는 CU의 코딩 블록들을 복원할 수도 있다.
필터 부 (114) 는 하나 이상의 블록화제거 (deblocking) 동작들을 수행하여 CU에 연관된 코딩 블록들에서의 블록화 아티팩트들을 감소시킬 수도 있다. 디코딩된 픽처 버퍼 (116) 는, 필터 부 (114) 가 복원된 코딩 블록들에 대해 하나 이상의 블록화제거 동작들을 수행한 후에 복원된 코딩 블록들을 저장할 수도 있다. 인터 예측 프로세싱 부 (120) 는 다른 픽처들의 PU들에 대해 인터 예측을 수행하기 위해 복원된 코딩 블록들을 포함하는 참조 픽처를 사용할 수도 있다. 덧붙여서, 인트라 예측 프로세싱 부 (126) 는 CU와 동일한 픽처에서의 다른 PU들에 대해 인트라 예측을 수행하기 위해 디코딩된 픽처 버퍼 (116) 에서의 복원된 코딩 블록들을 사용할 수도 있다.
엔트로피 인코딩 부 (118) 는 비디오 인코더 (20) 의 다른 기능성 컴포넌트들로부터 데이터를 수신할 수도 있다. 예를 들어, 엔트로피 인코딩 부 (118) 는 양자화 부 (106) 로부터 계수 블록들 (예컨대, 비디오 블록을 복원하는데 사용되는 현재 계수 블록의 계수들을 나타내는 정보) 을 수신할 수도 있고, 예측 프로세싱 부 (100) 로부터 신택스 엘리먼트들 (예컨대, 제 1 및 제 2 변환 서브세트들에의 인덱스들) 을 수신할 수도 있다. 엔트로피 인코딩 부 (118) 는 그 데이터에 대해 하나 이상의 엔트로피 인코딩 동작들을 수행하여 엔트로피 인코딩된 데이터를 생성할 수도 있다. 예를 들어, 엔트로피 인코딩 부 (118) 는 그 데이터에 대해 콘텍스트 적응 가변 길이 코딩 (context-adaptive variable length coding, CAVLC) 동작, CABAC 동작, 가변 대 가변 (variable-to-variable, V2V) 길이 코딩 동작, 신택스 기반 콘텍스트 적응 이진 산술 코딩 (syntax-based context-adaptive binary arithmetic coding, SBAC) 동작, 확률 간격 파티셔닝 엔트로피 (Probability Interval Partitioning Entropy, PIPE) 코딩 동작, 지수-골롬 (Exponential-Golomb) 인코딩 동작, 또는 다른 유형의 엔트로피 인코딩 동작을 수행할 수도 있다. 비디오 인코더 (20) 는 엔트로피 인코딩 부 (118) 에 의해 생성된 엔트로피 인코딩된 데이터를 포함하는 비트스트림을 출력할 수도 있다. 예를 들면, 그 비트스트림은 CU에 대한 RQT를 표현하는 데이터를 포함할 수도 있다.
예의 기법들에서, 예측 프로세싱 부 (100) 는 예측 블록을 결정하고, 엔트로피 인코딩 부 (118) 가 출력하는 비디오 비트스트림에서, 예측 블록에 기초하여 비디오 블록의 예측 모드를 나타내는 정보를 생성한다. 예측 모드는 비디오 블록이 인트라-예측되는지 또는 인터-예측되는지를 나타낸다. 예를 들어, 예측 블록은 인트라-예측된 비디오 블록에 기초한 비디오 블록과는 동일한 픽처에서의 블록 또는 인터-예측된 비디오 블록에 기초한 그 비디오 블록을 포함하는 픽처와는 상이한 픽처에서의 블록이다. 잔차 생성 부 (102) 는 그 비디오 블록과 예측 블록 사이의 잔차로서 현재 변환 블록을 결정할 수도 있다.
도 6은 본 개시물의 기법들을 구현하도록 구성되는 예시적인 비디오 디코더 (30) 를 도시하는 블록도이다. 도 6은 설명의 목적으로 제공되고 본 개시물에서 폭넓게 예시되고 설명된 바와 같은 기법들에 대해 제한하고 있지는 않다. 설명의 목적으로, 본 개시물은 HEVC 코딩의 맥락에서 비디오 디코더 (30) 를 설명한다. 그러나, 본 개시물의 기법들은 다른 코딩 표준들 또는 방법들에 적용 가능할 수도 있다.
비디오 디코더 (30) 는 본 개시물에서 설명되는 다양한 예들에 따른 기법들을 수행하도록 구성될 수도 있는 디바이스의 일 예를 나타낸다. 도 6의 예에서, 비디오 디코더 (30) 는 엔트로피 디코딩 부 (150), 비디오 데이터 메모리 (151), 예측 프로세싱 부 (152), 역 양자화 부 (154), 역 변환 프로세싱 부 (156), 복원 부 (158), 필터 부 (160), 및 디코딩된 픽처 버퍼 (162) 를 구비한다. 예측 프로세싱 부 (152) 는 모션 보상 부 (164) 와 인트라 예측 프로세싱 부 (166) 를 구비한다. 다른 예들에서, 비디오 디코더 (30) 는 더 많거나, 더 적거나, 또는 상이한 기능성 컴포넌트들을 포함할 수도 있다.
비디오 데이터 메모리 (151) 는, 비디오 디코더 (30) 의 컴포넌트들에 의해 디코딩될 인코딩된 비디오 비트스트림과 같은 비디오 데이터를 저장할 수도 있다. 비디오 데이터 메모리 (151) 에 저장된 비디오 데이터는, 예를 들어, 컴퓨터 판독가능 매체 (16) 로부터, 예컨대, 카메라와 같은 국부 비디오 소스로부터, 비디오 데이터의 유선 또는 무선 네트워크 통신을 통해, 또는 물리적 데이터 저장 매체들에 액세스함으로써 획득될 수도 있다. 비디오 데이터 메모리 (151) 는 인코딩된 비디오 비트스트림으로부터의 인코딩된 비디오 데이터를 저장하는 코딩된 픽처 버퍼 (coded picture buffer, CPB) 를 형성할 수도 있다. 디코딩된 픽처 버퍼 (162) 가, 예컨대 인트라 코딩 또는 인터 코딩 모드들에서, 비디오 디코더 (30) 에 의해 비디오 데이터를 디코딩함에 있어서의 사용을 위한 참조 비디오 데이터를 저장하는 참조 픽처 메모리일 수도 있다. 비디오 데이터 메모리 (151) 와 디코딩된 픽처 버퍼 (162) 는 동기식 DRAM (SDRAM) 을 포함한 다이나믹 랜덤 액세스 메모리 (DRAM), 자기저항 RAM (MRAM), 저항 RAM (RRAM), 또는 다른 유형들의 메모리 디바이스들과 같은 다양한 메모리 디바이스들 중 임의의 것에 의해 형성될 수도 있다. 비디오 데이터 메모리 (151) 와 디코딩된 픽처 버퍼 (162) 는 동일한 메모리 디바이스 또는 별개의 메모리 디바이스들에 의해 제공될 수도 있다. 다양한 예들에서, 비디오 데이터 메모리 (151) 는 비디오 디코더 (30) 의 다른 컴포넌트들과 온-칩, 또는 그들 컴포넌트들에 대하여 오프-칩일 수도 있다.
코딩된 픽처 버퍼 (CPB) 가 비트스트림의 인코딩된 비디오 데이터 (예컨대, NAL 유닛들) 를 수신하고 저장할 수도 있다. 엔트로피 디코딩 부 (150) 는 CPB로부터 인코딩된 비디오 데이터 (예컨대, NAL 유닛들) 를 수신하고 신택스 엘리먼트들을 디코딩하기 위해 그 NAL 유닛들을 파싱할 수도 있다. 엔트로피 디코딩 부 (150) 는 NAL 유닛들에서의 엔트로피 인코딩된 신택스 엘리먼트들을 엔트로피 디코딩할 수도 있다. 예측 프로세싱 부 (152), 역 양자화 부 (154), 역 변환 프로세싱 부 (156), 복원 부 (158), 및 필터 부 (160) 는 비트스트림으로부터 추출된 신택스 엘리먼트들에 기초하여 디코딩된 비디오 데이터를 생성할 수도 있다.
비트스트림의 NAL 유닛들은 코딩된 슬라이스 NAL 유닛들을 포함할 수도 있다. 비트스트림을 디코딩하는 부분으로서, 엔트로피 디코딩 부 (150) 는 코딩된 슬라이스 NAL 유닛들로부터 신택스 엘리먼트들을 추출하고 엔트로피 디코딩할 수도 있다. 코딩된 슬라이스들의 각각은 슬라이스 헤더 및 슬라이스 데이터를 포함할 수도 있다. 슬라이스 헤더는 슬라이스에 관계된 신택스 엘리먼트들을 포함할 수도 있다. 슬라이스 헤더에서의 신택스 엘리먼트들은 슬라이스를 포함하는 픽처에 연관된 PPS를 식별하는 신택스 엘리먼트를 포함할 수도 있다.
비트스트림으로부터 신택스 엘리먼트들을 디코딩하는 것 외에도, 비디오 디코더 (30) 는 비-파티셔닝된 CU에 대해 복원 동작을 수행할 수도 있다. 비-파티셔닝된 CU에 대해 복원 동작을 수행하기 위해, 비디오 디코더 (30) 는 CU의 각각의 TU에 대해 복원 동작을 수행할 수도 있다. CU의 각각의 TU에 대한 복원 동작을 수행함으로써, 비디오 디코더 (30) 는 CU의 잔차 블록들을 복원할 수도 있다.
CU의 TU에 대해 복원 동작을 수행하는 부분으로서, 역 양자화 부 (154) 는 TU에 연관된 계수 블록들을 역 양자화, 즉, 탈양자화 (de-quantization) 할 수도 있다. 역 양자화 부 (154) 는 TU의 CU에 연관된 QP 값을 사용하여 양자화 정도와, 비슷하게, 역 양자화 부 (154) 에 대해 적용할 역 양자화 정도를 결정할 수도 있다. 다시 말하면, 압축 비율, 즉, 원래의 시퀀스 및 압축된 시퀀스를 표현하는데 사용된 비트들의 수의 비율은, 변환 계수들을 양자화하는 경우에 사용된 QP의 값을 조정함으로써 제어될 수도 있다. 압축 비율은 채용된 엔트로피 코딩하는 방법에 또한 의존할 수도 있다.
역 양자화 부 (154) 가 계수 블록을 역 양자화한 후, 역 변환 프로세싱 부 (156) 는 TU에 연관된 잔차 블록을 생성하기 위하여 하나 이상의 역 변환들을 계수 블록에 적용할 수도 있다. 예를 들어, 역 변환 프로세싱 부 (156) 는 역 DCT, 역 정수 변환, 역 카루넨-뢰베 변환 (KLT), 역 회전 변환, 역 방향성 변환, 또는 다른 역 변환을 계수 블록에 적용할 수도 있다.
본 개시물에서 설명되는 기법들에서, 예측 프로세싱 부 (152) 는 역 변환 프로세싱 부 (156) 가 적용할 좌측 및 우측 변환들을 결정할 수도 있다. 예를 들어, 예측 프로세싱 부 (152) 는, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하며 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 복수의 변환 서브세트들을 결정할 수도 있다. 후보 변환들은 상이한 변환 유형들로 되며, 일부 예들에서, 예측 프로세싱 부 (152) 는 디코딩되고 있는 비디오 블록의 사이즈에 기초하여 복수의 변환 서브세트들을 결정한다.
일부 예들에서, 비디오 데이터 메모리 (151) 는 복수의 변환 서브세트들을 저장하고, 예측 프로세싱 부 (152) 는 저장된 변환 서브세트들로부터 복수의 변환 서브세트들을 결정할 수도 있다. 일부 예들에서, 비디오 데이터 메모리 (151) 는 변환들의 모두를 저장할 수도 있고, 예측 프로세싱 부 (152) 는 미리 정의된 방식으로 변환 서브세트들을 구성할 수도 있다. 일부 예들에서, 예측 프로세싱 부 (152) 는 비트스트림으로부터 변환 서브세트들을 식별하는 정보를 수신할 수도 있다. 후보 변환들의 예들은 DCT-I 내지 DCT-VIII, DST-I 내지 DST-VIII, KLT 변환들 등을 포함한다. 일부 예들에서, 복수의 변환 서브세트들은 세 개 이상의 변환 서브세트들을 포함한다.
예측 프로세싱 부 (152) 는 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를을 선택하고, 비디오 데이터의 현재 계수 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택할 수도 있다. 예측 프로세싱 부 (152) 는 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하고 선택된 제 2 변환 서브세트로부터 우측 변환을 결정할 수도 있다.
역 변환 프로세싱 부 (156) 는 좌측 변환, 우측 변환, 및 현재 계수 블록에 기초하여 현재 변환 블록을 결정할 수도 있다. 예를 들면, 역 변환 프로세싱 부 (156) 는 다음의 수학식의 역을 수행할 수도 있으며: Y = C*X*RT, 여기서 Y는 계수 블록이며, C는 좌측 변환이며, X는 변환 블록이고, R은 우측 변환이다. 다시, 본 개시물에서, 역 변환 프로세싱 부 (156) 는 비디오 인코더 (20) 가 적용하였던 변환의 역을 적용하지만, 편의를 위해 비디오 디코더 (30) 는 변환을 적용하는 것으로서 설명된다는 것이 이해되어야 한다.
예측 프로세싱 부 (152) 는 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원 (예컨대, 인트라 예측 또는 인터-예측 디코딩) 할 수도 있다. 예를 들어, PU가 인트라 예측을 사용하여 인코딩되면, 인트라 예측 프로세싱 부 (166) 는 PU에 대한 예측 블록들을 생성하기 위해 인트라 예측을 수행할 수도 있다. 인트라 예측 프로세싱 부 (166) 는 인트라 예측 모드를 사용하여 공간적으로 이웃하는 PU들의 예측 블록들에 기초하여 PU에 대한 예측 루마, Cb 및 Cr 블록들을 생성할 수도 있다. 인트라 예측 프로세싱 부 (166) 는 비트스트림으로부터 디코딩된 하나 이상의 신택스 엘리먼트들에 기초하여 PU에 대한 인트라 예측 모드를 결정할 수도 있다.
예측 프로세싱 부 (152) 는 비트스트림으로부터 추출된 신택스 엘리먼트들에 기초하여 제 1 참조 픽처 리스트 (RefPicList0) 및 제 2 참조 픽처 리스트 (RefPicList1) 를 구성할 수도 있다. 더욱이, PU가 인터 예측을 사용하여 인코딩되면, 엔트로피 디코딩 부 (150) 는 그 PU에 대한 모션 정보를 추출할 수도 있다. 모션 보상 부 (164) 는, PU의 모션 정보에 기초하여, PU에 대한 하나 이상의 참조 지역들을 결정할 수도 있다. 모션 보상 부 (164) 는, PU에 대한 하나 이상의 참조 블록들에서의 샘플 블록들에 기초하여, 그 PU에 대한 예측 루마, Cb 및 Cr 블록들을 생성할 수도 있다.
본 개시물에서 설명되는 예들에서, 기법들은 비디오 블록이 인트라-예측된 또는 인트라-예측된 경우에 적용 가능하다. 예를 들어, 블록이 인트라-예측된 경우, 인트라 예측 모드는 변환 서브세트들을 결정하는데 사용될 수도 있다. 블록이 인터-예측된 경우, 그 블록의 포지션은 변환 서브세트들을 결정하는데 사용될 수도 있다. 따라서, 예시적인 기법들은 인트라 예측 모드들 중 임의의 인트라 예측 모드로 인트라-예측된 또는 단-방향 또는 양-방향으로 인터-예측된 비디오 블록에 적용된다.
더욱이, 예시적인 기법들은 인트라 예측 또는 인터-예측으로 제한되지 않고, 인트라-블록 복사 (IBC) 모드에도 또한 확장될 수도 있다. IBC 모드에서, 예측 블록을 형성하는데 사용되는 참조 블록이 인코딩되고 있는 비디오 블록과는 동일한 픽처에 있고, 블록 벡터에 의해 식별된다. IBC 모드에서, 변환 서브세트들은, 몇 가지 예들로서, 비디오 블록의 포지션, 참조 블록의 포지션, 또는 블록 벡터로부터 선택될 수도 있다.
복원 부 (158) 는, 해당되는 경우, CU의 TU들에 연관된 루마, Cb 및 Cr 변환 블록들과 그 CU의 PU들의 예측 루마, Cb 및 Cr 블록들, 즉 인트라 예측 데이터 또는 인터 예측 데이터 중 어느 하나를 사용하여 그 CU의 루마, Cb 및 Cr 코딩 블록들을 복원할 수도 있다. 예를 들어, 복원 부 (158) 는 루마, Cb 및 Cr 변환 블록들의 샘플들을 예측 루마, Cb 및 Cr 블록들의 대응하는 샘플들에 가산하여 CU의 루마, Cb 및 Cr 코딩 블록들을 복원할 수도 있다.
필터 부 (160) 는 블록화제거 동작을 수행하여 CU의 루마, Cb 및 Cr 코딩 블록들에 연관된 블록화 아티팩트들을 감소시킬 수도 있다. 비디오 디코더 (30) 는 CU의 루마, Cb 및 Cr 코딩 블록들을 디코딩된 픽처 버퍼 (162) 에 저장할 수도 있다. 디코딩된 픽처 버퍼 (162) 는 후속하는 모션 보상, 인트라 예측, 및 디스플레이 디바이스, 이를테면 도 1의 디스플레이 디바이스 (32) 상의 프레젠테이션을 위해 참조 픽처들을 제공할 수도 있다. 예를 들면, 비디오 디코더 (30) 는, 디코딩된 픽처 버퍼 (162) 에서의 루마, Cb, 및 Cr 블록들에 기초하여, 다른 CU들의 PU들에 대해 인트라 예측 또는 인터 예측 동작들을 수행할 수도 있다.
일부 예들에서, 비디오 블록이 인트라 예측 디코딩될 것인 경우, 예측 프로세싱 부 (152) 는 그 비디오 블록의 인트라 예측 모드를 결정할 수도 있다. 예측 프로세싱 부 (152) 는 결정된 인트라 예측 모드에 기초하여 제 1 변환 서브세트를 선택하고, 결정된 인트라 예측 모드에 기초하여 제 2 변환 서브세트를 선택할 수도 있다.
비디오 블록이 인터-예측 인코딩될 것인 경우, 예측 프로세싱 부 (152) 는 비디오 블록에서의 현재 변환 블록의 로케이션을 결정 (예컨대, 계수 블록이 비디오 블록에서의 특정 로케이션으로부터 생성된 잔차에 대한 것인지의 여부를 결정) 할 수도 있다. 예측 프로세싱 부 (152) 는 현재 변환 블록의 결정된 로케이션에 기초하여 제 1 변환 서브세트를 선택하고, 현재 변환 블록의 결정된 로케이션에 기초하여 제 2 변환 서브세트를 선택할 수도 있다.
일부 예들에서, 예측 프로세싱 부 (152) 는 제 1 변환 서브세트에의 제 1 변환 서브세트 인덱스를 수신하고, 제 2 변환 서브세트에의 제 2 변환 서브세트 인덱스를 수신할 수도 있다. 이들 예들에서, 예측 프로세싱 부 (152) 는 제 1 변환 서브세트 인덱스에 의해 식별된 제 1 변환 서브세트에서의 변환에 기초하여 좌측 변환을 결정하고, 제 2 변환 서브세트 인덱스에 의해 식별된 제 2 변환 서브세트에서의 변환에 기초하여 우측 변환을 결정할 수도 있다.
그러나, 예측 프로세싱 부 (152) 는 제 1 및 제 2 변환 서브세트들에서의 인덱스들을 수신하는 것이 필요하지 않을 수도 있다. 예를 들면, 예측 프로세싱 부 (152) 는 현재 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 결정할 수도 있다. 그런 경우들에서, 예측 프로세싱 부 (152) 는, 현재 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 결정하는 것에 응답하여, 제 1 변환 서브세트에의 변환 서브세트 인덱스를 수신하는 일 없이, 제 1 변환 서브세트에서 식별된 제 1 변환이 좌측 변환이라고 결정할 수도 있고, 현재 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 결정하는 것에 응답하여, 제 2 변환 서브세트에의 변환 서브세트 인덱스를 수신하는 일 없이, 제 2 변환 서브세트에서 식별된 제 1 변환이 우측 변환이라고 결정할 수도 있다.
또한, 예측 프로세싱 부 (152) 는 모든 경우들에서 변환 서브세트들로부터 변환들을 반드시 결정하지 않을 수도 있다. 일부 예들에서, 예측 프로세싱 부 (152) 는 현재 변환 블록을 포함하는 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 플래그를 수신할 수도 있다. 이러한 예들에서, 예측 프로세싱 부 (152) 는 제 1 및 제 2 변환들을 선택하고, 현재 변환 블록을 포함하는 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 플래그를 수신하는 것에 응답하여, 각각의 제 1 및 제 2 변환들로부터 좌측 및 우측 변환들을 결정할 수도 있다. 블록의 예들은 코딩 트리 유닛 (CTU), 코딩 유닛 (CU), 또는 예측 유닛 (PU) 을 포함한다.
일부 예들에서, 제 1 변환 서브세트 또는 제 2 변환 서브세트 중 적어도 하나는 이산 코사인 변환 (DCT) -II 변환 및 이산 사인 변환 (DST) -VII 변환과는 상이한 변환을 포함한다. 일부 예들에서, 제 1 변환 서브세트와 제 2 변환 서브세트는 상이한 변환들을 포함한다 (예컨대, 제 1 변환 서브세트에서의 적어도 하나의 변환은 제 2 변환 서브세트에 있지 않거나 또는 그 반대의 경우도 성립한다).
예의 기법들에서, 비디오 디코더 (30) 는 예측 모드 (예컨대, 비디오 블록이 인트라-예측되는지 또는 인터-예측되는지) 를 표시하는 정보를 비트스트림으로부터 수신하고, 현재 계수 블록의 계수들을 표시하는 정보를 비트스트림으로부터 수신할 수도 있다. 예측 프로세싱 부 (152) 는 예측 모드에 기초하여 예측 블록을 결정할 수도 있고, 역 변환 부 (156) 또는 예측 프로세싱 부 (152) 는 계수들을 표시하는 수신된 정보에 기초하여 계수 블록을 구성할 수도 있다. 예측 모드는 인터 예측 모드 또는 인트라 예측 모드 중 하나이고, 현재 변환 블록은 비디오 블록과 예측 블록의 잔차이다.
위에서 설명된 기법들은 비디오 인코더 (20) (도 4 및 도 5) 및/또는 비디오 디코더 (30) (도 4 및 도 6) 에 의해 수행될 수도 있으며, 그것들의 양쪽 모두는 비디오 코더라고 일반적으로 지칭될 수도 있다. 비슷하게, 비디오 코딩은 해당되는 경우 비디오 인코딩 또는 비디오 디코딩을 지칭할 수도 있다. 덧붙여서, 비디오 인코딩과 비디오 디코딩은 비디오 데이터를 "프로세싱하는 것"이라고 일반적으로 지칭될 수도 있다.
다음의 하위구역들에서, 위의 기법들의 예들이 제공될 것이다. 실제로, 예들의 임의의 부분의 임의의 조합이 새로운 예시적인 기법으로서 사용될 수도 있다.
다음에서는 추가적인 후보 변환 리스트를 구성하는 예들을 설명한다. 모든 포함된 TU들에 DCT-II를 항상 적용하는 디폴트 변환 방법 외에도, 각각의 TU에 대해, 선택된 변환 세트들이 주어지면 추가적인 후보 변환 방법들이 구성될 수 있다. 하나의 예에서, 인트라 및 인터 예측 잔차들에 대한 추가적인 후보 변환 리스트는 다음과 같이 구성된다: 첫째로, 변환 세트 가 변환 유형들의 콜렉션으로서 정의되며, 예를 들어, 일 예의 변환 세트가 변환들의 두 개의 유형들, 즉, DCT-II 및 DST-VII를 포함하는 {DCT-II, DST-VII}로서 정의될 수 있다. 두 개의 주어진 변환 세트들에 기초하여, 제 1 변환 세트로부터의 하나의 변환 유형을 수평 변환으로서, 그리고 제 2 변환 세트로부터의 다른 변환 유형을 수직 변환으로서 선택함으로써 상이한 변환 방법들 이 생성될 수 있다. 예를 들어, 변환 세트 0 {DCT-II, DST-VII}이 수평 변환을 위해 사용되고, 변환 세트 1 {DCT-VIII, DST-VII}이 수직 변환을 위해 사용되는 경우, 전체 네 개의 변환 방법들이 다음으로서 생성될 수 있다:
표 1: 변환 세트 {DCT-II, DST-VII}에 기초한 네 개의 변환 방법들
Figure pct00041
인트라 예측 잔차에 대해, 다음을 포함하는 전체적으로 세 개의 변환 서브세트들이 정의된다: 변환 서브세트 0: {DST-VII, DCT-VIII}, 변환 서브세트 1: {DST-VII, DST-I}, 및 변환 서브세트 2: {DST-VII, DCT-V}. 수평 및 수직 변환들을 위한 변환 세트 상의 선택은, 아래의 표 2에서 도시된 바와 같이, 인트라 예측 모드에 의존적이다.
표 2: 인트라 예측 모드 및 변환 세트 사이의 매핑 테이블
Figure pct00042
예를 들어, 인트라 모드 10에 대해, 수평 (우측) 변환을 위한 후보 변환 유형들은 DST-VII 및 DCT-VIII을 포함하는 변환 세트 0으로부터이고, 수직 (좌측) 변환을 위한 후보 변환 유형들은 DST-VII 및 DCT-V를 포함하는 변환 세트 2로부터이다. 그러므로, 인트라 모드 10에 대한 추가적인 후보 변환 리스트는 전체적으로 네 개의 변환 방법들이 생성되는 표 3에 도시된 바와 같이 최종적으로 구성된다.
표 3: 표 2에 기초한 인트라 예측 모드 10을 위한 네 개의 변환 방법들의 예
Figure pct00043
표 2에 따르면, 각각의 TU에 대해, 인트라 예측 모드가 주어지면, 전체적으로 네 개의 변환 방법들이 생성될 수 있다. 인터 예측 잔차를 위해, 동일한 변환 세트 {DST-VII, DCT-VIII}이 수평 및 수직 변환들 둘 다를 위해 사용된다. 그러므로, 각각의 TU에 대해, 추가적인 후보 변환 리스트는 표 4에 도시된 바와 같이 구성된다.
표 4: 인터 예측 잔차에 대한 네 개의 변환 방법들
Figure pct00044
다음의 설명은 표시자 시그널링의 일 예이다. 상이한 콘텐츠들에 대해 적응적으로 맞추기 위해, 변환 용도의 표시자들은 CU-레벨 및 TU-레벨 둘 다에서 시그널링된다. CU-레벨 표시자는 디폴트 DCT-II가 현재 CU에 포함된 모든 TU들에 적용되는지의 여부를 표시하는 1-비트 플래그이다. 1-비트 플래그가 0이면, 디폴트 DCT-II만이 현재 CU에 포함된 모든 TU들에 적용될 수 있으며; 그렇지 않으면, 제 1 비트가 주어진 변환 세트로부터의 어떤 변환 유형이 수평 변환으로서 적용되는지를 특정하고 제 2 비트가 주어진 변환 세트로부터의 어떤 변환 유형이 수직 변환으로서 적용되는지를 특정하는, 2-비트 TU-레벨 표시자가 각각의 TU에 대해 추가로 시그널링될 수도 있다.
인트라 예측 잔차에 대해, TU-레벨 표시자들은 그 계수들 뒤에 시그널링되고, TU-레벨 표시자는 TU의 0이 아닌 계수들의 총 수가 2 이하인 경우 시그널링되지 않고 0으로서 도출된다. 그렇지 않으면, TU-레벨 표시자는 명시적으로 시그널링된다. 인터 예측 잔차에 대해, TU-레벨 표시자들은 계수들 전 또는 후 중 어느 하나에 시그널링될 수 있고, TU-레벨 표시자는 TU에 0이 아닌 계수들이 없는 경우 시그널링되지 않는다.
HEVC에 기초한 제안된 예들의 신택스, 시맨틱스는 아래에서 제공된다. 아래의 신택스에서, 엘리먼트들의 회색화는 신택스에서의 잠재적 변화들을 표시하기 위해 또는 아니면 이해를 돕기 위해 사용된다.
변환 트리 신택스
Figure pct00045
대안적으로, add_multi_transform_flag는 cbf_luma에 대한 의존성 없이 시그널링될 수도 있다.
Figure pct00046
이는 코딩 유닛에서 플래그를 전송하는 것과 동등하다.
Figure pct00047
Figure pct00048
Figure pct00049
변환 트리 시맨틱스
add_multi_transform_flag[x0][y0]는, add_multi_transform_flag[x0][y0]이 0이며, DCT-II는 현재 CU에 포함된 각각의 TU에 항상 적용되는 경우, 향상된 다중 변환이 현재 CU에 포함된 각각의 TU에 적용되는지의 여부를 특정하며, 그렇지 않으면, 현재 변환 트리에 속하는 TU에 적용되는 좌측 변환 및 우측 변환을 특정하기 위해, left_transform_flag 및 right_transform_flag는 각각의 TU에 대해 추가로 시그널링될 수도 있다. add_multi_transform_flag[x0][y0]가 존재하지 않는 경우, 그것은 0과 동일한 것으로 유추된다.
잔차 코딩 신택스
Figure pct00050
Figure pct00051
Figure pct00052
Figure pct00053
잔차 코딩 시맨틱스
left_transform_flag[x0][y0]는, 제시되지 않은 경우, left_transform_flag[x0][y0]가 0으로서 유추되는, 현재 TU의 좌측 변환에 적용되는 변환 인덱스를 특정한다.
right_transform_flag[x0][y0]는, 제시되지 않은 경우, right_transform_flag[x0][y0]가 0으로서 유추되는, 현재 TU의 우측 변환에 적용되는 변환 인덱스를 특정한다.
좌측 변환 및 우측 변환을 도출하기 위한 디코딩 프로세스
- CuPredMode[x0][y0] == MODE_INTRA이면, 인트라 모드 값 IntraPredModeY[xPb][yPb]이 주어질 때, LeftTransSubsetIdx 및 RightTransSubsetIdx의 값은 다음의 표에 기초하여 도출된다:
Figure pct00054
- LeftTransSubsetIdx 및 left_tranform_flag의 값이 주어지면, 좌측 변환은 다음의 표를 사용하여 도출된다:
Figure pct00055
- RightTransSubsetIdx 및 right_tranform_flag의 값이 주어지면, 좌측 변환은 다음의 표를 사용하여 도출된다:
Figure pct00056
- 그렇지 않고 (CuPredMode[x0][y0] != MODE_INTRA) 이면, 다음의 것들이 수행된다:
- 값 left_tranform_flag가 주어지면, 좌측 변환은 다음의 표를 사용하여 도출된다:
Figure pct00057
- 값 right_tranform_flag가 주어지면, 우측 변환은 다음의 표를 사용하여 도출된다:
Figure pct00058
다음은 향상된 다중 변환 및 큰 변환을 적용하는 예들이다. 비디오 인코더 (20) 에 의해 수행되는 인코딩 프로세서의 경우, 하나의 예에서, 32x32보다 더 작은 (또는 32x32와 동일한) 각각의 CU에 대해, 현재 CU는 두 번 코딩된다. 제 1 과정에서, 현재 CU는 DCT-II만을 사용하여 코딩된다. 전체 CU를 코딩하기 위한 레이트-왜곡 비용은 RDcost_CU_DCT로서 기록되고; PU의 각각의 인트라 예측 모드를 코딩하기 위한 레이트-왜곡 비용은 RDcost_PU_DCT[i][p]로서 기록되며, 여기서 i는 현재 CU 내부의 인트라 예측 모드의 인덱스를 나타내고, p는 현재 CU 내부의 PU의 인덱스를 나타낸다. p에 의해 인덱싱된 현재 PU에 대한 레이트-왜곡 최적화에 기초한 최적의 인트라 예측 모드는 IPM[p]로서 표시된다.
제 2 과정에서, 현재 CU는 아래에서 설명되는 다수의 변환들을 사용하여 다시 코딩된다. 현재 CU의, p'에 의해 인덱싱된 각각의 포함된 PU에 대해, 다음이 수행된다. 각각의 후보 인트라 예측 모드 i'에 대해, RDcost_PU_DCT[i'][p'] > RDcost_PU_DCT[IPM[p']][p']이면, 인트라 예측 모드 i'은 스킵되고 현재 PU에 대한 최적의 인트라 예측 모드로서 선택되지 않는다. 그렇지 않으면, 다음이 현재 PU에 포함된 각각의 TU에 대해 수행된다.
현재 PU 내부의 각각의 TU에 대해, 현재 후보 인트라 예측 모드가 주어지면, 위의 예에 따르면, 2 개의 후보 우측 (R) 변환들 및 2 개의 후보 좌측 (L) 변환들이 선택되며, 그래서 전체적으로 4 개의 상이한 R 및 L 변환 조합이 선택된다. 그러면, 각각의 후보 R 및 L 변환 조합이 레이트-왜곡 비용을 사용하여 테스트된다.
이 프로세스 동안, 하나의 R 및 L 변환 조합이 0의 계수를 생성한다면 (예컨대, 0의 값을 생성하거나 또는 계수들을 생성하지 않는다면), 남아있는 L 및 R 변환 조합들은 스킵되고 최적의 R 및 L 변환 조합으로서 선택되지 않는다. 최저 레이트-왜곡 비용을 갖는 R 및 L 변환 조합은 현재 잔차 블록을 인코딩하기 위한 실제 변환들로서 선택된다. 더구나, 조합 R 및 L 변환들을 선택하는 위의 프로세스 동안, 하나의 후보 R 및 L 변환 조합이 2 개 이하의 0이 아닌 계수들을 생성한다면, 그 조합은 R 및 L 변환 둘 다가 DST-VII 변환이 아닌 한 최적의 변환 조합으로서 선택되지 않는다.
위의 프로세스가 현재 CU 내부의 모든 PU들에 대해 행해진 후, 전체 CU를 코딩하기 위한 레이트-왜곡 비용은 RDcost_CU_EMT로서 기록된다. RDcost_CU_DCT가 RDcost_CU_EMT보다 더 작다면, 하나의 플래그 add_multi_transform_flag는 위의 예에서 설명된 바와 같이 0으로서 조건부로 시그널링되고, 모든 포함된 TU들은 DCT-II를 사용하여 인코딩된다. 그렇지 않으면, add_multi_transform_flag는 위의 예에서 설명된 바와 같이 1로서 조건부로 시그널링되고, 각각의 포함된 TU에 대해, 어떤 좌측 변환 및 우측 변환이 TU를 인코딩하기 위해 선택되는지를 표시하기 위해, 플래그 left_transform_flag 및 다른 플래그 right_transform_flag는 위의 예에서 설명된 바와 같이 계수들이 시그널링된 후 조건부로 시그널링된다.
다음에서는 비디오 디코더 (30) 에 의해 수행되는 디코딩 프로세스의 예들을 설명한다. 하나의 예에서, 32x32보다 작은 (또는 32x32와 동일한) 각각의 CU에 대해, 1 비트 플래그 add_multi_transform_flag가 위의 예에서 설명된 바와 같이 조건부로 시그널링된다. 이 플래그는 변환 깊이가 0이고 루마 성분의 코딩된 블록 플래그 (CBF) 값이 0인 경우에만 시그널링되지 않고, 그렇지 않으면, 플래그는 항상 시그널링된다.
add_multi_transform_flag가 0이면, DCT-2만이 모든 포함된 TU들에 적용되고, 그렇지 않으면, 다음이 수행된다. 각각의 TU에 대해, 위의 예에서 설명된 바와 같이 계수들이 시그널링된 후 1 비트 플래그 left_transform_flag 및 다른 플래그 right_transform_flag가 조건부로 시그널링된다. left_transform_flag 및 right_transform_flag가 시그널링되는 조건은 아래에서 설명된다.
현재 CU가 인트라 코딩되는 경우, 0이 아닌 계수들의 총 수가 2 미만일 (또는 2와 동일할) 때, left_transform_flag 및 right_transform_flag는 시그널링되지 않는다. 그렇지 않으면, left_transform_flag 및 right_transform_flag는 시그널링된다.
아니면, 현재 CU가 인트라 코딩되지 않는 경우, 0이 아닌 계수가 없을 때, left_transform_flag 및 right_transform_flag는 시그널링되지 않는다. 그렇지 않으면, left_transform_flag 및 right_transform_flag는 시그널링된다.
각각의 TU에 대해, 시그널링된 left_transform_flag 및 right_transform_flag를 고려하면, 좌측 및 우측 변환들은 위의 예에서 설명된 바와 같이 도출된다. 현재 CU가 32x32보다 더 큰 경우, 64x64의 동일한 사이즈를 갖는 각각의 TU에 대해, 변환은 더 큰 사이즈로 된 TU들에 대한 예들에 관해 아래에서 더 상세히 설명되는 바와 같이 수행된다.
다음은 인트라 예측 모드에 기초하여 추가적인 변환 리스트를 구성하는 다른 대안의 예들이다. 모든 포함된 TU들에 DCT-II를 항상 적용하는 디폴트 변환 방법 외에, 각각의 TU에 대해, 추가적인 후보 변환 DST-VII이 다음과 같이 적용될 수 있다. IPM으로서 표시된, 현재 TU의 인트라 예측 모드가 주어지면, 이 TU에 적용되는 좌측 및 우측 변환은 아래와 같이 특정된다. (IPM & 1) 이 1과 동일하면, DCT-II가 현재 TU에 대한 좌측 및 우측 변환들 둘 다로서 적용되며; 그렇지 않으면 ((IPM &1) 이 0과 동일하면), DST-VII이 현재 TU에 대한 좌측 및 우측 변환들 둘 다로서 적용된다.
위에서는 사용할 변환들을 결정하기 위한 예시적인 기법들을 설명하였다. 다음에서는 더 큰 사이즈로 된 변환들을 지원하기 위한 예들을 설명한다. 예를 들어, 특히 더 높은 해상도들, 예컨대, 1080p 및 4K를 갖는 비디오들을 코딩하기 위해 64x64 변환을 지원하는 것이 유익하다. 비디오 인코더 (20) 및 비디오 디코더 (30) 둘 다에 대한 복잡도를 제한하면서도 64x64 변환을 지원하는 것이 중요하고, 비록 다양한 방도들이 그것을 성취하기 위해 행해질 수 있더라도, 더 나은 솔루션이 이용 가능할 수도 있다.
실제 적용되는 NxN 변환 행렬들은 원래의 부동 소수점 변환 행렬들의 스케일링 후의 정수-포인트 근사화물일 수도 있고, 스케일링은 s가 128 또는 256일 수 있는 s*log2 N을 비제한적으로 포함하는, 64*log2 N보다 더 클 수도 있다. 하나의 예에서, 수평 및 수직 변환들 후의 결과적인 변환 계수들은 추가적인 우측 시프트 동작들을 적용함으로써 16-비트 표현 내에서 유지된다. 추가적인 우측 시프팅 동작들은 추가적인 log2 (s/64) 비트들에 의한 수직 및 수평 역방향/순방향 변환 후에 결과적인 변환 계수들을 우측 시프트하는 것을 비제한적으로 포함한다.
잔차 블록들에 대해 64-포인트, 128-포인트, 256-포인트를 비제한적으로 포함하는 32-포인트 변환보다 더 큰 변환 사이즈들이 적용될 수도 있다. M-포인트 및 N-포인트 변환들이 수평 및 수직 변환들에 각각 적용되며 M 및 N이 정수들이고 M은 N과 동일하거나 또는 상이할 수 있는 경우, X<M 및 Y<N인 결과적인 MxN 계수 블록 내부의 좌측상단 XxY의 더 낮은 주파수 계수들만이 시그널링되고, 나머지 계수들은 시그널링되지 않고 0으로서 도출된다.
결과적인 MxN 계수 블록 내부의 최종 0이 아닌 계수의 포지션은, 콘텍스트 모델링의 측면에서, X≤S≤M 및 Y≤T≤N인 SxT 블록들을 위해 사용되는 마지막 0이 아닌 계수 포지션 코딩의 동일한 로직을 재사용함으로써 코딩될 수 있다. XxY를 넘는 계수들을 제로화 (zero out) 하기 위해, LastSignificantCoeffY 및 LastSignificantCoeffX에 대해 제약이 도입될 수도 있다. 예를 들어, LastSignificantCoeffX (LastSignificantCoeffY) 의 값은 X(Y) 보다 더 작을 수도 있다. X 및 Y의 값은 상수, 예컨대, 32이거나, 또는 변환 사이즈, 예컨대, X=M/2, Y=N/2에 의존적일 수도 있다. X 및 Y의 전형적인 값은 64-포인트 변환에 대해 32이다.
하나의 예에서, MxN에 대한 하나 이상의 CG (coding group) 스캔 순서들이 미리 정의되고 사용될 수도 있다. 그러나, 결과적인 MxN 계수 블록의 좌측상단 XxY 지역 외부의 CG들에 대해, 각각의 CG에 적어도 하나의 0이 아닌 계수가 있는지의 여부를 시그널링하는 CG-레벨 플래그들이 스킵되고 코딩되지 않는다. 대안적으로 또는 부가적으로, W 및 H의 전형적인 값이 4인 모든 WxH CG들에 대해, 그 CG들은 (M/W)x(N/H) 대각선, 지그재그, 수평 또는 수직 스캔 순서를 비제한적으로 포함하는 XxY 지역들에 대한 스캔 순서를 추종하여 코딩된다. 대안적으로 또는 부가적으로, 모든 CG들은 W'이 W의 배수들이고 H'이 H의 배수들인 W'xH'의 유닛들로 그룹화되며, W'xH' 유닛들은 (M/W')x(N/H') 대각선, 지그재그, 수평 또는 수직 스캔 순서를 비제한적으로 포함하는 스캔 순서를 추종하여 코딩되고, 각각의 WxH 유닛 내부의 CG들은 (W'/W)x(H'/H) 대각선, 지그재그, 수평 또는 수직 스캔 순서를 비제한적으로 포함하는 스캔 순서를 추종하여 코딩된다.
64x64, 128x128 또는 256x256의 변환 사이즈에 대응하는 코딩 RQT 깊이를 지원하기 위해, 변환 사이즈들에 의존하는, RQT 분할 플래그들을 코딩하는데 사용되는 CABAC 콘텍스트들은, 32x32보다 더 큰 변환 사이즈에 대응하는 RQT 깊이 값들에 공유될 수 있다. 예를 들어, 변환 사이즈 64x64 및 32x32에 대응하는 RQT 깊이 값들을 비제한적으로 포함하는 특정한 RQT 깊이 경우들에 대해, 동일한 CABAC 콘텍스트는 RQT 분할 플래그를 코딩하기 위해 적용될 수 있다.
다음은 64x64 변환에 대해 32x32 제로화를 수행하는 예들이다. last_sig_coeff_x_suffix가 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 열 포지션의 접미부를 특정하는, 마지막 포지션에 대한 제약이 있을 수도 있다. last_sig_coeff_x_suffix의 값들은 0 내지 (1 << ((last_sig_coeff_x_prefix >> 1) - 1)) - 1의 범위에 있을 것이다. 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 열 포지션 (LastSignificantCoeffX) 은 다음과 같이 도출된다. last_sig_coeff_x_suffix가 존재하지 않는다면, 다음이 적용되며: LastSignificantCoeffX = last_sig_coeff_x_prefix, 그렇지 않으면 (last_sig_coeff_x_suffix가 존재하면), LastSignificantCoeffX = (1 << ((last_sig_coeff_x_prefix >> 1) - 1)) * (2 + (last_sig_coeff_x_prefix & 1 )) + last_sig_coeff_x_suffix가 적용된다.
신택스 엘리먼트 last_sig_coeff_y_suffix는 변환 블록 내의 스캐닝 순서에서의 최종 유효 계수의 행 포지션의 접미부를 특정한다. last_sig_coeff_y_suffix의 값들은 0 내지 (1 << ((last_sig_coeff_y_prefix >> 1) - 1)) - 1의 범위에 있을 것이다. 변환 블록 내의 스캐닝 순서에서 최종 유효 계수의 행 포지션 (LastSignificantCoeffY) 은 다음과 같이 도출된다. last_sig_coeff_y_suffix가 존재하지 않는다면, LastSignificantCoeffY = last_sig_coeff_y_prefix가 적용되며, 그렇지 않으면 (last_sig_coeff_y_suffix가 존재하면), LastSignificantCoeffY = (1 << ((last_sig_coeff_y_prefix >> 1) - 1)) * (2 + (last_sig_coeff_y_prefix & 1)) + last_sig_coeff_y_suffix가 적용된다.
scanIdx가 2와 동일한 경우, 좌표들은 (LastSignificantCoeffX, LastSignificantCoeffY) = Swap (LastSignificantCoeffX, LastSignificantCoeffY) 와 같이 스왑된다. LastSignificantCoeffX 또는 LastSignificantCoeffY의 값은 32보다 더 작을 것이다.
다음은 중요한 CG 및 중요한 계수들의 시그널링을 위한 조건들이다.
잔차 코딩 신택스
Figure pct00059
Figure pct00060
Figure pct00061
다음에서는 중복 블록 모션 보상 (OBMC) 의 일 예를 설명한다. OBMC는 ITU-T H.263의 개발에서 제안되었다. 『Video Coding for Low Bitrate Communication, document Rec. H.263, ITU-T, April 1995』를 참조한다. OBMC는 8x8 블록에 대해 수행되고, 두 개의 연결된 이웃 8x8 블록들의 모션 벡터들이 도 8a 및 도 8b에 도시된 바와 같이 현재 블록을 위해 사용된다. 예를 들어, 현재 매크로블록에서의 첫 번째 8x8 블록에 대해, 그것 소유의 모션 벡터 외에, 상측 및 좌측 이웃 모션 벡터들이 두 개의 추가적인 예측 블록들에 또한 적용된다. 이런 식으로, 현재 8x8 블록에서의 각각의 화소는 세 개의 예측 값들을 갖고 이들 세 개의 예측 값들의 가중된 평균이 각각의 화소에 대한 최종 예측으로서 사용된다.
이웃 블록이 코딩되지 않거나 또는 인트라로서 코딩되는 경우, 즉, 이웃 블록이 이용 가능한 모션 벡터를 갖지 않는 경우, 현재 8x8 블록의 모션 벡터는 이웃 모션 벡터로서 사용된다. 한편, 현재 매크로블록의 세 번째 및 네 번째 8x8 블록 (도 7에 도시된 바와 같음) 에 대해, 하측 이웃 블록은 사용되지 않을 수도 있다 (예컨대, 항상 사용되지 않거나 또는 항상 사용되는 것은 아니다). 다르게 말하면, 일부 예들에서, 각각의 MB에 대해, 그것 하측의 MB들로부터의 모션 정보는 OBMC 동안 현재 MB의 화소들을 복원하는데 사용되지 않을 것이다.
다음에서는 HEVC에서 제안된 바와 같은 OBMC를 설명한다. HEVC에서, OBMC는 또한 2011년 11월 18일자로 출원된 미국 가출원 제61/561,783호, 2012년 11월 15일자로 출원된 미국 가출원 제13/678,329호, 2011년 1월 10일자로 출원된 미국 가출원 제61/431,480호, 2011년 3월 8일자로 출원된 미국 가출원 제61/450,532호, 및 2011년 12월 6일자로 출원된 미국 출원 제13/311,834호에서 PU 경계를 평활화하기 위해 또한 제안되었다. 백색 지역이 PU0에 의해 표시된 제 1 예측 유닛 (PU) 이고, 회색 지역이 PU1에 의해 표시된 제 2 PU인 도 8a 및 도 8b에서 도시되는, HEVC에서 제안된 방법의 일 예가 도시된다. CU가 두 개의 (또는 더 많은) PU들을 포함하는 경우, PU 경계 근처의 라인들/열들이 OBMC에 의해 평활화된다. PU0 또는 PU1에서 "A" 또는 "B"로 마킹된 화소들에 대해, 두 개의 예측 값들이, 즉, PU0 및 PU1의 모션 벡터들을 각각 적용함으로써 생성되고, 그것들의 가중된 평균이 최종 예측으로서 사용된다.
더구나, 2015년 1월 26일자로 출원된 미국 가출원 제62/107,964호와, 2015년 2월 16일자로 출원된 미국 가출원 제62/116,631호에서, OBMC가 현재 CU에 적용되는지의 여부를 표시하는 CU-레벨 플래그, 즉 OBMC 플래그가 제안되었다.
OBMC가 하나의 코딩 유닛에 적용되지 않는 경우 (예컨대, 시그널링된 플래그가 0인 경우), DCT-II와는 다른 변환들이 효율적이지 않다는 것이 분명하다. 그러므로, 다수의 변환들의 사용의 표시를 위한 추가적인 시그널링은 반복적이다.
설명된 바와 같이, 비디오 인코더 (20) 는 OBMC가 현재 CU에 대해 가능하게 되었는지의 여부를 표시하는 CU-레벨 플래그를 시그널링 (예컨대, 비트스트림에서 생성) 할 수도 있다. 일부 예들에서, 이 OBMC 플래그가 (OBMC가 현재 CU가 가능하게 됨을 표시하는) 1로서 시그널링된 경우, 디폴트 DCT-II만이 각각의 TU에 대해 사용되고, 그러므로 비디오 인코더 (20) 는 변환 선택을 위해 아무것도 시그널링하지 않을 수도 있으며, 즉, CU-레벨 플래그도 TU-레벨 인덱스도 시그널링되지 않는다.
다음에서는 비디오 인코더 (20) 를 최적화하는 예들을 설명한다. 예를 들면, 다음의 예들은 비디오 인코더 (20) 에 대한 것일 수도 있다. 그러나, 비디오 디코더 (30) 가 유사한 기법들을 수행하는 것이 가능할 수도 있다.
인코더 (예컨대, 비디오 인코더 (20)) 에서, 제안된 다수의 변환들이 현재 TU에 적용되는 경우, MxN 이상인 변환 사이즈들에 대해, M'xN' 저 주파수 계수들만이 계산되고 다른 계수들은 0으로서 설정되는데, 여기서 (M'<=M 및 N' <=N 및 M'*N'<M*N) 이다. 하나의 예에서, M 및 N의 각각의 값은 32이고 M' 및 N'의 각각의 값은 16이다. 이 예에서, M'보다 큰 그리고/또는 N'보다 큰 로케이션들에 위치된 계수들은 더 높은 주파수 계수들로서 간주될 수도 있다. 대체로, TU의 더 우측의 그리고 TU의 더 하측의 계수들이 더 높은 주파수 계수들로서 간주될 수도 있다.
인코더에서, 특정한 코딩 모드에 대해, 디폴트 변환, 예컨대, DCT-II를 사용하는 코딩 비용이 현재의 최소 코딩 비용 곱하기 주어진 임계 값보다 더 크다면, 제안된 다수의 변환들은 스킵된다. 코딩 비용은 레이트-왜곡 비용, 절대 예측 잔차의 합, 제곱된 예측 잔차의 합 또는 절대 변환 차이의 합일 수 있다. 임계 값은 코딩 블록 사이즈에 의존할 수도 있다. 하나의 예에서, 임계 값은 1.1이다.
인코더에서, 특정한 인트라 예측 방향 모드에 대해, 디폴트 변환, 예컨대, DCT-II를 사용하는 코딩 비용이 최상의 인트라 예측 방향 모드의 코딩 비용 곱하기 주어진 임계 값보다 더 크다면, 제안된 다수의 변환들은 이 인트라 예측 모드에 대해 적용되지 않고 스킵된다. 코딩 비용은 레이트-왜곡 비용, 절대 예측 잔차의 합, 제곱된 예측 잔차의 합 또는 절대 변환 차이의 합일 수 있다. 임계 값들은 코딩 블록 사이즈에 의존할 수도 있다. 하나의 예에서, 임계 값들은 각각 4x4, 8x8, 16x16 및 32x32 블록 사이즈들에 대해 1.47, 1.28, 1.12 및 1.06이다.
인코더에서, 디폴트 변환, 예컨대, DCT-II를 사용하는 NxN 인트라 PU 파티션의 코딩 비용이 2Nx2N 인트라 PU 파티션의 코딩 비용 곱하기 주어진 임계 값보다 더 크다면, 제안된 다수의 변환들은 NxN 인트라 PU 파티션에 대해 적용되지 않고 스킵된다. 코딩 비용은 레이트-왜곡 비용, 절대 예측 잔차의 합, 제곱된 예측 잔차의 합 또는 절대 변환 차이의 합일 수 있다. 임계 값들은 코딩 블록 사이즈에 의존할 수도 있다. 하나의 예에서, 임계 값은 1.2이다.
인코더에서, 디폴트 변환, 예컨대, DCT-II를 사용하는 2Nx2N 인트라 PU 파티션 모드의 코딩 비용이 최상의 인터 코딩 모드들의 코딩 비용 곱하기 주어진 임계 값보다 더 크다면, 제안된 다수의 변환들은 인트라 PU 모드들에 대해 적용되지 않고 스킵된다. 코딩 비용은 레이트-왜곡 비용, 절대 예측 잔차의 합, 제곱된 예측 잔차의 합 또는 절대 변환 차이의 합일 수 있다. 임계 값들은 코딩 블록 사이즈에 의존할 수도 있다. 하나의 예에서, 임계 값은 1.4이다.
인코더에서, 다수의 변환 후보들 중 하나의 변환 후보를 사용하는 것이 현재 블록에 대한 모든 0 계수들을 생성하는 것이라면, 나머지 변환 후보들은 현재 블록에 대해 적용되지 않고 스킵된다. 대안적으로 또는 부가적으로, 디폴트 변환 (예컨대, DCT-II) 을 사용하는 것이 현재 블록에 대한 모든 0 계수들을 생성하는 것이라면, 다수의 변환 후보들은 현재 블록에 대해 적용되지 않고 스킵되고, 디폴트 변환 (예컨대, DCT-II) 만이 현재 블록을 코딩하기 위해 사용된다.
인코더에서, OBMC 플래그가 시그널링되었고 OBMC 오프를 표시하는 것인 경우, 단지 하나의 디폴트 변환이 적용되는지의 여부를 표시하는 1-비트 플래그는, 디폴트 변환 (예컨대, DCT-II) 이 적용됨을 표시하는 디폴트 값 (예컨대, 0) 으로서 여전히 시그널링되고, 다중 변환 후보들은 현재 블록에 대해 적용되지 않고 스킵된다.
도 9는 비디오 데이터를 디코딩하는 일 예의 방법을 도시하는 흐름도이다. 비디오 디코더 (30) 는, 각각의 서브세트가 하나 이상의 후보 변환들을 식별하며 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 복수의 변환 서브세트들을 결정할 수도 있다 (200). 예를 들어, 예측 프로세싱 부 (152) 는 비디오 데이터 메모리 (151) 에 저장된 변환 서브세트들로부터 복수의 변환 서브세트들을 취출할 수도 있다. 복수의 변환 서브세트들은 비디오 데이터 메모리 (151) 에 미리 저장될 수도 있거나 또는 변환 서브세트들을 구성하는 방법을 식별하는 정보가 비디오 인코더 (20) 로부터 수신될 수도 있다. 비디오 디코더 (30) 는 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하고, 비디오 데이터의 현재 계수 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택할 수도 있다 (202). 예를 들어, 예측 프로세싱 부 (152) 는 변환 서브세트들을 결정하기 위해 비디오 비트스트림으로 시그널링된 인트라 예측 모드 정보에 기초하여 또는 몇 가지 예의 방도들로서 디코딩되고 있는 비디오 블록의 포지션에 기초하여 제 1 및 제 2 변환 서브세트들을 선택할 수도 있다.
비디오 디코더 (30) 는 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하고, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정할 수도 있다 (204). 예를 들어, 예측 프로세싱 부 (152) 는 선택된 변환 서브세트들에의 인덱스들과 같은 정보를 비트스트림에서 수신할 수도 있거나 또는 0이 아닌 계수들의 수에 기초하여 변환들을 암시적으로 결정할 수도 있다. 비디오 디코더 (30) 는 좌측 변환, 우측 변환, 및 현재 계수 블록에 기초하여 현재 변환 블록을 결정할 수도 있다 (206). 예를 들어, 역 변환 프로세싱 부 (156) 는 역 양자화 부 (154) 에 의해 출력되는 계수 블록에 좌측 변환 및 우측 변환을 적용함으로써 현재 변환 블록을 결정할 수도 있다. 비디오 디코더 (30) 는 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원 (예컨대, 인트라 예측 또는 인터-예측 디코딩) 할 수도 있다 (208). 예를 들어, 복원 부 (158) 는 현재 변환 블록 (이는 비디오 블록과 예측 블록과의 사이의 잔차임) 을 예측 블록에 가산하여 비디오 블록을 복원할 수도 있다.
도 10은 비디오 데이터를 인코딩하는 일 예의 방법을 도시하는 흐름도이다. 비디오 인코더 (20) 는, 각각의 서브세트가 하나 이상의 후보 변환들을 식별하며 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 복수의 변환 서브세트들을 결정할 수도 있다 (300). 예를 들어, 예측 프로세싱 부 (100) 는 비디오 데이터 메모리 (101) 에 저장된 변환 서브세트들로부터 복수의 변환 서브세트들을 취출할 수도 있다. 복수의 변환 서브세트들은 비디오 데이터 메모리 (101) 에 미리 저장될 수도 있다. 비디오 인코더 (20) 는 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하고, 비디오 데이터의 비디오 블록의 변환 블록에 대한 우측 변환을 위해 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택할 수도 있다 (302). 예를 들어, 예측 프로세싱 부 (100) 는 변환 서브세트들을 결정하기 위해 엔트로피 인코딩 부 (118) 가 비디오 비트스트림에 생성하는 인트라 예측 모드 정보에 기초하여 또는 몇 가지 예의 방도들로서 인코딩되고 있는 비디오 블록의 포지션에 기초하여 제 1 및 제 2 변환 서브세트들을 선택할 수도 있다.
비디오 인코더 (20) 는 선택된 제 1 변환 서브세트로부터 좌측 변환을 결정하고, 선택된 제 2 변환 서브세트로부터 우측 변환을 결정할 수도 있다 (304). 예를 들어, 예측 프로세싱 부 (100) 는 양호한 비디오 코딩 품질을 제공하는 변환을 식별하기 위해 다양한 결정된 변환들을 테스트할 수도 있다. 비디오 인코더 (20) 는 좌측 변환, 우측 변환, 및 현재 변환 블록에 기초하여 현재 계수 블록을 결정할 수도 있다 (306). 예를 들어, 변환 프로세싱 부 (104) 는 복원 부 (102) 에 의해 출력되는 변환 블록에 좌측 변환 및 우측 변환을 적용함으로써 현재 계수 블록을 결정할 수도 있다. 비디오 인코더 (20) 는 비디오 블록의 복원을 위해 사용되는 현재 계수 블록의 계수들을 나타내는 정보를 갖는 비디오 비트스트림을 생성 (예컨대, 그 정보를 시그널링) 할 수도 있다 (308). 예를 들어, 엔트로피 인코딩 부 (118) 는 비디오 디코더 (30) 가 비디오 블록을 복원하기 위해 사용하는 정보를 출력할 수도 있다.
본 명세서에서 설명되는 기법들의 모두는 개별적으로 또는 조합하여 사용될 수도 있다는 것이 이해되어야 한다. 본 개시물은 블록 사이즈, 슬라이스 유형 등과 같은 특정한 요인들에 의존하여 변할 수도 있는 여러 시그널링 방법들을 포함한다. 신택스 엘리먼트들을 시그널링 또는 유추함에 있어서의 이러한 변동은 인코더 및 디코더에 선험적으로 알려질 수도 있거나 또는 비디오 파라미터 세트 (video parameter set, VPS), 시퀀스 파라미터 세트 (SPS), 픽처 파라미터 세트 (PPS), 슬라이스 헤더에서, 타일 레벨 또는 다른 곳에서 명시적으로 시그널링될 수도 있다.
예에 의존하여, 상이한 시퀀스로 수행될 수도 있는 본 명세서에서 설명된 기법들 중 임의의 기법의 특정 액트들 또는 이벤트들이 추가되거나, 병합되거나, 또는 다 함께 제외될 수도 있다 (예컨대, 모든 설명된 액트들 또는 이벤트들이 그 기법들의 실용화에 필요한 것은 아니다) 는 것이 이해되어야 한다. 더구나, 특정 예들에서, 액트들 또는 이벤트들은 순차적으로라기 보다는, 예컨대, 다중 스레드식 프로세싱, 인터럽트 프로세싱, 또는 다수의 프로세서들을 통하여 동시에 수행될 수도 있다. 덧붙여서, 본 개시물의 특정한 양태들이 명료함을 위해 단일 모듈 또는 유닛에 의해 수행되고 있는 것으로 설명되지만, 본 개시물의 기법들은 비디오 코더에 연관된 유닛들 또는 모듈들의 조합에 의해 수행될 수도 있다는 것이 이해되어야 한다.
그 기법들의 다양한 양태들의 특정 조합들이 위에서 설명되었지만, 이들 조합들은 본 개시물에서 설명된 기법들의 예들을 도시하기 위해서만 제공된다. 따라서, 본 개시물의 기법들은 이들 예의 조합들로 제한되지 않아야 하고 본 개시물에서 설명된 기법들의 다양한 양태들의 임의의 상상 가능한 조합을 포괄할 수도 있다.
하나 이상의 예들에서, 설명된 기능들은 하드웨어, 소프트웨어, 펌웨어, 또는 그것들의 임의의 조합으로 구현될 수도 있다.　 소프트웨어로 구현된다면, 그 기능들은 하나 이상의 명령들 또는 코드로서 컴퓨터 판독가능 매체 상에 저장되거나 또는 그것을 통해 송신될 수도 있고 하드웨어 기반 프로세싱 유닛에 의해 실행될 수도 있다. 컴퓨터-판독가능 매체들은 데이터 저장 매체들과 같은 유형의 매체에 대응하는 컴퓨터-판독가능 저장 매체들을 저장할 수도 있다. 이런 식으로, 컴퓨터-판독가능 매체는 비-일시적인 유형의 컴퓨터-판독가능 저장 매체에 일반적으로 해당할 수도 있다. 데이터 저장 매체들은 본 개시물에서 설명된 기법들의 구현을 위한 명령들, 코드 및/또는 데이터 구조들을 취출하기 위해 하나 이상의 컴퓨터들 또는 하나 이상의 프로세서들에 의해 액세스될 수 있는 임의의 이용가능 매체들일 수도 있다. 컴퓨터 프로그램 제품은 컴퓨터 판독가능 매체를 포함할 수도 있다. 비제한적인 예로, 이러한 컴퓨터 판독가능 저장 매체들은 RAM, ROM, EEPROM, CD-ROM 또는 다른 광 디스크 스토리지, 자기 디스크 스토리지, 또는 다른 자기 저장 디바이스들, 플래시 메모리, 또는 소망의 프로그램 코드를 컴퓨터에 의해 액세스될 수 있는 명령들 또는 데이터 구조들의 형태로 저장하는데 사용될 수 있는 임의의 다른 매체를 포함할 수 있다. 그러나, 컴퓨터 판독가능 저장 매체들 및 데이터 저장 매체들은 커넥션들, 반송파들, 신호들, 또는 다른 일시적인 매체들을 포함하지 않지만, 대신 비일시적, 유형의 저장 매체들을 지향하고 있음이 이해되어야 한다. 디스크 (disk 및 disc) 는 본원에서 사용되는 바와 같이, 콤팩트 디스크 (compact disc, CD), 레이저 디스크, 광 디스크, 디지털 다용도 디스크 (DVD), 플로피 디스크 (floppy disk) 및 블루레이 디스크를 포함하는데, disk들은 보통 데이터를 자기적으로 재생하지만, disc들은 레이저들로써 광적으로 데이터를 재생한다. 상기한 것들의 조합들은 컴퓨터 판독가능 매체들의 범위 내에 또한 포함되어야 한다.
명령들은 하나 이상의 프로세서들, 이를테면 하나 이상의 디지털 신호 프로세서들 (DSP들), 범용 마이크로프로세서들, 주문형 집적회로들 (ASIC들), 필드 프로그램가능 로직 어레이들 (FPGA들), 또는 다른 동등한 집적 또는 개별 로직 회로에 의해 실행될 수도 있다. 따라서, 본 명세서에서 사용되는 바와 같은 "프로세서"라는 용어는 앞서의 구조 또는 본 명세서에서 설명된 기법들의 구현에 적합한 임의의 다른 구조 중 임의의 것을 나타낼 수도 있다. 덧붙여서, 일부 양태들에서, 본 명세서에서 설명된 기능성은 인코딩 및 디코딩을 위해 구성되는, 또는 결합형 코덱으로 통합되는 전용 하드웨어 및/또는 소프트웨어 모듈들 내에 제공될 수도 있다. 또한, 본 기법들은 하나 이상의 회로들 또는 로직 엘리먼트들 내에 완전히 구현될 수 있다.
본 개시물의 기법들은 무선 핸드셋, 집적회로 (IC) 또는 IC들의 세트 (예컨대, 칩 셋) 를 포함하는 매우 다양한 디바이스들 또는 장치들로 구현될 수도 있다. 다양한 컴포넌트들, 모듈들, 또는 유닛들이 개시된 기법들을 수행하도록 구성되는 디바이스들의 기능적 양태들을 강조하기 위해 본 개시물에서 설명되지만, 상이한 하드웨어 유닛들에 의한 실현을 반드시 요구하지는 않는다. 대신에, 위에서 설명된 바와 같이, 다양한 유닛들은 코덱 하드웨어 유닛에 결합되거나 또는 적합한 소프트웨어 및/또는 펌웨어에 연계하여, 위에서 설명된 바와 같은 하나 이상의 프로세서들을 포함한 상호운용적 하드웨어 유닛들의 컬렉션에 의해 제공될 수도 있다.
다양한 예들이 설명되어 있다. 이들 및 다른 예들은 다음의 청구항들의 범위 내에 있다.

Claims (60)

  1. 비디오 데이터를 디코딩하는 방법으로서,
    각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 단계로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 단계;
    상기 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 단계;
    상기 비디오 데이터의 상기 현재 계수 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 단계;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하는 단계;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하는 단계;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 계수 블록에 기초하여 현재 변환 블록을 결정하는 단계; 및
    상기 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  2. 제 1 항에 있어서,
    인트라 예측인 상기 비디오 블록의 예측 모드에 기초하여 상기 비디오 블록의 인트라 예측 모드를 결정하는 단계를 더 포함하며,
    상기 제 1 변환 서브세트를 선택하는 단계는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 1 변환 서브세트를 선택하는 단계를 포함하며,
    상기 제 2 변환 서브세트를 선택하는 단계는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 2 변환 서브세트를 선택하는 단계를 포함하며, 그리고
    상기 비디오 블록을 복원하는 단계는 결정된 상기 인트라 예측 모드에 기초하여 상기 비디오 블록을 복원하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  3. 제 1 항에 있어서,
    인터-예측인 상기 비디오 블록의 예측 모드에 기초하여 상기 비디오 블록에서 상기 현재 변환 블록의 로케이션을 결정하는 단계를 더 포함하며,
    상기 제 1 변환 서브세트를 선택하는 단계는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 1 변환 서브세트를 선택하는 단계를 포함하며, 그리고
    상기 제 2 변환 서브세트를 선택하는 단계는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 2 변환 서브세트를 선택하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  4. 제 1 항에 있어서,
    상기 제 1 변환 서브세트에의 제 1 변환 서브세트 인덱스를 수신하는 단계; 및
    상기 제 2 변환 서브세트에의 제 2 변환 서브세트 인덱스를 수신하는 단계를 더 포함하며,
    상기 좌측 변환을 결정하는 단계는 상기 제 1 변환 서브세트 인덱스에 의해 식별된 상기 제 1 변환 서브세트에서의 변환에 기초하여 상기 좌측 변환을 결정하는 단계를 포함하며, 그리고
    상기 우측 변환을 결정하는 단계는 상기 제 2 변환 서브세트 인덱스에 의해 식별된 상기 제 2 변환 서브세트에서의 변환에 기초하여 상기 우측 변환을 결정하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  5. 제 1 항에 있어서,
    상기 현재 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 결정하는 단계를 더 포함하며,
    상기 좌측 변환을 결정하는 단계는, 상기 현재 계수 블록에서의 상기 0이 아닌 계수들의 수가 상기 임계값 미만이라고 결정하는 것에 응답하여, 상기 제 1 변환 서브세트에의 변환 서브세트 인덱스를 수신하는 일 없이, 상기 제 1 변환 서브세트에서 식별된 제 1 변환이 상기 좌측 변환이라고 결정하는 단계를 포함하며, 그리고
    상기 우측 변환을 결정하는 단계는, 상기 현재 계수 블록에서의 상기 0이 아닌 계수들의 수가 상기 임계값 미만이라고 결정하는 것에 응답하여, 상기 제 2 변환 서브세트에의 변환 서브세트 인덱스를 수신하는 일 없이, 상기 제 2 변환 서브세트에서 식별된 제 1 변환이 상기 우측 변환이라고 결정하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  6. 제 1 항에 있어서,
    상기 현재 변환 블록을 포함하는 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 플래그를 수신하는 단계를 더 포함하며,
    상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 좌측 변환을 위해 상기 제 1 변환 서브세트를 선택하는 단계, 상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 우측 변환을 위해 상기 제 2 변환 서브세트를 선택하는 단계, 선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하는 단계, 및 선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하는 단계는, 상기 현재 변환 블록을 포함하는 상기 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 상기 플래그를 수신하는 것에 응답하여, 상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 좌측 변환을 위해 상기 제 1 변환 서브세트를 선택하는 단계, 상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 우측 변환을 위해 상기 제 2 변환 서브세트를 선택하는 단계, 선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하는 단계, 및 선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  7. 제 6 항에 있어서,
    상기 비디오 블록은, 코딩 트리 유닛 (CTU), 코딩 유닛 (CU), 또는 예측 유닛 (PU) 중 하나를 포함하는, 비디오 데이터를 디코딩하는 방법.
  8. 제 1 항에 있어서,
    상기 제 1 변환 서브세트 또는 상기 제 2 변환 서브세트 중 적어도 하나의 변환 서브세트는, 이산 코사인 변환 (DCT) -II 변환 및 이산 사인 변환 (DST) -VII 변환과는 상이한 변환을 포함하는, 비디오 데이터를 디코딩하는 방법.
  9. 제 1 항에 있어서,
    상기 제 1 변환 서브세트와 상기 제 2 변환 서브세트는 상이한 변환 유형들을 포함하는, 비디오 데이터를 디코딩하는 방법.
  10. 제 1 항에 있어서,
    상기 복수의 변환 서브세트들은 세 개 이상의 변환 서브세트들을 포함하는, 비디오 데이터를 디코딩하는 방법.
  11. 제 1 항에 있어서,
    상기 후보 변환들은 상이한 변환 유형들인, 비디오 데이터를 디코딩하는 방법.
  12. 제 1 항에 있어서,
    상기 복수의 변환 서브세트들을 결정하는 단계는 상기 비디오 블록의 사이즈에 기초하여 상기 복수의 변환 서브세트들을 결정하는 단계를 포함하는, 비디오 데이터를 디코딩하는 방법.
  13. 제 1 항에 있어서,
    비트스트림으로부터 예측 모드를 표시하는 정보를 수신하는 단계;
    상기 비트스트림으로부터 상기 현재 계수 블록의 계수들을 표시하는 정보를 수신하는 단계;
    상기 계수들을 표시하는 수신된 상기 정보에 기초하여 상기 현재 계수 블록을 구성하는 단계; 및
    상기 예측 모드에 기초하여 상기 예측 블록을 결정하는 단계를 더 포함하는, 비디오 데이터를 디코딩하는 방법.
  14. 제 13 항에 있어서,
    상기 예측 모드는 인터 예측 모드 또는 인터 예측 모드 중 하나의 예측 모드를 포함하는, 비디오 데이터를 디코딩하는 방법.
  15. 제 1 항에 있어서,
    상기 현재 변환 블록은 상기 비디오 블록과 상기 예측 블록의 잔차인, 비디오 데이터를 디코딩하는 방법.
  16. 비디오 데이터를 인코딩하는 방법으로서,
    각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 단계로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 단계;
    상기 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 단계;
    상기 비디오 데이터의 상기 비디오 블록의 상기 변환 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 단계;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하는 단계;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하는 단계;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 변환 블록에 기초하여 현재 계수 블록을 결정하는 단계; 및
    상기 비디오 블록의 복원을 위해 사용되는 상기 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
  17. 제 16 항에 있어서,
    상기 비디오 블록의 인트라 예측 모드를 결정하는 단계를 더 포함하며,
    상기 제 1 변환 서브세트를 선택하는 단계는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 1 변환 서브세트를 선택하는 단계를 포함하며, 그리고
    상기 제 2 변환 서브세트를 선택하는 단계는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 2 변환 서브세트를 선택하는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
  18. 제 16 항에 있어서,
    인터-예측 인코딩되고 있는 상기 비디오 블록에 기초하여 상기 비디오 블록에서의 상기 현재 변환 블록의 로케이션을 결정하는 단계를 더 포함하며,
    상기 제 1 변환 서브세트를 선택하는 단계는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 1 변환 서브세트를 선택하는 단계를 포함하며, 그리고
    상기 제 2 변환 서브세트를 선택하는 단계는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 2 변환 서브세트를 선택하는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
  19. 제 16 항에 있어서,
    상기 현재 계수 블록을 결정하는데 사용되는 상기 제 1 변환 서브세트에서의 변환을 식별하기 위해 상기 제 1 변환 서브세트에의 제 1 변환 서브세트 인덱스를 상기 비디오 비트스트림에 생성하는 단계; 및
    상기 현재 계수 블록을 식별하는데 사용되는 상기 제 2 변환 서브세트에서의 변환을 식별하기 위해 상기 제 2 변환 서브세트에의 제 2 변환 서브세트 인덱스를 상기 비디오 비트스트림에 생성하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
  20. 제 19 항에 있어서,
    상기 현재 계수 블록에서 0이 아닌 계수들의 수를 결정하는 단계를 더 포함하며,
    상기 제 1 변환 서브세트 인덱스를 시그널링하는 단계는 임계값보다 큰 상기 0이 아닌 계수들의 수에 기초하여 상기 제 1 변환 서브세트 인덱스를 시그널링하는 단계를 포함하며, 그리고
    상기 제 2 변환 서브세트 인덱스를 시그널링하는 단계는 상기 임계값보다 큰 상기 0이 아닌 계수들의 수에 기초하여 상기 제 2 변환 서브세트 인덱스를 시그널링하는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
  21. 제 16 항에 있어서,
    상기 제 1 변환 서브세트 또는 상기 제 2 변환 서브세트 중 적어도 하나의 변환 서브세트는, 이산 코사인 변환 (DCT) -II 변환 및 이산 사인 변환 (DST) -VII 변환과는 상이한 변환을 포함하는, 비디오 데이터를 인코딩하는 방법.
  22. 제 16 항에 있어서,
    상기 제 1 변환 서브세트와 상기 제 2 변환 서브세트는 상이한 변환 유형들을 포함하는, 비디오 데이터를 인코딩하는 방법.
  23. 제 16 항에 있어서,
    상기 복수의 변환 서브세트들은 세 개 이상의 변환 서브세트들을 포함하는, 비디오 데이터를 인코딩하는 방법.
  24. 제 16 항에 있어서,
    상기 후보 변환들은 상이한 변환 유형들인, 비디오 데이터를 인코딩하는 방법.
  25. 제 16 항에 있어서,
    상기 복수의 변환 서브세트들을 결정하는 단계는 상기 비디오 블록의 사이즈에 기초하여 상기 복수의 변환 서브세트들을 결정하는 단계를 포함하는, 비디오 데이터를 인코딩하는 방법.
  26. 제 16 항에 있어서,
    예측 블록을 결정하는 단계; 및
    상기 예측 블록에 기초하여 상기 비디오 블록의 예측 모드를 나타내는 정보를 상기 비디오 비트스트림에 생성하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
  27. 제 26 항에 있어서,
    상기 예측 블록은 인트라-예측된 비디오 블록에 기초한 상기 비디오 블록과는 동일한 픽처에서의 블록 또는 인터-예측된 비디오 블록에 기초한 상기 비디오 블록을 포함하는 픽처와는 상이한 픽처에서의 블록인, 비디오 데이터를 인코딩하는 방법.
  28. 제 16 항에 있어서,
    상기 비디오 블록과 상기 예측 블록 사이의 잔차로서 상기 현재 변환 블록을 결정하는 단계를 더 포함하는, 비디오 데이터를 인코딩하는 방법.
  29. 비디오 데이터를 비디오 디코딩하는 디바이스로서,
    상기 비디오 데이터와, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 변환 서브세트들을 저장하도록 구성되는 비디오 데이터 메모리로서, 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 상기 비디오 데이터 메모리; 및
    집적 회로를 포함하는 비디오 디코더를 포함하며,
    상기 비디오 디코더는,
    저장된 상기 변환 서브세트들로부터 복수의 변환 서브세트들을 결정하도록;
    상기 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하도록;
    상기 비디오 데이터의 상기 현재 계수 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하도록;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하도록;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하도록;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 계수 블록에 기초하여 현재 변환 블록을 결정하도록; 그리고
    상기 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  30. 제 29 항에 있어서,
    상기 비디오 디코더는 인트라 예측인 상기 비디오 블록의 예측 모드에 기초하여 상기 비디오 블록의 인트라 예측 모드를 결정하도록 구성되며, 상기 제 1 변환 서브세트를 선택하기 위해, 상기 비디오 디코더는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 1 변환 서브세트를 선택하도록 구성되며, 상기 제 2 변환 서브세트를 선택하기 위해, 상기 비디오 디코더는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 2 변환 서브세트를 선택하도록 구성되고, 상기 비디오 블록을 복원하기 위해, 상기 비디오 디코더는 결정된 상기 인트라 예측 모드에 기초하여 상기 비디오 블록을 복원하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  31. 제 29 항에 있어서,
    상기 비디오 디코더는 인터-예측인 상기 비디오 블록의 예측 모드에 기초하여 상기 비디오 블록에서의 상기 현재 변환 블록의 로케이션을 결정하도록 구성되며, 상기 제 1 변환 서브세트를 선택하기 위해, 상기 비디오 디코더는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 1 변환 서브세트를 선택하도록 구성되고, 상기 제 2 변환 서브세트를 선택하기 위해, 상기 비디오 디코더는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 2 변환 서브세트를 선택하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  32. 제 29 항에 있어서,
    상기 비디오 디코더는,
    상기 제 1 변환 서브세트에의 제 1 변환 서브세트 인덱스를 수신하도록; 그리고
    기 제 2 변환 서브세트에의 제 2 변환 서브세트 인덱스를 수신하도록 구성되며,
    상기 좌측 변환을 결정하기 위해, 상기 비디오 디코더는 상기 제 1 변환 서브세트 인덱스에 의해 식별된 상기 제 1 변환 서브세트에서의 변환에 기초하여 상기 좌측 변환을 결정하도록 구성되고,
    상기 우측 변환을 결정하기 위해, 상기 비디오 디코더는 상기 제 2 변환 서브세트 인덱스에 의해 식별된 상기 제 2 변환 서브세트에서의 변환에 기초하여 상기 우측 변환을 결정하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  33. 제 29 항에 있어서,
    상기 비디오 디코더는,
    상기 현재 계수 블록에서의 0이 아닌 계수들의 수가 임계값 미만이라고 결정하도록 구성되며,
    상기 좌측 변환을 결정하기 위해, 상기 비디오 디코더는 상기 현재 계수 블록에서의 상기 0이 아닌 계수들의 수가 상기 임계값 미만이라고 결정하는 것에 응답하여, 상기 제 1 변환 서브세트에의 변환 서브세트 인덱스를 수신하는 일 없이, 상기 제 1 변환 서브세트에서 식별된 제 1 변환이 상기 좌측 변환이라고 결정하도록 구성되고,
    상기 우측 변환을 결정하기 위해, 상기 비디오 디코더는 상기 현재 계수 블록에서의 상기 0이 아닌 계수들의 수가 상기 임계값 미만이라고 결정하는 것에 응답하여, 상기 제 2 변환 서브세트에의 변환 서브세트 인덱스를 수신하는 일 없이, 상기 제 2 변환 서브세트에서 식별된 제 1 변환이 상기 우측 변환이라고 결정하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  34. 제 29 항에 있어서,
    상기 비디오 디코더는,
    상기 현재 변환 블록을 포함하는 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 플래그를 수신하도록 구성되며,
    상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 좌측 변환을 위한 상기 제 1 변환 서브세트를 선택하며, 상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 우측 변환을 위한 상기 제 2 변환 서브세트를 선택하며, 선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하며, 그리고 선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하기 위해, 상기 비디오 디코더는, 상기 현재 변환 블록을 포함하는 상기 블록의 모든 변환 블록들이 동일한 변환을 사용하여 변환되는 것은 아님을 표시하는 상기 플래그를 수신하는 것에 응답하여, 상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 좌측 변환을 위해 상기 제 1 변환 서브세트를 선택하며, 상기 비디오 데이터의 상기 현재 계수 블록에 대한 상기 우측 변환을 위해 상기 제 2 변환 서브세트를 선택하며, 선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하고, 그리고 선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  35. 제 34 항에 있어서,
    상기 블록들은, 코딩 트리 유닛 (CTU), 코딩 유닛 (CU), 또는 예측 유닛 (PU) 중 하나를 포함하는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  36. 제 29 항에 있어서,
    상기 제 1 변환 서브세트 또는 상기 제 2 변환 서브세트 중 적어도 하나의 변환 서브세트는, 이산 코사인 변환 (DCT) -II 변환 및 이산 사인 변환 (DST) -VII 변환과는 상이한 변환을 포함하는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  37. 제 29 항에 있어서,
    상기 제 1 변환 서브세트와 상기 제 2 변환 서브세트는 상이한 변환 유형들을 포함하는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  38. 제 29 항에 있어서,
    상기 복수의 변환 서브세트들은 세 개 이상의 변환 서브세트들을 포함하는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  39. 제 29 항에 있어서,
    상기 후보 변환들은 상이한 변환 유형들인, 비디오 데이터를 비디오 디코딩하는 디바이스.
  40. 제 29 항에 있어서,
    상기 복수의 변환 서브세트들을 결정하기 위해, 상기 비디오 디코더는 상기 비디오 블록의 사이즈에 기초하여 상기 복수의 변환 서브세트들을 결정하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  41. 제 29 항에 있어서,
    상기 비디오 디코더는,
    비트스트림으로부터 예측 모드를 표시하는 정보를 수신하도록;
    상기 비트스트림으로부터 상기 현재 계수 블록의 계수들을 표시하는 정보를 수신하도록;
    상기 계수들을 표시하는 수신된 상기 정보에 기초하여 상기 현재 계수 블록을 구성하도록; 그리고
    상기 예측 모드에 기초하여 상기 예측 블록을 결정하도록 구성되는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  42. 제 41 항에 있어서,
    상기 예측 모드는 인터 예측 모드 또는 인터 예측 모드 중 하나의 예측 모드를 포함하는, 비디오 데이터를 비디오 디코딩하는 디바이스.
  43. 제 29 항에 있어서,
    상기 현재 변환 블록은 상기 비디오 블록과 상기 예측 블록의 잔차인, 비디오 데이터를 비디오 디코딩하는 디바이스.
  44. 비디오 데이터를 인코딩하는 디바이스로서,
    상기 비디오 데이터와, 각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 변환 서브세트들을 저장하도록 구성되는 비디오 데이터 메모리로서, 적어도 하나의 변환 서브세트는 복수의 후보 변환들을 식별하는, 상기 비디오 데이터 메모리; 및
    비디오 인코더를 포함하며,
    상기 비디오 인코더는,
    저장된 상기 변환 서브세트들로부터 복수의 변환 서브세트들을 결정하도록;
    상기 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하도록;
    상기 비디오 데이터의 상기 비디오 블록의 상기 변환 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하도록;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하도록;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하도록;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 변환 블록에 기초하여 현재 계수 블록을 결정하도록; 그리고
    상기 비디오 블록의 복원을 위해 사용되는 상기 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  45. 제 44 항에 있어서,
    상기 비디오 인코더는 상기 비디오 블록의 인트라 예측 모드를 결정하도록 구성되며, 상기 제 1 변환 서브세트를 선택하기 위해, 상기 비디오 인코더는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 1 변환 서브세트를 선택하도록 구성되고, 상기 제 2 변환 서브세트를 선택하기 위해, 상기 비디오 인코더는 결정된 상기 인트라 예측 모드에 기초하여 상기 제 2 변환 서브세트를 선택하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  46. 제 44 항에 있어서,
    상기 비디오 인코더는 인터-예측 인코딩된 상기 비디오 블록에 기초하여 상기 비디오 블록에서의 상기 현재 변환 블록의 로케이션을 결정하도록 구성되며, 상기 제 1 변환 서브세트를 선택하기 위해, 상기 비디오 인코더는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 1 변환 서브세트를 선택하도록 구성되고, 상기 제 2 변환 서브세트를 선택하기 위해, 상기 비디오 인코더는 상기 현재 변환 블록의 결정된 상기 로케이션에 기초하여 상기 제 2 변환 서브세트를 선택하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  47. 제 44 항에 있어서,
    상기 비디오 인코더는,
    상기 현재 계수 블록을 결정하는데 사용되는 상기 제 1 변환 서브세트에서의 변환을 식별하기 위해 상기 제 1 변환 서브세트에의 제 1 변환 서브세트 인덱스를 상기 비디오 비트스트림에 생성하도록; 그리고
    상기 현재 계수 블록을 식별하는데 사용되는 상기 제 2 변환 서브세트에서의 변환을 식별하기 위해 상기 제 2 변환 서브세트에의 제 2 변환 서브세트 인덱스를 상기 비디오 비트스트림에 생성하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  48. 제 47 항에 있어서,
    상기 비디오 인코더는 상기 현재 계수 블록에서의 0이 아닌 계수들의 수를 결정하도록 구성되며, 상기 제 1 변환 서브세트 인덱스를 상기 비디오 비트스트림에서 생성하기 위해, 상기 비디오 인코더는 임계값보다 큰 상기 0이 아닌 계수들의 수에 기초하여 상기 제 1 변환 서브세트 인덱스를 상기 비디오 비트스트림에 생성하도록 구성되고, 상기 제 2 변환 서브세트 인덱스를 생성하기 위해, 상기 비디오 인코더는 상기 임계값보다 큰 상기 0이 아닌 계수들의 수에 기초하여 상기 제 2 변환 서브세트 인덱스를 상기 비디오 비트스트림에 생성하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  49. 제 44 항에 있어서,
    상기 제 1 변환 서브세트 또는 상기 제 2 변환 서브세트 중 적어도 하나의 변환 서브세트는, 이산 코사인 변환 (DCT) -II 변환 및 이산 사인 변환 (DST) -VII 변환과는 상이한 변환을 포함하는, 비디오 데이터를 인코딩하는 디바이스.
  50. 제 44 항에 있어서,
    상기 제 1 변환 서브세트와 상기 제 2 변환 서브세트는 상이한 변환 유형들을 포함하는, 비디오 데이터를 인코딩하는 디바이스.
  51. 제 44 항에 있어서,
    상기 복수의 변환 서브세트들은 세 개 이상의 변환 서브세트들을 포함하는, 비디오 데이터를 인코딩하는 디바이스.
  52. 제 44 항에 있어서,
    상기 후보 변환들은 상이한 변환 유형들인, 비디오 데이터를 인코딩하는 디바이스.
  53. 제 44 항에 있어서,
    상기 복수의 변환 서브세트들을 결정하기 위해, 상기 비디오 인코더는 상기 비디오 블록의 사이즈에 기초하여 상기 복수의 변환 서브세트들을 결정하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  54. 제 44 항에 있어서,
    상기 비디오 인코더는,
    예측 블록을 결정하도록; 그리고
    상기 예측 블록에 기초하여 상기 비디오 블록의 예측 모드를 나타내는 정보를 상기 비디오 비트스트림에 생성하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  55. 제 44 항에 있어서,
    상기 예측 블록은 인트라-예측된 비디오 블록에 기초한 상기 비디오 블록과는 동일한 픽처에서의 블록 또는 인터-예측된 비디오 블록에 기초한 상기 비디오 블록을 포함하는 픽처와는 상이한 픽처에서의 블록인, 비디오 데이터를 인코딩하는 디바이스.
  56. 제 44 항에 있어서,
    상기 비디오 인코더는,
    상기 비디오 블록과 상기 예측 블록 사이의 잔차로서 상기 현재 변환 블록을 결정하도록 구성되는, 비디오 데이터를 인코딩하는 디바이스.
  57. 비디오 데이터를 디코딩하는 디바이스로서,
    각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 수단으로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 수단;
    상기 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 수단;
    상기 비디오 데이터의 상기 현재 계수 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 수단;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하는 수단;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하는 수단;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 계수 블록에 기초하여 현재 변환 블록을 결정하는 수단; 및
    상기 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하는 수단을 포함하는, 비디오 데이터 디코딩 디바이스.
  58. 명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들은, 실행되는 경우, 비디오 디코딩을 위한 디바이스의 비디오 디코더로 하여금,
    각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하게 하는 것으로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 복수의 변환 서브세트들을 결정하게 하며;
    상기 비디오 데이터의 현재 계수 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하게 하며;
    상기 비디오 데이터의 상기 현재 계수 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하게 하며;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하게 하며;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하게 하며;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 계수 블록에 기초하여 현재 변환 블록을 결정하게 하며; 그리고
    상기 현재 변환 블록 및 예측 블록에 기초하여 비디오 블록을 복원하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
  59. 비디오 데이터를 인코딩하는 디바이스로서,
    각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하는 수단으로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 결정하는 수단;
    상기 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하는 수단;
    상기 비디오 데이터의 상기 비디오 블록의 상기 변환 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하는 수단;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하는 수단;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하는 수단;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 변환 블록에 기초하여 현재 계수 블록을 결정하는 수단; 및
    상기 비디오 블록의 복원을 위해 사용되는 상기 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하는 수단을 포함하는, 비디오 데이터를 인코딩하는 디바이스.
  60. 명령들을 저장하는 비일시적 컴퓨터 판독가능 저장 매체로서,
    상기 명령들은, 실행되는 경우, 비디오 인코딩을 위한 디바이스의 비디오 인코더로 하여금,
    각각의 변환 서브세트가 하나 이상의 후보 변환들을 식별하는 복수의 변환 서브세트들을 결정하게 하는 것으로서, 적어도 하나의 변환 서브세트가 복수의 후보 변환들을 식별하는, 상기 복수의 변환 서브세트들을 결정하게 하며;
    상기 비디오 데이터의 비디오 블록의 현재 변환 블록에 대한 좌측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 1 변환 서브세트를 선택하게 하며;
    상기 비디오 데이터의 상기 비디오 블록의 상기 변환 블록에 대한 우측 변환을 위해 상기 복수의 변환 서브세트들로부터 제 2 변환 서브세트를 선택하게 하며;
    선택된 상기 제 1 변환 서브세트로부터 상기 좌측 변환을 결정하게 하며;
    선택된 상기 제 2 변환 서브세트로부터 상기 우측 변환을 결정하게 하며;
    상기 좌측 변환, 상기 우측 변환, 및 상기 현재 변환 블록에 기초하여 현재 계수 블록을 결정하게 하며; 그리고
    상기 비디오 블록의 복원을 위해 사용되는 상기 현재 계수 블록의 계수들을 나타내는 정보를 포함하는 비디오 비트스트림을 생성하게 하는, 비일시적 컴퓨터 판독가능 저장 매체.
KR1020177020597A 2015-01-26 2016-01-26 예측 잔차를 위한 향상된 다수의 변환들 Active KR102452745B1 (ko)

Applications Claiming Priority (7)

Application Number Priority Date Filing Date Title
US201562107996P 2015-01-26 2015-01-26
US62/107,996 2015-01-26
US201562137038P 2015-03-23 2015-03-23
US62/137,038 2015-03-23
US15/005,736 US10306229B2 (en) 2015-01-26 2016-01-25 Enhanced multiple transforms for prediction residual
US15/005,736 2016-01-25
PCT/US2016/014898 WO2016123091A1 (en) 2015-01-26 2016-01-26 Enhanced multiple transforms for prediction residual

Publications (2)

Publication Number Publication Date
KR20170107452A true KR20170107452A (ko) 2017-09-25
KR102452745B1 KR102452745B1 (ko) 2022-10-07

Family

ID=56433544

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020177020597A Active KR102452745B1 (ko) 2015-01-26 2016-01-26 예측 잔차를 위한 향상된 다수의 변환들

Country Status (11)

Country Link
US (1) US10306229B2 (ko)
EP (1) EP3251364B1 (ko)
JP (1) JP6768675B2 (ko)
KR (1) KR102452745B1 (ko)
CN (1) CN107211144B (ko)
CA (1) CA2971880C (ko)
EA (1) EA038534B1 (ko)
ES (1) ES3023710T3 (ko)
TN (1) TN2017000286A1 (ko)
TW (1) TWI686076B (ko)
WO (1) WO2016123091A1 (ko)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2019190098A1 (ko) * 2018-03-28 2019-10-03 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2019190283A1 (ko) * 2018-03-29 2019-10-03 엘지전자 주식회사 저복잡도 연산 dst7을 설계하는 방법 및 장치
WO2019194505A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 축소된 회전기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
WO2020009556A1 (ko) * 2018-07-06 2020-01-09 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
KR20200060397A (ko) * 2018-11-12 2020-05-29 엘지전자 주식회사 고주파 제로잉을 기반으로 변환 계수를 코딩하는 방법 및 그 장치
WO2020141855A1 (ko) * 2019-01-01 2020-07-09 엘지전자 주식회사 영상 코딩 시스템에서 레지듀얼 부호 관련 정보를 사용하는 영상 디코딩 방법 및 그 장치
KR20200118890A (ko) * 2018-02-23 2020-10-16 후아웨이 테크놀러지 컴퍼니 리미티드 비디오 코딩을 위한 위치 종속 공간 가변 변환
KR20200138804A (ko) * 2018-03-29 2020-12-10 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 변환 세트
WO2021194199A1 (ko) * 2020-03-24 2021-09-30 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
WO2021194221A1 (ko) * 2020-03-26 2021-09-30 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
KR20220047770A (ko) * 2019-08-20 2022-04-19 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 변환 스킵된 블록들에 대한 잔차 코딩
KR20220066041A (ko) * 2019-09-20 2022-05-23 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 크로마 스케일링의 루마 매핑
US11558612B2 (en) 2018-08-16 2023-01-17 Beijing Bytedance Network Technology Co., Ltd. Coefficient dependent coding of transform matrix selection

Families Citing this family (163)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN108632611A (zh) 2012-06-29 2018-10-09 韩国电子通信研究院 视频解码方法、视频编码方法和计算机可读介质
WO2015172337A1 (en) * 2014-05-14 2015-11-19 Mediatek Singapore Pte. Ltd. Alternative transforms for data compression
FR3038196A1 (fr) 2015-06-29 2016-12-30 B<>Com Procede de codage d'une image numerique, procede de decodage, dispositifs et programmes d'ordinateurs associes
US10491922B2 (en) 2015-09-29 2019-11-26 Qualcomm Incorporated Non-separable secondary transform for video coding
US20170150176A1 (en) 2015-11-25 2017-05-25 Qualcomm Incorporated Linear-model prediction with non-square prediction units in video coding
WO2017138393A1 (en) 2016-02-08 2017-08-17 Sharp Kabushiki Kaisha Systems and methods for intra prediction coding
CN116389729A (zh) * 2016-02-12 2023-07-04 交互数字Vc控股公司 用于帧内预测编码/解码的方法和设备
US10623774B2 (en) 2016-03-22 2020-04-14 Qualcomm Incorporated Constrained block-level optimization and signaling for video coding tools
CN108886613B (zh) * 2016-03-28 2022-04-19 株式会社Kt 用于处理视频信号的方法和装置
US10887626B2 (en) * 2016-05-13 2021-01-05 Sharp Kabushiki Kaisha Image decoding device and image encoding device
US10547854B2 (en) 2016-05-13 2020-01-28 Qualcomm Incorporated Neighbor based signaling of intra prediction modes
CN114363628B (zh) 2016-06-24 2024-06-14 株式会社Kt 图像编码方法、图像解码方法以及装置
CN114401402B (zh) * 2016-07-05 2024-06-14 株式会社Kt 用于处理视频信号的方法和装置
CN117412044A (zh) * 2016-07-13 2024-01-16 韩国电子通信研究院 图像编码/解码方法和装置
CN109716767B (zh) * 2016-07-14 2021-09-21 弗劳恩霍夫应用研究促进协会 使用基于变换的残差编码的预测图像编码
CN117014603A (zh) 2016-08-31 2023-11-07 株式会社Kt 用于处理视频信号的方法和设备
WO2018044088A1 (ko) * 2016-08-31 2018-03-08 주식회사 케이티 비디오 신호 처리 방법 및 장치
KR20190039562A (ko) * 2016-09-01 2019-04-12 엘지전자 주식회사 레이어드 기븐스 변환을 이용하여 변환을 수행하는 방법 및 장치
US10880564B2 (en) 2016-10-01 2020-12-29 Qualcomm Incorporated Transform selection for video coding
CN118945345A (zh) * 2016-10-04 2024-11-12 有限公司B1影像技术研究所 图像编码/解码方法、介质和传输比特流的方法
ES2988737T3 (es) * 2016-10-04 2024-11-21 B1 Institute Image Technology Inc Procedimiento y aparato de codificación/decodificación de datos de imagen
US10506228B2 (en) 2016-10-04 2019-12-10 Qualcomm Incorporated Variable number of intra modes for video coding
FR3057429A1 (fr) * 2016-10-07 2018-04-13 B<>Com Procede de codage d'une image numerique, procede de decodage, dispositifs et programmes d'ordinateurs associes
US11095893B2 (en) 2016-10-12 2021-08-17 Qualcomm Incorporated Primary transform and secondary transform in video coding
CN110100438B (zh) * 2016-12-28 2022-04-15 索尼公司 图像处理装置和方法
CN110402580A (zh) 2017-01-03 2019-11-01 Lg 电子株式会社 图像处理方法及其装置
KR20180089858A (ko) * 2017-02-01 2018-08-09 엘지전자 주식회사 레이어드 기븐스 변환을 이용하여 변환을 수행하는 방법 및 장치
US11405645B2 (en) * 2017-02-28 2022-08-02 Google Llc Transform kernel selection and entropy coding
CN110419218B (zh) * 2017-03-16 2021-02-26 联发科技股份有限公司 编码或解码视频数据的方法和装置
US10701391B2 (en) 2017-03-23 2020-06-30 Qualcomm Incorporated Motion vector difference (MVD) prediction
US20180288439A1 (en) * 2017-03-31 2018-10-04 Mediatek Inc. Multiple Transform Prediction
FR3064870A1 (fr) * 2017-03-31 2018-10-05 B<>Com Procede de decodage d'au moins une image numerique, procede de codage, dispositifs, equipement terminal et programmes d'ordinateurs associes
US10750181B2 (en) * 2017-05-11 2020-08-18 Mediatek Inc. Method and apparatus of adaptive multiple transforms for video coding
US10630974B2 (en) * 2017-05-30 2020-04-21 Google Llc Coding of intra-prediction modes
WO2018226067A1 (ko) * 2017-06-08 2018-12-13 엘지전자 주식회사 비디오 압축을 위한 변환 커널의 저복잡도 연산을 수행하는 방법 및 장치
WO2019004749A1 (ko) * 2017-06-28 2019-01-03 엘지전자 주식회사 비디오 압축을 위한 변환 커널의 저복잡도 연산을 수행하는 방법 및 장치
FR3068556A1 (fr) 2017-06-29 2019-01-04 B<>Com Procede de decodage d'une image, procede de codage, dispositifs, equipement terminal et programmes d'ordinateurs associes
US20230308626A1 (en) * 2017-07-17 2023-09-28 B1 Institute Of Image Technology, Inc. Image data encoding/decoding method and apparatus
CA3175176C (en) 2017-08-04 2024-07-02 Guangdong Oppo Mobile Telecommunications Corp., Ltd. METHOD AND APPARATUS FOR CONFIGURING A TRANSFORMER FOR VIDEO COMPRESSION
EP3451663A1 (en) * 2017-08-31 2019-03-06 Thomson Licensing Pools of transforms for local selection of a set of transforms in video coding
US20200221130A1 (en) * 2017-09-03 2020-07-09 Lg Electronics Inc. Method and device for performing transform using layered givens transform
WO2019069782A1 (ja) * 2017-10-06 2019-04-11 パナソニック インテレクチュアル プロパティ コーポレーション オブ アメリカ 符号化装置、復号装置、符号化方法及び復号方法
WO2019076138A1 (en) 2017-10-16 2019-04-25 Huawei Technologies Co., Ltd. Encoding method and apparatus
CN109922340B (zh) * 2017-12-13 2021-10-15 华为技术有限公司 图像编解码方法、装置、系统及存储介质
KR20250107949A (ko) * 2017-12-15 2025-07-14 엘지전자 주식회사 비분리 2차 변환에 기반한 영상 코딩 방법 및 그 장치
KR102489149B1 (ko) * 2017-12-21 2023-01-17 엘지전자 주식회사 선택적 변환에 기반한 영상 코딩 방법 및 그 장치
WO2019126347A1 (en) * 2017-12-22 2019-06-27 Interdigital Vc Holdings, Inc. Method and apparatus for video compression using efficient multiple transforms
EP3503549A1 (en) * 2017-12-22 2019-06-26 Thomson Licensing Method and apparatus for video compression using efficient multiple transforms
CN115190297B (zh) * 2017-12-28 2025-09-02 松下电器（美国）知识产权公司 编码方法、解码方法、编码装置和解码装置
US10812797B2 (en) * 2018-02-05 2020-10-20 Tencent America LLC Method, apparatus and medium for decoding or encoding using a low-complexity transform
US10567801B2 (en) 2018-03-07 2020-02-18 Tencent America LLC Method and apparatus for video coding with primary and secondary transforms
US10491914B2 (en) * 2018-03-29 2019-11-26 Tencent America LLC Transform information prediction
JP7334730B2 (ja) * 2018-03-30 2023-08-29 ソニーグループ株式会社 画像処理装置および方法
WO2019194458A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 Obmc를 이용한 영상 코딩 방법 및 그 장치
KR102846149B1 (ko) * 2018-04-01 2025-08-12 엘지전자 주식회사 축소된 2차 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
US11297348B2 (en) * 2018-04-13 2022-04-05 Mediatek Inc. Implicit transform settings for coding a block of pixels
US20210243445A1 (en) * 2018-05-02 2021-08-05 Interdigital Vc Holdings, Inc. Encoding and decoding a video
US10536720B2 (en) * 2018-05-07 2020-01-14 Tencent America LLC Method, apparatus and medium for decoding or encoding
US10462486B1 (en) * 2018-05-07 2019-10-29 Tencent America, Llc Fast method for implementing discrete sine transform type VII (DST 7)
PL3782361T3 (pl) 2018-05-31 2023-12-27 Huawei Technologies Co., Ltd. Przestrzennie zmienna transformacja z transformacją typu adaptacyjnego
US10986340B2 (en) * 2018-06-01 2021-04-20 Qualcomm Incorporated Coding adaptive multiple transform information for video coding
US10645396B2 (en) * 2018-06-04 2020-05-05 Tencent America LLC Method and apparatus for implicit transform splitting
US10687081B2 (en) * 2018-06-29 2020-06-16 Tencent America LLC Method, apparatus and medium for decoding or encoding
US10666981B2 (en) * 2018-06-29 2020-05-26 Tencent America LLC Method, apparatus and medium for decoding or encoding
CN112400322B (zh) * 2018-07-02 2023-04-14 Lg电子株式会社 基于二次变换处理视频信号的方法和设备
US11218716B2 (en) * 2018-07-13 2022-01-04 Telefonaktiebolaget Lm Ericsson (Publ) Transform selection in a video encoder and/or video decoder
US11259052B2 (en) * 2018-07-16 2022-02-22 Qualcomm Incorporated Transform variations of multiple separable transform selection
US11405650B2 (en) 2018-08-22 2022-08-02 Hfi Innovation Inc. Method and apparatus of transform coefficient coding
KR20250067947A (ko) * 2018-09-02 2025-05-15 엘지전자 주식회사 영상 신호를 처리하기 위한 방법 및 장치
EP3836543A1 (en) * 2018-09-02 2021-06-16 Lg Electronics Inc. Image coding method based on multiple transform selection and device therefor
WO2020056760A1 (en) * 2018-09-21 2020-03-26 Alibaba Group Holding Limited Transform selection for small size block
CN110944177B (zh) * 2018-09-21 2024-03-01 华为技术有限公司 视频解码方法及视频解码器，视频编码方法及视频编码器
GB2579763B (en) * 2018-09-21 2021-06-09 Canon Kk Video coding and decoding
GB2577318B (en) 2018-09-21 2021-03-10 Canon Kk Video coding and decoding
JP7245323B2 (ja) * 2018-09-23 2023-03-23 エルジー エレクトロニクス インコーポレイティド ビデオ信号の符号化／復号化方法及びそのための装置
KR102822624B1 (ko) * 2018-10-05 2025-06-18 엘지전자 주식회사 Mpm 리스트를 사용하는 인트라 예측 기반 영상 코딩 방법 및 그 장치
WO2020073882A1 (en) * 2018-10-08 2020-04-16 Huawei Technologies Co., Ltd. Video decoder and corresponding methods
US10893286B2 (en) * 2018-10-09 2021-01-12 Tencent America LLC Methods and apparatus for low-complexity MTS
GB2578151B (en) 2018-10-18 2021-06-09 Canon Kk Video coding and decoding
US11128866B2 (en) 2018-10-18 2021-09-21 Qualcomm Incorporated Scans and last coefficient position coding for zero-out transforms
GB2595053B (en) 2018-10-18 2022-07-06 Canon Kk Video coding and decoding
EP3884668A1 (en) * 2018-11-22 2021-09-29 InterDigital VC Holdings, Inc. Quantization for video encoding and decoding
US11284112B2 (en) 2018-12-06 2022-03-22 Tencent America LLC Method and apparatus for a primary transform using an 8-bit transform core
US11102513B2 (en) * 2018-12-06 2021-08-24 Tencent America LLC One-level transform split and adaptive sub-block transform
CN113170197B (zh) * 2018-12-06 2023-07-18 Lg电子株式会社 基于二次变换的图像编码方法及其装置
KR102489599B1 (ko) * 2018-12-17 2023-01-18 엘지전자 주식회사 고주파 제로잉을 기반으로 변환 계수 스캔 순서를 결정하는 방법 및 장치
US11323748B2 (en) 2018-12-19 2022-05-03 Qualcomm Incorporated Tree-based transform unit (TU) partition for video coding
US10855992B2 (en) * 2018-12-20 2020-12-01 Alibaba Group Holding Limited On block level bi-prediction with weighted averaging
CN111385584B (zh) * 2018-12-28 2022-09-06 杭州海康威视数字技术股份有限公司 进行编码、解码的方法、装置和系统
ES3047711T3 (en) * 2018-12-28 2025-12-04 Ericsson Telefon Ab L M Method and apparatus for selecting transform selection in an encoder and decoder
KR20250069986A (ko) 2019-01-01 2025-05-20 엘지전자 주식회사 이차 변환에 기반한 영상 코딩 방법 및 그 장치
US10904563B2 (en) * 2019-01-02 2021-01-26 Tencent America LLC Method and apparatus for improved zero out transform
KR20250073487A (ko) * 2019-01-02 2025-05-27 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 통합된 변환 타입 시그널링 및 변환 타입 종속 변환 계수 레벨 코딩
WO2020145582A1 (ko) * 2019-01-07 2020-07-16 엘지전자 주식회사 이차 변환에 기반한 영상 코딩 방법 및 그 장치
CN117915091B (zh) * 2019-01-12 2026-03-31 Oppo广东移动通信有限公司 在图像编译系统中使用残差信息的图像解码方法及其装置
US11595663B2 (en) 2019-02-01 2023-02-28 Qualcomm Incorporated Secondary transform designs for partitioned transform units in video coding
US10986339B2 (en) * 2019-02-08 2021-04-20 Tencent America LLC Method and apparatus for harmonization between transform skip mode and multiple transform selection
US12200202B2 (en) * 2019-02-21 2025-01-14 Lg Electronics Inc. Image decoding method and apparatus using intra prediction in image coding system
US11159795B2 (en) * 2019-03-04 2021-10-26 Tencent America LLC Max transform size control
WO2020182069A1 (en) * 2019-03-10 2020-09-17 Mediatek Inc. Mehtod and apparatus of the quantization matrix computation and representation for video coding
CN113574895B (zh) 2019-03-11 2024-01-30 腾讯美国有限责任公司 视频编解码方法、装置及存储介质
CN117579818B (zh) * 2019-03-11 2025-04-01 北京达佳互联信息技术有限公司 用于视频编码的方法和计算设备
KR102461123B1 (ko) 2019-03-11 2022-10-28 엘지전자 주식회사 Ibc 모드를 이용한 영상 부호화/복호화 방법, 장치 및 비트스트림을 전송하는 방법
US11539952B2 (en) 2019-03-12 2022-12-27 Qualcomm Incorporated Implicit transform selection in video coding
US11025937B2 (en) * 2019-03-16 2021-06-01 Tencent America LLC Method and apparatus for video coding
US11172211B2 (en) * 2019-04-04 2021-11-09 Tencent America LLC Method and apparatus for video coding
US11363306B2 (en) * 2019-04-05 2022-06-14 Comcast Cable Communications, Llc Methods, systems, and apparatuses for processing video by adaptive rate distortion optimization
US11240534B2 (en) 2019-04-05 2022-02-01 Qualcomm Incorporated Extended multiple transform selection for video coding
KR102860140B1 (ko) 2019-04-23 2025-09-16 두인 비전 컴퍼니 리미티드 다중 변환 행렬의 선택 및 컨텍스트 모델링
WO2020228670A1 (en) 2019-05-10 2020-11-19 Beijing Bytedance Network Technology Co., Ltd. Luma based secondary transform matrix selection for video processing
US11032572B2 (en) 2019-05-17 2021-06-08 Qualcomm Incorporated Low-frequency non-separable transform signaling based on zero-out patterns for video coding
WO2020236723A1 (en) 2019-05-19 2020-11-26 Bytedance Inc. Transform bypass coded residual blocks in digital video
CN113940076B (zh) * 2019-06-06 2025-01-03 北京字节跳动网络技术有限公司 应用隐式变换选择
KR102662603B1 (ko) 2019-06-06 2024-04-30 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 비디오 코딩을 위한 움직임 후보 리스트 구성
CN113994666B (zh) 2019-06-06 2025-01-03 北京字节跳动网络技术有限公司 隐式选择变换候选
CN113950838B (zh) 2019-06-06 2026-03-17 北京字节跳动网络技术有限公司 基于子块的帧内块复制
WO2020244662A1 (en) 2019-06-06 2020-12-10 Beijing Bytedance Network Technology Co., Ltd. Simplified transform coding tools
US11212545B2 (en) 2019-06-07 2021-12-28 Tencent America LLC Method and apparatus for improved implicit transform selection
CN117354521A (zh) 2019-06-07 2024-01-05 北京字节跳动网络技术有限公司 视频比特流中的简化二次变换的有条件信令
US11695960B2 (en) 2019-06-14 2023-07-04 Qualcomm Incorporated Transform and last significant coefficient position signaling for low-frequency non-separable transform in video coding
US11949870B2 (en) 2019-06-21 2024-04-02 Qualcomm Incorporated Context modeling for low-frequency non-separable transformation signaling for video coding
WO2020259426A1 (en) 2019-06-22 2020-12-30 Beijing Bytedance Network Technology Co., Ltd. Motion candidate list construction for intra block copy mode
CN119299684A (zh) 2019-07-12 2025-01-10 Lg 电子株式会社 基于变换的图像编译方法及其设备
CN114128258B (zh) 2019-07-14 2023-12-22 北京字节跳动网络技术有限公司 视频编解码中的变换块尺寸的限制
PH12022550201A1 (en) * 2019-07-26 2023-01-04 Beijing Bytedance Network Tech Co Ltd Determination of picture partition mode based on block size
CN114208183B (zh) 2019-08-03 2025-01-10 北京字节跳动网络技术有限公司 视频的缩减二次变换中基于位置的模式导出
WO2021032045A1 (en) 2019-08-17 2021-02-25 Beijing Bytedance Network Technology Co., Ltd. Context modeling of side information for reduced secondary transforms in video
US11677984B2 (en) 2019-08-20 2023-06-13 Qualcomm Incorporated Low-frequency non-separable transform (LFNST) signaling
CN118714309A (zh) * 2019-09-19 2024-09-27 数码士有限公司 使用缩放处理的视频信号处理方法及装置
US11184617B2 (en) 2019-09-19 2021-11-23 Qualcomm Incorporated Transform unit design for video coding
US11153576B2 (en) 2019-09-20 2021-10-19 Qualcomm Incorporated Scaling matrices and signaling for video coding
CN114731434B (zh) * 2019-09-21 2023-06-30 Lg电子株式会社 基于变换的图像编码方法及其装置
WO2021058593A1 (en) 2019-09-24 2021-04-01 Fraunhofer-Gesellschaft zur Förderung der angewandten Forschung e.V. Coding concept for a sequence of information values
US11206400B2 (en) 2019-09-26 2021-12-21 Qualcomm Incorporated Low-frequency non-separable transform (LFNST) simplifications
MX2022003924A (es) * 2019-10-04 2022-06-02 Lg Electronics Inc Método de codificación de imágenes a base de transformación, y dispositivo para el mismo.
US11432014B2 (en) 2019-10-25 2022-08-30 Qualcomm Incorporated Parametric graph-based separable transforms for video coding
US11284071B2 (en) * 2019-12-12 2022-03-22 Google Llc Combination of mode-dependent and fixed transform types in video coding
US20210195192A1 (en) 2019-12-20 2021-06-24 Qualcomm Incorporated Coefficient group based restriction on multiple transform selection signaling in video coding
US11470353B2 (en) 2019-12-20 2022-10-11 Qualcomm Incorporated Low-frequency non-separable transform (LFNST) with reduced zero-out in video coding
US11457229B2 (en) 2019-12-23 2022-09-27 Qualcomm Incorporated LFNST signaling for chroma based on chroma transform skip
US11706425B2 (en) 2020-01-08 2023-07-18 Qualcomm Incorporated Multiple transform set signaling for video coding
CN115552900B (zh) * 2020-02-21 2025-12-23 阿里巴巴（中国）有限公司 用信号通知最大变换大小和残差编码的方法
CN111263158B (zh) * 2020-02-28 2021-11-16 中南大学 一种基于空间相关度的多变换核快速处理方法
WO2021180022A1 (en) * 2020-03-07 2021-09-16 Beijing Bytedance Network Technology Co., Ltd. Handling of transform skip mode in video coding
US11582491B2 (en) 2020-03-27 2023-02-14 Qualcomm Incorporated Low-frequency non-separable transform processing in video coding
US20210321137A1 (en) 2020-03-30 2021-10-14 Qualcomm Incorporated Low-frequency non-separable transform index signaling in video coding
US11388401B2 (en) * 2020-06-26 2022-07-12 Google Llc Extended transform partitions for video compression
WO2022037700A1 (en) 2020-08-21 2022-02-24 Beijing Bytedance Network Technology Co., Ltd. Coding mode dependent selection of transform skip mode
CN113824957B (zh) * 2020-09-27 2022-10-28 腾讯科技（深圳）有限公司 视频编解码方法、装置及电子设备
CN114339217B (zh) * 2020-09-30 2024-09-13 中国科学院深圳先进技术研究院 变换集合生成方法和装置、机器可读存储介质和机器设备
US11871010B2 (en) 2020-10-02 2024-01-09 Qualcomm Incorporated Extended low-frequency non-separable transform (LFNST) designs with worst-case complexity handling
US11924471B2 (en) 2020-11-12 2024-03-05 Qualcomm Incorporated Context-based transform index signaling in video coding
CN116601953A (zh) 2020-11-24 2023-08-15 抖音视界有限公司 编解码视频中的位置相关系数重新排序
US12244803B2 (en) * 2021-01-25 2025-03-04 Google Llc Chroma transform type determination
US11800110B2 (en) * 2021-04-20 2023-10-24 Tencent America LLC Adaptive scanning with multiple transform selection
EP4175296A1 (en) * 2021-10-29 2023-05-03 Ateme Method for image processing and apparatus for implementing the same
WO2024080795A1 (ko) * 2022-10-12 2024-04-18 엘지전자 주식회사 영상 인코딩/디코딩 방법 및 장치, 그리고 비트스트림을 저장한 기록 매체
US20260107000A1 (en) * 2022-10-12 2026-04-16 Lg Electronics Inc. Video encoding/decoding method and device, and recording medium for storing bitstream
CN119968848A (zh) * 2022-10-12 2025-05-09 Lg 电子株式会社 图像编码/解码方法和设备、以及其上存储比特流的记录介质
CN119968849A (zh) * 2022-10-16 2025-05-09 Lg 电子株式会社 图像编码/解码方法和设备及其上存储比特流的记录介质
CN119968850A (zh) * 2022-10-16 2025-05-09 Lg 电子株式会社 图像编码/解码方法和设备及其上存储比特流的记录介质
WO2024085565A1 (ko) * 2022-10-16 2024-04-25 엘지전자 주식회사 영상 인코딩/디코딩 방법 및 장치, 그리고 비트스트림을 저장한 기록 매체
WO2025167806A1 (en) * 2024-02-07 2025-08-14 Beijing Dajia Internet Information Technology Co., Ltd. Methods and apparatus for transform coding

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030156648A1 (en) * 2001-12-17 2003-08-21 Microsoft Corporation Sub-block transform coding of prediction residuals
KR20040068257A (ko) * 2001-12-17 2004-07-30 마이크로소프트 코포레이션 스킵 매크로블록 코딩
US20120170649A1 (en) * 2010-12-29 2012-07-05 Qualcomm Incorporated Video coding using mapped transforms and scanning modes

Family Cites Families (138)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
BE1000643A5 (fr) 1987-06-05 1989-02-28 Belge Etat Procede de codage de signaux d'image.
JPH0270127A (ja) 1988-09-06 1990-03-09 Toshiba Corp 変換符号化方式
US5136371A (en) 1990-03-15 1992-08-04 Thomson Consumer Electronics, Inc. Digital image coding using random scanning
US5424778A (en) 1992-08-31 1995-06-13 Victor Company Of Japan, Ltd. Orthogonal transform coding apparatus and decoding apparatus
TW224553B (en) 1993-03-01 1994-06-01 Sony Co Ltd Method and apparatus for inverse discrete consine transform and coding/decoding of moving picture
TW297202B (ko) 1993-10-13 1997-02-01 Rca Thomson Licensing Corp
EP0729688A1 (en) 1993-11-15 1996-09-04 National Semiconductor Corporation Quadtree-structured walsh transform coding
KR0183688B1 (ko) 1994-01-12 1999-05-01 김광호 영상부호화방법 및 장치
JP3086396B2 (ja) 1995-03-10 2000-09-11 シャープ株式会社 画像符号化装置及び画像復号装置
KR0178198B1 (ko) 1995-03-28 1999-05-01 배순훈 영상 신호 부호화 장치
US5721822A (en) 1995-07-21 1998-02-24 Intel Corporation Run-length encoding/decoding video signals using scan patterns explicitly encoded into bitstreams
US5790706A (en) 1996-07-03 1998-08-04 Motorola, Inc. Method and apparatus for scanning of transform coefficients
KR100211050B1 (ko) 1996-11-05 1999-07-15 이계철 선택적 양자화 계수 전송 장치 및 방법
US6345121B1 (en) 1996-11-07 2002-02-05 Matsushita Electric Industrial Co., Ltd. Image encoding apparatus and an image decoding apparatus
JP2002232887A (ja) 1996-11-07 2002-08-16 Matsushita Electric Ind Co Ltd 画像符号化方法および画像符号化装置並びに画像復号化方法および画像復号化装置
US5974181A (en) 1997-03-20 1999-10-26 Motorola, Inc. Data compression system, method, and apparatus
JPH10271505A (ja) 1997-03-25 1998-10-09 Oki Electric Ind Co Ltd 信号処理装置、符号化回路および復号回路
US5995055A (en) 1997-06-30 1999-11-30 Raytheon Company Planar antenna radiating structure having quasi-scan, frequency-independent driving-point impedance
EP0895424B1 (en) 1997-07-31 2007-10-31 Victor Company of Japan, Ltd. digital video signal inter-block predictive encoding/decoding apparatus and method providing high efficiency of encoding.
JP2900998B2 (ja) 1997-07-31 1999-06-02 日本ビクター株式会社 ブロック間内挿予測符号化装置、復号化装置、符号化方法及び復号化方法
AU769333B2 (en) 1998-08-10 2004-01-22 Etiip Holdings Inc. Embedded quadtree wavelets in image compression
EP0986026A1 (en) 1998-09-07 2000-03-15 STMicroelectronics S.r.l. Fractal coding of data in the DCT domain
JP4226172B2 (ja) 1998-11-24 2009-02-18 株式会社ハイニックスセミコンダクター 適応的変換方法を用いる映像圧縮符号化装置および復号化装置ならびにその方法
JP2003513538A (ja) 1999-10-22 2003-04-08 アクティブスカイ，インコーポレイテッド オブジェクト指向ビデオシステム
US6476805B1 (en) 1999-12-23 2002-11-05 Microsoft Corporation Techniques for spatial displacement estimation and multi-resolution operations on light fields
US6654503B1 (en) 2000-04-28 2003-11-25 Sun Microsystems, Inc. Block-based, adaptive, lossless image coder
US6724818B1 (en) 2000-07-17 2004-04-20 Telefonaktiebolaget Lm Ericsson (Publ) Alternative block orders for better prediction
CN1142683C (zh) 2000-10-13 2004-03-17 清华大学 无转置行列分离二维离散余弦正反变换电路及其方法
JP2002135126A (ja) 2000-10-26 2002-05-10 Seiko Epson Corp 半導体装置及びこれを用いた電子機器
AU2002236659A1 (en) 2000-12-19 2002-07-01 Pulsent Corporation Adaptive transforms
US6856701B2 (en) 2001-09-14 2005-02-15 Nokia Corporation Method and system for context-based adaptive binary arithmetic coding
JP4447197B2 (ja) 2002-01-07 2010-04-07 三菱電機株式会社 動画像符号化装置および動画像復号装置
US7190840B2 (en) 2002-01-07 2007-03-13 Hewlett-Packard Development Company, L.P. Transform coefficient compression using multiple scans
KR100468844B1 (ko) 2002-01-07 2005-01-29 삼성전자주식회사 정지영상 및 동영상을 부호화/복호화하기 위한변환계수들의 최적주사방법
US7379501B2 (en) 2002-01-14 2008-05-27 Nokia Corporation Differential coding of interpolation filters
WO2003063501A1 (en) 2002-01-22 2003-07-31 Nokia Corporation Coding transform coefficients in image/video encoders and/or decoders
US6757576B2 (en) 2002-02-05 2004-06-29 Gcc, Inc. System and method for drawing and manufacturing bent pipes
KR100508798B1 (ko) 2002-04-09 2005-08-19 엘지전자 주식회사 쌍방향 예측 블록 예측 방법
US20060218482A1 (en) 2002-04-19 2006-09-28 Droplet Technology, Inc. Mobile imaging application, device architecture, service platform architecture and services
US7170937B2 (en) 2002-05-01 2007-01-30 Texas Instruments Incorporated Complexity-scalable intra-frame prediction technique
ATE343302T1 (de) 2002-05-02 2006-11-15 Fraunhofer Ges Forschung Kodierung und dekodierung von transformationskoeffizienten in bild- oder videokodierern
ES2788534T3 (es) 2002-05-28 2020-10-21 Dolby Int Ab Método y sistemas para la estimación, comunicación y organización de modos de intra-predicción de imágenes
US7145948B2 (en) 2002-05-29 2006-12-05 Koninklijke Philips Electronics N.V. Entropy constrained scalar quantizer for a Laplace-Markov source
US20030231795A1 (en) 2002-06-12 2003-12-18 Nokia Corporation Spatial prediction based intra-coding
US7289674B2 (en) 2002-06-11 2007-10-30 Nokia Corporation Spatial prediction based intra coding
RU2314656C2 (ru) 2002-06-11 2008-01-10 Нокиа Корпорейшн Внутреннее кодирование, основанное на пространственном прогнозировании
CN1312927C (zh) 2002-07-15 2007-04-25 株式会社日立制作所 动态图像编码方法及解码方法
US6795584B2 (en) 2002-10-03 2004-09-21 Nokia Corporation Context-based adaptive variable length coding for adaptive block transforms
US7463782B2 (en) 2002-11-05 2008-12-09 Canon Kabushiki Kaisha Data encoding with an amplitude model and path between the data and corresponding decoding
US20040091047A1 (en) 2002-11-11 2004-05-13 Sony Corporation Method and apparatus for nonlinear multiple motion model and moving boundary extraction
FI116710B (fi) 2002-12-20 2006-01-31 Oplayo Oy Kuvien koodausmenetelmä ja -järjestely
CN1795680B (zh) 2003-03-03 2010-06-16 新加坡科技研究局 采用avc帧内预测以便对数字视频进行编码的方法和装置
KR100750110B1 (ko) 2003-04-22 2007-08-17 삼성전자주식회사 ４×４인트라 휘도 예측 모드 결정방법 및 장치
JP3756897B2 (ja) 2003-07-30 2006-03-15 株式会社東芝 動画像符号化装置及び動画像符号化方法
US7289562B2 (en) 2003-08-01 2007-10-30 Polycom, Inc. Adaptive filter to improve H-264 video quality
US20050036549A1 (en) 2003-08-12 2005-02-17 Yong He Method and apparatus for selection of scanning mode in dual pass encoding
US7782954B2 (en) 2003-09-07 2010-08-24 Microsoft Corporation Scan patterns for progressive video content
US7688894B2 (en) 2003-09-07 2010-03-30 Microsoft Corporation Scan patterns for interlaced video content
US7379608B2 (en) 2003-12-04 2008-05-27 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung, E.V. Arithmetic coding for transforming video and picture data units
JP4142563B2 (ja) 2003-12-12 2008-09-03 株式会社エヌ・ティ・ティ・ドコモ 動画像符号化装置、動画像符号化方法、及び動画像符号化プログラム
JP4127818B2 (ja) 2003-12-24 2008-07-30 株式会社東芝 動画像符号化方法及びその装置
US7142231B2 (en) 2003-12-29 2006-11-28 Nokia Corporation Method and apparatus for improved handset multi-tasking, including pattern recognition and augmentation of camera images
EP1558039A1 (en) 2004-01-21 2005-07-27 Deutsche Thomson-Brandt Gmbh Method and apparatus for generating/evaluating prediction information in picture signal encoding/decoding
CN100479527C (zh) 2004-02-26 2009-04-15 联合信源数字音视频技术（北京）有限公司 一种帧内预测模式选取方法
JP4542447B2 (ja) 2005-02-18 2010-09-15 株式会社日立製作所 画像の符号化／復号化装置、符号化／復号化プログラム及び符号化／復号化方法
JP5037938B2 (ja) 2004-04-28 2012-10-03 日立コンシューマエレクトロニクス株式会社 画像の符号化／復号化装置、符号化／復号化プログラム及び符号化／復号化方法
US8731054B2 (en) 2004-05-04 2014-05-20 Qualcomm Incorporated Method and apparatus for weighted prediction in predictive frames
US8369402B2 (en) 2004-06-17 2013-02-05 Canon Kabushiki Kaisha Apparatus and method for prediction modes selection based on image formation
US7664184B2 (en) 2004-07-21 2010-02-16 Amimon Ltd. Interpolation image compression
EP1808024B1 (en) 2004-11-04 2013-04-17 Thomson Licensing Fast intra mode prediction for a video encoder
JP2006140758A (ja) 2004-11-12 2006-06-01 Toshiba Corp 動画像符号化方法、動画像符号化装置および動画像符号化プログラム
JP4763422B2 (ja) 2004-12-03 2011-08-31 パナソニック株式会社 イントラ予測装置
US8311119B2 (en) 2004-12-31 2012-11-13 Microsoft Corporation Adaptive coefficient scan order
US20060153295A1 (en) 2005-01-12 2006-07-13 Nokia Corporation Method and system for inter-layer prediction mode coding in scalable video coding
US7751478B2 (en) 2005-01-21 2010-07-06 Seiko Epson Corporation Prediction intra-mode selection in an encoder
US7706443B2 (en) 2005-03-11 2010-04-27 General Instrument Corporation Method, article of manufacture, and apparatus for high quality, fast intra coding usable for creating digital video content
JP2006295408A (ja) 2005-04-07 2006-10-26 Matsushita Electric Ind Co Ltd 画像符号化装置及び画像符号化プログラム
EP1711018A1 (en) 2005-04-08 2006-10-11 Thomson Licensing Method and apparatus for encoding video pictures, and method and apparatus for decoding video pictures
TW200704202A (en) 2005-04-12 2007-01-16 Nokia Corp Method and system for motion compensated fine granularity scalable video coding with drift control
EP1768415A1 (en) 2005-09-27 2007-03-28 Matsushita Electric Industrial Co., Ltd. Adaptive scan order of DCT coefficients and its signaling
KR100703200B1 (ko) 2005-06-29 2007-04-06 한국산업기술대학교산학협력단 인트라 부호화 장치 및 방법
KR101088375B1 (ko) 2005-07-21 2011-12-01 삼성전자주식회사 가변 블록 변환 장치 및 방법 및 이를 이용한 영상부호화/복호화 장치 및 방법
CA2610276C (en) 2005-07-22 2013-01-29 Mitsubishi Electric Corporation Image encoder and image decoder, image encoding method and image decoding method, image encoding program and image decoding program, and computer readable recording medium recorded with image encoding program and computer readable recording medium recorded with image decoding program
US20090123066A1 (en) 2005-07-22 2009-05-14 Mitsubishi Electric Corporation Image encoding device, image decoding device, image encoding method, image decoding method, image encoding program, image decoding program, computer readable recording medium having image encoding program recorded therein,
US7933337B2 (en) 2005-08-12 2011-04-26 Microsoft Corporation Prediction of transform coefficients for image compression
JP2007053561A (ja) 2005-08-17 2007-03-01 Matsushita Electric Ind Co Ltd 画像符号化装置および画像符号化方法
JP4650173B2 (ja) 2005-09-05 2011-03-16 ソニー株式会社 符号化装置、符号化方法、符号化方法のプログラム及び符号化方法のプログラムを記録した記録媒体
US20070070082A1 (en) 2005-09-27 2007-03-29 Ati Technologies, Inc. Sample-level screen-door transparency using programmable transparency sample masks
EP2733952A1 (en) 2005-10-21 2014-05-21 Electronics and Telecommunications Research Institute Method for encoding moving picture using adaptive scanning
JP4918099B2 (ja) 2005-11-30 2012-04-18 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 係数再整列を適用するエンコード方法および装置
US7529484B2 (en) 2005-12-14 2009-05-05 Nec Laboratories America, Inc. Triplexer transceiver using parallel signal detection
CN1801940A (zh) 2005-12-15 2006-07-12 清华大学 整型变换电路和整型变换方法
US7944965B2 (en) 2005-12-19 2011-05-17 Seiko Epson Corporation Transform domain based distortion cost estimation
US8000539B2 (en) 2005-12-21 2011-08-16 Ntt Docomo, Inc. Geometrical image representation and compression
JP2007189276A (ja) 2006-01-11 2007-07-26 Victor Co Of Japan Ltd 画像圧縮装置及び画像圧縮プログラム
KR101246294B1 (ko) 2006-03-03 2013-03-21 삼성전자주식회사 영상의 인트라 예측 부호화, 복호화 방법 및 장치
JP2007267123A (ja) 2006-03-29 2007-10-11 Victor Co Of Japan Ltd 動画像符号化装置
US8036264B2 (en) 2006-05-23 2011-10-11 Lsi Corporation Memory management in video decoding systems
US20080008246A1 (en) 2006-07-05 2008-01-10 Debargha Mukherjee Optimizing video coding
JP2008022405A (ja) 2006-07-14 2008-01-31 Sony Corp 画像処理装置および方法、並びに、プログラム
KR100882949B1 (ko) 2006-08-17 2009-02-10 한국전자통신연구원 화소 유사성에 따라 적응적인 이산 코사인 변환 계수스캐닝을 이용한 부호화/복호화 장치 및 그 방법
ES2630203T3 (es) 2006-10-10 2017-08-18 Nippon Telegraph And Telephone Corporation Método y dispositivo de control de codificación de predicción intra, su programa, y medio de almacenamiento que contiene programa
JP4908180B2 (ja) 2006-12-20 2012-04-04 株式会社東芝 動画像符号化装置
KR101366086B1 (ko) 2007-01-03 2014-02-21 삼성전자주식회사 잔차 블록의 계수들에 대한 부호화 결정 방법, 장치,인코더 및 디코더
WO2008084817A1 (ja) 2007-01-09 2008-07-17 Kabushiki Kaisha Toshiba 画像符号化と復号化の方法及び装置
JP2008193627A (ja) 2007-01-12 2008-08-21 Mitsubishi Electric Corp 画像符号化装置、画像復号装置、および画像符号化方法、画像復号方法
CA2675891C (en) 2007-01-18 2013-04-16 Fraunhofer-Gesellschaft Zur Foerderung Der Angewandten Forschung E.V. Quality scalable video data stream
KR101365570B1 (ko) 2007-01-18 2014-02-21 삼성전자주식회사 인트라 예측 부호화, 복호화 방법 및 장치
US8406299B2 (en) 2007-04-17 2013-03-26 Qualcomm Incorporated Directional transforms for intra-coding
US8571104B2 (en) 2007-06-15 2013-10-29 Qualcomm, Incorporated Adaptive coefficient scanning in video coding
US8619853B2 (en) 2007-06-15 2013-12-31 Qualcomm Incorporated Separable directional transforms
BR122019021946B1 (pt) 2007-06-29 2024-02-06 Velos Media International Limited Dispositivo de codificação de imagem para codificar imagens de entrada e dispositivo de decodificação de imagem para decodificar dados de imagens codificados
US8437564B2 (en) 2007-08-07 2013-05-07 Ntt Docomo, Inc. Image and video compression using sparse orthonormal transforms
TW200910971A (en) 2007-08-22 2009-03-01 Univ Nat Cheng Kung Direction detection algorithms for H.264 intra prediction
JP5004180B2 (ja) 2007-11-07 2012-08-22 Ｋｄｄｉ株式会社 動画像符号化装置および復号装置
WO2009080133A1 (en) 2007-12-21 2009-07-02 Telefonaktiebolaget Lm Ericsson (Publ) Adaptive intra mode selection
EP2081386A1 (en) 2008-01-18 2009-07-22 Panasonic Corporation High precision edge prediction for intracoding
US8024121B2 (en) 2008-01-25 2011-09-20 Smith International, Inc. Data compression method for use in downhole applications
CN101577605B (zh) * 2008-05-08 2014-06-18 吴志军 基于滤波器相似度的语音lpc隐藏和提取算法
KR101549823B1 (ko) 2008-09-02 2015-09-04 삼성전자주식회사 적응적 이진화를 이용한 영상 부호화, 복호화 방법 및 장치
KR20100027384A (ko) 2008-09-02 2010-03-11 삼성전자주식회사 예측 모드 결정 방법 및 장치
US20100172409A1 (en) 2009-01-06 2010-07-08 Qualcom Incorporated Low-complexity transforms for data compression and decompression
EP2422520A1 (en) 2009-04-20 2012-02-29 Dolby Laboratories Licensing Corporation Adaptive interpolation filters for multi-layered video delivery
JP5746182B2 (ja) 2009-09-14 2015-07-08 トムソン ライセンシングＴｈｏｍｓｏｎ Ｌｉｃｅｎｓｉｎｇ イントラ予測モードの効率的なビデオ符号化及び復号化方法及び装置
US20110116539A1 (en) 2009-11-13 2011-05-19 Freescale Semiconductor, Inc. Method and apparatus for video decoding with reduced complexity inverse transform
US20110317757A1 (en) 2010-06-25 2011-12-29 Qualcomm Incorporated Intra prediction mode signaling for finer spatial prediction directions
US9215470B2 (en) 2010-07-09 2015-12-15 Qualcomm Incorporated Signaling selected directional transform for video coding
US9641846B2 (en) 2010-10-22 2017-05-02 Qualcomm Incorporated Adaptive scanning of transform coefficients for video coding
US9807424B2 (en) 2011-01-10 2017-10-31 Qualcomm Incorporated Adaptive selection of region size for identification of samples in a transition zone for overlapped block motion compensation
MX381915B (es) * 2011-10-17 2025-03-13 Kt Corp Metodo de transformacion adaptable con base en la prediccion en pantalla y aparato que usa el metodo.
KR20130049526A (ko) * 2011-11-04 2013-05-14 오수미 복원 블록 생성 방법
US9883203B2 (en) 2011-11-18 2018-01-30 Qualcomm Incorporated Adaptive overlapped block motion compensation
US9253481B2 (en) * 2012-01-13 2016-02-02 Qualcomm Incorporated Determining contexts for coding transform coefficient data in video coding
EP2866443A4 (en) * 2012-06-22 2016-06-15 Sharp Kk ARITHMETIC DECODING DEVICE, ARITHMETIC CODING DEVICE, IMAGE DECODING DEVICE AND IMAGE DEVICES
US20140307780A1 (en) * 2013-04-11 2014-10-16 Mitsubishi Electric Research Laboratories, Inc. Method for Video Coding Using Blocks Partitioned According to Edge Orientations
CN103402097B (zh) * 2013-08-15 2016-08-10 清华大学深圳研究生院 一种自由视点视频深度图编码方法及其失真预测方法
US10278767B2 (en) * 2014-03-27 2019-05-07 Endomedical Concepts, Inc. Vaporization electrodes and electrosurgical devices equipped therewith
US10230980B2 (en) 2015-01-26 2019-03-12 Qualcomm Incorporated Overlapped motion compensation for video coding

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20030156648A1 (en) * 2001-12-17 2003-08-21 Microsoft Corporation Sub-block transform coding of prediction residuals
KR20040068257A (ko) * 2001-12-17 2004-07-30 마이크로소프트 코포레이션 스킵 매크로블록 코딩
US20120170649A1 (en) * 2010-12-29 2012-07-05 Qualcomm Incorporated Video coding using mapped transforms and scanning modes
KR20130119463A (ko) * 2010-12-29 2013-10-31 퀄컴 인코포레이티드 매핑된 변환들 및 스캐닝 모드들을 이용한 비디오 코딩

Cited By (31)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200118890A (ko) * 2018-02-23 2020-10-16 후아웨이 테크놀러지 컴퍼니 리미티드 비디오 코딩을 위한 위치 종속 공간 가변 변환
KR20220122809A (ko) * 2018-02-23 2022-09-02 후아웨이 테크놀러지 컴퍼니 리미티드 비디오 코딩을 위한 위치 종속 공간 가변 변환
US11388402B2 (en) 2018-02-23 2022-07-12 Huawei Technologies Co., Ltd. Position dependent spatial varying transform for video coding
US11917152B2 (en) 2018-02-23 2024-02-27 Huawei Technologies Co., Ltd. Position dependent spatial varying transform for video coding
US12549726B2 (en) 2018-02-23 2026-02-10 Huawei Technologies Co., Ltd. Position dependent spatial varying transform for video coding
WO2019190098A1 (ko) * 2018-03-28 2019-10-03 한국전자통신연구원 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
US11368691B2 (en) 2018-03-29 2022-06-21 Lg Electronics Inc. Method and device for designing low-complexity calculation DST7
KR20200138804A (ko) * 2018-03-29 2020-12-10 프라운호퍼 게젤샤프트 쭈르 푀르데룽 데어 안겐반텐 포르슝 에. 베. 변환 세트
WO2019190283A1 (ko) * 2018-03-29 2019-10-03 엘지전자 주식회사 저복잡도 연산 dst7을 설계하는 방법 및 장치
WO2019194505A1 (ko) * 2018-04-01 2019-10-10 엘지전자 주식회사 축소된 회전기반 변환을 이용하여 비디오 신호를 처리하는 방법 및 장치
WO2020009556A1 (ko) * 2018-07-06 2020-01-09 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
US11973963B2 (en) 2018-07-06 2024-04-30 Lg Electronics Inc. Transform-based image coding method and device
US11575914B2 (en) 2018-07-06 2023-02-07 Lg Electronics Inc. Transform-based image coding method and device
US11265557B2 (en) 2018-07-06 2022-03-01 Lg Electronics Inc. Transform-based image coding method and device
US11558612B2 (en) 2018-08-16 2023-01-17 Beijing Bytedance Network Technology Co., Ltd. Coefficient dependent coding of transform matrix selection
US11218733B2 (en) 2018-11-12 2022-01-04 Lg Electronics Inc. Method of coding transform coefficient based on high frequency zeroing and apparatus thereof
KR20230070059A (ko) * 2018-11-12 2023-05-19 엘지전자 주식회사 고주파 제로잉을 기반으로 변환 계수를 코딩하는 방법 및 그 장치
US11659205B2 (en) 2018-11-12 2023-05-23 Lg Electronics Inc. Method of coding transform coefficient based on high frequency zeroing and apparatus thereof
KR20220127385A (ko) * 2018-11-12 2022-09-19 엘지전자 주식회사 고주파 제로잉을 기반으로 변환 계수를 코딩하는 방법 및 그 장치
KR20220025268A (ko) * 2018-11-12 2022-03-03 엘지전자 주식회사 고주파 제로잉을 기반으로 변환 계수를 코딩하는 방법 및 그 장치
KR20200060397A (ko) * 2018-11-12 2020-05-29 엘지전자 주식회사 고주파 제로잉을 기반으로 변환 계수를 코딩하는 방법 및 그 장치
US11632557B2 (en) 2019-01-01 2023-04-18 Lg Electronics Inc. Method and device for decoding video using residual sign related information in video coding system
WO2020141855A1 (ko) * 2019-01-01 2020-07-09 엘지전자 주식회사 영상 코딩 시스템에서 레지듀얼 부호 관련 정보를 사용하는 영상 디코딩 방법 및 그 장치
KR20220047770A (ko) * 2019-08-20 2022-04-19 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 변환 스킵된 블록들에 대한 잔차 코딩
US12219136B2 (en) 2019-08-20 2025-02-04 Beijing Bytedance Network Technology Co., Ltd. Residual coding for transform skipped blocks
KR20220066041A (ko) * 2019-09-20 2022-05-23 베이징 바이트댄스 네트워크 테크놀로지 컴퍼니, 리미티드 크로마 스케일링의 루마 매핑
US12278998B2 (en) 2019-09-20 2025-04-15 Beijing Bytedance Network Technology Co., Ltd. Scaling process for coding block
WO2021194199A1 (ko) * 2020-03-24 2021-09-30 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
US12244812B2 (en) 2020-03-24 2025-03-04 Lg Electronics Inc. Transform-based image coding method and device therefor
WO2021194221A1 (ko) * 2020-03-26 2021-09-30 엘지전자 주식회사 변환에 기반한 영상 코딩 방법 및 그 장치
US12160612B2 (en) 2020-03-26 2024-12-03 Lg Electronics Inc. Transform-based image coding method based on LFNST index, and device therefor

Also Published As

Publication number Publication date
WO2016123091A1 (en) 2016-08-04
KR102452745B1 (ko) 2022-10-07
ES3023710T3 (en) 2025-06-03
EP3251364C0 (en) 2025-04-09
TWI686076B (zh) 2020-02-21
US10306229B2 (en) 2019-05-28
EP3251364A1 (en) 2017-12-06
CA2971880A1 (en) 2016-08-04
US20160219290A1 (en) 2016-07-28
CA2971880C (en) 2023-12-19
EA201791457A1 (ru) 2017-12-29
CN107211144B (zh) 2020-01-03
EA038534B1 (ru) 2021-09-10
CN107211144A (zh) 2017-09-26
JP2018506905A (ja) 2018-03-08
JP6768675B2 (ja) 2020-10-14
EP3251364B1 (en) 2025-04-09
BR112017016012A2 (pt) 2018-03-20
TW201637446A (zh) 2016-10-16
TN2017000286A1 (en) 2019-01-16

Similar Documents

Publication Publication Date Title
US11647194B2 (en) Look-up table for enhanced multiple transform
KR102452745B1 (ko) 예측 잔차를 위한 향상된 다수의 변환들
CN109716772B (zh) 用于视频译码的变换选择
EP3639518B1 (en) Intra filtering applied together with transform processing in video coding
EP3403405B1 (en) Multi-type-tree framework for video coding
KR101825262B1 (ko) B 슬라이스에서의 예측 유닛의 단방향성 인터 예측으로의 제한
EP3772262B1 (en) Multi-type-tree framework for transform in video coding
EP3566439A1 (en) Multi-type-tree framework for video coding
KR20150135411A (ko) 비디오 코딩에서 부호 데이터 은닉의 디스에이블링
KR20140130466A (ko) B 슬라이스에서의 예측 유닛의 단방향성 인터 예측으로의 제한
BR112017016012B1 (pt) Múltiplas transformadas melhoradas para residual de predição
OA18315A (en) Enhanced multiple transforms for prediction residual.

Legal Events

Date Code Title Description
PA0105 International application

St.27 status event code: A-0-1-A10-A15-nap-PA0105

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

A201 Request for examination
PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U12-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

U11 Full renewal or maintenance fee paid

Free format text: ST27 STATUS EVENT CODE: A-4-4-U10-U11-OTH-PR1001 (AS PROVIDED BY THE NATIONAL OFFICE)

Year of fee payment: 4