WO2020162737A1 - 이차 변환을 이용하는 비디오 신호 처리 방법 및 장치 - Google Patents

이차 변환을 이용하는 비디오 신호 처리 방법 및 장치 Download PDF

Info

Publication number
WO2020162737A1
WO2020162737A1 PCT/KR2020/001853 KR2020001853W WO2020162737A1 WO 2020162737 A1 WO2020162737 A1 WO 2020162737A1 KR 2020001853 W KR2020001853 W KR 2020001853W WO 2020162737 A1 WO2020162737 A1 WO 2020162737A1
Authority
WO
WIPO (PCT)
Prior art keywords
transform
quadratic
current block
block
inverse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/KR2020/001853
Other languages
English (en)
French (fr)
Inventor
정재홍
김동철
손주형
고건중
곽진삼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Humax Co Ltd
Wilus Institute of Standards and Technology Inc
Original Assignee
Humax Co Ltd
Wilus Institute of Standards and Technology Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Humax Co Ltd, Wilus Institute of Standards and Technology Inc filed Critical Humax Co Ltd
Priority to KR1020217017610A priority Critical patent/KR20210114386A/ko
Publication of WO2020162737A1 publication Critical patent/WO2020162737A1/ko
Priority to US17/348,227 priority patent/US11616984B2/en
Anticipated expiration legal-status Critical
Priority to US18/164,460 priority patent/US11973986B2/en
Priority to US18/620,899 priority patent/US12356010B2/en
Priority to US19/231,346 priority patent/US20250301173A1/en
Ceased legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/157—Assigned coding mode, i.e. the coding mode being predefined or preselected to be further used for selection of another element or parameter
    • H04N19/159—Prediction type, e.g. intra-frame, inter-frame or bidirectional frame prediction
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/103—Selection of coding mode or of prediction mode
    • H04N19/11—Selection of coding mode or of prediction mode among a plurality of spatial predictive coding modes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/119—Adaptive subdivision aspects, e.g. subdivision of a picture into rectangular or non-rectangular coding blocks
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/129—Scanning of coding units, e.g. zig-zag scan of transform coefficients or flexible macroblock ordering [FMO]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/132—Sampling, masking or truncation of coding units, e.g. adaptive resampling, frame skipping, frame interpolation or high-frequency transform coefficient masking
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/40—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using video transcoding, i.e. partial or full decoding of a coded input stream followed by re-encoding of the decoded output stream
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/593—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving spatial prediction techniques
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H04N19/619—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding the transform being operated outside the prediction loop
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/625—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding using discrete cosine transform [DCT]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards

Definitions

  • the present invention relates to a video signal processing method and apparatus, and more particularly, to a video signal processing method and apparatus for encoding or decoding a video signal.
  • Compression coding refers to a series of signal processing techniques for transmitting digitized information through a communication line or storing it in a format suitable for a storage medium.
  • Objects of compression encoding include audio, video, and text, and in particular, a technique for performing compression encoding on an image is called video image compression.
  • Compression coding of a video signal is performed by removing redundant information in consideration of spatial correlation, temporal correlation, and probability correlation.
  • a more efficient video signal processing method and apparatus is required.
  • An object of the present invention is to increase the coding efficiency of a video signal. Specifically, the present invention has an object of improving coding efficiency by using a transform kernel suitable for a transform block.
  • the present invention provides a video signal processing apparatus and a video signal processing method as follows.
  • a method for processing a video signal comprising: determining whether a second order inverse transform is applied to a current block; When the quadratic transform is applied to the current block, deriving a quadratic transform kernel set applied to the current block from among predefined quadratic transform kernel sets based on an intra prediction mode of the current block; Determining a quadratic transform kernel applied to the current block within the determined quadratic transform kernel set; Generating a quadratic inverse transformed block by performing a quadratic inverse transform on a specific region at the upper left of the current block using the quadratic transform kernel; And generating a residual block of the current block by performing a first-order inverse transform on the inverse quadratic transformed block, wherein the inverse quadratic transform is inverse quantized based on a fixed scan order regardless of the size of the quadratic transform kernel.
  • a video signal processing method is provided, characterized in that receiving the transformed coefficient.
  • the step of generating the quadratic inverse transformed block includes assigning the inverse quantized transform coefficient to the input coefficient array of the quadratic inverse transform based on an up-right diagonal scan order. I can.
  • the upper-right diagonal scan order may be predefined as a scan order for a 4x4 size block.
  • the step of determining whether a quadratic inverse transform is applied to the current block includes obtaining a syntax element indicating whether a quadratic transform is applied to the current block when a predefined condition is satisfied.
  • the predefined condition may include whether the width and height of the current block are less than or equal to the maximum transform size.
  • determining whether the inverse quadratic transform is applied to the current block may include inferring the syntax element as 0 when the predefined condition is not satisfied.
  • the determined quadratic transformation according to the value of the syntax element A quadratic transformation kernel applied to the current block in the kernel set may be determined.
  • the current block when the width or height of the current block is larger than the maximum transform size, the current block may be divided into a plurality of transform units.
  • the processor determines whether or not a quadratic inverse transform is applied to a current block, and when the quadratic transform is applied to the current block, A quadratic transform kernel set applied to the current block is derived from among predefined quadratic transform kernel sets based on the intra prediction mode of the current block, and a quadratic transform kernel applied to the current block within the determined quadratic transform kernel set And, by performing a quadratic inverse transform on a specific area at the upper left of the current block using the quadratic transform kernel, a quadratic inverse transformed block is generated, and a linear inverse transform is performed on the quadratic inverse transformed block, so that the current block A video signal processing apparatus is provided, wherein the residual block of is generated, wherein the inverse quadratic transform receives inverse quantized transform coefficients based on a fixed scan order regardless of the size of the quadratic transform kernel.
  • the processor may allocate the inverse quantized transform coefficient to the input coefficient array of the quadratic inverse transform based on an up-right diagonal scan order.
  • the upper-right diagonal scan order may be predefined as a scan order for a 4x4 size block.
  • the processor when a predefined condition is satisfied, obtains a syntax element indicating whether quadratic transformation is applied to the current block, and the predefined condition is the width of the current block And whether the height is less than or equal to the maximum transform size.
  • the processor may infer the syntax element as 0.
  • the determined quadratic transformation according to the value of the syntax element A quadratic transformation kernel applied to the current block in the kernel set may be determined.
  • the current block when the width or height of the current block is larger than the maximum transform size, the current block may be divided into a plurality of transform units.
  • a video signal processing method comprising: determining whether to apply a quadratic transform to a current block; When the quadratic transform is applied to the current block, deriving a quadratic transform kernel set applied to the current block from among predefined quadratic transform kernel sets based on an intra prediction mode of the current block; Determining a quadratic transform kernel applied to the current block within the determined quadratic transform kernel set; Generating a first-order transformed block by performing a first-order transform on the residual block of the current block; Generating a quadratic transformed block by performing quadratic transform on a specific area at the upper left of the block by using the quadratic transform kernel; And generating a bitstream by encoding the quadratic transformed block, wherein the quadratic transform comprises the quadratic transformed coefficients into a transform coefficient array based on a fixed scan order regardless of the size of the quadratic transform kernel.
  • a video signal processing method characterized in that it is performed, is
  • a non-transitory computer-executable component storing a computer-executable component configured to execute on one or more processors of a computing device, the computer-executable component comprising: , It is determined whether or not the quadratic transform is applied to the current block, and when the quadratic transform is applied to the current block, it is applied to the current block among predefined quadratic transform kernel sets based on the intra prediction mode of the current block.
  • a quadratic transform kernel set is derived, a quadratic transform kernel applied to the current block is determined within the determined quadratic transform kernel set, and a quadratic inverse transform is performed on a specific region at the upper left of the current block using the quadratic transform kernel.
  • a non-transitory computer-readable medium characterized in that receiving an inverse quantized transform coefficient based on.
  • coding efficiency of a video signal can be improved.
  • a transform kernel suitable for a current transform block may be selected.
  • FIG. 1 is a schematic block diagram of an apparatus for encoding a video signal according to an embodiment of the present invention.
  • FIG. 2 is a schematic block diagram of a video signal decoding apparatus according to an embodiment of the present invention.
  • FIG. 3 shows an embodiment in which a coding tree unit is divided into coding units within a picture.
  • FIG. 4 shows an embodiment of a method for signaling division of a quad tree and a multi-type tree.
  • FIG 5 and 6 more specifically illustrate an intra prediction method according to an embodiment of the present invention.
  • FIG. 7 is a diagram specifically illustrating a method of converting a residual signal by an encoder.
  • FIG. 8 is a diagram specifically illustrating a method of obtaining a residual signal by inverse transforming a transform coefficient by an encoder and a decoder.
  • AMT adaptive multiple core transform
  • DCT-II discrete cosine transform type-V
  • DCT-VIII discrete cosine transform type-VIII
  • DST-I discrete sine transform type-I
  • DST-VII kernel formulas are shown.
  • FIG. 10 is a diagram illustrating a transform set according to an intra prediction mode and a transform kernel candidate defined according to the transform set in AMT.
  • FIG. 11 is a diagram showing a 0th (lowest frequency component of a corresponding conversion kernel) basis function of the DCT-II, DCT-V, DCT-VIII, DST-I, and DST-VII conversion defined in FIG. 9.
  • FIG. 12 illustrates a transform kernel used in a multiple transform selection (MTS) technique according to an embodiment of the present invention and a transform set and transform kernel candidates defined according to a prediction mode.
  • MTS multiple transform selection
  • DST-IV and DCT-IV basis functions are a definition of the DST-IV and DCT-IV basis functions according to an embodiment of the present invention and the 0th (lowest frequency component of DCT-II, DCT-IV, DCT-VIII, DST-IV, and DST-VII) ) Is a diagram showing a graph of the basis function.
  • FIG. 14 is a block diagram illustrating a process of restoring a residual signal in a decoder performing quadratic transformation according to an embodiment of the present invention.
  • 15 is a diagram illustrating a process of restoring a residual signal in a decoder performing quadratic transformation according to an embodiment of the present invention at a block level.
  • 16 is a diagram illustrating a method of applying a quadratic transformation using a reduced number of samples according to an embodiment of the present invention.
  • 17 is a diagram illustrating a method of determining an up-right diagonal scan order according to an embodiment of the present invention.
  • FIG. 18 is a diagram illustrating an upper-right diagonal scan order according to a block size according to an embodiment of the present invention.
  • FIG. 19 is a diagram illustrating an example of a second-order conversion process according to an embodiment of the present invention.
  • 20 is a diagram illustrating a process of deriving a second-order transform matrix according to an embodiment of the present invention.
  • 21 is a flowchart illustrating a video signal processing method according to an embodiment of the present invention.
  • Coding can be interpreted as encoding or decoding in some cases.
  • an apparatus for generating a video signal bitstream by encoding (encoding) a video signal is referred to as an encoding apparatus or an encoder
  • an apparatus for reconstructing a video signal by performing decoding (decoding) of a video signal bitstream is decoding It is referred to as a device or decoder.
  • a video signal processing apparatus is used as a term for a concept including both an encoder and a decoder.
  • Information is a term that includes all values, parameters, coefficients, elements, etc., and the meaning may be interpreted differently in some cases, so the present invention is not limited thereto.
  • 'Unit' is used to refer to a basic unit of image processing or a specific position of a picture, and refers to an image area including at least one of a luma component and a chroma component.
  • a'block' refers to an image area including a specific component among luminance components and color difference components (ie, Cb and Cr).
  • terms such as'unit','block','partition', and'area' may be used interchangeably.
  • a unit may be used as a concept including all of a coding unit, a prediction unit, and a transform unit.
  • a picture refers to a field or a frame, and the terms may be used interchangeably according to embodiments.
  • the encoding apparatus 100 of the present invention includes a transform unit 110, a quantization unit 115, an inverse quantization unit 120, an inverse transform unit 125, a filtering unit 130, and a prediction unit 150. ) And an entropy coding unit 160.
  • the transform unit 110 converts a residual signal that is a difference between the input video signal and the prediction signal generated by the prediction unit 150 to obtain a transform coefficient value.
  • a transform coefficient value For example, a Discrete Cosine Transform (DCT), a Discrete Sine Transform (DST), or a Wavelet Transform may be used.
  • Discrete cosine transform and discrete sine transform are transformed by dividing the input picture signal into a block form. In transformation, coding efficiency may vary depending on the distribution and characteristics of values in the transformation region.
  • the quantization unit 115 quantizes a transform coefficient value output from the transform unit 110.
  • the picture signal is not coded as it is, but a picture is predicted by using a region already coded through the prediction unit 150, and a residual value between the original picture and the predicted picture is added to the predicted picture to be a reconstructed picture.
  • the method of obtaining is used.
  • information available in the decoder should be used when performing prediction in the encoder.
  • the encoder performs a process of reconstructing the encoded current block again.
  • the inverse quantization unit 120 inverse quantizes the transform coefficient value, and the inverse transform unit 125 restores the residual value by using the inverse quantization transform coefficient value.
  • the filtering unit 130 performs a filtering operation to improve the quality and encoding efficiency of the reconstructed picture.
  • a deblocking filter For example, a deblocking filter, a sample adaptive offset (SAO), and an adaptive loop filter may be included.
  • the filtered picture is output or stored in a decoded picture buffer (DPB) 156 to be used as a reference picture.
  • DPB decoded picture buffer
  • the picture signal is not coded as it is, but a picture is predicted by using a region already coded through the prediction unit 150, and a residual value between the original picture and the predicted picture is added to the predicted picture.
  • the method of obtaining is used.
  • the intra prediction unit 152 performs intra prediction within the current picture, and the inter prediction unit 154 predicts the current picture using a reference picture stored in the decoded picture buffer 156.
  • the intra prediction unit 152 performs intra prediction from reconstructed regions in the current picture and transmits the intra encoding information to the entropy coding unit 160.
  • the inter prediction unit 154 may again include a motion estimation unit 154a and a motion compensation unit 154b.
  • the motion estimation unit 154a obtains a motion vector value of the current region by referring to the restored specific region.
  • the motion estimating unit 154a transfers position information (reference frame, motion vector, etc.) of the reference region to the entropy coding unit 160 to be included in the bitstream.
  • the motion compensation unit 154b performs inter-motion compensation using the motion vector value transferred from the motion estimation unit 154a.
  • the prediction unit 150 includes an intra prediction unit 152 and an inter prediction unit 154.
  • the intra prediction unit 152 performs intra prediction within the current picture, and the inter prediction unit 154 predicts the current picture using a reference picture stored in the decoded picture buffer 156. Perform.
  • the intra prediction unit 152 performs intra prediction from reconstructed samples in the current picture, and transmits intra-encoding information to the entropy coding unit 160.
  • the intra encoding information may include at least one of an intra prediction mode, a Most Probable Mode (MPM) flag, and an MPM index.
  • Intra encoding information may include information on a reference sample.
  • the inter prediction unit 154 may include a motion estimation unit 154a and a motion compensation unit 154b.
  • the motion estimation unit 154a obtains a motion vector value of the current region by referring to a specific region of the reconstructed reference picture.
  • the motion estimation unit 154a transmits a motion information set (reference picture index, motion vector information, etc.) for the reference region to the entropy coding unit 160.
  • the motion compensation unit 154b performs motion compensation using the motion vector value transmitted from the motion estimation unit 154a.
  • the inter prediction unit 154 transmits inter encoding information including motion information on the reference region to the entropy coding unit 160.
  • the prediction unit 150 may include an intra block copy (BC) prediction unit (not shown).
  • the intra BC prediction unit performs intra BC prediction from reconstructed samples in the current picture, and transfers intra BC encoding information to the entropy coding unit 160.
  • the intra BC predictor refers to a specific region in the current picture and obtains a block vector value indicating a reference region used for prediction of the current region.
  • the intra BC prediction unit may perform intra BC prediction using the obtained block vector value.
  • the intra BC prediction unit transfers intra BC encoding information to the entropy coding unit 160.
  • Intra BC encoding information may include block vector information.
  • the transform unit 110 obtains a transform coefficient value by transforming a residual value between the original picture and the predicted picture.
  • the transformation may be performed in units of a specific block within the picture, and the size of the specific block may vary within a preset range.
  • the quantization unit 115 quantizes the transform coefficient values generated by the transform unit 110 and transmits the quantization to the entropy coding unit 160.
  • the entropy coding unit 160 generates a video signal bitstream by entropy coding information representing a quantized transform coefficient, intra coding information, and inter coding information.
  • a variable length coding (VLC) method and an arithmetic coding method may be used.
  • the variable length coding (VLC) method converts input symbols into consecutive codewords, and the length of the codeword may be variable. For example, frequently occurring symbols are represented by a short codeword, and infrequently occurring symbols are represented by a long codeword.
  • a context-based adaptive variable length coding (CAVLC) scheme may be used as a variable length coding scheme.
  • Arithmetic coding converts consecutive data symbols into a single prime number, and arithmetic coding can obtain an optimal decimal bit necessary to represent each symbol.
  • Context-based Adaptive Binary Arithmetic Code (CABAC) may be used as arithmetic coding.
  • CABAC Context-based Adaptive Binary Arithmetic Code
  • the entropy coding unit 160 may binarize information representing a quantized transform coefficient.
  • the entropy coding unit 160 may generate a bitstream by arithmetic coding the binary information.
  • the generated bitstream is encapsulated in a basic unit of a Network Abstraction Layer (NAL) unit.
  • the NAL unit includes a coded integer number of coding tree units.
  • the bitstream In order to decode a bitstream in a video decoder, the bitstream must first be separated into NAL unit units, and then each separated NAL unit must be decoded. Meanwhile, information necessary for decoding a video signal bitstream is a high-level set such as a picture parameter set (PPS), a sequence parameter set (SPS), and a video parameter set (VPS). It may be transmitted through RBSP (Raw Byte Sequence Payload).
  • PPS picture parameter set
  • SPS sequence parameter set
  • VPN video parameter set
  • FIG. 1 shows the encoding apparatus 100 according to an embodiment of the present invention, and separately displayed blocks show elements of the encoding apparatus 100 by logically distinguishing them. Accordingly, the elements of the encoding apparatus 100 described above may be mounted as one chip or as a plurality of chips according to the design of the device. According to an embodiment, the operation of each element of the encoding apparatus 100 described above may be performed by a processor (not shown).
  • the decoding apparatus 200 of the present invention includes an entropy decoding unit 210, an inverse quantization unit 220, an inverse transform unit 225, a filtering unit 230, and a prediction unit 250.
  • the entropy decoding unit 210 entropy-decodes the video signal bitstream to extract transform coefficient information, intra encoding information, inter encoding information, and the like for each region. For example, the entropy decoding unit 210 may obtain a binarization code for transform coefficient information of a specific region from a video signal bitstream. In addition, the entropy decoding unit 210 obtains quantized transform coefficients by inverse binarizing the binarized code. The inverse quantization unit 220 inverse quantizes the quantized transform coefficient, and the inverse transform unit 225 restores a residual value by using the inverse quantization transform coefficient. The video signal processing apparatus 200 restores the original pixel value by summing the residual value obtained by the inverse transform unit 225 with the predicted value obtained by the prediction unit 250.
  • the filtering unit 230 improves image quality by performing filtering on a picture.
  • This may include a deblocking filter for reducing block distortion and/or an adaptive loop filter for removing distortion of an entire picture.
  • the filtered picture is output or stored in the decoded picture buffer (DPB) 256 to be used as a reference picture for the next picture.
  • DPB decoded picture buffer
  • the prediction unit 250 includes an intra prediction unit 252 and an inter prediction unit 254.
  • the prediction unit 250 generates a prediction picture by using an encoding type decoded by the entropy decoding unit 210 described above, a transform coefficient for each region, and intra/inter encoding information.
  • a current picture including the current block or a decoded area of other pictures may be used.
  • a picture (or tile/slice) performing intra prediction or intra BC prediction an intra picture or an I picture (or tile/slice), intra prediction, inter prediction, and intra BC prediction
  • a picture (or tile/slice) that can be performed is called an inter picture (or tile/slice).
  • a picture (or tile/slice) using at most one motion vector and a reference picture index is a predictive picture or a P picture (or , Tile/slice), and a picture (or tile/slice) using up to two motion vectors and a reference picture index is referred to as a bi-predictive picture or a B picture (or tile/slice).
  • a P picture (or tile/slice) uses at most one set of motion information to predict each block
  • a B picture (or tile/slice) uses at most two motion information to predict each block.
  • the motion information set includes one or more motion vectors and one reference picture index.
  • the intra prediction unit 252 generates a prediction block using intra encoding information and reconstructed samples in the current picture.
  • the intra encoding information may include at least one of an intra prediction mode, a Most Probable Mode (MPM) flag, and an MPM index.
  • MPM Most Probable Mode
  • the intra prediction unit 252 predicts sample values of the current block by using reconstructed samples located on the left side and/or above the current block as reference samples.
  • reconstructed samples, reference samples, and samples of the current block may represent pixels. Also, sample values may represent pixel values.
  • the reference samples may be samples included in a neighboring block of the current block.
  • the reference samples may be samples adjacent to the left boundary of the current block and/or samples adjacent to the upper boundary.
  • the reference samples are samples located on a line within a preset distance from the left boundary of the current block among samples of the neighboring blocks of the current block and/or on a line within a preset distance from the upper boundary of the current block. It may be a sample.
  • the neighboring block of the current block is a left (L) block, an upper (A) block, a lower left (BL) block, an upper right (AR) block, or an upper left (Above Left) block.
  • AL may include at least one of the blocks.
  • the inter prediction unit 254 generates a prediction block using a reference picture and inter encoding information stored in the decoded picture buffer 256.
  • the inter-encoding information may include a motion information set (reference picture index, motion vector information, etc.) of the current block for the reference block.
  • Inter prediction may include L0 prediction, L1 prediction, and Bi-prediction.
  • L0 prediction means prediction using one reference picture included in the L0 picture list
  • L1 prediction means prediction using one reference picture included in the L1 picture list.
  • one set of motion information eg, a motion vector and a reference picture index
  • up to two reference regions may be used, and the two reference regions may exist in the same reference picture or may exist in different pictures.
  • two motion vectors may correspond to the same reference picture index or to different reference picture indexes. May correspond.
  • reference pictures may be displayed (or output) temporally before or after the current picture.
  • two reference regions used in the bi-prediction method may be regions selected from each of the L0 picture list and the L1 picture list.
  • the inter prediction unit 254 may obtain a reference block of the current block using a motion vector and a reference picture index.
  • the reference block exists in a reference picture corresponding to a reference picture index.
  • a sample value of a block specified by a motion vector or an interpolated value thereof may be used as a predictor of the current block.
  • an 8-tap interpolation filter may be used for a luminance signal and a 4-tap interpolation filter may be used for a color difference signal.
  • the interpolation filter for motion prediction in units of subpels is not limited thereto.
  • the inter prediction unit 254 performs motion compensation for predicting the texture of the current unit from a previously restored picture.
  • the inter prediction unit may use a motion information set.
  • the prediction unit 250 may include an intra BC prediction unit (not shown).
  • the intra BC predictor may reconstruct the current area by referring to a specific area including reconstructed samples in the current picture.
  • the intra BC prediction unit obtains intra BC encoding information for the current region from the entropy decoding unit 210.
  • the intra BC predictor obtains a block vector value of the current region indicating a specific region in the current picture.
  • the intra BC prediction unit may perform intra BC prediction using the obtained block vector value.
  • Intra BC encoding information may include block vector information.
  • a reconstructed video picture is generated by adding a prediction value output from the intra prediction unit 252 or the inter prediction unit 254 and a residual value output from the inverse transform unit 225. That is, the video signal decoding apparatus 200 reconstructs the current block by using the prediction block generated by the prediction unit 250 and the residual obtained from the inverse transform unit 225.
  • FIG. 2 shows the decoding apparatus 200 according to an embodiment of the present invention, and separately displayed blocks are shown by logically distinguishing elements of the decoding apparatus 200. Therefore, the elements of the decoding apparatus 200 described above may be mounted as one chip or as a plurality of chips according to the design of the device. According to an embodiment, the operation of each element of the decoding apparatus 200 described above may be performed by a processor (not shown).
  • a coding tree unit (CTU) is divided into coding units (CUs) in a picture.
  • a picture may be divided into a sequence of coding tree units (CTUs).
  • the coding tree unit is composed of an NXN block of luma samples and two blocks of chroma samples corresponding thereto.
  • the coding tree unit may be divided into a plurality of coding units.
  • the coding tree unit is not divided and may be a leaf node. In this case, the coding tree unit itself may be a coding unit.
  • the coding unit refers to a basic unit for processing a picture in the above-described video signal processing, that is, intra/inter prediction, transformation, quantization, and/or entropy coding.
  • the size and shape of a coding unit in one picture may not be constant.
  • the coding unit may have a square or rectangular shape.
  • the rectangular coding unit (or rectangular block) includes a vertical coding unit (or vertical block) and a horizontal coding unit (or horizontal block).
  • a vertical block is a block having a height greater than a width
  • a horizontal block is a block having a width greater than the height.
  • a non-square block may refer to a rectangular block, but the present invention is not limited thereto.
  • a coding tree unit is first divided into a quad tree (QT) structure. That is, in a quad tree structure, one node having a size of 2NX2N may be divided into four nodes having a size of NXN.
  • the quad tree may also be referred to as a quaternary tree. Quad tree partitioning can be performed recursively, and not all nodes need to be partitioned to the same depth.
  • a leaf node of the quad tree described above may be further divided into a multi-type tree (MTT) structure.
  • MTT multi-type tree
  • one node in a multi-type tree structure, one node may be divided into a horizontal or vertically divided binary (binary) or ternary (ternary) tree structure. That is, in the multi-type tree structure, there are four divisional structures: vertical binary division, horizontal binary division, vertical ternary division, and horizontal ternary division.
  • both widths and heights of nodes in each tree structure may have a power of 2.
  • a node having a size of 2NX2N may be divided into two NX2N nodes by vertical binary division, and divided into two 2NXN nodes by horizontal binary division.
  • a node of 2NX2N size is divided into nodes of (N/2)X2N, NX2N, and (N/2)X2N by vertical ternary division, and horizontal ternary It can be divided into 2NX(N/2), 2NXN, and 2NX(N/2) nodes by division.
  • This multi-type tree division can be performed recursively.
  • Leaf nodes of a multi-type tree can be coding units.
  • the corresponding coding unit may be used as a unit of prediction and/or transformation without further division.
  • the current coding unit may be divided into a plurality of transform units without explicit signaling regarding segmentation.
  • at least one of the following parameters may be defined in advance or transmitted through RBSP of a higher level set such as PPS, SPS, and VPS.
  • CTU size the size of the root node of the quad tree
  • MinQtSize the minimum QT leaf node size allowed
  • maximum BT size the maximum BT root node size allowed
  • Maximum TT size Maximum allowed TT root node size
  • Maximum MTT depth Maximum allowed depth of MTT segmentation from leaf nodes of QT
  • Minimum BT size MinBtSize: allowed Minimum BT leaf node size
  • Minimum TT size Minimum allowed TT leaf node size.
  • Preset flags may be used to signal the division of the quad tree and multi-type tree described above. 4, a flag'qt_split_flag' indicating whether to divide a quad tree node, a flag'mtt_split_flag' indicating whether to divide a multi-type tree node, and a flag'mtt_split_vertical_flag' indicating a splitting direction of a multi-type tree node. 'Or at least one of a flag'mtt_split_binary_flag' indicating the split shape of the multi-type tree node may be used.
  • the coding tree unit is a root node of a quad tree, and may be first divided into a quad tree structure.
  • quad tree structure In the quad tree structure,'qt_split_flag' is signaled for each node'QT_node'. If the value of'qt_split_flag' is 1, the node is divided into 4 square nodes, and if the value of'qt_split_flag' is 0, the node becomes'QT_leaf_node', a leaf node of the quad tree.
  • Each quad tree leaf node'QT_leaf_node' may be further divided into a multi-type tree structure.
  • 'mtt_split_flag' is signaled for each node'MTT_node'.
  • the corresponding node is divided into a plurality of rectangular nodes, and when the value of'mtt_split_flag' is 0, the corresponding node becomes'MTT_leaf_node' of the multi-type tree.
  • the node'MTT_node' is divided into two rectangular nodes, and when the value of'mtt_split_binary_flag' is 0, the node'MTT_node' is divided into three rectangular nodes.
  • Picture prediction (motion compensation) for coding is performed for coding units that are no longer divided (ie, leaf nodes of the coding unit tree).
  • the basic unit that performs such prediction is hereinafter referred to as a prediction unit or a prediction block.
  • the term unit used herein may be used as a term to replace the prediction unit, which is a basic unit for performing prediction.
  • the present invention is not limited thereto, and more broadly, it may be understood as a concept including the coding unit.
  • the intra prediction unit predicts sample values of the current block by using reconstructed samples located on the left and/or above of the current block as reference samples.
  • FIG. 5 shows an embodiment of reference samples used for prediction of a current block in an intra prediction mode.
  • the reference samples may be samples adjacent to the left boundary of the current block and/or samples adjacent to the upper boundary.
  • a maximum of 2W+2H+1 located on the left and/or upper side of the current block Reference samples can be set using the surrounding samples.
  • the intra prediction unit may obtain a reference sample by performing a reference sample padding process. Also, the intra prediction unit may perform a reference sample filtering process to reduce an error in intra prediction. That is, filtered reference samples may be obtained by performing filtering on neighboring samples and/or reference samples obtained by the reference sample padding process. The intra prediction unit predicts the samples of the current block using the reference samples thus obtained. The intra prediction unit predicts the samples of the current block using unfiltered reference samples or filtered reference samples.
  • peripheral samples may include samples on at least one reference line.
  • the surrounding samples may include adjacent samples on a line adjacent to the boundary of the current block.
  • FIG. 6 shows an embodiment of prediction modes used for intra prediction.
  • intra prediction mode information indicating an intra prediction direction may be signaled.
  • the intra prediction mode information indicates any one of a plurality of intra prediction modes constituting the intra prediction mode set.
  • the decoder receives intra prediction mode information of the current block from the bitstream.
  • the intra prediction unit of the decoder performs intra prediction on the current block based on the extracted intra prediction mode information.
  • the intra prediction mode set may include all intra prediction modes (eg, a total of 67 intra prediction modes) used for intra prediction. More specifically, the intra prediction mode set may include a planar mode, a DC mode, and a plurality (eg, 65) angular modes (ie, directional modes). Each intra prediction mode may be indicated through a preset index (ie, an intra prediction mode index). For example, as shown in FIG. 6, intra prediction mode index 0 indicates a planar mode, and intra prediction mode index 1 indicates a DC mode.
  • intra prediction mode indexes 2 to 66 may indicate different angular modes, respectively. The angle modes indicate different angles within a preset angle range, respectively.
  • the angle mode may indicate an angle within an angle range (ie, a first angle range) between 45 degrees and -135 degrees clockwise.
  • the angular mode may be defined based on the 12 o'clock direction.
  • the intra prediction mode index 2 indicates a horizontal diagonal (HDIA) mode
  • the intra prediction mode index 18 indicates a horizontal (HOR) mode
  • the intra prediction mode index 34 indicates a diagonal (Diagonal, DIA) mode.
  • a mode is indicated
  • an intra prediction mode index 50 indicates a vertical (VER) mode
  • an intra prediction mode index 66 indicates a vertical diagonal (VDIA) mode.
  • the preset angle range may be set differently according to the shape of the current block.
  • a wide-angle mode indicating an angle exceeding 45 degrees or less than -135 degrees clockwise may be additionally used.
  • the angle mode may indicate an angle within an angular range (ie, a second angular range) between (45+offset1) degrees and (-135+offset1) degrees in a clockwise direction.
  • angle modes 67 to 76 outside the first angle range may be additionally used.
  • the angle mode may indicate an angle within an angle range (ie, a third angle range) between (45-offset2) degrees and (-135-offset2) degrees in a clockwise direction.
  • angle modes -10 to -1 out of the first angle range may be additionally used.
  • values of offset1 and offset2 may be determined differently according to a ratio between the width and height of the rectangular block. Further, offset1 and offset2 may be positive numbers.
  • a plurality of angular modes constituting the intra prediction mode set may include a basic angular mode and an extended angular mode.
  • the extended angle mode may be determined based on the basic angle mode.
  • the default angle mode is a mode corresponding to an angle used in intra prediction of an existing High Efficiency Video Coding (HEVC) standard
  • the extended angle mode corresponds to an angle newly added in intra prediction of the next generation video codec standard. It can be a mode to do.
  • the basic angular mode is an intra prediction mode ⁇ 2, 4, 6, ... , 66 ⁇
  • the extended angle mode is an intra prediction mode ⁇ 3, 5, 7, ... , 65 ⁇ may be an angular mode corresponding to any one of. That is, the extended angle mode may be an angle mode between basic angle modes within the first angle range. Accordingly, the angle indicated by the extended angle mode may be determined based on the angle indicated by the basic angle mode.
  • the basic angle mode is a mode corresponding to an angle within a preset first angle range
  • the extended angle mode may be a wide angle mode outside the first angle range. That is, the basic angular mode is the intra prediction mode ⁇ 2, 3, 4,... , 66 ⁇ , and the extended angle mode is an intra prediction mode ⁇ -10, -9, ... , -1 ⁇ and ⁇ 67, 68,... , 76 ⁇ may be an angular mode corresponding to any one of.
  • the angle indicated by the extended angle mode may be determined as an angle opposite to the angle indicated by the corresponding basic angle mode. Accordingly, the angle indicated by the extended angle mode may be determined based on the angle indicated by the basic angle mode.
  • the number of expansion angle modes is not limited thereto, and additional expansion angles may be defined according to the size and/or shape of the current block.
  • the extended angle mode is the intra prediction mode ⁇ -14, -13,... , -1 ⁇ and ⁇ 67, 68,... , 80 ⁇ may be defined as an angular mode corresponding to any one of.
  • the total number of intra prediction modes included in the intra prediction mode set may vary according to the configuration of the above-described basic angle mode and extended angle mode.
  • the spacing between the extended angle modes may be set based on the spacing between the corresponding basic angle modes.
  • extended angle modes ⁇ 3, 5, 7,... , 65 ⁇ the spacing between the corresponding basic angular modes ⁇ 2, 4, 6,... , 66 ⁇ can be determined based on the interval.
  • the extended angle modes ⁇ -10, -9,... , -1 ⁇ the spacing between the corresponding opposite basic angular modes ⁇ 56, 57,... , 65 ⁇ , determined based on the spacing between the extended angle modes ⁇ 67, 68, ... , 76 ⁇ the spacing between the corresponding opposite basic angular modes ⁇ 3, 4,... , 12 ⁇ may be determined based on the interval.
  • the angular interval between the extended angle modes may be set to be the same as the angular interval between the corresponding basic angular modes. Also, the number of extended angle modes in the intra prediction mode set may be set to be less than or equal to the number of basic angle modes.
  • the extended angle mode may be signaled based on the basic angle mode.
  • the wide-angle mode ie, the extended angle mode
  • the wide-angle mode may replace at least one angle mode (ie, the basic angle mode) within the first angle range.
  • the replaced basic angle mode may be an angle mode corresponding to the opposite side of the wide angle mode. That is, the replaced basic angle mode is an angle mode that corresponds to an angle in a direction opposite to the angle indicated by the wide-angle mode or to an angle that differs by a preset offset index from the angle in the opposite direction.
  • the preset offset index is 1.
  • the intra prediction mode index corresponding to the replaced basic angular mode may be remapped to the wide-angle mode to signal the corresponding wide-angle mode.
  • wide-angle mode ⁇ -10, -9,... , -1 ⁇ is the intra prediction mode index ⁇ 57, 58, ... , 66 ⁇
  • each can be signaled by the wide-angle mode ⁇ 67, 68, ... , 76 ⁇ is an intra prediction mode index ⁇ 2, 3, ... , 11 ⁇ , respectively.
  • the intra prediction mode index for the basic angular mode signals the extended angular mode
  • the intra prediction mode indices of the same set are applied to the signaling of the intra prediction mode even if the configurations of the angular modes used for intra prediction of each block are different. Can be used. Accordingly, signaling overhead due to a change in the intra prediction mode configuration can be minimized.
  • whether to use the extended angle mode may be determined based on at least one of the shape and size of the current block.
  • the extended angle mode when the size of the current block is larger than a preset size, the extended angle mode is used for intra prediction of the current block, otherwise, only the basic angle mode may be used for intra prediction of the current block.
  • the current block when the current block is a non-square block, the extended angle mode is used for intra prediction of the current block, and when the current block is a square block, only the basic angle mode may be used for intra prediction of the current block.
  • a method of quantizing a transform coefficient value obtained by transforming the residual signal and coding the quantized transform coefficient may be used instead of coding the above-described residual signal as it is.
  • the transform unit may obtain a transform coefficient value by transforming the residual signal.
  • the residual signal of a specific block may be distributed over the entire area of the current block. Accordingly, it is possible to improve coding efficiency by concentrating energy in the low frequency region through frequency domain conversion of the residual signal.
  • a method of transforming or inversely transforming the residual signal will be described in detail.
  • the residual signal in the spatial domain may be converted to the frequency domain.
  • the encoder may convert the obtained residual signal to obtain a transform coefficient.
  • the encoder may obtain at least one residual block including a residual signal for the current block.
  • the residual block may be either the current block or blocks divided from the current block.
  • the residual block may be referred to as a residual array or a residual matrix including residual samples of the current block.
  • the residual block may represent a transform unit or a block having the same size as the transform block.
  • the encoder can transform the residual block using a transform kernel.
  • the transform kernel used for transforming the residual block may be a transform kernel having separable characteristics of vertical transform and horizontal transform.
  • the transformation for the residual block may be performed separately into vertical transformation and horizontal transformation.
  • the encoder may perform vertical transformation by applying a transformation kernel in the vertical direction of the residual block.
  • the encoder may perform horizontal transformation by applying a transformation kernel in the horizontal direction of the residual block.
  • a transform kernel may be used as a term to refer to a parameter set used for transforming a residual signal such as transform matrix, transform array, transform function, and transform.
  • the conversion kernel may be any one of a plurality of usable kernels.
  • a transformation kernel based on different transformation types may be used for each of the vertical transformation and the horizontal transformation.
  • the encoder may quantize by transferring the transform block transformed from the residual block to the quantization unit.
  • the transform block may include a plurality of transform coefficients.
  • the transform block may be composed of a plurality of transform coefficients arranged in two dimensions. Similar to the residual block, the size of the transform block may be the same as either the current block or a block divided from the current block.
  • the transform coefficients transferred to the quantization unit may be expressed as quantized values.
  • the encoder may perform additional transform before the transform coefficient is quantized.
  • the above-described transform method may be referred to as a primary transform, and an additional transform may be referred to as a secondary transform.
  • the quadratic transformation may be selective for each residual block.
  • the encoder may improve coding efficiency by performing second-order transform on a region where it is difficult to concentrate energy in a low-frequency region only by first-order transform.
  • a quadratic transformation may be added to a block in which residual values appear larger in a direction other than the horizontal or vertical direction of the residual block.
  • the residual values of the intra-predicted block may have a higher probability of changing in a direction other than the horizontal or vertical direction compared to the residual values of the inter-predicted block. Accordingly, the encoder may additionally perform quadratic transformation on the residual signal of the intra-predicted block. In addition, the encoder may omit the quadratic transformation for the residual signal of the inter-predicted block.
  • whether to perform the second-order transformation may be determined according to the size of the current block or the residual block.
  • transform kernels having different sizes according to the size of the current block or the residual block may be used.
  • 8X8 quadratic transformation may be applied to a block in which the shorter side of the width or height is greater than or equal to the first preset length.
  • 4X4 quadratic transformation may be applied to a block having a shorter side of the width or height that is greater than or equal to the second preset length and smaller than the first preset length.
  • the first preset length may be a value larger than the second preset length, but the present disclosure is not limited thereto.
  • the second-order transformation may not be separately performed as a vertical transformation and a horizontal transformation. This second-order transform may be referred to as a low frequency non-separable transform (LFNST).
  • Whether to perform conversion on the residual signal of a specific area may be determined by a syntax element related to conversion of the specific area.
  • the syntax element may include transform skip information.
  • the transform skip information may be a transform skip flag.
  • the encoder may immediately quantize the residual signal in which the transformation of the corresponding region has not been performed. The operations of the encoder described with reference to FIG. 7 may be performed through the converter of FIG. 1.
  • the above-described conversion related syntax elements may be information parsed from a video signal bitstream.
  • the decoder may entropy decode the video signal bitstream to obtain syntax elements related to transformation.
  • the encoder may generate a video signal bitstream by entropy coding the syntax elements related to the transformation.
  • FIG. 8 is a diagram specifically illustrating a method of obtaining a residual signal by inverse transforming a transform coefficient by an encoder and a decoder.
  • an inverse transform operation is performed through an inverse transform unit of each of the encoder and the decoder.
  • the inverse transform unit may obtain a residual signal by inverse transforming the inverse quantized transform coefficient.
  • the inverse transform unit may detect whether an inverse transform for a corresponding region is performed from a syntax element related to transformation of a specific region. According to an embodiment, when a transformation-related syntax element for a specific transformation block indicates transformation skip, transformation for the corresponding transformation block may be omitted.
  • both the first-order inverse transform and the second-order inverse transform described above for the transform block may be omitted.
  • the inverse quantized transform coefficient can be used as a residual signal.
  • the decoder may reconstruct the current block by using the inverse quantized transform coefficient as a residual signal.
  • the above-described first-order inverse transform represents an inverse transform with respect to a first-order transform, and may be referred to as an inverse primary transform.
  • the second-order inverse transform represents an inverse transform for the second-order transform, and may be referred to as an inverse secondary transform or inverse LFNST.
  • the first (inverse) transformation may be referred to as a first (inverse) transformation
  • the second (inverse) transformation may be referred to as a second (inverse) transformation.
  • a transform related syntax element for a specific transform block may not indicate transform skip.
  • the inverse transform unit may determine whether to perform the second-order inverse transform for the second transform. For example, when the transform block is a transform block of an intra predicted block, a second-order inverse transform may be performed on the transform block. Also, a second-order transform kernel used for the transform block may be determined based on the intra prediction mode corresponding to the transform block. As another example, whether to perform the second-order inverse transform may be determined based on the size of the transform block. The second-order inverse transform may be performed after the inverse quantization process and before the first-order inverse transform is performed.
  • the inverse transform unit may perform a first-order inverse transform on an inverse quantized transform coefficient or a second inverse transform coefficient.
  • the first-order inverse transformation like the first-order transformation, the vertical transformation and the horizontal transformation may be separated and performed.
  • the inverse transform unit may obtain a residual block by performing vertical inverse transform and horizontal inverse transform on the transform block.
  • the inverse transform unit may inverse transform the transform block based on the transform kernel used for transforming the transform block.
  • the encoder may explicitly or implicitly signal information indicating a transform kernel applied to a current transform block among a plurality of usable transform kernels.
  • the decoder may select a transform kernel to be used for inverse transform of a transform block from among a plurality of available transform kernels using information indicating the signaled transform kernel.
  • the inverse transform unit may reconstruct the current block by using the residual signal obtained through inverse transform of the transform coefficient.
  • the distribution of the residual signal of a picture may be different for each region.
  • a distribution of values for a residual signal in a specific region may vary according to a prediction method.
  • coding efficiency may vary for each transform region according to distributions and characteristics of values in the transform region.
  • a transform kernel used for transforming a specific transform block is adaptively selected from among a plurality of available transform kernels, coding efficiency may be additionally improved. That is, the encoder and decoder may additionally be configured to use a transform kernel other than the basic transform kernel in transforming a video signal.
  • a method of adaptively selecting a transform kernel may be referred to as adaptive multiple core transform (AMT) or multiple transform selection (MTS).
  • transform and inverse transform are collectively referred to as transform.
  • transform kernel and the inverse transform kernel are collectively referred to as a transform kernel.
  • the residual (residual) signal which is a difference signal between the original signal and the prediction signal generated through inter prediction or intra prediction, has energy distributed over the entire pixel domain, so when encoding the pixel value of the residual signal itself, compression There is a problem of poor efficiency. Therefore, a process of concentrating energy in the low frequency region of the frequency domain through transcoding of the residual signal in the pixel domain is required.
  • DCT-II discrete cosine transform type-II
  • DST-VII discrete sine transform type-VII
  • AMT is a transformation technique that adaptively selects a transformation kernel from among several preset transformation kernels according to the prediction method, and the pattern in the pixel domain of the residual signal (signal characteristics in the horizontal direction, vertical direction) depending on which prediction method is used. As the signal characteristics) are different, higher coding efficiency can be expected than when only DCT-II is used.
  • AMT is not limited to its name, and may be referred to as multiple transform selection (MTS).
  • FIG. 9 is a diagram showing the definition of a transform kernel used in AMT, DCT-II, DCT-V (discrete cosine transform type-V), DCT-VIII (discrete cosine transform type-VIII), and DST applied to AMT -I (discrete sine transform type-I), shows the formula of the DST-VII kernel.
  • DCT and DST can be expressed as a function of cosine and sine, respectively.
  • index i represents the index in the frequency domain
  • index j is the basis. Represents the index in the function. That is, the smaller i represents the low frequency basis function, and the larger i represents the high frequency basis function.
  • the basis function Ti(j) can represent the j-th element of the i-th row. Since all of the transform kernels shown in FIG. 9 have separable characteristics, the residual signal X is in the horizontal direction. Transformation can be performed in the and vertical directions respectively.
  • T the transformation of the residual signal X
  • T' the transformation of the transform kernel matrix T.
  • Values of the transformation matrix defined by the basis function shown in FIG. 9 may be in a decimal form rather than an integer form. It may be difficult to implement decimal values in hardware in a video encoding device and a decoding device. Accordingly, a transform kernel approximated by an integer from an original transform kernel including values in a decimal form can be used for encoding and decoding a video signal.
  • An approximated transform kernel including integer values may be generated through scaling and rounding of a circular transform kernel.
  • the integer value included in the approximated conversion kernel may be a value within a range that can be represented by a preset number of bits. The preset number of bits may be 8-bit or 10-bit.
  • the orthonormal property of DCT and DST may not be maintained. However, since the resulting coding efficiency loss is not large, it may be advantageous in terms of hardware implementation to approximate the transform kernel in an integer form.
  • FIG. 10 is a diagram illustrating a transform set according to an intra prediction mode and a transform kernel candidate defined according to the transform set in AMT.
  • non-directional prediction ⁇ INTRA_PLANAR (mode 0), INTRA_DC (mode 1) ⁇ , directional prediction ⁇ INTRA_ANGULAR2, INTRA_ANGULAR3,... using reconstructed reference samples around the coding unit.
  • INTRA_ANGULAR66 ⁇ and may additionally include a wide-angle prediction mode applied to a rectangular block and a cross-component linear model (CCLM) for predicting a color difference component signal from the reconstructed luminance component signal.
  • CCLM cross-component linear model
  • a set of transform kernels that can be used according to the prediction mode is defined, and the transform candidate index used in the set By signaling in 1-bit for each vertical direction, the decoder can perform inverse transformation by applying an optimal transformation kernel found in the encoder.
  • 10(a) shows a transform set index defined according to the prediction mode when 67 intra prediction modes are used, where V (vertical) represents a transform set applied in the vertical direction, and H (horizontal) Denotes a set of transforms applied in the horizontal direction.
  • V vertical
  • H horizontal
  • Different transform sets may be used depending on the intra prediction mode, and transform sets applied to the horizontal and vertical directions in a specific prediction mode may be different.
  • Transform Set 10B shows a transform set used in intra prediction and a transform kernel candidate that can be used according to the transform set.
  • Transform Set 0 consists of ⁇ DST-VII, DCT-VIII ⁇
  • Transform Set 1 consists of ⁇ DST-VII, DST-I ⁇
  • Transform Set 2 consists of ⁇ DST-VII, DCT-V It consists of ⁇ .
  • intra prediction due to the characteristics of intra prediction that is predicted by using reconstructed reference samples around the current block, the further away from the reference sample, that is, in the horizontal and vertical directions based on the upper left coordinate of the residual signal block. Since the energy of the residual signal tends to increase as the distance increases, DST-VII, which expresses this well, is effective. Therefore, DST-VII can be included in all transform sets.
  • 10C shows a transform set used in inter prediction and a transform kernel candidate that can be used according to the transform set.
  • inter prediction there is one transform set that can be used, and is composed of transform set 0 ⁇ DCT-VIII, DST-VII ⁇ .
  • AMT is applicable only to the luminance component, and DCT-II conversion can be used for the color difference component like HEVC.
  • On/off can be indicated with a 1-bit flag so that the AMT can be controlled in units of coding units.
  • DCT-II which is a basic kernel, is used as a color difference component. I can.
  • inverse transform may be performed by signaling a transform candidate index used in a preset transform set according to a prediction mode and applying a transform kernel corresponding to the index in the decoder. Since different transformations can be applied in the horizontal and vertical directions, the transformation index used in a total of 2-bits each 1-bit can be indicated.
  • the transform candidate index may not be signaled according to the number of non-zero coefficients. For example, when the number of non-zero coefficients is one or two, the transformation candidate index is not signaled, and in this case, the horizontal and vertical directions are encoded/decoded using DST-VII.
  • FIG. 11 is a diagram showing a 0-th (lowest frequency component of a corresponding conversion kernel) basis function of the DCT-II, DCT-V, DCT-VIII, DST-I, and DST-VII conversion defined in FIG. 9.
  • the distance in the horizontal and vertical directions within the residual signal block based on the upper left coordinate of the block like intra-screen prediction. It may be more efficient for a pattern of a residual signal in which the energy of the residual signal increases as the amount increases.
  • the 0-th basis function represents DC, and may be effective for a pattern of a residual signal having a uniform distribution of pixel values in a residual block, such as inter prediction.
  • DCT-V it is similar to DCT-II, but since the value when j is 0 is smaller than the value when j is not 0, it has a signal model in which a straight line is bent when j is 1.
  • multiple transform selection (MTS) technology is a transform coding method capable of improving encoding efficiency by adaptively selecting a transform kernel according to a prediction mode.
  • 12 illustrates a transform kernel used in MTS and a transform set and transform kernel candidates defined according to a prediction mode according to an embodiment of the present invention.
  • 12(a) shows the equation of the basis function constituting the DCT-II, DCT-VIII, and DST-VII kernels used in MTS.
  • DCT and DST can be expressed as a function of cosine and sine, respectively.
  • index i represents the index in the frequency domain
  • index j is the basis. Represents the index in the function. That is, the smaller i represents the low frequency basis function, and the larger i represents the high frequency basis function.
  • the basis function Ti(j) can represent the j-th element of the i-th row. Since all the transformation kernels shown in Fig. 12(a) have separable characteristics, the residual signal X For each, transformation can be performed in the horizontal direction and the vertical direction, respectively. That is, when the residual signal block is denoted by X and the transform kernel matrix is denoted by T, the transformation of the residual signal X may be expressed as TXT'. In this case, T'means a transpose matrix of the transform kernel matrix T.
  • values of the transformation matrix defined by the basis function may be in the form of decimal numbers instead of the form of integers. It may be difficult to implement decimal values in hardware in a video encoding device and a decoding device. Accordingly, a transform kernel approximated by an integer from an original transform kernel including values in a decimal form can be used for encoding and decoding a video signal.
  • An approximated transform kernel including integer values may be generated through scaling and rounding of a circular transform kernel.
  • the integer value included in the approximated conversion kernel may be a value within a range that can be represented by a preset number of bits. The preset number of bits may be 8-bit or 10-bit.
  • the orthonormal property of DCT and DST may not be maintained. However, since the resulting coding efficiency loss is not large, it may be advantageous in terms of hardware implementation to approximate the transform kernel in an integer form.
  • FIGS. 12(b) and (c) are diagrams showing a transform set according to an intra prediction mode and a transform kernel candidate defined according to the transform set.
  • intra prediction non-directional prediction ⁇ INTRA_PLANAR (mode 0), INTRA_DC (mode 1) ⁇ , directional prediction ⁇ INTRA_ANGULAR2, INTRA_ANGULAR3,... using reconstructed reference samples around the coding unit.
  • INTRA_ANGULAR66 ⁇ and may additionally include a wide-angle prediction mode applied to a rectangular block and a cross-component linear model (CCLM) for predicting a color difference component signal from the reconstructed luminance signal.
  • CCLM cross-component linear model
  • a set of transform kernels that can be used according to the prediction mode is defined, and a transform candidate index used in the set is signaled and decoded.
  • the inverse transform can be performed by applying the optimal transform kernel found in the encoder.
  • 12(b) shows a transform set index defined according to prediction modes when 67 intra prediction modes are used, where V (vertical) represents a transform set applied in the vertical direction, and H (horizontal) Denotes a set of transforms applied in the horizontal direction.
  • V vertical
  • H horizontal
  • Different transform sets may be used depending on the intra prediction mode, and transform sets applied to the horizontal and vertical directions in a specific prediction mode may be different.
  • FIG. 12(c) shows a transform set used in intra prediction and a transform kernel candidate that can be used according to the transform set.
  • All of the transform sets 0, 1, and 2 consist of ⁇ DST-VII, DCT-VIII ⁇ . In other words, it can be interpreted as using one transform set regardless of the intra prediction mode (the same transform kernel candidate is used for all intra prediction modes), but each transform set is composed of different transform kernel candidates like AMT. May be.
  • the transform kernel matrix can be approximated from a real-form circular matrix to an integer form, which can be expressed with 8-bit or 10-bit precision. Since all of these transform kernels must be stored in memory in the encoder and decoder in advance, as the number of transform kernels increases, the memory burden of the encoder and decoder increases. Therefore, it is possible to reduce the amount of memory required to store the transform kernel by using only the transform kernel based on DCT-II, DCT-VIII, and DST-VII, which has the greatest effect on the encoding efficiency performance.
  • FIG. 12(d) shows a transform set used in inter prediction and a transform kernel candidate that can be used according to the transform set.
  • inter prediction there is one transform set that can be used, and is composed of transform set 0 ⁇ DST-VII, DCT-VIII ⁇ .
  • MTS is applicable only to the luminance component, and DCT-II conversion can be used for the color difference component.
  • On/off can be indicated with a 1-bit flag so that the MTS can be controlled in the coding unit unit, and when this flag indicates off, the basic kernel DCT-II is horizontal like a color difference component. It can be applied in both directions and vertical directions.
  • inverse transform may be performed by signaling a transform candidate index used in a preset transform set according to a prediction mode and applying a transform kernel corresponding to the index in the decoder. Since different transformations can be applied in the horizontal and vertical directions, the transformation index used in a total of 2-bits each 1-bit can be indicated.
  • the transform index can be indicated using a truncated unary binarization method.
  • the encoder can signal these to the decoder as follows.
  • a 1-bit on/off flag for controlling the MTS and an index indicating the conversion kernel may be signaled as one syntax element.
  • mts_idx may be expressed as a binary code using a truncated unary binarization method, and may indicate a transform kernel applied to a horizontal direction and a vertical direction.
  • mts_idx When mts_idx is 0 (binary code 0), it may indicate that a basic kernel based on DCT-II is applied in both the horizontal direction and the vertical direction.
  • mts_idx When mts_idx is 1 (binary code 10), it may indicate that a kernel based on DST-VII is applied in both the horizontal direction and the vertical direction.
  • mts_idx When mts_idx is 2 (binary code 110), it may indicate that a kernel based on DCT-VIII is applied in the horizontal direction, and may indicate that a kernel based on DST-VII is applied in the vertical direction.
  • mts_idx When mts_idx is 3 (binary code 1110), it may indicate that a kernel based on DST-VII is applied in the horizontal direction, and may indicate that a kernel based on DCT-VIII is applied in the vertical direction.
  • mts_idx When mts_idx is 4 (binary code 1111), it may indicate that a kernel based on DCT-VIII is applied in both the horizontal direction and the vertical direction.
  • DST-IV discrete sine transform type-IV
  • DCT-IV discrete cosine transform type-IV
  • the DCT-II kernel for the number of samples 2N contains a DCT-IV kernel for the number of samples N
  • the DST-IV kernel for the number of samples N is a simple operation from the DCT-IV kernel for the number of samples N, and Since it can be implemented by sorting the basis function in reverse order, DST-IV and DCT-IV for the number of samples N can be simply derived from the DCT-II for the number of samples 2N.
  • FIG. 13 is a definition of the DST-IV and DCT-IV basis functions according to an embodiment of the present invention and the 0th (lowest frequency component of DCT-II, DCT-IV, DCT-VIII, DST-IV, and DST-VII) )
  • N 8 and i is 0 for Ti(j), which is the conversion basis function of DCT/DST defined in FIGS. 12(a) and 13(a)
  • DST-IV and DST-VII are similar signal models, and since the signal tends to increase as the index j increases, the distance in the horizontal and vertical directions based on the upper left coordinate of the block within the residual signal block, like in-screen prediction. It may be more efficient for the pattern of the residual signal in which the energy of the residual signal increases as the distance increases.
  • DCT-IV and DCT-VIII are similar signal models, and as the index j increases, the signal size decreases, so the distance in the horizontal and vertical directions within the residual signal block increases based on the upper left coordinate of the block. It may be effective for a pattern of a residual signal in which the energy of the residual signal decreases as the value increases.
  • a transform kernel set can be constructed in consideration of this.
  • DST-IV/DCT-IV tends to be able to represent the residual signal more efficiently than DST-VII/DCT-VIII, so the 4x4 DST-VII kernel is replaced with 4x4 DST-IV. It can be replaced with a kernel, and a 4x4 DCT-VIII kernel with a 4x4 DCT-IV kernel.
  • DST-VII and DCT-VIII described in FIG. 12 may be used.
  • the residual signal which is the difference between the original signal and the predicted signal, has a characteristic that the energy distribution of the signal varies depending on the prediction method
  • encoding efficiency can be improved when a transform kernel is adaptively selected according to a prediction method such as AMT or MTS. .
  • a prediction method such as AMT or MTS.
  • a second-order transformation can improve energy compaction for an intra-predicted residual signal block in which strong energy is likely to exist in a direction other than the horizontal or vertical direction of the residual signal block.
  • this second order transform may be referred to as a low frequency non-separable transform (LFNST).
  • the first-order transform may be referred to as a core transform.
  • the entropy coder may parse a syntax element related to a residual signal from a bitstream and obtain a quantization coefficient through inverse binarization.
  • a transform coefficient may be obtained by performing inverse quantization on the restored quantization coefficient, and a residual signal block may be restored by performing inverse transform on the transform coefficient.
  • the inverse transform may be applied to a block to which transform skip (TS) is not applied, and the inverse transform may be performed in the order of a second-order inverse transform and a first-order inverse transform in the decoder.
  • TS transform skip
  • the second-order inverse transform may be omitted, and a condition in which the second-order inverse transform may be omitted may be an inter prediction block.
  • the second-order inverse transform may be omitted depending on the block size condition.
  • the reconstructed residual signal includes a quantization error, and the second-order transform changes the energy distribution of the residual signal, thereby reducing the quantization error than when only the first-order transform is performed.
  • FIG. 15 is a diagram illustrating a process of restoring a residual signal in a decoder performing quadratic transformation according to an embodiment of the present invention at a block level.
  • Restoration of the residual signal may be performed in a transform unit (TU) or a sub-block unit within the TU.
  • FIG. 15 illustrates a process of reconstructing a residual signal block to which a second order transform is applied, and a second order inverse transform may be first performed on an inverse quantized transform coefficient block. It is also possible to perform a second-order inverse transformation on all WxH (W: width, number of horizontal samples, H: height, number of vertical samples) in the TU, but considering the complexity, the low-frequency region, which is the most influential, is left-top.
  • WxH width, number of horizontal samples
  • H height, number of vertical samples
  • W'xH' W'is less than or equal to W
  • min(x, y) represents an operation that returns x when x is less than or equal to y, and returns y when x is greater than y.
  • Whether to perform the second-order transformation is a sequence parameter set (SPS), a picture parameter set (PPS), a picture header, a slice header, a high level syntax (HLS) such as a tile group header. ) It may be indicated by being included in at least one of the RBSPs in the form of a 1-bit flag. Additionally, when performing the quadratic transformation, the size of the upper left sub-block to be considered in the quadratic transformation may be indicated. For example, in the case of quadratic transformation considering sub-blocks of 4x4 and 8x8 sizes, whether or not a sub-block of 8x8 size can be used may be indicated by a 1-bit flag.
  • whether to apply the second-order transformation at a coding unit (CU) level may be indicated by a 1-bit flag.
  • an index indicating the transformation kernel used for the quadratic transformation may be indicated, and the transformation kernel indicated by the corresponding index within a preset transformation kernel set according to the prediction mode is used. You can perform a quadratic transformation.
  • the index representing the transform kernel can be binarized using truncated unary or fixed length binarization methods.
  • the 1-bit flag indicating whether or not the second-order transformation is applied and the index indicating the transformation kernel may be indicated using one syntax element.
  • st_idx this is referred to as st_idx, but the present invention refers to this name.
  • the st_idx may be referred to as a second-order transform index and an LFNST index.
  • the first bit of st_idx may indicate whether or not a second order transformation is applied at the CU level, and the remaining bits may indicate an index indicating a conversion kernel used in the second order transformation.
  • the st_idx may be encoded using an entropy coder such as context adeptive binary arithmetic coding (CABAC) or context adaptive variable length coding (CAVLC) that adaptively encodes according to a context.
  • CABAC context adeptive binary arithmetic coding
  • CAVLC context adaptive variable length coding
  • the quadratic transformation may not be applied, and st_idx, a syntax element related to the quadratic transformation, may be set to 0 without signaling. For example, when st_idx is 0, it may indicate that the quadratic transformation is not used. On the other hand, when st_idx is greater than 0, it may indicate that a quadratic transformation is applied, and a transformation kernel used for the quadratic transformation may be selected based on st_idx.
  • a leaf node of a multi-type tree may be a coding unit.
  • the corresponding coding unit may be used as a unit of prediction and/or transformation without further division.
  • the current coding unit may be divided into a plurality of transform units without explicit signaling regarding segmentation.
  • the size of the coding unit is larger than the maximum transform size, it may be divided into a plurality of transform blocks without signaling. In this case, when the second-order transform is applied, performance degradation and complexity may increase, and thus, the maximum coding block (or the maximum size of the coding block) to which the second-order transform is applied may be limited.
  • the size of the maximum coding block may be the same as the maximum transform size. Alternatively, it may be defined as the size of a preset coding block. As an embodiment, the preset value may be 64, 32, or 16, but the present invention is not limited thereto. In this case, a value to be compared with a preset value (or maximum transform size) may be defined as the length of a long side or the total number of samples.
  • the DCT-II, DST-VII, and DCT-VIII kernels used in the first-order transformation have separable characteristics, two transformations in the vertical/horizontal direction are performed on the samples in the NxN-sized residual block. And the size of the conversion kernel may be NxN.
  • the transformation kernel has an inseparable characteristic, when the number of samples considered in the quadratic transformation is nxn, one transformation can be performed, and the size of the transformation kernel is (n ⁇ 2)x( may be n ⁇ 2).
  • a 16x16 size transformation kernel may be applied, and when performing quadratic transformation on the upper left-most 8x8 coefficient blocks, the 64x64 size transformation kernel Can be applied. Since the 64x64 transform kernel involves a large amount of multiplication operations, it can be a heavy burden on the encoder and decoder. Accordingly, when the number of samples considered in the second-order transformation is reduced, the amount of computation and the memory required for storing the transformation kernel can be reduced.
  • the quadratic transform may be expressed as a product of a quadratic transform kernel matrix and a first transformed coefficient vector, and may be interpreted as mapping a first transformed coefficient to another space.
  • the number of coefficients to be quadratic transformation is reduced, that is, when the number of basis vectors constituting the quadratic transformation kernel is reduced, the amount of computation required for the quadratic transformation and the memory capacity required for storing the transformation kernel can be reduced.
  • the size of 16(row)x64(column) (or 16(row)x48(column) ) Size) can be applied.
  • the transform unit of the encoder may obtain a second-order transformed coefficient vector through an inner product of each row vector constituting the transform kernel matrix and a first-order transformed coefficient vector.
  • the inverse transform unit of the encoder and the decoder may obtain a first-order transformed coefficient vector through a dot product of each column vector constituting the transform kernel matrix and a second-order transformed coefficient vector.
  • the encoder may first perform a forward primary transform on a residual signal block to obtain a coefficient block having a first-order transform.
  • a forward primary transform When the size of the first-order transformed coefficient block is MxN, for an intra-predicted block with a value of min(M, N) of 4, a 4x4 quadratic transformation is performed on the left-top 4x4 samples of the first-order transformed coefficient block. (forward secondary transform) may be performed.
  • an 8x8 quadratic transformation may be performed on upper left 8x8 samples of the coefficient block having a first-order transform.
  • the first order A 4x4 quadratic transform may be performed on each of the two upper left 4x4 subblocks in the transformed coefficient block.
  • coefficients in the upper-left sub-block of the coefficient block having the first-order transformation can be configured in a vector form.
  • a method of constructing a vector may depend on an intra prediction mode. For example, if the intra prediction mode is less than or equal to the 34th angular mode among the intra prediction modes shown in FIG. 6, the coefficients may be configured as vectors by scanning the upper-left sub-block of the first-order transformed coefficient block in the horizontal direction. I can.
  • the vectorized coefficients are [x_00,x_01, ..., x_0n-1, x_10, x_11, ... , x_1n-1, ..., x_n-10, x_n-11, ..., x_n-1n-1].
  • the coefficients may be configured as vectors by scanning the upper-left sub-block of the coefficient block having the first order transform in the vertical direction.
  • Vectorized coefficients are [x_00, x_10, ..., x_n-10, x_01, x_11, ..., x_n-11, ..., x_0n-1, x_1n-1, ..., x_n-1n-1 It can be expressed as ].
  • the coefficient x_ij with i>3 and j>3 in the above-described vector construction method may not be included.
  • 16 first-order transformed coefficients may be considered as inputs of the quadratic transformation
  • 48 first-order transformed coefficients may be considered as inputs of the quadratic transformation.
  • the second-order transformed coefficients can be obtained by multiplying the upper-left sub-block samples of the vectorized first-order transform coefficient block with a second-order transform kernel matrix, and the second-order transform kernel includes the size of the transform unit, the intra mode, and the transform kernel. It may be determined according to a syntax element indicating As described above, when the number of coefficients to be quadratic transformed is reduced, the amount of calculation and memory required for storing the transform kernel may be reduced, and thus the number of coefficients to be quadratic transformed may be determined according to the size of the current transform block. For example, in the case of a 4x4 block, a coefficient vector of length 8 may be obtained by multiplying a vector of length 16 and an 8 (row)x16 (column) transform kernel matrix.
  • the 8 (row) x 16 (column) transform kernel matrix may be obtained based on the eighth basis vector from the first basis vector constituting the 16 (row) x 16 (column) transform kernel matrix.
  • a coefficient vector having a length of 16 may be obtained by multiplying a vector having a length of 16 and a 16 (row)x16 (column) transform kernel matrix.
  • a coefficient vector of length 8 may be obtained through the product of a vector of length 48 and an 8 (row)x48 (column) transform kernel matrix.
  • the 8 (row) x 48 (column) transform kernel matrix may be obtained based on the eighth basis vector from the first basis vector constituting the 16 (row) x 48 (column) transform kernel matrix.
  • a coefficient vector having a length of 16 may be obtained by multiplying a vector having a length of 48 and a 16 (row) x 48 (column) transform kernel matrix.
  • the coefficients transformed by the second order since they are in the form of vectors, they may be expressed as data in a two-dimensional form.
  • the second-order transformed coefficients according to a preset scan order may be configured as an upper left coefficient sub-block.
  • the preset scan order may be an up-right diagonal scan order.
  • the present invention is not limited thereto, and the upper-right diagonal scan order may be determined based on the methods described in FIGS. 17 and 18 to be described later.
  • transform coefficients of a total transform unit size including quadratic transformed coefficients may be included in a bitstream and transmitted after quantization.
  • the bitstream may include syntax elements related to second-order transformation.
  • the bitstream may include information on whether a second-order transform is applied to the current block and information indicating a transform kernel applied to the current block.
  • the decoder may first parse the quantized transform coefficients from the bitstream, and obtain transform coefficients through de-quantization. Inverse-quantization may be referred to as scaling.
  • the decoder may determine whether to perform a second-order inverse transform on the current block based on a syntax element related to the second-order transform. When the second-order inverse transform is applied to the current transform unit, depending on the size of the transform unit, 8 or 16 transform coefficients can be input to the second-order inverse transform, which is the same as the number of coefficients output from the second-order transform of the encoder. can do.
  • the size of the transform unit is 4x4 or 8x8, 8 transform coefficients may be inputs of the second-order inverse transform, otherwise, 16 transform coefficients may be inputs of the second-order inverse transform.
  • a 4x4 quadratic inverse transform is performed on 16 or 8 coefficients of the upper-left 4x4 subblock of the transform coefficient block for an intra-predicted block with a value of 4 min(M, N).
  • an 8x8 quadratic inverse transformation may be performed on 16 or 8 coefficients of the upper left 4x4 subblock of the transform coefficient block.
  • min(M,N) is 4 and M or N is greater than 8 (for example, a rectangular block having a size of 4x16 and 16x4)
  • two left-hand side of a transform coefficient block A 4x4 quadratic inverse transformation may be performed on each of the upper 4x4 sub-blocks.
  • the decoder since the second-order inverse transform can be calculated as a product of the second-order inverse transform kernel matrix and the input vector, the decoder first selects the input inverse-quantized transform coefficient block according to a preset scan order. It can be configured in vector form.
  • the preset scan order may be an up-right diagonal scan order, and the present invention is not limited thereto, and the upper-right diagonal scan order is a method described in FIGS. 17 and 18 to be described later. Can be determined based on
  • the decoder may obtain a first-order transformed coefficient by multiplying a vectorized transform coefficient and a second-order inverse transform kernel matrix.
  • the second-order inverse transform kernel may be determined according to the size of the transform unit, the intra mode, and a syntax element indicating the transform kernel.
  • the second-order inverse transform kernel matrix may be a transposed matrix of a second-order transform kernel matrix, and the elements of the kernel matrix may be integers expressed with 10-bit or 8-bit accuracy in consideration of implementation complexity.
  • the length of the vector used as the output of the second-order inverse transform may be determined based on the size of the current transform block.
  • a coefficient vector of length 16 may be obtained by multiplying a vector of length 8 and an 8(row)x16(column) transform kernel matrix.
  • the 8 (row) x 16 (column) transform kernel matrix may be obtained based on the eighth basis vector from the first basis vector constituting the 16 (row) x 16 (column) transform kernel matrix.
  • a coefficient vector having a length of 16 may be obtained by multiplying a vector having a length of 16 and a 16 (row)x16 (column) transform kernel matrix.
  • a coefficient vector of length 48 may be obtained by multiplying a vector of length 8 and an 8 (row)x48 (column) transform kernel matrix.
  • the 8 (row) x 48 (column) transform kernel matrix may be obtained based on the eighth basis vector from the first basis vector constituting the 16 (row) x 48 (column) transform kernel matrix.
  • a coefficient vector having a length of 48 may be obtained by multiplying a vector having a length of 16 and a 16 (row)x48 (column) transform kernel matrix.
  • the decoder may express it again as data in a two-dimensional form, which may depend on the intra mode.
  • the mapping relationship based on the intra mode applied by the encoder can be applied in the same way.
  • the 2D inversely transformed coefficient vector can be scanned in the horizontal direction to obtain a 2-dimensional transform coefficient array, and the intra prediction mode is less than the 34th angular mode.
  • a two-dimensional inverse transformed coefficient vector may be scanned in a vertical direction to obtain a two-dimensional transform coefficient array.
  • a residual signal may be obtained by performing a first-order inverse transform on a transform coefficient block having a total transform unit size including transform coefficients obtained by performing a second-order inverse transform.
  • a scaling process using a bit shift operation may be included in order to correct a scale that increases due to a transform kernel after transform or inverse transform.
  • FIG. 17 is a diagram illustrating a method of determining an up-right diagonal scan order according to an embodiment of the present invention.
  • a process of initializing a scan order may be performed during encoding or decoding.
  • An array including scan order information may be initialized according to the block size.
  • the process of initializing the upper right diagonal scan order arrangement shown in FIG. 17 in which 1 ⁇ log2BlockWidth and 1 ⁇ log2BlockHeight are inputs for the combination of log2BlockWidth and log2BlockHeight may be called (or performed).
  • the output of the initializing process of the upper-right diagonal scan order arrangement may be allocated to DiagScanOrder[log2BlockWidth][log2BlockHeight].
  • log2BlockWidth and log2BlockHeight represent variables representing values obtained by taking a logarithm of the base 2 with respect to the width and height of the block, respectively, and may be values in the range [0, 4].
  • the encoder/decoder may output the array diagScan[sPos][sComp] for blkWidth, which is the width of the received block, and blkHeight, which is the height of the block.
  • the array index sPos may indicate the scan position and may be a value in the range of [0, blkWidth*blkHeight-1].
  • sComp which is an index of the array, is 0, it may represent a horizontal component (x), and when sComp is 1, it may represent a vertical component (y).
  • the x-coordinate and y-coordinate values on the two-dimensional coordinates at the scan position sPos are assigned to diagScan[sPos][0] and diagScan[sPos][1], respectively, according to the upper-right diagonal scan order. It can be interpreted as being.
  • the value stored in the DiagScanOrder[log2BlockHeight][sPos][sComp] array (or array) is sPos in the diagonal scan order of the upper right side of the block whose width and height are 1 ⁇ log2BlockWidth, 1 ⁇ log2BlockHeight, respectively. It may mean a coordinate value corresponding to sComp when it is a scan position.
  • FIG. 18 is a diagram illustrating an upper-right diagonal scan order according to a block size according to an embodiment of the present invention.
  • log2BlockWidth and log2BlockHeight when both log2BlockWidth and log2BlockHeight are 2, it may mean a block having a size of 4x4.
  • log2BlockWidth and log2BlockHeight when both log2BlockWidth and log2BlockHeight are 3, it may mean a block having a size of 8x8.
  • a number displayed in a gray shaded area indicates a scan position sPos.
  • the x coordinate value and y coordinate value at the sPos position may be assigned to DiagScanOrder[log2BlockWidth][log2BlockHeight][sPos][0], DiagScanOrder[log2BlockWidth][log2BlockHeight][sPos][1], respectively.
  • the encoder/decoder may code transform coefficient information based on the above-described scan order.
  • an embodiment based on the case where the upper right scanning method is used is mainly described, but the present invention is not limited thereto, and other known scanning methods may also be applied.
  • the following variable may be input in the transform process of the second-order transformation.
  • -(xTbY, yTbY) indicates the position (or coordinates) of the upper left luma sample of the current luma transform block, and may be a position relative to the upper left luma sample of the current picture.
  • nTbH represents the width and height of the current transform block, respectively.
  • -cIdx Represents a variable indicating the color component of the current block, and when cIdx is 0, it may mean luma Y, when it is 1, it can mean chroma Cb, and when it is 2, it can mean chroma Cr.
  • -d[x][y] An array of (nTbW)x(nTbH) size, indicating a transform coefficient array.
  • x may be in the range of [0, nTbW-1]
  • y may be in the range of [0, nTbH-1].
  • the conversion process according to the present embodiment may output r[x][y], which is an array of residual samples of (nTbW)x(nTbH) size, where x is [0, nTbW-1], and y is [0]. , nTbH-1].
  • whether the second-order transform is applied to the current block may be determined according to a value of a syntax element st_idx[xTbY][yTbY] indicating a second-order transform index (or LFNST index). For example, when the value of st_idx[xTbY][yTbY] is greater than 0, the decoding process related to the quadratic transformation may be performed. When the value of st_idx[xTbY][yTbY] is 0, the quadratic transformation is It is not performed (or applied), only the first order transformation can be performed.
  • the decoding process related to the quadratic transformation may not be performed according to the currently processed color component.
  • the second-order transform since a residual sample may be obtained after the second-order inverse transform and the first-order inverse transform are performed in the decoder, a delay time may increase compared to when only the first-order inverse transform is applied.
  • the delay time generated by performing the quadratic transformation is the largest in a single tree coding structure in which both luma and chroma components can exist (a structure in which luma and chroma components are coded with the same coding tree).
  • the second-order inverse transform may not be applied.
  • a variable related to the conversion process may be set as follows.
  • log2StSize may be set to 3 and nStOutSize may be set to 48. Otherwise, log2StSize may be set to 2 and nStOutSize may be set to 16.
  • log2StSize is a variable representing a value obtained by taking the logarithm of the base 2 to the size to which the quadratic transformation is applied. When log2StSize is 2, it may indicate that 4x4 quadratic transformation is applied, and when log2StSize is 3, it may indicate that 8x8 quadratic transformation is applied.
  • nStOutSize is a variable representing the number of samples output by the quadratic transformation.
  • -nStSize may be set to (1 ⁇ log2StSize).
  • nStSize is a variable indicating the size to which the quadratic transformation is applied.
  • -log2SbSize is a variable representing the size of a sub-block and may be set to 2.
  • variable numStX may be set to 2, otherwise it may be set to 1.
  • numStX is a variable indicating the number of sub-blocks in the horizontal direction to be input for the quadratic transformation.
  • variable numStY may be set to 2, otherwise it may be set to 1.
  • numStY is a variable indicating the number of sub-blocks in the vertical direction to be input for the quadratic transformation.
  • nonZeroSize When both nTbW and nTbH are 4, or when both nTbW and nTbH are 8, that is, 4x4 or 8x8 block, nonZeroSize may be set to 8, otherwise, it may be set to 16.
  • nonZeroSize is a variable indicating the size of a coefficient vector used as an input for the quadratic transformation.
  • the following processes may be applied from 0 to numStX-1, which is a subblock index in the horizontal direction, and ySbIdx, which is a subblock index in the vertical direction, from 0 to numStY-1.
  • the present invention is not limited thereto, and the following process may be applied in the same manner even when the quadratic transform is applied only to one upper left sub-block (or a predetermined specific region on the upper left).
  • the array u[x] is a coefficient vector used as an input of the quadratic transformation, and x may be in the range of [0, nonZeroSize-1].
  • D[xC][yC] which is a scaled transform coefficient (or inverse quantized transform coefficient) that is an input to the transformation process according to the present embodiment, is a two-dimensional array (or array), and the decoder d[ Among the total samples of xC][yC], nonZeroSize samples can be allocated to u[x] according to the scan order.
  • nonZeroSize is a variable representing the length of the input vector or the maximum number of significant coefficients that the input vector can contain.
  • x which is the index of the array u, may mean a scan position in the scan order.
  • the decoder may obtain the x coordinate value in the subblock for the scan position x through the value of DiagScanOrder[log2SbSize][log2SbSize][x][0], and determine xC based thereon.
  • the decoder may determine the x coordinate value in the subblock for the scan position x as xC through the value of DiagScanOrder[log2SbSize][log2SbSize][x][0].
  • the decoder may determine xC by adding (xSbIdx ⁇ log2StSize) to the left-top x coordinate value of the subblock.
  • a y-coordinate value in the subblock for the scan position x may be obtained through the value of DiagScanOrder[log2SbSize][log2SbSize][x][1], and yC may be determined based thereon.
  • the decoder may determine the y coordinate value in the subblock for the scan position x as yC through the value of DiagScanOrder[log2SbSize][log2SbSize][x][1].
  • yC may be determined by adding (ySbIdx ⁇ log2StSize) to the upper-left y coordinate value of the sub-block.
  • the decoder can allocate d[xC][yC] to u[x] from 0 to nonZeroSize-1.
  • the scan order may be an up-right diagonal scan order, and the method described above with reference to FIGS. 17 and 18 may be applied.
  • the array u[x] may be determined (or derived) based on Equation 1 below.
  • log2SbSize of Equation 1 may be defined (or set) as 2.
  • the array u[x] may be determined (or derived) based on Equation 2 below.
  • log2SbSize of Equation 2 may be defined (or set) as 2.
  • the decoder may set the factor of DiagScanOrder to [log2StSize][log2StSize] to determine xC and yC.
  • a problem arises that a transform coefficient not located in a top-left sub-block is allocated as an input for a quadratic transform according to the size of the transform block.
  • the factor of DiagScanOrder is set to [log2SbSize][log2SbSize][log2SbSize]
  • ie, upper left D[xC][yC] in the sub-block can be allocated as u[x]
  • the above-described problem can be solved.
  • the set array u[x] (the range of x is [0, nonZeroSize-1]) is the array v[x] (the range of x is [0] by the secondary transform process of FIG. 19 to be described later). , nStOutSize-1]).
  • the second-order transformation process includes nonZeroSize as a transform input length, nStOutSize as a transform output length, and u[x] as an inverse quantized transform coefficient (length is nonZeroSize-1, and the range of x is [0, nonZeroSize-1]), stPredModeIntra, st_idx[xTbY][yTbY], which are the intra prediction modes of the current block, can be input, and the transformed coefficient v[x] (length is nStOutSize, and the range of x is [ 0, nStOutSize-1]) can be output.
  • v[x] which is the output of the quadratic transformation process, can be allocated as d[(xSbIdx ⁇ log2StSize)+x][(ySbIdx ⁇ log2StSize)+y] according to the intra prediction mode as follows, Both x and y ranges may be [0, nStSize-1].
  • FIG. 19 is a diagram illustrating an example of a second-order conversion process according to an embodiment of the present invention. Referring to FIG. 19, in the second-order conversion process according to an embodiment of the present invention, the following variables may be input.
  • -nTrS represents a variable indicating the conversion output length.
  • -nonZeroSize represents a variable indicating the conversion input length.
  • Array x[j] represents a conversion input, and j may be in the range of [0, nonZeroSize-1].
  • -stPredModeIntra represents a variable indicating the intra prediction mode of the current block, and can be used to determine the index of the transform kernel set.
  • a specific transform kernel set may be determined based on the stPredModeIntra, and a specific transform kernel set within the transform kernel set may be selected based on stIdx. That is, stIdx represents an index indicating a specific transformation kernel used for the second transformation of the current block in the specific transformation kernel set determined based on stPredModeIntra.
  • y[i], which is an array of transform output samples, may be output, and the range of i may be [0, nTrS-1].
  • a transform matrix derivation process of FIG. 20 to be described later may be performed first.
  • nTrS indicating a transform output length
  • an index stIdx indicating a transform kernel in the transform kernel set
  • secTransMatrix which is a transform kernel matrix
  • the output secTransMatrix may be (nTrS)x (nonZeroSize) size, and the element of secTransMatrix may be an integer.
  • the i-th element of the transform output, y[i] may be calculated using the i-th column of secTransMatrix and the dot product of the transform input array x.
  • the calculation result may be clipped to a value between the minimum coefficient value CoeffMin and the maximum coefficient value CoeffMax through the clipping operation.
  • the transform coefficient may be expressed with a preset precision, and the preset precision may be 16 bits.
  • CoeffMin and CoeffMax may be set to ?(2 ⁇ 16) and (2 ⁇ 16)-1, respectively.
  • 20 is a diagram illustrating a process of deriving a second-order transform matrix according to an embodiment of the present invention. According to an embodiment of the present invention, in the process of deriving a second-order transformation matrix, the following variables may be input.
  • -nTrS represents a variable indicating the conversion output length.
  • -stPredModeIntra represents a variable indicating the intra prediction mode of the current block, and can be used to determine the index of the transform kernel set.
  • -stIdx indicates an index indicating a transform kernel in the selected transform kernel set.
  • the determination of the quadratic transform kernel set according to an embodiment of the present invention may depend on an intra mode (or intra prediction mode). For example, as shown in the table shown in FIG. 20, the encoder/decoder may group the intra mode into four mode groups.
  • the conversion kernel set for each group may be indicated (or allocated) by stTrSetIdx. Also, whether it is a 4x4 quadratic conversion kernel or an 8x8 quadratic conversion kernel may be indicated by an nTrS variable.
  • nTrS is a variable indicating the conversion output length.
  • the stIdx-th transform kernel matrix among the transform kernels of the size indicated by the nTrS variable may be output as secTransMatrix.
  • nTrS may be 16 or 48.
  • stPredModeIntra is 1, and the 0th transform kernel set may be selected.
  • a first transform kernel matrix among 4x4 quadratic transform kernels may be output.
  • stTrSetIdx may be determined to be 0 instead of 1, which may indicate that the 0 th transform kernel set is used.
  • intra modes may be grouped according to whether the intra mode is odd or even.
  • stTrSetIdx may be assigned as 2.
  • stPredModeIntra is one of 0, 1, 81, 82, 83, stTrSetIdx may be assigned as 0.
  • the encoder/decoder may differently allocate stTrSetIdx for CCLM modes.
  • stTrSetIdx for CCLM modes.
  • INTRA_L_CCLM a linear relationship between the reconstructed chroma samples on the left adjacent to the current block and the corresponding luma samples is derived and used for prediction, so the reconstructed samples on the left adjacent to the current block are used as reference samples.
  • INTRA_ANGULAR_18 (18) The pattern of the mode and the residual signal may be similar.
  • the encoder/decoder may set stTrSetIdx to 0 when stPredModeIntra is 81 (INTRA_LT_CCLM), and stTrSetIdx to 2 when stPredModeIntra is 82 (INTRA_L_CCLM) or 83 (INTRA_T_CCLM).
  • all intra modes may use the same transform kernel set. That is, the used conversion kernel is not dependent on the intra mode, and may be determined by nTrS and stIdx, and the stIdx-th conversion kernel may be selected from among the conversion kernels having a size indicated by nTrS.
  • the transform kernel set may be determined based on the transform kernel applied to the first transform, not based on the intra mode. For example, when DST-VII is applied to both horizontal and vertical directions, stTrSetIdx may be set to 1. When DST-VII is applied only to one of the horizontal and vertical directions, stTrSetIdx may be set to 2. Otherwise, stTrSetIdx may be set to 0.
  • FIG. 21 is a flowchart illustrating a video signal processing method according to an embodiment of the present invention.
  • a decoder is mainly described for convenience of description, but the present invention is not limited thereto, and the video signal processing method according to the present embodiment may be applied to an encoder in substantially the same manner.
  • the decoder determines whether a quadratic transform (or a quadratic inverse transform) is applied to the current block (S2101).
  • the quadratic transform may be referred to as a low frequency non-separable transform (LFNST).
  • the secondary transform may be applied after a primary transform is applied based on the encoder side. That is, the second-order transform may represent a transform applied before the first-order transform based on the decoder side despite the name.
  • the decoder When the quadratic transform is applied to the current block, the decoder derives a quadratic transform kernel set applied to the current block from among predefined quadratic transform kernel sets based on the intra prediction mode of the current block (S2102).
  • the decoder determines a quadratic transform kernel applied to the current block within the determined quadratic transform kernel set (S2103).
  • the decoder generates a quadratic inverse transformed block by performing a quadratic inverse transform on a specific region at the upper left of the current block using the quadratic transform kernel (S2104).
  • the decoder generates a residual block of the current block by performing inverse linear transformation on the inverse quadratic transformed block (S2105).
  • the quadratic inverse transform may be performed by receiving an inverse quantized transform coefficient based on a fixed scan order regardless of the size of the quadratic transform kernel.
  • the generating of the quadratic inverse transformed block includes assigning the inverse quantized transform coefficient to the input coefficient array of the quadratic inverse transform based on an up-right diagonal scan order. It may include.
  • the upper-right diagonal scan order may be predefined as a scan order for a 4x4 size block.
  • the step of determining whether the quadratic transformation is applied to the current block may include obtaining a syntax element indicating whether the quadratic transformation is applied to the current block when a predefined condition is satisfied. It may include steps.
  • the syntax element may be referred to as a second-order transform index and an LFNST index.
  • the predefined condition may include whether the width and height of the current block are less than or equal to the maximum transform size.
  • determining whether the quadratic transform is applied to the current block may include inferring the syntax element to be 0 when the predefined condition is not satisfied.
  • a quadratic transform kernel applied to the current block may be determined.
  • the current block when the width or height of the current block is larger than the maximum transform size, the current block may be divided into a plurality of transform units.
  • embodiments of the present invention can be implemented through various means.
  • embodiments of the present invention may be implemented by hardware, firmware, software, or a combination thereof.
  • the method according to embodiments of the present invention includes one or more Application Specific Integrated Circuits (ASICs), Digital Signal Processors (DSPs), Digital Signal Processing Devices (DSPDs), and Programmable Logic Devices (PLDs). , Field Programmable Gate Arrays (FPGAs), processors, controllers, microcontrollers, microprocessors, and the like.
  • ASICs Application Specific Integrated Circuits
  • DSPs Digital Signal Processors
  • DSPDs Digital Signal Processing Devices
  • PLDs Programmable Logic Devices
  • FPGAs Field Programmable Gate Arrays
  • processors controllers
  • microcontrollers microcontrollers
  • microprocessors and the like.
  • the method according to the embodiments of the present invention may be implemented in the form of a module, procedure, or function that performs the functions or operations described above.
  • the software code can be stored in a memory and driven by a processor.
  • the memory may be located inside or outside the processor, and data may be exchanged with the processor through various known means.
  • Computer-readable media can be any available media that can be accessed by a computer, and includes both volatile and nonvolatile media, removable and non-removable media. Further, the computer-readable medium may include both computer storage media and communication media.
  • Computer storage media includes both volatile and nonvolatile, removable and non-removable media implemented in any method or technology for storage of information such as computer readable instructions, data structures, program modules or other data.
  • Communication media typically includes computer readable instructions, data structures, or other data in a modulated data signal, such as program modules, or other transmission mechanisms, and includes any information delivery media.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Physics & Mathematics (AREA)
  • Discrete Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치가 개시된다. 구체적으로, 비디오 신호 처리 방법에 있어서, 현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계; 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계; 상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하는 단계; 및 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하는 단계를 포함할 수 있다.

Description

이차 변환을 이용하는 비디오 신호 처리 방법 및 장치
본 발명은 비디오 신호의 처리 방법 및 장치에 관한 것으로, 보다 상세하게는 비디오 신호를 인코딩하거나 디코딩하는 비디오 신호 처리 방법 및 장치에 관한 것이다.
압축 부호화란 디지털화한 정보를 통신 회선을 통해 전송하거나, 저장 매체에 적합한 형태로 저장하기 위한 일련의 신호 처리 기술을 의미한다. 압축 부호화의 대상에는 음성, 영상, 문자 등의 대상이 존재하며, 특히 영상을 대상으로 압축 부호화를 수행하는 기술을 비디오 영상 압축이라고 일컫는다. 비디오 신호에 대한 압축 부호화는 공간적인 상관관계, 시간적인 상관관계, 확률적인 상관관계 등을 고려하여 잉여 정보를 제거함으로써 이루어진다. 그러나 최근의 다양한 미디어 및 데이터 전송 매체의 발전으로 인해, 더욱 고효율의 비디오 신호 처리 방법 및 장치가 요구되고 있다.
본 발명의 목적은 비디오 신호의 코딩 효율을 높이고자 함에 있다. 구체적으로, 본 발명은 변환 블록에 적합한 변환 커널을 사용하여 코딩 효율을 높이기 위한 목적을 가지고 있다.
상기와 같은 과제를 해결하기 위해, 본 발명은 다음과 같은 비디오 신호 처리 장치 및 비디오 신호 처리 방법을 제공한다.
본 발명의 일 실시예에 따르면, 비디오 신호 처리 방법에 있어서, 현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계; 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계; 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계; 상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하는 단계; 및 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하는 단계를 포함하되, 상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받는 것을 특징으로 하는, 비디오 신호 처리 방법이 제공된다.
실시예로서, 상기 이차 역변환된 블록을 생성하는 단계는, 우상측 대각(up-right diagonal) 스캔 순서에 기초하여 상기 역양자화된 변환 계수를 상기 이차 역변환의 입력 계수 배열에 할당하는 단계를 포함할 수 있다.
실시예로서, 상기 우상측 대각 스캔 순서는 4x4 크기의 블록에 대한 스캔 순서로 미리 정의될 수 있다.
실시예로서, 상기 현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계는, 미리 정의된 조건을 만족하는 경우, 상기 현재 블록에 이차 변환이 적용되는지 여부를 지시하는 신택스 요소를 획득하는 단계를 포함하고, 상기 미리 정의된 조건은 상기 현재 블록의 너비(width) 및 높이(height)가 최대 변환 크기보다 작거나 같은지 여부를 포함할 수 있다.
실시예로서, 상기 현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계는, 상기 미리 정의된 조건을 만족하지 않는 경우, 상기 신택스 요소를 0으로 추론하는 단계를 포함할 수 있다.
실시예로서, 상기 신택스 요소의 값이 0인 경우, 상기 현재 블록에 이차 변환이 적용되지 않는 것으로 결정되고, 상기 신택스 요소의 값이 0이 아닌 경우, 상기 신택스 요소의 값에 따라 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널이 결정될 수 있다.
실시예로서, 상기 현재 블록의 너비 또는 높이가 상기 최대 변환 크기보다 큰 경우, 상기 현재 블록은 복수의 변환 유닛으로 분할될 수 있다.
본 발명의 일 실시예에 따르면, 비디오 신호 처리 장치에 있어서, 프로세서를 포함하며, 상기 프로세서는, 현재 블록에 이차 역변환이 적용되는지 여부를 결정하고, 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하고, 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하고, 상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하고, 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하되, 상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받는 것을 특징으로 하는, 비디오 신호 처리 장치가 제공된다.
실시예로서, 상기 프로세서는, 우상측 대각(up-right diagonal) 스캔 순서에 기초하여 상기 역양자화된 변환 계수를 상기 이차 역변환의 입력 계수 배열에 할당할 수 있다.
실시예로서, 상기 우상측 대각 스캔 순서는 4x4 크기의 블록에 대한 스캔 순서로 미리 정의될 수 있다.
실시예로서, 상기 프로세서는, 미리 정의된 조건을 만족하는 경우, 상기 현재 블록에 이차 변환이 적용되는지 여부를 지시하는 신택스 요소를 획득하고, 상기 미리 정의된 조건은 상기 현재 블록의 너비(width) 및 높이(height)가 최대 변환 크기보다 작거나 같은지 여부를 포함할 수 있다.
실시예로서, 상기 프로세서는, 상기 미리 정의된 조건을 만족하지 않는 경우, 상기 신택스 요소를 0으로 추론할 수 있다.
실시예로서, 상기 신택스 요소의 값이 0인 경우, 상기 현재 블록에 이차 변환이 적용되지 않는 것으로 결정되고, 상기 신택스 요소의 값이 0이 아닌 경우, 상기 신택스 요소의 값에 따라 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널이 결정될 수 있다.
실시예로서, 상기 현재 블록의 너비 또는 높이가 상기 최대 변환 크기보다 큰 경우, 상기 현재 블록은 복수의 변환 유닛으로 분할될 수 있다.
본 발명의 일 실시예에 따르면, 비디오 신호 처리 방법에 있어서, 현재 블록에 이차 변환을 적용할지 여부를 결정하는 단계; 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계; 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계; 상기 현재 블록의 잔차 블록에 대하여 일차 변환을 수행함으로써, 일차 변환된 블록을 생성하는 단계; 상기 이차 변환 커널을 이용하여 상기 일차 변환된 블록의 좌상단 특정 영역에 대하여 이차 변환을 수행함으로써, 이차 변환된 블록을 생성하는 단계; 및 상기 이차 변환된 블록을 인코딩함으로써 비트스트림을 생성하는 단계를 포함하되, 상기 이차 변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 이차 변환된 계수를 변환 계수 배열로 구성함으로써 수행되는 것을 특징으로 하는, 비디오 신호 처리 방법이 제공된다.
본 발명의 일 실시예에 따르면, 컴퓨팅 디바이스의 하나 이상의 프로세서에서 실행하도록 구성된 컴퓨터 실행 가능한 컴포넌트가 저장된 비 일시적(non-transitory) 컴퓨터 판독 가능한 매체(computer-executable component)로서, 상기 컴퓨터 실행 가능한 컴포넌트는, 현재 블록에 이차 변환이 적용되는지 여부를 결정하고, 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하고, 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하고, 상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하고, 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하되, 상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받는 것을 특징으로 하는, 비 일시적 컴퓨터 판독 가능한 매체가 제공된다.
본 발명의 실시예에 따르면, 비디오 신호의 코딩 효율이 높아질 수 있다. 또한, 본 발명의 일 실시예에 따르면, 현재 변환 블록에 적합한 변환 커널이 선택될 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치의 개략적인 블록도이다.
도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치의 개략적인 블록도이다.
도 3은 픽쳐 내에서 코딩 트리 유닛이 코딩 유닛들로 분할되는 실시예를 도시한다.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다.
도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다.
도 7은 인코더가 레지듀얼 신호를 변환하는 방법을 구체적으로 나타내는 도면이다.
도 8은 인코더 및 디코더가 변환 계수를 역변환하여 레지듀얼 신호를 획득하는 방법을 구체적으로 나타내는 도면이다.
도 9는 다중 코어 변환(adaptive multiple core transform, AMT)에서 사용하는 변환 커널의 정의를 도시한 도면으로, AMT에 적용되는 DCT-II, DCT-V (discrete cosine transform type-V), DCT-VIII (discrete cosine transform type-VIII), DST-I (discrete sine transform type-I), DST-VII 커널의 수식을 나타낸 것이다.
도 10은 AMT에서 화면내 예측 모드에 따른 변환 세트 및 변환 세트에 따라 정의되는 변환 커널 후보를 나타내는 도면이다.
도 11는 도 9에서 정의한 DCT-II, DCT-V, DCT-VIII, DST-I, DST-VII 변환의 0 번째 (해당 변환 커널의 가장 저주파 성분) 기저 함수를 도시한 도면이다.
도 12는 본 발명의 일 실시예에 따른 다중 변환 선택(multiple transform selection, MTS) 기술에서 사용하는 변환 커널 및 예측 모드에 따라 정의되는 변환 세트 및 변환 커널 후보를 도시한다.
도 13은 본 발명의 일 실시예에 따른 DST-IV, DCT-IV 기저 함수의 정의와 DCT-II, DCT-IV, DCT-VIII, DST-IV, DST-VII의 0 번째 (가장 낮은 주파수 성분) 기저 함수의 그래프를 도시한 도면이다.
도 14는 본 발명의 일 실시예에 따른 2차 변환을 수행하는 복호화기에서 잔차 신호를 복원하는 과정을 도시하는 블록도이다.
도 15는 본 발명의 일 실시예에 따른 2차 변환을 수행하는 복호화기에서 잔차 신호를 복원하는 과정을 블록 레벨에서 도시하는 도면이다.
도 16은 본 발명의 일 실시예에 따른 감소된 샘플 수를 이용하는 2차 변환을 적용하는 방법을 도시한 도면이다.
도 17은 본 발명의 일 실시예에 따른 우상측 대각(up-right diagonal) 스캔 순서의 결정 방법을 예시하는 도면이다.
도 18은 본 발명의 일 실시예에 따른 우상측 대각 스캔 순서를 블록 사이즈에 따라 나타낸 도면이다.
도 19는 본 발명의 실시예에 따른 2차 변환 과정의 일 예를 나타내는 도면이다.
도 20은 본 발명의 일 실시예에 따른 2차 변환 매트릭스 유도 과정을 예시하는 도면이다.
도 21은 본 발명의 일 실시예를 따른 비디오 신호 처리 방법을 나타내는 흐름도이다.
본 명세서에서 사용되는 용어는 본 발명에서의 기능을 고려하면서 가능한 현재 널리 사용되는 일반적인 용어를 선택하였으나, 이는 당 분야에 종사하는 기술자의 의도, 관례 또는 새로운 기술의 출현 등에 따라 달라질 수 있다. 또한 특정 경우는 출원인이 임의로 선정한 용어도 있으며, 이 경우 해당되는 발명의 설명 부분에서 그 의미를 기재할 것이다. 따라서 본 명세서에서 사용되는 용어는, 단순한 용어의 명칭이 아닌 그 용어가 가진 실질적인 의미와 본 명세서의 전반에 걸친 내용을 토대로 해석되어야 함을 밝혀두고자 한다.
본 명세서에서 일부 용어들은 다음과 같이 해석될 수 있다. 코딩은 경우에 따라 인코딩 또는 디코딩으로 해석될 수 있다. 본 명세서에서 비디오 신호의 인코딩(부호화)을 수행하여 비디오 신호 비트스트림을 생성하는 장치는 인코딩 장치 혹은 인코더로 지칭되며, 비디오 신호 비트스트림의 디코딩(복호화)을 수행하여 비디오 신호를 복원하는 장치는 디코딩 장치 혹은 디코더로 지칭된다. 또한, 본 명세서에서 비디오 신호 처리 장치는 인코더 및 디코더를 모두 포함하는 개념의 용어로 사용된다. 정보(information)는 값(values), 파라미터(parameter), 계수(coefficients), 성분(elements) 등을 모두 포함하는 용어로서, 경우에 따라 의미는 달리 해석될 수 있으므로 본 발명은 이에 한정되지 아니한다. '유닛'은 영상 처리의 기본 단위 또는 픽쳐의 특정 위치를 지칭하는 의미로 사용되며, 휘도(luma) 성분 및 색차(chroma) 성분 중 적어도 하나를 포함하는 이미지 영역을 가리킨다. 또한, ‘블록’은 휘도 성분 및 색차 성분들(즉, Cb 및 Cr) 중 특정 성분을 포함하는 이미지 영역을 가리킨다. 다만, 실시예에 따라서 ‘유닛’, '블록', '파티션' 및 '영역' 등의 용어는 서로 혼용하여 사용될 수 있다. 또한, 본 명세서에서 유닛은 코딩 유닛, 예측 유닛, 변환 유닛을 모두 포함하는 개념으로 사용될 수 있다. 픽쳐는 필드 혹은 프레임을 가리키며, 실시예에 따라 상기 용어들은 서로 혼용하여 사용될 수 있다.
도 1은 본 발명의 일 실시예에 따른 비디오 신호 인코딩 장치(100)의 개략적인 블록도이다. 도 1을 참조하면, 본 발명의 인코딩 장치(100)는 변환부(110), 양자화부(115), 역양자화부(120), 역변환부(125), 필터링부(130), 예측부(150) 및 엔트로피 코딩부(160)를 포함한다.
변환부(110)는 입력 받은 비디오 신호와 예측부(150)에서 생성된 예측 신호의 차이인 레지듀얼 신호를 변환하여 변환 계수 값을 획득한다. 예를 들어, 이산 코사인 변환(Discrete Cosine Transform, DCT), 이산 사인 변환(Discrete Sine Transform, DST) 또는 웨이블릿 변환(Wavelet Transform) 등이 사용될 수 있다. 이산 코사인 변환 및 이산 사인 변환은 입력된 픽쳐 신호를 블록 형태로 나누어 변환을 수행하게 된다. 변환에 있어서 변환 영역 내의 값들의 분포와 특성에 따라서 코딩 효율이 달라질 수 있다. 양자화부(115)는 변환부(110)에서 출력된 변환 계수 값을 양자화한다.
코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인코더와 디코더에서 미스매치가 발생되지 않도록 하기 위해, 인코더에서 예측을 수행할 때에는 디코더에서도 사용 가능한 정보를 사용해야 한다. 이를 위해, 인코더에서는 부호화한 현재 블록을 다시 복원하는 과정을 수행한다. 역양자화부(120)에서는 변환 계수 값을 역양자화하고, 역변환부(125)에서는 역양자화된 변환 계수값을 이용하여 레지듀얼 값을 복원한다. 한편, 필터링부(130)는 복원된 픽쳐의 품질 개선 및 부호화 효율 향상을 위한 필터링 연산을 수행한다. 예를 들어, 디블록킹 필터, 샘플 적응적 오프셋(Sample Adaptive Offset, SAO) 및 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(Decoded Picture Buffer, DPB, 156)에 저장된다.
코딩 효율을 높이기 위하여 픽쳐 신호를 그대로 코딩하는 것이 아니라, 예측부(150)를 통해 이미 코딩된 영역을 이용하여 픽쳐를 예측하고, 예측된 픽쳐에 원 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 더하여 복원 픽쳐를 획득하는 방법이 사용된다. 인트라 예측부(152)에서는 현재 픽쳐 내에서 인트라 예측을 수행하며, 인터 예측부(154)에서는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 영역들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인터 예측부(154)는 다시 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)에서는 복원된 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)에서는 참조 영역의 위치 정보(참조 프레임, 모션 벡터 등) 등을 엔트로피 코딩부(160)로 전달하여 비트스트림에 포함될 수 있도록 한다. 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상부(154b)에서는 인터 모션 보상을 수행한다.
예측부(150)는 인트라 예측부(152)와 인터 예측부(154)를 포함한다. 인트라 예측부(152)는 현재 픽쳐 내에서 인트라(intra) 예측을 수행하며, 인터 예측부(154)는 복호 픽쳐 버퍼(156)에 저장된 참조 픽쳐를 이용하여 현재 픽쳐를 예측하는 인터(inter) 예측을 수행한다. 인트라 예측부(152)는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 예측을 수행하여, 인트라 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 부호화 정보는 참조 샘플에 관한 정보를 포함할 수 있다. 인터 예측부(154)는 모션 추정부(154a) 및 모션 보상부(154b)를 포함하여 구성될 수 있다. 모션 추정부(154a)는 복원된 참조 픽쳐의 특정 영역을 참조하여 현재 영역의 모션 벡터값을 획득한다. 모션 추정부(154a)는 참조 영역에 대한 모션 정보 세트(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 엔트로피 코딩부(160)로 전달한다. 모션 보상부(154b)는 모션 추정부(154a)에서 전달된 모션 벡터값을 이용하여 모션 보상을 수행한다. 인터 예측부(154)는 참조 영역에 대한 모션 정보를 포함하는 인터 부호화 정보를 엔트로피 코딩부(160)에 전달한다.
추가적인 실시예에 따라, 예측부(150)는 인트라 블록 카피(block copy, BC) 예측부(미도시)를 포함할 수 있다. 인트라 BC 예측부는 현재 픽쳐 내의 복원된 샘플들로부터 인트라 BC 예측을 수행하여, 인트라 BC 부호화 정보를 엔트로피 코딩부(160)에 전달한다. 인트라 BC 예측부는 현재 픽쳐 내의 특정 영역을 참조하여 현재 영역의 예측에 이용되는 참조 영역을 나타내는 블록 벡터값을 획득한다. 인트라 BC 예측부는 획득된 블록 벡터값을 이용하여 인트라 BC 예측을 수행할 수 있다. 인트라 BC 예측부는 인트라 BC 부호화 정보를 엔트로피 코딩부(160)로 전달한다. 인트라 BC 부호화 정보는 블록 벡터 정보를 포함할 수 있다.
위와 같은 픽쳐 예측이 수행될 경우, 변환부(110)는 원본 픽쳐와 예측 픽쳐 간의 레지듀얼 값을 변환하여 변환 계수 값을 획득한다. 이때, 변환은 픽쳐 내에서 특정 블록 단위로 수행될 수 있으며, 특정 블록의 크기는 기 설정된 범위 내에서 가변할 수 있다. 양자화부(115)는 변환부(110)에서 생성된 변환 계수 값을 양자화하여 엔트로피 코딩부(160)로 전달한다.
엔트로피 코딩부(160)는 양자화된 변환 계수를 나타내는 정보, 인트라 부호화 정보, 및 인터 부호화 정보 등을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성한다. 엔트로피 코딩부(160)에서는 가변 길이 코딩(Variable Length Coding, VLC) 방식과 산술 코딩(arithmetic coding) 방식 등이 사용될 수 있다. 가변 길이 코딩(VLC) 방식은 입력되는 심볼들을 연속적인 코드워드로 변환하는데, 코드워드의 길이는 가변적일 수 있다. 예를 들어, 자주 발생하는 심볼들을 짧은 코드워드로, 자주 발생하지 않은 심볼들은 긴 코드워드로 표현하는 것이다. 가변 길이 코딩 방식으로서 컨텍스트 기반 적응형 가변 길이 코딩(Context-based Adaptive Variable Length Coding, CAVLC) 방식이 사용될 수 있다. 산술 코딩은 연속적인 데이터 심볼들을 하나의 소수로 변환하는데, 산술 코딩은 각 심볼을 표현하기 위하여 필요한 최적의 소수 비트를 얻을 수 있다. 산술 코딩으로서 컨텍스트 기반 적응형 산술 부호화(Context-based Adaptive Binary Arithmetic Code, CABAC)가 이용될 수 있다. 예를 들어, 엔트로피 코딩부(160)는 양자화된 변환 계수를 나타내는 정보를 이진화할 수 있다. 또한, 엔트로피 코딩부(160)는 이진화된 정보를 산술 코딩하여 비트스트림을 생성할 수 있다.
상기 생성된 비트스트림은 NAL(Network Abstraction Layer) 유닛을 기본 단위로 캡슐화 된다. NAL 유닛은 부호화된 정수 개의 코딩 트리 유닛(coding tree unit)을 포함한다. 비디오 디코더에서 비트스트림을 복호화하기 위해서는 먼저 비트스트림을 NAL 유닛 단위로 분리한 후, 분리된 각각의 NAL 유닛을 복호화해야 한다. 한편, 비디오 신호 비트스트림의 복호화를 위해 필요한 정보들은 픽쳐 파라미터 세트(Picture Parameter Set, PPS), 시퀀스 파라미터 세트(Sequence Parameter Set, SPS), 비디오 파라미터 세트(Video Parameter Set, VPS) 등과 같은 상위 레벨 세트의 RBSP(Raw Byte Sequence Payload)를 통해 전송될 수 있다.
한편, 도 1의 블록도는 본 발명의 일 실시예에 따른 인코딩 장치(100)를 나타낸 것으로서, 분리하여 표시된 블록들은 인코딩 장치(100)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 인코딩 장치(100)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 인코딩 장치(100)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.
도 2는 본 발명의 일 실시예에 따른 비디오 신호 디코딩 장치(200)의 개략적인 블록도이다. 도 2를 참조하면 본 발명의 디코딩 장치(200)는 엔트로피 디코딩부(210), 역양자화부(220), 역변환부(225), 필터링부(230) 및 예측부(250)를 포함한다.
엔트로피 디코딩부(210)는 비디오 신호 비트스트림을 엔트로피 디코딩하여, 각 영역에 대한 변환 계수 정보, 인트라 부호화 정보, 인터 부호화 정보 등을 추출한다. 예를 들어, 엔트로피 디코딩부(210)는 비디오 신호 비트스트림으로부터 특정 영역의 변환 계수 정보에 대한 이진화 코드를 획득할 수 있다. 또한, 엔트로피 디코딩부(210)는 이진화 코드를 역 이진화하여 양자화된 변환 계수를 획득한다. 역양자화부(220)는 양자화된 변환 계수를 역양자화하고, 역변환부(225)는 역양자화된 변환 계수를 이용하여 레지듀얼 값을 복원한다. 비디오 신호 처리 장치(200)는 역변환부(225)에서 획득된 레지듀얼 값을 예측부(250)에서 획득된 예측값과 합산하여 원래의 화소값을 복원한다.
한편, 필터링부(230)는 픽쳐에 대한 필터링을 수행하여 화질을 향상시킨다. 여기에는 블록 왜곡 현상을 감소시키기 위한 디블록킹 필터 및/또는 픽쳐 전체의 왜곡 제거를 위한 적응적 루프 필터 등이 포함될 수 있다. 필터링을 거친 픽쳐는 출력되거나 다음 픽쳐에 대한 참조 픽쳐로 이용하기 위하여 복호 픽쳐 버퍼(DPB, 256)에 저장된다.
예측부(250)는 인트라 예측부(252) 및 인터 예측부(254)를 포함한다. 예측부(250)는 전술한 엔트로피 디코딩부(210)를 통해 복호화된 부호화 타입, 각 영역에 대한 변환 계수, 인트라/인터 부호화 정보 등을 활용하여 예측 픽쳐를 생성한다. 복호화가 수행되는 현재 블록을 복원하기 위해서, 현재 블록이 포함된 현재 픽쳐 또는 다른 픽쳐들의 복호화된 영역이 이용될 수 있다. 복원에 현재 픽쳐만을 이용하는, 즉 인트라 예측 또는 인트라 BC 예측을 수행하는 픽쳐(또는, 타일/슬라이스)를 인트라 픽쳐 또는 I 픽쳐(또는, 타일/슬라이스), 인트라 예측, 인터 예측 및 인트라 BC 예측을 모두 수행할 수 있는 픽쳐(또는, 타일/슬라이스)를 인터 픽쳐(또는, 타일/슬라이스)라고 한다. 인터 픽쳐(또는, 타일/슬라이스) 중 각 블록의 샘플값들을 예측하기 위하여 최대 하나의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 예측 픽쳐(predictive picture) 또는 P 픽쳐(또는, 타일/슬라이스)라고 하며, 최대 두 개의 모션 벡터 및 참조 픽쳐 인덱스를 이용하는 픽쳐(또는, 타일/슬라이스)를 쌍예측 픽쳐(Bi-predictive picture) 또는 B 픽쳐(또는, 타일/슬라이스) 라고 한다. 다시 말해서, P 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 하나의 모션 정보 세트를 이용하고, B 픽쳐(또는, 타일/슬라이스)는 각 블록을 예측하기 위해 최대 두 개의 모션 정보 세트를 이용한다. 여기서, 모션 정보 세트는 하나 이상의 모션 벡터와 하나의 참조 픽쳐 인덱스를 포함한다.
인트라 예측부(252)는 인트라 부호화 정보 및 현재 픽쳐 내의 복원된 샘플들을 이용하여 예측 블록을 생성한다. 전술한 바와 같이, 인트라 부호화 정보는 인트라 예측 모드, MPM(Most Probable Mode) 플래그, MPM 인덱스 중 적어도 하나를 포함할 수 있다. 인트라 예측부(252)는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 샘플들을 참조 샘플들로 이용하여 현재 블록의 샘플 값들을 예측한다. 본 개시에서, 복원된 샘플들, 참조 샘플들 및 현재 블록의 샘플들은 픽셀들을 나타낼 수 있다. 또한, 샘플 값(sample value)들은 픽셀 값들을 나타낼 수 있다.
일 실시예에 따르면, 참조 샘플들은 현재 블록의 주변 블록에 포함된 샘플들일 수 있다. 예를 들어, 참조 샘플들은 현재 블록의 좌측 경계에 인접한 샘플들 및/또는 상측 경계에 인접한 샘플들일 수 있다. 또한, 참조 샘플들은 현재 블록의 주변 블록의 샘플들 중 현재 블록의 좌측 경계로부터 기 설정된 거리 이내의 라인 상에 위치하는 샘플들 및/또는 현재 블록의 상측 경계로부터 기 설정된 거리 이내의 라인 상에 위치하는 샘플들일 수 있다. 이때, 현재 블록의 주변 블록은 현재 블록에 인접한 좌측(L) 블록, 상측(A) 블록, 하좌측(Below Left, BL) 블록, 상우측(Above Right, AR) 블록 또는 상좌측(Above Left, AL) 블록 중 적어도 하나를 포함할 수 있다.
인터 예측부(254)는 복호 픽쳐 버퍼(256)에 저장된 참조 픽쳐 및 인터 부호화 정보를 이용하여 예측 블록을 생성한다. 인터 부호화 정보는 참조 블록에 대한 현재 블록의 모션 정보 세트(참조 픽쳐 인덱스, 모션 벡터 정보 등)를 포함할 수 있다. 인터 예측에는 L0 예측, L1 예측 및 쌍예측(Bi-prediction)이 있을 수 있다. L0 예측은 L0 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측이고, L1 예측은 L1 픽쳐 리스트에 포함된 1개의 참조 픽쳐를 이용한 예측을 의미한다. 이를 위해서는 1세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 필요할 수 있다. 쌍예측 방식에서는 최대 2개의 참조 영역을 이용할 수 있는데, 이 2개의 참조 영역은 동일한 참조 픽쳐에 존재할 수도 있고, 서로 다른 픽쳐에 각각 존재할 수도 있다. 즉, 쌍예측 방식에서는 최대 2세트의 모션 정보(예를 들어, 모션 벡터 및 참조 픽쳐 인덱스)가 이용될 수 있는데, 2개의 모션 벡터가 동일한 참조 픽쳐 인덱스에 대응될 수도 있고 서로 다른 참조 픽쳐 인덱스에 대응될 수도 있다. 이때, 참조 픽쳐들은 시간적으로 현재 픽쳐 이전이나 이후 모두에 표시(또는 출력)될 수 있다. 일 실시예에 따라, 쌍예측 방식에서는 사용되는 2개의 참조 영역은 L0 픽쳐 리스트 및 L1 픽쳐 리스트 각각에서 선택된 영역일 수 있다.
인터 예측부(254)는 모션 벡터 및 참조 픽쳐 인덱스를 이용하여 현재 블록의 참조 블록을 획득할 수 있다. 상기 참조 블록은 참조 픽쳐 인덱스에 대응하는 참조 픽쳐 내에 존재한다. 또한, 모션 벡터에 의해서 특정된 블록의 샘플 값 또는 이의 보간(interpolation)된 값이 현재 블록의 예측자(predictor)로 이용될 수 있다. 서브펠(sub-pel) 단위의 픽셀 정확도를 갖는 모션 예측을 위하여 이를 테면, 휘도 신호에 대하여 8-탭 보간 필터가, 색차 신호에 대하여 4-탭 보간 필터가 사용될 수 있다. 다만, 서브펠 단위의 모션 예측을 위한 보간 필터는 이에 한정되지 않는다. 이와 같이 인터 예측부(254)는 이전에 복원된 픽쳐로부터 현재 유닛의 텍스쳐를 예측하는 모션 보상(motion compensation)을 수행한다. 이때, 인터 예측부는 모션 정보 세트를 이용할 수 있다.
추가적인 실시예에 따라, 예측부(250)는 인트라 BC 예측부(미도시)를 포함할 수 있다. 인트라 BC 예측부는 현재 픽쳐 내의 복원된 샘플들을 포함하는 특정 영역을 참조하여 현재 영역을 복원할 수 있다. 인트라 BC 예측부는 엔트로피 디코딩부(210)로부터 현재 영역에 대한 인트라 BC 부호화 정보를 획득한다. 인트라 BC 예측부는 현재 픽쳐 내의 특정 영역을 지시하는 현재 영역의 블록 벡터값을 획득한다. 인트라 BC 예측부는 획득된 블록 벡터값을 이용하여 인트라 BC 예측을 수행할 수 있다. 인트라 BC 부호화 정보는 블록 벡터 정보를 포함할 수 있다.
상기 인트라 예측부(252) 또는 인터 예측부(254)로부터 출력된 예측값, 및 역변환부(225)로부터 출력된 레지듀얼 값이 더해져서 복원된 비디오 픽쳐가 생성된다. 즉, 비디오 신호 디코딩 장치(200)는 예측부(250)에서 생성된 예측 블록과 역변환부(225)로부터 획득된 레지듀얼을 이용하여 현재 블록을 복원한다.
한편, 도 2의 블록도는 본 발명의 일 실시예에 따른 디코딩 장치(200)를 나타낸 것으로서, 분리하여 표시된 블록들은 디코딩 장치(200)의 엘리먼트들을 논리적으로 구별하여 도시한 것이다. 따라서 전술한 디코딩 장치(200)의 엘리먼트들은 디바이스의 설계에 따라 하나의 칩으로 또는 복수의 칩으로 장착될 수 있다. 일 실시예에 따르면, 전술한 디코딩 장치(200)의 각 엘리먼트의 동작은 프로세서(미도시)에 의해 수행될 수 있다.
도 3은 픽쳐 내에서 코딩 트리 유닛(Coding Tree Unit, CTU)이 코딩 유닛들(Coding Units, CUs)로 분할되는 실시예를 도시한다. 비디오 신호의 코딩 과정에서, 픽쳐는 코딩 트리 유닛(CTU)들의 시퀀스로 분할될 수 있다. 코딩 트리 유닛은 휘도(luma) 샘플들의 NXN 블록과, 이에 대응하는 색차(chroma) 샘플들의 2개의 블록들로 구성된다. 코딩 트리 유닛은 복수의 코딩 유닛들로 분할될 수 있다. 코딩 트리 유닛은 분할되지 않고 리프 노드가 될 수도 있다. 이 경우, 코딩 트리 유닛 자체가 코딩 유닛이 될 수 있다. 코딩 유닛은 상기에서 설명한 비디오 신호의 처리 과정, 즉 인트라/인터 예측, 변환, 양자화 및/또는 엔트로피 코딩 등의 과정에서 픽쳐를 처리하기 위한 기본 단위를 가리킨다. 하나의 픽쳐 내에서 코딩 유닛의 크기 및 모양은 일정하지 않을 수 있다. 코딩 유닛은 정사각형 혹은 직사각형의 모양을 가질 수 있다. 직사각형 코딩 유닛(혹은, 직사각형 블록)은 수직 코딩 유닛(혹은, 수직 블록)과 수평 코딩 유닛(혹은, 수평 블록)을 포함한다. 본 명세서에서, 수직 블록은 높이가 너비보다 큰 블록이며, 수평 블록은 너비가 높이보다 큰 블록이다. 또한, 본 명세서에서 정사각형이 아닌(non-square) 블록은 직사각형 블록을 가리킬 수 있지만, 본 발명은 이에 한정되지 않는다.
도 3을 참조하면, 코딩 트리 유닛은 먼저 쿼드 트리(Quad Tree, QT) 구조로 분할된다. 즉, 쿼드 트리 구조에서 2NX2N 크기를 가지는 하나의 노드는 NXN 크기를 가지는 네 개의 노드들로 분할될 수 있다. 본 명세서에서 쿼드 트리는 4진(quaternary) 트리로도 지칭될 수 있다. 쿼드 트리 분할은 재귀적으로 수행될 수 있으며, 모든 노드들이 동일한 깊이로 분할될 필요는 없다.
한편, 전술한 쿼드 트리의 리프 노드(leaf node)는 멀티-타입 트리(Multi-Type Tree, MTT) 구조로 더욱 분할될 수 있다. 본 발명의 실시예에 따르면, 멀티 타입 트리 구조에서는 하나의 노드가 수평 혹은 수직 분할의 2진(binary, 바이너리) 혹은 3진(ternary, 터너리) 트리 구조로 분할될 수 있다. 즉, 멀티-타입 트리 구조에는 수직 바이너리 분할, 수평 바이너리 분할, 수직 터너리 분할 및 수평 터너리 분할의 4가지 분할 구조가 존재한다. 본 발명의 실시예에 따르면, 상기 각 트리 구조에서 노드의 너비 및 높이는 모두 2의 거듭제곱 값을 가질 수 있다. 예를 들어, 바이너리 트리(Binary Tree, BT) 구조에서, 2NX2N 크기의 노드는 수직 바이너리 분할에 의해 2개의 NX2N 노드들로 분할되고, 수평 바이너리 분할에 의해 2개의 2NXN 노드들로 분할될 수 있다. 또한, 터너리 트리(Ternary Tree, TT) 구조에서, 2NX2N 크기의 노드는 수직 터너리 분할에 의해 (N/2)X2N, NX2N 및 (N/2)X2N의 노드들로 분할되고, 수평 터너리 분할에 의해 2NX(N/2), 2NXN 및 2NX(N/2)의 노드들로 분할될 수 있다. 이러한 멀티-타입 트리 분할은 재귀적으로 수행될 수 있다.
멀티-타입 트리의 리프 노드는 코딩 유닛이 될 수 있다. 코딩 유닛이 최대 변환 길이에 비해 크지 않은 경우, 해당 코딩 유닛은 더 이상의 분할 없이 예측 및/또는 변환의 단위로 사용될 수 있다. 일 실시예로서, 현재 코딩 유닛의 너비 또는 높이가 최대 변환 길이보다 큰 경우, 현재 코딩 유닛은 분할에 관한 명시적 시그널링 없이 복수의 변환 유닛으로 분할될 수 있다. 한편, 전술한 쿼드 트리 및 멀티-타입 트리에서 다음의 파라메터들 중 적어도 하나가 사전에 정의되거나 PPS, SPS, VPS 등과 같은 상위 레벨 세트의 RBSP를 통해 전송될 수 있다. 1) CTU 크기: 쿼드 트리의 루트 노드(root node) 크기, 2) 최소 QT 크기(MinQtSize): 허용된 최소 QT 리프 노드 크기, 3) 최대 BT 크기(MaxBtSize): 허용된 최대 BT 루트 노드 크기, 4) 최대 TT 크기(MaxTtSize): 허용된 최대 TT 루트 노드 크기, 5) 최대 MTT 깊이(MaxMttDepth): QT의 리프 노드로부터의 MTT 분할의 최대 허용 깊이, 6) 최소 BT 크기(MinBtSize): 허용된 최소 BT 리프 노드 크기, 7) 최소 TT 크기(MinTtSize): 허용된 최소 TT 리프 노드 크기.
도 4는 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하는 방법의 일 실시예를 도시한다. 전술한 쿼드 트리 및 멀티-타입 트리의 분할을 시그널링하기 위해 기 설정된 플래그들이 사용될 수 있다. 도 4를 참조하면, 쿼드 트리 노드의 분할 여부를 지시하는 플래그 'qt_split_flag', 멀티-타입 트리 노드의 분할 여부를 지시하는 플래그 'mtt_split_flag', 멀티-타입 트리 노드의 분할 방향을 지시하는 플래그 'mtt_split_vertical_flag' 또는 멀티-타입 트리 노드의 분할 모양을 지시하는 플래그 'mtt_split_binary_flag' 중 적어도 하나가 사용될 수 있다.
본 발명의 실시예에 따르면, 코딩 트리 유닛은 쿼드 트리의 루트 노드이며, 쿼드 트리 구조로 우선 분할될 수 있다. 쿼드 트리 구조에서는 각각의 노드 'QT_node' 별로 'qt_split_flag'가 시그널링된다. 'qt_split_flag'의 값이 1인 경우 해당 노드는 4개의 정사각형 노드들로 분할되며, 'qt_split_flag'의 값이 0인 경우 해당 노드는 쿼드 트리의 리프 노드 'QT_leaf_node'가 된다.
각각의 쿼드 트리 리프 노드 'QT_leaf_node'는 멀티-타입 트리 구조로 더 분할될 수 있다. 멀티-타입 트리 구조에서는 각각의 노드 'MTT_node' 별로 'mtt_split_flag'가 시그널링된다. 'mtt_split_flag'의 값이 1인 경우 해당 노드는 복수의 직사각형 노드들로 분할되며, 'mtt_split_flag'의 값이 0인 경우 해당 노드는 멀티-타입 트리의 리프 노드 'MTT_leaf_node'가 된다. 멀티-타입 트리 노드 'MTT_node'가 복수의 직사각형 노드들로 분할될 경우(즉, 'mtt_split_flag'의 값이 1인 경우), 노드 'MTT_node'를 위한 'mtt_split_vertical_flag' 및 'mtt_split_binary_flag'가 추가로 시그널링될 수 있다. 'mtt_split_vertical_flag'의 값이 1인 경우 노드 'MTT_node'의 수직 분할이 지시되며, 'mtt_split_vertical_flag'의 값이 0인 경우 노드 'MTT_node'의 수평 분할이 지시된다. 또한, 'mtt_split_binary_flag'의 값이 1인 경우 노드 'MTT_node'는 2개의 직사각형 노드들로 분할되며, 'mtt_split_binary_flag'의 값이 0인 경우 노드 'MTT_node'는 3개의 직사각형 노드들로 분할된다.
코딩을 위한 픽쳐 예측(모션 보상)은 더 이상 나누어지지 않는 코딩 유닛(즉 코딩 유닛 트리의 리프 노드)을 대상으로 이루어진다. 이러한 예측을 수행하는 기본 단위를 이하에서는 예측 유닛(prediction unit) 또는 예측 블록(prediction block)이라고 한다.
이하, 본 명세서에서 사용되는 유닛이라는 용어는 예측을 수행하는 기본 단위인 상기 예측 유닛을 대체하는 용어로 사용될 수 있다. 다만, 본 발명이 이에 한정되는 것은 아니며, 더욱 광의적으로는 상기 코딩 유닛을 포함하는 개념으로 이해될 수 있다.
도 5 및 도 6은 본 발명의 실시예에 따른 인트라 예측 방법을 더욱 구체적으로 도시한다. 전술한 바와 같이, 인트라 예측부는 현재 블록의 좌측 및/또는 상측에 위치한 복원된 샘플들을 참조 샘플들로 이용하여 현재 블록의 샘플 값들을 예측한다.
먼저, 도 5는 인트라 예측 모드에서 현재 블록의 예측을 위해 사용되는 참조 샘플들의 일 실시예를 도시한다. 일 실시예에 따르면, 참조 샘플들은 현재 블록의 좌측 경계에 인접한 샘플들 및/또는 상측 경계에 인접한 샘플들일 수 있다. 도 5에 도시된 바와 같이, 현재 블록의 크기가 WXH이고 현재 블록에 인접한 단일 참조 라인(line)의 샘플들이 인트라 예측에 사용될 경우, 현재 블록의 좌측 및/또는 상측에 위치한 최대 2W+2H+1개의 주변 샘플들을 사용하여 참조 샘플들이 설정될 수 있다.
또한, 참조 샘플로 사용될 적어도 일부의 샘플이 아직 복원되지 않은 경우, 인트라 예측부는 참조 샘플 패딩 과정을 수행하여 참조 샘플을 획득할 수 있다. 또한, 인트라 예측부는 인트라 예측의 오차를 줄이기 위해 참조 샘플 필터링 과정을 수행할 수 있다. 즉, 주변 샘플들 및/또는 참조 샘플 패딩 과정에 의해 획득된 참조 샘플들에 필터링을 수행하여 필터링된 참조 샘플들을 획득할 수 있다. 인트라 예측부는 이와 같이 획득된 참조 샘플들을 이용하여 현재 블록의 샘플들을 예측한다. 인트라 예측부는 필터링되지 않은 참조 샘플들 또는 필터링된 참조 샘플들을 이용하여 현재 블록의 샘플들을 예측한다. 본 개시에서, 주변 샘플들은 적어도 하나의 참조 라인 상의 샘플들을 포함할 수 있다. 예를 들어, 주변 샘플들은 현재 블록의 경계에 인접한 라인 상의 인접 샘플들을 포함할 수 있다.
다음으로, 도 6은 인트라 예측에 사용되는 예측 모드들의 일 실시예를 도시한다. 인트라 예측을 위해, 인트라 예측 방향을 지시하는 인트라 예측 모드 정보가 시그널링될 수 있다. 인트라 예측 모드 정보는 인트라 예측 모드 세트를 구성하는 복수의 인트라 예측 모드들 중 어느 하나를 지시한다. 현재 블록이 인트라 예측 블록인 경우, 디코더는 비트스트림으로부터 현재 블록의 인트라 예측 모드 정보를 수신한다. 디코더의 인트라 예측부는 추출된 인트라 예측 모드 정보에 기초하여 현재 블록에 대한 인트라 예측을 수행한다.
본 발명의 실시예에 따르면, 인트라 예측 모드 세트는 인트라 예측에 사용되는 모든 인트라 예측 모드들(예, 총 67개의 인트라 예측 모드들)을 포함할 수 있다. 더욱 구체적으로, 인트라 예측 모드 세트는 평면 모드, DC 모드 및 복수의(예, 65개의) 각도 모드들(즉, 방향 모드들)을 포함할 수 있다. 각각의 인트라 예측 모드는 기 설정된 인덱스(즉, 인트라 예측 모드 인덱스)를 통해 지시될 수 있다. 예를 들어, 도 6에 도시된 바와 같이 인트라 예측 모드 인덱스 0은 평면 모드를 지시하고, 인트라 예측 모드 인덱스 1은 DC 모드를 지시한다. 또한, 인트라 예측 모드 인덱스 2 내지 66은 서로 다른 각도 모드들을 각각 지시할 수 있다. 각도 모드들은 기 설정된 각도 범위 이내의 서로 다른 각도들을 각각 지시한다. 예를 들어, 각도 모드는 시계 방향으로 45도에서 -135도 사이의 각도 범위(즉, 제1 각도 범위) 이내의 각도를 지시할 수 있다. 상기 각도 모드는 12시 방향을 기준으로 정의될 수 있다. 이때, 인트라 예측 모드 인덱스 2는 수평 대각(Horizontal Diagonal, HDIA) 모드를 지시하고, 인트라 예측 모드 인덱스 18은 수평(Horizontal, HOR) 모드를 지시하고, 인트라 예측 모드 인덱스 34는 대각(Diagonal, DIA) 모드를 지시하고, 인트라 예측 모드 인덱스 50은 수직(Vertical, VER) 모드를 지시하며, 인트라 예측 모드 인덱스 66은 수직 대각(Vertical Diagonal, VDIA) 모드를 지시한다.
한편, 기 설정된 각도 범위는 현재 블록의 모양에 따라 서로 다르게 설정될 수 있다. 예를 들어, 현재 블록이 직사각형 블록인 경우 시계 방향으로 45도를 초과하거나 -135도 미만 각도를 지시하는 광각 모드가 추가적으로 사용될 수 있다. 현재 블록이 수평 블록인 경우, 각도 모드는 시계 방향으로 (45+offset1)도에서 (-135+offset1)도 사이의 각도 범위(즉, 제2 각도 범위) 이내의 각도를 지시할 수 있다. 이때, 제1 각도 범위를 벗어나는 각도 모드 67 내지 76이 추가적으로 사용될 수 있다. 또한, 현재 블록이 수직 블록인 경우, 각도 모드는 시계 방향으로 (45-offset2)도에서 (-135-offset2)도 사이의 각도 범위(즉, 제3 각도 범위) 이내의 각도를 지시할 수 있다. 이때, 제1 각도 범위를 벗어나는 각도 모드 -10 내지 -1이 추가적으로 사용될 수 있다. 본 발명의 실시예에 따르면, offset1 및 offset2의 값은 직사각형 블록의 너비와 높이 간의 비율에 따라 서로 다르게 결정될 수 있다. 또한, offset1 및 offset2는 양수일 수 있다.
본 발명의 추가적인 실시예에 따르면, 인트라 예측 모드 세트를 구성하는 복수의 각도 모드들은 기본 각도 모드와 확장 각도 모드를 포함할 수 있다. 이때, 확장 각도 모드는 기본 각도 모드에 기초하여 결정될 수 있다.
일 실시예에 따르면, 기본 각도 모드는 기존 HEVC(High Efficiency Video Coding) 표준의 인트라 예측에서 사용되는 각도에 대응하는 모드이고, 확장 각도 모드는 차세대 비디오 코덱 표준의 인트라 예측에서 새롭게 추가되는 각도에 대응하는 모드일 수 있다. 더욱 구체적으로, 기본 각도 모드는 인트라 예측 모드 {2, 4, 6, …, 66} 중 어느 하나에 대응하는 각도 모드이고, 확장 각도 모드는 인트라 예측 모드 {3, 5, 7, …, 65} 중 어느 하나에 대응하는 각도 모드일 수 있다. 즉, 확장 각도 모드는 제1 각도 범위 내에서 기본 각도 모드들 사이의 각도 모드일 수 있다. 따라서, 확장 각도 모드가 지시하는 각도는 기본 각도 모드가 지시하는 각도에 기초하여 결정될 수 있다.
다른 실시예에 따르면, 기본 각도 모드는 기 설정된 제1 각도 범위 이내의 각도에 대응하는 모드이고, 확장 각도 모드는 상기 제1 각도 범위를 벗어나는 광각 모드일 수 있다. 즉, 기본 각도 모드는 인트라 예측 모드 {2, 3, 4, …, 66} 중 어느 하나에 대응하는 각도 모드이고, 확장 각도 모드는 인트라 예측 모드 {-10, -9, …, -1} 및 {67, 68, …, 76} 중 어느 하나에 대응하는 각도 모드일 수 있다. 확장 각도 모드가 지시하는 각도는 대응하는 기본 각도 모드가 지시하는 각도의 반대편 각도로 결정될 수 있다. 따라서, 확장 각도 모드가 지시하는 각도는 기본 각도 모드가 지시하는 각도에 기초하여 결정될 수 있다. 한편, 확장 각도 모드들의 개수는 이에 한정되지 않으며, 현재 블록의 크기 및/또는 모양에 따라 추가적인 확장 각도들이 정의될 수 있다. 예를 들어, 확장 각도 모드는 인트라 예측 모드 {-14, -13, …, -1} 및 {67, 68, …, 80} 중 어느 하나에 대응하는 각도 모드로 정의될 수도 있다. 한편, 인트라 예측 모드 세트에 포함되는 인트라 예측 모드들의 총 개수는 전술한 기본 각도 모드와 확장 각도 모드의 구성에 따라 가변할 수 있다.
상기 실시예들에서, 확장 각도 모드들 간의 간격은 대응하는 기본 각도 모드들 간의 간격에 기초하여 설정될 수 있다. 예를 들어, 확장 각도 모드들 {3, 5, 7, …, 65} 간의 간격은 대응하는 기본 각도 모드들 {2, 4, 6, …, 66} 간의 간격에 기초하여 결정될 수 있다. 또한, 확장 각도 모드들 {-10, -9, …, -1} 간의 간격은 대응하는 반대편의 기본 각도 모드들 {56, 57, …, 65} 간의 간격에 기초하여 결정되고, 확장 각도 모드들 {67, 68, …, 76} 간의 간격은 대응하는 반대편의 기본 각도 모드들 {3, 4, …, 12} 간의 간격에 기초하여 결정될 수 있다. 확장 각도 모드들 간의 각도 간격은 대응하는 기본 각도 모드들 간의 각도 간격과 동일하도록 설정될 수 있다. 또한, 인트라 예측 모드 세트에서 확장 각도 모드들의 개수는 기본 각도 모드들의 개수 이하로 설정될 수 있다.
본 발명의 실시예에 따르면, 확장 각도 모드는 기본 각도 모드를 기초로 시그널링될 수 있다. 예를 들어, 광각 모드(즉, 확장 각도 모드)는 제1 각도 범위 이내의 적어도 하나의 각도 모드(즉, 기본 각도 모드)를 대체할 수 있다. 대체되는 기본 각도 모드는 광각 모드의 반대편에 대응하는 각도 모드일 수 있다. 즉, 대체되는 기본 각도 모드는 광각 모드가 지시하는 각도의 반대 방향의 각도에 대응하거나 또는 상기 반대 방향의 각도로부터 기 설정된 오프셋 인덱스만큼 차이 나는 각도에 대응하는 각도 모드이다. 본 발명의 실시예에 따르면, 기 설정된 오프셋 인덱스는 1이다. 대체되는 기본 각도 모드에 대응하는 인트라 예측 모드 인덱스는 광각 모드에 다시 매핑되어 해당 광각 모드를 시그널링할 수 있다. 예를 들어, 광각 모드 {-10, -9, …, -1}은 인트라 예측 모드 인덱스 {57, 58, …, 66}에 의해 각각 시그널링될 수 있고, 광각 모드 {67, 68, …, 76}은 인트라 예측 모드 인덱스 {2, 3, …, 11}에 의해 각각 시그널링될 수 있다. 이와 같이 기본 각도 모드를 위한 인트라 예측 모드 인덱스가 확장 각도 모드를 시그널링하도록 함으로, 각 블록의 인트라 예측에 사용되는 각도 모드들의 구성이 서로 다르더라도 동일한 세트의 인트라 예측 모드 인덱스들이 인트라 예측 모드의 시그널링에 사용될 수 있다. 따라서, 인트라 예측 모드 구성의 변화에 따른 시그널링 오버헤드가 최소화할 수 있다.
한편, 확장 각도 모드의 사용 여부는 현재 블록의 모양 및 크기 중 적어도 하나에 기초하여 결정될 수 있다. 일 실시예에 따르면, 현재 블록의 크기가 기 설정된 크기보다 클 경우 확장 각도 모드가 현재 블록의 인트라 예측을 위해 사용되고, 그렇지 않을 경우 기본 각도 모드만 현재 블록의 인트라 예측을 위해 사용될 수 있다. 다른 실시예에 따르면, 현재 블록이 정사각형이 아닌 블록인 경우 확장 각도 모드가 현재 블록의 인트라 예측을 위해 사용되고, 현재 블록이 정사각형 블록인 경우 기본 각도 모드만 현재 블록의 인트라 예측을 위해 사용될 수 있다.
한편, 코딩 효율을 높이기 위하여 전술한 레지듀얼 신호를 그대로 코딩하는 것이 아니라, 레지듀얼 신호를 변환하여 획득된 변환 계수 값을 양자화하고, 양자화된 변환 계수를 코딩하는 방법이 사용될 수 있다. 전술한 바와 같이, 변환부는 레지듀얼 신호를 변환하여 변환 계수 값을 획득할 수 있다. 이때, 특정 블록의 레지듀얼 신호는 현재 블록의 전 영역에 분산되어 있을 수 있다. 이에 따라, 레지듀얼 신호에 대한 주파수 영역 변환을 통해 저주파 영역에 에너지를 집중시켜 코딩 효율을 향상시킬 수 있다. 이하에서는, 레지듀얼 신호가 변환 또는 역변환되는 방법에 대해 구체적으로 설명하도록 한다.
도 7은 인코더가 레지듀얼 신호를 변환하는 방법을 구체적으로 나타내는 도면이다. 전술한 바와 같이, 공간 영역의 레지듀얼 신호는 주파수 영역으로 변환될 수 있다. 인코더는 획득된 레지듀얼 신호를 변환하여 변환 계수를 획득할 수 있다. 먼저, 인코더는 현재 블록에 대한 레지듀얼 신호를 포함하는 적어도 하나의 레지듀얼 블록을 획득할 수 있다. 레지듀얼 블록은 현재 블록 또는 현재 블록으로부터 분할된 블록들 중 어느 하나일 수 있다. 본 개시에서, 레지듀얼 블록은 현재 블록의 레지듀얼 샘플들을 포함하는 레지듀얼 어레이(array) 또는 레지듀얼 매트릭스(matrix)로 지칭될 수 있다. 또한, 본 개시에서 레지듀얼 블록은 변환 유닛 또는 변환 블록의 크기와 동일한 크기의 블록을 나타낼 수 있다.
다음으로, 인코더는 변환 커널을 사용하여 레지듀얼 블록을 변환할 수 있다. 레지듀얼 블록에 대한 변환에 사용되는 변환 커널은 수직 변환 및 수평 변환의 분리 가능한 특성을 가지는 변환 커널일 수 있다. 이 경우, 레지듀얼 블록에 대한 변환은 수직 변환 및 수평 변환으로 분리되어 수행될 수 있다. 예를 들어, 인코더는 레지듀얼 블록의 수직 방향으로 변환 커널을 적용하여 수직 변환을 수행할 수 있다. 또한, 인코더는 레지듀얼 블록의 수평 방향으로 변환 커널을 적용하여 수평 변환을 수행할 수 있다. 본 개시에서, 변환 커널은 변환 매트릭스, 변환 어레이, 변환 함수, 변환과 같이 레지듀얼 신호의 변환에 사용되는 파라미터 세트를 지칭하는 용어로 사용될 수 있다. 일 실시예에 따라, 변환 커널은 복수의 사용 가능한 커널들 중 어느 하나일 수 있다. 또한, 수직 변환 및 수평 변환 각각에 대해 서로 다른 변환 타입에 기반한 변환 커널이 사용될 수도 있다.
인코더는 레지듀얼 블록으로부터 변환된 변환 블록을 양자화부로 전달하여 양자화할 수 있다. 이때, 변환 블록은 복수의 변환 계수들을 포함할 수 있다. 구체적으로, 변환 블록은 2차원 배열된 복수의 변환 계수들로 구성될 수 있다. 변환 블록의 크기는 레지듀얼 블록과 마찬가지로 현재 블록 또는 현재 블록으로부터 분할된 블록 중 어느 하나와 동일할 수 있다. 양자화부로 전달된 변환 계수들은 양자화된 값으로 표현될 수 있다.
또한, 인코더는 변환 계수가 양자화되기 전에 추가적인 변환을 수행할 수 있다. 도 7에 도시된 바와 같이, 전술한 변환 방법은 1차 변환(primary transform)으로 지칭되고, 추가적인 변환은 2차 변환(secondary transform)으로 지칭될 수 있다. 2차 변환은 레지듀얼 블록 별로 선택적일 수 있다. 일 실시예에 따라, 인코더는 1차 변환만으로 저주파 영역에 에너지를 집중시키기 어려운 영역에 대해 2차 변환을 수행하여 코딩 효율을 향상시킬 수 있다. 예를 들어, 레지듀얼 값들이 레지듀얼 블록의 수평 또는 수직 방향 이외의 방향에서 크게 나타나는 블록에 대해 2차 변환이 추가될 수 있다. 인트라 예측된 블록의 레지듀얼 값들은 인터 예측된 블록의 레지듀얼 값들에 비해 수평 또는 수직 방향 이외의 방향으로 변화할 확률이 높을 수 있다. 이에 따라, 인코더는 인트라 예측된 블록의 레지듀얼 신호에 대해 2차 변환을 추가적으로 수행할 수 있다. 또한, 인코더는 인터 예측된 블록의 레지듀얼 신호에 대해 2차 변환을 생략할 수 있다.
다른 예로, 현재 블록 또는 레지듀얼 블록의 크기에 따라, 2차 변환 수행 여부가 결정될 수 있다. 또한, 현재 블록 또는 레지듀얼 블록의 크기에 따라 크기가 서로 다른 변환 커널이 사용될 수 있다. 예를 들어, 너비 또는 높이 중 짧은 변의 길이가 제1 기 설정된 길이 보다 크거나 같은 블록에 대해서는 8X8 2차 변환이 적용될 수 있다. 또한, 너비 또는 높이 중 짧은 변의 길이가 제2 기 설정된 길이 보다 크거나 같고, 제1 기 설정된 길이 보다 작은 블록에 대해서는 4X4 2차 변환이 적용될 수 있다. 이때, 제1 기 설정된 길이는 제2 기 설정된 길이 보다 큰 값일 수 있으나, 본 개시가 이에 제한되는 것은 아니다. 또한, 2차 변환은 1차 변환과 달리 수직 변환 및 수평 변환으로 분리되어 수행되지 않을 수 있다. 이러한 2차 변환은 저대역 비-분리 변환(Low Frequency Non-Separable Transform, LFNST)으로 지칭될 수 있다.
또한, 특정 영역의 비디오 신호의 경우, 급격한 밝기 변화로 인해 주파수 변환을 수행하여도 고주파 대역 에너지가 줄어들지 않을 수 있다. 이에 따라, 양자화에 의한 압축 성능이 저하될 수 있다. 또한, 레지듀얼 값이 드물게 존재하는 영역에 대해 변환을 수행하는 경우, 인코딩 시간 및 디코딩 시간이 불필요하게 증가할 수 있다. 이에 따라, 특정 영역의 레지듀얼 신호에 대한 변환은 생략될 수 있다. 특정 영역의 레지듀얼 신호에 대한 변환 수행 여부는 특정 영역의 변환과 관련된 신택스 요소에 의해 결정될 수 있다. 예를 들어, 상기 신택스 요소는 변환 스킵 정보(transform skip information)를 포함할 수 있다. 변환 스킵 정보는 변환 스킵 플래그(transform skip flag)일 수 있다. 레지듀얼 블록에 대한 변환 스킵 정보가 변환 스킵을 나타내는 경우, 해당 레지듀얼 블록에 대한 변환이 수행되지 않는다. 이 경우, 인코더는 해당 영역의 변환이 수행되지 않은 레지듀얼 신호를 곧바로 양자화할 수 있다. 도 7 을 참조하여 설명된 인코더의 동작들은 도 1의 변환부를 통해 수행될 수 있다.
전술한 변환 관련 신택스 요소들은 비디오 신호 비트스트림으로부터 파싱된 정보일 수 있다. 디코더는 비디오 신호 비트스트림을 엔트로피 디코딩하여 변환 관련 신택스 요소들을 획득할 수 있다. 또한, 인코더는 변환 관련 신택스 요소들을 엔트로피 코딩하여 비디오 신호 비트스트림을 생성할 수 있다.
도 8은 인코더 및 디코더가 변환 계수를 역변환하여 레지듀얼 신호를 획득하는 방법을 구체적으로 나타내는 도면이다. 이하 설명의 편의를 위해, 인코더 및 디코더 각각의 역변환부를 통해 역변환 동작이 수행되는 것으로 설명한다. 역변환부는 역양자화된 변환 계수를 역변환하여 레지듀얼 신호를 획득할 수 있다. 먼저, 역변환부는 특정 영역의 변환 관련 신택스 요소로부터 해당 영역에 대한 역변환이 수행되는지 검출할 수 있다. 일 실시예에 따라, 특정 변환 블록에 대한 변환 관련 신택스 요소가 변환 스킵을 나타내는 경우, 해당 변환 블록에 대한 변환이 생략될 수 있다. 이 경우, 변환 블록에 대해 전술한 1차 역변환 및 2차 역변환이 모두 생략될 수 있다. 또한, 역양자화된 변환 계수는 레지듀얼 신호로 사용될 수 있다. 예를 들어, 디코더는 역양자화된 변환 계수를 레지듀얼 신호로 사용하여 현재 블록을 복원할 수 있다. 전술한 1차 역변환은 1차 변환에 대한 역변환을 나타내며, 역 1차 변환(inverse primary transform)으로 지칭될 수 있다. 2차 역변환은 2차 변환에 대한 역변환을 나타내며, 역 2차 변환(inverse secondary transform) 또는 inverse LFNST로 지칭될 수 있다. 본 발명에서 1차 (역)변환은 제1 (역)변환으로 지칭될 수 있으며, 2차 (역)변환은 제2 (역)변환으로 지칭될 수 있다.
다른 일 실시예에 따라, 특정 변환 블록에 대한 변환 관련 신택스 요소가 변환 스킵을 나타내지 않을 수 있다. 이 경우, 역변환부는 2차 변환에 대한 2차 역변환 수행 여부를 결정할 수 있다. 예를 들어, 변환 블록이 인트라 예측된 블록의 변환 블록인 경우, 변환 블록에 대한 2차 역변환이 수행될 수 있다. 또한, 변환 블록에 대응하는 인트라 예측 모드에 기초하여 해당 변환 블록에 사용되는 2차 변환 커널이 결정될 수 있다. 다른 예로, 변환 블록의 크기에 기초하여 2차 역변환 수행 여부가 결정될 수도 있다. 2차 역변환은 역양자화 과정 이후 1차 역변환이 수행되기 전에 수행될 수 있다.
역변환부는 역양자화된 변환 계수 또는 2차 역변환된 변환 계수에 대한 1차 역변환을 수행할 수 있다. 1차 역변환의 경우, 1차 변환과 마찬가지로 수직 변환 및 수평 변환으로 분리되어 수행될 수 있다. 예를 들어, 역변환부는 변환 블록에 대한 수직 역변환 및 수평 역변환을 수행하여 레지듀얼 블록을 획득할 수 있다. 역변환부는 변환 블록의 변환에 사용된 변환 커널에 기초하여 변환 블록을 역변환할 수 있다. 예를 들어, 인코더는 복수의 사용 가능한 변환 커널들 중 현재 변환 블록에 적용된 변환 커널을 지시하는 정보를 명시적 또는 묵시적으로 시그널링할 수 있다. 디코더는 시그널링된 변환 커널을 나타내는 정보를 이용하여 복수의 사용 가능한 변환 커널들 중 변환 블록의 역변환에 사용될 변환 커널을 선택할 수 있다. 역변환부는 변환 계수에 대한 역변환을 통해 획득된 레지듀얼 신호를 이용하여 현재 블록을 복원할 수 있다.
한편, 픽쳐의 레지듀얼 신호의 분포는 영역 별로 다를 수 있다. 예를 들어, 특정 영역 내의 레지듀얼 신호는 예측 방법에 따라 값의 분포가 달라질 수 있다. 복수의 서로 다른 변환 영역들에 대해 동일한 변환 커널을 사용하여 변환을 수행하는 경우, 변환 영역 내의 값들의 분포와 특성에 따라 변환 영역 별로 코딩 효율이 달라질 수 있다. 이에 따라, 복수의 사용 가능한 변환 커널 중 특정 변환 블록의 변환에 사용되는 변환 커널을 적응적으로 선택하는 경우 코딩 효율이 추가적으로 향상될 수 있다. 즉, 인코더 및 디코더는 비디오 신호의 변환에 있어서, 기본 변환 커널 이외의 변환 커널을 추가적으로 사용 가능하도록 설정할 수 있다. 변환 커널을 적응적으로 선택하는 방법은 적응적 다중 코어 변환(adaptive multiple core transform, AMT) 또는 다중 변환 선택(multiple transform selection, MTS)으로 지칭될 수 있다. 변환 커널을 적응적으로 선택하는 방법에 대해서는 관련 도면을 참조하여 후술하도록 한다. 본 개시에서는 설명의 편의를 위해 변환 및 역변환을 통틀어 변환이라 지칭한다. 또한, 변환 커널 및 역변환 커널을 통틀어 변환 커널이라 지칭한다.
원본 신호와 화면간 예측 또는 화면내 예측을 통해 생성한 예측 신호의 차이 신호인 잔차(레지듀얼) 신호는 픽셀 도메인 전 영역에 에너지가 분산되어 있으므로, 잔차 신호의 픽셀 값 자체를 부호화할 경우, 압축 효율이 떨어지는 문제가 발생한다. 따라서 픽셀 도메인의 잔차 신호를 변환 부호화를 통해 주파수 도메인의 저주파 영역으로 에너지를 집중시키는 과정이 필요하다.
HEVC(high efficiency video coding) 표준에서는 신호가 픽셀 도메인에서 고르게 분포하는 경우(이웃하는 픽셀 값이 유사한 경우)에 효율적인 DCT-II(discrete cosine transform type-II)를 대부분 사용하고, 화면내 예측된 4x4 블록에만 DST-VII(discrete sine transform type-VII)을 한정적으로 사용하여 픽셀 도메인의 잔차 신호를 주파수 영역으로 변환하였다. DCT-II 변환의 경우, 화면간 예측을 통해 생성한 잔차 신호 (픽셀 도메인에서 에너지가 고르게 분포하는 경우)에 적합할 수 있으나, 화면내 예측을 통해 생성한 잔차 신호의 경우, 현재 부호화 유닛 주변의 복원된 참조 샘플을 사용하여 예측하는 화면내 예측의 특성 상, 참조 샘플과 멀어질수록 잔차 신호의 에너지가 증가하는 경향을 보일 수 있으므로 DCT-II 변환만을 사용하는 경우, 높은 부호화 효율을 달성할 수 없다.
AMT는 예측 방법에 따라 여러 개의 기 설정된 변환 커널 중 적응적으로 변환 커널을 선택하는 변환 기법으로, 어떤 예측 방법을 사용하였는지에 따라 잔차 신호의 픽셀 도메인에서의 패턴 (수평 방향으로 신호의 특성, 수직 방향으로 신호의 특성)이 달라지기 때문에, 단순히 DCT-II만을 사용했을 때 보다 높은 부호화 효율을 기대할 수 있다. 본 발명에서, AMT는 그 명칭에 제한되지 않으며, MTS(multiple transform selection)으로 지칭될 수 있다.
도 9는 AMT에서 사용하는 변환 커널의 정의를 도시한 도면으로, AMT에 적용되는 DCT-II, DCT-V(discrete cosine transform type-V), DCT-VIII(discrete cosine transform type-VIII), DST-I(discrete sine transform type-I), DST-VII 커널의 수식을 나타낸 것이다.
DCT와 DST는 각각 코사인, 사인의 함수로 표현이 가능하며, 샘플 수 N에 대한 변환 커널의 기저 함수를 Ti(j)로 표현할 경우, 인덱스 i는 주파수 도메인에서의 인덱스를 나타내며, 인덱스 j는 기저 함수 내의 인덱스를 나타낸다. 즉, i가 작아질수록 저주파 기저 함수를 나타내며, i가 커질수록 고주파 기저 함수를 나타낸다. 기저 함수 Ti(j)는 2차원 행렬로 표현했을 때, i 번째 행의 j 번째 요소를 나타낼 수 있으며, 도 9 에 도시한 변환 커널은 모두 분리 가능한 특성을 가지고 있으므로, 잔차 신호 X에 대하여 수평 방향과 수직 방향에 각각 변환을 수행할 수 있다. 즉, 잔차 신호 블록을 X라 하고, 변환 커널 행렬을 T라 했을 때, 잔차 신호 X에 대한 변환은 TXT’으로 나타낼 수 있다. 이때, T’는 변환 커널 행렬 T의 전치(transpose) 행렬을 의미한다.
도 9에 도시된 기저 함수에 의해 정의되는 변환 매트릭스의 값들은 정수 형태가 아닌 소수 형태일 수 있다. 비디오 인코딩 장치 및 디코딩 장치에 하드웨어적으로 소수 형태의 값들을 구현하기 어려울 수 있다. 따라서 소수 형태의 값들을 포함하는 원형(original) 변환 커널로부터 정수 근사화된 변환 커널이 비디오 신호의 인코딩 및 디코딩에 사용될 수 있다. 정수 형태의 값들을 포함하는 근사화된 변환 커널은 원형 변형 커널에 대한 스케일링 및 라운딩을 통해 생성될 수 있다. 근사화된 변환 커널이 포함하는 정수 값은 기 설정된 개수의 비트로 표현 가능한 범위 내의 값일 수 있다. 기 설정된 개수의 비트는 8-bit 또는 10-bit일 수 있다. 근사화에 따라 DCT와 DST의 정규 직교 (orthonormal) 성질은 유지되지 않을 수 있다. 그러나, 이에 따른 부호화 효율 손실이 크지 않으므로, 변환 커널을 정수 형태로 근사화 시키는 것이 하드웨어적 구현 측면에서 유리할 수 있다.
도 10은 AMT에서 화면내 예측 모드에 따른 변환 세트 및 변환 세트에 따라 정의되는 변환 커널 후보를 나타내는 도면이다. 화면내 예측은 부호화 유닛 주변의 복원된 참조 샘플을 활용하여 무 방향성 예측{ INTRA_PLANAR (0번 모드), INTRA_DC (1번 모드) }, 방향성 예측{ INTRA_ANGULAR2, INTRA_ANGULAR3, …, INTRA_ANGULAR66 }으로 구성될 수 있으며, 추가적으로 직사각형 블록에 적용되는 광각 예측 모드 및 색차 성분 신호를 복원된 휘도 성분 신호로부터 예측하는 CCLM(cross-component linear model)을 포함할 수 있다. 이러한 화면내 예측의 방법에 따라 잔차 신호 블록의 수평 방향과 수직 방향의 패턴이 다를 수 있으므로, 예측 모드에 따라 사용할 수 있는 변환 커널 세트를 정의하고, 세트 내에서 사용하는 변환 후보 인덱스를 수평 방향과 수직 방향에 대하여 각각 1-bit으로 시그널링하여 복호화기에서는 부호화기에서 찾은 최적의 변환 커널을 적용하여 역변환을 수행할 수 있다. 도 10(a)는 67개의 화면내 예측 모드를 사용하는 경우, 예측 모드에 따라 정의되는 변환 세트 인덱스를 도시한 것이며, V(vertical)은 수직 방향에 적용되는 변환 세트를 나타내며, H(horizontal)은 수평 방향에 적용되는 변환 세트를 의미한다. 화면내 예측 모드에 따라 다른 변환 세트를 사용할 수 있으며, 특정 예측 모드에서 수평과 수직 방향에 적용되는 변환 세트는 다를 수 있다. 도 10(b)는 화면내 예측에서 사용하는 변환 세트 및 변환 세트에 따라 사용할 수 있는 변환 커널 후보를 도시한다. 변환 세트(Transform Set) 0은 {DST-VII, DCT-VIII}로 구성되며, 변환 세트 1은 {DST-VII, DST-I}으로 구성되며, 변환 세트 2는 {DST-VII, DCT-V}로 구성된다. 화면내 예측의 경우, 현재 블록 주변의 복원된 참조 샘플을 활용하여 예측하는 화면내 예측의 특성 상, 참조 샘플과 멀어질수록, 즉, 잔차 신호 블록의 좌상단 좌표를 기준으로 수평 방향과 수직 방향으로 멀어질수록 잔차 신호의 에너지가 증가하는 경향이 있으므로 이를 잘 표현하는 DST-VII이 효과적이다. 따라서 모든 변환 세트에 DST-VII이 포함될 수 있다.
도 10(c)는 화면간 예측에서 사용하는 변환 세트 및 변환 세트에 따라 사용할 수 있는 변환 커널 후보를 도시한다. 화면간 예측의 경우, 사용할 수 있는 변환 세트는 하나이며, 변환 세트 0 {DCT-VIII, DST-VII}으로 구성된다.
AMT는 휘도 성분에만 적용 가능하며, 색차 성분에 대해서는 HEVC와 같이 DCT-II 변환을 사용할 수 있다. 부호화 유닛 단위에서 AMT를 컨트롤할 수 있도록 1-bit 플래그로 온(on)/오프(off)를 지시할 수 있으며, 이 플래그가 오프를 지시할 경우 색차 성분과 같이 기본 커널인 DCT-II를 사용할 수 있다. 반면 이 플래그가 온을 지시하는 경우, 예측 모드에 따라 기 설정된 변환 세트 내에서 사용하는 변환 후보 인덱스를 시그널링하여 복호화기에서 인덱스에 해당하는 변환 커널을 적용하여 역변환을 수행할 수 있다. 수평과 수직 방향에 각기 다른 변환을 적용할 수 있으므로 각각 1-bit씩 총 2-bit로 사용하는 변환 인덱스를 지시할 수 있다. 화면내 예측의 경우, 해당 블록에 AMT를 적용함을 나타내는 플래그가 온(on)이라도 0이 아닌(non-zero) 계수의 개수에 따라 변환 후보 인덱스를 시그널링하지 않을 수도 있다. 예를 들어, 0이 아닌 계수의 개수가 하나 또는 둘인 경우 변환 후보 인덱스를 시그널링하지 않으며 이때에는 수평, 수직 방향 모두 DST-VII을 사용하여 부호화/복호화한다.
도 11은 도 9에서 정의한 DCT-II, DCT-V, DCT-VIII, DST-I, DST-VII 변환의 0 번째(해당 변환 커널의 가장 저주파 성분) 기저 함수를 도시한 도면이다. 도 9에서 정의한 DCT/DST의 변환 기저 함수인 Ti(j)에 대해 N이 8이고, i가 0일 때의 그래프로써, 가로축은 변환 기저 함수 내의 인덱스 j (j=0, 1, …, N-1)을 나타내며, 세로축은 신호의 크기 값을 나타낸다.
도 11에 도시된 바와 같이 DST-VII은 인덱스 j가 증가할수록 신호가 증가하는 경향을 보이므로 화면내 예측과 같이 잔차 신호 블록 내에서 블록의 좌상단 좌표를 기준으로 수평, 수직 방향으로의 거리가 멀어질수록 잔차 신호의 에너지가 증가하는 잔차 신호의 패턴에 효율적일 수 있다.
반면, DCT-VIII의 경우, 인덱스 j가 증가할수록 신호의 크기가 감소하는 패턴을 보이므로 잔차 신호 블록 내에서 블록의 좌상단 좌표를 기준으로 수평, 수직 방향으로의 거리가 멀어질수록 잔차 신호의 에너지가 감소하는 잔차 신호의 패턴에 효율적일 수 있다.
DST-I의 경우, 기저 함수 내의 인덱스 j가 증가할수록 신호가 증가하다가 특정 인덱스를 기점으로 신호의 크기가 감소하는 형태를 보인다. 따라서 잔차 블록 내의 중앙으로 이동할수록 잔차 신호의 에너지가 증가하는 잔차 신호의 패턴에 효율적일 수 있다.
DCT-II의 경우, 0 번째 기저 함수는 DC를 나타내며, 화면간 예측과 같이 잔차 블록 내의 화소 값 분포가 균일한 잔차 신호의 패턴에 효율적일 수 있다.
DCT-V의 경우, DCT-II와 유사하지만 j가 0일 때의 값이 j가 0이 아닐 때의 값보다 작은 값을 가지므로 j가 1일 때 직선이 꺾이는 형태의 신호 모형을 가진다.
DCT-II만을 주요하게 사용한 기존의 비디오 코덱의 경우, 예측 모드와 원본 신호의 특성에 따라 달라지는 잔차 신호의 패턴에 적응적으로 변환을 수행할 수 없으므로 최적의 부호화 효율을 달성할 수 없으나, 다양한 변환 커널을 예측 모드에 따라 달리 사용하여 잔차 신호의 패턴에 최적화된 변환 커널을 선택하여 변환 부호화를 수행하는 AMT의 경우 높은 압축 효율을 기대할 수 있다. AMT와 마찬가지로, 다중 변환 선택(multiple transform selection, MTS) 기술은 예측 모드에 따라 적응적으로 변환 커널을 선택하여 부호화 효율을 향상시킬 수 있는 변환 부호화 방법이다.
도 12는 본 발명의 일 실시예에 따른 MTS에서 사용되는 변환 커널과 예측 모드에 따라 정의되는 변환 세트 및 변환 커널 후보를 도시한다. 도 12(a)는 MTS에서 사용되는 DCT-II, DCT-VIII, DST-VII 커널을 구성하는 기저 함수의 수식을 나타낸 것이다. DCT와 DST는 각각 코사인, 사인의 함수로 표현이 가능하며, 샘플 수 N에 대한 변환 커널의 기저 함수를 Ti(j)로 표현할 경우, 인덱스 i는 주파수 도메인에서의 인덱스를 나타내며, 인덱스 j는 기저 함수 내의 인덱스를 나타낸다. 즉, i가 작아질수록 저주파 기저 함수를 나타내며, i가 커질수록 고주파 기저 함수를 나타낸다. 기저 함수 Ti(j)는 2차원 행렬로 표현했을 때, i 번째 행의 j 번째 요소를 나타낼 수 있으며, 도 12(a)에 도시한 변환 커널은 모두 분리 가능한 특성을 가지고 있으므로, 잔차 신호 X에 대하여 수평 방향과 수직 방향에 각각 변환을 수행할 수 있다. 즉, 잔차 신호 블록을 X라 하고, 변환 커널 행렬을 T라 했을 때, 잔차 신호 X에 대한 변환은 TXT’으로 나타낼 수 있다. 이때, T’는 변환 커널 행렬 T의 전치(transpose) 행렬을 의미한다.
도 9에서 전술한 바와 같이, 기저 함수에 의해 정의되는 변환 매트릭스의 값들은 정수 형태가 아닌 소수 형태일 수 있다. 비디오 인코딩 장치 및 디코딩 장치에 하드웨어적으로 소수 형태의 값들을 구현하기 어려울 수 있다. 따라서 소수 형태의 값들을 포함하는 원형(original) 변환 커널로부터 정수 근사화된 변환 커널이 비디오 신호의 인코딩 및 디코딩에 사용될 수 있다. 정수 형태의 값들을 포함하는 근사화된 변환 커널은 원형 변형 커널에 대한 스케일링 및 라운딩을 통해 생성될 수 있다. 근사화된 변환 커널이 포함하는 정수 값은 기 설정된 개수의 비트로 표현 가능한 범위 내의 값일 수 있다. 기 설정된 개수의 비트는 8-bit 또는 10-bit일 수 있다. 근사화에 따라 DCT와 DST의 정규 직교 (orthonormal) 성질은 유지되지 않을 수 있다. 그러나, 이에 따른 부호화 효율 손실이 크지 않으므로, 변환 커널을 정수 형태로 근사화 시키는 것이 하드웨어적 구현 측면에서 유리할 수 있다.
도 12(b), (c)는 화면내 예측 모드에 따른 변환 세트 및 변환 세트에 따라 정의되는 변환 커널 후보를 나타낸 도면이다. 화면내 예측은 부호화 유닛 주변의 복원된 참조 샘플을 활용하여 무방향성 예측 { INTRA_PLANAR (0번 모드), INTRA_DC (1번 모드) }, 방향성 예측 { INTRA_ANGULAR2, INTRA_ANGULAR3, …, INTRA_ANGULAR66 }으로 구성될 수 있으며, 추가적으로 직사각형 블록에 적용되는 광각 예측 모드 및 색차 성분 신호를 복원된 휘도 신호로부터 예측하는 CCLM(cross-component linear model)을 포함할 수 있다. 이러한 화면내 예측의 방법에 따라 잔차 신호 블록의 수평 방향과 수직 방향의 패턴이 다를 수 있으므로, 예측 모드에 따라 사용할 수 있는 변환 커널 세트를 정의하고, 세트 내에서 사용하는 변환 후보 인덱스를 시그널링하여 복호화기에서는 부호화기에서 찾은 최적의 변환 커널을 적용하여 역변환을 수행할 수 있다. 도 12(b)는 67개의 화면내 예측 모드를 사용하는 경우, 예측 모드에 따라 정의되는 변환 세트 인덱스를 도시한 것이며, V(vertical)은 수직 방향에 적용하는 변환 세트를 나타내며, H(horizontal)은 수평 방향으로 적용하는 변환 세트를 의미한다. 화면내 예측 모드에 따라 다른 변환 세트를 사용할 수 있으며, 특정 예측 모드에서 수평과 수직 방향에 적용되는 변환 세트는 다를 수 있다. 도 12(c)는 화면내 예측에서 사용하는 변환 세트 및 변환 세트에 따라 사용할 수 있는 변환 커널 후보를 도시한다. 변환 세트(Transform Set) 0, 1, 2 모두 {DST-VII, DCT-VIII}로 구성된다. 즉, 화면내 예측 모드에 상관없이 하나의 변환 세트를 사용 (모든 화면내 예측 모드에 동일한 변환 커널 후보 사용)하는 것으로 해석할 수 있으나, AMT와 같이 변환 세트 각각이 모두 다른 변환 커널 후보로 구성될 수도 있다. 변환 커널 매트릭스는 실수 형태의 원형 매트릭스로부터 정수 형태로 근사화될 수 있으며, 이는 8-bit 또는 10-bit 정밀도로 표현될 수 있다. 이러한 모든 변환 커널은 부호화기, 복호화기에 미리 메모리에 저장되어야 하므로 변환 커널의 종류가 늘어날수록 부호화기, 복호화기의 메모리 부담이 커진다. 따라서 부호화 효율 성능에 가장 큰 영향을 미치는 DCT-II, DCT-VIII, DST-VII에 기반하는 변환 커널만을 사용하여 변환 커널 저장에 필요한 메모리 용량을 줄일 수 있다.
도 12(d)는 화면간 예측에서 사용되는 변환 세트 및 변환 세트에 따라 사용될 수 있는 변환 커널 후보를 도시한다. 화면간 예측의 경우, 사용될 수 있는 변환 세트는 하나이며, 변환 세트 0 {DST-VII, DCT-VIII}으로 구성된다.
MTS는 휘도 성분에만 적용 가능하며, 색차 성분에 대해서는 DCT-II 변환을 사용할 수 있다. 부호화 유닛 단위에서 MTS를 컨트롤할 수 있도록 1-bit 플래그로 온(on)/오프(off)를 지시할 수 있으며, 이 플래그가 오프를 지시할 경우 색차 성분과 같이 기본 커널인 DCT-II가 수평 방향과 수직 방향에 적용될 수 있다. 반면 이 플래그가 온을 지시하는 경우, 예측 모드에 따라 기 설정된 변환 세트 내에서 사용하는 변환 후보 인덱스를 시그널링하여 복호화기에서 인덱스에 해당하는 변환 커널을 적용하여 역변환을 수행할 수 있다. 수평과 수직 방향에 각기 다른 변환을 적용할 수 있으므로 각각 1-bit씩 총 2-bit로 사용하는 변환 인덱스를 지시할 수 있다. 또는 절삭형 단항(truncated unary) 이진화 방법을 사용하여 변환 인덱스를 지시할 수 있다. 예를 들어, DST-VII, DCT-VIII 두 커널을 사용할 수 있는 경우, 현재 블록에 적용 가능한 변환 커널 조합은 4가지이며, 인코더는 이를 다음과 같이 디코더로 시그널링할 수 있다.
{수평: DST-VII, 수직: DST-VII}, 0
{수평: DCT-VIII, 수직: DST-VII}, 10
{수평: DST-VII, 수직: DCT-VIII}, 110
{수평: DCT-VIII, 수직: DCT-VIII}, 111
MTS에서 통계적으로 {수평: DST-VII, 수직: DST-VII} 조합이 선택될 확률이 높으므로, 고정 길이의 2-bit를 사용하여 변환 커널을 시그널링하는 것보다 상기 기술한 절삭형 단항 이진화 방법을 사용하여 변환 커널을 시그널링할 경우, 부호화 효율 향상을 기대할 수 있다.
변환 커널을 지시하는 다른 실시예로, MTS를 컨트롤하는 1-bit 온(on)/오프(off) 플래그와 변환 커널을 나타내는 인덱스가 하나의 신택스 요소로 시그널링 될 수 있다. 예를 들어, mts_idx는 절삭형 단항 이진화 방법을 사용하여 이진 코드로 표현될 수 있으며, 수평 방향 및 수직 방향에 적용되는 변환 커널을 지시할 수 있다.
mts_idx가 0인 경우(이진 코드 0), 수평 방향과 수직 방향에 모두 DCT-II에 기반하는 기본 커널이 적용되는 것을 나타낼 수 있다.
mts_idx가 1인 경우(이진 코드 10), 수평 방향과 수직 방향에 모두 DST-VII에 기반하는 커널이 적용되는 것을 나타낼 수 있다.
mts_idx가 2인 경우(이진 코드 110), 수평 방향에는 DCT-VIII에 기반하는 커널이 적용되는 것을 나타낼 수 있으며, 수직 방향에는 DST-VII에 기반하는 커널이 적용되는 것을 나타낼 수 있다.
mts_idx가 3인 경우(이진 코드 1110), 수평 방향에는 DST-VII에 기반하는 커널이 적용되는 것을 나타낼 수 있으며, 수직 방향에는 DCT-VIII에 기반하는 커널이 적용되는 것을 나타낼 수 있다.
mts_idx가 4인 경우(이진 코드 1111), 수평 방향과 수직 방향에 모두 DCT-VIII에 기반하는 커널이 적용되는 것을 나타낼 수 있다.
도 7 내지 도 8에서 전술한 1차 변환 및 역 1차 변환의 경우, 분리 가능한 변환 커널에 대하여 2차원 행렬로 표현하여 수직 방향과 수평 방향에 각각 변환을 수행하는 것이므로 2차원 행렬 곱 연산을 두 차례 수행하는 것으로 볼 수 있다. 이는 많은 연산량을 수반하므로 구현 관점에서 문제가 될 수 있다. 따라서 구현 관점에서 DCT-II와 같이 버터플라이 구조(butterfly structure) 또는 하프 버터플라이 구조(half butterfly structure)와 하프 매트릭스 곱셈기(half matrix multiplier)의 조합 구조를 사용하여 연산량을 줄일 수 있는지 또는 해당 변환 커널을 구현 복잡도가 낮은 변환 커널들로 분해가 가능한지 (복잡도가 낮은 행렬들의 곱으로 해당 커널을 표현할 수 있는지)가 중요한 이슈가 될 수 있다. 그리고 변환 커널의 요소(변환 커널의 행렬 요소)들은 연산을 위해 메모리에 저장되어 있어야하므로, 커널 행렬 저장을 위한 메모리 용량도 구현에 고려되어야 한다. 이러한 관점에서 보았을 때, DST-VII과 DCT-VIII의 구현 복잡도는 높은 편이므로 DST-VII, DCT-VIII과 유사한 특성을 보이면서 구현 복잡도가 낮은 변환은 DST-VII과 DCT-VIII을 대체할 수 있다.
DST-IV(discrete sine transform type-IV)와 DCT-IV(discrete cosine transform type-IV)는 각각 DST-VII, DCT-VIII을 대체할 수 있는 후보로 볼 수 있다. 샘플 수 2N에 대한 DCT-II 커널은 샘플 수 N에 대한 DCT-IV 커널을 포함하고 있고, 샘플 수 N에 대한 DST-IV 커널은 샘플 수 N에 대한 DCT-IV 커널로부터 간단한 연산인 부호 반전과 해당 기저 함수를 역순으로 정렬함으로써 구현할 수 있으므로, 샘플수 2N에 대한 DCT-II로부터 간단하게 샘플수 N에 대한 DST-IV와 DCT-IV를 유도할 수 있다.
도 13은 본 발명의 일 실시예에 따른 DST-IV, DCT-IV 기저 함수의 정의와 DCT-II, DCT-IV, DCT-VIII, DST-IV, DST-VII의 0 번째 (가장 낮은 주파수 성분) 기저 함수의 그래프를 도시한 도면이다. 도 12(a), 도 13(a) 에서 정의한 DCT/DST의 변환 기저 함수인 Ti(j)에 대해 N이 8이고, i가 0일 때의 그래프로써, 가로축은 변환 기저 함수 내의 인덱스 j (j=0, 1, …, N-1)을 나타내며, 세로축은 신호의 크기 값을 나타낸다.
DST-IV와 DST-VII은 유사한 신호 모형으로, 인덱스 j가 증가할수록 신호가 증가하는 경향을 보이므로 화면내 예측과 같이 잔차 신호 블록 내에서 블록의 좌상단 좌표를 기준으로 수평, 수직 방향으로의 거리가 멀어질수록 잔차 신호의 에너지가 증가하는 잔차 신호의 패턴에 효율적일 수 있다.
DCT-IV와 DCT-VIII은 유사한 신호 모형으로, 인덱스 j가 증가할수록 신호의 크기가 감소하는 패턴을 보이므로 잔차 신호 블록 내에서 블록의 좌상단 좌표를 기준으로 수평, 수직 방향으로의 거리가 멀어질수록 잔차 신호의 에너지가 감소하는 잔차 신호의 패턴에 효율적일 수 있다.
잔차 신호의 패턴은 예측 방법뿐만 아니라, 블록의 크기에도 영향을 받으므로 이를 고려하여 변환 커널 세트를 구성할 수 있다. 4-point(4개의 잔차 신호 픽셀)에 대해서는 DST-VII/DCT-VIII보다 DST-IV/DCT-IV가 더 효율적으로 잔차 신호를 표현할 수 있는 경향이 있으므로 4x4 DST-VII 커널을 4x4 DST-IV 커널로 대체하고, 4x4 DCT-VIII 커널을 4x4 DCT-IV 커널로 대체할 수 있다. 나머지 크기의 변환 커널은 도 12에서 기술한 DST-VII, DCT-VIII을 사용할 수 있다.
원본 신호와 예측 신호의 차이인 잔차 신호는 예측 방법에 따라 신호의 에너지 분포가 변하는 특성을 보이므로, AMT 또는 MTS와 같이 예측 방법에 따라 변환 커널을 적응적으로 선택할 경우 부호화 효율을 향상시킬 수 있다. 또한 도 7 내지 도 8에서 전술한 바와 같이, 1차 변환 및 역 1차 변환(1차 변환에 상응하는 역변환) 이외에 추가적인 변환인 2차 변환 및 역 2차 변환(2차 변환에 상응하는 역변환)을 수행하여 부호화 효율을 향상시킬 수 있다. 이러한 2차 변환은 특히 잔차 신호 블록의 수평 또는 수직 방향이 아닌 방향으로 강한 에너지가 존재할 가능성이 높은 화면내 예측된 잔차 신호 블록에 대하여 에너지 압축(energy compaction)을 향상시킬 수 있다. 전술한 바와 같이, 이러한 2차 변환은 저대역 비-분리 변환(Low Frequency Non-Separable Transform, LFNST)으로 지칭될 수 있다. 그리고, 상기 1차 변환은 코어 변환(core transform)으로 지칭될 수 있다.
도 14는 본 발명의 일 실시예에 따른 2차 변환을 수행하는 복호화기에서 잔차 신호를 복원하는 과정을 도시하는 블록도이다. 먼저, 엔트로피 코더는 비트스트림으로부터 잔차 신호와 관련된 syntax 요소를 파싱하고 역이진화를 통해 양자화 계수가 획득될 수 있다. 복원된 양자화 계수에 역양자화를 수행하여 변환 계수를 획득할 수 있으며, 변환 계수에 역 변환을 수행하여 잔차 신호 블록을 복원할 수 있다. 역변환은 변환 생략(transform skip, TS)이 적용되지 않는 블록에 적용될 수 있으며, 역변환은 복호화기에서 2차 역변환, 1차 역변환 순으로 수행될 수 있다. 이때, 2차 역변환은 생략될 수도 있으며, 2차 역변환이 생략될 수 있는 조건은 화면간 예측된 블록일 수 있다. 또는 블록 크기 조건에 따라 2차 역변환이 생략될 수 있다. 복원된 잔차 신호는 양자화 오차가 포함된 것으로, 2차 변환은 잔차 신호의 에너지 분포를 변화시킴으로써 1차 변환만을 수행했을 때보다 양자화 오차를 줄일 수 있다.
도 15는 본 발명의 일 실시예에 따른 2차 변환을 수행하는 복호화기에서 잔차 신호를 복원하는 과정을 블록 레벨에서 도시하는 도면이다. 잔차 신호의 복원은 변환 유닛(transform unit, TU) 또는 TU 내의 서브-블록 단위로 수행될 수 있다. 도 15는 2차 변환이 적용되는 잔차 신호 블록의 복원 과정을 도시한 것으로, 역양자화된 변환 계수 블록에 대하여 2차 역변환이 먼저 수행될 수 있다. TU 내의 WxH (W: 너비, 수평 샘플 수, H: 높이, 수직 샘플 수)개의 모든 샘플들에 대하여 2차 역변환을 수행할 수도 있지만, 복잡도를 고려하여 가장 영향력이 높은 저 주파 영역인 좌-상단 W’xH’ 크기의 서브-블록에 대해서만 2차 역변환을 수행할 수도 있다. 이때, W’은 W보다 작거나 같고, H’은 H보다 작거나 같다. 좌 상단 서브-블록 사이즈인 W’xH’은 TU 크기에 따라 다르게 설정될 수 있다. 예를 들어, min(W, H)=4인 경우, W’와 H’는 모두 4로 설정될 수 있고, min(W, H)>=8인 경우, W’와 H’는 모두 8로 설정될 수 있다. min(x, y)는 x가 y보다 작거나 같은 경우 x를 반환하고, x가 y보다 큰 경우 y를 반환하는 연산을 나타낸다. 2차 역변환을 수행한 후, TU 내의 좌-상단 W’xH’ 크기의 서브-블록 변환 계수를 획득할 수 있고, 전체 WxH 크기의 변환 계수 블록에 대하여 1차 역변환을 수행하여 잔차 신호 블록을 복원할 수 있다.
2차 변환을 수행하는지 여부는 시퀀스 파라미터 세트(sequence parameter set, SPS), 픽쳐 파라미터 세트(picture parameter set, PPS), 픽쳐 헤더, 슬라이스 헤더, 타일 그룹 헤더 등의 상위 레벨 신택스(High Level Syntax, HLS) RBSP 중의 적어도 어느 하나에 1-bit 플래그 형태로 포함되어 지시될 수 있다. 추가적으로, 2차 변환을 수행하는 경우, 2차 변환에서 고려하는 좌 상단 서브-블록의 사이즈를 지시할 수도 있다. 예를 들어, 4x4, 8x8 크기의 서브-블록을 고려하는 2차 변환의 경우, 8x8 크기의 서브-블록을 사용할 수 있는지를 1-bit 플래그로 지시할 수 있다.
HLS에서 2차 변환을 수행하는 것이 지시되는 경우, 부호화 유닛(coding unit, CU) 레벨에서 2차 변환의 적용 여부가 1-bit 플래그로 지시될 수 있다. 또한 현재 블록에 2차 변환이 적용되는 경우, 2차 변환에 사용되는 변환 커널을 나타내는 인덱스가 지시될 수 있으며, 예측 모드에 따라 기 설정된 변환 커널 세트 내에서 해당 인덱스가 지시하는 변환 커널을 사용하여 2차 변환을 수행할 수 있다. 변환 커널을 나타내는 인덱스는 절삭형 단항 또는 고정 길이 이진화 방법을 사용하여 이진화될 수 있다. CU 레벨에서 2차 변환의 적용 여부를 나타내는 1-bit 플래그와 변환 커널을 지시하는 인덱스는 하나의 신택스 요소를 사용하여 지시될 수도 있으며, 본 발명에서는 이를 st_idx로 지칭하나, 본 발명이 이러한 명칭에 제한되지 않는다. 예를 들어, 상기 st_idx는 2차 변환 인덱스, LFNST 인덱스로 지칭될 수 있다. 실시예로서, st_idx의 첫 번째 비트는 CU 레벨에서 2차 변환의 적용 여부를 나타낼 수 있으며, 나머지 비트는 2차 변환에서 사용하는 변환 커널을 지시하는 인덱스를 나타낼 수 있다. 이러한 st_idx는 컨텍스트(context)에 따라 적응적으로 부호화하는 CABAC(context adeptive binary arithmetic coding), CAVLC (context adaptive variable length coding) 등의 엔트로피 코더를 사용하여 부호화될 수 있다. 현재 CU에 대하여 CU 크기보다 작은 다수의 TU로 분할되는 경우, 2차 변환은 적용되지 않을 수 있고, 2차 변환과 관련된 신택스 요소인 st_idx는 시그널링 없이 0으로 설정될 수 있다. 예를 들어, st_idx가 0인 경우, 2차 변환이 사용되지 않는 것을 나타낼 수 있다. 반면, st_idx가 0보다 큰 경우, 2차 변환이 적용되는 것을 나타낼 수 있으며, st_idx에 기초하여 2차 변환에 사용되는 변환 커널이 선택될 수 있다.
전술한 바와 같이, 멀티-타입 트리의 리프 노드는 코딩 유닛이 될 수 있다. 코딩 유닛이 최대 변환 길이에 비해 크지 않은 경우, 해당 코딩 유닛은 더 이상의 분할 없이 예측 및/또는 변환의 단위로 사용될 수 있다. 일 실시예로서, 현재 코딩 유닛의 너비 또는 높이가 최대 변환 길이보다 큰 경우, 현재 코딩 유닛은 분할에 관한 명시적 시그널링 없이 복수의 변환 유닛으로 분할될 수 있다. 코딩 유닛의 크기가 최대 변환 크기보다 큰 경우 시그널링 없이 복수 개의 변환 블록으로 분할될 수 있다. 이 경우 2차 변환을 적용하게 되면 성능 저하 및 복잡도가 증가할 수 있기 때문에, 2차 변환이 적용되는 최대 코딩 블록(또는 코딩 블록의 최대 크기)을 제한할 수 있다. 최대 코딩 블록의 크기는 최대 변환 크기와 같을 수 있다. 또는 기 설정된 코딩 블록의 크기로 정의될 수 있다. 일 실시예로서, 기 설정된 값은 64, 32, 16일 수 있으나, 본 발명이 이에 한정되지 않는다. 이때, 기 설정된 값(또는 최대 변환 크기)와 비교되는 값은 긴 변의 길이 또는 총 샘플의 개수로 정의될 수 있다.
한편, 1차 변환에서 사용하는 DCT-II, DST-VII, DCT-VIII 커널은 분리 가능한 특성을 가지므로, NxN 크기의 잔차 블록 내 샘플들에 대하여 수직/수평 방향으로의 두 번의 변환이 수행될 수 있으며, 변환 커널의 사이즈는 NxN일 수 있다. 반면, 2차 변환의 경우, 변환 커널이 분리 불가능한 특성을 가지므로 2차 변환에서 고려되는 샘플 수가 nxn인 경우, 한번의 변환이 수행될 수 있으며, 변환 커널의 사이즈는 (n^2)x(n^2)일 수 있다. 예를 들어, 좌-상단 4x4 계수 블록에 2차 변환을 수행하는 경우, 16x16 크기의 변환 커널이 적용될 수 있으며, 좌-상단 8x8 계수 블록에 2차 변환을 수행하는 경우, 64x64 크기의 변환 커널이 적용될 수 있다. 64x64 크기의 변환 커널은 많은 양의 곱셈 연산을 수반하므로, 인코더와 디코더에 큰 부담이 될 수 있다. 따라서, 2차 변환에서 고려되는 샘플 수를 줄일 경우, 연산량과 변환 커널 저장에 필요한 메모리를 줄일 수 있다.
도 16은 본 발명의 일 실시예에 따른 감소된 샘플 수를 이용하는 2차 변환을 적용하는 방법을 도시한 도면이다. 본 발명의 실시예에 따르면, 2차 변환은 2차 변환 커널 행렬과 1차 변환된 계수 벡터의 곱으로 표현될 수 있으며, 1차 변환된 계수를 또 다른 공간으로 매핑하는 것으로 해석할 수 있다. 이때, 2차 변환되는 계수의 개수를 줄일 경우, 즉, 2차 변환 커널을 구성하는 기저 벡터의 수를 줄일 경우, 2차 변환에서 필요한 연산량과 변환 커널 저장에 필요한 메모리 용량을 줄일 수 있다. 예를 들어, 좌-상단 8x8 계수 블록에 2차 변환을 수행할 때, 2차 변환되는 계수의 개수를 16개로 줄이는 경우, 16(행)x64(열) 크기(또는 16(행)x48(열) 크기)의 2차 변환 커널이 적용될 수 있다. 인코더의 변환부는 변환 커널 매트릭스를 구성하는 각각의 행 벡터와 1차 변환된 계수 벡터와의 내적(inner product)을 통해 2차 변환된 계수 벡터를 획득할 수 있다. 인코더 및 디코더의 역변환부는 변환 커널 매트릭스를 구성하는 각각의 열 벡터와 2차 변환된 계수 벡터와의 내적을 통해 1차 변환된 계수 벡터를 획득할 수 있다.
도 16을 참조하면, 인코더는 먼저 잔차 신호 블록에 대하여 1차 변환(forward primary transform)을 수행하여 1차 변환된 계수 블록을 얻을 수 있다. 1차 변환된 계수 블록의 사이즈를 MxN이라 하였을 때, min(M, N)의 값이 4인 인트라 예측된 블록에 대하여, 1차 변환된 계수 블록의 좌-상단 4x4 샘플들에 4x4 2차 변환(forward secondary transform)이 수행될 수 있다. min(M, N)의 값이 8 이상인 인트라 예측된 블록에 대해서는, 1차 변환된 계수 블록의 좌-상단 8x8 샘플들에 8x8 2차 변환이 수행될 수 있다. 8x8 2차 변환의 경우, 많은 연산량과 메모리를 수반하므로, 8x8 샘플들 중의 일부만이 활용될 수도 있다. 일 실시예에서, 부호화 효율 향상을 위하여, min(M,N)의 값이 4이고, M 또는 N이 8보다 큰 직사각형 블록에 대하여 (예를 들어, 4x16, 16x4 크기의 직사각형 블록), 1차 변환된 계수 블록 내 두 개의 좌-상단 4x4 서브 블록에 각각 4x4 2차 변환이 수행될 수도 있다.
2차 변환은 2차 변환 커널 행렬과 입력 벡터의 곱으로 계산이 될 수 있으므로, 먼저 1차 변환된 계수 블록의 좌-상단 서브 블록 내의 계수들을 벡터 형태로 구성할 수 있다. 벡터로 구성하는 방법은 인트라 예측 모드에 의존적일 수 있다. 예를 들어, 인트라 예측 모드가 앞서 도 6에서 도시한 인트라 예측 모드 중에서, 34번 각도 모드 이하인 경우, 1차 변환된 계수 블록의 좌-상단 서브 블록을 수평 방향으로 스캔하여 계수들을 벡터로 구성할 수 있다. 1차 변환된 계수 블록의 좌-상단 nxn 블록의 i번째 행, j번째 열의 원소를 x_ij라고 표현할 경우, 벡터화된 계수는 [x_00,x_01, ..., x_0n-1, x_10, x_11, …, x_1n-1, ..., x_n-10, x_n-11, ..., x_n-1n-1]로 표현할 수 있다. 반면, 인트라 예측 모드가 34번 각도 모드보다 큰 경우, 1차 변환된 계수 블록의 좌-상단 서브 블록을 수직 방향으로 스캔하여 계수들을 벡터로 구성할 수 있다. 벡터화된 계수는 [x_00, x_10, ..., x_n-10, x_01, x_11, ..., x_n-11, ..., x_0n-1, x_1n-1, ..., x_n-1n-1]로 표현될 수 있다. 연산량을 줄이기 위하여, 8x8 2차 변환에서 8x8 샘플들 중의 일부만을 활용하는 경우, 상기 기술한 벡터 구성 방법에서 i>3이고 j>3인 계수 x_ij는 포함되지 않을 수도 있다. 이 경우, 4x4 2차 변환에서는 16개의 1차 변환된 계수가 2차 변환의 입력으로 고려될 수 있으며, 8x8 2차 변환에서는 48개의 1차 변환된 계수가 2차 변환의 입력으로 고려될 수 있다.
벡터화된 1차 변환 계수 블록의 좌-상단 서브 블록 샘플들은 2차 변환 커널 매트릭스와의 곱을 통해 2차 변환된 계수들을 획득할 수 있으며, 2차 변환 커널은 변환 유닛의 사이즈, 인트라 모드, 변환 커널을 지시하는 신택스 요소에 따라 결정될 수 있다. 전술한 바와 같이, 2차 변환되는 계수의 개수를 줄일 경우, 연산량과 변환 커널 저장에 필요한 메모리를 줄일 수 있으므로, 현재 변환 블록의 사이즈에 따라 2차 변환되는 계수의 개수를 결정할 수 있다. 예를 들어, 4x4 블록의 경우, 길이가 16인 벡터와 8(행)x16(열) 변환 커널 매트릭스의 곱을 통해 길이가 8인 계수 벡터를 획득할 수 있다. 8(행)x16(열) 변환 커널 매트릭스는 16(행)x16(열) 변환 커널 매트릭스를 구성하는 첫 번째 기저 벡터부터 여덟 번째 기저 벡터에 기초하여 획득될 수 있다. 4xN 또는 Mx4 블록(N과 M은 8 이상)의 경우, 길이가 16인 벡터와 16(행)x16(열) 변환 커널 매트릭스의 곱을 통해 길이가 16인 계수 벡터를 획득할 수 있다. 8x8 블록의 경우, 길이가 48인 벡터와 8(행)x48(열) 변환 커널 매트릭스의 곱을 통해 길이가 8인 계수 벡터를 획득할 수 있다. 8(행)x48(열) 변환 커널 매트릭스는 16(행)x48(열) 변환 커널 매트릭스를 구성하는 첫 번째 기저 벡터부터 여덟 번째 기저 벡터에 기초하여 획득될 수 있다. 8x8을 제외한 MxN 블록(M과 N은 8 이상)의 경우, 길이가 48인 벡터와 16(행)x48(열) 변환 커널 매트릭스의 곱을 통해 길이가 16인 계수 벡터를 획득할 수 있다.
본 발명의 일 실시예에 따르면, 2차 변환된 계수들은 벡터 형태이므로, 2차원 형태의 데이터로 표현될 수 있다. 기 설정된 스캔 순서에 따라 2차 변환된 계수들은 좌-상단 계수 서브-블록으로 구성될 수 있다. 일 실시예에서, 기 설정된 스캔 순서는 우상측 대각(up-right diagonal) 스캔 순서일 수 있다. 본 발명은 이에 국한되지 않으며, 우상측 대각 스캔 순서는 후술하는 도 17, 도 18에서 기술하는 방법에 기초하여 결정될 수 있다.
또한, 본 발명의 일 실시예에 따르면, 2차 변환된 계수들을 포함하는 전체 변환 유닛 크기의 변환 계수들은 양자화(quantization) 이후, 비트스트림에 포함되어 전송될 수 있다. 비트스트림은 2차 변환과 관련된 신택스 요소를 포함할 수 있다. 구체적으로, 비트스트림은 현재 블록에 2차 변환이 적용되는지 여부에 관한 정보 및 상기 현재 블록에 적용되는 변환 커널을 지시하는 정보를 포함할 수 있다.
디코더는 먼저 비트스트림으로부터 양자화된 변환 계수들을 파싱할 수 있고, 역-양자화(de-quantization)를 통해 변환 계수들을 획득할 수 있다. 역-양자화는 스케일링(scaling)으로 지칭될 수 있다. 디코더는 2차 변환과 관련된 신택스 요소에 기반하여 현재 블록에 2차 역변환이 수행될지를 결정할 수 있다. 현재 변환 유닛에 2차 역변환이 적용되는 경우, 변환 유닛의 사이즈에 따라 8개 또는 16개의 변환 계수가 2차 역변환의 입력이 될 수 있으며, 이는 인코더의 2차 변환에서 출력되는 계수의 개수와 일치할 수 있다. 예를 들어, 변환 유닛의 사이즈가 4x4 또는 8x8인 경우, 8개의 변환 계수가 2차 역변환의 입력이 될 수 있으며, 그렇지 않은 경우, 16개의 변환 계수가 2차 역변환의 입력이 될 수 있다. 변환 유닛의 크기가 MxN일 때, min(M, N)의 값이 4인 인트라 예측된 블록에 대하여 변환 계수 블록의 좌-상단 4x4 서브 블록의 16개 또는 8개의 계수에 4x4 2차 역변환이 수행될 수 있다. min(M, N)이 8 이상인 인트라 예측된 블록에 대해서는 변환 계수 블록의 좌-상단 4x4 서브 블록의 16개 또는 8개의 계수에 8x8 2차 역변환이 수행될 수 있다. 일 실시예에서, 부호화 효율 향상을 위하여 min(M,N)이 4이고, M 또는 N이 8보다 큰 경우 (예를 들어, 4x16, 16x4 크기의 직사각형 블록), 변환 계수 블록 내 두 개의 좌-상단 4x4 서브 블록에 각각 4x4 2차 역변환이 수행될 수도 있다.
본 발명의 일 실시예에 따르면, 2차 역변환은 2차 역변환 커널 행렬과 입력 벡터의 곱으로 계산이 될 수 있으므로, 디코더는 먼저 입력이 되는 역-양자화된 변환 계수 블록을 기 설정된 스캔 순서에 따라 벡터 형태로 구성할 수 있다. 일 실시예에서, 기 설정된 스캔 순서는 우상측 대각(up-right diagonal) 스캔 순서일 수 있으며, 본 발명은 이에 국한되지 않으며, 우상측 대각 스캔 순서는 후술하는 도 17, 도 18에서 기술하는 방법에 기초하여 결정될 수 있다.
또한, 본 발명의 일 실시예에 따르면, 디코더는 벡터화된 변환 계수와 2차 역변환 커널 매트릭스의 곱을 통해 1차 변환된 계수를 획득할 수 있다. 이때, 2차 역변환 커널은 변환 유닛의 사이즈, 인트라 모드, 변환 커널을 지시하는 신택스 요소에 따라 결정될 수 있다. 2차 역변환 커널 행렬은 2차 변환 커널 행렬의 전치 행렬일 수 있으며, 구현의 복잡도를 고려하여 커널 행렬의 원소는 10-bit 또는 8-bit 정확도로 표현되는 정수일 수 있다. 현재 변환 블록의 사이즈에 기초하여 2차 역변환의 출력이 되는 벡터의 길이가 결정될 수 있다. 예를 들어, 4x4 블록의 경우, 길이가 8인 벡터와 8(행)x16(열) 변환 커널 매트릭스의 곱을 통해 길이가 16인 계수 벡터를 획득할 수 있다. 8(행)x16(열) 변환 커널 매트릭스는 16(행)x16(열) 변환 커널 매트릭스를 구성하는 첫 번째 기저 벡터부터 여덟 번째 기저 벡터에 기초하여 획득될 수 있다. 4xN 또는 MxN 블록(N과 M은 8 이상)의 경우, 길이가 16인 벡터와 16(행)x16(열) 변환 커널 매트릭스의 곱을 통해 길이가 16인 계수 벡터를 획득할 수 있다. 8x8 블록의 경우, 길이가 8인 벡터와 8(행)x48(열) 변환 커널 매트릭스의 곱을 통해 길이가 48인 계수 벡터를 획득할 수 있다. 8(행)x48(열) 변환 커널 매트릭스는 16(행)x48(열) 변환 커널 매트릭스를 구성하는 첫 번째 기저 벡터부터 여덟 번째 기저 벡터에 기초하여 획득될 수 있다. 8x8을 제외한 MxN 블록(M과 N은 8 이상)의 경우, 길이가 16인 벡터와 16(행)x48(열) 변환 커널 매트릭스의 곱을 통해 길이가 48인 계수 벡터를 획득할 수 있다.
일 실시예에서, 2차 역변환을 통해 획득한 1차 변환 계수는 벡터 형태이므로, 디코더는 이를 다시 2차원 형태의 데이터로 표현할 수 있으며, 이는 인트라 모드에 의존적일 수 있다. 인코더에서 적용한 인트라 모드에 기반하는 매핑 관계를 동일하게 적용할 수 있다. 전술한 바와 같이, 인트라 예측 모드가 34번 각도 모드 이하인 경우, 2차 역변환된 계수 벡터를 수평 방향으로 스캔하여 2차원 형태의 변환 계수 어레이를 획득할 수 있으며, 인트라 예측 모드가 34번 각도 모드보다 큰 경우, 2차 역변환된 계수 벡터를 수직 방향으로 스캔하여 2차원 형태의 변환 계수 어레이를 획득할 수 있다. 2차 역변환을 수행하여 획득한 변환 계수를 포함하는 전체 변환 유닛 사이즈의 변환 계수 블록에 대하여 1차 역변환을 수행하여 잔차 신호를 획득할 수 있다.
도 16에서는 도시하지 않았으나, 변환 또는 역변환 이후 변환 커널로 인해 증가하는 스케일을 보정해 주기 위하여, 비트 쉬프트 연산을 이용한 스케일링 과정이 포함될 수도 있다.
도 17은 본 발명의 일 실시예에 따른 우상측 대각(up-right diagonal) 스캔 순서의 결정 방법을 예시하는 도면이다. 본 발명의 실시예에 따르면, 인코딩 또는 디코딩 시에 스캔 순서를 초기화하는 과정이 수행될 수 있다. 블록 사이즈에 따라 스캔 순서 정보를 포함하는 배열의 초기화가 수행될 수 있다. 구체적으로, log2BlockWidth, log2BlockHeight 조합에 대하여 1<<log2BlockWidth, 1<<log2BlockHeight을 입력으로 하는 도 17에 도시된 우상측 대각 스캔 순서 배열 초기화 과정이 호출(또는 수행)될 수 있다. 우상측 대각 스캔 순서 배열 초기화 과정의 출력은 DiagScanOrder[log2BlockWidth][log2BlockHeight]에 할당될 수 있다. 여기서, log2BlockWidth 및 log2BlockHeight는 각각 블록의 너비 및 높이에 대하여 밑이 2이 로그를 취한 값을 나타내는 변수를 나타내며, [0, 4] 범위의 값일 수 있다.
도 17에 도시된 우상측 대각 스캔 순서 배열 초기화 과정을 통해, 인코더/디코더는 입력 받은 블록의 너비인 blkWidth, 블록의 높이인 blkHeight에 대하여 배열 diagScan[sPos][sComp]를 출력할 수 있다. 배열의 인덱스인 sPos는 스캔 포지션을 나타낼 수 있으며, [0, blkWidth*blkHeight-1] 범위의 값일 수 있다. 배열의 인덱스인 sComp가 0인 경우, 수평 컴포넌트(x)를 나타낼 수 있으며, sComp가 1인 경우, 수직 컴포넌트(y)를 나타낼 수 있다. 도 17에 도시된 알고리즘은 우상측 대각 스캔 순서에 의하여 스캔 포지션 sPos일 때의 2차원 좌표 상의 x 좌표 값, y좌표 값이 각각 diagScan[sPos][0], diagScan[sPos][1]에 할당되는 것으로 해석할 수 있다. 즉, DiagScanOrder[log2BlockWidth][log2BlockHeight][sPos][sComp] 배열(또는 어레이)에 저장된 값은 블록의 너비와 높이가 각각 1<< log2BlockWidth, 1<< log2BlockHeight인 블록의 우상측 대각 스캔 순서에서 sPos 스캔 위치일 때의 sComp에 해당하는 좌표 값을 의미할 수 있다.
도 18은 본 발명의 일 실시예에 따른 우상측 대각 스캔 순서를 블록 사이즈에 따라 나타낸 도면이다. 도 18(a)를 참조하면, log2BlockWidth와 log2BlockHeight가 모두 2인 경우, 4x4 크기의 블록을 의미할 수 있다. 도 18(b)를 참조하면, log2BlockWidth와 log2BlockHeight가 모두 3인 경우, 8x8 크기의 블록을 의미할 수 있다. 도 18에서, 회색 음영 영역에 표시된 숫자는 스캔 위치 sPos를 나타낸다. sPos 위치에서의 x 좌표 값, y 좌표 값이 각각 DiagScanOrder[log2BlockWidth][log2BlockHeight][sPos][0], DiagScanOrder[log2BlockWidth][log2BlockHeight][sPos][1]에 할당될 수 있다.
인코더/디코더는 상기 기술한 스캔 순서에 기반하여 변환 계수 정보를 코딩할 수 있다. 본 발명에서는 우상측 스캔 방법이 사용되는 경우에 기반하는 실시예를 위주로 기술하나, 본 발명이 이에 제한되는 것은 아니며, 이외에 공지된 다른 스캔 방법에 대해서도 적용될 수 있다.
이하에서는, 2차 변환과 관련된 디코딩 과정을 상세히 기술한다. 설명의 편의를 위해 2차 변환과 관련된 과정을 디코더를 위주로 설명하나, 이하에서 설명하는 실시예는 실질적으로 동일한 방법으로 인코더에 적용될 수 있다.
본 발명의 일 실시예에 따르면, 2차 변환의 변환 과정(transform process)는 다음의 변수를 입력 받을 수 있다.
- (xTbY, yTbY): 현재 루마 변환 블록의 좌-상단 루마 샘플 위치(또는 좌표)를 나타내며, 현재 픽쳐의 좌-상단 루마 샘플에 대한 상대적인 위치일 수 있다.
- nTbW, nTbH: 각각 현재 변환 블록의 너비와 높이를 나타낸다.
- cIdx: 현재 블록의 컬러 성분을 의미하는 변수를 나타내며, cIdx가 0일 때는 루마 Y, 1일 때는 크로마 Cb, 2일 때는 크로마 Cr을 의미할 수 있다.
- d[x][y]: (nTbW)x(nTbH) 사이즈의 배열로서, 변환 계수 어레이를 나타낸다. 이때, x는 [0, nTbW-1], y는 [0, nTbH-1]의 범위일 수 있다.
본 실시예에 따른 변환 과정은 (nTbW)x(nTbH) 사이즈의 잔차 샘플 배열인 r[x][y]를 출력할 수 있으며, 이때, x는 [0, nTbW-1], y는 [0, nTbH-1]의 범위일 수 있다.
일 실시예에서, 현재 블록에 2차 변환이 적용되는지는 2차 변환 인덱스(또는 LFNST 인덱스)를 나타내는 신택스 요소 st_idx[xTbY][yTbY]의 값에 따라 결정될 수 있다. 예를 들어, st_idx[xTbY][yTbY]의 값이 0보다 큰 경우, 2차 변환과 관련된 디코딩 과정이 수행될 수 있으며, st_idx[xTbY][yTbY]의 값이 0인 경우, 2차 변환은 수행(또는 적용)되지 않고, 1차 변환만이 수행될 수 있다. 추가적인 실시예로서, st_idx[xTbY][yTbY]의 값이 0보다 크더라도, 현재 처리되는 컬러 성분에 따라 2차 변환과 관련된 디코딩 과정은 수행되지 않을 수 있다. 2차 변환이 적용되는 경우, 디코더에서는 2차 역변환 및 1차 역변환이 수행된 이후에 레지듀얼 샘플이 획득될 수 있으므로, 1차 역변환만이 적용될 때에 비해 지연 시간이 증가될 수 있다. 특히, 2차 변환을 수행함으로써 발생하는 지연 시간은 루마와 크로마 성분이 모두 존재할 수 있는 싱글 트리(single tree) 부호화 구조(루마와 크로마 성분이 동일한 코딩 트리로 부호화 되는 구조)에서 가장 크므로, 싱글 트리 부호화 구조에서 크로마 변환 블록에서는 st_idx[xTbY][yTbY]가 0보다 크더라도 2차 역변환은 적용되지 않을 수 있다.
본 발명의 일 실시예에서, st_idx[xTbY][yTbY]의 값이 0보다 큰 경우, 다음과 같이 변환 과정에 관련된 변수가 설정될 수 있다.
- nTbW와 nTbH가 모두 8 이상인 경우, log2StSize는 3, nStOutSize는 48로 설정될 수 있다. 그렇지 않은 경우, log2StSize는 2, nStOutSize는 16으로 설정될 수 있다. log2StSize는 2차 변환이 적용되는 사이즈에 밑이 2인 로그를 취한 값을 나타내는 변수이다. log2StSize가 2인 경우, 4x4 2차 변환이 적용되는 것을 나타낼 수 있으며, log2StSize가 3인 경우, 8x8 2차 변환이 적용되는 것을 나타낼 수 있다. nStOutSize는 2차 변환에 의해 출력되는 샘플 수를 나타내는 변수이다.
- nStSize는 (1<<log2StSize)로 설정될 수 있다. 여기서, nStSize는 2차 변환이 적용되는 사이즈를 나타내는 변수이다.
- log2SbSize는 서브 블록의 크기를 나타내는 변수로서, 2로 설정될 수 있다.
- nTbH가 4이고, nTbW가 8보다 큰 경우, 변수 numStX는 2로 설정될 수 있고, 그렇지 않은 경우 1로 설정될 수 있다. 여기서, numStX는 2차 변환의 입력이 되는 수평 방향으로의 서브 블록 수를 나타내는 변수이다.
- nTbW가 4이고, nTbH가 8보다 큰 경우, 변수 numStY는 2로 설정될 수 있고, 그렇지 않은 경우 1로 설정될 수 있다. 여기서, numStY는 2차 변환의 입력이 되는 수직 방향으로의 서브 블록 수를 나타내는 변수이다.
- nTbW와 nTbH가 모두 4이거나, nTbW와 nTbH가 모두 8인 경우, 즉, 4x4 또는 8x8 블록인 경우 nonZeroSize는 8로 설정될 수 있으며, 그렇지 않은 경우 16으로 설정될 수 있다. 여기서, nonZeroSize는 2차 변환의 입력이 되는 계수 벡터의 사이즈를 나타내는 변수이다.
상기 설정된 변수에 기반하여, 수평 방향의 서브 블록 인덱스인 xSbIdx가 0에서 numStX-1까지, 수직 방향의 서브 블록 인덱스인 ySbIdx가 0에서 numStY-1까지 다음의 과정이 적용될 수 있다. 다만, 본 발명이 이에 제한되는 것은 아니며, 좌상측 1개의 서브 블록(또는 좌상측 미리 정의된 특정 영역)에 대해서만 2차 변환이 적용되는 경우에도 동일하게 다음의 과정이 적용될 수 있다.
- 배열 u[x]는 2차 변환의 입력이 되는 계수 벡터로서, x는 [0, nonZeroSize-1]의 범위일 수 있다. 본 실시예에 따른 변환 과정의 입력이 되는 스케일링된 변환 계수(scaled transform coefficient)(또는 역 양자화된 변환 계수)인 d[xC][yC]는 2차원 배열(또는 어레이)로서, 디코더는 d[xC][yC]의 전체 샘플 중 스캔 오더에 따라 nonZeroSize 개의 샘플을 u[x]에 할당할 수 있다. 여기서, nonZeroSize는 입력 벡터의 길이 또는 입력 벡터가 포함할 수 있는 유효 계수의 최대 개수를 나타내는 변수이다. xC와 yC 인덱스 설정에서, 배열 u의 인덱스인 x는 스캔 순서 상의 스캔 포지션을 의미할 수 있다. 디코더는 DiagScanOrder[log2SbSize][log2SbSize][x][0]의 값을 통해 스캔 위치 x에 대한 서브 블록 내의 x 좌표 값을 획득하고, 이에 기초하여 xC를 결정할 수 있다. 일 실시예에서, 디코더는 DiagScanOrder[log2SbSize][log2SbSize][x][0]의 값을 통해 스캔 위치 x에 대한 서브 블록 내의 x 좌표 값을 xC로 결정할 수 있다. 다른 일 실시예에서, 디코더는 서브 블록의 좌-상단 x 좌표 값에 (xSbIdx<<log2StSize)을 더함으로써 xC를 결정할 수 있다. 마찬가지로, DiagScanOrder[log2SbSize][log2SbSize][x][1]의 값을 통해 스캔 위치 x에 대한 서브 블록 내의 y 좌표 값을 획득하고, 이에 기초하여 yC를 결정할 수 있다.
일 실시예에서, 디코더는 DiagScanOrder[log2SbSize][log2SbSize][x][1]의 값을 통해 스캔 위치 x에 대한 서브 블록 내의 y 좌표 값을 yC로 결정할 수 있다. 다른 일 실시예에서, 서브 블록의 좌-상단 y 좌표 값에 (ySbIdx<<log2StSize)를 더함으로써 yC를 결정할 수 있다. 디코더는 x가 0에서 nonZeroSize-1까지 u[x]에 d[xC][yC]를 할당할 수 있다. 이때, 스캔 순서는 우상측 대각(up-right diagonal) 스캔 순서일 수 있으며, 앞서 도 17 및 도 18에서 설명한 방법이 적용될 수 있다. 일 실시예에서, 배열 u[x]는 다음의 수학식 1에 기초하여 결정(또는 유도)될 수 있다.
Figure PCTKR2020001853-appb-img-000001
일 실시예에서, 스캔 순서를 결정하기 위한 엘리먼트 중의 하나인 블록 사이즈는 항상 4x4 (즉, log2SbSize=2)로 정의될 수 있다. 다시 말해, 수학식 1의 log2SbSize는 2로 정의(또는 설정)될 수 있다.
또한, 전술한 바와 같이, 좌상측 1개의 서브 블록(또는 좌상측 미리 정의된 특정 영역)에 대해서만 2차 변환이 적용될 수 있고(즉, xSbIdx=0이고, ySbIdx=0인 영역 ), 이 경우, 배열 u[x]는 다음의 수학식 2에 기초하여 결정(또는 유도)될 수 있다.
Figure PCTKR2020001853-appb-img-000002
수학식 2에서, 스캔 순서를 결정하기 위한 엘리먼트 중의 하나인 블록 사이즈는 항상 4x4 (즉, log2SbSize=2)로 정의될 수 있다. 다시 말해, 수학식 2의 log2SbSize는 2로 정의(또는 설정)될 수 있다.
본 발명의 다른 실시예에 따르면, 디코더는 xC, yC를 결정하기 위하여 DiagScanOrder의 인자를 [log2StSize][log2StSize]로 설정할 수도 있다. 이때, 변환 블록의 사이즈가 8x8 보다 큰 경우, 도 18(b)에 도시된 바와 같이, 첫 번째 서브 블록 (x=0, 1, …, 9, 11, 12, 13), 두 번째 서브 블록 (x=10, 15), 세 번째 서브 블록 (x=14) 내의 d[xC][yC]가 u[x]로 할당될 수 있다. 이 경우, 변환 블록의 크기에 따라 좌상단(top-left) 서브 블록 내에 위치하지 않는 변환 계수가 2차 변환을 위한 입력으로 할당되는 문제가 발생한다. 반면에, 전술한 본 발명의 실시예에서와 같이, DiagScanOrder의 인자를 [log2SbSize][log2SbSize]로 설정하는 경우, 첫 번째 서브 블록 (x=0, 1, 2, …, 15) (즉, 좌상단 서브 블록) 내의 d[xC][yC]가 u[x]로 할당될 수 있고, 상술한 문제점을 해결할 수 있다.
- 상기 설정된 배열 u[x] (x의 범위는 [0, nonZeroSize-1])는 후술하는 도 19의 2차 변환 과정(secondary transform process)에 의해 배열 v[x] (x의 범위는 [0, nStOutSize-1])로 변환될 수 있다. 이때, 상기 2차 변환 과정은 변환 입력(transform input) 길이인 nonZeroSize, 변환 출력(transform output) 길이인 nStOutSize, 역 양자화된 변환 계수인 u[x] (길이는 nonZeroSize-1이며, x의 범위는 [0, nonZeroSize-1]), 현재 블록의 화면내 예측 모드인 stPredModeIntra, st_idx[xTbY][yTbY]를 입력 받을 수 있으며, 변환된 계수 v[x] (길이는 nStOutSize이며, x의 범위는 [0, nStOutSize-1])를 출력할 수 있다.
- 2차 변환 과정의 출력인 배열 v[x]는 다음과 같이, 인트라 예측 모드에 따라 d[(xSbIdx<<log2StSize)+x][(ySbIdx<<log2StSize)+y]로 할당될 수 있으며, x와 y의 범위는 모두 [0, nStSize-1]일 수 있다.
- 아래의 수학식 3에 기반하면, 인트라 모드가 34 이하인 경우, y<4 이거나 y>=4 && x<4일 때에는 v를 수평 방향으로 순차적으로 (수평방향으로 스캔하여) 할당할 수 있다. x>=4 && y>=4 일 때에는 v를 d에 할당하지 않을 수 있다.
Figure PCTKR2020001853-appb-img-000003
- 아래의 수학식 4에 기반하면, 인트라 모드가 34보다 큰 경우, y<4 이거나 y>=4 && x<4일 때에는 v를 수직 방향으로 순차적으로 (수직 방향으로 스캔하여) 할당할 수 있다. x>=4 && y>=4일 때에는 v를 d에 할당하지 않을 수 있다.
Figure PCTKR2020001853-appb-img-000004
도 19는 본 발명의 실시예에 따른 2차 변환 과정의 일 예를 나타내는 도면이다. 도 19를 참조하면, 본 발명의 일 실시예에 따른 2차 변환 과정은 다음의 변수를 입력 받을 수 있다.
- nTrS: 변환 출력 길이를 지시하는 변수를 나타낸다.
- nonZeroSize: 변환 입력 길이를 지시하는 변수를 나타낸다.
- x[j]: 배열 x[j]는 변환 입력을 나타내며, j는 [0, nonZeroSize-1] 범위일 수 있다.
- stPredModeIntra: 현재 블록의 인트라 예측 모드를 지시하는 변수를 나타내며, 변환 커널 세트의 인덱스 결정에 이용될 수 있다.
- stIdx: 상기 stPredModeIntra에 기반하여 특정 변환 커널 세트를 결정할 수 있으며, stIdx에 기반하여 변환 커널 세트 내의 특정 변환 커널을 선택할 수 있다. 즉, stIdx는 stPredModeIntra에 기초하여 결정된 특정 변환 커널 세트 내 현재 블록의 2차 변환에 이용되는 특정 변환 커널을 지시하는 인덱스를 나타낸다.
본 실시예에 따른 2차 변환 과정은 변환 출력 샘플(transform output sample) 배열인 y[i]를 출력할 수 있으며, i의 범위는 [0, nTrS-1]일 수 있다. 2차 변환 과정에서는 먼저 후술하는 도 20의 변환 매트릭스 유도 과정(transform matrix derivation process)이 수행될 수 있다. 이때, 변환 매트릭스 유도 과정은 변환 출력 길이를 나타내는 nTrS, 변환 커널 세트를 위한 인트라 예측 모드 stPredModeIntra, 변환 커널 세트 내의 변환 커널을 지시하는 인덱스 stIdx를 입력 받을 수 있다. 그리고, 상기 변환 매트릭스 유도 과정은 변환 커널 행렬인 secTransMatrix를 출력할 수 있다. 이때, 출력되는 secTransMatrix는 (nTrS)x(nonZeroSize) 크기일 수 있으며, secTransMatrix의 요소는 정수일 수 있다. 변환 출력의 i번째 요소인 y[i]는 secTransMatrix의 i번째 열과 변환 입력 배열 x의 내적을 이용하여 계산될 수 있다. 이때, 실시예로서, 클리핑 연산을 통해 계산 결과가 최소 계수 값 CoeffMin과 최대 계수 값 CoeffMax 사이의 값으로 클리핑될 수 있다. 도 19의 Clip3(x, y, z) 연산에서, z가 x보다 작을 때, 연산의 결과는 x로 설정되며, z가 y보다 클 때, 연산의 결과는 y로 설정될 수 있다. 그렇지 않은 경우에는 x로 설정될 수 있다. 일 실시예에서, 변환 계수는 기 설정된 정밀도로 표현될 수 있으며, 상기 기 설정된 정밀도는 16 비트일 수 있다. 이 경우, CoeffMin, CoeffMax는 각각 ?(2^16), (2^16)-1로 설정될 수 있다.
도 20은 본 발명의 일 실시예에 따른 2차 변환 매트릭스 유도 과정을 예시하는 도면이다. 본 발명의 일 실시예에 따르면, 2차 변환 매트릭스 유도 과정은 다음과 같은 변수를 입력 받을 수 있다.
- nTrS: 변환 출력 길이를 지시하는 변수를 나타낸다.
- stPredModeIntra는 현재 블록의 인트라 예측 모드를 지시하는 변수를 나타내며, 변환 커널 세트의 인덱스 결정에 이용될 수 있다.
- stIdx: 선택된 변환 커널 세트 내 변환 커널을 지시하는 인덱스를 나타낸다.
본 발명의 일 실시예에 따른 2차 변환 커널 세트의 결정은 인트라 모드(또는 인트라 예측 모드)에 의존적일 수 있다. 예를 들어, 도 20에 도시된 표와 같이, 인코더/디코더는 인트라 모드를 4개의 모드 그룹들로 그룹핑할 수 있다. 각 그룹에 대한 변환 커널 세트는 stTrSetIdx로 지시(또는 할당)될 수 있다. 또한, 4x4 2차 변환 커널인지, 8x8 2차 변환 커널인지는 nTrS 변수로 지시될 수 있다. nTrS는 변환 출력 길이를 지시하는 변수이다. stTrSetIdx에 의해 지시되는 변환 커널 세트 내에서 nTrS 변수가 지시하는 사이즈의 변환 커널 중 stIdx 번째 변환 커널 매트릭스가 secTransMatrix로 출력될 수 있다. 이때, nTrS는 16 또는 48일 수 있다. 예를 들어, 현재 블록의 인트라 예측 모드가 INTRA_DC 모드인 경우, stPredModeIntra는 1이며, 0번째 변환 커널 세트가 선택될 수 있다. 이때, nTrS가 16이고 stIdx가 1인 경우, 4x4 2차 변환 커널들 중 첫 번째 변환 커널 행렬이 출력될 수 있다. 또 다른 예로, 인트라 모드가 INTRA_LT_CCLM (81), INTRA_L_CCLM (82), INTRA_T_CCLM (83)인 경우, stTrSetIdx는 1이 아닌 0으로 결정될 수 있으며, 이는 0번째 변환 커널 세트가 사용됨을 나타낼 수 있다.
변환 커널 세트를 결정하는 다른 실시예로서, 인트라 모드가 홀수인지 짝수인지에 따라 인트라 모드를 그룹핑할 수 있다. 방향성 인트라 모드에 대하여, stPredModeIntra <= 80 이고, stPredModeIntra가 홀수인 경우 stTrSetIdx는 1로 할당될 수 있다. 또한, stPredModeIntra <= 80이고, stPredModeIntra가 짝수인 경우, stTrSetIdx를 2로 할당될 수 있다. stPredModeIntra가 0, 1, 81, 82, 83 중의 하나일 경우, stTrSetIdx는 0으로 할당될 수 있다.
또한, 할당될 변환 커널 세트를 결정하는 다른 실시예로서, 인코더/디코더는 CCLM 모드들에 대한 stTrSetIdx를 다르게 할당할 수 있다. INTRA_L_CCLM (82)의 경우 현재 블록과 인접한 좌측의 복원된 크로마 샘플들과 이에 상응하는 루마 샘플들 간의 선형 관계를 유도하여 예측에 사용하므로, 현재 블록과 인접한 좌측의 복원된 샘플들을 참조 샘플로써 활용하는 INTRA_ANGULAR_18 (18) 모드와 잔차 신호의 패턴이 유사할 수 있다. 또한, INTRA_T_CCLM (83)의 경우 현재 블록과 인접한 상측의 복원된 크로마 샘플들과 이에 상응하는 루마 샘플들 간의 선형 관계를 유도하여 예측에 사용하므로, 현재 블록과 인접한 상측의 복원된 샘플들을 참조 샘플로써 활용하는 INTRA_ANGULAR_50 (50) 모드와 잔차 신호의 패턴이 유사할 수 있다. 따라서, 도 20에 도시된 표에서, 인코더/디코더는 stPredModeIntra가 81 (INTRA_LT_CCLM)인 경우 stTrSetIdx를 0으로 설정하고, stPredModeIntra가 82 (INTRA_L_CCLM) 또는 83 (INTRA_T_CCLM)인 경우 stTrSetIdx를 2로 설정할 수 있다.
또한, 변환 커널 세트를 결정하는 다른 실시예로서, 모든 인트라 모드가 동일한 변환 커널 세트를 사용할 수 있다. 즉, 사용되는 변환 커널은 인트라 모드에 의존적이지 않고, nTrS와 stIdx에 의해서 결정될 수 있으며, nTrS가 지시하는 크기의 변환 커널들 중 stIdx 번째 변환 커널이 선택될 수 있다.
또한, 변환 커널 세트를 결정하는 다른 실시예로서, 인트라 모드에 기반하지 않고, 1차 변환에 적용되는 변환 커널에 기반하여 변환 커널 세트가 결정될 수 있다. 예를 들어, 수평, 수직 방향 모두에 DST-VII이 적용되는 경우 stTrSetIdx는 1로 설정될 수 있다. 수평, 수직 방향 중 한쪽 방향에만 DST-VII이 적용되는 경우 stTrSetIdx는 2로 설정될 수 있다. 그렇지 않은 경우, stTrSetIdx는 0으로 설정될 수 있다.
도 21은 본 발명의 일 실시예를 따른 비디오 신호 처리 방법을 나타내는 흐름도이다. 도 21을 참조하면, 설명의 편의를 위해 디코더를 위주로 설명하나 본 발명이 이에 제한되는 것은 아니며, 본 실시예에 따른 비디오 신호 처리 방법은 인코더에도 실질적으로 동일한 방법으로 적용될 수 있다.
디코더는 현재 블록에 이차 변환(또는 이차 역변환)이 적용되는지 여부를 결정한다(S2101). 전술한 바와 같이, 상기 이차 변환은 저대역 비-분리 변환(Low Frequency Non-Separable Transform, LFNST)으로 지칭될 수 있다. 상기 이차 변환은 인코더 측을 기준으로 일차 변환(primary transform)이 적용된 후에 적용될 수 있다. 즉, 상기 이차 변환은 명칭에도 불구하고 디코더 측을 기준으로 일차 변환보다 앞서 적용되는 변환을 나타낼 수 있다.
디코더는 상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도한다(S2102).
디코더는 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정한다(S2103).
디코더는 상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성한다(S2104).
디코더는 상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성한다(S2105).
전술한 바와 같이, 상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받아 수행될 수 있다.
또한, 전술한 바와 같이, 상기 이차 역변환된 블록을 생성하는 단계는, 우상측 대각(up-right diagonal) 스캔 순서에 기초하여 상기 역양자화된 변환 계수를 상기 이차 역변환의 입력 계수 배열에 할당하는 단계를 포함할 수 있다.
또한, 전술한 바와 같이, 상기 우상측 대각 스캔 순서는 4x4 크기의 블록에 대한 스캔 순서로 미리 정의될 수 있다.
또한, 전술한 바와 같이, 상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하는 단계는, 미리 정의된 조건을 만족하는 경우, 상기 현재 블록에 이차 변환이 적용되는지 여부를 지시하는 신택스 요소를 획득하는 단계를 포함할 수 있다. 전술한 바와 같이, 상기 신택스 요소는 2차 변환 인덱스, LFNST 인덱스로 지칭될 수 있다. 실시예로서, 상기 미리 정의된 조건은 상기 현재 블록의 너비(width) 및 높이(height)가 최대 변환 크기보다 작거나 같은지 여부를 포함할 수 있다.
또한, 전술한 바와 같이, 상기 현재 블록에 이차 변환이 적용되는지 여부를 결정하는 단계는, 상기 미리 정의된 조건을 만족하지 않는 경우, 상기 신택스 요소를 0으로 추론하는 단계를 포함할 수 있다.
또한, 전술한 바와 같이, 상기 신택스 요소의 값이 0인 경우, 상기 현재 블록에 이차 변환이 적용되지 않는 것으로 결정되고, 상기 신택스 요소의 값이 0이 아닌 경우, 상기 신택스 요소의 값에 따라 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널이 결정될 수 있다.
또한, 전술한 바와 같이, 상기 현재 블록의 너비 또는 높이가 상기 최대 변환 크기보다 큰 경우, 상기 현재 블록은 복수의 변환 유닛으로 분할될 수 있다.
상술한 본 발명의 실시예들은 다양한 수단을 통해 구현될 수 있다. 예를 들어, 본 발명의 실시예들은 하드웨어, 펌웨어(firmware), 소프트웨어 또는 그것들의 결합 등에 의해 구현될 수 있다.
하드웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 하나 또는 그 이상의 ASICs(Application Specific Integrated Circuits), DSPs(Digital Signal Processors), DSPDs(Digital Signal Processing Devices), PLDs(Programmable Logic Devices), FPGAs(Field Programmable Gate Arrays), 프로세서, 컨트롤러, 마이크로 컨트롤러, 마이크로 프로세서 등에 의해 구현될 수 있다.
펌웨어나 소프트웨어에 의한 구현의 경우, 본 발명의 실시예들에 따른 방법은 이상에서 설명된 기능 또는 동작들을 수행하는 모듈, 절차 또는 함수 등의 형태로 구현될 수 있다. 소프트웨어 코드는 메모리에 저장되어 프로세서에 의해 구동될 수 있다. 상기 메모리는 프로세서의 내부 또는 외부에 위치할 수 있으며, 이미 공지된 다양한 수단에 의해 프로세서와 데이터를 주고받을 수 있다.
일부 실시예는 컴퓨터에 의해 실행되는 프로그램 모듈과 같은 컴퓨터에 의해 실행가능한 명령어를 포함하는 기록 매체의 형태로도 구현될 수 있다. 컴퓨터 판독 가능 매체는 컴퓨터에 의해 액세스될 수 있는 임의의 가용 매체일 수 있고, 휘발성 및 비휘발성 매체, 분리형 및 비분리형 매체를 모두 포함한다. 또한, 컴퓨터 판독 가능 매체는 컴퓨터 저장 매체 및 통신 매체를 모두 포함할 수 있다. 컴퓨터 저장 매체는 컴퓨터 판독가능 명령어, 데이터 구조, 프로그램 모듈 또는 기타 데이터와 같은 정보의 저장을 위한 임의의 방법 또는 기술로 구현된 휘발성 및 비휘발성, 분리형 및 비분리형 매체를 모두 포함한다. 통신 매체는 전형적으로 컴퓨터 판독가능 명령어, 데이터 구조 또는 프로그램 모듈과 같은 변조된 데이터 신호의 기타 데이터, 또는 기타 전송 메커니즘을 포함하며, 임의의 정보 전달 매체를 포함한다.
전술한 본 발명의 설명은 예시를 위한 것이며, 본 발명이 속하는 기술분야의 통상의 지식을 가진 자는 본 발명의 기술적 사상이나 필수적인 특징을 변경하지 않고서 다른 구체적인 형태로 쉽게 변형이 가능하다는 것을 이해할 수 있을 것이다. 그러므로 이상에서 기술한 실시예들은 모든 면에서 예시적인 것이며 한정적인 것이 아는 것으로 해석해야 한다. 예를 들어, 단일형으로 설명되어 있는 각 구성 요소는 분산되어 실시될 수도 있으며, 마찬가지로 분산된 것으로 설명되어 있는 구성 요소들도 결합된 형태로 실시될 수 있다.
본 발명의 범위는 상기 상세한 설명보다는 후술하는 특허청구범위에 의하여 나타내어지며, 특허청구범위의 의미 및 범위 그리고 그 균등 개념으로부터 도출되는 모든 변경 또는 변형된 형태가 본 발명의 범위에 포함되는 것으로 해석되어야 한다.

Claims (16)

  1. 비디오 신호 처리 방법에 있어서,
    현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계;
    상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계;
    상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계;
    상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하는 단계; 및
    상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하는 단계를 포함하되,
    상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받는 것을 특징으로 하는, 비디오 신호 처리 방법.
  2. 제1항에 있어서,
    상기 이차 역변환된 블록을 생성하는 단계는,
    우상측 대각(up-right diagonal) 스캔 순서에 기초하여 상기 역양자화된 변환 계수를 상기 이차 역변환의 입력 계수 배열에 할당하는 단계를 포함하는, 비디오 신호 처리 방법.
  3. 제2항에 있어서,
    상기 우상측 대각 스캔 순서는 4x4 크기의 블록에 대한 스캔 순서로 미리 정의되는 것을 특징으로 하는, 비디오 신호 처리 방법.
  4. 제1항에 있어서,
    상기 현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계는,
    미리 정의된 조건을 만족하는 경우, 상기 현재 블록에 이차 변환이 적용되는지 여부를 지시하는 신택스 요소를 획득하는 단계를 포함하고,
    상기 미리 정의된 조건은 상기 현재 블록의 너비(width) 및 높이(height)가 최대 변환 크기보다 작거나 같은지 여부를 포함하는, 비디오 신호 처리 방법.
  5. 제4항에 있어서,
    상기 현재 블록에 이차 역변환이 적용되는지 여부를 결정하는 단계는,
    상기 미리 정의된 조건을 만족하지 않는 경우, 상기 신택스 요소를 0으로 추론하는 단계를 포함하는, 비디오 신호 처리 방법.
  6. 제5항에 있어서,
    상기 신택스 요소의 값이 0인 경우, 상기 현재 블록에 이차 역변환이 적용되지 않는 것으로 결정되고,
    상기 신택스 요소의 값이 0이 아닌 경우, 상기 신택스 요소의 값에 따라 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널이 결정되는, 비디오 신호 처리 방법.
  7. 제4항에 있어서,
    상기 현재 블록의 너비 또는 높이가 상기 최대 변환 크기보다 큰 경우, 상기 현재 블록은 복수의 변환 유닛으로 분할되는 것을 특징으로 하는, 비디오 신호 처리 방법.
  8. 비디오 신호 처리 장치에 있어서,
    프로세서를 포함하며,
    상기 프로세서는,
    현재 블록에 이차 역변환이 적용되는지 여부를 결정하고,
    상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하고,
    상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하고,
    상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하고,
    상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하되,
    상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받는 것을 특징으로 하는, 비디오 신호 처리 장치.
  9. 제8항에 있어서,
    상기 프로세서는,
    우상측 대각(up-right diagonal) 스캔 순서에 기초하여 상기 역양자화된 변환 계수를 상기 이차 역변환의 입력 계수 배열에 할당하는, 비디오 신호 처리 장치.
  10. 제9항에 있어서,
    상기 우상측 대각 스캔 순서는 4x4 크기의 블록에 대한 스캔 순서로 미리 정의되는 것을 특징으로 하는, 비디오 신호 처리 장치.
  11. 제8항에 있어서,
    상기 프로세서는,
    미리 정의된 조건을 만족하는 경우, 상기 현재 블록에 이차 변환이 적용되는지 여부를 지시하는 신택스 요소를 획득하고,
    상기 미리 정의된 조건은 상기 현재 블록의 너비(width) 및 높이(height)가 최대 변환 크기보다 작거나 같은지 여부를 포함하는, 비디오 신호 처리 장치.
  12. 제11항에 있어서,
    상기 프로세서는,
    상기 미리 정의된 조건을 만족하지 않는 경우, 상기 신택스 요소를 0으로 추론하는, 비디오 신호 처리 장치.
  13. 제12항에 있어서,
    상기 신택스 요소의 값이 0인 경우, 상기 현재 블록에 이차 역변환이 적용되지 않는 것으로 결정되고,
    상기 신택스 요소의 값이 0이 아닌 경우, 상기 신택스 요소의 값에 따라 상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널이 결정되는, 비디오 신호 처리 장치.
  14. 제11항에 있어서,
    상기 현재 블록의 너비 또는 높이가 상기 최대 변환 크기보다 큰 경우, 상기 현재 블록은 복수의 변환 유닛으로 분할되는 것을 특징으로 하는, 비디오 신호 처리 장치.
  15. 비디오 신호 처리 방법에 있어서,
    현재 블록에 이차 변환을 적용할지 여부를 결정하는 단계;
    상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하는 단계;
    상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하는 단계;
    상기 현재 블록의 잔차 블록에 대하여 일차 변환을 수행함으로써, 일차 변환된 블록을 생성하는 단계;
    상기 이차 변환 커널을 이용하여 상기 일차 변환된 블록의 좌상단 특정 영역에 대하여 이차 변환을 수행함으로써, 이차 변환된 블록을 생성하는 단계; 및
    상기 이차 변환된 블록을 인코딩함으로써 비트스트림을 생성하는 단계를 포함하되,
    상기 이차 변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 이차 변환된 계수를 변환 계수 배열로 구성함으로써 수행되는 것을 특징으로 하는, 비디오 신호 처리 방법.
  16. 컴퓨팅 디바이스의 하나 이상의 프로세서에서 실행하도록 구성된 컴퓨터 실행 가능한 컴포넌트가 저장된 비 일시적(non-transitory) 컴퓨터 판독 가능한 매체(computer-executable component)로서, 상기 컴퓨터 실행 가능한 컴포넌트는,
    현재 블록에 이차 변환이 적용되는지 여부를 결정하고,
    상기 현재 블록에 상기 이차 변환이 적용되는 경우, 상기 현재 블록의 인트라 예측 모드에 기초하여 미리 정의된 이차 변환 커널 세트들 중에서 상기 현재 블록에 적용되는 이차 변환 커널 세트를 유도하고,
    상기 결정된 이차 변환 커널 세트 내에서 상기 현재 블록에 적용되는 이차 변환 커널을 결정하고,
    상기 이차 변환 커널을 이용하여 상기 현재 블록의 좌상단 특정 영역에 대하여 이차 역변환을 수행함으로써, 이차 역변환된 블록을 생성하고,
    상기 이차 역변환된 블록에 대하여 일차 역변환을 수행함으로써, 상기 현재 블록의 잔차 블록을 생성하되,
    상기 이차 역변환은 상기 이차 변환 커널의 크기와 무관하게 고정된 스캔 순서에 기초하여 역양자화된 변환 계수를 입력 받는 것을 특징으로 하는, 비 일시적 컴퓨터 판독 가능한 매체.
PCT/KR2020/001853 2019-02-08 2020-02-10 이차 변환을 이용하는 비디오 신호 처리 방법 및 장치 Ceased WO2020162737A1 (ko)

Priority Applications (5)

Application Number Priority Date Filing Date Title
KR1020217017610A KR20210114386A (ko) 2019-02-08 2020-02-10 이차 변환을 이용하는 비디오 신호 처리 방법 및 장치
US17/348,227 US11616984B2 (en) 2019-02-08 2021-06-15 Video signal processing method and device using secondary transform
US18/164,460 US11973986B2 (en) 2019-02-08 2023-02-03 Video signal processing method and device using secondary transform
US18/620,899 US12356010B2 (en) 2019-02-08 2024-03-28 Video signal processing method and device using secondary transform
US19/231,346 US20250301173A1 (en) 2019-02-08 2025-06-06 Video signal processing method and device using secondary transform

Applications Claiming Priority (6)

Application Number Priority Date Filing Date Title
KR10-2019-0014736 2019-02-08
KR20190014736 2019-02-08
KR20190035438 2019-03-27
KR10-2019-0035438 2019-03-27
KR20190051052 2019-04-30
KR10-2019-0051052 2019-04-30

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US17/348,227 Continuation US11616984B2 (en) 2019-02-08 2021-06-15 Video signal processing method and device using secondary transform

Publications (1)

Publication Number Publication Date
WO2020162737A1 true WO2020162737A1 (ko) 2020-08-13

Family

ID=71948040

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/KR2020/001853 Ceased WO2020162737A1 (ko) 2019-02-08 2020-02-10 이차 변환을 이용하는 비디오 신호 처리 방법 및 장치

Country Status (3)

Country Link
US (4) US11616984B2 (ko)
KR (1) KR20210114386A (ko)
WO (1) WO2020162737A1 (ko)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022072289A1 (en) * 2020-10-02 2022-04-07 Qualcomm Incorporated Extended low-frequency non-separable transform (lfnst) designs with worst-case complexity handling

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102772255B1 (ko) 2019-02-01 2025-02-25 엘지전자 주식회사 이차 변환에 기반한 영상 코딩 방법 및 그 장치
WO2020175965A1 (ko) 2019-02-28 2020-09-03 주식회사 윌러스표준기술연구소 인트라 예측 기반 비디오 신호 처리 방법 및 장치
WO2020228670A1 (en) 2019-05-10 2020-11-19 Beijing Bytedance Network Technology Co., Ltd. Luma based secondary transform matrix selection for video processing
CN117354521A (zh) * 2019-06-07 2024-01-05 北京字节跳动网络技术有限公司 视频比特流中的简化二次变换的有条件信令
CN114208183B (zh) 2019-08-03 2025-01-10 北京字节跳动网络技术有限公司 视频的缩减二次变换中基于位置的模式导出
WO2021032045A1 (en) 2019-08-17 2021-02-25 Beijing Bytedance Network Technology Co., Ltd. Context modeling of side information for reduced secondary transforms in video
RS67060B1 (sr) * 2019-09-21 2025-08-29 Lg Electronics Inc Kodiranje slike na osnovu transformacije
US20220150518A1 (en) * 2020-11-11 2022-05-12 Tencent America LLC Method and apparatus for video coding
US11930177B2 (en) 2021-10-29 2024-03-12 Tencent America LLC Primary transforms for cross-component level reconstruction
WO2023197195A1 (zh) * 2022-04-13 2023-10-19 Oppo广东移动通信有限公司 视频编解码方法、编码器、解码器及存储介质
US20250330614A1 (en) * 2024-04-22 2025-10-23 Tencent America LLC Intra mode information based on non-conventional intra predictor
US20260006224A1 (en) * 2024-07-01 2026-01-01 Tencent America LLC Adaptive intra secondary transform set selection and signaling

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100095992A (ko) * 2009-02-23 2010-09-01 한국과학기술원 비디오 부호화에서의 분할 블록 부호화 방법, 비디오 복호화에서의 분할 블록 복호화 방법 및 이를 구현하는 기록매체
US20170019686A1 (en) * 2015-07-16 2017-01-19 Mediatek Inc. Partial decoding circuit of video encoder/decoder for dealing with inverse second transform and partial encoding circuit of video encoder for dealing with second transform
KR20170117112A (ko) * 2015-03-06 2017-10-20 한국과학기술원 저 복잡도 변환에 기반한 영상 부호화 및 복호화 방법 및 이를 이용하는 장치
US20180249179A1 (en) * 2017-02-28 2018-08-30 Google Inc. Transform Kernel Selection and Entropy Coding
US20180302631A1 (en) * 2017-04-14 2018-10-18 Mediatek Inc. Secondary Transform Kernel Size Selection

Family Cites Families (26)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
AU2003253900A1 (en) * 2002-07-16 2004-02-02 Thomson Licensing S.A. Interleaving of base and enhancement layers for hd-dvd
CA3007527C (en) 2010-04-13 2020-06-23 Samsung Electronics Co., Ltd. Video encoding method and video encoding apparatus and video decoding method and video decoding apparatus, which perform deblocking filtering based on tree-structure encoding units
WO2012008130A1 (ja) 2010-07-13 2012-01-19 日本電気株式会社 映像符号化装置、映像復号装置、映像符号化方法、映像復号方法及びプログラム
WO2013082291A2 (en) 2011-11-29 2013-06-06 Huawei Technologies Co., Ltd. Unified partitioning structures and signaling methods for high efficiency video coding
CN108632611A (zh) 2012-06-29 2018-10-09 韩国电子通信研究院 视频解码方法、视频编码方法和计算机可读介质
WO2016129980A1 (ko) 2015-02-13 2016-08-18 엘지전자(주) 변환 도메인 예측을 이용하여 비디오 신호를 인코딩, 디코딩하는 방법 및 장치
US10425648B2 (en) 2015-09-29 2019-09-24 Qualcomm Incorporated Video intra-prediction using position-dependent prediction combination for video coding
US10491922B2 (en) 2015-09-29 2019-11-26 Qualcomm Incorporated Non-separable secondary transform for video coding
US10455228B2 (en) 2016-03-21 2019-10-22 Qualcomm Incorporated Determining prediction parameters for non-square blocks in video coding
WO2017192995A1 (en) 2016-05-06 2017-11-09 Vid Scale, Inc. Method and system for decoder-side intra mode derivation for block-based video coding
CN116708776A (zh) 2016-07-18 2023-09-05 韩国电子通信研究院 图像编码/解码方法和装置以及存储比特流的记录介质
WO2018038554A1 (ko) 2016-08-24 2018-03-01 엘지전자(주) 이차 변환을 이용한 비디오 신호의 인코딩/디코딩 방법 및 장치
CN110024399B (zh) 2016-11-28 2024-05-17 韩国电子通信研究院 对图像编码/解码的方法和设备及存储比特流的记录介质
US10674165B2 (en) 2016-12-21 2020-06-02 Arris Enterprises Llc Constrained position dependent intra prediction combination (PDPC)
AU2018230328B2 (en) 2017-03-10 2021-05-06 Hfi Innovation Inc. Method and apparatus of implicit intra coding tool settings with intra directional prediction modes for video coding
US10742975B2 (en) 2017-05-09 2020-08-11 Futurewei Technologies, Inc. Intra-prediction with multiple reference lines
US10805641B2 (en) 2017-06-15 2020-10-13 Qualcomm Incorporated Intra filtering applied together with transform processing in video coding
KR102017379B1 (ko) 2017-07-21 2019-09-02 건국대학교 산학협력단 이미지 벡터 처리를 이용한 해시 암호화 방법 및 장치
ES3030533T3 (en) 2018-06-03 2025-06-30 Lg Electronics Inc Method and device for processing video signal by using reduced transform
EP3840387B1 (en) 2018-10-12 2024-03-06 Guangdong Oppo Mobile Telecommunications Corp., Ltd. Method for encoding/decoding image signal and device for same
CN113170197B (zh) * 2018-12-06 2023-07-18 Lg电子株式会社 基于二次变换的图像编码方法及其装置
CN112514384B (zh) 2019-01-28 2024-12-24 苹果公司 视频信号编码/解码方法及其装置
KR102772255B1 (ko) 2019-02-01 2025-02-25 엘지전자 주식회사 이차 변환에 기반한 영상 코딩 방법 및 그 장치
US12200202B2 (en) 2019-02-21 2025-01-14 Lg Electronics Inc. Image decoding method and apparatus using intra prediction in image coding system
WO2020175965A1 (ko) 2019-02-28 2020-09-03 주식회사 윌러스표준기술연구소 인트라 예측 기반 비디오 신호 처리 방법 및 장치
MX2021016011A (es) 2019-06-25 2022-02-22 Fraunhofer Ges Forschung Decodificador, codificador y metodos que comprenden una codificacion para intra-subparticiones.

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20100095992A (ko) * 2009-02-23 2010-09-01 한국과학기술원 비디오 부호화에서의 분할 블록 부호화 방법, 비디오 복호화에서의 분할 블록 복호화 방법 및 이를 구현하는 기록매체
KR20170117112A (ko) * 2015-03-06 2017-10-20 한국과학기술원 저 복잡도 변환에 기반한 영상 부호화 및 복호화 방법 및 이를 이용하는 장치
US20170019686A1 (en) * 2015-07-16 2017-01-19 Mediatek Inc. Partial decoding circuit of video encoder/decoder for dealing with inverse second transform and partial encoding circuit of video encoder for dealing with second transform
US20180249179A1 (en) * 2017-02-28 2018-08-30 Google Inc. Transform Kernel Selection and Entropy Coding
US20180302631A1 (en) * 2017-04-14 2018-10-18 Mediatek Inc. Secondary Transform Kernel Size Selection

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022072289A1 (en) * 2020-10-02 2022-04-07 Qualcomm Incorporated Extended low-frequency non-separable transform (lfnst) designs with worst-case complexity handling
CN116250233A (zh) * 2020-10-02 2023-06-09 高通股份有限公司 具有最坏情况复杂度处理的扩展低频不可分离变换(lfnst)设计
US11871010B2 (en) 2020-10-02 2024-01-09 Qualcomm Incorporated Extended low-frequency non-separable transform (LFNST) designs with worst-case complexity handling
US12598313B2 (en) 2020-10-02 2026-04-07 Qualcomm Incorporated Extended low-frequency non-separable transform (LFNST) designs with worst-case complexity handling

Also Published As

Publication number Publication date
US20210314619A1 (en) 2021-10-07
KR20210114386A (ko) 2021-09-23
US11616984B2 (en) 2023-03-28
US20230188754A1 (en) 2023-06-15
US20240244263A1 (en) 2024-07-18
US11973986B2 (en) 2024-04-30
US12356010B2 (en) 2025-07-08
US20250301173A1 (en) 2025-09-25

Similar Documents

Publication Publication Date Title
WO2020162737A1 (ko) 이차 변환을 이용하는 비디오 신호 처리 방법 및 장치
WO2020050702A1 (ko) 다중 변환 커널을 사용하는 비디오 신호 처리 방법 및 장치
WO2019125093A1 (ko) 비디오 신호 처리 방법 및 장치
WO2018174593A1 (ko) 적응적인 화소 분류 기준에 따른 인루프 필터링 방법
WO2023277535A1 (ko) 인트라 예측을 이용한 비디오 신호 처리 방법 및 이를 위한 장치
WO2018128322A1 (ko) 영상 처리 방법 및 이를 위한 장치
WO2020009419A1 (ko) 병합 후보를 사용하는 비디오 코딩 방법 및 장치
WO2018044089A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016159610A1 (ko) 비디오 신호 처리 방법 및 장치
WO2016114583A1 (ko) 비디오 신호 처리 방법 및 장치
WO2021125751A1 (ko) 임의의 모양으로 분할되는 블록을 예측하는 방법 및 복호화 장치
WO2020130600A1 (ko) 예측 모드를 시그널링하는 비디오 신호 처리 방법 및 장치
WO2023096472A1 (ko) 비디오 신호 처리 방법 및 이를 위한 장치
WO2023132660A1 (ko) 종속 양자화를 이용한 비디오 신호 처리 방법 및 이를 위한 장치
WO2023043296A1 (ko) Obmc를 이용한 비디오 신호 처리 방법 및 이를 위한 장치
WO2016122251A1 (ko) 비디오 신호 처리 방법 및 장치
WO2024053987A1 (ko) 기하학적 분할을 이용하는 비디오 신호 처리 방법 및 이를 위한 장치
WO2021060801A1 (ko) 영상 부호화/복호화 방법, 장치 및 비트스트림을 저장한 기록 매체
WO2018070788A1 (ko) 영상 부호화 방법/장치, 영상 복호화 방법/장치 및 비트스트림을 저장한 기록 매체
WO2023055147A1 (ko) Mhp(multi-hypothesis prediction)모드에 기초한 비디오 신호 처리 방법 및 이를 위한 장치
WO2018070723A1 (ko) 영상의 부호화/복호화 방법 및 이를 위한 장치
WO2020184936A1 (ko) 비디오 신호의 부호화 또는 복호화 방법 및 장치
WO2024237502A1 (ko) 외삽 기반의 인트라 예측을 위한 방법
WO2016204479A1 (ko) 영상의 부호화/복호화 방법 및 이를 위한 장치
WO2020256510A1 (ko) 코딩 툴들을 제어하는 방법 및 장치

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 20752933

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 20217017610

Country of ref document: KR

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

122 Ep: pct application non-entry in european phase

Ref document number: 20752933

Country of ref document: EP

Kind code of ref document: A1

WWR Wipo information: refused in national office

Ref document number: 1020217017610

Country of ref document: KR

WWC Wipo information: continuation of processing after refusal or withdrawal

Ref document number: 1020217017610

Country of ref document: KR