WO2010074068A1 - 逆量子化方法、逆量子化装置及びプログラム - Google Patents

逆量子化方法、逆量子化装置及びプログラム Download PDF

Info

Publication number
WO2010074068A1
WO2010074068A1 PCT/JP2009/071303 JP2009071303W WO2010074068A1 WO 2010074068 A1 WO2010074068 A1 WO 2010074068A1 JP 2009071303 W JP2009071303 W JP 2009071303W WO 2010074068 A1 WO2010074068 A1 WO 2010074068A1
Authority
WO
WIPO (PCT)
Prior art keywords
quantized
video
vector
values
inverse
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2009/071303
Other languages
English (en)
French (fr)
Inventor
慶一 蝶野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to EP09834869.1A priority Critical patent/EP2381684A4/en
Priority to JP2010544076A priority patent/JP5447871B2/ja
Priority to CN2009801525856A priority patent/CN102265616B/zh
Priority to US13/142,303 priority patent/US9240802B2/en
Publication of WO2010074068A1 publication Critical patent/WO2010074068A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • H—ELECTRICITY
    • H03—ELECTRONIC CIRCUITRY
    • H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
    • H03M7/00—Conversion of a code where information is represented by a given sequence or number of digits to a code where the same, similar or subset of information is represented by a different sequence or number of digits
    • H03M7/30—Compression; Expansion; Suppression of unnecessary data, e.g. redundancy reduction
    • H03M7/3082—Vector coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H04N19/126—Details of normalisation or weighting functions, e.g. normalisation matrices or variable uniform quantisers
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/30—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability
    • H04N19/395—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using hierarchical techniques, e.g. scalability involving distributed video coding [DVC], e.g. Wyner-Ziv video coding or Slepian-Wolf video coding

Definitions

  • the present invention relates to an inverse quantization method, an inverse quantization apparatus, and a program.
  • the quantizer E1001 is described for the purpose of showing the input / output relationship with the element calculator E1002 that performs video inverse quantization, that is, the video inverse quantization technique can be configured only by the element calculator E1002. Please be careful.
  • one grayscale video frame having the number of vertical pixels m and the number of horizontal pixels n is a video signal vector x.
  • the related art and the present invention can also be applied to color video signals.
  • the video signal vector x is a partial region of a video frame, the related art and the present invention can be applied.
  • “multiple element sets” and “multiple element sets” are called “vectors”.
  • the quantizer E1001 includes each element of the video signal vector x Is quantized to calculate a quantized value q i, j . If the quantizer of E1001 is a linear quantizer with a quantization width of Qs, It becomes. However, the function floor () is a floor function, and is a function that returns the maximum integer among real-valued input values.
  • a set (set) of the quantized values q i, j is referred to as a quantized value vector q.
  • the element calculator E1002 uses the quantized value q i, j and each element y i, j of another video signal vector y (auxiliary information y) correlated with the video signal vector x, Inverse quantization value Calculate A half-open interval corresponding to the quantized value q i, j Assuming that the conditional probability density function corresponding to the correlation is f X
  • Non-Patent Documents 1, 2, and 3 proposes to use the following equation (2) ′ instead of equation (2).
  • the inverse quantized video signal vector is calculated by calculating the inverse quantized value using the auxiliary information y, rather than simply inverse quantizing and calculating the inverse quantized value. The mean square error of can be reduced.
  • the present invention has been invented in view of the above problems, and an object thereof is to provide a high-quality inverse quantization method, inverse quantization apparatus, and program.
  • the present invention for solving the above problems is an inverse quantization method for obtaining a set of a plurality of inverse quantization values by inverse quantization using a plurality of quantization values as a set, and for each quantization value, the inverse quantization value is obtained.
  • a range of obtained values is obtained using at least a signal other than the quantized value, and a set of provisional inverse quantized values that minimize the total variation norm within the range of possible values for each inverse quantized value It is characterized in that it is obtained as a set of quantized values.
  • the present invention for solving the above problems is an inverse quantization method for obtaining a set of a plurality of inverse quantized values by inversely quantizing a plurality of quantized values as a set, wherein the plurality of quantized values and the quantized values are obtained.
  • a temporary inverse quantized value of each quantized value of each of the plurality of quantized values is calculated element by element, and the quantized value is dequantized for each quantized value using the plurality of quantized values.
  • the range of possible values is obtained, and the total variation norm is minimized within the range of possible values for each inverse quantized value, starting from the set of provisional inverse quantized values calculated in element units.
  • a set of provisional inverse quantized values is obtained as the set of inverse quantized values.
  • the present invention that solves the above-described problem is an encoding method for encoding a plurality of quantized values, and performs inverse quantization by using a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization method uses a method other than at least a signal other than the quantized value to determine a range of values that can be taken for each quantized value. Within the range, a set of provisional inverse quantization values having a minimum total variation norm is obtained as the set of inverse quantization values.
  • the present invention that solves the above-described problem is an encoding method for encoding a plurality of quantized values, and performs inverse quantization by using a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization method uses the plurality of quantized values and a signal other than the quantized value to calculate a provisional inverse quantized value of each quantized value of the plurality of quantized values.
  • the range of values that can be taken by the inverse quantization value for each quantization value using the plurality of quantization values is obtained, and the set of provisional inverse quantization values calculated in units of the elements is used as a starting point.
  • a set of provisional inverse quantization values that minimize the total variation norm within a range of possible values for each inverse quantization value is obtained as the set of inverse quantization values.
  • the present invention for solving the above-described problem is a decoding method for decoding a plurality of quantized values, and an inverse quantization method for obtaining a set of a plurality of dequantized values by dequantizing a plurality of quantized values as a set.
  • the dequantization method uses a range of values that can be taken by the dequantized value for each quantized value using at least a signal other than the quantized value, and is within the range of values that can be taken for each dequantized value. Then, a set of provisional inverse quantized values that minimize the total variation norm is obtained as the set of inverse quantized values.
  • the present invention for solving the above-described problem is a decoding method for decoding a plurality of quantized values, and an inverse quantization method for obtaining a set of a plurality of dequantized values by dequantizing a plurality of quantized values as a set.
  • the inverse quantization method uses the plurality of quantization values and a signal other than the quantization value to calculate a provisional inverse quantization value of each quantization value of the plurality of quantization values in element units.
  • the present invention for solving the above-mentioned problem is a video inverse quantization method for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed.
  • a video element calculation step of calculating an initial dequantized video vector element by element using other video vector elements having a correlation between them and the quantized value vector elements; and
  • a set of provisional inversely quantized video vectors determined from the calculated initial dequantized video vector as a starting point and another quantized vector and a correlation between the video vector to be processed and the quantized value vector
  • a video vector calculating step for calculating a provisional inverse quantized video vector having a minimum total variation norm as the inverse quantized video vector. And butterflies.
  • the present invention for solving the above-mentioned problem is a video inverse quantization method for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed.
  • a video element calculation step of calculating an initial dequantized video vector element by element using other video vector elements having a correlation between them and the quantized value vector elements; and From a set of provisional inverse quantized video vectors determined by the quantized value vector, starting from the calculated initial inverse quantized video vector, a provisional inverse quantized video vector having a minimum total variation norm is obtained from the inverse quantum.
  • a video vector calculation step for calculating as a normalized video vector.
  • the present invention for solving the above-mentioned problems is a video inverse quantization method for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, wherein an element of the quantized value vector is calculated.
  • a video element calculation step for calculating an initial dequantized video vector element by element, and an initial dequantized video vector calculated in the video element calculation step as a starting point between the video vector to be processed From the set of provisional inverse quantized video vectors determined by the other quantized vector and the quantized value vector, the provisional inverse quantized video vector having the minimum total variation norm is determined as the inverse quantized video vector.
  • the present invention for solving the above-mentioned problem is a video encoding method for encoding a quantized value vector, wherein the inverse quantized video vector is calculated from the quantized value vector corresponding to the current video vector to be processed.
  • the image inverse quantization method uses the elements of other image vectors that have a correlation with the image vector to be processed and the elements of the quantized value vectors.
  • the present invention for solving the above-described problem is a video decoding method for decoding a quantized value vector, wherein the inverse quantized video vector is calculated from the quantized value vector corresponding to the current video vector to be processed.
  • the video dequantization method uses an element of another video vector that has a correlation with the video vector to be processed, and an element of the quantized value vector.
  • a video element calculation step for calculating an initial dequantized video vector element by element, and a correlation between the initial dequantized video vector calculated in the video element calculation step and the target video vector From the vector space determined by the other video vector and the quantized value vector, the provisional inverse quantized video vector having the minimum total variation norm is converted to the inverse quantum And having a video vector calculation step of calculating as a video vector.
  • the present invention that solves the above-described problem is an inverse quantization device that obtains a set of a plurality of inverse quantization values by inversely quantizing a plurality of quantization values as a set, and takes the inverse quantization value for each quantization value.
  • a range of obtained values is obtained using at least a signal other than the quantized value, and a set of provisional inverse quantized values that minimize the total variation norm within the range of possible values for each inverse quantized value It is characterized by having a restoring means for obtaining a set of quantized values.
  • the present invention for solving the above problem is an inverse quantization apparatus that obtains a set of a plurality of inverse quantized values by inversely quantizing a plurality of quantized values as a set, wherein the plurality of quantized values and the quantized values are obtained.
  • a temporary inverse quantized value of each quantized value of each of the plurality of quantized values is calculated element by element, and the quantized value is dequantized for each quantized value using the plurality of quantized values.
  • the range of possible values is obtained, and the total variation norm is minimized within the range of possible values for each inverse quantized value, starting from the set of provisional inverse quantized values calculated in element units.
  • the present invention is characterized by comprising restoration means for obtaining a set of provisional inverse quantization values as the set of inverse quantization values.
  • the present invention that solves the above-described problem is an encoding device that encodes a plurality of quantized values, and performs inverse quantization on a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization device obtains a range of possible values of the inverse quantized value for each quantized value using at least a signal other than the quantized value, and a possible value for each inverse quantized value. In this range, there is provided means for obtaining a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values.
  • the present invention that solves the above-described problem is an encoding device that encodes a plurality of quantized values, and performs inverse quantization on a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization device uses the plurality of quantized values and signals other than the quantized values as elements to calculate provisional inverse quantized values of the quantized values of the quantized values.
  • the present invention that solves the above-described problem is a decoding device that decodes a plurality of quantized values, and an inverse quantizing device that obtains a set of a plurality of dequantized values by dequantizing a plurality of quantized values as a set.
  • the inverse quantization device obtains a range of possible values of the inverse quantized value for each quantized value by using at least a signal other than the quantized value, and a range of possible values of the inverse quantized value
  • the present invention that solves the above-described problem is a decoding device that decodes a plurality of quantized values, and an inverse quantizing device that obtains a set of a plurality of dequantized values by dequantizing a plurality of quantized values as a set. And the dequantization device uses the plurality of quantized values and a signal other than the quantized value to calculate a provisional inverse quantized value of each quantized value of the plurality of quantized values in element units.
  • the present invention for solving the above-mentioned problems is a video inverse quantization apparatus for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, Video element calculation means for calculating an initial dequantized video vector element by element using other video vector elements having a correlation between them and the quantized value vector elements; and the video element calculation means A set of provisional inversely quantized video vectors determined from the calculated initial dequantized video vector as a starting point and another quantized vector and a correlation between the video vector to be processed and the quantized value vector And a video vector calculating means for calculating a provisional inverse quantized video vector having a minimum total variation norm as the inverse quantized video vector.
  • the present invention for solving the above-mentioned problems is a video inverse quantization apparatus for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, Video element calculation means for calculating an initial dequantized video vector element by element using other video vector elements having a correlation between them and the quantized value vector elements; and the video element calculation means From a set of provisional inverse quantized video vectors determined by the quantized value vector, starting from the calculated initial inverse quantized video vector, a provisional inverse quantized video vector having a minimum total variation norm is obtained from the inverse quantum. And a video vector calculating means for calculating as a normalized video vector.
  • the present invention for solving the above-mentioned problems is a video inverse quantization device for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, wherein an element of the quantized value vector is calculated.
  • the video element calculation means for calculating the initial dequantized video vector element by element, and the video vector to be processed starting from the initial dequantized video vector calculated by the video element calculation means From the set of provisional inverse quantized video vectors determined by the other quantized vector and the quantized value vector, the provisional inverse quantized video vector having the minimum total variation norm is determined as the inverse quantized video vector.
  • the present invention that solves the above-described problem is a video encoding device that encodes a quantized value vector, and calculates a dequantized video vector from a quantized value vector corresponding to the current video vector to be processed.
  • An inverse quantization device wherein the image inverse quantization device uses the element of another video vector having a correlation with the video vector to be processed and the element of the quantized value vector.
  • Video element calculation means for calculating an initial dequantized video vector to be processed in element units, and an initial dequantized video vector calculated by the video element calculation means as a starting point, and the video vector to be processed From the vector space determined by another video vector having a correlation between the quantized value vector and the quantized value vector, a provisional inverse quantized video vector having a minimum total variation norm is converted to the inverse quantized video vector. And having a video vector calculating means for calculating as a vector.
  • the present invention that solves the above-described problem is a video decoding apparatus that decodes a quantization value vector, and calculates a dequantized video vector from a quantization value vector corresponding to a current video vector to be processed. And the video inverse quantization device uses the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vectors.
  • a provisional inverse quantized video vector having a minimum total variation norm is obtained from the inverse quantized video vector.
  • having a video vector calculation means for calculating a torque is obtained from the image element calculation means for calculating the initial dequantized video vector of each element.
  • the present invention for solving the above problems is an inverse quantization program for obtaining a set of a plurality of inverse quantized values by inversely quantizing a plurality of quantized values, and for each quantized value, the inverse quantized value is obtained.
  • a process of obtaining a range of values to be obtained using at least a signal other than the quantized value, and a set of provisional inverse quantized values that minimize the total variation norm within a range of possible values for each inverse quantized value The information processing apparatus is caused to execute processing for obtaining the set of inverse quantized values.
  • the present invention that solves the above-described problem is an inverse quantization program for inversely quantizing a plurality of quantized values as a set to obtain a set of a plurality of inverse quantized values, wherein the plurality of quantized values and the quantized values are obtained.
  • a range of possible values of the quantized value is obtained, and a set of provisional inverse quantized values calculated for each element is used as a starting point.
  • the information processing apparatus is caused to execute a process of obtaining a minimum provisional dequantized value set as the dequantized value set.
  • the present invention that solves the above problem is an encoding program for encoding a plurality of quantized values, and performs inverse quantization on a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization process includes a process for obtaining a range of possible values of the inverse quantization value for each quantization value using at least a signal other than the quantization value, and for each inverse quantization value.
  • the information processing apparatus is caused to execute a process of obtaining a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values.
  • the present invention that solves the above problem is an encoding program for encoding a plurality of quantized values, and performs inverse quantization on a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization process uses the plurality of quantized values and a signal other than the quantized value to calculate a provisional inverse quantized value of each quantized value of the plurality of quantized values.
  • a process of calculating in element units, and obtaining a range of values that can be obtained by dequantization values for each quantized value using the plurality of quantized values, and a set of provisional dequantized values calculated in element units Processing to obtain a set of provisional inverse quantized values that minimize the total variation norm within the range of possible values for each inverse quantized value as a starting point as the set of inverse quantized values to the information processing apparatus It is made to perform.
  • the present invention that solves the above problem is a program of a decoding method for decoding a plurality of quantized values, and performs inverse quantization by dequantizing a plurality of quantized values as a set to obtain a set of a plurality of dequantized values
  • the inverse quantization process includes: a process for obtaining a range of values that can be taken by the dequantized value for each quantized value using at least a signal other than the quantized value;
  • the information processing apparatus is configured to execute processing for obtaining a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values within a range of obtained values.
  • the present invention for solving the above problems is a decoding program for decoding a plurality of quantized values, and performs inverse quantization on a plurality of quantized values as a set to obtain a set of a plurality of dequantized values.
  • the inverse quantization process uses the plurality of quantized values and a signal other than the quantized value as a unit of a provisional inverse quantized value of each quantized value of the plurality of quantized values.
  • the range of possible values of the inverse quantized values is obtained for each quantized value, and the set of provisional inverse quantized values calculated for each element is used as the starting point.
  • the information processing apparatus to execute processing for obtaining a set of provisional inverse quantized values that minimize the total variation norm as the set of inverse quantized values within a range of possible values for each inverse quantized value. It is characterized by that.
  • the present invention for solving the above-described problem is a video inverse quantization program for calculating a dequantized video vector from a quantized value vector corresponding to a current video vector to be processed, the video vector to be processed, A video element calculation process for calculating an initial dequantized video vector element by element using another quantized vector element and a quantized value vector element; and the video element calculating process.
  • a video vector calculation process for calculating a provisional inverse quantized video vector having a minimum total variation norm from the set as the inverse quantized video vector is implemented in the information processing apparatus. Characterized in that to.
  • the present invention for solving the above-described problem is a video inverse quantization program for calculating a dequantized video vector from a quantized value vector corresponding to a current video vector to be processed, the video vector to be processed, A video element calculation process for calculating an initial dequantized video vector element by element using another quantized vector element and a quantized value vector element; and the video element calculating process. From the set of provisional inverse-quantized video vectors determined by the quantized value vector, starting from the initial inverse-quantized video vector calculated in the above step, the provisional inverse-quantized video vector having the minimum total variation norm is converted into the inverse A video vector calculation process for calculating a quantized video vector is executed by an information processing apparatus.
  • the present invention for solving the above problems is a video inverse quantization program for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, the element of the quantized value vector
  • a video element calculation process for calculating an initial dequantized video vector element by element, and an initial dequantized video vector calculated in the video element calculation process as a starting point, From the set of provisional inversely quantized video vectors determined by the other quantized vector and another video vector having a correlation between them, the inversely quantized video vector having a minimum total variation norm is obtained from the inversely quantized video vector.
  • a video vector calculation process for calculating as a vector is executed by an information processing apparatus.
  • the present invention for solving the above-described problems is a video encoding program for encoding a quantized value vector, and calculates the inverse quantized video vector from the quantized value vector corresponding to the current video vector to be processed.
  • a video inverse quantization process wherein the video inverse quantization process uses an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector
  • a video element calculation process for calculating the initial dequantized video vector to be processed in element units, and an initial dequantized video vector calculated by the video element calculation process as a starting point, From the vector space determined by the other quantized vector and the quantized value vector, the inverse inverse quantized video vector having the minimum total variation norm is converted to the inverse Wherein the coca to perform the video vector calculation processing for calculating the image vector to the information processing apparatus.
  • the present invention for solving the above-described problem is a video decoding program for decoding a quantized value vector, and a video inverse program for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed.
  • a quantization process wherein the video inverse quantization process uses the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vectors.
  • FIG. 1 is an explanatory diagram of related technology.
  • FIG. 2 is a conceptual diagram of element inverse quantization.
  • FIG. 3 is a conceptual diagram of the result of initial dequantized video signal vector calculation.
  • FIG. 4 is a conceptual diagram of the range.
  • FIG. 5 is a conceptual diagram of the final inverse quantized video signal vector calculation result.
  • FIG. 6 is a block diagram of the first embodiment.
  • FIG. 7 is a flowchart of the first embodiment.
  • FIG. 8 is a configuration diagram of the second embodiment.
  • FIG. 9 is a flowchart of the second embodiment.
  • FIG. 10 is a configuration diagram of the third embodiment.
  • FIG. 11 is a flowchart of the third embodiment.
  • FIG. 12 is a configuration diagram of the fourth embodiment.
  • FIG. 13 is a flowchart of the fourth embodiment.
  • FIG. 1 is an explanatory diagram of related technology.
  • FIG. 2 is a conceptual diagram of element inverse quantization.
  • FIG. 3 is a
  • FIG. 14 is another configuration diagram in the first embodiment.
  • FIG. 15 is another configuration diagram in the second embodiment.
  • FIG. 16 is another configuration diagram in the third embodiment.
  • FIG. 17 is another configuration diagram in the fourth embodiment.
  • FIG. 18 is another configuration diagram in the first embodiment.
  • FIG. 19 is another configuration diagram in the second embodiment.
  • FIG. 20 is another configuration diagram according to the third embodiment.
  • FIG. 21 is another configuration diagram according to the fourth embodiment.
  • FIG. 22 is a block diagram of a video encoder using a video inverse quantizer.
  • FIG. 23 is a block diagram of a video decoder using a video inverse quantizer.
  • FIG. 24 is a configuration diagram of the information processing apparatus according to this embodiment.
  • FIG. 25 is a diagram for explaining a specific example of the effect in the present embodiment.
  • a video signal is composed of a flat area where the signal value changes slowly, an edge area where the signal value changes sharply, and a texture area where the signal value vibrates violently. It is sensitive to noise in the area and insensitive to noise in the texture area.
  • the present invention relates to an inverse quantized video signal vector (hereinafter referred to as an initial inverse quantized video signal vector) calculated element by element according to the related art described above, so that the oscillation of the video signal vector becomes smaller.
  • an inverse quantized video signal vector hereinafter referred to as an initial inverse quantized video signal vector
  • the non-variation norm is minimized.
  • the total variation minimization method of Patent Document 4 or the bilateral filter of Non-Patent Document 5 is used.
  • a set of vectors in which an inverse quantized video signal vector (original video signal vector) exists is accurately limited by using the quantized value, the auxiliary information, and the conditional probability density function.
  • a vector space corresponding to the set of vectors is simply referred to as a partial vector space
  • the final dequantized video signal vector is calculated in the partial vector space.
  • the point of accurately limiting the partial vector space is different from Non-Patent Document 6 that suppresses noise caused by JPEG compression using the total variation minimization method.
  • Non-Patent Document 6 uses the auxiliary information to dequantize the video signal vector.
  • the related art method of reducing the mean square error cannot be considered.
  • the initial dequantized video signal vector is calculated in the same manner as in the related art (FIG. 3).
  • the present invention uses the quantized values q i, j , the auxiliary information elements y i, j , and the conditional probability density function f X
  • the partial vector space U in which the original video signal vector exists is a partial vector space defined by the quantized values q i, j. Note that it is a limited subvector space (ie, U is a sub-space of V).
  • the present invention calculates a final dequantized video signal vector from the initial dequantized video signal vector in the partial vector space U, and outputs the result as a dequantized video vector.
  • FIG. 5 shows the sum of absolute value errors between vertically adjacent elements. This is an example of calculating the final inverse quantized video signal vector such that becomes smaller.
  • the final dequantized video vector is a video vector in which the vibration of the signal value in a flat region (edge sensitive to human vision) or an edge region is suppressed without blurring. Therefore, it is possible to avoid the local deterioration from being noticeable.
  • the dequantized video signal vector should be calculated so that continuity in the time direction is improved. It is. Therefore, in another means of the present invention, each element y i, j of the auxiliary information and the element of the initial dequantized video signal vector If the absolute difference value of the sub information is smaller than a certain threshold, or if the element y i, j of the auxiliary information is included in the range of the corresponding element of the partial vector space, the corresponding value of the final dequantized video signal vector The calculation of the final dequantized video signal vector is constrained so that the element x i, j takes a value close to the element y i, j of the auxiliary information. According to the present invention, continuity in the time direction is improved, and flickering of images can be suppressed.
  • the above-described means of the present invention can be used as a decoding means for local decoding of the video signal in the video encoding method for encoding the quantized value.
  • the present invention can provide a higher quality video encoding method.
  • the above-described means of the present invention can be used as a decoding means for the video signal in the video decoding method for decoding the quantized value.
  • the present invention can provide a higher quality video decoding method.
  • the quantizer E2001 (same as that of the related art of FIG. 1) Is quantized to calculate a quantized value q i, j . If the quantizer of E2001 is a linear quantizer with a quantization width of Qs, It becomes.
  • the set of the quantized values q i, j is referred to as a quantized value vector q.
  • the video inverse quantizer E2000 includes an element calculator E2002 and a vector calculator E2003.
  • the element calculator E2002 and the vector calculator E2003 receive the quantized value vector q and another video signal vector y (hereinafter referred to as auxiliary information y) correlated with the video signal vector x, and perform inverse processing. Quantized video signal vector Calculate Each is described below.
  • the element calculator E2002 calculates each element value u i, j of the initial dequantized video signal vector u using the quantized value vector q and the auxiliary information y input thereto.
  • the element calculator E2002 calculates a conditional probability density function corresponding to the correlation as f X
  • the auxiliary information y is a video signal vector of a frame adjacent to the video signal vector x to be dequantized in the time direction
  • the inverse quantized video signal vector is calculated so that the continuity in the time direction is improved. Should do.
  • the element calculator E2002 determines that the absolute difference value between each element y i, j of the auxiliary information and the element u i, j obtained by the equation (4) is smaller than a predetermined threshold value, or , A half-open interval corresponding to the quantized value q i, j corresponding to the element y i, j of the auxiliary information
  • u i, j calculated by the formula (4) or the formula (4) ′ may be updated by the following formula (5) or the formula (5) ′.
  • the auxiliary information y includes the video signal vector of each element of the video signal vector of the frame adjacent in the time direction by motion compensation prediction. It is even better if the video signal vector is aligned with each element of x. (That is, the auxiliary information y may be a video signal vector in which each element of the video signal vector of frames adjacent in the time direction is aligned with each element of the video signal vector x by motion compensation prediction.)
  • the vector calculator E2003 updates the input dequantized video signal vector u with less vibration based on the input auxiliary information y and the quantized value vector q, Update result with final dequantized video signal vector Output as.
  • the vector calculator E2003 determines the range of each element x i, j from the quantized value q i, j , the auxiliary information element y i, j , and the conditional probability density function f X
  • min_x is the minimum value of x at which the conditional probability density function f X
  • max_x is the maximum of x at which the conditional probability density function f X
  • min_x and max_x may be calculated from the standard deviation of the conditional probability density function fX
  • the vector calculator E2003 is a predetermined number of times k, initialization dequantized video signal vector u (hereinafter, u 0 and write) as starting point, the first projection and the second projection described below Iteratively repeats to calculate a dequantized video signal vector with less vibration from the partial vector space U.
  • k corresponds to the sequential number of repetitions of a certain point in time
  • the inverse quantization at the time u k is said sequential repetition has been applied k times the superscript u k described below (superscript)
  • U 0 is an initial dequantized video signal vector.
  • Said first projection is an inverse quantization video signal vector u k to be inputted, a process of updating more dequantized video signal vector u k + 1 small vibration.
  • an objective function J (s) that is a total variation norm defined by the following equation (8) and a constraint function G (s, u k , ⁇ ) defined by the following equation (11):
  • the video signal vector s that minimizes the functional F (s, u k , ⁇ ) of the formula (12) that is the sum of the above and s is calculated, and the solution s is set to u k + 1 .
  • the result of the first projection (u k + 1 ) can be obtained by solving the following equation (13).
  • the objective function J (s) is minimized under the constraint function G (s, u k , ⁇ ), and s having a small total variation norm is obtained.
  • a sub-gradient method such as Non-Patent Document 6 or a projection method such as Non-Patent Document 7 may be used.
  • the above-described ⁇ may be a positive real number depending on the quantization width Qs.
  • the second projection is a process of limiting the input inverse quantized video signal vector uk + 1 to the partial vector space U. Specifically, the following equation (14) is applied to all elements u i, j of the inversely quantized video signal vector u k + 1 . Finally, the vector calculator E2003, only K times, a first projection and said final dequantized video signal vector u k obtained by alternately repeating the second projection as described above Output as.
  • step S2001 the initial dequantized video signal vector u is calculated by the element calculator E2002 described above. Then, it progresses to step S2002.
  • step S2002 the vector calculator E2003 described above calculates the partial vector space U. Then, it progresses to step S2003.
  • step S2003 the vector calculator E2003 described above, the first projection as described above the current inverse quantized video signal vector u k, is updated more dequantized video signal vector u k + 1 small vibration. Then, it progresses to step S2004.
  • step S2004 the vector calculator E2003 described above restricts the current inverse-quantized video signal vector uk + 1 to the partial vector space U by the second projection described above. Then, it progresses to step S2005.
  • step S2005 it is determined whether the counter k is equal to a predetermined value K. If they are equal, the process is terminated. Otherwise, the counter k is incremented by 1, and the process returns to step S2003. When returning to step S2003, it is desirable to change the variable ⁇ of the first projection described above to a smaller positive value.
  • the configuration of the video inverse quantization technique of the invention in this embodiment will be described.
  • the converter E3001 and the quantizer E3002 in FIG. 8 are described for the purpose of showing the input / output relationship with the video inverse quantizer E3000 for inversely quantizing the video, that is, the video inverse quantization of the invention.
  • the technology can only consist of video inverse quantizer E3000.
  • the converter E3001 converts the frequency of the video signal vector x to a conversion coefficient value Calculate As the frequency conversion, DCT (Discrete Cosine Transform) in units of 8 ⁇ 8 blocks can be used.
  • DCT Discrete Cosine Transform
  • the set of transform coefficient values X i, j is referred to as a transform coefficient value vector X.
  • the quantizer E3002 (which is the same operation as that of the related art of FIG. 1) quantizes each transform coefficient value X i, j obtained by the transformer E3001, and calculates a quantized value q i, j . . If the quantizer of E3002 is a linear quantizer with a quantization width of Qs, It becomes.
  • the function sign () is a function that returns a sign ( ⁇ ) of a real value input value
  • the function floor () is a function that returns the maximum integer among the real value input values.
  • the set of the quantized values q i, j is referred to as a quantized value vector q.
  • the video inverse quantizer E3000 includes a converter E3003, an element calculator E3004, an inverse converter E3005, and a vector calculator E3006.
  • the input of the video inverse quantizer E3000 is another video signal vector y having a correlation between the quantized value vector q and the video signal vector x in the frequency domain.
  • the converter E3003 frequency-converts the other video signal vector y inputted, and calculates a conversion coefficient value vector Y (hereinafter, auxiliary information Y).
  • the element calculator E3004 receives the auxiliary information Y and the quantized value vector q as inputs, and performs an inverse quantized transform coefficient value vector. Calculate Specifically, a half-open interval corresponding to the quantized values q i, j is defined as If the conditional probability density function corresponding to the above-mentioned correlation is f X
  • the element calculator E3004 uses each element Y i, j of the auxiliary information and the element obtained by the equation (4). Or a half-open interval corresponding to the quantized value q i, j corresponding to the element Y i, j of the auxiliary information Calculated by Equation (16) or Equation (16) ' May be updated with the following Expression (17) or Expression (17) ′.
  • the video signal vector y is a video signal vector in which each element of the video signal vector of the frame adjacent in the time direction is aligned with each element of the video signal vector x by motion compensation prediction.
  • the other video signal vector y may be a video signal vector in which each element of a video signal vector of a frame adjacent in the time direction is aligned with each element of the video signal vector x by motion compensation prediction.
  • the inverse transformer E3005 is an inverse quantization transform coefficient value vector obtained by the element calculator E3004. Is subjected to inverse frequency transformation to calculate an initial dequantized video signal vector u.
  • the vector calculator E3006 uses the quantized value vector q and the auxiliary information Y to convert the initial dequantized video signal vector u obtained by the inverse transformer E3005 into a dequantized video signal with less vibration. Update vector, final dequantized video signal vector Output as.
  • the vector calculator E3006 calculates each element X of the video signal vector in the frequency domain from the quantized value q i, j , the auxiliary information element Y i, j , and the conditional probability density function f X
  • min_x the probability density function f X the conditional
  • max_x the probability density function f X the conditional
  • min_x and max_x may be calculated from the standard deviation of the conditional probability density function fX
  • the range of transform coefficient values X i, j obtained by Equation (18) and Equation (19) Subvector space defined by And
  • the partial vector space U is a value range in the frequency domain of the original video signal vector x.
  • the vector calculator E3006 is a predetermined number of times K, the initial inverse quantization video signal vector u (hereinafter, u 0 and write) as starting point, sequentially repeating the projection from the first to describe the fourth below From the partial vector space U, an inverse quantized video signal vector with less vibration is calculated.
  • k corresponds to the sequential number of repetitions of a certain point in time
  • the inverse quantization at the time u k is said sequential repetition has been applied k times the superscript u k described below (superscript)
  • U 0 is an initial dequantized video signal vector.
  • Said first projection is an inverse quantization video signal vector u k to be inputted, a process of updating more dequantized video signal vector u k + 1 small vibration.
  • an objective function J (s) that is a total variation norm defined by the following equation (20) and a constraint function G (s, u k , ⁇ ) defined by the following equation (23):
  • the video signal vector s that minimizes the functional F (s, u k , ⁇ ) of the equation (24) that is the sum of and s is calculated, and the solution s is set to u k + 1 .
  • the result of the first projection (u k + 1 ) is obtained by calculating the following equation (25).
  • the objective function J (s) is minimized under the constraint function G (s, u k , ⁇ ), and s having a small total variation norm is obtained. That is, s with less vibration can be obtained.
  • a sub-gradient method such as Non-Patent Document 6 or a projection method such as Non-Patent Document 7 may be used.
  • the above-described ⁇ may be a positive real number depending on the quantization width Qs.
  • the second projection projects the inverse quantized video signal vector uk + 1 to the frequency domain. Specifically, as in the case of the converter E3003, u k + 1 is frequency-converted into the frequency domain, and the inverse quantization transform coefficient value vector U k + 1 is calculated.
  • the third projection is a process of limiting the input inverse quantization transform coefficient value vector U k + 1 to the partial vector space U. Specifically, the following formula is applied to all elements U ij .
  • the inverse quantization transform coefficient value vector U k + 1 is projected onto the spatial domain. Specifically, in the same manner as the inverse transformer E3005, U k + 1 is subjected to inverse frequency conversion to calculate an inverse quantized video signal vector u k + 1 .
  • the vector calculator E3006 only K times, wherein the u k obtained by sequentially repeating the fourth projection from the first described above final dequantized video signal vector Output as.
  • step S3001 the initial dequantized video signal vector u is calculated by the element calculator E3004 and the inverse transformer E3005 described above. Subsequently, the operation proceeds to step S3002.
  • step S3002 the partial vector space U is calculated by the vector calculator E3006 described above. Subsequently, the operation proceeds to step S3003.
  • step S3003 the vector calculator E3006 described above, the first projection as described above the current inverse quantized video signal vector u k, is updated more dequantized video signal vector u k + 1 small vibration. Subsequently, the process proceeds to step S3004.
  • step S3004 the vector calculator E3006 described above converts the inverse quantized video signal vector uk + 1 obtained in step S3003 into the frequency domain by the second projection described above. Subsequently, the operation proceeds to step S3005.
  • step S3005 the vector calculator E3006 described above restricts the inverse quantization transform coefficient value vector U k + 1 obtained in step S3004 to the partial vector space U by the third projection described above. Subsequently, the process proceeds to step S3006.
  • step S3006 the vector calculator E3006 described above projects the inverse quantization transform coefficient value vector U k + 1 obtained in step S3005 onto the spatial domain by the fourth projection described above. Subsequently, the operation proceeds to step S3007.
  • step S3007 it is determined whether the counter k is equal to a predetermined value K. If they are equal, the process is terminated. Otherwise, the counter k is incremented by 1, and the process returns to step S3003. When returning to step S3003, it is desirable to change the variable ⁇ of the first projection described above to a smaller positive value.
  • the video inverse quantizer of the present invention when the quantized value that is the input of the video inverse quantizer is the quantized value of the prediction error value predicted from the video signal vector will be described.
  • the configuration of the video inverse quantization technique of the invention in this embodiment will be described.
  • the subtractor E4001 and the quantizer E4002 in FIG. 10 are described for the purpose of showing the input / output relationship with the video inverse quantizer E4000 that inversely quantizes the video, that is, the video inverse quantization of the invention.
  • the technology can only consist of video inverse quantizer E4000.
  • the subtractor E4001 subtracts each element p i, j of the prediction signal vector p from each element x i, j of the video signal vector x to obtain a prediction error value.
  • the set of the prediction error values d i, j is referred to as a prediction error value vector d.
  • the processed element adjacent to the current processing target element is used as the predicted signal vector p. Predictive signals generated from can be used.
  • a quantizer E4002 (which is the same operation as that of the related art of FIG. 1) quantizes each element d i, j of the video signal vector d and calculates a quantized value q i, j . If the quantizer of E4002 is a linear quantizer with a quantization width of Qs, It becomes.
  • the function sign () is a function that returns a sign ( ⁇ ) of a real value input value
  • the function floor () is a function that returns the maximum integer among the real value input values.
  • the set of the quantized values q i, j is referred to as a quantized value vector q.
  • the inputs of the video inverse quantizer E4000 are the quantized value vector q, another video signal vector y (hereinafter, auxiliary information y) correlated with the video signal vector x, and the predicted signal vector p. .
  • the video inverse quantizer E4000 includes an element calculator E4003 and a vector calculator E4004, which will be described below.
  • the element calculator E4003 calculates each element value u i, j of the initial dequantized video signal vector u using the quantized value vector q, the auxiliary information y, and the predicted signal vector p.
  • the element calculator E4003 calculates a half-open interval corresponding to the quantized values q i, j. Assuming that the conditional probability density function corresponding to the correlation is f X
  • the element calculator E4003 determines that the absolute difference value between each element y i, j of the auxiliary information and the element u i, j obtained by the equation (29) is smaller than a predetermined threshold value, or ,
  • u i, j calculated by the equation (29) or the equation (29) ′ may be updated by the following equation (30) or the equation (30) ′.
  • the auxiliary information y includes the video signal vector obtained by performing motion compensation prediction on each element of the video signal vector of the frame adjacent in the time direction. It is even better if the video signal vector is aligned with each element of x. That is, the auxiliary information y may be a video signal vector in which each element of a video signal vector of frames adjacent in the time direction is aligned with each element of the video signal vector x by motion compensation prediction.
  • the vector calculator E4004 uses the quantized value vector q, the auxiliary information y, and the predicted signal vector p to convert the input initial dequantized video signal vector u into a dequantized video signal vector with less vibration. Update and final dequantized video signal vector Output as.
  • the vector calculator E4004 calculates each of the quantized value q i, j , the auxiliary information element y i, j , the signal vector element p i, j , and the conditional probability density function f X
  • Range of prediction error d i, j Is calculated by the following equations (31) and (32).
  • min_x and max_x may be calculated from the standard deviation of the conditional probability density function fX
  • the range of the prediction error d i, j obtained by the equations (31) and (32) And a subvector space defined by the corresponding predicted values p i, j And
  • the partial vector space U is the range of the original video signal vector x.
  • the vector calculator E4004 is a predetermined number of times K, the initial inverse quantization video signal vector u (hereinafter, u 0 and write) as starting point, the first projection and the second projection described below Iteratively repeats to calculate a dequantized video signal vector with less vibration from the partial vector space U.
  • k corresponds to the sequential number of repetitions of a certain point in time
  • the inverse quantization at the time u k is said sequential repetition has been applied k times the superscript u k described below (superscript)
  • U 0 is an initial dequantized video signal vector.
  • Said first projection is an inverse quantization video signal vector u k to be inputted, a process of updating more dequantized video signal vector u k + 1 small vibration.
  • the total variation norm J (s) in the following equation (33) and the constraint term G (s, u k , ⁇ ) in the following equation (36) The video signal vector s that minimizes the functional F (s, u k , ⁇ ) is calculated, and the solution s is set to u k + 1 .
  • the result of the first projection (u k + 1 ) is obtained by calculating the following equation (38).
  • the objective function J (s) is minimized under the constraint function G (s, u k , ⁇ ), and s having a small total variation norm is obtained. .
  • a sub-gradient method such as Non-Patent Document 6 or a projection method such as Non-Patent Document 7 may be used.
  • the above-described ⁇ may be a positive real number depending on the quantization width Qs.
  • the second projection is a process of limiting the input inverse quantized video signal vector uk + 1 to the partial vector space U.
  • step S4001 the element calculator E4003 described above calculates the initial dequantized video signal vector u. Subsequently, the process proceeds to step S4002.
  • step S4002 the partial vector space U is calculated by the vector calculator E4004 described above. Subsequently, the process proceeds to step S4003.
  • step S4003 the vector calculator E4004 described above, the first projection as described above the current inverse quantized video signal vector u k, is updated more dequantized video signal vector u k + 1 small vibration. Subsequently, the process proceeds to step S4004.
  • step S4004 u k + 1 obtained in step S4003 is limited to the partial vector space U by the above-described second projection by the vector calculator E4004 described above. Subsequently, the process proceeds to step S4005.
  • step S4005 it is determined whether the counter k is equal to a predetermined value K. If they are equal, the process is terminated. Otherwise, the counter k is incremented by 1, and the process returns to step S4003. When returning to step S4003, it is desirable to change the first projection variable ⁇ described above to a smaller positive value.
  • the video inverse quantizer of the present invention in the case where the quantized value that is the input of the video inverse quantizer is the quantized value of the transform coefficient obtained by frequency-converting the prediction error in which the video signal vector is predicted Will be described.
  • the configuration of the video inverse quantization technique of the invention in this embodiment will be described.
  • the converter E5002 and the quantizer E5002 in FIG. 12 are described for the purpose of showing the input / output relationship with the video inverse quantizer E5000 that inversely quantizes the video, that is, the video inverse quantization of the invention.
  • the technology can only consist of video inverse quantizer E5000.
  • the subtractor E5001 subtracts each element p i, j of the prediction signal vector p from each element x i, j of the video signal vector x to obtain a prediction error value.
  • the set of the prediction error values d i, j is referred to as a prediction error value vector d.
  • the video inverse quantizer E5000 When the video inverse quantizer E5000 is operated in a frequency conversion unit (for example, 8 ⁇ 8 block unit) described later, the processed element adjacent to the current processing target 8 ⁇ 8 block is used as the prediction signal vector p. Predictive signals generated from can be used.
  • the converter E5002 frequency-converts the prediction error value vector d to obtain a conversion coefficient value.
  • DCT Discrete Cosine Transform
  • the set of D i, j is referred to as a transform coefficient value vector D.
  • the quantizer E5003 (which has the same operation as that of the related art of FIG. 1) quantizes each transform coefficient value D i, j obtained by the transformer E5002, and calculates a quantized value q i, j . . If the E5002 quantizer is a linear quantizer with a quantization width of Qs, It becomes.
  • the function sign () is a function that returns a sign ( ⁇ ) of a real value input value
  • the function floor () is a function that returns the maximum integer among the real value input values.
  • the set of the quantized values q i, j is referred to as a quantized value vector q.
  • the video inverse quantizer E5000 includes a converter E5004, an element calculator E5005, an inverse converter E5006, an adder E5007, and a vector calculator E5008.
  • the input of the video inverse quantizer E5000 is the quantized value vector q, another video signal vector y correlated with the video signal vector x in the frequency domain, and the predicted signal vector p.
  • the converter E5004 frequency-converts each of the other video signal vector y and the predicted signal vector, thereby converting the conversion coefficient value vector Y (hereinafter, auxiliary information Y) and the predicted conversion coefficient value vector P.
  • the element calculator E5005 receives the quantized value vector q, the auxiliary information Y, and the predicted transform coefficient value vector P as inputs, and performs an inverse quantized transform coefficient value vector. Calculate
  • a half-open interval corresponding to the quantized values q i, j is defined as Assuming that the conditional probability density function corresponding to the correlation is f X
  • the vector should be calculated.
  • the element calculator E5005 obtains a value obtained by subtracting the predicted transformation coefficient value vector P from the auxiliary information Y and the inverse quantization transformation coefficient obtained by the equation (42). Or the half-open interval corresponding to a value obtained by subtracting the predictive transform coefficient value vector P from the auxiliary information Y.
  • the inverse quantization transform coefficient calculated by Equation (42) or Equation (42) ' May be updated with the following Expression (43) or Expression (43) ′. It should be noted that the equation (43) or the equation (43) ' When the video signal vector y is a video signal vector in which each element of the video signal vector of the frame adjacent in the time direction is aligned with each element of the video signal vector x by motion compensation prediction, good. That is, the other video signal vector y may be a video signal vector in which each element of the video signal vector of a frame adjacent in the time direction is aligned with each element of the video signal vector x by motion compensation prediction.
  • the inverse transformer E5006 is the inverse quantized transform coefficient value vector obtained by the element calculator E5005. Is inverse frequency transformed and the inverse quantization prediction error vector Calculate
  • an adder E5007 is provided with the inverse quantization prediction error value vector. Is added to the prediction signal vector p to calculate an initial dequantized video signal vector u. Note that the above-described element calculator E5005 has the inverse quantization transform coefficient. In the embodiment in which a vector obtained by adding the predicted transformation coefficient value vector P to the adder E5007 is supplied to the adder E5007, the adder E5007 is not necessary.
  • the vector calculator E5008 oscillates the initial dequantized video signal vector u obtained by the inverse transformer E5006 based on the quantized value vector q, the auxiliary information Y, and the predicted transform coefficient value vector P. Update the de-quantized video signal vector with less Output as.
  • the vector calculator E5008 includes the quantized value q i, j , the auxiliary information element Y i, j , the predicted transformation coefficient value vector element P i, j , and the conditional probability density function f X
  • Y is the range of each conversion coefficient value D i, j Is calculated by the following equations (44) and (45).
  • min_x the probability density function f X the conditional
  • min_x and max_x may be calculated from the standard deviation of the conditional probability density function fX
  • the range of transform coefficient values x i, j obtained by Equation (44) and Equation (45) And a partial vector space defined by the corresponding element P i, j of the predictive transformation coefficient value vector P
  • the partial vector space U is a value range in the frequency domain of the original video signal vector x.
  • the vector calculator E5008 is a predetermined number of times K, the initial inverse quantization video signal vector u (hereinafter, u 0 and write) as starting point, sequentially repeating the projection from the first to describe the fourth below From the partial vector space U, an inverse quantized video signal vector with less vibration is calculated.
  • k corresponds to the sequential number of repetitions of a certain point in time
  • the inverse quantization at the time u k is said sequential repetition has been applied k times the superscript u k described below (superscript)
  • U 0 is an initial dequantized video signal vector.
  • Said first projection is an inverse quantization video signal vector u k to be inputted, a process of updating more dequantized video signal vector u k + 1 small vibration.
  • an objective function J (s) that is a total variation norm defined by the following equation (46) and a constraint function G (s, u k , ⁇ ) defined by the following equation (49):
  • the video signal vector s that minimizes the functional F (s, u k , ⁇ ) of the formula (50) that is the sum of the above and s is calculated, and the solution s is set to u k + 1 .
  • the result of the first projection (u k + 1 ) is obtained by calculating: (In other words, the objective function J (s) is minimized under the constraint function G (s, u k , ⁇ ), and s having a small total variation norm is obtained. .)
  • a sub-gradient method such as Non-Patent Document 6 or a projection method such as Non-Patent Document 7 may be used.
  • the above-described ⁇ may be a positive real number depending on the quantization width Qs.
  • the second projection projects the inverse quantized video signal vector uk + 1 to the frequency domain. Specifically, as in the case of the converter E5004, u k + 1 is frequency-transformed into the frequency domain to calculate an inverse quantization transform coefficient value vector U k + 1 .
  • the third projection is a process of limiting the input inverse quantization transform coefficient value vector U k + 1 to the partial vector space U. Specifically, the following formula is applied to all elements U ij .
  • the inverse quantization transform coefficient value vector U k + 1 is projected onto the spatial domain. Specifically, in the same manner as the inverse transformer E5006, U k + 1 is subjected to inverse frequency transformation to calculate an inverse quantized video signal vector u k + 1 .
  • the vector calculator E5008 calculates u K obtained by sequentially repeating the first to fourth projections described above K times as the final dequantized video signal vector. Output as.
  • step S5001 the above-described converter E5004, element calculator E5005, inverse transformer E5006, and adder E5007 calculate the initial inverse quantized video signal vector u. Subsequently, the process proceeds to step S5002.
  • step S5002 the partial vector space U is calculated by the vector calculator E5008 described above. Subsequently, the process proceeds to step S5003.
  • step S5003 the vector calculator E5008 described above, the first projection as described above the current inverse quantized video signal vector u k, is updated more dequantized video signal vector u k + 1 small vibration. Subsequently, the process proceeds to step S5004.
  • step S5004 the vector calculator E5008 described above converts the inverse quantized video signal vector uk + 1 obtained in step S5003 into the frequency domain by the second projection described above. Subsequently, the process proceeds to step S5005.
  • step S5005 the vector calculator E5008 described above restricts the inverse quantization transform coefficient value vector U k + 1 obtained in step S5004 to the partial vector space U by the third projection described above. Subsequently, the process proceeds to step S5006.
  • step S5006 the vector calculator E5008 described above projects the inverse quantization transform coefficient value vector U k + 1 obtained in step S5005 onto the spatial domain by the fourth projection described above. Subsequently, the process proceeds to step S5007.
  • step S5007 it is determined whether the counter k is equal to a predetermined value K. If they are equal, the process is terminated. Otherwise, the counter k is incremented by 1, and the process returns to step S5003. When returning to step S5003, it is desirable to change the first projection variable ⁇ described above to a smaller positive value.
  • each vector calculator calculates the partial vector space U more accurately using auxiliary information. However, it is also possible to calculate without using auxiliary information. Drawings corresponding to the respective embodiments are shown in FIGS. 14, 15, 16, and 17 below.
  • the partial vector space U is not accurate, it is desirable that the final dequantized video vector does not vary as much as possible from the initial dequantized video vector obtained by each element calculator.
  • the initial value of ⁇ of the functional F (s, u k , ⁇ ) in the first projection in each vector calculator is set smaller than those in the first to fourth embodiments. .
  • the initial dequantized video is calculated by using the auxiliary information in each element calculator, but the auxiliary information is not used in the element calculator (simply the inverse quantum). It is conceivable to calculate the initial dequantized image (by using the quantization). Drawings corresponding to the respective embodiments are shown in FIGS. 18, 19, 20, and 21 below.
  • the initial dequantized video is not accurate, it is desirable to vary the initial dequantized video vector obtained by each element calculator more.
  • the initial value of ⁇ of the functional F (s, u k , ⁇ ) in the first projection in each vector calculator is set larger than those in the first to fourth embodiments. Alternatively, the number of sequential repetitions K is increased.
  • a bilateral filter may be used instead of the total variation minimization method.
  • Result of bilateral filter for certain element I i, j of video signal Is defined by the following equation.
  • ⁇ S and ⁇ r are parameters of the bilateral filter that determines the shape of the two-dimensional Gaussian kernel of Equation (52), and w is a parameter that determines the window size of the bilateral filter.
  • ⁇ r may be set according to the estimated quantization noise, and it is desirable to gradually reduce the value during the successive iterations.
  • FIG. 22 shows a configuration diagram of a video encoder using the video inverse quantizer of the fourth embodiment.
  • FIG. 23 shows a configuration diagram of a video decoder using the video inverse quantizer of the fourth embodiment.
  • the information processing system shown in FIG. 24 includes a processor A1001, a program memory A1002, and storage media A1003 and A1004.
  • the storage media A1003 and A1004 may be separate storage media, or may be storage areas composed of the same storage medium.
  • a magnetic storage medium such as a hard disk can be used as the storage medium.
  • the invention relates to an inverse-quantized video signal vector (initial inverse-quantized video signal vector) that has been inverse-quantized element by element according to related technology, and an inverse-quantized video signal vector ( Updated to the final dequantized video signal vector).
  • an inverse-quantized video signal vector (initial inverse-quantized video signal vector) that has been inverse-quantized element by element according to related technology
  • an inverse-quantized video signal vector Updated to the final dequantized video signal vector.
  • the subvector space in which the original video signal vector exists is accurately limited by using the input quantization value, auxiliary information, and the conditional probability density function,
  • the final dequantized video signal vector is calculated.
  • FIG. 25 shows the result of dequantizing a JPEG-compressed image by simple inverse quantization (normal JPEG expansion), the technique of Non-Patent Document 6, the related technique described above, and the invention technique of the second embodiment described above. is there.
  • the horizontal axis of FIG. 25 is PSNR (Peak Signal-Noise Ratio) of normal JPEG decompression, and the vertical axis is PSNR when normal JPEG decompression and inverse quantization are performed by the respective techniques.
  • PSNR Peak Signal-Noise Ratio
  • Inventive technology suppresses image degradation due to approximate calculation in addition to local degradation of related technology, so that it can be confirmed that PSNR is higher than that of related technology. Further, since the inventive technique accurately limits the partial vector space in which the original video signal vector exists, it can be confirmed that the PSNR is higher than that of Non-Patent Document 6.
  • auxiliary information is a video signal vector of a frame adjacent to the video signal vector to be dequantized in the time direction
  • a corresponding element of the final dequantized video signal vector is an element of the auxiliary information.
  • the invention can provide a higher-quality video encoding method by using it as a local decoding means for an encoded video signal in a video encoding method for encoding a quantized value.
  • the invention can provide a higher-quality video decoding method by using it as a quantization value decoding means in a video decoding method for decoding a quantized value.
  • a dequantization method comprising: obtaining a set of provisional dequantization values having a minimum total variation norm as a set of dequantization values within a range of possible values for each dequantization value.
  • a dequantization method characterized in that a set of provisional inverse quantization values having a minimum total variation norm within a range of possible values is obtained as the set of inverse quantization values.
  • An encoding method for encoding a plurality of quantized values Using an inverse quantization method that obtains a set of multiple inverse quantized values by inversely quantizing multiple quantized values as a set, The inverse quantization method includes: For each quantized value, obtain a range of possible values of the inverse quantized value using at least a signal other than the quantized value, A coding method, characterized in that a set of provisional inverse quantized values that minimize the total variation norm within a range of possible values for each inverse quantized value is obtained as the set of inverse quantized values.
  • An encoding method for encoding a plurality of quantized values Using an inverse quantization method that obtains a set of multiple inverse quantized values by inversely quantizing multiple quantized values as a set, The inverse quantization method includes: Using the plurality of quantized values and signals other than the quantized values, calculating a provisional inverse quantized value of each quantized value of the quantized values in element units, Using the plurality of quantized values, obtain a range of possible dequantized values for each quantized value, starting with a set of provisional dequantized values calculated in units of elements, and dequantized values
  • a coding method comprising: obtaining a set of provisional inverse quantization values having a minimum total variation norm within the range of values that can be taken as the set of inverse quantization values.
  • a decoding method for decoding a plurality of quantized values Using an inverse quantization method that obtains a set of multiple inverse quantized values by inversely quantizing multiple quantized values as a set, The inverse quantization method includes: For each quantized value, obtain a range of possible values of the inverse quantized value using at least a signal other than the quantized value, A decoding method characterized in that a set of provisional inverse quantization values having a minimum total variation norm within a range of possible values for each inverse quantization value is obtained as the set of inverse quantization values.
  • a decoding method for decoding a plurality of quantized values Using an inverse quantization method that obtains a set of multiple inverse quantized values by inversely quantizing multiple quantized values as a set, The inverse quantization method includes: Using the plurality of quantized values and signals other than the quantized values, calculating a provisional inverse quantized value of each quantized value of the quantized values in element units, Using the plurality of quantized values, obtain a range of possible dequantized values for each quantized value, starting with a set of provisional dequantized values calculated in units of elements, and dequantized values A decoding method, wherein a set of provisional inverse quantized values having a minimum total variation norm within a range of possible values is obtained as the set of inverse quantized values.
  • a video inverse quantization method for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed A video element calculation step of calculating an initial dequantized video vector element by element using an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector; , The temporary dequantized video vector calculated in the video element calculation step is used as a starting point, and is determined based on another video vector having a correlation with the processing target video vector and the quantized value vector.
  • a video vector quantization step comprising: calculating a provisional inverse-quantized video vector having a minimum total variation norm from the set of inverse-quantized video vectors as the inverse-quantized video vector. .
  • a video inverse quantization method for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed A video element calculation step of calculating an initial dequantized video vector element by element using an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector; , From the set of provisional inverse-quantized video vectors determined by the quantized value vector, starting from the initial inverse-quantized video vector calculated in the video element calculation step, the provisional inverse quantum that minimizes the total variational norm And a video vector calculating step of calculating a quantized video vector as the dequantized video vector.
  • a video inverse quantization method for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed A video element calculation step of calculating an initial dequantized video vector element by element using elements of the quantized value vector; The temporary dequantized video vector calculated in the video element calculation step is used as a starting point, and is determined based on another video vector having a correlation with the processing target video vector and the quantized value vector.
  • a video vector quantization step comprising: calculating a provisional inverse-quantized video vector having a minimum total variation norm from the set of inverse-quantized video vectors as the inverse-quantized video vector. .
  • a video encoding method for encoding a quantized value vector Using a video inverse quantization method that calculates the inverse quantized video vector from the quantized value vector corresponding to the current video vector to be processed,
  • the video inverse quantization method includes: Video that calculates the initial dequantized video vector to be processed in element units using the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vector An element calculation step; A vector determined by the quantized value vector and another video vector having a correlation with the processing target video vector, starting from the initial dequantized video vector calculated in the video element calculating step And a video vector calculation step of calculating a provisional inverse quantized video vector having a minimum total variation norm from the space as the inverse quantized video vector.
  • a video decoding method for decoding a quantized value vector Using a video inverse quantization method that calculates the inverse quantized video vector from the quantized value vector corresponding to the current video vector to be processed,
  • the video inverse quantization method includes: Video that calculates the initial dequantized video vector to be processed in element units using the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vector An element calculation step; A vector determined by the quantized value vector and another video vector having a correlation with the processing target video vector, starting from the initial dequantized video vector calculated in the video element calculating step
  • a video decoding method comprising: a video vector calculation step of calculating a provisional inverse quantized video vector having a minimum total variation norm from the space as the inverse quantized video vector.
  • An inverse quantization apparatus that obtains a set of a plurality of inverse quantized values by inversely quantizing a plurality of quantized values as a set, For each quantized value, obtain a range of values that can be taken by the inverse quantized value using at least a signal other than the quantized value, and within the range of values that can be taken for each inverse quantized value, the total variation norm is minimum.
  • An inverse quantization apparatus comprising: a restoration unit that obtains a set of provisional inverse quantization values as the set of inverse quantization values.
  • the restoration means includes Means for calculating a provisional inverse quantized value of each quantized value of the quantized values in element units using the quantized values and signals other than the quantized values; Using the plurality of quantized values and signals other than the quantized values to obtain a range of values that can be taken for each quantized value, a set of provisional inverse quantized values calculated in units of the elements And a means for obtaining a set of provisional inverse quantized values that minimize the total variation norm within the range of possible values for each inverse quantized value as the set of inverse quantized values.
  • the inverse quantization apparatus according to appendix 16, which is characterized.
  • the restoration means includes Means for calculating a provisional inverse quantization value of each quantization value of the plurality of quantization values in units of elements using the plurality of quantization values; Using the plurality of quantized values and signals other than the quantized values to obtain a range of values that can be taken for each quantized value, a set of provisional inverse quantized values calculated in units of the elements And a means for obtaining a set of provisional inverse quantized values that minimize the total variation norm within the range of possible values for each inverse quantized value as the set of inverse quantized values.
  • Item 17 The inverse quantization apparatus according to appendix 16, which is characterized.
  • An inverse quantization apparatus that obtains a set of a plurality of inverse quantized values by inversely quantizing a plurality of quantized values as a set, Using the plurality of quantized values and signals other than the quantized values, a provisional inverse quantized value of each quantized value of the quantized values is calculated in element units, and the quantized values are calculated. The range of values that can be taken by dequantized values for each quantized value is obtained, and the range of values that can be taken by each dequantized value starting from the set of provisional dequantized values calculated in units of elements.
  • An inverse quantization apparatus comprising: a restoration unit that obtains a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values.
  • the restoration unit is different from the signal other than the quantized value.
  • 20 The inverse quantization apparatus according to any one of appendix 16 to appendix 19, wherein a provisional inverse quantized value with a small value is included in the set of the plurality of inverse quantized values.
  • An encoding device for encoding a plurality of quantized values, Having a dequantization device for dequantizing a plurality of quantized values as a set to obtain a set of a plurality of dequantized values;
  • the inverse quantization device includes: For each quantized value, obtain a range of values that can be taken by the inverse quantized value using at least a signal other than the quantized value.
  • An encoding apparatus comprising: means for obtaining a set of provisional inverse quantized values as the set of inverse quantized values.
  • An encoding device for encoding a plurality of quantized values Having a dequantization device for dequantizing a plurality of quantized values as a set to obtain a set of a plurality of dequantized values;
  • the inverse quantization device includes: Using the plurality of quantized values and signals other than the quantized values, a provisional inverse quantized value of each quantized value of the quantized values is calculated in element units, and the quantized values are calculated.
  • the range of possible values of dequantized values for each quantized value is obtained, and the range of possible values for each dequantized value starting from the set of provisional dequantized values calculated in units of elements.
  • a decoding device for decoding a plurality of quantized values Having a dequantization device for dequantizing a plurality of quantized values as a set to obtain a set of a plurality of dequantized values;
  • the inverse quantization device includes: For each quantized value, obtain a range of values that can be taken by the inverse quantized value using at least a signal other than the quantized value.
  • a decoding apparatus comprising means for obtaining a set of provisional inverse quantized values as the set of inverse quantized values.
  • a decoding device for decoding a plurality of quantized values Having a dequantization device for dequantizing a plurality of quantized values as a set to obtain a set of a plurality of dequantized values;
  • the inverse quantization device includes: Using the plurality of quantized values and signals other than the quantized values, a provisional inverse quantized value of each quantized value of the quantized values is calculated in element units, and the quantized values are calculated.
  • the range of possible values of dequantized values for each quantized value is obtained, and the range of possible values for each dequantized value starting from the set of provisional dequantized values calculated in units of elements.
  • a video inverse quantization apparatus that calculates a dequantized video vector from a quantized value vector corresponding to a current video vector to be processed, Video element calculation means for calculating an initial dequantized video vector element by element using an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector; , The temporary dequantized video vector calculated by the video element calculation means is used as a starting point, and is determined based on another video vector having a correlation with the processing target video vector and the quantized value vector.
  • Video dequantization apparatus comprising video vector calculation means for calculating a provisional inverse quantized video vector having a minimum total variation norm as the inverse quantized video vector from a set of inverse quantized video vectors .
  • a video inverse quantization apparatus for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, Video element calculation means for calculating an initial dequantized video vector element by element using an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector; , From the set of provisional inverse-quantized video vectors determined by the quantized value vector, starting from the initial inverse-quantized video vector calculated by the video element calculation means, the provisional inverse quantum that minimizes the total variational norm
  • a video dequantization apparatus comprising: video vector calculation means for calculating a quantized video vector as the dequantized video vector.
  • a video inverse quantization apparatus for calculating an inversely quantized video vector from a quantized value vector corresponding to a current video vector to be processed, Video element calculation means for calculating an initial dequantized video vector element by element using elements of the quantized value vector; The temporary dequantized video vector calculated by the video element calculation means is used as a starting point, and is determined based on another video vector having a correlation with the processing target video vector and the quantized value vector.
  • Video dequantization apparatus comprising video vector calculation means for calculating a provisional inverse quantized video vector having a minimum total variation norm as the inverse quantized video vector from a set of inverse quantized video vectors .
  • the video vector calculation means calculates the correlation with respect to the element.
  • a video encoding device for encoding a quantized value vector A video inverse quantization device that calculates a dequantized video vector from a quantized value vector corresponding to a current video vector to be processed;
  • the video inverse quantization device Video that calculates the initial dequantized video vector to be processed in element units using the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vector Element calculation means;
  • a video encoding apparatus comprising: a video vector calculation means for calculating a provisional inverse quantized video vector having a minimum total variation norm from the space as the inverse quantized video vector.
  • a video decoding device for decoding a quantized value vector A video inverse quantization device that calculates a dequantized video vector from a quantized value vector corresponding to a current video vector to be processed;
  • the video inverse quantization device Video that calculates the initial dequantized video vector to be processed in element units using the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vector Element calculation means;
  • a video decoding apparatus comprising: a video vector calculating means for calculating a provisional inverse quantized video vector having a minimum total variation norm from the space as the inverse quantized video vector.
  • An inverse quantization program for inversely quantizing a plurality of quantized values as a set to obtain a set of a plurality of inverse quantized values, Processing for obtaining a range of values that can be taken by the inverse quantization value for each quantization value using at least a signal other than the quantization value; Causing the information processing apparatus to execute a process of obtaining a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values within a range of possible values for each inverse quantization value.
  • the inverse quantization process is: Processing for obtaining a range of values that can be taken by the inverse quantization value for each quantization value using at least a signal other than the quantization value; Causing the information processing apparatus to execute a process of obtaining a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values within a range of possible values for each inverse quantization value.
  • the inverse quantization process is: Using the plurality of quantized values and signals other than the quantized values, a process of calculating a provisional inverse quantized value of each quantized value of the quantized values in element units; Using the plurality of quantized values, obtain a range of possible dequantized values for each quantized value, starting with a set of provisional dequantized values calculated in units of elements, and dequantized values
  • the inverse quantization process is: Processing for obtaining a range of values that can be taken by the inverse quantization value for each quantization value using at least a signal other than the quantization value; Causing the information processing apparatus to execute a process of obtaining a set of provisional inverse quantization values having a minimum total variation norm as the set of inverse quantization values within a range of possible values for each inverse quantization value.
  • the inverse quantization process is: Using the plurality of quantized values and signals other than the quantized values, a process of calculating a provisional inverse quantized value of each quantized value of the quantized values in element units; Using the plurality of quantized values, obtain a range of possible dequantized values for each quantized value, starting with a set of provisional dequantized values calculated in units of elements, and dequantized values
  • a video inverse quantization program for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, A video element calculation process for calculating an initial dequantized video vector element by element using an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector; , The temporary dequantized video vector calculated in the video element calculation process is used as a starting point, and is determined based on another video vector having a correlation with the video vector to be processed and the quantized value vector.
  • An information processing apparatus is configured to cause an information processing device to execute a video vector calculation process for calculating a provisional inverse quantized video vector having a minimum total variation norm as the inverse quantized video vector from a set of inverse quantized video vectors. program.
  • a video inverse quantization program for calculating a dequantized video vector from a quantized value vector corresponding to a current video vector to be processed A video element calculation process for calculating an initial dequantized video vector element by element using an element of another video vector having a correlation with the video vector to be processed and an element of the quantized value vector; , From the set of provisional inverse-quantized video vectors determined by the quantized value vector, starting from the initial inverse-quantized video vector calculated in the video element calculation process, the provisional inverse quantum that minimizes the total variational norm
  • a video inverse quantization program for calculating an inverse quantized video vector from a quantized value vector corresponding to a current video vector to be processed, Video element calculation processing for calculating an initial dequantized video vector element by element using the quantized value vector elements;
  • the temporary dequantized video vector calculated in the video element calculation process is used as a starting point, and is determined based on another video vector having a correlation with the video vector to be processed and the quantized value vector.
  • An information processing apparatus is configured to cause an information processing device to execute a video vector calculation process for calculating a provisional inverse quantized video vector having a minimum total variation norm as the inverse quantized video vector from a set of inverse quantized video vectors. program.
  • a video encoding program for encoding a quantized value vector A video inverse quantization process for calculating the inverse quantized video vector from the quantized value vector corresponding to the current video vector to be processed;
  • the video inverse quantization process is: Video that calculates the initial dequantized video vector to be processed in element units using the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vector Element calculation processing, A vector determined by the quantized value vector and another video vector having a correlation with the processing target video vector, starting from the initial dequantized video vector calculated in the video element calculation process
  • a video decoding program for decoding a quantized value vector A video inverse quantization process for calculating the inverse quantized video vector from the quantized value vector corresponding to the current video vector to be processed;
  • the video inverse quantization process is: Video that calculates the initial dequantized video vector to be processed in element units using the elements of other video vectors that have a correlation with the video vector to be processed and the elements of the quantized value vector Element calculation processing, A vector determined by the quantized value vector and another video vector having a correlation with the processing target video vector, starting from the initial dequantized video vector calculated in the video element calculation process

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Theoretical Computer Science (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする逆量子化方法である。

Description

逆量子化方法、逆量子化装置及びプログラム
　本発明は、逆量子化方法、逆量子化装置及びプログラムに関する。
　図１を参照して、関連する映像逆量子化技術について説明する。ただし、量子化器E1001は、映像逆量子化をする要素計算器E1002との入出力関係を示す目的で記載していること、すなわち、映像逆量子化技術は要素計算器E1002のみによって構成できることに注意されたい。
　また、垂直画素数ｍ、水平画素数ｎの1枚のグレースケールの映像フレームを映像信号ベクトルｘとする。ただし、以降の説明から明らかなように、カラーの映像信号にも関連技術と本発明は適用できる。また、前記映像信号ベクトルｘが映像フレームの部分領域であっても、関連技術と本発明を適用できる。尚、本稿では、”複数要素の組”および”複数要素の集合”を、”ベクトル”と呼ぶ。
　量子化器E1001は、映像信号ベクトルｘの各要素
Figure JPOXMLDOC01-appb-I000001
を量子化して量子化値ｑｉ，ｊを計算する。E1001の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
Figure JPOXMLDOC01-appb-I000002
となる。ただし、関数ｆｌｏｏｒ（）は床関数であり、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの組 (集合)を量子化値ベクトルｑとする。
　要素計算器E1002は、前記量子化値ｑｉ，ｊと、映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ(補助情報ｙ)の各要素ｙｉ，ｊとを用いて、逆量子化値
Figure JPOXMLDOC01-appb-I000003
を計算する。前記量子化値ｑｉ，ｊに対応する半開区間を
Figure JPOXMLDOC01-appb-I000004
前記の相関に対応する条件付確率密度関数を、ｆＸ｜Ｙ（ｘ｜ｙ）とすると、要素計算器E1002は、逆量子化された映像信号ベクトル逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000005
の平均二乗誤差が最小となる各要素(各逆量子化値)
Figure JPOXMLDOC01-appb-I000006
を、以下の条件付期待値によって計算する（図２）。
Figure JPOXMLDOC01-appb-I000007
　なお、現実においては、「条件付確率分布ｆＸ｜ｙの完全な形状は分からない」および「式(2)の計算は積分が必要となる」という理由から、式(2)の代わりの近似計算(非特許文献1、2、3)が利用される。例えば、非特許文献1では、式(2)の代わりに、以下の式(2)’を利用することを提案している。
Figure JPOXMLDOC01-appb-I000008
　近似計算が正確である限り、単純に逆量子化して逆量子化値を計算するよりも、前記補助情報ｙを利用して逆量子化値を計算することによって、逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000009
の平均二乗誤差を低減できる。
　上述した要素計算器E1002の映像逆量子化によって、平均二乗誤差がより小さい逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000010
を計算することができる。
　以上で、関連技術の説明を終了する。
Aaron, R. Zhang and B. Girod, "Wyner-Ziv Coding for Motion Video,"Asilomar Conference, November 2002. Y. Vatis, S. Klomp and J. Ostermann, "Enhanced reconstruction of the quantised transform coefficients for Wyner-Ziv coding," ICME, July 2007. D. Kubasov, J. Nayak and C. Guillemot, "Optimal Reconstruction in Wyner-Ziv Video Coding with Multiple Side Information," MMSP, October, 2007. S. Osher, L.I. Rudin, and E. Fatemi, "Nonlinear total variation based noise removal algorithms," Physic D, vol. 60, pp. 259-268, 1992. C. Tomasi and R. Manduchi, "Bilateral Filtering for Gray and Color Images," ICCV, 1998. F. Alter, S. Durand and J. Froment, "Adapted Total Variation for Artifact Free Decompression of JPEG Images," Journal of Mathematical Imaging and Vision 23, pp. 199-211, September 2005. A. Chambolle, "An algorithm for total variation minimization and applications," J. Math. Imaging Vis., Vol. 20, No. 1, pp. 89 - 97, 2004.
　関連技術の原理的な課題として、近似計算が正確であっても、逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000011
の平均二乗誤差が低減される代わりに局所的に二乗誤差が大きくなり、それが局所劣化として目立つという課題があった。
　そこで、本発明は上記課題に鑑みて発明されたものであって、その目的は高品質な逆量子化方法、逆量子化装置及びプログラムを提供することを目的とする。
　上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を符号化する符号化方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を符号化する符号化方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を復号する復号方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を復号する復号方法であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、前記逆量子化方法は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求めることを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。
　上記課題を解決する本発明は、量子化値ベクトルを符号化する映像符号化方法であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、前記映像逆量子化方法は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。
　上記課題を解決する本発明は、量子化値ベクトルを復号する映像復号方法であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、前記映像逆量子化方法は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップとを有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段を有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段を有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を符号化する符号化装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を符号化する符号化装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を復号する復号装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を復号する復号装置であって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、前記逆量子化装置は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有することを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。
　上記課題を解決する本発明は、量子化値ベクトルを符号化する映像符号化装置であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、前記映像逆量子化装置は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。
　上記課題を解決する本発明は、量子化値ベクトルを復号する映像復号装置であって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、前記映像逆量子化装置は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段とを有することを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムあって、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムであって、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を符号化する符号化のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を符号化する符号化のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を復号する復号方法のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、複数の量子化値を復号する復号のプログラムであって、複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、前記逆量子化処理は、前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、量子化値ベクトルを符号化する映像符号化のプログラムであって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、前記映像逆量子化処理は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。
　上記課題を解決する本発明は、量子化値ベクトルを復号する映像復号のプログラムであって、現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、前記映像逆量子化処理は、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理とを情報処理装置に実行させることを特徴とする。
　本発明によれば、高品質な逆量子化方法、逆量子化装置及びプログラムを提供することができる。
図１は関連技術の説明図である。 図２は要素の逆量子化概念図である。 図３は初期逆量子化映像信号ベクトル計算結果の概念図である。 図４は値域の概念図である。 図５は最終逆量子化映像信号ベクトル計算結果の概念図である。 図６は第1の実施の形態の構成図である。 図７は第1の実施の形態のフローチャートである。 図８は第２の実施の形態の構成図である。 図９は第２の実施の形態のフローチャートである。 図１０は第３の実施の形態の構成図である。 図１１は第３の実施の形態のフローチャートである。 図１２は第４の実施の形態の構成図である。 図１３は第４の実施の形態のフローチャートである。 図１４は第１の実施の形態におけるその他の構成図である。 図１５は第２の実施の形態におけるその他の構成図である。 図１６は第３の実施の形態におけるその他の構成図である。 図１７は第４の実施の形態におけるその他の構成図である。 図１８は第１の実施の形態におけるその他の構成図である。 図１９は第２の実施の形態におけるその他の構成図である。 図２０は第３の実施の形態におけるその他の構成図である。 図２１は第４の実施の形態におけるその他の構成図である。 図２２は映像逆量子化器を用いた映像符号化器の構成図である。 図２３は映像逆量子化器を用いた映像復号器の構成図である。 図２４は本実施の形態における情報処理装置の構成図である。 図２５は本実施の形態における効果の具体例を説明するための図である。
　本発明の原理を簡単に説明する。
　一般的に「映像信号は、信号値が緩やかに変化する平坦領域、信号値が急峻に変化するエッジ領域、および信号値が激しく振動するテクスチャ領域によって構成され、人間の視覚が、平坦領域やエッジ領域での雑音に敏感であり、テクスチャ領域での雑音に鈍感である」という性質がある。
　ゆえに、前記の性質から、前記局所劣化が目立つ箇所は、映像信号の平坦領域やエッジ領域の箇所であると考えられる。本発明は、上述した関連技術によって要素毎に計算された逆量子化映像信号ベクトル(以後、初期逆量子化映像信号ベクトルと呼ぶ)を、その映像信号ベクトルの振動がより小さくなるような逆量子化映像信号ベクトル(以後、最終逆量子化映像信号ベクトルと呼ぶ)に更新することによって、前記局所劣化が目立つことを回避する。
　ただし、本発明においては、(人間の視覚が敏感な)エッジ領域でのぼけが少ない前記最終逆量子化映像信号ベクトルを計算する手法として、全変分ノルム(Total variation norm)を最小化する非特許文献4の全変分最小化法(Total variation minimization methods)や、非特許文献5のバイラテラルフィルタ(Bilateral Filter)などを利用する。
　また、本発明においては、量子化値、前記補助情報、および前記条件付確率密度関数を用いて、逆量子化映像信号ベクトル(オリジナルの映像信号ベクトル)の存在するベクトルの集合を正確に限定し(以後では、前記ベクトルの集合に対応するベクトル空間を、単純に、部分ベクトル空間と呼ぶ)、前記部分ベクトル空間の中で前記最終逆量子化映像信号ベクトルを計算する。これによって、前記エッジ領域でのぼけをより効果的に抑制できる。前記部分ベクトル空間を正確に限定する点が、前記全変分最小化法を用いてJPEG圧縮によるノイズを抑制する非特許文献6と大きく異なる点である。そもそも、非特許文献6は、前記補助情報を利用して逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000012
の平均二乗誤差を低減する、という関連技術の手法を考慮できない。
　続いて、図面を用いて本発明の原理を解説する。
　本発明は、まず、前記初期逆量子化映像信号ベクトルを関連技術と同様に計算する（図３）。
　続いて、本発明は、前記量子化値ｑｉ，ｊ、前記補助情報の要素ｙｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、オリジナルの映像ベクトルｘの各要素ｘｉ，ｊの値域(range)である
Figure JPOXMLDOC01-appb-I000013
を計算する(図４)。前記各要素ｘｉ，ｊの値域
Figure JPOXMLDOC01-appb-I000014
で定義される部分ベクトル空間を
Figure JPOXMLDOC01-appb-I000015
とする。ただし、Ｒｍ×ｎは、実数の要素を持つｍ行ｎ列の行列であり、映像ベクトルに対応する。
　図４の例では、前記要素ｘｉ，ｊの値域である
Figure JPOXMLDOC01-appb-I000016
は、ｆＸ｜Ｙが定義域(domain)でその値が0よりも大きい区間と半開空間
Figure JPOXMLDOC01-appb-I000017
とのオーバーラップである。明らかに、オリジナルの映像信号ベクトルの存在する前記部分ベクトル空間Ｕは、前記量子化値ｑｉ，ｊで定義される部分ベクトル空間
Figure JPOXMLDOC01-appb-I000018
よりも、限定された部分ベクトル空間であること(つまり、ＵはＶの部分空間(sub-space)であること)に注意されたい。
　最後に、本発明は、前記部分ベクトル空間Ｕの中で、前記初期逆量子化映像信号ベクトルを始点として、最終逆量子化映像信号ベクトルを計算し、その結果を逆量子化映像ベクトルとして出力する。例えば、図５は、垂直に隣接する各要素間の絶対値誤差の総和
Figure JPOXMLDOC01-appb-I000019
が小さくなるような最終逆量子化映像信号ベクトルを計算した例である。前記最終逆量子化映像ベクトルは、ぼけることなく、(人間の視覚が敏感な)平坦領域やエッジ領域における信号値の振動が抑制された映像ベクトルとなる。ゆえに、前記局所劣化が目立つことを回避できる。
　以上で、本発明の原理の説明を終了する。
　上述した本発明の原理に基づく映像逆量子化技術によって、上述した関連技術の課題を解決できる。
　また、前記補助情報が逆量子化対象の映像信号ベクトルに時間方向で隣接するフレームの映像信号ベクトルであれば、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。このため、本発明の別の手段においては、前記補助情報の各要素ｙｉ，ｊと前記初期逆量子化映像信号ベクトルの要素
Figure JPOXMLDOC01-appb-I000020
の絶対差分値がある閾値よりも小さい場合、あるいは、前記補助情報の要素ｙｉ，ｊが前記部分ベクトル空間の対応する要素の値域に含まれる場合、前記最終逆量子化映像信号ベクトルの対応する要素ｘｉ，ｊが前記補助情報の要素ｙｉ，ｊと近い値をとるように、前記最終逆量子化映像信号ベクトルの計算に制約をつける。本発明によって、時間方向の連続性が改善し、映像のちらつきを抑制できる。
　また、上述した本発明の手段らは、量子化値を符号化する映像符号化方法において、その映像信号のローカル復号の復号手段として利用することもできる。本発明によって、より高品質な映像符号化方法を提供できる。
　また、上述した本発明の手段らは、量子化値を復号する映像復号方法において、その映像信号の復号手段として利用することもできる。本発明によって、より高品質な映像復号方法を提供できる。
　以下、具体的な実施の形態を説明する。
　＜発明の第1実施形態＞
　図6を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図6の量子化器E2001は、映像を逆量子化する映像逆量子化器E2000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E2000のみによって構成できることに注意されたい。
　量子化器E2001(図１の関連技術のものと同じである)は、映像信号ベクトルｘの各要素
Figure JPOXMLDOC01-appb-I000021
を量子化して量子化値ｑｉ，ｊを計算する。E2001の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
Figure JPOXMLDOC01-appb-I000022
となる。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
　映像逆量子化器E2000は、要素計算器E2002とベクトル計算器E2003とで構成される。要素計算器E2002とベクトル計算器E2003は、前記量子化値ベクトルｑと、前記映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ(以後、補助情報ｙ)とを入力として、逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000023
を計算する。それぞれを以下で説明する。
　要素計算器E2002は、前記量子化値ベクトルｑと入力される前記補助情報ｙとを用いて、初期逆量子化映像信号ベクトルｕの各要素値ｕｉ，ｊを計算する。
　具体的には、要素計算器E2002は、前記相関に対応する条件付確率密度関数をｆＸ｜ｙ（ｘ｜ｙ）、量子化値ｑｉ，ｊに対応する半開区間を
Figure JPOXMLDOC01-appb-I000024
とすると、要素計算器E2002は、各要素値ｕｉ，ｊを以下の条件付期待値によって計算する。
Figure JPOXMLDOC01-appb-I000025
　ただし、要素計算器E2002は、式(4)の代わりに、以下の式(4)’を利用して各逆量子化値ｕｉ，ｊを計算してもよい。
Figure JPOXMLDOC01-appb-I000026
　ところで、前記補助情報ｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E2002は、前記補助情報の各要素ｙｉ，ｊと式(4)にて得られた要素ｕｉ，ｊの絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報の要素ｙｉ，ｊが対応する量子化値ｑｉ，ｊに対応する半開区間
Figure JPOXMLDOC01-appb-I000027
に含まれる場合では、式(4) または式(4)’によって計算されたｕｉ，ｊを以下の式(5)または式(5)’で更新してもよい。
Figure JPOXMLDOC01-appb-I000028
Figure JPOXMLDOC01-appb-I000029
　なお、式(5)あるいは式(5)’によってｕｉ，ｊを更新する時には、前記補助情報ｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。(つまり、前記補助情報ｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。)
　ベクトル計算器E2003は、入力される補助情報ｙと量子化値ベクトルｑとに基づいて、入力される初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、その更新の結果を最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000030
として出力する。
　先ず、ベクトル計算器E2003は、前記量子化値ｑｉ，ｊ、前記補助情報の要素ｙｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、各要素ｘｉ，ｊの値域(domain)である
Figure JPOXMLDOC01-appb-I000031
を以下の式(6)と式(7)によって計算する。
Figure JPOXMLDOC01-appb-I000032
Figure JPOXMLDOC01-appb-I000033
　ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜ｙが定義域において0と交わるｘの最小値、ｍａｘ＿ｘは、条件付前記確率密度関数ｆＸ｜Ｙが定義域において0と交わるｘの最大値である。尚、ｍｉｎ＿ｘと、ｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
　以後、式(6)と式(7)によって得られた各要素ｘｉ，ｊの値域で定義される部分ベクトル空間をＵ (ただし、
Figure JPOXMLDOC01-appb-I000034
とする。
　続いて、ベクトル計算器E2003は、所定の回数ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1の射影と第2の射影を交互に繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
　前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(8)で定義される全変分ノルムである目的関数Ｊ（ｓ）と、以下の式(11)で定義される制約関数Ｇ（ｓ，ｕｋ，λ）との和である式(12)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
Figure JPOXMLDOC01-appb-I000035
Figure JPOXMLDOC01-appb-I000036
Figure JPOXMLDOC01-appb-I000037
Figure JPOXMLDOC01-appb-I000038
Figure JPOXMLDOC01-appb-I000039
　定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式(13)を解くことで得られる。(つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる)
Figure JPOXMLDOC01-appb-I000040
　なお、式(13)を解く方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
　前記第2の射影は、入力される逆量子化映像信号ベクトルｕｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。具体的には、以下の式(14)を逆量子化映像信号ベクトルｕｋ＋１のすべての要素ｕｉ，ｊに対して適用する。
Figure JPOXMLDOC01-appb-I000041
　最後に、ベクトル計算器E2003は、Ｋ回だけ、上述した第1の射影と第2の射影を交互に繰り返すことによって得られたｕｋを前記最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000042
として出力する。
　以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
　続いて、図７のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E2000の内部のフローだけを説明する。
　処理の開始に際して、カウンタをリセットする(ｋ＝０)。
　ステップS2001では、上述した要素計算器E2002によって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS2002に進む。
　ステップS2002では、上述したベクトル計算器E2003によって、部分ベクトル空間Ｕを計算する。続いて、ステップS2003に進む。
　ステップS2003では、上述したベクトル計算器E2003によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS2004に進む。
　ステップS2004では、上述したベクトル計算器E2003によって、現在の逆量子化映像信号ベクトルｕｋ＋１を上述した第2の射影によって、部分ベクトル空間Ｕの中に制限する。続いて、ステップS2005に進む。
　ステップS2005では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS2003にもどる。なお、ステップS2003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
　処理の終了後、ｕｋを最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000043
として出力する。
　以上で、本実施形態における発明のフローチャートの説明を終了する。
　以上で、本実施形態の説明を終了する。
＜第２の実施の形態＞
　本実施形態では、映像逆量子化器の入力である量子化値が、映像信号ベクトルを周波数変換した変換係数の量子化値である場合の本発明の映像逆量子化器について説明する。
　図８を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図８の変換器E3001と量子化器E3002は、映像を逆量子化する映像逆量子化器E3000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E3000のみによって構成できることに注意されたい。
　変換器E3001は、映像信号ベクトルｘを周波数変換し、変換係数値
Figure JPOXMLDOC01-appb-I000044
を計算する。前記周波数変換としては、8x8ブロック単位のDCT(Discrete Cosine Transform)などが利用できる。以降では、前記変換係数値Ｘｉ，ｊの集合を変換係数値ベクトルＸとする。
　量子化器E3002(図１の関連技術のものと同じ動作である)は、変換器E3001で得られた各変換係数値Ｘｉ，ｊを量子化して、量子化値ｑｉ，ｊを計算する。E3002の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
Figure JPOXMLDOC01-appb-I000045
となる。ただし、関数ｓｉｇｎ（）は、実数値の入力値の符号(±)を返す関数であり、また、関数ｆｌｏｏｒ（）は、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
　映像逆量子化器E3000は、変換器E3003、要素計算器E3004、逆変換器E3005、ベクトル計算器E3006で構成される。映像逆量子化器E3000の入力は、前記量子化値ベクトルｑと、周波数領域において映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙである。
　変換器E3003は、変換器E3001と同様に、入力される前記他の映像信号ベクトルｙを周波数変換して、その変換係数値ベクトルＹ(以後、補助情報Ｙ)を計算する。
　続いて、要素計算器E3004は、前記補助情報Ｙと前記量子化値ベクトルｑとを入力として、逆量子化変換係数値ベクトル
Figure JPOXMLDOC01-appb-I000046
を計算する。具体的には、前記量子化値ｑｉ，ｊに対応する半開区間を
Figure JPOXMLDOC01-appb-I000047
要前記の相関に対応する条件付確率密度関数をｆＸ｜Ｙ（Ｘ｜Ｙ）とすると、要素計算器E3004は、各要素
Figure JPOXMLDOC01-appb-I000048
を以下の式(16)よって計算する。
Figure JPOXMLDOC01-appb-I000049
　ただし、要素計算器E3004は、式(16)の代わりに、以下の式(16)’を利用して各要素
Figure JPOXMLDOC01-appb-I000050
を計算してもよい。
Figure JPOXMLDOC01-appb-I000051
　ところで、前記他の映像信号ベクトルｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E3004は、前記補助情報の各要素Ｙｉ，ｊと式(4)にて得られた要素
Figure JPOXMLDOC01-appb-I000052
の絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報の要素Ｙｉ，ｊが対応する量子化値ｑｉ，ｊに対応する半開区間
Figure JPOXMLDOC01-appb-I000053
に含まれる場合では、式(16) または式(16)’によって計算された
Figure JPOXMLDOC01-appb-I000054
を以下の式(17)または式(17)’で更新してもよい。
Figure JPOXMLDOC01-appb-I000055
Figure JPOXMLDOC01-appb-I000056
　なお、式(17)あるいは式(17)’によって
Figure JPOXMLDOC01-appb-I000057
を更新する時、前記映像信号ベクトルｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。(つまり、前記他の映像信号ベクトルｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。)
　続いて、逆変換器E3005は、前記要素計算器E3004で得られた逆量子化変換係数値ベクトル
Figure JPOXMLDOC01-appb-I000058
を逆周波数変換して、初期逆量子化映像信号ベクトルｕを計算する。
　さらに、ベクトル計算器E3006は、前記量子化値ベクトルｑと前記補助情報Ｙに基づいて、前記逆変換器E3005で得られた初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000059
として出力する。
　先ず、ベクトル計算器E3006は、前記量子化値ｑｉ，ｊ、前記補助情報の要素Ｙｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、周波数領域における映像信号ベクトルの各要素Ｘｉ，ｊの値域である
Figure JPOXMLDOC01-appb-I000060
を以下の式(18)と式(19)によって計算する。
Figure JPOXMLDOC01-appb-I000061
Figure JPOXMLDOC01-appb-I000062
　ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最小値、ｍａｘ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最大値である。なお、ｍｉｎ＿ｘとｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
　以後、式(18)と式(19)によって得られた変換係数値Ｘｉ，ｊの値域
Figure JPOXMLDOC01-appb-I000063
で定義される部分ベクトル空間
Figure JPOXMLDOC01-appb-I000064
とする。前記の定義から明らかなように、部分ベクトル空間Ｕは、オリジナルの映像信号ベクトルｘの周波数領域における値域である。
　続いて、ベクトル計算器E3006は、所定の回数Ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1から第4の射影を順次繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
　前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(20)で定義される全変分ノルムである目的関数Ｊ（ｓ）と、以下の式(23)で定義される制約関数Ｇ（ｓ，ｕｋ，λ）との和である式(24)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
Figure JPOXMLDOC01-appb-I000065
Figure JPOXMLDOC01-appb-I000066
Figure JPOXMLDOC01-appb-I000067
Figure JPOXMLDOC01-appb-I000068
Figure JPOXMLDOC01-appb-I000069
　定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式(25)を計算することで得られる。つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる。
Figure JPOXMLDOC01-appb-I000070
　なお、式(25)を計算する方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
　前記第2の射影は、逆量子化映像信号ベクトルｕｋ＋１を周波数領域に射影する。具体的には、変換器E3003と同じように、ｕｋ＋１を周波数領域に周波数変換して逆量子化変換係数値ベクトルＵｋ＋１を計算する。
　前記第3の射影は、入力される逆量子化変換係数値ベクトルＵｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。具体的には、すべての要素Ｕｉｊに対して以下の式を適用する。
Figure JPOXMLDOC01-appb-I000071
　前記第4の射影は、逆量子化変換係数値ベクトルＵｋ＋１を空間領域に射影する。具体的には、逆変換器E3005と同じように、Ｕｋ＋１を逆周波数変換して逆量子化映像信号ベクトルｕｋ＋１を計算する。
　最後に、ベクトル計算器E3006は、Ｋ回だけ、上述した第1から第4の射影を順次繰り返すことによって得られたｕｋを前記最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000072
として出力する。
　以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
　続いて、図９のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E3000の内部のフローだけを説明する。
　まず、処理の開始に際して、カウンタをリセットする(ｋ＝０)。
　ステップS3001では、上述した要素計算器E3004と逆変換器E3005によって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS3002に進む。
　ステップS3002では、上述したベクトル計算器E3006によって、部分ベクトル空間Ｕを計算する。続いて、ステップS3003に進む。
　ステップS3003では、上述したベクトル計算器E3006によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS3004に進む。
　ステップS3004では、上述したベクトル計算器E3006によって、ステップS3003で得られた逆量子化映像信号ベクトルｕｋ＋１を上述した第2の射影によって、周波数領域に変換する。続いて、ステップS3005に進む。
　ステップS3005では、上述したベクトル計算器E3006によって、ステップS3004で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第3の射影によって、前記部分ベクトル空間Ｕの中に制限する。続いて、ステップS3006に進む。
　ステップS3006では、上述したベクトル計算器E3006によって、ステップS3005で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第4の射影によって、空間領域に射影する。続いて、ステップS3007に進む。
　ステップS3007では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS3003にもどる。なお、ステップS3003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
　処理の終了後、ｕｋを最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000073
として出力する。
　以上で、本実施形態における発明のフローチャートの説明を終了する。
　以上で、本実施形態の説明を終了する。
＜第３の実施の形態＞
　本実施形態では、映像逆量子化器の入力である量子化値が、映像信号ベクトルが予測された予測誤差値の量子化値である場合の本発明の映像逆量子化器について説明する。
　図10を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図10の減算器E4001と量子化器E4002は、映像を逆量子化する映像逆量子化器E4000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E4000のみによって構成できることに注意されたい。
　減算器E4001は、映像信号ベクトルｘの各要素ｘｉ，ｊから、予測信号ベクトルｐの各要素ｐｉ，ｊを減じて、予測誤差値
Figure JPOXMLDOC01-appb-I000074
Figure JPOXMLDOC01-appb-I000075
　以降では、前記予測誤差値ｄｉ，ｊの集合を予測誤差値ベクトルｄとする。
　なお、映像逆量子化器E3000を映像フレームよりも細かい単位(例えば、1要素単位)で動作させるとすれば、前記予測信号ベクトルｐとして、現在の処理対象の要素に隣接する処理済みの要素
Figure JPOXMLDOC01-appb-I000076
から生成した予測信号などを利用できる。
　量子化器E4002(図１の関連技術のものと同じ動作である)は、映像信号ベクトルｄの各要素ｄｉ，ｊを量子化して、量子化値ｑｉ，ｊを計算する。E4002の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
Figure JPOXMLDOC01-appb-I000077
となる。ただし、関数ｓｉｇｎ（）は、実数値の入力値の符号(±)を返す関数であり、また、関数ｆｌｏｏｒ（）は、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
　映像逆量子化器E4000の入力は、前記量子化値ベクトルｑ、映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ (以後、補助情報ｙ)、および前記予測信号ベクトルｐである。映像逆量子化器E4000は、要素計算器E4003とベクトル計算器E4004とで構成される、それぞれを以下で説明する。
　要素計算器E4003は、前記量子化値ベクトルｑ、前記補助情報ｙ、および前記予測信号ベクトルｐとを用いて、初期逆量子化映像信号ベクトルｕの各要素値ｕｉ，ｊを計算する。
　具体的には、要素計算器E4003は、前記量子化値ｑｉ，ｊに対応する半開区間を
Figure JPOXMLDOC01-appb-I000078
　前記の相関に対応する条件付確率密度関数をｆＸ｜ｙ（ｘ｜ｙ）とすると、要素計算器E4003は、各要素値ｕｉ，ｊを以下の式(29)よって計算する。
Figure JPOXMLDOC01-appb-I000079
　ただし、要素計算器E4003は、式(29)の代わりに、以下の式(29)’を利用して各逆量子化値ｕｉ，ｊを計算してもよい。
Figure JPOXMLDOC01-appb-I000080
　ところで、前記補助情報ｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E4003は、前記補助情報の各要素ｙｉ，ｊと式(29)にて得られた要素ｕｉ，ｊの絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報の要素ｙｉ，ｊから予測誤差値ベクトルの要素ｐｉ，ｊを減じた値が対応する量子化値ｑｉ，ｊに対応する半開区間
Figure JPOXMLDOC01-appb-I000081
に含まれる場合では、式(29) または式(29)’によって計算されたｕｉ，ｊを以下の式(30)または式(30)’で更新してもよい。
Figure JPOXMLDOC01-appb-I000082
Figure JPOXMLDOC01-appb-I000083
　なお、式(30)あるいは式(30)’によってｕｉ，ｊを更新する時には、前記補助情報ｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。つまり、前記補助情報ｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。
　ベクトル計算器E4004は、前記量子化値ベクトルｑ、前記補助情報ｙ、および前記予測信号ベクトルｐに基づいて、入力される初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000084
として出力する。
　先ず、ベクトル計算器E4004は、前記量子化値ｑｉ，ｊ、前記補助情報の要素ｙｉ，ｊ、前記信号ベクトルの要素ｐｉ，ｊ、前記条件付確率密度関数ｆＸ｜Ｙから、各予測誤差ｄｉ，ｊの値域
Figure JPOXMLDOC01-appb-I000085
を以下の式(31)と式(32)によって計算する。
Figure JPOXMLDOC01-appb-I000086
Figure JPOXMLDOC01-appb-I000087
　ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるｘの最小値、ｍａｘ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるｘの最大値である。なお、ｍｉｎ＿ｘとｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
　以後、式(31)と式(32)によって得られた予測誤差ｄｉ，ｊの値域
Figure JPOXMLDOC01-appb-I000088
と対応する予測値ｐｉ，ｊとで定義される部分ベクトル空間を
Figure JPOXMLDOC01-appb-I000089
とする。前記の定義から明らかなように、部分ベクトル空間Ｕは、オリジナルの映像信号ベクトルｘの値域である。
　続いて、ベクトル計算器E4004は、所定の回数Ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1の射影と第2の射影を交互に繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
　前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(33)の全変分ノルムＪ（ｓ）と、以下の式(36)の制約項Ｇ（ｓ，ｕｋ，λ）との和である式(37)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
Figure JPOXMLDOC01-appb-I000090
Figure JPOXMLDOC01-appb-I000091
Figure JPOXMLDOC01-appb-I000092
Figure JPOXMLDOC01-appb-I000093
Figure JPOXMLDOC01-appb-I000094
　定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式(38)を計算することで得られる。(つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる。)
Figure JPOXMLDOC01-appb-I000095
　なお、式(38)を計算する方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
　前記第2の射影は、入力される逆量子化映像信号ベクトルｕｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。
　具体的には、以下の式(14)を逆量子化映像信号ベクトルｕｋ＋１のすべての要素ｕｉ，ｊに対して適用する。
Figure JPOXMLDOC01-appb-I000096
　最後に、ベクトル計算器E4004は、Ｋ回だけ、上述した第1の射影と第2の射影を交互に繰り返すことによって得られたｕｋを前記最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000097
として出力する。
　以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
　続いて、図１１のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E4000の内部のフローだけを説明する。
　まず、処理の開始に際して、カウンタをリセットする(ｋ＝０)。
　ステップS4001では、上述した要素計算器E4003によって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS4002に進む。
　ステップS4002では、上述したベクトル計算器E4004によって、部分ベクトル空間Ｕを計算する。続いて、ステップS4003に進む。
　ステップS4003では、上述したベクトル計算器E4004によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS4004に進む。
　ステップS4004では、上述したベクトル計算器E4004によって、ステップS4003で得られたｕｋ＋１を上述した第2の射影によって、部分ベクトル空間Ｕの中に制限する。続いて、ステップS4005に進む。
　ステップS4005では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS4003にもどる。なお、ステップS4003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
　処理の終了後、ｕＫを最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000098
として出力する。
　以上で、本実施形態における発明のフローチャートの説明を終了する。
　以上で、本実施形態の説明を終了する。
＜第４の実施の形態＞
　本実施形態では、映像逆量子化器の入力である量子化値が、映像信号ベクトルが予測された予測誤差を周波数変換した変換係数の量子化値である場合の本発明の映像逆量子化器について説明する。
　図12を参照して、本実施形態における発明の映像逆量子化技術の構成について説明する。ただし、図12の変換器E5002と量子化器E5002は、映像を逆量子化する映像逆量子化器E5000との入出力関係を示す目的で記載していること、すなわち、発明の映像逆量子化技術は映像逆量子化器E5000のみによって構成できることに注意されたい。
　減算器E5001は、映像信号ベクトルｘの各要素ｘｉ，ｊから、予測信号ベクトルｐの各要素ｐｉ，ｊを減じて、予測誤差値
Figure JPOXMLDOC01-appb-I000099
Figure JPOXMLDOC01-appb-I000100
以降では、前記予測誤差値ｄｉ，ｊの集合を予測誤差値ベクトルｄとする。
　なお、映像逆量子化器E5000を後述する周波数変換の単位(例えば、8x8ブロック単位)で動作させる場合、前記予測信号ベクトルｐとして、現在の処理対象の８ｘ８ブロックに隣接する処理済みの要素
Figure JPOXMLDOC01-appb-I000101
から生成した予測信号などを利用できる。
　変換器E5002は、前記予測誤差値ベクトルｄを周波数変換し、変換係数値
Figure JPOXMLDOC01-appb-I000102
を計算する。前記周波数変換としては、８ｘ８ブロック単位のDCT(Discrete Cosine Transform)などが利用できる。以降では、前記Ｄｉ，ｊの集合を変換係数値ベクトルＤとする。
　量子化器E5003(図１の関連技術のものと同じ動作である)は、変換器E5002で得られた各変換係数値Ｄｉ，ｊを量子化して、量子化値ｑｉ，ｊを計算する。E5002の量子化器が量子化幅をＱｓとする線形量子化器であるとすると、
Figure JPOXMLDOC01-appb-I000103
となる。ただし、関数ｓｉｇｎ（）は、実数値の入力値の符号(±)を返す関数であり、また、関数ｆｌｏｏｒ（）は、実数値の入力値の中で最大の整数を返す関数である。以降では、前記量子化値ｑｉ，ｊの集合を量子化値ベクトルｑとする。
　映像逆量子化器E5000は、変換器E5004、要素計算器E5005、逆変換器E5006、加算器E5007、ベクトル計算器E5008で構成される。
　映像逆量子化器E5000の入力は、前記量子化値ベクトルｑ、周波数領域において映像信号ベクトルｘとの間に相関のある他の映像信号ベクトルｙ、および前記予測信号ベクトルｐである。
　変換器E5004は、変換器E5002と同様に、前記他の映像信号ベクトルｙと前記予測信号ベクトルそれぞれを周波数変換して、変換係数値ベクトルＹ(以後、補助情報Ｙ)と予測変換係数値ベクトルＰを計算する。
　要素計算器E5005は、前記量子化値ベクトルｑ、前記補助情報Ｙ、および前記予測変換係数値ベクトルＰを入力として、逆量子化変換係数値ベクトル
Figure JPOXMLDOC01-appb-I000104
を計算する。
　具体的には、前記量子化値ｑｉ，ｊに対応する半開区間を
Figure JPOXMLDOC01-appb-I000105
前記の相関に対応する条件付確率密度関数をｆＸ｜Ｙ（Ｘ｜Ｙ）とすると、要素計算器E5005は、前記逆量子化変換係数値ベクトルの要素である各逆量子化変換係数
Figure JPOXMLDOC01-appb-I000106
を以下の式(42)よって計算する。
Figure JPOXMLDOC01-appb-I000107
　ただし、要素計算器E5005は、式(42)の代わりに、以下の式(42)’を利用して各逆量子化変換係数
Figure JPOXMLDOC01-appb-I000108
を計算してもよい。
Figure JPOXMLDOC01-appb-I000109
　ところで、前記他の映像信号ベクトルｙが逆量子化対象の映像信号ベクトルｘに時間方向で隣接するフレームの映像信号ベクトルである時には、時間方向の連続性が改善されるように逆量子化映像信号ベクトルを計算するべきである。その計算のために、要素計算器E5005は、前記補助情報Ｙから前記予測変換係数値ベクトルＰを減じた値と式(42)にて得られた逆量子化変換係数
Figure JPOXMLDOC01-appb-I000110
との絶対差分値が所定の閾値より小さい場合、あるいは、前記補助情報Ｙから前記予測変換係数値ベクトルＰを減じた値が対応する前記の半開区間
Figure JPOXMLDOC01-appb-I000111
に含まれる場合、式(42) または式(42)’によって計算された逆量子化変換係数
Figure JPOXMLDOC01-appb-I000112
を以下の式(43)または式(43)’で更新してもよい。
Figure JPOXMLDOC01-appb-I000113
Figure JPOXMLDOC01-appb-I000114
　なお、式(43)あるいは式(43)’によって
Figure JPOXMLDOC01-appb-I000115
を更新する時、前記映像信号ベクトルｙは、前記時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであればなお良い。つまり、前記他の映像信号ベクトルｙは、時間方向で隣接するフレームの映像信号ベクトルの各要素が動き補償予測によって映像信号ベクトルｘの各要素と位置合わせされた映像信号ベクトルであってもよい。
　続いて、逆変換器E5006は、前記要素計算器E5005で得られた逆量子化変換係数値ベクトル
Figure JPOXMLDOC01-appb-I000116
を逆周波数変換して、逆量子化予測誤差値ベクトル
Figure JPOXMLDOC01-appb-I000117
を計算する。
　さらに、加算器E5007は、前記逆量子化予測誤差値ベクトル
Figure JPOXMLDOC01-appb-I000118
に前記予測信号ベクトルｐを加算して、初期逆量子化映像信号ベクトルｕを計算する。なお、上述した要素計算器E5005が、逆量子化変換係数
Figure JPOXMLDOC01-appb-I000119
に前記予測変換係数値ベクトルＰを加算したベクトルを加算器E5007に供給する実施形態の場合には、加算器E5007は不要である。
　ベクトル計算器E5008は、前記量子化値ベクトルｑ、前記補助情報Ｙ、および前記予測変換係数値ベクトルＰに基づいて、前記逆変換器E5006で得られた初期逆量子化映像信号ベクトルｕをより振動の少ない逆量子化映像信号ベクトル更新して、最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000120
として出力する。
　先ず、ベクトル計算器E5008は、前記量子化値ｑｉ，ｊ、前記補助情報の要素Ｙｉ，ｊ、前記予測変換係数値ベクトルの要素Ｐｉ，ｊ、および前記条件付確率密度関数ｆＸ｜Ｙから、各変換係数値Ｄｉ，ｊの値域である
Figure JPOXMLDOC01-appb-I000121
を以下の式(44)と式(45)によって計算する。
Figure JPOXMLDOC01-appb-I000122
Figure JPOXMLDOC01-appb-I000123
 
　ただし、ｍｉｎ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最小値、ｍａｘ＿ｘは、前記条件付確率密度関数ｆＸ｜Ｙが定義域において0と交わるＸの最大値である。なお、ｍｉｎ＿ｘとｍａｘ＿ｘとは、前記条件付確率密度関数ｆＸ｜Ｙの標準偏差から計算してもよい。
　以後、式(44)と式(45)によって得られた変換係数値ｘｉ，ｊの値域
Figure JPOXMLDOC01-appb-I000124
と前記予測変換係数値ベクトルＰの対応する要素Ｐｉ，ｊとで定義される部分ベクトル空間を
Figure JPOXMLDOC01-appb-I000125
とする。前記の定義から明らかなように、部分ベクトル空間Ｕは、オリジナルの映像信号ベクトルｘの周波数領域における値域である。
　続いて、ベクトル計算器E5008は、所定の回数Ｋだけ、初期逆量子化映像信号ベクトルｕ (以後、ｕ０と記述する)を始点として、以下で記述する第1から第4の射影を順次繰り返し、前記部分ベクトル空間Ｕから、より振動の少ない逆量子化映像信号ベクトルを計算する。なお、以下で記述するｕｋの上付き文字(superscript)のｋは、ある時点での前記逐次繰り返しの回数に対応し、ｕｋは前記逐次繰り返しがｋ回適用された時点での逆量子化映像信号ベクトルを示す。また、ｕ０は初期逆量子化映像信号ベクトルである。
　前記第1の射影は、入力される逆量子化映像信号ベクトルｕｋを、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する処理である。具体的には、以下の式(46)で定義される全変分ノルムである目的関数Ｊ（ｓ）と、以下の式(49)で定義される制約関数Ｇ（ｓ，ｕｋ，λ）との和である式(50)の汎関数Ｆ（ｓ，ｕｋ，λ）を最小にする映像信号ベクトルｓを計算し、その解であるｓをｕｋ＋１とする。
Figure JPOXMLDOC01-appb-I000126
Figure JPOXMLDOC01-appb-I000127
Figure JPOXMLDOC01-appb-I000128
Figure JPOXMLDOC01-appb-I000129
Figure JPOXMLDOC01-appb-I000130
　定式的には、第1の射影の結果(ｕｋ＋１)は、以下の式を計算することで得られる。(つまり制約関数Ｇ（ｓ，ｕｋ，λ）の下で、目的関数Ｊ（ｓ）を最小化することになり、全変分ノルムが小さいｓが得られる。すなわち、振動の少ないｓが得られる。)
Figure JPOXMLDOC01-appb-I000131
なお、式(51)を計算する方法としては、非特許文献6などの劣勾配法(Sub-gradient methods)や非特許文献7などの射影法(Projection methods)を利用すればよい。また、上述したλは、量子化幅Ｑｓに依存する正の実数とすればよい。
　前記第2の射影は、逆量子化映像信号ベクトルｕｋ＋１を周波数領域に射影する。具体的には、変換器E5004と同じように、ｕｋ＋１を周波数領域に周波数変換して逆量子化変換係数値ベクトルＵｋ＋１を計算する。
　前記第3の射影は、入力される逆量子化変換係数値ベクトルＵｋ＋１を、前記部分ベクトル空間Ｕの中に制限する処理である。具体的には、すべての要素Ｕｉｊに対して以下の式を適用する。
Figure JPOXMLDOC01-appb-I000132
　前記第4の射影は、逆量子化変換係数値ベクトルＵｋ＋１を空間領域に射影する。具体的には、逆変換器E5006と同じように、Ｕｋ＋１を逆周波数変換して逆量子化映像信号ベクトルｕｋ＋１を計算する。
　最後に、ベクトル計算器E5008は、Ｋ回だけ、上述した第1から第4の射影を順次繰り返すことによって得られたｕＫを前記最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000133
として出力する。
　以上で、本実施形態における発明の映像逆量子化技術の構成と動作の説明を終了する。
　続いて、図13のフローチャートを参照して、発明の処理の流れを説明する。ただし、発明に関する映像逆量子化器E5000の内部のフローだけを説明する。
　まず、処理の開始に際して、カウンタをリセットする(ｋ＝０)。
　ステップS5001では、上述した変換機E5004、要素計算器E5005、逆変換器E5006、および加算器E5007よって、初期逆量子化映像信号ベクトルｕを計算する。続いて、ステップS5002に進む。
　ステップS5002では、上述したベクトル計算器E5008によって、部分ベクトル空間Ｕを計算する。続いて、ステップS5003に進む。
　ステップS5003では、上述したベクトル計算器E5008によって、現在の逆量子化映像信号ベクトルｕｋを上述した第1の射影によって、より振動の少ない逆量子化映像信号ベクトルｕｋ＋１に更新する。続いて、ステップS5004に進む。
　ステップS5004では、上述したベクトル計算器E5008によって、ステップS5003で得られた逆量子化映像信号ベクトルｕｋ＋１を上述した第2の射影によって、周波数領域に変換する。続いて、ステップS5005に進む。
　ステップS5005では、上述したベクトル計算器E5008によって、ステップS5004で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第3の射影によって、前記部分ベクトル空間Ｕの中に制限する。続いて、ステップS5006に進む。
　ステップS5006では、上述したベクトル計算器E5008によって、ステップS5005で得られた逆量子化変換係数値ベクトルＵｋ＋１を上述した第4の射影によって、空間領域に射影する。続いて、ステップS5007に進む。
　ステップS5007では、カウンタｋが所定の値Ｋと等しいかを判断する。等しい場合、処理を終了する。そうでなければカウンタｋを1だけインクリメントして、ステップS5003にもどる。なお、ステップS5003にもどる際には、上述した第1の射影の変数λをより小さな正の値に変更することが望ましい。
　処理の終了後、ｕＫを最終逆量子化映像信号ベクトル
Figure JPOXMLDOC01-appb-I000134
として出力する。
　以上で、本実施形態における発明のフローチャートの説明を終了する。
　以上で、本実施形態の説明を終了する。
＜第５の実施の形態＞
　上述した実施形態１から４においては、それぞれのベクトル計算器において、補助情報を用いて部分ベクトル空間Ｕをより正確に計算したが、補助情報を利用しないで計算する形態も考えられる。それぞれの実施形態に対応する図面を以下の図14, 図15, 図16, 図17に示す。この形態においては、部分ベクトル空間Ｕが正確ではないため、前記最終逆量子化映像ベクトルが、それぞれの要素計算器で得られた初期逆量子化映像ベクトルからなるべく変動しないことが望ましい。そのためには、それぞれのベクトル計算器における、前記第1の射影における汎関数Ｆ（ｓ，ｕｋ，λ）のλの初期値を、上述した実施形態1から4のものよりもより小さく設定する。
　また、上述した実施形態1から4においては、それぞれの要素計算器において補助情報を用いることで、初期逆量子化映像を計算したが、要素計算器において補助情報を利用しないで(単純に逆量子化を用いることで) 、初期逆量子化映像を計算することが考えられる。それぞれの実施形態に対応する図面を以下の図18,　図19　 図20,　図21に示す。この形態においては、初期逆量子化映像が正確ではないため、それぞれの要素計算器で得られた初期逆量子化映像ベクトルをより変動させることが望ましい。そのためには、それぞれのベクトル計算器における、前記第1の射影における汎関数Ｆ（ｓ，ｕｋ，λ）のλの初期値を、上述した実施形態1から4のものよりもより大きく設定するか、あるいは、前記逐次繰り返しの回数Ｋを増加させる。
　また、上述した実施形態においては、前記第1の射影において全変分最小化法を利用する形態を説明したが、全変分最小化法の代わりにバイラテラルフィルタを利用してもよい。映像信号のある要素Ｉｉ，ｊに対するバイラテラルフィルタの結果
Figure JPOXMLDOC01-appb-I000135
は以下の式で定義される。
Figure JPOXMLDOC01-appb-I000136
Figure JPOXMLDOC01-appb-I000137
Figure JPOXMLDOC01-appb-I000138
　ただし、σＳとσｒとは式(52)の２次元ガウスカーネルの形状を決定するバイラテラルフィルタのパラメータであり、ｗはバイラテラルフィルタの窓サイズを決定するパラメータである。特にσｒは、推定される量子化ノイズに応じて設定すればよく、また、前記逐次繰り返しの際にその値を徐々に小さくすることが望ましい。
　また、上述した映像逆量子化方法は、量子化値を符号化する映像符号化器において、その映像信号のローカル復号の復号手段として利用することもできる。一例として、実施形態4の映像逆量子化器を利用した映像符号化器の構成図を図２２に示す。
　また、上述した映像逆量子化方法は、量子化値を復号する映像復号方法において、その映像信号の復号手段として利用することもできる。一例として、第４の実施の形態の映像逆量子化器を利用した映像復号器の構成図を図２３に示す。
　さらには上述した発明の実施形態においては、上述した説明からも明らかなように、ハードウェアで構成することも可能であるが、コンピュータプログラムにより実現することも可能である。
　図２４に示す情報処理システムは、プロセッサA1001，プログラムメモリA1002，記憶媒体A1003およびA1004からなる。記憶媒体A1003およびA1004は、別個の記憶媒体であってもよいし、同一の記憶媒体からなる記憶領域であってもよい。記憶媒体としては、ハードディスク等の磁気記憶媒体を用いることができる。
　発明は、関連技術によって要素毎に逆量子化された逆量子化映像信号ベクトル(初期逆量子化映像信号ベクトル)を、その映像信号ベクトルの振動がより小さくなるような逆量子化映像信号ベクトル(最終逆量子化映像信号ベクトル)に更新する。特に、発明においては、入力される量子化値、補助情報、および前記条件付確率密度関数を用いてオリジナルの映像信号ベクトルの存在する部分ベクトル空間を正確に限定し、その部分ベクトル空間の中で前記最終逆量子化映像信号ベクトルを計算する。
　発明によって、前記最終逆量子化映像信号ベクトルのぼけを抑制しつつ、「復号映像信号ベクトルの平均二乗誤差が低減される代わりに局所的に二乗誤差が大きくなり、それが局所劣化として目立つ」という関連技術の原理的な課題を克服した高品質な映像逆量子化方法を提供できる。参考までに、発明の効果の具体例を以下に示す。
　図２５は、JPEG圧縮された映像を、単純な逆量子化(通常のJPEG伸張)、非特許文献6の技術、上述した関連技術、上述した実施形態2の発明技術によって逆量子化した結果である。図２５の横軸は、通常のJPEG伸張のPSNR(Peak Signal-Noise Ratio)であり、縦軸は、通常のJPEG伸張と前記それぞれの技術で逆量子化したときのPSNRである。発明技術は、関連技術の局所劣化に加えて、近似演算による映像劣化も抑制するため、関連技術よりもPSNRが高くなってことが確認できる。また、発明技術は、オリジナルの映像信号ベクトルの存在する部分ベクトル空間を正確に限定しているため、非特許文献6よりもPSNRが高くなってことが確認できる。
　また、発明は、補助情報が逆量子化対象の映像信号ベクトルに時間方向で隣接するフレームの映像信号ベクトルである場合、前記最終逆量子化映像信号ベクトルの対応する要素が前記補助情報の要素と近い値をとるように、前記最終逆量子化映像信号ベクトルを計算することによって、より高品質な映像逆量子化方法を提供できる。
　また、発明は、量子化値を符号化する映像符号化方法において、符号化済みの映像信号に対するローカル復号手段として利用することで、より高品質な映像符号化方法を提供できる。
　また、発明は、量子化値を復号する映像復号方法において、量子化値の復号手段として利用することで、より高品質な映像復号方法を提供できる。
　以上好ましい実施の形態、及び態様をあげて本発明を説明したが、本発明は必ずしも上記実施の形態及び態様に限定されるものではなく、その技術的思想の範囲内において様々に変形し実施することが出来る。
　本出願は、２００８年１２月２６日に出願された日本出願特願２００８－３３２００９号を基礎とする優先権を主張し、その開示の全てをここに取り込む。
　以下に、付記を記載する。
　（付記１）　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする逆量子化方法。
　（付記２）　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする付記１に記載の逆量子化方法。
　（付記３）　前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする付記１に記載の逆量子化方法。
　（付記４）　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする逆量子化方法。
　（付記５）　ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
ことを特徴とする付記１から付記４のいずれかに記載の逆量子化方法。
　（付記６）　複数の量子化値を符号化する符号化方法であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
　前記逆量子化方法は、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする符号化方法。
　（付記７）　複数の量子化値を符号化する符号化方法であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
　前記逆量子化方法は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする符号化方法。
　（付記８）　複数の量子化値を復号する復号方法であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
　前記逆量子化方法は、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする復号方法。
　（付記９）　複数の量子化値を復号する復号方法であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
　前記逆量子化方法は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
ことを特徴とする復号方法。
　（付記１０）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
　（付記１１）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
　（付記１２）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
　前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像逆量子化方法。
　（付記１３）　前記映像ベクトル計算ステップは、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする付記１０から付記１２のいずれかに記載の映像逆量子化方法。
　（付記１４）　量子化値ベクトルを符号化する映像符号化方法であって、
　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
　前記映像逆量子化方法は、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像符号化方法。
　（付記１５）　量子化値ベクトルを復号する映像復号方法であって、
　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
　前記映像逆量子化方法は、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
を有することを特徴とする映像復号方法。
　（付記１６）　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
を有することを特徴とする逆量子化装置。
　（付記１７）　前記復元手段は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
を有することを特徴とする付記１６に記載の逆量子化装置。
　（付記１８）　前記復元手段は、
　前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
を有することを特徴とする付記１６に記載の逆量子化装置。
　（付記１９）　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
を有することを特徴とする逆量子化装置。
　（付記２０）　前記復元手段は、ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
ことを特徴とする付記１６から付記１９のいずれかに記載の逆量子化装置。
　（付記２１）　複数の量子化値を符号化する符号化装置であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
　前記逆量子化装置は、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする符号化装置。
　（付記２２）　複数の量子化値を符号化する符号化装置であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
　前記逆量子化装置は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする符号化装置。
　（付記２３）　複数の量子化値を復号する復号装置であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
　前記逆量子化装置は、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする復号装置。
　（付記２４）　複数の量子化値を復号する復号装置であって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
　前記逆量子化装置は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
ことを特徴とする復号装置。
　（付記２５）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
　（付記２６）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
　（付記２７）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
　前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像逆量子化装置。
　（付記２８）　前記映像ベクトル計算手段は、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする付記２５から付記２７のいずれかに記載の映像逆量子化装置。
　（付記２９）　量子化値ベクトルを符号化する映像符号化装置であって、
　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
　前記映像逆量子化装置は、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像符号化装置。
　（付記３０）　量子化値ベクトルを復号する映像復号装置であって、
　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
　前記映像逆量子化装置は、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
を有することを特徴とする映像復号装置。
　（付記３１）　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムあって、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３２）　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムであって、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３３）　複数の量子化値を符号化する符号化のプログラムであって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
　前記逆量子化処理は、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３４）　複数の量子化値を符号化する符号化のプログラムであって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
　前記逆量子化処理は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３５）　複数の量子化値を復号する復号方法のプログラムであって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
　前記逆量子化処理は、
　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３６）　複数の量子化値を復号する復号のプログラムであって、
　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
　前記逆量子化処理は、
　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３７）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３８）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記３９）　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
　前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記４０）　量子化値ベクトルを符号化する映像符号化のプログラムであって、
　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
　前記映像逆量子化処理は、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
　（付記４１）　量子化値ベクトルを復号する映像復号のプログラムであって、
　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
　前記映像逆量子化処理は、
　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
を情報処理装置に実行させることを特徴とするプログラム。
　E2000　　　映像逆量子化器
　E2001　　　量子化器
　E2002　　　要素計算器
　E2003　　　ベクトル計算器
 
 

Claims (41)

  1. 　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
    　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする逆量子化方法。
  2. 　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする請求項１に記載の逆量子化方法。
  3. 　前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする請求項１に記載の逆量子化方法。
  4. 　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法であって、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
    　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする逆量子化方法。
  5. 　ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
    ことを特徴とする請求項１から請求項４のいずれかに記載の逆量子化方法。
  6. 　複数の量子化値を符号化する符号化方法であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
    　前記逆量子化方法は、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
    　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする符号化方法。
  7. 　複数の量子化値を符号化する符号化方法であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
    　前記逆量子化方法は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
    　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする符号化方法。
  8. 　複数の量子化値を復号する復号方法であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
    　前記逆量子化方法は、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、
    　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする復号方法。
  9. 　複数の量子化値を復号する復号方法であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化方法を用い、
    　前記逆量子化方法は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、
    　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める
    ことを特徴とする復号方法。
  10. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
    　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
    を有することを特徴とする映像逆量子化方法。
  11. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
    　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
    を有することを特徴とする映像逆量子化方法。
  12. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法であって、
    　前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
    　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
    を有することを特徴とする映像逆量子化方法。
  13. 　前記映像ベクトル計算ステップは、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする請求項１０から請求項１２のいずれかに記載の映像逆量子化方法。
  14. 　量子化値ベクトルを符号化する映像符号化方法であって、
    　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
    　前記映像逆量子化方法は、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
    　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
    を有することを特徴とする映像符号化方法。
  15. 　量子化値ベクトルを復号する映像復号方法であって、
    　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化方法を用い、
    　前記映像逆量子化方法は、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算ステップと、
    　前記映像要素計算ステップにて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算ステップと
    を有することを特徴とする映像復号方法。
  16. 　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
    を有することを特徴とする逆量子化装置。
  17. 　前記復元手段は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
    を有することを特徴とする請求項１６に記載の逆量子化装置。
  18. 　前記復元手段は、
    　前記複数の量子化値を用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する手段と、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段と
    を有することを特徴とする請求項１６に記載の逆量子化装置。
  19. 　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置であって、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める復元手段
    を有することを特徴とする逆量子化装置。
  20. 　前記復元手段は、ある前記量子化値以外の信号が対応する量子化値の逆量子化値の取り得る値の範囲に含まれる場合、該前記量子化値以外の信号との差分が小さい仮逆量子化値を前記複数の逆量子化値の組に含める
    ことを特徴とする請求項１６から請求項１９のいずれかに記載の逆量子化装置。
  21. 　複数の量子化値を符号化する符号化装置であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
    　前記逆量子化装置は、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
    ことを特徴とする符号化装置。
  22. 　複数の量子化値を符号化する符号化装置であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
    　前記逆量子化装置は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
    ことを特徴とする符号化装置。
  23. 　複数の量子化値を復号する復号装置であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
    　前記逆量子化装置は、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求め、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
    ことを特徴とする復号装置。
  24. 　複数の量子化値を復号する復号装置であって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化装置を有し、
    　前記逆量子化装置は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算し、前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める手段を有する
    ことを特徴とする復号装置。
  25. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
    　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
    を有することを特徴とする映像逆量子化装置。
  26. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
    　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
    を有することを特徴とする映像逆量子化装置。
  27. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置であって、
    　前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
    　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
    を有することを特徴とする映像逆量子化装置。
  28. 　前記映像ベクトル計算手段は、前記相関が存在する他の映像ベクトルの要素が、対応する前記仮逆量子化映像ベクトルの集合の要素の値域に含まれる場合、該要素に関して前記相関が存在する他の映像ベクトルの要素との差分がより小さい、仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算することを特徴とする請求項２５から請求項２７のいずれかに記載の映像逆量子化装置。
  29. 　量子化値ベクトルを符号化する映像符号化装置であって、
    　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
    　前記映像逆量子化装置は、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
    　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
    を有することを特徴とする映像符号化装置。
  30. 　量子化値ベクトルを復号する映像復号装置であって、
    　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化装置を有し、
    　前記映像逆量子化装置は、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算手段と、
    　前記映像要素計算手段にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算手段と
    を有することを特徴とする映像復号装置。
  31. 　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムあって、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
    　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  32. 　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化のプログラムであって、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
    　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  33. 　複数の量子化値を符号化する符号化のプログラムであって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
    　前記逆量子化処理は、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
    　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  34. 　複数の量子化値を符号化する符号化のプログラムであって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
    　前記逆量子化処理は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
    　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  35. 　複数の量子化値を復号する復号方法のプログラムであって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
    　前記逆量子化処理は、
    　量子化値毎に逆量子化値の取り得る値の範囲を少なくとも前記量子化値以外の信号を用いて求める処理と、
    　逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  36. 　複数の量子化値を復号する復号のプログラムであって、
    　複数の量子化値を組として逆量子化して複数の逆量子化値の組を求める逆量子化処理を有し、
    　前記逆量子化処理は、
    　前記複数の量子化値と前記量子化値以外の信号とを用いて、前記複数の量子化値の各量子化値の仮逆量子化値を要素単位で計算する処理と、
    　前記複数の量子化値を用いて量子化値毎に逆量子化値の取り得る値の範囲を求め、前記要素単位で計算された仮逆量子化値の組を始点にして、逆量子化値毎の取り得る値の範囲内で、全変分ノルムが最小となる仮逆量子化値の組を前記逆量子化値の組として求める処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  37. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
    　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  38. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
    　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記量子化値ベクトルによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  39. 　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化のプログラムであって、
    　前記量子化値ベクトルの要素を用いて初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
    　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定する仮逆量子化映像ベクトルの集合から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  40. 　量子化値ベクトルを符号化する映像符号化のプログラムであって、
    　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
    　前記映像逆量子化処理は、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
    　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
    を情報処理装置に実行させることを特徴とするプログラム。
  41. 　量子化値ベクトルを復号する映像復号のプログラムであって、
    　現在の処理対象の映像ベクトルに対応する量子化値ベクトルからその逆量子化映像ベクトルを計算する映像逆量子化処理を有し、
    　前記映像逆量子化処理は、
    　前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルの要素と、前記量子化値ベクトルの要素とを用いて前記処理対象の初期逆量子化映像ベクトルを要素単位で計算する映像要素計算処理と、
    　前記映像要素計算処理にて計算された初期逆量子化映像ベクトルを始点にして、前記処理対象の映像ベクトルとの間に相関が存在する他の映像ベクトルと前記量子化値ベクトルとによって決定するベクトル空間から、全変分ノルムが最小となる仮逆量子化映像ベクトルを前記逆量子化映像ベクトルとして計算する映像ベクトル計算処理と
    を情報処理装置に実行させることを特徴とするプログラム。
     
PCT/JP2009/071303 2008-12-26 2009-12-22 逆量子化方法、逆量子化装置及びプログラム Ceased WO2010074068A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
EP09834869.1A EP2381684A4 (en) 2008-12-26 2009-12-22 Reverse quantization method, reverse quantization device, and program
JP2010544076A JP5447871B2 (ja) 2008-12-26 2009-12-22 逆量子化方法、逆量子化装置及びプログラム
CN2009801525856A CN102265616B (zh) 2008-12-26 2009-12-22 逆量化方法和逆量化装置
US13/142,303 US9240802B2 (en) 2008-12-26 2009-12-22 Inverse quantization method, inverse quantization device, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2008332009 2008-12-26
JP2008-332009 2008-12-26

Publications (1)

Publication Number Publication Date
WO2010074068A1 true WO2010074068A1 (ja) 2010-07-01

Family

ID=42287677

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2009/071303 Ceased WO2010074068A1 (ja) 2008-12-26 2009-12-22 逆量子化方法、逆量子化装置及びプログラム

Country Status (5)

Country Link
US (1) US9240802B2 (ja)
EP (1) EP2381684A4 (ja)
JP (1) JP5447871B2 (ja)
CN (1) CN102265616B (ja)
WO (1) WO2010074068A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017513311A (ja) * 2014-03-17 2017-05-25 クアルコム，インコーポレイテッド 残差差分パルス符号変調のための量子化プロセス

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10496084B2 (en) 2018-04-06 2019-12-03 Oracle International Corporation Dequantizing low-resolution IoT signals to produce high-accuracy prognostic indicators
CN110830043B (zh) * 2019-10-31 2023-07-18 重庆邮电大学 一种基于混合加权全变分和非局部低秩的图像压缩感知重构方法
US20220215265A1 (en) * 2021-01-04 2022-07-07 Tencent America LLC Method and apparatus for end-to-end task-oriented latent compression with deep reinforcement learning

Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005124145A (ja) * 2003-10-11 2005-05-12 Lg Electronics Inc デジタル映像データの復号化方法
JP2007142823A (ja) * 2005-11-18 2007-06-07 Fuji Xerox Co Ltd 復号化装置、逆量子化方法及びこれらのプログラム

Family Cites Families (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5534925A (en) * 1994-05-02 1996-07-09 Cognitech Inc. Image compression by optimal reconstruction
US8000394B2 (en) * 2004-03-08 2011-08-16 Mitsubishi Denki Kabushiki Kaisha Program, method, and apparatus for decoding coded data
US7778468B2 (en) 2005-03-23 2010-08-17 Fuji Xerox Co., Ltd. Decoding apparatus, dequantizing method, and program thereof
US7756350B2 (en) * 2006-11-13 2010-07-13 Global Ip Solutions, Inc. Lossless encoding and decoding of digital data
TW200836130A (en) * 2007-02-16 2008-09-01 Thomson Licensing Bitrate reduction method by requantization

Patent Citations (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005124145A (ja) * 2003-10-11 2005-05-12 Lg Electronics Inc デジタル映像データの復号化方法
JP2007142823A (ja) * 2005-11-18 2007-06-07 Fuji Xerox Co Ltd 復号化装置、逆量子化方法及びこれらのプログラム

Non-Patent Citations (9)

* Cited by examiner, † Cited by third party
Title
A. CHAMBOLLE: "An algorithm for total variation minimization and applications", J. MATH. IMAGING VIS., vol. 20, no. 1, 2004, pages 89 - 97, XP019209067, DOI: doi:10.1023/B:JMIV.0000011321.19549.88
AARON, R. ZHANG, B. GIROD: "Wyner-Ziv Coding for Motion Video", ASILOMAR CONFERENCE, November 2002 (2002-11-01)
C. TOMASI, R. MANDUCHI: "Bilateral Filtering for Gray and Color Images", ICCV, 1998
D. KUBASOV, J. NAYAK, C. GUILLEMOT: "Optimal Reconstruction in Wyner-Ziv Video Coding with Multiple Side Information", MMSP, October 2007 (2007-10-01)
F. ALTER, S. DURAND, J. FROMENT: "Adapted Total Variation for Artifact Free Decompression of JPEG Images", JOURNAL OF MATHEMATICAL IMAGING AND VISION, vol. 23, September 2005 (2005-09-01), pages 199 - 21 I
JEFFERY R. PRICE ET AL.: "Biased reconstruction for JPEG decoding", IEEE SIGNAL PROCESSING LETTERS, vol. 6, no. 12, December 1999 (1999-12-01), pages 297 - 299, XP011060178 *
S. OSHER, L. I. RUDIN, E. FATEMI: "Nonlinear total variation based noise removal algorithms", PHYSIC D., vol. 60, 1992, pages 259 - 268, XP024492805, DOI: doi:10.1016/0167-2789(92)90242-F
See also references of EP2381684A4 *
Y. VATIS, S. KLOMP, J. OSTERMANN: "Enhanced reconstruction of the quantised transform coefficients for Wyner-Ziv coding", ICME, July 2007 (2007-07-01)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2017513311A (ja) * 2014-03-17 2017-05-25 クアルコム，インコーポレイテッド 残差差分パルス符号変調のための量子化プロセス

Also Published As

Publication number Publication date
US20110268184A1 (en) 2011-11-03
JP5447871B2 (ja) 2014-03-19
JPWO2010074068A1 (ja) 2012-06-21
EP2381684A1 (en) 2011-10-26
US9240802B2 (en) 2016-01-19
CN102265616B (zh) 2013-12-11
EP2381684A4 (en) 2017-01-18
CN102265616A (zh) 2011-11-30

Similar Documents

Publication Publication Date Title
CN101047859B (zh) 图像编码装置和图像解码装置
CN101237579B (zh) 上变换解码的帧的帧频的设备和方法
US7379496B2 (en) Multi-resolution video coding and decoding
CN102138326B (zh) 反量化图像的方法和设备以及解码图像的方法和设备
US8787449B2 (en) Optimal separable adaptive loop filter
US8594189B1 (en) Apparatus and method for coding video using consistent regions and resolution scaling
CN110024391B (zh) 用于编码和解码数字图像或视频流的方法和装置
CN108737823B (zh) 基于超分辨技术的图像编码方法和装置、解码方法和装置
CN101288308A (zh) 满足单环解码条件的帧内基本层预测方法及使用该预测方法的视频编码方法和设备
WO2020261314A1 (ja) 画像符号化方法、及び画像復号方法
JP5447871B2 (ja) 逆量子化方法、逆量子化装置及びプログラム
KR20090098214A (ko) 영상의 부호화, 복호화 방법 및 장치
US7486830B2 (en) Decoding apparatus, decoding method and program product therefor
CN101816178B (zh) 在解码器中校正量化系数的方法和设备
KR102467091B1 (ko) 효과적인 비디오 압축을 위한 슈퍼 레졸루션 영상 처리 방법 및 시스템
JP4762486B2 (ja) マルチ・リゾルーション・ビデオ符号化および復号化
JP7315871B2 (ja) 信号再構成方法、信号再構成装置及びプログラム
Liu et al. Foveation embedded DCT domain video transcoding
Petrisor et al. Wavelet-based multiple description coding of images with iterative convex optimization techniques
Neethu et al. Improved quality of JPEG compressed image using approximate K-SVD algorithm
JP4081745B2 (ja) 復号装置および復号方法、学習装置および学習方法、並びにプログラムおよび記録媒体
JP4784386B2 (ja) 復号化装置、逆量子化方法及びプログラム
Boyadjis et al. Super-resolution of HEVC videos via convex optimization
JP5390319B2 (ja) 映像信号符号化方法，映像信号復号方法，映像信号符号化装置，映像信号復号装置およびそれらのプログラム
KR20040014047A (ko) 이산여현변환 방법과 이를 이용한 영상압축방법

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 200980152585.6

Country of ref document: CN

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 09834869

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2010544076

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 13142303

Country of ref document: US

WWE Wipo information: entry into national phase

Ref document number: 2009834869

Country of ref document: EP