JPH10336652A - 符号化方法およびこれを使用した符号化装置 - Google Patents

符号化方法およびこれを使用した符号化装置

Info

Publication number
JPH10336652A
JPH10336652A JP13890697A JP13890697A JPH10336652A JP H10336652 A JPH10336652 A JP H10336652A JP 13890697 A JP13890697 A JP 13890697A JP 13890697 A JP13890697 A JP 13890697A JP H10336652 A JPH10336652 A JP H10336652A
Authority
JP
Japan
Prior art keywords
code amount
value
encoding
quantization
target code
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP13890697A
Other languages
English (en)
Other versions
JPH10336652A5 (ja
JP3978810B2 (ja
Inventor
Mitsugi Kobayashi
貢 小林
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP13890697A priority Critical patent/JP3978810B2/ja
Priority to PCT/JP1998/002245 priority patent/WO1998054904A1/ja
Publication of JPH10336652A publication Critical patent/JPH10336652A/ja
Priority to US09/237,697 priority patent/US6023297A/en
Publication of JPH10336652A5 publication Critical patent/JPH10336652A5/ja
Application granted granted Critical
Publication of JP3978810B2 publication Critical patent/JP3978810B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/90—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using coding techniques not provided for in groups H04N19/10-H04N19/85, e.g. fractals
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/102—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or selection affected or controlled by the adaptive coding
    • H04N19/124—Quantisation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/15—Data rate or code amount at the encoder output by monitoring actual compressed data size at the memory before deciding storage at the transmission buffer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/134—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the element, parameter or criterion affecting or controlling the adaptive coding
    • H04N19/146—Data rate or code amount at the encoder output
    • H04N19/152—Data rate or code amount at the encoder output by measuring the fullness of the transmission buffer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/17—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object
    • H04N19/176—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being an image region, e.g. an object the region being a block, e.g. a macroblock
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/169—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding
    • H04N19/177—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the coding unit, i.e. the structural portion or semantic portion of the video signal being the object or the subject of the adaptive coding the unit being a group of pictures [GOP]
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/10—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding
    • H04N19/189—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding
    • H04N19/192—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using adaptive coding characterised by the adaptation method, adaptation tool or adaptation type used for the adaptive coding the adaptation method, adaptation tool or adaptation type being iterative or recursive
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
    • H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
    • H04N19/51—Motion estimation or motion compensation
    • H04N19/527—Global motion vector estimation
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/60—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding
    • H04N19/61—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using transform coding in combination with predictive coding
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
    • H04N19/85—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression
    • H04N19/86—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using pre-processing or post-processing specially adapted for video compression involving reduction of coding artifacts, e.g. of blockiness

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)

Abstract

(57)【要約】 【課題】入力データの内容を反映したフィードバック量
とすることで符号化／復号化による画質劣化を改善す
る。 【解決手段】Ｎ個の固定量子化器でのＧＯＰ単位の発生
符号量の結果から、入力データが符号化／復号化された
ものであるかを判定する判定手段５０と、上述した発生
符号量の結果と判定結果を用いて、入力データの性質を
推定し、推定結果から目標符号量に加えるフィードバッ
クスレッショールド値ＦＢＴを算出するコントロール手
段とを有する。判定手段では、符号化／復号化されてい
るとの判定結果が得られたときには、Ｎ個の固定量子化
器からのＧＯＰ単位の発生符号量を用いて、各マクロブ
ロック間での量子化値の変動が少なくなるようなＦＢＴ
にコントロールされ、それ以外の判定結果では、再現性
を重視したＦＢＴにコントロールされる。これで符号化
／復号化による画質劣化が防止される。

Description

【発明の詳細な説明】
【０００１】
【発明の属する技術分野】本発明は入力データの符号化
方法およびこれを使用した符号化装置に関する。詳しく
は、画像などの入力データを符号化するに当たり、発生
符号量と目標符号量との差分をフィードバックして次回
以降の目標符号量に反映させる場合、入力データの性質
に依存したフィードバックスレッショールド値を算出し
て目標符号量を更新することによって、符号化／復号化
を繰り返した場合でも画質の劣化が発生しないようにし
たものである。
【０００２】
【従米の技術】画像などの入力データを符号化するに際
し、ＭＰＥＧ２（Moving Picture Coding Experts Grou
p２）のような符号化方法にあっては、パッケージメデ
ィアや通信容量などの制限によって、ある符号化処理単
位、例えばＧＯＰ（Group Of Pictures）に対して予め
定められた目標符号量以内に各ＧＯＰでの発生符号量を
抑えなければならない。
【０００３】量子化が離散的なことなどの原因で、目標
符号量と発生符号量との間には差が生じ、その分の画質
劣化が生じる。一般に、このような問題を解決するため
に、目標符号量と発生符号量の差を観測し、その差分値
をそれ以降符号化する入力データに対しての目標符号量
に反映させ、できるだけ発生符号量を目標符号量に近付
けるフィードバック制御方法などが採用されている。
【０００４】図３１はこのような処理を行う従来の符号
化装置の要部の系統図である。入力データとしては画像
データを示す。
【０００５】端子１１に供給された入力データはＤＣＴ
変換手段１２に供給されてＤＣＴ係数に変換される。Ｄ
ＣＴ係数は固定の量子化手段１４に供給されて量子化さ
れる。量子化手段１４には量子化値の異なる複数の量子
化器が設けられている。ＭＰＥＧ２の場合、３１通りの
量子化値でそれぞれ量子化されるものであるが、この量
子化手段１４は最適な目標符号量を算出するために用い
られるものであるから、実際より少ない数の量子化器に
よって量子化される。
【０００６】この例では図３２に示すように量子化値の
異なるＮ個（例えば、Ｎ＝８）の量子化器１４ａ〜１４
ｈが使用される。量子化されたＤＣＴ係数は演算手段１
６でＧＯＰ単位および符号化の最小単位であるマクロブ
ロック単位でそれぞれの量子化値での発生符号量の計算
が行われる。したがってこの演算手段１６も図３２のよ
うに８個の演算器１６ａ〜１６ｈで構成される。
【０００７】ＧＯＰ単位とマクロブロック単位の発生符
号量が目標符号量割り当て手段（目標符号量決定手段）
１８に供給されて、ＧＯＰ単位で予め定められた目標符
号量ＴＭＢから、マクロブロック毎の符号量（ターゲッ
トビットレート）となる目標符号量ＴＭＢ（ＴＭＢｂ）
が割り当てられる。
【０００８】この目標符号量ＴＭＢｂとＤＣＴ係数がそ
れぞれＱサーチ手段３０に供給されてマクロブロック毎
に得られるこの目標符号量ＴＢＲを越えない最小の量子
化値が演算によって求められる。この最小量子化値とＤ
ＣＴ係数がバックサーチ手段３２に供給される。この手
段３２は符号化／復号化での画質劣化を防ぐためのバッ
クサーチアルゴリズムによって処理されるブロックであ
り、ここで量子化のための最終的な量子化値が選択され
る。
【０００９】この量子化値は量子化手段３４に供給され
てＤＣＴ係数が量子化される。量子化されたＤＣＴ係数
は可変長符号化手段３６で発生頻度に応じた符号語ＶＬ
Ｃ（Variable Length Code）に変換される。
【００１０】ＤＣＴ係数に対する量子化は離散的である
ため、またはＱサーチ手段３０で選択した量子化値をバ
ックサーチ手段３２のバックサーチアルゴリズムが一番
最初に符号化されたときの量子化値に置き換えてしまう
ために、目標符号量割り当て手段１８で割り当てた目標
符号量ＴＭＢと、可変長符号化手段３６で発生されるマ
クロブロック毎の発生符号量は、必ずしも一致しない。
【００１１】そのために可変長符号化手段３６ではさら
にマクロブロック毎の目標符号量ＴＭＢと実際の発生符
号量の差分値ＤＦが目標符号量割り当て手段１８にフィ
ードバックされる。
【００１２】その差分値ＤＦは目標符号量と同じ単位の
ＧＯＰ単位毎に加算し、ＧＯＰ単位内でそれ以降符号化
されるマクロブロックの目標符号量ＴＭＢに上乗せする
ことで、より目標符号量に近付けるようにしている。
【００１３】図３３は目標符号量割り当て手段１８の具
体例を示す。図３３において、補間手段２２では、ＧＯ
Ｐ単位の目標符号量ＴＢＲが、８個の固定量子化器１４
ａ〜１４ｈでのＧＯＰ単位での発生符号量のどこに位置
しているのかを判定すると共に、目標符号量を越えない
最小の量子化値が補間処理されて出力される。
【００１４】割り当て器２４では補間処理して得られた
量子化値の結果と、その量子化値を挟む２個の固定量子
化器での各マクロブロック単位の発生符号量の結果か
ら、それぞれのマクロブロック毎の目標符号量ＴＭＢａ
を割り当てる。実際には計算して求める。
【００１５】フィードバック量決定手段２６では、可変
長符号化手段３６からの差分値ＤＦを目標符号量の単位
と同じ単位であるＧＯＰ単位で加算する。そしてその値
がフィードバックスレッショールド値ＦＢＴ（固定値）
を越えるまでは加算出力ＤＦが出力される。フィードバ
ックスレッショールド値ＦＢＴを越えたときにはリミッ
タされるので、固定のフィードバックスレッショールド
値ＦＢＴが出力される。
【００１６】そして、加算手段２８では、目標符号量と
同じ単位であるＧＯＰ単位内で、それ以降に符号化され
るマクロブロック毎の目標符号量ＴＭＢａにフィードバ
ック値ＦＢを加えたものをマクロブロックごとの目標符
号量ＴＭＢｂとして出力される。
【００１７】
【発明が解決しようとする課題】ところで、従来では固
定のフィードバックスレッショールド値ＦＢＴを使用し
ているために、ＧＯＰ単位での発生符号量が目標符号量
ＴＭＢｂを上回ることはない。なぜなら、目標符号量割
り当て手段２４において、ＧＯＰ単位内でのすべてのマ
クロブロックに対して目標符号量を割り当てているから
である。
【００１８】また、フィードバック量は、マクロブロッ
ク毎に割り当てた目標符号量ＴＭＢａと、その目標符号
量を超えないような量子化値で量子化された発生符号量
との差分ＤＦを、目標符号量と同じ単位であるＧＯＰ単
位毎に加算したものにフィードバックスレッショールド
値ＦＢＴによってリミッタをかけた量である。補間手段
２２によってＧＯＰ単位の目標符号量を越えない最小の
量子化値を選ぶ限り、このようなフィードバック制御を
行なってもＧＯＰ単位で発生符号量が目標符号量を越え
ることはない。
【００１９】このように、従来の符号化方法では、フィ
ードバック値として外部からそのスレッショールド値を
設定できるものの、入力画像データの性質には無関係に
決定される値であるため、符号化／復号化を繰り返すと
画質劣化が激しくなってしまう問題を持っていた。
【００２０】そこでこの発明はこのような従来の課題を
解決したものであって、符号化／復号化を繰り返しても
画質の劣化が発生しない符号化方法およびこれを使用し
た符号化装置を提案するものである。
【００２１】
【課題を解決するための手段】上述した課題を解決する
ため請求項１に記載したこの発明に係る符号化方法で
は、所定の符号化処理単位に対して予め決められた目標
符号量以内に各符号化処理単位での発生符号量を抑えな
ければならない符号化方法において、発生符号量と目標
符号量との差分値を目標符号量割り当て手段にフィード
バックして、入力データが過去に符号化／復号化されて
いるかを自動判定し、その判定結果に基づいて上記目標
符号量に加算するフィードバックスレッショールド量を
決定することによって、発生符号量を目標符号量に近づ
けるようにしたことを特徴とする。
【００２２】また、請求項４に記載したこの発明に係る
符号化装置では、入力データを圧縮符号化するに際し、
実際に発生する発生符号量を目標符号量に近づける目標
符号量割り当て手段を有する符号化装置において、Ｎ
（Ｎは整数）個の固定量子化器でのＧＯＰ単位の発生符
号量の結果から、入力データが過去に符号化／復号化さ
れたものであるかを自動判定する判定手段と、上記Ｎ個
の固定量子化器でのＧＯＰ単位の発生符号量の結果と、
上記判定結果を用いて、上記入力データの性質を推定
し、その推定結果から上記目標符号量に加えるフィード
バックスレッショールド値を算出するフィードバックコ
ントロール手段とを有することを特徴とする。
【００２３】この発明に係る符号化方法および符号化装
置では、符号量予測のための複数の固定量子化器での発
生符号量の結果から、入力データが過去に符号化／復号
化されているかを自動判定し、その判定結果から、符号
化／復号化されていない場合には、入力データの性質に
依存したフィードバック制御を行う。これとは逆に入力
データが過去に符号化／復号化されている場合には、再
現性を重視したフィードバック制御を行う。
【００２４】このような入力データの性質に依存したフ
ィードバック制御を行うことによって発生符号量が目標
符号量に近くなり、符号化／復号化を繰り返しても画質
の劣化が目立たなくなる。
【００２５】
【発明の実施の形態】続いて、この発明に係る符号化方
法およびこれを使用した符号化装置の一実施形態を図面
を参照して詳細に説明する。ただし、この例でも入力デ
ータとしては画像データであり、符号化手段としてはＭ
ＰＥＧ２を例示する。
【００２６】図１はこの発明に係る符号化方法を適用し
た符号化装置１０の一実施形態を示す。この実施形態は
図３１に示す従来例とその基本構成は全く同じであり、
同一部分については同一の符号を使用するとすれば、従
来例と大幅に相違する点は目標符号量割り当て手段２０
だけである。したがって、基本構成およびその動作につ
いては説明を割愛する。
【００２７】図２は目標符号量割り当て手段２０の具体
例を示す。この割り当て手段２０には図３２に示したよ
うに補間手段２２、割り当て器２４、フィードバック量
決定手段２６および加算手段２８を有する他、判定手段
５０とフィードバックコントロール手段６０とが設けら
れている。
【００２８】判定手段５０は入力データが過去に符号化
／復号化されているかどうかを判定するためのもので、
同図のようにＮ個（Ｎ＝８）の固定量子化器１４ａ〜１
４ｈでのＧＯＰ単位の発生符号量と、マクロブロック単
位の目標符号量ＴＭＢとが供給され、これらの結果か
ら、入力データが過去に符号化／復号化されたものであ
るかを自動判定するマイクロプロセッサで構成されてい
る。
【００２９】フィードバックコントロール手段６０は、
８個の固定量子化器１４ａ〜１４ｈでのＧＯＰ単位の発
生符号量が供給される他、判定手段５０からの判定結果
が供給される。ここでは判定結果を参酌して入力データ
の性質を推定し、その推定結果と発生符号量および目標
符号量を用いてフィードバックスレッショールド値ＦＢ
Ｔを決定するマイクロプロセッサで構成されている。
【００３０】判定手段５０の動作を図３を用いて説明す
る。８個の固定量子化器１４ａ〜１４ｈの量子化値をFi
xＱ（ｉ），ｉ＝１，２，・・・，８）としたとき、 FixＱ（ｉ）くFixＱ（ｉ＋１） ・・・（１） ここに、ｉ＝１，・・・，７ のような関係に選ばれている。そして、それぞれの量子
化値でのＧＯＰ単位での発生符号量（GenBit（FixＱ
（ｉ）），ｉ＝１，２，・・・，８）から、その固定量子
化値間の発生符号量の傾きを求める。その傾きの結果か
ら入力画像データが過去に符号化／復号化されたかどう
かを判定する。
【００３１】まず、図３のステップ７１で、ｉを初期化
し、次にステップ７２で発生符号量の傾き（ＧＤ
（ｉ），ｉ＝１，・・・，７）を計算する。計算式は、例
えば以下のようにする。 ＧＤ（ｉ）＝（GenBit（FixＱ（ｉ)）−GenBit（FixＱ(i+1))／（FixＱ(i+1) −FixＱ(i))×（ＧＯＰ内のマクロブロック数） ・・・（２） （２）式により８個の固定量子化器１４ａ〜１４ｈの間
の傾きを求める。そのため、ｉがＮ＝８となるまではｉ
をインクリメントする（ステップ７３，７４）。全ての
固定量子化器１４ａ〜１４ｈ間の傾きを求めたなら、ｉ
を初期化して（ステップ７５）、それぞれの傾きの間の
関係が単調な変化、この例ではｉが大きくなるにつれて
単調減少（ＧＤ(i)＞ＧＤ(i+1))しているかどうかを調
べる（ステップ７６）。
【００３２】もし、単調な変化をしている場合には、ｉ
をインクリメントしながら順次同様な判定を行い（ステ
ップ７７，７８）、全てに亘って単調な変化であるとき
にはその入力画像データは過去に符号化／復号化されて
いない画像データであると判断する（ステップ７９）。
そして、単調な変化をしていない場合には、その入力画
像データは過去に符号化／復号化されている画像データ
であると判断する（ステップ８０）。
【００３３】フィードバックコントロール手段６０で
は、上述したように入力画像データの性質を推定し、そ
の推定結果からフィードバックスレッショールド値を決
定する。図４を参照して説明する。
【００３４】まず、ｉを初期化したのち（ステップ８
１）、ＧＯＰ単位での目標符号量ＴＭＢと８個の固定量
子化器１４ａ〜１４ｈからのＧＯＰ単位での発生符号量
の関係を調べ、目標符号量を挟みこむような２個の固定
量子化器の発生符号量GenBit（FixＱ（ｉ）），GenBit
（FixＱ（ｉ＋１））を見つけ出す。つまり、 GenBit（FixＱ（ｉ））＞目標符号量＞GenBit（FixＱ（ｉ＋１）） ・・・・（３） となるような量子化値を、ｉをインクリメントしながら
見つけ出す（ステップ８２，８３，８４）。
【００３５】次に、（３）式を満足する発生符号量を検
出したときには、入力画像データが符号化／復号化され
ているかどうかの判定結果を参酌する（ステップ８
５）。そして、符号化／復号化されていないときには、
符号化／復号化されていないときのフィードバックスレ
ッショールド値を求める計算アルゴリズムが実行される
（ステップ９０）。符号化／復号化されているときに
は、符号化／復号化されているときのフィードバックス
レッショールド値を求める計算アルゴリズムが実行され
る（ステップ１００）。
【００３６】目標符号量が８個の固定量子化器１４ａ〜
１４ｈからの発生符号量で挟み込めない場合は（ステッ
プ８２）、入力データに対して目標符号量が極端に多い
か少ないかの場合である。この場合には例えば従来の方
法のような例外処理（ステップ８８）が行なわれる。本
来ならばこのようなことがないように、目標符号量また
は８個の固定量子化値が決定されなければならない。
【００３７】図４のステップ９０はサブルーチン構成で
あって、その一例を図５に示す。同図のフィードバック
スレッショールド計算アルゴリズムにおいては、図４ス
テップ８２で選択された２個の固定量子化値FixＱ
（ｉ）とFixＱ（ｉ＋１）の関係を調べる。
【００３８】この関係が、符号化の方法として規定され
る最小の量子化ステップ（＝＝minＱステップと定義す
る）であるかを判定する（ステップ９１）。FixＱ
（ｉ）とFixＱ（ｉ＋１）との関係がこの最小量子化ス
テップ（FixＱ（ｉ＋１）−FixＱ（ｉ）＝＝minＱステ
ップと定義する）であるならば、ステップ８２で選択し
た量子化値FixＱ（ｉ）とFixＱ（ｉ＋１）をそのまま補
間後の量子化ステップ（InterpＱ（ｊ））として使用す
る（ステップ９２）。
【００３９】逆に、FixＱ（ｉ）とFixＱ（ｉ＋１）との
関係が最小量子化ステップでないならば、FixＱ（ｉ）
とFixＱ（ｉ＋１）との間で最小の量子化ステップにな
る量子化ステップ（InterpＱ（ｊ））を補間によって求
める（ステップ９３，９４）。
【００４０】ここで、 InterpＱ（ｊ）＝＝FixＱ（ｉ） InterpＱ（ｊ＋ｘ）＝＝FixＱ（ｉ＋１） InterpＱ（ｋ＋１）−InterpＱ（ｋ）＝＝minＱステップ ・・・・（４） ｋ＝ｊ，・・・，ｊ＋Ｘ−１
【００４１】そして、InterpＱ（ｊ）に対するＧＯＰ単
位の発生符号量を、GenBit（FixＱ（ｉ））とGenBit（F
ixＱ（ｉ＋１））から補間により求める。ここでは、直
線補間により求めるものとする。 GenBit（InterpＱ（ｙ）） ＝GenBit（FixＱ（ｉ＋１））＋｛（（ｊ＋Ｘ−１）−ｙ） ／（（ｊ＋Ｘ−１）−ｊ）｝＊（GenBit（FixＱ（ｉ）） −GenBit（FixＱ（ｉ＋１））） ・・・（５） ここに、ｙ＝ｊ，ｊ＋１，・・・，ｊ＋Ｘ−１
【００４２】この補間により求めたＧＯＰ単位の発生符
号量に対して、ＧＯＰ単位の目標符号量との関係が、 GenBit（InterpＱ（ｊ））＞目標符号量＞GenBit（InterpＱ（ｊ＋１）） ・・・（６） となるｊを見つけ出す（ステップ９５）。（６）式を満
たすInterpＱ（ｊ）とInterpＱ（ｊ＋１）との関係は、
最小量子化ステップとなる。
【００４３】ステップ９２若しくはステップ９５で決定
された、InterpＱ（ｊ），InterpＱ（ｊ＋１）さらにそ
のＧＯＰ単位の発生符号量GenBit（InterpＱ（ｊ）），
GenBit（InterpＱ（ｊ＋１））およびＧＯＰ単位の目標
符号量から、フィードバックスレッショールド値が算出
される（ステップ９７）。
【００４４】ステップ９７ではある関数ＵＮＣ＝ｆ
（ｘ），ＬＮＣ＝ｇ（ｘ）を定義する。ここに、 ＵＮＣ＝ｆ（（GenBit（InterpＱ（ｊ））−目標符号量） ／（ＧＯＰ単位のマクロブロック数）） ・・・・（７） ＬＮＣ＝ｇ（（目標符号量−GenBit（InterpＱ（ｊ＋１））） ／（ＧＯＰ単位のマクロブロック数）） ・・・・（８） ステップ９７ではこの計算を行い、 フィードバック＝ＦＮＣ（ＵＮＣ，ＬＮＣ） ・・・（９ａ） をフィードバックスレッショールドＦＢＴの値とする。
【００４５】例えば、具体的には、 ｆ（ｘ）＝（ＧＯＰ単位のマクロブロック数）＊ｘ ・・・（９ｂ） ｇ（ｘ）＝（ＧＯＰ単位のマクロブロック数）＊ｘ ・・・（９ｃ） として、ＦＮＣ（）を図６のようにすることが考えれ
る。
【００４６】図６から明らかなように、ＵＮＣの値が増
えるにしたがって、フィードバックスレッショールド値
を大きくし、かつ、ＬＮＣの値が小さくなるにしたがっ
てフィードバックスレッショールド値を小さくする。そ
してこのフィードバックスレッショールドＦＢＴと差分
値ＤＦとから、そのうちの小さい方の値をフィードバッ
ク量決定手段２６の出力（フィードバック量ＦＢ）とし
て用いる。
【００４７】このような計算アルゴリズムを用いること
により、ほぼ各マクロブロックの目標符号量を最小量子
化ステップ（InterpＱ（ｊ）とInterpＱ（ｊ＋１））内
での変動に収めることができる。最小量子化ステップ内
での変動に抑えられるために量子化値が安定化する。ま
た、この計算アルゴリズムは、入力データに対する８個
の固定量子化器１４ａ〜１４ｈからの発生符号量から出
発しているので、入力画像データの性質を的確に反映す
ることができる。
【００４８】図７はサブルーチンステップ１００（図
４）での計算アルゴリズムの具体例である。まず、図４
ステップ８２で選択された２個の固定量子化器の１つで
あるFixＱ（ｉ）とＧＯＰ単位の目標符号量から、例え
ば以下のような関数ｈ（ｘ）を定義する（ステップ１０
１）。
【００４９】 ＵＣ＝ｈ（（GenBit（FixＱ（ｉ））−目標符号量） ／（ＧＯＰ単位のマクロブロック数）） ・・・・（１０ａ） 次に、この（１０ａ）式を計算し、 フィードバック＝ＦＣ（ＵＣ） ・・・（１０ｂ） をフィードバックスレッショールドＦＢＴの値とする
（ステップ１０２）。
【００５０】例えば、具体的には、 ｈ（ｘ）＝（ＧＯＰ単位のマクロブロック数）＊ｘ ・・・（１０ｃ） として、ＦＣ（）を図８のようにすることが考えられ
る。ＵＣの値が増えるにしたがって、フィードバックス
レッショールド値を大きくする。
【００５１】上述したＦＮＣ（）と違い、ＵＣが０の場
合でもフィードバックスレッショールド値は０としない
である正の値Ｓを持たせる。また、ＬＮＣなどのように
フィードバックスレッショールド値を小さくする要素は
導入しない。これは、以下の理由による。
【００５２】フィードバックスレッショールド値を図５
のようにしてしまうと、バックサーチ手段３２でのアル
ゴリズムにおいて、最初に符号化した際の量子化値を見
つけにくなってしまう。発生符号量が目標符号量を越え
てはならない本発明のような符号化では、「目標符号量
を越えない最小の量子化値を選ばなくてはならない」と
言う大前提がある。バックサーチアルゴリズムを通過し
た後でも、この大前提は当然満たされなければならな
い。
【００５３】バックサーチアルゴリズムでは、Ｍ段の量
子化（Ｑ（ｉ），ｉ＝１，２，・・・，Ｍ）を行ない、そ
の量子化の際の余りの最小となる量子化値Ｑ（ｊ）を見
つけ、それを最初の符号化の際に量子化された量子化値
と判定する。
【００５４】しかし、ノイズなどの影響でＭ段の量子化
での余りに差がなくなることもある。このような場合に
はバックサーチアルゴリズムでは、量子化値の変更を行
なわない。
【００５５】このようなバックサーチアルゴリズムにお
いて、バックサーチ手段３２を通過した後でも、この大
前提を満足するためには、Ｍ段の量子化の最小の量子化
値は、目標符号量を越えない最小のものを選ぶ必要があ
る。そして、その最小の量子化値から量子化値を増やす
方向にＭ段の量子化を行ない、余りが最小となる量子化
値を見つけ出す。
【００５６】言い換えれば、大前提を満足させながら、
かつバックサーチアルゴリズムで最初に符号化した際の
量子化値を見つけられるようにするためには、目標符号
量を適度に多くして、最初に符号化された量子化値での
発生符号量を越えるように選ぶ必要がある。
【００５７】これを効果的に行なうためには、フィード
バックスレッショールドＦＢＴは、ＵＣが０の場合でも
ある正の値Ｓとする必要があり、また、バックサーチア
ルゴリズムが確実に最初の符号化の際の量子化値を検出
することによる可変長符号化手段３６からの目標符号量
と発生符号量との差分値ＤＦは増加するので、ＬＮＣを
導入してフィードバックスレッショールド値を小さくす
る必要がない。
【００５８】このアルゴリズムにより、マクロブロック
単位の目標符号量が最初に符号化した際の量子化値での
発生符号量を上回り、その結果バックサーチアルゴリズ
ムを十分活用することができるので、符号化／復号化を
繰り返したときの劣化を抑えることが可能となる。
【００５９】続いて、具体例に基づいて従来と本発明と
の差異を述べる。その前提として、入力画像のマクロブ
ロックデータのＹ信号、Ｃｒ信号、Ｃｂ信号がそれぞれ
図１０〜図１２であるとする。図の例はそれぞれ４ライ
ン単位の繰り返しである。このマクロブロックＭＢが２
個で１ＧＯＰとする。またＧＯＰ単位の目標符号量を１
５２０ビットとする。従来の方法の場合のフィードバッ
クスレッショールドは３０ビットの固定値とする。従来
例から説明する。
【００６０】（１）１回目の符号化 （１ａ）固定量子化器１４の量子化値 ＭＰＥＧ２では３１個の量子化値を選択できる。３１個
の量子化値は例えば「１，２，３，４，５，６，７，
８，１０，１２，１４，１６，１８，２０，２２，２
４，２８，３２，３６，４０，４４，４８，５２，５
６，６４，７２，８０，８８，９６，１０４，１１２」
である。
【００６１】ＧＯＰ単位の目標符号量以内に発生符号量
ＧＭＢを抑えるために、あらかじめ固定量子化器１４に
おいてＧＯＰ単位とマクロブロック単位での発生符号量
を求め、この発生符号量を用いて符号量の割り当てを行
う。固定量子化器１４として３１個全ての量子化器を備
えればよいが、回路規模の削減から、例えばＮ＝８とし
て８個の量子化値の代表点を選び、その８個の量子化値
に対してＧＯＰ単位とマクロブロック単位の発生符号量
を求める。
【００６２】因みに、Ｑサーチ手段３０には上述した３
１個の異なる量子化値でＤＣＴ係数を量子化する３１個
の量子化器が備えられている。
【００６３】今、８個の固定量子化値を図１３のように
選んだときの各固定量子化器１４での発生符号量は、図
１４のようになる。マクロブロックが２個で１ＧＯＰで
あるので、図１４におけるＧＯＰ単位はマクロブロック
単位の２倍になっている。
【００６４】（１ｂ）目標符号量と符号量割り当て ＧＯＰ単位の目標符号量ＴＭＢは１５２０ビットである
から、Ｎ＝８個の固定量子化器１４のＧＯＰ単位の発生
符号量から、このＧＯＰ単位の目標符号量の１５２０ビ
ットを挟む２つの量子化値を求めると、図１４から量子
化値は「１８」と「２４」となる。
【００６５】この２つの量子化値「１８」と「２４」の
ＧＯＰ単位の発生符号量から、ＧＯＰ単位の目標符号量
である１５２０ビットに対する量子化値Ｑを直線近似に
よって求める。 Ｑ＝１８＋［（１５２０−１３５２）／（１５７２−１３５２）］ ×（２４−１８）＝２２．５８２ ・・・（１１）
【００６６】また２つの量子化値「１８」と「２４」の
マクロブロック単位の発生符号量から、マクロブロック
単位の目標符号量Target-ＭＢ（ＴＭＢ）を、（１１）
式で求めた量子化値Ｑ＝２２．５８２を用いて直線近似
する。 Target-ＭＢ＝ＴＭＢａ＝６７６＋［（２２．５８２−１８） ／（２４−１８）］×（７８６−６７６） ＝７６０ビット ・・・（１２） （１ｃ）フィードバックスレッショールド値を予め与え
られた固定値（この例では３０ビット）とする。
【００６７】（１ｄ）１番目のマクロブロック マクロブロック単位での目標符号量（割り当て手段２４
の出力）はTarget-ＭＢ＝７６０ビットである。第２の
加算手段２８は初期化され、「０」であるので、第１の
加算手段２６の出力のフィードバック値も「０」とな
る。したがって、第２の加算手段２８では ＴＭＢｂ＝ＴＭＢａ＋ＦＢ＝７６０＋０＝７６０ビット ・・・（１３） となり、これがフィードバック制御を行ったときに出力
される目標符号量ＴＭＢｂとなる。
【００６８】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が７６０ビットを越えない量子化値を
求める。実際、量子化値とマクロブロック単位の発生量
を抜粋すると図１５のようになっているから、７６０ビ
ットを越えない量子化値として「２２」を選択する。
【００６９】バックサーチ手段３２では、Ｑサーチ手段
３０より得られる量子化値以上の量子化値に対して、マ
クロブロック単位でＤＣＴ係数の量子化後の余り（剰
余）の総和を求め、その総和の最大値と最小値の関係
（例えば、最大値が最小値の１００倍以上）から、１回
目に符号化された際の量子化値を求める。
【００７０】総和の最小値は量子化値が「２２」のとき
で１２２ビット、総和の最大値は量子化値が「１１２」
のときで９１７ビットとなる。最大値は最小値の７．５
２倍であるので、Ｑサーチ手段３０の量子化値出力「２
２」をバックサーチ手段３２の出力とする。
【００７１】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「２２」を用いてＤＣＴ係数
の量子化を行う。
【００７２】可変長符号化手段（ＶＬＣ）３６では量子
化されたＤＣＴ係数から可変長符号を発生させる。ま
た、マクロブロック単位の目標符号量ＴＭＢｂと可変長
符号化手段３６で実際に発生した符号量の差分ＤＦを求
め、割り当て手段２０にフィードバックする。
【００７３】量子化値「２２」でのマクロブロック単位
の発生符号量は図１５より７３４ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７６０ビット
との差分値ＤＦ、 ＤＦ＝７６０−７３４＝２６ビット ・・・（１４） が割り当て手段２０に対して出力される。
【００７４】（１ｅ）２番目のマクロブロック マクロブロック単位での目標符号量ＴＭＢｂは（１２）
式より、 ＴＭＢｂ＝Target-ＭＢ＝７６０ビット ・・・（１５Ａ） である。第１の加算手段２６は（１４）式から明らかな
ように１番目のマクロブロックにおけるマクロブロック
単位の目標符号量ＴＭＢｂと発生符号量との差分値ＤＦ
である２６ビットとなっている。フィードバックスレッ
ショールド値は上述したように３０ビットであるので、
第１の加算手段２６の出力は２６ビットとなる。第１の
加算手段２６からはそのフィードバック値として２６ビ
ットを既に出力してしまっているので、結果として
「０」ビットとなる。第２の加算手段２８では、 ＴＭＢｂ＝７６０＋２６＝７８６ビット ・・・（１５Ｂ） となり、これがフィードバック制御を行ったときの目標
符号量ＴＭＢｂとなる。
【００７５】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が７８６ビットを越えない量子化値を
求める。実際、量子化値とマクロブロック単位の発生量
を抜粋すると図１５のようになっているから、７８６ビ
ットを越えない量子化値として「１８」を選択する。
【００７６】バックサーチ手段３２では、上述したよう
にＱサーチ手段３０より得られる量子化値以上の量子化
値に対して、マクロブロック単位でＤＣＴ係数の量子化
後の余り（剰余）の総和を求め、その総和の最大値と最
小値の関係から、１回目に符号化された際の量子化値を
求める。
【００７７】総和の最小値は量子化値が「１８」のとき
で７３ビット、総和の最大値は量子化値が「１１２」の
ときで９１７ビットとなる。最大値は最小値の１２．５
６倍であるので、Ｑサーチ手段３０の量子化値出力「１
８」をバックサーチ手段３２の出力とする。
【００７８】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「１８」を用いてＤＣＴ係数
の量子化を行う。
【００７９】可変長符号化手段（ＶＬＣ）３６では量子
化されたＤＣＴ係数から可変長符号を発生させる。ま
た、マクロブロック単位の目標符号量ＴＭＢｂと可変長
符号化手段３６で実際に発生した符号量の差分ＤＦを求
め、割り当て手段２０にフィードバックする。
【００８０】量子化値「１８」でのマクロブロック単位
の発生符号量は図１５より７８６ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７８６ビット
との差分値ＤＦ ＤＦ＝７８６−７８６＝０ビット ・・・（１６） が割り当て手段２０に対して出力される。
【００８１】以上の処理で１回目の符号化が終了する。
可変長符号化手段３６より得られるＶＬＣを復号化して
次に２回目の符号化を行う。
【００８２】（２）２回目の符号化 （２ａ）固定量子化器１４の量子化値 １回目の符号化のときと同じように、３１個の量子化値
から８個の固定量子化値を選ぶ（図１３参照）。この量
子化値は１回目の符号化のときと同じ値である。このと
きの各固定量子化器１４での発生符号量は図１６のよう
になる。図１６において、１番目のマクロブロックと２
番目のマクロブロックで発生符号量が異なっているの
は、１回目の符号化において量子化値が「２２」と「１
８」と異なっているからである。
【００８３】（２ｂ）目標符号量と符号量割り当て ＧＯＰ単位の目標符号量ＴＭＢは１５２０ビットである
から、Ｎ＝８個の固定量子化器１４のＧＯＰ単位の発生
符号量から、このＧＯＰ単位の目標符号量ＴＭＢの１５
２０ビットを挟む２つの量子化値を求めると、図１４か
ら「１８」と「２４」となる。
【００８４】この２つの量子化値「１８」と「２４」の
ＧＯＰ単位の発生符号量から、ＧＯＰ単位の目標符号量
である１５２０ビットに対する量子化値Ｑを直線近似に
よって求める。 Ｑ＝１８＋［（１５２０−１４５２）／（１５５０−１４５２）］ ×（２４−１８）＝２２．１６３ ・・・（１７）
【００８５】また２つの量子化値「１８」と「２４」の
マクロブロック単位の発生符号量から、マクロブロック
単位の目標符号量Target-ＭＢ（ＴＭＢ）を、（１７）
式で求めた量子化値Ｑ＝２２．１６３を用いて直線近似
する。
【００８６】１番目のマクロブロックに対する目標符号
量は、 ＴＭＢａ＝Target-ＭＢ ＝７３２＋［（２２．１６３−１８）／（２４−１８）］ ×（７６４−７３２） ＝７５４ビット ・・・（１８）
【００８７】２番目のマクロブロックに対する目標符号
量は、 ＴＭＢａ＝Target-ＭＢ ＝７２０＋［（２２．１６３−１８）／（２４−１８）］ ×（７８６−７２０） ＝７６５ビット ・・・（１９） （２ｃ）フィードバックスレッショールド値は、１回目
と同じく３０ビットの固定値である。
【００８８】（２ｄ）１番目のマクロブロック マクロブロック単位での目標符号量（割り当て手段２４
の出力）はTarget-ＭＢ＝７５４ビットである。第２の
加算手段２８は初期化され、「０」であるので、第１の
加算手段２６の出力のフィードバック値も「０」とな
る。したがって、第２の加算手段２８では ＴＭＢｂ＝ＴＭＢａ＋ＦＢ＝７５４＋０＝７５４ビット ・・・（２０） となり、これがフィードバック制御を行ったときに出力
される目標符号量ＴＭＢｂとなる。
【００８９】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が（２０）式で求めた７５４ビットを
越えない量子化値を求める。実際、量子化値とマクロブ
ロック単位の発生量を抜粋すると図１７のようになって
いるから、７５４ビットを越えない量子化値として「２
０」を選択する。
【００９０】バックサーチ手段３２では、Ｑサーチ手段
３０より得られる量子化値以上の量子化値に対して、マ
クロブロック単位でＤＣＴ係数の量子化後の余り（剰
余）の総和を求め、その総和の最大値と最小値の関係か
ら、１回目に符号化された際の量子化値を求める。
【００９１】総和の最小値は量子化値が「２２」のとき
で４ビット、総和の最大値は量子化値が「１１２」のと
きで８１６７ビットとなる。最大値は最小値の２０４倍
であるので、１回目の符号化では量子化値「２２」が使
用されたものと判断し、量子化値「２２」をバックサー
チ手段３２の出力とする。
【００９２】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「２２」を用いてＤＣＴ係数
の量子化を行う。
【００９３】可変長符号化手段３６では量子化されたＤ
ＣＴ係数から可変長符号を発生させる。また、マクロブ
ロック単位の目標符号量ＴＭＢｂと可変長符号化手段３
６で実際に発生した符号量の差分ＤＦを求め、割り当て
手段２０にフィードバックする。
【００９４】量子化値「２２」でのマクロブロック単位
の発生符号量は図２０より７３４ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７５４ビット
との差分値ＤＦ ＤＦ＝７５４−７３４＝２０ビット ・・・（２１） が割り当て手段２０にフィードバックされる。
【００９５】（２ｅ）２番目のマクロブロック ２番目のマクロブロック単位での目標符号量ＴＭＢｂは
（１９）式より、 ＴＭＢｂ2＝Target-ＭＢ＝７６５ビット ・・・（２２） である。第１の加算手段２６は（２１）式から明らかな
ように１番目のマクロブロックにおけるマクロブロック
単位の目標符号量ＴＭＢｂと発生符号量との差分値ＤＦ
である２０ビットとなっている。フィードバックスレッ
ショールドは上述したように３０ビットであるので、第
１の加算手段２６の出力は２０ビットとなる。第１の加
算手段２６はフィードバックＦＢとして２０ビットを出
力してしまっているので、結果として「０」となる。第
２の加算手段２８では、 ＴＭＢｂ＝７６５＋２０＝７８５ビット ・・・（２３） となり、これがフィードバック制御を行ったときの目標
符号量ＴＭＢｂとなる。
【００９６】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が７８６ビットを越えない量子化値を
求める。実際、量子化値とマクロブロック単位の発生量
を抜粋すると図１８のようになっているから、７８６ビ
ットを越えない量子化値として「２０」を選択する。
【００９７】バックサーチ手段３２では、上述したよう
にＱサーチ手段３０より得られる量子化値以上の量子化
値に対して、マクロブロック単位でＤＣＴ係数の量子化
後の余り（剰余）の総和を求め、その総和の最大値と最
小値の関係から、１回目に符号化された際の量子化値を
求める。
【００９８】総和の最小値は量子化値が「２０」のとき
で３７ビット、総和の最大値は量子化値が「１０４」の
ときで８５１ビットとなる。最大値は最小値の２３倍で
あるので、Ｑサーチ手段３０の量子化値出力「２０」を
バックサーチ手段３２の出力とする。
【００９９】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「２０」を用いてＤＣＴ係数
の量子化を行う。
【０１００】可変長符号化手段３６では量子化されたＤ
ＣＴ係数から可変長符号を発生させる。また、マクロブ
ロック単位の目標符号量ＴＭＢｂと可変長符号化手段３
６で実際に発生した符号量の差分ＤＦを求め、割り当て
手段２０にフィードバックする。
【０１０１】量子化値「２０」でのマクロブロック単位
の発生符号量は図２１より７８４ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７８５ビット
との差分値 ＤＦ＝７８５−７８４＝１ビット ・・・（２４） が割り当て手段２０に対して出力される。以上の処理で
２回目の符号化が終了する。
【０１０２】（３）従来方法での結果 以上の結果を整理すると量子化値については図１９のよ
うになる。
【０１０３】１番目のマクロブロックについては１回目
の符号化と２回目の符号化で量子化値は同じである。し
かし、２番目のマクロブロックについては１回目の符号
化と２回目の符号化で量子化値が異なっている。このこ
とはつまり、符号化／復号化を繰り返すと画質劣化が起
きることを意味している。
【０１０４】また、入力画像に対する１回目の符号化の
ときのＳＮＲと２回目の符号化のときのＳＮＲをマクロ
ブロック単位で計算してみると図２０のようになる。同
図は輝度信号Ｙについての計算例である。
【０１０５】続いて、この発明のようにフィードバック
量をコントロールしながら目標符号量を設定する場合に
ついて説明する。上述した説明と重複する説明文が出現
することを断っておく。
【０１０６】（４）本発明の方法 続いて、本発明による入力画像データの内容を反映した
適応的なフィードバックスレッショールド値の設定方法
について以下に説明する。
【０１０７】（５）１回目の符号化 （５ａ）固定量子化器の量子化値 従来と同じく８個の固定量子化値を図１３のように選ぶ
と、そのときの各固定量子化器１４での発生符号量は図
１４のようになる。
【０１０８】（５ｂ）目標符号量と符号量割り当て ＧＯＰ単位の目標符号量は従来例と同じく１５２０ビッ
トとする。Ｎ＝８個の固定量子化器１４のＧＯＰ単位の
発生符号量から、このＧＯＰ単位の目標符号量の１５２
０ビットを挟む２つの量子化値を求めると、図１４から
１８と２４となる。
【０１０９】この２つの量子化値「１８」と「２４」の
ＧＯＰ単位の発生符号量から、ＧＯＰ単位の目標符号量
である１５２０ビットに対する量子化値Ｑを直線近似に
よって求める。 Ｑ＝１８＋［（１５２０−１３５２）／（１５７２−１３５２）］ ×（２４−１８）＝２２．５８２ ・・・（２５Ａ）
【０１１０】また２つの量子化値「１８」と「２４」の
マクロブロック単位の発生符号量から、マクロブロック
単位の目標符号量Target-ＭＢ（ＴＭＢ）を、（２５
Ａ）式で求めた量子化値Ｑ＝２２．５８２を用いて直線
近似する。 Target-ＭＢ＝ＴＭＢａ ＝６７６＋［（２２．５８２−１８）／（２４−１８）］ ×（７８６−６７６）＝７６０ビット ・・・（２５Ｂ）
【０１１１】（５ｃ）フィードバックスレッショールド
値の算出 フィードバックスレッショールドの値を８個の固定量子
化器１４におけるＧＯＰ単位での発生符号量から計算に
より算出する。
【０１１２】まず始めに、判定手段４２において入力画
像が過去に符号化／復号化されているかを調べる。具体
的には、各ＧＯＰ単位の発生符号量の傾きを計算し、そ
の傾きが単調であるかを調べ、単調であれば過去に符号
化／復号化されていないと判断し、傾きが単調でない場
合にはその入力画像が過去に符号化／復号化されている
と判断する。
【０１１３】傾きＧＤの計算式は次の通りである。ここ
で、ｉは「１」から「７」までである。 ＧＤ＝α／β ・・・（２６） α＝（ｉ番目の固定量子化器でのＧＯＰ単位の発生符号量 −（ｉ＋１）番目の固定量子化器でのＧＯＰ単位の発生符号量） ・・・（２７） β＝（（ｉ＋１）番目の量子化値−ｉ番目の量子化値） ・・・（２８） 実際に傾きＧＤを計算すると図２１のようになり、傾き
は単調であるので判定手段４２では過去に符号化／復号
化されていないという判定結果が得られる。
【０１１４】次に、フィードバックコントロール手段４
４ではこの判定結果を基づいて８個の固定量子化器１４
でのＧＯＰ単位の発生符号量からフィードバックスレッ
ショールド値を計算する。
【０１１５】この発明では符号化／復号化がなされてい
ないと判定されたときには、各マクロブロック間での量
子化値の変動をできるだけ少なくなるようなフィードバ
ックスレッショールド値が算出され、これとは逆に符号
化／復号化されていると判定したときには、バックサー
チ手段３２でのバックサーチアルゴリズムによって、最
初に符号化した際の量子化値を見つけられるようなフィ
ードバックスレッショールド値が算出される。フィード
バックスレッショールド値の算出は、以下に示すステッ
プ（４ｄ−１）〜（４ｄ−４）によって求められる。
【０１１６】・ステップ（４ｄ−１） まず、図２２に示すように、８個の固定量子化器１４で
のＧＯＰ単位の発生符号量からＧＯＰ単位の目標符号量
１５２０ビットを挟む２つの量子化値を求める。図２２
からも明らかなように、目標符号量を挟む２つの量子化
値として「１８」と「２４」が選ばれる。
【０１１７】・ステップ（４ｄ−２） 量子化値「１８」と「２４」は最小の量子化幅ではない
ので、最小量子化幅となる量子化値に対するＧＯＰ単位
の発生符号量を、量子化値「１８」と「２４」でのＧＯ
Ｐ単位の発生符号量を利用して直線近似により求める。
【０１１８】量子化値「１８」と「２４」の間には量子
化値「２０」と「２２」が存在し、量子化値「２２」に
対するＧＯＰ単位の発生符号量の近似値は、以下のよう
になる。 １３５２＋［（２４−２２）／（２４−１８）］×（１５７２−１３５２） ＝１４２５．３３ ・・・（２９） 量子化値「２０」に対するＧＯＰ単位の発生符号量の近
似値は、以下のようになる。 １３５２＋［（２４−２０）／（２４−１８）］×（１５７２−１３５２） ＝１４９８．６７ ・・・（３０）
【０１１９】・ステップ（４ｄ−３） 量子化値「１８」と「２４」のＧＯＰ単位の発生符号量
と、量子化値「２０」と「２２」に対して上述の近似式
によって求めたＧＯＰ単位の発生符号量とから、改めて
ＧＯＰ単位の目標符号量１５２０ビットを挟む２つの量
子化値を求めると、その値は上の数値から明らかなよう
に「１８」と「２０」となる。そのときのＧＯＰ単位の
発生符号量はそれぞれ整数化すると、１５７２ビットと
１４９９ビットとなる。
【０１２０】・ステップ（４ｄ−４） ＧＯＰ単位の目標符号量とそれを挟む２つのＧＯＰ単位
の発生符号量からフィードバックスレッショールド値を
計算する。まずＵＮＣ，ＬＮＣという量を定義する。Ｕ
ＮＣはステップ（４ｄ−３）で求めた２つのＧＯＰ単位
の発生符号量のうちの目標符号量を越える発生符号量１
５７２ビットと、ＧＯＰ単位の目標符号量１５２０ビッ
トとの差分値を示すものである。
【０１２１】ＬＮＣはＧＯＰ単位の目標符号量１５２０
ビットと、ステップ（４ｄ−３）で求めた２つのＧＯＰ
単位の発生符号量のうち目標符号量を越えない発生符号
量１４９９ビットとの差分値であるから、以下のように
なる。 ＵＮＣ＝１５７２−１５２０＝５２ビット ・・・（３１） ＬＮＣ＝１５２０−１４９９＝２１ビット ・・・（３２）
【０１２２】このとき、フィードバックスレッショール
ド値ＦＢＴとしては例えば以下のように選ぶことができ
る。 ＦＢＴ＝min[ＵＮＣ×（３／８），ＬＮＣ］ ・・・（３３） その結果、 以上の計算により、フィードバックコントロール手段６
０から出力されるフィードバックスレッショールド値は
２０ビットとなる。
【０１２３】（５ｅ）１番目のマクロブロック マクロブロック単位での目標符号量（割り当て手段２４
の出力）はTarget-ＭＢ＝７６０ビットである。第２の
加算手段２８は初期化され、「０」であるので、第１の
加算手段２６の出力のフィードバック値も「０」とな
る。したがって、第２の加算手段２８では ＴＭＢｂ＝ＴＭＢａ＋ＦＢ＝７６０＋０＝７６０ビット ・・・（３５） となり、これがフィードバック制御を行ったときに出力
される目標符号量ＴＭＢｂとなる。
【０１２４】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が（３５）式で求めた７６０ビットを
越えない量子化値を求める。実際、量子化値とマクロブ
ロック単位の発生量を抜粋すると図１５のようになって
いるから、７６０ビットを越えない量子化値として「２
２」を選択する。
【０１２５】バックサーチ手段３２では、Ｑサーチ手段
３０より得られる量子化値以上の量子化値に対して、マ
クロブロック単位でＤＣＴ係数の量子化後の余り（剰
余）の総和を求め、その総和の最大値と最小値の関係か
ら、１回目に符号化された際の量子化値を求める。
【０１２６】総和の最小値は量子化値が「２２」のとき
で１２２ビット、総和の最大値は量子化値が「１１２」
のときで９１７ビットとなる。最大値は最小値の７．５
２倍であるので、１回目の符号化では量子化値「２２」
をバックサーチ手段３２の出力とする。
【０１２７】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「２２」を用いてＤＣＴ係数
の量子化を行う。
【０１２８】可変長符号化手段（ＶＬＣ）３６では量子
化されたＤＣＴ係数から可変長符号を発生させる。ま
た、マクロブロック単位の目標符号量ＴＭＢｂと可変長
符号化手段３６で実際に発生した符号量の差分ＤＦを求
め、割り当て手段２０にフィードバックする。
【０１２９】量子化値「２２」でのマクロブロック単位
の発生符号量は図１５より７３４ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７６０ビット
との差分値 ＤＦ＝７６０−７３４＝２６ビット ・・・（３６） が割り当て手段２０にフィードバックされる。
【０１３０】（５ｆ）２番目のマクロブロック マクロブロック単位での目標符号量ＴＭＢｂは、 ＴＭＢｂ2＝Target-ＭＢ＝７６０ビット ・・・（３７） である。第１の加算手段２６は（３６）式から明らかな
ように１番目のマクロブロックにおけるマクロブロック
単位の目標符号量ＴＭＢｂと発生符号量との差分値ＤＦ
である２６ビットとなっている。算出されたフィードバ
ックスレッショールド値は上述したように２０ビットで
あるので、第１の加算手段２６の出力は２０ビットとな
る。第１の加算手段２６はフィードバックＦＢとして２
０ビットを出力してしまっているので、結果として
「６」ビットとなる。第２の加算手段２８では、 ＴＭＢｂ＝７６０＋２０＝７８０ビット ・・・（３８） となり、これがフィードバック制御を行ったときの目標
符号量ＴＭＢｂとなる。
【０１３１】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が７８０ビットを越えない量子化値を
求める。実際、量子化値とマクロブロック単位の発生量
を抜粋すると図２３のようになっているから、７８０ビ
ットを越えない量子化値として「２０」を選択する。
【０１３２】バックサーチ手段３２では、上述したよう
にＱサーチ手段３０より得られる量子化値以上の量子化
値に対して、マクロブロック単位でＤＣＴ係数の量子化
後の余り（剰余）の総和を求め、その総和の最大値と最
小値の関係から、１回目に符号化された際の量子化値を
求める。
【０１３３】総和の最小値は量子化値が「２０」のとき
で９７ビット、総和の最大値は量子化値が「１１２」の
ときで９１７ビットとなる。最大値は最小値の９．４５
倍であるので、Ｑサーチ手段３０からの量子化値「２
０」をバックサーチ手段３２の出力とする。
【０１３４】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「２０」を用いてＤＣＴ係数
の量子化を行う。
【０１３５】可変長符号化手段３６では量子化されたＤ
ＣＴ係数から可変長符号を発生させる。また、マクロブ
ロック単位の目標符号量ＴＭＢｂと可変長符号化手段３
６で実際に発生した符号量の差分ＤＦを求め、割り当て
手段２０にフィードバックする。
【０１３６】量子化値「２０」でのマクロブロック単位
の発生符号量は図２３より７６６ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７８０ビット
との差分値 ＤＦ＝７８０−７６６＝１４ビット ・・・（３９） が割り当て手段２０に対して出力される。以上の処理で
１回目の符号化が終了する。可変長符号化手段３６より
得られるＶＬＣを復号化して次に２回目の符号化を行
う。
【０１３７】（６）２回目の符号化 （６ａ）固定量子化器１４の量子化値 １回目の符号化のときと同じように、３１個の量子化値
から８個の固定量子化値を選ぶ（図１３参照）。この量
子化値は１回目の符号化のときと同じ値である。このと
きの各固定量子化器１４での発生符号量は図２４のよう
になる。図２４において、１番目のマクロブロックと２
番目のマクロブロックで発生符号量が異なっているの
は、１回目の符号化において量子化値が「２２」と「２
０」と異なっているからである。
【０１３８】（６ｂ）目標符号量と符号量割り当て ＧＯＰ単位の目標符号量ＴＭＢは１５２０ビットである
から、Ｎ＝８個の固定量子化器１４のＧＯＰ単位の発生
符号量から、このＧＯＰ単位の目標符号量ＴＭＢの１５
２０ビットを挟む２つの量子化値を求めると、図２４か
ら量子化値は「１８」と「２４」となる。この２つの量
子化値「１８」と「２４」のＧＯＰ単位の発生符号量か
ら、ＧＯＰ単位の目標符号量である１５２０ビットに対
する量子化値Ｑを直線近似によって求める。 Ｑ＝１８＋［（１５２０−１４８２）／（１５３４−１４８２）］ ×（２４−１８）＝２２．３８５ ・・・（４０）
【０１３９】また２つの量子化値「１８」と「２４」の
マクロブロック単位の発生符号量から、マクロブロック
単位の目標符号量Target-ＭＢ（ＴＭＢ）を、（４０）
式で求めた量子化値Ｑ＝２２．３８５を用いて直線近似
する。
【０１４０】１番目のマクロブロックに対する目標符号
量は、 ＴＭＢａ＝Target-ＭＢ ＝７３２＋［（２２．３８５−１８）／（２４−１８）］ ×（７６４−７３２） ＝７５５ビット ・・・（４１）
【０１４１】２番目のマクロブロックに対する目標符号
量は、 ＴＭＢａ＝Target-ＭＢ ＝７５０＋［（２２．３８５−１８）／（２４−１８）］ ×（７７０−７５０） ＝７６４ビット ・・・（４２）
【０１４２】（６ｃ）フィードバックスレッショールド
値の算出 フィードバックスレッショールド値は、ＧＯＰ単位での
発生符号量から計算による求めることになる。１回目の
符号化と同様に、まず始めに、判定手段４２において入
力画像が過去に符号化／復号化されているかを調べる。
具体的には、各ＧＯＰ単位の発生符号量の傾きを計算
し、その傾きが単調であるかを調べ、単調であれば過去
に符号化／復号化されていないと判断し、傾きが単調で
ない場合にはその入力画像が過去に符号化／復号化され
ていると判断する。
【０１４３】傾きＧＤの計算式は次の通りである。ここ
で、ｉは「１」から「７」までである。 ＧＤ＝α／β ・・・（４３） α＝（ｉ番目の固定量子化器でのＧＯＰ単位の発生符号量 −（ｉ＋１）番目の固定量子化器でのＧＯＰ単位の発生符号量） ・・・（４４） β＝（（ｉ＋１）番目の量子化値−ｉ番目の量子化値） ・・・（４５）
【０１４４】実際に傾きＧＤを計算すると図２５のよう
になり、傾きは単調ではないので、判定手段４２では過
去に符号化／復号化されているという判定結果が得られ
る。次に、フィードバックコントロール手段４４ではこ
の判定結果を基づいて８個の固定量子化器１４でのＧＯ
Ｐ単位の発生符号量からフィードバックスレッショール
ド値を計算する。これは以下に示すステップ（６ｄ−
１）〜（６ｄ−４）によって求められる。
【０１４５】・ステップ（６ｄ−１） まず、図２６に示すように、８個の固定量子化器１４で
のＧＯＰ単位の発生符号量からＧＯＰ単位の目標符号量
１５２０ビットを越える最小の発生符号量を求める。図
２６から量子化値が「１８」であるときの発生符号量１
５３４ビットが選ばれる。
【０１４６】・ステップ（６ｄ−２） ＧＯＰ単位の目標符号量と、それを越えるＧＯＰ単位の
発生符号量からフィードバックスレッショールド値を計
算する。そのために、ＵＣという量を定義する。ＵＣは
ステップ（６ｄ−１）で求めたＧＯＰ単位の発生符号量
を越える発生符号量と、ＧＯＰ単位の目標符号量との差
分値を示すものである。 ＵＣ＝１５３４−１５２０＝１４ビット ・・・（４６）
【０１４７】このとき、フィードバックスレッショール
ド値ＦＢＴとしては例えば以下のように選ぶことができ
る。 ＦＢＴ＝５＋ＵＣ×（３／４） ・・・（４７） その結果、 以上の計算により、フィードバックスレッショールド値
は１６ビットとなる。
【０１４８】（６ｅ）１番目のマクロブロック マクロブロック単位での目標符号量（割り当て手段２４
の出力）はTarget-ＭＢ＝７５５ビットである。第２の
加算手段２８は初期化され、「０」であるので、第１の
加算手段２６の出力のフィードバック値も「０」とな
る。したがって、第２の加算手段２８では ＴＭＢｂ＝ＴＭＢａ＋ＦＢＴ＝７５５＋０＝７５５ビット ・・・（４９） となり、これがフィードバック制御を行ったときに出力
される目標符号量ＴＭＢｂとなる。
【０１４９】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が（４９）式で求めた７５５ビットを
越えない量子化値を求める。実際、量子化値とマクロブ
ロック単位の発生量を抜粋すると図２７のようになって
いるから、７５５ビットを越えない量子化値として「２
０」を選択する。
【０１５０】バックサーチ手段３２では、Ｑサーチ手段
３０より得られる量子化値以上の量子化値に対して、マ
クロブロック単位でＤＣＴ係数の量子化後の余り（剰
余）の総和を求め、その総和の最大値と最小値の関係か
ら、１回目に符号化された際の量子化値を求める。
【０１５１】総和の最小値は量子化値が「２２」のとき
で４ビット、総和の最大値は量子化値が「１１２」のと
きで８１６ビットとなる。最大値は最小値の２０４倍で
ある値「２２」をバックサーチ手段３２の出力とする。
【０１５２】量子化手段３４ではバックサーチ手段３２
より出力された量子化値「２２」を用いてＤＣＴ係数の
量子化を行う。
【０１５３】可変長符号化手段３６では量子化されたＤ
ＣＴ係数から可変長符号を発生させる。また、マクロブ
ロック単位の目標符号量ＴＭＢｂと可変長符号化手段３
６で実際に発生した符号量の差分ＤＦを求め、割り当て
手段２０にフィードバックする。
【０１５４】量子化値「２２」でのマクロブロック単位
の発生符号量は図２７より７３４ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７５５ビット
との差分値ＤＦ ＤＦ＝７５５−７３４＝２１ビット ・・・（５０） が割り当て手段２０にフィードバックされる。
【０１５５】（６ｆ）２番目のマクロブロック マクロブロック単位での目標符号量ＴＭＢｂは、 ＴＭＢｂ2＝Target-ＭＢ＝７６４ビット ・・・（５１） である。第１の加算手段２６は（５０）式から明らかな
ように１番目のマクロブロックにおけるマクロブロック
単位の目標符号量ＴＭＢｂと発生符号量との差分値ＤＦ
である２１ビットとなっている。算出されたフィードバ
ックスレッショールド値は上述したように１６ビットで
あるので、第１の加算手段２６の出力は１６ビットとな
る。第１の加算手段２６はフィードバックスレッショー
ルド値ＦＢＴとして１６ビットを出力してしまっている
ので、結果として「５」ビットとなる。第２の加算手段
２８では、 ＴＭＢｂ＝７６４＋１６＝７８０ビット ・・・（５２） となり、これがフィードバック制御を行ったときの目標
符号量ＴＭＢｂとなる。
【０１５６】Ｑサーチ手段３０では、マクロブロック単
位での発生符号量が７８０ビットを越えない量子化値を
求める。実際、量子化値とマクロブロック単位の発生量
を抜粋すると図２８のようになっているから、７８０ビ
ットを越えない量子化値として「１８」を選択する。
【０１５７】バックサーチ手段３２では、上述したよう
にＱサーチ手段３０より得られる量子化値以上の量子化
値に対して、マクロブロック単位でＤＣＴ係数の量子化
後の余り（剰余）の総和を求め、その総和の最大値と最
小値の関係から、１回目に符号化された際の量子化値を
求める。
【０１５８】総和の最小値は量子化値が「２０」のとき
で４ビット、総和の最大値は量子化値が「１１２」のと
きで７８０ビットとなる。最大値は最小値の１９５倍で
あるので、Ｑサーチ手段３０からの量子化値「２０」を
バックサーチ手段３２の出力とする。
【０１５９】量子化手段３４では、バックサーチ手段３
２より出力された量子化値「２０」を用いてＤＣＴ係数
の量子化を行う。可変長符号化手段３６では量子化され
たＤＣＴ係数から可変長符号を発生させる。また、マク
ロブロック単位の目標符号量ＴＭＢｂと可変長符号化手
段３６で実際に発生した符号量の差分ＤＦを求め、割り
当て手段２０にフィードバックする。
【０１６０】量子化値「２０」でのマクロブロック単位
の発生符号量は図２８より７６６ビットであるので、マ
クロブロック単位の目標符号量ＴＭＢｂ＝７８０ビット
との差分値 ＤＦ＝７８０−７６６＝１４ビット ・・・（５３） が割り当て手段２０に対して出力される。以上の処理で
２回目の符号化が終了する。
【０１６１】（７）本発明での結果 以上の結果を整理すると量子化値については図２９のよ
うになる。
【０１６２】符号化１回目において、１番目および２番
目のマクロブロックに対する量子化値の差は、本発明の
場合には２（＝２２−２０）である。これに対して図１
９のように従来の方法では４（＝２２−１８）となる。
したがって本発明方法による場合の方が量子化値の安定
化を図ることができる。
【０１６３】また本発明の場合には、１番目と２番目の
マクロブロックにおいてそれぞれ１回目の符号化と２回
目の符号化で量子化値が同じになる。これによって符号
化と復号化とを繰り返しても量子化値の再現性が保つこ
とができるから、従来の方法に比べて画質劣化が起きに
くいことを意味する。
【０１６４】また入力画像に対する符号化の１回目と２
回目のＳＮＲをマクロブロック単位で計算してみると、
輝度信号Ｙに関して図３０のような結果が得られた。従
来例を示す図２０と比較すれば明らかなように、２回目
の符号化では本発明の方がＳＮＲが改善されていること
が判る。
【０１６５】このような効果上の差異が発生するのは、
上述したようにフィードバックスレッショールド値とし
て従来では固定値（例えば３０）を使用していたことに
他ならない。換言すれば、従来例では入力画像の性質を
考慮していないので、マクロブロック単位での目標符号
量と実際の発生符号量との差分の、ＧＯＰ単位の加算結
果が、フィードバックスレッショールド値以下になる場
合がある。そのためにフィードバック量がマクロブロッ
ク単位で大きく変動してしまう。このフィードバック量
の大きな変動が、第２の加算手段２８で加算されたマク
ロブロック単位の目標符号量ＦＢＴに反映されてしまう
ために、その結果として量子化値の大きな変動を引き起
こすことになる。
【０１６６】２回目の符号化においては、１回目の符号
化で量子化値が大きく変動しているので、マクロブロッ
ク単位の目標符号量が、１回目の符号化での発生符号量
を下回り、バックサーチ手段３２において１回目の量子
化値を探すことができなくなってしまい、量子化値の再
現性が保たれなくなる。これにより画質の劣化が生じて
しまう。
【０１６７】本発明の場合は、８個の固定量子化器のＧ
ＯＰ単位の発生符号量からフィードバックスレッショー
ルド値を計算する。これによりマクロブロック単位での
目標符号量と実際の発生符号量との差分の、ＧＯＰ単位
の加算結果が、フィードバックスレッショールド値より
上回るようになる。これによって、フィードバック量が
マクロブロック単位で変動することなく、フィードバッ
クスレッショールド値がほぼ一定値に抑えられる。この
ようにフィードバック量がほとんど変動することがない
ので、量子化値の変動を抑えることができる。
【０１６８】２回目の符号化においては、１回目の符号
化で量子化値がほとんど変動していないので、マクロブ
ロック単位の目標符号量が１回目の符号化での発生符号
量を上回る。そのためにバックサーチ手段３２において
１回目の量子化値を探すことができ、量子化値の再現性
が保たれる。以上の処理によって画質の劣化を防ぐこと
ができる。
【０１６９】上述した固定量子化での発生符号量の傾き
から入力画像データが既に符号化／復号化されているか
どうかを判定できると説明した。以下にその理由を説明
する。説明を簡単にするため発生符号量ではなく、量子
化後のＤＣＴ係数の値にとどめる。
【０１７０】例えば、（２，５，８，１０，１４，２
１）というＤＣＴ係数が得られたとする。１回目の符号
化での量子化を１０で行なうものとする。量子化を行な
うと（０．２，０．５，０．８，１．０，１．４，２．
１）となり、四捨五入が行なわれ量子化後の値として
（０，１，１，１，１，２）が得られる。これを量子化
と同じ値１０で逆量子化した場合には（０，１０，１
０，１０，１０，２０）となる。
【０１７１】次に（０，１０，１０，１０，１０，２
０）に対して２回目の符号化での量子化について考え
る。まず、１回目の符号化と同じ量子化値１０を使い量
子化を行なうと、（０．０，１．０，１．０，１．０，
１．０，２．０）となり、四捨五入後（０，１，１，
１，１，２）となる。逆量子化を１０で行なうと（０，
１０，１０，１０，１０，２０）となる。また、２回目
の符号化で１回目の符号化と同じ量子化値１０ではな
く、１２で量子化することを考える。このときは、
（０．０，５／６，５／６，５／６，５／３）となり、
四捨五入後（０，１，１，１，１，２）となることがわ
かる。逆量子化を行なうと（０，１２，１２，１２，１
２，２４）となる。
【０１７２】２回目の符号化で１０で量子化した場合の
逆量子化後の値（０，１０，１０，１０，１０，２０）
は１２で量子化した場合のそれ（０，１２，１２，１
２，１２，２４）と明らかに違うが、発生符号量という
観点から注目した場合には、１０，１２での量子化での
差はなく、共に（０，１，１，１，１，２）となること
がわかる。量子化後の値が同じということは、発生符号
量が同じになるということである。つまり、２ｎｄ ｇ
ｅｎ．での量子化で１０で量子化しようが１２で量子化
しようが同じ発生符号量になることがわかる。
【０１７３】ところで、１回目の符号化での量子化では
同様のことが言えない。実際、上記の例題で１回目の符
号化で１２で量子化した場合には（１／６，５／１２，
２／３，５／６，７／６，７／４）となり、四捨五入を
すると（０，０，１，１，１，２）となり、１０で量子
化した場合のそれ（０，１，１，１，１，２）とは異な
り、発生符号量も変わってしまう。
【０１７４】以上のように、１回目の符号化での発生符
号量と、一度量子化をされた２回目の符号化での発生符
号量には大きな違いがある。どのような条件で２回目の
符号化以降の発生符号量が同じになるかを次に説明す
る。
【０１７５】量子化後の値が１である場合を考える。言
い換えると、ある量子化値Ｑで量子化した際に１となる
場合である。１となるのは、量子化後の四捨五入を考え
ると０．５以上１．５未満である必要がある。つまり、
ある量子化値Ｐでの結果が０．５以上１．５未満となる
量子化値Ｐの範囲が２回目の符号化以降で発生符号量が
同じになる量子化の範囲になる。 １／２＜＝（Ｑ／Ｐ）＜３／２ ・・・（５４） ２Ｑ／３＜Ｐ＜＝２Ｑ ・・・（５５） の範囲の量子化Ｐを使えば、量子化Ｑでの発生符号量と
同じになる。
【０１７６】量子化後の値が２である場合を考える。言
い換えると、ある量子化値Ｑで量子化した際に２となる
場合である。２となるのは、量子化後の四捨五入を考え
ると１．５以上２．５未満である必要がある。つまり、
ある量子化値Ｐでの結果が１．５以上２．５未満となる
量子化値Ｐの範囲が２回目の符号化以降で発生符号量が
同じになる量子化の範囲になる。 ３／２＜＝（２Ｑ／Ｐ）＜５／２ ・・・（５６） ４Ｑ／５＜Ｐ＜＝４Ｑ／３ ・・・（５７） の範囲の量子化Ｐを使えば、量子化Ｑでの発生符号量と
同じになる。
【０１７７】同様にして、量子化後の値が３，４，・・・
の場合について発生符号量が同じになる量子化の範囲を
計算することができる。そして、発生符号量が同じにな
ると言うことは、量子化値を横軸と発生符号量を縦軸と
してグラフを描いた場合、平坦な部分があることを意味
する。よって、この平坦な部分があるかないか、つまり
単調に変化しているか否かを判定することにより、その
画像が１回目の符号化であるのか、２回目の符号化であ
るのかを判別できることになる。
【０１７８】実際の自然画像では、より複雑に係数が立
ち上記のような完全に平坦な部分が表れることはまずな
い。しかしながら、各量子化値間での傾きを求めると、
その傾きが連続（単調）ではない部分が表れるの、この
傾きによって１回目の符号化か２回目の符号化であるか
を判別できるものである。
【０１７９】上述したこの発明に係る実施形態に対する
変形例を以下に示す。
【０１８０】１．決められた目標符号量の単位としてＧ
ＯＰを用いたが、特にＧＯＰである必要はない。最小の
処理単位であるマクロブロック単位のＮ倍（Ｎ＞１）を
目標符号量の単位とした場合でも本発明は有効である。
ただし、この場合フィードバックスレッショールド値の
計算の単位としては目標符号量の単位を上回ることはで
きない。
【０１８１】２．フィードバックスレッショールドの計
算の単位としてＧＯＰを用いていたが、ＧＯＰを用いた
場合には、厳密にはマクロブロック単位に見ると符号化
／復号化の場合必ずしも量子化値が安定しているわけで
はない。
【０１８２】これを厳密に行なうためには、ＧＯＰ単位
でのフィードバックスレッショールドの計算をマクロブ
ロック単位のＮ倍（Ｎ＞＝１）にするとよい。例えば、
Ｎ＝１の場合には図９のようにフィードバックコントロ
ール手段６０としてマクロブロックの発生符号量を利用
すればよい。
【０１８３】こうすることによって、具体例で説明した
ＧＯＰ単位での目標符号量がマクロブロック単位での目
標符号量になり、ＧＯＰ単位での目標符号量を挟む２個
の固定量子化器のＧＯＰ単位の発生符号量がマクロブロ
ック単位での目標符号量を挟む２個の固定量子化器のマ
クロブロック単位の発生符号量に置き換えるだけで良
い。
【０１８４】３．画質の向上を行なう方法の１つとして
アクテビティ（Activty）制御がある。これは、画面上
で例えば空のような平坦な部分でのブロックノイズを防
ぐために、このようなマクロブロックに対しては量子化
値を小さくし、複雑な部分、例えばランダムノイズのよ
うな劣化がわかりにくいマクロブロックに対しては量子
化値を大きくする。このようなことを行なうことで、画
質の改善が計れる。
【０１８５】このようなアクテビティ制御を行なった場
合、Ｎ個の固定量子化器で、各マクロブロック単位でそ
れぞれ固定の量子化値（FixＱ（ｉ），ｉ＝１，・・・，
Ｎ）を使わなくなり、それぞれの固定の量子化値に対し
てアクテビティ制御を行なったことによる変動分が加わ
った量子化値を用いることになる。
【０１８６】本発明では、このようなアクテビティ制御
を行なった場合に対しても、アクテビティ制御を行なっ
てないものとして計算アルゴリズムを適用することで、
マクロブロック単位での量子化値の変動分をアクテビテ
ィ制御による変動分に抑えることが可能である。
【０１８７】画質向上を考慮したアクテビティ制御によ
る量子化値の変動をそのままにし、アクテビティ制御に
かからない部分の量子化値の安定化が行なえる。また、
符号化／復号化における量子化値の再現性も行なえる。
【０１８８】
【発明の効果】本発明による符号化方法およびこれを使
用した符号化装置では、符号量予測のための複数の固定
量子化器での発生符号量の結果から、入力データが、過
去に符号化／復号化されているかを自動判定し、その判
定結果から符号化／復号化されていない場合には、入力
データの性質に依存したフィードバック制御を行い、符
号化／復号化されている場合には、再現性を重視したフ
ィードバック制御を行うようにしたものである。
【０１８９】これによれば、発生符号量を目標符号量に
より近付けることができるようになり、これによって量
子化値の安定化が図られると共に、符号化／復号化を繰
り返しても画質の劣化を防止でき、さらに画質の安定化
を図ることができるなどの特徴を有する。
【０１９０】したがってこの発明はＭＰＥＧ２などの画
像データ圧縮符号化装置に適用して極めて好適である。
【図面の簡単な説明】
【図１】この発明に係る符号化方法を適用した符号化装
置の一実施形態を示す要部の系統図である。
【図２】目標符号量割り当て手段の要部の構成を示す系
統図である。
【図３】符号量割り当て処理の一例を示すフローチャー
トである。
【図４】符号化／復号化判別処理の一例を示すフローチ
ャートである。
【図５】第１のフィードバックスレッショールド値を決
定するための一例を示すフローチャートである。
【図６】その動作説明図である。
【図７】第２のフィードバックスレッショールド値を決
定するための一例を示すフローチャートである。
【図８】その動作説明図である。
【図９】目標符号量割り当て手段の他の例を示す要部の
系統図である。
【図１０】Ｙ信号のマクロブロックデータを示す図であ
る。
【図１１】Ｃｒ信号のマクロブロックデータを示す図で
ある。
【図１２】Ｃｂ信号のマクロブロックデータを示す図で
ある。
【図１３】代表的な８個の固定量子化値の関係を示す図
である。
【図１４】８個の量子化値と、そのときの発生符号量と
の関係を示す図である。
【図１５】量子化値「２２」での発生符号量を求める図
１４の抜粋図である。
【図１６】８個の量子化値と、そのときの発生符号量と
の関係を示す図である。
【図１７】量子化値「２０」での発生符号量を求める図
１６の抜粋図である。
【図１８】８個の量子化値と、そのときの発生符号量と
の関係を示す図である。
【図１９】２回の符号化とそのときの量子化値との関係
を示す図である。
【図２０】従来のＳＮＲの関係を示す図である。
【図２１】発生符号量の傾きを求める図である。
【図２２】８個の量子化値と、そのときの発生符号量と
の関係を示す図である。
【図２３】量子化値「２２」での発生符号量を求める図
２２の抜粋図である。
【図２４】２回目の符号化での発生符号量の関係を示す
図である。
【図２５】発生符号量の傾きを求める図である。
【図２６】８個の量子化値と、そのときの発生符号量と
の関係を示す図である。
【図２７】量子化値「２２」での発生符号量を求める図
２６の抜粋図である。
【図２８】量子化値「２２」での発生符号量を求める図
２６の抜粋図である。
【図２９】２回の符号化とそのときの量子化値との関係
を示す図である。
【図３０】本発明によるＳＮＲの関係を示す図である。
【図３１】従来の符号化装置の系統図である。
【図３２】固定量子化手段と演算手段との関係を示す系
統図である。
【図３３】目標符号量割り当て手段の系統図である。
【符号の説明】
１０・・・符号化装置、１２・・・ＤＣＴ係数算出手
段、１４・・・固定量子化手段、１６・・・発生符号量
算出手段、１８，２０・・・目標符号量割り当て手段、
２２・・・補間手段、２４・・・目標符号量割り当て
器、２６・・・第１の加算手段、２８・・・第２の加算
手段、３６・・・ＶＬＣ、５０・・・判定手段、６０・
・・フィードバックコントロール手段

Claims (6)

    【特許請求の範囲】
  1. 【請求項１】 所定の符号化処理単位に対して予め決め
    られた目標符号量以内に各符号化処理単位での発生符号
    量を抑えなければならない符号化方法において、 発生符号量と目標符号量との差分値を目標符号量割り当
    て手段にフィードバックして、入力データが過去に符号
    化／復号化されているかを自動判定し、 その判定結果に基づいて上記目標符号量に加算するフィ
    ードバックスレッショールド量を決定することによっ
    て、発生符号量を目標符号量に近づけるようにしたこと
    を特徴とする符号化方法。
  2. 【請求項２】 符号化／復号化されていない場合には、
    入力データの性質に依存したフィードバック制御を行
    い、 符号化／復号化されている場合には、再現性を重視した
    フィードバック制御を行うようにしたことを特徴とする
    請求項１記載の符号化方法。
  3. 【請求項３】 上記符号化はＭＰＥＧ２であって、その
    符号化処理単位はＧＯＰであることを特徴とする請求項
    １記載の符号化方法。
  4. 【請求項４】 入力データを圧縮符号化するに際し、実
    際に発生する発生符号量を目標符号量に近づける目標符
    号量割り当て手段を有する符号化装置において、 Ｎ（Ｎは整数）個の固定量子化器でのＧＯＰ単位の発生
    符号量の結果から、入力データが過去に符号化／復号化
    されたものであるかを自動判定する判定手段と、 上記Ｎ個の固定量子化器でのＧＯＰ単位の発生符号量の
    結果と、上記判定結果を用いて、上記入力データの性質
    を推定し、その推定結果から上記目標符号量に加えるフ
    ィードバックスレッショールド値を算出するフィードバ
    ックコントロール手段とを有することを特徴とする符号
    化装置。
  5. 【請求項５】 上記入力データはＤＣＴ係数に変換され
    たあとＧＯＰ単位およびマクロブロック単位で発生符号
    量と目標符号量が求められるようになされたことを特徴
    とする請求項４記載の符号化装置。
  6. 【請求項６】 上記判定手段では、符号化／復号化され
    ているとの判定結果が得られたときには、上記Ｎ個の固
    定量子化器からのＧＯＰ単位の発生符号量を用いて、各
    マクロブロック間での量子化値の変動が少なくなるよう
    なフィードバックスレッショールド値に設定され、 符号化／復号化されているとの判定結果が得られたとき
    には、バックサーチアルゴリズムが最初に符号化した際
    の量子化値を見つけられるような再現性を重視したフィ
    ードバックスレッショールド値に設定されるようになさ
    れたことを特徴とする請求項４記載の符号化装置。
JP13890697A 1997-05-28 1997-05-28 符号化方法およびこれを使用した符号化装置 Expired - Lifetime JP3978810B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP13890697A JP3978810B2 (ja) 1997-05-28 1997-05-28 符号化方法およびこれを使用した符号化装置
PCT/JP1998/002245 WO1998054904A1 (fr) 1997-05-28 1998-05-22 Procede de codage et dispositif de codage utilisant ledit procede
US09/237,697 US6023297A (en) 1997-05-28 1999-01-26 Encoding method and encoder using it

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP13890697A JP3978810B2 (ja) 1997-05-28 1997-05-28 符号化方法およびこれを使用した符号化装置

Publications (3)

Publication Number Publication Date
JPH10336652A true JPH10336652A (ja) 1998-12-18
JPH10336652A5 JPH10336652A5 (ja) 2005-03-17
JP3978810B2 JP3978810B2 (ja) 2007-09-19

Family

ID=15232908

Family Applications (1)

Application Number Title Priority Date Filing Date
JP13890697A Expired - Lifetime JP3978810B2 (ja) 1997-05-28 1997-05-28 符号化方法およびこれを使用した符号化装置

Country Status (3)

Country Link
US (1) US6023297A (ja)
JP (1) JP3978810B2 (ja)
WO (1) WO1998054904A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6904227B1 (en) 1999-02-15 2005-06-07 Nec Corporation Device and method for editing video and/or audio data recorded in a disc storage medium

Families Citing this family (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US8374237B2 (en) 2001-03-02 2013-02-12 Dolby Laboratories Licensing Corporation High precision encoding and decoding of video images
US7003167B2 (en) * 2001-11-01 2006-02-21 Hewlett-Packard Development Company, L.P. Single-pass guaranteed-fit data compression using rate feedback
US7751633B1 (en) 2006-08-31 2010-07-06 Hewlett-Packard Development Company, L.P. Method for compressing an image
JP4569840B2 (ja) * 2007-09-12 2010-10-27 ソニー株式会社 画像符号化装置、画像符号化方法
CN101785318B (zh) * 2008-06-27 2012-12-12 索尼公司 图像处理装置和图像处理方法
CN101779468B (zh) * 2008-06-27 2012-07-04 索尼公司 图像处理装置和图像处理方法
CN107749989B (zh) * 2017-10-17 2019-11-05 西安万像电子科技有限公司 图像的编码方法和装置

Family Cites Families (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2952000B2 (ja) * 1990-04-19 1999-09-20 オリンパス光学工業株式会社 画像データの符号化装置および符号化方法
US5291282A (en) * 1990-04-19 1994-03-01 Olympus Optical Co., Ltd. Image data coding apparatus and method capable of controlling amount of codes
JP3143487B2 (ja) * 1991-04-17 2001-03-07 キヤノン株式会社 画像処理装置
JP3187852B2 (ja) * 1991-02-08 2001-07-16 ソニー株式会社 高能率符号化方法
JPH05236465A (ja) * 1992-02-24 1993-09-10 Sony Corp ビデオ信号の伝送方法
JP2734905B2 (ja) * 1992-10-07 1998-04-02 日本電気株式会社 画像符号化装置
JP2968666B2 (ja) * 1993-06-10 1999-10-25 日本電気株式会社 画像符号化方法および装置
JPH07203430A (ja) * 1993-12-28 1995-08-04 Sharp Corp 画像符号化装置
JPH07312754A (ja) * 1994-05-19 1995-11-28 Mitsubishi Electric Corp 動画像符号化装置
JP3050047B2 (ja) * 1994-06-24 2000-06-05 日本ビクター株式会社 動画像符号化装置及び動画像符号化方法
JP3543412B2 (ja) * 1995-04-05 2004-07-14 富士ゼロックス株式会社 画像符号化装置
JP2907063B2 (ja) * 1995-05-24 1999-06-21 日本ビクター株式会社 総符号量制御を行なう動画像符号化装置
JPH0965332A (ja) * 1995-08-23 1997-03-07 Sony Corp 画像符号化装置とその方法
US5926222A (en) * 1995-09-28 1999-07-20 Intel Corporation Bitrate estimator for selecting quantization levels for image encoding
JPH09107293A (ja) * 1995-10-12 1997-04-22 Casio Comput Co Ltd 符号量制御方法、及びその装置
JPH09120802A (ja) * 1995-10-26 1997-05-06 Toshiba Battery Co Ltd マンガン乾電池

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6904227B1 (en) 1999-02-15 2005-06-07 Nec Corporation Device and method for editing video and/or audio data recorded in a disc storage medium

Also Published As

Publication number Publication date
WO1998054904A1 (fr) 1998-12-03
US6023297A (en) 2000-02-08
JP3978810B2 (ja) 2007-09-19

Similar Documents

Publication Publication Date Title
EP0535960B1 (en) Coding signal processor
US5959675A (en) Image compression coding apparatus having multiple kinds of coefficient weights
US5598213A (en) Transmission bit-rate controlling apparatus for high efficiency coding of moving picture signal
US5892548A (en) Adaptive quantizer with modification of high frequency coefficients
US7388995B2 (en) Quantization matrix adjusting method for avoiding underflow of data
US7460597B2 (en) Encoding apparatus and method
EP0861003B1 (en) Code-amount control device and video coding device including the code-amount control device
US20050152450A1 (en) Coding apparatus and method, program, and recording medium
US7925108B2 (en) Encoding device and dynamic image recording system having the encoding device
KR0162203B1 (ko) 양자화스텝사이즈의 가변을 이용한 적응적 부호화방법 및 그 장치
JPH09200758A (ja) 画像符号化装置
JPH10336652A (ja) 符号化方法およびこれを使用した符号化装置
EP0720375B1 (en) Quantizing apparatus and quantizing method
US7965768B2 (en) Video signal encoding apparatus and computer readable medium with quantization control
JP3069144B2 (ja) 動画像符号化装置
JPH07203430A (ja) 画像符号化装置
JPH09149412A (ja) ビデオデータ圧縮方式
US6266447B1 (en) Coding apparatus
EP1220546A2 (en) Quantization step setting apparatus, quantization step setting method, coding apparatus, coding method, and information record medium
JP3200518B2 (ja) 画像信号符号化装置
US7606436B2 (en) Image encoding apparatus and quantization control method
US7391916B2 (en) Quantization matrix adjusting method for quality improvement
JP3013602B2 (ja) 映像信号符号化装置
JPH05219496A (ja) 画像符号化装置及び動画像符号化装置
KR0128877B1 (ko) 동영상 부호화 시스템에서 양자화기의 대표값 결정 방법

Legal Events

Date Code Title Description
A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040412

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040412

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20060316

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060904

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070313

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070511

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070605

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070618

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100706

Year of fee payment: 3