JPH11243539A - 符号化装置および符号化方法 - Google Patents

符号化装置および符号化方法

Info

Publication number
JPH11243539A
JPH11243539A JP34819998A JP34819998A JPH11243539A JP H11243539 A JPH11243539 A JP H11243539A JP 34819998 A JP34819998 A JP 34819998A JP 34819998 A JP34819998 A JP 34819998A JP H11243539 A JPH11243539 A JP H11243539A
Authority
JP
Japan
Prior art keywords
picture
bit
rate
encoding
target
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP34819998A
Other languages
English (en)
Other versions
JP4035747B2 (ja
Inventor
Kanji Mihara
寛司 三原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP34819998A priority Critical patent/JP4035747B2/ja
Publication of JPH11243539A publication Critical patent/JPH11243539A/ja
Application granted granted Critical
Publication of JP4035747B2 publication Critical patent/JP4035747B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/40Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
    • H04N21/43Processing of content or additional data, e.g. demultiplexing additional data from a digital video stream; Elementary client operations, e.g. monitoring of home network or synchronising decoder's clock; Client middleware
    • H04N21/434Disassembling of a multiplex stream, e.g. demultiplexing audio and video streams, extraction of additional data from a video stream; Remultiplexing of multiplex streams; Extraction or processing of SI; Disassembling of packetised elementary stream
    • H04N21/4347Demultiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N21/00Selective content distribution, e.g. interactive television or video on demand [VOD]
    • H04N21/20Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
    • H04N21/23Processing of content or additional data; Elementary server operations; Server middleware
    • H04N21/236Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
    • H04N21/2365Multiplexing of several video streams
    • H04N21/23655Statistical multiplexing, e.g. by controlling the encoder to alter its bitrate to optimize the bandwidth utilization

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Compression Or Coding Systems Of Tv Signals (AREA)

Abstract

(57)【要約】 【課題】 画像データを統計多重する場合におけるGOP
の位相があっていないときの伝送効率の低下を抑制す
る。 【解決手段】 N枚のピクチャからなる1GOP分の画像
データが、ビットレートbit_rate(1)で符号化される。
このとき、符号量Rは、初期値R1からビットレートbit
_rate(1)に従って、順次低下する。GOPの途中でビット
レートがbit_rate(2)に変更されたとき、GOPの残りのピ
クチャに対して割り当てるビット量Rを、ピクチャ当た
りのビット量の差分(bit_rate(1)−bit_rate(2))/pi
c_rateに、残りの枚数を乗算した値を加算した値に変更
する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、符号化装置および
符号化方法に関し、特に、GOPの途中でビットレートを
変更できるようにし、もって、伝送路の容量を有効に利
用することができるようにした、符号化装置および符号
化方法に関する。
【0002】
【従来の技術】最近、画像データ等をデジタルデータと
して送受信するデジタル放送が注目されている。デジタ
ル放送の利点は、アナログ放送に比べて、同じ伝送路に
おいてより多くの番組データ(以下、プログラムとい
う)を伝送することが可能であるということである。こ
れは画像データを圧縮して伝送できるということによる
ところが大きい。画像データの圧縮の方法としては、例
えばMPEG(Moving Picture Experts Group)規格で
採用されている双方向予測符号化方式が用いられること
が多い。この双方向予測符号化方式では、フレーム内符
号化、フレーム間順方向予測符号化および双方向予測符
号化の3つのタイプの符号化が行われ、各符号化タイプ
による画像は、それぞれIピクチャ(intra coded pict
ure)、Pピクチャ(predictive coded picture)また
はBピクチャ(bidirectionally predictive coded pic
ture)と呼ばれる。
【0003】デジタル放送における画像の圧縮符号化で
は、圧縮符号化後のデータ量(ビット量)を、伝送路の
伝送容量以下に抑えつつ、画質を高品質に保つ必要があ
る。
【0004】所定の伝送容量の伝送路に対して、より多
くの複数のプログラムを伝送する方法として、「統計多
重」という手法がある。統計多重は、各プログラムの伝
送レートを動的に変化させることにより、より多くのプ
ログラムを伝送する手法である。この統計多重では、例
えば、伝送レートを減らしても画質の劣化が目立たない
プログラムについては伝送レートを減らすことにより、
より多くのプログラムの伝送を可能にする。
【0005】ここで、図1および図2を参照して、統計
多重について更に説明する。図1は、従来の固定レート
により多重化した場合の各プログラムに対する割当符号
レートの一例を表したものであり、縦軸が各プログラム
に対する割当符号レートを表し、横軸が時刻を表してい
る。図1に示したように、例えば天気予報、ニュースお
よびドラマといった多重化される各プログラムの割当符
号レートは、初期値として割り当てられた符号レートの
まま一定であり、時間の経過によって変動していない。
各プログラムに対して初期値として割り当てられる符号
レートは、各プログラムの画質の劣化が最も目立つ部分
(時刻)における画質の劣化が許容範囲に収まるように
割り当てられている。従って、画質の劣化が目立つ部分
以外の部分には、必要以上の符号レートが割り当てられ
ていることになる。
【0006】図2は、統計多重の手法を用いて、各プロ
グラムに対する割当符号レートを動的に変化させて多重
化した場合の各プログラムに対する割当符号レートの一
例を表したものであり、縦軸が各プログラムに対する割
当符号レートを表し、横軸が時刻を表している。統計多
重は、各プログラムの画質の劣化が目立つ部分(時刻)
が同一時間帯に重なることが稀であることを利用したも
のである。すなわち、あるプログラムでは画質劣化が目
立つ部分であるとき、他のプログラムは符号レートを落
としても画質劣化が目立たない場合が多いので、他のプ
ログラムの符号レートを落として、画質劣化が目立つプ
ログラムに対して符号レートを多く割り当てることがで
きる。図2に示した例では、時刻t1において、ドラマ
(1)の画像は画質劣化が目立つ部分であるが、ニュー
スおよびドラマ(2)の画像は画質劣化が目立たない部
分であるので、ニュースおよびドラマ(2)の画像の符
号レートが落とされ、ドラマ(1)の画像に対してその
分だけ符号レートが多く割り当てられている。このよう
にして、統計多重を用いることにより、通常よりも多く
のプログラムを伝送することができる。
【0007】
【発明が解決しようとする課題】しかし、ここでGOP(G
roup of Picture)の位相の問題がある。通常、エンコ
ーダは、TM5(Test Model Editing Committe:"Test Mo
del5";ISO/IEC JTC/SC292/WG11/NO400(Apr.1993))に代
表されるように、画像を、GOP単位でレートコントロー
ルしてエンコードする。すなわち、ビットレートは、GO
Pの途中では変更されない。その結果、各プログラムのG
OPの位相があっている場合はよい(一般的には、このよ
うな場合はほとんどない)が、GOPの位相にずれがある
場合(一般的にはこの場合がほとんどである)、GOPの
先頭でしかプログラムのビットレートが変更されないの
で、一度に全てのプログラムのビットレートを変更する
ことができず、図3に示すように、デッドスペース(い
ずれのプログラムにもビットレートが割り当てられてい
ない部分)が生じて、伝送容量を全て有効に使用するこ
とができないという課題があった。
【0008】そこで、GOP単位でレートコントロールを
せず、フレーム単位で個々に目標符号量を決めてエンコ
ードする手法も考えられる。しかしながら、デジタル放
送の場合、受信機(デコーダ)のVBV(Video Buffering
Verifier)バッファをオーバーフローまたはアンダー
フローさせないように発生符号量を厳しく制御する必要
があるが、このように、フレーム単位で目標符号量を決
定するようにすると、VBVバッファがオーバーフローま
たはアンダーフローしないように制御することが困難に
なる。
【0009】本発明はこのような状況に鑑みてなされた
もので、GOPの途中でもビットレートを変更できるよう
にし、もって、伝送路の容量を有効に利用することがで
きるようにすることを目的とする。
【0010】
【課題を解決するための手段】請求項1に記載の符号化
装置は、指定ビットレートに基づいて、GOPに含まれる
各ピクチャに対して割り当てられる目標ビット量をそれ
ぞれ演算する制御手段と、制御手段によって制御された
目標ビット量に基づいて、符号化対象ピクチャを符号化
する符号化手段とを備え、制御手段は、符号化手段によ
って符号化対象ピクチャの符号化処理を行う場合、指定
ビットレートが第1のビットレートから第2のビットレ
ートに変更されたとき、第1のビットレートと第2のビ
ットレートとの差分に基づいて符号化対象ピクチャに割
り当てられる目標ビット量を補正することを特徴とす
る。
【0011】この符号化装置においては、符号化手段に
よって符号化対象ピクチャの符号化処理を行う場合、指
定ビットレートが第1のビットレートから第2のビット
レートに変更されたとき、制御手段は、第1のビットレ
ートと第2のビットレートとの差分に基づいて符号化対
象ピクチャに割り当てられる目標ビット量を補正する。
【0012】請求項27に記載の符号化装置は、GOP内
における未符号化ピクチャに対して割り当てられるビッ
ト量と指定ビットレートとに基づいて、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御手段と、制御手段によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化手段を
備え、制御手段は、指定ビットレートがGOPの途中にお
いて第1のビットレートから第2のビットレートに変更
された場合には、符号化手段に与えられる目標ビットレ
ートを、第1のビットレートに対応する目標ビット量か
ら、第2のビットレートに対応する目標ビット量に補正
することを特徴とする。
【0013】この符号化装置においては、指定ビットレ
ートがGOPの途中において第1のビットレートから第2
のビットレートに変更された場合、制御手段は、符号化
手段に与えられる目標ビットレートを、第1のビットレ
ートに対応する目標ビット量から、第2のビットレート
に対応する目標ビット量に補正する。
【0014】請求項28に記載の符号化装置は、GOP内
における未符号化ピクチャに対して割り当てられるビッ
ト量から、符号化対象ピクチャに対して割り当てられる
目標ビット量を演算する制御手段と、制御手段によって
演算された目標ビット量に従って、符号化対象ピクチャ
を符号化する符号化手段を備え、演算手段は、GOPの途
中において指定ビットレートが第1のビットレートから
第2のビットレートに変更された場合には、未符号化ピ
クチャのビット量の変化軌跡が、GOPの先頭ピクチャか
ら第2のビットレートで各ピクチャを符号化していた時
の軌跡になるように、未符号化ピクチャのビット量を補
正し、補正された未符号化ピクチャのビット量に基づい
て、符号化対象ピクチャに対して割り当てられる目標ビ
ット量を演算することを特徴とする。
【0015】この符号化装置においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャの
ビット量の変化軌跡が、GOPの先頭ピクチャから第2の
ビットレートで各ピクチャを符号化していた時の軌跡に
なるように、未符号化ピクチャのビット量が補正され、
補正された未符号化ピクチャのビット量に基づいて、符
号化対象ピクチャに対して割り当てられる目標ビット量
が演算される。
【0016】請求項29に記載の符号化装置は、GOP内
における未符号化ピクチャに対して割り当てられるビッ
ト量から、符号化対象ピクチャに対して割り当てられる
目標ビット量を演算する制御手段と、制御手段によって
演算された目標ビット量に従って、符号化対象ピクチャ
を符号化する符号化手段を備え、演算手段は、GOPの途
中において指定ビットレートが第1のビットレートから
第2のビットレートに変更された場合には、未符号化ピ
クチャのビット量を、第1のビットレートに基づく未符
号化ピクチャのビット量から第2のビットレートに基づ
く未符号化ピクチャのビット量に補正し、補正された未
符号化ピクチャのビット量に基づいて、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算するこ
とを特徴とする。
【0017】この符号化装置においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャの
ビット量が、第1のビットレートに基づく未符号化ピク
チャのビット量から第2のビットレートに基づく未符号
化ピクチャのビット量に補正され、補正された未符号化
ピクチャのビット量に基づいて、符号化対象ピクチャに
対して割り当てられる目標ビット量が演算される。
【0018】請求項30に記載の符号化装置は、符号化
対象ピクチャから所定枚数先のピクチャまでの未符号化
ピクチャに対して割り当てられる予想ビット量を演算
し、その予想ビット量を符号化対象ピクチャの符号化難
易度に基づいて配分することによって、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御手段と、制御手段によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化手段を
備え、制御手段は、指定ビットレートがGOPの途中にお
いて第1のビットレートから第2のビットレートに変更
された場合には、符号化手段に与えられる目標ビットレ
ートを、第1のビットレートに対応する目標ビット量か
ら、第2のビットレートに対応する目標ビット量に補正
することを特徴とする。
【0019】この符号化装置においては、指定ビットレ
ートがGOPの途中において第1のビットレートから第2
のビットレートに変更された場合、目標ビットレート
が、第1のビットレートに対応する目標ビット量から、
第2のビットレートに対応する目標ビット量に補正され
る。
【0020】請求項31に記載の符号化装置は、符号化
対象ピクチャから所定枚数先のピクチャまでの未符号化
ピクチャに対して割り当てられる予想ビット量を演算
し、その予想ビット量を符号化対象ピクチャの符号化難
易度に基づいて配分することによって、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御手段と、制御手段によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化手段を
備え、演算手段は、GOPの途中において指定ビットレー
トが第1のビットレートから第2のビットレートに変更
された場合には、未符号化ピクチャに割り当てられる予
想ビット量の変化軌跡が、第2のビットレートで各ピク
チャを符号化していた時の軌跡になるように、未符号化
ピクチャに対して割り当てられる予想ビット量を補正
し、補正されたビット量に基づいて、符号化対象ピクチ
ャに対して割り当てられる目標ビット量を演算すること
を特徴とする。
【0021】この符号化装置においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャに
割り当てられる予想ビット量の変化軌跡が、第2のビッ
トレートで各ピクチャを符号化していた時の軌跡になる
ように、未符号化ピクチャに対して割り当てられる予想
ビット量が補正され、補正されたビット量に基づいて、
符号化対象ピクチャに対して割り当てられる目標ビット
量が演算される。
【0022】請求項32に記載の符号化装置は、符号化
対象ピクチャから所定枚数先のピクチャまでの未符号化
ピクチャに対して割り当てられる予想ビット量を演算
し、その予想ビット量を符号化対象ピクチャの符号化難
易度に基づいて配分することによって、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御手段と、制御手段によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化手段を
備え、演算手段は、GOPの途中において指定ビットレー
トが第1のビットレートから第2のビットレートに変更
された場合には、未符号化ピクチャに対して割り当てら
れるビット量を、第1のビットレートに基づく未符号化
ピクチャのビット量から第2のビットレートに基づく未
符号化ピクチャのビット量に補正し、補正された未符号
化ピクチャのビット量に基づいて、符号化対象ピクチャ
に対して割り当てられる目標ビット量を演算することを
特徴とする。
【0023】この符号化装置においては、GOPの途中に
おいて指定ビットレートが第1のビットレートが第2の
ビットレートに変更された場合、未符号化ピクチャに対
して割り当てられるビット量が、第1のビットレートに
基づく未符号化ピクチャのビット量から第2のビットレ
ートに基づく未符号化ピクチャのビット量に補正され、
補正された未符号化ピクチャのビット量に基づいて、符
号化対象ピクチャに対して割り当てられる目標ビット量
が演算される。
【0024】請求項33に記載の符号化方法は、指定ビ
ットレートに基づいて、GOPに含まれる各ピクチャに対
して割り当てられる目標ビット量をそれぞれ演算する制
御工程と、制御工程によって制御された目標ビット量に
基づいて、符号化対象ピクチャを符号化する符号化工程
とを備え、制御工程において、符号化工程によって符号
化対象ピクチャの符号化処理を行う場合に、指定ビット
レートが第1のビットレートから第2のビットレートに
変更されたとき、第1のビットレートと第2のビットレ
ートとの差分に基づいて符号化対象ピクチャに割り当て
られる目標ビット量を補正することを特徴とする。
【0025】この符号化方法においては、符号化工程に
よって符号化対象ピクチャの符号化処理を行うとき、指
定ビットレートが第1のビットレートから第2のビット
レートに変更された場合に、第1のビットレートと第2
のビットレートとの差分に基づいて符号化対象ピクチャ
に割り当てられる目標ビット量が補正される。
【0026】請求項34に記載の符号化方法は、GOP内
における未符号化ピクチャに対して割り当てられるビッ
ト量と指定ビットレートとに基づいて、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御工程と、制御工程によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化工程を
備え、制御工程において、指定ビットレートがGOPの途
中において第1のビットレートから第2のビットレート
に変更された場合には、符号化工程に与えられる目標ビ
ットレートを、第1のビットレートに対応する目標ビッ
ト量から、第2のビットレートに対応する目標ビット量
に補正することを特徴とする。
【0027】この符号化方法においては、指定ビットレ
ートがGOPの途中において第1のビットレートから第2
のビットレートに変更された場合、目標ビットレートが
第1のビットレートに対応する目標ビット量から第2の
ビットレートに対応する目標ビット量に補正される。
【0028】請求項35に記載の符号化方法は、GOP内
における未符号化ピクチャに対して割り当てられるビッ
ト量から、符号化対象ピクチャに対して割り当てられる
目標ビット量を演算する制御工程と、制御工程によって
演算された目標ビット量に従って、符号化対象ピクチャ
を符号化する符号化工程を備え、演算工程において、GO
Pの途中において指定ビットレートが第1のビットレー
トから第2のビットレートに変更された場合には、未符
号化ピクチャのビット量の変化軌跡が、GOPの先頭ピク
チャから第2のビットレートで各ピクチャを符号化して
いた時の軌跡になるように、未符号化ピクチャのビット
量を補正し、補正された未符号化ピクチャのビット量に
基づいて、符号化対象ピクチャに対して割り当てられる
目標ビット量を演算することを特徴とする。
【0029】この符号化方法においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャの
ビット量の変化軌跡が、GOPの先頭ピクチャから第2の
ビットレートで各ピクチャを符号化していた時の軌跡に
なるように、未符号化ピクチャのビット量が補正され、
補正された未符号化ピクチャのビット量に基づいて、符
号化対象ピクチャに対して割り当てられる目標ビット量
が演算される。
【0030】請求項36に記載の符号化方法は、GOP内
における未符号化ピクチャに対して割り当てられるビッ
ト量から、符号化対象ピクチャに対して割り当てられる
目標ビット量を演算する制御工程と、制御工程によって
演算された目標ビット量に従って、符号化対象ピクチャ
を符号化する符号化工程を備え、演算工程において、GO
Pの途中において指定ビットレートが第1のビットレー
トから第2のビットレートに変更された場合には、未符
号化ピクチャのビット量を、第1のビットレートに基づ
く未符号化ピクチャのビット量から第2のビットレート
に基づく未符号化ピクチャのビット量に補正し、補正さ
れた未符号化ピクチャのビット量に基づいて、符号化対
象ピクチャに対して割り当てられる目標ビット量を演算
することを特徴とする。
【0031】この符号化方法においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャの
ビット量が、第1のビットレートに基づく未符号化ピク
チャのビット量から第2のビットレートに基づく未符号
化ピクチャのビット量に補正され、補正された未符号化
ピクチャのビット量に基づいて、符号化対象ピクチャに
対して割り当てられる目標ビット量が演算される。
【0032】請求項37に記載の符号化方法は、符号化
対象ピクチャから所定枚数先のピクチャまでの未符号化
ピクチャに対して割り当てられる予想ビット量を演算
し、その予想ビット量を符号化対象ピクチャの符号化難
易度に基づいて配分することによって、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御工程と、制御工程によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化工程を
備え、制御工程において、指定ビットレートがGOPの途
中において第1のビットレートから第2のビットレート
に変更された場合には、符号化工程に与えられる目標ビ
ットレートを、第1のビットレートに対応する目標ビッ
ト量から、第2のビットレートに対応する目標ビット量
に補正することを特徴とする。
【0033】この符号化方法においては、指定ビットレ
ートがGOPの途中において第1のビットレートから第2
のビットレートに変更された場合、目標ビットレート
が、第1のビットレートに対応する目標ビット量から、
第2のビットレートに対応する目標ビット量に補正され
る。
【0034】請求項38に記載の符号化方法は、符号化
対象ピクチャから所定枚数先のピクチャまでの未符号化
ピクチャに対して割り当てられる予想ビット量を演算
し、その予想ビット量を符号化対象ピクチャの符号化難
易度に基づいて配分することによって、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御工程と、制御工程によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化工程を
備え、制御工程において、GOPの途中において指定ビッ
トレートが第1のビットレートから第2のビットレート
に変更された場合には、未符号化ピクチャに割り当てら
れる予想ビット量の変化軌跡が、第2のビットレートで
各ピクチャを符号化していた時の軌跡になるように、未
符号化ピクチャに対して割り当てられる予想ビット量を
補正し、補正されたビット量に基づいて、符号化対象ピ
クチャに対して割り当てられる目標ビット量を演算する
ことを特徴とする。
【0035】この符号化方法においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャに
割り当てられる予想ビット量の変化軌跡が、第2のビッ
トレートで各ピクチャを符号化していた時の軌跡になる
ように、未符号化ピクチャに対して割り当てられる予想
ビット量が補正され、補正されたビット量に基づいて、
符号化対象ピクチャに対して割り当てられる目標ビット
量が演算される。
【0036】請求項39に記載の符号化方法は、符号化
対象ピクチャから所定枚数先のピクチャまでの未符号化
ピクチャに対して割り当てられる予想ビット量を演算
し、その予想ビット量を符号化対象ピクチャの符号化難
易度に基づいて配分することによって、符号化対象ピク
チャに対して割り当てられる目標ビット量を演算する制
御工程と、制御工程によって演算された目標ビット量に
従って、符号化対象ピクチャを符号化する符号化工程を
備え、制御工程において、GOPの途中において指定ビッ
トレートが第1のビットレートから第2のビットレート
に変更された場合には、未符号化ピクチャに対して割り
当てられるビット量を、第1のビットレートに基づく未
符号化ピクチャのビット量から第2のビットレートに基
づく未符号化ピクチャのビット量に補正し、補正された
未符号化ピクチャのビット量に基づいて、符号化対象ピ
クチャに対して割り当てられる目標ビット量を演算する
ことを特徴とする。
【0037】この符号化方法においては、GOPの途中に
おいて指定ビットレートが第1のビットレートから第2
のビットレートに変更された場合、未符号化ピクチャに
対して割り当てられるビット量が、第1のビットレート
に基づく未符号化ピクチャのビット量から第2のビット
レートに基づく未符号化ピクチャのビット量に補正さ
れ、補正された未符号化ピクチャのビット量に基づい
て、符号化対象ピクチャに対して割り当てられる目標ビ
ット量が演算される。
【0038】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して詳細に説明する。図4は、本発明を適
用した画像多重化システム1の構成例を表す。画像多重
化システム1は、それぞれ、本発明における番組データ
としてのプログラムPi(i=1,2,・・・,n)を
入力し、圧縮符号化する複数の画像符号化装置2−i
と、各画像符号化装置2−iに対してフィードバック型
のビットレート制御を行うコントローラ3と、各画像符
号化装置2−iよりそれぞれ出力される圧縮符号化デー
タstiを多重化して、伝送路に対して画像データSm
出力する多重化装置4とを備えている。画像符号化装置
2−iは、プログラムPiの複雑さ(グローバルコンプ
レクシティ)Ciを求め、コントローラ3に出力してい
る。コントローラ3は、各画像符号化装置2−iからの
グローバルコンプレクシティCiに基づいて、統計多重
により、各画像符号化装置2−iのビットレートbit_ra
te#iを決定し、各画像符号化装置2−iに出力してい
る。
【0039】画像多重化システム1は、伝送システムと
して用いられる場合には、多重化装置4より出力される
画像データSmを、伝送用データとして伝送路に対して
出力する。また、画像多重化システム1は、放送システ
ムとして用いられる場合には、多重化装置4より出力さ
れる画像データSmを、放送用データとして、放送用の
伝送路を介して受信装置側に送信する。
【0040】図5は、図4における画像符号化装置2−
1(図示は省略するが、画像符号化装置2−2乃至2−
nも同様に構成される)の詳細な構成を示すブロック図
である。この図に示したように、画像符号化装置2−1
は、プログラムP1を入力し、符号化する順番に従って
ピクチャ(Iピクチャ,Pピクチャ,Bピクチャ)の順
番を並べ替える画像並べ替え回路11と、この画像並べ
替え回路11の出力データを入力し、フレーム構造かフ
ィールド構造かを判別し、判別結果に応じた走査変換を
行うとともに、16×16画素のマクロブロック化を行
う走査変換マクロブロック化回路12を備える。動き検
出回路21は、走査変換マクロブロック化回路12の出
力データに基づいて、圧縮符号化の対象となるピクチャ
において注目マクロブロックを探すとともに、参照され
るピクチャにおいて、注目マクロブロックとの間の画素
値の差分の絶対値和あるいは自乗和が最小となるマクロ
ブロック(予測マクロブロック)を探して、それらか
ら、動きベクトルMVを検出して動き補償回路22に送
る。
【0041】減算回路13は、走査変換マクロブロック
化回路12の出力から、動き補償回路22が動き検出回
路21からの動きベクトルMVに基づいて生成した予測
画像データ(予測マクロブロック)を減算し、DCT(Dis
crete Cosine Transform)回路14に出力する。DCT回
路14は、入力されたデータをDCT変換し、量子化回路
15に出力する。量子化回路15は、DCT回路14より
入力されたデータを、レートコントローラ23の量子化
スケールコード決定回路33が出力する量子化スケール
コードQ1に基づいて量子化し、可変長符号化回路16
と、逆量子化回路18に出力している。
【0042】可変長符号化回路16は、量子化回路15
より入力されたデータを可変長符号化し、バッファメモ
リ17を介して多重化装置4に出力する。バッファメモ
リ17の使用可能な容量は、コントローラ24により制
御される。
【0043】逆量子化回路18は、量子化回路15より
供給されたデータを逆量子化し、逆DCT回路19に出力
する。逆DCT回路19は、逆量子化回路18より供給さ
れたデータを逆DCT変換し、加算回路20に出力してい
る。加算回路20は、動き補償回路22より出力された
予測画像データと、逆DCT回路19より出力されたデー
タとを加算し、加算して得られたもとの画像データ(局
部的に復号された画像データ)を動き補償回路22に出
力し、内蔵するフレームメモリに記憶させる。
【0044】レートコントローラ23は、図4のコント
ローラ3からの信号bit_rate#1と、バッファメモリ17
からの発生符号量S1に基づいて量子化スケールコード
1を生成し、量子化回路15に出力している。このた
め、レートコントローラ23の複雑さ計算回路31は、
次式に従ってグローバルコンプレクシティ(global com
lpexity)C1(次式では、Xi,Xp,Xbとして表さ
れている)を算出する。このグローバルコンプレクシテ
ィC1は、画像の絵柄の複雑さを示すデータであり、次
式に示すように、圧縮映像データの発生符号量(データ
量)S1(バッファメモリ17より供給される)と、量
子化スケールコードQ1(量子化スケールコード決定回
路33より供給される)とを乗算して得られる値であ
る。 Xi=Si×Qi ・・・(1) Xp=Sp×Qp ・・・(2) Xb=Sb×Qb ・・・(3)
【0045】なお、上記式において、Xi,Xp,Xb
は、それぞれ、Iピクチャ、Pピクチャ、またはBピク
チャのグローバルコンプレクシティC1を表し、Si,
Sp,Sbは、それぞれIピクチャ、Pピクチャ、また
はBピクチャを可変長符号化回路16で符号化した際の
発生符号量S1を表し、Qi,Qp,Qbは、それぞれ
Iピクチャ、Pピクチャ、またはBピクチャを生成する
際の量子化スケールコードQ1を表す。
【0046】このグローバルコンプレクシティC1は、
図17と図18を参照して後述するフィードフォワード
型のビットレート制御システムにおいて用いられる符号
化難易度D1とは必ずしも一致しないが、量子化スケー
ルコードQ1が極端に大きかったり小さかったりしない
限り、符号化難易度D1とほぼ一致する。
【0047】複雑さ計算回路31は、以上のようにし
て、式(1)乃至式(3)に基づいて演算により求めた
コンプレクシティC1(Xi,Xp,Xb)を、図4の
コントローラ3に出力し、また、発生符号量S1(S
i,Sp,Sb)とともに、目標ビット量設定回路32
に出力する。目標ビット量設定回路32は、コントロー
ラ3より供給される信号bit_rate#1、複雑さ計算回路3
1より供給されるコンプレクシティC1(Xi,Xp,
Xb)、並びに発生符号量S1(Si,Sp,Sb)に
基づいて、目標ビット量T1を設定し、設定した目標ビ
ット量T1を量子化スケールコード決定回路33に出力
する。量子化スケールコード決定回路33は、入力され
た目標ビット量T1に対応して量子化スケールコードQ1
を決定し、量子化回路15と複雑さ計算回路31に出力
している。
【0048】次に、図4に示した画像多重化システム1
の動作について説明する。この画像多重化システム1で
は、各プログラムPiは、それぞれ、各画像符号化装置
2−iによって符号化される。画像符号化装置2−i
は、プログラムPiについて、既に符号化した画像の複
雑さを表すグローバルコンプレクシティCiを演算し、
コントローラ3に出力する。コントローラ3は、統計多
重の手法を用いて、入力された各グローバルコンプレク
シティCiに基づいて、各プログラムPiに対する単位時
間当たりの目標発生符号量である目標符号レートとして
の目標ビットレートbit_rate#iを決定し、各画像符号化
装置2−iに対して出力する。画像符号化装置2−i
は、入力された目標ビットレートbit_rate#iに基づい
て、プログラムPiを圧縮符号化し、圧縮符号化データ
stiを多重化装置4に出力する。多重化装置4は、入
力された各圧縮符号化データstiを多重化して、出力
用の画像データSmを生成し、伝送路に対して出力す
る。
【0049】次に、図5に示した画像符号化装置2−1
の基本的な動作について説明する。まず、プログラムP
1は、画像符号化装置2−1の画像並べ替え回路11に
よって、符号化する順番に従ってピクチャ(Iピクチ
ャ,Pピクチャ,Bピクチャ)の順番が並べ替えられ
る。次に、走査変換マクロブロック化回路12は、その
ピクチャがフレーム構造かフィールド構造かを判別し、
判別結果に応じた走査変換およびマクロブロック化を行
う。走査変換マクロブロック化回路12の出力データ
は、動き検出回路21と減算回路13に送られる。
【0050】入力されたピクチャがIピクチャの場合に
は、減算回路13において予測画像データとの差分をと
ることなく、走査変換マクロブロック化回路12の出力
データがそのままDCT回路14に入力され、DCT係数に変
換される。DCT係数は、量子化スケールコード決定回路
33で決定された量子化スケールコードQ1に基づいて
量子化回路15によって量子化された後、可変長符号化
回路16によって可変長符号化される。可変長符号化回
路16の出力データは、バッファメモリ17によって一
旦保持された後、ビットストリームからなる圧縮符号化
データst1として、多重化装置4に出力される。
【0051】また、逆量子化回路18は量子化回路15
の出力データを逆量子化する。逆DCT回路19は逆量子
化回路18の出力データに対して逆DCTを行い、加算回
路20を介して動き補償回路22に入力して保持させ
る。
【0052】入力されたピクチャがPピクチャの場合に
は、動き補償回路22によって、保持している過去のI
ピクチャまたはPピクチャに対応する画像データと、動
き検出回路21からの動きベクトルMVとに基づいて予
測画像データが生成され、予測画像データが減算回路1
3と加算回路20に出力される。減算回路13は、走査
変換マクロブロック化回路12の出力データと動き補償
回路22からの予測画像データとの差分を演算する。こ
の差分データは、DCT回路14によってDCT係数に変換さ
れ、量子化回路15によって量子化される。可変長符号
化回路16は、量子化回路15の出力データを可変長符
号化し、バッファメモリ17を介して、圧縮符号化デー
タSt1として、多重化装置4に出力する。
【0053】また、逆量子化回路18は、量子化回路1
5の出力データを逆量子化する。逆DCT回路19は、逆
量子化回路18の出力データに対して逆DCTを行う。加
算回路20は、逆DCT回路19の出力データと、動き補
償回路22が出力する予測画像データとを加算し、動き
補償回路22に入力して保持させる。
【0054】入力されたピクチャがBピクチャの場合に
は、動き補償回路22によって、保持されている過去お
よび未来のIピクチャまたはPピクチャに対応する2つ
の画像データと、動き検出回路21からの2つの動きベ
クトルMVとに基づいて、予測画像データが生成され、
減算回路13と加算回路20に出力される。減算回路1
3は、走査変換マクロブロック化回路12の出力データ
と動き補償回路22からの予測画像データとの差分を演
算する。この差分データは、DCT回路14によってDCT係
数に変換され、量子化回路15によって量子化される。
可変長符号化回路16は、量子化回路15の出力データ
を可変長符号化し、バッファメモリ17を介して圧縮符
号化データst1として、多重化装置4に出力する。な
お、Bピクチャは動き補償回路22に保持されない。
【0055】次に、図6と図7のフローチャートを参照
して、レートコントローラ23とコントローラ24によ
るレートコントロールの動作について説明する。なお、
以下の説明においては、各プログラムPiに対応する発
生符号量Si、グローバルコンプレクシティCi、目標ビ
ット量Ti、量子化スケールコードQi、圧縮符号化デ
ータsti、ビットレートbit_rate#iなどの添字iは、
記号が複雑になるので、それらを個々に区別する必要が
ある場合を除き、基本的に省略する。
【0056】ステップS1において、レートコントロー
ラ23の目標ビット量設定回路32は、次の式(4)乃
至式(6)に基づいて、GOP(通常、1GOPは15フレー
ムのピクチャで構成される)のピクチャ(j)に対する
目標符号量Ti(j),Tp(j),Tb(j)をそれ
ぞれ演算する。
【0057】
【数1】
【0058】上記式において、R(j)は、GOP内のま
だ符号化していない(これから符号化する)ピクチャの
符号量(ビット量)を表し、Np,Nbは、GOP内でま
だ符号化されていないPピクチャまたはBピクチャの枚
数を表し、Xi,Xp,Xbは、それぞれIピクチャ、
Pピクチャ、またはBピクチャのグローバルコンプレク
シティCを表している。KpとKbは、Iピクチャの量
子化スケールコードを基準としたPピクチャとBピクチ
ャの量子化スケールコードの比率を表し、次式で示す値
とされる。$ Kp=1.0 ・・・(7) Kb=1.4 ・・・(8)
【0059】すなわち、Pピクチャの量子化スケールコ
ードは、Iピクチャの量子化スケールコードの1倍とさ
れるが、Bピクチャの量子化スケールコードは、Iピク
チャとPピクチャの量子化スケールコードの常に1.4
倍とされる。これにより、Bピクチャが、Iピクチャま
たはPピクチャに比較して、多少粗めに符号化されるの
で、Bピクチャで節約できる符号量をIピクチャとPピ
クチャの符号量に加えることができ、IピクチャとPピ
クチャのS/Nが改善されるとともに、それを参照する
BピクチャのS/Nも改善されることとなり、総合的に
S/Nが改善される。
【0060】なお、コンプレクシティXi,Xp,Xb
の初期値は、目標レートであるbit_rate(j)(ビット
/秒)に基づいて次式で示す値に設定される。
【0061】 Xi=160×bit_rate(j)/115 ・・・(9) Xp=60×bit_rate(j)/115 ・・・(10) Xb=42×bit_rate(j)/115 ・・・(11)
【0062】bit_rate(j)は、コントローラ3よりピ
クチャ(j)に対して指定されるビットレートを表す。
pic_rateは、ピクチャレートを表し、例えば、NTSC方式
の場合、30(フレーム/秒)となる。さらに、max{A,
B}は、AとBのうち、大きい方を選択する関数を意味す
る。
【0063】R(j),Np,Nb,Kp,Kb,pic_
rateの各値は、それぞれ各画像符号化装置2−i毎に設
けられているコントローラ24(図5)から供給される
値である。Xi,Xp,Xbは、上述したように、複雑
さ計算回路31が式(1)乃至式(3)に従って演算し
た値である。
【0064】式(4)乃至(6)では、未符号化ピクチ
ャ全体の発生する推定符号量が割当対象ピクチャの何枚
分の符号量に相当するかが求められる。
【0065】例えば、式(4)の第1引数の分母の第2
項のNpXp/XiKpは、GOP内のNp枚の未符号化
Pピクチャが、Iピクチャ何枚分の符号量に相当するか
を表し、第3項のNbXb/XiKbは、GOP内のNb
枚の未符号化Bピクチャが、Iピクチャ何枚分の符号量
に相当するかを表している。第1項の1は、GOP内のI
ピクチャの数を表している(1GOP内のIピクチャの数
は、常に1とされている)ので、結局、式(4)の第1
引数は、GOP内の残りの(N−j+1)枚のピクチャ
が、全てIピクチャであると仮定した場合における1ピ
クチャ当たりの符号量を表している。
【0066】同様に、式(5)の第1引数の分母の第2
項のNbKpXb/KbXpは、GOP内のNb枚の未符
号化Bピクチャが、Pピクチャ何枚分の符号量に相当す
るかを表している。従って、式(5)の第1の引数は、
GOP内の残りの(N−j+1)枚のピクチャが、全てP
ピクチャであると仮定した場合における1ピクチャ当た
りの符号量を表している。
【0067】さらに、式(6)の第1引数の分母の第2
項のNpKbXp/KpXbは、GOP内のNp枚の未符
号化Pピクチャが、Bピクチャ何枚分の符号量に相当す
るかを表しており、第1の引数は、GOP内の残りの(N
−j+1)枚のピクチャが、全てBピクチャであると仮
定した場合における1ピクチャ当たりの符号量を表して
いる。
【0068】基本的には、式(4)乃至式(6)の第1
引数の値に、Iピクチャ、Pピクチャ、またはBピクチ
ャの目標符号量Ti(j),Tp(j),Tb(j)(以
下、Iピクチャ、Pピクチャ、またはBピクチャの区別
をする必要がないときは、単に、T(j)とも記述す
る)が決定されるが、演算により求めたその値があまり
にも小さい場合には、画像復号装置のVBVバッファがオ
ーバーフローする恐れがあるので、式(4)乃至式
(6)の第2引数に規定される値bit_rate(j)/(8
×pic_rate)が、目標符号量T(j)として選択され
る。
【0069】ピクチャ(j)がエンコードされる直前の
VBVバッファの占有量をB*(j)とすると、このピクチ
ャ(j)に対し、目標符号量T(j)と同じ値だけのビ
ット量が、実際に符号化により発生したとすると、次の
ピクチャ(j+1)のエンコード直前のVBVバッファの
占有量B*(j+1)は、次の式で表される。ステップ
S2において、コントローラ24は、次式に従って、こ
の占有量B*(j+1)を演算する。
【0070】 B*(j+1)=B*(j)−T(j)+(tj+1−tj)×bit_rate(j+1) ・・・(12)
【0071】また、ステップS2において、コントロー
ラ24は、次式からVBVバッファの使用範囲を決定す
る。
【0072】 vbv_size(j+1)=min{τmax×bit_rate(j+1),vbv_size(0)} ・・・(13)
【0073】なお、vbv_size(0)は、VBVバッファの
遅延時間が最高の値τmaxとなる場合のビットレートの
値を表しており、min{A,B}は、AとBのうち、小
さい方を選択する関数を表す。
【0074】すなわち、この例では、VBVバッファの遅
延時間の最高値が予め規定され、VBVバッファの遅延時
間が、予め規定したこの最高値を上回るようなビットレ
ートが使用される場合には、コントローラ24がVBVバ
ッファ(図5のバッファメモリ17に対応する)の使用
範囲を狭めて(VBVバッファの容量を等価的に小さくし
て)、その遅延時間が、最高値に等しくなるように制御
する。最高値τmaxは、次式で表される。
【0075】 τmax=vbv_size(0)/bit_rate(0) ・・・(14)
【0076】ここで、vbv_size(0)は、VBVバッファ
の容量を表し、bit_rate(0)は、VBVバッファの遅延
時間が最高値τmaxとなる場合におけるビットレートを
表す。
【0077】次に、ステップS3において、コントロー
ラ24は、ステップS2で演算したVBVバッファの占有
量B*(j+1)と、vbv_size(j+1)の大きさを比
較し、B*(j+1)が、vbv_size(j+1)と等しい
か、それより大きい場合(VBVバッファの容量vbv_size
(j+1)をそのまま使用したのでは、VBVバッファの
遅延時間が値τmaxを越えてしまい、目標符号量T
(j)を補正する必要がある場合)には、ステップS4
に進み、ステップS1で計算した目標符号量T(j)
を、次式に従って、B*(j+1)とvbv_size(j+
1)の差の分だけ補正する。
【0078】 T(j)=T(j)+B*(j+1)−vbv_size(j+1) ・・・(1 5)
【0079】ステップS3において、B*(j+1)
が、vbv_size(j+1)より小さいと判定された場合に
は、VBVバッファが使用できない範囲に入ることがない
ので、ステップS4の処理はスキップされる。
【0080】次に、ステップS5において、ピクチャ
(j)が、ステップS1で計算されたか、またはステッ
プS4で補正された目標符号量Ti(j),Tp(j),
b(j)に基づいてエンコード(符号化処理)され
る。すなわち、量子化スケールコード決定回路33は、
目標ビット量設定回路32が設定した目標符号量T
1(Ti(j),Tp(j)またはTb(j))に対応する
量子化スケールコードQ1を決定し、量子化回路15
が、この量子化スケールコードQ1に対応してピクチャ
(j)を量子化する。この場合の処理は、上述した通り
であるので、ここでは、その説明を省略する。
【0081】以上までは、ピクチャ(j)の処理である
が、ステップS6からは、ピクチャ(j+1)の処理が
行われる。次にステップS6において、コントローラ2
4は、次式に従って、ピクチャ(j)を符号化する前の
未符号化ピクチャの符号量R(j)から、ピクチャ
(j)を符号化して発生した符号量S(j)を減算し
て、次のピクチャ(j+1)を符号化する場合における
符号量R(j+1)を求める。
【0082】 R(j+1)=R(j)−S(j) ・・・(16)
【0083】さらにステップS7において、コントロー
ラ24は、ステップS6で更新された符号量R(j+
1)を、次式に従って、さらにVBVバッファ使用範囲の
変化量{vbv_size(j)−vbv_size(j+1)}で補正
する。
【0084】 R(j+1)=R(j+1)+{vbv_size(j)−vbv_size(j+1)} ・・・(17)
【0085】以上のステップS7までの処理の意味を、
図8乃至図13を参照して、さらに説明する。コントロ
ーラ24は、コントローラ3より指定されるビットレー
トbit_rate(j)(この文字jは、図4のbit_rate#iに
おける文字i(プログラムPiに対応する)を表すもの
ではなく、ピクチャの順番を表す。両者をまとめて記述
すれば、bit_rate#i(j)となる)が、VBVバッファの遅延
時間が最高値τmaxとなる場合のビットレートbit_rate
(0)(以下、閾値とも称する)に等しい場合、VBVバ
ッファ(バッファメモリ17)を、図8に示すように制
御する。同図に示すように、VBVバッファの容量は、ビ
ットレートbit_rate(0)で順次増加し、遅延時間τ
maxだけ経過した時点で、VBVバッファの容量は、vbv_si
ze(0)となる。以下、VBVバッファに記憶された画像
データは、適宜読み出され、復号されるたびに減少され
る。また、新たな画像データが書き込まれると、そのデ
ータ量は増加する。以上のような動作が、順次繰り返さ
れる。
【0086】一方、コントローラ3より指定されたビッ
トレートbit_rate(1)が、閾値bit_rate(0)より大
きい場合、コントローラ24は、ステップS5のエンコ
ード処理時において、バッファメモリ17を制御し、時
間τ1だけ、画像データの出力を遅延させる。この遅延
時間τ1は、次式により演算される。
【0087】 τ1=τmax−τ2=τmax−vbv_size(0)/bit_rate(1) ・・・(18)
【0088】VBVバッファには、この遅延時間τ1の後、
ビットレートbit_rate(1)でデータが書き込まれ、書
き込み開始後、時間τ2が経過した時点において、VBVバ
ッファの容量は、vbv_size(1)=vbv_size(0)とな
る。図9を図8と比較して明らかなように、VBVバッフ
ァの最大の遅延時間τmaxは、両者とも同一となってい
る。
【0089】一方、コントローラ3より指定されたビッ
トレートbit_rate(2)が、閾値bit_rate(0)より小
さいとき、コントローラ24は、バッファメモリ17を
制御し、その容量を(使用可能な範囲を)vbv_size
(2)以下に設定(制限)する。この演算は、図6のス
テップS2で行われる。すなわち、VBVバッファの容量v
bv_size(0)のうち、vbv_size(2)を越える範囲
は、この例の場合使用されない。その結果、VBVバッフ
ァの容量vbv_sizeは、遅延時間τmaxが経過した時点に
おいて、vbv_size(2)(=τmax×bit_rate(2))
となる。従って、この場合においても、VBVバッファの
遅延時間は、τmaxとされる。すなわち、図8乃至図1
0のいずれの場合においても、VBVバッファの遅延時間
は、τmaxとして一定とされる。
【0090】これにより、ビットレートのシームレスな
変更が広範囲にわたって可能となり、デジタル放送の生
放送に適用可能となる。
【0091】図10において、遅延時間τ3(=vbv_siz
e(0)/bit_rate(2))の時間だけVBVバッファにデ
ータが書き込まれると、その容量は、vbv_size(0)と
なるが、この例では、容量vbv_size(2)以下の範囲だ
けが使用可能とされるので、実際には、その容量がvbv_
size(0)に達することはない。
【0092】図11は、ビットレートが、bit_rate
(1)からbit_rate(2)に途中で変更された場合のVB
Vバッファの変化の様子を表している。時刻t1までの時
間において、ビットレートの値は、閾値bit_rate(0)
より大きい値bit_rate(1)とされている。従って、こ
の場合のVBVバッファの変化の様子は、図9に示した場
合と同様となる。これに対して、時刻t1において、ビ
ットレートが閾値bit_rate(0)より小さいビットレー
トbit_rate(2)に変更されると、VBVバッファの容量
は、vbv_size(2)(=τmax×bit_rate(2))に制
限される。
【0093】TM5のような固定レート、かつ固定のVB
Vバッファの容量を前提としたレート制御方式を使用し
た場合、VBVバッファの使用範囲を計算しただけでは、
図12に示したような問題が生じる。
【0094】すなわち、ビットレートが閾値bit_rate
(0)より大きい値bit_rate(1)から小さい値bit_ra
te(2)に変更された場合(ただし、簡単のためビット
レートレートの変更はGOPの先頭で行われたものとす
る)、制限されたVBVバッファの範囲内でデータの容量
が推移するには、VBVバッファのデータ推移の軌跡は、
図12において実線で示すように変化する必要がある。
しかしながら、TM5において、目標符号量は、VBVバ
ッファの最大値に近い領域を推移するように決定される
ので、使用範囲を制限しただけでは、VBVバッファは、
図12において点線で示すように、使用することができ
ない範囲を推移してしまうことになる。
【0095】そこで、例えば、VBVバッファが狭くなっ
たとき、最初のIピクチャの発生ビット量だけ、スタッ
フィングにより増加するようにすることも考えられる。
しかしながら、そのようにすると、最初のIピクチャの
発生ビット量が大きくなるので、TM5のGOPの残りの
ビット量R(j)が、式(16)(R(j+1)=R
(j)−S(j))に従って更新されると、R(j+
1)が非常に小さい値となってしまい、GOPの残りのピ
クチャに割り当てるビット量が少なくなって、結局VBV
バッファの軌跡は、図12の上の方の使用できない範囲
に戻ろうとしてしまう。
【0096】そこで、ステップS3において、上記した
式(12)により計算したバッファ占有量B*(j+
1)と、式(13)で求めたVBVバッファの容量vbv_siz
e(2)の大きさを比較し、B*(j+1)が、vbv_size
(2)より大きい場合には、式(15)に示すように、
その差分(B*(j+1)−vbv_size(2))だけ、ス
テップS1で演算した目標符号量T(j)がステップS
4で補正される。その結果、図13に示すように、補正
後の目標符号量T(j)は、VBVバッファの容量vbv_siz
e(2)より、差分(B*(j+1)−vbv_size(2))
だけ小さい値となり、VBVバッファの使用不可の領域が
使用されてしまうようなことが防止される。
【0097】以上のようにして、VBVバッファの使用可
能範囲を制限するための処理が行われた後、図6に続く
図7のフローチャートのステップS8以降の処理が行わ
れる。ここでは、GOPの途中でビットレートが変更され
た場合の処理が行われる。
【0098】目標ビット量設定回路32は、ステップS
8でピクチャ(j+1)はGOPの先頭のピクチャである
か否かを判定する。ピクチャ(j+1)がGOPの先頭の
ピクチャでない場合には、ステップS9に進み、目標ビ
ット量設定回路32は、そのGOP内において、ビットレ
ートの変更が、コントローラ3より指令されているか否
かを判定する。ビットレートの変更が指令されていない
場合には、ステップS10に進み、目標ビット量設定回
路32は、処理対象がシーケンスエンドに達したか否か
を判定し、達していない場合には、ステップS1に戻
り、それ以降の処理が繰り返し実行される。処理対象が
シーケンスエンドに達したと判定された場合、処理は終
了される。
【0099】ステップS9において、ビットレートの変
更が指令されたと判定された場合、目標ビット量設定回
路32は、ステップS12に進み、次式に従って、ステ
ップS7で補正した符号量R(j+1)を、GOPの残り
のピクチャの枚数(N−j)にピクチャ当たりのビット
量の差分(bit_rate(j+1)−bit_rate(j))/pi
c_rateを乗算した値で補正する。
【0100】 R(j+1)={bit_rate(j+1)−bit_rate(j)} ×(N−j)/pic_rate+R(j+1) ・・・(19)
【0101】すなわち、GOPの途中でビットレートが変
更されない場合、符号量Rは、図14に示すように、エ
ンコードが進むに従って、初期値R1から漸次小さい値
に変化する。なお、図14において、実線は、各ピクチ
ャが等しい符号量でエンコードされるものと仮定した場
合のものであり、実際には、IピクチャやPピクチャの
発生ビット量が、Bピクチャよりも多くなるので、符号
量Rは点線で示したように変化する。
【0102】これに対して、GOPのピクチャ(j)をエ
ンコードした後、次のピクチャ(j+1)からビットレ
ートを変更することが要求された場合、符号量R(j+
1)がステップS12で式(19)で示すように補正さ
れる。すなわち、符号量Rが、ビットレートbit_rate
(1)の割合で、初期値R1から、漸次減少するように
制御されていたものが、ピクチャ(j+1)のタイミン
グにおいて、符号量が補正後の値R(j+1)に変更さ
れる。この補正後の値R(j+1)は、初めから、初期
値をR2としてビットレートbit_rate(2)でエンコー
ドしていたと仮定した場合のピクチャ(j+1)の符号
量R(j+1)に等しい。これにより、GOPの途中にお
けるビットレートの変更が可能となる。
【0103】次に、ステップS13に進み、目標ビット
量設定回路32は、ステップS12で補正した符号量R
(j+1)が、予め設定してある所定の最小値Rmin
り小さいか否かを判定する。符号量R(j+1)が、最
小値Rminと等しいか、それより大きい場合には、ステ
ップS14において、変数eに0が設定される。これに
対して、符号量R(j+1)が、最小値Rminより小さ
い場合には、ステップS15において、変数eに符号量
R(j+1)と最小値Rminとの差(R(j+1)−R
min)が設定される。この変数eは、ステップS11で
使用されるものである。この変数eの機能については後
述する。
【0104】ステップS14または、ステップS15の
処理の後、ステップS10に進み、それ以降の処理が繰
り返し実行される。
【0105】一方、ステップS8において、ピクチャ
(j+1)が、GOPの先頭のピクチャであると判定され
た場合には、ステップS11に進み、目標ビット量設定
回路32は、次式に従って、符号量R(j+1)を補正
する。
【0106】 R(1)=bit_rate(j+1)×N/pic_rate+R(j+1)+e ・・・(20)
【0107】その後、ステップS10に戻り、それ以降
の処理が繰り返し実行される。
【0108】ここで、変数eの機能について説明する。
ステップS12で、式(19)により補正された符号量
R(j+1)が、予め設定されている所定の最小値R
minより小さくなった場合、これを放置して、次のGOPの
ビットレートを制御すると、VBVバッファがオーバーフ
ローしてしまう恐れがある。
【0109】そこで、GOPの途中でビットレートの変更
が指令され、GOPの最後のピクチャ(N枚目のピクチ
ャ)をエンコードした時点において、R(j+1)が、
最小値Rminより小さい場合には、図16に示すよう
に、その差分eだけ、次のGOPの符号量Rの初期値R2
小さくさせ、値(R2−e)を初期値として、そのGOPの
符号量を設定させる。これにより、VBVバッファのオー
バーフローが防止される。
【0110】以上においては、各画像符号化装置2−i
において、実際に符号化されたデータのグローバルコン
プレクシティCiをコントローラ3にフィードバックす
ることにより、プログラムPiを統計多重するようにし
たが、フィードフォワード型の制御によりビットレート
を制御することもできる。図17は、この場合の構成例
を表している。図17に示した画像多重化システム1の
構成は、基本的に図4に示した画像多重化システム1と
同様であるが、各画像符号化装置2−iから、コントロ
ーラ3に出力されるのが、グローバルコンプレクシティ
iではなく、符号化難易度Diとされている。その他の
構成は、図4における場合と同様である。
【0111】図18は、図17の画像符号化装置2−1
(図示は省略するが、画像符号化装置2−2乃至2−n
も、画像符号化装置2−1と同様に構成されている)の
構成例を表している。その基本的な構成は、図5に示し
た場合と同様であるが、図18の構成例においては、走
査変換マクロブロック化回路12と減算回路13の間
に、イントラAC演算回路41とFIFO(First In First
Out)42が設けられている。また、レートコントロー
ラ23には、ME残差計算回路51と符号化難易度計算
回路52が付加されている。
【0112】イントラAC演算回路41は、走査変換マ
クロブロック化回路12の出力を入力し、Iピクチャに
おけるイントラACを算出し、符号化難易度計算回路5
2に出力している。イントラAC演算回路41はまた、
走査変換マクロブロック化回路12より供給された画像
データをFIFO42に出力する。FIFO42は、入力された
画像データを、少なくとも、目標ビット量設定回路32
が、目標ビット量を設定するのに必要な時間に対応する
時間だけ、入力された画像データを遅延して演算回路1
3に出力する。
【0113】ME残差計算回路51は、動き検出回路2
1が出力するME残差データに基づいて、ME残差を計
算し、符号化難易度計算回路52に出力している。な
お、ここでME残差とは、動き予測誤差の絶対値または
2乗値を、ピクチャ全体について加算したものであり、
ME残差データは、ME残差を求めるためのデータであ
る。
【0114】符号化難易度計算回路52は、ME残差計
算回路51により算出されたME残差と、イントラAC
演算回路41により演算されたイントラACに基づい
て、ピクチャの符号化の難易度を表す符号化難易度D1
を算出し、コントローラ3に送出するとともに、目標ビ
ット量設定回路32に出力する。なお、この構成例にお
いては、符号化難易度計算回路52により演算された符
号化難易度D1がコントローラ3に伝送されているた
め、複雑さ計算回路31が演算により求めたグローバル
コンプレクシティC1は、コントローラ3に供給されな
い。
【0115】図18の画像符号化装置2−1のその他の
構成は、図5における場合と同様である。
【0116】次に、図18の画像符号化装置2−1の、
主に、図5における場合と異なる構成の動作について説
明する。イントラAC演算回路41は、走査変換マクロ
ブロック化回路12の出力する画像データから、イント
ラACを演算する。イントラACとは、Iピクチャにお
いて、8×8画素のDCTブロック内の各画素の画素値
と、DCTブロック内の画素値の平均値との差分の絶対値
の総和を意味し、次式で表される。
【0117】 Intra_AC=Σ|fcurr(x,y)−(Σfcurr)/N|・・・(21)
【0118】なお、この式において、Intra_ACは、イン
トラACを表し、fcurr(x,y)は、DCTブロック内
の各画素の画素値を表し、Σfcurrは、DCTブロック内
の画素値の総和を表し、NはDCTブロック内の画素数を
表している。また、Σは、マクロブロック内の各画素に
ついての総和を表している。
【0119】動き検出回路21は、動きベクトルを求め
る際に、その値が、最小となったマクロブロック間にお
ける画素値の差分の絶対値和(あるいは自乗和でもよ
い)をME残差データとして、ME残差計算回路51に
出力する。ME残差計算回路51は、動き検出回路21
からのME残差データをピクチャ全体について加算し、
ME残差を計算する。すなわち、ME残差計算回路51
で次式が演算される。
【0120】 ME_reside=Σ|fj(x,y)−fj-1(x,y)| ・・・(22)
【0121】上式において、ME_resideはME残差を
表し、fj(x,y),fj-1(x,y)は、各マクロブ
ロックの画素値を表す。Σは、マクロブロック内の各画
素についての総和を表している。
【0122】符号化難易度計算回路52は、イントラA
C演算回路41より供給されたイントラACと、ME残
差計算回路51より供給されたME残差に基づいて、符
号化難易度を計算する。符号化難易度とは、ピクチャの
符号化の難易度を表すものであって、符号化したときに
同じ画質を保つために必要なデータ量の比率と言い換え
ることができる。イントラACは、絵柄の複雑さを表
し、ME残差は、映像の動きの早さ、および絵柄の複雑
さを表し、それらは符号化の難易度と強い相関を有する
ので、これらを変数とする、例えば1次関数により、符
号化難易度D1が、符号化難易度計算回路52で演算さ
れる。
【0123】このようにして、先読みした統計量(イン
トラAC)に基づいて、精度の高い符号化難易度が演算
される。コントローラ3は、この符号化難易度Diに基
づいて、目標ビットレートbit_rate#iを決定し、各画像
符号化装置2−iに出力する。
【0124】次に、図18の目標ビット量設定回路32
とコントローラ24の動作について、図19と図20の
フローチャートを参照して説明する。ステップS31乃
至ステップS37の処理は、基本的に、図6に示したス
テップS1乃至ステップS7の処理と同様の処理であ
る。ただし、ステップS31においては、上述した式
(1)乃至式(3)に代えて、次の式に従って、ピクチ
ャ(j)の目標符号量T(j)が演算される。なお、式
(23)においては、ピクチャタイプに対応する添え字
i,p,bは省略されている。
【0125】
【数2】
【0126】ここで、T(j)は、ピクチャ(j)の目
標符号量を表し、R’(j)は、処理対象ピクチャから
後の先読みするL枚(いまの場合、簡単のため、先読み
枚数Lは1GOPの枚数Nと等しいものとする)のピクチ
ャのビット量を表し、Djは、ピクチャ(j)の符号化
難易度を表している。すなわち、上記式により、ピクチ
ャ(j)の目標符号量T(j)が、L枚分のビット量
R’(j)を、そのピクチャの符号化難易度Djと、L
枚の先読みしたピクチャの符号化難易度Djの和の比で
重み付けして求められる。
【0127】次のステップS32乃至ステップS35の
処理は、図6のステップS2乃至ステップS5の処理と
同様の処理であり、ここでは、その説明は省略する。ス
テップS36では、式(16)に代えて、次の式(2
4)に基づいて、符号量R’(j+1)が更新される。
【0128】 R’(j+1)=R’(j)−S(j)+F(j+L) ・・・(24)
【0129】なお、R’(j)の初期値は、L枚分のピ
クチャの符号量に対応して次式で表される。
【0130】 R’(1)=bit_rate(1)×L/pic_rate ・・・(25)
【0131】上記式(24)において、F(j+L)
は、ピクチャ(j+L)のピクチャタイプに応じたビッ
ト量であり、例えば、次式により規定される。なお、式
(24)においては、式(26)乃至式(28)におけ
るピクチャタイプに対応する添え字i,p,bは省略さ
れている。
【0132】
【数3】
【0133】上記式において、Gは、GOPの残りの符号
量に対応し、図4と図5に示したフィードバック型のレ
ートコントロールシステムにおける符号量Rに対応す
る。この符号量Gも、ステップS36において、次式に
従って更新される。
【0134】 G(j+L+1)=G(j+L)−F(j+L) ・・・(29)
【0135】なお、式(29)におけるF(j)は、上
記式(26)乃至(28)のうち、対応するピクチャタ
イプの式により表されるものである。
【0136】符号量R’は、これから符号化されるL枚
のピクチャの符号量を表すから、基本的には、図21に
実線で示すように、エンコードの進行状況に拘らず、常
に一定の値となる。実際には、各ピクチャタイプ毎に符
号量が変化するので、図21において破線で示すよう
に、実線で示す値の近傍で変化する。
【0137】これに対して、符号量Gは、1GOPの符号
量であるから、図22に示すように、フィードバック型
のレートコントロールにおける符号量Rと同様に、エン
コードの進行にともなって、漸次小さい値に変化する。
【0138】次に、ステップS37で、図6のステップ
S7における式(17)に代えて、式(30)に従っ
て、符号量R’(j+1)の更新処理が行われる。
【0139】 R’(j+1)=R’(j+1)+{vbv_size(j)−vbv_size(j+1)} ・・・(30)
【0140】以上のステップS31乃至ステップS37
の処理は、フィードバック型レートコントロールの例に
おいて説明した場合のように、VBVバッファの使用する
範囲を制限するために行われる処理である。
【0141】次に、ステップS38に進み、目標ビット
量設定回路32は、ピクチャ(j+1)が、GOPの先頭
のピクチャであるか否かを判定する。ピクチャ(j+
1)がGOPの先頭のピクチャでない場合には、ステップ
S39に進み、GOPの途中においてビットレートの変更
が指令されているか否かが判定される。ビットレートの
変更が指令されていない場合には、ステップS40に進
み、エンコード処理がシーケンスエンドに達しているか
否かが判定され、まだ達していない場合には、ステップ
S31に戻り、それ以降の処理が繰り返し実行される。
ステップS40において、処理がシーケンスエンドまで
達していると判定された場合、処理は終了される。
【0142】ステップS39において、GOPの途中にお
いてビットレートが変更されていると判定された場合、
ステップS41に進み、目標ビット量設定回路32は、
次式に従って、符号量R’(j+1)と符号量G(j+
1)を更新する。
【0143】 R’(j+1)={bit_rate(j+1)−bit_rate(j)} ×L/pic_rate+R’(j+1) ・・・(31) G(j+1)={bit_rate(j+1)−bit_rate(j)} ×(N−j)/pic_rate+G(j+1) ・・・(32)
【0144】このように、ビットレートが、GOPの途中
で変更された場合には、符号量R’は、図23に示すよ
うに、所定の値R1から所定の値R2に変化する。
【0145】一方、符号量Gは、図24に示すように、
初期値R1から、ビットレートbit_rate(1)でエンコ
ードが行われてきたときの値G(j+1)から、最初か
ら初期値R2でエンコードを行ってきた場合における値
G(j+1)に変更される。このことは、図15を参照
して説明した符号量Rにおける場合と同様である。
【0146】次に、ステップS42に進み、目標ビット
量設定回路32は、符号量G(j+1)が、最小値G
minより小さいか否かを判定し、符号量Gが、最小値G
minと等しいか、それより大きい場合には、ステップS
43において、変数eに0を設定する。
【0147】符号量G(j+1)が、最小値Gminより
小さい場合には、ステップS44において、変数eに、
両者の差(G(j+1)−Gmin)が設定される。この
処理は、図7におけるステップS13乃至ステップS1
5の処理と同様の処理である。この変数eは、後述する
ステップS46、またはステップS47の処理において
用いられる。
【0148】ステップS38において、ピクチャ(j+
1)が、GOPの先頭のピクチャであると判定された場
合、ステップS45に進み、目標ビット量設定回路32
は、ビットレートの変更が指令されているか否かを判定
する。ここで、ビットレートの変更の有無の判定が行わ
れ、図7のステップS8において、ピクチャ(j+1)
がGOPの先頭のピクチャであると判定された場合に、ビ
ットレートの変更処理が行われないのは、図7の処理の
場合には、ピクチャ(j+1)がGOPの先頭のピクチャ
であっても、そうでなくても、ステップS11で同一の
式(20)が用いられるので、ビットレートの変更判断
が不要であるのに対して、図20のフローチャートの処
理においては、ピクチャ(j+1)がGOPの先頭のピク
チャである場合においても、ビットレートの変更の有無
により処理が異なるので、ステップS45の判定処理が
挿入されている。
【0149】すなわち、ステップS45において、ビッ
トレートの変更が指令されていないと判定された場合に
は、ステップS46において、目標ビット量設定回路3
2は、次式に従って、符号量Gを更新する。
【0150】 G(1)=bit_rate(j+1)×N/pic_rate+G(j+1)+e ・・・(33)
【0151】一方、ステップS45において、ビットレ
ートの変更が指令されていると判定された場合には、ス
テップS47に進み、目標ビット量設定回路32は、次
式に従って、符号量R’(1)と符号量G(1)を更新
する。
【0152】 R’(1)={bit_rate(1)−bit_rate(j)} ×L/pic_rate+R’(J+1) ・・・(34) G(1)=bit_rate(1)×N/pic_rate+G(j+1)+e ・・・(35)
【0153】ステップS46の処理とステップS47の
処理を比較して明らかなように、ステップS47の処理
は、ステップS46の処理に較べて、符号量R’(1)
の更新処理が、符号量G(1)の処理に加えて付加され
ている。
【0154】変数eの機能は、図16を参照して説明し
た場合と同様であり、図25に示すように、符号量Gの
変化にともなってGOPの最後のピクチャの符号化が行わ
れた直後において、eの値が0でない場合には、次のGO
Pの符号化時の符号量Gの初期値R2の値が、eの分だけ
小さい値に調整される。
【0155】ステップS43,S44,S46,S47
の処理の後、ステップS40に進み、それ以降の処理が
繰り返し実行される。
【0156】以上のフィードバック型、およびフィード
フォワード型のビットレートコントロールの実施の形態
のいずれにおいても、VBVバッファの使用範囲を制限す
るようにしたが、画質を考慮したとき、若干の問題が生
じる場合がある。すなわち、図26に示すように、最初
のGOPにおいて、3Mbpsのビットレートが設定され、次
のGOPにおいて、1.5Mbpsのビットレートが設定さ
れ、さらに、その次のGOPにおいて、再び3Mbpsのビッ
トレートが設定されたとする。このとき、VBVバッファ
の容量を1.8Mbitとし、閾値bit_rate(0)を3.0
Mbpsとすると、遅延時間τmax=1.8/3.0=0.
6(秒)となる。
【0157】このとき、各GOPにおけるTM5の符号量
Rの初期値は、bit_rate×N/pic_rateの式から次のよ
うに求められる。なお、GOPの枚数Nを15とし、pic_r
ate=30とする。
【0158】すなわち、最初のGOPにおいては、初期値
Rは、1.5(=3.0×15/30)Mbitsとなる。
次のGOPにおいては、初期値は、0.75(=1.5×
15/30)となるが、その値が、図6のステップS7
の式(17)に基づいて、VBVバッファの容量の差分(v
bv_size(1)−vbv_size(2))で補正される変更前
(前のGOP)のVBVバッファ容量vbv_size(1)は、1.
8(=τmax×bit_rate(1)=0.6×3.0)とさ
れているのに対して、第2番目のGOPにおけるVBVバッフ
ァの容量vbv_size(2)は、0.9(=τmax×bit_rat
e(2)=0.6×1,5)となるので、その差分は
0.9(=1.8−0.9)となり、結局、初期値R
は、1.65(=0.75+(1.8−0.9))Mbit
sとなる。
【0159】一方、第3番目のGOPにおいては、初期値
は1.5(=3.0×15/30)となるが、VBVバッ
ファの変更前の容量vbv_size(2)は、0.9であるの
に対して、このGOPにおける容量vbv_size(3)は1.
8となる。従って、初期値Rは、0.6(=1.5+
(0.9−1.8))Mbitsとなる。
【0160】2番目のGOPにおいては、本来エンコード
しやすい絵柄であるので、ビットレートを1.5Mbpsと
小さい値に設定したにも拘らず、符号量Rの初期値は
1.65と大きな値に設定されてしまう。これに対し
て、第3番目のGOPにおいては、エンコードが難しい絵
柄であるから、ビットレートを3.0Mbpsと大きくした
にも拘らず、符号量Rの初期値は0.6Mbpsと小さい値
に設定されてしまう。すなわち、2番目のGOPの符号量
の初期値Rが大きくなり、最後のGOPの符号量Rの初期
値が非常に小さくなるという逆転現象が生じている。
【0161】これは、図27に示すように、ビットレー
トbit_rateの値が、閾値bit_rate(0)より小さくなっ
たとき、急激にVBVバッファの容量vbv_sizeの使用範囲
を制限するようにしたことに起因する。なお、図27に
おいて、横軸は、ビットレートbit_rateを表し、縦軸
は、VBVバッファの容量vbv_sizeを表している。そし
て、図27において、影を付して示した範囲は、VBVバ
ッファの使用が制限されている範囲を表している。
【0162】そこで、図28に示すように、閾値bit_ra
te(0)より大きい閾値bit_rate(0U)を設定し、さ
らに閾値bit_rate(0)より小さい閾値bit_rate
(0L)を設定し、ビットレートbit_rateの値が、閾値b
it_rate(0U)より小さくなったとき、VBVバッファの
使用範囲をビットレートが閾値bit_rate(0L)になる
まで、徐々に制限し、ビットレートが閾値bit_rate(0
L)より小さくなった場合には、図27に示した場合と
同様に、さらに急激にVBVバッファの使用範囲を制限す
るようにすることができる。この場合、図6のステップ
S2の式(13)におけるVBVバッファの使用範囲を規
定する右辺の第1引数を、ビットレートがbit_rate(0
L)以下のとき、τmax×bit_rate(j+1)とするが、
ビットレートがbit_rate(0L)乃至bit_rate(0U)の
間の値であるとき、次式に変更するようにすればよい。
【0163】 {(vbv_size(0)−vbv_size(0L))×bit_rate +vbv_size(0L)×bit_rate(0U)−vbv_size(0)×vbv_size(0L) } /{bit_rate(0U)−bit_rate(0L)} ・・・(36)
【0164】なお、vbv_size(0L)は、次式で表され
る。
【0165】 vbv_size(0L)=vbv_size(0)×bit_rate(0L)/bit_rate(0) ・・・(37)
【0166】なお、フィードフォワード型のビットレー
トコントロールにおいても、図19のステップS32に
おける演算において、同様にVBVバッファの容量が演算
される。
【0167】図18のイントラAC演算回路41におい
て、イントラACを演算するようにしたが、イントラA
Cに代えて、フラットネスを演算するようにしてもよ
い。フラットネスとは、画像の空間的な平坦さを表すデ
ータである。この場合、8×8画素のDCTブロックが2
画素×2画素の小ブロックに分割される。そして、各小
ブロック内における対角線上に位置する画素データ(画
素値)の差分が算出され、その差分の絶対値のうち小さ
い方が選択される。選択された差分値が、さらに所定の
閾値と比較され、差分値が閾値より小さい小ブロックの
総数が、フラットネスとしてピクチャ毎に求められる。
【0168】なお、フラットネスの値は、画像の図柄が
空間的に複雑であるほど小さくなり、平坦であれば大き
くなる。このフラットネスは、符号化難易度Djと、強
い負の相関関係を有する。従って、圧縮符号化前にIピ
クチャとなるピクチャの符号化難易度Djをフラットネ
スから求め、このフラットネスからIピクチャに対する
目標符号量T(j)を求めることができる。
【0169】以上のように、固定ビットレートに用いる
レートコントロール方法を用いながら、GOPの途中でビ
ットレートが変更できるようにしたので、絵柄の符号が
難易度の変化に速やかに対応して、ビットレートを変更
することができる。その結果、各プログラムのGOPの位
相が同期していないような場合においても、伝送容量を
無駄なく有効に使用することができ、全体として画質の
向上を図ることができる。
【0170】また、固定ビットレートエンコードで使用
されるレートコントロール方法を使用することにより、
VBVバッファ(またはデコーダのバッファ)のアンダー
フローまたはオーバーフローをおこさないようなレート
コントロールが統計多重の場合にまで拡張することがで
きる。
【0171】本発明は、必ずしも統計多重に限らず、例
えば、ハードディスクのような記録メディアに蓄積保存
するためにデータをエンコードするような場合、固定レ
ート符号化のレートコントロール方法を用いながら、シ
ームレスにビットレートを変更するのに適用することが
でき、絵柄に応じてビットレートを変更し、結果的に所
定の画質を実現する蓄積メディアの容量を節約すること
が可能となる。
【0172】上述の実施の形態においては、TM5のア
ルゴリズムによりGOPを単位にして目標符号量を計算す
る場合について述べたが、本発明はこれに限らず、符号
化処理するピクチャから所定数のピクチャを単位にして
目標伝送レートによる符号量を計算して目標符号量を算
出する場合等においても、広く適用することができる。
【0173】また上述の実施の形態においては、残り符
号量Rを補正することにより、ピクチャ単位でビットレ
ートを変更する場合について述べたが、本発明はこれに
限らず、GOP単位でビットレートを変更する場合等にも
広く適用することができる。
【0174】さらに上述の実施の形態においては、MPEG
により各プログラムを符号化処理して伝送する場合につ
いて述べたが、本発明はこれに限らず、種々の符号化方
式により種々のプログラムを符号化処理して伝送する場
合に広く適用することができる。
【0175】なお、本明細書において、システムとは、
複数の装置により構成される装置全体を表すものとす
る。
【0176】また、上記したような処理を行うコンピュ
ータプログラムをユーザに提供する提供媒体としては、
磁気ディスク、CD-ROM、固体メモリなどの記録媒体の
他、ネットワーク、衛星などの通信媒体を利用すること
ができる。
【0177】
【発明の効果】以上の如く、本発明の第1の発明によれ
ば、ビットレートが第1のビットレートから第2のビッ
トレートに変更されたとき、第1のビットレートと第2
のビットレートとの差分に基づい、符号化対象ピクチャ
に割り当てられる目標ビット量を補正するようにした。
【0178】本発明の第2の発明によれば、GOPの途中
において第1のビットレートから第2のビットレートに
変更された場合、目標ビットレートを第1のビットレー
トに対応する目標ビット量から第2のビットレートに対
応する目標ビット量に補正するようにした。
【0179】本発明の第3の発明によれば、GOPの途中
において、指定ビットレートが第1のビットレートから
第2のビットレートに変更された場合、未符号化ピクチ
ャのビット量の変化軌跡が、GOPの先頭ピクチャから第
2のビットレートで各ピクチャを符号化していたときの
軌跡になるように未符号化ピクチャのビット量を補正
し、補正された未符号化ピクチャのビット量に基づいて
符号化対象ピクチャに対して割り当てられる目標ビット
量を演算するようにした。
【0180】本発明の第4の発明によれば、GOPの途中
において指定ビットレートが第1のビットレートが第2
のビットレートに変更された場合、未符号化ピクチャの
ビット量を第1のビットレートに基づく未符号化ピクチ
ャのビット量から第2のビットレートに基づく未符号化
ピクチャのビット量に補正し、補正された未符号化ピク
チャのビット量に基づいて、符号化対象ピクチャに対し
て割り当てられる目標ビット量を演算するようにした。
【0181】本発明の第5の発明によれば、指定ビット
レートがGOPの途中において第1のビットレートから第
2のビットレートに変更された場合、目標ビットレート
を第1のビットレートに対応する目標ビット量から第2
のビットレートに対応する目標ビット量に補正するよう
にした。
【0182】本発明の第6の発明によれば、GOPの途中
において指定ビットレートが第1のビットレートから第
2のビットレートに変更された場合、未符号化ピクチャ
に割り当てられる予想ビット量の変化軌跡が、第2のビ
ットレートで各ピクチャを符号化していったときの軌跡
になるように、未符号化ピクチャに対して割り当てられ
る予想ビット量を補正し、補正されたビット量に基づい
て、符号化対象ピクチャに対して割り当てられる目標ビ
ット量を演算するようにした。
【0183】本発明の第7の発明によれば、GOPの途中
において指定ビットレートの第1のビットレートから第
2のビットレートに変更された場合、未符号化ピクチャ
に対して割り当てられるビット量を第1のビットレート
に基づく未符号化ピクチャのビット量から第2のビット
レートに基づく未符号化ピクチャのビット量に補正し、
補正された未符号化ピクチャのビット量に基づいて符号
化対象ピクチャに対して割り当てられる目標ビット量を
演算するようにした。
【0184】本発明の第8の発明によれば、指定ビット
レートの第1のビットレートから第2のビットレートに
変更された場合、第1のビットレートと第2のビットレ
ートとの差分に基づいて、符号化対象ピクチャに割り当
てられる目標ビット量を補正するようにした。
【0185】本発明の第9の発明によれば、指定ビット
レートがGOPの途中において第1のビットレートから第
2のビットレートに変更された場合、目標ビットレート
を第1のビットレートに対応する目標ビット量から第2
のビットレートに対応する目標ビット量に補正するよう
にした。
【0186】本発明の第10の発明によれば、GOPの途
中において、指定ビットレートが第1のビットレートか
ら第2のビットレートに変更された場合、未符号化ピク
チャのビット量の変化軌跡がGOPの先頭ピクチャから第
2のビットレートで各ピクチャを符号化していたときの
軌跡になるように未符号化ピクチャのビット量を補正
し、補正された未符号化ピクチャのビット量に基づいて
符号化対象ピクチャに対して割り当てられる目標ビット
量を演算するようにした。
【0187】本発明の第11の発明によれば、GOPの途
中において指定ビットレートの第1のビットレートが第
2のビットレートに変更された場合、未符号化ピクチャ
のビット量は、第1のビットレートに基づく未符号化ピ
クチャのビット量から、第2のビットレートに基づく未
符号化ピクチャのビット量に補正し、補正された未符号
化ピクチャのビット量に基づいて符号化対象ピクチャに
対して割り当てられる目標ビット量を演算するようにし
た。
【0188】本発明の第12の発明によれば、指定ビッ
トレートがGOPの途中において第1のビットレートから
第2のビットレートに変更された場合、目標ビットレー
トを第1のビットレートに対応する目標ビット量から第
2のビットレートに対応する目標ビット量に補正するよ
うにした。
【0189】本発明の第13の発明によれば、GOPの途
中において指定ビットレートが第1のビットレートから
第2のビットレートに変更された場合、未符号化ピクチ
ャに割り当てられる予想ビット量の変化軌跡が、第2の
ビットレートで各ピクチャを符号化していた時の軌跡に
なるように、未符号化ピクチャに対して割り当てられる
予想ビット量を補正し、補正されたビット量に基づい
て、符号化対象ピクチャに対して割り当てられる目標ビ
ット量を演算するようにした。
【0190】本発明の第14の発明によれば、GOPの途
中において指定ビットレートが第1のビットレートから
第2のビットレートに変更された場合、未符号化ピクチ
ャに対して割り当てられるビット量を、第1のビットレ
ートに基づく未符号化ピクチャのビット量から第2のビ
ットレートに基づく未符号化ピクチャのビット量に補正
し、補正された未符号化ピクチャのビット量に基づい
て、符号化対象ピクチャに対して割り当てられる目標ビ
ット量を演算するようにした。
【0191】従って、いずれの場合にも、画像データの
統計多重時に、GOPの位相に不一致があったとしても、
伝送効率の低下を抑制することができる。
【図面の簡単な説明】
【図1】固定レートによる多重化を説明する図である。
【図2】統計多重による多重化を説明する図である。
【図3】統計多重におけるGOPの位相があっていない場
合における符号割当レートの変化を説明する図である。
【図4】本発明を適用した画像多重化システムの構成例
を示すブロック図である。
【図5】図4の画像符号化装置2−1の構成例を示すブ
ロック図である。
【図6】図5の画像符号化装置2−1の動作を説明する
フローチャートである。
【図7】図5の画像符号化装置2−1の動作を説明する
フローチャートである。
【図8】VBVバッファの容量の変化を説明する図であ
る。
【図9】VBVバッファの容量の変化を説明する図であ
る。
【図10】VBVバッファの容量の変化を説明する図であ
る。
【図11】VBVバッファの容量の変化を説明する図であ
る。
【図12】VBVバッファの容量の変化を説明する図であ
る。
【図13】VBVバッファの容量の変化を説明する図であ
る。
【図14】符号量Rの変化を説明する図である。
【図15】GOPの途中でビットレートを変更した場合の
符号量Rの変化を説明する図である。
【図16】図7のステップS11の値eの機能を説明す
る図である。
【図17】本発明を適用した画像多重化システムの他の
構成例を示すブロック図である。
【図18】図17の画像符号化装置2−1の構成例を示
すブロック図である。
【図19】図18の画像符号化装置2−1の動作を説明
するフローチャートである。
【図20】図18の画像符号化装置2−1の動作を説明
するフローチャートである。
【図21】符号量R’の変化を説明する図である。
【図22】符号量Gの変化を説明する図である。
【図23】GOPの途中においてビットレートを変更した
場合における符号量R’の変化を説明する図である。
【図24】GOPの途中においてビットレートを変更した
場合における符号量Gの変化を説明する図である。
【図25】図20のステップS46,S47における値
eの機能を説明する図である。
【図26】符号量Rの逆転現象を説明する図である。
【図27】符号量Rの逆転現象の原因を説明する図であ
る。
【図28】符号量Rの逆転現象を抑制する原理を説明す
る図である。
【符号の説明】
1 画像多重化システム, 2−1乃至2−n 画像符
号化装置, 3 コントローラ, 4 多重化装置,
11 画像並べ変え回路, 12 走査変換マクロブロ
ック化回路, 13 減算回路, 14 DCT回路,
15 量子化回路, 16 可変長符号化回路, 17
バッファメモリ, 18 逆量子化回路, 19 逆
DCT回路, 20 加算回路, 21 動き検出回路,
22動き補償回路, 23 レートコントローラ,
24 コントローラ, 31複雑差計算回路, 32
目標ビット量設定回路, 33 量子化スケールコード
決定回路

Claims (39)

    【特許請求の範囲】
  1. 【請求項1】 指定ビットレートに基づいてビデオデー
    タを符号化する符号化装置において、 上記指定ビットレートに基づいて、GOPに含まれる各ピ
    クチャに対して割り当てられる目標ビット量をそれぞれ
    演算する制御手段と、 上記制御手段によって制御された目標ビット量に基づい
    て、上記符号化対象ピクチャを符号化する符号化手段と
    を備え、 上記制御手段は、 上記符号化手段によって上記符号化対象ピクチャの符号
    化処理を行う場合、上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更されたとき、上
    記第1のビットレートと上記第2のビットレートとの差
    分に基づいて上記符号化対象ピクチャに割り当てられる
    上記目標ビット量を補正することを特徴とする符号化装
    置。
  2. 【請求項2】 上記制御手段は、 上記符号化対象ピクチャに対して割り当てられる上記目
    標ビット量を、上記対象GOPにおいてまだ符号化されて
    いない未符号化ピクチャに対して割り当てられるビット
    量を上記符号化対象ピクチャのピクチャタイプに応じて
    配分することによって求めることを特徴とする請求項1
    に記載の符号化装置。
  3. 【請求項3】 上記制御手段は、 上記第1のビットレートと上記第2のビットレートとの
    差分に応じて上記未符号化ピクチャのビット量を補正
    し、この補正された未符号化ピクチャのビット量に基づ
    いて上記符号化対象ピクチャの目標ビット量を演算する
    ことを特徴とする請求項2に記載の符号化装置。
  4. 【請求項4】 上記制御手段は、 上記第1のビットレートにおける1ピクチャあたりのビ
    ット量と上記第2のビットレートにおける1ピクチャあ
    たりのビット量との差分に、未符号化ピクチャの枚数を
    乗算した値で上記未符号化ピクチャのビット量を補正
    し、 この補正された未符号化ビクチャのビット量に基づいて
    上記符号化対象ピクチャの目標ビット量を演算すること
    を特徴とする請求項2に記載の符号化装置。
  5. 【請求項5】 上記符号化対象ピクチャの目標ビット量
    を演算するアルゴリズムは、 上記符号化手段による各ピクチャ毎の符号化処理の結果
    発生した発生ビット量に基づいて、画面の複雑さを示す
    グロバールコンプレクシティを演算し、このグローバル
    コンプレクシティと上記未符号化ピクチャのビット量と
    に基づいて上記符号化対象ピクチャの目標ビット量を演
    算するフィードバック型の演算アルゴリズムであること
    を特徴とする請求項4に記載の符号化装置。
  6. 【請求項6】 上記制御手段は、 上記符号化対象ピクチャの直前のピクチャまでを上記第
    1のビットレートで符号化し、上記符号化対象ピクチャ
    から第2のビットレートで符号化する場合において、上
    記符号化対象ピクチャ以降の未符号化ピクチャのビット
    量を、上記直前のピクチャ以降の未符号化ピクチャに割
    り当てられるビット量から上記直前のピクチャの符号化
    処理による発生ビット量を減算することによって求める
    ことを特徴とする請求項4に記載の符号化装置。
  7. 【請求項7】 上記制御手段は、 上記符号化対象ピクチャの直前のピクチャまでを上記第
    1のビットレートで符号化し、上記符号化対象ピクチャ
    から第2のビットレートで符号化した後、上記対象GOP
    の次のGOPの先頭ピクチャを符号化する場合には、 上記次のGOPの未符号化ピクチャに対して割り当てられ
    るビット量を、上記対象GOPの符号化処理の結果生成さ
    れた補正値で補正することを特徴とする請求項6に記載
    の符号化装置。
  8. 【請求項8】 上記GOPにおいてj+1番目のピクチャ
    である符号化対象ピクチャ(j+1)を符号化する場合に、
    上記対象GOPにおいて符号化対象ピクチャ(j+1)を含む未
    符号化ピクチャに対して割り当てられるビット量R(j+
    1)は、下式によって計算され、 R(j+1)=R(j)−S(j) 上記符号化対象ピクチャ(j+1)に対して割り当てられる
    目標ビット量は、上記未符号化ピクチャに対して割り当
    てられるビット量R(j+1)に基づいて演算されることを
    特徴とする請求項1に記載の符号化装置。
  9. 【請求項9】 上記符号化対象ピクチャ(j+1)が、上記G
    OPの最初のピクチャである場合には、上記符号化対象ピ
    クチャ(j+1)を含むGOPにおける上記符号化対象ピクチャ
    (j+1)以降の未符号化ピクチャのビット量R(j+1)は、 bit_rate(j+1)は、上記ピクチャ(j+1)を含む対象GOPに
    対して指定されたビットレートを示し、 Nは、GOPに含まれるピクチャの枚数を示し、 pic_rateは、フレームレートを示し、 R(j+1)は、上記符号化対象ピクチャ(j+1)の前のピクチ
    ャ(j)を含むGOPにおける上記ピクチャ(j)以降の未符号
    化ピクチャのビット量R(j)から、上記ピクチャ(j)の符
    号化処理によって発生したビット量を減算した値を示
    し、 eは、上記符号化対象ピクチャ(j+1)を含むGOPの次のGO
    Pに対して供給される補正ビット量を示しているとき、 下式、 R(j+1)=bit_rate(j+1)×N/pic_rate+R(j+1)+e によって計算されることを特徴とする請求項8に記載の
    符号化装置。
  10. 【請求項10】 上記符号化対象ピクチャ(j+1)が上記
    対象GOPの途中のピクチャであって、 上記符号化対象ピクチャの前のピクチャ(j)までを上記
    第1のビットレートで符号化し、上記符号化対象ピクチ
    ャ(j+1)から第2のビットレートで符号化する場合にお
    いて、上記符号化対象ピクチャ(j+1)を含むGOPにおける
    上記ピクチャ(j+1)以降の未符号化ピクチャのビット量
    を、 bit_rate(j)は、第1のビットレートを示し、 bit_rate(j+1)は、第2のビットレートを示し、 Nは、GOPに含まれるピクチャの枚数を示し、 pic_rateは、フレームレートを示し、 R(j+1)は、上記符号化対象ピクチャ(j+1)の前のピクチ
    ャ(j)を含むGOPにおける上記ピクチャ(j)以降の未符号
    化ピクチャのビット量R(j)から、上記ピクチャ(j)の符
    号化処理によって発生したビット量を減算した値を示し
    ているとき、 下式、 R(j+1)=(bit_rate(j+1)-bit_rate(j))×(N−j)
    /pic_rate+R(j+1) によって計算することを特徴とする請求項8に記載の符
    号化装置。
  11. 【請求項11】 上記符号化対象ピクチャ(j+1)に対し
    て割り当てられる目標ビット量T(j+1)は、 Ti(j+1)は、上記符号化対象ピクチャ(j+1)がIピクチ
    ャの場合の目標ビット量を示し、 Tp(j+1)は、上記符号化対象ピクチャ(j+1)がPピクチ
    ャの場合の目標ビット量を示し、 Tb(j+1)は、上記符号化対象ピクチャ(j+1)がBピクチ
    ャの場合の目標ビット量を示し、 R(j+1)は、上記符号化対象ピクチャ(j+1)を含むGOPに
    おけるピクチャ(j+1)以降の未符号化ピクチャに割り当
    てられるビット量を示し、 Xiは、Iピクチャの画面の複雑さを表わすグローバル
    コンプレクシティを示し、 Xpは、Pピクチャの画面の複雑さを表わすグローバル
    コンプレクシティを示し、 Xbは、Bピクチャの画面の複雑さを表わすグローバル
    コンプレクシティを示し、 Npは、上記符号化対象ピクチャ(j+1)を含むGOPにおい
    てまだ符号化されていないPピクチャの枚数を示し、 Nbは、上記符号化対象ピクチャ(j+1)を含むGOPにおい
    てまだ符号化されていないPピクチャの枚数を示し、 Kpは、Iピクチャの量子化スケールコードを基準とし
    たPピクチャの量子化スケールコードの比率を示し、 Kbは、Iピクチャの量子化スケールコードを基準とし
    たBピクチャの量子化スケールコードの比率を示してい
    るとき、 下式、 Ti(j+1)=max(R(j+1)/(1+NpXp/XiKp+Nb
    Xb/XiKb),bit_rate/8×pic_rate) Tp(j+1)=max(R(j+1)/{Np+NbKpXb/KbX
    p},bit_rate/8×pic_rate) Tb(j+1)=max(R(j+1)/{Nb+NpKbXp/KpX
    b},bit_rate/8×pic_rate) によって計算されることを特徴とする請求項10に記載
    の符号化装置。
  12. 【請求項12】 上記制御手段は、 上記符号化対象ピクチャの直前のピクチャまでを上記第
    1のビットレートで符号化し、上記符号化対象ピクチャ
    から第2のビットレートで符号化する場合において、 上記符号化対象ピクチャ以降の所定枚数の未符号化ピク
    チャに割り当てられるビット量を演算すると共に、上記
    所定枚数の未符号化ピクチャの符号化難易度を示すディ
    フィカルティをそれぞれ検出し、 上記符号化対象ピクチャに対して割り当てられる上記目
    標ビット量を、上記所定枚数の未符号化ピクチャのビッ
    ト量を上記符号化対象ピクチャのディフィカルティに基
    づいて配分することによって求めることを特徴とする請
    求項1に記載の符号化装置。
  13. 【請求項13】 上記制御手段は、 上記第1のビットレートと上記第2のビットレートとの
    差分に応じて上記所定枚数の未符号化ピクチャのビット
    量を補正し、この補正された所定枚数の未符号化ピクチ
    ャのビット量に基づいて上記符号化対象ピクチャの目標
    ビット量を演算することを特徴とする請求項12に記載
    の符号化装置。
  14. 【請求項14】 上記制御手段は、 上記第1のビットレートにおける1ピクチャあたりのビ
    ット量と上記第2のビットレートにおける1ピクチャあ
    たりのビット量との差分に、上記未符号化ピクチャの所
    定枚数を乗算した値で上記所定枚数の未符号化ピクチャ
    のビット量を補正し、 この補正された所定枚数の未符号化ピクチャのビット量
    に基づいて上記符号化対象ピクチャの目標ビット量を演
    算することを特徴とする請求項12に記載の符号化装
    置。
  15. 【請求項15】 上記制御手段は、 各ピクチャの符号化する毎に、上記符号化対象ピクチャ
    の直前のピクチャの符号化処理の結果発生したビット量
    と、上記符号化対象ピクチャの所定枚数先のピクチャの
    予想発生ビット量とに基づいて、上記符号化対象ピクチ
    ャから所定枚数先のピクチャまでの未符号化ピクチャに
    割り当てられるビット量を求めることを特徴とする請求
    項13に記載の符号化装置。
  16. 【請求項16】 上記符号化対象ピクチャから所定枚数
    先のピクチャの予想発生ビット量は、 上記所定枚数先のピクチャを含んだGOPにおいて、上記
    所定枚数先のピクチャ以降の未符号化ピクチャに対して
    割り当てられるビット量を、上記所定枚数先のピクチャ
    のピクチャタイプに応じて配分することによって求めら
    れることを特徴とする請求項15に記載の符号化装置。
  17. 【請求項17】 上記所定枚数先のピクチャ以降の未符
    号化ピクチャに対して割り当てられるビット量は、 上記第1のビットレートにおける1ピクチャあたりのビ
    ット量と上記第2のビットレートにおける1ピクチャあ
    たりのビット量との差分に、上記所定枚数先のピクチャ
    を含んだGOPにおける上記所定枚数先のピクチャ以降の
    未符号化ピクチャの枚数を乗算した値で補正されること
    を特徴とする請求項16に記載の符号化装置。
  18. 【請求項18】 上記符号化対象ピクチャの直前のピク
    チャまでを上記第1のビットレートで符号化し、上記符
    号化対象ピクチャから第2のビットレートで符号化した
    後に、次のGOPの先頭ピクチャを符号化する場合には、 上記制御手段は、 上記次のGOPの未符号化ピクチャに対して割り当てられ
    るビット量を、上記符号化対象ピクチャを含んでいたGO
    Pの符号化処理の結果生成された補正値で補正すること
    を特徴とする請求項17に記載の符号化装置。
  19. 【請求項19】 上記補正値は、 上記符号化対象ピクチャを含んでいたGOPの最後のピク
    チャに割り当てられた目標符号量から、上記最後のピク
    チャの実際の符号化処理による発生ビット量を減算した
    値を使用することによって得られることを特徴とする請
    求項18に記載の符号化装置。
  20. 【請求項20】 上記制御手段における、上記符号化対
    象ピクチャの目標ビット量を演算するアルゴリズムは、 上記符号化対象ピクチャの符号化処理前に、 上記符号化対象ピクチャを含む所定枚数の未符号化ピク
    チャの符号化難易度を示すディフィカルティをそれぞれ
    検出し、上記所定枚数の未符号化ピクチャのディフィカ
    ルティと、上記符号化対象ピクチャのディフィカルティ
    とに基づいて、上記符号化対象ピクチャの目標ビット量
    を演算するフィードフォアード型のアルゴリズムである
    ことを特徴とする特徴とする請求項12に記載の符号化
    装置。
  21. 【請求項21】 上記GOPにおいてj+1番目のピクチャで
    ある符号化対象ピクチャ(j+1)を符号化する場合に、上
    記符号化対象ピクチャ(j+1)からピクチャ(j+L)までのL
    枚の未符号化ピクチャに対して割り当てられるビット量
    R'(j+1)は、 R'(j)は、ピクチャ(j)からピクチャ(j-1+L)までのL枚
    の未符号化ピクチャに対して割り当てられるビット量を
    示し、 S(j)は、ピクチャ(j)の符号化処理の結果発生したビッ
    ト量を示し、 F(j+L)は、ピクチャ(j+L)の予想発生ビット量を示して
    いるとき、 下式、 R'(j+1)=R'(j)−S(j)+F(j+L) によって計算されることを特徴とする請求項1に記載の
    符号化装置。
  22. 【請求項22】 上記ピクチャ(j+L)の予想発生ビット
    量F(j+L)は、 Fi(j+L)は、上記ピクチャ(j+L)がIピクチャの場合の
    目標ビット量を示し、 Fp(j+L)は、上記ピクチャ(j+L)がPピクチャの場合の
    目標ビット量を示し、 Fb(j+L)は、上記ピクチャ(j+L)がBピクチャの場合の
    目標ビット量を示し、 G(j+L)は、上記ピクチャ(j+L)が含まれるGOPにおいて
    上記ピクチャ(j+L)以降の未符号化ピクチャに割り当て
    られるビット量を示し、 Xiは、Iピクチャの画面の複雑さを表わすグローバル
    コンプレクシティを示し、 Xpは、Pピクチャの画面の複雑さを表わすグローバル
    コンプレクシティを示し、 Xbは、Bピクチャの画面の複雑さを表わすグローバル
    コンプレクシティを示し、 Npは、上記ピクチャ(j+L)が含まれるGOPにおいてまだ
    符号化されていないPピクチャの枚数を示し、 Nbは、上記ピクチャ(j+L)が含まれるGOPにおいてまだ
    符号化されていないPピクチャの枚数を示し、 Kpは、Iピクチャの量子化スケールコードを基準とし
    たPピクチャの量子化スケールコードの比率を示し、 Kbは、Iピクチャの量子化スケールコードを基準とし
    たBピクチャの量子化スケールコードの比率を示してい
    るとき、 下式、 Fi(j+L)=max(G(j+L)/(1+NpXp/XiKp+Nb
    Xb/XiKb),bit_rate/8×pic_rate) Fp(j+L)=max(G(j+L)/(Np+NbKpXb/KbX
    p),bit_rate/8×pic_rate) Fb(j+L)=max(G(j+L)/(Nb+NpKbXp/KpX
    b),bit_rate/8×pic_rate) によって演算されることを特徴とする請求項21に記載
    の符号化装置。
  23. 【請求項23】 上記ピクチャ(j+L)が含まれるGOPにお
    いて上記ピクチャ(j+L)以降の未符号化ピクチャに割り
    当てられるビット量G(j+L)は、 G(j+L-1)は、上記ピクチャ(j+L)が含まれるGOPにおい
    てピクチャ(j+L-1)以降の未符号化ピクチャに割り当て
    られるビット量を示し、 F(j+L-1)は、上記ピクチャ(j+L-1)の予想発生ビット量
    を示しているとき、 下式、 G(j+L)=G(j+L-1)−F(j+L-1) によって求められることを特徴とする請求項22に記載
    の符号化装置。
  24. 【請求項24】 上記符号化対象ピクチャ(j+1)が、GOP
    の最初のピクチャであって、上記符号化対象ピクチャ(j
    +1)をGOPよりも過去のGOPにおいて、上記指定ビットレ
    ートが上記第1のビットレートから上記第2のビットレ
    ートに変更されていた場合には、 上記符号化対象ピクチャ(j+1)以降のL枚の未符号化ピ
    クチャのビット量R'(j+1)、および上記符号化対象ピク
    チャ(j+1)が含まれるGOPにおける上記符号化対象ピクチ
    ャ(j+1)以降のL枚の未符号化ピクチャのビット量G(j+
    1)は、 bit_rate(1)は、上記第1のビットレートを示し、 bit_rate(2)は、上記第2のビットレートを示し、 Nは、GOPに含まれるピクチャの枚数を示し、 pic_rateは、フレームレートを示し、 G(j+1)は、上記ピクチャ(j)を含むGOPの最後のピクチ
    ャの符号化処理の結果、残ったビット量を示し、 eは、上記ピクチャ(j+1)を含むGOPの次のGOPに対して
    供給される補正ビット量を示しているとき、 下式、 R'(j+1)=(bit_rate(2)−bit_rate(1)×L/pic_rate
    +R'(j+1) G(j+1)=bit_rate(2)×N/pic_rate+G(j+1)+e によって求められることを特徴とする請求項23に記載
    の符号化装置。
  25. 【請求項25】 上記符号化対象ピクチャ(j+1)がGOPの
    途中のピクチャであって、ピクチャ(j)までを上記第1
    のビットレートで符号化し、ピクチャ(j+1)から上記第
    2のビットレートで符号化する場合は、 上記符号化対象ピクチャ(j+1)以降のL枚の未符号化ピ
    クチャのビット量R'(j+1)、および上記符号化対象ピク
    チャ(j+1)が含まれるGOPにおける上記符号化対象ピクチ
    ャ(j+1)以降のL枚の未符号化ピクチャのビット量G(j+
    1)は、 bit_rate(j)は、ピクチャ(j)を含むGOPに対して指定さ
    れた上記第1のビットレートを示し、 bit_rate(j+1)は、ピクチャ(j+1)を含むGOPに対して指
    定された上記第2のビットレートを示し、 Nは、GOPに含まれるピクチャの枚数を示し、 pic_rateは、フレームレートを示し、 G(j+1)は、上記ピクチャ(j)を含むGOPの最後のピクチ
    ャの符号化処理の結果、残ったビット量を示し、 eは、上記ピクチャ(j+1)を含むGOPの次のGOPに対して
    供給される補正ビット量を示しているとき、 下式、 R'(j+1)=(bit_rate(j+1)−bit_rate(j))×L/pic_r
    ate+R'(j+1) G(j+1)=(bit_rate(j+1)−bit_rate(j))×N/pic_ra
    te+G(j+1)+e によって求められることを特徴とする請求項23に記載
    の符号化装置。
  26. 【請求項26】 上記符号化対象ピクチャ(j+1)に対し
    て割り当てられる目標ビット量T(j+1)は、 D(j+1)は、上記符号化対象ピクチャ(j+1)のディフィカ
    ルティを示し、 ΣD(k)は、ピクチャピクチャ(j+1)からピクチャ(j+1+
    L)までのそれぞれのディフィカルティを加算した値を示
    すとき、 下式、 T(j+1)=max(R'(j+1)×D(j+1)/ΣD(k),bit_rate
    (j+1)/(8×pic_rate) によって計算されることを特徴とする請求項25に記載
    の符号化装置。
  27. 【請求項27】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化装置において、 GOP内における未符号化ピクチャに対して割り当てられ
    るビット量と上記指定ビットレートとに基づいて、符号
    化対象ピクチャに対して割り当てられる目標ビット量を
    演算する制御手段と、 上記制御手段によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化手段を
    備え、 上記制御手段は、 上記指定ビットレートがGOPの途中において第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記符号化手段に与えられる目標ビットレートを、
    上記第1のビットレートに対応する上記目標ビット量か
    ら、上記第2のビットレートに対応する上記目標ビット
    量に補正することを特徴とする符号化装置。
  28. 【請求項28】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化装置において、 GOP内における未符号化ピクチャに対して割り当てられ
    るビット量から、符号化対象ピクチャに対して割り当て
    られる目標ビット量を演算する制御手段と、 上記制御手段によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化手段を
    備え、 上記演算手段は、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャのビット量の変化軌跡が、GO
    Pの先頭ピクチャから第2のビットレートで各ピクチャ
    を符号化していた時の軌跡になるように、上記未符号化
    ピクチャのビット量を補正し、上記補正された未符号化
    ピクチャのビット量に基づいて、上記符号化対象ピクチ
    ャに対して割り当てられる目標ビット量を演算すること
    を特徴とする符号化装置。
  29. 【請求項29】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化装置において、 GOP内における未符号化ピクチャに対して割り当てられ
    るビット量から、符号化対象ピクチャに対して割り当て
    られる目標ビット量を演算する制御手段と、 上記制御手段によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化手段を
    備え、 上記演算手段は、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャのビット量を、上記第1のビ
    ットレートに基づく未符号化ピクチャのビット量から上
    記第2のビットレートに基づく未符号化ピクチャのビッ
    ト量に補正し、上記補正された未符号化ピクチャのビッ
    ト量に基づいて、上記符号化対象ピクチャに対して割り
    当てられる目標ビット量を演算することを特徴とする符
    号化装置。
  30. 【請求項30】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化装置において、 符号化対象ピクチャから所定枚数先のピクチャまでの未
    符号化ピクチャに対して割り当てられる予想ビット量を
    演算し、その予想ビット量を上記符号化対象ピクチャの
    符号化難易度に基づいて配分することによって、符号化
    対象ピクチャに対して割り当てられる目標ビット量を演
    算する制御手段と、 上記制御手段によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化手段を
    備え、 上記制御手段は、 上記指定ビットレートがGOPの途中において第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記符号化手段に与えられる目標ビットレートを、
    上記第1のビットレートに対応する上記目標ビット量か
    ら、上記第2のビットレートに対応する上記目標ビット
    量に補正することを特徴とする符号化装置。
  31. 【請求項31】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化装置において、 符号化対象ピクチャから所定枚数先のピクチャまでの未
    符号化ピクチャに対して割り当てられる予想ビット量を
    演算し、その予想ビット量を上記符号化対象ピクチャの
    符号化難易度に基づいて配分することによって、符号化
    対象ピクチャに対して割り当てられる目標ビット量を演
    算する制御手段と、 上記制御手段によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化手段を
    備え、 上記演算手段は、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャに割り当てられる予想ビット
    量の変化軌跡が、上記第2のビットレートで各ピクチャ
    を符号化していた時の軌跡になるように、上記未符号化
    ピクチャに対して割り当てられる予想ビット量を補正
    し、上記補正されたビット量に基づいて、上記符号化対
    象ピクチャに対して割り当てられる目標ビット量を演算
    することを特徴とする符号化装置。
  32. 【請求項32】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化装置において、 符号化対象ピクチャから所定枚数先のピクチャまでの未
    符号化ピクチャに対して割り当てられる予想ビット量を
    演算し、その予想ビット量を上記符号化対象ピクチャの
    符号化難易度に基づいて配分することによって、符号化
    対象ピクチャに対して割り当てられる目標ビット量を演
    算する制御手段と、 上記制御手段によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化手段を
    備え、 上記演算手段は、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャに対して割り当てられるビッ
    ト量を、上記第1のビットレートに基づく未符号化ピク
    チャのビット量から上記第2のビットレートに基づく未
    符号化ピクチャのビット量に補正し、上記補正された未
    符号化ピクチャのビット量に基づいて、上記符号化対象
    ピクチャに対して割り当てられる目標ビット量を演算す
    ることを特徴とする符号化装置。
  33. 【請求項33】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 上記指定ビットレートに基づいて、GOPに含まれる各ピ
    クチャに対して割り当てられる目標ビット量をそれぞれ
    演算する制御工程と、 上記制御工程によって制御された目標ビット量に基づい
    て、上記符号化対象ピクチャを符号化する符号化工程と
    を備え、 上記制御工程において、 上記符号化工程によって上記符号化対象ピクチャの符号
    化処理を行う場合に、上記指定ビットレートが第1のビ
    ットレートから第2のビットレートに変更されたとき、
    上記第1のビットレートと上記第2のビットレートとの
    差分に基づいて上記符号化対象ピクチャに割り当てられ
    る上記目標ビット量を補正することを特徴とする符号化
    方法。
  34. 【請求項34】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 GOP内における未符号化ピクチャに対して割り当てられ
    るビット量と上記指定ビットレートとに基づいて、符号
    化対象ピクチャに対して割り当てられる目標ビット量を
    演算する制御工程と、 上記制御工程によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化工程を
    備え、 上記制御工程において、 上記指定ビットレートがGOPの途中において第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記符号化工程に与えられる目標ビットレートを、
    上記第1のビットレートに対応する上記目標ビット量か
    ら、上記第2のビットレートに対応する上記目標ビット
    量に補正することを特徴とする符号化方法。
  35. 【請求項35】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 GOP内における未符号化ピクチャに対して割り当てられ
    るビット量から、符号化対象ピクチャに対して割り当て
    られる目標ビット量を演算する制御工程と、 上記制御工程によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化工程を
    備え、 上記演算工程において、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャのビット量の変化軌跡が、GO
    Pの先頭ピクチャから第2のビットレートで各ピクチャ
    を符号化していた時の軌跡になるように、上記未符号化
    ピクチャのビット量を補正し、上記補正された未符号化
    ピクチャのビット量に基づいて、上記符号化対象ピクチ
    ャに対して割り当てられる目標ビット量を演算すること
    を特徴とする符号化方法。
  36. 【請求項36】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 GOP内における未符号化ピクチャに対して割り当てられ
    るビット量から、符号化対象ピクチャに対して割り当て
    られる目標ビット量を演算する制御工程と、 上記制御工程によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化工程を
    備え、 上記演算工程において、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャのビット量を、上記第1のビ
    ットレートに基づく未符号化ピクチャのビット量から上
    記第2のビットレートに基づく未符号化ピクチャのビッ
    ト量に補正し、上記補正された未符号化ピクチャのビッ
    ト量に基づいて、上記符号化対象ピクチャに対して割り
    当てられる目標ビット量を演算することを特徴とする符
    号化方法。
  37. 【請求項37】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 符号化対象ピクチャから所定枚数先のピクチャまでの未
    符号化ピクチャに対して割り当てられる予想ビット量を
    演算し、その予想ビット量を上記符号化対象ピクチャの
    符号化難易度に基づいて配分することによって、符号化
    対象ピクチャに対して割り当てられる目標ビット量を演
    算する制御工程と、 上記制御工程によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化工程を
    備え、 上記制御工程において、 上記指定ビットレートがGOPの途中において第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記符号化工程に与えられる目標ビットレートを、
    上記第1のビットレートに対応する上記目標ビット量か
    ら、上記第2のビットレートに対応する上記目標ビット
    量に補正することを特徴とする符号化方法。
  38. 【請求項38】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 符号化対象ピクチャから所定枚数先のピクチャまでの未
    符号化ピクチャに対して割り当てられる予想ビット量を
    演算し、その予想ビット量を上記符号化対象ピクチャの
    符号化難易度に基づいて配分することによって、符号化
    対象ピクチャに対して割り当てられる目標ビット量を演
    算する制御工程と、 上記制御工程によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化工程を
    備え、 上記制御工程において、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャに割り当てられる予想ビット
    量の変化軌跡が、上記第2のビットレートで各ピクチャ
    を符号化していた時の軌跡になるように、上記未符号化
    ピクチャに対して割り当てられる予想ビット量を補正
    し、上記補正されたビット量に基づいて、上記符号化対
    象ピクチャに対して割り当てられる目標ビット量を演算
    することを特徴とする符号化方法。
  39. 【請求項39】 指定ビットレートに基づいてビデオデ
    ータを符号化する符号化方法において、 符号化対象ピクチャから所定枚数先のピクチャまでの未
    符号化ピクチャに対して割り当てられる予想ビット量を
    演算し、その予想ビット量を上記符号化対象ピクチャの
    符号化難易度に基づいて配分することによって、符号化
    対象ピクチャに対して割り当てられる目標ビット量を演
    算する制御工程と、 上記制御工程によって演算された目標ビット量に従っ
    て、上記符号化対象ピクチャを符号化する符号化工程を
    備え、 上記制御工程において、 GOPの途中において上記指定ビットレートが第1のビッ
    トレートから第2のビットレートに変更された場合に
    は、上記未符号化ピクチャに対して割り当てられるビッ
    ト量を、上記第1のビットレートに基づく未符号化ピク
    チャのビット量から上記第2のビットレートに基づく未
    符号化ピクチャのビット量に補正し、上記補正された未
    符号化ピクチャのビット量に基づいて、上記符号化対象
    ピクチャに対して割り当てられる目標ビット量を演算す
    ることを特徴とする符号化方法。
JP34819998A 1997-12-08 1998-12-08 符号化装置および符号化方法 Expired - Fee Related JP4035747B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP34819998A JP4035747B2 (ja) 1997-12-08 1998-12-08 符号化装置および符号化方法

Applications Claiming Priority (3)

Application Number Priority Date Filing Date Title
JP9-336811 1997-12-08
JP33681197 1997-12-08
JP34819998A JP4035747B2 (ja) 1997-12-08 1998-12-08 符号化装置および符号化方法

Publications (2)

Publication Number Publication Date
JPH11243539A true JPH11243539A (ja) 1999-09-07
JP4035747B2 JP4035747B2 (ja) 2008-01-23

Family

ID=26575588

Family Applications (1)

Application Number Title Priority Date Filing Date
JP34819998A Expired - Fee Related JP4035747B2 (ja) 1997-12-08 1998-12-08 符号化装置および符号化方法

Country Status (1)

Country Link
JP (1) JP4035747B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002232882A (ja) * 2001-01-31 2002-08-16 Nec Corp 事前解析を用いた動画像符号化装置、動画像符号化方法、及びそのプログラム。
JP2005033599A (ja) * 2003-07-08 2005-02-03 Sony Corp 符号化装置、および、符号化方法、並びに、プログラム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2002232882A (ja) * 2001-01-31 2002-08-16 Nec Corp 事前解析を用いた動画像符号化装置、動画像符号化方法、及びそのプログラム。
JP2005033599A (ja) * 2003-07-08 2005-02-03 Sony Corp 符号化装置、および、符号化方法、並びに、プログラム

Also Published As

Publication number Publication date
JP4035747B2 (ja) 2008-01-23

Similar Documents

Publication Publication Date Title
US6229849B1 (en) Coding device and method
KR100880055B1 (ko) 디지털 비디오 트랜스코더에서 수신된 비트스트림에서의 픽처 및 픽처의 시퀀스를 코딩하기 위해 비트를 할당하는 방법 및 장치
US20100303148A1 (en) Macroblock-based dual-pass coding method
US20010046263A1 (en) Video encoding apparatus that adjusts code amount by skipping encoding of image data
KR19980032089A (ko) 화상 압축 부호화 장치 및 방법
US7095784B2 (en) Method and apparatus for moving picture compression rate control using bit allocation with initial quantization step size estimation at picture level
JP3259702B2 (ja) 動画像可変ビットレート符号化装置および方法
JP2001186517A (ja) 圧縮動画像再符号化装置および圧縮動画像再符号化方法
US7373004B2 (en) Apparatus for constant quality rate control in video compression and target bit allocator thereof
US20100002765A1 (en) Image encoding apparatus and method
KR100588795B1 (ko) 부호화 장치 및 부호화 방법
JP3508916B2 (ja) 動画像可変ビットレート符号化方法および装置
US7826530B2 (en) Use of out of order encoding to improve video quality
JP4362795B2 (ja) 動画像符号化装置及びその方法
JP3173369B2 (ja) 画像圧縮符号化装置
US7254176B2 (en) Apparatus for variable bit rate control in video compression and target bit allocator thereof
JP4193080B2 (ja) 符号化装置及び方法
US20040091045A1 (en) Method and apparatus for rate control in moving picture video compression
JP3889552B2 (ja) 符号量割り当て装置および方法
JP3151173B2 (ja) 画像圧縮符号化装置及び方法
JP3218994B2 (ja) 画像符号化方法および装置
JP4035747B2 (ja) 符号化装置および符号化方法
JPH10290461A (ja) レート制御装置及びレート制御方法
JPH0775095A (ja) レート制御回路
JPH0638196A (ja) 動画像符号化装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050714

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20070720

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070906

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071004

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071017

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101109

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111109

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111109

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121109

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131109

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees