JP4280353B2 - 符号化装置、画像処理装置、符号化方法、及び記録媒体 - Google Patents
符号化装置、画像処理装置、符号化方法、及び記録媒体 Download PDFInfo
- Publication number
- JP4280353B2 JP4280353B2 JP7687699A JP7687699A JP4280353B2 JP 4280353 B2 JP4280353 B2 JP 4280353B2 JP 7687699 A JP7687699 A JP 7687699A JP 7687699 A JP7687699 A JP 7687699A JP 4280353 B2 JP4280353 B2 JP 4280353B2
- Authority
- JP
- Japan
- Prior art keywords
- motion vector
- motion
- encoding
- input image
- image data
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/50—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding
- H04N19/503—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals using predictive coding involving temporal prediction
- H04N19/51—Motion estimation or motion compensation
- H04N19/527—Global motion vector estimation
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
Description
【発明の属する技術分野】
本発明は、ディジタル画像データを符号化する技術に関し、例えば、カメラ付きビデオレコーダ(カムコーダ)等に適用される符号化装置、画像処理装置、符号化方法、及び記録媒体に関するものである。
【0002】
【従来の技術】
例えば、MPEGに代表される動き補償を用いたフレーム又はフィールド間符号化(ここでは「フレーム間符号化」とする)において、動きベクトルの検出(検索)は、マクロブロック又は8×8画素のブロックの単位(ここでは「マクロブロック単位」とする)で、符号化の対象となっているフレームを中心に、前方、後方のフレームに対して行われる。
このとき、実際のマクロブロック内の画像データに関するフレーム間の動き量とは全く無関係に、対象フレーム内に存在する全マクロブロックに対して一律に、動きベクトルの検索がなされる。或いは、動きベクトルの探索範囲が、符号化及び復号化のリアルタイム動作の要求から、符号化の対象となっているマクロブロックを中心とする一定の範囲に限定され、その範囲にて動きベクトルの検索がなされる。このときの動きベクトルの探索範囲についても、各マクロブロックの画像データの実際の動き量とは無関係に、ハード及びソフト的な処理時間の制約から決められることが多い。
【0003】
【発明が解決しようとする課題】
しかしながら、従来では、ある一定の範囲に限定された検索範囲にて動きベクトルを検索して動き補償を行う場合、上述したように、その検索範囲は、各マクロブロックの画像データの実際の動き量とは無関係に決められていたため、例えば、実際の動きベクトルが該探索範囲を越えていたとすると、動き補償を用いたフレーム間符号化のメリットである、フレーム間の画像データの冗長性を削減して符号量を削減する、という目的が達成されない可能性があった。
【0004】
また、MPEG等で行われる画像データ圧縮方法での処理過程の1つである、直交変換(2次元離散コサイン変換:DCT等)された画像データを周波数によって重み付けした量子化係数で除算するという作業において、該量子化係数についても、符号化の対象となっているマクロブロック内の画像データの動き量とは無関係に、最終的な発生符号量に基づいて決定されていた。このため、動き量に応じて量子化係数を補正することができず、この結果、画質劣化伴う危険性があった。
【0005】
そこで、本発明は、上記の欠点を除去するために成されたもので、画像データの符号化を効率的に行うことが可能であると共に、画質を向上させることが可能な、符号化装置、画像処理装置、符号化方法、及び記録媒体を提供することを目的とする。
【0006】
【課題を解決するための手段】
本発明の符号化装置は、所定サイズにブロック化された1フレーム又は1フィールドの入力画像に対してブロック単位で、動き補償を用いた符号化処理を行って出力する符号化装置であって、上記入力画像データの最外周に位置するブロックについて動きベクトルを検索する第1の検索手段と、上記第1の検索手段にて検索された各ブロックの動きベクトルから、上記入力画像全体の動きを表す第1の動きベクトルを生成する第1の生成手段と、上記入力画像データの中央近傍に位置するブロックについて動きベクトルを検索する第2の検索手段と、上記第2の検索手段にて検索された各ブロックの動きベクトルから、上記第1の動きベクトルに対する参照用の第2の動きベクトルを生成する第2の生成手段と、上記第1の生成手段にて生成された第1の動きベクトルと上記第2の生成手段にて生成された第2の動きベクトルとの差分ベクトルが、所定の閾値以下である場合、上記入力画像データの全ブロックの動きベクトルを上記第2の動きベクトルに設定して符号化処理を実行する符号化手段とを備えることを特徴とする。
【0007】
また、本発明の符号化方法は、所定サイズにブロック化された1フレーム又は1フィールドの入力画像に対してブロック単位で、動き補償を用いた符号化処理を行って出力する符号化方法であって、上記入力画像データの最外周に位置するブロックについて動きベクトルを検索する第1の検索ステップと、上記第1の検索ステップにて検索された各ブロックの動きベクトルから、上記入力画像全体の動きを表す第1の動きベクトルを生成する第1の生成ステップと、上記入力画像データの中央近傍に位置するブロックについて動きベクトルを検索する第2の検索ステップと、上記第2の検索ステップにて検索された各ブロックの動きベクトルから、上記第1の動きベクトルに対する参照用の第2の動きベクトルを生成する第2の生成ステップと、上記第1の生成ステップにて生成された第1の動きベクトルと上記第2の生成ステップにて生成された第2の動きベクトルとの差分ベクトルが、所定の閾値以下である場合、上記入力画像データの全ブロックの動きベクトルを上記第2の動きベクトルに設定して符号化処理を実行する符号化ステップとを備えることを特徴とする。
【0023】
【発明の実施の形態】
以下、本発明の実施の形態について図面を用いて説明する。
【0024】
(第1の実施の形態)
まず、本発明を適用した符号化方法における、符号化の対象となっているフレーム又はフィールド(ここでは「フレーム」とする)全体の動きを表す動きベクトル(グローバル動きベクトル、以下、「GMV」と言う)の生成から、該GMVの大きさに基づいて符号化モードを決定するまでの処理過程について説明する。
【0025】
例えば、図1に示すように、符号化の対象となる1枚のフレーム101の画像データが、n×n画素(n:整数)という大きさのブロック又はマクロブロック(ここでは「ブロック」とする)で分割されている。この図1において、塗り潰し部分で示すそれぞれのブロック102(1),102(2),・・・は、GMV103を定義するために、最優先で動きベクトルが探索(検出)されるブロックである。
【0026】
そこで、GMV103を生成するために、先ず、上記図1の”104”で示すように、フレーム101の画像の最外周に位置する全てのブロック102(1),102(2),・・・,102(x),・・・について、前方又は後方の動きベクトルを探索する。
尚、ここでの動きベクトルの探索方法は限られず、従来から用いられているような任意の方法でよい。また、フレーム101の最外周に位置するブロック102(1),102(2),・・・,102(x),・・・において、最優先で動きベクトルを求めるブロックを、例えば、図2に示すように、所定間隔に位置するブロック102(1),102(6),102(11),・・・としてもよい。
【0027】
次に、ブロック102(1),102(2),・・・,102(x),・・・のそれぞれの動きベクトルの平均値を求め、その平均値をGMV103として定義する。
【0028】
次に、上述のように定義されたGMV103を、予め定義された複数の閾値と比較して、現フレーム101全体の動きを判定し、その判定された動きの大きさに応じて、現フレーム101の符号化モード(例えば、フレーム内符号化、前方予測フレーム間符号化、双方向フレーム間符号化等)を選択することで、画質と符号量のバランスを維持する。
尚、ここでのGMV103の大きさに対する符号化モードの判定基準は、符号化器の設計意図等により決定される任意の基準でよい。
【0029】
そして、上述のようにして定義された符号化モードにてフレーム101に対する動き補償を用いた符号化を実施するにあたり、該動き補償のための動きベクトルの検索を次のようにして行う。
すなわち、最優先で動きベクトルを探索されなかった残りの全ブロック(フレーム101の最外周に位置するブロック102(1),102(2),・・・以外のブロック)について動きベクトルの探索を行うときの探索範囲として、予め定義された探索範囲に対してGMV103相当分オフセットした探索範囲を設定し、その検索範囲内のブロックに対して動きベクトルの探索を行う。
【0030】
(第2の実施の形態)
本実施の形態では、符号化の対象となっているフレーム101内の最優先で動きベクトルを求めるブロックを、上記図2に示したように、フレーム101の最外周に位置するブロック102(1),102(2),・・・のうちの一部のブロック102(1),102(6),102(11),・・・とする。
【0031】
そこで、先ず、第1の実施の形態と同様にして、上記図2の”111”で示すように、ブロック102(1),102(6),102(11),・・・のそれぞれの動きベクトルを探索し、求めた動きベクトルの平均値をGMV103として定義する。
【0032】
次に、図3の”112”に示すように、フレーム101の中央近傍に位置するブロック(斜線部分)を複数個選択し、それらのブロックの動きベクトルを探索し、その平均値を求める。そして、この平均値を参照ベクトル(以下、「RMV」と言う)113として定義する。
【0033】
そして、上述のようにして定義したGMV103とRMV113を用いて、動き補償のための動きベクトルの検索を次のようにして行う。
【0034】
すなわち、GMV103とRMV113を比較することで、現フレーム101の画像が、図4に示すように、時間的に前後するフレームの画像に対して全体的に動いているものであるか(カメラ等の移動によるフレーミングの移動があるか)、それとも図5に示すように、フレーム内の画像の一部(ここでは”鳥”)が移動(変化)しているのかを判定する。
具体的には、GMV103とRMV113とを比較し、図6の(a)や(b)に示すように、両者の差分ベクトルが所定の閾値Th以下である場合、上記図4に示したようなフレーム全体が動いている画像と判定する。また、上記図6の(c)や(d)に示すように、両者の差分ベクトルが所定の閾値Thを越える場合には、上記図5に示したようなフレーム内の画像の一部が移動している、或いはシーンチェンジ(急に場面が変わった画像)等の上記図4に示した状態を除く画像であると判定する。
尚、上記図4及び図5のそれぞれに示した3枚の画像は、時間的に左から右に進んだ状態を示したものである。例えば、上記図4の画像は、カメラを水平移動(左から右へ)させながら景色を撮影して得られたものであり、上記図5の画像は、カメラを固定して撮影している時に、フレームの左から右に被写体の一部(ここでは”鳥”)が移動したときを撮影して得られたものである。
【0035】
上述のような判定の結果、現フレーム101の画像が全体的に動いているものであった場合(上記図4参照)、動きベクトルの検索を行っていないブロックを含むフレーム101内の全ブロックの動きベクトルを、RMV113で置き換える。そして、現フレーム101の動きベクトルの探索を終了して、次の直交変換や量子化等の圧縮処理へと移行する。
【0036】
一方、現フレーム101の画像の一部が移動しているものであった場合(上記図5参照)、GMV103とフレーム101内の各ブロックの動きベクトルを比較し、その比較結果に基づいて、量子化係数に対する重み付けの調整等の処理を行って、設計意図に従った符号量や画質の最適化を行う。
具体的には、まず一般に、カット&ディゾルブ等の絵柄がフレーム全体で大きく変化するシーンチェンジを除けば、動画像のフレーム(又はフィールド)間の相関性は高いと考えられる。そこで、GMV103とフレーム101内の各ブロックの動きベクトル(前方及び後方)を比較して、その比較結果を各ブロックの動きの大きさに反映する。例えば、GMV103との差分値が所定の閾値以上であるブロックは、動きが大きいと判定して、量子化係数を変更又は調整する。逆に、GMV103との差分値が所定の閾値以下であるブロックは、動きが小さいと判定して、量子化係数を変更又は調整する。その一例として、動きのある部分の画質重視であれば、動きの大きいブロックに対しては量子化係数を小さくする方向に、動きの小さいブロックに対しては量子化係数を大きくする方向に調整して画質調整を行う。もちろんこの逆も可能である。このようなGMV103との差分値の評価結果に対する処理は、符号化器の設計意図によって変えてよい。
【0037】
尚、第1及び第2の実施の形態において、GMV103の定義のために、ここでは、フレーム101の最外周に位置するブロック102(1),102(2),・・・、又はその一部のブロック102(1),102(6),102(11),・・・のそれぞれの動きベクトルの平均値を用いるようにしたが、これに限られることはなく、例えば、取り扱う画像の性質に合わせて、ブロックの位置をパラメータとしての重み付けや、平均値以外の関数を用いるようにしてもよい。また、GMV103の定義についても同様に、それぞれのブロックの動きベクトルの平均値に限られることはなく、任意の演算処理の結果を用いるようにしてよい。
また、GMV103を定義するための最優先で動きベクトルを求めるブロックや、RMV113を定義するためのフレーム101の中央近傍のブロックの位置と数の選択についても、上記図1〜図3に示した方法に限定されることはない。例えば、図7に示すように、第2の実施の形態において、フレーム101の最外周に位置するブロック102(1),102(2),・・・の動きベクトルからGMV103を定義し、フレーム101の中央の4ブロックの動きベクトルからRMV113を定義するようにしてもよい。
【0038】
(第3の実施の形態)
本発明は、例えば、図8に示すような符号化装置200に適用され、この符号化装置200は、カメラ付きビデオレコーダ(カムコーダ)等の装置内に設けられる。
尚、上記図8の符号化装置200の構成は、上述した第1の実施の形態の符号化方法の機能を実現するハードウェア構成の一例でもある。
【0039】
符号化装置200は、入力画像データを動き補償を用いて符号化するものであり、上記図8に示すように、入力画像データd209を所定のサイズのブロックに分割するブロック化処理部201と、ブロック化処理部201を介した入力画像データd209を蓄積するためのフレームメモリ202と、動き予測(補償)処理及び圧縮処理等を行う符号化処理部203、符号化処理部203から出力される符号(符号化画像データ)に可変長符号を付与する可変長符号化処理部204と、符号化処理部203から出力される符号(符号化画像データ)を復号する復号化処理部206と、復号化処理部206から出力される局部復号化画像データを記憶するためのバッファメモリ208と、フレームメモリ202から出力される画像(入力画像データd215)とバッファメモリ208から出力される画像(局部復号化画像データd213)から動きベクトル(GMV)を生成する動き検出部207と、動き検出部207の出力に従ってフレームメモリ202及びバッファメモリ208の読出書込アドレスを制御するアドレスコントローラ205とを含んでなる。
【0040】
また、動き検出部207は、例えば、図9に示すように、フレームメモリ202から出力される画像(入力画像データd215)とバッファメモリ208から出力される画像(局部復号化画像データd213)の差分を検出するための減算器301と、減算器301での減算結果(差分値)の大きさを評価する動きベクトル検索部(動き評価部)302と、動きベクトル検索部302の出力に従ってGMVの評価方法を平均値又は重み付け累積加算等の演算による複数の方法(ここでは「平均値による評価方法」と「重み付け累積加算による評価方法」の2つとする)の中から選択するためのセレクタ303と、セレクタ303の出力に従って動作する平均値演算部304及び動きベクトル累積加算部305と、平均値演算部304又は動きベクトル累積加算部305の出力からGMVを決定するGMV評価部306とを含んでなる。そして、動きベクトル検索部302の出力がアドレスコントローラ205に供給され、GMV評価部306の出力が符号化処理部203に供給されるようになされている(上記図1参照)。
【0041】
上述のような符号化装置200において、先ず、入力画像データd209は、ブロック化処理部201に入力される。ブロック化処理部201は、入力画像データd209を所定サイズのブロックに分割して、それをフレームメモリ202に一旦格納する。
フレームメモリ202に格納されたブロック化画像データは順次、アドレスコントローラd205から出力されるフレームメモリ用の読出アドレス信号d214に従って、符号化処理部203及び動き検出部207に対して入力される。
【0042】
符号化処理部203は、フレームメモリ202からのブロック化画像データに対してブロック単位で、後述する動き検出部207からのGMVd216に基づいた動き補償処理を行った後、それにより得られた予測誤差信号に対してDCT(直交変換)や量子化等の圧縮処理を行い、これらの処理を行ったブロック化画像データを符号化画像データとして可変長符号化処理部204及び復号化処理部206へ供給する。
尚、符号化処理部203での動き補償のための動きベクトルの検索については後述する。
【0043】
可変長符号化処理部204は、符号化処理部203からの符号化画像データに可変長符号(VLC)を付与した後、それを符号化装置200の出力d210とする。
【0044】
一方、復号化処理部206は、符号化処理部203からの符号化画像データに対して復号化処理を行い、それにより得た復号化画像データ(局部復号化画像データ)をバッファメモリ208に格納する。
バッファメモリ208に格納された局部復号化画像データは、アドレスコントローラd205から出力されるバッファメモリ用の読出アドレス信号d212に従って、動き検出部207に対して入力される。
【0045】
このとき動き検出部207には、フレームメモリ202からの入力画像データd215と、バッファメモリ208からの局部復号化画像データd213と、外部からの動き補償モード選択信号d211が供給されている。
【0046】
そこで、先ず、動き検出部207は、上記図1の塗り潰し部分に示したようなGMV検出用に選択されたブロックの参照画像データ(入力画像データd215)、及び上記GMV検出過程において比較対象となる局部復号された画像データ(局部復号化画像データd213)をフレームメモリ202及びバッファメモリ208から得るための読出アドレスの生成をアドレスコントローラ205に要求する。これを受けたアドレスコントローラは、フレームメモリ202及びバッファメモリ208のそれぞれに対して、上記の各データに対応する読出アドレス信号d214及びd212を出力する。これにより、動き検出部207には、フレームメモリ202から読出アドレス信号d214に従って読み出されたGMV検出用に選択された参照ブロックの入力画像データd215と、バッファメモリ208から読出アドレス信号d212に従って読み出された入力画像データd215の比較対象となる局部復号化データd213とが入力されることになる。
【0047】
次に、動き検出部207は、以下に説明するように動作する。これについては上記図9を用いて説明する。
フレームメモリ202からの入力画像データd215(参照画像データ)、及びバッファメモリ208からの局部復号化画像データd213(比較用画像データ)は、減算器301に供給される。減算器301は、供給されたそれぞれのデータの差分値を求めて出力する。
動きベクトル検索部302は、減算器301から出力された差分値の大きさを評価(動き評価)する。ここで、動き評価を行うブロックは、上記図1や図2の斜線部分に示したようなブロックであり、また、各ブロックの動き探索範囲は任意とする。したがって、動きベクトル検索部302は、動き評価の対象ブロックのそれぞれに対して、減算器301にて得られた差分値が最小となるブロックの座標を、それぞれの対象ブロックの動きベクトルとして決定する。
セレクタ303は、外部から入力される動き補償モード選択信号(評価モード選択信号)d211に基づいて、GMVd216の評価方法(決定方法)を平均値による方法又は重み付け累積加算による方法の何れかを選択し、それに従った選択信号(動きベクトル検索部302にて得られた動きベクトルを含む)を、平均値演算部304又は動きベクトル累積加算部305に供給する。
平均値演算部304は、セレクタ303からの選択信号に従って、動きベクトル検索部302にて得られた動きベクトルの平均値を求める。
また、動きベクトル累積加算部305も、セレクタ303からの選択信号に従って、動きベクトル検索部302にて得られた動きベクトルに重み付けを施した累積値を求める。 そして、GMV評価部306は、平均値演算部304にて得られた動きベクトルの平均値、又は動きベクトル累積加算部305にて得られた動きベクトルの累積値から、画像(フレーム又はフィールド、ここでは「フレーム」)全体の動きベクトル、すなわちGMVd216を決定して出力する。この出力されたGMVd216は、符号化処理部203(上記図1参照)に供給される。
【0048】
したがって、符号化処理部203は、動き補償のための動きベクトルの検索範囲を、動きベクトル探索対象ブロックの座標位置から、上述のような動き検出部207からのGMVd216相当分だけオフセットした点を動きベクトル検索開始点とした検索範囲として、動き補償処理を行うことになる。
このように、符号化処理部203では、動き検出部107からのGMVd216によって、動き補償処理における動きベクトルの探索時間(実質的な探索範囲)を縮小できるため、全体処理時間の短縮を図ることができる。
【0049】
(第4の実施の形態)
本実施の形態では、上記図8の符号化装置200の内部構成を、例えば、図10に示すような構成とする。
尚、上記図10の符号化装置200の構成は、上述した第2の実施の形態の符号化方法の機能を実現するハードウェア構成の一例でもある。また、ここでは、上述した第3の実施の形態と異なる構成についてのみ、具体的に説明するものとする。
【0050】
すなわち、ここでの符号化装置200では、上記図10に示すように、アドレスコントローラ205には外部からの動きベクトル検索範囲指定情報d401が供給され、動き検出部207から符号化処理部203に対しては上述したGMVd216に加えてRMV(参照ベクトル)d402をも供給されるようになされている(上記図10の二重線で示す)。
このため、図11に示すように、動き検出部207において、GMV評価部306は、GMVd216を決定して出力すると共に、RMVd402をも決定して出力するようになされている。
【0051】
そこで、先ず、上述したようにして、入力画像データd209は、ブロック化処理部201にてブロック化され、フレームメモリ202に一旦格納される。フレームメモリ202に格納されたブロック化画像データは、符号化処理部203に対して順次読み出され、符号化処理部203において、動き検出部207からのGMVd216に基づいた動き補償処理が行われた後、その結果得られた予測誤差信号に対して、例えば、直交変換(DCT等)や量子化等の圧縮処理が行われる。これにより得られた符号化画像データは、可変長符号化処理部204にて可変長符号が付与された後、本装置から送出される。
これと同時に、符号化処理部203にて得られた符号化画像データは、復号化処理部206にて復号化処理が行われ、バッファメモリ208に格納される。
【0052】
また、動き検出部207(GMV/RMV検出ブロック)は、GMVd216又はRMVd402の検出用に選択された入力画像データd209の参照ブロック(上記図1や図2の塗り潰し部分にて示したブロック、上記図3や図7の斜線部分にて示したブロック)と、GMVd216又はRMVd402の検出過程において比較対象となる局部復号した画像データ(局部復号化画像データd213)との読出アドレスの生成をアドレスコントローラ205に要求する。これを受けたアドレスコントローラ205は、フレームメモリ202及びバッファメモリ208のそれぞれに対して読出アドレス信号d214及びd212を出力し、対応する画像データd215及びd213を動き検出部207に入力させる。
このとき、アドレスコントローラ205が生成する、フレームメモリ202及びバッファメモリ208のそれぞれに対する読出アドレス信号d214及びd212は、外部からの動きベクトル検索範囲指定情報d401にて指定される、GMVd216及びRMVd402のそれぞれの探索対象となっているブロックのアドレスである。
上記のブロックのアドレスとは、ここでは、GMVd216に関しては上記図1や図2の塗り潰し部分にて示したようなブロックのアドレスであり、RMVd402に関しては上記図3や図7の斜線部分にて示したようなブロックのアドレスである。
【0053】
その後、動き検出部207は、以下に説明するように動作する。これについては上記図11を用いて説明する。
先ず、上述したように、減算器301では、フレームメモリ202からの入力画像データd215(参照画像データ)と、及びバッファメモリ208からの局部復号化画像データd213(比較用画像データ)との差分値がとられる。この差分値は、動きベクトル検索部302にてその大きさが評価される。ここでの動き評価を行うブロックは、GMVd216に関しては上記図1や図2の塗り潰し部分で示した各ブロックであり、RMVd402に関しては上記図3や図7の斜線部分で示した各ブロックである。また、GMVd216及びRMVd402に対する動き探索範囲は任意であり、それぞれの動き評価対象ブロックに対し、上記の差分値が最小となるポイントの座標を、動き評価対象ブロックの動きベクトルとして決定する。
次に、セレクタ303により、外部からの動き補償モード選択信号d211に従って、平均値演算部304又は動きベクトル累積加算部305による評価方法が選択される。
そして、平均値演算部304又は動きベクトル累積加算部305での演算結果を用いて、GMV/RMV評価部306では、フレーム101の画像全体の動きベクトル(GMVd216)、又はフレーム101内の注目部分(フレーム101内の主たる絵柄が存在する部分等)の動きを表すRMVd402が決定される。これらの決定されたGMVd216とRMVd402が符号化処理部203に供給される。
【0054】
符号化処理部203は、例えば、図12に示すように、フレームメモリ202からの入力画像データ(ブロック化画像データ)d215とバッファメモリ208からの局部復号化画像データd217の差分をとる減算器501と、動き検出部207からのGMVd216及びRMVd402を用いて動き補償処理を行う動き補償処理部502と、動き補償処理部502の出力に対して直交変換や量子化等の処理を行う符号化器503と、符号化器503での量子化係数に対する画像の動きに応じた重み付けを行うために動きベクトル検索部502の出力をクラス分けするクラス判定部504とを含んでなる。
【0055】
フレームメモリ202からの入力画像データd215と、バッファメモリ208からの局部復号化画像データd217とは、減算器501に供給され、これらのデータの差分値(予測誤差信号)が減算器501にて求められる。
【0056】
動き補償処理部502は、減算器501にて求められた予測誤差信号に対して動き補償を行って出力するが、このときの動きベクトルの検察を次のようにして行う。
すなわち、動き検出部207からのGMVd216とRMVd402の差分値を求め、その差分値と予め設定された所定の閾値と比較する。この比較の結果、差分値が閾値以下である場合には、フレーム内の全ブロックの動きベクトルをRMVd402で置き換え、該差分値が該閾値を越える場合には、フレーム内の全ブロックの動きベクトルをRMVd402で置き換え、差分値が閾値を越える場合には、通常どおり動きベクトル探索対象ブロックの座標位置からGMVd216相当分だけオフセットした点を動きベクトル探索開始点(原点)とする検索範囲にて、動きベクトルの探索を実行する。
【0057】
符号化器503は、上述のような動き補償処理部502にて動き補償が行われた予測誤差信号d510に対して、直交変換処理(ここでは「DCT」)を行い、それにより得られた変換係数を、周波数帯域に応じた任意の重み付けを施した量子化係数にて量子化(圧縮)する。この結果得られた符号化画像データが、可変長符号化処理部204へ供給され、ここにて可変長符号が付与された後、伝送、或いは任意のメディアに蓄積されることになる。
【0058】
このとき、クラス判定部504は、動き補償処理部502にて求められた各ブロックの動きベクトルの大きさをパラメータとして、該動きベクトルを複数のクラスに分割し、そのクラス分けした結果を、符号化器503及び動き補償処理部502にそれぞれ供給する。
これにより、動き補償処理部502は、上述した動きベクトルの検索の際に、動きベクトルの大きさが最小クラスに分類され、且つ所定の閾値以下である場合、全ブロックの動きベクトルに関して、その大きさをゼロに置換する。また、符号化器503は、上記の場合以外の場合、各クラス毎に量子化係数に対する任意の重み付け(重みづけの度合いは任意)を行い、その量子化係数によって上述した量子化を行う。
このように、クラス判定部504のクラス分けの結果に基づいて、動き補償処理部502での動きベクトルの検索、及び符号化器503での量子化係数に対する重み付けを行うことで、符号量制御や画質制御を行う。
【0059】
尚、本発明の目的は、上述した各実施の形態のホスト及び端末の機能を実現するソフトウェアのプログラムコードを記憶した記憶媒体を、システム或いは装置に供給し、そのシステム或いは装置のコンピュータ(又はCPUやMPU)が記憶媒体に格納されたプログラムコードを読みだして実行することによっても、達成されることは言うまでもない。
この場合、記憶媒体から読み出されたプログラムコード自体が各実施の形態の機能を実現することとなり、そのプログラムコードを記憶した記憶媒体は本発明を構成することとなる。
プログラムコードを供給するための記憶媒体としては、ROM、フロッピーディスク、ハードディスク、光ディスク、光磁気ディスク、CD−ROM、CD−R、磁気テープ、不揮発性のメモリカード等を用いることができる。
また、コンピュータが読みだしたプログラムコードを実行することにより、各実施の形態の機能が実現されるだけでなく、そのプログラムコードの指示に基づき、コンピュータ上で稼動しているOS等が実際の処理の一部又は全部を行い、その処理によって各実施の形態の機能が実現される場合も含まれることは言うまでもない。
さらに、記憶媒体から読み出されたプログラムコードが、コンピュータに挿入された拡張機能ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書き込まれた後、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPUなどが実際の処理の一部又は全部を行い、その処理によって各実施の形態の機能が実現される場合も含まれることは言うまでもない。
【0060】
【発明の効果】
以上説明したように本発明では、符号化対象であるフレーム又はフィールドの入力画像において、それを構成するブロックの中で、第1の所定位置(最外周の位置等)に存在するブロックの動きベクトルを検索し、その結果得られた各ブロックの動きベクトルの平均値をとる等して、フレーム又はフィールド全体の動きを表す第1の動きベクトル(グローバル動きベクトル:GMV)を求める。また、第2の所定位置(中央付近の位置)に存在するブロックの動きベクトルを検索し、その結果得られた各ブロックの動きベクトルの平均値をとる等して、第1の動きベクトルに対する参照用の第2の動きベクトル(参照動きベクトル:RMV)を生成する。このようにして得られた第1の動きベクトルや第2の動きベクトルに基づいて、実行する符号化処理(符号化モード)や、動き補償の際の動きベクトルを検索する範囲、量子化係数等といった符号化処理を実行するための符号化パラメータを決定する。
【0061】
具体的には例えば、符号化対象であるフレーム(又はフィールド)において、フレーム(又はフィールド)内の一部領域又は一部のマクロブロックに限定して、前方/後方の動きベクトル(GMV、RMV)の探索を行い、符号化対象フレーム(又はフィールド)と時間的に前後関係にあるフレーム(又はフィールド)との関係から、フレーム(又はフィールド)全体が動いているのか、又はフレーム(又はフィールド)内の一部分が動いているのかを判定し、この判定の結果に基づいて、動きベクトル未探索のマクロフロックの動きベクトル探索を行うか否か、符号化対象フレーム(又はフィールド)の符号化モード、符号化対象フレーム(又はフィールド)内のマクロブロック(又はブロック)の符号化モードを決定する。
このように構成することによって、常時符号化対象フレーム(又はフィールド)内の全領域に対して、動きベクトルを探索する必要がなくなり、時間的符号化効率を向上させることができる。
また、上記の判定に基づいて、フレーム(又はフィールド)単位、又はマクロブロック(又はブロック)単位で、符号化モードや、量子化係数の変更や補正を行うように構成すれば、動き量に応じた符号化が可能となり、符号量配分が適切にできる。これにより、同一の符号量に対して画質を向上させることが可能となる。
【0062】
したがって、本発明によれば、動き補償のための動きベクトルの検索の前に、フレーム単位で見た時の全体の動きベクトルを推定できるので、カメラのパン画像のようにフレーム全体が直線的に移動するような画像に対して、動きベクトルをフレーム内の全ブロックで検索することなくフレーム内の全ブロックの動きベクトルを定義することができる。これにより、動きベクトルの検索時間を短縮することができ、この結果、符号化処理全体の処理時間の短縮を図ることができる。
また、第1の動きベクトル(GMV)や第2の動きベクトル(RMV)を所定の閾値と比較する等して、それらの動きベクトルの評価を行うことで、フレーム単位又はブロック単位で、符号化モードの選択や量子化係数の調整を行うことが可能になる。このため、上述したようなフレーム全体が動く画像や、背景が静止状態であるがフレーム内の一部分が動いているような出現頻度の高い性質の画像について、ブロック内の画像の性質に適合した符号化処理や量子化係数等が選択可能となり、符号量重視や画質重視等の設計意図に応じた制御が可能となる。特に、動画領域と静止画領域を判別して、符号化や量子化を制御できる。
【図面の簡単な説明】
【図1】第1の実施の形態での本発明を適用した符号化方法において、符号化対象フレームの全体の動きを表す動きベクトル(グローバル動きベクトル:GMV)の生成処理を説明するための図である。
【図2】上記GMVの生成の際の、動きベクトルを最優先で検索するブロックの他の例を説明するための図である。
【図3】第2の実施の形態での本発明を適用した符号化方法において、符号化対象フレームの全体の動きを表す動きベクトル(グローバル動きベクトル:GMV)及び参照動きベクトル(RMV)の生成処理を説明するための図である。
【図4】上記GMV及びRMVにより、現フレームの画像が時間的に前後するフレームの画像に対して全体的に動いている画像であると判定される場合の該画像を説明するための図である。
【図5】上記GMV及びRMVにより、現フレームの画像の一部が移動(変化)している判定される場合の該画像を説明するための図である。
【図6】上記GMV及びRMVの判定の基準を説明するための図である。
【図7】上記GMV及びRMVの生成の際の、動きベクトルを最優先で検索するブロックの他の例を説明するための図である。
【図8】第3の実施の形態において、本発明を適用した符号化装置の構成を示すブロック図である。
【図9】上記符号化装置の動き検出部の構成を示すブロック図である。
【図10】第4の実施の形態において、本発明を適用した符号化装置の構成を示すブロック図である。
【図11】上記符号化装置の動き検出部の構成を示すブロック図である。
【図12】上記符号化装置の符号化処理部の構成を示すブロック図である。
【符号の説明】
200 符号化装置
201 ブロック化処理部
202 フレームメモリ
203 符号化処理部
204 可変長符号化処理部
205 アドレスコントローラ
206 復号化処理部
207 動き検出部
208 バッファメモリ
d209 入力画像データ
d210 符号化画像データ
d211 動き補償モード選択信号
d212 バッファメモリ用R/Wアドレス
d213 局部復号化画像データ
d214 フレームメモリ用R/Wアドレス
d215 ブロック化画像データ
d216 GMV
Claims (5)
- 所定サイズにブロック化された1フレーム又は1フィールドの入力画像に対してブロック単位で、動き補償を用いた符号化処理を行って出力する符号化装置であって、
上記入力画像データの最外周に位置するブロックについて動きベクトルを検索する第1の検索手段と、
上記第1の検索手段にて検索された各ブロックの動きベクトルから、上記入力画像全体の動きを表す第1の動きベクトルを生成する第1の生成手段と、
上記入力画像データの中央近傍に位置するブロックについて動きベクトルを検索する第2の検索手段と、
上記第2の検索手段にて検索された各ブロックの動きベクトルから、上記第1の動きベクトルに対する参照用の第2の動きベクトルを生成する第2の生成手段と、
上記第1の生成手段にて生成された第1の動きベクトルと上記第2の生成手段にて生成された第2の動きベクトルとの差分ベクトルが、所定の閾値以下である場合、上記入力画像データの全ブロックの動きベクトルを上記第2の動きベクトルに設定して符号化処理を実行する符号化手段とを備えることを特徴とする符号化装置。 - 上記符号化手段は、上記差分ベクトルが、所定の閾値以上である場合、上記入力画像データの全ブロックの動きベクトルと、上記第1の動きベクトルとの差分値を比較した結果に基づいて、量子化係数を変更することを特徴とする請求項1記載の符号化装置。
- 入力画像に対して所定の画像処理を行う画像処理装置であって、請求項1又は2記載の符号化装置の機能と、該機能により符号化された上記入力画像を復号化する機能とを備えることを特徴とする画像処理装置。
- 所定サイズにブロック化された1フレーム又は1フィールドの入力画像に対してブロック単位で、動き補償を用いた符号化処理を行って出力する符号化方法であって、
上記入力画像データの最外周に位置するブロックについて動きベクトルを検索する第1の検索ステップと、
上記第1の検索ステップにて検索された各ブロックの動きベクトルから、上記入力画像全体の動きを表す第1の動きベクトルを生成する第1の生成ステップと、
上記入力画像データの中央近傍に位置するブロックについて動きベクトルを検索する第2の検索ステップと、
上記第2の検索ステップにて検索された各ブロックの動きベクトルから、上記第1の動きベクトルに対する参照用の第2の動きベクトルを生成する第2の生成ステップと、
上記第1の生成ステップにて生成された第1の動きベクトルと上記第2の生成ステップにて生成された第2の動きベクトルとの差分ベクトルが、所定の閾値以下である場合、上記入力画像データの全ブロックの動きベクトルを上記第2の動きベクトルに設定して符号化処理を実行する符号化ステップとを備えることを特徴とする符号化方法。 - 請求項4に記載の符号化方法の処理ステップをコンピュータに実行させるためのプログラムを記録したコンピュータ読み取り可能な記録媒体。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7687699A JP4280353B2 (ja) | 1999-03-19 | 1999-03-19 | 符号化装置、画像処理装置、符号化方法、及び記録媒体 |
| US09/526,183 US6778605B1 (en) | 1999-03-19 | 2000-03-15 | Image processing apparatus and method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7687699A JP4280353B2 (ja) | 1999-03-19 | 1999-03-19 | 符号化装置、画像処理装置、符号化方法、及び記録媒体 |
Publications (3)
| Publication Number | Publication Date |
|---|---|
| JP2000278694A JP2000278694A (ja) | 2000-10-06 |
| JP2000278694A5 JP2000278694A5 (ja) | 2006-05-11 |
| JP4280353B2 true JP4280353B2 (ja) | 2009-06-17 |
Family
ID=13617849
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP7687699A Expired - Fee Related JP4280353B2 (ja) | 1999-03-19 | 1999-03-19 | 符号化装置、画像処理装置、符号化方法、及び記録媒体 |
Country Status (2)
| Country | Link |
|---|---|
| US (1) | US6778605B1 (ja) |
| JP (1) | JP4280353B2 (ja) |
Families Citing this family (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002325258A (ja) * | 2001-04-25 | 2002-11-08 | Nec Corp | 画像符号化装置及びそれに用いる画像符号化方法 |
| ATE404019T1 (de) * | 2001-09-12 | 2008-08-15 | Nxp Bv | Bewegungsschätzung und/oder kompensation |
| KR100426174B1 (ko) * | 2001-10-29 | 2004-04-06 | 삼성전자주식회사 | 영상압축 알고리즘을 이용한 카메라 제어방법 |
| US6925123B2 (en) * | 2002-08-06 | 2005-08-02 | Motorola, Inc. | Method and apparatus for performing high quality fast predictive motion search |
| KR100985236B1 (ko) * | 2002-11-25 | 2010-10-04 | 파나소닉 주식회사 | 움직임 보상 방법, 화상 부호화 방법 및 화상 복호화 방법 |
| US6745115B1 (en) | 2003-01-07 | 2004-06-01 | Garmin Ltd. | System, method and apparatus for searching geographic area using prioritized spacial order |
| US7386373B1 (en) * | 2003-01-07 | 2008-06-10 | Garmin International, Inc. | System, method and apparatus for searching geographic area using prioritized spatial order |
| JP4671696B2 (ja) * | 2004-01-14 | 2011-04-20 | パナソニック株式会社 | 動きベクトル検出装置 |
| JP4514203B2 (ja) * | 2004-06-11 | 2010-07-28 | キヤノン株式会社 | 動きベクトル検出装置及び方法 |
| JP2007013419A (ja) * | 2005-06-29 | 2007-01-18 | Canon Inc | 画像処理装置、画像処理方法 |
| JP2007142521A (ja) * | 2005-11-15 | 2007-06-07 | Sharp Corp | 動きベクトル算出装置および動きベクトル算出方法 |
| JP4606311B2 (ja) | 2005-11-21 | 2011-01-05 | シャープ株式会社 | 画像符号化装置および画像符号化方法 |
| US7653130B2 (en) * | 2006-12-27 | 2010-01-26 | General Instrument Corporation | Method and apparatus for bit rate reduction in video telephony |
| JP4768649B2 (ja) * | 2007-03-09 | 2011-09-07 | 日本電信電話株式会社 | カメラワーク検出方法,装置,プログラムおよびその記録媒体 |
| TWI367026B (en) * | 2007-03-28 | 2012-06-21 | Quanta Comp Inc | Method and apparatus for image stabilization |
| GB2451512A (en) * | 2007-08-02 | 2009-02-04 | Tandberg Television Asa | Scene cut detection based on flagging image parameters and trigger threshold comparison |
| JP5517436B2 (ja) * | 2008-10-31 | 2014-06-11 | キヤノン株式会社 | 動きベクトル検出装置及びプログラム |
| JP5639444B2 (ja) * | 2010-11-08 | 2014-12-10 | キヤノン株式会社 | 動きベクトル生成装置、動きベクトル生成方法及びコンピュータプログラム |
| WO2012114712A1 (ja) * | 2011-02-25 | 2012-08-30 | パナソニック株式会社 | 画像符号化方法および画像復号化方法 |
| JP6081049B2 (ja) * | 2011-09-20 | 2017-02-15 | 富士通テン株式会社 | 画像処理装置、携帯機器、車両用装置、画像処理方法、及び、プログラム |
| FR2989550B1 (fr) * | 2012-04-16 | 2015-04-03 | France Brevets | Procede de quantification dynamique pour le codage video |
| JP2013229806A (ja) * | 2012-04-26 | 2013-11-07 | Toshiba Corp | 遠隔点検装置および監視装置 |
| US10404996B1 (en) * | 2015-10-13 | 2019-09-03 | Marvell International Ltd. | Systems and methods for using multiple frames to adjust local and global motion in an image |
| JP2017163228A (ja) * | 2016-03-07 | 2017-09-14 | パナソニックIpマネジメント株式会社 | 監視カメラ |
| ES2858370T5 (es) * | 2016-10-11 | 2024-04-29 | Signify Holding Bv | Sistema de vigilancia y procedimiento para controlar un sistema de vigilancia |
Family Cites Families (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| SE469866B (sv) * | 1991-04-12 | 1993-09-27 | Dv Sweden Ab | Metod för estimering av rörelseinnehåll i videosignaler |
| JP3505199B2 (ja) * | 1992-06-30 | 2004-03-08 | 株式会社リコー | ビデオカメラジッタ補正装置、データ圧縮装置、データ伸長装置、データ圧縮方法及びデータ伸長方法 |
| US5617143A (en) | 1993-03-29 | 1997-04-01 | Canon Kabushiki Kaisha | Movement detection device and encoding apparatus using the same |
| US5561532A (en) | 1993-03-31 | 1996-10-01 | Canon Kabushiki Kaisha | Image reproducing apparatus |
| KR0148154B1 (ko) * | 1994-06-15 | 1998-09-15 | 김광호 | 움직임크기에 따른 동영상데이타의 부호화방법 및 장치 |
| EP0765087B1 (en) * | 1995-08-29 | 2003-11-12 | Sharp Kabushiki Kaisha | Video coding device |
| US5801778A (en) * | 1996-05-23 | 1998-09-01 | C-Cube Microsystems, Inc. | Video encoding with multi-stage projection motion estimation |
| US6249613B1 (en) * | 1997-03-31 | 2001-06-19 | Sharp Laboratories Of America, Inc. | Mosaic generation and sprite-based coding with automatic foreground and background separation |
-
1999
- 1999-03-19 JP JP7687699A patent/JP4280353B2/ja not_active Expired - Fee Related
-
2000
- 2000-03-15 US US09/526,183 patent/US6778605B1/en not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JP2000278694A (ja) | 2000-10-06 |
| US6778605B1 (en) | 2004-08-17 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4280353B2 (ja) | 符号化装置、画像処理装置、符号化方法、及び記録媒体 | |
| JP4662636B2 (ja) | 動き推定とブロックマッチング・パターンの改良 | |
| US8619859B2 (en) | Motion estimation apparatus and method and image encoding apparatus and method employing the same | |
| JP2011097572A (ja) | 動画像符号化装置 | |
| JP2001245303A (ja) | 動画像符号化装置および動画像符号化方法 | |
| US20080002774A1 (en) | Motion vector search method and motion vector search apparatus | |
| JP3823767B2 (ja) | 動画像の前景背景領域分離方法、及びその方法を用いた条件付画素補填による動画像符号化方法 | |
| US20120008685A1 (en) | Image coding device and image coding method | |
| JP5441812B2 (ja) | 動画像符号化装置、及びその制御方法 | |
| JP5943733B2 (ja) | 画像符号化装置およびその制御方法ならびにプログラム | |
| KR100843418B1 (ko) | 화상 부호화 장치 및 화상 부호화 방법 | |
| JPH09130748A (ja) | 画像信号処理装置および記録/再生装置 | |
| JPH08307860A (ja) | シーン再エンコード装置 | |
| JP2000092499A (ja) | 画像符号化制御装置、画像符号化制御方法及び記憶媒体 | |
| JP2000032474A (ja) | 動画像符号化装置 | |
| WO2006126694A2 (en) | Video coding using an alternative reference frame for motion compensated prediction | |
| JP4898415B2 (ja) | 動画像符号化装置及び動画像符号化方法 | |
| JP4893311B2 (ja) | 圧縮符号化装置、伸張復号化装置 | |
| JP4857243B2 (ja) | 画像符号化装置及びその制御方法、コンピュータプログラム | |
| JPH08154250A (ja) | 動画像符号化装置 | |
| US6141451A (en) | Image coding method and apparatus | |
| JP2000165909A (ja) | 画像圧縮処理方法及び画像圧縮処理装置 | |
| JP3799842B2 (ja) | 静的映像検出方法、及び装置 | |
| JPH10191347A (ja) | 動き検出装置、動き検出方法、及び、記憶媒体 | |
| JPH06105299A (ja) | 動画像圧縮装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20060317 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20060317 |
|
| A977 | Report on retrieval |
Free format text: JAPANESE INTERMEDIATE CODE: A971007 Effective date: 20071106 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20071120 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20080118 |
|
| A131 | Notification of reasons for refusal |
Free format text: JAPANESE INTERMEDIATE CODE: A131 Effective date: 20081209 |
|
| A521 | Written amendment |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20090206 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20090303 |
|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20090316 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120319 Year of fee payment: 3 |
|
| R150 | Certificate of patent or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130319 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140319 Year of fee payment: 5 |
|
| LAPS | Cancellation because of no payment of annual fees |