JPH06326976A - 動き補償ビデオ信号処理方式 - Google Patents
動き補償ビデオ信号処理方式Info
- Publication number
- JPH06326976A JPH06326976A JP6066297A JP6629794A JPH06326976A JP H06326976 A JPH06326976 A JP H06326976A JP 6066297 A JP6066297 A JP 6066297A JP 6629794 A JP6629794 A JP 6629794A JP H06326976 A JPH06326976 A JP H06326976A
- Authority
- JP
- Japan
- Prior art keywords
- correlation
- motion
- video signal
- motion vector
- weighted
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N7/00—Television systems
- H04N7/01—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level
- H04N7/0135—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes
- H04N7/014—Conversion of standards, e.g. involving analogue television standards or digital television standards processed at pixel level involving interpolation processes involving the use of motion vectors
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/20—Analysis of motion
- G06T7/223—Analysis of motion using block-matching
- G06T7/231—Analysis of motion using block-matching using full search
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N5/00—Details of television systems
- H04N5/14—Picture signal circuitry for video frequency region
- H04N5/144—Movement detection
- H04N5/145—Movement estimation
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Signal Processing (AREA)
- Television Systems (AREA)
Abstract
ない動き補償ビデオ信号処理方式を得ること。 【構成】 入力映像対の一方内のサーチブロックを、入
力映像対の他方内の、複数ブロックより成る各サーチ区
域と比較して、各々が夫々のサーチブロックとサーチ区
域間の相関を表す相関値のアレイを含む第1の複数の原
相関面を発生する手段190と、原相関面から補間によ
り第2の複数の補間相関面を発生する手段200と、補
間相関面における最大相関点に応じて、各補間相関面か
ら夫々動きベクトルを発生する手段210とを設ける。
Description
理方式(装置及び方法)に関するものである。
ン方式変換、フィルム方式変換及びビデオ−フィルム方
式変換などに使用されている。英国公開特許出願GB−
A−2231749号に記載の如き動き補償テレビジョ
ン方式変換器では、連続する入力映像の対は、それらの
映像対の間の映像の動きを表す動きベクトルの組を発生
するように処理される。該処理は映像の別々のブロック
について行われるので、各動きベクトルは、夫々のブロ
ックの内容の映像間の動きを表す。
クに対する動きベクトルの組の部分集合(サブセット)
を導出する動きベクトル削減器に供給される。該サブセ
ットはそれから、動きベクトルのサブセットの1つを各
映像ブロックにおける各画素(ピクセル)に割当てる動
きベクトル選択器に送られる。各ピクセルに対し選択さ
れた動きベクトルは、入力映像間の動きを考慮に入れて
入力映像から出力映像を補間する動き補償補間器に供給
される。
力映像の各対に対する動きベクトルを発生し処理するの
に必要な極めて多くの計算を行う強力で複雑な処理装置
を必要とする。これは、映像が高精細度フォーマットで
ある場合、又は入力ビデオ信号に対して実時間で出力ビ
デオ信号を生じるような処理を行う場合に、特に当ては
まる。この場合、各出力映像に対する動きベクトルの組
を使用可能な時間(例えば、出力フィールド期間)内に
発生するために、同じ装置の多数の組を並列に動作させ
ることになる。
の点を改良した動き補償ビデオ信号処理方式を提供する
ことである。
償ビデオ信号処理装置は、入力ビデオ信号の入力映像対
間の映像の動きを表す動きベクトルを発生するものであ
って、上記入力映像対の一方の中のサーチブロックを、
該入力映像対の他方の中の、複数のブロックより成る夫
々のサーチ区域と比較して、各々が、上記夫々のサーチ
ブロック及びサーチ区域間の相関を表す相関値のアレイ
より成る、第1の複数の原相関面を発生する手段と、上
記の原相関面から補間によって第2の複数の補間された
相関面を発生する手段と、上記の補間された相関面にお
ける最大相関点に応じて、各補間された相関面から夫々
の動きベクトルを発生する手段とを具える。
は、ビデオ信号処理装置の大きな処理能力が必要であ
る。本発明は、相関面を発生するのに用いるブロック突
合せ処理に特に要求が多く、これらの要求を、複数の原
(ブロック突合せをした)相関面から補間された相関面
より動きベクトルを発生することにより、緩和できるこ
とを見出したものである。これにより、動きベクトルを
実時間で発生するための並列処理の必要がなくなるか又
は軽減され、ひいては装置の複雑さ(並びにこれに対応
するコスト及び大きさ)が減少する。
関値を有するが、好適な具体例では、各原相関面は、夫
々のサーチブロック及びサーチ区域間の内容の差を表す
相関値のアレイより成る。
間の輝度内容の差を表すのがよい。
ロック及びサーチ区域間の最小差を示す相関値を検出す
る手段を含むのがよい。
い。こうすると、装置のデータ処理装置を、ブロック突
合せにより発生される少数の相関面から補間によって動
きベクトル推定に用いる多数の相関面を発生することに
より、大幅に減らすことができる。
面は、原相関面の四角いアレイより成り、この四角いア
レイ内の各原相関面の位置は、夫々の入力映像内の対応
するサーチブロックの位置によって決まる。第2の複数
の補間された相関面は、補間された相関面の四角いアレ
イより成る。
成る場合に、多くの局部的な相関の最大点を見分け易く
するために、装置は、各補間された相関面における相関
値に該相関値のアレイ内の位置に応じた重み付け(加
重)値を乗じて、加重された相関値のアレイより成る加
重補間された相関面を発生する手段と、加重相関面にお
ける最大相関点を示す加重相関値に応じて、加重補間さ
れた相関面から動きベクトルを発生する手段とを具える
のがよい。
関点について確認テストを行い、当該点が相関面の残部
にわたって有効な相関の最大を表すかどうかを決める。
以前に、(加重されない)相関面が多くの明瞭な局部最
小点(相関最大点)を含む場合でも、映像の動きのゼロ
を示す点に近い相関最大点に重きをおき、有効な動きベ
クトル(即ち、確認テストに合格したもの)の発生を助
けるために、可変加重関数を足して相関面を「重み付
け」すべきである、と提案されたことがある。
号の入力映像対間の映像の動きを表す動きベクトルを発
生する動き補償ビデオ信号処理装置であって、入力映像
対の一方の中のサーチブロックを、該入力映像対の他方
の中の、複数のブロックより成る夫々のサーチ区域と比
較して、上記サーチブロック及び上記サーチ区域間の相
関を表す相関値のアレイより成る相関面を発生する手段
と、各相関値に、上記アレイ内の上記相関値の位置に応
じた加重値を乗じ、加重された相関値のアレイより成る
加重された相関面を発生する手段と、上記加重された相
関面内の最大相関点を示す加重された相関値に応じて、
上記加重された相関面から動きベクトルを発生する手段
とを具える装置を提供する。
加算して使用すると、相関面の平均レベルに応じて種々
異なる結果が得られることを見出している。これらの差
を解消するため、本発明は、相関面の平均レベルに応じ
て加重効果が変化する如き乗算する加重関数を与えてい
る。
避するため、加重値はすべてゼロでないのがよい。
の距離が増すに従って単調に増加するものがよい。
の動きがゼロであることを示す点である。
の増加関数を使用できるが、加重値は、所定点からの距
離の平方根に比例して増加するものがよい。
トルに対し、加重された相関面内の検出された最大相関
点がその加重された相関面内で有効な最大相関を表すか
どうかを決める所定の確認テストを行う手段を具える。
動きベクトルに従って出力ビデオ信号の出力映像を補間
する動き補償補間器を具えるのがよい。本発明による動
き補償ビデオ信号処理装置は、動き補償テレビジョン方
式変換器に用いて特に好適である。
テップを含む動き補償ビデオ信号処理方法を提供する。
即ち、入力映像対の一方の中のサーチブロックを、該入
力映像対の他方の中の、複数のブロックより成る夫々の
サーチ区域と比較して、各々が、上記夫々のサーチブロ
ック及びサーチ区域間の相関を表す相関値のアレイより
成る、第1の複数の原相関面を発生するステップ、上記
の原相関面からの補間により第2の複数の補間された相
関面を発生するステップ、上記補間された相関面内の最
大相関点に応じて、各補間相関面から夫々の動きベクト
ルを発生するステップ。
テップを含む動き補償ビデオ信号処理方法を提供する。
即ち、入力映像対の一方の中のサーチブロックを、該入
力映像対の他方の中の、複数のブロックより成る夫々の
サーチ区域と比較して、上記サーチブロック及び上記サ
ーチ区域間の相関を表す相関値のアレイより成る相関面
を発生するステップ、上記アレイ内の上記相関値の位置
に応じた加重値を各相関値に乗じて、加重された相関値
のアレイを有する加重された相関面を発生するステッ
プ、上記加重された相関面内の最大相関点を示す加重相
関値に応じて、上記加重相関面から動きベクトルを発生
するステップ。
る。図1は、本発明を用いた動き補償テレビジョン方式
変換装置を示すブロック図である。この装置は、飛越し
デジタルビデオ信号50(例えば、1125/60,
2:1高品位ビデオ信号(HDVS))を入力として受
信し、飛越しデジタルビデオ信号60(例えば、125
0/50,2:1HDVS)を出力として発生する。
/パッカー110に供給される。通常の精細度の入力信
号の場合、入力バッファ/パッカー110は映像データ
を高品位(16:9縦横比)フォーマットにフォーマッ
ト変換し、必要に応じて黒ピクセルを入れる。HDTV
入力の場合、入力バッファ/パッカー110は単にデー
タを一時記憶するだけである。データは入力バッファ/
パッカー110からマトリクス回路120に送られ、そ
こで(必要に応じ)入力ビデオ信号のフォーマットが標
準「CCIR勧告601」(Y,Cr,Cb)フォーマ
ットに変換される。
からタイムベース変換(TBC)及び遅延回路130に
送られると共に、サブサンプラー170を介してTBC
及び遅延回路180に送られる。TBC及び遅延回路1
30は、出力ビデオ信号の各フィールドの時間的位置を
決め、当該出力フィールドに時間的に最も近い入力ビデ
オ信号の2フィールドを、当該出力フィールドの補間に
使うために選択する。出力ビデオ信号の各フィールドに
対し、TBC及び遅延回路130により選択された2入
力フィールドは、適正に遅延されてから補間器140に
送られ、そこで出力フィールドが補間される。選択され
た2入力フィールドに対する各出力フィールドの時間的
位置を示す制御信号tが、TBC及び遅延回路130か
ら補間器140に供給される。
BC)及び遅延回路180も、同様な動作をするが、た
だ、サブサンプラー170から供給された空間的にサブ
サンプル(ダウンサンプル)されたビデオを用いる点が
異なる。サブサンプルされたビデオからTBC及び遅延
回路180により動きベクトルの発生に用いる入力フィ
ールド対が選択される。
入力ビデオ信号、出力ビデオ信号又は両方に付随する同
期信号に従って動作することができる。1つの同期信号
しか供給されない場合、2ビデオ信号の他方のフィール
ドのタイミングは、TBC及び遅延回路130,180
内で決定論的に発生される。
た、サブサンプルされた入力ビデオ信号のフィールド対
は、直接ブロック突合せ器190、データストリッパ2
00、動きベクトル推定器210、動きベクトル削減器
220、動きベクトル選択器230及び動きベクトルあ
と処理器240を含む動き処理器185に供給される。
入力フィールド対はまず直接ブロック突合せ器に送ら
れ、そこで、選択された2入力フィールドのうち時間的
に早い方におけるサーチブロックと、上記2入力フィー
ルドのうち時間的に遅い方における(もっと大きい)サ
ーチ区域との間の空間相関を表す相関面が計算される。
から、データストリッパ200はもっと多数の補間され
た相関面を発生し、それを動きベクトル推定器210に
送る。動きベクトル推定器210は、補間された相関面
内で最大相関点を検出する。(原相関面は、実際には上
記2入力フィールドのブロック間の差を表す。よって、
相関面上の最大相関点は実際には最小点であり、以下こ
れを「最小点」という。)最小点を検出するため、相関
面に補足点が補間される。これは、相関面の発生にサブ
サンプルされたビデオを用いることによる解像度の低下
を補うために行う。動きベクトル推定器210は、各相
関面上の検出した最小点から動きベクトルを発生し、こ
れを動きベクトル削減器220に供給する。
た各動きベクトルについて確認テストを行い、当該動き
ベクトルが全般的なノイズレベルよりかなり上であるか
どうかを確定し、各動きベクトルに確認テストの結果を
示す確認フラグを付ける。「閾」テストとして知られる
確認テストは、(図1の装置の他の特徴と共に)英国公
開特許出願GB−A−2231749号に記載されてい
る。確認テストについては、あとでもっと詳しく述べ
る。
ルが本物かどうかを調べるテストが行われる。このテス
トでは、相関面(検出された最小点の周囲の除外域を除
く。)を調べて次に低い最小点を検出する。この第2の
最小点が除外域の境界部にない場合、原最小点から導出
された動きベクトルは、潜在的に偽物である(偽物であ
るかも知れない)とのフラグが付けられる。
ルを動きベクトル選択器230に送る前に、出力フィー
ルドの各ピクセルに対して考えられる動きビクトルの選
択幅を減らす動作をする。出力フィールドを概念的にピ
クセルの複数ブロックに分け、各ブロックは、出力フィ
ールド内において、選択された入力フィールドの早い方
におけるサーチブロックの装置に対応する位置を有す
る。動きベクトル削減器は、4つの動きベクトルを1グ
ループにまとめて出力フィールドの各ブロックに対応さ
せ、4つの動きベクトルの当該グループの選択した1つ
を用いて最終的に当該ブロックにおける各ピクセルが補
間される。
クトルは、それらが隣接ブロックにおけるフラグのない
ベクトルと同一である場合、ベクトル削減時に再び適格
とされる。
1つとして、「適正な」動きベクトル(即ち、確認テス
ト及び偽物テストに合格した動きベクトル、或いは偽物
でないとして再び適格とされたもの)の発生頻度をカウ
ントする。ただし、それらの動きベクトルを得るために
用いた入力フィールドのブロックの位置は考慮しない。
適正な動きベクトルはそれから、頻度が減少する順に格
付けされる。互いに著しく異なる適正な動きベクトルの
うち最も共通するものは、「広域」動きベクトルとして
分類される。確認テストに合格した3つの動きベクトル
が、それから出力ピクセルの各ブロックに対して選択さ
れ、動きベクトル選択器230にゼロ動きベクトルと共
に供給され、更に処理される。これらの選択される3つ
の動きベクトルは、次のものから所定の優先順位で選択
される。 (i)対応するサーチブロックから発生された動きベク
トル (ii) 周りのサーチブロックから発生されたもの(「局
部」動きベクトル) (iii)広域動きベクトル。
して、サブサンプルされたTBC及び遅延回路180に
より選択され、動きベクトルの計算に使用された2入力
フィールドを受信する。これらのフィールドは、適正に
遅延されているので、それらのフィールドから導出され
たベクトルと同時に動きベクトル選択器230に供給さ
れる。動きベクトル選択器230は、出力フィールドの
ピクセル当たり1つの動きベクトルを有する出力を供給
する。この動きベクトルは、動きベクトル削減器220
から供給された当該ブロックに対する4つの動きベクト
ルから選択される。
クトルによって指示された、2入力フィールドのテスト
ブロック間の相関度を検出することが含まれる。テスト
ブロック間の最大相関度をもつ動きベクトルが、出力ピ
クセルの補間に用いるために選択される。「動きフラ
グ」も、ベクトル選択器により発生される。このフラグ
は、ゼロ動きベクトルにより指示されたブロック間相関
度が所定閾値より大きい場合、「静止」(動きなし)に
セットされる。
ル選択器230により選択された動きベクトルを、画像
の垂直スケーリングを反映するように作り直し、この作
り直したベクトルを補間器140に供給する。補間器1
40は、動きベクトルを用いて、タイムベース変換(T
BC)及び遅延回路130により選択された対応する2
つの(サブサンプルされない)飛越し入力フィールドか
ら出力フィールドを補間する。このとき、現在補間器1
40に供給されている動きベクトルにより示される映像
の動きがあれば、これを考慮に入れる。
いている部分に在ることを示す場合、補間器に供給され
る選択された2フィールドからのピクセルは、該2入力
フィールドに対する出力フィールドの時間的位置(制御
信号tで示される)に応じた相対的割合で組合せられ、
より近い入力フィールドのより大きい部分が使用される
ことになる。
合、時間的重み付けは使用されない。補間器140の出
力は、出力バッファ150に送られてHDVS出力信号
として出力されると共に、ダウンコンバータ160に送
られ動きフラグを用いて従来精細度の出力信号165が
発生される。
0から受けた入力フィールドの水平及び垂直空間サブサ
ンプリングを行う。水平サブサンプリングは、簡単な動
作であって、まず1/2帯域幅ローパスフィルタにより
前段濾波(本例の場合、2:1水平デシメーション(間
引き))を行い、それから各ビデオラインに沿って1つ
おきのビデオサンプルを捨て、これにより各ビデオライ
ンに沿うサンプル数を1/2に減らす。
は、入力ビデオ信号が飛越し走査されているので、複雑
である。これは、各飛越しフィールドにおけるビデオサ
ンプルの連続するラインが、完全なフレームの2つのビ
デオラインにより実効的に分離され、各フィールドのラ
インが前又は後のフィールドのラインとフレームの1ビ
デオライン分だけ垂直方向に変位していることを意味す
る。実際に使用する垂直サブサンプリング法は、最初に
垂直方向におけるローパス濾波段を含み(エイリアシン
グを避けるため)、その後に各ピクセルを垂直方向に1
/2ビデオライン分だけ下方(偶数フィールドの場合)
又は上方(奇数フィールドの場合)に実効的に変位させ
る濾波動作を含む。その結果得られる変位されたフィー
ルドは、2の率で垂直方向にサブサンプルされた連続的
に走査されたフレームと大体均等である。
関面は、該面が発生された2入力フィールドの早い方の
サーチブロックと、該2入力フィールドの遅い方の(よ
り大きい)サーチ区域との間の差を表すものである。し
たがって、相関のピークは、相関面300における最小
点310によって表される。相関面300における最小
点の位置は、該相関面から導出される動きベクトルの大
きさ及び方向を決める。
の相関面における最小点を検出することによって発生さ
れる。動き処理器185に供給される入力フィールドの
各対当たり、合計で8000の相関面がベクトル推定器
210に供給され、8000の動きベクトルの発生に使
用される。
相関面の合計数の1/4だけを、ブロック突合せ器19
0に供給された2つのサブサンプルされた入力フィール
ドのブロックを比較することにより、発生する。動きベ
クトルの発生に用いようとする相関面はそれから、ブロ
ック突合せ器により発生された相関面から補間される。
こうすると、2000の「原」相関面がブロック突合せ
器19により発生され、データストリッパ200に供給
されることになる。データストリッパ200は、この2
000の原相関面から8000の「補間された」相関面
を発生し、動きベクトル推定器に送る。
われる相関面の補間を示す図である。図3のAにおい
て、各原相関面(CS)400は、(ブロック突合せ器
190により)入力フィールド対の早い方のものの中の
個々の位置にあるサーチブロックを、入力フィールド対
の他方の中の(より大きな)サーチ区域と比較して発生
される。図3のbに示すように、サーチブロックは、各
入力フィールドに形成された格子パターン420におけ
る各位置(例えば、位置410)の中央にある。サーチ
ブロックから発生される原相関面は、格子上420に、
対応する相対位置410を有する。
せにより発生した2000から、動きベクトル推定器2
10に必要な8000に増すために、データストリッパ
200で補間処理が行われ、各原相関面400から4つ
の補間された相関面(以下「補間相関面」という。)4
30,440,450及び460が発生される。(実際
には、各補間相関面が周囲の或る数の原相関面によって
決まるように濾波処理を用いる。)
00の位置を中心とする実効位置を有するが、原相関面
400の位置から水平及び垂直方向に僅かに変位され
る。この変位は、図3のAに、原相関面の格子(即ち、
サーチブロック格子420)の分数の水平及び垂直スペ
ーシングで示す。詳しくいえば、原相関面400から発
生される4つの補間相関面(CS)430,440,4
50及び460の変位は、次のとおりである。 補間CS 430‥‥(−1/4水平方向、−1/4垂
直方向) 補間CS 440‥‥(−1/4水平方向、+1/4垂
直方向) 補間CS 450‥‥(+1/4水平方向、+1/4垂
直方向) 補間CS 460‥‥(+1/4水平方向、−1/4垂
直方向)
3のCに示す。この図は、補間相関面の実効位置480
の格子470を示す。図3のCにはまた、比較のため
に、原相関面のそれらの位置を示す格子420を(破線
で)示している。
発生への補間相関面の用い方を説明する。図4は、垂直
バー510が時計方向に回転する映像の一部500を示
し、図5のA及びBは夫々、該バー510の動きを表す
ため映像から発生された原及び補間相関面を示す。
の動きの水平成分、−vaはバー510の下端の動きの
水平成分を示す。該バーの長さ方向に沿い、水平成分は
バー510の回転中心520におけるゼロを通って連続
的に変化する。
0,540及び550は、上記映像の部分500から発
生される。図には、これら原相関面の各々の断面を示
す。相関面530では、最小点535はバー510の上
端の動きを表し、その動きの水平成分+vaに対応す
る。相関面540では、最小点545は動きゼロを示す
点にあり、したがって、これはバー510の中心520
の動きを表す。相関面550では、最小点555は、水
平成分−vaを表す点にあり、該バーの下端の動きを表
す。
は、ベクトル推定器210での動きベクトルの発生には
使用されない。その代わりに、原相関面の水平及び垂直
スペーシングが夫々1/2の補間相関面が発生され、こ
れが動きベクトルの補間に使用される。図5のBに、こ
のような5つの補間相関面560,570,580,5
90及び600の断面を示す。これら5つの補間相関面
560〜600は、夫々次のような水平動き成分を示す
最小点565,575,585,595及び605を有
する。 最小点565:+va(バー510の上端の水平の動
き) 最小点575:+va/2(バー510の上端及び中心
520の中間点の水平の動き) 最小点585:0(バー510の中心520の水平の動
き) 最小点595:−va/2(バー510の下端及び中心
520の中間点の水平の動き) 最小点605:−va(バー510の下端の水平の動
き)
相関面530〜550の垂直空間解像度の2倍で回転バ
ー510の動きを表す。
トリッパ200の要部の各半部を示す図である。図6に
おいて、原相関面を表す入力データ610が、ブロック
突合せ器190から或る数の相関面遅延回路620に直
列形式で供給される。各相関面(CS)遅延回路620
は、入力データ610を、1相関面を表すデータの送信
時間に等しい期間だけ遅延させる。こうすると、各CS
遅延回路620の入力及び出力におけるデータが、隣接
する2相関面内の同一点を表すようになる。
路630及び640に供給され、相関面の1行(即ち、
サーチブロックの1行(横列)から発生された相関面)
の送信時間に等しい期間だけ遅らされる。こうすると、
行遅延回路(630又は640)の入力及び出力におけ
るデータが、2つの隣接する行における対応位置にある
2つの相関面内の同一点を表す。各行遅延回路630,
640の出力は、一連の4つのCS遅延回路620に供
給される。
の出力データ及び各行遅延回路630,640の出力デ
ータは、夫々のフィルタ係数C00,C01,‥‥C4
2を乗じたのち加算器650により合算される。加算器
650の合算出力660は、補間相関面内の連続する点
を表す。図6及び7に示すフィルタ構成を用いると、1
5個の周りの原相関面における対応位置を表すデータを
濾波して組合せることにより、各補間相関面が導出され
る。
00の相関面を発生すると、8000の相関面を直接ブ
ロック突合せによって発生する場合に比べて、データ処
理ハードウェアがかなり少なくて済む。
面を動きベクトル推定器210に送ると、それらは、各
面における最小差の点(最大相関点)を検出するために
調べられ、その点から夫々の動きベクトルが発生され
る。第2の最小点も相関面から検出されるが、実際の最
小値の周りの除外域は除かれる。それから確認テストが
行われ、相関面の残部について原最小点の有効性が検出
される。確認テストの基本形式は、第1及び第2の最小
点間の差が所定閾値より大きいかどうかの検出を含む。
た最小点を示す。詳しくいうと、第1の最小点700は
除外域710に囲まれており、該除外域の外の次に低い
点(即ち、点720)が第2の最小点として検出され
る。第1の最小点700は有効と考えられ、有効動きベ
クトルの発生に使用される。その理由は、第1及び第2
最小点間の相関の差730が所定閾値より大きいからで
ある。
本的確認テストで有効結果を生じない。図9に、この状
態を示し、第1の最小点800の周りに除外域810が
ある。除外域外の次に低い点(即ち、点820)は、第
2最小点として検出される。第1及び第2最小点800
及び820の相関差830は、所定の閾値より小さいの
で、最小点800から発生される動きベクトルは有効と
認められない。
用可能の動きベクトルが無効として捨てられることにな
る。図9の相関面における複数の最小点の1つを検出し
動きベクトルの発生に使用するため、最小点を検出する
前に相関面に加重(重み付け)関数を適用する。この加
重処理を図10,11,12,13,14及び15に示
す。
CS(x,y)を示し、図10のBは高平均レベルをも
つ類似の相関面CS(x,y)を示す。図11のA及び
Bに、円錐形の加重関数w(x,y)を示す。この関数
は、次の式で表される。 w(x,y)=A・{(x−xC )2 +(y−yC )2 }1/n
もよい。座標xC 及びyC は、相関面の中心、即ちゼロ
の映像の動きを示す点を表す。
すように、定数Bを円錐(形)加重関数w(x,y)に
加える。円錐加重関数と定数Bとの和はそれから、相関
面と組合され(に乗ぜられ)、図13のA,Bに示すよ
うに、夫々加重された相関面を発生する。図13のA,
Bにおいては、明瞭な最小点(900,910)が検出
される。
えた場合の結果を図14のA,Bに示す。低平均レベル
相関面(図14のA)では、不正確な最小点が発生して
いる。
錐加重関数のみ(定数Bなし)を各相関面CS(x,
y)に乗じた場合の結果を示す。図15のA及びBは、
2つの各相関面に誤って動きゼロを表す偽最小点が発生
する可能性を示す。
値(B)に可変関数(円錐関数)を足した乗算用加重関
数を使用すると、相関面に適用された重み付けが該相関
面の平均レベルに従ってスケール(拡大縮小)される。
更に、加重関数は常にゼロでないため、加重関数を適用
しても誤った最小点は発生しない。
示すブロック図である。相関面は、乗算器950に連続
データ値として直列形式で供給され、該乗算器は、加重
係数メモリ960(例えば、リードオンリメモリ)に記
憶された加重値を各データ値に乗算する。夫々の相関面
内の各データ値の位置に応じて、加重係数メモリ960
により適正な加重値が循環的に出力される。
とベクトル推定器の間に介挿される。加重は、原又は補
間相関面のどちらかに適用してもよい。
すべての相関面をブロック突合せにより(即ち、相関面
の補間を行わない。)発生する。この場合、直接発生し
た相関面に図16の装置により加重を施したのち、ベク
トル推定を行ってもよい。
が、本発明は、これら特定の具体例に限定されるもので
はなく、特許請求の範囲内において種々の変形、変更を
することができるものである。
入力映像の各対に対する動きベクトルを発生し処理する
のに極めて多くの計算を行う複雑な処理装置を必要とし
ない動き補償ビデオ信号処理方式を得ることができる。
装置を示すブロック図である。
示す図である。
(断面)を示す説明図である。
ブロック図である。
ブロック図である。
面を示す図である。
面を示す図である。
す図である。
じたものを示す図である。
えたものを示す図である。
じたものを示す図である。
る。
ク突合せ器) 200 第2の複数の補間相関面を発生する手段(デー
タストリッパ) 210 動きベクトルを発生する手段(ベクトル推定
器)
Claims (19)
- 【請求項1】 入力ビデオ信号の入力映像の対の間の映
像の動きを表す動きベクトルを発生する動き補償ビデオ
信号処理装置であって、 上記入力映像対の一方の中のサーチブロックを、上記入
力映像対の他方の中の、複数のブロックより成る夫々の
サーチ区域と比較して、各々が、上記夫々のサーチブロ
ック及びサーチ区域間の相関を表す相関値のアレイより
成る、第1の複数の原相関面を発生する手段と、 上記原相関面から補間により第2の複数の補間された相
関面を発生する手段と、 上記補間された相関面における最大相関点に応じて、各
補間された相関面から夫々動きベクトルを発生する手段
とを具えた動き補償ビデオ信号処理装置。 - 【請求項2】 各原相関面は、上記夫々のサーチブロッ
ク及び上記夫々のサーチ区域間の内容の差を表す相関値
のアレイより成る請求項1の装置。 - 【請求項3】 上記相関値は、上記サーチブロック及び
上記サーチ区域間の輝度の内容の差を表す請求項2の装
置。 - 【請求項4】 上記の動きベクトルを発生する手段は、
上記サーチブロック及び上記サーチ区域間の最小差を示
す相関値を検出する手段を含む請求項2の装置。 - 【請求項5】 上記第2の複数は上記第1の複数より大
きい請求項1の装置。 - 【請求項6】 上記第1の複数の原相関面は原相関面の
四角いアレイより成り、該四角いアレイ内の各原相関面
の位置は、上記夫々の入力映像内の対応するサーチブロ
ックの位置によって決まり、上記第2の複数の補間され
た相関面は補間された相関面の四角いアレイより成る請
求項1の装置。 - 【請求項7】 各補間相関面が相関値のアレイより成
り、 各補間相関面における上記相関値に、上記アレイ内の上
記相関値の位置に応じた加重値を乗じることにより、加
重相関値のアレイより成る加重補間相関面を発生する手
段と、 上記加重相関面における最大相関点を示す加重相関値に
応じて、上記加重補間相関面から動きベクトルを発生す
る手段とを具える請求項1の装置。 - 【請求項8】 入力ビデオ信号の入力映像の対の間の映
像の動きを表す動きベクトルを発生する動き補償ビデオ
信号処理装置であって、 上記入力映像対の一方の中のサーチブロックを、上記入
力映像の他方の中の、複数のブロックより成る夫々のサ
ーチ区域と比較して、上記サーチブロック及び上記サー
チ区域間の相関を表す相関値のアレイより成る相関面を
発生する手段と、 上記各相関値に、上記アレイ内の上記相関値の位置に応
じた加重値を乗じることにより、加重された相関値のア
レイより成る加重相関面を発生する手段と、 上記加重相関面は最大相関点を示す加重された相関値に
応じて、上記加重相関面から動きベクトルを発生する手
段とを具えた動き補償ビデオ信号処理装置。 - 【請求項9】 上記加重値はすべてゼロでない請求項8
の装置。 - 【請求項10】 上記加重値は、上記相関値のアレイ内
の所定点から離れるにつれて単調に増加するものである
請求項8の装置。 - 【請求項11】 上記所定点は、映像の動きがゼロであ
ることを表す点である請求項10の装置。 - 【請求項12】 上記加重値は、上記所定点からの距離
の平方根に比例して増加するものである請求項10の装
置。 - 【請求項13】 各動きベクトルに所定の確認テストを
施して、上記加重相関面において検出された上記最大相
関点が上記加重相関面において有効な相関の最大を表す
かどうかを決める手段を含む請求項8の装置。 - 【請求項14】 上記入力映像対から発生された上記動
きベクトルに従って、出力ビデオ信号の出力映像を補間
する動き補償補間器を含む請求項1の装置。 - 【請求項15】 上記入力映像対から発生れた上記動き
ベクトルに従って、出力ビデオ信号の出力映像を補間す
る動き補償補間器を含む請求項8の装置。 - 【請求項16】 請求項1の装置を具える動き補償テレ
ビジョン方式変換器。 - 【請求項17】 請求項8の装置を具える動き補償テレ
ビジョン方式変換器。 - 【請求項18】 入力ビデオ信号の入力映像の対の間の
映像の動きを表す動きベクトルを発生する動き補償ビデ
オ信号処理方法であって、 上記入力映像対の一方の中のサーチブロックを、上記入
力映像対の他方の中の、複数のブロックより成る夫々の
サーチ区域とを比較して、各々が、上記夫々のサーチブ
ロック及びサーチ区域間の相関を表す相関値のアレイよ
り成る、第1の複数の原相関面を発生するステップと、 上記原相関面から補間により第2の複数の補間された相
関面を発生するステップと、 上記補間された相関面における最大相関点に応じて、各
補間された相関面から夫々動きベクトルを発生するステ
ップとを含む動き補償ビデオ信号処理方法。 - 【請求項19】 入力ビデオ信号の入力映像の対の間の
映像の動きを表す動きベクトルを発生する動き補償ビデ
オ信号処理方法であって、 上記入力映像対の一方の中のサーチブロックを、上記入
力映像対の他方の中の、複数のブロックより成る夫々の
サーチ区域と比較して、上記サーチブロック及び上記サ
ーチ区域間の相関を表す相関値のアレイより成る相関面
を発生するステップと、 上記各相関値に、上記アレイ内の上記相関値の位置に応
じた加重値を乗じることにより、加重された相関値のア
レイより成る加重相関面を発生するステップと、 上記加重相関面内の最大相関点を示す加重された相関値
に応じて、上記加重相関面から動きベクトルを発生する
ステップとを含む動き補償ビデオ信号処理方法。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| GB9307410A GB2277000B (en) | 1993-04-08 | 1993-04-08 | Motion compensated video signal processing |
| GB9307410:2 | 1993-04-08 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH06326976A true JPH06326976A (ja) | 1994-11-25 |
Family
ID=10733597
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6066297A Pending JPH06326976A (ja) | 1993-04-08 | 1994-04-04 | 動き補償ビデオ信号処理方式 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US5485224A (ja) |
| JP (1) | JPH06326976A (ja) |
| GB (2) | GB2309350B (ja) |
Families Citing this family (14)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| GB2280811B (en) * | 1993-08-03 | 1998-02-25 | Sony Uk Ltd | Motion compensated video signal processing |
| JP3319133B2 (ja) * | 1994-03-29 | 2002-08-26 | ソニー株式会社 | 画像プリンタ装置 |
| JP3268953B2 (ja) * | 1995-02-27 | 2002-03-25 | 三洋電機株式会社 | 追尾領域設定装置,動きベクトル検出回路およびそれを用いた被写体追尾装置 |
| JPH09212650A (ja) * | 1996-02-05 | 1997-08-15 | Sony Corp | 動きベクトル検出装置および検出方法 |
| JP2001197501A (ja) * | 2000-01-07 | 2001-07-19 | Fujitsu Ltd | 動きベクトル探索器及び動きベクトル探索方法並びに動画像符号化装置 |
| US7096132B2 (en) * | 2002-10-17 | 2006-08-22 | Qualcomm Incorporated | Procedure for estimating a parameter of a local maxima or minima of a function |
| US6873910B2 (en) | 2002-10-22 | 2005-03-29 | Qualcomm Incorporated | Procedure for searching for position determination signals using a plurality of search modes |
| GB2422976B (en) * | 2005-02-08 | 2007-05-23 | Imagination Tech Ltd | Conversion of video data from interlaced to non-interlaced format |
| US7885480B2 (en) * | 2006-10-31 | 2011-02-08 | Mitutoyo Corporation | Correlation peak finding method for image correlation displacement sensing |
| GB2443858A (en) * | 2006-11-14 | 2008-05-21 | Sony Uk Ltd | Alias avoiding image processing using directional pixel block correlation and predetermined pixel value criteria |
| US8073287B1 (en) * | 2007-02-26 | 2011-12-06 | George Mason Intellectual Properties, Inc. | Recognition by parts using adaptive and robust correlation filters |
| JP4846644B2 (ja) * | 2007-03-30 | 2011-12-28 | 株式会社東芝 | 映像信号補間装置および映像信号補間方法 |
| JP6242282B2 (ja) * | 2014-04-30 | 2017-12-06 | 日本電子株式会社 | ドリフト量計算装置、ドリフト量計算方法、および荷電粒子線装置 |
| DE102016104732A1 (de) * | 2016-03-15 | 2017-09-21 | Connaught Electronics Ltd. | Verfahren zur Bewegungsabschätzung zwischen zwei Bildern eines Umgebungsbereichs eines Kraftfahrzeugs, Rechenvorrichtung, Fahrerassistenzsystem sowie Kraftfahrzeug |
Family Cites Families (13)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4663665A (en) * | 1985-01-07 | 1987-05-05 | Nippon Hoso Kyokai | TV system conversion apparatus |
| US5111511A (en) * | 1988-06-24 | 1992-05-05 | Matsushita Electric Industrial Co., Ltd. | Image motion vector detecting apparatus |
| GB2222498A (en) * | 1988-09-05 | 1990-03-07 | Philips Electronic Associated | Picture motion measurement |
| JPH07105949B2 (ja) * | 1989-03-20 | 1995-11-13 | 松下電器産業株式会社 | 画像の動きベクトル検出装置および揺れ補正装置 |
| GB2231226B (en) * | 1989-04-27 | 1993-09-22 | Sony Corp | Motion dependent video signal processing |
| GB2231227B (en) * | 1989-04-27 | 1993-09-29 | Sony Corp | Motion dependent video signal processing |
| GB2231748B (en) * | 1989-04-27 | 1993-08-18 | Sony Corp | Motion dependent video signal processing |
| US4937666A (en) * | 1989-12-04 | 1990-06-26 | Bell Communications Research, Inc. | Circuit implementation of block matching algorithm with fractional precision |
| GB2248361B (en) * | 1990-09-28 | 1994-06-01 | Sony Broadcast & Communication | Motion dependent video signal processing |
| CA2087946A1 (en) * | 1991-05-24 | 1992-11-25 | Michael Burl | Video image processing |
| GB2263601B (en) * | 1992-01-24 | 1995-05-24 | Sony Broadcast & Communication | Motion compensated video signal processing |
| GB2266023B (en) * | 1992-03-31 | 1995-09-06 | Sony Broadcast & Communication | Motion dependent video signal processing |
| GB2272596B (en) * | 1992-11-10 | 1997-06-11 | Sony Broadcast & Communication | Motion compensated video signal processing |
-
1993
- 1993-04-08 GB GB9707521A patent/GB2309350B/en not_active Expired - Fee Related
- 1993-04-08 GB GB9307410A patent/GB2277000B/en not_active Expired - Fee Related
-
1994
- 1994-02-04 US US08/191,924 patent/US5485224A/en not_active Expired - Lifetime
- 1994-04-04 JP JP6066297A patent/JPH06326976A/ja active Pending
Also Published As
| Publication number | Publication date |
|---|---|
| GB2277000A (en) | 1994-10-12 |
| GB9307410D0 (en) | 1993-06-02 |
| GB9707521D0 (en) | 1997-06-04 |
| US5485224A (en) | 1996-01-16 |
| GB2309350B (en) | 1998-01-07 |
| GB2309350A (en) | 1997-07-23 |
| GB2277000B (en) | 1997-12-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5600377A (en) | Apparatus and method for motion compensating video signals to produce interpolated video signals | |
| JP3845456B2 (ja) | 動き補正ビデオ信号処理方式 | |
| US5631706A (en) | Converter and method for converting video signals of interlace format to video signals of progressive format | |
| US20030086498A1 (en) | Apparatus and method of converting frame and/or field rate using adaptive motion compensation | |
| EP0629083A1 (en) | Interlaced-to-progressive scanning converter having a double-smoothing function and a method therefor | |
| CA2146884A1 (en) | Motion adaptive scan-rate conversion using directional edge interpolation | |
| JPH01243788A (ja) | インタレース・フィールド走査型画像信号処理方法及び装置 | |
| JPH06326976A (ja) | 動き補償ビデオ信号処理方式 | |
| US5602591A (en) | System for generating a weighting coefficient using inter-frame difference signals at a center pixel for detecting motion information and at pixels surrounding the center pixel and quantizing the difference signal at the center pixel | |
| JP3619542B2 (ja) | 動き補正ビデオ信号処理装置及び方法 | |
| JPH04234283A (ja) | 動き評価ハードウェアとビデオシステムのデータ伝送容量要求を低減する方法と装置 | |
| EP1151606B1 (en) | Classified adaptive spatio-temporal format conversion method and apparatus | |
| JPH0795591A (ja) | ディジタル画像信号処理装置 | |
| JP3875286B2 (ja) | 動きベクトル発生方式 | |
| KR100931110B1 (ko) | 퍼지 룰 기반 에지 복원 알고리즘을 이용하는 디인터레이싱장치 및 방법 | |
| JPH06326980A (ja) | 動き補償映像信号処理方式 | |
| JP4140091B2 (ja) | 画像情報変換装置および画像情報変換方法 | |
| JP3469626B2 (ja) | 動き補償ビデオ信号処理装置及びビデオ信号処理方法 | |
| EP1636987B1 (en) | Spatial signal conversion | |
| JPH09224223A (ja) | 映像信号処理回路 | |
| US8368809B2 (en) | Frame rate conversion with motion estimation in a plurality of resolution levels | |
| GB2277006A (en) | Generating motion vectors; subsampling video signals, interpolating correlation surfaces | |
| JPH0779417A (ja) | 動き補正ビデオ信号処理方式 | |
| EP0575862B1 (en) | Method and apparatus for adaptive interpolation | |
| JP2770300B2 (ja) | 画像信号処理処置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040120 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040218 |
|
| R150 | Certificate of patent (=grant) or registration of utility model |
Free format text: JAPANESE INTERMEDIATE CODE: R150 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Year of fee payment: 4 Free format text: PAYMENT UNTIL: 20080227 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090227 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Year of fee payment: 5 Free format text: PAYMENT UNTIL: 20090227 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Year of fee payment: 6 Free format text: PAYMENT UNTIL: 20100227 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Year of fee payment: 7 Free format text: PAYMENT UNTIL: 20110227 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120227 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120227 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Year of fee payment: 9 Free format text: PAYMENT UNTIL: 20130227 |
|
| FPAY | Renewal fee payment (prs date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140227 Year of fee payment: 10 |
|
| LAPS | Cancellation because of no payment of annual fees |