JPH05257196A - 動きベクトル検出装置 - Google Patents

動きベクトル検出装置

Info

Publication number
JPH05257196A
JPH05257196A JP4088337A JP8833792A JPH05257196A JP H05257196 A JPH05257196 A JP H05257196A JP 4088337 A JP4088337 A JP 4088337A JP 8833792 A JP8833792 A JP 8833792A JP H05257196 A JPH05257196 A JP H05257196A
Authority
JP
Japan
Prior art keywords
motion vector
area
block
image
motion
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4088337A
Other languages
English (en)
Other versions
JP3209785B2 (ja
Inventor
Toshiaki Kondo
俊明 近藤
Masayoshi Sekine
正慶 関根
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP08833792A priority Critical patent/JP3209785B2/ja
Priority to US08/029,550 priority patent/US5731849A/en
Priority to DE69322423T priority patent/DE69322423T2/de
Priority to EP93301869A priority patent/EP0560610B1/en
Publication of JPH05257196A publication Critical patent/JPH05257196A/ja
Application granted granted Critical
Publication of JP3209785B2 publication Critical patent/JP3209785B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【目的】 動きベクトルの検出精度を向上させる。 【構成】 入力画像を複数のブロックに分割し、該ブロ
ック毎に動きベクトルを検出する動きベクトル検出手段
100〜130と、該動きベクトル検出手段からの動き
ベクトルから同じ動きをしている領域を抽出し、該領域
内の動きベクトル値を、前記ブロックそれぞれの前記領
域内に占める位置情報に応じた重み付け平均を行って算
出する動きベクトル算出手段140とを備えている。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、動画像信号の符合化装
置や画像振れ補正装置に配置される動きベクトル検出装
置の改良に関するものである。
【0002】
【従来の技術】従来、画像の符合化装置や画像振れ補正
装置に必要な動きベクトル検出方法としては、米国特許
第3890462号や特公昭60−46878号等に開
示されている時空間勾配法、或は、相関演算に基づく相
関法やブロックマッチング法が知られている。時空間勾
配法については、B.K.P,Hornらにより、Artificial Int
elligence 17,p.185〜203(1981) で詳しく論じられてお
り、また、マッチング演算については、尾上守夫らによ
り、情報処理Vol.17,No.7,p634〜640 July 1976で詳し
く論じられている。
【0003】時空間勾配法は、フレ−ム(或はフィ−ル
ド)間の輝度差dと画面内の画素間の輝度差Δから、画
像の動き量を「d/Δ」で表す方法である。これは、カ
メラから得られる信号がフィ−ルド周期の時間平均であ
り、画像の動き量が大きいほどエッジが鈍り、画素間の
輝度差Δが小さくなる性質を利用し、フレ−ム(或はフ
ィ−ルド)間の輝度差dを信号Δで正規化したものであ
る。
【0004】一方、ブロックマッチング法(テンプレ−
トマッチング法とも呼ばれる)は入力画像信号を適当な
大きさのブロック(例えば、8画素×8ライン)に分割
し、ブロック単位に前のフレ−ム(或はフィ−ルド)の
一定範囲の画素との差を計算し、この差の絶対値の和が
最小となる前のフレ−ム(或はフィ−ルド)のブロック
を探索する。当該ブロックの相対的なずれがそのブロッ
クの動きベクトルを表している。
【0005】
【発明が解決しようとする課題】しかしながら、上記の
従来例では、画面内に複数の異なる動きがあった場合
に、この異なる動きの境界にまたがるブロックからは、
被写体の出現、隠蔽に起因する対応点のミスマッチン
グ、或は他の被写体の異なる動きの影響から信頼性の低
い動きベクトルしか検出できず、当該ブロックから検出
される誤った動きベクトルにより、符合化装置の符合化
精度や画像振れ補正装置の補正精度が著しく劣化すると
いう問題がある。
【0006】本発明の目的は、上記の点に鑑み、動きベ
クトルの検出精度を向上させることのできる動きベクト
ル検出装置を提供することである。
【0007】
【課題を解決するための手段】本発明は、入力画像を複
数のブロックに分割し、該ブロック毎に動きベクトルを
検出する動きベクトル検出手段と、該動きベクトル検出
手段からの動きベクトルから同じ動きをしている領域を
抽出し、該領域内の動きベクトル値を、前記ブロックそ
れぞれの前記領域内に占める位置情報に応じた重み付け
平均を行って算出する動きベクトル算出手段、或は、該
動きベクトル検出手段からの動きベクトルから同じ動き
をしている領域を抽出し、該領域内の動きベクトル値
を、前記ブロックそれぞれの前記入力画像中に占める位
置情報に応じた重み付け平均を行って算出する動きベク
トル算出手段とを備えている。
【0008】
【作用】動きベクトル算出手段は、ブロックそれぞれ
の、同じく動きをしている領域内に占める位置情報、或
は、ブロックそれぞれの入力画像中に占める位置情報、
つまり各ブロックの空間的或は時間的な隣接度に応じた
重み付け処理を施して動きベクトル値を算出している。
【0009】
【実施例】以下、本発明を図示の実施例に基づいて詳細
に説明する。
【0010】図1は本発明の第1の実施例を適用した画
像振れ補正装置を組み込んだビデオカメラの構成を示す
ブロック図である。
【0011】図1において、10は被写体、20は撮影
レンズ、30は例えば二次元CCDから成る撮像素子、
40は例えば二次元CCDの様な撮像素子30からの出
力信号を保持するサンプルホ−ルド(S/H)回路、5
0はオ−トゲインコントロ−ル(AGC)回路、60は
アナログ−ディジタル(A/D)変換器、70は例えば
二次元CCDの様な撮像素子30からの色差線順次信号
を2水平走査期間だけ遅延させる遅延回路、80は色信
号処理回路、90は色信号のディジタル−アナログ(D
/A)変換器、95は色信号出力端子である。
【0012】100は輝度信号に混入する色信号を除去
するためのロ−パスフィルタ(LPF)、110は輝度
信号の高周波成分を強調するエンハンサ、120はガン
マ補正器、130は動きベクトル検出回路、140は各
ブロックの信頼性の判断を行うマイクロコンピュ−タ、
150はメモリ読み出し制御回路、160はフィ−ルド
或はフレ−ムを記憶するメモリ、170は輝度信号のD
/A変換器、180は輝度信号出力端子である。
【0013】次に、上記構成におけるビデオカメラの動
作について説明する。
【0014】被写体10は撮影レンズ20により撮像素
子30上に投影され、ここで光電変換される。サンプル
ホ−ルド40は撮像素子30の出力信号を保持し、引き
続くAGC回路50は自動的に信号の利得を制御する。
A/D変換器60は、AGC回路50の出力信号をA/
D変換する。2水平走査期間遅延回路70は、撮像素子
30からの色差線順次信号を「1H」遅延信号と「0H
+2H」遅延信号に分離し、それぞれ輝度信号処理部
(LPF100以降の回路)と色信号処理回路80に送
る。
【0015】色信号処理回路80では色信号が生成さ
れ、この色信号は引き続くD/A変換器90でアナログ
信号に変換されて色信号出力端子95から出力される。
【0016】一方、輝度信号処理部に送られた信号は、
先ずLPF100に入力される。このLPF100は、
色差順次信号からキャリア成分を除去し、輝度信号分離
を行う。次のエンハンサ110は、画質向上のために被
写体のエッジなど高周波成分を強調する処理を施す。通
常は、映像信号の二次微分を原信号に付加する。ガンマ
補正器120は、ハイライト部分での飽和を防ぎ、ダイ
ナミックレンジを広げる。動きベクトル検出回路130
は、前記時空勾配法に基づく回路で構成しても良いし、
同じく前記マッチング演算に基づく回路で構成しても良
いが、本実施例では実時間処理できる検出方法である必
要がある。メモリ160は、輝度信号を所定時間(本実
施例では、1フィ−ルド時間)遅延する遅延回路であ
り、1フィ−ルド前の輝度信号を記憶し現フィ−ルドと
の時空勾配法の演算、或は相関演算を可能にする。マイ
クロコンピュ−タ140は、動きベクトル検出回路13
0で検出される動きベクトルの分布(オプティカルフロ
−)から、先ず補正対象となる手振れによる動きベクト
ルを出力しているブロックを抽出し、更に当該ブロック
からの出力信号に当該ブロックの囲まれ具合に応じた重
み付けを実行し、その瞬間の画像の動き量を計算する。
メモリ読み出し制御回路150は、マイクロコンピュ−
タ140で計算された最終の動きベクトルを相殺(又は
補正)するようにメモリ160の読み出し位置を制御す
る。メモリ160より読み出された輝度信号は、D/A
変換器170によってアナログ信号に変換され、輝度信
号出力端子180から出力される。
【0017】次に、マイクロコンピュ−タ140内で行
われる動きベクトルの信頼性評価の仕方を図2乃至図6
を用いて説明する。
【0018】図2は画像信号の入力からその瞬間に防振
すべき領域(以下、防振領域と記す)判断までの流れを
示す図である。
【0019】図2(a)は入力画像であり、「8×6」
個のブロックに分割されている。図2(b)は各ブロッ
ク毎に動きベクトルを検出した結果を示している。この
ような動きベクトルの分布図を一般にオプティカルフロ
−図と呼ぶ。図2(b)では、画面中央部と周辺部に大
きく2つの異なる動きをしている領域が存在しているこ
とが分かる。図2(c)はオプティカルフロ−図から防
振領域を抽出した結果である。
【0020】動きベクトルから防振領域を抽出する手法
としては、既に出願済みの特願昭63−269554号
等に記載の各ブロック毎の動きベクトルの時間方向加算
法がある。
【0021】図3は、抽出された領域に「1値」、対象
外とされた領域に「0値」を割り当てた2値の防振領域
マップ(有効領域)である。
【0022】通常は、当該防振領域マップを、検出され
た動きベクトルに乗算して、有効領域を抽出し、当該有
効領域内の動きベクトルを均一な重みで単純平均するこ
とにより、画像の動き量を求める。
【0023】図4は、図3に示されるような防振領域マ
ップにかけるコンボル−ションマスクの一例である。
【0024】図4のマスクの意味するところは、今注目
しているブロックの上下、左右方向に隣接するブロック
が存在する場合には、当該注目しているブロックにそれ
ぞれポイント1を与え、斜め方向に接するブロックが存
在する場合には、ポイント0.5 を与えて、当該注目して
いるブロックが他のブロックに囲まれている程ポイント
を高くしていくというものである。斜め方向のポイント
が低いのは、一般に画像信号には斜め成分が少ないとい
う特性に基づいている。なお、コンボル−ションは有効
ブロック(値「1」が挿入されているブロック)のみを
対象として行うか、画面全域にコンボル−ションした結
果に防振領域マップをAND演算(論理積演算)し、非
防振領域(無効領域)の値は「0」のままにする。
【0025】図5は、コンボル−ションマスクを図4に
示す「3×3」から「5×5」に拡張したときの例であ
る。
【0026】コンボル−ションマスクのサイズやマスク
内の重み係数(即ち、ポイントの与え方)は撮影条件に
応じて切り換えても良い。
【0027】図6は、図3の防振領域マップの有効領域
に図4のマスクをコンボル−ション結果を示している。
【0028】図6に示されている係数値がその該当する
ブロックから検出される動きベクトルの信頼性を表して
おり、この重みに従って動きベクトルの平均処理すれば
良い。
【0029】以上の処理により求められた動きベクトル
を用いてメモリからの画像の読み出し位置を決定し、不
快な手振れ成分を補正した画像を輝度信号出力端子18
0より出力する。
【0030】(第2の実施例)前記の第1の実施例で
は、防振領域マップの有効領域に対して、あるマスクを
コンボル−ションした結果にしたがって動きベクトルの
重み付け平均処理を行っているが、この実施例では、前
記第1の実施例で求まった動きベクトルそのものの信頼
性を、マスクをコンボル−ションした結果得られた重み
係数の総和、すなわち前記ポイントの総和を用いて改め
て評価するもので、前記第1の実施例と併用することが
できる。
【0031】図7は、画面内の「8×6」個の全てのブ
ロックが有効だと判断された場合に図4のコンボル−シ
ョンマスクをかけた結果である。
【0032】図7の全ての重み係数の総和はこの場合
「282」で、重み係数の総和の上限である。防振領域
の面積は大きいほど当該領域から検出される動きベクト
ルの信頼性は高いため、前記重み係数の総和の大小から
改めて動きベクトルの信頼性を評価することができる。
【0033】図8は、前記重み係数の総和に応じた信頼
性評価関数を表している。
【0034】ポイント総数が小さい場合は、抽出された
領域が小さいか、或は、バラバラに散在する場合で、い
ずれも動きベクトルが誤検出された可能性が高いため、
「1」未満の小さな係数を乗算して以後の処理への影響
を抑える。なお、画面内のブロックの数を「M×N」個
だとすると、ポイントの分布は 0≦(ポイント総数)≦7MN−4M−4N+2 で表される。
【0035】以上の処理は、図1のマイクロコンピュ−
タ140で行われる。
【0036】(第3の実施例)前記第1及び第2の実施
例では、注目しているブロックの空間的な配置の情報を
手掛かりとして信頼性の評価を行っているが、この第3
の実施例では、この概念を時間軸方向へ拡張する。
【0037】一般に、動画像の時間方向の相関は高く、
例えば被写体を追尾して撮影している時では、当該被写
体の画面中に占める位置は前画面(前フィ−ルド)にあ
った位置に強く拘束されており、毎フィ−ルド毎に無相
関に出現することは極めて少ない。つまり、前画面で有
効領域と見なされた領域付近に、現画面での有効領域が
現われる可能性が高いということになる。そこで、現画
面で有効領域と判断された領域をピ−ク中心として、な
だらかな重み係数分布を持つマップを形成し、次画面で
得られる防振領域マップと論理積(AND)を取ること
により、ある領域の画面中の位置の時間方向の相関性を
生かした信頼性の評価をすることができる。
【0038】実施手順を図9及び図10を用いて説明す
る。
【0039】図9は、現画面で得られた防振領域マップ
にかけるコンボル−ションマスクである。被写体の位置
の画像間のずれは360度あらゆる方向に同じ確率で生
じると考えられるため、マスクの重み係数分布も等方的
なものである。
【0040】図10は、図9で示したマスクを、図3に
示した防振領域マップにコンボル−ションした結果であ
る。
【0041】図10で示される重み係数分布と次画面で
得られる防振領域マップをAND演算(論理積演算)す
ることにより、容易に各ブロックの信頼性を評価するこ
とができる。
【0042】以上の処理は図1のマイクロコンピュ−タ
140で行われる。
【0043】前述した各実施例によれば、各ブロックの
空間的或は時間的な隣接度(近接度)により、検出され
る動きベクトルの信頼性を評価し、これに応じた重み付
け処理を動きベクトルに施すようにしている為、本来異
なる動きが存在する境界部を含むブロックから検出され
る信頼性の低い動きベクトルにより著しい精度劣化を受
けていた動画像符合化装置や画像振れ補正装置の精度を
向上させることができる。
【0044】
【発明の効果】以上説明したように、本発明によれば、
入力画像を複数のブロックに分割し、該ブロック毎に動
きベクトルを検出する動きベクトル検出手段と、該動き
ベクトル検出手段からの動きベクトルから同じ動きをし
ている領域を抽出し、該領域内の動きベクトル値を、前
記ブロックそれぞれの前記領域内に占める位置情報に応
じた重み付け平均を行って算出する動きベクトル算出手
段、或は、該動きベクトル検出手段からの動きベクトル
から同じ動きをしている領域を抽出し、該領域内の動き
ベクトル値を、前記ブロックそれぞれの前記入力画像中
に占める位置情報に応じた重み付け平均を行って算出す
る動きベクトル算出手段とを備え、ブロックそれぞれ
の、同じく動きをしている領域内に占める位置情報、或
は、ブロックそれぞれの入力画像中に占める位置情報、
つまり各ブロックの空間的或は時間的な隣接度に応じた
重み付け処理を施して動きベクトル値を算出している。
【0045】よって、動きベクトルの検出精度を向上さ
せることが可能となる。
【図面の簡単な説明】
【図1】本発明の第1の実施例を適用した画像振れ補正
装置を組み込んだビデオカメラの構成を示すブロック図
である。
【図2】画像信号の入力から防振領域判断までの流れを
示す図である。
【図3】本発明の第1の実施例における防振領域を示す
2値マップを示す図である。
【図4】図3の防振領域にかけるコンボル−ションマス
クの一例を示す図である。
【図5】図3の防振領域にかけるコンボル−ションマス
クの他の例を示す図である。
【図6】本発明の第1の実施例における防振領域内の信
頼性を表す重み係数分布図である。
【図7】本発明の第2の実施例における画面全体が防振
領域となった時の重み係数分布図である。
【図8】本発明の第2の実施例における重み係数の総和
による信頼性評価関数を示す図である。
【図9】本発明の第3の実施例における防振領域にかけ
るコンボル−ションマスクの一例を示す図である。
【図10】図3の防振領域マップに図9のマスクをコン
ポル−ションした時の重み係数分布図である。
【符合の説明】
30 撮像素子 100 LPF 110 エンハンサ 120 ガンマ補正器 130 動きベクトル検出回路 140 マイクロコンピュ−タ 150 メモリ読み出し制御回路 160 メモリ

Claims (2)

    【特許請求の範囲】
  1. 【請求項1】 入力画像を複数のブロックに分割し、該
    ブロック毎に動きベクトルを検出する動きベクトル検出
    手段と、該動きベクトル検出手段からの動きベクトルか
    ら同じ動きをしている領域を抽出し、該領域内の動きベ
    クトル値を、前記ブロックそれぞれの前記領域内に占め
    る位置情報に応じた重み付け平均を行って算出する動き
    ベクトル算出手段とを備えた動きベクトル検出装置。
  2. 【請求項2】 入力画像を複数のブロックに分割し、該
    ブロック毎に動きベクトルを検出する動きベクトル検出
    手段と、該動きベクトル検出手段からの動きベクトルか
    ら同じ動きをしている領域を抽出し、該領域内の動きベ
    クトル値を、前記ブロックそれぞれの前記入力画像中に
    占める位置情報に応じた重み付け平均を行って算出する
    動きベクトル算出手段とを備えた動きベクトル検出装
    置。
JP08833792A 1992-03-13 1992-03-13 動きベクトル検出装置 Expired - Fee Related JP3209785B2 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
JP08833792A JP3209785B2 (ja) 1992-03-13 1992-03-13 動きベクトル検出装置
US08/029,550 US5731849A (en) 1992-03-13 1993-03-11 Movement vector detecting apparatus
DE69322423T DE69322423T2 (de) 1992-03-13 1993-03-11 Vorrichtung zur Detektion von Bewegungsvektoren
EP93301869A EP0560610B1 (en) 1992-03-13 1993-03-11 Movement vector detecting apparatus

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP08833792A JP3209785B2 (ja) 1992-03-13 1992-03-13 動きベクトル検出装置

Publications (2)

Publication Number Publication Date
JPH05257196A true JPH05257196A (ja) 1993-10-08
JP3209785B2 JP3209785B2 (ja) 2001-09-17

Family

ID=13940058

Family Applications (1)

Application Number Title Priority Date Filing Date
JP08833792A Expired - Fee Related JP3209785B2 (ja) 1992-03-13 1992-03-13 動きベクトル検出装置

Country Status (1)

Country Link
JP (1) JP3209785B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5606376A (en) * 1994-06-08 1997-02-25 Matsushita Electric Industrial Co., Ltd. Differential motion detection method using background image
JP2012257157A (ja) * 2011-06-10 2012-12-27 Canon Inc 画像合成装置

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006067345A (ja) * 2004-08-27 2006-03-09 Sony Corp 画像信号処理装置、その制御方法および画像信号処理システム

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5606376A (en) * 1994-06-08 1997-02-25 Matsushita Electric Industrial Co., Ltd. Differential motion detection method using background image
JP2012257157A (ja) * 2011-06-10 2012-12-27 Canon Inc 画像合成装置

Also Published As

Publication number Publication date
JP3209785B2 (ja) 2001-09-17

Similar Documents

Publication Publication Date Title
CN100544403C (zh) 图像稳定化系统及方法
JP2940762B2 (ja) 手振れ補正装置を有するビデオカメラ
JP3770271B2 (ja) 画像処理装置
US20030090593A1 (en) Video stabilizer
EP2323374B1 (en) Image pickup apparatus, image pickup method, and program
JP2902966B2 (ja) 手振れ補正装置およびそれを用いたビデオカメラ
US8559751B2 (en) Method and device for removing motion blur effects
JP3164121B2 (ja) 動きベクトル検出装置
US20100053349A1 (en) Imaging Apparatus and Imaging Method
KR101424923B1 (ko) 화상 합성 장치 및 화상 합성용 컴퓨터 프로그램
US20100073546A1 (en) Image Processing Device And Electric Apparatus
JP3866957B2 (ja) 画像合成装置
JP2003078807A (ja) 動きベクトル検出装置および方法、手振れ補正装置および方法、並びに撮像装置
JPH09163217A (ja) カメラ映像の動きベクトル検出装置および動きベクトル検出方法
JP6800806B2 (ja) 画像処理装置、画像処理方法およびプログラム
JP2921973B2 (ja) 特定物体の画像抽出方法及び画像抽出装置
JP4210954B2 (ja) 画像処理方法、画像処理方法のプログラム、画像処理方法のプログラムを記録した記録媒体及び画像処理装置
JP2008099260A (ja) 画像処理装置、電子カメラ、および画像処理プログラム
JPH0750771A (ja) ビデオカメラの自動映像安定化装置
JPH05257196A (ja) 動きベクトル検出装置
JPH06133298A (ja) 動きベクトル検出装置
US20220408022A1 (en) Image processing apparatus, image processing method, and storage medium
JPH06217188A (ja) 画像動きベクトル検出装置及びビデオカメラ
JP3200089B2 (ja) 動きベクトル検出装置及び振れ補正装置
JP4052348B2 (ja) 画像処理装置、及び画像処理方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080713

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080713

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090713

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090713

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100713

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110713

Year of fee payment: 10

LAPS Cancellation because of no payment of annual fees