JPH0644364A - 相関処理方式 - Google Patents

相関処理方式

Info

Publication number
JPH0644364A
JPH0644364A JP4249956A JP24995692A JPH0644364A JP H0644364 A JPH0644364 A JP H0644364A JP 4249956 A JP4249956 A JP 4249956A JP 24995692 A JP24995692 A JP 24995692A JP H0644364 A JPH0644364 A JP H0644364A
Authority
JP
Japan
Prior art keywords
correlation
data
polar
receptive field
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4249956A
Other languages
English (en)
Other versions
JP2796221B2 (ja
Inventor
Susumu Kawakami
進 川上
Hiroaki Okamoto
浩明 岡本
Toshihiko Morita
俊彦 森田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP4249956A priority Critical patent/JP2796221B2/ja
Priority to US07/987,954 priority patent/US6005984A/en
Publication of JPH0644364A publication Critical patent/JPH0644364A/ja
Priority to US08/470,061 priority patent/US5901252A/en
Application granted granted Critical
Publication of JP2796221B2 publication Critical patent/JP2796221B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【目的】 相関処理により複数図形の対応部分の決定を
簡単に、しかも少ない処理量で正確に行い、両眼立体視
の機能を実現する。 【構成】 第1、第2の画像データに対して極変換部1
4,24で極変換処理を施して双対プレーン17,27
に写像し、あるいは、極変換処理結果に対して更に一次
元フィルタ16,26でフィルタ処理を施してそれぞれ
双対プレーンに写像し、相関処理部30は双対プレーン
上における写像データの位置(ρ,θ)及び相関処理を
施す写像データ間の間隔を要素パラメータとして相関量
(相関パラメータ)を求め、特徴的な相関パラメータ
(例えば極大値)を有する点を求め、該相関パラメータ
を与える要素パラメータの値に基づいて各受容野画像の
図形的特徴(例えば接線)間の関係を規定する変数(視
差、移動方向、速度等)を計測する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は相関処理方式に係わり、
特に2つの画像間の図形的特徴の間の関係を相関処理結
果である相関パラメータに基づいて求める相関処理方式
に関する。
【0002】
【従来の技術】ロボットの移動や自律的動作を制御する
ためには、ロボットが動作する環境を立体的に把握する
必要がある。かかる立体把握には、左右2つの目の見え
方の違い(視差)から三角測量の原理で奥行きを測る
「両眼立体視」と自分が移動することで生じる運動視差
から立体感をつかむ「運動立体視」がある。我々は2つ
の目で立体視を行っていることから、両眼立体視の開発
が古くから試みられてきた。しかし、両眼立体視では左
右の目に写った画像の中から対応する部分を抽出する必
要があり、かかる対応点の抽出が難しく、未だ実用にな
っていない。
【0003】図57は両眼立体視の原理を説明するもの
で、平面上のA,B2点に物体が置いてあるものとす
る。それぞれの目で判るのは、A,Bの方向だけである
が、左目がAを見る視線と右目がAを見る視線の交点に
よって、Aの奥行きがわかり、Bについても同様にして
その奥行きが知覚される。すなわち、図58に示すよう
に、両眼の間隔をd、左右目の視線が垂直線となす角度
をρL,ρRとすれば、奥行きDは次式 D=d/(tanρL+tanρR) により求まる。
【0004】
【発明が解決しようとする課題】しかし、視線の交点は
他にもできる。左目がAを見る視線は、右目がBを見る
視線とも交わる。この交点が偽点βであり、同様に、偽
点αが生じ、両眼立体視ではこの偽点を除く必要があ
る。我々の大脳では、形を見る能力(形態視)が発達し
ているため、偽点α、βを簡単に除くことができるが、
これまでの両眼立体視の技術では難しく対応点問題とし
て課題となっている。
【0005】以上から本発明の第1の目的は、複数の図
形の対応点を簡単な手続き及び少ない処理量で正確に決
定でき、両眼立体視の機能を実現できる相関処理方式を
提供することである。本発明の第2の目的は、移動する
物体を時間的に異なる画像から対応付けて追尾したり、
その移動方向、移動速度を計測できる相関処理方式を提
供することである。本発明の第3の目的は、1つの画面
内での同じ模様の程度を調べるテクスチュア解析などに
適用できる相関処理方式を提供することである。本発明
の第4の目的は、三原色、あるいは色の三要素毎などの
色相関処理を行うことにより、両眼立体視や移動物体注
視やテクスチュア解析を更に確実にする相関処理方式を
提供することである。
【0006】本発明の第5の目的は、複数の図形におけ
る対応する接線(線・隙間、縁)を求めることができ、
しかもその位置や、方位、視差、速度を定量的に求める
ことができる相関処理方式を提供することである。本発
明の第6の目的は、的確なフィルタリングを行うことが
でき、「左右の目で同じに見える特徴の抽出」や「前の
画像と同じ特徴の追跡」等を行う際に適用して好適な相
関処理方式を提供することである。本発明の第7の目的
は、輪郭が不明瞭な物体の両眼立体視や追尾を、明るさ
や色合いのゆるい変化などを手掛かりにして行うことが
できる相関処理方式を提供することである。
【0007】
【課題を解決するための手段】図1は本発明の原理図で
ある。14,24は第1、第2の画像データに対して極
変換処理を施す極変換部、16,26は極変換結果に一
次元フィルタ処理を施す一次元フィルタ、17,27は
フィルタ処理結果(ハイパーコラム像)を記憶するρ−
θの双対プレーン(ハイパーコラムメモリ)、30は各
双対プレーンに写像されたデータ間に相関処理を施す相
関処理部である。
【0008】
【作用】第1、第2の画像データに対して極変換部1
4,24で極変換処理を施して双対プレーン17,27
に写像し、あるいは、極変換処理結果に対して更に一次
元フィルタ16,26でフィルタ処理を施してそれぞれ
双対プレーン17,27に写像し、相関処理部30は双
対プレーン上における写像データの位置(ρ,θ)及び
相関処理を施す写像データ間の間隔(シフト量)を要素
パラメータとして相関量(相関パラメータ)を求め、特
徴的な相関パラメータ(例えば極大値)を有する点を求
め、該特徴的な相関パラメータを与える要素パラメータ
の値に基づいて各画像の図形的特徴(例えば接線)間の
関係を規定する変数(視差、移動方向、速度等)を計測
する。極変換により、第1、第2の画像に含まれる輪郭
接線(直線の場合は直線そのもの)は点に次元を縮小し
て変換されるため、2次元での接線対応の問題を一次元
での点対応問題に置き換えることができ、この結果、相
関処理により複数図形の対応部分の決定を簡単に、しか
も少ない処理量で正確に行うことができ、両眼立体視の
機能を実現できる。
【0009】又、1画面を小領域である受容野に分割し
た時の受容野像に対して極変換処理、フィルタ処理、相
関処理を行うことにより処理量を著しく減少できる。更
に、各受容野像が2又は3つのカメラにより捕捉した異
なる画面に属する場合には、両眼立体視、三眼立体視の
機能を実現でき、各受容野像が時間的に異なる画面に属
する場合には、受容野内に写る特徴(線、コーナ等)の
移動方向や移動速度を計測でき、このため、対象物を視
野の中心に捉えたまま移動することが可能となり、移動
ロボットや無人自走車などへの応用を期待できる。
【0010】又、各受容野像を同じ画面の異なる受容野
の画像とし、あるいは同一受容野像とすることにより、
1つの画面内での同じ模様の程度を調べるテクスチュア
解析などを行うことができる。更に、複数の受容野像間
での相関処理を同一色毎に、あるいは色の差信号毎に、
あるいは色の三要素毎に行うことにより両眼立体視や移
動物体注視やテクスチュア解析を更に確実に行うことが
できる。
【0011】又、極変換後に一次元ガウシャンフィルタ
処理を施すことにより、あるいは極変換処理の前に2次
元ガウシャンフィルタ処理を施すことにより、複数図形
における対応する線あるいは隙間を求めることができ、
また極変換後に一次元グラディエントフィルタ処理と一
次元ガウシャンフィルタ処理を施すことにより、あるい
は極変換処理の前に2次元ガウシャンフィルタ処理を施
し、極変換処理後に一次元グラディエントフィルタ処理
を施すことにより、複数図形における対応する縁を求め
ることができ、更にはこれら図形要素の位置や、方位、
視差、移動方向、移動速度を求めることができる。
【0012】更に、複数の受容野像が空間的に異なる画
面に属する場合、θ軸方向の相関パラメータC(ρ,
θ,σ)を演算することにより、あるいは、(ρ,θ)
プレーンの相関パラメータC(ρ,θ,σ1,σ2)を演
算することにより方位を変えながら移動する接線の抽出
が可能となる。又、複数の受容野像が時間的に異なる画
面に属する場合、ρ軸方向の相関パラメータC(ρ,
θ,τ)を演算することにより、平行移動する接線の位
置、方位、速度を定量的に求めることができ、また、θ
軸方向の相関パラメータC(ρ,θ,τ)を演算するこ
とにより、受容野中心を通る接線の位置、方位、方位回
転速度等を定量的に求めることができ、更に、(ρ,
θ)プレーンの相関パラメータC(ρ,θ,τ1,τ2
を演算することにより、方向を変えながら移動する接線
の位置、方位、移動速度、回転速度等を定量的に計測で
きる。
【0013】更に、相関パラメータC(ρ,θ,σ)を
空間的シフト量σを示すσ軸方向に投影し、あるいは接
線位置を示すρ軸方向に投影し、あるいは接線方向を示
すθ軸方向に投影し、あるいはこれら任意の2軸方向に
投影することにより、相関パラメータを記憶するメモリ
容量を1軸分あるいは2軸分減少でき、しかも、投影方
向を選択することにより接線の位置、視差、方位等のう
ち所望の値を得ることができる。又、相関パラメータC
(ρ,θ,τ)を時間的シフト量τを示すτ軸方向に投
影し、あるいは接線位置を示すρ軸方向に投影し、ある
いは接線方向を示すθ軸方向に投影し、あるいはこれら
任意の2軸方向に投影することにより、相関パラメータ
を記憶するメモリ容量を1軸分あるいは2軸分減少で
き、しかも、投影方向を選択することにより接線の位
置、方位、平行移動速度、回転速度等のうち所望の値を
得ることができる。
【0014】更に、受容野像に対して極変換処理を施し
てρ−θの双対プレーンに写像し、該双対プレーンの写
像データa(ρ,θ)と別の双対プレーンに設定されて
いる写像データb(ρ,θ)とのうちρ軸方向に座標値
が所定量ずれている組を取り出し、その積和を演算する
ことにより的確なフィルタリングを行うことができ、
「左右の目で同じに見える特徴の抽出」や「前の画像と
同じ特徴の追跡」等を行う際に適用して好適である。
【0015】又、双対プレーンの写像データa(ρ,
θ)に対して、他の写像データb(ρ,θ)をρ軸方向
あるいはθ軸方向にシフトさせた後に減算すると共に、
順次、該シフト量を変化させて減算し、得られた減算結
果を相関パラメータとすることにより、輪郭が不明瞭な
物体の両眼立体視や追尾を、明るさや色合いのゆるい変
化などを手掛かりにして行うことができる。
【0016】
【実施例】
(A) 本発明の概略 両眼立体視において従来は、画面内の対応する”図形”
を探索していた。このため、形の処理に弱い現在のコン
ピュータでは安定な対応決定が困難であった。そこで、
最も簡単な特徴、つまり図形の輪郭を構成する”接線”
(輪郭を微小な長さで切断した時の要素、直線の場合に
は直線そのものとなる)により対応決定を行う。この”
接線”法では、両眼に写る接線(直線)を比較すれば良
く、その手続きは簡単で安定な対応決定を行える。尚、
以後の説明では接線、輪郭接線、輪郭線という用語が現
われるが、後述する小領域である受容野内の受容野像を
考察するときは、これら用語は同義語と成る。かかる接
線比較により、扱う図形は簡単になるが、二次元の画面
で対応接線を決定する必要があり、処理に時間がかか
る。ところで、入力画像を極変換して、線の方向θと位
置ρを座標軸とする双対プレーンに写像すると、左右画
像中の”接線”が”点”に次元を縮小して変換される。
従って、二次元での接線対応の問題を一次元で行うこと
ができて、処理量を大幅に削減できる。
【0017】図2は本発明の両眼立体視の原理を説明す
るものである。 1. 空間内の”接線”は左右眼の入力画像IML,IMR
ではSLL,SLRで示すように平行にずれて見える。 2. 一方、入力画像を極変換して得られるハイパーコラ
ム像を写像するρ−θの双対プレーンHCPL,HCPR
では、傾きがθPの”接線”(平行線)はθ=θPのρ軸
上の”点列”に変換される。 3. 従って、左右眼の入力画像IML,IMRで平行にず
れて見えている”接線”SLL,SLRは、双対プレーン
HCPL,HCPRでは同じθPのρ軸上の2点PL,PR
に変換される。 4. その2点間の距離σPを求めると、左右画像IML
IMRでの”接線”SL L,SLRの平行移動量、つまり
視差が決定される。 5. そのσPと両眼の間隔から、”接線”の空間的奥行き
を決定でき、両眼立体視の機能が実現されたことにな
る。 以上から、入力画像を極変換することにより、「二次元
での”接線”の比較」を「ρ軸上の”点”を比較する一
次元処理」に簡略化でき、対応決定を少ない処理量で行
うことができる。
【0018】以下に”極変換”及び後で必要になる”受
容野”について説明をする。極変換 極変換としては球面上の極変換または円筒上の極変換ま
たは平面上の極変換など任意の曲面上の極変換がある。
図3は球面写像(球面上の極変換)の説明図である。球
面写像は図3(a)に示すように、球面上の任意の点P
を、それを極とする大円(球面上の最大の円で赤道に相
当する)Rに変換する操作である。この球面写像によれ
ば、図3(b)に示すように、線分Lを構成する点P1,P
2,P3・・・について、それらが球面上に投影された点
1′,P2′,P3′・・・を極とする大円R1,R2
3・・・を描いていくと、各大円は常に一点Sで交差
する。この交差点Sが線分Lに1対1に対応した固有の
点になる。そして、線分Lが長い程Lの要素である点の
数は多く、従って大円の数も増え、Sでの大円の重なり
の度合が高くなる。このようにして、線分はそれと対応
する球面上の点として抽出され、又、各点での大円の交
差度のヒストグラムをとると線分の長さも計測できる。
尚、線分Lに対応する点Sの幾何学的意味は、「線分L
の球面上への投影L′を大円とする極である」といえ
る。
【0019】図4は円筒上の極変換の説明図である。円
筒上の極変換では直線(楕円の交線)と点とが互いに移
り変わる。すなわち、原点Oを通る平面PL上の直線S
を円筒上に投影した楕円ELPは、原点Oにおける平面
PLの法線NLと円筒との交点である極Pに極変換さ
れ、極Pは逆に楕円ELPに極変換される。この円筒を
軸に平行に切り開くと平面に展開できる。この平面上で
は、直線(正弦曲線)と点とが互いに移り変わる。以上
から、カメラから入力された画像の輪郭を抽出して投影
画像メモリに書き込み、輪郭点を極変換部で大円あるい
は正弦曲線に変換して該大円あるいは正弦曲線の情報を
写像メモリに書き込み、同様にして、全輪郭点を極変換
して大円あるいは正弦曲線に変換し、しかる後、写像メ
モリの各セルをスキャンして、カウント値のピーク位置
を求めれば、該ピーク位置が線分の極となり、線分が抽
出できる。尚、写像メモリの各セルは例えばカウンタご
ときもので構成され、書き込まれる毎に記憶内容を増加
するようになっている。
【0020】受容野法 ところで、画面全体を極変換して線分を抽出する方法で
は、処理量が増大し、高速化処理ができない。その理由
は、線分を抽出するために入力画像中の各点を極変換、
すなわち、球面上の大円あるいは正弦曲線へと次元を拡
大して写像することにある。入力画像のサイズをN×N
とすれば、極変換で各点を長さNの大円あるいは正弦曲
線に変換するには、入力画像のN倍のN3の処理が必要
となり高速化の障害となる。そこで、入力される画像を
小領域である受容野毎の画像(受容野像)に分割し、各
受容野像に対して極変換を行なうと、処理量が大幅に減
少し、小型のハ−ドウェアでも高速の極変換を行なえ
る。
【0021】図5は受容野法の原理説明図であり、1は
所定入力プレーンに投影されたN×Nサイズの対象物体
画像(入力画像)IMGを記憶する入力メモリ、2は入
力プレーンをm×mの小領域である受容野に分割した
時、各受容野内の画像(受容野像)を記憶する受容野メ
モリ、3は各受容像に極変換を施す極変換部、4は極変
換された画像(ハイパーコラム像)を写像するρ−θの
双対プレーン(ハイパーコラムメモリ)である。
【0022】入力メモリ1に記憶されるN×Nサイズの
対象物体画像IMGをm×mの小領域である受容野に分
割し、各受容野像を順に受容野メモリ2に記憶し、極変
換部3で各受容野像に対して極変換を施して出力(ハイ
パーコラム像)を双対プレーン4に写像し、極変換出力
に基づいて線分等の特徴を抽出する。
【0023】受容野法の具体的な手続きを、最も簡単な
極変換、すなわち、「平面投影入力+円筒上極変換」で
説明すると、次のようになる。すなわち、「入力画像を
m×mに分割した各受容野内の画素を、円筒上極変換
し、得られた曲線(円筒上極変換では正弦波)を双対プ
レーン上に描く」である。以上は、「平面投影入力+円
筒上極変換」の場合であるが、「球面投影入力+球面上
極変換」の場合には、上記において正弦曲線を大円に変
更すればよい。主なフローを以下に示す。 (a) 球面上に投影された画像を小領域(受容野)に分割 (b) 受容野内の各画素を球面上で極変換する(画素に対
応する大円を描く) (c) 受容野全体は球面上の帯に極変換されるが、受容野
は一般的に小さいので、この帯を平面に展開する。これ
が、各受容野に対応する双対プレーン(ハイパーコラム
プレーン)である。(b)の極変換は、「画素→正弦波」に
近似され、受容野とハイパーコラムとの変換は、「受容
野の各画素を、双対プレーン上の対応する正弦曲線に変
換する」となる。双対プレーンにおける各軸は受容野内
における線の位置ρと方向θを示すもので、画像プレー
ン(受容野)内の線分は正弦波の交点に濃縮され、交点
座標ρ0、θ0が受容野内における線分の位置と方向を示
すことになる。
【0024】図6に従って詳細に説明すると、受容野R
C内の点Pは、極変換により次元を増やして大円(直
線)Rに写像される。これを繰り返すと受容野全体は球
面上の帯BLTに写像される(図6(a))。この帯を切り
開いて平面に展開すると(図6(b))、線の方向θと線の
位置ρを座標軸とする長方形格子となる。この極変換で
受容野内の各画素は、双対プレーンの複数の格子点(正
弦波状)に多価写像される。これを繰り返すと、受容野
内の線分は、それを構成する点列が極変換された”正弦
波群の交点”として抽出される。すなわち、交点Qが受
容野内の線分L(図6(c))を濃縮したものとなり、その
θ軸及びρ軸座標値θ0,ρ0が受容野における線分の方
向と位置を示すことになる。
【0025】受容野法では、このように、m×mの受容
野内の画像について極変換を施すだけでよいため、球面
上の極変換の場合には、受容野内の各画素について長さ
mの大円を描くだけでよく、処理量がm×N2になり、
Nの大円を描く従来例(N3の処理量が必要)に比べて
大幅に減少し、しかもハードウェアの小型化が可能とな
る。尚、極変換の詳細については本願出願人が既に出願
済みの特願平3-327723号(発明の名称:画像処理方法、
出願日:平成3年12月11日)を参照されたい。
【0026】(B) 本発明の基本構成 以上をまとめると、両眼立体視の基本構成は 入力画像→極変換→一次元相関処理 となる。極変換は前述のように、接線比較を一次元で行
うために、”接線”を”点”に変換する操作であり、一
次元相関処理は、θが同じρ軸上の”点列”から対応す
る”点”を抽出する操作である。極変換された両眼の双
対プレーンにおける写像データをそれぞれL(ρ,
θ)、R(ρ,θ)、写像データ間の間隔(シフト量)
をσとして次式 C(ρ,θ,σ)=L(ρ,θ)・R(ρ+σ,θ) (1) により相関量(相関パラメータという)を演算する。そ
して、相関量C(ρ,θ,σ)が極大となる要素パラメ
ータρ,θ,σの値(ρP,θP,σP)を求めると、こ
の要素パラメータの値に基づいて、対応する接線が決定
され、又、その接線の位置、方位、視差が定量的に求め
られる。尚、相関パラメータは(1)式の非対称型相関演
算の他、次式の対称型相関演算により算出することもで
きる。 C(ρ,θ,σ)=L(ρ−σ,θ)・R(ρ+σ,θ) (1)′ 但し、以後では(1)式の非対称型相関演算により相関パ
ラメータを演算するものとして説明する。又、以後で
は、相関量、相関パラメータ、相関結果という用語が混
在して使われるが同義語である。
【0027】(C) 本発明の実施例 図7は入力画像→受容野分割→極変換→一次元相関処理
により2つの画像に含まれる対応する接線の位置、方
位、視差を求める本発明の実施例構成図である。図中、
11,21は左右眼の入力画像IML,IMRを記憶する
入力メモリ、12,22は入力プレーンをm×mの小領
域である受容野に分割した時、順次受容野内の画像(受
容野像)を切り出して出力する受容野切り出し回路、1
3,23は各受容野内の画像(受容野像)を記憶する受
容野メモリ、14,24は各受容野像に極変換を施す極
変換回路、15,25は極変換された双対プレーン(ハ
イパーコラムプレーン)上の画像(ハイパーコラム像)
を記憶する極変換ハイパーコラムメモリである。極変換
ハイパーコラムメモリ15,25はρ方向にρmax,θ方
向にθmax、総計ρmax×θmax個の記憶域(ハイパーコラ
ム細胞)で構成されている。
【0028】16,26は極変換により得られたハイパ
ーコラム像に一次元フィルタ処理を施す一次元フィルタ
回路、17,27はフィルタ処理を施されたハイパーコ
ラム像を記憶する双対プレーン(ハイパーコラムメモ
リ)、30は相関処理部である。相関処理部30におい
て、31は(1)式に従って一次元相関演算を行う相関演
算部、32は相関値(相関パラメータ)を記憶するρ−
σ−θの次元を有する相関パラメータ記憶部、33は相
関パラメータ記憶部の記憶データをスキャンして極大点
(ρP,θP,σP)を検出するピーク検出部である。
【0029】極変換回路14,24は、受容野内の各画
素を極変換し、すなわち画素を対応する大円に変換して
極変換ハイパーコラムメモリ15,25に記憶する。
尚、実際には、極変換は「画素→正弦波」に近似され、受
容野の各画素をハイパーコラム上の対応する正弦曲線に
変換して極変換ハイパーコラムメモリ15,25に記憶
する。
【0030】一次元フィルタ回路16,26は尖鋭な線
・縁・隙間抽出を少ない処理量で行うためのものであ
る。輪郭強調や特徴抽出を行うために、通常、画像デー
タに二次元コンボリューションフィルタをかけ、しかる
後、極変換を施している。しかし、かかるコンボリュー
ション法によれば、フィルタサイズをaとすると各入力
点に対してa2の処理が必要となり、フィルタサイズの
増大とともに処理量が増加する。しかし、「二次元コン
ボリューションフィルタ+極変換」は「極変換後にρ方
向に一次元フィルタ処理を行うこと」と等価であるか
ら、図7の実施例では極変換後に一次元フィルタを掛け
ている。このようにすれば、処理量は一次元フィルタの
ため各入力点に対してaと少なく、コンボリューション
法に比べて約2/aに処理量が減少する。
【0031】相関演算 相関演算部31は、左眼の双対プレーン17における写
像データL(ρ,θ)と、該写像データL(ρ,θ)か
らρ軸方向にσシフトした右眼の双対プレーン27にお
ける写像データR(ρ+σ,θ)とを乗算して相関パラ
メータ記憶部に記憶し、以後、順次、該シフト量σを0
〜σmaxまで、ρを0〜ρmax(受容野幅)まで、θを0〜
θmax(受容野幅)まで変化させて各乗算結果を相関パラ
メータ記憶部32に記憶する。
【0032】図8は相関演算処理の流れ図であり、相関
演算に際して0→θ、0→ρ、0→ρとする(ステップ
101〜103)。ついで、(1)式により、相関パラメ
ータを演算して相関パラメータ記憶部32に記憶する
(ステップ104,105)。ついで、σをインクリメン
トすると共に、σ>σmaxかどうかを判断し(ステップ
106、107)、σ≦σmaxであれば、ステップ10
4に戻って以降の処理を繰返す。そして、σ>σmaxと
なれば、ρをインクリメントすると共にρ>ρmaxかど
うかを判断し(ステップ108、109)、ρ≦ρmax
であれば、ステップ103に戻って以降の処理を繰返
す。ρ>ρmaxとなれば、θをインクリメントすると共
にθ>θmaxかどうかを判断し(ステップ110、11
1)、θ≦θmaxであれば、ステップ102に戻って以
降の処理を繰返し、θ>θmaxとなれば、相関演算処理
を終了する。
【0033】極変換回路 極変換回路14(極変換回路24も同様)は図9に示す
ように、受容野メモリ13の番地から順次1画素づつ受
容野像(振幅)を読み出し、該番地と振幅値を出力する
読み出し制御部14aと、各画素に対して極変換(画素
番地→正弦波番地への変換)を施す極変換部14bと、
極変換により得られた正弦波番地が示す極変換ハイパー
コラムメモリ15の複数の記憶位置に読み取った振幅を
書き込む書き込み制御部14cを備えている。
【0034】極変換部14bは受容野メモリ13の画素
番地を極変換ハイパーコラムメモリ15の複数の番地に
対応させる番地変換テーブルメモリ14b-1と、受容野メ
モリ13の番地を極変換ハイパーコラムメモリ15の番
地に変換する番地変換回路14b-2を備えている。番地変
換テーブルメモリ14b-1に記憶されている番地変換テ
ーブルは、受容野像における点をハイパーコラムプレー
ン上の正弦波に極変換するためのもので、受容野像の点
に応じた番地を、正弦波を構成する点列の各点が位置す
る極変換ハイパーコラムメモリ上の多数の番地に変換す
るものである。
【0035】読み出し制御部14aは、受容野メモリ1
3の第1番地から振幅データを読み取り、該振幅データ
と番地データ(第1番地)を極変換部14bに入力す
る。極変換部14bは受容野メモリの第1番地(画素)
を極変換ハイパーコラムメモリ15の正弦波点列の多数
のアドレスに変換し、該アドレスと振幅を出力する。書
き込み制御部14cは、極変換部14bより入力された
振幅データを同様に入力された極変換ハイパーコラムメ
モリ15の各アドレスの内容(初期値は0)に加算して
該アドレスに書き込む。以後、順次、受容野メモリ14
の全番地に対して上記処理を行えば、受容野像に対する
極変換が終了する。
【0036】一次元フィルタ回路 一次元フィルタ回路16(一次元フィルタ回路26も同
様)は図10に示すように、極変換ハイパーコラムメモ
リ15におけるθ一定のρmax個の番地(たとえば斜線
部参照)から振幅を読み出して出力する読み出し制御部
16aと、読み出された各振幅に対して一次元フィルタ
リング処理を施す一次元フィルタ部16bと、一次元フ
ィルタリング処理結果を双対プレーン(ハイパーコラム
メモリ)17の記憶域に書き込む書き込み制御部16c
を備えている。
【0037】一次元フィルタ部16bは例えばFIR型
デジタルフィルタ構成になっており、一次元フィルタメ
モリ16b-1と積和回路16b-2を有している。一次元フィル
タメモリ16b-1には横軸をρ軸とした一次元フィルタ特
性値(係数)が離散的に記憶されている。すなわち、ρ
方向の−ρmax/2〜ρmax/2のそれぞれの位置に対して一
次元フィルタ特性値を記憶しており、該特性値により一
次元フィルタ部16bを一次元一次微分フィルタ、一次
元二次微分フィルタとすることができる。尚、フィルタ
の幅や値は必要に応じて適当に決定される。積和回路16
b-2は極変換ハイパーコラム15から読み出されたρmax
個の振幅と一次元フィルタメモリ16b-1に記憶されてい
る対応するρmax個の特性値をそれぞれ掛け合わせ、乗
算結果の総和(振幅)を出力すると共に、前記対応関係を
1画素づつずらして同様の積和演算を行って演算結果を
出力する。
【0038】たとえば、まず、θ=i(初期値は1)とな
る極変換ハイパーコラムメモリ15における全番地(ρ
max個の番地)からρmax個の振幅を読み出す。ついで、
一次元フィルタメモリ16b-1におけるフィルタ特性ρ=
0の位置を、ρmax個の最左端番地A0iに対応付けす
る。しかる後、それぞれ対応する振幅値と特性値の乗算
を行うと共に、乗算結果の総和Σ0iを演算し、該総和を
書き込み制御部16cをしてハイパーコラムメモリ17
の番地A0iに書き込む。
【0039】以上の処理が終了すると、フィルタ特性値
ρ=0の位置を、左から2番目の番地A1iに対応させ、
それぞれ対応する振幅値と特性値の乗算を行い、その乗
算結果の総和Σ1iを書き込み制御部16cをしてハイパ
ーコラムメモリ17の番地A 1iに書き込む。以後、同様
な処理を行い、フィルタ特性値ρ=0の位置を最右端番
地Amax,iに対応させて上記処理を終了すれば、以後i
+1→iとして上記積和演算を繰り返して一次元フィル
タリング処理を行う。
【0040】シミュレーション結果 図11〜図13は、線を抽出するために図7の一次元フ
ィルタ16,26として一次元ガウシャンフィルタを用
いた場合のシミュレーション結果説明図である。極変換
と一次元ガウシャンフィルタ処理により画像IML,I
R中の”線”は、線の位置ρと線の方位θを座標軸と
する双対プレーン内の”点”に変換される。図11
(a),(b)における円形部CL,CRは左右眼の受容野、円
形内の像は左右眼に写る受容野像であり、プラント内の
情景中四角で囲んだ部分の十字線の図形が写っている。
尚、全てのデータは信号の強さを等高線で示してある。
【0041】図12(a),(b)は前述の「極変換+一次元ガ
ウシャンフィルタ」処理を施したρ−θの双対プレーン
上のハイパーコラム像であり、十字線を構成する2本の
線はそれぞれ900と1800のρ軸上の2点PL1
L2;PR1,PR2に変換されている。尚、それらのピー
クは一次元フィルタリングにより先鋭化され、その副作
用として両側に負のサブピークPL1′,PL2′;
R1′,PR2′を伴っている。このサブピークは、次の
相関処理をシャープにするのに非常に有効である。
【0042】図13は左右眼の双対プレーンデータか
ら、(1)式の相関量(相関パラメータ)C(ρ,θ,σ)を
求めた結果を、横軸をρ(位置)、縦軸をσ(視差)、
奥行きをθ(方位)とするρ−σ−θプレーンに展開
し、相関値を等高線で示すもので、説明の都合上、一番
上にはθ=900のρ−θプレーン示されている。相関
パラメータC(ρ,θ,σ)がピーク(極大)となる
(ρP,θP,σP)を求めると、左右眼に写った十字線
の対応関係が定量的に求められ、ρP,θP,σPそれぞ
れが線の位置、方位、視差を示すことになる。十字線を
構成する2つの線のうち縦棒(θ=900)が左右の眼
で見える視差を求めてみると、10であり、両眼の間隔
を6cmとして縦棒までの距離を計算すると360cmとな
り、正確に両眼立体視が行われていたことが確認でき
る。
【0043】評価 以上で説明したように、基本処理(極変換+一次元相関
処理)により以下の効果が得られる。 図形の特徴を接線で比較することによる効果 左右画像から同じ図形を見出すのは、現在の画像処理技
術が”形”の処理に弱いため困難である。そこで、図形
輪郭を構成する接線で対応を求めることにすると、最も
簡単な直線図形となるため、簡単な手続きで対応決定を
行える。
【0044】 接線の二次元対応を一次元で処理する効果 左右画像中の接線対応を決定するには、二次元での処理
が必要である。しかし、対応処理の前に極変換処理を行
って双対プレーンに写像すると、平行線群はρ軸上の点
列に変換される極変換の性質により、接線の対応はρ軸
上の一次元相関の問題に還元され、処理量が大幅に軽減
されると共に、対応の安定性も向上する。
【0045】高度フィルタリングによる効果 極変換の後で既に出願済みの高度な一次元フィルタリン
グ処理を施すことができ、この結果、極変換→一次元フ
ィルタ→一次元相関処理の構成とすることにより確実な
対応決定が可能となり、又後述の各種の相関パラメータ
を精密に計測することが可能となる。尚、一次元フィル
タリングの種類と機能としては以下がある。 ・奇関数フィルタリングによる縁の対応決定:画像の最
も重要な特徴であるが従来の二次元コンボリューション
フィルタでは抽出困難な縁(明るさの境界)を抽出で
き、縁の対応決定が可能となる。これは、事前に極変換
を施すことにより、奇関数フィルタが可能になったこと
による。 ・マルチフィルタリングによる安定な対応決定:極変換
したデータに対しては、幅の異なるフィルタを多数同時
に施すことができる(マルチフィルタ)。これにより、
従来の方法では困難な、画像中に混在する”ボケ特徴”
と”細かい特徴”を同時に抽出でき、安定な対応決定が
可能となる。 ・スケルトンフィルタリングによる高速の処理:極変換
したデータに対しては、最も効率的なスケルトンフィル
タを施すことができる。これにより、上記の奇関数フィ
ルタやマルチフィルタを高速で実現できる。なお、奇関
数フィルタ、マルチフィルタ、スケルトンフィルタ等の
詳細については本願出願人が既に出願済みの特願平3-32
7722号(発明の名称:画像処理方法、出願日:平成3年
12月11日)を参照されたい。
【0046】(D) 本発明の拡張 以上では判り易さのために、両眼立体視を例に相関フィ
ルタリングの原理と効果を説明してきた。しかし、本質
は画像間で図形の相関の度合を計測して判断することに
あり、両眼での対応だけでなく、移動する物体を時間的
に異なる画像から対応付けて追尾する用途や、1つの画
面内でも同じ模様の程度を調べるテクスチュア解析など
に広く活用できるものである。以下、本発明の相関フィ
ルタリングの拡張を詳しく説明する。
【0047】(a) 基本フロー 図14は相関フィルタリングの基本フローであり、入力
データA,Bに極変換処理を施し(ステップ51a、5
1b)、該極変換結果に一次元フィルタリング処理を施
して相関双対プレーンに写像し(ステップ52a,52
b)、各双対プレーンに写像されたデータ間に相関処理
を施す(ステップ53)である。尚、入力データは受容
野に分割するのが望ましいが必ずしも受容野分割する必
要はない。また、一次元フィルタ処理は必要に応じて施
せば良く、その種類は先の特願平3-327722号に開示され
ているフィルタを用いることができる。更に、極変換の
代わりに、相反変換や直交補空間などの全てを適用でき
る。又、入力データはカメラからの画像に限定されるこ
となく、例えばカメラ画像を極変換したデータを入力し
ても良く、しかも、入力データは2つに限ることなく、
3つ以上あっても良い。
【0048】以下では、受容野分割、一次元フィルタ処
理を施すものとして説明する。 (b) 相関の作用画面 作用画面、すなわち基本フローにおける入力データA,
Bには以下の場合があり、それぞれ固有の相関パラメー
タを計測できる。 (b-1) 異なる画像間の相関 空間的に異なる画面間の相関 入力データA,Bが空間的に異なる画面、例えば別のカ
メラで撮像された画面の画像データであり、この入力デ
ータに相関フィルタリングを施す場合であり、空間的に
異なる画面間の特徴相関パラメータを抽出できる。両眼
立体視と三眼立体視が特に有用な例である。
【0049】図15は空間的に異なる画面間の相関フィ
ルタリングのフロー図であり、(a)は2つのカメラから
入力される画面の場合、(b)は3つのカメラから入力さ
れる画面の場合である。 ・2つのカメラから入力される画面の場合(図15
(a)) カメラが2つの場合、左カメラCML、右カメラCMR
で撮像した1画面分の画像データIML,IMRを受容野
像に分割し(ステップ50a,50b)、各受容野像I
L′,IMR′に極変換処理を施し(ステップ51a、
51b)、該極変換結果に一次元フィルタリング処理を
施して双対プレーンに写像し(ステップ52a,52
b)、各双対プレーンに写像されたデータ間に相関処理
を施す(ステップ53)。前述の両眼立体視がこれに相
当する。
【0050】 ・3つのカメラから入力される画面の場合(図15
(b)) 両眼立体視では見る角度が2つのため、対応決定を間違
う場合がある。我々でもビックリハウスなどで錯覚する
のは眼が2つのせいである。工学的には3つの眼も可能
であり、もう1つのカメラを増やして、3つの角度から
見ると錯覚は各段に減少する。3つのカメラを三角形の
頂点に配置すると、全ての方向で錯覚を減少できて更に
改良される。カメラが3つの場合、左カメラCML、中
央カメラCMC、右カメラCMRで撮像した1画面分の
画像データIML,IMR,IMCを受容野像に分割し
(ステップ50a〜50c)、各受容野像IML′,I
R′,IMC′に極変換処理を施し(ステップ51a〜
51c)、該極変換結果に一次元フィルタリング処理を
施して双対プレーンに写像し(ステップ52a〜52
c)、各双対プレーンに写像されたデータ間に相関処理
を施す(ステップ53)。
【0051】時間的に異なる画面間の相関 基本フローにおける入力データA,Bが、時間的に異な
る画面、例えばカメラを動かしながら撮像された画面の
画像データであり、この入力データに相関フィルタリン
グを施す場合である。この相関フィルタリングにより、
例えば受容野内に写る特徴(対象物のコーナや輪郭線な
ど)の移動方向や移動速度などを計測できるため、対象
物を視野の中心に捉えたまま移動することが可能とな
り、移動ロボットや無人自走車などへの応用を期待でき
る。大脳の第一次視覚野でも、受容野に写る接線の移動
方向を検出する細胞が存在して、眼球運動の制御部(上
丘や外側膝状体)には信号を送りだして対象物を視野中
心に捉えると共に、高次の視覚野にも並行して信号を送
りだして、視野に写る情景の動きを立体的に計測してい
る。
【0052】図16は時間的に異なる画面間の相関フィ
ルタリングのフロー図である。左カメラCMで撮像した
1画面分の画像データIMLは遅延せず、一方、右カメ
ラCMRで撮像した1画面分の画像データIMRは遅延
部で遅延し(ステップ49)、遅延しない画像データI
Lと遅延した画像データIMR′をそれぞれ受容野像に
分割し(ステップ50a,50a′)、各受容野像IM
L,IMR′に極変換処理を施し(ステップ51a,51
a′)、該極変換結果に一次元フィルタリング処理を施
して双対プレーンに写像し(ステップ52a,52
a′)、各双対プレーンに写像されたデータ間に相関処
理を施す(ステップ53)。すなわち、入力された画像
データを時間的に遅らせたものと、遅らせないものに分
けて、それらを図14の基本相関フィルタに入力した構
成を有し、時間的な相関パラメータが得られる。従っ
て、遅延部を除いて、前述の両眼立体視のシミュレーシ
ョンと同様に実行できる。
【0053】時間的及び空間的に異なる画面間の相関 複数台のカメラを動かしながら撮像した画面に相関フィ
ルタリングを施した場合であり、2台のカメラの場合に
は、両眼立体視空間相関フィルタと時間相関フィルタを
複合したものと同等となる。図17はかかる時間的及び
空間的に異なる画面間の相関フィルタリングのフロー図
であり、左カメラCMLで撮像した1画面分の画像デー
タIMLを遅延部で遅延し(ステップ49a)、遅延し
ない画像データIMLと遅延した画像データIML′をそ
れぞれ受容野像に分割し(ステップ50a,50
a′)、各受容野像IML,IML′に極変換処理を施し
(ステップ51a,51a′)、該極変換結果に一次元
フィルタリング処理を施してそれぞれ双対プレーンに写
像する(ステップ52a,52a′)。以上と並行し
て、右カメラCMRで撮像した1画面分の画像データI
Rを遅延部で遅延し(ステップ49b)、遅延しない
画像データIMRと遅延した画像データIMR′をそれぞ
れ受容野像に分割し(ステップ50b,50b′)、各
受容野像IMR,IMR′に極変換処理を施し(ステップ
51b,51b′)、該極変換結果に一次元フィルタリ
ング処理を施してそれぞれ双対プレーンに写像する(ス
テップ52b,52b′)。そして、各双対プレーンに
写像されたデータ間に相関処理を施す(ステップ5
3)。この時間的及び空間的に異なる画面間の相関フィ
ルタリングにより、両眼立体視で視差を抽出しながら対
象物を追跡すると、人間のような複合機能が可能とな
る。このような時間と空間とが融合したフィルタの存在
は、心理学で「Spatiotemporaフィルタ」として知られて
いるが、本項目はそれを工学に寄与するために、始めて
定式化したものである。
【0054】(b-2) 同じ画像間の相関 以上では、異なる画面間の相関フィルタリングであった
が、同じ画面内の相関も有効である。 受容野間の相関 図18は同一画面の各受容野間の相関フィルタリングの
フロー図である。カメラCMで捉えられた1画面分の画
像は入力メモリIMMに記憶され、切り出し制御部によ
り受容野A,B,・・,N毎に切り出されて受容野像I
A,IMB,・・IMNとされ(ステップ48)、各受
容野像IMA,IMB,・・IMNに極変換処理を施し
(ステップ51a〜51n)、各極変換結果に一次元フ
ィルタリング処理を施してそれぞれ双対プレーンに写像
し(ステップ52a〜52n)、各双対プレーンに写像
されたデータ間に相関処理を施す(ステップ53)。こ
のような同一画面の異なる受容野間の相関の場合には、
受容野像IMAの画像特徴を受容野像IMB,・・IMN
の特徴と正確に比較することができて、画像内の肌理の
具合などのテクスチュア解析が可能となる。その処理
は、両眼立体視の左右眼を各受容野に変えたものであ
り、前述のシミュレーションと同様に実行できる。
【0055】受容野内の相関 以上では、受容野間の相関を説明したが、同一画面の同
一受容野内の相関も可能である。図19は同一画面の同
一受容野内の相関フィルタリングのフロー図で、ρ軸間
の相関フィルタリングの場合である。受容野像は極変換
を施されてρ−θの双対プレーン(ハイパーコラムメモ
リ)HCMに記憶され、切り出し制御部によりρ軸A,
ρ軸B,・・,ρ軸N毎に切り出され(ステップ4
8′)、各ρ軸A〜Nのハイパーコラム像に極変換処理
を施し(ステップ51a′〜51n′)、各極変換結果
に一次元フィルタリング処理を施してそれぞれ双対プレ
ーンに写像し(ステップ52a′〜52n′)、各双対
プレーンに写像されたデータ間に相関処理を施す(ステ
ップ53)。この相関フィルタでは、受容野内の更に細
かいテクスチュア解析が可能となり、の場合と同じ理
由で両眼立体視のシミュレーションを同様に実行でき
る。尚、ρ軸間の相関を説明したが、θ軸方向の相関も
同様に可能であり、更に(ρ,θ)プレーンでの相関も
二次元的な相関として有効である。
【0056】(b-3) 異なる色画像間の相関 以上では、入力画像の明るさ等の強度信号の相関フィル
タリングを説明してきたが、入力データを色情報にして
図14の相関フィルタリングを行うと、色の微妙な違い
を検知して更に詳細なフィルタリングが可能となる。入
力する色情報としては問題に応じて各種の加工を施した
色情報が可能であるが、基本的な色情報は以下の通りで
ある。 三原色での相関 三原色の相関が最も基本的な色相関であり、図20は異
なる画像間の三原色での色相関フィルタリングのフロー
図である。左カメラCMLで撮像した1画面分の色画像
をそれぞれ赤、青、緑フィルタ(RFL,BFL,GF
L)を通して赤、青、緑画像に分離し、しかる後、それ
ぞれ赤、青、緑の受容野像IMR,IMB,IMGに分割
し(ステップ60a〜60c)、各受容野像IMR,I
B,IMGに極変換処理を施し(ステップ61a〜61
c)、該極変換結果に一次元フィルタリング処理を施し
て双対プレーンに写像する(ステップ62a〜62
c)。同様に、図示しないが右カメラで撮像した1画面
分の色画像をそれぞれ赤、青、緑フィルタを通して赤、
青、緑画像に分離し、しかる後、それぞれ赤、青、緑の
受容野像に分割し、各受容野像に極変換処理を施し、該
極変換結果に一次元フィルタリング処理を施して双対プ
レーンに写像する。そして、赤同士、青同士、緑同士で
各双対プレーンに写像されたデータ間に赤相関処理、青
相関処理、緑相関処理を施す(ステップ63a〜63
c)。この色相関フィルタリングにより、各三原色の相
関パラメータを計測できる。
【0057】 色の三要素(明度、彩度、色相)での相関 次に基本的な色相関は、物理的な三原色を人間が主観的
に見える量、つまり明るさ(明度)、あざやかさ(彩
度)、色の具合(色相)に変換した後で、相関フィルタ
リングを施す方法である。このフィルタでは、心理学的
に整理された色の相関パラメータを計測できる。図21
は異なる画像間の三要素での色相関フィルタリングのフ
ローである。左カメラCMLで撮像した1画面分の色画
像をそれぞれ赤、青、緑フィルタで赤、青、緑画像に分
離し、しかる後、色変換部で三原色の色情報を明度・彩
度・色相の色の三要素IMV,IMS,IMHに変換し
(ステップ59)、それぞれ明度・彩度・色相の受容野
像IMV′,IMS′,IMH′に分割し(ステップ60
a′〜60c′)、各受容野像IMV′,IMS′,IM
H′に極変換処理を施し(ステップ61a′〜61
c′)、該極変換結果に一次元フィルタリング処理を施
して双対プレーンに写像する(ステップ62a′〜62
c′)。同様に、図示しないが右カメラで撮像した1画
面分の色画像をそれぞれ赤、青、緑フィルタで赤、青、
緑画像に分離し、しかる後、色変換部で三原色の色情報
を明度・彩度・色相の色の三要素に変換し、それぞれ明
度・彩度・色相の受容野像に分割し、各受容野像に極変
換処理を施し、該極変換結果に一次元フィルタリング処
理を施して双対プレーンに写像する。そして、明度同
士、彩度同士、色相同士で各双対プレーンに写像された
データ間に明度相関処理、彩度相関処理、色相相関処理
を施す(ステップ63a′〜63c′)。
【0058】色の差信号での相関 赤と緑の変わり目など、色の境界部分の相関パラメータ
を正確に計測するには、色の差信号に相関処理を施すの
が有効である。特に、三原色を補色の関係で差信号とす
るのが効果的である。図22は異なる画像間の色の差信
号での色相関フィルタリングのフロー図である。左カメ
ラCMLで撮像した1画面分の色画像をそれぞれ赤、
青、緑フィルタで赤、青、緑画像に分離し、しかる後、
赤と緑、緑と青、青と赤の差信号をそれぞれ演算し(ス
テップ58a〜58c)、各差信号の受容野像I
R-G,IMG-B,IMB-Rに分割し、各受容野像I
R-G,IMG-B,IMB-Rに極変換処理を施し(ステッ
プ61a″〜61c″)、該極変換結果に一次元フィル
タリング処理を施して双対プレーンに写像する(ステッ
プ62a″〜62c″)。同様に、図示しないが右カメ
ラで撮像した1画面分の色画像をそれぞれ赤、青、緑フ
ィルタで赤、青、緑画像に分離し、しかる後、赤と緑、
緑と青、青と赤の差信号をそれぞれ演算し、各差信号の
受容野像に極変換処理を施し、該極変換結果に一次元フ
ィルタリング処理を施して双対プレーンに写像する。そ
して、対応する色の差信号同士で各双対プレーンに写像
されたデータ間に赤−緑相関処理、緑−青相関処理、青
−赤相関処理を施す(ステップ63a″〜63c″)。
尚、差をとる代わりに割算や対数変換後の差も効果的で
ある。又、極変換あるいは一次元フィルタの後で差ある
いは割算をしても良い。以上の色相関では異なる画像間
の色相関を説明したが、色相関法を上記(b-1),(b-2)で
説明した各種相関法と組み合わせることができ、両眼立
体視や移動物体注視やテクスチュア解析などの相関フィ
ルタリングを更に確実なものにできる。
【0059】(c) 相関の作用方向 両眼立体視の例(図7参照)では、双対プレーンの方位
θが同じであるρ軸方向のデータを組み合わせて相関を
とったが、ρ軸に限る必要はなく、又、ρ軸内でも以下
の一般化が可能である。 (c-1) ρ軸方向の相関 θが同じρ軸の相関 これは前述の両眼立体視等の場合であるが、この「θが
同じρ軸相関」の意味は図2で説明したように、両画面
内の平行線のずれ量を相関法で正確に計測することにあ
る。図23はθが同一のρ軸相関フィルタリングのフロ
ー図であり、各入力データA,Bを受容野像に分割し
(ステップ50a,50b)、各受容野像に極変換処理
を施し(ステップ51a、51b)、該極変換結果に一
次元フィルタリング処理を施して双対プレーンに写像し
(ステップ52a,52b)、各双対プレーンより
θ0,θ1,・・毎にρ軸方向のデータを選択し(ステッ
プ54a 0,54a1,・・;54b0,54b1,・
・)、同一のθ値のデータ間に相関処理を施す(ステッ
プ530,531,・・)。尚、図23はθ値毎に並列的
に相関演算する場合であるが、1つの相関演算部を設け
て順次各θ値の相関演算を行うこともでき、その場合に
は図15(a)のフロー図と同一になる。
【0060】θが異なるρ軸の相関 この相関は、方位が異なる接線間の相関パラメータを計
測するフィルタリングである。このフィルタリングは
の平行線の相関だけでなく、方位が変わりながら移動す
る接線の抽出が可能であり、悪路を走行する自動車への
応用を期待できる。図24はかかるθが異なるρ軸相関
フィルタリングのフロー図である。入力データA,Bを
受容野像に分割し(ステップ50a,50b)、各受容
野像に極変換処理を施し(ステップ51a、51b)、
該極変換結果に一次元フィルタリング処理を施して双対
プレーンに写像し(ステップ52a,52b)、各双対
プレーンよりθi,θi+1,・・;θj,θj+1,・・毎に
ρ軸方向のデータを選択し(ステップ54a0,54
1,・・;54b0,54b1,・・)、異なるθ値の
データ間に相関処理を施す(ステップ530′,5
1′,・・)。
【0061】(c-1) θ軸方向の相関 ρが同じθ同士の相関パラメータに意味は、図25で説
明すると、ρ=0のθ相関では(図25(a))、受容野の
中心Cを通る接線SLの回転量を抽出できる。又、ρ≠
0のθ軸相関では、受容野中心Cを共用する半径ρの円
CIRに接する接線SLの回転移動量を検出できる。図
26はρが同一のθ軸相関フィルタリングのフロー図で
あり、各入力データA,Bを受容野像に分割し(ステッ
プ50a,50b)、各受容野像に極変換処理を施し
(ステップ51a、51b)、該極変換結果に一次元フ
ィルタリング処理を施して双対プレーンに写像し(ステ
ップ52a,52b)、各双対プレーンよりρ0,ρ1
・・毎にρ軸方向のデータを選択し(ステップ55
0,55a1,・・;55b0,55b1・・)、同一の
ρ値のデータ間に相関処理を施す(ステップ530,5
1・・)。尚、図26はρ値毎に並列的に相関演算す
る場合であるが、1つの相関演算部を設けて順次各ρ値
の相関演算を行うことができる。
【0062】(c-3) (ρ,θ)プレーンでの相関 以上では、ρ軸あるいはθ軸方向の一次元相関を説明し
たが、(ρ,θ)プレーンでの二次元相関も可能であ
る。この相関では、方位を変えながら移動する接線の相
関を正確に行うことが可能となる。図27は(ρ,θ)プ
レーンでの相関フィルタリングのフロー図である。各入
力データA,Bを受容野像に分割し(ステップ50a,
50b)、各受容野像に極変換処理を施し(ステップ5
1a、51b)、該極変換結果に一次元フィルタリング
処理を施して双対プレーンに写像し(ステップ52a,
52b)、各双対プレーンでの二次元相関処理を施す
(ステップ53)。尚、二次元相関量C(ρ,θ,
σ1,σ2)は各双対プレーン上のデータをa(ρ,
θ)、b(ρ,θ)、双対プレーンデータのρ軸方向及
びθ軸方向のシフト量をσ1,σ2として次式 C(ρ,θ,σ1,σ2)=a(ρ,θ)・b(ρ+σ1,θ+σ2) (2) で与えられる。
【0063】(d) 相関パラメータ 両眼立体視の例では説明を簡単にするために、(1)式の
相関量(相関パラメータ)で対応接線を求める方法を述
べたが、以下で示すように各種の相関パラメータを定義
でき、それぞれ特徴的な相関処理を行うことができる。 (d-1) 基本相関パラメータ 基本的な相関パラメータは以下で示すように、一般にC
(ρ,θ,σ)などと三次元で表現され、ρ,θ,σの
三次元空間は図28に示すようになる。図中τは時間的
に異なる画面間の相関において導入されるデータ間シフ
ト量(移動速度)で、後述する。相関パラメータC
(ρ,θ,σ)が極大になる三次元空間の点(ρP
θP,σP)を求めると、両眼立体視の対応決定や、移動
する接線の対応決定などが行われ、その極大点を与える
各座標値(要素パラメータの値)からそれぞれ接線の位
置、方位、視差あるいは速度を定量的に計測できる。
尚、(ρ,θ)プレーンの二次元相関では、相関パラメ
ータは四次元空間のパラメータC(ρ,θ,σ1,σ2
となる。
【0064】空間的相関パラメータ 相関の作用画面が、空間的に異なる画面あるいは受容野
の場合(前述の(b-1)、(b-2)の場合)であり、以下の
相関パラメータの極大点から、対応する接線の視差など
の対応の程度を示す相関量を計測できる。 (1) ρ方向の相関パラメータC(ρ,θ,σ):平行線
群の空間的相関度を示すパラメータである。前述の両眼
立体視の相関パラメータがこの一例であり、C(ρ,
θ,σ)が極大となるρP,θP,σPを求めると、平行
線群の中から対応する接線が決定され、その接線の位
置、方位、視差を定量的に計測できる。尚、相関パラメ
ータは各双対プレーン上のデータをa(ρ,θ),b
(ρ,θ)、ρ軸方向のシフト量をσとすれば次式 C(ρ,θ,σ)=a(ρ,θ)・b(ρ+σ,θ) で与えられる。
【0065】(2) θ方向の相関パラメータCθ(ρ,
θ,σ):受容野の中心を共用する半径ρの円に接する
接線群の空間的相関度を示すパラメータである。ρ=0
のθ相関処理では、Cθ(ρ,θ,σ)が極大となるρ
P,θP,σPから、放射線群の中から対応する接線が決
定され、その接線の位置、方位、方位変化量を定量的に
計測できる。尚、相関パラメータはθ軸方向のシフト量
をσとすれば、次式 C θ(ρ,θ,σ)=a(ρ,θ)・b(ρ,θ+σ) (3) で与えられる。
【0066】(3) (ρ,θ)プレーンの相関パラメータ
C(ρ,θ,σ1,σ2):方向が変化しながら移動する
接線群の空間的相関度を示すパラメータであり、双対プ
レーンでの二次元相関の程度を上記の一次元相関パラメ
ータに比べてより詳しく評価できる。尚、相関パラメー
タは(2)式、すなわち、次式 C(ρ,θ,σ1,σ2)=a(ρ,θ)・b(ρ+σ1
θ+σ2) で与えられる。
【0067】時間的相関パラメータ 相関の作用画面が、時間的に異なる画面あるいは受容野
の場合((b-1)などの場合)であり、以下の相関パラメ
ータの極大点などから、移動する接線の移動方向や移動
速度などを計測できる。 (1) ρ軸方向の相関パラメータC(ρ,θ,τ):平行
線群の時間的相関度を示すパラメータである。後述する
実施例、すなわち、移動する接線を追尾する場合の相関
パラメータがこの一例であり、C(ρ,θ,τ)が極大
となるρP,θP,τPから、平行移動する接線の位置、
方位、速度を定量的に計測できる。尚、相関パラメータ
はρ軸方向の移動速度をτとすると次式 C(ρ,θ,τ)=a(ρ,θ)・b(ρ+τ,θ) (4) で与えられる。尚、a(ρ,θ)=at(ρ,θ)、b
(ρ+τ,θ)=at+DELT A(ρ+τ,θ)と表現すると
相関パラメータは次式 C(ρ,θ,τ)=at(ρ,θ)・at+DELTA(ρ+τ,θ) (4)′ で与えられる。すなわち、図16のステップ53におい
て(4)′式の相関処理を実行する。ここでDELTAは遅れ時
間を表し、平行移動する接線の速度VはΔρをρ方向の
分解能として V=(τP・Δρ)/DELTA と求められる。これは、生体の大脳視覚野の「Direction
al Selectivity単純細胞」の機能をモデル化したもので
ある。その細胞は、特定の方向に動く刺激に反応するが
反対方向の刺激には応答しない独特の性質を示す。これ
は、上式のτを正あるいは負に制限することで実現で
き、生体の神経は正と負の情報を同時に送れない制約が
反映されたものである。尚、この細胞は正確には、「非
線型応答型」のDirectional Selectivity単純細胞であ
る。ところで、時間的相関パラメータは(4)式の非対称
型相関演算の他、次式の対称型相関演算により算出する
こともできる。 C(ρ,θ,τ)=a(ρ−τ,θ)・b(ρ+τ,θ) (4)″ 但し、以後では(4)式の非対称型相関演算により時間的
相関パラメータを演算するものとして説明する。
【0068】θ方向の相関パラメータCθ(ρ,θ,
τ):受容野の中心を共用する半径ρの円に接する接線
群の時間的相関度を示すパラメータである。ρ=0のθ
相関処理では、Cθ(ρ,θ,τ)が極大となるρP
θP,τPから、受容野中心を通る接線の位置、方位、方
位回転速度を定量的に計測できる。尚、相関パラメータ
はθ軸方向の移動速度をτとすると次式 Cθ(ρ,θ,σ)=a(ρ,θ)・b(ρ,θ+τ) (5) で与えられる。尚、a(ρ,θ)=at(ρ,θ)、b
(ρ,θ+τ)=at+DELT A(ρ,θ+τ)と表現すると
相関パラメータは次式 Cθ(ρ,θ,τ)=at(ρ,θ)・at+DELTA(ρ,θ+τ) (5)′ で与えられる。すなわち、図16のステップ53におい
て(5)′式の相関処理を実行する。ここでDELTAは遅れ時
間を表し、回転速度ωは ω=(τP・Δρ)/DELTA と求められる。生体に回転を検出する細胞があり、それ
をモデル化したものである。
【0069】(3) (ρ,θ)プレーンの相関パラメータ
C(ρ,θ,τ1,τ2):方向が変化しながら移動する
接線群の時間的相関度を示すパラメータである。C
(ρ,θ,τ1,τ2)が極大となるρP,θP,τ1P,τ
2Pから、受容野中心を通る接線の位置、方位、移動速
度、回転速度を一次元相関パラメータに比べて、より詳
しく計測できる。尚、相関パラメータは次式 C(ρ,θ,τ1,τ2)=a(ρ,θ)・b(ρ+τ1,θ+τ2) (6) で与えられる。すなわち、図16のステップ53におい
て(6)式の相関処理を実行する。尚、a(ρ,θ)=at
(ρ,θ)、b(ρ+τ1,θ+τ2)=at+DEL TA(ρ
+τ1,θ+τ2)と表現すると相関パラメータは次式 C(ρ,θ,τ1,τ2)=at(ρ,θ)・at+DELTA(ρ+τ1,θ+τ2) ・・・(6)′ で与えられる。すなわち、図16のステップ53におい
て(6)′式の相関処理を実行する。ここでDELTAは遅れ時
間を表し、平行移動速度Vと回転速度ωは V=(τ1P・Δρ)/DELTA ω=(τ2P・Δρ)/DELTA と求められる。
【0070】(d-2) 基本相関パラメータの投影 以上の基本相関パラメータでは、接線の位置(ρP)、
方位(θP)、視差/速度(σP/τP)の相関パラメー
タを全て決定することができたが、その反面で三次元以
上の大きな相関パラメータ記憶部が必要となる課題があ
る。以下では、相関判定のパラメータ数を必要に応じて
抑えて、相関パラメータ記憶部の容量を削減できる相関
パラメータの定義と特質を以下で説明する。空間的相関
パラメータC(ρ,θ,σ)と時間的相関パラメータC
(ρ,θ,τ)について説明するが、(ρ,θ)プレー
ンの相関パラメータC(ρ,θ,σ1,σ2),C(ρ,
θ,τ1,τ2)の場合にも同様に定義できて、一次元相
関パラメータの場合より詳しい相関計測が可能となる。
【0071】σあるいはτ方向に投影 対応する接線の位置ρと方位θが重要で、視差σ(移動
速度τ)を直接計測しなくて良い場合には、基本相関パ
ラメータC(ρ,θ,σ)又はC(ρ,θ,τ)をσ又
はτ方向に加算した次式のCPRJ-σ(ρ,θ)またはC
PRJ-τ(ρ,θ)が有効であり、相関パラメータ記憶部
は入力の双対プレーンと同じρ−θの二次元に削減され
る。 CPRJ-σ(ρ,θ)=ΣC(ρ,θ,σ) (但し、σ=0,1,2,・・・σmax) (7) CPRJ-τ(ρ,θ)=ΣC(ρ,θ,τ) (但し、τ=0,1,2,・・・τmax) (8)
【0072】図29は基本相関パラメータC(ρ,θ,
σ)を投影するフィルタリング処理のフロー図である。
入力データA,Bを受容野像に分割し(ステップ50
a,50b)、各受容野像に極変換処理を施し(ステッ
プ51a、51b)、該極変換結果に一次元フィルタリ
ング処理を施して双対プレーンに写像し(ステップ52
a,52b)、各双対プレーンのデータに(1)′式の相
関処理を施し(ステップ53)、相関処理により得られ
た相関パラメータC(ρ,θ,σ)を(7)式に従って積
算し(ステップ71)、積算結果をρ−θの相関パラメー
タメモリに記憶する(ステップ72)。
【0073】図30は相関パラメータを演算してσ方向
に投影する処理の流れ図である。相関演算に際して0→
θ、0→ρ、0→σとする(ステップ201〜20
3)。ついで、(1)′式により、相関パラメータC
(ρ,θ,σ)を演算し(ステップ204)、該相関パ
ラメータを(7)式に従って積算する(ステップ20
5)。ついで、σをインクリメントすると共に、σ>σ
maxかどうかを判断し(ステップ206、207)、σ
≦σmaxであれば、ステップ204に戻って以降の処理
を繰返す。そして、σ>σmaxとなれば、積算値をρ、
θが示す相関パラメータ記憶部のマトリックス交点に記
憶する(ステップ208)。以後、ρをインクリメント
すると共にρ>ρmaxかどうかを判断し(ステップ20
9、210)、ρ≦ρmaxであれば、ステップ203に
戻って以降の処理を繰返す。ρ>ρmaxとなれば、θを
インクリメントすると共にθ>θmaxかどうかを判断し
(ステップ211,212)、θ≦θmaxであれば、ス
テップ202に戻って以降の処理を繰返し、θ>θmax
となれば、相関演算・投影処理を終了する。
【0074】ρ方向に投影 対応する接線の方位θと視差σ(又は移動速度τ)が重
要で、位置ρを直接計測しなくても良い場合には、基本
相関パラメータC(ρ,θ,σ)をρ方向に加算した次
式で与えられる相関パラメータCPRJ-ρ(θ,σ)また
はCPRJ-ρ(θ,τ)が有効であり、相関パラメータ記
憶部は入力の双対プレーンと同じ二次元に削減される。 CPRJ-ρ(θ,σ)=ΣC(ρ,θ,σ) (但し、ρ=0,1,2,・・・ρmax) (9) CPRJ-ρ(θ,τ)=ΣC(ρ,θ,τ) (但し、ρ=0,1,2,・・・ρmax) (10) この相関パラメータは、視野内で動く輪郭線を検出する
場合に効果的であり、移動している輪郭接線の方位θと
移動速度τを、線の位置ρに無関係に計測できる。大脳
のハイパーコラムでも同様の働きをする細胞があり、視
野内で直線が平行移動すると強く発火し、止まると信号
を出さなくなるもので、「DirectionalSelectivity複雑
細胞」として知られている。これは、後述する「オプチカ
ル フローの計測」や「ランダムドットからの両眼立体視」
に重要な役割を果たす。
【0075】θ方向に投影 対応する接線の位置ρと視差σ(又は移動速度τ)が重
要で、方位θを直接計測しなくても良い場合には、基本
相関パラメータC(ρ,θ,σ)をθ方向に加算した次
式で与えられる相関パラメータCPRJ-θ(ρ,σ)また
はCPRJ-θ(ρ,τ)が有効であり、相関パラメータ記
憶部は入力の双対プレーンと同じ二次元に削減される。 CPRJ-θ(ρ,σ)=ΣC(ρ,θ,σ) (但し、θ=0,1,2,・・・θmax) (11) CPRJ-θ(ρ,τ)=ΣC(ρ,θ,τ) (但し、θ=0,1,2,・・・θmax) (12) この相関パラメータは受容野近傍に捕捉しながら、動い
ていく輪郭線を追尾する場合に効果的である。受容野中
心からの輪郭線の距離ρと移動速度τを、線の方位に無
関係に計測できるという特質を有する。これに似た細胞
は蛙などの網膜に存在してハエ等の獲物を追跡するのに
使用されている。
【0076】ρσあるいはρτ方向に投影 対応する接線の方位θが重要で、位置ρと視差σ(移動
速度τ)を直接計測しなくて良い場合には、基本相関パ
ラメータC(ρ,θ,σ)をρσ方向(又はρτ方向)
に加算した次式で与えられる相関パラメータCPRJ-ρσ
(θ)またはC PRJ-ρτ(θ)が有効であり、相関パラ
メータ記憶部は一次元に削減される。 CPRJ-ρσ(θ)=ΣΣC(ρ,θ,σ) (但し、ρ=0,1,2,・・・ρmax、σ=0,1,2,・・・σmax) (13) CPRJ-ρτ(θ)=ΣΣC(ρ,θ,τ) (但し、ρ=0,1,2,・・・ρmax、σ=0,1,2,・・・σmax) (14) この相関パラメータは、受容野内をある方位の輪郭線が
移動したことを検知するのに効果的であり、移動してい
る輪郭線の方位θを、輪郭線の位置や移動速度に無関係
に計測できるという特質を有している。
【0077】ρθに投影 対応する輪郭線の視差ρ(移動速度τ)が重要で、位置
ρと方位θを直接計測しなくて良い場合には、基本相関
パラメータC(ρ,θ,σ)をρθ方向に加算した次式
で与えられる相関パラメータCPRJ-ρθ(σ)またはC
PRJ-ρθ(τ)が有効であり、相関パラメータ記憶部は
一次元に削減される。 CPRJ-ρθ(σ)=ΣΣC(ρ,θ,σ) (但し、ρ=0,1,2,・・・ρmax、θ=0,1,2,・・・θmax) (15) CPRJ-ρθ(τ)=ΣΣC(ρ,θ,τ) (但し、ρ=0,1,2,・・・ρmax、θ=0,1,2,・・・θmax) (16) この相関パラメータは、受容野内を移動する輪郭線をそ
の速度と共に検知したい場合に効果的であり、(16)式の
場合には移動している輪郭線速度τを、輪郭線の位置や
方位に無関係に計測できるという特質を有している。
【0078】θρσあるいはθρτに投影 受容野内に対応した輪郭線が有るか否かだけが重要で、
位置ρ、方位θ、視差σ(移動速度τ)を計測しなくて
良い場合には、基本相関パラメータC(ρ,θ,σ)を
ρθσ方向(又はρθτ方向)に加算した次式で与えら
れる相関パラメータCPRJ-θρσまたはCPRJ-θρτが
効果的であり、相関パラメータ記憶部は1細胞のみの0
次元に削減される。 CPRJ-θρσ=ΣΣΣC(ρ,θ,σ) (但しρ=0,1,2,・・・ρmax、θ=0,1,2,・・・θmax、σ=0,1,2,・・・σmax) (17) CPRJ-θρτ=ΣΣΣC(ρ,θ,τ) (但しρ=0,1,2,・・・ρmax、θ=0,1,2,・・・θmax、σ=0,1,2,・・・σmax) (18) このようなケースは、(18)式を例にとると受容野内を移
動する輪郭線が存在するか否かだけを検知したい場合に
効果的であり、輪郭線の位置や方位や移動速度に無関係
に計測できるという特質を有している。これに似た細胞
は蛙などの下等動物の網膜に共通的に存在して、受容野
の中にハエ等の獲物が入ってきたかを少ない細胞で、か
つ素早く検出するために、極端に細胞数の少ない処理系
を構成している知恵が推察される。工学的にも、使用I
Cの数が非常に限定される惑星探査用の自走車などで、
概略の移動状況を受容野単位で把握する場合に有効であ
る。
【0079】(ρ,τ)あるいは(ρ,σ)プレーン
の斜め方向に投影 以上では、相関パラメータ記憶部の容量削減のために、
基本相関パラメータC(ρ,θ,σ),C(ρ,θ,
τ)などの要素パラメータの方向、つまり輪郭線の位置
ρ、方位θ、視差σ、移動速度τの方向に直接投影し
た。ここでは、上記の各要素パラメータの性質を残した
ままで相関パラメータ記憶部の容量を削減する方法を説
明する。基本相関パラメータC(ρ,θ,σ),C
(ρ,θ,τ)を図28の(ρ,τ)あるいは(ρ,
σ)プレーンの任意の斜めの方向に投影するとρ、τ、
σの性質を残して相関パラメータ記憶部を二次元に削減
できる。この斜め投影を、(ρ,σ)の450方向に投
影した例で説明する。投影方向に直交する軸をξとする
と、450方向に投影された相関パラメータCPRJ-45σ
(θ,ξ)は次式で与えられ、相関パラメータCPRJ-45
σ(θ,ξ)が極大となるθP、ξPを求めると、対応す
る輪郭線の方位θPと「位置ρと視差σを複合したパラ
メータξP」が計測される。 CPRJ-45σ(θ,ξ)=ΣC(ρ+i,θ,σ+i) (但し、i=1,2・・・) (19)
【0080】(d-3) 自然フィルタのコンボリューション
フィルタC1(ρ,θ) 双対プレーンの出力データをa(ρ,θ)、b(ρ,
θ)とした以下の投影相関パラメータC1(ρ,θ)は
興味深いフィルタを構成する。 C1(ρ,θ)=Σa(ρ+i,θ)・b(i,θ) (但し、i=1,2・・・) (20) 一方、前述の先願特許(特願平3-327722号)で開示した
一次元フィルタコンボリューション演算出力C2(ρ,
θ)は、一次元フィルタ関数をg(ρ)として次式で与
えられている。 C2(ρ,θ)=Σa(ρ+i,θ)・g(i) (但し、i=1,2・・・) (21) 両方の式を比較すると、相関パラメータC1(ρ,θ)
はコンボリューション出力C2(ρ,θ)のフィルタ関
数g(ρ)を、相関データb(i,θ)に変えたものであ
る。このことから、相関パラメータC1(ρ,θ)は人
工のフィルタ関数g(ρ)の代わりに、自然のデータb
(i,θ)とのコンボリューション演算を行った「自然
フィルタリング」結果と考えることができる。
【0081】両フィルタリングの機能を考えてみると、
フィルタ関数g(ρ)が既知の(21)式の「人工フィルタ
リング」は、微分などの予め作用を規定できる場合に採
用できるが、「左右の眼で同じに見える特徴」を抽出し
たり、「前の画像と同じ特徴」を追跡する場合には、自
然データとのコンボリューション演算が必要であり、か
かる特徴抽出や特徴追跡は不可能である。一方、(20)式
の「自然フィルタリング」は予めフィルタパターンを規
定できない上記の場合にも、的確なフィルタを行うこと
ができる。
【0082】図31は本発明の自然フィルタの構成図で
あり、81は入力データ(1画面分の画像データ)を受
容野毎に切り出して出力する受容野分割部、82は受容
野像に極変換処理を施す極変換部、83は極変換結果a
(ρ,θ)を記憶するρ−θの双対プレーン(ハイパー
コラムメモリ)、84は本発明に係わる自然フィルタで
あり、自然フィルタデータを受容野毎に切り出して出力
する受容野分割部84aと、受容野像に極変換処理を施
す極変換部84bと、極変換結果b(ρ,θ)を記憶す
るρ−θの双対プレーン84cと、(20)式の演算を行う
乗算部84dと積算部84eを有している。
【0083】乗算部84dは双対プレーン83,84c
から出力されるデータa(ρ+i,θ)、b(i,θ)
(ρ、θ、iの初期値は0)に対して次の乗算 a(ρ+i,θ)・b(i,θ) を実行して積算部84eに出力すると共に、iをインク
リメントして次のデータa(ρ+i,θ)、b(i,
θ)に対して同様の乗算をi>imax(フィルタ幅であ
り適当に設定する)となるまで実行する。積算部84e
は乗算結果を積算し、i>imaxとなれば積算結果をρ
−θプレーンメモリ(図示せず)に記憶する。以後、全
ての(ρ,θ)について積和演算を実行すれば自然フィ
ルタリング処理が終了する。
【0084】両眼立体視への応用 基本相関パラメータC(ρ,θ,σ)により、詳細な輪
郭線の対応を三次元で行えることは前述した通りである
が、この自然フィルタでは、二次元プレーン(ρ,θ)
で輪郭の対応が可能となる。具体的には、前述のC
1(ρ,θ)の極大を求めることにより、両眼で対応す
る輪郭線の位置ρと方位θを、視差σに無関係に決定で
きる。猿の大脳18野にもこれと似た機能の細胞が存在
し、両眼で対応する輪郭線を検知している。
【0085】移動輪郭線の追跡への応用 以上は空間的に異なる受容野間の自然フィルタであった
が、時間的な自然フィルタでも効果的である。時間的な
相関パラメータCtime(ρ,θ)は、時間的に異なる入
力データをat(ρ,θ),at+DELTA(ρ,θ)とし
て、同様に次式 Ctime(ρ,θ)=Σat(ρ+i,θ)・at+DELTA(i,θ) (但し、i=0,1・・・) (22) で与えられる。三次元空間であれば、同時的な基本相関
相関パラメータC(ρ,θ,τ)により、移動する輪郭
線の位置、方位、移動速度を計測できることは前述し
た。しかし、この自然フィルタではCtime(ρ,θ)の
極大を求めることにより、移動する輪郭線の位置ρ、方
位θを、二次元プレーンで移動速度τに無関係に決定で
きるという特質を有する。大脳の視覚野にも同様の細胞
が存在する。
【0086】(d-4) 差タイプの基本相関 以上では、基本相関パラメータを C(ρ,θ,σ)=a(ρ,θ)・b(ρ+σ,θ) C(ρ,θ,τ)=at(ρ,θ)・at+DELTA(ρ+
τ,θ) のように乗算で構成したが、これを加算としても同様の
効果が得られる。この場合には信号の間に線形性が保証
され、生体では「線形単純細胞」として知られている。更
に、上式の乗算を引き算とすることにより、輪郭の不明
瞭な物体の両眼立体視や追尾を、明るさや色合いの緩い
変化などを手掛かりにして行うことが可能となる。
【0087】空間的相関 ρ軸方向相関の場合で説明すると、その基本相関パラメ
ータは C′(ρ,θ,σ)=a(ρ,θ)−b(ρ+σ,θ) (23) で与えられる。この相関では、入力データの等しい所で
C′(ρ,θ,σ)が零になる。この性質により、輪郭
の明瞭でない物体の両眼立体視も可能となる。例えば、
大きな丸い柱を見ると両端を除いて明確な輪郭はない
が、その明るさは入射角との関係で序々に変化してい
る。左右の眼で明るさの等しい所をC′(ρ,θ,σ)
が零になる性質から見出すと両眼対応ができて、円筒の
表面状態を立体視計測できる。
【0088】図32は差タイプの相関処理の流れ図であ
り、全体の基本フローは図14の場合と同一であり、異
なる点は相関パラメータの演算を(23)式により行ってい
る点である。相関演算に際して0→θ、0→ρ、0→σ
とする(ステップ301〜303)。ついで、(23)式に
より、相関パラメータを演算して相関パラメータ記憶部
に記憶する(ステップ304,305)。ついで、σをイ
ンクリメントすると共に、σ>σmaxかどうかを判断し
(ステップ306、307)、σ≦σmaxであれば、ス
テップ304に戻って以降の処理を繰返す。そして、σ
>σmaxとなれば、ρをインクリメントすると共にρ>
ρmaxかどうかを判断し(ステップ308、309)、
ρ≦ρmaxであれば、ステップ303に戻って以降の処
理を繰返す。ρ>ρmaxとなれば、θをインクリメント
すると共にθ>θmaxかどうかを判断し(ステップ31
0、311)、θ≦θmaxであれば、ステップ302に
戻って以降の処理を繰返し、θ>θmaxとなれば、相関
演算処理を終了する。
【0089】時間的相関 ρ方向の場合で説明すると、その基本相関パラメータは
次式 C′(ρ,θ,τ)=a(ρ,θ)−b(ρ+τ,θ) (23) で与えられる。尚、a(ρ,θ)=at(ρ,θ)、b
(ρ+τ,θ)=at+DELT A(ρ+τ,θ)と表現すると
相関パラメータは次式 C′(ρ,θ,τ)=at(ρ,θ)−at+DELTA(ρ+τ,θ) (23)′ で与えられる。この相関でも、入力データの等しい所で
C′(ρ,θ,τ)が零になる。この性質により、輪郭
の明瞭でない物体の追尾も可能となる。の場合と同様
の方法で、明るさの同じになる場所を、C′(ρ,θ,
τ)が零になる性質から検出していくと、円筒の表面や
人間の顔の一部など明瞭な輪郭線を検出できない部分で
も、安定な追尾ができる。この細胞は前述の「Directio
nal Selectivity 単純細胞」に属する「線型応答型細
胞」である。
【0090】(E)具体方式と実施例 (a) 両眼立体視 空間的に異なる作用画面の具体例として、両眼立体視の
方式とシミュレーション例を説明する。接線には線・隙
間・縁の特徴が有り、”線”は明るく光る帯であり、”
縁(エッジ)”は明るい部分と暗い部分の境界線であ
り、”隙間”は線の逆で、暗い細い帯である。(C)項
では”線”の両眼立体視対応を相関フィルタの原理説明
のために示したが、ここでは、線も含めその他の特徴の
両眼立体視を体系的に説明する。先願特許(特願平3-32
7722号)において、線抽出フィルタ、縁抽出フィルタ、
隙間抽出フィルタを開示したが、これらフィルタを用い
ることにより、線・隙間の両眼立体視や縁の両眼立体視
が可能となる。
【0091】(a-1) 各種フィルタ構成 線抽出フィルタ 図33は”線”抽出フィルタの構成図であり、(a)は「受
容野法(受容野分割+極変換)+一次元gasフィルタ」構
成の線抽出フィルタ、(b)は「二次元gasフィルタ+受容
野法」構成の線抽出フィルタである。(a)の線抽出フィ
ルタは、受容野分割部で入力画像を受容野毎に分割し、
極変換部で各受容野像毎に極変換を施し、一次元gasフ
ィルタで極変換出力に一次元二次微分フィルタ処理を施
して線分を抽出するものである。(b)の線抽出フィルタ
は、二次元gasフィルタで入力画像に二次元二次微分処
理を施してから、受容野毎に分割し、各受容野像に極変
換を施して線を抽出するものである。
【0092】縁抽出フィルタ 図34は各種”縁”抽出フィルタの構成図であり、(a)
は受容野法(受容野分割+極変換)の出力に一次元grフ
ィルタ処理を施して”縁”を抽出する基本フィルタの構
成、(b)は(a)の基本フィルタの後段に更に一次元gasフ
ィルタを接続した縁抽出フィルタの構成、(c)は(a)の基
本フィルタの前段に更に二次元gasフィルタを接続した
縁抽出フィルタの構成である。(a)の縁抽出フィルタ
は、受容野分割部で入力画像を受容野毎に分割し、極変
換部で各受容野像に極変換を施し、一次元grフィルタで
極変換出力に一次微分処理を施して”縁”を抽出するも
のである。(b)の縁抽出フィルタは、受容野分割部で入
力画像を受容野毎に分割し、極変換部で各受容野像に極
変換を施し、一次元grフィルタで極変換出力に一次元一
次微分処理を施し、更に二次元gasフィルタで一次元二
次微分処理を施して”縁”を抽出するものである。(c)
の縁抽出フィルタは、二次元gasフィルタで入力画像に
二次元二次微分処理を施してから、受容野分割部で入力
画像を受容野毎に分割し、極変換部で各受容野像に極変
換を施し、更に一次元grフィルタで極変換出力に一次元
一次微分処理を施して”縁”を抽出するものである。
【0093】隙間抽出フィルタ 隙間抽出フィルタは、線抽出フィルタの符号を反転した
ものである。従って、図33に示す各線抽出フィルタの
後段に符号反転部を接続すれば、隙間抽出フィルタにな
る。図35は隙間抽出フィルタの構成図であり、符号反
転部が設けられている。
【0094】(a-2) 線・隙間の両眼立体視 一次元フィルタでの線・隙間の両眼立体視 図14の基本フローにおける「極変換+一次元フィルタ
処理」を、図33(a)又は図35(a)に示す「受容野分割
+極変換+一次元ガウシャンフィルタ(+符号反転)処
理」とすると共に、左右眼の画像を入力することによ
り、線・隙間の両眼立体視が可能となる。そのシミュレ
ーション結果は既に図11〜図13で説明した。図13
におけるC(ρ,θ,σ)の鋭いピークが垂直線の対応
点を示し、σ軸の値から視差が5画素と正しく計測され
ている。
【0095】二次元フィルタでの線・隙間の両眼立体
視(生体的両眼立体視) 図14の基本フローにおける「極変換+一次元フィルタ
処理」を、図33(b)又は図35(b)に示す「二次元ガウ
シャンフィルタ+受容野分割+極変換(+符号反転)処
理」とすると共に、左右眼の画像を入力することによ
り、線・隙間の両眼立体視が可能となる。この方式は、
左右眼の入力画像に二次元gasフィルタで二次元二次微
分処理(二次元コンボリューションフィルタ処理)を施
し、しかる後、受容野毎に分割し、各受容野像に極変換
を施すものである。二次元gasフィルタ処理は「極変換後
の一次元フィルタ処理」と等価であり、シミュレーショ
ン結果は省略するが、図11〜図13と同一になる。こ
の方式は、人間の立体視と同じであり、二次元gasフィ
ルタで輪郭強調した結果を、形の認識等にも共通的に活
用できる利点が有る。
【0096】(a-3) 縁の両眼立体視 一次元フィルタでの縁の両眼立体視 図14の基本フローにおける「極変換+一次元フィルタ
処理」を、図34(b)に示す「受容野分割+極変換+一
次元グラディエントフィルタ+一次元ガウシャンフィル
タ処理」とすると共に、左右眼の画像を入力することに
より、縁の両眼立体視が可能となる。そのシミュレーシ
ョン結果を図36、図37に示す。図36(a),(b)にお
ける円形部CL,CRは左右眼の受容野、円形内の像は左
右眼に写る受容野像であり、プラント内の情景中四角S
Qで囲んだ部分の縁の図形が写っている。図37におい
ては、全てのデータを信号の強さを等高線で示してあ
り、極変換結果と、θ=1680での基本相関パラメー
タC(ρ,θ,σ)の強度分布が等高線で示されてい
る。C(ρ,θ,σ)の鋭いピークが縁の対応点を示
し、σ軸の値から視差が1画素と正しく計測されてい
る。
【0097】二次元フィルタを混在した縁の両眼立体
視(生体的両眼立体視) 図14の基本フローにおける「極変換+一次元フィルタ
処理」を、図34(c)に示す「二次元ガウシャンフィル
タ+受容野分割+極変換+一次元グラディエントフィル
タ処理」とすると共に、左右眼の画像を入力することに
より、縁の両眼立体視が可能となる。この方式は、左右
眼の入力画像に二次元gasフィルタで二次元二次微分処
理を施し、しかる後、受容野毎に分割し、各受容野像に
極変換を施すものである。二次元gasフィルタ処理は「極
変換後の一次元フィルタ処理」と等価であり、シミュレ
ーション結果は省略するが、図36と同一になる。この
方式は、人間の立体視と同じであり、二次元gasフィル
タで輪郭強調した結果を、形の認識等にも共通的に活用
できる利点が有る。 (a-4) 多角形図形・曲線図形・ランダムドット・テクス
チュアの両眼立体視:この両眼立体視は後述する移動方
向・速度の計測における記述と関連があるので、該記述
の後に(c)項として改めて説明する。
【0098】(b) 移動方向と移動速度の計測 時間的に異なる作用画面の具体的な例として、画面内を
移動する物体を追尾するために、移動方向Φと速度Vを
計測する方式を説明する。 (b-1) 輪郭接線の移動方向と速度の計測 対象物の輪郭は直線で近似され(接線)、その接線の移
動方向と速度は以下の方法で計測できる。現時刻の画像
と、次の時刻の画像を「極変換+一次元フィルタ処理」
したデータat(ρ,θ)、at+DELTA(ρ,θ)から、
基本相関パラメータC(ρ,θ,τ)を次式 C(ρ,θ,τ)=at(ρ,θ)・at+DELTA(ρ+τ,θ) (24) より計算し、そのC(ρ,θ,τ)が極大となる点(ρ
P,θP,τP)を求めると、その要素パラメータから 接線の移動方向Φ=θP+900 接線の移動速度V=(τP・Δρ)/DELTA・・・(25) と求まり、そのデータから接線を追尾できる。ここで、
Δρはρ方向の分解能である。
【0099】この方向と速度は、接線の方位と移動方向
0が直交していない場合には誤差を生じる。その理由
を図38で説明すると、(25)式により計測される接線L
の移動方向と速度は、それぞれ「接線の方位に直交する
方向」及び「その直交方向の速度V」であり、本当の方
向ベクトルV0と一致しなくなるからである。この誤差
を修正した正しい移動方向と速度の計測法を次で説明す
るが、対象物の追尾を行うにはこの方式で十分である。
というのは、短い時間間隔で追尾が行われるため、毎回
の上式の誤差は小さく問題とならないからである。
【0100】図39は接線の移動方向と移動速度を計測
するフロー図である。画像データを遅延し(ステップ4
9)、現時刻の1画面分の画像データと遅延により得ら
れた所定時間前の1画面分の画像データをそれぞれ受容
野像に分割し(ステップ50a,50a′)、各受容野
像IM,IM′に極変換処理を施し(ステップ51a,
51a′)、該極変換結果に一次元フィルタリング処理
を施して双対プレーンに写像し(ステップ52a,52
a′)、各双対プレーンに写像されたデータ間に(24)式
の相関処理を施し(ステップ53)、計算された相関パ
ラメータC(ρ,θ,τ)を相関パラメータ記憶部に記
憶し(ステップ72)、相関演算終了後、相関パラメー
タ記憶部をスキャンしてC(ρ,θ,τ)が極大となる
(ρP,θP,τP)を検出し(ステップ73)、最後に
(25)式により接線の移動方向Φと移動速度Vを計算する
(ステップ74)。
【0101】(b-2) コーナのの移動方向と速度の計測 正確な移動方向と速度を計測するには、受容野に2本以
上の輪郭線が必要である。対象物は図40(a)に示すよ
うに一般的に2つの輪郭接線Li,Ljをから成るコーナ
CNを有しており、このコーナの相関処理によって正確
な移動方向と速度を計測できる。まず、(b-1)の場合と
同じように(24)式により相関処理を行う。すなわち、現
時刻の画像と次の時刻の画像とを「極変換+一次元フィ
ルタ処理」したデータa t(ρ,θ)、at+DELTA(ρ,
θ)を用いて基本相関パラメータC(ρ,θ,τ)を(2
4)式より計算し、そのC(ρ,θ,τ)が極大となる点
(ρP,θP,τP)を求める。ついで、極大値探索によ
り抽出した2つの接線Li,Ljに対応する点を(ρi
θi,τi)、(ρj,θj,τj)、・・・とすると、正
確な移動方向Φと速度Vは次式 Φ=arctan[(τisinθj−τjsinθi)/(τicosθj−τjcosθi)] (26) V=(Δρ・τi)/(sin(Φ−θi)・DELTA) (27) で計測される。ここで、DELTAは現時刻と次の時刻との
時間間隔である。
【0102】この(26),(27)式は以下の如く導出され
る。すなわち、(25)式により計測される接線L(図38
参照)の移動方向と速度はそれぞれ「接線の方位に直交
する方向」及び「その直交方向の速度V」である。従っ
て、図38のΦ0方向に移動した時、(25)式で計測され
る速度はV0cosξとなる。これより、 V0cosξ=(τP・Δρ)/DELTA (28) が成立する。ところで、角度ξは図38において時計方
向を正とすると、次式 ξ=900−(Φ0−θP) (29) (但し、θPは接線Lの方向)で与えられる。(28)式に(2
9)式を代入すると、 V0cos[900-(Φ0P)]=(τP・Δρ)/DELTA (30) となり、変形すると V0sin(Φ0P)=(τP・Δρ)/DELTA (30)′ となる。ここで、τP=τi,θP=θiとし、V0を求め
ると(27)式が導出される。尚、τPをτで、θPをθで表
現し、k=DELTA/Δρとして(30)式を変形すると次式 τ=k・V0・cos[900-(Φ0-θ)] (31) となり、この関係式をθ-τ平面上に描画すると図40
(b)に示すように正弦波(正弦波状の発火パターン)と
なる。換言すれば、図形の各辺Li,Ljはθ-τ平面上に
おいて正弦波上の1点に濃縮される。
【0103】さて、(31)式を変形すると、 τ=k・V0・sin(Φ0-θ) (32) となる。この(32)式において、(θ,τ)=(θi
τi)、(θ,τ)=(θj,τj)とすると、次式 τi=k・V0・sin(Φ0i) (32)′ τj=k・V0・sin(Φ0j) (32)″ となる。(32)′、(32)″式より τi/τj=sin(Φ0i)/sin(Φ0j) が成立し、 tanΦ0=(τisinθj−τjsinθi)/(τicosθj−τjcos
θi) が導かれ、(26)式が導出される。尚、コーナは2本の輪
郭線からなるが、3本以上の輪郭線から構成される特徴
であれば、図40(b)の正弦波をより正確に決定でき、
従って(Φ0,V0)の計測精度を高めることができる。
【0104】 (b-3) 多角形・曲線からの移動方向・速度の計測 上記では、2本の線(コーナ)からの移動方向・速度の
計測を述べたが、もっと多くの線や接線から構成される
「多角形・曲線」に着目すると、更に信頼性の良い「移
動方向・速度の計測」が可能となる。前述のρ方向に投
影した次式で与えられる相関パラメータCPRJ-ρ(θ,
τ) CPRJ-ρ(θ,τ)=ΣC(ρ,θ,τ) (ρ=1,
2,・・・) が重要な役割を果たす。
【0105】多角形からの移動方向・速度の計測 多角形図形に対するこのパラメータの応答は、図41に
示すように、多角形の各辺の応答が正弦波状に分布す
る。N角形であれば、正弦波状にN個のピークが並ぶこ
とになり、また速度の大きい多角形は大振幅の正弦波と
なる。これから多角形全体の移動方向と速度を正確に計
測できる。直線の方位と移動方向との角度を図38のよ
うにξとすると、相関パラメータC(ρ,θ,τ)がピ
ークとなるτPは、(28)式より τP=(V0・DELTA/Δρ)・cosξ であり、これをρ方向に投影したCPRJ-ρ(θ,τ)は
図41の正弦波(正弦波状の発火パターン)となる。そ
の最大点(θmax、τmax)を求めると、 移動方向Φ0 =θmax−900 (33a) 真の移動速度V0=(τmax・Δρ)/DELTA (33b) を計算できる。前述のコーナ法(図40(b))に比して、
基本原理は同じであるが、正弦波上に多くの点(N点)
が分布するため、そのピーク(最大振幅となる点)を正
確に計算できるとの大きな特徴がある。
【0106】この正弦波の抽出を極変換を用いて行うこ
とができる。すなわち、円筒上極変換(Hough(ハフ)
変換)では点が正弦波に変換され、正弦波上の各点を更
に極変換すると(逆ハフ変換)、各点は1点で交差する
直線に変換される。従って、該点より正弦波を抽出でき
る。具体的には、CPRJ-ρ(θ,τ)プレーンの各点
を、以下の関係 τ=−Vy・cosθ+Vx・sinθ (34) を満たす直線に変換して、その交点CP(Vx,Vy)を
求める(図42参照)。Vx,Vy座標原点からこの交点
CPまでの方向及び距離が(33a),(33b)式におけるθma
x、τmaxとなる。尚、交点CP迄の方向及び距離が(33
a),(33b)式におけるθmax、τmaxとなる理由は以下のと
おりである。(34)式は、真の速度V0と方向Φを用いて
変形すると τ=(√(Vx2+Vy2))・sin(θ−Φ) =V0・(DELTA/Δρ)・sin(θ−Φ) (34)′ となる。ただし、Φ=arctan(Vy/Vx).従って、C
PRJ-ρ(θ,τ)プレーンの正弦波のピークは τmax=V0・(DELTA/Δρ) あるいは =√(Vx2+Vy2) θmax=Φ−900 となる。これより真の速度と方向が次式 真の速度V0=(Δρ/DELTA)・√(Vx2+Vy2) (35a) 真の方向Φ0=arctan(Vy/Vx) (35b) で計算できる。尚、この方法は「逆ハフ変換」に相当して
いる。
【0107】図43は以上により移動方向と移動速度を
計測するフロー図である。現時刻と次の時刻の1画面分
の画像データをそれぞれ受容野像に分割し(ステップ5
0a,50a′)、各受容野像IM,IM′に極変換処
理を施し(ステップ51a,51a′)、該極変換結果
に一次元フィルタリング処理を施して双対プレーンに写
像し(ステップ52a,52a′)、各双対プレーンに
写像されたデータ間に(24)式の相関処理を施し(ステッ
プ53)、計算された相関パラメータC(ρ,θ,τ)
を相関パラメータ記憶部に記憶する(ステップ72)。
ついで、次式 CPRJ-ρ(θ,τ)=ΣC(ρ,θ,τ) (ρ=1,
2,・・・) により、ρ方向に投影した相関パラメータCPRJ-ρ
(θ,τ)を求め(ステップ75)、θ−τ平面の相関
パラメータ記憶部に記憶する(ステップ76)。つい
で、相関パラメータCPRJ-ρ(θ,τ)に(34)式により
極変換処理を施し(ステップ77)、Vx,Vy平面(速
度平面)上におけるピーク点(交点)を求め(ステップ
78)、座標原点からこの交点までの方向及び距離を求
めて(35a),(35b)式に基づいて真の速度V0、真の方向Φ
0を演算する(ステップ79)。 曲線図形からの移動方向・速度の計測 以上は多角形であったが、曲線図形でも同様に信頼性の
高い計測を行うことができる。「受容野法+極変換」で
は、曲線の接線を的確に抽出でき、そのデータから同様
にCPRJ-ρ(θ,τ)を計算すれば良い。
【0108】(b-4) ランダムドットやテクスチュアから
の移動方向・速度の計測 以上では、直線や接線から構成される図形(多角形、曲
線)から、移動方向と速度を計測できることを述べた。
次に、ランダムの点から構成される図形に拡張する。こ
の図形に対しても(b-3)と全く同じ処理で移動方向と速
度を計測できる。その理由は、「受容野法+一次元フィ
ルタ」によって、「点のペアを直線」として抽出でき、
多角形と同じに考えられるためである(図44参照)。
この方法により、ランダムドット図形は当然として、細
かい模様から構成され「テクスチュア」図形の移動方向
・速度の計測が可能となり、この拡張は極めて大きな効
果を有する。
【0109】図45、図46はランダムドット図形の移
動方向、速度計測におけるシミュレーション結果説明図
であり、1秒間に、450方向に6√2画素移動した時
の結果であり、遅れDELTAを1秒に設定する。なお、こ
のランダムドット図形はコンピュータで生成したランダ
ムドット・ステレオグラムであり、1ドット=1画素で
描いてあり、密度は50%である。図45において、I
M,IM′はそれぞれ、現時刻(遅れなし)と次の時刻
(遅れあり)の受容野像、HCIM,HCIM′は各受
容野像IM,IM′に極変換処理を施し、該極変換結果
に一次元フィルタリング処理を施してρ−θの双対プレ
ーンに写像したハイパーコラム像である。又、図46に
おいて、PRIMはハイパーコラム像間に相関処理を施
し、得られた相関パラメータC(ρ,θ,τ)をρ方向
に投影したθ−τ平面における相関パラメータCPRJ-ρ
(θ,τ)、HGIMは相関パラメータCPRJ-ρ(θ,
τ)に極変換処理を施したVx,Vy平面上の極変換結果
ある。θ−τ平面上には、正弦波パターンSWVが現れ
ており、又、速度平面上には450方向、6√2画素位
置に鋭いピークPKが抽出されている。このピーク点
(Vx,Vy)より(35a),(35b)式に基づいて真の速度と
真の移動方向が計算できる。
【0110】大脳のハイパーコラムには「Directional S
electivity単純細胞」や「Directional Selectivity複雑
細胞」といわれる細胞があり、移動する輪郭線の移動方
向と速度を検出しており、その機能は本方式と非常に似
ている。特に、ハイパーコラムの第5及び第6層には上
丘や外側膝状体に信号をフィードバックする複雑細胞が
存在し、該複雑細胞は輪郭線の移動方向と移動速度のデ
ータを計測して対象物を視野の中心に捕捉するように眼
球を制御するのに重要な役割を果たしている。工学的に
も、移動ロボットなどでは対象物を視野の中心に捕捉し
て、接近や回避するなどの動作を行う必要があり、本方
式は有効である。又、対象物の移動方向と速度を計測す
る研究が近年盛んになっているが、それらの方法は「明
るさの時間変化から移動方向と速度を求める方法」と
「図形特徴の移動に伴う変化から移動方向と速度求める
方法」に大別できる。しかし、前者は微分的な取扱とな
って照明の変化や振動などに弱いとの実用上の大きな課
題があり、又、後者は図形特徴の対応がポイントである
が、現在の”形の処理”に弱い画像処理技術では適用に
限界がある。これらのオプチカルフローの課題に対し
て、本方式は前者に対して「極変換によって図形を構成
する点群を直線に変えて積算する、積分的な操作であ
り、ノイズに強い」という特徴を有している。又、後者
に対しては「最も簡単な図形、つまり輪郭接線に分解
し、かつその接線を極変換で一次元で対応処理できるた
め、複雑な図形に対しても確実な計測ができる」という
特徴を有している。すなわち、本方式は、「積分型で一
次元処理が可能な、新しいオプチカルフロー方式」とい
える。
【0111】(b-5) 線・隙間の移動方向と速度の計測 以下でシミュレーション結果を含めて、線・隙間の移動
方向と速度の計測方式を説明する。移動方向と速度の具
体的な計測方法は、(b-1)を例にしたが、(b-2)〜(b-4)
でも同様に実行できる。 一次元フィルタでの移動方向と速度の計測 図39のフローにおける「受容野分割+極変換+一次元
フィルタ処理」を、図33(a)又は図35(a)に示す「受
容野分割+極変換+一次元ガウシャンフィルタ(+符号
反転)処理」とすることにより、線・隙間の移動方向と
速度の計測が可能となる。そのシミュレーション結果を
図47に示す。垂直線(θ≒900)を水平方向に7画
素移動した前後の2つの画像を入力して得られる相関パ
ラメータC(ρ,θ,σ)の強度を等高線で示す。基本
相関パラメータC(ρ,θ,σ)の鋭いピークが垂直線
の対応点を示し、その点を(ρP,θP,τP)とする
と、 移動方向=θP+900=1820 (移動速度/DELTA)=τP=6画像 と正しい結果が得られた。
【0112】 二次元フィルタでの移動方向と速度の計測(生体的) 図39のフローにおける「受容野分割+極変換+一次元
フィルタ処理」を、図33(b)又は図35(b)に示す「二
次元ガウシャンフィルタ+受容野分割+極変換(+符号
反転)処理」とすることにより、線・隙間の移動方向と
速度の計測が可能となる。この方式は、入力画像に二次
元gasフィルタで二次元二次微分処理(二次元コンボリ
ューションフィルタ処理)を施し、しかる後、受容野毎
に分割し、各受容野像に極変換を施すものである。二次
元gasフィルタ処理は「極変換後の一次元フィルタ処理」
と等価であり、シミュレーション結果は省略するが、図
47と同じ移動方向と速度の計測結果が得られる。この
方式は、人間の立体視と同じであり、二次元gasフィル
タで輪郭強調した結果を形の認識等にも共通的に活用で
きる利点が有る。
【0113】(b-6) 縁の移動方向と速度の計測 以下でシミュレーション結果を含めて、画像に最も頻繁
に現われる画像特徴である縁の移動方向と速度の計測方
式を説明する。移動方向と速度の具体的な計測方法は、
(b-1)を例にしたが、(b-2)〜(b-4)でも同様に実行でき
る。 一次元フィルタでの縁の移動方向と速度の計測 図39のフローにおける「受容野分割+極変換+一次元
フィルタ処理」を、図34(b)に示す「受容野分割+極
変換+一次元グラディエントフィルタ+一次元ガウシャ
ンフィルタ処理」とすることにより、縁の移動方向と速
度の計測が可能となる。そのシミュレーション結果を図
48に示す。1200の縁を水平方向に7画素移動した
前後の2つの画像を入力して得られる相関パラメータC
(ρ,θ,σ)の強度を等高線で示す。基本相関パラメ
ータC(ρ,θ,σ)の鋭いピークが縁の対応点を示
し、その点を(ρP,θP,τP)とすると、 移動方向=θP+900=2100 (移動速度・DELTA)/Δρ=τP=7画像 と正しい結果が得られた。ここで、Δρはρ方向の分解
能、DELTAは遅れ時間である。
【0114】二次元フィルタを混在した縁の移動方向
と速度の計測(生体的両眼立体視) 図39のフローにおける「受容野分割+極変換+一次元
フィルタ処理」を、図34(c)に示す「二次元ガウシャ
ンフィルタ+受容野分割+極変換+一次元グラディエン
トフィルタ処理」とすることにより、縁の移動方向と速
度の計測が可能となる。この方式は、入力画像に二次元
gasフィルタで二次元二次微分処理(二次元コンボリュ
ーションフィルタ処理)を施し、しかる後、受容野毎に
分割し、各受容野像に極変換を施すものである。二次元
gasフィルタ処理は「極変換後の一次元フィルタ処理」と
等価であり、シミュレーション結果は省略するが、図4
1と同じ移動方向と速度の計測結果が得られる。この方
式は、人間の立体視と同じであり、二次元gasフィルタ
で輪郭強調した結果を、形の認識等にも共通的に活用で
きる利点が有る。
【0115】(c) 多角形図形・曲線図形・ランダムドット
・テクスチュアの両眼立体視 多角形図形・曲線図形の両眼立体視 移動方向・速度の計測(b)と同様に、ρ方向に投影した
相関パラメータCPRJ-ρ(θ,σ) CPRJ-ρ(θ,σ)=ΣC(ρ,θ,σ) (ρ=1,
2,・・・) を用いることにより、多角形図形・曲線図形の立体視計
測が可能となる。方法は(b)項の時間相関CPRJ-ρ
(θ,τ)を両眼相関CPRJ-ρ(θ,σ)に置き換える
だけで良い。この方法では、1本の直線からの両眼立体
視に比べて、辺の数だけ信頼性が向上する。
【0116】さて、直線は左右眼の入力画像において図
49のSLL,SLRで示すように平行にずれて見える。
この直線位置の差はρ−θのハイパーコラムプレーン上
では直線の方位θに直交する方向の変位σとして得られ
る。従って、水平方向の両眼視差dは次式 d=σ/sinθ で表現できる。以上から、水平視差(両眼視差)がdの
時、θ方向の直線の変位量σは次式 σ=d・sinθ (36) で与えられる。この関係式をθ-σ平面上に描画すると
図50(b)に示すように正弦波となる。換言すれば、左
右眼で捉えた図50(a)に示す図形の各辺Li,Lj,Lkを
極変換し、極変換により得られた各ハイパーコラム像間
に(1)式に基づいて相関処理を施して相関パラメータC
(ρ,θ,σ)を演算し、該相関パラメータC(ρ,
θ,σ)を(9)式に従ってρ方向に投影して相関パラメ
ータCPRJ-ρ(θ,σ)を求め、θ-ρ平面に表示する
と各辺Li,Lj,Lkは正弦波上の各点Li′,Lj′,Lk′
に濃縮される。
【0117】従って、(b-3)の場合と同様に両眼入力画
像からCPRJ-ρ(θ,σ)を計算し、それを(34)式で
極変換すると、図50(c)に示すように正弦波上の各点
はVx,Vy平面上で1点PKを通る直線に変換される。
このピーク点PK(Vx,Vy)を求めると真の視差σ0
は次式 σ0=Δρ・√(Vx2+Vy2) (37) で計算できる。尚、視差の方向は、常に両眼を結ぶ方向
(水平方向)である。又、任意図形の見える方向をξ、両
眼の間隔をdとすると、任意図形までの距離Dは次式 D=d・sin(σ0+ξ)/sin(σ0) (38) で計算できる。
【0118】図51は両眼立体視による任意図形までの
距離演算法説明図であり、Lは直線、EL,ERは左右眼
である。上記により求めた視差をσ0、任意図形の見え
る方向をξ、両眼の間隔をd、左右眼から任意図形まで
の距離をD1,D2とすると、次式 D1sinξ=D2sin(ξ+σ0) D1cosξ−D2cos(ξ+σ0)=d が成立する。この連立方程式よりD1を求めると(38)式
が得られる。
【0119】図52は両眼立体視により視差及び任意図
形までの距離を計測するフロー図である。左右眼画像デ
ータをそれぞれ受容野像に分割し(ステップ50a,5
0a′)、各受容野像IM,IM′に極変換処理を施し
(ステップ51a,51a′)、該極変換結果に一次元
フィルタリング処理を施して双対プレーンに写像し(ス
テップ52a,52a′)、各双対プレーンに写像され
たデータ間に(1)式の相関処理を施し(ステップ5
3)、計算された相関パラメータC(ρ,θ,σ)を相
関パラメータ記憶部に記憶する(ステップ72)。つい
で、(9)式により、ρ方向に投影した相関パラメータC
PRJ-ρ(θ,σ)を求め(ステップ75′)、θ−σ平
面の相関パラメータ記憶部に記憶する(ステップ7
6′)。ついで、相関パラメータCPRJ-ρ(θ,σ)に
(34)式により極変換処理を施し(ステップ77′)、V
x,Vy平面上におけるピーク点(交点)を求め(ステッ
プ78′)、座標原点からこの交点までの距離を求めて
(37),(38)式に基づいて両眼視差σ0、任意図形までの距
離Dを演算する(ステップ79′)。
【0120】図53、図54はランダムドット図形の両
眼立体視によるシミュレーション結果説明図であり、左
右の眼に6画素異なるランダムドット図形を入力した場
合である。尚、このランダムドット図形はコンピュータ
で生成したランダムドット・ステレオグラムであり、1
ドット=1画素で描いてあり、密度は50%である。図
53において、IM,IM′はそれぞれ、左右眼の受容
野像、HCIM,HCIM′は各受容野像IM,IM′
に極変換処理を施し、該極変換結果に一次元フィルタリ
ング処理を施してρ−θの双対プレーンに写像したハイ
パーコラム像である。又、図54において、PRIMは
ハイパーコラム像間に相関処理を施し、得られた相関パ
ラメータC(ρ,θ,σ)をρ方向に投影したθ−σ平
面における相関パラメータCPRJ-ρ(θ,σ)、HGI
Mは相関パラメータCPRJ-ρ(θ,σ)に極変換処理を
施したVx,Vy平面上の極変換結果ある。θ−σ平面上
には、正弦波パターンSWVが現れており、又、Vx,
Vy平面上には原点より水平方向の6画素位置に鋭いピ
ークPKが抽出されている。このピーク点(Vx,Vy)
より(37),(38)式に基づいて両眼視差σ0、任意図形まで
の距離Dが計算できる。
【0121】 ランダムドット・テクスチュアの両眼立体視 上述の置換(すなわちと同じ方法)で「ランダムドッ
ト図形やテクスチュア図形」の両眼立体視が可能とな
る。これにより細かい模様のある平面の両眼立体視を簡
単に行うことができる。これは、心理学者Julesz
により始めて証明された事実「形として判らないランダ
ムドット図形でも、我々は両眼立体視できる」の細胞レ
ベルでのモデルである。
【0122】(d) 運動立体視 直線の運動立体視 移動対象物の速度と移動方向を求める方法は(b)で説明
した。同じ処理で、画像捕捉手段(カメラ等)が移動する
と空間内の直線までの距離(奥行き)を計測できる。すな
わち、(4)′式により相関パラメータC(ρ,θ,τ)
を求め、該相関パラメータのピーク点(ρP,θP
τP)を求めると、現画像(移動後の画像)と前の画像
(移動前の画像)での視差はτP・Δρで計算される。
直線の見える方向をξ、画像捕捉手段の移動速度をV
s、(4)′式の遅れをDELTAとすると、直線までの距離は
(38)式と同様に次式 D=(Vs・DELTA)・sin(τP・Δρ+ξ)/sin(τP・Δρ) (39) で計算できる。
【0123】図55は運動立体視により空間内の直線ま
での奥行きを計測するフロー図である。移動前の画像デ
ータを遅延し(ステップ49)、該移動前の画像データ
t(ρ,θ)と移動後の画像データat+DELTA(ρ+
τ,θ)をそれぞれ受容野像に分割し(ステップ50
a,50a′)、各受容野像IM,IM′に極変換処理
を施し(ステップ51a,51a′)、該極変換結果に
一次元フィルタリング処理を施して双対プレーンに写像
し(ステップ52a,52a′)、各双対プレーンに写
像されたデータ間に(4)′式の相関処理を施し(ステッ
プ53)、計算された相関パラメータC(ρ,θ,τ)
を相関パラメータ記憶部に記憶する(ステップ72)。
ついで、相関パラメータC(ρ,θ,τ)のピーク点
(ρP,θP,τP)を求め(ステップ73)、視差τP
Δρを用いて(39)式により空間内の直線までの奥行きを
計算する(ステップ91)。
【0124】 任意図形の運動立体視 画像捕捉手段(カメラ等)が移動すると空間内の任意図形
までの距離(奥行き)を計測できる。すなわち、画像捕捉
手段が移動する前後の各画像に対して(b-3)で説明した
と同様の処理を施して、Vx,Vy平面におけるピーク点
を決定し、(35a),(35b)式により真の速度V0と移動方向
を計算する。図形の見える方向をξ、画像捕捉手段の移
動速度をVs、(4)′式の遅れをDELTAとすると、任意図
形までの距離は(38)式と同様に次式 D=(Vs・DELTA)・sin(V0・DELTA+ξ)/sin(V0・DELTA) (40) で計算できる。
【0125】図56は運動立体視により空間内の任意図
形までの奥行きを計測するフロー図である。移動前の画
像データを遅延し(ステップ49)、該移動前の画像デ
ータat(ρ,θ)と移動後の画像データat+DELTA(ρ
+τ,θ)をそれぞれ受容野像に分割し(ステップ50
a,50a′)、各受容野像IM,IM′に極変換処理
を施し(ステップ51a,51a′)、該極変換結果に
一次元フィルタリング処理を施して双対プレーンに写像
し(ステップ52a,52a′)、各双対プレーンに写
像されたデータ間に(4)′式の相関処理を施し(ステッ
プ53)、計算された相関パラメータC(ρ,θ,τ)
を相関パラメータ記憶部に記憶する(ステップ72)。
ついで、(10)式により、ρ方向に投影した相関パラメー
タCPRJ-ρ(θ,τ)を求め(ステップ75)、θ−τ
平面の相関パラメータ記憶部に記憶する(ステップ7
6)。ついで、相関パラメータCPRJ-ρ(θ,τ)に(3
4)式により極変換処理を施し(ステップ77)、Vx,V
y平面上におけるピーク点(交点)を求め(ステップ7
8)、(35a),(35b)式に基づいて真の速度V0、真の方向
Φ0を演算する(ステップ79)。最後に、(40)式に基
づいて任意図形までの奥行きを計算する。
【0126】(e) 一般化 以上を一般化すると、本発明の相関処理方式は図57に
示すように一般化できる。すなわち、入力データに極変
換処理を施してρ−θの双対プレーンに写像し(ステッ
プ501)、極変換により得られたデータa(ρ,θ)
に新しいパラメータの追加処理、相関処理、任意
パラメータでの投影又は極変換処理(00または900
向の投影は極変換と同じ)を施し、これにより、平面上
では正弦波状の発火パターンを含むデータa(ξ1
ξ2,・・・)を得、あるいは球面上では大円の発火パ
ターンを含むデータを得(ステップ502)、該データ
に含まれる正弦波状または大円の発火パターンを逆極変
換処理により抽出して有用なデータを出力する(ステッ
プ503)。尚、(1),(4)式では「新しいパラメータσ又
はτを追加」して「相関処理」を行っている。又、(9),(1
0)式では「パラメータρに沿った投影」をしている。更
に、(19)式ではρσ平面における450方向の投影を行
っており、この投影は「(ρ,σ)プレーンを極変換」
して450方向成分を取り出したのと同じである。
【0127】(b-2),(b-3)において説明した移動方向と
速度の計測においては、時間的に異なる2つの画面デー
タに極変換処理を施してρ−θの双対プレーンにおける
データa(ρ,θ)、b(ρ,θ)を求める(ステップ
501)。ついで、ρ軸方向の移動速度パラメータτを
導入して(4)式により相関処理を行い、相関処理により
得られた相関パラメータC(ρ,θ,τ)を(10)式によ
りρ方向に投影して正弦波状の発火パターン(図40、
図41参照)を含む投影データCPRJ-ρ(θ,τ)を求
める(ステップ502)。しかる後、投影データCPRJ-
ρ(θ,τ)に逆極変換処理を施して正弦波状の発火パ
ターン(極大点を与えるポイント)を抽出して有用なデ
ータ(移動方向と速度)を出力する(ステップ50
3)。正弦波状の発火パターンを抽出する「逆極変換」
を式で表現すると次のようになる。すなわち、δ( )を
デルタ関数、τX,τYをX,Y軸方向の速度パラメータ
とすると、 出力(τX,τY)=ΣθΣτ{CPRJ-ρ(θ,τ)・δ
(τ+τXcosθ+τYsinθ)} と表現できる。デルタ関数δ( )は0の所だけが意味を
有するから、上式を変形すると 出力(τX,τY)=Σθ{CPRJ-ρ(θ,-τXcosθ-τ
Ysinθ)} となり、逆極変換の内容が良く判る。実施例ではこの計
算を行っている。
【0128】又、(c)において説明した両眼立体視の計
測においては、両眼で捕らえられた2つの画面データに
極変換処理を施してρ−θの双対プレーンにおけるデー
タL(ρ,θ)、R(ρ,θ)を求める(ステップ50
1)。ついで、ρ軸方向の視差σを導入して(1)式により
相関処理を行い、相関処理により得られた相関パラメー
タC(ρ,θ,σ)を(9)式によりρ方向に投影して正
弦波状の発火パターン(図50参照)を含む投影データ
PRJ-ρ(θ,σ)を求める(ステップ502)。しか
る後、投影データCPRJ-ρ(θ,σ)に逆極変換処理を
施して正弦波状の発火パターン(極大点を与えるポイン
ト)を抽出して有用なデータ(視差)を出力する(ステ
ップ503)。正弦波状の発火パターンを抽出する「逆
極変換」を式で表現すると次のようになる。すなわち、
δ( )をデルタ関数、σX,σYをX,Y軸方向の視差パ
ラメータとすると、 出力(σX,σY)=ΣθΣσ{CPRJ-ρ(θ,σ)・δ
(σ+σXcosθ+σYsinθ)} と表現できる。デルタ関数δ( )は0の所だけが意味を
有するから、上式を変形すると 出力(σX,σY)=Σθ{CPRJ-ρ(θ,-σXcosθ-σ
Ysinθ)} となる。実施例ではこの計算を行っている。
【0129】以上では図57のステップ502におい
て、相関処理等を行って正弦波状の発火パターンを得る
ものであるが、相関処理等を施さなくても極変換のみで
正弦波状の発火パターンを得ることができる場合があ
る。かかる場合には、ステップ502において、ステッ
プ501の極変換により得られた(ρ,θ)データにシ
フトあるいは回転などの変換処理を施し、変換処理によ
り得られた(ρ,θ)データにステップ503の逆極変
換処理を施して正弦波状の発火パターン(極大点を与え
るポイント)を抽出すれば有用なデータを出力できる。
例えば、図58(a)に示す半径Rの円を極変換すると、
(b)に示すようにρ方向にRだけシフトした正弦波が得
られる。この正弦波は、円の中心を(x0,y0)とする
と ρ=R−β0cos(θ−α0) (41) β0=√(x0 2+y0 2) α0=arctan(x0/y0) となる。従って、極変換により得られたデータをρ方向
にRだけシフトし、シフト処理により得られたデータa
(θ,σ)に逆極変換処理を施して正弦波状の発火パタ
ーン(極大点を与えるポイント)を抽出すれば、円中心
を出力することができる(ステップ503)。
【0130】図59は円検出のシュミレーション結果説
明図であり、白紙に描いた黒い円にラプラシアンフィル
タ処理を施して入力画像データとし、該入力画像を受容
野像に分割し、受容野像に極変換処理を施して正弦波状
の発火パターンを有するρ−θプレーンにおける(ρ,
θ)データを得、ついで、(ρ,θ)データをρ方向に
Rだけシフトし、シフト処理により得られたデータを逆
極変換したものである。尚、発火の強さを等高線で表
し、正部分を網かけで区別している。図59(b)におい
て極変換により平行する2本の正弦波SN1,SN2が
得られるのは、ハイパーコラムの生理学的な知見「方位
θは0〜πの範囲」を考慮して、(41)式のπ〜2πの範
囲をρの負側に反転しているためである。図59(d)よ
り明らかなように、一方の正弦波は円の中心に対応して
鋭い"負のピークPK"として発火し、もう一方の正弦波
は半径が2Rの弱いリングRGとして発火している。以
上、本発明を実施例により説明したが、本発明は請求の
範囲に記載した本発明の主旨に従い種々の変形が可能で
あり、本発明はこれらを排除するものではない。
【0131】
【発明の効果】以上本発明によれば、入力データに対し
て極変換処理を施して双対プレーンに写像し、あるい
は、極変換処理結果に対して更にフィルタ処理を施して
それぞれ双対プレーンに写像し、しかる後、双対プレー
ン上における写像データ間に相関処理を施して入力デー
タの図形的特徴(例えば接線)間の関係を規定する変数
を計測するように構成したから、複数図形の対応部分の
決定を簡単に、しかも少ない処理量で正確に行うことが
でき、両眼立体視の機能(視差、奥行き計測、対象物の
移動速度、移動方向の計測等)を実現できる。又、本発
明によれば、1画面を小領域である受容野に分割した時
の受容野画像に対して極変換処理、フィルタ処理、相関
処理を行うように構成したから、処理量を著しく減少で
きる。
【0132】更に、本発明によれば、受容野像が2又は
3つのカメラにより捕捉した異なる画面に属する場合に
は、両眼立体視、三眼立体視の機能を実現でき、しかも
受容野像が時間的に異なる画面に属する場合には、受容
野内に写る特徴(線、コーナ等)の移動方向や移動速度
を計測できる。このため、対象物を視野の中心に捉えた
まま移動することが可能となり、移動ロボットや無人自
走車などへの応用が可能と成る。また、各受容野像がそ
れぞれカメラ等の画像捕捉手段を移動させた時の移動前
後の画面に属する場合には、運動立体視の機能を実現で
き対象物までの奥行きを計測できる。又、本発明によれ
ば、各受容野像を同じ画面の異なる受容野の画像とし、
あるいは同一受容野像とすることにより、1つの画面内
での同じ模様の程度を調べるテクスチュア解析などを行
うことができる。
【0133】更に、本発明によれば、複数の受容野像間
での相関処理を同一色毎に、あるいは色の差信号毎に、
あるいは色の三要素毎に行うようにしたから、両眼立体
視や移動物体注視やテクスチュア解析を更に確実に行う
ことができる。又、本発明によれば、極変換後に一次元
ガウシャンフィルタ処理を施すことにより、あるいは極
変換処理の前に2次元ガウシャンフィルタ処理を施すこ
とにより、複数図形における対応する線あるいは隙間を
求めることができ、また極変換後に一次元グラディエン
トフィルタ処理と一次元ガウシャンフィルタ処理を施す
ことにより、あるいは極変換処理の前に2次元ガウシャ
ンフィルタ処理を施し、極変換処理後に一次元グラディ
エントフィルタ処理を施すことにより、複数図形におけ
る対応する縁を求めることができ、更にはこれら図形要
素の位置や、方位、視差、移動方向、移動速度を求める
ことができる。
【0134】更に、本発明によれば、複数の受容野像が
空間的に異なる画面に属する場合、θ軸方向の相関パラ
メータCθ(ρ,θ,σ)を演算することにより、ある
いは、(ρ,θ)プレーンの相関パラメータC(ρ,
θ,σ1,σ2)を演算することにより方位を変えながら
移動する接線の抽出が可能となる。又、本発明によれ
ば、複数の画像データの各受容野が時間的に異なる画面
に属する場合、ρ軸方向の相関パラメータC(ρ,θ,
τ)を演算することにより、平行移動する接線の位置、
方位、速度を定量的に求めることができ、また、θ軸方
向の相関パラメータCθ(ρ,θ,τ)を演算すること
により、受容野中心を通る接線の位置、方位、方位回転
速度を定量的に求めることができ、更に、(ρ,θ)プ
レーンの相関パラメータC(ρ,θ,τ1,τ2)を演算
することにより、方向を変えながら移動する接線の位
置、方位、移動速度、回転速度を定量的計測できる。
【0135】更に、本発明によれば、相関パラメータC
(ρ,θ,σ)を空間的シフト量σを示すσ軸方向に投
影し、あるいは接線位置を示すρ軸方向に投影し、ある
いは接線方向を示すθ軸方向に投影し、あるいはこれら
任意の2軸方向に投影することにより、相関パラメータ
を記憶するメモリ容量を1軸分あるいは2軸分減少で
き、しかも、投影方向を選択することにより接線の位
置、視差、方位等のうち所望の値を得ることができる。
又、本発明によれば、相関パラメータC(ρ,θ,τ)
を時間的シフト量(移動速度)τを示すτ軸方向に投影
し、あるいは接線位置を示すρ軸方向に投影し、あるい
は接線方向を示すθ軸方向に投影し、あるいはこれら任
意の2軸方向に投影することにより、相関パラメータを
記憶するメモリ容量を1軸分あるいは2軸分減少でき、
しかも、投影方向を選択することにより接線の位置、方
位、平行移動速度、回転速度等のうち所望の値を得るこ
とができる。
【0136】更に、本発明によれば、受容野像に対して
極変換処理を施してρ−θの双対プレーンに写像し、該
双対プレーンの写像データa(ρ,θ)と、別の双対プ
レーンに設定されている写像データb(ρ,θ)のうち
ρ軸方向に座標値が所定量ずれている組を取り出し、そ
の積和を演算することにより的確なフィルタリングを行
うことができ、「左右の目で同じに見える特徴の抽出」
や「前の画像と同じ特徴の追跡」等を行う際に適用して
好適である。又、本発明によれば、双対プレーンの写像
データa(ρ,θ)に対して、他の写像データb(ρ,
θ)をρ軸方向あるいはθ軸方向にシフトさせた後に減
算すると共に、順次、該シフト量を変化させて減算し、
得られた減算結果を相関パラメータとすることにより、
輪郭が不明瞭な物体の両眼立体視や追尾を、明るさや色
合いのゆるい変化などを手掛かりにして行うことができ
る。
【図面の簡単な説明】
【図1】本発明の原理説明図である。
【図2】本発明の両眼立体視の原理説明図である。
【図3】球面写像(球面の極変換)説明図である。
【図4】円筒上の極変換説明図である。
【図5】受容野法の原理説明図である。
【図6】ハイパーコラム内の極変換説明図である。
【図7】本発明の実施例構成図である。
【図8】相関処理の流れ図である。
【図9】極変換回路の構成図である。
【図10】一次元フィルタの構成図である。
【図11】シミュレーション結果を説明する第1の説明
図である。
【図12】シミュレーション結果を説明する第2の説明
図である。
【図13】シミュレーション結果を説明する第3の説明
図である。
【図14】相関フィルタリングの基本フロー図である。
【図15】空間的に異なる画面間の相関フィルタリング
のフロー図である。
【図16】時間的に異なる画面間の相関フィルタリング
のフロー図である。
【図17】時間的及び空間的にに異なる画面間の相関フ
ィルタリングのフロー図である。
【図18】同一画面の受容野間の相関フィルタリングの
フロー図である。
【図19】同一画面、同一受容野内の相関フィルタリン
グのフロー図である。
【図20】異なる色画像(三原色)間の相関フィルタリ
ングのフロー図である。
【図21】異なる色画像(色の三要素)間の相関フィル
タリングのフロー図である。
【図22】異なる色画像(色の差信号)間の相関フィル
タリングのフロー図である。
【図23】θが同一のρ軸相関フィルタリングのフロー
図である。
【図24】θが異なるρ軸相関フィルタリングのフロー
図である。
【図25】θ方向相関の説明図である。
【図26】ρが同一のθ軸相関フィルタリングのフロー
図である。
【図27】ρ−θプレーンでの相関フィルタリングのフ
ロー図である。
【図28】相関パラメータ空間説明図である。
【図29】相関パラメータを投影するフィルタリング処
理の全体のフロー図である。
【図30】相関パラメータをσ方向に投影する処理の流
れ図である。
【図31】自然フィルタの構成図である。
【図32】差タイプの相関処理の流れ図である。
【図33】線抽出フィルタの各種構成図である。
【図34】縁抽出フィルタの各種構成図である。
【図35】隙間抽出フィルタの各種構成図である。
【図36】シミュレーション結果を示す第1の説明図
(縁の両眼立体視)である。
【図37】シミュレーション結果を示す第2の説明図
(縁の両眼立体視)である。
【図38】接線の移動方向と速度説明図である。
【図39】移動方向と移動速度を計測するフロー図であ
る。
【図40】コーナの移動方向と速度検出説明図である。
【図41】多角形に対するCPRJ-ρ(θ,τ)の応答説
明図である。
【図42】逆ハフ変換による正弦波の抽出説明図であ
る。
【図43】移動方向と移動速度を計測するフロー図であ
る。
【図44】ランダムドット図形からの極変換説明図であ
る。
【図45】ランダムドット図形の移動方向・速度計測に
おけるシミュレーション結果説明図である。
【図46】ランダムドット図形の移動方向・速度計測に
おけるシミュレーション結果説明図である。
【図47】シミュレーション結果説明図(線の移動方向
・速度)である。
【図48】シミュレーション結果説明図(縁の移動方向
・速度)である。
【図49】線のずれ量と視差の関係説明図である。
【図50】任意図形の両眼立体視の説明図である。
【図51】両眼立体視による距離演算法説明図である。
【図52】両眼立体視による視差・距離演算フロー図で
ある。
【図53】ランダムドット図形の両眼立体視によるシミ
ュレーション結果説明図である。
【図54】ランダムドット図形の両眼立体視によるシミ
ュレーション結果説明図である。
【図55】運動立体視による直線までの奥行き演算フロ
ー図である。
【図56】運動立体視による任意図形までの奥行き演算
フロー図である。
【図57】一般化した場合のフロー図である。
【図58】円検出の説明図である。
【図59】円検出のシミュレーション結果説明図であ
る。
【図60】両眼立体視の問題点説明図である。
【図61】両眼立体視の奥行き計算説明図である。
【符号の説明】
14,24・・極変換部 16,26・・一次元フィルタ 17,27・・ρ−θの双対プレーン(ハイパーコラム
メモリ) 30・・相関処理部

Claims (20)

    【特許請求の範囲】
  1. 【請求項1】 入力データに極変換処理を施してρ−θ
    の双対プレーンに写像し、 極変換により得られた(ρ,θ)データに新しいパラメ
    ータの追加処理、相関処理、任意パラメータでの投影又
    は極変換処理を施して、平面上では正弦波状の発火パタ
    ーンを含むデータを、球面上では大円の発火パターンを
    得、 該データに含まれる正弦波状または大円の発火パターン
    を逆極変換処理により抽出して有用なデータを求めるこ
    とを特徴とする相関処理方式。
  2. 【請求項2】 複数の入力データに対してそれぞれ極変
    換処理を施してρ−θの双対プレーンに写像し、あるい
    は極変換処理結果に対して更にフィルタ処理を施してそ
    れぞれρ−θの双対プレーンに写像し、 各双対プレーンに写像されたデータ間に相関処理を施
    し、 相関結果に基づいて各入力データの図形的特徴の間の関
    係を求めることを特徴とする相関処理方式。
  3. 【請求項3】 前記入力データは1画面を小領域である
    受容野毎に分割した時の受容野に応じた画像データであ
    ることを特徴とする請求項2記載の相関処理方式。
  4. 【請求項4】 複数の入力データに対してそれぞれ極変
    換処理を施してρ−θの双対プレーンに写像し、あるい
    は極変換処理結果に対して更にフィルタ処理を施してそ
    れぞれρ−θの双対プレーンに写像し、 写像データの双対プレーン上における位置(ρ,θ)及
    び写像データ間のシフト量を要素パラメータとして相関
    処理を行って相関結果を求め、 これら相関結果のうち特徴的な値を有する点を求め、 該特徴的な相関結果を与える要素パラメータの値に基づ
    いて各入力データの図形的特徴の間の関係を規定する変
    数を計測することを特徴とする相関処理方式。
  5. 【請求項5】 前記入力データは1画面を小領域である
    受容野に分割した時の受容野の画像データであり、該受
    容野画像データに対してそれぞれ極変換処理を施して双
    対プレーンに写像し、 各写像データ間のρ軸方向のシフト量あるいはθ軸方向
    のシフト量を順次変えることによりρ軸方向に相関処
    理、あるいはθ軸方向に相関処理、あるいは(ρ,θ)
    プレーンで相関処理を実行することを特徴とする請求項
    4記載の相関処理方式。
  6. 【請求項6】 前記双対プレーンの写像データa(ρ,
    θ)に対して、他の写像データb(ρ,θ)をρ軸方向
    あるいはθ軸方向にシフトさせた後に乗算すると共に、
    順次、該シフト量を変化させて乗算し、得られた乗算結
    果を相関結果とすることを特徴とする請求項5記載の相
    関処理方式。
  7. 【請求項7】 前記双対プレーンの写像データa(ρ,
    θ)に対して、他の写像データb(ρ,θ)をρ軸方向
    あるいはθ軸方向に所定量シフトさせた後に減算すると
    共に、順次、該シフト量を変化させて減算し、得られた
    減算結果を相関結果とすることを特徴とする請求項5記
    載の相関処理方式。
  8. 【請求項8】 1画面を小領域である受容野に分割した
    時の受容野画像を表現する入力データに対して極変換処
    理を施してρ−θの双対プレーンに写像し、あるいは極
    変換処理結果に対して更にフィルタ処理を施してρ−θ
    の双対プレーンに写像し、 前記双対プレーンの写像データa(ρ,θ)と別の双対
    プレーンに設定されている写像データb(ρ,θ)のう
    ちρ軸方向に座標値が所定量ずれている組を取り出し、
    その積和 Ci(ρ,θ)=Σa(ρ+i,θ)・b(i,θ) (ただし、iを変えて加算)を相関パラメータとして演
    算し、 これら相関パラメータを用いて入力データの写像データ
    b(ρ,θ)に応じた図形的特徴を抽出することを特徴
    とする相関処理方式。
  9. 【請求項9】 前記写像データa(ρ,θ)、b(ρ,
    θ)は両眼立体視など空間的に異なる入力データに極変
    換を施してρ−θの双対プレーンに写像したものである
    ことを特徴とする請求項8記載の相関処理方式。
  10. 【請求項10】 前記写像データa(ρ,θ)、b
    (ρ,θ)は時間的に異なる入力データに極変換を施し
    てρ−θの双対プレーンに写像したものであることを特
    徴とする請求項8記載の相関処理方式。
  11. 【請求項11】 2つの画像入力手段から入力された画
    像を受容野に分割して得られる受容野画像に対してそれ
    ぞれ極変換処理を施してρ−θの双対プレーンに写像
    し、あるいは極変換処理結果に対して更にフィルタ処理
    を施してそれぞれρ−θの双対プレーンに写像し、 前記双対プレーンの写像データa(ρ,θ)に対して、
    他の写像データb(ρ,θ)をρ軸方向にシフトさせた
    後に乗算すると共に、順次、該シフト量σを変化させて
    乗算し、得られた乗算結果を相関パラメータC(ρ,
    θ,σ)とし、 相関パラメータの極大点から各受容野画像間の対応接線
    を決定すると共に、極大点を与えるσに基づいて視差を
    計測することを特徴とする相関処理方式。
  12. 【請求項12】 極変換後に一次元ガウシャンフィルタ
    処理を施すことにより、あるいは極変換処理の前に2次
    元ガウシャンフィルタ処理を施すことにより、前記接線
    を線あるいは隙間として求めることを特徴とする請求項
    11記載の相関処理方式。
  13. 【請求項13】 極変換後に一次元グラディエントフィ
    ルタ処理と一次元ガウシャンフィルタ処理を施すことに
    より、あるいは極変換処理の前に2次元ガウシャンフィ
    ルタ処理を施し、極変換処理後に一次元グラディエント
    フィルタ処理を施すことにより、前記接線を縁として求
    めることを特徴とする請求項11記載の相関処理方式。
  14. 【請求項14】 2つの画像入力手段から入力された画
    像を受容野に分割して得られる受容野画像に対してそれ
    ぞれ極変換処理を施してρ−θの双対プレーンに写像
    し、あるいは極変換処理結果に対して更にフィルタ処理
    を施してそれぞれρ−θの双対プレーンに写像し、 前記双対プレーンの一方の写像データa(ρ,θ)に対
    して、他方の写像データb(ρ,θ)をρ軸方向にシフ
    トさせた後に乗算すると共に、順次、該シフト量σを変
    化させて乗算し、得られた乗算結果を相関パラメータC
    (ρ,θ,σ)とし、 該相関パラメータC(ρ,θ,σ)をρ方向に投影した
    PRJ−ρ(θ,σ)に変換した後、その(θ,σ)プ
    レーン内の正弦波パターンの最大振幅となる点を逆極変
    換により抽出し、 最大振幅を与えるσを用いて両眼視差及び又は対象直線
    までの奥行きを演算することを特徴とする相関処理方
    式。
  15. 【請求項15】 時間的に異なる2個の画像を受容野に
    分割して得られる受容野画像に対してそれぞれ極変換処
    理を施してρ−θの双対プレーンに写像し、あるいは極
    変換処理結果に対して更にフィルタ処理を施してそれぞ
    れρ−θの双対プレーンに写像し、 前記双対プレーンの現時刻の写像データat(ρ,θ)
    に対して、次の時刻の写像データat+1(ρ,θ)をρ
    軸方向に所定量シフトさせた後に乗算すると共に、順
    次、該シフト量τを変化させて乗算し、得られた乗算結
    果を相関パラメータC(ρ,θ,τ)とし、 相関パラメータの極大点C(ρP,θP,τP)を与える
    要素パラメータの値ρP,θP,τPから各受容野画像間
    の対応接線を決定すると共に、対応接線の移動方向や移
    動速度を計測することを特徴とする相関処理方式。
  16. 【請求項16】 次式 Φ=θP+900 V=k1・τP (k1は定数)により、移動方向Φ及び移動速度Vを演算す
    ることを特徴とする請求項15記載の相関処理方式。
  17. 【請求項17】 受容野画像のコーナを構成する2つの
    接線の極大点のパラメータを(ρi,θi,τi),
    (ρj,θj,τj)とするとき、次式 Φ=arctan{(τisinθj−τjsinθi)/(τicosθj−τ
    jcosθi)} V=k2・τi/sin(Φ−θi) (k2は定数)により、コーナの移動方向Φ及び移動速
    度Vを演算することを特徴とする請求項15記載の相関
    処理方式。
  18. 【請求項18】 前記2つの画像は、ある時刻において
    画像捕捉手段が対象直線を捕捉した画像と、該画像捕捉
    手段が移動して所定時間後に対象直線を捕捉した画像で
    あり、前記要素パラメータτPと画像捕捉手段の移動速
    度Vsを用いて対象直線までの奥行きを演算することを
    特徴とする請求項15記載の相関処理方式。
  19. 【請求項19】 時間的に異なる2個の画像を受容野に
    分割して得られる受容野画像に対してそれぞれ極変換処
    理を施してρ−θの双対プレーンに写像し、あるいは極
    変換処理結果に対して更にフィルタ処理を施してそれぞ
    れρ−θの双対プレーンに写像し、 前記双対プレーンの現時刻の写像データat(ρ,θ)
    に対して、次の時刻の写像データat+1(ρ,θ)をρ
    軸方向に所定量シフトさせた後に乗算すると共に、順
    次、該シフト量τを変化させて乗算し、得られた乗算結
    果を相関パラメータC(ρ,θ,τ)とし、 前記相関パラメータC(ρ,θ,τ)をρ方向に投影し
    たCPRJ−ρ(θ,τ)に変換した後、その(θ,τ)
    プレーン内の正弦波パターンの最大振幅となる点を逆極
    変換により抽出し、該最大振幅を与えるθ、τを用いて
    移動方向Φと移動速度Vを演算することを特徴とする相
    関処理方式。
  20. 【請求項20】 前記2つの画像は、ある時刻において
    画像捕捉手段が対象図形を捕捉した画像と、該画像捕捉
    手段が移動して所定時間後に対象図形を捕捉した画像で
    あり、 前記移動速度Vと画像捕捉手段の移動速度Vsを用いて
    対象直線までの奥行きを演算することを特徴とする請求
    項19記載の相関処理方式。
JP4249956A 1991-12-11 1992-09-18 相関処理方式 Expired - Lifetime JP2796221B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP4249956A JP2796221B2 (ja) 1992-04-22 1992-09-18 相関処理方式
US07/987,954 US6005984A (en) 1991-12-11 1992-12-11 Process and apparatus for extracting and recognizing figure elements using division into receptive fields, polar transformation, application of one-dimensional filter, and correlation between plurality of images
US08/470,061 US5901252A (en) 1991-12-11 1995-06-06 Process and apparatus for extracting and recognizing figure elements using division into receptive fields, polar transformation, application of one-dimensional filter, and correlation between plurality of images

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP10313792 1992-04-22
JP4-133744 1992-05-26
JP13374492 1992-05-26
JP4-103137 1992-05-26
JP4249956A JP2796221B2 (ja) 1992-04-22 1992-09-18 相関処理方式

Publications (2)

Publication Number Publication Date
JPH0644364A true JPH0644364A (ja) 1994-02-18
JP2796221B2 JP2796221B2 (ja) 1998-09-10

Family

ID=27309898

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4249956A Expired - Lifetime JP2796221B2 (ja) 1991-12-11 1992-09-18 相関処理方式

Country Status (1)

Country Link
JP (1) JP2796221B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1074269A (ja) * 1996-06-26 1998-03-17 Matsushita Electric Ind Co Ltd 立体cg動画像生成装置
EP2148304A2 (en) 1999-04-12 2010-01-27 Fujitsu Limited Image measurement method, image measurement apparatus and image measurement program storage medium

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH1074269A (ja) * 1996-06-26 1998-03-17 Matsushita Electric Ind Co Ltd 立体cg動画像生成装置
EP2148304A2 (en) 1999-04-12 2010-01-27 Fujitsu Limited Image measurement method, image measurement apparatus and image measurement program storage medium

Also Published As

Publication number Publication date
JP2796221B2 (ja) 1998-09-10

Similar Documents

Publication Publication Date Title
US5901252A (en) Process and apparatus for extracting and recognizing figure elements using division into receptive fields, polar transformation, application of one-dimensional filter, and correlation between plurality of images
Lee et al. Depth completion with deep geometry and context guidance
CN106296598A (zh) 三维姿态处理方法、系统及拍摄终端
Khanian et al. Photometric stereo for strong specular highlights
CN115641561A (zh) 一种障碍物检测方法、电子设备、存储介质及程序产品
JP2023172882A (ja) 三次元表現方法及び表現装置
Pacheco et al. Reconstruction of high resolution 3D objects from incomplete images and 3D information
CN106204565A (zh) 一种通过斑块特征配准的图像清晰度检测装置
JP2796221B2 (ja) 相関処理方式
CN100349467C (zh) 立体图像处理方法及立体图像处理装置
Khan et al. Towards monocular neural facial depth estimation: Past, present, and future
Grosso et al. Log-polar stereo for anthropomorphic robots
Griswold et al. A new stereo vision model based upon the binocular fusion concept
Kalutskiy et al. Method of moving object detection from mobile vision system
CN117274453A (zh) 基于图像和点云深度融合的三维重建及真实场景还原方法
JP3056857B2 (ja) 画像処理方法
Ekholm 3-D scene reconstruction from aerial imagery
Chessa et al. Chapter Virtual Reality to Simulate Visual Tasks for Robotic Systems
Schenk Object recognition in digital photogrammetry
JPS62284479A (ja) 物体の立体形状認識方法および装置
Wu et al. IUCNet: A Novel Semantic Segmentation Network for Overlapping Industrial Parts Detection
ES2209453T3 (es) Procedimiento de modelizacion de objetos o de escenas en 3d.
Hegarty SAMATS: Semi-automated Modelling and Texturing System
Gagliardi Opti-Acoustic Fusion for Gaussian Splatting
Pérez-Meza et al. Partial 3D reconstruction using evolutionary algorithms

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 19980616

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090626

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100626

Year of fee payment: 12