JP2000213933A - 画像処理装置 - Google Patents
画像処理装置Info
- Publication number
- JP2000213933A JP2000213933A JP11017214A JP1721499A JP2000213933A JP 2000213933 A JP2000213933 A JP 2000213933A JP 11017214 A JP11017214 A JP 11017214A JP 1721499 A JP1721499 A JP 1721499A JP 2000213933 A JP2000213933 A JP 2000213933A
- Authority
- JP
- Japan
- Prior art keywords
- correlation coefficient
- image
- pixel
- block
- reference block
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000004364 calculation method Methods 0.000 claims description 27
- 230000010354 integration Effects 0.000 claims description 18
- 238000000034 method Methods 0.000 claims description 17
- 239000000284 extract Substances 0.000 claims description 2
- 238000003384 imaging method Methods 0.000 description 8
- 238000010586 diagram Methods 0.000 description 6
- 230000003287 optical effect Effects 0.000 description 4
- 238000005314 correlation function Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000000691 measurement method Methods 0.000 description 2
- 102100033040 Carbonic anhydrase 12 Human genes 0.000 description 1
- 101000867855 Homo sapiens Carbonic anhydrase 12 Proteins 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 230000007704 transition Effects 0.000 description 1
- 230000004382 visual function Effects 0.000 description 1
Landscapes
- Image Analysis (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
- Image Processing (AREA)
Abstract
(57)【要約】
【課題】 ハードウエアの規模を拡大することなく、高
速に対応点探索を行えるようにすること。 【解決手段】 対応点探索手段6は、対応画素を探索す
る場合に、探索領域中の一の参照画素を中心とした参照
ブロックと、注目画素を中心とした注目ブロックを設定
し、この参照ブロックと注目ブロックとの間の相関係数
を演算する。この場合、対応点探索手段6の相関係数演
算手段10は、演算途中の相関係数が基準相関係数より
も大きな値になった時には、直ちにその参照ブロックと
の間の相関係数のの演算を中止する。一方、演算途中の
相関係数が基準相関係数よりも小さな場合には、同一参
照ブロックとの間の相関係数の演算が続行される。
速に対応点探索を行えるようにすること。 【解決手段】 対応点探索手段6は、対応画素を探索す
る場合に、探索領域中の一の参照画素を中心とした参照
ブロックと、注目画素を中心とした注目ブロックを設定
し、この参照ブロックと注目ブロックとの間の相関係数
を演算する。この場合、対応点探索手段6の相関係数演
算手段10は、演算途中の相関係数が基準相関係数より
も大きな値になった時には、直ちにその参照ブロックと
の間の相関係数のの演算を中止する。一方、演算途中の
相関係数が基準相関係数よりも小さな場合には、同一参
照ブロックとの間の相関係数の演算が続行される。
Description
【0001】
【発明の属する技術分野】本発明は、3次元座標上の異
なる位置に設置された複数台の撮像手段からの入力画像
に基づき、所謂ステレオ画像計測法によって対象物まで
の距離データを求める機能を有する画像処理装置に関す
るものである。
なる位置に設置された複数台の撮像手段からの入力画像
に基づき、所謂ステレオ画像計測法によって対象物まで
の距離データを求める機能を有する画像処理装置に関す
るものである。
【0002】
【従来の技術】図3は、従来の画像処理装置の構成を示
す平面図である。この図において、3次元座標上の任意
の位置に存在する対象物1の撮像を2台の撮像手段2L
(左側),2R (右側)が行うようになっており、これ
らの撮像手段からの入力画像に基づき、画像処理回路3
が対象物1に関する距離データzを求めるようになって
いる。撮像手段2L ,2R は互いに距離Bだけ離れて設
置されており、またそれぞれの設置高さは同一となって
いる。
す平面図である。この図において、3次元座標上の任意
の位置に存在する対象物1の撮像を2台の撮像手段2L
(左側),2R (右側)が行うようになっており、これ
らの撮像手段からの入力画像に基づき、画像処理回路3
が対象物1に関する距離データzを求めるようになって
いる。撮像手段2L ,2R は互いに距離Bだけ離れて設
置されており、またそれぞれの設置高さは同一となって
いる。
【0003】図4は、図3における画像処理回路3の構
成を示すブロック図である。この図に示すように、画像
処理回路3は、2つの画像入力手段4L ,4R 、2つの
特徴量抽出手段5L ,5R 、対応点探索手段6、及び距
離データ演算手段7により構成されている。
成を示すブロック図である。この図に示すように、画像
処理回路3は、2つの画像入力手段4L ,4R 、2つの
特徴量抽出手段5L ,5R 、対応点探索手段6、及び距
離データ演算手段7により構成されている。
【0004】図5は、ステレオ画像計測法を説明するた
めの説明図であり、この図5を用いて図4の動作を説明
する。図5において、撮像手段2L の画像をS1 、撮像
手段2R の画像をS2 とした場合に、これら対象物1及
び画像S1 ,S2 を含む空間内に3次元座標が設定され
ている。なお、この座標系での座標をx,y,zで表
す。また、画像S1 ,S2 上での位置を表す座標として
〔X1 ,Y1 〕、〔X2,Y2 〕を用いる。この例で
は、画像S1 ,S2 のうち画像S1 を基準画像としてお
り、画像S1 の光軸はz軸上すなわちx=0の位置に位
置し、画像S2 の光軸はx=Bの位置に位置している。
また、撮像手段2L ,2R の各光軸はx−z平面内で互
いに平行になっている。
めの説明図であり、この図5を用いて図4の動作を説明
する。図5において、撮像手段2L の画像をS1 、撮像
手段2R の画像をS2 とした場合に、これら対象物1及
び画像S1 ,S2 を含む空間内に3次元座標が設定され
ている。なお、この座標系での座標をx,y,zで表
す。また、画像S1 ,S2 上での位置を表す座標として
〔X1 ,Y1 〕、〔X2,Y2 〕を用いる。この例で
は、画像S1 ,S2 のうち画像S1 を基準画像としてお
り、画像S1 の光軸はz軸上すなわちx=0の位置に位
置し、画像S2 の光軸はx=Bの位置に位置している。
また、撮像手段2L ,2R の各光軸はx−z平面内で互
いに平行になっている。
【0005】画像入力手段4L ,4R は、それぞれ撮像
手段2L ,2R から画像S1 ,S2の情報を入力し、こ
れを特徴量抽出手段5L ,5R に出力する。特徴量抽出
手段5L ,5R は、入力した画像情報から対象物1の存
在を示す特徴量を抽出する。特徴量としては、通常、画
素強度(例えば、輝度や濃淡度)を用いるが、特開平7
−336669号公報に開示されているように、ソーベ
ルフィルタ(1次微分)やラプラシアンフィルタ(2次
微分)を使用してエッジ抽出処理を行った後の値を用い
ることとしてもよい。
手段2L ,2R から画像S1 ,S2の情報を入力し、こ
れを特徴量抽出手段5L ,5R に出力する。特徴量抽出
手段5L ,5R は、入力した画像情報から対象物1の存
在を示す特徴量を抽出する。特徴量としては、通常、画
素強度(例えば、輝度や濃淡度)を用いるが、特開平7
−336669号公報に開示されているように、ソーベ
ルフィルタ(1次微分)やラプラシアンフィルタ(2次
微分)を使用してエッジ抽出処理を行った後の値を用い
ることとしてもよい。
【0006】対応点探索手段6は、特徴量抽出手段5L
,5R が抽出したそれぞれの特徴量を入力し、画像S1
の画素に対応する画像S2 の画素を探索する(この探
索は、画像S1 の全ての画素に対して行う。)。例え
ば、対象物1のある点P〔x,y,z〕が画像S1 上の点P1
〔X1,Y1 〕に投影されている場合、対応点探索手段
6は、この点P1 〔X1,Y1 〕に対応する点P2 〔X2,
Y2 〕を画像S2 の画素の中から探索する(なお、本明
細書中では、点P1 の画素を注目画素、点P2 の画素を
対応画素と呼ぶ。)。この場合、画像S1 において、エ
ピポーラ線は点P1〔X1,Y1 〕が存在する走査線Sc1
に一致している。したがって、画像S2 におけるエピポ
ーラ線も、走査線Sc1と同一高さの走査線Sc2に一致し
ており、点P1 〔X1,Y1 〕に対応する点P2 〔X2,Y
2 〕も、この走査線Sc2上のいずれかの位置に存在する
はずである。対応点探索手段6が行う探索とは、このよ
うに画像S2 内の走査線Sc2上を探索領域とし、走査
線Sc1上の或る点P1 〔X1,Y1 〕に対応する点P2
〔X2,Y2 〕を、画像S2 内の走査線Sc2上から求める
ことをいう。ところが、ステレオ画像計測法において上
記の対応点探索を正確に行うことは困難であり、この対
応点探索のための技術として従来から種々の手法が提案
されている。例えば、特開平9−33249号公報に
は、左右両画像の画素強度を演算して両画素間の相関関
係を表す相関関数を演算し、この相関関数の値に従って
対応点探索を行う手法が開示されている。
,5R が抽出したそれぞれの特徴量を入力し、画像S1
の画素に対応する画像S2 の画素を探索する(この探
索は、画像S1 の全ての画素に対して行う。)。例え
ば、対象物1のある点P〔x,y,z〕が画像S1 上の点P1
〔X1,Y1 〕に投影されている場合、対応点探索手段
6は、この点P1 〔X1,Y1 〕に対応する点P2 〔X2,
Y2 〕を画像S2 の画素の中から探索する(なお、本明
細書中では、点P1 の画素を注目画素、点P2 の画素を
対応画素と呼ぶ。)。この場合、画像S1 において、エ
ピポーラ線は点P1〔X1,Y1 〕が存在する走査線Sc1
に一致している。したがって、画像S2 におけるエピポ
ーラ線も、走査線Sc1と同一高さの走査線Sc2に一致し
ており、点P1 〔X1,Y1 〕に対応する点P2 〔X2,Y
2 〕も、この走査線Sc2上のいずれかの位置に存在する
はずである。対応点探索手段6が行う探索とは、このよ
うに画像S2 内の走査線Sc2上を探索領域とし、走査
線Sc1上の或る点P1 〔X1,Y1 〕に対応する点P2
〔X2,Y2 〕を、画像S2 内の走査線Sc2上から求める
ことをいう。ところが、ステレオ画像計測法において上
記の対応点探索を正確に行うことは困難であり、この対
応点探索のための技術として従来から種々の手法が提案
されている。例えば、特開平9−33249号公報に
は、左右両画像の画素強度を演算して両画素間の相関関
係を表す相関関数を演算し、この相関関数の値に従って
対応点探索を行う手法が開示されている。
【0007】対応点探索手段6は、点P1 〔X1,Y1 〕
に対応する点P2 〔X2,Y2 〕を探索した後、さらに、
両点間の視差データを求めるようになっている。視差デ
ータとは、画像S1 及びS2 における両点の位置の差の
ことであり、D(X2−X1,Y2−Y1 )で表される。上
記の場合、Y1 =Y2 であるから、この視差データはD
(X2−X1,0 )と表されることになる。
に対応する点P2 〔X2,Y2 〕を探索した後、さらに、
両点間の視差データを求めるようになっている。視差デ
ータとは、画像S1 及びS2 における両点の位置の差の
ことであり、D(X2−X1,Y2−Y1 )で表される。上
記の場合、Y1 =Y2 であるから、この視差データはD
(X2−X1,0 )と表されることになる。
【0008】距離データ演算手段7は、対応点探索手段
6が求めた視差データDを用いて対象物1との間の距離
データzを演算する。すなわち、撮像手段2L ,2R の
焦点距離をfとし、各光軸間の距離をBとすると、距離
zは、下式(1)に示すように、このf、Bと、X方向
のみの視差データ(X2−X1 )とにより表される。距
離データ演算手段7は、この(1)式によりzを各画素
毎に演算する。
6が求めた視差データDを用いて対象物1との間の距離
データzを演算する。すなわち、撮像手段2L ,2R の
焦点距離をfとし、各光軸間の距離をBとすると、距離
zは、下式(1)に示すように、このf、Bと、X方向
のみの視差データ(X2−X1 )とにより表される。距
離データ演算手段7は、この(1)式によりzを各画素
毎に演算する。
【0009】z=B・f/(X2−X1 ) … (1) 距離データ演算手段7は、このようにして演算した距離
データzを、図示を省略してある外部装置に対して出力
する。外部装置とは、例えば、監視カメラ装置、視覚機
能を有する産業用ロボット、あるいはNCマシン等であ
り、多岐の分野において使用される装置を包含してい
る。
データzを、図示を省略してある外部装置に対して出力
する。外部装置とは、例えば、監視カメラ装置、視覚機
能を有する産業用ロボット、あるいはNCマシン等であ
り、多岐の分野において使用される装置を包含してい
る。
【0010】ところで、上述した相関係数の演算は、例
えば、次のようにして行われている。すなわち、2つの
画像のうちいずれか一の画像を基準画像とし、この基準
画像の注目画素に対応する他方の画像の対応画素を探索
する場合、他方の画像中に探索領域を設定し、この探索
領域中のいずれか一の画素を参照画素とする。
えば、次のようにして行われている。すなわち、2つの
画像のうちいずれか一の画像を基準画像とし、この基準
画像の注目画素に対応する他方の画像の対応画素を探索
する場合、他方の画像中に探索領域を設定し、この探索
領域中のいずれか一の画素を参照画素とする。
【0011】更に、参照画素を中心としたdX×dYの
矩形小領域である参照ブロックと、注目画素を中心とし
たdX×dYの矩形小領域である注目ブロックとをそれ
ぞれ設定し、下記の式(2)又は(3)のいずれかを用いて
二つのブロック内の同位置の画素同士の特徴量の差分の
二乗、または絶対値差分のブロック内での積和演算を行
い、その結果求まる相関係数E(X,Y)を注目画素と参
照画素との間の相関係数(注目ブロックと参照ブロック
との間の相関係数ともいう)とする。
矩形小領域である参照ブロックと、注目画素を中心とし
たdX×dYの矩形小領域である注目ブロックとをそれ
ぞれ設定し、下記の式(2)又は(3)のいずれかを用いて
二つのブロック内の同位置の画素同士の特徴量の差分の
二乗、または絶対値差分のブロック内での積和演算を行
い、その結果求まる相関係数E(X,Y)を注目画素と参
照画素との間の相関係数(注目ブロックと参照ブロック
との間の相関係数ともいう)とする。
【0012】なお、式(2)及び(3)は、点P1 〔X1,Y
1 〕を注目画素とし、点P2 〔X2,Y2 〕を参照画素と
した場合の例であり、I1 〔XA,YB 〕及びI2 〔XC,
YD〕はそれぞれ点P1 〔XA,YB 〕及び点P2 〔XC,
YD 〕における各画素の特徴量である。
1 〕を注目画素とし、点P2 〔X2,Y2 〕を参照画素と
した場合の例であり、I1 〔XA,YB 〕及びI2 〔XC,
YD〕はそれぞれ点P1 〔XA,YB 〕及び点P2 〔XC,
YD 〕における各画素の特徴量である。
【0013】
【数1】 上記のように或る参照画素(この場合は点P2)と注目
画素(この場合は点P1)との間の相関係数を演算した
後、この参照画素を一つずらして新たな参照ブロックを
設定し、この新たな参照ブロックと注目ブロックとの間
で相関係数を同様にして求める。このようにして、探索
領域内において参照画素を順次移動させて、探索領域内
の全ての画素とある一つの注目画素との間の相関係数を
求め(設定される参照画素の数だけ相関係数が求められ
る)、その中から値の最も小さな相関係数を選択する。
その最小の相関係数の参照画素を点P1 〔X1,Y1 〕に
対する対応画素と決定する。最小の相関係数となる参照
画素が点P2 〔X2,Y2 〕であれば、点P2 〔X2,Y2
〕を対応画素と決定する。
画素(この場合は点P1)との間の相関係数を演算した
後、この参照画素を一つずらして新たな参照ブロックを
設定し、この新たな参照ブロックと注目ブロックとの間
で相関係数を同様にして求める。このようにして、探索
領域内において参照画素を順次移動させて、探索領域内
の全ての画素とある一つの注目画素との間の相関係数を
求め(設定される参照画素の数だけ相関係数が求められ
る)、その中から値の最も小さな相関係数を選択する。
その最小の相関係数の参照画素を点P1 〔X1,Y1 〕に
対する対応画素と決定する。最小の相関係数となる参照
画素が点P2 〔X2,Y2 〕であれば、点P2 〔X2,Y2
〕を対応画素と決定する。
【0014】ここで、図6を参照して、より具体的に相
関係数Eの求め方について説明する。図6に示すよう
に、基準画像上の注目画素をP、参照画像上の参照画素
をSとし、それを中心として3×3の注目ブロックと参
照ブロックとを設定し、その中の他の画素を図6の通り
としたとき、相関係数Eは、下記の式(4)又は(5)のい
ずれかにより表される。なお、式(4)は式(2)に対応す
るものであり、式(5)は式(3)に対応するものである。
また、|x|はxの絶対値、Si,Piは各画素の特徴量
とする。 E=(S−P)2+(S1−P1)2+(S2−P2)2+(S3−P3)2+(S4−P4)2 +(S5−P5)2+(S6−P6)2+(S7−P7)2+(S8−P8)2 … (4) E=|(S−P)|+|(S1−P1)|+|(S2−P2)|+|(S3−P3)|+ |(S4−P4)+|(S5−P5)|+|(S6−P6)|+|(S7−P7)|+|(S8−P 8)| … (5) 注目画素Pを固定して、参照画像上の探索範囲の全ての
画素についてSの探索を行い、各参照ブロック毎の相関
係数Eを求め、Eの値が最小となる時の参照画素を注目
画素Pの対応画素に決定する。さらに、Pを基準画像上
の全ての画素について上記の演算を行い、各注目画素に
対する対応画素を決定する。
関係数Eの求め方について説明する。図6に示すよう
に、基準画像上の注目画素をP、参照画像上の参照画素
をSとし、それを中心として3×3の注目ブロックと参
照ブロックとを設定し、その中の他の画素を図6の通り
としたとき、相関係数Eは、下記の式(4)又は(5)のい
ずれかにより表される。なお、式(4)は式(2)に対応す
るものであり、式(5)は式(3)に対応するものである。
また、|x|はxの絶対値、Si,Piは各画素の特徴量
とする。 E=(S−P)2+(S1−P1)2+(S2−P2)2+(S3−P3)2+(S4−P4)2 +(S5−P5)2+(S6−P6)2+(S7−P7)2+(S8−P8)2 … (4) E=|(S−P)|+|(S1−P1)|+|(S2−P2)|+|(S3−P3)|+ |(S4−P4)+|(S5−P5)|+|(S6−P6)|+|(S7−P7)|+|(S8−P 8)| … (5) 注目画素Pを固定して、参照画像上の探索範囲の全ての
画素についてSの探索を行い、各参照ブロック毎の相関
係数Eを求め、Eの値が最小となる時の参照画素を注目
画素Pの対応画素に決定する。さらに、Pを基準画像上
の全ての画素について上記の演算を行い、各注目画素に
対する対応画素を決定する。
【0015】なお、上記の式(2)又は(3)で表される相
関係数E(X,Y)は、探索領域及び参照領域が共にX
−Y平面上の2次平面領域である一般的な場合につき説
明しているが、前述した通り、図5の場合は探索領域が
走査線Sc2上に限られていることから、Y方向成分は
無視し、X方向成分のみを考えればよい。
関係数E(X,Y)は、探索領域及び参照領域が共にX
−Y平面上の2次平面領域である一般的な場合につき説
明しているが、前述した通り、図5の場合は探索領域が
走査線Sc2上に限られていることから、Y方向成分は
無視し、X方向成分のみを考えればよい。
【0016】
【発明が解決しようとする課題】しかし、上記のような
従来の対応点探索は、式(2)又は(3)の演算を探索領域
内の全ての参照画素につき行わなければならず、その演
算量が非常に大きなものとなっている。そのため、この
演算の実行に少なからず時間を要することとなり、高速
な対応点探索を行うことができなかった。
従来の対応点探索は、式(2)又は(3)の演算を探索領域
内の全ての参照画素につき行わなければならず、その演
算量が非常に大きなものとなっている。そのため、この
演算の実行に少なからず時間を要することとなり、高速
な対応点探索を行うことができなかった。
【0017】高速な対応点探索を行う技術としては、例
えば、特開平7−103734号に開示されているよう
に、より低解像度の画像である階層画像を作成し、この
画像上で求められた視差データを参照して探索範囲を絞
り込むことにより、演算時間を短縮する技術が従来から
提示されている。この従来技術によれば、たしかに或る
程度演算時間は短縮されるものの、各階層の画像に応じ
た大容量のメモリを設けなければならないというハード
ウエア上の別の問題が生じることになる。
えば、特開平7−103734号に開示されているよう
に、より低解像度の画像である階層画像を作成し、この
画像上で求められた視差データを参照して探索範囲を絞
り込むことにより、演算時間を短縮する技術が従来から
提示されている。この従来技術によれば、たしかに或る
程度演算時間は短縮されるものの、各階層の画像に応じ
た大容量のメモリを設けなければならないというハード
ウエア上の別の問題が生じることになる。
【0018】本発明は上記事情に鑑みてなされたもので
あり、ハードウエアの規模を拡大することなく、高速に
対応点探索を行うことができる画像処理装置を提供する
ことを目的としている。
あり、ハードウエアの規模を拡大することなく、高速に
対応点探索を行うことができる画像処理装置を提供する
ことを目的としている。
【0019】
【課題を解決するための手段】上記課題を解決するため
の手段として請求項1記載の発明は、予め設定された3
次元座標上で所定の位置関係を有するように設置された
複数の撮像手段から対象物に関する画像情報を入力する
画像入力手段と、前記画像入力手段から得られる複数の
画像における各特徴量を抽出する特徴量抽出手段と、前
記複数の画像のうちのいずれか一を基準画像とし、この
基準画像の注目画素に対応する他の画像の対応画素を前
記特徴量に基づいて探索し、両画素間の視差データを求
める対応点探索手段と、前記対応点探索手段が求めた視
差データに基づいて、前記対象物に関する距離データを
演算する距離データ演算手段と、を備え、前記対応点探
索手段は、前記対応画素を探索する場合に、前記他の画
像に探索領域を設定すると共に、この探索領域中の一の
参照画素を中心とした参照ブロックと、注目画素を中心
とした注目ブロックを設定し、この2つのブロック内の
対応する位置の画素同士の特徴量の差に基づき定格値を
順次積算して前記参照ブロックと注目ブロックとの間の
相関係数を演算することに基づき、前記探索領域中での
対応画素の探索を行う、画像処理装置において、前記対
応点探索手段は、前記参照ブロックと前記注目ブロック
との間の相関係数を演算する過程において、積算途中の
相関係数逐次を予め設定してある基準相関係数と比較
し、積算途中の相関係数が基準相関係数よりも大きな値
になった時には、直ちにその参照ブロックとの間の相関
係数のの演算を中止すると共に次の参照ブロックに移行
して同様に相関係数の演算を行い、一方、積算途中の相
関係数が基準相関係数よりも小さな場合には、同一参照
ブロックとの間の相関係数の演算が続行され、さらに
は、同一参照ブロックとの間の相関係数の演算が途中で
中止されることなく最後まで行われた結果得られた相関
係数が前記基準相関係数よりも小さな場合には、その相
関係数を新たな基準相関係数として設定し、次の参照ブ
ロックに移行して新たな相関係数の演算を行う際は、積
算途中の相関係数を逐次この新たに設定した基準相関係
数と比較するようにする、ことを特徴とする。
の手段として請求項1記載の発明は、予め設定された3
次元座標上で所定の位置関係を有するように設置された
複数の撮像手段から対象物に関する画像情報を入力する
画像入力手段と、前記画像入力手段から得られる複数の
画像における各特徴量を抽出する特徴量抽出手段と、前
記複数の画像のうちのいずれか一を基準画像とし、この
基準画像の注目画素に対応する他の画像の対応画素を前
記特徴量に基づいて探索し、両画素間の視差データを求
める対応点探索手段と、前記対応点探索手段が求めた視
差データに基づいて、前記対象物に関する距離データを
演算する距離データ演算手段と、を備え、前記対応点探
索手段は、前記対応画素を探索する場合に、前記他の画
像に探索領域を設定すると共に、この探索領域中の一の
参照画素を中心とした参照ブロックと、注目画素を中心
とした注目ブロックを設定し、この2つのブロック内の
対応する位置の画素同士の特徴量の差に基づき定格値を
順次積算して前記参照ブロックと注目ブロックとの間の
相関係数を演算することに基づき、前記探索領域中での
対応画素の探索を行う、画像処理装置において、前記対
応点探索手段は、前記参照ブロックと前記注目ブロック
との間の相関係数を演算する過程において、積算途中の
相関係数逐次を予め設定してある基準相関係数と比較
し、積算途中の相関係数が基準相関係数よりも大きな値
になった時には、直ちにその参照ブロックとの間の相関
係数のの演算を中止すると共に次の参照ブロックに移行
して同様に相関係数の演算を行い、一方、積算途中の相
関係数が基準相関係数よりも小さな場合には、同一参照
ブロックとの間の相関係数の演算が続行され、さらに
は、同一参照ブロックとの間の相関係数の演算が途中で
中止されることなく最後まで行われた結果得られた相関
係数が前記基準相関係数よりも小さな場合には、その相
関係数を新たな基準相関係数として設定し、次の参照ブ
ロックに移行して新たな相関係数の演算を行う際は、積
算途中の相関係数を逐次この新たに設定した基準相関係
数と比較するようにする、ことを特徴とする。
【0020】請求項2記載の発明は、請求項1記載の発
明において、前記対応点探索手段は、前回探索時の注目
画素に対応する対応画素の位置を今回探索時の初期探索
位置として設定するものである、ことを特徴とする。
明において、前記対応点探索手段は、前回探索時の注目
画素に対応する対応画素の位置を今回探索時の初期探索
位置として設定するものである、ことを特徴とする。
【0021】
【発明の実施の形態】以下、本発明の実施形態を図に基
づき説明する。但し、図4と同様の構成要素には同一の
符号を付して重複した説明を省略する。図1が図4と異
なる点は、対応点探索手段6が相関係数演算手段10及
び対応点記憶手段11を有している点である。
づき説明する。但し、図4と同様の構成要素には同一の
符号を付して重複した説明を省略する。図1が図4と異
なる点は、対応点探索手段6が相関係数演算手段10及
び対応点記憶手段11を有している点である。
【0022】次に、上記のように構成される本実施形態
の動作を図2のフローチャートを参照しつつ説明する。
まず、相関係数演算手段10は、画像S1側の或る注目
画素の位置P1に対応する画像S2側の対応点P2を探
索するため、前回の探索により求めた対応点の位置S
(i-1)を初期探索位置S(i)として設定する(ステップ
1)。但し、iは、i=1,2,3…等の整数である。このよ
うに、前回の探索により求めた対応点を初期探索位置と
しているのは、隣接する画素同士の視差データは、通
常、相関性が高いので、今回の探索においても前回探索
時の対応画素付近に対応画素が存在する可能性が高いと
考えられるからである。
の動作を図2のフローチャートを参照しつつ説明する。
まず、相関係数演算手段10は、画像S1側の或る注目
画素の位置P1に対応する画像S2側の対応点P2を探
索するため、前回の探索により求めた対応点の位置S
(i-1)を初期探索位置S(i)として設定する(ステップ
1)。但し、iは、i=1,2,3…等の整数である。このよ
うに、前回の探索により求めた対応点を初期探索位置と
しているのは、隣接する画素同士の視差データは、通
常、相関性が高いので、今回の探索においても前回探索
時の対応画素付近に対応画素が存在する可能性が高いと
考えられるからである。
【0023】次いで、相関係数演算手段10は、この初
期探索位置S(i)における参照画素を中心として設定さ
れる参照ブロックと、注目画素を中心として設定される
注目ブロックとの間の相関係数を前述した式(2)又は
(3)を用いて演算し、この相関係数を基準相関係数Emi
nとして設定する(ステップ2)。
期探索位置S(i)における参照画素を中心として設定さ
れる参照ブロックと、注目画素を中心として設定される
注目ブロックとの間の相関係数を前述した式(2)又は
(3)を用いて演算し、この相関係数を基準相関係数Emi
nとして設定する(ステップ2)。
【0024】ここで、位置S(i)を中心として設定され
る参照ブロックとは、位置S(i)の画素の座標を〔X,
Y〕と表した場合に、この〔X,Y〕の画素の他に、例
えば、〔X+1,Y〕、〔X−1,Y〕、〔X+2,
Y〕、〔X−2,Y〕の画素により形成される領域を指
している。注目画素を中心として設定される注目ブロッ
クも同様である。そして、相関係数演算手段10は、式
(2)又は(3)により、これら二つのブロックの同位置の
画素の特徴量の差分値の二乗、絶対値差分のブロック内
での積算を行う。
る参照ブロックとは、位置S(i)の画素の座標を〔X,
Y〕と表した場合に、この〔X,Y〕の画素の他に、例
えば、〔X+1,Y〕、〔X−1,Y〕、〔X+2,
Y〕、〔X−2,Y〕の画素により形成される領域を指
している。注目画素を中心として設定される注目ブロッ
クも同様である。そして、相関係数演算手段10は、式
(2)又は(3)により、これら二つのブロックの同位置の
画素の特徴量の差分値の二乗、絶対値差分のブロック内
での積算を行う。
【0025】上記のように基準相関係数Eminが設定さ
れた後、相関係数演算手段10は、参照画素の更新を行
う(ステップ3)。この更新により、例えば、ステップ1
で設定された初期探索位置から走査線Sc2上で例えば
1画素分だけ右方へ移動させた位置が新たな参照ブロッ
クの中心位置とされる。そして、相関係数演算手段10
は、この新たな参照画素において、式(2)又は(3)を用
いて相関係数Eの積算値の演算を行う(ステップ4)。こ
のステップ4における積算値Eの演算は、ステップ2に
おける初期相関係数Eminの演算と同様に行われる。
れた後、相関係数演算手段10は、参照画素の更新を行
う(ステップ3)。この更新により、例えば、ステップ1
で設定された初期探索位置から走査線Sc2上で例えば
1画素分だけ右方へ移動させた位置が新たな参照ブロッ
クの中心位置とされる。そして、相関係数演算手段10
は、この新たな参照画素において、式(2)又は(3)を用
いて相関係数Eの積算値の演算を行う(ステップ4)。こ
のステップ4における積算値Eの演算は、ステップ2に
おける初期相関係数Eminの演算と同様に行われる。
【0026】相関係数演算手段10は、画素単位の差分
値の二乗又は差分絶対値の積算を行う毎に、それまでの
積算値Eと基準相関係数Eminとの間の大小関係を比較
する(ステップ5)。図6の例では、E=(S−P)2の段
階でEとEminとの最初の比較を行い、E=(S−P)2+
(S1−P1)2の積算段階で2回目の比較を行い、さら
に、E=(S−P)2+(S1−P1)2+(S2−P2)2の積算
段階で3回目の比較を行うというように、積算途中の相
関係数Eを逐次基準相関係数Eminと比較する。
値の二乗又は差分絶対値の積算を行う毎に、それまでの
積算値Eと基準相関係数Eminとの間の大小関係を比較
する(ステップ5)。図6の例では、E=(S−P)2の段
階でEとEminとの最初の比較を行い、E=(S−P)2+
(S1−P1)2の積算段階で2回目の比較を行い、さら
に、E=(S−P)2+(S1−P1)2+(S2−P2)2の積算
段階で3回目の比較を行うというように、積算途中の相
関係数Eを逐次基準相関係数Eminと比較する。
【0027】そして、積算値Eが基準相関係数Eminよ
り小さな場合には、ブロック内での積算が終了している
か否かを判別し(ステップ6)、終了していなければ積算
を続行する(ステップ4)。また、ステップ6で、積算が
終了していると判別した場合には、この参照画素におけ
る積算値Eを新たな基準相関係数Eminとして設定する
(ステップ7)。
り小さな場合には、ブロック内での積算が終了している
か否かを判別し(ステップ6)、終了していなければ積算
を続行する(ステップ4)。また、ステップ6で、積算が
終了していると判別した場合には、この参照画素におけ
る積算値Eを新たな基準相関係数Eminとして設定する
(ステップ7)。
【0028】次いで、相関係数演算手段10は、探索領
域での探索が終了したか否か、すなわち走査線Sc2上
における全ての参照画素について、その積算値Eの演算
を行ったか否かについて判別する(ステップ8)。そし
て、未だ探索が終了していなければ、ステップ3に戻っ
て参照画素を更新する。また、ステップ5で、基準相関
係数Eminが積算値Eより大きいか又は等しいことを判
別した場合には、直ちにそのブロック内での積算値Eの
積算を中止してステップ8に移り、探索領域での探索が
終了したか否かについての判別を行う。これは、積算値
Eの値が基準相関係数Emin以上となったことは、もは
やその参照画素が対応画素である可能性が無くなったこ
とを意味するため、それ以上そのブロックでの積算を続
行しても無駄なことが明らかだからである。
域での探索が終了したか否か、すなわち走査線Sc2上
における全ての参照画素について、その積算値Eの演算
を行ったか否かについて判別する(ステップ8)。そし
て、未だ探索が終了していなければ、ステップ3に戻っ
て参照画素を更新する。また、ステップ5で、基準相関
係数Eminが積算値Eより大きいか又は等しいことを判
別した場合には、直ちにそのブロック内での積算値Eの
積算を中止してステップ8に移り、探索領域での探索が
終了したか否かについての判別を行う。これは、積算値
Eの値が基準相関係数Emin以上となったことは、もは
やその参照画素が対応画素である可能性が無くなったこ
とを意味するため、それ以上そのブロックでの積算を続
行しても無駄なことが明らかだからである。
【0029】相関係数演算手段10は、ステップ8で探
索が終了したことを判別した後、それまで演算した相関
係数の値のうち最小のものを選択し、その時の点P2
〔X2,Y2 〕の位置S(i)を対応画素の位置P´(i)
に決定する。そして、この対応画素の位置P´(i)を
対応点記憶手段11に記憶させる(ステップ9)。この記
憶された位置P´(i)は、次の注目画素における初期
探索位置に設定されることになる。なお、最小の相関係
数の値は、ステップ7において基準相関係数Eminを下
回る積算値Eが算出された場合には、常にこの積算値E
が新たな基準相関係数Eminとして設定されていること
から、基準相関係数Eminとなる。
索が終了したことを判別した後、それまで演算した相関
係数の値のうち最小のものを選択し、その時の点P2
〔X2,Y2 〕の位置S(i)を対応画素の位置P´(i)
に決定する。そして、この対応画素の位置P´(i)を
対応点記憶手段11に記憶させる(ステップ9)。この記
憶された位置P´(i)は、次の注目画素における初期
探索位置に設定されることになる。なお、最小の相関係
数の値は、ステップ7において基準相関係数Eminを下
回る積算値Eが算出された場合には、常にこの積算値E
が新たな基準相関係数Eminとして設定されていること
から、基準相関係数Eminとなる。
【0030】対応点探索手段6は、このように点P1
〔X1,Y1 〕に対応する点P2 〔X2,Y2 〕を探索した
後、両点間の視差データD(X2−X1,0 )を算出する
(ステップ10)。対応点探索手段6は、上記のステップ
1〜ステップ10までの処理を、画像S1の全ての画素
を注目画素として行う。
〔X1,Y1 〕に対応する点P2 〔X2,Y2 〕を探索した
後、両点間の視差データD(X2−X1,0 )を算出する
(ステップ10)。対応点探索手段6は、上記のステップ
1〜ステップ10までの処理を、画像S1の全ての画素
を注目画素として行う。
【0031】上述したように、本実施形態の対応点探索
手段6は、或るブロック内で積算値Eを演算している途
中で、この積算値Eが基準相関係数Emin以上となった
場合には直ちにその時点で参照ブロックでの演算を中止
し、次の参照画素に移行するようにしている。従来は、
積算値Eの値如何にかかわらず、参照ブロック内の全て
の画素について積算を行った後に、次の参照画素に移行
するようにしていたが、このように積算を行う過程にお
いて積算値Eと基準相関係数Eminとの大小関係を判別
する技術を導入することにより、無駄な演算を排除する
ことができ演算時間を短縮することができる。
手段6は、或るブロック内で積算値Eを演算している途
中で、この積算値Eが基準相関係数Emin以上となった
場合には直ちにその時点で参照ブロックでの演算を中止
し、次の参照画素に移行するようにしている。従来は、
積算値Eの値如何にかかわらず、参照ブロック内の全て
の画素について積算を行った後に、次の参照画素に移行
するようにしていたが、このように積算を行う過程にお
いて積算値Eと基準相関係数Eminとの大小関係を判別
する技術を導入することにより、無駄な演算を排除する
ことができ演算時間を短縮することができる。
【0032】この場合、基準相関係数Eminとしては、
できるだけ小さな値、すなわち対応点に係る相関係数の
値であることが、それだけ排除される無駄な演算が多く
なることから好ましくなるが、本実施形態では初期探索
位置を前回探索時の対応点としているので、演算当初か
ら最も小さな値となる可能性が大きな基準相関係数Emi
nを用いることができ、演算時間の短縮についてより適
切な構成となっている。また、本実施形態の構成は、大
容量のメモリ等を必要とするものではなく、ハードウエ
ア上の規模の拡大を伴うことはない。
できるだけ小さな値、すなわち対応点に係る相関係数の
値であることが、それだけ排除される無駄な演算が多く
なることから好ましくなるが、本実施形態では初期探索
位置を前回探索時の対応点としているので、演算当初か
ら最も小さな値となる可能性が大きな基準相関係数Emi
nを用いることができ、演算時間の短縮についてより適
切な構成となっている。また、本実施形態の構成は、大
容量のメモリ等を必要とするものではなく、ハードウエ
ア上の規模の拡大を伴うことはない。
【0033】なお、上記実施形態では、位置S(i)の及
び注目画素を中心として設定されるブロックについて、
位置S(i)の画素及び注目画素の座標を〔X,Y〕と表
した場合に、この〔X,Y〕の画素の他に、例えば、
〔X+1,Y〕、〔X−1,Y〕、〔X+2,Y〕、
〔X−2,Y〕の画素により形成される領域を指してい
ると説明したが、範囲については種々の条件を加味して
自由に設定することができ、また、ブロック内で積算を
行う順番についても自由に設定することが可能である。
び注目画素を中心として設定されるブロックについて、
位置S(i)の画素及び注目画素の座標を〔X,Y〕と表
した場合に、この〔X,Y〕の画素の他に、例えば、
〔X+1,Y〕、〔X−1,Y〕、〔X+2,Y〕、
〔X−2,Y〕の画素により形成される領域を指してい
ると説明したが、範囲については種々の条件を加味して
自由に設定することができ、また、ブロック内で積算を
行う順番についても自由に設定することが可能である。
【0034】
【発明の効果】以上のように、本発明によれば、参照画
素を中心とする参照ブロックと注目画素を中心とする注
目ブロックとの間の相関係数を演算する過程において、
この演算途中の相関係数を予め設定してある基準相関係
数と比較し、演算途中の相関係数が基準相関係数よりも
大きな場合には、直ちにその参照ブロックとの間の演算
を中止すると共に次の参照画素に移行して同様に相関係
数の演算を行い、一方、演算途中の相関係数が基準相関
係数よりも小さな場合には、演算を続行すると共に、そ
の参照ブロックとの間の相関係数の演算がそれ以降も途
中で中止されることなく最後まで行われ、かつ、演算の
結果得られた相関係数が基準相関係数よりも小さな場合
には、その相関係数を新たな基準相関係数として設定
し、次の参照ブロックに移行した後は、演算途中の相関
係数をこの新たに設定した基準相関係数と比較する構成
としたので、ハードウエアの規模を拡大することなく、
高速に対応点探索を行うことが可能になる。
素を中心とする参照ブロックと注目画素を中心とする注
目ブロックとの間の相関係数を演算する過程において、
この演算途中の相関係数を予め設定してある基準相関係
数と比較し、演算途中の相関係数が基準相関係数よりも
大きな場合には、直ちにその参照ブロックとの間の演算
を中止すると共に次の参照画素に移行して同様に相関係
数の演算を行い、一方、演算途中の相関係数が基準相関
係数よりも小さな場合には、演算を続行すると共に、そ
の参照ブロックとの間の相関係数の演算がそれ以降も途
中で中止されることなく最後まで行われ、かつ、演算の
結果得られた相関係数が基準相関係数よりも小さな場合
には、その相関係数を新たな基準相関係数として設定
し、次の参照ブロックに移行した後は、演算途中の相関
係数をこの新たに設定した基準相関係数と比較する構成
としたので、ハードウエアの規模を拡大することなく、
高速に対応点探索を行うことが可能になる。
【図1】本発明の実施形態の要部の構成を示すブロック
図。
図。
【図2】図1の動作を説明するためのフローチャート
図。
図。
【図3】従来の画像処理装置の構成を示す平面図。
【図4】図3における画像処理回路3の構成を示すブロ
ック図。
ック図。
【図5】ステレオ画像計測法についての説明図。
【図6】相関係数の具体的な求め方についての説明図。
1 対象物1 2L ,2R 撮像手段 3 画像処理回路 4L ,4R 画像入力手段 5L ,5R 特徴量抽出手段 6 対応点探索手段 7 距離データ演算手段 8 対応関係判別手段 9 対応点補正手段 10 相関係数演算手段 11 対応点記憶手段
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 2F065 AA04 AA53 BB05 BB24 DD06 FF01 FF05 JJ03 JJ19 JJ26 QQ21 QQ24 QQ32 QQ36 QQ39 QQ41 RR09 UU05 2F112 AC03 AC06 BA05 CA08 CA12 DA02 FA03 FA21 FA36 FA39 FA41 5B057 CC03 DA07 DB03 DC34
Claims (2)
- 【請求項1】予め設定された3次元座標上で所定の位置
関係を有するように設置された複数の撮像手段から対象
物に関する画像情報を入力する画像入力手段と、 前記画像入力手段から得られる複数の画像における各特
徴量を抽出する特徴量抽出手段と、 前記複数の画像のうちのいずれか一を基準画像とし、こ
の基準画像の注目画素に対応する他の画像の対応画素を
前記特徴量に基づいて探索し、両画素間の視差データを
求める対応点探索手段と、 前記対応点探索手段が求めた視差データに基づいて、前
記対象物に関する距離データを演算する距離データ演算
手段と、 を備え、前記対応点探索手段は、前記対応画素を探索す
る場合に、前記他の画像に探索領域を設定すると共に、
この探索領域中の一の参照画素を中心とした参照ブロッ
クと、注目画素を中心とした注目ブロックを設定し、こ
の2つのブロック内の対応する位置の画素同士の特徴量
の差に基づき定格値を順次積算して前記参照ブロックと
注目ブロックとの間の相関係数を演算することに基づ
き、前記探索領域中での対応画素の探索を行う、画像処
理装置において、 前記対応点探索手段は、 前記参照ブロックと前記注目ブロックとの間の相関係数
を演算する過程において、積算途中の相関係数逐次を予
め設定してある基準相関係数と比較し、積算途中の相関
係数が基準相関係数よりも大きな値になった時には、直
ちにその参照ブロックとの間の相関係数のの演算を中止
すると共に次の参照ブロックに移行して同様に相関係数
の演算を行い、一方、積算途中の相関係数が基準相関係
数よりも小さな場合には、同一参照ブロックとの間の相
関係数の演算が続行され、さらには、同一参照ブロック
との間の相関係数の演算が途中で中止されることなく最
後まで行われた結果得られた相関係数が前記基準相関係
数よりも小さな場合には、その相関係数を新たな基準相
関係数として設定し、次の参照ブロックに移行して新た
な相関係数の演算を行う際は、積算途中の相関係数を逐
次この新たに設定した基準相関係数と比較するようにす
る、 ことを特徴とする画像処理装置。 - 【請求項2】前記対応点探索手段は、 前回探索時の注目画素に対応する対応画素の位置を今回
探索時の初期探索位置として設定するものである、 ことを特徴とする請求項1記載の画像処理装置
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP11017214A JP2000213933A (ja) | 1999-01-26 | 1999-01-26 | 画像処理装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP11017214A JP2000213933A (ja) | 1999-01-26 | 1999-01-26 | 画像処理装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2000213933A true JP2000213933A (ja) | 2000-08-04 |
Family
ID=11937706
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP11017214A Pending JP2000213933A (ja) | 1999-01-26 | 1999-01-26 | 画像処理装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2000213933A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003322521A (ja) * | 2002-04-26 | 2003-11-14 | Honda Motor Co Ltd | 画像認識装置 |
| JP2007212430A (ja) * | 2006-08-07 | 2007-08-23 | Kurabo Ind Ltd | 写真測量装置及び写真測量システム |
-
1999
- 1999-01-26 JP JP11017214A patent/JP2000213933A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003322521A (ja) * | 2002-04-26 | 2003-11-14 | Honda Motor Co Ltd | 画像認識装置 |
| JP2007212430A (ja) * | 2006-08-07 | 2007-08-23 | Kurabo Ind Ltd | 写真測量装置及び写真測量システム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US7471809B2 (en) | Method, apparatus, and program for processing stereo image | |
| JP6701930B2 (ja) | オーサリング装置、オーサリング方法およびオーサリングプログラム | |
| JP2006221603A (ja) | 3次元情報復元装置、3次元情報復元方法および3次元情報復元プログラム | |
| US10713806B2 (en) | Image processing apparatus and image processing system | |
| US9646385B2 (en) | System and a method for generating a depth map | |
| JPH0719832A (ja) | 複数画像の対応点抽出方法 | |
| US20100118125A1 (en) | Method and apparatus for generating three-dimensional (3d) image data | |
| JPWO2009096520A1 (ja) | 対応点探索装置および対応点探索方法 | |
| JP2011039801A (ja) | 画像処理装置および画像処理方法 | |
| JP3008875B2 (ja) | 被写体抽出装置 | |
| JPH08292014A (ja) | パターン位置の計測方法および計測装置 | |
| JP4524514B2 (ja) | 画像処理装置、画像処理方法、および記録媒体 | |
| KR101804157B1 (ko) | 개선된 sgm 기반한 시차 맵 생성 방법 | |
| JP2000213933A (ja) | 画像処理装置 | |
| JP4102386B2 (ja) | 3次元情報復元装置 | |
| US6625301B2 (en) | Image processing apparatus, image processing method and transmission medium | |
| JP2011048416A (ja) | 画像処理装置および画像処理方法 | |
| JP5446516B2 (ja) | 画像処理装置 | |
| KR20060007816A (ko) | 영상 합성 방법 | |
| JP3135162B2 (ja) | 距離測定装置 | |
| JP3316682B2 (ja) | ステレオ画像測定装置 | |
| JPH11203476A (ja) | エピポーララインの合わせ方法、ステレオ画像装置 | |
| JP2007179236A (ja) | 画像生成装置及び方法 | |
| JP4608978B2 (ja) | 画像処理方法および画像処理装置 | |
| JP2000180121A (ja) | 画像処理装置および画像処理方法、並びに提供媒体 |