JPH10267618A - 距離計測装置 - Google Patents

距離計測装置

Info

Publication number
JPH10267618A
JPH10267618A JP9088811A JP8881197A JPH10267618A JP H10267618 A JPH10267618 A JP H10267618A JP 9088811 A JP9088811 A JP 9088811A JP 8881197 A JP8881197 A JP 8881197A JP H10267618 A JPH10267618 A JP H10267618A
Authority
JP
Japan
Prior art keywords
distance
size
image
preceding vehicle
relative speed
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9088811A
Other languages
English (en)
Other versions
JP3384278B2 (ja
Inventor
Tomoko Shimomura
倫子 下村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP08881197A priority Critical patent/JP3384278B2/ja
Publication of JPH10267618A publication Critical patent/JPH10267618A/ja
Application granted granted Critical
Publication of JP3384278B2 publication Critical patent/JP3384278B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Measurement Of Optical Distance (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Abstract

(57)【要約】 【課題】 視界を遮るマークなしでステレオカメラの軸
ずれを検出する。 【解決手段】 画像メモリ3、4に記憶されたカメラ
1、2による画像の一方から先行車検出部5が先行車を
検出すると、マッチング位置検出部6がその先行車を含
むウインドウと最類似するウインドウを他方の画像から
検出する。車間距離算出部7が両ウインドウの位置とカ
メラの位置関係から車間距離を求め、車間距離保管部8
に保管する。画像上の大きさ検出部10で検出される画
像上での先行車の大きさが大きさ保管部12に保管され
るとともに、これと車間距離とから先行車の実際の大き
さ算出部11が実際の大きさを算出する。所定間隔で連
続して求めた複数回の車間距離の変化と画像上の大きさ
の変化から、第1、第2の相対速度算出部9、13でそ
れぞれ第1、第2の相対速度を求め、軸ずれ判断部が相
対速度の差からカメラの軸ずれを判断する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、ステレオカメラ
の軸ずれを判断しながらステレオ画像処理による対象物
までの距離(たとえば車間距離)計測を行うステレオカ
メラを用いた距離計測装置に関する。
【0002】
【従来の技術】従来、この種の距離計測装置としては、
たとえば特開平8−16999号公報に開示された車間
距離計測装置がある。 ステレオ画像処理による距離計
測においては、カメラの軸ずれ(2つのカメラの光軸の
ずれ)がその計測精度に大きな影響を与えるので、これ
を正しく把握する必要がある。そこで上記の従来技術で
は、カメラの取付け位置や姿勢が取付け時からずれたこ
とを判断するために、取付け位置認識マークをカメラの
撮像エリア内に入るように取付け、そのマークが撮像さ
れる位置の変化を判断することでカメラの軸ずれを判断
するようにしている。
【0003】
【発明が解決しようとする課題】しかし、上記の車間距
離計測装置では、まず、カメラと認識対象物の間に、軸
ずれを判断するためだけに用いるマークが撮像されるた
め、そのマークと対象物が重なる部分では対象物の検出
ができなくなるという欠点がある。また、毎回の認識処
理毎において、位置、姿勢がずれていないことを確認す
るために、マークの位置に撮像されている部分が確かに
マークであるか否かの判断が必要となり、その分処理時
間が長くかかるという欠点もある。また、このマーク
は、カメラとマークとの位置関係を固定にするためにカ
メラを搭載した車両の一部、たとえばフロントガラスな
どに付ける必要があるが、そのマークが運転手の視界を
遮るという不都合もある。
【0004】さらに、ステレオ画像処理による距離計測
におけるカメラの微妙な軸ずれは、大きな軸ずれやカメ
ラの故障とは異なり、画像処理があたかも正常であるか
のように動作するため、発見が非常に困難であるが、計
測において最も正確さが求められる“距離値”は微妙な
軸ずれにも影響されるため、軸ずれは精度よく判断され
る必要がある。しかし、従来装置では、マークまでの距
離がカメラから先行車などの認識対象までの距離に対し
て非常に短いことから、車両から外界を認識するための
カメラではマークに対してのピントが合わず、微妙な軸
ずれを発見することが非常に困難である。したがって、
この手法で精度よく微妙な軸ずれを発見するためには、
カメラのピントをマークの位置から障害物検出位置まで
幅広く調整できる特別な機構が必要となる。
【0005】この発明はこのような従来の問題点に鑑
み、視界を遮るようなマークを必要とせずに、微妙な軸
ずれも精度よく検出することができるステレオカメラを
用いた距離計測装置を提供することを目的とする。
【0006】
【課題を解決するための手段】このため、請求項1記載
の本発明は、それぞれの光軸を互いに平行とし所定の眼
間距離をもって配置された2台のカメラと、所定時間間
隔毎に2台のカメラが撮像した映像信号をディジタルの
第1および第2の画像として一時的に記憶する画像メモ
リと、第1の画像内で計測対象物を検出する対象物検出
手段と、第1の画像における計測対象物を含むウインド
ウと最も類似したウインドウの位置を第2の画像内に探
索するマッチング位置探索手段と、上記互いに最も類似
したウインドウの位置と2台のカメラの位置関係をもと
に、計測対象物までの距離を求める距離算出手段と、上
記所定時間間隔毎に連続して求めた複数回分の計測対象
物までの距離を記憶する距離記憶手段と、距離記憶手段
に記憶された計測対象物までの距離の時間的変化から計
測対象物との第1の相対速度を求める第1の相対速度算
出手段と、第1および第2の画像上のいずれかにおける
計測対象物の大きさを検出する画像上の大きさ検出手段
と、画像上の計測対象物の大きさと計測対象物までの距
離に基づいて当該計測対象物の実際の大きさを算出する
実際の大きさ算出手段と、上記所定時間間隔毎に連続し
て求めた複数回分の画像上の計測対象物の大きさを記憶
する大きさ記憶手段と、計測対象物の実際の大きさと大
きさ記憶手段に記憶された画像上の計測対象物の大きさ
の時間的変化とをもとに計測対象物との第2の相対速度
を求める第2の相対速度算出手段と、第1の相対速度と
第2の相対速度の比較に基づいて2台のカメラの光軸の
ずれを判断する軸ずれ判断手段とを有するものとした。
【0007】請求項3記載の発明は、上記の対象物検出
手段、マッチング位置探索手段および距離算出手段のか
わりに、第1の画像を同一サイズの複数のブロックに区
切り、各ブロック内に撮像されている対象物までの距離
を求め、当該距離のうち最小値の対象物が撮像されてい
るブロックの固まりを計測対象物が撮像されている領域
として、上記最小値を計測対象物までの距離とするとと
もに、画像上の計測対象物の大きさをブロック単位で検
出する計測対象物の大きさ・距離判断手段を備えるもの
とした。
【0008】上記計測対象物の大きさ・距離判断手段
は、複数の各ブロック内でエッジを検出するブロック毎
エッジ検出部と、第1の画像における上記エッジを含む
ブロックと最も類似したブロックの位置を第2の画像内
に探索するブロック毎マッチング位置検出部と、互いに
最も類似したブロックの位置と2台のカメラの位置関係
をもとに、ブロック毎に検出されたエッジまでの距離を
求めるブロック毎距離算出部と、全てのブロックのうち
距離が最小値のエッジを含みかつ隣接するブロックの固
まりを計測対象物の領域として、最小値を計測対象物ま
での距離とするとともに、上記ブロックの固まりの大き
さを画像上の計測対象物の大きさとする位置・大きさ・
距離判断部とから構成することができる。
【0009】また、請求項5記載の発明は、上記計測対
象物の大きさ・距離判断手段と大きさ記憶手段の間に、
さらにブロックの固まりの所定方向において互いに最離
間している2つの列内からそれぞれエッジを検出する両
端エッジ検出手段を設け、大きさ記憶手段には、両端エ
ッジ検出手段で検出されたエッジ間の距離を画像上の計
測対象物の大きさとして記憶するものとした。
【0010】
【作用】請求項1記載のものでは、2台のカメラがステ
レオカメラを形成して、視差をもった第1および第2の
画像が所定時間間隔毎に画像メモリに記憶される。対象
物検出手段により第1の画像内で計測対象物が検出され
ると、その計測対象物を含むウインドウをテンプレート
としてマッチング位置探索手段が第2の画像内でテンプ
レートと最も類似したウインドウの位置を探す。そし
て、距離算出手段が両ウインドウの位置と2台のカメラ
の位置関係をもとに、計測対象物までの距離を求め、こ
れを距離記憶手段に逐次記憶していく。第1の相対速度
算出手段では、距離記憶手段に記憶された複数回分の距
離の時間的変化から計測対象物との第1の相対速度を算
出する。
【0011】一方、画像上の大きさ検出手段によりいず
れかの画像における計測対象物の大きさを検出し、この
画像上の計測対象物の大きさと計測対象物までの距離に
基づいて実際の大きさ算出手段が当該計測対象物の実際
の大きさを算出するとともに、画像上の計測対象物の大
きさを大きさ記憶手段に逐次記憶していく。第2の相対
速度算出手段では、計測対象物の実際の大きさと大きさ
記憶手段に記憶された画像上の計測対象物の大きさの時
間的変化から計測対象物との第2の相対速度を算出す
る。そして、軸ずれ判断手段が第1の相対速度と第2の
相対速度を比較して、2台のカメラの光軸のずれを判断
する。
【0012】請求項3記載のものでは、計測対象物の大
きさ・距離判断手段において、第1の画像の各ブロック
内に撮像されている対象物までの距離を求め、当該距離
のうち最小値の対象物を撮像しているブロックの固まり
を抽出して、当該最小値を計測対象物までの距離とす
る。この際併せて、ブロックの数により画像上の計測対
象物の大きさが求められる。
【0013】また、請求項5記載のものでは、両端エッ
ジ検出手段において、計測対象物の大きさ・距離判断手
段で抽出されたブロックの固まりの所定方向において互
いに最離間している2つの列、例えば最上段と最下段の
列からそれぞれエッジを検出する。これにより計測対象
物の例えば上縁と下縁が検出される。このエッジ間の距
離が画像上の計測対象物の大きさとして大きさ記憶手段
に記憶され、第2の相対速度算出手段で計測対象物の実
際の大きさと大きさ記憶手段に記憶されたエッジ間の距
離の時間的変化から計測対象物との第2の相対速度が算
出される。
【0014】
【発明の実施の形態】以下、この発明の実施の形態を実
施例により説明する。ここでは、実施例に係るステレオ
カメラを用いた距離計測装置を具体的に説明する前に、
ステレオカメラにより得られるステレオ画像を処理して
求めた前方障害物である先行車までの距離をもとに相対
速度(第1の相対速度V1)を求める方法と、先行車の
画像上での大きさの変化から相対速度(第2の相対速度
V2)を求める方法とを説明し、次にこれら2つの異な
る手法で求めた相対速度V1、V2を比較することによ
りステレオカメラの軸ずれを判断する原理を説明する。
【0015】まず、ステレオ画像を処理して求めた先行
車までの車間距離(以下、単に距離という)をもとに第
1の相対速度V1を求める方法を説明する。図1は、ス
テレオ画像を用いて三角測量の原理でステレオカメラか
ら先行車Cまでの距離Zを求める原理を説明する図であ
る。ここでは、ステレオカメラを構成する2台のカメラ
1、2が車両に搭載されている。カメラ1、2は、同一
の焦点距離fを有するレンズL1、L2と、各レンズか
ら撮像面までの距離が焦点距離fとなるように配置され
たCCD1a、2aとをそれぞれ有するCCDカメラで
ある。カメラ1、2は、CCD1a、2aの各撮像面が
同一垂直面内に位置し、各撮像面の垂直基準軸であるY
軸、すなわCCD1aの撮像面のYA 軸とCCD2aの
撮像面のYB 軸が一致し、レンズL1、L2の光軸1
b、2bが互いに平行でかつ眼間距離(光軸1b、2b
間の距離)Dが所定の値となるように、上下に並べて配
置されている。
【0016】焦点距離f及び眼間距離Dが既知であり、
光軸1b、2bが互いに平行な2台のカメラ1、2で車
両前方を撮像して得られる2つの画像からなるステレオ
画像において、2つの画像間のマッチング位置(最も類
似する位置で、図1では各画像内における先行車Cのリ
ヤ側上縁部の位置)のY座標ya、ybを求めることが
できれば、カメラ1、2から先行車Cまでの距離Zは下
記の式(1)より求めることができる。 Z=f×D/(yb−ya) (1) ここで、f,ya,ybの単位はCCD1a、2aの画
素であり、D,Zの単位はmmである。なお、一般に焦
点距離fは単位をmmで表す場合が多いが、式(1)の
焦点距離fは画素を単位として計算する。
【0017】ここで、画素を単位とする焦点距離fの求
め方を図2に基づいて説明する。図2の(a)は大きさ
のわかっている幅W(m)の物体C´を距離Z(m)だ
け離れたところで2台のカメラ1、2の一方(ここでは
カメラ1)により撮像したときの様子を示し、同図の
(b)はそのとき得られる画像Aを示す。以下の説明で
は、カメラ1により撮像される画像をA、そしてカメラ
2により撮像される画像をBとする。
【0018】画素を単位とする焦点距離fは、大きさの
わかっている幅W(m)の物体C´を距離Z(m)だけ
離れたところにおいて撮像し、このとき得られる画像A
(または画像B)上での物体C´の幅xw(画素)をエ
ッジ検出などの画像処理により検出することで、下記の
式(2)により求めることができる。 f=xw×Z/W (2) ここで、xwの単位は画素であり、Z,Wの単位はmで
ある。
【0019】第1の相対速度V1は、式(1)をもとに
一定時間Δt毎に求めた数回分の距離値(車間距離Zの
値)をもとに求める。図3は第1の相対速度V1の求め
方を説明するグラフで、横軸は時間t(ms)を、縦軸
は車間距離Z(m)をそれぞれ表している。このグラフ
は過去数回(n回)で求めたn点の距離値をΔt毎にプ
ロットしたものである。第1の相対速度V1は、ある時
間n×Δt内で変化した相対距離をRとして、V1=R
/(n×Δt)であるので、このグラフの点列の最小二
乗誤差をとる直線(Z=a×t+bで表す直線)の傾き
aを求めれば、それが第1の相対速度V1となる。この
ように、ステレオ画像を処理して求めた距離の変化(数
回分の距離値)をもとに第1の相対速度V1を求めるこ
とができる。
【0020】次に、先行車Cの大きさの時間的変化をも
とに第2の相対速度V2を求める方法を説明する。図4
の(a)は、先行車Cを距離Z1(m)だけ離れたとこ
ろで撮像(ここではカメラ1により撮像)したときの様
子を示し、同図の(b)はその得られる画像Aを示す。
同様に、図5の(a〓)は、先行車Cを距離Z1より遠
い距離Z2(m)だけ離れたところで撮像したときの様
子を示し、同図の(B)はそのとき得られる画像Aを示
す。
【0021】図4及び図5から明らかなように、先行車
Cの画像(2つの画像A、Bの一方)上での大きさは先
行車Cまでの距離Zに応じて変化するので、先行車Cの
屋根(上端)から底(下端)までの高さh(m)、焦点
距離f(画素)、画像A上での先行車Cの屋根のエッジ
から底のエッジまでの長さ(画像A上での先行車Cの高
さ)をyw、距離をZ(m)とすると、下記の式(3)
の関係が成り立つ。 Z=h×f/yw (3)
【0022】この式からわかるように、仮に先行車Cの
高さhがわかっていれば、1つの画像(2つの画像A、
Bの一方)を利用した画像処理により、先行車Cの上下
のエッジ間の距離(画像上での大きさ)ywを求めるこ
とができる。通常、先行車Cの高さhは未知の値である
が、ここでは、ステレオ画像処理によって距離Zが上記
の式(1)により求められているため、ywを求めるこ
とができれば、式(3)の変形式h=Z×yw/fの計
算により、先行車の高さhを求めることができる。
【0023】その高さhを求めることができれば、式
(3)により逐次の距離Zを求めることができる。その
ため、一定時間Δt毎に計測した距離値を図3のグラフ
で示すようにプロットすることで、ステレオ画像処理の
結果をもとに第1の相対速度V1を求めたときと同様
に、先行車Cとの相対速度(第2の相対速度V2)を求
めることが可能となる。ここで、第2の相対速度V2は
同じ先行車Cを追従しているときに計測するものである
ので、高さhは固定である。つまり、画像上で先行車C
を発見した時点で、一度高さhを求めてしまえば、先行
車Cの画像上での大きさ(ここでは高さyw)の時間的
変化だけをもとにその先行車との相対速度V2を求める
ことが可能となる。
【0024】すなわち、第1の相対速度V1を求めるた
めに用いた図3のグラフの縦軸にあたる距離Zを、画像
上で先行車Cを発見したときに求めた先行車Cの高さh
と一定時間Δt毎に求めた先行車Cの画像上での高さy
wとを式(3)に代入して求めてプロットし、これらの
プロットした点列の最小二乗誤差をとる直線の傾きaを
算出することで第2の相対速度V2を求めることができ
る。このようにして、先行車Cの画面上での大きさの時
間的変化をもとに第2の相対速度V2を求めることがで
きる。
【0025】次に、ステレオカメラの軸ずれは、上記異
なる手法で求めた2つの相対速度V1、V2を用いて次
の原理により判断する。軸ずれの確認は、ある一定時間
だけ同じ先行車Cを追従しているときに行う。同じ先行
車Cを追従している場合、相対速度を正しく求めること
ができていれば、上記2つの方法で求めた相対速度V
1,V2は同じはずである。ここで、ステレオカメラを
構成する2台のカメラ1、2の光軸1b、2bが平行で
軸ずれのない状態から、カメラ2の光軸2bが傾いた軸
ずれのある状態に変わったものとする。
【0026】図6の(a)は、軸ずれがない状態で先行
車Cを撮像している状態を示し、図7の(a)はそのと
き得られるステレオ画像(下側にある画像Aと上側にあ
る画像B)を示す。また、図6の(b)は、カメラ2の
光軸2bが傾いた状態で先行車Cを撮像している状態を
示し、図7の(b)はそのとき得られるステレオ画像を
示す説明図である。図6及び図7からわかるように、カ
メラ1、2の一方の軸がずれると先行車Cが撮像される
位置がずれるため、ここでは図7の(b)に示す画像B
上でのマッチング位置の座標yb´が、両光軸1b、2
bが平行なときのマッチング位置の座標yb(図7の
(a)参照)とは異なる位置になる。このため、式
(1)より、(ya−yb)の値をもとに求める距離Z
は誤った値となる。つまり、ステレオカメラの軸がずれ
ると、距離Zが正確でなくなるため、この距離をもとに
求めた第1の相対速度V1も正確な値ではなくなる。
【0027】次に、距離値がどのように誤算出されるか
を具体的に求めてみる。図8は、カメラ2の光軸2bが
角度θだけ傾いた状態を示す。 光軸2bが角度θだけ
傾くと、その傾きがないときには座標ybのマッチング
位置に撮像されるべきエッジ(先行車Cのリヤ側上縁
部)が、yb´=(yb/cosθ)+f×tanθで
表される座標yb´付近の位置に撮像される。つまり、
その座標yb´のエッジを用いて求めた距離Z´は、上
記式(1)のybにyb´を代入して、下記の式(4)
で表わされる。 Z´=f×D/{((yb/cosθ)+f×tanθ)−ya} (4) このため、ステレオカメラの軸がずれた状態で計測した
第1の相対速度V1は、常に、ybが((yb/cos
θ)+f×tanθ)に近い値に誤認識されて求められ
た誤った距離Z´をもとに算出されることになる。
【0028】一方、先行車Cの画像上での大きさの時間
的変化をもとに第2の相対速度V2を求める場合を、図
9に基づいて考えてみる。同図の(a)は、光軸1bが
傾いていないカメラ1で先行車Cを撮像している状態、
(b)は光軸が傾いたカメラで先行車Cを撮像している
状態を示す。前述のように、先行車Cの画像上での大き
さの時間的変化を求める場合は、2台のカメラ1、2の
うち、どちらか一方を用いればよい。仮に、図9の
(a)で示すように光軸の傾いていない方のカメラ1を
用いて第2の相対速度V2を求める場合、先行車Cの画
像上での大きさ(ここでは高さ)ywは正しく求められ
る。
【0029】ところが、ステレオカメラの軸ずれによ
り、式(4)で表わされるような誤った距離Z´をもと
に求めた先行車の高さh´を用いて距離Zを式(3)に
より算出することになる。そのため、正確な先行車の高
さをhとすると、距離Zが必ずh´/h倍される。した
がって、図3のグラフと同様にプロットした点列の最小
二乗誤差をとる直線の傾きである第2の相対速度V2
も、正確な相対速度のh´/h倍された値となる。
【0030】また、図9の(b)で示すように光軸が傾
いた方のカメラを用いて第2の相対速度V2を求める場
合は、先行車Cの画像上での大きさは、本来ywである
ところが、常に1/cosθ倍されてyw/cosθに
なる。そのため、その値yw/cosθと、誤った距離
Z´をもとに求められた先行車Cの大きさh´とをもと
に距離Zが式(3)により算出される。すなわち、距離
Zは、常に正確な値の(h´×cosθ)/h倍された
値として求められる。そのため、第2の相対速度V2も
正確な相対速度の(h´×cosθ)/h倍された値と
して算出される。このように、光軸の傾いていない方の
カメラを用いて相対速度V2を求める場合と光軸が傾い
たカメラを用いて相対速度V2を求める場合のいずれに
よっても相対速度V2を正しく求めることはできなくな
る。
【0031】ところで、先行車Cの画像上での大きさの
時間的変化をもとに求める第2の相対速度V2は、距離
Zが必ずある一定倍された値をもとに求められる。これ
に対し、ステレオ画像処理で求められる距離Zは、前記
一定倍とは異なる割合で求められる。すなわち、一方の
カメラの軸が角度θ傾いた場合であれば、式(1)の分
母のya、ybのうちのどちらか一方が1/cosθ倍
され、かつその分母にf×tanθが加算されている。
【0032】このため、距離Zの時間的変化をもとに求
める第1の相対速度V1は、先行車Cの画像上での大き
さの時間的変化をもとに求める第2の相対速度V2とは
異なる値となる。つまり、ステレオカメラの軸ずれがお
きると、相対速度V1、V2に差異が生じる。本発明
は、この原理を用いることにより、2つの異なる手法で
求めた相対速度V1、V2を比較して、軸ずれの判断を
行う。
【0033】次に、本発明の具体的実施例について説明
する。図10は、車両に搭載され先行車との車間距離を
計測する距離計測装置に適用した第1の実施例の構成を
示すブロック図である。2台のカメラ1、2がステレオ
カメラを構成し、それぞれ、同一の焦点距離fを有する
レンズL1、L2と、各レンズから撮像面までの距離が
焦点距離fとなるように配置されたCCD1a、2aと
を有するCCDカメラからなる。カメラ1、2は、前方
を撮影するのに適した車両上の所定の部位に取り付けら
れている。カメラ1、2は、先の図1に示すように、C
CD1a、2aの各撮像面が同一垂直面内に位置し、各
撮像面の垂直基準軸(YA 軸、YB 軸)が一致し、レン
ズL1、L2の光軸1b、2bが水平かつ互いに平行と
なり、かつ所定の眼間距離Dをもって上下に並べて配置
されている。
【0034】カメラ1、2は、それぞれが撮像して出力
する映像信号をデジタル画像(図7に示す画像A、B)
として一時的に記憶する画像メモリ3、4に接続されて
いる。そして、画像メモリ3にはその記憶されたデジタ
ル画像(以下、単に画像という)Aから先行車Cを検出
する先行車検出部5が接続されるとともに、さらに画像
メモリ3と4には記憶された画像A、Bに基づき、両画
像A、Bの一方内において先行車Cが検出された画像領
域と最も類似した画像領域が存在する位置(マッチング
位置)をその他方の画像内から探すマッチング位置検出
部6が接続されている。
【0035】マッチング位置検出部6には車間距離算出
部7が接続され、両画像A、B内のマッチング位置と2
台のカメラ1、2の焦点距離f、眼間距離Dなどの位置
関係データをもとに、先行車Cまでの距離を求める。こ
の車間距離算出部7で連続して一定時間Δt毎に求めら
れた過去数回分の距離データは車間距離保管部8に保管
される。そして、車間距離保管部8に接続された第1の
相対速度算出部9において、過去数回分の距離データを
もとに先行車Cと自車との相対速度(第1の相対速度)
V1を求めるようになっている。
【0036】さらに、画像メモリ3と先行車検出部5に
は画像上の大きさ検出部10が接続され、画像Aと先行
車Cの検出結果とに基づいて、先行車Cの画像上での大
きさを算出する。この画像上の大きさ検出部10で連続
してたとえば一定時間Δt毎に求めた先行車Cの画像上
での大きさは、大きさ保管部12に保管される。また、
車間距離算出部7と画像上の大きさ検出部10とに接続
されて、先行車の実際の大きさ算出部11が設けられ、
車間距離算出部7で求めた距離データと画像上の大きさ
検出部10で検出した先行車Cの画像上での大きさとに
基づいて、先行車Cの実際の大きさを算出する。
【0037】先行車の実際の大きさ算出部11と大きさ
保管部12とは第2の相対速度算出部13に接続され、
ここで先行車Cの実際の大きさと連続して求めた先行車
Cの画像上での大きさ(の時間的変化)をもとに第2の
相対速度V2が求められる。そして、ステレオカメラを
構成するカメラ1、2の軸ずれを判断する軸ずれ判断部
14が、第1の相対速度算出部9と第2の相対速度算出
部13とに接続されている。
【0038】このような構成を有する距離計測装置は、
2台のカメラ1、2を用いて先行車Cを追従し、カメラ
1、2から出力される画像A、Bからなるステレオ画像
を処理して求めた距離の時間的変化をもとに求めた第1
の相対速度V1と、先行車Cの画像上での大きさの時間
的変化をもとに求めた第2の相対速度V2とを比較する
ことで、ステレオカメラの軸ずれを判断し、軸ずれ分の
補正を行いながら、車間距離計測処理を行う。
【0039】次に、本実施例に係る距離計測装置の処理
動作を、図11、図12のフローチャートにより説明す
る。まず、ステップ100で、初期設定を行って先行車
Cの追従回数NUMを0にする。次のステップ101
で、ステレオ画像、すなわちカメラ1、2からそれぞれ
出力される画像A、Bを画像メモリ3、4にそれぞれ入
力して記憶する。ステップ102では、先行車検出部5
がこの記憶したステレオ画像が1回目のもの、すなわち
追従回数NUMが0であるかどうかをチェックして、N
UM=0のときは、ステップ103において、両画像
A、Bのどちらか一方(本実施例では画像メモリ3に記
憶された画像A)を用いて先行車Cの位置検出処理を行
う。ここでは、画像内において図13に示すように走行
路の2本の白線30、31を検出し、あるしきい値以上
の強度と長さを有して両白線の間に挟まれる横エッジを
画像の下から上へ向けて探索し、この条件を満たす横エ
ッジを先行車の一部であるとみなす。
【0040】先行車検出部5では、こうして先行車を発
見した場合、画像A内におけるその発見位置に所定の大
きさのウインドウ40を設定し、これをテンプレートと
して保存する。ウインドウ40は、図14の(a)に示
すように、始点を(Xa,Ya)として、X軸方向の幅
をxw、Y軸方向の幅をywとする。
【0041】ステップ104で、上記処理の結果先行車
を発見したかどうかをチェックする。先行車を発見した
場合はステップ105に進む。また、上記の条件を満た
す横エッジを見つけることができなかったときは、自車
の走行レーン上には先行車がないものとみなし、ステッ
プ101に戻って同じ処理を繰り返す。
【0042】次にステップ105では、マッチング位置
検出部6において、ウインドウ40のテンプレートを用
いて画像A、B間の互いに対応するマッチング位置y
a,ybを求める。マッチング位置ya,ybは、ウイ
ンドウ40をテンプレートとして、画像Bからテンプレ
ートの画像と最も類似度の高い位置を式(5)を用いた
正規化相関法により求め、始点yaに対応する画像Bに
おけるマッチング位置ybとする。なお、式(5)にお
いて、テンプレートの画像の各画素の輝度値をAij、
画像Bの各画素の輝度値をBijとする。
【数1】
【0043】図14は、上記正規化相関法による画像
A、B間のマッチングの考え方を簡単に示す説明図であ
る。ここでは2台のカメラ1、2をそれぞれのY軸が同
一線上にのるように配置してあるので、画像B内におい
て、画像Aのテンプレート(ウインドウ40)と同じX
座標の位置で、探索位置をY軸方向に順次ずらした複数
の位置検出対象画像を求める。そして、図14の(b)
に取り出して示すテンプレートと(c)に示す画像Bか
ら取り出した(d1)から(d3)に示す各位置検出対
象画像との比較から、類似度の最も高い位置検出対象画
像を求めることとなる。図中、(d1)はテンプレート
のY軸位置より上方の位置検出対象画像、(d3)はテ
ンプレートより下方の位置検出対象画像、そして(d
2)はテンプレートと同位置で類似度最大の位置検出対
象画像を示している。
【0044】このあと、ステップ106において、車間
距離算出部7で先行車Cまでの距離Zを求める。距離
は、先の図1に示した原理に従い、画像A、B内のマッ
チング位置ya、ybを前述の式(1)に代入して求め
る。このようにして、入力した画像A、Bに基づいてス
テップ106で先行車までの距離が求められると、ステ
ップ107に進んで当該距離データが車間距離保管部8
に記憶、保管される。
【0045】この間、先行車検出部5による画像A上で
の先行車の位置検出にあたっては、今回の検出対象車が
前回と同じ車であるか否かを判断する必要がある。その
ため、1度先行車を発見した後、すなわちNUMが0で
はないときには、ステップ102から108へ進んで、
前回発見した先行車を検出対象として、その先行車の画
像上の位置を次の入力画像上で探し、割り込み車が来る
までは同一車両を追従するようにする。
【0046】次に、この追従方法について説明する。前
述のように、一度先行車を発見したときは、その先行車
位置に切ったウインドウをテンプレートとして保存して
ある。図15の(a)は前回入力した画像Aを示し、
(b)はそれから切り出して保存されたテンプレートを
示している。その次に入力した(c)に示す新たな画像
Aにおける先行車位置検出は、上記保存されたテンプレ
ートと最も類似度の高い位置を探すことにより行われ
る。類似度は、ステップ105で画像A、B間のマッチ
ングに用いた手法と同様に、正規化相関法を用いること
ができる。すなわち、テンプレートの各画素の輝度値を
Tij,新たに入力した画像Aから抜き出した(d1)
〜(d3)に示す複数の位置検出対象画像の各画素の輝
度値をAijとすると、互いの画像の類似度は式(6)
より算出することができる。
【数2】
【0047】新たに入力した画像A上において位置をず
らしながら、前回入力した画像Aから作成したテンプレ
ートに対し、式(6)で表わされる類似度の最も高い画
像が存在する位置を探して、その位置を先行車位置とす
る。 図15中、(d2)の位置検出対象画像がテンプ
レートに対し最も高い類似度を示し、(d1)は(c)
に示す新たな画像Aにおいて(d2)よりも左上にずれ
た位置画像、(d3)は(d2)よりも右下にずれた位
置画像を示している。
【0048】なお、新たに入力した画像Aにおいて先行
車位置を検出した後は、そのまた次に入力する画像Aで
の先行車位置検出用として検出位置で切ったウインドウ
内の画像を新たなテンプレートとして保存する。これに
より、画像上の先行車位置検出のために用いるテンプレ
ートは、常時更新されていく。このようにテンプレート
を毎回更新することで、先行車が遠ざかったり近づいた
りして大きさが変わる場合にも、正規化相関法によるマ
ッチングで先行車に追従する。
【0049】一方、式(6)から求める類似度の最大値
が所定のしきい値以下になったとき、あるいは先行車位
置が画像の左右の端に来たときには、追従中の先行車と
自車との間に割り込み車が入ったか、先行車を見失った
ものと判断する。ステップ109では、上記追従結果を
チェックし、追従して先行車位置を検出しているときは
ステップ106へ進む。また、割り込み車が入ったり、
先行車を見失ったときは、ステップ110で、追従回数
をNUM=0にリセットしたあと、ステップ101へ戻
り、再び、2本の白線を用いての先行車発見処理によっ
て新たな先行車を発見する処理で画像上の先行車位置を
検出し直す。
【0050】ステップ107の次のステップ111で
は、画像上の大きさ検出部10において、先行車の画像
上での大きさを検出する。ステレオ画像2枚のうちどち
らか一方を用いて求めればよいから、ここでは図16の
(a)に示すように、画像Aにおける先行車の屋根に対
応する上端エッジ(yt)とその車体下面に対応する下
端エッジ(ys)との間の長さywを求めて先行車の画
像上での大きさとする。
【0051】ここでは、先のステップ103で求められ
た先行車位置において、画像A内に上下のエッジ検出用
のウインドウを切る。そのウインドウは画像上の先行車
全体を含むようにするため、図16の(a)に示すよう
に、先行車検出用のウインドウより大きくし、位置と大
きさを決めた後、数個に縦方向に分割する。
【0052】この複数の縦長のウインドウにおいて、
(b)に示すように、下から上に向けて、先行車位置検
出と同じ要領で所定のしきい値以上のエッジ強度および
所定のしきい値以上の長さを持つエッジを探して、下端
エッジを検出する。この際のエッジ強度のしきい値は、
先行車発見時に検出したエッジ強度をもとにその値に近
い値として定める。検出したエッジの強度は、ソーベル
オペレータなどを用いてエッジの微分値として求める。
【0053】また、長さのしきい値は、次のような方法
で定める。図17に示すように、先行車Cの幅をW、先
行車の高さをh、先行車の底からカメラの光軸までの高
さをk、カメラから先行車までの距離をZとすると、 xw:W=f:Z yw:h=f:Z yc:k=f:Z の関係が成立する。したがって、先行車の幅xwとy座
標値ycの間には、式(7)の関係が成り立つ。 xw/W=yw/h=yc/k (7)
【0054】先行車の幅Wは通常1.5〜1.8m程度
であるので、エッジを発見したy座標位置をもとに式
(8)より画像上での先行車のだいたいの横幅xwを求
めることができる。 xw=yc×W/k (8) 発見した横エッジがこのxwの値に近い長さであれば、
先行車の下端エッジであると判断する。
【0055】検出したエッジの長さは次のような方法で
求める。先行車の大きさ検出用として切った図16に示
す縦長のウインドウの1つにおいて、エッジ強度がしき
い値以上である水平エッジを検出し、そのエッジのy座
標位置が隣接するウインドウにおいても同じであれば、
同一のエッジであるとみなす。つまり、ウインドウの幅
がxwinのウインドウにおいてS個連続して同じ位置
にエッジが検出されたら、そのエッジの長さはS×xw
inとする。しきい値との比較判断は、S×xwinの
値と式(8)で求めた値との間で行い、互いに近い値で
あれば条件を満たしていると判断する。これらの条件に
合うエッジを下から上に向けて探し、最初に検出された
エッジを先行車の下端エッジとする。
【0056】次に、上端エッジの概略の位置は、下端エ
ッジから上方に下端エッジの長さと同様程度の距離にあ
るものと想定されるので、その付近だけに探索範囲を限
定して、下端エッジが発見されたものと同じウインドウ
において、図16の(c)に示すように、上から下に向
けて、下端エッジの探索と同じ方法で探索する。ただ
し、車両の形状により、上端エッジは下端エッジより短
い場合もあるので、エッジの長さのしきい値は、下端エ
ッジが発見されたウインドウの内、両端を除いた数個の
ウインドウだけでも上端エッジとみなすこととする。な
お、図16中、×印はエッジ長さが短いために選択され
なかったエッジを示し、〇印は合計長さがしきい値付近
で先行車と判断されるエッジを示している。
【0057】このような方法で、下端エッジ位置ysと
上端エッジ位置ytを検出し、(ys−yt)を画像上
での先行車の大きさywとする。このようにして、画像
上での先行車の大きさywが求められると、ステップ1
12に進んで当該大きさデータが大きさ保管部12に記
憶、保管される。
【0058】次にステップ113において、先行車の実
際の大きさ算出部11で、追従する先行車の実際の高さ
hを求める。これは、式(3)の変形式h=Z×yw/
fに先のステップ106で求めた距離Zと画像上での先
行車の大きさywを代入することにより求められる。な
お、先行車の実際の高さhは固定値であるから、先行車
追従の開始時の初回データに基づいて1回だけ求めれば
よい。
【0059】このあと、ステップ114において、追従
回数(保管データ数)NUMを1だけ加算する。ステッ
プ115では、NUMが所定値に達したかどうかをチェ
ックする。NUMが所定値に達していないときは、ステ
ップ101へ戻る。これにより、一定時間Δt毎に連続
して繰り返し、先行車までの距離が求められるととも
に、先行車の画像上の大きさが求められ、それぞれが逐
次記憶、保管される。
【0060】NUMが所定値に達すると、ステップ11
5から116へ進み、第1の相対速度算出部9におい
て、距離の変化をもとに先行車と自車間の相対速度V1
を求める。一定時間毎の距離を先の図3のようにグラフ
にプロットし、そのグラフ上の点列の最小二乗誤差直線
の傾きを算出することにより、相対速度V1が求められ
る。
【0061】次いで、ステップ117に進んで、第2の
相対速度算出部13において、画像上の先行車の大きさ
の変化をもととして相対速度V2を求める。ここでは、
同じ先行車に追従している間、処理時間間隔Δt毎に求
めたywを用いて、式(3)により算出した距離Zにつ
いて、先の図3に示すようなグラフの最小二乗誤差直線
の傾きとして相対速度V2を求める。
【0062】以上により、距離の変化をもとにした相対
速度V1と先行車の大きさの変化をもとにした相対速度
V2が求められると、次にステップ118において、軸
ずれ判断部14で軸ずれの有無の判断を行う。ここで
は、各速度V1,V2の差が所定のしきい値より大きい
かどうかをチェックし、その差がしきい値以上となれば
軸ずれが発生しているものとする。軸ずれが発生してい
なければ、ステップ101に戻り、上記のフローを繰り
返し、先行車との距離計測を継続する。一方、軸ずれが
発生している場合には、ステップ119に進んで、距離
計測を停止するなどの対応措置をとる。
【0063】本実施例は以上のように構成され、ステレ
オ画像処理による車間距離計測においてステレオ画像処
理で求めた先行車までの距離の時間的変化から相対速度
V1を求めるとともに、画像上の先行車の大きさの時間
的変化から相対速度V2を求め、これら2つの相対速度
を比較することにより、ステレオカメラの軸ずれを判断
するようにしたので、従来のような取付け位置認識マー
クによって対象物の検出が不能になったり、運転者の視
界を妨げるような不都合なく軸ずれを検出することがで
きるとともに、微妙な軸ずれも確実に検出できる。さら
に、本実施例では車間距離計測を行うとともに、相対速
度も算出されるという効果を有している。
【0064】次に、本発明の第2の実施例について説明
する。これは、画像上の先行車位置の検出に際して、画
像全体を所定の大きさのブロック毎に区切り、ブロック
毎に求めた距離をもとに、最も近い距離が求められたブ
ロックの固まりを先行車とするものである。図18は本
実施例の構成を示す図である。図10の第1の実施例に
おける先行車検出部5、マッチング位置検出部6および
車間距離算出部7のかわりに、それぞれブロック毎エッ
ジ検出部15、ブロック毎マッチング位置検出部16お
よびブロック毎距離算出部17が設けられている。そし
て、先行車位置・大きさ・距離判断部20がブロック毎
距離算出部17、先行車の実際の大きさ算出部11およ
び車間距離保管部8に接続されている。さらに、先行車
位置・大きさ・距離判断部20は、画像上の大きさ検出
部10を廃して直接大きさ保管部12’に接続されてい
る。
【0065】まず、上記構成における先行車位置の検出
とブロック数の時間的変化をもととした第1の相対速度
V1の求め方について説明する。まず、ブロック毎エッ
ジ検出部15では、図19に示すように、画像A内の空
の領域を除いた部分をxbk×ybkを単位とする複数
ブロックに区切る。そして、各ブロック内で横エッジを
検出する。
【0066】ブロック毎マッチング位置検出部16で
は、画像Aにおいて定義した個々のブロックをテンプレ
ートとして、前実施例での距離計測と同じように正規化
相関法により類似度の最も高いブロックの位置を画像B
内で探し、マッチング位置を検出する。ブロック毎のマ
ッチングに際しては、先行車は横エッジを多く持つた
め、ブロック内に先行車が存在する場合に背景の画像よ
り先行車の横エッジが強調されるように水平微分画像を
用いる。ブロック毎距離算出部17ではこのマッチング
結果を用いて、各ブロック毎に距離を求める。
【0067】こうして、先行車が撮像されている場合に
は、撮像されているそれぞれのブロックまでの距離が求
められるので、このあと、先行車位置・大きさ・距離判
断部20において、全てのブロックのうち最短距離のも
のでかつ隣接するブロックの固まりを先行車候補とし
て、候補の中からブロックの固まりの長さ条件等を用い
て先行車を検出する。したがって、ここで先行車の画像
上の位置と距離と大きさとが同時に求められることにな
る。この先行車の画像上の位置と距離と大きさは、新し
い画像入力に基づく検出毎に更新して先行車位置・大き
さ・距離判断部20内に記憶される。また、距離データ
は車間距離保管部8に記憶、保管される。
【0068】初回の画像入力に基づいて先行車が検出さ
れた次回以降は、前回検出した先行車を検出対象として
追従することになる。この場合、同じ先行車に追従中は
先行車の大きさや距離が急激に変わることはないから、
先行車位置・大きさ・距離判断部20に記憶されている
前回の距離、先行車の画像上の位置およびその大きさの
変化を確認しながら追従する。もし、距離、画像上の位
置および大きさのいずれかにおいて急激に値が変化した
場合には、検出した先行車が入れ替わったものと判断す
る。
【0069】前実施例と同様、同一の先行車に追従して
いる間、先行車までの距離が一定時間Δt毎に所定回数
連続して繰り返し求められ、車間距離保管部に逐次保管
される。そして、第1の相対速度算出部9において、距
離の変化をもとに先行車と自車間の相対速度V1を求め
る。この実施例では、ブロック毎エッジ検出部15、ブ
ロック毎マッチング位置検出部16、ブロック毎距離算
出部17および先行車位置・大きさ・距離判断部20が
一体となって、発明の大きさ・距離判断手段を構成して
いる。
【0070】次に、先行車の大きさの変化をもとにした
相対速度V2の求めかたについて説明する。図19に示
したように各ブロックの大きさを(xbk×ybk)と
した場合、先行車と判断したブロックの固まりの縦の列
の個数がNであれば、先行車の画像上の縦方向の大きさ
は、 ywb=ybk×N (9) であると判断することができる。したがって先行車の画
像上の縦方向の大きさの変化は縦方向のブロック数Nの
変化として求めることができる。
【0071】これに基づき、大きさ保管部12’には先
行車追従中、先行車位置・大きさ・距離判断部20から
一定時間Δt毎に先行車と判断したブロックの固まりの
ブロック数が逐次保管される。そして、第2の相対速度
算出部13’では、上記式(9)によるyw(ywb)
と先行車の実際の大きさhとから前述の式(3)により
算出した距離Zについて、先の図3に示すようなグラフ
の最小二乗誤差直線の傾きとして相対速度V2を求め
る。その他の構成は前実施例と同様である。
【0072】ところで、この実施例において、先行車の
画像上の縦方向の大きさは、ブロックの大きさの単位で
あるybkの倍数という離散的な値として求められる。
しかし、これを用いて求められる相対速度V2は、ステ
レオ画像処理結果の距離をもととして求める相対速度V
1より精度が良く、軸ずれの判断用として十分な信頼性
を備える。一般に、ステレオ画像処理では、2枚の画像
間のマッチングを行い易くするため、検出距離に対して
眼間距離Dを短くすることが求められる。とくに車載ス
テレオカメラによる車間距離計測では、カメラをコンパ
クトに構成することが要求されるため、通常、カメラか
ら先行車までの距離がステレオカメラの眼間距離Dに対
して50〜100倍程度になるように設定されているも
のが多い。
【0073】このように、検出距離が眼間距離に対して
長いと、マッチングは行い易くなるが、一方のカメラの
光軸が他方のカメラの光軸に対してずれたときの検出距
離の誤差が大きいという問題がある。例えば、焦点距離
f=1000画素(1/2inch、25万画素のCC
Dにおいて、f=10mmはf=約1000画素に換算
される)、眼間距離D=0.1mにおいて、20m先の
先行車を認識する場合を考えると、画像上の視差(yb
−ya)は5画素(=1000×0.1/20)とな
る。仮に1画素だけマッチング位置がずれる程度に軸が
ずれて視差が4画素になったとすると、本来距離20m
のところが距離25m(=1000×0.1/4)とし
て求められる。
【0074】一方、先行車の画像上での大きさは、仮に
先行車の高さを1mとし、前述と同じようにf=100
0画素のカメラを用いて20m先にある先行車を撮像す
ると、式(3)を変形して高さywb=50画素(=1
×1000/20)に撮像される。つまり、画像上の先
行車の高さの認識に1画素程度の誤差ができたとして
も、仮に、先行車の高さhが求められている場合であれ
ば、先行車の大きさから求めている相対速度はほとんど
影響を受けない。
【0075】また、前述の計算より、ステレオ画像処理
で20m先を認識する場合では、画像上での1画素の誤
差は実計測での5mの誤差に相当することがわかる。し
かし、仮に、f=1000画素のカメラを用いて、高さ
1mの先行車を撮像したときの画像上での先行車の大き
さを求めると、25m先では50画素(=1×1000
/25)、20m先では40画素(=1×1000/2
0)に撮像される。したがって、20m先における5m
の誤差が画像上での10画素の誤差に相当することがわ
かる。以上のように、先行車の大きさの変化から求めた
相対速度V2は、ステレオ画像処理結果をもとに求める
相対速度V1より精度が良い。
【0076】本実施例は以上のように構成され、入力画
像を所定の大きさの複数ブロックに区切り、ブロック毎
に求めた距離値をもとに先行車位置と先行車の画像上で
の大きさを求める構成としたので、前実施例と同じ効果
を有するとともに、先行車の位置検出を行うと同時に先
行車までの距離と大きさが求められるので、その後の処
理が短縮化されるという利点がある。なお、この実施例
では先行車の画像上の大きさとして縦方向のブロック数
を用いたが、図19にMで示すように横方向のブロック
の並びの数を用いてその時間的変化から相対速度V2を
求めるものとしてもよい。
【0077】次に、図20は第3の実施例の構成を示
す。これは、図18の第2の実施例における大きさ保管
部12’のかわりに、上下エッジ検出部21とエッジ間
距離保管部22を設け、第2の相対速度算出部13では
エッジ間距離から相対速度V2を求めるようにしたもの
である。先行車位置の検出とブロック数の時間的変化を
もととした第1の相対速度V1の求め方は、第2の実施
例におけると同じである。
【0078】一方、第2の相対速度V2は次のような処
理によって求める。まず、上下エッジ検出部21におい
て、先行車位置・大きさ・距離判断部20で先行車とし
て特定したブロックの固まりから、その最下端と最上段
の列を決定する。そして、図21に示すように、最下端
および最上段の列においてそれぞれ所定のしきい値以上
の強度と長さを持つエッジ位置を検出して、最上段と最
下端のエッジ間の距離yweを画素単位で求め、これを
エッジ間距離保管部22に記憶、保管する。エッジ間の
距離yweは、先行車追従中、先行車位置・大きさ・距
離判断部20で一定時間Δt毎に先行車と判断したブロ
ックの固まりを特定するのに対応して、逐次保管され
る。
【0079】そして、第2の相対速度算出部13では、
上記式(9)によるyw(ywe)と先行車の実際の大
きさhとから前述の式(3)により算出した距離Zにつ
いて、先の図6に示すようなグラフの最小二乗誤差直線
の傾きとして相対速度V2を求める。その他の構成は第
1の実施例と同様である。
【0080】本実施例は以上のように構成され、先行車
の最上段と最下端のエッジ間の距離yweを画素単位で
求め、この時間的変化をもとに相対速度V2を求めるも
のとしたので、前実施例でのブロックの倍数である離散
値を用いた場合に比較して、より一層高精度に相対速度
V2が求められるという利点を有する。
【0081】
【発明の効果】以上のとおり、本発明は、2台のカメラ
を用いたステレオ画像処理による距離計測装置におい
て、画像上で検出した計測対象物についてステレオ画像
処理で求めた当該計測対象物までの距離の時間的変化か
ら第1の相対速度を求めるとともに、いずれかの画像上
の計測対象物の大きさの時間的変化から第2の相対速度
を求め、両者を比較することにより2台のカメラの光軸
のずれを判断するものとしたので、例えば車間距離計測
では運転者の視界を妨げたり対象物と重なってその対象
物の検出を不能にしたりすることのある取付け位置認識
マークを不要としながら軸ずれを検出することができ、
しかも従来困難であった微妙な軸ずれも確実に検出でき
るという効果が得られる。さらに、対象物との距離計測
に加えて、相対速度も併せて求められるという効果もあ
る。
【0082】また、とくに画像上での計測対象物の検出
に際して、第1の画像を複数のブロックに区切り、各ブ
ロック内に撮像されている対象物までの距離を求め、当
該距離のうち最小値の対象物が撮像されているブロック
の固まりを計測対象物が撮像されている領域とすること
により、その最小値を計測対象物までの距離とするとと
もに、同時にブロックの数により画像上の計測対象物の
大きさが求められるという利点が得られる。
【0083】さらに、上記ブロックの固まりにおける互
いに最離間している2つの列からそれぞれエッジを検出
して、このエッジ間のあらためて画像上の計測対象物の
大きさとして用いることにより、第2の相対速度がより
高精度に算出されるので、軸ずれを精度良く検出でき
る。
【図面の簡単な説明】
【図1】ステレオ画像処理による距離算出手法を説明す
るための説明図である。
【図2】画素と焦点距離の関係を示す説明図である。
【図3】距離の変化から相対速度を求める原理を説明す
る図である。
【図4】画像上の大きさと距離の関係の説明図である。
【図5】画像上の大きさと距離の関係の説明図である。
【図6】軸がずれたときの距離計測の様子の説明図であ
る。
【図7】軸ずれの有無による画像の変化を示す図であ
る。
【図8】光軸が傾いたときの結像位置の変化を示す説明
図である。
【図9】光軸が傾いたときの先行車の大きさの変化を示
す説明図である。
【図10】第1の実施例の構成を示すブロック図であ
る。
【図11】実施例における処理の流れを示すフローチャ
ートである。
【図12】実施例における処理の流れを示すフローチャ
ートである。
【図13】画像上での先行車位置の検出法を説明図であ
る。
【図14】正規化相関法によるステレオ画像間でのマッ
チング位置の検出方法を示す説明図である。
【図15】追従時の正規化相関法による位置検出方法を
示す説明図である。
【図16】先行車の画像上での上端位置と下端位置の検
出要領を示す説明図である。
【図17】画像上での先行車の縦横方向の大きさとそれ
が撮像されるy軸方向の位置の関係を示す説明図であ
る。
【図18】第2の実施例を示すブロック図である。
【図19】画像上に区切るブロックを示す図である。
【図20】第3の実施例を示すブロック図である。
【図21】第3の実施例における先行車の画像上での上
端位置と下端位置の検出要領を示す説明図である。
【符号の説明】
1、2 カメラ 1a、2a CCD 1b、2b 光軸 3、4 画像メモリ 5 先行車検出部(対象物検出手段) 6 マッチング位置検出部(マッチング位置探索
手段) 7 車間距離算出部(距離算出手段) 8 車間距離保管部(距離記憶手段) 9 第1の相対速度算出部(第1の相対速度算出
手段) 10 画像上の大きさ検出部(画像上の大きさ検出
手段) 11 先行車の実際の大きさ算出部(実際の大きさ
算出手段) 12、12’ 大きさ保管部(大きさ記憶手段) 13、13’ 第2の相対速度算出部(第2の相対
速度算出手段) 14 軸ずれ判断部(軸ずれ判断手段) 15 ブロック毎エッジ検出部 16 ブロック毎マッチング位置検出部 17 ブロック毎距離算出部 20 先行車位置・大きさ・距離判断部(計測対象
物の大きさ・距離判断手段) 21 上下エッジ検出部(両端エッジ検出手段) 22 エッジ間距離保管部(大きさ記憶手段) L1、L2 レンズ C 先行車 f 焦点距離 D 眼間距離

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】 それぞれの光軸を互いに平行とし所定の
    眼間距離をもって配置された2台のカメラと、所定時間
    間隔毎に該2台のカメラが撮像した映像信号をディジタ
    ルの第1および第2の画像として一時的に記憶する画像
    メモリと、前記第1の画像内で計測対象物を検出する対
    象物検出手段と、第1の画像における前記計測対象物を
    含むウインドウと最も類似したウインドウの位置を第2
    の画像内に探索するマッチング位置探索手段と、前記互
    いに最も類似したウインドウの位置と2台のカメラの位
    置関係をもとに、計測対象物までの距離を求める距離算
    出手段と、前記所定時間間隔毎に連続して求めた複数回
    分の前記計測対象物までの距離を記憶する距離記憶手段
    と、該距離記憶手段に記憶された計測対象物までの距離
    の時間的変化から計測対象物との第1の相対速度を求め
    る第1の相対速度算出手段と、前記第1および第2の画
    像上のいずれかにおける計測対象物の大きさを検出する
    画像上の大きさ検出手段と、前記画像上の計測対象物の
    大きさと該計測対象物までの距離に基づいて当該計測対
    象物の実際の大きさを算出する実際の大きさ算出手段
    と、前記所定時間間隔毎に連続して求めた複数回分の画
    像上の計測対象物の大きさを記憶する大きさ記憶手段
    と、前記計測対象物の実際の大きさと大きさ記憶手段に
    記憶された画像上の計測対象物の大きさの時間的変化と
    をもとに計測対象物との第2の相対速度を求める第2の
    相対速度算出手段と、前記第1の相対速度と第2の相対
    速度の比較に基づいて前記2台のカメラの光軸のずれを
    判断する軸ずれ判断手段とを有することを特徴とする距
    離計測装置。
  2. 【請求項2】 前記画像上の大きさ検出手段は、計測対
    象物の大きさを画素単位で検出するものであることを特
    徴とする請求項1記載の距離計測装置。
  3. 【請求項3】 それぞれの光軸を互いに平行とし所定の
    眼間距離をもって配置された2台のカメラと、所定時間
    間隔毎に該2台のカメラが撮像した映像信号をディジタ
    ルの第1および第2の画像として一時的に記憶する画像
    メモリと、前記第1の画像を同一サイズの複数のブロッ
    クに区切り、各ブロック内に撮像されている対象物まで
    の距離を求め、当該距離のうち最小値の対象物が撮像さ
    れているブロックの固まりを計測対象物が撮像されてい
    る領域として、前記最小値を計測対象物までの距離とす
    るとともに、画像上の計測対象物の大きさをブロック単
    位で検出する計測対象物の大きさ・距離判断手段と、前
    記所定時間間隔毎に連続して求めた複数回分の前記計測
    対象物までの距離を記憶する距離記憶手段と、該距離記
    憶手段に記憶された計測対象物までの距離の時間的変化
    から計測対象物との第1の相対速度を求める第1の相対
    速度算出手段と、前記画像上の計測対象物の大きさと該
    計測対象物までの距離に基づいて当該計測対象物の実際
    の大きさを算出する実際の大きさ算出手段と、前記所定
    時間間隔毎に連続して求めた複数回分の画像上の計測対
    象物の大きさを記憶する大きさ記憶手段と、前記計測対
    象物の実際の大きさと大きさ記憶手段に記憶された画像
    上の計測対象物の大きさの時間的変化とをもとに計測対
    象物との第2の相対速度を求める第2の相対速度算出手
    段と、前記第1の相対速度と第2の相対速度の比較に基
    づいて前記2台のカメラの光軸のずれを判断する軸ずれ
    判断手段とを有することを特徴とする距離計測装置。
  4. 【請求項4】 前記計測対象物の大きさ・距離判断手段
    は、前記複数の各ブロック内でエッジを検出するブロッ
    ク毎エッジ検出部と、第1の画像における前記エッジを
    含むブロックと最も類似したブロックの位置を第2の画
    像内に探索するブロック毎マッチング位置検出部と、前
    記互いに最も類似したブロックの位置と2台のカメラの
    位置関係をもとに、ブロック毎に検出されたエッジまで
    の距離を求めるブロック毎距離算出部と、全てのブロッ
    クのうち距離が最小値のエッジを含みかつ隣接するブロ
    ックの固まりを計測対象物の領域として、最小値を計測
    対象物までの距離とするとともに、前記ブロックの固ま
    りの大きさを画像上の計測対象物の大きさとする位置・
    大きさ・距離判断部とからなることを特徴とする請求項
    3記載の距離計測装置。
  5. 【請求項5】 前記計測対象物の大きさ・距離判断手段
    と大きさ記憶手段の間に、前記ブロックの固まりの所定
    方向において互いに最離間している2つの列内からそれ
    ぞれエッジを検出する両端エッジ検出手段が設けられ、
    前記大きさ記憶手段には、両端エッジ検出手段で検出さ
    れたエッジ間の距離が画像上の計測対象物の大きさとし
    て記憶されることを特徴とする請求項3または4記載の
    距離計測装置。
JP08881197A 1997-03-24 1997-03-24 距離計測装置 Expired - Fee Related JP3384278B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP08881197A JP3384278B2 (ja) 1997-03-24 1997-03-24 距離計測装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP08881197A JP3384278B2 (ja) 1997-03-24 1997-03-24 距離計測装置

Publications (2)

Publication Number Publication Date
JPH10267618A true JPH10267618A (ja) 1998-10-09
JP3384278B2 JP3384278B2 (ja) 2003-03-10

Family

ID=13953289

Family Applications (1)

Application Number Title Priority Date Filing Date
JP08881197A Expired - Fee Related JP3384278B2 (ja) 1997-03-24 1997-03-24 距離計測装置

Country Status (1)

Country Link
JP (1) JP3384278B2 (ja)

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000337870A (ja) * 1999-05-27 2000-12-08 Honda Motor Co Ltd 物体判定装置
JP2001116512A (ja) * 1999-10-20 2001-04-27 Matsushita Electric Ind Co Ltd 車間距離測定方法および車間距離測定装置
US6990216B2 (en) 2000-09-22 2006-01-24 Nissan Motor Co., Ltd. Method and apparatus for estimating inter-vehicle distance using radar and camera
JP2007255978A (ja) * 2006-03-22 2007-10-04 Nissan Motor Co Ltd 物体検出方法および物体検出装置
JP2008286863A (ja) * 2007-05-15 2008-11-27 Pioneer Electronic Corp 撮影方向判定装置及び撮影方向判定プログラム
JP2009008539A (ja) * 2007-06-28 2009-01-15 Fuji Heavy Ind Ltd ステレオ画像処理装置
JP2009110173A (ja) * 2007-10-29 2009-05-21 Fuji Heavy Ind Ltd 物体検出装置
JP2009282928A (ja) * 2008-05-26 2009-12-03 Topcon Corp エッジ抽出装置、測量機、およびプログラム
JP2010139275A (ja) * 2008-12-09 2010-06-24 Ricoh Co Ltd 車両用複眼距離測定装置及び複眼距離測定方法
JP2014202540A (ja) * 2013-04-02 2014-10-27 富士通株式会社 位置算出システム、位置算出プログラム、および、位置算出方法
JP2015082192A (ja) * 2013-10-22 2015-04-27 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
JP2019066326A (ja) * 2017-09-29 2019-04-25 株式会社デンソー 車両の周辺監視装置と周辺監視方法
EP3605015A4 (en) * 2017-03-24 2021-03-24 Hitachi Automotive Systems, Ltd. Stereo image processing device

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61217767A (ja) * 1985-03-22 1986-09-27 Sumitomo Electric Ind Ltd 速度計測方法
JPH04236700A (ja) * 1991-01-19 1992-08-25 Mazda Motor Corp 自動車の確認装置
JPH05265547A (ja) * 1992-03-23 1993-10-15 Fuji Heavy Ind Ltd 車輌用車外監視装置
JPH07120555A (ja) * 1993-10-22 1995-05-12 Nissan Motor Co Ltd 車両用環境認識装置
JPH07120255A (ja) * 1993-10-27 1995-05-12 Fuji Heavy Ind Ltd 車輌用距離検出装置
JPH0816999A (ja) * 1994-07-05 1996-01-19 Hitachi Ltd 撮像装置を用いた環境認識装置,撮像装置を備えた車両,車両用の撮像装置,撮像装置を用いた車両用の環境認識装置、及び撮像データから環境を認識する方法
JPH10222665A (ja) * 1997-01-31 1998-08-21 Fujitsu Ten Ltd 画像認識装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS61217767A (ja) * 1985-03-22 1986-09-27 Sumitomo Electric Ind Ltd 速度計測方法
JPH04236700A (ja) * 1991-01-19 1992-08-25 Mazda Motor Corp 自動車の確認装置
JPH05265547A (ja) * 1992-03-23 1993-10-15 Fuji Heavy Ind Ltd 車輌用車外監視装置
JPH07120555A (ja) * 1993-10-22 1995-05-12 Nissan Motor Co Ltd 車両用環境認識装置
JPH07120255A (ja) * 1993-10-27 1995-05-12 Fuji Heavy Ind Ltd 車輌用距離検出装置
JPH0816999A (ja) * 1994-07-05 1996-01-19 Hitachi Ltd 撮像装置を用いた環境認識装置,撮像装置を備えた車両,車両用の撮像装置,撮像装置を用いた車両用の環境認識装置、及び撮像データから環境を認識する方法
JPH10222665A (ja) * 1997-01-31 1998-08-21 Fujitsu Ten Ltd 画像認識装置

Cited By (16)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000337870A (ja) * 1999-05-27 2000-12-08 Honda Motor Co Ltd 物体判定装置
JP2001116512A (ja) * 1999-10-20 2001-04-27 Matsushita Electric Ind Co Ltd 車間距離測定方法および車間距離測定装置
US6990216B2 (en) 2000-09-22 2006-01-24 Nissan Motor Co., Ltd. Method and apparatus for estimating inter-vehicle distance using radar and camera
JP2007255978A (ja) * 2006-03-22 2007-10-04 Nissan Motor Co Ltd 物体検出方法および物体検出装置
JP2008286863A (ja) * 2007-05-15 2008-11-27 Pioneer Electronic Corp 撮影方向判定装置及び撮影方向判定プログラム
JP2009008539A (ja) * 2007-06-28 2009-01-15 Fuji Heavy Ind Ltd ステレオ画像処理装置
DE102008030555B4 (de) * 2007-06-28 2014-10-09 Fuji Jukogyo K.K. Vorrichtung zur Verarbeitung von Stereobildern
JP2009110173A (ja) * 2007-10-29 2009-05-21 Fuji Heavy Ind Ltd 物体検出装置
WO2009145336A1 (ja) * 2008-05-26 2009-12-03 株式会社トプコン エッジ抽出装置、測量機、およびプログラム
US8600170B2 (en) 2008-05-26 2013-12-03 Kabushiki Kaisha Topcon Edge extraction apparatus, surveying equipment, and program
JP2009282928A (ja) * 2008-05-26 2009-12-03 Topcon Corp エッジ抽出装置、測量機、およびプログラム
JP2010139275A (ja) * 2008-12-09 2010-06-24 Ricoh Co Ltd 車両用複眼距離測定装置及び複眼距離測定方法
JP2014202540A (ja) * 2013-04-02 2014-10-27 富士通株式会社 位置算出システム、位置算出プログラム、および、位置算出方法
JP2015082192A (ja) * 2013-10-22 2015-04-27 富士通株式会社 画像処理装置、画像処理方法および画像処理プログラム
EP3605015A4 (en) * 2017-03-24 2021-03-24 Hitachi Automotive Systems, Ltd. Stereo image processing device
JP2019066326A (ja) * 2017-09-29 2019-04-25 株式会社デンソー 車両の周辺監視装置と周辺監視方法

Also Published As

Publication number Publication date
JP3384278B2 (ja) 2003-03-10

Similar Documents

Publication Publication Date Title
US6744380B2 (en) Apparatus for monitoring area adjacent to vehicle
EP3057063B1 (en) Object detection device and vehicle using same
KR100435650B1 (ko) 카메라가 장착된 차량의 도로정보 추출 및 차간거리 탐지방법
US7376247B2 (en) Target detection system using radar and image processing
JP2001091217A (ja) 物体認識装置
JP2000357233A (ja) 物体認識装置
JP2000059764A (ja) 車両の位置検出装置
US10235579B2 (en) Vanishing point correction apparatus and method
JP6708730B2 (ja) 移動体
JP2002197469A (ja) 車線検出装置
JP3384278B2 (ja) 距離計測装置
US11468691B2 (en) Traveling lane recognition apparatus and traveling lane recognition method
JP2005329779A (ja) 障害物認識方法及び障害物認識装置
US7221789B2 (en) Method for processing an image captured by a camera
JPH08156723A (ja) 車両用障害物検出装置
US6697146B2 (en) Range finder for finding range by image realization
JPH07119606B2 (ja) 追尾式車間距離検出装置
JPH07244717A (ja) 車両用走行環境認識装置
JP3757500B2 (ja) 先行車追従装置
JP2000259997A (ja) 先行車の高さおよび車間距離計測装置
JP3063481B2 (ja) 車両用物体検出装置
US11010625B2 (en) Vehicle exterior environment recognition apparatus and method of recognizing exterior environment outside vehicle
JP2000337870A (ja) 物体判定装置
JP7134780B2 (ja) ステレオカメラ装置
JPH09325026A (ja) 前方道路の勾配検出方法及び勾配角検出方法

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20021126

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071227

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081227

Year of fee payment: 6

LAPS Cancellation because of no payment of annual fees