JPH05114099A - 車輌用距離検出装置 - Google Patents
車輌用距離検出装置Info
- Publication number
- JPH05114099A JPH05114099A JP3274315A JP27431591A JPH05114099A JP H05114099 A JPH05114099 A JP H05114099A JP 3274315 A JP3274315 A JP 3274315A JP 27431591 A JP27431591 A JP 27431591A JP H05114099 A JPH05114099 A JP H05114099A
- Authority
- JP
- Japan
- Prior art keywords
- image
- distance
- images
- vehicle
- register
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- B—PERFORMING OPERATIONS; TRANSPORTING
- B60—VEHICLES IN GENERAL
- B60Q—ARRANGEMENT OF SIGNALLING OR LIGHTING DEVICES, THE MOUNTING OR SUPPORTING THEREOF OR CIRCUITS THEREFOR, FOR VEHICLES IN GENERAL
- B60Q9/00—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling
- B60Q9/008—Arrangement or adaptation of signal devices not provided for in one of main groups B60Q1/00 - B60Q7/00, e.g. haptic signalling for anti-collision purposes
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01C—MEASURING DISTANCES, LEVELS OR BEARINGS; SURVEYING; NAVIGATION; GYROSCOPIC INSTRUMENTS; PHOTOGRAMMETRY OR VIDEOGRAMMETRY
- G01C11/00—Photogrammetry or videogrammetry, e.g. stereogrammetry; Photographic surveying
- G01C11/04—Interpretation of pictures
- G01C11/06—Interpretation of pictures by comparison of two or more pictures of the same area
-
- G—PHYSICS
- G01—MEASURING; TESTING
- G01S—RADIO DIRECTION-FINDING; RADIO NAVIGATION; DETERMINING DISTANCE OR VELOCITY BY USE OF RADIO WAVES; LOCATING OR PRESENCE-DETECTING BY USE OF THE REFLECTION OR RERADIATION OF RADIO WAVES; ANALOGOUS ARRANGEMENTS USING OTHER WAVES
- G01S11/00—Systems for determining distance or velocity not using reflection or reradiation
- G01S11/12—Systems for determining distance or velocity not using reflection or reradiation using electromagnetic waves other than radio waves
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/50—Depth or shape recovery
- G06T7/55—Depth or shape recovery from multiple images
- G06T7/593—Depth or shape recovery from multiple images from stereo images
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/239—Image signal generators using stereoscopic image cameras using two two-dimensional [2D] image sensors having a relative position equal to or related to the interocular distance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/20—Image signal generators
- H04N13/204—Image signal generators using stereoscopic image cameras
- H04N13/243—Image signal generators using stereoscopic image cameras using three or more two-dimensional [2D] image sensors
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2200/00—Indexing scheme for image data processing or generation, in general
- G06T2200/28—Indexing scheme for image data processing or generation, in general involving image processing hardware
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/10—Image acquisition modality
- G06T2207/10004—Still image; Photographic image
- G06T2207/10012—Stereo images
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T2207/00—Indexing scheme for image analysis or image enhancement
- G06T2207/30—Subject of image; Context of image processing
- G06T2207/30248—Vehicle exterior or interior
- G06T2207/30252—Vehicle exterior; Vicinity of vehicle
- G06T2207/30261—Obstacle
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/106—Processing image signals
- H04N13/133—Equalising the characteristics of different image components, e.g. their average brightness or colour balance
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/10—Processing, recording or transmission of stereoscopic or multi-view image signals
- H04N13/189—Recording image signals; Reproducing recorded image signals
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N2013/0074—Stereoscopic image analysis
- H04N2013/0081—Depth or disparity estimation from stereoscopic image signals
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Radar, Positioning & Navigation (AREA)
- Remote Sensing (AREA)
- Mechanical Engineering (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Theoretical Computer Science (AREA)
- Electromagnetism (AREA)
- Measurement Of Optical Distance (AREA)
- Traffic Control Systems (AREA)
- Image Analysis (AREA)
- Image Processing (AREA)
Abstract
なく、しかも高速に、画像全体に渡る距離分布を求め
る。 【構成】 ステレオ光学系10によって車外の設定範囲
内の対象を撮像し、ステレオ画像処理装置20へ入力す
る。ステレオ画像処理装置20では、ステレオ光学系1
0で撮像したアナログ画像を画像変換部30でデジタル
画像に変換し、シティブロック距離計算部40で、画像
変換部30からの画像データに対し、左右画像のずれ量
xを決定するためのシティブロック距離を画素を一つず
つずらしながら次々と計算する。そして、最小・最大値
検出部50で、シティブロック距離の最小値及び最大値
を検出し、ずれ量決定部60で、検出した最小値が左右
小領域の一致を示すものであるか否かをチェックしてず
れ量xを決定し、情報量を低下させることなく、しかも
高速に、画像全体に渡る距離分布情報を出力する。
Description
象を撮像し、この撮像画像から距離を検出する車輌用距
離検出装置に関する。
の車輌は、その利便性と快適性から現代社会においてな
くてはならない存在となっている。そこで、自動車の持
つ優れた点を犠牲にすることなく、自動的に事故を回避
することのできる技術の開発が従来より進められてい
る。
は、走行の障害となる物体を検出することがまず第一に
重要であり、既に、レーダー、超音波、レーザーレーダ
ーなどを用いて障害物を検出する装置が実用化されてい
る。
ながら、その道筋にある障害物を検出し、障害物までの
距離や速度を求める過程は複雑であり、これを実時間で
行なうことはかなりの困難を伴い、上述のレーダー、超
音波、レーザーレーダーなどを用いた装置では、特定の
方向に存在する物体しか検出できない。
が道路上の何処に存在しているのかを知る必要があり、
この点において、これらの装置では十分な情報は得られ
ない欠点がある。また、道路にはカーブなどもあり、カ
ーブに沿って広い範囲の障害物を検出する必要があり、
上述の装置のように特定方向の障害物のみを検出するの
では、不十分である。
等により車外の対象風景を撮像し、この撮像した画像を
画像処理して車輌から対象物までの距離を求める計測技
術が有力な手段として採用されるようになった。
からカメラ位置との関係を用いて対象物までの距離を推
定する技術と、複数のカメラにより、あるいは1つのカ
メラの位置を変えることにより複数の画像を撮像し、三
角測量の原理で対象物までの距離を求める技術とに大別
される。
例えば、白線は白く細長く平面上に存在する等の特徴を
持つ対象物を抽出し、カメラの位置を仮定して距離を求
めるため、処理量も少なくコスト的にも有利である。
は、1台のTVカメラを車内のフロントウインド中央上
部付近に取り付け、これから得られる画像を用いて、画
像中のあるサーベイ・ライン上の輝度分布パターンや、
2次元的な輝度分布パターンから障害物や道路の白線を
検出し、TVカメラの取り付け位置や、方向、視野など
のパラメータから、障害物や白線の3次元位置を推定す
る技術が開示されている。
画像には、周囲の建物や木々などの様々な物体や背景が
写っており、この様な2次元画像の中から、前方車や対
向車、歩行者、電柱、道路の白線などの様々な対象物を
的確に検出することは困難であり、また、道路面に凹凸
がある場合や車輌がピッチングしている場合には、TV
カメラのパラメータから白線や障害物の3次元位置を推
定する際に、3次元位置の推定に大きな誤差を生じる次
点がある。
中の前方風景には多くの類似した物体が存在するため、
2次元画像のみから正しく対象物を抽出できるとは限ら
ず、また、車輌のピッチング、急な坂道等の道路の勾配
如何によっては、カメラ位置の仮定が常に正しいとは言
えず、結局、認識結果が曖昧になるおそれがある。
離を求める技術は、左右画像における同一物体の位置の
相対的なずれから距離を求めるので、正確な距離を求め
ることができる。
には、2台のTVカメラを車輌前方に取り付け、各々の
TVカメラの画像について、2次元的な輝度分布パター
ンから障害物を検出し、次に、2つの画像上における障
害物の位置のずれを求め、三角測量の原理によって障害
物の3次元位置を算出する方法が公開されている。
資料(’89.10.20)には、2台のTVカメラを
車輌前方の左右端に取り付け、まず、各々の画像を空間
微分して明暗変化点のみを抽出し、片方のカメラの画像
の走査を所定時間だけ遅延させてもう一方の画像と重ね
合わせ、2つの画像で一致する部分のうち、白線が持つ
輝度分布パターンの特徴やその幅の値から白線だけを抽
出し、遅延させた時間と三角測量の原理から抽出された
白線までの距離を算出する。そして、このような処理
を、遅延させる時間を連続的に変化させて行なうことに
より、近距離から遠距離までの白線の3次元位置を算出
する技術が提示されている。
4 1990,P54−59)には、2台のカメラを車
輌前方の左右端に取り付け、各々のTVカメラの画像に
ついて2次元ウィンドウ内の輝度分布パターンから白線
を検出し、次に、左右の画像上における白線の位置のず
れを求め、三角測量の原理によって白線の3次元位置を
算出する技術が提示されている。
に、2台のTVカメラを用い、三角測量の原理によって
3次元位置を算出すれば、大きな誤差の発生は防止でき
る。しかしながら、これらの技術によっても、様々な物
体や背景が写っている2次元画像の中から、対象とする
白線や障害物を輝度分布パターンのみによって検出する
のは困難であり、3次元画像を用いることが極めて有利
なものとなるが、左右の画像のマッチングを繰り返して
行わなければならないことから処理量が膨大なものとな
り、処理速度の低下を招く。
値化、エッジ検出、さらには、高度な特徴点の抽出、ウ
ィンドウの設定等、情報量の低下を伴う前処理を行なわ
ざるを得ず、距離が計測されるのは、二値化され得た物
体、エッジ等の特徴点の部分、或いはウィンドウ内のみ
であった。
分をあらかじめ抽出し、その部分の距離を求めるという
ように、情報量の低下を犠牲にして処理速度を高速化し
ており、人や電信柱、白線や道路端等の必要とされる対
象が排除されてしまうおそれがある。
で、撮像した画像から、情報量を低下させることなく、
しかも高速に、画像全体に渡る距離分布を求めることの
できる車輌用距離検出装置を提供することを目的とす
る。
距離検出装置は、車外の設定範囲内の対象に対し、互い
に異なる方向から複数枚の画像を撮像する撮像系を備
え、上記撮像系で撮像した複数枚の画像を処理して画像
全体に渡る距離分布を出力する画像処理手段に、上記撮
像系で撮像した複数枚の画像に対応して、所定の領域毎
に一致度を高速で計算する一致度計算部と、上記一致度
計算部で計算した一致度の最小値に基づいて、上記複数
枚の画像の対応する画素位置のずれ量を上記距離分布に
係わる情報として決定するずれ量決定部とを備えたもの
である。
車外の設定範囲内の対象に対し、互いに異なる方向から
複数枚のアナログ画像を撮像する撮像系を備え、上記撮
像系で撮像した複数枚のアナログ画像を処理して画像全
体に渡る距離分布を出力する画像処理手段に、上記撮像
系で撮像した複数枚のアナログ画像を、所定の輝度階調
を有するデジタル画像に変換する画像変換部と、上記画
像変換部で変換した複数枚のデジタル画像の所定の領域
毎に一致度を高速で計算する一致度計算部と、上記一致
度計算部で計算した一致度の最小値及び最大値を検出す
る最小・最大値検出部と、上記最小・最大値検出部で検
出した一致度の最小値及び最大値に対し、最小値が第1
の規定値以下で、最大値と最小値との差が第2の規定値
以上であり、且つ、上記複数枚のデジタル画像のうちの
所定の画像の微小部分の輝度変化が第3の規定値以上で
ある場合に、上記最小・最大値検出部で検出した一致度
の最小値に基づいて、上記複数枚のデジタル画像の対応
する画素位置のずれ量を上記距離分布に係わる情報とし
て決定するずれ量決定部とを備えたものである。
第2の発明において、上記画像変換部に、上記撮像系で
撮像した画像全体を記憶する低速の画像メモリを備え、
上記一致度計算部に、画像の一部を取り出して記憶する
高速のバッファメモリを備えたものである。
第2の発明において、上記画像変換部に、上記撮像系か
らの出力を補正するデータテーブルを備えたものであ
る。
第1の発明または第2の発明において、上記撮像系を、
固体撮像素子を有する遠距離用の2台のカメラと、固体
撮像素子を有する近距離用の2台のカメラとから構成し
たものである。
して互いに異なる方向から複数枚の画像を撮像し、この
撮像した複数枚の画像に対応して、所定の領域毎に一致
度を高速で計算する。そして、この一致度の最小値に基
づいて、対応する画素位置のずれ量を距離分布に係わる
情報として決定する。
に対して互いに異なる方向から複数枚のアナログ画像を
撮像し、この撮像した複数枚のアナログ画像を所定の輝
度階調を有するデジタル画像に変換し、これらの複数枚
のデジタル画像の所定の領域毎に一致度を高速で計算
し、一致度の最小値及び最大値を検出する。そして、検
出した一致度の最小値及び最大値に対し、最小値が第1
の規定値以下で、最大値と最小値との差が第2の規定値
以上であり、且つ、上記複数枚のデジタル画像のうちの
所定の画像の微小部分の輝度変化が第3の規定値以上で
ある場合に、検出した一致度の最小値に基づいて、上記
複数枚のデジタル画像の対応する画素位置のずれ量を距
離に係わる情報として決定する。
像変換部に備えた低速の画像メモリに撮像した画像全体
を記憶し、一致度計算部に備えた高速のバッファメモリ
に画像の一部を取り出して記憶する。
像系からの出力を画像変換部に備えたデータテーブルに
より補正する。
発明において、固体撮像素子を有する遠距離用の2台の
カメラと、固体撮像素子を有する近距離用の2台のカメ
ラとにより、車外の設定範囲内の対象に対し、互いに異
なる方向から複数枚の画像を撮像する。
する。図面は本発明の一実施例を示し、図1は距離検出
装置の回路ブロック図、図2は距離検出装置の全体構成
図、図3は車輌の正面図、図4は距離検出装置の動作を
示すフローチャート、図5はカメラと被写体との関係を
示す説明図、図6は視野角の説明図、図7は遠距離の上
下視野角を示す説明図、図8は近距離の上下視野角を示
す説明図、図9はシフトレジスタ内の保存順序を示す説
明図、図10はハミング距離計算回路の説明図、図11
は最小値検出回路のブロック図、図12はハミング距離
計算回路の動作を示すタイミングチャート、図13はず
れ量決定部の動作を示すタイミングチャート、図14は
全体の動作を示すタイミングチャートである。
などの車輌であり、この車輌1に、車外の設置範囲内の
対象を撮像して距離を検出する距離検出装置2が搭載さ
れている。この距離検出装置2は、例えば図示しない道
路・障害物認識装置などに接続されて障害物監視装置を
構成し、運転者に対する警告、車体の自動衝突回避等の
動作を行なうようになっている。
の対象を撮像する撮像系としてのステレオ光学系10
と、このステレオ光学系10によって撮像した画像を処
理し、3次元の距離情報を算出する画像処理手段として
のステレオ画像処理装置20とを備えており、このステ
レオ画像処理装置20で算出した3次元距離情報が道路
・障害物認識装置などに取り込まれ、道路形状及び車輌
1に対する障害物が認識される。
合素子(CCD)等の固体撮像素子を用いたカメラによ
り構成され、図3に示すように、遠距離の左右画像用と
しての2台のCCDカメラ11a,11b(代表してC
CDカメラ11と表記する場合もある)が、それぞれ車
室内の天井前方に取り付けられるとともに、近距離の左
右画像用としての2台のCCDカメラ12a,12b
(代表してCCDカメラ12と表記する場合もある)
が、それぞれ、遠距離用のCCDカメラ11a,11b
の内側に取り付けられている。
例えば100m遠方までの距離計測を行なう場合、車室
内のCCDカメラ11、12の取付位置を、例えば、車
輌1のボンネット先端から2mとすると、実際には前方
2mから100mまでの位置を計測できれば良い。
2台のCCDカメラ11a、11bの取付間隔をrとし
て、2台のカメラ11a,11bの設置面から距離Dに
ある点Pを撮影する場合、2台のカメラ11a,11b
の焦点距離を共にfとすると、点Pの像は、それぞれの
カメラについて焦点位置からfだけ離れた投影面に写
る。
る像の位置から左のCCDカメラ11aにおける像の位
置までの距離は、r+xとなり、このxをずれ量とする
と、点Pまでの距離Dは、ずれ量xから以下の式で求め
ることができる。
方の静止物体の距離と相対速度を検出する場合には、ひ
とつの物体に対し複数の画素の距離分布が得られるた
め、それらを平均することにより精度の高い距離が得ら
れるが、最悪の場合を考慮すると、0.3秒の間の走行
距離、約9mで少なくともずれ量xが1画素分変化しな
ければならない。
だけ変化したときの距離の変化量ΔDは、上記(1)式
より導かれる以下の(2)式で表すことができる。
効面積を、ブラック領域を除いて例えば8mm(H)×
6mm(V)とし、CCD素子の1画素の大きさを11
μm×13μmとすると、横方向の画素数は727とな
る。但し、画像を取り込む際の横方向分割数としては、
処理上の扱い易さから512画素とすると、CCD面上
での1画素の長さは8mm/512×1000=15.
6μmとなり、これらの値を上記(2)式に代入してr
・f値を求めると、r・f=173cm2 になる。
素子の実際の距離計測幅とから求められる。この視野角
θは、例えば高速道路における80km/h設計の特例
値である曲率半径230mの道路を走行中、100m先
までを視界に含めることができるものであるとすると、
図6に示すように、視野角θは、r=230,l=10
0として、θ=sin-1(l/r)より、θ=25°が
求められる。
mmであるが、実際に距離を計測できるのは、有効幅から
領域探索する幅を除いたものとなり、視野角、最短検出
距離、処理時間等を総合的に考慮して、探索する幅を例
えば100画素とすると、距離を計測できる幅は6.3
mmとなる。
(2・tan(25/2))=14.2mmとなるが、
この値に近く入手の容易な焦点距離f=16mmのレン
ズを採用すると、2つのカメラの間隔rは、r=173
cm2 /1.6cm=108cmとなる。
より、D=173cm2 /(100×15.6μm)=
11.1mとなり、仮に2mまで測定しようとしても、
x=173cm2 /2m=8650μm=554画素と
なり、1画面の幅を超えてしまうことがわかる。
2a,12bにより、2mの距離でずれ量xが100画
素になるようなr・f値を上記(1)式より計算する
と、r・f=100×15.6μm×2m=31.2c
m2 となる。この近距離用のCCDカメラ12a,12
bで測定可能な最長距離として10画素ずれるときの距
離を考えると、D=31.2cm2 /(10×15.6
μm)=20mとなる。従って、遠距離用のCCDカメ
ラ11a,11bと近距離用のCDカメラ12a,12
bによる測定範囲は、11.1mから20mでオーバー
ラップし、この遠距離用及び近距離用の2組のカメラで
2mから100m遠方まで計測できることがわかる。
る。高さ方向の視野は水平な道路において、遠距離用の
CCDカメラ11a,11bの最短測定距離lmin であ
る11.1mの地点において、地上から例えば1.5m
の高さhupまで視野に入るようにすると、CCDカメラ
11a,11bの取付位置h0 を地上から1.2mとし
て、図7から明かなように、遠距離用では、仰角α=t
an-1(hup−h0 /lmin )=1.5°、伏角β=t
an-1(h0 /lmin )=6.2°になる。
bの焦点距離fが16mmであることと、CCD素子の
縦方向の画素間隔が13μmであることから、1画面の
縦方向の画素数を求めると184画素になり、ピッチン
グの影響を考慮すると200画素となる。
12bの最短測定距離lmin である2.0mの地点にお
いて、地上から1.5mの高さhupまで視野に入るよう
にすると、近距離用のCCDカメラ12a,12bの取
付位置h0 は、遠距離用と同様に地上から1.2mであ
り、図8から明かなように、近距離用では、仰角α=
8.5°、伏角β=31°となる。
め遠距離用と同じく縦方向を200画素にすると、近距
離用のCCDカメラ12a,12bでは、焦点距離f=
5.5mm以下のレンズを用いることになるが、歪がな
く入手の容易なf=6mmのレンズを採用すると、この
レンズの2m前方で視野に入る物体の高さは1.42m
となる。また、横方向の視野角θは67°となり、近距
離用の2台のCCDカメラ12a,12bの間隔rは、
r=31.2cm2 /0.6cm=52cmとなる。
は、左右画像における同一物体の像を見つけ出す必要が
あり、本発明では、次に述べるステレオ画像処理装置2
0において、画像を小領域に分割し、それぞれの小領域
内の輝度あるいは色のパターンを左右画像で比較して一
致する領域を見つけ出し、全画面に渡って距離分布を求
める。従って、従来のように、エッジ、線分、特殊な形
など、何らかの特徴を抽出し、それらの特徴が一致する
部分を見つけ出すことによる情報量の低下を避けること
ができる。
番目画素の輝度(色を用いても良い)を、それぞれ、A
i、Biとすると、例えば、以下の(3)式に示すハミ
ング距離Hによって評価することができ、平均値の採用
による情報量の低下もなく、乗算がないことから演算速
度を向上させることができる。
と、その領域内に遠方物体と近くの物体が混在する可能
性が高くなり、検出される距離が曖昧になる。画像の距
離分布を得るためにも領域は小さい方が良いが、小さす
ぎると、一致度を調べるための情報量が不足する。
1.7mの車輌が、隣の車線の車輌と同じ領域内に含ま
れないように、4つに分割される画素数を領域横幅の最
大値とすると、上記ステレオ光学系10に対して4画素
となる。この値を基準に最適な画素数を実際の画像で試
行した結果、縦横共に4画素となる。
分割して左右画像の一致度を調べるものとし、ステレオ
光学系10は、遠距離用のCCDカメラ11a,11b
で代表するものとする。
20は、上記ステレオ光学系10で撮像したアナログ画
像をデジタル画像に変換する画像変換部30、この画像
変換部30からの画像データに対し、左右画像のずれ量
xを決定するためのハミング距離Hを画素を一つずつず
らしながら次々と計算する一致度計算部としてのハミン
グ距離計算部40、ハミング距離Hの最小値HMIN 及び
最大値HMAX を検出する最小・最大値検出部50、この
最小・最大値検出部50で得られた最小値HMIN が左右
小領域の一致を示すものであるか否かをチェックしてず
れ量xを決定するずれ量決定部60を備えている。
CDカメラ11a,11bに対応してA/Dコンバータ
31a,31bが備えられ、各A/Dコンバータ31
a,31bに、データテーブルとしてのルックアップテ
ーブル(LUT)32a,32b、上記CCDカメラ1
1a,11bで撮像した画像を記憶する画像メモリ33
a,33bが、それぞれ接続されている。
ば8ビットの分解能を有し、左右のCCDカメラ11
a,11bからのアナログ画像を、所定の輝度階調を有
するデジタル画像に変換する。すなわち、処理の高速化
のため画像の二値化を行なうと、左右画像の一致度を計
算するための情報が著しく失われるため、例えば256
階調のグレースケールに変換するのである。
構成され、上記A/Dコンバータ31a,31bでデジ
タル量に変換された画像に対し、低輝度部分のコントラ
ストを上げたり、左右のCCDカメラ11a,11bの
特性の違いを補正する。そして、LUT32a,32b
で変換された信号は、一旦、画像メモリ33a,33b
に記憶される。
るように、ハミング距離計算部40で画像の一部を繰り
返し取り出して処理するため、比較的低速のメモリから
構成することができ、コスト低減を図ることができる。
像変換部30の左画像用の画像メモリ33aに、共通バ
ス80を介して2組の入力バッファメモリ41a,41
bが接続されるとともに、右画像用の画像メモリ33b
に、共通バス80を介して2組の入力バッファメモリ4
2a,42bが接続されている。
a,41bには、2組の例えば8段構成のシフトレジス
タ43a,43bが接続され、右画像用の各入力バッフ
ァメモリ42a,42bには、同様に、2組の例えば8
段構成のシフトレジスタ44a,44bが接続されてい
る。さらに、これら4組のシフトレジスタ43a,43
b,44a,44bには、ハミング距離を計算するハミ
ング距離計算回路45が接続されている。
a、44bには、後述するずれ量決定部60の2組の1
0段構成のシフトレジスタ64a,64bが接続されて
おり、次の小領域のデータ転送が始まると、ハミング距
離Hの計算の終わった古いデータはこれらのシフトレジ
スタ64a,64bに送られ、ずれ量xの決定の際に用
いられる。
算器に入出力ラッチをつなげてワンチップ化した高速C
MOS型演算器46を組み合わせており、図10に詳細
が示されるように、演算器46を16個ピラミッド状に
接続したパイプライン構造で、例えば8画素分を同時に
入力して計算するようになっている。このピラミッド型
構造の初段は、絶対値演算器、2段〜4段は、それぞ
れ、第1加算器、第2加算器、第3加算器を構成し、最
終段は総和加算器となっている。
2段目の加算器は半分のみ表示している。
41b,42a,42bは、ハミング距離計算の速度に
応じた比較的小容量の高速タイプであり、入出力が分離
し、クロック発生回路85から供給されるクロックに従
って、#1アドレスコントローラ86によって発生され
るアドレスが共通に与えられる。また、4組のシフトレ
ジスタ43a,43b,44a,44bとの転送は、#
2アドレスコントローラ87によって制御される。
のソフトウエアで行なう場合、右画像の一つの小領域に
対して左画像の小領域を次々に探索し、これを右画像の
小領域全部について行なう必要があり、この計算を例え
ば0.08秒で行なうとすると、一画素当たり例えば5
ステップのプログラムで、500MIPS(Mega Instr
uction Per Second )の能力が要求される。これは現在
の一般的なシスク(CISC)タイプのマイクロプロセ
ッサでは実現不可能な数字であり、リスク(RISC)
プロセッサ、デジタルシグナルプロセッサ(DSP)、
あるいは、並列プロセッサなどを用いなければならなく
なる。
距離Hの最小値HMIN を検出する最小値検出回路51と
ハミング距離Hの最大値HMAX を検出する最大値検出回
路52とを備えており、上記ハミング距離計算回路45
で使用する演算器46を最小値、最大値検出用として2
個使用した構成となっており、ハミング距離Hの出力と
同期が取られるようになっている。
は、具体的には、Aレジスタ46a、Bレジスタ46
b、及び、算術論理演算ユニット(ALU)46cから
なる演算器46に、Cラッチ53,ラッチ54,Dラッ
チ55を接続して構成され、ハミング距離計算回路45
からの出力が、Aレジスタ46aと、Cラッチ53を介
してBレジスタ46bとに入力され、ALU46の出力
の最上位ビット(MSB)がラッチ54に出力される。
このラッチ54の出力は、Bレジスタ46b及びDラッ
チ55に出力され、演算器46での最小値計算の途中の
値が、Bレジスタ46bに保存されるとともに、そのと
きのずれ量xがDラッチ55に保存されるようになって
いる。
が逆になることと、ずれ量xを保存しないこと以外は、
最小値検出回路51と同様の構成である。
右画像小領域に対し、左画像小領域を1画素ずつずらし
ながら順次計算されていく。そこで、ハミング距離Hの
値が出力される毎に、これまでの値の最大値HMAX 、最
小値HMIN と比較、更新することによって、最後のハミ
ング距離Hの出力とほぼ同時に、その小領域におけるハ
ミング距離Hの最大値HMAX 、最小値HMIN が求まるよ
うになっている。
RISCプロセッサとして構成され、演算器61を中心
として、2本の16ビット幅データバス62a,62
b、ずれ量xを保持するラッチ63a、第1の規定値と
してのしきい値Ha を保持するラッチ63b、第2の規
定値としてのしきい値Hb を保持するラッチ63c、第
3の規定値としてのしきい値Hc を保持するラッチ63
d、右画像の輝度データを保持する2組のシフトレジス
タ64a,64b、演算器61の出力を受けてずれ量x
または”0”を出力するスイッチ回路65、そして出力
された結果を一時保存する出力バッファメモリ66a,
66b、回路の動作タイミングや演算器61の機能の制
御プログラムが書き込まれた16ビット幅のROM67
が備えられている。
て、Aレジスタ71、Bレジスタ72、Fレジスタ7
3、及び、レジスタ74からなり、上記データバス62
a(以下、Aバス62aとする)にAレジスタ71が接
続されるとともに、上記データバス62b(以下、Bバ
ス62bとする)にBレジスタ72が接続され、ALU
70の演算結果が上記スイッチ回路65を介して上記出
力バッファメモリ66a,66bに格納されるようにな
っている。
Hb 、Hc を保持するラッチ63b,63c,63d、
上記最大値検出回路52が接続され、上記Bバス62b
には、上記最小値検出回路51が接続されている。さら
に、上記Aバス62a及びBバス62bには、上記各シ
フトレジスタ64a,64bが接続されている。
算器61が接続されるとともに、上記ラッチ63aを介
して上記最小値検出回路51が接続され、後述する3つ
のチェック条件が演算器61で判定され、その判定結果
に応じて上記出力バッファメモリ66a,66bへの出
力が切り換えられる。
ング距離Hの最小値HMIN が本当に左右小領域の一致を
示しているものかどうかチェックを行い、条件を満たし
たもののみ、出力バッファメモリ66a,66bの対応
する画素の位置にずれ量xを出力する。
れ量が求めるずれ量xとなる訳であるが、以下の3つの
チェック条件を満足した場合にずれ量xを出力し、満足
しない場合には、データを採用せずに棄却する。
には距離を検出できず。) (2)HMAX −HMIN ≧Hb (得られた最小値HMIN が
ノイズによる揺らぎより明らかに低くなっていることを
チェックするための条件であり、最小値HMIN の近傍の
値との差でなく、最大値HMAX との差をチェック対象と
することにより、曲面などの緩やかに輝度の変わる物体
に対しても距離検出が行なえる。) (3)右画像の小領域内の横方向の隣接画素間の輝度差
>Hc (しきい値Hc を大きくするとエッジ検出となる
が、輝度が緩やかに変化している場合にも対応可能なよ
うに、しきい値Hc は通常のエッジ検出レベルよりはず
っと低くしてある。この条件は、輝度変化のない部分で
は、距離検出が行なえないという基本的な原理に基づい
ており、小領域中の画素毎に行なわれるため、小領域の
中でも実際に距離の検出された画素のみが採用されるこ
とになり、自然な結果が得られる。) 尚、このずれ量決定の処理も、通常のマイクロプロセッ
サでソフト的に行おうとすると、例えば27MIPSの
速さが必要となり、実行不可能である。
終結果である距離分布情報は、道路・障害物認識装置な
どの外部装置へのインターフェースとなるデュアルポー
トメモリ90へ共通バス80を介して書き込まれる。
トに従って、ステレオ画像処理装置20を中心として本
実施例の動作を説明する。
11a,11bによって撮像した画像を入力すると、ス
テップS102で、入力した画像をA/D変換した後、LU
T32a,32bで補正し、画像メモリ33a,33b
に記憶する。
される画像は、CCDカメラ11a,11bのCCD素
子の全ラインのうち、その後の処理に必要なラインのみ
であり、例えば0.1秒に1回の割合(テレビ画像で3
枚に1枚の割合)で書き換えられる。
の画像メモリ33a,33bから入力バッファメモリ4
1a,41b,42a,42bへ、共通バス80を介し
て、例えば4ラインずつ左右画像データが読み込まれ、
読み込んだ左右画像のマッチング、すなわち一致度の評
価が行なわれる。
33a,33bから上記入力バッファメモリ41a,4
1b,42a,42bへの読み込み動作と、シフトレジ
スタ43a,43b,44a,44bに対する書き込み
動作とが交互に行なわれる。例えば、左画像では、画像
メモリ33aから一方の入力バッファメモリ41aに画
像データが読み込まれている間に、他方の入力バッファ
メモリ41bからシフトレジスタ43bへ読み込んだ画
像データの書き出しが行なわれ、右画像では、画像メモ
リ33bから一方の入力バッファメモリ42aに画像デ
ータが読み込まれている間に、他方の入力バッファメモ
リ42bからシフトレジスタ44bへ読み込んだ画像デ
ータの書き出しが行なわれる。
ジスタ43a,43b,44a,44bには、左右の4
×4画素の小領域の画像データ(1,1)…(4,4)
が保存され、一方のシフトレジスタ43a(44a)に
は1、2ラインのデータが、もう一方のシフトレジスタ
43b(44b)には3、4ラインのデータが、それぞ
れ1画素毎に奇数ライン、偶数ラインの順序で入る。
4a,44bは、それぞれが独立した転送ラインを持
ち、4×4画素のデータは例えば8クロックで転送され
る。そして、これらのシフトレジスタ43a,43b,
44a,44bは、8段のうちの偶数段の内容を同時に
ハミング距離計算回路45に出力し、ハミング距離Hの
計算が始まると、右画像のデータはシフトレジスタ44
a,44b内に保持されて、クロック毎に奇数ライン、
偶数ラインのデータが交互に出力され、一方、左画像の
データはシフトレジスタ43a,43bに転送され続
け、奇数ライン、偶数ラインのデータが交互に出力され
つつ、2クロック毎に1画素分右のほうにずれたデータ
に置き換わっていく。この動作を、例えば100画素分
ずれるまで(200クロック)繰り返す。
すると、#2アドレスコントローラ87内の左画像用ア
ドレスカウンタに右画像用アドレスカウンタの内容(次
の4×4画素の小領域の先頭アドレス)がセットされ、
次の小領域の処理が始まる。ハミング距離計算回路45
では、図12のタイミングチャートに示すように、ま
ず、ピラミッド型構造初段の絶対値演算器に8画素分の
データを入力し、左右画像の輝度差の絶対値を計算す
る。すなわち、右画素の輝度から対応する左画素の輝度
を引き算し、結果が負になった場合、演算命令を変える
ことにより、引く方と引かれる方を逆にして再び引き算
を行なうことにより、絶対値の計算を行なう。従って、
初段では引き算を2回行なう場合がある。
段目までの第1ないし第3加算器で二つの同時入力デー
タを加算して出力する。そして、最終段の総和加算器で
二つの連続するデータを加え合わせて総和を計算し、必
要とする16画素分のハミング距離Hを2クロック毎に
最小・最大値検出部50へ出力する。
S103で算出したハミング距離Hの最大値HMAX 、最小値
HMIN を検出する。前述したように、この最大値HMAX
の検出と最小値HMIN の検出とは、互いに論理が逆にな
ることと、ずれ量を保存しないこと以外は、全く同じで
あるため、以下、代表して最小値HMIN の検出について
説明する。
H(ずれ量x=0)が、図11に示す最小値検出回路5
1のCラッチ53を介して、演算器46のBレジスタ4
6bに入力される。次のクロックで出力されてきたハミ
ング距離H(ずれ量x=1)は、Cラッチ53と演算器
46のAレジスタ46aとに入れられ、演算器46で
は、同時に、Bレジスタ46bとの比較演算が始まる。
ジスタ46bの内容よりもAレジスタ46aの内容の方
が小さければ、次のクロックのときに、Cラッチ53の
内容(すなわちAレジスタ46aの内容)がBレジスタ
46bに送られ、このときのずれ量xがDラッチ55に
保存される。このクロックで同時に、次のハミング距離
H(ずれ量x=2)がAレジスタ46aとCラッチ53
に入れられ、再び比較演算が始まる。
にBレジスタ46bに、そのときのずれ量xがDラッチ
55に保存されながら、ずれ量xが100になるまで計
算が続けられる。計算が終了すると(最後のハミング距
離Hが出力されてから1クロック後)、Bレジスタ46
bとDラッチ55の内容はずれ量決定部60に読み込ま
れる。
45では次の小領域の初期値が読み込まれ、時間の無駄
を生じないようになっており、一つのハミング距離Hを
計算するのに、例えば4クロックかかるが、パイプライ
ン構造をとっているため、2クロック毎に新たな計算結
果が得られる。
ミング距離Hの最小値HMIN 、最大値HMAX が確定する
と、ずれ量決定部60にて、前述した3つの条件がチェ
ックされ、ずれ量xが決定される。
示すように、Bバス62bを介して最小値HMIN が演算
器61のBレジスタ72にラッチされるとともに、この
Bレジスタ72の値と比較されるしきい値Ha がAバス
62aを介してAレジスタ71にラッチされる。そして
ALU70で両者が比較され、しきい値Ha よりも最小
値HMIN の方が大きければ、スイッチ回路65がリセッ
トされ、以後のチェックの如何に係わらず常に0が出力
されるようになる。
ッチされ、このAレジスタ71にラッチされた最大値H
MAX とBレジスタ72に保存されている最小値HMIN と
の差が計算されて、その結果がFレジスタ73に出力さ
れる。次のクロックでAレジスタ71にしきい値Hb が
ラッチされ、Fレジスタ73の値と比較される。Aレジ
スタ71にラッチされたしきい値Hb よりもFレジスタ
73の内容の方が小さければ同様にスイッチ回路65が
リセットされる。
の計算が始まる。輝度データが保存されている2組のシ
フトレジスタ64a,64bは10段構成であり、それ
ぞれ、ハミング距離計算部40の1,2ライン用のシフ
トレジスタ44aと、3,4ライン用のシフトレジスタ
44bの後段に接続されている。上記シフトレジスタ6
4a,64bの出力は最後の段とその2つ手前の段から
取り出され、それぞれが、Aバス62aとBバス62b
とに出力される。
ジスタ64a,64bの各段には小領域中の各場所の輝
度データが保持されており、初めに前回の小領域の第4
行第1列の輝度データと、今回の小領域の第1行第1列
の輝度データとが、演算器61のAレジスタ71とBレ
ジスタ72とにラッチされる。
タ72の内容の差の絶対値が計算され、結果がFレジス
タ73に保存される。次のクロックでAレジスタ71に
しきい値Hc がラッチされ、Fレジスタ73の値と比較
される。
の内容(しきい値Hc)よりもFレジスタ73の内容
(輝度差の絶対値)のほうが大きければ、上記スイッチ
回路65からずれ量xあるいは”0”が出力され、、A
レジスタの内容よりもFレジスタ73の内容のほうが小
さければ”0”が出力されて、出力バッファメモリ66
a,66bの該当する小領域の第1行第1列に当たる位
置に書き込まれる。
きい値Hc との比較が行なわれている間に、シフトレジ
スタ64a,64bは1段シフトする。そして今度は、
前回の小領域の第4行第2列と、今回の小領域の第1行
第2列の輝度データに対して計算を始める。このように
して小領域の第1列、第2列に対し交互に計算を行なっ
た後、第3列、第4列に対して同様に計算を進める。
の最終段と最初の段がつながってリングレジスタになっ
ており、小領域全体を計算した後にシフトクロックが2
回追加されるとレジスタの内容が計算前の状態に戻り、
次の小領域の輝度データが転送され終わったときに、最
終段とその前の段に今回の小領域の第4行のデータが留
められる。
次のデータをAバス62a,Bバス62bに用意した
り、結果の書き込みを行なうため、計算に必要な2クロ
ックのみで一つのデータが処理される。この結果、初め
に行なう最小値HMIN 、最大値HMAX のチェックを含め
ても、例えば43クロックで全ての計算が終了し、一つ
の小領域に対して、ハミング距離Hの最小値HMIN 、最
大値HMAX を求めるのに要する時間は充分に余裕があ
り、さらに機能を追加することも可能である。
プS106で、出力バッファメモリ66a,66bからデュ
アルポートメモリ90へ、ずれ量xを距離分布情報とし
て出力し、ステレオ画像処理装置20における処理が終
了する。
は、前述した入力バッファメモリ41a,41b,43
a,43bと同様、例えば4ライン分の容量があり、2
組の一方に書き込んでいる間にもう一方から上記デュア
ルポートメモリ90へ距離分布情報を送り出す。
れた距離分布情報からは、CCDカメラ11,12の取
付け位置と焦点距離などのレンズパラメータとから、各
画素に対応する物体のXYZ空間における3次元位置を
算出することができ、情報量の低下なく車外の対象物ま
での距離を正確に検出することができる。
XYZ空間における3次元位置への計算は、ステレオ画
像処理装置20内で処理しても良く、ステレオ画像処理
装置20から外部に出力されるデータ形式は、接続する
外部装置との兼ね合いで定めれば良い。
テム全体のタイミングについて、図14に示すタイミン
グチャートに従って説明する。
Dカメラ11a,11bからのフィールド信号を0.1
秒毎(3画面に1画面の割合)に、画像メモリ33a,
33bに書き込む。
ン毎のブロック転送が始まる。この転送は、右画像、左
画像、結果の距離分布像の順に3ブロック転送する。
対してずれ量xの計算が行われる。そして、ずれ量xの
計算時間を考慮し、所定時間待機してからもう一方の入
出力バッファメモリに対して転送を始める。
るハミング距離Hの計算は、左画像について100画素
ずらしながら計算するため、100回行われる。一つの
領域のハミング距離Hが計算されている間に、その前の
領域のずれ量xが各チェックを経て距離分布として出力
される。
イン分の処理を50回繰り返すことになり、計算の開始
時に最初のデータを転送するための4ライン分の処理時
間、計算終了後に最後の結果を画像認識部に転送するた
めの4ライン分の処理時間と、計8ライン分の処理時間
がさらに必要となる。
ら最後の距離分布を転送し終わるまでの時間は、実際の
回路動作の結果、0.076秒である。
像した画像から、情報量を低下させることなく、しかも
高速に、画像全体に渡る距離分布を求めることができる
ため、その距離分布を利用することにより、例えば、道
路端や白線の3次元位置と周囲の立体物の3次元位置と
を同時に検出することができ、走行の妨げとなる障害物
の位置や動きを考慮した、より高度な障害物回避を実現
することができるなど優れた効果が得られる。
グチャート
ト
象を撮像し、この撮像画像から距離を検出する車輌用距
離検出装置に関する。
の車輌は、その利便性と快適性から現代社会においてな
くてはならない存在となっている。そこで、自動車の持
つ優れた点を犠牲にすることなく、自動的に事故を回避
することのできる技術の開発が従来より進められてい
る。
は、走行の障害となる物体を検出することがまず第一に
重要であり、既に、レーダー、超音波、レーザーレーダ
ーなどを用いて障害物を検出する装置が実用化されてい
る。
ながら、その道筋にある障害物を検出し、障害物までの
距離や速度を求める過程は複雑であり、これを実時間で
行なうことはかなりの困難を伴い、上述のレーダー、超
音波、レーザーレーダーなどを用いた装置では、特定の
方向に存在する物体しか検出できない。
が道路上の何処に存在しているのかを知る必要があり、
この点において、これらの装置では十分な情報は得られ
ない欠点がある。また、道路にはカーブなどもあり、カ
ーブに沿って広い範囲の障害物を検出する必要があり、
上述の装置のように特定方向の障害物のみを検出するの
では、不十分である。
等により車外の対象風景を撮像し、この撮像した画像を
画像処理して車輌から対象物までの距離を求める計測技
術が有力な手段として採用されるようになった。
からカメラ位置との関係を用いて対象物までの距離を推
定する技術と、複数のカメラにより、あるいは1つのカ
メラの位置を変えることにより複数の画像を撮像し、三
角測量の原理で対象物までの距離を求める技術とに大別
される。
例えば、白線は白く細長く平面上に存在する等の特徴を
持つ対象物を抽出し、カメラの位置を仮定して距離を求
めるため、処理量も少なくコスト的にも有利である。
は、1台のTVカメラを車内のフロントウインド中央上
部付近に取り付け、これから得られる画像を用いて、画
像中のあるサーベイ・ライン上の輝度分布パターンや、
2次元的な輝度分布パターンから障害物や道路の白線を
検出し、TVカメラの取り付け位置や、方向、視野など
のパラメータから、障害物や白線の3次元位置を推定す
る技術が開示されている。
画像には、周囲の建物や木々などの様々な物体や背景が
写っており、この様な2次元画像の中から、前方車や対
向車、歩行者、電柱、道路の白線などの様々な対象物を
的確に検出することは困難であり、また、道路面に凹凸
がある場合や車輌がピッチングしている場合には、TV
カメラのパラメータから白線や障害物の3次元位置を推
定する際に、3次元位置の推定に大きな誤差を生じる次
点がある。
中の前方風景には多くの類似した物体が存在するため、
2次元画像のみから正しく対象物を抽出できるとは限ら
ず、また、車輌のピッチング、急な坂道等の道路の勾配
如何によっては、カメラ位置の仮定が常に正しいとは言
えず、結局、認識結果が曖昧になるおそれがある。
離を求める技術は、左右画像における同一物体の位置の
相対的なずれから距離を求めるので、正確な距離を求め
ることができる。
には、2台のTVカメラを車輌前方に取り付け、各々の
TVカメラの画像について、2次元的な輝度分布パター
ンから障害物を検出し、次に、2つの画像上における障
害物の位置のずれを求め、三角測量の原理によって障害
物の3次元位置を算出する方法が公開されている。
資料(’89.10.20)には、2台のTVカメラを
車輌前方の左右端に取り付け、まず、各々の画像を空間
微分して明暗変化点のみを抽出し、片方のカメラの画像
の走査を所定時間だけ遅延させてもう一方の画像と重ね
合わせ、2つの画像で一致する部分のうち、白線が持つ
輝度分布パターンの特徴やその幅の値から白線だけを抽
出し、遅延させた時間と三角測量の原理から抽出された
白線までの距離を算出する。そして、このような処理
を、遅延させる時間を連続的に変化させて行なうことに
より、近距離から遠距離までの白線の3次元位置を算出
する技術が提示されている。
4 1990,P54−59)には、2台のカメラを車
輌前方の左右端に取り付け、各々のTVカメラの画像に
ついて2次元ウィンドウ内の輝度分布パターンから白線
を検出し、次に、左右の画像上における白線の位置のず
れを求め、三角測量の原理によって白線の3次元位置を
算出する技術が提示されている。
に、2台のTVカメラを用い、三角測量の原理によって
3次元位置を算出すれば、大きな誤差の発生は防止でき
る。しかしながら、これらの技術によっても、様々な物
体や背景が写っている2次元画像の中から、対象とする
白線や障害物を輝度分布パターンのみによって検出する
のは困難であり、3次元画像を用いることが極めて有利
なものとなるが、左右の画像のマッチングを繰り返して
行わなければならないことから処理量が膨大なものとな
り、処理速度の低下を招く。
値化、エッジ検出、さらには、高度な特徴点の抽出、ウ
ィンドウの設定等、情報量の低下を伴う前処理を行なわ
ざるを得ず、距離が計測されるのは、二値化され得た物
体、エッジ等の特徴点の部分、或いはウィンドウ内のみ
であった。
分をあらかじめ抽出し、その部分の距離を求めるという
ように、情報量の低下を犠牲にして処理速度を高速化し
ており、人や電信柱、白線や道路端等の必要とされる対
象が排除されてしまうおそれがある。
で、撮像した画像から、情報量を低下させることなく、
しかも高速に、画像全体に渡る距離分布を求めることの
できる車輌用距離検出装置を提供することを目的とす
る。
距離検出装置は、車外の設定範囲内の対象に対し、互い
に異なる方向から複数枚の画像を撮像する撮像系を備
え、上記撮像系で撮像した複数枚の画像を処理して画像
全体に渡る距離分布を出力する画像処理手段に、上記撮
像系で撮像した複数枚の画像に対応して、所定の領域毎
に一致度を高速で計算する一致度計算部と、上記一致度
計算部で計算した一致度の最小値に基づいて、上記複数
枚の画像の対応する画素位置のずれ量を上記距離分布に
係わる情報として決定するずれ量決定部とを備えたもの
である。
車外の設定範囲内の対象に対し、互いに異なる方向から
複数枚のアナログ画像を撮像する撮像系を備え、上記撮
像系で撮像した複数枚のアナログ画像を処理して画像全
体に渡る距離分布を出力する画像処理手段に、上記撮像
系で撮像した複数枚のアナログ画像を、所定の輝度階調
を有するデジタル画像に変換する画像変換部と、上記画
像変換部で変換した複数枚のデジタル画像の所定の領域
毎に一致度を高速で計算する一致度計算部と、上記一致
度計算部で計算した一致度の最小値及び最大値を検出す
る最小・最大値検出部と、上記最小・最大値検出部で検
出した一致度の最小値及び最大値に対し、最小値が第1
の規定値以下で、最大値と最小値との差が第2の規定値
以上であり、且つ、上記複数枚のデジタル画像のうちの
所定の画像の微小部分の輝度変化が第3の規定値以上で
ある場合に、上記最小・最大値検出部で検出した一致度
の最小値に基づいて、上記複数枚のデジタル画像の対応
する画素位置のずれ量を上記距離分布に係わる情報とし
て決定するずれ量決定部とを備えたものである。
第2の発明において、上記画像変換部に、上記撮像系で
撮像した画像全体を記憶する低速の画像メモリを備え、
上記一致度計算部に、画像の一部を取り出して記憶する
高速のバッファメモリを備えたものである。
第2の発明において、上記画像変換部に、上記撮像系か
らの出力を補正するデータテーブルを備えたものであ
る。
第1の発明または第2の発明において、上記撮像系を、
固体撮像素子を有する遠距離用の2台のカメラと、固体
撮像素子を有する近距離用の2台のカメラとから構成し
たものである。
して互いに異なる方向から複数枚の画像を撮像し、この
撮像した複数枚の画像に対応して、所定の領域毎に一致
度を高速で計算する。そして、この一致度の最小値に基
づいて、対応する画素位置のずれ量を距離分布に係わる
情報として決定する。
に対して互いに異なる方向から複数枚のアナログ画像を
撮像し、この撮像した複数枚のアナログ画像を所定の輝
度階調を有するデジタル画像に変換し、これらの複数枚
のデジタル画像の所定の領域毎に一致度を高速で計算
し、一致度の最小値及び最大値を検出する。そして、検
出した一致度の最小値及び最大値に対し、最小値が第1
の規定値以下で、最大値と最小値との差が第2の規定値
以上であり、且つ、上記複数枚のデジタル画像のうちの
所定の画像の微小部分の輝度変化が第3の規定値以上で
ある場合に、検出した一致度の最小値に基づいて、上記
複数枚のデジタル画像の対応する画素位置のずれ量を距
離に係わる情報として決定する。
像変換部に備えた低速の画像メモリに撮像した画像全体
を記憶し、一致度計算部に備えた高速のバッファメモリ
に画像の一部を取り出して記憶する。
像系からの出力を画像変換部に備えたデータテーブルに
より補正する。
発明において、固体撮像素子を有する遠距離用の2台の
カメラと、固体撮像素子を有する近距離用の2台のカメ
ラとにより、車外の設定範囲内の対象に対し、互いに異
なる方向から複数枚の画像を撮像する。
する。図面は本発明の一実施例を示し、図1は距離検出
装置の回路ブロック図、図2は距離検出装置の全体構成
図、図3は車輌の正面図、図4は距離検出装置の動作を
示すフローチャート、図5はカメラと被写体との関係を
示す説明図、図6は視野角の説明図、図7は遠距離の上
下視野角を示す説明図、図8は近距離の上下視野角を示
す説明図、図9はシフトレジスタ内の保存順序を示す説
明図、図10はシティブロック距離計算回路の説明図、
図11は最小値検出回路のブロック図、図12はシティ
ブロック距離計算回路の動作を示すタイミングチャー
ト、図13はずれ量決定部の動作を示すタイミングチャ
ート、図14は全体の動作を示すタイミングチャートで
ある。
などの車輌であり、この車輌1に、車外の設置範囲内の
対象を撮像して距離を検出する距離検出装置2が搭載さ
れている。この距離検出装置2は、例えば図示しない道
路・障害物認識装置などに接続されて障害物監視装置を
構成し、運転者に対する警告、車体の自動衝突回避等の
動作を行なうようになっている。
の対象を撮像する撮像系としてのステレオ光学系10
と、このステレオ光学系10によって撮像した画像を処
理し、3次元の距離情報を算出する画像処理手段として
のステレオ画像処理装置20とを備えており、このステ
レオ画像処理装置20で算出した3次元距離情報が道路
・障害物認識装置などに取り込まれ、道路形状及び車輌
1に対する障害物が認識される。
合素子(CCD)等の固体撮像素子を用いたカメラによ
り構成され、図3に示すように、遠距離の左右画像用と
しての2台のCCDカメラ11a,11b(代表してC
CDカメラ11と表記する場合もある)が、それぞれ車
室内の天井前方に取り付けられるとともに、近距離の左
右画像用としての2台のCCDカメラ12a,12b
(代表してCCDカメラ12と表記する場合もある)
が、それぞれ、遠距離用のCCDカメラ11a,11b
の内側に取り付けられている。
例えば100m遠方までの距離計測を行なう場合、車室
内のCCDカメラ11、12の取付位置を、例えば、車
輌1のボンネット先端から2mとすると、実際には前方
2mから100mまでの位置を計測できれば良い。
2台のCCDカメラ11a、11bの取付間隔をrとし
て、2台のカメラ11a,11bの設置面から距離Dに
ある点Pを撮影する場合、2台のカメラ11a,11b
の焦点距離を共にfとすると、点Pの像は、それぞれの
カメラについて焦点位置からfだけ離れた投影面に写
る。
る像の位置から左のCCDカメラ11aにおける像の位
置までの距離は、r+xとなり、このxをずれ量とする
と、点Pまでの距離Dは、ずれ量xから以下の式で求め
ることができる。
方の静止物体の距離と相対速度を検出する場合には、ひ
とつの物体に対し複数の画素の距離分布が得られるた
め、それらを平均することにより精度の高い距離が得ら
れるが、最悪の場合を考慮すると、0.3秒の間の走行
距離、約9mで少なくともずれ量xが1画素分変化しな
ければならない。
だけ変化したときの距離の変化量ΔDは、上記(1)式
より導かれる以下の(2)式で表すことができる。
効面積を、ブラック領域を除いて例えば8mm(H)×
6mm(V)とし、CCD素子の1画素の大きさを11
μm×13μmとすると、横方向の画素数は727とな
る。但し、画像を取り込む際の横方向分割数としては、
処理上の扱い易さから512画素とすると、CCD面上
での1画素の長さは8mm/512×1000=15.
6μmとなり、これらの値を上記(2)式に代入してr
・f値を求めると、r・f=173cm2 になる。
素子の実際の距離計測幅とから求められる。この視野角
θは、例えば高速道路における80km/h設計の特例
値である曲率半径230mの道路を走行中、100m先
までを視界に含めることができるものであるとすると、
図6に示すように、視野角θは、r=230,l=10
0として、θ=sin -1 (l/r)より、θ=25°が
求められる。
mmであるが、実際に距離を計測できるのは、有効幅から
領域探索する幅を除いたものとなり、視野角、最短検出
距離、処理時間等を総合的に考慮して、探索する幅を例
えば100画素とすると、距離を計測できる幅は6.3
mmとなる。
(2・tan(25/2))=14.2mmとなるが、
この値に近く入手の容易な焦点距離f=16mmのレン
ズを採用すると、2つのカメラの間隔rは、r=173
cm2 /1.6cm=108cmとなる。
より、D=173cm2 /(100×15.6μm)=
11.1mとなり、仮に2mまで測定しようとしても、
x=173cm2 /2m=8650μm=554画素と
なり、1画面の幅を超えてしまうことがわかる。
2a,12bにより、2mの距離でずれ量xが100画
素になるようなr・f値を上記(1)式より計算する
と、r・f=100×15.6μm×2m=31.2c
m2 となる。この近距離用のCCDカメラ12a,12
bで測定可能な最長距離として10画素ずれるときの距
離を考えると、D=31.2cm2 /(10×15.6
μm)=20mとなる。従って、遠距離用のCCDカメ
ラ11a,11bと近距離用のCDカメラ12a,12
bによる測定範囲は、11.1mから20mでオーバー
ラップし、この遠距離用及び近距離用の2組のカメラで
2mから100m遠方まで計測できることがわかる。
る。高さ方向の視野は水平な道路において、遠距離用の
CCDカメラ11a,11bの最短測定距離lmin であ
る11.1mの地点において、地上から例えば1.5m
の高さhupまで視野に入るようにすると、CCDカメラ
11a,11bの取付位置h0 を地上から1.2mとし
て、図7から明かなように、遠距離用では、仰角α=t
an -1 (hup−h0 /lmin )=1.5°、伏角β=t
an -1 (h0 /lmin )=6.2°になる。
bの焦点距離fが16mmであることと、CCD素子の
縦方向の画素間隔が13μmであることから、1画面の
縦方向の画素数を求めると184画素になり、ピッチン
グの影響を考慮すると200画素となる。
12bの最短測定距離lmin である2.0mの地点にお
いて、地上から1.5mの高さhupまで視野に入るよう
にすると、近距離用のCCDカメラ12a,12bの取
付位置h0 は、遠距離用と同様に地上から1.2mであ
り、図8から明かなように、近距離用では、仰角α=
8.5°、伏角β=31°となる。
め遠距離用と同じく縦方向を200画素にすると、近距
離用のCCDカメラ12a,12bでは、焦点距離f=
5.5mm以下のレンズを用いることになるが、歪がな
く入手の容易なf=6mmのレンズを採用すると、この
レンズの2m前方で視野に入る物体の高さは1.42m
となる。また、横方向の視野角θは67°となり、近距
離用の2台のCCDカメラ12a,12bの間隔rは、
r=31.2cm2 /0.6cm=52cmとなる。
は、左右画像における同一物体の像を見つけ出す必要が
あり、本発明では、次に述べるステレオ画像処理装置2
0において、画像を小領域に分割し、それぞれの小領域
内の輝度あるいは色のパターンを左右画像で比較して一
致する領域を見つけ出し、全画面に渡って距離分布を求
める。従って、従来のように、エッジ、線分、特殊な形
など、何らかの特徴を抽出し、それらの特徴が一致する
部分を見つけ出すことによる情報量の低下を避けること
ができる。
番目画素の輝度(色を用いても良い)を、それぞれ、A
i、Biとすると、例えば、以下の(3)式に示すシテ
ィブロック距離Hによって評価することができ、平均値
の採用による情報量の低下もなく、乗算がないことから
演算速度を向上させることができる。
と、その領域内に遠方物体と近くの物体が混在する可能
性が高くなり、検出される距離が曖昧になる。画像の距
離分布を得るためにも領域は小さい方が良いが、小さす
ぎると、一致度を調べるための情報量が不足する。
1.7mの車輌が、隣の車線の車輌と同じ領域内に含ま
れないように、4つに分割される画素数を領域横幅の最
大値とすると、上記ステレオ光学系10に対して4画素
となる。この値を基準に最適な画素数を実際の画像で試
行した結果、縦横共に4画素となる。
分割して左右画像の一致度を調べるものとし、ステレオ
光学系10は、遠距離用のCCDカメラ11a,11b
で代表するものとする。
20は、上記ステレオ光学系10で撮像したアナログ画
像をデジタル画像に変換する画像変換部30、この画像
変換部30からの画像データに対し、左右画像のずれ量
xを決定するためのシティブロック距離Hを画素を一つ
ずつずらしながら次々と計算する一致度計算部としての
シティブロック距離計算部40、シティブロック距離H
の最小値HMIN 及び最大値HMAX を検出する最小・最大
値検出部50、この最小・最大値検出部50で得られた
最小値HMIN が左右小領域の一致を示すものであるか否
かをチェックしてずれ量xを決定するずれ量決定部60
を備えている。
CDカメラ11a,11bに対応してA/Dコンバータ
31a,31bが備えられ、各A/Dコンバータ31
a,31bに、データテーブルとしてのルックアップテ
ーブル(LUT)32a,32b、上記CCDカメラ1
1a,11bで撮像した画像を記憶する画像メモリ33
a,33bが、それぞれ接続されている。
ば8ビットの分解能を有し、左右のCCDカメラ11
a,11bからのアナログ画像を、所定の輝度階調を有
するデジタル画像に変換する。すなわち、処理の高速化
のため画像の二値化を行なうと、左右画像の一致度を計
算するための情報が著しく失われるため、例えば256
階調のグレースケールに変換するのである。
構成され、上記A/Dコンバータ31a,31bでデジ
タル量に変換された画像に対し、低輝度部分のコントラ
ストを上げたり、左右のCCDカメラ11a,11bの
特性の違いを補正する。そして、LUT32a,32b
で変換された信号は、一旦、画像メモリ33a,33b
に記憶される。
るように、シティブロック距離計算部40で画像の一部
を繰り返し取り出して処理するため、比較的低速のメモ
リから構成することができ、コスト低減を図ることがで
きる。
上記画像変換部30の左画像用の画像メモリ33aに、
共通バス80を介して2組の入力バッファメモリ41
a,41bが接続されるとともに、右画像用の画像メモ
リ33bに、共通バス80を介して2組の入力バッファ
メモリ42a,42bが接続されている。
a,41bには、2組の例えば8段構成のシフトレジス
タ43a,43bが接続され、右画像用の各入力バッフ
ァメモリ42a,42bには、同様に、2組の例えば8
段構成のシフトレジスタ44a,44bが接続されてい
る。さらに、これら4組のシフトレジスタ43a,43
b,44a,44bには、シティブロック距離を計算す
るシティブロック距離計算回路45が接続されている。
a、44bには、後述するずれ量決定部60の2組の1
0段構成のシフトレジスタ64a,64bが接続されて
おり、次の小領域のデータ転送が始まると、シティブロ
ック距離Hの計算の終わった古いデータはこれらのシフ
トレジスタ64a,64bに送られ、ずれ量xの決定の
際に用いられる。
は、加減算器に入出力ラッチをつなげてワンチップ化し
た高速CMOS型演算器46を組み合わせており、図1
0に詳細が示されるように、演算器46を16個ピラミ
ッド状に接続したパイプライン構造で、例えば8画素分
を同時に入力して計算するようになっている。このピラ
ミッド型構造の初段は、絶対値演算器、2段〜4段は、
それぞれ、第1加算器、第2加算器、第3加算器を構成
し、最終段は総和加算器となっている。
2段目の加算器は半分のみ表示している。
41b,42a,42bは、シティブロック距離計算の
速度に応じた比較的小容量の高速タイプであり、入出力
が分離し、クロック発生回路85から供給されるクロッ
クに従って、#1アドレスコントローラ86によって発
生されるアドレスが共通に与えられる。また、4組のシ
フトレジスタ43a,43b,44a,44bとの転送
は、#2アドレスコントローラ87によって制御され
る。
ュータのソフトウエアで行なう場合、右画像の一つの小
領域に対して左画像の小領域を次々に探索し、これを右
画像の小領域全部について行なう必要があり、この計算
を例えば0.08秒で行なうとすると、一画素当たり例
えば5ステップのプログラムで、500MIPS(Mega
Instruction Per Second)の能力が要求される。これ
は現在の一般的なシスク(CISC)タイプのマイクロ
プロセッサでは実現不可能な数字であり、リスク(RI
SC)プロセッサ、デジタルシグナルプロセッサ(DS
P)、あるいは、並列プロセッサなどを用いなければな
らなくなる。
ロック距離Hの最小値HMIN を検出する最小値検出回路
51とシティブロック距離Hの最大値HMAX を検出する
最大値検出回路52とを備えており、上記シティブロッ
ク距離計算回路45で使用する演算器46を最小値、最
大値検出用として2個使用した構成となっており、シテ
ィブロック距離Hの出力と同期が取られるようになって
いる。
は、具体的には、Aレジスタ46a、Bレジスタ46
b、及び、算術論理演算ユニット(ALU)46cから
なる演算器46に、Cラッチ53,ラッチ54,Dラッ
チ55を接続して構成され、シティブロック距離計算回
路45からの出力が、Aレジスタ46aと、Cラッチ5
3を介してBレジスタ46bとに入力され、ALU46
の出力の最上位ビット(MSB)がラッチ54に出力さ
れる。このラッチ54の出力は、Bレジスタ46b及び
Dラッチ55に出力され、演算器46での最小値計算の
途中の値が、Bレジスタ46bに保存されるとともに、
そのときのずれ量xがDラッチ55に保存されるように
なっている。
が逆になることと、ずれ量xを保存しないこと以外は、
最小値検出回路51と同様の構成である。
一つの右画像小領域に対し、左画像小領域を1画素ずつ
ずらしながら順次計算されていく。そこで、シティブロ
ック距離Hの値が出力される毎に、これまでの値の最大
値HMAX 、最小値HMIN と比較、更新することによっ
て、最後のシティブロック距離Hの出力とほぼ同時に、
その小領域におけるシティブロック距離Hの最大値HMA
X 、最小値HMIN が求まるようになっている。
RISCプロセッサとして構成され、演算器61を中心
として、2本の16ビット幅データバス62a,62
b、ずれ量xを保持するラッチ63a、第1の規定値と
してのしきい値Ha を保持するラッチ63b、第2の規
定値としてのしきい値Hb を保持するラッチ63c、第
3の規定値としてのしきい値Hc を保持するラッチ63
d、右画像の輝度データを保持する2組のシフトレジス
タ64a,64b、演算器61の出力を受けてずれ量x
または”0”を出力するスイッチ回路65、そして出力
された結果を一時保存する出力バッファメモリ66a,
66b、回路の動作タイミングや演算器61の機能の制
御プログラムが書き込まれた16ビット幅のROM67
が備えられている。
て、Aレジスタ71、Bレジスタ72、Fレジスタ7
3、及び、セレクタ74からなり、上記データバス62
a(以下、Aバス62aとする)にAレジスタ71が接
続されるとともに、上記データバス62b(以下、Bバ
ス62bとする)にBレジスタ72が接続され、ALU
70の演算結果で上記スイッチ回路65を作動し、ずれ
量xまたは“0”が上記出力バッファメモリ66a,6
6bに格納されるようになっている。
Hb 、Hc を保持するラッチ63b,63c,63d、
上記最大値検出回路52が接続され、上記Bバス62b
には、上記最小値検出回路51が接続されている。さら
に、上記Aバス62a及びBバス62bには、上記各シ
フトレジスタ64a,64bが接続されている。
算器61が接続されるとともに、上記ラッチ63aを介
して上記最小値検出回路51が接続され、後述する3つ
のチェック条件が演算器61で判定され、その判定結果
に応じて上記出力バッファメモリ66a,66bへの出
力が切り換えられる。
ィブロック距離Hの最小値HMIN が本当に左右小領域の
一致を示しているものかどうかチェックを行い、条件を
満たしたもののみ、出力バッファメモリ66a,66b
の対応する画素の位置にずれ量xを出力する。
なるずれ量が求めるずれ量xとなる訳であるが、以下の
3つのチェック条件を満足した場合にずれ量xを出力
し、満足しない場合には、データを採用せずに“0”を
出力する。
には距離を検出できず。) (2)HMAX −HMIN ≧Hb (得られた最小値HMIN が
ノイズによる揺らぎより明らかに低くなっていることを
チェックするための条件であり、最小値HMIN の近傍の
値との差でなく、最大値HMAX との差をチェック対象と
することにより、曲面などの緩やかに輝度の変わる物体
に対しても距離検出が行なえる。) (3)右画像の小領域内の横方向の隣接画素間の輝度差
>Hc (しきい値Hc を大きくするとエッジ検出となる
が、輝度が緩やかに変化している場合にも対応可能なよ
うに、しきい値Hc は通常のエッジ検出レベルよりはず
っと低くしてある。この条件は、輝度変化のない部分で
は、距離検出が行なえないという基本的な原理に基づい
ており、小領域中の画素毎に行なわれるため、小領域の
中でも実際に距離の検出された画素のみが採用されるこ
とになり、自然な結果が得られる。) 尚、このずれ量決定の処理も、通常のマイクロプロセッ
サでソフト的に行おうとすると、例えば27MIPSの
速さが必要となり、実行不可能である。
終結果である距離分布情報は、道路・障害物認識装置な
どの外部装置へのインターフェースとなるデュアルポー
トメモリ90へ共通バス80を介して書き込まれる。
トに従って、ステレオ画像処理装置20を中心として本
実施例の動作を説明する。
11a,11bによって撮像した画像を入力すると、ス
テップS102で、入力した画像をA/D変換した後、LU
T32a,32bで補正し、画像メモリ33a,33b
に記憶する。
される画像は、CCDカメラ11a,11bのCCD素
子の全ラインのうち、その後の処理に必要なラインのみ
であり、例えば0.1秒に1回の割合(テレビ画像で3
枚に1枚の割合)で書き換えられる。
の画像メモリ33a,33bから入力バッファメモリ4
1a,41b,42a,42bへ、共通バス80を介し
て、例えば4ラインずつ左右画像データが読み込まれ、
読み込んだ左右画像のマッチング、すなわち一致度の評
価が行なわれる。
33a,33bから上記入力バッファメモリ41a,4
1b,42a,42bへの読み込み動作と、シフトレジ
スタ43a,43b,44a,44bに対する書き込み
動作とが交互に行なわれる。例えば、左画像では、画像
メモリ33aから一方の入力バッファメモリ41aに画
像データが読み込まれている間に、他方の入力バッファ
メモリ41bからシフトレジスタ43bへ読み込んだ画
像データの書き出しが行なわれ、右画像では、画像メモ
リ33bから一方の入力バッファメモリ42aに画像デ
ータが読み込まれている間に、他方の入力バッファメモ
リ42bからシフトレジスタ44bへ読み込んだ画像デ
ータの書き出しが行なわれる。
ジスタ43a,43b,44a,44bには、左右の4
×4画素の小領域の画像データ(1,1)…(4,4)
が保存され、一方のシフトレジスタ43a(44a)に
は1、2ラインのデータが、もう一方のシフトレジスタ
43b(44b)には3、4ラインのデータが、それぞ
れ1画素毎に奇数ライン、偶数ラインの順序で入る。
4a,44bは、それぞれが独立した転送ラインを持
ち、4×4画素のデータは例えば8クロックで転送され
る。そして、これらのシフトレジスタ43a,43b,
44a,44bは、8段のうちの偶数段の内容を同時に
シティブロック距離計算回路45に出力し、シティブロ
ック距離Hの計算が始まると、右画像のデータはシフト
レジスタ44a,44b内に保持されて、クロック毎に
奇数ライン、偶数ラインのデータが交互に出力され、一
方、左画像のデータはシフトレジスタ43a,43bに
転送され続け、奇数ライン、偶数ラインのデータが交互
に出力されつつ、2クロック毎に1画素分右のほうにず
れたデータに置き換わっていく。この動作を、例えば1
00画素分ずれるまで(200クロック)繰り返す。
すると、#2アドレスコントローラ87内の左画像用ア
ドレスカウンタに右画像用アドレスカウンタの内容(次
の4×4画素の小領域の先頭アドレス)がセットされ、
次の小領域の処理が始まる。シティブロック距離計算回
路45では、図12のタイミングチャートに示すよう
に、まず、ピラミッド型構造初段の絶対値演算器に8画
素分のデータを入力し、左右画像の輝度差の絶対値を計
算する。すなわち、右画素の輝度から対応する左画素の
輝度を引き算し、結果が負になった場合、演算命令を変
えることにより、引く方と引かれる方を逆にして再び引
き算を行なうことにより、絶対値の計算を行なう。従っ
て、初段では引き算を2回行なう場合がある。
段目までの第1ないし第3加算器で二つの同時入力デー
タを加算して出力する。そして、最終段の総和加算器で
二つの連続するデータを加え合わせて総和を計算し、必
要とする16画素分のシティブロック距離Hを2クロッ
ク毎に最小・最大値検出部50へ出力する。
S103で算出したシティブロック距離Hの最大値HMAX 、
最小値HMINを検出する。前述したように、この最大値
HMAX の検出と最小値HMIN の検出とは、互いに論理が
逆になることと、ずれ量を保存しないこと以外は、全く
同じであるため、以下、代表して最小値HMIN の検出に
ついて説明する。
ク距離H(ずれ量x=0)が、図11に示す最小値検出
回路51のCラッチ53を介して、演算器46のBレジ
スタ46bに入力される。次のクロックで出力されてき
たシティブロック距離H(ずれ量x=1)は、Cラッチ
53と演算器46のAレジスタ46aとに入れられ、演
算器46では、同時に、Bレジスタ46bとの比較演算
が始まる。
ジスタ46bの内容よりもAレジスタ46aの内容の方
が小さければ、次のクロックのときに、Cラッチ53の
内容(すなわちAレジスタ46aの内容)がBレジスタ
46bに送られ、このときのずれ量xがDラッチ55に
保存される。このクロックで同時に、次のシティブロッ
ク距離H(ずれ量x=2)がAレジスタ46aとCラッ
チ53に入れられ、再び比較演算が始まる。
にBレジスタ46bに、そのときのずれ量xがDラッチ
55に保存されながら、ずれ量xが100になるまで計
算が続けられる。計算が終了すると(最後のシティブロ
ック距離Hが出力されてから1クロック後)、Bレジス
タ46bとDラッチ55の内容はずれ量決定部60に読
み込まれる。
算回路45では次の小領域の初期値が読み込まれ、時間
の無駄を生じないようになっており、一つのシティブロ
ック距離Hを計算するのに、例えば4クロックかかる
が、パイプライン構造をとっているため、2クロック毎
に新たな計算結果が得られる。
ティブロック距離Hの最小値HMIN、最大値HMAX が確
定すると、ずれ量決定部60にて、前述した3つの条件
がチェックされ、ずれ量xが決定される。
示すように、Bバス62bを介して最小値HMIN が演算
器61のBレジスタ72にラッチされるとともに、この
Bレジスタ72の値と比較されるしきい値Ha がAバス
62aを介してAレジスタ71にラッチされる。そして
ALU70で両者が比較され、しきい値Ha よりも最小
値HMIN の方が大きければ、スイッチ回路65がリセッ
トされ、以後のチェックの如何に係わらず常に0が出力
されるようになる。
ッチされ、このAレジスタ71にラッチされた最大値H
MAX とBレジスタ72に保存されている最小値HMIN と
の差が計算されて、その結果がFレジスタ73に出力さ
れる。次のクロックでAレジスタ71にしきい値Hb が
ラッチされ、Fレジスタ73の値と比較される。Aレジ
スタ71にラッチされたしきい値Hb よりもFレジスタ
73の内容の方が小さければ同様にスイッチ回路65が
リセットされる。
の計算が始まる。輝度データが保存されている2組のシ
フトレジスタ64a,64bは10段構成であり、それ
ぞれ、シティブロック距離計算部40の1,2ライン用
のシフトレジスタ44aと、3,4ライン用のシフトレ
ジスタ44bの後段に接続されている。上記シフトレジ
スタ64a,64bの出力は最後の段とその2つ手前の
段から取り出され、それぞれが、Aバス62aとBバス
62bとに出力される。
ジスタ64a,64bの各段には小領域中の各場所の輝
度データが保持されており、初めに前回の小領域の第4
行第1列の輝度データと、今回の小領域の第1行第1列
の輝度データとが、演算器61のAレジスタ71とBレ
ジスタ72とにラッチされる。
タ72の内容の差の絶対値が計算され、結果がFレジス
タ73に保存される。次のクロックでAレジスタ71に
しきい値Hc がラッチされ、Fレジスタ73の値と比較
される。
の内容(しきい値Hc)よりもFレジスタ73の内容
(輝度差の絶対値)のほうが大きければ、上記スイッチ
回路65からずれ量xあるいは”0”が出力され、、A
レジスタの内容よりもFレジスタ73の内容のほうが小
さければ”0”が出力されて、出力バッファメモリ66
a,66bの該当する小領域の第1行第1列に当たる位
置に書き込まれる。
きい値Hc との比較が行なわれている間に、シフトレジ
スタ64a,64bは1段シフトする。そして今度は、
前回の小領域の第4行第2列と、今回の小領域の第1行
第2列の輝度データに対して計算を始める。このように
して小領域の第1列、第2列に対し交互に計算を行なっ
た後、第3列、第4列に対して同様に計算を進める。
の最終段と最初の段がつながってリングレジスタになっ
ており、小領域全体を計算した後にシフトクロックが2
回追加されるとレジスタの内容が計算前の状態に戻り、
次の小領域の輝度データが転送され終わったときに、最
終段とその前の段に今回の小領域の第4行のデータが留
められる。
次のデータをAバス62a,Bバス62bに用意した
り、結果の書き込みを行なうため、計算に必要な2クロ
ックのみで一つのデータが処理される。この結果、初め
に行なう最小値HMIN 、最大値HMAX のチェックを含め
ても、例えば43クロックで全ての計算が終了し、一つ
の小領域に対して、シティブロック距離Hの最小値HMI
N 、最大値HMAX を求めるのに要する時間は充分に余裕
があり、さらに機能を追加することも可能である。
プS106で、出力バッファメモリ66a,66bからデュ
アルポートメモリ90へ、ずれ量xを距離分布情報とし
て出力し、ステレオ画像処理装置20における処理が終
了する。
は、前述した入力バッファメモリ41a,41b,43
a,43bと同様、例えば4ライン分の容量があり、2
組の一方に書き込んでいる間にもう一方から上記デュア
ルポートメモリ90へ距離分布情報を送り出す。
れた距離分布情報からは、CCDカメラ11,12の取
付け位置と焦点距離などのレンズパラメータとから、各
画素に対応する物体のXYZ空間における3次元位置を
算出することができ、情報量の低下なく車外の対象物ま
での距離を正確に検出することができる。
XYZ空間における3次元位置への計算は、ステレオ画
像処理装置20内で処理しても良く、ステレオ画像処理
装置20から外部に出力されるデータ形式は、接続する
外部装置との兼ね合いで定めれば良い。
テム全体のタイミングについて、図14に示すタイミン
グチャートに従って説明する。
Dカメラ11a,11bからのフィールド信号を0.1
秒毎(3画面に1画面の割合)に、画像メモリ33a,
33bに書き込む。
ン毎のブロック転送が始まる。この転送は、右画像、左
画像、結果の距離分布像の順に3ブロック転送する。
対してずれ量xの計算が行われる。そして、ずれ量xの
計算時間を考慮し、所定時間待機してからもう一方の入
出力バッファメモリに対して転送を始める。
るシティブロック距離Hの計算は、左画像について10
0画素ずらしながら計算するため、100回行われる。
一つの領域のシティブロック距離Hが計算されている間
に、その前の領域のずれ量xが各チェックを経て距離分
布として出力される。
イン分の処理を50回繰り返すことになり、計算の開始
時に最初のデータを転送するための4ライン分の処理時
間、計算終了後に最後の結果を画像認識部に転送するた
めの4ライン分の処理時間と、計8ライン分の処理時間
がさらに必要となる。
ら最後の距離分布を転送し終わるまでの時間は、実際の
回路動作の結果、0.076秒である。
像した画像から、情報量を低下させることなく、しかも
高速に、画像全体に渡る距離分布を求めることができる
ため、その距離分布を利用することにより、例えば、道
路端や白線の3次元位置と周囲の立体物の3次元位置と
を同時に検出することができ、走行の妨げとなる障害物
の位置や動きを考慮した、より高度な障害物回避を実現
することができるなど優れた効果が得られる。
イミングチャート
ト
Claims (5)
- 【請求項1】 車外の設定範囲内の対象に対し、互いに
異なる方向から複数枚の画像を撮像する撮像系を備え、 上記撮像系で撮像した複数枚の画像を処理して画像全体
に渡る距離分布を出力する画像処理手段に、 上記撮像系で撮像した複数枚の画像に対応して、所定の
領域毎に一致度を高速で計算する一致度計算部と、 上記一致度計算部で計算した一致度の最小値に基づい
て、上記複数枚の画像の対応する画素位置のずれ量を上
記距離分布に係わる情報として決定するずれ量決定部と
を備えたことを特徴とする車輌用距離検出装置。 - 【請求項2】 車外の設定範囲内の対象に対し、互いに
異なる方向から複数枚のアナログ画像を撮像する撮像系
を備え、 上記撮像系で撮像した複数枚のアナログ画像を処理して
画像全体に渡る距離分布を出力する画像処理手段に、 上記撮像系で撮像した複数枚のアナログ画像を、所定の
輝度階調を有するデジタル画像に変換する画像変換部
と、 上記画像変換部で変換した複数枚のデジタル画像の所定
の領域毎に一致度を高速で計算する一致度計算部と、 上記一致度計算部で計算した一致度の最小値及び最大値
を検出する最小・最大値検出部と、 上記最小・最大値検出部で検出した一致度の最小値及び
最大値に対し、最小値が第1の規定値以下で、最大値と
最小値との差が第2の規定値以上であり、且つ、上記複
数枚のデジタル画像のうちの所定の画像の微小部分の輝
度変化が第3の規定値以上である場合に、上記最小・最
大値検出部で検出した一致度の最小値に基づいて、上記
複数枚のデジタル画像の対応する画素位置のずれ量を上
記距離分布に係わる情報として決定するずれ量決定部と
を備えたことを特徴とする車輌用距離検出装置。 - 【請求項3】 上記画像変換部に、上記撮像系で撮像し
た画像全体を記憶する低速の画像メモリを備え、上記一
致度計算部に、画像の一部を取り出して記憶する高速の
バッファメモリを備えたことを特徴とする請求項2記載
の車輌用距離検出装置。 - 【請求項4】 上記画像変換部に、上記撮像系からの出
力を補正するデータテーブルを備えたことを特徴とする
請求項2記載の車輌用距離検出装置。 - 【請求項5】 上記撮像系を、固体撮像素子を有する遠
距離用の2台のカメラと、固体撮像素子を有する近距離
用の2台のカメラとから構成したことを特徴とする請求
項1または請求項2記載の車輌用距離検出装置。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP27431591A JP3167752B2 (ja) | 1991-10-22 | 1991-10-22 | 車輌用距離検出装置 |
| US07/960,688 US5307136A (en) | 1991-10-22 | 1992-10-14 | Distance detection system for vehicles |
| GB9221783A GB2261339B (en) | 1991-10-22 | 1992-10-16 | Distance detection system for vehicle |
| DE4235619A DE4235619C2 (de) | 1991-10-22 | 1992-10-22 | Entfernungsbestimmungseinrichtung für Automobile |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP27431591A JP3167752B2 (ja) | 1991-10-22 | 1991-10-22 | 車輌用距離検出装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH05114099A true JPH05114099A (ja) | 1993-05-07 |
| JP3167752B2 JP3167752B2 (ja) | 2001-05-21 |
Family
ID=17539940
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP27431591A Expired - Lifetime JP3167752B2 (ja) | 1991-10-22 | 1991-10-22 | 車輌用距離検出装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US5307136A (ja) |
| JP (1) | JP3167752B2 (ja) |
| DE (1) | DE4235619C2 (ja) |
| GB (1) | GB2261339B (ja) |
Cited By (44)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH07120256A (ja) * | 1993-10-27 | 1995-05-12 | Fuji Heavy Ind Ltd | 車輌用距離検出装置 |
| JPH07120255A (ja) * | 1993-10-27 | 1995-05-12 | Fuji Heavy Ind Ltd | 車輌用距離検出装置 |
| JPH07120257A (ja) * | 1993-10-27 | 1995-05-12 | Fuji Heavy Ind Ltd | 車輌用距離検出装置 |
| JPH08138053A (ja) * | 1994-11-08 | 1996-05-31 | Canon Inc | 被写体情報処理装置及び遠隔装置 |
| JPH1183530A (ja) * | 1997-09-11 | 1999-03-26 | Fuji Heavy Ind Ltd | 画像のオプティカルフロー検出装置及び移動体の自己位置認識システム |
| JPH11326541A (ja) * | 1998-05-21 | 1999-11-26 | Nissan Motor Co Ltd | 撮像環境推定装置 |
| DE19723963C2 (de) * | 1996-06-06 | 2001-09-06 | Fuji Heavy Ind Ltd | Objekterkennungsvorrichtung und -verfahren für Fahrzeuge |
| US6366691B1 (en) | 1999-09-22 | 2002-04-02 | Fuji Jukogyo Kabushiki Kaisha | Stereoscopic image processing apparatus and method |
| US6373518B1 (en) | 1998-05-14 | 2002-04-16 | Fuji Jukogyo Kabushiki Kaisha | Image correction apparatus for stereo camera |
| US6404484B1 (en) | 1999-09-22 | 2002-06-11 | Fuji Jukogyo Kabushiki Kaisha | Method for examining distance data and device thereof |
| US6483429B1 (en) | 1999-10-21 | 2002-11-19 | Matsushita Electric Industrial Co., Ltd. | Parking assistance system |
| US6552742B1 (en) | 1999-09-16 | 2003-04-22 | Fuji Jukogyo Kabushiki Kaisha | Positional deviation adjusting apparatus of stereo image |
| US6813370B1 (en) | 1999-09-22 | 2004-11-02 | Fuji Jukogyo Kabushiki Kaisha | Lane marker recognizing apparatus |
| EP1524638A1 (en) | 2003-10-17 | 2005-04-20 | Fuji Jukogyo Kabushiki Kaisha | Information display apparatus and method |
| US6987534B1 (en) | 1999-08-30 | 2006-01-17 | Fuji Jukogyo Kabushiki Kaisha | Brightness adjusting apparatus for stereoscopic camera |
| US6999896B2 (en) | 2002-07-03 | 2006-02-14 | Fuji Jukogyo Kabushiki Kaisha | Identical object determination method and apparatus and displacement correction method and apparatus |
| US7092015B1 (en) | 1999-09-22 | 2006-08-15 | Fuji Jukogyo Kabushiki Kaisha | Apparatus and method for stereo matching and method of calculating an infinite distance corresponding point |
| WO2006090735A1 (ja) | 2005-02-23 | 2006-08-31 | Aisin Seiki Kabushiki Kaisha | エピポーラ幾何を用いた物体認識装置及び物体認識方法 |
| WO2007000868A1 (ja) | 2005-06-27 | 2007-01-04 | Aisin Seiki Kabushiki Kaisha | 障害物検出装置 |
| US7177747B2 (en) | 2003-07-04 | 2007-02-13 | Fuji Jukogyo Kabushiki Kaisha | Vehicle braking device and vehicle braking method |
| JP2007334760A (ja) * | 2006-06-16 | 2007-12-27 | Auto Network Gijutsu Kenkyusho:Kk | ドライブレコーダ |
| DE102008006375A1 (de) | 2007-01-31 | 2008-08-21 | Fuji Jukogyo Kabushiki Kaisha | Überwachungssystem |
| DE102008006951A1 (de) | 2007-01-31 | 2008-09-04 | Fuji Jukogyo Kabushiki Kaisha | Erfassungssystem für vorausfahrende Fahrzeuge |
| DE102008012840A1 (de) | 2007-03-07 | 2008-11-06 | Fuji Jukogyo Kabushiki Kaisha | Objekterfassungssystem |
| DE102008025723A1 (de) | 2007-06-01 | 2009-01-02 | Fuji Jukogyo K.K. | Vorrichtung zur Überwachung der Umgebung eines Fahrzeugs |
| DE102008029124A1 (de) | 2007-06-22 | 2009-01-22 | Fuji Jukogyo K.K. | Abbiegespurzugang-Beurteilungssystem |
| US7499638B2 (en) | 2003-08-28 | 2009-03-03 | Olympus Corporation | Object recognition apparatus |
| DE102008053460A1 (de) | 2007-10-29 | 2009-06-10 | Fuji Jukogyo K.K. | Objekterfassungssystem |
| DE102008053472A1 (de) | 2007-10-29 | 2009-06-25 | Fuji Jukogyo K.K. | Objekt-Erfassungssystem |
| DE102009005184A1 (de) | 2008-01-22 | 2009-08-06 | Fuji Jukogyo K.K. | Fahrzeugabtastsystem |
| DE102009005860A1 (de) | 2008-01-25 | 2009-10-08 | Fuji Jukogyo Kabushiki Kaisha | Umgebungs-Erkennungssystem |
| DE102009005861A1 (de) | 2008-01-25 | 2009-10-08 | Fuji Jukogyo Kabushiki Kaisha | Fahrzeugumgebungs-Erkennungssystem |
| DE102009010018A1 (de) | 2008-02-27 | 2009-10-15 | Fuji Jukogyo Kabushiki Kaisha | Lenkhilfesystem |
| DE102009015142A1 (de) | 2008-03-27 | 2009-12-17 | Fuji Jukogyo K.K. | Fahrzeugumgebungs-Erkennungs-Vorrichtung und Steuerungssystem zum Verfolgen eines vorausfahrenden Fahrzeugs |
| US7697749B2 (en) | 2004-08-09 | 2010-04-13 | Fuji Jukogyo Kabushiki Kaisha | Stereo image processing device |
| US8311729B2 (en) | 2006-03-29 | 2012-11-13 | Fuji Jukogyo Kabushiki Kaisha | Traffic lane deviation preventing system for a vehicle |
| US8976999B2 (en) | 2011-02-16 | 2015-03-10 | Fuji Jukogyo Kabushiki Kaisha | Vehicle detection apparatus |
| US9594966B2 (en) | 2013-02-21 | 2017-03-14 | Sharp Kabushiki Kaisha | Obstacle detection device and obstacle detection method |
| WO2017212927A1 (ja) | 2016-06-08 | 2017-12-14 | ソニー株式会社 | 撮像制御装置および方法、並びに車両 |
| WO2018037947A1 (en) | 2016-08-24 | 2018-03-01 | Sony Corporation | Information processing apparatus and method, vehicle, and information processing system |
| WO2018230340A1 (ja) * | 2017-06-15 | 2018-12-20 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
| JP2020066421A (ja) * | 2018-10-23 | 2020-04-30 | ザ・ボーイング・カンパニーThe Boeing Company | 離陸時の航空機と滑走路中心線との位置合わせ |
| US11044463B2 (en) | 2017-06-27 | 2021-06-22 | Sony Corporation | Image processing device and image processing method |
| US11076141B2 (en) | 2016-06-08 | 2021-07-27 | Sony Corporation | Image processing device, image processing method, and vehicle |
Families Citing this family (200)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3110095B2 (ja) * | 1991-09-20 | 2000-11-20 | 富士通株式会社 | 測距方法及び測距装置 |
| JPH05265547A (ja) * | 1992-03-23 | 1993-10-15 | Fuji Heavy Ind Ltd | 車輌用車外監視装置 |
| US5515448A (en) * | 1992-07-28 | 1996-05-07 | Yazaki Corporation | Distance measuring apparatus of a target tracking type |
| JP3365799B2 (ja) * | 1992-11-24 | 2003-01-14 | オリンパス光学工業株式会社 | 距離・速度測定装置 |
| US6498620B2 (en) | 1993-02-26 | 2002-12-24 | Donnelly Corporation | Vision system for a vehicle including an image capture device and a display system having a long focal length |
| US5670935A (en) | 1993-02-26 | 1997-09-23 | Donnelly Corporation | Rearview vision system for vehicle including panoramic view |
| US6822563B2 (en) | 1997-09-22 | 2004-11-23 | Donnelly Corporation | Vehicle imaging system with accessory control |
| US7339149B1 (en) | 1993-02-26 | 2008-03-04 | Donnelly Corporation | Vehicle headlight control using imaging sensor |
| US5877897A (en) | 1993-02-26 | 1999-03-02 | Donnelly Corporation | Automatic rearview mirror, vehicle lighting control and vehicle interior monitoring system using a photosensor array |
| US5910854A (en) | 1993-02-26 | 1999-06-08 | Donnelly Corporation | Electrochromic polymeric solid films, manufacturing electrochromic devices using such solid films, and processes for making such solid films and devices |
| JP3468428B2 (ja) * | 1993-03-24 | 2003-11-17 | 富士重工業株式会社 | 車輌用距離検出装置 |
| JPH06300581A (ja) * | 1993-04-15 | 1994-10-28 | Fuji Heavy Ind Ltd | 車輛の軌道追従制御装置 |
| US6553130B1 (en) * | 1993-08-11 | 2003-04-22 | Jerome H. Lemelson | Motor vehicle warning and control system and method |
| US5983161A (en) | 1993-08-11 | 1999-11-09 | Lemelson; Jerome H. | GPS vehicle collision avoidance warning and control system and method |
| US5586063A (en) * | 1993-09-01 | 1996-12-17 | Hardin; Larry C. | Optical range and speed detection system |
| JP3522317B2 (ja) * | 1993-12-27 | 2004-04-26 | 富士重工業株式会社 | 車輌用走行案内装置 |
| JPH07189795A (ja) * | 1993-12-28 | 1995-07-28 | Hitachi Ltd | 自動車の制御装置及び制御方法 |
| JP3205477B2 (ja) * | 1994-02-17 | 2001-09-04 | 富士フイルムマイクロデバイス株式会社 | 車間距離検出装置 |
| US5668663A (en) | 1994-05-05 | 1997-09-16 | Donnelly Corporation | Electrochromic mirrors and devices |
| GB2289786B (en) | 1994-05-23 | 1998-09-16 | Automotive Tech Int | Side impact airbag system with anticipatory sensor |
| US6343810B1 (en) | 1994-05-23 | 2002-02-05 | Automotive Technologies International Inc. | Side impact airbag system with anticipatory sensor |
| US6623033B2 (en) | 1994-05-23 | 2003-09-23 | Automotive Technologies International, Inc. | Airbag inflation control system and method |
| US6918459B2 (en) * | 1994-05-23 | 2005-07-19 | Automotive Technologies International, Inc. | Method and apparatus for deploying airbags |
| US6749218B2 (en) | 1994-05-23 | 2004-06-15 | Automotive Technologies International, Inc. | Externally deployed airbag system |
| US7359782B2 (en) * | 1994-05-23 | 2008-04-15 | Automotive Technologies International, Inc. | Vehicular impact reactive system and method |
| US6755273B2 (en) | 1994-05-23 | 2004-06-29 | Automotive Technologies International, Inc. | Combined airbag inflation and occupant displacement enabling method and apparatus |
| JPH10512953A (ja) * | 1995-01-18 | 1998-12-08 | ラリー シー ハーディン | 光学的なレンジ及び速度検出システム |
| US6891563B2 (en) | 1996-05-22 | 2005-05-10 | Donnelly Corporation | Vehicular vision system |
| US5777563A (en) * | 1995-10-10 | 1998-07-07 | Chrysler Corporation | Method and assembly for object detection by a vehicle |
| US7655894B2 (en) | 1996-03-25 | 2010-02-02 | Donnelly Corporation | Vehicular image sensing system |
| US6550949B1 (en) * | 1996-06-13 | 2003-04-22 | Gentex Corporation | Systems and components for enhancing rear vision from a vehicle |
| US5680123A (en) * | 1996-08-06 | 1997-10-21 | Lee; Gul Nam | Vehicle monitoring system |
| EP0898245B1 (en) | 1997-08-05 | 2004-04-14 | Canon Kabushiki Kaisha | Image processing method and apparatus |
| US6647146B1 (en) | 1997-08-05 | 2003-11-11 | Canon Kabushiki Kaisha | Image processing apparatus |
| EP0901105A1 (en) | 1997-08-05 | 1999-03-10 | Canon Kabushiki Kaisha | Image processing apparatus |
| US8294975B2 (en) | 1997-08-25 | 2012-10-23 | Donnelly Corporation | Automotive rearview mirror assembly |
| US6326613B1 (en) | 1998-01-07 | 2001-12-04 | Donnelly Corporation | Vehicle interior mirror assembly adapted for containing a rain sensor |
| US6124886A (en) | 1997-08-25 | 2000-09-26 | Donnelly Corporation | Modular rearview mirror assembly |
| US6172613B1 (en) | 1998-02-18 | 2001-01-09 | Donnelly Corporation | Rearview mirror assembly incorporating vehicle information display |
| CA2320153A1 (en) * | 1997-12-31 | 1999-07-08 | Gentex Corporation | Vehicle vision system |
| US6445287B1 (en) | 2000-02-28 | 2002-09-03 | Donnelly Corporation | Tire inflation assistance monitoring system |
| US8288711B2 (en) | 1998-01-07 | 2012-10-16 | Donnelly Corporation | Interior rearview mirror system with forwardly-viewing camera and a control |
| US6693517B2 (en) | 2000-04-21 | 2004-02-17 | Donnelly Corporation | Vehicle mirror assembly communicating wirelessly with vehicle accessories and occupants |
| US6329925B1 (en) | 1999-11-24 | 2001-12-11 | Donnelly Corporation | Rearview mirror assembly with added feature modular display |
| US6477464B2 (en) | 2000-03-09 | 2002-11-05 | Donnelly Corporation | Complete mirror-based global-positioning system (GPS) navigation solution |
| JP3452794B2 (ja) * | 1998-05-12 | 2003-09-29 | 三菱電機株式会社 | 視程測定装置 |
| JPH11353565A (ja) * | 1998-06-09 | 1999-12-24 | Yazaki Corp | 車両用衝突警報方法及び装置 |
| JP3307335B2 (ja) * | 1998-07-22 | 2002-07-24 | 日本電気株式会社 | 車両領域検出装置及び車両領域検定方法 |
| JP2003501635A (ja) | 1999-05-26 | 2003-01-14 | ローベルト ボッシュ ゲゼルシャフト ミット ベシュレンクテル ハフツング | 対象検出システム |
| DE19934670B4 (de) * | 1999-05-26 | 2004-07-08 | Robert Bosch Gmbh | Objektdetektionssystem |
| US7167796B2 (en) | 2000-03-09 | 2007-01-23 | Donnelly Corporation | Vehicle navigation system for use with a telematics system |
| AU2001243285A1 (en) | 2000-03-02 | 2001-09-12 | Donnelly Corporation | Video mirror systems incorporating an accessory module |
| US7370983B2 (en) | 2000-03-02 | 2008-05-13 | Donnelly Corporation | Interior mirror assembly with display |
| US6396408B2 (en) | 2000-03-31 | 2002-05-28 | Donnelly Corporation | Digital electrochromic circuit with a vehicle network |
| US6566004B1 (en) | 2000-08-31 | 2003-05-20 | General Motors Corporation | Fuel cell with variable porosity gas distribution layers |
| JP2002216113A (ja) * | 2001-01-16 | 2002-08-02 | Fujitsu Ten Ltd | 物体認識装置 |
| WO2002062623A2 (en) | 2001-01-23 | 2002-08-15 | Donnelly Corporation | Improved vehicular lighting system for a mirror assembly |
| US7581859B2 (en) | 2005-09-14 | 2009-09-01 | Donnelly Corp. | Display device for exterior rearview mirror |
| US7255451B2 (en) | 2002-09-20 | 2007-08-14 | Donnelly Corporation | Electro-optic mirror cell |
| US6424273B1 (en) | 2001-03-30 | 2002-07-23 | Koninklijke Philips Electronics N.V. | System to aid a driver to determine whether to change lanes |
| US7697027B2 (en) | 2001-07-31 | 2010-04-13 | Donnelly Corporation | Vehicular video system |
| US6882287B2 (en) | 2001-07-31 | 2005-04-19 | Donnelly Corporation | Automotive lane change aid |
| DE10141220A1 (de) * | 2001-08-23 | 2003-04-10 | Valeo Schalter & Sensoren Gmbh | Umfelderkennungssystem |
| US20030076981A1 (en) * | 2001-10-18 | 2003-04-24 | Smith Gregory Hugh | Method for operating a pre-crash sensing system in a vehicle having a counter-measure system |
| US6819991B2 (en) * | 2001-11-29 | 2004-11-16 | Ford Global Technologies, Llc | Vehicle sensing based pre-crash threat assessment system |
| US6775605B2 (en) | 2001-11-29 | 2004-08-10 | Ford Global Technologies, Llc | Remote sensing based pre-crash threat assessment system |
| US7158870B2 (en) * | 2002-01-24 | 2007-01-02 | Ford Global Technologies, Llc | Post collision restraints control module |
| US6831572B2 (en) | 2002-01-29 | 2004-12-14 | Ford Global Technologies, Llc | Rear collision warning system |
| US6721659B2 (en) | 2002-02-01 | 2004-04-13 | Ford Global Technologies, Llc | Collision warning and safety countermeasure system |
| US6519519B1 (en) | 2002-02-01 | 2003-02-11 | Ford Global Technologies, Inc. | Passive countermeasure methods |
| US7009500B2 (en) | 2002-02-13 | 2006-03-07 | Ford Global Technologies, Llc | Method for operating a pre-crash sensing system in a vehicle having a countermeasure system using stereo cameras |
| US6498972B1 (en) | 2002-02-13 | 2002-12-24 | Ford Global Technologies, Inc. | Method for operating a pre-crash sensing system in a vehicle having a countermeasure system |
| AU2003225228A1 (en) | 2002-05-03 | 2003-11-17 | Donnelly Corporation | Object detection system for vehicle |
| US6918674B2 (en) | 2002-05-03 | 2005-07-19 | Donnelly Corporation | Vehicle rearview mirror system |
| AU2003237424A1 (en) | 2002-06-06 | 2003-12-22 | Donnelly Corporation | Interior rearview mirror system with compass |
| US7329013B2 (en) | 2002-06-06 | 2008-02-12 | Donnelly Corporation | Interior rearview mirror system with compass |
| JP3895238B2 (ja) * | 2002-08-28 | 2007-03-22 | 株式会社東芝 | 障害物検出装置及びその方法 |
| WO2004103772A2 (en) | 2003-05-19 | 2004-12-02 | Donnelly Corporation | Mirror assembly for vehicle |
| US7310177B2 (en) | 2002-09-20 | 2007-12-18 | Donnelly Corporation | Electro-optic reflective element assembly |
| AU2003278863A1 (en) | 2002-09-20 | 2004-04-08 | Donnelly Corporation | Mirror reflective element assembly |
| US8309265B2 (en) | 2003-09-12 | 2012-11-13 | Hitachi, Ltd. | Electrolyte membrane for fuel cells, its production and fuel cell using the same |
| US7446924B2 (en) | 2003-10-02 | 2008-11-04 | Donnelly Corporation | Mirror reflective element assembly including electronic component |
| US7308341B2 (en) | 2003-10-14 | 2007-12-11 | Donnelly Corporation | Vehicle communication system |
| JP4638143B2 (ja) * | 2003-12-26 | 2011-02-23 | 富士重工業株式会社 | 車両用運転支援装置 |
| US7526103B2 (en) * | 2004-04-15 | 2009-04-28 | Donnelly Corporation | Imaging system for vehicle |
| WO2006014974A2 (en) | 2004-07-26 | 2006-02-09 | Automotive Systems Laboratory, Inc. | Vulnerable road user protection system |
| US7881496B2 (en) | 2004-09-30 | 2011-02-01 | Donnelly Corporation | Vision system for vehicle |
| US20060111841A1 (en) * | 2004-11-19 | 2006-05-25 | Jiun-Yuan Tseng | Method and apparatus for obstacle avoidance with camera vision |
| US7720580B2 (en) | 2004-12-23 | 2010-05-18 | Donnelly Corporation | Object detection system for vehicle |
| US7231288B2 (en) * | 2005-03-15 | 2007-06-12 | Visteon Global Technologies, Inc. | System to determine distance to a lead vehicle |
| US7656432B2 (en) * | 2005-03-30 | 2010-02-02 | Hoya Corporation | Method and apparatus for photographing moving object |
| ATE517368T1 (de) | 2005-05-16 | 2011-08-15 | Donnelly Corp | Fahrzeugspiegelanordnung mit zeichen am reflektierenden teil |
| US7488083B2 (en) * | 2005-08-22 | 2009-02-10 | Gentex Corporation | Vehicular rearview components and assemblies |
| CN101535087B (zh) | 2005-11-01 | 2013-05-15 | 唐纳利公司 | 具有显示装置的内部后视镜 |
| JP4426535B2 (ja) * | 2006-01-17 | 2010-03-03 | 本田技研工業株式会社 | 車両の周辺監視装置 |
| JP4725391B2 (ja) * | 2006-03-29 | 2011-07-13 | 株式会社デンソー | 車両用視程測定装置、及び運転支援装置 |
| WO2008024639A2 (en) | 2006-08-11 | 2008-02-28 | Donnelly Corporation | Automatic headlamp control system |
| US8013780B2 (en) | 2007-01-25 | 2011-09-06 | Magna Electronics Inc. | Radar sensing system for vehicle |
| ITPR20070006A1 (it) * | 2007-02-08 | 2008-08-09 | Techimp S P A | Procedimento per elaborare dati relativi a un'attivita di scariche elettriche parziali |
| JP4748082B2 (ja) * | 2007-02-23 | 2011-08-17 | トヨタ自動車株式会社 | 車両用周辺監視装置及び車両用周辺監視方法 |
| US7914187B2 (en) | 2007-07-12 | 2011-03-29 | Magna Electronics Inc. | Automatic lighting system with adaptive alignment function |
| US8017898B2 (en) | 2007-08-17 | 2011-09-13 | Magna Electronics Inc. | Vehicular imaging system in an automatic headlamp control system |
| US8451107B2 (en) | 2007-09-11 | 2013-05-28 | Magna Electronics, Inc. | Imaging system for vehicle |
| FR2921027B1 (fr) * | 2007-09-17 | 2010-02-26 | Valeo Vision | Dispositif d'aide a la conduite pour vehicule automobile comportant un systeme de capture d'images stereoscopique |
| US8446470B2 (en) | 2007-10-04 | 2013-05-21 | Magna Electronics, Inc. | Combined RGB and IR imaging sensor |
| CN101451835B (zh) * | 2007-12-07 | 2010-09-01 | 聂劲松 | 一种较差能见度天气条件下汽车防撞方法 |
| US8154418B2 (en) | 2008-03-31 | 2012-04-10 | Magna Mirrors Of America, Inc. | Interior rearview mirror system |
| US8170787B2 (en) * | 2008-04-15 | 2012-05-01 | Caterpillar Inc. | Vehicle collision avoidance system |
| US8280621B2 (en) * | 2008-04-15 | 2012-10-02 | Caterpillar Inc. | Vehicle collision avoidance system |
| US20090259399A1 (en) * | 2008-04-15 | 2009-10-15 | Caterpillar Inc. | Obstacle detection method and system |
| US20100020170A1 (en) | 2008-07-24 | 2010-01-28 | Higgins-Luthman Michael J | Vehicle Imaging System |
| US9487144B2 (en) | 2008-10-16 | 2016-11-08 | Magna Mirrors Of America, Inc. | Interior mirror assembly with display |
| DE102009000550B4 (de) * | 2009-02-02 | 2018-10-04 | Ford Global Technologies, Llc | Weitwinkelbildgebungssystem für die Bereitstellung eines Bildes der Umgebung eines Fahrzeugs, insbesondere eines Kraftfahrzeugs |
| US8466960B2 (en) * | 2009-02-16 | 2013-06-18 | Ricoh Company, Ltd. | Liquid droplet recognition apparatus, raindrop recognition apparatus, and on-vehicle monitoring apparatus |
| WO2010099416A1 (en) | 2009-02-27 | 2010-09-02 | Magna Electronics | Alert system for vehicle |
| US8376595B2 (en) | 2009-05-15 | 2013-02-19 | Magna Electronics, Inc. | Automatic headlamp control |
| US9495876B2 (en) | 2009-07-27 | 2016-11-15 | Magna Electronics Inc. | Vehicular camera with on-board microcontroller |
| WO2011014482A1 (en) | 2009-07-27 | 2011-02-03 | Magna Electronics Inc. | Parking assist system |
| EP2473871B1 (en) | 2009-09-01 | 2015-03-11 | Magna Mirrors Of America, Inc. | Imaging and display system for vehicle |
| US8890955B2 (en) | 2010-02-10 | 2014-11-18 | Magna Mirrors Of America, Inc. | Adaptable wireless vehicle vision system based on wireless communication error |
| US9117123B2 (en) | 2010-07-05 | 2015-08-25 | Magna Electronics Inc. | Vehicular rear view camera display system with lifecheck function |
| KR101207903B1 (ko) * | 2010-10-11 | 2012-12-04 | 국방과학연구소 | 자율 이동 차량용 장애물 정보 제공장치 및 그 방법 |
| DE112011103834B4 (de) | 2010-11-19 | 2026-03-26 | Magna Electronics, Inc. | Spurhalteassistent und Spurzentrierung |
| WO2012075250A1 (en) | 2010-12-01 | 2012-06-07 | Magna Electronics Inc. | System and method of establishing a multi-camera image using pixel remapping |
| US9264672B2 (en) | 2010-12-22 | 2016-02-16 | Magna Mirrors Of America, Inc. | Vision display system for vehicle |
| US9085261B2 (en) | 2011-01-26 | 2015-07-21 | Magna Electronics Inc. | Rear vision system with trailer angle detection |
| JP5830876B2 (ja) * | 2011-02-18 | 2015-12-09 | 富士通株式会社 | 距離算出プログラム、距離算出方法及び距離算出装置 |
| US9194943B2 (en) | 2011-04-12 | 2015-11-24 | Magna Electronics Inc. | Step filter for estimating distance in a time-of-flight ranging system |
| US9357208B2 (en) | 2011-04-25 | 2016-05-31 | Magna Electronics Inc. | Method and system for dynamically calibrating vehicular cameras |
| US9547795B2 (en) | 2011-04-25 | 2017-01-17 | Magna Electronics Inc. | Image processing method for detecting objects using relative motion |
| US9834153B2 (en) | 2011-04-25 | 2017-12-05 | Magna Electronics Inc. | Method and system for dynamically calibrating vehicular cameras |
| WO2013016409A1 (en) | 2011-07-26 | 2013-01-31 | Magna Electronics Inc. | Vision system for vehicle |
| WO2013019707A1 (en) | 2011-08-01 | 2013-02-07 | Magna Electronics Inc. | Vehicle camera alignment system |
| DE112012003931T5 (de) | 2011-09-21 | 2014-07-10 | Magna Electronics, Inc. | Bildverarbeitungssystem für ein Kraftfahrzeug mit Bilddatenübertragung undStromversorgung über ein Koaxialkabel |
| US9681062B2 (en) | 2011-09-26 | 2017-06-13 | Magna Electronics Inc. | Vehicle camera image quality improvement in poor visibility conditions by contrast amplification |
| US9146898B2 (en) | 2011-10-27 | 2015-09-29 | Magna Electronics Inc. | Driver assist system with algorithm switching |
| US9491451B2 (en) | 2011-11-15 | 2016-11-08 | Magna Electronics Inc. | Calibration system and method for vehicular surround vision system |
| US10071687B2 (en) | 2011-11-28 | 2018-09-11 | Magna Electronics Inc. | Vision system for vehicle |
| US9762880B2 (en) | 2011-12-09 | 2017-09-12 | Magna Electronics Inc. | Vehicle vision system with customized display |
| US10008002B2 (en) * | 2012-02-28 | 2018-06-26 | NXP Canada, Inc. | Single-camera distance estimation |
| US8694224B2 (en) | 2012-03-01 | 2014-04-08 | Magna Electronics Inc. | Vehicle yaw rate correction |
| US10609335B2 (en) | 2012-03-23 | 2020-03-31 | Magna Electronics Inc. | Vehicle vision system with accelerated object confirmation |
| US8824733B2 (en) | 2012-03-26 | 2014-09-02 | Tk Holdings Inc. | Range-cued object segmentation system and method |
| US8768007B2 (en) | 2012-03-26 | 2014-07-01 | Tk Holdings Inc. | Method of filtering an image |
| US9751465B2 (en) | 2012-04-16 | 2017-09-05 | Magna Electronics Inc. | Vehicle vision system with reduced image color data processing by use of dithering |
| US10089537B2 (en) | 2012-05-18 | 2018-10-02 | Magna Electronics Inc. | Vehicle vision system with front and rear camera integration |
| US9340227B2 (en) | 2012-08-14 | 2016-05-17 | Magna Electronics Inc. | Vehicle lane keep assist system |
| DE102013217430B4 (de) | 2012-09-04 | 2026-02-26 | Magna Electronics, Inc. | Fahrerassistenzsystem für ein Kraftfahrzeug |
| US9446713B2 (en) | 2012-09-26 | 2016-09-20 | Magna Electronics Inc. | Trailer angle detection system |
| US9558409B2 (en) | 2012-09-26 | 2017-01-31 | Magna Electronics Inc. | Vehicle vision system with trailer angle detection |
| US9723272B2 (en) | 2012-10-05 | 2017-08-01 | Magna Electronics Inc. | Multi-camera image stitching calibration system |
| EP2911028B1 (en) * | 2012-10-22 | 2018-07-25 | Yamaha Hatsudoki Kabushiki Kaisha | Distance measurement device and vehicle using same |
| WO2014070448A1 (en) | 2012-10-31 | 2014-05-08 | Tk Holdings, Inc. | Vehicular path sensing system and method |
| US9090234B2 (en) | 2012-11-19 | 2015-07-28 | Magna Electronics Inc. | Braking control system for vehicle |
| US9743002B2 (en) | 2012-11-19 | 2017-08-22 | Magna Electronics Inc. | Vehicle vision system with enhanced display functions |
| US10025994B2 (en) | 2012-12-04 | 2018-07-17 | Magna Electronics Inc. | Vehicle vision system utilizing corner detection |
| US9481301B2 (en) | 2012-12-05 | 2016-11-01 | Magna Electronics Inc. | Vehicle vision system utilizing camera synchronization |
| US20140168415A1 (en) | 2012-12-07 | 2014-06-19 | Magna Electronics Inc. | Vehicle vision system with micro lens array |
| US9092986B2 (en) | 2013-02-04 | 2015-07-28 | Magna Electronics Inc. | Vehicular vision system |
| US20140218529A1 (en) | 2013-02-04 | 2014-08-07 | Magna Electronics Inc. | Vehicle data recording system |
| US10179543B2 (en) | 2013-02-27 | 2019-01-15 | Magna Electronics Inc. | Multi-camera dynamic top view vision system |
| US9688200B2 (en) | 2013-03-04 | 2017-06-27 | Magna Electronics Inc. | Calibration system and method for multi-camera vision system |
| WO2014152470A2 (en) | 2013-03-15 | 2014-09-25 | Tk Holdings, Inc. | Path sensing using structured lighting |
| US10027930B2 (en) | 2013-03-29 | 2018-07-17 | Magna Electronics Inc. | Spectral filtering for vehicular driver assistance systems |
| US9327693B2 (en) | 2013-04-10 | 2016-05-03 | Magna Electronics Inc. | Rear collision avoidance system for vehicle |
| US10232797B2 (en) | 2013-04-29 | 2019-03-19 | Magna Electronics Inc. | Rear vision system for vehicle with dual purpose signal lines |
| US9508014B2 (en) | 2013-05-06 | 2016-11-29 | Magna Electronics Inc. | Vehicular multi-camera vision system |
| US9205776B2 (en) | 2013-05-21 | 2015-12-08 | Magna Electronics Inc. | Vehicle vision system using kinematic model of vehicle motion |
| US9563951B2 (en) | 2013-05-21 | 2017-02-07 | Magna Electronics Inc. | Vehicle vision system with targetless camera calibration |
| US10567705B2 (en) | 2013-06-10 | 2020-02-18 | Magna Electronics Inc. | Coaxial cable with bidirectional data transmission |
| US9260095B2 (en) | 2013-06-19 | 2016-02-16 | Magna Electronics Inc. | Vehicle vision system with collision mitigation |
| US20140375476A1 (en) | 2013-06-24 | 2014-12-25 | Magna Electronics Inc. | Vehicle alert system |
| US9619716B2 (en) | 2013-08-12 | 2017-04-11 | Magna Electronics Inc. | Vehicle vision system with image classification |
| US10326969B2 (en) | 2013-08-12 | 2019-06-18 | Magna Electronics Inc. | Vehicle vision system with reduction of temporal noise in images |
| US9988047B2 (en) | 2013-12-12 | 2018-06-05 | Magna Electronics Inc. | Vehicle control system with traffic driving control |
| US10160382B2 (en) | 2014-02-04 | 2018-12-25 | Magna Electronics Inc. | Trailer backup assist system |
| US9623878B2 (en) | 2014-04-02 | 2017-04-18 | Magna Electronics Inc. | Personalized driver assistance system for vehicle |
| US9916660B2 (en) | 2015-01-16 | 2018-03-13 | Magna Electronics Inc. | Vehicle vision system with calibration algorithm |
| US10286855B2 (en) | 2015-03-23 | 2019-05-14 | Magna Electronics Inc. | Vehicle vision system with video compression |
| US10946799B2 (en) | 2015-04-21 | 2021-03-16 | Magna Electronics Inc. | Vehicle vision system with overlay calibration |
| US10819943B2 (en) | 2015-05-07 | 2020-10-27 | Magna Electronics Inc. | Vehicle vision system with incident recording function |
| FR3038733B1 (fr) * | 2015-07-10 | 2019-07-26 | Renault S.A.S | Systeme de detection par sources d'impulsions lumineuses de la distance entre un vehicule automobile et une cible |
| US10078789B2 (en) | 2015-07-17 | 2018-09-18 | Magna Electronics Inc. | Vehicle parking assist system with vision-based parking space detection |
| US10086870B2 (en) | 2015-08-18 | 2018-10-02 | Magna Electronics Inc. | Trailer parking assist system for vehicle |
| US10875403B2 (en) | 2015-10-27 | 2020-12-29 | Magna Electronics Inc. | Vehicle vision system with enhanced night vision |
| US11285878B2 (en) | 2015-12-17 | 2022-03-29 | Magna Electronics Inc. | Vehicle vision system with camera line power filter |
| US11277558B2 (en) | 2016-02-01 | 2022-03-15 | Magna Electronics Inc. | Vehicle vision system with master-slave camera configuration |
| US11433809B2 (en) | 2016-02-02 | 2022-09-06 | Magna Electronics Inc. | Vehicle vision system with smart camera video output |
| US10132971B2 (en) | 2016-03-04 | 2018-11-20 | Magna Electronics Inc. | Vehicle camera with multiple spectral filters |
| US10055651B2 (en) | 2016-03-08 | 2018-08-21 | Magna Electronics Inc. | Vehicle vision system with enhanced lane tracking |
| US10311314B2 (en) * | 2016-11-23 | 2019-06-04 | Ford Global Technologies, Llc | Detection of lane-splitting motorcycles |
| US10406995B2 (en) | 2017-11-10 | 2019-09-10 | Denso Corporation | Camera module |
| US11181816B2 (en) | 2017-11-10 | 2021-11-23 | Denso Corporation | Windshield-mounted camera module |
| US10232800B1 (en) | 2017-11-10 | 2019-03-19 | Denson Corporation | Camera module |
| US10627606B2 (en) | 2017-11-10 | 2020-04-21 | Denso Corporation | Camera module |
| US10534253B2 (en) | 2017-11-10 | 2020-01-14 | Denso Corporation | Camera module which includes lens units and configured to be mounted on inside of windshiled of vehicle |
| US10661725B2 (en) | 2017-11-10 | 2020-05-26 | Denso Corporation | Camera module |
| US11172219B2 (en) | 2019-12-30 | 2021-11-09 | Texas Instruments Incorporated | Alternating frame processing operation with predicted frame comparisons for high safety level use |
| US11968639B2 (en) | 2020-11-11 | 2024-04-23 | Magna Electronics Inc. | Vehicular control system with synchronized communication between control units |
| CN117824505B (zh) * | 2024-03-05 | 2024-05-07 | 四川京炜交通工程技术有限公司 | 一种公路护栏梁板中心离地高度快速检测装置 |
Family Cites Families (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US3684374A (en) * | 1970-07-29 | 1972-08-15 | Humphrey Res Ass | Focus detector |
| US3901595A (en) * | 1974-02-13 | 1975-08-26 | Bendix Corp | Parallel line scanning system for stereomapping |
| US4206365A (en) * | 1976-01-17 | 1980-06-03 | Ernst Leitz Wetzlar Gmbh | Optical correlator |
| USRE32886E (en) * | 1976-06-14 | 1989-03-14 | Honeywell, Inc. | Digital auto focus |
| JPS54126023A (en) * | 1978-03-23 | 1979-09-29 | Canon Inc | Optical device |
| JPS59182688A (ja) * | 1983-03-31 | 1984-10-17 | Toshiba Corp | ステレオ視処理装置 |
| JPS59197816A (ja) * | 1983-04-25 | 1984-11-09 | Nippon Denso Co Ltd | 車間距離検出装置 |
| GB2148648A (en) * | 1983-10-25 | 1985-05-30 | Audim Sa | Time disparity discriminator; correlation |
| US4695959A (en) * | 1984-04-06 | 1987-09-22 | Honeywell Inc. | Passive range measurement apparatus and method |
| US4916302A (en) * | 1985-02-09 | 1990-04-10 | Canon Kabushiki Kaisha | Apparatus for and method of measuring distances to objects present in a plurality of directions |
| US4695156A (en) * | 1986-07-03 | 1987-09-22 | Westinghouse Electric Corp. | Range finding method and apparatus |
| JPH01229211A (ja) * | 1988-03-10 | 1989-09-12 | Fuji Photo Film Co Ltd | 位相差検出装置 |
| JP2662583B2 (ja) * | 1988-03-24 | 1997-10-15 | アイシン精機株式会社 | 車上距離検出装置 |
| NL8900056A (nl) * | 1989-01-11 | 1990-08-01 | Philips Nv | Werkwijze voor het visueel weergeven van een deel van een topografische kaart, alsmede inrichting geschikt voor een dergelijke werkwijze. |
| KR930004880B1 (ko) * | 1989-03-07 | 1993-06-09 | 미쓰비시 덴끼 가부시기가이샤 | 추미식 차간거리 측정장치 |
| US5146228A (en) * | 1990-01-24 | 1992-09-08 | The Johns Hopkins University | Coherent correlation addition for increasing match information in scene matching navigation systems |
-
1991
- 1991-10-22 JP JP27431591A patent/JP3167752B2/ja not_active Expired - Lifetime
-
1992
- 1992-10-14 US US07/960,688 patent/US5307136A/en not_active Expired - Lifetime
- 1992-10-16 GB GB9221783A patent/GB2261339B/en not_active Expired - Fee Related
- 1992-10-22 DE DE4235619A patent/DE4235619C2/de not_active Expired - Lifetime
Cited By (66)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH07120255A (ja) * | 1993-10-27 | 1995-05-12 | Fuji Heavy Ind Ltd | 車輌用距離検出装置 |
| JPH07120257A (ja) * | 1993-10-27 | 1995-05-12 | Fuji Heavy Ind Ltd | 車輌用距離検出装置 |
| JPH07120256A (ja) * | 1993-10-27 | 1995-05-12 | Fuji Heavy Ind Ltd | 車輌用距離検出装置 |
| JPH08138053A (ja) * | 1994-11-08 | 1996-05-31 | Canon Inc | 被写体情報処理装置及び遠隔装置 |
| DE19723963C2 (de) * | 1996-06-06 | 2001-09-06 | Fuji Heavy Ind Ltd | Objekterkennungsvorrichtung und -verfahren für Fahrzeuge |
| JPH1183530A (ja) * | 1997-09-11 | 1999-03-26 | Fuji Heavy Ind Ltd | 画像のオプティカルフロー検出装置及び移動体の自己位置認識システム |
| US6373518B1 (en) | 1998-05-14 | 2002-04-16 | Fuji Jukogyo Kabushiki Kaisha | Image correction apparatus for stereo camera |
| JPH11326541A (ja) * | 1998-05-21 | 1999-11-26 | Nissan Motor Co Ltd | 撮像環境推定装置 |
| US6987534B1 (en) | 1999-08-30 | 2006-01-17 | Fuji Jukogyo Kabushiki Kaisha | Brightness adjusting apparatus for stereoscopic camera |
| US6552742B1 (en) | 1999-09-16 | 2003-04-22 | Fuji Jukogyo Kabushiki Kaisha | Positional deviation adjusting apparatus of stereo image |
| US6813370B1 (en) | 1999-09-22 | 2004-11-02 | Fuji Jukogyo Kabushiki Kaisha | Lane marker recognizing apparatus |
| US6404484B1 (en) | 1999-09-22 | 2002-06-11 | Fuji Jukogyo Kabushiki Kaisha | Method for examining distance data and device thereof |
| US7092015B1 (en) | 1999-09-22 | 2006-08-15 | Fuji Jukogyo Kabushiki Kaisha | Apparatus and method for stereo matching and method of calculating an infinite distance corresponding point |
| US6366691B1 (en) | 1999-09-22 | 2002-04-02 | Fuji Jukogyo Kabushiki Kaisha | Stereoscopic image processing apparatus and method |
| US6483429B1 (en) | 1999-10-21 | 2002-11-19 | Matsushita Electric Industrial Co., Ltd. | Parking assistance system |
| US6999896B2 (en) | 2002-07-03 | 2006-02-14 | Fuji Jukogyo Kabushiki Kaisha | Identical object determination method and apparatus and displacement correction method and apparatus |
| US7177747B2 (en) | 2003-07-04 | 2007-02-13 | Fuji Jukogyo Kabushiki Kaisha | Vehicle braking device and vehicle braking method |
| US7499638B2 (en) | 2003-08-28 | 2009-03-03 | Olympus Corporation | Object recognition apparatus |
| EP1524638A1 (en) | 2003-10-17 | 2005-04-20 | Fuji Jukogyo Kabushiki Kaisha | Information display apparatus and method |
| US7697749B2 (en) | 2004-08-09 | 2010-04-13 | Fuji Jukogyo Kabushiki Kaisha | Stereo image processing device |
| WO2006090735A1 (ja) | 2005-02-23 | 2006-08-31 | Aisin Seiki Kabushiki Kaisha | エピポーラ幾何を用いた物体認識装置及び物体認識方法 |
| US8077965B2 (en) | 2005-02-23 | 2011-12-13 | Aisin Seiki Kabushiki Kaisha | Object recognition apparatus and object recognition method using epipolar geometry |
| US7894631B2 (en) | 2005-06-27 | 2011-02-22 | Aisin Seiki Kabushiki Kaisha | Obstacle detection apparatus |
| WO2007000868A1 (ja) | 2005-06-27 | 2007-01-04 | Aisin Seiki Kabushiki Kaisha | 障害物検出装置 |
| US8311729B2 (en) | 2006-03-29 | 2012-11-13 | Fuji Jukogyo Kabushiki Kaisha | Traffic lane deviation preventing system for a vehicle |
| JP2007334760A (ja) * | 2006-06-16 | 2007-12-27 | Auto Network Gijutsu Kenkyusho:Kk | ドライブレコーダ |
| DE102008006375B4 (de) | 2007-01-31 | 2019-02-07 | Subaru Corporation | Überwachungssystem |
| US8194998B2 (en) | 2007-01-31 | 2012-06-05 | Fuji Jukogyo Kabushiki Kaisha | Preceding vehicle detection system |
| DE102008006375A1 (de) | 2007-01-31 | 2008-08-21 | Fuji Jukogyo Kabushiki Kaisha | Überwachungssystem |
| DE102008006951A1 (de) | 2007-01-31 | 2008-09-04 | Fuji Jukogyo Kabushiki Kaisha | Erfassungssystem für vorausfahrende Fahrzeuge |
| DE102008012840A1 (de) | 2007-03-07 | 2008-11-06 | Fuji Jukogyo Kabushiki Kaisha | Objekterfassungssystem |
| US8094934B2 (en) | 2007-03-07 | 2012-01-10 | Fuji Jukogyo Kabushiki Kaisha | Object detection system |
| DE102008025723A1 (de) | 2007-06-01 | 2009-01-02 | Fuji Jukogyo K.K. | Vorrichtung zur Überwachung der Umgebung eines Fahrzeugs |
| US7839272B2 (en) | 2007-06-01 | 2010-11-23 | Fuji Jukogyo Kabushiki Kaisha | Vehicle surroundings monitoring apparatus |
| DE102008029124B4 (de) * | 2007-06-22 | 2017-12-07 | Subaru Corporation | Abbiegespurzugang-Beurteilungssystem |
| DE102008029124A1 (de) | 2007-06-22 | 2009-01-22 | Fuji Jukogyo K.K. | Abbiegespurzugang-Beurteilungssystem |
| US8447484B2 (en) | 2007-06-22 | 2013-05-21 | Fuji Jukogyo Kabushiki Kaisha | Branch-lane entry judging system |
| DE102008053472B4 (de) | 2007-10-29 | 2018-10-04 | Subaru Corporation | Objekt-Erfassungssystem |
| DE102008053460B4 (de) * | 2007-10-29 | 2020-09-03 | Subaru Corporation | Objekterfassungssystem |
| DE102008053472A1 (de) | 2007-10-29 | 2009-06-25 | Fuji Jukogyo K.K. | Objekt-Erfassungssystem |
| US8174563B2 (en) | 2007-10-29 | 2012-05-08 | Fuji Jukogyo Kabushiki Kaisha | Object detecting system |
| DE102008053460A1 (de) | 2007-10-29 | 2009-06-10 | Fuji Jukogyo K.K. | Objekterfassungssystem |
| US8233031B2 (en) | 2007-10-29 | 2012-07-31 | Fuji Jukogyo Kabushiki Kaisha | Object detecting system |
| US8749631B2 (en) | 2008-01-22 | 2014-06-10 | Fuji Jukogyo Kabushiki Kaisha | Vehicle detecting system |
| DE102009005184A1 (de) | 2008-01-22 | 2009-08-06 | Fuji Jukogyo K.K. | Fahrzeugabtastsystem |
| DE102009005861A1 (de) | 2008-01-25 | 2009-10-08 | Fuji Jukogyo Kabushiki Kaisha | Fahrzeugumgebungs-Erkennungssystem |
| DE102009005860B4 (de) | 2008-01-25 | 2023-04-20 | Subaru Corporation | Umgebungs-Erkennungssystem |
| DE102009005861B4 (de) | 2008-01-25 | 2023-04-20 | Subaru Corporation | Fahrzeugumgebungs-Erkennungssystem |
| US8244027B2 (en) | 2008-01-25 | 2012-08-14 | Fuji Jukogyo Kabushiki Kaisha | Vehicle environment recognition system |
| US8437536B2 (en) | 2008-01-25 | 2013-05-07 | Fuji Jukogyo Kabushiki Kaisha | Environment recognition system |
| DE102009005860A1 (de) | 2008-01-25 | 2009-10-08 | Fuji Jukogyo Kabushiki Kaisha | Umgebungs-Erkennungssystem |
| US8224550B2 (en) | 2008-02-27 | 2012-07-17 | Fuji Jukogyo Kabushiki Kaisha | Steering assist system |
| DE102009010018A1 (de) | 2008-02-27 | 2009-10-15 | Fuji Jukogyo Kabushiki Kaisha | Lenkhilfesystem |
| US8175334B2 (en) | 2008-03-27 | 2012-05-08 | Fuji Jukogyo Kabushiki Kaisha | Vehicle environment recognition apparatus and preceding-vehicle follow-up control system |
| DE102009015142A1 (de) | 2008-03-27 | 2009-12-17 | Fuji Jukogyo K.K. | Fahrzeugumgebungs-Erkennungs-Vorrichtung und Steuerungssystem zum Verfolgen eines vorausfahrenden Fahrzeugs |
| US8976999B2 (en) | 2011-02-16 | 2015-03-10 | Fuji Jukogyo Kabushiki Kaisha | Vehicle detection apparatus |
| US9594966B2 (en) | 2013-02-21 | 2017-03-14 | Sharp Kabushiki Kaisha | Obstacle detection device and obstacle detection method |
| US11076141B2 (en) | 2016-06-08 | 2021-07-27 | Sony Corporation | Image processing device, image processing method, and vehicle |
| US11108992B2 (en) | 2016-06-08 | 2021-08-31 | Sony Corporation | Imaging control device and method, and vehicle |
| WO2017212927A1 (ja) | 2016-06-08 | 2017-12-14 | ソニー株式会社 | 撮像制御装置および方法、並びに車両 |
| US11195292B2 (en) | 2016-08-24 | 2021-12-07 | Sony Corporation | Information processing apparatus and method, vehicle, and information processing system |
| WO2018037947A1 (en) | 2016-08-24 | 2018-03-01 | Sony Corporation | Information processing apparatus and method, vehicle, and information processing system |
| WO2018230340A1 (ja) * | 2017-06-15 | 2018-12-20 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
| JP2019002787A (ja) * | 2017-06-15 | 2019-01-10 | 日立オートモティブシステムズ株式会社 | ステレオカメラ装置 |
| US11044463B2 (en) | 2017-06-27 | 2021-06-22 | Sony Corporation | Image processing device and image processing method |
| JP2020066421A (ja) * | 2018-10-23 | 2020-04-30 | ザ・ボーイング・カンパニーThe Boeing Company | 離陸時の航空機と滑走路中心線との位置合わせ |
Also Published As
| Publication number | Publication date |
|---|---|
| DE4235619A1 (de) | 1993-04-29 |
| GB2261339A (en) | 1993-05-12 |
| GB9221783D0 (en) | 1992-12-02 |
| GB2261339B (en) | 1996-04-03 |
| JP3167752B2 (ja) | 2001-05-21 |
| US5307136A (en) | 1994-04-26 |
| DE4235619C2 (de) | 1997-05-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3167752B2 (ja) | 車輌用距離検出装置 | |
| JP3468428B2 (ja) | 車輌用距離検出装置 | |
| US5410346A (en) | System for monitoring condition outside vehicle using imaged picture by a plurality of television cameras | |
| JP3324821B2 (ja) | 車輌用車外監視装置 | |
| USRE37610E1 (en) | Running guide apparatus for vehicle capable of keeping safety at passing through narrow path and the method thereof | |
| JP5188452B2 (ja) | 道路形状認識装置 | |
| JP3765862B2 (ja) | 車両用環境認識装置 | |
| JPH10269362A (ja) | 物体認識方法およびその装置 | |
| JP3709879B2 (ja) | ステレオ画像処理装置 | |
| JP3348939B2 (ja) | 車輌用距離検出装置 | |
| JP2006318062A (ja) | 画像処理装置、画像処理方法、および画像処理用プログラム | |
| JP2001243456A (ja) | 障害物検出装置及び障害物検出方法 | |
| JP2009077022A (ja) | 運転支援システム及び車両 | |
| JP3452075B2 (ja) | 車輌用距離検出装置 | |
| JPH0757200A (ja) | 走路認識装置および走路認識方法 | |
| JP3452076B2 (ja) | 車輌用距離検出装置 | |
| JPH06273171A (ja) | 車輌用距離検出装置 | |
| JP3022033B2 (ja) | 画像追尾装置 | |
| JP2006318061A (ja) | 画像処理装置、画像処理方法、および画像処理用プログラム | |
| JPH07120256A (ja) | 車輌用距離検出装置 | |
| JP4397164B2 (ja) | 障害物検出装置及び障害物検出方法 | |
| JPH05282430A (ja) | 移動車の環境認識装置 | |
| JP2000207695A (ja) | 車外監視装置 | |
| JPH07121795A (ja) | 車輌用車外監視装置 | |
| JP3446471B2 (ja) | ステレオ画像処理装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| R250 | Receipt of annual fees |
Free format text: JAPANESE INTERMEDIATE CODE: R250 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080309 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090309 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090309 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100309 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100309 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110309 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110309 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120309 Year of fee payment: 11 |
|
| EXPY | Cancellation because of completion of term | ||
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120309 Year of fee payment: 11 |