JP2006178652A - 車両周辺認識システム及び画像処理装置 - Google Patents
車両周辺認識システム及び画像処理装置 Download PDFInfo
- Publication number
- JP2006178652A JP2006178652A JP2004369755A JP2004369755A JP2006178652A JP 2006178652 A JP2006178652 A JP 2006178652A JP 2004369755 A JP2004369755 A JP 2004369755A JP 2004369755 A JP2004369755 A JP 2004369755A JP 2006178652 A JP2006178652 A JP 2006178652A
- Authority
- JP
- Japan
- Prior art keywords
- vehicle
- image
- partial image
- captured image
- unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000012545 processing Methods 0.000 title claims abstract description 64
- 238000003384 imaging method Methods 0.000 claims description 27
- 238000000034 method Methods 0.000 claims description 8
- 238000010586 diagram Methods 0.000 description 7
- 230000003287 optical effect Effects 0.000 description 4
- 238000012546 transfer Methods 0.000 description 3
- 238000004891 communication Methods 0.000 description 2
- 239000005083 Zinc sulfide Substances 0.000 description 1
- 230000002411 adverse Effects 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000037237 body shape Effects 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000012937 correction Methods 0.000 description 1
- 238000013461 design Methods 0.000 description 1
- 239000000428 dust Substances 0.000 description 1
- 239000000284 extract Substances 0.000 description 1
- 229910052732 germanium Inorganic materials 0.000 description 1
- GNPVGFCGXDBREM-UHFFFAOYSA-N germanium atom Chemical compound [Ge] GNPVGFCGXDBREM-UHFFFAOYSA-N 0.000 description 1
- 239000011521 glass Substances 0.000 description 1
- 238000003331 infrared imaging Methods 0.000 description 1
- 230000036544 posture Effects 0.000 description 1
- 229910052984 zinc sulfide Inorganic materials 0.000 description 1
- DRDVZXDWVBGGMH-UHFFFAOYSA-N zinc;sulfide Chemical compound [S-2].[Zn+2] DRDVZXDWVBGGMH-UHFFFAOYSA-N 0.000 description 1
Images
Landscapes
- Image Analysis (AREA)
- Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
- Image Processing (AREA)
- Closed-Circuit Television Systems (AREA)
- Traffic Control Systems (AREA)
Abstract
【課題】 車両の走行状態に応じて必要な範囲の画像領域を特定して車両周辺を認識することができる車両周辺認識システム及び該車両周辺認識システムを構成する画像処理装置を提供する。
【解決手段】 画像処理部26は、画像メモリ23から1フレーム単位の撮像画像を読み出し、フレームレートと同期して、記憶部24から車速v、操舵角α、傾斜角βを読み出す。画像処理部26は、読み出した車速v、操舵角α、傾斜角βに基づいて、LUT261を参照して、部分画像を特定するためのパラメータを取得し、特定した部分画像をフレームメモリ262へ一旦記憶する。歩行者認識処理部263は、フレームメモリ262に記憶された部分画像を読み出し、読み出した部分画像と、標準パターン部241から読み出した標準パターンH1、H2、…との類似度を判定する。
【選択図】 図3
【解決手段】 画像処理部26は、画像メモリ23から1フレーム単位の撮像画像を読み出し、フレームレートと同期して、記憶部24から車速v、操舵角α、傾斜角βを読み出す。画像処理部26は、読み出した車速v、操舵角α、傾斜角βに基づいて、LUT261を参照して、部分画像を特定するためのパラメータを取得し、特定した部分画像をフレームメモリ262へ一旦記憶する。歩行者認識処理部263は、フレームメモリ262に記憶された部分画像を読み出し、読み出した部分画像と、標準パターン部241から読み出した標準パターンH1、H2、…との類似度を判定する。
【選択図】 図3
Description
本発明は、画角が広角又は標準のレンズ部を有する撮像装置で撮像して得られた撮像画像から、車両の走行状態に応じて、必要な範囲の画像領域を特定し、該画像領域を画像処理装置で処理して車両周辺を認識する車両周辺認識システム及び該車両周辺認識システムを構成する画像処理装置に関する。
車両(例えば、自動車)の前部にビデオカメラを搭載し、車両前方の歩行者などを撮像し、撮像した映像をヘッドアップディスプレイなどの表示装置で表示して、運転者に注意を促す前方監視システムが提案されている。
このようなシステムで使用されるビデオカメラは、車両が高速で走行した場合であっても、車両前方の遠方(例えば、30〜150m)の歩行者をディスプレイ上で所要の大きさで認識できるように、視野角が10〜15°程度の狭角レンズ(望遠レンズ)を備えている。しかし、狭角レンズを用いたビデオカメラでは、車両がカーブなどを曲がる場合に、車両の曲がる方向に存在する歩行者を十分に認識できないときがあるため、車両の操舵角に応じて、ビデオカメラを左右に駆動するシステムがある(特許文献1参照)。
また、狭角レンズを用いたビデオカメラでは、車両が低速で走行した場合には、車両の前方左右方向の視野が十分に確保できず、車両周辺の歩行者を十分に認識できない場合があるため、ズームレンズ及びズーム機構を有するビデオカメラを車両のフロントグリル周辺に配置し、車両の速度に応じて、ズームレンズを駆動して画角を変更するシステムも提案されている(特許文献2参照)。
特開2002−312898号公報
特開平7−105481号公報
しかしながら、特許文献1のシステムにあっては、狭角レンズは大口径となるため、ビデオカメラの形状は大きくならざるを得ない。このため、ビデオカメラを操舵角に応じて左右に駆動するための駆動装置は大型化し、フロントグリルなどの車両前部の限られた収納箇所にビデオカメラと駆動装置とを取り付けることが困難な場合があり、また、車両のデザインにも悪影響を及ぼす場合があった。
また、特許文献2のシステムにあっては、ステッピングモータによりズームレンズを駆動させるための可動部分を有する。このような可動部分は、車両走行時に加わる振動、外気の温度変化、外気からの粉塵、雨などの車両特有の外的要因に対しては、車両の信頼性を損なう原因になり得る場合があった。このため、ズーム機構を車両に用いることは敬遠される傾向にあり、車両用画像認識装置の信頼性を向上するためにズーム機構に代わる機構が望まれていた。
さらに、ビデオカメラのレンズの光軸は、車両前方の所定方向に固定してあるため、車両が悪路を走行した場合に、車両が前後に傾斜したときは、レンズの光軸も上下に変動するため、車両前方の歩行者などを認識できない虞があった。
本発明は、斯かる事情に鑑みてなされたものであり、車両の走行状態に基づいて、撮像して得られた撮像画像の一部を部分画像として特定する特定手段を備え、該特定手段が特定した部分画像に基づいて車両周辺を認識するようにしてあることにより、ビデオカメラを駆動する駆動装置、又はズーム機構を用いることなく、車両の走行状態に応じて車両周辺を認識することができる車両周辺認識システム及び該車両周辺認識システムを構成する画像処理装置を提供することを目的とする。
また、本発明の他の目的は、車両の速度に応じて、撮像画像における部分画像の大きさを変更するようにしてあることにより、車両の速度が変化した場合であっても、車両周辺を認識することができる車両周辺認識システムを提供することにある。
また、本発明の他の目的は、操舵角に応じて、撮像画像における部分画像の位置を左右に変更するようにしてあることにより、車両がカーブを曲がる場合であっても、車両周辺を認識することができる車両周辺認識システムを提供することにある。
また、本発明の他の目的は、車両の前後の傾斜角に応じて、撮像画像における部分画像の位置を上下に変更するようにしてあることにより、車両が悪路を走行した場合であっても、車両周辺を認識することができる車両周辺認識システムを提供することにある。
第1発明に係る車両周辺認識システムは、車両の周辺を撮像装置で撮像し、撮像して得られた撮像画像を画像処理装置で処理して車両周辺を認識する車両周辺認識システムにおいて、前記撮像装置は、画角が広角又は標準のレンズ部を有し、前記画像処理装置は、車両の走行状態に関連する情報を取得する取得手段と、該取得手段が取得した情報に基づいて、前記撮像画像の一部を部分画像として特定する特定手段とを備え、該特定手段が特定した部分画像に基づいて、車両周辺を認識するようにしてあることを特徴とする。
第2発明に係る車両周辺認識システムは、第1発明において、前記取得手段は、車両速度を取得するようにしてあり、前記特定手段は、前記部分画像の大きさを変更する変更手段を有し、該変更手段は、取得した車両速度に高低に応じて、前記撮像画像における部分画像の大小を変更するようにしてあることを特徴とする。
第3発明に係る車両周辺認識システムは、第1発明において、前記取得手段は、操舵角を取得するようにしてあり、前記特定手段は、前記撮像画像における部分画像の位置を変更する変更手段を有し、該変更手段は、取得した操舵角の大小に応じて、前記撮像画像における部分画像の位置を左右に変更するようにしてあることを特徴とする。
第4発明に係る車両周辺認識システムは、第1発明において、前記取得手段は、車両の前後の傾斜角を取得するようにしてあり、前記特定手段は、前記撮像画像における部分画像の位置を変更する変更手段を有し、該変更手段は、取得した傾斜角の大小に応じて、前記撮像画像における部分画像の位置を上下に変更するようにしてあることを特徴とする。
第5発明に係る画像処理装置は、取り込んだ撮像画像を処理して車両周辺を認識する画像処理装置において、車両の走行状態に関連する情報を取得する取得手段と、該取得手段が取得した情報に基づいて、前記撮像画像の一部を部分画像として特定する特定手段とを備え、該特定手段が特定した部分画像に基づいて、車両周辺を認識するようにしてあることを特徴とする。
第1発明及び第5発明にあっては、画角が広角又は標準のレンズ部を有する撮像装置で車両の周辺を撮像する。画像処理装置の取得手段は、車両の走行状態に関連する情報を取得する。特定手段は、前記取得手段が取得した情報に基づいて、前記撮像装置で撮像して得られた撮像画像の一部を部分画像として特定する。これにより、前記画像処理装置は、車両の走行状態に応じて、所要の撮像領域を有する部分画像を処理して車両周辺を認識する。
第2発明にあっては、前記取得手段は、車両速度を取得する。変更手段は、車両速度の高低に応じて、前記撮像画像における部分画像の大小を変更する。例えば、車両速度が高速になるに応じて、部分画像を小さくし、前記レンズ部の見掛け上の画角を小さくする。また、車両速度が低速になるに応じて、部分画像を大きくし、前記レンズ部の見掛け上の画角を大きくする。
第3発明にあっては、前記取得手段は、操舵角を取得する。変更手段は、操舵角の大小に応じて、前記撮像画像における部分画像の位置を左右に変更する。例えば、車両が右カーブを曲がる場合には、前記撮像画像における部分画像の位置を右方向へ変える。また、車両が左カーブを曲がる場合には、前記撮像画像における部分画像の位置を左方向へ変える。
第4発明にあっては、前記取得手段は、車両の前後の傾斜角を取得する。変更手段は、傾斜角の大小に応じて、前記撮像画像における部分画像の位置を上下に変更する。例えば、車両が前方上方向に傾斜した場合には、前記撮像画像における部分画像の位置を下方向へ変える。また、車両が前方下方向に傾斜した場合には、前記撮像画像における部分画像の位置を上方向へ変える。
第1発明及び第5発明にあっては、車両の走行状態に応じて、撮像装置で撮像して得られた撮像画像の一部を部分画像として特定し、前記部分画像を用いて車両周辺を認識するようにしてあることにより、ビデオカメラ駆動装置、又はズーム機構を用いることなく、車両の走行状態に応じて、所要の撮像領域における歩行者、障害物などを認識することができる。また、撮像画像の一部の範囲を処理するため、すべての撮像画像を処理する場合に比べて処理時間の短縮、処理能力の低減を図ることができる。
第2発明にあっては、車両の速度の高低に応じて部分画像の大小を変更することにより、例えば、車両が高速走行時の場合には、部分画像を小さくし、見掛け上の画角を小さくして、車両の前方遠距離の視認性を高めることができる。また、車両が低速走行時の場合には、部分画像を大きくし、見掛け上の画角を大きくして、車両の前方左右周辺の視認性を高めることができる。
第3発明にあっては、操舵角に応じて、撮像画像における部分画像の位置を左右に変更することにより、例えば、車両が右カーブを曲がる場合には、部分画像の位置を右方向に変更して、車両の曲がる方向の視認性を高めることができる。また、車両が左カーブを曲がる場合には、部分画像の位置を左方向に変更して、車両の曲がる方向の視認性を高めることができる。
第4発明にあっては、車両の前後の傾斜角に応じて、撮像画像における部分画像の位置を上下に変更することにより、例えば、車両が悪路を走行して、車両前方上方向に傾斜した場合には、部分画像の位置を下方向に変更して、車両前方の視認性を高めることができる。また、車両が車両前方下方向に傾斜した場合には、部分画像の位置を上方向に変更して、車両前方の視認性を高めることができる。
以下、本発明を実施の形態を示す図面に基づいて説明する。図1は本発明に係る車両周辺認識システムの概要を示す模式図である。図において、1は車両に搭載され、歩行者などを撮像するビデオカメラである。ビデオカメラ1は、フロントグリルに設置され、IEEE1394に準拠した車載LAN用の通信線7を介して画像処理装置2に接続してある。
画像処理装置2には、通信線7を介して操作部及び警報部を有する表示装置3、操舵輪の操舵角を検出する操舵角センサ4、車体の下面であって、車両の前部及び後部夫々に取り付けられ、地面(路面)との距離を検出する距離センサ5a、5b、車両の速度を検出する速度センサ6を接続してある。車両の傾きを示す傾斜角は、距離センサ5a、5bが検出した地面からの距離の差と、距離センサ5a、5bの離隔寸法により算出される。
図2は、ビデオカメラ1の構成を示すブロック図である。11は撮像部である。撮像部11は、画角が標準(例えば、30°〜50°)のガラス製のレンズ111、112と、レンズ111、112の光軸が撮像面の中心に位置するように配置したCCDなどの撮像素子113とを有する。撮像素子113で撮像される撮像画像のサイズは、例えば、1280x960画素を有する。レンズ111、112を透過した光は、撮像素子113に入力される。撮像素子113は、入力された光をRGB(R:赤、G:緑、B:青)のアナログ信号に変換し、信号処理部12へ出力する。
信号処理部12は、撮像素子113から入力されたアナログ信号をデジタル信号に変換し、光学系で生じた各種の歪みを取り除くための処理、低周波ノイズの除去処理、ガンマ特性を補正する補正処理などを行う。さらに、RGB信号をYUV(Y:輝度、U、V:色差)信号に変換し、変換したYUV信号を画素毎に有する撮像画像を一旦画像メモリ14へ記憶する。
インタフェース部13は、画像処理装置2から送信される指令に従って、画像メモリ14に記憶された撮像画像を画像処理装置2へ出力するための制御、ビデオカメラ1で撮像した画像の解像度による転送レートの変換、撮像画像が有する画像データからパケットデータの作成などを行う。また、インタフェース部13は、制御部15の制御に従って、画像メモリ14に記憶された撮像画像を画像処理装置2へ出力する。
制御部15は、バス16を介して、撮像部11、信号処理部12、インタフェース部13の処理を制御する。例えば、画像処理装置2からの指令を解釈して、撮像部11が撮像した撮像画像を画像メモリ14に記憶する。また、記憶された撮像画像を読み出し、インタフェース部13を介して画像処理装置2へ出力する。
図3は、画像処理装置2の構成を示すブロック図である。図において、21はインタフェース部であり、ビデオカメラ1に対する指令の転送、ビデオカメラ1からの撮像画像が有する画像データの転送を行う。
入力部22は、操舵角センサ4で検出された操舵角α、速度センサ6で検出された車速vなどのデータを受信し、受信したデータを後述する記憶部24に記憶する。また、入力部22は、距離センサ5a、5bで検出された距離データを受信し、受信した距離データに基づいて車両の傾きを示す傾斜角βを算出し、算出した傾斜角βを記憶部24に記憶する。
記憶部24は、歩行者を認識するための標準パターンH1、H2、…を記憶する標準パターン部241と、入力部22を介して入力された車速v、操舵角α、車両の傾斜角βを記憶する車両情報部242とを有する。標準パターンH1、H2、…は人間の輝度分布に対応した輝度分布を有し、人間の体形、子供と大人の区別、服装、姿勢などに応じて複数のパターンを有する。
制御部27は、インタフェース部21を介してビデオカメラ1から入力された撮像画像を、ビデオカメラ1のフレームレートと同期して、1フレーム単位で画像メモリ23に記憶する。また、制御部27は、画像メモリ23に記憶された撮像画像をフレーム単位で画像処理部26へ出力する。また、制御部27は、タイマ(図示せず)を内蔵し、ビデオカメラ1のフレームレートと同期して記憶部24に記憶された車両の車速v、操舵角α、傾斜角βを読み出し、後述する画像処理部26へ出力する。
画像処理部26は、車両の走行状態に関連する情報(車速v、操舵角α、傾斜角β)に対応して、後述する部分画像を特定するためのパラメータを記憶するLUT(Look Up Table)261と、画像メモリ23から1フレーム単位で読み出した撮像画像の一部の範囲を特定した部分画像を記憶するフレームメモリ262と、フレームメモリ262に記憶された部分画像に基づいて歩行者の認識処理を行う歩行者認識処理部263とを有する。
画像処理部26は、画像メモリ23から1フレーム単位の撮像画像を読み出し、フレームレートと同期して、記憶部24から車速v、操舵角α、傾斜角βを読み出す。画像処理部26は、読み出した車速v、操舵角α、傾斜角βに基づいて、LUT261を参照して、部分画像を特定するためのパラメータを取得し、特定した部分画像をフレームメモリ262へ一旦記憶する。
歩行者認識処理部263は、フレームメモリ262に記憶された部分画像を読み出し、読み出した部分画像と、標準パターン部241から読み出した標準パターンH1、H2、…との類似度を判定する。すなわち、歩行者認識処理部263は、部分画像と標準パターンH1、H2、…との所定の相関値を算出し、算出した相関値が、予め歩行者認識処理部263に記憶してある閾値THより大きい場合には、歩行者が存在するとして、認識された歩行者を強調表示すべく、歩行者を囲む矩形状の枠を付ける処理をして、処理後の画像データを出力部25へ出力する。
画像処理部26は、上述の処理を1フレーム単位で行い、1フレーム分の撮像画像に対して処理が終了すると、次のフレームに対して同様の処理を続け、処理後の画像データを出力部25へ出力する。
出力部25は、入力された画像データを表示装置3へ出力する。
表示装置3は、画像処理装置2から出力された画像データに基づき、外界の状況とともに、認識した歩行者の存在をディスプレイに表示する。また、歩行者が認識された場合には、歩行者の位置、距離などに応じて警告音を発する。
図4はLUT261の構成を示すレコードレイアウトである。LUT261は、車速v、操舵角α、車両の傾斜角β夫々に応じて、ビデオカメラ1で撮像した撮像画像の一部の範囲を示す部分画像の大きさ、位置を定めたものである。図に示すように、LUT261は、車速v、撮像画像における部分画像の始点画素(左上の画素)のx、y座標(撮像画像の左上の画素を原点としてx方向、y方向の画素数に相当)、部分画像の横方向の画素数、縦方向の画素数の各パラメータから構成してあり、操舵角α、及び傾斜角βについても同様である。なお、車両を左方向に操舵した場合の操舵角を正、右方向に操舵した場合の操舵角を負とし、車両が前方上方向に傾斜した場合の傾斜角を正、前方下方向に傾斜した場合の傾斜角を負としてある。
例えば、車速がv1の場合は、始点画素のx、y座標は、夫々x1、y1であり、部分画像の横方向及び縦方向の画素数は、夫々a1、b1である。また、車速がv2(v2>v1)の場合は、始点画素のx、y座標は、夫々x2(x2>x1)、y2(y2>y1)であり、部分画像の横方向及び縦方向の画素数は、夫々a2(a2<a1)、b2(b2<b1)である。これにより、車速vが大きくなるに応じて、部分画像は小さくなるようにしてある。
ビデオカメラ1の画角を40°x30°(横x縦)、撮像画像のサイズ(1280x960画素数)に対する部分画像のサイズは、例えば、車速が30km/hでは、940x705画素数、車速が50km/hでは、750x562画素数、車速が80km/hでは、460x345画素数のように設定することができる。これにより、ビデオカメラ1の見掛け上の画角が、夫々30°x23°(横x縦)、24°x18°、15°x11°となり、低速走行時には、車両前方の左右の広い範囲を認識することができるとともに、高速走行時には、車両前方の遠方に存在する歩行者などを十分な大きさで撮像することができる。
また、操舵角がα1の場合は、始点画素のx、y座標は、夫々x31、y3であり、部分画像の横方向及び縦方向の画素数は、夫々a3、b3である。また、操舵角が0の場合は、始点画素のx、y座標は、夫々x32(x32>x31)、y3であり、部分画像の横方向及び縦方向の画素数は、夫々a3、b3である。また、操舵角が−α1の場合は、始点画素のx、y座標は、夫々x33(x33>x32)、y3であり、部分画像の横方向及び縦方向の画素数は、夫々a3、b3である。これにより、車両が左カーブを曲がる場合は、部分画像の位置は、撮像画像において左方向に移動し、車両が右カーブを曲がる場合は、部分画像の位置は、撮像画像において右方向に移動し、車両が直進する場合は、部分画像の位置は、撮像画像の中心を通る縦線に対して左右対称になるようにしてある。なお、車速vと操舵角αとを同時に検出して、部分画像を特定する場合は、部分画像の横方向及び縦方向の画素数は、車速vに応じて定めることができる。
また、傾斜角がβ1の場合は、始点画素のx、y座標は、夫々x4、y41であり、部分画像の横方向及び縦方向の画素数は、夫々a4、b4である。また、傾斜角が0の場合は、始点画素のx、y座標は、夫々x4、y42(y42<y41)であり、部分画像の横方向及び縦方向の画素数は、夫々a4、b4である。また、操舵角が−β1の場合は、始点画素のx、y座標は、夫々x4、y43(y43<y42)であり、部分画像の横方向及び縦方向の画素数は、夫々a4、b4である。これにより、車両が前方上方向に傾斜する場合は、部分画像の位置は、撮像画像において下方向に移動し、車両が前方下方向に傾斜する場合は、部分画像の位置は、撮像画像において上方向に移動し、車両が傾斜していない場合は、部分画像の位置は、撮像画像の中心を通る横線に対して上下対称になるようにしてある。なお、車速vと傾斜角βとを同時に検出して、部分画像を特定する場合は、部分画像の横方向及び縦方向の画素数は、車速vに応じて定めることができる。
次に本発明に係る車両周辺認識システムの動作について説明する。運転者が、表示装置3に備えられた操作部を操作してビデオカメラ1の動作スイッチをオンにすると、動作信号を前記操作部から受信した画像処理装置2は、インタフェース部21を介して、初期コマンドをビデオカメラ1へ送出する。
初期コマンドを受信したビデオカメラ1は、撮像部11から車両の周辺の撮像を開始する。信号処理部12は、撮像して得られた撮像画像を一旦画像メモリ14に記録した後に、ビデオカメラ1のフレームレートと同期して1フレーム分の撮像画像を、インタフェース部13を介して、画像処理装置2へ送出する。
画像処理装置2は、1フレーム分の撮像画像を一旦画像メモリ23に記憶する。画像処理部26は、画像メモリ23に記憶された撮像画像を読み出すとともに、フレームレートに同期して記憶部24から車速v、操舵角α、傾斜角βを読み出す。
画像処理部26は、読み出した車速v、操舵角α、傾斜角βに基づいてLUT261から部分画像の範囲を特定するパラメータを読み出し、画像メモリ23から読み出した撮像画像から部分画像の範囲を特定し、特定した部分画像をフレームメモリ262に記憶する。この場合、画像処理部26は、1フレーム分の撮像画像の左上の画素から右下の画素まで順次走査し、読み出したパラメータに応じて部分画像を構成する角画素を抽出する。
歩行者認識処理部263は、フレームメモリ262に記憶された部分画像を読み出し、読み出した部分画像と、標準パターン部241から読み出した標準パターンH1、H2、…との類似度を判定し、歩行者が存在する場合は、認識された歩行者を強調表示すべく、歩行者を囲む矩形状の枠を付ける処理をして、処理後の画像データを出力部25へ出力する。
表示装置3は、出力部25を介して出力された画像データに基づき、外界の状況とともに、認識した歩行者の存在をディスプレイに表示する。また、歩行者が認識された場合には、歩行者の位置、距離などに応じて警告音を発する。
図5乃至図7は撮像画像における部分画像の位置関係を示す説明図である。図に示すように、車速がv1からv2(v2>v1)に高速になった場合、撮像画像100において、部分画像50のサイズは部分画像51のサイズへと小さくなる。なお、部分画像51の画素数は、部分画像50の画素数よりも少ないため、所定のサイズの表示装置で画像を表示させた場合、部分画像51内で認識された歩行者は、大きく表示される。
また、車両を左方向に操舵した場合は、部分画像52の位置は、撮像画像50において左方向に移動し、車両を直進させた場合は、部分画像53の位置は、撮像画像50の中心を通る縦線に対して左右対称になり、車両を右方向に操舵した場合は、部分画像54の位置は、撮像画像50において右方向に移動する。
また、車両が前方上方向に傾斜した場合は、部分画像55の位置は、撮像画像50において下方向に移動し、車両が傾斜していない場合は、部分画像56の位置は、撮像画像50の中心を通る横線に対して上下対称になり、車両が前方下方向に傾斜した場合は、部分画像57の位置は、撮像画像50において上方向に移動する。
以上説明したように、本発明にあっては、画角が標準のレンズを有するビデオカメラで撮像した高解像度の撮像画像から、車速v、操舵角α、傾斜角βに応じて撮像画像の一部である部分画像を特定し、部分画像のサイズ、撮像画像における部分画像の位置を変更することにより、車両の走行状態が変化した場合であっても、ビデオカメラの駆動装置又はズーム機構を用いることなく、歩行者の認識に必要な撮像領域を切り出すことができ、歩行者の認識をすることができる。
上述の実施の形態においては、ビデオカメラは、CCDを有するものであったが、これに限らず、CMOSを有するものであってもよい。また、ビデオカメラは可視光用のビデオカメラに限定されるものではなく、ボロメータ型、サーモパイル型、焦電型、SOIダイオードなどの遠赤外線撮像素子を用いた遠赤外線光用ビデオカメラであってもよく、また、中赤外光用のビデオカメラ又は近赤外光用のビデオカメラを用いる構成であってもよい。この場合、広角レンズは、ゲルマニウム製、硫化亜鉛製などのものを使用することができる。
上述の実施の形態においては、部分画像のパラメータをLUTに記憶してある構成であったが、これに限定されるものではなく、フレームレートと同期して検出した車速v、操舵角α、傾斜角βに基づいて、前記パラメータを演算する構成であってもよい。
上述の実施の形態において、撮像素子のサイズ(画素数)、部分画像のサイズは一例であって、これに限定されるものでない。
上述の実施の形態においては、車両周辺を認識するものとして歩行者を認識する場合について説明したが、これは一例であって、これに限定されるものではない。すなわち、歩行者の他に、道路上の障害物、近接車両、路面表示、道路標識など、車両周辺の対象物を認識することができる。
上述の実施の形態においては、部分画像のパラメータとして、始点画素のx、y座標、横方向及び縦方向の画素数を用いる構成であったが、これに限定されるものではなく、撮像画像における部分画像の大きさ、位置を特定することができるパラメータであれば、いずれパラメータを用いてもよい。
上述の実施の形態においては、画角が標準のレンズを用いる構成であったが、画角が広角(50°以上)のレンズを用いる構成であってもよい。
上述の実施の形態においては、LUT261から読み出したパラメータに基づいて特定した特定画像をフレームメモリ262に記憶する構成であったが、特定画像の特定は、これに限定されるものではなく、部分画像を特定する境界上の各画素の座標を記憶し、記憶した各画素の座標に基づいて、各画素で囲まれる領域において歩行者認識処理を行う構成であってもよい。
1 ビデオカメラ
2 画像処理装置
3 表示装置
4 操舵角センサ
5a、5b 距離センサ
6 速度センサ
11 撮像部
110 透過窓
111、112 広角レンズ
113 撮像素子
12 信号処理部
13 インタフェース部
14 画像メモリ
15 制御部
21 インタフェース部
22 入力部
23 画像メモリ
24 記憶部
25 出力部
26 画像処理部
242 車両情報部
261 LUT
262 フレームメモリ
263 歩行者認識処理部
2 画像処理装置
3 表示装置
4 操舵角センサ
5a、5b 距離センサ
6 速度センサ
11 撮像部
110 透過窓
111、112 広角レンズ
113 撮像素子
12 信号処理部
13 インタフェース部
14 画像メモリ
15 制御部
21 インタフェース部
22 入力部
23 画像メモリ
24 記憶部
25 出力部
26 画像処理部
242 車両情報部
261 LUT
262 フレームメモリ
263 歩行者認識処理部
Claims (5)
- 車両の周辺を撮像装置で撮像し、撮像して得られた撮像画像を画像処理装置で処理して車両周辺を認識する車両周辺認識システムにおいて、
前記撮像装置は、
画角が広角又は標準のレンズ部を有し、
前記画像処理装置は、
車両の走行状態に関連する情報を取得する取得手段と、
該取得手段が取得した情報に基づいて、前記撮像画像の一部を部分画像として特定する特定手段と
を備え、
該特定手段が特定した部分画像に基づいて、車両周辺を認識するようにしてあることを特徴とする車両周辺認識システム。 - 前記取得手段は、
車両速度を取得するようにしてあり、
前記特定手段は、
前記部分画像の大きさを変更する変更手段を有し、
該変更手段は、
取得した車両速度に高低に応じて、前記撮像画像における部分画像の大小を変更するようにしてあることを特徴とする請求項1に記載の車両周辺認識システム。 - 前記取得手段は、
操舵角を取得するようにしてあり、
前記特定手段は、
前記撮像画像における部分画像の位置を変更する変更手段を有し、
該変更手段は、
取得した操舵角の大小に応じて、前記撮像画像における部分画像の位置を左右に変更するようにしてあることを特徴とする請求項1に記載の車両周辺認識システム。 - 前記取得手段は、
車両の前後の傾斜角を取得するようにしてあり、
前記特定手段は、
前記撮像画像における部分画像の位置を変更する変更手段を有し、
該変更手段は、
取得した傾斜角の大小に応じて、前記撮像画像における部分画像の位置を上下に変更するようにしてあることを特徴とする請求項1に記載の車両周辺認識システム。 - 取り込んだ撮像画像を処理して車両周辺を認識する画像処理装置において、
車両の走行状態に関連する情報を取得する取得手段と、
該取得手段が取得した情報に基づいて、前記撮像画像の一部を部分画像として特定する特定手段と
を備え、
該特定手段が特定した部分画像に基づいて、車両周辺を認識するようにしてあることを特徴とする画像処理装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004369755A JP2006178652A (ja) | 2004-12-21 | 2004-12-21 | 車両周辺認識システム及び画像処理装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2004369755A JP2006178652A (ja) | 2004-12-21 | 2004-12-21 | 車両周辺認識システム及び画像処理装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2006178652A true JP2006178652A (ja) | 2006-07-06 |
Family
ID=36732722
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2004369755A Pending JP2006178652A (ja) | 2004-12-21 | 2004-12-21 | 車両周辺認識システム及び画像処理装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2006178652A (ja) |
Cited By (12)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008149879A (ja) * | 2006-12-18 | 2008-07-03 | Clarion Co Ltd | 運転支援装置 |
| JP2011257984A (ja) * | 2010-06-09 | 2011-12-22 | Toyota Central R&D Labs Inc | 対象物検出装置及びプログラム |
| US8207834B2 (en) | 2008-02-01 | 2012-06-26 | Hitachi, Ltd. | Image processing device and vehicle detection device provided with the same |
| DE102011078615A1 (de) | 2011-07-04 | 2013-01-10 | Toyota Jidosha K.K. | Objekterfassungsvorrichtung und objekterfassungsprogramm |
| WO2014017104A1 (ja) | 2012-07-27 | 2014-01-30 | 京セラ株式会社 | 画像処理装置、撮像装置、移動体、プログラム、および領域設定方法 |
| JP2015018515A (ja) * | 2013-07-12 | 2015-01-29 | 矢崎エナジーシステム株式会社 | 車載器 |
| US8994823B2 (en) | 2011-07-05 | 2015-03-31 | Toyota Jidosha Kabushiki Kaisha | Object detection apparatus and storage medium storing object detection program |
| JP2015135591A (ja) * | 2014-01-17 | 2015-07-27 | 株式会社リコー | 情報処理装置、情報処理方法及びプログラム |
| JP2019071605A (ja) * | 2018-10-03 | 2019-05-09 | 株式会社ユピテル | 車両用映像記録装置、再生装置、プログラム |
| JP2020080544A (ja) * | 2018-10-03 | 2020-05-28 | 株式会社ユピテル | 車両用映像記録装置、再生装置、プログラム |
| US11272111B2 (en) | 2019-05-23 | 2022-03-08 | Denso Corporation | Image processing apparatus |
| CN117222548A (zh) * | 2021-09-28 | 2023-12-12 | 华为技术有限公司 | 控制车载摄像头的视角的方法、装置以及车辆 |
-
2004
- 2004-12-21 JP JP2004369755A patent/JP2006178652A/ja active Pending
Cited By (19)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008149879A (ja) * | 2006-12-18 | 2008-07-03 | Clarion Co Ltd | 運転支援装置 |
| US8207834B2 (en) | 2008-02-01 | 2012-06-26 | Hitachi, Ltd. | Image processing device and vehicle detection device provided with the same |
| JP2011257984A (ja) * | 2010-06-09 | 2011-12-22 | Toyota Central R&D Labs Inc | 対象物検出装置及びプログラム |
| DE102011078615B4 (de) | 2011-07-04 | 2022-07-14 | Toyota Jidosha Kabushiki Kaisha | Objekterfassungsvorrichtung und objekterfassungsprogramm |
| DE102011078615A1 (de) | 2011-07-04 | 2013-01-10 | Toyota Jidosha K.K. | Objekterfassungsvorrichtung und objekterfassungsprogramm |
| US8994823B2 (en) | 2011-07-05 | 2015-03-31 | Toyota Jidosha Kabushiki Kaisha | Object detection apparatus and storage medium storing object detection program |
| WO2014017104A1 (ja) | 2012-07-27 | 2014-01-30 | 京セラ株式会社 | 画像処理装置、撮像装置、移動体、プログラム、および領域設定方法 |
| CN104488011A (zh) * | 2012-07-27 | 2015-04-01 | 京瓷株式会社 | 图像处理设备、成像设备、可移动体、程序及区域设定方法 |
| JPWO2014017104A1 (ja) * | 2012-07-27 | 2016-07-07 | 京セラ株式会社 | 画像処理装置、撮像装置、移動体、プログラム、および領域設定方法 |
| US9990556B2 (en) | 2012-07-27 | 2018-06-05 | Kyocera Corporation | Image processing apparatus, imaging apparatus, movable object, program, and region setting method |
| JP2015018515A (ja) * | 2013-07-12 | 2015-01-29 | 矢崎エナジーシステム株式会社 | 車載器 |
| JP2015135591A (ja) * | 2014-01-17 | 2015-07-27 | 株式会社リコー | 情報処理装置、情報処理方法及びプログラム |
| JP2020080544A (ja) * | 2018-10-03 | 2020-05-28 | 株式会社ユピテル | 車両用映像記録装置、再生装置、プログラム |
| JP2019071605A (ja) * | 2018-10-03 | 2019-05-09 | 株式会社ユピテル | 車両用映像記録装置、再生装置、プログラム |
| US11272111B2 (en) | 2019-05-23 | 2022-03-08 | Denso Corporation | Image processing apparatus |
| CN117222548A (zh) * | 2021-09-28 | 2023-12-12 | 华为技术有限公司 | 控制车载摄像头的视角的方法、装置以及车辆 |
| EP4400367A4 (en) * | 2021-09-28 | 2024-09-18 | Huawei Technologies Co., Ltd. | Method and apparatus for controlling angle of view of vehicle-mounted camera, and vehicle |
| JP2024536122A (ja) * | 2021-09-28 | 2024-10-04 | ホアウェイ・テクノロジーズ・カンパニー・リミテッド | 車載カメラの画角を制御するための方法および装置、および車両 |
| JP7732091B2 (ja) | 2021-09-28 | 2025-09-01 | 深▲ジェン▼引望智能技術有限公司 | 車載カメラの画角を制御するための方法および装置、および車両 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4766841B2 (ja) | 車両に搭載されるカメラ装置及び車両周辺監視装置 | |
| US7538795B2 (en) | Monitor device for moving body | |
| JP5036891B2 (ja) | 車両に搭載されるカメラ装置及び車両周辺監視装置 | |
| US7190259B2 (en) | Surrounding surveillance apparatus and mobile body | |
| US8477191B2 (en) | On-vehicle image pickup apparatus | |
| US20180015879A1 (en) | Side-view mirror camera system for vehicle | |
| JP2005110202A (ja) | カメラ装置及び車両周辺監視装置 | |
| JP7631275B2 (ja) | 移動体及び撮像装置の設置方法 | |
| JP2009206747A (ja) | 車両用周囲状況監視装置及び映像表示方法 | |
| JP7500527B2 (ja) | 画像処理システム、移動装置、画像処理方法、およびコンピュータプログラム | |
| JP7467402B2 (ja) | 画像処理システム、移動装置、画像処理方法、およびコンピュータプログラム | |
| JP2006178652A (ja) | 車両周辺認識システム及び画像処理装置 | |
| JP5951785B2 (ja) | 画像処理装置及び車両前方監視装置 | |
| US20250074331A1 (en) | Vehicular surround-view vision system with single camera | |
| KR20240105244A (ko) | 촬상장치, 이동체, 및 기억매체 | |
| CN115088248A (zh) | 摄像装置、摄像系统和摄像方法 | |
| US10300859B2 (en) | Multi-sensor interior mirror device with image adjustment | |
| KR20240118670A (ko) | 화상 처리 시스템, 이동가능 장치, 화상 처리 방법, 및 저장 매체 | |
| JP4062145B2 (ja) | 撮像装置 | |
| JP2022184109A (ja) | 撮像システム、移動装置、制御方法およびプログラム | |
| US12470839B2 (en) | Movable apparatus and installation method for imaging device | |
| JP2005242914A (ja) | 人間認識システム及び画像処理装置 | |
| JP2006024120A (ja) | 車両用画像処理システム及び画像処理装置 | |
| JPH0858470A (ja) | 後方確認装置 | |
| JP2006254318A (ja) | 車載用カメラ及び車載用監視装置並びに前方道路領域撮像方法 |