JP2015200976A - 移動量推定装置、移動量推定方法、およびプログラム - Google Patents

移動量推定装置、移動量推定方法、およびプログラム Download PDF

Info

Publication number
JP2015200976A
JP2015200976A JP2014078212A JP2014078212A JP2015200976A JP 2015200976 A JP2015200976 A JP 2015200976A JP 2014078212 A JP2014078212 A JP 2014078212A JP 2014078212 A JP2014078212 A JP 2014078212A JP 2015200976 A JP2015200976 A JP 2015200976A
Authority
JP
Japan
Prior art keywords
edge
image
removal
movement amount
moving body
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP2014078212A
Other languages
English (en)
Inventor
純 金武
Jun Kanetake
純 金武
中山 收文
Osafumi Nakayama
收文 中山
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Original Assignee
Fujitsu Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd filed Critical Fujitsu Ltd
Priority to JP2014078212A priority Critical patent/JP2015200976A/ja
Priority to EP15158391.1A priority patent/EP2927869A3/en
Priority to US14/658,507 priority patent/US9569674B2/en
Publication of JP2015200976A publication Critical patent/JP2015200976A/ja
Withdrawn legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/13Edge detection
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/207Analysis of motion for motion estimation over a hierarchy of resolutions
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/20Analysis of motion
    • G06T7/246Analysis of motion using feature-based methods, e.g. the tracking of corners or segments
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Analysis (AREA)
  • Image Processing (AREA)
  • Traffic Control Systems (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

【課題】移動体の影が画像に存在する場合にも、精度よく移動量を推定する。
【解決手段】エッジ除去部は、移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像で、移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成する。エッジ除去部は、第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成する。出力部は、第1のエッジ除去画像と第2のエッジ除去画像とに基づき推定された移動体の移動量を出力する。
【選択図】図1

Description

本発明は、移動量推定装置、移動量推定方法、およびプログラムに関する。
車両のような移動体に外界を映すカメラを取り付け、路面を含む周囲映像を撮像して、異なる2時刻間に撮像された画像における路面上の模様の移動量から移動体の移動量を推定する技術が知られている(例えば、非特許文献1参照)。このような技術においては、例えば、撮像された画像から車線境界位置や立体物を検出する場合などに、自車の影等による影響を受け、精度よく移動量を推定できないことがある。このため、車線境界位置や立体物の検出精度を向上させるための技術も知られている(例えば、特許文献1〜5参照)。
特開2003−337999号公報 特開2009−265783号公報 特開2010−15367号公報 特開2004−338673号公報 特開平9−72716号公報
車載カメラを用いた単眼測距検証システムの開発、2006年7月、SEI テクニカルレビュー・第169号、p82―87
しかしながら、移動量を推定する際に用いる2時刻間の画像においては、例えば、共通する路面模様が含まれるような短時間に撮像された画像が用いられる。よって、2時刻間の画像において、自車の影は、自車の位置に対して相対的にほぼ固定されていることが多い。このため、自車の影を含む2時刻間の画像においては影の一致度が高く、画像照合によって移動量を推定する際に、実際には移動している場合に移動量がゼロとして推定されることがある。また、自車の影によって路面模様などが精度よく検出できない場合もある。このように、移動量推定に用いる画像において、自車の影の影響は複雑であり、上記のような従来の技術では、影響を除去することが困難な場合がある。
ひとつの側面によれば、本発明の目的は、移動体の影が画像に存在する場合にも、精度よく移動体の移動量を推定できるようにすることである。
ひとつの態様である移動量推定装置は、エッジ除去部と出力部とを有している。エッジ除去部は、移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像で、移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成する。エッジ除去部は、第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成する。出力部は、第1のエッジ除去画像と第2のエッジ除去画像とに基づき推定された移動体の移動量を出力する。
一つの実施形態によれば、移動体の移動量推定において、移動体の影が画像に存在する場合にも、精度よく移動量を推定することが可能になる。
第1の実施の形態による移動量推定装置の機能的な構成の一例を示すブロック図である。 第1の実施の形態による移動量推定装置のエッジ除去部による処理の一例を説明する図である。 第2の実施の形態による移動量推定装置の機能的な構成の一例を示すブロック図である。 第2の実施の形態による路面投影画像の一例を示す図である。 第2の実施の形態による路面投影画像の別の例を示す図である。 第2の実施の形態による路面投影画像における対エッジ除外方法の一例を示す図である。 第2の実施の形態による自影除去過程の一例を説明する図である。 第2の実施の形態による移動量推定の一例を示す図である。 第2の実施の形態による移動体座標系の一例を示す図である。 第2の実施の形態による路面座標系の一例を示す図である。 第2の実施の形態によるカメラの位置および姿勢の一例を示す図である。 第2の実施の形態による路面投影画像座標系の一例を示す図である。 第2の実施の形態によるカメラ座標系の一例を示す図である。 第2の実施の形態によるエッジリストの一例を示す図である。 第2の実施の形態による所定領域設定方法の一例を示す図である。 第2の実施の形態による移動量推定装置の主な動作の一例を示すフローチャートである。 第2の実施の形態による除去候補エッジ抽出処理の一例を示すフローチャートである。 第2の実施の形態による対エッジ除外処理の一例を示すフローチャートである。 第2の実施の形態による除去対象エッジ除去処理の一例を示すフローチャートである。 第2の実施の形態の変形例による所定領域設定例を示す図である。 第3の実施の形態による所定領域設定例を示す図である。 第3の実施の形態による所定領域設定例における対エッジ除外方法の一例を示すフローチャートである。 第4の実施の形態による移動量推定装置のハードウエア構成の一例を示す図である。 第4の実施の形態による移動量推定装置の機能的な構成の一例を示すブロック図である。 標準的なコンピュータのハードウエア構成の一例を示す図である。
(第1の実施の形態)
以下、図面を参照しながら、第1の実施の形態による移動量推定装置1について説明する。図1は、第1の実施の形態による移動量推定装置1の機能的な構成の一例を示すブロック図である。移動量推定装置1は、異なる2時刻に取得された移動体を含む画像に基づき生成された2つのエッジ画像を受付け、移動体の移動量を出力する装置である。
図1に示すように、移動量推定装置1は、エッジ除去部3と出力部5とを有している。エッジ除去部3は、移動体に搭載された撮像装置で撮像された画像から生成されたエッジ画像において、移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、除去対象エッジを除去してエッジ除去画像を生成する。ここで、エッジ画像とは、撮像装置で撮像された画像における画素値に基づき算出される特徴量により表される画像である。エッジ画像は、例えば、画像に対し微分処理を行うことにより生成される。微分処理により算出される特徴量は、例えばエッジ強度である。
出力部は、第1のエッジ除去画像と、第2のエッジ除去画像とに基づき推定された移動量を出力する。第1のエッジ除去画像は、移動体に搭載された撮像装置で撮像された第1の画像から生成され、エッジ除去部3により、移動体の内側から外側への方向にみた明るさの変化に基づき、除去対象エッジを除去された画像である。第2のエッジ除去画像は、第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像から生成される。すなわち、第2のエッジ除去画像は、エッジ除去部3により、第2のエッジ画像において、移動体の内側から外側への方向における明るさの変化に基づき、第2の除去対象エッジを除去された画像である。エッジ画像上のエッジ強度が示す、移動体の中心に近い側から移動体中心から遠い側への明るさの変化の方向を、以下、明るさの変化方向ともいう。また、移動体の内側(移動体の中心に近い側)から外側(移動体の中心から遠い側)へ向かう方向を、放射状方向という。
図2は、第1の実施の形態による移動量推定装置1のエッジ除去部3による処理の一例を説明する図である。図2に示すように、第1の画像P1は、移動体10を含む路面投影像である。第1の画像P1は、例えば、移動体10に備えられた複数台のカメラによりそれぞれ取得された画像に基づき生成されるようにしてもよい。第1の画像P1には、白線16が撮像されている。また、移動体10の自影12が撮像されている。自影とは、照明光や太陽光によってできる、移動体の影をいう。
エッジ画像20は、第1の画像P1に、例えば、Sobelフィルタなどを用いた微分処理等を施して生成された画像である。エッジ画像20は、自影12による複数のエッジを含むエッジ14を有している。以下、エッジ14のように、線分をエッジという場合には、その線分付近の複数のエッジの総称を意味するものとする。
放射状方向22は、移動体10の中心から、移動体10の外側に向かう方向の例を示している。エッジ除去部3は、例えば、移動体10の中心から外側への放射状方向22の明るさの変化方向に基づき、除去すると判定された除去対象エッジを除去する。除去対象エッジは、例えば、放射状方向の明るさの変化方向が、暗から明の方向であるエッジとすることができる。明るさの変化方向は、例えばエッジ画像20における各エッジの、互いに直交する2方向におけるエッジ強度の度合いに基づき判定するようにしてもよい。
エッジ除去画像25は、エッジ除去部3で除去対象エッジが除去された画像の一例を示している。エッジ除去画像25は、放射状方向22における明るさの変化方向が暗から明への方向(以下、暗明方向ともいう)を示すエッジを除去した例である。エッジ除去画像25では、除去対象エッジ17が除去される。一方、白線16の一部のエッジ18が残っている。エッジ画像20における自影12のエッジ14は、放射状方向22にみると自影から路面に移行するため、暗い領域から明るい領域に移行する暗明方向を示し、除去対象エッジとなっている。よって、エッジ除去画像25では、自影12によるエッジ14が除去され、白線16の少なくとも一部のエッジは除去されない。よって、異なる2時刻に撮像された移動体を含む画像に基づき生成されたエッジ除去画像を用いて、移動量の推定が可能となる。
以上説明したように、第1の実施の形態による移動量推定装置1によれば、エッジ画像において、移動体10の中心から放射状方向に見た明るさの変化方向に基づき除去対象エッジを除去することで、自影を除去することが可能になる。また、エッジ除去画像25において、移動量推定時に必要となる白線16に関連するエッジの少なくとも一部は、エッジ18のように、除去されない。
以上のように、第1の実施の形態による移動量推定装置1によれば、異なる2時刻で撮像された画像に基づき夫々生成される2つのエッジ除去画像により画像照合を行うことで、移動量の推定が可能となる。このように、エッジ除去画像においては、移動体の自影が除去されている。よって、撮像画像に照明光による自影が撮像されている場合でも、自影による悪影響を受けることがなく、精度よく移動量が推定される。すなわち移動量を推定する際に、路面の白線に対応するエッジの少なくとも一部は残したまま自影の影響が除去される。
移動量推定装置1においては、自影の性質として、路面投影像において、移動体中心近傍から放射状方向に見ると、自影と路面との境界のエッジの明暗パターンは、暗から明への方向となるという性質が利用されている。このように、明るさの変化方向が暗→明となるエッジを抽出しており、自影を除去する際に時系列のデータを使用しないため、影位置の変化によらず、1時刻の路面投影像から自影を除去できる。自影の性質として、短時間では形状・位置がほとんど変わらない。しかし、画像から自影を除去することで、画像照合による移動量推定時に、自影による一致度の高さにより、移動しているにもかかわらず移動量ゼロと判定されるといった誤りの原因を排除できる。
一方、自影は、移動体が移動しても動きが少ないという性質を利用して、画像から動きのない部分を除去することで自影を除去する場合には、走行方向と平行な路面模様の一部も自影として誤認されてしまうことがある。しかし、第1の実施の形態による移動量推定装置1によれば、例えば、路面模様の一部が自影と誤認されることにより過剰に路面模様の特徴が除去されることが防止される。
(第2の実施の形態)
以下、第2の実施の形態による移動量推定装置50について説明する。第1の実施の形態による移動量推定装置1と同様の構成および動作については、同一符号を付し、重複説明を省略する。
図3は、第2の実施の形態による移動量推定装置50の機能的な構成の一例を示すブロック図である。第2の実施の形態による移動量推定装置50は、移動量推定装置1のエッジ除去部3に代えて、エッジ除去部30を有している。また、移動量推定装置50は、移動量推定装置1と同様に、出力部5を有している。エッジ除去部30はさらに、除去候補エッジ抽出部51、対エッジ除外部53、対除外除去部55、記憶部57を有している。
除去候補エッジ抽出部51は、エッジ画像において、放射状方向に見た明るさの変化方向に基づき、除去候補エッジを抽出する。例えば、除去候補エッジ抽出部51は、エッジ画像において、放射状方向に見た明るさの変化方向が暗から明の方向のエッジを除去候補エッジとして抽出する。除去候補エッジとは、抽出された段階では、実際に除去の対象となる除去対象エッジの候補とするエッジである。
対エッジ除外部53は、除去候補エッジ抽出部51により除去候補エッジとされたエッジから、対エッジを除外する。対エッジとは、エッジ画像において抽出された除去候補エッジであって、対にすると、互いに明るさの変化を相殺すると判定されるエッジをもつエッジをいう。互いに明るさの変化を相殺するとは、例えば、ほぼ同じ明るさの変化量の暗明方向のエッジと明暗方向のエッジとが所定領域内に存在していることをいう。例えば、対エッジは、移動体の中心から放射状方向にみた明るさの変化の方向が、明から暗の方向(以下、明暗方向ともいう)で明るさの変化量がほぼ同じ大きさのエッジが近傍に存在していると判定される除去候補エッジである。
対エッジ除外部53の処理では、除去候補エッジの中から対エッジを除外することで、自影に関連するエッジをエッジ画像から除去する際に、路面上に描かれた白線に関連するエッジを除去しないようにすることを意図している。すなわち、路面上の白線は、一定の幅で描かれることが多く、明るさの変化方向が暗明方向と明暗方向とで対になって存在するという特徴が考慮される。対エッジか否かは、例えば、除去候補エッジを含む所定領域に含まれるエッジのエッジ強度と対応する明るさの変化方向とに基づき判定される。対エッジであるか否かの判定の方法の詳細は後述される。
対除外除去部55は、対エッジ除外部53で除去候補エッジから対エッジが除外された除去対象エッジを、エッジ画像から除去する。これにより、自影に関連するエッジが除去された対除外エッジ除去画像が得られる。このとき、白線に関連する対エッジは除去対象とならないため、対除外エッジ除去画像において除去されることが防止される。
出力部5は、互いに異なる時刻に撮像された画像に基づく2つの対除外エッジ除去画像に基づき推定された移動量を出力する。記憶部57は、例えば撮像された画像、またはそのエッジ画像、および後述するエッジリスト190などを記憶する記憶装置である。
図4は、第2の実施の形態による路面投影画像80を示す図である。路面投影画像80には、暗明方向エッジ86が示されている。路面投影画像80には、移動体82、自影84が含まれている。暗明方向エッジ86は、自影84に対応する複数のエッジを示し、移動体82を含む路面投影画像において、例えば微分処理を行うことにより生成される。中心83は、例えば移動体82の中心を表す。放射状方向88は、中心83から、路面投影画像80の外側へ向かう方向を示している。放射状方向88でみると、暗明方向エッジ86は、明るさが暗から明への方向へ変化するエッジである。なお、明るさの変化方向の判定例の詳細については、後述される。
図5は、第2の実施の形態による路面投影画像100を示す図である。路面投影画像100は、移動体82に加え、白線102、他車両110を含んでいる。暗明方向エッジ104と明暗方向エッジ106は、白線102に対応するエッジである。他車両110には、影112がある。明暗方向エッジ114は、影112に対応するエッジである。このように、他車両110の影112では、対応するエッジは明暗方向エッジ114となるので、放射状方向88にみて暗明方向エッジを除去しても、他車両110の影112は除去されない。白線102については、白線102を含む範囲内で、暗明方向エッジ104と明暗方向エッジ106とが対になっていることが示されている。よって、対除外除去部55で対エッジを除去候補エッジから除外することで、対除外エッジ除去画像において、白線102は残ることになる。
図6は、第2の実施の形態による路面投影画像120における対エッジ除外方法の一例を示す図である。路面投影画像120は、移動体82に加え、白線122、白線130、他影136を含んでいる。暗明方向エッジ124と明暗方向エッジ126とは、白線122に対応するエッジである。暗明方向エッジ132と明暗方向エッジ134とは、白線130に対応するエッジである。明暗方向エッジ138は、他影136に対応するエッジである。
路面投影画像120では、所定領域140、142、144が示されている。この例では、所定領域140、142、144は、路面投影画像120の縦方向に平行な辺と、横方向に平行な辺とを有する矩形領域となっている。所定領域140は、移動体82の自影84の暗明方向エッジ86の一つに対応して、当該エッジを含んで設定されている。当該エッジを、所定領域140の設定エッジという。所定領域140は、設定エッジが白線に対応する対エッジでない所定領域の例として示されている。すなわち、所定領域140において、設定エッジは、所定領域140内に、互いに相殺される対となるエッジを有さないと判定される。
所定領域142は、暗明方向エッジ124、明暗方向エッジ126を含んでいる領域の例である。所定領域142は、暗明方向エッジ124のうちの設定エッジに対応して設定される。所定領域142において、暗明方向エッジ124の設定エッジと、所定領域142内のいずれかのエッジとが互いに相殺されると判定されると、所定領域142に対応する設定エッジは、対エッジと判定される。
所定領域144においても、暗明方向エッジ132の設定エッジと所定領域144内のいずれかのエッジとが対になっていると判定されると、所定領域144の設定エッジは、対エッジと判定される。上記のように、抽出された除去対象エッジの夫々について所定領域が設定され、夫々の所定領域において、設定エッジが対エッジか否かが判定される。対エッジの判定方法の一例の詳細は、後述される。
図7は、第2の実施の形態による自影除去過程の一例を説明する図である。図7に示すように、第1の画像P1に、例えば、路面上の移動体10、自影12、および白線16が含まれている。第1の画像P1に対する微分処理を行うことにより、エッジ画像20が生成される。エッジ画像20には、エッジ14、エッジ27〜29が含まれている。エッジ14は、自影12から路面への境界に対応している。エッジ27〜29は、白線16と路面との境界に対応している。
エッジ画像20において、移動体10の中心から外側に向かう放射状方向にみた暗明方向の除去候補エッジが抽出される。抽出された除去候補エッジの中から、明暗方向と対になっている対エッジが除外される。これにより、除去対象エッジ画像150が生成される。除去対象エッジ画像150では、エッジ14は除去対象エッジであり、エッジ27〜29は、対エッジとして除外されている。
除去対象エッジ画像150は、エッジ画像20から自影12によるエッジ14を除去するために用いられる。すなわち、エッジ画像20において、除去対象エッジ画像150に残った除去対象エッジが除去され、対除外エッジ除去画像155が生成される。移動量推定装置50では、異なる2時刻に撮像された画像から生成される、例えば対除外エッジ除去画像155などの2枚の対除外エッジ除去画像に基づき、移動量が推定される。
図8は、第2の実施の形態による移動量推定の一例を示す図である。図8に示すように、移動量推定装置50では、第1の画像P1と第2の画像P2とが用いられる。第1の画像P1と、第2の画像P2とは、例えば、移動体に備えられた少なくともひとつのカメラで、異なる時刻に周囲を撮像したカメラ画像に基づきそれぞれ生成された、路面投影画像である。さらに、第1の画像P1と、第2の画像P2の夫々に関して、上記のように、エッジ画像および除去対象エッジ画像の生成を経て、対除外エッジ除去画像155−1、対除外エッジ除去画像155−2が生成される。これらを画像照合することにより、移動量152が推定される。このとき、自影12、自影13が除去されているため、領域154のように、白線16、白線19に基づき精度よく画像照合が行われる。
一方、比較例として、対除外エッジ除去画像155を用いずに第1の画像P1と第2の画像P2の間で画像照合を行う場合について説明する。このような場合は、領域156のように、2枚の画像における自影12と自影13とはほとんど重なる。よって、例えば、画像照合時に自影158のように、2つの画像の自影12、自影13が一致してしまい、正確な移動量を推定することが困難になってしまう。このような場合、例えば、自影12がほとんど動かないことを利用して、画像から動きのない部分を削除することにより自影12を除去しようとする方法なども考えられる。しかし、動きのない部分を削除する方法では、走行方向と平行な路面模様まで削除されてしまい、正確な移動量を推定するのが困難な場合がある。第2の実施の形態による移動量推定装置50によれば、白線16、白線19は、除去対象から除外されるため、精度よく移動量を推定できる。
以下、第2の実施の形態による移動量推定について、さらに詳細に説明する。移動量推定装置50で利用される第1の画像P1、第2の画像P2は、例えば、移動体に備えられた少なくとも一つ以上のカメラから周囲の画像を異なる時刻に撮像し、それぞれ路面投影画像に合成することにより生成される。このとき、少なくとも一つ以上のカメラの配置は、予め例えば記憶部57に記憶されるようにしてもよい。
ここで、第2の実施の形態による移動量推定装置50において採用する座標について説明する。図9は、移動体座標系の一例を示す図である。図9に示すように、移動体座標系O−XYZは、移動体160を基準とした3次元座標系である。移動体座標系の原点Oは、例えば、移動体160の中心直下の路面162上の点である。X軸は、原点Oから移動体160の右方向へ向かう座標軸である。Y軸は、原点Oから移動体160の前方向へ向かう座標軸である。Z軸は、原点Oから路面162の上方向へ向かう座標軸である。図10は、路面座標系の一例を示す図である。図10に示すように、移動体座標系のXY平面上で路面座標系O−XYが定義される。
図11は、カメラの位置および姿勢の一例を示す図である。図11に示すように、移動体160に搭載されたm番目(mは1以上の整数)のカメラ164の位置及び姿勢は、移動体座標系O−XYZにおける並進ベクトルTm及び回転行列Rmで表すことができる。
図12は、路面投影画像座標系の一例を示す図である。図12に示すように、路面投影画像座標系o−xyは、路面投影画像166の2次元座標系である。路面投影画像166の原点oは、例えば、路面投影画像166の左上の頂点とすることができる。路面投影画像166のx軸方向の大きさはwxであり、y軸方向の大きさはwyである。なお、大きさwxは、x軸方向の画素数、大きさwyは、y軸方向の画素数とすることができる。路面投影画像166の中心168の座標を(cx,cy)とすると、下記式1、式2が成り立つ。
cx=wx/2・・・(式1)
cy=wy/2・・・(式2)
図13は、カメラ座標系の一例を示す図である。図13のカメラ画像座標系px−pyは、カメラ164の撮像面上におけるカメラ画像170の2次元座標系である。px軸は、カメラ画像170の水平方向の座標軸であり、py軸は、カメラ画像170の垂直方向の座標軸である。
カメラ座標系QX−QY−QZは、カメラ画像170の中心172を原点とする3次元座標系である。QZ軸は、カメラ164の光軸上にあり、QX軸及びQY軸は、光軸に垂直な平面上にある。中心172からQZ軸の負の方向へカメラ164の焦点距離fだけ離れた点174と、カメラ164の撮像対象である物体上の点180とを直線178で結ぶと、直線178は、交点176においてカメラ画像170と交差する。このとき、物体上の点180は、カメラ画像170上の交点176に投影される。
物体上の点180の座標を(QX,QY,QZ)とし、QZ軸と直線178とのなす角を角θとし、QX軸と、中心172と交点176とを結ぶ直線182とのなす角を角φとする。カメラ画像座標系px−pyにおける中心172の座標を(vx,vy)とし、カメラ画像170上の点176の座標を(px,py)とし、点176に対応する画素の画素値をpm(px,py)とする。また、路面投影画像166の1画素のx軸方向の大きさに対応する、路面162上の実際の大きさをMXとし、路面投影画像166の1画素のy軸方向の大きさに対応する、路面162上の実際の大きさをMYとする。
次に、除去候補エッジ抽出について説明する。生成された路面投影画像に基づき、エッジ画像を生成する場合、路面投影画像に対して、例えばSobelのような一般的な微分オペレータを作用させて、各画素に対応するエッジ強度が求められる。例えば、本実施の形態において、微分オペレータとして、下記式3、式4で表されるSobelフィルタを用いるとする。なお、フィルタShは、例えば路面投影画像におけるx軸方向の横エッジ強度Ehを算出するフィルタである。フィルタSvは、例えば路面投影画像におけるy軸方向の縦エッジ強度Evを算出するフィルタである。
図14は、エッジリスト190の一例を示す図である。エッジリスト190は、例えば、エッジ画像20における各画素に対応して生成される。図14では、各エッジe(1,1)、e(2,1)、・・・、e(j,i)、・・・に対応して、エッジリスト190−1、190−2、・・・、190−n(nは、エッジ画像中の画素数)と表している。エッジリスト190−1、190−2、・・・、190−nは、まとめて、あるいは代表してエッジリスト190ともいう。なお、変数iは、エッジ画像の縦方向画素数を示す変数、変数jは、エッジ画像の横方向画素数を示す変数とすることができる。
エッジリスト190は、特徴点フラグfea、縦エッジ強度Ev、横エッジ強度Eh、合成エッジ強度Em、および除去エッジフラグshaを有している。エッジリスト190は、例えば、除去候補エッジ抽出部51、対エッジ除外部53、対除外除去部55で生成される。なお、縦エッジ強度Evは、各画素について、例えば、上記フィルタSvを用いて算出される。横エッジ強度Ehは、各画素について、例えば上記フィルタShを用いて算出される。また、ここでは、合成エッジ強度Emは、下記式5により算出される。
Em=SQRT(Eh+Ev)・・・(式5)
特徴点フラグfeaは、合成エッジ強度Emが、あらかじめ定められた閾値以上か否かを示す情報である。例えば、合成エッジ強度Emが閾値以上の場合には、特徴点フラグfea=「1」とされるとともに、縦エッジ強度Ev、横エッジ強度Ehがエッジリスト190に登録される。合成エッジ強度Emが閾値未満の場合には、特徴点フラグfea=「0」とする。上記のような微分処理により、例えばエッジ画像20のような、輝度変化を表すエッジ画像が得られる。
除去エッジフラグshaは、対応するエッジが、除去対象エッジであるか否かを示す情報である。除去対象エッジであると判定された場合には、例えば除去エッジフラグsha=「1」とされる。除去対象エッジでない場合には、例えば除去エッジフラグsha=「0」とされる。エッジリスト190は、例えば記憶部57に記憶される。
なお、エッジリスト190は一例であり、これに限定されない。例えば、特徴点フラグfeaは、なくてもよい。特徴点フラグfeaがある場合は、後述する処理において、特徴点フラグfeaに応じて処理が不要になるデータが存在する場合に、処理時間を短縮することができる。
対応するエッジが除去対象エッジか否かは、例えばエッジ画像20に関して、エッジリスト190における縦エッジ強度Evと、横エッジ強度Ehと、エッジの画像上の位置とに基づきエッジ除去部30により判定される。以下に、除去候補エッジの判定方法の一例を述べる。
路面投影像座標(x、y)、路面投影像の中心を座標(cx、cy)としたとき、移動体座標の原点Oからの位置ベクトルpは、以下のように表される。
p=(p(0),p(1))・・・(式6)
p(0)=x−cx・・・(式7)
p(1)=−(y−cy)・・・(式8)
また、放射状方向にみた明るさの変化方向が暗から明となるエッジ方向ベクトルgは、以下のように表される。
g=(g(0),g(1))・・・(式9)
g(0)=Eh・・・(式10)
g(1)=−Ev・・・(式11)
位置ベクトルpとエッジ方向ベクトルgとのなす角を角Ψとすると、角Ψは、ベクトルp、ベクトルgにより下記式20で表される。なお、角Ψをエッジ勾配Ψともいう。
ここで、エッジ勾配Ψが予め定められた角度の範囲内であれば、移動体座標原点Oから放射状方向に見たエッジの変化方向が暗から明の暗明方向であるため、除去候補エッジ抽出部51は、対応するエッジを、除去候補エッジと判定する。例えば、除去候補エッジとするエッジ勾配Ψの範囲は、―th1≦Ψ≦+th1とされる。角度th1は、例えば、90度以下の正の角度とすることができ、一例として45度とすることができる。
除去候補エッジ抽出部51は、エッジリスト190において、対応するエッジにおける明るさの変化方向が暗明方向である場合には、例えば、除去エッジフラグsha=「1」とすることで、除去候補エッジであることを示す。このとき、除去候補エッジ抽出部51は、対応するエッジのエッジ強度Emを正の値とする。除去候補エッジ抽出部51は、エッジリスト190において、対応するエッジにおける明るさの変化方向が暗明方向のエッジでない場合には、例えば、除去エッジフラグsha=「0」とする。このとき、除去候補エッジ抽出部51は、対応するエッジのエッジ強度Emを負の値とする。例えば上記のようにして、除去候補エッジが抽出される。
図15は、所定領域設定方法の一例を示す図である。所定領域とは、除去候補エッジが白線のものであると判定される場合に、除去候補エッジから除外するための判定を行う領域である。所定領域は、対エッジ除外部53により、除去候補エッジ抽出部51が抽出した除去候補エッジについて、除去候補エッジの位置と、路面投影画像の中心からの方向に基づき設定される。所定領域は、エッジリスト190において、例えば、除去エッジフラグsha=「1」である除去候補エッジについて設定される。所定領域設定の対象となる除去候補エッジを、設定エッジという。
路面投影画像上の設定エッジの座標が、座標(x、y)であるとする。所定領域の中心座標は、座標(rcx,rcy)、所定領域は、大きさrx×ryの矩形領域であるとする。距離rは、例えば、所定領域内に設定エッジが含まれる値とする。また、大きさrx×ryは、例えば、白線の幅に基づいて決められる大きさであることが好ましい。例えば、長さrx、長さryは、白線の幅の約2倍などとすることができる。例えば白線模様の一つである白線は、エッジが平行線で線幅が10〜20センチメートルと規定されていることがある。このような場合、例えばrの一例としてr=10cm、rx、ryの一例として、rx=ry=40cmとしてもよいが、これに限定されない。
また、白線は、路面より明るく(輝度が高く)、明るさは均等である。よって、白線に対応するエッジの明暗パターンは、移動体中心から見ると暗明方向+明暗方向となり、それぞれの明るさの変化量はほぼ同じとなる。それに対して、自影近傍では明暗の組み合わせを持たず暗明方向のパターンのみとなる。角度δは、路面投影画像の中心と設定エッジの座標(x、y)とを結ぶ直線と、y軸とのなす90度以下の正の角度であるとする。
このとき、下記のように、所定領域が設定される。
rcx=x+r×sinδ×sx・・・(式13)
rcy=y+r×cosδ×sy・・・(式14)
ただし、変数sx、syは、下記の条件(A)〜(D)で与えられる。
(A)0≦x<cx、0≦y<cy:sx=−1、sy=−1
(B)cx≦x<wx、0≦y<cy:sx=+1、sy=−1
(C)0≦x<cx、cy≦y<wy:sx=−1、sy=+1
(D)cx≦x<wx、cy≦y<wy:sx=+1、sy=+1
上記の条件は、座標軸および角度δの定義によって異なる。第2の実施の形態において所定領域は、路面投影画像の中心と、対応する設定エッジとを結んだ放射状方向の直線上であって、設定エッジより路面投影画像の中心から離れた点を中心とする所定領域として設定される。
図15の例においては、路面投影画像192が、中心191を基準として、同面積の4つの領域に分割されている。夫々の領域は、上記の条件(A)〜(D)に対応する領域である。エッジ193は、条件(A)に対応する領域にある。例えば、エッジ193を設定エッジとする場合、所定領域195は、式13、式14により算出される中心194に対して所定領域195のように定められる。ここで、距離rは、エッジ193と中心194との距離であり、所定領域195内にエッジ193を含むように予め決められる。
この所定領域内において、対応する設定エッジが対エッジか否かが判定される。すなわち、所定領域が白線を含んでいる場合、暗明方向のエッジと明暗方向のエッジとが例えば1対1に近い割合で存在し、対をなしていると考えられる。よって、所定領域内で変化方向を考慮した平均エッジ強度Eaveは、値が小さくなると予想される。そこで、所定領域内の平均エッジ強度Eaveが予め定められた閾値よりも小さい場合、対応する設定エッジは、白線に関係する対エッジであると判定され、除去候補エッジから除外される。このとき、対エッジ除外部53は、エッジリスト190において、対エッジと判定された設定エッジに関して、例えば、除去エッジフラグsha=「0」とする。
なお、所定領域は上記に限定されない。所定領域は、設定エッジを含み、例えば設定エッジの近傍であって、所定領域の最大幅が、白線の幅より大きいことが好ましい。また、所定領域の形状は矩形に限定されず、他の形状でもよい。所定領域が矩形の場合、上記角辺は、エッジ画像の縦軸または横軸に平行な場合であるが、例えば、設定エッジにおける明るさの変化方向に平行な辺を有する矩形としてもよい。また、所定領域は、エッジ画像を整数個に分割した領域としてもよい。
対エッジ除外部53は、例えば、所定領域内のエッジ点のエッジ強度Emの総和を算出し、エッジ強度を持つエッジ数k(kは、1以上の整数)で正規化することで、下記式15により、エッジ平均強度Eaveを算出する。
Eave=ΣEm/k・・・(式15)
このエッジ平均強度Eaveが閾値以下であれば、所定領域内において、暗明方向エッジ(正値)とそれ以外のエッジ(負値)が互いに相殺されていると判定される。すなわち、対エッジ除外部53は、設定エッジを対エッジであると判定する。このとき、所定領域の大きさを白線の幅のサイズと対応する値とすることで、対エッジは白線に対応するエッジであると判定される。白線の幅のサイズと対応する値とは、例えば所定領域の中に標準的な白線の幅が納まる大きさ、所定領域が正方形の場合、一辺の長さを標準的な白線の幅の整数倍の長さとする等、幅のサイズに基づいて決定する値とすることができる。よって、対エッジ除外部53は、対エッジを除去候補エッジから除外することで、路面上の白線模様が除去されないようにすることができる。
例えば、対エッジであると判定するための、エッジ平均強度の範囲は、当該設定エッジのエッジ強度Emについて、下記式16を満たす範囲とすることができる。
Eave≦Em/4・・・(式16)
エッジリスト190において、除去エッジフラグshaは、除去対象エッジ画像150に対応するエッジか否かを示す情報となる。よって、対エッジ除外部53は、式16を満たす設定エッジを対エッジと判定し、例えば、対応する除去エッジフラグsha=「0」とする。対エッジでない場合には、対エッジ除外部53は、除去エッジフラグsha=「1」とする。移動量推定装置50は、異なる2時刻で撮像された第1の画像P1と第2の画像P2とにおいて、上記のようにして夫々のエッジリスト190を生成する。生成されたエッジリスト190が、対除外エッジ除去画像155に対応する情報となる。
以下、図16から図19を参照しながら、移動量推定装置50における処理についてさらに説明する。図16は、第2の実施の形態による移動量推定装置50の主な動作の一例を示すフローチャートである。図16に示すように、移動量推定装置50には、映像が入力される(S201)。このとき上述のように、移動体に設けられた少なくとも1台のカメラにより、異なる2時刻に取得されたカメラ画像が用いられる。夫々のカメラ画像に基づいて生成された路面投影画像にそれぞれ微分処理を施すことにより、エッジ画像が生成されているとする(S202)。
除去候補エッジ抽出部51は、除去候補エッジ抽出処理を行う(S203)。詳細は、図17を参照しながら後述される。対エッジ除外部53は、除去候補エッジにおいて、路面上に描かれた白線に関連するエッジを対エッジとして除外する処理を行う(S204)。詳細は、図18を参照しながら後述される。対除外除去部55は、対エッジを除外された除去対象エッジを、エッジ画像から除去する処理を行う(S205)。詳細は、図19を参照しながら後述される。
移動量推定装置50から出力される、異なる2時刻に撮像された画像に基づく、自影を取り除いたエッジ画像を用いて、移動距離が推定される(S206)。終了の指示が入力されない場合には(S207:NO)、S201から処理が繰り返される。終了の指示が入力されると(S207:YES)、処理は終了される。
図17は、第2の実施の形態による除去候補エッジ抽出処理の一例を示すフローチャートである。図17に示すように、除去候補エッジ抽出部51は、変数i=0とする(S211)。除去候補エッジ抽出部51は、i<wy(wyは、路面投影画像のy方向の画素数)でない場合は(S212:NO)、図16の処理に処理を戻す。除去候補エッジ抽出部51は、i<wyの場合には(S212:YES)、変数j=0とする(S213)。
除去候補エッジ抽出部51は、j<wx(wxは、路面投影画像のx方向の画素数)でない場合には(S214:NO)、i=i+1として(S215)、処理をS212に戻す。除去候補エッジ抽出部51は、j<wxの場合には(S214:YES)、当該画素に対応するエッジリスト190において、特徴点フラグfea=「1」であるか否か判別する(S216)。
除去候補エッジ抽出部51は、S216で特徴点フラグfea=「1」でない場合は(S216:NO)、S221に処理を進める。除去候補エッジ抽出部51は、特徴点フラグfea=「1」である場合は(S216:YES)、エッジ勾配Ψを算出する(S217)。すなわち、除去候補エッジ抽出部51は、式12に基づき、エッジ勾配Ψを算出する。
除去候補エッジ抽出部51は、算出されたエッジ勾配Ψが、予め定められた所定角度の範囲であるか否か判別する(S218)。この例では、予め定められた閾値th1について、−th1≦Ψ≦th1を満たすか否かが判別される。S218の条件を満たす場合(S218:YES)、除去候補エッジ抽出部51は、エッジリスト190において、除去エッジフラグsha=「1」とする。また、除去候補エッジ抽出部51は、合成エッジ強度Emを、上記式5により算出し、エッジリスト190に記憶させる(S219)。
S218の条件が満たされない場合(S218:NO)、除去候補エッジ抽出部51は、エッジリスト190において、除去エッジフラグsha=「0」とする。また、除去候補エッジ抽出部51は、下記式17により、合成エッジ強度を算出し、エッジリスト190に記憶させる(S220)。
Em=−SQRT(Eh+Ev)・・・(式17)
S221では、除去候補エッジ抽出部51は、j=j+1とし、処理をS214に戻す。以上の処理により、除去候補エッジが抽出される。
図18は、第2の実施の形態による対エッジ除外処理の一例を示すフローチャートである。対エッジ除外部53は、変数i=0とする(S231)。対エッジ除外部53は、i<wy(wyは、路面投影画像のy方向の画素数)でない場合は(S232:NO)、図16の処理に処理を戻す。対エッジ除外部53は、i<wyの場合には(S232:YES)、変数j=0とする(S233)。
対エッジ除外部53は、j<wx(wxは、路面投影画像のx方向の画素数)でない場合には(S234:NO)、i=i+1として(S235)、処理をS232に戻す。対エッジ除外部53は、j<wxの場合には(S234:YES)、当該エッジに対応するエッジリスト190において、除去エッジフラグsha=「1」であるか否か判別する(S236)。
対エッジ除外部53は、当該エッジに対応する除去エッジフラグsha=「1」でない場合は(S236:NO)、S242に処理を進める。対エッジ除外部53は、除去エッジフラグsha=「1」である場合は(S236:YES)、所定領域の設定を行う(S237)。すなわち、対エッジ除外部53は、例えば、当該エッジの位置(領域(A)〜(D)のいずれか)と、式13、式14とに基づき、所定領域を設定する。対エッジ除外部53は、さらに所定領域において、例えば式15に基づき、エッジ強度の平均値Eaveを算出する(S238)。
対エッジ除外部53は、算出されたエッジ強度の平均値Eaveが、予め定められた所定値以下であるか否か判別する(S239)。この例では、例えば、式16を満たすか否かが判別される。式16を満たす場合(S239:YES)、対エッジ除外部53は、エッジリスト190において、除去エッジフラグsha=「0」とする(S240)。このとき、対応する設定エッジは、対エッジであると判定されたことになる。
式16が満たされない場合(S239:NO)、対エッジ除外部53は、処理をS241に進める。当該設定エッジは、除去対象エッジと判定されたことになる。S241では、対エッジ除外部53は、j=j+1とし、処理をS234に戻す。以上の処理により、対エッジの除外処理が行われる。
図19は、第2の実施の形態による除去対象エッジ除去処理の一例を示すフローチャートである。第2の実施の形態において、除去対象エッジ除去処理は、対エッジを除去した除去候補エッジ(除去対象エッジ)をエッジ画像から除去する処理である。対除外除去部55は、変数i=0とする(S251)。対除外除去部55は、i<wy(wyは、路面投影画像のy方向の画素数)でない場合は(S252:NO)、図16の処理に処理を戻す。対除外除去部55は、i<wyの場合には(S252:YES)、変数j=0とする(S253)。
対除外除去部55は、j<wx(wxは、路面投影画像のx方向の画素数)でない場合には(S254:NO)、i=i+1として(S255)、処理をS252に戻す。対除外除去部55は、j<wxの場合には(S254:YES)、当該エッジに対応するエッジリスト190において、合成エッジ強度Em=|Em|とする(S256)。
対除外除去部55は、除去エッジフラグsha=「1」でない場合は(S257:NO)、S259に処理を進める。対除外除去部55は、除去エッジフラグsha=「1」である場合は(S257:YES)、合成エッジ強度Em=0とする(S258)。S259では、対除外除去部55は、j=j+1として、処理をS254に戻す。この処理が行われた後のエッジリスト190が、例えば対除外エッジ除去画像155に対応する情報となっている。以上のようにして、除去候補エッジから、対エッジを除外して除去対象エッジとする処理が行われる。
以上詳細に説明したように、第2の実施の形態による移動量推定装置50によれば、除去候補エッジ抽出部51により、エッジ画像において判定される明るさの変化方向に基づき除去候補エッジが抽出される。対エッジ除外部53は、設定エッジとなる除去候補エッジを含み、設定エッジの近傍の所定領域において、設定エッジが対エッジか否かを判定する。対エッジとは、所定領域において、互いに相殺される関係となるエッジを有すると判定される設定エッジである。対エッジか否かは、例えば、所定領域において、明るさの変化方向を考慮した平均エッジ強度が所定値以下か否かで判定される。対エッジは、路面投影画像上の白線に関係するエッジであると解釈される。
対エッジ除外部53は、除去候補エッジから対エッジを除外する。対除外除去部55は、対エッジが除外された除去候補エッジを除去対象エッジとして、エッジ画像から除去する。移動量推定装置50は、互いに異なる時刻に撮像された画像に基づく第1の対除外エッジ除去画像と、第2の対除外エッジ除去画像に基づき、推定された移動量を出力する。
以上のように第2の実施の形態による移動量推定装置50によれば、第1の実施の形態による移動量推定装置1による効果に加え、路面上の白線に関連するエッジを除去対象エッジから除外するので、より精度よく移動量を推定することが可能になる。すなわち、移動量を推定する際に、路面の白線に対応するエッジは残したまま自影の影響が除去される。よって、照明(太陽)光による自影が撮像されている場合であっても、精度よく安定して移動量が推定される。このように、移動量推定を行う画像において、移動体の自影を除去し、路面の白線は残すことが可能となるため、路面模様の過剰除去を防止でき、移動量の推定の精度をより高めることができる。
(第2の実施の形態の変形例)
以下、第2の実施の形態による変形例について説明する。第1の実施の形態または第2の実施の形態と同様の構成および動作については、同一符号を付し、重複説明を省略する。本変形例は、第2の実施の形態における所定領域の設定方法の別の例である。ここでは、所定領域の設定方法についてのみ説明される。
図20は、第2の実施の形態の変形例による所定領域設定例を示す図である。所定領域設定例260は、移動体82に加え、白線122、白線130、他影136を含む路面投影画像120における設定例である。暗明方向エッジ124と明暗方向エッジ126とは、白線122に対応するエッジである。暗明方向エッジ132と明暗方向エッジ134とは、白線130に対応するエッジである。明暗方向エッジ138は、他影136に対応するエッジである。
所定領域設定例260では、所定領域266、272、278が設定されている。所定領域266は、移動体82の自影84の除去候補エッジ262を設定エッジとして、設定エッジを含んで設定されている。所定領域266は、設定エッジが対エッジでない所定領域の例として示されている。除去候補エッジ262は、例えば、変化方向264で表される暗から明への方向のエッジ勾配を有する暗明エッジであるとする。このとき、所定領域266は、変化方向264に平行な辺と、変化方向264に垂直な辺とを有する矩形領域に設定される。所定領域260において、例えば、変化方向を考慮した平均エッジ強度Eaveが所定値を超えている場合、暗明エッジである除去候補エッジ262は、所定領域260内に対となるエッジがないと判定される。このとき、所定領域260に対応する除去候補エッジ262は、対エッジではないと判定され、除去対象エッジとなる。
所定領域272は、白線122に対応する除去候補エッジ268を設定エッジとして、設定エッジを含んで設定されている。所定領域272は、設定エッジが対エッジである所定領域の例として示されている。除去候補エッジ268は、例えば、変化方向270で表される暗から明への方向のエッジ勾配を有しているとする。このとき、所定領域272は、変化方向270に平行な辺と、変化方向270に垂直な辺とを有する矩形領域に設定される。所定領域272において、例えば、変化方向を考慮した平均エッジ強度Eaveが所定値以下である場合、暗明エッジである除去候補エッジ268は、所定領域272内のいずれかの明暗エッジと対になっていると判定される。このとき、所定領域272に対応する除去候補エッジ268は、対エッジと判定される。
所定領域278は、白線130に対応する除去候補エッジ274を設定エッジとして、設定エッジを含んで設定されている。所定領域278は、設定エッジが対エッジである所定領域の別の例として示されている。除去候補エッジ274は、例えば、変化方向276で表される暗から明への方向のエッジ勾配を有しているとする。このとき、所定領域278は、変化方向276に平行な辺と、変化方向276に垂直な辺とを有する矩形領域に設定される。所定領域278において、変化方向を考慮した平均エッジ強度Eaveが、所定値以下である場合、除去候補エッジ274は、所定領域278内のいずれかのエッジと対になっていると判定される。このとき、所定領域278に対応する除去候補エッジ274は、対エッジと判定される。同様にして、抽出された除去候補エッジの夫々について所定領域が設定され、夫々の所定領域において、設定エッジが対エッジか否かが判定される。
以上説明したように、本変形例によれば、第1の実施の形態による移動量推定装置1、第2の実施の形態による移動量推定装置50による効果に加え、より効率よく対エッジを除外することが可能になる。すなわち、本変形例においては、所定領域がエッジ勾配に応じて設定されるため、所定領域に白線が効率よく含まれるようにすることができる。よって、より精度よく対エッジを除去候補エッジから除外することが可能になり、より精度よく移動量を推定できる。
(第3の実施の形態)
以下、第3の実施の形態による移動量推定装置について説明する。第1の実施の形態、第2の実施の形態、および第2の実施の形態による変形例と同様の構成および動作については、同一符号を付し、重複説明を省略する。
本実施の形態は、第2の実施の形態における所定領域の設定方法、および対エッジ判定方法の別の例である。第3の実施の形態による移動量推定装置は、第2の実施の形態による移動量推定装置50と同様の構成である。ここでは、所定領域の設定方法、および対エッジ判定方法についてのみ説明される。
図21は、第3の実施の形態による所定領域設定例280を示す図である。図22は、第3の実施の形態による所定領域設定例280における対エッジ除外方法の一例を示すフローチャートである。
図21に示すように、所定領域設定例280は、移動体82に加え、白線122、白線130、他影136を含む路面投影画像120における設定例である。暗明方向エッジ124と明暗方向エッジ126とは、白線122に対応するエッジである。暗明方向エッジ132と明暗方向エッジ134とは、白線130に対応するエッジである。明暗方向エッジ138は、他影136に対応するエッジである。
所定領域設定例280では、路面投影画像120を整数個に分割して所定領域としている。所定領域設定例280では、8×8の領域に分割されている。ここでは、特に所定領域282、284、286について説明される。所定領域282は、移動体82の自影84の暗明方向エッジ86を含む所定領域である。所定領域282は、所定領域282に含まれるエッジが対エッジであると判定されない例として示されている。所定領域282において、明るさの変化方向を考慮した平均エッジ強度Eaveが、例えば、式16の条件を満たさない場合、所定領域282の除去候補エッジは、全て対エッジではないと判定され、除去対象エッジとされる。
所定領域284は、白線122を含んで設定されている。所定領域284は、対エッジと判定される例として示されている。所定領域284において、明るさの変化方向を考慮したエッジ強度の和が、例えば、式16の条件を満たす場合、所定領域284の除去候補エッジは、全て対エッジであると判定される。すなわち、所定領域284において、暗明方向エッジと明暗方向エッジとが対で存在しているため、エッジ強度が相殺されていると判定される。
所定領域286は、白線130を含んで設定されている。所定領域286は、対エッジと判定される例として示されている。所定領域286において、明るさの変化方向を考慮した平均エッジ強度Eaveが、例えば、式16の条件を満たす場合、所定領域286の除去候補エッジは、全て対エッジであると判定される。上記のような判定が、全ての所定領域について行われる。
図22は、第3の実施の形態の変形例による対エッジ除外処理の一例を示す図である。本実施の形態による対エッジ除外処理は、対エッジ除外部53により行われるとして説明する。また、この処理は、例えば、図16のS204の処理として行われる。対エッジ除外部53は、路面投影画像を例えばrn個(rnは、1以上の整数)に分割して所定領域を設定する(S291)。対エッジ除外部53は、変数l<rnでない場合は(S292:NO)、図16の処理に処理を戻す。対エッジ除外部53は、変数l<rnの場合には(S292:YES)、所定領域を一つ設定する(S293)。
対エッジ除外部53は、エッジ強度の平均Eaveが閾値以下であるか(例えば、式16を満たすか)否か判定する(S295)。閾値以下でない場合には(S295:NO)、対エッジ除外部53は、S297に処理を進める。
エッジ強度の平均Eaveが閾値以下である場合(S295:YES)、対エッジ除外部53は、エッジリスト190において、対応する所定領域内の全ての除去候補エッジに関して、除去エッジフラグsha=「0」とする(S296)。S297において、対エッジ除外部53は、l=l+1として、処理をS292に戻す。以上の処理により、対エッジの除外処理が行われる。
以上詳細に説明したように、第3の実施の形態による対エッジ除外処理を行う移動量推定装置によれば、所定領域は、路面投影画像166を整数個に分割した領域となる。よって、第1および第2の実施の形態、および第2の実施の形態による変形例による効果に加え、対エッジ除外の処理を早く行える効果がある。
(第4の実施の形態)
以下、第4の実施の形態による移動量推定装置300について説明する。第1から第3の実施の形態、または第2の実施の形態の変形例と同様の構成および動作については、同一符号を付し、重複説明を省略する。
図23は、第4の実施の形態による移動量推定装置300のハードウエア構成の一例を示す図である。図23に示すように、移動量推定装置300は、例えば、移動体302に搭載される。移動体302は、例えば車両である。移動量推定装置300は、互いにバス314で接続された、演算処理装置304、記憶装置306.表示装置308、音声出力装置310、カメラ312を有している。
演算処理装置304は、移動量推定装置300の動作を制御するための演算処理を行う装置である。演算処理装置304は、記憶装置306に予め記憶されたプログラムを読み込んで実行することにより、移動量推定装置300を制御する処理を行うようにしてもよい。記憶装置306は、例えば随時読み出し及び書き込み可能な記憶装置であり、移動量推定装置300の制御プログラムや、時系列投影画像DB326などを記憶する。記憶装置306は、記憶媒体の駆動装置と、可搬記憶媒体とすることもできる。記憶装置306は、移動量推定装置300において行われる処理において、一時的に情報を記憶させるようにしてもよい。
表示装置308は、例えば液晶表示装置などの表示装置である。表示装置308は、例えば、地図とともに現在地を表示するなど、推定された移動量に関する表示を行うようにしてもよい。音声出力装置310は、スピーカなどの音声出力装置である。音声出力装置310は、例えば、現在地に関する音声を出力するなど、推定された移動量に関する音声を出力するようにしてもよい。カメラ312は、移動体302の所定の場所に固定された撮像装置である。カメラ312は、一つ以上の撮像装置を含む。
図24は、第4の実施の形態による移動量推定装置300の機能的な構成の一例を示すブロック図である。移動量推定装置300は、第2の実施の形態による移動量推定装置50と同様に、エッジ除去部30と出力部5とを有している。また、移動量推定装置300は、映像入力部322、路面投影画像作成部324、時系列投影画像Data Base(DB)326、移動量推定部328を有している。これらの機能は、例えば演算処理装置304が記憶装置306に記憶された制御プログラムを読み込んで実行することにより実現される。移動量推定装置300の各機能は、その例えば一部を、半導体を用いた集積回路などにより実現するようにしてもよい。
図24に示すように、映像入力部322は、カメラ312により撮像された映像を入力され、所定の処理を行った後、路面投影画像作成部324に出力する。例えば、映像入力部322は、入力された映像がアナログ映像ならばデジタル変換する。映像入力部322は、入力された映像がカラー映像の場合は、モノクロ画像に変換して、例えば、記憶装置306の所定メモリ内に格納する。複数のカメラが設置される場合は、映像入力部322は、それぞれの映像に所定の処理を行い、それぞれ所定のメモリ内に映像データを格納する。
路面投影画像作成部324は、映像入力部322が格納した映像データから、路面を上方から見た場合に相当する路面投影画像(濃淡画像)を作成する。路面投影画像作成部324は、この路面投影画像についてエッジ抽出を行い、エッジ画像を作成する。路面投影画像作成部324は、次時刻に撮像される画像の処理のために、時系列投影画像DB326に、エッジ画像を保存すると共に、除去候補エッジ抽出部51にエッジ画像を出力する。
ここで、路面投影画像作成部324の処理の詳細について、座標系を用いてさらに説明する。図13のカメラ座標系において、物体上の点180の座標を(QX,QY,QZ)とし、QZ軸と直線178とのなす角を角θとし、QX軸と、中心172と交点176とを結ぶ直線182とのなす角を角φとする。カメラ画像座標系px−pyにおける中心172の座標を(vx,vy)とし、カメラ画像170上の点176の座標を(px,py)とし、点176に対応する画素の画素値をpm(px,py)とする。また、図12に示した路面投影画像166の1画素のx軸方向の大きさに対応する、路面162上の実際の大きさをMXとし、路面投影画像166の1画素のy軸方向の大きさに対応する、路面162上の実際の大きさをMYとする。
このとき、路面投影画像166上の座標(x,y)の点に対応する画素の画素値vは、下記式17〜式25により与えられる。
v=pm(px,py)・・・(式17)
px=f×tan(θ)×cos(φ)+vx・・・(式18)
py=f×tan(θ)×sin(φ)+vy・・・(式19)
θ=arctan(sqrt(QX^2+QY^2)/QZ)・・・(式20)
φ=arctan(QX/QY)・・・(式21)
行列Rmは、カメラ164の回転行列であり、ベクトルTmは、カメラ164の並進ベクトルである。座標U(UX,UY)は、路面投影画像166上の座標(x、y)に対応する位置の路面座標系O−XYにおける座標を表し、次式で与えられる。
UX=MX×(x−cx)・・・(式24)
UY=MY×(y−cy)・・・(式25)
各時刻のカメラ画像から上記式17〜式25を用いて画素値vを求めることで、各時刻の路面投影画像が生成される。このようにして、路面投影画像として、第1の時刻T1における第1の画像P1、第2の時刻T2における第2の画像P2が生成される。なお、カメラ312は、所定時間毎に撮像を行うようにしてもよい。
また、路面投影画像作成部324はさらに、路面投影画像からエッジ画像を生成する。上述のように、エッジ画像は、例えば路面投影画像に対して、Sobelのような一般的な微分オペレータを作用させることにより作成される。
エッジ除去部30の処理は、第2の実施の形態において説明した処理と同一とすることができる。第2の実施の形態の変形例、および第3の実施の形態による処理を用いるようにしてもよい。
時系列投影画像DB326は、路面投影画像作成部324で生成された画像を時系列に記憶したデータベースである。例えば、時系列投影画像DB326は、現時刻と1時刻前のエッジ画像を保持する。現時刻のエッジ画像が入力されると、1時刻前のさらに一つ前の時刻のエッジ画像を破棄して、現時刻のエッジ画像と1時刻前のエッジ画像とを保持する。なお、時系列投影画像DB326は、路面投影画像から抽出したエッジ画像を保存して使用してもよいが、保存容量を削減するために、対除外エッジ除去画像を時系列投影画像DB326に保存するようにしてもよい。
移動量推定部328は、時系列投影画像DB326に記憶された1時刻前(第1の時刻)に撮像された画像に基づく第1の対除外エッジ除去画像と、エッジ除去部30で得られた第2の時刻に撮像された画像に基づく第2の対除外エッジ除去画像とを画像照合する。すなわち、移動量推定部328は、第1の対除外エッジ除去画像と、第2の対除外エッジ除去画像とを摂動照合して、両方のエッジパターンが最も一致する摂動量を算出し、摂動量を元に移動体の移動量を算出する。出力部5は、算出された移動量を出力する。
画像照合方法としては、例えば、Sum of Absolute Difference(SAD)のような一般的な画像マッチングを行なうことによって、照合度を算出する方法を用いることができる。第1の対除外エッジ除去画像の各エッジのエッジ強度E1m(j、i)と、第2の対除外エッジ除去画像の各エッジのエッジ強度E2m(j+dx、i+dy)、摂動量dx、dyとしたときの照合スコアSは、下記式26のようになる。
移動量推定部328は、上記式26を用いて、横方向−DXからDXまで、縦方向に−DYからDYまで摂動させながら、それぞれの摂動位置で両エッジ画像を比較して照合スコアSを算出する。移動量推定部328は、算出された照合スコアSが、最も小さくなる摂動位置を、最良照合位置とする。これにより、最良照合位置を与える最良摂動量(dxm、dym)が定まる。さらに、路面投影画像での1画素が占める路面上での大きさを横WX、縦WYとすると、移動量(MX,MY)は、以下のように表される。
MX=dxm×WX・・・(式27)
MY=dym×WY・・・(式28)
以上説明したように、第4の実施の形態による移動量推定装置300によれば、移動体に搭載された少なくとも一つのカメラ312で撮像された周囲の画像に基づき、路面投影画像が生成される。生成された路面投影画像に基づき、エッジ画像が生成される。エッジ除去部30は、エッジ画像において、移動体の中心から外側に向かう放射状方向に見た明るさの変化方向に基づき移動体の自影を除去する。このとき、エッジ除去部30が、白線と対応すると判定される対エッジをエッジ画像から除去しないようにすることで、対除外エッジ除去画像が生成される。移動量推定装置300では、異なる2時刻に撮像された画像に基づき生成された、第1の対除外エッジ除去画像および第2の対除外エッジ除去画像に基づき、移動体の移動量が推定され、出力される。
以上のように、移動量推定装置300によれば、移動量を推定する際に、路面の白線に対応するエッジは残したまま自影の影響が除去される。よって、照明(太陽)光による自影が撮像されている場合であっても、精度よく安定して移動量が推定される。
ここで、上記第1から第4の実施の形態および第2の実施の形態の変形例による移動量推定方法の動作をコンピュータに行わせるために共通に適用されるコンピュータの例について説明する。図25は、標準的なコンピュータのハードウエア構成の一例を示すブロック図である。図25に示すように、コンピュータ400は、Central Processing Unit(CPU)402、メモリ404、入力装置406、出力装置408、外部記憶装置412、媒体駆動装置414、ネットワーク接続装置418等がバス410を介して接続されている。
CPU402は、コンピュータ400全体の動作を制御する演算処理装置である。メモリ404は、コンピュータ400の動作を制御するプログラムを予め記憶したり、プログラムを実行する際に必要に応じて作業領域として使用したりするための記憶部である。メモリ404は、例えばRandom Access Memory(RAM)、Read Only Memory(ROM)等である。入力装置406は、コンピュータの使用者により操作されると、その操作内容に対応付けられている使用者からの各種情報の入力を取得し、取得した入力情報をCPU402に送付する装置であり、例えばキーボード装置、マウス装置などである。出力装置408は、コンピュータ400による処理結果を出力する装置であり、表示装置などが含まれる。例えば表示装置は、CPU402により送付される表示データに応じてテキストや画像を表示する。
外部記憶装置412は、例えば、ハードディスクなどの記憶装置であり、CPU402により実行される各種制御プログラムや、取得したデータ等を記憶しておく装置である。媒体駆動装置414は、可搬記録媒体416に書き込みおよび読み出しを行うための装置である。CPU402は、可搬記録媒体416に記録されている所定の制御プログラムを、媒体駆動装置414を介して読み出して実行することによって、各種の制御処理を行うようにすることもできる。可搬記録媒体416は、例えばCompact Disc(CD)−ROM、Digital Versatile Disc(DVD)、Universal Serial Bus(USB)メモリ等である。ネットワーク接続装置418は、有線または無線により外部との間で行われる各種データの授受の管理を行うインタフェース装置である。バス410は、上記各装置等を互いに接続し、データのやり取りを行う通信経路である。
上記第1から第4の実施の形態、および第2の実施の形態の変形例による移動量推定方法をコンピュータに実行させるプログラムは、例えば外部記憶装置412に記憶させる。CPU402は、外部記憶装置412からプログラムを読み出し、メモリ404を利用してプログラムを実行することで、移動量推定の動作を行なう。このとき、まず、移動量推定の処理をCPU402に行わせるための制御プログラムを作成して外部記憶装置412に記憶させておく。そして、入力装置406から所定の指示をCPU402に与えて、この制御プログラムを外部記憶装置412から読み出させて実行させるようにする。また、このプログラムは、可搬記録媒体416に記憶するようにしてもよい。
なお、本発明は、以上に述べた実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内で種々の構成または実施形態を採ることができる。例えば、上記の各式は一例であり、各式の意味するところを超えない範囲内で変形が可能である。判定に用いる条件についても、上記記載は一例であり、要旨を逸脱しない範囲内で変形が可能である。また、第4の実施の形態によるエッジ除去部30に代えて、エッジ除去部3を適用したり、第2の実施の形態による変形例を適用したり、といった変形は可能である。
別の変形例として、移動体に設けられた少なくとも一つのカメラからの映像をネットワークを介してコンピュータ400に入力し、出力された移動量を通信ネットワークを介して移動体に送信するようなシステムも考えられる。
上記第1から第4の実施の形態、および第2の実施の形態の変形例に関し、さらに以下の付記を開示する。
(付記1)
移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成し、前記第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成するエッジ除去部と、
前記第1のエッジ除去画像と前記第2のエッジ除去画像とに基づき推定された前記移動体の移動量を出力する出力部と、
を有することを特徴とする移動量推定装置。
(付記2)
前記第1の除去対象エッジ、および前記第2の除去対象エッジは、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向が暗から明への変化方向を示すエッジであることを特徴とする付記1に記載の移動量推定装置。
(付記3)
前記エッジ除去部は、
前記第1のエッジ画像において、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向に基づき除去すると判定される第1の除去候補エッジを抽出し、前記第2のエッジ画像において、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向に基づき除去すると判定される第2の除去候補エッジを抽出する除去候補エッジ抽出部と、
前記第1のエッジ画像において前記第1の除去候補エッジ近傍のエッジが示す前記明るさの変化方向と前記明るさの変化の度合いとに基づき、前記第1の除去候補エッジと対にすると前記明るさの変化を相殺するエッジがあると判定される第1の対エッジを前記第1の除去候補エッジから除外し、前記第2のエッジ画像において前記第2の除去候補エッジ近傍のエッジが示す前記明るさの変化方向と前記明るさの変化の度合いとに基づき、前記第2の除去候補エッジと対にすると前記明るさの変化を相殺するエッジがあると判定される第2の対エッジを前記第2の除去候補エッジから除外する対エッジ除外部と、
前記第1の対エッジを除外した前記第1の除去候補エッジを前記第1のエッジ画像から除去して第1の対除外エッジ除去画像を生成し、前記第2の対エッジを除外した前記第2の除去候補エッジを前記第2のエッジ画像から除去して第2の対除外エッジ除去画像を生成する対除外除去部と、
をさらに有し、
前記出力部は、前記第1の対除外エッジ除去画像と前記第2の対除外エッジ除去画像とに基づき推定された前記移動体の移動量を出力する
ことを特徴とする付記1または付記2に記載の移動量推定装置。
(付記4)
前記対エッジ除外部は、前記第1のエッジ画像における前記第1の除去候補エッジに対応する第1の所定領域内で、前記変化方向を考慮した平均エッジ強度が所定値以下の場合に、前記第1の除去候補エッジを前記第1の対エッジとし、前記第2のエッジ画像における前記第2の除去対象エッジを含む第2の所定領域内で、前記変化方向を考慮した平均エッジ強度が所定値以下の場合に、前記第2の除去候補エッジを前記第2の対エッジとする
ことを特徴とする付記3に記載の移動量推定装置。
(付記5)
前記第1の所定領域は、前記第1の除去候補エッジのうちの一つを含み、前記第1の除去候補エッジのうちの一つのエッジ勾配に平行な辺を持つ矩形領域であり、前記第2の所定領域は、前記第2の除去候補エッジのうちの一つを含み、前記第2の除去候補エッジのうちの一つのエッジ勾配に平行な辺を持つ矩形領域である
ことを特徴とする付記4に記載の移動量推定装置。
(付記6)
前記第1の所定領域は、前記第1のエッジ画像を複数個に分割した領域であり、前記第2の所定領域は、前記第2のエッジ画像を複数個に分割した領域である
ことを特徴とする付記4に記載の移動量推定装置。
(付記7)
前記第1のエッジ画像上または前記第2のエッジ画像上の一点における前記変化方向は、前記一点における互いに直交する2方向のエッジ強度に基づくエッジ勾配を表すベクトルと、前記移動体の内側から外側へ向かう方向と、のなす角が所定角度範囲内の場合に、前記変化方向が暗から明への変化を示すと判定されることを特徴とする付記1から付記6のいずれかに記載の移動量推定装置。
(付記8)
コンピュータによって実行される移動量推定方法であって、
移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成するとともに、前記第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成し、
前記第1のエッジ除去画像と、前記第2のエッジ除去画像とに基づき推定された前記移動体の移動量を出力する、
ことを特徴とする移動量推定方法。
(付記9)
前記第1の除去対象エッジ、および前記第2の除去対象エッジは、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向が暗から明への変化方向を示すエッジであることを特徴とする付記8に記載の移動量推定方法。
(付記10)
さらに、
前記第1のエッジ画像において、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向に基づき除去すると判定される第1の除去候補エッジを抽出するとともに、前記第2のエッジ画像において、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向に基づき除去すると判定される第2の除去候補エッジを抽出し、
前記第1のエッジ画像において前記第1の除去候補エッジ近傍のエッジが示す前記明るさの変化方向と前記明るさの変化の度合いとに基づき、前記第1の除去候補エッジと対にすると前記明るさの変化を相殺するエッジがあると判定される第1の対エッジを前記第1の除去候補エッジから除外するとともに、前記第2のエッジ画像において前記第2の除去候補エッジ近傍のエッジが示す前記明るさの変化方向と前記明るさの変化の度合いとに基づき、前記第2の除去候補エッジと対にすると前記明るさの変化を相殺するエッジがあると判定される第2の対エッジを前記第2の除去候補エッジから除外し、
前記第1の対エッジを除外した前記第1の除去候補エッジを前記第1のエッジ画像から除去して第1の対除外エッジ除去画像を生成するとともに、前記第2の対エッジを除外した前記第2の除去候補エッジを前記第2のエッジ画像から除去して第2の対除外エッジ除去画像を生成し、
前記第1の対除外エッジ除去画像と前記第2の対除外エッジ除去画像とに基づき推定された前記移動体の移動量を出力する
ことを特徴とする付記8または付記9に記載の移動量推定方法。
(付記11)
さらに、前記第1のエッジ画像における前記第1の除去候補エッジに対応する第1の所定領域内で、前記変化方向を考慮した平均エッジ強度が所定値以下の場合に、前記第1の除去候補エッジを前記第1の対エッジとするとともに、前記第2のエッジ画像における前記第2の除去対象エッジを含む第2の所定領域内で、前記変化方向を考慮した平均エッジ強度が所定値以下の場合に、前記第2の除去候補エッジを前記第2の対エッジとする
ことを特徴とする付記10に記載の移動量推定方法。
(付記12)
前記第1の所定領域は、前記第1の除去候補エッジのうちの一つを含み、前記第1の除去候補エッジのうちの一つのエッジ勾配に平行な辺を持つ矩形領域であり、前記第2の所定領域は、前記第2の除去候補エッジのうちの一つを含み、前記第2の除去候補エッジのうちの一つのエッジ勾配に平行な辺を持つ矩形領域である
ことを特徴とする付記11に記載の移動量推定方法。
(付記13)
前記第1の所定領域は、前記第1のエッジ画像を複数個に分割した領域であり、前記第2の所定領域は、前記第2のエッジ画像を複数個に分割した領域である
ことを特徴とする付記11に記載の移動量推定方法。
(付記14)
前記第1のエッジ画像上または前記第2のエッジ画像上の一点における前記変化方向は、前記一点における互いに直交する2方向のエッジ強度に基づくエッジ勾配を表すベクトルと、前記移動体の内側から外側へ向かう方向と、のなす角が所定角度範囲内の場合に、前記変化方向が暗から明への変化を示すと判定されることを特徴とする付記8から付記13のいずれかに記載の移動量推定方法。
(付記15)
移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成するとともに、前記第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成し、
前記第1のエッジ除去画像と、前記第2のエッジ除去画像とに基づき推定された前記移動体の移動量を出力する、
処理をコンピュータに実行させるプログラム。
1 移動量推定装置
3 エッジ除去部
5 出力部
10 移動体
12 自影
14 エッジ
16、19 白線
17 除去対象エッジ
18 エッジ
20 エッジ画像
22 放射状方向
25 エッジ除去画像
30 エッジ除去部
50 移動量推定装置
51 除去候補エッジ抽出部
53 対エッジ除外部
55 対除外除去部
57 記憶部
80 路面投影画像
82 移動体
84 自影
86、104、124、132 暗明方向エッジ
88 放射状方向
100 路面投影画像
102、122、130 白線
106、114、126、134 明暗方向エッジ
110 他車両
112 影
120 路面投影画像
140、142、144 所定領域
150 除去対象エッジ画像
155 対除外エッジ除去画像

Claims (9)

  1. 移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成し、前記第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成するエッジ除去部と、
    前記第1のエッジ除去画像と前記第2のエッジ除去画像とに基づき推定された前記移動体の移動量を出力する出力部と、
    を有することを特徴とする移動量推定装置。
  2. 前記第1の除去対象エッジ、および前記第2の除去対象エッジは、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向が暗から明への変化方向を示すエッジであることを特徴とする請求項1に記載の移動量推定装置。
  3. 前記エッジ除去部は、
    前記第1のエッジ画像において、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向に基づき除去すると判定される第1の除去候補エッジを抽出し、前記第2のエッジ画像において、前記移動体の内側から外側へ向かう方向にみた明るさの変化方向に基づき除去すると判定される第2の除去候補エッジを抽出する除去候補エッジ抽出部と、
    前記第1のエッジ画像において前記第1の除去候補エッジ近傍のエッジが示す前記明るさの変化方向と前記明るさの変化の度合いとに基づき、前記第1の除去候補エッジと対にすると前記明るさの変化を相殺するエッジがあると判定される第1の対エッジを前記第1の除去候補エッジから除外し、前記第2のエッジ画像において前記第2の除去候補エッジ近傍のエッジが示す前記明るさの変化方向と前記明るさの変化の度合いとに基づき、前記第2の除去候補エッジと対にすると前記明るさの変化を相殺するエッジがあると判定される第2の対エッジを前記第2の除去候補エッジから除外する対エッジ除外部と、
    前記第1の対エッジを除外した前記第1の除去候補エッジを前記第1のエッジ画像から除去して第1の対除外エッジ除去画像を生成し、前記第2の対エッジを除外した前記第2の除去候補エッジを前記第2のエッジ画像から除去して第2の対除外エッジ除去画像を生成する対除外除去部と、
    をさらに有し、
    前記出力部は、前記第1の対除外エッジ除去画像と前記第2の対除外エッジ除去画像とに基づき推定された前記移動体の移動量を出力する
    ことを特徴とする請求項1または請求項2に記載の移動量推定装置。
  4. 前記対エッジ除外部は、前記第1のエッジ画像における前記第1の除去候補エッジに対応する第1の所定領域内で、前記変化方向を考慮した平均エッジ強度が所定値以下の場合に、前記第1の除去候補エッジを前記第1の対エッジとし、前記第2のエッジ画像における前記第2の除去対象エッジを含む第2の所定領域内で、前記変化方向を考慮した平均エッジ強度が所定値以下の場合に、前記第2の除去候補エッジを前記第2の対エッジとする
    ことを特徴とする請求項3に記載の移動量推定装置。
  5. 前記第1の所定領域は、前記第1の除去候補エッジのうちの一つを含み、前記第1の除去候補エッジのうちの一つのエッジ勾配に平行な辺を持つ矩形領域であり、前記第2の所定領域は、前記第2の除去候補エッジのうちの一つを含み、前記第2の除去候補エッジのうちの一つのエッジ勾配に平行な辺を持つ矩形領域である
    ことを特徴とする請求項4に記載の移動量推定装置。
  6. 前記第1の所定領域は、前記第1のエッジ画像を複数個に分割した領域であり、前記第2の所定領域は、前記第2のエッジ画像を複数個に分割した領域である
    ことを特徴とする請求項4に記載の移動量推定装置。
  7. 前記第1のエッジ画像上または前記第2のエッジ画像上の一点における前記変化方向は、前記一点における互いに直交する2方向のエッジ強度に基づくエッジ勾配を表すベクトルと、前記移動体の内側から外側へ向かう方向と、のなす角が所定角度範囲内の場合に、前記変化方向が暗から明への変化を示すと判定されることを特徴とする請求項1から請求項6のいずれかに記載の移動量推定装置。
  8. コンピュータによって実行される移動量推定方法であって、
    移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成するとともに、前記第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成し、
    前記第1のエッジ除去画像と、前記第2のエッジ除去画像とに基づき推定された前記移動体の移動量を出力する、
    ことを特徴とする移動量推定方法。
  9. 移動体に搭載された撮像装置で撮像された第1の画像から生成された第1のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第1の除去対象エッジを除去して第1のエッジ除去画像を生成するとともに、前記第1の画像と異なる時刻に撮像された第2の画像から生成された第2のエッジ画像において、前記移動体の内側から外側へ向かう方向におけるエッジ強度が示す明るさの変化に基づき、第2の除去対象エッジを除去して第2のエッジ除去画像を生成し、
    前記第1のエッジ除去画像と、前記第2のエッジ除去画像とに基づき推定された前記移動体の移動量を出力する、
    処理をコンピュータに実行させるプログラム。
JP2014078212A 2014-04-04 2014-04-04 移動量推定装置、移動量推定方法、およびプログラム Withdrawn JP2015200976A (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2014078212A JP2015200976A (ja) 2014-04-04 2014-04-04 移動量推定装置、移動量推定方法、およびプログラム
EP15158391.1A EP2927869A3 (en) 2014-04-04 2015-03-10 Movement amount estimation device, movement amount estimation method, and movement amount estimation program
US14/658,507 US9569674B2 (en) 2014-04-04 2015-03-16 Movement amount estimation device, movement amount estimation method, and computer-readable recording medium storing movement amount estimation program

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2014078212A JP2015200976A (ja) 2014-04-04 2014-04-04 移動量推定装置、移動量推定方法、およびプログラム

Publications (1)

Publication Number Publication Date
JP2015200976A true JP2015200976A (ja) 2015-11-12

Family

ID=52726962

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2014078212A Withdrawn JP2015200976A (ja) 2014-04-04 2014-04-04 移動量推定装置、移動量推定方法、およびプログラム

Country Status (3)

Country Link
US (1) US9569674B2 (ja)
EP (1) EP2927869A3 (ja)
JP (1) JP2015200976A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022091579A1 (ja) * 2020-10-28 2022-05-05 日立Astemo株式会社 移動量算出装置

Families Citing this family (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10051191B1 (en) 2017-03-31 2018-08-14 Qualcomm Incorporated Systems and methods for improved exposures when panning
CN111076734B (zh) * 2019-12-12 2021-07-23 湖南大学 一种封闭区域非结构化道路高精地图构建方法
CN114111779B (zh) * 2020-08-26 2024-06-28 深圳市杉川机器人有限公司 一种建立工作区域地图的方法及自移动设备

Family Cites Families (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5495536A (en) * 1991-05-08 1996-02-27 Sandia Corporation Image processing system and method for recognizing and removing shadows from the image of a monitored scene
US5592567A (en) * 1992-11-10 1997-01-07 Siemens Aktiengesellschaft Method for detecting and separating the shadow of moving objects in a sequence of digital images
JP3553698B2 (ja) 1995-09-07 2004-08-11 富士通テン株式会社 画像中の傾斜白線を認識する白線認識装置
JP3463858B2 (ja) * 1998-08-27 2003-11-05 矢崎総業株式会社 周辺監視装置及び方法
JP3857612B2 (ja) 2002-05-21 2006-12-13 アイシン精機株式会社 車線境界検出装置
JP4263534B2 (ja) 2003-05-16 2009-05-13 トヨタ自動車株式会社 車両用走行支援装置
JP4703136B2 (ja) * 2004-06-02 2011-06-15 トヨタ自動車株式会社 線図形化処理装置
US7876926B2 (en) * 2006-11-03 2011-01-25 Delphi Technologies, Inc. Lane marker detection and fitting methods
JP2009129001A (ja) * 2007-11-20 2009-06-11 Sanyo Electric Co Ltd 運転支援システム、車両、立体物領域推定方法
JP5108605B2 (ja) 2008-04-23 2012-12-26 三洋電機株式会社 運転支援システム及び車両
JP5137717B2 (ja) 2008-07-03 2013-02-06 アルパイン株式会社 立体物検出装置およびその方法
US8294794B2 (en) * 2010-07-06 2012-10-23 GM Global Technology Operations LLC Shadow removal in an image captured by a vehicle-based camera for clear path detection
US8345100B2 (en) * 2010-07-06 2013-01-01 GM Global Technology Operations LLC Shadow removal in an image captured by a vehicle-based camera using an optimized oriented linear axis
US8319854B2 (en) * 2010-07-06 2012-11-27 GM Global Technology Operations LLC Shadow removal in an image captured by a vehicle based camera using a non-linear illumination-invariant kernel
JP5671281B2 (ja) * 2010-08-20 2015-02-18 キヤノン株式会社 位置姿勢計測装置、位置姿勢計測装置の制御方法及びプログラム
US9591274B2 (en) * 2012-07-27 2017-03-07 Nissan Motor Co., Ltd. Three-dimensional object detection device, and three-dimensional object detection method
CN102881161B (zh) * 2012-09-28 2014-05-14 武汉烽火众智数字技术有限责任公司 基于多帧差分与投射阴影去除的运动车辆检测方法
JP6023216B2 (ja) * 2012-11-27 2016-11-09 クラリオン株式会社 車載画像処理装置
US9367759B2 (en) * 2014-01-16 2016-06-14 Gm Global Technology Opearations Llc Cooperative vision-range sensors shade removal and illumination field correction
JP5874756B2 (ja) * 2014-02-07 2016-03-02 トヨタ自動車株式会社 区画線検出システム及び区画線検出方法
US9892328B2 (en) * 2014-06-18 2018-02-13 Mobileye Vision Technologies Ltd. Hazard detection from a camera in a scene with moving shadows

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2022091579A1 (ja) * 2020-10-28 2022-05-05 日立Astemo株式会社 移動量算出装置
JP2022071779A (ja) * 2020-10-28 2022-05-16 日立Astemo株式会社 移動量算出装置
JP7493433B2 (ja) 2020-10-28 2024-05-31 日立Astemo株式会社 移動量算出装置

Also Published As

Publication number Publication date
US9569674B2 (en) 2017-02-14
EP2927869A3 (en) 2015-10-21
US20150286879A1 (en) 2015-10-08
EP2927869A2 (en) 2015-10-07

Similar Documents

Publication Publication Date Title
JP6230751B1 (ja) 物体検出装置および物体検出方法
US9429418B2 (en) Information processing method and information processing apparatus
US9542745B2 (en) Apparatus and method for estimating orientation of camera
JP5713159B2 (ja) ステレオ画像による3次元位置姿勢計測装置、方法およびプログラム
JP6197388B2 (ja) 距離測定装置、距離測定方法、およびプログラム
CN104584076B (zh) 图像处理装置以及图像处理方法
JP5959073B2 (ja) 検出装置、検出方法、及び、プログラム
JP4416039B2 (ja) 縞模様検知システム、縞模様検知方法および縞模様検知用プログラム
JP5975598B2 (ja) 画像処理装置、画像処理方法及びプログラム
WO2015037178A1 (ja) 姿勢推定方法及びロボット
JP6515704B2 (ja) 車線検出装置及び車線検出方法
CN107532917B (zh) 显示控制装置和显示控制方法
JP5710752B2 (ja) 検出装置、方法及びプログラム
JP5935435B2 (ja) 画像処理装置、画像処理方法
JP6031819B2 (ja) 画像処理装置、画像処理方法
CN105849770A (zh) 信息处理装置、信息处理方法及程序
JP2015184929A (ja) 立体物検出装置、立体物検出方法、および立体物検出プログラム
JP2015200976A (ja) 移動量推定装置、移動量推定方法、およびプログラム
CN110622210A (zh) 用于处理360度图像的方法和装置
JP6758263B2 (ja) 物体検出装置、物体検出方法及び物体検出プログラム
US20160110840A1 (en) Image processing method, image processing device, and robot system
CN114518106B (zh) 高精度地图垂向要素更新检测方法、系统、介质及设备
JP6163732B2 (ja) 画像処理装置、プログラム、及び方法
JP2021051348A (ja) 物体距離推定装置及び物体距離推定方法
JP7854636B2 (ja) 画像処理装置及びプログラム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20170110

A761 Written withdrawal of application

Free format text: JAPANESE INTERMEDIATE CODE: A761

Effective date: 20171218

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20171225