JP7622686B2 - 移動体支援システム及び移動体支援方法 - Google Patents

移動体支援システム及び移動体支援方法 Download PDF

Info

Publication number
JP7622686B2
JP7622686B2 JP2022054423A JP2022054423A JP7622686B2 JP 7622686 B2 JP7622686 B2 JP 7622686B2 JP 2022054423 A JP2022054423 A JP 2022054423A JP 2022054423 A JP2022054423 A JP 2022054423A JP 7622686 B2 JP7622686 B2 JP 7622686B2
Authority
JP
Japan
Prior art keywords
marker
brightness
vehicle
moving object
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2022054423A
Other languages
English (en)
Other versions
JP2023146956A (ja
Inventor
寛也 千葉
達也 菅野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to JP2022054423A priority Critical patent/JP7622686B2/ja
Priority to US18/105,049 priority patent/US12609028B2/en
Priority to CN202310185759.0A priority patent/CN116890810A/zh
Publication of JP2023146956A publication Critical patent/JP2023146956A/ja
Application granted granted Critical
Publication of JP7622686B2 publication Critical patent/JP7622686B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60WCONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W30/00Purposes of road vehicle drive control systems not related to the control of a particular sub-unit, e.g. of systems using conjoint control of vehicle sub-units
    • B60W30/06Automatic manoeuvring for parking
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/60Analysis of geometric attributes
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/70Determining position or orientation of objects or cameras
    • G06T7/73Determining position or orientation of objects or cameras using feature-based methods
    • G06T7/74Determining position or orientation of objects or cameras using feature-based methods involving reference images or patches
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/80Analysis of captured images to determine intrinsic or extrinsic camera parameters, i.e. camera calibration
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/20Image preprocessing
    • G06V10/22Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition
    • G06V10/225Image preprocessing by selection of a specific region containing or referencing a pattern; Locating or processing of specific regions to guide the detection or recognition based on a marking or identifier characterising the area
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/40Extraction of image or video features
    • G06V10/60Extraction of image or video features relating to illumination properties, e.g. using a reflectance or lighting model
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V10/00Arrangements for image or video recognition or understanding
    • G06V10/98Detection or correction of errors, e.g. by rescanning the pattern or by human intervention; Evaluation of the quality of the acquired patterns
    • G06V10/993Evaluation of the quality of the acquired pattern
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/52Surveillance or monitoring of activities, e.g. for recognising suspicious objects
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/14Traffic control systems for road vehicles indicating individual free spaces in parking areas
    • G08G1/141Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces
    • G08G1/143Traffic control systems for road vehicles indicating individual free spaces in parking areas with means giving the indication of available parking spaces inside the vehicles
    • GPHYSICS
    • G08SIGNALLING
    • G08GTRAFFIC CONTROL SYSTEMS
    • G08G1/00Traffic control systems for road vehicles
    • G08G1/16Anti-collision systems
    • G08G1/168Driving aids for parking, e.g. acoustic or visual feedback on parking space
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/71Circuitry for evaluating the brightness variation
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/70Circuitry for compensating brightness variation in the scene
    • H04N23/76Circuitry for compensating brightness variation in the scene by influencing the image signals
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • BPERFORMING OPERATIONS; TRANSPORTING
    • B60VEHICLES IN GENERAL
    • B60RVEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/80Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement
    • B60R2300/806Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the intended use of the viewing arrangement for aiding parking
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30204Marker
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30244Camera pose
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30261Obstacle
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30264Parking
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V2201/00Indexing scheme relating to image or video recognition or understanding
    • G06V2201/08Detecting or categorising vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Signal Processing (AREA)
  • Quality & Reliability (AREA)
  • Software Systems (AREA)
  • Mechanical Engineering (AREA)
  • Geometry (AREA)
  • Automation & Control Theory (AREA)
  • Transportation (AREA)
  • Traffic Control Systems (AREA)
  • Image Processing (AREA)

Description

本開示は、所定エリアに配置されたマーカを認識することにより動作する移動体を支援する技術に関する。
特許文献1は、マークを認識することによって車両と目標駐車位置との相対位置関係を特定し、車両を目標駐車位置へ誘導するための駐車軌跡を算出する駐車支援技術に関する。マークは目標駐車位置に設置され、車両に搭載されたビデオカメラにより撮影される画像によって認識される。特許文献1の駐車支援技術では、画像上に測光領域を設定し、測光領域の輝度値に基づいて画像の輝度値を調整した後、画像からマークを認識する処理を行う。
特開2010-215029号公報
所定エリアに設置されたマーカを認識する移動体について考える。移動体は、カメラを用いて画像を取得することで、マーカを認識する。マーカの位置における明るさは、天候、時間帯、街灯の有無などの環境の変化により変化する。また、マーカに影がかかることによってもマーカの位置における明るさは変化する。マーカの位置における明るさが変化すると、移動体がマーカを認識しにくくなる可能性がある。移動体がマーカを精度良く認識することができない場合、例えば、マーカの認識結果に基づく移動体の動作の精度が低下する。
本開示の目的は、移動体によるマーカ認識の精度を向上させることができる技術を提供することにある。
第1の観点は、所定エリアに配置されたマーカを認識する移動体を支援する移動体支援システムに関連する。
移動体支援システムは、1又は複数のプロセッサを備える。
1又は複数のプロセッサは、
移動体に搭載されたカメラにより得られる画像を用いることなく、所定エリア内のマーカの位置における明るさを推定する明るさ推定処理と、
マーカの位置における明るさに応じて、マーカを含む画像の輝度補正値を算出する処理と、
移動体に搭載されたカメラを用いて、移動体の周囲の対象マーカを含む第1画像を取得する処理と、
対象マーカに対する輝度補正値を用いて第1画像の輝度を補正することによって第2画像を生成する処理と、
第2画像に基づいて、対象マーカを認識する処理と、
を実行するように構成される。
第2の観点は、所定エリアに配置されたマーカを認識する移動体を支援する移動体支援方法に関連する。
移動体支援方法は、
移動体に搭載されたカメラにより得られる画像を用いることなく、所定エリア内のマーカの位置における明るさを推定することと、
マーカの位置における明るさに応じて、マーカを含む画像の輝度補正値を算出することと、
移動体に搭載されたカメラを用いて、移動体の周囲の対象マーカを含む第1画像を取得することと、
対象マーカに対する輝度補正値を用いて第1画像の輝度を補正することによって第2画像を生成することと、
第2画像に基づいて、対象マーカを認識することと、
を含む。
本開示によれば、マーカの位置における明るさに応じて、取得された画像の補正を行うための輝度補正値が算出される。画像が輝度補正値によって補正されることで、移動体によるマーカ認識の精度が向上する。
自動バレー駐車の概要を説明するための概念図である。 課題を説明するための概念図である。 課題を説明するための概念図である。 課題を説明するための概念図である。 課題を説明するための概念図である。 本実施の形態に係る移動体支援システムによる処理の流れの例を説明するための概念図である。 本実施の形態に係る移動体支援システムによる処理の流れの例を説明するための概念図である。 本実施の形態に係る移動体支援システムによる処理の流れの例を説明するための概念図である。 本実施の形態に係る移動体支援システムによる処理の流れの例を説明するための概念図である。 車両の構成例を示すブロック図である。 管理装置の構成例を示すブロック図である。 本実施の形態に係る移動体支援処理の例を説明するためのブロック図である。 本実施の形態に係る移動体支援処理の第1の例を示すフローチャートである。 本実施の形態に係る明るさ推定処理の例を説明するためのブロック図である。 本実施の形態に係る第2影位置推定処理の効果を説明するための概念図である。 本実施の形態に係る輝度補正値の例を説明するための表である。 本実施の形態に係る移動体支援処理の第2の例を示すフローチャートである。
添付図面を参照して、本開示の実施の形態を説明する。
1.概要
本開示は、所定エリアに配置されたマーカを認識する移動体を支援する移動体支援システムに関する。移動体の支援とは、移動体に関わる全般を支援することであり、移動体を監視することや、移動体の動作を制御すること、移動体に関する情報を管理することなどを含む。所定エリアとしては、駐車場や、巡回バスの運行エリアが例示される。移動体としては、車両やロボットが例示される。車両は自動運転車両であってもよい。一例として、以下の説明においては、移動体が車両である場合について考える。一般化する場合には、以下の説明における「車両」を「移動体」で読み替えるものとする。
図1は、車両1が所定エリアARに配置されたマーカMを認識する場合の一例として、「自動バレー駐車(AVP: Automated Valet Parking)」を説明するための概念図である。本例では、所定エリアARは駐車場である。入庫エリアは、車両1が自動バレー駐車を開始したり終了したりするエリアであり、所定エリアARに含まれる。駐車場は、屋内であってもよいし、屋外であってもよい。駐車場には複数のマーカMが配置されている。
車両1は、駐車場における自動バレー駐車に対応したAVP車両であり、少なくとも駐車場内において自動走行することができる。車両1は、周囲の状況を認識するための認識センサを備えている。認識センサは、カメラを含む。車両1は、認識センサを用いて周囲の状況を認識しながら、駐車場において自動走行を行う。
車両1は、カメラを用いて車両1の周囲の状況を示す画像を取得し、取得した画像に基づいてマーカMを認識する。車両1は、マーカMを認識することで、駐車場の識別、入庫の際の初期位置の認識、目標経路の補正、目標駐車位置の検出、自己位置の推定、等を行うことができる。例えば、車両1は、カメラを用いたマーカMの認識結果と駐車場におけるマーカMの位置情報とを組み合わせることによって、高精度な自己位置を推定する自己位置推定(Localization)を行う。車両1は、あるいは、マーカMの認識結果に基づいて、駐車場を認識し、正しい駐車場に入庫されたことを確認してもよい。車両1は、あるいは、マーカMの認識結果に基づいて、入庫エリアを認識してもよい。
目標経路PTは、車両1が目標駐車枠へ移動するための移動経路である。目標駐車枠は、車両1に割り当てられた駐車枠である。目標経路PTは、入庫エリアから目標駐車枠までの移動経路であってもよいし、車両1の現在位置から目標駐車枠への移動経路であってもよい。車両1は、自己位置推定により推定された車両1の位置と目標経路PTとに基づいて、目標経路PTに追従するように自動走行を行う。これにより、車両1は、入庫エリアから目標駐車枠まで自動的に移動することが可能となる。
管理装置2は、駐車場における自動バレー駐車を管理する。管理装置2はサーバであってもよい。管理装置2は、駐車場内の各車両(車両1、駐車車両3)と通信可能である。例えば、管理装置2は、車両1に対して入庫指示や出庫指示を出してもよい。管理装置2は、駐車場内の各車両(車両1、駐車車両3)の出庫予定時刻を把握してもよい。管理装置2は、駐車場に入庫予定のAVP車両があるときに、入庫予定の車両の入庫予定時刻を把握してもよい。管理装置2は、駐車場におけるマーカMの位置情報を車両1に提供してもよい。管理装置2は、車両1に目標駐車枠を割り当ててもよい。管理装置2は、目標経路PTを生成し、目標経路PTの情報を車両1に提供してもよい。管理装置2は、駐車場内の各車両(車両1、駐車車両3)の位置を把握してもよい。管理装置2は、駐車場内の各車両(車両1、駐車車両3)を遠隔操作してもよい。
車両1が正確な動作を行うために、車両1がマーカMを正確に認識することは重要である。しかし、マーカMの位置における明るさが変化すると、車両1がマーカMを正しく認識できなくなることがある。例えば、マーカMの位置が明るくなると、取得される画像の輝度が高くなり、画像が白飛びして、車両1がマーカMを認識できなくなることがある。あるいは、マーカMの位置が暗くなると、取得される画像の輝度が低くなり、画像が全体的に黒っぽくなることで、車両1がマーカMを認識できなくなることがある。このように、マーカMの位置における明るさの変化によって画像の輝度が変化することにより、マーカMの認識の精度は低下する可能性がある。
図2から図5はそれぞれ、朝、昼、夕方、及び夜における駐車場の様子を概念的に示している。マーカMの位置における明るさは、天候や時間帯によって変化する。昼になり、太陽が昇ると、マーカMの位置における明るさは朝や夕方と比較して明るくなる。逆に、夜になり駐車場が暗くなると、マーカMの位置における明るさは暗くなる。あるいは、図示されないが、雨天時や曇天時にもマーカMの位置における明るさが暗くなることがある。このように、周囲の環境が変化することで、マーカMの位置における明るさは変化する。
また、マーカMの位置における明るさは、マーカMの位置に影ができることによっても変化する。例えば、図2、4、及び5では、駐車車両3や駐車場内の壁によってできた影が一部のマーカMにかかり、マーカMの位置における明るさが暗くなっている。マーカMにかかる影は、太陽や街灯等の光源の位置や、駐車車両3や壁等の障害物の位置によって変化する。
このように、周囲の環境や影の位置の変化によって、車両1によるマーカ認識の精度は低下することがある。本実施の形態に係る移動体支援システムは、マーカMの位置における明るさが変化し得る状況においても、車両1によるマーカ認識の精度を向上させることを可能とする。
2.明るさ推定と輝度補正
以下の説明において、「カメラ画像」は、車両1に搭載されたカメラにより得られる車両1の周囲の画像を意味する。本実施の形態に係る移動体支援システムは、カメラ画像の輝度を補正することで、マーカ認識の精度を向上させる。具体的には、移動体支援システムは、マーカMの位置における明るさについての明るさ情報を取得する。好ましくは、移動体支援システムは、車両1に搭載されたカメラにより得られるカメラ画像を用いることなく、マーカMの位置における明るさ情報を取得する。移動体支援システムは、明るさ情報に基づいて、カメラ画像の輝度を補正するための「輝度補正値」を算出する。輝度補正値は、明る過ぎるカメラ画像を暗くし、あるいは、暗過ぎるカメラ画像を明るくするように設定される。そして、輝度補正値によってカメラ画像の輝度を補正し、補正後の画像に基づいてマーカMを認識する。
図6から図9は、輝度補正値に関連した処理の流れの例を示す図である。図6では、まず、駐車場(自動バレー駐車)のユーザのユーザ端末から管理装置2へ、車両1の駐車場への入庫リクエストが送信される。このとき、ユーザ端末は、入庫リクエストとともに車両1の入庫予定時刻を送信してもよい。車両1の入庫が可能であれば、管理装置2は、車両1の入庫リクエストを許可し、ユーザ端末に対して、車両1の入庫が許可されたことを通知する。管理装置2は、車両1の入庫リクエストを許可したら、明るさ情報を取得する。明るさ情報は、管理装置2が明るさ推定用情報を用いて推定することにより取得される。明るさ推定用情報は、駐車場内の照度や影の位置等を推定するために用いられる情報である。明るさ推定用情報は、車両1の入庫予定時刻を考慮した情報を含んでいてもよい。明るさ推定用情報の具体例及び取得方法については後述される。
管理装置2は、取得した明るさ情報に基づいてマーカMの輝度補正値を算出する。管理装置2は、算出した輝度補正値を車両1に送信する。車両1は、輝度補正値を用いてマーカ認識を行う。具体的には、車両1は、カメラを用いて、車両1の周囲のマーカMを含むと想定される画像を取得する。車両1は、取得した画像の輝度を輝度補正値を用いて補正し、補正後の画像に基づいてマーカMを認識する。このように、輝度補正値を用いて補正した画像に基づいてマーカ認識を行うことにより、マーカMの位置における明るさの変化による影響を小さくし、マーカ認識の精度を向上させることができる。尚、車両1により認識される対象であるマーカMを、「対象マーカ」と呼ぶ場合もある。
図6に示される例の場合、明るさ情報の取得及び輝度補正値の算出は、管理装置2により行われる。言い換えれば、車両1は、明るさ情報の取得及び輝度補正値の算出を行う必要がない。従って、車両1における処理負荷が大幅に軽減される。
図7は、輝度補正値に関連した処理の流れの別の例を示す図である。輝度補正値の算出は、図7に示すように車両1が行ってもよい。図7では、管理装置2が取得した明るさ情報を車両1に送信し、車両1は送信された明るさ情報に基づいてマーカMの輝度補正値を算出する。車両1は、カメラを用いてマーカMを含むと想定される画像を取得し、取得した画像の輝度を輝度補正値を用いて補正する。車両1は、補正後の画像に基づいてマーカMを認識することで、マーカ認識の精度を向上させることができる。
図7に示される例の場合、明るさ情報の取得は、管理装置2により行われる。つまり、車両1は、少なくとも、明るさ情報の取得を行う必要がない。従って、車両1における処理負荷が軽減される。
図8は、輝度補正値に関連した処理の流れの更に別の例を示す図である。明るさ情報の取得は、図8に示すように車両1が行ってもよい。このとき、明るさ推定用情報の一部または全部は、管理装置2から車両1に送信されてもよい。例えば、車両1の入庫予定時刻における、駐車場内の駐車車両3の位置についての情報が、明るさ推定用情報として管理装置2から車両1に送信される。車両1は、明るさ推定用情報を用いてマーカMの位置における明るさを推定し、明るさ情報を取得する。車両1は、明るさ情報に基づいてマーカMの輝度補正値を算出する。車両1は、カメラを用いてマーカMを含むと想定される画像を取得し、取得した画像の輝度を輝度補正値を用いて補正する。車両1は、補正後の画像に基づいてマーカMを認識することで、マーカ認識の精度を向上させることができる。
図9は、輝度補正値の算出に関連した処理の流れの更に別の例を示す図である。図9の例では、管理装置2が明るさ情報の取得、輝度補正値の算出、及びマーカ認識を行う。車両1は、カメラを用いてマーカを含むと想定される画像を取得し、取得した画像を管理装置2に送信する。管理装置2は、車両1から送信された画像の輝度を輝度補正値を用いて補正し、補正後の画像に基づいてマーカMを認識する。管理装置2は、マーカMを認識することで、例えば、車両1の位置情報を取得し、取得した位置情報を車両1に送信する。図9においても、管理装置2が、補正後の画像に基づいてマーカMを認識することで、マーカ認識の精度を向上させることができる。
後述されるように、マーカMの位置における明るさは、明るさ推定用情報を用いることにより推定される。明るさ推定用情報は、駐車場内の照度や影の位置等を推定するために用いられる情報である。典型的には、明るさ推定用情報は、車両1に搭載されたカメラにより得られるカメラ画像を含んでいない。その場合、移動体支援システムは、カメラ画像を用いることなく、マーカMの位置における明るさを推定することができる。比較例として、カメラ画像に基づいて車両1の周囲の明るさを推定することを考える。比較例の場合、カメラ画像の1フレーム毎にカメラ画像を解析する必要があり、このことは処理負荷の増大を招く。一方、本実施の形態によれば、画像の1フレーム毎に明るさを推定する必要がないため、処理負荷が軽減される。
カメラ画像を用いない明るさ推定処理は、車両1の入庫前に予め行われてもよい。更に、輝度補正値も、車両1の入庫前に予め算出されてもよい。必要な処理を車両1の入庫前に予め行っておくことにより、入庫後の処理負荷を軽減し、車両1をスムーズに動作させることが可能となる。また、必要な処理を予め行っておくことにより、処理遅延の影響を抑制することが可能となる。例えば、処理遅延によりマーカ認識精度が期待通りに得られないといった事態が防止される。
明るさ推定用情報は、車両1の入庫予定時刻を含んでいてもよい。車両1の入庫予定時刻が分かれば、入庫予定時刻でのマーカMの位置における明るさを予め推定し、輝度補正値を予め算出しておくことができる。尚、入庫予定時刻は、駐車場における自動バレー駐車ならではの情報である。入庫予定時刻に基づいて必要な処理を予め行うことは、駐車場における自動バレー駐車ならではの特徴であると言える。
また、図2、図4等で示されたように、駐車車両3によってできた影が一部のマーカMにかかり、マーカMの位置における明るさが暗くなる場合がある。よって、明るさ推定用情報は、駐車場における駐車車両3の駐車位置の情報を含んでいてもよい。自動バレー駐車の場合、管理装置2が、駐車場における駐車車両3の駐車位置を把握している。駐車場における駐車車両3の駐車位置に基づいてマーカMの位置における明るさを推定することも、駐車場における自動バレー駐車ならではの特徴であると言える。
3.車両1の構成例
図10は、車両1の構成例を示すブロック図である。車両1は、車両状態センサ11、認識センサ12、通信装置13、走行装置14、及び制御装置15を備えている。
車両状態センサ11は、車両1の状態を検出する。車両状態センサ11としては、車速センサ(車輪速センサ)、操舵角センサ、ヨーレートセンサ、横加速度センサ、等が例示される。
認識センサ12は、車両1の周囲の状況を認識する。認識センサ12は、カメラを含む。認識センサ12としては、その他に、ライダー(LIDAR: Laser Imaging Detection and Ranging)、レーダ、照度センサ、等が例示される。
通信装置13は、車両1の外部と通信を行う。例えば、通信装置13は、管理装置2と通信を行う。
走行装置14は、操舵装置、駆動装置、及び制動装置を含んでいる。操舵装置は、車両1の車輪を転舵する。例えば、操舵装置は、パワーステアリング(EPS: Electric Power Steering)装置を含んでいる。駆動装置は、駆動力を発生させる動力源である。駆動装置としては、エンジン、電動機、インホイールモータ、等が例示される。制動装置は、制動力を発生させる。
制御装置15は、車両1を制御する。具体的には、制御装置15は、1又は複数のプロセッサ16(以下、単にプロセッサ16と呼ぶ)及び1又は複数の記憶装置17(以下、単に記憶装置17と呼ぶ)を備えている。プロセッサ16は、各種処理を実行する。記憶装置17は、各種情報を格納する。記憶装置17としては、揮発性メモリ、不揮発性メモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、等が例示される。プロセッサ16がコンピュータプログラムである制御プログラムを実行することにより、制御装置15による各種処理が実現される。制御プログラムは、記憶装置17に格納されている、あるいは、コンピュータ読み取り可能な記録媒体に記録されている。
プロセッサ16は、各種情報を取得する。取得された各種情報は、記憶装置17に格納される。各種情報は、地図情報710、車両位置情報720、明るさ推定用情報730、明るさ情報740を含む。
地図情報710は、所定エリアARについての地図情報である。地図情報710は、マーカMの位置情報、駐車枠の位置情報、構造物の位置情報、照明の位置情報、入庫エリアの位置情報、等を含む。地図情報710は、駐車場の管理者等によって車両1へ提供されてもよい。あるいは、地図情報710は、管理装置2から車両1に、通信装置13を介して送信されてもよい。
車両位置情報720は、車両1の位置情報を含む。車両位置情報720は、車両状態センサ11によって得られる車両状態情報から算出された車両1の位置情報を含む。具体的には、プロセッサ16は、車速センサや操舵角センサによって得られる、車両1の車速や操舵角に基づいて車両1の移動量を算出し、それにより、車両1の位置情報を算出する。車両位置情報720は、このようにして算出される車両1の位置情報を含む。
更に、プロセッサ16は、地図情報710で示されるマーカMの設置位置と、カメラによるマーカMの認識位置とを照らし合わせることによって、車両1の位置情報を補正する。これにより、プロセッサ16は、車両1の位置を高精度に推定する自己位置推定を行う。車両状態情報による位置情報の算出とマーカ認識による補正を繰り返すことによって、プロセッサ16は高精度な車両1の位置情報を継続的に得ることができる。車両位置情報720は、自己位置推定によって得られた高精度な車両1の位置情報を含む。
車両位置情報720は、その他に、目標経路PTについての情報を含んでいてもよい。目標経路PTは、車両1の現在位置または入庫エリアの位置、及び目標駐車枠の位置から算出される。目標経路PTは、入庫エリアの位置及び目標駐車枠の位置から、車両1の入庫前に予め算出されていてもよい。または、目標経路PTは、車両1の入庫後に、車両1の現在位置及び目標駐車枠の位置から算出されてもよい。目標経路PTは、管理装置2によって算出され、車両1に提供されてもよいし、プロセッサ16によって算出されてもよい。
明るさ推定用情報730は、マーカMの位置における明るさを推定するために用いられる情報である。明るさ推定用情報730の例は後述される。
明るさ情報740は、マーカMの位置における明るさを示す情報である。明るさ情報740の取得方法は後述される。
4.管理装置2の構成例
図11は、管理装置2の構成例を示すブロック図である。管理装置2は、通信装置23、1又は複数のプロセッサ26(以下、単にプロセッサ26と呼ぶ)及び1又は複数の記憶装置27(以下、単に記憶装置27と呼ぶ)を含んでいる。
通信装置23は、通信ネットワークを介して、車両1と通信を行う。通信装置23は、駐車車両3と通信を行ってもよい。通信装置23は、その他に、インフラセンサと通信を行ってもよい。インフラセンサは、所定エリアARに設置されるセンサであり、インフラカメラ、インフラ照度センサ、等を含む。
プロセッサ26は、各種処理を実行する。記憶装置27は、各種情報を格納する。記憶装置27としては、揮発性メモリ、不揮発性メモリ、HDD、SSD、等が例示される。プロセッサ26がコンピュータプログラムである制御プログラムを実行することにより、管理装置2による各種処理が実現される。制御プログラムは、記憶装置27に格納されている、あるいは、コンピュータ読み取り可能な記録媒体に記録されている。
地図情報710は、駐車場の管理者等から、管理装置2へ提供され、記憶装置27に格納される。プロセッサ26は、通信装置23を介して車両1と通信を行い、地図情報710を車両1に送信してもよい。
車両位置情報720は、車両1の位置情報、目標経路PTについての情報、等を含む。
車両1の位置情報は、プロセッサ26が通信装置23を介して車両1と通信を行うことにより取得されてもよい。あるいは、車両1の位置情報は、所定エリアARに設置されたインフラカメラによって取得されてもよい。
目標経路PTは、プロセッサ26が車両1の現在位置または入庫エリアの位置、及び目標駐車枠の位置から算出することで取得されてもよい。あるいは、プロセッサ26が車両1と通信を行うことにより、車両1のプロセッサ16によって算出された目標経路PTが取得されてもよい。
明るさ推定用情報730の例及び明るさ情報740の取得方法は後述される。
5.移動体支援処理
以下、本実施の形態に係る移動体支援システムによる、移動体支援処理の例について詳しく説明する。
図12は、本実施の形態に係る移動体支援システムの機能構成例を示すブロック図である。移動体支援システムは、機能ブロックとして、明るさ推定部110、輝度補正値算出部120、車両位置取得部130、第1画像取得部140、第2画像生成部150、及びマーカ認識部160を含んでいる。これら機能ブロックは、プロセッサ16がコンピュータプログラムである制御プログラムを実行することにより実現されてもよいし、プロセッサ26がコンピュータプログラムである制御プログラムを実行することにより実現されてもよい。あるいは、プロセッサ16及びプロセッサ26の分散処理によりそれぞれの機能ブロックが実現されてもよい。
図13は、本実施の形態に係る移動体支援処理の第1の例を示すフローチャートである。図12及び図13を参照して、移動体支援処理の第1の例について説明する。
5-1.明るさ推定処理(ステップS110)
ステップS110において、明るさ推定部110は、マーカMの位置における明るさを推定する、明るさ推定処理を行う。明るさ推定処理は、車両1の入庫前に行われてもよいし、車両1の入庫後に行われてもよい。
5-1-1.明るさ推定用情報
明るさ推定用情報730は、明るさを推定する際に参照される情報である。明るさ推定部110は、マーカMの位置情報と明るさ推定用情報730に基づいて、マーカMの位置における明るさを推定し、明るさ情報740を取得する。
図14は、明るさ推定部110による明るさ推定処理の例を説明するためのブロック図である。明るさ推定部110は、影位置推定部111を含む。影位置推定部111は、第1影位置推定部112及び第2影位置推定部113を含む。マーカ位置情報711は、所定エリアAR内のマーカMの位置情報であり、地図情報710から得られる。明るさ推定用情報730は、照度情報731、光源位置情報732、障害物位置情報735、及び車両情報738を含んでいる。
照度情報731は、マーカMの位置における照度及び所定エリアARの照度の少なくとも一方を示す。例えば、照度は、日にち、時間帯、天気情報、日照情報、等に基づいて推定される。他の例として、照度は、照度センサによって検出されてもよい。照度センサは、所定エリアARに設置されたインフラ照度センサであってもよいし、車両1に搭載された車載照度センサであってもよい。
光源位置情報732は、光源の位置を示す。光源位置情報732は、太陽位置情報733及び照明位置情報734の少なくとも1つを含む。太陽位置情報733は、太陽の位置を示す情報であり、日にちや時間帯に基づいて算出される。照明位置情報734は、所定エリアARに設置された照明についての情報であり、照明の設置位置についての情報を含む。照明は、所定エリアARに設置された街灯を含む。照明の設置位置についての情報は、地図情報710から得られる。
障害物位置情報735は、所定エリアAR内で影をつくる可能性のある障害物の位置を示す。障害物位置情報735は、構造物位置情報736、及び駐車車両位置情報737の少なくとも1つを含んでいる。
構造物位置情報736は、所定エリアAR内に設置された構造物の位置を示す。構造物としては、柱や壁が例示される。構造物位置情報736は、地図情報710から得られる。
駐車車両位置情報737は、所定エリアAR内の駐車車両3の位置を示す。駐車車両位置情報737は、管理装置2が駐車車両3と通信を行うことにより取得することができる。あるいは、駐車車両位置情報737は、管理装置2がインフラカメラと通信を行うことにより取得されてもよい。管理装置2は、取得した駐車車両位置情報737を車両1へ送信してもよい。
車両情報738は、車両1の現在位置または将来位置の少なくとも1つを含む。車両1の現在位置は、車両位置情報720から得られる。車両1の現在位置は、車両状態情報から算出された車両1の位置情報であってもよいし、高精度な自己位置推定によって得られる車両1の位置情報であってもよいし、インフラカメラにより得られる情報であってもよい。車両1の将来位置は、目標経路PT上の車両1の位置として得られる。目標経路PTは、車両位置情報720から得られる。車両情報738は、更に、車両1のサイズを示す車両サイズ情報を含んでいてもよい。車両1のサイズとは、車両1の長さ、幅、及び高さのうち、少なくとも1つのことである。車両サイズ情報は、車両1の記憶装置17が予め取得しておくことができる。車両サイズ情報は、管理装置2に提供され、記憶装置27に格納されてもよい。
影位置推定部111は、所定エリアAR内の影の位置を推定する、影位置推定処理を行う。影の位置は、第1影位置推定部112によって推定される第1影位置と、第2影位置推定部113によって推定される第2影位置を含む。
第1影位置推定部112は、光源と所定エリアAR内の障害物によって生成される影の位置である第1影位置を推定する。光源の位置は、光源位置情報732から得られる。所定エリアAR内の障害物の位置は、障害物位置情報735から得られる。第1影位置推定部112は、光源位置情報732と障害物位置情報735に基づいて、第1影位置を推定する、第1影位置推定処理を行う。
第2影位置推定部113は、光源と車両1とによって生成される影の位置である第2影位置を推定する。光源の位置は、光源位置情報732から得られる。車両1の位置は、車両情報738から、車両1の現在位置または将来位置として得られる。明るさ推定処理が車両1の入庫前に行われる場合は、第2影位置推定部113が取得する車両1の位置は、車両1の将来位置である。第2影位置推定部113は、光源位置情報732と車両情報738に基づいて、第2影位置を推定する、第2影位置推定処理を行う。第2影位置推定処理においては、光源の位置と車両1の位置に加えて、車両サイズ情報を用いた第2影位置の推定が行われてもよい。車両サイズ情報は、車両情報738から得られる。
図15は、光源と車両1によって、マーカMの位置に影が生成され、マーカMの位置における明るさが変化する例を示している。影位置推定部111が第2影位置推定部113を含むことにより、図15のような場合においても、マーカMの位置における明るさを正確に推定することができる。
明るさ推定部110によって行われる明るさ推定処理は、照度情報731及びマーカ位置情報711に基づいて、マーカMの位置における明るさを推定することを含む。明るさ推定処理は、更に、影位置推定処理によって得られる影の位置と、マーカ位置情報711に基づいて、マーカMの位置における明るさを推定することを含んでいてもよい。明るさ推定処理によって取得される明るさ情報740は、駐車場内のマーカMの全てに対して一度に取得されてもよいし、一部のマーカMに対してのみ取得されてもよい。一部のマーカMに対してのみ取得される場合は、例えば、車両1の将来位置付近に位置するマーカMに対してのみ取得されてもよい。
5-1-2.入庫予定時刻
明るさ推定部110は、車両1の入庫予定時刻についての情報を取得し、入庫予定時刻における明るさ推定用情報730を用いて明るさ推定処理を行ってもよい。入庫予定時刻は、ユーザ端末等から、管理装置2または車両1に送信されることで、プロセッサ16またはプロセッサ26によって取得される。
入庫予定時刻における照度情報731は、季節、入庫時刻における太陽の位置、入庫時刻における天気情報、日照情報、等に基づいて推定される。
入庫予定時刻における光源位置情報732は、入庫予定時刻における太陽位置情報733及び照明位置情報734の少なくとも1つを含む。入庫予定時刻における太陽位置情報733は、季節や入庫予定時刻に基づいて算出される。
入庫予定時刻における障害物位置情報735は、構造物位置情報736、及び入庫予定時刻における駐車車両位置情報737の少なくとも1つを含んでいる。
入庫予定時刻における駐車車両位置情報737は、管理装置2がユーザ端末等と通信を行い、駐車車両3の出庫予定時刻や、入庫予定のAVP車両の入庫予定時刻を取得することにより、算出することができる。管理装置2は、取得した入庫予定時刻における駐車車両位置情報737を車両1へ送信してもよい。
入庫予定時刻における車両情報738は、車両1の将来位置についての情報である。車両1の将来位置は、目標経路PT上の車両1の位置として得られる。
5-2.輝度補正値算出処理(ステップS120)
ステップS120において、輝度補正値算出部120は、輝度補正値を算出する。輝度補正値は、カメラによって取得されるマーカMを含む画像の輝度を補正するための値であり、明るさ情報740に基づいて、それぞれのマーカMに対して算出される。輝度補正値は、明る過ぎる画像を暗くし、あるいは、暗過ぎる画像を明るくするように設定される。つまり、輝度補正値は、マーカMをより認識しやすくなるように設定される。輝度補正値は、画像の画素ごとの輝度を補正するための値であってもよいし、画像の輝度に応じて色味を補正するための値であってもよい。輝度補正値は、駐車場内のマーカMの全てに対して一度に取得されてもよいし、一部のマーカMに対してのみ取得されてもよい。輝度補正値算出処理は、車両1の入庫前に行われてもよいし、車両1の入庫後に行われてもよい。
5-3.車両位置取得処理(ステップS130)
ステップS130において、車両位置取得部130は、車両1の位置情報を取得する。車両位置取得部130が取得する車両1の位置情報は、車両状態情報から算出された車両1の位置情報であり、車両位置情報720から得られる。あるいは、車両位置取得部130が取得する車両1の位置情報は、インフラカメラにより得られてもよい。ステップS130以降の処理は、車両の入庫後に行われる。
5-4.第1画像取得処理(ステップS140)
ステップS140において、第1画像取得部140は、車両1に搭載されたカメラを用いて、対象マーカMtを含むと想定される第1画像を取得する。対象マーカMtは、マーカMのうち、車両1の現在位置付近にあるマーカである。対象マーカMtは、車両位置取得部130が取得する車両1の位置情報、及びマーカ位置情報711に基づいて、車両の現在位置付近にあるマーカMを推定することにより決定される。
5-5.第2画像生成処理(ステップS150)
ステップS150において、第2画像生成部150は、第1画像を対象マーカMtに対する輝度補正値を用いて補正し、第2画像を取得する。
図16は、輝度補正値の例を示す表である。輝度補正値は、例えば、図16の表のような、日中、夜間、影の有無等のカテゴリごとに決められた係数であってもよい。第2画像は、例えば、この係数を用いて、第1画像の画素ごとの輝度を補正することで生成される。係数は、マーカMの位置における明るさが、基準となる明るさのときに1となるように設定され、明るくなるほど値が小さく、暗くなるほど値が大きくなる。第2画像生成部150は、カメラによって取得される画像の画素ごとの輝度を算出し、係数が1よりも小さいときは輝度の高い画素に対してより強い補正をかける。逆に、係数が1よりも大きいときは輝度の低い画素に対してより強い補正をかける。このようにして、画素ごとに輝度が補正されることで、第2画像が生成される。
5-6.マーカ認識処理(ステップS160)
ステップS160において、マーカ認識部160は、第2画像に基づいて対象マーカMtを認識する。マーカ認識部160が対象マーカMtの認識結果を取得すると、今サイクルの処理は終了する。
5-7.効果
以上に説明した移動体支援処理によって、マーカMの位置における明るさに応じて、マーカM(対象マーカMt)を含む画像の輝度を補正するための輝度補正値が算出される。移動体支援システムは、輝度補正値を用いて第1画像の輝度を補正することにより、対象マーカMtの認識精度を向上させることができる。対象マーカMtの認識精度が向上することで、対象マーカMtの認識結果に基づく車両1の動作の精度も向上する。
また、第1の例においては、明るさ推定処理及び輝度補正値算出処理は、車両1の入庫前に予め行っておくことができる。予め輝度補正値を算出しておくことにより、車両1が画像を取得してからマーカ認識を行うまでの時間を短くし、車両1のスムーズな動作を可能にする。また、車両1が移動するたびに輝度補正値を算出する必要がないため、車両1のプロセッサ16や管理装置2のプロセッサ26の処理負荷を低減することもできる。車両1の入庫後に輝度補正値算出処理を行う場合であっても、明るさ情報や輝度補正値の取得は、天気や時刻等の情報を用いて行われるため、カメラによって画像を取得する前に行うことができる。カメラによって画像を取得するごとに画像の輝度を確認する場合と比較して、車両1のプロセッサ16の処理負荷を低減することができる。
6.移動体支援処理の第2の例
図17は、本実施の形態に係る移動体支援処理の第2の例を示すフローチャートである。図17を参照して、移動体支援処理の第2の例について説明する。
6-1.車両位置取得処理(ステップS210)
ステップS210において、車両位置取得部130は、車両1の位置情報を取得する。車両1の位置情報は、車両1の現在位置についての情報として、車両位置情報720から得られる。あるいは、車両1の位置情報は、インフラカメラにより得られてもよい。第2の例において、ステップ210以降の処理は、車両1の入庫後に行われる。
6-2.明るさ推定処理(ステップS220)
ステップS220において、明るさ推定部110は、マーカMの位置における明るさを推定する。明るさ推定部110は、マーカMの位置情報と明るさ推定用情報730に基づいて、マーカMの位置における明るさを推定し、明るさ情報740を取得する。
明るさ推定用情報730に含まれる情報のうち、車両情報738は、車両1の現在位置についての情報である。車両1の現在位置は、車両位置情報720から得られる。明るさ推定用情報730に含まれるその他の情報は、ステップ110と同様の方法で、明るさ推定部により取得される。
5-2.輝度補正値算出処理(ステップS230)
ステップS230において、輝度補正値算出部120は、輝度補正値を算出する。ステップS230における処理は、図13のステップS120における処理と同様である。ステップS240以降は、図13のステップS140以降と同様の処理が行われる。
5-3.効果
第1の例と同様、移動体支援システムは、輝度補正値を用いて画像の輝度を補正することにより、マーカ認識の精度を向上させることができる。マーカ認識の精度が向上することで、車両1の動作の精度も向上する。
第2の例においては、車両1の現在位置を取得した後に明るさ推定処理及び輝度補正値算出処理が行われる。車両1の現在位置を用いて明るさ情報740が推定されるため、明るさ情報740の誤差を少なくすることができる。また、第2の例においても、明るさ情報や輝度補正値の取得に、カメラによって取得される画像を用いる必要はなく、画像を用いて明るさ情報や輝度補正値の算出を行う場合と比較して、車両1のプロセッサ16の処理負荷を低減することができる。
6.その他の実施の形態
本開示は、駐車場における車両1の自動バレー駐車以外にも適用可能である。例えば、自律走行機能を有さない車両を自律走行ロボットによって牽引する方式の自動バレー駐車にも、本開示を適用可能である。また、街中にマーカMが配置され、車両やロボット等のモビリティがマーカMを認識してローカライズ処理を行う場合にも、本開示を適用可能である。
一般化する場合には、上述の説明における「車両」を「移動体」で読み替えるものとする。
1 車両
2 管理装置
3 駐車車両
11 車両状態センサ
12 認識センサ
13 通信装置
14 走行装置
15 制御装置
16 プロセッサ
17 記憶装置
23 通信装置
26 プロセッサ
27 記憶装置
110 明るさ推定部
111 影位置推定部
112 第1影位置推定部
113 第2影位置推定部
120 輝度補正値算出部
130 車両位置取得部
140 第1画像取得部
150 第2画像生成部
160 マーカ認識部
710 地図情報
711 マーカ位置情報
720 車両位置情報
730 推定用情報
731 照度情報
732 光源位置情報
733 太陽位置情報
734 照明位置情報
735 障害物位置情報
736 構造物位置情報
737 駐車車両位置情報
738 車両情報
740 明るさ情報
AR 所定エリア
M マーカ
Mt 対象マーカ
PT 目標経路

Claims (15)

  1. 駐車場における自動バレー駐車に対応し、前記駐車場に配置されたマーカを認識する移動体を支援する移動体支援システムであって、
    1又は複数のプロセッサを備え、
    前記1又は複数のプロセッサは、
    前記移動体が前記駐車場に入庫する予定である入庫予定時刻の情報を取得する処理と、
    前記移動体に搭載されたカメラにより得られる画像を用いることなく、前記入庫予定時刻における、前記駐車場内の前記マーカの位置における明るさを推定する明るさ推定処理と、
    前記マーカの前記位置における前記明るさに応じて、前記マーカを含む画像の輝度補正値を算出する処理と、
    前記カメラを用いて、前記移動体の周囲の対象マーカを含む第1画像を取得する処理と、
    前記対象マーカに対する前記輝度補正値を用いて前記第1画像の輝度を補正することによって第2画像を生成する処理と、
    前記第2画像に基づいて、前記対象マーカを認識する処理と、
    を実行するように構成された
    移動体支援システム。
  2. 請求項1に記載の移動体支援システムであって、
    前記移動体と通信を行う管理装置を更に備え、
    前記管理装置は、前記1又は複数のプロセッサの少なくとも一部を含み、前記明るさ推定処理を実行する
    移動体支援システム。
  3. 請求項2に記載の移動体支援システムであって、
    前記管理装置は、更に、前記輝度補正値を算出する前記処理を実行する
    移動体支援システム。
  4. 請求項1乃至3のいずれか一項に記載の移動体支援システムであって、
    前記明るさ推定処理は、
    前記駐車場内の影の位置を推定する影位置推定処理と、
    前記駐車場内の前記マーカの前記位置を示すマーカ位置情報と、前記影の前記位置とに基づいて、前記マーカの前記位置における前記明るさを推定する処理と
    を含む
    移動体支援システム。
  5. 請求項4に記載の移動体支援システムであって、
    前記影位置推定処理は、前記駐車場内の障害物によって生成される前記影の前記位置を推定する第1影位置推定処理を含む
    移動体支援システム。
  6. 請求項5に記載の移動体支援システムであって、
    前記第1影位置推定処理は、
    光源の位置を示す光源位置情報を取得する処理と、
    前記障害物の位置を示す障害物位置情報を取得する処理と、
    前記光源位置情報と前記障害物位置情報に基づいて、前記光源と前記障害物によって生成される前記影の前記位置を推定する処理と
    を含む
    移動体支援システム。
  7. 請求項6に記載の移動体支援システムであって、
    前記障害物は、前記駐車場内に存在する他の移動体と、前記駐車場内に設置された構造物のうち少なくとも一方を含む
    移動体支援システム。
  8. 請求項4乃至7のいずれか一項に記載の移動体支援システムであって、
    前記影位置推定処理は、少なくとも前記移動体によって生成される前記影の前記位置を推定する第2影位置推定処理を含む
    移動体支援システム。
  9. 請求項8に記載の移動体支援システムであって、
    前記第2影位置推定処理は、
    光源の位置を示す光源位置情報を取得する処理と、
    前記移動体のサイズを示す移動体サイズ情報を取得する処理と、
    前記光源位置情報と前記移動体の位置と前記移動体サイズ情報に基づいて、前記移動体によって生成される前記影の前記位置を推定する処理と
    を含む
    移動体支援システム。
  10. 請求項6、7、又は9に記載の移動体支援システムであって、
    前記光源位置情報は、
    時間帯に応じて変動する太陽の位置を示す太陽位置情報と、
    前記駐車場内の照明の設置位置を示す照明位置情報と
    のうち少なくとも一つを含む
    移動体支援システム。
  11. 請求項1乃至10のいずれか一項に記載の移動体支援システムであって、
    前記1又は複数のプロセッサは、更に、
    前記移動体に搭載された前記カメラを用いて、前記移動体の周囲の状況を示す画像を取得し、
    前記駐車場内の前記マーカの前記位置を示すマーカ位置情報を取得し、
    前記移動体の位置と前記マーカ位置情報に基づいて、前記移動体の周囲の前記対象マーカを含むと想定される前記画像を前記第1画像として取得する
    ように構成された
    移動体支援システム。
  12. 請求項1乃至11のいずれか一項に記載の移動体支援システムであって、
    前記1又は複数のプロセッサは、更に、
    前記駐車場内の前記マーカの前記位置を示すマーカ位置情報を取得し、
    前記第2画像に基づく前記対象マーカの認識結果と前記マーカ位置情報に基づいて、前記移動体の位置を補正しながら推定する移動体位置推定処理を実行する
    ように構成された
    移動体支援システム。
  13. 所定エリアに配置されたマーカを認識する移動体を支援する移動体支援システムであって、
    1又は複数のプロセッサを備え、
    前記1又は複数のプロセッサは、
    前記移動体に搭載されたカメラにより得られる画像を用いることなく、前記所定エリア内の前記マーカの位置における明るさを推定する明るさ推定処理と、
    前記マーカの前記位置における前記明るさに応じて、前記マーカを含む画像の輝度補正値を算出する処理と、
    前記カメラを用いて、前記移動体の周囲の対象マーカを含む第1画像を取得する処理と、
    前記対象マーカに対する前記輝度補正値を用いて前記第1画像の輝度を補正することによって第2画像を生成する処理と、
    前記第2画像に基づいて、前記対象マーカを認識する処理と、
    を実行するように構成され
    前記明るさ推定処理は、
    前記所定エリア内の影の位置を推定する影位置推定処理と、
    前記所定エリア内の前記マーカの前記位置を示すマーカ位置情報と、前記影の前記位置とに基づいて、前記マーカの前記位置における前記明るさを推定する処理と
    を含み、
    前記影位置推定処理は、少なくとも前記移動体によって生成される前記影の前記位置を推定する第2影位置推定処理を含み、
    前記第2影位置推定処理は、
    光源の位置を示す光源位置情報を取得する処理と、
    前記移動体のサイズを示す移動体サイズ情報を取得する処理と、
    前記光源位置情報と前記移動体の位置と前記移動体サイズ情報に基づいて、前記移動体によって生成される前記影の前記位置を推定する処理と
    を含む
    移動体支援システム。
  14. 駐車場における自動バレー駐車に対応し、前記駐車場に配置されたマーカを認識する移動体を支援する移動体支援方法であって、
    前記移動体が前記駐車場に入庫する予定である入庫予定時刻の情報を取得することと、
    前記移動体に搭載されたカメラにより得られる画像を用いることなく、前記入庫予定時刻における、前記駐車場内の前記マーカの位置における明るさを推定することと、
    前記マーカの前記位置における前記明るさに応じて、前記マーカを含む画像の輝度補正値を算出することと、
    前記カメラを用いて、前記移動体の周囲の対象マーカを含む第1画像を取得することと、
    前記対象マーカに対する前記輝度補正値を用いて前記第1画像の輝度を補正することによって第2画像を生成することと、
    前記第2画像に基づいて、前記対象マーカを認識することと、
    を含む
    移動体支援方法。
  15. 所定エリアに配置されたマーカを認識する移動体を支援する移動体支援方法であって、
    光源の位置を示す光源位置情報を取得することと、
    前記移動体のサイズを示す移動体サイズ情報を取得することと、
    前記光源位置情報と前記移動体の位置と前記移動体サイズ情報に基づいて、前記移動体によって生成される影の位置を推定することと、
    前記所定エリア内の前記マーカの位置を示すマーカ位置情報と、前記移動体によって生成される前記影の前記位置とに基づいて、前記移動体に搭載されたカメラにより得られる画像を用いることなく、前記マーカの前記位置における明るさを推定することと、
    前記マーカの前記位置における前記明るさに応じて、前記マーカを含む画像の輝度補正値を算出することと、
    前記カメラを用いて、前記移動体の周囲の対象マーカを含む第1画像を取得することと、
    前記対象マーカに対する前記輝度補正値を用いて前記第1画像の輝度を補正することによって第2画像を生成することと、
    前記第2画像に基づいて、前記対象マーカを認識することと、
    を含む
    移動体支援方法。
JP2022054423A 2022-03-29 2022-03-29 移動体支援システム及び移動体支援方法 Active JP7622686B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2022054423A JP7622686B2 (ja) 2022-03-29 2022-03-29 移動体支援システム及び移動体支援方法
US18/105,049 US12609028B2 (en) 2022-03-29 2023-02-02 Moving body support system and moving body support method
CN202310185759.0A CN116890810A (zh) 2022-03-29 2023-02-21 移动体辅助系统及移动体辅助方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2022054423A JP7622686B2 (ja) 2022-03-29 2022-03-29 移動体支援システム及び移動体支援方法

Publications (2)

Publication Number Publication Date
JP2023146956A JP2023146956A (ja) 2023-10-12
JP7622686B2 true JP7622686B2 (ja) 2025-01-28

Family

ID=88193314

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2022054423A Active JP7622686B2 (ja) 2022-03-29 2022-03-29 移動体支援システム及び移動体支援方法

Country Status (3)

Country Link
US (1) US12609028B2 (ja)
JP (1) JP7622686B2 (ja)
CN (1) CN116890810A (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010215029A (ja) 2009-03-13 2010-09-30 Toyota Industries Corp 駐車支援装置
JP2018039293A (ja) 2016-09-05 2018-03-15 日産自動車株式会社 駐車支援方法及び駐車支援装置
JP2021117726A (ja) 2020-01-27 2021-08-10 株式会社デンソー 自動駐車システム、マーカ不具合判定方法、及びマーカ不具合判定プログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5066558B2 (ja) * 2009-09-17 2012-11-07 日立オートモティブシステムズ株式会社 自車影認識装置
WO2011078199A1 (en) * 2009-12-25 2011-06-30 Ricoh Company, Ltd. Object identifying apparatus, moving body control apparatus, and information providing apparatus
JP6419011B2 (ja) 2015-03-31 2018-11-07 アイシン・エィ・ダブリュ株式会社 地物画像認識システム、地物画像認識方法及びコンピュータプログラム
JP2017220876A (ja) * 2016-06-10 2017-12-14 アイシン精機株式会社 周辺監視装置
WO2017223008A1 (en) * 2016-06-21 2017-12-28 Osram Sylvania Inc. Wireless beacon-enabled luminaire identification system and method for determining the position of a portable device
EP3264034B1 (de) * 2016-06-30 2020-02-26 Leica Geosystems AG Vermessungsgerät mit höhenmesssystem und verfahren zum messen einer höhe
JP2018092596A (ja) * 2016-11-30 2018-06-14 株式会社リコー 情報処理装置、撮像装置、機器制御システム、移動体、情報処理方法、およびプログラム
JP2019098911A (ja) 2017-12-01 2019-06-24 パナソニックIpマネジメント株式会社 駐車支援装置、駐車支援方法およびコンピュータプログラム
KR101937974B1 (ko) * 2018-05-08 2019-01-14 주식회사 에이엘테크 광섬유 발광형 표지 장치
JP6973320B2 (ja) * 2018-07-30 2021-11-24 トヨタ自動車株式会社 駐車支援システム
JP2020104804A (ja) * 2018-12-28 2020-07-09 トヨタ自動車株式会社 電子ミラーシステム
US10949978B2 (en) * 2019-01-22 2021-03-16 Fyusion, Inc. Automatic background replacement for single-image and multi-view captures
EP3963355A1 (en) * 2019-03-08 2022-03-09 OSRAM GmbH Component for a lidar sensor system, lidar sensor system, lidar sensor device, method for a lidar sensor system and method for a lidar sensor device
JP2021077196A (ja) * 2019-11-12 2021-05-20 トヨタ自動車株式会社 自動バレー駐車システム及び端末装置
US11117570B1 (en) * 2020-06-04 2021-09-14 Ambarella International Lp Parking assistance using a stereo camera and an added light source
JP7654992B2 (ja) * 2021-02-12 2025-04-02 株式会社アイシン 障害物検出装置、方法及びプログラム
US20220277163A1 (en) * 2021-02-26 2022-09-01 Here Global B.V. Predictive shadows to suppress false positive lane marking detection
US12202472B2 (en) * 2021-06-29 2025-01-21 Here Global B.V. Apparatus and methods for predicting a state of visibility for a road object based on a light source associated with the road object
US20230129091A1 (en) * 2021-10-21 2023-04-27 International Business Machines Corporation Non-gps based navigation and mapping by autonomous vehicles
JP7468556B2 (ja) * 2022-02-17 2024-04-16 トヨタ自動車株式会社 移動体支援システム及び移動体支援方法

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010215029A (ja) 2009-03-13 2010-09-30 Toyota Industries Corp 駐車支援装置
JP2018039293A (ja) 2016-09-05 2018-03-15 日産自動車株式会社 駐車支援方法及び駐車支援装置
JP2021117726A (ja) 2020-01-27 2021-08-10 株式会社デンソー 自動駐車システム、マーカ不具合判定方法、及びマーカ不具合判定プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
Realizing Autonomous Valet Parking with automotive grade sensors,2010 IEEE/RSJ International Conference on Intelligent Robots and Systems,2010年10月18日,https://ieeexplore.ieee.org/document/5649387
駐車枠検知機能付全周囲モニタの製品化,DENSO TEN Technical Review Vol.2,2018年12月31日

Also Published As

Publication number Publication date
JP2023146956A (ja) 2023-10-12
US20230316915A1 (en) 2023-10-05
US12609028B2 (en) 2026-04-21
CN116890810A (zh) 2023-10-17

Similar Documents

Publication Publication Date Title
EP3700198B1 (en) Imaging device, image processing apparatus, and image processing method
CN113561963B (zh) 一种泊车方法、装置及车辆
US10696301B2 (en) Vehicle control device
JP7143857B2 (ja) 情報処理装置、情報処理方法、プログラム、及び、移動体
JP2021527586A (ja) 環境アクティブセンシングタイプの駐車場自動駐車システム
CN112419776B (zh) 自主泊车方法、装置、汽车及计算设备
JP2014034251A (ja) 車両走行制御装置及びその方法
CN112537294B (zh) 自动泊车控制方法及电子设备
US12291192B2 (en) Control apparatus, control method, and non-transitory computer readable media encoded with computer program
US20190354769A1 (en) Method and system for detecting an elevated object situated within a parking facility
US11834036B2 (en) Automated valet parking server, autonomous driving vehicle, automated valet parking system
KR20220081380A (ko) 자율주행 차량을 위한 신호등 검출 및 분류
JP7622686B2 (ja) 移動体支援システム及び移動体支援方法
US12145574B2 (en) Vehicle control method, vehicle control system, and vehicle control program
WO2022102425A1 (ja) 信号処理装置及び信号処理方法
JP7468556B2 (ja) 移動体支援システム及び移動体支援方法
WO2023170993A1 (ja) 車載カメラシステム、および、車載カメラの露光条件決定方法
CN115909795A (zh) 基于车场协同的自主泊车系统及方法
JP2022146384A (ja) 物体検出装置
JP7528915B2 (ja) 追跡装置、追跡方法及び追跡用コンピュータプログラム
CN119239192B (zh) 基于rgb相机的自动倒车上挂方法、系统及装置
JP7841489B2 (ja) システム
JP7757904B2 (ja) 物体検出装置、物体検出方法及び物体検出用コンピュータプログラム
KR20250133737A (ko) 원격 서포트 시스템 및 원격 서포트 방법
JP2025003085A (ja) システム、制御装置、および、制御方法

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20231130

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20240822

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20241001

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241031

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20241217

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20241230

R150 Certificate of patent or registration of utility model

Ref document number: 7622686

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150