WO2013046408A1 - 画像表示装置及び画像表示方法 - Google Patents

画像表示装置及び画像表示方法 Download PDF

Info

Publication number
WO2013046408A1
WO2013046408A1 PCT/JP2011/072468 JP2011072468W WO2013046408A1 WO 2013046408 A1 WO2013046408 A1 WO 2013046408A1 JP 2011072468 W JP2011072468 W JP 2011072468W WO 2013046408 A1 WO2013046408 A1 WO 2013046408A1
Authority
WO
WIPO (PCT)
Prior art keywords
display
image
screen
vehicle
displaying
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2011/072468
Other languages
English (en)
French (fr)
Inventor
有華 祖父江
竜路 岡村
愛 吉岡
悠 日栄
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toyota Motor Corp
Original Assignee
Toyota Motor Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toyota Motor Corp filed Critical Toyota Motor Corp
Priority to EP11873490.4A priority Critical patent/EP2763405B1/en
Priority to JP2013535753A priority patent/JP5895941B2/ja
Priority to CN201180073796.8A priority patent/CN103843325B/zh
Priority to US14/347,996 priority patent/US9296336B2/en
Priority to PCT/JP2011/072468 priority patent/WO2013046408A1/ja
Publication of WO2013046408A1 publication Critical patent/WO2013046408A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/23—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view
    • B60R1/26—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with a predetermined field of view to the rear of the vehicle
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R1/00—Optical viewing arrangements; Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/20—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles
    • B60R1/22—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle
    • B60R1/28—Real-time viewing arrangements for drivers or passengers using optical image capturing systems, e.g. cameras or video systems specially adapted for use in or on vehicles for viewing an area outside the vehicle, e.g. the exterior of the vehicle with an adjustable field of view
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/56—Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/58—Recognition of moving objects or obstacles, e.g. vehicles or pedestrians; Recognition of traffic objects, e.g. traffic signs, traffic lights or roads
    • G—PHYSICS
    • G08—SIGNALLING
    • G08G—TRAFFIC CONTROL SYSTEMS
    • G08G1/00—Traffic control systems for road vehicles
    • G08G1/16—Anti-collision systems
    • G08G1/166—Anti-collision systems for active traffic, e.g. moving vehicles, pedestrians, bikes
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/50—Constructional details
    • H04N23/51—Housings
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/30—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing
    • B60R2300/304—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images
    • B60R2300/305—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by the type of image processing using merged images, e.g. merging camera image with stored images merging camera image with lines or icons
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R2300/00—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle
    • B60R2300/70—Details of viewing arrangements using cameras and displays, specially adapted for use in a vehicle characterised by an event-triggered choice to display a specific image among a selection of captured images
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00—Television systems
    • H04N7/18—Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast

Definitions

  • Embodiments described herein relate generally to an image display device and an image display method for displaying a surrounding image of a vehicle.
  • an apparatus has been proposed in which a blind spot caused by the host vehicle or a blind spot caused by an obstacle is photographed by a camera, and the photographed image is displayed using a display.
  • a blind spot caused by the host vehicle or a blind spot caused by an obstacle is photographed by a camera, and the photographed image is displayed using a display.
  • a range of 120 ° in a viewing angle of 180 ° is normally displayed on a display as a parking assistance image.
  • this device displays a wide angle range of 180 ° on the display as a parking assistance image.
  • the operating condition of the above system is that the vehicle is moving backward at a speed lower than a predetermined threshold.
  • the system is inactive.
  • the driver may misunderstand that the system can be supported.
  • the screen does not switch to a wide-angle image even when an obstacle is present, the driver may misunderstand that there is no obstacle and drive the vehicle. Therefore, the conventional apparatus has room for improvement in terms of easy recognition when the system is operating and when it is not operating.
  • An embodiment of the present invention has been made in consideration of such circumstances, and the object thereof is an image display device that makes it easier to recognize when a system that supports driving of a driver is operating and when it is not operating. And providing an image display method.
  • One embodiment of the present invention includes an image acquisition unit that acquires a peripheral image of a vehicle, and an image display unit that displays the peripheral image acquired by the image acquisition unit.
  • the image display unit displays the peripheral image on a plurality of screens. It is possible to display a driving support display indicating the approach of an object shown in the surrounding image while displaying it in a divided manner, when displaying the driving support display and when not displaying at least a part of the driving support display Thus, the image display device changes the number of screens to be displayed.
  • the image display unit includes a plurality of peripheral images. It is possible to display a driving support display indicating the approach of an object shown in the surrounding image while displaying it divided into two screens. When displaying the driving support display, at least a part of the driving support display is displayed. Change the number of screens to display when not. This makes it easier for the driver to recognize when the system displaying the driving support display is operating and when it is not operating.
  • the image display unit can divide and display the surrounding image into a left side screen, a center screen, and a right side screen.
  • the left side screen, the center screen, and the right side screen are displayed.
  • the screen is displayed and at least a part of the driving support display is not displayed, only the central screen can be displayed.
  • the image display unit can divide and display the peripheral image into the left side screen, the center screen, and the right side screen.
  • the left side screen, the center screen is displayed.
  • the screen and the right side screen are displayed and at least a part of the driving support display is not displayed, only the center screen is displayed. For this reason, it is easy for the driver to recognize when the system displaying the driving support display is operating and when it is not operating.
  • the central screen can be used for peripheral monitoring.
  • the image display unit can display a driving assistance display indicating the approach of an object when an object shown in any of the peripheral images on the left side screen and the right side screen approaches the vehicle.
  • the image display unit displays a driving assistance display indicating the approach of an object when an object shown in any of the peripheral images on the left side screen and the right side screen approaches the vehicle. For this reason, even if the driver is gazing at the center screen, the driver is likely to notice an object approaching from the side.
  • the image display unit can not display at least a part of the driving assistance display when either the vehicle speed or the steering angle is equal to or greater than a predetermined threshold.
  • the image display unit does not display the driving support display when either the vehicle speed or the steering angle is equal to or greater than the predetermined threshold.
  • a method for detecting the approach of an object there are radar, lidar, sonar, image recognition, and the like.
  • the vehicle speed and the steering angle are large, there is a risk of false detection or no detection. Misdetection or non-detection also leads to distrust of the driver's system. Therefore, by not displaying at least a part of the driving assistance display when the vehicle speed and the steering angle are equal to or greater than the threshold value, it is possible to prevent erroneous detection and non-detection of an object approaching the vehicle.
  • an embodiment of the present invention includes an image acquisition process for acquiring a peripheral image of a vehicle, and an image display process for displaying the peripheral image acquired in the image acquisition process.
  • the image display process includes a plurality of peripheral images. It is possible to display a driving support display indicating the approach of an object shown in the surrounding image while displaying it divided on a screen, and displaying at least a part of the driving support display when displaying the driving support display. This is an image display method in which the number of screens to be displayed is changed when not.
  • the image display device of the present embodiment is configured as a driving assistance display device 1.
  • the driving assistance display device 1 includes a rear wide-angle camera 11, a vehicle speed sensor 12, a steering angle sensor 13, an ECU 20, and a display 30.
  • the driving assistance display device 1 of the present embodiment is provided in a vehicle and provides a driver with an image behind the vehicle.
  • the rear wide-angle camera 11 is a single camera for taking an image of the rear of the vehicle.
  • the rear wide-angle camera 11 is a wide-angle camera having a viewing angle of about 180 °.
  • the vehicle speed sensor 12 is a sensor that detects the vehicle speed of the vehicle.
  • the vehicle speed sensor 12 detects the vehicle speed of the vehicle by detecting the rotational speed of the axle of the vehicle.
  • the steering angle sensor 13 is a sensor that detects the steering angle of the vehicle.
  • the shift position sensor is a sensor that detects whether or not the shift position of the transmission of the vehicle is in a reverse (R) position.
  • the ECU (Electronic Control Unit) 20 controls the driving support display 1 in an integrated manner.
  • the ECU 20 is an electronic control unit composed of a CPU (Central Processing Unit), ROM (Read Only Memory), RAM (Random Access Memory), etc.
  • the ECU 2 downloads an application program stored in the ROM to the RAM, and then the CPU. By executing the above, various arithmetic processes related to image display are executed.
  • the ECU 20 includes a moving object detection unit 21, a moving object trajectory detection unit 22, a moving object position / relative speed detection unit 23, a risk level estimation unit 24, and a display control unit 25 when classified by function. Yes.
  • the moving object detection unit 21 uses a pattern matching method for detecting an object shown in an image by collating the image with a predetermined pattern, and a direction in which a point in the image moves over time.
  • An object in the image taken by the rear wide-angle camera 11 is detected by an optical flow method of detecting an object reflected in the image by analyzing the speed.
  • the moving object detection unit 21 can also detect a stationary object.
  • the moving object trajectory detection unit 22 detects the position of the object in the image from the position and movement of the object in the image detected by the moving object detection unit 21 and the movement of the vehicle detected by the vehicle speed sensor 12 and the steering angle sensor 13. Detect the trajectory.
  • the moving object position / relative speed detection unit 23 detects the position of the object in the image and the relative speed with the vehicle based on the trajectory of the object in the image detected by the moving object trajectory detection unit 22.
  • the risk level estimation unit 24 estimates the risk level of the object in the image based on the position and relative speed of the object in the image detected by the moving object position / relative speed detection unit 23.
  • the display control unit 25 detects the position and relative speed of the object detected by the moving object position / relative speed detection unit 23, the risk estimated by the risk estimation unit 24, the vehicle speed sensor 12, and the steering. Based on the vehicle state detected by the angle sensor 13 and the shift position sensor 14, a driving support display for supporting the driving of the driver is displayed on the display 30.
  • the display 30 displays a rear image taken by the rear wide-angle camera 11.
  • a monitor provided near the driver's seat or a head-up display that displays an image on a windshield or the like can be used.
  • the driving assistance display device 1 detects an object in the vicinity of the vehicle by image recognition on an image captured by the rear wide-angle camera 11.
  • a sensor such as a radar, a lidar, or a sonar may be separately provided.
  • the driving support display device 1 As shown in FIG. 2, the driving support display device 1 according to the present embodiment is used when the host vehicle 100 moves backward from the parking position and enters the road while the host vehicle 100 moves backward and parks at the parking position.
  • the present invention is applied to assist a driver who is difficult to see behind the vehicle 100.
  • the driving assistance display device 1 detects the other vehicle V in the assistance area A, which is the imaging range of the rear wide-angle camera 11, and notifies the driver.
  • the driving assistance display device 1 As shown in FIG. 3, the driving assistance display device 1 according to the present embodiment is activated while the shift position sensor 14 is in the reverse position of the shift position of the transmission of the host vehicle 100 (S101).
  • the display control unit 25 of the ECU 20 of the driving assistance display device 1 operates a system in which detection values of the vehicle speed sensor 12 and the steering angle sensor 13 notify a moving object from the side in the driving assistance system of the driving assistance display device 1. It is determined whether or not the condition is satisfied (S102).
  • the driving support system that notifies the moving object from the side is deactivated when the speed or the steering angle exceeds a predetermined threshold.
  • the driving support display device 1 informs the driver of a moving object on the side of the host vehicle 100 only when the host vehicle 100 starts as in the situation shown in FIG. 2, the speed is in the vicinity of 0 km / h.
  • the speed is 0.1 to 3 km / h or less or 4 km / h or less
  • the operating condition of the driving support system that notifies the driver of a moving object on the side of the host vehicle 100 can be set.
  • the display control unit 25 displays the image captured by the rear wide-angle camera 11 on the display 30 by dividing it into three (S103). .
  • the original image taken by the rear wide-angle camera 11 has a viewing angle of 180 °. Due to the aberration of the wide-angle lens, the left and right edges of the image are distorted so as to be smaller and closer to the left and right edges.
  • an image captured by the rear wide-angle camera 11 is displayed on the display screen 200 by dividing it into a left and right rear side screen 204 and a central rear screen 202.
  • a predetermined interval is provided between the left and right rear side screens 204 and the center rear screen 202 so that the driver can easily understand that the image captured by the rear wide-angle camera 11 is divided.
  • the interval can be about 2 to 10 mm.
  • the display control unit 25 performs distortion correction for correcting distortion caused by the aberration of the wide-angle lens with respect to the images on the left and right rear side screens 204.
  • the display control unit 25 displays the left and right rear side screens 204 in a trapezoidal shape having opposite sides perpendicular to the left and right sides of the screen corresponding to the distortion correction applied to the left and right rear side screens 204.
  • the display control unit 25 displays the left side of the left rear side screen 204 and the right side of the right rear side screen 204 such that the vertical width of the rear side screen 204 becomes narrower. Further, the display control unit 25 displays the upper left and right sides of the left rear side screen 204 so as to face the upper left, and the upper and lower sides of the right rear side screen 204 face the upper right.
  • the display control unit 25 displays the central rear screen 202 in a rectangular shape.
  • the display control unit 25 displays a display range symbol 206 indicating which position on the host vehicle 100 the images of the left and right rear side screens 204 and the center rear screen 202 are.
  • the display control unit 25 displays a vehicle width line 208 on the central rear screen 202 for the driver to use as a driving reference when the host vehicle 100 moves backward. Thereby, the images of the left and right rear side screens 204 and the center rear screen 202 are different from each other.
  • the display control unit 25 When the moving object detection unit 21 of the ECU 20 of the driving assistance display device 1 detects a moving object such as the other vehicle V by the optical flow method described later (S104), the display control unit 25, as shown in FIG.
  • the moving object approach detection frame 210 that surrounds a part of the rear side screen 204 and the rear screen 202 on the side where the other vehicle V approaches the host vehicle 100 from the direction in which the other vehicle V approaches is displayed (S105).
  • a range surrounded by the moving object approach detection frame 210 indicates a detection range by an optical flow in the images of the rear side screen 204 and the rear screen 202.
  • the driver is also notified when there is a stationary object such as a pedestrian in the vicinity of the host vehicle 100. The operation at that time will be described later.
  • the display control unit 25 When the vehicle speed or the rudder angle exceeds a predetermined threshold value and does not satisfy the operating condition of the driving support system that notifies the side moving object (S102), the display control unit 25 operates a part of the driving support system.
  • the driver can confirm from the rear screen 202 that an object such as the other vehicle V has approached the vicinity of the host vehicle 100. Therefore, the driving assistance display device 1 can be used as a monitor for assisting driving when the host vehicle 100 moves backward even when the driving assistance system that notifies the side moving object is not operating.
  • a pedestrian or the like in the image of the center rear screen 202 is detected and notified to the driver by a pattern matching method described later.
  • the optical flow support area Aop which is a range displayed on the rear side screen 204
  • An object is detected by an optical flow that detects an object in the image.
  • the pattern matching support area Apm which is the range displayed on the rear screen 202
  • an object is detected by pattern matching that detects an object shown in the image by collating the image with a predetermined pattern.
  • another vehicle V is approaching the host vehicle 100 from the optical flow support area Aop, and the moving object detection unit 21 of the ECU 20 of the driving support display device 1 detects the other vehicle V by the optical flow.
  • the other vehicle V and the pedestrian P approach the own vehicle 100 from the optical flow support area Aop, and the moving object detection unit 21 detects the other vehicle V and the pedestrian P by the optical flow.
  • the optical flow support area Aop it is possible to detect a moving object approaching from a distance.
  • a stationary object cannot be detected. However, since there is no possibility that a stationary object will come into contact with the host vehicle 100 unless it is in the vicinity of the host vehicle 100, only a moving object is detected by the optical flow method in the optical flow support area Aop.
  • a pedestrian P is approaching the host vehicle 100 from the pattern matching support area Apm, and the moving object detection unit 21 of the ECU 20 of the driving support display device 1 detects the pedestrian P by pattern matching.
  • the moving object detection unit 21 performs pattern matching on each pedestrian P. Is detected.
  • a moving object and a stationary object in the vicinity of the host vehicle 100 can be detected in the pattern matching support area Apm.
  • the pattern matching support area Apm it is the range in which the host vehicle 100 moves, and there is a possibility that a stationary object will come into contact with the host vehicle 100, so that it is also necessary to detect a stationary object.
  • the moving object detection unit 21 mainly collates human patterns with objects in the image as patterns for collation. The vicinity of the host vehicle 100 can also be handled by detecting a stationary object using sonar.
  • the moving object detection unit 21 of the ECU 20 of the driving support display device 1 is in the optical flow support area Aop, and a moving object such as another vehicle V or a person is approaching the support area A. Is detected (S201), and the moving object detection unit 21 detects that an object such as a pedestrian P exists in the pattern matching support area Apm and the support area A (S202).
  • the risk estimation unit 24 of the ECU 20 estimates the risk from the position and relative speed of the object (S203).
  • the display control unit 25 of the ECU 20 walks around the moving object approach detection frame 210 and the pedestrian P surrounding a part of the rear side screen 204 on the side on which the other vehicle V approaches as shown in FIG.
  • the person detection frame 212 is displayed blinking on the rear screen 202 and the rear side screen 204 (S204).
  • the risk level estimation unit 24 estimates the risk level of the object higher as the position of the object is closer to the host vehicle 100.
  • the risk level estimation unit 24 estimates the risk level of the object higher as the relative speed of the object with the host vehicle 100 increases.
  • the display control unit 25 increases the timing for displaying the moving object approach detection frame 210 and the pedestrian detection frame 212 as the risk level estimated by the risk level estimation unit 24 increases.
  • the display control unit 25 shortens the interval at which the moving object approach detection frame 210 and the pedestrian detection frame 212 blink as the risk level estimated by the risk level estimation unit 24 increases.
  • the display control unit 25 can display the brightness of the moving object approach detection frame 210 and the pedestrian detection frame 212 to be higher as the risk level estimated by the risk level estimation unit 24 is higher.
  • the display control unit 25 can change and display the colors of the moving object approach detection frame 210 and the pedestrian detection frame 212 as the risk level estimated by the risk level estimation unit 24 is higher.
  • the display control unit 25 can change the display from blue and yellow to red as the risk level estimated by the risk level estimation unit 24 increases.
  • the moving object detection unit 21 is in the optical flow support area Aop and detects that a moving object such as another vehicle V or a person approaches the support area A (S201).
  • the risk level estimation unit 24 determines the position and relative of the object.
  • the degree of danger is estimated from the speed (S205).
  • the display control unit 25 sets the moving object approach detection frame 210 surrounding a part of the rear side screen 204 on the side on which the other vehicle V approaches as shown in FIG.
  • the screen 204 is displayed while blinking (S206).
  • the moving object detection unit 21 is in the optical flow support area Aop and detects that a moving object such as another vehicle V or a person approaches the support area A (S201). When it is detected that 21 is within the pattern matching support area Apm and an object such as a pedestrian P is present in the support area A (S207), the risk estimation unit 24 determines from the position and relative speed of the object. A risk level is estimated (S208). As described above, the display control unit 25, based on the degree of risk, the moving object approach detection frame 210 and a pedestrian surrounding a part of the rear side screen 204 on the side on which the other vehicle V approaches as shown in FIG. The pedestrian detection frame 212 surrounding P is displayed while blinking on the rear screen 202 and the rear side screen 204 (S204).
  • the display control unit 25 and the display 30 of the ECU 20 are Since the rear image is divided and displayed on the left and right rear side screens 204 and the center rear screen 202, it is easy for the driver to understand where the driver is displaying. Further, since the display control unit 25 and the display 30 do not display the same image on the left and right rear side screens 204 and the center rear screen 202, the driver can easily understand the distance between the object in the rear image and the host vehicle 100. Become.
  • the display control unit 25 performs distortion correction for correcting the distortion of the rear image displayed on the left and right rear side screens 204, the driver can view an easy-to-view rear image with the distortion corrected. Further, the display control unit 25 makes the shape of the left and right rear side screens 204 in accordance with the distortion correction, so that the driver can easily understand where the object in the rear image is approaching.
  • the display control unit 25 performs distortion correction for correcting distortion due to aberration of the wide-angle lens in the peripheral image displayed on the left and right rear side screens 204, and the left rear side and the right rear side of the left rear side screen 204.
  • the vertical width of the rear side screen 204 is narrowed toward the right side of the side screen 204, and the upper and lower sides of the left rear side screen 204 are directed upward on the left side.
  • the side is a trapezoid having a portion facing the upper right side. Therefore, the driver can easily understand where the rear image is taken. In addition, the driver can easily understand where the object in the rear image is approaching.
  • the display control unit 25 displays the left and right rear side screens 204 and the center rear screen 202 with a space therebetween. For this reason, it is easy for the driver to understand that the left and right rear side screens 204 and the center rear screen 202 are divided.
  • the display control unit 25 displays a moving object approach detection frame 210 indicating the approach of the object when an object shown in any of the rear images on the left and right side screens 204 approaches the host vehicle 100. For this reason, even if the driver is gazing at the central rear screen 202, the driver is likely to notice an object approaching from the side.
  • the display screen 200 can be easily used as a back guide monitor by enlarging the central rear screen 202.
  • the driver can easily recognize an object approaching from the side by the moving object approach detection frame 210. Further, in this embodiment, there is no trouble of switching the screen from normal to wide angle.
  • the driving assistance display device 1 including the rear wide-angle camera 11, the ECU 20 and the display 30 that display the rear image captured by the rear wide-angle camera 11, the display control unit 25 and the display of the ECU 20. 30 is capable of displaying a moving object approach detection frame 210 and a pedestrian detection frame 212 that support the driving of the driver of the host vehicle 100 while displaying the rear image divided into a plurality of screens.
  • the number of screens to be displayed is changed between when the approach detection frame 210 is displayed and when the moving object approach detection frame 210 is not displayed. This makes it easier for the driver to recognize when the system that displays the moving object approach detection frame 210 is operating and when it is not operating.
  • the display control unit 25 can divide and display the rear image into the left and right rear side screens 204 and the center rear screen 202, and displays the moving object approach detection frame 210 and the pedestrian detection frame 212.
  • the left and right rear side screens 204 and the center rear screen 202 are displayed, only the center rear screen 202 is displayed when the moving object approach detection frame 210 is not displayed. For this reason, the driver can easily recognize when the system displaying the moving object approach detection frame 210 is operating and when not operating.
  • the central rear screen 202 since the central rear screen 202 is displayed even when the system that displays the moving object approach detection frame 210 is not operating, the central rear screen 202 can be used for rear monitoring.
  • the display control unit 25 displays a moving object approach detection frame 210 indicating the approach of the object when the object shown on the left and right rear side screens 204 approaches the host vehicle 100. For this reason, even if the driver is gazing at the center screen, the driver is likely to notice an object approaching from the side.
  • the display control unit 25 does not display the moving object approach detection frame 210 when either the speed or the steering angle of the host vehicle 100 is equal to or greater than a predetermined threshold.
  • a predetermined threshold As a method for detecting the approach of an object, there are radar, lidar, sonar, image recognition, and the like. However, when the vehicle speed and the steering angle are large, there is a risk of false detection or no detection. Misdetection or non-detection also leads to distrust of the driver's system. Therefore, by not displaying the moving object approach detection frame 210 when the speed and the steering angle of the host vehicle 100 are equal to or greater than the threshold value, it is possible to prevent erroneous detection and undetection of an object approaching the host vehicle 100.
  • 30 shows the rear image divided into a left and right rear side screen 204 and a center rear screen 202, and the image of the center rear screen 202 is shown in the image by matching the image with a predetermined pattern.
  • the left and right rear side screen images 204 are detected, and the object in the image is detected by analyzing the direction and speed at which the points in the image move over time.
  • a moving object approach detection frame 210 or a pedestrian detection frame 212 indicating the presence is displayed.
  • a pattern matching method for collating an image with a predetermined pattern for a person who is stopped near the front of the host vehicle 100, a person who is present near the front of the host vehicle 100 when the host vehicle 100 is moving, and the like. And the driver can be notified of the presence of the detected person. Further, a person and a vehicle approaching from a distance on the side of the own vehicle 100 are detected by an optical flow method for analyzing the direction and speed at which a point in the image moves over time, and the detected person and the vehicle are detected. Can be notified to the driver. Therefore, the object can be detected and displayed more appropriately according to the position, speed, and type of the object.
  • the display control unit 25 detects the pedestrian P shown in the image of the center rear screen 202
  • the display control unit 25 displays a pedestrian detection frame 212 surrounding the pedestrian P, and either the left or right rear side screen 204 is displayed.
  • a moving object approach detection frame 210 surrounding at least a part of either the left or right rear side screen 204 where the object is detected is displayed.
  • the present invention is not limited to the above-described embodiment, and it is needless to say that various modifications can be made without departing from the gist of the present invention.
  • the size of the rear side screen 204 ′ may be simply reduced according to the distortion correction as shown in FIG. 16.
  • the moving object approach detection frame 210 for notifying the driver that a moving object has been detected changes depending on the range in which the object is detected.
  • the moving object approach detection frame 210 may be displayed only on the rear side screen 204 ′.
  • the rear side screen 204 is deleted when the driving support system is not in operation. However, if the rear side screen 204 is erased when the driving support system is not in operation, some drivers may feel that they cannot see the rear side screen 204 even though they want to see it. For this reason, as shown in FIG. 17, the non-operation display line 214 can be displayed on the rear side screen 204 while the rear side screen 204 is displayed when the driving support system is not operated.
  • the image display device and the image display method of the embodiment of the present invention described above it becomes easier to recognize when the system that supports the driving of the driver is operating and when it is not operating.

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Traffic Control Systems (AREA)

Abstract

　後方広角カメラ１１と、後方広角カメラ１１が撮影した後方画像を表示するＥＣＵ２０及びディスプレイ３０とを備えた運転支援表示装置１において、ＥＣＵ２０の表示制御部２５及びディスプレイ３０は、後方画像を複数の画面に分割して表示しつつ、自車両１００のドライバーの運転を支援する移動物接近検出枠２１０又は歩行者検出枠２１２を表示することが可能であり、移動物接近検出枠２１０を表示するときと、移動物接近検出枠２１０を表示しないときとで、表示する画面の数を変更する。このため、ドライバーは、移動物接近検出枠２１０を表示するシステムの作動時と非作動時とをより認識し易くなる。

Description

画像表示装置及び画像表示方法
　本発明の一実施形態は、車両の周辺画像を表示する画像表示装置及び画像表示方法に関する。
　微低速走行時において、自車両による死角及び壁や隣接する他車両等の遮蔽物による死角によって、ドライバーが見たい場所が目視によって見えない場合がある。そこで、自車両による死角や遮蔽物による死角をカメラで撮影し、撮影した画像をディスプレイとを用いて表示する装置が提案されている。例えば、特許文献１の装置では、１８０°の視角を有する広角カメラで撮影した画像について、通常時は１８０°の視角中の１２０°の範囲をディスプレイに表示して駐車支援画像とする。障害物が検出されたときは、この装置は１８０°の広角の範囲をディスプレイに表示して駐車支援画像とする。
特開２００９－６５４８３号公報
　ところで上記の技術では、車両が所定の閾値未満の低速で後退中であることが上記のシステムの作動条件である。しかしながら上記の技術では、例えば車両が閾値以上の高速で後退中であり、装置のシステムが非作動であることをドライバーが認識していない場合、システムの非作動の条件下であるにも関わらず、ドライバーがシステムによる支援を受けることができると誤解する可能性がある。この場合、画面は障害物が存在する場合でも、広角の画像に切り替わらないため、ドライバーは障害物が無いと誤解して車両を走行させる可能性がある。したがって、従来の装置は、システムの作動時と非作動時との認識し易さの点で改善の余地がある。
　本発明の一実施形態は、このような実情を考慮してなされたものであり、その目的は、ドライバーの運転を支援するシステムの作動時と非作動時とをより認識し易くなる画像表示装置及び画像表示方法を提供することにある。
　本発明の一実施形態は、車両の周辺画像を取得する画像取得ユニットと、画像取得ユニットが取得した周辺画像を表示する画像表示ユニットとを備え、画像表示ユニットは、周辺画像を複数の画面に分割して表示しつつ、周辺画像に写った物体の接近を示す運転支援表示を表示することが可能であり、運転支援表示を表示するときと、運転支援表示の少なくとも一部を表示しないときとで、表示する画面の数を変更する画像表示装置である。
　この構成によれば、車両の周辺画像を取得する画像取得ユニットと、画像取得ユニットが取得した周辺画像を表示する画像表示ユニットとを備えた画像表示装置において、画像表示ユニットは、周辺画像を複数の画面に分割して表示しつつ、周辺画像に写った物体の接近を示す運転支援表示を表示することが可能であり、運転支援表示を表示するときと、運転支援表示の少なくとも一部を表示しないときとで、表示する画面の数を変更する。このため、ドライバーは、運転支援表示を表示するシステムの作動時と非作動時とをより認識し易くなる。
　また、画像表示ユニットは、周辺画像を左側方画面、中央画面及び右側方画面に分割して表示することが可能であり、運転支援表示を表示するときは、左側方画面、中央画面及び右側方画面を表示し、運転支援表示の少なくとも一部を表示しないときは、中央画面のみを表示することができる。
　この構成によれば、画像表示ユニットは、周辺画像を左側方画面、中央画面及び右側方画面に分割して表示することが可能であり、運転支援表示を表示するときは、左側方画面、中央画面及び右側方画面を表示し、運転支援表示の少なくとも一部を表示しないときは、中央画面のみを表示する。このため、ドライバーは、運転支援表示を表示するシステムの作動時と非作動時とを認識し易い。また、運転支援表示を表示するシステムの非作動時にも、中央画面は表示されるため、中央画面を周辺監視のために用いることができる。
　また、画像表示ユニットは、左側方画面及び右側方画面のいずれかの周辺画像に写った物体が車両に接近するときは、物体の接近を示す運転支援表示を表示することができる。
　この構成によれば、画像表示ユニットは、左側方画面及び右側方画面のいずれかの周辺画像に写った物体が車両に接近するときは、物体の接近を示す運転支援表示を表示する。このため、ドライバーは中央画面を注視していたとしても、側方から接近する物体に気付き易い。
　この場合、画像表示ユニットは、車両の速度及び舵角のいずれかが所定の閾値以上のときは、運転支援表示の少なくとも一部を表示しないことができる。
　この構成によれば、画像表示ユニットは、車両の速度及び舵角のいずれかが所定の閾値以上のときは、運転支援表示を表示しない。物体の接近を検知する手法としては、レーダ、ライダ、ソナー及び画像認識等があるが、車両の速度や舵角が大きい場合は誤検知や未検知等の恐れがある。誤検知や未検知はドライバーのシステムへの不信にもつながる。そのため、車両の速度及び舵角が閾値以上のときに運転支援表示の少なくとも一部を表示しないことにより、車両に接近する物体の誤検知や未検知を防止することができる。
　また、本発明の一実施形態は、車両の周辺画像を取得する画像取得工程と、画像取得工程で取得した周辺画像を表示する画像表示工程とを含み、画像表示工程は、周辺画像を複数の画面に分割して表示しつつ、前記周辺画像に写った物体の接近を示す運転支援表示を表示することが可能であり、運転支援表示を表示するときと、運転支援表示の少なくとも一部を表示しないときとで、表示する画面の数を変更する画像表示方法である。
　本発明の一実施形態によれば、ドライバーの運転を支援するシステムの作動時と非作動時とをより認識し易くなる。
実施形態の運転支援表示装置の構成を示すブロック図である。 実施形態の運転支援表示装置が適用される状況を示す平面図である。 実施形態の運転支援表示装置の基本的な動作を示すフローチャートである。 後方広角カメラが撮像した未処理の元画像を示す図である。 実施形態の運転支援表示システムの作動時において接近してくる移動物が存在しないときの表示画像を示す図である。 実施形態の運転支援表示システムの作動時において接近してくる移動物が存在するときの表示画像を示す図である。 実施形態の運転支援表示システムの非作動時において接近してくる移動物が存在しないときの表示画像を示す図である。 実施形態の運転支援表示システムの非作動時において接近してくる移動物が存在するときの表示画像を示す図である。 実施形態の運転支援表示装置のオプティカルフローのエリアに物体が存在するときの状況を示す平面図である。 実施形態の運転支援表示装置のオプティカルフローのエリアに物体が存在するときの運転支援の対象を示す平面図である。 実施形態の運転支援表示装置のパターンマッチングのエリアに物体が存在するときの状況を示す平面図である。 実施形態の運転支援表示装置のパターンマッチングのエリアに物体が存在するときの運転支援の対象を示す平面図である。 実施形態の運転支援表示装置の各支援エリア及び各対象物に応じた動作を示すフローチャートである。 実施形態の運転支援表示装置のオプティカルフローのエリアに移動物が存在し、パターンマッチングのエリアに人が存在するときの表示画像を示す図である。 実施形態の運転支援表示装置のパターンマッチングのエリアに人が存在するときの表示画像を示す図である。 別の実施形態の表示画像を示す図である。 別の実施形態の表示画像を示す図である。
　以下、図面を参照して本発明の実施形態に係る画像表示装置及び画像表示方法について説明する。図１に示すように、本実施形態の画像表示装置は運転支援表示装置１として構成されている。運転支援表示装置１は、後方広角カメラ１１、車速センサ１２、操舵角センサ１３、ＥＣＵ２０及びディスプレイ３０を備えている。本実施形態の運転支援表示装置１は、車両に備えられ、車両の後方の画像をドライバーに提供するものである。
　後方広角カメラ１１は、車両の後方の画像を撮影するための１台のカメラである。後方広角カメラ１１は、視角が１８０°程度の広角カメラである。車速センサ１２は、車両の車速を検出するセンサである。例えば車速センサ１２は、車両の車軸の回転速度を検出することにより、車両の車速を検出する。操舵角センサ１３は、車両の操舵角を検出するセンサである。シフト位置センサは、車両のトランスミッションのシフト位置が後退（Reverse：Ｒ）の位置にあるか否かを検出するセンサである。
　ＥＣＵ（Electronic　Control　Unit）２０は、運転支援表示１を統括的に制御する。ＥＣＵ２０は、ＣＰＵ（Central　Processing　Unit］、ＲＯＭ（Read　Only　Memory）、ＲＡＭ（Random　Access　Memory）などからなる電子制御ユニットである。ＥＣＵ２では、ＲＯＭに記憶されているアプリケーションプログラムをＲＡＭにダウンロードし、ＣＰＵで実行することで、画像表示に係る各種演算処理を実行する。
　ＥＣＵ２０は、その機能ごとに分類した場合には、移動物体検出部２１、移動物軌道検出部２２、移動物体位置・相対速度検出部２３、危険度推定部２４及び表示制御部２５を有している。
　移動物体検出部２１は、後述するように、画像と所定のパターンとの照合を行うことにより画像に写った物体を検出するパターンマッチングによる方法と、画像中の点が時間の経過とともに動く方向と速さとを解析することにより画像に写った物体を検出するオプティカルフローによる方法とにより、後方広角カメラ１１により撮影された画像中の物体を検出する。なお、後述するように、パターンマッチングにより物体を検出する場合には、移動物体検出部２１は静止物体を検出することもできる。
　移動物軌道検出部２２は、移動物体検出部２１により検出された画像中の物体の位置及び動きと、車速センサ１２及び操舵角センサ１３により検出された車両の動きとから、画像中の物体の軌道を検出する。
　移動物体位置・相対速度検出部２３は、移動物軌道検出部２２により検出された画像中の物体の軌道に基づいて、画像中の物体の位置及び車両との相対速度を検出する。
　危険度推定部２４は、移動物体位置・相対速度検出部２３により検出された画像中の物体の位置及び相対速度に基づいて、画像中の物体の危険度を推定する。
　表示制御部２５は、後述するように、移動物体位置・相対速度検出部２３により検出された物体の位置及び相対速度と、危険度推定部２４により推定された危険度と、車速センサ１２、操舵角センサ１３及びシフト位置センサ１４により検出された車両の状態とから、ドライバーの運転を支援するための運転支援表示をディスプレイ３０に表示する。
　ディスプレイ３０は、後方広角カメラ１１により撮影された後方画像を表示する。ディスプレイ３０は、例えば、運転席近傍に設けられるモニタや、フロントガラス等に画像を表示するヘッドアップディスプレイを使用することができる。
　なお、本実施形態では、運転支援表示装置１は、後方広角カメラ１１により撮影された画像に対する画像認識により車両近傍の物体を検出する。しかし、車両近傍の物体を検出するために、別途、レーダ、ライダ、ソナー等のセンサを備えていても良い。
　以下、本実施形態の運転支援表示装置１の動作について説明する。図２に示すように、本実施形態の運転支援表示装置１は、自車両１００が後退しつつ駐車位置から道路に出る場合、及び自車両１００が後退しつつ駐車位置に駐車する場合に、自車両１００の後方を見ることが難しいドライバーの運転を支援するために適用される。運転支援表示装置１は、後方広角カメラ１１の撮像範囲である支援エリアＡ内の他車両Ｖ等を検出し、ドライバーに報知する。
　まず、本実施形態の運転支援表示装置１の基本的な動作について説明する。図３に示すように、本実施形態の運転支援表示装置１は、シフト位置センサ１４が自車両１００のトランスミッションのシフト位置が後退の位置にある間に作動状態となる（Ｓ１０１）。
　運転支援表示装置１のＥＣＵ２０の表示制御部２５は、車速センサ１２及び操舵角センサ１３の検出値が運転支援表示装置１の運転支援システムの内で側方からの移動物を報知するシステムの作動条件であるか否かを判定する（Ｓ１０２）。
　移動物を検出する方法としては、レーダ、ライダ、ソナー及び画像認識等があるが、センサの性能や画像認識の精度により、自車両１００の速度や操舵角等の条件によっては誤検知又は未検知等の恐れがある。誤検出及び未検出はドライバーが運転支援表示装置１の運転支援システムに不信を抱く。そのため、本実施形態では、側方からの移動物を報知する運転支援システムを速度や舵角が所定の閾値以上になった場合は非作動とする。
　例えば図２に示す状況のように自車両１００が発進するときにのみ、運転支援表示装置１が自車両１００側方の移動物体をドライバーに報知する場合は、速度が０ｋｍ／ｈ近傍である場合又は速度が０．１～３ｋｍ／ｈ以下又は４ｋｍ／ｈ以下である場合を自車両１００側方の移動物体をドライバーに報知する運転支援システムの作動条件にできる。
　側方の移動物体を報知する運転支援システムの作動条件である場合は（Ｓ１０２）、表示制御部２５はディスプレイ３０に、後方広角カメラ１１により撮影された画像を３分割して表示する（Ｓ１０３）。図４の表示画面２００に示すように、後方広角カメラ１１により撮影された元の画像は１８０°の視角を有する。画像の左右端部は広角レンズの収差により、左右端部に向かうほど小さく上方に見える歪みが生じている。
　本実施形態では、図５に示すように、表示画面２００に、後方広角カメラ１１により撮影された画像を左右の後側方画面２０４及び中央の後方画面２０２に３分割して表示する。左右の後側方画面２０４及び中央の後方画面２０２の間は、後方広角カメラ１１により撮影された画像が分割されていることがドライバーに判り易いように所定の間隔が隔てられている。この場合の間隔は、２～１０ｍｍ程度とすることができる。
　表示制御部２５は、左右の後側方画面２０４の画像に対して広角レンズの収差による歪みを補正する歪み補正を施す。表示制御部２５は、左右の後側方画面２０４に施した歪み補正に対応して、左右の後側方画面２０４を画面の左右に垂直な対辺を有する台形に表示する。表示制御部２５は、左の後側方画面２０４の左側方及び右の後側方画面２０４の右側方ほど、後側方画面２０４の上下の幅が狭くなるように表示する。また、表示制御部２５は、左の後側方画面２０４の上下の辺は左上方を向き、右の後側方画面２０４の上下の辺は右上方を向くように表示する。
　表示制御部２５は、中央の後方画面２０２を長方形となるように表示する。表示制御部２５は、左右の後側方画面２０４及び中央の後方画面２０２の画像が自車両１００のどの位置の画像であるのかを示す表示範囲シンボル２０６を表示する。また、表示制御部２５は、自車両１００の後退時にドライバーが運転の基準とするための車幅ライン２０８を中央の後方画面２０２に表示する。これにより、左右の後側方画面２０４及び中央の後方画面２０２の画像はそれぞれ異なる画像となる。
　運転支援表示装置１のＥＣＵ２０の移動物体検出部２１が後述するオプティカルフローの手法により、他車両Ｖ等の移動物体を検出したときは（Ｓ１０４）、表示制御部２５は、図６に示すように、他車両Ｖが自車両１００に接近してくる側の後側方画面２０４及び後方画面２０２の一部を他車両Ｖが接近してくる方向から囲む移動物接近検出枠２１０を表示する（Ｓ１０５）。移動物接近検出枠２１０が囲む範囲は、後側方画面２０４及び後方画面２０２の画像中におけるオプティカルフローによる検知範囲を示している。なお、本実施形態では、自車両１００近傍に歩行者等の静止物体が存在する場合もドライバーに報知するがその際の動作については後述する。
　車速又は舵角が所定の閾値を越えており、側方の移動物体を報知する運転支援システムの作動条件を満たさないときは（Ｓ１０２）、表示制御部２５は運転支援システムの一部を作動させず、図７に示すように中央の後方画面２０２のみを表示する（Ｓ１０６）。この場合、図８に示すように、ドライバーは、他車両Ｖ等の物体が自車両１００近傍に接近してきたことは、後方画面２０２により確認可能である。そのため、側方の移動物体を報知する運転支援システムの非作動時であっても、自車両１００の後退時の運転を支援するモニタとして運転支援表示装置１を利用することができる。さらに、側方の移動物体を報知する運転支援システムの非作動時であっても、後述するパターンマッチングによる手法により、中央の後方画面２０２の画像中の歩行者等は検出され、ドライバーに報知される。
　以下、本実施形態の運転支援表示装置１の物体を検出する動作について説明する。図９に示すように、本実施形態では、後側方画面２０４に表示される範囲であるオプティカルフロー支援エリアＡｏｐでは、画像中の点が時間の経過とともに動く方向と速さとを解析することにより画像に写った物体を検出するオプティカルフローによる物体の検出が行われる。一方、後方画面２０２に表示される範囲であるパターンマッチング支援エリアＡｐｍでは、画像と所定のパターンとの照合を行うことにより画像に写った物体を検出するパターンマッチングによる物体の検出が行われる。
　図９の例では、オプティカルフロー支援エリアＡｏｐから自車両１００に他車両Ｖが接近しており、運転支援表示装置１のＥＣＵ２０の移動物体検出部２１は、オプティカルフローにより、他車両Ｖを検出する。図１０の例では、オプティカルフロー支援エリアＡｏｐから自車両１００に他車両Ｖ及び歩行者Ｐが接近しており、移動物体検出部２１は、オプティカルフローにより、他車両Ｖ及び歩行者Ｐを検出する。いずれの例でも、オプティカルフロー支援エリアＡｏｐでは、遠方から接近する移動物体を検出可能である。オプティカルフロー支援エリアＡｏｐでは静止物体は検出不可能である。しかし、自車両１００近傍でなければ、静止物体が自車両１００に接触する可能性は無いため、オプティカルフロー支援エリアＡｏｐでは、移動物体のみをオプティカルフローによる方法により検出する。
　図１１の例では、パターンマッチング支援エリアＡｐｍから自車両１００に歩行者Ｐが接近しており、運転支援表示装置１のＥＣＵ２０の移動物体検出部２１は、パターンマッチングにより、歩行者Ｐを検出する。図１２の例では、パターンマッチング支援エリアＡｐｍから自車両１００に移動中の歩行者Ｐ及び静止中の歩行者Ｐが存在しており、移動物体検出部２１は、パターンマッチングにより、歩行者Ｐそれぞれを検出する。いずれの例でも、パターンマッチング支援エリアＡｐｍでは、自車両１００近傍の移動物体及び静止物体を検出可能である。パターンマッチング支援エリアＡｐｍでは、自車両１００が移動する範囲であり、静止物体が自車両１００に接触する可能性があるため、静止物体も検出する必要がある。パターンマッチング支援エリアＡｐｍでは、移動物体検出部２１は、照合するためのパターンとして主に人のパターンと画像中の物体との照合を行う。なお、自車両１００近傍についてはソナーによって静止物体を検出することでも対応可能である。
　図１３に示すように、運転支援表示装置１のＥＣＵ２０の移動物体検出部２１がオプティカルフロー支援エリアＡｏｐ内であり且つ支援エリアＡ内に他車両Ｖ又は人等の移動物体が接近していることを検出した場合であって（Ｓ２０１）、移動物体検出部２１がパターンマッチング支援エリアＡｐｍ内であり且つ支援エリアＡ内に歩行者Ｐ等の物体が存在していることを検出した場合（Ｓ２０２）、ＥＣＵ２０の危険度推定部２４は、物体の位置及び相対速度から危険度を推定する（Ｓ２０３）。ＥＣＵ２０の表示制御部２５は、危険度を基に図１４に示すような他車両Ｖが接近する側の後側方画面２０４の一部を囲む移動物接近検出枠２１０と歩行者Ｐを囲む歩行者検出枠２１２とを後方画面２０２及び後側方画面２０４に点滅させつつ表示する（Ｓ２０４）。
　危険度推定部２４は、物体の位置が自車両１００から近いほど、当該物体の危険度を高く推定する。危険度推定部２４は、物体の自車両１００との相対速度が大きいほど、当該物体の危険度を高く推定する。表示制御部２５は、危険度推定部２４が推定した危険度が高いほど、移動物接近検出枠２１０及び歩行者検出枠２１２を表示する時期を早くする。表示制御部２５は、危険度推定部２４が推定した危険度が高いほど、移動物接近検出枠２１０及び歩行者検出枠２１２を点滅させる間隔を短くする。
　あるいは、表示制御部２５は、危険度推定部２４が推定した危険度が高いほど、移動物接近検出枠２１０及び歩行者検出枠２１２の輝度が高くなるように表示することができる。あるいは、表示制御部２５は、危険度推定部２４が推定した危険度が高いほど、移動物接近検出枠２１０及び歩行者検出枠２１２の色を変化させて表示することができる。例えば、表示制御部２５は、危険度推定部２４が推定した危険度が高くなるほど、青色、黄色から赤色に変化させて表示することができる。
　移動物体検出部２１がオプティカルフロー支援エリアＡｏｐ内であり且つ支援エリアＡ内に他車両Ｖ又は人等の移動物体が接近していることを検出した場合であって（Ｓ２０１）、移動物体検出部２１がパターンマッチング支援エリアＡｐｍ内であり且つ支援エリアＡ内に歩行者Ｐ等の物体が存在していることを検出していない場合（Ｓ２０２）、危険度推定部２４は、物体の位置及び相対速度から危険度を推定する（Ｓ２０５）。表示制御部２５は、上述したように危険度を基にして、図６に示すような他車両Ｖが接近する側の後側方画面２０４の一部を囲む移動物接近検出枠２１０を後側方画面２０４に点滅させつつ表示する（Ｓ２０６）。
　移動物体検出部２１がオプティカルフロー支援エリアＡｏｐ内であり且つ支援エリアＡ内に他車両Ｖ又は人等の移動物体が接近していることを検出した場合であって（Ｓ２０１）、移動物体検出部２１がパターンマッチング支援エリアＡｐｍ内であり且つ支援エリアＡ内に歩行者Ｐ等の物体が存在していることを検出した場合（Ｓ２０７）、危険度推定部２４は、物体の位置及び相対速度から危険度を推定する（Ｓ２０８）。表示制御部２５は、上述したように危険度を基にして、図１５に示すような他車両Ｖが接近する側の後側方画面２０４の一部を囲む移動物接近検出枠２１０と歩行者Ｐを囲む歩行者検出枠２１２とを後方画面２０２及び後側方画面２０４に点滅させつつ表示する（Ｓ２０４）。
　本実施形態によれば、後方広角カメラ１１と、後方広角カメラ１１が撮影した後方画像を表示するＥＣＵ２０及びディスプレイ３０とを備えた運転支援表示装置１において、ＥＣＵ２０の表示制御部２５及びディスプレイ３０は、後方画像を左右の後側方画面２０４及び中央の後方画面２０２に分割して表示するため、ドライバーはどこを表示しているのかが判り易くなる。また、表示制御部２５及びディスプレイ３０は、左右の後側方画面２０４及び中央の後方画面２０２で同じ画像を表示しなくなるため、ドライバーは後方画像中の物体と自車両１００との距離が判り易くなる。また、表示制御部２５は、左右の後側方画面２０４に表示される後方画像の歪みを補正する歪み補正を施すため、ドライバーは歪曲を補正した見易い後方画像を見ることができる。また、表示制御部２５は、左右の後側方画面２０４の形状を歪み補正に応じた形状とするため、ドライバーは後方画像中の物体がどこから接近しているのかが判り易くなる。
　また、表示制御部２５は、左右の後側方画面２０４に表示される周辺画像の広角レンズの収差による歪みを補正する歪み補正を施し、左の後側方画面２０４の左側方及び右の後側方画面２０４の右側方ほど後側方画面２０４の上下の幅を狭くし、左の後側方画面２０４の上下の辺は左側上方を向いた形状とし、右の後側方画面２０４の上下の辺は右側上方を向いた部分を有する台形とする。このため、そのため、ドライバーは後方画像がどこを写しているのかが判り易くなる。また、ドライバーは、後方画像中の物体がどこから接近して来るのかが判り易くなる。
　また、表示制御部２５は、左右の後側方画面２０４及び中央の後方画面２０２それぞれの間に間隔を空けて表示する。このため、ドライバーは、左右の後側方画面２０４及び中央の後方画面２０２それぞれが分割されていることが判り易い。
　また、表示制御部２５は、左右の側方画面２０４のいずれかの後方画像に写った物体が自車両１００に接近するときは、物体の接近を示す移動物接近検出枠２１０を表示する。このため、ドライバーは中央の後方画面２０２を注視していたとしても、側方から接近する物体に気付き易い。
　すなわち、本実施形態では、中央の後方画面２０２を大きくすることにより、表示画面２００をバックガイドモニターとして使用しやすい。後方画面２０２を大きくし、後側方画面２０４を小さく表示することにより、側方から接近する物体は画面で小さくなる。しかし、ドライバーが中央の後方画面２０２を注視していたとしても、ドライバーは側方から接近する物体を移動物接近検出枠２１０により気付き易い。また、本実施形態では、画面を通常から広角へ切り替える煩わしさがない。
　また、本実施形態によれば、後方広角カメラ１１と、後方広角カメラ１１が撮影した後方画像を表示するＥＣＵ２０及びディスプレイ３０とを備えた運転支援表示装置１において、ＥＣＵ２０の表示制御部２５及びディスプレイ３０は、後方画像を複数の画面に分割して表示しつつ、自車両１００のドライバーの運転を支援する移動物接近検出枠２１０及び歩行者検出枠２１２を表示することが可能であり、移動物接近検出枠２１０を表示するときと、移動物接近検出枠２１０を表示しないときとで、表示する画面の数を変更する。このため、ドライバーは、移動物接近検出枠２１０を表示するシステムの作動時と非作動時とをより認識し易くなる。
　また、表示制御部２５は、後方画像を左右の後側方画面２０４及び中央の後方画面２０２に分割して表示することが可能であり、移動物接近検出枠２１０及び歩行者検出枠２１２を表示するときは、左右の後側方画面２０４及び中央の後方画面２０２を表示し、移動物接近検出枠２１０を表示しないときは、中央の後方画面２０２のみを表示する。このため、ドライバーは、移動物接近検出枠２１０を表示するシステムの作動時と非作動時とを認識し易い。また、移動物接近検出枠２１０を表示するシステムの非作動時にも、中央の後方画面２０２は表示されるため、中央の後方画面２０２を後方監視のために用いることができる。
　また、表示制御部２５は、左右の後側方画面２０４に写った物体が自車両１００に接近するときに物体の接近を示す移動物接近検出枠２１０を表示する。このため、ドライバーは中央画面を注視していたとしても、側方から接近する物体に気付き易い。
　また、表示制御部２５は、自車両１００の速度及び舵角のいずれかが所定の閾値以上のときは、移動物接近検出枠２１０を表示しない。物体の接近を検知する手法としては、レーダ、ライダ、ソナー及び画像認識等があるが、車両の速度や舵角が大きい場合は誤検知や未検知等の恐れがある。誤検知や未検知はドライバーのシステムへの不信にもつながる。そのため、自車両１００の速度及び舵角が閾値以上のときに移動物接近検出枠２１０を表示しないことにより、自車両１００に接近する物体の誤検知や未検知を防止することができる。
　また、本実施形態によれば、後方広角カメラ１１と、後方広角カメラ１１が撮影した後方画像を表示するＥＣＵ２０及びディスプレイ３０とを備えた運転支援表示装置１において、ＥＣＵ２０の表示制御部２５及びディスプレイ３０は、後方画像を左右の後側方画面２０４及び中央の後方画面２０２に分割して表示し、中央の後方画面２０２の画像について、画像と所定のパターンとの照合を行うことにより画像に写った物体を検出し、左右の後側方画面２０４の画像について、画像中の点が時間の経過とともに動く方向と速さとを解析することにより画像に写った物体を検出し、検出された物体の存在を示す移動物接近検出枠２１０又は歩行者検出枠２１２を表示する。このため、自車両１００正面近傍で停止している人、自車両１００が移動しているときに自車両１００正面近傍に存在する人等を画像と所定のパターンとの照合を行うパターンマッチングの手法で検出し、検出した人等の存在をドライバーに報知することができる。また、自車両１００側方の遠方から接近してくる人及び車両等を画像中の点が時間の経過とともに動く方向と速さとを解析するオプティカルフローの手法により検出し、検出した人及び車両等の存在をドライバーに報知することができる。したがって、物体の位置、速度及び種類に応じてより適切に物体を検出して表示することができる。
　また、表示制御部２５は、中央の後方画面２０２の画像に写った歩行者Ｐを検出したときは、歩行者Ｐを囲む歩行者検出枠２１２を表示し、左右の後側方画面２０４いずれかの画像に写った物体を検出したときは、物体が検出された左右の後側方画面２０４いずれかの少なくとも一部を囲む移動物接近検出枠２１０を表示する。これにより、ドライバーは、中央の後方画面２０２と、左右の後側方画面２０４とで物体を検出する手法が異なることを認識することができる。つまり、中央の後方画面２０２と、左右の後側方画面２０４とで枠の囲み方を変えることで、中央の後方画面では人しか検出しないことをドライバーに知らせることができる。
　ドライバーは、側方は主に発進時に確認し、後方中央は発進時及び移動時に確認することが多い。移動時の場合、より素早く物体を確認する必要があるため、物体を歩行者検出枠２１２で囲むことによって、物体の位置も認識することができる。
　尚、本発明は、上記した実施の形態に限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変更を加え得ることは勿論である。例えば、上記実施形態での運転支援表示装置１の処理負荷が高い場合は、図１６に示すように、後側方画面２０４’の大きさを歪み補正に合せて小さくするだけでも良い。上述したように、移動物を検知したことをドライバーに報知する移動物接近検出枠２１０は、物体を検出した範囲によって変更する。後側方画面２０４’内の場合は後側方画面２０４’のみに移動物接近検出枠２１０を表示しても良い。
　また、上記実施形態では、運転支援システムの非作動時に後側方画面２０４を消去した。しかし、運転支援システムの非作動時に後側方画面２０４を消去してしまうと、ドライバーによっては後側方画面２０４を見たいにも関わらず見れないと感じる場合もある。このため、図１７に示すように、運転支援システムの非作動時に、後側方画面２０４を表示しつつ、後側方画面２０４に非作動表示ライン２１４を表示することもできる。
　上記の本発明の一実施形態の画像表示装置及び画像表示方法によれば、ドライバーの運転を支援するシステムの作動時と非作動時とをより認識し易くなる。
１　運転支援表示装置
１１　後方広角カメラ
１２　車速センサ
１３　操舵角センサ
１４　シフト位置センサ
２０　ＥＣＵ
２１　移動物体検出部
２２　移動物軌道検出部
２３　移動物体位置・相対速度検出部
２４　危険度推定部
２５　表示制御部
３０　ディスプレイ
１００　自車両
２００　表示画面
２０２　後方画像
２０４，２０４’　後側方画像
２０６　表示範囲シンボル
２０８　車幅ライン
２１０　移動物接近検出枠
２１２　歩行者検出枠
２１４　非作動表示ライン
Ａ…支援エリア
Ａｏｐ…オプティカルフローエリア
Ａｐｍ…パターンマッチングエリア
Ｖ…他車両
Ｐ…歩行者

Claims (5)

  1. 　車両の周辺画像を取得する画像取得ユニットと、
    　前記画像取得ユニットが取得した前記周辺画像を表示する画像表示ユニットと、
    を備え、
    　前記画像表示ユニットは、
    　前記周辺画像を複数の画面に分割して表示しつつ、前記周辺画像に写った物体の接近を示す運転支援表示を表示することが可能であり、
    　前記運転支援表示を表示するときと、前記運転支援表示の少なくとも一部を表示しないときとで、表示する前記画面の数を変更する、画像表示装置。
  2. 　前記画像表示ユニットは、
    　前記周辺画像を左側方画面、中央画面及び右側方画面に分割して表示することが可能であり、
    　前記運転支援表示を表示するときは、前記左側方画面、前記中央画面及び前記右側方画面を表示し、
    　前記運転支援表示の少なくとも一部を表示しないときは、前記中央画面のみを表示する、請求項１に記載の画像表示装置。
  3. 　前記画像表示ユニットは、前記左側方画面及び前記右側方画面のいずれかの前記周辺画像に写った物体が前記車両に接近するときは、前記物体の接近を示す前記運転支援表示を表示する、請求項１又は２に記載の画像表示装置。
  4. 　前記画像表示ユニットは、前記車両の速度及び舵角のいずれかが所定の閾値以上のときは、前記運転支援表示の少なくとも一部を表示しない、請求項３に記載の画像表示装置。
  5. 　車両の周辺画像を取得する画像取得工程と、
    　前記画像取得工程で取得した前記周辺画像を表示する画像表示工程と、
    を含み、
    　前記画像表示工程は、
    　前記周辺画像を複数の画面に分割して表示しつつ、前記周辺画像に写った物体の接近を示す運転支援表示を表示することが可能であり、
    　前記運転支援表示を表示するときと、前記運転支援表示の少なくとも一部を表示しないときとで、表示する前記画面の数を変更する、画像表示方法。
PCT/JP2011/072468 2011-09-29 2011-09-29 画像表示装置及び画像表示方法 Ceased WO2013046408A1 (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
EP11873490.4A EP2763405B1 (en) 2011-09-29 2011-09-29 Image display device and image display method
JP2013535753A JP5895941B2 (ja) 2011-09-29 2011-09-29 画像表示装置及び画像表示方法
CN201180073796.8A CN103843325B (zh) 2011-09-29 2011-09-29 图像显示装置及图像显示方法
US14/347,996 US9296336B2 (en) 2011-09-29 2011-09-29 Image display device and image display method
PCT/JP2011/072468 WO2013046408A1 (ja) 2011-09-29 2011-09-29 画像表示装置及び画像表示方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2011/072468 WO2013046408A1 (ja) 2011-09-29 2011-09-29 画像表示装置及び画像表示方法

Publications (1)

Publication Number Publication Date
WO2013046408A1 true WO2013046408A1 (ja) 2013-04-04

Family

ID=47994515

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2011/072468 Ceased WO2013046408A1 (ja) 2011-09-29 2011-09-29 画像表示装置及び画像表示方法

Country Status (5)

Country Link
US (1) US9296336B2 (ja)
EP (1) EP2763405B1 (ja)
JP (1) JP5895941B2 (ja)
CN (1) CN103843325B (ja)
WO (1) WO2013046408A1 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014229066A (ja) * 2013-05-22 2014-12-08 株式会社デンソー 車両用の映像制御装置
JP2014239326A (ja) * 2013-06-07 2014-12-18 ソニー株式会社 情報処理装置、接近対象物通知方法及びプログラム
WO2016107674A1 (en) * 2014-12-31 2016-07-07 Daimler Ag Method supporting passengers of autonomous driving vehicles
JP2023078076A (ja) * 2021-11-25 2023-06-06 メタル インダストリーズ リサーチ アンド ディベロップメント センター モバイルキャリアの側方ブラインドスポットを感知し応答するためのシステムおよび方法

Families Citing this family (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP5944781B2 (ja) * 2012-07-31 2016-07-05 株式会社デンソーアイティーラボラトリ 移動体認識システム、移動体認識プログラム、及び移動体認識方法
JP6100635B2 (ja) * 2012-12-13 2017-03-22 株式会社デンソー 移動体検出装置
JP6184877B2 (ja) * 2014-01-09 2017-08-23 クラリオン株式会社 車両用外界認識装置
US9098753B1 (en) * 2014-04-25 2015-08-04 Google Inc. Methods and systems for object detection using multiple sensors
JP6398675B2 (ja) 2014-12-09 2018-10-03 株式会社デンソー 画像生成装置
US10055652B2 (en) * 2016-03-21 2018-08-21 Ford Global Technologies, Llc Pedestrian detection and motion prediction with rear-facing camera
US10150414B2 (en) 2016-07-08 2018-12-11 Ford Global Technologies, Llc Pedestrian detection when a vehicle is reversing
JP6620715B2 (ja) * 2016-10-20 2019-12-18 株式会社デンソー 画像認識装置
JP6649914B2 (ja) * 2017-04-20 2020-02-19 株式会社Ｓｕｂａｒｕ 画像表示装置
CN110134155A (zh) * 2019-04-24 2019-08-16 薄涛 跟随幕布、控制方法、装置及存储介质
CN115315938A (zh) * 2020-03-31 2022-11-08 索尼集团公司 图像处理装置和方法、程序以及图像处理系统
CN116916156B (zh) * 2023-08-16 2023-12-05 深圳金语科技有限公司 一种监视系统分视野显示方法及系统
WO2025209651A1 (en) * 2024-04-04 2025-10-09 Stoneridge Electronics Ab Camera monitor system with heads up display features

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10215407A (ja) * 1997-01-30 1998-08-11 Osaka Gas Co Ltd 画像取り込み装置、運転支援画像取り込み装置
JP2009065483A (ja) 2007-09-06 2009-03-26 Denso Corp 駐車支援装置
JP2009206939A (ja) * 2008-02-28 2009-09-10 Nissan Motor Co Ltd 車両用画像表示システム及び画像表示装置並びに画像の強調方法
JP2010109483A (ja) * 2008-10-28 2010-05-13 Honda Motor Co Ltd 車両周辺表示方法

Family Cites Families (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5670935A (en) * 1993-02-26 1997-09-23 Donnelly Corporation Rearview vision system for vehicle including panoramic view
US5796426A (en) * 1994-05-27 1998-08-18 Warp, Ltd. Wide-angle image dewarping method and apparatus
JP4786076B2 (ja) * 2001-08-09 2011-10-05 パナソニック株式会社 運転支援表示装置
JP3977368B2 (ja) * 2004-09-30 2007-09-19 クラリオン株式会社 駐車支援システム
JP4793307B2 (ja) * 2007-04-03 2011-10-12 株式会社デンソー 車両周辺監視装置
JP5262897B2 (ja) 2009-03-25 2013-08-14 株式会社デンソー 表示装置
JP2012034076A (ja) * 2010-07-29 2012-02-16 Alps Electric Co Ltd 車両用視覚補助システム及び該システムを備える車両
TWI478833B (zh) * 2011-08-31 2015-04-01 Autoequips Tech Co Ltd 調校車用影像裝置之方法及其系統

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10215407A (ja) * 1997-01-30 1998-08-11 Osaka Gas Co Ltd 画像取り込み装置、運転支援画像取り込み装置
JP2009065483A (ja) 2007-09-06 2009-03-26 Denso Corp 駐車支援装置
JP2009206939A (ja) * 2008-02-28 2009-09-10 Nissan Motor Co Ltd 車両用画像表示システム及び画像表示装置並びに画像の強調方法
JP2010109483A (ja) * 2008-10-28 2010-05-13 Honda Motor Co Ltd 車両周辺表示方法

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP2763405A4

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014229066A (ja) * 2013-05-22 2014-12-08 株式会社デンソー 車両用の映像制御装置
JP2014239326A (ja) * 2013-06-07 2014-12-18 ソニー株式会社 情報処理装置、接近対象物通知方法及びプログラム
US10528825B2 (en) 2013-06-07 2020-01-07 Sony Corporation Information processing device, approaching object notification method, and program
WO2016107674A1 (en) * 2014-12-31 2016-07-07 Daimler Ag Method supporting passengers of autonomous driving vehicles
JP2023078076A (ja) * 2021-11-25 2023-06-06 メタル インダストリーズ リサーチ アンド ディベロップメント センター モバイルキャリアの側方ブラインドスポットを感知し応答するためのシステムおよび方法
JP7518134B2 (ja) 2021-11-25 2024-07-17 メタル インダストリーズ リサーチ アンド ディベロップメント センター モバイルキャリアの側方ブラインドスポットを感知し応答するためのシステムおよび方法
US12140957B2 (en) 2021-11-25 2024-11-12 Metal Industries Research & Development Centre System for sensing and responding to a lateral blind spot of a mobile carrier and method thereof

Also Published As

Publication number Publication date
EP2763405A1 (en) 2014-08-06
JP5895941B2 (ja) 2016-03-30
US9296336B2 (en) 2016-03-29
US20140225723A1 (en) 2014-08-14
EP2763405B1 (en) 2017-06-28
EP2763405A4 (en) 2015-01-21
JPWO2013046408A1 (ja) 2015-03-26
CN103843325B (zh) 2017-04-12
CN103843325A (zh) 2014-06-04

Similar Documents

Publication Publication Date Title
JP5871006B2 (ja) 画像表示装置及び画像表示方法
JP5895941B2 (ja) 画像表示装置及び画像表示方法
JP5741173B2 (ja) 画像表示装置、及び、画像表示方法
JP5022609B2 (ja) 撮像環境認識装置
US20170280063A1 (en) Stereo image generating method using mono cameras in vehicle and providing method for omnidirectional image including distance information in vehicle
JP5445719B2 (ja) 画像表示装置及び画像表示方法
US20210339678A1 (en) Information presentation device, information presentation control method, and non-transitory computer-readable recording medium
JP2013161440A (ja) 車両周辺監視装置
JP2016190575A (ja) 駐車支援装置、及び駐車支援システム
WO2016092967A1 (ja) 画像生成装置及び画像生成方法
JP6166188B2 (ja) 撮像システム、および撮像システムの制御方法
JP2000016181A (ja) カメラ付ドアミラー及び車両周辺認識システム
JP5747847B2 (ja) 車両周辺監視装置
JP7659234B2 (ja) 標識情報表示システム及び、標識情報表示方法
JP2006182108A (ja) 車両周辺監視装置
JP5529097B2 (ja) 車両の運転支援装置
JP2013146029A (ja) 車両周辺監視装置
JP7703887B2 (ja) 車両制御装置
JP4799236B2 (ja) 車載表示システム
JP7576235B2 (ja) 車両用表示制御システム
JP2008186132A (ja) 運転支援装置、方法およびプログラム
JP2009110065A (ja) 運転支援装置
JP2019110390A (ja) 車両周辺監視装置
JP2025090391A (ja) 周辺監視装置、方法、及びプログラム
JP2011113120A (ja) 車両用周辺監視装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11873490

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2013535753

Country of ref document: JP

Kind code of ref document: A

WWE Wipo information: entry into national phase

Ref document number: 14347996

Country of ref document: US

NENP Non-entry into the national phase

Ref country code: DE

REEP Request for entry into the european phase

Ref document number: 2011873490

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 2011873490

Country of ref document: EP