KR20200040639A - 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치 - Google Patents

3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치 Download PDF

Info

Publication number
KR20200040639A
KR20200040639A KR1020180149251A KR20180149251A KR20200040639A KR 20200040639 A KR20200040639 A KR 20200040639A KR 1020180149251 A KR1020180149251 A KR 1020180149251A KR 20180149251 A KR20180149251 A KR 20180149251A KR 20200040639 A KR20200040639 A KR 20200040639A
Authority
KR
South Korea
Prior art keywords
display
error
virtual image
ground
image
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020180149251A
Other languages
English (en)
Other versions
KR102105447B1 (ko
Inventor
정은영
차재원
Original Assignee
네이버랩스 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 네이버랩스 주식회사 filed Critical 네이버랩스 주식회사
Priority to CN201880096389.0A priority Critical patent/CN112534334A/zh
Priority to JP2021510058A priority patent/JP7183393B2/ja
Priority to EP18936430.0A priority patent/EP3865928A4/en
Priority to PCT/KR2018/015307 priority patent/WO2020075911A1/ko
Publication of KR20200040639A publication Critical patent/KR20200040639A/ko
Application granted granted Critical
Publication of KR102105447B1 publication Critical patent/KR102105447B1/ko
Priority to US17/199,820 priority patent/US12158593B2/en
Priority to JP2022186200A priority patent/JP7397152B2/ja
Assigned to 네이버 주식회사 reassignment 네이버 주식회사 권리의 전부이전등록 Assignors: 네이버랩스 주식회사
Priority to US18/938,035 priority patent/US20250060605A1/en
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/211—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays producing three-dimensional [3D] effects, e.g. stereoscopic images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23—Head-up displays [HUD]
    • B60K35/232—Head-up displays [HUD] controlling the projection distance of virtual images depending on the condition of the vehicle or the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23—Head-up displays [HUD]
    • B60K35/233—Head-up displays [HUD] controlling the size or position in display areas of virtual images depending on the condition of the vehicle or the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23—Head-up displays [HUD]
    • B60K35/234—Head-up displays [HUD] controlling the brightness, colour or contrast of virtual images depending on the driving conditions or on the condition of the vehicle or the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/23—Head-up displays [HUD]
    • B60K35/235—Head-up displays [HUD] with means for detecting the driver's gaze direction or eye points
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/29—Instruments characterised by the way in which information is handled, e.g. showing information on plural displays or prioritising information according to driving conditions
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B30/00—Optical systems or apparatus for producing three-dimensional [3D] effects, e.g. stereoscopic images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/149—Instrument input by detecting viewing direction not otherwise provided for
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16—Type of output information
    • B60K2360/179—Distances to obstacles or vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/18—Information management
    • B60K2360/182—Distributing information between displays
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20—Optical features of instruments
    • B60K2360/23—Optical features of instruments using reflectors
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20—Optical features of instruments
    • B60K2360/31—Virtual images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80—Arrangements for controlling instruments
    • B60K35/81—Arrangements for controlling instruments for controlling displays
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0132—Head-up displays characterised by optical features comprising binocular systems
    • G02B2027/0134—Head-up displays characterised by optical features comprising binocular systems of stereoscopic type
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0183—Adaptation to parameters characterising the motion of the vehicle
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B26/00—Optical devices or arrangements for the control of light using movable or deformable optical elements
    • G02B26/08—Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light
    • G02B26/0816—Optical devices or arrangements for the control of light using movable or deformable optical elements for controlling the direction of light by means of one or more reflecting elements

Landscapes

  • Engineering & Computer Science (AREA)
  • Chemical & Material Sciences (AREA)
  • Combustion & Propulsion (AREA)
  • Transportation (AREA)
  • Mechanical Engineering (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Optics & Photonics (AREA)
  • Instrument Panels (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Lenses (AREA)

Abstract

3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치가 개시된다. 차량용 3차원 헤드업 디스플레이의 오차 보정 방법에 있어서, 상기 3차원 헤드업 디스플레이는 광원의 빛에 의한 영상이 컴바이너를 통해 차량의 전방 지면과 대응되도록 눕힌 3차원 시점(perspective)의 허상으로 표시되는 것으로, 상기 오차 보정 방법은, 적어도 하나의 프로세서에서, 상기 차량의 전방 영역에 대한 주변 정보를 기초로 상기 지면과 대응되는 배경과 상기 허상 간의 거리 오차를 인식하는 단계; 및 상기 적어도 하나의 프로세서에서, 상기 허상을 조정하여 상기 거리 오차를 보정하는 단계를 포함하는 오차 보정 방법을 제공한다.

Description

3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치{METHOD AND APPARATUS FOR MINIMIZING ERROR DUE TO SURROUNDING ENVIRONMENT OF THREE DIMENTIONAL HEAD-UP DISPLAY}
아래의 설명은 3차원 헤드업 디스플레이(Head-Up Display)에 관한 것이다.
도 1은 일반적인 헤드업 디스플레이 장치의 정보 확인을 위한 초점 조절을 설명하기 위한 도면이다.
도 1을 참조하면, 일반적인 차량용 헤드업 디스플레이(Head-Up Display, HUD) 장치는 디스플레이(10)로부터 차량의 현재 속도, 연료 잔량, 내비게이션(Navigation) 길 안내 정보 등의 영상을 송출하여 광학계(11, 12)를 통해 운전자의 바로 앞 윈드실드(Wind Shield, 13)에 그래픽 이미지(14)로 투영함으로써 운전자가 불필요하게 시선을 다른 곳으로 옮기는 것을 최소화시켜 주는 차량 디스플레이 장치이다. 여기서, 광학계(11, 12)는 디스플레이(10)로부터 송출된 영상의 광 경로를 변경하기 위해 복수의 미러로 이루어질 수 있다. 이와 같은 차량용 헤드업 디스플레이 장치는 운전자의 즉각적인 반응을 유도함과 동시에 편의성을 제공하는 장점이 있다.
일반적인 차량용 헤드업 디스플레이(HUD) 장치에서 영상은 사용자의 전방 약 2~3 m에 고정되어 위치한다. 반면, 운전 시 운전자의 주시 거리는 근거리~약 300 m이다. 이에 따라 운전자는 원거리를 주시하며 운전하며, 운전 중 헤드업 디스플레이(HUD) 장치의 정보를 확인하기 위해서는 눈의 초점을 큰 폭으로 조정해야 하는 불편함이 존재한다. 즉, 주된 시야가 위치하는 원거리와 영상이 맺힌 ~3 m 사이에서 운전자의 반복적인 초점 조절이 이루어진다.
따라서, 운전 중 주시하고 있는 시점에서 눈의 초점의 변화 없이 운전자가 원하는 정보를 획득할 수 있도록 운전 환경에 증강현실을 구현하여 영상 표현 거리의 제약이 없는 3차원 헤드업 디스플레이(Three Dimentional Head-Up Display) 장치의 개발이 요구된다.
예컨대, 한국등록특허 10-1409846호는 3차원 증강현실 기반 헤드 업 디스플레이 장치에 관한 것으로, 3차원 이미지로 증강된 이미지 정보를 실제 거리정보를 기반으로 입체적으로 표시함으로써 운전자에게 사실적인 정보를 제공할 수 있는 헤드 업 디스플레이 장치에 관한 기술을 기재하고 있다.
한국등록특허 10-1409846호(등록일 2014년 06월 13일)
영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 헤드업 디스플레이에 있어 주변 환경에 따라 발생하는 오류를 최소화할 수 있는 방법을 제공한다.
3차원 헤드업 디스플레이에서 제공하는 영상의 거리감이 주변 환경과 달라 발생하는 오차를 오차 발생 양상을 고려하여 효과적으로 보정할 수 있는 방법을 제공한다.
차량용 3차원 헤드업 디스플레이의 오차 보정 방법에 있어서, 상기 3차원 헤드업 디스플레이는 광원의 빛에 의한 영상이 컴바이너를 통해 차량의 전방 지면과 대응되도록 눕힌 3차원 시점(perspective)의 허상으로 표시되는 것으로, 상기 오차 보정 방법은, 적어도 하나의 프로세서에서, 상기 차량의 전방 영역에 대한 주변 정보를 기초로 상기 지면과 대응되는 배경과 상기 허상 간의 거리 오차를 인식하는 단계; 및 상기 적어도 하나의 프로세서에서, 상기 허상을 조정하여 상기 거리 오차를 보정하는 단계를 포함하는 오차 보정 방법을 제공한다.
일 측면에 따르면, 상기 인식하는 단계는, 상기 주변 정보를 이용하여 전방의 전반적인 영역에서 거리 오차가 발생하는 전반적 오차, 전방의 부분적인 영역에서 거리 오차가 발생하는 부분적 오차, 및 전방의 장애물과의 거리가 임계치 이내로 근접한 상황의 완전한 오차를 구분하여 인식할 수 있다.
다른 측면에 따르면, 상기 인식하는 단계는, 상기 3차원 헤드업 디스플레이에 포함된 센서, 혹은 상기 차량에 포함된 ADAS(advanced driver-assistance system)나 센서로부터 상기 주변 정보를 획득하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 보정하는 단계는, 상기 거리 오차가 사전에 정해진 허용 오차 범위 이내를 유지되도록 상기 허상을 조정하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 보정하는 단계는, 상기 허상의 원근감을 조정하는 보정을 수행하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 보정하는 단계는, 상기 광원과 상기 컴바이너 중 적어도 하나를 조정하여 상기 허상의 기울기나 위치를 조정하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 보정하는 단계는, 상기 허상의 위치가 상기 컴바이너의 화각(FOV)을 벗어나는 경우 상기 컴바이너의 위치를 이동시키는 단계를 더 포함할 수 있다.
또 다른 측면에 따르면, 상기 보정하는 단계는, 전방의 부분적인 영역에서 거리 오차가 발생하는 경우 오차가 발생한 부분의 원근감을 조정하거나 일부 영상을 제거하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 보정하는 단계는, 전방의 장애물로 인한 거리 오차가 발생하는 경우 상기 지면을 대신하여 상기 장애물 상 혹은 상기 장애물보다 가까운 근거리에 상기 지면에 대해 수직인 영상으로 표시하는 단계를 포함할 수 있다.
또 다른 측면에 따르면, 상기 3차원 헤드업 디스플레이가 상기 지면과 대응되도록 눕힌 영상을 생성하기 위한 제1 디스플레이, 및 상기 지면에 대해 수직인 영상을 생성하기 위한 적어도 하나의 제2 디스플레이를 포함하고, 상기 보정하는 단계는, 전방의 장애물로 인한 거리 오차가 발생하는 경우 상기 제1 디스플레이를 대신하여 상기 제2 디스플레이를 이용하여 상기 허상을 표시하는 단계를 포함할 수 있다.
상기 오차 보정 방법을 상기 컴퓨터 시스템에 실행시키기 위해 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램을 제공한다.
차량용 3차원 헤드업 디스플레이의 오차 보정 장치에 있어서, 메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서를 포함하고, 상기 3차원 헤드업 디스플레이는 광원의 빛에 의한 영상이 컴바이너를 통해 차량의 전방 지면과 대응되도록 눕힌 3차원 시점의 허상으로 표시되는 것으로, 상기 적어도 하나의 프로세서는, 상기 차량의 전방 영역에 대한 주변 정보를 기초로 상기 지면과 대응되는 배경과 상기 허상 간의 거리 오차를 인식하는 오차 인식부; 및 상기 허상을 조정하여 상기 거리 오차를 보정하는 오차 보정부를 포함하는 오차 보정 장치를 제공한다.
본 발명의 실시예들에 따르면, 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 헤드업 디스플레이에 있어 주변 환경에 따라 발생하는 오류를 최소화할 수 있다.
본 발명의 실시예들에 따르면, 3차원 헤드업 디스플레이에서 제공하는 영상의 거리감이 주변 환경과 달라 발생하는 오차를 오차 발생 양상을 고려하여 효과적으로 보정할 수 있다.
도 1은 일반적인 헤드업 디스플레이 장치의 정보 확인을 위한 초점 조절을 설명하기 위한 도면이다.
도 2는 본 발명의 일 실시예에 있어서 3차원 헤드업 디스플레이의 영상 위치를 도시한 것이다.
도 3은 본 발명의 일 실시예에 있어서 도로면과 같은 지면과 대응되는 가상의 평면 상에 영상을 제공하는 예시들을 도시한 것이다.
도 4는 본 발명의 일 실시예에 있어서 3차원 헤드업 디스플레이의 광학 설계 구성의 예시를 도시한 것이다.
도 5는 본 발명의 일 실시예에 있어서 디스플레이 평면과 컴바이너 평면 및 허상 평면 사이의 이미징 조건을 나타낸 것이다.
도 6은 본 발명의 일 실시예에 있어서 디스플레이 장치와 컴바이너의 관계식 도출에 필요한 변수들을 나타낸 것이다.
도 7은 본 발명의 일 실시예에 있어서 아이박스(Eye-box, 눈동자의 위치)에 따라 결정되는 컴바이너의 위치를 설명하기 위한 예시 도면이다.
도 8은 본 발명의 일 실시예에 있어서 지면과 대응되는 가상의 평면 상에 원근감이 반영된 영상의 예시를 도시한 것이다.
도 9는 본 발명의 일 실시예에 있어서 다중 영상을 동시 구현하기 위한 3차원 헤드업 디스플레이의 광학 설계 구성의 예시를 도시한 것이다.
도 10은 허상과 배경 간의 거리 차이로 인해 발생할 수 있는 문제를 설명하기 위한 예시 도면이다.
도 11은 사람의 동공 간 거리에 따른 허용 오차 범위를 나타내는 그래프를 도시한 것이다.
도 12는 실제 운전 환경에서 거리에 따른 허용 오차 범위를 설명하기 위한 도면이다.
도 13은 본 발명의 일 실시예에 따른 3차원 헤드업 디스플레이의 프로세서가 포함할 수 있는 구성요소의 예를 도시한 도면이다.
도 14는 본 발명의 일 실시예에 따른 3차원 헤드업 디스플레이가 수행할 수 있는 오차 보정 방법을 도시한 흐름도이다.
도 15 내지 도 16은 본 발명의 일 실시예에 있어서 전반적 오차를 보정하는 방식을 설명하기 위한 예시 도면이다.
도 17 내지 도 18은 본 발명의 일 실시예에 있어서 부분적 오차를 보정하는 방식을 설명하기 위한 예시 도면이다.
도 19는 본 발명의 일 실시예에 있어서 완전한 오차를 보정하는 방식을 설명하기 위한 예시 도면이다.
이하, 본 발명의 실시예를 첨부된 도면을 참조하여 상세하게 설명한다.
기술되는 실시예들은 여러 가지 다른 형태로 변형될 수 있으며, 본 발명의 범위가 이하 설명되는 실시예들에 의하여 한정되는 것은 아니다. 또한, 여러 실시예들은 당해 기술분야에서 평균적인 지식을 가진 자에게 본 발명을 더욱 완전하게 설명하기 위해서 제공되는 것이다. 도면에서 요소들의 형상 및 크기 등은 보다 명확한 설명을 위해 간소화 혹은 축약되거나 과장될 수 있다.
도 1을 통해 설명한 기존 헤드업 디스플레이는 물론이고, TV, 모니터, 프로젝터 스크린, VR/AR 글래스 등 대부분의 디스플레이들은 사용자의 시선에 대해 수직 방향으로 위치해 있다.
본 발명의 실시예들은 영상의 위치를 지면과 대응시키는 형태의 3차원 구현 방식을 가진 3차원 헤드업 디스플레이를 제공한다. 특히, 가상의 스크린을 지면과 대응되도록 눕힌 3차원 시점으로 표현함으로써 운전 환경에서 운전자의 시점에 대해 최적화된 3차원 헤드업 디스플레이를 제공할 수 있다.
도 2는 본 발명의 일 실시예에 있어서 3차원 헤드업 디스플레이의 영상 위치를 도시한 것이다.
도 2를 참조하면, 본 발명에 따른 3차원 헤드업 디스플레이는 사용자가 눈으로 볼 수 있는 가상의 영상, 즉 허상(24)의 위치를 운전자의 전면 바닥과 대응되도록 눕힌 3차원 시점으로 표현할 수 있다.
일반적인 차량용 헤드업 디스플레이의 광학계를 통한 영상은 운전자의 2~3 m 전방 고정된 거리에 위치하며 지면(25)과 대체로 수직하게 된다. 이와 달리, 본 발명에 따른 3차원 헤드업 디스플레이는 운전자가 주시하는 전방의 지면(25)과 대응되는 가상의 평면 상에 허상(24)을 위치시키고자 하는 것이다.
본 발명에 따른 3차원 헤드업 디스플레이는 일반적인 프로젝터와 같은 스크린에 직접 투사하여 실상을 생성하는 방식이 아닌, 헤드업 디스플레이의 광학계를 통해 반사시켜 눈으로 볼 수 있는 허상(24)을 생성하는 방식이다.
차량용 내비게이션에서 제공되는 주된 정보는 주행 중인 도로 상의 회전 정보, 차선 정보, 앞차와의 거리 정보 등에 해당된다. 또한, ADAS(advanced driver-assistance system)에서는 운전자에게 안전과 관계된 정보를 제공하게 되는데, 이때 해당 정보들은 주로 차선 정보, 앞/옆차와의 거리 정보, 돌발 정보 등이다. 마찬가지로, 자율주행 시 운전의 주체인 차량에서 도로 상의 회전이나 차선 변경 등과 같이 앞으로 일어날 상황에 대한 정보를 탑승자에게 제공해 줄 필요가 있다.
도 3을 참조하면, 상기한 정보들, 예컨대 차선 정보(31), 앞차와의 거리 정보(32) 등을 운전자가 주시하고 있는 시점의 실제 도로면 상에 가상의 이미지로 표시해 주는 것이 매우 중요하고 효과적이다.
본 발명에 따른 3차원 헤드업 디스플레이는 가상의 스크린을 지면과 대응되도록 눕힌 3차원 시점으로 표현함으로써 다양한 운전 환경에서 사용자가 운전 중 바라보는 시점에서 눈의 초점을 다른 곳으로 이동할 필요 없이 사용자에게 전달하고자 하는 정보들을 사용자가 운전 중 실제로 주시하는 도로면에 증강 현실로 구현할 수 있다.
도 4는 본 발명의 일 실시예에 있어서 3차원 헤드업 디스플레이의 광학 설계 예시를 도시한 것이다.
도 4를 참조하면, 본 발명에 따른 3차원 헤드업 디스플레이(400)는 허상(24)을 지면(25)과 대응되도록 눕힌 3차원 시점으로 표현하기 위한 광학 설계 구조를 포함하는 것으로, 디스플레이 장치(display source)(401) 및 컴바이너(combiner)(402)로 구성될 수 있다.
다시 말해, 3차원 헤드업 디스플레이(400)는 광원의 역할을 하는 디스플레이 장치(401)와, 광원의 빛을 사용자의 눈 쪽으로 반사시킴과 동시에 외부(전방)의 빛을 투과시켜주는 컴바이너(402)로 구성될 수 있다.
컴바이너(402)는 단일 혹은 다수의 광학 소자로 이루어질 수 있으며, 이하에서는 설명의 편의를 위하여 단일 광학 소자로 이루어진 컴바이너(402)를 사용하는 경우로 가정한다.
영상의 품질을 높이거나 경우에 따라 최적의 크기와 성능을 가지게 하기 위해서는 디스플레이 장치(401)와 컴바이너(402) 사이에 추가의 광학계를 더 포함할 수 있다.
또한, 컴바이너(402)는 3차원 헤드업 디스플레이(400)에 포함되는 소자로 구성될 수 있으며, 혹은 차량의 윈드실드를 컴바이너(402)로 이용하는 것 또한 가능하다. 차량의 윈드실드를 컴바이너(402)로 이용하기 위해서는 디스플레이 장치(401)의 빛을 운전석 쪽으로 반사시킴과 동시에 외부의 빛을 투과시켜주는 역할의 광학적 추가 조치가 필요하다. 차량 제작 시 윈드실드의 기본 기능으로 컴바이너(402)로서의 기능이 포함될 수 있으며, 이러한 경우 반드시 광학적 추가 조치가 필요한 것은 아니다.
이하에서는 3차원 헤드업 디스플레이(400)에 의한 허상(24)을 지면(25)에 대응되도록 위시시킬 수 있는 디스플레이 장치(401)와 컴바이너(402) 간의 이론적 관계식을 유도한다.
3차원 헤드업 디스플레이(400)의 구성에서 디스플레이 장치(401)와 컴바이너(402)는 지면(25)과 대비하여 수직에 가깝고 차량의 운전석에 앉아 있는 사용자의 눈은 수평 방향과 유사하게 전방 주시를 하게 된다. 도 4는 설명의 편의를 위해 제한한 상황을 도시한 것으로, 3차원 헤드업 디스플레이(400)에 의한 허상(24)이 실제 훨씬 원거리까지 위치할 수 있으며, 실제 상황과 비교하여 일부 차이가 존재할 수 있다.
도 5를 참조하면, 빛이 이동하는 실제 경로는 디스플레이 장치(401)를 출발하여 컴바이너(402)에 의해 반사되고, 이때 반사된 빛이 사용자의 눈에 도달하여 수정체(렌즈)에 의해 망막 초점에 맺히게 된다(실선). 그러나, 사용자가 보는 영상은 실제 영상이 생성되는 디스플레이 평면(display plane)(51) 위치의 실상이 아닌, 허상(24)으로, 이때 허상(24)은 지면과 대응되는 가상의 평면 상에 위치한다(점선). 즉, 디스플레이 평면(51)은 컴바이너(402)를 통하여 허상 평면(virtual image plane)(53)과 이미징 조건(imaging condition)을 만족한다(파선).
허상(24)을 지면과 대응되는 위치에 생성하기 위한 디스플레이 장치(401)와 컴바이너(402)의 이론적 관계식은 사용자의 눈을 제외한 디스플레이 장치(401)와 대응되는 디스플레이 평면(51), 컴바이너(402)와 대응되는 컴바이너 평면(52), 지면과 대응되는 허상 평면(53) 사이의 이미징 조건을 기반으로 도출될 수 있다.
도 6은 디스플레이 장치(401)와 컴바이너(402)의 관계식 도출에 필요한 변수들을 나타내고 있다.
DP는 디스플레이 평면(51), CP는 컴바이너 평면(52), IP는 허상 평면(53)을 의미한다.
CK는 CP(52)와 수직이고 컴바이너(402)의 광학적 중심 C를 지나는 직선을 의미한다.
단, 실제 컴바이너(402)의 위치는 반드시 C를 포함하여 사용될 필요는 없으며, 사용자 시선의 위치에 따라 오프셋을 가지고 위치할 수 있다. 수식화의 편의를 위해 C를 포함하여 관계식을 유도한다.
I는 DP(51)와 CP(52) 및 IP(53)가 교차하는 점, J는 DP(51)와 평행하면서 C를 지나는 직선이 IP(53)와 교차하는 점, K는 CP(52)에 수직이며 C를 지나는 직선이 IP(53)와 교차하는 점을 의미한다.
α는 CK 기준 DP(51)와 IP(53)에서 이미징 조건(imaging condition)을 만족하는 위치의 각도로, 해당 위치는 이미징 조건을 만족하므로 DP(51) 방향 각도와 IP(53) 방향 각도가 항상 일치하게 된다.
β는 IP(53) 혹은 지면 기준 DP(51)의 각도, γ는 IP(53) 혹은 지면 기준 CP(52)의 각도, θ는 DP(51)와 CP(52) 사이의 각도를 의미한다.
h는 IP(53) 혹은 지면으로부터 C까지의 높이, h'는 h에 h 방향으로의 오프셋을 더한 값(실제적으로 컴바이너(402)가 사용되는 높이)을 의미한다.
s는 IJ의 길이, 즉 지면과 평행한 축 방향으로 높이 h에서의 DP(51)와 CP(52)의 이격 거리(separation distance)를 의미한다.
s'는 지면과 평행한 축 방향으로 높이 h'에서의 DP(51)와 CP(52)의 이격 거리를 의미한다.
dS는 IP(53) 혹은 지면 기준 컴바이너(402) 중심의 위치로부터 허상(24)이 시작되는 위치까지의 거리를 의미한다.
dE는 IP(53) 혹은 지면 기준 컴바이너(402) 중심의 위치로부터 허상(24)이 끝나는 위치까지의 거리를 의미한다.
dI는 허상(24)의 크기를 의미한다.
f는 컴바이너(402)의 초점 거리(focal length)를 의미한다.
먼저, β와 γ 및 θ의 관계식은 다음과 같다.
DP(51)와 IP(53) 사이의 이미징 조건을 적용하면 수학식 1이 성립된다.
[수학식 1]
Figure pat00001
(γ, θ, h, f는 모두 양수)
여기서, h는 차량에서 지면으로부터 대시보드 위 3차원 헤드업 디스플레이(400) 위치까지의 높이(정확히는 컴바이너(402)의 광학적 중심 C까지의 높이)를 의미한다. 그리고, f는 일반적인 크기와 곡률을 가지는 3차원 헤드업 디스플레이(400)의 컴바이너(402)의 초점 거리를 의미한다.
수학식 1에 h와 f를 대입하면 θ와 γ간의 수치적 관계를 도출할 수 있고, 이를 통하여 β와 γ 및 θ의 관계식 β = γ + θ를 도출할 수 있다.
다음, s'는 수학식 2를 통해 h', β와 γ 및 θ를 이용하여 도출될 수 있다.
[수학식 2]
Figure pat00002
마지막으로, dS는, dE, 및 dI는 수학식 3을 통해 도출될 수 있다.
[수학식 3]
Figure pat00003
(α는 CK 기준 양수 또는 음수)
수학식 3을 이용하여 dS와 dI를 계산할 수 있으며, 이때 허상(24)의 시작 위치를 나타내는 dS와 및 허상(24)의 크기를 나타내는 dI에 대한 조절이 필요하다면 h, α와 β 및 θ 중 적어도 하나를 조절하여 광학 구성을 최적화할 수 있다.
상기한 관계식을 통하여 지면에 대한 DP(51)와 CP(52)의 각도 및 허상(24)의 위치와 크기를 도출할 수 있다.
도 7을 참조하면, 요구되는 아이박스(Eye-box, 눈동자의 위치)의 높이는 일반적으로 운전자가 차량의 운전석에 앉아 있을 때 눈이 위치하는 높이로 결정될 수 있으며, 아이박스와 컴바이너(402) 간의 거리는 눈으로부터 3차원 헤드업 디스플레이(400)의 컴바이너(402)까지의 거리로 결정된다.
컴바이너(402)의 위치는 요구되는 아이박스의 위치에 따라서 오프셋을 포함하여 높이(h')가 결정되며, 그 위치는 반드시 컴바이너(402)의 광학적 중심 C를 포함할 필요는 없다. h'에 따라 DP(51)와 CP(52)의 이격 거리인 s'가 결정될 수 있으며, 이때 s'는 디스플레이 장치(401)와 컴바이너(402)의 거리로서 참고될 수 있다.
따라서, 본 발명에 따른 3차원 헤드업 디스플레이(400)는 상기한 관계식에 기반한 디스플레이 장치(401)와 컴바이너(402)를 통해 운전자가 주시하고 있는 전방의 지면(25)과 대응되도록 눕힌 3차원 시점의 허상(24)을 구현할 수 있다.
운전자와 허상(24) 사이에 다른 차량이나 사람 등 허상(24)과 중첩되는 장애물이 있는 경우 해당 부분에서 운전자가 거리감에 대한 혼동을 느낄 수 있다. 이러한 문제를 해결하기 위해 본 발명에 따른 3차원 헤드업 디스플레이(400)는 차량에 포함된 ADAS나 각종 센서 등 주변 상황을 인식할 수 있는 시스템(미도시)과 연동하여 주변 정보를 획득하고 획득한 주변 정보에 기초하여 허상(24)의 표시를 제어하기 위한 프로세서를 포함할 수 있다. 일례로, 3차원 헤드업 디스플레이(400)는 허상(24)과 중첩되는 장애물이 있는 경우 장애물과 중첩되는 영역의 영상을 차단할 수 있다. 다른 예로, 3차원 헤드업 디스플레이(400)는 허상(24)과 중첩되는 장애물이 있는 경우 허상(24)을 전방의 지면을 대신하여 장애물 상 혹은 장애물보다 가까운 근거리(예컨대, 전방의 장애물 상이나 차량의 본넷 위 혹은 대시보드나 윈드실드 등 차량 내부 등)에 지면에 대해 수직 방향으로 표시할 수 있다. 또 다른 예로, 3차원 헤드업 디스플레이(400)는 허상(24)과 중첩되는 장애물이 있는 경우 물리적으로 허상(24)을 이동시킬 수 있다. 이때, 3차원 헤드업 디스플레이(400)는 디스플레이 장치(401)와 컴바이너(402) 중 적어도 하나를 이동시켜 허상(24)이 표현되는 위치를 이동시킬 수 있다.
그리고, 본 발명에 따른 3차원 헤드업 디스플레이(400)는 운전자가 주시하는 전방의 지면(25)에 대응되는 위치에 허상(24)을 생성할 때 도 8에 도시한 바와 같이 원근감을 주는 영상을 이용하여 지면에 대해 수직 방향으로 입체감 있는 허상(24)을 표현할 수 있다. 이때, 3차원 헤드업 디스플레이(400)는 허상(24)의 시작 위치를 나타내는 dS를 기준으로 허상(24)의 크기를 나타내는 dI 내에서 허상(24)의 원근감을 적용할 수 있다.
더 나아가, 3차원 헤드업 디스플레이(400)는 다중 디스플레이 장치를 이용하여 다중 영상을 동시 구현하는 것 또한 가능하다.
도 9는 다중 영상을 동시 구현하기 위한 3차원 헤드업 디스플레이의 광학 설계 구성의 예시를 도시한 것이다.
3차원 헤드업 디스플레이(400)는 멀티 광원이 배치된 형태의 디스플레이 장치(401)를 포함할 수 있으며, 예컨대 지면과 대응되는 눕힌 영상을 생성하는 제1 디스플레이와, 제1 디스플레이를 기준으로 사이드(예를 들어, 좌측과 우측, 상측과 하측 등)에 배치되어 지면에 대해 수직인 영상을 생성하는 제2 디스플레이와 제3 디스플레이를 포함할 수 있다.
3차원 헤드업 디스플레이(400)는 복수의 디스플레이를 포함하는 디스플레이 장치(401)를 통해 지면에 눕힌 영상 및 지면과 수직인 영상을 동시에 구현할 수 있다. 지면에 눕힌 영상의 경우 운전 중 사용자가 주시하는 전방 3m 이상의 원거리에 표현하고 지면과 수직인 영상의 경우 차량의 대시보드나 윈드실드 등 사용자의 전방 약 2~3 m 이내의 근거리에 표현할 수 있다.
따라서, 본 발명에 따른 3차원 헤드업 디스플레이는 운전자가 운전 중 주시하는 시점에 필요한 시각적 정보를 전방의 지면에 대응되는 위치에 표시할 수 있고, 차량 내에서 운전자와 일정한 거리 내에 영상이 고정되어 표시되는 기존 헤드업 디스플레이의 한계를 개선하여 운전자가 주시하는 다양한 원거리에 영상을 구현할 수 있다. 특히, 본 발명에 따른 3차원 헤드업 디스플레이는 운전자가 운전 중 주로 주시하는 전방의 지면에 영상을 제공함으로써 운전 도중 눈의 초점을 조절할 필요 없이 자연스럽게 정보를 획득할 수 있다. 본 발명에 따른 3차원 헤드업 디스플레이는 정확히 운전 시야와 동일한 곳에 영상을 구현함으로써 VR이나 AR에서 어지러움과 멀미감의 원인이 되는 원근조절과 양안수렴의 차이(즉, vergence accommodation conflict) 없이 편안한 시야를 획득할 수 있고 차량 안에서 운전자를 위한 최적화된 증강현실을 구현할 수 있다.
이하의 실시예들은 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 헤드업 디스플레이에 있어 주변 환경에 따라 발생하는 오류를 최소화하기 위한 기술에 관한 것이다.
지면(25)과 대응되는 배경에 허상(24)을 위치시킬 때 허상(24)과 배경의 거리감이 일치하지 않는 경우 수렴(convergence) 혹은 발산(divergence), 두 가지 형태의 오차가 발생하게 된다.
도 10을 참조하면, 도 10의 (A)에 도시한 바와 같이 허상(24)의 위치가 운전자 시선의 실제 위치(natural view)에 해당되는 배경(25')과 일치하는 경우 정상적인 거리감의 영상을 구현할 수 있어 편안한 시야를 획득할 수 있다.
반면에, 도 10의 (B)에 도시한 바와 같이 허상(24)의 위치가 배경(25')과 일치하지 않고 배경(25') 이전에 위치하는 경우 수렴으로 인한 오류가 발생하고, 도 10의 (C)에 도시한 바와 같이 허상(24)의 위치가 배경(25') 이후에 위치하는 경우 발산으로 인한 오류가 발생한다.
수렴이나 발산에 따른 오차가 포함된 허상(24)에 장시간 지속적으로 노출되는 경우 운전자의 눈에 피로감이나 통증을 초래할 수 있고 두통 등이 발생할 수도 있다.
도 11을 참조하면, 관찰자로부터 배경까지의 실제 거리에 따른 허상의 표현 거리에 대한 허용 오차 범위가 존재한다. 도 12에 도시한 바와 같이, 실제 운전 환경에서는 허상(24)이 수렴과 발산의 허용 범위 내에 있을 경우 실제 위치와 허상(24) 간 거리감의 차이를 느낄 수 없게 된다.
따라서, 본 발명에서는 허상(24)과 배경(25') 간의 거리 차이가 허용 오차 범위 이내를 유지할 수 있도록 해당 오차를 보정할 수 있다. 도 13을 참조하면, 본 발명에 따른 3차원 헤드업 디스플레이(400)는 주변 정보에 기초하여 운전자 시선에 대응되는 실제 위치와 허상(24) 간의 거리 차이를 보정하기 위한 프로세서(1310)를 포함할 수 있다.
프로세서(1310)는 도 14의 오차 보정 방법을 수행하기 위한 구성요소로서, 도 13에 도시된 바와 같이 오차 인식부(1311), 및 오차 보정부(1312)를 포함할 수 있다. 실시예에 따라 프로세서(1310)의 구성요소들은 선택적으로 프로세서(1310)에 포함되거나 제외될 수도 있다. 또한, 실시예에 따라 프로세서(1310)의 구성요소들은 프로세서(1310)의 기능의 표현을 위해 분리 또는 병합될 수도 있다.
이러한 프로세서(1310) 및 프로세서(1310)의 구성요소들은 도 14의 오차 보정 방법이 포함하는 단계들(S1410 내지 S1430)을 수행하도록 3차원 헤드업 디스플레이(400)를 제어할 수 있다. 예를 들어, 프로세서(1310) 및 프로세서(1310)의 구성요소들은 3차원 헤드업 디스플레이(400)가 포함하는 운영체제의 코드와 적어도 하나의 프로그램의 코드에 따른 명령(instruction)을 실행하도록 구현될 수 있다.
여기서, 프로세서(1310)의 구성요소들은 3차원 헤드업 디스플레이(400)에 저장된 프로그램 코드가 제공하는 명령에 따라 프로세서(1310)에 의해 수행되는 프로세서(1310)의 서로 다른 기능들(different functions)의 표현들일 수 있다. 예를 들어, 3차원 헤드업 디스플레이(400)가 허상과 배경 간의 거리 오차를 인식하도록 상술한 명령에 따라 3차원 헤드업 디스플레이(400)를 제어하는 프로세서(1310)의 기능적 표현으로서 오차 인식부(1311)가 이용될 수 있다.
단계(S1410)에서 프로세서(1310)는 3차원 헤드업 디스플레이(400)의 제어와 관련된 명령이 로딩된 3차원 헤드업 디스플레이(400)에 포함된 메모리로부터 필요한 명령을 읽어들일 수 있다. 이 경우, 상기 읽어들인 명령은 프로세서(1310)가 이후 설명될 단계들(S1420 내지 S1430)을 실행하도록 제어하기 위한 명령을 포함할 수 있다.
단계(S1420)에서 오차 인식부(1311)는 주변 정보에 기초하여 운전자 시선의 실제 위치와 허상 간의 거리 차이에 따른 오차를 인식할 수 있다. 오차 인식부(1311)는 3차원 헤드업 디스플레이(400)에 포함된 자체 센서 시스템 및/또는 3차원 헤드업 디스플레이(400)와 연동 가능한 차량 내 ADAS나 각종 센서 시스템을 통해 획득한 데이터를 이용하여 주변 정보로서 영상(즉, 허상)이 위치할 영역에 대한 3D 정보를 획득할 수 있다. 3D 정보를 획득하기 위해 ADAS나 각종 센서를 통해 차량이 획득하는 데이터를 사용할 수 있으며, 더 나아가 영상을 정확한 위치에 표현하기 위해 스테레오 카메라, 적외선 카메라, LiDAR, RADAR, 초음파 센서 등을 추가로 이용할 수 있다. 일례로, 3D 정보를 획득하기 위해 LiDAR, RADAR 등과 같이 위치에 따른 거리 값을 측정하는 센서를 이용하는 경우, 도로면, 구조물, 주변 차량 등 전방 영역을 측정하여 3D 포인트 클라우드를 생성한 후 3D 포인트 클라우드를 바탕으로 메시 데이터에 대응되는 면, 즉 3D 정보를 획득하게 된다. 다른 예로, 3D 정보를 획득하기 위해 스테레오 카메라를 이용하는 경우, 전방 영역에 대해 두 개의 서로 다른 각도의 이미지를 양안시차로 인식하여 두 이미지 간 차이로 인한 거리감을 누적함으로써 3D 정보를 획득할 수 있다. 이때, 오차 인식부(1311)는 전방 영역에 대한 3D 정보를 기준으로 3차원 헤드업 디스플레이(400)에서 제공하는 영상의 거리 오차를 인식할 수 있다. 3D 정보를 획득하기 위한 방법으로는 상기한 방식 이외에도 기 공지된 다양한 기술들을 적용할 수 있다. 그리고, 오차 인식부(1311)는 전방 영역에 대한 3D 정보를 바탕으로 오차 발생 양상을 3가지로 구분하여 인식 가능하다: (1) 주행 노면 환경으로 인해 전방의 전반적인 영역에서 오차가 발생하는 경우(전반적 오차), (2) 전방 도로의 급커브, 도로 상 장애물(예컨대, 주변 차량, 사람, 요철 등)로 인해 전방 영역의 부분적인 영역에서 오차가 발생하는 경우(부분적 오차), (3) 차량 정체나 주차 등으로 인해 전방의 장애물이나 주변 차량과의 거리가 임계치 이내로 근접하여 지면과 대응시키는 형태의 영상을 제공할 수 없는 경우(완전한 오차).
단계(S1430)에서 오차 보정부(1312)는 3차원 헤드업 디스플레이(400)에서 제공하는 영상을 조정하여 영상과 배경 간의 거리 차이가 허용 오차 범위 이내를 유지할 수 있도록 해당 영상의 거리 오차를 보정할 수 있다. 오차 보정부(1312)는 오차 발생 양상(전반적 오차, 부분적 오차, 완전한 오차)을 고려하여 해당 양상에 적합한 방식으로 거리 오차를 보정할 수 있다.
구체적인 오차 보정 방법을 설명하면 다음과 같다.
도 15 내지 도 16은 본 발명의 일 실시예에 있어서 전반적 오차를 보정하는 방식을 설명하기 위한 예시 도면이다.
도 15는 오르막길, 내리막길, 노면 상의 요철 등 주행 노면 환경으로 인해 전반적 오차가 발생한 상황의 예시를 나타내고 있다.
오차 보정부(1312)는 허용 범위 이내의 전반적 오차가 발생한 경우(A), 별도의 오차 보정 과정 없이 허상을 유지하거나 또는 허상의 원근감을 조정하는 보정을 수행할 수 있다. 이때, 오차 보정부(1312)는 허상의 시작 위치를 나타내는 dS를 기준으로 허상의 크기를 나타내는 dI 내에서 허상의 원근감을 조정할 수 있다.
오차 보정부(1312)는 허용 범위를 벗어난 전반적 오차가 발생한 경우(B), 허상의 원근감을 조정하는 보정과 아울러 허상의 기울기와 거리 중 적어도 하나를 조정하는 보정을 함께 수행할 수 있다. 일례로, 오차 보정부(1312)는 디스플레이 장치(401)의 위치 및 기울기를 조정함으로써 허상의 위치를 보정할 수 있다. 3차원 헤드업 디스플레이(400)는 디스플레이 장치(401)와 컴바이너(402) 중 적어도 하나의 위치와 기울기를 조정하기 위한 구성요소로 2축 이상의 액츄에이터(actuator)를 포함할 수 있다. 도 16에 도시한 바와 같이, 오차 보정부(1312)는 액츄에이터를 이용하여 디스플레이 장치(401)와 컴바이너(402) 중 적어도 하나의 위치 및/또는 기울기를 조정할 수 있다. 이때, 오차 보정부(1312)는 디스플레이 평면(51)과 허상 평면(53) 간의 이미징 조건을 만족하는 범위 내에서 디스플레이 장치(401)의 위치와 기울기를 조정할 수 있다. 광학계에 미러 등의 추가 구성요소가 포함된 경우 해당 구성요소를 조정하여 디스플레이 장치(401)를 직접 조정하는 것과 같은 효과를 얻을 수 있다. 디스플레이 장치(401)가 조정됨에 따라 허상의 위치가 컴바이너(402)의 화각(FOV)을 벗어나는 경우, 오차 보정부(1312)는 컴바이너 평면(52) 상에서 컴바이너(402)의 위치를 이동할 수 있다.
따라서, 오차 보정부(1312)는 허용 범위를 벗어난 전반적 오차가 발생한 경우 허상의 기울기와 거리를 조정함으로써 허상의 거리 오차를 전방의 주행 노면 환경에 맞춰 보정할 수 있다.
도 17 내지 도 18은 본 발명의 일 실시예에 있어서 부분적 오차를 보정하는 방식을 설명하기 위한 예시 도면이다.
도 17은 전방 도로의 급커브 혹은 주변 차량, 사람, 요철 등 도로 상의 장애물로 인해 부분적 오차가 발생한 상황의 예시를 나타내고 있다.
오차 보정부(1312)는 허용 범위 이내의 부분적 오차가 발생한 경우(A), 별도의 오차 보정 과정 없이 허상을 유지하거나 또는 오차가 발생된 부분의 원근감을 조정하는 보정을 수행할 수 있다. 이때, 오차 보정부(1312)는 허상의 오차가 발생한 시작 위치를 기준으로 허상의 크기를 나타내는 dI 내에서 오차 발생 부분의 원근감을 조정할 수 있다. 다른 예로, 오차 보정부(1312)는 허상에서 오차가 발생한 부분의 영상을 제거(차단)하는 방식으로 보정을 수행할 수 있다.
오차 보정부(1312)는 허용 범위를 벗어난 부분적 오차가 발생한 경우(B), 허상에서 오차가 발생한 부분의 원근감을 조정하거나 해당 부분의 영상을 제거하는 방식의 보정을 수행할 수 있고, 특히 허상이 제공되는 거리(즉, 위치)를 조정하는 보정을 수행할 수 있다. 일례로, 오차 보정부(1312)는 허상의 거리를 조정하기 위해 디스플레이 평면(51) 상에서 디스플레이 장치(401)의 위치를 조정할 수 있으며, 필요에 따라 컴바이너(402)의 위치 또한 컴바이너 평면(52) 상에서 조정할 수 있다. 허상의 거리를 조정하기 위해 디스플레이 장치(401)와 컴바이너(402)의 각도 및 위치를 변경할 수 있다. 3차원 헤드업 디스플레이(400)는 디스플레이 장치(401)와 컴바이너(402) 중 적어도 하나의 위치를 조정하기 위한 구성요소로 1축 이상의 액츄에이터를 포함할 수 있다. 도 18에 도시한 바와 같이, 오차 보정부(1312)는 액츄에이터를 이용하여 디스플레이 장치(401)의 위치를 조정할 수 있다. 광학계에 미러 등의 추가 구성요소가 포함된 경우 해당 구성요소를 조정하여 디스플레이 장치(401)를 직접 조정하는 것과 같은 효과를 얻을 수 있다. 디스플레이 장치(401)의 위치가 조정됨에 따라 허상의 위치가 컴바이너(402)의 화각(FOV)을 벗어난 경우, 오차 보정부(1312)는 추가로 컴바이너(402)의 위치를 컴바이너 평면(52) 상에서 이동할 수 있다. 오차 보정을 위해 허상의 거리를 조정하는 방법 이외에도 허상의 크기(즉, dI)를 조정하는 방법 또한 적용 가능하다.
따라서, 오차 보정부(1312)는 허용 범위를 벗어난 부분적 오차가 발생한 경우 허상이 제공되는 거리를 조정함으로써 오차가 발생한 부분에서 벗어난 위치에 허상을 제공할 수 있다.
도 19는 본 발명의 일 실시예에 있어서 완전한 오차를 보정하는 방식을 설명하기 위한 예시 도면이다.
도 19는 차량 정체 등으로 인해 완전한 오차가 발생한 상황의 예시를 나타내고 있다.
오차 보정부(1312)는 허상을 지면과 대응시키는 형태로 표시할 수 없는 완전한 오차가 발생한 경우 허상의 위치를 변경하게 되는데, 일례로 전방의 지면을 대신하여 장애물 상 혹은 장애물보다 가까운 근거리(예컨대, 전방의 장애물 상이나 차량의 본넷 위 혹은 대시보드나 윈드실드 등 차량 내부 등)에 지면에 대해 수직 방향으로 표시할 수 있다.
다른 예로, 완전한 오차가 발생한 상황에서는 허상을 지면과 일치시키는 디스플레이와 별개로 같은 컴바이너(402)를 사용하면서도 다른 위치에 허상을 표시할 수 있는 디스플레이를 이용할 수 있다. 도시한 바와 같이, 디스플레이 장치(401)가 멀티 광원이 배치된 형태로, 지면과 대응되는 눕힌 영상을 생성하는 제1 디스플레이와, 지면에 대해 수직인 영상을 생성하는 제2 디스플레이와 제3 디스플레이를 포함하는 경우, 오차 보정부(1312)는 완전한 오차에 따라 제1 디스플레이를 오프시키고 제2 디스플레이와 제3 디스플레이 중 적어도 하나를 사용하여 허상을 표시할 수 있다.
따라서, 허상을 지면과 일치시키는 디스플레이의 사용이 완전히 불가능한 상황에서는 허상의 위치를 지면이 아닌, 운전자에게 더 가까운 위치로 이동시키거나 다른 디스플레이를 이용하여 지면에 대해 수직인 영상을 제공할 수 있다.
오차 보정 방식은 허상의 원근감 조정 방법, 허상의 기울기나 위치 조정 방법, 허상의 오차 부분 제거 방법, 수직 영상 전환 방법, 별개의 디스플레이 이용 방법 등이 있으며, 오차 크기에 따라 혹은 오차 양상에 따라 하나의 보정 방법 혹은 둘 이상의 보정 방법을 적용할 수 있다.
이처럼 본 발명의 실시예들에 따르면, 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 헤드업 디스플레이에 있어 주변 환경에 따라 발생하는 오류를 최소화할 수 있다. 더욱이, 본 발명의 실시예들에 따르면, 3차원 헤드업 디스플레이에서 제공하는 영상의 거리감이 주변 환경과 달라 발생하는 오차를 오차 발생 양상을 고려하여 효과적으로 보정할 수 있다.
이상에서 설명된 장치는 하드웨어 구성요소, 소프트웨어 구성요소, 및/또는 하드웨어 구성요소 및 소프트웨어 구성요소의 조합으로 구현될 수 있다. 예를 들어, 실시예들에서 설명된 장치 및 구성요소는, 프로세서, 콘트롤러, ALU(arithmetic logic unit), 디지털 신호 프로세서(digital signal processor), 마이크로컴퓨터, FPGA(field programmable gate array), PLU(programmable logic unit), 마이크로프로세서, 또는 명령(instruction)을 실행하고 응답할 수 있는 다른 어떠한 장치와 같이, 하나 이상의 범용 컴퓨터 또는 특수 목적 컴퓨터를 이용하여 구현될 수 있다. 처리 장치는 운영 체제(OS) 및 상기 운영 체제 상에서 수행되는 하나 이상의 소프트웨어 어플리케이션을 수행할 수 있다. 또한, 처리 장치는 소프트웨어의 실행에 응답하여, 데이터를 접근, 저장, 조작, 처리 및 생성할 수도 있다. 이해의 편의를 위하여, 처리 장치는 하나가 사용되는 것으로 설명된 경우도 있지만, 해당 기술분야에서 통상의 지식을 가진 자는, 처리 장치가 복수 개의 처리 요소(processing element) 및/또는 복수 유형의 처리 요소를 포함할 수 있음을 알 수 있다. 예를 들어, 처리 장치는 복수 개의 프로세서 또는 하나의 프로세서 및 하나의 콘트롤러를 포함할 수 있다. 또한, 병렬 프로세서(parallel processor)와 같은, 다른 처리 구성(processing configuration)도 가능하다.
소프트웨어는 컴퓨터 프로그램(computer program), 코드(code), 명령(instruction), 또는 이들 중 하나 이상의 조합을 포함할 수 있으며, 원하는 대로 동작하도록 처리 장치를 구성하거나 독립적으로 또는 결합적으로(collectively) 처리 장치를 명령할 수 있다. 소프트웨어 및/또는 데이터는, 처리 장치에 의하여 해석되거나 처리 장치에 명령 또는 데이터를 제공하기 위하여, 어떤 유형의 기계, 구성요소(component), 물리적 장치, 컴퓨터 저장 매체 또는 장치에 구체화(embody)될 수 있다. 소프트웨어는 네트워크로 연결된 컴퓨터 시스템 상에 분산되어서, 분산된 방법으로 저장되거나 실행될 수도 있다. 소프트웨어 및 데이터는 하나 이상의 컴퓨터 판독 가능 기록 매체에 저장될 수 있다.
실시예에 따른 방법은 다양한 컴퓨터 수단을 통하여 수행될 수 있는 프로그램 명령 형태로 구현되어 컴퓨터 판독 가능 매체에 기록될 수 있다. 이때, 매체는 컴퓨터로 실행 가능한 프로그램을 계속 저장하거나, 실행 또는 다운로드를 위해 임시 저장하는 것일 수도 있다. 또한, 매체는 단일 또는 수 개의 하드웨어가 결합된 형태의 다양한 기록수단 또는 저장수단일 수 있는데, 어떤 컴퓨터 시스템에 직접 접속되는 매체에 한정되지 않고, 네트워크 상에 분산 존재하는 것일 수도 있다. 매체의 예시로는, 하드 디스크, 플로피 디스크 및 자기 테이프와 같은 자기 매체, CD-ROM 및 DVD와 같은 광기록 매체, 플롭티컬 디스크(floptical disk)와 같은 자기-광 매체(magneto-optical medium), 및 ROM, RAM, 플래시 메모리 등을 포함하여 프로그램 명령어가 저장되도록 구성된 것이 있을 수 있다. 또한, 다른 매체의 예시로, 어플리케이션을 유통하는 앱 스토어나 기타 다양한 소프트웨어를 공급 내지 유통하는 사이트, 서버 등에서 관리하는 기록매체 내지 저장매체도 들 수 있다.
이상과 같이 실시예들이 비록 한정된 실시예와 도면에 의해 설명되었으나, 해당 기술분야에서 통상의 지식을 가진 자라면 상기의 기재로부터 다양한 수정 및 변형이 가능하다. 예를 들어, 설명된 기술들이 설명된 방법과 다른 순서로 수행되거나, 및/또는 설명된 시스템, 구조, 장치, 회로 등의 구성요소들이 설명된 방법과 다른 형태로 결합 또는 조합되거나, 다른 구성요소 또는 균등물에 의하여 대치되거나 치환되더라도 적절한 결과가 달성될 수 있다.
그러므로, 다른 구현들, 다른 실시예들 및 특허청구범위와 균등한 것들도 후술하는 특허청구범위의 범위에 속한다.

Claims (13)

  1. 차량용 3차원 헤드업 디스플레이의 오차 보정 방법에 있어서,
    상기 3차원 헤드업 디스플레이는 광원의 빛에 의한 영상이 컴바이너를 통해 차량의 전방 지면과 대응되도록 눕힌 3차원 시점(perspective)의 허상으로 표시되는 것으로,
    상기 오차 보정 방법은,
    적어도 하나의 프로세서에서, 상기 차량의 전방 영역에 대한 주변 정보를 기초로 상기 지면과 대응되는 배경과 상기 허상 간의 거리 오차를 인식하는 단계; 및
    상기 적어도 하나의 프로세서에서, 상기 허상을 조정하여 상기 거리 오차를 보정하는 단계
    를 포함하는 오차 보정 방법.
  2. 제1항에 있어서,
    상기 인식하는 단계는,
    상기 주변 정보를 이용하여 전방의 전반적인 영역에서 거리 오차가 발생하는 전반적 오차, 전방의 부분적인 영역에서 거리 오차가 발생하는 부분적 오차, 및 전방의 장애물과의 거리가 임계치 이내로 근접한 상황의 완전한 오차를 구분하여 인식하는 것
    을 특징으로 하는 오차 보정 방법.
  3. 제1항에 있어서,
    상기 인식하는 단계는,
    상기 3차원 헤드업 디스플레이에 포함된 센서, 혹은 상기 차량에 포함된 ADAS(advanced driver-assistance system)나 센서로부터 상기 주변 정보를 획득하는 단계
    를 포함하는 오차 보정 방법.
  4. 제1항에 있어서,
    상기 보정하는 단계는,
    상기 거리 오차가 사전에 정해진 허용 오차 범위 이내를 유지되도록 상기 허상을 조정하는 단계
    를 포함하는 오차 보정 방법.
  5. 제1항에 있어서,
    상기 보정하는 단계는,
    상기 허상의 원근감을 조정하는 보정을 수행하는 단계
    를 포함하는 오차 보정 방법.
  6. 제1항에 있어서,
    상기 보정하는 단계는,
    상기 광원과 상기 컴바이너 중 적어도 하나를 조정하여 상기 허상의 기울기나 위치를 조정하는 단계
    를 포함하는 오차 보정 방법.
  7. 제6항에 있어서,
    상기 보정하는 단계는,
    상기 허상의 위치가 상기 컴바이너의 화각(FOV)을 벗어나는 경우 상기 컴바이너의 위치를 이동시키는 단계
    를 더 포함하는 오차 보정 방법.
  8. 제1항에 있어서,
    상기 보정하는 단계는,
    전방의 부분적인 영역에서 거리 오차가 발생하는 경우 오차가 발생한 부분의 원근감을 조정하거나 일부 영상을 제거하는 단계
    를 포함하는 오차 보정 방법.
  9. 제1항에 있어서,
    상기 보정하는 단계는,
    전방의 장애물로 인한 거리 오차가 발생하는 경우 상기 지면을 대신하여 상기 장애물 상 혹은 상기 장애물보다 가까운 근거리에 상기 지면에 대해 수직인 영상으로 표시하는 단계
    를 포함하는 오차 보정 방법.
  10. 제1항에 있어서,
    상기 3차원 헤드업 디스플레이가 상기 지면과 대응되도록 눕힌 영상을 생성하기 위한 제1 디스플레이, 및 상기 지면에 대해 수직인 영상을 생성하기 위한 적어도 하나의 제2 디스플레이를 포함하고,
    상기 보정하는 단계는,
    전방의 장애물로 인한 거리 오차가 발생하는 경우 상기 제1 디스플레이를 대신하여 상기 제2 디스플레이를 이용하여 상기 허상을 표시하는 단계
    를 포함하는 오차 보정 방법.
  11. 제1항 내지 제10항 중 어느 한 항의 오차 보정 방법을 컴퓨터 시스템에 실행시키기 위해 비-일시적인 컴퓨터 판독가능한 기록 매체에 저장되는 컴퓨터 프로그램.
  12. 차량용 3차원 헤드업 디스플레이의 오차 보정 장치에 있어서,
    메모리에 포함된 컴퓨터 판독가능한 명령들을 실행하도록 구성된 적어도 하나의 프로세서
    를 포함하고,
    상기 3차원 헤드업 디스플레이는 광원의 빛에 의한 영상이 컴바이너를 통해 차량의 전방 지면과 대응되도록 눕힌 3차원 시점의 허상으로 표시되는 것으로,
    상기 적어도 하나의 프로세서는,
    상기 차량의 전방 영역에 대한 주변 정보를 기초로 상기 지면과 대응되는 배경과 상기 허상 간의 거리 오차를 인식하는 오차 인식부; 및
    상기 허상을 조정하여 상기 거리 오차를 보정하는 오차 보정부
    를 포함하는 오차 보정 장치.
  13. 제12항에 있어서,
    상기 3차원 헤드업 디스플레이가 상기 지면과 대응되도록 눕힌 영상을 생성하기 위한 제1 디스플레이, 및 상기 지면에 대해 수직인 영상을 생성하기 위한 적어도 하나의 제2 디스플레이를 포함하고,
    상기 오차 보정부는,
    전방의 장애물로 인한 거리 오차가 발생하는 경우 상기 제1 디스플레이를 대신하여 상기 제2 디스플레이를 이용하여 상기 허상을 표시하는 것
    을 특징으로 하는 오차 보정 장치.
KR1020180149251A 2018-10-10 2018-11-28 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치 Active KR102105447B1 (ko)

Priority Applications (7)

Application Number Priority Date Filing Date Title
JP2021510058A JP7183393B2 (ja) 2018-10-10 2018-12-05 画像を地面に位置させて運転手の視点に拡張現実を実現する３次元拡張現実ヘッドアップディスプレイ
EP18936430.0A EP3865928A4 (en) 2018-10-10 2018-12-05 Three-dimensional augmented reality head-up display for implementing augmented reality in driver's point of view by placing image on ground
PCT/KR2018/015307 WO2020075911A1 (ko) 2018-10-10 2018-12-05 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 증강현실 헤드업 디스플레이
CN201880096389.0A CN112534334A (zh) 2018-10-10 2018-12-05 使影像位于地面而对驾驶员的视点实现增强现实的三维增强现实平视显示器
US17/199,820 US12158593B2 (en) 2018-10-10 2021-03-12 Three-dimensional augmented reality head-up display for implementing augmented reality in driver's point of view by placing image on ground
JP2022186200A JP7397152B2 (ja) 2018-10-10 2022-11-22 画像を地面に位置させて運転手の視点に拡張現実を実現する３次元拡張現実ヘッドアップディスプレイ
US18/938,035 US20250060605A1 (en) 2018-10-10 2024-11-05 Three-dimensional augmented reality head-up display for implementing augmented reality in driver's point of view by placing image on ground

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
KR1020180120463 2018-10-10
KR20180120463 2018-10-10

Related Child Applications (1)

Application Number Title Priority Date Filing Date
KR1020200047298A Division KR20200043961A (ko) 2018-10-10 2020-04-20 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치

Publications (2)

Publication Number Publication Date
KR20200040639A true KR20200040639A (ko) 2020-04-20
KR102105447B1 KR102105447B1 (ko) 2020-04-28

Family

ID=70164118

Family Applications (8)

Application Number Title Priority Date Filing Date
KR1020180120504A Active KR102116783B1 (ko) 2018-10-10 2018-10-10 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 증강현실 헤드업 디스플레이
KR1020180149251A Active KR102105447B1 (ko) 2018-10-10 2018-11-28 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치
KR1020190118709A Active KR102251425B1 (ko) 2018-10-10 2019-09-26 다중 영상 평면을 이용하여 확장된 운전자 시점에서 증강현실을 구현하는 3차원 헤드업 디스플레이 및 이를 이용한 정보 표시 방법
KR1020190125024A Active KR102251427B1 (ko) 2018-10-10 2019-10-10 윈드실드 반사 방식으로 가상의 영상을 지면에 위치시키는 3차원 증강현실 헤드업 디스플레이
KR1020200047298A Ceased KR20200043961A (ko) 2018-10-10 2020-04-20 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치
KR1020210003943A Active KR102270483B1 (ko) 2018-10-10 2021-01-12 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치
KR1020210058847A Active KR102359682B1 (ko) 2018-10-10 2021-05-06 다중 영상 평면을 이용하여 확장된 운전자 시점에서 증강현실을 구현하는 3차원 헤드업 디스플레이 및 이를 이용한 정보 표시 방법
KR1020210058849A Active KR102376329B1 (ko) 2018-10-10 2021-05-06 윈드실드 반사 방식으로 가상의 영상을 지면에 위치시키는 3차원 증강현실 헤드업 디스플레이

Family Applications Before (1)

Application Number Title Priority Date Filing Date
KR1020180120504A Active KR102116783B1 (ko) 2018-10-10 2018-10-10 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 증강현실 헤드업 디스플레이

Family Applications After (6)

Application Number Title Priority Date Filing Date
KR1020190118709A Active KR102251425B1 (ko) 2018-10-10 2019-09-26 다중 영상 평면을 이용하여 확장된 운전자 시점에서 증강현실을 구현하는 3차원 헤드업 디스플레이 및 이를 이용한 정보 표시 방법
KR1020190125024A Active KR102251427B1 (ko) 2018-10-10 2019-10-10 윈드실드 반사 방식으로 가상의 영상을 지면에 위치시키는 3차원 증강현실 헤드업 디스플레이
KR1020200047298A Ceased KR20200043961A (ko) 2018-10-10 2020-04-20 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치
KR1020210003943A Active KR102270483B1 (ko) 2018-10-10 2021-01-12 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치
KR1020210058847A Active KR102359682B1 (ko) 2018-10-10 2021-05-06 다중 영상 평면을 이용하여 확장된 운전자 시점에서 증강현실을 구현하는 3차원 헤드업 디스플레이 및 이를 이용한 정보 표시 방법
KR1020210058849A Active KR102376329B1 (ko) 2018-10-10 2021-05-06 윈드실드 반사 방식으로 가상의 영상을 지면에 위치시키는 3차원 증강현실 헤드업 디스플레이

Country Status (6)

Country Link
US (2) US12158593B2 (ko)
EP (2) EP3865928A4 (ko)
JP (2) JP7183393B2 (ko)
KR (8) KR102116783B1 (ko)
CN (3) CN112534334A (ko)
WO (1) WO2020076090A1 (ko)

Families Citing this family (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11971541B2 (en) * 2018-05-04 2024-04-30 Harman International Industries, Incorporated Reconfigurable optics for multi-plane heads-up displays
DE102019206490B3 (de) * 2019-05-06 2020-03-26 Volkswagen Aktiengesellschaft Parkassistenzsystem für ein Kraftfahrzeug, Verfahren zur Einparkunterstützung für ein Kraftfahrzeug, Computerprogramm und computerlesbares Speichermedium
KR102543899B1 (ko) * 2020-08-27 2023-06-20 네이버랩스 주식회사 헤드업 디스플레이 및 그 제어방법
KR102481075B1 (ko) 2020-10-08 2022-12-26 네이버랩스 주식회사 헤드업 디스플레이의 제어 방법 및 시스템
CN119556472A (zh) * 2020-11-05 2025-03-04 群创光电股份有限公司 电子装置的影像显示方法
KR102707274B1 (ko) * 2021-07-21 2024-09-13 네이버 주식회사 헤드업 디스플레이 및 그 제어방법
WO2023003109A1 (ko) * 2021-07-21 2023-01-26 네이버랩스 주식회사 헤드업 디스플레이 및 그 제어방법
KR102707275B1 (ko) * 2021-07-21 2024-09-13 네이버 주식회사 헤드업 디스플레이 및 그 제어방법
US11919392B2 (en) 2021-09-21 2024-03-05 GM Global Technology Operations LLC Rollable/bendable virtual 3D display
US11800082B2 (en) * 2021-09-21 2023-10-24 GM Global Technology Operations LLC Virtual 3D display
CN113989466B (zh) * 2021-10-28 2022-09-20 江苏濠汉信息技术有限公司 一种基于事态认知的超视距辅助驾驶系统
KR20230070896A (ko) 2021-11-15 2023-05-23 현대자동차주식회사 차량의 헤드업 디스플레이 제어 장치 및 방법
US20230219465A1 (en) * 2022-01-11 2023-07-13 Hyundai Mobis Co., Ltd. Purpose-built vehicle
KR102437335B1 (ko) * 2022-05-12 2022-08-30 (주)텔레컨스 차량용 헤드업 디스플레이 장치
JP2025528053A (ja) * 2022-07-28 2025-08-26 フューチュラス テクノロジー カンパニー リミテッド 表示装置、画像ソース装置、交通デバイス及び表示方法
GB2627180A (en) * 2023-01-26 2024-08-21 Bentley Motors Ltd Ambient output system
CN116400507A (zh) * 2023-04-26 2023-07-07 南京睿维视科技有限公司 显示方法、显示设备、交通工具及存储介质

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10278629A (ja) * 1997-04-08 1998-10-20 Toppan Printing Co Ltd 車両用ヘッドアップディスプレイ装置
KR101409846B1 (ko) 2012-12-18 2014-06-19 전자부품연구원 3차원 증강현실 기반 헤드 업 디스플레이 장치
WO2017094427A1 (ja) * 2015-12-01 2017-06-08 日本精機株式会社 ヘッドアップディスプレイ
WO2018043558A1 (ja) * 2016-09-01 2018-03-08 三菱電機株式会社 表示装置および調整方法
JP2018077400A (ja) * 2016-11-10 2018-05-17 日本精機株式会社 ヘッドアップディスプレイ

Family Cites Families (47)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2006145998A (ja) * 2004-11-22 2006-06-08 Olympus Corp 虚像表示型情報表示システム
JP2007272061A (ja) * 2006-03-31 2007-10-18 Denso Corp ヘッドアップディスプレイ装置
JP4886751B2 (ja) * 2008-09-25 2012-02-29 株式会社東芝 車載用表示システム及び表示方法
JP5161760B2 (ja) * 2008-12-26 2013-03-13 株式会社東芝 車載用表示システム及び表示方法
WO2011036788A1 (ja) * 2009-09-28 2011-03-31 株式会社 東芝 表示装置及び表示方法
KR20130059650A (ko) * 2011-11-29 2013-06-07 현대자동차일본기술연구소 헤드업 디스플레이의 컨텐츠 초점 제어 장치 및 방법
DE102012218360A1 (de) * 2012-10-09 2014-04-10 Robert Bosch Gmbh Blickfeldanzeige für ein Fahrzeug
WO2014061138A1 (ja) * 2012-10-18 2014-04-24 パイオニア株式会社 表示装置及びヘッドアップディスプレイ
US9164281B2 (en) * 2013-03-15 2015-10-20 Honda Motor Co., Ltd. Volumetric heads-up display with dynamic focal plane
DE102014219567A1 (de) * 2013-09-30 2015-04-02 Honda Motor Co., Ltd. Dreidimensionale (3-d) navigation
KR101526708B1 (ko) * 2013-11-15 2015-06-05 현대자동차주식회사 헤드업 디스플레이 장치 및 그 디스플레이 방법
JP6269262B2 (ja) * 2014-03-31 2018-01-31 アイシン・エィ・ダブリュ株式会社 虚像表示装置
KR101619220B1 (ko) * 2014-05-29 2016-05-10 현대자동차주식회사 차량용 헤드 업 디스플레이 장치
JP6105532B2 (ja) * 2014-09-04 2017-03-29 矢崎総業株式会社 車両用投影表示装置
JP6337721B2 (ja) * 2014-09-25 2018-06-06 アイシン・エィ・ダブリュ株式会社 虚像表示装置
JP6262111B2 (ja) * 2014-09-29 2018-01-17 矢崎総業株式会社 車両用表示装置
KR20160059376A (ko) * 2014-11-18 2016-05-26 엘지전자 주식회사 전자 기기 및 그 제어방법
JP2016102966A (ja) * 2014-11-28 2016-06-02 アイシン・エィ・ダブリュ株式会社 虚像表示装置
JP6504431B2 (ja) * 2014-12-10 2019-04-24 株式会社リコー 画像表示装置、移動体、画像表示方法及びプログラム
WO2016166887A1 (ja) * 2015-04-17 2016-10-20 三菱電機株式会社 表示制御装置、表示システム、表示制御方法および表示制御プログラム
EP3093194B1 (en) * 2015-04-24 2021-09-22 Ricoh Company, Ltd. Information provision device
JP6516642B2 (ja) * 2015-09-17 2019-05-22 アルパイン株式会社 電子装置、画像表示方法および画像表示プログラム
JP6749334B2 (ja) * 2015-10-09 2020-09-02 マクセル株式会社 投影光学系及びヘッドアップディスプレイ装置
CN106896496B (zh) * 2015-10-30 2019-11-08 洪维毅 场曲型虚像显示系统
KR102578679B1 (ko) * 2016-01-11 2023-09-13 엘지전자 주식회사 헤드업 디스플레이 장치 및 그 제어방법
US10866415B2 (en) * 2016-02-05 2020-12-15 Maxell, Ltd. Head-up display apparatus
CN108473055B (zh) * 2016-02-05 2021-02-26 麦克赛尔株式会社 平视显示器装置
US10871655B2 (en) * 2016-02-12 2020-12-22 Maxell, Ltd. Image display apparatus for vehicle
JP6674793B2 (ja) * 2016-02-25 2020-04-01 京セラ株式会社 運転支援情報表示装置
KR102582092B1 (ko) * 2016-04-22 2023-09-25 한국전자통신연구원 차량용 헤드업 디스플레이의 증강현실정보 변환 장치 및 방법
CN118112811A (zh) * 2016-08-29 2024-05-31 麦克赛尔株式会社 车辆
US20180067310A1 (en) * 2016-09-08 2018-03-08 Panasonic Automotive Systems Company Of America, Division Of Panasonic Corporation Of North America Compact wide field of view (wfov) head up display (hud) using two free form mirrors and dlp technology
KR101846325B1 (ko) 2016-09-12 2018-04-09 현대오트론 주식회사 헤드업 디스플레이의 눈 높이 검출 장치 및 방법
WO2018066062A1 (ja) * 2016-10-04 2018-04-12 マクセル株式会社 投影光学系、及びヘッドアップディスプレイ装置
JP6756228B2 (ja) * 2016-10-07 2020-09-16 株式会社デンソー 車載表示制御装置
JP6911868B2 (ja) * 2016-11-08 2021-07-28 日本精機株式会社 ヘッドアップディスプレイ装置
JP6899082B2 (ja) * 2016-11-11 2021-07-07 日本精機株式会社 ヘッドアップディスプレイ
JP6646844B2 (ja) * 2016-12-27 2020-02-14 パナソニックＩｐマネジメント株式会社 表示装置、表示装置の制御方法、及び表示装置を備える移動体
JP6845988B2 (ja) * 2017-01-26 2021-03-24 日本精機株式会社 ヘッドアップディスプレイ
KR102730968B1 (ko) * 2017-02-14 2024-11-19 현대모비스 주식회사 개별 제어가 가능한 다중 표시영역을 구현하는 헤드 업 디스플레이 장치 및 헤드 업 디스플레이 장치의 표시 제어 방법
WO2018168595A1 (ja) * 2017-03-15 2018-09-20 日本精機株式会社 ヘッドアップディスプレイ装置
US20200152157A1 (en) * 2017-06-28 2020-05-14 Nippon Seiki Co., Ltd. Image processing unit, and head-up display device provided with same
JP6861375B2 (ja) * 2017-06-30 2021-04-21 パナソニックＩｐマネジメント株式会社 表示システム、情報提示システム、表示システムの制御方法、プログラム、及び移動体
CN107843985A (zh) * 2017-11-27 2018-03-27 上海驾馥电子科技有限公司 增强现实抬头显示器系统及方法
DE102018204254B4 (de) * 2018-03-20 2020-12-03 Volkswagen Aktiengesellschaft Verfahren zur Berechnung einer Einblendung von Zusatzinformationen für eine Anzeige auf einer Anzeigeeinheit, Vorrichtung zur Durchführung des Verfahrens sowie Kraftfahrzeug und Computerprogramm
WO2020009219A1 (ja) * 2018-07-05 2020-01-09 日本精機株式会社 ヘッドアップディスプレイ装置
JP6952899B2 (ja) * 2018-07-13 2021-10-27 マクセル株式会社 ヘッドアップディスプレイ

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH10278629A (ja) * 1997-04-08 1998-10-20 Toppan Printing Co Ltd 車両用ヘッドアップディスプレイ装置
KR101409846B1 (ko) 2012-12-18 2014-06-19 전자부품연구원 3차원 증강현실 기반 헤드 업 디스플레이 장치
WO2017094427A1 (ja) * 2015-12-01 2017-06-08 日本精機株式会社 ヘッドアップディスプレイ
WO2018043558A1 (ja) * 2016-09-01 2018-03-08 三菱電機株式会社 表示装置および調整方法
JP2018077400A (ja) * 2016-11-10 2018-05-17 日本精機株式会社 ヘッドアップディスプレイ

Also Published As

Publication number Publication date
KR102105447B1 (ko) 2020-04-28
KR102359682B1 (ko) 2022-02-09
JP7183393B2 (ja) 2022-12-05
KR20210009397A (ko) 2021-01-26
KR102376329B1 (ko) 2022-03-18
KR20210058771A (ko) 2021-05-24
KR20200040685A (ko) 2020-04-20
KR20200043961A (ko) 2020-04-28
US20210208392A1 (en) 2021-07-08
EP3865928A1 (en) 2021-08-18
KR20200040507A (ko) 2020-04-20
KR102251425B1 (ko) 2021-05-12
CN112534334A (zh) 2021-03-19
WO2020076090A1 (ko) 2020-04-16
EP3869259A1 (en) 2021-08-25
US11865915B2 (en) 2024-01-09
JP2021534465A (ja) 2021-12-09
KR20210058770A (ko) 2021-05-24
US12158593B2 (en) 2024-12-03
KR102116783B1 (ko) 2020-05-29
KR102270483B1 (ko) 2021-06-29
CN119781176A (zh) 2025-04-08
EP3865928A4 (en) 2022-07-27
JP2021534464A (ja) 2021-12-09
KR20200040662A (ko) 2020-04-20
KR102251427B1 (ko) 2021-05-12
JP7178485B2 (ja) 2022-11-25
CN113424094A (zh) 2021-09-21
US20210197669A1 (en) 2021-07-01
EP3869259A4 (en) 2022-08-17

Similar Documents

Publication Publication Date Title
KR102105447B1 (ko) 3차원 증강현실 헤드업 디스플레이의 주변 환경에 따른 오류를 최소화하기 위한 방법 및 장치
US9756319B2 (en) Virtual see-through instrument cluster with live video
JP7397152B2 (ja) 画像を地面に位置させて運転手の視点に拡張現実を実現する３次元拡張現実ヘッドアップディスプレイ
KR102397089B1 (ko) 이미지 처리 방법 및 이미지 처리 장치
US20190241070A1 (en) Display control device and display control method
JPWO2014174575A1 (ja) 車両用ヘッドアップディスプレイ装置
JP7375753B2 (ja) ヘッドアップディスプレイ装置
JP2016210212A (ja) 情報提供装置、情報提供方法及び情報提供用制御プログラム
JP7377740B2 (ja) 車載表示装置、車載表示装置を制御する方法、及びコンピュータプログラム
JPWO2020009217A1 (ja) ヘッドアップディスプレイ装置
WO2026016489A1 (zh) 一种图像显示方法、装置、电子设备及存储介质
KR102385807B1 (ko) 영상을 지면에 위치시켜 운전자의 시점에 증강현실을 구현하는 3차원 증강현실 헤드업 디스플레이
KR102043389B1 (ko) 아이박스의 공액면에서 영상을 분리해 양안시차를 생성하는 3차원 헤드업 디스플레이 장치 및 그 동작 방법
JP7255596B2 (ja) 表示制御装置、ヘッドアップディスプレイ装置
JP2023046339A (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
JP2024017504A (ja) 表示制御装置、ヘッドアップディスプレイ装置、及び表示制御方法
Jachens et al. Augmented Reality Head-Up Display

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

R18-X000 Changes to party contact information recorded

St.27 status event code: A-3-3-R10-R18-oth-X000

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

A107 Divisional application of patent
PA0107 Divisional application

St.27 status event code: A-0-1-A10-A18-div-PA0107

St.27 status event code: A-0-1-A10-A16-div-PA0107

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

R18-X000 Changes to party contact information recorded

St.27 status event code: A-5-5-R10-R18-oth-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R11-asn-PN2301

PN2301 Change of applicant

St.27 status event code: A-5-5-R10-R14-asn-PN2301

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 6

U11 Full renewal or maintenance fee paid

Free format text: ST27 STATUS EVENT CODE: A-4-4-U10-U11-OTH-PR1001 (AS PROVIDED BY THE NATIONAL OFFICE)

Year of fee payment: 6