KR20200067121A - 차량 제어장치 및 차량 제어방법 - Google Patents

차량 제어장치 및 차량 제어방법 Download PDF

Info

Publication number
KR20200067121A
KR20200067121A KR1020197019520A KR20197019520A KR20200067121A KR 20200067121 A KR20200067121 A KR 20200067121A KR 1020197019520 A KR1020197019520 A KR 1020197019520A KR 20197019520 A KR20197019520 A KR 20197019520A KR 20200067121 A KR20200067121 A KR 20200067121A
Authority
KR
South Korea
Prior art keywords
control
occupant
vehicle
unit
gaze
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020197019520A
Other languages
English (en)
Other versions
KR102168041B1 (ko
Inventor
조재훈
박도연
오주현
이동규
허희정
Original Assignee
엘지전자 주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 엘지전자 주식회사 filed Critical 엘지전자 주식회사
Publication of KR20200067121A publication Critical patent/KR20200067121A/ko
Application granted granted Critical
Publication of KR102168041B1 publication Critical patent/KR102168041B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/10—Input arrangements, i.e. from user to vehicle, associated with vehicle functions or specially adapted therefor
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/21—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using visual output, e.g. blinking lights or matrix displays
    • B60K35/22—Display screens
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/25—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using haptic output
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/26—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor using acoustic output
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/20—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor
    • B60K35/28—Output arrangements, i.e. from vehicle to user, associated with vehicle functions or specially adapted therefor characterised by the type of the output information, e.g. video entertainment or vehicle dynamics information; characterised by the purpose of the output information, e.g. for attracting the attention of the driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/65—Instruments specially adapted for specific vehicle types or users, e.g. for left- or right-hand drive
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K35/00—Instruments specially adapted for vehicles; Arrangement of instruments in or on vehicles
    • B60K35/80—Arrangements for controlling instruments
    • B60K35/81—Arrangements for controlling instruments for controlling displays
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R11/00—Arrangements for holding or mounting articles, not otherwise provided for
    • B60R11/02—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof
    • B60R11/0247—Arrangements for holding or mounting articles, not otherwise provided for for radio sets, television sets, telephones, or the like; Arrangement of controls thereof for microphones or earphones
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60R—VEHICLES, VEHICLE FITTINGS, OR VEHICLE PARTS, NOT OTHERWISE PROVIDED FOR
    • B60R21/00—Arrangements or fittings on vehicles for protecting or preventing injuries to occupants or pedestrians in case of accidents or other traffic risks
    • B60R21/01—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents
    • B60R21/015—Electrical circuits for triggering passive safety arrangements, e.g. airbags, safety belt tighteners, in case of vehicle accidents or impending vehicle accidents including means for detecting the presence or position of passengers, passenger seats or child seats, and the related safety parameters therefor, e.g. speed or timing of airbag inflation in relation to occupant position or seat belt use
    • B60R21/01512—Passenger detection systems
    • B60R21/0153—Passenger detection systems using field detection presence sensors
    • B60R21/01538—Passenger detection systems using field detection presence sensors for image processing, e.g. cameras or sensor arrays
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W50/16—Tactile feedback to the driver, e.g. vibration or force feedback to the driver on the steering wheel or the accelerator pedal
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
    • G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
    • G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/16—Sound input; Sound output
    • G06F3/167—Audio in a user interface, e.g. using voice commands for navigating, audio feedback
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; ELECTRIC HEARING AIDS; PUBLIC ADDRESS SYSTEMS
    • H04R1/00—Details of transducers, loudspeakers or microphones
    • H04R1/08—Mouthpieces; Microphones; Attachments therefor
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/143—Touch sensitive instrument input devices
    • B60K2360/1438—Touch screens
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/146—Instrument input by gesture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/146—Instrument input by gesture
    • B60K2360/1464—3D-gesture
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/148—Instrument input by voice
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/149—Instrument input by detecting viewing direction not otherwise provided for
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/16—Type of output information
    • B60K2360/176—Camera images
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/20—Optical features of instruments
    • B60K2360/21—Optical features of instruments using cameras
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60K—ARRANGEMENT OR MOUNTING OF PROPULSION UNITS OR OF TRANSMISSIONS IN VEHICLES; ARRANGEMENT OR MOUNTING OF PLURAL DIVERSE PRIME-MOVERS IN VEHICLES; AUXILIARY DRIVES FOR VEHICLES; INSTRUMENTATION OR DASHBOARDS FOR VEHICLES; ARRANGEMENTS IN CONNECTION WITH COOLING, AIR INTAKE, GAS EXHAUST OR FUEL SUPPLY OF PROPULSION UNITS IN VEHICLES
    • B60K2360/00—Indexing scheme associated with groups B60K35/00 or B60K37/00 relating to details of instruments or dashboards
    • B60K2360/741—Instruments adapted for user detection
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/089—Driver voice
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/143—Alarm means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W50/00—Details of control systems for road vehicle drive control not related to the control of a particular sub-unit, e.g. process diagnostic or vehicle driver interfaces
    • B60W50/08—Interaction between the driver and the control system
    • B60W50/14—Means for informing the driver, warning the driver or prompting a driver intervention
    • B60W2050/146—Display means
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2420/00—Indexing codes relating to the type of sensors based on the principle of their operation
    • B60W2420/40—Photo, light or radio wave sensitive means, e.g. infrared sensors
    • B60W2420/403—Image sensing, e.g. optical camera
    • B60W2420/42—
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/21—Voice
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/225—Direction of gaze
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W2540/00—Input parameters relating to occupants
    • B60W2540/30—Driving style
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F2203/00—Indexing scheme relating to G06F3/00 - G06F3/048
    • G06F2203/038—Indexing scheme relating to G06F3/038
    • G06F2203/0381—Multimodal input, i.e. interface arrangements enabling the user to issue commands by simultaneous use of input devices of different nature, e.g. voice plus gesture on digitizer
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; ELECTRIC HEARING AIDS; PUBLIC ADDRESS SYSTEMS
    • H04R2499/00—Aspects covered by H04R or H04S not otherwise provided for in their subgroups
    • H04R2499/10—General applications
    • H04R2499/13—Acoustic transducers and sound field adaptation in vehicles

Landscapes

  • Engineering & Computer Science (AREA)
  • Mechanical Engineering (AREA)
  • Transportation (AREA)
  • Combustion & Propulsion (AREA)
  • Chemical & Material Sciences (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Physics & Mathematics (AREA)
  • Automation & Control Theory (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • General Health & Medical Sciences (AREA)
  • Audiology, Speech & Language Pathology (AREA)
  • Health & Medical Sciences (AREA)
  • Multimedia (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Acoustics & Sound (AREA)
  • Signal Processing (AREA)
  • Traffic Control Systems (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)
  • Navigation (AREA)

Abstract

제어방법이 개시된다. 본 발명의 제어방법은, 카메라를 통해 차량 내부에 위치하는 탑승자의 시선을 모니터링하는 단계; 입력수단을 통해 상기 탑승자로부터 제어명령을 입력받는 단계; 상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하는 단계; 그리고, 상기 제어명령에 기초하여 상기 제어대상을 제어하는 단계를 포함한다.

Description

차량 제어장치 및 차량 제어방법
본 발명은 차량 제어장치 및 차량 제어방법에 관한 것이다.
자동차는 사용되는 원동기의 종류에 따라, 내연기관(internal combustion engine) 자동차, 외연기관(external combustion engine) 자동차, 가스터빈(gas turbine) 자동차 또는 전기자동차(electric vehicle) 등으로 분류될 수 있다.
최근 운전자, 보행자 등의 안전이나 편의를 위해 지능형 자동차(Smart Vehicle)의 개발이 활발히 되고 있으며, 지능형 자동차에 탑재되는 센서에 대한 연구가 활발히 진행되고 있다. 카메라, 적외선센서, 레이더, GPS, 라이더(Lidar), 자이로스코프 등이 지능형 자동차에 이용되고 있으며, 그 중 카메라는 사람의 눈을 대신하는 역할을 수행한다.
각종 센서와 전자 장비들의 개발로 인하여, 탑승자의 운전을 보조하고 주행 안전성 및 편의 등을 향상시키는 운전 주행 보조기능을 구비한 차량이 주목 받고 있다.
본 발명의 목적은 차량의 운전을 보조하는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 탑승자의 발화, 시선, 손짓 등에 따라 차량의 내, 외부를 제어할 수 있는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 복수의 탑승자로부터 복수의 입력이 있는 경우, 각 탑승자에게 맞는 제어기능을 제공할 수 있는 제어장치를 제공하는 것일 수 있다.
또 다른 목적은 차량의 운전을 보조하는 방법을 제공하는 것일 수 있다.
또 다른 목적은 탑승자의 발화, 시선, 손짓 등에 따라 차량의 내, 외부를 제어할 수 있는 제어방법을 제공하는 것일 수 있다.
또 다른 목적은 복수의 탑승자로부터 복수의 입력이 있는 경우, 각 탑승자에게 맞는 제어기능을 제공할 수 있는 제어방법을 제공하는 것일 수 있다.
상술한 목적을 달성하기 위한 본 발명의 일 측면에 따르는 제어방법은, 카메라를 통해 차량 내부에 위치하는 탑승자의 시선을 모니터링하는 단계; 입력수단을 통해 상기 탑승자로부터 제어명령을 입력받는 단계; 상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하는 단계; 그리고, 상기 제어명령에 기초하여 상기 제어대상을 제어하는 단계를 포함할 수 있다.
상기 제어대상을 결정하는 단계는: 상기 탑승자의 시선의 모니터링 결과에 기초하여, 복수의 제어대상을 탐색하는 단계; 그리고, 상기 탑승자의 상기 제어명령에 기초하여, 상기 복수의 제어대상 중 어느 하나를 특정하는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링을 지속하는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링 결과와 관계없이 상기 제어대상을 제어할 수 있다.
상기 입력수단은 상기 차량 내부에 설치되는 마이크이고, 상기 제어방법은, 상기 마이크를 통해 상기 탑승자의 발화를 입력받는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어명령에 기초하여 상기 제어대상의 제어가 실행되면, 상기 탑승자의 시선의 모니터링 결과의 가중치를 낮추고, 상기 마이크를 통해 입력받는 상기 탑승자의 발화의 가중치를 높이는 단계를 더 포함할 수 있다.
상기 입력수단은 상기 카메라이고, 상기 제어방법은, 상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 상기 제어명령으로 입력받는 단계; 그리고, 상기 제어대상을 결정하는 단계는, 상기 탑승자의 터치입력 또는 제스쳐 중 적어도 어느 하나와 상기 탑승자의 시선의 모니터링 결과에 기초하여 상기 제어대상을 결정하는 단계인 것을 특징으로 할 수 있다.
상기 입력수단은 상기 카메라와 상기 차량 내부에 설치되는 마이크를 포함하고, 상기 제어방법은, 상기 마이크를 통해, 상기 탑승자의 발화를 제1 제어명령으로 입력받는 단계; 상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 제2 제어명령으로 입력받는 단계; 그리고, 상기 탑승자의 시선의 모니터링 결과의 정확도가 기준치 이하인 경우, 상기 제1 제어명령과 상기 제2 제어명령에 기초하여, 상기 제어대상을 결정하는 단계를 포함할 수 있다.
상기 제어방법은, 상기 차량의 내부에 설치되고, 기준영역을 포함하는 피드백 유닛을 통해 상기 탑승자에게 피드백을 제공하는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어대상이 결정되면, 상기 기준영역이 상기 제어대상을 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어대상의 제어가 완료되면, 상기 기준영역이 상기 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함할 수 있다.
상기 탑승자는 제1 탑승자와 제2 탑승자를 포함하고, 상기 제어방법은, 상기 제2 탑승자로부터 상기 제어명령을 입력받으면, 상기 기준영역이 상기 제2 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어대상이 결정되면, 상기 제어대상과 관련된 이미지를 상기 차량의 내부의 디스플레이부에 표시하는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제어대상의 제어가 실행되면, 상기 제어대상과 관련된 이미지를 상기 차량의 내부의 디스플레이부에 표시하는 단계를 더 포함할 수 있다.
상기 제어대상이 상기 차량의 내부의 디스플레이부로 결정되고, 상기 탑승자의 시선의 모니터링 결과가 상기 디스플레이부의 제1 영역인 경우, 상기 제어방법은, 상기 제어명령에 기초하여 상기 제1 영역에 이미지를 표시하는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 제1 영역에 이미지가 표시된 후, 상기 탑승자의 시선을 모니터링하여 제2 모니터링 결과를 획득하는 단계; 상기 탑승자로부터 제2 제어명령을 입력받는 단계; 그리고, 상기 제2 결과와 상기 제2 제어명령에 기초하여 제2 제어대상이 상기 디스플레이부의 제2 영역으로 결정되면, 상기 제2 제어명령에 기초하여 상기 제2 영역에 이미지를 표시하는 단계를 더 포함할 수 있다.
상기 제어방법은, 상기 차량의 내부에 설치되는 음향출력부를 통해 상기 탑승자에게 피드백을 제공하는 단계를 더 포함할 수 있다.
상술한 목적을 달성하기 위한 본 발명의 실시예에 따른 제어장치는, 탑승자의 시선을 모니터링 하는 카메라 및 상기 탑승자로부터 제어명령을 수신하는 입력수단과 연결되는 인터페이스부; 그리고, 상기 인터페이스부를 통해 상기 카메라 및 상기 입력수단과 정보를 교환하는 프로세서를 포함하고, 상기 프로세서는, 상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하고, 상기 제어명령에 기초하여 상기 제어대상을 제어할 수 있다.
상기 프로세서는, 상기 탑승자의 시선의 모니터링 결과에 기초하여, 복수의 제어대상을 탐색하고, 상기 탑승자의 상기 제어명령에 기초하여, 상기 복수의 제어대상 중 어느 하나를 특정할 수 있다.
상기 프로세서는, 상기 제어대상이 특정되면, 상기 탑승자의 시선의 모니터링을 지속할 수 있다.
상기 프로세서는, 상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링 결과와 관계없이 상기 제어대상을 제어할 수 있다.
본 발명에 따른 제어장치의 효과에 설명하면 다음과 같다.
본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 제어장치를 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화, 시선, 손짓 등에 따라 차량의 내, 외부를 제어할 수 있는 제어장치를 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 복수의 탑승자로부터 복수의 입력이 있는 경우, 각 탑승자에게 맞는 제어기능을 제공할 수 있는 제어장치를 제공할 수 있다.
본 발명에 따른 제어방법의 효과에 설명하면 다음과 같다.
본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 방법을 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화, 시선, 손짓 등에 따라 차량의 내, 외부를 제어할 수 있는 제어방법을 제공할 수 있다.
본 발명의 실시 예 중 적어도 하나에 의하면, 복수의 탑승자로부터 복수의 입력이 있는 경우, 각 탑승자에게 맞는 제어기능을 제공할 수 있는 제어방법을 제공할 수 있다.
도 1은 본 발명의 실시예에 따른 제어장치를 구비하는 차량의 외관을 나타낸다.
도 2는 차량의 내부 블록도의 일 예이다.
도 3은 본 발명의 실시예에 따른 제어장치의 블록도를 나타낸다.
도 4는 본 발명의 실시예에 따른 제어장치를 구비한 차량의 평면을 나타낸다.
도 5는 본 발명의 실시예에 따른 카메라의 일례를 나타낸다.
도 6 은 본 발명의 실시예에 따른 차량 운전 보조장치를 포함하는 차량의 내관을 도시한 도면이다.
도 7 내지 도 24는 본 발명의 실시예에 따른 제어장치의 실시 예를 나타낸 도면들이다.
이하, 첨부된 도면을 참조하여 본 명세서에 개시된 실시 예를 상세히 설명하되, 도면 부호에 관계없이 동일하거나 유사한 구성요소는 동일한 참조 번호를 부여하고 이에 대한 중복되는 설명은 생략하기로 한다. 이하의 설명에서 사용되는 구성요소에 대한 접미사 "모듈" 및 "부"는 명세서 작성의 용이함만이 고려되어 부여되거나 혼용되는 것으로서, 그 자체로 서로 구별되는 의미 또는 역할을 갖는 것은 아니다. 또한, 본 명세서에 개시된 실시 예를 설명함에 있어서 관련된 공지 기술에 대한 구체적인 설명이 본 명세서에 개시된 실시 예의 요지를 흐릴 수 있다고 판단되는 경우 그 상세한 설명을 생략한다. 또한, 첨부된 도면은 본 명세서에 개시된 실시 예를 쉽게 이해할 수 있도록 하기 위한 것일 뿐, 첨부된 도면에 의해 본 명세서에 개시된 기술적 사상이 제한되지 않으며, 본 발명의 사상 및 기술 범위에 포함되는 모든 변경, 균등물 내지 대체물을 포함하는 것으로 이해되어야 한다.
제1, 제2 등과 같이 서수를 포함하는 용어는 다양한 구성요소들을 설명하는데 사용될 수 있지만, 상기 구성요소들은 상기 용어들에 의해 한정되지는 않는다. 상기 용어들은 하나의 구성요소를 다른 구성요소로부터 구별하는 목적으로만 사용된다.
어떤 구성요소가 다른 구성요소에 "연결되어" 있다거나 "접속되어" 있다고 언급된 때에는, 그 다른 구성요소에 직접적으로 연결되어 있거나 또는 접속되어 있을 수도 있지만, 중간에 다른 구성요소가 존재할 수도 있다고 이해되어야 할 것이다. 반면에, 어떤 구성요소가 다른 구성요소에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 중간에 다른 구성요소가 존재하지 않는 것으로 이해되어야 할 것이다.
단수의 표현은 문맥상 명백하게 다르게 뜻하지 않는 한, 복수의 표현을 포함한다.
본 출원에서, "포함한다" 또는 "가지다" 등의 용어는 명세서상에 기재된 특징, 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것이 존재함을 지정하려는 것이지, 하나 또는 그 이상의 다른 특징들이나 숫자, 단계, 동작, 구성요소, 부품 또는 이들을 조합한 것들의 존재 또는 부가 가능성을 미리 배제하지 않는 것으로 이해되어야 한다.
본 명세서에서 기술되는 차량은, 자동차, 오토바이를 포함하는 개념일 수 있다. 이하에서는, 차량에 대해 자동차를 위주로 기술한다.
본 명세서에서 기술되는 차량은, 동력원으로서 엔진을 구비하는 내연기관 차량, 동력원으로서 엔진과 전기 모터를 구비하는 하이브리드 차량, 동력원으로서 전기 모터를 구비하는 전기 차량 등을 모두 포함하는 개념일 수 있다.
이하의 설명에서 차량의 좌측은 차량의 주행 방향의 좌측을 의미하고, 차량의 우측은 차량의 주행 방향의 우측을 의미한다.
이하의 설명에서 별도로 언급되지 않는 한 LHD(Left Hand Drive) 차량을 중심으로 설명한다.
이하에서, 사용자, 운전자, 탑승자 및 동승자는 실시 예에 따라 혼용될 수 있다.
이하의 설명에서 제어장치(100)는 차량에 구비되는 별도의 장치로서, 차량과 데이터 통신을 통해 필요 정보를 주고 받으며 차량 운전 보조기능을 실행하는 것으로 설명한다. 다만, 차량의 유닛 중 일부의 집합을 제어장치(100)로 정의할 수도 있다. 제어장치(100)는 컨트롤 디바이스(100), 차량 제어장치(100), 차량 운전 보조장치(100) 또는 운전 보조장치(100)로 칭할 수 있다.
그리고 제어장치(100)가 별도의 장치일 때, 제어장치(100)의 각 유닛들(도 3 참조) 중 적어도 일부는 제어장치(100)에 포함되지 않고, 차량 또는 차량에 탑재된 다른 장치의 유닛일 수 있다. 그리고 이러한 외부 유닛들은 제어장치(100)의 인터페이스부를 통해 데이터를 송수신함으로써, 제어장치(100)에 포함되는 것으로 이해할 수 있다.
이하 설명의 편의를 위하여, 실시 예에 따른 제어장치(100)는 도 3에 도시한 각 유닛들을 직접 포함하는 것으로 설명한다.
이하, 도면들을 참조하여 실시예에 따른 제어장치(100)에 대해 상세히 설명한다.
도 1을 참조하면, 실시예에 따른 차량은, 동력원에 의해 회전하는 바퀴(13FL, 13RL) 및 사용자에게 운전 보조정보를 제공하는 제어장치(100)를 포함할 수 있다.
도 2를 참조하면, 차량은 통신부(710), 입력부(720), 센싱부(760), 출력부(740), 차량 구동부(750), 메모리(730), 인터페이스부(780), 제어부(770), 전원부(790), 제어장치(100) 및 AVN 장치(400)를 포함할 수 있다. 통신부(710)는, 차량과 이동 단말기(600) 사이, 차량과 외부 서버(500) 사이 또는 차량과 타차량(510)과의 무선 통신을 가능하게 하는 하나 이상의 모듈을 포함할 수 있다. 또한, 통신부(710)는 차량을 하나 이상의 망(network)에 연결하는 하나 이상의 모듈을 포함할 수 있다.
통신부(710)는, 방송 수신 모듈(711), 무선 인터넷 모듈(712), 근거리 통신 모듈(713), 위치 정보 모듈(714) 및 광통신 모듈(715)을 포함할 수 있다.
방송 수신 모듈(711)은, 방송 채널을 통하여 외부의 방송 관리 서버로부터 방송 신호 또는 방송 관련된 정보를 수신한다. 여기서, 방송은 라디오 방송 또는 TV 방송을 포함한다.
무선 인터넷 모듈(712)은, 무선 인터넷 접속을 위한 모듈을 말하는 것으로, 차량에 내장되거나 외장될 수 있다. 무선 인터넷 모듈(712)은 무선 인터넷 기술들에 따른 통신망에서 무선 신호를 송수신하도록 이루어진다.
무선 인터넷 기술로는, 예를 들면, WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등이 있으며, 상기 무선 인터넷 모듈(712)은 상기에서 나열되지 않은 인터넷 기술까지 포함한 범위에서 적어도 하나의 무선 인터넷 기술에 따라 데이터를 송수신하게 된다. 예를 들면, 무선 인터넷 모듈(712)은 외부 서버(500)와 무선으로 데이터를 교환할 수 있다. 무선 인터넷 모듈(712)은 외부 서버(500)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))정보를 수신할 수 있다.
근거리 통신 모듈(713)은, 근거리 통신(Short range communication)을 위한 것으로서, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
이러한, 근거리 통신 모듈(713)은, 근거리 무선 통신망(Wireless Area Networks)을 형성하여, 차량과 적어도 하나의 외부 디바이스 사이의 근거리 통신을 수행할 수 있다. 예를 들면, 근거리 통신 모듈(713)은 이동 단말기(600)와 무선으로 데이터를 교환할 수 있다. 근거리 통신 모듈(713)은 이동 단말기(600)로부터 날씨 정보, 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group))를 수신할 수 있다. 가령, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 차량은 자동으로 또는 사용자의 애플리케이션 실행에 의해, 서로 페어링을 수행할 수 있다.
위치 정보 모듈(714)은, 차량의 위치를 획득하기 위한 모듈로서, 그의 대표적인 예로는 GPS(Global Positioning System) 모듈이 있다. 예를 들면, 차량은 GPS모듈을 활용하면, GPS 위성에서 보내는 신호를 이용하여 차량의 위치를 획득할 수 있다.
광통신 모듈(715)은, 광발신부 및 광수신부를 포함할 수 있다.
광수신부는, 광(light)신호를 전기 신호로 전환하여, 정보를 수신할 수 있다. 광수신부는 광을 수신하기 위한 포토 다이오드(PD, Photo Diode)를 포함할 수 있다. 포토 다이오드는 빛을 전기 신호로 전환할 수 있다. 예를 들면, 광수신부는 전방 차량에 포함된 광원에서 방출되는 광을 통해, 전방 차량의 정보를 수신할 수 있다.
광발신부는 전기 신호를 광 신호로 전환하기 위한 발광 소자를 적어도 하나 포함할 수 있다. 여기서, 발광 소자는 LED(Light Emitting Diode)인 것이 바람직하다. 광발신부는, 전기 신호를 광 신호로 전환하여, 외부에 발신한다. 예를 들면, 광 발신부는 소정 주파수에 대응하는 발광소자의 점멸을 통해, 광신호를 외부에 방출할 수 있다. 실시예에 따라, 광발신부는 복수의 발광 소자 어레이를 포함할 수 있다. 실시예에 따라, 광발신부는 차량에 구비된 램프와 일체화될 수 있다. 예를 들면, 광발신부는 전조등, 후미등, 제동등, 방향 지시등 및 차폭등 중 적어도 어느 하나일 수 있다. 예를 들면, 광통신 모듈(715)은 광 통신을 통해 타차량(510)과 데이터를 교환할 수 있다.
입력부(720)는, 운전 조작 수단(721), 카메라(195), 마이크로 폰(723) 및 사용자 입력부(724)를 포함할 수 있다.
운전 조작 수단(721)은, 차량 운전을 위한 사용자 입력을 수신한다. (이하 설명 도 8참조) 운전 조작 수단(721)은 조향 입력 수단(721A), 쉬프트 입력 수단(721D), 가속 입력 수단(721C), 브레이크 입력 수단(721B)을 포함할 수 있다.
조향 입력 수단(721A)은, 사용자로부터 차량의 진행 방향 입력을 수신한다. 조향 입력 수단(721A)은 회전에 의해 조향 입력이 가능하도록 휠 형태로 형성되는 것이 바람직하다. 실시예에 따라, 조향 입력 수단(721A)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
쉬프트 입력 수단(721D)은, 사용자로부터 차량의 주차(P), 전진(D), 중립(N), 후진(R)의 입력을 수신한다. 쉬프트 입력 수단(721D)은 레버 형태로 형성되는 것이 바람직하다. 실시예에 따라, 쉬프트 입력 수단(721D)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
가속 입력 수단(721C)은, 사용자로부터 차량의 가속을 위한 입력을 수신한다. 브레이크 입력 수단(721B)은, 사용자로부터 차량의 감속을 위한 입력을 수신한다. 가속 입력 수단(721C) 및 브레이크 입력 수단(721B)은 페달 형태로 형성되는 것이 바람직하다. 실시예에 따라, 가속 입력 수단(721C) 또는 브레이크 입력 수단(721B)은 터치 스크린, 터치 패드 또는 버튼으로 형성될 수도 있다.
카메라(722)는, 이미지 센서와 영상 처리 모듈을 포함할 수 있다. 카메라(722)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 정보를 추출하고, 추출된 정보를 제어부(770)에 전달할 수 있다. 한편, 차량은 차량 전방 영상 또는 차량 주변 영상을 촬영하는 카메라(722) 및 차량 내부 영상을 촬영하는 모니터링부(725)를 포함할 수 있다.
모니터링부(725)는 탑승자에 대한 이미지를 획득할 수 있다. 모니터링부(725)는 탑승자의 생체 인식을 위한 이미지를 획득할 수 있다.
한편, 도 2에서는 모니터링부(725)와 카메라(722)가 입력부(720)에 포함되는 것으로 도시하였으나, 카메라(722)는 전술한 바와 같이, 제어장치(100)에 포함된 구성으로 설명될 수도 있다.
마이크로폰(723)은, 외부의 음향 신호를 전기적인 데이터로 처리할 수 있다. 처리된 데이터는 차량에서 수행 중인 기능에 따라 다양하게 활용될 수 있다. 마이크로폰(723)은 사용자의 음성 명령을 전기적인 데이터로 전환할 수 있다. 전환된 전기적인 데이터는 제어부(770)에 전달될 수 있다. 마이크로폰(723)은 마이크(723)라고 칭할 수 있다.
한편, 실시 예에 따라, 카메라(722) 또는 마이크로폰(723)는 입력부(720)에 포함되는 구성요소가 아닌, 센싱부(760)에 포함되는 구성요소일 수도 있다.
사용자 입력부(724)는 사용자로부터 정보를 입력받기 위한 것이다. 사용자 입력부(724)를 통해, 정보가 입력되면, 제어부(770)는 입력된 정보에 대응되도록 차량의 동작을 제어할 수 있다. 사용자 입력부(724)는 터치식 입력수단 또는 기계식 입력 수단을 포함할 수 있다. 실시예에 따라, 사용자 입력부(724)는 스티어링 휠의 일 영역에 배치될 수 있다. 이 경우, 운전자는 스티어링 휠을 잡은 상태에서, 손가락으로 사용자 입력부(724)를 조작할 수 있다.
센싱부(760)는, 차량의 주행 등과 관련한 신호를 센싱한다. 이를 위해, 센싱부(760)는, 충돌 센서, 휠 센서(wheel sensor), 속도 센서, 경사 센서, 중량 감지 센서, 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 초음파 센서, 레이더, 라이더 등을 포함할 수 있다.
이에 의해, 센싱부(760)는, 차량 충돌 정보, 차량 방향 정보, 차량 위치 정보(GPS 정보), 차량 각도 정보, 차량 속도 정보, 차량 가속도 정보, 차량 기울기 정보, 차량 전진/후진 정보, 배터리 정보, 연료 정보, 타이어 정보, 차량 램프 정보, 차량 내부 온도 정보, 차량 내부 습도 정보, 스티어링 휠 회전 각도 등에 대한 센싱 신호를 획득할 수 있다.
한편, 센싱부(760)는, 그 외, 가속페달센서, 압력센서, 엔진 회전 속도 센서(engine speed sensor), 공기 유량 센서(AFS), 흡기 온도 센서(ATS), 수온 센서(WTS), 스로틀 위치 센서(TPS), TDC 센서, 크랭크각 센서(CAS), 등을 더 포함할 수 있다.
센싱부(760)는 생체 인식 정보 감지부를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 감지하여 획득한다. 생체 인식 정보는 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 안면 인식(Facial recognition) 정보, 음성 인식(Voice recognition) 정보를 포함할 수 있다. 생체 인식 정보 감지부는 탑승자의 생체 인식 정보를 센싱하는 센서를 포함할 수 있다. 여기서, 모니터링부(725) 및 마이크로 폰(723)이 센서로 동작할 수 있다. 생체 인식 정보 감지부는 모니터링부(725)를 통해, 손모양 정보, 안면 인식 정보를 획득할 수 있다.
출력부(740)는, 제어부(770)에서 처리된 정보를 출력하기 위한 것으로, 디스플레이부(741), 음향 출력부(742) 및 햅틱 출력부(743)를 포함할 수 있다.
디스플레이부(741)는 제어부(770)에서 처리되는 정보를 표시할 수 있다. 예를 들면, 디스플레이부(741)는 차량 관련 정보를 표시할 수 있다. 여기서, 차량 관련 정보는, 차량에 대한 직접적인 제어를 위한 차량 제어 정보, 또는 차량 운전자에게 운전 가이드를 위한 차량 운전 보조 정보를 포함할 수 있다. 또한, 차량 관련 정보는, 현재 차량의 상태를 알려주는 차량 상태 정보 또는 차량의 운행과 관련되는 차량 운행 정보를 포함할 수 있다.
디스플레이부(741)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
디스플레이부(741)는 터치 센서와 상호 레이어 구조를 이루거나 일체형으로 형성됨으로써, 터치 스크린을 구현할 수 있다. 이러한 터치 스크린은, 차량과 사용자 사이의 입력 인터페이스를 제공하는 사용자 입력부(724)로써 기능함과 동시에, 차량과 사용자 사이의 출력 인터페이스를 제공할 수 있다. 이 경우, 디스플레이부(741)는 터치 방식에 의하여 제어 명령을 입력 받을 수 있도록, 디스플레이부(741)에 대한 터치를 감지하는 터치센서를 포함할 수 있다.
이를 이용하여, 디스플레이부(741)에 대하여 터치가 이루어지면, 터치센서는 상기 터치를 감지하고, 제어부(770)는 이에 근거하여 상기 터치에 대응하는 제어명령을 발생시키도록 이루어질 수 있다. 터치 방식에 의하여 입력되는 내용은 문자 또는 숫자이거나, 각종 모드에서의 지시 또는 지정 가능한 메뉴항목 등일 수 있다.
터치 센서 및 근접 센서는 독립적으로 또는 조합되어, 터치 스크린에 대한 숏(또는 탭) 터치(short touch), 롱 터치(long touch), 멀티 터치(multi touch), 드래그 터치(drag touch), 플리크 터치(flick touch), 핀치-인 터치(pinch-in touch), 핀치-아웃 터치(pinch-out 터치), 스와이프(swype) 터치, 호버링(hovering) 터치 등과 같은, 다양한 방식의 터치를 센싱할 수 있다. 이하에서, 터치 또는 터치입력은 앞서 언급된 다양한 방식의 터치를 통칭하는 것으로 쓰일 수 있다.
한편, 디스플레이부(741)는 운전자가 운전을 함과 동시에 차량 상태 정보 또는 차량 운행 정보를 확인할 수 있도록 클러스터(cluster)를 포함할 수 있다. 클러스터는 대시보드 위에 위치할 수 있다. 이경우, 운전자는, 시선을 차량 전방에 유지한채로 클러스터에 표시되는 정보를 확인할 수 있다.
한편, 실시예에 따라, 디스플레이부(741)는 HUD(Head Up Display)로 구현될 수 있다. 디스플레이부(741)가 HUD로 구현되는 경우, 윈드 쉴드에 구비되는 투명 디스플레이를 통해 정보를 출력할 수 있다. 또는, 디스플레이부(741)는 투사 모듈을 구비하여 윈드 쉴드에 투사되는 이미지를 통해 정보를 출력할 수 있다.
음향 출력부(742)는 제어부(770)로부터의 전기 신호를 오디오 신호로 변환하여 출력한다. 이를 위해, 음향 출력부(742)는 스피커 등을 구비할 수 있다. 음향 출력부(742)는, 사용자 입력부(724) 동작에 대응하는, 사운드를 출력하는 것도 가능하다.
햅틱 출력부(743)는 촉각적인 출력을 발생시킨다. 예를 들면, 햅틱 출력부(743)는, 스티어링 휠, 안전 벨트, 시트를 진동시켜, 사용자가 출력을 인지할 수 있게 동작할 수 있다.
차량 구동부(750)는, 차량 각종 장치의 동작을 제어할 수 있다. 차량 구동부(750)는 동력원 구동부(751), 조향 구동부(752), 브레이크 구동부(753), 램프 구동부(754), 공조 구동부(755), 윈도우 구동부(756), 에어백 구동부(757), 썬루프 구동부(758) 및 서스펜션 구동부(759)를 포함할 수 있다.
동력원 구동부(751)는, 차량 내의 동력원에 대한 전자식 제어를 수행할 수 있다.
예를 들면, 화석 연료 기반의 엔진(미도시)이 동력원인 경우, 동력원 구동부(751)는, 엔진에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 엔진의 출력 토크 등을 제어할 수 있다. 동력원 구동부(751)가 엔진인 경우, 제어부(770)의 제어에 따라, 엔진 출력 토크를 제한하여 차량의 속도를 제한할 수 있다.
다른 예로, 전기 기반의 모터(미도시)가 동력원인 경우, 동력원 구동부(751)는, 모터에 대한 제어를 수행할 수 있다. 이에 의해, 모터의 회전 속도, 토크 등을 제어할 수 있다.
조향 구동부(752)는, 차량 내의 조향 장치(steering apparatus)에 대한 전자식 제어를 수행할 수 있다. 이에 의해, 차량의 진행 방향을 변경할 수 있다.
브레이크 구동부(753)는, 차량 내의 브레이크 장치(brake apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 바퀴에 배치되는 브레이크의 동작을 제어하여, 차량의 속도를 줄일 수 있다. 다른 예로, 좌측 바퀴와 우측 바퀴에 각각 배치되는 브레이크의 동작을 달리하여, 차량의 진행 방향을 좌측, 또는 우측으로 조정할 수 있다.
램프 구동부(754)는, 차량 내, 외부에 배치되는 램프의 턴 온/턴 오프를 제어할 수 있다. 또한, 램프의 빛의 세기, 방향 등을 제어할 수 있다. 예를 들면, 방향 지시 램프, 브레이크 램프 등의 대한 제어를 수행할 수 있다.
공조 구동부(755)는, 차량 내의 공조 장치(air conditioner)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량 내부의 온도가 높은 경우, 공조 장치가 동작하여, 냉기가 차량 내부로 공급되도록 제어할 수 있다.
윈도우 구동부(756)는, 차량 내의 윈도우 장치(window apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 차량의 측면의 좌, 우 윈도우들에 대한 개방 또는 폐쇄를 제어할 수 있다.
에어백 구동부(757)는, 차량 내의 에어백 장치(airbag apparatus)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 위험시, 에어백이 터지도록 제어할 수 있다.
썬루프 구동부(758)는, 차량 내의 썬루프 장치(sunroof apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 썬루프의 개방 또는 폐쇄를 제어할 수 있다.
서스펜션 구동부(759)는, 차량 내의 서스펜션 장치(suspension apparatus)(미도시)에 대한 전자식 제어를 수행할 수 있다. 예를 들면, 도로면에 굴곡이 있는 경우, 서스펜션 장치를 제어하여, 차량의 진동이 저감되도록 제어할 수 있다.
메모리(730)는, 제어부(770)와 전기적으로 연결된다. 메모리(770)는 유닛에 대한 기본데이터, 유닛의 동작제어를 위한 제어데이터, 입출력되는 데이터를 저장할 수 있다. 메모리(790)는, 하드웨어적으로, ROM, RAM, EPROM, 플래시 드라이브, 하드 드라이브 등과 같은 다양한 저장기기 일 수 있다. 메모리(730)는 제어부(770)의 처리 또는 제어를 위한 프로그램 등, 차량 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
인터페이스부(780)는, 차량에 연결되는 다양한 종류의 외부 기기와의 통로 역할을 수행할 수 있다. 예를 들면, 인터페이스부(780)는 이동 단말기(600)와 연결 가능한 포트를 구비할 수 있고, 상기 포트를 통해, 이동 단말기(600)와 연결할 수 있다. 이 경우, 인터페이스부(780)는 이동 단말기(600)와 데이터를 교환할 수 있다.
한편, 인터페이스부(780)는 연결된 이동 단말기(600)에 전기 에너지를 공급하는 통로 역할을 수행할 수 있다. 이동 단말기(600)가 인터페이스부(780)에 전기적으로 연결되는 경우, 제어부(770)의 제어에 따라, 인터페이스부(780)는 전원부(790)에서 공급되는 전기 에너지를 이동 단말기(600)에 제공한다.
제어부(770)는, 차량 내의 각 유닛의 전반적인 동작을 제어할 수 있다. 제어부(770)는 ECU(Electronic Control Unit)로 명명될 수 있다.
이러한 제어부(770)은 제어장치(100)의 실행 신호 전달에 따라서, 전달된 신호에 대응되는 기능을 실행할 수 있다.
제어부(770)는, 하드웨어적으로, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 프로세서(processors), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
제어부(770)는 전술한 프로세서(170)의 역할을 위임할 수 있다. 즉, 제어장치(100)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시 예에서는 제어장치(100)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다.
또는, 제어부(770)는 프로세서(170)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.
전원부(790)는, 제어부(770)의 제어에 따라, 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다. 특히, 전원부(770)는, 차량 내부의 배터리(미도시) 등으로부터 전원을 공급받을 수 있다.
AVN(Audio Video Navigation) 장치(400)는 제어부(770)와 데이터를 교환할 수 있다. 제어부(770)는 AVN 장치(400) 또는 별도의 내비게이션 장치(미도시)로부터 내비게이션 정보를 수신할 수 있다. 여기서, 여기서, 내비게이션 정보는 설정된 목적지 정보, 상기 목적지에 따른 경로 정보, 차량 주행과 관련한, 맵(map) 정보 또는 차량 위치 정보를 포함할 수 있다.
도 3을 참조하면, 이러한 제어장치(100)는 입력부(110), 통신부(120), 인터페이스부(130), 메모리(140), 센서부(155), 프로세서(170), 디스플레이부(180), 오디오 출력부(185) 및 전원 공급부(190)를 포함할 수 있다. 다만, 도 3에 도시된 제어장치(100)의 유닛들은 제어장치(100)를 구현하는데 있어서 필수적인 것은 아니어서, 본 명세서 상에서 설명되는 제어장치(100)는 위에서 열거된 구성요소들 보다 많거나, 또는 적은 구성요소들을 가질 수 있다. 여기서, 제어장치(100)에 포함되는 유닛과, 차량에 기재된 유닛 중 동일한 명칭을 갖는 유닛은, 차량에 포함되거나 제어장치(100)에 포함되는 것 중 어느 하나일 수 있다.
각 구성에 대해 상세히 설명하면, 제어장치(100)는 사용자의 입력을 감지하는 입력부(110)를 포함할 수 있다.
예를 들어, 사용자는, 입력부(110)를 통해 제어장치(100)가 제공하는 차량 운전 보조기능에 대한 설정 입력을 하거나, 제어장치(100)의 전원을 온(on)/오프(off)시키는 실행 입력 등을 할 수 있다.
이러한 입력부(110)는 사용자 제스쳐를 감지하는 제스쳐 입력부(예를 들어 (optical sensor) 등), 터치를 감지하는 터치 입력부(예를 들어, 터치 센서(touch sensor), 터치키(touch key), 푸시키(mechanical key) 등) 및 음성 입력을 감지하는 마이크로폰(microphone) 중 적어도 하나 이상을 포함하여, 사용자 입력을 감지할 수 있다.
다음으로, 제어장치(100)는 타차량(510), 단말기(600) 및 서버(500) 등과 통신하는 통신부(120)를 포함할 수 있다.
제어장치(100)는, 통신부(120)를 통해 내비게이션(Navigation) 정보, 타차량 주행정보 및 교통 정보 중 적어도 하나의 정보를 포함하는 통신 정보를 수신할 수 있다. 반대로, 제어장치(100)는, 통신부(120)를 통해 본 차량에 대한 정보를 송신할 수도 있다.
자세히, 통신부(120)는 이동 단말기(600) 또는/및 서버(500)로부터 위치 정보, 날씨 정보 및 도로의 교통 상황 정보(예를 들면, TPEG(Transport Protocol Expert Group) 등) 중 적어도 하나의 정보를 수신할 수 있다.
또한, 통신부(120)는 지능형 교통 시스템(ITS)을 갖춘 서버(500)로부터 교통 정보를 수신할 수 있다. 여기서, 교통 정보는 교통 신호 정보, 차선 정보, 차량 주변 정보 또는 위치 정보 등을 포함할 수 있다.
또한, 통신부(120)는 서버(500) 또는/및 이동 단말기(600)로부터 내비게이션 정보를 송신할 수도 있다. 여기서, 내비게이션 정보는, 차량 주행과 관련된 지도(map) 정보, 차선 정보, 차량의 위치 정보, 설정된 목적지 정보 및 목적지에 따른 경로 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
예를 들어, 통신부(120)는 내비게이션 정보로 차량의 실시간 위치를 수신할 수 있다. 자세히, 통신부(120)는 GPS(Global Positioning System) 모듈 또는/및 WiFi(Wireless Fidelity) 모듈을 포함하여 차량의 위치를 획득할 수 있다.
또한, 통신부(120)는, 타차량(510)으로부터 타차량(510)의 주행정보를 수신하고 본 차량의 정보를 송신하여, 차량간 주행정보를 서로 공유할 수 있다. 여기서, 서로 공유하는 주행정보는, 차량의 이동방향 정보, 위치 정보, 차속 정보, 가속도 정보, 이동경로 정보, 전진/후진 정보, 인접차량 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 사용자가 차량에 탑승한 경우, 사용자의 이동 단말기(600)와 제어장치(100)는 자동으로 또는 사용자의 애플리케이션 실행에 의해 서로 페어링(pairing)을 수행할 수도 있다.
이러한 통신부(120)는 타차량(510), 이동 단말기(600) 또는 서버(500)와 무선(wireless) 방식으로 데이터를 교환할 수 있다.
자세히, 통신부(120)는 무선테이터 통신 방식을 이용하여 무선 통신할 수 있다. 무선 데이터 통신 방식으로는 이동통신을 위한 기술표준들 또는 통신방식(예를 들어, GSM(Global System for Mobile communication), CDMA(Code Division Multi Access), CDMA2000(Code Division Multi Access 2000), EV-DO(Enhanced Voice-Data Optimized or Enhanced Voice-Data Only), WCDMA(Wideband CDMA), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등)을 이용할 수 있다.
또한, 통신부(120)는 무선 인터넷 기술을 이용할 수 있으며, 예를 들어, 무선 인터넷 기술로 WLAN(Wireless LAN), Wi-Fi(Wireless-Fidelity), Wi-Fi(Wireless Fidelity) Direct, DLNA(Digital Living Network Alliance), WiBro(Wireless Broadband), WiMAX(World Interoperability for Microwave Access), HSDPA(High Speed Downlink Packet Access), HSUPA(High Speed Uplink Packet Access), LTE(Long Term Evolution), LTE-A(Long Term Evolution-Advanced) 등을 이용할 수 있다.
또한, 통신부(120)는 근거리 통신(Short range communication)을 이용할 수 있으며, 예를 들어, 블루투스(Bluetooth™), RFID(Radio Frequency Identification), 적외선 통신(Infrared Data Association; IrDA), UWB(Ultra Wideband), ZigBee, NFC(Near Field Communication), Wi-Fi(Wireless-Fidelity), Wi-Fi Direct, Wireless USB(Wireless Universal Serial Bus) 기술 중 적어도 하나를 이용하여, 근거리 통신을 지원할 수 있다.
또한, 제어장치(100)는 근거리 통신 방식을 이용하여 차량 내부의 이동 단말기와 페어링(paring)하고, 이동 단말기의 장거리 무선 통신 모듈을 이용하여 타차량(510) 또는 서버(500) 등과 무선으로 데이터를 교환할 수도 있다.
다음으로, 제어장치(100)는 차량의 데이터를 수신하거나 프로세서(170)에서 처리 또는 생성된 신호를 외부로 전송하는 인터페이스부(130)를 포함할 수 있다.
자세히, 제어장치(100)는 인터페이스부(130)를 통해 타차량 주행정보, 내비게이션 정보 및 센서 정보 중 적어도 하나의 정보를 수신할 수 있다.
또한, 제어장치(100)는 인터페이스부(130)를 통해 차량 운전 보조기능 실행을 위한 제어 신호나, 제어장치(100)에서 생성한 정보 등을 차량의 제어부(770)에 송신할 수 있다.
이를 위해, 인터페이스부(130)는 유선 통신 또는 무선 통신 방식에 의해 차량 내부의 제어부(770), AVN(Audio Video Navigation) 장치(400) 및 센싱부(760) 중 적어도 하나와 데이터 통신을 수행할 수 있다.
자세히, 인터페이스부(130)는 제어부(770), AVN 장치(400) 또는/및 별도의 내비게이션 장치와의 데이터 통신에 의해 내비게이션 정보를 수신할 수 있다.
또한, 인터페이스부(130)는 제어부(770) 또는 센싱부(760)로부터 센서 정보를 수신할 수 있다.
여기서, 센서 정보는 차량의 방향 정보, 위치 정보, 차속 정보, 가속도 정보, 기울기 정보, 전진/후진 정보, 연료 정보, 전후방 차량과의 거리 정보, 차량과 차선과의 거리 정보 및 턴 시그널 정보 중 적어도 하나 이상의 정보를 포함할 수 있다.
또한, 센서 정보는 헤딩 센서(heading sensor), 요 센서(yaw sensor), 자이로 센서(gyro sensor), 포지션 모듈(position module), 차량 전진/후진 센서, 휠 센서(wheel sensor), 차량 속도 센서, 차체 경사 감지센서, 배터리 센서, 연료 센서, 타이어 센서, 핸들 회전에 의한 스티어링 센서, 차량 내부 온도 센서, 차량 내부 습도 센서, 도어 센서 등으로부터 획득될 수 있다. 한편, 포지션 모듈은, GPS 정보 수신을 위한 GPS 모듈을 포함할 수 있다.
그리고 인터페이스부(130)는 차량의 사용자 입력부(110)를 통해 수신되는 사용자 입력을 수신할 수 있다. 인터페이스부(130)는 사용자 입력을 차량의 입력부로부터 수신하거나 제어부(770)를 거쳐 수신할 수 있다. 즉, 입력부가 차량 자체 내에 구성으로 배치된 경우, 인터페이스부(130)를 통해 사용자 입력을 전달받을 수 있다.
또한, 인터페이스부(130)는 서버(500)로부터 획득된 교통 정보를 수신할 수도 있다. 서버(500)는 교통을 관제하는 교통 관제소에 위치하는 서버일 수 있다. 예를 들면, 차량의 통신부(120)를 통해 서버(500)로부터 교통 정보가 수신되는 경우 인터페이스부(130)는 교통 정보를 제어부(770)로부터 수신할 수도 있다.
다음, 메모리(140)는 프로세서(170)의 처리 또는 제어를 위한 프로그램 등 제어장치(100) 전반의 동작을 위한 다양한 데이터를 저장할 수 있다.
또한, 메모리(140)는 제어장치(100)에서 구동되는 다수의 응용 프로그램(application program 또는 애플리케이션(application)), 제어장치(100)의 동작을 위한 데이터들, 명령어들을 저장할 수 있다. 이러한 응용 프로그램 중 적어도 일부는, 무선 통신을 통해 외부 서버로부터 다운로드 될 수 있다. 또한 이러한 응용 프로그램 중 적어도 일부는, 제어장치(100)의 기본적인 기능(예를 들어, 운전 보조정보 안내 기능)을 위하여 출고 당시부터 제어장치(100) 상에 존재할 수 있다.
그리고 이러한 응용 프로그램은, 메모리(140)에 저장되고, 프로세서(170)에 의하여 제어장치(100)의 동작(또는 기능)을 수행하도록 구동될 수 있다.
한편, 메모리(140)는 영상에 포함되는 오브젝트 확인을 위한 데이터를 저장할 수 있다. 예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 차량 주변 영상에서, 소정 오브젝트가 검출되는 경우, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
예를 들면, 메모리(140)는, 카메라(160)를 통해 획득된 영상에 차선, 교통 표지판, 이륜차, 보행자와 같은 소정의 오브젝트가 포함되면, 소정 알고리즘에 의해, 상기 오브젝트가 무엇에 해당하는지 확인하기 위한 데이터를 저장할 수 있다.
이러한 메모리(140)는 하드웨어적으로, 플래시 메모리 타입(flash memory type), 하드디스크 타입(hard disk type), SSD 타입(Solid State Disk type), SDD 타입(Silicon Disk Drive type), 멀티미디어 카드 마이크로 타입(multimedia card micro type), 카드 타입의 메모리(예를 들어 SD 또는 XD 메모리 등), 램(random access memory; RAM), SRAM(static random access memory), 롬(read-only memory; ROM), EEPROM(electrically erasable programmable read-only memory), PROM(programmable read-only memory), 자기 메모리, 자기 디스크 및 광디스크 중 적어도 하나의 타입의 저장매체를 포함할 수 있다.
또한, 제어장치(100)는 인터넷(internet)상에서 메모리(140)의 저장 기능을 수행하는 웹 스토리지(web storage)와 관련되어 동작될 수도 있다.
다음으로, 모니터링부는 차량 내부 상황에 대한 정보를 획득할 수 있다.
모니터링부가 감지하는 정보는, 안면 인식 정보, 지문 인식(Fingerprint) 정보, 홍채 인식(Iris-scan) 정보, 망막 인식(Retina-scan) 정보, 손모양(Hand geo-metry) 정보, 음성 인식(Voice recognition) 정보 중 적어도 하나 이상의 정보를 포함할 수 있다. 그리고 모니터링부는 이러한 생체 인식 정보를 센싱하는 기타 센서들을 포함할 수 있다.
다음으로, 제어장치(100)는 차량 주변 오브젝트를 감지하는 센서부(155)를 더 포함할 수 있다. 제어장치(100)는, 별도의 센서부(155)를 포함하여 주변 오브젝트를 감지할 수 있으며, 차량의 센싱부(770)에서 얻어진 센서 정보를 인터페이스부(130)를 통해 수신할 수도 있다. 그리고 이와 같이 획득된 센서 정보는, 차량 주변 정보에 포함될 수 있다.
이러한 센서부(155)는 차량 주변에 위치한 오브젝트의 위치를 감지하는 거리 센서(150)와, 차량 주변을 촬영하여 영상을 획득하는 카메라(160) 중 적어도 하나를 포함할 수 있다.
먼저, 거리 센서(150)는 본 차량에서 오브젝트의 위치, 오브젝트가 이격된 방향, 이격거리 또는 오브젝트의 이동 방향 등을 정밀하게 감지할 수 있다. 이러한 거리 센서(150)는 감지된 오브젝트와의 위치를 지속적으로 측정하여, 본 차량과의 위치관계에 대한 변화를 정확하게 감지할 수 있다.
이러한 거리 센서(150)는 차량의 전후좌우 중 적어도 하나의 영역에 위치한 오브젝트를 감지할 수 있다. 이를 위해, 거리 센서(150)는 차량의 다양한 위치에 배치될 수 있다.
자세히, 도 3을 참조하면, 거리 센서(150)는 차량의 바디의 전후좌우 및 천장 중 적어도 하나의 위치에 배치될 수 있다.
이러한 거리 센서(150)는, 라이다(lidar) 센서, 레이저(laser) 센서, 초음파(ultrasonic waves) 센서 및 스테레오 카메라(stereo camera) 등 다양한 거리 측정 센서 중 하나 이상을 포함할 수 있다.
예를 들어, 거리 센서(150)는 레이저 센서로서, 레이저 신호 변조 방법에 따라 시간 지연 방식(time-of-flight, TOF) 또는/및 위상 변조 방식(phase-shift) 등을 사용하여, 차량과 오브젝트 사이의 위치 관계를 정확히 측정할 수 있다.
한편, 오브젝트에 대한 정보는, 카메라(160)가 촬영한 영상을 프로세서(170)가 분석하여 획득될 수 있다.
자세히, 제어장치(100)는, 카메라(160)로 차량 주변을 촬영하고, 획득된 차량 주변 영상을 프로세서(170)가 분석하여 차량 주변 오브젝트를 검출하고, 오브젝트의 속성을 판단하여, 센서 정보를 생성할 수 있다.
여기서, 영상 정보는, 오브젝트의 종류, 오브젝트가 표시하는 교통 신호 정보, 오브젝트와 차량 사이의 거리 및 오브젝트의 위치 중 적어도 하나의 정보로서, 센서 정보에 포함될 수 있다.
자세히, 프로세서(170)는 이미지 처리를 통해 촬영된 영상에서 오브젝트를 검출하고, 오브젝트를 트래킹하고, 오브젝트와의 거리를 측정하고, 오브젝트를 확인하는 등의 오브젝트 분석을 수행함으로써, 영상 정보를 생성할 수 있다.
이러한 카메라(160)는 다양한 위치에 구비될 수 있다.
자세히, 카메라(160)는 차량 내부에서 차량의 전방을 촬영하여 전방 영상을 획득하는 내측 카메라(160f)를 포함할 수 있다.
또한, 도 3을 참조하면, 복수의 카메라(160)는, 각각 차량의 좌측, 후방, 우측, 전방 및 천장 중 적어도 하나 이상의 위치에 각각 배치될 수 있다.
자세히, 좌측 카메라(160b)는, 좌측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는, 좌측 카메라(160b)는, 좌측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 좌측 카메라(160b)는 좌측 프런트 도어, 좌측 리어 도어 또는 좌측 휀더(fender) 외측 일 영역에 배치될 수 있다.
우측 카메라(160c)는, 우측 사이드 미러를 둘러싸는 케이스 내에 배치될 수 있다. 또는 우측 카메라(160c)는, 우측 사이드 미러를 둘러싸는 케이스 외부에 배치될 수 있다. 또는, 우측 카메라(160c)는 우측 프런트 도어, 우측 리어 도어 또는 우측 휀더(fendere) 외측 일 영역에 배치될 수 있다.
또한, 후방 카메라(160d)는, 후방 번호판 또는 트렁크 스위치 부근에 배치될 수 있다. 전방 카메라(160a)는, 앰블럼 부근 또는 라디에이터 그릴 부근에 배치될 수 있다.
한편, 프로세서(170)는 사방에서 촬영된 영상을 합성하여 차량을 탑뷰에서 바라본 어라운드 뷰 이미지를 제공할 수 있다. 어라운드 뷰 이미지 생성시, 각 이미지 영역 사이의 경계 부분이 발생한다. 이러한 경계 부분은 이미지 블렌딩(blending) 처리하여 자연스럽게 표시될 수 있다.
또한, 천장 카메라(160e)는 차량의 천장 상에 배치되어 차량의 전후좌우 방향을 모두 촬영할 수도 있다.
이러한 카메라(160)는 이미지 센서와 영상 처리 모듈을 직접 포함할 수도 있다. 카메라(160)는 이미지 센서(예를 들면, CMOS 또는 CCD)에 의해 얻어지는 정지영상 또는 동영상을 처리할 수 있다. 또한, 영상 처리 모듈은 이미지 센서를 통해 획득된 정지영상 또는 동영상을 가공하여, 필요한 영상 정보를 추출하고, 추출된 영상 정보를 프로세서(170)에 전달할 수도 있다.
프로세서(170)가 오브젝트 분석을 좀더 수월하게 수행하기 위해, 실시예에서, 카메라(160)는 영상을 촬영함과 동시에 오브젝트와의 거리를 측정하는 스테레오 카메라일 수 있다.
센서부(155)는, 거리 센서(150)와 카메라(160)가 결합된 스테레오 카메라일 수 있다. 즉, 스테레오 카메라는 영상을 획득함과 동시에 오브젝트와의 위치 관계를 감지할 수 있다.
도 5를 참조하면, 스테레오 카메라(160)는 제1 렌즈(163a)를 구비하는 제1 카메라(160a), 제2 렌즈(163b)를 구비하는 제2 카메라(160b)를 포함할 수 있다.
한편, 차량 운전 보조 장치는, 각각, 제1 렌즈(163a)와 제2 렌즈(163b)에 입사되는 광을 차폐하기 위한, 제1 광 차폐부(light shield)(162a), 제2 광 차폐부(162b)를 더 구비할 수 있다.
이러한 차량 운전 보조 장치는 제1 및 제2 카메라(160a, 160b)로부터, 차량 주변에 대한 스테레오 이미지를 획득하고, 스테레오 이미지에 기초하여, 디스패러티(disparity) 검출을 수행하고, 디스패러티 정보에 기초하여, 적어도 하나의 스테레오 이미지에 대한, 오브젝트 검출을 수행하며, 오브젝트 검출 이후, 계속적으로, 오브젝트의 움직임을 트래킹할 수 있다.
다음으로, 제어장치(100)는, 그래픽 이미지를 표시하는 디스플레이부(180)를 더 포함할 수 있다. 디스플레이부(180)는 복수의 디스플레이를 포함할 수 있다. 디스플레이부(180)는 차량의 윈드실드(W)(windshield)에 그래픽 이미지를 투사하여 표시하는 제 1 디스플레이부(180a)를 포함할 수 있다. 즉, 제 1 디스플레이부(180a)는 HUD(Head Up Display)로, 윈드실드(W)에 그래픽 이미지를 투사하는 투사 모듈을 포함할 수 있다. 그리고 투사 모듈이 투사하는 투사 그래픽 이미지는 일정 투명도를 가질 수 있다. 따라서, 사용자는 그래픽 이미지 뒤 모습과 그래픽 이미지를 동시에 볼 수도 있다.
그리고 이러한 그래픽 이미지는 윈드실드(W)에 투영되는 투영 이미지와 겹쳐셔 증강현실(Augmented Reality, AR)을 이룰 수도 있다.
한편, 디스플레이부는 차량 내부에 별도로 설치되어 차량 운전 보조기능에 대한 이미지를 디스플레이하는 제 2 디스플레이부(180b)와 제3 디스플레이부(180c)를 포함할 수 있다.
자세히, 제 2 디스플레이부(180b)는 차량 내비게이션 장치의 디스플레이 또는 CID(center information display)일 수 있다. 제3 디스플레이부(180c)는 클러스터(cluster)일 수 있다.
제 2 디스플레이부(180b) 및 제3 디스플레이부(180c)는 액정 디스플레이(liquid crystal display, LCD), 박막 트랜지스터 액정 디스플레이(thin film transistor-liquid crystal display, TFT LCD), 유기 발광 다이오드(organic light-emitting diode, OLED), 플렉서블 디스플레이(flexible display), 3차원 디스플레이(3D display), 전자잉크 디스플레이(e-ink display) 중에서 적어도 하나를 포함할 수 있다.
이러한 제 2 디스플레이부(180b) 및 제3 디스플레이부(180c)는 제스쳐 입력부와 결합되어 터치 스크린을 이룰 수 있다.
다음으로, 오디오 출력부(185)는 제어장치(100)의 기능에 대한 설명, 실행 여부 등을 확인하는 메시지를 오디오로 출력할 수 있다. 즉, 제어장치(100)는, 디스플레이부(180)를 통한 시각적인 표시와 더불어 오디오 출력부(185)의 음향 출력을 통해 제어장치(100)의 기능에 대한 설명을 서로 보완할 수 있다.
다음으로, 햅틱 출력부는 차량 운전 보조기능에 대한 알람을 햅틱으로 출력할 수 있다. 예를 들어, 제어장치(100)는, 내비게이션 정보, 교통 정보, 통신 정보, 차량 상태 정보, 운전 보조기능(ADAS) 정보 및 기타 운전자 편의 정보 중 적어도 하나의 정보에 운전자에게 경고가 포함되면, 이를 진동으로 사용자에게 알릴 수 있다.
이러한 햅틱 출력부는, 방향성을 갖는 진동을 제공할 수 있다. 예를 들어, 햅틱 출력부는, 조향을 제어하는 스티어링에 배치되어 진동을 출력할 수 있으며, 진동 제공시 스티어링의 좌우를 구분하여 진동을 출력함으로써, 햅틱 출력의 방향성을 부여할 수 있다.
또한, 전원 공급부(190)는 프로세서(170)의 제어에 의해 외부의 전원, 내부의 전원을 인가 받아 각 구성요소들의 동작에 필요한 전원을 공급할 수 있다.
제어장치(100)는 제어장치(100) 내의 각 유닛의 전반적인 동작을 제어하는 프로세서(170)를 포함할 수 있다.
프로세서(170)는 제어부(770)의 역할을 위임할 수 있다. 즉, 제어장치(100)의 프로세서(170)는 차량의 제어부(770)에 직접 셋팅될 수 있다. 이러한 실시 예에서는 제어장치(100)는 차량의 일부 구성들을 합하여 지칭하는 것으로 이해할 수 있다. 또는, 프로세서(170)는 제어부(770)에서 요청하는 정보를 전송해주도록 구성들을 제어할 수도 있다.
나아가, 프로세서(170)는 상기 응용 프로그램의 구동을 위하여, 제어장치(100)에 포함된 구성요소들 중 적어도 둘 이상을 서로 조합하여 동작시킬 수 있다.
이러한 프로세서(170)는 하드웨어 측면에서, ASICs (application specific integrated circuits), DSPs(digital signal processors), DSPDs(digital signal processing devices), PLDs(programmable logic devices), FPGAs(field programmable gate arrays), 제어기(controllers), 마이크로 컨트롤러(micro-controllers), 마이크로 프로세서(170)(microprocessors), 기타 기능 수행을 위한 전기적 유닛 중 적어도 하나를 이용하여 구현될 수 있다.
그리고 프로세서(170)는 상기 메모리(140)에 저장된 응용 프로그램과 관련된 동작 외에도, 통상적으로 제어장치(100)의 전반적인 동작을 제어한다. 프로세서(170)는 위에서 살펴본 구성요소들을 통해 입력 또는 출력되는 신호, 데이터, 정보 등을 처리하거나 메모리(140)에 저장된 응용 프로그램을 구동함으로써, 사용자에게 적절한 정보 또는 기능을 제공 또는 처리할 수 있다.
주행정보는 차량(700)의 주행모드, 차량(700)의 상태, 주행상태, 차량(700)의 이동방향, 차량(700)의 주변상황, 차량(700) 내부의 상황 등을 포함할 수 있다.
주행모드는 차량(700)의 운행이 운전자의 수동으로 이루어지는지, 차량(700)의 운행이 프로세서(170)에 의해 자동으로 이루어지는지 또는 차량(700)의 운행이 부분적으로 운전자의 수동으로 이루어지고 나머지가 프로세서(170)에 의해 자동으로 이루어지는지에 따라 구별될 수 있다.
탑승자(910)는 운전석(S1)에 위치하는 경우, 운전자(910)라고 칭할 수 있다. 탑승자가 조수석에 위치하는 경우, 동승자라고 칭할 수 있다.
프로세서(170)는 차량(700) 내부에 설치되는 카메라(160h)를 통해 차량(700) 내부를 모니터링 할 수 있다. 또한, 프로세서(170)는 차량(700) 내부에 설치되는 카메라(160h)를 통해 탑승자(910)를 모니터링 할 수 있다.
프로세서(170)는 카메라(160h)를 통해 탑승자(910)의 시선을 모니터링 할 수 있다. 프로세서(170)는 카메라(160h)를 통해 탑승자(910)의 시선의 방향을 모니터링 할 수 있다.
프로세서(170)는 카메라(160h)를 통해 탑승자(910)의 팔 또는 손을 모니터링 할 수 있다. 프로세서(170)는 카메라(160h)를 통해 탑승자(910)의 손끝 또는 손가락이 향하는 방향을 모니터링 할 수 있다. 프로세서(170)는 탑승자(910)가 차량(700) 내부를 터치하는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)가 가리키는 방향에 위치하는 차량(700) 내부의 제어대상, 부품, 부품의 일부 또는 복수의 부품을 감지할 수 있다. 프로세서(170)는 탑승자(910)가 터치한 차량(700) 내부의 제어대상, 부품, 부품의 일부 또는 복수의 부품을 감지할 수 있다.
제어대상은 차량(700)을 제어하는 기능을 수행할 수 있는 모든 종류의 입력수단을 포함할 수 있다. 예를 들어, 제어대상은 차량(700)을 제어하기 위한 버튼, 이미지버튼, 조절버튼, 다이얼, 조그 등을 포함할 수 있다.
프로세서(170)는 카메라(160h)를 통해 차량(700)의 내부를 모니터링 할 수 있다. 프로세서(170)는 카메라(160h)를 통해 탑승자(910)의 시선이 향하는 방향에 위치하는 차량(700) 내부를 모니터링 할 수 있다. 프로세서(170)는 탑승자(910)의 시선이 향하는 방향에 위치하는 차량(700) 내부의 제어대상, 부품, 부품의 일부 또는 복수의 부품을 감지할 수 있다.
프로세서(170)는 차량(700) 내부에 설치되는 마이크(110)를 통해 탑승자(910)의 발화를 수신할 수 있다.
프로세서(170)는 탑승자(910)의 시선을 모니터링 한 결과와 탑승자(910)의 발화에 기초하여 제어대상을 판단할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 하여 탑승자(910)의 시선의 방향에 있는 복수의 제어대상을 감지할 수 있고, 탑승자(910)의 발화에 기초하여 복수의 제어대상 중 어느 하나를 특정할 수 있다.
프로세서(170)는 제어대상이 판단 또는 특정되면, 탑승자(910)의 발화에 기초하여 제어를 수행할 수 있다. 탑승자(910)의 발화가 On-off에 관한 것인 경우, 프로세서(170)는 제어대상을 활성화시키거나 비활성화시킬 수 있다. 제어대상이 활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다. 제어대상이 비활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다. 또는, 탑승자(910)의 발화가 제어대상의 활성화를 조절하는 경우, 프로세서(170)는 제어대상의 제어단위에 기초하여 제어대상의 활성화를 조절할 수 있다.
프로세서(170)는 탑승자(910)가 가리키는 방향을 모니터링 한 결과와 탑승자(910)의 발화에 기초하여 제어대상을 판단할 수 있다. 프로세서(170)는 탑승자(910)가 가리키는 방향을 모니터링 하여 복수의 제어대상을 감지할 수 있고, 탑승자(910)의 발화에 기초하여 복수의 제어대상 중 어느 하나를 특정할 수 있다.
프로세서(170)는 제어대상이 판단 또는 특정되면, 탑승자(910)의 발화에 기초하여 제어를 수행할 수 있다. 탑승자(910)의 발화가 On-off에 관한 것인 경우, 프로세서(170)는 제어대상을 활성화시키거나 비활성화시킬 수 있다. 제어대상이 활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다. 제어대상이 비활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다. 또는, 탑승자(910)의 발화가 제어대상의 활성화를 조절하는 경우, 프로세서(170)는 제어대상의 제어단위에 기초하여 제어대상의 활성화를 조절할 수 있다.
프로세서(170)는 탑승자(910)의 시선을 모니터링 한 결과와 탑승자(910)가 가리키는 방향을 모니터링 한 결과에 기초하여 제어대상을 판단할 수 있다.
프로세서(170)는 제어대상이 판단 또는 특정되면, 프로세서(170)는 제어대상을 활성화시키거나 비활성화시킬 수 있다. 제어대상이 활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다. 제어대상이 비활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다.
프로세서(170)는 탑승자(910)의 시선을 모니터링 한 결과와 탑승자(910)가 차량(700)의 내부를 터치하는 것을 모니터링 한 결과에 기초하여 제어대상을 판단할 수 있다.
프로세서(170)는 제어대상이 판단 또는 특정되면, 프로세서(170)는 제어대상을 활성화시키거나 비활성화시킬 수 있다. 제어대상이 활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다. 제어대상이 비활성화되어 있는 경우, 프로세서(170)는 제어대상을 비활성화시킬 수 있다.
프로세서(170)는 제어대상이 특정되면 디스플레이부(180)를 통해 특정된 제어대상을 표시할 수 있다. 프로세서(170)는 제어대상을 제어하기 위해 추가 입력이 필요한 경우, 디스플레이부(180)에 탑승자(910)의 추가 입력을 요청하는 이미지를 표시할 수 있다. 프로세서(170)는 제어대상을 제어하는 동안 제어가 수행됨을 알리는 이미지를 표시할 수 있다. 프로세서(170)는 제어대상의 제어가 완료되면, 제어가 완료되었음을 알리는 이미지를 표시할 수 있다.
프로세서(170)는 제어대상이 특정되면 오디오 출력부(185)를 통해 특정된 제어대상을 알리는 음향을 출력할 수 있다. 프로세서(170)는 제어대상을 제어하기 위해 추가 입력이 필요한 경우, 탑승자(910)의 추가 입력을 요청하는 음향을 출력할 수 있다. 프로세서(170)는 제어대상을 제어하는 동안 제어가 수행됨을 알리는 음향을 출력할 수 있다. 프로세서(170)는 제어대상의 제어가 완료되면, 제어가 완료되었음을 알리는 음향을 출력할 수 있다.
프로세서(170)는 피드백 유닛(feedback unit, 800)을 제어할 수 있다. 피드백 유닛(800)은 피드백 디바이스(800), 로봇(800), 피드백 로봇(800), 또는 에이전트(800)라고 칭할 수 있다. 피드백 유닛(800)은 차량(700) 내부에 설치될 수 있다. 피드백 유닛(800)은 디스플레이(180b)에 인접할 수 있다.
피드백 유닛(800)은 회전가능하게 설치될 수 있다. 피드백 유닛(800)은 복수의 회전축을 가질 수 있고, 각각의 회전축에 대해 회전할 수 있다.
피드백 유닛(800)은 디스플레이부를 포함할 수 있다. 피드백 유닛(800)은 탑승자(910)의 발화에 응답하여 회전할 수 있다. 구체적으로, 피드백 유닛(800)은 탑승자(910)의 발화에 응답하여, 피드백 유닛(800)의 기준 영역이 탑승자(910)를 바라보도록 회전할 수 있다. 또는, 피드백 유닛(800)은 디스플레이부에 표시되는 기준 영역이 탑승자(910)를 바라보도록 기준 영역의 위치를 변화시켜 표시할 수 있다. 또는, 피드백 유닛(800)은 탑승자(910)의 발화에 응답하여, 피드백 유닛(800)의 기준 영역이 특정된 제어대상을 바라보도록 회전할 수 있다. 또는, 피드백 유닛(800)은 디스플레이부에 표시되는 기준 영역이 특정된 제어대상을 바라보도록 기준 영역의 위치를 변화시켜 표시할 수 있다.
피드백 유닛(800)은 음향을 출력할 수 있다. 피드백 유닛(800)는 제어대상이 특정되면 특정된 제어대상을 알리는 음향을 출력할 수 있다. 피드백 유닛(800)은 제어대상을 제어하기 위해 추가 입력이 필요한 경우, 탑승자(910)의 추가 입력을 요청하는 음향을 출력할 수 있다. 피드백 유닛(800)은 제어대상을 제어하는 동안 제어가 수행됨을 알리는 음향을 출력할 수 있다. 피드백 유닛(800)은 제어대상의 제어가 완료되면, 제어가 완료되었음을 알리는 음향을 출력할 수 있다.
도 7을 참조하면, 탑승자(910)는 에어벤트(904)를 바라보며, “저쪽 에어컨 좀 줄여줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 에어벤트(904) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 에어벤트(904) 임을 특정할 수 있다. 프로세서(170)는 에어벤트(904)의 풍량이 적어지도록 에어벤트(904)를 제어할 수 있다. 피드백 유닛(800)은 에어벤트(904)를 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 에어벤트(904)를 바라보도록 회전할 수 있다.
도 8을 참조하면, 탑승자(910)는 실내등(901)을 바라보며, “실내등 켜줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 실내등(901) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 실내등(901) 임을 특정할 수 있다. 프로세서(170)는 실내등(901)이 켜지도록 실내등(901)을 제어할 수 있다. 피드백 유닛(800)은 실내등(901)을 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 실내등(901)을 바라보도록 회전할 수 있다.
도 9를 참조하면, 탑승자(910)는 전면 유리창(W)을 바라보며, “유리창 습기 제거해줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 전면 유리창(W) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 전면 유리창(W) 임을 특정할 수 있다. 프로세서(170)는 전면 유리창(W)의 습기가 제거될 수 있도록 전면 유리창(W)을 향하는 공조시스템(907) 또는 에어벤트(907)가 켜지도록 공조시스템(907) 또는 에어벤트(907)를 제어할 수 있다. 피드백 유닛(800)은 전면 유리창(W)을 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 전면 유리창(W)을 바라보도록 회전할 수 있다.
도 10을 참조하면, 탑승자(910)는 전면 유리창(W)을 바라보며, “유리창 닦아줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 전면 유리창(W) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 전면 유리창(W) 임을 특정할 수 있다. 프로세서(170)는 전면 유리창(W)의 이물질이 제거될 수 있도록 와이퍼(902)가 작동하도록 와이퍼(902)를 제어할 수 있다. 피드백 유닛(800)은 전면 유리창(W)을 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 전면 유리창(W)을 바라보도록 회전할 수 있다.
도 11을 참조하면, 탑승자(910)는 백미러(903)를 바라보며, “백미러 접어줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 전면 유리창(W) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 백미러(903) 임을 특정할 수 있다. 프로세서(170)는 백미러(903)가 접혀지도록 백미러(903)를 제어할 수 있다. 피드백 유닛(800)은 백미러(903)를 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 백미러(903)를 바라보도록 회전할 수 있다.
도 12를 참조하면, 탑승자(910)는 음향조절부(906)를 바라보며, “볼륨 줄여줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 음향조절부(906)를 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 음향조절부(906) 임을 특정할 수 있다. 프로세서(170)는 재생되는 음향의 볼륨이 줄어들도록 음향조절부(906)를 제어할 수 있다. 피드백 유닛(800)은 음향조절부(906)를 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 음향조절부(906)를 바라보도록 회전할 수 있다.
도 13을 참조하면, 탑승자(910)는 에어벤트(904)를 바라보며, 손으로 에어벤트(904)를 가리킬 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 하여 탑승자(910)가 에어벤트(904) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)의 신체를 모니터링 하여 에어벤트(904) 쪽을 가리키는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 손짓에 기초하여 제어대상이 에어벤트(904) 임을 특정할 수 있다. 프로세서(170)는 에어벤트(904)를 활성화시키거나 적어지도록 제어할 수 있다. 피드백 유닛(800)은 에어벤트(904)를 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 에어벤트(904)를 바라보도록 회전할 수 있다.
도 14를 참조하면, 탑승자(910)는 실내등(901)을 바라보며, 손으로 실내등(901)을 가리킬 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 하여 탑승자(910)가 실내등(901) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)의 신체를 모니터링 하여 에어벤트(904) 쪽을 가리키는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 손짓에 기초하여 제어대상이 실내등(901) 임을 특정할 수 있다. 프로세서(170)는 실내등(901)이 켜지도록 실내등(901)을 제어할 수 있다. 또는, 프로세서(170)는 실내등(901)이 꺼지도록 실내등(901)을 제어할 수 있다. 피드백 유닛(800)은 실내등(901)을 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 실내등(901)을 바라보도록 회전할 수 있다.
도 15를 참조하면, 탑승자(910)는 에어벤트(905)를 바라보며, 손으로 에어벤트(905)를 터치할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 하여 탑승자(910)가 에어벤트(905) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)의 신체를 모니터링 하여 탑승자(910)가 에어벤트(905)를 터치하는 것을 감지할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 손짓에 기초하여 제어대상이 에어벤트(905) 임을 특정할 수 있다. 프로세서(170)는 에어벤트(905)를 활성화시키거나 적어지도록 제어할 수 있다. 피드백 유닛(800)은 에어벤트(905)를 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 에어벤트(905)를 바라보도록 회전할 수 있다.
도 16을 참조하면, 프로세서(170)는 탑승자(910)의 시선을 모니터링 할 수 있다(S1810). 프로세서(170)는 탑승자(910)로부터 제어명령이 입력되었는지 판단할 수 있다(S1820). 제어명령은 탑승자(910)의 발화, 손짓, 터치입력일 수 있다. 프로세서(170)는 제어대상을 결정할 수 있다(S1830). 프로세서(170)는 결정된 제어대상을 제어할 수 있다(S1840).
도 17을 참조하면, 프로세서(170)는 탑승자(910)의 시선을 모니터링 할 수 있다(S1910). 프로세서(170)는 탑승자(910)로부터 제어명령이 입력되었는지 판단할 수 있다(S1920). 제어명령은 탑승자(910)의 발화, 손짓, 터치입력일 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 하는 것을 지속하면서, 제어대상을 결정할 수 있다(S1930). 프로세서(170)는 탑승자(910)의 시선을 모니터링 하는 것을 지속하면서, 결정된 제어대상을 제어할 수 있다(S1940).
도 18을 참조하면, 프로세서(170)는 탑승자(910)의 시선을 모니터링 할 수 있다(S2010). 프로세서(170)는 탑승자(910)로부터 제어명령이 입력되었는지 판단할 수 있다(S2020). 제어명령은 탑승자(910)의 발화, 손짓, 터치입력일 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 하는 것을 지속하면서, 제어대상을 결정할 수 있다(S2030). 프로세서(170)는 탑승자(910)의 시선을 모니터링 하는 것을 지속하면서, 결정된 제어대상을 제어할 수 있다(S2040). 프로세서(170)는 제어가 완료될 때까지, 탑승자(910)의 시선 모니터링 결과에 대해 가중치를 낮출 수 있다(S2050). 이로 인해, 프로세서(170)는 제어가 완료될 때까지 시선 모니터링 결과에 의해 영향받지 않고 제어를 실행할 수 있다.
도 19를 참조하면, 탑승자(910)는 에어벤트(904)를 바라보고, 손으로 에어벤트(904)를 가리키며, “저쪽 에어컨 좀 줄여줘”라고 발화할 수 있다. 탑승자(910)가 모자(908)나 선글라스(909)를 착용하고 있는 경우, 프로세서는 탑승자의 시선을 모니터링하기 어려울 수 있다. 따라서, 프로세서는 탑승자의 발화와 시선에 기초하여 제어대상을 특정하지 못할 수 있다. 이 때, 프로세서는 탑승자(910)의 신체를 모니터링하여 탑승자(910)가 에어벤트(904) 쪽을 가리키는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 손짓과 발화에 기초하여 제어대상이 에어벤트(904) 임을 특정할 수 있다. 프로세서(170)는 에어벤트(904)의 풍량이 적어지도록 에어벤트(904)를 제어할 수 있다. 피드백 유닛(800)은 에어벤트(904)를 향해 회전할 수 있다. 피드백 유닛(800)의 기준영역이 에어벤트(904)를 바라보도록 회전할 수 있다.
도 20을 참조하면, 프로세서(170)는 탑승자(910)의 시선을 모니터링 할 수 있다(S2210). 프로세서(170)는 탑승자(910)로부터 제어명령을 수신할 수 있다(S2220). 제어명령은 탑승자(910)의 발화, 손짓, 터치입력일 수 있다. 프로세서(170)는 시선 모니터링의 정확도가 기준값 이하인지 판단할 수 있다. 시선 모니터링의 정확도가 기준값 이하로 떨어지는 경우, 프로세서(170)는 탑승자(910)의 시선이 향하는 방향을 감지할 수 없다. 프로세서(170)는 시선 모니터링의 정확도가 기준값 이하로 떨어지는 경우, 탑승자(910)로부터 추가 제어명령을 수신할 수 있다(S2240). 프로세서(170)는 제어명령과 추가된 제어명령에 기초하여 제어대상을 특정 또는 결정할 수 있다(S2250). 프로세서(170)는 결정된 제어대상을 제어할 수 있다(S2260).
도 21을 참조하면, 차량(700) 내부의 복수의 탑승자(910, 920)가 위치할 수 있다. 운전자(910)는 에어벤트(904)를 바라보며, “저쪽 에어컨 좀 줄여줘”라고 발화할 수 있다. 프로세서(170)는 운전자(910)의 시선을 모니터링하여 탑승자(910)가 에어벤트(904) 쪽을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(110) 또는 마이크(110)와 카메라(160h)를 통해 어느 탑승자(910)로부터 발화가 이루어졌는지 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 운전자(910)의 발화를 수신할 수 있다. 프로세서(170)는 운전자(910)의 시선과 발화에 기초하여 제어대상이 에어벤트(904) 임을 특정할 수 있다. 프로세서(170)는 에어벤트(904)의 풍량이 적어지도록 에어벤트(904)를 제어할 수 있다. 피드백 유닛(800)은 발화한 탑승자(910) 또는 운전자(910)를 향해 회전할 수 있다.
도 22를 참조하면, 디스플레이부(180)는 탑승자(910)의 입력을 받기 위해, 이미지(951, 952, 953)를 표시할 수 있다. 디스플레이부(180)는 탑승자(910)의 입력을 받기 위해, 표시영역을 분할하여 복수의 이미지(951, 952, 953)를 표시할 수 있다. 탑승자(910)는 복수의 이미지(951, 952, 953) 중 특정 이미지를 바라보며 제어명령을 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링 한 결과와 탑승자(910)의 발화 명령에 기초하여, 탑승자(910)가 어느 이미지에 대해 제어명령 한 것인지 판단할 수 있다.
도 23을 참조하면, 탑승자(910)는 디스플레이부(180)의 특정 영역(930)을 바라보며, “저기에 네비게이션 표시해줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 특정 영역(930)을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 디스플레이부(180)의 특정 영역(930) 임을 특정할 수 있다. 프로세서(170)는 특정 영역(930)에 네비게이션(930a)이 표시되도록 디스플레이부(180)를 제어할 수 있다.
도 24를 참조하면, 탑승자(910)는 디스플레이부(180)의 특정 영역(940)을 바라보며, “저기에 남은 전력 표시해줘”라고 발화할 수 있다. 프로세서(170)는 탑승자(910)의 시선을 모니터링하여 탑승자(910)가 특정 영역(940)을 바라보는 것을 감지할 수 있다. 프로세서(170)는 마이크(170)를 통해 탑승자(910)의 발화를 수신할 수 있다. 프로세서(170)는 탑승자(910)의 시선과 발화에 기초하여 제어대상이 디스플레이부(180)의 특정 영역(940) 임을 특정할 수 있다. 프로세서(170)는 특정 영역(940)에 기 표시된 온도에 관한 이미지(940a)를 남은 전력을 표시하는 이미지(940b)로 가변할 수 있다.
본 발명은 다음의 실시 예를 포함할 수 있다.
실시예 1: 카메라를 통해 차량 내부에 위치하는 탑승자의 시선을 모니터링하는 단계; 입력수단을 통해 상기 탑승자로부터 제어명령을 입력받는 단계; 상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하는 단계; 그리고, 상기 제어명령에 기초하여 상기 제어대상을 제어하는 단계를 포함하는 제어방법.
실시예 2: 실시예 1에 있어서, 상기 제어대상을 결정하는 단계는: 상기 탑승자의 시선의 모니터링 결과에 기초하여, 복수의 제어대상을 탐색하는 단계; 그리고, 상기 탑승자의 상기 제어명령에 기초하여, 상기 복수의 제어대상 중 어느 하나를 특정하는 단계를 더 포함하는 제어방법.
실시예 3: 실시예 1에 있어서, 상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링을 지속하는 단계를 더 포함하는 제어방법.
실시예 4: 실시예 3에 있어서, 상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링 결과와 관계없이 상기 제어대상을 제어하는 제어방법.
실시예 5: 실시예 1에 있어서, 상기 입력수단은 상기 차량 내부에 설치되는 마이크이고, 상기 마이크를 통해 상기 탑승자의 발화를 입력받는 단계를 더 포함하는 제어방법.
실시예 6: 실시예 5에 있어서,
상기 제어명령에 기초하여 상기 제어대상의 제어가 실행되면, 상기 탑승자의 시선의 모니터링 결과의 가중치를 낮추고, 상기 마이크를 통해 입력받는 상기 탑승자의 발화의 가중치를 높이는 단계를 더 포함하는 제어방법.
실시예 6-1: 실시예 1에 있어서, 상기 입력수단은 상기 카메라이고, 상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 상기 제어명령으로 입력받는 단계; 그리고, 상기 제어대상을 결정하는 단계는, 상기 탑승자의 터치입력 또는 제스쳐 중 적어도 어느 하나와 상기 탑승자의 시선의 모니터링 결과에 기초하여 상기 제어대상을 결정하는 단계인 것을 특징으로 하는 제어방법.
실시예 7: 실시예 1에 있어서, 상기 입력수단은 상기 카메라와 상기 차량 내부에 설치되는 마이크를 포함하고, 상기 마이크를 통해, 상기 탑승자의 발화를 제1 제어명령으로 입력받는 단계; 상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 제2 제어명령으로 입력받는 단계; 그리고, 상기 탑승자의 시선의 모니터링 결과의 정확도가 기준치 이하인 경우, 상기 제1 제어명령과 상기 제2 제어명령에 기초하여, 상기 제어대상을 결정하는 단계를 포함하는 제어방법.
실시예 8: 실시예 1에 있어서, 상기 차량의 내부에 설치되고, 기준영역을 포함하는 피드백 유닛을 통해 상기 탑승자에게 피드백을 제공하는 단계를 더 포함하는 제어방법.
실시예 9: 실시예 8에 있어서, 상기 제어대상이 결정되면, 상기 기준영역이 상기 제어대상을 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함하는 제어방법.
실시예 10: 실시예 8에 있어서, 상기 제어대상의 제어가 완료되면, 상기 기준영역이 상기 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함하는 제어방법.
실시예 11: 실시예 8에 있어서, 상기 탑승자는 제1 탑승자와 제2 탑승자를 포함하고, 상기 제2 탑승자로부터 상기 제어명령을 입력받으면, 상기 기준영역이 상기 제2 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함하는 제어방법.
실시예 12: 실시예 1에 있어서, 상기 제어대상이 결정되면, 상기 제어대상과 관련된 이미지를 상기 차량의 내부의 디스플레이부에 표시하는 단계를 더 포함하는 제어방법.
실시예 13: 실시예 1에 있어서, 상기 제어대상의 제어가 실행되면, 상기 제어대상과 관련된 이미지를 상기 차량의 내부의 디스플레이부에 표시하는 단계를 더 포함하는 제어방법.
실시예 14: 실시예 1에 있어서, 상기 제어대상이 상기 차량의 내부의 디스플레이부로 결정되고, 상기 탑승자의 시선의 모니터링 결과가 상기 디스플레이부의 제1 영역인 경우, 상기 제어명령에 기초하여 상기 제1 영역에 이미지를 표시하는 단계를 더 포함하는 제어방법.
실시예 15: 실시예 14에 있어서, 상기 제1 영역에 이미지가 표시된 후, 상기 탑승자의 시선을 모니터링하여 제2 모니터링 결과를 획득하는 단계; 상기 탑승자로부터 제2 제어명령을 입력받는 단계; 그리고, 상기 제2 결과와 상기 제2 제어명령에 기초하여 제2 제어대상이 상기 디스플레이부의 제2 영역으로 결정되면, 상기 제2 제어명령에 기초하여 상기 제2 영역에 이미지를 표시하는 단계를 더 포함하는 제어방법.
실시예 16: 실시예 1에 있어서, 상기 차량의 내부에 설치되는 음향출력부를 통해 상기 탑승자에게 피드백을 제공하는 단계를 더 포함하는 제어방법.
실시예 17: 탑승자의 시선을 모니터링 하는 카메라 및 상기 탑승자로부터 제어명령을 수신하는 입력수단과 연결되는 인터페이스부; 그리고, 상기 인터페이스부를 통해 상기 카메라 및 상기 입력수단과 정보를 교환하는 프로세서를 포함하고, 상기 프로세서는, 상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하고, 상기 제어명령에 기초하여 상기 제어대상을 제어하는 제어장치.
실시예 18: 실시예 17에 있어서, 상기 프로세서는, 상기 탑승자의 시선의 모니터링 결과에 기초하여, 복수의 제어대상을 탐색하고, 상기 탑승자의 상기 제어명령에 기초하여, 상기 복수의 제어대상 중 어느 하나를 특정하는 제어장치.
실시예 19: 실시예 17에 있어서, 상기 프로세서는, 상기 제어대상이 특정되면, 상기 탑승자의 시선의 모니터링을 지속하는 제어장치.
실시예 20: 실시예 19에 있어서, 상기 프로세서는, 상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링 결과와 관계없이 상기 제어대상을 제어하는 제어장치.
실시예 21: 실시예 17에 있어서, 상기 입력수단은 차량 내부에 설치되는 마이크이고, 상기 프로세서는, 상기 마이크를 통해 상기 탑승자의 발화를 입력받는 제어장치.
실시예 22: 실시예 21에 있어서, 상기 프로세서는, 상기 제어명령에 기초하여 상기 제어대상의 제어가 실행되면, 상기 탑승자의 시선의 모니터링 결과의 가중치를 낮추고, 상기 마이크를 통해 입력받는 상기 탑승자의 발화의 가중치를 높이는 제어장치.
실시예 23: 실시예 17에 있어서, 상기 입력수단은 상기 카메라이고, 상기 프로세서는, 상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 상기 제어명령으로 입력받고, 상기 탑승자의 터치입력 또는 제스쳐 중 적어도 어느 하나와 상기 탑승자의 시선의 모니터링 결과에 기초하여 상기 제어대상을 결정하는 제어장치.
실시예 24: 실시예 17에 있어서, 상기 입력수단은 상기 카메라와 상기 차량 내부에 설치되는 마이크를 포함하고, 상기 프로세서는, 상기 마이크를 통해, 상기 탑승자의 발화를 제1 제어명령으로 입력받고, 상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 제2 제어명령으로 입력받고, 상기 탑승자의 시선의 모니터링 결과의 정확도가 기준치 이하인 경우, 상기 제1 제어명령과 상기 제2 제어명령에 기초하여, 상기 제어대상을 결정하는 제어장치.
실시예 25: 실시예 17에 있어서, 상기 차량의 내부에 설치되고, 상기 탑승자에게 피드백을 제공하는 피드백 유닛을 더 포함하는 제어장치.
실시예 26: 실시예 25에 있어서, 상기 피드백 유닛은 기준영역을 포함하고, 상기 프로세서는, 상기 제어대상이 결정되면, 상기 기준영역이 상기 제어대상을 향하도록 상기 피드백 유닛을 회전시키는 제어장치.
실시예 27: 실시예 25에 있어서, 상기 피드백 유닛은 기준영역을 포함하고, 상기 프로세서는, 상기 제어대상의 제어가 완료되면, 상기 기준영역이 상기 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 제어장치.
실시예 28: 실시예 25에 있어서, 상기 피드백 유닛은 기준영역을 포함하고, 상기 탑승자는 제1 탑승자와 제2 탑승자를 포함하고, 상기 프로세서는, 상기 제2 탑승자로부터 상기 제어명령을 입력받으면, 상기 기준영역이 상기 제2 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 제어장치.
실시예 29: 실시예 17에 있어서, 상기 인터페이스부는 상기 차량 내부에 설치되는 디스플레이부와 연결되고, 상기 프로세서는, 상기 제어대상이 결정되면, 상기 제어대상과 관련된 이미지를 상기 디스플레이부가 표시하도록 상기 디스플레이부를 제어하는 제어장치.
실시예 30: 실시예 17에 있어서, 상기 인터페이스부는 상기 차량 내부에 설치되는 디스플레이부와 연결되고, 상기 프로세서는, 상기 제어대상의 제어가 실행되면, 상기 제어대상과 관련된 이미지를 상기 디스플레이부가 표시하도록 상기 디스플레이부를 제어하는 제어장치.
실시예 31: 실시예 17에 있어서, 상기 인터페이스부는 상기 차량 내부에 설치되는 디스플레이부와 연결되고, 상기 프로세서는, 상기 제어대상이 상기 차량의 내부의 디스플레이부로 결정되고, 상기 탑승자의 시선의 모니터링 결과가 상기 디스플레이부의 제1 영역인 경우, 상기 제어명령에 기초하여 상기 제1 영역에 이미지를 표시하는 제어장치.
실시예 32: 실시예 31에 있어서, 상기 프로세서는, 상기 제1 영역에 이미지가 표시된 후, 상기 탑승자의 시선을 모니터링하여 제2 모니터링 결과를 획득하고, 상기 입력수단을 통해 상기 탑승자로부터 제2 제어명령을 입력받고, 상기 제2 결과와 상기 제2 제어명령에 기초하여 제2 제어대상이 상기 디스플레이부의 제2 영역인 경우, 상기 제2 제어명령에 기초하여 상기 제2 영역에 이미지를 표시하는 제어장치.
본 발명에 따른 제어장치의 효과에 설명하면 다음과 같다. 본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 제어장치를 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화, 시선, 손짓 등에 따라 차량의 내, 외부를 제어할 수 있는 제어장치를 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 복수의 탑승자로부터 복수의 입력이 있는 경우, 각 탑승자에게 맞는 제어기능을 제공할 수 있는 제어장치를 제공할 수 있다.
본 발명에 따른 제어방법의 효과에 설명하면 다음과 같다. 본 발명의 실시 예 중 적어도 하나에 의하면, 차량의 운전을 보조하는 방법을 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 탑승자의 발화, 시선, 손짓 등에 따라 차량의 내, 외부를 제어할 수 있는 제어방법을 제공할 수 있다. 본 발명의 실시 예 중 적어도 하나에 의하면, 복수의 탑승자로부터 복수의 입력이 있는 경우, 각 탑승자에게 맞는 제어기능을 제공할 수 있는 제어방법을 제공할 수 있다.
상술한 실시 예에 따른 제어장치 또는 제어방법은 운전자의 운전을 보조할 수 있다. 상술한 실시 예에 따른 제어장치 또는 제어방법은 차량이 자율주행 또는 반자율주행할 수 있도록 차량을 보조할 수 있다.
상술한 실시예에 설명된 특징, 구조, 효과 등은 본 발명의 적어도 하나의 실시예에 포함되며, 반드시 하나의 실시예에만 한정되는 것은 아니다. 나아가, 각 실시예에서 예시된 특징, 구조, 효과 등은 실시예들이 속하는 분야의 통상의 지식을 가지는 자에 의하여 다른 실시예들에 대해서도 조합 또는 변형되어 실시 가능하다. 따라서 이러한 조합과 변형에 관계된 내용들은 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.
또한, 이상에서 실시예들을 중심으로 설명하였으나 이는 단지 예시일 뿐 본 발명을 한정하는 것이 아니며, 본 발명이 속하는 분야의 통상의 지식을 가진 자라면 본 실시예의 본질적인 특성을 벗어나지 않는 범위에서 이상에 예시되지 않은 여러 가지의 변형과 응용이 가능함을 알 수 있을 것이다. 예를 들어, 실시예들에 구체적으로 나타난 각 구성 요소는 변형하여 실시할 수 있는 것이다. 그리고 이러한 변형과 응용에 관계된 차이점들은 첨부한 청구 범위에서 규정하는 본 발명의 범위에 포함되는 것으로 해석되어야 할 것이다.

Claims (20)

  1. 카메라를 통해 차량 내부에 위치하는 탑승자의 시선을 모니터링하는 단계;
    입력수단을 통해 상기 탑승자로부터 제어명령을 입력받는 단계;
    상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하는 단계; 그리고,
    상기 제어명령에 기초하여 상기 제어대상을 제어하는 단계를 포함하는 제어방법.
  2. 청구항 1에 있어서,
    상기 제어대상을 결정하는 단계는:
    상기 탑승자의 시선의 모니터링 결과에 기초하여, 복수의 제어대상을 탐색하는 단계; 그리고,
    상기 탑승자의 상기 제어명령에 기초하여, 상기 복수의 제어대상 중 어느 하나를 특정하는 단계를 더 포함하는 제어방법.
  3. 청구항 1에 있어서,
    상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링을 지속하는 단계를 더 포함하는 제어방법.
  4. 청구항 3에 있어서,
    상기 제어대상이 결정되면, 상기 탑승자의 시선의 모니터링 결과와 관계없이 상기 제어대상을 제어하는 제어방법.
  5. 청구항 1에 있어서,
    상기 입력수단은 상기 차량 내부에 설치되는 마이크이고,
    상기 마이크를 통해 상기 탑승자의 발화를 입력받는 단계를 더 포함하는 제어방법.
  6. 청구항 5에 있어서,
    상기 제어명령에 기초하여 상기 제어대상의 제어가 실행되면, 상기 탑승자의 시선의 모니터링 결과의 가중치를 낮추고, 상기 마이크를 통해 입력받는 상기 탑승자의 발화의 가중치를 높이는 단계를 더 포함하는 제어방법.
  7. 청구항 1에 있어서,
    상기 입력수단은 상기 카메라이고,
    상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 상기 제어명령으로 입력받는 단계; 그리고,
    상기 제어대상을 결정하는 단계는, 상기 탑승자의 터치입력 또는 제스쳐 중 적어도 어느 하나와 상기 탑승자의 시선의 모니터링 결과에 기초하여 상기 제어대상을 결정하는 단계인 것을 특징으로 하는 제어방법.
  8. 청구항 1에 있어서,
    상기 입력수단은 상기 카메라와 상기 차량 내부에 설치되는 마이크를 포함하고,
    상기 마이크를 통해, 상기 탑승자의 발화를 제1 제어명령으로 입력받는 단계;
    상기 카메라를 통해 상기 탑승자의 터치입력 또는 제스쳐 입력을 제2 제어명령으로 입력받는 단계; 그리고,
    상기 탑승자의 시선의 모니터링 결과의 정확도가 기준치 이하인 경우, 상기 제1 제어명령과 상기 제2 제어명령에 기초하여, 상기 제어대상을 결정하는 단계를 포함하는 제어방법.
  9. 청구항 1에 있어서,
    상기 차량의 내부에 설치되고, 기준영역을 포함하는 피드백 유닛을 통해 상기 탑승자에게 피드백을 제공하는 단계를 더 포함하는 제어방법.
  10. 청구항 9에 있어서,
    상기 제어대상이 결정되면, 상기 기준영역이 상기 제어대상을 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함하는 제어방법.
  11. 청구항 9에 있어서,
    상기 제어대상의 제어가 완료되면, 상기 기준영역이 상기 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함하는 제어방법.
  12. 청구항 9에 있어서,
    상기 탑승자는 제1 탑승자와 제2 탑승자를 포함하고,
    상기 제2 탑승자로부터 상기 제어명령을 입력받으면, 상기 기준영역이 상기 제2 탑승자를 향하도록 상기 피드백 유닛을 회전시키는 단계를 더 포함하는 제어방법.
  13. 청구항 1에 있어서,
    상기 제어대상이 결정되면, 상기 제어대상과 관련된 이미지를 상기 차량의 내부의 디스플레이부에 표시하는 단계를 더 포함하는 제어방법.
  14. 청구항 1에 있어서,
    상기 제어대상의 제어가 실행되면, 상기 제어대상과 관련된 이미지를 상기 차량의 내부의 디스플레이부에 표시하는 단계를 더 포함하는 제어방법.
  15. 청구항 1에 있어서,
    상기 제어대상이 상기 차량의 내부의 디스플레이부로 결정되고, 상기 탑승자의 시선의 모니터링 결과가 상기 디스플레이부의 제1 영역인 경우,
    상기 제어명령에 기초하여 상기 제1 영역에 이미지를 표시하는 단계를 더 포함하는 제어방법.
  16. 청구항 15에 있어서,
    상기 제1 영역에 이미지가 표시된 후, 상기 탑승자의 시선을 모니터링하여 제2 모니터링 결과를 획득하는 단계;
    상기 탑승자로부터 제2 제어명령을 입력받는 단계; 그리고,
    상기 제2 결과와 상기 제2 제어명령에 기초하여 제2 제어대상이 상기 디스플레이부의 제2 영역으로 결정되면, 상기 제2 제어명령에 기초하여 상기 제2 영역에 이미지를 표시하는 단계를 더 포함하는 제어방법.
  17. 청구항 1에 있어서,
    상기 차량의 내부에 설치되는 음향출력부를 통해 상기 탑승자에게 피드백을 제공하는 단계를 더 포함하는 제어방법.
  18. 탑승자의 시선을 모니터링 하는 카메라 및 상기 탑승자로부터 제어명령을 수신하는 입력수단과 연결되는 인터페이스부; 그리고,
    상기 인터페이스부를 통해 상기 카메라 및 상기 입력수단과 정보를 교환하는 프로세서를 포함하고,
    상기 프로세서는,
    상기 탑승자의 시선의 모니터링 결과와 상기 제어명령에 기초하여 제어대상을 결정하고,
    상기 제어명령에 기초하여 상기 제어대상을 제어하는 제어장치.
  19. 청구항 18에 있어서,
    상기 프로세서는,
    상기 탑승자의 시선의 모니터링 결과에 기초하여, 복수의 제어대상을 탐색하고,
    상기 탑승자의 상기 제어명령에 기초하여, 상기 복수의 제어대상 중 어느 하나를 특정하는 제어장치.
  20. 청구항 18에 있어서,
    상기 프로세서는,
    상기 제어대상이 특정되면, 상기 탑승자의 시선의 모니터링을 지속하는 제어장치.
KR1020197019520A 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법 Active KR102168041B1 (ko)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/KR2018/015148 WO2020111348A1 (ko) 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법

Publications (2)

Publication Number Publication Date
KR20200067121A true KR20200067121A (ko) 2020-06-11
KR102168041B1 KR102168041B1 (ko) 2020-10-21

Family

ID=70852157

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020197019520A Active KR102168041B1 (ko) 2018-11-30 2018-11-30 차량 제어장치 및 차량 제어방법

Country Status (3)

Country Link
US (1) US20210333869A1 (ko)
KR (1) KR102168041B1 (ko)
WO (1) WO2020111348A1 (ko)

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US11749032B2 (en) 2021-05-17 2023-09-05 Toyota Research Institute, Inc. Systems and methods for adapting notifications according to component monitoring
US12337730B2 (en) * 2021-10-15 2025-06-24 Hyundai Mobis Co., Ltd. System for controlling vehicle based on occupant's intent
US11733531B1 (en) * 2022-03-16 2023-08-22 GM Global Technology Operations LLC Active heads up display system
JP2024000632A (ja) * 2022-06-21 2024-01-09 日本精機株式会社 表示制御装置、表示システム、及び表示制御方法
KR20240082847A (ko) * 2022-12-02 2024-06-11 주식회사 에이치엘클레무브 동작 인식 장치 및 동작 인식 방법

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04360308A (ja) * 1991-06-06 1992-12-14 Fujitsu Ten Ltd グラフィックイコライザ
JP2007145310A (ja) * 2005-10-31 2007-06-14 Denso Corp 車両用表示システム
JP2014174598A (ja) * 2013-03-06 2014-09-22 Denso Corp 車両入力装置
KR20160120101A (ko) * 2015-04-07 2016-10-17 엘지전자 주식회사 차량 단말기 및 그 제어 방법

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4360308B2 (ja) * 2004-09-21 2009-11-11 株式会社デンソー 車載音響制御システム及びａｉエージェント
KR101708676B1 (ko) * 2015-05-14 2017-03-08 엘지전자 주식회사 운전자 보조 장치 및 그 제어방법
CN107277225B (zh) * 2017-05-04 2020-04-24 北京奇虎科技有限公司 语音控制智能设备的方法、装置和智能设备

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH04360308A (ja) * 1991-06-06 1992-12-14 Fujitsu Ten Ltd グラフィックイコライザ
JP2007145310A (ja) * 2005-10-31 2007-06-14 Denso Corp 車両用表示システム
JP2014174598A (ja) * 2013-03-06 2014-09-22 Denso Corp 車両入力装置
KR20160120101A (ko) * 2015-04-07 2016-10-17 엘지전자 주식회사 차량 단말기 및 그 제어 방법

Also Published As

Publication number Publication date
WO2020111348A1 (ko) 2020-06-04
KR102168041B1 (ko) 2020-10-21
US20210333869A1 (en) 2021-10-28

Similar Documents

Publication Publication Date Title
CN107226027B (zh) 显示装置及包括其的车辆
EP3184365B1 (en) Display device for vehicle and control method thereof
EP3093192B1 (en) Rear combination lamp for vehicle comprising a display
EP3093193B1 (en) Lamp for vehicle
CN109476315B (zh) 驾驶员辅助装置及具有该装置的车辆
CN106448260B (zh) 驾驶员辅助设备和包括该驾驶员辅助设备的车辆
EP3306591A2 (en) Parking assistance apparatus, vehicle having the same, method of providing automatic parking function
KR102168041B1 (ko) 차량 제어장치 및 차량 제어방법
KR102212794B1 (ko) 차량 제어장치 및 차량 제어방법
KR20160147557A (ko) 자동 주차 장치 및 차량
KR102192144B1 (ko) 차량 제어장치 및 차량 제어방법
US20210385432A1 (en) Vehicle control device
KR20170054849A (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR101732263B1 (ko) 차량 운전 보조장치 및 이를 포함하는 차량
KR102043954B1 (ko) 차량에 구비된 차량용 로봇 및 차량용 로봇의 제어방법
KR101897350B1 (ko) 차량 운전 보조장치
KR20170024943A (ko) 가상 영상 생성장치, 헤드 마운티드 디스플레이 및 차량
KR102192146B1 (ko) 차량 제어장치 및 차량 제어방법
KR101888259B1 (ko) 차량 보조장치 및 이를 포함하는 차량
KR102246972B1 (ko) 차량 제어장치 및 차량 제어방법
KR101929288B1 (ko) 자동주차 보조장치 및 이를 포함하는 차량
KR20160120508A (ko) 차량용 램프 및 이를 포함하는 차량

Legal Events

Date Code Title Description
PA0105 International application

St.27 status event code: A-0-1-A10-A15-nap-PA0105

PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

P22-X000 Classification modified

St.27 status event code: A-2-2-P10-P22-nap-X000

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

PN2301 Change of applicant

St.27 status event code: A-3-3-R10-R13-asn-PN2301

St.27 status event code: A-3-3-R10-R11-asn-PN2301

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E701 Decision to grant or registration of patent right
PE0701 Decision of registration

St.27 status event code: A-1-2-D10-D22-exm-PE0701

GRNT Written decision to grant
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U12-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 4

P22-X000 Classification modified

St.27 status event code: A-4-4-P10-P22-nap-X000

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 5

PR1001 Payment of annual fee

St.27 status event code: A-4-4-U10-U11-oth-PR1001

Fee payment year number: 6

U11 Full renewal or maintenance fee paid

Free format text: ST27 STATUS EVENT CODE: A-4-4-U10-U11-OTH-PR1001 (AS PROVIDED BY THE NATIONAL OFFICE)

Year of fee payment: 6