WO2012139619A1 - Verfahren und vorrichtung zur überwachung zumindest eines fahrzeuginsassen und verfahren zum betrieb zumindest einer assistenzvorrichtung - Google Patents

Verfahren und vorrichtung zur überwachung zumindest eines fahrzeuginsassen und verfahren zum betrieb zumindest einer assistenzvorrichtung Download PDF

Info

Publication number
WO2012139619A1
WO2012139619A1 PCT/EP2011/006209 EP2011006209W WO2012139619A1 WO 2012139619 A1 WO2012139619 A1 WO 2012139619A1 EP 2011006209 W EP2011006209 W EP 2011006209W WO 2012139619 A1 WO2012139619 A1 WO 2012139619A1
Authority
WO
WIPO (PCT)
Prior art keywords
vehicle
vehicle occupant
images
determined
vital
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/EP2011/006209
Other languages
English (en)
French (fr)
Inventor
Galia Weidl
Ralf Herrtwich
Michael Schrauf
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Mercedes Benz Group AG
Original Assignee
Daimler AG
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Daimler AG filed Critical Daimler AG
Priority to JP2014504169A priority Critical patent/JP2014518647A/ja
Priority to US14/111,440 priority patent/US10140532B2/en
Publication of WO2012139619A1 publication Critical patent/WO2012139619A1/de
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/02—Detecting, measuring or recording for evaluating the cardiovascular system, e.g. pulse, heart rate, blood pressure or blood flow
    • A61B5/024—Measuring pulse rate or heart rate
    • A61B5/02416—Measuring pulse rate or heart rate using photoplethysmograph signals, e.g. generated by infrared radiation
    • A—HUMAN NECESSITIES
    • A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B5/00—Measuring for diagnostic purposes; Identification of persons
    • A61B5/16—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state
    • A61B5/18—Devices for psychotechnics; Testing reaction times ; Devices for evaluating the psychological state for vehicle drivers or machine operators
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00—Scenes; Scene-specific elements
    • G06V20/50—Context or environment of the image
    • G06V20/59—Context or environment of the image inside of a vehicle, e.g. relating to seat occupancy, driver state or inner lighting conditions
    • G06V20/597—Recognising the driver's state or behaviour, e.g. attention or drowsiness
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0818—Inactivity or incapacity of driver
    • B—PERFORMING OPERATIONS; TRANSPORTING
    • B60—VEHICLES IN GENERAL
    • B60W—CONJOINT CONTROL OF VEHICLE SUB-UNITS OF DIFFERENT TYPE OR DIFFERENT FUNCTION; CONTROL SYSTEMS SPECIALLY ADAPTED FOR HYBRID VEHICLES; ROAD VEHICLE DRIVE CONTROL SYSTEMS FOR PURPOSES NOT RELATED TO THE CONTROL OF A PARTICULAR SUB-UNIT
    • B60W40/00—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models
    • B60W40/08—Estimation or calculation of non-directly measurable driving parameters for road vehicle drive control systems not related to the control of a particular sub unit, e.g. by using mathematical models related to drivers or passengers
    • B60W2040/0872—Driver physiology

Definitions

  • the invention relates to a method for monitoring at least one vehicle occupant according to the features of the preamble of claim 1, a device for
  • a method for warning a driver of a vehicle is known.
  • vehicle sensors detect a critical situation.
  • an attention of the driver is determined, wherein a picture of the driver is detected by a camera device and the image is processed by a computing unit. From the image, an attention of the driver is determined, wherein the computing unit a viewing direction of the driver is determined. In the case of a determined high attention of the driver, the warning is not issued. If there are several warnings to be issued at the same time, a first warning of a critical situation lying in the driver's line of sight is issued only after a second warning of a critical situation that is outside the driver's line of sight.
  • the driver assistance system includes a fatigue detection system for detecting driver fatigue. In a detected by the fatigue detection system fatigue of the driver a hazard warning light of the vehicle is activated to warn other road users.
  • a method is described in which based on low-resolution video cameras under normal
  • Room light conditions of recorded video sequences of faces of persons the heart rate of the persons is determined.
  • the brightness differences of the light reflected from the skin are measured and evaluated.
  • the positions of faces in the field of view of the camera are identified, the video image in this section is broken down into red, green and blue parts and analyzed.
  • the blood vessels - especially the arteries - expand slightly as the pressure increases. This expansion causes an increase in optical absorption and therefore a decrease in the intensity of the light reflected from the face.
  • the invention is based on the object, an improved method and an improved device for monitoring at least one vehicle occupant in a vehicle and an improved method for operating at least one
  • Specify assistance device of a vehicle Specify assistance device of a vehicle.
  • the object is achieved by a method for monitoring at least one vehicle occupant in a vehicle with the features of claim 1, a device for monitoring at least one vehicle occupant in a vehicle with the features of claim 8 and a method for operating at least one
  • Vehicle occupants recorded and evaluated by means of an image processing unit.
  • At least one vital parameter of the vehicle occupant is determined by the image evaluation of the captured images.
  • a vital condition of the vehicle occupant for example a vehicle driver of the vehicle
  • suitable measures in the event of a deterioration of the vital condition for example functions of an assistance device of the vehicle Activate vehicle to at least point to a potential risk of accident or possibly avoid an accident, request help and / or to increase the comfort of the vehicle occupant or passengers, thereby improving the vital state.
  • an image capture unit which is already installed in the vehicle, for example in the region of a steering column and is aimed at the vehicle occupant or passengers, preferably at a driver, preferably serves as an image capture unit.
  • Image capture units are for example for attention recognition of
  • a vital parameter in particular a pulse rate or heart rate and / or a respiratory rate and / or a pumping power of the heart and / or a blood pressure and / or an oxygen concentration in the blood of
  • Vital parameters the current state of vitality of the vehicle occupant can be assessed with sufficient accuracy to possibly close, for example, inattention to the vehicle occupant, such as the driver, or to an impending or already occurred unconsciousness or serious health problems.
  • the determined vital parameters are recorded and stored in the vehicle, so that they are available, for example, in an emergency situation in the case of medical care. For example, they can be sent to a hospital or hospital together with an automatically initiated emergency message
  • the at least one vital parameter is determined by detecting an optical absorption value and / or an intensity value of reflected light of a skin region of the vehicle occupant and / or by determining a change in this optical absorption value and / or intensity value.
  • blood vessels especially arteries, expand slightly as pressure in the blood vessels increases. This expansion causes an increase in the optical absorption and therefore also a decrease in the intensity of the reflected light which is reflected by the skin area.
  • Brightness differences of the light reflected from the skin area over time can be used to determine vital parameters, in particular the pulse rate. This
  • Procedure is also called photoplethysmography.
  • the principles of the method are described, for example, in the article by Ming-Zher Poh, Daniel J. cDuff, and Rosalind W. Picard, "Non-contact, automated cardiac pulse measurements using video imaging and blind source separation," Opt. Express. 18, 10762 No. 10774 (2010), the entire contents of which are hereby incorporated by reference.
  • At least one region suitable for image evaluation is searched for in each of the images, and only this region is evaluated.
  • This area is an area in the pictures in which a sufficiently large
  • Skin area of the vehicle occupant is shown.
  • an area of the images suitable for image evaluation is searched and evaluated, which includes the face of the vehicle occupant, since in this area a sufficiently large, evaluable skin area is available and in particular already installed in the vehicle imaging units, which for example
  • Attention detection are used, are directed to the face of the vehicle occupant, in particular the driver.
  • One or more vital parameters of a plurality of vehicle occupants can also be determined simultaneously with the method, wherein the image areas are determined in which the faces of the vehicle occupants are located and evaluated separately from one another.
  • color images are captured as images of the vehicle occupant, in particular so-called RGB images, wherein the region of the images suitable for image analysis is split into individual color channels and at least one color channel is evaluated to determine the at least one vital parameter.
  • the area suitable for image evaluation is divided into red, green and blue components, i. H. Divided color channels.
  • the green component or color channel is preferably evaluated in particular, since the accuracy of the results obtained is highest there.
  • Brightness differences of the reflected light from the skin area over time and from the or the vital parameters are determined.
  • the vital parameters determined in this way can also be combined with values of the vehicle occupants determined in a different manner, thereby obtaining a better overall picture of a state of the vehicle occupants.
  • a fatigue or inattention of the driver can be detected early and with a low error rate.
  • the driver can be determined, which may indicate restlessness, stress or onset fatigue. This can be combined, for example, with the determined pulse rate in order to obtain a better estimate.
  • a device for monitoring at least one vehicle occupant in a vehicle in particular for carrying out the method for monitoring at least one vehicle occupant in a vehicle, by means of at least one
  • Image capture unit images of the vehicle occupant detectable and by means of a
  • Image processing unit evaluable.
  • Image capture unit by image analysis of the captured images at least one
  • Vital parameters of the vehicle occupant can be determined. This makes it possible, as already described for the method that can be carried out by means of the device for monitoring at least one vehicle occupant in a vehicle, to have a vital state of the vehicle
  • At least one function of the assistance device of the vehicle is activated according to the invention if a determined value of a vital parameter deviates from a predetermined value or value range for this vital parameter.
  • the assistance device can intervene in the event of poor or worsening vital parameters of the vehicle occupant or passengers, in particular of a vehicle driver, in order, for example, to point out a potential risk of accident or optionally to prevent an accident, request help and / or increase the comfort of the vehicle occupant or passengers, thereby improving the vital state.
  • an intervention in a function of the assistance device an intervention in a
  • the vehicle for example, as described in the applicant's DE 10 2009 016 936 A1, the entire contents of which is hereby incorporated by reference, for example, by a corresponding intervention in the steering device, brake device and / or the drive train of the vehicle, for example, automatically one
  • the intervention in the steering device, brake device and / or in the drive train of the vehicle can be carried out such that the vehicle is autonomously controlled to a nearest emergency aid, for example, to an emergency room
  • warning devices of the vehicle can be activated, for example external warning devices in the form of a hazard warning system and / or a horn of the vehicle to warn other road users, and / or warning devices can be activated in a vehicle interior to the or the vehicle occupant warn, for example, to wake a dormant driver or other vehicle occupants on a bad or yourself
  • deteriorating vital condition of the driver so that they can operate, for example, the steering wheel and / or a handbrake of the vehicle to decelerate the vehicle and / or to control the edge of the road.
  • At least one comfort function and / or emergency call function is expediently activated as a function of the assistance device.
  • a massage function of a vehicle seat for example, an interior ventilation and / or a climate function of the vehicle.
  • a massage function of a vehicle seat for example, an interior ventilation and / or a climate function of the vehicle.
  • essential oils or other refreshing agents may also be introduced into the interior of the vehicle be initiated.
  • the relevant vehicle occupant can be informed by optical, acoustic and / or haptic means of his current vital situation, preferably combined with a recommendation to appropriate
  • Countermeasures for example, to take a rest, to regular exercise and / or to a sufficient fluid intake.
  • the vehicle occupant can be reminded in this way, for example, of a required drug intake.
  • Vital parameters identified increased levels of stress that are specifically activated to assist the driver in assisting and / or calming the vehicle;
  • a navigation device or an audio system of the vehicle d. H. for example, a car radio.
  • the or the vehicle occupants can also be warned of imminent health hazards, for example, impending cardiovascular complaints. It is particularly advantageous to determine the vital parameters of the vehicle occupant or persons, for example the driver, over longer periods of time, for example several days or weeks, and to analyze their course, so that they too can be slowed down
  • Deterioration can be determined. Particularly in the case of older and / or health-endangered or impaired vehicle occupants, in particular vehicle drivers, their sense of safety and well-being is thereby considerably increased.
  • an automatic emergency call can be initiated, preferably the recorded vital parameters to a medical emergency.
  • Fig. 1 is a schematic representation of a vehicle with a
  • FIG. 1 shows a schematic representation of a vehicle 1 with a vehicle occupant 2 and an image acquisition unit 3 directed towards it
  • Monitoring of the vehicle occupant 2 are detected by the image capture unit 3 images of the vehicle occupant 2, for example in the form of a video sequence, and evaluated by an image processing unit, not shown in order to determine in this way at least one vital parameter of the vehicle occupant 2, for example, a pulse rate or heart rate and / or a respiratory rate and / or a
  • the image acquisition unit 3 is preferably already installed in the vehicle 1, for example, as shown here, in the region of a steering column and on the
  • Vehicle occupant 2 in the example shown here to a vehicle driver directed imaging unit 3.
  • a video camera with low resolution for example, a so-called CCD camera.
  • special lighting devices are not required, but a usual in the vehicle 1 ambient lighting, for example, daylight is already sufficient.
  • the at least one vital parameter is determined by a detection of an optical sensor
  • blood vessels especially arteries, expand slightly as pressure in the blood vessels increases. This expansion causes an increase in the optical absorption and therefore also a decrease in the intensity of the reflected light which is reflected by the skin area.
  • Brightness differences of the reflected light from the skin area over time can be determined vital parameters of the vehicle occupant 2, in particular the pulse rate or heart rate. This method is also called photoplethysmography.
  • the bases of the procedure are for example in the article of
  • At least one region suitable for image evaluation is searched in each of the images by means of suitable methods, and only this region is evaluated.
  • This area is an area in the images in which a sufficiently large area of the skin of the vehicle occupant 2 is depicted.
  • an area of the images suitable for image evaluation is sought and evaluated, which includes the face of the vehicle occupant 2, since in this area a sufficiently large, evaluable skin area is available and in particular already installed in the vehicle 1 image acquisition units 3, which for example Attention detection are used, as are directed in the example shown here on the face of the vehicle occupant 2, in particular the driver.
  • Method also simultaneously one or more vital parameters of several
  • Vehicle occupant 2 are determined when a plurality of vehicle occupants 2 are detected by the image acquisition unit 3, wherein the image areas are determined, in which the faces of the vehicle occupants 2 are located, and are evaluated separately from each other.
  • the image suitable for image evaluation area of the images is split into individual color components or channels, in RGB images in the corresponding RGB color channels red, green and blue, and
  • For determining the at least one vital parameter at least one color channel is evaluated.
  • the green component or color channel is preferably evaluated in particular, since the accuracy of the results obtained is highest there.
  • a spectral power density of the color channel to be evaluated of the area suitable for image evaluation is determined. On the basis of the determined spectral power density then the Brightness differences of the light reflected from the skin area over time and from the or the vital parameters of the vehicle occupant or 2 are determined.
  • the method is due to the image acquisition unit 3, which has to have only a low resolution, as well as due to the performance under normal
  • Determining the vital parameters is sufficiently accurate in order to be able to determine the vital condition of the vehicle occupant 2 and a change in the vital state sufficiently accurately on the basis of the determined vital parameter, so that a vital state which indicates, for example, an acute emergency situation and
  • Vital parameters of the vehicle occupant 2, in particular of the vehicle driver, can be used in a method for operating at least one assistance device of the vehicle 1.
  • at least one function of the assistance device is activated when a determined value of a vital parameter deviates from a predetermined value or value range for this vital parameter.
  • the assistant device can be in bad or off
  • an intervention in a function of the assistance device an intervention in a
  • the vehicle 1 as described for example in DE 10 2009 016 936 A1 of the applicant, the entire contents of which is hereby incorporated by reference, by a corresponding intervention in the steering device, brake device and / or the drive train of the vehicle 1, for example automatically to one Track edge controlled and brought to a standstill there.
  • the engagement in the steering device, brake device and / or in the drive train of the vehicle 1 can take place such that the vehicle 1 autonomously to a
  • nearest emergency aid is controlled, for example, to a
  • warning devices of the vehicle 1 can be activated, for example external warning devices in the form of a hazard warning system and / or a horn of the vehicle 1, to warn other road users, and / or warning devices can be activated in a vehicle interior to the or Warn vehicle occupants 2, for example, a fallen
  • deteriorating vital parameters of the driver which may indicate a worsening health condition, so that they can operate, for example, the steering wheel and / or a handbrake of the vehicle 1 to decelerate the vehicle 1 and / or to control the edge of the road.
  • At least one comfort function and / or emergency call function is expediently activated as a function of the assistance device.
  • Vital parameters of the vehicle occupant or 2 are improved, for example, if the one or more determined vital parameters on a fatigue in particular of
  • Interior ventilation and / or a climate function of the vehicle 1 are activated.
  • the relevant vehicle occupant 2 can be made aware of his current vital situation by optical, acoustic and / or haptic means, preferably connected with a recommendation on suitable
  • Countermeasures for example, to take a rest, to regular exercise and / or to a sufficient fluid intake.
  • Vehicle occupant 2 can in this way, for example, to a required
  • the driver can supportive and / or soothing facilities of the vehicle 1 are activated selectively, for example, a navigation device or an audio system of the
  • Vehicle 1 d. H. for example, a car radio.
  • vehicle occupants 2 can also be warned of impending health hazards, for example, impending cardiovascular complaints.
  • an automatic emergency call can also be initiated, wherein preferably the recorded and stored vital parameters are transmitted to an emergency call center or a hospital, so that rapid and adequate medical assistance can be initiated.
  • preferably also current position data of the vehicle 1 are determined and forwarded with the emergency call.
  • the vital parameters ascertained by means of the monitoring method can also be combined with values of the vehicle occupant 2 or persons determined in another way, thereby obtaining a better overall picture of a state of the vehicle occupant 2 or passengers.
  • a fatigue or inattention of the driver can be detected early and with a low error rate.
  • the inadvertent recognition function for which the image acquisition unit was originally installed in the vehicle 1 can also be used. Additional values of the vehicle occupant 2 determined in this way can be combined, for example, with the determined pulse frequency in order to obtain a better assessment of the vital state of the vehicle occupant 2 or passengers.
  • an image capture unit can also be used simple black and white camera, for example, to obtain a more robust evaluation.
  • an infra-red camera can be used to record the vital signs in dark street segments or in the dark.
  • a changeover to the infrared range can be carried out automatically by means of a brightness detection, as used in the automatic driving light control.
  • the green component or color channel is preferably evaluated in particular since the accuracy of the results obtained is highest there.
  • the robustness can be increased if all three RGB components of the image signal are weighted, as all 3 RGB channels carry redundant information about the measured vital parameters.
  • An advantage of the method carried out is that with the same image signal from the facial area, both the pulse and the respiratory rate can be determined. Panning the camera to the chest area to measure the respiratory rate is not necessary. Generally, there is no need to re-direct the camera between face, breast or other areas of the body.
  • the described method can be used to draw attention to an inattentiveness of the vehicle occupant, for example of the vehicle driver, or to an imminent or already occurring unconsciousness or serious health problems.
  • the non-contact measurement of vital data provides a diagnostic value for a) tachycardia, brachycardia, bradycardia, b) heart rate variability (to distinguish, for example, rest, stress, pleasure) and c) the detection of tendencies towards viral infections (skin temperature, heart rate, respiratory rate.
  • At least one function of the assistance device is activated when a determined value of a vital parameter of a predetermined value or Range of values for this vital parameter deviates.
  • a combination of the determined vital parameters with other values of the vehicle occupants such as attention, restlessness, fatigue, stress
  • Such recommendations may include taking a rest period, exercising regularly, getting enough fluid intake, or taking a required medication.

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Veterinary Medicine (AREA)
  • Cardiology (AREA)
  • Pathology (AREA)
  • Biophysics (AREA)
  • Biomedical Technology (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Surgery (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multimedia (AREA)
  • Psychology (AREA)
  • Social Psychology (AREA)
  • Developmental Disabilities (AREA)
  • Educational Technology (AREA)
  • Hospice & Palliative Care (AREA)
  • Psychiatry (AREA)
  • Physiology (AREA)
  • Child & Adolescent Psychology (AREA)
  • Traffic Control Systems (AREA)
  • Measuring Pulse, Heart Rate, Blood Pressure Or Blood Flow (AREA)
  • Fittings On The Vehicle Exterior For Carrying Loads, And Devices For Holding Or Mounting Articles (AREA)
  • Auxiliary Drives, Propulsion Controls, And Safety Devices (AREA)
  • Measuring And Recording Apparatus For Diagnosis (AREA)
  • Emergency Alarm Devices (AREA)
  • Control Of Driving Devices And Active Controlling Of Vehicle (AREA)

Abstract

Die Erfindung betrifft ein Verfahren und eine Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen (2) in einem Fahrzeug (1), wobei mittels zumindest einer Bilderfassungseinheit (3) Bilder des Fahrzeuginsassen (2) erfasst und mittels einer Bildverarbeitungseinheit ausgewertet werden. Erfindungsgemäß wird durch die Bildauswertung der erfassten Bilder zumindest ein Vitalparameter des Fahrzeuginsassen (2) ermittelt. Des Weiteren betrifft die Erfindung ein Verfahren zum Betrieb zumindest einer Assistenzvorrichtung eines Fahrzeugs (1).

Description

Verfahren und Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen und Verfahren zum Betrieb zumindest einer Assistenzvorrichtung
Die Erfindung betrifft ein Verfahren zur Überwachung zumindest eines Fahrzeuginsassen nach den Merkmalen des Oberbegriffs des Anspruchs 1 , eine Vorrichtung zur
Überwachung zumindest eines Fahrzeuginsassen nach den Merkmalen des Oberbegriffs des Anspruchs 8 und ein Verfahren zum Betrieb zumindest einer Assistenzvorrichtung nach den Merkmalen des Oberbegriffs des Anspruchs 9.
Aus dem Stand der Technik ist, wie in der EP 1 182 089 B2 beschrieben, ein Verfahren zur Warnung eines Fahrers eines Fahrzeugs bekannt. Dabei wird von Fahrzeugsensoren eine kritische Situation erfasst. Des Weiteren wird eine Aufmerksamkeit des Fahrers ermittelt, wobei durch eine Kameravorrichtung ein Bild des Fahrers erfasst wird und das Bild von einer Recheneinheit verarbeitet wird. Aus dem Bild wird eine Aufmerksamkeit des Fahrers ermittelt, wobei durch die Recheneinheit eine Blickrichtung des Fahrers ermittelt wird. Bei einer ermittelten hohen Aufmerksamkeit des Fahrers wird auf die Ausgabe der Warnung verzichtet. Bei mehreren gleichzeitig auszugebenden Warnungen wird eine erste Warnung vor einer kritischen Situation, die in der Blickrichtung des Fahrers liegt, erst nach einer zweiten Warnung vor einer kritischen Situation, die außerhalb der Blickrichtung des Fahrers liegt, ausgegeben.
In der DE 10 2009 016 936 A1 der Anmelderin, deren vollständiger Inhalt hiermit durch Referenz aufgenommen wird, wird ein Fahrassistenzsystem zum Unterstützen eines Fahrers eines Fahrzeugs bei Ermüdung beschrieben. Das Fahrassistenzsystem umfasst ein Müdigkeitserkennungssystem zum Erkennen einer Ermüdung des Fahrers. Bei einer mittels des Müdigkeitserkennungssystems erkannten Ermüdung des Fahrers wird ein Warnblinklicht des Fahrzeugs zum Warnen weiterer Verkehrsteilnehmer aktiviert. Des Weiteren wird in dem Artikel von Ming-Zher Poh, Daniel J. McDuff, and Rosalind W. Picard, "Non-contact, automated cardiac pulse measurements using Video imaging and blind source Separation," Opt. Express 18, 10762-10774 (2010), dessen vollständiger Inhalt hiermit durch Referenz aufgenommen wird, ein Verfahren beschrieben, in welchem auf Grundlage mittels niedrigauflösender Videokameras unter normalen
Raumlichtbedingungen erfasster Videosequenzen von Gesichtern von Personen die Herzfrequenz der Personen ermittelt wird. Dabei werden die Helligkeits-Unterschiede des von der Haut reflektierten Lichtes gemessen und ausgewertet. Es werden zunächst die Positionen von Gesichtern im Blickfeld der Kamera identifiziert, das Videobild in diesem Ausschnitt in rote, grüne und blaue Anteile herunter gebrochen und analysiert. Während eines Herzschlags dehnen sich die Blutgefäße - vor allem die Arterien - leicht aus, da der Druck steigt. Diese Ausweitung verursacht einen Anstieg der optischen Absorption und deshalb auch ein Absinken der Intensität des Lichtes, das vom Gesicht reflektiert wird.
Der Erfindung liegt die Aufgabe zugrunde, ein verbessertes Verfahren und eine verbesserte Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeugs und ein verbessertes Verfahren zum Betrieb zumindest einer
Assistenzvorrichtung eines Fahrzeugs anzugeben.
Die Aufgabe wird erfindungsgemäß durch ein Verfahren zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeug mit den Merkmalen des Anspruchs 1 , eine Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeug mit den Merkmalen des Anspruchs 8 und ein Verfahren zum Betrieb zumindest einer
Assistenzvorrichtung eines Fahrzeugs mit den Merkmalen des Anspruchs 9 gelöst.
Bevorzugte Ausgestaltungen und Weiterbildungen der Erfindung sind in den abhängigen Ansprüchen angegeben.
In einem Verfahren zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeug werden mittels zumindest einer Bilderfassungseinheit Bilder des
Fahrzeuginsassen erfasst und mittels einer Bildverarbeitungseinheit ausgewertet.
Erfindungsgemäß wird durch die Bildauswertung der erfassten Bilder zumindest ein Vitalparameter des Fahrzeuginsassen ermittelt. Dies ermöglicht es, einen Vitalzustand des Fahrzeuginsassen, beispielsweise eines Fahrzeugführers des Fahrzeugs zu beurteilen und bei einer festgestellten Verschlechterung des Vitalzustandes geeignete Maßnahmen einzuleiten, beispielsweise Funktionen einer Assistenzvorrichtung des Fahrzeugs zu aktivieren, um zumindest auf eine potentielle Unfallgefahr hinzuweisen oder gegebenenfalls einen Unfall zu vermeiden, Hilfe anzufordern und/oder einen Komfort des oder der Fahrzeuginsassen zu steigern, um dadurch den Vitalzustand zu verbessern. Als Bilderfassungseinheit dient dabei vorzugsweise eine bereits im Fahrzeug, beispielsweise im Bereich einer Lenksäule installierte und auf den oder die Fahrzeuginsassen, bevorzugt auf einen Fahrzeugführer gerichtete Bilderfassungseinheit. Derartige
Bilderfassungseinheiten sind beispielsweise zur Aufmerksamkeitserkennung des
Fahrzeugsführers im Fahrzeug installiert. Zur Durchführung des Verfahrens ist dabei bereits eine Videokamera mit geringer Auflösung ausreichend, beispielsweise eine so genannte CCD-Kamera. Auch spezielle Beleuchtungseinrichtungen sind nicht
erforderlich, sondern eine im Fahrzeug übliche Umgebungsbeleuchtung, zum Beispiel Tageslicht, ist bereits ausreichend.
Zweckmäßigerweise werden als Vitalparameter insbesondere eine Pulsfrequenz bzw. Herzfrequenz und/oder eine Atemfrequenz und/oder eine Pumpleistung des Herzens und/oder ein Blutdruck und/oder eine Sauerstoffkonzentration im Blut des
Fahrzeuginsassen und/oder autonome Körperfunktionen, insbesondere Funktionen eines autonomen Nervensystems des Fahrzeuginsassen ermittelt. Anhand dieser
Vitalparameter kann der aktuelle Vitalzustand des Fahrzeuginsassen ausreichend genau beurteilt werden, um gegebenenfalls beispielsweise auf eine Unaufmerksamkeit des Fahrzeuginsassen, beispielsweise des Fahrzeugführers, oder auf eine drohende oder bereits eingetretene Bewusstlosigkeit oder schwere gesundheitliche Probleme schließen zu können. Vorteilhafterweise werden die ermittelten Vitalparameter im Fahrzeug aufgezeichnet und gespeichert, so dass sie beispielsweise in einer Notsituation bei einer medizinischen Versorgung zur Verfügung stehen. Sie können beispielsweise zusammen mit einer automatisch eingeleiteten Notrufmeldung an ein Krankenhaus oder eine
Notrufzentrale übermittelt werden, so dass eine schnelle und adäquate Hilfe eingeleitet werden kann.
Vorzugsweise wird der zumindest eine Vitalparameter durch eine Erfassung eines optischen Absorptionswertes und/oder eines Intensitätswertes reflektierten Lichts eines Hautbereiches des Fahrzeuginsassen und/oder durch eine Ermittlung einer Änderung dieses optischen Absorptionswertes und/oder dieses Intensitätswertes ermittelt. Während eines Herzschlags dehnen sich Blutgefäße, insbesondere Arterien, leicht aus, da ein Druck in den Blutgefäßen steigt. Diese Ausweitung verursacht einen Anstieg der optischen Absorption und deshalb auch ein Absinken der Intensität des reflektierten Lichts, das von dem Hautbereich reflektiert wird. Durch Ermittlung von Helligkeitsunterschieden des von dem Hautbereich im Zeitverlauf reflektierten Lichts können Vitalparameter, insbesondere die Pulsfrequenz ermittelt werden. Dieses
Verfahren wird auch Photoplethysmographie genannt. Die Grundlagen des Verfahrens sind beispielsweise in dem Artikel von Ming-Zher Poh, Daniel J. cDuff, and Rosalind W. Picard, "Non-contact, automated cardiac pulse measurements using video imaging and blind source Separation," Opt. Express 18, 10762-10774 (2010) beschrieben, dessen vollständiger Inhalt hiermit durch Referenz aufgenommen wird.
Vorzugsweise wird während der Bildverarbeitung zumindest ein zur Bildauswertung geeigneter Bereich in jedem der Bilder gesucht und nur dieser Bereich ausgewertet. Dieser Bereich ist ein Bereich in den Bildern, in welchem ein ausreichend großer
Hautbereich des Fahrzeuginsassen abgebildet ist. Bevorzugt wird als zur Bildauswertung geeigneter Bereich ein Bereich der Bilder gesucht und ausgewertet, welcher das Gesicht des Fahrzeuginsassen beinhaltet, da in diesem Bereich ein ausreichend großer, auswertbarer Hautbereich zur Verfügung steht und da insbesondere bereits im Fahrzeug installierte Bilderfassungseinheiten, welche beispielsweise zur
Aufmerksamkeitserkennung eingesetzt werden, auf das Gesicht des Fahrzeuginsassen, insbesondere des Fahrzeugführers gerichtet sind. Es können mit dem Verfahren auch gleichzeitig ein oder mehrere Vitalparameter von mehreren Fahrzeuginsassen ermittelt werden, wobei die Bildbereiche ermittelt werden, in welchen sich die Gesichter der Fahrzeuginsassen befinden, und getrennt voneinander ausgewertet werden.
Zweckmäßigerweise werden als Bilder des Fahrzeuginsassen Farbbilder erfasst, insbesondere so genannte RGB-Bilder, wobei der zur Bildauswertung geeignete Bereich der Bilder in einzelne Farbkanäle aufgespalten wird und zur Ermittlung des zumindest einen Vital Parameters zumindest ein Farbkanal ausgewertet wird. Beispielsweise wird der zur Bildauswertung geeignete Bereich in rote, grüne und blaue Anteile, d. h. Farbkanäle unterteilt. Dabei wird vorzugsweise insbesondere der grüne Anteil oder Farbkanal ausgewertet, da bei diesem die Genauigkeit der erzielten Ergebnisse am höchsten ist.
Vorzugsweise wird mittels schneller Fourier-Transformation eine spektrale
Leistungsdichte des Farbkanals des zur Bildauswertung geeigneten Bereichs ermittelt. Anhand der ermittelten spektralen Leistungsdichte können dann die
Helligkeitsunterschieden des von dem Hautbereich im Zeitverlauf reflektierten Lichts und daraus der oder die Vitalparameter ermittelt werden. Die auf diese Weise ermittelten Vitalparameter können auch mit auf andere Weise ermittelten Werten der Fahrzeuginsassen kombiniert werden, um dadurch ein besseres Gesamtbild eines Zustandes der Fahrzeuginsassen zu erhalten. Auf diese Weise kann beispielsweise frühzeitig und mit einer geringen Fehlerquote eine Müdigkeit oder Unaufmerksamkeit des Fahrzeugführers festgestellt werden. So können beispielsweise durch Sensoren in einem Fahrzeugsitz Bewegungen des jeweiligen Fahrzeuginsassen, insbesondere des Fahrzeugführers ermittelt werden, welche auf Unruhe, Stress oder beginnende Müdigkeit hindeuten können. Dies kann beispielsweise mit der ermittelten Pulsfrequenz kombiniert werden, um eine bessere Einschätzung zu erhalten.
Bei einer Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeug, insbesondere zur Durchführung des Verfahrens zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeug, sind mittels zumindest einer
Bilderfassungseinheit Bilder des Fahrzeuginsassen erfassbar und mittels einer
Bildverarbeitungseinheit auswertbar. Erfindungsgemäß ist mittels der
Bilderfassungseinheit durch Bildauswertung der erfassten Bilder zumindest ein
Vitalparameter des Fahrzeuginsassen ermittelbar. Dies ermöglicht es, wie bereits zum mittels der Vorrichtung durchführbaren Verfahren zur Überwachung zumindest eines Fahrzeuginsassen in einem Fahrzeug beschrieben, einen Vitalzustand des
Fahrzeuginsassen, beispielsweise eines Fahrzeugführers des Fahrzeugs zu beurteilen und bei einer festgestellten Verschlechterung des Vitalzustandes geeignete Maßnahmen einzuleiten, beispielsweise Funktionen einer Assistenzvorrichtung des Fahrzeugs zu aktivieren, um zumindest auf eine potentielle Unfallgefahr hinzuweisen oder
gegebenenfalls einen Unfall zu vermeiden, Hilfe anzufordern und/oder einen Komfort des oder der Fahrzeuginsassen zu steigern, um dadurch den Vitalzustand zu verbessern.
In einem Verfahren zum Betrieb zumindest einer Assistenzvorrichtung eines Fahrzeugs unter Verwendung des Verfahrens zur Überwachung zumindest eines Fahrzeuginsassen wird erfindungsgemäß zumindest eine Funktion der Assistenzvorrichtung des Fahrzeugs aktiviert, wenn ein ermittelter Wert eines Vitalparameters von einem vorgegebenen Wert oder Wertebereich für diesen Vitalparameter abweicht. Auf diese Weise kann die Assistenzvorrichtung bei schlechten oder sich verschlechternden Vitalparametern des oder der Fahrzeuginsassen, insbesondere eines Fahrzeugführers, unterstützend eingreifen, um beispielsweise auf eine potentielle Unfallgefahr hinzuweisen oder gegebenenfalls einen Unfall zu verhindern, Hilfe anzufordern und/oder einen Komfort des oder der Fahrzeuginsassen zu steigern, um dadurch den Vitalzustand zu verbessern.
Vorzugsweise wird als Funktion der Assistenzvorrichtung ein Eingriff in eine
Lenkvorrichtung, Bremsvorrichtung und/oder in einen Antriebsstrang des Fahrzeugs und/oder eine optische, akustische und/oder haptische Wameinrichtung aktiviert. Auf diese Weise kann das Fahrzeug, wie beispielsweise in der DE 10 2009 016 936 A1 der Anmelderin beschrieben, deren vollständiger Inhalt hiermit durch Referenz aufgenommen wird, durch einen entsprechenden Eingriff in die Lenkvorrichtung, Bremsvorrichtung und/oder den Antriebsstrang des Fahrzeugs zum Beispiel automatisch an einen
Fahrbahnrand gesteuert und dort zum Stillstand gebracht werden. Besonders vorteilhaft kann der Eingriff in die Lenkvorrichtung, Bremsvorrichtung und/oder in den Antriebsstrang des Fahrzeugs derart erfolgen, dass das Fahrzeug autonom zu einer nächstgelegenen Nothilfeeinrichtung gesteuert wird, beispielsweise zu einer Notaufnahme eines
nächstgelegenen Krankenhauses.
Alternativ oder zusätzlich können Warneinrichtungen des Fahrzeugs aktiviert werden, zum Beispiel äußere Warneinrichtungen in Form einer Warnblinkanlage und/oder einer Hupe des Fahrzeugs, um andere Verkehrsteilnehmer zu warnen, und/oder es können Warneinrichtungen in einem Fahrzeuginnenraum aktiviert werden, um den oder die Fahrzeuginsassen zu warnen, beispielsweise um einen eingeschlafenen Fahrzeugführer zu wecken oder um andere Fahrzeuginsassen auf einen schlechten oder sich
verschlechternden Vitalzustand des Fahrzeugführers hinzuweisen, so dass diese beispielsweise das Lenkrad und/oder eine Handbremse des Fahrzeugs betätigen können, um das Fahrzeug abzubremsen und/oder an den Fahrbahnrand zu steuern.
Alternativ oder zusätzlich wird zweckmäßigerweise als Funktion der Assistenzvorrichtung zumindest eine Komfortfunktion und/oder eine Notruffunktion aktiviert. Durch Aktivierung der Komfortfunktion oder einer Mehrzahl derartiger Komfortfunktionen können
Vitalparameter des oder der Fahrzeuginsassen verbessert werden, beispielsweise wenn der oder die ermittelten Vitalparameter auf eine Ermüdung insbesondere des
Fahrzeugführers hindeuten. Es können dann beispielsweise eine Massagefunktion eines Fahrzeugsitzes, eine Innenraumbelüftung und/oder eine Klimafunktion des Fahrzeugs aktiviert werden. Dabei können zur Erfrischung der Fahrzeuginsassen beispielsweise auch ätherische Öle oder andere erfrischende Mittel in den Innenraum des Fahrzeugs eingeleitet werden. Des Weiteren kann der betreffende Fahrzeuginsasse durch optische, akustische und/oder haptische Mittel auf seine aktuelle Vitalsituation hingewiesen werden, vorzugsweise verbunden mit einer Empfehlung zu geeigneten
Gegenmaßnahmen, beispielsweise zum Einlegen einer Erholungspause, zu regelmäßiger Bewegung und/oder zu einer ausreichenden Flüssigkeitsaufnahme. Der Fahrzeuginsasse kann auf diese Weise beispielsweise auch an eine erforderliche Medikamenteneinnahme erinnert werden. Des Weiteren können, beispielsweise bei einem anhand der
Vitalparameter erkannten erhöhten Stressniveau, den Fahrzeugführer unterstützende und/oder beruhigende Einrichtungen des Fahrzeugs gezielt aktiviert werden,
beispielsweise eine Navigationseinrichtung oder eine Audioanlage des Fahrzeugs, d. h. beispielsweise ein Autoradio.
Zudem können der oder die Fahrzeuginsassen auch vor drohenden Gesundheitsgefahren gewarnt werden, beispielsweise vor drohenden Herz-Kreislauf-Beschwerden. Dabei ist es besonders vorteilhaft, die Vitalparameter des oder der Fahrzeuginsassen, beispielsweise des Fahrzeugführers, über längere Zeiträume, zum Beispiel mehrere Tage oder Wochen, zu ermitteln und deren Verlauf zu analysieren, so dass auch langsame
Verschlechterungen ermittelt werden können. Insbesondere bei älteren und/oder gesundheitlich gefährdeten oder beeinträchtigten Fahrzeuginsassen, insbesondere Fahrzeugführern, ist dadurch deren Sicherheitsempfinden und Wohlbefinden erheblich gesteigert. In einem medizinischen Notfall kann zudem ein automatischer Notruf eingeleitet werden, wobei vorzugsweise die erfassten Vitalparameter an eine
Notrufleitstelle oder ein Krankenhaus übermittelt werden, so dass eine schnelle und adäquate medizinische Hilfe eingeleitet werden kann. Zu diesem Zweck werden vorzugsweise auch aktuelle Positionsdaten des Fahrzeugs ermittelt und mit dem Notruf weitergeleitet.
Ausführungsbeispiele der Erfindung werden im Folgenden anhand einer Zeichnung näher erläutert.
Dabei zeigt:
Fig. 1 eine schematische Darstellung eines Fahrzeugs mit einem
Fahrzeuginsassen und einer auf diesen gerichteten Bilderfassungseinheit. Figur 1 zeigt eine schematische Darstellung eines Fahrzeugs 1 mit einem Fahrzeuginsassen 2 und einer auf diesen gerichteten Bilderfassungseinheit 3 als
Vorrichtung zur Überwachung des Fahrzeuginsassen. In einem Verfahren zur
Überwachung des Fahrzeuginsassen 2 werden mittels der Bilderfassungseinheit 3 Bilder des Fahrzeuginsassen 2 erfasst, beispielsweise in Form einer Videosequenz, und mittels einer nicht näher dargestellten Bildverarbeitungseinheit ausgewertet, um auf diese Weise zumindest einen Vitalparameter des Fahrzeuginsassen 2 zu ermitteln, beispielsweise eine Pulsfrequenz bzw. Herzfrequenz und/oder eine Atemfrequenz und/oder eine
Pumpleistung des Herzens und/oder ein Blutdruck und/oder eine Sauerstoffkonzentration im Blut des Fahrzeuginsassen 2 und/oder autonome Körperfunktionen, insbesondere Funktionen eines autonomen Nervensystems des Fahrzeuginsassen 2. Mittels des oder der ermittelten Vitalparameter des Fahrzeuginsassen 2 können ein Vitalzustand des Fahrzeuginsassen 2 und eine Veränderung des Vitalzustandes beurteilt werden.
Die Bilderfassungseinheit 3 ist vorzugsweise eine bereits im Fahrzeug 1 , beispielsweise, wie hier dargestellt, im Bereich einer Lenksäule installierte und auf den
Fahrzeuginsassen 2, im hier dargestellten Beispiel auf einen Fahrzeugführer gerichtete Bilderfassungseinheit 3. Zur Durchführung des Überwachungsverfahrens ist dabei bereits eine Videokamera mit geringer Auflösung ausreichend, beispielsweise eine so genannte CCD-Kamera. Auch spezielle Beleuchtungseinrichtungen sind nicht erforderlich, sondern eine im Fahrzeug 1 übliche Umgebungsbeleuchtung, zum Beispiel Tageslicht, ist bereits ausreichend.
Der zumindest eine Vitalparameter wird durch eine Erfassung eines optischen
Absorptionswertes und/oder eines Intensitätswertes reflektierten Lichts eines
Hautbereiches des Fahrzeuginsassen 2 und/oder durch eine Ermittlung einer Änderung dieses optischen Absorptionswertes und/oder dieses Intensitätswertes ermittelt. Während eines Herzschlags dehnen sich Blutgefäße, insbesondere Arterien, leicht aus, da ein Druck in den Blutgefäßen steigt. Diese Ausweitung verursacht einen Anstieg der optischen Absorption und deshalb auch ein Absinken der Intensität des reflektierten Lichts, das von dem Hautbereich reflektiert wird. Durch Ermittlung von
Helligkeitsunterschieden des von dem Hautbereich im Zeitverlauf reflektierten Lichts können Vitalparameter des Fahrzeuginsassen 2, insbesondere die Pulsfrequenz bzw. Herzfrequenz ermittelt werden. Dieses Verfahren wird auch Photoplethysmographie genannt. Die Grundlagen des Verfahrens sind beispielsweise in dem Artikel von
Ming-Zher Poh, Daniel J. McDuff, and Rosalind W. Picard, "Non-contact, automated cardiac pulse measurements using video imaging and blind source Separation," Opt. Express 18, 10762-10774 (2010) beschrieben, dessen vollständiger Inhalt hiermit durch Referenz aufgenommen wird.
Während der Bildverarbeitung wird mittels geeigneter Methoden zumindest ein zur Bildauswertung geeigneter Bereich in jedem der Bilder gesucht und nur dieser Bereich wird ausgewertet. Dieser Bereich ist ein Bereich in den Bildern, in welchen ein ausreichend großer Hautbereich des Fahrzeuginsassen 2 abgebildet ist. Bevorzugt wird als zur Bildauswertung geeigneter Bereich ein Bereich der Bilder gesucht und ausgewertet, welcher das Gesicht des Fahrzeuginsassen 2 beinhaltet, da in diesem Bereich ein ausreichend großer, auswertbarer Hautbereich zur Verfügung steht und da insbesondere bereits im Fahrzeug 1 installierte Bilderfassungseinheiten 3, welche beispielsweise zur Aufmerksamkeitserkennung eingesetzt werden, wie auch im hier dargestellten Beispiel auf das Gesicht des Fahrzeuginsassen 2, insbesondere des Fahrzeugführers gerichtet sind.
Das Auffinden derartiger zur Bildauswertung geeigneter Bereiche ist beispielsweise mittels Methoden zur Gesichtserkennung in Bildern möglich. Es können mit dem
Verfahren auch gleichzeitig ein oder mehrere Vitalparameter von mehreren
Fahrzeuginsassen 2 ermittelt werden, wenn mehrere Fahrzeuginsassen 2 von der Bilderfassungseinheit 3 erfasst werden, wobei die Bildbereiche ermittelt werden, in welchen sich die Gesichter der Fahrzeuginsassen 2 befinden, und getrennt voneinander ausgewertet werden.
Als Bilder des Fahrzeuginsassen 2 werden zweckmäßigerweise Farbbilder erfasst, insbesondere so genannte RGB-Bilder, wobei der zur Bildauswertung geeignete Bereich der Bilder in einzelne Farbanteile oder Farbkanäle aufgespalten wird, bei RGB-Bildern in die entsprechenden RGB-Farbkanäle rot, grün und blau, und zur Ermittlung des zumindest einen Vitalparameters zumindest ein Farbkanal ausgewertet wird. Dabei wird vorzugsweise insbesondere der grüne Anteil oder Farbkanal ausgewertet, da bei diesem die Genauigkeit der erzielten Ergebnisse am höchsten ist.
Mittels schneller Fourier-Transformation wird eine spektrale Leistungsdichte des auszuwertenden Farbkanals des zur Bildauswertung geeigneten Bereichs ermittelt. Anhand der ermittelten spektralen Leistungsdichte können dann die Helligkeitsunterschiede des von dem Hautbereich im Zeitverlauf reflektierten Lichts und daraus der oder die Vitalparameter des oder der Fahrzeuginsassen 2 ermittelt werden.
Das Verfahren ist aufgrund der Bilderfassungseinheit 3, welche lediglich eine geringe Auflösung aufweisen muss, sowie aufgrund der Durchführung unter normalen
Umgebungslichtbedingungen, d. h. ohne zusätzliche spezielle Lichtquellen, sehr einfach und kostengünstig im Fahrzeug 1 zu implementieren und durchzuführen. Zudem ist das Verfahren sehr robust gegenüber unterschiedlichen Hautfarben sowie gegenüber
Bewegungen des oder der Fahrzeuginsassen 2 während der Bilderfassung. Die
Ermittlung der Vitalparameter ist dabei ausreichend exakt, um den Vitalzustand des oder der Fahrzeuginsassen 2 sowie eine Veränderung des Vitalzustandes anhand des oder der ermittelten Vitalparameter ausreichend genau bestimmen zu können, so dass ein Vitalzustand, welcher beispielsweise auf eine akute Notsituation hindeutet und
medizinische Hilfe erfordert oder welcher beispielsweise Auswirkungen auf das sichere Führen des Fahrzeugs 1 haben könnte, mit einer hohen Sicherheit erkennbar ist.
Das Überwachungsverfahren bzw. der oder die auf diese Weise ermittelten
Vitalparameter des Fahrzeuginsassen 2, insbesondere des Fahrzeugführers, können in einem Verfahren zum Betrieb zumindest einer Assistenzvorrichtung des Fahrzeugs 1 verwendet werden. Dabei wird zumindest eine Funktion der Assistenzvorrichtung aktiviert, wenn ein ermittelter Wert eines Vitalparameters von einem vorgegebenen Wert oder Wertebereich für diesen Vitalparameter abweicht.
Auf diese Weise kann die Assistenzvorrichtung bei schlechten oder sich
verschlechternden Vitalparametern des oder der Fahrzeuginsassen 2, insbesondere des Fahrzeugführers, unterstützend eingreifen, um beispielsweise einen Unfall zu verhindern, Hilfe anzufordern und/oder einen Komfort des oder der Fahrzeuginsassen 2 zu steigern, um dadurch den Vitalzustand zu verbessern.
Vorzugsweise wird als Funktion der Assistenzvorrichtung ein Eingriff in eine
Lenkvorrichtung, Bremsvorrichtung und/oder in einen Antriebsstrang des Fahrzeugs 1 und/oder eine optische, akustische und/oder haptische Warneinrichtung aktiviert. Auf diese Weise kann das Fahrzeug 1 , wie beispielsweise in der DE 10 2009 016 936 A1 der Anmelderin beschrieben, deren vollständiger Inhalt hiermit durch Referenz aufgenommen wird, durch einen entsprechenden Eingriff in die Lenkvorrichtung, Bremsvorrichtung und/oder den Antriebsstrang des Fahrzeugs 1 zum Beispiel automatisch an einen Fahrbahnrand gesteuert und dort zum Stillstand gebracht werden. Besonders vorteilhaft kann der Eingriff in die Lenkvorrichtung, Bremsvorrichtung und/oder in den Antriebsstrang des Fahrzeugs 1 derart erfolgen, dass das Fahrzeug 1 autonom zu einer
nächstgelegenen Nothilfeeinrichtung gesteuert wird, beispielsweise zu einer
Notaufnahme eines nächstgelegenen Krankenhauses.
Alternativ oder zusätzlich können Warneinrichtungen des Fahrzeugs 1 aktiviert werden, zum Beispiel äußere Warneinrichtungen in Form einer Warnblinkanlage und/oder einer Hupe des Fahrzeugs 1 , um andere Verkehrsteilnehmer zu warnen, und/oder es können Warneinrichtungen in einem Fahrzeuginnenraum aktiviert werden, um den oder die Fahrzeuginsassen 2 zu warnen, beispielsweise um einen eingeschlafenen
Fahrzeugführer zu wecken oder um andere Fahrzeuginsassen 2 auf sich
verschlechternde Vitalparameter des Fahrzeugführers, welche möglicherweise auf einen sich verschlechtern Gesundheitszustand hindeuten, hinzuweisen, so dass diese beispielsweise das Lenkrad und/oder eine Handbremse des Fahrzeugs 1 betätigen können, um das Fahrzeug 1 abzubremsen und/oder an den Fahrbahnrand zu steuern.
Alternativ oder zusätzlich wird zweckmäßigerweise als Funktion der Assistenzvorrichtung zumindest eine Komfortfunktion und/oder eine Notruffunktion aktiviert. Durch Aktivierung der Komfortfunktion oder einer Mehrzahl derartiger Komfortfunktionen können
Vitalparameter des oder der Fahrzeuginsassen 2 verbessert werden, beispielsweise wenn der oder die ermittelten Vitalparameter auf eine Ermüdung insbesondere des
Fahrzeugführers hindeuten.
Es können dann beispielsweise eine Massagefunktion eines Fahrzeugsitzes, eine
Innenraumbelüftung und/oder eine Klimafunktion des Fahrzeugs 1 aktiviert werden. Dabei können zur Erfrischung des oder der Fahrzeuginsassen 2 beispielsweise auch ätherische Öle oder andere erfrischende Mittel in einen Innenraum des Fahrzeugs 1 eingeleitet werden. Des Weiteren kann der betreffende Fahrzeuginsasse 2 durch optische, akustische und/oder haptische Mittel auf seine aktuelle Vitalsituation hingewiesen werden, vorzugsweise verbunden mit einer Empfehlung zu geeigneten
Gegenmaßnahmen, beispielsweise zum Einlegen einer Erholungspause, zu regelmäßiger Bewegung und/oder zu einer ausreichenden Flüssigkeitsaufnahme. Der
Fahrzeuginsasse 2 kann auf diese Weise zum Beispiel auch an eine erforderliche
Medikamenteneinnahme erinnert werden. Des Weiteren können, beispielsweise bei einem anhand der Vitalparameter erkannten erhöhten Stressniveau, den Fahrzeugführer unterstützende und/oder beruhigende Einrichtungen des Fahrzeugs 1 gezielt aktiviert werden, beispielsweise eine Navigationseinrichtung oder eine Audioanlage des
Fahrzeugs 1 , d. h. beispielsweise ein Autoradio.
Zudem können die Fahrzeuginsassen 2 auch vor drohenden Gesundheitsgefahren gewarnt werden, beispielsweise vor drohenden Herz-Kreislauf-Beschwerden.
Insbesondere bei älteren und/oder gesundheitlich gefährdeten oder beeinträchtigten Fahrzeuginsassen 2, insbesondere Fahrzeugführern, ist dadurch deren
Sicherheitsempfinden und Wohlbefinden erheblich gesteigert. In einem medizinischen Notfall kann zudem ein automatischer Notruf eingeleitet werden, wobei vorzugsweise die erfassten und gespeicherten Vitalparameter an eine Notrufleitstelle oder ein Krankenhaus übermittelt werden, so dass eine schnelle und adäquate medizinische Hilfe eingeleitet werden kann. Zu diesem Zweck werden vorzugsweise auch aktuelle Positionsdaten des Fahrzeugs 1 ermittelt und mit dem Notruf weitergeleitet.
Die mittels des Überwachungsverfahrens ermittelten Vitalparameter können auch mit auf andere Weise ermittelten Werten des oder der Fahrzeuginsassen 2 kombiniert werden, um dadurch ein besseres Gesamtbild eines Zustandes des oder der Fahrzeuginsassen 2 zu erhalten. Auf diese Weise kann beispielsweise frühzeitig und mit einer geringen Fehlerquote eine Müdigkeit oder Unaufmerksamkeit des Fahrzeugführers festgestellt werden. So können zum Beispiel durch Sensoren in einem Fahrzeugsitz Bewegungen des jeweiligen Fahrzeuginsassen 2, insbesondere des Fahrzeugführers ermittelt werden, welche auf Unruhe, Stress oder beginnende Müdigkeit hindeuten können. Zudem kann auch die Un- aufmerksamkeitserkennungsfunktion, für welche die Bilderfassungseinheit ursprünglich im Fahrzeug 1 installiert ist, genutzt werden. Auf diese Weise ermittelte zusätzliche Werte des oder der Fahrzeuginsassen 2 können beispielsweise mit der ermittelten Pulsfrequenz kombiniert werden, um eine bessere Einschätzung des Vitalzustandes des oder der Fahrzeuginsassen 2 zu erhalten.
Als Bilderfassungseinheit kann auch einfache schwarz-weiß Kamera eingesetzt werden, z.B. um eine robustere Auswertung zu erhalten. Als Bilderfassungseinheit kann auch eine infra-rot Kamera eingesetzt werden, um die Vitalparameter in dunklen Straßensegmenten oder bei Dunkelheit zu erfassen. Eine Umschaltung in den Infrarot-Bereich kann automatisch mittels einer Helligkeitserkennung, wie sie bei der automatischen Fahrlichtsteuerung eingesetzt wird, erfolgen. Wie bereits erwähnt, wird vorzugsweise insbesondere der grüne Anteil oder Farbkanal ausgewertet, da bei diesem die Genauigkeit der erzielten Ergebnisse am höchsten ist. Bei Verwendung einer Farbkamera kann die Robustheit erhöht werden, wenn alle drei RGB-Komponenten des Bildsignals gewichtet ausgewertet werden, da alle 3 RGB-Kanäle redundante Information zu den gemessenen Vitalparametern tragen.
Ein Vorteil des ausgeführten Verfahrens besteht darin, dass mit ein und demselben Bildsignal aus dem Gesichtsbereich sowohl Puls als auch die Atemfrequenz ermittelt werden kann. Ein Verschwenken der Kamera auf den Brustbereich, um die Atemfrequenz zu messen ist nicht notwendig. Allgemein besteht keine Notwendigkeit zur Umrichtung der Kamera zwischen Gesicht-, Brust- oder andere Körperbereiche.
Wie bereits erwähnt, sind spezielle Beleuchtungseinrichtungen nicht erforderlich, da eine im Fahrzeug übliche Umgebungsbeleuchtung, zum Beispiel Tageslicht bereits ausreichend ist. Eine Machbarkeitsanalyse zeigt dass fehlende Bildsequenzen, z.B. bei Fahrt in dunklen Straßensegmenten, wie stark schattierte Straßenabschnitte, z.B. unter Brücken oder Tunnel keinen negativen Einfluss auf die ganzheitliche Auswertung des Zustande des Fahrers tagsüber haben, wenn es sich um kurze Zeitabschnitten (wenige Minuten) handelt. Für längere dunkle Zeitabschnitten tagsüber oder bei Nacht ist es erforderlich eine infra-rot Kamera zu verwenden, um die Daten für die Bildverarbeitung aufzunehmen. Die so erzeugten Bilder sind in gleicher Qualität wie die Bilder einer schwarz-weiss Kamera. Dies ist jedoch keine Einschränkung, weil das Verfahren auch robust mit schwarzweißen Bildern umgehen kann.
Zur Nomenklatur: Die„schnelle Fourier-Transformation" ist besser bekannt als„Fast- Fourier-Transform (FFT)".
Es wurde bereits erwähnt, dass mit dem beschriebenen Verfahren auf eine Unaufmerksamkeit des Fahrzeuginsassen, beispielsweise des Fahrzeugführers, oder auf eine drohende oder bereits eingetretene Bewusstlosigkeit oder schwere gesundheitliche Probleme geschlossen werden kann. Darüber hinaus bietet die berührungslose Messung der Vitaldaten einen diagnostischen Wert für a) Tachykardie, Brachykardie, Bradykardie, b) Herzratenvariabilität (zur Unterscheidung von z.B. Ruhe, Stress, Freude) und c) die Erkennung von Tendenzen zu Virusinfektionen (Hauttemperatur, Puls, Atemfrequenz.
Es wurde beschrieben, dass zumindest eine Funktion der Assistenzvorrichtung aktiviert wird, wenn ein ermittelter Wert eines Vitalparameters von einem vorgegebenen Wert oder Wertebereich für diesen Vitalparameter abweicht. Es kann aber auch eine Kombination der ermittelten Vitalparameter mit auf andere Weise ermittelten Werten der Fahrzeuginsassen (wie Aufmerksamkeit, Unruhe, Müdigkeit, Stress) zur Aktivierung von mindest eine Komfortfunktion, Notrufaktion oder Empfehlung von Gegenmaßnahmen verwendet werden. Solche Empfehlungen können das Einlegen einer Erholungspause, zu regelmäßiger Bewegung, zu einer ausreichenden Flüssigkeitsaufnahme oder zu einer erforderlichen Medikamenteneinnahme sein.

Claims

Patentansprüche
1. Verfahren zur Überwachung zumindest eines Fahrzeuginsassen (2) in einem
Fahrzeug (1 ), wobei mittels zumindest einer Bilderfassungseinheit (3) Bilder des Fahrzeuginsassen (2) erfasst und mittels einer Bildverarbeitungseinheit ausgewertet werden,
dadurch gekennzeichnet, dass durch die Bildauswertung der erfassten Bilder zumindest ein Vitalparameter des Fahrzeuginsassen (2) ermittelt wird.
2. Verfahren nach Anspruch 1 ,
dadurch gekennzeichnet, dass als Vitalparameter eine Pulsfrequenz und/oder eine Atemfrequenz und/oder eine Pumpleistung des Herzens und/oder ein Blutdruck und/oder eine Sauerstoffkonzentration im Blut des Fahrzeuginsassen (2) und/oder autonome Körperfunktionen des Fahrzeuginsassen (2) ermittelt werden.
3. Verfahren nach Anspruch 1 oder 2,
dadurch gekennzeichnet, dass der zumindest eine Vitalparameter durch eine Erfassung eines optischen Absorptionswertes und/oder eines Intensitätswertes reflektierten Lichts eines Hautbereiches des Fahrzeuginsassen (2) und/oder durch eine Ermittlung einer Änderung dieses optischen Absorptionswertes und/oder dieses Intensitätswertes ermittelt wird.
4. Verfahren nach einem der Ansprüche 1 bis 3,
dadurch gekennzeichnet, dass während der Bildverarbeitung zumindest ein zur Bildauswertung geeigneter Bereich in jedem der Bilder gesucht wird und nur dieser Bereich ausgewertet wird.
5. Verfahren nach Anspruch 4,
dadurch gekennzeichnet, dass als zur Bildauswertung geeigneter Bereich ein Bereich der Bilder gesucht und ausgewertet wird, welcher das Gesicht des Fahrzeuginsassen (2) beinhaltet.
6. Verfahren nach Anspruch 4 oder 5,
dadurch gekennzeichnet, dass als Bilder des Fahrzeuginsassen (2) Farbbilder erfasst werden, wobei der zur Bildauswertung geeignete Bereich der Bilder in einzelne Farbkanäle aufgespalten wird und zur Ermittlung des zumindest einen Vitalparameters zumindest ein Farbkanal ausgewertet wird.
7. Verfahren nach Anspruch 6,
dadurch gekennzeichnet, dass mittels schneller Fourier-Transformation eine spektrale Leistungsdichte des Farbkanals des zur Bildauswertung geeigneten Bereichs ermittelt wird.
8. Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen (2) in einem Fahrzeug (1), wobei mittels zumindest einer Bilderfassungseinheit (3) Bilder des Fahrzeuginsassen (2) erfassbar und mittels einer Bildverarbeitungseinheit auswertbar sind,
dadurch gekennzeichnet, dass mittels der Bilderfassungseinheit (3) durch
Bildauswertung der erfassten Bilder zumindest ein Vitalparameter des
Fahrzeuginsassen (2) ermittelbar ist.
9. Verfahren zum Betrieb zumindest einer Assistenzvorrichtung eines Fahrzeugs (1) unter Verwendung eines Verfahrens nach einem der Ansprüche 1 bis 7, dadurch gekennzeichnet, dass zumindest eine Funktion der Assistenzvorrichtung aktiviert wird, wenn ein ermittelter Wert eines Vitalparameters von einem vorgegebenen Wert oder Wertebereich für diesen Vitalparameter abweicht.
10. Verfahren nach Anspruch 9,
dadurch gekennzeichnet, dass als Funktion der Assistenzvorrichtung ein Eingriff in eine Lenkvorrichtung, Bremsvorrichtung und/oder in einen Antriebsstrang des Fahrzeugs (1) und/oder eine optische, akustische und/oder haptische Warneinrichtung und/oder zumindest eine Komfortfunktion und/oder eine Notruffunktion aktiviert werden bzw. wird.
PCT/EP2011/006209 2011-04-12 2011-12-09 Verfahren und vorrichtung zur überwachung zumindest eines fahrzeuginsassen und verfahren zum betrieb zumindest einer assistenzvorrichtung Ceased WO2012139619A1 (de)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2014504169A JP2014518647A (ja) 2011-04-12 2011-12-09 少なくとも１人の車両乗員を監視する方法及び装置、及び少なくとも１つのアシスタント装置を作動させるための方法
US14/111,440 US10140532B2 (en) 2011-04-12 2011-12-09 Method and device for monitoring at least one vehicle occupant, and method for operating at least one assistance device

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
DE102011016772.2A DE102011016772B8 (de) 2011-04-12 2011-04-12 Verfahren und Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen und Verfahren zum Betrieb zumindest einer Assistenzvorrichtung
DE102011016772.2 2011-04-12

Publications (1)

Publication Number Publication Date
WO2012139619A1 true WO2012139619A1 (de) 2012-10-18

Family

ID=45350730

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/EP2011/006209 Ceased WO2012139619A1 (de) 2011-04-12 2011-12-09 Verfahren und vorrichtung zur überwachung zumindest eines fahrzeuginsassen und verfahren zum betrieb zumindest einer assistenzvorrichtung

Country Status (4)

Country Link
US (1) US10140532B2 (de)
JP (1) JP2014518647A (de)
DE (1) DE102011016772B8 (de)
WO (1) WO2012139619A1 (de)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2757001A1 (de) * 2013-01-18 2014-07-23 Ford Global Technologies, LLC Verfahren und Vorrichtung für Fahrzeugzugangskontrolle
US20140243649A1 (en) * 2013-02-28 2014-08-28 Koninklijke Philips Electronics N.V. Apparatus and method for determining vital sign information from a subject
CN106600894A (zh) * 2016-12-16 2017-04-26 合肥寰景信息技术有限公司 一种疲劳驾驶和酒后驾驶监控预警系统
CN109532746A (zh) * 2018-12-20 2019-03-29 刘山平 一种具有人体遗忘自救功能的汽车
US10686776B2 (en) 2016-07-22 2020-06-16 Samsung Electronics Co., Ltd. Authorized control of an embedded system using end-to-end secure element communication

Families Citing this family (50)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102011110486A1 (de) * 2011-08-17 2013-02-21 Daimler Ag Verfahren und Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen und Verfahren zum Betrieb zumindest einer Assistenzvorrichtung
FR2998159B1 (fr) * 2012-11-22 2016-01-01 Peugeot Citroen Automobiles Sa Procede et systeme de gestion du stress d'un conducteur de vehicule automobile
US20150379362A1 (en) * 2013-02-21 2015-12-31 Iee International Electronics & Engineering S.A. Imaging device based occupant monitoring system supporting multiple functions
US11334066B2 (en) * 2013-03-27 2022-05-17 Pixart Imaging Inc. Safety monitoring apparatus and method thereof for human-driven vehicle
US8874301B1 (en) 2013-07-09 2014-10-28 Ford Global Technologies, Llc Autonomous vehicle with driver presence and physiological monitoring
MX358093B (es) * 2013-08-07 2018-08-06 Koninklijke Philips Nv Sistema de monitoreo y metodo para monitoreo del estado hemodinamico de un sujeto.
DE102014206678A1 (de) * 2014-04-07 2015-10-08 Bayerische Motoren Werke Aktiengesellschaft Kontinuierliche Blutdruckmessung bei Fahrzeugführern
US20150294547A1 (en) * 2014-04-15 2015-10-15 Denso Corporation Driver condition detection apparatus, driving assistance apparatus, driver condition detection method, and driving assistance method
US10354330B1 (en) 2014-05-20 2019-07-16 State Farm Mutual Automobile Insurance Company Autonomous feature use monitoring and insurance pricing
US10599155B1 (en) 2014-05-20 2020-03-24 State Farm Mutual Automobile Insurance Company Autonomous vehicle operation feature monitoring and evaluation of effectiveness
US9972054B1 (en) 2014-05-20 2018-05-15 State Farm Mutual Automobile Insurance Company Accident fault determination for autonomous vehicles
US11669090B2 (en) 2014-05-20 2023-06-06 State Farm Mutual Automobile Insurance Company Autonomous vehicle operation feature monitoring and evaluation of effectiveness
US10373259B1 (en) 2014-05-20 2019-08-06 State Farm Mutual Automobile Insurance Company Fully autonomous vehicle insurance pricing
US9786154B1 (en) 2014-07-21 2017-10-10 State Farm Mutual Automobile Insurance Company Methods of facilitating emergency assistance
US10241509B1 (en) 2014-11-13 2019-03-26 State Farm Mutual Automobile Insurance Company Autonomous vehicle control assessment and selection
FR3029157B1 (fr) * 2014-12-02 2018-03-02 Renault S.A.S. Procede d'assistance a au moins un occupant d'un vehicule accidente et systeme d'assistance dedie
FR3032817B1 (fr) * 2015-02-17 2018-03-23 Agence Francaise De Securisation Des Reseaux Routiers Systeme de confirmation d'autorisation d'emprunt de voie reservee a certains types de vehicules
US9688271B2 (en) 2015-03-11 2017-06-27 Elwha Llc Occupant based vehicle control
KR101639804B1 (ko) * 2015-05-15 2016-07-25 주식회사 한글과컴퓨터 구급이 가능한 무인 스마트카 및 그의 운용 방법
US11107365B1 (en) 2015-08-28 2021-08-31 State Farm Mutual Automobile Insurance Company Vehicular driver evaluation
JP2017051350A (ja) * 2015-09-08 2017-03-16 Idec株式会社 緊急処理システム
US9744809B2 (en) * 2015-11-05 2017-08-29 Continental Automotive Systems, Inc. Enhanced sound generation for quiet vehicles
CN105389949A (zh) * 2015-12-18 2016-03-09 李俊娇 一种汽车疲劳驾驶预警装置
US10503168B1 (en) 2016-01-22 2019-12-10 State Farm Mutual Automotive Insurance Company Autonomous vehicle retrieval
US11719545B2 (en) 2016-01-22 2023-08-08 Hyundai Motor Company Autonomous vehicle component damage and salvage assessment
US10395332B1 (en) 2016-01-22 2019-08-27 State Farm Mutual Automobile Insurance Company Coordinated autonomous vehicle automatic area scanning
US11242051B1 (en) 2016-01-22 2022-02-08 State Farm Mutual Automobile Insurance Company Autonomous vehicle action communications
US10324463B1 (en) 2016-01-22 2019-06-18 State Farm Mutual Automobile Insurance Company Autonomous vehicle operation adjustment based upon route
US10134278B1 (en) 2016-01-22 2018-11-20 State Farm Mutual Automobile Insurance Company Autonomous vehicle application
US11441916B1 (en) 2016-01-22 2022-09-13 State Farm Mutual Automobile Insurance Company Autonomous vehicle trip routing
US10335045B2 (en) 2016-06-24 2019-07-02 Universita Degli Studi Di Trento Self-adaptive matrix completion for heart rate estimation from face videos under realistic conditions
JP6365621B2 (ja) 2016-10-19 2018-08-01 マツダ株式会社 運転支援装置
JP6350977B2 (ja) * 2016-10-19 2018-07-04 マツダ株式会社 運転支援装置
DE102017205386A1 (de) * 2017-03-30 2018-10-04 Robert Bosch Gmbh Fahrerbeobachtungsvorrichtung und Verfahren zum Beobachten eines Fahrers in einem Fahrzeug zum Bestimmen zumindest einer Position des Fahrers in dem Fahrzeug
DE102017112536A1 (de) 2017-06-07 2018-12-13 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Fahrzeuginsassenbeobachtung mittels Terahertz-Strahlung
JP7014951B2 (ja) * 2017-06-20 2022-02-02 テイ・エス テック株式会社 乗物用シート
JP7386440B2 (ja) * 2017-12-19 2023-11-27 パナソニックＩｐマネジメント株式会社 生体計測装置、生体計測装置の作動方法、及び判定装置
DE102018001970A1 (de) 2018-03-12 2019-09-12 Daimler Ag Verfahren zum Betreiben eines Regelsystems zur automatisierten Fahrzeugführung
JP7340546B2 (ja) * 2018-07-26 2023-09-07 コーニンクレッカ フィリップス エヌ ヴェ 対象の脈拍を検出する装置、システム及び方法
CN109131072A (zh) * 2018-08-13 2019-01-04 上海擎感智能科技有限公司 心率监控安全驾驶方法、系统、存储介质及车机
DE102018218215A1 (de) * 2018-10-24 2020-04-30 Robert Bosch Gmbh Insassenüberwachungssystem für ein Fahrzeug
DE102019000060B4 (de) * 2019-01-03 2025-08-07 Joynext Gmbh Steuern eines Fahrzeugs unter Verwendung eines Steuerungssystems
TWI715216B (zh) * 2019-09-27 2021-01-01 宏碁股份有限公司 非侵入性酒測監視系統及其方法
DE102019128401A1 (de) * 2019-10-21 2021-04-22 Bayerische Motoren Werke Aktiengesellschaft Verfahren und Steuereinheit zum Betrieb einer Beleuchtungseinheit als Lichtsensor
DE102020203890A1 (de) 2020-03-25 2021-09-30 Volkswagen Aktiengesellschaft Kraftfahrzeug
FR3122564B1 (fr) * 2021-05-07 2025-03-21 Valeo Systemes Thermiques Système d’aide pour fournir une information de diagnostic
DE102023206036A1 (de) 2023-06-27 2025-01-02 Mahle International Gmbh Verfahren zum Einstellen einer Klimaanlage
DE102023127291A1 (de) * 2023-10-06 2025-04-10 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Sicherheitssystem für ein Kraftfahrzeug und Verfahren zum Betreiben eines Sicherheitssystems
DE102024112872B3 (de) 2024-05-08 2025-06-12 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren zur Regelung einer Klimaanlage in einem Kraftfahrzeug und Kraftfahrzeug
DE102024124995A1 (de) * 2024-09-02 2026-03-05 Dr. Ing. H.C. F. Porsche Aktiengesellschaft Verfahren zum Betrieb eines Fahrzeugs

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729619A (en) * 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
EP1182089B1 (de) 2000-08-16 2005-03-16 Robert Bosch Gmbh Verfahren zur Warnung eines Fahrers eines Fahrzeugs
US20080294017A1 (en) * 2007-05-22 2008-11-27 Gobeyn Kevin M Image data normalization for a monitoring system
US20090231145A1 (en) * 2008-03-12 2009-09-17 Denso Corporation Input apparatus, remote controller and operating device for vehicle
DE102009016936A1 (de) 2009-04-08 2009-11-19 Daimler Ag Fahrassistenzsystem zum Unterstützen eines Fahrers bei Ermüdung
US20100070988A1 (en) * 2007-05-24 2010-03-18 Yossef Gerard Cohen Systems and methods for measuring an audience

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH08234805A (ja) 1995-02-22 1996-09-13 Yamaha Motor Co Ltd 作業者の快適化システム及びその装置
HK1045856A1 (zh) * 1999-04-09 2002-12-13 法玛西雅厄普约翰美国公司 抗细菌疫苗组合物
CN1956680A (zh) 2004-05-24 2007-05-02 日本先锋公司 生物信息检测装置
JPWO2006064635A1 (ja) 2004-12-17 2008-06-12 コニカミノルタホールディングス株式会社 診断システム
GB0607270D0 (en) * 2006-04-11 2006-05-17 Univ Nottingham The pulsing blood supply
US20080214944A1 (en) * 2007-02-09 2008-09-04 Morris Margaret E System, apparatus and method for mobile real-time feedback based on changes in the heart to enhance cognitive behavioral therapy for anger or stress reduction
JP2008284165A (ja) * 2007-05-17 2008-11-27 Auto Network Gijutsu Kenkyusho:Kk 生体情報取得装置
US20100324437A1 (en) 2007-09-12 2010-12-23 Freeman Jenny E Device and method for assessing physiological parameters
JP2009213779A (ja) * 2008-03-12 2009-09-24 Denso Corp 車両用操作入力装置
JP5446443B2 (ja) * 2009-05-15 2014-03-19 日産自動車株式会社 心拍数測定装置および心拍数測定方法
CN102549621B (zh) * 2009-10-06 2016-08-31 皇家飞利浦电子股份有限公司 用于处理至少包含代表生物中的周期现象的分量的信号的方法和系统
US20110224875A1 (en) * 2010-03-10 2011-09-15 Cuddihy Mark A Biometric Application of a Polymer-based Pressure Sensor
US8718748B2 (en) * 2011-03-29 2014-05-06 Kaliber Imaging Inc. System and methods for monitoring and assessing mobility

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5729619A (en) * 1995-08-08 1998-03-17 Northrop Grumman Corporation Operator identity, intoxication and drowsiness monitoring system and method
EP1182089B1 (de) 2000-08-16 2005-03-16 Robert Bosch Gmbh Verfahren zur Warnung eines Fahrers eines Fahrzeugs
US20080294017A1 (en) * 2007-05-22 2008-11-27 Gobeyn Kevin M Image data normalization for a monitoring system
US20100070988A1 (en) * 2007-05-24 2010-03-18 Yossef Gerard Cohen Systems and methods for measuring an audience
US20090231145A1 (en) * 2008-03-12 2009-09-17 Denso Corporation Input apparatus, remote controller and operating device for vehicle
DE102009016936A1 (de) 2009-04-08 2009-11-19 Daimler Ag Fahrassistenzsystem zum Unterstützen eines Fahrers bei Ermüdung

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
VON MING-ZHER POH; DANIEL J. MCDUFF; ROSALIND W. PICARD: "Non-contact, automated cardiac pulse measurements using video imaging and blind source separation", OPT. EXPRESS, vol. 18, 2010, pages 10762 - 10774

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP2757001A1 (de) * 2013-01-18 2014-07-23 Ford Global Technologies, LLC Verfahren und Vorrichtung für Fahrzeugzugangskontrolle
US20140243649A1 (en) * 2013-02-28 2014-08-28 Koninklijke Philips Electronics N.V. Apparatus and method for determining vital sign information from a subject
CN105142516A (zh) * 2013-02-28 2015-12-09 皇家飞利浦有限公司 用于确定来自对象的生命体征信息的装置和方法
US10686776B2 (en) 2016-07-22 2020-06-16 Samsung Electronics Co., Ltd. Authorized control of an embedded system using end-to-end secure element communication
CN106600894A (zh) * 2016-12-16 2017-04-26 合肥寰景信息技术有限公司 一种疲劳驾驶和酒后驾驶监控预警系统
CN109532746A (zh) * 2018-12-20 2019-03-29 刘山平 一种具有人体遗忘自救功能的汽车

Also Published As

Publication number Publication date
US10140532B2 (en) 2018-11-27
DE102011016772A1 (de) 2012-10-18
DE102011016772B4 (de) 2024-04-25
US20140104405A1 (en) 2014-04-17
JP2014518647A (ja) 2014-08-07
DE102011016772B8 (de) 2024-08-14

Similar Documents

Publication Publication Date Title
DE102011016772B4 (de) 12.04.2021Verfahren und Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen und Verfahren zum Betrieb zumindest einer Assistenzvorrichtung
WO2013023738A1 (de) Verfahren und vorrichtung zur überwachung zumindest eines fahrzeuginsassen und verfahren zum betrieb zumindest einer assistenzvorrichtung
DE102011109564B4 (de) Verfahren und Vorrichtung zur Überwachung zumindest eines Fahrzeuginsassen und Verfahren zum Betrieb zumindest einer Assistenzvorrichtung
EP2877360B1 (de) Verfahren und fahrerassistenzsystem zum betreiben eines fahrzeugs bei einer gesundheitlichen störung eines fahrers
DE102012020901B4 (de) Verfahren zum Betrieb zumindest einer Assistenzvorrichtung eines Fahrzeugs und Vorrichtung zur Durchführung des Verfahrens
DE102014212746B4 (de) Autonomes fahrzeug mit fahrer-anwesenheits- und physiologischer überwachung
DE112019007558B4 (de) Kognitiv-Funktion-Abschätzungsvorrichtung, Lernvorrichtung und Verfahren zur Schätzung der kognitiven Funktion
DE102014216208B4 (de) Verfahren und eine Vorrichtung zum Bestimmen einer Reaktionszeit eines Fahrzeugführers
EP2359748A1 (de) Detektor für schläfrigkeitssignale
DE102015105581A1 (de) System und Verfahren zur Überwachung des Gesundheitszustandes und/oder des Befindens eines Fahrzeuginsassen
WO2014064095A1 (de) Verfahren und unterstützungssystem zum unterstützen eines fahrers eines kraftfahrzeuges sowie messverfahren und messsystem zum bestimmen eines mentalen zustandes eines fahrers eines kraftfahrzeuges
DE102021201498A1 (de) Vorrichtung und Verfahren zur Bestimmung einer Aufmerksamkeit eines Fahrers eines Fahrzeugs
DE102014211882A1 (de) Verfahren zur Ermittlung der Herzfrequenz des Fahrers eines Fahrzeugs
DE102018210593A1 (de) Fahrtüchtigkeitserkennungsvorrichtung für ein Fahrzeug
DE102019003557A1 (de) Verfahren zum Betrieb eines Fahrzeugs
WO2018149519A1 (de) System und verfahren zur erkennung der müdigkeit eines fahrzeugführers
WO2019233534A1 (de) Fahrerstresslevelanalysevorrichtung für ein fahrzeug
DE102019220119B4 (de) Verfahren und Vorrichtung zur Reanimation eines Fahrzeuginsassen
DE102014219892A1 (de) Unterstützen der Atmung eines Fahrzeugführers
DE102023002626B4 (de) Verfahren zum Betrieb eines Assistenzsystems eines Fahrzeuges
DE102018007111A1 (de) Vorrichtung zur Detektion eines Bewusstseinszustands eines Fahrers eines Fahrzeugs
DE102023129943A1 (de) Verfahren für ein Kraftfahrzeug zum Unterstützen eines Fahrers des Kraftfahrzeugs, Computerprogramm und/oder computerlesbares Medium, eine Datenverarbeitungsvorrichtung und ein Kraftfahrzeug
DE102017118363A1 (de) Verfahren zum Betreiben einer Steuervorrichtung eines Kraftfahrzeugs, um in einer Bildsequenz eine Eigenschaft eines Objekts zu ermitteln, sowie Steuervorrichtung und Kraftfahrzeug
DE102020210325A1 (de) Vorrichtung zur Linderung von Symptomen der Willis-Ekbom-Krankheit in einem Kraftfahrzeug, Kraftfahrzeug und Computerprogrammprodukt
WO2022157039A1 (de) Erkennung des aufmerksamkeitsgrades eines fahrzeuginsassen anhand der häufigkeitsverteilung der augenöffnungsweite

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 11797189

Country of ref document: EP

Kind code of ref document: A1

ENP Entry into the national phase

Ref document number: 2014504169

Country of ref document: JP

Kind code of ref document: A

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 14111440

Country of ref document: US

122 Ep: pct application non-entry in european phase

Ref document number: 11797189

Country of ref document: EP

Kind code of ref document: A1