DE102012024972A1 - Method for operating multi-camera system of i.e. passenger car, involves limiting parameter values on predetermined value range by adjusting common desired value, and performing image processing algorithm using electronic computing device - Google Patents
Method for operating multi-camera system of i.e. passenger car, involves limiting parameter values on predetermined value range by adjusting common desired value, and performing image processing algorithm using electronic computing device Download PDFInfo
- Publication number
- DE102012024972A1 DE102012024972A1 DE201210024972 DE102012024972A DE102012024972A1 DE 102012024972 A1 DE102012024972 A1 DE 102012024972A1 DE 201210024972 DE201210024972 DE 201210024972 DE 102012024972 A DE102012024972 A DE 102012024972A DE 102012024972 A1 DE102012024972 A1 DE 102012024972A1
- Authority
- DE
- Germany
- Prior art keywords
- image
- cameras
- values
- ymed
- parameter values
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims abstract description 37
- 238000012545 processing Methods 0.000 title claims abstract description 14
- 230000003321 amplification Effects 0.000 claims description 8
- 238000003199 nucleic acid amplification method Methods 0.000 claims description 8
- 230000008859 change Effects 0.000 description 17
- 230000006978 adaptation Effects 0.000 description 11
- 230000008569 process Effects 0.000 description 6
- 235000004522 Pentaglottis sempervirens Nutrition 0.000 description 3
- 238000013459 approach Methods 0.000 description 3
- 230000008901 benefit Effects 0.000 description 3
- 238000010586 diagram Methods 0.000 description 3
- 238000012805 post-processing Methods 0.000 description 3
- 241001300198 Caperonia palustris Species 0.000 description 2
- 235000000384 Veronica chamaedrys Nutrition 0.000 description 2
- 238000004364 calculation method Methods 0.000 description 2
- 230000007613 environmental effect Effects 0.000 description 2
- 230000002123 temporal effect Effects 0.000 description 2
- BUHVIAUBTBOHAG-FOYDDCNASA-N (2r,3r,4s,5r)-2-[6-[[2-(3,5-dimethoxyphenyl)-2-(2-methylphenyl)ethyl]amino]purin-9-yl]-5-(hydroxymethyl)oxolane-3,4-diol Chemical compound COC1=CC(OC)=CC(C(CNC=2C=3N=CN(C=3N=CN=2)[C@H]2[C@@H]([C@H](O)[C@@H](CO)O2)O)C=2C(=CC=CC=2)C)=C1 BUHVIAUBTBOHAG-FOYDDCNASA-N 0.000 description 1
- 241000251468 Actinopterygii Species 0.000 description 1
- 230000009471 action Effects 0.000 description 1
- 230000003213 activating effect Effects 0.000 description 1
- 230000004913 activation Effects 0.000 description 1
- 238000004891 communication Methods 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000003287 optical effect Effects 0.000 description 1
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/70—Circuitry for compensating brightness variation in the scene
- H04N23/73—Circuitry for compensating brightness variation in the scene by influencing the exposure time
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/90—Arrangement of cameras or camera modules, e.g. multiple cameras in TV studios or sports stadiums
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Studio Devices (AREA)
Abstract
Description
Die Erfindung betrifft ein Verfahren zum Betreiben eines Multikamerasystems eines Kraftfahrzeugs, bei welchem zumindest zwei Kameras des Multikamerasystems jeweils Bilder eines Umgebungsbereichs des Kraftfahrzeugs bereitstellen und aus jeweils einem Bildbereich der zumindest zwei Kameras eine Gesamtdarstellung mittels einer elektronischen Recheneinrichtung erzeugt wird. Beim Erzeugen der Gesamtdarstellung werden jeweilige Werte zumindest eines Bildparameters der Bildbereiche aneinander angeglichen und hierbei auf einen gemeinsamen Sollwert eingestellt. Die Erfindung betrifft außerdem ein Multikamerasystem zum Durchführen eines solchen Verfahrens sowie ein Kraftfahrzeug mit einem derartigen Multikamerasystem.The invention relates to a method for operating a multi-camera system of a motor vehicle, in which at least two cameras of the multi-camera system respectively provide images of a surrounding area of the motor vehicle and from an image area of the at least two cameras an overall representation is generated by means of an electronic computing device. When generating the overall representation, respective values of at least one image parameter of the image regions are matched to one another and in this case set to a common desired value. The invention also relates to a multi-camera system for carrying out such a method and to a motor vehicle having such a multi-camera system.
Kamerasysteme für Kraftfahrzeuge sind bereits aus dem Stand der Technik bekannt. In einem Kraftfahrzeug kann bekanntlich eine Vielzahl von Kameras eingesetzt werden, wobei es heutzutage mehr und mehr üblich wird, für ein Fahrerassistenzsystem eines Fahrzeugs eine Kameraanordnung mit wenigstens zwei Kameras zu verwenden, welche jeweils einen Umgebungsbereich des Kraftfahrzeugs erfassen. Es können beispielsweise vier Kameras eingesetzt werden, welche die gesamte Umgebung um das Kraftfahrzeug herum erfassen. Aus den Bildern aller Kameras kann dann eine Gesamtdarstellung bereitgestellt werden, nämlich insbesondere das sogenannte „Bird-Eye View”. Diese Gesamtdarstellung repräsentiert eine Draufsicht auf das Kraftfahrzeug sowie seine Umgebung aus einer Vogelperspektive und somit beispielsweise aus einem Referenzsichtpunkt direkt über dem Kraftfahrzeug. Die Bereitstellung einer solchen Gesamtdarstellung aus den Bildern mehrerer Kameras ist beispielsweise aus dem Dokument
Beim Erzeugen einer Gesamtdarstellung aus den Bildern einer Vielzahl von Kameras, wie beispielsweise beim Erzeugen des genannten „Bird-Eye View”, müssen die jeweiligen Werte zumindest eines Parameters der Bilder aneinander angeglichen werden. Insbesondere sollen die jeweiligen Helligkeitswerte der Bilder unterschiedlicher Kameras aneinander angeglichen werden, wie auch die Weißabgleichswerte. Eine solche Vorgehensweise ist beispielsweise aus dem Dokument
Würden die Helligkeitswerte nicht aneinander angeglichen und würde somit jede Kamera die Belichtungszeit und den Verstärkungsfaktor des Bildsensors jeweils alleine für sich, abhängig von der jeweils abgebildeten Umgebung und somit ohne Rücksicht auf die anderen Kameras einstellen, so könnte es bei ungünstigen Umgebungsbedingungen vorkommen, dass die Helligkeitswerte der Bilder sehr unterschiedlich sind. In diesem Falle wäre die Helligkeit der Gesamtdarstellung uneinheitlich und würde über die unterschiedlichen Bildbereiche variieren. Gerade aus diesem Grund ist ein Abgleich der Helligkeitswerte der unterschiedlichen Bilder beim Erzeugen der Gesamtdarstellung erforderlich.If the brightness values were not adjusted to one another and thus each camera set the exposure time and the amplification factor of the image sensor alone, depending on the respective imaged environment and thus without regard to the other cameras, it could occur in unfavorable environmental conditions that the brightness values the pictures are very different. In this case, the brightness of the overall presentation would be uneven and would vary over the different image areas. For this reason in particular, it is necessary to match the brightness values of the different images when generating the overall representation.
Die Veränderung der jeweiligen Parameterwerte der unterschiedlichen Bilder und das Anpassen der Parameterwerte der Bilder aneinander stellt im Stand der Technik eine besondere Herausforderung dar. In dem bereits genannten Dokument
Es ist Aufgabe der Erfindung, eine gegenüber dem Stand der Technik verbesserte Lösung für das Angleichen der Parameterwerte der jeweiligen Bildbereiche der zumindest zwei Kameras aneinander vorzuschlagen.It is an object of the invention to propose a solution, which is improved over the prior art, for matching the parameter values of the respective image areas of the at least two cameras to one another.
Diese Aufgabe wird erfindungsgemäß durch ein Verfahren, durch ein Multikamerasystem sowie durch ein Kraftfahrzeug mit den Merkmalen gemäß den jeweiligen unabhängigen Patentansprüchen gelöst. Vorteilhafte Ausführungen der Erfindung sind Gegenstand der abhängigen Patentansprüche, der Beschreibung und der Figuren.This object is achieved by a method by a multi-camera system and by a motor vehicle with the features according to the respective independent claims. Advantageous embodiments of the invention are the subject of the dependent claims, the description and the figures.
Ein erfindungsgemäßes Verfahren dient zum Betreiben eines Multikamerasystems eines Kraftfahrzeugs. Zumindest zwei Kameras stellen Bilder jeweils eines Umgebungsbereichs des Kraftfahrzeugs bereit. Aus jeweils einem Bildbereich der unterschiedlichen Bilder wird eine Gesamtdarstellung bzw. ein Gesamtbild mittels einer elektronischen Recheneinrichtung erzeugt. Beim Erzeugen der Gesamtdarstellung werden die jeweiligen Werte zumindest eines (gleichen) Bildparameters der Bildbereiche (z. B. Helligkeit und/oder Weißabgleich) der zumindest zwei Kameras aneinander angeglichen und hierbei wird der Bildparameter bei allen Bildbereichen auf einen gemeinsamen Sollwert eingestellt. Das Angleichen der jeweiligen Parameterwerte der Bildbereiche sieht folgendermaßen aus: Zunächst ist vorgesehen, dass durch Einstellen zumindest eines Betriebsparameters der jeweiligen Kamera die Parameterwerte auf einen vorgegebenen Wertebereich um den Sollwert beschränkt werden. Anschließend werden die Parameterwerte der Bildbereiche mittels eines Bildverarbeitungsalgorithmus durch die zentrale Recheneinrichtung auf den Sollwert eingestellt.An inventive method is used to operate a multi-camera system of a motor vehicle. At least two cameras provide images of an environmental region of the motor vehicle. From an image area of the different images, an overall representation or an overall image is generated by means of an electronic computing device. When generating the overall representation, the respective values of at least one (same) image parameter of the image regions (eg, brightness and / or White balance) of the at least two cameras are matched to one another and in this case the image parameter is set to a common desired value in all image areas. The adjustment of the respective parameter values of the image areas is as follows: First, it is provided that by setting at least one operating parameter of the respective camera, the parameter values are limited to a predetermined value range around the target value. Subsequently, the parameter values of the image areas are adjusted to the desired value by means of an image processing algorithm by the central computing device.
Demnach wird erfindungsgemäß ein Hybridansatz vorgeschlagen: Einerseits erfolgt das Anpassen der jeweiligen Parameterwerte durch Ansteuerung der Kameras und somit auf dem Kameraniveau intern in den Kameras; andererseits erfolgt eine Feinjustierung der Parameterwerte rechentechnisch mittels der zentralen elektronischen Recheneinrichtung, welche die Gesamtdarstellung berechnet. Zunächst werden die Parameterwerte nämlich auf der Seite der Kameras auf Zwischenwerte eingestellt, welche innerhalb eines vorgegebenen Wertebereichs um den Sollwert liegen. Die Feinjustierung wird dann auf der Ebene der elektronischen Recheneinrichtung mittels eines Bildverarbeitungsalgorithmus durchgeführt. Im Vergleich zu einer vollständigen Anpassung der Parameterwerte auf der Bildverarbeitungsebene hat das erfindungsgemäße Verfahren den Vorteil, dass der Rechenaufwand beim Durchführen des Bildverarbeitungsalgorithmus reduziert ist. Gegenüber der vollständigen Anpassung der Parameterwerte auf der Kameraebene wiederum hat das erfindungsgemäße Verfahren den Vorteil, dass der Aufwand der zentralen Ansteuerung der Kameras deutlich reduziert ist und die Regelung der Parameterwerte auf den gewünschten Sollwert deutlich schneller erfolgen kann. Die Kameras können die jeweiligen Parameterwerte nämlich relativ rasch auf den vorgegebenen Wertebereich um den Sollwert beschränken, während die anschließende Feinjustierung in der elektronischen Recheneinrichtung alleine durchgeführt wird. Die Anzahl der Iterationen bei der Anpassung der Parameterwerte auf der Kameraebene ist somit reduziert, und auch der Rechenaufwand in der elektronischen Recheneinrichtung ist minimal.Accordingly, a hybrid approach is proposed according to the invention: On the one hand, the adaptation of the respective parameter values takes place by driving the cameras and thus at the camera level internally in the cameras; On the other hand, a fine adjustment of the parameter values is carried out by computation by means of the central electronic computing device, which calculates the overall representation. First of all, the parameter values are set on the side of the cameras to intermediate values which are within a predetermined value range around the setpoint. The fine adjustment is then performed on the level of the electronic computing device by means of an image processing algorithm. In comparison with a complete adaptation of the parameter values on the image processing level, the method according to the invention has the advantage that the computational outlay when carrying out the image processing algorithm is reduced. In contrast to the complete adaptation of the parameter values on the camera level, the method according to the invention has the advantage that the expense of the central control of the cameras is significantly reduced and the regulation of the parameter values to the desired desired value can be done much faster. Namely, the cameras can relatively quickly restrict the respective parameter values to the predetermined value range around the target value, while the subsequent fine adjustment is performed in the electronic computing device alone. The number of iterations in the adaptation of the parameter values on the camera level is thus reduced, and also the computational effort in the electronic computing device is minimal.
Optional können die Parameterwerte in mehr als einem Schritt mit dem Ziel des Konvergierens auf den eingeschränkten Bereich verändert werden, d. h. in zwei oder drei Schritten. Zu diesem Zweck können zwei oder mehrere unterschiedliche Wertebereiche definiert werden, und die Parameterwerte können zunächst auf einen ersten größeren Wertebereich und dann auf einen zweiten kleineren Wertebereich um den Sollwert begrenzt werden.Optionally, the parameter values may be changed in more than one step with the goal of converging to the restricted area, i. H. in two or three steps. For this purpose, two or more different value ranges can be defined, and the parameter values can first be limited to a first larger range of values and then to a second smaller value range around the setpoint.
Vorzugsweise wird der Sollwert für die Parameterwerte der Bildbereiche im Betrieb des Multikamerasystems und somit „online” eingestellt. Somit können die Parameterwerte – wie beispielsweise die Helligkeitswerte der Bildbereiche – abhängig von den jeweils aktuellen Lichtverhältnissen in der Umgebung eingestellt werden. Durch diese Vorgehensweise kann stets eine Gesamtdarstellung mit einer sehr guten Bildqualität erzeugt werden.Preferably, the setpoint value for the parameter values of the image areas during operation of the multi-camera system and thus "online" is set. Thus, the parameter values - such as the brightness values of the image areas - can be adjusted depending on the current lighting conditions in the environment. Through this procedure, an overall presentation can always be generated with a very good image quality.
Insbesondere ist dabei vorgesehen, dass der Sollwert auf einen Medianwert der Parameterwerte der Bildbereiche eingestellt wird, welche vor dem Angleichen erfasst werden. Bevor die Parameterwerte somit aneinander angeglichen werden, wird ein Medianwert der aktuellen Ist-Parameterwerte erfasst und als Sollwert verwendet. Wird als Bildparameter der Bildbereiche beispielsweise eine Helligkeit definiert, so werden die Helligkeitswerte der Bildbereiche auf einen Helligkeitsmedianwert eingestellt, sodass insgesamt eine gut wahrnehmbare Gesamtdarstellung mit einer mittleren Helligkeit erzeugt wird.In particular, it is provided that the desired value is set to a median value of the parameter values of the image regions which are acquired before the adjustment. Before the parameter values are thus matched to one another, a median value of the current actual parameter values is acquired and used as setpoint. If, for example, a brightness is defined as the image parameter of the image areas, then the brightness values of the image areas are set to a brightness median value, so that overall an easily perceivable overall representation with a medium brightness is generated.
Gemäß einer anderen Ausführungsform kann der Sollwert auf den vor dem Angleichen erfassten Parameterwert des Bildbereichs einer der zumindest zwei Kameras eingestellt werden. Somit wird eine der Kameras als Referenzkamera betrieben, während die Parameterwerte der Bildbereiche anderer Kameras an den Parameterwert der Referenzkamera angeglichen werden. Diese Ausführungsform erweist sich insbesondere dann als besonders vorteilhaft, wenn die aktuellen Bilder der Referenzkamera separat von der Gesamtdarstellung gleichzeitig auf einem Display angezeigt werden sollen. Hier kann der zumindest eine Bildparameter dieser Bilder speziell für diese Ansicht angepasst werden, und die Parameterwerte der anderen Kameras können an den Parameterwert der Referenzkamera angepasst werden.According to another embodiment, the desired value can be set to the parameter value of the image area of one of the at least two cameras acquired before the matching. Thus, one of the cameras is operated as a reference camera, while the parameter values of the image areas of other cameras are matched to the parameter value of the reference camera. This embodiment proves to be especially advantageous if the current images of the reference camera are to be displayed on a display separately from the overall display at the same time. Here, the at least one image parameter of these images can be adapted specifically for this view, and the parameter values of the other cameras can be adapted to the parameter value of the reference camera.
Die beiden oben genannten Ausführungsformen bezüglich der Einstellung des Sollwerts können auch miteinander kombiniert werden. Für ein vorbestimmtes Zeitintervall oder aber in einem ersten Betriebsmodus kann der Sollwert auf den Medianwert der Parameterwerte eingestellt werden. Für ein anderes Zeitintervall oder aber in einem zweiten Betriebsmodus des Kamerasystems kann der Sollwert auf den aktuellen Parameterwert einer der zumindest zwei Kameras eingestellt werden. Der erste Betriebsmodus wird insbesondere dann aktiviert, wenn auf einem Display ausschließlich die Gesamtdarstellung angezeigt wird. Demgegenüber wird der zweite Betriebsmodus insbesondere dann aktiviert, wenn neben der Gesamtdarstellung zusätzlich auch die aktuellen Bilder derjenigen Kamera angezeigt werden, deren Parameterwert als Sollwert für das Angleichen der Parameterwerte verwendet wird.The two above-mentioned embodiments with regard to the setting of the desired value can also be combined with one another. For a predetermined time interval or in a first operating mode, the setpoint can be set to the median value of the parameter values. For another time interval or in a second operating mode of the camera system, the desired value can be set to the current parameter value of one of the at least two cameras. The first operating mode is activated in particular when only the overall display is displayed. In contrast, the second operating mode is activated in particular if, in addition to the overall presentation in addition the current images of the camera whose parameter value is used as a setpoint for adjusting the parameter values are also displayed.
Bezüglich des zumindest einen Bildparameters der Bildbereiche können verschiedenste Ausführungsformen vorgesehen sein:
Zum einen kann als Bildparameter die Helligkeit der Bildbereiche definiert werden. Die Parameterwerte sind dann die Helligkeitswerte der Bildbereiche, insbesondere die jeweiligen Medianwerte der Helligkeit der Bildbereiche. Als Helligkeitswerte werden vorzugsweise Y-Werte der Bilder in dem YUV-Farbraum verstanden. Durch Angleichen der Helligkeitswerte der Bildbereiche aneinander – insbesondere durch Angleichen der jeweiligen Medianwerte der Helligkeit – kann eine Gesamtdarstellung bereitgestellt werden, welche eine einheitliche Helligkeit und somit keine Helligkeitssprünge aufweist. Die Gesamtdarstellung kann somit mit einer guten Qualität auf einem Display angezeigt werden.With regard to the at least one image parameter of the image areas, a wide variety of embodiments can be provided:
On the one hand, the brightness of the image areas can be defined as the image parameter. The parameter values are then the brightness values of the image areas, in particular the respective median values of the brightness of the image areas. Brightness values are preferably understood to be Y values of the images in the YUV color space. By matching the brightness values of the image regions to one another-in particular by matching the respective median values of the brightness-an overall representation can be provided which has a uniform brightness and thus no brightness jumps. The overall presentation can thus be displayed with a good quality on a display.
Das Angleichen der Helligkeitswerte der Bildbereiche umfasst bevorzugt, dass zunächst durch Verändern der jeweiligen Belichtungszeit und/oder des jeweiligen Verstärkungsfaktors eines Bildsensors der Kameras die Helligkeitswerte der Bildbereiche auf den vorgegebenen Wertebereich um den Sollwert beschränkt werden. Zum Beschränken der Helligkeitswerte der Bildbereiche auf den vorgegebenen Wertebereich um den Sollwert wird somit die jeweilige Belichtungszeit und/oder der jeweilige Verstärkungsfaktor als Betriebsparameter der Kameras gesteuert, und zwar auf der Kameraebene. Die Belichtungszeit und der Verstärkungsfaktor des jeweiligen Bildsensors stellen dabei Betriebsparameter der Kameras dar. Durch Verändern dieser Betriebsparameter kann die Helligkeit der Bilder wirkungsvoll eingestellt werden.The matching of the brightness values of the image regions preferably comprises initially limiting the brightness values of the image regions to the predetermined value range by the desired value by altering the respective exposure time and / or the respective amplification factor of an image sensor of the cameras. In order to limit the brightness values of the image areas to the predetermined value range around the desired value, the respective exposure time and / or the respective amplification factor are thus controlled as operating parameters of the cameras, specifically at the camera level. The exposure time and the amplification factor of the respective image sensor represent operating parameters of the cameras. By changing these operating parameters, the brightness of the images can be effectively adjusted.
Zum anderen kann als Bildparameter auch ein Weißabgleich der Bildbereiche definiert werden. Auch die jeweiligen Weißabgleichswerte der Bildbereiche unterschiedlicher Kameras können somit aneinander angeglichen werden, sodass bei allen Bildbereichen die gleichen Weißabgleichswerte eingestellt sind. Somit wird die Qualität der Gesamtdarstellung weiterhin erhöht.On the other hand, a white balance of the image areas can be defined as the image parameter. The respective white balance values of the image areas of different cameras can thus also be matched to one another, so that the same white balance values are set for all image areas. Thus, the quality of the overall presentation is further increased.
Zum Beschränken der Weißabgleichswerte der Bildbereiche auf den vorgegebenen Wertebereich um den Sollwert ist vorzugsweise vorgesehen, dass ein interner Weißabgleich innerhalb der Kameras mittels jeweils einer internen Steuereinheit der Kameras durchgeführt wird. Dieser interne Weißabgleich kann beispielsweise mittels des jeweiligen Bildsensors (Imager) durchgeführt werden.For limiting the white balance values of the image areas to the predetermined value range around the setpoint, it is preferably provided that an internal white balance is performed within the cameras by means of an internal control unit of the cameras. This internal white balance can be performed, for example, by means of the respective image sensor (imager).
Es kann auch vorgesehen sein, dass im Fall, dass einer der vor dem Angleichen erfassten Parameterwerte der Bildbereiche einen vorbestimmten Grenzwert überschreitet, das Angleichen der jeweiligen Parameterwerte der Bildbereiche unterbleibt. Insbesondere dann, wenn der Helligkeitswert eines der Bildbereiche einen vorgegebenen Grenzwert überschreitet, deutet dies auf sehr helle Lichtverhältnisse in der Umgebung hin, und das Angleichen der Helligkeitswert wäre hier mit einem relativ großen Aufwand verbunden. In einem solchen Grenzfall kann auf das Angleichen der Parameterwerte verzichtet werden.It can also be provided that in the event that one of the parameter values of the image areas acquired before the adjustment exceeds a predetermined limit value, the matching of the respective parameter values of the image areas is omitted. In particular, when the brightness value of one of the image areas exceeds a predetermined limit value, this indicates very bright lighting conditions in the surroundings, and the adjustment of the brightness value would be associated with a relatively large outlay here. In such a limiting case, the adjustment of the parameter values can be dispensed with.
Als Gesamtdarstellung wird vorzugsweise eine Draufsichtdarstellung erzeugt, welche eine Draufsicht auf das Kraftfahrzeug und seine Umgebung zeigt. Zur Erzeugung einer solchen Gesamtdarstellung werden die Bilder aller Kameras zu einem gemeinsamen Bild verarbeitet und zusammengefasst, welches eine Draufsichtdarstellung auf das Kraftfahrzeug und die Umgebung um das Fahrzeug herum zeigt. Das Bild des Kraftfahrzeugs kann dabei in der Recheneinrichtung vorgespeichert sein. Zur Erzeugung einer derartigen Gesamtdarstellung wird aus den jeweiligen Bildern der Kameras jeweils vorzugsweise ein Bildbereich ausgeschnitten, welcher den jeweiligen Umgebungsbereich bis zu einer bestimmten Entfernung vom Kraftfahrzeug abbildet, nämlich beispielsweise bis zu einer Entfernung von 2 oder 3 oder 4 Metern vom Kraftfahrzeug.As an overall illustration, preferably a plan view is produced which shows a plan view of the motor vehicle and its surroundings. To produce such an overall representation, the images of all cameras are processed and combined into a common image, which shows a top view of the motor vehicle and the surroundings around the vehicle. The image of the motor vehicle can be pre-stored in the computing device. In order to produce such an overall representation, an image area is preferably cut out of the respective images of the cameras, which images the respective surrounding area up to a certain distance from the motor vehicle, namely, for example, up to a distance of 2 or 3 or 4 meters from the motor vehicle.
Die Erfindung betrifft außerdem ein Multikamerasystem, welches zum Durchführen eines erfindungsgemäßen Verfahrens ausgebildet ist. Des Weiteren betrifft die Erfindung ein Kraftfahrzeug mit einem erfindungsgemäßen Multikamerasystem. Die mit Bezug auf das erfindungsgemäße Verfahren vorgestellten bevorzugten Ausführungsformen und deren Vorteile gelten entsprechend für das erfindungsgemäße System sowie für das erfindungsgemäße Kraftfahrzeug.The invention also relates to a multi-camera system which is designed to carry out a method according to the invention. Furthermore, the invention relates to a motor vehicle with a multi-camera system according to the invention. The preferred embodiments presented with reference to the method according to the invention and their advantages apply correspondingly to the system according to the invention and to the motor vehicle according to the invention.
Weitere Merkmale der Erfindung ergeben sich aus den Ansprüchen, den Figuren und der Figurenbeschreibung. Alle vorstehend in der Beschreibung genannten Merkmale und Merkmalskombinationen sowie die nachfolgend in der Figurenbeschreibung genannten und/oder in den Figuren alleine gezeigten Merkmale und Merkmalskombinationen sind nicht nur in der jeweils angegebenen Kombination, sondern auch in anderen Kombinationen oder aber in Alleinstellung verwendbar.Further features of the invention will become apparent from the claims, the figures and the description of the figures. All the features and feature combinations mentioned above in the description as well as the features and feature combinations mentioned below in the description of the figures and / or shown alone in the figures can be used not only in the respectively indicated combination but also in other combinations or alone.
Die Erfindung wird nun anhand eines bevorzugten Ausführungsbeispiels sowie unter Bezugnahme auf die beigefügten Zeichnungen näher erläutert. Es zeigen: The invention will now be described with reference to a preferred embodiment and with reference to the accompanying drawings. Show it:
Ein in
Die Anzahl sowie die Anordnung der Kameras
Die Kameras
Die Kameras
Die Kamera
Die Rechen- und Steuereinrichtung
In
Aus gleichzeitig erfassten Bildern B3, B4, B5, B6 der Kameras
Beim Erzeugen der Gesamtdarstellung GB werden die jeweiligen Parameterwerte zumindest eines Bildparameters der Bildbereiche B3', B4', B5', B6' aneinander angeglichen. Im Ausführungsbeispiel werden einerseits die jeweiligen Helligkeitswerte der Bildbereiche B3', B4', B5', B6' aneinander angeglichen, nämlich die jeweiligen Medianwerte der Helligkeit (die jeweiligen Helligkeitsmedianwerte). Andererseits werden auch die Weißabgleichswerte der Bildbereiche B3', B4', B5', B6' aneinander angeglichen. Das Angleichen der Parameterwerte der Bildbereiche B3', B4', B5', B6' erfolgt dabei in zwei separaten Stufen: Zunächst erfolgt eine erste grobe Anpassung der Parameterwerte durch Ansteuerung der Kameras
Obwohl sich die nachfolgende Beschreibung auf die Anpassung von Helligkeitswerten der Bildbereiche B3', B4', B5', B6' bezieht, können in gleicher Weise auch die Weißabgleichswerte der Bildbereiche B3', B4', B5', B6' aneinander angeglichen werden.Although the following description refers to the adaptation of brightness values of the image areas B3 ', B4', B5 ', B6', the white balance values of the image areas B3 ', B4', B5 ', B6' can be matched to one another in the same way.
In den
In einem weiteren Schritt S202 berechnet die Rechen- und Steuereinrichtung
In einem weiteren Schritt S203 berechnet die Rechen- und Steuereinrichtung
Mit erneutem Bezug auf
Dieser Ansatz dient zur Vermeidung übermäßiger Änderung der Kameras
Der Schritt S4 beinhaltet dabei mehrere Unterschritte, welche Bezug nehmend auf
Das Ausführungsbeispiel gemäß
The embodiment according to
Die Register für die Belichtungsziele auf dem OV10630-Bildsensor sind: 0xC46A, 0xC46D, 0xC464, 0xC465. Vorzugsweise werden zwei Schrittweiten zur Modifizierung der Verstärkung und/oder der Belichtungsziele definiert: eine kleine Schrittweite (z. B. 0x08) sowie eine große Schrittweite (z. B. 0x10). Folgendes Szenario kann vorgesehen sein: Wenn sich der Medianwert Ymed_A von dem Sollwert Ymed_Topview um mehr als die genannte Schwelle THL unterscheidet, wird keine Veränderung vorgenommen. Aber, wenn die Differenz (Ymed_A – Ymed_Topview) größer als die Schwelle TH1 und kleiner als THL ist, dann wird die Änderung des Verstärkungsfaktors und/oder der Belichtung auf die negative große Schrittweite eingestellt. In Analogie, wenn die Differenz (Ymed_Topview – Ymed_A) größer als TH1 ist, wird die Änderung des Verstärkungsfaktors und/oder der Belichtung auf die positive große Schrittweite eingestellt. Wenn jedoch die Differenz (Ymed_A – Ymed_Topview) oder (Ymed_Topview – Ymed_A) größer ist als eine kleinere Schwelle TH2 aber kleiner als die Schwelle TH1 ist, wird die Änderung des Verstärkungsfaktors und/oder der Belichtung auf die negative respektive positive kleine Schrittweite eingestellt. Somit kann die Anpassung an den Kameras
Im Anschluss wird dann in einem Schritt S432 überprüft, ob die aktuelle Änderung der Belichtungszeit und/oder des Verstärkungsfaktors der Kamera
Wird in Schritt S432 jedoch festgestellt, dass die aktuelle Änderung bereits eine dritte Änderung in die gleiche Richtung darstellt, geht das Verfahren zu einem weiteren Schritt S440. Auch wenn gemäß Schritt S430 keine Ansteuerung der Kamera
Die Schritte S440, S441, S442 und S443 entsprechen den Schritten S430, S431, S432 und S433 und beziehen sich auf die zweite Kamera
Auch die Schritte S450, S451, S452, S453 entsprechen den Schritten S430, S431, S432, S433, betreffen jedoch die Kamera
Mit erneutem Bezug auf
Es wird noch einmal gemäß Schritt S3 anhand der neuen Bilddaten überprüft, ob eine zusätzliche Ansteuerung der Kameras
Dies erfolgt, um festzustellen, ob ein Nachverarbeitungsschritt erforderlich ist. Es wird in diesem Fall nichts an den Kameras
Der Schritt S7 beinhaltet zwei Unterschritte, welche in
Es existieren jedoch zwei mögliche Wege, um den Kamera-Alphawert zu berechnen, und jeder von diesen kann genutzt werden. Gemäß dem ersten kann die Berechnung folgendermaßen durchgeführt werden, wobei αA αB αC αD die jeweiligen Alphawerte der Kameras
für die Kamera
für die Kamera
für die Kamera
für die Kamera
for the camera
for the camera
for the camera
for the camera
Gemäß dem zweiten Weg kann die Berechnung folgendermaßen durchgeführt werden: αA = αB = αC = αD = basic_stepsize.According to the second way, the calculation can be performed as follows: α A = α B = α C = α D = basic_stepsize.
Der Standardwert des Parameters ”basic_stepsize” kann auf 0.5 eingestellt werden, jedoch kann dieser Wert auch variiert werden. Es kann ein beliebiger Wert zwischen 0 und 1 sein; je höher der Wert, desto größer ist die Skalierung.The default value of the "basic_stepsize" parameter can be set to 0.5, but this value can also be varied. It can be any value between 0 and 1; the higher the value, the larger the scale.
Der auf die Videodaten der Kameras
Darüber hinaus ist es auch möglich, einen zusätzlichen Skalierungsfaktor von 0 bis 1 vorzusehen, der gemäß einer vom Benutzer bestimmten Helligkeitskonfiguration bestimmt werden kann.In addition, it is also possible to provide an additional scaling factor of 0 to 1, which can be determined according to a user-defined brightness configuration.
Gemäß Schritt S7 erfolgt also eine Feinjustierung und somit eine genaue Einstellung der Helligkeitsmedianwerte Ymed der Bildbereiche B3', B4', B5', B6' auf den zuvor berechneten Sollwert. Im Schritt S7 wird also ein Bildverarbeitungsalgorithmus durchgeführt, gemäß welchem – im vorliegenden Ausführungsbeispiel – die Y-Werte der Bildbereiche mit einem jeweiligen Skalierungsfaktor multipliziert werden. Diese Feinjustierung erfolgt außerhalb der Kameras
Optional kann auch vorgesehen sein, dass im Schritt S2 die Rechen- und Steuereinrichtung
ZITATE ENTHALTEN IN DER BESCHREIBUNG QUOTES INCLUDE IN THE DESCRIPTION
Diese Liste der vom Anmelder aufgeführten Dokumente wurde automatisiert erzeugt und ist ausschließlich zur besseren Information des Lesers aufgenommen. Die Liste ist nicht Bestandteil der deutschen Patent- bzw. Gebrauchsmusteranmeldung. Das DPMA übernimmt keinerlei Haftung für etwaige Fehler oder Auslassungen.This list of the documents listed by the applicant has been generated automatically and is included solely for the better information of the reader. The list is not part of the German patent or utility model application. The DPMA assumes no liability for any errors or omissions.
Zitierte PatentliteraturCited patent literature
- US 2011/0156887 [0002] US 2011/0156887 [0002]
- EP 2012271 A2 [0003, 0005] EP 2012271 A2 [0003, 0005]
Claims (12)
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE201210024972 DE102012024972A1 (en) | 2012-12-20 | 2012-12-20 | Method for operating multi-camera system of i.e. passenger car, involves limiting parameter values on predetermined value range by adjusting common desired value, and performing image processing algorithm using electronic computing device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| DE201210024972 DE102012024972A1 (en) | 2012-12-20 | 2012-12-20 | Method for operating multi-camera system of i.e. passenger car, involves limiting parameter values on predetermined value range by adjusting common desired value, and performing image processing algorithm using electronic computing device |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| DE102012024972A1 true DE102012024972A1 (en) | 2014-06-26 |
Family
ID=50878275
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| DE201210024972 Withdrawn DE102012024972A1 (en) | 2012-12-20 | 2012-12-20 | Method for operating multi-camera system of i.e. passenger car, involves limiting parameter values on predetermined value range by adjusting common desired value, and performing image processing algorithm using electronic computing device |
Country Status (1)
| Country | Link |
|---|---|
| DE (1) | DE102012024972A1 (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102018207386B3 (en) | 2018-05-14 | 2019-06-13 | Continental Automotive Gmbh | Method and imaging system for generating a display image in a motor vehicle |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE60106997T2 (en) * | 2000-02-29 | 2005-12-01 | Matsushita Electric Industrial Co., Ltd., Kadoma | Image recording system and vehicle-mounted sensor system |
| EP2012271A2 (en) | 2007-07-02 | 2009-01-07 | Nissan Motor Co., Ltd. | Image processing system and method |
| US20110156887A1 (en) | 2009-12-30 | 2011-06-30 | Industrial Technology Research Institute | Method and system for forming surrounding seamless bird-view image |
-
2012
- 2012-12-20 DE DE201210024972 patent/DE102012024972A1/en not_active Withdrawn
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE60106997T2 (en) * | 2000-02-29 | 2005-12-01 | Matsushita Electric Industrial Co., Ltd., Kadoma | Image recording system and vehicle-mounted sensor system |
| EP2012271A2 (en) | 2007-07-02 | 2009-01-07 | Nissan Motor Co., Ltd. | Image processing system and method |
| US20110156887A1 (en) | 2009-12-30 | 2011-06-30 | Industrial Technology Research Institute | Method and system for forming surrounding seamless bird-view image |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| DE102018207386B3 (en) | 2018-05-14 | 2019-06-13 | Continental Automotive Gmbh | Method and imaging system for generating a display image in a motor vehicle |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP3281178B1 (en) | Method for displaying an area surrounding a vehicle | |
| EP2623374B1 (en) | Vision system for commercial vehicles for the display of the statutory fields of view of a main mirror and a wide-angle mirror | |
| DE102013012810A1 (en) | Method for activating and deactivating an image correction function, camera system and motor vehicle | |
| DE102016121755A1 (en) | Method for determining a composite image of a surrounding area of a motor vehicle with adaptation of brightness and / or color, camera system and power vehicle | |
| DE102017201286B4 (en) | APPARATUS, SYSTEM AND METHOD FOR CONTROLLING THE EXPOSURE OF A MULTI-VIEW CAMERA | |
| DE102013220005A1 (en) | Method and device for displaying the environment of a vehicle and driver assistance system | |
| EP3809691B1 (en) | Method for detecting and correcting image errors and image processing unit and computer programme for same | |
| DE102012015282B4 (en) | Method for detecting a covered state of an image capturing device of a motor vehicle, camera system and motor vehicle | |
| EP3106349B1 (en) | Vision system for a commercial vehicle for the display of the statutory fields of view of a main mirror and a wide-angle mirror | |
| DE102013001644A1 (en) | Method for white balance of an image representation and camera system for a motor vehicle | |
| DE102013011844A1 (en) | Method for adjusting a gamma curve of a camera system of a motor vehicle, camera system and motor vehicle | |
| DE102018118996A1 (en) | Method for determining a color correction value, image processing device, camera system and motor vehicle | |
| DE102014012250A1 (en) | Method for image processing and display | |
| DE102012025580A1 (en) | Method of operating camera system of motor vehicle, involves setting current parameter value of parameter of slave camera in dependence on current parameter value of same parameter of master camera | |
| DE102014225848A1 (en) | Apparatus, method and computer readable medium for correcting an interpolation coefficient for stereo matching | |
| DE102024136474A1 (en) | APPARATUS AND METHOD FOR SURROUND VIEW MONITORING FOR A VEHICLE | |
| DE102012024650A1 (en) | Method for operating high-dynamic-range camera device of motor vehicle, involves recognizing actual value of moving condition of vehicle, which characterizes vehicle parameter | |
| DE102013020952A1 (en) | Method for setting a parameter relevant to the brightness and / or the white balance of an image representation in a camera system of a motor vehicle, camera system and motor vehicle | |
| DE102012016865B4 (en) | Improved alpha blending of images from an automotive camera system | |
| DE102012024972A1 (en) | Method for operating multi-camera system of i.e. passenger car, involves limiting parameter values on predetermined value range by adjusting common desired value, and performing image processing algorithm using electronic computing device | |
| DE102020207695A1 (en) | Depth estimation from mono camera images using artificial intelligence | |
| DE102015205479A1 (en) | A method of representing a vehicle environment of a vehicle | |
| DE102012007982A1 (en) | Method for white balance of an image taking into account the color of the motor vehicle | |
| DE102018113281A1 (en) | Image harmonization method, computer program product, camera system and motor vehicle | |
| DE102015212370A1 (en) | A method and apparatus for generating a representation of a vehicle environment of a vehicle |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| R163 | Identified publications notified | ||
| R119 | Application deemed withdrawn, or ip right lapsed, due to non-payment of renewal fee |
