WO2007010750A1 - 車両、画像処理システム、画像処理方法、画像処理プログラム、画像処理システムの構築システム - Google Patents

車両、画像処理システム、画像処理方法、画像処理プログラム、画像処理システムの構築システム Download PDF

Info

Publication number
WO2007010750A1
WO2007010750A1 PCT/JP2006/313464 JP2006313464W WO2007010750A1 WO 2007010750 A1 WO2007010750 A1 WO 2007010750A1 JP 2006313464 W JP2006313464 W JP 2006313464W WO 2007010750 A1 WO2007010750 A1 WO 2007010750A1
Authority
WO
WIPO (PCT)
Prior art keywords
pixel
processing unit
area
color
road surface
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2006/313464
Other languages
English (en)
French (fr)
Inventor
Takuma Nakamori
Sachio Kobayashi
Tomoyoshi Aoki
Naoki Mori
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to DE602006014690T priority Critical patent/DE602006014690D1/de
Priority to EP06767923A priority patent/EP1914700B1/en
Priority to US11/995,798 priority patent/US8170285B2/en
Publication of WO2007010750A1 publication Critical patent/WO2007010750A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06VIMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
    • G06V20/00Scenes; Scene-specific elements
    • G06V20/50Context or environment of the image
    • G06V20/56Context or environment of the image exterior to a vehicle by using sensors mounted on the vehicle
    • G06V20/588Recognition of the road, e.g. of lane markings; Recognition of the vehicle driving pattern in relation to the road
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/90Determination of colour characteristics
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10016Video; Image sequence
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/30Subject of image; Context of image processing
    • G06T2207/30248Vehicle exterior or interior
    • G06T2207/30252Vehicle exterior; Vicinity of vehicle
    • G06T2207/30256Lane; Road marking

Definitions

  • the present invention relates to an image processing system, a vehicle equipped with the image processing system, an image processing method, an image processing program, and an image processing system construction system.
  • yellow lines may be used as lane marks, so lane marks such as white lines and yellow lines are recognized using color images captured by imaging means such as a color camera.
  • imaging means such as a color camera.
  • a technical technique has been proposed (see, for example, Japanese Patent No. 3333468).
  • a shadow S is applied to the lane mark M and other road surface parts, or a part of the road surface is caused by the vehicle headlight. If the light irradiation state on the road surface is partially different, such as when the road is illuminated, the feature value of the color of the road surface image in that part changes. For this reason, the recognition accuracy of lane marks other than white, such as yellow lines, may be reduced.
  • the present invention provides an image processing system and an image processing method capable of recognizing a lane mark with high accuracy in a road image even when the light irradiation state on the road surface is partially different. It is an object of the present invention to provide a vehicle equipped with a processing system, an image processing program for giving the image processing function to a computer, and a system for constructing the image processing system.
  • a vehicle of the present invention for solving the above problems includes an imaging unit, an image processing system that executes image processing based on a road surface image captured by the imaging unit, and an image processing result by the image processing system.
  • a vehicle travel control system that controls the travel of the vehicle based on the vehicle, and the image processing system includes an area including a plurality of pixels in the road surface image.
  • a first processing unit that is set while sequentially moving, and a color component of the first pixel included in the front end portion in the moving direction of the area among the plurality of pixels included in the area by the first processing unit.
  • a second processing unit that corrects a color component of a second pixel other than the first pixel among the pixels, and a first pixel corresponding to the target color based on the color component of the first pixel corrected by the second processing unit
  • the third processing unit that calculates the feature amount of the first pixel and the first processing unit
  • a fourth processing unit for recognizing the lane mark of the target color on the road surface image based on the feature amounts of the plurality of pixels obtained by sequentially repeating the calculation.
  • the actual color of the road surface is not sufficiently reflected in the color component of the first pixel due to the influence of shadow (darkness) and light (brightness) on the road surface part that includes the setting area in the road surface image.
  • the feature amount corresponding to the target color in the first pixel may be reduced. Therefore, when the color component of the first pixel is directly reflected in the feature amount corresponding to the target color, the recognition accuracy of the lane mark of the target color based on the feature amount in the first pixel may be lowered.
  • the vehicle of the present invention in view of the high probability that the color components of the second pixels included in the area together with the first pixels are also affected by shadows or light on the road surface portion.
  • the color component of the first pixel included in the area set in the road surface image is corrected with reference to the color component of the second pixel.
  • the influence of shadows and light on the road surface is reduced, and the actual color of the road surface portion corresponding to the first pixel can be sufficiently reflected in the color component and hence the feature amount of the first pixel.
  • the pixel at the tip in the moving direction is set as the first pixel, and the other pixels are set as the second pixel. It is said that. For this reason, when the color of the road surface portion corresponding to the front end portion of the area is different from the color of the road surface portion corresponding to the front end portion of the area set last time, the color of the road surface portion corresponding to the first pixel, The color of the road surface corresponding to some or all of the second pixels will be different.
  • the color component of the first pixel is corrected with reference to the corresponding color component of the second pixel, so that the actual color of the road surface portion corresponding to the first pixel becomes the first pixel. Can be significantly reflected in the color components, and in turn, the feature values corresponding to the target color. [0009] Then, the fourth processing unit recognizes the lane mark M and its edge E in the road image based on the feature quantity Qij of each pixel Pij of the road image.
  • the traveling of the vehicle can be appropriately controlled in view of the actual position of the lane mark.
  • the first processing unit is an area where the road surface image is continuously arranged in a line in the movement direction, or a part in which the first processing part is arranged in a row in front of the movement direction. It is characterized by setting an area having.
  • the color of the road surface portion corresponding to the first pixel of the area set this time is different from the color of the road surface portion corresponding to the first pixel of the area set last time.
  • the color of the road surface portion corresponding to the first pixel and the partial or all of the second pixels are equivalent.
  • the road surface color may be different.
  • the actual color of the road surface portion corresponding to the first pixel can be remarkably reflected in the color component of the first pixel, and hence the feature amount corresponding to the target color.
  • the traveling of the vehicle can be appropriately controlled in view of the actual position of the lane mark.
  • the vehicle of the present invention is characterized in that the first processing unit can set the area while adjusting the size, shape, or size and shape according to the position of the road surface image.
  • the color of the road surface portion corresponding to the first pixel of the area set this time is different from the color of the road surface portion corresponding to the first pixel of the area set last time.
  • the size of the area and the color of the road surface portion corresponding to the first pixel and the color of the road surface portion corresponding to all or most of the second pixel are different.
  • One or both of the shapes can be adjusted.
  • the actual color of the road surface portion corresponding to the first pixel corresponds to the color component of the first pixel, and thus the target color. It can be remarkably reflected in the feature amount.
  • the traveling of the vehicle can be appropriately controlled in view of the actual position of the lane mark.
  • the first processing unit has the correction result of the color component of the first pixel by the second processing unit, the calculation result of the feature amount of the first pixel by the third processing unit, the fourth processing
  • the area can be set while adjusting the size, shape, or size and shape based on part or all of the recognition result of the lane mark by the vehicle and the running state of the vehicle.
  • the correction amount of the color component of the first pixel based on the color component of the second pixel may be insufficient for the area set this time. Then, the recognition accuracy of the lane mark based on the feature amount corresponding to the target color of the first pixel may be lowered, for example, it is recognized that the edge of the lane mark is not the edge of the lane mark.
  • the position where the lane mark is recognized in the road surface image depends on the previous recognition result of the lane mark.
  • the lane mark is recognized at a position that lacks relevance (continuity) significantly in view of the position of the lane mark recognized last time on the road image, even though the vehicle's running state is stable.
  • the driving of the vehicle should not be controlled based on recognition results that are not valid.
  • the position where the lane mark is recognized in the road surface image also depends on the traveling state of the vehicle. For example, if a vehicle is driving while turning to the left, In the area image, the lane mark is predicted to be recognized at a position corresponding to the degree of the road curve.
  • the correction result of the color component of the first pixel, the calculation result of the feature amount according to the target color of the first pixel, the lane mark by the fourth processing unit The area is reset or newly set after adjusting one or both of its size and shape based on the recognition result of this and part or all of the vehicle running condition.
  • the traveling of the vehicle can be appropriately controlled in view of the actual position of the lane mark.
  • the second processing unit corrects the color component of the first pixel with reference to the color component of the second pixel based on the luminance value of the second pixel, and performs the third process.
  • the unit calculates a feature amount of the first pixel corresponding to the target color based on the corrected color component of the first pixel based on the luminance value of the first pixel.
  • the brightness of the first pixel is different from the brightness of the second pixel, as described above, when the color component of the first pixel is corrected with reference to the color component of the second pixel corresponding thereto,
  • the feature quantity of the first pixel corresponding to the target color may be too large or too small. For example, when the first pixel corresponds to a light road surface portion and the second pixel corresponds to a dark road surface portion, the feature value of the first pixel becomes excessive, and the first pixel is not the road surface portion. There is a possibility that it is mistakenly recognized as equivalent to the lane mark part.
  • the feature amount of the first pixel is too small, and the first pixel is the lane mark portion. Otherwise, it may be mistakenly recognized as corresponding to the road surface portion.
  • the color component of the first pixel is based on the “brightness value (index indicating brightness)” of the second pixel, and this first Correction is based on the color component of the second pixel corresponding to the color component of one pixel.
  • the feature amount of the first pixel is calculated based on the corrected color component of the first pixel with the luminance value of the first pixel as a reference.
  • the feature amount of the first pixel due to the difference in brightness between the first and second pixels as described above.
  • the influence on the lane mark can be reduced or eliminated, and further the deterioration of the lane mark recognition accuracy based on the feature amount of the first pixel can be suppressed.
  • the traveling of the vehicle can be more appropriately controlled in view of the actual position of the lane mark.
  • An image processing system of the present invention for solving the above-described problem is a first setting in which an area including a plurality of pixels is sequentially moved in a road surface image captured by an imaging unit mounted on a vehicle.
  • the color component of the first pixel included in the front end portion in the moving direction of the area among the plurality of pixels included in the area by the processing unit and the first processing unit is set to be other than the first pixel among the plurality of pixels.
  • a second processing unit that corrects the color component of the second pixel as a reference, and a feature amount of the first pixel that corresponds to the target color is calculated based on the color component of the first pixel that is corrected by the second processing unit.
  • lane marks can be recognized with high accuracy in a road image even when the light irradiation state on the road surface is partially different.
  • the first processing units are arranged in an area having a shape that is continuously arranged in a line in the movement direction in the road surface image, or is arranged in a line in front of the movement direction.
  • An area having a portion is set.
  • the image processing system of the present invention is characterized in that the first processing unit can set the area while adjusting the size, shape, or size and shape according to the position of the road surface image. .
  • the first processing unit has the correction result of the color component of the first pixel by the second processing unit, the calculation result of the feature amount of the first pixel by the third processing unit, the first (4)
  • the area can be set while adjusting the size, shape, or size and shape based on the recognition result of the lane mark by the processing unit and part or all of the running state of the vehicle. .
  • the second processing unit converts the color component of the first pixel into the second image.
  • the third processing unit performs correction based on the color component of the first pixel after the correction based on the luminance value of the first pixel.
  • the feature amount of the first pixel corresponding to the color is calculated.
  • the image processing method of the present invention for solving the above-mentioned problem is set by sequentially moving an area including a plurality of pixels in a road surface image captured by an imaging means mounted on a vehicle.
  • the second processing step for correcting the color component of the second pixel as a reference and the color component of the first pixel corrected in the second processing step the feature amount of the first pixel corresponding to the target color is calculated.
  • the lane mark of the target color can be recognized with high accuracy in the road image even when the light irradiation state on the road surface is partially different.
  • An image processing program of the present invention for solving the above-described problem is a first process for setting an area including a plurality of pixels in a road image captured by an imaging unit mounted on a vehicle while sequentially moving the area. Function and the color component of the first pixel included in the tip in the moving direction of the area among the plurality of pixels included in the area by the first processing function.
  • a third feature that calculates the feature value of the first pixel corresponding to the target color
  • the correction of the color signal of the first pixel by the second processing function and the calculation of the feature value of the first pixel by the third processing function are sequentially repeated.
  • Feature values of multiple pixels -Out group Dzu imparts a fourth processing function of recognizing a lane mark of the noted color in the road image in Konbyu over data.
  • the light irradiation state on the road surface is partially different. Even in such a case, the lane mark of the color of interest in the road surface image is given to a functional computer that can recognize it with high accuracy.
  • An image processing system construction system for solving the above-described problems has a part or all of the image processing program mounted on the vehicle in order to construct the image processing system. It is distributed or broadcast to a computer.
  • an image processing system capable of recognizing a lane mark of a target color with high accuracy over a road surface image even when the light irradiation state on the road surface is partially different.
  • it can be constructed by distributing or broadcasting a part or all of the program at any timing to a computer installed in a vehicle.
  • FIG. 1 is a diagram illustrating the configuration of a vehicle and an image processing system mounted thereon according to an embodiment of the present invention.
  • FIG. 2 is an explanatory diagram of an image processing method according to an embodiment of the present invention.
  • a vehicle 10 shown in FIG. 1 includes an electronic control unit (computer) 11 and a camera (imaging means) 12 that captures a color road surface image in front of the vehicle 10.
  • a camera imaging means
  • the electronic control unit 11 is mounted on the vehicle 10 and constitutes an image processing system 100 together with the “image processing program” of the present invention as software as hardware. Further, the electronic control unit 11 constitutes a “vehicle running state control system” that controls the running state including the lateral position of the vehicle 10 based on the image processing result of the image processing system 100. ing.
  • the image processing system 100 includes a storage unit 102, a first processing unit 110, a second processing unit 120, a third processing unit 130, and a fourth processing unit 140.
  • Each of the first processing unit 110, the second processing unit 120, the third processing unit 130, and the fourth processing unit 140 includes hardware such as a CPU, ROM, RAM, and IZO, and each of the processing units.
  • This image processing program may be initially stored in the memory of the in-vehicle computer. However, one or more of the image processing programs may be stored at any time, such as when a request for a driver or in-vehicle computer is received. If necessary, it may be distributed or broadcast to the computer from a construction system composed of artificial satellites.
  • the first processing unit 110, the second processing unit 120, the third processing unit 130, and the fourth processing unit 140 may be configured by common hardware, which may be configured by separate and independent hardware. It's good.
  • the storage unit 102 corresponds to the area setting method by the first processing unit 110, the color component correction method of the first pixel by the second processing unit 120, and the target color of the first pixel by the third processing unit 130. Stores the feature value calculation method, the recognition method of the lane mark of the target color based on the feature value by the fourth processing unit 140, and the like.
  • the first processing unit 110 sets an area including a plurality of pixels in the road image while sequentially moving the area.
  • the second processing unit 120 uses the plurality of pixels included in the area by the first processing unit 110 to obtain the color components of the "first pixel" included in the tip portion of the area in the moving direction.
  • the pixel is corrected based on the color component of the “second pixel” other than the first pixel.
  • the third processing unit 130 calculates the “feature amount” of the first pixel corresponding to the target color based on the color component of the first pixel corrected by the second processing unit 120.
  • the fourth processing unit 140 corrects the color component of the first pixel by the second processing unit 120 and the characteristics of the first pixel by the third processing unit 130 each time an area is set by the first processing unit 110. Based on the feature values of multiple pixels obtained by sequentially repeating the calculation of the amount, the lane mark of the target color is recognized on the road image.
  • a shadow S is placed on the left lane mark M and the road surface portion around it.
  • the first processing unit 110 executes “first processing” (FIG. 2ZS110). Specifically, as shown in FIG. 4, one row X 4 that includes a plurality of pixels arranged side by side in the road surface image and is identified by the position of the rightmost pixel Pij among the plurality of pixels. Set area Aij with the size and shape of the column. If the index representing the column number is set to “2”, the area Ai2 having the size and shape of 1 row x 2 columns can be set. The index representing the column number is set to “3”. If area Ai3 has a size and shape of 1 row x 3 columns, it may be set.
  • the luminance value Vik of each second pixel Pik is determined according to the following equation (1)
  • the correction coefficient matrix W is determined according to the following equation (2)
  • the following equation (3) Therefore, the correction color signal ⁇ ij of the first pixel Pij is determined (“diag” represents a diagonal matrix and “t” represents transposition).
  • Vik [a, ⁇ , y] 't (Rik, Gik, Bik)
  • W diag [ ⁇ kVik / ⁇ kRik, ⁇ kVik / ⁇ kGik, ⁇ kVik / ⁇ kBik]
  • the third processing unit 130 executes “third processing” (FIG. 2 ZS130). Specifically, based on the color signal I′ij of the first pixel Pij corrected by the second processing unit 120, the feature quantity Qij of the first pixel Pij corresponding to the target color is calculated. For example, if the target color strength is yellow, that is, the color is greater than the R value power 3 ⁇ 4 value, the luminance of the first pixel Pij is calculated according to the following equation (4) based on the color signal lij of the first pixel Pij.
  • the value Vij is calculated, and based on the corrected color signal I′ij of the first pixel Pij and the luminance value Vij of the first pixel Pij as necessary, the following equation (5a) (5b) or (5c) is obtained. Therefore, the feature value Qij of the first pixel Pij is calculated.
  • Vij [a, ⁇ , ⁇ ] (! 3 ⁇ 4 ⁇ , Gij, Bij)
  • the feature quantity Qij calculated according to equation (5a) is the sum of the R and G components of the corrected color signal ⁇ ij of the first pixel Pij divided by the luminance value Vij of the first pixel Pij (normalized )
  • the feature quantity Qij calculated according to equation (5b) is the difference between the R and G components of the corrected color signal I'ij of the first pixel Pij divided by the luminance value Vij of the first pixel Pij. is there.
  • the feature quantity Qij calculated according to the equation (5c) is the ratio of the R component to the G component of the corrected color signal I′ij of the first pixel Pij.
  • the index j indicating the column number is incremented by "1" by the first processing unit 110 (Fig. 2 ZS103), and the index j is added to the side of the road surface image. It is determined whether or not the force is greater than or equal to m pixels (Fig. 2 ZS104). The increase in the index j is a number greater than or equal to “2”, which does not interfere with the lane mark recognition process in the road image described later. May be.
  • the first to third processes are executed (FIG. 2 ZS110 to S130).
  • the index j representing the column number is incremented by “1”
  • a new area Aij is set, so the area Aij is updated and set while moving one pixel to the right.
  • the first pixel Pij included in the right end portion of the plurality of pixels included in the area Aij is included in the leading end portion in the moving direction of the area Aij (the arrow direction in FIG. 4), that is, in the right direction. Is a pixel
  • the first processing unit 110 uses the index i force S “l "Is increased ( Figure 2Z
  • the number of increase of the index i may be a number greater than or equal to “2” so as not to hinder the lane mark recognition processing in the road image described later.
  • the first processing unit 110 resets the index j representing the column number to “4” again (FIG. 2ZS102), and the first to third processes are executed ( Fig. 2 ZS110 to S130). Further, when the index i exceeds-or a plurality of predetermined values, an area Aij having a small size may be set. Thereby, for example, the width of the area Aij as shown in FIG.
  • the fourth processing unit 140 executes "fourth processing" (Fig. 2ZS 140). Specifically, the lane mark in the road image is recognized based on the feature value Qij of each pixel Pij in the road image.
  • the pixel Pijl (Xjl, Yi) corresponds to the left edge of the left lane mark M in order of left force.
  • pixel Pij4 (Xj4, Yi )
  • the first pixel Pij corresponds to the left end portion of the lane mark M as shown in FIG.
  • the feature quantity Qij corresponding to the target color of the first pixel Pij is Increase greatly.
  • the color components Rij, Gij, Bij of the first pixel Pij are corrected based on the sum R, G, B of the respective color components of the second pixel Pik, so that the influence of the shadow S or light on the road Is reduced or eliminated, and the first pixel Pij contains the target color (lane mark M color), while the second pixel Pik contains a different color (road surface color) from the target color. This is because the difference is emphasized!
  • the R component of the pixel corresponding to the lane mark M is larger than the B component, while the R component and B component of the pixel corresponding to the road surface are The difference is small.
  • the R component of the pixel corresponding to the lane mark M is reduced.
  • the road surface is similarly shaded, the R component of the pixel corresponding to the road surface is also reduced.
  • the R component force of the pixel corresponding to the lane mark M is corrected on the basis of the R component of the pixel corresponding to the road surface, so that the R component of the pixel corresponding to the lane mark M is reduced by the influence of the shadow S. Minutes can be compensated (see equations (1) to (3)).
  • the feature quantity Qij of the pixel Pij corresponding to the lane mark M can be calculated in a form in which the influence of the shadow is reduced or eliminated (see equations (4) (5a) to (5c)).
  • the feature quantity Qij once greatly increased gradually decreases.
  • the first pixel Pij becomes the lane mark M as shown in FIG. 6 (b) or FIG. 6 (c).
  • the feature quantity Qij corresponding to the target color of the first pixel Pij gradually decreases. .
  • each color component of the first pixel Pij By correcting the sum of the respective color components of the element Pik as a reference, the first pixel Pij includes the lane mark M color, while the second pixel Pik includes the road surface color. This is because the difference gradually fades.
  • the feature quantity Qij corresponding to the target color of the first pixel Pij is greatly reduced. This is because the color components Rij, Gij, Bij of the first pixel Pij are corrected based on the sum R, G, B of each color component of the second pixel Pik, so that the influence of the shadow S or light on the road can be reduced.
  • the first pixel Pij includes a color (road surface color) different from the target color, while the second pixel Pik includes the target color (lane mark M color). This is the power to emphasize the difference.
  • the R component of the pixel corresponding to the lane mark M is larger than the B component, whereas the R component and B component of the pixel corresponding to the road surface The difference is small.
  • the B component of the pixel corresponding to the lane mark M increases.
  • the B component of the pixel corresponding to the road surface is increased. Therefore, the B component of the pixel corresponding to the lane mark M is corrected based on the B component of the pixel corresponding to the road surface, so that the B component of the pixel corresponding to the lane mark M is increased by the influence of light.
  • the feature quantity Qij once greatly reduced gradually increases. That is, when the area Aij is moved to the right of the previous time and updated, the first pixel Pij becomes the lane mark M as shown in FIG. 6 (e) or FIG. 6 (f).
  • the feature quantity Qij corresponding to the target color of the first pixel Pij gradually decreases. This is because the color components Rij, Gij, Bij of the first pixel Pij are corrected with reference to the sum R, G, B of the color components of the second pixel Pik. The difference is that the color of the road surface is included, while the second pixel Pik contains the color of interest (lane mark M color).
  • the area Ai j is moved to the right from the previous time and updated so that the first pixel Pij corresponds to a bright road surface, while the second pixel Pik is a road surface with a dark road (shadow S).
  • the feature value Qij corresponding to the target color of the first pixel Pij is maintained almost constant. This is because each color component Rij, Gij, Bij of the first pixel Pij is corrected based on the sum R, G, B of each color component of the second pixel Pik based on the sum Q of the luminance values of the second pixel Pik.
  • the feature quantity Qij of the first pixel Pij is calculated based on the corrected color components Rij ′, Gij ′, Bij ′ based on the luminance value Vij of the first pixel Pij. That is, the color components Rij, Gij, Bij of the first pixel Pij are corrected with reference to the ratio RZV, G / V, BZV of the sum of the color components to the sum of the brightness values, and the brightness of the first pixel Pij This is because the feature quantity Qij of the first pixel Pij is calculated based on the ratio Rij Wij, Gij ′ / Vij, Bij ′ ZVij of the corrected color component to the value Vij. As a result, the influence of the shadow S or light on the road is reduced or eliminated, and the first pixel Pij and the second pixel Pik both include a color (road surface color) different from the target color. This is the power that is manifested.
  • the fourth processing unit 140 calculates a portion sandwiched between the maximum value on the left side and the minimum value on the right side of the feature quantity Qij in each pixel Pij of the road surface image. Recognized as lane mark M. That is, as shown in FIG. 7, the point where the feature value Qij shows a maximum value (white point in the figure) and the point where the feature value Qij shows a minimum value (black point in the figure). In addition, the fourth processing unit 140 recognizes an edge closer to the center of the traveling lane among the left and right edges of the lane mark M as an edge E (bold line in the drawing) of the lane mark M.
  • the electronic control unit 11 controls the traveling of the vehicle 10 based on the image processing result by the image processing system 100, that is, the recognition result of the edge E of the lane mark M.
  • the first pixel Pij The color components Rij, Gij, Bij are corrected with reference to the ratio RZV, G / V, BZV of the sum R, G, B of the color components to the sum V of the luminance values of the second pixel Pik (Fig. 2 ZS120, 1) to (3)). Also, the feature quantity Qij of the first pixel Pij is calculated based on the color components Rij, Gij, Bij of the first pixel Pij with the luminance value Vij of the first pixel Pij as a reference. That is, the ratio of color components to the luminance value of the first pixel Pij RijZVij, Gij / Vij, BijZVij (see Fig.
  • the color of the road surface portion corresponding to the first pixel Pij is different from the color of the road surface portion corresponding to some or all of the second pixels Pik. Therefore, as described above, the color components Rij, Gij, Bij of the first pixel Pij are corrected with reference to the sum R, G, B of the color components of the second pixel Pik, so that the first pixel Pij The actual color of the corresponding road surface portion can be remarkably reflected in the color components Rij, Gij, Bij of the first pixel Pij, and thus the feature value Qij corresponding to the target color (see FIG. 5B).
  • the feature value Qij of the first pixel Pij is calculated in consideration of the luminance value Vij of the first pixel Pij and the sum V of the luminance value Vik of the second pixel Pik (FIG. 2 ZS130, equation (1 (See (4)).
  • the feature amount Qij of the first pixel Pij is excessively large or small due to a difference in brightness, not the color of the first pixel Pij and the second pixel Pik.
  • the feature quantity Qij of the first pixel Pij (particularly the feature quantity Qij calculated according to equation (5a)) fluctuates greatly, and it is erroneously determined that this first pixel Pij corresponds to the edge E of the lane mark M. Can be avoided.
  • the system 100 can recognize the lane mark M of the target color and its edge E in the road surface image with high accuracy. Then, based on the result of the image processing by the image processing system, the traveling of the vehicle 10 can be appropriately controlled in view of the actual positions of the lane mark M and its edge E.
  • the first processing unit 110 can set the area Aij while adjusting the size, shape, or size and shape according to the position of the road surface image. Specifically, as described above, for example, the width of the area Aij shown in FIG.
  • the color of the road surface portion corresponding to the first pixel Pij of the area Aij set this time is different from the color of the road surface portion corresponding to the first pixel pij-1 of the area set last time. (For example, when the state force shown in FIG. 6 (c) is reached), the road surface corresponding to the first pixel Pij in the area Aij set this time.
  • One or both of the size and shape of the area Aij can be adjusted so that the color of the part and the color of the road surface part corresponding to all or most of the second pixels Pik are different.
  • the actual color power of the road surface portion corresponding to the first pixel Pij can be remarkably reflected in the color component of the first pixel Pij, and hence the feature quantity Qij corresponding to the target color. Therefore, even when the light irradiation state on the road surface is partially different, the lane mark of the target color can be recognized with high accuracy in the road surface image by the image processing system 100 (see FIG. 7). Then, based on the image processing result by the image processing system 100, the traveling of the vehicle 10 can be appropriately controlled in view of the actual position of the lane mark M and its edge E.
  • the color signal of each pixel is expressed by an RGB component.
  • the color signal of each pixel is a table different from the RGB color system such as a CMY component, a YIQ component, or the like. It may be expressed by a color system.
  • the area Aij of 1 row ⁇ 4 columns (multiple columns) t, size and shape is set.
  • Area Aij may be set up with various sizes and shapes as listed in. That is, as shown in FIG. 8 (a), the first pixel Pij at the right end portion (tip portion in the movement direction) and the pixels Pij-1, Pij ⁇ on the left side (backward in the movement direction) of the first pixel Pij. 2 and Pi + lj-2 etc. An area Aij having a portion extending in the direction may be set. Further, as shown in FIG. 8 (b), the first pixel Pij at the right end portion and the pixels Pij-2, Pij-3 and Pij-4 on the left side of the first pixel Pij are included. An area Aij that includes multiple separated pixels may be set.
  • the area Aij is updated so as to move sequentially to the right of each row.
  • the area Aij is sequentially moved to the left of each row as shown in Fig. 8 (c). It may be set to update to move, or it may be set to update sequentially so that area Aij moves sequentially to the right in some lines, while moving to the left in other lines.
  • the leftmost pixel is the first pixel Pij and the right side of the first pixel Pij.
  • the second process ZS120 in FIG. 2 or the like is executed.
  • the area Aij extending in the horizontal direction is updated so as to sequentially move in the horizontal direction, but another embodiment is shown in FIG. 8 (d) or FIG. 8 (e).
  • the area Aij that extends vertically may be updated to move up, down, or up or down sequentially on each row.
  • the top or bottom pixel of the plurality of pixels included in the area Aij is the first pixel Pij
  • the second process (ZS120 in FIG. 2) or the like is executed with the pixel below or above the first pixel Pij as the second pixel Pik (k> j).
  • the area Aij moves horizontally by two pixels and moves vertically by one pixel, that is, the area Aij moves diagonally in the road surface image. It may be set to update.
  • the second pixel Pik included in the area Aij is too small, only the color of the road surface portion that is locally different from the original target color due to peeling of the lane mark M or the like is the first. 2 pixels Pik color component may not be reflected in Rik, Bik, Gik. For this reason, in the area Aij set this time, the correction amount of the color components Rij, Bij, Gij of the first pixel Pij based on the color components Rik, Bik, Gik of the second pixel Pik may be excessive. is there.
  • the focus of the first pixel Pij is such that the fading of the lane mark M is recognized as the edge E of the lane mark M.
  • the recognition accuracy of the lane mark M based on the feature quantity Qij corresponding to the color may be lowered.
  • the position where the lane mark is recognized in the road surface image depends on the recognition result of the previous lane mark M (and its edge E).
  • the lane mark M is recognized at a position that lacks relevance (for example, continuity) in view of the position of the lane mark M previously recognized in the road surface image even though the traveling state of the vehicle 10 is stable.
  • the driving of the vehicle 10 should not be controlled based on recognition results that are not valid and are not valid!
  • the position where the lane mark is recognized in the road surface image also depends on the traveling state of the vehicle 10. For example, when the vehicle 10 is traveling while turning to the left, the lane mark is predicted to be recognized at a position corresponding to the degree of the road curve in the road image.
  • the correction result of the color component of the first pixel Pij (Fig. 2ZS120), the calculation result of the feature value Qij according to the focus color of the first pixel Pij (Fig. 2ZS130), the recognition result of the lane mark M ( Figure 2ZS 140), and the speed sensor mounted on the vehicle 10 and the speed sensor (not shown) measured based on part or all of the traveling state of the vehicle 10 such as the speed sensor. And one or both of the shapes may be adjusted and reset or newly set.
  • the image processing system 100 of the present embodiment in view of the above circumstances, setting of the area Aij that reduces the recognition accuracy of the lane mark M is avoided, and the recognition accuracy of the lane mark M is improved. Can do. Then, based on the image processing result, traveling of the vehicle 10 can be appropriately controlled in view of the actual position of the lane mark.
  • the area Aij is powered by another pixel row (FIG. 2ZS105). In the above embodiment, the power is driven so that the initial position of the left end of the area Aij in each pixel row matches the left end of the image (see FIG.
  • the area Aij may be moved to another pixel row after the right end (tip) of the area Aij reaches a position shifted to the left from the right end of the image. That is, in S104 of FIG. 2, the threshold (hereinafter referred to as “right boundary value”) that triggers a line break in area Aij may be set to a value smaller than the number of horizontal pixels m of the image.
  • the initial position of the left end (rear end) of the area Aij in each pixel row may be shifted to the right from the left end of the image.
  • the index representing the initial position of the right end of the area Aij (hereinafter “left boundary value”) can be set to a value larger than “4” in S102 of FIG. ,.
  • the adjustment may be performed such that one or both of the right boundary value and the left boundary value increases as the number of rows increases (the index i representing the number of rows increases).
  • the trapezoidal shape or the triangular shape becomes gradually narrower as the area where the area Aij can be scanned goes up in the captured image.
  • the operation region Aij of the area can be narrowed down only to the region where the lane mark M exists in the captured image and has a high probability (see FIGS. 3 and 5 (a)).
  • one or both of the right boundary value and the left boundary value are adjusted according to the traveling state of the vehicle 10 such as the speed sensor measured by a speed sensor (not shown) mounted on the vehicle 10. May be.

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Traffic Control Systems (AREA)

Abstract

   路面への光の照射状態が部分的に異なっている場合でも、路面画像においてレーンマークを高精度で認識し得る画像処理システム等を提供する。車両10に搭載された画像処理システム100によれば、第1画素とともにエリアに包含される第2画素の色成分も路面部分における影又は光の影響を受けている蓋然性が高いことに鑑みて、路面画像において設定されたエリアAijに包含される第1画素Pijの色成分Rij,Gij,Bijが第2画素Pikの色成分Rik,Gik,Bikを基準として補正される。これにより、路面にさす影や光の影響が低減され、第1画素に相当する路面部分の実際の色が、第1画素Pijの色成分Rij,Gij,Bij、ひいては特徴量Qijに十分に反映され得る。そして、路面画像の各画素Pijの特徴量Qijに基づき、路面画像においてレーンマークM及びそのエッジEが認識される。

Description

明 細 書
車両、画像処理システム、画像処理方法、画像処理プログラム、画像処 理システムの構築システム
技術分野
[0001] 本発明は、画像処理システム、当該画像処理システムが搭載された車両、画像処 理方法、画像処理プログラム、画像処理システムの構築システムに関する。
背景技術
[0002] レーンマークには、白線のほか、黄線が用いられる場合もあるため、色カメラ等の撮 像手段により撮像された色画像を用いて、白線や黄線等のレーンマークを認識する 技術手法が提案されている (たとえば、特許第 3333468号公報参照)。
発明の開示
発明が解決しょうとする課題
[0003] し力し、道路周辺の建造物等によって図 3に示されているようにレーンマーク Mおよ びその他の路面部分に影 Sがさしたり、車両のヘッドライトにより路面の一部が照らさ れていたり等、路面への光の照射状態が部分的に異なっている場合、当該部分にお ける路面画像の色の特徴量が変化する。このため、黄線等、白色以外のレーンマー クの認識精度が低下する場合があった。
[0004] そこで、本発明は、路面への光の照射状態が部分的に異なっている場合でも、路 面画像においてレーンマークを高精度で認識し得る画像処理システムおよび画像処 理方法、当該画像処理システムが搭載された車両、当該画像処理機能をコンビユー タに付与する画像処理プログラム、および当該画像処理システムを構築するための システムを提供することを解決課題とする。
課題を解決するための手段
[0005] 前記課題を解決するための本発明の車両は、撮像手段と、撮像手段により撮像さ れた路面画像に基づき、画像処理を実行する画像処理システムと、画像処理システ ムによる画像処理結果に基づいて車両の走行を制御する車両走行制御システムとが 搭載され、画像処理システムが、路面画像において複数の画素を包含するエリアを 逐次移動させながら設定する第 1処理部と、第 1処理部によりエリアに包含される複 数の画素のうちエリアの移動方向先端部分に包含される第 1画素の色成分を、該複 数の画素のうち第 1画素以外の第 2画素の色成分を基準として補正する第 2処理部と 、第 2処理部により補正された第 1画素の色成分に基づき、注目色に応じた第 1画素 の特徴量を算出する第 3処理部と、第 1処理部によってエリアが設定されるたび、第 2 処理部による第 1画素の色成分の補正および第 3処理部による第 1画素の特徴量の 算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像に ぉ ヽて該注目色のレーンマークを認識する第 4処理部とを備えて 、る。
[0006] 路面画像における設定エリアを包含する路面部分にさす影 (暗さ)や光(明るさ)の 影響により、路面の実際の色が、第 1画素の色成分に十分に反映されず、第 1画素 における注目色に応じた特徴量が小さく抑制されてしまうことがある。したがって、第 1 画素の色成分が注目色に応じた特徴量にそのまま反映された場合、第 1画素におけ る特徴量に基づく当該注目色のレーンマークの認識精度が低下するおそれがある。
[0007] 本発明の車両によれば、第 1画素とともにエリアに包含される第 2画素の色成分も 路面部分における影または光の影響を受けている蓋然性が高いことに鑑みて、画像 処理システムにより、路面画像において設定されたエリアに包含される第 1画素の色 成分が第 2画素の色成分を基準として補正される。これにより、路面にさす影や光の 影響が低減され、第 1画素に相当する路面部分の実際の色が、第 1画素の色成分、 ひ 、ては特徴量に十分に反映され得る。
[0008] また、エリアが逐次移動させられながら設定される力 エリアに包含される複数の画 素のうち、その移動方向先端部分の画素が第 1画素とされ、その他の画素が第 2画 素とされている。このため、エリア先端部分に相当する路面部分の色が、前回に設定 されたエリア先端部分に相当する路面部分の色と異なる状態になったとき、第 1画素 に相当する路面部分の色と、一部または全部の第 2画素に相当する路面部分の色と が異なる状態になる。このため、前記のように第 1画素の色成分が、第 2画素の対応 する色成分を基準として補正されることにより、第 1画素に相当する路面部分の実際 の色が、この第 1画素の色成分、ひいては注目色に応じた特徴量に顕著に反映され 得る。 [0009] そして、第 4処理部により、路面画像の各画素 Pijの特徴量 Qijに基づき、路面画像 においてレーンマーク Mおよびそのエッジ Eが認識される。
[0010] 以上により、路面への光の照射状態が部分的に異なっている場合でも、画像処理 システムによって路面画像において注目色のレーンマークが高精度で認識され得る 。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際 の位置に鑑みて車両の走行が適切に制御され得る。
[0011] また、本発明の車両は、第 1処理部が、路面画像において移動方向に一列に連続 して並んでいる形状のエリア、または移動方向前方に一列に連続して並んでいる部 分を有するエリアを設定することを特徴とする。
[0012] 本発明の車両によれば、今回設定されたエリアの第 1画素に相当する路面部分の 色が、前回に設定されたエリアの第 1画素に相当する路面部分の色と異なる状態とな つたとき、レーンマークが一定幅を有していることに鑑みて、今回設定されたエリアに おいて、第 1画素に相当する路面部分の色と、一部または全部の第 2画素に相当す る路面部分の色とが異なる状態となり得る。これにより、第 1画素に相当する路面部分 の実際の色が、この第 1画素の色成分、ひいては注目色に応じた特徴量に顕著に反 映され得る。
[0013] したがって、路面への光の照射状態が部分的に異なっている場合でも、画像処理 システムによって路面画像において注目色のレーンマークが高精度で認識され得る 。そして、画像処理システムによる当該画像処理結果に基づき、レーンマークの実際 の位置に鑑みて車両の走行が適切に制御され得る。
[0014] さらに、本発明の車両は、第 1処理部が、路面画像の位置に応じて、サイズ、形状、 またはサイズおよび形状を調節しながらエリアを設定可能であることを特徴とする。
[0015] 本発明の車両によれば、今回設定されたエリアの第 1画素に相当する路面部分の 色が、前回に設定されたエリアの第 1画素に相当する路面部分の色と異なる状態とな つたとき、今回設定されたエリアにおいて、第 1画素に相当する路面部分の色と、第 2 画素の全部または大半に相当する路面部分の色とが異なる状態となるように、エリア のサイズおよび形状のうち一方または両方が調節され得る。これにより、第 1画素に 相当する路面部分の実際の色が、この第 1画素の色成分、ひいては注目色に応じた 特徴量に顕著に反映され得る。したがって、路面への光の照射状態が部分的に異な つている場合でも、画像処理システムによって路面画像において注目色のレーンマ ークが高精度で認識され得る。そして、画像処理システムによる当該画像処理結果 に基づき、レーンマークの実際の位置に鑑みて車両の走行が適切に制御され得る。
[0016] また、本発明の車両は、第 1処理部が、第 2処理部による第 1画素の色成分の補正 結果、第 3処理部による第 1画素の特徴量の算出結果、第 4処理部によるレーンマー クの認識結果、および車両の走行状態のうち一部または全部に基づき、サイズ、形状 、またはサイズおよび形状を調節しながらエリアを設定可能であることを特徴とする。
[0017] エリアに包含される第 2画素が過少である場合、レーンマークの剥げ等により局所 的に本来の注目色とは別の色となっている路面部分の色しか第 2画素の色成分に反 映されないおそれがある。このため、今回設定されたエリアにおいて、第 2画素の色 成分を基準とした第 1画素の色成分の補正量が過大となる可能性がある。そして、レ ーンマークのかすれ部分がこのレーンマークのエッジであると認識される等、第 1画 素の注目色に応じた特徴量に基づくレーンマークの認識精度が低下する可能性が ある。
[0018] 一方、エリアに包含される第 2画素が過多である場合、当該エリアに相当する路面 部分に併存する複数の色が第 2画素の色成分に反映される。このため、今回設定さ れたエリアにぉ 、て、第 2画素の色成分を基準とした第 1画素の色成分の補正量が 不十分となる可能性がある。そして、レーンマークのエッジがレーンマークのエッジで はないと認識される等、第 1画素の注目色に応じた特徴量に基づくレーンマークの認 識精度が低下する可能性がある。
[0019] さらに、路面画像においてレーンマークがどの位置にあると認識されるかは、前回 のレーンマークの認識結果に依存する。たとえば、車両の走行状態が安定している にもかかわらず、路面画像にお!、て前回認識されたレーンマークの位置に鑑みて著 しく妥当性 (連続性)を欠く位置ではレーンマークが認識される可能性は低ぐまた、 妥当性に欠ける認識結果に基づいて車両の走行が制御されるべきではない。
[0020] また、路面画像においてレーンマークがどの位置にあると認識されるかは、車両の 走行状態にも依存する。たとえば、車両が左にカーブしながら走行しているとき、路 面画像においてレーンマークは道路のカーブの程度に応じた位置で認識されるもの と予測される。
[0021] 本発明の車両によれば、これらの事情に鑑みて、第 1画素の色成分の補正結果、 第 1画素の注目色に応じた特徴量の算出結果、第 4処理部によるレーンマークの認 識結果、および車両の走行状態のうち一部または全部に基づき、エリアがそのサイズ および形状のうち一方または両方が調節された上で再設定または新規設定される。 これにより、レーンマークの認識精度が低下するようなエリア設定を回避し、レーンマ ークの認識精度を向上させることができる。そして、画像処理システムによる当該画 像処理結果に基づき、レーンマークの実際の位置に鑑みて車両の走行が適切に制 御され得る。
[0022] さらに、本発明の車両は、第 2処理部が、第 1画素の色成分を、第 2画素の輝度値 を基準とする第 2画素の色成分を基準として補正し、第 3処理部が、第 1画素の輝度 値を基準とする第 1画素の該補正後の色成分に基づき、注目色に応じた第 1画素の 特徴量を算出することを特徴とする。
[0023] 第 1画素の明るさと第 2画素の明るさとが相違するため、前記のように第 1画素の色 成分が、これに対応する第 2画素の色成分を基準として補正された場合、注目色に 応じた第 1画素の特徴量が過大または過少となる可能性がある。たとえば、第 1画素 が明るい路面部分に相当する一方、第 2画素が暗い路面部分に相当する状態にな つたとき、第 1画素の特徴量が過大となり、第 1画素が路面部分ではなぐ注目色のレ ーンマーク部分に相当すると誤認識される可能性がある。また、第 1画素が暗いレー ンマーク部分に相当する一方、第 2画素が明るいレーンマーク部分に相当する状態 になったとき、第 1画素の特徴量が過少となり、第 1画素がレーンマーク部分ではなく 、路面部分に相当すると誤認識される可能性がある。
[0024] 本発明の車両によれば、このような事情に鑑みて、第 1画素の色成分が、第 2画素 の「輝度値 (明るさを表す指数)」を基準とし、且つ、この第 1画素の色成分に対応す る第 2画素の色成分を基準として補正される。また、第 1画素の特徴量が、第 1画素の 輝度値を基準とする、第 1画素の当該補正後の色成分に基づいて算出される。これ により、前記のように第 1および第 2画素の明るさの違いによる、第 1画素の特徴量に 対する影響が軽減または解消され、さらに第 1画素の特徴量に基づくレーンマークの 認識精度の低下が抑制され得る。そして、画像処理システムによる当該画像処理結 果に基づき、レーンマークの実際の位置に鑑みて車両の走行がより適切に制御され 得る。
[0025] 前記課題を解決するための本発明の画像処理システムは、車両に搭載されている 撮像手段により撮像された路面画像において複数の画素を包含するエリアを逐次移 動させながら設定する第 1処理部と、第 1処理部によりエリアに包含される複数の画 素のうちエリアの移動方向先端部分に包含される第 1画素の色成分を、該複数の画 素のうち第 1画素以外の第 2画素の色成分を基準として補正する第 2処理部と、第 2 処理部により補正された第 1画素の色成分に基づき、注目色に応じた第 1画素の特 徴量を算出する第 3処理部と、第 1処理部によってエリアが設定されるたび、第 2処理 部による第 1画素の色信号の補正および第 3処理部による第 1画素の特徴量の算出 が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像にぉ 、 て該注目色のレーンマークを認識する第 4処理部とを備えて 、る。
[0026] 本発明の画像処理システムによれば、路面への光の照射状態が部分的に異なって いる場合でも、路面画像においてレーンマークが高精度で認識され得る。
[0027] また、本発明の画像処理システムは、第 1処理部が、路面画像において移動方向 に一列に連続して並んでいる形状のエリア、または移動方向前方に一列に連続して 並んでいる部分を有するエリアを設定することを特徴とする。
[0028] さらに、本発明の画像処理システムは、第 1処理部が、路面画像の位置に応じて、 サイズ、形状、またはサイズおよび形状を調節しながらエリアを設定可能であることを 特徴とする。
[0029] また、本発明の画像処理システムは、第 1処理部が、第 2処理部による第 1画素の 色成分の補正結果、第 3処理部による第 1画素の特徴量の算出結果、第 4処理部に よるレーンマークの認識結果、および車両の走行状態のうち一部または全部に基づ き、サイズ、形状、またはサイズおよび形状を調節しながらエリアを設定可能であるこ とを特徴とする。
[0030] さらに、本発明の画像処理システムは、第 2処理部が、第 1画素の色成分を、第 2画 素の輝度値を基準とする第 2画素の色成分を基準として補正し、第 3処理部が、第 1 画素の輝度値を基準とする該補正後の第 1画素の色成分に基づき、注目色に応じた 第 1画素の特徴量を算出することを特徴とする。
[0031] 前記課題を解決するための本発明の画像処理方法は、車両に搭載されている撮 像手段により撮像された路面画像において、複数の画素を包含するエリアを逐次移 動させながら設定する第 1処理ステップと、第 1処理ステップにおいてエリアに包含さ れる複数の画素のうちエリアの移動方向先端部分に包含される第 1画素の色成分を 、該複数の画素のうち第 1画素以外の第 2画素の色成分を基準として補正する第 2処 理ステップと、第 2処理ステップにおいて補正された第 1画素の色成分に基づき、注 目色に応じた第 1画素の特徴量を算出する第 3処理ステップと、第 1処理ステップに よってエリアが設定されるたび、第 2処理ステップによる第 1画素の色信号の補正およ び第 3処理ステップによる第 1画素の特徴量の算出が逐次繰り返されることで得られ た複数の画素の特徴量に基づき、路面画像にお!、て該注目色のレーンマークを認 識する第 4処理ステップとを含んで 、る。
[0032] 本発明の画像処理方法によれば、路面への光の照射状態が部分的に異なってい る場合でも、路面画像において注目色のレーンマークが高精度で認識され得る。
[0033] 前記課題を解決するための本発明の画像処理プログラムは、車両に搭載されてい る撮像手段により撮像された路面画像において複数の画素を包含するエリアを逐次 移動させながら設定する第 1処理機能と、第 1処理機能によりエリアに包含される複 数の画素のうちエリアの移動方向先端部分に包含される第 1画素の色成分を、該複 数の画素のうち第 1画素以外の第 2画素の色成分を基準として補正する第 2処理機 能と、第 2処理機能により補正された第 1画素の色成分に基づき、注目色に応じた第 1画素の特徴量を算出する第 3処理機能と、第 1処理機能によってエリアが設定され るたび、第 2処理機能による第 1画素の色信号の補正および第 3処理機能による第 1 画素の特徴量の算出が逐次繰り返されることで得られた複数の画素の特徴量に基づ き、路面画像において該注目色のレーンマークを認識する第 4処理機能とをコンビュ ータに付与する。
[0034] 本発明のプログラムによれば、路面への光の照射状態が部分的に異なっている場 合でも、路面画像において注目色のレーンマークを高精度で認識し得る機能力 コ ンピュータに付与される。
[0035] 前記課題を解決するための本発明の画像処理システムの構築システムは、前記画 像処理システムを構築するため、前記画像処理プログラムのうち一部または全部を前 記車両に搭載されているコンピュータに配信または放送することを特徴とする。
[0036] 本発明の構築システムによれば、路面への光の照射状態が部分的に異なっている 場合でも、路面画像にぉ ヽて注目色のレーンマークを高精度で認識し得る画像処理 システムが、車両に搭載されて!、るコンピュータへの任意のタイミングでのプログラム の一部または全部の配信または放送によって構築されうる。
図面の簡単な説明
[0037] [図 1]本発明の一実施形態における車両およびこれに搭載されている画像処理シス テムの構成説明図
[図 2]本発明の一実施形態における画像処理方法の説明図
[図 3]路面画像の例示図
[図 4]第 1処理によって設定されるエリアの例示図
[図 5]第 4処理 (レーンマーク認識処理)の説明図
[図 6]エリアに包含される複数の画素の例示図
[図 7]画像処理により認識されたレーンマークの例示図
[図 8]第 1処理によって設定されるエリアの他の例示図
発明を実施するための最良の形態
[0038] 本発明の車両、画像処理システム、画像処理方法、画像処理プログラム、および画 像処理システムの構築方法の実施形態について図面を用いて説明する。
[0039] 図 1に示されている車両 10には、電子制御ユニット(コンピュータ) 11と、車両 10の 前方のカラー路面画像を撮像するカメラ (撮像手段) 12とが搭載されている。
[0040] 電子制御ユニット 11は、車両 10に搭載されて!、るハードウェアとして、ソフトウェアと しての本発明の「画像処理プログラム」とともに画像処理システム 100を構成している 。また、電子制御ユニット 11は、画像処理システム 100の画像処理結果に基づいて 車両 10の横位置を含む走行状態を制御する「車両走行状態制御システム」を構成し ている。画像処理システム 100は、記憶部 102と、第 1処理部 110と、第 2処理部 120 と、第 3処理部 130と、第 4処理部 140とを備えている。第 1処理部 110、第 2処理部 1 20、第 3処理部 130、および第 4処理部 140のそれぞれは、 CPU、 ROM, RAM, I ZO等のハードウェアと、当該ハードウェアを各処理部として機能させるための本発 明の「画像処理プログラム」の部分とにより構成されて!、る。この画像処理プログラム は最初力も車載コンピュータのメモリに格納されていてもよいが、その一部または全 部が運転手または車載コンピュータ力ものリクエストがあつたとき等、任意のタイミング で一または複数台のサ一ノ^必要に応じて人工衛星等により構成されている構築シ ステムから当該コンピュータに配信または放送されてもよい。第 1処理部 110、第 2処 理部 120、第 3処理部 130、および第 4処理部 140は、それぞれ別個独立のハードウ エアによって構成されていてもよぐ共通のハードウェアによって構成されていてもよ い。
[0041] 記憶部 102は、第 1処理部 110によるエリアの設定方法、第 2処理部 120による第 1 画素の色成分の補正方法、第 3処理部 130による第 1画素の注目色に応じた特徴量 の算出方法、第 4処理部 140による特徴量に基づく注目色のレーンマークの認識方 法等を記憶する。
[0042] 第 1処理部 110は、路面画像において複数の画素を包含するエリアを逐次移動さ せながら設定する。
[0043] 第 2処理部 120は、第 1処理部 110によりエリアに包含される複数の画素のうちエリ ァの移動方向先端部分に包含される「第 1画素」の色成分を、当該複数の画素のうち 第 1画素以外の「第 2画素」の色成分を基準として補正する。
[0044] 第 3処理部 130は、第 2処理部 120により補正された第 1画素の色成分に基づき、 注目色に応じた第 1画素の「特徴量」を算出する。
[0045] 第 4処理部 140は、第 1処理部 110によってエリアが設定されるたび、第 2処理部 1 20による第 1画素の色成分の補正および第 3処理部 130による第 1画素の特徴量の 算出が逐次繰り返されることで得られた複数の画素の特徴量に基づき、路面画像に お!ヽて注目色のレーンマークを認識する。
[0046] 前記構成の車両 10に搭載されている画像処理システムに 100より実行される画像 処理方法について図 2〜図 8を用いて説明する。
[0047] まず、第 1処理部 110が、カメラ 12によって撮像された mXn個の画素力もなる、図 3に示されているような路面画像において、下色の行番号を表す指数 i(i=0, 1, 2, ··, m— 1)を「0」に設定し(図 2/S101)、且つ、左色の列番号を表す指数 j(j = 0, 1, 2, ··, n— 1)を「4」に設定する(図 2ZS102)。図 3に示されている路面画像では 、車両 10の走行レーンの左右のレーンマーク Mのうち、左側のレーンマーク Mおよ びその周辺の路面部分に影 Sがさして 、る。
[0048] この上で、第 1処理部 110が「第 1処理」を実行する(図 2ZS110)。具体的には、 図 4に示されているように、路面画像における横並びの複数の画素を包含し、且つ、 当該複数の画素のうち右端の画素 Pijの位置によって識別される、 1行 X 4列のサイ ズおよび形状を有するエリア Aijを設定する。なお、列番号を表す指数が「2」に設定 された場合、 1行 X 2列のサイズおよび形状を有するエリア Ai2が設定されてもよぐ 列番号を表す指数が「3」に設定された場合、 1行 X 3列のサイズおよび形状を有する エリア Ai3が設定されてもょ ヽ。
[0049] 次に、第 2処理部 120が「第 2処理」を実行する(図 2ZS120)。具体的には、第 1 処理部 110により設定されたエリア Aijに含まれて 、る複数の画素 Pis (s=j-3, j-2 , j)のうち、右端部分 (エリア Aijの移動方向先端部分)にある第 1画素 Pijの色 信号 Iij=(Rij, Gij, Bij)力 当該複数の画素のうち第 1画素 Pij以外の第 2画素 Pik(k く j)の色信号 Iikを基準として補正されることにより、第 1画素 Pijの補正色信号 I'ijが 得られる。具体的には、次式(1)にしたがって第 2画素 Pikのそれぞれの輝度値 Vik が決定され、次式 (2)にしたがって補正係数の行列 Wが決定され、且つ、次式 (3)に したがって第 1画素 Pijの補正色信号 Γ ijが決定される (「diag」は対角行列を表し、「t 」は転置を表す)。
[0050] Vik=[a, β, y]'t(Rik, Gik, Bik)
Figure imgf000012_0001
(a >0, j8 >0, γ >0, α + β + γ =1) ·· (1)
W= diag [∑ kVik/∑ kRik, ∑kVik/∑kGik, ∑kVik/∑kBik]
≡diag[V/R, V/B, V/G] · · (2)
Figure imgf000013_0001
= diag[V/R, V/B, VZG] (Rij, Gij, Bij)
=t[(VZR)Rij, (V/G)Gij, (V/B) Bij] · · (3)
次に、第 3処理部 130が「第 3処理」を実行する(図 2ZS130)。具体的には、第 2 処理部 120によって補正された第 1画素 Pijの色信号 I'ijに基づき、注目色に応じた 第 1画素 Pijの特徴量 Qijが算出される。たとえば、注目色力 ^黄色」、すなわち、 R値 力 ¾値よりも大きくなる色である場合、第 1画素 Pijの色信号 lijに基づき、次式 (4)にし たがって第 1画素 Pijの輝度値 Vijが算出され、且つ、第 1画素 Pijの補正色信号 I'ijと 、必要に応じて第 1画素 Pijの輝度値 Vijとに基づき、次式(5a) (5b)または(5c)にし たがって第 1画素 Pijの特徴量 Qijが算出される。
[0051] Vij= [ a , β, γ] (!¾·, Gij, Bij)
Figure imgf000013_0002
(α >0, β >0, γ >0, α + β + γ =1) · · (4)
Qij=(l/Vij, 0, 1 /Vij) -I'ij
= (V/Vij) { (Rij/R) + (Bij/B) } · · (5a)
Qij=(l/Vij, 0, -1/Vij) -I'ij
= (V/Vij) { (Rij/R) (Bij/B) } · · (5b)
Qij= (Rij/R) / (Bij/B) · · (5c)
式(5a)にしたがって算出される特徴量 Qijは第 1画素 Pijの補正色信号 Γ ijの R成分 および G成分の和が、第 1画素 Pijの輝度値 Vijで除された (規格化された)ものである 。また、式(5b)にしたがって算出される特徴量 Qijは第 1画素 Pijの補正色信号 I'ijの R成分および G成分の差が、第 1画素 Pijの輝度値 Vijで除されたものである。さらに、 式(5c)にしたがって算出される特徴量 Qijは第 1画素 Pijの補正色信号 I'ijの G成分 に対する R成分の比率である。
[0052] 第 1画素 Pijの特徴量 Qijが算出された後、第 1処理部 110によって列番号を表す指 数 jが「1」だけ増やされ (図 2ZS103)、当該指数 jが路面画像の横画素数 m以上で ある力否かが判定される(図 2ZS104)。なお、当該指数 jの増加数は、後述の路面 画像におけるレーンマーク認識処理に支障をきたさな 、程度の「2」以上の数であつ てもよい。
[0053] そして、当該指数 jが路面画像の横画素数 m未満であると判定された場合 (図 2ZS
104· ·ΝΟ)、第 1ないし第 3処理が実行される(図 2ZS110〜S130)。列番号を表 す指数 jが「1」ずつ増やされるたびに新たにエリア Aijが設定されるので、エリア Aijは 右方向に 1画素ずつ移動していきながら更新設定されることとなる。また、エリア Aijに 包含される複数の画素のうち右端部分に包含される第 1画素 Pijは、エリア Aijの移動 方向(図 4矢印方向)、すなわち右方向にっ 、ての先端部分に包含される画素である
[0054] 一方、当該指数 jが路面画像の横画素数 m以上であると判定された場合 (図 2ZS1 04 · 'YES)、第 1処理部 110により、行番号を表す指数 i力 S「l」だけ増やされ (図 2Z
5105)、当該指数 iが路面画像の縦画素数 n以上であるか否かが判定される (02/
5106)。なお、当該指数 iの増加数は、後述の路面画像におけるレーンマーク認識 処理に支障をきたさな 、程度の「2」以上の数であってもよ 、。
[0055] そして、行番号を表す指数 iが路面画像の縦画素数 n未満であると判定された場合
(図 2/S106 ' 'NO)、第 1処理部 110により列番号を表す指数 jが「4」に再び設定さ れた上で(図 2ZS102)、第 1ないし第 3処理が実行される(図 2ZS110〜S130)。 また、当該指数 iがーまたは複数の所定値を超えている場合、サイズが小さいエリア A ijが設定されてもよい。これにより、路面画像の上に行くほど、たとえば図 4に示されて V、るエリア Aijの幅が小さく設定される。
[0056] 一方、当該指数 iが路面画像の縦画素数 n以上であると判定された場合(図 2ZS1 06· 'YES)、第 4処理部 140が「第 4処理」を実行する(図 2ZS 140)。具体的には、 路面画像における各画素 Pijの特徴量 Qijに基づき、路面画像におけるレーンマーク が認識される。
[0057] たとえば、図 3に示されている路面画像において、図 5 (a)に示されているように、左 力 順に画素 Pijl = (Xjl, Yi)が左側のレーンマーク Mの左端に相当し、画素 Pij2 = (Xj2, Yi)が左側のレーンマーク Mの右端に相当し、画素 Pij3= (Xj3, Yi)が路面に さしている影 Sの端に相当し、画素 Pij4= (Xj4, Yi)が右側のレーンマーク Mの左端 に相当し、且つ、画素 Pij5= (Xj5, Yi)が右側のレーンマーク Mの右端に相当する場 合を考える。
[0058] この場合、一列に並んでいる複数の画素 Pij(j = 0, 1, 2, · · , m—l)の注目色に応 じた特徴量 Qijは、路面画像の X座標の増加に伴って図 5 (b)に示されているように変 化する。
[0059] 具体的には、特徴量 Qijは、 X=Xjlおよび ¾4にお 、てそれぞれ大きく増加する。
すなわち、エリア Aijが前回よりも右に移動して更新設定されることで、図 6 (a)に示さ れているように、第 1画素 Pijがレーンマーク Mの左端部分に相当する一方、第 2画素 Pik(k=jl - 3, jl - 2, jl 1)がこのレーンマーク Mの左側の路面部分に相当する 状態となったとき、第 1画素 Pijの注目色に応じた特徴量 Qijが大きく増加する。これは 、第 1画素 Pijの色成分 Rij, Gij, Bijが、第 2画素 Pikの各色成分の総和 R, G, Bを基 準として補正されることで、道路にさす影 Sまたは光の影響が軽減または解消され、 且つ、第 1画素 Pijには注目色(レーンマーク Mの色)が含まれる一方、第 2画素 Pikに は注目色とは別の色 (路面の色)が含まれて 、ると!/、う相違が強調されるからである。
[0060] たとえば、レーンマーク Mが黄色である一方、路面が灰色である場合、レーンマー ク Mに相当する画素の R成分は B成分より大きくなる一方、路面に相当する画素の R 成分および B成分の差は小さい。しかし、レーンマーク Mに影 Sがさしている場合(図 3参照)、レーンマーク Mに相当する画素の R成分が小さくなる。しかるに、路面にも 同様に影がさしている場合、路面に相当する画素の R成分も小さくなる。したがって、 レーンマーク Mに相当する画素の R成分力 路面に相当する画素の R成分を基準と して補正されることで、レーンマーク Mに相当する画素の R成分が影 Sの影響により 低減した分が補償され得る(式(1)〜(3)参照)。これにより、レーンマーク Mに相当 する画素 Pijの特徴量 Qijが、影の影響が軽減または排除された形で算出され得る( 式 (4) (5a)〜(5c)参照)。
[0061] また、一度大きく増加した特徴量 Qijは徐々に減少する。すなわち、エリア Aijが前 回よりも右に移動して更新設定されることで、図 6 (b)または図 6 (c)に示されて 、るよ うに、第 1画素 Pijがレーンマーク Mの部分に相当する一方、第 2画素 Pikの一部また は全部がこのレーンマーク Mの部分に相当する状態となったとき、第 1画素 Pijの注目 色に応じた特徴量 Qijが徐々に減少する。これは、第 1画素 Pijの各色成分が、第 2画 素 Pikの各色成分の総和を基準として補正されることで、第 1画素 Pijにはレーンマー ク Mの色が含まれる一方、第 2画素 Pikには路面の色が含まれて 、ると 、う相違が徐 々に薄れるからである。
[0062] さらに、特徴量 Qijは X=Xj2および ¾5においてそれぞれ大きく減少する。すなわち 、エリア Aijが前回よりも右に移動して更新設定されることで、図 6 (d)に示されている ように、第 1画素 Pijがレーンマーク Mの右側の路面部分に相当する一方、第 2画素 P ikがこのレーンマーク Mの部分に相当する状態となったとき、第 1画素 Pijの注目色に 応じた特徴量 Qijが大きく減少する。これは、第 1画素 Pijの色成分 Rij, Gij, Bijが、第 2画素 Pikの各色成分の総和 R, G, Bを基準として補正されることで、道路にさす影 S または光の影響が軽減または解消され、且つ、第 1画素 Pijには注目色とは別の色( 路面の色)が含まれる一方、第 2画素 Pikには注目色(レーンマーク Mの色)が含まれ て 、ると 、う相違が強調される力 である。
[0063] たとえば、レーンマーク Mが黄色である一方、路面が灰色である場合、レーンマー ク Mに相当する画素の R成分は B成分より大きくなる一方、路面に相当する画素の R 成分および B成分の差は小さい。しかし、レーンマーク Mに光がさしている場合、レー ンマーク Mに相当する画素の B成分が大きくなる。しかるに、路面にも同様に光がさし ている場合、路面に相当する画素の B成分が大きくなる。したがって、レーンマーク M に相当する画素の B成分が、路面に相当する画素の B成分を基準として補正されるこ とで、レーンマーク Mに相当する画素の B成分が光の影響により増加した分が補償さ れ得る(式(1)〜(3)参照)。これにより、レーンマーク Mに相当する画素 Pijの特徴量 Qijが、光の影響が軽減または排除された形で算出され得る (式 (4) (5a)〜(5c)参 照)。
[0064] また、一度大きく減少した特徴量 Qijは徐々に増加する。すなわち、エリア Aijが前 回よりも右に移動して更新設定されることで、図 6 (e)または図 6 (f)に示されて 、るよ うに、第 1画素 Pijがレーンマーク Mの右側の路面部分に相当する一方、第 2画素 Pik の一部または全部がこの路面部分に相当する状態となったとき、第 1画素 Pijの注目 色に応じた特徴量 Qijが徐々に減少する。これは、第 1画素 Pijの色成分 Rij, Gij, Bij 力 第 2画素 Pikの色成分の総和 R, G, Bを基準として補正されることで、第 1画素 Pij に路面の色が含まれる一方、第 2画素 Pikには注目色(レーンマーク Mの色)が含ま れているという相違が徐々に薄れる力 である。
[0065] さらに、特徴量 Qijは、 X=Xj3の前後でほぼ一定に維持される。すなわち、エリア Ai jが前回よりも右に移動して更新設定されることで、第 1画素 Pijが明るい路面部分に 相当する一方、第 2画素 Pikが路面の暗い (影 Sがさしている)路面部分に相当する状 態となつたとき、第 1画素 Pijの注目色に応じた特徴量 Qijがほぼ一定に維持される。 これは、第 1画素 Pijの各色成分 Rij, Gij, Bijが、第 2画素 Pikの輝度値の総和 Qを基 準とする第 2画素 Pikの各色成分の総和 R, G, Bを基準として補正され、且つ、第 1画 素 Pijの輝度値 Vijを基準とする当該補正後の色成分 Rij' , Gij' , Bij'に基づいて第 1 画素 Pijの特徴量 Qijが算出されるからである。すなわち、第 1画素 Pijの各色成分 Rij, Gij, Bijが、輝度値の総和に対する色成分の総和の比 RZV, G/V, BZVを基準と して補正され、且つ、第 1画素 Pijの輝度値 Vijに対する当該補正後の色成分の比 Rij Wij, Gij' /Vij, Bij' ZVijに基づいて第 1画素 Pijの特徴量 Qijが算出されるから である。そして、これにより、道路にさす影 Sまたは光の影響が軽減または解消され、 且つ、第 1画素 Pijおよび第 2画素 Pikにはともに注目色とは別の色 (路面の色)が含ま れると 、うことが顕在化される力 である。
[0066] 第 4処理部 140は、図 5 (b)に示されているように、路面画像の各画素 Pijにおける 特徴量 Qijの、左側の極大値および右側の極小値により挟まれた部分をレーンマーク Mであると認識する。すなわち、図 7に示されているように、特徴量 Qijが極大値を示 す点(図中白点)および特徴量 Qijが極小値を示す点(図中黒点)。また、第 4処理部 140は、レーンマーク Mの左右のエッジのうち、走行レーン中央寄りのエッジをレーン マーク Mのエッジ E (図中太線)として認識する。
[0067] そして、電子制御ユニット 11が、画像処理システム 100による画像処理結果、すな わち、レーンマーク Mのエッジ Eの認識結果に基づき、車両 10の走行を制御する。
[0068] 前記画像処理方法を実行する画像処理システム 100によれば、路面画像において 設定されたエリア Aijに包含される第 1画素 Pijの色成分 Rij, Gij, Bijが、第 2画素 Pik の輝度値の総和 V ( =∑ kVik)を基準とする第 2画素 Pikの色成分の総和 R (=∑kRi k) , G (=∑kGik) , B (=∑kBik)を基準として補正される。すなわち、第 1画素 Pijの 色成分 Rij, Gij, Bijが、第 2画素 Pikの輝度値の総和 Vに対する色成分の総和 R, G, Bの比 RZV, G/V, BZVを基準として補正される(図 2ZS120、式(1)〜(3) )。ま た、第 1画素 Pijの輝度値 Vijを基準とする第 1画素 Pijの色成分 Rij, Gij, Bijに基づき 、第 1画素 Pijの特徴量 Qijが算出される。すなわち、第 1画素 Pijの輝度値に対する色 成分の比 RijZVij, Gij/Vij, BijZVij (図 2ZS130、式(5a) (5b)参照)。これにより 、路面にさす影や光の影響が低減され、第 1画素 Pijに相当する路面部分の実際の 色が、第 1画素 Pijの色成分 Rij, Gij, Bij、ひいては特徴量 Qijに十分に反映され得る
[0069] また、エリア Aijが逐次移動させられながら設定される力 (図 2ZS 103, S 110)、エリ ァ Aijに包含される複数の画素のうち、その移動方向先端部分の画素が第 1画素 Pij とされ、その他の画素が第 2画素 Pik (k<j)とされている(図 4参照)。このため、エリア Aijの先端部分に相当する路面部分の色が、前回に設定されたエリア Aijの先端部分 に相当する路面部分の色と異なる状態になったとき、図 6 (a)または図 6 (d)に示され ているように、第 1画素 Pijに相当する路面部分の色と、一部または全部の第 2画素 Pi kに相当する路面部分の色とが異なる状態になる。このため、前記のように第 1画素 Pi jの色成分 Rij, Gij, Bijが、第 2画素 Pikの色成分の総和 R, G, Bを基準として補正さ れることにより、第 1画素 Pijに相当する路面部分の実際の色が、この第 1画素 Pijの色 成分 Rij, Gij, Bij、ひいては注目色に応じた特徴量 Qijに顕著に反映され得る(図 5 ( b)参照)。
[0070] さらに、第 1画素 Pijの輝度値 Vijと、第 2画素 Pikの輝度値 Vikの総和 Vとが考慮され て第 1画素 Pijの特徴量 Qijが算出される(図 2ZS130、式(1) (4)参照)。これにより、 第 1画素 Pijおよび第 2画素 Pikの色ではなく明るさの違いにより第 1画素 Pijの特徴量 Qijが過大または過少となる事態が回避され得る。たとえば、図 5 (a)に示されている 影 Sがさして暗い路面部分と、影 Sから外れて明るい路面部分との境界位置 ¾3にお いて、第 1画素 Pijおよび第 2画素 Pikの明るさの違いにより、第 1画素 Pijの特徴量 Qij (特に式 (5a)にしたがって算出される特徴量 Qij)が大きく変動し、この第 1画素 Pijが レーンマーク Mのエッジ Eに相当すると誤判定される事態が回避され得る。
[0071] 以上により、路面への光の照射状態が部分的に異なっている場合でも、画像処理 システム 100によって路面画像において注目色のレーンマーク Mおよびそのエッジ E が高精度で認識され得る。そして、画像処理システムによる当該画像処理結果に基 づき、レーンマーク Mおよびそのエッジ Eの実際の位置に鑑みて車両 10の走行が適 切に制御され得る。
[0072] さらに、本発明の車両は、第 1処理部 110は、路面画像の位置に応じて、サイズ、 形状、またはサイズおよび形状を調節しながらエリア Aijを設定可能である。具体的に は、前記のように、路面画像の上に行くほど、たとえば図 4に示されているエリア Aijの 幅が小さく設定される。
[0073] 今回設定されたエリア Aijの第 1画素 Pijに相当する路面部分の色が、前回に設定さ れたエリアの第 1画素 pij-1に相当する路面部分の色と異なる状態となったとき (たとえ ば、図 6 (c)に示されている状態力 図 6 (d)に示されている状態となったとき)、今回 設定されたエリア Aijにおいて、第 1画素 Pijに相当する路面部分の色と、全部または 大半の第 2画素 Pikに相当する路面部分の色とが異なる状態となるように、エリア Aij のサイズおよび形状のうち一方または両方が調節され得る。これにより、第 1画素 Pij に相当する路面部分の実際の色力 この第 1画素 Pijの色成分、ひいては注目色に 応じた特徴量 Qijに顕著に反映され得る。したがって、路面への光の照射状態が部 分的に異なっている場合でも、画像処理システム 100によって路面画像において注 目色のレーンマークが高精度で認識され得る(図 7参照)。そして、画像処理システム 100による当該画像処理結果に基づき、レーンマーク Mおよびそのエッジ Eの実際 の位置に鑑みて車両 10の走行が適切に制御され得る。
[0074] なお、前記実施形態では各画素の色信号が RGB成分により表現されたが、他の実 施形態として各画素の色信号が CMY成分、 YIQ成分等、 RGB表色系とは異なる表 色系により表現されてもよい。
[0075] 前記実施形態では図 4に示されて 、るように、 1行 X 4列 (複数列) t 、うサイズおよ び形状のエリア Aijが設定されたが、他の実施形態として次に列挙するようなさまざま なサイズおよび形状を有するエリア Aijが設定されてもよい。すなわち、図 8 (a)に示さ れているように、右端部分 (移動方向先端部分)の第 1画素 Pijと、第 1画素 Pijの左側 (移動方向後方)にある画素 Pij-1, Pij-2および Pi+lj-2とを包含する等、移動方向前 方に延びた部分を有するエリア Aijが設定されてもよい。また、図 8 (b)に示されている ように右端部分の第 1画素 Pijと、第 1画素 Pijの左側にある画素 Pij-2, Pij-3および Pij -4とを包含するような、離反した複数の画素を包含するエリア Aijが設定されてもょ ヽ
[0076] 前記実施形態ではエリア Aijが各行の右に逐次移動するように更新設定されたが、 他の実施形態として図 8 (c)に示されているようにエリア Aijが各行の左に逐次移動す るように更新設定されてもよぐまた、エリア Aijがある行では右に逐次移動する一方、 他の行では左に逐次移動するように更新設定されてもょ 、。路面画像にぉ 、てエリ ァ Aijが左に逐次移動するように更新設定される場合、エリア Aijに包含される複数の 画素のうち、左端の画素が第 1画素 Pij、第 1画素 Pijより右側の画素が第 2画素 Pik (k >j)として第 2処理(図 2ZS120)等が実行される。
[0077] また、前記実施形態では横に延びたエリア Aijが横に逐次移動するように更新設定 されたが、他の実施形態として図 8 (d)または図 8 (e)に示されているように縦に延び た (または進行方向前方に縦に伸びた部分を有する)エリア Aijが各行の上、下、また は上若しくは下に逐次移動するように更新設定されてもょ 、。路面画像にぉ 、て縦 に延びたエリア Aijが上下に逐次移動するように更新設定される場合、エリア Aijに包 含される複数の画素のうち、上端または下端の画素が第 1画素 Pij、第 1画素 Pijより下 側または上側の画素が第 2画素 Pik (k>j)として第 2処理(図 2ZS120)等が実行さ れる。
[0078] さらに他の実施形態として、エリア Aijが横に 2画素分ずつ移動し、且つ、縦に 1画 素分ずつ移動するように、すなわち、エリア Aijが路面画像において斜め方向に移動 するように更新設定されてもょ 、。
[0079] ところで、エリア Aijに包含される第 2画素 Pikが過少である場合、レーンマーク Mの 剥げ等により局所的に本来の注目色とは別の色となっている路面部分の色しか第 2 画素 Pikの色成分 Rik, Bik, Gikに反映されないおそれがある。このため、今回設定さ れたエリア Aijにおいて、第 2画素 Pikの色成分 Rik, Bik, Gikを基準とした第 1画素 Pij の色成分 Rij, Bij, Gijの補正量が過大となる可能性がある。そして、レーンマーク M のかすれがこのレーンマーク Mのエッジ Eであると認識される等、第 1画素 Pijの注目 色に応じた特徴量 Qijに基づくレーンマーク Mの認識精度が低下する可能性がある。
[0080] 一方、エリア Aijに包含される第 2画素 Pikが過多である場合、当該エリア Aijに相当 する路面部分に併存する複数の色が第 2画素 Pijの色成分の総和 R=∑kRik, B = ∑kBik, G=∑kGikに反映されるおそれがある。このため、今回設定されたエリア Aij において、第 2画素 Pikの色成分 Rik, Bik, Gikを基準とした、第 1画素 Pijの色成分 Ri j, Bij, Gijの補正量が不十分となる可能性がある。そして、レーンマーク Mのエッジ E が真のエッジ Eではないと認識される等、第 1画素 Pijの注目色に応じた特徴量 Qijに 基づくレーンマーク Mの認識精度が低下する可能性がある。
[0081] さらに、路面画像においてレーンマークがどの位置にあると認識されるかは、前回 のレーンマーク M (およびそのエッジ E)の認識結果に依存する。たとえば、車両 10 の走行状態が安定しているにもかかわらず、路面画像において前回認識されたレー ンマーク Mの位置に鑑みて著しく妥当性 (たとえば、連続性)を欠く位置ではレーン マーク Mが認識される可能性が低ぐまた、妥当性に欠ける認識結果に基づいて車 両 10の走行が制御されるべきではな!/、。
[0082] また、路面画像においてレーンマークがどの位置にあると認識されるかは、車両 10 の走行状態にも依存する。たとえば、車両 10が左にカーブしながら走行しているとき 、路面画像においてレーンマークは道路のカーブの程度に応じた位置に認識される ものと予測される。
[0083] そこで、第 1画素 Pijの色成分の補正結果(図 2ZS120)、および第 1画素 Pijの注 目色に応じた特徴量 Qijの算出結果(図 2ZS 130)、レーンマーク Mの認識結果(図 2ZS 140)、および車両 10に搭載された速度センサゃョーレートセンサ(図示略)に よって測定される車両 10の速度ゃョーレート等の走行状態のうち一部または全部に 基づき、エリア Aijがそのサイズおよび形状のうち一方または両方が調節された上で 再設定または新規設定されてもょ ヽ。
[0084] 当該実施形態の画像処理システム 100によれば、前記事情に鑑みて、レーンマー ク Mの認識精度が低下するようなエリア Aijの設定を回避し、レーンマーク Mの認識 精度を向上させることができる。そして、当該画像処理結果に基づき、レーンマーク の実際の位置に鑑みて車両 10の走行が適切に制御され得る。 [0085] 前記実施形態ではエリア Aijの右端 (第 1画素)が画像右端に到達した後(図 2ZS1 04 · .YES)、当該エリア Aijが他の画素行に動力される(図 2ZS105)。また、前記実 施形態では各画素行におけるエリア Aijの左端の初期位置が画像左端に一致するよ うに動力される(図 2ZS102参照)。その他の実施形態としてエリア Aijの右端 (先端) が画像右端よりも左にずれた位置に到達した後、当該エリア Aijが他の画素行に動か されてもよい。すなわち図 2の S104においてエリア Aijの改行の契機となる閾値(以 下「右境界値」という。)が、画像の横画素数 mよりも小さい値に設定されてもよい。ま た、各画素列におけるエリア Aijの左端 (後端)の初期位置が画像左端よりも右にずら されてもよい。すなわち図 2の S102においてエリア Aijの右端の初期位置を表す指数 (以下「左境界値」 、う。 )が「4」よりも大きな値価に設定されてもよ!、。
[0086] たとえば、行が上になるほど (行数を表す指数 iが大きくなるほど)、右境界値および 左境界値のうち一方または両方が大きくなるように調整されてもよい。これにより、撮 像された画像においてエリア Aijを走査させうる領域が上に行くほど徐々に狭くなる台 形状または三角形状となる。すなわち、撮像画像においてレーンマーク Mが存在す る蓋然性が高い領域のみにエリアの操作領域 Aijを絞ることができる(図 3、図 5 (a)参 照)。そして、前述の画像処理の高速化、当該画像処理に要する情報処理資源の節 約等を図ることができる。
[0087] また、車両 10の搭載された速度センサゃョーレートセンサ(図示略)によって測定さ れる車両 10の速度ゃョーレート等の走行状態に応じて右境界値および左境界値の うち一方または両方が調整されてもよい。

Claims

請求の範囲
[1] 撮像手段と、
撮像手段により撮像された路面画像に基づき、画像処理を実行する画像処理シス テムと、
画像処理システムによる画像処理結果に基づいて車両の走行を制御する車両走 行制御システムとが搭載され、
画像処理システムが、
路面画像において複数の画素を包含するエリアを逐次移動させながら設定する第
1処理部と、
第 1処理部によりエリアに包含される複数の画素のうちエリアの移動方向先端部分 に包含される第 1画素の色成分を、該複数の画素のうち第 1画素以外の第 2画素の 色成分を基準として補正する第 2処理部と、
第 2処理部により補正された第 1画素の色成分に基づき、注目色に応じた第 1画素 の特徴量を算出する第 3処理部と、
第 1処理部によってエリアが設定されるたび、第 2処理部による第 1画素の色成分の 補正および第 3処理部による第 1画素の特徴量の算出が逐次繰り返されることで得ら れた複数の画素の特徴量に基づき、路面画像にお!、て該注目色のレーンマークを 認識する第 4処理部とを備えて 、る車両。
[2] 第 1処理部が、路面画像において移動方向に一列に連続して並んでいる形状のェ リア、または移動方向前方に一列に連続して並んでいる部分を有するエリアを設定 することを特徴とする請求項 1記載の車両。
[3] 第 1処理部が、路面画像の位置に応じて、サイズ、形状、またはサイズおよび形状 を調節しながらエリアを設定可能であることを特徴とする請求項 1または 2記載の車両
[4] 第 1処理部が、第 2処理部による第 1画素の色成分の補正結果、第 3処理部による 第 1画素の特徴量の算出結果、第 4処理部によるレーンマークの認識結果、および 車両の走行状態のうち一部または全部に基づき、サイズ、形状、またはサイズおよび 形状を調節しながらエリアを設定可能であることを特徴とする請求項 1、 2または 3記 載の車両。
[5] 第 2処理部が、第 1画素の色成分を、第 2画素の輝度値を基準とする第 2画素の色 成分を基準として補正し、
第 3処理部が、第 1画素の輝度値を基準とする第 1画素の該補正後の色成分に基 づき、注目色に応じた第 1画素の特徴量を算出することを特徴とする請求項 1、 2、 3 または 4記載の車両。
[6] 車両に搭載されている撮像手段により撮像された路面画像において複数の画素を 包含するエリアを逐次移動させながら設定する第 1処理部と、第 1処理部によりエリア に包含される複数の画素のうちエリアの移動方向先端部分に包含される第 1画素の 色成分を、該複数の画素のうち第 1画素以外の第 2画素の色成分を基準として補正 する第 2処理部と、
第 2処理部により補正された第 1画素の色成分に基づき、注目色に応じた第 1画素 の特徴量を算出する第 3処理部と、
第 1処理部によってエリアが設定されるたび、第 2処理部による第 1画素の色信号の 補正および第 3処理部による第 1画素の特徴量の算出が逐次繰り返されることで得ら れた複数の画素の特徴量に基づき、路面画像にお!、て該注目色のレーンマークを 認識する第 4処理部とを備えて ヽる画像処理システム。
[7] 第 1処理部が、路面画像において移動方向に一列に連続して並んでいる形状のェ リアまたは移動方向前方に一列に連続して並んでいる部分を有するエリアを設定す ることを特徴とする請求項 6記載の画像処理システム。
[8] 第 1処理部が、路面画像の位置に応じて、サイズ、形状、またはサイズおよび形状 を調節しながらエリアを設定可能であることを特徴とする請求項 6または 7記載の画像 処理システム。
[9] 第 1処理部が、第 2処理部による第 1画素の色成分の補正結果、第 3処理部による 第 1画素の特徴量の算出結果、第 4処理部によるレーンマークの認識結果、および 車両の走行状態のうち一部または全部に基づき、サイズ、形状、またはサイズおよび 形状を調節しながらエリアを設定可能であることを特徴とする請求項 6、 7または 8記 載の画像処理システム。
[10] 第 2処理部が、第 1画素の色成分を、第 2画素の輝度値を基準とする第 2画素の色 成分を基準として補正し、
第 3処理部が、第 1画素の輝度値を基準とする第 1画素の該補正後の色成分に基 づき、注目色に応じた第 1画素の特徴量を算出することを特徴とする請求項 6、 7、 8 または 9記載の画像処理システム。
[11] 車両に搭載されている撮像手段により撮像された路面画像において、複数の画素 を包含するエリアを逐次移動させながら設定する第 1処理ステップと、
第 1処理ステップにおいてエリアに包含される複数の画素のうちエリアの移動方向 先端部分に包含される第 1画素の色成分を、該複数の画素のうち第 1画素以外の第 2画素の色成分を基準として補正する第 2処理ステップと、第 2処理ステップにお 、て 補正された第 1画素の色成分に基づき、注目色に応じた第 1画素の特徴量を算出す る第 3処理ステップと、
第 1処理ステップによってエリアが設定されるたび、第 2処理ステップによる第 1画素 の色信号の補正および第 3処理ステップによる第 1画素の特徴量の算出が逐次繰り 返されることで得られた複数の画素の特徴量に基づき、路面画像にお!ヽて該注目色 のレーンマークを認識する第 4処理ステップとを含んでいる画像処理方法。
[12] 車両に搭載されている撮像手段により撮像された路面画像において複数の画素を 包含するエリアを逐次移動させながら設定する第 1処理機能と、
第 1処理機能によりエリアに包含される複数の画素のうちエリアの移動方向先端部 分に包含される第 1画素の色成分を、該複数の画素のうち第 1画素以外の第 2画素 の色成分を基準として補正する第 2処理機能と、
第 2処理機能により補正された第 1画素の色成分に基づき、注目色に応じた第 1画 素の特徴量を算出する第 3処理機能と、
第 1処理機能によってエリアが設定されるたび、第 2処理機能による第 1画素の色 信号の補正および第 3処理機能による第 1画素の特徴量の算出が逐次繰り返される ことで得られた複数の画素の特徴量に基づき、路面画像にぉ 、て該注目色のレーン マークを認識する第 4処理機能とをコンピュータに付与する画像処理プログラム。
[13] 請求項 6記載の画像処理システムを構築するため、請求項 12記載の画像処理プロ グラムのうち一部または全部を前記車両に搭載されているコンピュータに配信または 放送することを特徴とする画像処理システムの構築システム。
PCT/JP2006/313464 2005-07-15 2006-07-06 車両、画像処理システム、画像処理方法、画像処理プログラム、画像処理システムの構築システム Ceased WO2007010750A1 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
DE602006014690T DE602006014690D1 (de) 2005-07-15 2006-07-06 Fahrzeug, bildverarbeitungssystem, bildverarbeitungsverfahren, bildverarbeitungsprogramm, struktursystem eines bildverarbeitungssystems
EP06767923A EP1914700B1 (en) 2005-07-15 2006-07-06 Vehicle, image processing system, image processing method, image processing program, structure system of image processing system
US11/995,798 US8170285B2 (en) 2005-07-15 2006-07-06 Systems and methods of vehicle image processing

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2005207574A JP4185077B2 (ja) 2005-07-15 2005-07-15 車両、画像処理システム、画像処理方法、及び画像処理プログラム
JP2005-207574 2005-07-15

Publications (1)

Publication Number Publication Date
WO2007010750A1 true WO2007010750A1 (ja) 2007-01-25

Family

ID=37668632

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2006/313464 Ceased WO2007010750A1 (ja) 2005-07-15 2006-07-06 車両、画像処理システム、画像処理方法、画像処理プログラム、画像処理システムの構築システム

Country Status (5)

Country Link
US (1) US8170285B2 (ja)
EP (1) EP1914700B1 (ja)
JP (1) JP4185077B2 (ja)
DE (1) DE602006014690D1 (ja)
WO (1) WO2007010750A1 (ja)

Families Citing this family (21)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE102005055350A1 (de) * 2005-11-21 2007-05-24 Robert Bosch Gmbh Verfahren zur Steuerung der Gesichtsfeldgröße eines Videosystems und Videosystem für ein Kraftfahrzeug
TWI334517B (en) * 2007-08-30 2010-12-11 Ind Tech Res Inst Method for predicting lane line and lane departure warning system using the same
JP4941843B2 (ja) * 2008-02-28 2012-05-30 日本電気株式会社 路面標示画像処理装置、路面標示画像処理方法並びに路面標示画像処理プログラム
JP5083658B2 (ja) * 2008-03-26 2012-11-28 本田技研工業株式会社 車両用車線認識装置、車両、及び車両用車線認識プログラム
JP5034087B2 (ja) * 2008-03-31 2012-09-26 本田技研工業株式会社 車両走行支援装置、車両、車両走行支援プログラム
GB201101237D0 (en) 2011-01-25 2011-03-09 Trw Ltd Method of processing images and apparatus
JP5754470B2 (ja) * 2012-12-20 2015-07-29 株式会社デンソー 路面形状推定装置
DE102013012324A1 (de) * 2013-07-25 2015-01-29 GM Global Technology Operations LLC (n. d. Ges. d. Staates Delaware) Verfahren und Vorrichtung zur Fahrwegfindung
US9224053B1 (en) * 2013-07-31 2015-12-29 Google Inc. Combining multiple estimates of an environment into a consolidated estimate for an autonomous vehicle
US9412028B2 (en) * 2013-11-13 2016-08-09 Elwha Llc Wheel slip or spin notification
US9677897B2 (en) 2013-11-13 2017-06-13 Elwha Llc Dead reckoning system for vehicles
KR20150076627A (ko) 2013-12-27 2015-07-07 한국전자통신연구원 차량 운전 학습 시스템 및 방법
JP6130809B2 (ja) * 2014-04-25 2017-05-17 本田技研工業株式会社 車線認識装置
JP6230482B2 (ja) * 2014-05-19 2017-11-15 本田技研工業株式会社 レーンマーク認識装置、車両及びレーンマーク認識方法
US9892328B2 (en) 2014-06-18 2018-02-13 Mobileye Vision Technologies Ltd. Hazard detection from a camera in a scene with moving shadows
JP5908946B2 (ja) 2014-06-18 2016-04-26 富士重工業株式会社 画像処理装置
JP2018063381A (ja) * 2016-10-14 2018-04-19 矢崎総業株式会社 表示装置
US10430968B2 (en) * 2017-03-14 2019-10-01 Ford Global Technologies, Llc Vehicle localization using cameras
JP7188203B2 (ja) * 2019-03-15 2022-12-13 トヨタ自動車株式会社 区画線劣化特定システムおよび区画線劣化特定方法
JP7390899B2 (ja) * 2020-01-10 2023-12-04 日立Astemo株式会社 レーンマーク認識装置
CN113386773B (zh) * 2021-07-30 2026-04-24 蔚来汽车科技(安徽)有限公司 视觉识别可靠度的判断方法及设备

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62221800A (ja) * 1985-12-11 1987-09-29 株式会社デンソー 路面上の車線認識装置
JPH07244717A (ja) * 1994-03-02 1995-09-19 Mitsubishi Electric Corp 車両用走行環境認識装置
JP2001022934A (ja) * 1999-07-07 2001-01-26 Tokai Rika Co Ltd 車両における走行路認識方法及び走行路認識装置
JP2001088636A (ja) * 1999-09-22 2001-04-03 Fuji Heavy Ind Ltd 車外監視装置
EP1089231A2 (en) 1999-09-22 2001-04-04 Fuji Jukogyo Kabushiki Kaisha Lane marker recognizing apparatus
JP2003337950A (ja) * 2002-05-20 2003-11-28 Aisin Seiki Co Ltd 車線境界検出装置
US6819779B1 (en) 2000-11-22 2004-11-16 Cognex Corporation Lane detection system and apparatus

Family Cites Families (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3357749B2 (ja) * 1994-07-12 2002-12-16 本田技研工業株式会社 車両の走行路画像処理装置
EP0827127B1 (en) * 1996-08-28 2006-10-04 Matsushita Electric Industrial Co., Ltd. Local positioning apparatus, and method therefor
JP2001520781A (ja) * 1998-02-06 2001-10-30 コーニンクレッカ フィリップス エレクトロニクス エヌ ヴィ 動き又はデプス推定
JP3333468B2 (ja) 1999-05-24 2002-10-15 本田技研工業株式会社 車両自律走行の走行路画像処理装置
JP4016735B2 (ja) * 2001-11-30 2007-12-05 株式会社日立製作所 レーンマーク認識方法
DE10210546A1 (de) * 2002-03-09 2003-09-18 Bosch Gmbh Robert Verfahren und System zur automatischen Fahrzeugführung
JP4526963B2 (ja) * 2005-01-25 2010-08-18 株式会社ホンダエレシス レーンマーク抽出装置

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS62221800A (ja) * 1985-12-11 1987-09-29 株式会社デンソー 路面上の車線認識装置
JPH07244717A (ja) * 1994-03-02 1995-09-19 Mitsubishi Electric Corp 車両用走行環境認識装置
JP2001022934A (ja) * 1999-07-07 2001-01-26 Tokai Rika Co Ltd 車両における走行路認識方法及び走行路認識装置
JP2001088636A (ja) * 1999-09-22 2001-04-03 Fuji Heavy Ind Ltd 車外監視装置
EP1089231A2 (en) 1999-09-22 2001-04-04 Fuji Jukogyo Kabushiki Kaisha Lane marker recognizing apparatus
US6819779B1 (en) 2000-11-22 2004-11-16 Cognex Corporation Lane detection system and apparatus
JP2003337950A (ja) * 2002-05-20 2003-11-28 Aisin Seiki Co Ltd 車線境界検出装置

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP1914700A4

Also Published As

Publication number Publication date
US20090284597A1 (en) 2009-11-19
DE602006014690D1 (de) 2010-07-15
EP1914700A4 (en) 2008-11-26
US8170285B2 (en) 2012-05-01
EP1914700A1 (en) 2008-04-23
JP2007026106A (ja) 2007-02-01
JP4185077B2 (ja) 2008-11-19
EP1914700B1 (en) 2010-06-02

Similar Documents

Publication Publication Date Title
WO2007010750A1 (ja) 車両、画像処理システム、画像処理方法、画像処理プログラム、画像処理システムの構築システム
JP5016073B2 (ja) 白線認識装置
US8249303B2 (en) Restoration apparatus for weather-degraded image and driver assistance system
US8477999B2 (en) Road division line detector
JP3651387B2 (ja) 白線検出装置
JP5419432B2 (ja) 対象領域決定方法及び対象領域決定装置
EP1887521B1 (en) Vehicle and road sign recognition device
JP4603421B2 (ja) 車両、画像処理システム、画像処理方法、及び画像処理プログラム
US7623700B2 (en) Stereoscopic image processing apparatus and the method of processing stereoscopic images
US20130177211A1 (en) Travel path estimation apparatus and program
JP2001082955A (ja) ステレオ画像の位置ずれ調整装置
CN103269908A (zh) 图像提供设备
JP2011243161A (ja) 車線境界検出装置、車線境界検出プログラム
JP7691351B2 (ja) 画像認識システム
US11367168B2 (en) Image processing apparatus and method
US20190318490A1 (en) Distance estimation of vehicle headlights
WO2006129493A1 (ja) 車両及び路面標示認識装置
JP2002247361A5 (ja)
Álvarez et al. Shadow resistant road segmentation from a mobile monocular system
JP3986363B2 (ja) 車線境界検出装置
JP3882304B2 (ja) 自動走行用自車位置検出装置
JP2000348284A (ja) 車両検知装置および車両検知方法ならびに車両検知プログラムを記録したコンピュータ読み取り可能な記録媒体
US11093786B2 (en) Extraneous-matter detecting apparatus and extraneous-matter detecting method
WO2023050549A1 (zh) 一种提高adas系统识别准确度和环境适应性的方法
JPH08202877A (ja) 画像認識装置

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application
NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2006767923

Country of ref document: EP

WWE Wipo information: entry into national phase

Ref document number: 11995798

Country of ref document: US