WO2017145818A1 - 信号処理装置、および信号処理方法、並びにプログラム - Google Patents

信号処理装置、および信号処理方法、並びにプログラム Download PDF

Info

Publication number
WO2017145818A1
WO2017145818A1 PCT/JP2017/004955 JP2017004955W WO2017145818A1 WO 2017145818 A1 WO2017145818 A1 WO 2017145818A1 JP 2017004955 W JP2017004955 W JP 2017004955W WO 2017145818 A1 WO2017145818 A1 WO 2017145818A1
Authority
WO
WIPO (PCT)
Prior art keywords
signal processing
toggle rate
unit
error
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2017/004955
Other languages
English (en)
French (fr)
Inventor
哲崇 池田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to CN201780009607.8A priority Critical patent/CN108604203B/zh
Priority to US16/077,615 priority patent/US10565072B2/en
Priority to JP2018501584A priority patent/JP6658860B2/ja
Priority to EP17756259.2A priority patent/EP3422187B1/en
Publication of WO2017145818A1 publication Critical patent/WO2017145818A1/ja
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/16Error detection or correction of the data by redundancy in hardware
    • G06F11/1629Error detection by comparing the output of redundant processing systems
    • G06F11/165Error detection by comparing the output of redundant processing systems with continued operation after detection of the error
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0706Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment
    • G06F11/0733Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation the processing taking place on a specific hardware platform or in a specific software environment in a data processing system embedded in an image processing device, e.g. printer, facsimile, scanner
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/07Responding to the occurrence of a fault, e.g. fault tolerance
    • G06F11/0703Error or fault processing not based on redundancy, i.e. by taking additional measures to deal with the error or fault not making use of redundancy in operation, in hardware, or in data representation
    • G06F11/0751Error or fault detection not based on redundancy
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/22Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/22Detection or location of defective computer hardware by testing during standby operation or during idle time, e.g. start-up testing
    • G06F11/26Functional testing
    • G06F11/27Built-in tests
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F11/00Error detection; Error correction; Monitoring
    • G06F11/28Error detection; Error correction; Monitoring by checking the correct order of processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/007Transform coding, e.g. discrete cosine transform

Definitions

  • the present disclosure relates to a signal processing device, a signal processing method, and a program, and more particularly, to a signal processing device, a signal processing method, and a program that can detect a failure without stopping the signal processing.
  • a signal processing device including a plurality of signal processing units that process signals including image signals and audio signals, it is common to detect whether a failure has occurred in any of the signal processing units. In addition, it is necessary to stop the signal processing, process a known signal such as a test pattern, and determine whether or not a known processing result is output.
  • the present disclosure has been made in view of such a situation, and in particular, performs signal processing in real time without using specific calculation target data (depending on a test image) or calculation parameters that are uniquely set. This makes it possible to realize failure detection of a device.
  • a signal processing device includes a signal processing unit that sequentially processes an input signal including a digital signal, a first toggle rate calculation unit that calculates a toggle rate of the input signal as a first toggle rate, A second toggle rate calculation unit that calculates a toggle rate of the signal processed by the signal processing unit as a second toggle rate, a difference between the first toggle rate and the second toggle rate, and a predetermined And an error detection unit that detects the occurrence of an error according to the comparison result.
  • the input signal may be an image signal composed of binary data, and each of the first toggle rate calculation unit and the second toggle rate calculation unit has a toggle rate for each bit of one frame. Can be calculated as the average toggle rate of the preceding stage and the average toggle rate of the subsequent stage of the signal processing unit.
  • the input signal may be an image signal composed of binary data, and each of the first toggle rate calculation unit and the second toggle rate calculation unit has a toggle rate of each bit for one frame. Further, the average value of all the bits can be calculated as the average toggle rate of the previous stage and the average toggle rate of the subsequent stage of the signal processing unit.
  • the input signal may be an image signal made up of binary data
  • the error detection unit has an error in which a difference between the first toggle rate and the second toggle rate is made up of a first threshold value. If it is larger than the threshold, the occurrence of an error in the signal processing unit is detected.
  • the signal processing unit is connected to a plurality of stages in series, and further, a toggle rate calculation unit is provided between each of the signal processing units, and the toggle rate of the previous stage of each of the signal processing units
  • the calculation unit is the first toggle rate calculation unit
  • the toggle rate calculation unit following the signal processing unit is the second toggle rate calculation unit
  • the error detection unit includes When the difference between the first toggle rate and the second toggle rate is greater than the error threshold, the occurrence of an error in the signal processing unit is detected and the signal processing is performed.
  • the occurrence of an error in the unit is detected, the number of stages of the signal processing unit in which the error is detected can be notified.
  • the first toggle rate calculation unit in the forefront stage calculates the toggle rate of the input signal as an input toggle rate, and when the input toggle rate is smaller than a predetermined threshold, the error detection unit
  • the error threshold is set to a second threshold smaller than the first threshold, and for each of the plurality of signal processing units, the difference between the first toggle rate and the second toggle rate is
  • the error threshold is larger, the occurrence of an error in the signal processing unit is detected, and when the occurrence of the error in the signal processing unit is detected, the number of stages of the signal processing unit in which the error is detected is notified. Can do.
  • a plurality of imaging units that capture the image signal may be further included, and each of the plurality of imaging units is provided with a plurality of stages of the signal processing units, and the signal processing units are arranged in a plurality of stages.
  • the toggle rate calculation unit is provided between the signal processing units, and the toggle rate calculation unit in the previous stage of each signal processing unit includes the first toggle rate calculation unit.
  • a rate calculation unit, and the toggle rate calculation unit subsequent to each of the signal processing units is the second toggle rate calculation unit, and the error detection is performed when the input toggle rate is smaller than a predetermined threshold value.
  • the error threshold value is set to a second threshold value smaller than the first threshold value, and the first toggle rate and the second toggle rate are set for each of the plurality of signal processing units.
  • the occurrence of an error in the processing unit is detected, and when the occurrence of an error in the signal processing unit is detected, the number of stages of the signal processing unit in which the error is detected can be notified.
  • a support unit that supports driving by controlling the operation of a driving portion provided in the vehicle, and a display unit that displays the control information of the vehicle are further provided, and the error
  • the support unit may stop driving support in which the operation of the drive portion provided in the vehicle is controlled based on the signal processing result of the signal processing unit. it can.
  • a signal processing method sequentially processes an input signal including a digital signal, calculates a toggle rate of the input signal as a first toggle rate, and performs a toggle rate of the signal processed by the signal processing unit. Calculating a second toggle rate, comparing the difference between the first toggle rate and the second toggle rate with a predetermined threshold, and detecting the occurrence of an error according to the comparison result. It is a signal processing method including.
  • a program includes a signal processing unit that sequentially processes an input signal including a digital signal, a first toggle rate calculation unit that calculates a toggle rate of the input signal as a first toggle rate, and the signal processing.
  • a second toggle rate calculation unit that calculates a toggle rate of the signal processed by the unit as a second toggle rate, a difference between the first toggle rate and the second toggle rate, and a predetermined threshold value
  • a toggle rate of an input signal that is sequentially processed by an input signal including a digital signal is calculated as a first toggle rate, and a toggle rate of the signal-processed signal is calculated as a second toggle rate. Then, the difference between the first toggle rate and the second toggle rate is compared with a predetermined threshold value, and the occurrence of an error is detected according to the comparison result.
  • failure detection of a signal processing device can be realized in real time without using specific calculation target data (depending on a test image) or a calculation parameter that is uniquely set. It becomes.
  • FIG. 11 is a diagram illustrating a configuration example of a general-purpose personal computer. It is a block diagram which shows an example of a schematic structure of a vehicle control system. It is explanatory drawing which shows an example of the installation position of a vehicle exterior information detection part and an imaging part.
  • FIG. 1 illustrates a first configuration example of an in-vehicle camera system to which the signal processing device of the present disclosure is applied.
  • the in-vehicle camera system in FIG. 1 performs signal processing on images captured by image sensors mounted on, for example, a front window, a rear window, and a side window of a vehicle, and steers the vehicle based on the signal processing result. It controls the operation of brakes, lights, etc., and assists in driving the vehicle.
  • an in-vehicle camera system detects an error in signal processing
  • driving assistance based on the signal processing result is stopped and driving assistance by the in-vehicle camera system is stopped for a driver (driver) as a user. It promptly notifies the driver that the vehicle has been operated, and prompts the driver to carry out driving at the will of the driver.
  • the in-vehicle camera system 11 of FIG. 1 includes an image sensor 31, an image processing block 32, and a post-stage LSI 33, and outputs a processing result to the display unit 12.
  • the image sensor 31 is composed of a CMOS (Complementary Metal Oxide Semiconductor) or the like, and takes images in the front, rear, and side directions of the vehicle on which the in-vehicle camera system 11 is mounted.
  • the image is output to the image processing block 32.
  • the number of bits of the pixel signal may be any number other than 16 bits, and may be 12 bits, 10 bits, or the like, but here it is assumed that it is 16 bits as an example. Shall proceed.
  • the image processing block 32 performs signal processing on an image composed of 16-bit pixel signals picked up by the image sensor 31 and outputs a signal processing result to the post-stage LSI 33.
  • the image processing block 32 processes a 16-bit pixel signal and outputs it as a 16-bit pixel signal.
  • a 16-bit pixel signal is output.
  • the signal may be processed and output as a pixel signal of another bit number such as 12 bits or 20 bits.
  • the image processing block 32 includes toggle rate calculation units 51-0 to 51-4, signal processing units 52-1 to 52-4, and a determination unit 53.
  • the toggle rate calculation unit 51-0 calculates an average toggle rate for each frame for each of the 16-bit pixel signals constituting the image that is the input signal of the previous stage of the signal processing unit 52-1, and determines the determination unit 53. To supply.
  • the toggle rate is an activation rate that changes from 0 to 1 and 1 to 0 in each bit of the pixel signal. If this toggle rate is equal to or higher than a predetermined rate, an input image is This is a natural image. That is, in the case of an image composed entirely of black pixels, for example, since the values of each bit of the pixel signal are the same in the raster scan order, the average toggle rate of each bit constituting the pixel signal is substantially zero. Become.
  • the toggle rate calculation units 51-1 to 51-4 basically perform the same processing as the toggle rate calculation unit 51-0, but the subsequent stages of the signal processing units 52-1 to 52-4. Calculate the toggle rate.
  • toggle rate calculation units 51-0 to 51-4 and the signal processing units 52-1 to 52-4 are simply different from the toggle rate calculation unit 51 and the signal processing unit 52, respectively, when it is not necessary to distinguish between them. Shall be called.
  • the toggle rate calculation unit 51-0 is provided in the preceding stage of the signal processing unit 52-1, and is hereinafter also referred to as a 0th stage toggle rate calculation unit 51.
  • the signal processing units 52-1 to 52-4 are also referred to as first to fourth stage signal processing units 52, respectively, and the toggle rate calculation units 51-1 to 51-4 are respectively referred to as first to fourth stages. It is also referred to as a first to fourth-stage toggle rate calculation unit 51 subsequent to the fourth-stage signal processing unit 52.
  • the toggle rate calculation unit 51-0 reads each pixel signal in the input image, for example, in raster scan order, calculates the toggle rate of each 16-bit pixel signal, and sets the average as the average toggle rate. calculate.
  • the toggle rate calculation unit 51 calculates the toggle rate of each bit.
  • the time-series changes of the 16-bit pixel signals indicated by bit [15] to bit [0] from the top are shown in synchronization with the clock signal at the lowest stage, and 5 clocks worth are shown.
  • the toggle rate is shown.
  • bit [2] the change from 0 to 1 is 2 times, and the change from 1 to 0 is 3 times in total, so the toggle rate is 60%, and bit [1] ], The change from 0 to 1 is 2 times, and the change from 1 to 0 is 3 times in total, so the toggle rate is 100%. Since the change from 1 to 3 is 3 times and the change from 1 to 0 is 2 times in total, the toggle rate is 100%.
  • the toggle rate here is the ratio of the number of times that the value of each bit (each digit) changes to a predetermined number of clocks.
  • the toggle rate since a digital signal composed of binary data is targeted, the number of changes in the value of each bit with respect to a predetermined number of clocks, that is, the ratio of the number of changes in the value of each digit is the toggle rate. Therefore, even for binary data, that is, a digital signal using an expression other than a binary number, the ratio of the number of times the numerical value changes in each digit with respect to a predetermined number of clocks can be defined as a toggle rate.
  • the toggle rate calculation unit 51 calculates the average value of 16 bits, which is one frame of the 16-bit toggle rate thus obtained, as the average toggle rate.
  • the determination unit 53 Based on the toggle rate supplied from the toggle rate calculation units 51-0 to 51-4, the determination unit 53 generates an error due to a failure or the like in any of the signal processing units 52-1 to 52-4. It is determined whether it is present, and the determination result is notified to the subsequent LSI 33.
  • the rear stage LSI (Large Scale Integrated Circuit) 33 controls the operation of the steering, brakes, lights, etc. of the vehicle (not shown) based on the image processing result (signal processing result) of the image processing block 32 to drive the driver. In addition to providing support, information corresponding to the signal processing result is output and displayed on the display unit 12 including an instrument panel or the like.
  • the latter LSI 33 Using the processing results, operations such as steering, brakes, and lights of a vehicle (not shown) are controlled to stop the driver's driving support, and the fact is displayed on the display unit 12 so that the driver can recognize it.
  • the signal processing units 52-1 to 52-4 function normally. Can be regarded as doing. Conversely, when an error occurs in any of the signal processing units 52-1 to 52-4, the average toggle rate in the signal processing units 52-1 to 52-4 changes greatly. For example, when the subsequent image signal becomes an image of the same color such as a black image, the average toggle rate in the signal processing units 52-1 to 52-4 in the subsequent stages is a value close to almost zero. It will not change.
  • the determination unit 53 determines which signal by comparing the average toggle rate, which is the calculation result of the toggle rate calculation units 51-0 to 51-4, with each of the preceding stage and the subsequent stage of the signal processing units 52-1 to 52-4.
  • the processing unit 52 identifies whether a failure has occurred and an error has occurred. If an error has occurred, the information is output to the subsequent LSI 33.
  • the toggle rate of the toggle rate calculation unit 51-0 is the same as that when the input image itself is abnormal, that is, when the entire image is a black image, for example. Change cannot be expected, and there is a possibility that the occurrence of an abnormality cannot be detected. Therefore, in such a case, the determination unit 53 regards that no abnormality has occurred regardless of the comparison result of the toggle rates before and after the signal processing units 52-1 to 52-4. That is, in this case, the input image is abnormal and is not regarded as an abnormality of the signal processing units 52-1 to 52-4.
  • step S11 the determination unit 53 initializes a counter N that distinguishes the number of stages of the toggle rate calculation unit 51-N and the signal processing unit 52-N to 0. Since the 0th stage does not exist in the signal processing unit 52, when the counter N is 0, only the toggle rate calculation unit 51-0 is set.
  • the N-th stage toggle rate calculation unit 51-N calculates an average toggle rate (N) of all the bits of each pixel signal for one frame made of the input image, and determines the determination unit 53. And sequentially output the pixel signals of the input image to the signal processing unit 52-1. That is, here, the average toggle rate (0) of the image for one frame before the signal processing with respect to the input image is calculated. More specifically, the average toggle rate of the first bit in the pixel signal of each pixel in the raster scan order, the average toggle rate of the second bit,..., The average toggle rate of the 16th bit are obtained. The average of the average toggle rate is calculated as the average toggle rate (0) for one frame of the input image.
  • step S13 the determination unit 53 determines whether the average toggle rate (0) is higher than a predetermined threshold th0. That is, here, the threshold value th0 varies between the pixels of the input image, and is any error image having a substantially uniform pixel value over the entire image, such as a black image or a gray image, input by this processing? It is determined whether or not.
  • step S13 when the average toggle rate (0) is higher than the predetermined threshold th0 and a normal image has been supplied, the process proceeds to step S14.
  • step S ⁇ b> 14 the determination unit 53 sets a threshold th ⁇ b> 1 for detecting an abnormality in the difference before and after the signal processing unit 52 of the subsequent average toggle rate in the subsequent stage as a normal threshold.
  • the threshold value th1 set here is preferably set to an appropriate value according to the characteristics of the pixel signal to be processed. That is, if the threshold value th1 is unnecessarily too high, even if an error occurs, it becomes difficult to detect the error appropriately. Conversely, if the threshold value th1 is too low, the error may not be caused and may be erroneously detected. It is desirable to take a method of setting a statistically appropriate value.
  • step S13 an error image having an average toggle rate (0) smaller than the predetermined threshold th0 and an input image having substantially uniform pixel values over the entire image such as a black image or a gray image has been input. If it is considered, the process proceeds to step S15.
  • step S15 the determination unit 53 sets a threshold value th1 for detecting an abnormality in the difference between the subsequent average toggle rate of the subsequent signal processing unit 52 and a value sufficiently lower than the normal threshold value. That is, since there is a high possibility that the input image is an error image, there is a possibility that a similar image will be input thereafter, and the average toggle rate before and after the subsequent signal processing units 52-1 to 52-4 ( N) Since there is a possibility that the signal processing units 52-1 to 52-4 are not abnormal even in a state where there is no change, even if the threshold th1 is sufficiently small and there is no change, there is no abnormality To be considered.
  • step S16 the determination unit 53 increments the counter N that distinguishes the number of stages of the toggle rate calculation unit 51-N and the signal processing unit 52-N by one.
  • step S17 the N-th stage signal processing unit 52-N executes the N-th stage signal processing and outputs the signal to the subsequent-stage toggle rate calculation unit 51-N.
  • step S18 the toggle rate calculation unit 51-N calculates an average toggle rate (N) of all bits for one frame in the signal processing result of the N-th stage signal processing unit 52-N, and Output.
  • step S19 the determination unit 53 determines that the absolute value of the difference between the average toggle rate (N) at the subsequent stage and the average toggle rate (N ⁇ 1) at the previous stage is the predetermined threshold th1. It is judged whether it is larger than.
  • step S19 for example, the difference absolute value between the average toggle rate (N ⁇ 1) and the average toggle rate (N) is larger than the predetermined threshold th1, and the average toggle rate has a large change, and the Nth stage signal If it is determined that there is an error in the processing unit 52-N, the process proceeds to step S20.
  • step S20 the determination unit 53 stores that an error has occurred in the N-th stage signal processing unit 52-N.
  • step S20 when it is determined that there is no error in the eye signal processing unit 52-N, the process of step S20 is skipped.
  • step S21 the determination unit 53 determines whether the counter N for distinguishing between the toggle rate calculation unit 51-N and the signal processing unit 52-N is 4, that is, whether or not there is an error in all four signal processing units 52. Confirm whether or not. If the counter N is not 4 in step S21, the process returns to step S16, and it is confirmed whether or not an error has occurred until the counter N reaches 4, that is, all of the signal processing units 52-1 to 52-4. Steps S16 to S21 are repeated until it is done.
  • step S22 it is confirmed whether or not an error has occurred in all of the signal processing units 52-1 to 52-4, and when the counter N is considered to be 4, the process proceeds to step S22.
  • step S22 the determination unit 53 determines whether or not an error has occurred in the signal processing units 52-1 to 52-4. If an error has occurred, the process proceeds to step S23.
  • step S23 the determination unit 53 outputs information specifying the signal processing unit 52 in which an error has occurred to the subsequent LSI 33.
  • the post-stage LSI 33 displays information specifying the signal processing unit 52 on the display unit 12 together with information indicating that an error has occurred, and the process proceeds to step S24.
  • step S24 the post-stage LSI 33 stops driving support by controlling the operations of the steering, brakes, lights, etc. of the vehicle (not shown) using the processing results of the signal processing units 52-1 to 52-4. This is displayed on the display unit 12 so that the driver can recognize it, and the process proceeds to step S25.
  • step S22 determines whether error has occurred. If it is determined in step S22 that no error has occurred, the process proceeds to step S26.
  • step S26 the determination unit 53 determines whether the threshold th1 is set to be smaller than normal, that is, whether an error in the input image has occurred.
  • the process proceeds to step S24.
  • the input image is a black image or the like, it cannot be determined whether an error or the like has occurred in the signal processing units 52-1 to 52-4, but the signal processing units 52-1 to 52-52. Since the driving support using the signal processing result of -4 may not be executed properly, only the driving support is stopped, and only that effect is displayed on the display unit 12.
  • step S26 when the threshold th1 is not set to be smaller than normal and is in a normal state where processing can be appropriately performed, the processing proceeds to step S25.
  • the latter-stage LSI 33 performs processing based on the signal processing results of the signal processing units 52-1 to 52-4.
  • the driver's driving assistance is continued by controlling the operations of the steering, brakes, and lights of the vehicle not shown.
  • step S25 the determination unit 53 determines whether or not there is an input of the next image, that is, the next frame. If there is an input of the next frame, the process returns to step S11, and the subsequent processes Is repeated. If there is no next frame input in step S25, the process ends.
  • the average toggle rate (0) calculated by the toggle rate calculation unit 51-0 in the previous stage of the signal processing unit 52-1 is time-series from the top.
  • the normal threshold is set as the threshold th1.
  • the average toggle rate (4) in the latter stage of the signal processing unit 52-4 which is the fourth stage shown in FIG. 2, for example, changes to 13%, 14%, and 13% in time series. In such a case, it is considered that a normal signal processing result is output, and no error is detected.
  • the toggle rate (0) at the 0th stage changes to 15%, 14%, and 15% in time series
  • the toggle rate (1) at the 1st stage Changes to 14%, 12%, and 14% in time series
  • the second stage toggle rate (2) changes to 13%, 11%, and 13% in time series
  • the rate (3) has changed to 12%, 10%, and 1% in time series
  • the fourth-stage toggle rate (4) has changed to 12%, 10%, and 1% in time series
  • an error occurs in the signal processing unit 52-3, so that the average toggle rate also decreases in the signal processing unit 52-4.
  • the signal processing unit 52-3 is notified that an error has occurred, and the signal processing result is not used thereafter. It becomes a state.
  • the average toggle rate (0) in the input image is substantially 0, and of course, the average toggle rate (N ⁇ 1) and the average toggle rate ( N) is also substantially 0. In this case, even if an error or the like occurs in any of the signal processing units 52-1 to 52-4, the occurrence of the error or the like cannot be confirmed.
  • the driving support by controlling the operation of the vehicle steering (not shown), brakes, lights, etc. based on the signal processing result is stopped, and the fact is displayed on the display unit 12 so that it can be recognized by the driver.
  • This process makes it possible for the driver to recognize that the function that supports driving corresponding to the image has stopped, and to appropriately recognize that he has to focus on driving. Since the function to support is lost, it is possible to reduce the occurrence of accidents caused by the driver's consciousness of driving being lowered.
  • the threshold value th1 is set as the same value for all the signal processing units 52-N has been described, but different values depending on the respective functions of the signal processing unit 52-N. You may make it set to.
  • the threshold th1 is set to an appropriate value depending on the function of the signal processing unit 52-N. Is desirable.
  • the threshold th1 may also be set individually.
  • kN is a block specific coefficient.
  • the function and characteristics of the signal processing unit 52-N are obtained by multiplying the threshold th1 by the block specific coefficient kN according to the N-th signal processing unit 52-N.
  • the threshold value th11 corresponding to the corrected threshold value th1 is set.
  • the failure detection of the image processing apparatus can be realized in units of the signal processing unit in real time without using specific calculation target data (depending on the test image) or uniquely set calculation parameters. Is possible.
  • the basic configuration of the in-vehicle camera system that obtains the average toggle rate for each bit and detects the occurrence of an error in the bit unit of the signal processing unit 52-N is the same as in FIG. Since there is, the description will be omitted.
  • the toggle rate calculation units 51-0 to 51-4 calculate the average toggle rate for each bit of the image signal and supply it to the determination unit 53.
  • the determination unit 53 uses the toggle rate calculation units 51-0 to 51-4 to calculate the average toggle rate for each bit of the image signal, and the error of the signal processing units 52-1 to 52-4 in units of bits. The presence or absence of is detected.
  • step S51 the determination unit 53 initializes the counter N that distinguishes the number of stages of the toggle rate calculation unit 51-N and the signal processing unit 52-N and the counter M that distinguishes the bit position in the pixel signal to 0. Since the 0th stage does not exist in the signal processing unit 52, only the toggle rate calculation unit 51-0 is set here.
  • step S53 the determination unit 53 determines whether or not the average toggle rate (N, M) is higher than a predetermined threshold thM0. In step S53, if the average toggle rate (0, M) of the Mth bit is higher than the predetermined threshold thM0 and a normal image has been supplied, the process proceeds to step S54.
  • step S54 the determination unit 53 sets the threshold thM1 for detecting an error in the difference before and after the signal processing unit 52 of the average toggle rate at the subsequent stage of the M-th bit and the subsequent stage as a normal threshold.
  • step S53 if it is determined in step S53 that the average toggle rate (0, M) of the Mth bit is smaller than the predetermined threshold thM0 and an error image has been input, the process proceeds to step S55.
  • step S55 the determination unit 53 sets a threshold thM1 for detecting an error in the difference before and after the signal processing unit 52 of the average toggle rate of the subsequent M-th bit in the subsequent stage to a value sufficiently lower than the normal threshold. . That is, since there is a high possibility that the input image is an error image, there is a possibility that a similar image will be input thereafter, and the average toggle rate before and after the subsequent signal processing units 52-1 to 52-4 ( Even if there is no change in (N, M), there is a possibility that it is not an error in the signal processing units 52-1 to 52-4. Therefore, even if the threshold thM 1 is sufficiently small and there is no change It shall be regarded as not.
  • step S56 the determination unit 53 determines whether or not the counter M for distinguishing bit positions is 15. That is, it is determined whether or not the threshold value thM1 has been set for all bits. If the threshold value thM1 has not been set for all bits, the process proceeds to step S57.
  • step S57 the determination unit 53 increments the counter M for distinguishing bit positions by 1, and the process returns to step S52.
  • steps S52 to S56 is repeated for each bit until the threshold thM1 is set. If the threshold value thM1 is set for all bits in step S56, the process proceeds to step S58.
  • the threshold thM1 set for each bit is preferably set to an appropriate value according to the bit position, and for example, an appropriate value is preferably set based on statistical processing or the like.
  • step S58 the determination unit 53 initializes a counter M for distinguishing bit positions to zero.
  • step S59 the determination unit 53 increments the counter N that distinguishes the number of stages of the toggle rate calculation unit 51-N and the signal processing unit 52-N by one.
  • step S60 the N-th stage signal processing unit 52-N executes the N-th stage signal processing and outputs the signal to the subsequent-stage toggle rate calculation unit 51-N.
  • step S61 the toggle rate calculation unit 51-N calculates an average toggle rate (N, M) of the M-th bit for one frame in the signal processing result of the N-th stage signal processing unit 52-N, and determines To the unit 53.
  • step S62 the determination unit 53 calculates the difference between the average toggle rate (N, M) at the subsequent stage and the average toggle rate (N-1, M) at the previous stage from the signal processing unit 52-N at the N-th stage. It is determined whether or not the absolute difference value is greater than a predetermined threshold thM1.
  • step S62 for example, the absolute value of the difference between the average toggle rate (N ⁇ 1, M) and the average toggle rate (N, M) is greater than a predetermined threshold thM1, and the average toggle rate has changed greatly. If it is determined that an error has occurred in the Mth bit of the signal processing unit 52-N in the stage, the process proceeds to step S63.
  • step S63 the determination unit 53 stores that an error has occurred in the Mth bit of the N-th stage signal processing unit 52-N.
  • step S62 for example, the difference absolute value between the average toggle rate (N ⁇ 1) and the average toggle rate (N) is smaller than the predetermined threshold thM1, the average toggle rate is not significantly changed, and the Nth stage If it is determined that no error has occurred in the M-th bit of the signal processing unit 52-N, the process of step S63 is skipped.
  • step S64 the determination unit 53 determines whether or not the counter M for distinguishing bit positions is 15, that is, whether or not there is an error for all bits, and whether or not there is an error for all bits. If it is not determined, the process proceeds to step S65.
  • step S65 the determination unit 53 increments the counter M by 1, and the process returns to step S61.
  • steps S60 to S65 are repeated until it is determined whether or not there is an error for all the bits of the N-th stage signal processing unit 52-N.
  • the determination unit 53 determines whether or not there is an error for all the bits in the N-th stage, and then the process proceeds to step S66.
  • step S66 the determination unit 53 determines whether the counter N for distinguishing between the toggle rate calculation unit 51-N and the signal processing unit 52-N is 4, that is, whether or not there is an error in all four signal processing units 52. Confirm whether or not. If the counter N is not 4 in step S66, the process returns to step S59, and it is determined whether or not an error has occurred over all the bits of the signal processing units 52-1 to 52-4 until the counter N becomes 4. Until it is confirmed, the processes in steps S59 to S66 are repeated.
  • step S66 it is confirmed whether or not all bits of error have occurred in all the signal processing units 52-1 to 52-4, and if the counter N is considered to be 4, the process proceeds to step S67. move on.
  • step S67 the determination unit 53 determines whether or not an error has occurred for each bit of the signal processing units 52-1 to 52-4. If an error has occurred, the process proceeds to step S68.
  • step S68 the determination unit 53 outputs information specifying the bit position of the signal processing unit 52 in which an error has occurred to the subsequent LSI 33.
  • the post-stage LSI 33 displays information specifying the signal processing unit 52 on the display unit 12 together with information indicating that an error has occurred, and the process proceeds to step S69.
  • step S69 the latter-stage LSI 33 stops driving support by controlling the operations of the steering, brakes, lights, etc. of the vehicle (not shown) using the processing results of the signal processing units 52-1 to 52-4. Is displayed on the display unit 12 so that it can be recognized by the driver, and the process proceeds to step S70.
  • step S67 if it is determined in step S67 that no error has occurred, the process proceeds to step S71.
  • step S71 the determination unit 53 determines whether or not the threshold thM1 is set to be smaller than normal, that is, whether or not an error has occurred in the input image.
  • step S71 when the threshold thM1 is set to be smaller than normal, and the input image is, for example, a black image, and appropriate image processing is difficult, the process proceeds to step S69.
  • the input image is a black image or the like, it cannot be determined whether an error or the like has occurred in the signal processing units 52-1 to 52-4, but the signal processing units 52-1 to 52-52. Since the driving support using the signal processing result of -4 may not be executed properly, only the driving support is stopped, and only that effect is displayed on the display unit 12.
  • step S71 when the threshold thM1 is not set to be smaller than normal and is in a normal state where processing can be appropriately performed, the processing proceeds to step S70.
  • the latter stage LSI 33 is based on the signal processing result of each bit of the signal processing units 52-1 to 52-4.
  • the operation of the steering, brakes, lights, etc. of the vehicle (not shown) is controlled, and the driving assistance of the driver is continued.
  • step S70 the determination unit 53 determines whether or not there is an input of the next image, that is, the next frame. If there is an input of the next frame, the process returns to step S51, and the subsequent processes Is repeated. In step S70, if there is no next frame input, the process ends.
  • the upper 3 bits calculated by the toggle rate calculation unit 51-0 in the previous stage of the signal processing unit 52-1 (The average toggle rate (0, M) is 5%, 5%, 6%, 8%, 8% from the top in the figure for each bit of 3 bits from the MSB and the lower 5 bits (5 bits from the LSB) It has been 13%, 14%, and 15%. In such a case, it is considered that a normal image has been input, and a normal threshold is set as the threshold thM1.
  • the threshold thM1 at the bit position close to the MSB is set to be lower as the average toggle rate becomes smaller.
  • the threshold thM1 at the bit position close to the LSB has a high average toggle rate, and thus the threshold value thM1 to be set is also set high.
  • the average toggle rate (3, M) of each bit in the subsequent stage of the third-stage signal processing unit 52-3 is 3%, 5%, 9% from the top in the figure in the case of the left part of FIG. 8%, 7%, 12%, 14%, and 18%.
  • the average toggle rate (4, M) of each bit in the subsequent stage of the signal processing unit 52-4 in the fourth stage is 4%, 4%, 6% from the top in the figure in the upper left part of FIG. 7%, 7%, 14%, 11%, and 20%.
  • the average toggle rate for the lower second bit position (M 1) in the subsequent stage of the third stage signal processing unit 52-3. (3, 1) is 0%, and thereafter, the average toggle rate (4, 1) is 0% for the lower second bit position of the fourth-stage signal processing unit 52-4.
  • the average toggle rate (4, 13) is 0% for the upper 13th bit after the fourth stage signal processing unit 52-4. Yes.
  • the upper 3 calculated by the toggle rate calculation unit 51-0 in the preceding stage of the signal processing unit 52-1.
  • the average toggle rate (0, M) is 0%, 0%, 1%, 0%, 1%, 1%, 0%, and 1%.
  • the threshold thM1 is set to a value sufficiently lower than the normal threshold.
  • the average toggle rate (3, M) of each bit in the subsequent stage of the third-stage signal processing unit 52-3 is 1%, 0%, 1% from the top in the figure in the case of the left part of FIG. 0%, 1%, 1%, 0%, and 1%.
  • the average toggle rate (4, M) of each bit in the subsequent stage of the fourth stage signal processing unit 52-4 is 0%, 0%, 0% from the top in the figure in the case of the left part of FIG. 1%, 0%, 1%, 0%, and 1%.
  • a predetermined threshold thM1 having a sufficiently small difference in the average toggle rate is set, and it is considered that no error occurs.
  • the average toggle rate for the lower second bit position (M 1) in the subsequent stage of the third stage signal processing unit 52-3. (3, 1) is 0%, and thereafter, the average toggle rate (4, 1) is 0% for the lower second bit position of the fourth-stage signal processing unit 52-4.
  • the average toggle rate (4, 13) is 0% for the upper 13th bit after the fourth stage signal processing unit 52-4. Yes.
  • a block specific coefficient kN may be set and multiplied by the threshold thM1.
  • the threshold thM11 in which the threshold thM1 is corrected for each bit according to the individual characteristics of the signal processing unit 52-N, the signal processing unit 52-N The presence or absence of a failure for each bit can be detected with higher accuracy.
  • Second embodiment >> In the above, an example in which the image sensor is a single in-vehicle camera system using a so-called monocular image has been described. For example, by using two in-vehicle camera systems to capture a stereo image, You may be allowed to support driving using stereo images, and when it is considered that an error has occurred in one of the images, stereo support cannot be obtained, so driving support is stopped. In addition, the driver may be notified of the occurrence of an error (abnormality).
  • FIG. 8 shows a configuration example of the in-vehicle stereo camera system 101 using the image sensor 31 and the image processing block 32 of the in-vehicle camera system 11 of FIG. 1 for the right eye image and the left eye image, respectively. is there.
  • Each component corresponding to the in-vehicle camera system 11 of FIG. 1 for the left eye is denoted by “ ⁇ 2”. For this reason, those descriptions are omitted as appropriate.
  • the in-vehicle stereo camera system 101 in FIG. 8 is different from the in-vehicle camera system 11 in FIG. 1 in that the image sensors 31-1, 31-2 and the image processing blocks 32-1, 32-2 are 1 Number of post-stage LSIs 33 are provided, and the image processing blocks 32-1 and 32-2 supply the fourth stage average toggle rate, which is the final stage, to the post-stage LSI 33, and further, a toggle information comparison unit 121 is provided. This is the point.
  • the toggle information comparison unit 121 compares the error determination processing results from the left and right image processing blocks 32-1 and 32-2 and the toggle rate, and at least one of them has an error or the average toggle rate of both. If there is a difference greater than or equal to a predetermined value, it is considered that either the left or right image or both images cannot be used, and driving support by controlling the steering, brake, and light operations of the vehicle (not shown) is stopped, and There is a difference between the error locations of the camera systems 11-1 and 11-2 or the average toggle rate of the left and right images, and the fact that some kind of error has occurred is output to the display unit 12 and displayed.
  • step S101 the image sensor 31-1 and the image processing block 32-1 corresponding to the right-eye vehicle-mounted camera system execute a right camera error determination process, and display the determination result and the information of each average toggle rate.
  • the data is output to the subsequent LSI 33.
  • the right camera error determination process the error determination process described with reference to the flowchart of FIG. 3 or FIG. 5 is executed on the image for the right eye. To do.
  • the determination unit 53-1 of the image processing block 32-1 outputs the average toggle rate for all bits or the average toggle rate for each bit as the fourth-stage average toggle rate.
  • step S102 the image sensor 31-2 and the image processing block 32-2 corresponding to the left-eye in-vehicle camera system execute the left camera error determination process, and display the determination result and the information of each average toggle rate.
  • the data is output to the subsequent LSI 33.
  • the left camera error determination process the error determination process described with reference to the flowchart of FIG. 3 or FIG. 5 is executed on the image for the left eye, and the description thereof will be omitted. To do.
  • the determination unit 53-2 of the image processing block 32-2 outputs the average toggle rate for all bits or the average toggle rate for each bit as the fourth-stage average toggle rate.
  • step S103 the post-stage LSI 33 determines whether an error has been detected in at least one of the left and right camera error determination processing.
  • step S104 the post-stage LSI 33 stops driving support based on the camera image, and the position of the signal processing unit 52 where the error has occurred in the display unit 12 (and the bit position: error determination in the flowchart of FIG. 5).
  • the information about the driving assistance is discontinued and the driving support is discontinued.
  • step S103 If no error is detected in any of the left and right images in step S103, the process proceeds to step S105.
  • step S105 the latter-stage LSI 33 controls the toggle information comparison unit 121 to determine whether or not the difference absolute value of the left and right average toggle rates is larger than a predetermined threshold value and that there is a difference between the left and right.
  • step S105 when it is determined that the difference absolute value of the left and right average toggle rates is larger than the predetermined threshold and a difference occurs between the left and right, the process proceeds to step S106.
  • step S106 the post-stage LSI 33 stops driving support based on the camera image, displays a difference between the left and right images on the display unit 12, and displays that the driving support cannot be performed properly. Show that it has been censored.
  • the processing of the flowchart of FIG. 3 there is a left-right shift in any of the first to fourth signal processing units 52, or the processing of the flowchart of FIG. In the field, information indicating which bit of the signal processing unit 52 in the first to fourth stages has a left / right shift is displayed.
  • step S105 when the difference absolute value of the left and right average toggle rates is lower than a predetermined threshold, it is assumed that normal processing is realized, and the processing in steps S104 and S106 is skipped.
  • the target of signal processing is an image signal
  • other signals may be used as long as signal processing is possible, and signal processing such as audio signals and optical signals can be performed. Any configuration can be used.
  • an error of a signal processing unit is detected using an average toggle rate of each bit or all bits as an image signal to be signal processed as binary data.
  • it may be used for digital data of each digit expressed in hexadecimal. That is, in the above example, when there is a change in the value of each digit in the binary number of the binary data, that is, when there is a change in the value of each bit, each digit within the time defined by the predetermined number of clocks.
  • the ratio of the number of changes is the toggle rate.
  • the signal processing unit calculates the toggle rate as the ratio of the number of changes of each digit within the time defined by the predetermined number of clocks. It may be determined whether or not it is operating normally.
  • the example in which the signal processing unit 52 has a four-stage configuration in series has been described. However, even if the number of stages is less than that, the number of stages is more than that. May be.
  • the signal processing unit 52 may be configured in a plurality of stages in parallel, or the processing result of one signal processing unit 52 may be processed by the plurality of signal processing units 52.
  • the toggle rate is calculated at the front stage and the rear stage of the signal processing unit 52, and whether or not an error has occurred in each of the signal processing units 52 depending on whether or not there is a large change in the comparison between the two. It may be determined whether or not.
  • FIG. 10 shows a configuration example of a general-purpose personal computer.
  • This personal computer incorporates a CPU (Central Processing Unit) 1001.
  • An input / output interface 1005 is connected to the CPU 1001 via a bus 1004.
  • a ROM (Read Only Memory) 1002 and a RAM (Random Access Memory) 1003 are connected to the bus 1004.
  • the input / output interface 1005 includes an input unit 1006 including an input device such as a keyboard and a mouse for a user to input an operation command, an output unit 1007 for outputting a processing operation screen and an image of the processing result to a display device, programs, and various types.
  • a storage unit 1008 including a hard disk drive for storing data, a LAN (Local Area Network) adapter, and the like are connected to a communication unit 1009 that executes communication processing via a network represented by the Internet.
  • magnetic disks including flexible disks
  • optical disks including CD-ROM (Compact Disc-Read Only Memory), DVD (Digital Versatile Disc)), magneto-optical disks (including MD (Mini Disc)), or semiconductors
  • a drive 1010 for reading / writing data from / to a removable medium 1011 such as a memory is connected.
  • the CPU 1001 is read from a program stored in the ROM 1002 or a removable medium 1011 such as a magnetic disk, an optical disk, a magneto-optical disk, or a semiconductor memory, installed in the storage unit 1008, and loaded from the storage unit 1008 to the RAM 1003. Various processes are executed according to the program.
  • the RAM 1003 also appropriately stores data necessary for the CPU 1001 to execute various processes.
  • the CPU 1001 loads the program stored in the storage unit 1008 to the RAM 1003 via the input / output interface 1005 and the bus 1004 and executes the program, for example. Is performed.
  • the program executed by the computer (CPU 1001) can be provided by being recorded on the removable medium 1011 as a package medium, for example.
  • the program can be provided via a wired or wireless transmission medium such as a local area network, the Internet, or digital satellite broadcasting.
  • the program can be installed in the storage unit 1008 via the input / output interface 1005 by attaching the removable medium 1011 to the drive 1010. Further, the program can be received by the communication unit 1009 via a wired or wireless transmission medium and installed in the storage unit 1008. In addition, the program can be installed in advance in the ROM 1002 or the storage unit 1008.
  • the program executed by the computer may be a program that is processed in time series in the order described in this specification, or in parallel or at a necessary timing such as when a call is made. It may be a program for processing.
  • the system means a set of a plurality of components (devices, modules (parts), etc.), and it does not matter whether all the components are in the same housing. Accordingly, a plurality of devices housed in separate housings and connected via a network and a single device housing a plurality of modules in one housing are all systems. .
  • the present disclosure can take a cloud computing configuration in which one function is shared by a plurality of devices via a network and is processed jointly.
  • each step described in the above flowchart can be executed by one device or can be shared by a plurality of devices.
  • the plurality of processes included in the one step can be executed by being shared by a plurality of apparatuses in addition to being executed by one apparatus.
  • Second application example The technology according to the present disclosure can be applied to various products.
  • the technology according to the present disclosure may be any type of movement such as an automobile, an electric vehicle, a hybrid electric vehicle, a motorcycle, a bicycle, personal mobility, an airplane, a drone, a ship, a robot, a construction machine, and an agricultural machine (tractor). You may implement
  • FIG. 11 is a block diagram illustrating a schematic configuration example of a vehicle control system 7000 that is an example of a mobile control system to which the technology according to the present disclosure can be applied.
  • the vehicle control system 7000 includes a plurality of electronic control units connected via a communication network 7010.
  • the vehicle control system 7000 includes a drive system control unit 7100, a body system control unit 7200, a battery control unit 7300, an outside information detection unit 7400, an in-vehicle information detection unit 7500, and an integrated control unit 7600. .
  • the communication network 7010 for connecting the plurality of control units conforms to an arbitrary standard such as CAN (Controller Area Network), LIN (Local Interconnect Network), LAN (Local Area Network), or FlexRay (registered trademark). It may be an in-vehicle communication network.
  • Each control unit includes a microcomputer that performs arithmetic processing according to various programs, a storage unit that stores programs executed by the microcomputer or parameters used for various calculations, and a drive circuit that drives various devices to be controlled. Is provided.
  • Each control unit includes a network I / F for communicating with other control units via a communication network 7010, and is connected to devices or sensors inside and outside the vehicle by wired communication or wireless communication. A communication I / F for performing communication is provided. In FIG.
  • control unit 7600 As a functional configuration of the integrated control unit 7600, a microcomputer 7610, a general-purpose communication I / F 7620, a dedicated communication I / F 7630, a positioning unit 7640, a beacon receiving unit 7650, an in-vehicle device I / F 7660, an audio image output unit 7670, An in-vehicle network I / F 7680 and a storage unit 7690 are illustrated.
  • other control units include a microcomputer, a communication I / F, a storage unit, and the like.
  • the drive system control unit 7100 controls the operation of the device related to the drive system of the vehicle according to various programs.
  • the drive system control unit 7100 includes a driving force generator for generating a driving force of a vehicle such as an internal combustion engine or a driving motor, a driving force transmission mechanism for transmitting the driving force to wheels, and a steering angle of the vehicle. It functions as a control device such as a steering mechanism that adjusts and a braking device that generates a braking force of the vehicle.
  • the drive system control unit 7100 may have a function as a control device such as ABS (Antilock Brake System) or ESC (Electronic Stability Control).
  • a vehicle state detection unit 7110 is connected to the drive system control unit 7100.
  • the vehicle state detection unit 7110 includes, for example, a gyro sensor that detects the angular velocity of the rotational movement of the vehicle body, an acceleration sensor that detects the acceleration of the vehicle, an operation amount of an accelerator pedal, an operation amount of a brake pedal, and steering of a steering wheel. At least one of sensors for detecting an angle, an engine speed, a rotational speed of a wheel, or the like is included.
  • the drive system control unit 7100 performs arithmetic processing using a signal input from the vehicle state detection unit 7110, and controls an internal combustion engine, a drive motor, an electric power steering device, a brake device, or the like.
  • the body system control unit 7200 controls the operation of various devices mounted on the vehicle body according to various programs.
  • the body system control unit 7200 functions as a keyless entry system, a smart key system, a power window device, or a control device for various lamps such as a headlamp, a back lamp, a brake lamp, a blinker, or a fog lamp.
  • the body control unit 7200 can be input with radio waves or various switch signals transmitted from a portable device that substitutes for a key.
  • the body system control unit 7200 receives input of these radio waves or signals, and controls a door lock device, a power window device, a lamp, and the like of the vehicle.
  • the battery control unit 7300 controls the secondary battery 7310 that is a power supply source of the drive motor according to various programs. For example, information such as battery temperature, battery output voltage, or remaining battery capacity is input to the battery control unit 7300 from a battery device including the secondary battery 7310. The battery control unit 7300 performs arithmetic processing using these signals, and controls the temperature adjustment of the secondary battery 7310 or the cooling device provided in the battery device.
  • the outside information detection unit 7400 detects information outside the vehicle on which the vehicle control system 7000 is mounted.
  • the outside information detection unit 7400 is connected to at least one of the imaging unit 7410 and the outside information detection unit 7420.
  • the imaging unit 7410 includes at least one of a ToF (Time Of Flight) camera, a stereo camera, a monocular camera, an infrared camera, and other cameras.
  • the outside information detection unit 7420 detects, for example, current weather or an environmental sensor for detecting weather, or other vehicles, obstacles, pedestrians, etc. around the vehicle equipped with the vehicle control system 7000. At least one of the surrounding information detection sensors.
  • the environmental sensor may be, for example, at least one of a raindrop sensor that detects rainy weather, a fog sensor that detects fog, a sunshine sensor that detects sunlight intensity, and a snow sensor that detects snowfall.
  • the ambient information detection sensor may be at least one of an ultrasonic sensor, a radar device, and a LIDAR (Light Detection and Ranging, Laser Imaging Detection and Ranging) device.
  • the imaging unit 7410 and the outside information detection unit 7420 may be provided as independent sensors or devices, or may be provided as a device in which a plurality of sensors or devices are integrated.
  • FIG. 12 shows an example of installation positions of the imaging unit 7410 and the vehicle outside information detection unit 7420.
  • the imaging units 7910, 7912, 7914, 7916, and 7918 are provided at, for example, at least one of the front nose, the side mirror, the rear bumper, the back door, and the upper part of the windshield in the vehicle interior of the vehicle 7900.
  • An imaging unit 7910 provided in the front nose and an imaging unit 7918 provided in the upper part of the windshield in the vehicle interior mainly acquire an image in front of the vehicle 7900.
  • Imaging units 7912 and 7914 provided in the side mirror mainly acquire an image of the side of the vehicle 7900.
  • An imaging unit 7916 provided in the rear bumper or the back door mainly acquires an image behind the vehicle 7900.
  • the imaging unit 7918 provided on the upper part of the windshield in the passenger compartment is mainly used for detecting a preceding vehicle or a pedestrian, an obstacle, a traffic light, a traffic sign, a lane, or
  • FIG. 12 shows an example of shooting ranges of the respective imaging units 7910, 7912, 7914, and 7916.
  • the imaging range a indicates the imaging range of the imaging unit 7910 provided in the front nose
  • the imaging ranges b and c indicate the imaging ranges of the imaging units 7912 and 7914 provided in the side mirrors, respectively
  • the imaging range d The imaging range of the imaging part 7916 provided in the rear bumper or the back door is shown. For example, by superimposing the image data captured by the imaging units 7910, 7912, 7914, and 7916, an overhead image when the vehicle 7900 is viewed from above is obtained.
  • the vehicle outside information detection units 7920, 7922, 7924, 7926, 7928, and 7930 provided on the front, rear, sides, corners of the vehicle 7900 and the upper part of the windshield in the vehicle interior may be, for example, an ultrasonic sensor or a radar device.
  • the vehicle outside information detection units 7920, 7926, and 7930 provided on the front nose, the rear bumper, the back door, and the windshield in the vehicle interior of the vehicle 7900 may be, for example, LIDAR devices.
  • These outside information detection units 7920 to 7930 are mainly used for detecting a preceding vehicle, a pedestrian, an obstacle, and the like.
  • the vehicle exterior information detection unit 7400 causes the imaging unit 7410 to capture an image outside the vehicle and receives the captured image data. Further, the vehicle exterior information detection unit 7400 receives detection information from the vehicle exterior information detection unit 7420 connected thereto.
  • the vehicle exterior information detection unit 7420 is an ultrasonic sensor, a radar device, or a LIDAR device
  • the vehicle exterior information detection unit 7400 transmits ultrasonic waves, electromagnetic waves, or the like, and receives received reflected wave information.
  • the outside information detection unit 7400 may perform an object detection process or a distance detection process such as a person, a car, an obstacle, a sign, or a character on a road surface based on the received information.
  • the vehicle exterior information detection unit 7400 may perform environment recognition processing for recognizing rainfall, fog, road surface conditions, or the like based on the received information.
  • the vehicle outside information detection unit 7400 may calculate a distance to an object outside the vehicle based on the received information.
  • the outside information detection unit 7400 may perform image recognition processing or distance detection processing for recognizing a person, a car, an obstacle, a sign, a character on a road surface, or the like based on the received image data.
  • the vehicle exterior information detection unit 7400 performs processing such as distortion correction or alignment on the received image data, and combines the image data captured by the different imaging units 7410 to generate an overhead image or a panoramic image. Also good.
  • the vehicle exterior information detection unit 7400 may perform viewpoint conversion processing using image data captured by different imaging units 7410.
  • the vehicle interior information detection unit 7500 detects vehicle interior information.
  • a driver state detection unit 7510 that detects the driver's state is connected to the in-vehicle information detection unit 7500.
  • Driver state detection unit 7510 may include a camera that captures an image of the driver, a biosensor that detects biometric information of the driver, a microphone that collects sound in the passenger compartment, and the like.
  • the biometric sensor is provided, for example, on a seat surface or a steering wheel, and detects biometric information of an occupant sitting on the seat or a driver holding the steering wheel.
  • the vehicle interior information detection unit 7500 may calculate the degree of fatigue or concentration of the driver based on the detection information input from the driver state detection unit 7510, and determines whether the driver is asleep. May be.
  • the vehicle interior information detection unit 7500 may perform a process such as a noise canceling process on the collected audio signal.
  • the integrated control unit 7600 controls the overall operation in the vehicle control system 7000 according to various programs.
  • An input unit 7800 is connected to the integrated control unit 7600.
  • the input unit 7800 is realized by a device that can be input by a passenger, such as a touch panel, a button, a microphone, a switch, or a lever.
  • the integrated control unit 7600 may be input with data obtained by recognizing voice input through a microphone.
  • the input unit 7800 may be, for example, a remote control device using infrared rays or other radio waves, or may be an external connection device such as a mobile phone or a PDA (Personal Digital Assistant) that supports the operation of the vehicle control system 7000. May be.
  • the input unit 7800 may be, for example, a camera.
  • the passenger can input information using a gesture.
  • data obtained by detecting the movement of the wearable device worn by the passenger may be input.
  • the input unit 7800 may include, for example, an input control circuit that generates an input signal based on information input by a passenger or the like using the input unit 7800 and outputs the input signal to the integrated control unit 7600.
  • a passenger or the like operates the input unit 7800 to input various data or instruct a processing operation to the vehicle control system 7000.
  • the storage unit 7690 may include a ROM (Read Only Memory) that stores various programs executed by the microcomputer, and a RAM (Random Access Memory) that stores various parameters, calculation results, sensor values, and the like.
  • the storage unit 7690 may be realized by a magnetic storage device such as an HDD (Hard Disc Drive), a semiconductor storage device, an optical storage device, a magneto-optical storage device, or the like.
  • General-purpose communication I / F 7620 is a general-purpose communication I / F that mediates communication with various devices existing in the external environment 7750.
  • General-purpose communication I / F7620 is a cellular communication protocol such as GSM (Global System of Mobile communications), WiMAX, LTE (Long Term Evolution) or LTE-A (LTE-Advanced), or wireless LAN (Wi-Fi (registered trademark)). Other wireless communication protocols such as Bluetooth (registered trademark) may also be implemented.
  • the general-purpose communication I / F 7620 is connected to a device (for example, an application server or a control server) existing on an external network (for example, the Internet, a cloud network, or an operator-specific network) via, for example, a base station or an access point.
  • the general-purpose communication I / F 7620 is a terminal (for example, a driver, a pedestrian or a store terminal, or an MTC (Machine Type Communication) terminal) that exists in the vicinity of the vehicle using, for example, P2P (Peer To Peer) technology. You may connect with.
  • a terminal for example, a driver, a pedestrian or a store terminal, or an MTC (Machine Type Communication) terminal
  • P2P Peer To Peer
  • the dedicated communication I / F 7630 is a communication I / F that supports a communication protocol formulated for use in vehicles.
  • the dedicated communication I / F 7630 is a standard protocol such as WAVE (Wireless Access in Vehicle Environment), DSRC (Dedicated Short Range Communications), or cellular communication protocol, which is a combination of the lower layer IEEE 802.11p and the upper layer IEEE 1609. May be implemented.
  • the dedicated communication I / F 7630 typically includes vehicle-to-vehicle communication, vehicle-to-infrastructure communication, vehicle-to-home communication, and vehicle-to-pedestrian communication. ) Perform V2X communication, which is a concept that includes one or more of the communications.
  • the positioning unit 7640 receives, for example, a GNSS signal from a GNSS (Global Navigation Satellite System) satellite (for example, a GPS signal from a GPS (Global Positioning System) satellite), performs positioning, and performs latitude, longitude, and altitude of the vehicle.
  • the position information including is generated.
  • the positioning unit 7640 may specify the current position by exchanging signals with the wireless access point, or may acquire position information from a terminal such as a mobile phone, PHS, or smartphone having a positioning function.
  • the beacon receiving unit 7650 receives, for example, radio waves or electromagnetic waves transmitted from a radio station installed on the road, and acquires information such as the current position, traffic jam, closed road, or required time. Note that the function of the beacon receiving unit 7650 may be included in the dedicated communication I / F 7630 described above.
  • the in-vehicle device I / F 7660 is a communication interface that mediates the connection between the microcomputer 7610 and various in-vehicle devices 7760 present in the vehicle.
  • the in-vehicle device I / F 7660 may establish a wireless connection using a wireless communication protocol such as a wireless LAN, Bluetooth (registered trademark), NFC (Near Field Communication), or WUSB (Wireless USB).
  • the in-vehicle device I / F 7660 is connected to a USB (Universal Serial Bus), HDMI (High-Definition Multimedia Interface), or MHL (Mobile High-definition Link) via a connection terminal (and a cable if necessary). ) Etc. may be established.
  • the in-vehicle device 7760 may include, for example, at least one of a mobile device or a wearable device that a passenger has, or an information device that is carried into or attached to the vehicle.
  • In-vehicle device 7760 may include a navigation device that searches for a route to an arbitrary destination.
  • In-vehicle device I / F 7660 exchanges control signals or data signals with these in-vehicle devices 7760.
  • the in-vehicle network I / F 7680 is an interface that mediates communication between the microcomputer 7610 and the communication network 7010.
  • the in-vehicle network I / F 7680 transmits and receives signals and the like in accordance with a predetermined protocol supported by the communication network 7010.
  • the microcomputer 7610 of the integrated control unit 7600 is connected via at least one of a general-purpose communication I / F 7620, a dedicated communication I / F 7630, a positioning unit 7640, a beacon receiving unit 7650, an in-vehicle device I / F 7660, and an in-vehicle network I / F 7680.
  • the vehicle control system 7000 is controlled according to various programs based on the acquired information. For example, the microcomputer 7610 calculates a control target value of the driving force generation device, the steering mechanism, or the braking device based on the acquired information inside and outside the vehicle, and outputs a control command to the drive system control unit 7100. Also good.
  • the microcomputer 7610 realizes ADAS (Advanced Driver Assistance System) functions including vehicle collision avoidance or impact mitigation, following traveling based on inter-vehicle distance, vehicle speed maintaining traveling, vehicle collision warning, or vehicle lane departure warning. You may perform the cooperative control for the purpose. Further, the microcomputer 7610 controls the driving force generator, the steering mechanism, the braking device, or the like based on the acquired information on the surroundings of the vehicle, so that the microcomputer 7610 automatically travels independently of the driver's operation. You may perform the cooperative control for the purpose of driving.
  • ADAS Advanced Driver Assistance System
  • the microcomputer 7610 is information acquired via at least one of the general-purpose communication I / F 7620, the dedicated communication I / F 7630, the positioning unit 7640, the beacon receiving unit 7650, the in-vehicle device I / F 7660, and the in-vehicle network I / F 7680.
  • the three-dimensional distance information between the vehicle and the surrounding structure or an object such as a person may be generated based on the above and local map information including the peripheral information of the current position of the vehicle may be created.
  • the microcomputer 7610 may generate a warning signal by predicting a danger such as a collision of a vehicle, approach of a pedestrian or the like or an approach to a closed road based on the acquired information.
  • the warning signal may be, for example, a signal for generating a warning sound or lighting a warning lamp.
  • the audio image output unit 7670 transmits an output signal of at least one of audio and image to an output device capable of visually or audibly notifying information to a vehicle occupant or the outside of the vehicle.
  • an audio speaker 7710, a display unit 7720, and an instrument panel 7730 are illustrated as output devices.
  • Display unit 7720 may include at least one of an on-board display and a head-up display, for example.
  • the display portion 7720 may have an AR (Augmented Reality) display function.
  • the output device may be other devices such as headphones, wearable devices such as glasses-type displays worn by passengers, projectors, and lamps.
  • the display device can display the results obtained by various processes performed by the microcomputer 7610 or information received from other control units in various formats such as text, images, tables, and graphs. Display visually. Further, when the output device is an audio output device, the audio output device converts an audio signal made up of reproduced audio data or acoustic data into an analog signal and outputs it aurally.
  • At least two control units connected via the communication network 7010 may be integrated as one control unit.
  • each control unit may be configured by a plurality of control units.
  • the vehicle control system 7000 may include another control unit not shown.
  • some or all of the functions of any of the control units may be given to other control units. That is, as long as information is transmitted and received via the communication network 7010, the predetermined arithmetic processing may be performed by any one of the control units.
  • a sensor or device connected to one of the control units may be connected to another control unit, and a plurality of control units may transmit / receive detection information to / from each other via the communication network 7010. .
  • a computer program for realizing each function of the image processing block 32 according to the present embodiment described with reference to FIG. 1 can be installed in any control unit or the like. It is also possible to provide a computer-readable recording medium in which such a computer program is stored.
  • the recording medium is, for example, a magnetic disk, an optical disk, a magneto-optical disk, a flash memory, or the like. Further, the above computer program may be distributed via a network, for example, without using a recording medium.
  • the image processing block 32 can be applied to the integrated control unit 7600 of the application example illustrated in FIG.
  • the toggle rate calculation units 51-0 to 51-4, the signal processing units 52-1 to 52-4, and the determination unit 53 of the image processing block 32 are the microcomputer 7610, the storage unit 7690, the in-vehicle network of the integrated control unit 7600. It corresponds to I / F7680.
  • the integrated control unit 7600 can detect the occurrence of an error in the N-th stage signal processing unit 52-N by obtaining the average toggle rate of all bits of the image signal.
  • the integrated control unit 7600 realizes driving assistance using images, it detects the occurrence of an error in real time, suppresses the occurrence of malfunction in driving assistance, and the driving assistance has stopped for the driver. Can be appropriately presented.
  • the components of the image processing block 32 described with reference to FIG. 1 is a module for the integrated control unit 7600 shown in FIG. 11 (for example, an integrated circuit module including one die). It may be realized. Alternatively, the image processing block 32 described with reference to FIG. 1 may be realized by a plurality of control units of the vehicle control system 7000 illustrated in FIG.
  • this indication can also take the following structures.
  • a signal processing unit that sequentially processes an input signal composed of a digital signal;
  • a first toggle rate calculator that calculates the toggle rate of the input signal as the first toggle rate;
  • a second toggle rate calculation unit that calculates a toggle rate of the signal processed by the signal processing unit as a second toggle rate;
  • a signal processing apparatus comprising: an error detection unit that compares a difference between the first toggle rate and the second toggle rate with a predetermined threshold and detects occurrence of an error according to the comparison result.
  • Each of the first toggle rate calculation unit and the second toggle rate calculation unit has a ratio of the number of times that the numerical value of each digit of the digital signal changes with respect to a predetermined number of clocks.
  • the signal processing device wherein an average of the digits is calculated as the toggle rate.
  • the input signal is an image signal composed of binary data, Each of the first toggle rate calculation unit and the second toggle rate calculation unit calculates the average value of the toggle rate for each bit for one frame, the average toggle rate of the previous stage of the signal processing unit, and the subsequent stage.
  • the signal processing apparatus according to ⁇ 1> or ⁇ 2>.
  • the input signal is an image signal composed of binary data, Each of the first toggle rate calculation unit and the second toggle rate calculation unit calculates the average value of the toggle rate of each bit for one frame, and further calculates the average value of all the bits thereof.
  • the signal processing device according to any one of ⁇ 1> to ⁇ 3>, which is calculated as an average toggle rate at a front stage and an average toggle rate at a rear stage of the signal processing unit.
  • the input signal is an image signal composed of binary data
  • the error detection unit detects occurrence of an error in the signal processing unit when a difference between the first toggle rate and the second toggle rate is larger than an error threshold value including a first threshold value ⁇ 1 > To ⁇ 4>.
  • the signal processing units are connected in series to a plurality of stages, and further, a toggle rate calculation unit is provided between the signal processing units, and the signal processing units are arranged in front of the signal processing units.
  • the toggle rate calculation unit is the first toggle rate calculation unit, and the toggle rate calculation unit subsequent to each signal processing unit is the second toggle rate calculation unit,
  • the error detection unit generates an error in the signal processing unit when a difference between the first toggle rate and the second toggle rate is larger than the error threshold for each of the plurality of signal processing units.
  • the number of stages of the signal processing unit in which the error is detected is notified. ⁇ 5>.
  • the first toggle rate calculation unit in the forefront stage calculates a toggle rate of the input signal as an input toggle rate, When the input toggle rate is smaller than a predetermined threshold, the error detection unit sets the error threshold to a second threshold smaller than the first threshold, and each of the plurality of signal processing units When the difference between the first toggle rate and the second toggle rate is greater than the error threshold, the occurrence of an error in the signal processing unit is detected, and the occurrence of an error in the signal processing unit is detected.
  • the signal processing device according to ⁇ 6>, wherein the number of stages of the signal processing unit in which the error is detected is notified.
  • ⁇ 8> Further includes a plurality of imaging units that capture the image signal, Each of the plurality of imaging units is provided with a plurality of stages of the signal processing units, The signal processing units are connected in series in a plurality of stages, and further, the toggle rate calculation unit is provided between each of the signal processing units, and the toggle rate of the previous stage of each of the signal processing units
  • the calculation unit is the first toggle rate calculation unit
  • the toggle rate calculation unit subsequent to each signal processing unit is the second toggle rate calculation unit
  • the signal processing device according to ⁇ 6>, wherein the number of stages of the signal processing unit is notified.
  • a support unit that assists driving by controlling the operation of the drive portion provided in the vehicle;
  • a display unit for displaying control information of the vehicle, When an error is detected by the error detection unit, the support unit stops driving support that controls the operation of the drive portion provided in the vehicle based on the signal processing result of the signal processing unit.
  • a signal processing method including a step of comparing a difference between the first toggle rate and the second toggle rate with a predetermined threshold and detecting occurrence of an error according to the comparison result.
  • a signal processing unit that sequentially processes an input signal including a digital signal;
  • a first toggle rate calculator that calculates the toggle rate of the input signal as the first toggle rate;
  • a second toggle rate calculation unit that calculates a toggle rate of the signal processed by the signal processing unit as a second toggle rate; Comparing a difference between the first toggle rate and the second toggle rate with a predetermined threshold value, and causing the computer to function as an error detection unit that detects the occurrence of an error according to the comparison result program.

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Physics & Mathematics (AREA)
  • Quality & Reliability (AREA)
  • Computer Hardware Design (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Discrete Mathematics (AREA)
  • Multimedia (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)
  • Retry When Errors Occur (AREA)
  • Studio Devices (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

本開示は、信号処理を停止することなく故障検出することができるようにする信号処理装置、および信号処理方法、並びにプログラムに関する。 信号処理部の前段と後段との信号のトグル率を計算し、その差分が所定の閾値よりも大きい場合、信号処理部に故障に起因するエラーが発生しているものとみなす。本開示は、車両の運転支援装置に適用することができる。

Description

信号処理装置、および信号処理方法、並びにプログラム
 本開示は、信号処理装置、および信号処理方法、並びにプログラムに関し、特に、信号処理を停止することなく故障検出できるようにした信号処理装置、および信号処理方法、並びにプログラムに関する。
 画像信号、および音声信号等を含む信号の処理を行う複数の信号処理部からなる信号処理装置において、いずれかの信号処理部において、故障が発生しているか否かを検出するには、一般的に、信号処理を停止して、テストパターンなどの既知の信号を処理させて、既知の処理結果が出力されるか否かに基づいて判断する必要があった。
 より具体的には、一般的に、信号処理を継続動作する回路において故障を判別するには、一旦画像出力を止めてテストパターンを流し、予め作成している期待値と比較することで故障の有無を検出する技術が提案されている(特許文献1参照)。
 また、ブランク期間中にテスト画像を挿入し、期待値と比較することで故障の有無を検出する技術が提案されている(特許文献2参照)。
特開2009-246803号公報 特開2009-111546号公報
 しかしながら、特許文献1,2の技術においては、いったん信号処理を停止させたうえで故障を検出する必要があった。
 また、全ての故障を検出するには全回路を活性化させる必要があるが、そのためには多くのテスト画像や、パラメータを用意してテスト実行しなければできないにも関わらず、従来においては、特定の演算対象データ(テスト画像に依存)や、一意に設定した演算パラメータで活性化する一部の回路の故障の有無を検出することしかできなかった。
 本開示は、このような状況に鑑みてなされたものであり、特に、リアルタイムで、かつ、特定の演算対象データ(テスト画像に依存)や、一意に設定した演算パラメータを用いることなく、信号処理装置の故障検出を実現できるようにするものである。
 本開示の一側面の信号処理装置は、デジタル信号からなる入力信号を順次処理する信号処理部と、入力信号のトグル率を第1のトグル率として計算する第1のトグル率計算部と、前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算する第2のトグル率計算部と、前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するエラー検出部とを含む信号処理装置である。
 前記第1のトグル率計算部、および前記第2のトグル率計算部には、いずれも、所定のクロック数に対する、前記デジタル信号の各桁の数値の変化する回数の割合の、全ての前記桁の平均を前記トグル率として計算させるようにすることができる。
 前記入力信号は、バイナリデータからなる画像信号とすることができ、前記第1のトグル率計算部、および前記第2のトグル率計算部には、いずれも、1フレーム分のビット毎のトグル率の平均値を、前記信号処理部の前段の平均トグル率、および後段の平均トグル率として計算させるようにすることができる。
 前記入力信号は、バイナリデータからなる画像信号とすることができ、前記第1のトグル率計算部、および前記第2のトグル率計算部には、いずれも、1フレーム分の各ビットのトグル率の平均値を計算させ、さらに、それらの全ビットの平均値を、前記信号処理部の前段の平均トグル率、および後段の平均トグル率として計算させるようにすることができる。
 前記入力信号は、バイナリデータからなる画像信号とすることができ、前記エラー検出部には、前記第1のトグル率と、前記第2のトグル率との差分が、第1の閾値からなるエラー閾値より大きい場合、前記信号処理部のエラーの発生を検出させる。
 前記信号処理部には、複数段にシリーズに接続されており、さらに、それぞれの前記信号処理部の間にトグル率計算部が設けられており、それぞれの前記信号処理部の前段の前記トグル率計算部が、前記第1のトグル率計算部であり、それぞれの前記信号処理部の後段の前記トグル率計算部が、前記第2のトグル率計算部であり、前記エラー検出部には、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きい場合、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知させるようにすることができる。
 最前段の前記第1のトグル率計算部には、前記入力信号のトグル率を入力トグル率として計算し、前記入力トグル率が、所定の閾値よりも小さい場合、前記エラー検出部には、前記エラー閾値を、前記第1の閾値よりも小さな第2の閾値に設定させ、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きいとき、前記信号処理部のエラーの発生を検出させ、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知させるようにすることができる。
 前記画像信号を撮像する複数の撮像部をさらに含ませるようにすることができ、前記複数の前記撮像部のそれぞれに複数段の前記信号処理部が設けられ、前記信号処理部は、複数段にシリーズに接続されており、さらに、それぞれの前記信号処理部の間に前記トグル率計算部が設けられており、それぞれの前記信号処理部の前段の前記トグル率計算部が、前記第1のトグル率計算部であり、それぞれの前記信号処理部の後段の前記トグル率計算部が、前記第2のトグル率計算部であり、前記入力トグル率が、所定の閾値よりも小さい場合、前記エラー検出部には、前記エラー閾値を、前記第1の閾値よりも小さな第2の閾値に設定させ、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きいとき、並びに、前記撮像部のそれぞれについて、前記複数の前記信号処理部のうち、最終段の、前記第2のトグル率間の差分が所定の閾値よりも大きいとき、前記信号処理部のエラーの発生を検出させ、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知させるようにすることができる。
 前記信号処理部の信号処理結果に基づいて、車両に設けられる駆動部分の動作を制御して運転を支援する支援部と、前記車両の制御情報を表示する表示部とがさらに設けられ、前記エラー検出部によりエラーが検出された場合、前記支援部には、前記信号処理部の信号処理結果に基づいた、車両に設けられる駆動部分の動作を制御した運転の支援を停止させるようにすることができる。
 本技術の一側面の信号処理方法は、デジタル信号からなる入力信号を順次処理し、入力信号のトグル率を第1のトグル率として計算し、前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算し、前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するステップを含む信号処理方法である。
 本技術の一側面のプログラムは、デジタル信号からなる入力信号を順次処理する信号処理部と、入力信号のトグル率を第1のトグル率として計算する第1のトグル率計算部と、前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算する第2のトグル率計算部と、前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するエラー検出部としてコンピュータを機能させるためのプログラム。
 本開示の一側面においては、デジタル信号からなる入力信号により順次処理する、入力信号のトグル率が第1のトグル率として計算され、信号処理された信号のトグル率が第2のトグル率として計算され、前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生が検出される。
 本開示の一側面によれば、リアルタイムで、かつ、特定の演算対象データ(テスト画像に依存)や、一意に設定した演算パラメータを用いることなく、信号処理装置の故障検出を実現することが可能となる。
本開示を適用した車載カメラシステムの構成例を示す図である。 全ビットの平均トグル率を説明する図である。 図1の車載カメラシステムにおけるエラー判定処理を説明するフローチャートである。 図1の車載カメラシステムにおけるエラー判定処理を説明する図である。 図1の車載カメラシステムにおけるその他のエラー判定処理を説明するフローチャートである。 図5のフローチャートによるエラー判定処理を説明する図である。 図5のフローチャートによるエラー判定処理を説明する図である。 本開示を適用した車載ステレオカメラシステムの構成例を示す図である。 図8の車載ステレオカメラシステムにおけるエラー判定処理を説明するフローチャートである。 汎用のパーソナルコンピュータの構成例を説明する図である。 車両制御システムの概略的な構成の一例を示すブロック図である。 車外情報検出部及び撮像部の設置位置の一例を示す説明図である。
 以下に添付図面を参照しながら、本開示の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
 また、以下の順序で説明を行う。
  1.第1の実施の形態
  2.変形例
  3.第2の実施の形態
  4.第1の応用例
  5.第2の応用例
 <<1.第1の実施の形態>>
 <本開示の信号処理装置を適用した車載カメラシステムの第1の構成例>
 図1は、本開示の信号処理装置を適用した車載カメラシステムの第1の構成例を示している。
 図1の車載カメラシステムは、例えば、車両のフロントウィンドウ、リアウィンドウ、およびサイドウィンドウ等のそれぞれに搭載されるイメージセンサにより撮像された画像を信号処理し、信号処理結果に基づいて、車両のステアリング、ブレーキ、およびライト等の動作を制御し、車両の運転を支援するものである。
 しかしながら、車載カメラシステムが、故障等により信号処理結果に何らかのエラーが発生するような場合、そのような信号処理結果に基づいて、ステアリング、ブレーキ、およびライト等を制御すると、車両の挙動に危険な状況を生じさせる恐れがある。
 そこで、車載カメラシステムは、信号処理におけるエラーを検出した場合には、信号処理結果に基づいた運転の支援を停止させると共に、ユーザであるドライバ(運転者)に車載カメラシステムによる運転の支援が停止されたことを速やかに通知して、ドライバの意志による運転を実施するように促すものである。
 より詳細には、図1の車載カメラシステム11は、イメージセンサ31、画像処理ブロック32、後段LSI33を備えており、処理結果を表示部12に出力する。
 イメージセンサ31は、CMOS(Complementary Metal Oxide Semiconductor)などからなり、車載カメラシステム11が搭載された車両の前方、後方、および側面方向の画像を撮像し、例えば、16ビットの画素信号からなる画像を画像処理ブロック32に出力する。尚、画素信号のビット数については、16ビット以外のビット数でもよいものであり、12ビットや10ビット等であってもよいものであるが、ここでは、一例として16ビットであるものとして説明を進めるものとする。
 画像処理ブロック32は、イメージセンサ31により撮像された16ビットの画素信号からなる画像を信号処理し、信号処理結果を後段LSI33に出力する。尚、ここでは、画像処理ブロック32が、16ビットの画素信号を信号処理して、やはり16ビットの画素信号として出力する例について説明するものとするが、これは一例であり、16ビットの画素信号を信号処理して、12ビットや20ビットなど、他のビット数の画素信号として出力するようにしてもよいものである。
 画像処理ブロック32は、トグル率計算部51-0乃至51-4、信号処理部52-1乃至52-4、および判定部53を備えている。
 トグル率計算部51-0は、信号処理部52-1の前段の入力信号である画像を構成する16ビットからなる画素信号のそれぞれについて、1フレーム毎の平均トグル率を計算し、判定部53に供給する。
 ここで、トグル率とは、画素信号の各ビットにおける0から1、および1から0へと変化する活性化率であり、このトグル率が所定の割合以上であれば、入力されてくる画像は自然画像であることを示すものである。すなわち、全面が黒画素からなる画像などの場合、例えば、ラスタスキャン順に画素信号の各ビットの値は、いずれも同じであるから、画素信号を構成する各ビットの平均トグル率は、略ゼロとなる。
 また、トグル率計算部51-1乃至51-4は、基本的にトグル率計算部51-0と同様の処理をするものであるが、信号処理部52-1乃至52-4のそれぞれの後段のトグル率を計算する。
 尚、トグル率計算部51-0乃至51-4、および信号処理部52-1乃至52-4は、それぞれ特に区別する必要がない場合、単に、トグル率計算部51、および信号処理部52と称するものとする。
 また、トグル率計算部51-0は、信号処理部52-1の前段に設けられたものであり、以降においては、第0段のトグル率計算部51とも称するものとする。さらに、信号処理部52-1乃至52-4は、それぞれ第1段乃至第4段の信号処理部52とも称するものとし、トグル率計算部51-1乃至51-4は、それぞれ第1段乃至第4段の信号処理部52の後段の第1段乃至第4段のトグル率計算部51とも称する。
 より詳細には、トグル率計算部51-0は、入力画像における各画素信号を、例えば、ラスタスキャン順に読み出し、16ビットのそれぞれの画素信号のトグル率を計算し、その平均を平均トグル率として計算する。
 より具体的には、例えば、図2で示されるような16ビットの画素信号が、ラスタスキャン順に読み出されると、トグル率計算部51は、各ビットのトグル率を計算する。図2においては、最下段のクロック信号に同期して、上からbit[15]乃至bit[0]で示される16ビット分の画素信号の時系列の変化が示されており、5クロック分のトグル率が示されている。
 図2においては、例えば、16ビット目の信号となるbit[15]については、0から1への変化が1回であるので、トグル率計算部51は、20%であり、bit[14]については、0から1への変化が1回であり、1から0への変化が1回の合計2回であるので、トグル率は、40%である。
 また、bit[2]については、0から1への変化が2回であり、1から0への変化が1回の合計3回であるので、トグル率は、60%であり、bit[1]については、0から1への変化が2回であり、1から0への変化が3回の合計5回であるので、トグル率は、100%であり、bit[0]については、0から1への変化が3回であり、1から0への変化が2回の合計5回であるので、トグル率は、100%である。
 すなわち、ここでいうトグル率は、所定のクロック数に対する、各ビット(各桁)の数値が変化する回数の割合である。尚、ここでは、バイナリデータからなるデジタル信号を対象としているので、所定クロック数に対する各ビットの数値の変化の回数、すなわち、各桁の数値の変化の回数の割合がトグル率となる。したがって、バイナリデータ、すなわち、2進数以外の表現を用いたデジタル信号に対しても、所定のクロック数に対する、各桁における数値の変化の回数の割合をトグル率として定義することができる。
 トグル率計算部51は、このように求められた16ビット分のトグル率の1フレーム分であって、かつ、16ビット分の平均値を平均トグル率として算出する。
 判定部53は、トグル率計算部51-0乃至51-4より供給されてくるトグル率に基づいて、信号処理部52-1乃至52-4のいずれにおいて故障等に起因するエラーが発生しているのか否かを判定し、判定結果を後段LSI33に通知する。
 後段LSI(Large Scale Integrated circuit)33は、画像処理ブロック32の画像処理結果(信号処理結果)に基づいて、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作を制御してドライバの運転を支援すると共に、信号処理結果に対応する情報をインストルメントパネル等からなる表示部12に出力して表示する。
 より詳細には、画像処理ブロック32より信号処理部52-1乃至52-4のいずれかに異常が発生していることを示す情報が供給されてきた場合、後段LSI33は、画像処理ブロック32の処理結果を利用した、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作を制御してドライバの運転の支援を停止して、その旨をドライバに認識できるように表示部12に表示する。
 すなわち、信号処理部52-1乃至52-4の後段における画像のフレーム単位の平均トグル率は、所定値以上で維持されていれば、信号処理部52-1乃至52-4は、正常に機能しているとみなすことができる。逆に、信号処理部52-1乃至52-4のいずれかでエラーが発生すると、信号処理部52-1乃至52-4における平均トグル率が大きく変化する。例えば、その後段の画像信号が黒画像などの同一色の画像となってしまうような状態になると、後段以降の信号処理部52-1乃至52-4における平均トグル率がほぼ0に近い値で変化しない状態となる。
 そこで、判定部53は、トグル率計算部51-0乃至51-4の計算結果である平均トグル率の、信号処理部52-1乃至52-4の前段および後段のそれぞれの比較により、どの信号処理部52で故障が発生しエラーが生じているのかを特定し、エラーが発生している場合、その情報を後段LSI33に出力する。
 また、トグル率計算部51-0のトグル率は、入力される画像そのものに異常が発生している場合、すなわち、例えば、全体が黒画像であるような場合、以降においてフレーム単位でのトグル率の変化は期待できず、異常の発生を検出できなくなる恐れがある。そこで、このような場合、判定部53は、信号処理部52-1乃至52-4の前後のトグル率の比較結果とは無関係に異常が発生していないものとみなす。すなわち、この場合、入力画像の異常であって、信号処理部52-1乃至52-4の異常とはみなさない。
 <図1の車載カメラシステムによる全ビットの平均トグル率を用いたエラー判定処理>
 次に、図3のフローチャートを参照して、図1の車載カメラシステムによる全ビットの平均トグル率を用いたエラー判定処理について説明する。
 ステップS11において、判定部53は、トグル率計算部51-Nおよび信号処理部52-Nの段数を区別するカウンタNを0に初期化する。尚、信号処理部52には、第0段目は存在しないので、カウンタNが0である場合には、トグル率計算部51-0のみが設定されることになる。
 ステップS12において、第N段のトグル率計算部51-N(51-0)は、入力画像からなる1フレーム分の各画素信号の全ビットの平均トグル率(N)を計算し、判定部53に出力すると共に、入力画像の画素信号を順次信号処理部52-1に出力する。すなわち、ここでは、入力画像に対する信号処理前の1フレーム分の画像の平均トグル率(0)が計算される。より詳細には、ラスタスキャン順の各画素の画素信号における1ビット目の平均トグル率、2ビット目の平均トグル率、・・・16ビット目の平均トグル率が求められ、これらの各ビットの平均トグル率の平均が、入力画像の1フレーム分の平均トグル率(0)として算出される。
 ステップS13において、判定部53は、平均トグル率(0)が所定の閾値th0よりも高いか否かを判定する。すなわち、ここで、閾値th0は、入力画像の各画素間に変化があり、この処理により、黒画像や灰色画像といった画像の全体にわたってほぼ均一な画素値からなる何らかのエラー画像が入力されてきているか否かが判定される。ステップS13において、平均トグル率(0)が所定の閾値th0よりも高く、正常な画像が供給されてきているような場合、処理は、ステップS14に進む。
 ステップS14において、判定部53は、以降の後段の平均トグル率の信号処理部52の前後の差分における異常を検出するための閾値th1を通常閾値に設定する。
 尚、ここで設定される閾値th1については、信号処理される対象の画素信号の特性に応じて、適切な値が設定されることが望ましい。すなわち、閾値th1が不要に高すぎるとエラーが発生してもエラーを適切に検出し難くなり、逆に、低すぎるとエラーを起こしていないのに誤検出してしまうことがあるため、例えば、統計的に適切な値を設定するといった手法を取ることが望ましい。
 一方、ステップS13において、平均トグル率(0)が所定の閾値th0よりも小さく、入力画像が黒画像や灰色画像といった画像の全体にわたってほぼ均一な画素値からなる何らかのエラー画像が入力されてきているとみなされた場合、処理は、ステップS15に進む。
 ステップS15において、判定部53は、以降の後段の平均トグル率の信号処理部52の前後の差分における異常を検出するための閾値th1を通常閾値よりも十分に低い値に設定する。すなわち、入力画像がエラー画像である可能性が高いので、以降において、同様な画像が入力されてくる可能性があり、以降の信号処理部52-1乃至52-4の前後の平均トグル率(N)変化がない状態であっても、信号処理部52-1乃至52-4の異常ではない可能性があるため、閾値th1を十分に小さくして変化がないような場合でも異常ではないものとみなすようにする。
 ステップS16において、判定部53は、トグル率計算部51-Nおよび信号処理部52-Nの段数を区別するカウンタNを1インクリメントする。
 ステップS17において、第N段の信号処理部52-Nは、第N段目の信号処理を実行し、後段のトグル率計算部51-Nに出力する。
 ステップS18において、トグル率計算部51-Nは、第N段目の信号処理部52-Nの信号処理結果における1フレーム分の全ビットの平均トグル率(N)を計算し、判定部53に出力する。
 ステップS19において、判定部53は、第N段目の信号処理部52-Nの後段の平均トグル率(N)と前段の平均トグル率(N-1)との差分絶対値が所定の閾値th1よりも大きいか否かを判定する。
 ステップS19において、例えば、平均トグル率(N-1)と平均トグル率(N)との差分絶対値が所定の閾値th1よりも大きく、平均トグル率に大きな変化があり、第N段目の信号処理部52-Nにエラーがあるとみなされた場合、処理は、ステップS20に進む。
 ステップS20において、判定部53は、第N段目の信号処理部52-Nにエラーが発生していることを記憶する。
 一方、ステップS19において、例えば、平均トグル率(N-1)と平均トグル率(N)との差分絶対値が所定の閾値th1よりも小さく、平均トグル率に大きな変化がない場合、第N段目の信号処理部52-Nにエラーがないとみなされた場合、ステップS20の処理はスキップされる。
 ステップS21において、判定部53は、トグル率計算部51-Nおよび信号処理部52-Nを区別するためのカウンタNが4であるか、すなわち、4段全ての信号処理部52についてエラーの有無を確認したか否かを確認する。ステップS21において、カウンタNが4ではない場合、処理は、ステップS16に戻り、カウンタNが4になるまで、すなわち、信号処理部52-1乃至52-4の全てにわたってエラーの発生の有無が確認されるまで、ステップS16乃至S21の処理が繰り返される。
 そして、信号処理部52-1乃至52-4の全てにわたってエラーの発生の有無が確認され、カウンタNが4であるとみなされた場合、処理は、ステップS22に進む。
 ステップS22において、判定部53は、信号処理部52-1乃至52-4のエラーの発生の有無を判定し、エラーが発生していた場合、処理は、ステップS23に進む。
 ステップS23において、判定部53は、エラーの発生していた信号処理部52を特定する情報を後段LSI33に出力する。
 この処理により、後段LSI33は、エラーが発生していることを示す情報と共に、信号処理部52を特定する情報を表示部12に表示し、処理は、ステップS24に進む。
 ステップS24において、後段LSI33は、信号処理部52-1乃至52-4の処理結果を利用した、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作の制御による運転支援を停止して、その旨をドライバに認識できるように表示部12に表示し、処理は、ステップS25に進む。
 一方、ステップS22において、エラーが発生していないとみなされた場合、処理は、ステップS26に進む。
 ステップS26において、判定部53は、閾値th1が通常より小さく設定されているか、すなわち、入力画像のエラーが発生しているか否かを判定する。ステップS26において、閾値th1が通常より小さく設定されており、入力画像が、例えば、黒画像などであり、適切な画像処理が困難であるとき、処理は、ステップS24に進む。
 すなわち、この場合、入力画像が黒画像などによるものであるので、信号処理部52-1乃至52-4にエラー等が発生しているのかの判断はできないが、信号処理部52-1乃至52-4の信号処理結果を用いた運転支援については、適切に実行できない恐れがあるので、運転支援のみが停止され、その旨のみが表示部12に表示される。
 また、ステップS26において、閾値th1が通常より小さく設定されておらず、適切に処理ができる正常な状態であるとき、処理は、ステップS25に進む。
 すなわち、この場合、入力画像も黒画像などではなく、また、エラーもないものとみなされるので、後段LSI33は、信号処理部52-1乃至52-4のそれぞれの信号処理結果に基づいて、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作を制御してドライバの運転の支援を継続する。
 ステップS25において、判定部53は、次の画像、すなわち、次のフレームの入力があるか否かを判定し、次のフレームの入力がある場合、処理は、ステップS11に戻り、それ以降の処理が繰り返される。そして、ステップS25において、次のフレームの入力がない場合、処理は終了する。
 以上の処理により、例えば、図4の左部で示されるように、信号処理部52-1前段のトグル率計算部51-0により計算される平均トグル率(0)が、時系列に上から15%、14%、および15%と推移しているような場合、正常な画像が入力されているものとみなされて、閾値th1は、通常閾値が設定される。これにより、後段の例えば、図2で示される第4段目となる信号処理部52-4の後段の平均トグル率(4)が、時系列に13%、14%、および13%と推移しているような場合、正常な信号処理結果が出力されているものとみなされエラーは検出されない。
 一方、図4の右部で示されるように、第0段目のトグル率(0)は、時系列に15%、14%、15%と変移し、第1段目のトグル率(1)は、時系列に14%、12%、14%と変移し、第2段目のトグル率(2)は、時系列に13%、11%、13%と変移し、第3段目のトグル率(3)は、時系列に12%、10%、1%と変移し、第4段目のトグル率(4)は、時系列に12%、10%、1%と変移している場合、3番目のタイミングにおいては、信号処理部52-3にエラーが発生することで、信号処理部52-4においても平均トグル率が低下する。
 結果として、このような場合、図4の右側における時系列の3番目のタイミングにおいて、信号処理部52-3にエラーが発生していることが通知されて、以降において、信号処理結果が利用されない状態となる。
 尚、図示しないが、入力画像が黒色画像であるような場合、入力画像における平均トグル率(0)については、略0となり、当然のことながら平均トグル率(N-1)と平均トグル率(N)との差分絶対値も略0となり、この場合、信号処理部52-1乃至52-4のいずれかにおいてエラー等が発生していても、エラー等の発生は確認できないので、この場合の処理については、信号処理結果に基づいた図示せぬ車両のステアリング、ブレーキ、およびライト等の動作の制御による運転支援を中止して、その旨をドライバに認識できるように表示部12に表示する。
 この処理により、ドライバは、画像に対応した運転を支援する機能が停止していることを認識し、自らが運転に注力しなければならないことを適切に認識させることが可能となり、突然、運転を支援する機能がなくなったことで、ドライバの運転に対する意識が低下しているようなことで生じる事故の発生を低減させることが可能となる。
 また、以上の処理においては、閾値th1を、信号処理部52-Nの全てについて同一の値として設定する例について説明してきたが、信号処理部52-Nのそれぞれの機能などに応じて異なる値に設定するようにしてもよい。
 すなわち、信号処理部52-Nは、それぞれ平均トグル率を変化させるような処理を行うこともあるので、閾値th1は、信号処理部52-Nのそれぞれの機能によって適切な値が設定されることが望ましい。
 例えば、特定の信号処理部52が、ゲイン処理の様に掛け算を行うような機能を備えているような場合、他の信号処理部52に対して、平均トグル率が上昇する傾向を示す可能性がある。逆に、例えば、特定の信号処理部52が、明るすぎる画像を暗く調整するような処理では、他の信号処理部52に対して、平均トグル率が下がるような傾向を示す可能性がある。
 従って、信号処理部52-Nの平均トグル率は、処理内容に応じた、それぞれ個別に異なる傾向を示す可能性があるので、閾値th1についても、個別に設定するようにしてもよい。
 例えば、信号処理部52-Nのそれぞれについて、閾値th1に代えて、閾値th11(=閾値th1×kN)が、設定されるようにしてもよい。ここで、kNは、ブロック固有係数であり、例えば、N段目の信号処理部52-Nに応じて、ブロック固有係数kNを閾値th1に乗じることにより、信号処理部52-Nの機能や特性に応じて補正された閾値th1に対応する閾値th11を設定する。このように、信号処理部52-Nの個別の特性に応じて、閾値th1が補正された閾値th11を設定することにより、信号処理部52の故障の有無を、より高精度に検出することができる。
 以上の処理により、リアルタイムで、かつ、特定の演算対象データ(テスト画像に依存)や、一意に設定した演算パラメータを用いることなく、画像処理装置の故障検出を信号処理部の単位で実現することが可能となる。
 また、画像を利用した運転支援を実現する機能を実現するにあたって、リアルタイムでエラーの発生を検出して、運転支援における誤動作の発生を抑制すると共に、ドライバに対して運転支援が停止したことを適切に提示することが可能となる。
 <<2.変形例>>
 以上においては、画像信号の全ビットの平均トグル率が求められて、第N段目の信号処理部52-Nのエラーの発生の有無を検出する例について説明してきたが、ビット毎に平均トグル率を求めて、信号処理部52-Nのビット単位でのエラーの発生の有無を検出し、より高精度なエラー検出を実現するようにしてもよい。
 尚、ビット毎に平均トグル率を求めて、信号処理部52-Nのビット単位でのエラーの発生の有無を検出するようにした車載カメラシステムの基本的な構成については、図1と同様であるので、その説明は省略するものとする。
 ただし、トグル率計算部51-0乃至51-4については、画像信号のビット毎に平均トグル率を計算して判定部53に供給する。判定部53は、トグル率計算部51-0乃至51-4を用いて、画像信号のビット毎の平均トグル率を計算して、ビット単位での信号処理部52-1乃至52-4のエラーの有無を検出する。
 <図1の車載カメラシステムによるビット毎の平均トグル率を用いたエラー判定処理>
 次に、図5のフローチャートを参照して、図1の車載カメラシステムによるビット毎の平均トグル率を用いたエラー判定処理について説明する。
 ステップS51において、判定部53は、トグル率計算部51-Nおよび信号処理部52-Nの段数を区別するカウンタNと、画素信号におけるビット位置を区別するカウンタMとを0に初期化する。尚、信号処理部52には、第0段目は存在しないので、ここでは、トグル率計算部51-0のみが設定されることになる。
 ステップS52において、第N段のトグル率計算部51-N(51-0)は、入力画像からなる1フレーム分の各画素信号のMビット目の平均トグル率(N,M)を計算し、判定部53に出力すると共に、入力画像の画素信号を順次信号処理部52-1に出力する。すなわち、ここでは、入力画像に対する信号処理前の1フレーム分の画像のMビット目の平均トグル率(N,M)(=(0,M))が計算される。
 ステップS53において、判定部53は、平均トグル率(N,M)が所定の閾値thM0よりも高いか否かを判定する。ステップS53において、Mビット目の平均トグル率(0,M)が所定の閾値thM0よりも高く、正常な画像が供給されてきているような場合、処理は、ステップS54に進む。
 ステップS54において、判定部53は、Mビット目の以降の後段の平均トグル率の信号処理部52の前後の差分におけるエラーを検出するための閾値thM1を通常閾値に設定する。
 一方、ステップS53において、Mビット目の平均トグル率(0,M)が所定の閾値thM0よりも小さく、エラー画像が入力されてきているとみなされた場合、処理は、ステップS55に進む。
 ステップS55において、判定部53は、以降の後段のMビット目の平均トグル率の信号処理部52の前後の差分におけるエラーを検出するための閾値thM1を通常閾値よりも十分に低い値に設定する。すなわち、入力画像がエラー画像である可能性が高いので、以降において、同様な画像が入力されてくる可能性があり、以降の信号処理部52-1乃至52-4の前後の平均トグル率(N,M)の変化がない状態であっても、信号処理部52-1乃至52-4のエラーではない可能性があるため、閾値thM1を十分に小さくして変化がないような場合でもエラーではないものとみなすものとする。
 ステップS56において、判定部53は、ビット位置を区別するカウンタMが15になっているか否かを判定する。すなわち、全ビットについて、それぞれ閾値thM1が設定されたか否かを判定し、全てのビットについて、それぞれの閾値thM1が設定されていない場合、処理は、ステップS57に進む。
 ステップS57において、判定部53は、ビット位置を区別するカウンタMを1インクリメントし、処理は、ステップS52に戻る。
 すなわち、各ビットについて、閾値thM1が設定されるまで、ステップS52乃至S56の処理が繰り返される。そして、ステップS56において、全ビットについて、閾値thM1が設定された場合、処理は、ステップS58に進む。
 ここで、各ビットに設定される閾値thM1については、信号処理される対象の画素信号の特性に応じて、適切な値が設定されることが望ましい。さらに、ビット毎に適切な閾値が設定されることが望ましい。すなわち、画素信号は、上位ビット程、平均トグル率が低く、下位ビット程、トグル率が高い。すなわち、上位ビットは、大きな変動がないと変化しないが、下位ビットは、小さな変動の影響を受け易い。このため、各ビットに設定される閾値thM1は、ビット位置に応じて適切な値とすることが望ましく、例えば、統計処理などに基づいて、適切な値が設定されることが望ましい。
 ステップS58において、判定部53は、ビット位置を区別するカウンタMを0に初期化する。
 ステップS59において、判定部53は、トグル率計算部51-Nおよび信号処理部52-Nの段数を区別するカウンタNを1インクリメントする。
 ステップS60において、第N段の信号処理部52-Nは、第N段目の信号処理を実行し、後段のトグル率計算部51-Nに出力する。
 ステップS61において、トグル率計算部51-Nは、第N段目の信号処理部52-Nの信号処理結果における1フレーム分のMビット目の平均トグル率(N,M)を計算し、判定部53に出力する。
 ステップS62において、判定部53は、第N段目のMビット目の信号処理部52-Nの後段の平均トグル率(N,M)と前段の平均トグル率(N-1,M)との差分絶対値が所定の閾値thM1よりも大きいか否かを判定する。
 ステップS62において、例えば、平均トグル率(N-1,M)と平均トグル率(N,M)との差分絶対値が所定の閾値thM1よりも大きく、平均トグル率に大きな変化があり、第N段目の信号処理部52-Nの第Mビット目にエラーが発生しているとみなされた場合、処理は、ステップS63に進む。
 ステップS63において、判定部53は、第N段目の信号処理部52-Nの第Mビット目にエラーが発生していることを記憶する。
 一方、ステップS62において、例えば、平均トグル率(N-1)と平均トグル率(N)との差分絶対値が所定の閾値thM1よりも小さく、平均トグル率に大きな変化がなく、第N段目の信号処理部52-NのMビット目にエラーが発生していないとみなされた場合、ステップS63の処理はスキップされる。
 ステップS64において、判定部53は、ビット位置を区別するためのカウンタMが15であるか、すなわち、全てのビットについてエラーの有無が判定されたか否かを判定し、全てのビットについてエラーの有無が判定されていない場合、処理は、ステップS65に進む。
 ステップS65において、判定部53は、カウンタMを1インクリメントし、処理は、ステップS61に戻る。
 すなわち、第N段目の信号処理部52-Nの全ビットについてエラーの有無が判定されるまで、ステップS60乃至S65の処理が繰り返される。そして、ステップS64において、判定部53は、第N段目の全ビットについてエラーの有無が判定された後、処理は、ステップS66に進む。
 ステップS66において、判定部53は、トグル率計算部51-Nおよび信号処理部52-Nを区別するためのカウンタNが4であるか、すなわち、4段全ての信号処理部52についてエラーの有無を確認したか否かを確認する。ステップS66において、カウンタNが4ではない場合、処理は、ステップS59に戻り、カウンタNが4になるまで、すなわち、信号処理部52-1乃至52-4の全ビットにわたってエラーの発生の有無が確認されるまで、ステップS59乃至S66の処理が繰り返される。
 そして、ステップS66において、信号処理部52-1乃至52-4の全てにわたって、全ビットのエラーの発生の有無が確認され、カウンタNが4であるとみなされた場合、処理は、ステップS67に進む。
 ステップS67において、判定部53は、信号処理部52-1乃至52-4の各ビットについて、エラーの発生の有無を判定し、エラーが発生していた場合、処理は、ステップS68に進む。
 ステップS68において、判定部53は、エラーの発生していた信号処理部52のビット位置を特定する情報を後段LSI33に出力する。
 この処理により、後段LSI33は、エラーが発生していることを示す情報と共に、信号処理部52を特定する情報を表示部12に表示し、処理は、ステップS69に進む。
 ステップS69において、後段LSI33は、信号処理部52-1乃至52-4の処理結果を利用した、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作の制御による運転支援を停止して、その旨をドライバに認識できるように表示部12に表示し、処理は、ステップS70に進む。
 一方、ステップS67において、エラーが発生していないとみなされた場合、処理は、ステップS71に進む。
 ステップS71において、判定部53は、閾値thM1が通常より小さく設定されているか、すなわち、入力画像のエラーが発生しているか否かを判定する。ステップS71において、閾値thM1が通常より小さく設定されており、入力画像が、例えば、黒画像などであり、適切な画像処理が困難であるとき、処理は、ステップS69に進む。
 すなわち、この場合、入力画像が黒画像などによるものであるので、信号処理部52-1乃至52-4にエラー等が発生しているのかの判断はできないが、信号処理部52-1乃至52-4の信号処理結果を用いた運転支援については、適切に実行できない恐れがあるので、運転支援のみが停止され、その旨のみが表示部12に表示される。
 また、ステップS71において、閾値thM1が通常より小さく設定されておらず、適切に処理ができる正常な状態であるとき、処理は、ステップS70に進む。
 すなわち、この場合、入力画像も黒画像などではなく、また、エラーもないものとみなせるので、後段LSI33は、信号処理部52-1乃至52-4のそれぞれの各ビットの信号処理結果に基づいて、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作を制御し、ドライバの運転の支援を継続する。
 ステップS70において、判定部53は、次の画像、すなわち、次のフレームの入力があるか否かを判定し、次のフレームの入力がある場合、処理は、ステップS51に戻り、それ以降の処理が繰り返される。そして、ステップS70において、次のフレームの入力がない場合、処理は終了する。
 以上の処理により、例えば、図6の左部で示されるように、自然画像が入力されている場合、信号処理部52-1前段のトグル率計算部51-0により計算される上位3ビット(MSBから3ビット)と、下位5ビット(LSBから5ビット)の各ビットについて、平均トグル率(0,M)が、図中上から5%、5%、6%、8%、8%、13%、14%、および15%と推移している。このような場合、正常な画像が入力されているものとみなされて、閾値thM1は、通常閾値が設定される。
 ここで、MSBに近いビット位置における閾値thM1は、平均トグル率が小さくなることにより、設定される閾値thM1も低めに設定される。これに対して、LSBに近いビット位置における閾値thM1は、平均トグル率が高くなるので、設定される閾値thM1も高く設定される。
 また、第3段目の信号処理部52-3の後段における各ビットの平均トグル率(3,M)は、図6の左部の場合、図中上から3%、5%、9%、8%、7%、12%、14%、および18%と推移している。さらに、第4段目の信号処理部52-4の後段における各ビットの平均トグル率(4,M)は、図6の左上部の場合、図中上から4%、4%、6%、7%、7%、14%、11%、および20%と推移している。
 すなわち、図6の左部で示されるような場合、各ビットについて、平均トグル率の差分が所定の閾値thM1よりも大きいので、エラーの発生はないものとみなされる。
 これに対して、例えば、図6の右部で示されるような場合、第3段目の信号処理部52-3の後段の下位2番目のビット位置(M=1)については、平均トグル率(3,1)が0%となり、以降、第4段目の信号処理部52-4の下位2番目のビット位置については、平均トグル率(4,1)が0%となっている。
 同様に、図6の右部で示されるように、第4段目の信号処理部52-4の後段の上位の13ビット目については、平均トグル率(4,13)が0%となっている。
 結果として、図6の右部で示されるような場合、信号処理部52-3における第1ビット目、および、信号処理部52-4における第13ビット目にエラーが発生しているものとみなせる状態となる。
 このように、何段目の信号処理部52における、どのビット位置にエラーが発生しているのかを正確に検出することが可能となる。
 さらに、暗闇などの黒画像が入力画像であるような場合、例えば、図7の左部で示されるように、信号処理部52-1前段のトグル率計算部51-0により計算される上位3ビット(MSBから3ビット)と、下位5ビット(LSBから5ビット)の各ビットについては、平均トグル率(0,M)が、図中上から0%、0%、1%、0%、1%、1%、0%、および1%と推移している。このような場合、正常な画像が入力されているものとはみなされないので、閾値thM1は、通常閾値よりも十分に低い値が設定される。
 これにより、第3段目の信号処理部52-3の後段における各ビットの平均トグル率(3,M)は、図7の左部の場合、図中上から1%、0%、1%、0%、1%、1%、0%、および1%と推移している。さらに、第4段目の信号処理部52-4の後段における各ビットの平均トグル率(4,M)は、図7の左部の場合、図中上から0%、0%、0%、1%、0%、1%、0%、および1%と推移している。
 図7の左部で示されるような場合、各ビットについて、平均トグル率の差分が十分に小さい所定の閾値thM1が設定され、エラーの発生はないものとみなされる。
 これに対して、例えば、図7の右部で示されるような場合、第3段目の信号処理部52-3の後段の下位2番目のビット位置(M=1)については、平均トグル率(3,1)が0%となり、以降、第4段目の信号処理部52-4の下位2番目のビット位置については、平均トグル率(4,1)が0%となっている。
 同様に、図7の右部で示されるように、第4段目の信号処理部52-4の後段の上位の13ビット目については、平均トグル率(4,13)が0%となっている。
 ただし、図7の右部で示されるような場合でも、平均トグル率の差分が十分に小さい所定の閾値thM1が設定されているので、エラーの発生はないものとみなされる。
 結果として、この場合、信号処理部52-1乃至52-4のいずれかにおいてエラー等が発生しているか否かの判断がつかないため、エラーであるとの通知はされない。
 ただし、この場合、安全性の観点から、適切に判断できない画像に基づいた運転支援については停止させ、運転支援が停止したことをドライバに通知することが望ましい。
 尚、図3のフローチャートを参照して説明したように、この例においても、信号処理部52-Nのそれぞれについて、ブロック固有係数kNを設定して、閾値thM1に乗じるようにしてもよい。ブロック固有係数kNを用いるようにすることで、信号処理部52-Nの個別の特性に応じて、ビット毎に閾値thM1が補正された閾値thM11を設定することにより、信号処理部52-Nのビット毎の故障の有無を、より高精度に検出することができる。
 以上の処理により、リアルタイムで、かつ、特定の演算対象データ(テスト画像に依存)や、一意に設定した演算パラメータを用いることなく、画像処理装置の故障検出をビット単位で実現することが可能となる。
 また、画像を利用した運転支援を実現する機能を実現するにあたって、リアルタイムでエラーの発生を検出して、運転支援における誤動作の発生を抑制すると共に、ドライバに対して運転支援が停止したことを提示することが可能となる。
 <<3.第2の実施の形態>>
 以上においては、イメージセンサが1個の、いわゆる単眼の画像を利用した車載カメラシステムである例について説明してきたが、例えば、2個の車載カメラシステムを用いてステレオ画像を撮像するようにして、ステレオ画像を用いた運転支援をするようにしてもよく、その際、いずれか一方の画像においてエラーが発生しているものとみなされるとき、ステレオ画像を取得することができないので、運転支援を停止させると共に、ドライバにエラー(異常)の発生を通知するようにしてもよい。
 図8は、図1の車載カメラシステム11のイメージセンサ31、および画像処理ブロック32を、それぞれ右眼画像用、および左眼画像用に用いた車載ステレオカメラシステム101の構成例を示したものである。
 尚、図8の車載ステレオカメラシステム101においては、基本的に、右眼用の図1の車載カメラシステム11のイメージセンサ31、および画像処理ブロック32に対応する各構成には、「-1」を付しており、左眼用の図1の車載カメラシステム11に対応する各構成には、「-2」を付している。このため、それらの説明については、適宜省略するものとする。
 すなわち、図8における車載ステレオカメラシステム101において、図1の車載カメラシステム11と異なる点は、イメージセンサ31-1,31-2、および画像処理ブロック32-1,32-2に対して、1個の後段LSI33が設けられており、画像処理ブロック32-1,32-2がそれぞれ最終段である第4段の平均トグル率を後段LSI33に供給すると共に、さらに、トグル情報比較部121が設けられている点である。
 トグル情報比較部121は、左右の画像処理ブロック32-1,32-2からのエラー判定処理結果とトグル率とを比較し、少なくともいずれかにエラーがあるか、または、双方の平均トグル率に所定値以上の差がある場合、左右いずれか、または、両方の画像が使用できないものとみなし、図示せぬ車両のステアリング、ブレーキ、およびライト等の動作の制御による運転支援を停止すると共に、車載カメラシステム11-1,11-2のエラー個所、または、左右画像の平均トグル率に差があり、何らかのエラーが発生していることを表示部12に出力して表示する。
 <図8の車載ステレオカメラシステムによるエラー判定処理>
 次に、図9のフローチャートを参照して、図8の車載ステレオカメラシステムによるエラー判定処理について説明する。
 ステップS101において、右眼用の車載カメラシステムに対応するイメージセンサ31-1、および画像処理ブロック32-1は、右カメラエラー判定処理を実行し、判定結果と、それぞれの平均トグル率の情報を後段LSI33に出力する。尚、右カメラエラー判定処理については、右眼用の画像に対して、図3または図5のフローチャートを参照して説明したエラー判定処理を実行するものであるので、その説明は省略するものとする。また、この際、画像処理ブロック32-1の判定部53-1は、第4段の平均トグル率として、全ビットの平均トグル率、または、ビット毎の平均トグル率を出力する。
 ステップS102において、左眼用の車載カメラシステムに対応するイメージセンサ31-2、および画像処理ブロック32-2は、左カメラエラー判定処理を実行し、判定結果と、それぞれの平均トグル率の情報を後段LSI33に出力する。尚、左カメラエラー判定処理については、左眼用の画像に対して、図3または図5のフローチャートを参照して説明したエラー判定処理を実行するものであるので、その説明は省略するものとする。また、この際、画像処理ブロック32-2の判定部53-2は、第4段の平均トグル率として、全ビットの平均トグル率、または、ビット毎の平均トグル率を出力する。
 ステップS103において、後段LSI33は、左右カメラエラー判定処理に基づいて、少なくともいずれかにエラーが検出されたか否かを判定する。
 ステップS104において、後段LSI33は、カメラ画像に基づいた運転支援を停止すると共に、表示部12にエラーが発生している信号処理部52の位置(、および、ビット位置:図5のフローチャートのエラー判定処理を実行していた場合)についての情報を表示すると共に、運転支援が打ち切られていることを表示する。
 また、ステップS103において、左右の画像のいずれからもエラーが検出されなかった場合、処理は、ステップS105に進む。
 ステップS105において、後段LSI33は、トグル情報比較部121を制御して、左右の平均トグル率の差分絶対値が所定の閾値よりも大きく、左右で差が生じているか否かを判定する。ステップS105において、左右の平均トグル率の差分絶対値が所定の閾値よりも大きく、左右で差が生じているとみなされた場合、処理は、ステップS106に進む。
 ステップS106において、後段LSI33は、カメラ画像に基づいた運転支援を停止すると共に、表示部12に左右の画像に差が生じて、適切に運転を支援するができないことを表示すると共に、運転支援が打ち切られていることを表示する。尚、ここで、図3のフローチャートの処理である場合には、第1段乃至第4段のいずれの信号処理部52で左右のずれがあるのか、または、図5のフローチャートの処理である場合には、第1段乃至第4段のいずれの信号処理部52の何ビット目で左右のずれがあるのかを示す情報が表示される。
 例えば、図8で示されるように、イメージセンサ31-2の正面に、画像の撮像を妨げる障害物111が、例えば、フロントウィンドウなどに付着しているような場合、黒画像が撮像されてしまうことがある。
 このような場合、上述した処理では、エラーが検出されないことになる。しかしながら、左右の画像に著しい差が生じていると、運転支援に必要とされる適切なステレオ画像を取得することができず、実質的にエラーが発生した状態とみなして対応する必要がある。
 そこで、この場合、左右の画像に著しい差が生じており、運転支援を制御する処理を停止させ、その旨を表示部12に表示する。
 このように実質的に使用不能な画像が撮像されてしまっているような場合にだけ、運転支援を停止させ、その旨をドライバに伝えるようにすることで、故障に起因したものではない可能性があるにも関わらず、故障が発生してしまっているといった不要なエラーの通知を抑制しつつ、適切な運転支援を実現させることが可能となる。
 尚、ステップS105において、左右の平均トグル率の差分絶対値が所定の閾値よりも低い場合、通常の処理が実現されているものと見なし、ステップS104,S106の処理がスキップされる。
 以上の処理により、不要なエラーの通知を発することを抑制しつつ、適切にエラー判定を実現することが可能となる。
 また、リアルタイムで、かつ、特定の演算対象データ(テスト画像に依存)や、一意に設定した演算パラメータを用いることなく、画像処理装置の故障検出を実現することが可能となる。
 さらに、以上においては、信号処理の対象が画像信号である例について説明してきたが、信号処理が可能なものであれば、その他の信号であってもよく、音声信号や光信号など信号処理がなされる構成であれば、利用することが可能である。
 また、以上においては、信号処理の対象となる画像信号をバイナリデータとして、各ビット、または、全ビットの平均トグル率を用いて信号処理部のエラーを検出する例について説明してきたが、バイナリデータ以外のデータであってもよく、例えば、16進表現された各桁のデジタルデータに用いてもよい。すなわち、以上の例においては、バイナリデータの2進数における各桁の値に変化がある場合、すなわち、各ビットの値に変化がある場合、所定のクロック数で定義される時間内の、各桁の変化の回数の割合がトグル率となる。したがって、2進数以外の、例えば、16進数であっても、所定のクロック数で定義される時間内の、各桁の変化の回数の割合としてトグル率を算出するようにして、信号処理部が正常に動作しているか否かを判断するようにしてもよい。
 さらに、以上においては、信号処理部52は直列に4段構成である例について説明してきたが、それ以下の段数の構成がなされていても、それ以上の段数の構成がなされているものであってもよい。
 また、以上においては、信号処理部52は、並列に複数段構成されるようにしてもよいし、1個の信号処理部52の処理結果を複数の信号処理部52で処理するようにしてもよく、いずれにおいても信号処理部52の前段と後段とでトグル率を計算して、両者の比較により大きな変化があるか否かに応じて、信号処理部52のそれぞれにエラーが発生しているか否かを判定するようにしてもよい。
 <<4.第1の応用例>>
 <ソフトウェアにより実行させる例>
 ところで、上述した一連の処理は、ハードウェアにより実行させることもできるが、ソフトウェアにより実行させることもできる。一連の処理をソフトウェアにより実行させる場合には、そのソフトウェアを構成するプログラムが、専用のハードウェアに組み込まれているコンピュータ、または、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどに、記録媒体からインストールされる。
 図10は、汎用のパーソナルコンピュータの構成例を示している。このパーソナルコンピュータは、CPU(Central Processing Unit)1001を内蔵している。CPU1001にはバス1004を介して、入出力インタ-フェイス1005が接続されている。バス1004には、ROM(Read Only Memory)1002およびRAM(Random Access Memory)1003が接続されている。
 入出力インタ-フェイス1005には、ユーザが操作コマンドを入力するキーボード、マウスなどの入力デバイスよりなる入力部1006、処理操作画面や処理結果の画像を表示デバイスに出力する出力部1007、プログラムや各種データを格納するハードディスクドライブなどよりなる記憶部1008、LAN(Local Area Network)アダプタなどよりなり、インターネットに代表されるネットワークを介した通信処理を実行する通信部1009が接続されている。また、磁気ディスク(フレキシブルディスクを含む)、光ディスク(CD-ROM(Compact Disc-Read Only Memory)、DVD(Digital Versatile Disc)を含む)、光磁気ディスク(MD(Mini Disc)を含む)、もしくは半導体メモリなどのリムーバブルメディア1011に対してデータを読み書きするドライブ1010が接続されている。
 CPU1001は、ROM1002に記憶されているプログラム、または磁気ディスク、光ディスク、光磁気ディスク、もしくは半導体メモリ等のリムーバブルメディア1011ら読み出されて記憶部1008にインストールされ、記憶部1008からRAM1003にロードされたプログラムに従って各種の処理を実行する。RAM1003にはまた、CPU1001が各種の処理を実行する上において必要なデータなども適宜記憶される。
 以上のように構成されるコンピュータでは、CPU1001が、例えば、記憶部1008に記憶されているプログラムを、入出力インタフェース1005及びバス1004を介して、RAM1003にロードして実行することにより、上述した一連の処理が行われる。
 コンピュータ(CPU1001)が実行するプログラムは、例えば、パッケージメディア等としてのリムーバブルメディア1011に記録して提供することができる。また、プログラムは、ローカルエリアネットワーク、インターネット、デジタル衛星放送といった、有線または無線の伝送媒体を介して提供することができる。
 コンピュータでは、プログラムは、リムーバブルメディア1011をドライブ1010に装着することにより、入出力インタフェース1005を介して、記憶部1008にインストールすることができる。また、プログラムは、有線または無線の伝送媒体を介して、通信部1009で受信し、記憶部1008にインストールすることができる。その他、プログラムは、ROM1002や記憶部1008に、あらかじめインストールしておくことができる。
 なお、コンピュータが実行するプログラムは、本明細書で説明する順序に沿って時系列に処理が行われるプログラムであっても良いし、並列に、あるいは呼び出しが行われたとき等の必要なタイミングで処理が行われるプログラムであっても良い。
 また、本明細書において、システムとは、複数の構成要素(装置、モジュール(部品)等)の集合を意味し、すべての構成要素が同一筐体中にあるか否かは問わない。したがって、別個の筐体に収納され、ネットワークを介して接続されている複数の装置、及び、1つの筐体の中に複数のモジュールが収納されている1つの装置は、いずれも、システムである。
 なお、本開示の実施の形態は、上述した実施の形態に限定されるものではなく、本開示の要旨を逸脱しない範囲において種々の変更が可能である。
 例えば、本開示は、1つの機能をネットワークを介して複数の装置で分担、共同して処理するクラウドコンピューティングの構成をとることができる。
 また、上述のフローチャートで説明した各ステップは、1つの装置で実行する他、複数の装置で分担して実行することができる。
 さらに、1つのステップに複数の処理が含まれる場合には、その1つのステップに含まれる複数の処理は、1つの装置で実行する他、複数の装置で分担して実行することができる。
 <<5.第2の応用例>>
 本開示に係る技術は、様々な製品へ応用することができる。例えば、本開示に係る技術は、自動車、電気自動車、ハイブリッド電気自動車、自動二輪車、自転車、パーソナルモビリティ、飛行機、ドローン、船舶、ロボット、建設機械、農業機械(トラクター)などのいずれかの種類の移動体に搭載される装置として実現されてもよい。
 図11は、本開示に係る技術が適用され得る移動体制御システムの一例である車両制御システム7000の概略的な構成例を示すブロック図である。車両制御システム7000は、通信ネットワーク7010を介して接続された複数の電子制御ユニットを備える。図11に示した例では、車両制御システム7000は、駆動系制御ユニット7100、ボディ系制御ユニット7200、バッテリ制御ユニット7300、車外情報検出ユニット7400、車内情報検出ユニット7500、及び統合制御ユニット7600を備える。これらの複数の制御ユニットを接続する通信ネットワーク7010は、例えば、CAN(Controller Area Network)、LIN(Local Interconnect Network)、LAN(Local Area Network)又はFlexRay(登録商標)等の任意の規格に準拠した車載通信ネットワークであってよい。
 各制御ユニットは、各種プログラムにしたがって演算処理を行うマイクロコンピュータと、マイクロコンピュータにより実行されるプログラム又は各種演算に用いられるパラメータ等を記憶する記憶部と、各種制御対象の装置を駆動する駆動回路とを備える。各制御ユニットは、通信ネットワーク7010を介して他の制御ユニットとの間で通信を行うためのネットワークI/Fを備えるとともに、車内外の装置又はセンサ等との間で、有線通信又は無線通信により通信を行うための通信I/Fを備える。図11では、統合制御ユニット7600の機能構成として、マイクロコンピュータ7610、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660、音声画像出力部7670、車載ネットワークI/F7680及び記憶部7690が図示されている。他の制御ユニットも同様に、マイクロコンピュータ、通信I/F及び記憶部等を備える。
 駆動系制御ユニット7100は、各種プログラムにしたがって車両の駆動系に関連する装置の動作を制御する。例えば、駆動系制御ユニット7100は、内燃機関又は駆動用モータ等の車両の駆動力を発生させるための駆動力発生装置、駆動力を車輪に伝達するための駆動力伝達機構、車両の舵角を調節するステアリング機構、及び、車両の制動力を発生させる制動装置等の制御装置として機能する。駆動系制御ユニット7100は、ABS(Antilock Brake System)又はESC(Electronic Stability Control)等の制御装置としての機能を有してもよい。
 駆動系制御ユニット7100には、車両状態検出部7110が接続される。車両状態検出部7110には、例えば、車体の軸回転運動の角速度を検出するジャイロセンサ、車両の加速度を検出する加速度センサ、あるいは、アクセルペダルの操作量、ブレーキペダルの操作量、ステアリングホイールの操舵角、エンジン回転数又は車輪の回転速度等を検出するためのセンサのうちの少なくとも一つが含まれる。駆動系制御ユニット7100は、車両状態検出部7110から入力される信号を用いて演算処理を行い、内燃機関、駆動用モータ、電動パワーステアリング装置又はブレーキ装置等を制御する。
 ボディ系制御ユニット7200は、各種プログラムにしたがって車体に装備された各種装置の動作を制御する。例えば、ボディ系制御ユニット7200は、キーレスエントリシステム、スマートキーシステム、パワーウィンドウ装置、あるいは、ヘッドランプ、バックランプ、ブレーキランプ、ウィンカー又はフォグランプ等の各種ランプの制御装置として機能する。この場合、ボディ系制御ユニット7200には、鍵を代替する携帯機から発信される電波又は各種スイッチの信号が入力され得る。ボディ系制御ユニット7200は、これらの電波又は信号の入力を受け付け、車両のドアロック装置、パワーウィンドウ装置、ランプ等を制御する。
 バッテリ制御ユニット7300は、各種プログラムにしたがって駆動用モータの電力供給源である二次電池7310を制御する。例えば、バッテリ制御ユニット7300には、二次電池7310を備えたバッテリ装置から、バッテリ温度、バッテリ出力電圧又はバッテリの残存容量等の情報が入力される。バッテリ制御ユニット7300は、これらの信号を用いて演算処理を行い、二次電池7310の温度調節制御又はバッテリ装置に備えられた冷却装置等の制御を行う。
 車外情報検出ユニット7400は、車両制御システム7000を搭載した車両の外部の情報を検出する。例えば、車外情報検出ユニット7400には、撮像部7410及び車外情報検出部7420のうちの少なくとも一方が接続される。撮像部7410には、ToF(Time Of Flight)カメラ、ステレオカメラ、単眼カメラ、赤外線カメラ及びその他のカメラのうちの少なくとも一つが含まれる。車外情報検出部7420には、例えば、現在の天候又は気象を検出するための環境センサ、あるいは、車両制御システム7000を搭載した車両の周囲の他の車両、障害物又は歩行者等を検出するための周囲情報検出センサのうちの少なくとも一つが含まれる。
 環境センサは、例えば、雨天を検出する雨滴センサ、霧を検出する霧センサ、日照度合いを検出する日照センサ、及び降雪を検出する雪センサのうちの少なくとも一つであってよい。周囲情報検出センサは、超音波センサ、レーダ装置及びLIDAR(Light Detection and Ranging、Laser Imaging Detection and Ranging)装置のうちの少なくとも一つであってよい。これらの撮像部7410及び車外情報検出部7420は、それぞれ独立したセンサないし装置として備えられてもよいし、複数のセンサないし装置が統合された装置として備えられてもよい。
 ここで、図12は、撮像部7410及び車外情報検出部7420の設置位置の例を示す。撮像部7910,7912,7914,7916,7918は、例えば、車両7900のフロントノーズ、サイドミラー、リアバンパ、バックドア及び車室内のフロントガラスの上部のうちの少なくとも一つの位置に設けられる。フロントノーズに備えられる撮像部7910及び車室内のフロントガラスの上部に備えられる撮像部7918は、主として車両7900の前方の画像を取得する。サイドミラーに備えられる撮像部7912,7914は、主として車両7900の側方の画像を取得する。リアバンパ又はバックドアに備えられる撮像部7916は、主として車両7900の後方の画像を取得する。車室内のフロントガラスの上部に備えられる撮像部7918は、主として先行車両又は、歩行者、障害物、信号機、交通標識又は車線等の検出に用いられる。
 なお、図12には、それぞれの撮像部7910,7912,7914,7916の撮影範囲の一例が示されている。撮像範囲aは、フロントノーズに設けられた撮像部7910の撮像範囲を示し、撮像範囲b,cは、それぞれサイドミラーに設けられた撮像部7912,7914の撮像範囲を示し、撮像範囲dは、リアバンパ又はバックドアに設けられた撮像部7916の撮像範囲を示す。例えば、撮像部7910,7912,7914,7916で撮像された画像データが重ね合わせられることにより、車両7900を上方から見た俯瞰画像が得られる。
 車両7900のフロント、リア、サイド、コーナ及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7922,7924,7926,7928,7930は、例えば超音波センサ又はレーダ装置であってよい。車両7900のフロントノーズ、リアバンパ、バックドア及び車室内のフロントガラスの上部に設けられる車外情報検出部7920,7926,7930は、例えばLIDAR装置であってよい。これらの車外情報検出部7920~7930は、主として先行車両、歩行者又は障害物等の検出に用いられる。
 図11に戻って説明を続ける。車外情報検出ユニット7400は、撮像部7410に車外の画像を撮像させるとともに、撮像された画像データを受信する。また、車外情報検出ユニット7400は、接続されている車外情報検出部7420から検出情報を受信する。車外情報検出部7420が超音波センサ、レーダ装置又はLIDAR装置である場合には、車外情報検出ユニット7400は、超音波又は電磁波等を発信させるとともに、受信された反射波の情報を受信する。車外情報検出ユニット7400は、受信した情報に基づいて、人、車、障害物、標識又は路面上の文字等の物体検出処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、降雨、霧又は路面状況等を認識する環境認識処理を行ってもよい。車外情報検出ユニット7400は、受信した情報に基づいて、車外の物体までの距離を算出してもよい。
 また、車外情報検出ユニット7400は、受信した画像データに基づいて、人、車、障害物、標識又は路面上の文字等を認識する画像認識処理又は距離検出処理を行ってもよい。車外情報検出ユニット7400は、受信した画像データに対して歪補正又は位置合わせ等の処理を行うとともに、異なる撮像部7410により撮像された画像データを合成して、俯瞰画像又はパノラマ画像を生成してもよい。車外情報検出ユニット7400は、異なる撮像部7410により撮像された画像データを用いて、視点変換処理を行ってもよい。
 車内情報検出ユニット7500は、車内の情報を検出する。車内情報検出ユニット7500には、例えば、運転者の状態を検出する運転者状態検出部7510が接続される。運転者状態検出部7510は、運転者を撮像するカメラ、運転者の生体情報を検出する生体センサ又は車室内の音声を集音するマイク等を含んでもよい。生体センサは、例えば、座面又はステアリングホイール等に設けられ、座席に座った搭乗者又はステアリングホイールを握る運転者の生体情報を検出する。車内情報検出ユニット7500は、運転者状態検出部7510から入力される検出情報に基づいて、運転者の疲労度合い又は集中度合いを算出してもよいし、運転者が居眠りをしていないかを判別してもよい。車内情報検出ユニット7500は、集音された音声信号に対してノイズキャンセリング処理等の処理を行ってもよい。
 統合制御ユニット7600は、各種プログラムにしたがって車両制御システム7000内の動作全般を制御する。統合制御ユニット7600には、入力部7800が接続されている。入力部7800は、例えば、タッチパネル、ボタン、マイクロフォン、スイッチ又はレバー等、搭乗者によって入力操作され得る装置によって実現される。統合制御ユニット7600には、マイクロフォンにより入力される音声を音声認識することにより得たデータが入力されてもよい。入力部7800は、例えば、赤外線又はその他の電波を利用したリモートコントロール装置であってもよいし、車両制御システム7000の操作に対応した携帯電話又はPDA(Personal Digital Assistant)等の外部接続機器であってもよい。入力部7800は、例えばカメラであってもよく、その場合搭乗者はジェスチャにより情報を入力することができる。あるいは、搭乗者が装着したウェアラブル装置の動きを検出することで得られたデータが入力されてもよい。さらに、入力部7800は、例えば、上記の入力部7800を用いて搭乗者等により入力された情報に基づいて入力信号を生成し、統合制御ユニット7600に出力する入力制御回路などを含んでもよい。搭乗者等は、この入力部7800を操作することにより、車両制御システム7000に対して各種のデータを入力したり処理動作を指示したりする。
 記憶部7690は、マイクロコンピュータにより実行される各種プログラムを記憶するROM(Read Only Memory)、及び各種パラメータ、演算結果又はセンサ値等を記憶するRAM(Random Access Memory)を含んでいてもよい。また、記憶部7690は、HDD(Hard Disc Drive)等の磁気記憶デバイス、半導体記憶デバイス、光記憶デバイス又は光磁気記憶デバイス等によって実現してもよい。
 汎用通信I/F7620は、外部環境7750に存在する様々な機器との間の通信を仲介する汎用的な通信I/Fである。汎用通信I/F7620は、GSM(Global System of Mobile communications)、WiMAX、LTE(Long Term Evolution)若しくはLTE-A(LTE-Advanced)などのセルラー通信プロトコル、又は無線LAN(Wi-Fi(登録商標)ともいう)、Bluetooth(登録商標)などのその他の無線通信プロトコルを実装してよい。汎用通信I/F7620は、例えば、基地局又はアクセスポイントを介して、外部ネットワーク(例えば、インターネット、クラウドネットワーク又は事業者固有のネットワーク)上に存在する機器(例えば、アプリケーションサーバ又は制御サーバ)へ接続してもよい。また、汎用通信I/F7620は、例えばP2P(Peer To Peer)技術を用いて、車両の近傍に存在する端末(例えば、運転者、歩行者若しくは店舗の端末、又はMTC(Machine Type Communication)端末)と接続してもよい。
 専用通信I/F7630は、車両における使用を目的として策定された通信プロトコルをサポートする通信I/Fである。専用通信I/F7630は、例えば、下位レイヤのIEEE802.11pと上位レイヤのIEEE1609との組合せであるWAVE(Wireless Access in Vehicle Environment)、DSRC(Dedicated Short Range Communications)、又はセルラー通信プロトコルといった標準プロトコルを実装してよい。専用通信I/F7630は、典型的には、車車間(Vehicle to Vehicle)通信、路車間(Vehicle to Infrastructure)通信、車両と家との間(Vehicle to Home)の通信及び歩車間(Vehicle to Pedestrian)通信のうちの1つ以上を含む概念であるV2X通信を遂行する。
 測位部7640は、例えば、GNSS(Global Navigation Satellite System)衛星からのGNSS信号(例えば、GPS(Global Positioning System)衛星からのGPS信号)を受信して測位を実行し、車両の緯度、経度及び高度を含む位置情報を生成する。なお、測位部7640は、無線アクセスポイントとの信号の交換により現在位置を特定してもよく、又は測位機能を有する携帯電話、PHS若しくはスマートフォンといった端末から位置情報を取得してもよい。
 ビーコン受信部7650は、例えば、道路上に設置された無線局等から発信される電波あるいは電磁波を受信し、現在位置、渋滞、通行止め又は所要時間等の情報を取得する。なお、ビーコン受信部7650の機能は、上述した専用通信I/F7630に含まれてもよい。
 車内機器I/F7660は、マイクロコンピュータ7610と車内に存在する様々な車内機器7760との間の接続を仲介する通信インタフェースである。車内機器I/F7660は、無線LAN、Bluetooth(登録商標)、NFC(Near Field Communication)又はWUSB(Wireless USB)といった無線通信プロトコルを用いて無線接続を確立してもよい。また、車内機器I/F7660は、図示しない接続端子(及び、必要であればケーブル)を介して、USB(Universal Serial Bus)、HDMI(High-Definition Multimedia Interface)、又はMHL(Mobile High-definition Link)等の有線接続を確立してもよい。車内機器7760は、例えば、搭乗者が有するモバイル機器若しくはウェアラブル機器、又は車両に搬入され若しくは取り付けられる情報機器のうちの少なくとも1つを含んでいてもよい。また、車内機器7760は、任意の目的地までの経路探索を行うナビゲーション装置を含んでいてもよい。車内機器I/F7660は、これらの車内機器7760との間で、制御信号又はデータ信号を交換する。
 車載ネットワークI/F7680は、マイクロコンピュータ7610と通信ネットワーク7010との間の通信を仲介するインタフェースである。車載ネットワークI/F7680は、通信ネットワーク7010によりサポートされる所定のプロトコルに則して、信号等を送受信する。
 統合制御ユニット7600のマイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、各種プログラムにしたがって、車両制御システム7000を制御する。例えば、マイクロコンピュータ7610は、取得される車内外の情報に基づいて、駆動力発生装置、ステアリング機構又は制動装置の制御目標値を演算し、駆動系制御ユニット7100に対して制御指令を出力してもよい。例えば、マイクロコンピュータ7610は、車両の衝突回避あるいは衝撃緩和、車間距離に基づく追従走行、車速維持走行、車両の衝突警告、又は車両のレーン逸脱警告等を含むADAS(Advanced Driver Assistance System)の機能実現を目的とした協調制御を行ってもよい。また、マイクロコンピュータ7610は、取得される車両の周囲の情報に基づいて駆動力発生装置、ステアリング機構又は制動装置等を制御することにより、運転者の操作に拠らずに自律的に走行する自動運転等を目的とした協調制御を行ってもよい。
 マイクロコンピュータ7610は、汎用通信I/F7620、専用通信I/F7630、測位部7640、ビーコン受信部7650、車内機器I/F7660及び車載ネットワークI/F7680のうちの少なくとも一つを介して取得される情報に基づき、車両と周辺の構造物や人物等の物体との間の3次元距離情報を生成し、車両の現在位置の周辺情報を含むローカル地図情報を作成してもよい。また、マイクロコンピュータ7610は、取得される情報に基づき、車両の衝突、歩行者等の近接又は通行止めの道路への進入等の危険を予測し、警告用信号を生成してもよい。警告用信号は、例えば、警告音を発生させたり、警告ランプを点灯させたりするための信号であってよい。
 音声画像出力部7670は、車両の搭乗者又は車外に対して、視覚的又は聴覚的に情報を通知することが可能な出力装置へ音声及び画像のうちの少なくとも一方の出力信号を送信する。図11の例では、出力装置として、オーディオスピーカ7710、表示部7720及びインストルメントパネル7730が例示されている。表示部7720は、例えば、オンボードディスプレイ及びヘッドアップディスプレイの少なくとも一つを含んでいてもよい。表示部7720は、AR(Augmented Reality)表示機能を有していてもよい。出力装置は、これらの装置以外の、ヘッドホン、搭乗者が装着する眼鏡型ディスプレイ等のウェアラブルデバイス、プロジェクタ又はランプ等の他の装置であってもよい。出力装置が表示装置の場合、表示装置は、マイクロコンピュータ7610が行った各種処理により得られた結果又は他の制御ユニットから受信された情報を、テキスト、イメージ、表、グラフ等、様々な形式で視覚的に表示する。また、出力装置が音声出力装置の場合、音声出力装置は、再生された音声データ又は音響データ等からなるオーディオ信号をアナログ信号に変換して聴覚的に出力する。
 なお、図11に示した例において、通信ネットワーク7010を介して接続された少なくとも二つの制御ユニットが一つの制御ユニットとして一体化されてもよい。あるいは、個々の制御ユニットが、複数の制御ユニットにより構成されてもよい。さらに、車両制御システム7000が、図示されていない別の制御ユニットを備えてもよい。また、上記の説明において、いずれかの制御ユニットが担う機能の一部又は全部を、他の制御ユニットに持たせてもよい。つまり、通信ネットワーク7010を介して情報の送受信がされるようになっていれば、所定の演算処理が、いずれかの制御ユニットで行われるようになってもよい。同様に、いずれかの制御ユニットに接続されているセンサ又は装置が、他の制御ユニットに接続されるとともに、複数の制御ユニットが、通信ネットワーク7010を介して相互に検出情報を送受信してもよい。
 なお、図1を用いて説明した本実施形態に係る画像処理ブロック32の各機能を実現するためのコンピュータプログラムを、いずれかの制御ユニット等に実装することができる。また、このようなコンピュータプログラムが格納された、コンピュータで読み取り可能な記録媒体を提供することもできる。記録媒体は、例えば、磁気ディスク、光ディスク、光磁気ディスク、フラッシュメモリ等である。また、上記のコンピュータプログラムは、記録媒体を用いずに、例えばネットワークを介して配信されてもよい。
 以上説明した車両制御システム7000において、図1を用いて説明した本実施形態に係る画像処理ブロック32は、図11に示した応用例の統合制御ユニット7600に適用することができる。例えば、画像処理ブロック32のトグル率計算部51-0乃至51-4、信号処理部52-1乃至52-4、判定部53は、統合制御ユニット7600のマイクロコンピュータ7610、記憶部7690、車載ネットワークI/F7680に相当する。例えば、統合制御ユニット7600が、画像信号の全ビットの平均トグル率を求めることにより、第N段目の信号処理部52-Nのエラーの発生の有無を検出することができる。また、統合制御ユニット7600が、画像を利用した運転支援を実現するにあたって、リアルタイムでエラーの発生を検出して、運転支援における誤動作の発生を抑制すると共に、ドライバに対して運転支援が停止したことを適切に提示することが可能となる。
 また、図1を用いて説明した画像処理ブロック32の少なくとも一部の構成要素は、図11に示した統合制御ユニット7600のためのモジュール(例えば、一つのダイで構成される集積回路モジュール)において実現されてもよい。あるいは、図1を用いて説明した画像処理ブロック32が、図11に示した車両制御システム7000の複数の制御ユニットによって実現されてもよい。
 尚、本開示は、以下のような構成も取ることができる。
<1> デジタル信号からなる入力信号を順次処理する信号処理部と、
 入力信号のトグル率を第1のトグル率として計算する第1のトグル率計算部と、
 前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算する第2のトグル率計算部と、
 前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するエラー検出部と
 を含む信号処理装置。
<2> 前記第1のトグル率計算部、および前記第2のトグル率計算部は、いずれも、所定のクロック数に対する、前記デジタル信号の各桁の数値の変化する回数の割合の、全ての前記桁の平均を前記トグル率として計算する
 <1>に記載の信号処理装置。
<3> 前記入力信号は、バイナリデータからなる画像信号であり、
 前記第1のトグル率計算部、および前記第2のトグル率計算部は、いずれも、1フレーム分のビット毎のトグル率の平均値を、前記信号処理部の前段の平均トグル率、および後段の平均トグル率として計算する
 <1>または<2>に記載の信号処理装置。
<4> 前記入力信号は、バイナリデータからなる画像信号であり、
 前記第1のトグル率計算部、および前記第2のトグル率計算部は、いずれも、1フレーム分の各ビットのトグル率の平均値を計算し、さらに、それらの全ビットの平均値を、前記信号処理部の前段の平均トグル率、および後段の平均トグル率として計算する
 <1>乃至<3>のいずれかに記載の信号処理装置。
<5> 前記入力信号は、バイナリデータからなる画像信号であり、
 前記エラー検出部は、前記第1のトグル率と、前記第2のトグル率との差分が、第1の閾値からなるエラー閾値より大きい場合、前記信号処理部のエラーの発生を検出する
 <1>乃至<4>に記載の信号処理装置。
<6> 前記信号処理部は、複数段にシリーズに接続されており、さらに、それぞれの前記信号処理部の間にトグル率計算部が設けられており、それぞれの前記信号処理部の前段の前記トグル率計算部が、前記第1のトグル率計算部であり、それぞれの前記信号処理部の後段の前記トグル率計算部が、前記第2のトグル率計算部であり、
 前記エラー検出部は、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きい場合、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知する
 <5>に記載の信号処理装置。
<7> 最前段の前記第1のトグル率計算部は、前記入力信号のトグル率を入力トグル率として計算し、
 前記入力トグル率が、所定の閾値よりも小さい場合、前記エラー検出部は、前記エラー閾値を、前記第1の閾値よりも小さな第2の閾値に設定し、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きいとき、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知する
 <6>に記載の信号処理装置。
<8> 前記画像信号を撮像する複数の撮像部をさらに含み、
 前記複数の前記撮像部のそれぞれに複数段の前記信号処理部が設けられ、
 前記信号処理部は、複数段にシリーズに接続されており、さらに、それぞれの前記信号処理部の間に前記トグル率計算部が設けられており、それぞれの前記信号処理部の前段の前記トグル率計算部が、前記第1のトグル率計算部であり、それぞれの前記信号処理部の後段の前記トグル率計算部が、前記第2のトグル率計算部であり、
 前記入力トグル率が、所定の閾値よりも小さい場合、前記エラー検出部は、前記エラー閾値を、前記第1の閾値よりも小さな第2の閾値に設定し、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きいとき、並びに、前記撮像部のそれぞれについて、前記複数の前記信号処理部のうち、最終段の、前記第2のトグル率間の差分が所定の閾値よりも大きいとき、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知する
 <6>に記載の信号処理装置。
<9> 前記信号処理部の信号処理結果に基づいて、車両に設けられる駆動部分の動作を制御して運転を支援する支援部と、
 前記車両の制御情報を表示する表示部とをさらに含み、
 前記エラー検出部によりエラーが検出された場合、前記支援部は、前記信号処理部の信号処理結果に基づいた、車両に設けられる駆動部分の動作を制御した運転の支援を停止する
 <1>乃至<8>のいずれかに記載の信号処理装置。
<10> デジタル信号からなる入力信号を順次処理し、
 入力信号のトグル率を第1のトグル率として計算し、
 前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算し、
 前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出する
 ステップを含む信号処理方法。
<11> デジタル信号からなる入力信号を順次処理する信号処理部と、
 入力信号のトグル率を第1のトグル率として計算する第1のトグル率計算部と、
 前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算する第2のトグル率計算部と、
 前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するエラー検出部と
 してコンピュータを機能させるためのプログラム。
 11 車載カメラシステム, 31,31-1,31-2 イメージセンサ, 32,32-1,32-2 画像処理ブロック, 33 後段LSI, 51,51-0乃至51-4,51-0-1乃至51-4-1,51-0-2乃至51-4-2 トグル率計算部, 52,52-1乃至52-4,52-1-2乃至52-4-2 信号処理部, 53,53-1,53-2 判定部

Claims (11)

  1.  デジタル信号からなる入力信号を順次処理する信号処理部と、
     入力信号のトグル率を第1のトグル率として計算する第1のトグル率計算部と、
     前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算する第2のトグル率計算部と、
     前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するエラー検出部と
     を含む信号処理装置。
  2.  前記第1のトグル率計算部、および前記第2のトグル率計算部は、いずれも、所定のクロック数に対する、前記デジタル信号の各桁の数値の変化する回数の割合の、全ての前記桁の平均を前記トグル率として計算する
     請求項1に記載の信号処理装置。
  3.  前記入力信号は、バイナリデータからなる画像信号であり、
     前記第1のトグル率計算部、および前記第2のトグル率計算部は、いずれも、1フレーム分のビット毎のトグル率の平均値を、前記信号処理部の前段の平均トグル率、および後段の平均トグル率として計算する
     請求項1に記載の信号処理装置。
  4.  前記入力信号は、バイナリデータからなる画像信号であり、
     前記第1のトグル率計算部、および前記第2のトグル率計算部は、いずれも、1フレーム分の各ビットのトグル率の平均値を計算し、さらに、それらの全ビットの平均値を、前記信号処理部の前段の平均トグル率、および後段の平均トグル率として計算する
     請求項1に記載の信号処理装置。
  5.  前記入力信号は、バイナリデータからなる画像信号であり、
     前記エラー検出部は、前記第1のトグル率と、前記第2のトグル率との差分が、第1の閾値からなるエラー閾値より大きい場合、前記信号処理部のエラーの発生を検出する
     請求項1に記載の信号処理装置。
  6.  前記信号処理部は、複数段にシリーズに接続されており、さらに、それぞれの前記信号処理部の間にトグル率計算部が設けられており、それぞれの前記信号処理部の前段の前記トグル率計算部が、前記第1のトグル率計算部であり、それぞれの前記信号処理部の後段の前記トグル率計算部が、前記第2のトグル率計算部であり、
     前記エラー検出部は、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きい場合、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知する
     請求項5に記載の信号処理装置。
  7.  最前段の前記第1のトグル率計算部は、前記入力信号のトグル率を入力トグル率として計算し、
     前記入力トグル率が、所定の閾値よりも小さい場合、前記エラー検出部は、前記エラー閾値を、前記第1の閾値よりも小さな第2の閾値に設定し、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きいとき、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知する
     請求項6に記載の信号処理装置。
  8.  前記画像信号を撮像する複数の撮像部をさらに含み、
     前記複数の前記撮像部のそれぞれに複数段の前記信号処理部が設けられ、
     前記信号処理部は、複数段にシリーズに接続されており、さらに、それぞれの前記信号処理部の間に前記トグル率計算部が設けられており、それぞれの前記信号処理部の前段の前記トグル率計算部が、前記第1のトグル率計算部であり、それぞれの前記信号処理部の後段の前記トグル率計算部が、前記第2のトグル率計算部であり、
     前記入力トグル率が、所定の閾値よりも小さい場合、前記エラー検出部は、前記エラー閾値を、前記第1の閾値よりも小さな第2の閾値に設定し、それぞれの複数の前記信号処理部について、前記第1のトグル率と、前記第2のトグル率との差分が、前記エラー閾値より大きいとき、並びに、前記撮像部のそれぞれについて、前記複数の前記信号処理部のうち、最終段の、前記第2のトグル率間の差分が所定の閾値よりも大きいとき、前記信号処理部のエラーの発生を検出し、前記信号処理部のエラーの発生を検出したとき、前記エラーが検出された前記信号処理部の段数を通知する
     請求項6に記載の信号処理装置。
  9.  前記信号処理部の信号処理結果に基づいて、車両に設けられる駆動部分の動作を制御して運転を支援する支援部と、
     前記車両の制御情報を表示する表示部とをさらに含み、
     前記エラー検出部によりエラーが検出された場合、前記支援部は、前記信号処理部の信号処理結果に基づいた、車両に設けられる駆動部分の動作を制御した運転の支援を停止する
     請求項1に記載の信号処理装置。
  10.  デジタル信号からなる入力信号を順次処理し、
     入力信号のトグル率を第1のトグル率として計算し、
     前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算し、
     前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出する
     ステップを含む信号処理方法。
  11.  デジタル信号からなる入力信号を順次処理する信号処理部と、
     入力信号のトグル率を第1のトグル率として計算する第1のトグル率計算部と、
     前記信号処理部により信号処理された信号のトグル率を第2のトグル率として計算する第2のトグル率計算部と、
     前記第1のトグル率と、前記第2のトグル率との差分と、所定の閾値とを比較し、比較結果に応じてエラーの発生を検出するエラー検出部と
     してコンピュータを機能させるためのプログラム。
PCT/JP2017/004955 2016-02-24 2017-02-10 信号処理装置、および信号処理方法、並びにプログラム Ceased WO2017145818A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN201780009607.8A CN108604203B (zh) 2016-02-24 2017-02-10 信号处理装置、信号处理方法和存储介质
US16/077,615 US10565072B2 (en) 2016-02-24 2017-02-10 Signal processing device, signal processing method, and program
JP2018501584A JP6658860B2 (ja) 2016-02-24 2017-02-10 信号処理装置、および信号処理方法、並びにプログラム
EP17756259.2A EP3422187B1 (en) 2016-02-24 2017-02-10 Signal processing device, signal processing method, and program

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2016-032983 2016-02-24
JP2016032983 2016-02-24

Publications (1)

Publication Number Publication Date
WO2017145818A1 true WO2017145818A1 (ja) 2017-08-31

Family

ID=59685371

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2017/004955 Ceased WO2017145818A1 (ja) 2016-02-24 2017-02-10 信号処理装置、および信号処理方法、並びにプログラム

Country Status (5)

Country Link
US (1) US10565072B2 (ja)
EP (1) EP3422187B1 (ja)
JP (1) JP6658860B2 (ja)
CN (1) CN108604203B (ja)
WO (1) WO2017145818A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021509237A (ja) * 2017-12-29 2021-03-18 ウェイモ エルエルシー 高速画像読み出しおよび処理

Families Citing this family (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US10757320B2 (en) 2017-12-28 2020-08-25 Waymo Llc Multiple operating modes to expand dynamic range
JP7310138B2 (ja) * 2018-12-28 2023-07-19 株式会社リコー 画像処理装置、画像処理装置の故障検知方法、及びプログラム
FR3109487B1 (fr) * 2020-04-15 2022-03-25 St Microelectronics Rousset Détection d’un dispositif NFC
CN113409424B (zh) * 2021-06-25 2024-11-26 深圳市商汤科技有限公司 校验方法及装置、电子设备和存储介质

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009111546A (ja) 2007-10-29 2009-05-21 Panasonic Corp 自己診断機能を備えた半導体集積回路、撮像装置およびカメラシステム
JP2009169141A (ja) * 2008-01-17 2009-07-30 Panasonic Corp 映像信号処理装置
JP2009246803A (ja) 2008-03-31 2009-10-22 Aisin Seiki Co Ltd 画像認識装置及びコンピュータプログラム

Family Cites Families (20)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH07303262A (ja) * 1994-05-06 1995-11-14 Nippon Hoso Kyokai <Nhk> 映像自動監視装置
JP3740352B2 (ja) * 2000-07-12 2006-02-01 三菱電機株式会社 電動パワーステアリング制御装置
JP4039853B2 (ja) * 2001-12-26 2008-01-30 株式会社リコー テスト容易化設計システム
JP4738778B2 (ja) * 2003-10-15 2011-08-03 富士通テン株式会社 画像処理装置、運転支援装置および運転支援システム
JP4080463B2 (ja) * 2004-07-09 2008-04-23 三菱電機株式会社 受信装置点検システム
US7760400B2 (en) * 2004-10-07 2010-07-20 Ricoh Company, Limited Creating multiple threshold matrices to be used in error diffused multilevel halftoning
CN101142811A (zh) * 2005-03-15 2008-03-12 欧姆龙株式会社 图像处理装置和图像处理方法、程序以及记录介质
JP4908281B2 (ja) * 2007-03-27 2012-04-04 富士通株式会社 消費電力解析プログラム、消費電力解析方法及び消費電力解析装置
JP2012124799A (ja) * 2010-12-10 2012-06-28 Canon Inc 撮像装置
US8407653B1 (en) * 2011-08-25 2013-03-26 Xilinx, Inc. Method and system of estimating a derating factor for soft errors in a circuit
WO2013136827A1 (ja) * 2012-03-12 2013-09-19 本田技研工業株式会社 車両周辺監視装置
US9182445B2 (en) * 2013-05-06 2015-11-10 Broadcom Corporation Integrated circuit with toggle suppression logic
CN104166614B (zh) * 2013-05-17 2017-12-15 腾讯科技(深圳)有限公司 一种移动设备的帧率探测方法和相关装置
JP5906272B2 (ja) * 2014-03-28 2016-04-20 富士重工業株式会社 車両用ステレオ画像処理装置
JP6273979B2 (ja) * 2014-04-01 2018-02-07 株式会社デンソー 制御装置、又は、制御システム
US20150356229A1 (en) * 2014-06-09 2015-12-10 Qualcomm Incorporated Physical cell electromigration data generation
CN104636753B (zh) * 2015-02-04 2017-11-21 哈尔滨工程大学 一种基于pcnn神经元激活率和群离散度的区域特征提取方法
KR20160111612A (ko) * 2015-03-17 2016-09-27 삼성전자주식회사 반도체 장치
US9928191B2 (en) * 2015-07-30 2018-03-27 Advanced Micro Devices, Inc. Communication device with selective encoding
US10416910B1 (en) * 2016-09-20 2019-09-17 Altera Corporation Apparatus and method to reduce memory subsystem power dynamically

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009111546A (ja) 2007-10-29 2009-05-21 Panasonic Corp 自己診断機能を備えた半導体集積回路、撮像装置およびカメラシステム
JP2009169141A (ja) * 2008-01-17 2009-07-30 Panasonic Corp 映像信号処理装置
JP2009246803A (ja) 2008-03-31 2009-10-22 Aisin Seiki Co Ltd 画像認識装置及びコンピュータプログラム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP3422187A4

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2021509237A (ja) * 2017-12-29 2021-03-18 ウェイモ エルエルシー 高速画像読み出しおよび処理
JP7080977B2 (ja) 2017-12-29 2022-06-06 ウェイモ エルエルシー 高速画像読み出しおよび処理

Also Published As

Publication number Publication date
EP3422187A1 (en) 2019-01-02
EP3422187B1 (en) 2020-05-13
US20190073278A1 (en) 2019-03-07
JPWO2017145818A1 (ja) 2018-12-13
CN108604203A (zh) 2018-09-28
JP6658860B2 (ja) 2020-03-04
CN108604203B (zh) 2022-03-18
US10565072B2 (en) 2020-02-18
EP3422187A4 (en) 2019-04-03

Similar Documents

Publication Publication Date Title
US10880498B2 (en) Image processing apparatus and image processing method to improve quality of a low-quality image
US10864855B2 (en) Imaging control apparatus, method for controlling imaging control apparatus, and mobile body
JP6658860B2 (ja) 信号処理装置、および信号処理方法、並びにプログラム
WO2019225349A1 (ja) 情報処理装置、情報処理方法、撮影装置、照明装置、及び、移動体
WO2017057057A1 (ja) 画像処理装置、画像処理方法、およびプログラム
US11348657B2 (en) Storage control circuit, storage apparatus, imaging apparatus, and storage control method
WO2018051810A1 (ja) 画像処理装置および方法、並びに画像処理システム
EP3669358B1 (en) Server, method, non-transitory computer-readable medium, and system
US11689797B2 (en) Camera, method, non-transitory computer-readable medium, and system
US11585898B2 (en) Signal processing device, signal processing method, and program
CN114788257A (zh) 信息处理装置、信息处理方法、程序、成像装置和成像系统
JP7778149B2 (ja) 負電圧監視回路及び受光装置
US11438517B2 (en) Recognition device, a recognition method, and a program that easily and accurately recognize a subject included in a captured image
WO2025047365A1 (ja) 撮像装置、および故障検知方法
WO2020255589A1 (ja) 情報処理装置、情報処理方法及びプログラム

Legal Events

Date Code Title Description
WWE Wipo information: entry into national phase

Ref document number: 2018501584

Country of ref document: JP

NENP Non-entry into the national phase

Ref country code: DE

WWE Wipo information: entry into national phase

Ref document number: 2017756259

Country of ref document: EP

ENP Entry into the national phase

Ref document number: 2017756259

Country of ref document: EP

Effective date: 20180924

121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 17756259

Country of ref document: EP

Kind code of ref document: A1