WO2024142683A1 - 光検出装置、光検出システム、およびフィルタアレイ - Google Patents

光検出装置、光検出システム、およびフィルタアレイ Download PDF

Info

Publication number
WO2024142683A1
WO2024142683A1 PCT/JP2023/041925 JP2023041925W WO2024142683A1 WO 2024142683 A1 WO2024142683 A1 WO 2024142683A1 JP 2023041925 W JP2023041925 W JP 2023041925W WO 2024142683 A1 WO2024142683 A1 WO 2024142683A1
Authority
WO
WIPO (PCT)
Prior art keywords
wavelength
light
image
pixels
optical
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Ceased
Application number
PCT/JP2023/041925
Other languages
English (en)
French (fr)
Inventor
基樹 八子
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Intellectual Property Management Co Ltd
Original Assignee
Panasonic Intellectual Property Management Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Intellectual Property Management Co Ltd filed Critical Panasonic Intellectual Property Management Co Ltd
Priority to CN202380083796.9A priority Critical patent/CN120344839A/zh
Priority to EP23911465.5A priority patent/EP4644850A4/en
Priority to JP2024567296A priority patent/JPWO2024142683A1/ja
Publication of WO2024142683A1 publication Critical patent/WO2024142683A1/ja
Priority to US19/235,168 priority patent/US20250305880A1/en
Anticipated expiration legal-status Critical
Ceased legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/30Measuring the intensity of spectral lines directly on the spectrum itself
    • G01J3/36Investigating two or more bands of a spectrum by separate detectors
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/46Measurement of colour; Colour measuring devices, e.g. colorimeters
    • G01J3/50Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors
    • G01J3/51Measurement of colour; Colour measuring devices, e.g. colorimeters using electric radiation detectors using colour filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/26Reflecting filters
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B5/00Optical elements other than lenses
    • G02B5/20Filters
    • G02B5/28Interference filters
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/10Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths
    • H04N23/12Cameras or camera modules comprising electronic image sensors; Control thereof for generating image signals from different wavelengths with one sensor only
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2803Investigating the spectrum using photoelectric array detector
    • G01J2003/2806Array and filter array
    • GPHYSICS
    • G01MEASURING; TESTING
    • G01JMEASUREMENT OF INTENSITY, VELOCITY, SPECTRAL CONTENT, POLARISATION, PHASE OR PULSE CHARACTERISTICS OF INFRARED, VISIBLE OR ULTRAVIOLET LIGHT; COLORIMETRY; RADIATION PYROMETRY
    • G01J3/00Spectrometry; Spectrophotometry; Monochromators; Measuring colours
    • G01J3/28Investigating the spectrum
    • G01J3/2823Imaging spectrometer
    • G01J2003/2826Multispectral imaging, e.g. filter imaging

Definitions

  • This disclosure provides a light detection device that can be used in a hyperspectral camera and that can reduce the effects of noise.
  • FIG. 2D is a diagram showing an example of the spectral transmittance of the area A2 included in the filter array shown in FIG. 2A.
  • FIG. 3A is a diagram for explaining an example of the relationship between a target wavelength range and a plurality of wavelength bands included therein.
  • FIG. 3B is a diagram for explaining another example of the relationship between the target wavelength range and a plurality of wavelength bands included therein.
  • FIG. 4A is a diagram for explaining the characteristics of the spectral transmittance in a certain region of the filter array.
  • FIG. 4B is a diagram showing the results of averaging the spectral transmittance shown in FIG. 4A for each wavelength band.
  • FIG. 13A is a diagram illustrating a spatial pattern of luminance values of a compressed image for each of a plurality of wavelength bands of light.
  • FIG. 13B is a diagram illustrating an example of a histogram obtained from the luminance values of the compressed image for light in the kth wavelength band.
  • FIG. 14 is a diagram illustrating an example of a compressed image on which random noise is superimposed.
  • FIG. 15A is a diagram showing an example of the transmission spectrum of a filter included in a filter array.
  • FIG. 15B is a diagram showing the average MSE between the correct image and the restored image for five wavelength bands when random noise is superimposed on the compressed image.
  • 19C shows that when optical filter f i receives light Iin from an object, optical filter f i outputs light Iout i , and when photodetector d i detects light Iout i , it outputs signal s i .
  • all or part of a circuit, unit, device, member, or part, or all or part of a functional block in a block diagram may be implemented by one or more electronic circuits including, for example, a semiconductor device, a semiconductor integrated circuit (IC), or an LSI (large scale integration).
  • the LSI or IC may be integrated into one chip, or may be configured by combining multiple chips.
  • functional blocks other than memory elements may be integrated into one chip.
  • LSI or IC are referred to as such, but the name may change depending on the degree of integration, and may be called a system LSI, VLSI (very large scale integration), or ULSI (ultra large scale integration).
  • noises such as read noise, optical shot noise, and fixed pattern noise may be superimposed on the compressed image.
  • the noise increases the restoration error when generating the restored image.
  • the light detection device which can be used in a hyperspectral camera, can solve this problem.
  • the light detection device includes N pixels, each of which includes an optical filter and a light detection element. By appropriately designing the optical filter and light detection element included in each pixel, the effect of noise on the restored image can be reduced.
  • FIG. 1A is a diagram showing a schematic configuration example of a light detection system.
  • the light detection system 300 shown in FIG. 1A includes a light detection device 100 and an image processing device 200.
  • the light detection device 100 has a configuration similar to that of the light detection device disclosed in Patent Document 1.
  • the light detection device 100 includes an optical system 140, a filter array 110, and an image sensor 160.
  • the optical system 140 and the filter array 110 are disposed on the optical path of light incident from an object 70, which is a subject.
  • the filter array 110 in the example of FIG. 1A is disposed between the optical system 140 and the image sensor 160.
  • FIG. 1A illustrates an apple as an example of the object 70.
  • the object 70 is not limited to an apple, and may be any object.
  • the image sensor 160 generates data of a compressed image 10 in which information of a plurality of wavelength bands is compressed as a two-dimensional monochrome image.
  • the image processing device 200 generates image data for each of a plurality of wavelength bands included in a predetermined target wavelength range based on the data of the compressed image 10 generated by the image sensor 160.
  • the generated image data of the plurality of wavelength bands may be referred to as "hyperspectral image data".
  • the number of wavelength bands included in the target wavelength range is M (M is an integer of 4 or more).
  • the generated image data of the plurality of wavelength bands may be referred to as a restored image 20W 1 , a restored image 20W 2 , ..., a restored image 20W M , and these may be collectively referred to as a "hyperspectral image 20".
  • a collection of data or signals representing an image i.e., data or signals representing the luminance value of each pixel, may also be simply referred to as an "image”.
  • the filter array 110 is an array of multiple optical filters having translucency arranged in rows and columns.
  • the optical filters are simply referred to as "filters.”
  • the multiple filters include multiple types of filters with different spectral transmittances, i.e., wavelength dependence of transmittance.
  • the types of filters may be, for example, three or four or more. In the case of four or more types, the types of filters may be, for example, four, nine, sixteen, or twenty-five.
  • the filter array 110 modulates the intensity of the incident light for each wavelength and outputs it. This process by the filter array 110 is referred to as "encoding,” and the filter array 110 is also referred to as an "encoding element" or an "encoding mask.”
  • the filter array 110 is disposed near or directly above the image sensor 160.
  • “near” means close enough that a reasonably clear image of the light from the optical system 140 is formed on the surface of the filter array 110.
  • “Directly above” means that the two are so close that there is almost no gap between them.
  • the filter array 110 and the image sensor 160 may be integrated.
  • FIGS. 1B to 1D are diagrams showing configuration examples of the light detection device 100 in which the filter array 110 is located away from the image sensor 160.
  • the filter array 110 is located between the optical system 140 and the image sensor 160 and at a position away from the image sensor 160.
  • the filter array 110 is located between the object 70 and the optical system 140.
  • the light detection device 100 includes two optical systems 140A and 140B, and the filter array 110 is located between them.
  • an optical system including one or more lenses may be located between the filter array 110 and the image sensor 160.
  • the image sensor 160 is a monochrome type light detection device having a plurality of light detection elements arranged two-dimensionally.
  • the image sensor 160 may be, for example, a charge-coupled device (CCD), a complementary metal oxide semiconductor (CMOS) sensor, or an infrared array sensor.
  • the light detection elements include, for example, photodiodes.
  • the image sensor 160 does not necessarily have to be a monochrome type sensor. For example, a sensor having a filter that transmits red light, a filter that transmits green light, and a filter that transmits blue light may be used. Alternatively, a sensor having a filter that transmits infrared light or white light in addition to these filters may be used.
  • FIG. 2A is a diagram showing a schematic example of a filter array 110.
  • the filter array 110 has multiple regions arranged two-dimensionally. In this specification, the regions are sometimes referred to as "cells.” Filters having individually set spectral transmittances are arranged in each region.
  • the spectral transmittance is expressed as a function T( ⁇ ), where ⁇ is the wavelength of the incident light.
  • the spectral transmittance T( ⁇ ) can take a value between 0 and 1.
  • the filter array 110 has 48 rectangular regions arranged in 6 rows and 8 columns. This is merely an example, and in actual applications, more regions may be provided. The number may be approximately the same as the number of light detection elements in the image sensor 160, for example. The number of regions included in the filter array 110 is determined according to the application and may range from tens to tens of millions, for example.
  • 2B is a diagram showing an example of the spatial distribution of the transmittance for each of the light in the wavelength bands W1 , W2 , ..., WM included in the target wavelength range.
  • the difference in the shading of each region represents the difference in the transmittance. The lighter the region, the higher the transmittance, and the darker the region, the lower the transmittance.
  • the spatial distribution of the transmittance differs depending on the wavelength band.
  • 2C and 2D are diagrams showing examples of the spectral transmittance of the region A1 and the region A2 included in the filter array 110 shown in FIG. 2A, respectively.
  • the spectral transmittance of the region A1 and the spectral transmittance of the region A2 are different from each other. In this way, the spectral transmittance of the filter array 110 varies depending on the region. However, it is not necessary that the spectral transmittance of all the regions is different.
  • the spectral transmittance of at least some of the multiple regions is different from each other.
  • the filter array 110 includes two or more filters having different spectral transmittances from each other.
  • the number of patterns of the spectral transmittance of the multiple regions included in the filter array 110 may be equal to or greater than the number M of wavelength bands included in the target wavelength range.
  • the filter array 110 may be designed so that the spectral transmittance of more than half of the regions is different.
  • the target wavelength range W can be set to various ranges depending on the application.
  • the target wavelength range W can be, for example, a visible light wavelength range of about 400 nm to about 700 nm, a near-infrared wavelength range of about 700 nm to about 2500 nm, or a near-ultraviolet wavelength range of about 10 nm to about 400 nm.
  • the target wavelength range W may be a wavelength range such as mid-infrared or far-infrared. In this way, the wavelength range used is not limited to the visible light range.
  • radiation in general, including infrared and ultraviolet rays, as well as visible light is referred to as "light”.
  • M is an arbitrary integer equal to or greater than 4, and the wavelength bands obtained by dividing the target wavelength range W into M equal parts are wavelength band W 1 , wavelength band W 2 , ..., wavelength band W M.
  • the multiple wavelength bands included in the target wavelength range W may be set arbitrarily.
  • the bandwidth may be non-uniform depending on the wavelength band.
  • the bandwidth differs depending on the wavelength band, and there is a gap between two adjacent wavelength bands. In this way, the method of determining the multiple wavelength bands is arbitrary.
  • FIG. 4A is a diagram for explaining the characteristics of the spectral transmittance in a certain region of the filter array 110.
  • the spectral transmittance has multiple maximum values P1 to P5 and multiple minimum values with respect to wavelengths in the target wavelength range W.
  • the maximum value of the transmittance in the target wavelength range W is normalized to 1 and the minimum value is 0.
  • the spectral transmittance has maximum values in wavelength bands such as wavelength band W2 and wavelength band WM-1 . In this way, the spectral transmittance of each region can be designed to have maximum values in at least two wavelength ranges among the multiple wavelength bands included in the target wavelength range W.
  • the maximum values P1, P3, P4, and P5 are 0.5 or more.
  • FIG. 4B is a diagram showing an example of the spectral transmittance shown in FIG. 4A averaged for each wavelength band W 1 , W 2 , ..., W M.
  • the averaged transmittance is obtained by integrating the spectral transmittance T( ⁇ ) for each wavelength band and dividing by the bandwidth of the wavelength band.
  • the transmittance averaged for each wavelength band is defined as the transmittance for that wavelength band.
  • the transmittance is remarkably high in the three wavelength ranges having the maximum value P1, the maximum value P3, and the maximum value P5.
  • the transmittance exceeds 0.8 in the two wavelength ranges having the maximum value P3 and the maximum value P5.
  • a grayscale transmittance distribution is assumed in which the transmittance of each region can take any value between 0 and 1 inclusive.
  • a binary scale transmittance distribution may be adopted in which the transmittance of each region can take a value of either approximately 0 or approximately 1.
  • each region transmits most of the light in at least two of the multiple wavelength ranges included in the target wavelength range, and does not transmit most of the light in the remaining wavelength ranges.
  • "most" refers to approximately 80% or more.
  • a part of all the cells may be replaced with a transparent region.
  • a transparent region transmits light from all the wavelength bands W1 to WM included in the target wavelength range W with a similarly high transmittance, for example, a transmittance of 80% or more.
  • the multiple transparent regions may be arranged, for example, in a checkerboard pattern. That is, in two arrangement directions of the multiple regions in the filter array 110, regions whose transmittance varies depending on the wavelength and transparent regions may be arranged alternately.
  • the filter array 110 may be configured using, for example, a multilayer film, an organic material, a diffraction grating structure, a microstructure including a metal, or a metasurface.
  • a dielectric multilayer film or a multilayer film including a metal layer may be used as the multilayer film.
  • at least one of the thickness, material, and stacking order of each multilayer film is formed so that it differs for each cell. This allows different spectral characteristics to be realized for each cell.
  • a multilayer film a sharp rise and fall in the spectral transmittance can be realized.
  • a configuration using an organic material can be realized by making the pigment or dye contained different for each cell, or by stacking different materials.
  • the photodetection device 100 has a plurality of light receiving regions with different optical response characteristics.
  • the photodetection device 100 is equipped with a filter array 110 including a plurality of filters, and the plurality of filters have optical transmission characteristics that are irregularly different from one another
  • the plurality of light receiving regions can be realized by an image sensor 160 arranged adjacent to or directly above the filter array 110.
  • the optical response characteristics of the plurality of light receiving regions are determined based on the optical transmission characteristics of the plurality of filters included in the filter array 110.
  • the data to be obtained is the data of the hyperspectral image 20, and the data is denoted as f.
  • f is data obtained by integrating the image data f 1 , image data f 2 , ..., image data f M of each band.
  • the horizontal direction of the image is the x direction
  • the vertical direction of the image is the y direction.
  • the number of pixels in the x direction of the image data to be obtained is m
  • the number of pixels in the y direction is n
  • each of the image data f 1 , image data f 2 , ..., image data f M is two-dimensional data of n x m pixels.
  • the data f is three-dimensional data with the number of elements n x m x M.
  • This three-dimensional data is called “hyperspectral image data” or “hyperspectral data cube”.
  • the number of elements of the data g of the compressed image 10 obtained by encoding and multiplexing by the filter array 110 is n x m.
  • the data g can be expressed by the following formula (1).
  • the hyperspectral image 20 can be reconstructed by reflecting the influence of blurring of the encoding pattern by the PSF in the matrix H.
  • the position at which the filter array 110 is placed is arbitrary, but a position can be selected that will not cause the coding pattern of the filter array 110 to become too diffuse and disappear.
  • a hyperspectral image 20 can be restored from the compressed image 10 acquired by the filter array 110 and the image sensor 160. Details of the method for restoring the hyperspectral image 20 are disclosed in Patent Document 1. The disclosure of Patent Document 1 is incorporated herein by reference in its entirety.
  • Example 1 of the photodetection device 100 capable of reducing the influence of noise In reality, when capturing an image of the object 70, noise may be superimposed on the compressed image 10. In the following, a first example of the light detection device 100 capable of reducing the influence of noise will be described.
  • the photodetection device 100 can reduce the increase in restoration error due to noise even if noise is superimposed on the compressed image 10.
  • noise that is independent of the amount of light was dealt with.
  • the noise that is actually superimposed on the compressed image 10 includes not only read noise that is independent of the amount of light, but also, for example, optical shot noise that is proportional to the square root of the amount of light and fixed pattern noise that is proportional to the amount of light. Therefore, noise depends on the amount of light.
  • the brightness value reflects the amount of light.
  • FIG. 8 is a graph showing the relationship between the luminance value of each pixel in the compressed image 10 and the increase in restoration error in the corresponding pixel in the hyperspectral image 20 when the compressed image 10 is superimposed with actually measured noise.
  • the object 70 is a white plate. When the target wavelength range is the visible range, the white plate reflects light in the target wavelength range with approximately the same reflectance regardless of the wavelength band. If the wavelength dependency of the reflectance is low, the object 70 does not need to be a white plate.
  • the compressed image 10 was acquired under conditions where the average luminance value is 128.
  • This condition which is least likely to cause blown-out highlights and blocked-up shadows and has a wide dynamic range, can be selected for general purposes.
  • the compressed image 10 is acquired so that the average luminance value is the median value of the luminance range that can be acquired by the image sensor (128 in the case of 8-bit gradation).
  • the ⁇ MSE is approximately 4%.
  • the photodetection device 100 can be said to have N pixels.
  • Each of the N pixels includes a filter and a photodetection element that detects light that has passed through the filter.
  • the signal output from the photodetection element has information of four or more wavelength bands included in the target wavelength range superimposed thereon.
  • T i ( ⁇ k )I( ⁇ k ) represents the wavelength dependency of the effective sensitivity of the i-th pixel.
  • the wavelength dependency of the effective sensitivity of the i-th pixel may be T i ( ⁇ k )I i ( ⁇ k ).
  • ⁇ i corresponds to the luminance value of the i-th pixel in the compressed image 10 when the object 70 is a white board. Therefore, from the above discussion with reference to FIG. 8, if the minimum value among ⁇ 1 to ⁇ N is ⁇ min , then ⁇ MSE can be reduced to 10% or less when N pixels included in the light detection device 100 satisfy the following formula (5).
  • the value 0.5 on the right side of formula (5) corresponds to the value obtained by dividing the lowest luminance value 64 by the average luminance value 128.
  • the ⁇ MSE can be reduced to 7.5% or less.
  • the value 0.68 on the right side of formula (6) corresponds to the value obtained by dividing the lowest luminance value, 87, by the average luminance value, 128.
  • ⁇ i may be calculated based on T( ⁇ ) and I( ⁇ ). If the filter array 110 can be removed from the image sensor 160, T( ⁇ ) and I( ⁇ ) can be obtained separately. Even if it is not easy to remove the filter array 110 from the image sensor 160, I( ⁇ ) can be obtained from an image sensor of the same model number as the image sensor 160. Therefore, light of each of a plurality of wavelength bands included in the target wavelength range is detected using the filter array 110 and the image sensor 160, and T( ⁇ ) can be estimated based on T( ⁇ ) ⁇ I( ⁇ ) obtained from the detection result and the known I( ⁇ ).
  • an object 70 having a triangular shape has both bright and dark parts.
  • the filter array 110 shown in FIG. 10B has low transmittance in the part where the bright part of the object 70 is imaged, and has high transmittance in the part where the dark part of the object 70 is imaged.
  • Step S104> The image processing device 220 generates a hyperspectral image 20 from the compressed image 10 with superimposed noise, using the above mask information stored in the storage device.
  • a minimum value that the average value of the transmittance in the target wavelength range must satisfy is determined for the N filters included in the filter array 110 so that the increase in the restoration error is equal to or less than a predetermined value, as shown in Fig. 8.
  • the predetermined value may be, for example, 10%, 7.5%, or 5%. In this manner, the transmission characteristics of the filter array 110 are determined.
  • FIG. 13A is a diagram showing a schematic spatial pattern of the luminance values of the compressed image 10 for each of the light of a plurality of wavelength bands.
  • the spatial pattern is expressed as a mosaic pattern.
  • the distribution of the luminance values of the compressed image 10 differs depending on the wavelength band.
  • M k ⁇ k - ⁇ k
  • the filter array 110 includes multiple types of filters arranged irregularly.
  • the photodetector 100 has noise resistance against random noise.
  • M k does not need to be the same in all wavelength bands.
  • M k may be the same in some wavelength bands, or may be different in all wavelength bands.
  • the light detection device (Item 2) The light detection device according to the above item 1,
  • the optical filter f i receives light Iin i from the object,
  • the light Iin i includes light Iin i,W1 , ..., corresponding to the wavelength band W 1 , and light Iin i,WM corresponding to the wavelength band W M ,
  • the optical filter f i receives a light Iin i
  • the optical filter f i outputs a light Iout i ;
  • the light Iout i includes light Iout i,W1 , . . .
  • Light detection device That is, Light detection device.
  • the transmission spectrum of the optical filter exhibits multiple peaks in the target wavelength range.
  • the optical detection device according to any one of the first to third aspects.
  • This light detection device can effectively encode the light from the target object.
  • This light detection device can be used in hyperspectral cameras to reduce the effects of noise.
  • This light detection device makes it easy to distinguish between filters, improving the accuracy of hyperspectral image restoration.
  • noise resistance can be improved by increasing the transmittance.
  • This photodetection device can reduce variation in the accuracy of restoring separated images across multiple wavelength bands.
  • FIG. 9 A photodetector according to any one of techniques 1 to 8, A processing circuit; Equipped with the processing circuit generates four or more images corresponding to the four or more wavelength bands, respectively, based on image information obtained by signals output from the photodetection elements included in each of the N pixels and mask information indicating a spatial distribution of transmittance for each wavelength obtained from a transmission spectrum of the optical filter included in each of the N pixels.
  • Optical detection system Optical detection system.
  • This filter array can be used in hyperspectral cameras to reduce the effects of noise.
  • This manufacturing method makes it possible to produce filter arrays that can be used in hyperspectral cameras and reduce the effects of noise.

Landscapes

  • Physics & Mathematics (AREA)
  • Spectroscopy & Molecular Physics (AREA)
  • General Physics & Mathematics (AREA)
  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Optics & Photonics (AREA)
  • Spectrometry And Color Measurement (AREA)
  • Investigating Or Analysing Materials By Optical Means (AREA)
  • Solid State Image Pick-Up Elements (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Abstract

光検出装置は、N個の画素を備える光検出装置であって、前記N個の画素の各々は、光学フィルタと、前記光学フィルタを透過した光を検出する光検出素子とを含み、前記光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されており、前記N個の画素のうち、第iの画素(i=1、2、・・・、N)に含まれる前記光学フィルタの透過率の波長依存性と、前記第iの画素に含まれる前記光検出素子の検出感度の波長依存性とに基づく、前記第iの画素の実効感度の、前記対象波長域における平均値をμとし、μ~μのうち、最低値をμminとすると、μmin/(Σμ/N)>0.5である。

Description

光検出装置、光検出システム、およびフィルタアレイ
 本開示は、光検出装置、光検出システム、およびフィルタアレイに関する。
 圧縮センシングは、観測対象のデータ分布が、周波数空間のようなある空間においてスパース(疎)であると仮定することにより、観測されたデータよりも多くのデータを復元する技術である。圧縮センシングは、例えば、少数の観測データからより多くの情報を含む画像を復元する撮像装置に適用され得る。圧縮センシングが適用された撮像装置は、対象物のスペクトル情報が圧縮された画像から、演算によって復元画像を生成する。その結果、例えば画像の高解像化、多波長化、撮像時間の短縮、または高感度化などの種々の効果を得ることが可能になる。
 特許文献1は、各々が狭帯域である複数の波長バンドの画像を取得するハイパースペクトルカメラに圧縮センシング技術を適用した例を開示している。特許文献1に開示された技術によれば、高解像度かつ多波長の画像を生成するハイパースペクトルカメラを実現することができる。
米国特許第9599511号明細書
 本開示は、ハイパースペクトルカメラに利用でき、ノイズの影響を低減することが可能な光検出装置を提供する。
 本開示の一態様に係る光検出装置は、N個の画素を備える光検出装置であって、前記N個の画素の各々は、光学フィルタと、前記光学フィルタを透過した光を検出する光検出素子とを含み、前記光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されており、前記N個の画素のうち、第iの画素(i=1、2、・・・、N)に含まれる前記光学フィルタの透過率の波長依存性と、前記第iの画素に含まれる前記光検出素子の検出感度の波長依存性とに基づく、前記第iの画素の実効感度の前記対象波長域における平均値をμとし、μ~μのうち、最低値をμminとすると、
Figure JPOXMLDOC01-appb-M000004
である。
 本開示の包括的または具体的な態様は、システム、装置、方法、集積回路、コンピュータプログラムまたはコンピュータ読み取り可能な記録ディスク等の記録媒体で実現されてもよく、システム、装置、方法、集積回路、コンピュータプログラムおよび記録媒体の任意の組み合わせで実現されてもよい。コンピュータ読み取り可能な記録媒体は、例えばCD-ROM(Compact Disc‐Read Only Memory)等の不揮発性の記録媒体を含み得る。装置は、1つ以上の装置で構成されてもよい。装置が2つ以上の装置で構成される場合、当該2つ以上の装置は、1つの機器内に配置されてもよく、分離した2つ以上の機器内に分かれて配置されてもよい。本明細書および特許請求の範囲では、「装置」とは、1つの装置を意味し得るだけでなく、複数の装置からなるシステムも意味し得る。
 本開示の技術によれば、ハイパースペクトルカメラに利用でき、ノイズの影響を低減することが可能な光検出装置を実現できる。
図1Aは、光検出システムの構成例を模式的に示す図である。 図1Bは、光検出システムの他の構成例を模式的に示す図である。 図1Cは、光検出システムのさらに他の構成例を模式的に示す図である。 図1Dは、光検出システムのさらに他の構成例を模式的に示す図である。 図2Aは、フィルタアレイの例を模式的に示す図である。 図2Bは、対象波長域に含まれる複数の波長バンドの各々の光についての透過率の空間分布の一例を示す図である。 図2Cは、図2Aに示すフィルタアレイに含まれる領域A1の分光透過率の例を示す図である。 図2Dは、図2Aに示すフィルタアレイに含まれる領域A2の分光透過率の例を示す図である。 図3Aは、対象波長域と、それに含まれる複数の波長バンドとの関係の例を説明するための図である。 図3Bは、対象波長域と、それに含まれる複数の波長バンドとの関係の他の例を説明するための図である。 図4Aは、フィルタアレイのある領域における分光透過率の特性を説明するための図である。 図4Bは、図4Aに示す分光透過率を、波長バンドごとに平均化した結果を示す図である。 図5は、ノイズが0%および2%である場合の、圧縮画像と、ある波長バンドについての復元画像の誤差マップとを示す図である。 図6は、ノイズが2%である場合の、圧縮画像内の各画素の輝度値と、ハイパースペクトル画像内の対応する画素における復元誤差の増加量との関係を示すグラフである。 図7は、圧縮画像における輝度値とノイズ量との関係の測定結果を示すグラフである。 図8は、圧縮画像に実測したノイズを重畳した場合の、圧縮画像内の各画素の輝度値と、ハイパースペクトル画像内の対応する画素における復元誤差の増加量との関係を示すグラフである。 図9Aは、対象物が白板である場合の、異なるμmin/(Σμ/N)についての圧縮画像の例を示す図である。 図9Bは、異なるμmin/(Σμ/N)についての圧縮画像の輝度値から得られるヒストグラムの例を示すグラフである。 図10Aは、対象物の例を模式的に示す図である。 図10Bは、フィルタアレイの例を模式的に示す図である。 図10Cは、圧縮画像の例を模式的に示す図である。 図11は、汎用性のあるフィルタアレイの例を模式的に示す図である。 図12は、フィルタアレイの製造方法の例を概略的に示すフローチャートである。 図13Aは、複数の波長バンドの各々の光についての圧縮画像の輝度値の空間パターンを模式的に示す図である。 図13Bは、第kの波長バンドの光についての圧縮画像の輝度値から得られるヒストグラムの例を模式的に示す図である。 図14は、ランダムノイズが重畳された圧縮画像の例を模式的に示す図である。 図15Aは、あるフィルタアレイに含まれるフィルタの透過スペクトルの例を示す図である。 図15Bは、圧縮画像にランダムノイズが重畳された場合の、5つの波長バンドについての正解画像と復元画像との間のMSEの平均値を示す図である。 図16は、σ=0.08である場合の、複数の波長バンドについての正解画像と復元画像との間のMSEの平均値と、M=μとの関係を示す図である。 図17Aは、σ=0.05である場合の、複数の波長バンドについての正解画像と復元画像との間のMSEの平均値と、M=μとの関係を示す図である。 図17Bは、σ=0.07である場合の、複数の波長バンドについての正解画像と復元画像との間のMSEの平均値と、M=μとの関係を示す図である。 図17Cは、σ=0.1である場合の、複数の波長バンドについての正解画像と復元画像との間のMSEの平均値と、M=μとの関係を示す図である。 図18Aは、フィルタアレイの第1の例を模式的に示す図である。 図18Bは、フィルタアレイの第2の例を模式的に示す図である。 図19Aは、複数の光学フィルタと複数の光検出器の例を示す。 図19Bは、複数の光学フィルタと複数の光検出器の例を示す。 図19Cは、光学フィルタfが被写体からの光Iinを受取ると光学フィルタfは光Ioutを出力すること、及び、光検出器dが光Ioutを検出すると信号sを出力することを示す。
 本開示において、回路、ユニット、装置、部材または部の全部または一部、またはブロック図における機能ブロックの全部または一部は、例えば、半導体装置、半導体集積回路(IC)、またはLSI(large scale integration)を含む1つまたは複数の電子回路によって実行され得る。LSIまたはICは、1つのチップに集積されてもよいし、複数のチップを組み合わせて構成されてもよい。例えば、記憶素子以外の機能ブロックは、1つのチップに集積されてもよい。ここでは、LSIまたはICと呼んでいるが、集積の度合いによって呼び方が変わり、システムLSI、VLSI(very large scale integration)、もしくはULSI(ultra large scale integration)と呼ばれるものであってもよい。LSIの製造後にプログラムされる、Field Programmable Gate Array(FPGA)、またはLSI内部の接合関係の再構成(reconfiguration)またはLSI内部の回路区画のセットアップができるreconfigurable logic deviceも同じ目的で使うことができる。
 さらに、回路、ユニット、装置、部材または部の全部または一部の機能または操作は、ソフトウェア処理によって実行することが可能である。この場合、ソフトウェアは1つまたは複数のROM、光学ディスク、ハードディスクドライブなどの非一時的記録媒体に記録され、ソフトウェアが処理装置(processor)によって実行されたときに、そのソフトウェアで特定された機能が処理装置(processor)および周辺装置によって実行される。システムまたは装置は、ソフトウェアが記録されている1つまたは複数の非一時的記録媒体、処理装置(processor)、および必要とされるハードウェアデバイス、例えばインターフェースを備えていてもよい。
 本開示において、「光」とは、可視光(波長が約400nm~約700nm)だけでなく、紫外線(波長が約10nm~約400nm)および赤外線(波長が約700nm~約1mm)を含む電磁波を意味する。
 以下、本開示の例示的な実施形態を説明する。なお、以下で説明する実施形態は、いずれも包括的又は具体的な例を示すものである。以下の実施形態で示される数値、形状、構成要素、構成要素の配置位置及び接続形態、ステップ、ステップの順序などは、一例であり、本開示を限定する主旨ではない。また、以下の実施形態における構成要素のうち、最上位概念を示す独立請求項に記載されていない構成要素については、任意の構成要素として説明される。また、各図は模式図であり、必ずしも厳密に図示されたものではない。さらに、各図において、実質的に同一の構成要素に対しては同一の符号を付しており、重複する説明は省略又は簡略化される場合がある。
 本開示の実施形態を説明する前に、本開示の基礎となった知見を説明する。
 スパース性とは、観測対象を特徴づける要素が、周波数空間のようなある空間においては疎ら(スパース)に存在しているという性質である。スパース性は、自然界において広く見られる。スパース性を利用することにより、必要な情報を効率的に観測することが可能になる。スパース性を利用したセンシング技術は、圧縮センシング技術と呼ばれる。圧縮センシング技術を利用することにより、高効率なデバイスおよびシステムの構築が可能である。
 圧縮センシング技術の具体的な応用例として、例えば、特許文献1に開示されているような波長分解能を向上させたハイパースペクトルカメラが提案されている。当該ハイパースペクトルカメラは、例えば、空間および/または波長について不規則な光透過特性を有する光学フィルタを備える。そのような光学フィルタを「符号化マスク」とも称する。符号化マスクは、イメージセンサに入射する光の光路上に配置され、対象物から入射する光を、領域によって異なる光透過特性で透過させる。符号化マスクによるこの過程を「符号化」と称する。符号化マスクを介して取得された対象物の画像には、対象物のスペクトル情報が圧縮されている。当該画像を「圧縮画像」と称する。符号化マスクの光透過性を示すマスク情報は、復元テーブルとして予め記憶装置に記憶されている。
 ハイパースペクトルカメラに含まれる処理装置は、圧縮画像および復元テーブルに基づいて復元処理を行う。復元処理により、より高解像度の画像情報、またはより多くの波長の画像情報などの、圧縮画像よりも多くの情報を有する復元画像が生成される。復元テーブルは、例えば、符号化マスクの光応答特性の空間分布を示すデータであり得る。そのような復元テーブルに基づく復元処理により、1つの圧縮画像から、対象波長域に含まれる複数の波長バンドにそれぞれ対応する複数の復元画像を生成することができる。
 実際には、上記の圧縮画像に、読み出しノイズ、光ショットノイズ、および固定パターンノイズなどの様々なノイズが重畳され得る。ノイズは、復元画像の生成において、復元誤差を増加させる。
 ハイパースペクトルカメラに利用できる本開示の実施形態による光検出装置は、この課題を解決することができる。当該光検出装置は、各々が光学フィルタと光検出素子とを含むN個の画素を備える。各画素に含まれる光学フィルタおよび光検出素子を適切に設計することにより、ノイズが復元画像に及ぼす影響を低減することができる。
 (実施形態)
 以下では、まず、圧縮画像から復元画像を生成する光検出システムを説明する。次に、光検出システムに含まれる、ノイズの影響を低減できる光検出装置の例1および2を説明する。
 [1.光検出システム]
 図1Aは、光検出システムの構成例を模式的に示す図である。図1Aに示す光検出システム300は、光検出装置100と、画像処理装置200とを備える。光検出装置100は、特許文献1に開示された光検出装置と同様の構成を備える。光検出装置100は、光学系140と、フィルタアレイ110と、イメージセンサ160とを備える。光学系140およびフィルタアレイ110は、被写体である対象物70から入射する光の光路上に配置される。図1Aの例におけるフィルタアレイ110は、光学系140とイメージセンサ160との間に配置されている。
 図1Aには、対象物70の一例として、リンゴが例示されている。対象物70は、リンゴに限らず、任意の物体であり得る。イメージセンサ160は、複数の波長バンドの情報が2次元のモノクロ画像として圧縮された圧縮画像10のデータを生成する。画像処理装置200は、イメージセンサ160が生成した圧縮画像10のデータに基づいて、所定の対象波長域に含まれる複数の波長バンドのそれぞれについての画像データを生成する。この生成される複数の波長バンドの画像データを、「ハイパースペクトル画像データ」と称することがある。ここで、対象波長域に含まれる波長バンドの数をM(Mは4以上の整数)とする。以下の説明において、生成される複数の波長バンドの画像データを、復元画像20W、復元画像20W、・・・、復元画像20Wと称し、これらを「ハイパースペクトル画像20」と総称することがある。本明細書において、画像を示すデータまたは信号、すなわち、各画素の輝度値を表すデータまたは信号の集合を、単に「画像」とも称する。
 本実施形態におけるフィルタアレイ110は、行および列状に配列された透光性を有する複数の光学フィルタのアレイである。以下では、光学フィルタを単に「フィルタ」と称する。複数のフィルタは、分光透過率、すなわち透過率の波長依存性が互いに異なる複数種類のフィルタを含む。フィルタの種類は、例えば3種類または4種類以上であり得る。4種類以上の場合、フィルタの種類は、例えば、4種類、9種類、16種類、または25種類であり得る。フィルタアレイ110は、入射光の強度を波長ごとに変調して出力する。フィルタアレイ110によるこの過程を「符号化」と称し、フィルタアレイ110を「符号化素子」または「符号化マスク」とも称する。
 図1Aに示す例において、フィルタアレイ110は、イメージセンサ160の近傍または直上に配置されている。ここで「近傍」とは、光学系140からの光の像がある程度鮮明な状態でフィルタアレイ110の面上に形成される程度に近接していることを意味する。「直上」とは、ほとんど隙間が生じない程両者が近接していることを意味する。フィルタアレイ110およびイメージセンサ160は一体化されていてもよい。
 光学系140は、少なくとも1つのレンズを含む。図1Aでは、光学系140が1つのレンズとして示されているが、光学系140は複数のレンズの組み合わせであってもよい。光学系140は、フィルタアレイ110を介して、イメージセンサ160の撮像面上に像を形成する。
 フィルタアレイ110は、イメージセンサ160から離れて配置されていてもよい。図1Bから図1Dは、フィルタアレイ110がイメージセンサ160から離れて配置されている光検出装置100の構成例を示す図である。図1Bの例では、フィルタアレイ110が、光学系140とイメージセンサ160との間で、かつイメージセンサ160から離れた位置に配置されている。図1Cの例では、フィルタアレイ110が対象物70と光学系140との間に配置されている。図1Dの例では、光検出装置100が2つの光学系140Aおよび140Bを備え、それらの間にフィルタアレイ110が配置されている。これらの例のように、フィルタアレイ110とイメージセンサ160との間に1つ以上のレンズを含む光学系が配置されていてもよい。
 イメージセンサ160は、2次元的に配列された複数の光検出素子を有するモノクロタイプの光検出装置である。イメージセンサ160は、例えばCCD(Charge-Coupled Device)、CMOS(Complementary Metal Oxide Semiconductor)センサ、または赤外線アレイセンサであり得る。光検出素子は、例えばフォトダイオードを含む。イメージセンサ160は、必ずしもモノクロタイプのセンサである必要はない。例えば、赤色の光を透過するフィルタ、緑色の光を透過するフィルタ、および青色の光を透過するフィルタを有するセンサを用いてもよい。あるいは、これらのフィルタに加えて赤外光または白色光を透過するフィルタを有するセンサを用いてもよい。これらのセンサを使用することにより、波長に関する情報量を増やすことができ、ハイパースペクトル画像20の復元精度を向上させることが可能になる。対象波長域は任意に決定してもよく、可視の波長域に限らず、紫外、近赤外、中赤外、または遠赤外の波長範囲であってもよい。
 画像処理装置200は、1つ以上の処理回路と、メモリ等の1つ以上の記憶媒体とを備えるコンピュータであり得る。画像処理装置200、より具体的には1つ以上の処理回路は、圧縮画像10に基づいて、復元画像20W、復元画像20W、・・・、復元画像20Wのデータを生成する。
 図2Aは、フィルタアレイ110の例を模式的に示す図である。フィルタアレイ110は、2次元的に配列された複数の領域を有する。本明細書では、当該領域を、「セル」と称することがある。各領域には、個別に設定された分光透過率を有するフィルタが配置されている。分光透過率は、入射光の波長をλとして、関数T(λ)で表される。分光透過率T(λ)は、0以上1以下の値を取り得る。
 図2Aに示す例において、フィルタアレイ110は、6行8列に配列された48個の矩形領域を有する。これはあくまで例示であり、実際の用途では、これよりも多くの領域が設けられ得る。その数は、例えばイメージセンサ160の光検出素子の数と同程度であってもよい。フィルタアレイ110に含まれる領域数は、例えば数十から数千万の範囲で用途に応じて決定される。
 図2Bは、対象波長域に含まれる波長バンドW、波長バンドW、・・・、波長バンドWの各々の光についての透過率の空間分布の一例を示す図である。図2Bに示す例では、各領域の濃淡の違いは、透過率の違いを表している。淡い領域ほど透過率が高く、濃い領域ほど透過率が低い。図2Bに示すように、波長バンドによって透過率の空間分布が異なっている。
 図2Cおよび図2Dは、それぞれ、図2Aに示すフィルタアレイ110に含まれる領域A1および領域A2の分光透過率の例を示す図である。領域A1の分光透過率および領域A2の分光透過率は互いに異なる。このように、フィルタアレイ110の分光透過率は、領域によって異なる。ただし、必ずしもすべての領域の分光透過率が異なっている必要はない。フィルタアレイ110では、複数の領域の少なくとも一部の領域の分光透過率が互いに異なっている。フィルタアレイ110は、分光透過率が互いに異なる2つ以上のフィルタを含む。ある例では、フィルタアレイ110に含まれる複数の領域の分光透過率のパターンの数は、対象波長域に含まれる波長バンドの数Mと同じか、それ以上であり得る。フィルタアレイ110は、半数以上の領域の分光透過率が異なるように設計されていてもよい。
 図3Aおよび図3Bは、対象波長域Wと、それに含まれる波長バンドW、波長バンドW、・・・、波長バンドWとの関係を説明するための図である。対象波長域Wは、用途によって様々な範囲に設定され得る。対象波長域Wは、例えば、約400nmから約700nmの可視光の波長域、約700nmから約2500nmの近赤外線の波長域、または約10nmから約400nmの近紫外線の波長域であり得る。あるいは、対象波長域Wは、中赤外または遠赤外などの波長域であってもよい。このように、使用される波長域は可視光域とは限らない。本明細書では、可視光に限らず、赤外線および紫外線を含む放射全般を「光」と称する。
 図3Aに示す例では、Mを4以上の任意の整数として、対象波長域WをM等分したそれぞれの波長域を波長バンドW、波長バンドW、・・・、波長バンドWとしている。ただしこのような例に限定されない。対象波長域Wに含まれる複数の波長バンドは任意に設定してもよい。例えば、波長バンドによって帯域幅を不均一にしてもよい。隣接する波長バンドの間にギャップまたは重なりがあってもよい。図3Bに示す例では、波長バンドによって帯域幅が異なり、かつ隣接する2つの波長バンドの間にギャップがある。このように、複数の波長バンドの決め方は任意である。
 図4Aは、フィルタアレイ110のある領域における分光透過率の特性を説明するための図である。図4Aに示す例では、分光透過率は、対象波長域W内の波長に関して、複数の極大値P1からP5、および複数の極小値を有する。図4Aに示す例では、対象波長域W内での透過率の最大値が1、最小値が0となるように正規化されている。図4Aに示す例では、波長バンドWおよび波長バンドWM-1などの波長バンドにおいて、分光透過率が極大値を有している。このように、各領域の分光透過率は、対象波長域Wに含まれる複数の波長バンドのうち、少なくとも2つの波長域において極大値を有するように設計され得る。図4Aの例では、極大値P1、極大値P3、極大値P4および極大値P5は0.5以上である。
 このように、各領域の透過率は、波長によって異なる。したがって、フィルタアレイ110は、入射する光のうち、ある波長域の成分を多く透過させ、他の波長域の成分をそれほど透過させない。例えば、M個の波長バンドのうちのk個の波長バンドの光については、透過率が0.5よりも大きく、残りのM-k個の波長域の光については、透過率が0.5未満であり得る。kは、2≦k<Mを満たす整数である。仮に入射光が、すべての可視光の波長成分を均等に含む白色光であった場合には、フィルタアレイ110は、入射光を領域ごとに、波長に関して離散的な複数の強度のピークを有する光に変調し、これらの多波長の光を重畳して出力する。
 図4Bは、一例として、図4Aに示す分光透過率を、波長バンドW、波長バンドW、・・・、波長バンドWごとに平均化した結果を示す図である。平均化された透過率は、分光透過率T(λ)を波長バンドごとに積分してその波長バンドの帯域幅で除算することによって得られる。本明細書では、このように波長バンドごとに平均化した透過率の値を、その波長バンドにおける透過率とする。この例では、極大値P1、極大値P3、および極大値P5をとる3つの波長域において、透過率が突出して高くなっている。特に、極大値P3および極大値P5をとる2つの波長域において、透過率が0.8を超えている。
 図2Aから図2Dに示す例では、各領域の透過率が0以上1以下の任意の値をとり得るグレースケールの透過率分布が想定されている。しかし、必ずしもグレースケールの透過率分布にする必要はない。例えば、各領域の透過率がほぼ0またはほぼ1のいずれかの値を取り得るバイナリスケールの透過率分布を採用してもよい。バイナリスケールの透過率分布では、各領域は、対象波長域に含まれる複数の波長域のうちの少なくとも2つの波長域の光の大部分を透過させ、残りの波長域の光の大部分を透過させない。ここで「大部分」とは、概ね80%以上を指す。
 全セルのうちの一部、例えば半分のセルを、透明領域に置き換えてもよい。そのような透明領域は、対象波長域Wに含まれるすべての波長バンドWから波長バンドWの光を同程度の高い透過率、例えば80%以上の透過率で透過させる。そのような構成では、複数の透明領域は、例えば市松(checkerboard)状に配置され得る。すなわち、フィルタアレイ110における複数の領域の2つの配列方向において、透過率が波長によって異なる領域と、透明領域とが交互に配列され得る。
 このようなフィルタアレイ110の波長ごとの透過率の空間分布を示すデータは、設計データまたは実測キャリブレーションに基づいて事前に取得され、画像処理装置200が備える記憶媒体に格納される。このデータは、後述する演算処理に利用される。
 フィルタアレイ110は、例えば、多層膜、有機材料、回折格子構造、金属を含む微細構造、またはメタサーフェスを用いて構成され得る。多層膜としては、例えば、誘電体多層膜または金属層を含む多層膜が用いられ得る。この場合、セルごとに各多層膜の厚さ、材料、および積層順序の少なくとも1つが異なるように形成される。これにより、セルによって異なる分光特性を実現できる。多層膜を用いることにより、分光透過率におけるシャープな立ち上がりおよび立下りを実現できる。有機材料を用いた構成は、セルによって含有する顔料または染料が異なるようにしたり、異種の材料を積層させたりすることによって実現され得る。回折格子構造を用いた構成は、セルごとに異なる回折ピッチまたは深さの回折構造を設けることによって実現され得る。金属を含む微細構造は、プラズモン効果による分光を利用して作製され得る。メタサーフェスは、入射光の波長よりも小さいサイズで誘電体材料を微細加工することによって作製され得る。当該構造では、入射光に対する屈折率が空間的に変調される。あるいは、フィルタアレイ110を用いずに、イメージセンサ160に含まれる複数の光検出素子を直接加工することにより、入射光を符号化してもよい。
 上記のことから、光検出装置100は、光応答特性が互いに異なる複数の受光領域を有すると言うことができる。光検出装置100が、複数のフィルタを含むフィルタアレイ110を備え、当該複数のフィルタが互いに不規則に異なる光透過特性を有する場合、複数の受光領域は、フィルタアレイ110が近傍または直上に配置されたイメージセンサ160によって実現され得る。この場合、複数の受光領域の光応答特性は、それぞれ、フィルタアレイ110に含まれる複数のフィルタの光透過特性に基づいて決定される。
 あるいは、光検出装置100がフィルタアレイ110を備えない場合、複数の受光領域は、例えば、光応答特性が互いに不規則に異なるように複数の画素が直接加工されたイメージセンサ160によって実現され得る。この場合、複数の受光領域の光応答特性は、それぞれ、イメージセンサ160に含まれる複数の画素の光応答特性に基づいて決定される。
 上記の多層膜、有機材料、回折格子構造、金属を含む微細構造、またはメタサーフェスは、2次元平面内において分光透過率が位置に応じて異なるように変調された構成であれば、入射光の符号化が可能である、したがって、上記の多層膜、有機材料、回折格子構造、金属を含む微細構造、またはメタサーフェスは、複数のフィルタがアレイ状に配置された構成である必要はない。
 次に、画像処理装置200による信号処理の例を説明する。画像処理装置200は、イメージセンサ160から出力された圧縮画像10、およびフィルタアレイ110の波長ごとの透過率の空間分布特性に基づいて、多波長のハイパースペクトル画像20を再構成する。ここで多波長とは、例えば通常のカラーカメラで取得される赤色、緑色、および青色の3色の波長域よりも多くの波長域を意味する。この波長域の数は、例えば4から100程度の数であり得る。この波長域の数を、「バンド数」と称する。用途によっては、バンド数は100を超えていてもよい。
 求めたいデータはハイパースペクトル画像20のデータであり、そのデータをfとする。波長バンドの数をMとすると、fは、各バンドの画像データf、画像データf、・・・、画像データfを統合したデータである。ここで、画像の横方向をx方向、画像の縦方向をy方向とする。求めるべき画像データのx方向の画素数をmとし、y方向の画素数をnとすると、画像データf、画像データf、・・・、画像データfの各々は、n×m画素の2次元データである。したがって、データfは要素数n×m×Mの3次元データである。この3次元データを、「ハイパースペクトル画像データ」または「ハイパースペクトルデータキューブ」と称する。一方、フィルタアレイ110によって符号化および多重化されて取得される圧縮画像10のデータgの要素数はn×mである。データgは、以下の式(1)によって表すことができる。
Figure JPOXMLDOC01-appb-M000005
 ここで、f、f、・・・、fの各々は、n×m個の要素を有するデータである。したがって、右辺のベクトルは、n×m×M行1列の1次元ベクトルである。ベクトルgは、n×m行1列の1次元ベクトルに変換されて表され、計算される。行列Hは、ベクトルfの各成分f、f、・・・、fを波長バンドごとに異なる符号化情報(以下、「マスク情報」とも称する。)で符号化および強度変調し、それらを加算する変換を表す。したがって、Hは、n×m行n×m×M列の行列である。
 ベクトルgと行列Hが与えられれば、式(1)の逆問題を解くことにより、fを算出することができそうである。しかし、求めるデータfの要素数n×m×Mが取得データgの要素数n×mよりも多いため、この問題は不良設定問題であり、このままでは解くことができない。そこで、画像処理装置200は、データfに含まれる画像の冗長性を利用し、圧縮センシングの手法を用いて解を求める。具体的には、以下の式(2)を解くことにより、求めるデータfが推定される。
Figure JPOXMLDOC01-appb-M000006
 ここで、f’は、推定されたfのデータを表す。上式の括弧内の第1項は、推定結果Hfと取得データgとのずれ量、いわゆる残差項を表す。ここでは2乗和を残差項としているが、絶対値または二乗和平方根等を残差項としてもよい。括弧内の第2項は、正則化項または安定化項である。式(2)は、第1項と第2項との和を最小化するfを求めることを意味する。式(2)における括弧内の関数を評価関数と呼ぶ。画像処理装置200は、再帰的な反復演算によって解を収束させ、評価関数を最小にするfを、最終的な解f’として算出することができる。
 式(2)の括弧内の第1項は、取得データgと、推定過程のfを行列Hによって変換したHfとの差の二乗和を求める演算を意味する。第2項のΦ(f)は、fの正則化における制約条件であり、推定データのスパース情報を反映した関数である。この関数は、推定データを滑らかまたは安定にする効果をもたらす。正則化項は、例えば、fの離散的コサイン変換(DCT)、ウェーブレット変換、フーリエ変換、またはトータルバリエーション(TV)などによって表され得る。例えば、トータルバリエーションを使用した場合、観測データgのノイズの影響を抑えた安定した推測データを取得できる。それぞれの正則化項の空間における対象物70のスパース性は、対象物70のテキスチャによって異なる。対象物70のテキスチャが正則化項の空間においてよりスパースになる正則化項を選んでもよい。あるいは、複数の正則化項を演算に含んでもよい。τは、重み係数である。重み係数τが大きいほど冗長的なデータの削減量が多くなり、圧縮する割合が高まる。重み係数τが小さいほど解への収束性が弱くなる。重み係数τは、fがある程度収束し、かつ、過圧縮にならない適度な値に設定される。
 なお、図1Bおよび図1Cの構成においては、フィルタアレイ110によって符号化された像は、イメージセンサ160の撮像面上でボケた状態で取得される。したがって、予めこのボケ情報を保有しておき、そのボケ情報を前述の行列Hに反映させることにより、ハイパースペクトル画像20を再構成することができる。ここで、ボケ情報は、点拡がり関数(Point Spread Function:PSF)によって表される。PSFは、点像の周辺画素への拡がりの程度を規定する関数である。例えば、画像上で1画素に相当する点像が、ボケによってその画素の周囲のk×k画素の領域に広がる場合、PSFは、その領域内の各画素の画素値への影響を示す係数群、すなわち行列として規定され得る。PSFによる符号化パターンのボケの影響を、行列Hに反映させることにより、ハイパースペクトル画像20を再構成することができる。フィルタアレイ110が配置される位置は任意であるが、フィルタアレイ110の符号化パターンが拡散しすぎて消失しない位置が選択され得る。
 以上の処理により、フィルタアレイ110およびイメージセンサ160によって取得された圧縮画像10から、ハイパースペクトル画像20を復元することができる。ハイパースペクトル画像20の復元方法の詳細は、特許文献1に開示されている。特許文献1の開示内容の全体を本明細書に援用する。
 [2.ノイズの影響を低減できる光検出装置100の例1]
 実際には、対象物70を撮像する際に、圧縮画像10にノイズが重畳され得る。以下では、ノイズの影響を低減できる光検出装置100の例1を説明する。
 [2.1.ノイズがハイパースペクトル画像20に及ぼす影響]
 まず、図5を参照して、ノイズがハイパースペクトル画像20に及ぼす影響を説明する。図5は、ノイズが0%および2%である場合の、圧縮画像10と、ハイパースペクトル画像20の誤差マップとを示す図である。対象物70は蝶である。図5には、左上および左下に、それぞれ、0%および2%のノイズが重畳された圧縮画像10が示されている。図5には、さらに、右上および右下に、それぞれ、0%および2%のノイズが重畳された圧縮画像10から復元されたハイパースペクトル画像20の誤差マップが示されている。誤差マップは、対象波長域に含まれる複数の波長バンドについての復元画像と正解画像との間の復元誤差を平均化した値の空間分布に相当する。図5に示す誤差マップでは、白いほど誤差が大きく、黒いほど誤差が小さい。
 ここで、圧縮画像にa%のノイズを重畳するとは、圧縮画像120内の複数の輝度値の各々に、(100-a)/100以上(100+a)/100以下の範囲の中からランダムに選択された数値を乗算することを意味する。図5に示す例では、誤差マップ内のある画素における復元誤差として、復元画像内の当該ある画素の輝度値と、正解画像内の当該ある画素の輝度値との間の平均2乗誤差(Mean Squared Error:MSE)が用いられている。MSEは、以下の式(3)を用いて計算される。
Figure JPOXMLDOC01-appb-M000007
 mおよびnは、それぞれ、横方向および縦方向の画素数である。Ii、jは、正解画像内の位置(i、j)の画素の輝度値である。I’i、jは、復元画像内の位置(i、j)の画素の輝度値である。
 図5の右上に示すように、ノイズが0%である場合でも、復元演算の過程で復元誤差が生じる。図5の右下に示すように、ノイズが2%である場合、ノイズが0%である場合と比較して、復元誤差が全体的に増加していることがわかる。このように、ノイズは復元画像の復元誤差を増加させる。
 本実施形態による光検出装置100によれば、圧縮画像10にノイズが重畳しても、ノイズによる復元誤差の増加を低減することができる。
 [2.2.ノイズによる復元誤差の増加]
 次に、図6を参照して、ノイズによって復元誤差がどの程度増加するかを説明する。図6は、ノイズが2%である場合の、圧縮画像10内の各画素の輝度値と、ハイパースペクトル画像20内の対応する画素における復元誤差の増加量との関係を示すグラフである。ハイパースペクトル画像20内のある画素における復元誤差は、対象波長域に含まれる波長バンドについての復元画像内のある画素における復元誤差の平均値を意味する。圧縮画像10は、図5の左下の圧縮画像である。圧縮画像10は、2次元的に配列された512×512の画素を含む。輝度値は8ビット階調によって表され、輝度値の最小値は0であり、最大値は255である。各画素における復元誤差の増加量ΔMSEは、復元誤差MSE’から復元誤差MSEを減算した値に相当する。復元誤差MSE’は、ノイズが重畳された圧縮画像10から復元されたハイパースペクトル画像20内の各画素における復元誤差である。復元誤差MSEは、ノイズが重畳されていない圧縮画像10から復元されたハイパースペクトル画像20内の対応する画素における復元誤差である。図6に示す例において、復元誤差MSE’は図5の右下の誤差マップから得られ、復元誤差MSEは図5の右上の誤差マップから得られる。図6に示すように、輝度値が小さくなるほど、ΔMSEが増加することがわかる。これは、輝度値が小さいほど、ノイズがハイパースペクトル画像20に及ぼす影響が大きくなることを意味する。
 図6に示す例では、光量に依存しないノイズが扱われた。実際に圧縮画像10に重畳されるノイズは、光量に依存しない読み出しノイズだけでなく、例えば、光量の平方根に比例する光ショットノイズおよび光量に比例する固定パターンノイズも含む。したがって、ノイズは光量に依存する。輝度値は光量を反映する。
 図7は、圧縮画像10における輝度値とノイズとの関係の測定結果を示すグラフである。対象物70は、図7の内挿図に示すように、時計、地球儀、カラーチャート、トランプ、造花、および鳥の置物である。1280×720画素を含む圧縮画像10が100フレーム分取得された。1フレームは1/50秒である。図7に示すグラフの横軸および縦軸は、それぞれ、全フレームについての圧縮画像内の各画素の輝度値の平均値および標準偏差を表す。輝度値の時間的な揺らぎがノイズに相当する。当該ノイズは、イメージセンサ160に起因するノイズである。したがって、フィルタアレイ110の有無は重要ではない。
 図7に示すように、ノイズに光量を考慮した場合、輝度値が小さいほどノイズは大きくなる。図6に示すように、ノイズが一定であっても輝度値が小さいほどΔMSEは増加する。図6に示す結果と、図7に示す結果とを組み合わせると、輝度値が小さいほどΔMSEはさらに増加する。
 [2.3.ノイズによる復元誤差の増加を低減する条件]
 次に、図8を参照して、ノイズによる復元誤差の増加を低減する条件を説明する。図8は、圧縮画像10に実測したノイズを重畳した場合の、圧縮画像10内の各画素の輝度値と、ハイパースペクトル画像20内の対応する画素における復元誤差の増加量との関係を示すグラフである。対象物70は白板である。対象波長域が可視領域である場合、白板は、対象波長域内の光を、波長バンドに関係なく、ほぼ同じ反射率で反射する。反射率の波長依存性が低ければ、対象物70は白板である必要はない。圧縮画像10は、平均輝度値が128になる条件の下で取得された。白飛びおよび黒つぶれが最も生じにくく、広いダイナミックレンジが取れる当該条件は、汎用的に選択され得る。図8に関する以下の説明において、最低の輝度値および最高の輝度値がどのような値であるかに関係なく、圧縮画像10は、平均輝度値がイメージセンサの取得できる輝度範囲の中央値(8ビット階調である場合には128)になるように取得される。
 図8に示すように、輝度値が小さいほどΔMSEは急峻に増加する。ΔMSEが10%以下になるのは、輝度値が64以上である場合である。したがって、各画素の輝度値が64以上になるようにフィルタアレイ110およびイメージセンサ160を設計することにより、ΔMSEを10%以下にすることができる。64の輝度値は、上記の平均輝度値の50%に相当する。
 ΔMSEが7.5%以下になるのは、輝度値が87以上である場合である。したがって、各画素の輝度値が87以上になるようにフィルタアレイ110およびイメージセンサ160を設計することにより、ΔMSEを7.5%以下にすることができる。87の輝度値は、上記の平均輝度値の68%に相当する。
 ΔMSEが5%以下になるのは、輝度値が96以上である場合である。したがって、各画素の輝度値が96以上になるようにフィルタアレイ110およびイメージセンサ160を設計することにより、ΔMSEを5%以下にすることができる。96の輝度値は、上記の平均輝度値の75%に相当する。
 輝度値が128の場合、ΔMSEは約4%となる。
 本実施形態による光検出装置100は、N個の画素を備えると言うことができる。N個の画素の各々は、フィルタと、当該フィルタを透過した光を検出する光検出素子とを含む。光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されている。
 N個の画素のうち、第iの画素(i=1、2、・・・、N)の実効感度の対象波長域における平均値をμとする。μは、第iの画素に含まれるフィルタの透過率の波長依存性を示すT(λ)と、第iの画素に含まれる光検出素子の検出感度の波長依存性を示すI(λ)とに基づいて得られる(k=1、2,・・・、M)。μは、以下の式(4)によって表される。
Figure JPOXMLDOC01-appb-M000008
 イメージセンサ160に含まれる複数の光検出素子は、波長バンドWに対応する波長を有する光に関してほぼ同じ検出感度を有する。つまり、第1の画素に含まれる光検出素子の波長バンドWに対応する波長を有する光の検出感度I(λ)、~、第Nの画素に含まれる光検出素子の波長バンドWに対応する波長を有する光の検出感度I(λ)のそれぞれは、検出感度I(λ)にほぼ等しい。I(λ)=・・・=I(λ)=I(λ)であってもよい。T(λ)I(λ)は、第iの画素の実効感度の波長依存性を表す。第iの画素の実効感度の波長依存性はT(λ)I(λ)であってもよい。
 μは、対象物70が白板である場合の、圧縮画像10内の第iの画素の輝度値に相当する。したがって、図8を参照した上記の議論から、μ~μのうち、最低値をμminとすると、光検出装置100に含まれるN個の画素が以下の式(5)を満たす場合、ΔMSEを10%以下にすることができる。式(5)の右辺の0.5は、最も低い輝度値である64を平均輝度値である128によって除算した値に相当する。
Figure JPOXMLDOC01-appb-M000009
 同様に、光検出装置100に含まれるN個の画素が以下の式(6)を満たす場合、ΔMSEを7.5%以下にすることができる。式(6)の右辺の0.68は、最も低い輝度値である87を平均輝度値である128によって除算した値に相当する。
Figure JPOXMLDOC01-appb-M000010
 光検出装置100に含まれるN個の画素が以下の式(7)を満たす場合、ΔMSEを5%以下にすることができる。式(7)の右辺の0.75は、最も低い輝度値である96を平均輝度値である128によって除算した値に相当する。
Figure JPOXMLDOC01-appb-M000011
 図9Aは、対象物70が白板である場合の、異なるμmin/(Σμ/N)についての圧縮画像10の例を示す図である。この白板を撮像して圧縮画像10を取得する光検出装置100は、異なるμmin/(Σμ/N)を有するN個の画素を含む。フィルタアレイ110のマスク情報は、μmin/(Σμ/N)=0.31、0.52、0.76、および1になるようにシミュレーション上で生成された。このシミュレーションにおいて、マスク情報は、平均輝度値が128であり、画素数の輝度値についての分布が正規分布になるように設計された。図9Aに示す色は、白いほど明るいことを意味し、黒いほど暗いことを意味する。図9Aに示すように、μmin/(Σμ/N)が小さいほど輝度値のばらつきは大きくなり、μmin/(Σμ/N)が1に近づくほど輝度値のばらつきは小さくなる。
 図9Bは、異なるμmin/(Σμ/N)についての圧縮画像10の輝度値から得られるヒストグラムの例を示すグラフである。図9Bに示す薄い灰色、濃い灰色、および黒色の広がりを有する分布は、それぞれ、μmin/(Σμ/N)=0.31、0.52、および0.76である場合の分布を表す。図9Bに示す中央の黒い縦線は、μmin/(Σμ/N)=1である場合の分布を表す。
 μmin/(Σμ/N)=0.31である場合、μmin=40であり、(Σμ/N)=128である。この場合、μmin<64であるので、ΔMSEは10%を超える。
 これに対して、μmin/(Σμ/N)=0.52である場合、μmin=67であり、(Σμ/N)=128である。この場合、μmin≧64であるので、ΔMSEを10%以下にすることができる。
 μmin/(Σμ/N)=0.76である場合、μmin=97であり、(Σμ/N)=128である。この場合、μmin≧96であるので、ΔMSEを5%以下にすることができる。
 μmin/(Σμ/N)=1である場合、μmin=128であり、(Σμ/N)=128である。この場合、ΔMSEをおよそ4%にすることができる。
 以上のことから、光検出装置100に含まれるN個の画素が式(5)を満たす場合、ノイズによる復元誤差の増加を効果的に低減することができる。式(5)よりも式(6)の方がより効果的であり、式(7)の方がさらに効果的である。上記の例では、実効感度の平均値である(Σμ/N)が128に対応する場合を想定しているが、これは例示であり、(Σμ/N)に対応する輝度値は異なっていてもよい。(Σμ/N)に対応する輝度値は光源の明るさ、露光時間、およびゲインなどの撮影条件で変化する。式(5)~式(7)では、カメラの設計指標を示すためにμminを(Σμ/N)によって除算した値が用いられており、(Σμ/N)に対応する輝度値が128と異なる場合でも適用できる。
 図9Aおよび図9Bを参照して説明したように、光検出装置100に含まれるN個の画素が式(5)~式(7)を満たすか否かは、白板を撮像して圧縮画像10を取得し、圧縮画像10内の複数の画素からそれぞれ得られる複数の輝度値を調べることによって判定することができる。前述したように、μは、対象物70が白板である場合の、圧縮画像10内の第iの画素の輝度値に相当するからである。圧縮画像10の取得は、μmin/(Σμ/N)を算出できるように暗すぎない環境で行われうる。圧縮画像10の取得では、白板の代わりに、極端な明暗差を生じさせず、反射光の強度が空間にも波長にも大きく依存しない物体を用いてもよい。
 フィルタの分光透過率T(λ)および光検出素子の検出感度の波長依存性I(λ)が既知であれば、T(λ)およびI(λ)に基づいて、μを算出してもよい。フィルタアレイ110をイメージセンサ160から取り外せる場合、T(λ)およびI(λ)を別々に取得することができる。フィルタアレイ110をイメージセンサ160から取り外すことが容易ではない場合でも、イメージセンサ160と同じ型番のイメージセンサからI(λ)を取得することができる。したがって、対象波長域に含まれる複数の波長バンドの各々の光をフィルタアレイ110およびイメージセンサ160を用いて検出し、その結果から得られるT(λ)×I(λ)と、既知のI(λ)とに基づいて、T(λ)を推定することができる。
 第iの画素の実効感度の対象波長域における平均値ではなく、第i画素に含まれる光学フィルタの透過率の対象波長域における平均値を上記のμとして扱ってもよい。その場合、式(4)においてI(λ)が1に置き換えられる。フィルタアレイ110がN個のフィルタを備え、N個のフィルタが式(5)を満たす場合、ノイズによる復元誤差の増加を効果的に低減することができる。式(5)よりも式(6)の方がより効果的であり、式(7)の方がさらに効果的である。
 なお、本実施形態による光検出装置100に含まれるN個の画素は、フィルタアレイ110の周縁に配置されたフィルタ、およびイメージセンサ160の周縁に配置された光検出素子を含まなくてもよい。対象物70は圧縮画像10の中央付近に映ることが多いので、フィルタアレイ110の周縁に配置されたフィルタ、およびイメージセンサ160の周縁に配置された光検出素子は、例えば圧縮画像10の取得にとってそれほど重要ではないからである。フィルタアレイ110の周縁は、フィルタアレイ110の全領域と、全領域を縮小した縮小領域とをそれらの中心を合わせて重ねた場合に、重ならない領域である。縮小領域は、例えば、フィルタアレイ110の全領域を90%に縮小した領域である。縮小領域は、フィルタアレイ110の全領域を50%に縮小した領域であってもよく、70%に縮小した領域であってもよい。イメージセンサ160の周縁についても同様である。
 [2.4.対象物70に対して汎用性のあるフィルタアレイ110]
 次に、対象物70に対して汎用性のあるフィルタアレイ110を説明する。図10Aから図10Cは、それぞれ、対象物70、フィルタアレイ110、および圧縮画像10の例を模式的に示す図である。図10Aに示す色は、白いほど明るいことを意味し、黒いほど暗いことを意味する。図10Bに示す色は、白いほど透過率が高いことを意味し、黒いほど透過率が低いことを意味する。
 三角形の形状を有する対象物70は、図10Aに示すように、明るい部分と暗い部分との両方を有する。図10Bに示すフィルタアレイ110は、対象物70の明るい部分が結像する部分に低い透過率を有し、対象物70の暗い部分が結像する部分に高い透過率を有する。図10Aに示す対象物70を、図10Bに示すフィルタアレイ110を介して撮像することにより、図10Cに示す圧縮画像10が取得される。図10Cに示す圧縮画像10内の複数の画素からそれぞれ得られる複数の輝度値は均一であるので、式(5)~式(7)において、μmin=Σμ/Nである。すなわち、式(5)~式(7)の左辺は1になり、ノイズによる復元誤差の増加を効果的に低減することができる。
 しかし、図10Bに示すフィルタアレイ110は、図10Aに示す対象物70に対して有効ではあるものの、他の対象物に対しては必ずしも有効ではなく、汎用性に乏しい。これに対して、以下のフィルタアレイ110は様々な対象物70に対して汎用性を有する。
 図11は、汎用性のあるフィルタアレイ110の例を模式的に示す図である。フィルタアレイ110に含まれる複数のフィルタは、透過率の波長依存性、すなわち透過スペクトルが互いに異なる複数種類のフィルタを含む。複数種類のフィルタは不規則に配置される。図11に示す色の違いは、フィルタの種類を表す。図11に示す矩形によって囲まれた曲線は、複数種類のフィルタのうち、2種類のフィルタの透過スペクトルの例を表す。図11に示す例において、複数のフィルタは6行8列に配置されるが、フィルタの数に制限はない。図11に示す例においてフィルタの種類は3種類であるが、前述したように4種類以上であってもよい。
 フィルタの透過スペクトルは、対象波長域において複数のピークを示す。複数のピークのうち、高低差が最も大きいピークを基準とすると、残りのピークの高さは、基準のピークの高さの0.5倍以上である。各ピークは極大値を有し、各ピークの両側には極小値が存在する。各ピークの高さは、極大値と、大きい方の極小値との差を意味する。各ピークにおいて、透過率は極大値から極小値まで滑らかに変化する。ただし、極大値から極小値までの間に存在し得る微小なノイズは考慮されない。フィルタが共振構造を有する場合、複数のピークは共振構造に起因する。
 平面視でイメージセンサ160に重なる複数のフィルタのすべてにおいて、透過率の対象波長域における平均値が同じである場合、フィルタアレイ110は様々な対象物70に対して汎用性を有する。その場合、対象物70が明るい部分と暗い部分との両方を有していても、圧縮画像10内の複数の画素からそれぞれ得られる複数の輝度値のばらつきは低減される。したがって、一部の画素の輝度値が極端に低くなる可能性を低減できる。
 なお、透過率の対象波長域における平均値は、厳密に同じである必要はない。透過率の対象波長域における平均値について、最大値と最小値との差の絶対値を最大値および最小値の平均値によって除算した相対誤差が5%以内であれば、「同じ」として扱われる。
 フィルタアレイ110およびイメージセンサ160は、例えば、以下のように設計され得る。フィルタアレイ110に含まれるフィルタのピッチは、イメージセンサ160に含まれる光検出素子のピッチに一致する。さらに、平面視で、各フィルタの全体は、対応する光検出素子の全体にほぼ重なる。
 これに対して、フィルタアレイ110に含まれるフィルタのピッチが、イメージセンサ160に含まれる光検出素子のピッチと一致しない場合がある。あるいは、フィルタアレイ110に含まれるフィルタのピッチが、イメージセンサ160に含まれる光検出素子のピッチと一致していても、平面視において、フィルタアレイ110とイメージセンサ160との間に位置ずれが生じる場合がある。これらの場合、平面視で、2つ以上のフィルタが、ある光検出器に部分的に重なる。
 イメージセンサ160に含まれるある光検出素子に結像する光は、当該光検出素子に部分的に重なる2つ以上のフィルタがそれぞれ有する2つ以上の透過スペクトルを反映する。したがって、上記の場合、当該2つ以上のフィルタのうち、光検出素子に重なる部分を、仮想的な1つのフィルタとして扱ってもよい。仮想的な1つのフィルタの透過スペクトルは、上記の2つ以上の透過スペクトルに基づいて算出することができる。例えば、2つ以上のフィルタの各々が光検出素子に重なる部分の面積を、光検出素子の全体の面積によって除算することにより、2つ以上のフィルタにそれぞれ対応する2つ以上の重みが算出される。仮想的な1つのフィルタの透過スペクトルは、2つ以上の透過スペクトルに2つ以上の重みをそれぞれ乗算し、それらを加算することによって算出され得る。
 [2.5.フィルタアレイ110の製造方法]
 次に、図12を参照して、フィルタアレイ110の製造方法を説明する。図12は、フィルタアレイ110の製造方法の例を概略的に示すフローチャートである。フィルタアレイ110の製造方法は、図12に示すステップS101~S107の工程を含む。フィルタアレイ110の製造方法は、例えば、工場の製造ラインにおいて機械によって実施され得る。あるいは、フィルタアレイ110の製造方法は、人によって実施されてもよい。
 別途用意された記憶装置には、ノイズが重畳される前の圧縮画像10、マスク情報、およびノイズが重畳される前の圧縮画像10からマスク情報を用いて生成されたハイパースペクトル画像20が記憶されている。フィルタアレイ110の製造方法は、上記の記憶装置ならびに図1Aから図1Dに示すイメージセンサ160および画像処理装置200を用いて実施される。
 以下に、各ステップを説明する。
 <ステップS101>
 イメージセンサ160によって画像が複数のフレーム分取得される。フレーム数は、例えば、1000であり得る。
 <ステップS102>
 ステップS101において取得された複数のフレームにそれぞれ対応する複数の画像から、図7に示すように、輝度値に対するノイズの情報が取得される。
 <ステップS103>
 ステップS102において取得されたノイズが、記憶装置に記憶された上記の圧縮画像10に重畳される。
 <ステップS104>
 画像処理装置220により、ノイズが重畳された圧縮画像10から、記憶装置に記憶された上記のマスク情報を用いてハイパースペクトル画像20が生成される。
 <ステップS105>
 ステップS104において生成されたハイパースペクトル画像20と、記憶装置に記憶された上記のハイパースペクトル画像20とに基づいて、図8に示すように、輝度値と、復元誤差の増加量との関係が推定される。
 <ステップS106>
 ステップS106において推定された上記の関係に基づいて、図8に示すように、復元誤差の増加量が所定値以下になるように、フィルタアレイ110に含まれるN個のフィルタにおいて、透過率の対象波長域における平均値が満たすべき最低値が決定される。所定値は、例えば、10%、7.5%、または5%であり得る。このようにして、フィルタアレイ110の透過特性が決定される。
 <ステップS107>
 ステップS106において決定した透過特性に基づいて、フィルタアレイ110が製造される。
 上記の工程により、フィルタアレイ110を製造することができる。そのようなフィルタアレイ110は、ノイズによる復元誤差の増加を低減することができる。
 [3.ノイズの影響を低減できる光検出装置100の例2]
 以下では、ノイズをランダムノイズに限定して、ノイズの影響を低減できる光検出装置100の例2を説明する。光検出装置100は、前述したN個の画素を備える。
 [3.1.圧縮画像10の特徴量]
 ここでは、図13Aおよび図13Bを参照して、ランダムノイズの議論に用いられる、本実施形態による光検出装置100の特徴量を説明する。図13Aは、複数の波長バンドの各々の光についての圧縮画像10の輝度値の空間パターンを模式的に示す図である。当該空間パターンは、モザイクパターンとして表現されている。図13Aに示すように、波長バンドによって、圧縮画像10の輝度値の分布が異なる。図13Bは、対象波長域に含まれる4つ以上の波長バンドのうち、第k(kは1以上M以下の整数)の波長バンドの光についての圧縮画像10の輝度値から得られるヒストグラムの例を模式的に示す図である。第kの波長バンドの光は、第kの波長バンドに含まれる波長を有する光を意味する。図13Bに示す例において、横軸は輝度値を表し、縦軸はその輝度値を有する画素の数を表す。図13Bに示すヒストグラムから、特徴量として、第kの波長バンドの光についての圧縮画像10の輝度値の平均値μおよび有限の標準偏差σが得られる。第kの波長バンドの光がN個の画素の各々に入射する場合、μは、N個の画素の各々に含まれる光検出素子から出力された信号の強度によって得られるN個の信号強度の平均値であり、σは、当該N個の信号強度の標準偏差である。
 図13Bに示すヒストグラムがガウス分布を有する場合、輝度値がμ-σ以上μ+σ以下の範囲内に含まれるフィルタの数は、全体の約68%を占める。透過率がμ-2σ以上μ+2σ以下の範囲内に含まれるフィルタの数は、全体の約95%を占める。図13Bに示すように、μ-2σの値が大きければ、高い輝度値を有する画素の数が増加する。σが大きければ、フィルタ同士の分別が容易である。
 上記のヒストグラムは、8ビットまたは16ビットなどの所定の階調数で光強度を検出するイメージセンサ160を用いて計測することによって得ることができる。なお、実際の光検出装置100では、図13Bとは異なる形状のヒストグラムが取得され得る。透過率の波長依存性がフィルタによって異なることから、ヒストグラムの形状は波長バンドごとに異なる。したがって、ある波長バンドの光についての圧縮画像10の輝度値の平均値および標準偏差も、当該波長バンドによって異なる。
 以下の説明において、輝度値のヒストグラムの階調数は8ビットであるものとする。輝度値が8ビット以外の階調数で検出されたとしても、輝度値を8ビットの階調数に変換して輝度値のヒストグラムを求めることができる。
 [3.2.ランダムノイズが復元画像に及ぼす影響]
 次に、図14から図15Bを参照して、ランダムノイズが復元画像に及ぼす影響を説明する。図14は、ランダムノイズが重畳された圧縮画像10の例を模式的に示す図である。図14に示すように、ノイズ重畳後の圧縮画像は、ノイズ重畳前の圧縮画像と比較して不鮮明になり得る。
 図15Aは、あるフィルタアレイに含まれるフィルタの透過スペクトルの例を示す図である。図15Aに示す例において、対象波長域Wは、450nm以上850nm以下の範囲である。対象波長域Wは、各バンド幅が80nmである5個の波長バンドを含む。図15Aに示す例において、透過スペクトルは、8本の鋭いピークを有する。透過率の最大値は約1であり、最小値は約0.02である。互いに隣接する2つのピークの間での透過率は十分に低い。このような透過スペクトルを有するフィルタは、対象波長域W内の反射率が高い2つの反射層、およびそれらの間の干渉層を含む共振構造によって実現される。干渉層の屈折率および/または厚さを変化させることにより、透過スペクトルは長波長側または短波長側にシフトする。当該フィルタアレイは、そのようにして透過スペクトルがシフトした複数種類のフィルタを含む。当該フィルタアレイは、2次元的に配列された100万個のフィルタを備える。当該100万個のフィルタは、不規則に配列された16種類のフィルタを含む。
 図15Bは、上記のフィルタアレイを用いて取得された圧縮画像にランダムノイズが重畳された場合の、5つの波長バンドについての正解画像と復元画像との間のMSEの平均値を示す図である。ランダムノイズは、中心がμnoise=0であり、標準偏差がσnoiseであるガウス分布に従い発生されている。各画素に加算されるランダムノイズの分散Nnoiseは、以下の式(8)を用いて計算される。
Figure JPOXMLDOC01-appb-M000012
 ここで、gnoiseは各画素に重畳されるノイズの値であり、正の値も負の値も取り得る。図15Bに示す例では、σnoise=0、5、および10である。σnoise=0は、ランダムノイズが存在しないことを意味する。σnoiseが増加すると、ランダムノイズは増加する。
 図15Bに示すように、σnoiseが増加するにつれて、5個すべての波長バンドでのMSEの平均値が増加することがわかる。ランダムノイズが存在しない場合、図15Aに示すような、透過率の最大値および最小値のコントラスト比が大きい透過スペクトルを有するフィルタは、波長バンド間のSN比を向上させることができる。すなわち、図13Aに示す、波長バンド間での透過率の空間分布の差異が明確になる。他方で、当該フィルタを含むフィルタアレイは、ランダムノイズの影響を受けやすい。その結果、ハイパースペクトルカメラの波長分解能が低下し得る。
 [3.3.ランダムノイズの影響を低減できる光検出装置100]
 図13Bに示すμ-2σの値が大きい光検出装置100は、高いノイズ耐性を有する。そのような光検出装置100では、輝度値が高いからである。図13Bに示すσが大きい光検出装置100もまた、高いノイズ耐性を有する。そのような光検出装置100では、画素間の輝度値の分散が大きく画素同士の分別が容易であるため、復元画像の復元精度が向上するからである。以上のことから、μ-2σおよびσの和であるM=μをノイズ耐性の指標として、本実施形態による光検出装置100を説明する。以下では、説明を簡単にするために、すべての波長バンドにおいてM=μは同じであるものとする。本実施形態による光検出装置100において、フィルタアレイ110は、不規則に配列された複数種類のフィルタを含む。
 図16は、複数の波長バンドの各々についてσ=0.08である場合の、複数の波長バンドについての正解画像と復元画像との間のMSEの平均値と、M=μとの関係を示す図である。図16に示す例において、ランダムノイズの標準偏差はσnoise=0、2、3、4、および5である。圧縮画像10の輝度値はMに依存する。Mの値が小さいほど、圧縮画像10の輝度値は減少し、Mの値が大きいほど、圧縮画像10の輝度値は増加する。フィルタアレイ110に含まれる複数のフィルタのうち、大部分の透過率が低く、一部の透過率が高い場合、圧縮画像10の輝度値のヒストグラムは非対称になり得る。その結果、Mは負の値にもなり得る。
 σnoise=0の場合、圧縮画像10にランダムノイズは重畳されていない。この場合、M≦0.45では、MSEが低く抑えられる。図15Aに示すように、フィルタにおける透過率のコントラスト比が高い場合、フィルタアレイ110の平均的な透過光量は少なく、輝度値が低くなるので、Mの値は小さい。そのようなフィルタアレイ110を備える光検出装置100は、波長バンド間のSN比を向上させる。その結果、復元誤差の発生を抑制することができる。これに対して、M>0.45では、MSEの平均値がMの増加に伴って増加する。フィルタにおける透過率のコントラスト比が低い場合、フィルタアレイ110の平均的な透過光量は多く、輝度値が高くなるので、Mの値は大きい。そのようなフィルタアレイ110を備える光検出装置100は、波長バンド間のSN比を低下させる。その結果、復元誤差は増加する。
 σnoise>0の場合、M<0.2では、実線の楕円によって囲まれた領域に示すように、MSEの平均値が、σnoiseの増加に伴って大きく増加する。これに対して、M=0.42付近では、破線の楕円によって囲まれた領域に示すように、MSEがσnoiseの増加に伴って増加するものの、その増加は抑制される。M>0.45では、σnoiseが小さくても、MSEの平均値は、Mの増加に伴って増加する。図16に示すように、σnoise=5の場合、MSEの平均値が不連続的に急増することがある。上記の特性をまとめると、以下の通りである。
・(Mが小さい場合)波長バンド間のSN比は高い。したがって、σnoiseが小さいとき、復元画像の復元精度は高い。σnoiseが増加すると、フィルタアレイ110の少ない透過光量と比較して、ランダムノイズの量が無視できなくなる。その結果、復元誤差が増加し、復元画像の復元精度が大きく低下する。
・(Mが大きすぎる場合)波長バンド間のSN比は低い。したがって、σnoiseが小さくても、復元画像の復元精度は低い。
・(Mが適度に大きい場合)σnoiseが小さいとき、復元画像の復元精度は高い。σnoiseが増加しても、フィルタアレイ110の透過光量と比較して、ランダムノイズの量はそれほど大きくはならない。その結果、復元誤差の増加が低減され、復元画像の復元精度の低下が抑制される。
 図17Aから図17Cは、それぞれ、複数の波長バンドの各々についてσ=0.05、0.07、および0.1である場合の、複数の波長バンドについての正解画像と復元画像との間のMSEの平均値と、M=μとの関係を示す図である。図17Aから図17Cに示すように、Mが適度に大きい場合、σnoiseが増加しても、復元画像の復元精度の低下が抑制される。そのようなMは約0.3以上約0.5以下の範囲にある。実際には、ランダムノイズによる復元誤差に加えて、読み出しノイズのような他のノイズによる復元誤差が数%程度存在する。これらの合算された復元誤差が5%を超えると、復元画像の復元精度の低さが視認され得る。したがって、許容されるランダムノイズによる復元誤差は、例えば3%以下であり得る。8ビット階調において、3%の復元誤差はMSE=56である。図17Aから図17Cに示す例において、実際のランダムノイズに近いσnoise=5の場合、MSEの平均値が56を下回るときのMの下限は、M=0.1である。
 以上のことから、対象波長域に含まれる4つ以上の波長バンドの各々についてM≧0.1が満たされる場合、光検出装置100は、ランダムノイズに対してノイズ耐性を有する。なお、Mは、すべての波長バンドにおいて同じである必要はない。Mは、一部の波長バンドにおいて同じであってもよいし、すべての波長バンドにおいて異なっていてもよい。
 本実施形態による光検出装置100は、M≧0.1以外にも以下の特性を有してもよい。
・複数の波長バンドの各々についてσ≧0.05である。この場合、画素同士の分別が容易であることから、復元画像の復元精度を向上させることができる。
・複数の波長バンドの各々についてμ≧0.2である。この場合、図16から図17Cに示す0.05≦σ≦0.1についてM≧0.1が満たされる。
・複数の波長バンドについて最大のMおよび最小のMをそれぞれMmaxおよびMminとすると、Mmax/Mmin≦3である。この場合、複数の波長バンド間での復元画像の復元精度がばらつくことを抑制することができる。
 [4.フィルタアレイ110の構造]
 ノイズの影響を低減できる本実施形態による光検出装置100の例1および2において、フィルタアレイ110は、複数のフィルタを含む。複数のフィルタのうち、少なくとも1つのフィルタの透過スペクトルは、対象波長域において複数のピークを示す。当該少なくとも1つのフィルタが共振構造を有する場合、複数のピークは共振構造に起因する。
 図18Aは、フィルタアレイ110の第1の例を模式的に示す図である。図18Aに示すフィルタアレイ110は、2次元的に配列された複数のフィルタ112を備える。各フィルタ112は共振構造を有する。当該共振構造は、第1表面22s1および第2表面22s2を有する干渉層22と、第1表面22s1に設けられた第1反射層24aと、第2表面22s2に設けられた第2反射層24bとを備える。干渉層22は半導体または誘電体物質であり得る。第1反射層24aおよび第2反射層24bは、例えば誘電体多層膜であり得る。このように干渉層22の両側に第1反射層24aおよび第2反射層24bを備える共振構造では、波長バンド間のSN比が高い一方、透過光量は少ない。
 図18Bは、フィルタアレイ110の第2の例を模式的に示す図である。図18Bに示すフィルタアレイ110は、2次元的に配列された複数のフィルタ114を備える。各フィルタ114は共振構造を有する。当該共振構造は、第1表面22s1および第2表面22s2を有する干渉層22と、第1表面22s1に設けられた反射層24とを備える。第2表面22s2には反射層が設けられていない。このように干渉層22の片側に反射層24を備える共振構造では、透過光量が多い一方、波長バンド間のSN比は低い。図18Aおよび図18Bに示す共振構造のどちらを選択するかは、用途および目的に応じて決定され得る。
 干渉層の両側に反射層を備える共振構造の詳細は、例えば、米国特許出願公開第2021/0341657号明細書に開示されている。干渉層の片側に反射層を備える共振構造の詳細は、国際公開第2021/241171号に開示されている。米国特許出願公開第2021/0341657号明細書および国際公開第2021/241171号の開示内容の全体を本明細書に援用する。
 図1Aから図1Dに示す光検出システム300が、ノイズの影響を低減できる前述の光検出装置100を備える場合、画像処理装置200に含まれる処理回路は、圧縮画像10の情報と、マスク情報とに基づいて、4つ以上の波長バンドにそれぞれ対応する4つ以上の復元画像を生成する。圧縮画像10の情報は、N個の画素の各々に含まれる光検出素子から出力された信号によって得られる。波長バンドごとの透過率の空間分布を示すマスク情報は、N個の画素の各々に含まれる前記光学フィルタの透過スペクトルから得られる。ノイズの影響を低減できる前述の光検出装置100を用いることにより、4つ以上の復元画像において、ノイズによる復元誤差の増加を低減することができる。
 なお、前述した光検出装置100の例1および2において、N個の画素の各々はフィルタおよび光検出素子を含むが、N個の画素の各々は、フィルタを含まずに、入射光を符号化するように直接加工された光検出素子を含んでもよい。その場合、光検出装置100の例1において、前述のμiは、第iの画素に含まれる加工された光検出素子の検出感度の波長依存性に基づく第iの画素の感度の対象波長域における平均値に相当する。
 また、光検出装置100の例2において、対象波長域に含まれる4つ以上の波長バンドのうち、第kの波長バンド(k=1、2、・・・、N)の光がN個の画素の各々に入射した場合、前述のμおよびσは以下の通りである。μは、N個の画素の各々に含まれる加工された光検出素子から出力された信号の強度によって得られるN個の信号強度の平均値である。σは、当該N個の信号強度の標準偏差である。
 (その他1)
 本開示は上記した実施の形態に限定されるものではない。本開示の趣旨を逸脱しない限り、当業者が思いつく各種変形を上記実施の形態に施したものも本開示に含まれてもよい。本開示の実施の形態の変形例は下記に示すようなものであってもよい。
 (項目1)
 光学フィルタfと、
 前記光学フィルタfから出力された被写体の第i情報を含む光を検出し、前記第i情報に対応する信号sを出力する光検出器dを含み、i=1、・・・、Nであり、Nは2以上の整数であり、
 前記第i情報は、波長バンドWに対応する前記被写体の情報Ii,1、~、波長バンドWに対応する前記被写体の情報Ii,Mを含み(前記Mは4以上の整数)、
 前記波長バンドW、~、前記波長バンドWは互いに異なり、
Figure JPOXMLDOC01-appb-M000014
 であり、
 前記Ti,Wkは、前記光学フィルタfの前記波長バンドWの光透過率、
 前記IWkは、前記光検出器d、~、前記光検出器dそれぞれの波長バンドWに対応する光IWkの検出感度、
 前記μminは、前記μ、・・・、前記μのうちの最小値であり、前記光学フィルタfは前記光検出器dに直接接触し、または、前記光学フィルタfと前記光検出器dの間にレンズとフィルタの両方が配置されることなく前記光学フィルタfと前記光検出器dの距離はゼロより大きい、
 光検出装置。
 (項目2)
 前記項目1に記載の光検出装置は、
 前記光学フィルタfは前記被写体からの光Iinを受け取り、
 前記光Iinは、前記波長バンドWに対応する光Iini,W1、~、前記波長バンドWに対応する光Iini,WMを含み、
 前記光学フィルタfが光Iinを受取ると、前記光学フィルタfは光Ioutを出力し、
 前記光Ioutは、前記波長バンドWに対応する光Iouti,W1、~、前記波長バンドWに対応する光Iouti,WMを含み、
 前記透過率Ti,W1は(前記光Iouti,W1の強さ)/(前記Iini,W1の強さ)、~、前記透過率Ti,WMは(光Iouti,WMの強さ)/(光Iini,WMの強さ)
 である。
 (項目1、2の説明)
 図19Aは複数の光学フィルタと複数の光検出器の例を示す。光学フィルタfは光検出器dに直接接触し、~、光学フィルタfは光検出器dに直接接触し、~、光学フィルタfは光検出器dに直接接触する。
 図19Bは複数の光学フィルタと複数の光検出器の例を示す。光学フィルタfと光検出器dの間にレンズとフィルタの両方が配置されることなく、光学フィルタfと光検出器dの距離はゼロより大きく、~、光学フィルタfと光検出器dの間にレンズとフィルタの両方が配置されることなく、光学フィルタfと光検出器dの距離はゼロより大きく、~、光学フィルタfと光検出器dの間にレンズとフィルタの両方が配置されることなく、光学フィルタfと光検出器dの距離はゼロより大きい。
 図19Cは、光学フィルタfが被写体からの光Iinを受取ると光学フィルタfは光Ioutを出力すること、及び、光検出器dが光Ioutを検出すると信号sを出力することを示す。図19Cにおいて、光学フィルタfは光検出器dに直接接触してもよい。
 上述した項目1における「波長バンドWに対応する光IWk」は、「波長バンドWの最小波長から前記波長バンドWの最大波長までの波長を有する光IWk」であってもよい。
 上述した項目2における「前記波長バンドWに対応する光Iini,W1、~、前記波長バンドWに対応する光Iini,WM」は、「前記波長バンドWの最小波長から前記波長バンドWの最大波長までの波長を有する光Iini,W1、~、前記波長バンドWの最小波長から前記波長バンドWの最大波長までの波長を有する光Iini,WM」であってもよい。
 上述した項目2における「前記波長バンドWに対応する光Iouti,W1、~、前記波長バンドWに対応する光Iouti,WM」は、「前記波長バンドWの最小波長から前記波長バンドWの最大波長までの波長を有する光Iouti,W1、~、前記波長バンドのWの最小波長から前記波長バンドWの最大波長までの波長を有する光Iouti,WM」であってもよい。
 (その他2)
 本開示において、「ハイパースペクトル画像を再構成する」は、「ハイパースペクトル画像を生成する」を意味してもよい。
 本開示の技術は、例えば、多波長または高解像度の画像を取得するカメラおよび測定機器に有用である。本開示の技術は、例えば、生体・医療・美容向けセンシング、食品の異物・残留農薬検査システム、リモートセンシングシステムおよび車載センシングシステムにも応用できる。
 [付記]
 以上の実施の形態の記載により、以下の技術が開示される。
 (技術1)
 N個の画素を備える光検出装置であって、
 前記N個の画素の各々は、光学フィルタと、前記光学フィルタを透過した光を検出する光検出素子とを含み、
 前記光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されており、
 前記N個の画素のうち、第iの画素(i=1、2、・・・、N)に含まれる前記光学フィルタの透過率の波長依存性と、前記第iの画素に含まれる前記光検出素子の検出感度の波長依存性とに基づく、前記第iの画素の実効感度の前記対象波長域における平均値をμとし、μ~μのうち、最低値をμminとすると、
Figure JPOXMLDOC01-appb-M000015
である、
 光検出装置。
 この光検出装置は、ハイパースペクトルカメラに利用でき、ノイズの影響を低減することができる。
 (技術2)
Figure JPOXMLDOC01-appb-M000016
である、
 技術1に記載の光検出装置。
 この光検出装置は、ハイパースペクトルカメラに利用でき、ノイズの影響をより低減することができる。
 (技術3)
 前記N個の画素は、透過スペクトルが互いに異なる複数種類のフィルタを含み、前記複数種類のフィルタは不規則に配置され、
 前記N個の画素のすべてにおいて、実効感度の前記対象波長域における平均値は同じである、
 技術1または2に記載の光検出装置。
 この光検出装置は、様々な対象物に対して汎用性を有する。
 (技術4)
 前記光学フィルタの透過スペクトルは、前記対象波長域において複数のピークを示す、
 技術1から3のいずれかに記載の光検出装置。
 この光検出装置では、対象物からの光を効果的に符号化することができる。
 (技術5)
 N個の画素を備える光検出装置であって、
 前記N個の画素の各々は、光学フィルタと、前記光学フィルタを透過した光を検出する光検出素子とを含み、
 前記光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されており、
 前記4つ以上の波長バンドのうち、第kの波長バンド(k=1、2、・・・、N)の光が前記N個の画素の各々に入射した場合、前記N個の画素の各々に含まれる前記光検出素子から出力された信号の強度によって得られるN個の信号強度の平均値をμとし、前記N個の信号強度の標準偏差をσとし、M=μ―σとすると、
 前記4つ以上の波長バンドの各々について、M≧0.1である、
 光検出装置。
 この光検出装置は、ハイパースペクトルカメラに利用でき、ノイズの影響を低減することができる。
 (技術6)
 前記N個の波長バンドの各々について、σ≧0.05である、
 技術5に記載の光検出装置。
 この光検出装置では、フィルタ同士の分別が容易であることから、ハイパースペクトル画像の復元精度を向上させることができる。
 (技術7)
前記N個の波長バンドの各々について、μ≧0.2である、
 技術5または6に記載の光検出装置。
 この光検出装置では、透過率を増加させることにより、ノイズ耐性を向上させることができる。
 (技術8)
 前記N個の波長バンドについて、最大のMをMmaxとし、最小のMをMminとすると、
 Mmax/Mmin≦3である、
 技術5から7のいずれかに記載の光検出装置。
 この光検出装置では、複数の波長バンド間での分離画像の復元精度がばらつくことを抑制することができる。
 (技術9)
 技術1から8のいずれかに記載の光検出装置と、
 処理回路と、
を備え、
 前記処理回路は、N個の画素の各々に含まれる前記光検出素子から出力された信号によって得られる画像情報と、N個の画素の各々に含まれる前記光学フィルタの透過スペクトルから得られる波長ごとの透過率の空間分布を示すマスク情報とに基づいて、前記4つ以上の波長バンドにそれぞれ対応する4つ以上の画像を生成する、
 光検出システム。
 この光検出システムでは、ノイズの影響が低減されたハイパースペクトル画像を生成することができる。
 (技術10)
 対象波長域に含まれる4つ以上の波長バンドにそれぞれ対応する4つ以上の画像を生成する光検出装置に用いられるN個の光学フィルタを備えるフィルタアレイであって、
 前記N個の光学フィルタのうち、第i画素(i=1、2、・・・、N)に含まれる光学フィルタの透過率の前記対象波長域における平均値をμとし、μ~μのうち、最低値をμminとしたとき、
Figure JPOXMLDOC01-appb-M000017
である、
 フィルタアレイ。
 このフィルタアレイは、ハイパースペクトルカメラに利用でき、ノイズの影響を低減することができる。
 (技術11)
 イメージセンサによって画像を複数のフレーム分取得する工程と、
 前記複数のフレームにそれぞれ対応する複数の画像から、輝度値に対するノイズの情報を取得する工程と、
 前記ノイズが重畳された圧縮画像から生成された復元画像と、前記ノイズが重畳される前の圧縮画像から生成された復元画像とに基づいて、輝度値と復元誤差の増加量との関係を推定する工程と、
 推定した前記関係に基づいて、フィルタアレイの透過特性を決定する工程と、
 決定した前記透過特性に基づいて、フィルタアレイを製造する工程と、
を含む、
 フィルタアレイの製造方法。
 この製造方法により、ハイパースペクトルカメラに利用でき、ノイズの影響を低減することが可能なフィルタアレイを製造することができる。
  10    圧縮画像
  20、20W、20W、・・・、20W    復元画像
  70    対象物
  100   光検出装置
  110   フィルタアレイ
  112、114  フィルタ
  140、140A、140B   光学系
  160   イメージセンサ
  200   画像処理装置
  300   光検出システム

Claims (10)

  1.  N個の画素を備える光検出装置であって、
     前記N個の画素の各々は、光学フィルタと、前記光学フィルタを透過した光を検出する光検出素子とを含み、
     前記光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されており、
     前記N個の画素のうち、第iの画素(i=1、2、・・・、N)に含まれる前記光学フィルタの透過率の波長依存性と、前記第iの画素に含まれる前記光検出素子の検出感度の波長依存性とに基づく、前記第iの画素の実効感度の前記対象波長域における平均値をμとし、μ~μのうち、最低値をμminとすると、
    Figure JPOXMLDOC01-appb-M000001
    である、
     光検出装置。
  2. Figure JPOXMLDOC01-appb-M000002
    である、
     請求項1に記載の光検出装置。
  3.  前記N個の画素は、透過スペクトルが互いに異なる複数種類のフィルタを含み、前記複数種類のフィルタは不規則に配置され、
     前記N個の画素のすべてにおいて、実効感度の前記対象波長域における平均値は同じである、
     請求項1または2に記載の光検出装置。
  4.  前記光学フィルタの透過スペクトルは、前記対象波長域において複数のピークを示す、
     請求項1または2に記載の光検出装置。
  5.  N個の画素を備える光検出装置であって、
     前記N個の画素の各々は、光学フィルタと、前記光学フィルタを透過した光を検出する光検出素子とを含み、
     前記光検出素子から出力される信号には、対象波長域に含まれる4つ以上の波長バンドの情報が重畳されており、
     前記4つ以上の波長バンドのうち、第kの波長バンド(k=1、2、・・・、N)の光が前記N個の画素の各々に入射した場合、前記N個の画素の各々に含まれる前記光検出素子から出力された信号の強度によって得られるN個の信号強度の平均値をμとし、前記N個の信号強度の標準偏差をσとし、M=μ-σとすると、
     前記4つ以上の波長バンドの各々について、M≧0.1である、
     光検出装置。
  6.  前記N個の波長バンドの各々について、σ≧0.05である、
     請求項5に記載の光検出装置。
  7. 前記N個の波長バンドの各々について、μ≧0.2である、
     請求項5または6に記載の光検出装置。
  8.  前記N個の波長バンドについて、最大のMをMmaxとし、最小のMをMminとすると、
     Mmax/Mmin≦3である、
     請求項5または6に記載の光検出装置。
  9.  請求項1または5に記載の光検出装置と、
     処理回路と、
    を備え、
     前記処理回路は、N個の画素の各々に含まれる前記光検出素子から出力された信号によって得られる画像情報と、N個の画素の各々に含まれる前記光学フィルタの透過スペクトルから得られる波長ごとの透過率の空間分布を示すマスク情報とに基づいて、前記4つ以上の波長バンドにそれぞれ対応する4つ以上の画像を生成する、
     光検出システム。
  10.  対象波長域に含まれる4つ以上の波長バンドにそれぞれ対応する4つ以上の画像を生成する光検出装置に用いられるN個の光学フィルタを備えるフィルタアレイであって、
     前記N個の光学フィルタのうち、第i画素(i=1、2、・・・、N)に含まれる光学フィルタの透過率の前記対象波長域における平均値をμとし、μ~μのうち、最低値をμminとしたとき、
    Figure JPOXMLDOC01-appb-M000003
    である、
     フィルタアレイ。
PCT/JP2023/041925 2022-12-27 2023-11-22 光検出装置、光検出システム、およびフィルタアレイ Ceased WO2024142683A1 (ja)

Priority Applications (4)

Application Number Priority Date Filing Date Title
CN202380083796.9A CN120344839A (zh) 2022-12-27 2023-11-22 光检测装置、光检测系统及滤光器阵列
EP23911465.5A EP4644850A4 (en) 2022-12-27 2023-11-22 OPTICAL DETECTION DEVICE, OPTICAL DETECTION SYSTEM AND FILTER MATRIX
JP2024567296A JPWO2024142683A1 (ja) 2022-12-27 2023-11-22
US19/235,168 US20250305880A1 (en) 2022-12-27 2025-06-11 Light detection apparatus, light detection system, and filter array

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2022-209176 2022-12-27
JP2022209176 2022-12-27

Related Child Applications (1)

Application Number Title Priority Date Filing Date
US19/235,168 Continuation US20250305880A1 (en) 2022-12-27 2025-06-11 Light detection apparatus, light detection system, and filter array

Publications (1)

Publication Number Publication Date
WO2024142683A1 true WO2024142683A1 (ja) 2024-07-04

Family

ID=91717109

Family Applications (1)

Application Number Title Priority Date Filing Date
PCT/JP2023/041925 Ceased WO2024142683A1 (ja) 2022-12-27 2023-11-22 光検出装置、光検出システム、およびフィルタアレイ

Country Status (5)

Country Link
US (1) US20250305880A1 (ja)
EP (1) EP4644850A4 (ja)
JP (1) JPWO2024142683A1 (ja)
CN (1) CN120344839A (ja)
WO (1) WO2024142683A1 (ja)

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9599511B2 (en) 2014-11-19 2017-03-21 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus comprising coding element and spectroscopic system comprising the imaging apparatus
JP6952283B1 (ja) * 2020-01-16 2021-10-20 パナソニックIpマネジメント株式会社 光学フィルタアレイ、光検出装置、および光検出システム
US20210341657A1 (en) 2019-03-06 2021-11-04 Panasonic Intellectual Property Management Co., Ltd. Photodetection device, photodetection system, and filter array
WO2021241171A1 (ja) 2020-05-29 2021-12-02 パナソニックIpマネジメント株式会社 フィルタアレイおよび光検出システム

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
SE0402576D0 (sv) * 2004-10-25 2004-10-25 Forskarpatent I Uppsala Ab Multispectral and hyperspectral imaging
CA2959059A1 (en) * 2014-08-25 2016-04-14 Montana State University Microcavity array for spectral imaging
JP6478579B2 (ja) * 2014-11-20 2019-03-06 キヤノン株式会社 撮像ユニット、撮像装置、及び画像処理システム
JP6945195B2 (ja) * 2019-01-16 2021-10-06 パナソニックIpマネジメント株式会社 光学フィルタ、光検出装置、および光検出システム

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9599511B2 (en) 2014-11-19 2017-03-21 Panasonic Intellectual Property Management Co., Ltd. Imaging apparatus comprising coding element and spectroscopic system comprising the imaging apparatus
US20210341657A1 (en) 2019-03-06 2021-11-04 Panasonic Intellectual Property Management Co., Ltd. Photodetection device, photodetection system, and filter array
JP6952283B1 (ja) * 2020-01-16 2021-10-20 パナソニックIpマネジメント株式会社 光学フィルタアレイ、光検出装置、および光検出システム
WO2021241171A1 (ja) 2020-05-29 2021-12-02 パナソニックIpマネジメント株式会社 フィルタアレイおよび光検出システム
JP7142251B2 (ja) * 2020-05-29 2022-09-27 パナソニックIpマネジメント株式会社 フィルタアレイおよび光検出システム

Non-Patent Citations (1)

* Cited by examiner, † Cited by third party
Title
See also references of EP4644850A1

Also Published As

Publication number Publication date
EP4644850A4 (en) 2026-04-29
CN120344839A (zh) 2025-07-18
US20250305880A1 (en) 2025-10-02
JPWO2024142683A1 (ja) 2024-07-04
EP4644850A1 (en) 2025-11-05

Similar Documents

Publication Publication Date Title
JP7720532B2 (ja) 信号処理方法、信号処理装置、および撮像システム
Peng et al. Learned large field-of-view imaging with thin-plate optics.
US11843876B2 (en) Optical filter array, photodetection device, and photodetection system
JP7668452B2 (ja) 信号処理方法、信号処理装置、および撮像システム
JP7829156B2 (ja) 画像処理装置、撮像システム、および復元画像の誤差を推定する方法
JP7142251B2 (ja) フィルタアレイおよび光検出システム
JP7756327B2 (ja) 分光画像を生成する処理に用いられるデータを処理する方法および装置
JP7811739B2 (ja) 検査対象に含まれる異物を検出する方法および装置
WO2023286613A1 (ja) フィルタアレイ、光検出装置、および光検出システム
WO2021241122A1 (ja) フィルタアレイおよび光検出システム
WO2024142683A1 (ja) 光検出装置、光検出システム、およびフィルタアレイ
JP7122636B2 (ja) フィルタアレイおよび光検出システム
Schöberl et al. Building a high dynamic range video sensor with spatially nonregular optical filtering
WO2022168594A1 (ja) スペクトルデータキューブを改変する方法および装置
WO2023106142A1 (ja) 信号処理方法、プログラム、およびシステム
JP2025071703A (ja) 画像を生成するシステムに用いられる装置およびフィルタアレイ
WO2024195499A1 (ja) 撮像システム、行列データ、および行列データの生成方法
WO2023106143A1 (ja) 分光画像を生成するシステムに用いられる装置およびフィルタアレイ、分光画像を生成するシステム、ならびにフィルタアレイの製造方法
WO2026088780A1 (ja) 情報処理方法、処理装置、およびコンピュータプログラム
WO2025192485A1 (ja) 撮像システムおよび撮像方法
JP2024020922A (ja) 復元画像の評価方法および撮像システム、
WO2024203282A1 (ja) 撮像システムおよび方法
WO2025192316A1 (ja) 撮像装置、撮像システム、および撮像方法
CN116528058B (zh) 一种基于压缩重构的高动态成像方法和系统
WO2025115710A1 (ja) 画像の補正に用いられる方法、およびその方法を実行する処理回路

Legal Events

Date Code Title Description
121 Ep: the epo has been informed by wipo that ep was designated in this application

Ref document number: 23911465

Country of ref document: EP

Kind code of ref document: A1

WWE Wipo information: entry into national phase

Ref document number: 202380083796.9

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2024567296

Country of ref document: JP

WWP Wipo information: published in national office

Ref document number: 202380083796.9

Country of ref document: CN

WWE Wipo information: entry into national phase

Ref document number: 2023911465

Country of ref document: EP

NENP Non-entry into the national phase

Ref country code: DE

ENP Entry into the national phase

Ref document number: 2023911465

Country of ref document: EP

Effective date: 20250728

ENP Entry into the national phase

Ref document number: 2023911465

Country of ref document: EP

Effective date: 20250728

WWP Wipo information: published in national office

Ref document number: 2023911465

Country of ref document: EP