以下、図面を参照して本発明の実施形態について詳細に説明する。
<基本概念>
図1は、補正演算により可視光カラー画像と赤外光画像をそれぞれ独立に求めることを常時可能にする色分離フィルタの配置例の基本構造を示す図である。ここでは、可視光カラー画像用に色フィルタC1,C2,C3(何れも第1の波長領域成分を透過)の3つの波長領域(色成分)用のものと、色フィルタC1,C2,C3の成分とは異なる第2の波長領域の成分として赤外光用の色フィルタC4といった別個のフィルタ特性を有する4種類の色フィルタを規則的(本例では正方格子状)に配設している。色フィルタC1,C2,C3,C4を通して対応する検知部で検知することで、それぞれの成分を独立して検知することができる。色フィルタC1,C2,C3が配される検知部が第1の検知部であり、色フィルタC4が配される検知部が第2の検知部である。また、色フィルタC1,C2,C3が配される検知部(検知要素)は、第1の波長領域をさらに波長分離して検知するためのものである。
なお、色フィルタC1,C2,C3は、たとえば、可視光帯内のある色成分で透過率が略1、その他で略ゼロとする原色フィルタとする。たとえば、可視光VL(波長λ=380〜780nm)の3原色である青色成分B(たとえば波長λ=400〜500nmで透過率が略1、その他で略ゼロ)、緑色成分G(たとえば波長λ=500〜600nmで透過率が略1、その他で略ゼロ)、赤色成分R(たとえば波長λ=600〜700nmで透過率が略1、その他で略ゼロ)を中心とする原色フィルタであってもよい。
もしくは、色フィルタC1,C2,C3は、可視光帯内のある色成分で透過率が略ゼロ、その他で略1の透過率を持つ補色系の色フィルタとする。たとえば、黄Ye(たとえば波長λ=400〜500nmで透過率が略ゼロ、その他で略1)、マゼンダMg(たとえば波長λ=500〜600nmで透過率が略ゼロ、その他で略1)、シアンCy(たとえば波長λ=600〜700nmで透過率が略ゼロ、その他で略1)など、可視光の3原色成分に対して略ゼロの透過率を持つ補色系の色フィルタであってもよい。
補色系の色フィルタは原色系の色フィルタよりも感度が高いので、可視領域の透過光が3原色の各々の補色である補色系の色フィルタを使用することで撮像装置の感度を高めることができる。逆に、原色系の色フィルタを用いることで、差分処理を行なわなくても原色の色信号を取得でき、可視光カラー画像の信号処理が簡易になる利点がある。
なお、透過率が“略1”であるとは、理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに大きいものであればよい。一部に“1”でない透過率”があってもよい。また、透過率が“略ゼロ”であるについても、同様に理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに小さいものであればよい。一部に“ゼロ”でない透過率”があってもよい。
また、原色系および補色系の何れも、可視光領域の内の所定色(原色もしくは補色)の波長領域成分を通過させるものであればよく、第2の波長領域である赤外光領域を通過させるか否かすなわち赤外光IRに対する透過率は不問である。
たとえば、現状一般的に用いられる各色フィルタは、可視光帯内では、たとえばR,G,Bの各々に対して透過率が高くその他の色(たとえばRであればGやB)の透過率が低いが、可視光帯外の透過率に関しては規定外であり、通常、その他の色(たとえばRであればGやB)の透過率よりも高く、たとえば各フィルタともに赤外領域に感度を持ち、赤外領域において光の透過がある。しかしながら、本実施形態では、このような可視光帯外で透過率が高い特性であっても、影響を受けない。
一方、色フィルタC4は、少なくとも第2の波長領域(本例では赤外光)の成分を含む所定波長領域用のものであればよく、第1の手法として、色フィルタC1,C2,C3を通過する主要成分(つまり可視光成分)を通過させずに第2の波長領域(本例では赤外光)のみを通過させるもの(可視光カットフィルタ)であってもよいし、第2の手法として、第1の波長領域(本例では可視光)から第2の波長領域(本例では赤外光)までの全域の成分を通過させるもの(全域通過フィルタ)であってもよい。第2の手法の場合、可視光から赤外光(特に近赤外光)までの全波長の成分を通過させるという点においては、色フィルタC4としては、事実上、カラーフィルタを設けない構成を採ることができる。
たとえば、赤外光を受光する検知領域の受光面側に可視光カットフィルタを入れない場合、赤外光の検知領域側に可視光成分が漏れ込み、この漏込み成分の可視光像と本来の赤外光画像とが混在して取得される。この混在した可視光像を排除して、可視光の影響の殆どない赤外光画像を取得するには、たとえば、可視光成分を受光する3つの色画素R,G,Bで検知される青、赤、緑の強度を減じる必要がある。
これに対して、たとえば、赤外光と緑色光とを通過させる緑色フィルタを可視光カットフィルタとして設けることで、赤外光用の検知部からは赤外光IRと緑色の可視光LGの混在の成分が得られるが、緑色光成分を受光する色画素Gから得られる緑色成分との差分を取ることで、可視光VL(ここでは緑色光G)の影響をほぼ全く受けない赤外光IRのみの像が得られる。緑色フィルタを外光用の検知部の受光面側に設ける必要があるものの、緑色フィルタを設けずに3つの画素R,G,Bで検知される青、赤、緑の強度を減じる場合よりも処理が簡易になる。
また、赤外光を通過させ可視光のみを吸収するような黒色フィルタを可視光カットフィルタとして設けると、可視光をこの黒色フィルタで吸収させることで、赤外光用の検知部からは赤外光のみの成分が得られ、差分処理を行なわなくても、可視光の影響をほぼ全く受けない赤外光のみの赤外光画像が得られることになる。
なお、色フィルタC1,C2,C3が配される画素の検知部(たとえばフォトダイオードなどの撮像素子)は、可視光に感度を有していればよく、近赤外光に感度を有する必要はない。一方、色フィルタC4が配される画素のフォトダイオードなどで構成される検知部は、本例の場合、少なくとも近赤外光に感度を有することが必要である。また、色フィルタC4が近赤外光のみを通過させる可視光カットフィルタである場合には可視光に感度を有する必要はないが、色フィルタC4が全域通過フィルタである場合には可視光にも感度を有する必要がある。
また、色フィルタC4が配される色画素は、この色フィルタC4が配される色画素に基づいて得られる第2の波長領域の成分に関わる物理情報(本例では赤外光画像)再現用として使用されるだけでなく、色フィルタC1,C2,C3が配される色画素に基づいて得られる可視光カラー画像再現用の色信号に対して補正画素としても使用される。色フィルタC4は、色フィルタC1,C2,C3に対しての補正色フィルタとして機能することになるのである。
すなわち、可視光カラー画像の再現に当たっては、先ず、色フィルタC1,C2,C3が配される色画素から第1の波長領域の信号成分SC1,SC2,SC3を、この第1の波長領域の成分とは異なる第2の波長領域(赤外)の成分から事実上分離して、それぞれ独立の検知領域で検知する。また、少なくとも第2の波長領域(赤外)の成分を含む所定波長領域(赤外のみまたは全域)の信号成分SC4をさらに別の検知領域で検知する。
そして、各信号成分SC1,SC2,SC3を、信号成分SC4を使って補正することにより、第2の波長領域(赤外)の成分の影響を排除した、第1の波長領域の成分(可視光成分)に関わる画像(ここでは可視光カラー画像)を再現するための各補正色信号SC1*,SC2*,SC3*を取得する。
この補正演算に当たっては、第1波長領域の信号成分SC1,SC2,SC3から、少なくも第2の波長領域の成分を含む信号成分SC4に所定の係数αC1,αC2,αC3を掛けた信号成分を減算する。
なお、第2の波長領域の成分に関わる画像(ここでは赤外光に関わる赤外光画像)は、信号成分SC4から取得できる。このとき、色フィルタC4が色フィルタC1,C2,C3を通過する主要成分(つまり可視光成分)を通過させずに第2の波長領域(本例では赤外光)のみを通過させる可視光カットフィルタである場合には、信号成分SC4そのものが赤外光画像を表わす。一方、色フィルタC4が第1の波長領域(本例では可視光)から第2の波長領域(本例では赤外光)までの全域の成分を通過させる全域通過フィルタである場合には、信号成分SC4から信号成分SC1,SC2,SC3により得られる可視光像の成分を減算すればよい。なお、赤外光画像に関しては、赤外光と可視光の混在による像を取得するようにしてもよい。
このようにして、4種類の波長領域(ここでは4種類の色フィルタを配設した各画素)で得られる信号出力をマトリクス演算すると、可視光カラー画像および近赤外光画像をそれぞれ独立に求めることができる。すなわち、フォトダイオードなどの撮像素子の各画素に、別個のフィルタ特性を有する4種類の色フィルタを配設し、4種類の色フィルタを配設した各画素の出力をマトリクス演算することで、近赤外光の影響をほぼ全く受けない可視光カラー画像を形成するための3原色出力と、可視光の影響をほぼ全く受けない近赤外光画像を形成するための出力を、それぞれ独立かつ同時に取得することができる。
特に、可視光カラー画像に関しては、赤外光の漏れによる色再現の悪さを演算処理にて補正することで、暗所で感度の高く、かつ色再現の良好な撮像が可能になる。赤外光に近い赤色の信号成分が大きくなる現象や映像の赤い部分で輝度が高くなる現象を緩和することもでき、特別な撮像素子や機構を用いなくても、低コストで色再現性の向上と低照度時の感度アップのバランスを取ることができる。
また、減色フィルタの一例として厚みや重さのある高価なガラス製の光学部材を結像光学系の光路上のセンサの前に入れる必要がなくなる。高価な赤外光カットフィルタを不要にすることで、光学系を軽量かつコンパクトにできるし、コストを大幅に低減できる。もちろん、赤外光カットフィルタの挿入/抜出機構が不要であり、装置が大がかりになることもない。
また赤外光カットフィルタが不用になることによって高感度化も達成される。赤外光カットフィルタなしでカラー撮像を行なうことで、現行の信号処理回路と組み合わせつつ、近赤外線領域の光を有効に利用し高感度化を図ることもでき、その際、低照度時であっても、色再現性が良好になる。
可視光成分に漏れ込む赤外光成分による可視光カラー画像の色再現の悪さについては、演算処理により簡単に補正することができる。また、その補正演算に際しては、特開2003−70009号公報に記載の仕組みのような単なる見積もりで補正するのではなく、赤外光成分を実測し、その情報を使って補正するので、実際の撮像環境下での赤外光の強度に応じた適正量で補正を加えることができ、補正精度が極めて良好である。また、ユーザが撮像環境に合わせて補正量を調整する必要がなく使い勝手がよい。
<撮像装置>
図2は、本発明に係る物理情報取得装置の一例である撮像装置の概略構成を示す図である。この撮像装置300は、可視光カラー画像および近赤外光画像を独立に得る撮像装置になっている。
具体的には、撮像装置300は、被写体Zの像を担持する光Lを撮像部側に導光して結像させる撮影レンズ302と、光学ローパスフィルタ304と、色フィルタ群312および固体撮像素子(イメージセンサ)314を有する撮像部310と、固体撮像素子314を駆動する駆動部320と、固体撮像素子314から出力された各撮像信号SIR(赤外光成分),SV(可視光成分)を処理する撮像信号処理部330とを備えている。
光学ローパスフィルタ304は、折返し歪みを防ぐために、ナイキスト周波数以上の高周波成分を遮断するためのものである。一般的な撮像装置においては、この光学ローパスフィルタ304と赤外光カットフィルタとを併用するが、本構成では、赤外光カットフィルタを備えていない。また、可視光カラー画像および近赤外光画像を独立に得る構成とする場合、撮影レンズ302を通して入射された光L1を不可視光の一例である赤外光IRと可視光VLとに分離する波長分離用の光学部材(波長分離光学系という)を備える仕組みが採られることもあるが、本構成では、そのような入射系において波長分離を行なう波長分離光学系を備えていない。
固体撮像素子314は、2次元マトリックス状に形成された光電変換画素群からなる撮像素子である。なお、本実施形態で用いる固体撮像素子314の具体的な構成については後述する。
固体撮像素子314の撮像面では、被写体Zの像を担持する赤外光IRに応じた電荷や可視光VLに応じた電荷が発生する。電荷の蓄積動作や電荷の読出動作などの動作は、図示しないシステムコントロール回路から駆動部320へ出力されるセンサ駆動用のパルス信号によって制御される。
固体撮像素子314から読み出された電荷信号、すなわち赤外光画像を担持する赤外光撮像信号SIRと可視光像を担持する可視光撮像信号SVLは撮像信号処理部330に送られ、所定の信号処理が加えられる。
たとえば、撮像信号処理部330は、固体撮像素子314から出力されたセンサ出力信号(可視光撮像信号SVLおよび赤外光撮像信号SIR)に対して黒レベル調整やゲイン調整やガンマ補正などの前処理を行なう前処理部332と、前処理部332から出力されたアナログ信号をデジタイル信号に変換するAD変換部334と、撮影レンズ302で生じるシェーディングや固体撮像素子314の画素欠陥などを補正する補正処理部336と、画像信号処理部340とを備えている。
画像信号処理部340は、本実施形態の特徴部分として、可視光撮像信号SVLに対して赤外光撮像信号SIRを使って補正を加えることで補正可視光撮像信号SVL*を生成する赤外光補正処理部342を備えている。また、画像信号処理部340は、赤外光補正処理部342から出力された補正可視光撮像信号SVL*に基づいて輝度信号を生成する輝度信号処理部344と、赤外光補正処理部342から出力された補正可視光撮像信号SVL*に基づいて色信号(原色信号や色差信号)を生成する色信号処理部346と、赤外光撮像信号SIRに基づいて赤外光画像を表わす赤外光信号を生成する赤外信号処理部348とを備えている。
固体撮像素子314から出力された撮像信号は、撮像信号処理部330の前処理部332により所定レベルに増幅され、AD変換部334によりアナログ信号からデジタル信号に変換される。また、可視光成分のデジタルの画像信号は、赤外光補正処理部342で赤外光成分が抑制され、さらに輝度信号処理部344や色信号処理部346にて、必要に応じて(特に色フィルタC1,C2,C3として補色フィルタを使用した場合)R,G,Bの色分離信号に分離された後、輝度信号や色信号もしくはこれを合成した映像信号などに変換され出力される。また、赤外信号処理部348にて、必要に応じて(色フィルタC4として黒色フィルタを使用しない場合)赤外光撮像信号SIRに対して可視光撮像信号SVLを使って補正が加えられる。
なお、赤外光補正処理部342は、可視光撮像信号SVLに対して赤外光撮像信号SIRを使って補正を加えることができればよく、その配設位置は、このような構成に限定されない。たとえば、AD変換部334とシェーディング補正や画素欠陥補正を行なう補正処理部336との間に設け、シェーディング補正や画素欠陥補正の前に赤外光の影響を抑制する補正を行なうようにしてもよい。
あるいは、前処理部332とAD変換部334との間に設け、黒レベル調整やゲイン調整やガンマ補正などの前処理の後に赤外光抑制処理を行なうようにしてもよいし、固体撮像素子314と前処理部332との間に設け、黒レベル調整やゲイン調整やガンマ補正などの前処理の前に赤外光抑制処理を行なうようにしてもよい。
このような構成によって、撮像装置300は、撮影レンズ302により赤外光IRを含む被写体Zを表わす光学画像を取り込み、赤外光画像(近赤外光光学画像)と可視光像(可視光光学画像)とを分離することなく撮像部310に取り込み、撮像信号処理部330によってこれら赤外光画像と可視光像とをそれぞれ映像信号に変換した後に所定の信号処理(たとえばR,G,B成分への色信号分離など)を行なって、カラー画像信号や赤外光画像信号、あるいは両者を合成した混在画像信号として出力する。
たとえば、撮影レンズ302は、波長380nm程度から2200nm程度までの光を透過することができる石英またはサファイアなどの光学材料によって構成されるレンズであり、赤外光IRを含む光学画像を取り込んで、これを集光しながら固体撮像素子314上に結像させる。
また、本実施形態の撮像装置300においては、撮像部310に、本来の検知目的の波長成分の検知に最適化された検知部(イメージセンサ)を設けるようにする点に特徴を有している。特に、本実施形態においては、可視光VLと赤外光IRの内の短波長側を検知するべく、可視光VLの検知に最適化された固体撮像素子314が設けられている。
ここで“最適化されたイメージセンサ”とは、本来の検知目的の波長成分の撮像信号に、本来の検知目的の波長成分以外が可能な限り含まれないようにするような波長分離対応の領域を備えた構造を持つことを意味する。
波長分離光学系による光路上での波長分離を備えなくても、イメージセンサ側で波長分離対応の構造を持つようにすることで、光学系をコンパクトにすることを可能にする点に特徴を有している。
このような撮像装置の構造は、特開平10−210486号公報や特開平06−121325号公報のように、波長分離光学系で分離した各波長成分を、同様の構造を持つそれぞれ個別のセンサに入射させることで、可視光像と赤外光画像とを個別に取得する構成とは異なる。
また、特開平10−210486号公報のように、コールドミラーを透過した可視光成分をさらに3枚のダイクロイックミラーで、赤色成分、緑色成分、および青色成分に分離し、それぞれを個別のセンサに入射させることで、可視光VLに関して、R,G,Bの個別の画像を取得する仕組みとも異なる。特開平10−210486号公報の方式では、可視光VLについて3つのセンサが必要になり、感度向上はあるものの、コストが増大するという問題点がある。本実施形態の構成ではこの問題がない。
また、特開2002−369049号公報のように、光路上にて2段構えで波長分離を行ない、同様の構造を持つそれぞれ個別のセンサに入射させることで、可視光像と赤外光画像とを個別に取得する構成とも異なる。特許文献4の方式では、光路上にて2段構えで波長分離を行なうので、光学系が大掛かりになる難点がある。加えて、感度やボケなどの問題も有する。本実施形態の構成ではこの問題がない。
たとえば、本実施形態の構成では、撮像部310による可視光VLの撮像において、減色フィルタの一例として赤外光カットフィルタを固体撮像素子314の前に入れる必要がなくなる。高価な赤外光カットフィルタを不要にすることで、コストを大幅に低減できる。また、厚みや重さのある赤外光カットフィルタを不要にすることで、光学系を軽量かつコンパクトにできる。もちろん、赤外光カットフィルタの挿入/抜出機構が不要であり、装置が大がかりになることもない。既存のガラス製の赤外光カットフィルタを用いる場合に比べて、コスト的に有利になるし、コンパクトになって携帯性などに優れたデジタルカメラなどの撮像装置を提供することができる。
また、赤外光カットフィルタを固体撮像素子314の前に入れる構成では、ガラス基板をCCDやCMOSなどの撮像素子の前に入れることで光路の途中に空気とガラス界面が生じてしまう。したがって、透過して欲しい可視光VLの光までがその界面で反射されてしまい、感度低下を招く問題が生じる。さらにこのような界面が多くなることで、斜め入射における(ガラス内で)屈折する角度が波長によって異なり、光路の変化による焦点ぼけを引き起こす。これに対して固体撮像素子314の前側の光路上に赤外光カットフィルタを用いないことで、このような焦点ぼけがなくなる利点が得られる。
なお、さらに波長分離性能を向上させるために、光学系が大きくなってしまなどの問題が生じてしまうが、全体に弱い赤外光カットフィルタを入れてもよい。たとえば50%以下の赤外光カットフィルタを入れることで可視光VLに対して殆ど問題のないレベルまでカットするとよい。
何れにしても、可視光VLのみの撮像と赤外光IRのみの撮像、あるいは可視光VLのみの撮像と赤外光IRと可視光VLとを混在させた撮像を、同時に行なうようにすることができる。
昼間におけるモノクロ画像あるいはカラー画像の撮像時に赤外光IRの影響を受けず、また、夜間などにおいて、赤外光IRによる撮像が可能となる。必要に応じて、他方の像も同時に出力することもできる。その場合でも、昼間において、可視光VLの影響を受けない赤外光IRのみの画像を得ることができる。
たとえば赤外光IRの影響をほぼ全く受けない可視光VLのみのモノクロ画像が得られる。特開2002−142228号公報記載の仕組みとは異なり、赤外光IRの影響をほぼ全く受けない可視光VLのモノクロ画像を得るに際して、赤外光IRの成分との間での演算処理が不要である。
さらに、固体撮像素子314上に、可視光VL内を所定の波長領域成分に分離する光学部材の一例として、可視光領域において所定の波長透過特性を持つ色フィルタを画素(単位画素マトリクス)に対応させて設けることで、赤外光IRの影響をほぼ全く受けない可視光領域中の特定波長領域のみの像が得られる。
また、単位画素マトリクスを構成する複数のフォトダイオード上に一体的に、可視光領域においてそれぞれ異なる波長透過特性を持つ色フィルタを、各波長対応(色別)のフォトダイオードに位置整合させて、規則的に配列することで、可視光領域を波長別(色別)に分離することができ、これらの色別の画素から得られる各画素信号に基づいて合成処理をすることで、赤外光IRの影響をほぼ全く受けない可視光VLのみのカラー画像(可視光カラー画像)が得られる。
特開2002−142228号公報記載の仕組みのような単純なマトリクス演算とは異なり、赤外光IRの影響をほぼ全く受けない可視光VLのカラー画像を得るに際して、可視光領域の信号成分SVから少なくも赤外光領域の成分を含む信号成分SIRに所定の係数αを掛けた信号成分を減算する補正演算を行なうので、可視光領域の画素信号に含まれる赤外光成分を精度よく抑制することができる。
また、特開2003−70009号公報記載の仕組みのような単なる見積もりで補正するのではなく、赤外光成分を実測し、その情報を使って可視光成分に補正を加えるので、実情に即してかつ精度よく補正を行なうことができる。
このように、可視光VLのモノクロ画像あるいはカラー画像と、“赤外光IRに関わる像”をそれぞれ独立に求めることが常時可能となる。“赤外光IRに関わる像”とは、可視光VLの影響をほぼ全く受けない赤外光IRのみの像や赤外光IRと可視光VLとを混在させた像を意味する。
赤外光IRの影響をほぼ全く受けない可視光VLのみの撮像(モノクロ撮像もしくはカラー撮像)と、赤外光IRと可視光VLとを混在させた撮像を、同時に行なうようにすることもできる。また、可視光VLのみの成分(モノクロ像成分もしくはカラー像成分)と、赤外光IRと可視光VLとを混在させた成分との合成処理(詳しくは差分処理)により、可視光VLの影響をほぼ全く受けない赤外光IRのみの撮像を行なうようにすることもできる。
なお、上記において、“影響をほぼ全く受けない”とは、最終的に人間の視覚によることを考慮し、一般的に人間の視覚によって明確な差が関知できない程度であれば、“影響を若干受ける”ことがあってもよい。すなわち、赤外光IR側については通過波長領域(可視光VL)の影響を無視可能な赤外画像(物理情報の一例)を取得できればよく、可視光VL側については反射波長領域成分(赤外光IR)の影響を無視可能な通常画像(物理情報の一例)を取得できればよい。
なお、色フィルタC4として、黒色フィルタを使用しない場合には、色フィルタC4が配される補正画素は、可視光から赤外光まで広い波長域において感度を持つことになるので、色フィルタC1,C2,C3が配される可視光撮像用の他の画素に比べて、画素信号が飽和し易い。
この問題を避けるには、色フィルタC4が配される第2の検知部の検知時間を駆動部320により制御するとよい。たとえば、明るい所での撮像においては、電子シャッタ機能を利用するなどして、通常よりも短い周期で補正画素の検知部から画素信号を読み出して、それを前処理部332に送るようにするのがよい。この場合、60フレーム/秒より高いレートで信号を送ることで飽和に対して効果が得られる。
あるいは単に0.01667秒より短い時間(蓄積時間)で補正画素の検知部から電荷を読み出せればよい。この場合、オーバーフローを用いて基板側に電荷信号を排出することで実効的に短い時間での電荷の蓄積を読み出してもよい。さらに望ましくは、240フレーム/秒より高いレートで信号を送ることで飽和に対して効果がよりある。あるいは、単に4.16ミリ秒より短い時間(蓄積時間)で検知部から電荷を読み出せればよい。何れにしても、補正画素の検知部から出力される画素信号が飽和し難いようにできればよい。なお、このように飽和しないように短い時間(蓄積時間)で電荷を読み出すのは補正画素だけ行なってもよいし、全画素をそのようにしてもよい。
さらに短い時間で読み取った信号を2回以上積算することで、弱い信号を強い信号に変換し、S/N比を高めてもよい。たとえば、このようにすることで暗いところで撮像しても、また明るいところで撮像しても適切な感度と高いS/N比が得られ、ダイナミックレンジが広がることになる。
<撮像装置;CCD対応>
図3は、図1に示す色分離フィルタ配置を、インターライン転送方式のCCD固体撮像素子(IT_CCDイメージセンサ)に適用した場合の撮像装置の回路図である。
ここで、図3は、可視光帯内をR,G,Bの各色成分に分けつつ赤外光IRを検知するようにした構造を示し、可視光VLの内の青色光B、緑色光G、および赤色光Rと、赤外光IRとを、それぞれ独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長別に画素(光電変換素子)12B,12G,12Rを形成しつつ、波長分離構造を有していない画素12IRを有し、画素12IRを他の画素に対して補正画素として利用する構造である。
たとえば、図3(A)に示すように、CCD固体撮像素子101は、単位画素マトリクス12の他に、垂直転送方向に、垂直転送CCD122が複数本並べられて設けられている。垂直転送CCD122の電荷転送方向すなわち画素信号の読出方向が縦方向(図中のX方向)である。
さらに、垂直転送CCD122と各単位画素マトリクス12との間には読出ゲート124(波長別には124B,124G,124R,124IR)をなすMOSトランジスタが介在し、また各ユニットセル(単位構成要素)の境界部分には図示しないチャネルストップが設けられる。
なお、図3から分かるように、1つの単位画素マトリクス12が、青色光B、緑色光G、赤色光R、および赤外光IRを独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長(色)別に画素12B,12G,12R,12IRを形成した構造である。これら単位画素マトリクス12を有して構成されるセンサ部112の垂直列ごとに設けられ、各センサ部から読出ゲート124によって読み出された信号電荷を垂直転送する複数本の垂直転送CCD122とセンサ部112とによって撮像エリア110が構成される。
ここで、色フィルタ14の配列としては、たとえば、シリコン基板1_ωの受光面側における、垂直転送CCD122の縦方向(X方向)に青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となり、また、複数の垂直転送CCD122の同一行方向(Y方向)にも、青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となるようにする。また、補正画素を設けることによる解像度低下を考慮した画素配列にすることも有効である(詳細は後述する)。
センサ部112の単位画素マトリクス12(各画素12B,12G,12R,12IR)に蓄積された信号電荷は、読出ゲート124に読出パルスROGに対応するドライブパルスφROGが印加されることで、同一垂直列の垂直転送CCD122に読み出される。垂直転送CCD122は、たとえば3相〜8相などの垂直転送クロックVxに基づくドライブパルスφVxよって転送駆動され、読み出された信号電荷を水平ブランキング期間の一部にて1走査線(1ライン)に相当する部分ずつ順に垂直方向に転送する。この1ラインずつの垂直転送を、特にラインシフトという。
また、CCD固体撮像素子101には、複数本の垂直転送CCD122の各転送先側端部すなわち、最後の行の垂直転送CCD122に隣接して、所定(たとえば左右)方向に延在する水平転送CCD126(Hレジスタ部、水平転送部)が1ライン分設けられる。この水平転送CCD126は、たとえば2相の水平転送クロックH1,H2に基づくドライブパルスφH1,φH2によって転送駆動され、複数本の垂直転送CCD122から転送された1ライン分の信号電荷を、水平ブランキング期間後の水平走査期間において順次水平方向に転送する。このため2相駆動に対応する複数本(2本)の水平転送電極が設けられる。
水平転送CCD126の転送先の端部には、たとえばフローティング・ディフュージョン・アンプ(FDA)構成の電荷電圧変換部を有する出力アンプ128が設けられる。出力アンプ128は、物理情報取得部の一例であって、電荷電圧変換部において、水平転送CCD126によって水平転送されてきた信号電荷を順次電圧信号に変換し所定レベルに増幅して出力する。この電圧信号は、被写体からの光の入射量に応じたCCD出力(Vout )として画素信号が導出される。以上により、インターライン転送方式のCCD固体撮像素子101が構成される。
CCD出力(Vout )として出力アンプ128から導出された画素信号は、図3(B)に示すように、撮像信号処理部330に入力される。撮像信号処理部330には、信号切替制御部の一例である画像切替制御部360からの画像切替制御信号が入力されるようになっている。
画像切替制御部360は、撮像信号処理部330の出力を赤外光IRの影響をほぼ全く受けない可視光VLのモノクロ画像やカラー画像と、可視光VLの影響をほぼ全く受けない赤外光IRの画像の何れか一方のみ、もしくはこれらの双方、あるいは可視光VLと赤外光IRの混在画像すなわち赤外光IRの輝度を加算した擬似モノクロ画像あるいは擬似カラー画像にするかの切替えを指令する。つまり、可視光VLの画像と赤外光IRに関わる画像との同時撮像出力や切替撮像出力を制御する。
この指令は、撮像装置を操作する外部入力によってもよく、また、撮像信号処理部330の赤外光IRのない可視光輝度により画像切替制御部360が自動処理により切替えを指令してもよい。
ここで、撮像信号処理部330は、たとえば、各画素の撮像データR,G,B,IRを同時化する同時化処理、スミア現象やブルーミング現象によって生じる縦縞のノイズ成分を補正する縦縞ノイズ補正処理、ホワイトバランス(WB;White Balance )調整を制御するWB制御処理、階調度合いを調整するガンマ補正処理、電荷蓄積時間の異なる2画面の画素情報を利用してダイナミックレンジを拡大するダイナミックレンジ拡大処理、あるいは輝度データ(Y)や色データ(C)を生成するYC信号生成処理などを行なう。これにより、赤(R),緑(G),青(B)の原色の撮像データ(R,G,B,IRの各画素データ)に基づく可視光帯の画像(いわゆる通常画像)が得られる。
また、撮像信号処理部330は、赤外光IRの画素データを用いて、赤外光IRに関わる画像を生成する。たとえば、可視光像取得用の画素12R,12G,12Bに対して補正画素として機能する画素12IRにおいて、赤外光IRだけでなく可視光VLも同時に信号に寄与するように色フィルタ14Cを入れない場合には、画素12IRからの画素データを用いることで、高感度の画像が得られる。また、画素12R,12G,12Bから得られる各色成分との差分を取ることで、赤外光IRのみの像が得られる。
あるいは、色フィルタ14Cとして、画素12IRに対して緑色フィルタ14Gを入れる場合には、画素12IRからは赤外光IRと緑色の可視光LGの混在の像が得られるが、画素12Gから得られる緑色成分との差分を取ることで、赤外光IRのみの像が得られる。あるいは、色フィルタ14Cとして画素12IRに対して黒色フィルタ14BKを設ける場合には、画素IRからの画素データを用いることで赤外光IRのみの像が得られる。
このようにして生成された各画像は、図示しない表示部に送られ、操作者に可視画像として提示されたり、あるいはそのままハードディスク装置などの記憶装置に記憶・保存されたり、またはその他の機能部に処理済みデータとして送られる。
<撮像装置;CMOS対応>
図4は、図1に示す色分離フィルタ配置を、CMOS固体撮像素子(CMOSイメージセンサ)に適用した場合の撮像装置の回路図である。
ここで、図4は、可視光帯内をR,G,Bの各色成分に分けつつ赤外光IRを検知するようにした構造を示し、可視光VLの内の青色光B、緑色光G、および赤色光Rと、赤外光IRとを、それぞれ独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長別に画素(光電変換素子)12B,12G,12Rを形成しつつ、波長分離構造を有していない画素12IRを有し、画素12IRを他の画素に対して補正画素として利用する構造である。
CMOSに応用した場合、単位画素マトリクス12内の1つ1つの画素(光電変換素子)12B,12G,12R,12IRに対してセルアンプを1つ持つ構造となる。よってこの場合、図4(A)のような構造となる。画素信号はセルアンプで増幅された後にノイズキャンセル回路などを通して出力される。
たとえばCMOS固体撮像素子201は、入射光量に応じた信号を出力する受光素子(電荷生成部の一例)を含む複数個の画素が行および列に配列された(すなわち2次元マトリクス状の)画素部を有し、各画素からの信号出力が電圧信号であって、CDS(Correlated Double Sampling ;相関2重サンプリング)処理機能部やデジタル変換部(ADC;Analog Digital Converter)などが列並列に設けられている、いわゆる典型的なカラム型となっている。
具体的には、図4に示すように、CMOS固体撮像素子201は、複数の画素12が行および列に配列された画素部(撮像部)210と、画素部210の外側に設けられた駆動制御部207と、カラム処理部226と、出力回路228とを備えている。
なお、カラム処理部226の前段または後段には、必要に応じて信号増幅機能を持つAGC(Auto Gain Control) 回路などをカラム処理部226と同一の半導体領域に設けることも可能である。カラム処理部226の前段でAGCを行なう場合にはアナログ増幅、カラム処理部226の後段でAGCを行なう場合にはデジタル増幅となる。nビットのデジタルデータを単純に増幅してしまうと、階調が損なわれてしまう可能性があるため、どちらかというとアナログにて増幅した後にデジタル変換するのが好ましいと考えられる。
駆動制御部207は、画素部210の信号を順次読み出すための制御回路機能を備えている。たとえば、駆動制御部207としては、列アドレスや列走査を制御する水平走査回路(列走査回路)212と、行アドレスや行走査を制御する垂直走査回路(行走査回路)214と、外部との間でのインタフェース機能や内部クロックを生成するなどの機能を持つ通信・タイミング制御部220とを備えている。
水平走査回路212は、カラム処理部226からカウント値を読み出す読出走査部の機能を持つ。これらの駆動制御部207の各要素は、画素部210とともに、半導体集積回路製造技術と同様の技術を用いて単結晶シリコンなどの半導体領域に一体的に形成され、半導体システムの一例である固体撮像素子(撮像デバイス)として構成される。
図4では、簡単のため行および列の一部を省略して示しているが、現実には、各行や各列には、数十から数千の画素12が配置される。この画素12は、典型的には、受光素子(電荷生成部)としての単位画素マトリクス12と、増幅用の半導体素子(たとえばトランジスタ)を有する画素内アンプ(セルアンプ;画素信号生成部)205(波長別には205B,205G,205R,205IR)とから構成される。
また、図4から分かるように、1つの単位画素マトリクス12が、青色光B、緑色光G、赤色光R、および赤外光IRを独立に検知する構造であり、実質的には1つの単位画素マトリクス12内において波長(色)別に画素12B,12G,12R,12IRを形成した構造である。
ここで、色フィルタ14の配列としては、たとえば、シリコン基板1_ωの受光面側におけるX方向に青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となり、またX方向と直交するY方向にも、青、緑、赤、IR(補正画素)、青、緑、赤、IR(補正画素)、…の順となるようにする。また、補正画素を設けることによる解像度低下を考慮した色配列にすることも有効である(詳細は後述する)。
画素内アンプ205としては、たとえばフローティングディフュージョンアンプ構成のものが用いられる。一例としては、電荷生成部に対して、電荷読出部(転送ゲート部/読出ゲート部)の一例である読出選択用トランジスタ、リセットゲート部の一例であるリセットトランジスタ、垂直選択用トランジスタ、およびフローティングディフュージョンの電位変化を検知する検知素子の一例であるソースフォロア構成の増幅用トランジスタを有する、CMOSセンサとして汎用的な4つのトランジスタからなる構成のものを使用することができる。
あるいは、特許第2708455号公報に記載のように、電荷生成部により生成された信号電荷に対応する信号電圧を増幅するための、ドレイン線(DRN)に接続された増幅用トランジスタと、画素内アンプ205をリセットするためのリセットトランジスタと、垂直シフトレジスタより転送配線(TRF)を介して走査される読出選択用トランジスタ(転送ゲート部)を有する、3つのトランジスタからなる構成のものを使用することもできる。
画素12は、行選択のための行制御線215を介して垂直走査回路214と、また垂直信号線219を介してカラム処理部226と、それぞれ接続されている。ここで、行制御線215は垂直走査回路214から画素に入る配線全般を示す。一例として、この行制御線215は、長尺状の散乱体3に対して平行な方向に配される。
水平走査回路212や垂直走査回路214は、たとえばシフトレジスタやデコーダを含んで構成され、通信・タイミング制御部220から与えられる制御信号に応答してアドレス選択動作(走査)を開始するようになっている。このため、行制御線215には、画素12を駆動するための種々のパルス信号(たとえば、リセットパルスRST、転送パルスTRF、DRN制御パルスDRNなど)が含まれる。
通信・タイミング制御部220は、図示しないが、各部の動作に必要なクロックや所定タイミングのパルス信号を供給するタイミングジェネレータTG(読出アドレス制御装置の一例)の機能ブロックと、端子220aを介してマスタークロックCLK0を受け取り、また端子220bを介して動作モードなどを指令するデータDATAを受け取り、さらにCMOS固体撮像素子201の情報を含むデータを端子220cを介して出力する通信インタフェースの機能ブロックとを備える。
たとえば、水平アドレス信号を水平デコーダへ、また垂直アドレス信号を垂直デコーダへ出力し、各デコーダは、それを受けて対応する行もしくは列を選択し、駆動回路を介して画素12やカラム処理部226を駆動する。
この際、画素12を2次元マトリックス状に配置してあるので、画素内アンプ(画素信号生成部)205により生成され垂直信号線219を介して列方向に出力されるアナログの画素信号を行単位で(列並列で)アクセスし取り込む(垂直)スキャン読みを行ない、この後に、垂直列の並び方向である行方向にアクセスし画素信号(たとえばデジタル化された画素データ)を出力側へ読み出す(水平)スキャン読みを行なうようにすることで、画素信号や画素データの読出しの高速化を図るのがよい。もちろん、スキャン読みに限らず、読み出したい画素12を直接にアドレス指定することで、必要な画素12の情報のみを読み出すランダムアクセスも可能である。
また、通信・タイミング制御部220では、端子220aを介して入力されるマスタークロック(マスタークロック)CLK0と同じ周波数のクロックCLK1や、それを2分周したクロックやより分周した低速のクロックをデバイス内の各部、たとえば水平走査回路212、垂直走査回路214、カラム処理部226などに供給する。
垂直走査回路214は、画素部210の行を選択し、その行に必要なパルスを供給するものである。たとえば、垂直方向の読出行を規定する(画素部210の行を選択する)垂直デコーダと、垂直デコーダにて規定された読出アドレス上(行方向)の画素12に対する行制御線215にパルスを供給して駆動する垂直駆動回路とを有する。なお、垂直デコーダは、信号を読み出す行の他に、電子シャッタ用の行なども選択する。
水平走査回路212は、低速クロックCLK2に同期してカラム処理部226内の図示しないカラム回路を順番に選択し、その信号を水平信号線(水平出力線)218に導くものである。たとえば、水平方向の読出列を規定する(カラム処理部226内の個々のカラム回路を選択する)水平デコーダと、水平デコーダにて規定された読出アドレスに従って、選択スイッチ227にてカラム処理部226の各信号を水平信号線218に導く水平駆動回路とを有する。なお、水平信号線218は、たとえばカラムAD回路が取り扱うビット数n(nは正の整数)分、たとえば10(=n)ビットならば、そのビット数分に対応して10本配置される。
このような構成のCMOS固体撮像素子201において、画素12から出力された画素信号は、垂直列ごとに、垂直信号線219を介して、カラム処理部226のカラム回路に供給される。ここで、単位画素マトリクス12(各画素12B,12G,12R,12IR)に蓄積された信号電荷は、同一垂直列の垂直信号線219を介して読み出される。
カラム処理部226の各カラム回路は、1列分の画素の信号を受けて、その信号を処理する。たとえば、各カラム回路は、アナログ信号を、たとえば低速クロックCLK2を用いて、たとえば10ビットのデジタルデータに変換するADC(Analog Digital Converter)回路を持つ。
また、回路構成を工夫することで、垂直信号線219を介して入力された電圧モードの画素信号に対して、画素リセット直後の信号レベル(ノイズレベル)と真の(受光光量に応じた)信号レベルVsig との差分をとる処理を行なうことができる。これにより、固定パターンノイズ(FPN;Fixed Pattern Noise )やリセットノイズといわれるノイズ信号成分を取り除くことができる。
このカラム回路で処理されたアナログの画素信号(あるいはデジタルの画素データ)は、水平走査回路212からの水平選択信号により駆動される水平選択スイッチ217を介して水平信号線218に伝達され、さらに出力回路228に入力される。なお、10ビットは一例であって、10ビット未満(たとえば8ビット)や10ビットを超えるビット数(たとえば14ビット)など、その他のビット数としてもよい。
このような構成によって、電荷生成部としての単位画素マトリクス12(画素12B,12G,12R,12IR)が行列状に配された画素部210からは、行ごとに各垂直列について画素信号が順次出力される。そして、受光素子が行列状に配された画素部210に対応する1枚分の画像すなわちフレーム画像が、画素部210全体の画素信号の集合で示されることとなる。
出力回路228は、CCD固体撮像素子101における出力アンプ128に対応するものであって、その後段には、CCD固体撮像素子101と同様に、図4(B)に示すように、撮像信号処理部330が設けられる。撮像信号処理部330には、CCD固体撮像素子101の場合と同様に、画像切替制御部360からの画像切替制御信号が入力されるようになっている。
これにより、赤(R),緑(G),青(B)の原色の撮像データ(R,G,B,IRの各画素データ)もしくは可視光VL用の画素データに基づく可視光帯の画像(いわゆる通常画像)が得られるとともに、赤外光IRの画素データを用いることで、赤外光IRに関わる画像を得ることができる。
<信号読出方法>
図5は、可視光像と赤外光画像とを分離して取得する構造のイメージセンサを用いる場合の信号取得方法の一例を説明する図である。ここではCMOS構造の場合で示す。なお、図5(A)は回路図、図5(B)は信号タイミング図である。
受光部に設けられる光電変換素子732(カラーの場合R,G,Bの色ごと、以下同様),732IRのそれぞれに対して、波長別に転送ゲート734(R,G,B),734IRが設けられている。各光電変換素子732(R,G,B),732IRは、それぞれに対応する転送ゲート734(R,G,B),734IRを通じて、増幅用トランジスタ740とリセットトランジスタ736などを通じた画素内アンプ705へ接続されている。増幅用トランジスタ740は垂直選択トランジスタ742を介して垂直信号線751に接続されている。
リセット状態と信号読出し状態を示した図5(B)に示す各タイミングに応じて画素信号を出力する。ここで、読出対象の垂直行の垂直選択トランジスタ742に選択パルスSELを供給した状態で、転送ゲート734(R,G,B),734IRに読出パルスT(R,G,B),TIRを供給してそれぞれの信号電荷を読み出す前に、リセットトランジスタ736にリセットパルスRSTを供給してフローティングディフュージョン738をリセットさせる。こうすることで、赤外光IR成分→可視光VL成分(色ごとの成分)の順(その逆でもよい)に、画素信号を独立に読み出すことができる。
<撮像素子;第1実施形態−誘電体積層膜を利用>
図6は、固体撮像素子314の第1実施形態を説明する図である。この第1実施形態の固体撮像素子314は、誘電体積層膜を利用して電磁波を所定波長ごとに分光する波長分離の概念を採り入れた点に特徴を有する。ここでは、電磁波の一例である光を所定波長ごとに分光することを例に説明する。
具体的には、本出願人が特願2004−358139号にて提案している構成を利用したもので、固体撮像素子314の電磁波が入射する入射面側に、隣接する層間で屈折率が異なり所定の厚みを持つ層を複数積層した構造を有し、入射される光(電磁波)の内の本来の検知目的外である波長成分(本例では赤外光IR成分)を反射させ残り(本例では可視光VL成分)を通過させる特性を持った積層部材としての誘電体積層膜を利用した波長分離対応の構造を持つ分光イメージセンサ(分光検知部)としている。センサの基本構造そのものは、CCD型やCMOS型やその他の何れであってもよい。
積層部材が持つ前述の特性は、逆に言えば、入射される光(電磁波)の内の本来の検知目的の波長成分(本例では可視光VL成分)を通過させ残り(本例では赤外光IR成分)を反射させる特性ということができる。
第1実施形態では、可視光VLの検知部側に、可視光VLの検知に最適化された誘電体積層膜を利用した分光イメージセンサ構造を持つイメージセンサとしている。赤外光IRを誘電体積層膜を利用して光学的に排除し、可視光VLの検知部に入射した可視光VL成分だけの光電子だけを電気信号に変換するようにする。光路上で波長分離を行なうことなく、1つのイメージセンサ上の可視光検知画素(具体的にはR,G,Bの各色画素)に誘電体多層膜を利用した分光フィルタを一体的に形成し、赤外光検知画素には誘電体多層膜を利用した分光フィルタを形成しないことで、可視光像と赤外光画像とを独立かつ同時に取得できるようにしている。これにより、赤外光IRの影響を殆ど受けることなく、可視光像を赤外光画像とは独立に得ることができる。
<誘電体積層膜を利用した波長分離の概念>
誘電体積層膜1は、図6(A)に示すように、隣接する層間で屈折率nj(jは2以上の正の整数;以下同様)が異なり(屈折率差Δn)、所定の厚みdjを持つ層を複数積層した構造を有する積層部材である。これによって、後述するように、電磁波の内の所定の波長領域成分を反射させ残りを通過させる特性を持つようになる。
誘電体積層膜1をなす各誘電体層1_jの層数の数え方は、その両側の厚い層(第n0層1_0および第k層1_k)を層数として数えずに、たとえば、第1層目から第k層側に向けて順に数える。実質的には、両側の厚い層(第0層1_0および第k層1_k)を除いた基本層1_1〜1_n(図ではn=5)により、誘電体積層膜1が構成される。
このような構造を持つ誘電体積層膜1に光を入射させると、誘電体積層膜1での干渉により、反射率(あるいは透過率)が波長λに対してある依存性を持つようになる。光の屈折率差Δnが大きいほどその効果が強くなる。
特に、この誘電体積層膜1が、周期的な構造や、ある条件(たとえば各層の厚みdの条件d〜λ/4n)を持つことで、白色光などの入射光L1が入射すると、ある特定波長域の光(特定波長領域光)の反射率だけを効果的に高めて殆どを反射光成分L2にさせ、すなわち透過率を小さくさせて、かつ、それ以外の波長域の光の反射率を低くすることで殆どを透過光成分L3にさせる、すなわち、透過率を大きくさせることができる。
ここで波長λは、ある波長域の中心波長であり、nはその層の屈折率である。本実施形態では、この誘電体積層膜1による反射率(あるいは透過率)の波長依存性を利用することで、分光フィルタ10を実現する。
図6(B)は、赤外光IR(InfraRed)と可視光VL(Visible Light )とを分光する事例で示している。可視光VLよりも長波長側である赤外領域の波長λ(主に780nmより長波長側)の赤外光IRに対して、高い反射率を持たせるような誘電体積層膜1を形成することで、赤外光IRをカットすることができる。
なお、誘電体積層膜1をなす各誘電体層1_jの部材(層材)は、複数の層で誘電体積層膜1を構成することから少なくとも2種となり、3層以上の場合には各誘電体層1_jの何れもが異なる層材でなるものであってもよいし、2種(あるいはそれ以上)を交互にあるいは任意の順に積層したものであってもよい。また、誘電体積層膜1を、基本的な第1および第2の層材で構成しつつ、一部を第3(あるいはそれ以上)の層材に代えるようにしてもよい。以下、具体的に説明する。
<<誘電体積層膜の設計手法;赤外光カットの例>>
<厚みdjの設計手法>
図7〜図9は、誘電体積層膜1を設計する手法の基本概念を説明する図である。ここでは、誘電体積層膜1を、基本的な第1および第2の層材で構成しつつ、赤外光IRを選択的に反射させるような設計例を述べる。
図7にその構造図を示すように、本実施形態で用いる誘電体積層膜1は、両側(以下、光入射側を第0層、反対側を第k層と称する)の厚い酸化シリコンSiO2(以下SiO2と記す)に挟まれて、第1および第2の層材でなる複数の誘電体層1_jが積層されて構成されている。図示した例では、誘電体層1_jをなす第1および第2の層材として何れも一般的な材料を用いることとし、シリコンナイトライドSi3N4(以下SiNと記す)を第1の層材、酸化シリコンSiO2を第2の層材とする2種を用いて、これらを交互に積層している。また、誘電体積層膜1の構造は、上下に十分に厚い酸化シリコンSiO2層がある場合(d0=dk=∞)を仮定している。
このような誘電体積層膜1は、下記式(1)の条件を満たすことで、反射率を有効に高くすることができる。
ここでdj(jは層番号;以下同様)は、誘電体積層膜1を構成する各誘電体層1_jの厚みであり、njは、その各誘電体層1_jの屈折率であり、λ0は反射波長領域の中心波長(以下反射中心波長という)である。
誘電体積層膜1をなす各誘電体層1_jの層数の数え方は、その両側の厚い酸化シリコンSiO2を層数として数えずに、たとえば、第1層目から第k層側に向けて順に、SiN層/SiO2層/SiN層で3層、SiN層/SiO2層/SiN層/SiO2層/SiN層で5層というように数える。図4では、7層構造を示している。
また、反射波長領域である赤外光IRの反射中心波長λ0=900nmとして、奇数番目の層をなすシリコンナイトライドSiNの屈折率nα=2.03、0番目、偶数番目、およびk番目の層をなす酸化シリコンSiO2の屈折率nβ=1.46としており、屈折率差Δnは、0.57である。
また、上記式(1)に従い、シリコンナイトライドSiNの厚みdα(=d1,d3,…;j=奇数)は111nm、酸化シリコンSiO2層の厚みdβ(=d2,d4,…;j=偶数)は154nmとしている。
図8は、一般的な材料を用いた図7の構造について、層数を変えて、有効フレネル係数法で計算した反射率Rの結果(反射スペクトル図)を示し、これにより、反射スペクトルの層数依存特性が分かる。
図8の結果から、層数が増えるに従い、赤外光IRの反射中心波長λ0=900nmを中心に反射率Rが高くなっているのが分かる。さらに、このように波長900nmを反射中心波長λ0に選ぶことで、ほぼ赤外光IRと可視光VLを分けていることが分かる。ここでは、5層以上にすることで、反射率Rが0.5以上、特に、7層以上にすることで、反射率が0.7を超えて望ましいことが分かる。
図9は、誘電体層1_jの厚みの変動依存性(ばらつきとの関係)を説明する反射スペクトル図である。ここでは、7層の場合を例に、各誘電体層1_jの厚みdjを±10%変えて計算した結果(反射スペクトル図)を示している。
条件式(1)は、フレネル係数法による理想的な計算値であるが、実際には式(1)の条件はゆるやかで幅がある。たとえば、±10%の厚みdjの誤差があっても有効に反射率を高くできることがフレネル係数法による計算で分かった。
たとえば、図8に示すように、厚みdjにばらつきの差があっても、有効に反射率Rを高くできることが分かった。たとえば、赤外光IRの反射中心波長λ0=900nmにおいて反射率Rが0.5以上という十分な反射率Rが得られているし、赤外光IR全体(主に780nmより長波長側)においても、反射が強いことが分かる。したがって、実際には、ばらつきも加味すれば、誘電体層1_jの厚みdjは、下記式(2)の範囲であれば、反射率を有効に高くする上で、十分な効果が得られることになる。
<反射中心波長λ0の設計手法>
図10〜図12は、反射中心波長λ0の条件を説明する図である。厚みdjの数値条件は、スペクトルの赤外反射領域のバンド幅ΔλIRに依存する。反射スペクトルの概念を示した図10(A)のように、赤外反射領域のバンド幅ΔλIRが広い場合には長波長側に中心波長λ0を持っていかないと可視光VLでの反射が顕著になる。また反射スペクトルの概念を示した図10(B)のように、逆に赤外反射領域のバンド幅ΔλIRが狭い場合には、短波長側に中心波長λ0を持っていかないと可視光VLに近い赤外領域での反射が起こらなくなる。可視光VLと赤外光IRの波長分離性能が非常によい。
ところで図102に示したシリコンSiの吸収スペクトルのグラフから、赤外領域の内、0.78μm≦λ≦0.95μmの範囲の赤外光IRを反射させれば、赤外カット効果として十分になることが分かる。これは、波長0.95μmより長波長側の光は殆どシリコンSi内部で吸収されず、光電変換されないからである。したがって0.78μm≦λ≦0.95μmの範囲の波長の赤外光IRを反射できるように反射中心波長λ0を選べばよいことになる。
また、可視光VLでも、赤(R)領域の内、640〜780nmの範囲の光は視感度が低いために反射されてもされなくても特に撮像素子の性能に影響はないと考えてよい。したがって640〜780nmの波長領域に反射が生じていても不都合がない。
さらに、赤外反射領域のバンド幅ΔλIRは、誘電体積層膜1の屈折率差Δnが大きいときには広くなり、逆に屈折率差Δnが小さいときには狭くなる。したがって、赤外反射領域のバンド幅ΔλIRは、SiN/SiO2多層膜の場合には狭く、Si/SiO2多層膜の場合には広くなる。
これらのことから、SiN/SiO2多層膜(屈折率差Δn=0.57)の場合には、図11の反射スペクトル図に示す780nmと950nmの反射中心波長λ0の計算から、780nm≦λ0≦950nmの範囲であれば、ほぼ上述の条件を満たすことが分かる。ところで、図11は後述する図16のような積層構造で、λ0=780nmとλ0=950nmになるように、誘電体層1_jの膜厚djだけを変えて計算されたものである。
また同様に、Si/SiO2多層膜(屈折率差Δn=2.64)の場合、図12の反射スペクトル図に示すように900nm≦λ0≦1100nmの範囲であれば、ほぼ上述の条件を満たす。
以上のことから、シリコンナイトライドSiNやシリコンSiと酸化シリコンSiO2の組合せにおいては、反射中心波長λ0としては、下記式(3−1)を満たせばよいことになる。好ましくは、下記式(3−2)を満たすのがよい。これらは、900nm近傍を反射中心波長λ0とするのが理想的であることを意味する。
もちろん、上記で示した材料は一例に過ぎず、上述のような効果は必ずしも酸化シリコンSiO2とシリコンナイトライドSiN層の組み合わせに限ったことでなく、屈折率差が0.3以上、さらに望ましくは0.5以上あるような材料を選べば同様な効果があることが計算によって見積もられた。
たとえばSiN膜は、作製条件によって多少の組成のばらつきがあってもよい。また、誘電体積層膜1を構成する誘電体層1_jとしては、酸化シリコンSiO2やシリコンナイトライドSiNの他、アルミナAl2O3やジルコニアZrO2(屈折率2.05)や酸化チタンTiO2(屈折率2.3〜2.55)や酸化マグネシウムMgOや酸化亜鉛ZnO(屈折率2.1)などの酸化物あるいはポリカーボネートPC(屈折率1.58)やアクリル樹脂PMMA(屈折率1.49)などの高分子材料、炭化珪素SiC(屈折率2.65)やゲルマニウムGe(屈折率4〜5.5)などの半導体材料も使用可能である。
高分子材料を用いることで、従来のガラス製にはない特徴を持った分光フィルタ10を構成することができる。すなわち、プラスチック製にすることができ、軽量で耐久性(高温、高湿、衝撃)に優れる。
<<誘電体積層膜を利用した分波イメージセンサ>>
図13〜図17は、誘電体積層膜1を利用した固体撮像素子314への適用に好適な分光イメージセンサ11の一実施形態を説明する図である。この分光イメージセンサ11は、誘電体積層膜1を利用した分光フィルタ10の基本的な設計手法を用いて構成されるものである。ここでは、赤外光IRを選択的に反射させるような誘電体積層膜1を半導体素子層上に形成することで、赤外光IRをカットして可視光VL成分を受光するようにした分光イメージセンサ11の設計例を述べる。
なお、分光イメージセンサ11の基本構造は、分光フィルタ10を半導体素子層の受光部上に形成したもので、これだけでは、単波長分波対応(つまりモノクロ画像撮像用)の分光イメージセンサ11になるが、分光イメージセンサ11の各受光部に対させて色分離フィルタの所定色(たとえばR,G,Bの何れか)を設けることで、カラー画像撮像対応となる。
ここで、図7〜図9を用いて説明した誘電体積層膜1をシリコン(Si)フォトディテクタなどの検知素子が形成された屈折率が誘電体積層膜1をなす各誘電体層1_jよりも大きい半導体素子層上に作製するに当たっては、半導体素子層から誘電体積層膜1までの距離、すなわち第k層の誘電体層1_kをなす酸化シリコンSiO2層の厚みdkが重要である。
これは図13の構造図に示すように、たとえばシリコンSi(屈折率4.1)でなる半導体素子層(フォトディテクタなど)の表面であるシリコン基板1_ωの表面からの反射光L4との干渉効果によって、トータルな反射光LRtotal のスペクトルが変化することを意味する。
図14は、トータルな反射光LRtotal の、誘電体層1_kをなす酸化シリコンSiO2層の厚みdkの変動依存性を説明する反射スペクトル図である。ここでは、図7に示した7層構造の誘電体積層膜1について、誘電体層1_kの厚みdkを変えて計算した結果を示している。図14内の各図において、横軸は波長λ(μm)で、縦軸は反射率Rである。
図14内の各図から分かるように、厚みdk=0.154μmのとき、すなわち赤外光IRの反射中心波長λ0に対して、条件式(1)を満たす値のときに、反射スペクトルは殆ど影響を受けず、赤外光IR(波長λ≧780nm)を強く反射していることが分かる。それに対して厚みdk=0.3〜50μmまでのスペクトルには、厚みdk=∞の反射スペクトルに比べて別の振動が生じていることが分かる。それによって赤外での反射がディップ状に低下している波長域が存在するのが分かる。
ただし、厚みdk=2.5μm以上になると、赤外でのディップの半値幅が30nm以下になり、とりわけ厚みdk=5.0μm以上になるとその半値幅が20nm以下となり、一般的なブロードな自然光に対して十分に半値幅が狭くなるので平均化された反射率となる。さらに、厚みdk=0.3〜1.0μmのスペクトルに関しては、可視光VLでの反射率が高いことも分かる。これらのことから、望ましくは、厚みdk=0.154μm付近、すなわち条件式(1)を満たす値のときが最適であると言える。
図15は、誘電体層1_kをなす酸化シリコンSiO2層の厚みdkの変動依存性を説明する反射スペクトル図であって、特に、厚みdk=0.154μm付近で、厚みdkの値を変えて計算した結果を示すものである。図15内の各図において、横軸は波長λ(μm)で、縦軸は反射率Rである。
この結果から分かるように、条件式(1)を満たす厚みdk=0.154μmを中心として、厚みdk=0.14〜0.16μmの範囲であれば、可視光VLでの反射が抑えられることが分かる。
以上のことから、分光イメージセンサ11の最適構造は、図16の構造図に示すように、実質的には、第k層の誘電体層1_kを含めて8層構造の誘電体積層膜1Aを有するものとなり、その反射スペクトルの計算結果は図17に示す反射スペクトル図のようになる。言い換えると、誘電体積層膜1Aは、シリコン基板1_ω上に、第2の層材である酸化シリコンSiO2でなる層を4周期分設けた構造をなしている。
<誘電積層膜を利用した変形例>
図18〜図30は、誘電多層膜を利用した分光フィルタ10および分光イメージセンサ11の変形例を示す図である。上記の分光フィルタ10の構造は、誘電体積層膜1を利用した基本構造を示したもののであり、その他の様々な変形が可能である。同様に、上記の分光イメージセンサ11の構造は、誘電体積層膜1を利用した分光フィルタ10をCMOSやCCDなどの受光部上に形成する基本構造を示したもののであり、その他の様々な変形が可能である。たとえば、詳細は割愛するが、分光フィルタ10や分光イメージセンサ11の変形例としては、本願出願人が特願2004−358139号にて提案しているように様々な構成を採用することができる。
たとえば、図18に示す第1の変形例のように、第k層目の誘電体層1_kとシリコン基板1_ωとの間に、第k層目の誘電体層1_kの屈折率nkとシリコン基板1_ωの屈折率nω(=4.1)に対して中間的な屈折率をもつ第3の層1_γ(たとえばシリコンナイトライドSiN層)を追加した分光イメージセンサ11とすることで、可視光領域内における反射を低減することもできる。
なお、図18に示す構成では、この変形に対応して、誘電体積層膜1の第1層目から第7層目の定数設計に際して、赤外光IRの反射中心波長λ0を900nmではなくより低い側の852nmに変更しており、シリコンナイトライドSiNの厚みdα(=d1,d3,…;j=奇数)は105nm、酸化シリコンSiO2層の厚みdβ(=d2,d4,…;j=偶数)は146nmとしている。
これは、薄いSiN層(30nm)を新たに挿入することで可視光での反射率が減少するとともに同時に可視光と赤外光の境界780nm付近の反射率も低下するので、全体を短波長側にシフトさせてこの低下分を補うため、すなわち境界付近の赤外を効率よくカットするためである。もちろん、赤外光IRの反射中心波長λ0を900nmにしたままとしてもよい。
なお、第1の変形例で追加した第3の層材は、第1の層材であるシリコンナイトライドSiNと同じであるが、シリコン基板1_ωよりも大きな屈折率を持つ部材であればよく、その他の部材であってもよい。
第1例の変形例の誘電体積層膜1を有する分光イメージセンサ11は、実質的には、7層の誘電体積層膜1と、第k層の誘電体層1_k(酸化シリコンSiO2層)とシリコンナイトライドSiN層1_γの2層分を含めて、全体として9層構造の誘電体積層膜1Bを有するものとなる。その反射スペクトルの計算結果は図19に示すようになる。
また、図20に示す第2の変形例のように、第1の変形例で追加した第3の層材とシリコン基板1_ωとの間に、第3の層材よりも小さな屈折率をもつ第4の層1_δ(たとえば酸化シリコンSiO2層)を積層した分光イメージセンサ11とすることで、さらに暗電流を低減することもできる。
具体的には、第3の層材である厚みdγのシリコンナイトライドSiN層1_γとシリコン基板1_ωとの間に、第4の層材として、酸化シリコンSiO2層1_δを用いて、その厚みdδ=0.010μmとしている。その反射スペクトルの計算結果は図21に示すようになる。
なお、第2の変形例で追加した第4の層材は、第2の層材である酸化シリコンSiO2と同じであるが、第3の層材(本例ではシリコンナイトライドSiN)よりも小さな屈折率を持つ部材であればよく、その他の部材であってもよい。
第2例の変形例の誘電体積層膜1を有する分光イメージセンサ11は、実質的には、7層の誘電体積層膜1に、第k層の誘電体層1_k(酸化シリコンSiO2層)とシリコンナイトライドSiN層1_γと酸化シリコンSiO2層1_δの3層分を含めて、全体として10層構造の誘電体積層膜1Cを有するものとなる。言い換えると、誘電体積層膜1Cは、シリコン基板1_ω上に、第2の層材である酸化シリコンSiO2でなる層を5周期分設けた構造をなしている。
第1例と第2例とでは、酸化シリコンSiO2層1_δの有無の違いがあるが、図19および図21から分かるように、何れも、可視光VLでの反射率が十分に低下する。また、第2例のように、酸化シリコンSiO2層1_δを追加することで、暗電流を低減できる効果が得られる。なお、酸化シリコンSiO2層1_δを追加することで、シリコンナイトライドSiN層1_γを追加することによる効果が低減することのないように、両者の厚みの関係はdδ<<dγとするのがよい。
このように、第k層目の酸化シリコンSiO2とシリコン基板1_ωとの間に、屈折率nk(=nSiO2)と屈折率nω(=nSi)に対して中間的な屈折率nγ(=nSiN)をもつ部材として薄いシリコンナイトライドSiN層1_γを中間層として追加することで、可視光VLでの反射を抑えることが可能となる。
また、図22に示す第3の変形例のように、誘電体積層膜1内において、この誘電体積層膜1を構成する基本的な第1および第2の層材よりも大きな屈折率をもつ第5の層1_η(たとえばシリコンナイトライドSiNおよび酸化シリコンSiO2よりも高い屈折率=4.1を持つ厚みdη=61nmのシリコンSi層)を追加した分光イメージセンサ11とすることで、誘電体積層膜1をなす誘電体層1_jの層数を低減することもできる。
たとえば、図22の構造図に示す例では、シリコンナイトライドSiNおよび酸化シリコンSiO2よりも高い屈折率=4.1を持つ厚みdη=61nmのシリコンSi層を第5の層材として、シリコンナイトライドSiN(中間の第3層目の誘電体層1_3に代えて)に代えて1層だけ追加している。
なお、図22では、誘電体積層膜1の各層の定数設計に際して、赤外光IRの反射中心波長λ0を900nmにしており、シリコンナイトライドSiNの厚みdα(=d1,d3,…;j=奇数)は111nm、酸化シリコンSiO2層の厚みdβ(=d2,d4,…;j=偶数)は154nmとし、厚みdη=55nmのシリコンSi層を第5の層材として、シリコンナイトライドSiNに代えて1層だけ追加している。その反射スペクトルの計算結果は図23に示す反射スペクトル図のようになる。
ここで第3の変形例で追加した第5の層材は、半導体素子層をなすシリコン基板1_ωと同じであるが、誘電体積層膜1をなす第5の層材以外の誘電体層1_jよりも大きな屈折率を持つ部材であればよく、その他の部材であってもよい。
なお、誘電体積層膜1Dを半導体素子層(シリコン基板1_ω)上に作製するに当たっては、半導体素子層から誘電体積層膜1Dまでの距離、すなわち第k層の誘電体層1_kをなす酸化シリコンSiO2層の厚みdkが重要である。
これは図22の構造図に示すように、たとえばシリコンSi(屈折率4.1)でなる半導体素子層(フォトディテクタなど)の表面であるシリコン基板1_ωの表面からの反射光LRとの干渉効果によって、トータルな反射光LRtotal のスペクトルが変化することを意味する。
図24は、5層構造の誘電体積層膜1Dについて、トータルな反射光LRtotal の、誘電体層1_kをなす酸化シリコンSiO2層の厚みdkの変動依存性を説明する反射スペクトル図である。図24内の各図において、横軸は波長λ(μm)で、縦軸は反射率Rである。
図24内の各図から分かるように、厚みdk=0.15μmのとき、すなわち赤外光IRの反射中心波長λ0に対して、条件式(1)を満たす値dk=0.154μm近傍のときに、反射スペクトルは殆ど影響を受けず、赤外光IR(波長λ≧780nm)を強く反射していることが分かる。それに対して厚みdk=0.3〜50μmまでのスペクトルには、厚みdk=∞の反射スペクトルに比べて別の振動が生じていることが分かる。それによって赤外での反射がディップ状に低下している波長域が存在するのが分かる。
また、図25および図27に示す第4の変形例のように、第3の変形例における層数低減に当たって、誘電体積層膜1内において、この誘電体積層膜1を構成する基本的な第1および第2の層材よりも大きな屈折率をもつ複数の第5の層1_η(たとえばシリコンナイトライドSiNおよび酸化シリコンSiO2よりも高い屈折率=4.1を持つ厚みdη=61nmのシリコンSi層)を追加した分光イメージセンサ11とすることで、層数をさらに低減することもできる。基本層において隣接する層の屈折率差を大きく取る点に特徴を有している。
たとえば、図25の構造図に示す例(第4の変形例;その1)では、基本層を3層構造に持つ誘電体積層膜1Eを構成するようにし、シリコンナイトライドSiNおよび酸化シリコンSiO2よりも高い屈折率=4.1を持つ厚みdη=61nmのシリコンSi層を第5の層材として、シリコンナイトライドSiNに代えて2層設けている。言い換えると、誘電体積層膜1Eは、シリコン基板1_ω上に、第2の層材である酸化シリコンSiO2でなる層を2周期分設けた構造をなしている。その反射スペクトルの計算結果は図26に示す反射スペクトル図のようになる。
なお、誘電体積層膜1の各層の定数設計に際して、赤外光IRの反射中心波長λ0を1000nmにしており、第5の層材でなるシリコンSi層の厚みdη(=d1,d3)は61nm、酸化シリコンSiO2層の厚みdβ(=d2)およびdkは171nmとしている。
また、図27の構造図に示す例(第4の変形例;その2)では、基本層を5層構造に持つ誘電体積層膜1Eを構成するようにし、シリコンナイトライドSiNおよび酸化シリコンSiO2よりも高い屈折率=4.1を持つ厚みdη=61nmのシリコンSi層を第5の層材として、シリコンナイトライドSiNに代えて3層設けている。その反射スペクトルの計算結果は図28に示す反射スペクトル図のようになる。図26との比較から分かるように、第5の層材を増やすことで、赤外光領域での反射率を1.0に近づけることができることが分かる。
また、図29に示す第5の変形例のように、第3や第4の変形例において、第1の変形例を同時に適用した分光イメージセンサ11とすることで、層数の低減とともに、可視光領域内における反射を低減することもできる。特に青色B成分(波長420nm近傍)や緑色G成分(波長520nm近傍)での反射率は若干増加するものの、赤色R成分(波長600nm近傍)での反射率を十分に低下させることができ、赤外光IRとの分離に適するようになる。
たとえば図29に示す構造においては、第k層目の酸化シリコンSiO2とシリコン基板1_ωとの間に厚みdγが比較的薄いシリコンナイトライドSiN層1_γを第3の層材として積層した構造をなしている。ここでは、厚みdγ=0.030μmとしている。その反射スペクトルの計算結果は図30に示す反射スペクトル図のようになる。この変形例の誘電体積層膜1を有する分光イメージセンサ11は、実質的には、3層の誘電体積層膜1に、第k層の誘電体層1_k(酸化シリコンSiO2層)とシリコンナイトライドSiN層1_γの2層を含めて、全体として5層構造の誘電体積層膜1Fを有するものとなる。
なお、この第5の変形例で追加した第3の層材は、第1の層材であるシリコンナイトライドSiNと同じであるが、シリコン基板1_ωよりも大きな屈折率を持つ部材であればよく、その他の部材であってもよい。
なお、図示を割愛するが、第3や第4の変形例において、第1および第2の変形例を同時に適用した分光イメージセンサ11とすることで、層数の低減とともに、可視光領域内における反射を低減することや暗電流を低減することもできる。
上記の説明では、誘電体積層膜1を利用した分光フィルタ10を使用して分光イメージセンサ11を構成していたが、これに限らず、電磁波の内の所定の波長領域成分を反射させ残りを通過させる特性を持った部材を検知部の電磁波が入射する入射面側に設けるものであればよい。
たとえば、誘電体積層膜1に限らず、所定の厚さの単層膜を利用しても、分光フィルタを形成することができる。単層膜の膜厚を変化させると、電磁波の内の所定の波長領域成分を反射させ残りを通過させる効果が得られるからである。
<<製造プロセスの具体例>>
図31は、上記実施形態で説明した積層膜を利用したセンサ構造の分光イメージセンサを製造する具体的なプロセス例を示す図である。この図31は、赤外光IR用の受光部と可視光VL用の受光部とを備えた分光イメージセンサの製造プロセス例である。
この構造の作製に当たっては、一般的なCCDやCMOS構造の回路をまず形成する(図31(A))。この後に、Siフォトダイオードの上にたとえばCVD(Chemical Vapor Deposition ;化学気相成長法)などを用いてSiO2膜とSiNを順次積層する(図31(B))。
この後、たとえば4つの画素の内1つだけをリソグラフィ技術やRIE(Reactive Ion Etching)法などを用いてエッチングすることで、赤外光IR用の受光部に最下層のSiO2膜に達する開口部を設ける(図31(E))。この赤外光IR用の受光部は、他の可視光カラー画像撮像用の色画素に対して補正画素としても使用される。
この後、誘電体積層膜1などの保護のために、一部に開口部が設けられた誘電体積層膜1上にたとえば再度CVDなどを用いてSiO2膜を積層して平坦化する(図31(F))。もちろん、このプロセスは必須ではない。
なお、この際、可視光VL用の3つの画素(R,G,B成分用)をエッチングしないように、赤外光IR用の受光部に開口部が設けられたフォトレジストを用いてもよい(図31(C),(D))。この場合、誘電体積層膜1上にSiO2膜を積層する前に、フォトレジストを除去する必要がある(図31(D)→(E))。
また、図示を割愛するが、さらにその上に色フィルタやマイクロレンズを画素に対応するように形成する。この際、赤外光IR用の受光部にはたとえば黒フィルタを配し、可視光用の検知部には原色フィルタを配することで、黒フィルタの画素が赤外光を受光し、他の3色の画素が可視光の赤、緑、青色の3原色を受光するようにする。
こうすることで、3原色可視光の画素の検知部上にはSiN層とSiO2層の誘電体多層膜が形成されるが、黒フィルタの画素の検知部上にはこの誘電体多層膜が形成されないこととなる。このような構造で作製された撮像素子を用いることで、3原色の可視光の像と赤外光の像を同時に撮像できる。
さらに若干の赤外光IRが漏れて可視光VL用の光電変換素子(フォトダイオードなど)に入射する場合、全体に弱い赤外光カットフィルタを入れてもよい。たとえば50%以下の赤外光カットフィルタを入れることで、可視光VLに対して殆ど問題のないレベルまでカットしても赤外光IR用の光電変換素子(フォトダイオードなど)では、赤外光IRが集光するので十分な感度となる。
なお、このような製造プロセスでは、Si基板表面近くまでエッチングする、すなわち赤外光IR用の受光部に最下層のSiO2膜に達する開口部を設けるため(図31(E))、エッチングによるダメージが問題になることがある。この場合は、Si基板直上のSiO2層の厚みdを大きくしてダメージを低減することも可能である。
ここでdk=2.5μm以上になると、図14のように反射スペクトルの赤外光領域でのディップの半値幅が狭くなるので、一般的なブロードな自然光に対して平均化された反射率となるので、赤外光の反射が可能となる。したがって望ましくは第k番目の誘電体層1_kの厚みdkを2.5μm以上にするのがよい。さらに望ましくは、5μm以上の厚みにするとなおよい。
また、シリコン基板1_ω上に形成されるフォトダイオードや画素内アンプなどためのメタル配線、すなわち、単位信号生成部としての画素内アンプなどから単位信号としての画素信号を撮像部(検出領域)から読み出すための信号線をなす配線層をシリコン基板1_ω直上に形成する場合、シリコン基板1_ω直上に誘電体積層膜1を設けた構造よりは、シリコン基板1_ω上である程度離したところに誘電体積層膜1を形成する、すなわちメタル配線より上側に誘電体積層膜1を形成することで、プロセスが容易になり、コストが低く抑えられるメリットが得られる。詳しくは後述するが、誘電体積層膜1をなす層数を増やすことで、ある程度よい結果が得られる。以下、メタル配線を考慮した分光イメージセンサについて説明する。
<<誘電体積層膜を利用した分波イメージセンサ;第6の変形例>>
図32〜図38は、誘電体積層膜1を利用した単波長分波対応の分光イメージセンサ11の第6の変形例を説明する図である。第6の変形例は、図13〜図17にて説明した手法を基本として、メタル配線を考慮して、シリコン基板1_ωよりある程度距離の離れた上側において、誘電体積層膜1をシリコン基板1_ω上に、フォトダイオードなどの検知部と一体的に形成する点に特徴を有する。
たとえば、図32のように、CMOS構造を考えると、フォトダイオードなどの検知部が形成された半導体素子層上に配線層を1つ有し、その厚みが0.7μm程度ある場合において、フォトダイオードなどが形成されるシリコン基板1_ωよりも略0.7μm上に多層膜構造を一体的に形成する場合、第1層目の配線層のプロセスの後に誘電体積層膜1を形成すればよい。こうすることで、厚みdk≒0.7μmを持つ第k層内に配線層を設けることができる。
また、図33のように、半導体素子層上に配線層を3つ有し、それらの総厚みが3.2μm程度ある場合において、フォトダイオードなどが形成されるシリコン基板1_ωよりも略3.2μm上に多層膜構造を一体的に形成する場合、最上である第3層目の配線層のプロセスの後に誘電体積層膜1を形成すればよいことになる。こうすることで、厚みdk=3.2μmを持つ第k層内に配線層を設けることができる。
ここで、“略3.2μm”と記載したのは、図示のように、本例では、シリコン基板1_ω上に厚みが10nm程度のSiO2層(δ層)を設け、その上に、厚みが65nm程度のSiN層(γ層)を設けており、“3.2μm”は、これらγ,δ層を除くk層の厚さを意味するからである。
色フィルタ14やマイクロレンズなどは、この誘電体積層膜1を形成した後に形成すればよい。
図34および図35は、このような分光イメージセンサ11の積層構造の概念を示す図である。ここでは、基本層1_1〜1_nの他に、第k層目の誘電体層1_kとシリコン基板1_ωとの間に、第3の層1_γと第4の層1_δとを備える図20に示した第2の変形例の構造を利用する。また、第2の変形例と同様に、赤外光IRの反射中心波長λ0を852nmにしている。
たとえば、図34では、図20に示した7層構造を基本層としつつ、第k層の誘電体層1_k(酸化シリコンSiO2層)とシリコンナイトライドSiN層1_γと酸化シリコンSiO2層1_δの3層分を持つ誘電体積層膜1Cをベースとして、第k層の誘電体層1_kの厚さを700nmにしている。また、第k層目の酸化シリコンSiO2とシリコン基板1_ωとの間に厚みdγ=65nmもしくは100nmの比較的薄いシリコンナイトライドSiN層1_γを第3の層材として積層し、さらに、この追加した第3の層材とシリコン基板1_ωとの間に、第3の層材よりも小さな屈折率をもつ第4の層材としての酸化シリコンSiO2層1_δを厚みdδ=10nmで積層した誘電体積層膜1Cにしている。
また、図35では、基本となる誘電体積層膜1を9層構造としつつ、第k層の誘電体層1_kの厚さを700nmもしくは3.2μmにしている。また、第k層目の酸化シリコンSiO2とシリコン基板1_ωとの間に厚みdγ=65nmの比較的薄いシリコンナイトライドSiN層1_γを第3の層材として積層し、さらに、この追加した第3の層材とシリコン基板1_ωとの間に、第3の層材よりも小さな屈折率をもつ第4の層材としての酸化シリコンSiO2層1_δを厚みdδ=10nmで積層した誘電体積層膜1Cにしている。
これらの反射スペクトルの計算結果は図36〜図38に示すようになる。図32や図33から分かるように、0.7μmや3.2μmほどシリコン基板1_ωの上側に誘電体積層膜1を形成することで、配線プロセスが容易になる。なお、正確には、シリコン基板1_ω直上には第4の層材であるSiO2層と第3の層材であるSiN層の順にそれぞれ10nmと65nm(あるいは100nm)の厚が存在するので、それより上側になる。
ここではSiN膜とSiO2膜とを有する誘電体積層膜1において、7層の場合と9層の場合を示したが、図36から分かるように、シリコンナイトライドSiN層1_γを過度に厚くすると、赤外光反射領域でのディップが大きく、結果として反射が大きく低下していることが分かる。加えて、第3の層材であるSiN層の厚さdγが厚いと、可視光領域での反射が高くなる。これは、第2例において説明したように、中間層として設ける第3の層材は、可視光領域内における反射を低減することを目的とするものであり、中間層として設けた誘電体層1_γの厚みdγは、薄い方には十分な余裕があるが、大きい方には余裕が少ないことによると考えられる。
また図37から分かるように、7層の場合に比べて9層まで多層構造の層数を増やすと、赤外光領域での反射率Rが0.9を超えるようになり、赤外光領域での反射性能をさらに向上させることができることが分かる。また図38から分かるように、第k番目の誘電体層1_kの厚みdkが3.2μmの7層構造では、赤外光反射領域でのディップが大きく、結果として反射が大きく低下していることが分かる。しかしながら、これも9層まで層数を増やすと、これらのディップが小さくなり、赤外光領域での反射性能をさらに向上させることができることが分かる。
このように、従来の配線プロセスを行なった後に、誘電体積層膜1を形成する方が製造が容易となり、新たなプロセスの検討が不必要となりコスト的によい。すなわち図32や図33のようなCMOS構造を作製することで、プロセスも容易にできて、かつ有効な効果が得られることになる。誘電体積層膜1を形成してから配線プロセスをすると、誘電体積層膜1の除去などを行なうなどプロセス的に困難になるのと大きな違いである。
<撮像素子;第2実施形態−回折格子を利用>
図39は、固体撮像素子314の第2実施形態を説明する図である。この第2実施形態の固体撮像素子314は、回折格子を利用して電磁波を所定波長ごとに分光する波長分離の概念を採り入れた点に特徴を有する。ここでは、電磁波の一例である光を所定波長ごとに分光することを例に説明する。
具体的には、本出願人が特願2004−250049号にて提案している構成を利用したもので、回折格子501は、図39(A)に示すように、電磁波(たとえば光)を遮断(光の場合には遮光)する遮断部材で構成された散乱体502が周期的に並んだ構造をしており、入射光L1が入射すると、各散乱体502で光が散乱されることで回折波L2が発生する。また、この回折波L2が周期的に多数存在する散乱体502によって回折波L2同士で干渉が起こる。
これにより、図39(B)に示すように、光強度は、各回折波L2の位相が一致するところでは強くなり、逆に位相が半波長分ずれるところでは弱めあうことになる。結果的に、干渉縞がSi(シリコン)基板509の表面およびSi基板内部にかけて生じることになる。
本実施形態では、この干渉縞のパターンが波長λによって変化する波長分散性を呈することを利用することで、分光イメージセンサを実現する。
<回折格子を利用した分波イメージセンサの基本構成>
図40は、回折格子を利用した分波イメージセンサ(分光イメージセンサ)の基本構成を説明する概念図である。また図41は、図40に示した分光イメージセンサ511の1つのフォトダイオード群512部分を拡大して示した図である。
ここで、フォトダイオード群512は、従来の撮像デバイスにおける1画素に対応する1つのフォトダイオードに相当するものである。本実施形態では、開口部を前記電磁波が通ることによる回折効果を利用することで分光されたそれぞれ異なる波長(色成分)を検知する波長別(色別)の光電変換素子をフォトダイオード群512内に複数個設けることで、高解像度化・高画素化などを図るようにする点に特徴を有する。1画素をなす1つのフォトダイオード群512に対して、色分離用の全色成分を割り当てる構成であり、1画素をなす色別の光電変換素子に対して色分離用の何れかの色成分を割り当てる構成とは異なる。
図40に示した光電変換素子を複数個有してなるフォトダイオード群512が配列された分光イメージセンサ511は、回折効果を利用して電磁波を複数の波長成分に分け、それぞれの波長成分を入射面内における近接したそれぞれ異なる位置に入射させる波長分散部を、散乱体503(第1の散乱体)とスリット505(第2の散乱体)と散乱体507(第3の散乱体)とで構成している点に特徴を有する。
具体的には、入射光L1側において、電磁波(たとえば光)を通過させる長尺状(線状または棒状)の開口部503aと、電磁波(たとえば光)を遮断(光の場合には遮光)する部分である長尺状(線状または棒状)の遮光部503bが交互に配列されてなる散乱体503が、遮光部503b同士が平行かつ周期的かつ受光面内の所定方向に列をなすように(たとえば横方向;図中のX方向)に配置されている。横方向(図中のX方向)は、フォトダイオード群512が有する色別の光電変換素子からの画素信号の読出方向に対応するものである。
ここで、“線状”とは、その断面積が光の波長に対して限りなく0(ゼロ)に近い形態のものを意味し、“棒状”とは、その断面積が有限なる形態のものを意味するが、何れも、細長い形状すなわち長尺状のものである点では共通する。
また分光イメージセンサ511は、散乱体503とSi基板509との間における回折波L2が集まる周辺に電磁波(たとえば光)を通過させる長尺状の開口部(スリットの隙間)505aと開口部505aを包囲する、電磁波(たとえば光)を遮断(光の場合には遮光)する部分である遮光部505bとが配されるように、回折格子501の主要部をなすスリット状の光散乱体(以下単にスリットという)505が設けられている。
このスリット505は、開口部505aの周期(隣接する開口部505aの間隔)と散乱体503の周期(隣接する散乱体503の遮光部503bの間隔;散乱体503の開口部の間隔)が等しく、かつこれらが平行に配置されている。加えて、隣接する散乱体503間の中点を通る略中心線CL0上(フォトダイオード群512表面に対して垂直)の位置に開口部505aが配されるようになっている。
さらに分光イメージセンサ511は、スリット505とフォトダイオード群512の間に別の長尺状の遮光部507bが開口部507aを挟んで周期的にかつ平行に配置されている散乱体507が設けられている。この散乱体507は、散乱体507の周期(隣接する遮光部507bの間隔)と散乱体503の周期(散乱体503の隣接する遮光部503bの間隔)またはスリット505の開口部505aの周期(スリット505の隣接する開口部505aの間隔)が等しくなるように設定されている。加えて、散乱体507の遮光部507bが、散乱体503間の中点を通る略中心線CL0上(フォトダイオード群512表面に対して垂直)の位置に配されるようになっている。
このような構造の分光イメージセンサ511において、各散乱体503を周期的に配置することで、図40のように回折波L2の集光するところが現れる。特に、横方向に周期的でかつ平行に等間隔で各散乱体503を配置する場合、各散乱体503間の中心線CL0上で回折波L2が集まる。
また、長尺状の散乱体503を用いることで、回折波L2が長尺状に集光したり、回折波L2同士の干渉縞(光強度分布)が長尺状になったりする。したがって、デバイス構造を考えるとフォトダイオード群512内に設ける光電変換素子(フォトディテクタ)を長尺状の構造にできるので、設計し易い利点がある。
加えて、図40は集光効果について着目して表しているが、その後、回折波L2がさらに進むことによって、図41のようにスリット505およびもう1つの散乱体507の効果によって分光される。
したがって、これら2つの効果の合わせ技で集光および分光が成される。このとき、回折波L2が集まる周辺である散乱体503とフォトダイオード群512との間に、長尺状の開口部505a(スリットの隙間)が横方向に周期的でかつ平行となるようにスリット505を配置することで、青色光L3−B,緑色光L3−G,赤色光L3−R,赤外光L3−IR(纏めて分光成分L3という)というように、入射光L1を制御よく分光することができる。
図40に示した光電変換素子を複数個有してなるフォトダイオード群512が配列された分光イメージセンサ511は、入射光L1側において、長尺状(線状または棒状)の散乱体503が平行かつ周期的かつ受光面内の所定方向に列をなすように(たとえば横方向;図中のX方向)に配置されている。横方向(図中のX方向)は、フォトダイオード群512が有する色別の光電変換素子からの画素信号の読出方向に対応するものである。
また、特に、スリット505の開口部505aの周期(隣接する開口部505aの間隔)と散乱体503の周期(隣接する遮光部503bの間隔)が等しく、かつこれらを平行に配置すれば、全体構造(特に散乱体503とスリット505との関係)において周期性および対称性が高まり、光の干渉特性がよくなる。その結果、分光特性がよくなる。
また、散乱体503によって回折した光(回折波L2)がその中点(遮光部503b間の中心)付近に集光する。よって、散乱体503間の中点を通る略中心線CL0上(フォトダイオード群512表面に対して垂直)の位置にスリット505の開口部505aが配されるようにすることで、効率よく分光されることになる。
また、スリット幅Dsを800nm±300nmとすることで可視光(青色光L3−B,緑色光L3−G,赤色光L3−R)と赤外光L3−IRを分光できることが判った。
さらに場合によっては、そのスリット505の開口部505aの中心線CL0上でかつスリット505とフォトダイオード群512の間にもう1つの散乱体507を置いてもよいし、置かなくてもよいことも判った。
ここで、スリット505の開口部505aの中心線CL0上でかつスリット505とフォトダイオード群512の間にもう1つの線状の散乱体507を置くことで、図41に示す拡大図ように、長波長側の光(緑色光〜赤色光)が回折でその散乱体507から離れたところに集まるが、短波長側の光(特に青色光)がその散乱体の後ろ側のフォトダイオード群512の中心線CL0上に集まることが Maxwell方程式に従ったFDTD法(Finite Difference Time Domain Method)の光場計算によって判明した。
ここで、長尺状の散乱体507を用いることで、回折波L2が長尺状に集光したり、回折波L2同士の干渉縞(光強度分布)が長尺状になったりする。したがって、デバイス構造を考えるとフォトダイオード群512内に設ける光電変換素子(フォトディテクタ)を長尺状の構造にできるので、設計し易い利点がある。また、散乱体507を周期的にかつ平行に配置させることで、全体構造において周期性および対称性が高まり、光の干渉特性がよくなる。その結果、分光特性がよくなる。両者を組み合わせることで、分光特性のよく、かつ設計し易い構造になる。
また、散乱体503の周期(隣接する遮光部503bの間隔)と散乱体507の周期(隣接する遮光部507bの間隔)とが等しく、かつこれらを平行に配置すれば、全体構造(特に散乱体503と散乱体507との関係)において周期性および対称性が高まり、光の干渉特性がよくなる。その結果、分光特性がよくなる。
さらに、 スリット505の開口部505aの周期(隣接する開口部505aの間隔)と散乱体507の周期(隣接する遮光部507bの間隔)が等しく、かつこれらを平行に配置すれば、全体構造(特にスリット505と散乱体507との関係)において周期性および対称性が高まり、光の干渉特性がよくなる。その結果、分光特性がよくなる。
特に、散乱体503の周期(隣接する遮光部503bの間隔)とスリット505の開口部505aの周期(隣接する開口部505aの間隔)と散乱体507の周期(隣接する遮光部507bの間隔)が等しく、かつこれらを平行に配置すれば、全ての散乱体の位置関係を合わせることができ、周期性および対称性において最大の効果を得ることができる。結果として、光の干渉特性が極めてよくなり、分光特性が格段によくなる。
本実施形態においては、以上のような回折特性を用いて分光する方法を利用することで、分光イメージセンサ511を実現する点に特徴を有する。このような構造は、母材である透明な酸化膜または窒化膜の中に散乱体を埋めた構造としてもよい。つまり、散乱体は、所定の透明な部材(母材)で埋め尽くして半導体基板と一体的に構成できるようにするのがよい。この場合、屈折率が母材より高いものを散乱体に選べばよい。
ここで、酸化膜や窒化膜が母材としてよい理由は2つある。1つは、一般的な半導体のプロセスで用いられる膜であり、安価で低コストが挙げられる。もう1つは、シリコンに比べて低屈折率であるため、シリコンと組み合わせることで大きな屈折率差が設けられ、結果として効率よく回折が生じる。
また、透明な母材としては、酸化膜または窒化膜を用いるのがよい。ここで、酸化膜としてはSiOxがよく、特にSiO2がよい。また、窒化膜としてはSiNxでもよい。これは、SiOx、特にその中でも完全に酸化されているSiO2が化学的に安定しており、また屈折率も最も低いからである。SiNxも同様であり、Si3N4が最も化学的に安定である。
また、散乱体はプロセスの整合性のよいシリコンSiで形成するのが好ましいが、その他の部材で形成してもよく、たとえば窒化シリコンSiNを用いることができる。このとき、散乱体503,7の双方を同じ部材で形成してもよいし、それぞれ異なる部材で形成してもよい。SiNxは一般的な半導体のプロセスで用いられる材料であり、安価で低コストである利点がある。
また、散乱体はゲルマニウムで形成してもよい。屈折率がシリコンSiよりも高く、散乱効果や回折効果が高まる利点が得られる。
なお、散乱体は屈折率が異なればメタルやその化合物でもよい。つまり、遷移金属,遷移金属シリサイド,遷移金属窒化化合物,遷移金属窒化酸化化合物,貴金属,貴金属シリサイド,高融点金属,高融点金属シリサイドなどでもよい。具体的にはAl,Cu,Ni,Cr,W,WSi,WSi2,Ti,TiSi2,TiSi,TiN,TiON,Ta,TaN,NiSi,NiSi2,Hf,HfN,HfSi2,Ag,Au,Pt,CoSi2,RuN,RuOx,.RuOxN.などが挙げられる。この中で特にAl,Cu,Niなどを用いることで安価でコストの低いものができる。
なお、回折格子を利用したセンサ構造は、p型半導体とn型半導体をすべて逆にしても成り立つ。ノイズ信号を抑える意味でn型基板を用いてもよい。この場合、n基板にAlやBなどの III族ドーパントの熱拡散処理などを行なうことで表面から深さ2μm以上をp型化した上で、このような構造を作ってもよい。さらに、リーク電流を抑える意味で、半導体最表面の深さ0.1μm以内をAlやBなどの III族ドーパントの熱拡散などを行なうことでp型化してもよい。
もちろん、散乱体503の位置の周期(光散乱体の中心点から次の同じ光散乱体の中心点までの横方向の間隔)はフォトダイオード群512の配列ピッチ(従来構造の画素ピッチ)に対応するので、結果として、散乱体503の位置の周期を変えることで画素ピッチを調整可能となる。高密度の撮像デバイスにする場合は、この周期を小さくすればよく、低密度の撮像デバイスにする場合は、この周期を大きくすればよい。
たとえば、散乱体503の位置の周期が0.5〜5μmまででも同じ効果が得られる。下限の0.5μmは可視光の回折限界に基づき設定したものである。すなわち、可視光の場合、0.3μm以上が回折限界となる。周期構造は少なくともこれより大きい値にする必要性があるので、下限を0.5μmとした。しかしながら、そもそもの限界である0.3μmを下限に設定しても不都合はない。
一方、上限の5μmは回折現象が顕著に生じるオーダーに基づき設定したものである。もちろん5μm以上でも回折現象が生じるので上限を特に限定するものではない。この点では、“望ましくは5μm以下”ということでも不都合はない。
また、必ずしも特定するものではないが、望ましくは周期が1〜2μmの範囲、さらに好ましくは上記で説明したように周期が1.5μmであるのがよい。ここで下限の1μmは一般的な可視光の回折格子の周期構造および1周期の中に2つ以上作る光電変換素子の作製のし易さに基づき設定したものである。一方、上限の2μmはシミュレーションの結果から2μmまでであれば作製が今のところ容易であることが確認されたことに基づき設定したものである。
また、散乱体503,507は回折効果および集光性を得ることができるものであればよく、散乱体503,507の何れも、その厚みは通常0.01μm以上であればよい。ここで下限の0.01μmは、光の散乱および回折が生じることのできる最小値に基づき設定したものである。通常、光の波長の1/10程度の散乱体があれば光の散乱および回折が生じる。
また、散乱体503の厚みは、母材であるSiO2の屈折率の関係から、望ましくは0.1μm以上、さらに望ましくは0.2±0.05μmの範囲であればよい。ここで下限の0.1μmは有効に散乱および回折が生じる厚みに基づき設定したものである。また中心値の0.2μmはシミュレーション結果で特によい分光特性を示したことに基づき設定したものであり、その範囲0.05μmは作製上のバラツキを考慮して設定したものである。
また、散乱体503,507として効率よく機能するために散乱体503,507の何れも、その横方向の幅は0.05μm以上あればよい。ここで下限の0.05μmは光の散乱および回折が生じることのできる最小値に基づき設定したものである。通常、光の波長の1/10程度の散乱体があれば光の散乱および回折が生じる。なお、この横方向の幅は散乱体の厚みとの整合性を考えて下限を0.01μmに設定したいところであるが、プロセスを考えると最新のプロセスで0.05μm幅ができるかどうかに依存する。よって、光の散乱および回折が可能なことと最小プロセス幅を考慮して、0.05μmを下限に設定している。
また、特に望ましくは散乱体の幅dは0.05μm≦d≦0.3μmの範囲(0.1−0.05/+0.2μm)であればよい。ここで大凡の中心値である0.1μmはシミュレーションの結果、分光特性がよかったことからこの値0.1μmを中心値に設定したものである。また範囲の−0.05μmは下限の関係で限定したものである一方、上限に関しては、製造し易い量産化プロセス(0.25μmプロセス)のことを考えて+0.2μmに設定したものである。
また、スリット505の開口部505aの幅(スリット幅Ds)は0.1μm以上で、好ましくは0.4μm以下であればよい。ここで下限の0.1μmは効果的に回折が生じる最小値に基づき設定したものであり、上限の0.4μmは、可視光(λ≦780nm)、特に赤色光640nmと緑色光540nmを効率よく分光するのがスリット幅0.4μm以下である点に基づき設定したものである。なお、0.5μmで分光しないわけではなく、好ましくは0.4μm以下である。
また、特に分光特性を高めるためには、このスリット幅Dsは0.3±0.1μmの範囲であればよい。ここで中心値の0.3μmはシミュレーションの結果で分光特性がよかったことから0.3μmを中心値に設定したものである。その範囲±0.1μmは、同じくシミュレーションの結果から可視光の場合に特に効果的に回折で分光ができる条件に基づき設定したものである。なお、赤外分光の場合、ここの値が大きく異なることになる。
また、スリット505の厚みは、分光効果を得るために0.01μm以上あればよい。ここで下限の0.01μmはスリットの機能が働く最小値に基づき設定したものである。すなわちその機能とは光の遮断効果が少しでも現れる厚みのことである。また特に効率的な効果を得るためには、0.125±0.1μmの範囲であればよい。ここで中心値の0.125μmはシミュレーションの結果で分光特性がよかったことから0.125μmを中心値に設定したものであり、その範囲±0.1μmの下限−0.1μmは青色光の遮断の効果が十分になるとして設定したものであり、上限+0.1μmは製造上の作り易さから設定したものである。
<<赤外光と可視光の分光の構造>>
図42は、回折格子501をSi基板509(分光イメージセンサ510のフォトダイオード群512に対応する)の入射面側に配した赤外光分離対応の分波イメージセンサを説明する図であって、赤外光と可視光を分光する分光イメージセンサ511の断面構造を示す。ハッチング部分がSi材料を示し、それ以外の白色部分が酸化膜SiO2を示し、本実施形態の分光イメージセンサ511は、全体として、Si基板509上に酸化膜SiO2が形成されている。
また赤外光と可視光の2つの波長成分に分光する本実施形態の分光イメージセンサ511は、可視光帯内を複数(前例では青、緑、赤の3つ)の波長成分に分光する分光イメージセンサ511とは異なり、スリット505とフォトダイオード群512との間に散乱体507が設けられていない点に特徴を有する。
散乱体507を設けない場合には緑色光と青色光が混ざり合うので、可視光の検知に際しては、フォトダイオード群512内に、赤外光検知用の光電変換素子に加えて、単一の光電変換素子を可視光検知用に配して、可視光帯内を分光せずにモノクロ画像を得るようにする。カラー画像撮像のためには、色分離フィルタを用いればよく、たとえば可視光を青、緑、赤の各3原色光の波長成分に分離する赤、緑、青の減色フィルタ(色分離フィルタ)を従来構造と同様の手法を利用して3原色用の各光電変換素子(フォトディテクタ)の前にそれぞれ入れる。
長尺状の各散乱体503は、Si基板509(フォトダイオード群512に対応)の入射面側において、横方向(図中のX方向)に周期的でかつ平行に配置されており、それぞれの厚みが0.15μmであって、それぞれの散乱体503の位置の周期すなわち散乱体503の中心点から次の散乱体503の中心点までの横方向(図中のX方向)の間隔が2.0μmである。
分光イメージセンサ511は、その表面(散乱体503の入射光L1の入射側)から深さ方向(図中のZ方向)に2.50μmの位置でかつSi基板509から1.05μmの位置に、すなわち散乱体503とSi基板509(フォトダイオード群512に対応)の間に、厚さが0.1μmでスリット幅Dsが0.80μmのスリット505が設けられている。結果として、開口部505aを包囲する、電磁波(たとえば光)を遮断(光の場合には遮光)する部分である遮光部505bの幅が1.20μmとなっている。
スリット505は、それぞれのスリット幅Dsの開口部505aが、横方向(図中のX方向)に周期的でかつ平行に配置されており、さらにそれぞれのスリット幅Dsの開口部505aが、散乱体503間の中点を通る略中心線CL0上(Si基板509やフォトダイオード群512表面に対して垂直)の位置に設けられ、長尺状の散乱体503と平行に配置されている。つまり、スリット505の開口部505aの周期(隣接する開口部505aの間隔)と散乱体503の周期(隣接する遮光部503bの間隔)および位相が等しく、かつこれらが平行に配置されている。
図43は、赤外光対応の分光イメージセンサ511において使用するSi(シリコン)の屈折率と消衰係数の波長分散の関係を示す図表である。ここでは、青色、緑色、赤色として代表的な波長をそれぞれ460nm,540nm,640nmとしている。また酸化膜SiO2の屈折率分散は極めて小さいので、どの波長に対しても屈折率1.4、消衰係数0とする。
<分波手法のシミュレーション;赤外光と可視光>
図44〜図48は、図42に示す構造を持つ分光イメージセンサ511に受光面(図中の下側)から各波長成分の光を入れたときの赤外光と可視光との分光手法を説明する計算シミュレーション図(FDTD法による光場計算で行なったもの)である。図44〜図48において、Z=2.5μmの横破線はフォトダイオード群512とシリコン酸化膜SiO2との界面(センサ表面)を表す。
ここで、図44は青色光(波長460nm)を、図45は緑色光(波長540nm)を、図46は赤色光(波長640nm)を、それぞれ入射したときの計算シミュレーション結果である。これら図から、可視光(青色光、緑色光、赤色光の何れも)に関しては、X=−3.0,−1.0,1.0,3.0μmのところで、Z=2.5〜3.5μm(フォトダイオード群512の表面から深さ1.0μm)まで、すなわちセンサ表面近傍〜やや深い領域までにおいて光強度が強くなっているのが判る。
また、図47は赤外光(波長780nm)を、図48は赤外光(波長880nm)を、それぞれ入射したときの計算シミュレーション結果である。ここで、波長780nmは、可視光と赤外光の境界付近である。図48から、赤外光(波長880nm)に関しては、X=−2.0,0,2.0μmのところで、Z=2.5〜4.5μm(フォトダイオード群512の表面から深さ2.0μm)まで、すなわちセンサ表面近傍〜かなり深い領域までにおいて光強度が強くなっているのが判る。
つまり、入射光L1に含まれる可視光(青色光、緑色光、および赤色光)と赤外光との関係においては、図42に示す分光イメージセンサ511に入射させることで、幅方向(図中のX方向)において波長による場所依存性を呈するとともに、深さ方向においても波長による場所依存性を呈することが判る。
また、可視光と赤外光の境界付近である波長780nmについて示した図48では、X=−3.0,−2.0,−1.0,0,1.0,2.0,3.0μmのところで、Z=2.5〜4.5μm(フォトダイオード群512の表面から深さ2.0μm)まで、すなわちセンサ表面近傍〜やや深い領域までにおいて光強度が強くなっているのが判る。つまり、可視光(青色光、緑色光、および赤色光)を示した図44〜図46と、赤外光(波長880nm)を示した図48の双方の性質を呈している。
<検出位置の適正例;赤外光と可視光>
図49は、上記シミュレーション結果に基づく可視光と赤外光との分光における検出位置の適正例を説明する図である。
たとえば、図49に示す例のようなエリアで光を検出できるように分光イメージセンサ511を構成すれば、赤、緑、青の3原色でなる可視光帯と赤外光(波長880nm)とを分光して検出できることになる。
すなわち可視光(波長460nmの青色光、波長540nmの緑色光、および波長640nmの赤色光)ではX=−3.0,−1.0,1.0,3.0μmのところでZ=2.5〜3.5μm(フォトダイオード群512の表面から深さ1.0μm)において、赤外光(波長880nm)ではX=−2.0,0,2.0μmのところでZ=2.5〜4.5μm(フォトダイオード群512の表面から深さ2.0μm)において検出するようにすればよい。
つまり、pn接合の最大深さを各Z方向の範囲に設定すればよいことになる。具体的には、可視光用の光電変換素子12Wをなすpn接合部分の最大深さはフォトダイオード群512の表面から深さ1.0μmの範囲、赤外光用の光電変換素子12IRをなすpn接合部分の最大深さはフォトダイオード群512の表面から深さ2.0の範囲となるようにすれば、それぞれの波長成分の検知効率が高くなる。
このときフォトダイオード群512間での混色を防止するべく、各フォトダイオード群512の横方向(X方向)の幅は、各散乱体503の横方向(図中のX方向)の間隔2.0μm以下とするのがよい。また、フォトダイオード群512内に設けられる波長別(可視光と赤外光)の光電変換素子をなすpn接合部分の横方向(X方向)の幅は1.0μm以下にするのがよく、さらに好ましくは0.3μm以下にするのがよい。これらの値は半導体プロセス上、量産製造し易い値である。
ここで、pn接合部分の横幅0.5μmは赤外光と可視光の2分光を考えた場合2.0μm/2=1.0μmとして最大値に基づき設定したものである。さらに0.3μmは現状の0.25μmプロセスに対応して量産可能なものとして設定したものである。可視光帯内のみを分光する場合、この寸法が0.5μmであった点を考慮すると、一般的には、0.5(可視光帯のみのとき)〜1.0(赤外光対応のとき)μm以下に設定すればよいこととなる。
<赤外光対応の検出位置に対応したセンサ構造>
図50は、図49の検出位置に対応した赤外光対応のセンサ構造の一構成例を示す断面図である。この分光イメージセンサ511は、p型Si基板509内において、それぞれのフォトダイオード群512ごとに、可視光(青色光、緑色光、および赤色光)と赤外光のそれぞれに対応する幅方向(図中のX方向)および深さ方向(図中のZ方向)の各検出位置にn型の不純物をドープする。
こうすることで、可視光と赤外光のそれぞれを検出するn型Si領域591が形成されて、各波長成分用の光電変換素子(フォトダイオード)512W,512IRが設けられている。光電変換素子512W,512IRは、Si基板509の受光面側においても、またSi基板509内においても、横方向(X方向)に、可視光、赤外光、可視光、赤外光、…の順に配列された構造となっている。
ここではn型とp型Si半導体の界面付近の空乏層で光が吸収されることで電子と正孔が生成され、かつ電子と正孔が空乏層の電界によってそれぞれn型とp型半導体に移動することで信号電荷が溜まる。この信号電荷をそれぞれの光電変換素子512W,512IRから読み出すことで、電気信号として検知できることになる。
つまり、フォトダイオード群512の各々は、幅方向(図中のX方向)および深さ方向(図中のZ方向)の各検出位置において、可視光と赤外光を独立に検知する検知領域が設けられている。このような構造により、通常のイメージセンサに用いられるような赤外光カットフィルタを使う必要がない(あるいはカットする割合を減らすことができる)ので単位面積あたりに入射する光量が多くなる。そのために光−電気信号の変換効率が高くなり、可視光に関しても高い感度特性が得られる。その上、赤外光カットフィルタが必要ないために低コストになる。
1つのフォトダイオード群512が、可視光(青色光、緑色光、および赤色光)と赤外光を独立に検知する構造であり、1つの画素をなす1つのフォトダイオード群512で波長分光の1単位(波長分光単位)を実現できる。すなわち実質的にはフォトダイオード群512内において波長別に光電変換素子を形成した構造であるために、画素に対応するフォトダイオード群512を可視光用と赤外光用と言った波長別に用意する必要がない。
このため、1つの波長分光単位に1つのフォトダイオード群512で済むようになり、可視光によるモノクロ画像と赤外光による赤外像を同時に撮像することができる。これによって、たとえば赤外線の発光点を予め用意してそれを追跡することで、可視光の像(モノクロ画像)の中にある赤外光の発光点の位置を検出することができる。
また、たとえばR,G,Bの原色フィルタを設けることで、光電変換素子512Wからは、フィルタ色に応じて、R,G,Bの色信号が得られるので、可視光カラー画像を取得することもできるようになる。
なお、赤外光撮像領域である光電変換素子512IRは、可視光撮像領域である光電変換素子512Wから得られる可視光像に対しての補正画素としても機能する。また、色分離フィルタを有しない画素(ここではフォトダイオード群512)を設けることで、この画素を、可視光から赤外光までの全波長の成分を検知する画素とし、他の色分離フィルタを有する画素(ここではフォトダイオード群512)から得られる可視光像に対しての補正画素として利用することもできる。
なお、スリット505とフォトダイオード群512の受光面との間に散乱体507を配することで、緑色光と青色光を効率よく分光できるので、フォトダイオード群512内に、赤外光検知用の光電変換素子12IRに加えて、可視光帯検知用の光電変換素子12Wに代えて、可視光帯内の青色光、緑色光、および赤色光を受光する個別の光電変換素子512B,512G,512Rを配することで、1つのイメージセンサで色合いが正確な可視光によるカラー画像と赤外光による像を同時に撮像することができる。
しかしながら、その波長分離特性は必ずしも十分なものではなく、可視光帯内のみを赤、緑、青の3原色に分光する場合に比べて、赤、緑、青それぞれの分光性能は劣るので、色再現性を重視した場合には、色分離フィルタを用いた方が好ましい。
ただし、赤、緑、青の3原色を少しでも分光することで、完全なモノクロ画像ではなく、カラー画像を再現し得る効果を得ることは可能であるので、赤外光対応とする場合においても、散乱体507をセンサ表面とスリット505との間に配することで、pn接合の最大深さを、赤、緑、青の3原色を分光して検出できる各Z方向の適正な範囲に設定すれば、単純に赤外光と可視光とを分離するだけでなく、可視光帯内をさらに赤、緑、青の3原色成分に分離でき、それぞれの色の検知効率が高くなる。可視光帯内の赤、緑、青の分光と赤外光の分光との両立が可能である。
<撮像素子;第3実施形態−深さ方向における吸収係数の波長依存性を利用>
図51は、固体撮像素子314の第3実施形態を説明する図である。この第3実施形態の固体撮像素子314は、特許文献1,2に記載の仕組みと同様に、半導体の深さ方向における波長による吸収係数の違いを利用した単板式のものである。
具体的には、図51に1画素分の構造を示すように、半導体の深さ方向における波長による吸収係数の違いを利用して可視光像と赤外光画像とを分離して取得する構造の固体撮像素子(イメージセンサ)611を用いている。つまり、深さと波長による吸収係数の違いを利用することで、本来の検知目的以外の波長成分(本例では可視光VL成分)の影響を抑制しつつ、本来の検知目的の波長成分(本例では赤外光IR成分)を検知することが可能なイメージセンサを使用する。
つまり、半導体基板の深さ方向における波長による吸収係数の違いを利用した構造のイメージセンサを用いる場合、一例としては、780nm未満の可視光VL光により光電変換させた電子をシリコン(Si)基板の深さ方向において、比較的浅い部分〜5μm程度の深さ(可視光検知領域611VL)で吸収させる。こうすることで、5μm低度よりも浅い可視光検知領域611VLで取得した信号を検知する仕組みとすれば、可視光成分についての電気信号を取得できる。
残りの光成分つまり波長780nm以上の赤外光IRにより光電変換させた電子を、5μmよりもさら深い領域(赤外光検知領域611IR)で吸収させる。両者の検知領域の境界部分には、電気的非接続領域を設ける。こうすることで、5μmよりも深い赤外光検知領域611IRで取得した信号を検知する仕組みとすれば、赤外光成分だけの電気信号を取得できる。すなわち、半導体層の浅い領域で光電変換される可視光VL(たとえば波長780nm未満)の信号成分を排除し、半導体層の深い領域で光電変換される赤外光IR(たとえば波長780nm以上)の成分だけを利用することで、入射した赤外光IR成分だけの電気信号を取得するようにする。
これにより、赤外光検知領域611IRにおいて、可視光VLの影響を殆ど受けることのない赤外光画像を取得できる。また、比較的浅い部分〜5μm程度の深さの領域(可視光検知領域611VL)で取得した信号を検知することで、可視光検知領域611VLにおいても可視光成分の電気信号を取得できる。
これにより、入射した可視光成分だけの光電子のみを可視光撮像信号SVLに変換して赤外光IRの影響を殆ど受けることのない可視光像を取得するとともに、入射した赤外光成分だけの光電子のみを赤外光撮像信号SIRに変換して可視光VLの影響を殆ど受けることのない赤外光画像を同時かつ独立に得ることができる。
また、図51(B)に示すように、可視光カラー撮像を撮像するべく、その受光面に、各受光部(画素)に対応させて色分離フィルタ624の所定色(たとえば624R,624G,624Bの何れか)を設ける。半導体基板の深さ方向における波長による吸収係数の違いを利用すれば、比較的浅い部分の可視光検知領域611VLにおいて、R,G,Bの波長分離も可能であるが、実際には、分離性能は必ずしもよくなく、色再現性を重視した場合には、色分離フィルタを用いた方が好ましい。
これにより、入射した可視光成分だけの光電子のみを可視光撮像信号SVLに変換して赤外光IRの影響を殆ど受けることのない可視光カラー画像を取得するとともに、入射した赤外光成分だけの光電子のみを赤外光撮像信号SIRに変換して可視光VLの影響を殆ど受けることのない赤外光画像を同時かつ独立に得ることができる。
なお、色分離フィルタ424を有する画素の比較的深い赤外光検知領域611IRは、比較的浅い可視光検知領域611VLから得られる可視光カラー画像に対しての補正画素としても機能する。また、色分離フィルタ424を有しない画素を設けることで、この画素を、可視光から赤外光までの全波長の成分を検知する画素とすることができ、他の色分離フィルタ424を有する画素から得られる可視光カラー画像に対しての補正画素として利用することもできる。
<赤外光混入による問題点>
以上説明したように、各種構造の固体撮像素子314の構成例について説明したが、何れも、可視光成分に赤外光成分が混入して検知部に侵入してしまうことになって、可視光像を表わす信号強度に赤外信号が加算されてしまい、可視光カラー画像の色再現が悪化する問題を有する。たとえば、誘電体積層膜を利用した仕組みでは、赤外光と可視光の像を同時に取り入れることで高感度化や赤外通信機能など高機能化を達成できるものの、可視光であるRGB原色フィルタまたはCyMgYe補色フィルタの画素では赤外光を完全に反射させないと赤外光が一部漏れて検知部に侵入してしまうことになって、信号強度に赤外信号が加算されて色再現が悪化することになる。以下、この点について説明する。
図52は、図35に示す誘電体多層膜構造(この構造は近赤外光の反射が高くなるように設計されたものである)の分光イメージセンサ11と同様の構造を持つもので、第k層の誘電体層1_kの厚さを3.2μmにし、赤外光IRの反射中心波長λ0を852nmではなくより低い側の770nmに変更している。
図53は、図52に示す誘電体多層膜構造の分光イメージセンサ11において、垂直方向から光が入射したときの反射スペクトルを有効フレネル係数法により計算で見積もった結果を示した図である。ここで、SiNとSiO2の多層膜にしたのは、通常のSi系のプロセスとしてよく使用される材料だからである。透過率スペクトルは、反射率Rを1から引いたT=1−Rのスペクトルとなる。
また、図54は、通常良く使われているカラーフィルタの分光感度曲線を示す図(分光感度特性図)である。図55は、実際に得られる分光感度曲線の一例を示す図である。図54に示す感度曲線に、図53に示す反射スペクトルから導かれる透過スペクトルを掛けたものが、図55に示す実際に得られる分光感度曲線となる。図55から分かるように、波長700nm前後以上の赤外光側で約10%程度の分光感度を持つことになる。
また、図56は、図53と同様に、図35に示す誘電体多層膜構造(この構造は近赤外光の反射が高くなるように設計されたものである)の分光イメージセンサ11と同様の構造を持つもので、第k層の誘電体層1_kの厚さを3.2μmにし、赤外光IRの反射中心波長λ0を852nmmにした場合における、反射スペクトルを有効フレネル係数法により計算で見積もった結果を示した図である。ここでは、設計中心であるセンター条件と、このセンター条件に対して、赤外光IRの反射中心波長λ0をそれぞれ−10%,−10%にした場合を示している。
図57は、ソニー(株)製の撮像素子ICX456AQに使用されているカラーフィルタの分光感度曲線を示す図である。図58は、ICX456AQにて実際に得られる分光感度曲線を示す図である。ここでは、図52に示すように、第k層の誘電体層1_kの厚さを3.2μmにし、その上に9層構造の基本層を設けた。図55と図58の比較から分かるように、赤外光IRの反射中心波長λ0が高いと、波長700nm前後以上の赤外光側では、さらに大きな分光感度を持つことになる。
図102に示したように、殆どの半導体は赤外光に対して吸収感度を有する。このため、赤外光側にある程度の分光感度を持つ場合には、可視光を受光する検知部から得られる画素信号には、3原色または補色系の可視光の光強度の信号に加えて、赤外光による信号成分が加算されてしまい、実際の色信号とは異なり、色再現が悪くなる。特に、原色フィルタの場合には赤色、補色フィルタの場合にはマゼンタやイエローといった、赤外光に近い波長成分に関する検知部から得られる画素信号への赤外光成分の漏込みが大きくなる。
図59および図60は、可視光成分に赤外光成分が混入することによる色再現性の影響を説明する図である。ここでは、可視光の受光部に同時に赤外光が入射した場合の色差を計算で求めた結果を示している。何れも、Lab(正しくはL*a*b*であるが“*”を割愛して示す)空間での色差ΔEab(正しくはΔEa*b*であるが“*”を割愛して示す)をマクベスチャートの24色について計算したものである。なお、マクベスチャートとは、グレタグマクベス(GretagMacbeth )社がカラーマネジメント用に測色器の較正用チャートとして規格化したものである。
ここで、図59は、赤外光が画素に同時に入射してRGBの各色の信号強度がすべて+5%増加した場合を示し、図60は、Rは20.62%,Gは10.4%,Bは15.3%それぞれ増加した場合を示している。なお、これらの図は、xy色度図上に計算した結果をプロットして、ΔEab≧5となる領域を示している。
色差ΔEabは、下記式(4)のように、赤外光の入射分を上乗せした場合としない場合の間で計算により求めている。
図59および図60から分かるように、何れの場合も、可視光成分に赤外光の入射分があると、ΔEab≧5の領域が存在する。たとえば、図59の場合においてはマクベスチャートの24色中6色が、さらに図60の場合においては24色中17色がΔEab≧5となった。一般的に、ΔEab≧5となることで人間の感覚として色の違いが判るとされるので、可視光成分に赤外光の入射分があると色再現が悪化することとなる。
したがって、色再現を考慮した場合、赤外光カットフィルタを用いることが効果的であることが判る。しかしながら、赤外光カットフィルタを用いると、コストが高くなるし、可視光での光もカットされるので感度が低下する。
赤外光カットフィルタを用いない特許に関して特開2001−69519に近赤外領域の光を透過しないフィルタを備えた撮像素子を利用することが書かれているが、具体的なフィルタの材質や構造については書かれていない。また特開2000−59798に記載されている赤外カットフィルタの位置を切り替えること、特開2003−70009に記載されているR−Y信号の正負を検出し、赤外光の影響が大きくなるR−Y信号が正の場合に補正を行なうことが提案されている。しかしながら装置が大掛かりになったり回路が大掛かりになったりすることでコストが高くなる欠点や、補正精度が十分でない、などの欠点を有する。
そこで、赤外光の反射率を上げるために、赤外光カットフィルタを用いない誘電体積層膜を利用した分光イメージセンサ511として、多層膜の層数を多くするか、または多層膜の各層の屈折率差を大きくする方法を採ることが考えられる。しかしながら、層数を増やす方法では、たとえば図7に示したようにSiO2層とSiN層の組合せの分光イメージセンサ11とした場合、たとえば6周期11層とした場合でも、図8に示したように、反射率は0.9程度であり、これでは可視光成分に赤外光の入射分が存在し色再現が悪化することとなる。反射率を1.0に近づけるためには、さらに層数を増やすことが考えられるが、この場合、同時に厚みも1μm以上に厚くなる。このような厚膜構造にすることは、多層膜の作製工程上困難が伴い、量産性において問題となる。
また、屈折率差を大きく取ることとし、たとえば図25や図27に示す第4の変形例のようにSiO2層とSi層の組合せの分光イメージセンサ11とした場合、図26や図28に示したように、たとえば基本層を5層構造にすることで、赤外領域での反射率を“1”程度に高くすることができるが、その反面、可視光領域での反射率が高くなり、可視光の光電変換効率が低下してしまい、感度低下の原因になる。
また、斜め入射光による漏れが少なからず存在するので、互いに他方の漏れ成分の影響を受け、分離取得した可視光像は色再現性がその漏れ分だけ低下し、また赤外光画像にはその漏れ分の可視光像成分が現われてしまう懸念が存在する。
つまり、誘電体積層膜を利用したセンサ構造とする場合、デバイスの厚さや受光感度や色再現性などの全てを最適にすることは難しく、全体のバランスを取った構造にせざるを得ず、結果として、赤外光成分の漏れによる色再現性が問題として残る。
また、回折格子501を利用した分光イメージセンサ511の場合、図44〜図48から分かるように、幅方向(図中のX方向)における波長による場所依存性を利用することで可視光と赤外光とを分離できるが、図48から分かるように、可視光と赤外光の境界付近では可視光(青色光、緑色光、および赤色光)と赤外光(波長880nm)の分離が不完全であり、結果として、赤外光成分の漏れによる色再現性が問題として残る。逆に、赤外光画像に関しては、可視光成分の漏れによる影響が存在する。
また、半導体の深さ方向における波長による吸収係数の違いを利用した固体撮像素子611の場合、可視光検知領域611VLで得られる可視光成分には、従来技術にて説明したことから分かるように、赤外光IRが通過するときにある程度吸収を受けるために、その赤外光IRが可視光VLとして誤検知されるので、赤外光成分の影響を受ける。
また、半導体の深さ方向における波長による吸収係数の違いを利用した構造の固体撮像素子611を用いた場合、赤外光IRと可視光VLの内の赤色成分との境界近傍波長は互いに他方の吸収をある程度受けるので、赤外光撮像領域で得られる赤外光画像成分には、可視光帯の特に赤色成分の影響を受け得る。
<<赤外光混入の解決手法>>
このような問題を解決するべく、本実施形態の撮像装置300は、画像信号処理部340に赤外光補正処理部342を備えることで、可視光を受光する検知領域における赤外光混入による色再現問題の解決を図るようにしている。こうすることで、光学的な波長分離手段(典型例は赤外光カットフィルタ)をイメージセンサの前に設けなくても信号処理によって可視光領域に対しての不要成分である赤外光を抑制・除去できる。赤外光の漏れが可視光検知部の検知結果に存在しても、その不要な赤外光の成分を信号処理により抑制・除去できるので、十分な色再現性の可視光カラー画像を取得できる撮像装置の実現に際し、イメージセンサの使用範囲が広くなる。以下、その手法について、具体的に説明する。
<色分離フィルタ配列;第1例>
図61は、補正演算により可視光カラー画像と赤外光画像をそれぞれ独立に求めることを常時可能にする色分離フィルタ配置の第1の具体例(以下第1具体例という)を示す図である。この第1具体例は、可視光カラー画像に対する補正用の検知領域として、可視光を排除し赤外光のみを受光・検知する検知領域を設ける点に特徴を有する。
図61(A)に示すように、各色のフィルタをモザイク状に配したいわゆるベイヤ(Bayer)配列の基本形のカラーフィルタを利用しており、先ず、正方格子状に配された単位画素が赤(R),緑(G),青(B)の3色カラーフィルタに対応するように、色分離フィルタの繰返単位が2画素×2画素で配されて画素部を構成するようにする。また、可視光を排除し赤外光のみを受光・検知する検知部(検知領域)を設けるべく、2つの緑(G)のうちの一方を黒色フィルタBKに置き換える。つまり、可視光カラー画像用に原色フィルタR,G,Bの3つの波長領域(色成分)用のものと、原色フィルタR,G,Bの成分とは異なる赤外光用の黒色フィルタBKといった別個のフィルタ特性を有する4種類の色フィルタを規則的に配設している。
たとえば、偶数行奇数列には第1のカラー(赤;R)を感知するための第1のカラー画素を配し、奇数行奇数列には第2のカラー(緑;G)を感知するための第2のカラー画素を配し、奇数行偶数列には第3のカラー(青;B)を感知するための第3のカラー画素を配し、偶数行偶数列には赤外光IRを感知するための第4のカラー画素(ここでは黒色補正画素)を配しており、行ごとに異なったG/B、またはR/BKの画素が市松模様状に配置されている。このようなベイヤ配列の基本形のカラーフィルタの色配列は、行方向および列方向の何れについても、G/BまたはR/BKの2色が2つごとに繰り返される。
原色フィルタR,G,Bを通して対応する検知部で検知することで可視光カラー画像を撮像できるとともに、黒色フィルタBKを通して対応する検知部で検知することで赤外光画像を可視光カラー画像とは独立かつ同時に撮像することができる。また、この黒色フィルタBKを配した画素から得られる赤外光信号は、原色フィルタR,G,Bを配した画素から得られる可視光カラー画像に対しての補正信号としても利用する。
図62および図63は、図61に示した色分離フィルタの配置を持ち、赤外光IRのみと可視光VLの2つの波長成分を同時に像として別々に撮像できるようにしたCCD固体撮像素子を説明する図である。ここで、図62は、構造例を示す見取り図(斜視図)である。また、図63は、基板表面付近の断面構造図である。なおここでは、誘電体積層膜を利用したCCD固体撮像素子101への適用事例で示している。
図62に示すCCD固体撮像素子101の構造においては、4画素でなる単位画素マトリクス12だけを示しているが、実際にはこれを横方向に繰り返し、それをさらに縦方向に繰り返した構造である。
単位画素マトリクス12をなす周期配列の4画素の内、1つの画素12IR上には誘電体積層膜1が形成されていないが黒色フィルタ14BKが設けられていて、この黒色フィルタ14BKを通して赤外光IRのみを受光するようになっている。つまり、赤外光IRの画素12IRの上に、色フィルタ14として黒色フィルタ14BKを用いることによって、可視光VLをカットし、赤外光IRのみを受光できるようにしている。この黒色フィルタ14BKが設けられた可視光カラー画像に対しての補正に使用される画素12IRを黒色補正画素12BKとも呼ぶ。
一方、他の3つの画素12B,12G,12R上には誘電体積層膜1が形成され、さらにその上に原色フィルタ14R,14G,14Bが設けられていて、原色フィルタ14R,14G,14Bを通して可視光VLの内の対応する青色B、緑色G、および赤色Rの3原色を受光するようにしている。つまり、誘電体積層膜を3原色系のカラーフィルタのある画素の検知部上に形成することで、赤外光を効果的にカットできる機能を持たせている。
また基板表面付近の断面構造図を示した図63では、可視光VLのみを受光する画素を示している。赤外光IRを受光する画素12IRは、誘電体積層膜1および黒色フィルタ14BKがない構造である。すなわち、図31で説明した作製プロセス工程のように誘電体積層膜を図16に示した構造でCVD法でSiN層とSiO2層を順次積層した後、リソグラフィ技術とRIE法によって赤外光IRを受光する画素のみにおいて除去する。その後、再びSiO2層を積層して平坦化した。
このような構造で作製された撮像素子を用いることで、3原色成分に基づく可視光カラー画像と、赤外光IRのみの像を同時に撮像できることが分かった。ただし、可視光カラー画像は、赤外光の漏れによる色再現性の低下の懸念がある。このため、以下のようにして補正を行なう。
<第1具体例の補正手法>
図64〜図67は、第1具体例における赤外光成分の補正手法を説明する図である。ここで、図64は、第1具体例において用いる色フィルタ14の特性例を示す図である。また図65〜図67は、補正演算で用いる係数の設定手法を説明する図である。
先ず、可視光カラー画像撮像用の色フィルタ14として、可視光VL(波長λ=380〜780nm)の3原色である青色成分B(たとえば波長λ=400〜500nmで透過率が略1、その他で略ゼロ)、緑色成分G(たとえば波長λ=500〜600nmで透過率が略1、その他で略ゼロ)、赤色成分R(たとえば波長λ=600〜700nmで透過率が略1、その他で略ゼロ)を中心とする原色フィルタ14R,14G,14Bを用いる。
なお、透過率が“略1”であるとは、理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに大きいものであればよい。一部に“1”でない透過率”があってもよい。また、透過率が“略ゼロ”であるについても、同様に理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに小さいものであればよい。一部に“ゼロ”でない透過率”があってもよい。
また、通過波長領域成分である可視光VL領域の内の所定色(原色もしくは補色)の波長領域成分を通過させるものであればよく、反射波長領域成分である赤外光IR領域を通過させるか否かすなわち赤外光IRに対する透過率は不問である。誘電体積層膜1によって赤外光IR成分をカットするからである。
一例として、図64(A)(事実上、図54と同様)に示すような分光感度特性のものを用いる。これは、現在一般的に使用されている色フィルタのものである。波長380nm〜540nm程度を青色波長領域とし、波長420nm〜620nm程度を緑色波長領域とし、波長560nm〜780nmを赤色波長領域とするような感度特性としている。
この図64(A)から分かるように、緑色Gの感度曲線は、640nmより長波長の光に対しても感度を持つことになる。このことは640nmより長波長の光が入射したときには色再現性が悪くなることを意味する。同様のことは、他の色(R,B)についても言え、赤外光領域の光に対しても感度を持ち、このことは赤外光が入射したときには色再現性が悪くなることを意味する。
また、可視光カラー画像に対しての補正成分としても利用される赤外光画像を撮像するたための色フィルタ14としては、一例として、図64(B)に示すように、主に可視光VLを吸収して赤外光IRを透過させる特徴を持つ黒色フィルタ14BK、すなわち赤外光IR(波長λ≧780nm)で透過率が略1、その他で略ゼロのものを用いる。これによって、画素12IRが赤外光のみに感度を持つようにする。
なお、透過率が“略1”であるとは、理想的な状態をいったものであり、赤外光IRの波長領域での透過率がその他の波長領域での透過率よりも遙かに大きいものであればよい。また、透過率が“略ゼロ”であるについても、同様に理想的な状態をいったものであり、その波長領域での透過率がその他の波長領域での透過率よりも遙かに小さいものであればよい。
なお、ここでの黒色フィルタ14BKは、原理的には、可視光と赤外光の境界である波長780nmより長波長側を透過するフィルタ、つまり主に380nm〜780nmの可視光波長領域で吸収性を呈し、主に波長780nm以上である赤外光波長領域で透過性を呈する黒色フィルタでよいが、この図64(B)に示すように、波長700nmより長波長側を透過するフィルタ、つまり主に380nm〜700nmの可視光波長領域で吸収性を呈し、主に波長700nm以上の波長領域で透過性を呈する黒色フィルタでもよい。
また原色フィルタ14R,14G,14Bの分光感度曲線によっては、最適な黒色の透過スペクトルが異なる。たとえば、図54に示すものの場合、緑色Gの感度曲線は640nmより長波長の光に対しても感度を持ち、640nmより長波長の光が入射したときには色再現性が悪くなるので、これをも補正するために、黒色フィルタ14BKとしては、640nmより長波長側を透過するもの、つまり主に380nm〜640nmの可視光波長領域で吸収性を呈し、主に波長640nm以上の波長領域で透過性を呈する黒色フィルタであることがより適切であるということになる。
このような黒色フィルタ14BKが配された黒色補正画素12BKを設けることで、撮像素子に入射してくる赤外光IRだけを信号の値として画素12IRにより測定することができる。さらに、その信号値に係数を掛けたものを各3原色または補色の光の信号から引くことで加算された赤外信号(赤外成分の信号)をカットできる。これによって赤外光がある状況下でも色再現の良い画像を取得できる。
具体的には、可視光カラー画像を表わす各原色信号成分SR,SG,SBを、赤外光画像を表わす赤外光信号成分SIR(赤外光の測定信号強度)を使って補正することにより、赤外光(第2の波長領域)の成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための補正済み原色信号SR*,SG*,SB*、すなわち本来の可視光波長領域における各色信号成分のみの正確な色信号強度を取得する。
この補正演算に当たっては、下記式(5−1)のように、本来の可視光波長領域における各色信号成分に赤外光の漏れ信号成分が加わった原色信号成分SR,SG,SBから、赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算することで、赤外光(第2の波長領域)の漏れ成分の影響を排除した補正済み原色信号SR*,SG*,SB*を取得する。
なお、第2の波長領域の成分を低減するための赤外光カットフィルタを設けた場合との比較においては、赤外光カットフィルタを設けない場合には、可視光カラー画像用の3原色信号成分が大きくなるので、同等の信号レベルにするには、さらに下記式(5−2)のように、赤外光信号成分SIRに係数εR,εG,εBと原色信号成分SR,SG,SBとを掛けた非線形な補正信号成分をさらに減算するとよい。つまり、色信号成分SR,SG,SBに対して予め赤外光信号成分SIRに所定の係数εR,εG,εBを掛けた値で非線形に感度補正を加えておき、この感度補正が加えられたものから赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算するとよい。
負の係数εR,εG,εBと考えれば、事実上、第2の検知部で検知された赤外光成分と第1の検知部で検知された本来の画素信号との積に負の係数εR,εG,εBを掛けた非線形の信号成分を加算することにより補正を行なうことになる。
こうすることで、赤外光(第2の波長領域)の漏れ成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための、本来の可視光波長領域における各色信号成分のみの各補正色信号SR**,SG**,SB**をさらに精度よく取得できる。なお、この式(5−2)に従った補正は、3原色信号成分の全てに対して行なう必要はなく、特に輝度信号への影響度合いの強い緑色信号成分に対してのみ行なうようにしてもよい。
なお、係数αR,αG,αBの設定に当たっては、赤外光の漏込み成分を十分に抑制できるようにすることが肝要である。ここで、赤外光の漏込み成分は、光源に含まれる赤外光波長領域の強度にも依存することになる。
たとえば、図65は、可視光検知領域で検知される信号強度の光源による影響を説明する図である。一例として、ここでは、太陽光の波長スペクトルの影響について考える。可視光検知領域で検知される信号の強度は、図54に示す感度曲線に図53に示す反射スペクトルから導かれる透過スペクトルを掛けた図55に示す実際に得られる分光感度曲線に、さらにこの図65に示す光源波長スペクトルを掛けたものとなる。
図66および図67は、誘電体積層膜1を利用した分光イメージセンサ11と色フィルタ14とを組み合わせた撮像素子の場合における、光源による影響の様子を模式的に示した図である。
図66(A)は赤外光のスペクトル強度が可視光のスペクトル強度と同程度の場合を示しており、図66(B)は赤外光のスペクトル強度が可視光のスペクトル強度よりも低い場合を示している。図66(A),(B)の比較から分かるように、所定色の色フィルタ14が配された撮像素子から得られる信号に含まれる赤外光成分は、光源に含まれる赤外光のスペクトル強度に依存(比例)する。
したがって、光源に含まれる赤外光のスペクトル強度の影響を受けることなく、赤外光の漏込み成分を適切に抑制するには、所定色の色フィルタ14が配された撮像素子から得られる信号から常に一定量を減算するのではなく、図67に示すように、その減算量を、光源に含まれる赤外光のスペクトル強度に依存(比例)させるのがよいということになる。赤外光成分を実測し、その実測情報に係数を掛けた値を、所定色の色フィルタ14が配された撮像素子から得られる信号から減算することで、実際の撮像環境下での赤外光の強度に応じた適正量で補正を加えることができ、補正精度が極めて良好になる。
また、ある光源下で最適な係数を決定すれば、あとは光源条件が変わっても同じ係数を使うことができ、ユーザが撮像環境に合わせて補正量を調整する必要がなく、使い勝手がよい。
このようにして、4種類の色フィルタを配設した各画素の出力をマトリクス演算することにより、可視光カラー画像および近赤外光画像をそれぞれ独立に求めることができる。すなわち、フォトダイオードなどの撮像素子の各画素に、別個のフィルタ特性を有する4種類の色フィルタを配設し、4種類の色フィルタを配設した各画素の出力をマトリクス演算することで、近赤外光の影響をほぼ全く受けない可視光カラー画像を形成するための3原色出力と、可視光の影響をほぼ全く受けない近赤外光画像を形成するための出力を、それぞれ独立かつ同時に取得することができる。
特に、可視光カラー画像に関しては、赤外光の漏れによる色再現の悪さを演算処理にて補正することで、暗所で感度の高く、かつ色再現の良好な撮像が可能になる。赤外光に近い赤色の信号成分が大きくなる現象や映像の赤い部分で輝度が高くなる現象を緩和することもでき、特別な撮像素子や機構を用いなくても、低コストで色再現性の向上と低照度時の感度アップのバランスを取ることができる。また、使用する原色フィルタの特性をも加味して黒色フィルタ14BKの特性を設定することで、赤外光よりも低波長側の漏れ成分による色再現性の問題を解消することもできる。
また、同じ撮像素子において、フォトダイオード上に一体的に形成された誘電体積層膜1の一部を、部分的に誘電体積層膜1を形成しないようにするので、部分的に誘電体積層膜1が形成されていない誘電体積層膜1をもつ別個の光学部材を撮像素子の前面に配設する場合とは異なり、位置合せの問題が起きない。
なお、R,G,Bの原色フィルタの画素に加えて黒色フィルタの画素(黒色補正画素12BK)を加えることによって赤外光の信号を得るが、この黒色補正画素12BKは、可視光カラー画像に対する補正という点においては、必ずしも赤外光画像を撮像するに十分な配置形態にする必要はなく、通常の画像を撮像するための画素12R,12G,12B(第1の検知部)に対して補正用の画素12IR(第2の検知部)を1対1に配する図61に示す配置例に限らず、任意のところに置いてもよい。
たとえば撮像素子の角(隅)のほうに所々入れてもよい。こうすることで、通常の画像を撮像するための複数の画素(第1の検知部)に対して補正用の画素(第2の検知部)を1つ配する形態とすることができ、通常の画像を撮像する画素(第1の検知部)の配列形態に対して殆ど影響を与えないようにしつつ、補正用の画素(第2の検知部)を設けることができる。ただしこの場合、1つの補正用の画素で取得した補正信号を使って通常の画像を撮像する複数の画素の画素信号に対して補正を行なうことになるので、補正用の信号(本例では赤外光信号)の面内ムラに対しては殆ど対処できない。
これを解決するには、画素配列全体に、補正用の画素(第2の検知部)を通常の画像を撮像する画素(第1の検知部)との間で一定の数比を持って周期的に入れてもよい。被写体表面の赤外光の反射率がその被写体の部分によって変化するような面内ムラがある場合には、画素配列全体に周期的に入れることで補正が適切に行なえることになる。補正用の画素(第2の検知部)を周期的に入れる最善の形態が、通常の画像を撮像するための画素(第1の検知部)に対して補正用の画素(第2の検知部)を1対1に配する形態である。
このように、黒色補正画素12BKと誘電体積層膜1を組み合わせることで、効果的に可視光の画素の信号に足された赤外光の信号を取り除くことができ、硝子製の赤外光カットフィルタを使用しなくても、色再現性の良好な可視光カラー画像を取得することができる。硝子製の赤外光カットフィルタを使用しないので、コストのメリットがあるし、可視光の透過率も高く高感度化が達成される。誘電体積層膜1を利用した場合の赤外光の漏れによる色再現の悪さについては、黒色補正画素12BKにより実測した赤外光成分を使って演算処理により補正するので、暗所で感度の高くかつ色再現の良い撮像が可能になり、また補正のための構成が簡単であるし補正精度が良好である。
また、補正画素として黒色補正画素12BKを使用しているので、可視光から赤外光(特に近赤外光)までの全波長の成分を通過させる構成に比べて(後述する白色補正画素を利用した第2具体例を参照)、信号の飽和が起き難く、ダイナミックレンジが広くなる。
なお、上記例では、可視光カラー画像撮像用の色フィルタ14として、原色フィルタ14R,14G,14Bを用いていたが、補色フィルタCy,Mg,Yeを用いることもできる。この場合たとえば、図61(B)に示すように、原色フィルタ14RをイエローYeに、原色フィルタ14GをマゼンタMgに、原色フィルタ14BをシアンCyに、それぞれ置き換えた配置とするとよい。そして、対角に2つ存在することになるマゼンタMgの一方に、補正画素としての黒色フィルタBKを配する。
黒色フィルタが配される画素を除く画素12Cy,12Mg,12Ye上には誘電体積層膜1が形成され、さらにその上に、補色フィルタ14Cy,14Mg,14Yeが設けられ、補色フィルタ14Cy,14Mg,14Yeを通して可視光VLの内の対応するシアンCy、マゼンタMg、およびイエローYeの各色を受光するようにする。つまり、誘電体積層膜を補色系のカラーフィルタのある画素の検知部上に形成することで、赤外光を効果的にカットできる機能を持たせる。
また、Cy,Mg,Yeの補色フィルタのみの組合せに限らず、原色フィルタの1つである緑色フィルタGや白色フィルタWを補色フィルタと組み合せたものに対しても、補正画素をなす黒色フィルタBKの画素を設けることもできる。たとえば、図61(C)に示すように、Cy,Mgの2つの補色フィルタとGの原色フィルタとを組み合わせたフィールド蓄積周波数インターリーブ方式用のものにおいて、4画素内に2つ存在する原色フィルタGの内の一方を補正画素としての黒色フィルタBKに置き換えるとよい。
これら補色フィルタを用いる場合の補正演算に当たっては、下記式(6)のように、本来の可視光波長領域における各色信号成分に赤外光の漏れ信号成分が加わった色信号成分SCy,SMg,SYe,SGから、赤外光信号成分SIRに所定の係数αCy,αMg,αYe,αGを掛けた補正信号成分を減算するのがよい。こうすることで、赤外光(第2の波長領域)の漏れ成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための、本来の可視光波長領域における各色信号成分のみの各補正色信号SCy*,SMg*,SYe*,SG*を取得できる。
<第1具体例における他のセンサ構造への適用例>
上記の第1具体例では、誘電体積層膜を利用したCCD固体撮像素子101への適用事例において、可視光を排除し赤外光のみを受光・検知する検知領域を設けるべく、2つの緑(G)のうちの一方を黒色フィルタBKに置き換えていたが、回折格子501を利用した分光イメージセンサ511や半導体の深さ方向における波長による吸収係数の違いを利用した固体撮像素子611においても、可視光を排除し赤外光のみを受光・検知する検知領域を設け、この検知領域から得られる赤外光信号を使って赤外光画像を得るとともに、この赤外光信号を、カラー画像撮像用の色フィルタ(たとえば原色フィルタR,G,B)を配した画素から得られる可視光カラー画像に対して補正に使用することもできる。
たとえば、回折格子501を利用した分光イメージセンサ511に適用する場合、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタ配列にすることができる。この場合、面方向においてつまり2次元状において、カラー画像撮像用の原色フィルタ12R,12G,12Bが配される部分に各色を検知する可視光画像撮像領域が形成され、その周りに、赤外光画像撮像を検知する赤外光画像撮像領域が形成されることになる。
また、半導体の深さ方向における波長による吸収係数の違いを利用した固体撮像素子611に適用する場合にも、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタ配列にすることができる。この場合、深さ方向においてつまり3次元状において、カラー画像撮像用の原色フィルタ12R,12G,12Bが配される部分の比較的浅い領域に各色を検知する可視光画像撮像領域が形成され、それよりもさらに深い領域に、赤外光画像撮像を検知する赤外光画像撮像領域が形成されることになる。
何れの場合にも、原色フィルタ12R,12G,12Bの分光感度特性に関しては、好ましくは、各原色の波長領域と赤外光領域において透過率が略1、その他で略ゼロのものを使用するのがよい。赤外光画像や可視光カラー画像に対する補正成分として使用される赤外光画像撮像領域から取得される信号レベルの低下が起きないように、半導体の深い領域に達する赤外光成分の減衰を少なくするためである。
これにより、何れの場合にも、可視光VLの影響を殆ど受けることのない赤外光画像を可視光カラー画像とは独立に得ることができる。また、半導体の浅い領域にて取得される可視光カラー画像に対して、半導体の深い領域にて取得される赤外光画像の成分を使って補正演算することで、可視光像に漏れ込む赤外光成分の影響を排除することで、色再現性を向上させることができる。
また、何れの場合にも、誘電体積層膜を利用する場合とは異なり、それぞれのセンサ構造の特徴から分かるように、可視光カラー画像を取得するための検知領域と赤外光画像を取得するための検知領域が、半導体の面方向もしくは深さ方向に分離され、可視光カラー画像を取得するための色フィルタ14を設けることで、自動的に、赤外光成分も取得できる構造であるので、赤外光画像撮像領域を形成する際には、積極的に、補正用の黒色フィルタを配さなくてもよく、いわゆるベイヤ(Bayer)配列の基本形のカラーフィルタ配列をそのまま利用することができる。よって、後述するような、本来Gの画素が黒色補正画素に置き換わることによる可視光カラー画像および赤外光画像の解像度低下を招くことがない。
<色分離フィルタ配列;第2例>
図68は、補正演算により可視光カラー画像と赤外光画像をそれぞれ独立に求めることを常時可能にする色分離フィルタ配置の第2の具体例(以下第2具体例という)を示す図である。この第2具体例は、可視光カラー画像に対する補正用の検知領域として、赤外光とともに可視光の全波長成分をも受光・検知する検知領域を設ける点に特徴を有する。
図68(A)に示すように、いわゆるベイヤ配列の基本形のカラーフィルタを利用しており、先ず、正方格子状に配された単位画素が赤(R),緑(G),青(B)の3色カラーフィルタに対応するように、色分離フィルタの繰返単位が2画素×2画素で配されて画素部を構成するようにする。また、赤外光とともに可視光の全波長成分を受光・検知する検知部(検知領域)を設けるべく、2つの緑(G)のうちの一方を白色フィルタWに置き換える。つまり、可視光カラー画像用に原色フィルタR,G,Bの3つの波長領域(色成分)用のものと、原色フィルタR,G,Bの成分とは異なる赤外光用の白色フィルタWといった別個のフィルタ特性を有する4種類の色フィルタを規則的に配設している。
なお、白色フィルタWが配される白色補正画素は、可視光から赤外光(特に近赤外光)までの全波長の成分を通過させるものであり、この点においては、事実上、カラーフィルタを設けない構成を採ることができる。
たとえば、偶数行奇数列には第1のカラー(赤;R)を感知するための第1のカラー画素を配し、奇数行奇数列には第2のカラー(緑;G)を感知するための第2のカラー画素を配し、奇数行偶数列には第3のカラー(青;B)を感知するための第3のカラー画素を配し、偶数行偶数列には赤外光IRを感知するための第4のカラー画素(ここでは白画素)を配しており、行ごとに異なったG/B、またはR/Wの画素が市松模様状に配置されている。このようなベイヤ配列の基本形のカラーフィルタの色配列は、行方向および列方向の何れについても、G/BまたはR/Wの2色が2つごとに繰り返される。
原色フィルタR,G,Bを通して対応する検知部で検知することで可視光カラー画像を撮像できるとともに、白色フィルタWを通して対応する検知部で検知することで赤外光画像、もしくは赤外光と可視光の混在画像を可視光カラー画像とは独立かつ同時に撮像することができる。たとえば、赤外光IRと可視光VLの混合成分を受光する画素12IRからの画素データをそのまま用いることで、赤外光IRと可視光VLの混合成分の像を得ることができ、感度を高くすることができる。また、赤外光IRと可視光VLの混合成分の像とともに可視光VLの像が得られるが、両者の差分を取ることで、赤外光IRのみの像が得られる。また、この白色フィルタWを配した画素から得られる混在画像信号は、原色フィルタR,G,Bを配した画素から得られる可視光カラー画像に対しての補正信号としても利用する。
図69は、図68に示した色分離フィルタの配置を持ち、赤外光IRと可視光VLの2つの波長成分を同時に像として別々に撮像できるようにしたCCD固体撮像素子を説明する図である。ここで、図69は、構造例を示す見取り図(斜視図)である。なおここでは、誘電体積層膜を利用したCCD固体撮像素子101への適用事例で示している。基板表面付近の断面構造図は図63と同様である。
図69に示すCCD固体撮像素子101の構造においては、4画素でなる単位画素マトリクス12だけを示しているが、実際にはこれを横方向に繰り返し、それをさらに縦方向に繰り返した構造である。
単位画素マトリクス12をなす周期配列の4画素の内、1つの画素12IR上には誘電体積層膜1が形成されていないし色フィルタ14が設けられておらず、色フィルタ14を通さずに赤外光IRを受光するようになっている。この場合、画素12IRでは、赤外光IRと可視光VLの混合成分を受光できるようになる。この色フィルタ14が設けられていない画素12IRを白色補正画素12Wあるいは全域通過画素と呼ぶ。
このように、誘電体積層膜1を形成しなかった画素12IRにおいて、赤外光IRだけでなく可視光VLも同時に信号に寄与するように、白色補正画素12Wについては、色フィルタ14を入れない。こうすることで、実質的に、赤外光用の画素12IRを、赤外光IR用のみでなく、赤外光IR用と可視光VL用を兼ねる画素として機能させることができる。
一方、他の3つの画素12B,12G,12R上には誘電体積層膜1が形成され、さらにその上に、原色フィルタ14R,14G,14Bが設けられていて、原色フィルタ14R,14G,14Bを通して可視光VLの内の対応する青色B、緑色G、および赤色Rの3原色を受光するようにしている。つまり、誘電体積層膜を3原色系のカラーフィルタのある画素の検知部上に形成することで、赤外光を効果的にカットできる機能を持たせている。第2具体例において用いる原色フィルタ14R,14G,14Bとしては、図64(A)に示した第1具体例と同様のものを用いることができる。
このような構造で作製された撮像素子を用いることで、3原色成分に基づく可視光カラー画像と、赤外光IRのみの像または赤外光IRと可視光VLの混合の像を同時に撮像できることが分かった。ただし、可視光カラー画像は、赤外光の漏れによる色再現性の低下の懸念がある。このため、以下のようにして補正を行なう。
<第2具体例の補正手法;第1例>
図70は、第2具体例における赤外光成分の補正手法を説明する図である。色フィルタ14が配されていない白色補正画素12Wを設けることで、撮像素子に入射してくる赤外光IRと可視光の合成成分を示す信号値SWとして画素12IRにより測定できる。
なお、図70では、白色フィルタの透過特性を可視光帯と赤外光帯とで等しいものとして示しているが、このことは必須ではなく、可視光帯の透過強度よりも赤外光帯の透過強度が低下していてもよい。可視光帯の全波長成分を十分な強度で透過させることができるとともに、赤外光帯では、R,G,Bの原色フィルタの透過強度に比べて十分な強さで透過させる特性を持っていればよいのである(後述する擬似MLTフィルタを参照)。
さらに、その白色補正画素12Wから得られる赤外光成分に係数を掛けたものを各3原色または補色の光の信号から引くことで加算された赤外信号(赤外成分の信号)をカットできる。これによって赤外光がある状況下でも色再現の良い画像を取得できる。
ただし、黒色補正画素の場合とは異なり、白色補正画素12Wから得られる信号値SWには、赤外光成分IRだけでなく可視光成分VLも含まれるので、可視光成分VLの信号強度SVLを排除した赤外光の信号強度SIRを見積もる必要がある。
具体的には、可視光カラー画像を表わす各原色信号成分SR,SG,SBを、赤外光画像を表わす赤外光信号成分SIR(赤外光の測定信号強度)を使って補正することにより、赤外光(第2の波長領域)の成分の影響を排除した、可視光成分(第1の波長領域の成分)に関わる可視光カラー画像を再現するための補正済み原色信号SR*,SG*,SB*、すなわち本来の可視光波長領域における各色信号成分のみの正確な色信号強度を取得する。
ここで、第2具体例の補正手法の第1例の補正演算に当たっては、上記式(5−1)のように、本来の可視光波長領域における各色信号成分に赤外光の漏れ信号成分が加わった原色信号成分SR,SG,SBから、見積もられた赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算することで、赤外光(第2の波長領域)の漏れ成分の影響を排除した補正済み原色信号SR*,SG*,SB*を取得する。もちろん、上記式(5−2)を適用してもよい。
ここで赤外光信号成分SIRは、図70からも分かるように、白色補正画素12Wで取得される信号値SWの内、主に赤外光成分IRの信号強度を表す。よって、白色補正画素12Wで取得される可視光成分の信号値SVLとの間には、下記式(7)が成立する。なお、ここでの赤外光成分IRとは、図54に示した色分離フィルタの分光感度曲線から、G成分の640nm付近より長波長側の光を遮断したいことから、主に640nmより長波長の光を指すこととする。一般的には、赤外光の定義は眼に見えない光ということで、780nmより長波長であるが、ここではこのように定義する。
一方、赤外光IRまたは可視光VLの光量は被写体側と撮像側において比例関係にある。すなわち被写体側で増加すれば撮像側でもそれに比例して増加する。したがって、図64のような関係になる。
たとえば、白色フィルタ(色フィルタ14が配されない場合も含む)を透過した可視光VLの光量は原色フィルタ14R,14G,14Bで透過した可視光の光量に各係数を掛けたものの和に等しいと考えることができるので、白色フィルタで透過した可視光成分VLの信号強度SVLは原色フィルタ14R,14G,14Bで透過した可視光成分の補正済み原色信号強度SR*,SG*,SB*に各係数βR,βG,βBを掛けたものの和にほぼ等しく、下記式(8)のように表わすことができる。
したがって、白色フィルタを透過する赤外光成分の信号強度SIRは、下記式(9−1)のように表わすことができる。さらに、式(5−1)を式(9−1)に代入すると、式(9−2)のように表わすことができる。これをさらに赤外光成分IRについてまとめると、式(9−3)のように表わすことができる。
ここで、白色補正画素で得られる信号成分SW、原色フィルタ画素で得られる信号成分SR,SG,SBに着目して、それぞれの係数をγW,γR,γG,γBとすると、係数γW,γR,γG,γBは下記式(10−1)〜(10−4)のように表わすことができ、この係数γW,γR,γG,γBを使うことで、式(9−3)を式(10−5)と書き換えることができる。
つまり、白色補正画素12Wから得られる信号値SWに含まれる赤外光成分IRのみの信号強度SIRを、原色フィルタ画素で得られる信号成分SR,SG,SBを使って見積もることができる。
つまり、画像信号処理部340は、第2の検知部としての白色補正画素12Wから得られる信号値SWに対して、原色フィルタ画素で得られる信号成分SR,SG,SBを使って補正することで、第1の波長領域の成分としての可視光成分(青成分〜赤成分)を排除した第2の波長領域の成分としての赤外光成分IRのみの信号強度SIRを見積もることができる。
なお、係数γR,γG,γBの設定に当たっては、係数αR,αG,αBと係数βR,βG,βBとの関わりを持つ。係数αR,αG,αBに関しては、第1具体例の場合と同様でよい。係数βR,βG,βBに関しては、白色フィルタ(色フィルタ14が配されない場合も含む)を透過した可視光VLの光量と、原色フィルタ14R,14G,14Bで透過した可視光の光量に各係数βR,βG,βBを掛けたものの和との対応関係から設定することになる。たとえば、各係数α,β,γは、ニュートン法を用いて誤差が小さくなるように算術計算で求める。
一般的には、図70に示すように、原色フィルタ14R,14G,14Bの可視光領域における透過特性が概ね同様の形状をしている場合には、βR:βG:βB=3:6:1とすればよい。
このようにして、4種類の色フィルタの各画素の出力、詳しくは3種類の原色フィルタが配された画素と白色フィルタ14Wを配した(事実上色フィルタを配さない)画素の各出力をマトリクス演算することにより、可視光カラー画像および近赤外光画像をそれぞれ独立に求めることができる。すなわち、フォトダイオードなどの撮像素子の各画素に、別個の波長通過特性(フィルタ特性)を有する4種類の色フィルタを配設し、4種類の色フィルタを配設した各画素の出力をマトリクス演算することで、近赤外光の影響をほぼ全く受けない可視光カラー画像を形成するための3原色出力と、赤外光と可視光とを混在させた合成画像もしくは白色補正画素12Wから得られる混在成分と可視光成分との合成処理(詳しくは差分処理)により、可視光の影響をほぼ全く受けない赤外光のみの画像を、それぞれ独立かつ同時に取得することができる。
たとえば、赤外光IRと可視光VLの混合成分を受光する画素12IRからの画素データをそのまま用いることで、赤外光IRと可視光VLの混合成分の像を得ることができ、感度を高くすることができる。また、赤外光IRと可視光VLの混合成分の像とともに可視光VLの像が得られるが、両者の差分を取ることで、赤外光IRのみの像が得られる。
また、同じ撮像素子において、フォトダイオード上に一体的に形成された誘電体積層膜1の一部を、部分的に誘電体積層膜1を形成しないようにするので、部分的に誘電体積層膜1が形成されていない誘電体積層膜1をもつ別個の光学部材を撮像素子の前面に配設する場合とは異なり、位置合せの問題が起きない。
特に、可視光カラー画像に関しては、赤外光の漏れによる色再現の悪さを演算処理にて補正することで、暗所で感度の高く、かつ色再現の良好な撮像が可能になる。赤外光に近い赤色の信号成分が大きくなる現象や映像の赤い部分で輝度が高くなる現象を緩和することもでき、特別な撮像素子や機構を用いなくても、低コストで色再現性の向上と低照度時の感度アップのバランスを取ることができる。
たとえば白色補正画素12Wから得られる信号SWには、赤外光成分だけでなく可視光成分も含まれるので、この可視光成分の信号SVLを使って、可視光カラー画像撮像用の原色フィルタ14R,14G,14Bが配された画素に基づき得られる輝度信号に補正を加える(実際には加算演算処理を行なう)ことで、色再現性とは独立して、可視光カラー画像の高感度化を図ることもできる。
図68のようにR,G,Bの原色フィルタの画素に加えて白色フィルタの画素(白色補正画素12W)を加えることによって赤外光の信号を得るが、白色補正画素12Wは、可視光カラー画像に対する補正という点においては、必ずしも赤外光画像を撮像するに十分な配置形態にする必要はなく、図68に示す配置例に限らず、任意のところに置いてもよい。たとえば素子の角のほうに所々入れてもよいし、または画素配列全体に周期的に入れてもよい。特に、被写体表面の赤外光の反射率がその被写体の部分によって変化するような場合には、画素配列全体に周期的に入れることで補正が適切に行なえることになる。
このように、白色補正画素12Wと誘電体積層膜1を組み合わせることで、効果的に可視光の画素の信号に足された赤外光の信号を取り除くことができ、硝子製の赤外光カットフィルタを使用しなくても、色再現性の良好な可視光カラー画像を取得することができる。硝子製の赤外光カットフィルタを使用しないので、コストのメリットがあるし、可視光の透過率も高く高感度化が達成される。
誘電体積層膜1を利用した場合の赤外光の漏れによる色再現の悪さについては、白色補正画素12Wにより実測した赤外光成分を含む信号から赤外光成分を見積もり、この見積もった赤外光成分を使って演算処理により補正するので、暗所で感度の高くかつ色再現の良い撮像が可能になり、また補正のための構成が簡単であるし(ただし、赤外光成分を見積もる分だけ第1具体例よりは複雑にはなる)、見積もった赤外光成分は事実上実測した赤外光成分となるので補正精度が良好である。
ところで、白色補正画素12Wは、可視光VLから赤外光IRまで広い波長領域において感度があるので、可視光カラー画像撮像用の画素(ここでは原色フィルタが配された原色画素)に比べて信号が飽和し易く、特に明るい環境下での撮像においては、この飽和現象が問題となり得る。具体的には、明るい環境下では、適正な赤外光画像を取得できないし、可視光カラー画像に対する補正が不適切になり得る。
この飽和の問題を解消するには、たとえば、明るい環境下での撮像においては、シャッタ機能(メカシャッタに限らず電子シャッタを含む)を利用した露光制御を用いて、高速で撮像するようにするとよい。たとえば、撮像素子に対して短い周期で露光を行なって、その撮像素子(詳しくは検知部)から画素信号を読み出して、それを撮像信号処理部330の前処理部332に送ってもよい。
この場合、たとえば60フレーム/秒より高いレートで露光と信号読出し行なうことで飽和に対して効果が高まる。あるいは単に0.01667秒より短い時間(蓄積時間)で信号読出し行なうことができればよい。この場合、たとえば、オーバーフローを用いて基板側に電荷信号を排出することで実効的に短い時間での電荷の蓄積を読み出してもよい。
さらに望ましくは240フレーム/秒より高いレートで露光と信号読出し行なうことで飽和に対しての効果をさらに向上させることができる。あるいは単に4.16ミリ秒より短い時間(蓄積時間)で信号読出し行なうことができればよい。
なお、このように飽和しないように短い時間(蓄積時間)で電荷を読み出す対象画素は、白色補正画素12Wのみとしてもよいし、可視光カラー画像撮像用の他の画素(ここでは原色フィルタが配された原色画素)を含む全画素としてもよい。
また、さらに短い露光時間で読み取った信号を2回以上積算することで、暗部における弱い信号を強い信号に変換し、S/N比を高めてもよい。たとえば、このようにすることで、暗い環境下で撮像しても、また明るい環境下で撮像しても適切な感度と高いS/N比が得られ、ダイナミックレンジが広がることになる。つまり、高速で撮像することで白色補正画素12Wでの飽和が起き難くなるとともに、信号を積算することで広いダイナミックレンジがとれるようになる。
なお、上記例では、可視光カラー画像撮像用の色フィルタ14として、原色フィルタ14R,14G,14Bを用いていたが、補色フィルタCy,Mg,Yeを用いることもできる。この場合たとえば、図68(B)に示すように、原色フィルタ14RをイエローYeに、原色フィルタ14GをマゼンタMgに、原色フィルタ14BをシアンCyに、それぞれ置き換えた配置とするとよい。そして、対角に2つ存在することになるマゼンタMgの一方に、補正画素としての白色フィルタWを配する。
白色フィルタが配される画素を除く画素12Cy,12Mg,12Ye上には誘電体積層膜1が形成され、さらにその上に、補色フィルタ14Cy,14Mg,14Yeが設けられ、補色フィルタ14Cy,14Mg,14Yeを通して可視光VLの内の対応するシアンCy、マゼンタMg、およびイエローYeの各色を受光するようにする。つまり、誘電体積層膜を補色系のカラーフィルタのある画素の検知部上に形成することで、赤外光を効果的にカットできる機能を持たせる。
また、Cy,Mg,Yeの補色フィルタのみの組合せに限らず、原色フィルタの1つである緑色フィルタGを補色フィルタと組み合せたものに対しても、補正画素をなす白色フィルタWの画素を設けることもできる。たとえば、図68(C)に示すように、Cy,Mgの2つの補色フィルタとGの原色フィルタとを組み合わせたフィールド蓄積周波数インターリーブ方式用のものにおいて、4画素内に2つ存在する原色フィルタGの内の一方を補正画素としての白色フィルタWに置き換えるとよい。
これら補色フィルタを用いる場合の補正演算に当たっては、式(6)を用いることができ、その際の赤外光成分SIRは、式(10−5)から推測されるように、下記式(11)のように置き換えるとよい。なお、式(11)中において、Cy,Mg,Ye,Gの各成分は、実際に使用する色フィルタに応じて適用され、必ずしも全色の成分が必要になると言うことではなく、たとえば、図68(B)に示す色フィルタ配置であればG成分をゼロに、また図68(C)に示す色フィルタ配置であればMg成分をゼロにする。
<第2具体例の補正手法;第2例>
以上のように、白色補正画素12Wを用いた場合の補正手法として、線形項のみでなる上記式(5−1)に従った第1例の補正演算について説明したが、非線形項を加えた補正演算にすることで、さらに色差を小さくすることもできる。非線形項を考慮する点では上記式(5−2)と共通するが、摘要の考え方が異なる。この点について、以下詳細に説明する。
第2具体例の補正手法の第2例の補正演算に当たっては、下記式(12−1)に示すように、前記式(5−1)で得られる成分に対して、原色信号成分S(SR,SG,SB)から係数ηR,ηG,ηBを差し引いた成分と赤外光信号成分SIRとの積に係数ωR,ωG,ωBを掛けた2次の信号成分(S×IR)を含む非線形な補正信号成分を加算するとよい。なお、各色成分同士の係数積ωR×ηR,ωG×ηG,ωB×ηBが十分に小さければ、この係数積の成分を無視して、下記式(12−2)を適用することもできる。なお、赤外光信号成分SIRは、前記式(10−5)に示すものと同じである。
非線形項を用いて補正を加える点では、前記式(5−2)と類似しているが、式(5−2)は、赤外光カットフィルタを設けない場合に可視光カラー画像用の3原色信号成分が大きくなる分を補正して同等の信号レベルにすることを目的としていたが、式(12−1)や式(12−2)は、色差が小さくなるように、精度良く正しい色情報を得ることを目的としている点で異なる。
式(12)は、原色フィルタ14R,14G,14Bを用いた場合の摘要例であるが、同様のことは、補色フィルタCy,Mg,Yeを用いる場合や、さらに緑色フィルタGや白色フィルタWを補色フィルタと組み合せたものに対しても適用することができる。
これら補色フィルタを用いる場合の補正演算に当たっては、前記式(12)に代えて、一例として、下記式(13)を適用すればよい。この点は、前記式(5)に対して前記式(6)を適用したのと同様の考え方である。
<第2具体例の補正手法;第3例>
図71および図72は、第2具体例の第3例の補正手法を説明する図である。式(12)や式(13)では、色差が小さくなるように、赤外光成分IRと本来の信号成分Sとの積(S×IR)に所定の係数を掛けた2次の信号成分を含む非線形な補正信号成分を加算していたが、色信号Sと計数ηの差(S−η)の2次以上の高次式の補正成分を利用することもできる。
たとえば、下記式(14−1)に示すように、前記式(5−1)で得られる成分に対して、原色信号成分SR,SG,SBから係数ηR,ηG,ηBを差し引いた成分の2乗と赤外光信号成分SIRとの積に係数ωR,ωG,ωBを掛けた全体として3次の信号成分(S^2×IR)を含む非線形な補正信号成分を加算することもできる。
また、非線形な補正信号成分を加算できればよく、差(S−η)と赤外光成分SIRとの積の多次式に限らず、下記式(14−2)に示すような絶対値式、もしくは下記式(14−3)に示すような1次式を利用した条件式を赤外光成分SIRに掛けて非線形な信号成分を得る補正式を適用することもできる。
たとえば、青色(B)成分について、式(5−1)や式(6−1)で示される線形式を用いた補正演算後の色成分の輝度値と、その色成分の真の値(IRカットフィルタを用いたときのB成分の輝度値)の差分を縦軸に、さらに横軸に補正演算後の輝度値を横軸にとってプロットしたグラフを図71に示す。このグラフの場合、差分は補正後の輝度値に対して上に凸の依存性を示し、その特性を示す線分として、特性例1のように2次式に類似した形態や、特性例2のように値ηBより大きいときと小さい場合で依存性が変わるような形態を得ることができる。
したがって、前述の依存性に、さらに図72に示すように、下に凸の依存性のものを足せば、差分を一定にすることができる。このままでは、一定の差分を持ったままとなるので色再現性が問題となるが、さらにホワイトバランスをとることで、全体の差分が無くなるようにすることができる。このように、差分の変化点(係数ηに相当)に対して、それに好都合な式の演算を行なうことで、補正演算の誤差を小さくすることができる。
下に凸の依存性を示す式としては、前記式(14−1)に示したような差(S−η)の2次式あるいは一般的な非線形式がこれに当てはまるが、必ずしも多次式とは限らないのである。たとえば、式(14−2)や式(14−3)のように、値ηBより大きいときと小さい場合で依存性が変わるような式でも、同じような効果が得られるのである。
<色分離フィルタ配列;第3例>
図73および図74は、補正演算により可視光カラー画像と赤外光画像をそれぞれ独立に求めることを常時可能にする色分離フィルタの配置例の具体例の第3例(以下第3具体例という)を示す図である。この第3具体例は、可視光カラー画像に対する補正用の検知領域として、赤外光とともに可視光内のある特定の波長成分を受光・検知する検知領域を設ける点に特徴を有する。
一例として、図69に示す第2具体例の構成における白色補正画素12Wを、緑色フィルタ14GIRが配された画素に置き換える。この場合、画素12IRでは、赤外光IRと可視光VLの内の緑色との混合成分を受光できるようになる。この緑色フィルタ14GIRが配された画素12IRを緑色補正画素12GIR と呼ぶ。可視光を検知する緑色フィルタ14Gが配された画素12Gでは赤外光領域に対して感度を有する必要はないが、緑色補正画素12GIR では赤外光領域に対して感度を有するようにすることが必要になる点に留意する。
この場合、原色フィルタR,G,Bを通して対応する検知部で検知することで可視光カラー画像を撮像できるとともに、補正用の緑色フィルタGを通して対応する検知部で検知することで赤外光画像、もしくは赤外光と緑色光の混在画像を可視光カラー画像とは独立かつ同時に撮像することができる。
たとえば、赤外光IRと緑色光の混合成分を受光する画素12IRからの画素データをそのまま用いることで、赤外光IRと緑色光の混合成分の像を得ることができ、感度を高くすることができる。また、赤外光IRと緑色光の混合成分の像とともに可視光VLの像が得られるが、可視光VLの像における緑色成分との差分を取ることで、赤外光IRのみの像が得られる。また、この補正用の緑色フィルタGを配した画素から得られる混在画像信号は、原色フィルタR,G,Bを配した画素から得られる可視光カラー画像に対しての補正信号としても利用する。
補正演算処理に当たっては、第1や第2の具体例と同様に、式(5−1)や式(6)をそのまま適用することができる。また、信号SGIR から赤外光成分の信号SIRを見積もるに際しては、第2具体例における信号SWを緑色補正画素12GIR から得られる信号SGIR に置き換え、可視光成分の信号SVLは緑色成分についてのみ用いるようにすればよく、式(10−5)を式(15)のように置き換えるとよい。
なお、緑色補正画素12GIR から得られる信号SGIR には、赤外光成分だけでなく緑色光成分も含まれるので、この緑色光成分を使って可視光カラー画像撮像用の原色フィルタ14R,14G,14Bが配された画素から得られる信号に補正を加える(実際には加算演算処理を行なう)ことで、可視光カラー画像の高感度化や高解像度化を図ることもできる。
この点は、第2具体例において白色補正画素12Wを用いる場合も同様であり、白色補正画素12Wで検知される可視光成分(R,G,B)を使って可視光カラー画像撮像用の原色フィルタ14R,14G,14Bが配された画素から得られる信号に補正を加える(実際には加算演算処理を行なう)ことで、可視光カラー画像の高感度化や高解像度化を図ることもできる。
なお、第3具体例では、可視光カラー画像撮像用の色フィルタ14として、原色フィルタ14R,14G,14Bを用いていたが、補色フィルタCy,Mg,Yeや原色フィルタGとの組合せを用いることもできる。
また、第2具体例や第3具体例の構成においても、原理的には、白色補正画素12Wや緑色補正画素12GIR を設けるようにすることで、第1具体例における変形例と同様に、回折格子501を利用した分光イメージセンサ511や半導体の深さ方向における波長による吸収係数の違いを利用した固体撮像素子611にも適用できる。
ただし、それぞれのセンサ構造の特徴から分かるように、可視光カラー画像を取得するための検知領域と赤外光画像を取得するための検知領域が、半導体の面方向もしくは深さ方向に分離され、可視光カラー画像を取得するための色フィルタ14を設けることで、自動的に、赤外光画像検知領域にて赤外光成分も取得できる構造であるので、積極的に、補正用の白色フィルタや緑色フィルタを配した画素を設けるのは得策ではない。
なお、第1〜第3の具体例の何れにおいても、補正用の色フィルタを配する画素を赤外光を検知する画素として使うことができるので、赤外光による光通信や距離測定など高機能化が達成できるし、可視光とともに赤外光も同時に検出してイメージ化できる。これによって、同じイメージセンサで、眼で見ることができる可視光のイメージ像、特に色合いが正確な(色再現性の良好な)カラー画像と対応して、眼で見ることのできない赤外光の像情報を同時に受けることができる。これによって暗視カメラなどの新しい情報システムのキーデバイスとして応用が広がる。
たとえば、赤外線の発光点を予め用意してそれを追跡することで、可視光カラー画像の像の中にある赤外光の発光点の位置を検出することができる。また、可視光のない、たとえば夜間においても赤外光を照射して撮像することで鮮明な赤外光画像を得ることができるので、防犯用のイメージセンサとしての応用も可能である。
<色分離フィルタの他の配置例>
図75〜図81は、誘電体積層膜1を利用した分光イメージセンサ11に、可視光カラー画像に対する補正用の画素を設ける場合における解像度低下を考慮した画素配列を説明する図である。
画素配列に関して言えば、図61や図68のような配列構造を適用した場合、単純に従来のRGB原色フィルタやCyMgYe補色フィルタ(あるいは原色フィルタG)の可視光の画素に赤外光(または赤外光と可視光の混合)検知用の画素を追加することになる。
たとえば、本来、可視光カラー画像撮像用の緑色画素Gやマゼンタ色画素Mgが、黒色補正画素や白色補正画素や緑色補正画素もしくはマゼンタ色補正画素に置き換わることになり、可視光カラー画像および赤外光画像の何れについても、解像度低下を招く可能性がある。たとえば、従来のRGBベイヤ配列のGの1つの画素を赤外画素に置き換えると、解像度が低下する。しかしながら、補正画素と解像度に大きく寄与する波長成分の画素(たとえば緑色画素G)の配置態様を工夫することで、この解像度低下の問題を解消することができる。
この際に重要なことは、従来と同様に、各色のフィルタをモザイク状に配した色分離フィルタ構造を採用する場合、赤外光(または赤外光と可視光の混在)の画素がある一定の格子間隔を持ってモザイク模様になるようにするとともに、可視光の原色系RGBまたは補色系CyMgYe画素の内の1つの画素がある一定の格子間隔を持ってモザイク模様になるように配置することである。
ここで、「モザイク模様になるようにする」とは、ある色画素に着目したとき、それらがある一定の格子間隔を持って格子状に配列されるようにすることを意味する。必ずしも、その色画素が隣接することを必須とはしない。なお、色画素が隣接する配置態様を採った場合の典型例としては、赤外光の画素とその他の色画素の正方形を互い違い並べた碁盤目模様(市松模様)となるようにする配置態様がある。あるいは、可視光の原色系RGBまたは補色系CyMgYe画素の内の1つの画素とその他の色画素の正方形を互い違い並べた碁盤目模様(市松模様)となるようにする配置態様がある。
<原色フィルタへの適用例>
たとえば、RGB原色フィルタを用いつつ可視光カラー画像の解像度低下を抑えるには、可視光領域のGの画素の配置密度を維持し、可視光領域の残りのRもしくはBの画素を、補正用の黒画素や白画素や緑色画素に置き換えるとよい。たとえば図75に示すように、2行2列の単位画素マトリクス12内において先ず、奇数行奇数列および偶数行偶数列に可視光領域の緑色成分を感知するためのカラー画素Gを配し、偶数行奇数列には補正用の黒画素(図75(A))や白画素(図75(B))や緑色画素(図示せず)を配する。
また、単位画素マトリクス12の列方向の奇数番目においては、行方向の奇数番目の単位画素マトリクス12における奇数行偶数列に可視光領域の青色成分を感知するためのカラー画素Bを配し、行方向の偶数番目の単位画素マトリクス12における奇数行偶数列に可視光領域の赤色成分を感知するためのカラー画素Rを配する。単位画素マトリクス12の列方向の偶数番目においては、カラー画素Bとカラー画素Rの配置を逆にする。全体としては、色フィルタ14の繰返しサイクルは、2×2の単位画素マトリクス12で完結することになる。
この図75に示すような配置形態の場合、可視光の原色系RGB画素の内の1つの画素Gとその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、可視光カラー画像における解像度に大きく寄与するカラー画素Gの配置密度をベイヤ配列と同じにできるので、可視光カラー画像の解像度の低下はなくなる。
ただし、カラー画素Rとカラー画素Bの配置密度はベイヤ配列に対して1/2になるのでカラー分解能が低下する。しかしながら、色に関する人間の視感度は、緑Gに比べて赤Rや青Bは劣るので、大きな問題にはならないと考えてよい。一方、補正画素を利用した赤外光画像に関しては、補正画素の配置密度が、可視光領域の緑色成分を感知するためのカラー画素Gに対して1/2になるので、分解能は可視光カラー画像よりも劣る。
たとえば、図76に示すような透過スペクトル特性を呈する黒色フィルタ14BKを用いて、図75(A)に示すような配置態様で黒色補正画素を配した、図52に示される層構造(可視光を受光する画素に対応する断面構造図は図33)のCMOS固体撮像素子(画素回路構成は図4)を図31の作製プロセス工程のようにして製造して実験をしてみたところ、3原色の可視光の高解像度カラー画像と、カラー画像よりは低解像度ではあるが比較的高解像度の赤外光の像を同時に撮像できることが分かった。
図76から分かるように、赤外光側で透過特性を呈している。そこで、黒色補正画素から得られる赤外光成分を示す信号を使って、3原色の可視光画素に混入した赤外光成分を上記式(5−1)のようにして補正することで、赤外光成分による色再現性の問題も生じなかった。このような補正をすることで赤外光のある環境下で撮像しても色再現がよく、高感度であることが確かめられた。
また、図75(B)に示すような配置態様で白色補正画素を配した、図52に示される層構造(可視光を受光する画素に対応する断面構造図は図33)のCMOS固体撮像素子(画素回路構成は図4)を図31の作製プロセス工程のようにして製造して実験をしてみたところ、3原色の可視光の高解像度カラー画像と、カラー画像よりは低解像度ではあるが比較的高解像度の赤外光と可視光とが混在した画像を同時に撮像でき、また3原色の可視光画素R,G,Bで検知される青、赤、緑の強度を減じることで、赤外光のみの画像を同時に撮像できることが分かった。
また、上記式(10−5)のようにして、白色補正画素から得られる可視光成分と赤外光成分の混合成分から赤外光成分を示す信号を抽出し(見積もり)、この抽出した赤外光成分を示す信号を使って、3原色の可視光画素に混入した赤外光成分を上記式(5−1)のようにして補正することで、赤外光成分による色再現性の問題も生じなかった。このような補正をすることで赤外光のある環境下で撮像しても色再現がよく、高感度であることが確かめられた。
また、白色補正画素から得られる可視光成分を使って、3原色の可視光画素に基づき得られる輝度信号に補正を加えることで、色再現性とは独立して、可視光カラー画像の高感度化を図ることができることも確かめられた。
また、飽和しないように、全ての画素を短い時間で露光し電荷信号を読み出し、さらに短い時間で読み取った信号を2回以上積算することで、大きい信号に変換することができ、暗い環境下で撮像しても、また明るい環境下で撮像しても、適切な感度が得られ、ダイナミックレンジが広がることを確認した。
また、図75(A)に示すような黒色補正画素と多層膜を組み合わせた構造や図75(B)に示すような白色補正画素と多層膜を組み合わせた構造は、CMOS固体撮像素子のみならず、図63に示されるようなCCD構造に作製しても同様な効果が確認された。
また、赤外光画像の解像度低下を抑えるには、たとえば図77に示すように、図75に示す可視光領域の緑色成分を感知するためのカラー画素Gと、補正用の黒画素(図77(A))や白画素(図77(B))や緑色画素(図示せず)の配置を入れ替えるとよい。この場合、補正画素としての赤外光の画素とその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、補正画素の配置密度をベイヤ配列の場合と同じにできるので、赤外光画像の解像度の低下はなくなる。ただし、可視光カラー画像における解像度に大きく寄与するカラー画素Gの配置密度は、補正画素に対して1/2になるので、可視光カラー画像は、赤外光画像の分解能よりも劣る。カラー分解能に関しては、図75の場合と同様である。
たとえば、図76に示すような透過スペクトル特性を呈する黒色フィルタ14BKを用いて、図77(A)に示すような配置態様で黒色補正画素を配したCCD固体撮像素子(画素回路構成は図3、可視光を受光する画素に対応する断面構造図は図63)を製造して実験をしてみたところ、高解像度の赤外光画像と、赤外光画像よりは低解像度ではあるが比較的高解像度の可視光カラー画像を同時に撮像できることが分かった。
図76から分かるように、赤外光側で透過特性を呈している。そこで、黒色補正画素から得られる赤外光成分を示す信号を使って、3原色の可視光画素に混入した赤外光成分を上記式(5−1)のようにして補正することで、赤外光成分による色再現性の問題も生じなかった。このような補正をすることで赤外光のある環境下で撮像しても色再現がよく、高感度であることが確かめられた。
また、図75(B)に示すような配置態様で白色補正画素を配したCCD固体撮像素子(画素回路構成は図3、可視光を受光する画素に対応する断面構造図は図63)を製造して実験をしてみたところ、高解像度の赤外光と可視光とが混在した画像を同時に撮像でき、また3原色の可視光画素R,G,Bで検知される青、赤、緑の強度を減じることで高解像度の赤外光のみの画像を撮像でき、同時に、赤外光画像よりは低解像度ではあるが比較的高解像度の可視光カラー画像を撮像できることが分かった。
また、上記式(10−5)のようにして、白色補正画素から得られる可視光成分と赤外光成分の混合成分から赤外光成分を示す信号を抽出し(見積もり)、この抽出した赤外光成分を示す信号を使って、3原色の可視光画素に混入した赤外光成分を上記式(5−1)のようにして補正することで、赤外光成分による色再現性の問題も生じなかった。このような補正をすることで赤外光のある環境下で撮像しても色再現がよく、高感度であることが確かめられた。
また、白色補正画素から得られる可視光成分を使って、3原色の可視光画素に基づき得られる輝度信号に補正を加えることで、色再現性とは独立して、可視光カラー画像の高感度化を図ることができることも確かめられた。
また、飽和しないように、白画素のみをオーバーフローを用いて短い時間で電荷を読み出し、さらに短い時間で読み取った信号を2回以上積算することで、大きい信号に変換することができ、暗い環境下で撮像しても、また明るい環境下で撮像しても、適切な感度が得られ、ダイナミックレンジが広がることを確認した。
また、図77(A)に示すような黒色補正画素と多層膜を組み合わせた構造や図77(B)に示すような白色補正画素と多層膜を組み合わせた構造は、CCD固体撮像素子のみならず、CMOS固体撮像素子構造で作製しても同様な効果が確認された。
図78は、可視光カラー画像に対する補正用の画素を設ける場合における他の画素配列を説明する図である。この変形態様は、補正用の画素に配する色フィルタの色を複数組み合わせる点に特徴を有する。たとえば、図78に示す例では、第1具体例と第2具体例とを組み合わせており、補正用の画素として黒色フィルタ14BKと白色フィルタ14Wとを単位画素マトリクス12に対して交互に配している。ここで、図78(A)は図61と図68との組合せ、図78(B)は図75(A),(B)の組合せ、図78(C)は図77(A),(B)の組合せである。
このような組合せの配置態様とすることで、たとえば白色補正画素12Wは主に高感度化のために使用し、黒色補正画素12BKは色補正のために使用することができる。もちろん、白色補正画素12Wを色補正のために使用することもできる。
<補色フィルタへの適用例>
また、CyMgYe補色フィルタを用いつつ可視光カラー画像の解像度低下を抑えるには、可視光領域のMgの画素の配置密度を維持し、可視光領域の残りのRもしくはBの画素を、補正用の黒画素や白画素や緑色画素に置き換えるとよい。たとえば図79に示すように、2行2列の単位画素マトリクス12内において、先ず、奇数行奇数列および偶数行偶数列に可視光領域のマゼンタ色成分を感知するためのカラー画素Mgを配し、偶数行奇数列には補正用の黒画素(図79(A))や白画素(図79(B))やマゼンタ色画素(図示せず)を配する。なお、マゼンタ色Mgの内の一方を緑色Gに置き換えることもできる。
この場合、可視光の補色系CyMgYe画素の内の1つの画素Mgとその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、可視光カラー画像における解像度に大きく寄与するカラー画素Mgの配置密度をベイヤ配列と同じにできるので、可視光カラー画像の解像度の低下はなくなる。
なお、カラー画素Cyとカラー画素Yeの配置密度はカラー画素Mgの配列に対して1/2になるのでカラー分解能が低下するが、色に関する人間の視感度は低く大きな問題にはならないと考えてよい。また、補正画素を利用した赤外光画像に関しては、補正画素(赤外光画素)の配置密度が、可視光領域のマゼンタ色成分を感知するためのカラー画素Mgに対して1/2になるので、分解能は可視光カラー画像よりも劣る。
また、赤外光画像の解像度低下を抑えるには、たとえば図80に示すように、可視光領域のマゼンタ色成分を感知するためのカラー画素Mgと、補正用の黒画素(図80(A))や白画素(図80(A))やマゼンタ色画素(図示せず)の配置を入れ替えるとよい。この場合、補正画素としての赤外光の画素とその他の色画素の正方形を互い違い並べた市松模様の配置態様を採用しており、補正画素の配置密度をベイヤ配列の場合と同じにできるので、赤外光画像の解像度の低下はなくなる。ただし、可視光カラー画像における解像度に大きく寄与するカラー画素Mgの配置密度は、補正画素に対して1/2になるので、可視光カラー画像は、赤外光画像の分解能よりも劣る。カラー分解能に関しては、図79の場合と同様である。
なお、解像度低下を抑えるための上記の配置態様例では、緑色Gまたはマゼンタ色Mgの画素をできるだけ高密度でモザイク模様(定型例としての市松模様)となるように配置していたが、その他の色(R,BまたはCy,Ye)の画素を市松模様となるように配置しても、ほぼ同様の効果を得ることができる。もちろん、解像度や色分解能を高める上では、視感度の高い色成分のフィルタをできるだけ高密度でモザイク模様となるように配置するのが好ましい。
<斜め配置への適用例>
なお、上記例では、正方格子状に色フィルタを配置する事例を説明したが、斜め格子状に配列することもできる。たとえば、図81(A)に示す配置態様は、図75(B)に示す配置態様を、右回りに略45度だけ回転させた状態の画素配列になっている。また図81(B)に示す配置態様は、図77(B)に示す配置態様を、右回りに略45度だけ回転させた状態の画素配列になっている。このように、斜め格子状に配列すると、垂直方向と水平方向の各画素密度が増すことになり、その方向での解像度をさらに高くすることができるのである。
<<実験例;黒色補正画素>>
図82〜図93は、黒色補正画素を用いて、可視光カラー画像の色再現性を補正する仕組みの実験例を説明する図である。
先ず、図82は、黒色補正画素を適用する場合に実験で用いた白黒カメラの概要を示す図である。この実験例では、ソニー(株)の白黒カメラXCL-X700をベースに、色フィルタを追加することで実験を行なった。白黒カメラXCL-X700(以下実験用カメラともいう)の基本的な性能は、たとえば、1/2インチ型,全画素読出し(プログレッシブ)のもので、有効画素数1034×779、撮像画素数1024×768、画素サイズ6.25umとなっている。
図83は、実験用カメラと色フィルタの分光感度特性図である。図中の全波長画素は、白黒用の実験用カメラの特性そのものである。また、R,G,Bの各画素は、実験用カメラにR,G,Bの各色フィルタを配置した場合のものであって、重付けの補正を加えた結果を示している。
図84は、G色および赤外光カットフィルタと補正画素に用いる黒色フィルタの各透過スペクトル図である。赤外光カットフィルタの理想的な透過特性は、可視光領域(波長700nm未満)では“1”、赤外光領域(波長700nm以上)では“0”であるが、図示するように、可視光領域では若干のロスがあるし、赤外光領域でも若干の透過がある。
このため、G色の透過スペクトルは、赤外光カットフィルタの有無により、透過率が若干異なる(当然に赤外光カットフィルタ無しの方が透過率が高い)。また、赤外光カットフィルタ無しの場合、赤外光領域で若干の透過、すなわち赤外光の漏れ成分(IR漏れ光)が存在する。この赤外光の漏れ成分は、黒色フィルタを使うことで、可視光成分と分離して取得できることになる。
図85は、測色の指標として使用するマクベスチャートにおける色票番号(1サイクル;24色分)の対応を示す図である。また図86は、実験用カメラと緑色フィルタGを用いてマクベスチャートを撮像して得た生の画像データに基づく画像(ローデータ画像)を示す図である。撮像条件としては、光源として20W白熱電球と蛍光灯とを用い、実験用カメラのレンズF2.8に対して絞りをf2.8、シャッタースピードを1/2.8秒とした。
ここで、図86(A)は赤外光カットフィルタを用いない場合の緑色画像G(IRカット無し)であり、図86(B)は赤外光カットフィルタを用いた場合の緑色画像G(IRカット有り)であり、図86(C)はその差分画像、すなわち緑色フィルタGの赤外光漏れ成分の画像である。図87は、図86に示した撮像結果の、マクベスチャートの色票番号ごとに信号レベル(実測値)を表わした図である。
図86の各図の比較あるいは図87から分かるように、マクベスチャートの各色票を撮像したG色フィルタ画素出力の信号レベルが、赤外光カットフィルタの有無によって異なっている。
図88は、実験用カメラと補正画素としての黒色フィルタBKを用いてマクベスチャートを撮像して得た生の画像データに基づく画像(ローデータ画像)を示す図である。撮像条件は、図86の場合と同じである。ここで、図88(A)は黒色フィルタBKの画像(黒色フィルタ画像Br)であり、図88(B)は比較例としての、緑色フィルタGの赤外光漏れ成分の画像(図86(C)と同様のもの)である。
図89は、黒色フィルタ画像Brに所定の係数αGを掛けた黒色補正画像Brcorrを示す図である。撮像条件は、図86の場合と同じである。ここで、図89(A)は係数αG=0.18の場合の黒色補正画像Brcorrであり、図89(B)は比較例としての、緑色フィルタGの赤外光漏れ成分の画像(図86(C)と同様のもの)である。
この両者の画像を比べると分かるように、マクベスチャートの各色票の信号レベルが何れも概ね同じ状態となっている。つまり、緑色フィルタGの出力に現われる赤外光の漏れ成分を黒色フィルタBKを使うことで可視光成分と分離して取得できている。したがって、図86(B)に示した緑色画像G(IRカット有り)の画像と黒色補正画像Brcorrとの差分をとることで緑色補正済画像G*が得られ、赤外光カットフィルタを用いなくても、緑色画像から赤外光漏れ成分を除去できる。
たとえば、図90および図91は、黒色補正画像を用いたG色画像に対する補正効果の一例を示している。ここで図90(A)は緑色画像G(IRカット無し)(図86(A)と同様のもの)であり、図90(B)は緑色画像G(IRカット有り)(図86(B)と同様のもの)であり、図90(C)は緑色画像G(IRカット無し)と黒色補正画像Brcorrとの差分画像すなわち緑色補正済画像G*である。また、図91は、図90(C)に示した差分結果(緑色補正済画像)の、マクベスチャートの色票番号ごとに信号レベル(実測値)を表わした図である。
図90(A)と図90(C)の比較あるいは図91から分かるように、マクベスチャートの各色票の信号レベルが何れも概ね同じ状態となっている。つまり、赤外光カットフィルタを用いなくても緑色画像から赤外光漏れ成分を概ね除去できている。赤外光カットフィルタを用いなくても、赤外光カットフィルタを用いた場合とほぼ同等の信号を取得することができるので、赤外光カットフィルタを用いた場合とほぼ同等の、十分な色再現性の可視光カラー画像を取得できる。
ただし、図91から分かるように、赤外光カットフィルタがある場合との差が若干ではあるが存在する。この差は、図84 に示したように、G色の可視光領域での透過スペクトルが赤外光カットフィルタの有無により差を持つことが原因であると考えられる。よって、この影響を補正するには、単純に緑色画像G(IRカット無し)と黒色補正画像Brcorrとの差分をとるのではなく、予め緑色画像G(IRカット無し)に対して感度補正を加えておくのがよいと考えられる。この感度補正に当たっては、黒色フィルタBKの画素信号を用いるのがよい。
つまり、この場合の補正演算に当たっては、式(5−1)のように、本来の可視光波長領域における各色信号成分に赤外光の漏れ信号成分が加わった色信号成分SCy,SMg,SYe,SGから赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算するだけでなく、式(5−2)のように、色信号成分SCy,SMg,SYe,SGに対して予め赤外光信号成分SIRに所定の係数εR,εG,εBを掛けた値で感度補正を加えておき、この感度補正が加えられたものから赤外光信号成分SIRに所定の係数αR,αG,αBを掛けた補正信号成分を減算することで、高精度な補正を行なうようにするとよい。
たとえば、図92および図93は、その高精度な補正効果の一例を示している。ここで図92(A)は緑色画像G(IRカット有り)(図86(B)と同様のもの)であり、図92(B)は式(5−2)に従って係数αG=0.11、εG≒0.0012として高精度な補正を行なった場合の緑色補正済画像G**である。また、図93は、図92(B)に示した差分結果(緑色補正済画像G**)の、マクベスチャートの色票番号ごとに信号レベル(実測値)を表わした図である。
図92(A)と図92(B)の比較あるいは図93から分かるように、マクベスチャートの各色票の信号レベルが何れも殆ど同じ状態となっている。つまり、赤外光カットフィルタを用いなくても緑色画像から赤外光漏れ成分を殆ど除去できている。赤外光カットフィルタを用いなくても緑色画像から赤外光漏れ成分をほぼ完全に除去できることになる。赤外光カットフィルタを用いなくても、赤外光カットフィルタを用いた場合と同等の信号を取得することができるので、赤外光カットフィルタを用いた場合と同等の、十分な色再現性の可視光カラー画像を取得できる。
たとえば白色補正画素12Wから得られる信号SWには、赤外光成分だけでなく可視光成分も含まれるので、この可視光成分の信号SVLを使って、可視光カラー画像撮像用の原色フィルタ14R,14G,14Bが配された画素に基づき得られる輝度信号に補正を加える(実際には加算演算処理を行なう)ことで、色再現性とは独立して、可視光カラー画像の高感度化を図ることもできる。
<<実験例;白色補正画素>>
図94〜図101は、白色補正画素を用いて、可視光カラー画像の色再現性を補正する仕組みの実験例を説明する図である。
先ず、図94は、白色補正画素を適用する場合での実験時の環境条件を示す図である。この実験例では、ソニー(株)の白黒カメラXCX495M(以下実験用カメラともいう)をベースに、R,G,Bの原色フィルタを追加することで原色画素12R,12G,12Bを設けるとともに、擬似MLTフィルタを設けることで白色補正画素12Wを構成して実験を行なった。また、白色補正画素12Wを設けることの効果を検証するべく、擬似MLTフィルタに代えてIRカットフィルタ(C5000)有りと無しとを切り替えるようにもした。
ここで、「擬似MLTフィルタ」とは、Si3N4/SiO2多層膜(5周期)の透過特性にほぼ等しいIRカットフィルタであり、(株)大真空製のC5000のフィルタの厚みが1.6mmに対して0.4mmの薄いものである。
なお、白色補正画素12Wを設ける場合の画素配列としては、前述の図68(A),図75(B),図77(B)などのものとすることができる。
また、色温度2600K,2800K,3000Kの3種類のハロゲンランプと、色温度3000〜7000Kの3種類の蛍光灯ECW(具体的には昼光色,昼白色,電球色の各蛍光灯)とを光源条件として、測色の指標として使用するマクベスチャートと解像度評価用の解像度チャートとを撮像した。
図95は、通常のIRカットフィルタC5000と、擬似MLTフィルタの透過特性を示す図である。図から分かるように、IRカットフィルタC5000に代えて擬似MLTフィルタを用いることで、可視光帯の全波長成分を十分な強度で透過させることができるとともに、赤外光帯では、R,G,Bの原色フィルタの透過強度に比べて十分な強さで透過させる特性にすることができる。
図96は、実験用カメラと擬似MLTフィルタを適用した場合の色フィルタの分光感度特性図である。図から分かるように、擬似MLTフィルタを適用した場合、赤外光領域(波長700nm以上)では、R,G,Bの原色フィルタ成分に、赤外光(IR)の漏れ成分(IR漏れ光)が存在する。
図97は、全体の処理手順を示すフローチャートである。IRカットフィルタC5000を用いた場合と擬似MLTフィルタを用いた場合との違いは、赤外光補正処理部342にての前述の式(5)や式(12)を適用した色補正演算処理(S104)が存在するか否かだけである。
すなわち、撮像信号処理部330は、先ず実験用カメラより生の撮像信号( raw出力)を取得する(S100)。前処理部332は、実験用カメラから出力された生の撮像信号、すなわちセンサ出力信号(可視光撮像信号SVL(詳しくはR,G,Bの各色成分SR,SG,SB)および赤外光撮像信号SIR)に対して黒レベル調整やゲイン調整やガンマ補正などの前処理を行なう(S102)。この後、擬似MLTフィルタを用いた場合には、画像信号処理部340の赤外光補正処理部342は、式(5)や式(12)を適用した色補正演算処理を実行する(S104)。
さらに、画像信号処理部340は、ホワイトバランス(WB)用の規格化処理(S106)や明度信号の規格化処理(S108)を実行することで、ビットマップデータを取得する(S110)。そして、評価用の色データを取得する(S120)。
評価用の色データを取得する(S120)に当たっては、先ず、R,G,B信号(ここではsRGB信号)を線形化処理し(S122)、CIE(Commission Internationale d'Eclairage )で1931年に採択された等色関数x(λ),y(λ),z(λ)に基づく3色表色系のXYZ表色系信号に変換する(S124)。さらに、CIEが1976年に定めた均等色空間のひとつであるLab表色系の色信号に変換する(S126)。
このようにして、IRカットフィルタC5000を用いた場合と擬似MLTフィルタを用いた場合のそれぞれでLab信号を取得したら、それぞれ前記式(4)に従って色差ΔEabを求め、それぞれの色差を比較する(S130)。
式(5)や式(12)を適用する場合の各係数α,β,γは、ニュートン法を用いて誤差が小さくなるように算術計算で求めるが、ここでは、一例として、α,γは、下記式(16−1)であるものとする。また、式(12)を適用する場合の各係数ω,ηは、下記式(16−2)であるものとする。
式(16−2)では、原色系フィルタの実験用カメラを測定した結果を元に、最も色差が小さくなるように係数を求めたものであり、ωR,ωGの値が“0”であるが、係数は、デバイスに固有なものであるため、デバイスごとに値が異なってくるので、別のデバイスの場合、“0”でないこともある。
図98は、ハロゲン光源(色温度3000K)の環境下でマクベスチャートの24色を撮影して、演算で補正前後の色差を求めた結果を示す図である。この図98は、補正をしてないときの色差と、式(5)を適用した線形項のみでの補正演算による色差と、式(12)を適用した非線形項も含む補正演算による色差とを比較できるようにグラフ化した図である。ここで、横軸はマクベスチャートの各色の番号を表している。
図98から分かるように、補正前の平均色差7.36に対して、補正後の平均色差は、式(5)を適用した場合には3.95が限界である。しかしながら、さらに式(5)を改善して式(12)を適用して非線形項を用いた補正を加えることで、3.01とさらに色差を減少することができ、色再現を改善することができることが分かる。
図99は、ハロゲン光源(色温度3000K)の他、色温度2600K,2800Kの2種類のハロゲンランプと、昼光色,昼白色,電球色の3種類の蛍光灯とについて、色差の測定結果を纏めた図表である。ここでは、補正なしの場合と式(12)を適用した補正ありの場合を示している。
図99から分かるように、何れの光源下においても、式(12)を適用して非線形項を用いてIR漏れ光に対する補正を行なうことで、平均色差を補正前に比べて十分に小さくすることができる。ハロゲン光源(色温度2800K)の場合でも、ΔEab=4.064<5とすることができ、可視光成分に赤外光の入射分があっても式(12)を適用した補正によって十分な色再現が可能であることが分かる。なお、ハロゲン光源(色温度2600K)の場合には、ΔEab=6.14>5であり、色再現性に問題は残る。
<ノイズについて>
なお、式(5)や式(12)などを適用して補正演算を行なうと、この補正演算に伴うノイズ(S/N)劣化が懸念される。しかしながら、実験によれば、問題のないことが分かった。以下、この点について説明する。
先ず、式(5)を適用した場合のノイズNは、A色成分(ここではA色は白色に相当する),R色成分,G色成分,B色成分の間に相関性がないと仮定して、下記式(17)に示すように、分散σの相乗平均計算で求めることができる。
また、式(12)を適用した場合は、各係数ω,ηが前記式(16−2)である場合、赤外光成分IRと青色成分Bとは下記式(18)に示すようになる。
したがって、たとえば、青色成分Bについては、下記式(19)が得られ、青色成分BについてのノイズNB* は、式(19)の左辺にルートをとることで求めることができる。なお、式(19)と式(17)との間には、σb1=NB* ,σa=NA,σr=NR,σg=NG,σb=NBの関係がある。
図100および図101は、ハロゲン光源(色温度3000K)と蛍光灯とについて、ノイズの見積もり値と実測値とを纏めた図表である。図100および図101から分かるように、通常のIRカットフィルタC5000を用いた場合に対して、式(12)を適用して非線形項を用いてIR漏れ光に対する補正を行なった場合、ハロゲン光源(色温度3000K)では−0.530dB(見積),−0.784dB(実測)、蛍光灯では+2.854dB(見積),+0.383dB(実測)となり、何れの光源下でも、ノイズ劣化はさほど問題にならないことが確認された。
1…誘電体積層膜、10…分光フィルタ、11…分光イメージセンサ、12…単位画素マトリクス、14…色フィルタ、101…CCD固体撮像素子、122…垂直転送CCD、124…読出ゲート、126…水平転送CCD、128…出力アンプ、201…CMOS固体撮像素子、205…画素内アンプ、207…駆動制御部、219…垂直信号線、226…カラム処理部、300…撮像装置、302…撮影レンズ、304…光学ローパスフィルタ、310…撮像部、312…色フィルタ群、314…固体撮像素子、320…駆動部、330…撮像信号処理部、332…前処理部、334…AD変換部、336…補正処理部、340…画像信号処理部、342…赤外光補正処理部、344…輝度信号処理部、346…色信号処理部、348…赤外信号処理部、360…画像切替制御部、501…回折格子、502…散乱体、510…分光イメージセンサ、611…撮像素子、624…色フィルタ