JP2009117976A - 撮像装置 - Google Patents
撮像装置 Download PDFInfo
- Publication number
- JP2009117976A JP2009117976A JP2007286324A JP2007286324A JP2009117976A JP 2009117976 A JP2009117976 A JP 2009117976A JP 2007286324 A JP2007286324 A JP 2007286324A JP 2007286324 A JP2007286324 A JP 2007286324A JP 2009117976 A JP2009117976 A JP 2009117976A
- Authority
- JP
- Japan
- Prior art keywords
- image
- visible light
- filter element
- imaging
- images
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G03—PHOTOGRAPHY; CINEMATOGRAPHY; ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ELECTROGRAPHY; HOLOGRAPHY
- G03B—APPARATUS OR ARRANGEMENTS FOR TAKING PHOTOGRAPHS OR FOR PROJECTING OR VIEWING THEM; APPARATUS OR ARRANGEMENTS EMPLOYING ANALOGOUS TECHNIQUES USING WAVES OTHER THAN OPTICAL WAVES; ACCESSORIES THEREFOR
- G03B19/00—Cameras
- G03B19/02—Still-picture cameras
- G03B19/04—Roll-film cameras
- G03B19/07—Roll-film cameras having more than one objective
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/133—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements including elements passing panchromatic light, e.g. filters passing white light
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N25/00—Circuitry of solid-state image sensors [SSIS]; Control thereof
- H04N25/10—Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
- H04N25/11—Arrangement of colour filter arrays [CFA]; Filter mosaics
- H04N25/13—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements
- H04N25/135—Arrangement of colour filter arrays [CFA]; Filter mosaics characterised by the spectral characteristics of the filter elements based on four or more different wavelength filter elements
Landscapes
- Physics & Mathematics (AREA)
- Spectroscopy & Molecular Physics (AREA)
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- General Physics & Mathematics (AREA)
- Color Television Image Signal Generators (AREA)
- Studio Devices (AREA)
- Cameras In General (AREA)
- Stereoscopic And Panoramic Photography (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Measurement Of Optical Distance (AREA)
Abstract
【課題】コンパクトな構成でありながら、複数の波長域にそれぞれ対応した複数の測距用画像を得ることができることができる撮像装置を提供する。
【解決手段】撮像装置100は、光軸が互いに略平行である複数のレンズ10a、10bと、異なる複数の透過波長特性にそれぞれ対応する複数のフィルタ要素群が順次配列された複合フィルタ30と、複数のレンズ10a、10bがそれぞれ結像する複数の像を、複合フィルタ30を介して撮像する一の撮像素子20と、撮像素子20で撮像された複数の画像を用いて測距演算を行う測距演算部53とを備え、測距演算部53は、複数のフィルタ要素群の各々を介して得られた複数の画像から、複数の透過波長特性にそれぞれ対応する複数の視差情報を算出する。
【選択図】図1
【解決手段】撮像装置100は、光軸が互いに略平行である複数のレンズ10a、10bと、異なる複数の透過波長特性にそれぞれ対応する複数のフィルタ要素群が順次配列された複合フィルタ30と、複数のレンズ10a、10bがそれぞれ結像する複数の像を、複合フィルタ30を介して撮像する一の撮像素子20と、撮像素子20で撮像された複数の画像を用いて測距演算を行う測距演算部53とを備え、測距演算部53は、複数のフィルタ要素群の各々を介して得られた複数の画像から、複数の透過波長特性にそれぞれ対応する複数の視差情報を算出する。
【選択図】図1
Description
本発明は、複数の画像を用いて測距演算を行う機能を備えた撮像装置に関する。
デジタルカメラやデジタルビデオカメラ等の撮像装置は、光学レンズ等の光学ブロックを通して、被写体の情報をCCD(Charge Coupled Device)やCMOS(Complementary Metal Oxide Semiconductor)等の撮像素子で撮像することにより、被写体の2次元画像情報を取得する。
また、3次元情報を取得するために、互いにずらして配置された複数の撮像装置により撮像される複数の画像を用いて測距演算を行う技術が知られている。測距演算では、周知のように画像間の視差情報が算出され、視差情報から被写体までの距離が算出される。
ただし、上記の従来技術では、複数の撮像装置を備えるために装置規模が大きくなる。これに対して、特許文献1は、複数の光学ブロックと一つの撮像素子とを備えた複眼タイプの撮像装置を開示している。複数の光学ブロックが複数の像を一つの撮像素子上で隣り合う2つの領域に形成する。この一つの撮像素子が複数の画像信号を形成し、それら複数の画像を用いて測距演算が行われる。一つの撮像装置で測距を行うことができるので、測距のための構成をコンパクトにできる。
また、従来から複数の波長に対応した撮像システムとして、異なる撮像環境下で撮像できる撮像装置が知られている。複数の波長は典型的には可視光と近赤外光である。例えば車両周辺の撮影用の撮像システムにおいて、可視光の像を撮像する撮像装置と、非可視光(典型的には近赤外光)の像を撮像する撮像装置とを備え、これらを照明環境に合わせて切り換えるものが知られている。また、可視光撮影と近赤外光撮影の切換は、複数種類の被写体の撮像にも有用である。例えば撮像装置を検出用のセンサに用いる場合のように、可視光の像から物体を検出する撮像装置と、近赤外光の像から物体を検出する撮像装置とを備え、被写体に応じて撮像装置を切り換えるものが知られている。近赤外光の像から検出される被写体は例えば体内器官や虹彩等であり、この種の技術は医療用カメラとしても有用である。
特開2003−143459号公報
しかしながら、特許文献1に記載の撮像装置は可視光下でしか用いることができず、撮像環境や被写体が制限されてしまう。これに対し、上述の可視光と近赤外光に対応する撮像システムのように、互いに異なる波長に対応した複数の撮像装置を切り換えることも可能であるが、搭載スペースを多く必要とし、取り付け方法も煩雑化し、部品点数も増えてコストが高くなるという問題があった。また、可視光用および非可視光用の光学フィルタを切り換える機構を設けることも考えられるが、対振動耐久性に乏しく、撮像装置が大きくなってしまうという問題もあった。
本発明は、上記従来の問題を解決するためになされたもので、コンパクトな構成でありながら、複数の波長域にそれぞれ対応した複数の画像を得ることができ、これらの画像から正確に視差情報を算出することができる撮像装置を提供することを目的とする。
本発明に係る撮像装置は、光軸が互いに略平行である複数の光学ブロックと、異なる複数の透過波長特性にそれぞれ対応する複数のフィルタ要素群が順次配列された複合フィルタと、前記複数の光学ブロックがそれぞれ結像する複数の像を、前記複合フィルタを介して撮像する一の撮像素子と、前記撮像素子で撮像された前記複数の画像を用いて測距演算を行う測距演算部とを備え、前記測距演算部は、前記複数のフィルタ要素群の各々を介して得られた複数の画像から、前記複数の透過波長特性にそれぞれ対応する複数の視差情報を算出する構成を有している。
この構成により、透過波長特性が異なる複数のフィルタ要素群からなる複合フィルタを設けて、複数の光学ブロックの各々が結像する複数の像を、複合フィルタを介して一の撮像素子により撮像する。従って、複数の光学ブロックと一の撮像素子を備える構成により、各々の透過波長特性に対応した複数の画像を得ることができる。そして、視差算出部が、撮像素子で撮像された複数の画像から、複数の透過波長特性にそれぞれ対応する複数の視差情報を算出する。この結果、コンパクトな構成でありながら、複数の波長域にそれぞれ対応した複数の画像を得ることができ、これらの画像から正確に視差情報を算出することができる。
また、本発明に係る撮像装置は、前記撮像素子により撮像された画像を、前記複数のフィルタ要素群の各々を介して得られた画像毎に分離する分離部を備えた構成を有している。
これにより、撮像素子により撮像された画像を、各透過波長特性に対応した画像毎に分離することができ、複数の波長域にそれぞれ対応した複数の画像を得ることができる。
また、本発明に係る撮像装置において、前記複合フィルタは、少なくとも可視光線域の光を透過する可視光透過フィルタ要素群と、可視光線域以外の波長の光を透過する非可視光透過フィルタ要素群とを有し、前記測距演算部は、前記可視光透過フィルタ要素群を介して前記撮像素子により得られる複数の可視光画像から前記視差情報を算出し、前記非可視光透過フィルタ要素群を介して前記撮像素子により得られる複数の非可視光画像から前記視差情報を算出する構成を有している。
この構成により、可視光透過フィルタ要素群と非可視光透過フィルタ要素群からなる複合フィルタを介して、撮像素子より複数の像を撮像するので、可視光および近赤外光等の非可視光の光学特性を持った画像を一の撮像素子から得ることができる。従って、コンパクトな構成でありながら、可視光および非可視光の波長に対応した複数の画像を得て、これらの画像から視差情報を算出することができる。
また、本発明に係る撮像装置において、前記非可視光透過フィルタ要素群は、近赤外線域の光を透過する構成を有している。
これにより、可視光および近赤外光の光学特性に持った可視光画像および近赤外光画像を得ることができ、コンパクトな構成でありながら、可視光および近赤外光の波長に対応した複数の画像を得て、これらの画像から視差情報を算出することができる。
また、本発明に係る撮像装置において、前記可視光透過フィルタ要素群は、カラーフィルタにより構成されている。
この構成により、可視光透過フィルタ要素群はカラーフィルタにより構成されるので、非可視光の光学特性を持った非可視光画像(近赤外光画像等)とともに、可視光の光学特性を持った可視光画像としてカラー画像を得ることができる。これにより、被写体の色判定が可能なカラー画像と、非可視光撮影による特徴的な画像と、視差情報とを得ることができる。非可視光撮影による特徴的な画像は、例えば近赤外光撮影による皮下組織の画像であり、これにより、本発明を医療分野の内視鏡等に適用して、撮像機能や測定機能の向上を図ることができる。
また、本発明に係る撮像装置において、前記複数の光学ブロックは、光軸間を結ぶ基線が交差するように配置された少なくとも3つの光学ブロックを含み、前記測距演算部は、前記基線が異なる複数の光学ブロック対を介して得られる複数の画像対からそれぞれ算出される複数の視差情報に基づいて、測距演算結果を求める構成を有している。
この構成により、互いに交差する複数の基線に対応する視差情報を得ることができ、これら複数の視差情報に基づいて最終的な測距演算結果を透過波長特性毎に算出するので、より正確な測距情報を得ることができる。
また、本発明に係る撮像装置は、前記複数の光学ブロックとして、第1および第2のレンズ対を備え、前記第1のレンズ対の画角は、前記第2のレンズ対の画角よりも大きい構成を有している。
これにより、異なる画角のレンズ対(例えば広角レンズ対、狭角(望遠)レンズ対)で複眼レンズが構成され、視野が広い画像対と狭い画像対を1つの撮像素子で撮像することができ、これらの画像対に基づいた複数の視差情報等の測距情報を得ることができる。従って、視野が広い画像を用いて被写体全体を大まかに把握しつつ、視野が狭い画像を用いて被写体の特定部分を高精度に検証したい場合に好適である。
また、本発明に係る撮像装置は、前記複数の光学ブロックとして、第1および第2のレンズ対を備え、前記撮像素子は、前記第1のレンズ対が像を形成する画像領域と、前記第2のレンズ対が像を形成する画像領域とで、画素の大きさが互いに異なる構成を有している。
これにより、互いに解像度が異なる複数の画像対を得ることができ、これらの画像対に基づいた複数の視差情報等の測距情報を得ることができる。撮像する被写体の形状や大きさ等に応じて、高解像度または低解像度の画像対を使い分けて、これらの画像対から視差情報等の測距情報を得ることができる。
また、本発明に係る撮像装置において、前記測距演算部は、算出された前記複数の視差情報に基づいて、被写体までの距離情報を算出する構成を有している。この構成により、被写体までの距離情報を視差情報に基づいて算出することができる。
また、本発明に係る撮像装置は、前記複数の光学ブロックの温度を測定する温度測定部を備え、前記温度測定部の測定結果に応じて、前記測距演算を行う構成を有している。
この構成により、複数の光学ブロックの温度測定結果に応じて、測距演算を行うので、温度変化によって各光学ブロックの光学特性が変化した場合に、当該光学特性の変化が及ぼす測距演算の誤差を適正に補正して、これらの情報を算出することができる。
本発明は、異なる複数の透過波長特性にそれぞれ対応する複数のフィルタ要素群が順次配列された複合フィルタを備え、複数の光学ブロックがそれぞれ結像する複数の像を、複合フィルタを介して一の撮像素子により撮像し、複数のフィルタ要素群の各々を介して得られた複数の画像から複数の視差情報を算出するので、コンパクトな構成でありながら、複数の波長域に対応した複数の画像を得ることができ、これらの画像から正確に視差情報を算出することができるという効果を有する撮像装置を提供することができるものである。
(第1の実施の形態)
以下、本発明の第1の実施の形態に係る撮像装置について、図面を用いて説明する。本実施の形態の撮像装置は、例えば医療用カメラであり、内視鏡に用いられてよい。
本発明の第1の実施の形態の撮像装置100の構成を図1に示す。図1に示されるように、撮像装置100は、光学ブロックアレイとしてのレンズアレイ10と、撮像素子20と、複合フィルタ30と、前処理部40と、信号処理部50と、駆動処理部60と、外部接続システム70とを備えている。
以下、本発明の第1の実施の形態に係る撮像装置について、図面を用いて説明する。本実施の形態の撮像装置は、例えば医療用カメラであり、内視鏡に用いられてよい。
本発明の第1の実施の形態の撮像装置100の構成を図1に示す。図1に示されるように、撮像装置100は、光学ブロックアレイとしてのレンズアレイ10と、撮像素子20と、複合フィルタ30と、前処理部40と、信号処理部50と、駆動処理部60と、外部接続システム70とを備えている。
レンズアレイ10は一対のレンズ10a、10bを備えている。一対のレンズ10a、10bの光軸は互いにほぼ平行になるように配置されている。レンズ10a、10bは本発明の構成要件である光学ブロックに相当しており、本発明においては、複数の光学系が一体成型されてもよく、複数の光学系が一体に取り付けられてもよい。撮像素子20はレンズ10a、10bがそれぞれ結像する2つの像を撮像する。撮像素子20はCCD(Charge Coupled Device)により構成される。なお、撮像素子20は、MOS(Metal Oxide Semiconductor)型撮像素子であってもよい。
一対のレンズ10a、10bと撮像素子20との配置関係について、図2に基づいて説明する。図2に示されるように、撮像素子20の受光面には領域Aと領域Bが設けられている。レンズ10a、10bをレンズA、Bとすると、レンズAが結像する像を領域Aにて受光し、レンズBが結像する像を領域Bにて受光する。撮像素子20は、受光面の各領域A、Bで受光する像を撮像する。
複合フィルタ30は、異なる複数の透過波長特性にそれぞれ対応する複数のフィルタ要素群が順次配列されて構成されている。複合フィルタ30は撮像素子20上に設けられ、これにより、レンズアレイ10および撮像素子20の間に位置している。複合フィルタの具体例を図3(a)、(b)に例示する。図3(a)の例においては、複合フィルタ30Aは、可視光透過フィルタ要素群31および非可視光透過フィルタ要素群32を有している。これらフィルタ要素群31、32を構成するフィルタ要素が互い違いに千鳥模様状に配列されている。本実施の形態では非可視光が赤外光である。図3(b)の例においては、複合フィルタ30Bは、可視光透過フィルタ要素群31および非可視光透過フィルタ要素群32の各フィルタ要素が垂直方向(紙面上下方向)に交互に縞模様状に配列されている。フィルタ要素群31、32の各フィルタ要素は、撮像素子20の各画素に対応して配置されている。
一対のレンズ10a、10bがそれぞれ結像する像は、複合フィルタ30の各フィルタ要素群31、32を介して、撮像素子20により撮像される。また、上述の通り、撮像素子20の撮像領域Aにてレンズ10aが結像する像が撮像され、撮像素子20の撮像領域Bにてレンズ10bが結像する像が撮像される。このとき、レンズAおよびレンズBが結像する像の光の各々は、複合フィルタ30のフィルタ要素群31、32の双方を透過して、撮像素子20の受光面に入射する。なお、複合フィルタ30は、撮像素子20の受光面上に一体に取り付けられたオンチップフィルタであることが好ましい。これにより、構成をよりコンパクトにすることができ、また、複合フィルタ30の各フィルタ要素を撮像素子20の各画素に正確に対応させて配置することができる。
可視光透過フィルタ要素群31は少なくとも可視光線域(λ(以下、波長を表す記号とする。)=約380nm〜約780nm)の光を通すように形成されており、非可視光透過フィルタ要素群32は可視光以外の波長の光を通すように形成されている。
非可視光透過フィルタ要素群32の透過波長特性の例を図4に示す。図4に示されるように、非可視光透過フィルタ要素群32は、約800nm以下の波長の光を透過せず、約800nm以上の波長の光を透過する特性を有する。近赤外線域の波長は約700nm〜約2500nmであり、従って、非可視光透過フィルタ要素群32は近赤外線域の光を透過する。
前処理部40は、例えば相関二重サンプリング回路(以下、CDS(Correlated Double Sampling)回路とする)、自動利得補正回路(以下、AGC(Auto Gain Control)回路とする)およびADコンバータ回路(以下、ADC(Analog/Digital Converter)回路とする)等により構成されている。CDS回路では撮像素子20による撮像画像の雑音を除去し、AGC回路ではCDS回路からの信号に対してAGCのアナログ信号処理を行い、ADC回路ではAGC回路からのアナログ信号をデジタル信号に変換する。
信号処理部50は、前処理部40から出力される画像信号に対して様々な信号処理を施して、外部接続システム70へ出力するための出力用の画像信号を生成する回路群である。信号処理部50は、分離補正部51と、画像信号処理部52と、測距演算部53と、出力切替部54と、カメラ設定用パラメータ保持部55と、露光制御部56とを備えている。
分離補正部51は、撮像素子20により撮像された画像を、複数のフィルタ要素群の各々を介して得られた画像毎に分離して、欠損部分の画素を補完することにより補正処理を行う。具体的には、例えば複合フィルタ30Aまたは30Bを用いた場合、撮像素子20で生成される画像には、可視光透過フィルタ要素群31を介して得られる可視光画像と、非可視光透過フィルタ要素群32を介して得られる近赤外光画像とがそれぞれ含まれている。分離補正部51は、撮像素子20で撮像された画像中の各画素が可視光画像または近赤外光画像のどちらに対応しているかを判別し、各画素の信号を可視光画像と近赤外光画像に振り分け、これにより、フィルタ要素群31、32毎に画像を分離する。
なお、図3(a)、図3(b)に示されるように、複合フィルタ30A、30Bを比較すると、下記の点で千鳥状のパターンを持つ複合フィルタ30Aが有利である。すなわち、複合フィルタ30Aを設けた構成では、可視光透過フィルタ要素群31を介して得られる画像において画素の欠損する部分も千鳥状のパターンになる。この画素が欠損した部分において、隣接する可視光透過フィルタ要素群31の画素の信号を比較し、それぞれ画素の相関の高い水平方向・垂直方向の画素から欠損部分を補完するというように画像信号処理が行われる。非可視光透過フィルタ要素群32を介して得られる画像の補完処理も同様である。このような処理により、撮像デバイスが本来持っている水平解像度・垂直解像度を落とさずに可視光側の画像と近赤外光側の画像を生成することができ、そのデータを用いて精度の高い距離情報を提供できる。
画像信号処理部52は、分離補正部51から出力される各画像に対して画像信号処理を行う。画像信号処理には、色分離、ホワイトバランス、色差信号の生成、ガンマ(γ)補正、ニー処理、アパーチャ処理、出力クリップ処理、同時化、キャリブレーション等が含まれる。
測距演算部53は、視差算出部531および距離算出部532を備えている。視差算出部531は、撮像素子20で撮像される画像から、各レンズ10a、10bが結像する2つの像間の視差情報を算出する。具体的には、視差算出部531は、フィルタ要素群31、32の各々を介して得られた可視光画像および近赤外光画像から視差情報を算出する。距離算出部532は、各視差情報に基づいて、被写体までの距離情報を算出する。測距演算部53は、後述のカメラ設定用パラメータ保持部55に設定された制御パラメータに従って、各処理を行う。これにより、可視光、近赤外光といった透過波長特性に合わせた視差情報および距離情報の算出を行うことができる。
出力切替部54は、NTSC(National Television Standards Committee)、PAL(Phase Alternation by Line)、デジタル出力といった出力方式を選択して、選択結果に従った出力信号を生成し、外部接続システム70へ出力する。出力方式は、後述の外部接続システム70により設定される。出力切替部54は、カメラ設定用パラメータ保持部55に設定された制御パラメータに従って各処理を行う。これにより、可視光、近赤外光といった透過波長特性に合わせた出力切替を行うことができる。
カメラ設定用パラメータ保持部55は、可視光用パラメータ保持部551および近赤外光用パラメータ保持部552を備えている。可視光用パラメータ保持部551は、可視光に対応した制御パラメータ(以下、可視光用パラメータとする)を保持し、近赤外光用パラメータ保持部552は、近赤外光に対応した制御パラメータ(以下、近赤外光用パラメータとする)を保持する。各制御パラメータとしては、例えばシャッタースピード、露光時間、視差測定範囲、距離測定範囲等に関する設定値が数値化されて設定されている。
露光制御部56は、分離補正部51で分離された可視光画像および近赤外光画像の輝度の平均値をそれぞれ算出し、算出結果に基づいて撮像素子20の露光時間を制御する。露光制御部56も、カメラ設定用パラメータ保持部55に設定された制御パラメータに従って処理を行う。露光制御についても、可視光用パラメータと近赤外光用パラメータの切換が行われてよい。これは時系列にて出力切替を行う場合であって、可視光と近赤外光の露光制御を独立して行える場合に適しており、これにより、可視光、近赤外光といった透過波長特性に合わせた露光制御を行うことができる。
駆動処理部60は、垂直転送駆動回路(以下、Vdr(Vertical driver)回路とする)やタイミングジェネレータ回路(以下、TG(Timing Generator)回路とする)等により構成されている。駆動処理部60は、露光制御部56の制御に従って、撮像素子20の駆動処理を制御する。
外部接続システム70は、カメラ設定用パラメータ保持部55に接続されており、通信制御やボタン操作により、可視光用パラメータ保持部551と近赤外光用パラメータ保持部552のいずれかを選択して、制御パラメータを切り換える。この切り換えにより、分離補正部51、画像信号処理部52、測距演算部53、露光制御部56および出力切替部57が動作する際の制御パラメータが切り換えられる。外部接続システム70による制御パラメータの設定に応じて、画像信号処理部52は、可視光画像および近赤外光画像のそれぞれに対して、各画像に適した画像処理を行い、視差算出部531および距離算出部532は、可視光画像および近赤外光画像のそれぞれから視差情報および距離情報を算出する。
外部接続システム70は、ボタン操作等により、出力切替部54の出力方式を選択する。また、外部接続システム70では、ボタン操作等により、可視光画像と赤外光画像とを同時に出力する同時出力、これらの画像のいずれか一方を選択して出力する片方選択出力、または時間経過に応じて画像を切り替えて出力する時系列出力のいずれかの出力方法を選択して設定することができる。これに合わせて、外部接続システム70は、可視光画像または近赤外光画像から算出される視差情報および距離情報の出力についても、同時出力、片方選択出力または時系列出力のいずれかの出力方法に設定することができる。
次に、本発明の第1の実施の形態における撮像装置100の動作について説明する。外部接続システム70は、出力切替部54の出力方式の選択を行い、併せてカメラ設定用パラメータ保持部55における制御パラメータの切り換え設定を行い、更に可視光画像および赤外光画像の各画像の出力方法と、これらの画像から算出される視差情報および距離情報の出力方法を同時出力、片方選択出力または時系列出力のいずれかに設定する。
撮像素子20は、一対のレンズ10a、10bがそれぞれ結像する像を撮像する。撮像素子20の撮像処理は駆動処理部60の制御に従って行われる。撮像素子20の撮像画像は、複合フィルタ30の各フィルタ要素群31、32を介して撮像され、可視光透過フィルタ群31を透過した可視光画像と、非可視光透過フィルタ要素群32を透過した近赤外光画像とを含んでいる。
次に、前処理部40が、撮像素子20により撮像された画像に対して、CDS、AGC、ADC等の前処理を行い、デジタル画像信号を信号処理部50に入力する。信号処理部50では、分離補正部51が、前処理が行われた画像を可視光画像および赤外光画像に分離し、欠損部分を補完する。分離された可視光画像および赤外光画像は、露光制御部56および画像信号処理部52に入力される。
露光制御部56は、分離補正部51から入力される可視光画像と近赤外光画像の輝度平均値を別々に算出し、可視光フィルタ(可視光透過フィルタ要素群31)と近赤外光フィルタ(非可視光透過フィルタ要素群32)に合わせた露光制御を行い、これにより、光学入力特性に最適な制御を施した出力の期待値を得ることができる。なお、時系列で出力切替を行う場合は、フレーム間引き、ライン間引き、または信号処理の倍速駆動により可視光画像と近赤外光画像を時系列で出力できる。この場合は、可視光側の画像と近赤外光側の画像とで露光制御を独立して行うことができる。このことを利用し、露光制御についても可視光用パラメータと近赤外光用パラメータとを切り替えてよい。他の信号処理部と合わせてパラメータ切換えを行うことで、システム用途に向けた特性の違う撮像を好適に行うことができる。
画像信号処理部52は、分離補正部51から出力される各画像に対して画像信号処理を行い、処理後の可視光画像および赤外光画像を測距演算部53に入力する。測距演算部53は、可視光画像および近赤外光画像の各々から視差情報および距離情報を算出する。すなわち、視差算出部531は、可視光用パラメータを用いて、レンズ10a、10bが結像する可視光画像間の視差情報を算出し、また、近赤外光用パラメータを用いて、レンズ10a、10bが結像する近赤外光画像間の視差情報を算出する。
距離算出部532は、視差情報算出部531により算出された視差情報に基づいて、被写体までの距離情報を算出する。距離算出部532は、カメラ設定用パラメータ保持部55に設定された制御パラメータに従って、可視光画像から算出された視差情報に基づき、可視光用パラメータを用いて被写体までの距離を算出し、また、近赤外光画像から算出された視差情報に基づき、近赤外光用パラメータを用いて被写体までの距離を算出する。算出された視差情報および距離情報は、出力切替部54に入力される。
出力切替部54は、外部接続システム70により選定された出力方式(例えばNTSC、PAL、デジタル出力等)に従って、出力信号を生成する。このとき、出力切替部54は、カメラ設定用パラメータ保持部55に設定された制御パラメータに従って、出力信号の生成処理を行う。そして、出力切替部54は、外部接続システム70での設定情報に従って、可視光画像および赤外光画像の各画像と、これらの画像から算出される視差情報および距離情報とを同時出力、片方選択出力または時系列出力のいずれか出力方法で、外部接続システム70へ出力する。
なお、可視光画像および近赤外光画像を時系列で出力パターンを切り換えて出力する場合、フレーム間引き、ライン間引きまたは信号処理の倍速駆動が行われる。この場合、前述のように、可視光画像と近赤外光画像で露光制御を独立させてよく、露光制御パラメータも可視光用と近赤外光用とで切り換えてよく、パラメータ切換が他の信号処理回路と共に好適に行われる。
このような本発明の第1の実施の形態の撮像装置100によれば、透過波長特性が異なる複数のフィルタ要素群31、32からなる複合フィルタ30を設けて、複数のレンズ10a、10bの各々が結像する複数の像を、複合フィルタ30を介して一の撮像素子20により撮像する。従って、複数のレンズ10a、10bを一の撮像素子を備える構成により、各々の透過波長特性に対応した複数の画像を得ることができる。そして、視差算出部531が、撮像素子20で撮像された複数の画像から、複数の透過波長特性にそれぞれ対応する複数の視差情報を算出する。これにより、コンパクトな構成でありながら、複数の波長域にそれぞれ対応した複数の画像を得ることができ、これらの画像から正確に視差情報を算出することができる。この結果、被写体の種類に関係なく、また、様々な撮像環境に対応して、視差情報を算出できる撮像装置を得ることができる。
本実施の形態の撮像装置は、例えば前述した医療用カメラであり、内視鏡を構成する。そして、可視光画像とともに近赤外光画像を用いて組織が検出され、そして、可視光画像と近赤外光画像での測距情報や立体情報が有用に用いられる。
また、本発明の第1の実施の形態の撮像装置100によれば、撮像素子20により撮像された画像を、複数のフィルタ要素群31、32の各々を介して得られた画像毎に分離する分離補正部51を備えたので、撮像素子10により撮像された画像を、各透過波長特性に対応した画像毎に分離することができ、複数の波長域にそれぞれ対応した複数の画像を得ることができる。
また、本発明の第1の実施の形態の撮像装置100によれば、可視光透過フィルタ要素群31と非可視光透過フィルタ要素群32からなる複合フィルタ30を介して、撮像素子10より複数の像を撮像するので、可視光および非可視光の光学特性を持った画像を一の撮像素子10から同時に得ることができる。従って、コンパクトな構成でありながら、可視光および非可視光の波長に対応した複数の画像を得て、これらの画像から視差情報を算出することができる。
また、本発明の第1の実施の形態の撮像装置100によれば、非可視光透過フィルタ要素群32は近赤外線域の光を透過する構成を有するので、可視光および近赤外光の光学特性を持った可視光画像および近赤外光画像を得ることができ、コンパクトな構成でありながら、可視光および近赤外光の波長域に対応した複数の画像を得て、これらの画像から視差情報を算出することができる。
また、本発明の第1の実施の形態の撮像装置100によれば、測距演算部53は、算出された複数の視差情報に基づいて、被写体までの距離情報を算出する構成を有しているので、被写体までの距離情報を視差情報に基づいて算出することができる。
(第2の実施の形態)
以下、本発明の第2の実施の形態に係る撮像装置について、図面を用いて説明する。本発明の第2の実施の形態の撮像装置110の構成を図5に示す。図5に示されるように、撮像装置110は、レンズアレイ11と、撮像素子21と、複合フィルタ30と、前処理部40と、信号処理部50Aと、駆動処理部60と、外部接続システム70とを備えている。本発明の第1の実施の形態と同様に、複合フィルタ30は、図3(a)、(b)に示した複合フィルタ30Aまたは30Bを用いている。
以下、本発明の第2の実施の形態に係る撮像装置について、図面を用いて説明する。本発明の第2の実施の形態の撮像装置110の構成を図5に示す。図5に示されるように、撮像装置110は、レンズアレイ11と、撮像素子21と、複合フィルタ30と、前処理部40と、信号処理部50Aと、駆動処理部60と、外部接続システム70とを備えている。本発明の第1の実施の形態と同様に、複合フィルタ30は、図3(a)、(b)に示した複合フィルタ30Aまたは30Bを用いている。
第2の実施の形態に係る撮像装置110の構成の概略について、第1の実施の形態に係る撮像装置100と対比して説明する。図1に示されるように、第1の実施の形態に係る撮像装置100では、レンズアレイ10は一対のレンズ10a、10bを備えているのに対し、図5に示されるように、第2の実施の形態に係る撮像装置110では、レンズアレイ11は3つのレンズ11a、11b、11cを備えている。また、後述の通り、レンズアレイの構成の相違に対応して、撮像素子の受光面の領域設定が異なる。また、図1では、測距演算部53は1つのみであるのに対し、図5では、3つの測距演算部53a〜53cおよび正誤判定部53dを有する測距部53Aが設けされている。
図5に示されるように、レンズアレイ11は、3つのレンズ11a〜11cを備えている。3つのレンズ11a〜11cの光軸は互いにほぼ平行になるように配置されている。3つのレンズ11a〜11cはL字状に配置されており、これにより、光軸間を結ぶ3本の基線L、M、Nが互いに交差し、三角形を構成する。なお、レンズアレイは4つ以上のレンズで構成されてもよい。この場合、少なくとも3つ以上のレンズにて、基線が互いに交差するように配置されていればよい。
3つのレンズ11a〜11cと撮像素子21との配置関係について、図6に基づいて説明する。図6に示されるように、撮像素子21の受光面には領域A、領域Bおよび領域Cが設けられている。レンズ11a、11b、11cをレンズA、B、Cとすると、レンズAが結像する像を領域Aにて受光し、レンズBが結像する像を領域Bにて受光し、レンズCが結像する像を領域Cにて受光する。そして、受光面の領域A、領域Bおよび領域Cの全てにて画像信号が生成される。
上述の通り、測距演算部53Aは3つの測距演算部53a〜53cと正誤判定部53dとを備えている。図1で示した測距演算部53と同様に、各測距演算部53a〜53bはそれぞれ視差算出部(図5にて不図示)および距離算出部(図5にて不図示)を備えている。なお、各測距演算部53a〜53cは、それぞれにて並列処理を行っても良いし、1系統で多重処理を行ってもよい。
3つの測距演算部53a〜53cの各々は基線L、M、Nの各基線に対応する測拒を行う。基線L測距演算部53aにおいては、視差算出部が基線Lに沿った撮像素子21の領域Aおよび領域Bで撮像された画像対から視差情報を算出し、距離算出部が視差情報に基づいて被写体までの距離情報を算出する。同様に、基線M測距演算部53bにおいては、基線Mに沿った撮像素子21の領域Bおよび領域Cで撮像された画像対から視差情報および距離情報を算出する。更に同様に、基線N測距演算部53cにおいては、基線Nに沿った撮像素子21の領域Cおよび領域Aで撮像された画像対から視差情報および距離情報を算出する。
また、各測距演算部53a〜53cは、第1の実施の形態と同様に、フィルタ要素群31、32の各々を介して得られた可視光画像および近赤外光画像の各々から、視差情報および距離情報を算出する。
正誤判定部53dは、測距演算部53a〜53cによりそれぞれ算出された3つの視差情報および3つの距離情報を比較参照して、最終的な視差情報および距離情報を決定する。例えば、正誤判定部53dは、各測距演算部53a〜53cから出力される視差情報または距離情報の3つの算出値を照合し、多数決による処理を行って、最終的な視差情報および距離情報を算出する。これにより、高い測距精度が得られ、視差情報および距離情報をより正確に算出することができる。
次に、本発明の第2の実施形態における撮像装置110の動作について説明する。撮像素子21が3つのレンズ11a、11b、11cがそれぞれ結像する像を撮像する。このとき、各レンズ11a〜11cがそれぞれ結像する像は、フィルタ要素群31、32を介して、撮像素子21により撮像される。従って、撮像素子21の撮像画像には可視光画像と近赤外光画像とが含まれる。
分離補正部51は、前処理が行われた画像を可視光画像および赤外光画像に分離して、欠損部分を補完する。測距演算部53a〜53cは、可視光画像および近赤外光画像から、視差情報および距離情報を算出する。これにより、測距演算部53a〜53cにて、各基線L、M、Nに対応し、且つ、可視光画像および近赤外光画像に対応する視差情報および距離情報がそれぞれ算出される。
また、正誤判定部53dは、各測距演算部53a〜53cにより算出された視差情報と距離情報を、可視光画像または近赤外光画像の画像毎に比較参照して、最終的な視差情報および距離情報を最終値として算出する。出力切替部54は、外部接続システム70により選定された出力方式に従って出力信号を生成する。また、出力切替部54は、外部接続システム70での設定情報に従って、可視光画像と赤外光画像とこれらの画像から算出される視差情報および距離情報とを同時出力、片方選択出力または時系列出力のいずれかで、外部接続システム70へ出力する。
本発明の第2の実施の形態の撮像装置110によれば、少なくとも3つのレンズ11a、11b、11cは、光軸間を結ぶ基線L、M、Nが交差するように配置され、測距演算部53a、53b、53cが、基線が異なる複数のレンズ対を介して得られる複数の画像対からそれぞれ算出される複数の視差情報に基づいて、測距演算結果を求める。この構成により、互いに交差する複数の基線L、M、Nに対応する視差情報を得ることができ、これら複数の視差情報に基づいて最終的な測距演算結果を透過波長特性毎に算出するので、より正確な測距情報を得ることができる。なお、4つ以上のレンズを用い、各レンズ間の基線長の増加分に合わせて測距演算部を拡張することで、視差情報および被写体までの距離の測距精度をより高めることができる。
なお、本実施の形態の撮像装置110において、3つのレンズ11a〜11c以外に、画像撮像専用のレンズを設けてもよい。すなわち、レンズ11a〜11cは、各レンズ11a〜11cが撮像する像間の視差情報および距離情報を算出するのに用いられるが、これらのレンズ11a〜11cとは別に画像を撮像するだけのためのレンズを設けてもよい。このとき、撮像素子21の受光面には画像撮像専用レンズが結像する像を受光する撮像領域(専用撮像領域を呼ぶ)が新たに設けられ、画像撮像専用レンズと撮像素子21との間には、複数のフィルタ要素群31、32を有する複合フィルタ30は設けられず、単一の可視光透過フィルタ(単一フィルタと呼ぶ)が設けられる。
撮像素子21は、単一フィルタを介して、画像撮像専用レンズが結像する像を撮像する。撮像素子21の専用撮像領域では、可視光画像のみを撮像する。撮像素子21の他の撮像領域A〜Cでは可視光画像および近赤外光画像の双方の画像を撮像するのに対して、撮像素子21の専用撮像領域では可視光画像のみを撮像するので、より高い解像度の可視光画像を得ることができる。また、専用フィルタを赤(R)、緑(G)および青(B)のカラーフィルタで構成することで、より高い解像度でカラーの可視光画像を得ることができる。なお、画像撮像専用レンズと撮像素子21との間には、単一の可視光透過フィルタに代えて、単一の非可視光透過フィルタを設けてもよい。これにより、撮像素子21の専用撮像領域では近赤外光画像のみを撮像するので、より高い解像度の近赤外光画像を得ることができる。このように、測距も兼ねたレンズと別に画像撮像専用レンズを設けたことで、より高い解像度の可視光画像または非可視光画像を得ることができる。
(第3の実施の形態)
以下、本発明の第3の実施の形態に係る撮像装置について、図面を用いて説明する。本発明の第3の実施の形態の撮像装置120の構成を図7に示す。図7に示されるように、撮像装置120は、レンズアレイ12と、撮像素子22と、複合フィルタ30と、前処理部40と、信号処理部50Bと、駆動処理部60と、外部接続システム70とを備えている。本発明の第1および第2の実施の形態と同様に、複合フィルタ30は図3(a)、図3(b)に示した複合フィルタ30Aまたは30Bを用いている。
以下、本発明の第3の実施の形態に係る撮像装置について、図面を用いて説明する。本発明の第3の実施の形態の撮像装置120の構成を図7に示す。図7に示されるように、撮像装置120は、レンズアレイ12と、撮像素子22と、複合フィルタ30と、前処理部40と、信号処理部50Bと、駆動処理部60と、外部接続システム70とを備えている。本発明の第1および第2の実施の形態と同様に、複合フィルタ30は図3(a)、図3(b)に示した複合フィルタ30Aまたは30Bを用いている。
第3の実施の形態に係る撮像装置120の概略について、第1の実施の形態に係る撮像装置100と対比して説明する。図1に示されるように、第1の実施の形態に係る撮像装置100では、レンズアレイ10は一対のレンズ10a、10bを備えているに対して、図7に示されるように、第3の実施の形態に係る撮像装置120では、レンズアレイ12は4つのレンズ12a〜12dを備えている。また、レンズアレイの構成の相違に対応して、撮像素子の受光面の領域設定が異なる。
図7に示されるように、レンズアレイ12は、4つのレンズ12a〜12dを備えている。4つのレンズ12a〜12dの光軸は互いにほぼ平行になるように配置されている。ここで、レンズ12aおよびレンズ12cは互いに同一のレンズであり、広角レンズ対12Aを構成する。レンズ12bおよびレンズ12dは互いに同一のレンズであるが、レンズ12a、12bより狭く、狭角レンズ対12Bを構成する。なお、本実施の形態では、各レンズ対を横方向に配置したが、縦または斜めに配置してもよい。図7では、レンズ12aおよび12bと、レンズ12cおよび12dとをそれぞれレンズ対としてもよい。また、レンズ12aおよび12dと、レンズ12bおよび12cとをそれぞれレンズ対としてもよい。
4つのレンズ12a〜12dと撮像素子22との配置関係について、図8に基づいて説明する。図8に示されるように、撮像素子22の受光面には領域A、領域B、領域Cおよび領域Dが設けられている。レンズ12a〜12dをレンズA〜Dとすると、レンズAが結像する像を領域Aにて受光し、レンズBが結像する像を領域Bにて受光し、レンズCが結像する像を領域Cにて受光し、レンズDが結像する像を領域Dにて受光する。そして、受光面の領域A、領域B、領域Cおよび領域Dの全てにて画像信号が生成される。また、撮像素子22は複合フィルタ30を介して各レンズ12a〜12dが結像する像を撮像するので、広角レンズ対12Aおよび狭角レンズ対12Bを介して得られる可視光画像および近赤外光画像を一の撮像素子22の撮像画像から同時に同一の解像度で得ることができる。
測距演算部53は、第1の実施の形態と同様に、視差算出部531および距離算出部532を備えている。視差算出部531は、分離補正部51により分離される可視光画像および近赤外光画像の各々から、広角レンズ対12Aのレンズ12a、12cが結像する2つの像間の視差情報を算出するとともに、狭角レンズ対12Bのレンズ12b、12dが結像する2つの像間の視差情報を算出する。これにより、可視光画像および近赤外光画像の各々について、広角レンズ画像対の視差情報および狭角レンズ画像対の視差情報を算出することができる。
距離算出部532は、視差算出部531により算出された各視差情報に基づいて、被写体までの距離情報を算出する。具体的には、距離算出部532は、視差算出部531の算出結果を用い、広角レンズ対12Aが結像する像間の視差情報に基づいて、広角レンズ対12Aの被写体までの距離情報を算出し、狭角レンズ対12Bが結像する像間の視差情報に基づいて、狭角レンズ対12Bの被写体までの距離情報を算出する。これにより、可視光画像および近赤外光画像の各々について、広角レンズ対12Aに対応する距離情報および狭角レンズ12Bに対応する距離情報を算出することができる。なお、測距演算部53は、第1の実施の形態と同様に、カメラ設定用パラメータ保持部55に設定された制御パラメータに従って、各処理を行う。
このような本発明の第3の実施の形態の撮像装置120によれば、互いに画角が異なる広角レンズ対12Aおよび狭角レンズ対12Bを備えているので、異なる画角のレンズ対(例えば広角レンズ対、狭角(望遠)レンズ対)で複眼レンズが構成され、これにより、視野が広い画像対と狭い画像対を1つの撮像素子で撮像することができ、これらの画像対に基づいた複数の視差情報等の測距情報を得ることができる。従って、視野が広い画像を用いて被写体全体を大まかに把握しつつ、視野が狭い画像を用いて被写体の特定部分を高精度に検証したい場合に好適である。
本実施の形態の撮像装置120は、例えば人物の顔の撮影に用いられる。広角レンズ対12Aによって人物の顔全体が撮像され、この画像から人物の顔の特徴、形状または向き等、大雑把な範囲の画像情報を得ることができる。これに対し、狭角レンズ対12Bによる撮像画像では、例えば目元周辺のみが撮像されており、目の形状、特徴または向き等、被写体の顔の一部分である特徴的な範囲の画像情報を高解像度で得ることができる。
広角レンズ対12Aによる撮像画像からは、顔全体までの距離情報を算出することができ、狭角レンズ対12Bによる撮像画像からは、特徴的な範囲である目元周辺までの距離情報を正確に算出することができる。このことから、例えば広角レンズ対12Aによる撮像画像で顔認証、顔向き検知を行いつつ、更に狭角レンズ対12Bによる撮像画像で視線検知、網膜検知または虹彩認識等を行うことができる撮像装置を、1つの撮像素子22を用いて融合した形で得ることができる。このような撮像装置を用いることで、例えば監視用途向けまたは車両用途向けの検知・認識システムをより小型かつより高精度に実現することができる。
以上、本発明の実施の形態を例示により説明したが、本発明の範囲はこれらに限定されるものではなく、請求項に記載された範囲内において目的に応じて変更および変形することが可能である。
上述した各実施の形態では、複合フィルタ30は、図3(a)、(b)で例示したように、可視光透過フィルタ要素群31および非可視光透過フィルタ要素群32で構成されているが、可視光透過フィルタ要素群31を、カラーフィルタにより構成してもよい。
図9は、複合フィルタの構成例であって、可視光透過フィルタ要素群31をカラーフィルタにより構成したものを示す。図9の複合フィルタ30Cにおいては、可視光透過フィルタ要素群31が、複数の赤(R)フィルタ31a、緑(G)フィルタ31bおよび青(B)フィルタ31cとから構成されている。図9の複合フィルタ30Cは、RGBベイヤ配列のカラー撮像素子用フィルタにおけるGの一部を非可視光透過フィルタ要素(近赤外光撮像用の可視光カットフィルタ要素)に置き換えた構成に相当する。図の例では、Bの画素に挟まれたGが置き換えられており、従って、全数のうちの半分(2つに1つ)のG画素フィルタが近赤外光用フィルタに置き換わっている。
このような複合フィルタ30Cを撮像装置100、110、120に用いることにより、可視光透過フィルタ要素群31はRGBのカラーフィルタにより構成されるので、非可視光の光学特性を持った非可視光画像(近赤外光画像)とともに、可視光の光学特性を持った可視光画像としてカラー画像を得ることができる。従って、カラー画像による色彩判断および近赤外光画像による近赤外反射の双方の特徴を活用した画像認識等の処理を一の撮像装置で実現できる。
また、複眼光学系に複合フィルタ30Cを用いた場合、視差情報および被写体までの距離情報の算出は、カラー画像および近赤外光画像を用いて同様に行える。従って、被写体の奥行き方向の情報を踏まえた立体画像(3D)情報のカラー画像による提供も可能となる。
以上の通り、複合フィルタ30Cを撮像装置100、110、120に用いることにより、可視光透過フィルタ要素群31はRGBのカラーフィルタにより構成されるので、非可視光の光学特性を持った非可視光画像(近赤外光画像)とともに、可視光の光学特性を持った可視光画像としてカラー画像を得ることができ、これらの画像から視差情報および距離情報を得ることができる。これにより、被写体の色判定が可能なカラー画像と、非可視光撮影による特徴的な画像と、視差情報とを得ることができる。非可視光撮影による特徴的な画像は、例えば近赤外光撮影による皮下組織の画像であり、これにより、本発明を医療分野の内視鏡等に適用して、撮像機能や測定機能の向上を図ることができる。例えば、カラー画像による患部の色彩判定と、近赤外光画像による皮下組織(例えば血管)の情報とを一の撮像装置で立体画像にて提供することが実現できる。特に第2の実施の形態で説明したように、各レンズ間の基線が互いに交差するように配置された3つ以上のレンズを用いることにより、立体画像の精度をより高くすることができる。このような構成の撮像装置を用いることにより、患部の詳細な状況を高精度に判断し得る医療システムを小型且つ簡素なシステム構成で実現することができる。
また、第3の実施の形態では、レンズ対12Aおよびレンズ12Bの画角は互いに異なる構成であった。これに対して、両レンズ対の画角を略同一として、代わりに、レンズ対12Aが像を形成する画像領域A、Cと、レンズ対12Bが像を形成する画像領域B、Dとで、画素の大きさが互いに異なる構成としてもよい。
これにより、互いに解像度が異なる複数の画像対を得ることができ、これらの画像対に基づいた複数の視差情報等の測距情報を得ることができる。撮像する被写体の形状や大きさ等に応じて、高解像度または低解像度の画像対を使い分けて、これらの画像対から視差情報等の測距情報を得ることができる。また、本発明の範囲内で、レンズ対12Aが像を形成する画像領域A、Cと、レンズ対12Bが像を形成する画像領域B、Dとで、画素ピッチが異なってもよく、これによっても同様の利点が得られる。
また、上述した各実施の形態において、各レンズの温度を測定する温度測定部を備え、温度測定部の測定結果に応じて、視差情報および距離情報を算出してもよい。すなわち、温度測定部が各レンズの温度を測定し、測拒演算部の視差算出部および距離算出部が、視差情報および被写体までの距離情報を各レンズの温度に応じて調整して、これらの情報を最終的に算出してもよい。
この構成により、複数のレンズの温度測定結果に応じて、測拒演算を行うので、温度変化によって各レンズの光学特性が変化した場合に、当該光学特性の変化が及ぼす視差情報または測距演算の誤差を適正に補正して、これらの情報を適正に算出することができる。各レンズの光学特性の変化として、例えば各レンズの焦点距離の変化が挙げられる。各レンズの焦点距離は各レンズの温度変化に応じて線形的に変化する。
また、上記実施態様では、撮像素子、前処理部、駆動処理部および信号処理部はそれぞれ別に設けられていたが、これらを同一の半導体ウエハ上に形成してもよい。また、撮像素子、前処理部および駆動処理部のみを一体化して1つの半導体ウエハ上に形成し、これとは別の半導体ウエハ上に信号処理部を形成してもよい。また、前処理部、駆動処理部および信号処理部のみを一体化して1つの半導体ウエハ上に形成し、これとは別の半導体ウエハ上に撮像素子を形成してもよい。また、前処理部および駆動処理部のみを一体化して1つの半導体ウエハ上に形成し、これとは別の半導体ウエハ上に撮像素子を形成し、更に別の半導体ウエハ上に信号処理部を形成してもよい。これらにより、撮像装置をよりコンパクトな構成とすることができる。
以上のように、本発明は、コンパクトな構成でありながら、複数の波長域にて測距用の複数の撮像画像を得ることができるという効果を有し、医療用、車両用等の測距機能付き撮像装置等として有用である。
10、11、12 レンズアレイ
10a、10b、11a〜11c、12a〜12d レンズ
12A、12B レンズ対
20、21、22 撮像素子
30、30A、30B、30C 複合フィルタ
31 可視光透過フィルタ要素群
32 非可視光透過フィルタ要素群
40 前処理部
50、50A、50B 信号処理部
51 分離補正部
52 画像信号処理部
53、53A 測距演算部
53a〜53c 基線A〜C測距演算部
53d 正誤判定部
54 出力切替部
55 カメラ設定用パラメータ保持部
551 可視光用パラメータ保持部
552 近赤外光用パラメータ保持部
56 露光制御部
60 駆動処理部
70 外部接続システム
L、M、N 基線
100、110、120 撮像装置
10a、10b、11a〜11c、12a〜12d レンズ
12A、12B レンズ対
20、21、22 撮像素子
30、30A、30B、30C 複合フィルタ
31 可視光透過フィルタ要素群
32 非可視光透過フィルタ要素群
40 前処理部
50、50A、50B 信号処理部
51 分離補正部
52 画像信号処理部
53、53A 測距演算部
53a〜53c 基線A〜C測距演算部
53d 正誤判定部
54 出力切替部
55 カメラ設定用パラメータ保持部
551 可視光用パラメータ保持部
552 近赤外光用パラメータ保持部
56 露光制御部
60 駆動処理部
70 外部接続システム
L、M、N 基線
100、110、120 撮像装置
Claims (10)
- 光軸が互いに略平行である複数の光学ブロックと、
異なる複数の透過波長特性にそれぞれ対応する複数のフィルタ要素群が順次配列された複合フィルタと、
前記複数の光学ブロックがそれぞれ結像する複数の像を、前記複合フィルタを介して撮像する一の撮像素子と、
前記撮像素子で撮像された前記複数の画像を用いて測距演算を行う測距演算部とを備え、
前記測距演算部は、前記複数のフィルタ要素群の各々を介して得られた複数の画像から、前記複数の透過波長特性にそれぞれ対応する複数の視差情報を算出することを特徴とする撮像装置。 - 前記撮像素子により撮像された画像を、前記複数のフィルタ要素群の各々を介して得られた画像毎に分離する分離部を備えたことを特徴とする請求項1に記載の撮像装置。
- 前記複合フィルタは、少なくとも可視光線域の光を透過する可視光透過フィルタ要素群と、可視光線域以外の波長の光を透過する非可視光透過フィルタ要素群とを有し、
前記測距演算部は、前記可視光透過フィルタ要素群を介して前記撮像素子により得られる複数の可視光画像から前記視差情報を算出し、前記非可視光透過フィルタ要素群を介して前記撮像素子により得られる複数の非可視光画像から前記視差情報を算出することを特徴とする請求項1または2に記載の撮像装置。 - 前記非可視光透過フィルタ要素群は、近赤外線域の光を透過することを特徴とする請求項3に記載の撮像装置。
- 前記可視光透過フィルタ要素群は、カラーフィルタにより構成されたことを特徴とする請求項3に記載の撮像装置。
- 前記複数の光学ブロックは、光軸間を結ぶ基線が交差するように配置された少なくとも3つの光学ブロックを含み、
前記測距演算部は、前記基線が異なる複数の光学ブロック対を介して得られる複数の画像対からそれぞれ算出される複数の視差情報に基づいて、測距演算結果を求めることを特徴とする請求項1ないし5のいずれかに記載の撮像装置。 - 前記複数の光学ブロックとして、第1および第2のレンズ対を備え、
前記第1のレンズ対の画角は、前記第2のレンズ対の画角よりも大きいことを特徴とする請求項1ないし5のいずれかに記載の撮像装置。 - 前記複数の光学ブロックとして、第1および第2のレンズ対を備え、
前記撮像素子は、前記第1のレンズ対が像を形成する画像領域と、前記第2のレンズ対が像を形成する画像領域とで、画素の大きさが互いに異なることを特徴とする請求項1ないし5のいずれかに記載の撮像装置。 - 前記測距演算部は、算出した前記複数の視差情報に基づいて、被写体までの距離情報を算出することを特徴とする請求項1ないし8のいずれかに記載の撮像装置。
- 前記複数の光学ブロックの温度を測定する温度測定部を備え、前記温度測定部の測定結果に応じて、測距演算を行うことを特徴とする請求項1ないし9のいずれかに記載の撮像装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007286324A JP2009117976A (ja) | 2007-11-02 | 2007-11-02 | 撮像装置 |
| PCT/JP2008/003072 WO2009057288A1 (ja) | 2007-11-02 | 2008-10-28 | 撮像装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2007286324A JP2009117976A (ja) | 2007-11-02 | 2007-11-02 | 撮像装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2009117976A true JP2009117976A (ja) | 2009-05-28 |
Family
ID=40590695
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2007286324A Pending JP2009117976A (ja) | 2007-11-02 | 2007-11-02 | 撮像装置 |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP2009117976A (ja) |
| WO (1) | WO2009057288A1 (ja) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011176710A (ja) * | 2010-02-25 | 2011-09-08 | Sharp Corp | 撮像装置 |
| JP2013224922A (ja) * | 2012-03-21 | 2013-10-31 | Ricoh Co Ltd | 複眼カメラ装置、及びそれを備えた車両 |
| JP2015102794A (ja) * | 2013-11-27 | 2015-06-04 | キヤノン株式会社 | 複眼撮像装置 |
| JP2015148765A (ja) * | 2014-02-07 | 2015-08-20 | オリンパス株式会社 | 撮像装置、表示装置、光学装置、及び撮像システム |
| WO2015178012A1 (ja) * | 2014-05-23 | 2015-11-26 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像システム、及び撮像方法 |
| WO2015178079A1 (ja) * | 2014-05-20 | 2015-11-26 | コニカミノルタ株式会社 | 撮像装置、撮像装置の制御方法、および、撮像装置の制御プログラム |
| JP6297234B1 (ja) * | 2017-06-26 | 2018-03-20 | 三菱電機株式会社 | 複眼撮像装置及び画像処理方法、並びにプログラム及び記録媒体 |
| JP2020177037A (ja) * | 2019-04-15 | 2020-10-29 | キヤノン株式会社 | 撮像装置、撮像システム、コンピュータプログラム及び記憶媒体 |
| JP2022189835A (ja) * | 2020-07-08 | 2022-12-22 | マクセル株式会社 | 撮像装置 |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN103119516B (zh) * | 2011-09-20 | 2016-09-07 | 松下知识产权经营株式会社 | 光场摄像装置和图像处理装置 |
| JP6348254B2 (ja) * | 2013-02-04 | 2018-06-27 | マクセル株式会社 | 撮像装置 |
| JP6182396B2 (ja) * | 2013-08-30 | 2017-08-16 | 日立オートモティブシステムズ株式会社 | 撮像装置 |
| CN105223756B (zh) * | 2015-10-06 | 2018-03-09 | 瑞声光电科技(常州)有限公司 | 阵列式镜头模组 |
| JP7067091B2 (ja) * | 2018-02-02 | 2022-05-16 | 株式会社リコー | 撮像装置および撮像装置の制御方法 |
| CN113834571A (zh) * | 2020-06-24 | 2021-12-24 | 杭州海康威视数字技术股份有限公司 | 一种目标测温方法、装置及测温系统 |
| CN120238713A (zh) * | 2023-12-29 | 2025-07-01 | 华为技术有限公司 | 一种摄像机系统、图像获取方法及相关设备 |
Family Cites Families (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2003143459A (ja) * | 2001-11-02 | 2003-05-16 | Canon Inc | 複眼撮像系およびこれを備えた装置 |
| JP2005303694A (ja) * | 2004-04-13 | 2005-10-27 | Konica Minolta Holdings Inc | 複眼撮像装置 |
| US7865076B2 (en) * | 2006-04-21 | 2011-01-04 | Panasonic Corporation | Compound eye-camera module |
-
2007
- 2007-11-02 JP JP2007286324A patent/JP2009117976A/ja active Pending
-
2008
- 2008-10-28 WO PCT/JP2008/003072 patent/WO2009057288A1/ja not_active Ceased
Cited By (16)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2011176710A (ja) * | 2010-02-25 | 2011-09-08 | Sharp Corp | 撮像装置 |
| JP2013224922A (ja) * | 2012-03-21 | 2013-10-31 | Ricoh Co Ltd | 複眼カメラ装置、及びそれを備えた車両 |
| JP2015102794A (ja) * | 2013-11-27 | 2015-06-04 | キヤノン株式会社 | 複眼撮像装置 |
| JP2015148765A (ja) * | 2014-02-07 | 2015-08-20 | オリンパス株式会社 | 撮像装置、表示装置、光学装置、及び撮像システム |
| WO2015178079A1 (ja) * | 2014-05-20 | 2015-11-26 | コニカミノルタ株式会社 | 撮像装置、撮像装置の制御方法、および、撮像装置の制御プログラム |
| US10136076B2 (en) | 2014-05-23 | 2018-11-20 | Panasonic Intellectual Property Management Co., Ltd. | Imaging device, imaging system, and imaging method |
| JP2015222916A (ja) * | 2014-05-23 | 2015-12-10 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像システム、及び撮像方法 |
| WO2015178012A1 (ja) * | 2014-05-23 | 2015-11-26 | パナソニックIpマネジメント株式会社 | 撮像装置、撮像システム、及び撮像方法 |
| JP6297234B1 (ja) * | 2017-06-26 | 2018-03-20 | 三菱電機株式会社 | 複眼撮像装置及び画像処理方法、並びにプログラム及び記録媒体 |
| WO2019003258A1 (ja) * | 2017-06-26 | 2019-01-03 | 三菱電機株式会社 | カメラ装置、複眼撮像装置及び画像処理方法、並びにプログラム及び記録媒体 |
| CN110771152A (zh) * | 2017-06-26 | 2020-02-07 | 三菱电机株式会社 | 摄像机装置、复眼摄像装置和图像处理方法以及程序和记录介质 |
| US10951817B2 (en) | 2017-06-26 | 2021-03-16 | Mitsubishi Electric Corporation | Compound-eye imaging device, image processing method, and recording medium |
| JP2020177037A (ja) * | 2019-04-15 | 2020-10-29 | キヤノン株式会社 | 撮像装置、撮像システム、コンピュータプログラム及び記憶媒体 |
| JP2022189835A (ja) * | 2020-07-08 | 2022-12-22 | マクセル株式会社 | 撮像装置 |
| JP7539951B2 (ja) | 2020-07-08 | 2024-08-26 | マクセル株式会社 | 撮像装置 |
| JP2024159782A (ja) * | 2020-07-08 | 2024-11-08 | マクセル株式会社 | 撮像装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2009057288A1 (ja) | 2009-05-07 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2009117976A (ja) | 撮像装置 | |
| US10638099B2 (en) | Extended color processing on pelican array cameras | |
| JP4976310B2 (ja) | 撮像装置 | |
| EP2160018B1 (en) | Image pickup apparatus | |
| CN103238098B (zh) | 成像设备和对焦位置检测方法 | |
| US9386215B2 (en) | Device and method for measuring distances to multiple subjects | |
| US11353775B2 (en) | Image sensor and image-capturing device that selects pixel signal for focal position | |
| JP5591851B2 (ja) | 固体撮像装置および携帯情報端末 | |
| US9658367B2 (en) | Image acquisition apparatus | |
| US20040174446A1 (en) | Four-color mosaic pattern for depth and image capture | |
| KR20170032227A (ko) | 복안 촬상 장치 | |
| WO2006064751A1 (ja) | 複眼撮像装置 | |
| JP2012215785A5 (ja) | ||
| CN113411506B (zh) | 摄像元件及电子设备 | |
| JPWO2013047111A1 (ja) | 撮像装置及び合焦用パラメータ値算出方法 | |
| JP2019054463A5 (ja) | ||
| KR20120048242A (ko) | 3차원 카메라 | |
| JP2011239241A (ja) | 3次元撮像装置 | |
| JP2014032214A (ja) | 撮像装置及びその合焦位置検出方法 | |
| US20040169748A1 (en) | Sub-sampled infrared sensor for use in a digital image capture device | |
| WO2014073172A1 (ja) | 撮像装置 | |
| JP2015148676A (ja) | 撮像装置及び撮像装置の制御方法 | |
| WO2018221367A1 (ja) | ステレオ撮像装置 | |
| WO2024241702A1 (ja) | 情報処理装置および撮像装置 | |
| JP2014103427A (ja) | 立体画像撮像装置 |