JP2017183775A - 画像処理装置、画像処理方法および撮像素子 - Google Patents
画像処理装置、画像処理方法および撮像素子 Download PDFInfo
- Publication number
- JP2017183775A JP2017183775A JP2016063188A JP2016063188A JP2017183775A JP 2017183775 A JP2017183775 A JP 2017183775A JP 2016063188 A JP2016063188 A JP 2016063188A JP 2016063188 A JP2016063188 A JP 2016063188A JP 2017183775 A JP2017183775 A JP 2017183775A
- Authority
- JP
- Japan
- Prior art keywords
- correction
- image
- correction coefficient
- axis
- pixel
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N23/00—Cameras or camera modules comprising electronic image sensors; Control thereof
- H04N23/60—Control of cameras or camera modules
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T5/00—Image enhancement or restoration
- G06T5/20—Image enhancement or restoration using local operators
-
- H—ELECTRICITY
- H10—SEMICONDUCTOR DEVICES; ELECTRIC SOLID-STATE DEVICES NOT OTHERWISE PROVIDED FOR
- H10F—INORGANIC SEMICONDUCTOR DEVICES SENSITIVE TO INFRARED RADIATION, LIGHT, ELECTROMAGNETIC RADIATION OF SHORTER WAVELENGTH OR CORPUSCULAR RADIATION
- H10F99/00—Subject matter not provided for in other groups of this subclass
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Studio Devices (AREA)
- Solid State Image Pick-Up Elements (AREA)
- Transforming Light Signals Into Electric Signals (AREA)
- Image Processing (AREA)
Abstract
【課題】画質劣化を抑制することが可能な画像処理装置、画像処理方法および撮像素子を提供する。【解決手段】この画像処理装置は、互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、取得部により取得された補正係数を用いて画像の補正処理を行う補正部とを備える。【選択図】図1
Description
本開示は、画像補正を行う画像処理装置、画像処理方法、および撮像素子に関する。
デジタルカメラ等の撮像装置の分野では、レンズの像高依存およびMTF特性等に応じて画像を補正する(画像のぼけを補正する)技術が提案されている(例えば、特許文献1,2)。
ところが、上記の特許文献1の手法では、同一の像高にある画素値に対しては同一の補正係数(フィルタ係数)を使用して補正処理が行われる。このため、レンズの製造誤差等に起因して解像度にばらつきが生じた場合、十分な補正効果を得ることが困難である。また、特許文献2には、ユーザがソフトウエアを用いて、事前に用意されたパラメータセットを用いて補正を行う手法が示されているが、この手法においても、上記のような解像度のばらつきに対して十分な補正を行うことができない場合がある。これは画質劣化につながる。
レンズの解像度にばらつきが生じた場合にも、画質劣化を抑制することが可能な画像処理装置、画像処理方法および撮像素子を実現することが望まれている。
本開示の一実施の形態の画像処理装置は、互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、取得部により取得された補正係数を用いて画像の補正処理を行う補正部とを備えたものである。
本開示の一実施の形態の画像処理方法は、互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得し、取得された補正係数を用いて画像の補正処理を行うものである。
本開示の一実施の形態の撮像素子は、複数の画素を含む画素部と、画素部から得られた画像に対して信号処理を施す信号処理部とを備えたものである。信号処理部は、互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、取得部により取得された補正係数を用いて画像の補正処理を行う補正部とを備える。
本開示の一実施の形態の画像処理装置、画像処理方法および撮像素子では、互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数が取得され、取得された補正係数を用いて画像の補正処理が行われる。これにより、画素の位置座標に応じて最適化された補正係数を用いて補正を行うことができる。
本開示の一実施の形態の画像処理装置、画像処理方法および撮像素子では、互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数が取得され、取得された補正係数を用いて画像の補正処理が行われる。これにより、最適化された補正係数を用いて、レンズの製造誤差等に起因して解像度のばらつきが生じた場合にも、十分な補正効果を得ることができる。よって、レンズの解像度にばらつきが生じた場合にも、画質劣化を抑制することが可能となる。
尚、上記内容は本開示の一例である。本開示の効果は、上述したものに限らず、他の異なる効果であってもよいし、更に他の効果を含んでいてもよい。
以下、本開示を実施するための形態について、図面を参照して詳細に説明する。なお、説明は以下の順序で行う。
1.実施の形態
・構成:撮像素子の構成、信号処理部(画像処理装置)の構成、補正係数について
・作用、効果
2.変形例1,2
1.実施の形態
・構成:撮像素子の構成、信号処理部(画像処理装置)の構成、補正係数について
・作用、効果
2.変形例1,2
<実施の形態>
[構成]
図1は、本開示の一実施の形態に係る撮像素子(撮像素子1)の機能構成をレンズ(レンズ30)と共に表したものである。この撮像素子1は、例えばCCD(Charge Coupled Device Image Sensor)またはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等のイメージセンサであり、例えばスチルカメラまたはビデオカメラ等に適用されるものである。撮像素子1は、例えばレンズ30の通過光線Lを受光する画素部10と、画素部10から出力された画像信号(撮像信号D0)に対して画像の補正処理を含む各種の信号処理を行う信号処理部20とを備える。尚、撮像素子1は、この他にも、図示はしないが、画素部および信号処理部の各部を駆動制御する制御部とメモリーとを備えている。
[構成]
図1は、本開示の一実施の形態に係る撮像素子(撮像素子1)の機能構成をレンズ(レンズ30)と共に表したものである。この撮像素子1は、例えばCCD(Charge Coupled Device Image Sensor)またはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等のイメージセンサであり、例えばスチルカメラまたはビデオカメラ等に適用されるものである。撮像素子1は、例えばレンズ30の通過光線Lを受光する画素部10と、画素部10から出力された画像信号(撮像信号D0)に対して画像の補正処理を含む各種の信号処理を行う信号処理部20とを備える。尚、撮像素子1は、この他にも、図示はしないが、画素部および信号処理部の各部を駆動制御する制御部とメモリーとを備えている。
画素部10は、例えば有効画素領域に2次元配置された、複数の画素、例えばR(赤),G(緑),B(青)の3原色の画素(サブ画素)を含むものである。R,G,Bの各画素は、例えばベイヤー配列等からなるRGB配列10aを有している。具体的には、画素部10には、RGB配列10aを有するカラーフィルタが設けられている。尚、本実施の形態では、画素部10がRGB配列10aを有する場合について説明するが、本開示は、RGB以外の配列、例えばR,G,B,W(白)からなるRGBW配列を有する構成に対しても適用できる。あるいは、画素部10は、例えば、Y(イエロー)、C(シアン)、M(マゼンタ)等の配列を有していてもよい。ここで例示した配列以外の他の色配列に対しても本開示を適用することができる。
上記構成により、画素部10では、レンズ30を介してRGBいずれかの色光が画素単位で受光され、光電変換により受光信号強度に対応する電気信号が生成される。これにより、画素部10によってRGB3種類の分光から成るモザイク画像が得られる。
この画素部10と信号処理部20とは、例えば図2に模式的に示したように、積層されている。具体的には、撮像素子1は、画素部10が形成された基板1Aと、信号処理部20が形成された基板2Aとが上下に積層された(貼り合わされた)構造(いわゆる積層型の素子構造)を有している。尚、本実施の形態の「信号処理部20」が、本開示の「画像処理装置」の一具体例に相当する。また、本開示の「画像処理方法」は、画像処理装置(信号処理部20)の構成および動作により具現化されるものであるので、その説明を省略する。
なお、本実施の形態では、信号処理部20が撮像素子1内に具備された構成を例に挙げて説明するが、本開示の画像処理装置は、このような撮像素子1に適用される場合に限らず、レンズ30や画素部10を持たない装置、例えばパーソナルコンピュータ(PC)などであってもよい。この場合、図1に示した信号処理部20の構成に加え、撮像データが入力されるインターフェース部と、入力された撮像データが記憶されるメモリーとを更に有する構成となる。
(信号処理部20の構成)
信号処理部20は、例えば位置座標算出部21(距離算出部21Aおよび角度算出部21B)と、補正係数取得部22と、像高間係数算出部23Aと、象限間係数算出部23Bと、補正係数ブレンド処理部24と、レンズ収差補正処理部25と、ラインメモリ26と、エッジ検出部27と、エッジ・平坦部ブレンド処理部28と、RGB信号処理部29とを備える。尚、本実施の形態の補正係数取得部22は、本開示の「取得部」の一具体例に相当し、補正係数ブレンド処理部24およびレンズ収差補正処理部25が、本開示の「補正部」の一具体例に相当する。また、補正係数ブレンド処理部24が本開示の「補正係数算出部」の一具体例、レンズ収差補正処理部25が本開示の「補正処理部」の一具体例にそれぞれ相当する。
信号処理部20は、例えば位置座標算出部21(距離算出部21Aおよび角度算出部21B)と、補正係数取得部22と、像高間係数算出部23Aと、象限間係数算出部23Bと、補正係数ブレンド処理部24と、レンズ収差補正処理部25と、ラインメモリ26と、エッジ検出部27と、エッジ・平坦部ブレンド処理部28と、RGB信号処理部29とを備える。尚、本実施の形態の補正係数取得部22は、本開示の「取得部」の一具体例に相当し、補正係数ブレンド処理部24およびレンズ収差補正処理部25が、本開示の「補正部」の一具体例に相当する。また、補正係数ブレンド処理部24が本開示の「補正係数算出部」の一具体例、レンズ収差補正処理部25が本開示の「補正処理部」の一具体例にそれぞれ相当する。
位置座標算出部21は、例えば距離算出部21Aおよび角度算出部21Bを含んで構成され、画素部10の各画素の画素値に対応付けられた各画素の座標位置を示すxyアドレスに基づいて、補正対象画素(以下、画素Ptと称する)の位置座標を検出するものである。距離算出部21Aは、画素Ptの距離(光学中心からの距離r、像高に対応する距離)を算出するものである。算出された距離rに関する情報は、補正係数取得部22と像高間係数算出部23Aとにそれぞれ供給される。角度算出部21Bは、画素Ptの画像領域内での象限位置(角度d)を算出するものである。算出された角度dに関する情報は、補正係数取得部22と象限間係数算出部23Bとにそれぞれ供給される。
補正係数取得部22は、位置座標算出部21により算出された画素Ptの位置座標(距離r,角度d)に応じて、複数の補正係数(Fr,Fg,Fb)の中から、2以上の補正係数(補正係数群Fgrp)を選択(取得)するものである。補正係数Fr,Fg,Fbはそれぞれ、例えば複数のフィルタ係数から構成されている。取得された補正係数群Fgrpに関する情報は、補正係数ブレンド処理部24に供給される。補正係数Fr,Fg,Fbは、それぞれR,G,Bの色毎に設定されたものであり、予め撮像素子1内に保持されていてもよいし、または外部から入力されてもよい。これらの補正係数Fr,Fg,Fbの詳細については後述する。
像高間係数算出部23Aは、距離算出部21Aにより算出された距離rに基づいて、像高間のブレンド処理(補間処理)で使用する係数(Ar)を算出するものである。算出された係数Arに関する情報は、補正係数ブレンド処理部24に供給される。
象限間係数算出部23Bは、角度算出部21Bにより算出された角度dに基づいて、象限間のブレンド処理(補間処理)で使用する係数(Ad)を算出するものである。算出された係数Adに関する情報は、補正係数ブレンド処理部24に供給される。
補正係数ブレンド処理部24は、補正係数取得部22により取得された補正係数群Fgrpを用いて、画素Ptの補正係数(補正係数F1)を生成する処理を行うものである。換言すると、補正係数Fr,Fg,Fbの対応づけられていない位置(像点)の画素Ptに対する補正係数F1を補間によって生成する処理部である。具体的には、補正係数群Fgrpを構成する各補正係数と、像高間係数算出部23Aにより算出された係数Arと、象限間係数算出部23Bにより算出された係数Adとを用いた補間処理(ブレンド処理)により、画素Ptの補正係数F1を算出する。補正係数F1は、RGBの色毎に算出される。算出された補正係数F1に関する情報は、レンズ収差補正処理部25に供給される。
レンズ収差補正処理部25は、ラインメモリ26から入力された各色の信号(Rin,Gin,Bin)に対して補正係数F1(詳細には、色毎の補正係数F1r,F1g,F1b)を用いた補正処理を行い、補正処理後の画像信号D1(Rd,Gd,Bd)を算出するものである。算出された画像信号D1は、エッジ・平坦部ブレンド処理部28に供給される。このレンズ収差補正処理部25は、例えば画像のぼけを補正する処理、特に画素Ptの位置座標(像高および象限位置)に依存する収差ばらつきを考慮した補正処理を行うことが可能である。
ラインメモリ26は、画素部10から出力された画素信号を一時的に保持するものである。このラインメモリ26は、例えば、画素部10の水平7ライン分の画素値を記憶し、7つの水平ラインデータを並列に順次出力するように構成されている。出力先は、レンズ収差補正処理部25、エッジ検出部27、およびエッジ・平坦部ブレンド処理部28である。これらの各処理部に対して、RGB配列10aを有する撮像データが7ライン単位で出力される。
尚、ラインメモリ26は、ここでは、7ライン単位で出力するものとして説明するが、これは、特に限定されないが、後述する補正係数(フィルタ)が、例えば7×7の画素に対応したものである場合の一例である。このため、補正係数が7×7画素以外の画素数に対応するものである場合には、ラインメモリ26は、その補正係数の画素数に応じたライン数単位で記憶および出力が可能な構成とされるとよい。
エッジ検出部27は、ラインメモリ26からの出力信号に基づいて、画像におけるエッジに関する情報(例えばエッジ方向とエッジ強度とを含む)を生成してエッジ・平坦部ブレンド処理部28に出力する。具体的には、例えば、処理対象画素(7×7画素のうちの中心画素)を基準として7×7画素の画素情報から算出される平坦度(Weightflat)を算出してエッジ・平坦部ブレンド処理部28に出力する。なお、この平坦度算出処理としては、例えば、特開2011−55038号公報に記載された処理と同様の処理を用いることができる。
エッジ・平坦部ブレンド処理部28は、ラインメモリ26からの入力信号中のRGB信号(Rin,Gin,Bin)と、エッジ検出部27から出力されるエッジ情報と、レンズ収差補正処理部25から出力される画像信号D1(Rd,Gd,Bd)とを用いて、エッジ情報を考慮した補正処理後の画像信号D2を生成してRGB信号処理部29に出力する。具体的には、エッジ・平坦部ブレンド処理部28は、エッジ検出部27により算出されたエッジ情報(例えば7×7画素の画素情報から算出される平坦度)に応じて、レンズ収差補正処理部25から出力される補正処理後の画像信号D1(Rd,Gd,Bd)の加重平均処理を実行して、RGB配列10aのRGB各画素値を算出する。具体的には、以下の3式に従ってRGB画素値を決定する。
R=(Weightflat)×(Rd)+(1−Weightflat)×Rin
G=(Weightflat)×(Gd)+(1−Weightflat)×Gin
B=(Weightflat)×(Bd)+(1−Weightflat)×Bin
G=(Weightflat)×(Gd)+(1−Weightflat)×Gin
B=(Weightflat)×(Bd)+(1−Weightflat)×Bin
この式の算出結果として得られるR、G、Bの各色信号がRGB信号処理部29に出力される。RGB信号処理部29は、RGB配列(ベイヤー配列)11aの信号に対する信号処理として、エッジ・平坦部ブレンド処理部28から出力されるRGB配列11aの信号に対する信号処理を実行してカラー画像を生成する。RGB信号処理部29は、例えば、ホワイトバランス調整処理、デモザイク処理、シェーディング処理、RGBカラーマトリクス処理およびガンマ補正処理などを実行してカラー画像を生成する。
RGB信号処理部29により生成されたカラー画像についての画像信号Doutは、外部へ出力されるか、装置内部のメモリーに記録される。
図示しない制御部は、上記の各処理部における一連の処理の制御を実行するものである。例えば、一連の処理を実行させるプログラムが図示しないメモリーに格納されており、制御部は、そのメモリーから読み出したプログラムを実行して一連の処理を制御する。なお、メモリーは、例えば磁気ディスク、光ディスク、フラッシュメモリ等の各種記録媒体によって構成可能である。
(補正係数について)
補正係数Fr,Fg,Fbは、レンズ収差補正フィルタ係数として、予め保持されているか、外部から入力されるものである。これらの補正係数Fr,Fg,Fbは、例えば、ウィナー(Wiener)フィルタを用いて算出することができる。このウィナーフィルタについて簡単に説明する。以下では、ぼけのない理想画像(原画像A1)と、ぼけのある撮影画像(撮影画像A2)と、撮影画像に対するフィルタ補正処理によって復元される復元画像(復元画像A3)との3つの画像を想定して、説明する。
補正係数Fr,Fg,Fbは、レンズ収差補正フィルタ係数として、予め保持されているか、外部から入力されるものである。これらの補正係数Fr,Fg,Fbは、例えば、ウィナー(Wiener)フィルタを用いて算出することができる。このウィナーフィルタについて簡単に説明する。以下では、ぼけのない理想画像(原画像A1)と、ぼけのある撮影画像(撮影画像A2)と、撮影画像に対するフィルタ補正処理によって復元される復元画像(復元画像A3)との3つの画像を想定して、説明する。
上記3つの画像のうち、原画像A1および復元画像A3の2つの画像の二乗誤差を最小とするフィルタが、最小二乗フィルタ、またはウィナーフィルタと呼ばれる。ここで、原画像A1をf(x,y)、撮影画像A2をg(x,y)、レンズ収差や手ぶれによる劣化関数をh(x,y)、ノイズ成分を、n(x,y)とすると、以下の式(1)が成り立つ。尚、(x,y)は各画像の画素位置であり、f(x,y)〜n(x,y)は各画像の座標位置(x,y)の画素値を示す場合もある。また、レンズ収差や手ぶれによる劣化関数h(x,y)は、固定値であると仮定する。
上記の式(1)の両辺をフーリエ変換すると、以下の式(2)が得られる。但し、G(u,v),H(u,v),F(u,v),N(u,v)はそれぞれ、g(x,y),h(x,y),f(x,y),n(x,y)のフーリエ変換を表す。
G(u,v)=H(u,v)×F(u,v)+N(u,v) ………(2)
レンズ収差や手ぶれによる劣化関数に零点がなく、ノイズ成分が既知であるとすると、上記の式(2)からF(u,v)は、以下の式(3)のように表すことができる。
しかしながら、一般にノイズ成分は未知であるため、上記式(3)を厳密に解くことはできない。そこで、原画像A1および復元画像A3の誤差を最小とする以下の式(4)のウィナーフィルタK(u,v)を用いて補正が行われる。尚、(Sn(u,v)/Sf(u,v))は、原画像A1と、ノイズ成分とのパワースペクトル密度に対応するものである。
この式(4)で表されるウィナーフィルタを逆フーリエ変換したもの(k(x,y))と、撮影画像A2とを実空間で畳み込むことで、以下の式(5)に示したように、補正がなされた復元画像A3のf'(x,y)を得ることができる。
上記の式(5)に対応するウィナーフィルタの一例を、図3Aおよび図3Bに示す。図3Aは、撮影画像におけるG画素を中心とする7×7画素について示し、図3Bは、図3Aの画素領域の中心のG画素を補正対象画素Pt(画素Pgt)とするウィナーフィルタの一例を示したものである。
ここで、撮影画像は、RGB画素からなるRAW画像である。補正対象画素Pgtは、図3Aに示した7×7画素の中心のG画素である。図3Bに示したウィナーフィルタは、7×7画素に含まれる複数のG画素の各々に対する乗算係数を示したものである。7×7画素に含まれるG画素の画素値に各係数を乗算して加算する畳み込み演算を実行することで、中心のG画素の補正画素値が算出される。具体的には、以下の式(6)によりG画素の画素値を補正することができる。
同様に、図4Aは、撮影画像におけるR画素を中心とする7×7の画素領域について示し、図4Bは、図4Aの画素領域の中心のR画素を補正対象画素Pt(画素Prt)とするウィナーフィルタの一例を示したものである。図5Aは、撮影画像におけるB画素を中心とする7×7の画素領域について示し、図5Bは、図5Aの画素領域の中心のB画素を補正対象画素Pt(画素Pbt)とするウィナーフィルタの一例を示したものである。上記のG画素の場合と同様にしてR画素およびB画素のそれぞれにおいて補正値が算出される。
この補正係数を算出する際は、レンズPSF(Point Spread Function:点拡がり関数)データあるいはMTF(Modulation Transfer Function)データが用いられる。レンズ30の特性に応じて算出された補正係数が、補正係数Fr,Fg,Fbとして予め保持されているか、または外部より入力される。
(補正係数の詳細構成例)
本実施の形態では、補正係数Fr,Fg,Fbのそれぞれが、互いに交差する第1軸および第2軸のそれぞれに、複数対応づけられている(設定されている)。以下では、代表してG画素補正用の補正係数Fgを用いて説明する。補正係数Fgは、1つのレンズ30に対して複数設定されている。図6にその一例を示す。尚、図6には、補正係数の一例として、7×7画素に対応する補正フィルタを図示している。
本実施の形態では、補正係数Fr,Fg,Fbのそれぞれが、互いに交差する第1軸および第2軸のそれぞれに、複数対応づけられている(設定されている)。以下では、代表してG画素補正用の補正係数Fgを用いて説明する。補正係数Fgは、1つのレンズ30に対して複数設定されている。図6にその一例を示す。尚、図6には、補正係数の一例として、7×7画素に対応する補正フィルタを図示している。
補正係数Fgは、例えば互いに直交するX軸およびY軸のそれぞれに複数対応づけられている。X軸上の正の方向には、例えば4つの補正係数f11〜f14(係数列q1)が設定され、X軸上の負の方向には、例えば4つの補正係数f31〜f34(係数列q3)が設定されている。Y軸上の正の方向には、例えば4つの補正係数f21〜f24(係数列q2)が設定され、Y軸上の負の方向には、例えば4つの補正係数f41〜f44(係数列q4)が設定されている。尚、X軸(第1軸)およびY軸(第2軸)は、光軸(光学中心)において交差(ここでは直交)する。この光学中心(像高が0である点)には、補正係数f0が設定されている。
補正係数f11は、係数列q1のうち、例えば最も光軸寄りの(光軸に近い)像高ih1(像高ih1の位置にある像点)に設定されている。補正係数f12は、係数列q1のうち、像高ih1の隣の(1つ外側の)像高ih2に設定されている。補正係数f13は、係数列q1のうち、像高ih2の隣の(1つ外側の)像高ih3に設定されている。補正係数f14は、係数列q1のうち、像高ih3の隣の(1つ外側の)像高ih4に設定されている。
同様に、補正係数f21は、係数列q2のうち像高ih1に設定されている。補正係数f22は、係数列q2のうち像高ih2に設定されている。補正係数f23は、係数列q2のうち像高ih3に設定されている。補正係数f24は、係数列q2のうち像高ih4に設定されている。また、補正係数f31は、係数列q3のうち像高ih1に設定されている。補正係数f32は、係数列q3のうち像高ih2に設定されている。補正係数f33は、係数列q3のうち像高ih3に設定されている。補正係数f34は、係数列q3のうち像高ih4に設定されている。また、補正係数f41は、係数列q4のうち像高ih1に設定されている。補正係数f42は、係数列q4のうち像高ih2に設定されている。補正係数f43は、係数列q4のうち像高ih3に設定されている。補正係数f44は、係数列q4のうち像高ih4に設定されている。
尚、ここでは、一例として、像高ih4が、レンズ30のイメージサークル(最外端)に相当する場合を例に挙げて説明する。
このように本実施の形態では、補正係数Fgが、複数の像高毎および複数の角度(X軸およびY軸上の列)毎に、複数設定されている。図6に示した例では、4つの像高と、4つの角度方向とのそれぞれの位置座標において、複数の補正係数Fg(具体的には、補正係数f11〜f14,f21〜f24,f31〜34,f41〜f44)が設定されている。これらの補正係数Fgは、上述したようなウィナーフィルタを用いた手法により算出することができる。本実施の形態では、このように2軸上に対応づけられた複数の補正係数Fgの中から2以上の補正係数(補正係数群Fgrp)が、画素Ptの位置座標に応じて取得されるようになっている。
補正係数Fr,Fbについても同様で、2軸(第1軸,第2軸)上のそれぞれに複数対応づけられている。尚、R,G,B毎に、交差する2軸上に複数の補正係数が対応づけられていればよく、これら2つの軸は必ずしも直交していなくともよい(斜交していてもよい)。例えば、有効画素領域301の対角線に沿って2軸が配置されていてもよい。
尚、これらの補正係数Fr,Fg,Fbは、例えば、レンズ30の製造過程もしくはカメラモジュールの製造過程において算出され、レンズ30と関連付けられて保持される。例えば、レンズ30がカメラの本体に対して着脱可能である場合、レンズ30の筐体部分にメモリーなどの保持機能が備えられており、その保持機能により補正係数の情報が保持される。この場合には、補正係数Fr,Fg,Fbは、信号処理部20の外部のレンズ30側から供給される。あるいは、レンズ30がカメラと一体型の場合には、信号処理部20に予め補正係数Fr,Fg,Fbが保持されていてもよい。このように、補正係数は、レンズ30毎に算出され、信号処理部20に予め保持されるか、または外部より入力される。
(像高の設定)
上述のように、1つのレンズ30に対して、選択的な数の像高(図6では4つの像高ih1〜ih4)において補正係数が算出されるが、この像高の数を増やす、換言すれば、像高の間隔を狭めることで、補正係数を用いた補正精度は向上する。しかしながら、保持すべき補正係数が多くなり、メモリー容量が大きくなる。このため、像高の数は、補正精度とメモリー容量との兼ね合いから設定されることが望ましい。像高間の領域は、後述するように補間によって算出することが可能である。
上述のように、1つのレンズ30に対して、選択的な数の像高(図6では4つの像高ih1〜ih4)において補正係数が算出されるが、この像高の数を増やす、換言すれば、像高の間隔を狭めることで、補正係数を用いた補正精度は向上する。しかしながら、保持すべき補正係数が多くなり、メモリー容量が大きくなる。このため、像高の数は、補正精度とメモリー容量との兼ね合いから設定されることが望ましい。像高間の領域は、後述するように補間によって算出することが可能である。
設定される像高の間隔は、等間隔とすることが可能であり、また、その間隔は、レンズ特性によらず一定としても良い。あるいは、等間隔とせずに、図7および図8に示したように、特徴がある像高(像高0〜4)を検出してもよい。これにより、効果的に補正係数の数を削減することができる。尚、図7および図8は、像高に対するMTFデータを示す図である。図8には、イメージサークル303と、有効画素領域301とについても示している。このように、MTFデータは、像高により変化する。そこで、変化の度合いが相対的に大きい像点における像高を選択し、選択した像高において補正係数を算出する。
詳細には、像高0は、レンズの中心位置として選択される。像高2は、MTFデータが落ち込む点における像高であるため、選択される。像高1は、像高0と像高2の間隔が離れているため、その略中央の像高として選択される。像高3は、像高2で一旦下がったMTFデータが再度上がり、そして再度下がる転換点なので、選択される。像高4は、レンズの端部として選択される。例えば、これらの像高0〜4に相当するレンズ30上の複数箇所から、MTFデータもしくはPSFデータが取得され、上記したような処理により補正係数を算出するとよい。
このように、補正係数が算出される像高は、MTFデータにおいて変曲点となる像点における像高が選択されるとよい。また、レンズ中心や端なども、レンズ内では特徴的な位置であるため、その位置の像高も選択されるとよい。更に、特徴点となる像高の数が少ない場合や、選択された像高の間隔が広い場合等には、適切な間隔になるように像高を追加してもよい。
像高に対するMTFデータは、レンズにより異なる可能性がある。よって、レンズ毎に、データが取得され、像高が選択され、レンズ収差補正フィルタ係数が算出されることが望ましい。レンズ毎に異なる特性に対応したレンズ収差補正フィルタ係数を算出できるようになり、補正処理をより精度良く行えるようになる。
[作用、効果]
上記の撮像素子1では、レンズ30を通過した光線が画素部10に入射することで、光電変換によって画素毎に画素信号が得られる。このとき、画素部10では、撮像信号D0として、RGB配列10aに対応したR,G,BのカラーのRAWデータが取得される。得られた撮像信号D0は、信号処理部20へ出力される。
上記の撮像素子1では、レンズ30を通過した光線が画素部10に入射することで、光電変換によって画素毎に画素信号が得られる。このとき、画素部10では、撮像信号D0として、RGB配列10aに対応したR,G,BのカラーのRAWデータが取得される。得られた撮像信号D0は、信号処理部20へ出力される。
信号処理部20は、入力された撮像信号D0に基づいて、画像の補正処理を行う。具体的には、まず、位置座標算出部21が、画素部10の各画素の画素値に対応付けられた各画素の座標位置を示すxyアドレスに基づいて、補正対象の画素Ptの位置座標を検出する。詳細には、距離算出部21Aが、画素Ptの距離rを算出する。算出された距離rに関する情報は、補正係数取得部22と像高間係数算出部23Aとのそれぞれに出力される。また、角度算出部21Bが、画素Ptの画像領域内での象限位置(角度d)を算出する。算出された角度dに関する情報は、補正係数取得部22と象限間係数算出部23Bとにそれぞれ出力される。
補正係数取得部22は、入力された画素Ptの位置座標(距離r,角度d)に応じて、複数の補正係数(ここでは補正係数Fgを例に挙げる)の中から、2以上の補正係数(補正係数群Fgrp)を選択(取得)する。取得された補正係数群Fgrpに関する情報は、補正係数ブレンド処理部24に供給される。
像高間係数算出部23Aは、入力された距離rに基づいて、像高間のブレンド処理(補間処理)で使用する係数Arを算出する。算出された係数Arに関する情報は、補正係数ブレンド処理部24に出力される。象限間係数算出部23Bは、入力された角度dに基づいて、象限間のブレンド処理(補間処理)で使用する係数Adを算出する。算出された係数Adに関する情報は、補正係数ブレンド処理部24に出力される。
補正係数ブレンド処理部24は、入力された補正係数群Fgrpを用いて、画素Ptの補正係数F1を補間処理により生成する。具体的には、補正係数群Fgrpを構成する各補正係数と、係数Ar,Adとを用いた補間処理(ブレンド処理)により、画素Ptの補正係数F1(第1の補正係数)を算出する。
図9に、補正係数のブレンド処理の一例を示す。このようにXY面内において、角度間(象限間,軸間)、および像高間のそれぞれにおいて補間処理を行う。具体的には、2以上の補正係数Fgを含む補正係数群Fgrpと係数Ar,Adとを用いた補間処理により、7×7画素の中心の画素Ptの補正係数F1を算出する。尚、像高ihnは、例えば図6に示した像高ih1〜ih4のうちのいずれかの像高(像高位置)に対応し、像高ihn+1は、像高ihnの1つ外側の像高に対応している。また、ここでは、画素Ptは、XY面内における第1象限に位置するG画素として説明する。
この例では、補正係数取得部22により、複数の補正係数Fg(図6に示した補正係数f11〜f14,f21〜f24,f31〜34,f41〜f44)の中から、画素Ptの位置座標(距離r,角度d)に応じて、適当な2以上の補正係数Fg(補正係数群Fgrp)が選択(取得)される。補正係数群Fgrpは、例えばX軸上の正方向に設定された2つの補正係数F0n,F0n+1(図6に示した係数列q1のうちのいずれか2つの補正係数)と、例えばY軸上の正方向に設定された2つの補正係数F90n,F90n+1(図6に示した係数列q2のうちのいずれか2つの補正係数)とを含んでいる。
これらの補正係数F0n,F0n+1,F90n,F90n+1のうち、例えば像高ihn上に対応づけられた補正係数F0n,F90nと、角度dに基づいて算出された係数Ad(0≦Ad<1)を用いて、線形演算により以下の式(6)から、補正係数のブレンド処理を行う。これにより、像高ihn上において象限間(軸間)のブレンド処理がなされ、補正係数F2(第2の補正係数)が算出される。
F2=(1−Ad)×F0n+Ad×F90n ………(6)
同様に、像高ihn+1上に対応づけられた補正係数F0n+1,F90n+1と、角度dに基づいて算出された係数Ad(0≦Ad<1)を用いて、線形演算により以下の式(7)から補正係数のブレンド処理を行う。これにより、像高ihn+1上において象限間(軸間)のブレンド処理がなされ、補正係数F3(第3の補正係数)が算出される。
F3=(1−Ad)・F0n+1+Ad×F90n+1 ………(7)
F3=(1−Ad)・F0n+1+Ad×F90n+1 ………(7)
続いて、これらの補正係数F2,F3を、距離r(光学中心からの距離)に基づいて算出された係数Ar(0≦Ar<1)を用いて、線形演算により以下の式(8)から、補正係数のブレンド処理を行う。これにより、像高間のブレンド処理がなされ、距離r,角度dの位置の画素Ptの補正係数F1が算出される。即ち、画素Ptの補正係数が最適化される。
F1=(1−Ar)×F2+Ad×F3 ………(8)
F1=(1−Ar)×F2+Ad×F3 ………(8)
上記のような補間処理(ブレンド処理)によって算出された補正係数F1についての情報は、レンズ収差補正処理部25に出力される。
レンズ収差補正処理部25は、ラインメモリ26から入力された各色の信号(Rin,Gin,Bin)に対して、上記の補正係数F1を用いて画素Ptにおける画素値に対して補正処理(一例として、レンズ収差補正処理)を施す。具体的には、補正係数F1が7×7画素に対応するものである場合、それらの7×7画素に対して乗算して加算をする演算処理を実行して、その中心の画素Ptの画素値を補正する。距離rの位置の画素Ptの画素値をPrとすると、レンズ収差補正後の画素値Pr1は、以下の式(9)で算出される。
このようにして、画素Ptの画素値を補正する。同様にして、R画素およびB画素に対しても、象限間および像高間で補正係数のブレンド処理を行って補正係数F1を算出した後、その補正係数F1を用いた補正処理(レンズ収差補正処理)を行う。
尚、本実施の形態では、象限間および像高間の補正係数をブレンド処理した(補間した)後、画素値に対して補正処理を行っているが、ブレンド処理(補間処理)は、画素値の補正後に行ってもよい。その場合の機能ブロック構成を図10に示す。即ち、レンズ収差補正処理部25aが、2軸上に対応づけられた複数の補正係数を用いて補正対象である画素Ptの画素値を補正する。この後、ブレンド処理部26aが、補正後の画素値に基づいて、象限間および像高間での補間処理を行ってもよい。また、ブレンド処理と補正処理との各処理を行う順番を、補正係数のデータ量に応じて決定するようにしてもよい。
これにより、画像の補正処理、特に画素Ptの位置座標(像高および象限位置)に依存する収差ばらつきを考慮した補正処理を行うことが可能である。レンズ収差補正処理部25による補正処理後の画像信号D1(Rd,Gd,Bd)は、エッジ・平坦部ブレンド処理部28に出力される。
エッジ・平坦部ブレンド処理部28は、ラインメモリ26から入力されたRGB信号(Rin,Gin,Bin)と、エッジ検出部27から入力されたエッジ情報と、レンズ収差補正処理部25から入力された画像信号D1(Rd,Gd,Bd)とを用いて、エッジ情報を考慮した補正処理後の画像信号D2を生成する。具体的には、エッジ・平坦部ブレンド処理部28は、エッジ検出部27により算出されたエッジ情報(例えば7×7画素の画素情報から算出される平坦度)に応じて、レンズ収差補正処理部25から出力される補正処理後の画像信号D1(Rd,Gd,Bd)の加重平均処理を実行して、RGB配列10aにおけるRGBの各画素値を算出する。具体的には、以下の3式に従ってRGB画素値を決定する。
R=(Weightflat)×(Rd)+(1−Weightflat)×Rin
G=(Weightflat)×(Gd)+(1−Weightflat)×Gin
B=(Weightflat)×(Bd)+(1−Weightflat)×Bin
G=(Weightflat)×(Gd)+(1−Weightflat)×Gin
B=(Weightflat)×(Bd)+(1−Weightflat)×Bin
この式の算出結果として得られるR、G、Bの各色信号がRGB信号処理部29に出力される。生成された画像信号D2は、RGB信号処理部29に出力される。
RGB信号処理部29は、入力されたRGB配列(ベイヤー配列)信号に対する信号処理、例えば、ホワイトバランス調整処理、デモザイク処理、シェーディング処理、RGBカラーマトリクス処理およびガンマ補正処理などを実行してカラー画像を生成する。生成されたカラー画像についての画像信号Doutは、外部へ出力されるか、装置内部のメモリーに記録される。
上記のように本実施の形態では、互いに交差する第1軸および第2軸(X軸,Y軸)のそれぞれに対応づけられた複数の補正係数の中から、補正対象の画素Ptの位置座標(距離r,角度d)に応じて2以上の補正係数が取得され、取得された補正係数を用いて画像の補正処理が行われる。これにより、画素Ptの位置座標に応じて補正係数を最適化することができる。
ここで、レンズ30の通過光線に基づく撮影画像では、発生するぼけが、レンズ30の特性等に応じて異なるものである。例えば、像高(光学中心からの距離)が大きくなるほど、レンズの収差に起因した画像のぼけが大きくなる。また、レンズの製造誤差等に起因して、レンズの像高に限らず、光軸に直交するXY面内の領域(象限)毎に収差にばらつきが生じ、解像度にばらつきが発生する。
このように、同一像高に位置する像点であっても、レンズ30のぼけ具合は異なっており、等方的ではないことが多い。これは、例えば、レンズの製造誤差等に起因する。レンズ30の解像度にばらつきがある場合、補正処理を行っても、画素位置によって補正が足りない箇所あるいは過補正となる箇所が生じ、画質劣化につながる。
これに対し本実施の形態では、レンズ30のぼけ具合が等方的ではない場合、特にレンズ30の上下方向または左右方向の片側のみにぼけが生じる場合(いわゆる片ぼけが生じた場合)に、特に有効な信号処理を実現する。
以上のように本実施の形態の撮像素子1では、互いに交差する第1軸および第2軸(X軸,Y軸)のそれぞれに対応づけられた複数の補正係数の中から、補正対象の画素Ptの位置座標(距離r,角度d)に応じて2以上の補正係数が取得され、取得された補正係数を用いて画像の補正処理が行われる。これにより、補正係数を最適化して、レンズの製造誤差等に起因して解像度のばらつきが生じた場合にも、十分な補正効果を得ることができる。よって、レンズの解像度にばらつきが生じた場合にも、画質劣化を抑制することが可能となる。
また、特にレンズ30の解像度が高い領域において、画素値が過補正されることを抑制でき、画質劣化の抑制に有利となる。更に、カメラモジュールの製造歩留まりを向上させることができる。加えて、撮像素子1の内部でレンズ30の解像度ばらつきを考慮した補正処理がなされることから、ユーザによる調整作業も不要となる。
次に、上記実施の形態の変形例について説明する。以下では、上記実施の形態と同様の構成要素については同一の符号を付し、その説明を省略する。
<変形例1>
図11は、変形例1に係る補正係数(Fg,Fr,Fbのいずれか)と、像高および有効画素領域との対応を表す模式図である。上記実施の形態では、図6に示したように、X軸上およびY軸上に沿って係数列q1〜q4が配置された構成を例示したが、本変形例のように、係数列q1〜q4は、X軸およびY軸からそれぞれ反時計まわりに45°回転した2軸に対応づけられていてもよい。この場合、レンズの片ぼけが斜め方向にそって発生している場合に有効となる。尚、軸の回転角度は、45°に限らず、レンズの片ぼけの発生領域に応じて0°から90°までの範囲で設定することが可能である。
図11は、変形例1に係る補正係数(Fg,Fr,Fbのいずれか)と、像高および有効画素領域との対応を表す模式図である。上記実施の形態では、図6に示したように、X軸上およびY軸上に沿って係数列q1〜q4が配置された構成を例示したが、本変形例のように、係数列q1〜q4は、X軸およびY軸からそれぞれ反時計まわりに45°回転した2軸に対応づけられていてもよい。この場合、レンズの片ぼけが斜め方向にそって発生している場合に有効となる。尚、軸の回転角度は、45°に限らず、レンズの片ぼけの発生領域に応じて0°から90°までの範囲で設定することが可能である。
<変形例2>
図12は、変形例2に係る補正係数算出および信号処理のフローを表したものである。上記実施の形態では、補正係数Fr,Fg,Fbが、レンズ30の製造過程またはカメラモジュールの製造過程において算出され、キャリブレーションの情報として、予め回路内に保持されているか、または外部(レンズ30を含む)から入力されることを説明した。しかしながら、本開示の信号処理(画像処理)は、このようなレンズ30に関するキャリブレーションの情報がない場合(例えばレンズ30が古いレンズである場合)にも適用することができる。
図12は、変形例2に係る補正係数算出および信号処理のフローを表したものである。上記実施の形態では、補正係数Fr,Fg,Fbが、レンズ30の製造過程またはカメラモジュールの製造過程において算出され、キャリブレーションの情報として、予め回路内に保持されているか、または外部(レンズ30を含む)から入力されることを説明した。しかしながら、本開示の信号処理(画像処理)は、このようなレンズ30に関するキャリブレーションの情報がない場合(例えばレンズ30が古いレンズである場合)にも適用することができる。
例えば、ユーザによる補正係数の入力が行われてもよい。具体的には、図12に示したように、カメラ本体にレンズ30を取り付け(ステップS21)た後、撮像素子1によりテストチャート(テストパターン)を撮影する(ステップS22)。続いて、撮影された画像から、レンズ収差特性(例えばPSFデータまたはMTFデータ等)を取得する(ステップS23)。取得されたレンズ収差特性に基づいて、補正係数を算出し(ステップS24)、この補正係数を用いてレンズ収差の補正がなされるようにしてもよい。
このように、補正係数は、レンズ30の製造過程ではなく、カメラの使用時に算出されてもよい。この場合、レンズ30として、キャリブレーション情報を持たない古いレンズを使用可能となる。また、レンズ30の使用環境の変化や経年変化などに対応して、補正係数を適切に更新することが可能となる。また、レンズ30がカメラ本体に対して交換可能である場合、レンズ30が他のレンズに交換されたときなどにも対応可能となる。
以上、実施の形態およびその変形例を挙げて本開示を説明したが、本開示は上記実施の形態等に限定されるものではなく、種々変形が可能である。例えば、上述した一連の信号処理は、ハードウエアにより実行することもできるし、ソフトウエアにより実行することもできる。一連の処理をソフトウエアにより実行する場合には、例えばそのソフトウエアを構成するプログラムが、コンピュータにインストールされる。ここで、コンピュータには、専用のハードウエアに組み込まれているコンピュータや、各種のプログラムをインストールすることで、各種の機能を実行することが可能な、例えば汎用のパーソナルコンピュータなどが含まれる。
また、本明細書中に記載された効果は一例であり、他の効果であってもよいし、更に他の効果を含んでいてもよい。
尚、本開示は以下のような構成も取ることができる。
(1)
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、
前記取得部により取得された補正係数を用いて画像の補正処理を行う補正部と
を備えた画像処理装置。
(2)
前記補正部は、
前記取得部により取得された補正係数を用いた補間処理により、前記位置座標における第1の補正係数を算出する補正係数算出部と、
前記補正係数算出部により算出された第1の補正係数を用いて前記位置座標に対応する画素値を補正する補正処理部と
を有する
上記(1)に記載の画像処理装置。
(3)
前記補正部は、前記位置座標の前記第1軸または前記第2軸に対する角度に基づいて第1の補間処理を行う
上記(2)に記載の画像処理装置。
(4)
前記補正部は、前記第1の補間処理の前または後に、前記位置座標の像高に基づいて第2の補間処理を行う
上記(3)に記載の画像処理装置。
(5)
前記第1の補間処理では、
前記第1軸において第1の像高に対応づけられた補正係数と、前記第2軸において前記第1の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第2の補正係数を算出し、
前記第1軸において前記第1の像高の隣の第2の像高に対応づけられた補正係数と、前記第2軸において前記第2の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第3の補正係数を算出する
上記(4)に記載の画像処理装置。
(6)
前記第2の補間処理では、前記第1の補間処理の後、
前記第2の補正係数と前記第3の補正係数とを、前記位置座標の像高に応じて補間することにより、前記第1の補正係数を算出する
上記(5)に記載の画像処理装置。
(7)
前記補正部は、
前記取得部により取得された補正係数を用いて画素値を補正し、
補正された画素値に基づく補間処理により前記画像の補正処理を行う
上記(1)に記載の画像処理装置。
(8)
前記取得部は、前記第1軸および前記第2軸に対応づけられた複数の補正係数を色毎に取得し、
前記補正部は、取得された色毎の補正係数を用いて画像の補正処理を行う
上記(1)〜(7)のいずれか1つに記載の画像処理装置。
(9)
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得し、
取得された補正係数を用いて画像の補正処理を行う
画像処理方法。
(10)
前記画像の補正処理を行う際に、
取得された補正係数を用いた補間処理により、前記位置座標における第1の補正係数を算出し、
算出された第1の補正係数を用いて前記位置座標に対応する画素値を補正する
上記(9)に記載の画像処理方法。
(11)
前記位置座標の前記第1軸または前記第2軸に対する角度に基づいて第1の補間処理を行う
上記(10)に記載の画像処理方法。
(12)
前記第1の補間処理の前または後に、前記位置座標の像高に基づいて第2の補間処理を行う
上記(11)に記載の画像処理方法。
(13)
前記第1の補間処理では、
前記第1軸において第1の像高に対応づけられた補正係数と、前記第2軸において前記第1の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第2の補正係数を算出し、
前記第1軸において前記第1の像高の隣の第2の像高に対応づけられた補正係数と、前記第2軸において前記第2の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第3の補正係数を算出する
上記(12)に記載の画像処理方法。
(14)
前記第2の補間処理では、前記第1の補間処理の後、
前記第2の補正係数と前記第3の補正係数とを、前記位置座標の像高に応じて補間することにより、前記第1の補正係数を算出する
上記(13)に記載の画像処理方法。
(15)
取得された補正係数を用いて画素値を補正し、
補正された画素値に基づく補間処理により前記画像の補正処理を行う
上記(9)に記載の画像処理方法。
(16)
前記第1軸および前記第2軸に対応づけられた複数の補正係数を色毎に取得し、
取得された色毎の補正係数を用いて画像の補正処理を行う
上記(9)〜(15)のいずれか1つに記載の画像処理方法。
(17)
前記第1軸および前記第2軸に対応づけられた複数の補正係数のデータ量に応じて、
取得された補正係数を用いた補間処理により前記位置座標における第1の補正係数を算出した後、前記第1の補正係数を用いて前記位置座標に対応する画素値を補正することにより前記画像の補正処理を行うか、または、
取得された補正係数を用いて画素値を補正し、補正された画素値に基づく補間処理により前記画像の補正処理を行うか、を決定する
上記(9)〜(16)のいずれか1つに記載の画像処理方法。
(18)
複数の画素を含む画素部と、
前記画素部から得られた画像に対して信号処理を施す信号処理部と
を備え、
前記信号処理部は、
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、
前記取得部により取得された補正係数を用いて前記画像の補正処理を行う補正部と
を備えた撮像素子。
(19)
前記画素部と前記信号処理部とは積層されている
上記(18)に記載の撮像素子。
(1)
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、
前記取得部により取得された補正係数を用いて画像の補正処理を行う補正部と
を備えた画像処理装置。
(2)
前記補正部は、
前記取得部により取得された補正係数を用いた補間処理により、前記位置座標における第1の補正係数を算出する補正係数算出部と、
前記補正係数算出部により算出された第1の補正係数を用いて前記位置座標に対応する画素値を補正する補正処理部と
を有する
上記(1)に記載の画像処理装置。
(3)
前記補正部は、前記位置座標の前記第1軸または前記第2軸に対する角度に基づいて第1の補間処理を行う
上記(2)に記載の画像処理装置。
(4)
前記補正部は、前記第1の補間処理の前または後に、前記位置座標の像高に基づいて第2の補間処理を行う
上記(3)に記載の画像処理装置。
(5)
前記第1の補間処理では、
前記第1軸において第1の像高に対応づけられた補正係数と、前記第2軸において前記第1の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第2の補正係数を算出し、
前記第1軸において前記第1の像高の隣の第2の像高に対応づけられた補正係数と、前記第2軸において前記第2の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第3の補正係数を算出する
上記(4)に記載の画像処理装置。
(6)
前記第2の補間処理では、前記第1の補間処理の後、
前記第2の補正係数と前記第3の補正係数とを、前記位置座標の像高に応じて補間することにより、前記第1の補正係数を算出する
上記(5)に記載の画像処理装置。
(7)
前記補正部は、
前記取得部により取得された補正係数を用いて画素値を補正し、
補正された画素値に基づく補間処理により前記画像の補正処理を行う
上記(1)に記載の画像処理装置。
(8)
前記取得部は、前記第1軸および前記第2軸に対応づけられた複数の補正係数を色毎に取得し、
前記補正部は、取得された色毎の補正係数を用いて画像の補正処理を行う
上記(1)〜(7)のいずれか1つに記載の画像処理装置。
(9)
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得し、
取得された補正係数を用いて画像の補正処理を行う
画像処理方法。
(10)
前記画像の補正処理を行う際に、
取得された補正係数を用いた補間処理により、前記位置座標における第1の補正係数を算出し、
算出された第1の補正係数を用いて前記位置座標に対応する画素値を補正する
上記(9)に記載の画像処理方法。
(11)
前記位置座標の前記第1軸または前記第2軸に対する角度に基づいて第1の補間処理を行う
上記(10)に記載の画像処理方法。
(12)
前記第1の補間処理の前または後に、前記位置座標の像高に基づいて第2の補間処理を行う
上記(11)に記載の画像処理方法。
(13)
前記第1の補間処理では、
前記第1軸において第1の像高に対応づけられた補正係数と、前記第2軸において前記第1の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第2の補正係数を算出し、
前記第1軸において前記第1の像高の隣の第2の像高に対応づけられた補正係数と、前記第2軸において前記第2の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第3の補正係数を算出する
上記(12)に記載の画像処理方法。
(14)
前記第2の補間処理では、前記第1の補間処理の後、
前記第2の補正係数と前記第3の補正係数とを、前記位置座標の像高に応じて補間することにより、前記第1の補正係数を算出する
上記(13)に記載の画像処理方法。
(15)
取得された補正係数を用いて画素値を補正し、
補正された画素値に基づく補間処理により前記画像の補正処理を行う
上記(9)に記載の画像処理方法。
(16)
前記第1軸および前記第2軸に対応づけられた複数の補正係数を色毎に取得し、
取得された色毎の補正係数を用いて画像の補正処理を行う
上記(9)〜(15)のいずれか1つに記載の画像処理方法。
(17)
前記第1軸および前記第2軸に対応づけられた複数の補正係数のデータ量に応じて、
取得された補正係数を用いた補間処理により前記位置座標における第1の補正係数を算出した後、前記第1の補正係数を用いて前記位置座標に対応する画素値を補正することにより前記画像の補正処理を行うか、または、
取得された補正係数を用いて画素値を補正し、補正された画素値に基づく補間処理により前記画像の補正処理を行うか、を決定する
上記(9)〜(16)のいずれか1つに記載の画像処理方法。
(18)
複数の画素を含む画素部と、
前記画素部から得られた画像に対して信号処理を施す信号処理部と
を備え、
前記信号処理部は、
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、
前記取得部により取得された補正係数を用いて前記画像の補正処理を行う補正部と
を備えた撮像素子。
(19)
前記画素部と前記信号処理部とは積層されている
上記(18)に記載の撮像素子。
1…撮像素子、10…画素部、20…信号処理部、21…位置座標算出部、21A…距離算出部、21B…角度算出部、22…補正係数取得部、23A…像高間係数算出部、23B…象限間係数算出部、24…補正係数ブレンド処理部、25…レンズ収差補正処理部、26…ラインメモリ、27…エッジ検出部、28…エッジ・平坦部ブレンド処理部、29…RGB信号処理部。
Claims (19)
- 互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、
前記取得部により取得された補正係数を用いて画像の補正処理を行う補正部と
を備えた画像処理装置。 - 前記補正部は、
前記取得部により取得された補正係数を用いた補間処理により、前記位置座標における第1の補正係数を算出する補正係数算出部と、
前記補正係数算出部により算出された第1の補正係数を用いて前記位置座標に対応する画素値を補正する補正処理部と
を有する
請求項1に記載の画像処理装置。 - 前記補正部は、前記位置座標の前記第1軸または前記第2軸に対する角度に基づいて第1の補間処理を行う
請求項2に記載の画像処理装置。 - 前記補正部は、前記第1の補間処理の前または後に、前記位置座標の像高に基づいて第2の補間処理を行う
請求項3に記載の画像処理装置。 - 前記第1の補間処理では、
前記第1軸において第1の像高に対応づけられた補正係数と、前記第2軸において前記第1の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第2の補正係数を算出し、
前記第1軸において前記第1の像高の隣の第2の像高に対応づけられた補正係数と、前記第2軸において前記第2の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第3の補正係数を算出する
請求項4に記載の画像処理装置。 - 前記第2の補間処理では、前記第1の補間処理の後、
前記第2の補正係数と前記第3の補正係数とを、前記位置座標の像高に応じて補間することにより、前記第1の補正係数を算出する
請求項5に記載の画像処理装置。 - 前記補正部は、
前記取得部により取得された補正係数を用いて前記補正対象画素の画素値を補正し、
補正された画素値に基づく補間処理により前記画像の補正処理を行う
請求項1に記載の画像処理装置。 - 前記取得部は、前記第1軸および前記第2軸に対応づけられた複数の補正係数を色毎に取得し、
前記補正部は、取得された色毎の補正係数を用いて画像の補正処理を行う
請求項1に記載の画像処理装置。 - 互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得し、
取得された補正係数を用いて画像の補正処理を行う
画像処理方法。 - 前記画像の補正処理を行う際に、
取得された補正係数を用いた補間処理により、前記位置座標における第1の補正係数を算出し、
算出された第1の補正係数を用いて前記位置座標に対応する画素値を補正する
請求項9に記載の画像処理方法。 - 前記位置座標の前記第1軸または前記第2軸に対する角度に基づいて第1の補間処理を行う
請求項10に記載の画像処理方法。 - 前記第1の補間処理の前または後に、前記位置座標の像高に基づいて第2の補間処理を行う
請求項11に記載の画像処理方法。 - 前記第1の補間処理では、
前記第1軸において第1の像高に対応づけられた補正係数と、前記第2軸において前記第1の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第2の補正係数を算出し、
前記第1軸において前記第1の像高の隣の第2の像高に対応づけられた補正係数と、前記第2軸において前記第2の像高に対応づけられた補正係数とを前記角度に応じて補間することにより、第3の補正係数を算出する
請求項12に記載の画像処理方法。 - 前記第2の補間処理では、前記第1の補間処理の後、
前記第2の補正係数と前記第3の補正係数とを、前記位置座標の像高に応じて補間することにより、前記第1の補正係数を算出する
請求項13に記載の画像処理方法。 - 取得された補正係数を用いて前記補正対象画素の画素値を補正し、
補正された画素値に基づく補間処理により前記画像の補正処理を行う
請求項9に記載の画像処理方法。 - 前記第1軸および前記第2軸に対応づけられた複数の補正係数を色毎に取得し、
取得された色毎の補正係数を用いて画像の補正処理を行う
請求項9に記載の画像処理方法。 - 前記第1軸および前記第2軸に対応づけられた複数の補正係数のデータ量に応じて、
取得された補正係数を用いた補間処理により前記位置座標における第1の補正係数を算出した後、前記第1の補正係数を用いて前記位置座標に対応する画素値を補正することにより前記画像の補正処理を行うか、または、
取得された補正係数を用いて前記補正対象画素の画素値を補正し、補正された画素値に基づく補間処理により前記画像の補正処理を行うか、を決定する
請求項9に記載の画像処理方法。 - 複数の画素を含む画素部と、
前記画素部から得られた画像に対して信号処理を施す信号処理部と
を備え、
前記信号処理部は、
互いに交差する第1軸および第2軸のそれぞれに対応づけられた複数の補正係数の中から、補正対象画素の位置座標に応じて2以上の補正係数を取得する取得部と、
前記取得部により取得された補正係数を用いて前記画像の補正処理を行う補正部と
を備えた撮像素子。 - 前記画素部と前記信号処理部とは積層されている
請求項18に記載の撮像素子。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016063188A JP2017183775A (ja) | 2016-03-28 | 2016-03-28 | 画像処理装置、画像処理方法および撮像素子 |
| PCT/JP2017/003582 WO2017169079A1 (ja) | 2016-03-28 | 2017-02-01 | 画像処理装置、画像処理方法および撮像素子 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016063188A JP2017183775A (ja) | 2016-03-28 | 2016-03-28 | 画像処理装置、画像処理方法および撮像素子 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JP2017183775A true JP2017183775A (ja) | 2017-10-05 |
Family
ID=59963796
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2016063188A Pending JP2017183775A (ja) | 2016-03-28 | 2016-03-28 | 画像処理装置、画像処理方法および撮像素子 |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP2017183775A (ja) |
| WO (1) | WO2017169079A1 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020045598A1 (ja) | 2018-08-31 | 2020-03-05 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器及び固体撮像装置 |
Family Cites Families (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2005341033A (ja) * | 2004-05-25 | 2005-12-08 | Konica Minolta Photo Imaging Inc | 撮像装置及びプログラム |
| JP5749224B2 (ja) * | 2012-07-13 | 2015-07-15 | 株式会社東芝 | カメラモジュール |
| JP2015109582A (ja) * | 2013-12-05 | 2015-06-11 | 三星電子株式会社Samsung Electronics Co.,Ltd. | 画像処理装置及び画像処理方法 |
| JP6355397B2 (ja) * | 2014-04-10 | 2018-07-11 | キヤノン株式会社 | 固体撮像素子その制御方法、電子機器、プログラム、記憶媒体 |
| JP6318894B2 (ja) * | 2014-06-16 | 2018-05-09 | 株式会社ソシオネクスト | 画像処理装置、画像処理方法及び撮像装置 |
-
2016
- 2016-03-28 JP JP2016063188A patent/JP2017183775A/ja active Pending
-
2017
- 2017-02-01 WO PCT/JP2017/003582 patent/WO2017169079A1/ja not_active Ceased
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2020045598A1 (ja) | 2018-08-31 | 2020-03-05 | ソニーセミコンダクタソリューションズ株式会社 | 電子機器及び固体撮像装置 |
| KR20210052441A (ko) | 2018-08-31 | 2021-05-10 | 소니 주식회사 | 전자 기기 및 고체 촬상 장치 |
| US11889177B2 (en) | 2018-08-31 | 2024-01-30 | Sony Semiconductor Solutions Corporation | Electronic device and solid-state imaging device |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2017169079A1 (ja) | 2017-10-05 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4773369B2 (ja) | 画像フィールドデータを修正するための技術 | |
| JP5740465B2 (ja) | 撮像装置及び欠陥画素補正方法 | |
| US8891899B2 (en) | Methods, systems and apparatuses for pixel value correction using multiple vertical and/or horizontal correction curves | |
| JP4388909B2 (ja) | 画素欠陥補正装置 | |
| JP2013219705A (ja) | 画像処理装置、および画像処理方法、並びにプログラム | |
| JP5535053B2 (ja) | 画像処理装置、及び画像処理方法 | |
| US20120293677A1 (en) | Methods and apparatuses for anti-shading correction with extended color correlated temperature dependency | |
| JP2011055038A5 (ja) | ||
| CN101304484A (zh) | 成像装置、缺陷像素校正装置、装置中的处理方法和程序 | |
| JP2013162291A (ja) | カメラモジュール | |
| CN102970463A (zh) | 图像处理设备、图像处理方法以及程序 | |
| JP2009164690A (ja) | 画像処理装置、補正情報生成方法、および撮像装置 | |
| CN102111544A (zh) | 摄像模块、图像处理装置及图像记录方法 | |
| US20080278613A1 (en) | Methods, apparatuses and systems providing pixel value adjustment for images produced with varying focal length lenses | |
| WO2017068652A1 (ja) | 撮像装置、画像取得方法、画像取得プログラムおよび記憶媒体 | |
| WO2015174257A1 (ja) | 画像処理装置、画像処理方法、撮像装置、電子機器、並びにプログラム | |
| US9143756B2 (en) | Camera module, photographing method, and electronic apparatus | |
| US8836800B2 (en) | Image processing method and device interpolating G pixels | |
| JP5248368B2 (ja) | 画像処理装置 | |
| WO2006048962A1 (ja) | 画素信号処理装置及び画素信号処理方法 | |
| JP2004320128A (ja) | 欠陥画素補正装置 | |
| US20120242784A1 (en) | Image processing method, camera module, and photographing method | |
| US8817137B2 (en) | Image processing device, storage medium storing image processing program, and electronic camera | |
| US8331722B2 (en) | Methods, apparatuses and systems providing pixel value adjustment for images produced by a camera having multiple optical states | |
| CN113475058A (zh) | 用于处理图像传感器的测量数据的方法和处理装置 |
