JP7760305B2 - 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム - Google Patents

光電変換装置、撮像装置、制御方法、及びコンピュータプログラム

Info

Publication number
JP7760305B2
JP7760305B2 JP2021155380A JP2021155380A JP7760305B2 JP 7760305 B2 JP7760305 B2 JP 7760305B2 JP 2021155380 A JP2021155380 A JP 2021155380A JP 2021155380 A JP2021155380 A JP 2021155380A JP 7760305 B2 JP7760305 B2 JP 7760305B2
Authority
JP
Japan
Prior art keywords
measurement
photoelectric conversion
pixel
conversion device
measurement means
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021155380A
Other languages
English (en)
Other versions
JP2023046664A (ja
JP2023046664A5 (ja
Inventor
愛彦 沼田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021155380A priority Critical patent/JP7760305B2/ja
Priority to US17/933,765 priority patent/US12267603B2/en
Publication of JP2023046664A publication Critical patent/JP2023046664A/ja
Publication of JP2023046664A5 publication Critical patent/JP2023046664A5/ja
Application granted granted Critical
Publication of JP7760305B2 publication Critical patent/JP7760305B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/76Addressed sensors, e.g. MOS or CMOS sensors
    • H04N25/77Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components
    • H04N25/772Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters
    • H04N25/773Pixel circuitry, e.g. memories, A/D converters, pixel amplifiers, shared circuits or shared components comprising A/D, V/T, V/F, I/T or I/F converters comprising photon counting circuits, e.g. single photon detection [SPD] or single photon avalanche diodes [SPAD]
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/10Circuitry of solid-state image sensors [SSIS]; Control thereof for transforming different wavelengths into image signals
    • GPHYSICS
    • G16INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR SPECIFIC APPLICATION FIELDS
    • G16HHEALTHCARE INFORMATICS, i.e. INFORMATION AND COMMUNICATION TECHNOLOGY [ICT] SPECIALLY ADAPTED FOR THE HANDLING OR PROCESSING OF MEDICAL OR HEALTHCARE DATA
    • G16H30/00ICT specially adapted for the handling or processing of medical images
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/95Computational photography systems, e.g. light-field imaging systems
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N25/00Circuitry of solid-state image sensors [SSIS]; Control thereof
    • H04N25/70SSIS architectures; Circuits associated therewith
    • H04N25/79Arrangements of circuitry being divided between different or multiple substrates, chips or circuit boards, e.g. stacked image sensors

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Health & Medical Sciences (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Theoretical Computer Science (AREA)
  • Computing Systems (AREA)
  • Radiology & Medical Imaging (AREA)
  • Epidemiology (AREA)
  • General Health & Medical Sciences (AREA)
  • Medical Informatics (AREA)
  • Primary Health Care (AREA)
  • Public Health (AREA)
  • Transforming Light Signals Into Electric Signals (AREA)

Description

本発明は、入射した光子に応じた信号を出力する光電変換部を備えた光電変換装置、撮像装置、制御方法、及びコンピュータプログラム等に関するものである。
近年、アバランシェフォトダイオードに入射する光子(フォトン)の数をデジタル的に計数し、計数値を光電変換されたデジタル信号として画素から出力する光電変換装置が提案されている。
米国特許公開2015/0163429明細書
特許文献1では、光子を数える光子カウンターに加え、時間を計測する時間カウンターを設けた構造が提案されている。時間カウンターは、光子カウンターの計測を開始してから、光子の数を所定の値になるまで時間を計測し、計測した時間から画素値を算出する。しかしながら特許文献1では、1画素毎に光子カウンターと時間カウンターを設けているために、回路規模が増大してしまう。
本発明は、このような問題に鑑みてなされたものであり、回路規模の増大を抑制しつつ好適に画素読出処理を行う技術を提供することを目的としている。
上記課題を解決する本発明にかかる光電変換装置は、入射した光子に応じて信号を出力する光電変換部を備えた画素を有する光電変換装置であって、前記画素に入射した前記光子の数を計測する第1の計測手段と、前記第1の計測手段が前記計測を開始してから前記第1の計測手段の計測値が第1の閾値に達するまでの時間を計測する第2の計測手段と、複数の前記第1の計測手段のうち、計測値が前記第1の閾値よりも小さい第2の閾値に最も速く達した第1の計測手段を選択して前記第2の計測手段と接続する選択手段と、前記選択手段によって前記第2の計測手段の接続を切り替えるタイミングを制御する制御手段と、を有する。
本発明は、回路規模の増大を抑制しつつ好適に画素読出処理を行う技術を提供する。
光電変換装置のハードウェア構成例を示す図 光電変換装置のセンサチップの一例を示す図 光電変換装置の回路チップの一例を示す図 光電変換装置における画素及び信号処理部の等価回路の一例を示す図 光電変換装置における画素及び信号処理部の等価回路の一例を示す図 光電変換装置による計測の一例を示す図 光電変換装置を含む撮像装置の機能構成例を示すブロック図 光電変換装置の動作の一例を説明するフローチャート
以下に、本発明を実施するための形態について詳細に説明する。なお、以下に説明する実施の形態は、本発明を実現するための一例であり、本発明が適用される装置の構成や各種条件によって適宜修正又は変更されるべきものであり、本発明は以下の実施の形態に限定されるものではない。また、全ての図において同一の機能を有するものは同一の数字を付け、その繰り返しの説明は省略する。
<実施形態1:基本形>
図1は、本実施形態の光電変換装置の構成例を示す図である。光電変換装置100は、センサチップ11と、回路チップ21の2枚のチップが積層され、且つ電気的に接続されることにより構成される。センサチップ11は、画素領域12を含む。回路チップ21は、画素領域12の各画素で検出された信号をそれぞれ並列に処理する画素回路領域22と、画素回路領域22から信号の読み出しや画素回路領域の22の制御を行う周辺回路領域23を含む。
<画素基板>
図2は、センサチップ11の構成例を示す図である。センサチップ11の画素領域12は、複数行及び列方向に渡って二次元状に複数配置された画素201を含む。画素201は、入射した光子に応じて信号を出力するアバランシェフォトダイオード(以下、APD)を含む光電変換部202を備える。図2には、第0行から第5行までの6行と、第0列から第7列までの8列に配された48個の画素201を、行番号及び列番号を示す符号とともに示している。例えば、第1行、第4列に配された単位画素11には、「P14」の符号を付している。なお、画素領域12を成す画素アレイの行数及び列数は、特に限定されるものではない。
<回路基板>
図3は、回路チップ21の構成例を示す図である。回路チップ21は、画素回路領域22と周辺回路領域23とを含む。
<画素回路領域>
画素回路領域22は、複数行及び列方向に渡って二次元状に複数配置され、センサチップの画素201に対応した、信号処理部301を含む。図3には、第0行から第2行までの3行と、第0列から第3列までの4列に配された12個の信号処理部301を、行番号及び列番号を示す符号とともに示している。例えば、第2行、第2列に配された信号処理部301には、「S22」の符号を付している。なお、画素回路領域22を成す信号処理部アレイの行数及び列数は、特に限定されるものではない。信号処理部には、光子の数を数える光子カウンター403と、時間を計測する時間カウンター406が設けられている。本実施形態における光電変換装置では、光子カウンター403a~dは画素毎に設けるものの、時間カウンター406は複数画素で共有する構成となっている。すなわち、画素領域12のうち、複数の画素の集合を1つの部分画素領域とみなし、光子カウンター403a、b、c、dは各画素に対して配置されるのに対して時間カウンター406は部分画素領域毎に配置される。このような構成とすることで、回路規模を削減することができる。詳細については後述する。
<周辺回路領域>
周辺回路領域23は、垂直走査回路302と、列回路303と、水平走査回路304と、制御パルス生成部305と、信号復元部306と、信号出力回路307と、を含む。画素回路領域22の信号処理部アレイの各行には、第1の方向(図3において横方向)に延在して、垂直選択線311VSELが配されている。垂直選択線311VSELは、第1の方向に並ぶ信号処理部301にそれぞれ接続され、信号線を成している。垂直選択線311VSELの延在する第1の方向は、行方向或いは水平方向と表記することがある。なお、図3には、制御線VSELを、行番号を示す符号とともに表している。例えば、第1行の制御線には、「VSEL[1]」の符号を付している。各行の垂直選択線311VSELは、垂直走査回路302に接続されている。垂直走査回路302は、信号処理部301を選択的に駆動するための垂直選択信号を、垂直選択線311VSELを介して信号処理部301に供給する。尚、本実施形態では、垂直選択線311は各行の複数の信号処理部301の信号を読出すための読出し用の垂直選択線と各行の複数の信号処理部301の信号をリセットするためのリセット用の垂直選択線とに分かれている。
画素回路領域22の信号処理部アレイの各列には、第1の方向と交差する第2の方向(図3において縦方向)に延在して、垂直信号線310が配されている。垂直信号線310は、第2の方向に並ぶ信号処理部301にそれぞれ接続され、共通の信号線を成している。垂直信号線310の延在する第2の方向は、列方向或いは垂直方向と表記することがある。なお、図3には、垂直信号線310を、列番号を示す符号とともに表している。例えば、第3列の垂直信号線310には、「POUT[3]」の符号を付している。各列の垂直信号線310は、nビットのデジタル信号を出力するためのn本の信号線を備えている。
水平走査回路304は、列回路303から信号を読み出すための水平選択信号を列回路303に供給する。水平走査回路304は、各列の列回路303に、水平選択線313HSELを介して制御信号を供給する。水平走査回路304から水平選択信号を受信した列回路303は、保持している信号を、信号線312HSIGを介し、信号復元部306を介し、水平出力回路307に順次出力する。なお、図3には、水平選択線HSELを、列番号を示す符号とともに表している。例えば、第3列の水平選択線には、「HSEL[3]」の符号を付している。
制御パルス生成部305は、垂直走査回路302、水平走査回路304、列回路303の動作やそのタイミングを制御する制御パルス信号を供給する。なお、垂直走査回路302、水平走査回路304、列回路303の動作やそのタイミングを制御する制御パルス信号の少なくとも一部は、光電変換装置の外部から供給してもよい。信号復元部306は、時間カウンター406の計測値から、画素値を算出し、水平出力回路307に出力する。水平出力回路307は、信号復元部306で復元された画素値に応じた信号を光電変換装置の出力信号SOUTとして出力する。なお、時間カウンターの値をそのまま出力する構成、すなわち、信号復元部306は光電変換装置の外部に設ける構成としてもよい。
<画素回路>
図4は、図2の画素201及び図3の信号処理部301の等価回路及びブロック図の一例である。図4には、1つの信号処理部301と、それに対応する4つの画素201a、201b、201c、201dを示している。ここでは、複数の画素の集合を1つの部分画素領域とみなし、光子カウンター403a、b、c、dは各画素に対して配置されるのに対して時間カウンター406は部分画素領域毎に配置される。なお、以下では4つの画素を区別する必要があるときにはa、b、c、dの符号を付与し、区別する必要がない場合は符号を省略する。
センサチップ11における画素201は、光電変換部であるAPD202を含む。APD202に光子が入射されると、光電変換により電荷対が生成される。APD202のアノードには、電圧VL(第1電圧)が供給される。また、APD202のカソードには、アノードに供給される電圧VLよりも高い電圧VH(第2電圧)がスイッチ素子408を介して供給される。アノードとカソードには、APD202がアバランシェ増倍動作をするような逆バイアス電圧が供給される。このような電圧を供給した状態とすることで、入射光によって生じた電荷がアバランシェ増倍を起こし、アバランシェ電流が発生する。
逆バイアスの電圧が供給される場合において、アノードおよびカソードの電位差が降伏電圧より大きな電位差で動作させるガイガーモードと、アノードおよびカソードの電位差が降伏電圧近傍、もしくはそれ以下の電圧差で動作させるリニアモードがある。ガイガーモードで動作させるAPDをSPAD(Single Photon Avalanche Diode)と呼ぶ。例えば、電圧VL(第1電圧)は、-30V、電圧VH(第2電圧)は、1Vである。
回路チップ21における信号処理部301は、クエンチ素子401、波形整形部402、光子カウンター403、スイッチ404、判定回路405、時間カウンター406、選択回路407およびタイミング制御回路410を含む。
クエンチ素子401は、電圧VHを供給する電源とAPD202に接続される。クエンチ素子401は、APD202で生じたアバランシェ電流の変化を電圧信号に置き換える機能を有する。クエンチ素子401は、アバランシェ増倍による信号増倍時に負荷回路(クエンチ回路)として機能し、APD202に供給する電圧を抑制して、アバランシェ増倍を抑制する働きを持つ(クエンチ動作)。
波形整形部402は、光子検出時に得られるAPD202のカソードの電位変化を整形して、パルス信号を出力する。波形整形部402は、例えば、インバータ回路やバッファ回路が用いられる。
光子カウンター403は、画素に入射した光子の数を計測する光子カウンターであり、波形整形部402から出力された、パルス信号を例えば第1の閾値Cxまでカウントする。また、光子カウンター403は、垂直選択線311を介して所定の制御信号が供給されたとき、計測値をリセットする。
以上で説明した、APD202、クエンチ素子401、波形整形部402、光子カウンター403は各々の画素毎に設けられている。一方で、以下で説明する、論理和回路404、判定回路405、時間カウンター406は4つの画素(すなわち、1つの部分画素領域)に対して1つ設けられている。また、選択回路407は、各々の光子カウンター403に対しては1つずつ配置され、時間カウンター406に対して1つ設けられている。
スイッチ404、判定回路405、タイミング制御回路410は、4つの光子カウンター403a、403b、403c、403dのうち、最も計測値の大きいカウンターを、時間カウンター406に接続する役割を有する。例えば、カウント開始時には光子カウンター403aと時間カウンター406をスイッチ404で接続しておく。そして、光子のカウントの途中で、スイッチ404を切り替えて、光子カウンター403a、403b、403c、403dのうち、最もカウント数の多い光子カウンター403と時間カウンター406を接続するようにすればよい。詳細については後述する。
また、判定回路405は、時間カウンター406の接続されている光子カウンター403の計測値が第1の閾値Cxに達したかどうかを判定する。時間カウンター406は、光子カウンター403が計測を開始してから計測値(計測値)が第1の閾値Cxに達するまでの時間を計測し、計測した時間を画素値として出力する。即ち、判定回路405が、光子カウンター403の計測値が第1の閾値Cxに達した、と判定した時点で、判定回路405は「1」を出力し、それを受けて、時間カウンター406は、その時点での時間計測値を画素値として保持する。そして、非図示のリクエスト回路から送られたリクエスト信号が来たタイミングで、保持していた時間カウンター406の計測値を周辺回路に送る。また、判定回路405の出力は4つの光子カウンター403a、403b、403c、403dにも接続されており、判定回路405が「1」を出力した時点で、4つの光子カウンター全てにおいて、光子カウントを停止し、各々の光子計測値を保持する。
タイミング制御回路410、所定の条件に基づいて時間カウンター406の接続を切り替えるタイミングを制御する。例えば、一定時間おきに接続を切り替えるようにしてもよいし、光子カウンターの計測値に基づいてタイミングを決定してもよい。詳細な動作については後述する。複数光子カウンターによって共有される時間カウンターの接続をタイミングに応じて切り替えることによって、効率的に光子を計測できる。なお、図4では、部分画素領域毎にタイミング制御回路を配置する例であるが、画素毎にタイミング制御回路を配置してもよい。
<効果の説明>
前述したように、時間カウンター406は、光子カウンター403a、403b、403c、403dのうち、最もカウント数の多い光子カウンター403と接続されている。そのため、時間カウンター406は、画素201a、201b、201c、201dのうち、最も単位時間当たりに入射する光の量が多い画素において、画素への光の入射を開始してから、画素が飽和するまでの時間を計測していることになる。
飽和するまでの時間が短いほど、画素に単位時間当たりに入射する光の量が多い(明るい)ことを意味するため、飽和するまでの時間を計測することで、時間カウンター406の計測値から、4つの画素のうち、最も明るい画素の明るさ情報を取得することができる。
4つの光子カウンターのうち、最も明るい画素の計測値は、必ず第1の閾値であるが、それ以外の3つの光子カウンターは、最も明るい画素の計測値が第1の閾値に達した時点での、各々の光子計測値である。そのため、光子カウンター403の計測値から、4つの画素のうち、最も明るい画素以外の3つの画素の、最も明るい画素に対する相対的な明るさ情報を取得することができる。従って、時間カウンター406の計測値と、光子カウンターの計測値を組み合わせることで、4つの画素の明るさ情報をすべて取得することができる。具体的な画素信号の復元処理については後述する。
<選択回路>
選択回路407は、図3の垂直走査回路302から垂直選択線311を介して供給される、n番目の行を読出すための垂直選択信号VSELにより、光子カウンター403、時間カウンター406と垂直信号線310との電気的な接続、非接続を切り替える。順次読みだされた画素計測値、時間計測値は列回路303に送られて、信号復元部306、水平出力回路307を経て光電変換装置100の外部に出力される。垂直選択線311から供給される読出し用の選択信号により、選択回路407で画素計測値、時間計測値を読み出した後、光子カウンター、時間カウンターは垂直選択線311を介して供給されるリセット信号によりリセットされ、再度各々のカウントを再開する。
なお、図4では各列の光子カウンター用の垂直信号線310のほかに時間カウンター用の垂直信号線310を別に設ける構成としてもよい
例えば、4つの画素のうち、最も明るい画素の光子計測値は必ず第1の閾値に一致するはずなので、最も明るい画素の光子計測値の代わりに、時間計測値を読みだしてもよい。具体的には、垂直選択信号VSELにより、時間カウンターが接続されている画素の光子計測値を読み出す制御信号が来た場合に時間計測値を読み出せばよい。このような構成とすることで、読みだす信号量を減少させることができ、消費電力を低減させることができるため、好ましい。
また、4つの画素のうち第1の閾値に達した画素を識別するためのフラグ信号、第1の閾値に達した画素の時間計測値、第1の閾値に達しなかった3画素分の光子計測値を、マルチプレクサ回路などを用いて1つの信号線にまとめて出力してもよい。
<光子カウンターの切り替え:変形例1>
ここで、光子のカウントの途中で、スイッチ404によって時間カウンターの接続先となる光子カウンターを切り替える方法について説明を行う。まず、一つ目の方法として、周辺の走査回路を使用し、各々の画素のスイッチを順次切り替える方法について説明を行う。この方法の場合、時間計測を行う画素を選択するタイミングを制御するタイミング制御回路410は、図4aのように、周辺の走査回路部に位置している。
前述したように、時間カウンター406は、光子カウンター403a、403b、403c、403dのいずれかの計測値が、第1の閾値Cxに達するまでの時間をカウントする。そのため、スイッチ404は、光子カウンターの計測値が特定の閾値に達する前でかつ時間カウンターの閾値(第1の所定時間)に達する前に、光子カウンター403a、403b、403c、403dの計測値を比較する必要がある。
そこで、光電変換装置100は、図3の垂直走査回路110中のリクエスト信号送付回路から垂直選択線311を介して、一定の間隔(第1の所定時間より短い第2の所定時間)でリクエスト信号を各々の画素の信号処理部301に送る。信号処理部301がリクエスト信号送付回路からリクエスト信号を受け取った際、判定回路405は、4つの光子カウンター403a、403b、403c、403dのいずれかが、第1の閾値よりも小さい第二の閾値に達しているかどうかを判定し、判定結果を垂直走査回路110に送付する。垂直走査回路110は判定結果を受けて、時間カウンターの接続先を、第2の閾値に達している光子カウンターに切り替える。
リクエスト信号を1フレームが完了するまでに複数回送ることで、4つの光子カウンター403a、403b、403c、403dのうち、最も大きい計測値が第2の閾値に達した時点で、時間カウンターの接続先を切り替えることができる。即ち、4つの画素のうち、最も明るい画素の計測値が第1の閾値に達する前に、時間カウンターの接続先を、最も明るい画素に切り替えることができる。このような構成とすることで、時間カウンター406の計測値から、4つの画素のうち、最も明るい画素の明るさ情報を取得することができる。
言い換えると、本実施形態における光電変換装置は、時間カウンターを複数の画素で共有することで、回路規模を抑制している。そして、時間カウンターを複数の画素で共有したことによって生じる課題を、時間カウンターの接続先を途中で切り替えることで解決している。以下で、課題について説明を行う。
図5は、時間と光子計測値の関係を説明する図である。図5(a)は、時間カウンターを共有する複数の画素間で、時間カウンターが接続されている画素の感度が最も高い場合である。一方、図5(b)は、時間カウンターを共有する複数の画素間で、時間カウンターが接続されている画素の感度よりも高い感度を有する他の画素がある場合である。
図5(a)のように、時間カウンターが接続された光子カウンターの画素感度が最も高い場合には、時間カウンターが接続された光子カウンターが飽和するまでの時間を計測することで、複数の画素の明るさ情報を取得することができる。一方、図5(b)のように、時間カウンターが接続された光子カウンターよりも画素感度の高い他の画素がある場合には、時間カウンターが接続された光子カウンターが飽和するよりも前に、時間カウンターが接続されていない光子カウンターが飽和してしまう。その場合、時間カウンターが接続された光子カウンターが飽和するまでの時間を計測したとしても、既に飽和してしまった画素の明るさ情報を取得することができない。このように、時間カウンターを複数の画素で共有した場合、被写体によっては、明るさ情報を正しく取得できない場合がある。
この課題を解決するために、本実施形態における光電変換装置は、最も画素感度が高い画素に、時間カウンターの接続先を切り替えることで、時間カウンターが接続されていない光子カウンターが飽和しないようにする。
<カウンターの切り替え:変形例2>
次に、二つ目の方法として、各々の画素に、スイッチを切り替える回路を配置する場合について説明を行う。この方法の場合、時間計測を行う画素を選択するタイミングを制御するタイミング制御回路410は、図4bのように、各々の画素の信号処理部に位置している。
前述したように、時間カウンター406は、光子カウンター403a、403b、403c、403dのうち、最もカウント数の多い光子カウンターの計測値が、第1の閾値に達するまでの時間をカウントする。そのため、スイッチ404は、光子カウンターの計測値が特定の閾値に達する前に、光子カウンター403a、403b、403c、403dの計測値を比較する必要がある。
そこで、判定回路405において、光子カウンター403a、403b、403c、403dのいずれかが、第1の閾値よりも小さい第二の閾値に達しているかどうかを判定する。そして、時間カウンターの接続先を、第二の閾値に達している光子カウンターに切り替える。例えば、第1の閾値が飽和レベル、第二の閾値が飽和レベルの半分であった場合、判定回路405に、4つの光子カウンターの計測値の上位2ビットの論理和回路を設け、論理和回路の出力が1になった時点で、時間カウンターの接続先を切り替えればよい。このような構成とすることで、時間カウンター406の計測値から、4つの画素のうち、最も明るい画素の明るさ情報を取得することができる。
<切り替え動作を複数回行う:変形例3>
なお、カウンターの切り替えは1フレーム内に複数回制御してもよい。例えば、複数の光子カウンターの計測値の差異が小さい場合、フォトンショットノイズの影響で、どちらの光子カウンターが先に飽和するかが予測できない場合がある。そのため、複数の光子カウンターのいずれかが、第二の閾値に達したタイミングで、計測値が最も大きい光子カウンターAと、その次に大きい光子カウンターBの計測値の差異が、第三の閾値よりも小さい場合、カウンターの切り替えを再度行ったほうが良い。第三の閾値は、フォトンショットノイズで決めればよく、例えば第二の閾値の平方根、またはその2倍程度とすればよい。
具体的には、カウンターの切り替えを一度行った後、複数の光子カウンターのいずれかが、第二の閾値よりも大きく、第1の閾値よりも小さい第四の閾値に達したかどうかを判定する。そして、時間カウンターの接続先を、第四の閾値に達している光子カウンターに切り替える。このように、時間カウンターの接続先を複数回切り替えることで、時間カウンターの接続先が、最も画素感度が高い画素である確率が向上する。なお、この時、第四の閾値に達しているかどうかを判定する光子カウンターは、光子カウンターAと、光子カウンターBのみでよい。なぜなら、光子カウンターA、B以外の光子カウンターは、フォトンショットノイズの影響を考慮したとしても、光子カウンターA、Bよりも先に飽和する可能性が低いためである。
<信号復元部>
信号復元部306は、時間カウンター406でカウントした時間計測値および、光子カウンター403でカウントした光子計測値を、被写体の明るさ情報を表す画素信号に復元する。時間計測値をT0、4つの画素201a、201b、201c、201dの光子計測値を各々、P1、P2、P3、P4とした時、各々の画素信号値C1、C2、C3、C4は以下の式で求めることができる。
C1=K×P1/T0、C2=K×P2/T0
C3=K×P3/T0、C4=K×P4/T0
Kは自然数であり、C1、C2、C3、C4が1LSB未満にならないような値に決定すると好ましい。具体的には、K=時間計測値の最大値、とすればよい。
<一定時間後に光子計測値を出力:変形例4>
なお、判定回路405は、所定の時間(第1の所定時間)経過しても、時間カウンターが接続されている光子カウンターの計測値が、第1の閾値に達しない場合には、時間カウンター406を止めて、その時点での光子計測値を出力する構成としてもよい。このような構成とすることで、被写体の明るさが非常に暗い場合に、フレームレートが遅くなってしまう、という課題を解決することができる。所定の時間は、時間カウントの最大値に設定すると好ましい。
<分光感度、ベイヤー配列>
図3、図4の例では、4つの画素201に対して、1つの信号処理部301が接続されている例を示したが、1つの信号処理部301に対して接続される画素数が2以上であれば、回路規模を削減することができる。具体的には、光子カウンターは画素毎に、時間カウンターは複数画素で共有する構成となっていればよい。
なお、各々の画素201がオンチップカラーフィルタを有しており、分光情報を取得可能に構成されていてもよい。例えばベイヤー配列のカラーフィルタを想定した場合、2x2の4画素に対して1つの信号処理部301を設ける構成とすることで、ベイヤー画素単位での明るさ情報取得が可能となるため、好ましい。すなわち、時間カウンターを共有する画素間の少なくとも一部で、分光感度が異なっていると好ましい。
仮に、各々の画素の分光感度が異なっていない場合、複数の画素の画素カウント値が同時に第1の閾値Cxに達する場合がある。その場合には、複数の画素が第1の閾値Cxに達した時点での時間計測値を画素値として保持する。そして、非図示のリクエスト回路から送られたリクエスト信号が来たタイミングで、保持していた時間カウンター406の計測値を周辺回路に送る。その後、時間カウンターの接続先を、第1の閾値Cxに達していない画素のいずれかに接続する。その後は、時間カウンターが接続された画素の画素カウント値が第1の閾値Cxに達するたびに、同じ動作を繰り返せばよい。
また、ベイヤー配列の場合、一般的な被写体では緑画素の感度が最も高いため、時間カウンターの初期の接続先を緑画素にしておく方が好ましい。更に、複数フレームの動画を取得する場合、前フレームの赤画素、緑画素、青画素の値を比較し、次のフレームでは、時間カウンターの初期の接続先を、前フレームで最も感度の高かった画素に接続するようにすると更に好ましい。
<撮像装置>
図6は、光電変換装置100を用いた撮像装置500のブロック図である。
撮像装置500は、例えばデジタルカメラであり、光電変換装置100を含む撮像装置であり、レンズ501、画像処理部502、光学制御部503、記憶部504、通信部としての無線のI/F(Interface)部505を含む。
レンズ501は被写体の光学像を形成し、形成した光学像を光電変換装置100の撮像面に入射し、フォーカスレンズ、ズームレンズ、及び、絞り等が備えられている。光電変換装置100では、レンズ501によって形成される光学像を撮像する。光電変換装置100から読みだした信号は、画像処理部502に出力する。画像処理部502は、光電変換装置100から出力される信号に対して信号の並べ替え、欠陥画素の補正、ノイズリダクション、色変換、ホワイトバランス補正、ガンマ補正、データ圧縮等の処理をし、画像を生成する。尚、画像処理部502にはコンピュータとしてのCPUが内蔵されており、記憶媒体としてのメモリに記憶されたコンピュータプログラムに基づき撮像装置500全体の各部の動作を制御する制御手段として機能する。光学制御部503は、レンズ501に備えられたフォーカスレンズ、ズームレンズ、絞り等の制御を行う。記録部504には、不図示の記録媒体が装着され、画像処理部から出力する映像を記憶媒体に保存する。かかる記録媒体としては、例えば、メモリカード等が用いられる。なお、記録媒体として、ハードディスク等が用いられてもよい。通信部としての無線のI/F(Interface)部505は、画像処理部502で生成した画像信号を撮像装置500の外部に出力する。506はネットワークであり、例えば、Ethernet(登録商標)等の通信規格を満足する複数のルータ、スイッチ、ケーブル等から構成され、クライアントが、ネットワーク506を介して撮像装置500を制御する。
<フローチャート>
図7は、本発明の光電変換装置が実行する動作を説明するフローチャートである。以下の説明では、各工程(ステップ)について先頭にSを付けて表記することで、工程(ステップ)の表記を省略する。S700において、スイッチ404は、時間カウンター406を、4つの光子カウンター403a、403b、403c、403dのいずれかに初期接続する。初期の接続先は任意に選択してもよいし、前のフレームの情報を使用してもよい。
S701において、4つの光子カウンターの計測値のいずれかが、第二の閾値に達しているかどうかの判定を行う。計測値が第二の閾値に達していなければ、時間カウンターの接続先を初期接続のままで、光子のカウントと時間のカウントを継続する。計測値が第二の閾値に達していれば、S702に進み、時間カウンターの接続先を、第二の閾値に達した光子カウンターに切り替える。
S703では、切り替えた後の時間カウンターが接続されている光子カウンターの計測値が、第1の閾値に達したかどうかを判定する。そして、S704において、光子カウンターの計測値が、第1の閾値に達した時点で、時間カウンターでの時間のカウントを停止し、光子のカウント数および時間のカウント数を出力する。
<その他の実施形態>
尚、実施形態においては、撮像装置として例えばデジタルカメラに適用した例について説明した。しかし、撮像装置はデジタルムービーカメラ、カメラ付きのスマートフォン、カメラ付きのタブレットコンピュータ、車載カメラ、ドローンカメラ、ロボットに搭載されたカメラ、ネットワークカメラなどの撮像機能を有する電子機器等を含む。
以上、本発明をその好適な実施形態に基づいて詳述してきたが、本発明は上記実施形態に限定されるものではなく、本発明の主旨に基づき種々の変形が可能であり、それらを本発明の範囲から除外するものではない。
尚、本実施例実施形態における制御の一部又は全部を上述した実施形態の機能を実現するコンピュータプログラムをネットワーク又は各種記憶媒体を介して光電変換装置や撮像装置等に供給するようにしてもよい。そしてその光電変換装置や撮像装置等におけるコンピュータ(又はCPUやMPU等)がプログラムを読み出して実行するようにしてもよい。その場合、そのプログラム、及び該プログラムを記憶した記憶媒体は本発明を構成することとなる。
100 光電変換装置
500 撮像装置
501 レンズ
502 画像処理部
503 光学制御部
504 記憶部
505 I/F部

Claims (19)

  1. 入射した光子に応じて信号を出力する光電変換部を備えた画素を有する光電変換装置であって、
    前記画素に入射した前記光子の数を計測する第1の計測手段と、
    前記第1の計測手段が前記計測を開始してから前記第1の計測手段の計測値が第1の閾値に達するまでの時間を計測する第2の計測手段と、
    複数の前記第1の計測手段のうち、計測値が前記第1の閾値よりも小さい第2の閾値に最も速く達した第1の計測手段を選択して前記第2の計測手段と接続する選択手段と、
    前記選択手段によって前記第2の計測手段の接続を切り替えるタイミングを制御する制御手段と、を有することを特徴とする光電変換装置。
  2. 前記制御手段は、所定の時間毎に、前記複数の第1の計測手段のそれぞれの計測値に基づいて、前記選択手段による前記第2の計測手段の接続の切り替えを行うか否かを判定することを特徴とする請求項1に記載の光電変換装置。
  3. 前記制御手段は、複数の前記画素から成る部分画素領域毎に配置され、前記部分画素領域に含まれる前記画素に対応する前記第1の計測手段による計測値が、前記第1の閾値より小さい前記第2の閾値より大きいか否かを判定し、
    前記選択手段は、前記計測値が前記第2の閾値より大きい前記第1の計測手段に接続を切り替えることを特徴とする請求項1または2に記載の光電変換装置。
  4. 前記選択手段は、前記部分画素領域に含まれる前記画素に対応する前記第1の計測手段による計測値が最も大きい前記第1の計測手段に、前記第2の計測手段を接続することを特徴とする請求項3に記載の光電変換装置。
  5. 前記制御手段は、前記画素毎に配置され、それぞれの前記画素に対応する前記第1の計測手段による計測値が、前記第1の閾値より小さい前記第2の閾値より大きいか否かを判定し、
    前記選択手段は、前記計測値が前記第2の閾値より大きい前記第1の計測手段に接続を切り替えることを特徴とする請求項1または2に記載の光電変換装置。
  6. 前記画素に対応する前記第1の計測手段による計測値または、前記第2の計測手段による計測値を出力する出力手段を更に有することを特徴とする、請求項1乃至5のいずれか1項に記載の光電変換装置。
  7. 前記出力手段は、複数の前記画素のそれぞれの前記画素に対応する前記第1の計測手段による計測値のうち、前記第1の閾値に達した前記第1の計測手段以外の前記第1の計測手段による計測値と、前記第2の計測手段による計測値と、を出力することを特徴とする請求項6に記載の光電変換装置。
  8. 前記出力手段は、複数の前記画素から成る部分画素領域に含まれる前記第1の計測手段の計測値と、前記第2の計測手段による計測値と、を1つの信号にまとめて出力することを特徴とする請求項6または7に記載の光電変換装置。
  9. 前記出力手段は、前記第2の計測手段の計測値が第1の所定時間に達した場合、それぞれの前記画素に対応する前記第1の計測手段による計測値を出力することを特徴とする請求項6乃至8のいずれか1項に記載の光電変換装置。
  10. それぞれの前記画素に対応する前記第1の計測手段による計測値または、前記第2の計測手段の時間の計測値に基づいて画素信号を復元する信号復元手段を更に有することを特徴とする請求項1乃至8のいずれか1項に記載の光電変換装置。
  11. 前記第1の計測手段は、複数の前記画素毎に配置され、
    前記第2の計測手段は、分光感度が互いに異なる複数の前記画素を含む部分画素領域毎に配置されることを特徴とする請求項1乃至10のいずれか1項に記載の光電変換装置。
  12. 前記第2の計測手段は、前記複数の画素のうち、前のフレームにおいて、最も感度の高かった画素に対応する前記第1の計測手段に接続されることを特徴とする請求項11に記載の光電変換装置。
  13. 前記光電変換装置は、赤画素、青画素、緑画素を有し、
    前記第2の計測手段は、初期状態において、前記緑画素に対応する前記第1の計測手段に接続されることを特徴とする請求項11に記載の光電変換装置。
  14. 前記制御手段は、リクエスト信号に基づいて、複数の前記画素のそれぞれに対応する前記第1の計測手段の計測値が、前記第1の閾値よりも小さい前記第2の閾値に達しているかどうかを判定し、
    前記選択手段は、判定結果に基づいて、前記第2の計測手段の接続先を、計測値が前記第2の閾値に達している前記第1の計測手段に切り替えることを特徴とする請求項1乃至13のいずれか1項に記載の光電変換装置。
  15. 前記制御手段は、時間計測を行う画素を選択するタイミングを、1フレーム内で複数回制御することを特徴とする請求項1乃至14のいずれか1項に記載の光電変換装置。
  16. 前記光電変換部は、光子の入射を検出するアバランシェフォトダイオードを有することを特徴とする請求項1乃至15のいずれか1項に記載の光電変換装置。
  17. 請求項1乃至16のいずれか1項に記載の光電変換装置を有することを特徴とする撮像装置。
  18. 入射した光子に応じて信号を出力する光電変換部を備えた画素と、前記画素に入射した前記光子の数を計測する第1の計測手段と、
    前記第1の計測手段が前記計測を開始してから前記第1の計測手段の計測値が第1の閾値に達するまでの時間を計測する第2の計測手段と、を有する光電変換装置を制御する制御方法であって、
    複数の前記第1の計測手段のうち、計測値が前記第1の閾値よりも小さい第2の閾値に最も速く達した第1の計測手段を選択して前記第2の計測手段と接続する選択工程と、
    前記選択工程によって前記第2の計測手段の接続を切り替えるタイミングを制御する制御工程と、を有することを特徴とする制御方法。
  19. コンピュータを請求項1乃至16のいずれか1項に記載の光電変換装置又は請求項17に記載の撮像装置の各手段として機能させるためのコンピュータプログラム。
JP2021155380A 2021-09-24 2021-09-24 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム Active JP7760305B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021155380A JP7760305B2 (ja) 2021-09-24 2021-09-24 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
US17/933,765 US12267603B2 (en) 2021-09-24 2022-09-20 Photoelectric conversion device, imaging device, control method, and storage medium

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021155380A JP7760305B2 (ja) 2021-09-24 2021-09-24 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム

Publications (3)

Publication Number Publication Date
JP2023046664A JP2023046664A (ja) 2023-04-05
JP2023046664A5 JP2023046664A5 (ja) 2024-11-15
JP7760305B2 true JP7760305B2 (ja) 2025-10-27

Family

ID=85706375

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021155380A Active JP7760305B2 (ja) 2021-09-24 2021-09-24 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム

Country Status (2)

Country Link
US (1) US12267603B2 (ja)
JP (1) JP7760305B2 (ja)

Families Citing this family (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7757107B2 (ja) * 2021-09-24 2025-10-21 キヤノン株式会社 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP2024145030A (ja) * 2023-03-31 2024-10-15 ルネサスエレクトロニクス株式会社 半導体装置、時間計測方法及び時間計測プログラム

Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150163429A1 (en) 2013-12-09 2015-06-11 Omnivision Technologies, Inc. Low power imaging system with single photon avalanche diode photon counters and ghost image reduction
JP2018201155A (ja) 2017-05-29 2018-12-20 キヤノン株式会社 固体撮像素子、撮像装置及び撮像方法
WO2019150785A1 (ja) 2018-02-02 2019-08-08 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2020010150A (ja) 2018-07-06 2020-01-16 ソニーセミコンダクタソリューションズ株式会社 撮像装置および撮像システム
JP2020145554A (ja) 2019-03-05 2020-09-10 キヤノン株式会社 撮像素子及びその制御方法、撮像装置、及び、画像処理装置

Family Cites Families (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP7379000B2 (ja) * 2019-07-29 2023-11-14 キヤノン株式会社 光電変換装置、光電変換システム、および移動体
JP7427417B2 (ja) * 2019-10-25 2024-02-05 キヤノン株式会社 光電変換装置、光電変換システム、移動体、光電変換装置の検査方法
JP7527853B2 (ja) * 2020-06-11 2024-08-05 キヤノン株式会社 光電変換装置
JP7604204B2 (ja) * 2020-12-10 2024-12-23 キヤノン株式会社 光電変換装置、撮像システム、移動体

Patent Citations (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20150163429A1 (en) 2013-12-09 2015-06-11 Omnivision Technologies, Inc. Low power imaging system with single photon avalanche diode photon counters and ghost image reduction
JP2018201155A (ja) 2017-05-29 2018-12-20 キヤノン株式会社 固体撮像素子、撮像装置及び撮像方法
WO2019150785A1 (ja) 2018-02-02 2019-08-08 ソニーセミコンダクタソリューションズ株式会社 固体撮像素子、撮像装置、および、固体撮像素子の制御方法
JP2020010150A (ja) 2018-07-06 2020-01-16 ソニーセミコンダクタソリューションズ株式会社 撮像装置および撮像システム
JP2020145554A (ja) 2019-03-05 2020-09-10 キヤノン株式会社 撮像素子及びその制御方法、撮像装置、及び、画像処理装置

Also Published As

Publication number Publication date
US12267603B2 (en) 2025-04-01
JP2023046664A (ja) 2023-04-05
US20230095243A1 (en) 2023-03-30

Similar Documents

Publication Publication Date Title
US11297269B2 (en) Image capturing apparatus
US10771724B2 (en) Image capturing apparatus
JP7339779B2 (ja) 撮像装置
JP7130384B2 (ja) 固体撮像素子、撮像装置及び撮像方法
US10063762B2 (en) Image sensor and driving method thereof, and image capturing apparatus with output signal control according to color
US11172151B2 (en) Image capture apparatus and method for controlling the same
US11122231B2 (en) Image sensor and control method thereof, image capturing apparatus, and image processing apparatus
US11843890B2 (en) Photoelectric conversion device, image pickup apparatus, control method, and storage medium
EP4346225B1 (en) Avalanche photoelectric conversion device, control method, and storage medium
US20200296307A1 (en) Information processing apparatus, image sensor, image capturing apparatus, and information processing method
JP7760305B2 (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP7292135B2 (ja) 撮像素子及び撮像装置
JP7361514B2 (ja) 撮像素子および撮像装置
JP2020025171A (ja) 撮像素子及びその制御方法、及び撮像装置
JP7757108B2 (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP7757107B2 (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP7799413B2 (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
US11917290B2 (en) Photoelectric conversion device, image pickup apparatus, control method, and storage medium
JP7661191B2 (ja) 光電変換装置、撮像装置、制御方法、及びコンピュータプログラム
JP7663617B2 (ja) 光電変換装置、光電変換装置の制御方法、及びプログラム
JP2020182026A (ja) 撮像装置およびその制御方法

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240919

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20241107

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250519

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250624

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250820

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250916

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20251015

R150 Certificate of patent or registration of utility model

Ref document number: 7760305

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150