JP7638541B2 - 瞳孔検出装置 - Google Patents
瞳孔検出装置 Download PDFInfo
- Publication number
- JP7638541B2 JP7638541B2 JP2022530121A JP2022530121A JP7638541B2 JP 7638541 B2 JP7638541 B2 JP 7638541B2 JP 2022530121 A JP2022530121 A JP 2022530121A JP 2022530121 A JP2022530121 A JP 2022530121A JP 7638541 B2 JP7638541 B2 JP 7638541B2
- Authority
- JP
- Japan
- Prior art keywords
- pupil
- image
- light
- light source
- opening
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Active
Links
Images
Classifications
-
- A—HUMAN NECESSITIES
- A61—MEDICAL OR VETERINARY SCIENCE; HYGIENE
- A61B—DIAGNOSIS; SURGERY; IDENTIFICATION
- A61B3/00—Apparatus for testing the eyes; Instruments for examining the eyes
- A61B3/10—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions
- A61B3/113—Objective types, i.e. instruments for examining the eyes independent of the patients' perceptions or reactions for determining or recording eye movement
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T1/00—General purpose image data processing
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
- G06T7/00—Image analysis
- G06T7/70—Determining position or orientation of objects or cameras
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Life Sciences & Earth Sciences (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Health & Medical Sciences (AREA)
- Computer Vision & Pattern Recognition (AREA)
- Biomedical Technology (AREA)
- Biophysics (AREA)
- Ophthalmology & Optometry (AREA)
- Human Computer Interaction (AREA)
- Heart & Thoracic Surgery (AREA)
- Medical Informatics (AREA)
- Molecular Biology (AREA)
- Surgery (AREA)
- Animal Behavior & Ethology (AREA)
- General Health & Medical Sciences (AREA)
- Public Health (AREA)
- Veterinary Medicine (AREA)
- Eye Examination Apparatus (AREA)
Description
実施形態は、人の画像から瞳孔を検出する瞳孔検出装置に関する。
近年、視線検出等を目的として、近赤外光源等の光源とビデオカメラを使用して得られた画像から人の瞳孔の位置を検出する装置が普及しつつある(下記特許文献1)。この装置では、瞳孔を相対的に明るくする傾向を有する光を対象者の顔に照射して画像(明瞳孔画像)を取得し、瞳孔を相対的に暗くする傾向を有する光を対象者の顔に照射して画像(暗瞳孔画像)を取得する。その後、それらの画像を利用して差分画像を算出することにより、対象者の瞳孔を検出する。
このような差分画像に基づく瞳孔検出の方法においては、一般には、明瞳孔画像と暗瞳孔画像を取得するタイミングには時間差があるため、両画像の取得の間に対象者の頭部が移動すると、瞳孔も移動するため、明瞳孔画像中の瞳孔像と暗瞳孔画像中の瞳孔像に位置ずれが生じ、瞳孔の検出精度に限界が生じる。このような問題を改善する方法として、明瞳孔画像及び暗瞳孔画像から角膜反射像を検出して、角膜反射像の位置を基準に位置補正してから差分画像を生成する方法が用いられている(下記特許文献2参照。)。また、鼻孔の位置を利用した差分画像の生成方法も用いられている(下記特許文献3参照。)。
上述した従来の方法では、対象者において高速な眼球回転が生じた際には、画像に写る瞳孔の形状自体が変化するため、明瞳孔画像と暗瞳孔画像とを位置合わせしても瞳孔の像が両画像間で一致しないため、差分画像を用いた場合の瞳孔の検出精度が十分ではない。高速度カメラを利用して明瞳孔画像と暗瞳孔画像の時間差をできるだけ小さくすることも考えられるが、高速度カメラを導入することはコスト面において困難な場合がある。
本実施形態は、上記課題に鑑みて為されたものであり、対象者の状態に関わらず瞳孔の検出精度を容易に高めることが可能な瞳孔検出装置を提供することを目的とする。
上記課題を解決するため、本開示の一形態にかかる瞳孔検出装置は、対象者の眼を撮像することにより眼画像を取得するカメラと、カメラの開口部の外側あるいは内側に設けられてカメラに対して対象者の瞳孔を第1の中心波長の光で照らす第1の光源と、カメラの開口部の外側あるいは内側に設けられてカメラに対して対象者の瞳孔を第1の中心波長と異なる第2の中心波長で照らす第2の光源と、眼画像を処理する演算装置とを備え、カメラは、互いに異なる少なくとも2種類の角度の直線偏光の光を透過する偏光子が、隣り合う画素毎に取り付けられたイメージセンサと、第1の中心波長の光を通過させるバンドパスフィルタと所定角度の直線偏光を透過する第1の偏光子とが組み合わされた第1の分割素子と、第2の中心波長の光を通過させるバンドパスフィルタと所定角度と異なる角度の直線偏光を透過する第2の偏光子とが組み合わされた第2の分割素子とが、開口部とイメージセンサとの間において開口部に沿って分割して設けられた光学素子と、を有し、演算装置は、眼画像のうちの隣り合う画素の輝度を基に、第1の中心波長の光に対応する輝度を計算し、計算した輝度を組み合わせて対象者の瞳孔が比較的明るく写った明瞳孔画像を取得し、眼画像のうちの隣り合う画素の輝度を基に、第2の中心波長の光に対応する輝度を計算し、計算した輝度を組み合わせて対象者の瞳孔が比較的暗く写った暗瞳孔画像を取得し、明瞳孔画像と暗瞳孔画像とを比較した比較画像を基に対象者の瞳孔像の位置を算出する。
なお、ここでいう「カメラの開口部」とは、カメラの外側からの像の光をカメラの内部のイメージセンサに取り込むための部位のことを意味し、必ずしもカメラの鏡筒の円形のレンズ部分には限定されず、カメラのレンズ部分をレンズ部分より狭い開口を有するカバー部材で覆う場合はその開口を意味する。また、開口部の形状は、円形には限定されず、長方形等の多角形、楕円形、等の様々な形状であってよい。
上記形態の瞳孔検出装置によれば、第1の光源によって第1の中心波長の光で照らされた対象者の瞳孔からの光が、光学素子の第1の分割素子を透過して所定角度の直線偏光に変換された後、イメージセンサの2種類の偏光子が取り付けられた隣り合う画素によって、その輝度が検出される。同時に、第2の光源によって第2の中心波長の光で照らされた対象者の瞳孔からの光が、光学素子の第2の分割素子を透過して所定角度と異なる角度の直線偏光に変換された後、イメージセンサの2種類の偏光子が取り付けられた隣り合う画素によって、その輝度が検出される。ここで、第1の中心波長の光で照らされた瞳孔の像は、第2の中心波長の光で照らされた瞳孔の像よりも比較的明るい。そして、演算装置によって、イメージセンサによって検出された隣り合う画素の輝度から第1の中心波長の光に対応する輝度が計算され、その輝度を組み合わせることで明瞳孔画像が取得され、イメージセンサによって検出された隣り合う画素の輝度から第2の中心波長の光に対応する輝度が計算され、その輝度を組み合わせることで暗瞳孔画像が取得され、明瞳孔画像と暗瞳孔画像を基に瞳孔像の位置が算出される。これにより、明瞳孔画像と暗瞳孔画像の取得タイミングに差が生じないので、対象者の状態に関わらず(例えば、対象者において眼球回転が生じても)瞳孔像の検出精度を容易に高めることができる。
実施形態によれば、対象者の状態に関わらず瞳孔の検出精度を容易に高めることができる。
以下、図面を参照しつつ本発明に係る瞳孔検出装置の好適な実施形態について詳細に説明する。なお、図面の説明においては、同一又は相当部分には同一符号を付し、重複する説明を省略する。
(第1実施形態)
図1に示されるように、本発明の第1実施形態である瞳孔検出装置1は、カメラ2と、照明装置(光源)3と、制御装置(演算装置)4と、を備えている。カメラ2は、筐体5と、筐体5内に収容されたCCD、CMOS等の撮像素子(イメージセンサ)6と、筐体5内に収容された対物レンズ7及び光学素子9とを有する。このカメラ2は、画像の1つのフレームの取得時間間隔が非常に短い高速度カメラであってもよいし、いわゆる中速度カメラ、低速度カメラ、又は60Hz、30Hz程度のフレームレートを有するカメラであってもよい。筐体5は、観察対象者の眼球Aと対向する面に形成された円形状の開口部8を有する。対物レンズ7及び光学素子9は、筐体5の内部の開口部8と撮像素子6との間に配置されている。対物レンズ7の光軸L0は、開口部8の中心軸線と一致している。撮像素子6は、その受光面が対物レンズ7の光軸L0に対して垂直に交わるように固定されている。光学素子9は、対物レンズ7の光軸L0上において対物レンズ7の内側(撮像素子6側)に配置されている。撮像素子6は、観察対象者の眼球Aの像を撮像することによって眼画像データを生成して制御装置4に出力する。制御装置4は、照明装置3の発光強度、点灯タイミング、及び点灯期間(発光期間)、並びにカメラ2の撮像タイミング及び撮像期間を制御する。また、制御装置4は、撮像素子6から出力された眼画像データに基づいて、画像生成処理、比較処理、瞳孔検出処理、及び角膜反射検出処理を実行する。すなわち、制御装置4は、瞳孔検出手段及び角膜反射検出手段としても機能する。
なお、開口部8の径は、対物レンズ7の径に比較して小さく、対物レンズ7の有効径と略同程度である。また、光学素子9は全体として略円形の形状を有し、対物レンズ7の有効径と略同程度の径を有する。このような構成により、観察対象者の眼球A付近の像は、開口部8を経て対物レンズ7及びカメラ2内の撮像素子6に向けて導入された後、カメラ2内の対物レンズ7及び光学素子9を含む光学系によって、撮像素子6の受光面に収束するように結像される。
照明装置3は、観察対象者の顔に向けて照明光を出射する。図2に示されるように、照明装置3は、ケーシング10と、ケーシング10に埋め込まれた光源3A,3Bを有する。ケーシング10は、開口部8の縁部に沿って開口部8の外側を覆うように筐体5に取り付けられている。光源3A,3Bは、いずれも対物レンズ7の光軸L0に沿って照明光を出射するようにケーシング10上に設けられ、開口部8の中心を基準に点対称となるように構成されている。
光源(第1の光源)3Aは、明瞳孔画像を得るための照明光(第1の照明光)によって、観察対象者の眼部(瞳孔)を照らすための光源である。明瞳孔画像とは、後述の暗瞳孔画像と比較して観察対象者の瞳孔が相対的に明るく写った画像をいう。光源3Aは、例えば、出力光の中心波長(第1の中心波長)が近赤外領域の複数の半導体発光素子(LED)からなり、開口部8の中心からの距離が比較的近い第1の距離D1の位置に配置されている。具体的には、光源3Aを構成する発光素子は、ケーシング10上で、開口部8の外側において開口部8の縁に沿って等間隔でリング状に連続して配設されている。光源3Aは、開口部8の縁にできるだけ近い位置に設けられることが好ましい。これにより、後述するように、光源3Aにより照らし出される観察対象者の像においては、瞳孔がより明るく映し出され、小さい瞳孔であっても検出が容易になる。
光源(第2の光源)3Bは、暗瞳孔画像を得るための照明光(第2の照明光)によって、観察対象者の眼部(瞳孔)を照らすための光源である。暗瞳孔画像とは、前述の明瞳孔画像と比較して観察対象者の瞳孔が相対的に暗く映った画像をいう。光源3Bは、例えば、出力光の中心波長(第2の中心波長)が第1の中心波長よりも長い近赤外領域の複数の半導体発光素子(LED)からなり、開口部8の中心からの距離が比較的遠い第2の距離D2の位置に配置されている。この第2の距離D2は第1の距離D1より大きい。具体的には、光源3Bを構成する発光素子は、ケーシング10上で、光源3Aから開口部8の外側に離間して等間隔でリング状に連続して配設されている。
上記の光源3Aから観察対象者の眼球Aに照明光が出射され、カメラ2によってその照明光で照らされた瞳孔が撮像されると明瞳孔画像が取得される。また、上記の光源3Bから観察対象者の眼球Aに照明光が出射され、カメラ2によってその照明光で照らされた瞳孔が撮像されると暗瞳孔画像が取得される。これは、次のような性質によるものである。つまり、眼球Aへの照明光がカメラ2の光軸L0から相対的に離れた位置から入射した場合には、眼球Aの瞳孔から入射し、眼球内部で反射されて再び瞳孔を通過した照明光がカメラ2に届きにくいため、瞳孔が相対的に暗く映るという性質である。
ここで、光源3Aの出力光の第1の中心波長は、例えば、850nmに設定され、光源3Bの出力光の第2の中心波長は、例えば、第1の中心波長よりも長い940nmに設定される。ただし、明瞳孔画像取得用の光源である光源3Aは、網膜を反射して戻ってくる光の輝度が強い点で、900nm付近より短い出力光の波長の光源であれば、他の波長の光源を用いてもよい。同様に、暗瞳孔取得用の光源である光源3Bは、網膜を反射して戻ってくる光の輝度が弱い点で、900nm付近より長い出力光の波長の光源であれば他の波長の光源を用いてもよい。一方で、長い波長の光源の発光パワーは弱くカメラの感度も一般に長波長になるに従って低くなるため、光源3Bは、光源3Aに比べて2倍程度の数の発光素子を備えることが好ましい。多数の発光素子を配置する余地が無い場合には、光源3Bは2重のリング状に発光素子が配置された構造であってもよい。
また、光源3A,3Bの発光強度(発光パワー)は、互いに同一の点灯期間で光源3A及び光源3Bを発光させたときの撮影対象である観察対象者の顔面での照度が略同一になるように予め設定されている。そのために、例えば、制御装置4から光源3A,3Bに供給される電流値あるいは電力値が予め設定される。
図3には、開口部8の内側に配置された光学素子9の構造を示す。光学素子9は、円板状の構造を有し、対物レンズ7の光軸L0がその中心近傍を通り、かつ、光軸L0に対して略垂直になるように配置されている。この光学素子9は、中心で2つに分割された半円の板状の分割素子9A,9Bによって構成されている。分割素子9Aは、第1の中心波長の第1の照明光を通過させるバンドパスフィルタと、開口部8の上下方向を基準にした0度の偏光方向の直線偏光を透過する第1の偏光子とが2枚重ねで組み合わされた光学素子である。分割素子9Bは、第2の中心波長の第2の照明光を通過させるバンドパスフィルタと、上下方向を基準にした90度の偏光方向の直線偏光を透過する第2の偏光子とが2枚重ねで組み合わされた光学素子である。すなわち、第1の偏光子の透過する直線偏光の偏光方向と、第2の偏光子の透過する直線偏光の偏光方向とは略直交する。このような構造の光学素子9は、分割素子9A,9Bが開口部8の開口面に沿ってその中心を水平方向に貫く中心軸(線)の両側に配置されるように、より具体的には、中心軸を基準に線対称となるように構成されている。照明装置3の光源3A,3Bも同様に構成されている。なお、分割素子9A,9Bを組み合わせた光学素子9の形状は円板状には限定されず、開口部8の縁の形状に対応した形状であれば、長方形状等の他の形状であってもよい。
一方、光学素子9は、図4に示すような構造であってもよい。図4に示す光学素子9は、開口部8の縁の形状に対応した連続した形状を有する分割素子9A,9Bによって構成され、これらの分割素子9A,9Bは、開口部8の縁に沿った境界線で2つに分割された形状を有し、分割素子9Bは分割素子9Aの内側に配置されている。すなわち、分割素子9Bは、中心が光軸L0付近に位置する円板状の形状(円形形状)とされ、分割素子9Aは分割素子9Bの外側に位置するリング状の形状とされる。このような構造の光学素子9は、照明装置3と同様に、分割素子9A,9Bが開口部8の中心を基準に点対称となるように構成されている。照明装置3の光源3A,3Bも同様に構成されている。なお、分割素子9A,9Bを組み合わせた光学素子9の形状は円板状には限定されず、開口部8の縁の形状に対応した形状であれば、長方形状等の他の形状であってもよい。
図5には、開口部8の内側に配置された撮像素子6の開口部8側から見た構造を示す。撮像素子6は、光軸L0に略垂直となるように配置された受光面20と、受光素子(図示せず)が内部に形成され、受光面20上に二次元アレイ状に配置された複数の画素21と、複数の画素21のそれぞれの表面上に画素21を覆うように配置された4種類の偏光子22A,22B,22C,22Dとを有する。すなわち、互いに隣り合う4つの画素21(以下、4画素群とも言う。)のそれぞれの表面に、互いに異なる種類の偏光子22A,22B,22C,22Dが取り付けられる。偏光子22Aは、開口部8の上下方向に対して0度の偏光方向の直線偏光を透過する光学素子である。偏光子22Bは、開口部8の上下方向に対して反時計回りに45度回転させた偏光方向の直線偏光を透過する光学素子である。偏光子22Cは、開口部8の上下方向に対して反時計回りに90度回転させた偏光方向の直線偏光を透過する光学素子である。偏光子22Dは、開口部8の上下方向に対して反時計回りに135度回転させた偏光方向の直線偏光を透過する光学素子である。撮像素子6はこのような構造が二次元的(図5の左右方向及び上下方向に)に繰り返されたような構造を有する。
撮像素子6の受光面20上の4画素群の範囲は、対物レンズ7の大きさに比較して十分に小さい。従って、上記の光学素子9及び撮像素子6は、光学素子9の分割素子9Aを透過する第1の照明光が4画素群を構成する4つの画素に同じ強度で入射し、光学素子9の分割素子9Bを透過する第2の照明光が4画素群を構成する4つの画素を同じ強度で入射するように、構成される。
続いて、図6及び図7を参照して、瞳孔検出装置1に含まれる制御装置4の構成について説明する。
制御装置4は、撮像素子6及び光源3A,3Bの制御と、観察対象者の眼画像データを処理して瞳孔及び角膜反射の検出を実行するコンピュータであり得る。制御装置4は、据置型又は携帯型のパーソナルコンピュータ(PC)により構築されてもよいし、ワークステーションにより構築されてもよいし、他の種類のコンピュータにより構築されてもよい。あるいは、制御装置4は複数台の任意の種類のコンピュータを組み合わせて構築されてもよい。複数台のコンピュータを用いる場合には、これらのコンピュータはインターネットやイントラネットなどの通信ネットワークを介して接続される。
図6に示されるように、制御装置4は、CPU(プロセッサ)101と、主記憶部102と、補助記憶部103と、通信制御部104と、入力装置105と、出力装置106とを備える。CPU101は、オペレーティングシステムやアプリケーション・プログラムなどを実行する。主記憶部102は、ROM及びRAMで構成される。補助記憶部103は、ハードディスクやフラッシュメモリなどで構成される。通信制御部104は、ネットワークカードあるいは無線通信モジュールで構成される。入力装置105は、キーボードやマウスなどを含む。出力装置106は、ディスプレイやプリンタなどを含む。
後述する制御装置4の各機能要素は、CPU101又は主記憶部102の上に所定のソフトウェアを読み込ませ、CPU101の制御の下で通信制御部104、入力装置105、出力装置106などを動作させ、主記憶部102又は補助記憶部103におけるデータの読み出し及び書き込みを行うことで実現される。処理に必要なデータやデータベースは主記憶部102又は補助記憶部103内に格納される。
図7に示されるように、制御装置4は機能的構成要素として、撮像素子駆動ユニット11と、点灯制御ユニット12と、検出ユニット13とを有する。撮像素子駆動ユニット11は、撮像素子6の撮影タイミングを制御する機能要素である。具体的には、撮像素子6を所定のフレームレート及び所定の露光時間で繰り返し撮像し、連続的に観察対象者の眼球Aの像を表す眼画像データを取得するように制御する。点灯制御ユニット12は、撮像素子6の撮影に合わせて、光源3A,3Bを同時に点灯させるように点灯タイミングを制御するとともに、光源3A,3Bの発光量を制御する機能要素である。このとき、点灯制御ユニット12は、観察対象者の頭部に動きがある場合に瞳孔あるいは角膜反射の検出位置の精度向上のためには、光源3A,3Bを同じ期間に点灯させることが好ましい。検出ユニット13は、撮像素子6から出力された眼画像データを利用して、当該眼画像データにおける瞳孔及び角膜反射を検出する機能要素である。検出された瞳孔及び角膜反射に関する情報の出力先は何ら限定されない。例えば、制御装置4は、結果を画像、図形、又はテキストでモニタに表示してもよいし、メモリやデータベースなどの記憶装置に格納してもよいし、通信ネットワーク経由で他のコンピュータシステムに送信してもよい。
検出ユニット13は、機能的構成要素として、画像取得部14と、画像計算部16と、差分画像生成部17と、瞳孔検出部18と、角膜反射検出部19、とを有する。画像取得部14は、撮像素子6から所定のフレームレートで連続的に撮影(取得)される眼画像データを取得する。画像計算部16は、各撮像タイミングの眼画像データを基に、明瞳孔画像の各画素の輝度値(光強度)を計算し、それらの輝度値を組み合わせることにより明瞳孔画像を取得する。また、画像計算部16は、各撮像タイミングの眼画像データを基に、暗瞳孔画像の各画素の輝度値(光強度)を計算し、それらの輝度値を組み合わせることにより暗瞳孔画像を取得する。差分画像生成部17は、明瞳孔画像及び暗瞳孔画像を比較した比較画像の一種としての差分画像を生成する。具体的には、差分画像生成部17は、明瞳孔画像及び暗瞳孔画像の対応する画素間の輝度の差分を計算することにより、両画像を比較した差分画像を生成する。瞳孔検出部18は、差分画像を利用して瞳孔像の位置を算出する機能要素である。角膜反射検出部19は、明瞳孔画像あるいは暗瞳孔画像を利用して角膜反射像の位置を算出する機能要素である。瞳孔検出部18及び角膜反射検出部19により行われる処理の一例は、次の通りである。まず、瞳孔検出部18は、差分画像を瞳孔用閾値を基準に2値化し、孤立点除去、モルフォロジー処理によるノイズ除去、ラベリングを行う。そして、瞳孔検出部18は、最も瞳孔らしい形状を有する画素群を、瞳孔として検出する。このとき、瞳孔がまぶたやまつ毛で隠れた場合にも、まぶたやまつ毛と瞳孔との境界を偽の瞳孔輪郭として排除し、真の瞳孔輪郭のみを楕円フィッティングして、真の瞳孔輪郭の差分画像上の位置を検出し、楕円フィッティングで求まる楕円の式から瞳孔像の中心位置を算出する。また、角膜反射検出部19は、明瞳孔画像の瞳孔の近傍から瞳孔輝度よりも高い角膜反射用閾値で2値化し、角膜反射像の中心を、輝度を考慮した重心として求める。瞳孔輝度は、楕円フィッティングした結果得られる楕円の面積ではなく、2値化して得られた瞳孔を構成する画素の輝度平均で与えられる。角膜反射検出部19は、角膜反射像の位置を、暗瞳孔画像を対象にして算出してもよい。
次に、画像計算部16の機能構成について詳細に説明する。
画像計算部16による明瞳孔画像及び暗瞳孔画像の取得の原理は次のとおりである。眼画像データの取得時に第1の分割素子9A及び第2の分割素子9Bを透過した光は、それぞれ、互いに隣り合う4つの画素21で構成される4画素群に同一の光強度で入射する。入射するそれぞれの光の光強度を、I(λa1),I(λa2)とすると、4画素群のうち、偏光子22A,22B,22C,22Dが取り付けられた画素21によって検出されるそれぞれの光強度Oi(i=1~4)は、下記式で表わされる。
上記式中、偏光子22A,22B,22C,22Dの透過する光の偏光方向の角度をそれぞれ、θsiで表わし、第1の分割素子9A及び第2の分割素子9Bを透過する光の偏光方向の角度をそれぞれθa1、θa2と表している。
上記式中、偏光子22A,22B,22C,22Dの透過する光の偏光方向の角度をそれぞれ、θsiで表わし、第1の分割素子9A及び第2の分割素子9Bを透過する光の偏光方向の角度をそれぞれθa1、θa2と表している。
上記式は、行列式で表現することにより、下記式;
に変形される。このような関係から、第1の分割素子9A及び第2の分割素子9Bのそれぞれを透過した第1及び第2の中心波長の光の光強度I(λa1),I(λa2)は、2行4列の擬似逆行列[Mij]+を用いて、下記式;
によって計算される。
に変形される。このような関係から、第1の分割素子9A及び第2の分割素子9Bのそれぞれを透過した第1及び第2の中心波長の光の光強度I(λa1),I(λa2)は、2行4列の擬似逆行列[Mij]+を用いて、下記式;
によって計算される。
上記のような計算式を利用して、画像計算部16は、眼画像データの中から各4画素群の輝度値[Oi]を読み取り、輝度値[Oi]と、予め設定された擬似逆行列[Mij]+を用いて、4画素群に入射する第1の中心波長の光に対応する輝度値I(λa1)と、4画素群に入射する第2の中心波長の光に対応する輝度値I(λa2)とを計算する。そして、画像計算部16は、受光面20上の各4画素群を対象に計算した輝度値I(λa1)を組み合わせて二次元画像データを生成することにより明瞳孔画像を取得し、各4画素群を対象に計算した輝度値I(λa2)を組み合わせて二次元画像データを生成することにより暗瞳孔画像を取得する。
第1実施形態の瞳孔検出装置1の作用効果について説明する。
上述した実施形態の瞳孔検出装置1においては、光源3Aによって第1の中心波長の光で照らされた観察対象者の瞳孔からの光が、光学素子9の第1の分割素子9Aを透過して所定角度の直線偏光に変換された後、撮像素子6の4種類の偏光子22A,22B,22C,22Dが取り付けられた隣り合う4画素によって、その輝度値が検出される。同時に、光源3Bによって第2の中心波長の光で照らされた観察対象者の瞳孔からの光が、光学素子9の第2の分割素子9Bを透過して上記所定角度と異なる角度の直線偏光に変換された後、撮像素子6の4種類の偏光子22A,22B,22C,22Dが取り付けられた隣り合う4画素によって、その輝度値が検出される。ここで、第1の中心波長の光で照らされた瞳孔の像は、第2の中心波長の光で照らされた瞳孔の像よりも比較的明るい。そして、制御装置4によって、撮像素子6によって検出された隣り合う4画素の輝度値から第1の中心波長の光に対応する輝度値が計算され、その輝度値を組み合わせることで明瞳孔画像が取得され、撮像素子6によって検出された隣り合う画素の輝度値から第2の中心波長の光に対応する輝度値が計算され、その輝度値を組み合わせることで暗瞳孔画像が取得され、明瞳孔画像と暗瞳孔画像を基に瞳孔像の位置が算出される。これにより、明瞳孔画像と暗瞳孔画像の取得タイミングに差が生じないので、観察対象者の状態に関わらず(例えば、観察対象者において眼球回転が生じても)瞳孔像の検出精度を容易に高めることができる。
特に、本実施形態では、第1の分割素子9Aの透過する光の偏光方向と、第2の分割素子9Bの透過する光の偏光方向とは、略直交している。この場合、撮像素子6の各画素に入射する第1の中心波長の光と第2の中心波長の光との間の偏光方向が明確に分かれているので、明瞳孔画像及び暗瞳孔画像の輝度計算の精度が向上し、結果としての瞳孔像の位置の検出精度も向上する。
また、撮像素子6は、互いに異なる4種類の角度の直線偏光の光を透過する偏光子22A,22B,22C,22Dが、隣り合う4つの画素毎に取り付けられており、制御装置4は、眼画像データのうちの隣り合う4つの画素の輝度値を基に、第1及び第2の中心波長のそれぞれの光に対応する輝度値を計算している。この場合、受光面20上において、第1及び第2の中心波長の光の様々な偏光方向成分を検出する複数の画素の配置バランスの均一化を図ることができる。これにより、明瞳孔画像及び暗瞳孔画像の像の均一化を図ることができ、検出する瞳孔像の位置の精度を安定化することができる。
また、光源3Aのカメラ2の開口部8中心からの距離が、光源3Bの開口部8中心からの距離よりも小さくされている。このような構造により、第1の中心波長の光で照らされた瞳孔の像と、第2の中心波長の光で照らされた瞳孔の像との間の輝度差をより大きくすることができる。その結果、比較画像を用いた瞳孔像位置の検出精度をさらに向上させることができる。
また、光学素子9は、第1の分割素子9A及び第2の分割素子9Bが開口部8を中心に点対称あるいは線対称となるように構成され、光源3A及び光源3Bは、開口部8を中心に点対称あるいは線対称となるように構成されている。こうすれば、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度のムラを防ぐことができ、比較画像において瞳孔像のみを目立たせることができ、比較画像を用いた瞳孔像位置の検出精度を向上させることができる。
特に、光学素子9が図3に示すような構造を有する場合には、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度の上下方向のムラを防ぐことができ、比較画像を用いた瞳孔像位置の検出精度を向上させることができる。
また、光学素子9が図4に示すような構造を有する場合には、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度の二次元方向のムラを防ぐことができ、比較画像を用いた瞳孔像位置の検出精度を一層向上させることができる。
また、光学素子9が図4に示すような構造を有する場合には、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度の二次元方向のムラを防ぐことができ、比較画像を用いた瞳孔像位置の検出精度を一層向上させることができる。
またさらに、制御装置4は、明瞳孔画像あるいは暗瞳孔画像を基に光源3Aあるいは光源3Bの点灯によって生じた観察対象者の角膜反射像の位置を算出している。かかる構成によれば、角膜反射像の位置を安定して検出することができる。
本実施形態における照明装置3及び光学素子9の構成の利点について説明する。
差分画像等の比較画像を基にした瞳孔検出においては、明瞳孔画像と暗瞳孔画像との間で瞳孔像における輝度差が大きいほうが瞳孔の検出精度が高まる。また、光学系(カメラ2と照明装置3)に対して瞳孔位置が変化せず、かつ、光学系に対する視線方向も変化せず、さらには、照明装置3の光量、カメラ2の感度等が変化しなければ(「瞳孔検出条件」と呼ぶ)、瞳孔が大きいほど、明瞳孔画像における瞳孔も暗瞳孔画像における瞳孔も輝度が高くなる。図8は、瞳孔面積Aと明瞳孔画像における瞳孔輝度LB及び暗瞳孔画像における瞳孔輝度LDとの関係を示すグラフであり、図9は、瞳孔面積Aと差分画像における瞳孔輝度LSとの関係を示すグラフである。このように、理想的には、次の関係式が成立する。
LB=kB・A,
LD=kD・A,
LS=kS・A=(kB-kD)・A
上記関係式中、kB、kD、kSは、それぞれ比例定数であり、上記「瞳孔検出条件」が成立する場合には一定値である。この関係式からも分かるように、瞳孔が大きいときは明瞳孔画像の瞳孔輝度が高くなり、差分画像においても瞳孔輝度が高くなる。よって、瞳孔部以外の輝度がゼロに近くなっているので、差分画像から瞳孔を検出するのが容易となる。一方で、瞳孔が小さいときには瞳孔に入射する光も瞳孔面積に応じて減るため、瞳孔の輝度が低くなる。その結果、瞳孔が小さいとき(例えば、直径2.5mm程度)には、より強い光を顔に照射する必要がある。光源の光量を挙げるためには、光源に供給する電流を増やしたり、光源の数を増やす必要があり、消費電力あるいはコストが増加する。また、明瞳孔画像における瞳孔輝度を高くするためには、カメラの開口部にできるだけ近い位置に光源を配置する必要があるが、その場合は物理的に光源を配置するスペースがないといった問題が生ずる可能性がある。
LB=kB・A,
LD=kD・A,
LS=kS・A=(kB-kD)・A
上記関係式中、kB、kD、kSは、それぞれ比例定数であり、上記「瞳孔検出条件」が成立する場合には一定値である。この関係式からも分かるように、瞳孔が大きいときは明瞳孔画像の瞳孔輝度が高くなり、差分画像においても瞳孔輝度が高くなる。よって、瞳孔部以外の輝度がゼロに近くなっているので、差分画像から瞳孔を検出するのが容易となる。一方で、瞳孔が小さいときには瞳孔に入射する光も瞳孔面積に応じて減るため、瞳孔の輝度が低くなる。その結果、瞳孔が小さいとき(例えば、直径2.5mm程度)には、より強い光を顔に照射する必要がある。光源の光量を挙げるためには、光源に供給する電流を増やしたり、光源の数を増やす必要があり、消費電力あるいはコストが増加する。また、明瞳孔画像における瞳孔輝度を高くするためには、カメラの開口部にできるだけ近い位置に光源を配置する必要があるが、その場合は物理的に光源を配置するスペースがないといった問題が生ずる可能性がある。
図10には、カメラの開口部中心から光源までの距離(観察対象者の眼部と光源及び開口部中心と結ぶ直線の角度差)と、瞳孔輝度との関係を示すグラフであり、グラフGBは瞳孔が大きい場合の関係、グラフGSは瞳孔が小さい場合の関係を示す。このように、瞳孔輝度は、開口部と光源との距離が大きい値から小さくなるに従って急激に上昇する。上述したように、明瞳孔画像の瞳孔輝度と暗瞳孔画像の瞳孔輝度の差を大きくするためには、光源3Aは開口部にできるだけ近づけて配置し、光源3Bは開口部から離して配置することが好ましい。このとき、瞳孔が大きいときは明瞳孔画像と暗瞳孔画像とで輝度差が大きくなりやすいので問題は生じにくい。問題になりやすいのは、瞳孔が極端に小さくなったときである。このようなときでも、より確実に差分画像から瞳孔を検出しやすくするためには、明瞳孔画像の瞳孔輝度を高くすることが望ましい。なぜならば、瞳孔が小さい場合には、グラフGSに示すように、光源3Bを開口部から少し離せば十分に瞳孔輝度は低くなり(距離DA)、必要以上に離してもほとんど瞳孔輝度は低くならない。それに対して、光源3Aを開口部に近づければ(例えば、距離DBから距離DCに)、明瞳孔画像の瞳孔輝度は急激に高くなり、差分画像からの瞳孔検出の精度が高くなる。
一方で、瞳孔が大きいときには、グラフGBに示すように、光源3Bが開口部からかなり離れるまでは瞳孔は明るくなる傾向がある。明瞳孔画像の瞳孔輝度は暗瞳孔画像のそれよりもはるかに高いので、輝度値が飽和レベルに達していない限りは、明瞳孔画像と暗瞳孔画像との間で輝度差があるので瞳孔検出に問題は生じない。なんらかの理由、例えば、消費電力削減の理由で、光源の光量を抑制したい場合には、瞳孔が大きいときと小さいときとで瞳孔輝度を一定に保つために光源3A,3Bの光量を下げることもできる。それにより、グラフGBとグラフGSにおいて、瞳孔の大きい場合の輝度レベルが瞳孔の小さい場合の輝度レベルに近づくこととなる。
以上の知見を踏まえて、本実施形態では、図2及び図3に示すような照明装置3及び光学素子9の構成が採用されている。このような構成の採用により、光源3Aをできるだけ開口部8に近づけて配置することができ、観察対象者からの瞳孔像のうち、第1の中心波長の光成分も第2の中心波長の光成分もバランスよく開口部8内の撮像素子6に導くことができる。
また、本実施形態では、図2及び図4に示すような照明装置3及び光学素子9の構成を採用した場合には、観察対象者からの瞳孔像のうち、第1の中心波長の光成分も第2の中心波長の光成分も二次元方向においてバランスよく開口部8内の撮像素子6に導くことができる。また、この構成により、光源3Aを開口部8に近づけて配置することができる。分割素子9Aはリング状の形状を有しているため、分割素子9Aの任意の一点を基準にすると一部の光源3Aは距離が遠くなってしまうが、その一点に近い光源3Aが1つでもあれば瞳孔を明るくする効果が非常に高いので、光源3A全体としては瞳孔を明るくする効果を十分に有する。また、光源3Bを開口部8内の分割素子9Bに対して十分に離すことができており、暗瞳孔画像の瞳孔輝度を十分に低くすることができる。
本発明は、上述した実施形態に限定されるものではない。上記実施形態の構成は様々変更されうる。
上述した実施形態では、差分画像生成部17が、明瞳孔画像と暗瞳孔画像とを比較した比較画像として差分画像を生成していたが、特開2008-246004号公報に記載されたように、比較画像として除算画像を用いるようにしてもよい。さらには、比較画像として、他の演算により明瞳孔画像と暗瞳孔画像とを比較した画像が生成されてもよい。
また、上述した実施形態では、制御装置4が、瞳孔検出部18によって差分画像を基に検出された瞳孔像の位置と、角膜反射検出部19によって暗瞳孔画像及び明瞳孔画像のそれぞれを対象に検出された角膜反射像の位置とを基に、観察対象者の視線方向及び注視点を検出してもよい。視線方向および注視点の算出手法は、本発明者らによって開発された手法(国際公開WO2012/020760号公報参照)を採用することができる。本実施形態の制御装置4で検出された瞳孔像の位置を用いることで、観察対象者の視線方向および注視点を安定して検出することができる。
また、上述した実施形態にかかる照明装置3における各光源の構成、及び光学素子9の構成は、様々変更してもよい。
図11には、光源3A,3B及び分割素子9A,9Bの配置の変形例を示している。この例においては、光源3A,3B及び分割素子9A,9Bは、開口部8の開口面に沿ってその中心を上下に貫く中心軸(線)の両側に配置されるように、より具体的には、中心軸を基準にして線対称となるように配置されている。分割素子9Aは、開口部8の中心を上下に貫く中心軸の両側に設けられた、開口部8の縁の形状に対応した2つの分割形状である弓形の形状を左右に有する。なお、分割素子9Aは、2つ以上(例えば、4つ)の分割形状を有していてもよい。また、分割素子9Bは、その弓形の形状に挟まれて開口部8の中心に配置されている。光源3Aは、開口部8の近傍の分割素子9Aの外側に左右に分離して配置され、光源3Bは、光源3Aの外側に左右に分離して配置されている。この構成によっても、左右に対称な構成を有するので、明瞳孔画像及び暗瞳孔画像において顔領域で輝度差が小さく保たれ、照明装置3の上下方向のサイズを小さくしたい場合に有効な構成である。
図12には、光源3A,3B及び分割素子9A,9Bの配置の他の変形例を示している。分割素子9A,9Bの構成は、図3の構成と同一とされ、光源3Aは分割素子9A側(左側)の開口部8の近傍にのみ配置され、光源3Bも開口部8の左側に分離して配置される。このような構成においては、分割素子9A側の開口部8と光源3Aとの距離が近くされ、分割素子9A側の開口部8から遠い光源3Aは存在しないため、明瞳孔画像における瞳孔輝度が高く保たれる。さらに、光源3Bを、分割素子9B側の開口部8からの距離をある程度保ちつつ、光源3Aとの距離及び開口部8の中心からの距離を小さくすることができる。その結果、光学系全体のサイズを小さくすることができる。仮に、明瞳孔画像及び暗瞳孔画像において顔又は瞳孔内の輝度傾斜が生じたとしても、光源3Aと光源3Bの位置が近いため、輝度傾斜の傾向が両画像で大きく異なることは無いため、差分画像において瞳孔以外の部分が目立ちにくく、瞳孔の検出精度を保つことができる。
ここで、上述した実施形態、及び図11に示す形態においては、点対称及び線対称の構成には限定されず、開口部8の中心あるいは中心軸を基準にした点対称あるいは線対称な配置及び形状からずれた配置及び形状とされてもよい。例えば、明瞳孔画像及び暗瞳孔画像の輝度を調整するために、点対称あるいは線対称な配置及び形状から調整された配置及び形状とされてもよい。
また、光学素子9は、任意の形状で複数に分割された複数の分割部によって構成されてもよい。例えば、四角形状の複数の分割部によって構成されてもよい。このような構成では、分割素子9A,9Bは、それぞれ、複数の分割部に適宜(例えば、交互に)割り当てられる。
また、光学素子9は、対物レンズ7の内側(撮像素子6側)に配置されている必要はなく、対物レンズ7の外側(観察対象者側)に配置されていてもよい。あるいは、カメラ2に備えられるカメラレンズが複数枚の光学レンズを含んで構成される場合には、光学素子9は、その複数の光学レンズのいずれか2枚の間で配置されていてもよく、カメラレンズ全体の前後(観察対象者側もしくは撮像素子6側)に配置されていてもよい。
また、特許第4528980号公報に記載されたように、光源3A,3Bをカメラ2の開口部8の内側に配置してもよい。また、光源3Aを開口部8の内側に配置し、光源3Bを開口部8の外側に配置してもよい。
また、上記実施形態においては、撮像素子6が4画素群毎に4種類の偏光子が設けられた構造を有していたが、少なくとも2種類以上の偏光子が設けられた構造であればいい。例えば、隣り合う2つの画素21毎に2種類の偏光子が設けられていてもよいし、隣り合う3つの画素21毎に3種類の偏光子が設けられていてもよい。このような変形例においても、制御装置4が、隣り合う2つの画素、あるいは、隣り合う3つの画素の画素値を基に、第1の中心波長の光成分の輝度値と第2の中心波長の光成分の輝度値を計算することができる。
また、上記実施形態においては、制御装置4が、隣り合う4つの画素の画素値を基に、第1の中心波長の光成分の輝度値と第2の中心波長の光成分の輝度値を計算していたが、隣り合う4つの画素の中の少なくとも2つの画素(2つの画素、あるいは3つの画素)の画素値を基に、第1の中心波長の光成分の輝度値と第2の中心波長の光成分の輝度値を計算することもできる。
ここで、上記実施形態では、第1の偏光子の透過する光の偏光方向と、第2の偏光子の透過する光の偏光方向とは、略直交する、こととしてもよい。この場合、イメージセンサの各画素に入射する第1の中心波長の光と第2の中心波長の光との間の偏光方向が明確に分かれているので、明瞳孔画像及び暗瞳孔画像の輝度計算の精度が向上し、結果としての瞳孔像の位置の検出精度も向上する。
また、イメージセンサにおいては、互いに異なる4種類の角度の直線偏光の光を透過する偏光子が、隣り合う4つの画素毎に取り付けられており、演算装置は、眼画像における隣り合う4つの画素のうちの少なくとも2つの画素の輝度を基に、第1及び第2の中心波長のそれぞれの光に対応する輝度を計算する、こととしてもよい。この場合、イメージセンサ上において、第1及び第2の中心波長の光の様々な偏光方向成分を検出する複数の画素の配置バランスの均一化を図ることができる。これにより、明瞳孔画像及び暗瞳孔画像の像の均一化を図ることができ、検出する瞳孔像の位置の精度を安定化することができる。
また、第1の光源は、カメラの開口部中心からの距離が第1の距離の位置に配置され、第2の光源は、開口部中心からの距離が第1の距離よりも大きい第2の距離の位置に配置されている、こととしてもよい。この場合、第1の中心波長の光で照らされた瞳孔の像と、第2の中心波長の光で照らされた瞳孔の像との間の輝度差をより大きくすることができる。その結果、比較画像を用いた瞳孔像位置の検出精度をさらに向上させることができる。
また、第2の分割素子は、第1の分割素子の内側に配置されている、こととしてもよい。こうすれば、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度のムラを防ぐことができ、比較画像において瞳孔像のみを目立たせることができ、比較画像を用いた瞳孔像位置の検出精度を向上させることができる。
また、第2の分割素子が、開口部の中心に配置された円形形状を有し、第1の分割素子が、第2の分割素子の外側に配置されたリング形状を有する、こととしてもよい。この場合には、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度のムラを防ぐことができるとともに、瞳孔像における輝度差を際立たせることができる。その結果、比較画像において瞳孔像のみを一層目立たせることができ、比較画像を用いた瞳孔像位置の検出精度を一層向上させることができる。
また、第1の分割素子及び第2の分割素子が光学素子上の線の両側に配置されるように構成され、第1の光源及び第2の光源は、開口部を両側から挟むように配置されて構成されている、こととしてもよい。この場合には、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度のムラを防ぐことができ、比較画像において瞳孔像のみを目立たせることができ、比較画像を用いた瞳孔像位置の検出精度を向上させることができる。
さらに、第1の分割素子が、光学素子上の線の両側に設けられた所定形状の2つ以上の分割形状を有し、第2の分割素子が、2つ以上の分割形状に挟まれて配置される、こととしてもよい。この場合にも、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度のムラを防ぐことができるとともに、瞳孔像における輝度差を際立たせることができる。その結果、比較画像において瞳孔像のみを一層目立たせることができ、比較画像を用いた瞳孔像位置の検出精度を一層向上させることができる。
また、光学素子は、所定形状で複数に分割された複数の分割部を有し、第1の分割素子及び第2の分割素子は、複数の分割部に割り当てられている、こととしてもよい。この場合にも、明瞳孔画像及び暗瞳孔画像中において瞳孔像及びその周辺部の輝度のムラを防ぐことができるとともに、瞳孔像における輝度差を際立たせることができる。その結果、比較画像において瞳孔像のみを一層目立たせることができ、比較画像を用いた瞳孔像位置の検出精度を一層向上させることができる。
またさらに、演算装置は、明瞳孔画像あるいは暗瞳孔画像を基に第1の光源あるいは第2の光源の点灯によって生じた対象者の角膜反射像の位置を算出する、こととしてもよい。かかる構成によれば、角膜反射像の位置を安定して検出することができる。
さらにまた、演算装置は、比較画像を基に算出した瞳孔像の位置と、明瞳孔画像あるいは暗瞳孔画像を基に算出した角膜反射像の位置とを基に、対象者の視線方向を検出する、こととしてもよい。こうすれば、対象者の視線方向を安定して検出することができる。
本開示の一側面は、人の画像から瞳孔を検出する瞳孔検出装置を使用用途とし、対象者の状態に関わらず瞳孔の検出精度を容易に高めることができるものである。
A…眼球、3A,3B…光源、1…瞳孔検出装置、2…カメラ、3…照明装置、4…制御装置(演算装置)、6…撮像素子(イメージセンサ)、8…開口部、9…光学素子、9A,9B…分割素子、21…画素、22A,22B,22C,22D…偏光子。
Claims (11)
- 対象者の眼を撮像することにより眼画像を取得するカメラと、
前記カメラの開口部の外側あるいは内側に設けられて前記カメラに対して前記対象者の瞳孔を第1の中心波長の光で照らす第1の光源と、
前記カメラの開口部の外側あるいは内側に設けられて前記カメラに対して前記対象者の瞳孔を第1の中心波長と異なる第2の中心波長で照らす第2の光源と、
前記眼画像を処理する演算装置とを備え、
前記カメラは、
互いに異なる少なくとも2種類の角度の直線偏光の光を透過する偏光子が、隣り合う画素毎に取り付けられたイメージセンサと、
前記第1の中心波長の光を通過させるバンドパスフィルタと所定角度の直線偏光を透過する第1の偏光子とが組み合わされた第1の分割素子と、前記第2の中心波長の光を通過させるバンドパスフィルタと前記所定角度と異なる角度の直線偏光を透過する第2の偏光子とが組み合わされた第2の分割素子とが、前記開口部と前記イメージセンサとの間において前記開口部に沿って分割して設けられた光学素子と、
を有し、
前記演算装置は、
前記眼画像のうちの前記隣り合う画素の輝度を基に、前記第1の中心波長の光に対応する輝度を計算し、計算した前記輝度を組み合わせて前記対象者の瞳孔が比較的明るく写った明瞳孔画像を取得し、
前記眼画像のうちの前記隣り合う画素の輝度を基に、前記第2の中心波長の光に対応する輝度を計算し、計算した前記輝度を組み合わせて前記対象者の瞳孔が比較的暗く写った暗瞳孔画像を取得し、
前記明瞳孔画像と前記暗瞳孔画像とを比較した比較画像を基に前記対象者の瞳孔像の位置を算出する、
瞳孔検出装置。 - 前記第1の偏光子の透過する光の偏光方向と、前記第2の偏光子の透過する光の偏光方向とは、略直交する、
請求項1記載の瞳孔検出装置。 - 前記イメージセンサにおいては、互いに異なる4種類の角度の直線偏光の光を透過する偏光子が、隣り合う4つの画素毎に取り付けられており、
前記演算装置は、
前記眼画像における前記隣り合う4つの画素のうちの少なくとも2つの画素の輝度を基に、前記第1及び第2の中心波長のそれぞれの光に対応する輝度を計算する、
請求項1又は2記載の瞳孔検出装置。 - 前記第1の光源は、前記カメラの開口部中心からの距離が第1の距離の位置に配置され、
前記第2の光源は、前記開口部中心からの距離が第1の距離よりも大きい第2の距離の位置に配置されている、
請求項1~3のいずれか1項に記載の瞳孔検出装置。 - 前記第2の分割素子は、前記第1の分割素子の内側に配置されている、
請求項1~4のいずれか1項に記載の瞳孔検出装置。 - 前記第2の分割素子が、前記開口部の中心に配置された円形形状を有し、
前記第1の分割素子が、前記第2の分割素子の外側に配置されたリング形状を有する、
請求項5に記載の瞳孔検出装置。 - 前記第1の分割素子及び前記第2の分割素子は、前記光学素子上の線の両側に配置されるように構成され、
前記第1の光源及び前記第2の光源は、前記開口部を両側から挟むように配置されて構成されている、
請求項1~4のいずれか1項に記載の瞳孔検出装置。 - 前記第1の分割素子が、前記光学素子上の線の両側に設けられた所定形状の2つ以上の分割形状を有し、
前記第2の分割素子が、前記2つ以上の分割形状に挟まれて配置される、
請求項7に記載の瞳孔検出装置。 - 前記光学素子は、所定形状で複数に分割された複数の分割部を有し、
前記第1の分割素子及び前記第2の分割素子は、前記複数の分割部に割り当てられている、
請求項1~4のいずれか1項に記載の瞳孔検出装置。 - 前記演算装置は、前記明瞳孔画像あるいは前記暗瞳孔画像を基に前記第1の光源あるいは第2の光源の点灯によって生じた前記対象者の角膜反射像の位置を算出する、
請求項1~9のいずれか1項に記載の瞳孔検出装置。 - 前記演算装置は、前記比較画像を基に算出した前記瞳孔像の位置と、前記明瞳孔画像あるいは前記暗瞳孔画像を基に算出した前記角膜反射像の位置とを基に、前記対象者の視線方向を検出する、
請求項10に記載の瞳孔検出装置。
Applications Claiming Priority (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2020100416 | 2020-06-09 | ||
| JP2020100416 | 2020-06-09 | ||
| PCT/JP2021/020053 WO2021251146A1 (ja) | 2020-06-09 | 2021-05-26 | 瞳孔検出装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPWO2021251146A1 JPWO2021251146A1 (ja) | 2021-12-16 |
| JP7638541B2 true JP7638541B2 (ja) | 2025-03-04 |
Family
ID=78846017
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2022530121A Active JP7638541B2 (ja) | 2020-06-09 | 2021-05-26 | 瞳孔検出装置 |
Country Status (2)
| Country | Link |
|---|---|
| JP (1) | JP7638541B2 (ja) |
| WO (1) | WO2021251146A1 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20250194921A1 (en) * | 2022-03-29 | 2025-06-19 | Sony Group Corporation | Medical observation device and information processing device |
Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014151025A (ja) | 2013-02-08 | 2014-08-25 | Scalar Corp | 眼球撮像装置 |
| WO2017013913A1 (ja) | 2015-07-17 | 2017-01-26 | ソニー株式会社 | 視線検出装置、アイウェア端末、視線検出方法及びプログラム |
| WO2017077676A1 (ja) | 2015-11-05 | 2017-05-11 | パナソニックIpマネジメント株式会社 | カメラシステム、給餌システム、撮像方法および撮像装置 |
| JP2018126492A (ja) | 2017-02-07 | 2018-08-16 | パナソニックIpマネジメント株式会社 | 眼球撮影装置 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0782539B2 (ja) * | 1988-07-14 | 1995-09-06 | 株式会社エイ・ティ・アール通信システム研究所 | 瞳孔画像撮影装置 |
| JPH11169345A (ja) * | 1997-12-15 | 1999-06-29 | Sukara Kk | 瞳孔計 |
-
2021
- 2021-05-26 WO PCT/JP2021/020053 patent/WO2021251146A1/ja not_active Ceased
- 2021-05-26 JP JP2022530121A patent/JP7638541B2/ja active Active
Patent Citations (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2014151025A (ja) | 2013-02-08 | 2014-08-25 | Scalar Corp | 眼球撮像装置 |
| WO2017013913A1 (ja) | 2015-07-17 | 2017-01-26 | ソニー株式会社 | 視線検出装置、アイウェア端末、視線検出方法及びプログラム |
| WO2017077676A1 (ja) | 2015-11-05 | 2017-05-11 | パナソニックIpマネジメント株式会社 | カメラシステム、給餌システム、撮像方法および撮像装置 |
| JP2018126492A (ja) | 2017-02-07 | 2018-08-16 | パナソニックIpマネジメント株式会社 | 眼球撮影装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| WO2021251146A1 (ja) | 2021-12-16 |
| JPWO2021251146A1 (ja) | 2021-12-16 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10108261B1 (en) | Eye tracking based on light polarization | |
| US10257507B1 (en) | Time-of-flight depth sensing for eye tracking | |
| US11238598B1 (en) | Estimation of absolute depth from polarization measurements | |
| US20220197376A1 (en) | Event camera system for pupil detection and eye tracking | |
| CN104274151B (zh) | 视线检测装置和视线检测方法 | |
| US8077914B1 (en) | Optical tracking apparatus using six degrees of freedom | |
| US12023128B2 (en) | System and method for eye tracking | |
| US10307057B2 (en) | Eye imaging apparatus | |
| JP6631951B2 (ja) | 視線検出装置及び視線検出方法 | |
| CN108073016A (zh) | 图像形成装置 | |
| US11871990B2 (en) | Retinal camera with dynamic illuminator for expanding eyebox | |
| JP6687195B2 (ja) | 眼部画像処理装置 | |
| JP6957048B2 (ja) | 眼部画像処理装置 | |
| JP7638541B2 (ja) | 瞳孔検出装置 | |
| JP7228885B2 (ja) | 瞳孔検出装置 | |
| JP6555707B2 (ja) | 瞳孔検出装置、瞳孔検出方法及び瞳孔検出プログラム | |
| US12346495B2 (en) | Tracking system using a differential camera with a co-aligned light source assembly | |
| US12073018B2 (en) | Multiple gaze dependent illumination sources for retinal eye tracking | |
| JP7689365B2 (ja) | 生体情報解析装置 | |
| US12300130B2 (en) | Image processing apparatus, display apparatus, image processing method, and storage medium | |
| US20230083725A1 (en) | Personal authentication apparatus, personal authentication method, and storage medium | |
| JP2026049226A (ja) | 瞳孔検出装置及び瞳孔検出方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20240510 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20250204 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20250212 |
|
| R150 | Certificate of patent or registration of utility model |
Ref document number: 7638541 Country of ref document: JP Free format text: JAPANESE INTERMEDIATE CODE: R150 |



