JPH0782539B2 - 瞳孔画像撮影装置 - Google Patents
瞳孔画像撮影装置Info
- Publication number
- JPH0782539B2 JPH0782539B2 JP1181387A JP18138789A JPH0782539B2 JP H0782539 B2 JPH0782539 B2 JP H0782539B2 JP 1181387 A JP1181387 A JP 1181387A JP 18138789 A JP18138789 A JP 18138789A JP H0782539 B2 JPH0782539 B2 JP H0782539B2
- Authority
- JP
- Japan
- Prior art keywords
- image
- light source
- light
- photographing
- pupil
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
- 210000001747 pupil Anatomy 0.000 title claims description 84
- 210000001508 eye Anatomy 0.000 claims description 45
- 230000003287 optical effect Effects 0.000 claims description 44
- 210000005252 bulbus oculi Anatomy 0.000 claims description 38
- 238000012545 processing Methods 0.000 claims description 33
- 238000003384 imaging method Methods 0.000 claims description 5
- 230000001678 irradiating effect Effects 0.000 claims description 3
- 238000010586 diagram Methods 0.000 description 43
- 238000005286 illumination Methods 0.000 description 40
- 238000000034 method Methods 0.000 description 39
- 238000000605 extraction Methods 0.000 description 15
- 210000003128 head Anatomy 0.000 description 15
- 238000001514 detection method Methods 0.000 description 14
- 235000002673 Dioscorea communis Nutrition 0.000 description 9
- 241000544230 Dioscorea communis Species 0.000 description 9
- 208000035753 Periorbital contusion Diseases 0.000 description 9
- 238000002474 experimental method Methods 0.000 description 8
- 210000004087 cornea Anatomy 0.000 description 7
- 230000000694 effects Effects 0.000 description 7
- 239000011521 glass Substances 0.000 description 7
- 241001469893 Oxyzygonectes dovii Species 0.000 description 6
- 238000004891 communication Methods 0.000 description 6
- 230000015654 memory Effects 0.000 description 6
- 210000001525 retina Anatomy 0.000 description 6
- 230000010287 polarization Effects 0.000 description 5
- 238000000926 separation method Methods 0.000 description 5
- 230000000007 visual effect Effects 0.000 description 5
- 239000003973 paint Substances 0.000 description 4
- 230000008859 change Effects 0.000 description 3
- 238000009792 diffusion process Methods 0.000 description 3
- 210000000744 eyelid Anatomy 0.000 description 3
- 230000006870 function Effects 0.000 description 3
- 230000020169 heat generation Effects 0.000 description 3
- 230000011514 reflex Effects 0.000 description 3
- 239000000758 substrate Substances 0.000 description 3
- 230000007613 environmental effect Effects 0.000 description 2
- 239000000284 extract Substances 0.000 description 2
- 210000000720 eyelash Anatomy 0.000 description 2
- 230000001815 facial effect Effects 0.000 description 2
- 230000008921 facial expression Effects 0.000 description 2
- 230000005484 gravity Effects 0.000 description 2
- 229910052736 halogen Inorganic materials 0.000 description 2
- 150000002367 halogens Chemical class 0.000 description 2
- 210000000214 mouth Anatomy 0.000 description 2
- 230000008569 process Effects 0.000 description 2
- 230000004044 response Effects 0.000 description 2
- 210000004243 sweat Anatomy 0.000 description 2
- 101100115215 Caenorhabditis elegans cul-2 gene Proteins 0.000 description 1
- 101000857682 Homo sapiens Runt-related transcription factor 2 Proteins 0.000 description 1
- 102100025368 Runt-related transcription factor 2 Human genes 0.000 description 1
- XUIMIQQOPSSXEZ-UHFFFAOYSA-N Silicon Chemical compound [Si] XUIMIQQOPSSXEZ-UHFFFAOYSA-N 0.000 description 1
- 238000010521 absorption reaction Methods 0.000 description 1
- 238000005452 bending Methods 0.000 description 1
- 230000005540 biological transmission Effects 0.000 description 1
- 230000000903 blocking effect Effects 0.000 description 1
- 238000005282 brightening Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 239000002131 composite material Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000004424 eye movement Effects 0.000 description 1
- 238000009434 installation Methods 0.000 description 1
- 230000031700 light absorption Effects 0.000 description 1
- 239000000463 material Substances 0.000 description 1
- 238000005259 measurement Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 210000001331 nose Anatomy 0.000 description 1
- 230000001766 physiological effect Effects 0.000 description 1
- 238000011897 real-time detection Methods 0.000 description 1
- 230000002207 retinal effect Effects 0.000 description 1
- 210000003786 sclera Anatomy 0.000 description 1
- 230000035945 sensitivity Effects 0.000 description 1
- 238000004904 shortening Methods 0.000 description 1
- 229910052710 silicon Inorganic materials 0.000 description 1
- 239000010703 silicon Substances 0.000 description 1
- 125000006850 spacer group Chemical group 0.000 description 1
- 238000012546 transfer Methods 0.000 description 1
- 229910052724 xenon Inorganic materials 0.000 description 1
- FHNFHKCVQCLJFQ-UHFFFAOYSA-N xenon atom Chemical compound [Xe] FHNFHKCVQCLJFQ-UHFFFAOYSA-N 0.000 description 1
Landscapes
- Image Input (AREA)
- Image Processing (AREA)
- Position Input By Displaying (AREA)
- Image Analysis (AREA)
- Eye Examination Apparatus (AREA)
Description
【発明の詳細な説明】 [産業上の利用分野] この発明は瞳孔画像撮影装置に関し、特に、眼球特徴点
である瞳孔を少ない光量の照明で安定に抽出するような
瞳孔画像撮影装置に関する。
である瞳孔を少ない光量の照明で安定に抽出するような
瞳孔画像撮影装置に関する。
[従来の技術] 近年、コンピュータはその進歩により複雑かつ豊富な機
能を実現できるようになり、適用範囲が増々拡がりつつ
ある。一方、その利用者も専門家から非専門家に範囲を
拡げつつある。ここに、より複雑化するシステムをより
簡単に使用できるようにするヒューマンインタフェース
の技術が重要になる。人間同士のコミュニケーションで
は言葉だけでなく表情や仕草から相手の意思を推測する
ことによって円滑な対話が行なわれており、特に眼の動
きは意思疎通の重要な役割を果たしている。
能を実現できるようになり、適用範囲が増々拡がりつつ
ある。一方、その利用者も専門家から非専門家に範囲を
拡げつつある。ここに、より複雑化するシステムをより
簡単に使用できるようにするヒューマンインタフェース
の技術が重要になる。人間同士のコミュニケーションで
は言葉だけでなく表情や仕草から相手の意思を推測する
ことによって円滑な対話が行なわれており、特に眼の動
きは意思疎通の重要な役割を果たしている。
すなわち、視点の動きには人の意図が大きく反映される
と考えられる。コンピュータや通信システムインタフェ
ースでは利用者は何らかの表示装置に長い時間向かい合
うことになるため、表示装置の図面上の視点の動きを常
時検出できれば、利用者の意図を抽出する大きな手掛り
になると考えられる。端的には利用者がどこを見ている
のか、その先には、何に関心があるのか、迷いは何かな
どである。
と考えられる。コンピュータや通信システムインタフェ
ースでは利用者は何らかの表示装置に長い時間向かい合
うことになるため、表示装置の図面上の視点の動きを常
時検出できれば、利用者の意図を抽出する大きな手掛り
になると考えられる。端的には利用者がどこを見ている
のか、その先には、何に関心があるのか、迷いは何かな
どである。
そこで、本願発明者らは、利用者の操作意図を汲取り、
柔軟な応答を返すインタフェース機能を実現すること、
さらに知的通信の分野において、受信者の視線の動きか
ら受信者の関心のある視対象を抽出し、送信側にフィー
ドバックすることにより、臨場感のある受手主体の画像
通信を実現することなどを狙いとして、視線の効率的な
検出方法の重要性を指摘してきた。
柔軟な応答を返すインタフェース機能を実現すること、
さらに知的通信の分野において、受信者の視線の動きか
ら受信者の関心のある視対象を抽出し、送信側にフィー
ドバックすることにより、臨場感のある受手主体の画像
通信を実現することなどを狙いとして、視線の効率的な
検出方法の重要性を指摘してきた。
上述のような視線を検出する装置として、従来よりアイ
カメラが知られている。しかしながら、アイカメラは、
眼鏡を装着しなければならず、利用者が相対しているデ
ィスプレイの座標系で視点を求めるためには頭部を固定
する必要があるなどの制約があるため、視線をインタフ
ェースや画像通信に利用する目的には必ずしも向いてい
ない。すなわち、人に特別な物を装着させることなく、
非接触で視線を検出するためには、画像処理によって検
出する方法の方が有利である。
カメラが知られている。しかしながら、アイカメラは、
眼鏡を装着しなければならず、利用者が相対しているデ
ィスプレイの座標系で視点を求めるためには頭部を固定
する必要があるなどの制約があるため、視線をインタフ
ェースや画像通信に利用する目的には必ずしも向いてい
ない。すなわち、人に特別な物を装着させることなく、
非接触で視線を検出するためには、画像処理によって検
出する方法の方が有利である。
第23図は非接触視線検出装置の構造として考えられる一
例を示す図である。第23図を参照して、ディスプレイ1
の両側にはカメラ2,3と照明装置4,5とが設けられてい
る。このような非接触視線検出装置において、第1の課
題は照明装置4,5で照明された利用者の画像をカメラ2,3
により撮影し、撮影された画像から視線検出に必要な複
数の特徴点を抽出することにある。第2の課題は、それ
らの特徴点の空間位置を高速,高精度で計測することで
ある。第3の課題は、特徴点の位置から視線の方向およ
びディスプレイ上の注視点位置を求めることである。
例を示す図である。第23図を参照して、ディスプレイ1
の両側にはカメラ2,3と照明装置4,5とが設けられてい
る。このような非接触視線検出装置において、第1の課
題は照明装置4,5で照明された利用者の画像をカメラ2,3
により撮影し、撮影された画像から視線検出に必要な複
数の特徴点を抽出することにある。第2の課題は、それ
らの特徴点の空間位置を高速,高精度で計測することで
ある。第3の課題は、特徴点の位置から視線の方向およ
びディスプレイ上の注視点位置を求めることである。
人物の動き、特に視線の動きは高速なため、これに追従
して動きを正確に検出するためには、まず明瞭な画像を
撮影し、簡単な画像処理で特徴点を抽出できるようにす
る必要がある。しかし、実際の室内では、利用者に対し
てディスプレイからの光の放射があり、さらに螢光灯な
ど外部照明の影響もあるので利用者の照明条件が変化す
る。したがって、常に安定な画像が得られるとは限らな
い。入力画像の質が悪ければ、雑音除去などに時間がか
かり、高速化が不可能である。
して動きを正確に検出するためには、まず明瞭な画像を
撮影し、簡単な画像処理で特徴点を抽出できるようにす
る必要がある。しかし、実際の室内では、利用者に対し
てディスプレイからの光の放射があり、さらに螢光灯な
ど外部照明の影響もあるので利用者の照明条件が変化す
る。したがって、常に安定な画像が得られるとは限らな
い。入力画像の質が悪ければ、雑音除去などに時間がか
かり、高速化が不可能である。
これを解決するための手段として、撮影対象である人物
に照明を当てる方法が考えられるが、この方法には以下
の問題点がある。すなわち、1つの問題は自然なインタ
フェース環境を得るのが困難である。すなわち、照明装
置としては、従来、白熱ランプ,キセノンランプ,ハロ
ゲンランプなどがよく知られているが、これらは波長域
が広く可視域を中心に分布するため、この光で利用者を
前方から照射する方法は、自然なインタフェースの点か
ら適さない。
に照明を当てる方法が考えられるが、この方法には以下
の問題点がある。すなわち、1つの問題は自然なインタ
フェース環境を得るのが困難である。すなわち、照明装
置としては、従来、白熱ランプ,キセノンランプ,ハロ
ゲンランプなどがよく知られているが、これらは波長域
が広く可視域を中心に分布するため、この光で利用者を
前方から照射する方法は、自然なインタフェースの点か
ら適さない。
第2の問題点は装置の大型化および発熱化の問題であ
る。すなわち、インタフェースに使用する状況を考慮
し、従来の照明装置の照明条件を改善しようとすれば、
照明源の先にバンドパスフィルタや偏光板などの光学部
品を取付ける必要がある。たとえば、人に知覚されない
近赤外の照明を利用し、この反射光を捕える場合を考え
ると、可視光を遮断する必要がある。しかし、上述の従
来から知られた照明装置は発光の効率が悪く、発熱量が
大きいために周囲の温度が上昇してしまう。このため、
光源と光学素子を一体化するなどして小型にすることが
できず、したがって、照明装置は大型のものを使用せざ
るを得ない。
る。すなわち、インタフェースに使用する状況を考慮
し、従来の照明装置の照明条件を改善しようとすれば、
照明源の先にバンドパスフィルタや偏光板などの光学部
品を取付ける必要がある。たとえば、人に知覚されない
近赤外の照明を利用し、この反射光を捕える場合を考え
ると、可視光を遮断する必要がある。しかし、上述の従
来から知られた照明装置は発光の効率が悪く、発熱量が
大きいために周囲の温度が上昇してしまう。このため、
光源と光学素子を一体化するなどして小型にすることが
できず、したがって、照明装置は大型のものを使用せざ
るを得ない。
次に、照明は使用方法によっては、明瞭な画像が得ら
れ、特徴点抽出に効果があるが、反面、目的に合った使
用方法をとらなければ雑音源になり、逆効果となる。人
物または眼球の特徴点を抽出する場合を例にとって詳し
く説明する。
れ、特徴点抽出に効果があるが、反面、目的に合った使
用方法をとらなければ雑音源になり、逆効果となる。人
物または眼球の特徴点を抽出する場合を例にとって詳し
く説明する。
第24図は従来の照明装置と撮影装置を用いて人物の顔に
合った青色のマークを特徴点としてこれを抽出する実験
を行なった例を示す図であり、第25A図および第25B図は
第24図に示した実験によって顔の特徴点を抽出した例を
示す図である。
合った青色のマークを特徴点としてこれを抽出する実験
を行なった例を示す図であり、第25A図および第25B図は
第24図に示した実験によって顔の特徴点を抽出した例を
示す図である。
人物の顔には第25A図に示すように、4箇所に青色のマ
ーカ6が貼られている。第24図に示した照明装置8から
撮影対象10に参照光9を照射し、その反射光をカメラ13
で捕えて撮影した画像から青色成分を抽出し、2値化処
理した結果が第25B図に示す画像である。第25B図から明
らかなように、青色マーク6の他に雑音成分7が捉えら
れており、問題のあることがわかる。この原因は以下の
ように考えられる。すなわち、撮影対象10に参照光9を
照射したとき、反射する光は大きく2種類の成分に分け
られる。一方は、撮影対象10の表面で拡散反射する光11
であり、反射する材質の光学的性質を反映している。し
たがって、視線検出などに必要な特徴点のうち、後述の
角膜反射像を除いて、顔の要素(口,まつ毛,眼もと,
目尻,鼻など)および瞳孔などの特徴点抽出において有
益な成分である。他方は、撮影対象10の表面で正反射す
る成分12であり、光源の光学的性質をそのまま反映して
いる。すなわち、撮影対象10の性質を反映していない成
分であるため雑音となりやすい。後者は撮影対象10のな
めらかな部分に多く含まれる。具体的には、撮影対象が
人物の場合、顔に付いた汗の部分,眼鏡の縁,眼鏡レン
ズ,人物の周囲にあるプラスチックやガラスなどの構造
物がこれに当たる。第25B図に示した例では、雑音7は
汗の箇所である。
ーカ6が貼られている。第24図に示した照明装置8から
撮影対象10に参照光9を照射し、その反射光をカメラ13
で捕えて撮影した画像から青色成分を抽出し、2値化処
理した結果が第25B図に示す画像である。第25B図から明
らかなように、青色マーク6の他に雑音成分7が捉えら
れており、問題のあることがわかる。この原因は以下の
ように考えられる。すなわち、撮影対象10に参照光9を
照射したとき、反射する光は大きく2種類の成分に分け
られる。一方は、撮影対象10の表面で拡散反射する光11
であり、反射する材質の光学的性質を反映している。し
たがって、視線検出などに必要な特徴点のうち、後述の
角膜反射像を除いて、顔の要素(口,まつ毛,眼もと,
目尻,鼻など)および瞳孔などの特徴点抽出において有
益な成分である。他方は、撮影対象10の表面で正反射す
る成分12であり、光源の光学的性質をそのまま反映して
いる。すなわち、撮影対象10の性質を反映していない成
分であるため雑音となりやすい。後者は撮影対象10のな
めらかな部分に多く含まれる。具体的には、撮影対象が
人物の場合、顔に付いた汗の部分,眼鏡の縁,眼鏡レン
ズ,人物の周囲にあるプラスチックやガラスなどの構造
物がこれに当たる。第25B図に示した例では、雑音7は
汗の箇所である。
第25A図および第25B図に示した例では、顔に貼った青色
のマークを抽出する場合を述べたが、他の色のマークを
用い、この色成分を抽出する場合も同様である。また、
マークを用いることなく、自然画像から目,鼻,口,ま
つ毛などの各部分を抽出する場合でも、正反射成分12は
雑音となることが多い。さらにマークを用いないで人物
の顔の形状を検出する他の例として、モアレ法,光切断
法に代表されるように、予め制御された形状パターンを
撮影対象に照射し、この反射像から2値化像(反射パタ
ーン)を抽出し、この反射パターンの形を特徴として、
撮影対象の3次元形状を計測するいわゆるアクティブス
テレオビジョンがあるが、この方法においても、撮影対
象が正反射しやすい場合には、この正反射によって作ら
れる像が雑音となり、撮影対象の特徴である反射パター
ンの抽出に支障のあることが多い。
のマークを抽出する場合を述べたが、他の色のマークを
用い、この色成分を抽出する場合も同様である。また、
マークを用いることなく、自然画像から目,鼻,口,ま
つ毛などの各部分を抽出する場合でも、正反射成分12は
雑音となることが多い。さらにマークを用いないで人物
の顔の形状を検出する他の例として、モアレ法,光切断
法に代表されるように、予め制御された形状パターンを
撮影対象に照射し、この反射像から2値化像(反射パタ
ーン)を抽出し、この反射パターンの形を特徴として、
撮影対象の3次元形状を計測するいわゆるアクティブス
テレオビジョンがあるが、この方法においても、撮影対
象が正反射しやすい場合には、この正反射によって作ら
れる像が雑音となり、撮影対象の特徴である反射パター
ンの抽出に支障のあることが多い。
次に、従来の照明装置の配置と瞳孔特徴点抽出効率に関
する問題点について説明する。利用者には何も装着せず
に利用者の視線を非接触で検出するには、後述するよう
に複数の特徴点を画像処理により抽出する必要がある。
瞳孔は虹彩の開口部である。瞳孔は大きさが適当で、瞼
の影響を受けにくく、視線への変換にも便利であるた
め、適当な抽出法があれば、適用性の広い特徴点といえ
る。しかし、瞳孔は一般に黒く観察されるため、虹彩が
黒褐色の場合、これを区別して瞳孔だけを抽出する必要
がある。
する問題点について説明する。利用者には何も装着せず
に利用者の視線を非接触で検出するには、後述するよう
に複数の特徴点を画像処理により抽出する必要がある。
瞳孔は虹彩の開口部である。瞳孔は大きさが適当で、瞼
の影響を受けにくく、視線への変換にも便利であるた
め、適当な抽出法があれば、適用性の広い特徴点といえ
る。しかし、瞳孔は一般に黒く観察されるため、虹彩が
黒褐色の場合、これを区別して瞳孔だけを抽出する必要
がある。
瞳孔の抽出はアイカメラなどでも例があり、いくつかの
方法が知られており、たとえばUSP4,102,564、USP4,14
5,122、USP3,689,135、USP4,075,657、USP4,755,045、U
SP4,303,394、USP4,651,145、USP4,702,575などに記載
されている。ある種のアイカメラでは、眼鏡に光源を組
込んで眼球に光を照射し、この反射光を撮影し、瞳孔と
虹彩の反射光の強度を測定する方法を用いている。アイ
カメラのように装置を頭に装着して使用する場合は、照
明装置と撮影装置の距離が近く、かつ頭部の動きに連動
するため、照明装置は眼球だけを照明すればよく、また
撮影装置は眼球だけを撮影すればよい。つまり、雑音の
影響を受けにくく、したがって瞳孔と虹彩の反射光の強
度差のみでも瞳孔の抽出が可能である。
方法が知られており、たとえばUSP4,102,564、USP4,14
5,122、USP3,689,135、USP4,075,657、USP4,755,045、U
SP4,303,394、USP4,651,145、USP4,702,575などに記載
されている。ある種のアイカメラでは、眼鏡に光源を組
込んで眼球に光を照射し、この反射光を撮影し、瞳孔と
虹彩の反射光の強度を測定する方法を用いている。アイ
カメラのように装置を頭に装着して使用する場合は、照
明装置と撮影装置の距離が近く、かつ頭部の動きに連動
するため、照明装置は眼球だけを照明すればよく、また
撮影装置は眼球だけを撮影すればよい。つまり、雑音の
影響を受けにくく、したがって瞳孔と虹彩の反射光の強
度差のみでも瞳孔の抽出が可能である。
しかし、インタフェースの利用を考えた視線検出では、
上述のように非接触である必要から、撮影範囲は眼球部
分だけではなく、頭の動きを許容する広い範囲が望まれ
る。たとえば、顔全体を撮影した画像から、瞳孔を抽出
する必要がある。このような場合、前述の方法では、瞳
孔部分は背景雑音から分離することは困難である。
上述のように非接触である必要から、撮影範囲は眼球部
分だけではなく、頭の動きを許容する広い範囲が望まれ
る。たとえば、顔全体を撮影した画像から、瞳孔を抽出
する必要がある。このような場合、前述の方法では、瞳
孔部分は背景雑音から分離することは困難である。
第26図は瞳孔の他の抽出法として、瞳孔から光を入射
し、網膜で反射する光を捉える方法を示す図である。第
26図を参照して、カメラ20の撮影レンズ21の光軸22上に
ハーフミラー23が設けられ、このハーフミラー23を用い
て光軸を合わせるように従来の照明装置24が配置され
る。なお、1つの光源を用いた照明装置で瞳孔内の反射
強度分布が均一であるように、つまり、強度分布の偏り
が少ないような瞳孔画像を得るためには、このようなハ
ーフミラー23を用いるのは不可欠である。
し、網膜で反射する光を捉える方法を示す図である。第
26図を参照して、カメラ20の撮影レンズ21の光軸22上に
ハーフミラー23が設けられ、このハーフミラー23を用い
て光軸を合わせるように従来の照明装置24が配置され
る。なお、1つの光源を用いた照明装置で瞳孔内の反射
強度分布が均一であるように、つまり、強度分布の偏り
が少ないような瞳孔画像を得るためには、このようなハ
ーフミラー23を用いるのは不可欠である。
照明装置24の前方には可視遮断フィルタ25が配置され、
この可視遮断フィルタ25によって照明装置24からの光の
うち可視波長成分が遮断され、ハーフミラー23でレンズ
21の光軸22に一致され、人物26に照射される。この光は
人物26の瞳孔から入り、網膜で反射し、再びハーフミラ
ー23を通過してカメラ20によって捉えられる。したがっ
て、瞳孔が虹彩に対して明るく撮影される。
この可視遮断フィルタ25によって照明装置24からの光の
うち可視波長成分が遮断され、ハーフミラー23でレンズ
21の光軸22に一致され、人物26に照射される。この光は
人物26の瞳孔から入り、網膜で反射し、再びハーフミラ
ー23を通過してカメラ20によって捉えられる。したがっ
て、瞳孔が虹彩に対して明るく撮影される。
[発明が解決しようとする課題] しかしながら、第26図に示した方法では、以下のような
問題がある。すなわち、ハーフミラー23を用いているた
め装置が大型になる。撮影範囲が眼球周辺でなく、たと
えば顔全体というように広がる場合、この方法でも同様
に雑音の影響が大きくなり、安定な瞳孔抽出が困難とな
る。雑音の影響を少なくするためには、照明を強くする
ことも考えられるが、可視遮断フィルタ25によって光量
が落ち、ハーフミラー23でさらに1/2に減少されて照射
され、反射光がハーフミラー23でさらに1/2に減少する
ため、照明装置24の光がカメラ20で捉えられる間の損失
が大きく、効率が悪い。照明を強くすれば、消費電力が
大きくなり、発熱量も大きくなってしまう。この影響を
少なくするためには、各部品を離して実装する工夫も必
要であり、装置がさらに大型化する。また、照明を強く
することは利用者の眼に生理的負担を与えてしまい望ま
しくない。したがって、この方法も視線検出用カメラを
ディスプレイの横に取付けてインタフェースへ利用する
ような目的には適さない。
問題がある。すなわち、ハーフミラー23を用いているた
め装置が大型になる。撮影範囲が眼球周辺でなく、たと
えば顔全体というように広がる場合、この方法でも同様
に雑音の影響が大きくなり、安定な瞳孔抽出が困難とな
る。雑音の影響を少なくするためには、照明を強くする
ことも考えられるが、可視遮断フィルタ25によって光量
が落ち、ハーフミラー23でさらに1/2に減少されて照射
され、反射光がハーフミラー23でさらに1/2に減少する
ため、照明装置24の光がカメラ20で捉えられる間の損失
が大きく、効率が悪い。照明を強くすれば、消費電力が
大きくなり、発熱量も大きくなってしまう。この影響を
少なくするためには、各部品を離して実装する工夫も必
要であり、装置がさらに大型化する。また、照明を強く
することは利用者の眼に生理的負担を与えてしまい望ま
しくない。したがって、この方法も視線検出用カメラを
ディスプレイの横に取付けてインタフェースへ利用する
ような目的には適さない。
角膜反射像は眼球に光を照射したとき、角膜の凸面で正
反射した光が作る虚像であり、視線の動きにほぼ比例し
て眼球と同じ方向に動くため、視線検出に有効な特徴点
である。抽出の問題点は、背景雑音からの分離である。
反射した光が作る虚像であり、視線の動きにほぼ比例し
て眼球と同じ方向に動くため、視線検出に有効な特徴点
である。抽出の問題点は、背景雑音からの分離である。
第27図は角膜反射像をカメラで撮影する装置の一例を示
す図である。第27図を参照して、参照光源31からの光が
利用者30の目に照射されると、視線検出に必要な角膜反
射像がカメラ32によって撮影される。しかし、利用者30
の目には参照光源31からの光だけでなく、利用者が相対
しているディスプレイ33の表示面からの光や螢光灯など
の外部照明34からの光も光源となり、これらの光が角膜
で反射して虚像を作る。したがって、カメラで捉えた画
像において、眼球の中には、いくつもの角膜反射像が発
生し、それが雑音となるため、参照光源31からの光によ
る角膜反射像の抽出を困難にする。
す図である。第27図を参照して、参照光源31からの光が
利用者30の目に照射されると、視線検出に必要な角膜反
射像がカメラ32によって撮影される。しかし、利用者30
の目には参照光源31からの光だけでなく、利用者が相対
しているディスプレイ33の表示面からの光や螢光灯など
の外部照明34からの光も光源となり、これらの光が角膜
で反射して虚像を作る。したがって、カメラで捉えた画
像において、眼球の中には、いくつもの角膜反射像が発
生し、それが雑音となるため、参照光源31からの光によ
る角膜反射像の抽出を困難にする。
人物や眼球など、動きのある対象を撮影する場合、ぶれ
のない画像を得るためには、撮影時間は短い方がよい。
このために、最近では電子シャッタ付カメラが実用化さ
れている。撮影時間が短いこのようなカメラでは、強い
照明が必要とされる。しかし、インタフェースにおい
て、人物の照明に従来の照明装置を用いることを考える
と、熱や強い光で長い時間照射されるため、眼球や生体
に与える影響が問題となる。
のない画像を得るためには、撮影時間は短い方がよい。
このために、最近では電子シャッタ付カメラが実用化さ
れている。撮影時間が短いこのようなカメラでは、強い
照明が必要とされる。しかし、インタフェースにおい
て、人物の照明に従来の照明装置を用いることを考える
と、熱や強い光で長い時間照射されるため、眼球や生体
に与える影響が問題となる。
一方、特徴点の空間位置の計測については、ステレオ画
像計測法が知られているが、従来特徴点の抽出が上述の
ごとく困難であったため、インタフェースへの使用をふ
まえて顔や眼球の特徴点の空間位置をリアルタイムで計
測した検討例はない。
像計測法が知られているが、従来特徴点の抽出が上述の
ごとく困難であったため、インタフェースへの使用をふ
まえて顔や眼球の特徴点の空間位置をリアルタイムで計
測した検討例はない。
画像処理による視線検出について、従来、いくつかの方
法が提案されている。しかし、いずれも特徴点の効率的
な抽出が困難なこと、空間位置の高速な検出が困難なこ
となどの理由から、視線検出に多くの条件を設けてお
り、適用範囲が限定される場合が多い。構成としては、
1台の白黒カメラを用いる方式が多い。その一例につい
て以下に説明する。
法が提案されている。しかし、いずれも特徴点の効率的
な抽出が困難なこと、空間位置の高速な検出が困難なこ
となどの理由から、視線検出に多くの条件を設けてお
り、適用範囲が限定される場合が多い。構成としては、
1台の白黒カメラを用いる方式が多い。その一例につい
て以下に説明する。
第28図は撮影された画像上で、白眼の中の黒眼の位置を
検出し、視線に変換する方法を説明するための図であ
る。第28図を参照して、人物の顔がカメラ41によって撮
影され、撮影された顔画像から眼の部分42が抽出され、
目の中の黒眼43と白眼44の領域が分離される。次に、白
眼44の領域の長さaと、白眼44の端から黒眼43の中心ま
での長さxが求められる。視線の方向は近似的にx/aに
比例するとして求められる。白眼44,黒眼43の領域の抽
出処理は高速化が難しいため、リアルタイム検出は実現
されていない。この方法では、顔の位置と方向を何らか
の方法で求めない限り、自由度は眼球の回転運動だけに
制限される。さらに、眼球の回転運動についても、目の
大きさは表情によって変化するため、高い検出精度は得
られない。特に、上下の眼の動きについては、黒眼43の
領域が瞼の影響で変化するため、検出が困難である。
検出し、視線に変換する方法を説明するための図であ
る。第28図を参照して、人物の顔がカメラ41によって撮
影され、撮影された顔画像から眼の部分42が抽出され、
目の中の黒眼43と白眼44の領域が分離される。次に、白
眼44の領域の長さaと、白眼44の端から黒眼43の中心ま
での長さxが求められる。視線の方向は近似的にx/aに
比例するとして求められる。白眼44,黒眼43の領域の抽
出処理は高速化が難しいため、リアルタイム検出は実現
されていない。この方法では、顔の位置と方向を何らか
の方法で求めない限り、自由度は眼球の回転運動だけに
制限される。さらに、眼球の回転運動についても、目の
大きさは表情によって変化するため、高い検出精度は得
られない。特に、上下の眼の動きについては、黒眼43の
領域が瞼の影響で変化するため、検出が困難である。
第29図は瞳孔と角膜反射像を特徴点として用い、1台の
カメラで検出する方法を説明するための図である。第7
図を参照して、参照光源51の位置はカメラ50の座標系に
対して既知とする。参照光源51からの参照光によって生
じる角膜反射像53の空間位置および瞳孔54の空間位置は
眼球52の回転中心の位置と、眼球の上下,左右の回転角
α,βによりそれぞれ独立に決まる。したがって、角膜
反射像の位置と、瞳孔54の位置と、眼球52の構造パラメ
ータである眼球の半径aと、角膜の曲率半径cと、眼球
中心と角膜曲率中心との間の距離bとがわかれば、眼球
52の回転中心と眼球52の回転角が決まり、したがって視
線が求められる。角膜反射像53と瞳孔54の位置は、カメ
ラ50から眼球52までの距離がほぼ一定とする条件を設け
れば、1枚の投影画像から求めることができる。このよ
うにして、眼球52の左右の回転角αおよび上下の回転角
βに対して視線を求めることができるが、上述の制約条
件から顔がz軸方向に動くと精度が悪くなるという欠点
がある。
カメラで検出する方法を説明するための図である。第7
図を参照して、参照光源51の位置はカメラ50の座標系に
対して既知とする。参照光源51からの参照光によって生
じる角膜反射像53の空間位置および瞳孔54の空間位置は
眼球52の回転中心の位置と、眼球の上下,左右の回転角
α,βによりそれぞれ独立に決まる。したがって、角膜
反射像の位置と、瞳孔54の位置と、眼球52の構造パラメ
ータである眼球の半径aと、角膜の曲率半径cと、眼球
中心と角膜曲率中心との間の距離bとがわかれば、眼球
52の回転中心と眼球52の回転角が決まり、したがって視
線が求められる。角膜反射像53と瞳孔54の位置は、カメ
ラ50から眼球52までの距離がほぼ一定とする条件を設け
れば、1枚の投影画像から求めることができる。このよ
うにして、眼球52の左右の回転角αおよび上下の回転角
βに対して視線を求めることができるが、上述の制約条
件から顔がz軸方向に動くと精度が悪くなるという欠点
がある。
また、上述の第28図および第29図に示した例はカメラが
1台であるため、注視点を求める難しさもある。上述の
いずれかの方法をインタフェースに利用する場合、ディ
スプレイのどこを見ているかを知る必要があり、したが
ってディスプレイ座標系で注視点を求める必要がある。
ディスプレイ座標系で利用者がどこを見ているかを知る
ためには、ディスプレイ表示面の予め定められた点を利
用者に見てもらい、そのデータをもとに較正する必要が
ある。しかし、カメラが1台の場合、この較正パラメー
タが多くなるため、較正の方法が複雑になり、精度が悪
くなってしまう。
1台であるため、注視点を求める難しさもある。上述の
いずれかの方法をインタフェースに利用する場合、ディ
スプレイのどこを見ているかを知る必要があり、したが
ってディスプレイ座標系で注視点を求める必要がある。
ディスプレイ座標系で利用者がどこを見ているかを知る
ためには、ディスプレイ表示面の予め定められた点を利
用者に見てもらい、そのデータをもとに較正する必要が
ある。しかし、カメラが1台の場合、この較正パラメー
タが多くなるため、較正の方法が複雑になり、精度が悪
くなってしまう。
それゆえに、この発明の主たる目的は、瞳孔を明るく撮
影したり、暗く撮影したりして瞳孔を効率よく抽出でき
るような瞳孔画像撮影装置を提供することである。
影したり、暗く撮影したりして瞳孔を効率よく抽出でき
るような瞳孔画像撮影装置を提供することである。
[課題を解決するための手段] 請求項1に係る発明は、瞳孔画像を撮影するための瞳孔
画像撮影装置であって、撮影レンズの有効径の外側に設
けられ、眼の方向を照射する第1の光源と、第1の光源
の反射光を撮影レンズを介して結像し、第1の画像信号
を出力する第1の撮影手段と、撮影レンズの光軸付近に
設けられ、眼の方向を照射する第2の光源と、第2の光
源の反射光を撮影レンズを介して結像し、第2の画像信
号を出力する第2の撮影手段と、第1および第2の撮影
手段出力の画像信号の差分信号を第3の画像信号として
出力する処理手段とを備え、第2の光源はその光源と撮
影対象である眼球を結ぶ線分と、撮影レンズの中心と眼
球を結ぶ線分とのなす角をθth2としたとき、θth2≦5
゜の角度となるように設置され、第1の光源はその光源
と撮影対象である眼球を結ぶ線分と、撮影レンズの中心
と眼球を結ぶ線分とのなす角をθth1としたとき、θth1
≧θth2+1゜の角度となるように設置され、第1およ
び第2の撮影手段は、第1および第2の光源からの反射
光に基づく画像を交互に間欠的に撮影するように構成さ
れる。
画像撮影装置であって、撮影レンズの有効径の外側に設
けられ、眼の方向を照射する第1の光源と、第1の光源
の反射光を撮影レンズを介して結像し、第1の画像信号
を出力する第1の撮影手段と、撮影レンズの光軸付近に
設けられ、眼の方向を照射する第2の光源と、第2の光
源の反射光を撮影レンズを介して結像し、第2の画像信
号を出力する第2の撮影手段と、第1および第2の撮影
手段出力の画像信号の差分信号を第3の画像信号として
出力する処理手段とを備え、第2の光源はその光源と撮
影対象である眼球を結ぶ線分と、撮影レンズの中心と眼
球を結ぶ線分とのなす角をθth2としたとき、θth2≦5
゜の角度となるように設置され、第1の光源はその光源
と撮影対象である眼球を結ぶ線分と、撮影レンズの中心
と眼球を結ぶ線分とのなす角をθth1としたとき、θth1
≧θth2+1゜の角度となるように設置され、第1およ
び第2の撮影手段は、第1および第2の光源からの反射
光に基づく画像を交互に間欠的に撮影するように構成さ
れる。
請求項2に係る発明は、瞳孔画像を撮影するための瞳孔
画像撮影装置であって、撮影レンズの有効径の外側に設
けられ、眼の方向を照射する第1の光源と、第1の光源
の反射光を撮影レンズを介して結像し、第1の映像信号
を出力する第1の撮影手段と、撮影レンズの光軸付近に
設けられ、眼の方向を照射する第2の光源と、第2の光
源の反射光を撮影レンズを介して結像し、第2の画像信
号を出力する第2の撮影手段と、第1および第2の撮影
手段出力の画像信号の差分信号を第3の画像信号として
出力する処理手段を備え、さらに撮影レンズに入射され
た第1の光源からの反射光に基づく画像と第2の光源か
らの反射光に基づく画像とをそれぞれ分離して、第1お
よび第2の撮影手段に個別的に与えるためのプリズム光
学系を含み、第1および第2の光学系は、それぞれの発
光波長がプリズム光学系で分離可能な程度に異なる発光
ダイオードによって構成したものである。
画像撮影装置であって、撮影レンズの有効径の外側に設
けられ、眼の方向を照射する第1の光源と、第1の光源
の反射光を撮影レンズを介して結像し、第1の映像信号
を出力する第1の撮影手段と、撮影レンズの光軸付近に
設けられ、眼の方向を照射する第2の光源と、第2の光
源の反射光を撮影レンズを介して結像し、第2の画像信
号を出力する第2の撮影手段と、第1および第2の撮影
手段出力の画像信号の差分信号を第3の画像信号として
出力する処理手段を備え、さらに撮影レンズに入射され
た第1の光源からの反射光に基づく画像と第2の光源か
らの反射光に基づく画像とをそれぞれ分離して、第1お
よび第2の撮影手段に個別的に与えるためのプリズム光
学系を含み、第1および第2の光学系は、それぞれの発
光波長がプリズム光学系で分離可能な程度に異なる発光
ダイオードによって構成したものである。
[作用] 請求項1に係る発明では、撮影レンズの有効径の外側に
設けられた第1の光源から撮影レンズの中心に対してθ
th1≧θth2+1゜の角度で眼の方向を照射するととも
に、撮影レンズの光軸付近に設けられた第2の光源から
撮影レンズの中心に対してθth2≦5゜の角度で眼の方
向を照射し、撮影レンズを介して第1および第2の光源
の反射光を第1および第2の撮影手段によって間欠的に
結像し、それぞれから出力される画像信号の差分を求め
て出力する。
設けられた第1の光源から撮影レンズの中心に対してθ
th1≧θth2+1゜の角度で眼の方向を照射するととも
に、撮影レンズの光軸付近に設けられた第2の光源から
撮影レンズの中心に対してθth2≦5゜の角度で眼の方
向を照射し、撮影レンズを介して第1および第2の光源
の反射光を第1および第2の撮影手段によって間欠的に
結像し、それぞれから出力される画像信号の差分を求め
て出力する。
請求項2に係る発明では、撮影レンズの有効径の外側に
設けられた第1の光源から眼の方向を照射するととも
に、撮影レンズの光軸付近に設けられた第2の光源から
眼の方向を照射し、第1および第2の光源からの反射光
に基づく画像をプリズム光学系によって分離して第1お
よび第2の撮影手段に個別的に与え、第1および第2の
撮影手段から出力される画像信号の差分を求めて出力す
る。
設けられた第1の光源から眼の方向を照射するととも
に、撮影レンズの光軸付近に設けられた第2の光源から
眼の方向を照射し、第1および第2の光源からの反射光
に基づく画像をプリズム光学系によって分離して第1お
よび第2の撮影手段に個別的に与え、第1および第2の
撮影手段から出力される画像信号の差分を求めて出力す
る。
[発明の実施例] 第1図はこの発明の概念を説明するための図であり、第
2図は視線検出に必要な特徴点の種類とその性質を示す
図である。
2図は視線検出に必要な特徴点の種類とその性質を示す
図である。
まず、第1図および第2図を参照して、この発明の概念
について説明する。カメラ60によって顔画像が撮影さ
れ、カメラ60の出力である画像信号から頭部を反映する
特徴点と眼の特徴点とが抽出される。頭部を反映する特
徴点は、第2図に示すように、目尻,目頭,唇などがそ
れぞれ色の差によって検出が可能である。目の特徴点は
角膜反射像と黒眼と瞳孔であり、角膜反射像は角膜の凸
面で正反射した光が作る虚像であり、視線の動きにほぼ
比例して眼球と同じ方向に動くという性質がある。黒眼
は虹彩と強膜の反射強度差により観測され、参照光を用
いなくとも室内の照明で抽出できるという性質がある。
瞳孔は虹彩とこの開口部における網膜からの反射光の強
度差により観測され、瞼の影響を受けにくいという性質
がある。
について説明する。カメラ60によって顔画像が撮影さ
れ、カメラ60の出力である画像信号から頭部を反映する
特徴点と眼の特徴点とが抽出される。頭部を反映する特
徴点は、第2図に示すように、目尻,目頭,唇などがそ
れぞれ色の差によって検出が可能である。目の特徴点は
角膜反射像と黒眼と瞳孔であり、角膜反射像は角膜の凸
面で正反射した光が作る虚像であり、視線の動きにほぼ
比例して眼球と同じ方向に動くという性質がある。黒眼
は虹彩と強膜の反射強度差により観測され、参照光を用
いなくとも室内の照明で抽出できるという性質がある。
瞳孔は虹彩とこの開口部における網膜からの反射光の強
度差により観測され、瞼の影響を受けにくいという性質
がある。
抽出された頭部を反映する特徴点から頭部の位置と方向
が検出され、その結果は眼球中心位置に変換される。一
方、抽出された眼の特徴点から瞳孔または黒眼の中心が
検出され、その結果と変換された眼球中心位置とに応答
して、視線の方向が検出される。
が検出され、その結果は眼球中心位置に変換される。一
方、抽出された眼の特徴点から瞳孔または黒眼の中心が
検出され、その結果と変換された眼球中心位置とに応答
して、視線の方向が検出される。
さらに、頭部のモデル化が行なわれる。このモデル化
は、顔上の皮膚の動きの少ない少なくとも3つの顔の特
徴点によって行なわれ、各顔の特徴点の位置から頭部の
位置と方向が検出される。
は、顔上の皮膚の動きの少ない少なくとも3つの顔の特
徴点によって行なわれ、各顔の特徴点の位置から頭部の
位置と方向が検出される。
また、頭部のモデル化は、顔上の少なくとも4つ以上の
顔の特徴点の位置から頭部骨格に対して動きの少ない少
なくとも3つの仮想特徴点が求められ、その仮想特徴点
の位置から頭部の位置と方向が検出される。
顔の特徴点の位置から頭部骨格に対して動きの少ない少
なくとも3つの仮想特徴点が求められ、その仮想特徴点
の位置から頭部の位置と方向が検出される。
さらに、眼鏡のフレーム枠の周囲の少なくとも3箇所に
特徴抽出が容易なマーク物体が設けられ、その眼鏡を装
着することにより、頭部がマーク物体でモデル化され、
マーク物体の位置から頭部の位置と方向が検出される。
特徴抽出が容易なマーク物体が設けられ、その眼鏡を装
着することにより、頭部がマーク物体でモデル化され、
マーク物体の位置から頭部の位置と方向が検出される。
第3図はこの発明の画像撮影装置の一実施例を示す図で
あり、第4図は第3図に示した撮影レンズの前方から見
た図であり、第5図は側面から見た図である。
あり、第4図は第3図に示した撮影レンズの前方から見
た図であり、第5図は側面から見た図である。
第3図を参照して、カメラユニット60の前方には照明装
置61とレンズ65が配置される。照明装置61は第4図に示
すように、レンズの周囲に配置される発光ダイオード66
を含む。発光ダイオード66の前方には直線偏光板63が配
置され、レンズ65の前方には可視遮断フィルタ68が配置
される。直線偏光板63は発光ダイオード66の光を偏光化
し、可視遮断フィルタ68は螢光灯などの外部照明から出
る可視光を遮断する。さらに、レンズ65の光軸から離れ
た位置に照明装置62が配置される。この照明装置62は発
光ダイオード64とその前方に設けられる直線偏光板67を
含む。
置61とレンズ65が配置される。照明装置61は第4図に示
すように、レンズの周囲に配置される発光ダイオード66
を含む。発光ダイオード66の前方には直線偏光板63が配
置され、レンズ65の前方には可視遮断フィルタ68が配置
される。直線偏光板63は発光ダイオード66の光を偏光化
し、可視遮断フィルタ68は螢光灯などの外部照明から出
る可視光を遮断する。さらに、レンズ65の光軸から離れ
た位置に照明装置62が配置される。この照明装置62は発
光ダイオード64とその前方に設けられる直線偏光板67を
含む。
カメラユニット60は、3個のプリスム607,608および609
を含み、プリズム607と608との間には波長分離面610が
形成されていて、プリズム608と609との間にはハーフミ
ラー611が配置されている。さらに、プリズム607の光出
射面に対向して偏光板615とCCD撮像素子612が配置さ
れ、プリズム608の光の出射面にはCCD撮像素子614が配
置され、プリズム609の光の出射面には偏光板616とCCD
撮像素子613が配置される。偏光板615および616は照明
装置61,62の前方に設けられている直線偏光板63,67に対
して偏光面が直交している。CCD撮像素子613および614
の出力は差分画像演算手段617に与えられて角膜反射像
が抽出される。CCD撮像素子612および613の出力は差分
演算手段618に与えられて瞳孔が抽出される。
を含み、プリズム607と608との間には波長分離面610が
形成されていて、プリズム608と609との間にはハーフミ
ラー611が配置されている。さらに、プリズム607の光出
射面に対向して偏光板615とCCD撮像素子612が配置さ
れ、プリズム608の光の出射面にはCCD撮像素子614が配
置され、プリズム609の光の出射面には偏光板616とCCD
撮像素子613が配置される。偏光板615および616は照明
装置61,62の前方に設けられている直線偏光板63,67に対
して偏光面が直交している。CCD撮像素子613および614
の出力は差分画像演算手段617に与えられて角膜反射像
が抽出される。CCD撮像素子612および613の出力は差分
演算手段618に与えられて瞳孔が抽出される。
第6図はこの発明の一実施例に用いられる光学部品の光
学的性質を示す特性図である。第3図に示した照明装置
61,62に用いられる発光ダイオード64,66は人の眼に知覚
されない近赤外のものが用いられる。この実施例では、
発光ダイオード64は波長λ1が850nmであり、発光ダイ
オード66は波長λ2が950nmのものが用いられる。これ
らの発光ダイオード64,66の波長特性は第6図に示す
,であり、レンズ65の前方に設けられる可視遮断フ
ィルタ68の特性は第6図のであり、CCD612,613および
614の感応特性は第6図に示すのようになる。第6図
から明らかなように、発光ダイオード64,66は波長の半
値幅が狭いため、中心波長が100nm程度離れたものを用
いれば、それぞれの発光ダイオード64,66から発光され
る2つの光は干渉しない。また、この波長では、日の眼
にはほとんど知覚されない。もし、人の眼に知覚される
ようであれば、発光波長をさらに長波長側に移しても
い。また、シリコンのCCD撮像素子612,613,614は、第6
図に示すように、この波長域で十分な感応特性がある。
学的性質を示す特性図である。第3図に示した照明装置
61,62に用いられる発光ダイオード64,66は人の眼に知覚
されない近赤外のものが用いられる。この実施例では、
発光ダイオード64は波長λ1が850nmであり、発光ダイ
オード66は波長λ2が950nmのものが用いられる。これ
らの発光ダイオード64,66の波長特性は第6図に示す
,であり、レンズ65の前方に設けられる可視遮断フ
ィルタ68の特性は第6図のであり、CCD612,613および
614の感応特性は第6図に示すのようになる。第6図
から明らかなように、発光ダイオード64,66は波長の半
値幅が狭いため、中心波長が100nm程度離れたものを用
いれば、それぞれの発光ダイオード64,66から発光され
る2つの光は干渉しない。また、この波長では、日の眼
にはほとんど知覚されない。もし、人の眼に知覚される
ようであれば、発光波長をさらに長波長側に移しても
い。また、シリコンのCCD撮像素子612,613,614は、第6
図に示すように、この波長域で十分な感応特性がある。
第7図は発光ダイオードと偏光板を一体化して照明装置
とした例を示す外観斜視図である。第7図を参照して、
基板71には発光ダイオード72が実装され、基板71にはス
ペーサ73を介して一定の距離を隔てて光学素子取付用の
フレーム74が取付けられている。このフレーム74には、
偏光板や可視遮断・近赤外透過フィルタなどの光学素子
75が取付けられている。さらに、基板71と光学素子75に
はカメラレンズ用の孔が形成されていて、これらの2つ
の孔を連結するために筒76が設けられる。
とした例を示す外観斜視図である。第7図を参照して、
基板71には発光ダイオード72が実装され、基板71にはス
ペーサ73を介して一定の距離を隔てて光学素子取付用の
フレーム74が取付けられている。このフレーム74には、
偏光板や可視遮断・近赤外透過フィルタなどの光学素子
75が取付けられている。さらに、基板71と光学素子75に
はカメラレンズ用の孔が形成されていて、これらの2つ
の孔を連結するために筒76が設けられる。
上述のごとく、第7図に示した例では、光学素子75の周
囲をフレーム74で覆うことにより機械的強度を増し、光
学素子75の歪などを防止できる。この構造を光学素子75
の屈折率の異方性があり、波長によって特性が変化する
場合には特に重要である。すなわち、曲げなどの歪が加
わると、所定の参照光が得られない場合があるからであ
る。また、筒76は発光ダイオード72から照射された参照
光が直接レンズに入射するのを防止する。すなわち、こ
の筒76によって参照光と反射光とが分離される。
囲をフレーム74で覆うことにより機械的強度を増し、光
学素子75の歪などを防止できる。この構造を光学素子75
の屈折率の異方性があり、波長によって特性が変化する
場合には特に重要である。すなわち、曲げなどの歪が加
わると、所定の参照光が得られない場合があるからであ
る。また、筒76は発光ダイオード72から照射された参照
光が直接レンズに入射するのを防止する。すなわち、こ
の筒76によって参照光と反射光とが分離される。
次に、第3図を参照して、この発明の一実施例の動作に
ついて説明する。照明装置61,62の発光ダイオード64,66
でそれぞれ発光された光は偏光板67,63によってそれぞ
れ偏光され、人物に照射され、その反射光は可視遮断フ
ィルタ68からレンズ65を介してプリズム607に入射され
る。ここで、波長λ2(950mm)の光は波長分離膜610に
よって分離され、偏光板615を介してCCD撮像素子612に
入射され、像を結像する。仮に、照明装置62による照明
の偏光を横方向とすると、偏光板615の偏光方向を90゜
ずらして縦方向とすることにより、CCD撮像素子612の感
光面には正反射成分が遮断された像、すなわち拡散反射
成分の像が結像される。正反射は撮影対象のなめらかな
面で起きるため、正反射成分は光源の光学的性質を強く
保っている。
ついて説明する。照明装置61,62の発光ダイオード64,66
でそれぞれ発光された光は偏光板67,63によってそれぞ
れ偏光され、人物に照射され、その反射光は可視遮断フ
ィルタ68からレンズ65を介してプリズム607に入射され
る。ここで、波長λ2(950mm)の光は波長分離膜610に
よって分離され、偏光板615を介してCCD撮像素子612に
入射され、像を結像する。仮に、照明装置62による照明
の偏光を横方向とすると、偏光板615の偏光方向を90゜
ずらして縦方向とすることにより、CCD撮像素子612の感
光面には正反射成分が遮断された像、すなわち拡散反射
成分の像が結像される。正反射は撮影対象のなめらかな
面で起きるため、正反射成分は光源の光学的性質を強く
保っている。
一方、拡散反射成分は、撮影対象の吸収・反射特性によ
って変調を受けており、顔の特徴点や瞳孔,黒眼などの
抽出には、雑音を抑えかつS/Nを改善する点から拡散反
射像を用いるのが好ましい。一方、波長λ1の反射光は
可視遮断フィルタ68,レンズ65およびプリズム607を通過
し、プリズム608と609との界面に設けられたハーフミラ
ー611で分割される。分割された一方の光は偏光板616を
介してCCD撮像素子613に入射されて像を結像し、他方の
光はそのままCCD撮像素子614に入射され、像を結像す
る。したがって、CCD撮像素子614の出力像には、正反射
成分と拡散反射成分との両方の成分が含まれ、CCD撮像
素子613の出力像には、拡散反射成分だけが含まれる。
なお、偏光板615,616を通過した光は強度が1/2になるた
め、ハーフミラー611では分割比を1対2にし、CCD撮像
素子613と614の像の強度がほぼ同程度になるようにして
いる。
って変調を受けており、顔の特徴点や瞳孔,黒眼などの
抽出には、雑音を抑えかつS/Nを改善する点から拡散反
射像を用いるのが好ましい。一方、波長λ1の反射光は
可視遮断フィルタ68,レンズ65およびプリズム607を通過
し、プリズム608と609との界面に設けられたハーフミラ
ー611で分割される。分割された一方の光は偏光板616を
介してCCD撮像素子613に入射されて像を結像し、他方の
光はそのままCCD撮像素子614に入射され、像を結像す
る。したがって、CCD撮像素子614の出力像には、正反射
成分と拡散反射成分との両方の成分が含まれ、CCD撮像
素子613の出力像には、拡散反射成分だけが含まれる。
なお、偏光板615,616を通過した光は強度が1/2になるた
め、ハーフミラー611では分割比を1対2にし、CCD撮像
素子613と614の像の強度がほぼ同程度になるようにして
いる。
第8A図はこの発明の一実施例により撮影した拡散反射像
を示す図であり、第8B図は特徴点抽出の効果を示す図で
ある。この発明の一実施例では、人の顔に貼った青色マ
ークを特徴点として、これを抽出する実験を行ない、こ
の発明の原理を確認した。従来の撮影方法と比較する実
験の都合上、光源として発光ダイオードではなく、白色
光源(ハロゲンライト)を用い、偏光化して照射した。
カメラは通常の3板式のカラーカメラを用い、結像光軸
上に、照明に使用した偏光板と偏光方向が直交する偏光
板を挿入して撮影した。カメラが捉えた反射光から上述
の方法により、拡散反射成分を抽出した例が第8A図であ
る。この画素から青色成分を抽出し、2値化した画像が
第8B図である。この第8B図と前述の従来例である第25B
図とを比較すると、雑音が少なく、特徴点として青色マ
ーク77が効率良く抽出されている様子がわかる。
を示す図であり、第8B図は特徴点抽出の効果を示す図で
ある。この発明の一実施例では、人の顔に貼った青色マ
ークを特徴点として、これを抽出する実験を行ない、こ
の発明の原理を確認した。従来の撮影方法と比較する実
験の都合上、光源として発光ダイオードではなく、白色
光源(ハロゲンライト)を用い、偏光化して照射した。
カメラは通常の3板式のカラーカメラを用い、結像光軸
上に、照明に使用した偏光板と偏光方向が直交する偏光
板を挿入して撮影した。カメラが捉えた反射光から上述
の方法により、拡散反射成分を抽出した例が第8A図であ
る。この画素から青色成分を抽出し、2値化した画像が
第8B図である。この第8B図と前述の従来例である第25B
図とを比較すると、雑音が少なく、特徴点として青色マ
ーク77が効率良く抽出されている様子がわかる。
次に、角膜反射像の抽出について説明する。角膜反射像
は前述の角膜の表面で参照光源の光が正反射して作る虚
像である。したがって、この場合は正反射像は求める信
号となる。角膜反射像の抽出は第3図においてCCD撮像
素子613と614との像の差分を差分演算手段617によって
抽出することによって行なわれる。角膜反射像の抽出に
おいて、従来問題であったことは、前述のごとく外部表
面やディスプレイの光が角膜で反射して像を作り、参照
光源の像に重なることであった。しかしながら、この発
明の一実施例では、発光ダイオード64の光が偏光化され
ているため、これと直交する偏光板616によって発光ダ
イオード64からの光の反射像による角膜反射像が遮断さ
れ、拡散反射像が残る。したがって、上述のごとく差分
演算手段617により角膜反射像が背景から抽出される。
は前述の角膜の表面で参照光源の光が正反射して作る虚
像である。したがって、この場合は正反射像は求める信
号となる。角膜反射像の抽出は第3図においてCCD撮像
素子613と614との像の差分を差分演算手段617によって
抽出することによって行なわれる。角膜反射像の抽出に
おいて、従来問題であったことは、前述のごとく外部表
面やディスプレイの光が角膜で反射して像を作り、参照
光源の像に重なることであった。しかしながら、この発
明の一実施例では、発光ダイオード64の光が偏光化され
ているため、これと直交する偏光板616によって発光ダ
イオード64からの光の反射像による角膜反射像が遮断さ
れ、拡散反射像が残る。したがって、上述のごとく差分
演算手段617により角膜反射像が背景から抽出される。
しかし、外部照明は、一般に偏光していないため、CCD
撮像素子613と614とでは同様な画像が撮影され、差分を
とると消えてしまう。このようにして、差分演算手段61
7から得られる差分画像は雑音が少ないため、S/Nの高い
角膜反射像の抽出が可能である。
撮像素子613と614とでは同様な画像が撮影され、差分を
とると消えてしまう。このようにして、差分演算手段61
7から得られる差分画像は雑音が少ないため、S/Nの高い
角膜反射像の抽出が可能である。
第9A図〜第9C図は角膜反射像の抽出例を示す図である。
この第9A図〜第9C図に示した例は、上述の原理を確認す
るため、第3図と同様の撮影系を用いて角膜反射像を抽
出する実験を行なった結果を示したものであり、第9A図
はCCD撮像素子614から得られた画像であり、正反射成分
と拡散反射成分とを含んでいる。第9B図はCCD撮像素子6
13から得られた画像であって、拡散反射成分のみを含ん
でいる。また、差分演算手段617から出力された差分画
像は、第9C図に示すように、背景の中から角膜反射像が
明瞭に抽出されている様子がわかる。
この第9A図〜第9C図に示した例は、上述の原理を確認す
るため、第3図と同様の撮影系を用いて角膜反射像を抽
出する実験を行なった結果を示したものであり、第9A図
はCCD撮像素子614から得られた画像であり、正反射成分
と拡散反射成分とを含んでいる。第9B図はCCD撮像素子6
13から得られた画像であって、拡散反射成分のみを含ん
でいる。また、差分演算手段617から出力された差分画
像は、第9C図に示すように、背景の中から角膜反射像が
明瞭に抽出されている様子がわかる。
次に、瞳孔の抽出について説明する。第3図に示すよう
に、第1の照明装置61は第4図に示すように、レンズ65
の光軸を囲むように配置された発光ダイオード66を含
む。この照明装置61からの照明による反射像、すなわち
CCD撮像素子612から出力される像では、瞳孔は背景に対
して明るく撮影される。背景に対する瞳孔強調化は、こ
れだけでは十分とはいえないが、適用範囲を限定すれば
瞳孔の抽出が可能である。一方、第2の照明装置62はレ
ンズ65の光軸から離れて配置されていて、この照明装置
62の照明による反射像、すなわちCCD撮像素子613または
614から得られた像は、瞳孔が暗く撮影される。したが
って、CCD撮像素子612から得られる画像とCCD撮像素子6
13から得られる画像の差分処理またはCCD撮像素子612か
ら得られる画像とCCD撮像素子614から得られる画像との
差分処理により、瞳孔は背景から一層強調され、抽出が
容易になる。なお、第2の照明装置62は、上述のごとく
設置条件が厳しくないため、螢光灯などの外部照明で代
用してもよい。ただし、この場合照明の反射光がCCD撮
像素子613または614に到達することが必要であり、した
がって外部照明は近赤外の成分を持つものとするか、あ
るいはレンズ可視遮断フィルタ68を除く必要がある。
に、第1の照明装置61は第4図に示すように、レンズ65
の光軸を囲むように配置された発光ダイオード66を含
む。この照明装置61からの照明による反射像、すなわち
CCD撮像素子612から出力される像では、瞳孔は背景に対
して明るく撮影される。背景に対する瞳孔強調化は、こ
れだけでは十分とはいえないが、適用範囲を限定すれば
瞳孔の抽出が可能である。一方、第2の照明装置62はレ
ンズ65の光軸から離れて配置されていて、この照明装置
62の照明による反射像、すなわちCCD撮像素子613または
614から得られた像は、瞳孔が暗く撮影される。したが
って、CCD撮像素子612から得られる画像とCCD撮像素子6
13から得られる画像の差分処理またはCCD撮像素子612か
ら得られる画像とCCD撮像素子614から得られる画像との
差分処理により、瞳孔は背景から一層強調され、抽出が
容易になる。なお、第2の照明装置62は、上述のごとく
設置条件が厳しくないため、螢光灯などの外部照明で代
用してもよい。ただし、この場合照明の反射光がCCD撮
像素子613または614に到達することが必要であり、した
がって外部照明は近赤外の成分を持つものとするか、あ
るいはレンズ可視遮断フィルタ68を除く必要がある。
第10図,第11A図ないし第11C図および第12図は瞳孔が明
るく撮影される光源の配置を説明するための図である。
るく撮影される光源の配置を説明するための図である。
次に、光源の位置と瞳孔の明るさとの関係について、第
10図を参照して詳細に説明する。眼球80は半径の異なる
透明球が中心を隔てて重なった複合球としてモデル化で
きる。撮影レンズ86の光軸にあるこのような眼球80に対
して光を照射し、その反射光を捉える場合を考える。眼
球80の虹彩81の開口部が瞳孔85である。光源87から照射
された光は角膜84で屈折し、眼球80内に入り、瞳孔85を
通過し、網膜に対応する拡散反射面82に到達する。一部
の光は網膜細胞に吸収されるが、残りの光はここで拡散
反射される。反射光のうち、再び瞳孔85を通過できる光
が概ね光源の方向に戻る。したがって、この方向に撮影
レンズ86があり、反射光を捉えることができれば、撮影
画像において瞳孔85の部分は明るく輝いた像になる。
10図を参照して詳細に説明する。眼球80は半径の異なる
透明球が中心を隔てて重なった複合球としてモデル化で
きる。撮影レンズ86の光軸にあるこのような眼球80に対
して光を照射し、その反射光を捉える場合を考える。眼
球80の虹彩81の開口部が瞳孔85である。光源87から照射
された光は角膜84で屈折し、眼球80内に入り、瞳孔85を
通過し、網膜に対応する拡散反射面82に到達する。一部
の光は網膜細胞に吸収されるが、残りの光はここで拡散
反射される。反射光のうち、再び瞳孔85を通過できる光
が概ね光源の方向に戻る。したがって、この方向に撮影
レンズ86があり、反射光を捉えることができれば、撮影
画像において瞳孔85の部分は明るく輝いた像になる。
しかし、撮影レンズ86が光源87から離れると、反射光を
十分に捉えることができなくなり、瞳孔85の部分におい
て明るく輝く領域は特異な形になる。第10図に示すよう
に、光源87が撮影レンズ86の光軸近くにあれば、第11B
図に示すように、瞳孔85内で明るく輝く領域が広くな
る。しかし、光源88のように撮影レンズ86から離れる
と、第11A図に示すように、明るく輝く領域が大きく偏
る。このように明るさが不均一な瞳孔像では2値化し、
重心を求める処理をしても瞳孔85の中心を正確に求める
ことができず、視線検出の誤差が大きくなる。したがっ
て、視線検出の精度を上げる観点からは、瞳孔85が均一
な明るさで撮影されることは特に望ましい。
十分に捉えることができなくなり、瞳孔85の部分におい
て明るく輝く領域は特異な形になる。第10図に示すよう
に、光源87が撮影レンズ86の光軸近くにあれば、第11B
図に示すように、瞳孔85内で明るく輝く領域が広くな
る。しかし、光源88のように撮影レンズ86から離れる
と、第11A図に示すように、明るく輝く領域が大きく偏
る。このように明るさが不均一な瞳孔像では2値化し、
重心を求める処理をしても瞳孔85の中心を正確に求める
ことができず、視線検出の誤差が大きくなる。したがっ
て、視線検出の精度を上げる観点からは、瞳孔85が均一
な明るさで撮影されることは特に望ましい。
そこで、この発明の一実施例では、瞳孔85内の全域を均
一に明るく撮影するために、光源87を撮影レンズ86の光
軸の近くに配置するとともに、光軸の周囲に配置するこ
とが望ましいとしている。第11C図は第4図に示した照
明装置61を用いて撮影した瞳孔像を模式的に示したもの
である。第4図に示した発光ダイオード66は第11B図,
第11A図に示すように瞳孔85の特定部分を明るく撮影す
るために作用するが、光軸の周囲に配置された発光ダイ
オード66による作用の和として撮影される瞳孔像は全体
が均一に明るくなる。なお、レンズ光軸の近傍に光源87
を配置する構成は、発光ダイオード66のような小型で効
率の良い光源を使用して初めて可能となる。
一に明るく撮影するために、光源87を撮影レンズ86の光
軸の近くに配置するとともに、光軸の周囲に配置するこ
とが望ましいとしている。第11C図は第4図に示した照
明装置61を用いて撮影した瞳孔像を模式的に示したもの
である。第4図に示した発光ダイオード66は第11B図,
第11A図に示すように瞳孔85の特定部分を明るく撮影す
るために作用するが、光軸の周囲に配置された発光ダイ
オード66による作用の和として撮影される瞳孔像は全体
が均一に明るくなる。なお、レンズ光軸の近傍に光源87
を配置する構成は、発光ダイオード66のような小型で効
率の良い光源を使用して初めて可能となる。
次に、第12図を参照して、瞳孔を均一に明るく撮影する
条件について説明する。撮影条件として影響する主なパ
ラメータは以下のとおりである。
条件について説明する。撮影条件として影響する主なパ
ラメータは以下のとおりである。
レンズ中心位置を基準としたときの眼球の位置d,g
および眼球の回転角ξ 光源の位置 上述のパラメータの中で、のパラメータは視線検出法
を使用する環境条件によって定まる。インタフェースの
環境では、眼球の位置dは50cm〜200cm程度であり、眼
球の位置gは±30cm程度であり、回転角ξは±20゜程度
である。このような条件の中で、第11A図,第11B図に示
すように瞳孔の少なくとも一部を明るく撮影するための
光源の配置条件を実験により求めると、この条件は各光
源と撮影対象を結ぶ線分l1やl1′とレンズ中心と眼球を
結ぶ線分l2やl2′とのなす角θでほぼ決まり、θの値は
θth1(5゜)以下であった。
および眼球の回転角ξ 光源の位置 上述のパラメータの中で、のパラメータは視線検出法
を使用する環境条件によって定まる。インタフェースの
環境では、眼球の位置dは50cm〜200cm程度であり、眼
球の位置gは±30cm程度であり、回転角ξは±20゜程度
である。このような条件の中で、第11A図,第11B図に示
すように瞳孔の少なくとも一部を明るく撮影するための
光源の配置条件を実験により求めると、この条件は各光
源と撮影対象を結ぶ線分l1やl1′とレンズ中心と眼球を
結ぶ線分l2やl2′とのなす角θでほぼ決まり、θの値は
θth1(5゜)以下であった。
また、瞳孔が明るく撮影される部分が全く現われないよ
うな角度についてはθth2(6゜)以上であった。つま
り、5゜前後を境として、瞳孔は明るく撮影されるかあ
るいは暗く撮影されるかに分かれる。このθth1,θth2
の値は環境条件により設定される。したがって、瞳孔を
明るく撮影するための照明装置61ではレンズ光軸を取囲
む各光源をθth1以下にすればよい。光源の数は多いほ
どよいが、3個以上が望ましい。
うな角度についてはθth2(6゜)以上であった。つま
り、5゜前後を境として、瞳孔は明るく撮影されるかあ
るいは暗く撮影されるかに分かれる。このθth1,θth2
の値は環境条件により設定される。したがって、瞳孔を
明るく撮影するための照明装置61ではレンズ光軸を取囲
む各光源をθth1以下にすればよい。光源の数は多いほ
どよいが、3個以上が望ましい。
上述の条件により、瞳孔を明るく撮影した画像と、瞳孔
を暗く撮影した画像の差分画像により、瞳孔部分が背景
に対して強調される。
を暗く撮影した画像の差分画像により、瞳孔部分が背景
に対して強調される。
第13A図〜第13C図は第3図に示した装置を用いて撮影し
た画像の一例を示す図であり、特に、第13A図はCCD撮影
素子612によって撮影された画像であり、第13B図はCCD
撮像素子614で撮影された画像である。差分画像を2値
化すると、第13C図に示すように、瞳孔部分が高いS/Nで
抽出されることがわかる。
た画像の一例を示す図であり、特に、第13A図はCCD撮影
素子612によって撮影された画像であり、第13B図はCCD
撮像素子614で撮影された画像である。差分画像を2値
化すると、第13C図に示すように、瞳孔部分が高いS/Nで
抽出されることがわかる。
この発明の一実施例では、眼球の網膜で反射する光を瞳
孔から取出すことにより、瞳孔を明るく撮影するが、こ
の技術を特徴点抽出に利用することもできる。すなわ
ち、顔にマークを貼り、このマークを抽出することによ
り、顔の位置や方向を検出する方式において、このマー
クに透明球を使用する方法である。
孔から取出すことにより、瞳孔を明るく撮影するが、こ
の技術を特徴点抽出に利用することもできる。すなわ
ち、顔にマークを貼り、このマークを抽出することによ
り、顔の位置や方向を検出する方式において、このマー
クに透明球を使用する方法である。
第14図はこの発明の一実施例の装置に適用されるマーク
物体の一例を示す図である。第14図を参照して、ガラス
玉90の上に白ペンキなどの塗料が塗布されて拡散反射層
91が形成され、さらにその上に黒ペンキなどの塗料が塗
布されて光吸収層92が形成される。光はガラス玉90の開
口部から入射し、開口雨部の曲率で屈折し、拡散面に到
達する。入射光は拡散面で結像こそしないが、開口部の
曲率がレンズとして作用するために、第14図に示すよう
に入射光が集光される。拡散面で反射した光は、開口部
を通過する際、曲率がレンズとして作用するため、概ね
入射した光の方向に反射する。
物体の一例を示す図である。第14図を参照して、ガラス
玉90の上に白ペンキなどの塗料が塗布されて拡散反射層
91が形成され、さらにその上に黒ペンキなどの塗料が塗
布されて光吸収層92が形成される。光はガラス玉90の開
口部から入射し、開口雨部の曲率で屈折し、拡散面に到
達する。入射光は拡散面で結像こそしないが、開口部の
曲率がレンズとして作用するために、第14図に示すよう
に入射光が集光される。拡散面で反射した光は、開口部
を通過する際、曲率がレンズとして作用するため、概ね
入射した光の方向に反射する。
このように、反射光の方向が入射光の方向に近いため
に、たとえば第3図に示した実施例の撮影装置で反射光
を撮影すると、CCD撮像素子612で得られた画像は開口部
が周囲に対して明るく撮影される。また、撮影レンズ65
から離れたところに設けられた照明装置62による反射光
は眼球の場合と同様にして、カメラ60は捉えられないた
め、CCD撮像素子613および614の画像では開口部が暗く
なる。したがって、これら2種類の画像、すなわちCCD
撮像素子612の画像と、CCD撮像素子613または614の画像
との差分をとると、開口部が特徴点として強調され、抽
出される。このように、ガラス玉90の開口部は瞳孔を抽
出する条件と同様に抽出できる。なお、ガラス球90とし
ては、直径3ないし5mm程度のものを用意し、顔の中で
皮膚の動きの少ないところに貼るかあるいは眼鏡フレー
ムの枠に埋め込み、これを利用者が装着するようにして
もよい。
に、たとえば第3図に示した実施例の撮影装置で反射光
を撮影すると、CCD撮像素子612で得られた画像は開口部
が周囲に対して明るく撮影される。また、撮影レンズ65
から離れたところに設けられた照明装置62による反射光
は眼球の場合と同様にして、カメラ60は捉えられないた
め、CCD撮像素子613および614の画像では開口部が暗く
なる。したがって、これら2種類の画像、すなわちCCD
撮像素子612の画像と、CCD撮像素子613または614の画像
との差分をとると、開口部が特徴点として強調され、抽
出される。このように、ガラス玉90の開口部は瞳孔を抽
出する条件と同様に抽出できる。なお、ガラス球90とし
ては、直径3ないし5mm程度のものを用意し、顔の中で
皮膚の動きの少ないところに貼るかあるいは眼鏡フレー
ムの枠に埋め込み、これを利用者が装着するようにして
もよい。
第15図はマーク物体の他の例を示す断面図である。第15
図を参照して、マーク物体93は直径が2〜5mm程度の円
形であって、ガラスを加工して形成される。表面には波
長900nm以上で透過し、900nm以下で反射する膜94が形成
され、裏面は拡散反射面95となっている。したがって、
900nm以上の光が裏面で拡散反射されてカメラによって
捉えられる。900nm以下の光はマーク物体93の表面で反
射するが、反射方向が撮影レンズと異なる場合、撮影さ
れない。また、この光は正反射光であるため、偏光板を
用いれば遮断できる。前述の第3図に示したCCD撮像素
子612で得られた画像ではマーク部分が明るくなる。ま
た、CCD撮像素子613で得られた画像では、マーク部分が
暗くなる。したがって、これらの差分をとることによ
り、マーク部分が瞳孔と一緒に抽出される。
図を参照して、マーク物体93は直径が2〜5mm程度の円
形であって、ガラスを加工して形成される。表面には波
長900nm以上で透過し、900nm以下で反射する膜94が形成
され、裏面は拡散反射面95となっている。したがって、
900nm以上の光が裏面で拡散反射されてカメラによって
捉えられる。900nm以下の光はマーク物体93の表面で反
射するが、反射方向が撮影レンズと異なる場合、撮影さ
れない。また、この光は正反射光であるため、偏光板を
用いれば遮断できる。前述の第3図に示したCCD撮像素
子612で得られた画像ではマーク部分が明るくなる。ま
た、CCD撮像素子613で得られた画像では、マーク部分が
暗くなる。したがって、これらの差分をとることによ
り、マーク部分が瞳孔と一緒に抽出される。
第16図はこの発明を電子シャッタ式撮影装置に適用した
実施例を示す図であり、たとえば第3図において、CCD
撮像素子614を省略したカメラに電子シャッタ機能をつ
けたものに相当する。すなわち、撮像素子105は第3図
のCCD撮像素子612に相当し、撮像素子105がCCD撮像素子
613に相当する。第16図を参照して、電子シャッタ式カ
メラ101はレンズ102と、電子シャッタ103と、波長に応
じて画像を分離する光学装置104と、波長λ1の画像を
撮影する撮像素子105と、波長λ2の画像を撮影する撮
像素子106とを含む。撮像素子105の出力はメモリ107に
与えられ、撮像素子106の撮像出力はメモリ108に与えら
れる。メモリ107,108はそれぞれ撮像出力を記憶する。
画像処理装置109は、メモリ107,108に記憶されたそれぞ
れの画像出力を処理し、たとえば差分を出力する。電子
シャッタ103と撮像素子105,106はたとえばマイクロコン
ピュータからなるコントローラ110によって制御され
る。照明装置111は波長λ1の光を照射する照明装置113
と波長λ2の光を照射する照明装置115とから構成さ
れ、それぞれはコントローラ110の制御により、駆動回
路112,114によって駆動される。
実施例を示す図であり、たとえば第3図において、CCD
撮像素子614を省略したカメラに電子シャッタ機能をつ
けたものに相当する。すなわち、撮像素子105は第3図
のCCD撮像素子612に相当し、撮像素子105がCCD撮像素子
613に相当する。第16図を参照して、電子シャッタ式カ
メラ101はレンズ102と、電子シャッタ103と、波長に応
じて画像を分離する光学装置104と、波長λ1の画像を
撮影する撮像素子105と、波長λ2の画像を撮影する撮
像素子106とを含む。撮像素子105の出力はメモリ107に
与えられ、撮像素子106の撮像出力はメモリ108に与えら
れる。メモリ107,108はそれぞれ撮像出力を記憶する。
画像処理装置109は、メモリ107,108に記憶されたそれぞ
れの画像出力を処理し、たとえば差分を出力する。電子
シャッタ103と撮像素子105,106はたとえばマイクロコン
ピュータからなるコントローラ110によって制御され
る。照明装置111は波長λ1の光を照射する照明装置113
と波長λ2の光を照射する照明装置115とから構成さ
れ、それぞれはコントローラ110の制御により、駆動回
路112,114によって駆動される。
第17図および第18図は第16図に示した撮像装置および照
明装置の駆動タイミングを示す図である。前述の第16図
に示した電子シャッタ式カメラ101は、動きのある対象
をぶれを少なくして撮影できる。その原理は電子シャッ
タ103を短時間開いて撮像素子105,106を露光し、第17図
(b)に示すたとえば1msecの短い時間116の間に画像信
号が撮像素子105,106に一時蓄積される。その後、第17
図(a)に示すタイミング117の間に撮像素子105,106の
出力である画像信号がメモリ107,108に転送され、転送
が終わったタイミングで再び電子シャッタ103が開か
れ、撮像素子105,106が露光され、この動作が繰返され
る。
明装置の駆動タイミングを示す図である。前述の第16図
に示した電子シャッタ式カメラ101は、動きのある対象
をぶれを少なくして撮影できる。その原理は電子シャッ
タ103を短時間開いて撮像素子105,106を露光し、第17図
(b)に示すたとえば1msecの短い時間116の間に画像信
号が撮像素子105,106に一時蓄積される。その後、第17
図(a)に示すタイミング117の間に撮像素子105,106の
出力である画像信号がメモリ107,108に転送され、転送
が終わったタイミングで再び電子シャッタ103が開か
れ、撮像素子105,106が露光され、この動作が繰返され
る。
上述の第16図に示した電子シャッタ式カメラ101では、
撮像素子105,106として感度の高いものを使用する必要
があるが、シャッタ速度が速くなるに従って多くの光量
を必要とする。このような装置において、照明装置111
を使用することによって、以下の利点が得られる。
撮像素子105,106として感度の高いものを使用する必要
があるが、シャッタ速度が速くなるに従って多くの光量
を必要とする。このような装置において、照明装置111
を使用することによって、以下の利点が得られる。
すなわち、発光ダイオードは高速にオン,オフできるば
かりでなく、間欠駆動条件では連続駆動に比べて大きな
電流を通電でき、したがって大きな光量を得ることがで
きる。これにより、撮像素子105,106の露光時間に、十
分な光を照射できる。このように、発光ダイオードを用
いた照明装置111は電子シャッタカメラ101に必要な短時
間に強い照明を必要とする条件に合致する。
かりでなく、間欠駆動条件では連続駆動に比べて大きな
電流を通電でき、したがって大きな光量を得ることがで
きる。これにより、撮像素子105,106の露光時間に、十
分な光を照射できる。このように、発光ダイオードを用
いた照明装置111は電子シャッタカメラ101に必要な短時
間に強い照明を必要とする条件に合致する。
撮像素子105,106の一画面露光時間は33msec〜0.5msec程
度の幅が設定される。ここで、たとえば最小露光時間で
ある1msecまたは0.5msecにおいて、毎秒30枚の画像を撮
影する場合を例にとると、照射時間は連続照射に比べて
1/1000以下になる。この場合、連続通電では50mA程度し
か流せない発光ダイオードであっても、間欠駆動によっ
て数Aの電流を通電することができる。したがって、露
光に必要な照明は確保できる。
度の幅が設定される。ここで、たとえば最小露光時間で
ある1msecまたは0.5msecにおいて、毎秒30枚の画像を撮
影する場合を例にとると、照射時間は連続照射に比べて
1/1000以下になる。この場合、連続通電では50mA程度し
か流せない発光ダイオードであっても、間欠駆動によっ
て数Aの電流を通電することができる。したがって、露
光に必要な照明は確保できる。
この発明による撮影装置では、外部照明は雑音となるた
め遮断するのが好ましい。露光時間を短くする効果とし
ては、照明装置の光量に対して、外部照明の光量が相対
的に少なくなる点が挙げられる。これにより、外部照明
による反射成分が相対的に少なくなり、雑音成分が少な
くなってS/Nが改善する。また、必要な照明時間にのみ
必要な光量の照明を行なうため、無駄な電力が少なくな
り、発熱も少なくなる。
め遮断するのが好ましい。露光時間を短くする効果とし
ては、照明装置の光量に対して、外部照明の光量が相対
的に少なくなる点が挙げられる。これにより、外部照明
による反射成分が相対的に少なくなり、雑音成分が少な
くなってS/Nが改善する。また、必要な照明時間にのみ
必要な光量の照明を行なうため、無駄な電力が少なくな
り、発熱も少なくなる。
次に、間欠駆動の他の例として、外部照明による反射成
分を除去する他の方法について説明する。
分を除去する他の方法について説明する。
第18図は照明装置を駆動するタイミング図である。この
例では、画像の撮影は時分割で2枚1組によって行なわ
れ、1画面の撮影時間はたとえば33msecであって、A1,A
2で示されている。A1の撮影時は照明装置がオンされ、A
2の撮影時は照明装置がオフにされる。A1,A2の画像は共
に外部照明による反射光が重畳されている。外部照明の
条件がA1,A2の撮影時で変化しなければ、A1の画像からA
2の画像を減算することにより、照明装置をオンしたと
きの画像を抽出できる。
例では、画像の撮影は時分割で2枚1組によって行なわ
れ、1画面の撮影時間はたとえば33msecであって、A1,A
2で示されている。A1の撮影時は照明装置がオンされ、A
2の撮影時は照明装置がオフにされる。A1,A2の画像は共
に外部照明による反射光が重畳されている。外部照明の
条件がA1,A2の撮影時で変化しなければ、A1の画像からA
2の画像を減算することにより、照明装置をオンしたと
きの画像を抽出できる。
次に、この発明の応用例として、撮影対象の特徴点をリ
アルタイム、たとえば30画面/秒で抽出する画像処理装
置について説明する。人の動きをリアルタイムで検出し
ようとする場合、上述のように一方で顔や身体にマーク
を貼ったり、参照光を当てるなど、特徴点が抽出しやす
くなる撮影方法を選択する必要があるが、これだけでは
不十分であり、画像処理装置の高速化が不可欠である。
この発明では、2種類の画像の差分処理により、上述の
特徴点を簡単に抽出できる。
アルタイム、たとえば30画面/秒で抽出する画像処理装
置について説明する。人の動きをリアルタイムで検出し
ようとする場合、上述のように一方で顔や身体にマーク
を貼ったり、参照光を当てるなど、特徴点が抽出しやす
くなる撮影方法を選択する必要があるが、これだけでは
不十分であり、画像処理装置の高速化が不可欠である。
この発明では、2種類の画像の差分処理により、上述の
特徴点を簡単に抽出できる。
第19A図はこの発明による画像撮影装置を用いて、特徴
点をリアルタイムで検出する画像処理装置の全体の構成
を示す概略ブロック図であり、第19B図は第19A図に示し
た画像処理装置の具体的なブロック図である。
点をリアルタイムで検出する画像処理装置の全体の構成
を示す概略ブロック図であり、第19B図は第19A図に示し
た画像処理装置の具体的なブロック図である。
第19A図を参照して、近赤外カメラ121,122によって撮影
された各カメラのCCD1〜CCD3の画像信号はそれぞれ画像
処理装置123,124に与えられて画像処理されてホストコ
ンピュータ125に与えられる。画像処理装置123,124はそ
れぞれ第19B図に示すように構成されている。すなわ
ち、画像処理装置123は入力信号からパイプライン処理
のためのタイミング信号を作るモジュール130を基本と
し、このモジュール130に接続される他の入力モジュー
ル131,132および各種パイプラインプロセッサモジュー
ル133,134,135および136が並列動作する。近赤外カメラ
121はCCD撮像素子612,613および614を含み、それぞれの
画像信号はモジュール130,131および132に個別的に与え
られる。
された各カメラのCCD1〜CCD3の画像信号はそれぞれ画像
処理装置123,124に与えられて画像処理されてホストコ
ンピュータ125に与えられる。画像処理装置123,124はそ
れぞれ第19B図に示すように構成されている。すなわ
ち、画像処理装置123は入力信号からパイプライン処理
のためのタイミング信号を作るモジュール130を基本と
し、このモジュール130に接続される他の入力モジュー
ル131,132および各種パイプラインプロセッサモジュー
ル133,134,135および136が並列動作する。近赤外カメラ
121はCCD撮像素子612,613および614を含み、それぞれの
画像信号はモジュール130,131および132に個別的に与え
られる。
モジュール130,131および132はCCD撮像素子612,613およ
び614のそれぞれの出力信号に同期して画像信号をA/D変
換して画素データとし、この画素データはビデオバスを
介して順次パイプラインプロセッサモジュール133,134,
135および136に与えられる。パイプラインプロセッサモ
ジュール133,134,135および136はそれぞれ複数の入力を
有していて、たとえば2種類の差分画像処理の場合、パ
イプラインプロセッサモジュール133は(CCD614の画像
−CCD613の画像)なる処理および2値化の処理を行な
い、パイプラインプロセッサ134は(CCD612の画像−CCD
613の画像)なる処理および2値化の処理を行ない、パ
イプラインプロセッサ135はパイプラインプロセッサ133
および134で処理された画像信号をパッキングし、パイ
プラインプロセッサ136は抽出された特徴点の重心を計
算する。
び614のそれぞれの出力信号に同期して画像信号をA/D変
換して画素データとし、この画素データはビデオバスを
介して順次パイプラインプロセッサモジュール133,134,
135および136に与えられる。パイプラインプロセッサモ
ジュール133,134,135および136はそれぞれ複数の入力を
有していて、たとえば2種類の差分画像処理の場合、パ
イプラインプロセッサモジュール133は(CCD614の画像
−CCD613の画像)なる処理および2値化の処理を行な
い、パイプラインプロセッサ134は(CCD612の画像−CCD
613の画像)なる処理および2値化の処理を行ない、パ
イプラインプロセッサ135はパイプラインプロセッサ133
および134で処理された画像信号をパッキングし、パイ
プラインプロセッサ136は抽出された特徴点の重心を計
算する。
計算された重心座標はリピータ138を介してホストコン
ピュータ125に伝送され、視線が検出される。このよう
にして、1枚の画像が取込まれる間に、A/D変換された
画素データが複数のパイプラインプロセッサモジュール
133〜136を介して演算される。1枚の画像処理時間は最
後の画素が取込まれるまでの時間33msecにパイプライン
処理の遅れ時間を加えたものになる。また、入力モジュ
ール130,131および132は最後の画像プロセッサに送った
後は、すぐ次の画像取込みに入ることができる。したが
って、この発明の目的のように、簡単な四則演算で済む
画像処理(画像間の差分処理)の場合、33枚/秒、遅れ
時間33msec+αでリアルタイム処理が可能となる。
ピュータ125に伝送され、視線が検出される。このよう
にして、1枚の画像が取込まれる間に、A/D変換された
画素データが複数のパイプラインプロセッサモジュール
133〜136を介して演算される。1枚の画像処理時間は最
後の画素が取込まれるまでの時間33msecにパイプライン
処理の遅れ時間を加えたものになる。また、入力モジュ
ール130,131および132は最後の画像プロセッサに送った
後は、すぐ次の画像取込みに入ることができる。したが
って、この発明の目的のように、簡単な四則演算で済む
画像処理(画像間の差分処理)の場合、33枚/秒、遅れ
時間33msec+αでリアルタイム処理が可能となる。
次に、視線検出以外の応用例として、形状パターンを参
照光として撮影対象に照射し、照射したパターンに対応
する反射パターンの変化から撮影対象の3次元形状を求
めるアクティブステレオビジョンへの適用について説明
する。
照光として撮影対象に照射し、照射したパターンに対応
する反射パターンの変化から撮影対象の3次元形状を求
めるアクティブステレオビジョンへの適用について説明
する。
第20図,第21図および第22図はアクティブなステレオ画
像計測法にこの発明を応用した例を示す図である。第20
図を参照して、発光ダイオードの光源を用いた照明装置
141からレンズ系142,形状パターン143および偏光板144
を介して参照光が撮影対象145に照射される。撮影対象
はたとえば人物の顔である。形状パターン143には第21
図に示すようなパターンの模様145が形成されており、
光源141からの参照光はレンズ系142によって形状パター
ン143の模様146を撮影対象145に結合させる。撮影対象1
45からの反射光は撮影レンズ151,偏光板152を通過して
撮像素子153に結像される。なお、偏光板152の偏光面
は、偏光板144の偏光面に対して90゜回転しているもの
とする。
像計測法にこの発明を応用した例を示す図である。第20
図を参照して、発光ダイオードの光源を用いた照明装置
141からレンズ系142,形状パターン143および偏光板144
を介して参照光が撮影対象145に照射される。撮影対象
はたとえば人物の顔である。形状パターン143には第21
図に示すようなパターンの模様145が形成されており、
光源141からの参照光はレンズ系142によって形状パター
ン143の模様146を撮影対象145に結合させる。撮影対象1
45からの反射光は撮影レンズ151,偏光板152を通過して
撮像素子153に結像される。なお、偏光板152の偏光面
は、偏光板144の偏光面に対して90゜回転しているもの
とする。
第22図は撮影対象145に投影されたパターンが撮像素子1
53によって撮影された画像である。一般に、撮影対象14
5には部分的になめらかな面があり、参照光はここで正
反射するため、偏光を用いない従来の方式では、第29図
に示す投影画像の中には、投影パターンを妨害するよう
な正反射像が現われる。しかし、参照光を偏光化して照
射し、反射光から正反射成分を遮断して撮影するこの方
式では、正反射像による雑音成分が少ないので、第28図
に示すように、撮影対象の形状の特徴情報を反映した形
状パターン像を効率的に抽出できる。
53によって撮影された画像である。一般に、撮影対象14
5には部分的になめらかな面があり、参照光はここで正
反射するため、偏光を用いない従来の方式では、第29図
に示す投影画像の中には、投影パターンを妨害するよう
な正反射像が現われる。しかし、参照光を偏光化して照
射し、反射光から正反射成分を遮断して撮影するこの方
式では、正反射像による雑音成分が少ないので、第28図
に示すように、撮影対象の形状の特徴情報を反映した形
状パターン像を効率的に抽出できる。
[発明の効果] 以上のように、この発明によれば、瞳孔を強調して撮影
することができる。このことは、照明を弱くしてもノイ
ズに強いことを意味している。強い照明は生理的影響を
与えて望ましくないが、この発明によれば、弱い照明で
も安定して瞳孔を抽出できるため、視線検出などを行な
う際、人に優しい装置を提供できる。つまり、長時間使
用しても疲れない装置の実現が可能となる。
することができる。このことは、照明を弱くしてもノイ
ズに強いことを意味している。強い照明は生理的影響を
与えて望ましくないが、この発明によれば、弱い照明で
も安定して瞳孔を抽出できるため、視線検出などを行な
う際、人に優しい装置を提供できる。つまり、長時間使
用しても疲れない装置の実現が可能となる。
第1図はこの発明の概念を説明するための図である。 第2図は視線検出に必要な特徴点の種類とその性質を示
す図である。 第3図はこの発明の画像撮影装置の一実施例を示す図で
ある。 第4図は第3図に示した撮影レンズを前方から見た図で
ある。 第5図は同じく側面から見た図である。 第6図はこの発明の一実施例に用いられる光学部品の光
学的性質を示す特性図である。 第7図は発光ダイオードと偏光板とを一体化して照明装
置とした例を示す外観斜視図である。 第8A図はこの発明の一実施例により撮影した拡散反射像
を示す図であり、第8B図は特徴点抽出の効果を示す図で
ある。 第9A図〜第9C図は角膜反射像の抽出例を示す図である。 第10図,第11A図ないし第11C図および第12図は瞳孔が明
るく撮影される光源の配置を説明するための図である。 第13A図〜第13C図は第3図に示した装置を用いて撮影し
た画像の一例を示す図である。 第14図はこの発明の一実施例の装置に適用されるマーク
物体の一例を示す図である。 第15図はマーク物体の他の例を示す断面図である。 第16図はこの発明を電子シャッタ式撮影装置に適用した
実施例を示す図である。 第17図および第18図は第16図に示した撮影装置および照
明装置の駆動タイミングを示す図である。 第19A図はこの発明による画像撮影装置を用いて特徴点
をリアルタイムで検出する画像処理装置の全体の構成を
示す概略ブロック図であり、第19B図は第19A図に示した
画像処理装置の具体的なブロック図である。 第20図,第21図および第22図はアクティブなステレオ画
像計測法にこの発明を応用した例を示す図である。 第23図は従来の非接触視線検出装置の一例を示す図であ
る。 第24図は従来の照明装置と撮影装置とを用いて人物の顔
に合った青色のマークを特徴点として抽出する実験を行
なった例を示す図である。 第25A図および第25B図は第24図に示した実験によって顔
の特徴点を抽出した例を示す図である。 第26図は瞳孔の他の抽出法として、瞳孔から光を入射
し、網膜で反射する光を捉える方法を示す図である。 第27図は角膜反射像をカメラで撮影する装置の一例を示
す図である。 第28図は撮影された画像上で、白眼の中の黒眼の位置を
検出し、視線に変換する方法を説明するための図であ
る。 第29図は瞳孔と角膜反射像とを特徴点として用い、1台
のカメラで抽出する方法を説明するための図である。 図において、60はカメラユニット、61,62,111,113,115
は照明装置、64,66,72は発光ダイオード、63,67,615,61
6は偏光板、65,86はレンズ、68は可視遮断フィルタ、75
は光学素子、87は光源、105,106は撮像素子、107,108は
メモリ、109,123,124は画像処理装置、110はコントロー
ラ、112,114は駆動回路、121,122は近赤外カメラ、125
はホストコンピュータ、130,131,132はモジュール、15
3,154,155,156はパイプラインプロセッサモジュール、6
07,608,609はプリズム、610は波長分離膜、611はハーフ
ミラー、612,613,614はCCD撮像素子、617,618は差分画
像演算手段を示す。
す図である。 第3図はこの発明の画像撮影装置の一実施例を示す図で
ある。 第4図は第3図に示した撮影レンズを前方から見た図で
ある。 第5図は同じく側面から見た図である。 第6図はこの発明の一実施例に用いられる光学部品の光
学的性質を示す特性図である。 第7図は発光ダイオードと偏光板とを一体化して照明装
置とした例を示す外観斜視図である。 第8A図はこの発明の一実施例により撮影した拡散反射像
を示す図であり、第8B図は特徴点抽出の効果を示す図で
ある。 第9A図〜第9C図は角膜反射像の抽出例を示す図である。 第10図,第11A図ないし第11C図および第12図は瞳孔が明
るく撮影される光源の配置を説明するための図である。 第13A図〜第13C図は第3図に示した装置を用いて撮影し
た画像の一例を示す図である。 第14図はこの発明の一実施例の装置に適用されるマーク
物体の一例を示す図である。 第15図はマーク物体の他の例を示す断面図である。 第16図はこの発明を電子シャッタ式撮影装置に適用した
実施例を示す図である。 第17図および第18図は第16図に示した撮影装置および照
明装置の駆動タイミングを示す図である。 第19A図はこの発明による画像撮影装置を用いて特徴点
をリアルタイムで検出する画像処理装置の全体の構成を
示す概略ブロック図であり、第19B図は第19A図に示した
画像処理装置の具体的なブロック図である。 第20図,第21図および第22図はアクティブなステレオ画
像計測法にこの発明を応用した例を示す図である。 第23図は従来の非接触視線検出装置の一例を示す図であ
る。 第24図は従来の照明装置と撮影装置とを用いて人物の顔
に合った青色のマークを特徴点として抽出する実験を行
なった例を示す図である。 第25A図および第25B図は第24図に示した実験によって顔
の特徴点を抽出した例を示す図である。 第26図は瞳孔の他の抽出法として、瞳孔から光を入射
し、網膜で反射する光を捉える方法を示す図である。 第27図は角膜反射像をカメラで撮影する装置の一例を示
す図である。 第28図は撮影された画像上で、白眼の中の黒眼の位置を
検出し、視線に変換する方法を説明するための図であ
る。 第29図は瞳孔と角膜反射像とを特徴点として用い、1台
のカメラで抽出する方法を説明するための図である。 図において、60はカメラユニット、61,62,111,113,115
は照明装置、64,66,72は発光ダイオード、63,67,615,61
6は偏光板、65,86はレンズ、68は可視遮断フィルタ、75
は光学素子、87は光源、105,106は撮像素子、107,108は
メモリ、109,123,124は画像処理装置、110はコントロー
ラ、112,114は駆動回路、121,122は近赤外カメラ、125
はホストコンピュータ、130,131,132はモジュール、15
3,154,155,156はパイプラインプロセッサモジュール、6
07,608,609はプリズム、610は波長分離膜、611はハーフ
ミラー、612,613,614はCCD撮像素子、617,618は差分画
像演算手段を示す。
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 庁内整理番号 FI 技術表示箇所 A61B 3/10 B (56)参考文献 特開 昭62−149252(JP,A) 特開 昭60−197063(JP,A) 特開 昭58−114667(JP,A) 特開 昭61−268226(JP,A)
Claims (2)
- 【請求項1】瞳孔画像を撮影するための瞳孔画像撮影装
置であって、 撮影レンズの有効径の外側に設けられ、眼の方向を照射
する第1の光源、 前記第1の光源の反射光を、前記撮影レンズを介して結
像し、第1の画像信号を出力する第1の撮影手段、 前記撮影レンズの光軸付近に設けられ、眼の方向を照射
する第2の光源、 前記第2の光源の反射光を、前記撮影レンズを介して結
像し、第2の画像信号を出力する第2の撮影手段、およ
び 前記第1および第2の撮影手段出力の画像信号の差分信
号を第3の画像信号として出力する処理手段を備え、 前記第2の光源は、該光源と撮影対象である眼球を結ぶ
線分と、前記撮影レンズの中心と前記眼球を結ぶ線分と
のなす角をθth2としたとき、θth2≦5゜の角度となる
ように設置され、 前記第1の光源は、該光源と撮影対象である眼球を結ぶ
線分と、前記撮影レンズの中心と前記眼球を結ぶ線分と
のなす角をθth1としたとき、θth1≧θth2+1゜の角
度となるように設置され、 前記第1および第2の撮影手段は、前記第1および第2
の光源からの反射光に基づく画像を交互に間欠的に撮影
することを特徴とする、瞳孔画像撮影装置。 - 【請求項2】瞳孔画像を撮影するための瞳孔画像撮影装
置であって、 撮影レンズの有効径の外側に設けられ、眼の方向を照射
する第1の光源、 前記第1の光源の反射光を、前記撮影レンズを介して結
像し、第1の映像信号を出力する第1の撮影手段、 前記撮影レンズの光軸付近に設けられ、眼の方向を照射
する第2の光源、 前記第2の光源の反射光を、前記撮影レンズを介して結
像し、第2の画像信号を出力する第2の撮影手段、およ
び 前記第1および第2の撮影手段出力の画像信号の差分信
号を第3の画像信号として出力する処理手段を備え、 さらに、前記撮影レンズに入射された前記第1の光源か
らの反射光に基づく画像と、前記第2の光源からの反射
光に基づく画像とをそれぞれ分離して、前記第1および
第2の撮影手段に個別的に与えるためのプリズム光学系
を含み、 前記第1および第2の光学系は、それぞれの発光波長が
前記プリズム光学系で分離可能な程度に異なる発光ダイ
オードによって構成されることを特徴とする、瞳孔画像
撮影装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1181387A JPH0782539B2 (ja) | 1988-07-14 | 1989-07-13 | 瞳孔画像撮影装置 |
Applications Claiming Priority (7)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP17589988 | 1988-07-14 | ||
| JP63-193898 | 1988-08-03 | ||
| JP19389888 | 1988-08-03 | ||
| JP63-193899 | 1988-08-03 | ||
| JP19389988 | 1988-08-03 | ||
| JP63-175899 | 1988-08-03 | ||
| JP1181387A JPH0782539B2 (ja) | 1988-07-14 | 1989-07-13 | 瞳孔画像撮影装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH02138673A JPH02138673A (ja) | 1990-05-28 |
| JPH0782539B2 true JPH0782539B2 (ja) | 1995-09-06 |
Family
ID=27474669
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP1181387A Expired - Fee Related JPH0782539B2 (ja) | 1988-07-14 | 1989-07-13 | 瞳孔画像撮影装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0782539B2 (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| KR100847792B1 (ko) * | 2007-04-02 | 2008-07-23 | 후지쯔 가부시끼가이샤 | 촬영 장치, 광원 제어 방법 및 컴퓨터 프로그램을 기록한기록매체 |
| JP4799550B2 (ja) * | 2004-05-10 | 2011-10-26 | アバゴ・テクノロジーズ・ジェネラル・アイピー(シンガポール)プライベート・リミテッド | 瞳孔検出方法及びシステム |
Families Citing this family (25)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH06138379A (ja) * | 1992-09-14 | 1994-05-20 | Nikon Corp | 視線検出装置付きカメラ |
| JPH1091325A (ja) * | 1996-09-13 | 1998-04-10 | Toshiba Corp | 視線検出システム |
| JP4501037B2 (ja) * | 1998-02-17 | 2010-07-14 | ソニー株式会社 | 通信制御システムと通信装置および通信方法 |
| US7007096B1 (en) | 1999-05-12 | 2006-02-28 | Microsoft Corporation | Efficient splitting and mixing of streaming-data frames for processing through multiple processing modules |
| DE60003557T2 (de) * | 1999-05-12 | 2004-01-08 | Microsoft Corp., Redmond | Aufsplittern und mischen von strömenden datenrahmen |
| JP2002334335A (ja) * | 2001-03-09 | 2002-11-22 | Toshiba Corp | 顔画像認識装置および通行制御装置 |
| JP4898026B2 (ja) * | 2001-06-29 | 2012-03-14 | 本田技研工業株式会社 | ステレオカメラを使用した顔・視線認識装置 |
| KR20030034535A (ko) * | 2001-10-26 | 2003-05-09 | 이문기 | 카메라를 이용한 포인팅장치 및 포인터 위치산출 방법 |
| US7202793B2 (en) | 2002-10-11 | 2007-04-10 | Attention Technologies, Inc. | Apparatus and method of monitoring a subject and providing feedback thereto |
| JP4297876B2 (ja) | 2003-03-28 | 2009-07-15 | 富士通株式会社 | 撮影装置、光源制御方法、およびコンピュータプログラム |
| JP4500992B2 (ja) * | 2004-01-14 | 2010-07-14 | 国立大学法人静岡大学 | 三次元視点計測装置 |
| JP4765008B2 (ja) * | 2004-03-16 | 2011-09-07 | 国立大学法人静岡大学 | 瞳孔と鼻孔を用いた頭部の方向を検出する方法 |
| JP4568836B2 (ja) * | 2004-06-08 | 2010-10-27 | 国立大学法人静岡大学 | 実時間瞳孔位置検出システム |
| JP4654434B2 (ja) * | 2004-11-24 | 2011-03-23 | 国立大学法人佐賀大学 | 視線方向特定システム |
| US7430365B2 (en) * | 2005-03-31 | 2008-09-30 | Avago Technologies Ecbu (Singapore) Pte Ltd. | Safe eye detection |
| WO2007023798A1 (ja) | 2005-08-23 | 2007-03-01 | National University Corporation Shizuoka University | 瞳孔検出装置及び瞳孔検出方法 |
| JP4528980B2 (ja) * | 2005-08-23 | 2010-08-25 | 国立大学法人静岡大学 | 瞳孔検出装置及び瞳孔検出方法 |
| JP2008125619A (ja) * | 2006-11-17 | 2008-06-05 | National Univ Corp Shizuoka Univ | 瞳孔検出装置及び瞳孔検出方法 |
| JP2008132160A (ja) * | 2006-11-28 | 2008-06-12 | National Univ Corp Shizuoka Univ | 瞳孔検出装置及び瞳孔検出方法 |
| FR2952517B1 (fr) * | 2009-11-13 | 2012-07-20 | Essilor Int | Procede et dispositif de mesure automatique d'au moins une caracteristique de refraction des deux yeux d'un individu |
| JP6041538B2 (ja) * | 2012-06-01 | 2016-12-07 | キヤノン株式会社 | 眼科装置 |
| JP6056323B2 (ja) | 2012-09-24 | 2017-01-11 | 富士通株式会社 | 視線検出装置、視線検出用コンピュータプログラム |
| JP2016106668A (ja) * | 2014-12-02 | 2016-06-20 | ソニー株式会社 | 情報処理装置、情報処理方法、およびプログラム |
| EP4053677B1 (en) | 2019-10-30 | 2024-09-25 | Imatrix Holdings Corp. | Eye contact detection device |
| WO2021251146A1 (ja) * | 2020-06-09 | 2021-12-16 | 国立大学法人静岡大学 | 瞳孔検出装置 |
Family Cites Families (4)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS58114667A (ja) * | 1981-12-28 | 1983-07-08 | Ricoh Co Ltd | 画像スキヤナ装置 |
| JPS60197063A (ja) * | 1984-03-21 | 1985-10-05 | Canon Inc | Ledアレイ及びその分割点灯方法 |
| JPH066111B2 (ja) * | 1985-05-23 | 1994-01-26 | 浜松ホトニクス株式会社 | 瞳孔照明装置 |
| JPS62149252A (ja) * | 1985-12-23 | 1987-07-03 | Fuji Xerox Co Ltd | 画像入力装置 |
-
1989
- 1989-07-13 JP JP1181387A patent/JPH0782539B2/ja not_active Expired - Fee Related
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP4799550B2 (ja) * | 2004-05-10 | 2011-10-26 | アバゴ・テクノロジーズ・ジェネラル・アイピー(シンガポール)プライベート・リミテッド | 瞳孔検出方法及びシステム |
| KR100847792B1 (ko) * | 2007-04-02 | 2008-07-23 | 후지쯔 가부시끼가이샤 | 촬영 장치, 광원 제어 방법 및 컴퓨터 프로그램을 기록한기록매체 |
Also Published As
| Publication number | Publication date |
|---|---|
| JPH02138673A (ja) | 1990-05-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH0782539B2 (ja) | 瞳孔画像撮影装置 | |
| EP0596868B1 (en) | Eye tracking method using an image pickup apparatus | |
| JP6498606B2 (ja) | ウエアラブル視線計測デバイス及び使用方法 | |
| US20240315563A1 (en) | System and method for eye tracking | |
| US8077914B1 (en) | Optical tracking apparatus using six degrees of freedom | |
| CN103458770B (zh) | 照射特性能够调节的用于捕获至少一个眼睛的至少一个参数的光学测量装置和方法 | |
| EP3371781B1 (en) | Systems and methods for generating and using three-dimensional images | |
| US11675429B2 (en) | Calibration, customization, and improved user experience for bionic lenses | |
| US10775647B2 (en) | Systems and methods for obtaining eyewear information | |
| WO2016184107A1 (zh) | 用于视线焦点定位的可穿戴设备及视线焦点定位方法 | |
| WO2018154272A1 (en) | Systems and methods for obtaining information about the face and eyes of a subject | |
| JPH02224637A (ja) | 視線検出方法 | |
| JP2001340300A (ja) | 瞳孔位置検出装置及び方法、視点位置検出装置及び方法、並びに立体画像表示システム | |
| US11256087B2 (en) | Holographic eye imaging device | |
| WO2018164104A1 (ja) | 眼部画像処理装置 | |
| JP6555707B2 (ja) | 瞳孔検出装置、瞳孔検出方法及び瞳孔検出プログラム | |
| JP3342810B2 (ja) | 虹彩画像取得装置 | |
| JP2006087751A (ja) | 視線測定方法および視線測定装置 | |
| JP2002017677A (ja) | 輻輳角測定装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |