JP2005013752A - 視線検出システム - Google Patents

視線検出システム Download PDF

Info

Publication number
JP2005013752A
JP2005013752A JP2004236161A JP2004236161A JP2005013752A JP 2005013752 A JP2005013752 A JP 2005013752A JP 2004236161 A JP2004236161 A JP 2004236161A JP 2004236161 A JP2004236161 A JP 2004236161A JP 2005013752 A JP2005013752 A JP 2005013752A
Authority
JP
Japan
Prior art keywords
center
pupil
reflected light
distance
camera
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2004236161A
Other languages
English (en)
Other versions
JP4055858B2 (ja
Inventor
Keiji Matsuda
圭司 松田
Takeshi Nagami
武司 永見
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
National Institute of Advanced Industrial Science and Technology AIST
Original Assignee
National Institute of Advanced Industrial Science and Technology AIST
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by National Institute of Advanced Industrial Science and Technology AIST filed Critical National Institute of Advanced Industrial Science and Technology AIST
Priority to JP2004236161A priority Critical patent/JP4055858B2/ja
Publication of JP2005013752A publication Critical patent/JP2005013752A/ja
Application granted granted Critical
Publication of JP4055858B2 publication Critical patent/JP4055858B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Eye Examination Apparatus (AREA)

Abstract

【課題】 カメラにより複数の画像を取り込み、それぞれの画像について、反射光形状、瞳孔形状を計測して、反射光重心位置、瞳孔を楕円近似することにより、短軸の傾き、短軸長軸比、瞳孔中心を計算しそれらの値からカメラに対する視線ベクトルを求めることを目的としている。
【解決手段】 頭部が固定された被験者において、反射位置が角膜上に位置するように配置された光源により照明された瞳孔を撮影可能のカメラによって、複数の画像を取り込む。それらの画像より、反射光重心位置と角膜を球の一部としたとき球の中心である角膜曲率中心のx方向の距離及びy方向の距離及び眼球が回転する際の不動点である眼球回転中心-角膜曲率中心距離を計測する。これら値を用いて、被験者において前述のカメラによって撮影された画像から、反射光重心位置および瞳孔を楕円近似する事により得られた値からカメラに対する視線ベクトルを計測する。
【選択図】図7

Description

本発明は、カメラに対する視線ベクトルを求める視線検出システムに関する。
従来より、視線位置を計測する簡便な視線位置計測システムが求められている。このようなシステムを、より低価格で提供することができるならば、例えば、以下のような分野に使用できると考えられる。
1)視覚に関する心理学的研究
2)医療検査
3)マンマシンインターフェース(視線入力装置)
4)3)と重なるが障害者に対する補助装置。
5)ヘッドマウントディスプレーに内蔵し、視線入力装置として用いる。
6)装置を2台用い、カメラの位置を厳密に設定することにより、両眼の視差を受動的な校正(視標を提示して、凝視してもらうのでは無く、だだ、眼を動かすだけ)で計測することができる。医療検査、心理実験、行動実験などに用いることができる。
しかし、従来、カメラにより複数の画像を取り込み、反射光形状、瞳孔形状を計測して、反射光重心位置、瞳孔の楕円近似より短軸の傾き、短軸長軸比、瞳孔中心を計算することにより視線位置を計測する簡便な視線位置計測システムは、存在していなかった。
特許第2600114号公報 電子情報通信学会技術研究報告書 vol.100 no.47 「視線位置計測システムの開発」 ISSN0913-5685、TL2000-1-6「思考と言語」2000年5月12日 より抜粋
本発明は、カメラにより複数の画像を取り込み、それぞれの画像について、反射光形状、瞳孔形状を計測して、反射光重心位置、瞳孔を楕円近似することにより、短軸の傾き、短軸長軸比、瞳孔中心を計算することにより、カメラに対する視線ベクトルを求めることを目的とする。
(1)反射光重心位置と角膜曲率中心位置の関係について。
CCDカメラにより、人もしくはサルの眼球を撮影する。瞳孔を暗く撮影するため、赤外線LEDにて照明を行う。カメラ、光源(赤外線LED)及び眼球の位置関係を図1に示す。図1において、カメラは、眼球の略水平方向前方に位置するよう図示しているが、カメラの位置は、瞳孔が撮影できる範囲で任意の場所に設定する事ができる。光源も、反射光形状が角膜上になる場所ならば、任意の場所に配置させる事ができる。CCDカメラには、図2のような映像が撮影される。
図1を簡略化して、瞳孔中心、角膜曲率中心を書き入れた図を図3に示す。簡略化した図3において、反射光重心位置が生ずる場所を図4に示す。反射光重心位置は、光源、角膜曲率中心、カメラを結ぶ角の2等分線と角膜の交わる位置に生じる。角膜曲率中心と反射光重心位置を結ぶベクトルを反射光ベクトルと名付ける。(光源は、無限遠にあると仮定する。カメラには、平行投影されると仮定する)。
眼球が動いたとき、反射光重心位置と角膜曲率中心の位置関係を図5に記する。光源が、十分に遠方にあれば、カメラ面への法線ベクトルと反射光ベクトルの角度は、眼球が回転しても同一になる。そのため、眼球が回転しても、カメラに投影される角膜曲率中心と反射光重心位置の距離が一定に保たれる。図5では、x方向の距離αが一定で保たれている様子を表している。図6では、視線が変化しても、カメラの投影される角膜曲率中心は、常に反射光重心位置からx方向にα、y方向にβの位置にある様子を表している。図7にカメラから見た眼球のそれぞれの部位の位置関係を表している。図3にあるように、瞳孔中心、眼球回転中心、角膜曲率中心が直線上に存在してると仮定すると、その投影画像である図7においては、、瞳孔中心(Xp,Yp)、眼球回転中心(Xo,Yo)、角膜曲率中心(Xk,Yk)が直線上に存在する事になる。また、反射光重心位置(Xr,Yr)は、角膜曲率中心より(α、β)だけ移動した位置にある。α、βは、複数の画像を持ちいて、最小自乗法により瞳孔中心(Xp,Yp)と瞳孔中心(Xo,Yo)結ぶ直線と角膜曲率中心位置(Xk,Yk)=(Xr-α、Yr-β)の距離を最小にするα、βにより求める事ができる。
(2)眼球回転中心位置ー角膜曲率中心距離の求め方について。
図7にあるようにカメラによって撮影された画像における「眼球回転中心位置-角膜曲率中心」距離は、角膜曲率中心(Xk,Yk)と眼球回転中心(Xo,Yo)から求める事ができる。この距離は、実際の距離が2次元に射影された物であり、実際の距離にある定数をかけたものになっている。この画像における「瞳孔中心-眼球回転中心」距離を、瞳孔中心(Xp,Yp)と眼球回転中心(Xo,Yo)から求める事ができる。実際の「瞳孔中心-眼球回転中心」を求める事ができることは知られている(特許文献1参照)ため、両者の比から、射影時における定数を求める事ができる。この定数を、画像における「眼球回転中心位置-角膜曲率中心」距離に掛ける事により、実際の「眼球回転中心位置-角膜曲率中心」距離を求める事ができる。実際の「眼球回転中心位置-角膜曲率中心」距離(rr)と実際の実際の「瞳孔中心-眼球回転中心」(r)の関係式は、後述の通りである(段落[0021][0026]参照)。(反射光重心位置座標を(rx,ry)とし、反射光重心位置と角膜曲率中心位置のx方向のずれをalpha,y方向のずれをbetaと表記している。そして、Xkのかわりにrx-alpha(=Xk)、Ykのかわりに、ry-beta(=Yk)を用いている。)
3)カメラに対する視線方向について。
カメラに対する視線方向は、カメラに写った画像における(図7)楕円短軸延長線上の2点と、実際のその2点間の距離より求める事ができる。瞳孔中心位置(Xp,Yp)と眼球中心位置(Xo,Yo)と瞳孔中心眼球回転半径(r)により、カメラに対する視線方向を表したものが、[数3]である。[数3]について、眼球回転中心(Xo,Yo)の代わりに角膜曲率中心(Xk,Yk)を、瞳孔中心-眼球回転中心距離(瞳孔中心回転半径)(r)の代わりに瞳孔中心-角膜曲率中心距離(上記2)における、r(瞳孔中心回転半径)-rr(角膜曲率回転半径))を代入する事により、図7における瞳孔中心(Xp,Yp)と角膜曲率中心(Xk,Yk)からカメラに対する視線方向を求める事ができる。同様に、[数3]について、瞳孔中心(Xp,Yp)の代わりに角膜曲率中心(Xk,Yk)を、瞳孔中心-眼球回転中心距離(瞳孔中心回転半径)(r)の代わりに角膜曲率中心-眼球回転中心距離(上記2)rr(角膜曲率回転半径))を代入する事により、図7における角膜曲率中心(Xk,Yk)と眼球回転中心(Xo,Yo)からカメラに対する視線方向を求める事ができる。
本発明は、カメラにより複数の画像を取り込み、それぞれの画像について、反射光形状、瞳孔形状を計測して、反射光重心位置、瞳孔を楕円近似することにより短軸の傾き、短軸長軸比、瞳孔中心を求め、それらの値より、カメラに対する視線ベクトルを求めることが可能となる。
以下、本発明の視線検出方法及びシステムの第1の例について、図1〜図10を参照して説明する。図1は、カメラ、光源、及び眼球の位置関係を示す図である。CCDカメラにより、人もしくはサルの眼球を撮影する。瞳孔を暗く撮影するため、赤外線LEDにて照明を行う。カメラは、眼球の略水平方向の前方に位置するよう図示しているが、カメラの位置は、瞳孔が撮影できる範囲で任意の場所に設定することができる。光源も、反射位置が角膜上になる場所ならば、任意の場所に配置させることができる。CCDカメラには、図2のような映像が撮影される。
図1を簡略化して、瞳孔中心、角膜曲率中心、眼球回転中心を書き入れた図を図3に示す。簡略化した図3において、反射点が生ずる場所を図4に示す。反射点は、光源、角膜曲率中心、カメラを結ぶ角の2等分線と角膜の交わる位置に生じる。角膜曲率中心と反射点を結ぶベクトルとを反射光ベクトルと名付ける。(光源は、無限遠にあると仮定する。カメラには、平行投影されると仮定する。)
眼球が動いた時、反射点と角膜曲率中心の位置関係を図5に記す。光源が、十分遠くにあれば、角膜曲率中心への反射光ベクトルの角度は、眼球が回転しても同一になる。そのため、眼球が回転しても、角膜曲率中心と反射点の距離が一定に保たれる。図5は、x方向の距離のみを表している。図6に、カメラ方向から撮影された時の、角膜曲率中心と、反射点の位置関係を表示する。
反射点、角膜曲率中心、瞳孔中心、眼球回転中心の位置関係は図7で表される。この図を、簡略化すると図8になる。
カメラにより複数の画像を取り込み、それぞれの画像について、反射光形状、瞳孔形状を計測して、反射光重心位置、瞳孔を楕円近似することにより短軸の傾き、短軸長軸比、瞳孔中心を計算し、それらの値からカメラに対する視線ベクトルを求めることができる。
i)反射光重心位置計測について
1)瞳孔中心を領域の中心とする120x90 pixelの画像を3pixel置きに取り出し40x30の画像を生成する。
2)ある閾値以上の点を取り出し、それを塊毎にラベルをつけてゆく。
3)一定以上の大きさがあり、かつ瞳孔中心に最も近い塊の重心を測定する。
という方法で行っていた。
但し、この反射光重心位置計測方法は、反射点の大きさが小さいと、取りこぼされてしまうことになり、また、反射点が複数ある場合、間違った反射点を選んでしまう(角膜上には、n次プルキニエ反射が存在する。注目しているのは、1次反射である)ことになる。
ii)反射光選別について
検出したものを全て用いていて、選別を行わないと、図9にあるように、角膜上ではなく、強膜上で反射した場合の反射光を検出して計算を行ってしまうことになる。このような場合は、反射点が角膜上にあるという前提がなくなり、計算結果が正確でなくなってしまう。このような場合は、計算不能とする必要がある。
iii)自動方式切り替えについて。
上述の方法は、校正の後、被験者の瞳孔中心位置と反射光重心から視線位置を求めることが可能である。しかし、この方法は、頭部が動いても計測が可能という利点があるが、反射点が角膜上から外れてしまうと計測できなくなることになる。瞳孔中心のみから測定する場合に比べ測定範囲が狭い。
iv)瞳孔中心-眼球回転中心方法の自動補正
上述の方法は、頭部が動いてしまうと正確な計測ができなくなる。頭部を固定して計測している場合でも、断続的なずれが生じる場合があり、その場合は再校正を行う必要がある。
v)瞳孔を検出する際の閾値の複数使用について。
瞳孔の検出方法は、つぎの二段階で検出を行っている。
1)8pixelごとに画像をサンプルし、瞳孔のおおまかな位置を検出する。
2)おおまかな楕円をもとめその近傍を探査し、瞳孔の縁を検出する。
この方法は、この二段階共に同一の閾値を用いている。ノイズが多い場合(瞳孔と同じくらい暗い場所が多い場合)第一段階でおおまかな検出に失敗する場合があった。そのような場合は、閾値を下げることによりノイズを減らすことが可能であるが、そのような処理を行うと、瞳孔の縁を正確に検出できなくなってしまうことがある。
vi)瞳孔の縁の検出方法について
楕円の幾何学的な性質を利用し、瞳孔の縁以外を除去する。楕円には、次のような幾何学的な性質がある。図10に示すように、楕円と交わる3本の平行な直線l、m、n を考える。l、n はm から等距離にあるとする。楕円と直線l との交点をa、b 、直線n の交点をc、d とする。楕円と直線m
の交点の中点をo とする。a、b の中点とc、d の中点を結ぶ線の中点をo'とすると、o'はo と重なるという性質がある。瞳孔の画像について瞳孔画像のほぼ中央に引いた直線m
から等距離にあるN 個の平行線の組のo'i (i=1‐N)に当たる点を求める。求められた点は、直線m の上に分布する。誤って検出された縁が十分少ないときは、最も多くの点o'が集まった位置がo
の位置に相当する。その位置から離れている点は、楕円の軌跡上にない点を含んでいることになるので、それらを除外する。
どのくらい離れていたら、除外するかは、プログラムで指定することにより、許容範囲の設定が可能になる。4点が相補的に誤差を含んでしまった場合には、除外されなくなるが、確率的にそのようなことは起こりにくい。o に十分近いo'i を持つ点a i ,b i ,c i ,d i は、楕円の軌跡上の点なので、これらの点の座標を[数1]に代入し正確な楕円近似を行うことができる。(非特許文献1参照)
上記の連立方程式を解くことにより、最小自乗法により以下の楕円の方程式[数2]の係数を求める事ができる。
vii)瞳孔の検出の精度について(横方向に入ったノイズの割り合い)。
反射光が瞳孔の縁に掛かる、ピントがずれているため瞳孔の縁が明確に捕らえられていないなどの場合の、定量的な評価が無かった。
次に、本発明の視線検出方法及びシステムについて説明する。
i)反射光重心位置計測について
1)図11は、反射光重心位置計測を説明するための図であり、眼球をカメラ方向から見た図であり、また、図12は、その眼球を横方向から見た図である。
瞳孔中心位置(xp,yp)、眼球回転中心位置(xo,yo)、反射光重心位置と角膜を球の一部としたとき球の中心である角膜曲率中心の位置との距離(alpha,beta)、瞳孔中心回転半径(r)、角膜曲率中心回転半径(rr)が分かっている場合には、以下の式より反射光重心位置(rx,ry)を予測することができる。
rx=(xp-xo)*rr/r+xo+alpha
ry=(yp-yo)*rr/r+yo+beta
2)予測点を中心とした、40x30pixelの画像を生成する。
3)ある閾値以上の点を取り出し、それを塊毎にラベルをつけてゆく。
4)一定以上の大きさがあり、かつ予測に最も近い塊の重心を測定する。
図13に示す画像から、反射点重心を計測する例を考える。画面の十字は、瞳孔中心位置を表している。十字の上の白い点が、第1プルキニエ像、右下の白い点が第2プルキニエ像である。いずれも照明光の反射であるが、眼球内の反射する場所が異なるため複数の反射像が出現する。
1)瞳孔中心位置(xp,yp)、眼球回転中心位置(xo,yo)、角膜曲率中心(α、β)、瞳孔中心回転半径r、角膜曲率中心回転半径rrがすでにわかっている際、反射光重心位置(rx,ry)を上記の式より予測する。
2)予測位置は図14のXの位置になる。Xを中心とした四角で示した40x30pixelの画像より反射点重心を求める。
3)ある閾値以上の点を取り出だしラベリングをおこない、一定以上の大きさがあり、重心が予測値に最も近いものを選ぶ。図15において反射点重心を十字で表した。
ii)反射光選別について
校正時に反射点の幅と高さの平均を求める。計測時に、反射点の幅、高さと比較し大きく異なる物を排除することにより、正確に計測を行うことが可能となる。図16に示された反射点の大きさは、縦6pixel 横7pixelである。これは、平均値からの差が十分に小さい。どの程度の誤差を許容するかはプログラムによって設定可能である。
図17に示すように、反射光が強膜に存在するときは、大きさが大きく異なる(縦19pixel横50pixel)。この場合は、反射点を用いた計測は断念する。
iii)自動方式切り替えについて。
瞳孔中心-反射位置重心法で計算できなくなった場合、自動的に瞳孔中心法に切り替えることにより計測の中断をなくすことができる。
反射点が強膜上に存在すると、反射点を用いた視線計測ができない。しかし、この状態でも、瞳孔中心座標の計測は可能である。瞳孔中心-眼球回転中心法により、視線方向を求めることが可能である。眼球回転中心の動きについては、自動補正により、修正を行うことにより対応する。
iv)瞳孔中心-眼球回転中心法による視線ベクトル
視線方向を瞳孔中心位置(xp,yp)、眼球回転中心(xo,yo)瞳孔中心回転半径rより求めることができる。カメラに対する視線方向は、以下の[数3]で表すことができる。
v)瞳孔中心-眼球回転中心方法の自動補正
頭部が動かないときは、瞳孔回転中心(xo,yo)は、一定値である。しかし、どのように頭部を固定しても、動いてしまう場合がある。従来は、頭部が動いてしまった場合は、再度校正を行っていたが、これを、反射点を用いて自動的に校正を行う方法を提案する。
瞳孔中心位置と反射光重心から眼球回転中心を求めることができる。瞳孔中心位置(xp,yp)、反射光重心位置(rx,ry)、反射光重心位置と角膜を球の一部としたとき球の中心である角膜曲率中心の位置との距離(alpha,beta)、瞳孔中心回転半径(r)、角膜曲率中心回転半径(rr)から眼球回転中心(xo,yo)とすると以下の式で求められる。
xo=(rx-alpha-xp*rr/r)/(1-rr/r)
yo=(ry-beta-yp*rr/r)/(1-rr/r)
反射点は、計測できない場合がある、また、断続的なズレを想定しているので、計測時以前の何秒間(設定により変更可能、20秒程度を規定値に想定)の眼球回転中心(xo,yo)の平均値をその時点の眼球回転中心とする。この値を用いることにより、再校正なしに、瞳孔中心のみで視線方向を計算することができるようになる。また、十分に短い時間ならば、頭部は動いていないと仮定できるので、瞳孔中心-反射点法が使えない場合の、補助として使用することが可能である。
vi)瞳孔を検出する際の閾値の複数使用について。
第一段階と第二段階で異なる閾値を用いることにより、その問題を解決する。明るさが変わらない場合は、それぞれ、独立な固定値設定し、自動的に閾値を変化させている場合は、第一段階の閾値(th1)と第二段階の閾値(th2)の比率(a),(th1=a*th2という関係)を設定することにより、連続的な変化にも対応できるようにする。
図18に示すように、輪郭を検出するのに必要な閾値(th2)の場合は、周辺ノイズが多い。
図19に示すように、閾値(th1)を下げることにより、周辺ノイズを低減することができる。
vii)瞳孔の縁の検出方法について
1)従来の方法で楕円を求める。
楕円の幾何学的な性質を利用し、瞳孔の縁以外を除去する。楕円には、次のような幾何学的な性質がある。楕円と交わる3本の平行な直線l、m、n を考える。l、n はm から等距離にあるとする。楕円と直線l との交点をa、b 、直線n の交点をc、d とする。楕円と直線m
の交点の中点をo とする。a、b の中点とc、d の中点を結ぶ線の中点をo'とすると、o'はo と重なるという性質がある(図10)。瞳孔の画像について瞳孔画像のほぼ中央に引いた直線m
から等距離にあるN 個の平行線の組のo'i (i=1‐N)に当たる点を求める。求められた点は、直線m の上に分布する。誤って検出された縁が十分少ないときは、最も多くの点o'が集まった位置がo
の位置に相当する。その位置から離れている点は、楕円の軌跡上にない点を含んでいることになるので、それらを除外する。どのくらい離れていたら、除外するかは、プログラムで指定することにより、許容範囲の設定が可能になる。4点が相補的に誤差を含んでしまった場合には、除外されなくなるが、確率的にそのようなことは起こりにくい。o
に十分近いo'i を持つ点a i ,b i ,c i ,d i は、楕円の軌跡上の点なので、これらの点の座標を[数1]に代入し正確な楕円近似を行うことができる。
2)上記の場合、例えば、a12のみが、何らかの理由により楕円の軌跡上に無かったとする。すると、b12,c12,d12が楕円の軌跡上に存在するにもかかわらず、楕円の軌跡を計算するのに用いられないことになる。そこで楕円の軌跡を求めた後、再度検出された瞳孔の縁の点について、求めた楕円軌跡との距離を計算し、その距離が一定以下であれば、瞳孔の縁とする。
3)新たな点を加えて、最小自乗法により楕円を算出する。
これにより、高精度に、楕円を求めることが可能になる。
viii)目蓋の掛かり具合の計測法について
1)図20に示すように、検出した瞳孔の縁から、楕円を近似し楕円の上下方向の距離(eh)を得る。
2)検出した瞳孔の縁(楕円近似に用いたもの)の、上下方向の最大値と最小値の差(ph)を得る。
3)ph/eh*100を瞳孔検出率(%)とする。
瞳孔検出率を用いることにより、どの程度目蓋がおりた時に計測を中断するか?といった定量的な評価を行うことが可能になる。
ix)瞳孔の検出の精度について(横方向に入ったノイズの割合)。
1)楕円近似に用いた瞳孔の縁の上下方向の最大値と最小値の差(ph)を得る。
2)楕円近似に用いた瞳孔の縁の数を得る(en)。
3)(en/2)/ph*100を縁検出率(%)とする。
enは、検出の際に左右の縁を検出しているので、二等分する必要がある。
縁検出率を用いることにより、どの程度正確に縁を検出できているかを定量的に評価することができる。比較的ノイズが少ない図21は、縁検出率70%である。また、ノイズが多い場合の図22は、縁検出率40%である。
カメラと目の位置関係を示す図である。 撮影された眼球を示す図である。 図1を簡略化した図である。 反射点出現位置を示す図である。 眼球が回転した時の角膜反射光重心と角膜曲率中心の位置関係を示す図である。 眼球が回転しても角膜反射光重心と角膜曲率中心の位置関係が変化しないことを説明するための図である。 瞳孔中心、角膜曲率中心、眼球回転中心が瞳孔の短軸の延長線上に存在することを説明するための図である。 図7を簡略化した図であり、角膜反射光重心、瞳孔中心、角膜曲率中心、眼球回転中心の位置関係を表す図である。 角膜上ではなく、強膜上で反射した場合の反射光の検出を説明するための図である。 瞳孔の縁の検出方法を説明するための図である。 反射光重心位置計測を説明するための図であり、眼球をカメラ方向から見た図である。 図11に示す眼球を、横方向から見た図である。 反射点重心の計測を説明するための画像である。 反射点重心を求める方法を説明するための図である。 重心が予測値に最も近いものを選ぶ方法を説明するための図である。 反射点の大きさを説明するための図である。 強膜に存在する反射光を説明するための図である。 輪郭を検出する際の周辺ノイズを説明するための図である。 閾値(th1)を下げることにより、周辺ノイズを低減する方法を説明するための図である。 目蓋の掛かり具合の計測法を説明するための図である。 比較的ノイズが少ない場合の縁検出率を例示する図である。 ノイズが多い場合の縁検出率を例示する図である。

Claims (3)

  1. 頭部が固定された被験者において、反射位置が角膜上に位置するように配置された光源により照明された瞳孔を撮影可能のカメラによって、複数の画像を取り込む手段と、それぞれの画像について、反射光形状及び瞳孔形状を計測して、反射光重心位置、及び瞳孔を楕円近似することにより短軸の傾き、短軸長軸比、及び瞳孔中心を計算する手段とを備え、反射光重心位置と角膜を球の一部としたとき球の中心である角膜曲率中心のx方向の距離及びy方向の距離及び眼球が回転する際の不動点である眼球回転中心と角膜曲率中心の距離を計測するシステム。
  2. 頭部が固定された被験者において、反射位置が角膜上に位置するように配置された光源により照明された瞳孔を撮影可能のカメラによって、複数の画像を取り込む手段と、
    取り込まれたそれぞれの画像について、反射光形状及び瞳孔形状を計測して、反射光重心位置、及び瞳孔を楕円近似することにより短軸の傾き、短軸長軸比、及び瞳孔中心を計算する手段とを備え、
    あらかじめ計測しておいた反射光重心位置と角膜曲率中心のx方向の距離及びy方向の距離、角膜曲率中心と眼球回転中心の距離、瞳孔中心と眼球回転中心の距離を利用して、反射光重心位置と瞳孔中心位置からカメラに対する視線ベクトルを求めることから成る視線検出システム。
  3. 頭部が固定されていない被験者において、反射位置が角膜上に位置するように配置された光源により照明された瞳孔を撮影可能のカメラによって、複数の画像を取り込む手段と、
    取り込まれたそれぞれの画像について、反射光形状及び瞳孔形状を計測して、反射光重心位置、及び瞳孔を楕円近似することにより短軸の傾き、短軸長軸比、及び瞳孔中心を計算する手段とを備え、
    あらかじめ計測しておいた反射光重心位置と角膜曲率中心のx方向の距離及びy方向の距離、角膜曲率中心と瞳孔中心の距離を利用して、反射光重心位置と瞳孔中心位置からカメラに対する視線ベクトルを求めることから成る視線検出システム。
JP2004236161A 2000-07-28 2004-08-13 視線検出システム Expired - Lifetime JP4055858B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2004236161A JP4055858B2 (ja) 2000-07-28 2004-08-13 視線検出システム

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP2000228163 2000-07-28
JP2004236161A JP4055858B2 (ja) 2000-07-28 2004-08-13 視線検出システム

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP2001114581A Division JP3726122B2 (ja) 2000-07-28 2001-04-12 視線検出システム

Publications (2)

Publication Number Publication Date
JP2005013752A true JP2005013752A (ja) 2005-01-20
JP4055858B2 JP4055858B2 (ja) 2008-03-05

Family

ID=34196402

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2004236161A Expired - Lifetime JP4055858B2 (ja) 2000-07-28 2004-08-13 視線検出システム

Country Status (1)

Country Link
JP (1) JP4055858B2 (ja)

Cited By (10)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007143746A (ja) * 2005-11-25 2007-06-14 Ryusyo Industrial Co Ltd 眼科測定装置
JP2008194146A (ja) * 2007-02-09 2008-08-28 Toshiba Corp 視線検出装置及びその方法
CN103054548A (zh) * 2012-07-05 2013-04-24 东北电力大学 凝视点测量装置及瞳孔、普尔钦亮斑识别方法
US9830512B2 (en) 2014-08-26 2017-11-28 Hyundai Motor Company Method and apparatus for tracking gaze
JP2019518545A (ja) * 2016-06-01 2019-07-04 ヴィディ プロプライエタリ リミテッド 光学的測定および走査システムならびにその使用方法
CN113827244A (zh) * 2020-06-24 2021-12-24 比亚迪股份有限公司 驾驶员视线方向的检测方法、监控方法、系统和装置
JP2024088684A (ja) * 2018-01-17 2024-07-02 マジック リープ, インコーポレイテッド 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
US12196952B2 (en) 2018-01-17 2025-01-14 Magic Leap, Inc. Display systems and methods for determining registration between a display and a user's eyes
US12505632B2 (en) 2018-08-03 2025-12-23 Magic Leap, Inc. Depth plane selection for multi-depth plane display systems by user categorization
US12578582B2 (en) 2018-07-24 2026-03-17 Magic Leap, Inc. Display systems and methods for determining registration between display and eyes of user

Cited By (17)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007143746A (ja) * 2005-11-25 2007-06-14 Ryusyo Industrial Co Ltd 眼科測定装置
JP2008194146A (ja) * 2007-02-09 2008-08-28 Toshiba Corp 視線検出装置及びその方法
US8107688B2 (en) 2007-02-09 2012-01-31 Kabushiki Kaisha Toshiba Gaze detection apparatus and the method of the same
CN103054548A (zh) * 2012-07-05 2013-04-24 东北电力大学 凝视点测量装置及瞳孔、普尔钦亮斑识别方法
US9830512B2 (en) 2014-08-26 2017-11-28 Hyundai Motor Company Method and apparatus for tracking gaze
JP7021783B2 (ja) 2016-06-01 2022-02-17 ヴィディ プロプライエタリ リミテッド 光学的測定および走査システムならびにその使用方法
JP2019518545A (ja) * 2016-06-01 2019-07-04 ヴィディ プロプライエタリ リミテッド 光学的測定および走査システムならびにその使用方法
US12196952B2 (en) 2018-01-17 2025-01-14 Magic Leap, Inc. Display systems and methods for determining registration between a display and a user's eyes
JP2024088684A (ja) * 2018-01-17 2024-07-02 マジック リープ, インコーポレイテッド 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
US12102388B2 (en) 2018-01-17 2024-10-01 Magic Leap, Inc. Eye center of rotation determination, depth plane selection, and render camera positioning in display systems
JP7594145B2 (ja) 2018-01-17 2024-12-03 マジック リープ, インコーポレイテッド 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
JP2025023960A (ja) * 2018-01-17 2025-02-19 マジック リープ, インコーポレイテッド 眼の回転中心決定、深度平面選択、およびディスプレイシステム内のレンダリングカメラ位置付け
US12474575B2 (en) 2018-01-17 2025-11-18 Magic Leap, Inc. Display systems and methods for determining registration between a display and a user's eyes
US12578582B2 (en) 2018-07-24 2026-03-17 Magic Leap, Inc. Display systems and methods for determining registration between display and eyes of user
US12505632B2 (en) 2018-08-03 2025-12-23 Magic Leap, Inc. Depth plane selection for multi-depth plane display systems by user categorization
CN113827244B (zh) * 2020-06-24 2023-10-17 比亚迪股份有限公司 驾驶员视线方向的检测方法、监控方法、系统和装置
CN113827244A (zh) * 2020-06-24 2021-12-24 比亚迪股份有限公司 驾驶员视线方向的检测方法、监控方法、系统和装置

Also Published As

Publication number Publication date
JP4055858B2 (ja) 2008-03-05

Similar Documents

Publication Publication Date Title
US10878237B2 (en) Systems and methods for performing eye gaze tracking
US6659611B2 (en) System and method for eye gaze tracking using corneal image mapping
EP3153092B1 (en) Pupil detection system, gaze detection system, pupil detection method, and pupil detection program
JP6963820B2 (ja) 視線検出装置
CN104113680B (zh) 视线跟踪系统及方法
US10307054B2 (en) Adaptive camera and illuminator eyetracker
US11294455B2 (en) Method and device for determining gaze placement, computer readable storage medium
JP5858433B2 (ja) 注視点検出方法及び注視点検出装置
JP6631951B2 (ja) 視線検出装置及び視線検出方法
US20080049185A1 (en) Eye location and gaze detection system and method
JP2010259605A (ja) 視線測定装置および視線測定プログラム
JP2007136000A (ja) 視線検出装置、視線検出方法、および視線検出プログラム
JP4055858B2 (ja) 視線検出システム
JP3726122B2 (ja) 視線検出システム
JP2018099174A (ja) 瞳孔検出装置及び瞳孔検出方法
JP7046347B2 (ja) 画像処理装置及び画像処理方法
US11937928B2 (en) Evaluation apparatus, evaluation method, and evaluation program
RU2352244C2 (ru) Способ измерения быстрых движений глаз и отклонений бинокулярного зрения и устройство для его реализации
JP3834636B2 (ja) 視線位置計測における頭部の動きのズレを補正する方法及びシステム
JP6430813B2 (ja) 位置検出装置、位置検出方法、注視点検出装置、及び画像生成装置
US11241152B2 (en) Evaluation device, evaluation method, and non-transitory storage medium
JP3376207B2 (ja) 視線検出装置及びその方法
JP2016057906A (ja) 視点位置の計測方法及び計測システム
JP2016045707A (ja) 特徴点検出システム、特徴点検出方法、および特徴点検出プログラム
JPH1097376A (ja) 視線操作装置

Legal Events

Date Code Title Description
A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20041012

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20041018

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041006

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041012

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041228

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20041228

A072 Dismissal of procedure [no reply to invitation to correct request for examination]

Free format text: JAPANESE INTERMEDIATE CODE: A073

Effective date: 20050215

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20071204

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20071204

R150 Certificate of patent or registration of utility model

Ref document number: 4055858

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101221

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101221

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111221

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111221

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121221

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121221

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121221

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121221

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131221

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131221

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131221

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131221

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

S533 Written request for registration of change of name

Free format text: JAPANESE INTERMEDIATE CODE: R313533

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term