JPH11201723A - 観察位置検出装置及びその観察位置検出方法 - Google Patents

観察位置検出装置及びその観察位置検出方法

Info

Publication number
JPH11201723A
JPH11201723A JP10001971A JP197198A JPH11201723A JP H11201723 A JPH11201723 A JP H11201723A JP 10001971 A JP10001971 A JP 10001971A JP 197198 A JP197198 A JP 197198A JP H11201723 A JPH11201723 A JP H11201723A
Authority
JP
Japan
Prior art keywords
observation position
coordinate
observer
minimum
maximum
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP10001971A
Other languages
English (en)
Other versions
JP2904204B1 (ja
Inventor
Hiroshi Imai
浩 今井
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Priority to JP10001971A priority Critical patent/JP2904204B1/ja
Application granted granted Critical
Publication of JP2904204B1 publication Critical patent/JP2904204B1/ja
Publication of JPH11201723A publication Critical patent/JPH11201723A/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)

Abstract

(57)【要約】 【課題】 簡易な構成及び方法で、常に正確な観察位置
を非接触で検出する観察位置検出装置及びその観察位置
検出方法を提供する。 【解決手段】 観察位置検出装置は撮像装置100と画
像処理装置110から構成され、撮像装置100は、C
CDカメラ101、赤外光照明装置102、ハーフミラ
ー103から構成され、画像処理装置110は画像メモ
リ111、2値化処理部112、カウンタ113、画像
計測部114、観察位置決定部115、観察位置予測部
116から構成される。撮像装置100で得られた観察
者150の顔面画像から観察者の瞳孔151を2値化処
理部112で抽出し、画像計測部114で抽出画像の水
平最大座標、水平最小座標を計測し、その計測された水
平最大座標と水平最小座標と観察位置予測部116に記
憶されている次画面予測位置情報121から、観察位置
決定部115で観察者150の観察位置を検出する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、観察者の観察位置
を常時検出し、その検出した観察位置に応じて観察者に
常に正しい立体画像を呈示する立体表示装置等に用いる
観察位置検出装置及びその観察位置検出方法に関し、特
に観察者の観察位置を非接触で検出する観察位置検出装
置及びその観察位置検出方法に関する。
【0002】
【従来の技術】近年、立体映像を表示することへの要望
が高まっており、様々な立体表示装置の研究が行われて
いる。最近では特にレンチキュラスクリーンを用いて、
両眼視差を有する画像をそれぞれ左右の目に空間的に分
離して呈示することで立体視を実現する立体表示装置が
注目されている。この装置は特別なメガネを装着する必
要がないという利点を有している。ただし、この装置で
は立体視が可能な領域が人間の両眼間隔程度に制限され
てしまうという問題があり、観察者は常に頭を固定して
観察するという不自然な体勢をとらなければならなかっ
た。
【0003】このような問題点を解決するために観察者
の観察位置を常時検出して、その検出された観察位置に
応じて観察者に常に正しい立体画像を呈示する立体表示
装置が知られている(例えば特開平1−107247号
公報、特開平6−217348号公報など)。
【0004】このような観察位置追従型立体表示装置で
は、観察位置を検出するための磁気センサ等を観察者に
装着させる必要があり、このことが観察者に違和感を与
え、特別なメガネを装着する必要がないというレンチキ
ュラスクリーンを用いた立体表示装置の利点を低減して
しまう原因となる。また、不特定多数の観察者が使用す
る場合、接触型の位置検出手段を使用すると衛生上の問
題も生じる。したがって、非接触で観察位置を検出でき
る方法が望まれる。
【0005】非接触で観察位置を検出する方法として
は、例えば、特開平4−174309号公報に記載され
ている眼位置検出装置を用いて、顔面画像から左右それ
ぞれの眼球を画像処理で独立に抽出して、それぞれの眼
球の位置を検出し、これら眼球の位置から観察位置を求
める方法が考えられる。
【0006】ただし、この方法の場合、左右どちらか一
方の眼球の位置が検出されない場合や、観察者の瞬目な
どにより両眼の位置が検出されない場合に、観察者の観
察位置を決定できなくなる。このような状態は一時的で
あっても、観察位置追従型立体表示装置の追従制御を不
安定にさせるため、観察者のそれぞれの眼の位置の検出
状態に係わらず、観察位置を決定する必要がある。
【0007】観察者のそれぞれの眼の検出状態に応じ
て、左右それぞれの眼の位置を推定する手段としては、
特開平9−44680号公報に記載されている目領域抽
出装置がある。
【0008】図11は従来の目領域抽出装置の動作原理
を示す図である。この目領域抽出装置では、図11
(a)に示すように、検出対象者1の右眼2、左眼3、
それぞれに対し、右眼探索領域4および左眼探索領域5
を独立に設定し、各領域内で眼が抽出されたか否か、す
なわち、眼の開閉状態を独立に判定する。なお、左右そ
れぞれの探索領域は前述の眼位置検出装置により検出し
た、右眼2、左眼3それぞれの位置から設定されてい
る。さらに、図11(b)に示すように、抽出された過
去の目領域から過去の目領域の位置7を検出し、これら
2つの過去の目領域の位置7から移動ベクトル8を算出
し、過去の目領域の位置7に移動ベクトル8を加えるこ
とで、探索領域6の位置を設定している。このような探
索領域の制御を行うことによって、検出対象者が移動中
に瞬きをしても2つの独立した右眼探索領域および左眼
探索領域を継続して設定できる。また、この目領域抽出
装置では、図11(c)に示すように、左右どちらか一
方の探索領域において目領域が抽出されなかった場合
に、抽出されなかった目9を探索する探索領域10を拡
大させる手段や、図11(d)に示すように、一定時間
両眼が抽出されない場合に、探索領域を撮像画像の全領
域11まで拡大させるといった手段等を備えている。
【0009】
【発明が解決しようとする課題】従来の目領域抽出装置
では、検出対象者の顔面を撮像した画像から左右それぞ
れの眼を独立に抽出した上で左右それぞれの眼の位置を
検出し、さらに、左右それぞれの眼を独立に追跡する探
索領域を設定し、また、左右それぞれの眼の抽出状態の
判定結果に応じて、探索領域の位置、大きさ、数、形を
可変させるため、左右それぞれの眼に対して独立な画像
処理が必要であり、処理が複雑になるという問題があっ
た。
【0010】本発明は、左右それぞれの眼を独立に抽出
して位置を決定するという複雑な手段や、左右それぞれ
の眼の開閉状態を判定する手段を用いずに、非接触で、
かつ簡易な方法で、常に観察位置を検出することを目的
とする。
【0011】即ち、本発明の目的は、簡易な構成及び方
法で、常に正確な観察位置を非接触で検出する観察位置
検出装置及びその観察位置検出方法を提供することにあ
る。
【0012】
【課題を解決するための手段】本発明の観察位置検出装
置は、撮像装置と画像処理装置とを備え、観察者の顔面
を撮像した画像から観察者の眼部分を抽出して、観察者
の両眼の中点を観察位置として検出する観察位置検出装
置において、画像処理装置は、眼部分の最小座標と最大
座標とを計測する画像計測部と、最小座標と最大座標と
から観察位置を決定する観察位置決定部と、観察位置決
定部の結果から次の観察位置を予測し記憶する観察位置
予測部とを備えている。
【0013】また、予測された次の観察位置に応じて撮
像装置の撮像領域を可変させる撮像領域可変手段を備え
てもよい。
【0014】また、観察位置決定部は、最大座標と最小
座標の差が一定値以上の場合、最大座標と最小座標の中
点を観察位置とするとともに、差の値を記憶してもよ
い。
【0015】また、観察位置決定部は、最大座標と最小
座標の差が一定値未満の場合、最大座標と最小座標の中
点と、観察位置予測部に記憶してある前の観察位置予測
結果とを比較する手段を備えてもよい。
【0016】また、観察位置決定部は、最大座標と最小
座標の差が一定値未満の場合、最大座標と最小座標の差
が一定値以上の場合に記憶しておいた最大座標と最小座
標の差の1/2の値を用いて観察位置を決定してもよ
い。
【0017】また、観察位置決定部は、最大座標と最小
座標を計測できなかった場合、観察位置予測部で求めた
前の予測観察位置を観察位置としてもよい。
【0018】本発明の観察位置検出装置の観察位置検出
方法は、撮像装置と画像処理装置とを備え、観察者の顔
面を撮像した画像から観察者の眼部分を抽出して、観察
者の両眼の中点を観察位置として検出する観察位置検出
装置の観察位置検出方法において、眼部分の最小座標と
最大座標とを計測し、最小座標と最大座標とから観察位
置を決定するとともに、観察位置から次の観察位置を予
測し記憶する。
【0019】また、眼部分の最小座標と最大座標とを計
測し、最小座標と最大座標とから観察位置を決定すると
ともに、観察位置から次の観察位置を予測し記憶し、予
測された次の観察位置に応じて撮像装置の撮像領域を可
変させてもよい。
【0020】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値以上の場合、最大座標と最小座
標の中点を観察位置とするとともに、差の値を記憶して
もよい。
【0021】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値未満の場合、最大座標と最小座
標の中点と、観察位置予測部に記憶してある前の観察位
置予測結果とを比較してもよい。
【0022】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値未満の場合、最大座標と最小座
標の差が一定値以上の場合に記憶しておいた最大座標と
最小座標の差の1/2の値を用いて観察位置を決定して
もよい。
【0023】また、観察位置を決定する際に、最大座標
と最小座標を計測できなかった場合、観察位置予測部で
求めた前の予測観察位置を観察位置としてもよい。
【0024】本発明による観察位置検出装置及びその観
察位置検出方法は、観察者の眼部分の抽出画像から最小
座標と最大座標のみを計測して、計測した最小座標と最
大座標の差に応じて、この差が一定値以上の場合は、最
小座標と最大座標の中点座標を観察位置とし、差が一定
値以下の場合は、最小座標と最大座標の中点座標と時系
列画像における前画面で求めた観察位置予測結果を比較
し、最小座標と最大座標の差が一定値以上の場合に記憶
しておいた最大座標と最小座標の差の1/2の値を用い
て観察位置を決定する。
【0025】また、一時的に抽出画像が存在しない場合
には観察位置予測結果を観察位置とする。
【0026】本発明において観察者の眼部分の抽出画像
から取得すべき情報は抽出画像の最小座標と最大座標の
みであるため、左右それぞれの眼を独立に認識して位置
を決定する必要がなく、簡易な観察位置検出装置及び観
察位置検出方法により、常に正確な観察位置を検出する
ことができる。
【0027】また、予測観察位置に応じて撮像領域を可
変させることにより、観察位置検出範囲が広がる。
【0028】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して説明する。
【0029】(本発明の第1の実施の形態)図1は本発
明の観察位置検出装置の第1の実施の形態を示す図であ
る。
【0030】本実施の形態の観察位置検出装置は、撮像
装置100と画像処理装置110から構成される。
【0031】さらに、撮像装置100は、CCDカメラ
101、赤外光照明装置102、ハーフミラー103か
ら構成される。
【0032】撮像装置100におけるCCDカメラ10
1の光軸と赤外光照明装置102の光軸は、それぞれの
光軸が互いに同軸となるように、ハーフミラー103を
用いて合成されている。この撮像装置100を用いて観
察者150の顔面を撮像すると、人間の網膜が他の顔面
部分より赤外光を強く反射する特性を有しているため、
観察者150の瞳孔151が特に明るい画像が得られ
る。
【0033】ここで、赤外光照明装置102の光源とし
て波長850nmの発光ダイオードを用いた。また、C
CDカメラ101には波長760nm以下の光を遮断す
る波長フィルタが内蔵されており、室内灯など可視光の
外部照明装置の影響を受けないようにしてある。
【0034】CCDカメラ101はNTSC規格のモノ
クロ・アナログ映像信号を出力し、水平周波数および垂
直周波数はそれぞれ15.75kHz、60Hzであ
る。
【0035】すなわち、観察者150の顔面は、赤外光
照明装置102の照明下で、CCDカメラ101によ
り、各フィールドごと、すなわち毎秒60回撮像され
る。
【0036】一方、画像処理装置110は画像メモリ1
11、2値化処理部112、カウンタ113、画像計測
部114、観察位置決定部115、観察位置予測部11
6から構成される。
【0037】画像処理装置110における画像メモリ1
11では、CCDカメラ101で撮像された観察者15
0の顔面画像が、解像度512×512画素のデジタル
画像として蓄積される。なお、CCDカメラ101の撮
像距離は2mであり、画像メモリ111に蓄積された画
像の1画素は観察者150の顔面上において1mmに相
当するようにレンズ倍率を調整してある。
【0038】2値化処理部112では、画像メモリ11
1に蓄積された観察者150の顔面画像に対して2値化
処理が行われる。この2値化処理により観察者150の
両眼の瞳孔部分のみが白色画素として2値化抽出され
る。2値化処理部112での2値化処理後、画像計測部
114において、2値化画像の白色部分の水平最大座
標、水平最小座標のみが計測される。
【0039】カウンタ113は、2値化画像に白色部分
が存在しなくなった瞬間からの時間を計数するためのも
のであり、2値化画像に白色部分が存在する間は常に初
期化が行われる。
【0040】観察位置決定部115では、画像計測部1
14より出力された、水平最大座標、水平最小座標と、
観察位置予測部116で記憶してある前画面の予測観察
位置情報121から観察位置を算出し、算出された観察
位置情報は外部に出力されるとともに、次画面の観察位
置を予測するために観察位置予測部116に送られる。
観察位置予測部116は次画面における観察位置を予測
し、また、予測した観察位置を記憶することができる。
さらに、観察位置予測部116は観察位置の速度の大き
さに応じて、観察位置予測を停止することができる。な
お、前画面とは時系列画像における現在の画面の1/6
0秒前の画面、次画面とは時系列画像における現在の画
面の1/60秒後の画面のことである。
【0041】ここで、画像処理装置110の各部におけ
る各種処理は電子計算機によりCCDカメラ101の垂
直同期信号と同期して順次行われ、画像処理装置110
から観察者150の観察位置が毎秒60回出力される。
【0042】次に、本発明の第1の実施の形態における
観察位置検出方法の詳細について図面を参照して説明す
る。
【0043】図2は本発明の第1の実施の形態の観察位
置検出装置における観察位置検出方法を示すフローチャ
ートである。
【0044】ステップS1でスタート後、ステップS2
で初期設定が行われる。このときステップS2では観察
者フラグがFlag=0にセットされる。ここで、観察
者フラグは観察者の存在状態を表わすフラグであり、観
察者不在の場合はFlag=0に設定され、観察者が存
在する場合にはFlag=1に設定される。
【0045】ステップS2での初期設定後、ステップS
3でCCDカメラ101から画像メモリ111に画像が
蓄積され、ステップS4で、蓄積された画像に対し2値
化処理が2値化処理部112によって行われる。
【0046】ステップS4において、2値化画像に白色
部分が存在しない場合ステップS5へ進む。ステップS
5では観察者フラグの判定が行われる。このとき、観察
者フラグがFlag=0(観察者不在)であれば、ステ
ップS3へ戻り、2値化画像に白色部分が現れるまでこ
のサイクルを繰り返す。
【0047】ステップS4において、2値化画像に白色
部分が存在する場合、ステップS6に進み、画像計測部
114により画像計測処理が行われ、観察位置決定部1
15によりステップS7以降の観察位置決定が行われ
る。
【0048】以下、観察者の両眼の瞳孔部分が2値化画
像の白色部分として抽出されている場合の観察位置検出
方法について説明する。
【0049】図3は観察者の顔面の2値化画像の各値を
説明するための図である。
【0050】ステップS6では、図3における画像の水
平最大座標Xmax305および水平最小座標Xmin
304が計測される。なお、観察者の2値化画像から直
接取得される情報はこれらの値のみである。
【0051】ステップS7ではステップS6で計測され
た水平最大座標Xmax305と水平最小座標Xmin
304の中点位置X=(Xmax+Xmin)/2が算
出される。さらに、ステップS8において水平最大座標
Xmaxと水平最小座標Xminの差307、すなわち
Xmax−Xminが計算され、差が1cm未満の場合は
ステップS16に進み、差307が1cm以上の場合はス
テップS9に進む。なお、差307が1cm以上の場合に
は位置Xが観察位置306のX座標と決定され、ステッ
プ9に進む。
【0052】差307が1cm以上の場合、ステップS9
では、ステップS8で計算した差307(Xmax−X
min)を距離dとして保存する。ステップS10では
重心演算により垂直観察位置Yが計算される。なお、垂
直観察位置Yは、水平観察位置Xと同様に抽出画像の垂
直最小座標、垂直最大座標の中点から求めてもよい。
【0053】その後、現在2値化画像に白色部分が存在
するしているため、ステップS11では、カウンタ値を
初期値250msにセットし、さらに、ステップS19
では、観察者フラグを観察者存在としてFlag=1に
セットする。そして、ステップS20においてステップ
S7で求めた位置Xとステップ10で求めた位置Yを観
察位置として出力する。
【0054】ステップS20で観察位置結果を出力後、
ステップS21、ステップS22、ステップS23、ス
テップS24と進み、次画面の予測観察位置が算出され
る。以下、次画面の予測観察位置を求める方法を、図4
を用いて説明する。
【0055】図4は次画面の予測観察位置を算出する方
法を説明するための図である。
【0056】ステップS21では、図4に示すように現
在の画面の観察位置(X,Y)402と前画面の観察位
置401(PX,PY)の差から速度ベクトル(VX,
VY)403を算出する。ここで、前画面で観察者が不
在であった場合、速度ベクトルは0に設定される。
【0057】ステップS22では観察位置速度制限処理
が行われ、観察位置速度が15cm/s以下の時は、ス
テップS23に進み速度ベクトルの値を0にする。この
ような、ステップS22、ステップS23における観察
位置速度制限処理は、観察者の移動方向が逆転するとき
に発生するオーバーシュートや、画像計測誤差により発
生する速度ベクトルの誤差の影響を低減する目的で実施
されている。
【0058】ステップS24では、図4に示すように、
現在の画面の観察位置(X,Y)402に速度ベクトル
(VX,VY)403を加えることで予測観察位置(N
X,NY)404を求める。この後ステップS25で、
現在の観察位置を保存し、ステップS3に戻り、次の画
像の処理が行われる。
【0059】一方、ステップ8において差307が1cm
未満の場合、ステップS16に進む。
【0060】図5は、観察者の片眼の瞳孔のみが2値化
画像の白色部分として抽出された場合の観察位置算出方
法を説明する図である。ここで、観察者の片眼の瞳孔の
みが2値化画像の白色部分として抽出された場合とは、
観察者の片眼の赤外光反射強度が低下した場合や、観察
者の片眼が遮られた場合、観察者が片眼のみを閉じた場
合である。
【0061】2値化画像に片眼のみが抽出された場合、
ステップS16、ステップS17、ステップS18の観
察位置算出処理を行う。
【0062】ステップS16では位置X503と前画面
で予測した予測観察位置NX404を比較し、位置X5
03と予測観察位置NX404の差X−NXが0以上で
あればステップS17に進み、差X−NXが0未満であ
ればステップS18へ進む。例えば、差X−NXが0以
上の場合ステップS17で、図5に示すように、ステッ
プS8において求めた水平最大座標Xmax305から
前画面の処理で保存した距離d504の1/2を減ずる
演算、すなわち、演算Xmax−d/2の結果を観察位
置として、ステップS19へ進む。
【0063】差X−NXが0未満の場合、ステップS1
8で、ステップS8において求めた水平最小座標Xmi
n304から前画面の処理で保存した距離d504の1
/2を加える演算、すなわち、演算Xmin+d/2の
結果を観察位置として、ステップS19へ進む。
【0064】ステップS19以降の処理は差307が1
cm以上の場合と同様である。
【0065】次に、2値化画像に白色部分が一時的に抽
出されなくなり、水平最大座標、水平最小座標がともに
計測できなくなった場合の処理について説明する。ここ
で、2値化画像に白色部分が一時的に抽出されなくな
り、水平最大座標、水平最小座標がともに計測できなく
なった場合とは、観察者の両眼の赤外光反射強度が一時
的に低下した場合や、観察者の両眼が遮られた場合、観
察者に瞬目が発生した場合である。
【0066】ステップS4において、2値化画像上に白
色部分が抽出されなくなった場合において、抽出されな
くなった時点から250ms(15/60秒)以内であ
る場合、ステップ12、ステップ13、ステップ14の
処理を行う。
【0067】ステップS5において、観察者の白色部分
が抽出されなくなった瞬間(前画面では白色部分が抽出
されていて、現在の画面で白色部分が抽出されなくなっ
たとき)、ステップS5において観察者フラグはFla
g=1であるので、ステップ12に進む。
【0068】ステップS12ではカウンタ113が減算
計数を開始し、カウンタ値を1/60秒だけ減少させ
る。ステップS13ではカウンタ値が比較され、カウン
タ値が0以下の場合、瞳孔が抽出されなくなった時点か
ら250ms以上の時間を経過しているため観察者不在
と判定し、ステップS15で観察者フラグをFlag=
0としてステップS21に進む。
【0069】なお、カウンタ値は250ms(15/6
0秒)からスタートし、1サイクルあたり1/60秒ず
つ減少するので、カウンタ値が0になるのは白色部分が
抽出されなくなった時点から15サイクル目である。
【0070】ステップS13においてカウンタ値が0よ
り大きい場合は白色部分が抽出されなくなってから25
0ms以内であるので、ステップS14に進む。
【0071】図6は2値化画像に白色部分が一時的に抽
出されなくなった場合の観察位置の決定方法を説明する
図である。
【0072】ステップS14では、図6に示すように、
前画面において予測した予測観察位置(NX,NY)4
04を現在の画面の観察位置とする。ここで、予測観察
位置(NX,NY)404は前画面の観察位置(PX,
PY)401に前画面の速度ベクトル(VX,VY)4
03を加えたものである。この後、ステップ19に進
み、ステップ19以降、前述したものと同様の処理を行
う。
【0073】以上、本発明の観察位置検出方法により、
観察者の両眼の瞳孔が2値化画像の白色部分として抽出
されている場合のみならず、片眼の瞳孔のみが白色部分
として抽出されている場合や、白色部分が一時的に抽出
されなくなった場合においても常に観察位置を検出する
ことができた。
【0074】図7は本発明の観察位置検出装置を用いて
観察者の観察位置を検出した結果を示す図である。
【0075】図7において、丸いプロットは水平最大座
標702、四角いプロットは水平最小座標701、十字
型のプロットは検出された観察位置703を示す。な
お、区間704は水平最大座標と水平最小座標の差が1
cm未満であり、観察者の顔面画像の2値化画像におい
て左眼のみが白色部分となっている区間である。瞬目区
間705は観察者の顔面画像の2値化画像において白色
部分が存在しない区間である。
【0076】図7に示すように、本発明の観察位置検出
装置により、瞳孔抽出画像の水平最小座標701と水平
最大座標702がそれぞれ毎秒60回検出され、これら
の値のみを用いる簡易な方法で、両眼抽出時のみなら
ず、左眼のみが抽出されている区間704や、瞬目区間
705においても常に観察位置を検出することができ
た。
【0077】また、本観察位置検出装置の観察位置追従
型立体表示装置への適用例について述べる。
【0078】図8は本発明の観察位置検出装置を用いた
観察位置追従型立体表示装置の全体構成を示す図であ
る。本観察位置追従型立体表示装置において観察者80
6はレンチキュラスクリーン805を通して立体画像を
観察する。図8において、図1に示した観察位置検出装
置は参照番号801で示されている。観察位置検出装置
801には光学系制御部802が接続されており、観察
者806の観察位置に応じて液晶プロジェクタ804内
の観察位置追従光学系機構部803が制御される。
【0079】本発明による観察位置検出装置を観察位置
追従型立体表示装置へ適用したところ、簡易な方法で観
察位置を非接触で正確に検出することが可能となり、観
察者が立体視をするための特殊なメガネや、位置を検出
するセンサ等を装着せずに、また、自然な体勢で立体映
像を観察できる立体表示装置を低コストで提供すること
ができた。
【0080】(本発明の第2の実施の形態)図9は、本
発明の観察位置検出装置の第2の実施の形態を示す図で
ある。
【0081】本実施の形態の観察位置検出装置は、撮像
装置100、画像処理装置110、電動雲台901から
構成される。
【0082】撮像装置100は第1の実施の形態と同様
に、CCDカメラ101、赤外光照明装置102、ハー
フミラー103から構成される。
【0083】また、画像処理装置110も第1の実施の
形態と同様に、画像メモリ111、2値化処理部11
2、カウンタ113、画像計測部114、観察位置決定
部115、観察位置予測部116から構成される。
【0084】撮像装置101は電動雲台901に取り付
けられ、この電動雲台901に位置予測部116の出力
の次画面予測位置情報121を入力することにより、撮
像画像の中心位置が次画面の予測観察位置になるように
電動雲台901が制御される。したがって、電動雲台9
01により撮像領域が移動されるので第1の実施の形態
よりも広い範囲で観察位置を検出することが可能であ
る。
【0085】図10は電動雲台および撮像装置の撮像領
域を説明するための図である。
【0086】図10に示すように、電動雲台901は水
平回転方向902、仰角回転方向903に回転し、撮像
領域904を移動させることができる。ここで、CCD
カメラ101の撮像距離は2mであり、この撮像距離に
おいて観察者の顔面上の画像の分解能が1mmになるよ
うにレンズ倍率を調整してある。電動雲台901はサー
ボモータで駆動され、1/60秒毎に方向が制御され
る。電動雲台の各方向の回転角は±30度である。ここ
で、撮像装置の移動には電動雲台901の代わりに、リ
ニアステージ等を用いてもよい。
【0087】第2の実施の形態の観察位置検出装置は、
第1の実施の形態の観察位置検出装置と同様に、図2の
フローチャートに示す観察位置検出方法により観察位置
検出を行う。
【0088】ただし、観察者が不在(Flag=0)の
場合は、撮像領域は一定のパターンで走査され、広い範
囲から観察者を探索する動作を行う。
【0089】本発明の観察位置検出装置により観察位置
を検出した結果、第1の実施の形態と同様に、瞳孔抽出
画像の水平最小座標と水平最大座標がそれぞれ毎秒60
回検出され、これらの値のみを用いる簡易な方法で、両
眼抽出時のみならず、片眼のみ抽出時や、瞬目時におい
ても毎秒60回常に観察位置を検出することができた。
【0090】また、本発明の第2の実施の形態の観察位
置検出装置では電動雲台を備えたため、観察位置測定範
囲を水平、垂直ともに2m50cmまで拡大することが
できた。 そして、本実施の形態の観察位置検出装置を
用いた観察位置追従型立体表示装置の全体構成は、図8
に示した第1の実施の形態を観察位置追従型立体表示装
置に適用した場合と同様であり、本実施の形態の観察位
置位置検出装置は図8の参照番号801で示されてい
る。
【0091】以上、第1、第2の実施の形態において、
照明装置の光軸は正確にCCDカメラの光軸と互いに同
軸でなくても、観察者の瞳孔が明るく撮像できれば同軸
近傍の配置でもよい。
【0092】メガネなど鏡面物体の反射光によるノイズ
を除去する目的で、照明装置や撮像装置の光軸上に偏光
板や1/4波長板などを挿入してもよい。
【0093】撮像装置はNTSC規格以外にPAL規
格、SECAM規格などの各種規格のものを使用しても
よく、またこれらより水平及び垂直周波数の高いものを
用いてもよい。
【0094】画像メモリは各種解像度ものを用いてもよ
い。
【0095】画像処理装置における各種処理は電子計算
機以外に、専用のデジタル論理回路やオペアンプなどに
よるアナログ演算回路を用いてもよい。
【0096】観察者が反射鏡等を両眼の中点に装着する
場合においても、ステップS8の処理を行わなければ、
本観察位置検出装置及び検出方法が適用できる。
【0097】観察者の眼部分が抽出できるのであれば、
光軸を同軸としない照明を用いてもよいし、赤外光以外
の光を用いてもよい。
【0098】眼部分の抽出は強膜、虹彩など、瞳孔以外
の部分を抽出する方法でもよい。
【0099】眼部分の抽出には各種画像処理を用いても
よい。
【0100】次画面予測位置は速度ベクトルで求める他
に、予め調査しておいた視点速度と予測位置の統計的関
係を記憶したルックアップテーブルを参照する方法を用
いてもよい。
【0101】予測位置は速度ベクトルの他に加速度ベク
トルを加えてもよいし、それより高次の微分情報を用い
てもよい。
【0102】
【発明の効果】以上説明したように本発明は、観察者の
眼部分の抽出画像の最小座標と最大座標のみを計測して
非接触で観察位置を検出できるという効果がある。
【0103】また、計測した最小座標と最大座標の差が
小さい場合には、最小座標と最大座標の中点と時系列画
像における前画面で求めた観察位置予測結果を比較し、
両眼抽出時に記憶しておいた上記最大座標と最小座標の
差の1/2の値を用いて観察位置を決定することができ
る。
【0104】また、瞬目時にも観察位置を予測すること
ができる。
【0105】本発明において観察者の眼部分の抽出画像
から取得すべき情報は抽出画像の最小座標と最大座標の
みであるため、左右それぞれの眼の位置を独立に求める
複雑な装置や方法を用いる必要がなく、簡易な方法で、
両眼抽出時のみならず、片眼のみ抽出時や、瞬目時にお
いても常に観察位置を検出することができる。
【0106】また、観察位置予測結果を用いて撮像装置
の撮像位置を移動させることにより、広い範囲で観察位
置を検出することができる。
【図面の簡単な説明】
【図1】本発明の観察位置検出装置の第1の実施の形態
を示す図である。
【図2】本発明の第1の実施の形態の観察位置検出装置
における観察位置検出方法を示すフローチャートであ
る。
【図3】観察者の顔面の2値化画像の各値を説明するた
めの図である。
【図4】次画面の予測観察位置を算出する方法を説明す
るための図である。
【図5】観察者の片眼の瞳孔のみが2値化画像の白色部
分として抽出された場合の観察位置算出方法を説明する
図である。
【図6】2値化画像に瞳孔が一時的に抽出されなくなっ
た場合の観察位置の決定方法を説明する図である。
【図7】本発明の観察位置検出装置を用いて観察者の観
察位置を検出した結果を示す図である。
【図8】本発明の観察位置検出装置を用いた観察位置追
従型立体表示装置の全体構成を示す図である。
【図9】本発明の観察位置検出装置の第2の実施の形態
を示す図である。
【図10】電動雲台および撮像装置の撮像領域を説明す
るための図である。
【図11】従来の目領域抽出装置の動作原理を示す図で
ある。
【符号の説明】 1 検出対象者 2 右眼 3 左眼 4 右眼探索領域 5 左眼探索領域 6、10 探索領域 7 過去の目領域の位置 8 移動ベクトル 9 抽出されなかった眼 11 全領域 100 撮像装置 101 CCDカメラ 102 赤外光照明装置 103 ハーフミラー 110 画像処理装置 111 画像メモリ 112 2値化処理部 113 カウンタ 114 画像計測部 115 観察位置決定部 116 観察位置予測部 121 次画面予測位置情報 150、806 観察者 151 瞳孔 303 抽出された瞳孔部分 304 水平最小座標Xmin 305 水平最大座標Xmax 306 観察位置 307 差 401 前画面の観察位置(PX,PY) 402 現在の画面の観察位置(X,Y) 403 速度ベクトル(VX,VY) 404 予測観察位置(NX,NY) 503 位置X 504 距離d 701 水平最小座標 702 水平最大座標 703 観察位置 704 区間 705 瞬目区間 801 観察位置検出装置 802 光学系制御部 803 観察位置追従光学系機構部 804 液晶プロジェクタ 805 レンチキュラスクリーン 901 電動雲台 902 水平回転方向 903 仰角回転方向 904 撮像領域
【手続補正書】
【提出日】平成11年1月13日
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】特許請求の範囲
【補正方法】変更
【補正内容】
【特許請求の範囲】
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0012
【補正方法】変更
【補正内容】
【0012】
【課題を解決するための手段】本発明の観察位置検出装
置は、撮像装置と画像処理装置とを備え、観察者の顔面
を撮像した画像から観察者の眼部分を抽出して、観察者
の両眼の中点を観察位置として検出する観察位置検出装
置において、画像処理装置は、眼部分の最小座標と最大
座標とを計測する画像計測部と、観察位置決定部と、観
察位置決定部の結果から時系列画像における次の観察位
置を予測し記憶する観察位置予測部とを備え観察位置
決定部は、最大座標と最小座標の差を計算する手段と、
差を所定の値と比較する比較手段と、最小座標と最大座
標と比較手段の結果と観察位置予測部の結果とを参照し
て観察位置を決定する手段とを備えている。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0018
【補正方法】変更
【補正内容】
【0018】本発明の観察位置検出方法は、観察者の顔
面を撮像した画像から観察者の眼部分を抽出して、観察
者の両眼の中点を観察位置として検出する観察位置検出
方法において、観察位置を決定する際に、眼部分の最小
座標と最大座標とを計測し、最大座標と最小座標の差を
計算し、時系列画像における次の観察位置を予測し記憶
し、最小座標と最大座標と差を所定の値と比較した結果
と次の観察位置とを参照する信号処理手順により観察位
置を決定する
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0019
【補正方法】変更
【補正内容】
【0019】観察者の顔面を撮像する際に、予測された
前記次の観察位置に応じて前記撮像装置の撮像領域を可
変させてもよい。
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0020
【補正方法】変更
【補正内容】
【0020】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値以上の場合、最大座標と最小座
標の中点を観察位置とするとともに、差の値を記憶する
信号処理手順により観察位置を決定してもよい。
【手続補正6】
【補正対象書類名】明細書
【補正対象項目名】0021
【補正方法】変更
【補正内容】
【0021】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値未満の場合、最大座標と最小座
標の中点と、観察位置予測部に記憶してある前の観察位
置予測結果とを比較する信号処理手順により観察位置を
決定してもよい。
【手続補正7】
【補正対象書類名】明細書
【補正対象項目名】0022
【補正方法】変更
【補正内容】
【0022】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値未満の場合、最大座標と最小座
標の差が一定値以上の場合に記憶しておいた最大座標と
最小座標の差の1/2の値を用いて観察位置を決定する
信号処理手順により観察位置を決定してもよい。
【手続補正8】
【補正対象書類名】明細書
【補正対象項目名】0023
【補正方法】変更
【補正内容】
【0023】また、観察位置を決定する際に、最大座標
と最小座標を計測できなかった場合、観察位置予測部で
求めた前の予測観察位置を観察位置とする信号処理手順
により観察位置を決定してもよい。 ─────────────────────────────────────────────────────
【手続補正書】
【提出日】平成11年1月14日
【手続補正1】
【補正対象書類名】明細書
【補正対象項目名】特許請求の範囲
【補正方法】変更
【補正内容】
【特許請求の範囲】
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】0012
【補正方法】変更
【補正内容】
【0012】
【課題を解決するための手段】本発明の観察位置検出装
置は、撮像装置と画像処理装置とを備え、観察者の顔面
を撮像した画像から観察者の眼部分を抽出して、観察者
の両眼の中点を観察位置として検出する観察位置検出装
置において、画像処理装置は、眼部分の最小座標と最大
座標とを計測する画像計測部と、観察位置決定部と、観
察位置決定部の結果から時系列画像における次の観察位
置を予測し記憶する観察位置予測部とを備え観察位置
決定部は、最大座標と最小座標の差を計算する手段と、
差を所定の値と比較する比較手段と、最小座標と最大座
標と比較手段の結果と観察位置予測部の結果とを参照し
て観察位置を決定する手段とを備えている。
【手続補正3】
【補正対象書類名】明細書
【補正対象項目名】0018
【補正方法】変更
【補正内容】
【0018】本発明の観察位置検出方法は、観察者の顔
面を撮像した画像から観察者の眼部分を抽出して、観察
者の両眼の中点を観察位置として検出する観察位置検出
方法において、観察位置を決定する際に、眼部分の最小
座標と最大座標とを計測し、最大座標と最小座標の差を
計算し、時系列画像における次の観察位置を予測し記憶
し、最小座標と最大座標と差を所定の値と比較した結果
と次の観察位置とを参照する信号処理手順により観察位
置を決定する
【手続補正4】
【補正対象書類名】明細書
【補正対象項目名】0019
【補正方法】変更
【補正内容】
【0019】また、観察者の顔面を撮像する際に、予測
された前記次の観察位置に応じて前記撮像装置の撮像領
域を可変させてもよい。
【手続補正5】
【補正対象書類名】明細書
【補正対象項目名】0020
【補正方法】変更
【補正内容】
【0020】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値以上の場合、最大座標と最小座
標の中点を観察位置とするとともに、差の値を記憶する
信号処理手順により観察位置を決定してもよい。
【手続補正6】
【補正対象書類名】明細書
【補正対象項目名】0021
【補正方法】変更
【補正内容】
【0021】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値未満の場合、最大座標と最小座
標の中点と、観察位置予測部に記憶してある前の観察位
置予測結果とを比較する信号処理手順により観察位置を
決定してもよい。
【手続補正7】
【補正対象書類名】明細書
【補正対象項目名】0022
【補正方法】変更
【補正内容】
【0022】また、観察位置を決定する際に、最大座標
と最小座標の差が一定値未満の場合、最大座標と最小座
標の差が一定値以上の場合に記憶しておいた最大座標と
最小座標の差の1/2の値を用いて観察位置を決定する
信号処理手順により観察位置を決定してもよい。
【手続補正8】
【補正対象書類名】明細書
【補正対象項目名】0023
【補正方法】変更
【補正内容】
【0023】また、観察位置を決定する際に、最大座標
と最小座標を計測できなかった場合、観察位置予測部で
求めた前の予測観察位置を観察位置とする信号処理手順
により観察位置を決定してもよい。

Claims (12)

    【特許請求の範囲】
  1. 【請求項1】 撮像装置と画像処理装置とを備え、観察
    者の顔面を撮像した画像から前記観察者の眼部分を抽出
    して、前記観察者の両眼の中点を観察位置として検出す
    る観察位置検出装置において、 前記画像処理装置は、前記眼部分の最小座標と最大座標
    とを計測する画像計測部と、前記最小座標と前記最大座
    標とから観察位置を決定する観察位置決定部と、前記観
    察位置決定部の結果から次の観察位置を予測し記憶する
    観察位置予測部とを備えたことを特徴とする観察位置検
    出装置。
  2. 【請求項2】 前記画像処理装置は、予測された前記次
    の観察位置に応じて前記撮像装置の撮像領域を可変させ
    る撮像領域可変手段を備えた請求項1に記載の観察位置
    検出装置。
  3. 【請求項3】 前記観察位置決定部は、前記最大座標と
    前記最小座標の差が一定値以上の場合、前記最大座標と
    前記最小座標の中点を観察位置とするとともに、前記差
    の値を記憶する請求項1または請求項2に記載の観察位
    置検出装置。
  4. 【請求項4】 前記観察位置決定部は、前記最大座標と
    前記最小座標の差が一定値未満の場合、前記最大座標と
    前記最小座標の中点と、前記観察位置予測部に記憶して
    ある前の観察位置予測結果とを比較する手段を備えた請
    求項1または請求項2に記載の観察位置検出装置。
  5. 【請求項5】 前記観察位置決定部は、前記最大座標と
    前記最小座標の差が一定値未満の場合、前記最大座標と
    前記最小座標の差が一定値以上の場合に記憶しておいた
    前記最大座標と前記最小座標の差の1/2の値を用いて
    観察位置を決定する請求項1または請求項2に記載の観
    察位置検出装置。
  6. 【請求項6】 前記観察位置決定部は、前記最大座標と
    前記最小座標を計測できなかった場合、前記観察位置予
    測部で求めた前の予測観察位置を観察位置とする請求項
    1または請求項2に記載の観察位置検出装置。
  7. 【請求項7】 撮像装置と画像処理装置とを備え、観察
    者の顔面を撮像した画像から前記観察者の眼部分を抽出
    して、前記観察者の両眼の中点を観察位置として検出す
    る観察位置検出装置の観察位置検出方法において、 前記眼部分の最小座標と最大座標とを計測し、前記最小
    座標と前記最大座標とから観察位置を決定するととも
    に、前記観察位置から次の観察位置を予測し記憶するこ
    とを特徴とする請求項1に記載の観察位置検出装置の観
    察位置検出方法。
  8. 【請求項8】 撮像装置と画像処理装置とを備え、観察
    者の顔面を撮像した画像から前記観察者の眼部分を抽出
    して、前記観察者の両眼の中点を観察位置と して検出する観察位置検出装置の観察位置検出方法にお
    いて、前記眼部分の最小座標と最大座標とを計測し、前
    記最小座標と前記最大座標とから観察位置を決定すると
    ともに、前記観察位置から次の観察位置を予測し記憶
    し、予測された前記次の観察位置に応じて前記撮像装置
    の撮像領域を可変させることを特徴とする請求項2に記
    載の観察位置検出装置の観察位置検出方法。
  9. 【請求項9】 前記観察位置を決定する際に、前記最大
    座標と前記最小座標の差が一定値以上の場合、前記最大
    座標と前記最小座標の中点を観察位置とするとともに、
    前記差の値を記憶する請求項7または請求項8に記載の
    観察位置検出装置の観察位置検出方法。
  10. 【請求項10】 前記観察位置を決定する際に、前記最
    大座標と前記最小座標の差が一定値未満の場合、前記最
    大座標と前記最小座標の中点と、前記観察位置予測部に
    記憶してある前の観察位置予測結果とを比較する請求項
    7または請求項8に記載の観察位置検出装置の観察位置
    検出方法。
  11. 【請求項11】 前記観察位置を決定する際に、前記最
    大座標と前記最小座標の差が一定値未満の場合、前記最
    大座標と前記最小座標の差が一定値以上の場合に記憶し
    ておいた前記最大座標と前記最小座標の差の1/2の値
    を用いて観察位置を決定する請求項7または請求項8に
    記載の観察位置検出装置の観察位置検出方法。
  12. 【請求項12】 前記観察位置を決定する際に、前記最
    大座標と前記最小座標を計測できなかった場合、前記観
    察位置予測部で求めた前の予測観察位置を観察位置とす
    る請求項7または請求項8に記載の観察位置検出装置の
    観察位置検出方法。
JP10001971A 1998-01-08 1998-01-08 観察位置検出装置及びその観察位置検出方法 Expired - Lifetime JP2904204B1 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP10001971A JP2904204B1 (ja) 1998-01-08 1998-01-08 観察位置検出装置及びその観察位置検出方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP10001971A JP2904204B1 (ja) 1998-01-08 1998-01-08 観察位置検出装置及びその観察位置検出方法

Publications (2)

Publication Number Publication Date
JP2904204B1 JP2904204B1 (ja) 1999-06-14
JPH11201723A true JPH11201723A (ja) 1999-07-30

Family

ID=11516460

Family Applications (1)

Application Number Title Priority Date Filing Date
JP10001971A Expired - Lifetime JP2904204B1 (ja) 1998-01-08 1998-01-08 観察位置検出装置及びその観察位置検出方法

Country Status (1)

Country Link
JP (1) JP2904204B1 (ja)

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009169109A (ja) * 2008-01-16 2009-07-30 Panasonic Electric Works Co Ltd ミラーシステム
EP2418862A2 (en) * 2010-08-09 2012-02-15 LG Electronics Inc. System, apparatus, and method for displaying 3-dimensional image and location tracking device
JP2014195141A (ja) * 2013-03-28 2014-10-09 Japan Display Inc 表示装置
JP2015232633A (ja) * 2014-06-10 2015-12-24 セイコーエプソン株式会社 表示装置
JP2020170979A (ja) * 2019-04-05 2020-10-15 日本放送協会 立体画像生成装置及びそのプログラム

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009169109A (ja) * 2008-01-16 2009-07-30 Panasonic Electric Works Co Ltd ミラーシステム
EP2418862A2 (en) * 2010-08-09 2012-02-15 LG Electronics Inc. System, apparatus, and method for displaying 3-dimensional image and location tracking device
JP2014195141A (ja) * 2013-03-28 2014-10-09 Japan Display Inc 表示装置
JP2015232633A (ja) * 2014-06-10 2015-12-24 セイコーエプソン株式会社 表示装置
JP2020170979A (ja) * 2019-04-05 2020-10-15 日本放送協会 立体画像生成装置及びそのプログラム

Also Published As

Publication number Publication date
JP2904204B1 (ja) 1999-06-14

Similar Documents

Publication Publication Date Title
US6075557A (en) Image tracking system and method and observer tracking autostereoscopic display
US12165429B2 (en) Detecting device, detecting method, and recording medium
KR20120057033A (ko) Iptv 제어를 위한 원거리 시선 추적 장치 및 방법
JP2917953B2 (ja) 視点位置検出装置
JP4500992B2 (ja) 三次元視点計測装置
JPH08313843A (ja) 視線追従方式による広視野高解像度映像提示装置
JPH1124603A (ja) 情報表示装置及び情報収集装置
EP3042341A1 (en) Method and apparatus for eye detection from glints
WO2006118057A1 (ja) 画像表示装置
JP2904204B1 (ja) 観察位置検出装置及びその観察位置検出方法
JP3759187B2 (ja) 両眼視機能訓練装置
JP2005058399A (ja) ディスプレイ装置
JPH0449943A (ja) 眼球運動分析装置
Ebisawa Realtime 3D position detection of human pupil.
JP6608208B2 (ja) 画像表示装置
JP3976860B2 (ja) 立体映像撮像装置
JPH06323832A (ja) 車両用インターフェイス
JP2001061785A (ja) 視線検出方法及びその装置
JPH1172697A (ja) 視点位置検出方法及び検出装置
JP3351386B2 (ja) 観察者の観察位置検出方法およびその装置
JP2000166873A (ja) 視線検出手段位置調整装置
JP7444204B2 (ja) 制御装置、検知装置、制御方法、およびプログラム
JPH1097376A (ja) 視線操作装置
JP2020181347A (ja) 監視表示装置
JP2000050313A (ja) 頭部搭載型ディスプレイ装置

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080326

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090326

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090326

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100326

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100326

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110326

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110326

Year of fee payment: 12

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120326

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120326

Year of fee payment: 13

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 14

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 14

S111 Request for change of ownership or part of ownership

Free format text: JAPANESE INTERMEDIATE CODE: R313113

R350 Written notification of registration of transfer

Free format text: JAPANESE INTERMEDIATE CODE: R350

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130326

Year of fee payment: 14

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20140326

Year of fee payment: 15

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

EXPY Cancellation because of completion of term