JPH0793088A - 仮想操作装置及び方法 - Google Patents
仮想操作装置及び方法Info
- Publication number
- JPH0793088A JPH0793088A JP5234372A JP23437293A JPH0793088A JP H0793088 A JPH0793088 A JP H0793088A JP 5234372 A JP5234372 A JP 5234372A JP 23437293 A JP23437293 A JP 23437293A JP H0793088 A JPH0793088 A JP H0793088A
- Authority
- JP
- Japan
- Prior art keywords
- presenting
- gesture
- interpreting
- thumb
- virtual
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06V—IMAGE OR VIDEO RECOGNITION OR UNDERSTANDING
- G06V40/00—Recognition of biometric, human-related or animal-related patterns in image or video data
- G06V40/20—Movements or behaviour, e.g. gesture recognition
Landscapes
- Engineering & Computer Science (AREA)
- Human Computer Interaction (AREA)
- Computer Vision & Pattern Recognition (AREA)
- General Health & Medical Sciences (AREA)
- Psychiatry (AREA)
- Social Psychology (AREA)
- Health & Medical Sciences (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Multimedia (AREA)
- Theoretical Computer Science (AREA)
- Processing Or Creating Images (AREA)
- Position Input By Displaying (AREA)
Abstract
(57)【要約】
【目的】本発明は、仮想の3次元空間での、レバーやボ
タン、タッチスクリーン操作などを、自然に、かつ高速
で正確に行えるようにすることを目的としている。 【構成】本発明は、レバーやボタンなどの操作対象を3
次元CGを用いて仮想の3次元空間を構成することによ
り提示する提示手段と、親指と人指し指の位置を検知す
る位置検知手段と、位置検知手段が検知した親指と人指
し指の位置と提示手段の3つの座標位置の関係に基づい
て記述された解釈規則をもとにいかなる操作が指示され
たかを解釈する解釈手段とから構成されている。
タン、タッチスクリーン操作などを、自然に、かつ高速
で正確に行えるようにすることを目的としている。 【構成】本発明は、レバーやボタンなどの操作対象を3
次元CGを用いて仮想の3次元空間を構成することによ
り提示する提示手段と、親指と人指し指の位置を検知す
る位置検知手段と、位置検知手段が検知した親指と人指
し指の位置と提示手段の3つの座標位置の関係に基づい
て記述された解釈規則をもとにいかなる操作が指示され
たかを解釈する解釈手段とから構成されている。
Description
【0001】
【産業上の利用分野】本発明はコンピュータ内部に構築
された空間に存在する操作対象を自然に操作するための
仮想操作装置及び方法に関する。
された空間に存在する操作対象を自然に操作するための
仮想操作装置及び方法に関する。
【0002】
【従来の技術】発電所や工場の監視、制御作業では、コ
ンピュータの導入により、自動化が進み、定常状態で
は、オペレータはほとんど操作する必要性がなく、監視
卓や制御卓のモニタ画面を注視することが主な作業にな
ってきている。しかし、万が一の事故に備えるため、訓
練機を用いて事故時に対応処置の訓練を行っている。訓
練機は、実際の制御や監視に用いる実機と同じ筐体を用
いており、中のソフトウェアは事故現象を模擬するシミ
ュレータに置き換えてある。オペレータはこの訓練機を
用いて、シミュレータが提示する事故現象に対応する処
置をレバーやボタンなどにより、指示を与えていく。こ
のように現状用いられている訓練機は、実機と同様な製
作コストと設置のための空間を必要とするのが問題であ
る。
ンピュータの導入により、自動化が進み、定常状態で
は、オペレータはほとんど操作する必要性がなく、監視
卓や制御卓のモニタ画面を注視することが主な作業にな
ってきている。しかし、万が一の事故に備えるため、訓
練機を用いて事故時に対応処置の訓練を行っている。訓
練機は、実際の制御や監視に用いる実機と同じ筐体を用
いており、中のソフトウェアは事故現象を模擬するシミ
ュレータに置き換えてある。オペレータはこの訓練機を
用いて、シミュレータが提示する事故現象に対応する処
置をレバーやボタンなどにより、指示を与えていく。こ
のように現状用いられている訓練機は、実機と同様な製
作コストと設置のための空間を必要とするのが問題であ
る。
【0003】このような問題点を解決するために、事故
現象のシミュレータをワークステーションやパーソナル
・コンピュータ上で動かし、さらに制御卓や監視卓のモ
ニタ画面もその画面上でシミュレータする方法がある。
この方法では、タッチスクリーンにより画面上をタッチ
して、メニューを選択することで指示を与える操作方法
に対しては、マウスなどのポインティング・デバイスで
該当メニューを選択することで代用している。しかし、
画面以外に対して指示を与える様な操作、例えば、卓の
レバーやボタンなどで指示を与える操作方法は、このよ
うな2次元的にGUI(Graphical User
Interface)をシミュレートする方法ではシ
ミュレートしきれない。
現象のシミュレータをワークステーションやパーソナル
・コンピュータ上で動かし、さらに制御卓や監視卓のモ
ニタ画面もその画面上でシミュレータする方法がある。
この方法では、タッチスクリーンにより画面上をタッチ
して、メニューを選択することで指示を与える操作方法
に対しては、マウスなどのポインティング・デバイスで
該当メニューを選択することで代用している。しかし、
画面以外に対して指示を与える様な操作、例えば、卓の
レバーやボタンなどで指示を与える操作方法は、このよ
うな2次元的にGUI(Graphical User
Interface)をシミュレートする方法ではシ
ミュレートしきれない。
【0004】2次元的なシミュレーションによる問題点
を解決するために、3次元コンピュータ・グラフィック
ス(CG)を用いて、コンピュータの内部に仮想の訓練
機等を含む3次元空間を構成するような仮想現実感技術
(VR−VirtualReality)を用いた方法
が検討されるようになってきた。VRでは操作対象は現
実と同じく3次元空間なので、3次元の位置座標を与え
ることのできる入力デバイスを用いる。
を解決するために、3次元コンピュータ・グラフィック
ス(CG)を用いて、コンピュータの内部に仮想の訓練
機等を含む3次元空間を構成するような仮想現実感技術
(VR−VirtualReality)を用いた方法
が検討されるようになってきた。VRでは操作対象は現
実と同じく3次元空間なので、3次元の位置座標を与え
ることのできる入力デバイスを用いる。
【0005】3次元位置入力デバイスとしては、単に3
次元位置だけを検出する磁気センサ型のPolhemu
s社の3 space IsotrackやAscen
sion Technology社のBirdなどのも
の、超音波型のHoneywell社のセンサ、LED
の光を認識する光学式のものがある。しかし、これらの
デバイスでは、3次元位置が検出できるだけなので、メ
ニューの選択等をおこなうには、別に選択を指示するた
めのボタンなどを別途設けなければならない。
次元位置だけを検出する磁気センサ型のPolhemu
s社の3 space IsotrackやAscen
sion Technology社のBirdなどのも
の、超音波型のHoneywell社のセンサ、LED
の光を認識する光学式のものがある。しかし、これらの
デバイスでは、3次元位置が検出できるだけなので、メ
ニューの選択等をおこなうには、別に選択を指示するた
めのボタンなどを別途設けなければならない。
【0006】メニューの指示なども併せて行えるように
するために、手のジェスチャを識別できるDataGl
ove(VPL社の製品、光ファイバにより関節の曲げ
角度を計測するグローブ型をした入力デバイス)やCy
berGlove(Crber社の製品、特殊な抵抗を
埋め込み、関節の曲げ角度を計測するグローブ型の入力
デバイス)などがある。しかし、これらは高価で、ま
た、使用に際してキャリブレーションが必要であったり
して、結構入力デバイスの操作が煩雑である。訓練機を
想定したときには、レバーやボタンの位置自体は3次元
空間のなかで限定する必要があるが、レバーやボタンな
どの操作は2次元的である。したがって、前述のDat
eGloveやCyberGloveなどのように、3
次元的にジェスチャーを与えるのはオーバースペックで
ある。つまり、これらのデバイスは煩雑な割には、訓練
機など実際に機械を操作する観点では、応答時間やジェ
スチャーの認識精度などの制約があり、レバーやボタン
などの操作を的確に行うことができず、コストパフォー
マンスが非常に悪い。
するために、手のジェスチャを識別できるDataGl
ove(VPL社の製品、光ファイバにより関節の曲げ
角度を計測するグローブ型をした入力デバイス)やCy
berGlove(Crber社の製品、特殊な抵抗を
埋め込み、関節の曲げ角度を計測するグローブ型の入力
デバイス)などがある。しかし、これらは高価で、ま
た、使用に際してキャリブレーションが必要であったり
して、結構入力デバイスの操作が煩雑である。訓練機を
想定したときには、レバーやボタンの位置自体は3次元
空間のなかで限定する必要があるが、レバーやボタンな
どの操作は2次元的である。したがって、前述のDat
eGloveやCyberGloveなどのように、3
次元的にジェスチャーを与えるのはオーバースペックで
ある。つまり、これらのデバイスは煩雑な割には、訓練
機など実際に機械を操作する観点では、応答時間やジェ
スチャーの認識精度などの制約があり、レバーやボタン
などの操作を的確に行うことができず、コストパフォー
マンスが非常に悪い。
【0007】
【発明が解決しようとする課題】上述したように、訓練
機などを設定するには種々精度などの制約や、操作性、
コスト等多くの問題を残していた。本発明は、このよう
な問題に艦みてなされたもので、その目的は仮想の3次
元空間でのレバーやボタン、タッチスクリーン操作など
を、自然に、かつ高速で正確に行える仮想操作装置及び
方法を提供することを目的としている。
機などを設定するには種々精度などの制約や、操作性、
コスト等多くの問題を残していた。本発明は、このよう
な問題に艦みてなされたもので、その目的は仮想の3次
元空間でのレバーやボタン、タッチスクリーン操作など
を、自然に、かつ高速で正確に行える仮想操作装置及び
方法を提供することを目的としている。
【0008】
【課題を解決するための手段】本発明は、レバーやボタ
ンなどの操作対象を3次元CGを用いて仮想の3次元空
間を構成することにより提示し、親指と人差し指の位置
を検知し、検知された親指と人差し指の位置と提示され
た操作対象の位置の3つの座標位置関係に基づいて、記
述された解釈規制を本にいかなる操作が指示されたかを
解釈する仮想操作装置及び方法である。
ンなどの操作対象を3次元CGを用いて仮想の3次元空
間を構成することにより提示し、親指と人差し指の位置
を検知し、検知された親指と人差し指の位置と提示され
た操作対象の位置の3つの座標位置関係に基づいて、記
述された解釈規制を本にいかなる操作が指示されたかを
解釈する仮想操作装置及び方法である。
【0009】さらに、仮想の訓練機として用いる場合
に、事故現象およびそれに伴う訓練対象システムの内部
状態をシミュレートし、レバーやボタンなどの操作対象
はここに操作の際、可動の範囲が決まっているので、こ
れらをあらかじめ可能な操作の属性として、3次元CG
データとあわせて記憶し、解釈された上述の操作指示を
伝達し、シミュレータの演算結果を提示するなどの情報
管理を行う点を加えるものである。
に、事故現象およびそれに伴う訓練対象システムの内部
状態をシミュレートし、レバーやボタンなどの操作対象
はここに操作の際、可動の範囲が決まっているので、こ
れらをあらかじめ可能な操作の属性として、3次元CG
データとあわせて記憶し、解釈された上述の操作指示を
伝達し、シミュレータの演算結果を提示するなどの情報
管理を行う点を加えるものである。
【0010】さらに解釈の効率と正確度の向上のため
に、検知した親指と人差し指の位置、および提示位置の
3つの位置と記憶された操作の属性とにもとづいて解釈
規制を記述し、操作指示を解釈する点を改良して付加す
る。
に、検知した親指と人差し指の位置、および提示位置の
3つの位置と記憶された操作の属性とにもとづいて解釈
規制を記述し、操作指示を解釈する点を改良して付加す
る。
【0011】
【作用】本説明では、レバーやボタン、タッチスクリー
ンの操作のように3次元空間内での、2次元的な操作
を、仮想の3次元空間で行う場合を対象に、親指と人差
し指のわずか2本の指の位置と提示位置との位置関係に
基づいて記述された規制から、オペレータの手振り指示
を解釈する。
ンの操作のように3次元空間内での、2次元的な操作
を、仮想の3次元空間で行う場合を対象に、親指と人差
し指のわずか2本の指の位置と提示位置との位置関係に
基づいて記述された規制から、オペレータの手振り指示
を解釈する。
【0012】精度を高めるために、レバーやボタン、タ
ッチスクリーンなどの操作対象の動き方を限定してお
き、その属性も加えた解釈規則に基づいて、解釈手段は
オペレータの手振り指示の解釈を行う。
ッチスクリーンなどの操作対象の動き方を限定してお
き、その属性も加えた解釈規則に基づいて、解釈手段は
オペレータの手振り指示の解釈を行う。
【0013】
【実施例】以下、図面に沿って本発明の動作について説
明する。図1は、本発明の一実施例の概略構成図であ
る。図1は、3次元的位置を計測するために、例えば磁
場を発生する位置ソース7と、位置ソース7から発生さ
れた磁場を検知して、3次元位置を検出する位置センサ
6がある。位置センサ6はそれぞれレバーやボタン、タ
ッチスクリーン、スライダーなどの操作をするときに必
要な動作を行う最低限の指、ここでは図2に示すように
親指と人差し指に装着される。位置センサ6の検出した
位置は、例えば、位置センサ6の下部についている小型
の送信部8により送信される。その実施例では無線によ
り送信しているが、これに必ずしも限定されるものでは
ない。Polhemus社の3space Isotr
ackやAscensionTechnology社の
Birdのような有線で検出した信号を送信するタイプ
のものでもよイ。オペレータは提示部5のモニタ上に提
示されている操作対象であるレバーやボタン、タッチス
クリーン、スライダーなどを見ながら、それらを操作す
る動作をする。
明する。図1は、本発明の一実施例の概略構成図であ
る。図1は、3次元的位置を計測するために、例えば磁
場を発生する位置ソース7と、位置ソース7から発生さ
れた磁場を検知して、3次元位置を検出する位置センサ
6がある。位置センサ6はそれぞれレバーやボタン、タ
ッチスクリーン、スライダーなどの操作をするときに必
要な動作を行う最低限の指、ここでは図2に示すように
親指と人差し指に装着される。位置センサ6の検出した
位置は、例えば、位置センサ6の下部についている小型
の送信部8により送信される。その実施例では無線によ
り送信しているが、これに必ずしも限定されるものでは
ない。Polhemus社の3space Isotr
ackやAscensionTechnology社の
Birdのような有線で検出した信号を送信するタイプ
のものでもよイ。オペレータは提示部5のモニタ上に提
示されている操作対象であるレバーやボタン、タッチス
クリーン、スライダーなどを見ながら、それらを操作す
る動作をする。
【0014】送信部8が送信するデータは、例えば図3
にような形式になっている。このデータを受信部2は受
け取ると、情報管理部1に送る。図3のデータは、どの
位置センサから送信されてきたかを識別するためのセン
サ番号(1,2)と、3次元空間内の座標値(x1t,
ylt,zlt)と、それぞれの軸の回りの角度rol
l,pitch,yaw(αlt,βlt,γlt)か
らなっている。添え字のltはセンサ番号のt時刻の値
であることを示している。
にような形式になっている。このデータを受信部2は受
け取ると、情報管理部1に送る。図3のデータは、どの
位置センサから送信されてきたかを識別するためのセン
サ番号(1,2)と、3次元空間内の座標値(x1t,
ylt,zlt)と、それぞれの軸の回りの角度rol
l,pitch,yaw(αlt,βlt,γlt)か
らなっている。添え字のltはセンサ番号のt時刻の値
であることを示している。
【0015】情報管理部1は位置ソース7と位置センサ
6の間の同期をとることが必要で有れば、同期を取る。
情報管理部1は同期が必要であれば、同期を取って校正
したデータを動作解析部3に解析実行の指示とともに送
る。動作解析部3は動作記述記憶部4に記述された規則
に基づいて、動作の解析を行う。動作記憶部4には、図
4B至図6に示すような規則が記述されている。
6の間の同期をとることが必要で有れば、同期を取る。
情報管理部1は同期が必要であれば、同期を取って校正
したデータを動作解析部3に解析実行の指示とともに送
る。動作解析部3は動作記述記憶部4に記述された規則
に基づいて、動作の解析を行う。動作記憶部4には、図
4B至図6に示すような規則が記述されている。
【0016】規則1は指がスライダーやレバーなどをつ
かんだジェスチャ(Grasp)を解釈するための規則
である。規則1は次の3つの条件が満足されたとき、ジ
ェスチャh gestureの値をつかむ(Gras
p)にセットする。 条件1:Lt≦△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値△1より小さいこと
(つまり、親指と人差し指が十分近い位置にあるこ
と)、センサ1とセンサ2の距離Ltは図4に示したよ
うに位置センサのx,y,zの座標位置の2乗和の平方
値である。 条件2:h gesture=Grasp & h gesture=Slide 前のジェスチャがつかむ状態(Grasp)やスライダ
などを動かしている状態(Slide)でないこと(つ
まり、直前までのジェスチャが物をつかんだり、操作し
ている状態でないこと)、 条件3:Y2t>Ylt センサ2のy座標がセンサ1のy座標より大きいこと
(つまり、人差し指が親指より上にあること)、であ
る。
かんだジェスチャ(Grasp)を解釈するための規則
である。規則1は次の3つの条件が満足されたとき、ジ
ェスチャh gestureの値をつかむ(Gras
p)にセットする。 条件1:Lt≦△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値△1より小さいこと
(つまり、親指と人差し指が十分近い位置にあるこ
と)、センサ1とセンサ2の距離Ltは図4に示したよ
うに位置センサのx,y,zの座標位置の2乗和の平方
値である。 条件2:h gesture=Grasp & h gesture=Slide 前のジェスチャがつかむ状態(Grasp)やスライダ
などを動かしている状態(Slide)でないこと(つ
まり、直前までのジェスチャが物をつかんだり、操作し
ている状態でないこと)、 条件3:Y2t>Ylt センサ2のy座標がセンサ1のy座標より大きいこと
(つまり、人差し指が親指より上にあること)、であ
る。
【0017】規制2はつかんでいたスライダやレバーな
どから指がはなれるジェスチャ(Release)を解
釈するための規則である。規則2は次の2つの条件が満
足されたとき、ジェスチャh gestureの値をは
なす(Release)にセットする。 条件1:Lt>2△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値2△1より大きいこ
と(つまり、親指と人差し指が十分近い位置にあると判
断する距離の2倍以上離れていること。)条件2:h
gesture==Grasp h gesture==Slide 前のジェスチャがつかむ状態(Grasp)やスライダ
などを動かしている状態(Slide)であること(つ
まり、直前までのジェスチャが物をつかんだり、あるい
は操作している状態であること)、である。
どから指がはなれるジェスチャ(Release)を解
釈するための規則である。規則2は次の2つの条件が満
足されたとき、ジェスチャh gestureの値をは
なす(Release)にセットする。 条件1:Lt>2△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値2△1より大きいこ
と(つまり、親指と人差し指が十分近い位置にあると判
断する距離の2倍以上離れていること。)条件2:h
gesture==Grasp h gesture==Slide 前のジェスチャがつかむ状態(Grasp)やスライダ
などを動かしている状態(Slide)であること(つ
まり、直前までのジェスチャが物をつかんだり、あるい
は操作している状態であること)、である。
【0018】規則3は指がスライダやレバーなどをつか
んで動かし操作しているジェスチャ(Slide)を解
釈するための規則である。規則5は次の2つの条件が満
足されたとき、ジェスチャh gestureの値を操
作している(Slide)にセットする。 条件1:Lt>△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値△1より小さいこと
(つまり、親指と人差し指が十分近い位置にあるこ
と)、 条件2:h gesture==Grasp h gesture==Slide 前のジェスチャがつかむ状態(Grasp)やスライダ
などを動かしている状態(Slide)であること(つ
まり、直前までのジェスチャが物をつかんだり、あるい
は操作している状態であること)、である。
んで動かし操作しているジェスチャ(Slide)を解
釈するための規則である。規則5は次の2つの条件が満
足されたとき、ジェスチャh gestureの値を操
作している(Slide)にセットする。 条件1:Lt>△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値△1より小さいこと
(つまり、親指と人差し指が十分近い位置にあるこ
と)、 条件2:h gesture==Grasp h gesture==Slide 前のジェスチャがつかむ状態(Grasp)やスライダ
などを動かしている状態(Slide)であること(つ
まり、直前までのジェスチャが物をつかんだり、あるい
は操作している状態であること)、である。
【0019】規則4は指がレバーやスライダをはなした
(Release)の後、初期値(Nuetral)に
するための規則である。規則4は次の2つの条件が満足
されたとき、ジェスチャh gesture の値を初
期値(Nuetral)にセットする。 条件1:Lt>△2 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Lt がある値△2 より大きいこと
(つまり、親指と人差し指が十分離れた位置にあるこ
と、) 条件2:h gesture==Release 前のジェスチャがはなす状態(Release)である
こと(つまり、直前までのジェスチャがはなす状態であ
ること)、である。
(Release)の後、初期値(Nuetral)に
するための規則である。規則4は次の2つの条件が満足
されたとき、ジェスチャh gesture の値を初
期値(Nuetral)にセットする。 条件1:Lt>△2 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Lt がある値△2 より大きいこと
(つまり、親指と人差し指が十分離れた位置にあるこ
と、) 条件2:h gesture==Release 前のジェスチャがはなす状態(Release)である
こと(つまり、直前までのジェスチャがはなす状態であ
ること)、である。
【0020】規則5は方向を示したりするジェスチャ
(Point)を解釈するための規則である。規則5は
次の3つの条件が満足されたとき、ジェスチャh ge
stureの値を指し示す(Point)にセットす
る。 条件1:Lt>2△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Lt がある値△2より大きいこと
(つまり、親指と人差し指が十分近い位置にあると判断
する距離の2倍以上離れていること)、 条件2:|sionθ|≦△1 親指と人差し指のなす角度θが90度に近いこと、si
nθの値は図3の中に示したように位置センサ検出した
x,y,z軸回りの角度α,β,γをquatanio
n qiに変換し、このquatanion を法線ベ
クトルdiを求める。この法線ベクトルの内積の和がs
ionθである。 条件3:y2t>y1t センサ2のy座標がセンサ1のy座標より大きいこと
(つまり、人差し指が親指より上にあること)、であ
る。
(Point)を解釈するための規則である。規則5は
次の3つの条件が満足されたとき、ジェスチャh ge
stureの値を指し示す(Point)にセットす
る。 条件1:Lt>2△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Lt がある値△2より大きいこと
(つまり、親指と人差し指が十分近い位置にあると判断
する距離の2倍以上離れていること)、 条件2:|sionθ|≦△1 親指と人差し指のなす角度θが90度に近いこと、si
nθの値は図3の中に示したように位置センサ検出した
x,y,z軸回りの角度α,β,γをquatanio
n qiに変換し、このquatanion を法線ベ
クトルdiを求める。この法線ベクトルの内積の和がs
ionθである。 条件3:y2t>y1t センサ2のy座標がセンサ1のy座標より大きいこと
(つまり、人差し指が親指より上にあること)、であ
る。
【0021】規則6は方向を示したりするジェスチャ
(Point)から初期状態(Neutral)に戻す
ための規則である。規則6は次の2つの条件が満足され
たとき、ジェスチャh gestureの値を初期値
(Neutral)にセットする。 条件1:Lt>2△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値2△1より小さい大
きいこと(つまり、親指と人差し指が十分近い位置にあ
ると判断する距離の2倍以上より近いこと)、 条件2:h gesture==Point 前の状態が指し示す(Point)であること、であ
る。
(Point)から初期状態(Neutral)に戻す
ための規則である。規則6は次の2つの条件が満足され
たとき、ジェスチャh gestureの値を初期値
(Neutral)にセットする。 条件1:Lt>2△1 センサ1(この場合は親指に付けている位置センサを表
す)とセンサ2(この場合は人差し指に付けている位置
センサを表す)の距離Ltがある値2△1より小さい大
きいこと(つまり、親指と人差し指が十分近い位置にあ
ると判断する距離の2倍以上より近いこと)、 条件2:h gesture==Point 前の状態が指し示す(Point)であること、であ
る。
【0022】規則7はボタンやスクリーンにさわるジェ
スチャ(Touch)を解釈するための規則である。規
則7は次の2つの条件が満たされたとき、h gest
ureをさわる(Touch)にセットする。 条件1:L2t>△1 センサ2(この場合は人差し指につけている位置センサ
を表す)のディスプレイとの距離L2tがある値△1よ
り十分小さいこと(つまり、人指し指がディスプレイに
非常に近いこと)、L2tは人指し指のx,y,z座標
とディスプレイのx,y,z座標より求められる。 条件2:h gesture==Point h gesture==Touch 前の状態が指し示す(Point)か、さわる(Tou
ch)であること(つまり、指さしのジェスチャでディ
スプレイに近づいたか、あるいはさわった状態のままで
あること)、である。
スチャ(Touch)を解釈するための規則である。規
則7は次の2つの条件が満たされたとき、h gest
ureをさわる(Touch)にセットする。 条件1:L2t>△1 センサ2(この場合は人差し指につけている位置センサ
を表す)のディスプレイとの距離L2tがある値△1よ
り十分小さいこと(つまり、人指し指がディスプレイに
非常に近いこと)、L2tは人指し指のx,y,z座標
とディスプレイのx,y,z座標より求められる。 条件2:h gesture==Point h gesture==Touch 前の状態が指し示す(Point)か、さわる(Tou
ch)であること(つまり、指さしのジェスチャでディ
スプレイに近づいたか、あるいはさわった状態のままで
あること)、である。
【0023】規則8はボタンやスクリーンにさわるジェ
スチャ(Touch)から初期値(Neutral)に
戻すための規則である。規則8は2つの条件が満たされ
たれたとき、h gesture を初期値(Neut
ral)にする。 条件1:L2t>2△1 センサ2(この場合は人差し指に付けている位置センサ
を表す)のディスプレイとの距離L2tがある値2△1
より十分大きいこと(つまり、人指し指がディスプレイ
から離れたこと)、 条件2:h gesture==Touch 前の状態がさわる(Touch)であること(つまり、
さわった状態のままであること)、である。
スチャ(Touch)から初期値(Neutral)に
戻すための規則である。規則8は2つの条件が満たされ
たれたとき、h gesture を初期値(Neut
ral)にする。 条件1:L2t>2△1 センサ2(この場合は人差し指に付けている位置センサ
を表す)のディスプレイとの距離L2tがある値2△1
より十分大きいこと(つまり、人指し指がディスプレイ
から離れたこと)、 条件2:h gesture==Touch 前の状態がさわる(Touch)であること(つまり、
さわった状態のままであること)、である。
【0024】解釈するジェスチャに関しては図4B至図
6に示したGrasp,Slide、Point、To
uch,Release以外のものも、親指と人差し指
の両者の形状を記述することにより可能である。外形記
憶部9には提示部5に提示するレバーやボタン、タッチ
スクリーン、スライダーなどの3次元の外形データを記
憶している。
6に示したGrasp,Slide、Point、To
uch,Release以外のものも、親指と人差し指
の両者の形状を記述することにより可能である。外形記
憶部9には提示部5に提示するレバーやボタン、タッチ
スクリーン、スライダーなどの3次元の外形データを記
憶している。
【0025】次に図1のような構成の本実施例の動作に
ついて説明する。図7は図1の実施例の動作の流れ図の
概略を示す。情報管理部1は動作解析開始の指示により
解析を開始するが、位置センサ6から送られてきた図3
のような位置データを受信部2で受け取る(ステップ
a)。情報管理部1は図1に示すように位置データバッ
ファと提示制御部からなり、位置データを位置データバ
ッファ内に格納する(ステップb)。位置データバッフ
ァの初期化処理の一つとして、手のジェスチャを格納す
るパラメータh gestureをNeutral(手
が特別なジェスチャをしていない状態を示す値)にセッ
トする(ステップc)。次に動作解析部3は、情報管理
部1内の位置データバッファに格納された位置データを
読みだす(ステップd)。読みだされた現在の位置デー
タと現在の手のジェスチャ値h gestureをもと
に、動作記述記憶部4に記憶された図4B至図6の規則
に合致するものがあるかをチェックする(ステップ
e)。あれば動作記述記憶部4に記述された規則に基づ
いて、h gestureの値をアップデートする。合
致するものがなければh gestureの値は変更さ
れない。動作解析部3において解析したh gestu
reと位置データに基づいて、情報管理部1内の提示制
御部によって提示部5に提示されたスライダやボタン、
レバーなどの位置を操作内容に沿ってアップデートする
(ステップf)。尚、スライダやボタン、レバーなどの
形状(キャラクタ)は外形記憶部9から提示制御部によ
って読み出され、提示部5に提示されている。
ついて説明する。図7は図1の実施例の動作の流れ図の
概略を示す。情報管理部1は動作解析開始の指示により
解析を開始するが、位置センサ6から送られてきた図3
のような位置データを受信部2で受け取る(ステップ
a)。情報管理部1は図1に示すように位置データバッ
ファと提示制御部からなり、位置データを位置データバ
ッファ内に格納する(ステップb)。位置データバッフ
ァの初期化処理の一つとして、手のジェスチャを格納す
るパラメータh gestureをNeutral(手
が特別なジェスチャをしていない状態を示す値)にセッ
トする(ステップc)。次に動作解析部3は、情報管理
部1内の位置データバッファに格納された位置データを
読みだす(ステップd)。読みだされた現在の位置デー
タと現在の手のジェスチャ値h gestureをもと
に、動作記述記憶部4に記憶された図4B至図6の規則
に合致するものがあるかをチェックする(ステップ
e)。あれば動作記述記憶部4に記述された規則に基づ
いて、h gestureの値をアップデートする。合
致するものがなければh gestureの値は変更さ
れない。動作解析部3において解析したh gestu
reと位置データに基づいて、情報管理部1内の提示制
御部によって提示部5に提示されたスライダやボタン、
レバーなどの位置を操作内容に沿ってアップデートする
(ステップf)。尚、スライダやボタン、レバーなどの
形状(キャラクタ)は外形記憶部9から提示制御部によ
って読み出され、提示部5に提示されている。
【0026】以上のように本実施例によれば、人差し指
と親指の位置とディスプレイの位置との関係から、ジェ
スチャを解釈するので、装備が小さく、かつ違和感のな
い操作を行うことができる。
と親指の位置とディスプレイの位置との関係から、ジェ
スチャを解釈するので、装備が小さく、かつ違和感のな
い操作を行うことができる。
【0027】次に図8は本発明の別の実施例の概略構成
図を示す物である。第1の実施例に提示部5に提示する
対象の3次元形状の他に、操作の属性(上下に動くレバ
ーか、前後に動くレバーかなど)を記憶するための操作
属性記憶部10と、操作属性を提示するための入力部1
1及びシミュレーション部12が加わっている。シミュ
レーション部12は外形記憶部9に記憶された操作対象
の内部の処理をシミュレートするものである。
図を示す物である。第1の実施例に提示部5に提示する
対象の3次元形状の他に、操作の属性(上下に動くレバ
ーか、前後に動くレバーかなど)を記憶するための操作
属性記憶部10と、操作属性を提示するための入力部1
1及びシミュレーション部12が加わっている。シミュ
レーション部12は外形記憶部9に記憶された操作対象
の内部の処理をシミュレートするものである。
【0028】第1の実施例ではレバーやボタンなどの操
作の属性が限定されていないので、人差し指と親指の位
置により解釈されたジェスチャで提示部5の操作対象を
動かすとき、位置センサの検知誤差などにより、上下に
しか動かないはずのレバーが斜めに動いたりする可能性
がある。そこで第2の実施例では操作対象の操作の属性
をあらかじめ設定しておき、このような位置の検出誤差
などをカバーし、正確な操作を提供できるようにするも
のである。
作の属性が限定されていないので、人差し指と親指の位
置により解釈されたジェスチャで提示部5の操作対象を
動かすとき、位置センサの検知誤差などにより、上下に
しか動かないはずのレバーが斜めに動いたりする可能性
がある。そこで第2の実施例では操作対象の操作の属性
をあらかじめ設定しておき、このような位置の検出誤差
などをカバーし、正確な操作を提供できるようにするも
のである。
【0029】図9は各操作対象に属性を付与する際の画
面例である。右上が操作対象の外形形状のメニューAを
示している。ユーザはこの中から、形状を選ぶ。ここで
は大きい長方形rect120、小さい長方形rect
221,矢印a11ow122の3つの形状が例として
示されている。
面例である。右上が操作対象の外形形状のメニューAを
示している。ユーザはこの中から、形状を選ぶ。ここで
は大きい長方形rect120、小さい長方形rect
221,矢印a11ow122の3つの形状が例として
示されている。
【0030】右上のメニューAから任意の物を入力部1
1のポインティング・デバイス(たとえばマウス)によ
り選択し、それを右下のなかの適切な位置Bに置く。こ
のような操作を繰り返して、提示部5に提示する操作対
象を配置していく。
1のポインティング・デバイス(たとえばマウス)によ
り選択し、それを右下のなかの適切な位置Bに置く。こ
のような操作を繰り返して、提示部5に提示する操作対
象を配置していく。
【0031】次にこの配置された対象に操作属性を付与
する。図10に示すように操作属性の付与は、「N」キ
ーにより、新規属性付与に切り替え、図9の右下の画面
Bか属性を付与したい対象をマウスで選択し、属性を選
ぶ。指定できる属性は図12に示すように、たとえば、
属性の種類、ここではレバー0、ボタン1、パネル2が
ある。
する。図10に示すように操作属性の付与は、「N」キ
ーにより、新規属性付与に切り替え、図9の右下の画面
Bか属性を付与したい対象をマウスで選択し、属性を選
ぶ。指定できる属性は図12に示すように、たとえば、
属性の種類、ここではレバー0、ボタン1、パネル2が
ある。
【0032】レバーに関しては回転軸、ギアの数、ギア
ポジションの範囲、ギアヘポジションの中心、ギアが入
ったときに発生させる音の種類が指定できる。ボタンに
関してはonの時の座標位置、色、音、offの時の色
が指定できる。 パネルに関してはon/offの時の
色が指定できる。
ポジションの範囲、ギアヘポジションの中心、ギアが入
ったときに発生させる音の種類が指定できる。ボタンに
関してはonの時の座標位置、色、音、offの時の色
が指定できる。 パネルに関してはon/offの時の
色が指定できる。
【0033】このように指定した結果、操作属性記憶部
10にはたとえば、図11のようなそれぞれの形状デー
タの種別に他に、属性データの種別が付加される。実際
にふかされた内容はたとえば、図12のような形式にな
っている。
10にはたとえば、図11のようなそれぞれの形状デー
タの種別に他に、属性データの種別が付加される。実際
にふかされた内容はたとえば、図12のような形式にな
っている。
【0034】属性データは新規に付与するだけでなく、
図10に示すように削除、コピー、参照もできる。この
結果はファイルへの書き込み指示「W」キーにより、フ
ァイルに書き込まれる。
図10に示すように削除、コピー、参照もできる。この
結果はファイルへの書き込み指示「W」キーにより、フ
ァイルに書き込まれる。
【0035】操作属性だけでなく、あるボタンを操作す
るとその結果が別のボタンなどに関連しているような操
作対象の親子関係も指示できるようになっている。ここ
では図10に示すように親は幾つでも子をもてる(つま
り、従属して変わるものはいくつでもよい)が、子は親
を一つしかもてない(操作に影響を与える親は一つ)よ
うになっている。この親子関係は図12に示すような形
式で、操作属性記憶部10に記憶される。また、操作属
性を付与している最中に、図9に示すように左下の画面
Cの現在の親子関係が示されている。
るとその結果が別のボタンなどに関連しているような操
作対象の親子関係も指示できるようになっている。ここ
では図10に示すように親は幾つでも子をもてる(つま
り、従属して変わるものはいくつでもよい)が、子は親
を一つしかもてない(操作に影響を与える親は一つ)よ
うになっている。この親子関係は図12に示すような形
式で、操作属性記憶部10に記憶される。また、操作属
性を付与している最中に、図9に示すように左下の画面
Cの現在の親子関係が示されている。
【0036】つまり、仮想の訓練機として用いる場合の
システムであって、事故現象およびそれにともなう訓練
対象システムの内部状態をシミュレートするシミュレー
タ部12を有し、レバーやボタンなどの操作対象はここ
に操作の際、可動の範囲が決まっているので、これらを
あらかじめ可能な操作の属性として、提示部5に提示す
るための3次元CGデータとあわせて操作属性記憶手段
に記憶しておく。情報管理部は動作解析部3により解釈
された操作指示をシミュレータ部12に伝達し、シミュ
レータの演算結果を提示部5に提示するなどの情報管理
を行う。さらに動作記述記憶部4は解釈の効率と正確度
の向上のために、検知された親指と人差し指の位置、お
よび提示部の3つの位置と操作属性記憶部10に記憶さ
れた操作の属性とをもとづいて規則を記述してなり、操
作指示を解釈するように改良されている。
システムであって、事故現象およびそれにともなう訓練
対象システムの内部状態をシミュレートするシミュレー
タ部12を有し、レバーやボタンなどの操作対象はここ
に操作の際、可動の範囲が決まっているので、これらを
あらかじめ可能な操作の属性として、提示部5に提示す
るための3次元CGデータとあわせて操作属性記憶手段
に記憶しておく。情報管理部は動作解析部3により解釈
された操作指示をシミュレータ部12に伝達し、シミュ
レータの演算結果を提示部5に提示するなどの情報管理
を行う。さらに動作記述記憶部4は解釈の効率と正確度
の向上のために、検知された親指と人差し指の位置、お
よび提示部の3つの位置と操作属性記憶部10に記憶さ
れた操作の属性とをもとづいて規則を記述してなり、操
作指示を解釈するように改良されている。
【0037】以上にように本実施例によれば、レバーの
動く範囲やポジションなどの操作属性が限定されている
ので、この範囲を逸脱しないように情報管理部1が動作
解析部3の解析したジェスチャと位置センサ6からの座
標値により、確実な操作を実行できるので、その効果は
大きい。
動く範囲やポジションなどの操作属性が限定されている
ので、この範囲を逸脱しないように情報管理部1が動作
解析部3の解析したジェスチャと位置センサ6からの座
標値により、確実な操作を実行できるので、その効果は
大きい。
【0038】
【発明の効果】本発明では、親指と人差し指のわずか2
本の指の位置を検知するだけなので、装備をつけるとし
ても軽量ですみ、違和感なく自然で正確な操作を安価に
行うことが出来るので、その効果は大きい。
本の指の位置を検知するだけなので、装備をつけるとし
ても軽量ですみ、違和感なく自然で正確な操作を安価に
行うことが出来るので、その効果は大きい。
【図1】 実施例の概略構成図。
【図2】 操作方法を示す図。
【図3】 受信部が受け取る位置データの例を示す図。
【図4】 動作記述記憶部における動作記述例を示す
図。
図。
【図5】 動作記述記憶部における動作記述例を示す
図。
図。
【図6】 動作記述記憶部における動作記述例を示す
図。
図。
【図7】 動作の流れを示す図。
【図8】 他の実施例の概略構成図。
【図9】 画面例を示す図。
【図10】 入力例を示す図。
【図11】 操作属性記憶部における記憶例を示す図。
【図12】 操作属性記憶部における属性データの記憶
例を示す図。
例を示す図。
【図13】 操作属性記憶部における親子関係の記憶例
を示す図。
を示す図。
1…情報管理部、 2…受信部、 3…動作解析部、
4…動作記述記憶部、5…提示部、 6…位置センサ、
7…位置ソース、 8…送信部、 9…外形記憶部、
10…操作属性記憶部、 11…入力部
4…動作記述記憶部、5…提示部、 6…位置センサ、
7…位置ソース、 8…送信部、 9…外形記憶部、
10…操作属性記憶部、 11…入力部
Claims (3)
- 【請求項1】操作対象を提示手段に提示し、 操作者の指の位置を検知し、 検知された指の位置と、前記提示手段の位置をもとに前
記提示手段に提示された操作対象に対する操作指示を解
釈することを特徴とする仮想操作方法。 - 【請求項2】3次元CGを用いて仮想の3次元空間に操
作対象を提示する提示手段と、 親指と人差し指の位置を検知する位置検知手段と、 位置検知手段が検知した親指と、人差し指の位置と、提
示手段の位置の3つの座標位置の関係に基づいて、予め
記述された規則を基に操作指示を解釈する解釈手段とか
ら公正することを特徴とする仮想操作装置。 - 【請求項3】操作対象を提示する提示手段と、 この提示手段に提示される操作対象のナイフの処理をシ
ミュレートするシミュレータ手段と、 前記操作対象毎に操作の属性を前記提示手段に提示する
ための図形データとあわせて記憶する操作属性記憶手段
と、 指の位置を検知する操作属性検知手段と、 この位置検知手段によって検知された指の位置と、前記
提示手段の位置及び前記操作属性記憶手段に記憶された
操作の属性とを基に前記提示手段に対する操作指示を解
釈する解釈手段と、 この解釈手段により解釈された操作指示を前記シミュレ
ータ手段に伝達し、その結果を前記提示手段に提示する
ための制御を行う情報管理手段とを具備することを特徴
とする仮想操作装置。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP5234372A JPH0793088A (ja) | 1993-09-21 | 1993-09-21 | 仮想操作装置及び方法 |
| US08/612,076 US5670987A (en) | 1993-09-21 | 1996-03-07 | Virtual manipulating apparatus and method |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP5234372A JPH0793088A (ja) | 1993-09-21 | 1993-09-21 | 仮想操作装置及び方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0793088A true JPH0793088A (ja) | 1995-04-07 |
Family
ID=16969980
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP5234372A Pending JPH0793088A (ja) | 1993-09-21 | 1993-09-21 | 仮想操作装置及び方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0793088A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007052702A (ja) * | 2005-08-19 | 2007-03-01 | Sony Computer Entertainment Inc | 入力装置、入力方法、コンピュータプログラム、半導体デバイス |
| WO2011033922A1 (ja) * | 2009-09-16 | 2011-03-24 | ブラザー工業株式会社 | 入力システム、入力装置及び入力方法 |
-
1993
- 1993-09-21 JP JP5234372A patent/JPH0793088A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007052702A (ja) * | 2005-08-19 | 2007-03-01 | Sony Computer Entertainment Inc | 入力装置、入力方法、コンピュータプログラム、半導体デバイス |
| WO2011033922A1 (ja) * | 2009-09-16 | 2011-03-24 | ブラザー工業株式会社 | 入力システム、入力装置及び入力方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5670987A (en) | Virtual manipulating apparatus and method | |
| USRE40891E1 (en) | Methods and apparatus for providing touch-sensitive input in multiple degrees of freedom | |
| US6597347B1 (en) | Methods and apparatus for providing touch-sensitive input in multiple degrees of freedom | |
| CN114174960B (zh) | 虚拟环境中的投影投射 | |
| US5729249A (en) | Touch sensitive input control device | |
| Surale et al. | Tabletinvr: Exploring the design space for using a multi-touch tablet in virtual reality | |
| EP3436907B1 (en) | Remote hover touch system and method | |
| US10417827B2 (en) | Syndication of direct and indirect interactions in a computer-mediated reality environment | |
| JP6116064B2 (ja) | 車両インターフェース用ジェスチャ基準制御システム | |
| KR101318244B1 (ko) | 3차원 사용자 인터페이스 구현 시스템 및 구현 방법 | |
| EP1804154A2 (en) | Computer input device enabling three degrees of freedom and related input and feedback methods | |
| EP3234742A2 (en) | Methods and apparatus for high intuitive human-computer interface | |
| KR20030024681A (ko) | 3차원 휴먼 컴퓨터 인터페이스 | |
| JPH0269798A (ja) | デイスプレイされたオブジエクトを回転する方法 | |
| JPH0793088A (ja) | 仮想操作装置及び方法 | |
| KR102322968B1 (ko) | 사용자의 손동작에 따른 명령 입력 장치 및 이를 이용한 명령 입력 방법 | |
| JPH04257014A (ja) | 入力装置 | |
| KR101121746B1 (ko) | 3차원 사용자 인터페이스를 위한 손동작 기반 사용자 인터랙션 방법 및 장치 | |
| JPH06236234A (ja) | 仮想環境におけるマルチモードのジェスチャ方式対話法 | |
| JPH03109631A (ja) | 3次元グラフィックの接触感フィードバック装置 | |
| CN116880732B (zh) | 海图作业投影辅助的交互方法及交互装置 | |
| Thompson III | Evaluation of a commodity VR interaction device for gestural object manipulation in a three dimensional work environment | |
| EP3374847B1 (en) | Controlling operation of a 3d tracking device | |
| Fukuchi | Concurrent Manipulation of Multiple Components on Graphical User Interface | |
| Flasar | 3D interaction in virtual environment |