JP2013125247A - ヘッドマウントディスプレイ及び情報表示装置 - Google Patents
ヘッドマウントディスプレイ及び情報表示装置 Download PDFInfo
- Publication number
- JP2013125247A JP2013125247A JP2011275573A JP2011275573A JP2013125247A JP 2013125247 A JP2013125247 A JP 2013125247A JP 2011275573 A JP2011275573 A JP 2011275573A JP 2011275573 A JP2011275573 A JP 2011275573A JP 2013125247 A JP2013125247 A JP 2013125247A
- Authority
- JP
- Japan
- Prior art keywords
- image
- display
- input operation
- operation surface
- detection target
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Abandoned
Links
Images
Classifications
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/033—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
- G06F3/0354—Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of two-dimensional [2D] relative movements between the device, or an operating part thereof, and a plane or surface, e.g. 2D mice, trackballs, pens or pucks
- G06F3/03547—Touch pads, in which fingers can move on a surface
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/03—Arrangements for converting the position or the displacement of a member into a coded form
- G06F3/041—Digitisers, e.g. for touch screens or touch pads, characterised by the transducing means
- G06F3/0416—Control or interface arrangements specially adapted for digitisers
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04842—Selection of displayed objects or displayed text elements
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0487—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser
- G06F3/0488—Interaction techniques based on graphical user interfaces [GUI] using specific features provided by the input device, e.g. functions controlled by the rotation of a mouse with dual sensing arrangements, or of the nature of the input device, e.g. tap gestures based on pressure sensed by a digitiser using a touch-screen or digitiser, e.g. input of commands through traced gestures
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/017—Head mounted
- G02B2027/0178—Eyeglass type
-
- G—PHYSICS
- G02—OPTICS
- G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
- G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
- G02B27/01—Head-up displays
- G02B27/0179—Display position adjusting means not related to the information to be displayed
- G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0481—Interaction techniques based on graphical user interfaces [GUI] based on specific properties of the displayed interaction object or a metaphor-based environment, e.g. interaction with desktop elements like windows or icons, or assisted by a cursor's changing behaviour or appearance
- G06F3/04815—Interaction with a metaphor-based environment or interaction object displayed as three-dimensional [3D], e.g. changing the user viewpoint with respect to the environment or object
-
- G—PHYSICS
- G06—COMPUTING OR CALCULATING; COUNTING
- G06F—ELECTRIC DIGITAL DATA PROCESSING
- G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
- G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
- G06F3/048—Interaction techniques based on graphical user interfaces [GUI]
- G06F3/0484—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range
- G06F3/04845—Interaction techniques based on graphical user interfaces [GUI] for the control of specific functions or operations, e.g. selecting or manipulating an object, an image or a displayed text element, setting a parameter value or selecting a range for image manipulation, e.g. dragging, rotation, expansion or change of colour
Landscapes
- Engineering & Computer Science (AREA)
- General Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Physics & Mathematics (AREA)
- General Physics & Mathematics (AREA)
- Human Computer Interaction (AREA)
- Optics & Photonics (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
- Position Input By Displaying (AREA)
- Control Of Indicators Other Than Cathode Ray Tubes (AREA)
Abstract
【課題】ユーザの直感に即し、優れた操作性を有するヘッドマウントディスプレイ及び情報表示装置を提供する。
【解決手段】本技術の一形態に係るヘッドマウントディスプレイは、受信部と、画像表示素子と、表示処理部とを具備する。上記受信部は、入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する。上記画像表示素子は、ユーザに提示される画像を形成する。上記表示処理部は、上記操作信号に基づき、上記画像に上記検出対象の位置を示す補助画像が重畳した操作画像を、上記画像表示素子に表示させる。
【選択図】図6
【解決手段】本技術の一形態に係るヘッドマウントディスプレイは、受信部と、画像表示素子と、表示処理部とを具備する。上記受信部は、入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する。上記画像表示素子は、ユーザに提示される画像を形成する。上記表示処理部は、上記操作信号に基づき、上記画像に上記検出対象の位置を示す補助画像が重畳した操作画像を、上記画像表示素子に表示させる。
【選択図】図6
Description
本技術は、ヘッドマウントディスプレイ及び情報表示装置に関する。
ユーザの頭部に装着され、眼前に配置されたディスプレイ等によってユーザ個人に画像を提示することが可能な、ヘッドマウントディスプレイ(HMD)が知られている。HMDとしては、外光を透過させず、ユーザに所定の画像のみを表示する非透過型HMDと、ユーザに外界を視認させつつ、例えば所定の画像をユーザの視界に重ねて表示する透過型HMDとに分類される。例えば特許文献1には、HMD本体にボタン等の操作入力部を配置した非透過型HMDが記載されている。
一方、近年、情報処理装置等への入力方法として、占有面積が大きく多様化に限界があるボタン等に替わり、指示項目(GUI:Graphical User Interface)を切り替えてユーザに多数のGUIを提示可能なタッチパネル方式が主流となりつつある。そこで、特許文献2には、ユーザの視野範囲にタッチパネルの入力操作面を配置して入力操作を行う、透過型のHMDが記載されている。
しかしながら、特許文献2に記載の透過型HMDでは、タッチパネルの入力操作面をHMDを介した視野範囲に配置して使用しなくてはならず、入力操作と画像上の表示との矛盾が生じやすく、操作性に問題があった。
以上のような事情に鑑み、本技術の目的は、ユーザの直感に即し、優れた操作性を有するヘッドマウントディスプレイ及び情報表示装置を提供することにある。
上記目的を達成するため、本技術の一形態に係るヘッドマウントディスプレイは、受信部と、画像表示素子と、表示処理部とを具備する。
上記受信部は、入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する。
上記画像表示素子は、ユーザに提示される画像を形成する。
上記表示処理部は、上記操作信号に基づき、上記画像に上記検出対象の位置を示す補助画像が重畳した操作画像を、上記画像表示素子に表示させる。
上記受信部は、入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する。
上記画像表示素子は、ユーザに提示される画像を形成する。
上記表示処理部は、上記操作信号に基づき、上記画像に上記検出対象の位置を示す補助画像が重畳した操作画像を、上記画像表示素子に表示させる。
上記ヘッドマウントディスプレイ(HMD)を装着することで、ユーザは、入力操作面に近接する指等の検出対象の相対位置に関する情報を、HMDによって提示される操作画像中の補助画像によって視認することができる。これにより、ユーザは、入力操作面を確認することなく、HMDによる操作画像を見ながら直感に即した操作を行うことが可能となる。
上記ヘッドマウントディスプレイにおいて、上記受信部は、上記入力デバイスから出力される画像信号をさらに受信し、上記表示処理部は、上記画像信号に基づき、上記画像を上記画像表示素子に表示させてもよい。
このような構成のHMDは、専用の入力デバイスだけではなく、例えばタッチパネルが搭載された携帯端末等を入力デバイスとして用いることが可能となる。これにより、上記HMDによって携帯端末等の多様なアプリケーション等を使用することが可能となる。
このような構成のHMDは、専用の入力デバイスだけではなく、例えばタッチパネルが搭載された携帯端末等を入力デバイスとして用いることが可能となる。これにより、上記HMDによって携帯端末等の多様なアプリケーション等を使用することが可能となる。
上記表示処理部は、上記操作信号に基づき、上記画像の表示領域において上記補助画像を移動させてもよい。
これにより、ユーザは、上記操作画像によって、入力操作面上に接触する検出対象の経時的な相対位置を確認することができ、より操作性を高めることが可能となる。
これにより、ユーザは、上記操作画像によって、入力操作面上に接触する検出対象の経時的な相対位置を確認することができ、より操作性を高めることが可能となる。
また、上記操作信号は、上記入力操作面に対する上記検出対象の近接距離に関する情報を含み、上記表示処理部は、上記入力操作面に対する上記検出対象の近接距離に応じて上記補助画像の表示形態を変化させてもよい。
これにより、上記HMDは、例えばユーザの入力操作面からの高さ位置の変化を操作画像上に反映することができる。これにより、操作画像を見ながら入力操作面に対する操作位置を知ることができるため、絶対位置へのタッチ入力操作性が高まり、直感的で快適な入力操作を行うことができる。
これにより、上記HMDは、例えばユーザの入力操作面からの高さ位置の変化を操作画像上に反映することができる。これにより、操作画像を見ながら入力操作面に対する操作位置を知ることができるため、絶対位置へのタッチ入力操作性が高まり、直感的で快適な入力操作を行うことができる。
上記ヘッドマウントディスプレイは、上記操作信号に基づいて、上記入力操作面上の上記検出対象の座標位置を算出する演算部をさらに具備し、上記表示処理部は、上記演算部で算出された上記検出対象の座標位置に基づき、上記操作画像を上記画像表示素子に表示させてもよい。
上記ヘッドマウントディスプレイは、入力デバイスから検出された信号を処理することができ、単純な装置構成の入力デバイスにも適用することが可能となる。
上記ヘッドマウントディスプレイは、入力デバイスから検出された信号を処理することができ、単純な装置構成の入力デバイスにも適用することが可能となる。
上記目的を達成するため、本技術の一形態に係る情報表示装置は、入力デバイスと、ヘッドマウントディスプレイとを具備する。
上記入力デバイスは、入力操作面と、上記入力操作面に対する検出対象の近接を検出し、上記入力操作面上の上記検出対象の座標位置に関する情報を出力するセンサ部と、を有する。
上記ヘッドマウントディスプレイは、ユーザに提示される画像を形成する画像表示素子と、上記センサ部の出力に基づき、上記画像に上記検出対象の位置を示す補助画像が重畳した操作画像を、上記画像表示素子に形成させる表示処理部と、を有する。
上記入力デバイスは、入力操作面と、上記入力操作面に対する検出対象の近接を検出し、上記入力操作面上の上記検出対象の座標位置に関する情報を出力するセンサ部と、を有する。
上記ヘッドマウントディスプレイは、ユーザに提示される画像を形成する画像表示素子と、上記センサ部の出力に基づき、上記画像に上記検出対象の位置を示す補助画像が重畳した操作画像を、上記画像表示素子に形成させる表示処理部と、を有する。
上記情報表示装置は、ヘッドマウントディスプレイによって入力デバイスへの入力操作に基づいた画像をユーザに提示することができ、ユーザは、入力操作面を確認することなく直感に即した操作を行うことが可能となる。
上記目的を達成するため、本技術の他の形態に係る上表表示装置は、入力デバイスと、ヘッドマウントディスプレイとを具備する。
上記入力デバイスは、入力操作面と、上記入力操作面に対する検出対象の近接を検出するセンサ部と、を有する。
上記ヘッドマウントディスプレイは、ユーザに提示される画像を形成する画像表示素子と、上記センサ部の出力に基づいて上記入力操作面上の上記検出対象の座標位置を算出する演算部と、上記演算部で算出された上記検出対象の座標位置に基づき、上記画像に検出対象の位置を示す補助画像が重畳した操作画像を上記画像表示素子に形成させる表示処理部と、を有する。
上記入力デバイスは、入力操作面と、上記入力操作面に対する検出対象の近接を検出するセンサ部と、を有する。
上記ヘッドマウントディスプレイは、ユーザに提示される画像を形成する画像表示素子と、上記センサ部の出力に基づいて上記入力操作面上の上記検出対象の座標位置を算出する演算部と、上記演算部で算出された上記検出対象の座標位置に基づき、上記画像に検出対象の位置を示す補助画像が重畳した操作画像を上記画像表示素子に形成させる表示処理部と、を有する。
上記情報表示装置は、入力デバイスの構成を単純なものとすることができる。これにより、入力デバイスの軽量化等が実現でき、長時間の操作においても疲労感の少ない情報表示装置を提供することができる。
以上のように、本技術によれば、ユーザの直感に即し、優れた操作性を有するヘッドマウントディスプレイ及び情報表示装置を提供することが可能となる。
以下、本技術に係る実施形態を、図面を参照しながら説明する。
<第1の実施形態>
[情報表示装置]
図1は、本技術の一実施形態に係る情報表示装置を示す模式的な斜視図である。本実施形態の情報表示装置100は、ヘッドマウントディスプレイ(HMD)1と、入力デバイス2とを有する。
[情報表示装置]
図1は、本技術の一実施形態に係る情報表示装置を示す模式的な斜視図である。本実施形態の情報表示装置100は、ヘッドマウントディスプレイ(HMD)1と、入力デバイス2とを有する。
HMD1は、本実施形態において、透過型HMDとして構成される。HMD1は、全体としてメガネ型の形状を有し、ユーザが頭部に装着して外界を視認しつつ、入力デバイス2から出力された情報に基づく画像をユーザに提示させることが可能に構成される。
入力デバイス2は、無線でHMD1と通信可能に接続されているが、ケーブル等によって有線でHMD1と通信可能に構成されてもよい。本実施形態では、入力デバイス2は、例えばタッチパネルを有する携帯端末で構成され、インターネット等にも接続されることが可能に構成される。また、入力デバイス2は、HMD1のいわゆるリモートコントローラとして機能し、HMD1の各種設定等に関する入力操作が可能に構成されることも可能である。
以下、入力デバイス2及びHMD1について説明する。
[入力デバイス]
入力デバイス2は、例えばユーザが把持できる大きさの筐体2Aを有する。筐体2Aは、X軸方向に長手方向、Y軸方向に短手方向、Z軸方向に厚み方向を有する略直方体であり、筐体2Aの一方の表面には入力操作面21が形成されている。入力操作面21は、X軸及びこれに直交するY軸に座標軸を有する2次元的な座標系に属し、X軸方向に平行な長辺と、Y軸方向に平行な短辺とを有する、Z軸に垂直な矩形状を有する。
入力デバイス2は、例えばユーザが把持できる大きさの筐体2Aを有する。筐体2Aは、X軸方向に長手方向、Y軸方向に短手方向、Z軸方向に厚み方向を有する略直方体であり、筐体2Aの一方の表面には入力操作面21が形成されている。入力操作面21は、X軸及びこれに直交するY軸に座標軸を有する2次元的な座標系に属し、X軸方向に平行な長辺と、Y軸方向に平行な短辺とを有する、Z軸に垂直な矩形状を有する。
入力デバイス2は、例えばユーザの手指を検出対象とし、入力操作面21をタッチする指のxy座標位置及びその変化を検出する機能を有する。入力デバイス2はさらに、入力操作面21に対する指の近接を検出する機能を有し、入力操作面21からの指の高さ位置に関する情報を出力する。これにより、入力操作面21上における指の移動方向、移動速度、移動量等とともに、入力操作面21からの指の離間距離が取得される。なお、検出対象はユーザの指に限られず、スタイラス等とすることもできる。
入力操作面21は、本実施形態において、光透過性の表示カバー等で構成され、検出対象による入力操作が行われるとともに、画像を表示させる画面としての機能も有する。入力操作面21は、例えば、筐体2Aの表面に形成された開口部21Aを覆うように配置され、周縁が筐体2Aに固定される。また、入力操作面21は、所定以上の接触圧に対して撓み変形が可能なように、その材料、厚み及び大きさ等が設定される。入力操作面21を構成する材料としては、例えば、アクリル樹脂、ポリカーボネート樹脂、PET(ポリエチレンテレフタレート)等の透明プラスチック板、ガラス板、セラミックス板等が採用される。
図2は、入力デバイス2の内部構成を示すブロック図である。入力デバイス2は、筐体2Aと、入力操作面21と、タッチセンサ22と、表示素子24と、制御部25と、記憶部26と、送受信器27と、通信部28と、バッテリBTとを有する。タッチセンサ22は、本実施形態において「センサ部」を構成する。
タッチセンサ22は、入力操作面21とほぼ同一の形状及び大きさのパネル形状を有する。タッチセンサ22は、入力操作面21の直下に配置され、入力操作面21に接触する検出対象(指)を検出する。タッチセンサ22は、入力操作面21上の検出対象のxy平面上での動きに対応する座標位置を検出し、その座標位置に応じた検出信号を出力する。
タッチセンサ22は、本実施形態において、入力操作面21に接触する検出対象を静電的に検出することが可能な静電容量方式のタッチパネルが用いられる。静電容量方式のタッチパネルは、プロジェクテッドキャパシティブ式(投影型)でもよいし、サーフェイスキャパシティブ式(表面型)でもよい。この種のタッチセンサ22は、典型的には、y軸方向に平行な第1の配線がx軸方向に複数配列されたx位置検出用の第1のセンサ電極22xと、x軸方向に平行な第2の配線がy軸方向に複数配列された位置検出用の第2のセンサ電極22yとを有し、これら第1及び第2のセンサ電極22x,22yはz軸方向に相互に対向して配置される。タッチセンサ22は、例えば後述する制御部25に含まれる駆動回路によって、第1及び第2の配線へ信号電流が順次供給される。
上記以外にも、タッチセンサ22としては、検出対象の座標位置を検出できるセンサであれば特に限定されず、抵抗膜式、赤外線式、超音波式、表面弾性波式、音響波照合式、赤外線イメージセンサなどの種々のタイプが適用可能である。
表示素子24は、入力操作面21及びタッチセンサ22の直下に配置される。本実施形態における表示素子24としては特に限られず、液晶ディスプレイや有機ELディスプレイ等を用いることが可能である。これにより、入力操作面21に文字や絵柄等の画像を表示させることが可能となる。
制御部25は、典型的には、CPU(Central Processing Unit)あるいはMPU(Micro-Processing Unit)で構成される。本実施形態において制御部25は、演算部251と信号生成部252とを有し、記憶部26に格納されたプログラムに従って各種機能を実行する。演算部251は、タッチセンサ22から出力される電気的な信号に対して所定の演算処理を実行し、入力操作面21に近接する検出対象の相対位置に関する情報を含む操作信号を生成する。信号生成部252は、これらの演算結果に基づいて、表示素子24に画像を表示させるための画像信号を生成する。制御部25は、タッチセンサ22を駆動するための駆動回路を有し、本実施形態において当該駆動回路は演算部251に組み込まれる。
演算部251は、具体的には、タッチセンサ22から出力される信号に基づいて、入力操作面21上における指のxy座標位置、及び、入力操作面21からの指の高さ位置(近接距離)を算出する。また演算部251は、上記算出結果に基づき、例えば、検出対象が所定のxy座標位置にあることが検出される。さらに演算部251は、その座標位置において入力操作面21への指のタッチ(入力操作面21に対する指の最近接距離)を検出した場合、その座標位置に対応するGUIに割り当てられた所定の処理を実行する。演算部251によるこれらの処理結果は、信号生成部252に送信される。
本実施形態では、例えば、セルフキャパシタンス方式と呼ばれる検出方式で、各センサ電極22x,22yの静電容量をそれぞれ個別に検出する。セルフキャパシタンス方式は単電極方式とも呼ばれ、センシングに用いる電極は1つである。センシング用の電極は、接地電位に対して浮遊容量をもっている。この電極に、人体(指)などの接地された検出対象物が近づくと、当該電極の浮遊容量は増加する。演算部251は、この容量増加を検出することで、入力操作面21に対する指の近接距離や入力操作面21上の指の位置座標を算出する。演算部251は、容量増加量が所定の閾値以上となったとき入力操作面21への指の接触(タッチ)を判定する。
ここで、入力操作面21に相対する指の位置は、操作を行う指と入力操作面21との距離が最短となる点と定義される。図3は、非接触検知可能な入力操作面(タッチパネル面)21をXY平面、XY平面から垂直方向ユーザ側を+ZとしたときのXYZ空間を示している。本実施形態では、タッチパネルの指位置検出可能領域(ただしZ≧0のみ)において、操作を行う手(片手/両手操作のどちらも含む。)とタッチパネルの距離が最短となる点が、指位置(x,y,z)と定義される。z座標は、入力操作面21に対する指の近接距離に相当し、演算部251は、タッチセンサ22の容量増加量が容量増加量の上記所定の閾値以上となったとき、z=0と判定する。
信号生成部252では、演算部251から送信された処理結果に基づき、表示素子24に表示させる表示画像を形成するための画像信号を生成する。この際、信号生成部252は、入力操作面21上の画像の検出対象のxy座標位置に対応する位置にポインタ等の補助画像を表示させる信号を生成することも可能である。また、信号生成部252は、検出対象の接触圧に応じて、補助画像の表示形態を変化させる信号を生成することも可能である。
制御部25の演算部251で算出された指のxy座標位置及び近接距離に関する操作信号と、信号生成部252で生成された画像信号とは、送受信器27を介してHMD1へ送信されるように構成される。また図示せずとも、入力デバイス2は、タッチセンサ22から出力される検出信号(アナログ信号)をデジタル信号に変換するA/Dコンバータや、デジタル信号をアナログ信号に変換するD/Aコンバータを含む。
記憶部26は、RAM(Random Access Memory)、ROM(Read Only Memory)及びその他の半導体メモリ等で構成され、制御部25による種々の演算に用いられるプログラム等を格納する。例えば、ROMは、不揮発性メモリで構成され、制御部25に検出対象のxy座標位置及び近接距離の算出等の演算処理を実行させるためのプログラムや設定値を格納する。また、記憶部26は、例えば不揮発性の半導体メモリによって、検出対象のxy座標位置及び近接距離と、これらに対応して割り当てられた機能を実行するためのプログラム等を格納することが可能となる。さらに、半導体メモリ等に予め格納されたこれらのプログラムは、RAMにロードされ、制御部25の演算部251によって実行されるようにしてもよい。
送受信器27は、制御部25によって生成された各種制御信号を、例えば無線でHMD1へ送信可能に構成される。また送受信器27は、HMD1から送信される所定の信号を受信可能に構成される。一方、通信部28は、インターネット等の通信網と接続される。通信部28は、例えばアプリケーション等の所定のプログラムを入力デバイス2にダウンロードする際に用いられる。通信部28における情報の送受信は、LANケーブル等を用いた有線によるものでもよいし、高速データ通信等の無線によるものでもよい。
バッテリBTは、入力デバイス2の電源を構成し、筐体2A内部の各部へ必要な電力を供給する。バッテリBTは、一次電池でもよいし、二次電池でもよい。またバッテリBTは、太陽電池で構成されてもよい。さらに、入力デバイス2は、押圧により入力デバイス2の起動等を制御する図示しない外部スイッチを有することも可能である。
入力デバイス2は、情報表示装置100に専用の装置として構成されてもよいが、携帯機器等のような独立した電子機器として構成されてもよい。これにより、HMD1に接続しない場合でも、タッチディスプレイ付きの情報表示端末としてHMD1とは独立して使用することが可能となる。
[HMD]
HMD1は透過型HMDであり、ユーザに外界を視認させつつ、その視野領域に所定の画像を提示することが可能に構成される。本実施形態に係るHMD1は、画像表示装置11と、支持部16とを有し、全体としてメガネ型の形状を有する。例えば、HMD1として透過型のHMDを採用することにより、入力デバイス2の操作中であっても外界を視認することが可能となり、操作中の安全性を向上させることができる。
HMD1は透過型HMDであり、ユーザに外界を視認させつつ、その視野領域に所定の画像を提示することが可能に構成される。本実施形態に係るHMD1は、画像表示装置11と、支持部16とを有し、全体としてメガネ型の形状を有する。例えば、HMD1として透過型のHMDを採用することにより、入力デバイス2の操作中であっても外界を視認することが可能となり、操作中の安全性を向上させることができる。
支持部16は、ユーザの頭部に装着されることが可能であり、装着時に、後述する画像表示素子14がユーザの眼前に支持されるように構成される。支持部16の形状は特に限られないが、本実施形態において、全体としてメガネ型の形状とすることができる。支持部16は、例えば、ユーザの左右の耳に装着されることが可能なテンプル状構造を有する。支持部16の鼻梁付近には、例えばノーズパッド161が取り付けられることも可能である。また、イヤホン162が支持部16に装備されていてもよい。支持部16を構成する材料は、例えば、金属や合金、プラスチック等を採用することができ、特に制限されない。
画像表示装置11は、筐体11Aを含み、例えば支持部16の所定位置に配置される。画像表示装置11の配置は特に制限されず、例えば、筐体11Aが、ユーザの視野領域に含まれないように、ユーザの左右の目の外側に配置される。
図4は、画像表示装置11の内部構成を示すブロック図である。画像表示装置11は、本実施形態において、筐体11Aと、送受信器(受信部)12と、制御部13と、画像表示素子14と、記憶部15とを有する。本実施形態においては、制御部13が「表示処理部」を構成する。
送受信器12は、入力デバイス2の送受信器27から出力され、入力操作面21に近接する検出対象の相対位置(xy座標位置及び近接距離)に関する情報を含む操作信号を受信する。さらに、入力デバイス2の入力操作面21に表示される表示画像の画像信号を受信することも可能である。上記信号の伝送方法は特に限定されない。例えば、無線通信として、「Wi Fi」(登録商標)、「ZigBee」(登録商標)、「Bluetooth(登録商標)」などの機器間通信、またインターネットを経由した通信等を用いることができる。また、USB(Universal Serial Bus)、HDMI(High-Definition Multimedia Interface)等を介した有線によるものでも可能である。
制御部13は、典型的には、CPUあるいはMPUで構成され、記憶部15に格納されたプログラムに従って各種機能を実行する。本実施形態において制御部13は、送受信器12により受信された操作信号及び画像信号に基づき、ユーザに提示される画像を画像表示素子14に形成させるための制御信号を生成する。これにより、例えば入力操作面21に表示された表示画像と同様の画像に、検出対象の位置を示す補助画像が重畳した操作画像を、画像表示素子14に表示させることが可能となる。補助画像の形状は特に限られず、例えば環状(リング状)のポインタ、あるいは輝度、彩度の変化した領域等で構成される。
上記操作画像から補助画像が除かれた画像は、典型的には、入力操作面21の表示画像と等価である。これにより、HMD1及び入力デバイス2双方の入力操作の一貫性・統一感が高められる。ここで「等価」とは、実質的に同一という意味であり、表示輝度や表示サイズ、縦横比(アスペクト比)等の厳密な意味での同一性は要求されない。したがって上記画像には、入力操作面21の表画像と同一の画像だけに限られず、例えば、表示画像と相似な画像(当該表示画像を拡大・縮小した画像)、表示画像に比べて歪んだ画像等が含まれる。さらにHMD1に表示される画像には、入力デバイス2の表示画像や上記補助画像だけでなく、他の画像も同時にあるいは選択的に表示されてもよい。
画像表示素子14は、本実施形態において、液晶表示素子(LCD)141と、光学系142とを有し、LCD141によって形成された画像を、光学系142を介してユーザに提示するように構成される。画像表示素子14は、入力デバイス2による入力操作あるいはHMD1に装備された適宜の入力装置による入力操作によって、ユーザへ提示される画像を任意の大きさに拡大あるいは縮小できるように構成されている。
LCD141は、複数の画素がマトリクス状に配置されている。LCD141は、LED(発光ダイオード)等からなる図示しない光源から入射される光を、制御部13によって生成された制御信号に応じて画素毎に変調し、ユーザに提示される画像を形成する光を出射する。LCD141は、例えば、R(赤),G(緑),B(青)の各色に対応する画像光を同時に出射する単板方式でもよいし、各色に対応する画像光を個々に出射する3板方式でもよい。
光学系142は、LCD141から出射された光を偏向し、ユーザの目に導くことが可能に構成される。光学系142は、例えば、全反射による導光が可能な透明基板からなる導光板と、回折反射が可能な反射型体積ホログラム回折格子等とで構成されることができる。導光板は、例えば、矩形または円形の平板形状等で形成され、メガネのレンズのようにユーザの眼前に配置される。ホログラム回折格子等は、導光板内に適宜配置され、LCD141から出射される光を反射させ、ユーザの目に導くことが可能に作製される。また、ホログラム回折格子以外にも、例えば反射板等を採用することができる。
このような構成の光学系142は、LCD141から出射された光が所定位置で反射されることで、ユーザの視野領域に操作画像を提示することが可能となる。また、導光板が透明基板で形成されることによって、ユーザに外界を視認させつつ、操作画像を視野領域内に重畳的に提示することが可能となる。
記憶部15は、RAM、ROM及びその他の半導体メモリ等で構成され、制御部13による種々の演算に用いられるプログラム等を格納する。
スピーカ17は、入力デバイス2より送信され、あるいは制御部13等によって生成された電気的な音声信号を物理的な振動に変換し、イヤホン162を介してユーザに音声を提供する。なお、スピーカ17の構成は特に限られない。
なお、画像表示装置11は、両目に対応して2個配置される構成に限られない。例えば、左右一方の目のみに対応して1個配置される構成とすることも可能である。
[情報表示装置の動作例]
次に、情報表示装置100の基本的な動作例について説明する。
次に、情報表示装置100の基本的な動作例について説明する。
図5は、HMD1(制御部13)及び入力デバイス2(制御部25)の一動作例におけるフローチャートである。図6は、情報表示装置100の典型的な動作例を説明する図であり、(A)は、ユーザが入力操作を行っている入力デバイス2の入力操作面21を示し、(B)は、HMD1を介してユーザに提示される操作画面を示す。なお、図中のX軸方向及びY軸方向は、入力操作面21のX軸方向及びY軸方向にそれぞれ対応し、Z軸方向は、入力操作面21のZ軸方向に対応する。
起動された入力デバイス2の入力操作面21上には、例えば、多数のGUIが表示された画像v1(表示画像)が表示されている(図6(A))。画像v1は、例えば各種アプリケーションの選択画面であり、各GUIは、アプリケーション毎に割り当てられたアイコンである。
この際、入力デバイス2と接続され、起動されたHMD1を装着したユーザにも、HMD1を介して視野領域に画像v1と同様の画像V1が提示される。
入力デバイス2は、タッチセンサ22によって入力操作面21上でのユーザの指(検出対象)の近接を判定する(ステップST101)。近接が検出された際(ステップST101でYES)、タッチセンサ22は、指が近接した入力操作面21上のxy座標位置及び指の近接距離に関する検出信号を制御部25へ出力する。
制御部25の演算部251は、上記検出信号に基づいて、入力操作面21に近接する指のxy座標位置及びその近接距離を算出する(ステップST102)。演算部251によって算出されたxy座標位置に関する信号は、送受信器27に出力される。
送受信器27は、HMD1の送受信器12に上記xy座標位置及び近接距離に関する操作信号を送信する。
HMD1の制御部13は、送受信器12で受信した操作信号及び画像信号に基づいて、画像V1に検出対象の位置を示す補助画像(ポインタP)が重畳した操作画像V10を制御する信号を生成する。この制御信号が出力された画像表示素子14は、ユーザに操作画像V10を提示する(ステップST103、図6(B))。これにより、ユーザは、手元の入力操作面21を見ずとも、HMD1によって提示される操作画像V10上のポインタPの動きを確認することで、所望の操作を行うことが可能となり、ユーザの直感に即した操作を行うことが可能となる。なお、この際、入力操作面21に表示される画像は、画像v1のみであってもよいし、画像v1にポインタ等が重畳された画像であってもよい。
また、ユーザの指が入力操作面21上で移動した場合(図6(A),(B)における矢印参照)、経時的に変化するxy座標位置の情報がタッチセンサ22によって取得される。この情報は、入力デバイス2の制御部25によって操作信号として処理され、送受信器27、12を介してHMD1の制御部13へ出力される。これにより、制御部13は、上記操作信号に基づき、ポインタPを移動させるような制御信号をLCD141に出力することができ、ユーザの指の移動に応じて、画像V1の表示領域におけるポインタPを移動させることが可能となる。
入力デバイス2の制御部25は、算出されたxy座標位置に最も近いGUI(以下、選択GUIとする)を選択候補とする(ステップST104)。これに対応して、入力操作面21及びHMD1に表示される画像v1、V10の選択候補のGUIは、例えば枠の色彩等の表示形態を変化させてもよい。またユーザは、HMD1によって表示された画像V10を視認することで、選択候補のGUIを確認することが可能となる。
制御部25は、経時的に指と入力操作面21との近接あるいは接触状態を判定する(ステップST101〜105)。ここで、ユーザが入力操作面21から指を所定以上離間させると、タッチセンサ22は、指が近接していないときの信号を出力する。制御部25は、当該タッチセンサ22の出力に基づいて、入力操作面21と指との非接触を判定する(ステップST105でNO)。
一方、ユーザが入力操作面21をタッチすると、タッチセンサ22は、指が接触しているときの信号を出力する。制御部25は、当該タッチセンサ22の出力に基づいて、ユーザの指が入力操作面21に接触していると判定する(ステップST105でYES)。
選択候補GUIは、入力操作面21上の当該選択候補GUIの表示位置に対するユーザのタッチ操作によって選択(決定)される。制御部25は、タッチセンサ22の出力に基いて、演算部251において上記タッチ操作の有無を判定する。ここで、タッチ操作の有無は、タッチセンサ22から出力される容量値の変化量が所定の閾値以上であるか否かを基に判定される。入力操作面21に指が接触したとき(ステップST105でYES)、制御部25は、当該選択候補のGUIを選択GUIとして判定し、記憶部26に格納されたこの選択GUIに対応するプログラムを実行する(ステップST106)。起動したアプリケーション画像やウェブ画像(動画、静止画)は、入力操作面21だけでなく、HMD1の視野上にも表示される。
一方、制御部25は、算出された近接距離が所定の閾値未満の場合(ステップST106でNO)、選択候補のGUIは選択されなかったものと判定する。この場合、制御部25は、ステップST101へ戻り、上述した処理を繰り返す。
近年、タッチディスプレイ上に表示されたオブジェクト(メニュー、操作アイコン等)に直接指を触れることによって情報を入力する、いわゆる絶対位置タッチ入力操作型の携帯機器が広く普及している。このような携帯機器は、その性質上、入力操作中は常に当該機器の画面及び指の位置を見続けなければならない。このため、歩行中の操作時には前方が不注意となりがちとなり、長時間の使用時は首や腕が疲れ易いという問題があった。また映像の表示領域すなわち機器のサイズに制限されてしまうため、表示が小さく見にくい場合がある。さらに入力操作時に指で表示が隠れてしまうという問題もあった。
一方、従来のヘッドマウントディスプレイ(HMD)における入力操作は、例えば十字キー、トラックボール、タッチパッドなどの旧来型入力装置を用いるものが多く、絶対位置入力操作と比べると、直感性・操作性が劣っていた。また従来のHMDはその入力操作性の問題もあり、HMD用のインタラクティブなアプリケーションは少なく、一方的に映像・画像を表示し続けるようなもの(テレビジョン映像、ビデオ映像、スライドショーなど)に使用が限られていた。
ここで、タッチディスプレイを有する携帯機器の画面をHMDの視野上に表示し、かつこれまでと同等の絶対位置タッチ入力操作を実現できれば、タッチディスプレイ搭載機器における豊富な従来アプリケーションを、手元を見ることなく大画面で快適に使用することが可能となる。しかしながら、単にタッチディスプレイを有する携帯機器の画面をHMDの視野上に表示するだけでは、画面から指を離した際に指と画面との相対位置が分からなくなり、操作が困難となる。一方、画面を見ずに操作できるように旧来型入力装置をはじめとした専用の入力装置を使用する場合、既に絶対位置タッチ入力操作に最適化されている従来アプリケーションを修正したり、新たに作り直したりする必要がある。
これに対して本実施形態のHMD1あるいは情報表示装置100においては、入力操作面21に表示される画像v1に指の位置を示す補助画像(ポインタP)が重畳した操作画像V10がHMD1の視野上に表示されるように構成される。これによりユーザは、手元の入力操作面21を見ずとも、HMD1によって提示される操作画像V10上のポインタPの動きを確認することで所望の操作が可能となる。また、入力操作面21から指が離れた場合でも指の座標位置が操作画像V10上に表示されるため、直感的で操作性のよい絶対位置タッチ入力操作が可能となる。
また本実施形態によれば、操作画像V10をHMD1によって任意の大きさに表示することができるので、ユーザの希望に応じた大画面による快適な使用環境を提供することができる。さらにHMD1で表示される画面は指で隠れてしまうことがないため、誤操作や視認性の低下を防止することが可能となる。
さらに本実施形態によれば、HMD1として透過型ヘッドマウントディスプレイを採用しているため、前方の視野を確保しつつ入力デバイス2を操作することができる。
<第2の実施形態>
図7〜図9は、本技術の第2の実施形態を説明する図である。図7は本実施形態に係る入力デバイスの内部構成を示すブロック図であり、図8は、本実施形態のヘッドマウントディスプレイに係る画像表示装置の内部構成を示すブロック図である。図9は、情報表示装置の典型的な動作例を説明する図であり、(A)は、ユーザが入力操作を行っている入力デバイスの入力操作面を示し、(B)は、HMDを介してユーザに提示される操作画面を示す。本実施形態では、第1の実施形態の構成および作用と同様な部分についてはその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
図7〜図9は、本技術の第2の実施形態を説明する図である。図7は本実施形態に係る入力デバイスの内部構成を示すブロック図であり、図8は、本実施形態のヘッドマウントディスプレイに係る画像表示装置の内部構成を示すブロック図である。図9は、情報表示装置の典型的な動作例を説明する図であり、(A)は、ユーザが入力操作を行っている入力デバイスの入力操作面を示し、(B)は、HMDを介してユーザに提示される操作画面を示す。本実施形態では、第1の実施形態の構成および作用と同様な部分についてはその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
本実施形態の入力デバイス20は、表示素子を有さず、入力操作面210には画像が表示されない点で、上述の第1の実施形態と異なる。すなわち、タッチセンサ220によるxy座標位置の検出信号が、操作信号として、送受信器270を介してHMD10へ送信されることが可能に構成される。これにより、図9(A)のように、入力操作面210には画像が表示されず、入力デバイス20は、いわゆるタッチパネル(タッチパッド)のみを有する構成とすることができる。すなわち、本実施形態に係る入力デバイス20は、HMD10に専用のリモートコントローラとすることが可能である。
入力デバイス20は、タッチセンサ220を駆動する駆動回路を含む制御部250と、送受信器270、必要に応じて搭載される通信部280の動作を制御するプログラム等を格納する記憶部260とを有する。入力デバイス20の入力操作面210は、本実施形態において、検出対象による入力操作が行われるのみであるため、光透過性を有しない材料で構成することが可能である。タッチセンサ220は、上述の第1の実施形態において説明したタッチセンサ22と同様の構成を有しているため、その説明は省略する。
HMD10の画像表示装置110に係る制御部130は、本実施形態において、演算部131と表示処理部132とを有する。演算部131では、入力デバイス20のタッチセンサ220から出力される操作信号に基づいて、指のxy座標位置を算出する。表示処理部132では、演算部131から入力された処理結果に基づき、画像表示素子140に表示させる画像を形成するための画像信号を生成する。この際、表示処理部132は、入力操作面210上の画像の検出対象のxy座標位置に対応する位置にポインタ等の補助画像を表示させる信号を生成する。これにより、図9(B)に示されるように、HMD10は、第1の実施形態に係る操作画像V10と同様の操作画像V30をユーザに表示することが可能となる。
さらに、HMD10によってユーザに提示される画像は、インターネット等から入力デバイス20の通信部280を介して取得されてもよい。また、HMD10に通信部170を設けて、HMD10によって直接取得された情報に基づいて上記画像が生成されてもよい。さらには操作画面の表示に必要なプログラム(オペレーティングシステム、アプリケーションソフトウェア)がHMD10の制御部130によって実行可能なように、HMD10の記憶部150に格納されてもよい。
本実施形態においては、入力デバイス20の構成を簡略化することが可能である。これにより、入力デバイス20を小型化、軽量化することが可能となり、長時間のタッチ操作でも疲れにくく、持ち運びも容易な入力デバイス20を提供することが可能となる。
<第3の実施形態>
図10は、本技術の第3の実施形態に係る入力デバイスの内部構成を示すブロック図である。本実施形態では、第1の実施形態の構成および作用と同様な部分についてはその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
図10は、本技術の第3の実施形態に係る入力デバイスの内部構成を示すブロック図である。本実施形態では、第1の実施形態の構成および作用と同様な部分についてはその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
本実施形態の入力デバイス30は、HMD1と通信可能な携帯端末31と、携帯端末31と無線または有線で電気的に接続可能なセンサパネル32とを有しており、携帯端末31とセンサパネル32とがそれぞれ別個の部材として構成されている点で、第1の実施形態と異なっている。
携帯端末31は、第1の実施形態に係る入力デバイス2と同様の機能を有するが、ユーザの操作位置(指)を検出するタッチセンサを備えておらず、センサパネル32から出力される操作位置の座標信号に基づいて、制御部25により座標位置及び近接距離を算出するように構成されている。携帯端末31の送受信器27は、センサパネル32から送信されるタッチセンサ322の出力を受信する機能と、制御部25において生成された操作信号をHMD1へ送信する機能とを有する。
センサパネル32は、入力操作面321と、入力操作面321に対する検出対象の座標位置及び近接距離に関する情報を出力可能なタッチセンサ322と、タッチセンサ322を駆動する駆動部323と、タッチセンサ322の出力を携帯端末31へ送信する送信器324とを有する。タッチセンサ322は、上述の第1の実施形態において説明したタッチセンサ22と同様の構成を有しているため、その説明は省略する。
本実施形態に係る情報表示装置においては、センサパネル32に入力された入力信号は携帯端末31を介してHMD1へ送信される。このため、携帯端末31がユーザの指の非接触検知機能を備えていない場合でも、上述の第1の実施形態と同様の作用効果を得ることが可能となる。
<第4の実施形態>
図11〜図13は本技術の第4の実施形態を説明する図である。本実施形態では、第1の実施形態の構成および作用と同様な部分については同一の符号を付すとともにその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
図11〜図13は本技術の第4の実施形態を説明する図である。本実施形態では、第1の実施形態の構成および作用と同様な部分については同一の符号を付すとともにその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
本実施形態においては、入力操作面21に対する検出対象(指)の近接距離に応じて補助画像(ポインタ)P4の表示形態を変化させる点で第1の実施形態と異なる。
図11及び図12は、入力操作面21と指Fとの距離zが大きいほど画像V4上の環状のポインタP4が大きく表示される例を示している。図11(A),(B)は、入力操作面21から指Fが距離zだけ離れているときの様子(第1の状態)を示し、図12(A),(B)は、入力操作面21に指Fが距離zよりも小さい距離で接近しているときの様子(第2の状態)を示している。
このように指Fと入力操作面21との相対距離に応じてポインタP4の大きさを変化させることで、ユーザにとっては入力操作面21に対する指Fの離間距離あるいは近接距離の判断が容易となる。これにより絶対位置タッチ入力操作性を高めることができる。
一方、図13(A)は上記第1の状態における画像V4上のポインタP4の表示形態を示し、図13(B)は上記第2の状態における画像V4上のポインタP4の表示形態を示している。本例では、入力操作面21に対して指Fが接近するほどポインタP4の表示濃度を濃くするようにしている。このように指Fと入力操作面21との相対距離に応じてポインタP4の表示濃度を変化させることによっても、上述と同様の作用効果を得ることができる。
なお上記以外にも、ポインタの表示色、ポインタの透過度、ポインタの明るさ(コントラスト)等の表示形態を変化させることで、入力操作面に対する指の近接距離に応じてポインタの表示形態を変化させてもよい。
<第5の実施形態>
次に、図14及び図15を参照して本技術の第5の実施形態について説明する。図14(A)及び図15(A)はそれぞれユーザが入力操作を行っている入力デバイスの入力操作面を示し、図14(B)及び図15(B)はそれぞれHMDを介してユーザに提示される操作画面を示す。本実施形態では、第1の実施形態の構成および作用と同様な部分については同一の符号を付すとともにその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
次に、図14及び図15を参照して本技術の第5の実施形態について説明する。図14(A)及び図15(A)はそれぞれユーザが入力操作を行っている入力デバイスの入力操作面を示し、図14(B)及び図15(B)はそれぞれHMDを介してユーザに提示される操作画面を示す。本実施形態では、第1の実施形態の構成および作用と同様な部分については同一の符号を付すとともにその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
本実施形態では、入力デバイス2の表示画像v1を含む他の画像がHMD1の視野上に表示される点で、上述の第1の実施形態と異なる。例えば図14(A),(B)に示す例では、HMD1の視野上に表示される操作画像V51には、表示画像v1に対応する画像V1上に、ポインタPだけでなく、入力デバイス2の外観を表す画像V2がさらに重畳して表示される。これによりHMD1を装着した状態で実際に入力デバイス2を見ながら操作している感覚をユーザに提供することができる。
次に、図15(A)に示す入力デバイス2の表示画像v1は、画面下方から上方へ向けた指の移動操作によって複数の指示項目S1,S2,S3,S4が画面下方から上方へ向けて順に表示された様子を示している。一方、図15(B)に示すようにHMD1の視野には、指示項目の次候補である指示項目S5が指示項目S4の後に続けて表示された操作画像V52が表示される。このような操作画像V52は、入力デバイス2から送信される操作信号に含まれる画像信号に基づいてHMD1において形成される。なお、表示画像v1に表示されていない指示項目S5は実際には選択操作ができないため、ユーザにとって識別可能に、他の指示項目S1〜S4とは異なる形態で指示項目S5を表示するようにしてもよい。
上記の例によれば、ユーザに対して入力操作のアシスト機能を実現でき、より快適な操作環境を提供することが可能となる。またこのような機能は、選択候補の一覧表示だけでなく、ナビゲーション用の地図画像等にも適用することができる。
<第6の実施形態>
次に、図16(A),(B)を参照して本技術の第5の実施形態について説明する。本実施形態では、第1の実施形態の構成および作用と同様な部分については同一の符号を付すとともにその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
次に、図16(A),(B)を参照して本技術の第5の実施形態について説明する。本実施形態では、第1の実施形態の構成および作用と同様な部分については同一の符号を付すとともにその説明を省略または簡略化し、第1の実施形態と異なる部分を中心に説明する。
本実施形態のHMDは、当該HMDの視野上に表示される操作画像V10の表示領域を任意の操作で他の表示領域に、他の表示形態で表示することが可能に構成されている。
例えば本実施形態のHMDは、図16(A)に示すように操作画像V10を視野FVの中央付近に表示するように設定することができる。透過型のHMDにおいては、前方の視界に操作画像V10が重なって表示されるため、混雑した歩道を歩行する場合等においては操作画像V10が邪魔になることがある。そこで本実施形態のHMDにおいては、所定の操作によって操作画像V10を視野FVの端に移動したり、操作画像V10の表示サイズを小さくしたりすることで、図16(B)に示すように例えば前方から対向する歩行者W等の視認を確保する。これにより操作画像V10の表示が安全な歩行の妨げとなることを防止することができる。
上記所定の操作としては、HMDに別途装備された所定のスイッチの入力操作であってもよいし、入力デバイス2の入力操作面21における所定のジェスチャ入力等であってもよい。あるいは、当該HMDに角速度センサや加速度センサ等のモーションセンサを搭載し、HMDが装着した頭部を所定の方向へ振る等のユーザの所定の動きを検出して操作画像V10の表示領域や表示サイズ等を変更するようにしてもよい。
以上、本技術の実施形態について説明したが、本技術はこれに限定されることはなく、本技術の技術的思想に基づいて種々の変形が可能である。
例えば、以上の実施形態において、入力デバイスがユーザが把持して使用する携帯端末等であると説明したが、これに限られない。例えば、ユーザの手首に装着される腕時計型であってもよいし、ユーザの腕に装着されるリストバンド型であってもよい。また、衣服に装着または付着する形態であってもよい。このように、本技術においては、入力操作面に対して検出対象が接触することができる機器であれば、様々な形態の入力デバイスを用いることが可能である。
また、以上の実施形態では透過型のHMDとして説明したが、これに限られず、非透過型のHMDとすることも可能である。この場合も、ユーザは、HMDによって提示される画像を視認しつつ操作を行うことによって、入力デバイスの入力操作面を見ずとも直感に即した操作が可能となる。
また、HMDに撮像素子を搭載し、外部を撮影可能に構成することもできる。これにより、例えば撮影した画像をHMD及び入力デバイスに表示させることも可能となる。
以上の実施形態においては、補助画像としてのポインタの形状を環状の例で説明したが、勿論これに限られない。例えば、矢印、三角形、四角形、円形等の任意の形状を採用することが可能である。
また、以上の実施形態では、入力操作面に対する指の近接の検出に静電容量式のタッチセンサが用いられたが、これに限られない。例えば図17に示すように、矩形の入力操作面510の四隅位置に距離センサ501をそれぞれ配備した入力デバイス500や、図18に示すように入力操作面610の近傍にカメラ601を配備した入力デバイス600も本技術に適用可能である。図17に示す入力デバイス500においては、各距離センサ501の出力に基づき、例えば三角測距法を応用することで、入力操作面410上の指Fの座標位置及び近接距離が検出される。また図18に示す入力デバイス600においては、カメラ601で取得される指Fの画像を処理することで、入力操作面410上の指Fの座標位置及び近接距離が検出される。
なお、本技術は以下のような構成も採ることができる。
(1)入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する受信部と、
ユーザに提示される画像を形成する画像表示素子と、
前記操作信号に基づき、前記画像に前記検出対象の位置を示す補助画像が重畳した操作画像を、前記画像表示素子に表示させる表示処理部と
を具備するヘッドマウントディスプレイ。
(2)前記(1)に記載のヘッドマウントディスプレイであって、
前記受信部は、前記入力デバイスから出力される画像信号をさらに受信し、
前記表示処理部は、前記画像信号に基づき、前記画像を前記画像表示素子に表示させる
ヘッドマウントディスプレイ。
(3)前記(1)又は(2)に記載のヘッドマウントディスプレイであって、
前記表示処理部は、前記操作信号に基づき、前記画像の表示領域において前記補助画像を移動させる
ヘッドマウントディスプレイ。
(4)前記(1)から(3)のいずれか1つに記載のヘッドマウントディスプレイであって、
前記操作信号は、前記入力操作面に対する前記検出対象の近接距離に関する情報を含み、
前記表示処理部は、前記入力操作面に対する前記検出対象の近接距離に応じて前記補助画像の表示形態を変化させる
ヘッドマウントディスプレイ。
(5)前記(1)から(4)のいずれか1つに記載のヘッドマウントディスプレイであって、
前記操作信号に基づいて、前記入力操作面上の前記検出対象の座標位置を算出する演算部をさらに具備し、
前記表示処理部は、前記演算部で算出された前記検出対象の座標位置に基づき、前記操作画像を前記画像表示素子に表示させる
ヘッドマウントディスプレイ。
(6)入力操作面と、前記入力操作面に対する検出対象の近接を検出し、前記入力操作面上の前記検出対象の座標位置に関する情報を出力するセンサ部と、を有する入力デバイスと、
ユーザに提示される画像を形成する画像表示素子と、前記センサ部の出力に基づき、前記画像に前記検出対象の位置を示す補助画像が重畳した操作画像を、前記画像表示素子に形成させる表示処理部と、を有するヘッドマウントディスプレイと
を具備する情報表示装置。
(7)前記(6)に記載の情報表示装置であって、
前記入力デバイスは、
前記入力操作面に画像を表示させる表示素子をさらに有し、
前記ヘッドマウントディスプレイは、前記入力操作面に表示される表示画像に前記補助画像を重畳させた画像を前記操作画像として表示する
情報表示装置。
(8)前記(6)又は(7)に記載の情報表示装置であって、
前記センサ部は、前記入力操作面と前記検出対象との間の静電容量の変化を検出する静電容量センサを含む
情報表示装置。
(9)前記(6)から(8)のいずれか1つに記載の情報表示装置であって、
前記センサ部は、前記入力操作面上における前記検出対象の動きを検出し、
前記ヘッドマウントディスプレイは、検出された前記検出対象の動きに応じて移動する前記補助画像を表示する
情報表示装置。
(10)前記(6)から(9)のいずれか1つに記載の情報表示装置であって、
前記ヘッドマウントディスプレイは、前記入力操作面に対する前記検出対象の近接距離に応じて、前記補助画像の表示形態を変化させる
情報表示装置。
(11)前記(7)に記載の情報表示装置であって、
前記ヘッドマウントディスプレイは、前記表示画像の周囲に前記入力デバイスの外観を表す画像をさらに表示する
情報表示装置。
(12)入力操作面と、前記入力操作面に対する検出対象の近接を検出するセンサ部と、を有する入力デバイスと、
ユーザに提示される画像を形成する画像表示素子と、前記センサ部の出力に基づいて前記入力操作面上の前記検出対象の座標位置を算出する演算部と、前記演算部で算出された前記検出対象の座標位置に基づき、前記画像に検出対象の位置を示す補助画像が重畳した操作画像を前記画像表示素子に形成させる表示処理部と、を有するヘッドマウントディスプレイと
を具備する情報表示装置。
(1)入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する受信部と、
ユーザに提示される画像を形成する画像表示素子と、
前記操作信号に基づき、前記画像に前記検出対象の位置を示す補助画像が重畳した操作画像を、前記画像表示素子に表示させる表示処理部と
を具備するヘッドマウントディスプレイ。
(2)前記(1)に記載のヘッドマウントディスプレイであって、
前記受信部は、前記入力デバイスから出力される画像信号をさらに受信し、
前記表示処理部は、前記画像信号に基づき、前記画像を前記画像表示素子に表示させる
ヘッドマウントディスプレイ。
(3)前記(1)又は(2)に記載のヘッドマウントディスプレイであって、
前記表示処理部は、前記操作信号に基づき、前記画像の表示領域において前記補助画像を移動させる
ヘッドマウントディスプレイ。
(4)前記(1)から(3)のいずれか1つに記載のヘッドマウントディスプレイであって、
前記操作信号は、前記入力操作面に対する前記検出対象の近接距離に関する情報を含み、
前記表示処理部は、前記入力操作面に対する前記検出対象の近接距離に応じて前記補助画像の表示形態を変化させる
ヘッドマウントディスプレイ。
(5)前記(1)から(4)のいずれか1つに記載のヘッドマウントディスプレイであって、
前記操作信号に基づいて、前記入力操作面上の前記検出対象の座標位置を算出する演算部をさらに具備し、
前記表示処理部は、前記演算部で算出された前記検出対象の座標位置に基づき、前記操作画像を前記画像表示素子に表示させる
ヘッドマウントディスプレイ。
(6)入力操作面と、前記入力操作面に対する検出対象の近接を検出し、前記入力操作面上の前記検出対象の座標位置に関する情報を出力するセンサ部と、を有する入力デバイスと、
ユーザに提示される画像を形成する画像表示素子と、前記センサ部の出力に基づき、前記画像に前記検出対象の位置を示す補助画像が重畳した操作画像を、前記画像表示素子に形成させる表示処理部と、を有するヘッドマウントディスプレイと
を具備する情報表示装置。
(7)前記(6)に記載の情報表示装置であって、
前記入力デバイスは、
前記入力操作面に画像を表示させる表示素子をさらに有し、
前記ヘッドマウントディスプレイは、前記入力操作面に表示される表示画像に前記補助画像を重畳させた画像を前記操作画像として表示する
情報表示装置。
(8)前記(6)又は(7)に記載の情報表示装置であって、
前記センサ部は、前記入力操作面と前記検出対象との間の静電容量の変化を検出する静電容量センサを含む
情報表示装置。
(9)前記(6)から(8)のいずれか1つに記載の情報表示装置であって、
前記センサ部は、前記入力操作面上における前記検出対象の動きを検出し、
前記ヘッドマウントディスプレイは、検出された前記検出対象の動きに応じて移動する前記補助画像を表示する
情報表示装置。
(10)前記(6)から(9)のいずれか1つに記載の情報表示装置であって、
前記ヘッドマウントディスプレイは、前記入力操作面に対する前記検出対象の近接距離に応じて、前記補助画像の表示形態を変化させる
情報表示装置。
(11)前記(7)に記載の情報表示装置であって、
前記ヘッドマウントディスプレイは、前記表示画像の周囲に前記入力デバイスの外観を表す画像をさらに表示する
情報表示装置。
(12)入力操作面と、前記入力操作面に対する検出対象の近接を検出するセンサ部と、を有する入力デバイスと、
ユーザに提示される画像を形成する画像表示素子と、前記センサ部の出力に基づいて前記入力操作面上の前記検出対象の座標位置を算出する演算部と、前記演算部で算出された前記検出対象の座標位置に基づき、前記画像に検出対象の位置を示す補助画像が重畳した操作画像を前記画像表示素子に形成させる表示処理部と、を有するヘッドマウントディスプレイと
を具備する情報表示装置。
1・・・HMD(ヘッドマウントディスプレイ)
2,20,30・・・入力デバイス
13,130・・・制御部(表示処理部)
131・・・演算部
132・・・表示処理部
14,140・・・画像表示素子
21,210・・・入力操作面
22,220・・・タッチセンサ(センサ部)
24・・・表示素子
100・・・情報表示装置
P・・・ポインタ(補助画像)
V10・・・操作画像
2,20,30・・・入力デバイス
13,130・・・制御部(表示処理部)
131・・・演算部
132・・・表示処理部
14,140・・・画像表示素子
21,210・・・入力操作面
22,220・・・タッチセンサ(センサ部)
24・・・表示素子
100・・・情報表示装置
P・・・ポインタ(補助画像)
V10・・・操作画像
Claims (12)
- 入力デバイスから出力される、入力操作面に近接する検出対象の相対位置に関する情報を含む操作信号を受信する受信部と、
ユーザに提示される画像を形成する画像表示素子と、
前記操作信号に基づき、前記画像に前記検出対象の位置を示す補助画像が重畳した操作画像を、前記画像表示素子に表示させる表示処理部と
を具備するヘッドマウントディスプレイ。 - 請求項1に記載のヘッドマウントディスプレイであって、
前記受信部は、前記入力デバイスから出力される画像信号をさらに受信し、
前記表示処理部は、前記画像信号に基づき、前記画像を前記画像表示素子に表示させる
ヘッドマウントディスプレイ。 - 請求項1に記載のヘッドマウントディスプレイであって、
前記表示処理部は、前記操作信号に基づき、前記画像の表示領域において前記補助画像を移動させる
ヘッドマウントディスプレイ。 - 請求項1に記載のヘッドマウントディスプレイであって、
前記操作信号は、前記入力操作面に対する前記検出対象の近接距離に関する情報を含み、
前記表示処理部は、前記入力操作面に対する前記検出対象の近接距離に応じて前記補助画像の表示形態を変化させる
ヘッドマウントディスプレイ。 - 請求項1に記載のヘッドマウントディスプレイであって、
前記操作信号に基づいて、前記入力操作面上の前記検出対象の座標位置を算出する演算部をさらに具備し、
前記表示処理部は、前記演算部で算出された前記検出対象の座標位置に基づき、前記操作画像を前記画像表示素子に表示させる
ヘッドマウントディスプレイ。 - 入力操作面と、前記入力操作面に対する検出対象の近接を検出し、前記入力操作面上の前記検出対象の座標位置に関する情報を出力するセンサ部と、を有する入力デバイスと、
ユーザに提示される画像を形成する画像表示素子と、前記センサ部の出力に基づき、前記画像に前記検出対象の位置を示す補助画像が重畳した操作画像を、前記画像表示素子に形成させる表示処理部と、を有するヘッドマウントディスプレイと
を具備する情報表示装置。 - 請求項6に記載の情報表示装置であって、
前記入力デバイスは、
前記入力操作面に画像を表示させる表示素子をさらに有し、
前記ヘッドマウントディスプレイは、前記入力操作面に表示される表示画像に前記補助画像を重畳させた画像を前記操作画像として表示する
情報表示装置。 - 請求項6に記載の情報表示装置であって、
前記センサ部は、前記入力操作面と前記検出対象との間の静電容量の変化を検出する静電容量センサを含む
情報表示装置。 - 請求項6に記載の情報表示装置であって、
前記センサ部は、前記入力操作面上における前記検出対象の動きを検出し、
前記ヘッドマウントディスプレイは、検出された前記検出対象の動きに応じて移動する前記補助画像を表示する
情報表示装置。 - 請求項6に記載の情報表示装置であって、
前記ヘッドマウントディスプレイは、前記入力操作面に対する前記検出対象の近接距離に応じて、前記補助画像の表示形態を変化させる
情報表示装置。 - 請求項7に記載の情報表示装置であって、
前記ヘッドマウントディスプレイは、前記表示画像の周囲に前記入力デバイスの外観を表す画像をさらに表示する
情報表示装置。 - 入力操作面と、前記入力操作面に対する検出対象の近接を検出するセンサ部と、を有する入力デバイスと、
ユーザに提示される画像を形成する画像表示素子と、前記センサ部の出力に基づいて前記入力操作面上の前記検出対象の座標位置を算出する演算部と、前記演算部で算出された前記検出対象の座標位置に基づき、前記画像に検出対象の位置を示す補助画像が重畳した操作画像を前記画像表示素子に形成させる表示処理部と、を有するヘッドマウントディスプレイと
を具備する情報表示装置。
Priority Applications (6)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011275573A JP2013125247A (ja) | 2011-12-16 | 2011-12-16 | ヘッドマウントディスプレイ及び情報表示装置 |
| CN201280060735.2A CN103998970A (zh) | 2011-12-16 | 2012-12-13 | 头戴式显示器和信息显示设备 |
| PCT/JP2012/007974 WO2013088725A1 (en) | 2011-12-16 | 2012-12-13 | Head-mounted display and information display apparatus |
| EP12806716.2A EP2791725A1 (en) | 2011-12-16 | 2012-12-13 | Head-mounted display and information display apparatus |
| KR1020147014870A KR20140102663A (ko) | 2011-12-16 | 2012-12-13 | 헤드-장착형 디스플레이 및 정보 표시 장치 |
| US14/363,715 US10191281B2 (en) | 2011-12-16 | 2012-12-13 | Head-mounted display for visually recognizing input |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011275573A JP2013125247A (ja) | 2011-12-16 | 2011-12-16 | ヘッドマウントディスプレイ及び情報表示装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2013125247A true JP2013125247A (ja) | 2013-06-24 |
| JP2013125247A5 JP2013125247A5 (ja) | 2015-01-22 |
Family
ID=47436152
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011275573A Abandoned JP2013125247A (ja) | 2011-12-16 | 2011-12-16 | ヘッドマウントディスプレイ及び情報表示装置 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US10191281B2 (ja) |
| EP (1) | EP2791725A1 (ja) |
| JP (1) | JP2013125247A (ja) |
| KR (1) | KR20140102663A (ja) |
| CN (1) | CN103998970A (ja) |
| WO (1) | WO2013088725A1 (ja) |
Cited By (20)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2015049883A (ja) * | 2013-09-05 | 2015-03-16 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム |
| JP2015090530A (ja) * | 2013-11-05 | 2015-05-11 | セイコーエプソン株式会社 | 画像表示システム、画像表示システムを制御する方法、および、頭部装着型表示装置 |
| KR20160016524A (ko) * | 2014-07-31 | 2016-02-15 | 삼성전자주식회사 | 웨어러블 글래스 및 웨어러블 글래스를 통하여 영상을 디스플레이하는 방법 |
| JP2016081408A (ja) * | 2014-10-21 | 2016-05-16 | 株式会社コロプラ | ヘッドマウントディスプレイとコントローラとを連動させて画面操作するシステム、プログラム、及び方法 |
| JP2016180986A (ja) * | 2016-04-28 | 2016-10-13 | カシオ計算機株式会社 | 表示システム、表示端末、表示方法及びプログラム |
| JPWO2015029222A1 (ja) * | 2013-08-30 | 2017-03-02 | 富士通株式会社 | 情報処理装置,表示制御プログラム及び表示制御方法 |
| JP2017062559A (ja) * | 2015-09-24 | 2017-03-30 | 株式会社コロプラ | 仮想空間内のオブジェクトを3軸操作するためのコンピュータ・プログラム |
| JP2017068797A (ja) * | 2015-10-02 | 2017-04-06 | 富士通株式会社 | 入力支援システム、及び、電子機器 |
| JP2017516186A (ja) * | 2014-03-14 | 2017-06-15 | 株式会社ソニー・インタラクティブエンタテインメント | 空間感知を備えるゲーム機 |
| JP2018508909A (ja) * | 2015-03-20 | 2018-03-29 | 華為技術有限公司Huawei Technologies Co.,Ltd. | インテリジェントなインタラクション方法、装置、および、システム |
| JP2018128510A (ja) * | 2017-02-06 | 2018-08-16 | 株式会社大林組 | 教育支援システム、教育支援方法及び教育支援プログラム |
| US10095266B2 (en) | 2016-01-28 | 2018-10-09 | Colopl, Inc. | System and method for interfacing between a display and a controller |
| JP2018160249A (ja) * | 2018-05-14 | 2018-10-11 | 株式会社ソニー・インタラクティブエンタテインメント | ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイ、表示制御プログラム、及び表示制御方法 |
| JP2019516153A (ja) * | 2016-05-12 | 2019-06-13 | サーク・コーポレーション | 容量性感知を用いたコントローラの予兆 |
| US10379605B2 (en) | 2014-10-22 | 2019-08-13 | Sony Interactive Entertainment Inc. | Head mounted display, mobile information terminal, image processing apparatus, display control program, display control method, and display system |
| JP2020061162A (ja) * | 2019-11-25 | 2020-04-16 | 株式会社コロプラ | ヘッドマウントディスプレイとコントローラとを連動させて画面操作するシステム、プログラム、及び方法 |
| JP2020113298A (ja) * | 2015-09-16 | 2020-07-27 | グーグル エルエルシー | 拡張および/または仮想現実環境におけるタッチスクリーンホバーの検出 |
| JP2020149594A (ja) * | 2019-03-15 | 2020-09-17 | Dynabook株式会社 | 電子装置および表示制御方法 |
| WO2022176721A1 (ja) * | 2021-02-18 | 2022-08-25 | キヤノン株式会社 | メガネ型情報機器、その方法及びプログラム |
| WO2023047228A1 (ja) * | 2021-09-22 | 2023-03-30 | 株式会社半導体エネルギー研究所 | 電子装置および表示システム |
Families Citing this family (37)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US20140111430A1 (en) * | 2011-06-10 | 2014-04-24 | Nec Casio Mobile Communications, Ltd. | Input device and control method of touch panel |
| US9417660B2 (en) * | 2012-04-25 | 2016-08-16 | Kopin Corporation | Collapsible head set computer |
| KR102043200B1 (ko) * | 2013-05-07 | 2019-11-11 | 엘지전자 주식회사 | 스마트 워치 및 제어 방법 |
| US9223451B1 (en) | 2013-10-25 | 2015-12-29 | Google Inc. | Active capacitive sensing on an HMD |
| US10254856B2 (en) | 2014-01-17 | 2019-04-09 | Osterhout Group, Inc. | External user interface for head worn computing |
| US9939934B2 (en) | 2014-01-17 | 2018-04-10 | Osterhout Group, Inc. | External user interface for head worn computing |
| US9810906B2 (en) | 2014-06-17 | 2017-11-07 | Osterhout Group, Inc. | External user interface for head worn computing |
| EP2916209B1 (en) * | 2014-03-03 | 2019-11-20 | Nokia Technologies Oy | Input axis between an apparatus and a separate apparatus |
| CN104063092B (zh) * | 2014-06-16 | 2016-12-07 | 青岛歌尔声学科技有限公司 | 一种触摸屏控制方法及装置 |
| US9965030B2 (en) | 2014-07-31 | 2018-05-08 | Samsung Electronics Co., Ltd. | Wearable glasses and method of displaying image via the wearable glasses |
| CN105578167A (zh) * | 2014-10-17 | 2016-05-11 | 深圳智航无人机有限公司 | 一种实时3d影像系统 |
| KR102183212B1 (ko) * | 2014-11-18 | 2020-11-25 | 삼성전자주식회사 | 화면 제어 방법 및 그 방법을 처리하는 전자 장치 |
| KR102329295B1 (ko) * | 2015-01-09 | 2021-11-19 | 삼성디스플레이 주식회사 | 헤드 마운티드 디스플레이 장치 |
| CN104750414A (zh) * | 2015-03-09 | 2015-07-01 | 北京云豆科技有限公司 | 一种终端以及一种头戴式可视设备及其控制方法 |
| KR20160125674A (ko) * | 2015-04-22 | 2016-11-01 | 엘지전자 주식회사 | 이동 단말기 및 그 제어 방법 |
| US10139966B2 (en) | 2015-07-22 | 2018-11-27 | Osterhout Group, Inc. | External user interface for head worn computing |
| US20170017323A1 (en) * | 2015-07-17 | 2017-01-19 | Osterhout Group, Inc. | External user interface for head worn computing |
| US11003246B2 (en) | 2015-07-22 | 2021-05-11 | Mentor Acquisition One, Llc | External user interface for head worn computing |
| CN105093533A (zh) * | 2015-08-20 | 2015-11-25 | 余剑锋 | 一种虚拟现实头盔装置 |
| KR20170062876A (ko) | 2015-11-30 | 2017-06-08 | 삼성전자주식회사 | 헤드 마운트 장치 및 이에 탈부착 가능한 장치 |
| US10424117B2 (en) * | 2015-12-02 | 2019-09-24 | Seiko Epson Corporation | Controlling a display of a head-mounted display device |
| EP3399388A4 (en) * | 2015-12-30 | 2019-09-04 | Shenzhen Royole Technologies Co. Ltd. | HEAD-MOUNTED DISPLAY DEVICE, HEAD-MOUNTED DISPLAY SYSTEM AND INPUT METHOD |
| KR102610120B1 (ko) * | 2016-01-20 | 2023-12-06 | 삼성전자주식회사 | Hmd 디바이스 및 그 제어 방법 |
| US10684478B2 (en) | 2016-05-09 | 2020-06-16 | Mentor Acquisition One, Llc | User interface systems for head-worn computers |
| US10824253B2 (en) * | 2016-05-09 | 2020-11-03 | Mentor Acquisition One, Llc | User interface systems for head-worn computers |
| US10466491B2 (en) | 2016-06-01 | 2019-11-05 | Mentor Acquisition One, Llc | Modular systems for head-worn computers |
| KR102654621B1 (ko) | 2016-12-08 | 2024-04-04 | 삼성전자주식회사 | 객체를 디스플레이하기 위한 방법 및 그 전자 장치 |
| WO2018199983A1 (en) * | 2017-04-28 | 2018-11-01 | Hewlett-Packard Development Company, L.P. | Tablet computing device with display dock |
| US10152141B1 (en) | 2017-08-18 | 2018-12-11 | Osterhout Group, Inc. | Controller movement tracking with light emitters |
| CN119148857A (zh) * | 2017-08-24 | 2024-12-17 | 麦克赛尔株式会社 | 头戴式显示装置 |
| CN108566480A (zh) * | 2018-01-02 | 2018-09-21 | 京东方科技集团股份有限公司 | 可穿戴设备的控制方法、装置及系统 |
| US10592013B2 (en) * | 2018-04-25 | 2020-03-17 | Microsoft Technology Licensing, Llc | Systems and methods for unifying two-dimensional and three-dimensional interfaces |
| US11262853B2 (en) | 2020-03-10 | 2022-03-01 | Cirque Corporation | Measuring capacitance |
| JP7658829B2 (ja) * | 2021-07-26 | 2025-04-08 | 株式会社東海理化電機製作所 | 操作検出装置 |
| US12072501B1 (en) * | 2023-02-14 | 2024-08-27 | Google Llc | Decreasing size of user interface element in display of head-mounted device |
| JP2025082903A (ja) * | 2023-11-20 | 2025-05-30 | キヤノン株式会社 | 情報処理装置 |
| US12260062B1 (en) * | 2023-11-22 | 2025-03-25 | Varjo Technologies Oy | Digital manipulation of virtual user interface via activation of invisible virtual widget |
Family Cites Families (34)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5929841A (en) * | 1996-02-05 | 1999-07-27 | Sharp Kabushiki Kaisha | Data input unit |
| US6037937A (en) * | 1997-12-04 | 2000-03-14 | Nortel Networks Corporation | Navigation tool for graphical user interface |
| US20010043266A1 (en) * | 2000-02-02 | 2001-11-22 | Kerry Robinson | Method and apparatus for viewing stereoscopic three- dimensional images |
| JP2003279881A (ja) * | 2002-03-27 | 2003-10-02 | Hitachi Ltd | 携帯情報装置 |
| DE10349673B4 (de) * | 2003-10-24 | 2024-06-13 | Bayerische Motoren Werke Aktiengesellschaft | Vorrichtung und Verfahren zur Dateneingabe in einem Kraftfahrzeug |
| US7893920B2 (en) * | 2004-05-06 | 2011-02-22 | Alpine Electronics, Inc. | Operation input device and method of operation input |
| US7880726B2 (en) * | 2004-10-12 | 2011-02-01 | Nippon Telegraph And Telephone Corporation | 3D pointing method, 3D display control method, 3D pointing device, 3D display control device, 3D pointing program, and 3D display control program |
| US7728825B2 (en) * | 2005-03-22 | 2010-06-01 | Microsoft Corporation | Targeting in a stylus-based user interface |
| CN101449265A (zh) * | 2006-03-15 | 2009-06-03 | 杰里·M·惠特克 | 具有浏览并与万维网交互的头戴式显示器的移动全球虚拟浏览器 |
| JP5023632B2 (ja) | 2006-09-15 | 2012-09-12 | ブラザー工業株式会社 | ヘッドマウントディスプレイ |
| US8432365B2 (en) * | 2007-08-30 | 2013-04-30 | Lg Electronics Inc. | Apparatus and method for providing feedback for three-dimensional touchscreen |
| US8576181B2 (en) * | 2008-05-20 | 2013-11-05 | Lg Electronics Inc. | Mobile terminal using proximity touch and wallpaper controlling method thereof |
| US8957835B2 (en) * | 2008-09-30 | 2015-02-17 | Apple Inc. | Head-mounted display apparatus for retaining a portable electronic device with display |
| KR20100041006A (ko) * | 2008-10-13 | 2010-04-22 | 엘지전자 주식회사 | 3차원 멀티 터치를 이용한 사용자 인터페이스 제어방법 |
| JP2010145861A (ja) | 2008-12-19 | 2010-07-01 | Brother Ind Ltd | ヘッドマウントディスプレイ |
| US20100182340A1 (en) * | 2009-01-19 | 2010-07-22 | Bachelder Edward N | Systems and methods for combining virtual and real-time physical environments |
| DE102009006082A1 (de) * | 2009-01-26 | 2010-07-29 | Alexander Gruber | Verfahren zur Steuerung eines auf einem Bildschirm dargestellten Auswahlobjekts |
| US8176442B2 (en) * | 2009-05-29 | 2012-05-08 | Microsoft Corporation | Living cursor control mechanics |
| US20100315413A1 (en) * | 2009-06-16 | 2010-12-16 | Microsoft Corporation | Surface Computer User Interaction |
| KR101613555B1 (ko) * | 2009-10-26 | 2016-04-19 | 엘지전자 주식회사 | 이동 단말기 |
| US8754931B2 (en) * | 2010-01-08 | 2014-06-17 | Kopin Corporation | Video eyewear for smart phone games |
| JP2011180843A (ja) * | 2010-03-01 | 2011-09-15 | Sony Corp | 情報処理装置、情報処理方法、およびプログラム |
| JP5716009B2 (ja) * | 2010-03-05 | 2015-05-13 | レノボ・イノベーションズ・リミテッド(香港) | 携帯端末装置 |
| US8508347B2 (en) * | 2010-06-24 | 2013-08-13 | Nokia Corporation | Apparatus and method for proximity based input |
| KR101708696B1 (ko) * | 2010-09-15 | 2017-02-21 | 엘지전자 주식회사 | 휴대 단말기 및 그 동작 제어방법 |
| US8957856B2 (en) * | 2010-10-21 | 2015-02-17 | Verizon Patent And Licensing Inc. | Systems, methods, and apparatuses for spatial input associated with a display |
| US9110564B2 (en) * | 2010-11-05 | 2015-08-18 | Lg Electronics Inc. | Mobile terminal, method for controlling mobile terminal, and method for displaying image of mobile terminal |
| US8872762B2 (en) * | 2010-12-08 | 2014-10-28 | Primesense Ltd. | Three dimensional user interface cursor control |
| US9690099B2 (en) * | 2010-12-17 | 2017-06-27 | Microsoft Technology Licensing, Llc | Optimized focal area for augmented reality displays |
| US8217856B1 (en) * | 2011-07-27 | 2012-07-10 | Google Inc. | Head-mounted display that displays a visual representation of physical interaction with an input interface located outside of the field of view |
| US20130106898A1 (en) * | 2011-10-26 | 2013-05-02 | Google Inc. | Detecting object moving toward or away from a computing device |
| US8752963B2 (en) * | 2011-11-04 | 2014-06-17 | Microsoft Corporation | See-through display brightness control |
| US10182141B2 (en) * | 2011-12-22 | 2019-01-15 | Nokia Technologies Oy | Apparatus and method for providing transitions between screens |
| US9024844B2 (en) * | 2012-01-25 | 2015-05-05 | Microsoft Technology Licensing, Llc | Recognition of image on external display |
-
2011
- 2011-12-16 JP JP2011275573A patent/JP2013125247A/ja not_active Abandoned
-
2012
- 2012-12-13 KR KR1020147014870A patent/KR20140102663A/ko not_active Withdrawn
- 2012-12-13 WO PCT/JP2012/007974 patent/WO2013088725A1/en not_active Ceased
- 2012-12-13 EP EP12806716.2A patent/EP2791725A1/en not_active Withdrawn
- 2012-12-13 US US14/363,715 patent/US10191281B2/en not_active Expired - Fee Related
- 2012-12-13 CN CN201280060735.2A patent/CN103998970A/zh active Pending
Cited By (28)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPWO2015029222A1 (ja) * | 2013-08-30 | 2017-03-02 | 富士通株式会社 | 情報処理装置,表示制御プログラム及び表示制御方法 |
| US9658451B2 (en) | 2013-09-05 | 2017-05-23 | Seiko Epson Corporation | Head mounted display, method of controlling head mounted display, and image display system |
| JP2015049883A (ja) * | 2013-09-05 | 2015-03-16 | セイコーエプソン株式会社 | 頭部装着型表示装置、頭部装着型表示装置を制御する方法、画像表示システム |
| CN104615237A (zh) * | 2013-11-05 | 2015-05-13 | 精工爱普生株式会社 | 图像显示系统、控制其的方法及头部佩戴型显示装置 |
| JP2015090530A (ja) * | 2013-11-05 | 2015-05-11 | セイコーエプソン株式会社 | 画像表示システム、画像表示システムを制御する方法、および、頭部装着型表示装置 |
| JP2017516186A (ja) * | 2014-03-14 | 2017-06-15 | 株式会社ソニー・インタラクティブエンタテインメント | 空間感知を備えるゲーム機 |
| KR20160016524A (ko) * | 2014-07-31 | 2016-02-15 | 삼성전자주식회사 | 웨어러블 글래스 및 웨어러블 글래스를 통하여 영상을 디스플레이하는 방법 |
| KR102361025B1 (ko) | 2014-07-31 | 2022-02-08 | 삼성전자주식회사 | 웨어러블 글래스 및 웨어러블 글래스를 통하여 영상을 디스플레이하는 방법 |
| JP2016081408A (ja) * | 2014-10-21 | 2016-05-16 | 株式会社コロプラ | ヘッドマウントディスプレイとコントローラとを連動させて画面操作するシステム、プログラム、及び方法 |
| US10379605B2 (en) | 2014-10-22 | 2019-08-13 | Sony Interactive Entertainment Inc. | Head mounted display, mobile information terminal, image processing apparatus, display control program, display control method, and display system |
| US10620699B2 (en) | 2014-10-22 | 2020-04-14 | Sony Interactive Entertainment Inc. | Head mounted display, mobile information terminal, image processing apparatus, display control program, display control method, and display system |
| JP2018508909A (ja) * | 2015-03-20 | 2018-03-29 | 華為技術有限公司Huawei Technologies Co.,Ltd. | インテリジェントなインタラクション方法、装置、および、システム |
| JP2020113298A (ja) * | 2015-09-16 | 2020-07-27 | グーグル エルエルシー | 拡張および/または仮想現実環境におけるタッチスクリーンホバーの検出 |
| JP2017062559A (ja) * | 2015-09-24 | 2017-03-30 | 株式会社コロプラ | 仮想空間内のオブジェクトを3軸操作するためのコンピュータ・プログラム |
| JP2017068797A (ja) * | 2015-10-02 | 2017-04-06 | 富士通株式会社 | 入力支援システム、及び、電子機器 |
| US10095266B2 (en) | 2016-01-28 | 2018-10-09 | Colopl, Inc. | System and method for interfacing between a display and a controller |
| JP2016180986A (ja) * | 2016-04-28 | 2016-10-13 | カシオ計算機株式会社 | 表示システム、表示端末、表示方法及びプログラム |
| JP2019516153A (ja) * | 2016-05-12 | 2019-06-13 | サーク・コーポレーション | 容量性感知を用いたコントローラの予兆 |
| JP2018128510A (ja) * | 2017-02-06 | 2018-08-16 | 株式会社大林組 | 教育支援システム、教育支援方法及び教育支援プログラム |
| JP2018160249A (ja) * | 2018-05-14 | 2018-10-11 | 株式会社ソニー・インタラクティブエンタテインメント | ヘッドマウントディスプレイシステム、ヘッドマウントディスプレイ、表示制御プログラム、及び表示制御方法 |
| JP2020149594A (ja) * | 2019-03-15 | 2020-09-17 | Dynabook株式会社 | 電子装置および表示制御方法 |
| JP7286357B2 (ja) | 2019-03-15 | 2023-06-05 | Dynabook株式会社 | 電子装置および表示制御方法 |
| JP2020061162A (ja) * | 2019-11-25 | 2020-04-16 | 株式会社コロプラ | ヘッドマウントディスプレイとコントローラとを連動させて画面操作するシステム、プログラム、及び方法 |
| WO2022176721A1 (ja) * | 2021-02-18 | 2022-08-25 | キヤノン株式会社 | メガネ型情報機器、その方法及びプログラム |
| JP2022126548A (ja) * | 2021-02-18 | 2022-08-30 | キヤノン株式会社 | メガネ型情報機器、その方法及びプログラム |
| JP7581075B2 (ja) | 2021-02-18 | 2024-11-12 | キヤノン株式会社 | メガネ型情報機器、その方法及びプログラム |
| US12169660B2 (en) | 2021-02-18 | 2024-12-17 | Canon Kabushiki Kaisha | Glasses-type information device, and method and storage medium for the same |
| WO2023047228A1 (ja) * | 2021-09-22 | 2023-03-30 | 株式会社半導体エネルギー研究所 | 電子装置および表示システム |
Also Published As
| Publication number | Publication date |
|---|---|
| US20140320383A1 (en) | 2014-10-30 |
| EP2791725A1 (en) | 2014-10-22 |
| CN103998970A (zh) | 2014-08-20 |
| US10191281B2 (en) | 2019-01-29 |
| KR20140102663A (ko) | 2014-08-22 |
| WO2013088725A1 (en) | 2013-06-20 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP2013125247A (ja) | ヘッドマウントディスプレイ及び情報表示装置 | |
| JP5957875B2 (ja) | ヘッドマウントディスプレイ | |
| US10962809B1 (en) | Eyewear device with finger activated touch sensor | |
| US9632318B2 (en) | Head-mounted display including an operating element having a longitudinal direction in a direction of a first axis, display apparatus, and input apparatus | |
| CN106168848B (zh) | 显示装置以及显示装置的控制方法 | |
| US10133407B2 (en) | Display apparatus, display system, method for controlling display apparatus, and program | |
| JP2015133088A (ja) | Guiシステム、表示処理装置、入力処理装置及びプログラム | |
| US12345894B2 (en) | Ring-mounted flexible circuit remote control | |
| JP6776578B2 (ja) | 入力装置、入力方法、コンピュータープログラム | |
| JP2018022426A (ja) | 表示装置、頭部装着型表示装置、及び、表示装置の制御方法 | |
| JP6176368B2 (ja) | ヘッドマウントディスプレイ及び情報表示装置 | |
| US12554375B2 (en) | Wearable device for recognizing touch input by external object and method thereof | |
| KR20240112752A (ko) | 외부 객체에 기반하여 상호작용을 위한 ui를 변경하기 위한 웨어러블 장치 및 그 방법 | |
| JP2018151852A (ja) | 入力装置、入力制御方法、およびコンピュータープログラム | |
| JP6754329B2 (ja) | 画像表示装置、ヘッドマウントディスプレイ、情報表示装置、表示処理方法及びプログラム | |
| KR101418018B1 (ko) | 터치펜 및 이를 이용한 터치 디스플레이 시스템 | |
| EP4636544A1 (en) | Wearable device for changing ui for interaction on basis of external object, and method therefor | |
| KR101891837B1 (ko) | 증강현실 인터페이스를 이용하는 착용형 디스플레이 장치 | |
| WO2016072271A1 (ja) | 表示装置、表示装置の制御方法及びその制御プログラム | |
| US20260016951A1 (en) | Electronic device for supporting xr content, and input mode support method therefor | |
| KR20250023244A (ko) | 가상 환경에서 객체 선택을 지원하는 방법 및 이를 지원하는 전자 장치 | |
| KR20240142245A (ko) | Xr 컨텐츠를 지원하는 전자 장치 및 이의 입력 모드 지원 방법 | |
| KR20240140731A (ko) | 저전력 터치를 지원하는 웨어러블 전자 장치 및 그의 동작 방법 | |
| JP6631299B2 (ja) | 表示装置、表示装置の制御方法、及び、プログラム | |
| KR20240094948A (ko) | 객체에 대한 정보를 획득하기 위한 전자 장치 및 방법 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20141201 |
|
| A621 | Written request for application examination |
Free format text: JAPANESE INTERMEDIATE CODE: A621 Effective date: 20141201 |
|
| A762 | Written abandonment of application |
Free format text: JAPANESE INTERMEDIATE CODE: A762 Effective date: 20150403 |