CN114008564A - 头戴式显示器装置 - Google Patents

头戴式显示器装置 Download PDF

Info

Publication number
CN114008564A
CN114008564A CN201980097664.5A CN201980097664A CN114008564A CN 114008564 A CN114008564 A CN 114008564A CN 201980097664 A CN201980097664 A CN 201980097664A CN 114008564 A CN114008564 A CN 114008564A
Authority
CN
China
Prior art keywords
head
coordinate system
unit
trunk
neck
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
CN201980097664.5A
Other languages
English (en)
Inventor
桥本康宣
吉泽和彦
中出真弓
秋山仁
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Maxell Ltd
Original Assignee
Maxell Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Maxell Ltd filed Critical Maxell Ltd
Publication of CN114008564A publication Critical patent/CN114008564A/zh
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/012Head tracking input arrangements
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B27/0172Head mounted characterised by optical features
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/03Arrangements for converting the position or the displacement of a member into a coded form
    • G06F3/033Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor
    • G06F3/0346Pointing devices displaced or positioned by the user, e.g. mice, trackballs, pens or joysticks; Accessories therefor with detection of the device orientation or free movement in a three-dimensional [3D] space, e.g. 3D mice, 6-DOF [six degrees of freedom] pointers using gyroscopes, accelerometers or tilt-sensors
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/0138Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/0101Head-up displays characterised by optical features
    • G02B2027/014Head-up displays characterised by optical features comprising information/image processing systems
    • GPHYSICS
    • G02OPTICS
    • G02BOPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01Head-up displays
    • G02B27/017Head mounted
    • G02B2027/0178Eyeglass type
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/16Constructional details or arrangements
    • G06F1/1613Constructional details or arrangements for portable computers
    • G06F1/163Wearable computers, e.g. on a belt

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Human Computer Interaction (AREA)
  • Optics & Photonics (AREA)
  • Computer Hardware Design (AREA)
  • User Interface Of Digital Computer (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Position Input By Displaying (AREA)
  • Processing Or Creating Images (AREA)

Abstract

关于HMD的技术,提供能够平衡性良好地实现高度的功能和重量降低并能够提高用户的使用性的技术。实施方式的HMD是能够在用户的视场中显示图像的头戴式显示器装置,具备:头佩戴部,佩戴到用户的头部,具有显示图像的显示面;以及躯干佩戴部,与头佩戴部进行通信,佩戴到用户的躯干的一部分,该HMD测量头佩戴部和躯干佩戴部的相对的位置关系,根据位置关系,掌握包括头佩戴部的位置及方向的状态以及包括躯干佩戴部的位置及方向的状态。

Description

头戴式显示器装置
技术领域
本发明涉及头戴式显示器装置(Head Mounted Display:HMD)的技术。
背景技术
佩戴于用户的头部的HMD能够在透射型或者非透射型的显示面上显示虚拟物体等的图像。在以往的HMD中,作为在显示面上显示图像的方式,有在与世界坐标系匹配的位置进行显示的方式、在与用户的头(对应的HMD)的方向匹配的位置进行显示的方式。另外,作为其他方式,还提出在与用户的躯体等躯干的方向匹配的位置进行显示的方式。
作为与上述HMD相关的现有技术例,可以举出日本特开2019-28638号公报(专利文献1)。在专利文献1中,记载了作为头戴式显示器等,具备检测头部的朝向的头部传感器、检测躯干的朝向的躯干传感器等,在佩戴者的周围的虚拟空间中构筑由躯干层和头部层这2层构成并且构成连续的信息显示区域的虚拟桌面。
现有技术文献
专利文献
专利文献1:日本特开2019-28638号公报
发明内容
发明要解决的课题
HMD存在与高度功能化等相伴地重量变大的倾向。由于HMD的重量,用户的身体负担变大,例如难以进行长时间的利用。为了降低用户的身体负担,要求尽可能降低HMD的重量。
作为HMD的高度功能化的例子,可以举出根据用户的状态来控制向显示面的图像的显示的功能。例如,可以举出能够并用与用户的头方向匹配的图像显示和与躯干方向匹配的图像显示的功能。在专利文献1的例子中,将从佩戴于用户的躯干的传感器测量的躯干的方向用作图像的显示基准。在专利文献1的例子中,以能够检测头方向和躯干方向这2个方向的方式,在头部的HMD和用户的躯干这两方具备如3轴角速度传感器那样的传感器。
为了HMD的高度功能化,需要安装包括传感器的各种设备。然而,越是安装重的设备、大量的设备,HMD的重量越增加。在专利文献1的例子中,需要双重地设置相同种类的传感器,这样的结构以传感器的有效利用的观点来看存在改善余地。在HMD的安装中,以高度的功能的观点和重量的观点来看,需要平衡性良好地进行设计。
本发明的目的在于,针对HMD的技术,提供能够平衡性良好地实现高度的功能和重量降低并且能够提高用户的使用性的技术。上述以外的课题等在具体实施方式中示出。
解决课题的手段
本发明中的代表性的实施方式具有以下所示的结构。一个实施方式的头戴式显示器装置能够在用户的视场中显示图像,所述头戴式显示器装置具备:头佩戴部,佩戴到所述用户的头部,具有显示所述图像的显示面;以及躯干佩戴部,与所述头佩戴部进行通信,佩戴到所述用户的躯干的一部分,所述头戴式显示器装置测定所述头佩戴部和所述躯干佩戴部的相对的位置关系,根据所述位置关系,掌握包括所述头佩戴部的位置及方向的状态、以及包括所述躯干佩戴部的位置及方向的状态。
发明的效果
根据本发明中的代表性的实施方式,能够平衡性良好地实现高度的功能和重量降低,能够提高用户的使用性。
附图说明
图1是示出包括本发明的实施方式1的头戴式显示器装置(HMD)的显示系统的结构的图。
图2是示出实施方式1的HMD的结构的图。
图3是示出在实施方式1的HMD中控制部等的结构的图。
图4是示出在实施方式1的HMD中主要的处理流程的图。
图5是示出在实施方式1的HMD中坐标系以及位置关系的测距等的图。
图6是示出在实施方式1的HMD中位置关系的计算等的图。
图7是示出在实施方式1的HMD中颈佩戴部中的元素的安装例的图。
图8是示出在实施方式1的HMD中与连接线有关的结构例的图。
图9是示出在实施方式1的HMD中关于壳体的宽度的结构例的图。
图10是示出在实施方式1的HMD中将构成元素分离的结构例的图。
图11是示出在实施方式1的HMD中显示信息以及坐标系信息的结构例的图。
图12是示出本发明的实施方式2的HMD的结构的图。
图13是示出本发明的实施方式3的HMD的结构的图。
图14是示出本发明的实施方式4的HMD的结构的图。
图15是示出本发明的实施方式5的HMD中的第1显示控制例的第1状态等的图。
图16是示出在实施方式5的HMD中第1显示控制例的第2状态的图。
图17是示出在实施方式5的HMD中第1显示控制例的第3状态的图。
图18是示出在实施方式5的HMD中第1显示控制例的第4状态的图。
图19是示出在实施方式5的HMD中作为第2显示控制例以头部坐标系为基准的应用图标的显示例的图。
图20是示出在实施方式5的HMD中作为第2显示控制例以颈部坐标系为基准的应用图标的显示例的图。
图21是示出在实施方式5的HMD中第3显示控制例的图。
图22是在实施方式5的HMD中作为第4显示控制例示出应用的显示坐标系的设定例的图。
图23是在实施方式5的HMD中作为第4显示控制例示出应用图标的显示坐标系的设定例的图。
图24是在实施方式5的HMD中作为第4显示控制例示出作业用工具的显示坐标系的设定例的图。
图25是在实施方式5的HMD中作为第5显示控制例示出惯性坐标系的概念的图。
具体实施方式
以下,根据附图来详细说明本发明的实施方式。
(实施方式1)
使用图1~图11说明本发明的实施方式1的头戴式显示器装置(HMD)。
实施方式1的HMD具有分离型的结构,大致上由头佩戴部和颈佩戴部这2个部分构成。HMD功能的构成元素被分成这2个部分而安装。例如,在头佩戴部上安装了显示设备,在颈佩戴部上安装了主要的传感器群、控制器以及电池等。通过这样的分离型的结构,能够减少安装于头佩戴部的设备,能够省略将高度的功能所需的传感器群中的至少一部分的传感器安装到头佩戴部。由此,该HMD与以往的HMD相比能够降低佩戴于用户的头部的头佩戴部的重量。因此,该HMD的用户的佩戴感变得良好,也易于进行长时间的利用。
另外,在该HMD中,根据用户的活动,颈佩戴部的位置及方向(对应的姿势)和头佩戴部的位置及方向(对应的姿势)可以独立地变化。因此,该HMD具备用于测定颈佩戴部和头佩戴部的相对的位置关系的单元。作为该单元的例子,该HMD在颈佩戴部中具备测距传感器,从颈佩戴部测定头佩戴部的位置及方向。然后,该HMD使用测定的位置关系,根据坐标系的旋转等计算,掌握颈佩戴部的位置及方向等状态和头佩戴部的位置及方向等状态这两方。
该HMD能够使用上述位置关系,将由头佩戴部或颈佩戴部中的一方的传感器检测到的状态(对应的传感器数据等)校正并变换为头佩戴部或颈佩戴部中的另一方的坐标系中的状态(对应的传感器数据等)。即,该HMD能够使用位置关系将由头佩戴部的传感器检测到的头部坐标系中的状态变换为颈佩戴部的颈部坐标系中的状态。另外,该HMD能够使用位置关系将由颈佩戴部的传感器检测的颈部坐标系中的状态变换为头佩戴部的头部坐标系中的状态。
实施方式1的HMD通过这样的结构,能够检测用户的头方向(对应的头佩戴部的方向)和躯干方向(对应的颈佩戴部的方向)这两方,能够进行使用了这2个方向中的各方向的虚拟物体的显示控制。该HMD例如能够并用向头部坐标系中的与头方向匹配的位置的图像的显示、和向颈部坐标系中的与躯干方向匹配的位置的图像的显示。通过这样的高度的功能,能够支援用户的作业等,能够提高便利性。
实施方式1的HMD特别地不在头佩戴部而在颈佩戴部安装位置姿势传感器。该位置姿势传感器是检测以包括颈/肩的躯干为基准的位置、方向(对应的姿势)的传感器,换言之是检测颈部坐标系中的状态的传感器。由该传感器检测到的状态其原样与以头(对应的头佩戴部以及头部坐标系)为基准的状态不同。因此,该HMD根据上述位置关系,通过坐标系的计算,从由颈佩戴部检测到的状态得到以头部坐标系为基准的状态。
[显示系统]
图1示出包括实施方式1的HMD 1的显示系统的结构。在HMD1中,利用连接线4连接头佩戴部1A和颈佩戴部1B。头佩戴部1A和颈佩戴部1B通过作为线缆的连接线4而可通信及可供电地连接。虽然在图1中未示出,但存在佩戴HMD 1的用户的身体。在用户的头上佩戴头佩戴部1A,在用户的颈/肩的附近佩戴颈佩戴部1B。HMD1也可以附属有作为遥控器的操作器2作为选项。用户能够通过手持的操作器2操作HMD 1。例如,颈佩戴部1B和操作器2进行近距离无线通信。HMD 1也可以与外部的机器进行通信。例如,HMD 1也可以经由通信网与运营商的服务器3A、自家的PC 3B等连接。此外,有与坐标系独立地使用X、Y、Z方向作为说明上的方向的情况。X方向相对于用户的身体以及HMD 1与前后方向对应。Y方向相对于用户的身体以及HMD 1与左右方向对应。Z方向相对于用户的身体以及HMD 1与上下方向对应。
头佩戴部1A具有例如眼镜状的壳体10,在壳体10上安装有包括透射型的显示面5的显示设备、相机6等构成元素。在壳体10的一部分、例如左右的侧面的附近,包括用于测距的标记部13,在标记部13中形成有成为测定点的多个标记17。
在颈佩戴部1B中,作为例如弧形状的壳体,具有壳体11以及壳体12。壳体11是相对于用户的颈/肩配置于左右的位置的部分,具有右侧壳体11R和左侧壳体11L。壳体12连接左右的壳体11,是配置于用户的颈/肩的后部的位置的部分。在壳体11上,安装有测距传感器7、麦克风8、扬声器9、操作输入部14等。
HMD 1不是如以往的HMD那样通过从初始化状态的变位的差来测定HMD的位置、方向等状态的结构,而是从颈佩戴部1B的测距传感器7直接测定头佩戴部1A的位置、方向等位置关系的结构。由此,该HMD 1省略头佩戴部1A中的位置姿势传感器等构成元素的搭载,谋求头佩戴部1A的重量降低。
作为以往的HMD中的位置、姿势的测定用的传感器,可以举出加速度传感器、角速度传感器(陀螺仪传感器)、地磁传感器、GPS接收器、相机以及测距传感器等。此外,有时包括相机而将这些设备总称为传感器。加速度传感器能够测量HMD的移动量并且在静止时测量重力加速度向量,所以能够测量HMD的倾斜。角速度传感器测量HMD的朝向的变化。地磁传感器根据地磁的方向的检测来推测HMD的朝向。GPS接收器能够根据能够通过GPS电波接收的信息,将HMD的位置获知为纬度及经度的值。相机对外界的特征点进行拍摄。能够根据有特征点的方向和地图信息来推测HMD的位置及朝向。测距传感器测定直至外界的特征点的距离。能够根据该距离和地图信息来推测HMD的位置及朝向。
在实施方式1的HMD 1中,将如上所述的用于测定HMD的状态的传感器中的至少一部分的传感器安装到颈佩戴部1B而非头佩戴部1A。因此,HMD 1具备用于测定颈佩戴部1B和头佩戴部1A的相对的位置关系的功能。HMD 1使用该位置关系来进行由颈佩戴部1B的传感器测定的数据与由头佩戴部1A的传感器测定的数据之间的变换。
HMD 1从安装于颈佩戴部1B的测距传感器7对头佩戴部1A的壳体10进行用于位置关系的掌握的测距。特别地,测距传感器7测量壳体10的多个标记17的位置作为多个特征点。多个特征点设为不在同一直线上的3点以上的点即可。颈佩戴部1B能够根据测量到的特征点来得到头佩戴部1A的头部坐标系和颈佩戴部1B的颈部坐标系的位置关系(后述的图5)。
HMD 1能够使用得到的位置关系来将由颈佩戴部1B的传感器检测到的状态校正并变换为以头佩戴部1A的头部坐标系为基准的状态。另外,HMD 1能够使用得到的位置关系来将由头佩戴部1A的传感器检测到的状态校正并变换为以颈佩戴部1B的颈部坐标系为基准的状态。因此,HMD 1能够掌握以头部坐标系为基准的头的位置及方向等状态和以颈部坐标系为基准的躯干的位置及方向等状态这两方。HMD 1能够使用这些状态的数据来进行与头方向等对应的虚拟物体的显示控制和与躯干方向等对应的虚拟物体的显示控制这两方。
[HMD]
图2示出实施方式1的HMD 1的功能块结构。头佩戴部1A具备处理器100、存储器120、通信接口部130、电源电路141、子电池142、显示设备150、相机6、操作输入部18等,它们经由总线等相互连接。
处理器100是控制头佩戴部1A的子控制器。在存储器120中,存储处理器100等处理的数据、信息。通信接口部130是在与颈佩戴部1B之间经由连接线4进行有线通信的通信电路等部分。电源电路141是从颈佩戴部1B通过连接线4接受供电的部分,对子电池142进行充电。子电池142对头佩戴部1A内的各部供给电力。子电池142的安装也可以省略。在该情况下,从电源电路141向各部进行供电。显示设备150根据显示数据在显示面5的区域中显示虚拟物体等的影像、图像。相机6拍摄包括头佩戴部1A的前方的周围的图像。操作输入部18包括例如用于HMD 1的操作的操作按钮等。操作输入部18的安装可以省略。标记部13包括多个标记17,也可以包括控制标记17的发光的电路等。
颈佩戴部1B具备处理器200、存储器220、通信接口部230、电源电路241、主电池242、操作输入部14、测距传感器7、位置姿势传感器70、声音输入部以及声音输出部等,它们经由总线等相互连接。
处理器200是控制包括颈佩戴部1B的HMD 1整体的主控制器。在存储器220中,存储处理器200等处理的数据、信息。通信接口部230是在与头佩戴部1A之间经由连接线4进行有线通信的通信电路等部分。另外,通信接口部230还进行与外部的无线通信、与操作器2之间的近距离无线通信。电源电路241是从外部电源对主电池242进行充电并且通过连接线4向颈佩戴部1B进行供电的部分。主电池242对颈佩戴部1B内的各部供给电力。操作输入部14包括例如用于HMD 1的操作的操作按钮等。测距传感器7是后述的并用类型,进行标记17的测距和通常的测距这两方。位置姿势传感器70包括加速度传感器71、角速度传感器72、地磁传感器73以及GPS接收器74。声音输入部包括左右的麦克风8。声音输出部包括左右的扬声器9以及耳机。
在存储器220中,还存储用于构成HMD 1的功能的控制程序、实现各应用的应用程序以及设定信息等。设定信息包括系统设定信息、用户设定信息。控制程序或者应用程序是例如在用户的视野中显示包括用于作业支援的图形用户界面(GUI)的虚拟物体(对应的显示目标)的程序。
在实施方式1中,颈佩戴部1B设为佩戴于用户的躯干中的颈/肩的附近的部分,但不限于此。颈佩戴部1B是能够检测用户的躯干的方向等状态的结构即可,所以能够设为作为佩戴到躯干中的任意部位的部分的躯干佩戴部。即,躯干佩戴部也可以设为佩戴到胸、背部、腹、腰等的部分。
作为在实施方式1中选择颈附近作为佩戴部位的理由,除了也便利于扬声器、麦克风的利用的点以外,还有以下的点。即,有尽可能缩短头佩戴部与躯干佩戴部的距离,尽可能缩短将它们以有线方式连接的情况下的线缆(对应的连接线4)的长度的点。线缆短越,越能够降低在身体上缠绕线缆的感觉,能够使用户的佩戴感、易于活动性、使用性变得更良好。作为变形例,与头佩戴部1A和颈佩戴部1B的通信及供电有关的连接不限于有线,也可以是无线。
[HMD-处理部]
图3示出由头佩戴部1A的处理器100以及颈佩戴部1B的处理器200实现的控制部等功能块结构。
在头佩戴部1A中,作为由处理器100等实现的控制部内的各处理部,具有数据取得部100a、数据处理部100b、通信控制部100c以及显示控制部100d。头佩戴部1A在由存储器120等实现的存储部中存储显示信息D11等。显示信息D11是从颈佩戴部1B接收到的显示数据等。
在颈佩戴部1B中,作为由处理器200等实现的控制部内的各处理部,具有数据取得部200a、数据处理部200b、通信控制部200c以及显示控制部200d。颈佩戴部1B在由存储器220等实现的存储部中存储显示信息D21、坐标系信息D22等。显示信息D21与包括用于显示控制的图像、控制信息的显示数据相当,包括向头佩戴部1A发送的数据。坐标系信息D22与用于管理和控制后述的头部坐标系或颈部坐标系的各坐标系及它们的位置关系的信息相当。
头佩戴部1A的数据取得部100a取得由相机6拍摄的图像等数据并存储到存储部。此外,在头佩戴部1A中具备其他传感器的情况下,数据取得部100a取得由该传感器检测到的数据并存储到存储部。数据处理部100b根据需要对数据取得部100a取得的数据进行处理,并传送到通信控制部100c。通信控制部100c进行将该数据通过通信接口部130发送给颈佩戴部1B的控制。
颈佩戴部1B的数据取得部200a取得由位置姿势传感器70的各传感器检测到的数据、通过测距传感器7的通常的测距检测到的数据并存储到存储部。通信控制部200c通过通信接口部230接收来自头佩戴部1A的通信控制部100c的数据,并传送到数据处理部200b。另外,处理器200使用测距传感器7,使得进行针对头佩戴部1A的标记17的测距。数据取得部200a还取得该测距的数据。数据处理部200b根据需要对由数据取得部200a取得的各数据、来自头佩戴部1A的各数据进行处理。
数据处理部200b根据标记17的测距数据来计算头佩戴部1A相对于颈佩戴部1B的相对的位置关系。该位置关系相当于颈部坐标系与头部坐标系之间的原点的位置关系、旋转的关系。数据处理部200b将与计算出的位置关系有关的数据存储到坐标系信息D22。
数据处理部200b使用位置关系来计算颈部坐标系的位置及方向等状态和头部坐标系的位置及方向等状态。此时,数据处理部200b根据由颈佩戴部1B的位置姿势传感器70检测到的数据,根据位置关系进行向表示头部坐标系中的状态的数据的校正、变换。此时,数据处理部200b根据后述的坐标系的旋转的计算来进行该校正、变换。数据处理部200b将计算得到的状态等的数据存储到坐标系信息D22。
显示控制部200d参照由数据处理部200b得到的状态等的数据,进行向显示面5的虚拟物体的显示控制。显示控制部200d例如制作用于在与头方向匹配的位置显示图像的显示数据和用于在与躯干方向匹配的位置显示图像的显示数据,并存储到显示信息D22。另外,显示控制部200d也可以进行使用了头佩戴部1A的相机6的图像数据等的显示控制。
通信控制部200c进行将显示信息D21的显示数据通过通信接口部230发送给头佩戴部1A的控制。头佩戴部1A的通信控制部100c接收该显示数据并存储到显示信息D11。显示控制部100d依照该显示数据来控制显示设备150,使显示面5显示图像。
此外,在实施方式1中,显示控制部100d是依照来自显示控制部200d的显示数据来原样地进行向显示面5的图像显示的结构,所以显示控制部100d的安装可以省略或简化。在其他实施方式中,显示控制部100d也可以与显示控制部200d的显示控制独立地进行头佩戴部1A中的特有的显示控制。例如,显示控制部100d也可以进行使用了相机6的图像的显示控制。另外,在头佩戴部1A中具备视线检测功能的情况下,显示控制部100d也可以进行与使用该功能检测到的视线方向对应的图像显示控制。另外,在设为在头佩戴部1A中不具备相机6、其他传感器的结构的情况下,能够省略或简化数据处理部100b的安装。通过设为由颈佩戴部1B的主控制器进行主要的处理的结构,能够减少头佩戴部1A的设备的安装。
另外,在实施方式1中,通过颈佩戴部1B的数据处理部200b进行使用了位置关系的状态的变换等计算,但在其他实施方式中,也可以从颈佩戴部1B向头佩戴部1A发送位置关系的数据,通过头佩戴部1A的数据处理部100b进行类似的计算。
[HMD-处理流程]
图4示出实施方式1的HMD 1中的主要的处理流程。图4具有基于颈佩戴部1B的步骤S11~S17和基于头佩戴部1A的步骤S21~S26。在步骤S11中,在根据用户的操作使电源成为了ON(开启)状态时,颈佩戴部1B进行启动处理而开始进行电路动作,并且向头佩戴部1A进行通信。在步骤S21中,头佩戴部1A根据来自颈佩戴部1B的通信而开始进行电路动作。
在步骤S12中,颈佩戴部1B通过数据取得部200a取得各数据。此时的取得数据包括位置姿势传感器70的检测数据、由测距传感器7进行的标记17的测距的测距数据。在步骤S22中,头佩戴部1A通过数据取得部100a取得数据。在步骤S23中,头佩戴部1A通过通信控制部100c将数据发送给颈佩戴部1B。在步骤S13中,颈佩戴部1B通过通信控制部200c接收该数据。
在步骤S14中,数据处理部200b使用取得数据来计算与头佩戴部1A的位置关系,使用位置关系来进行与由位置姿势传感器70检测到的状态有关的校正、变换。由此,数据处理部200b得到表示颈部坐标系中的状态的数据和表示头部坐标系中的状态的数据这两方,更新坐标系信息D22。
在步骤S15中,显示控制部200d根据坐标系信息D22来制作用于虚拟物体的显示控制的显示数据,并存储到显示信息D21。在步骤S16中,通信控制部200c将显示数据发送给头佩戴部1A。在步骤S24中,头佩戴部1A的通信控制部100c接收该显示数据。在步骤S25中,显示控制部100d根据该显示数据在显示面5上显示图像。
在步骤S17中,在根据用户的操作使电源成为了OFF(关闭)状态的情况下(“是”),颈佩戴部1B进行颈佩戴部1B的结束处理,本流程结束。在结束处理时,还进行向头佩戴部1A的通信。在电源仍然为ON状态的情况下(“否”),返回到步骤S12,同样地进行反复。另外,在步骤S26中,在使颈佩戴部1B的电源成为了OFF状态的情况下(“是”),头佩戴部1A进行头佩戴部1A的结束处理,本流程结束。在电源仍然为ON状态的情况下(“否”),返回到步骤S22,同样地进行反复。
[坐标系以及位置关系]
图5示出实施方式1的HMD 1中的与各坐标系以及位置关系相关的结构。此外,图5省略连接线4、用户的身体等的图示。(A)示出HMD 1的状态的第1例,(B)示出状态的第2例。在(A)的状态下,用户的颈等躯干的方向和头的方向几乎相同,是前朝向。对应地,颈佩戴部1B的方向(轴XN)和头佩戴部1A的方向(轴XH)几乎相同。将头佩戴部1A中的坐标系设为头部坐标系CH{轴XH,YH,ZH},将原点设为原点OH。将颈佩戴部1B中的坐标系设为颈部坐标系CN{轴XN,YN,ZN},将原点设为原点ON。原点ON的位置是根据距颈佩戴部1B的各部(特别是测距传感器7的位置)的相对的位置关系而规定的。在该状态下,轴XH及XN与前方向对应,轴YH及YN与左方向对应,轴ZH及ZN与上方向对应。颈部坐标系CN换言之是躯干坐标系。
向量V1是表示头佩戴部1A相对于颈佩戴部1B的相对的位置关系的向量,是从原点ON向原点OH的向量。此外,在考虑了向量V1的逆朝向的向量的情况下,该向量是表示颈佩戴部1B相对于头佩戴部1A的相对的位置关系的向量。
(B)的状态是用户从(A)的状态几乎不使躯干变化而使头的朝向及位置变化的情况下的例子。(B)的状态相对于(A)的状态,颈佩戴部1B的状态几乎不变化。(B)的状态相对于(A)的状态,头佩戴部1A的位置稍微向前移动,并且头佩戴部1A的方向向左侧稍微旋转。
HMD 1从颈佩戴部1B的测距传感器7对头佩戴部1A的多个标记17进行测距。向量v1是该测距时的从测距传感器7的位置至标记17的位置的向量。HMD 1根据测距数据来计算头佩戴部1A距颈佩戴部1B的相对的位置关系。该位置关系由原点之间的向量V1和头部坐标系CH与颈部坐标系CN坐标系之间的旋转来表示。
为了计算位置关系而需要测距的测定点(对应的标记17)是至少不在同一直线上的3点。在图示的例子中,是使用左右的2个测距传感器7对左右合计4点进行测距的结构,但不限于此,只要能够进行3点的测距作为结果,就能够进行位置关系的计算。标记17的位置在图示的例子中位于壳体10的侧面中的前方的端的一个部位和途中的一个部位,但不限于此。另外,在该结构例中,通过左右的2个测距传感器7分别对壳体10的左右的各2点进行测距。不限于此,也可以从1个测距传感器7对壳体10的左右的标记17进行测距。
另外,在图5中,测距传感器7是并用类型,能够进行位置关系计算用的测距501和通常的测距502这2个种类的测距。测距501是如包括向量v1那样的标记17的测距。通常的测距502是针对包括HMD 1的前方的周围的物体的测距。通常的测距502是例如用于掌握周围的房间的结构的测距。不限于此,在变形例的HMD中,用于位置关系计算用的测距501的测距传感器和用于通常的测距502的测距传感器也可以独立地设置。例如,也可以在壳体11的前侧的位置设置通常的测距502用的测距传感器,在壳体11的中间或后侧的位置或者壳体12上设置测距501用的测距传感器。另外,这2个种类的测距传感器也可以分开安装到头佩戴部1A和颈佩戴部1B。
[测距传感器]
测距传感器7能够应用TOF传感器(TOF:Time Of Flight,飞行时间)、立体方式的相机等。TOF传感器检测照射的参照光照到物体而返回的光,根据该光的飞行时间来计算距离。在应用TOF传感器的情况下,也可以将高效地反射参照光的波长的光的反射部件作为标记17配置到头佩戴部1A。参照光的波长例如是近红外域的波长。由此,TOF传感器的反射光的强度增加,能够降低测定误差,特征点的检测也变得容易。另外,在使用近红外域的参照光的情况下,还有针对室外的干扰光的影响而强化的效果。
立体方式的相机根据拍摄到的左右的图像内的特征点的差来计算距离。在应用立体方式的相机的情况下,作为头佩戴部1A的标记17,也可以配置发光标记。也可以标记部13控制标记17的发光。该发光标记发出例如近红外光。由此,立体方式的相机中的入射光增加,能够降低测定误差,特征点的检测也变得容易,得到与TOF相机的情况同样的效果。
另外,在从颈佩戴部1B的测距传感器7对头佩戴部1A的标记17进行测距时,由于某种影响,还可能有测距困难的情况。在该情况下,HMD 1也可以通过颈佩戴部1B侧的测距传感器7和头佩戴部1A侧的相机6或者其他传感器这两方来测定标记17以外的外界的任意的特征点,根据这些两方的测定数据来推测位置关系。作为变形例,也可以在颈佩戴部1B和头佩戴部1A这两方中具备测距传感器7,在该情况下,能够利用上下的2个测距传感器7的测距数据来推测位置关系。
测距传感器7通过设为并用类型,能够减少安装的设备的数量以及重量。关于测距传感器7,在通常的测距用和位置关系的测距用中设为独立的情况下,虽然安装的设备的数量以及重量增加,但具有能够选择与测定距离对应的最佳的测距传感器的优点。
[位置关系计算以及显示控制]
图6示出关于上述的位置关系的计算等的处理例。颈佩戴部1B在步骤S01中得到由测距传感器7进行的标记17的测距的测距数据DM。颈佩戴部1B在步骤S02中使用测距数据DM计算与头佩戴部1A的位置关系,得到位置关系数据DL。颈佩戴部1B在步骤S03中得到基于位置姿势传感器70的以颈部坐标系CN为基准的位置及方向等状态的传感器数据SN等数据。颈佩戴部1B在步骤S04中根据颈部坐标系CN的传感器数据SN,使用位置关系数据DL,通过基于坐标系的旋转的校正、变换的处理,得到表示以头部坐标系CH为基准的位置及方向等状态的传感器数据SH等数据。
颈佩戴部1B在步骤S05中进行使用了颈部坐标系CN的传感器数据SN的显示控制以及使用了头部坐标系CH的传感器数据SH的显示控制的处理。颈佩戴部1B例如制作用于与头方向匹配的虚拟物体的显示的显示数据和用于与躯干方向匹配的虚拟物体的显示的显示数据,并发送给头佩戴部1A。
头佩戴部1A在步骤S06中根据来自颈佩戴部1B的显示数据,在显示面5上显示各图像。即,头佩戴部1A依照以颈部坐标系CN为基准的显示数据来在与躯干方向匹配的位置显示图像,并且依照以头部坐标系CH为基准的显示数据来在与头方向匹配的位置显示图像。
[颈佩戴部]
图7示出颈佩戴部1B中的构成元素的安装例。在颈佩戴部1B中,在Y方向上,在左右的壳体11(11L、11R)各自的内部,作为左右对称的配置,安装有控制电路701以及电池702。在壳体11中,在X方向上,在前侧配置有电池702,在后侧配置有控制电路701。控制电路701与安装有图2的处理器200、存储器220以及通信接口部230等各部的IC基板等部分对应。电池702与安装有主电池242的部分对应。
某个构成元素至少配置于左右的壳体11或者后部的壳体12中的任意一个部位。或者,某个构成元素也可以在左右的壳体11中作为多个部分而分开地配置。另外,某个构成元素也可以在左右的壳体11中分开而被双重化。例如,处理器200配置于左右的控制电路701中的一方,在另一方的控制电路701中配置有另外的构成元素。例如,主电池242作为左右的电池702这2个部分而分开地配置,被双重化。也可以将一方的电池702用作现用,将另一方的电池702用作充电用。也可以将左右的各电池702设为可更换的结构。在该情况下,用户能够在仍然使用一方的电池702的情况下不关掉电源而更换另一方的电池702。另外,例如,测距传感器7在左右的壳体11中作为2个测距传感器而分开地配置。也可以对测距传感器7、其他传感器进行双重化,仅由左右的一方发挥功能。
通过如本例子那样对于各构成元素的安装尽可能设为左右对称的结构,在HMD 1整体中取得左右的重量的平衡。即,使右侧壳体11R的重量与左侧壳体11L的重量大致相同。另外,包括壳体12而在前后方向上也取得重量的平衡。由此,用户的HMD 1的佩戴感变得更良好。在将某个构成元素设为在左右的壳体11中双重化的冗余结构的情况下,得到可用性提高等效果。此外,不限于图7的配置,也可以例如在X方向在前侧配置控制电路701、在后侧配置电池702。关于麦克风8、扬声器9等的其他构成元素,也以左右取得重量的平衡的方式分别配置到左右的壳体11。
HMD存在与高度功能化对应地功耗也增加的倾向。与其对应地,在安装电池的情况下存在必要的电池容量、重量也增加的倾向。因此,在实施方式1的例子中,通过在颈佩戴部1B中安装主电池242,谋求头佩戴部1A的重量降低。与此同时,通过在颈佩戴部1B的左右的壳体11中对称地配置相同重量的组件作为2个电池702,取得颈佩戴部1B的左右的重量的平衡。关于左右的重量的平衡,既可以是通过在左右配置相同的组件而取得左右的重量的平衡的结构,也可以是在某个构成元素(例如处理器200)与其他构成元素之间取得左右的重量的平衡的结构。由此,在HMD 1的整体中易于取得重量的平衡,佩戴时的颈佩戴部1B的位置偏移的原因也减少。
[连接线]
图8示出与HMD 1中的连接线4的佩戴等有关的结构例。(A)是第1结构例,是考虑了佩戴的便宜性的结构例。HMD 1具有左右的各个连接线4(4L、4R)。连接线4中的一方端在头佩戴部1A的壳体10的左右部分的中央附近连接到佩戴时的用户的比耳更靠跟前的位置的端子。连接线4中的另一方端连接到颈佩戴部1B的左右的壳体11的中央附近的位置的端子。连接线4成为通过用户的耳前而垂下的状态。间隔801是在Y方向上头佩戴部1A的壳体10的左右的连接线4(4L、4R)的安装位置之间的距离。间隔802是在Y方向上颈佩戴部1B的壳体11的左右的连接线4的安装位置之间的距离。在HMD 1中,显示面5相对于头的位置偏移影响显示性能。因此,这样,设为左右对称地通过2根连接线4连接头佩戴部1A和颈佩戴部1B的结构。由此,取得左右的重量的平衡,位置偏移的原因减少,所以是优选的。
用户在佩戴HMD 1时,将颈佩戴部1B挂在颈/肩,将头佩戴部1A挂在头的眼前。用户在休息时等不利用头佩戴部1A的图像显示的情况下,也能够成为将头佩戴部1A从头摘下并放到胸前的状态。此外,在该结构例中,能够由用户对壳体的端子连接以及不连接连接线4,但也可以设为将连接线4固定地连接到壳体的方式。
(B)是第2结构例。左右的各连接线4(4L、4R)中的一方端在头佩戴部1A的壳体10的左右部分的后端位置连接到佩戴时的用户的比耳更靠后的位置。连接线4中的另一方端连接到颈佩戴部1B的左右的壳体11的靠后的位置。连接线4成为通过用户的耳后而垂下的状态。间隔803以及间隔804同样地表示连接线4的安装位置之间的距离。
连接线4的方案不限于图8的例子。在其他方案中,也可以将连接线4的另一方端连接到颈佩戴部1B的后部的壳体12,还可以不左右分开而集中为1根连接线4。
关于连接线4的间隔,在(A)的第1结构例中,示出间隔801与间隔802大致相同的情况。在(B)的第2结构例中,示出间隔804比间隔803稍微宽的情况。
关于HMD 1的壳体以及连接线4的间隔等的结构,各种方案都是可能的。也可以使头部侧的间隔801和颈部侧的间隔802相同。也可以使颈部侧的间隔802大于头部侧的间隔801。也可以使颈部侧的间隔802小于头部侧的间隔801。另外,上述间隔预先固定地设计,但作为其他方式,也可以通过例如将壳体设为具有灵活性、可挠性的结构、可变形的结构,使得用户能够调节上述间隔。例如,在颈佩戴部1B中,也可以左右的壳体11由刚性的部件构成,后部的壳体12由弯曲的部件构成。用户能够与体格、服装、佩戴感等匹配地调节颈佩戴部1B的间隔802。另外,在调节间隔802时,HMD 1也可以使用例如测距传感器7或者其他传感器来测定此时的间隔802。对于上述间隔801、802、配置于HMD 1的壳体的各种传感器等构成元素之间的位置关系,为了实现HMD 1的功能,预先设定为设定值。在上述间隔802等被改变的情况下,上述设定值也被更新。
颈佩戴部1B不限于弧形状,也可以是例如壳体11的颈前闭合的形状。将左右的壳体11设为棒状,但不限于此,也可以成为如肩垫那样接近平坦的形状。也可以将颈佩戴部1B设为例如如背心、工作服那样的衣服的形状。
图9与图8关联地示出Y方向上的关于HMD 1的壳体的左右的部分之间的间隔的结构例。图9示意地示出用户佩戴头佩戴部1A以及颈佩戴部1B的状态的正面。宽度W1表示头佩戴部1A的壳体10的左右的部分的Y方向的宽度。宽度W2表示颈佩戴部1B的壳体11的左右的部分的Y方向的宽度。(A)示出宽度W1和宽度W2是相同程度的情况。(B)示出宽度W2大于宽度W1的情况(W1<W2)。
在HMD 1中,期望以从颈佩戴部1B的测距传感器7向头佩戴部1A的标记17的测距容易进行的方式设计测距传感器7以及标记17等的位置、各部的宽度等的尺寸。在(A)的情况下,从测距传感器7向上方测定标记17。在(B)的情况下,从测距传感器7向上方的稍稍倾斜方向测定标记17。在实施方式1中,考虑佩戴的便宜性、位置偏移原因的降低、测距的便宜性等,将颈部侧的宽度W2设为头部侧的宽度W1以上(W1≤W2)。也可以不限于此,在其他方式中,也可以设为颈部侧的宽度W2更小的结构(W1>W2)。
此外,标记17既可以配置于壳体10的下朝向的面,也可以配置于横朝向的面。测距传感器7既可以配置于壳体11的上朝向的面,也可以配置于横朝向的面。作为变形例,在(A)中,也可以在从颈佩戴部1B的壳体11向左右的外侧延长地离开的位置901配置测距传感器7或者其他传感器等的部位。另外,也可以是由用户能够调节该延长的长度的方式。
[分离结构例]
图10示出总结了在实施方式1以及各变形例的HMD 1中在头佩戴部1A和颈佩戴部1B的上下部位分离地安装构成元素的几个结构例的表。
首先,实施方式1中的结构如上述图2等所示,在颈佩戴部1B中设置有测距传感器7、位置姿势传感器70、主电池242、麦克风8以及扬声器9等,在头佩戴部1A中设置有相机6、显示设备150、子电池142等。位置姿势传感器70包括上述加速度传感器71、角速度传感器72、地磁传感器73以及GPS接收器74,对于测距传感器7以及相机6分开考虑。颈佩戴部1B被固定到用户的躯干,所以该位置姿势传感器70检测用户的躯干的方向等状态。测距传感器7在通常的测距中测定颈佩戴部1B与周围的物体的距离(图5)。由相机6进行的外界的拍摄在与用户的视点接近且易于拍摄外界方面有利。因此,在实施方式1中,在位于比颈佩戴部1B高的位置的头佩戴部1A中设置相机6。
接下来,在实施方式1的变形例1中,作为与实施方式1不同的结构点,对于相机6,也设置于颈佩戴部1B。由此,能够进一步降低头佩戴部1A的重量。此外,在变形例1中,相机6的图像是以颈部坐标系CN为基准的图像。因此,在希望得到以头部坐标系CH为基准的图像信息的情况下,也可以对相机6的图像进行使用了上述位置关系的校正、变换。变形例1重视头佩戴部1A的重量降低,将大量的构成元素安装到颈佩戴部1B。
接下来,在变形例2中,作为与实施方式1不同的结构点,在头佩戴部1A中与颈佩戴部1B的测距传感器7独立地将通常的测距用的测距传感器设置为第2测距传感器。外界的物体的测距在易于观察外界方面有利,所以在变形例2中,在更高的位置即头佩戴部1A中设置第2测距传感器。
接下来,在变形例3中,作为与实施方式1不同的结构点,将位置姿势传感器70的一部分的传感器设置于头佩戴部1A,将另一部分的传感器设置于颈佩戴部1A。特别地,在头佩戴部1A中安装加速度传感器71以及角速度传感器72,在颈佩戴部1B中安装地磁传感器73以及GPS接收器74。头部的旋转方向以及重力方向的检测的精度特别重要,所以在重视高度的功能的情况下,如变形例3那样,具有在头佩戴部1A中搭载传感器的优点。
接下来,在变形例4中,虽然种类重复,但在颈佩戴部1B以及头佩戴部1A这两方中设置位置姿势传感器。特别地,在颈佩戴部1B中安装高性能的传感器作为主传感器,在头佩戴部1A中安装轻量的传感器作为子传感器。例如,HMD 1在通常时使用颈佩戴部1B的传感器来取得高精度的数据,在由于某种理由无法取得颈佩戴部1B的传感器数据的情况下,也可以取得头佩戴部1A的传感器数据。变形例4是抑制头佩戴部1A的重量并且重视高精度、可用性的结构。
作为其他变形例,也可以不在颈佩戴部1B而在头佩戴部1A中设置麦克风8以及扬声器9等。当然还能够采用组合如上所述的各种构成的方式。
[坐标系]
以下,说明图5的头佩戴部1A的头部坐标系CH和颈佩戴部1B的颈部坐标系CN的坐标系的关系等。此外,在以下的说明中,坐标系统一为右手系。头部坐标系CH与颈部坐标系CN之间的坐标系的旋转能够以欧拉角、标准化四元数表示。以下,为了表示坐标系的旋转,使用标准化四元数。处理器200(特别是图3的数据处理部200b)进行包括这样的坐标系的旋转的计算。
标准化四元数是指模(norm)为1的四元数,能够表示绕某个轴的旋转。表示将单位向量(nX,nY,nZ)作为旋转轴的角度η的旋转的标准化四元数q成为下述的式1。
式1:q=cos(η/2)+nXsin(η/2)i+nYsin(η/2)j+nZsin(η/2)k
i、j、k是四元数的单位。朝向向量(nX,nY,nZ)的朝向的情况的右旋的旋转是η为正的旋转方向。任意的坐标系的旋转能够以该标准化四元数表示。
总结标记的用法。用Sc(q)表示四元数q的实数部分。用q*表示四元数q的共轭四元数。用[·]定义将四元数q的模标准化为1的算子。在将q设为任意的四元数时,接下来的式2是算子[·]的定义。式2的右边的分母是四元数q的模。
式2:[q]=q/(qq*)1/2
接下来,用接下来的式3定义表达坐标点或者向量(pX,pY,pZ)的四元数p。
式3:p=pXi+pYj+pZk
在本说明书中,只要没有特别说明,设为不是分量显示的、表示坐标点、向量的标记是四元数显示。另外,设为表示旋转的标记是标准化四元数。
将向与单位向量n方向垂直的平面的向量的射影算子设为PT(n)。向量p的射影由接下来的式4表示。
式4:PT(n)p=p+nSc(np)
设为将坐标点或者方向向量p1通过以四元数q表示的原点中心的旋转操作变换为坐标点或者方向向量p2。于是,方向向量p2能够用接下来的式5计算。
式5:p2=qp1q*
将以使单位向量n1与单位向量n2重叠的方式绕与包括n1和n2的平面垂直的轴旋转的标准化四元数设为R(n1,n2)。R(n1,n2)成为下述的式6。
式6:R(n1,n2)=[1-n2n1]
接下来,说明头佩戴部1A的头部坐标系CH和颈佩戴部1B的颈部坐标系CN这2个坐标系的关系。在用户活动颈、头时,2个坐标系之间的位置关系发生变化。例如,从图5的(A)的状态变化为(B)的状态。实施方式1的HMD 1通过从颈佩戴部1B的测距传感器7不断进行由头佩戴部1A的标记17表示的特征点的测定,掌握2个坐标系之间的位置关系。
头部坐标系CH中的测定点(对应的标记17)的坐标、换言之壳体10的形状等预先在设计上已知。将头部坐标系CH中的这3点的坐标值设为pH0、pH1、pH2。颈部坐标系CN中的3点的坐标值能够通过测距传感器7的测定而获知。将这3点的坐标值设为pN0、pN1、pN2
HMD 1首先计算用于匹配坐标系的方向的旋转。将3个测定点设为第1测定点、第2测定点、第3测定点。将向从第1测定点朝向第2测定点以及第3测定点的各方向的单位向量的头部坐标系CH中的表达设为nH1、nH2。同样地,将颈部坐标系CN中的表达设为nN1、nN2。具体而言,它们成为下述的式7。此外,得到朝向不同的2个方向向量即可,测定点的数量不限于3。
式7:
nH1=[pH1-pH0]
nH2=[pH2-pH0]
nN1=[pN1-pN0]
nN2=[pN2-pN0]
最初,在头部坐标系CH的表达中的旋转中,考虑使nH1与nN1重叠的旋转即旋转qTA。在此,旋转qTA设为下述的式8。
式8:qTA=R(nH1,nN1)
接下来,通过该旋转qTA,将nH1、nH2被旋转后的方向设为nA1、nA2。该方向是下述的式9。
式9:
nA1=qTAnH1qTA =nN1
nA2=qTAnH2qTA
由于是相同的方向之间的角度,所以nA1和nA2所成的角度等于nN1和nN2所成的角度。另外,3个测定点不在同一直线上,所以nN1和nN2所成的角度不是0。因此,以nA1即nN1为轴的旋转qTB被唯一地决定,能够使nA2与nN2重叠。具体而言,旋转qTB由下述的式10给出。
式10:qTB=R([PT(nN1)nA2],[PT(nN1)nN2])
通过该旋转qTB,nA1和nA2被旋转为下述的式11的nN1和nN2
式11:
nN1=qTBnA1qTB
nN2=qTBnA2qTB
重新用下述的式12定义旋转qT。该旋转qT是使颈部坐标系CN的方向与头部坐标系CH的方向匹配的头部坐标系CH中的旋转。
式12:qT=qTBqTA
最后,求出坐标原点的关系。在将头部坐标系CH中的颈部坐标系CN的坐标原点设为ONH时,ONH由下述的式13给出。
式13:ONH=pH0—qT *pN0qT
根据以上,如果能够从颈佩戴部1B测定头佩戴部1A的特征点中的不在同一直线上的3点以上的特征点(对应的标记17)的位置,则能够求出颈部坐标系CN的方向与头部坐标系CH的方向的关系、即、上述位置关系。由此,HMD 1能够综合地使用头部坐标系CH和颈部坐标系CN。
如果已知如上所述计算的头部坐标系CH与颈部坐标系CN的关系,则不论将位置姿势传感器等传感器配置到头佩戴部1A和颈佩戴部1B中的哪一个,都能够从一方的坐标系的值向另一方的坐标系的值相互变换。因此,包括上述位置姿势传感器70、具体而言加速度传感器71、角速度传感器72、地磁传感器73以及GPS接收器74、相机6、以及测距传感器7的各种设备基本上可以安装到头佩戴部1A和颈佩戴部1B中的任一方。实施方式1的HMD 1是将上述设备中的至少一部分安装到颈佩戴部1B而不是头佩戴部1A的结构。由此,能够在使用了上述设备的高度的功能的同时降低头佩戴部1A的重量。
[显示信息以及坐标系信息]
图11示出颈佩戴部1B中的显示信息D21以及坐标系信息D22的结构例。在显示信息D21的DB(数据库)中,包括显示目标信息表T01。在显示目标信息表T01中,针对显示于显示面5的每个显示目标,存储有目标ID、显示坐标系、配置坐标以及配置方向等信息。显示坐标系能够从各坐标系选择。配置坐标以及配置方向是显示坐标系中的位置坐标以及方向。
在坐标系信息D22的DB中,包括坐标系信息表T02。在坐标系信息表T02中,针对各种坐标系中的每一个,存储有原点位置、正面方向等信息。在各种坐标系中,有世界坐标系(设为CW)、头部坐标系CH、颈部坐标系CN以及后述的惯性坐标系(设为CI)等。各坐标系的原点设为世界坐标系CW的原点G1、头部坐标系CH的原点G2(=OH)、颈部坐标系CN的原点G3(=ON)、惯性坐标系CI的原点G4,分别具有以某个坐标系为基准的位置坐标。各坐标系的正面方向例如被表示为某1个轴的方向。
[效果等]
如上所述,根据实施方式1的HMD 1,通过分离型的结构,能够平衡性良好地实现高度的功能和重量降低,能够提高用户的使用性。
作为变形例,在设为在颈佩戴部1B侧具备相机6的结构(图10的变形例1)的情况下,作为该相机6,也可以应用广角相机。广角相机是例如能够以180度以上的视场角进行拍摄的相机。HMD 1也可以从由该广角相机拍摄到的广角图像中判断并切取与头佩戴部1A的头方向对应的一部分的图像,将该切取出的图像用于以头方向为基准的图像显示控制。该结构特别在非透射型的显示面5的情况下有效。另外,也可以将该广角相机并用于通常的外界的拍摄用和位置关系的测定用。
(实施方式2)
使用图12说明本发明的实施方式2的HMD。以下,说明实施方式2等中的与实施方式1不同的结构部分。在实施方式2的HMD 1中,在头佩戴部1A中设置测距传感器7,在颈佩戴部1B中设置多个标记17。即,实施方式2中的颈佩戴部1B和头佩戴部1A的位置关系的测距相对于实施方式1成为相反的关系。HMD 1从头佩戴部1A的测距传感器7将颈佩戴部1B的多个标记17作为特征点进行测距,根据测距数据,计算颈佩戴部1B相对于头佩戴部1A的位置关系。HMD 1使用该位置关系,进行由头佩戴部1A的传感器检测到的状态的数据与由颈佩戴部1B的传感器检测到的状态的数据之间的校正、变换。该计算能够与实施方式1类似地实现。
图12示出实施方式2的HMD 1的结构。在头佩戴部1A中,安装有测距传感器7、相机6以及显示设备150等。在颈佩戴部1B中,安装有位置姿势传感器70、电池(主电池242)、麦克风8以及扬声器9等。在本例子中,头佩戴部1A的测距传感器7使用通常的测距用和位置关系的测距用的并用类型。将该测距传感器7左右对称地作为2个测距传感器,配置于壳体10的前侧的左右端的附近,对大致位于下方的多个标记17进行测距。另外,在本例子中,在颈佩戴部1B的左右的壳体11中的每一个中,各配置有3个、合计6个标记17。向量V2是表示从头坐标系CH的原点OH观察的向颈坐标系CN的原点ON的位置关系的向量。
根据实施方式2的HMD 1,能够实现与实施方式1同样的效果。然而,以头佩戴部1A的重量的观点来看,如实施方式1那样在颈佩戴部1B中设置测距传感器7的结构有利。作为实施方式2的变形例,也可以在头佩戴部1A中独立地设置通常的测距用的第2测距传感器。也可以在颈佩戴部1B中设置该第2测距传感器。另外,作为变形例,也可以将相机6安装在颈佩戴部1B侧。
(实施方式3)
使用图13说明实施方式3的HMD。由于用户的服装等的影响,可能有无法使用测距传感器7光学地测定头佩戴部1A和颈佩戴部1B的位置关系的情况。在实施方式3中,示出在这样的情况下也能够测定位置关系的方式。
图13示出实施方式3的HMD 1的结构。在该HMD 1中,作为与实施方式1不同的结构点,对于位置姿势传感器70,在头佩戴部1A、颈佩戴部1B中具有包括加速度传感器71以及地磁传感器73的传感器。
首先,从颈佩戴部1B观察的头佩戴部1A的旋转中心位置根据个人而决定,是大致恒定的,所以将其取为固定位置。在HMD 1中,预先设定该位置。或者,在HMD 1中,设定能够通过测距传感器7等光学地测定其平均的旋转中心位置时的值。例如,如果将头佩戴部1A的旋转中心取为头部坐标系CH的坐标原点,则通过求出坐标系之间的方向的关系,就可以决定坐标系之间的关系。接下来,求出各坐标系的方向的关系。对于垂直方向的方向的关系,由于能够利用作为加速度传感器71的3轴加速度传感器测定重力加速度,所以能够根据该重力加速度的朝向的各坐标系中的测定值的差来求出。而且,对于头(对应的头部坐标系CH)和躯干(对应的颈部坐标系CN)中的水平面中的方向的差,能够使用设置于头佩戴部1A和颈佩戴部1B这双方的地磁传感器73求出双方的水平面中的方位的差。地磁传感器有时由于外界的影响而在方位的绝对值中产生偏移,但对于相对值而言能够比较稳定地求出。通过以上,能够与实施方式1类似地计算头部坐标系CH与颈部坐标系CN之间的方向的关系。
如上所述,在实施方式3中,代替在实施方式1中说明的从3个测定点中的第1测定点朝向第2测定点以及第3测定点的各方向,使用各坐标系中的重力加速度的方向和地磁中的例如北方向来计算坐标系之间的方向的关系。由此,在实施方式3中,即使在无法光学上测定头佩戴部1A和颈佩戴部1B的位置关系的状况的情况下,也能够推测位置关系。
如上所述,根据实施方式3,以重视高度的功能的观点来看,得到与实施方式1同样的效果。作为实施方式3的变形例,也可以设为不具备测距传感器7的结构。
以下也能够作为其他变形例。HMD 1可能成为暂时无法测定颈佩戴部1B和头佩戴部1A的位置关系的状况。在该情况下,HMD 1无法进行使用位置关系的变换,所以有无法进行以颈部坐标系CN为基准的图像的显示或者以头部坐标系CH为基准的图像的显示的情况。在该情况下,在HMD 1中,作为例外性对应处理,也可以进行不使用位置关系的显示,例如以头部坐标系CH为基准的图像的显示,或者以颈部坐标系CN为基准的图像的显示。HMD 1在之后能够再次测定位置关系的情况下,停止上述例外性对应处理,返回到原来的显示。
(实施方式4)
使用图14说明实施方式4。实施方式4的HMD是关于头佩戴部1A和颈佩戴部1B的供电安装无线供电功能而在头佩戴部1A与颈佩戴部1B之间进行无线通信的结构。
图14示出实施方式4的HMD 1的结构例。连接线4由1根构成,通过与头佩戴部1A的壳体10的连接而形成环形形状。连接线4的一方端连接到头佩戴部1A的壳体10的例如左侧的部分的后端,与壳体10内的电源电路141(图2)连接。连接线4的另一方端连接到壳体10的例如右侧的部分的后端。该电源电路141包括无线供电的受电电路。
连接线4中的中间的部分是与颈佩戴部1B的壳体12相接地配置的部分,安装有受电天线部4C。在壳体12中,安装有送电天线部12C。送电天线部12C与壳体11的电源电路241连接。该电源电路241包括无线供电的送电电路。在送电天线部12C以及受电天线部4C中,例如分别形成有线圈。在接近的送电天线部12C与受电天线部4C之间,通过电磁感应的作用而进行无线供电。此外,无线供电的方式没有限定。
在头佩戴部1A的壳体10的例如右侧的部分中,安装有与无线通信接口对应的无线通信电路10C。在颈佩戴部1B的壳体11的一部分、例如右侧壳体11R的一部分中,安装有无线通信电路11C。该HMD 1通过在头佩戴部1A的无线通信电路10C与颈佩戴部1B的无线通信电路11C之间适当地进行无线通信,上下部位协作地实现功能。此外,无线通信用的天线也可以形成在连接线4、壳体12中。
此外,关于连接线4和壳体12的连接部分,也可以设为能够由用户分离和固定的结构。连接线4是可挠性的,确保某种程度以上的长度作为富余,所以用户能够自由地活动颈、头。
(实施方式5)
使用图15说明实施方式5。实施方式5的HMD具有与上述显示控制有关的功能,示出与用户的头的状态和躯干的状态对应的图像的显示控制的例子。
[显示控制]
在以往技术例的HMD中,作为虚拟物体等的图像的显示方式,使用外界的世界坐标系和与头匹配的局部坐标系(在实施方式1中为头部坐标系CH)这2个基准。或者,如专利文献1的例子,还提出使用与头匹配的坐标系和与躯干匹配的坐标系(在实施方式1中为颈部坐标系CN)这2个基准。相对于此,实施方式5的HMD 1使用世界坐标系CW、头部坐标系CH以及颈部坐标系CN这3个基准全部,控制各坐标系中的图像显示。由此,该HMD 1实现高度的功能,提高用户的便利性。
此外,在非透射型的显示面5的方式中,还有成为用户的视场全面显示VR的图像的显示器的没入型的方式。即使在该情况下,在用户在图像内的“虚拟世界”中移动的方案中,如果将该“虚拟世界”解释为在本发明中所称的“世界”,则能够构成同样的显示方式,也得到同样的效果。因此,关于本发明中的显示方式,只要没有特别限定,则包括透射型、非透射型(特别是没入型)这两方。在进一步详述没入型的情况时,“虚拟世界”内的移动有通过实际的HMD的在外界中的移动来进行的情况和通过控制器(操作器2)的控制输入来进行的情况。不论在哪种情况下,都能够捕捉为世界内的基于用户的意图的移动。
在实施方式5的HMD 1中,关于包括在显示面5上显示图像的位置的控制的显示控制,并用以下的3个种类的控制。
(1)以世界坐标系CW为基准的图像显示位置控制。该显示控制在例如在外界的物体的附近的位置显示例如用于作业支援的虚拟物体的情况等下使用。
(2)以头部坐标系CH为基准的图像显示位置控制。该显示控制在例如在与用户的头方向对应的视野内显示HMD 1的图形用户接口(GUI)中的系统信息、菜单、命令以及图标等图像的情况下使用。
(3)以颈部坐标系CN为基准的图像显示位置控制。另一方面,对于某种虚拟物体的显示,在上述世界坐标系CW中的显示、头部坐标系CH中的显示中,还有便利性不佳的情况。例如,可以举出作业过程、作业用工具等的显示。对于这种虚拟物体,在配置于例如以世界坐标系CW为基准的固定的位置的情况下,每当用户移动时,产生重新配置的工夫。此外,此处的用户的移动是指除了实际空间中的用户移动以外还包括基于控制器(操作器2)等的虚拟空间内的用户视点的移动。
因此,在实施方式5中,关于这种虚拟物体的显示控制,利用以颈部坐标系CN为基准的配置。即,HMD 1将这种虚拟物体配置到与用户的躯干方向匹配的位置。在该配置的情况下,伴随用户的移动,虚拟物体也显示到追随的位置,所以能够节省重新配置的工夫。
另外,另一方面,在将上述虚拟物体配置到以头部坐标系CH为基准的位置的情况下,追随用户的移动地显示,但由于配置于用户的视场正面的固定位置,所以还有变得难以看到视场正面的情况。例如,在虚拟物体配置于视场正面的中心位置的情况下,变得难以看到作业对象、作业的动作。在虚拟物体配置于远离视场正面的中心位置的位置的情况下,存在变得难以看到虚拟物体、或者无法配置大尺寸的虚拟物体、大量的虚拟物体这样的限制。
因此,在实施方式5中,关于这种虚拟物体,利用以颈部坐标系CN为基准的显示控制。即,在该显示控制中,使对象的虚拟物体追随世界坐标系CW内的用户的意图的移动而以与颈佩戴部1B的躯干方向匹配的方式显示,并且以不追随头方向的变化的方式显示。在该显示控制中,根据头佩戴部1A的头方向相对于颈佩戴部1B的躯干方向的变化,以相对于显示面5的显示的位置及方向变化的方式,显示对象的虚拟物体。由此,没有上述限制,得到易于作业等效果。用户能够在例如避开存在作业对象的实物的正面方向的位置配置作业工具等虚拟物体,如果改变头的方向则该虚拟物体的视觉辨认也无障碍,还能够配置大尺寸的虚拟物体、大量的虚拟物体。
[显示控制例(1)]
图15~图18示出以各坐标系为基准的显示控制例。首先,图15的(A)示出佩戴HMD1的用户的视场整体5A的例子。在视场整体5A中,在中心有FOV(field of view,视野)5B,作为实物的例子,有作业台5C上的作业对象物5D。视场整体5A是用户能够视觉辨认的范围整体。视场整体5A表示用户面向作业对象物5D站立、躯干以及脸也自然地面向正面时的视场整体。FOV 5B表示在透射型的HMD 1中的显示面5中显示目标能够显示的范围、显示区域。点P1表示FOV 5B的中心点。(A)是从用户的视点透过显示面5而看到作业对象物5D等的状态。
此外,在非透射型的HMD的情况下,能够将视场整体5A作为显示区域而对显示目标进行显示,该情况下的FOV 5B与位于用户的头以及两眼的正面的易于视觉辨认的范围的推测相当。在非透射型的显示面5的情况下,作业对象物5D等被显示为基于影像透视或模拟的与实物对应的虚拟物体。
(B)示出对于(A)的视场整体5A以显示面5的FOV 5B重叠显示虚拟物体等显示目标的例子,设为第1状态。实物以外的元素不论在透射型、非透射型中的哪一种方式的情况下,都是虚拟物体等显示目标(对应的图像)。在本例子中,作为显示目标,具有系统信息61、HMD菜单62、作业说明63以及作业用工具64。
系统信息61是HMD 1的系统提供给用户的信息,例如有表示电波强度、时刻、电池剩余量等的状态的图像。另外,HMD菜单62是用于用户输入指示等的GUI组件,例如是HOME(归位)按钮等虚拟物体。系统信息61以及HMD菜单62是以头部坐标系CH为基准的显示的例子,显示于FOV 5B中的固定的位置。例如,系统信息61显示于FOV 5B内的上边的区域,作为HMD菜单62的HOME按钮显示于FOV 5B内的左下。系统信息61等即使在由于用户的活动而HMD1的位置、方向变化的情况下,在视场整体5A以及FOV 5B内也显示于相同的位置。
作业说明63是用于对用户说明与作业对象物5D有关的作业的虚拟物体。作业说明63是以世界坐标系CW为基准的显示的例子,显示于作业对象物5D的附近的固定的位置。作业说明63即使在由于用户的移动等而HMD 1的位置、方向变化的情况下,也显示于世界坐标系CW内的相同的位置。
作业用工具64是用于支援用户的作业的工具等虚拟物体。作业用工具64A显示传达作业的过程的动画、动漫等。作业用工具64B设置有用于操作的命令。作业说明63、作业用工具64例如由作业支援应用生成。作业用工具64是以颈部坐标系CN为基准的显示的例子,显示于与用户的躯干方向匹配的位置。作业用工具64在颈佩戴部1B和头佩戴部1A的位置关系发生了变化的情况下,在视场整体5A内的显示位置发生变化。以下,说明以颈部坐标系CN为基准的作业用工具64的显示的变化。
图16示出作为从图15的第1状态变化后的状态的例子的第2状态。图16是通过用户的躯干的朝向保持原样且用户将头朝向斜下而使脸的正面朝向作业对象物5D的状态。在FOV 5B的点P1处,有作业说明63。作业用工具64以视场基准而言向上方移动,完全脱离FOV5B。
图17示出作为从图15的第1状态变化后的状态的例子的第3状态。图17是通过用户的躯干的朝向保持原样且用户将脸朝向左上方向而在视场整体5B内将作业用工具64向右下方向放下并将左侧的作业用工具64A收纳到FOV 5B内的状态。在点P1处有作业用工具64A。
图18示出作为从图15的第1状态变化后的状态的例子的第4状态。图18是用户不使脸的朝向相对于躯干变化而使躯干朝向左斜前的状态。在该情况下,作为以世界坐标系CW为基准的显示目标的作业说明63在视场整体5A内向右移动。另一方面,作为以颈部坐标系CN为基准的显示目标的作业用工具64与躯干方向匹配地配置,所以在视场整体5A内未改变位置。这样的以颈部坐标系CN为基准的显示在例如用户一边移动一边使用相同的作业用工具64的情况等下是适当的。
如上述例子那样,在实施方式5的HMD 1中,能够根据检测以及计算出的状态的数据,作为虚拟物体的显示控制的方式,选择以及并用以世界坐标系CW、头部坐标系CH以及颈部坐标系CN中的各坐标系为基准的虚拟物体的显示。特别地,在以颈部坐标系CN为基准的显示方式中,关于虚拟物体的配置位置,能够进行如追随用户以及HMD 1的移动但不追随头佩戴部1A以及头的方向的变化的显示。由此,能够进行与显示目标的种类、性质对应的极其细致的显示,能够适当地支援用户的作业等,便利性提高。
[显示控制例(2)]
图19~图20示出实施方式5中的第2显示控制例。图19示出在HMD 1的显示面5中在FOV 5B内使用以头部坐标系CH为基准的方式显示多个应用图标66的例子。在本例子中,根据用户对上述HMD菜单62的HOME按钮的选择执行,HMD 1打开首页画面,在首页画面中并行地显示多个(在本例子中为8个)应用图标66。应用图标66是作为GUI组件的虚拟物体的例子,是用于根据用户的选择执行来控制对应的应用的显示等的图标。HMD 1在通常时使用以头坐标系CH为基准在FOV 5B内的固定的位置显示应用图标66的方式。通过用户对HMD菜单62的CLOSE(关闭)按钮的选择执行,返回到原来的显示状态即不显示应用图标66的状态。对于用户频繁地使用的应用图标66等虚拟物体,在这样显示在FOV 5B内的固定的位置时,便利性高。
此外,对于成为应用图标66的显示的妨害的显示目标,既可以暂时地停止显示,也可以在上层重叠显示应用图标66。另外,例如,也可以使用在FOV 5B内在多个页面中的各页面中配置图标并受理基于HMD菜单62的1个页面改变按钮等的页面改变操作的方式。由此,能够增加能够在显示面5上综合性地显示的图标数量。
而且,图20示出以颈部坐标系CN为基准显示应用图标66的例子。HMD 1与躯干方向匹配地在视场整体5A内并行地配置多个应用图标66。在FOV 5B内,显示其中的一部分的应用图标66。通过用户原样地保持躯干的朝向且改变脸的朝向,能够改变显示于FOV 5B内的应用图标66。例如,如果用户将脸朝向左上,则“A”的应用图标66进入到FOV 5B内。这样,在以颈部坐标系CN为基准的显示方式中,通过改变头相对于躯干的朝向,能够在FOV 5B内视觉辨认比以往更大量的应用图标66的全部。
[显示控制例(3)]
图21示出实施方式5中的第3显示控制例。而且,也可以使用以世界坐标系CW为基准的应用图标的配置方式。例如,特定的装置的操作用的应用在该装置的场所中使用的情形较多,所以在将该应用的虚拟物体配置到世界坐标系CW内的该装置的附近的位置时,便利性高。
图21的(A)示出在视场整体5A内在世界坐标系CW内的作业台5C上的作业对象物5D的附近的固定的位置显示用于控制作业对象物5D的操作用的应用的应用图标67的例子。
另外,此时,世界坐标系CW内的作为显示目标的应用图标67的配置也可以设为以用户所处的方向为基准的位置及朝向下的配置。另外,此时,也可以以不妨碍用户的作业的方式在避开连接用户与作业对象物5D的作业部位的线上的位置配置应用图标67。在图21的(B)中,将该应用图标67的配置的例子表示为从铅直上方进行俯视得到的位置关系。单点划线的箭头的方向2101是连接用户以及HMD1的代表点与作业对象物5D的代表点的与头方向或者躯干方向对应的方向。虚线的箭头的方向2102是连接用户以及HMD 1的代表点与应用图标67的配置位置的方向。应用图标67的配置位置以不与作业对象物5D重叠的方式设为例如右邻。应用图标67的配置方向与方向2102匹配。
[显示控制例(4)]
图22示出实施方式5中的第4显示控制例。对于以上述各坐标系为基准的显示方式,既可以能够根据用户的指示、事先设定来选择,也可以HMD 1判断并选择。也可以能够针对每个对象的虚拟物体、每个种类、每个应用来选择显示方式。图22示出用于应用的显示的坐标系的设定例。图22是某个应用的属性(对应的虚拟物体)的显示,示出能够从头部坐标系CH、颈部坐标系CN以及世界坐标系CW选择并设定显示该应用的图标、工具等虚拟物体的坐标系的例子。
另外,图23示出在虚拟物体上重叠显示表示显示坐标系的图像的例子。在图23中,在某个应用图标66中,在一部分中重叠显示表示显示坐标系的图像68。本例子的图像68是表示世界坐标系CW的图像,表示该应用图标66的显示坐标系为世界坐标系CW。既可以始终显示图像68,也可以在用户暂时选择了应用图标66的情况或输入了预定的指示的情况等下显示图像68。
而且,也可以将表示该显示坐标系的图像68用作显示坐标系的控制按钮。HMD 1根据用户对图像68的选择执行,以在头部坐标系CH、颈部坐标系CN以及世界坐标系CW之间切换对应的虚拟物体的显示坐标系的方式进行设定。例如,图像68也可以是循环地切换3个坐标系的按钮。例如,应用图标66的图像68的选择状态表示对应的应用的启动时的显示坐标系。在应用图标66被选择执行的情况下,HMD 1在与此时的图像68的选择状态对应的显示坐标系的位置启动对应的应用。即,在该显示坐标系的位置配置作业用工具等虚拟物体。另外,该应用图标66的图像68的选择动作也可以使用于即时的显示坐标系的切换。例如,最初,应用图标66的图像68的状态是头部坐标系CH,如上述的图19的例子那样显示。接下来,通过用户对图像68的选择操作,将图像68的状态改变为颈部坐标系CN。此时,HMD1将该应用图标66被配置的坐标系以及位置改变为颈部坐标系CN内的位置。坐标系的改变能够根据上述的坐标系之间的关系来进行。
图24的(A)示出在上述作业用工具64A的例子中虚拟物体的显示坐标系的切换的一个例子。本例子是根据用户对配置于虚拟物体的附近的按钮等虚拟物体的选择执行来进行显示坐标系的切换的例子。在作业用工具64A中,针对传达作业过程的动画等显示目标64a的区域,在邻接的位置、例如上边区域中显示能够进行显示坐标系的切换等操作的控制用的显示目标64b。在显示目标64b内,包括能够进行显示坐标系的切换操作的按钮64c、以“-”表示的缩小按钮64d、以“×”表示的结束按钮64e。
按钮64c是显示坐标系切换按钮,也可以与图23的图像68同样地设为循环的切换按钮。按钮64c包括表示头部坐标系CH、颈部坐标系CN以及世界坐标系CW中的各坐标系的图像(对应的按钮)。与当前选择的显示坐标系对应的图像例如由框包围而被强调显示。用户能够通过期望的显示坐标系的按钮的选择操作来切换该作业用工具64A的显示坐标系。
作为显示坐标系切换的利用例,用户在某个场所将配置于世界坐标系CW的多个显示目标的显示坐标系改变为颈部坐标系CN或者头部坐标系CH。用户通过从该场所移动,能够搬运这些显示目标。然后,用户在移动后的场所例如使这些显示目标的显示坐标系返回到世界坐标系CW。由此,用户能够以较少的工夫来改变各显示目标的在世界坐标系CW内的位置。
对于上述搬运时、短暂不注视也可以的显示目标,在缩小显示时能够有效利用显示空间。HMD 1根据用户的指示等,改变虚拟物体的显示尺寸。图24的(B)示出通过(A)的缩小按钮64d的操作将作业用工具64A缩小显示的例子。在控制用按钮的1个中,有以矩形表示的放大按钮64f,通过放大按钮64f的操作,能够使作业用工具64A返回到原来的状态。不限于缩小显示,还能够是变化为图标等方案。如以上所述,利用针对每个虚拟物体切换显示坐标系的功能,能够提高用户的便利性。
[显示控制例(5)]
图25示出实施方式5中的第5显示控制例。在不知道头佩戴部1A和颈佩戴部1B的位置关系的情况下,也可以设置用作颈部坐标系CN的代替的坐标系。在此,将该坐标系称为惯性坐标系CI。具体而言,该惯性坐标系CI是使世界坐标系CW的坐标原点追随头部坐标系CH(对应的头佩戴部1A)或者颈部坐标系CN(对应的颈佩戴部1B)的移动而构成的坐标系。例如,在某个地点,关于在从用户观察时配置于北的方向的惯性坐标系CI上的位置的显示目标,即使用户移动或者改变朝向,也始终相对于用户显示在北的方向的位置。
这样的以惯性坐标系CI为基准的显示方式也是关于虚拟物体的配置位置而追随用户以及HMD 1的移动但不追随头佩戴部1A的朝向的变化这样的显示方式。具有在不知道用户的身体的正面方向(颈部坐标系CN的躯干方向)的情况下能够通过使用惯性坐标系CI将想要配置于用户的附近的虚拟物体配置到用户的周围的宽范围的方向等效果。该显示方式只要是能够测定世界坐标系CW的HMD就能够应用。
HMD 1在例如由于某种原因暂时不知道头佩戴部1A和颈佩戴部1B的位置关系而不知道颈部坐标系CN的方向的情况下,将配置于颈部坐标系CN的显示目标的显示坐标系切换到惯性坐标系CI。HMD 1在再次获知颈部坐标系CN的方向的时间点,使该显示目标的显示坐标系从惯性坐标系CI返回到颈部坐标系CN。或者,HMD 1也可以根据用户的指示(例如与第4显示控制例同样的操作)来选择惯性坐标系CI作为对象的虚拟物体等的显示坐标系而进行切换。
图25示出惯性坐标系CI的概念。最初,佩戴HMD 1的用户位于世界坐标系CW内的位置P01。用户的躯干以及头的方向例如是北朝向。在与北朝向对应的FOV 25A内,可以看到虚拟物体251、252、253等。用(XI,YI,ZI)表示惯性坐标系CI的3轴。轴ZI与铅直方向对应,轴XI与北方向对应,轴YI与西方向对应。HMD 1以预定的契机将虚拟物体251等的显示坐标系从例如颈部坐标系CN改变为惯性坐标系CI。
在位置P02示出以用户从位置P01移动并使头的朝向旋转的方式改变后的情况。头方向从例如北朝向向右侧旋转45度左右。惯性坐标系CI的原点从位置P01移动到位置P02。虚拟物体251等与惯性坐标系CI一起移动,从用户的位置P02原样地保持位置关系而配置在北方向的位置。在位置P02处的头方向的FOV 25B内,看不到虚拟物体251而可以看到虚拟物体252。HMD 1以预定的契机使虚拟物体251等的显示坐标系从惯性坐标系CI返回到例如颈部坐标系CN。如以上所述,通过导入新的坐标系,能够在各种条件下进行虚拟物体的显示控制,能够进一步提高用户的便利性。
以上,根据实施方式具体地说明了本发明,但本发明不限于上述实施方式,能够在不脱离要旨的范围内进行各种改变。
符号说明
1…HMD,1A…头佩戴部,1B…颈佩戴部,2…操作器(遥控器),3A…服务器,3B…PC,4…连接线,5…显示面,6…相机,7…测距传感器,8…麦克风,9…扬声器,10、11、12…壳体,14…操作输入部,17…标记。

Claims (17)

1.一种头戴式显示器装置,能够在用户的视场中显示图像,所述头戴式显示器装置具备:
头佩戴部,佩戴到所述用户的头部,具有显示所述图像的显示面;以及
躯干佩戴部,与所述头佩戴部进行通信,佩戴到所述用户的躯干的一部分,
所述头戴式显示器装置测定所述头佩戴部和所述躯干佩戴部的相对的位置关系,根据所述位置关系,掌握包括所述头佩戴部的位置及方向的状态、以及包括所述躯干佩戴部的位置及方向的状态。
2.根据权利要求1所述的头戴式显示器装置,其中,
所述躯干佩戴部佩戴到所述用户的颈或肩的附近,具有相对于所述用户的颈或肩左右配置的壳体、和以连接左右的所述壳体的方式相对于所述用户的颈或肩配置于后部的壳体。
3.根据权利要求1所述的头戴式显示器装置,其中,
在所述躯干佩戴部中,具有用于检测包括所述头戴式显示器装置的位置及方向的状态的传感器中的至少一部分,
所述头戴式显示器装置根据由所述传感器检测到的信息和所述位置关系,计算包括所述头戴式显示器装置的位置及方向的状态,与所述状态对应地控制所述图像的显示。
4.根据权利要求1所述的头戴式显示器装置,其中,
在所述头佩戴部和所述躯干佩戴部中的至少一方中,具有用于测定所述位置关系的测距传感器。
5.根据权利要求4所述的头戴式显示器装置,其中,
从在所述躯干佩戴部中具有的所述测距传感器测定设置于所述头佩戴部的壳体的多个标记的位置,或者从在所述头佩戴部中具有的所述测距传感器测定设置于所述躯干佩戴部的壳体的多个标记的位置。
6.根据权利要求1所述的头戴式显示器装置,其中,
在所述躯干佩戴部中,具有用于检测包括所述躯干佩戴部的位置及方向的状态的躯干传感器,
所述躯干佩戴部测定所述位置关系,根据由所述躯干传感器检测到的信息和所述位置关系,计算包括所述头佩戴部的位置及方向的状态,进行使用了包括所述躯干佩戴部的位置及方向的状态的所述图像的显示控制、和使用了包括所述头佩戴部的位置及方向的状态的所述图像的显示控制。
7.根据权利要求1所述的头戴式显示器装置,其中,
在所述头佩戴部中,具有用于检测包括所述头佩戴部的位置及方向的状态的头部传感器,
所述头佩戴部测定所述位置关系,根据由所述头部传感器检测到的信息和所述位置关系,计算包括所述躯干佩戴部的位置及方向的状态,进行使用了包括所述头佩戴部的位置及方向的状态的所述图像的显示控制、和使用了包括所述躯干佩戴部的位置及方向的状态的所述图像的显示控制。
8.根据权利要求1所述的头戴式显示器装置,其中,
所述躯干佩戴部具有主控制器,
所述主控制器根据所述位置关系来掌握所述状态,将用于与所述状态对应的所述图像的显示控制的显示数据发送给所述头佩戴部。
9.根据权利要求1所述的头戴式显示器装置,其中,
所述头戴式显示器装置具备连接所述躯干佩戴部和所述头佩戴部的连接线,
所述连接线具有相对于所述用户的躯干左右对称地配置的2根连接线。
10.根据权利要求1所述的头戴式显示器装置,其中,
所述躯干佩戴部相对于所述用户的躯干在左右的壳体中具有主电池,
所述头戴式显示器装置具备连接所述躯干佩戴部和所述头佩戴部的连接线,
从所述躯干佩戴部通过所述连接线对所述头佩戴部供电。
11.根据权利要求1所述的头戴式显示器装置,其中,
所述躯干佩戴部相对所述用户的躯干在左右的壳体中具有麦克风以及扬声器。
12.根据权利要求1所述的头戴式显示器装置,其中,
所述头戴式显示器装置具备连接所述躯干佩戴部和所述头佩戴部的连接线,
在所述躯干佩戴部的有线通信电路与所述头佩戴部的有线通信电路之间通过所述连接线进行有线通信。
13.根据权利要求1所述的头戴式显示器装置,其中,
在所述躯干佩戴部的无线通信电路与所述头佩戴部的无线通信电路之间进行无线通信。
14.根据权利要求1所述的头戴式显示器装置,其中,
所述头戴式显示器装置具备连接所述躯干佩戴部和所述头佩戴部的连接线,
在所述躯干佩戴部中,具有用于无线供电的送电电路以及送电天线部,
在所述头佩戴部中,具有用于所述无线供电的受电电路,
在所述连接线中,具有用于所述无线供电的受电天线部,
所述送电天线部和所述受电天线部接近地配置,在所述送电天线部与所述受电天线部之间进行所述无线供电。
15.根据权利要求1所述的头戴式显示器装置,其中,
在所述躯干佩戴部或者所述头佩戴部中,具有对所述用户的视场进行拍摄的相机。
16.根据权利要求1所述的头戴式显示器装置,其中,
作为成为在所述显示面配置并显示所述图像时的基准的坐标系,具有世界坐标系、固定于所述躯干佩戴部的躯干坐标系、以及固定于所述头佩戴部的头部坐标系,
所述头戴式显示器装置能够针对每个所述图像、针对所述图像的每个种类、或者针对处理所述图像的每个应用,选择并设定成为所述基准的坐标系。
17.根据权利要求16所述的头戴式显示器装置,其中,
作为成为所述基准的坐标系,还具有惯性坐标系,
所述惯性坐标系是如下坐标系:原点追随所述头佩戴部或者所述躯干佩戴部的位置的变化而移动,关于所述图像的配置位置,不对所述头佩戴部以及所述躯干佩戴部的方向的变化进行追随。
CN201980097664.5A 2019-06-21 2019-06-21 头戴式显示器装置 Pending CN114008564A (zh)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2019/024749 WO2020255384A1 (ja) 2019-06-21 2019-06-21 ヘッドマウントディスプレイ装置

Publications (1)

Publication Number Publication Date
CN114008564A true CN114008564A (zh) 2022-02-01

Family

ID=74040402

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201980097664.5A Pending CN114008564A (zh) 2019-06-21 2019-06-21 头戴式显示器装置

Country Status (4)

Country Link
US (3) US11954247B2 (zh)
JP (3) JP7429231B2 (zh)
CN (1) CN114008564A (zh)
WO (1) WO2020255384A1 (zh)

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN114008564A (zh) * 2019-06-21 2022-02-01 麦克赛尔株式会社 头戴式显示器装置
US11715267B2 (en) * 2021-04-30 2023-08-01 Verizon Patent And Licensing Inc. Methods and systems for providing operational support to an extended reality presentation system
JP7599578B2 (ja) * 2021-09-13 2024-12-13 マクセル株式会社 携帯情報端末及びオブジェクト表示方法
EP4418072A4 (en) * 2021-12-08 2025-02-19 Samsung Electronics Co., Ltd. PORTABLE ELECTRONIC DEVICE WITH IMPLEMENTED DISTRIBUTION SYSTEM FOR CONTENT AND VISION PROCESSING
WO2023203806A1 (ja) * 2022-04-19 2023-10-26 株式会社Nttドコモ 作業支援装置
US12114139B2 (en) * 2022-06-17 2024-10-08 Motorola Mobility Llc Wearable audio device with centralized stereo image and companion device dynamic speaker control
JP7466733B1 (ja) 2023-03-27 2024-04-12 株式会社複合現実製作所 画像表示装置および画像表示システム
US12614483B2 (en) * 2023-05-15 2026-04-28 Apple Inc. Head mountable display
WO2025004133A1 (ja) * 2023-06-26 2025-01-02 マクセル株式会社 ヘッドマウントディスプレイ、ヘッドマウントディスプレイのデータ表示方法及びヘッドマウントディスプレイシステム

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO1992009904A1 (en) * 1990-11-29 1992-06-11 Vpl Research, Inc. Absolute position tracker
JPH086708A (ja) * 1994-04-22 1996-01-12 Canon Inc 表示装置
JP2001208529A (ja) * 2000-01-26 2001-08-03 Mixed Reality Systems Laboratory Inc 計測装置及びその制御方法並びに記憶媒体
AU2001233019A1 (en) * 2000-01-28 2001-08-07 Intersense, Inc. Self-referenced tracking
JP6066676B2 (ja) * 2012-11-06 2017-01-25 株式会社ソニー・インタラクティブエンタテインメント ヘッドマウントディスプレイおよび映像提示システム
US9443307B2 (en) * 2013-09-13 2016-09-13 Intel Corporation Processing of images of a subject individual
KR102420313B1 (ko) * 2014-06-30 2022-07-13 소니그룹주식회사 정보 처리 장치 및 정보 처리 방법, 컴퓨터 프로그램, 그리고 화상 처리 시스템
US10162177B2 (en) * 2014-07-11 2018-12-25 Sixense Entertainment, Inc. Method and apparatus for self-relative body tracking for virtual reality systems using magnetic tracking
JP6500382B2 (ja) 2014-10-03 2019-04-17 セイコーエプソン株式会社 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
US20160232715A1 (en) * 2015-02-10 2016-08-11 Fangwei Lee Virtual reality and augmented reality control with mobile devices
IL296028B2 (en) 2015-03-05 2024-12-01 Magic Leap Inc Systems and methods for augmented reality
US10521669B2 (en) * 2016-11-14 2019-12-31 Toyota Motor Engineering & Manufacturing North America, Inc. System and method for providing guidance or feedback to a user
AU2018257776A1 (en) * 2017-04-24 2019-10-31 Magic Leap, Inc. Tracking optical flow of backscattered laser speckle patterns
JP6983639B2 (ja) 2017-05-26 2021-12-17 株式会社コロプラ 仮想空間を介して通信するための方法、当該方法をコンピュータに実行させるためのプログラム、および当該プログラムを実行するための情報処理装置
JP2019028638A (ja) * 2017-07-28 2019-02-21 コニカミノルタ株式会社 ヘッドマウントディスプレイとその映像表示方法
US10061352B1 (en) * 2017-08-14 2018-08-28 Oculus Vr, Llc Distributed augmented reality system
US10739850B2 (en) * 2017-09-29 2020-08-11 Sony Interactive Entertainment Inc. Prescription glasses with eye gaze tracking and electro optical signaling to a HMD
CN108196629A (zh) * 2018-02-09 2018-06-22 北京小米移动软件有限公司 显示设备
US10572002B2 (en) * 2018-03-13 2020-02-25 Facebook Technologies, Llc Distributed artificial reality system with contextualized hand tracking
US11086126B1 (en) * 2018-05-14 2021-08-10 Facebook Technologies, Llc Distributed artificial reality system with a removable display
US10860104B2 (en) * 2018-11-09 2020-12-08 Intel Corporation Augmented reality controllers and related methods
US11309947B2 (en) * 2018-11-19 2022-04-19 Facebook Technologies, Llc Systems and methods for maintaining directional wireless links of motile devices
CN114008564A (zh) * 2019-06-21 2022-02-01 麦克赛尔株式会社 头戴式显示器装置
US11416075B1 (en) * 2019-11-22 2022-08-16 Facebook Technologies, Llc Wearable device and user input system for computing devices and artificial reality environments
CN113920189B (zh) * 2020-07-08 2025-10-31 财团法人工业技术研究院 追踪可移动物体与可移动相机的方位的方法与系统
US11294565B2 (en) * 2020-08-05 2022-04-05 Lenovo (Singapore) Pte. Ltd. Presenting on a portion of a foldable display
US11507179B2 (en) * 2020-09-17 2022-11-22 Meta Platforms Technologies, Llc Systems and methods for predicting lower body poses

Also Published As

Publication number Publication date
US20250181149A1 (en) 2025-06-05
JP2024014910A (ja) 2024-02-01
US20220357793A1 (en) 2022-11-10
JPWO2020255384A1 (zh) 2020-12-24
US20240211032A1 (en) 2024-06-27
JP7821251B2 (ja) 2026-02-26
WO2020255384A1 (ja) 2020-12-24
JP7429231B2 (ja) 2024-02-07
JP2025022924A (ja) 2025-02-14
US11954247B2 (en) 2024-04-09

Similar Documents

Publication Publication Date Title
JP7821251B2 (ja) 表示装置
US11310483B2 (en) Display apparatus and method for controlling display apparatus
US10725561B2 (en) Display system that switches operation according to movement detected
JP6919206B2 (ja) 表示装置、及び、表示装置の制御方法
CN110060614B (zh) 头部佩戴型显示装置及其控制方法、显示系统
JP6510652B2 (ja) 撮像システム及び撮像制御方法
EP2395766A2 (en) Storage medium having stored therein stereoscopic image display program, stereoscopic image display device, stereoscopic image display system, and stereoscopic image display method
EP3822923B1 (en) Maintenance assistance system, maintenance assistance method, program, method for generating processed image, and processed image
WO2012154938A1 (en) Headset computer that uses motion and voice commands to control information display and remote devices
JP2018082363A (ja) 頭部装着型表示装置およびその制御方法、並びにコンピュータープログラム
JP2018036720A (ja) 仮想空間観察システム、方法及びプログラム
JP6719418B2 (ja) 電子機器
US20200128157A1 (en) Camera device, camera system, and program
KR20140107122A (ko) 정보 처리 단말, 정보 처리 방법, 정보 처리 프로그램
JP2013190925A (ja) 入力装置、及び表示装置
CN113287294B (zh) 可穿戴装置
JP6439448B2 (ja) 表示システム、プログラム、及び、表示装置の制御方法
JP5802019B2 (ja) 情報処理装置、情報処理プログラム、情報処理方法、情報処理システム
CN114556187B (zh) 头部佩戴型显示装置和显示内容控制方法
US20220035170A1 (en) A virtual reality or augmented reality headset accessory
JP2008070551A (ja) 頭部装着型ディスプレイ
US20150092064A1 (en) Recording Device Positioner Based on Relative Head Rotation
JP2022153776A (ja) 装着型画像表示装置
WO2026022476A1 (en) Walking aid
WO2022208628A1 (ja) 携帯情報端末およびその表示方法

Legal Events

Date Code Title Description
PB01 Publication
PB01 Publication
SE01 Entry into force of request for substantive examination
SE01 Entry into force of request for substantive examination