KR20170087292A - Hmd 디바이스 및 그 제어 방법 - Google Patents

Hmd 디바이스 및 그 제어 방법 Download PDF

Info

Publication number
KR20170087292A
KR20170087292A KR1020160007086A KR20160007086A KR20170087292A KR 20170087292 A KR20170087292 A KR 20170087292A KR 1020160007086 A KR1020160007086 A KR 1020160007086A KR 20160007086 A KR20160007086 A KR 20160007086A KR 20170087292 A KR20170087292 A KR 20170087292A
Authority
KR
South Korea
Prior art keywords
display
hmd device
screen state
processor
user
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
KR1020160007086A
Other languages
English (en)
Other versions
KR102610120B1 (ko
Inventor
한성원
박우진
반대현
임상순
Original Assignee
삼성전자주식회사
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by 삼성전자주식회사 filed Critical 삼성전자주식회사
Priority to KR1020160007086A priority Critical patent/KR102610120B1/ko
Priority to PCT/KR2016/002724 priority patent/WO2017126741A1/ko
Priority to CN201680079475.1A priority patent/CN108474950B/zh
Priority to US15/781,346 priority patent/US10643579B2/en
Priority to EP16886584.8A priority patent/EP3370102B1/en
Publication of KR20170087292A publication Critical patent/KR20170087292A/ko
Priority to US16/837,412 priority patent/US11164546B2/en
Application granted granted Critical
Publication of KR102610120B1 publication Critical patent/KR102610120B1/ko
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/017—Head mounted
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
    • G09G5/36—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators characterised by the display of a graphic pattern, e.g. using an all-points-addressable [APA] memory
    • G09G5/37—Details of the operation on graphic patterns
    • G09G5/377—Details of the operation on graphic patterns for mixing or overlaying two or more graphic patterns
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/017—Gesture based interaction, e.g. based on a set of recognized hand gestures
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00—Two-dimensional [2D] image generation
    • G06T11/60—Creating or editing images; Combining images with text
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06T—IMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00—Manipulating three-dimensional [3D] models or images for computer graphics
    • G06T19/006—Mixed reality
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/0138—Head-up displays characterised by optical features comprising image capture systems, e.g. camera
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0101—Head-up displays characterised by optical features
    • G02B2027/014—Head-up displays characterised by optical features comprising information/image processing systems
    • G—PHYSICS
    • G02—OPTICS
    • G02B—OPTICAL ELEMENTS, SYSTEMS OR APPARATUS
    • G02B27/00—Optical systems or apparatus not provided for by any of the groups G02B1/00 - G02B26/00, G02B30/00
    • G02B27/01—Head-up displays
    • G02B27/0179—Display position adjusting means not related to the information to be displayed
    • G02B2027/0187—Display position adjusting means not related to the information to be displayed slaved to motion of at least a part of the body of the user, e.g. head, eye
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F3/00—Input arrangements for transferring data to be processed into a form capable of being handled by the computer; Output arrangements for transferring data from processing unit to output unit, e.g. interface arrangements
    • G06F3/01—Input arrangements or combined input and output arrangements for interaction between user and computer
    • G06F3/011—Arrangements for interaction with the human body, e.g. for user immersion in virtual reality
    • G06F3/013—Eye tracking input arrangements
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2340/00—Aspects of display data processing
    • G09G2340/12—Overlay of images, i.e. displayed pixel being the result of switching between the corresponding input pixels
    • G—PHYSICS
    • G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
    • G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
    • G09G2354/00—Aspects of interface with display user

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • Human Computer Interaction (AREA)
  • Computer Hardware Design (AREA)
  • Optics & Photonics (AREA)
  • Computer Graphics (AREA)
  • Software Systems (AREA)
  • User Interface Of Digital Computer (AREA)

Abstract

HMD(Head Mounted Display) 디바이스가 개시된다. 본 HMD 디바이스는 컨텐츠를 디스플레이하는 디스플레이, HMD 디바이스 전방의 오브젝트의 움직임을 감지하는 감지부 및 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 디스플레이의 화면 상태를 변경하는 프로세서를 포함한다.

Description

HMD 디바이스 및 그 제어 방법 { HEAD MOUNTED DISPLAY AND CONTROL METHOD THEREOF }
본 발명은 HMD 디바이스 및 그 제어 방법에 대한 것으로, 더욱 상세하게는 가상 현실 서비스를 제공하는 HMD 디바이스 및 그 제어 방법에 대한 것이다.
전자 기술의 발달에 힘입어 다양한 유형의 전자 제품들이 개발 및 보급되고 있으며, 가상 현실(Virtual Reality) 서비스를 제공하는 HMD(Head Mounted Display) 디바이스들이 사용되고 있다.
일반적으로, 가상 현실 기술은 컴퓨터 그래픽(Computer Graphic, CG) 기술을 통하여 만들어진 실제 환경과 유사한 3차원 가상 환경 내에서 인체의 모든 감각(시각, 청각, 후각, 미각, 촉각)이 상호 작용하여 가상으로 창조한 세계에 몰입되게 함으로써 참여자에게 가상 공간을 3차원적으로 재현하고 인간을 이 가상 공간에 몰입시킴으로써 정보의 활용을 극대화하는 것을 궁극적 목표로 하는 기술을 총칭한다.
다만, 종래에는 사용자가 가상 공간에 몰입함으로써 외부 상황을 인지하지 못하여 급작스러운 위급 상황에 대처하기가 어려웠다. 또는, 사용자가 필요 시 HMD 디바이스를 벗지 않고 외부 환경을 파악하거나 사용자가 외부 인터페이스(예를들어, 키보드, 마우스 등)를 이용하기가 어려웠다.
일부 HMD 디바이스는 외부의 오브젝트를 인식하여 증강 현실로 표현하여 주었으나, 등록된 외부 오브젝트만을 표현해주는 점, 표현이 완벽하지 않고 지연 시간이 있는 점 등 불편이 있었다.
그에 따라, 사용자가 좀더 용이한 방법으로 HMD 디바이스의 외부를 인식하게 하는 기술이 요구되었다.
본 발명은 상술한 필요성에 따른 것으로, 본 발명의 목적은 HMD 디바이스에 구비된 디스플레이의 일 영역의 화면 상태를 변경하는 HMD 디바이스 및 그 제어 방법을 제공함에 있다.
이상과 같은 목적을 달성하기 위한 본 발명의 일 실시 예에 따른 HMD(Head Mounted Display) 디바이스는 컨텐츠를 디스플레이하는 디스플레이, 상기 HMD 디바이스 전방의 오브젝트의 움직임을 감지하는 감지부 및 상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 디스플레이의 화면 상태를 변경하는 프로세서를 포함한다.
그리고, 상기 감지부는 카메라를 포함하고, 상기 프로세서는 상기 카메라에 의해 촬영된 영상 중 상기 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 상기 디스플레이의 대응되는 영역에 오버레이하여 디스플레이할 수 있다.
또한, 상기 프로세서는 상기 HMD 디바이스의 움직임이 감지되면, 상기 HMD 디바이스의 움직임에 대한 상기 오브젝트의 상대적인 움직임을 판단하고, 상기 오브젝트의 상대적인 움직임에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경할 수 있다.
그리고, 상기 프로세서는 상기 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경할 수 있다.
또한, 상기 프로세서는 상기 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 상기 사용자 제스처에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경할 수 있다.
그리고, 상기 프로세서는 기설정된 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하고, 상기 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경할 수 있다.
또한, 상기 감지부는 사용자의 시선을 감지하며, 상기 프로세서는 상기 사용자의 시선이 상기 화면 상태가 변경된 상기 디스플레이의 일 영역에 위치하면 상기 변경된 화면 상태를 유지하고, 상기 사용자의 시선이 상기 디스플레이의 일 영역으로부터 벗어나면 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경할 수 있다.
그리고, 상기 프로세서는 상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경할 수 있다.
또한, 상기 프로세서는 상기 오브젝트의 움직임이 감지되면, 상기 디스플레이의 일 영역의 현재 투명도에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경할 수 있다.
그리고, 기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보를 저장하는 스토리지를 더 포함하며, 상기 프로세서는 상기 매핑 정보에 기초하여, 상기 투명도를 변경할 상기 디스플레이의 일 영역 및 상기 투명도의 변경 정도를 결정할 수 있다.
한편, 본 발명의 일 실시 예에 따른 HMD(Head Mounted Display) 디바이스의 제어 방법은 디스플레이에 컨텐츠를 디스플레이하는 단계, 상기 HMD 디바이스 전방의 오브젝트의 움직임을 감지하는 단계 및 상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 디스플레이의 화면 상태를 변경하는 단계를 포함한다.
그리고, 상기 변경하는 단계는 카메라에 의해 촬영된 영상 중 상기 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 상기 디스플레이의 대응되는 영역에 오버레이하여 디스플레이할 수 있다.
또한, 상기 변경하는 단계는 상기 HMD 디바이스의 움직임이 감지되면, 상기 HMD 디바이스의 움직임에 대한 상기 오브젝트의 상대적인 움직임을 판단하는 단계 및 상기 오브젝트의 상대적인 움직임에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는 단계를 포함할 수 있다.
그리고, 상기 변경하는 단계는 상기 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경할 수 있다.
또한, 상기 변경하는 단계는 상기 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 상기 사용자 제스처에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경할 수 있다.
그리고, 상기 변경하는 단계는 기설정된 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하고, 상기 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경하는 단계를 더 포함할 수 있다.
또한, 사용자의 시선을 감지하는 단계 및 상기 사용자의 시선이 상기 화면 상태가 변경된 상기 디스플레이의 일 영역에 위치하면 상기 변경된 화면 상태를 유지하고, 상기 사용자의 시선이 상기 디스플레이의 일 영역으로부터 벗어나면 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경하는 단계를 더 포함할 수 있다.
그리고, 상기 변경하는 단계는 상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경할 수 있다.
또한, 상기 변경하는 단계는 상기 오브젝트의 움직임이 감지되면, 상기 디스플레이의 일 영역의 현재 투명도에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경할 수 있다.
그리고, 상기 변경하는 단계는 기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보에 기초하여, 상기 투명도를 변경할 상기 디스플레이의 일 영역 및 상기 투명도의 변경 정도를 결정할 수 있다.
이상과 같은 본 발명의 다양한 실시 예에 따르면, HMD 디바이스의 전방의 오브젝트의 움직임에 따라 HMD 디바이스에 구비된 디스플레이의 일 영역의 화면 상태를 변경하여 사용자가 HMD 디바이스의 전방을 볼 수 있게 된다.
도 1은 본 발명의 일 실시 예에 따른 HMD 디바이스를 나타내는 도면이다.
도 2a 및 도 2b는 본 발명의 일 실시 예에 따른 HMD 디바이스의 구성을 나타내는 블럭도들이다.
도 3은 본 발명의 일 실시 예에 따른 오브젝트의 움직임을 감지하는 방법을 설명하기 위한 도면이다.
도 4a 내지 도 4c는 오브젝트의 크기에 따른 동작의 일 예를 설명하기 위한 도면이다.
도 5a 내지 도 5c는 사용자 제스처의 형태에 따른 동작의 일 예를 설명하기 위한 도면이다.
도 6a 및 도 6b는 화면 상태를 변경하는 방법의 일 예를 설명하기 위한 도면이다.
도 7a 및 도 7b는 사용자의 시선에 따른 동작의 일 예를 설명하기 위한 도면이다.
도 8a 내지 도 8b는 전체 감지 영역을 설정하는 방법의 일 예를 설명하기 위한 도면이다.
도 9는 본 발명의 일 실시 예에 따른 현재 디스플레이의 투명도에 따른 동작을 설명하기 위한 도면이다.
도 10은 본 발명의 일 실시 예에 따른 HMD 디바이스의 제어 방법을 설명하기 위한 흐름도이다.
이하, 본 발명의 다양한 실시 예에 대해서, 첨부된 도면을 참조하여 설명한다. 본 명세서에 기재된 내용은, 본 발명의 범위를 특정한 실시 형태로 한정하려는 것이 아니며, 실시 예의 다양한 변경(modifications), 균등물(equivalents), 및/또는 대체물(alternatives)을 포함하는 것으로 이해되어야 한다. 도면의 설명과 관련하여, 유사한 구성요소에 대해서는 동일 또는 유사한 참조 부호가 사용될 수 있다.
또한, 본 명세서에서 사용된 "제1," "제2," 등의 표현들은 다양한 구성요소들을, 순서나 중요도에 상관없이, 각 구성요소들을 서로 구분하기 위해 사용된다. 따라서, 이러한 표현에 의해 해당 구성요소들의 순서나 중요도가 한정되는 것은 아니다. 예를 들면, 본 문서에 기재된 권리 범위를 벗어나지 않으면서 제1 구성요소는 제2 구성요소로 명명될 수 있고, 유사하게 제2 구성요소도 제1 구성요소로 바꾸어 명명될 수 있다.
또한, 본 명세서에서 하나의 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 기능적 또는 통신적으로(operatively or communicatively) 연결(coupled)되어 있다거나, 접속되어(connected to) 있다고 언급하는 것은, 각 구성요소들이 직접적으로 연결되거나, 다른 구성요소(예: 제3 구성요소)를 통하여 간접적으로 연결되는 경우까지 모두 포함할 수 있다는 것으로 이해되어야 한다. 반면에, 어떤 구성요소(예: 제1 구성요소)가 다른 구성요소(예: 제2 구성요소)에 "직접 연결되어" 있다거나 "직접 접속되어" 있다고 언급된 때에는, 어떤 구성요소와 다른 구성요소 사이에 다른 구성요소(예: 제3 구성요소)가 존재하지 않는 것으로 이해될 수 있다.
본 명세서(disclosure)에서 사용된 용어들은, 임의의 실시 예를 설명하기 위해 사용된 것으로, 다른 실시 예의 범위를 한정하려는 의도가 아닐 수 있다. 또한, 본 명세서에서는 설명의 편의상 단수 표현을 사용할 수도 있으나, 이는 문맥상 명백하게 다르게 뜻하지 않는 한, 복수 표현까지 포함하는 의미로 해석될 수 있다. 또한, 본 명세서에서 사용되는 용어들은 해당 기술 분야에서 통상의 지식을 가진 자에 의해 일반적으로 이해되는 것과 동일한 의미를 가질 수 있다. 본 명세서에 사용된 용어들 중 일반적인 사전에 정의된 용어들은, 관련 기술의 문맥상 가지는 의미와 동일 또는 유사한 의미로 해석될 수 있으며, 본 명세서에서 명백하게 정의되지 않는 한, 이상적이거나 과도하게 형식적인 의미로 해석되지 않는다. 경우에 따라서, 본 명세서에서 정의된 용어일지라도 본 명세서의 실시 예들을 배제하도록 해석될 수 없다.
이하에서, 첨부된 도면을 이용하여 본 발명의 다양한 실시 예들에 대하여 구체적으로 설명한다.
도 1은 본 발명의 일 실시 예에 따른 HMD 디바이스(100)를 나타내는 도면이다.
도 1에 도시된 바와 같이, HMD(head mounted display) 디바이스(100)는 사용자의 머리에 착용되어 가상 현실 서비스를 제공할 수 있다. 예를 들어, HMD 디바이스(100)는 안경, 헤드셋 또는 헬멧 등의 형상을 가지며, 사용자의 양안에 영상을 제공할 수 있다.
예를 들어, HMD 디바이스(100)는 디스플레이를 통해 영상을 디스플레이하여, 사용자의 눈앞에서 영상을 제공할 수 있게 된다. 이 경우, HMD 디바이스(100)의 후면에는 사용자의 머리에 착용 가능하도록 하는 안경 다리 또는 벤드 등이 형성될 수 있다. 또한, HMD 디바이스(100)에는 조작용 트랙 패드, 리턴 버튼, 음량 조정 키 등이 탑재될 수 있다.
또는, HMD 디바이스(100)는 별도의 디스플레이를 필요로 하는 디바이스로 구현될 수도 있다. 예를 들어, HMD 디바이스(100)는 안경, 헤드셋 또는 헬멧 등의 형상을 갖는 본체(가령, 하우징)이고, 스마트폰 또는 태블릿 등이 본체의 전면에 부착되어 사용자의 양안에 영상을 제공할 수도 있다.
한편, 사용자가 HMD 디바이스(100)를 머리에 착용하면, 디스플레이에서 사용자의 좌안이 바라보는 영역과 우안이 바라보는 영역은 공간적으로 분리될 수 있다. 이에 따라, HMD 디바이스(100)는 디스플레이에서 사용자의 좌안이 바라보는 영역과 우안이 바라보는 영역에 서로 다른 영상을 디스플레이하여, 좌안과 우안에 서로 다른 영상이 입사되도록 할 수 있다.
한편, HMD 디바이스(100)는 사용자의 머리 움직임을 추적하여 시야 영상을 즉각적으로 업데이트할 수 있도록 구현되며, 2D 영상 뿐 아니라 3D 영상을 제공할 수 있도록 구현될 수 있다. 예를 들어, 사용자가 HMD 디바이스(100)를 머리에 착용하면 사용자의 시야를 완전히 장악해 360도 입체 영상과 음향을 제공하며, HMD 디바이스(100)에 구비된 자이로 센서와 가속도 센서 등이 사용자가 고개를 위아래 혹은 좌우로 움직이는 것을 감지해 그 방향에 알맞은 시각효과를 내도록 구현될 수 있다.
이에 따라, 사용자는 파노라마 3D 영상 중에서 자신의 시선이 향하는 방향에 존재하는 3D 영상을 제공받을 수 있어, 가상 현실(virtual reality, VR)을 체험할 수 있게 된다.
도 2a 및 도 2b는 본 발명의 일 실시 예에 따른 HMD 디바이스(100)의 구성을 나타내는 블럭도들이다.
도 2a에 따르면, HMD 디바이스(100)는 디스플레이(110), 감지부(120) 및 프로세서(130)를 포함한다.
디스플레이(110)는 프로세서(130)의 제어에 의해 컨텐츠를 디스플레이할 수 있다. 예를 들어, 디스플레이(110)는 HMD 디바이스(100)에 저장되어 있는 컨텐츠 또는 다른 장치로부터 컨텐츠를 수신하여 디스플레이할 수 있다. 또한, 디스플레이(110)는 컨텐츠의 재생 중에 GUI 등을 오버레이하여 디스플레이할 수도 있다.
디스플레이(110)는 프로세서(130)의 제어에 의해 디스플레이(110)의 일 영역의 화면 상태를 변경할 수 있다. 예를 들어, 디스플레이(110)는 외부 영상을 촬영하여 디스플레이(110)의 일 영역에 오버레이할 수 있다. 또는, 디스플레이(110)는 디스플레이(110)의 일 영역의 투명도를 증가시킬 수도 있다.
여기서, 외부 영상을 오버레이하는 형식으로 디스플레이하는 것은 오버레이된 외부 영상의 깜빡임 시간 정도를 조절하여 디스플레이하는 것일 수 있다. 또한, 투명도를 변경하는 것은 디스플레이(110) 자체의 투명도를 변경하는 것일 수 있다.
그리고, 디스플레이(110)는 LCD(Liquid Crystal Display Panel), OLED(Organic Light Emitting Diodes) 등으로 구현될 수 있으나, 이에 한정되는 것은 아니다. 또한, 디스플레이(110)는 경우에 따라 플렉서블 디스플레이, 투명 디스플레이 등으로 구현되는 것도 가능하다.
감지부(120)는 HMD 디바이스(100) 전방의 오브젝트의 움직임을 감지할 수 있다. 여기서, 감지부(120)는 주로 카메라나 적외선 센서 등으로 구성될 수 있다. 카메라는 정지 영상 또는 동영상을 촬상하기 위한 구성이다. 특히, 카메라는 HMD 디바이스(100)의 전방에 위치한 오브젝트를 촬영하는데 이용될 수 있다.
또한, 감지부(120)가 적외선 센서로 구성된 경우, 감지부(120)는 복수의 적외선 센서를 포함할 수 있다. 복수의 적외선 센서는 HMD 디바이스(100)의 가장자리에 일렬로 배치될 수 있다. 복수의 적외선 센서는 반사파의 유무에 따라 HMD 디바이스(100)의 전방에 위치한 오브젝트의 대략적인 움직임을 판단할 수 있다.
이상에서는 감지부(120)가 카메라 또는 적외선 센서로 구성되는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 감지부(120)는 초음파 센서, 뎁스 맵 등으로 구성될 수도 있다.
프로세서(130)는 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 디스플레이(110)의 화면 상태를 변경할 수 있다. 그에 따라, 프로세서(130)는 컨텐츠 디스플레이 화면과 외부 디스플레이 화면의 표현하고자 하는 영역을 자연스럽게 표현할 수 있다.
특히, 감지부(120)는 카메라를 포함하고, 프로세서(130)는 카메라에 의해 촬영된 영상 중 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 디스플레이(110)의 대응되는 영역에 오버레이하여 디스플레이할 수 있다.
또한, 프로세서(130)는 HMD 디바이스(100)의 움직임이 감지되면, HMD 디바이스(100)의 움직임에 대한 오브젝트의 상대적인 움직임을 판단하고, 오브젝트의 상대적인 움직임에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다.
한편, 프로세서(130)는 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 오브젝트의 위치에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다.
그리고, 프로세서(130)는 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 사용자 제스처에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다.
여기서, 프로세서(130)는 기설정된 방향을 향하는 사용자 제스처가 감지되면, HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경하고, 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, HMD 디바이스(100) 전방의 영상을 제공하지 않도록 화면 상태를 변경할 수 있다.
한편, 감지부(120)는 사용자의 시선을 감지하며, 프로세서(130)는 사용자의 시선이 화면 상태가 변경된 디스플레이(110)의 일 영역에 위치하면 변경된 화면 상태를 유지하고, 사용자의 시선이 투명도가 변경된 디스플레이(110)의 일 영역으로부터 벗어나면 HMD 디바이스(100) 전방의 영상을 제공하지 않도록 화면 상태를 변경할 수 있다.
한편, 프로세서(130)는 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 디스플레이(110)의 일 영역의 투명도를 변경할 수 있다.
예를 들어, 프로세서(130)는 사용자가 HMD 디바이스(100)의 외부만을 볼 수 있도록 투명도를 최대 값을 갖도록 증가시킬 수 있다. 또는, 프로세서(130)는 사용자가 HMD 디바이스(100)의 외부 및 컨텐츠를 동시에 볼 수 있도록 투명도를 중간 값을 갖도록 변경할 수 있다. 또는, 프로세서(130)는 사용자가 컨텐츠만을 볼 수 있도록 투명도를 최소 값을 갖도록 감소시킬 수 있다.
또한, 프로세서(130)는 오브젝트의 움직임이 감지되면, 디스플레이(110)의 일 영역의 현재 투명도에 기초하여 디스플레이(110)의 일 영역의 투명도를 변경할 수 있다.
한편, HMD 디바이스(100)는 기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보를 저장하는 스토리지를 더 포함하며, 프로세서(130)는 매핑 정보에 기초하여 투명도를 변경할 디스플레이(110)의 일 영역 및 투명도의 변경 정도를 결정할 수 있다.
도 2b는 HMD 디바이스(100)의 세부 구성의 일 예를 나타내는 블럭도이다. 도 2b에 따르면, HMD 디바이스(100)는 디스플레이(110), 감지부(120), 프로세서(130), 스토리지(140), 통신부(150), 사용자 인터페이스부(155), 오디오 처리부(160), 비디오 처리부(170), 스피커(180), 버튼(181), 마이크(182)를 포함한다. 도 2b에 도시된 구성요소들 중 도 2a에 도시된 구성요소와 중복되는 부분에 대해서는 자세한 설명을 생략하도록 한다.
프로세서(130)는 스토리지(140)에 저장된 각종 프로그램을 이용하여 HMD 디바이스(100)의 동작을 전반적으로 제어한다.
구체적으로, 프로세서(130)는 RAM(131), ROM(132), 메인 CPU(133), 그래픽 처리부(134), 제1 내지 n 인터페이스(135-1 ~ 135-n), 버스(136)를 포함한다.
RAM(131), ROM(132), 메인 CPU(133), 그래픽 처리부(134), 제1 내지 n 인터페이스(135-1 ~ 135-n) 등은 버스(136)를 통해 서로 연결될 수 있다.
제1 내지 n 인터페이스(135-1 내지 135-n)는 상술한 각종 구성요소들과 연결된다. 인터페이스들 중 하나는 네트워크를 통해 외부 장치와 연결되는 네트워크 인터페이스가 될 수도 있다.
메인 CPU(133)는 스토리지(140)에 액세스하여, 스토리지(140)에 저장된 O/S를 이용하여 부팅을 수행한다. 그리고, 스토리지(140)에 저장된 각종 프로그램 등을 이용하여 다양한 동작을 수행한다.
ROM(132)에는 시스템 부팅을 위한 명령어 세트 등이 저장된다. 턴온 명령이 입력되어 전원이 공급되면, 메인 CPU(133)는 ROM(132)에 저장된 명령어에 따라 스토리지(140)에 저장된 O/S를 RAM(131)에 복사하고, O/S를 실행시켜 시스템을 부팅시킨다. 부팅이 완료되면, 메인 CPU(133)는 스토리지(140)에 저장된 각종 어플리케이션 프로그램을 RAM(131)에 복사하고, RAM(131)에 복사된 어플리케이션 프로그램을 실행시켜 각종 동작을 수행한다.
그래픽 처리부(134)는 연산부(미도시) 및 렌더링부(미도시)를 이용하여 아이콘, 이미지, 텍스트 등과 같은 다양한 객체를 포함하는 화면을 생성한다. 연산부(미도시)는 수신된 제어 명령에 기초하여 화면의 레이아웃에 따라 각 객체들이 표시될 좌표값, 형태, 크기, 컬러 등과 같은 속성값을 연산한다. 렌더링부(미도시)는 연산부(미도시)에서 연산한 속성값에 기초하여 객체를 포함하는 다양한 레이아웃의 화면을 생성한다. 렌더링부(미도시)에서 생성된 화면은 디스플레이(110)의 디스플레이 영역 내에 표시된다.
한편, 상술한 프로세서(130)의 동작은 스토리지(140)에 저장된 프로그램에 의해 이루어질 수 있다.
스토리지(140)는 HMD 디바이스(100)를 구동시키기 위한 O/S(Operating System) 소프트웨어 모듈, 각종 컨텐츠, 디스플레이 제어 모듈, 오브젝트 감지 모듈 등과 같이 다양한 데이터를 저장한다.
이 경우 프로세서(130)는 스토리지(140)에 저장된 정보에 기초하여 컨텐츠를 디스플레이하고 디스플레이(110)의 일 영역의 투명도를 변경할 수 있다.
통신부(150)는 다양한 유형의 통신방식에 따라 다양한 유형의 외부 장치와 통신을 수행하는 구성이다. 통신부(150)는 와이파이 칩(151), 블루투스 칩(152), 무선 통신 칩(153), NFC 칩(154) 등을 포함한다. 프로세서(130)는 통신부(150)를 이용하여 각종 외부 장치와 통신을 수행한다.
와이파이 칩(151), 블루투스 칩(152)은 각각 WiFi 방식, 블루투스 방식으로 통신을 수행한다. 와이파이 칩(151)이나 블루투스 칩(152)을 이용하는 경우에는 SSID 및 세션 키 등과 같은 각종 연결 정보를 먼저 송수신하여, 이를 이용하여 통신 연결한 후 각종 정보들을 송수신할 수 있다. 무선 통신 칩(153)은 IEEE, 지그비(zigbee), 3G(3rd Generation), 3GPP(3rd Generation Partnership Project), LTE(Long Term Evoloution) 등과 같은 다양한 통신 규격에 따라 통신을 수행하는 칩을 의미한다. NFC 칩(154)은 135kHz, 13.56MHz, 433MHz, 860~960MHz, 2.45GHz 등과 같은 다양한 RF-ID 주파수 대역들 중에서 13.56MHz 대역을 사용하는 NFC(Near Field Communication) 방식으로 동작하는 칩을 의미한다.
한편, 통신부(150)는 전자 장치와 단방향 통신 또는 양방향 통신을 수행할 수 있다. 단방향 통신을 수행하는 경우, 통신부(150)는 전자 장치로부터 신호를 수신할 수 있다. 양방향 통신을 수행하는 경우, 통신부(150)는 전자 장치로부터 신호를 수신할 수도 있고, 전자 장치로 신호를 송신할 수도 있다.
사용자 인터페이스부(155)는 다양한 사용자 인터랙션(interaction)을 수신한다. 사용자 인터페이스부(155)는 키보드, 마우스 등의 입력을 수신할 수 있다. 또는, 사용자 인터페이스부(155)는 원격 제어 장치로부터 리모콘 신호를 수신하는 리모콘 수신부, 사용자 모션을 감지하는 카메라, 사용자 음성을 수신하는 마이크 등으로 구현 가능하다.
또한, HMD 디바이스(100)가 터치 기반의 전자 장치로 구현되는 경우 사용자 인터페이스부(155)는 터치패드와 상호 레이어 구조를 이루는 터치 스크린 형태로 구현될 수도 있다. 이 경우, 사용자 인터페이스부(155)는 상술한 디스플레이(110)로 사용될 수 있게 된다. 특히, 사용자는 디스플레이(110)의 외부를 터치하여 HMD 디바이스(100)를 제어할 수 있다.
한편, 감지부(120)는 지자기 센서, 자이로 센서, 가속도 센서, 근접 센서 등을 포함한다. 감지부(120)는 회전, 기울기, 압력, 접근 등과 같은 다양한 조작을 감지할 수 있다.
지자기 센서는 HMD 디바이스(100)의 회전 상태 및 이동 방향 등을 감지하기 위한 센서이다. 자이로 센서는 HMD 디바이스(100)의 회전각을 감지하기 위한 센서이다. 지자기 센서 및 자이로 센서는 둘 다 구비될 수도 있으나, 이 중 하나만 구비되어 있더라도 HMD 디바이스(100)는 회전 상태를 감지할 수 있다.
가속도 센서는 HMD 디바이스(100)의 기울어진 정도를 감지하기 위한 센서이다.
근접 센서는 디스플레이 표면에 직접 접촉되지 않고 접근하는 모션을 감지하기 위한 센서이다. 근접 센서는 고주파 자계를 형성하여, 물체 접근 시에 변화되는 자계특성에 의해 유도되는 전류를 감지하는 고주파 발진 형, 자석을 이용하는 자기 형, 대상체의 접근으로 인해 변화되는 정전 용량을 감지하는 정전 용량 형과 같은 다양한 형태의 센서로 구현될 수 있다.
오디오 처리부(160)는 오디오 데이터에 대한 처리를 수행하는 구성요소이다. 오디오 처리부(160)에서는 오디오 데이터에 대한 디코딩이나 증폭, 노이즈 필터링 등과 같은 다양한 처리가 수행될 수 있다.
비디오 처리부(170)는 비디오 데이터에 대한 처리를 수행하는 구성요소이다. 비디오 처리부(170)에서는 비디오 데이터에 대한 디코딩, 스케일링, 노이즈 필터링, 프레임 레이트 변환, 해상도 변환 등과 같은 다양한 이미지 처리를 수행할 수 있다.
스피커(180)는 오디오 처리부(160)에서 처리된 각종 오디오 데이터 뿐만 아니라 각종 알림 음이나 음성 메시지 등을 출력하는 구성요소이다.
버튼(181)은 HMD 디바이스(100)의 본체 외관의 전면부나 측면부, 배면부 등의 임의의 영역에 형성된 기계적 버튼, 터치 패드, 휠 등과 같은 다양한 유형의 버튼이 될 수 있다.
마이크(182)는 사용자 음성이나 기타 소리를 입력받아 오디오 데이터로 변환하기 위한 구성이다.
이하에서는 본 발명의 이해를 돕기 위한 기본 구성과 다양한 실시 예에 대하여 설명한다.
도 3은 본 발명의 일 실시 예에 따른 오브젝트의 움직임을 감지하는 방법을 설명하기 위한 도면이다.
도 3에 도시된 바와 같이, 사용자는 HMD 디바이스(100)를 착용하고 가상 현실을 체험할 수 있다. 프로세서(130)는 사용자의 가상 현실 체험을 위해 컨텐츠를 디스플레이하고, 감지부(120)를 통해 HMD 디바이스(100)의 전방을 감지할 수 있다. 프로세서(130)는 HMD 디바이스(100) 전방의 도로, 승용차(310) 및 버스(320) 등을 감지할 수 있으나, 도 3에 도시된 장면은 사용자에게 제공되지 않을 수 있다. 즉, 도 3의 장면은 감지부(120)에 의해 감지된 장면이며, 후술할 오브젝트의 움직임에 따라 디스플레이의 일 영역의 투명도가 변경되지 않는 한 사용자가 볼 수 있는 장면이 아니다.
프로세서(130)는 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 디스플레이(110)의 화면 상태를 변경할 수 있다. 예를 들어, 도 3의 상측 도면과 같이, 프로세서(130)는 승용차(310)가 좌측 방향으로 이동하는 것이 감지되면, 감지된 승용차(310)의 위치에 기초하여 디스플레이(110)의 일 영역의 화면 상태를 변경하여 사용자에게 승용차(310)가 이동하는 것을 보여줄 수 있다.
여기서, 감지부(120)는 카메라를 포함할 수 있다. 그리고, 프로세서(130)는 카메라에 의해 촬영된 영상 중 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 디스플레이(110)의 대응되는 영역에 오버레이하여 디스플레이할 수 있다.
예를 들어, 프로세서(130)는 촬영된 영상 중 승용차(310)가 좌측 방향으로 이동하는 영역의 영상을 디스플레이(110)의 대응되는 영역에 오버레이하여 디스플레이할 수 있다. 프로세서(130)는 디스플레이(110)의 전체 영역과 촬영 영상을 비교하여 디스플레이(110)의 대응되는 영역을 결정할 수 있다. 예를 들어, 촬영 영상의 좌측 하단은 디스플레이(110)에서도 좌측 하단일 수 있다. 특히, 프로세서(130)는 디스플레이(110)의 전체 영역의 크기와 촬영 영상의 크기를 비교하여 비례 관계에 따라 디스플레이(110)의 대응되는 영역을 결정할 수도 있다.또는, 프로세서(130)는 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 디스플레이(110)의 일 영역의 투명도를 변경할 수 있다. 예를 들어, 프로세서(130)는 승용차(310)가 좌측 방향으로 이동하는 것이 감지되면, 감지된 승용차(310)의 위치에 기초하여 디스플레이(110)의 일 영역을 투명하게 변경하여 사용자에게 승용차(310)가 이동하는 것을 보여줄 수도 있다.
한편, 승용차(310)의 위치는 절대적인 위치가 아니라 사용자와의 상대적인 위치를 의미할 수 있다. 즉, 프로세서(130)는 사용자와 승용차(310)의 거리에 따라 디스플레이(110)의 화면 상태를 변경할 수도 있다.
프로세서(130)는 HMD 디바이스(100)의 움직임이 감지되면, HMD 디바이스(100)의 움직임에 대한 오브젝트의 상대적인 움직임을 판단할 수 있다. 예를 들어, 도 3의 하측 도면과 같이 사용자가 좌측으로 고개를 돌리는 경우, 감지부(120)는 HMD 디바이스(100) 전방의 승용차(310) 및 버스(320) 등이 우측으로 이동하는 것으로 감지할 수 있다. 이 경우, 프로세서(130)는 HMD 디바이스(100)가 움직인 것으로 판단하고, 실제 오브젝트의 움직임을 판단한다. 즉, 프로세서(130)는 HMD 디바이스(100)의 움직임에 따른 오브젝트의 움직임은 무시하고, 실제 오브젝트의 움직임만을 유효한 움직임으로 판단할 수 있다.
프로세서(130)는 상술한 지자기 센서, 자이로 센서, 가속도 센서, 근접 센서 등을 이용하여 HMD 디바이스(100)의 움직임을 판단할 수 있다.
또는, 프로세서(130)는 소프트웨어적으로 실제 오브젝트의 움직임만을 감지할 수도 있다. 예를 들어, 프로세서(130)는 감지하고 있는 영역이 전체적으로 이동되는 경우 HMD 디바이스(100)가 움직인 것으로 판단하고, 감지하고 있는 영역의 일부가 움직이는 경우 오브젝트가 움직인 것으로 판단할 수 있다.
또는, 프로세서(130)는 감지하고 있는 영역이 전체적으로 이동되는 도중에 일부 오브젝트의 이동 속도가 영역 전체의 이동 속도와 다른 경우, HMD 디바이스(100)가 움직인 것으로 판단하고 일부 오브젝트가 HMD 디바이스(100)의 움직임에 대해 상대적으로 움직인 것으로 판단할 수 있다.
도 3의 하측 도면에는 승용차(310)만이 실제로 이동하는 것으로 도시되었고, 상술한 바와 같이 프로세서(130)는 HMD 디바이스(100)가 움직인 것으로 판단하고 승용차(310)가 HMD 디바이스(100)의 움직임에 대해 상대적으로 움직인 것으로 판단할 수 있다.
프로세서(130)는 오브젝트의 상대적인 움직임에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다. 예를 들어, 도 3에 도시된 바와 같이 프로세서(130)는 승용차(310)가 좌측으로 움직인 것으로 판단된 경우, 감지된 승용차(310)의 위치에 기초하여 디스플레이(110)의 하단 영역의 화면 상태를 변경할 수 있다.
한편, 도 3에서는 승용차(310)가 좌측으로 움직이는 것으로 설명하였으나, 프로세서(130)는 승용차(310)가 다른 방향으로 움직이는 것도 감지할 수 있다. 특히, 프로세서(130)는 승용차(310)가 사용자에게 다가오는 경우를 감지할 수도 있다. 예를 들어, 프로세서(130)는 감지된 승용차(310)가 커지는 것을 감지하여 디스플레이(110)의 일 영역의 화면 상태를 변경할 수도 있다. 즉, 프로세서(130)는 전체 감지 영역에서 감지된 승용차(310)가 차지하는 영역의 크기를 판단하여 승용차(310)의 움직임을 판단할 수 있다.
도 4a 내지 도 4c는 오브젝트의 크기에 따른 동작의 일 예를 설명하기 위한 도면이다.
도 4a에 도시된 바와 같이, 프로세서(130)는 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 오브젝트의 위치에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다. 예를 들어, 프로세서(130)는 HMD 디바이스(100)의 전방을 감지하여 버스(410)가 멀어지는 것을 감지할 수 있다. 다만, 프로세서(130)는 버스(410)와의 거리가 멀어 버스(410)가 기설정된 크기 미만이라고 판단되면, 디스플레이(110)의 일 영역의 화면 상태를 변경하지 않을 수 있다.
다만, 도 4b에 도시된 바와 같이, 버스(410)보다 매우 작은 스마트폰(420)이라 하더라도 HMD 디바이스(100)와의 거리가 가까운 경우, 프로세서(130)는 스마트폰(420)의 위치에 기초하여 디스플레이(110)의 일 영역의 화면 상태를 변경할 수 있다. 즉, 프로세서(130)는 감지된 스마트폰(420)이 기설정된 크기 이상이라고 판단되면, 사용자가 스마트폰(420)을 볼 수 있도록 스마트폰(420)의 위치에 대응되는 디스플레이(110)의 일 영역의 화면 상태를 변경할 수 있다.
프로세서(130)는 감지된 오브젝트의 크기를 기설정된 크기와 비교할 수 있다. 예를 들어, 도 4c에 도시된 바와 같이, 프로세서(130)는 전체 감지 영역을 격자로 구분하고, 이동 중인 오브젝트가 차지하는 격자의 개수에 기초하여 기설정된 크기 이상인지 여부를 판단할 수 있다.
다만, 이에 한정되는 것은 아니며, 격자의 개수는 얼마든지 달라질 수 있다. 예를 들어, 격자는 도 4c에 도시된 것보다 좀더 촘촘할 수 있다. 한편, 기준이 되는 격자의 개수는 사용자에 의해 설정될 수도 있다.
도 5a 내지 도 5c는 사용자 제스처의 형태에 따른 동작의 일 예를 설명하기 위한 도면이다.
도 5a에 도시된 바와 같이, 프로세서(130)는 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 사용자 제스처에 기초하여 HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다. 예를 들어, 프로세서(130)는 사용자의 손이 좌측에서 우측으로 움직이는 제스처에 따라 사용자의 손의 이동이 감지된 위치에 대응되는 디스플레이(110)의 일 영역의 화면 상태를 변경할 수 있다.
도 5a는 가상 현실 체험 중인 사용자에게 실제로 제공되는 영상을 나타낸다. 즉, 프로세서(130)는 사용자에게 슈팅 게임 화면을 제공하는 중에, 사용자 제스처에 따라 디스플레이(110)의 일부 영역의 화면 상태를 변경하여, 사용자가 HMD 디바이스(100) 전방의 사용자의 손과 키보드를 볼 수 있게 할 수 있다. 상술한 바와 같이, 프로세서(130)는 촬영된 영상을 오버레이하여 디스플레이하거나 디스플레이(110)의 투명도를 변경하여 전방의 영상을 제공하고, 그에 따라 사용자는 키보드를 제어할 수 있게 된다.
한편, 도 5b에 도시된 바와 같이, 프로세서(130)는 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 기설정된 기능을 제어할 수도 있다. 예를 들어, 프로세서(130)는 사용자의 손이 전체 감지 영역의 하측에서 상측으로 움직이는 제스처에 따라, 슈팅 게임 화면으로부터 영화 컨텐츠로 변경하여 디스플레이할 수도 있다.
프로세서(130)는 전체 감지 영역에서 오브젝트의 움직임이 이루어지는 영역에 기초하여 다른 기능을 실행할 수도 있다. 예를 들어, 도 5b에 도시된 바와 같이, 프로세서(130)는 전체 감지 영역의 우측에서 사용자의 손이 하측에서 상측으로 움직이는 제스처에 따라, 슈팅 게임 화면으로부터 영화 컨텐츠로 변경하여 디스플레이할 수도 있다. 또는, 프로세서(130)는 전체 감지 영역의 좌측에서 사용자의 손이 하측에서 상측으로 움직이는 제스처에 따라, 슈팅 게임 화면의 사운드의 크기를 증가시킬 수도 있다.
프로세서(130)는 오브젝트의 움직임 방향에 기초하여 다른 기능을 실행할 수도 있다. 예를 들어, 프로세서(130)는 사용자의 손이 하측에서 상측으로 움직이는 제스처에 따라, 슈팅 게임 화면으로부터 영화 컨텐츠로 변경하여 디스플레이할 수도 있다. 또는, 프로세서(130)는 사용자의 손이 상측에서 하측으로 움직이는 제스처에 따라, 전체 디스플레이(110) 영역을 투명하게 변경할 수도 있다.
한편, 도 5c에 도시된 바와 같이, 프로세서(130)는 오브젝트의 형상을 고려하여 디스플레이(110)의 일 영역의 화면 상태를 변경할 수도 있다. 예를 들어, 프로세서(130)는 사용자가 주먹을 쥔 상태로 좌측에서 우측으로 움직이는 제스처에 따라 디스플레이(110)의 일 영역의 화면 상태를 변경할 수 있다. 이 경우, 프로세서(130)는 사용자가 주먹을 쥐지 않았다면, 아무런 동작을 수행하지 않을 수 있다.
프로세서(130)는 오브젝트의 형상, 전체 감지 영역에서 오브젝트의 움직임이 이루어지는 영역 및 오브젝트의 움직임 방향 중 적어도 하나를 고려하여 디스플레이(110)의 일 영역의 화면 상태를 변경할 수도 있다.
한편, HMD 디바이스(100)는 기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보를 저장하는 스토리지(140)를 더 포함할 수 있다. 이러한 매핑 정보는 최초 HMD 디바이스(100)의 제조 시 설정될 수도 있으나, 사용자에 의해 입력될 수도 있다.
프로세서(130)는 매핑 정보에 기초하여, 투명도를 변경할 디스플레이(110)의 일 영역 및 투명도의 변경 정도를 결정할 수 있다. 예를 들어, 프로세서(130)는 사용자의 손가락의 감지된 개수에 기초하여 투명도의 변경 정도를 결정할 수도 있다.
도 6a 및 도 6b는 화면 상태를 변경하는 방법의 일 예를 설명하기 위한 도면이다.
도 6a에 도시된 바와 같이, 프로세서(130)는 기설정된 방향을 향하는 사용자 제스처가 감지되면, HMD 디바이스(100) 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다. 상술한 바와 같이, 프로세서(130)는 사용자의 손이 좌측에서 우측으로 움직이는 제스처에 따라 사용자의 손의 이동이 감지된 위치에 대응되는 디스플레이(110)의 일 영역의 화면 상태를 변경할 수 있다.
도 6b는 도 6a와 같이 화면 상태가 변경된 상태에서, 다시 화면 상태를 변경하는 방법을 나타낸다. 프로세서(130)는 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, HMD 디바이스(100) 전방의 영상을 제공하지 않도록 화면 상태를 변경할 수 있다. 여기서, 반대 방향은 최초 화면 상태를 변경시키는 제스처의 기설정된 방향의 반대 방향을 의미한다.
도 6a 및 도 6b는 일 실시 예에 불과하고, 이에 한정되는 것은 아니다. 예를 들어, 프로세서(130)는 손바닥이 감지되는 경우 손바닥의 움직임에 따라 손바닥이 지나간 영역의 영상이 제공되도록 디스플레이(110)의 일 영역의 화면 상태를 변경하고, 주먹이 감지되는 경우 주먹의 움직임에 따라 주먹이 지나간 영역의 영상이 제공되지 않도록 디스플레이(110)의 일 영역의 화면 상태를 변경할 수도 있다.
또는, 프로세서(130)는 오른손과 왼손을 구분하여 전방 영상의 제공 여부를 결정할 수도 있다.
도 7a 및 도 7b는 사용자의 시선에 따른 동작의 일 예를 설명하기 위한 도면이다.
HMD 디바이스(100)의 감지부(120)는 사용자의 시선을 감지할 수 있다. 예를 들어, 감지부(120)는 HMD 디바이스(100) 전방을 촬영하는 카메라 뿐만 아니라 사용자의 시선을 촬영하는 카메라를 포함할 수 있다. 다만, 이에 한정되는 것은 아니며, 감지부(120)는 사용자의 시선을 감지할 수 있는 장치면 어떤 것이라도 무방하다.
도 7a에 도시된 바와 같이, 프로세서(130)는 사용자의 시선이 화면 상태가 변경된 디스플레이(110)의 일 영역에 위치하면 변경된 화면 상태를 유지할 수 있다. 그에 따라, 사용자는 계속하여 HMD 디바이스(100) 전방의 키보드를 볼 수 있다.
한편, 도 7b에 도시된 바와 같이, 프로세서(130)는 사용자의 시선이 화면 상태가 변경된 디스플레이(110)의 일 영역으로부터 벗어나면 HMD 디바이스(100) 전방의 영상을 제공하지 않도록 화면 상태를 변경할 수 있다. 즉, 사용자는 시선의 위치를 변경하여 다시 슈팅 게임 화면을 볼 수 있다.
다만, 이에 한정되는 것은 아니며, 프로세서(130)는 사용자의 시선이 기설정된 시간 이상 화면 상태가 변경된 디스플레이(110)의 일 영역으로부터 벗어나는 경우에만 HMD 디바이스(100) 전방의 영상을 제공하지 않도록 화면 상태를 변경할 수도 있다.
또한, 프로세서(130)는 사용자의 시선이 화면 상태가 변경된 디스플레이(110)의 일 영역으로부터 벗어나면 화면 상태를 점진적으로 변경할 수도 있다. 예를 들어, 프로세서(130)는 오버레이된 전방 영상의 투명도를 점진적으로 감소시키거나 디스플레이(110)의 투명도를 점진적으로 감소시킬 수도 있다.
프로세서(130)는 화면 상태를 점진적으로 변경하는 중에 사용자의 시선이 다시 화면 상태가 변경된 디스플레이(110)의 일 영역을 향하는 경우, 시선이 향한 시점의 화면 상태를 유지할 수도 있다. 또한, 프로세서(130)는 화면 상태가 유지된 상태에서 기설정된 시간 이상 사용자의 시선이 유지되는 경우, 다시 HMD 디바이스(100) 전방의 영상을 제공하도록 화면 상태를 변경할 수도 있다.
도 8a 내지 도 8b는 전체 감지 영역을 설정하는 방법의 일 예를 설명하기 위한 도면이다.
도 8a에 도시된 바와 같이, HMD 디바이스(100)의 감지부(120)는 카메라(810)을 포함할 수 있다. 또한, 사용자의 시야각(820)과 카메라(810)의 화각(830)은 다를 수 있다.
여기서, 사용자의 시야각(820)은 디스플레이(110)가 투명하다는 가정 하에 디스플레이(110)를 통해 사용자가 HMD 디바이스(100)의 전방을 볼 수 있는 각도를 의미한다. 카메라(810)의 화각(830)은 카메라(810)로 포착할 수 있는 장면의 시야를 의미하며, 다양한 화각(830)으로 구현될 수 있다. 다만, 이하에서는 카메라(810)의 화각(830)이 사용자의 시야각(820)보다 넓거나 동일한 것으로 설명한다.
카메라(810)의 화각(830)이 사용자의 시야각(820)보다 넓은 경우를 먼저 설명한다. 도 8b는 사용자의 시야각(820)에 기초하여 사용자가 보는 장면을 나타내고, 도 8c는 카메라(810)의 화각(830)에 기초하여 촬영되는 장면을 나타낸다.
프로세서(130)는 카메라(810)에 의해 촬영된 영역 중 사용자의 시선에 대응되는 영역 내의 오브젝트의 움직임을 감지하고, 오브젝트의 위치에 기초하여 디스플레이의 일 영역의 화면 상태를 변경할 수 있다. 즉, 카메라(810)의 화각(830)에 기초하여 촬영되는 장면이 더 넓기 때문에, 프로세서(130)는 사용자가 보는 장면에 대응되는 영역(840) 내의 오브젝트의 움직임만을 유의미한 움직임으로 판단할 수 있다.
한편, 카메라(810)의 화각(830)이 사용자의 시야각(820)보다 동일한 경우에도, 프로세서(130)는 카메라(810)에 의해 촬영된 영역 중 사용자의 시선에 대응되는 영역 내의 오브젝트의 움직임을 감지할 수 있다. 이러한 동작을 통해 실제 사용자가 볼 수 있는 영역과 카메라(810)에 의해 촬영되는 영역의 오차를 줄일 수 있다.
또한, 프로세서(130)는 오브젝트의 위치 및 디스플레이(110)에 의해 결정되는 사용자의 시야각 중 적어도 하나에 기초하여 화면 상태를 변경할 디스플레이(110)의 일 영역을 결정할 수 있다.
도 9는 본 발명의 일 실시 예에 따른 현재 디스플레이의 투명도에 따른 동작을 설명하기 위한 도면이다.
도 9에 도시된 바와 같이, 프로세서(130)는 오브젝트의 움직임이 감지되면, 디스플레이(110)의 일 영역의 현재 투명도에 기초하여 디스플레이(110)의 일 영역의 투명도를 변경할 수 있다. 예를 들어, 프로세서(130)는 디스플레이(110)의 일 영역의 투명도가 60%인 경우, 오브젝트의 움직임이 감지되면 디스플레이(110)의 일 영역의 투명도를 증가시킬 수 있다. 또는, 프로세서(130)는 디스플레이(110)의 일 영역의 투명도가 40%인 경우, 오브젝트의 움직임이 감지되면 디스플레이(110)의 일 영역의 투명도를 감소시킬 수 있다. 즉, 프로세서(130)는 디스플레이(110)의 일 영역의 투명도가 완전 투명해지거나 완전 불투명해지도록 투명도를 변경할 수 있으며, 이때 현재의 투명도를 반영하여 어떻게 변경할 것인지를 결정할 수 있다.
또는, 프로세서(130)는 디스플레이(110)의 일 영역의 현재 투명도, 오브젝트의 형상, 전체 감지 영역에서 오브젝트의 움직임이 이루어지는 영역 및 오브젝트의 움직임 방향 중 적어도 하나를 고려하여 디스플레이(110)의 일 영역의 투명도를 변경할 수도 있다.
도 10은 본 발명의 일 실시 예에 따른 HMD 디바이스의 제어 방법을 설명하기 위한 흐름도이다.
먼저, 디스플레이에 컨텐츠를 디스플레이한다(S1010). 그리고, HMD 디바이스 전방의 오브젝트의 움직임을 감지한다(S1020). 그리고, 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 HMD 디바이스 전방의 영상이 제공되도록 디스플레이의 화면 상태를 변경한다(S1030).
특히, 변경하는 단계(S1030)는 카메라에 의해 촬영된 영상 중 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 디스플레이의 대응되는 영역에 오버레이하여 디스플레이할 수 있다.
여기서, 변경하는 단계(S1030)는 HMD 디바이스의 움직임이 감지되면, HMD 디바이스의 움직임에 대한 오브젝트의 상대적인 움직임을 판단하는 단계 및 오브젝트의 상대적인 움직임에 기초하여 HMD 디바이스 전방의 영상이 제공되도록 화면 상태를 변경하는 단계를 포함할 수 있다.
또는, 변경하는 단계(S1030)는 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 오브젝트의 위치에 기초하여 HMD 디바이스 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다.
그리고, 변경하는 단계(S1030)는 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 사용자 제스처에 기초하여 HMD 디바이스 전방의 영상이 제공되도록 화면 상태를 변경할 수 있다.
또는, 변경하는 단계(S1030)는 기설정된 방향을 향하는 사용자 제스처가 감지되면, HMD 디바이스 전방의 영상이 제공되도록 화면 상태를 변경하고, 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, HMD 디바이스 전방의 영상을 제공하지 않도록 화면 상태를 변경하는 단계를 더 포함할 수 있다.
한편, 사용자의 시선을 감지하는 단계 및 사용자의 시선이 화면 상태가 변경된 디스플레이의 일 영역에 위치하면 변경된 화면 상태를 유지하고, 사용자의 시선이 디스플레이의 일 영역으로부터 벗어나면 HMD 디바이스 전방의 영상을 제공하지 않도록 화면 상태를 변경할 수 있다.
한편, 변경하는 단계(S1030)는 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 디스플레이의 일 영역의 투명도를 변경할 수 있다.
또는, 변경하는 단계(S1030)는 오브젝트의 움직임이 감지되면, 디스플레이의 일 영역의 현재 투명도에 기초하여 디스플레이의 일 영역의 투명도를 변경할 수 있다.
그리고, 변경하는 단계(S1030)는 기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보에 기초하여, 투명도를 변경할 디스플레이의 일 영역 및 투명도의 변경 정도를 결정할 수 있다.
이상과 같은 본 발명의 다양한 실시 예에 따르면, HMD 디바이스의 전방의 오브젝트의 움직임에 따라 HMD 디바이스에 구비된 디스플레이의 일 영역의 투명도를 변경하여 사용자가 HMD 디바이스의 전방을 볼 수 있게 된다.
한편, 이상에서는 HMD 디바이스 전방의 오브젝트의 움직임에 기초하여 투명도가 변경되는 것으로 설명하였으나, 이에 한정되는 것은 아니다. 예를 들어, 사용자의 음성을 인식하여 디스플레이의 투명도를 변경하는 것도 가능하다.
한편, 상술한 본 발명의 다양한 실시 예들에 따른 HMD 디바이스의 제어 방법은 컴퓨터에서 실행 가능한 프로그램 코드로 구현되어 다양한 비일시적 판독 가능 매체(non-transitory computer readable medium)에 저장된 상태로 프로세서에 의해 실행되도록 각 서버 또는 기기들에 제공될 수 있다.
일 예로, 디스플레이에 컨텐츠를 디스플레이하는 단계, HMD 디바이스 전방의 오브젝트의 움직임을 감지하는 단계 및 오브젝트의 움직임이 감지되면, 오브젝트의 위치에 기초하여 HMD 디바이스 전방의 영상이 제공되도록 디스플레이의 화면 상태를 변경하는 단계를 순차적으로 수행하는 프로그램이 저장된 비일시적 판독 가능 매체(non-transitory computer readable medium)가 제공될 수 있다.
비일시적 판독 가능 매체란 레지스터, 캐쉬, 메모리 등과 같이 짧은 순간 동안 데이터를 저장하는 매체가 아니라 반영구적으로 데이터를 저장하며, 기기에 의해 판독(reading)이 가능한 매체를 의미한다. 구체적으로는, 상술한 다양한 어플리케이션 또는 프로그램들은 CD, DVD, 하드 디스크, 블루레이 디스크, USB, 메모리카드, ROM 등과 같은 비일시적 판독 가능 매체에 저장되어 제공될 수 있다.
또한, 이상에서는 본 발명의 바람직한 실시 예에 대하여 도시하고 설명하였지만, 본 발명은 상술한 특정의 실시 예에 한정되지 아니하며, 청구범위에서 청구하는 본 발명의 요지를 벗어남이 없이 당해 발명이 속하는 기술분야에서 통상의 지식을 가진자에 의해 다양한 변형실시가 가능한 것은 물론이고, 이러한 변형실시들은 본 발명의 기술적 사상이나 전망으로부터 개별적으로 이해되어져서는 안될 것이다.
100 : HMD 디바이스 110 : 디스플레이
120 : 감지부 130 : 프로세서
140 : 스토리지 150 : 통신부
155 : 사용자 인터페이스부 160 : 오디오 처리부
170 : 비디오 처리부 180 : 스피커
181 : 버튼 182 : 마이크

Claims (20)

  1. HMD(Head Mounted Display) 디바이스에 있어서,
    컨텐츠를 디스플레이하는 디스플레이;
    상기 HMD 디바이스 전방의 오브젝트의 움직임을 감지하는 감지부; 및
    상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 디스플레이의 화면 상태를 변경하는 프로세서;를 포함하는 HMD 디바이스.
  2. 제1항에 있어서,
    상기 감지부는, 카메라를 포함하고,
    상기 프로세서는,
    상기 카메라에 의해 촬영된 영상 중 상기 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 상기 디스플레이의 대응되는 영역에 오버레이하여 디스플레이하는, HMD 디바이스.
  3. 제1항에 있어서,
    상기 프로세서는,
    상기 HMD 디바이스의 움직임이 감지되면, 상기 HMD 디바이스의 움직임에 대한 상기 오브젝트의 상대적인 움직임을 판단하고, 상기 오브젝트의 상대적인 움직임에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는, HMD 디바이스.
  4. 제1항에 있어서,
    상기 프로세서는,
    상기 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는, HMD 디바이스.
  5. 제1항에 있어서,
    상기 프로세서는,
    상기 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 상기 사용자 제스처에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는, HMD 디바이스.
  6. 제5항에 있어서,
    상기 프로세서는,
    기설정된 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하고, 상기 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경하는, HMD 디바이스.
  7. 제1항에 있어서,
    상기 감지부는, 사용자의 시선을 감지하며,
    상기 프로세서는,
    상기 사용자의 시선이 상기 화면 상태가 변경된 상기 디스플레이의 일 영역에 위치하면 상기 변경된 화면 상태를 유지하고, 상기 사용자의 시선이 상기 디스플레이의 일 영역으로부터 벗어나면 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경하는, HMD 디바이스.
  8. 제1항에 있어서,
    상기 프로세서는,
    상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경하는, HMD 디바이스.
  9. 제8항에 있어서,
    상기 프로세서는,
    상기 오브젝트의 움직임이 감지되면, 상기 디스플레이의 일 영역의 현재 투명도에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경하는, HMD 디바이스.
  10. 제8항에 있어서,
    기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보를 저장하는 스토리지;를 더 포함하며,
    상기 프로세서는,
    상기 매핑 정보에 기초하여, 상기 투명도를 변경할 상기 디스플레이의 일 영역 및 상기 투명도의 변경 정도를 결정하는, HMD 디바이스.
  11. HMD(Head Mounted Display) 디바이스의 제어 방법에 있어서,
    디스플레이에 컨텐츠를 디스플레이하는 단계;
    상기 HMD 디바이스 전방의 오브젝트의 움직임을 감지하는 단계; 및
    상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 디스플레이의 화면 상태를 변경하는 단계;를 포함하는 제어 방법.
  12. 제11항에 있어서,
    상기 변경하는 단계는,
    카메라에 의해 촬영된 영상 중 상기 오브젝트의 움직임이 감지된 위치에 대응되는 영상을 상기 디스플레이의 대응되는 영역에 오버레이하여 디스플레이하는, HMD 디바이스.
  13. 제11항에 있어서,
    상기 변경하는 단계는,
    상기 HMD 디바이스의 움직임이 감지되면, 상기 HMD 디바이스의 움직임에 대한 상기 오브젝트의 상대적인 움직임을 판단하는 단계; 및
    상기 오브젝트의 상대적인 움직임에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는, 단계;를 포함하는, 제어 방법.
  14. 제11항에 있어서,
    상기 변경하는 단계는,
    상기 감지된 오브젝트의 크기가 기설정된 크기 이상인 경우에, 상기 오브젝트의 위치에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는, 제어 방법.
  15. 제11항에 있어서,
    상기 변경하는 단계는,
    상기 오브젝트의 움직임이 기설정된 형태의 사용자 제스처인 경우에, 상기 사용자 제스처에 기초하여 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하는, 제어 방법.
  16. 제15항에 있어서,
    상기 변경하는 단계는,
    기설정된 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상이 제공되도록 상기 화면 상태를 변경하고,
    상기 화면 상태가 변경된 상태에서 반대 방향을 향하는 사용자 제스처가 감지되면, 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경하는 단계;를 더 포함하는, 제어 방법.
  17. 제11항에 있어서,
    사용자의 시선을 감지하는 단계; 및
    상기 사용자의 시선이 상기 화면 상태가 변경된 상기 디스플레이의 일 영역에 위치하면 상기 변경된 화면 상태를 유지하고, 상기 사용자의 시선이 상기 디스플레이의 일 영역으로부터 벗어나면 상기 HMD 디바이스 전방의 영상을 제공하지 않도록 상기 화면 상태를 변경하는 단계;를 더 포함하는, 제어 방법.
  18. 제11항에 있어서,
    상기 변경하는 단계는,
    상기 오브젝트의 움직임이 감지되면, 상기 오브젝트의 위치에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경하는, 제어 방법.
  19. 제18항에 있어서,
    상기 변경하는 단계는,
    상기 오브젝트의 움직임이 감지되면, 상기 디스플레이의 일 영역의 현재 투명도에 기초하여 상기 디스플레이의 일 영역의 투명도를 변경하는, 제어 방법.
  20. 제18항에 있어서,
    상기 변경하는 단계는,
    기설정된 형상의 오브젝트 및 대응되는 움직임의 매핑 정보에 기초하여, 상기 투명도를 변경할 상기 디스플레이의 일 영역 및 상기 투명도의 변경 정도를 결정하는, 제어 방법.
KR1020160007086A 2016-01-20 2016-01-20 Hmd 디바이스 및 그 제어 방법 Active KR102610120B1 (ko)

Priority Applications (6)

Application Number Priority Date Filing Date Title
KR1020160007086A KR102610120B1 (ko) 2016-01-20 2016-01-20 Hmd 디바이스 및 그 제어 방법
PCT/KR2016/002724 WO2017126741A1 (ko) 2016-01-20 2016-03-17 Hmd 디바이스 및 그 제어 방법
CN201680079475.1A CN108474950B (zh) 2016-01-20 2016-03-17 Hmd设备及其控制方法
US15/781,346 US10643579B2 (en) 2016-01-20 2016-03-17 HMD device and method for controlling same
EP16886584.8A EP3370102B1 (en) 2016-01-20 2016-03-17 Hmd device and method for controlling same
US16/837,412 US11164546B2 (en) 2016-01-20 2020-04-01 HMD device and method for controlling same

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
KR1020160007086A KR102610120B1 (ko) 2016-01-20 2016-01-20 Hmd 디바이스 및 그 제어 방법

Publications (2)

Publication Number Publication Date
KR20170087292A true KR20170087292A (ko) 2017-07-28
KR102610120B1 KR102610120B1 (ko) 2023-12-06

Family

ID=59362430

Family Applications (1)

Application Number Title Priority Date Filing Date
KR1020160007086A Active KR102610120B1 (ko) 2016-01-20 2016-01-20 Hmd 디바이스 및 그 제어 방법

Country Status (5)

Country Link
US (2) US10643579B2 (ko)
EP (1) EP3370102B1 (ko)
KR (1) KR102610120B1 (ko)
CN (1) CN108474950B (ko)
WO (1) WO2017126741A1 (ko)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20190106947A (ko) * 2019-08-30 2019-09-18 엘지전자 주식회사 전자 디바이스
KR102048354B1 (ko) * 2019-07-10 2020-01-23 한화시스템(주) 무선 헬멧에서의 영상 디스플레이 장치 및 그 방법
KR20200061592A (ko) * 2018-11-26 2020-06-03 가천대학교 산학협력단 시선 기반의 360도 영상 스트리밍
KR102616729B1 (ko) 2022-11-09 2023-12-21 한화시스템 주식회사 도심 항공 모빌리티용 비행 장치 및 도심 항공 모빌리티용 비행체에서 콘텐츠 제공 방법

Families Citing this family (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR102029906B1 (ko) * 2017-11-10 2019-11-08 전자부품연구원 이동수단의 가상현실 콘텐츠 제공 장치 및 방법
JP7259838B2 (ja) * 2018-03-13 2023-04-18 ソニーグループ株式会社 情報処理装置、情報処理方法、および記録媒体
JP7238456B2 (ja) * 2019-02-21 2023-03-14 セイコーエプソン株式会社 表示システム、情報処理装置の制御プログラム、及び情報処理装置の制御方法
EP3931676B1 (en) 2019-04-11 2026-01-28 Samsung Electronics Co., Ltd. Head mounted display device and operating method thereof
US10992926B2 (en) 2019-04-15 2021-04-27 XRSpace CO., LTD. Head mounted display system capable of displaying a virtual scene and a real scene in a picture-in-picture mode, related method and related non-transitory computer readable storage medium
EP3734417A1 (en) * 2019-05-02 2020-11-04 XRSpace CO., LTD. Head mounted display system capable of displaying a virtual scene and a real scene in a picture-in-picture mode, related method and related non-transitory computer readable storage medium
TWI719483B (zh) 2019-05-17 2021-02-21 雅得近顯股份有限公司 便利備忘操作系統
US11740742B2 (en) * 2019-09-23 2023-08-29 Apple Inc. Electronic devices with finger sensors
JP2021125859A (ja) * 2020-02-10 2021-08-30 カシオ計算機株式会社 表示出力制御装置、表示出力制御システム、表示出力制御方法及びプログラム

Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120050143A1 (en) * 2010-08-25 2012-03-01 Border John N Head-mounted display with environmental state detection
JP2013077013A (ja) * 2012-11-20 2013-04-25 Sony Corp 表示装置、表示方法
KR20140066258A (ko) * 2011-09-26 2014-05-30 마이크로소프트 코포레이션 투시 근안 디스플레이에 대한 센서 입력에 기초한 비디오 디스플레이 수정
KR20150054825A (ko) * 2012-09-14 2015-05-20 엘지전자 주식회사 헤드 마운트 디스플레이를 위한 사용자 인터페이스 제공 장치 및 방법

Family Cites Families (27)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP1754201A1 (en) * 2004-05-27 2007-02-21 Canon Kabushiki Kaisha Information processing method, information processing apparatus, and image sensing apparatus
MX2012010238A (es) 2010-03-05 2013-01-18 Sony Comp Entertainment Us Mantenimiento de vistas multiples en un espacio virtual estable compartido.
US8941559B2 (en) * 2010-09-21 2015-01-27 Microsoft Corporation Opacity filter for display device
US20120249587A1 (en) 2011-04-04 2012-10-04 Anderson Glen J Keyboard avatar for heads up display (hud)
KR101824501B1 (ko) 2011-05-19 2018-02-01 삼성전자 주식회사 헤드 마운트 디스플레이 장치의 이미지 표시 제어 장치 및 방법
US20120327116A1 (en) 2011-06-23 2012-12-27 Microsoft Corporation Total field of view classification for head-mounted display
US8558759B1 (en) 2011-07-08 2013-10-15 Google Inc. Hand gestures to signify what is important
US8228315B1 (en) * 2011-07-12 2012-07-24 Google Inc. Methods and systems for a virtual input device
JP2013125247A (ja) * 2011-12-16 2013-06-24 Sony Corp ヘッドマウントディスプレイ及び情報表示装置
US9213185B1 (en) * 2012-01-06 2015-12-15 Google Inc. Display scaling based on movement of a head-mounted display
JP5580855B2 (ja) 2012-06-12 2014-08-27 株式会社ソニー・コンピュータエンタテインメント 障害物回避装置および障害物回避方法
US9568735B2 (en) 2012-08-07 2017-02-14 Industry-University Cooperation Foundation Hanyang University Wearable display device having a detection function
JP6229260B2 (ja) * 2012-11-20 2017-11-15 セイコーエプソン株式会社 虚像表示装置
US9619021B2 (en) * 2013-01-09 2017-04-11 Lg Electronics Inc. Head mounted display providing eye gaze calibration and control method thereof
KR20140090552A (ko) 2013-01-09 2014-07-17 엘지전자 주식회사 시선 캘리브레이션을 제공하는 헤드 마운트 디스플레이 및 그 제어 방법
US9411160B2 (en) * 2013-02-12 2016-08-09 Seiko Epson Corporation Head mounted display, control method for head mounted display, and image display system
KR20140129936A (ko) 2013-04-30 2014-11-07 인텔렉추얼디스커버리 주식회사 헤드 마운트 디스플레이 및 이를 이용한 콘텐츠 제공 방법
KR20140130321A (ko) 2013-04-30 2014-11-10 (주)세이엔 착용형 전자 장치 및 그의 제어 방법
TW201447375A (zh) 2013-06-13 2014-12-16 Hsiu-Chi Yeh 擴增實境之頭戴式電子裝置及方法
KR20150006128A (ko) 2013-07-08 2015-01-16 엘지전자 주식회사 헤드 마운트 디스플레이 장치 및 그 동작방법
US9361733B2 (en) * 2013-09-02 2016-06-07 Lg Electronics Inc. Portable device and method of controlling therefor
JP5825328B2 (ja) * 2013-11-07 2015-12-02 コニカミノルタ株式会社 透過型ｈｍｄを有する情報表示システム及び表示制御プログラム
JP6294054B2 (ja) 2013-11-19 2018-03-14 株式会社Ｎｔｔドコモ 映像表示装置、映像提示方法及びプログラム
KR20150101612A (ko) 2014-02-27 2015-09-04 엘지전자 주식회사 폐쇄형 시야(Closed-view)를 제공하는 헤드 마운티드 디스플레이 및 그 제어 방법
KR101665027B1 (ko) 2014-03-05 2016-10-11 (주)스코넥엔터테인먼트 헤드 마운트 디스플레이용 헤드 트래킹 바 시스템
JP6252316B2 (ja) * 2014-03-31 2017-12-27 株式会社デンソー 車両用表示制御装置
EP3403130A4 (en) * 2016-01-12 2020-01-01 eSIGHT CORP. METHOD AND DEVICES FOR IMPROVING VISUALITY IN VOICE ELEMENTS

Patent Citations (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20120050143A1 (en) * 2010-08-25 2012-03-01 Border John N Head-mounted display with environmental state detection
KR20140066258A (ko) * 2011-09-26 2014-05-30 마이크로소프트 코포레이션 투시 근안 디스플레이에 대한 센서 입력에 기초한 비디오 디스플레이 수정
KR20150054825A (ko) * 2012-09-14 2015-05-20 엘지전자 주식회사 헤드 마운트 디스플레이를 위한 사용자 인터페이스 제공 장치 및 방법
JP2013077013A (ja) * 2012-11-20 2013-04-25 Sony Corp 表示装置、表示方法

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20200061592A (ko) * 2018-11-26 2020-06-03 가천대학교 산학협력단 시선 기반의 360도 영상 스트리밍
KR102048354B1 (ko) * 2019-07-10 2020-01-23 한화시스템(주) 무선 헬멧에서의 영상 디스플레이 장치 및 그 방법
KR20190106947A (ko) * 2019-08-30 2019-09-18 엘지전자 주식회사 전자 디바이스
KR102616729B1 (ko) 2022-11-09 2023-12-21 한화시스템 주식회사 도심 항공 모빌리티용 비행 장치 및 도심 항공 모빌리티용 비행체에서 콘텐츠 제공 방법

Also Published As

Publication number Publication date
US20180366091A1 (en) 2018-12-20
CN108474950B (zh) 2021-09-28
US10643579B2 (en) 2020-05-05
US20200227009A1 (en) 2020-07-16
US11164546B2 (en) 2021-11-02
EP3370102B1 (en) 2021-10-13
WO2017126741A1 (ko) 2017-07-27
CN108474950A (zh) 2018-08-31
EP3370102A4 (en) 2018-12-05
EP3370102A1 (en) 2018-09-05
KR102610120B1 (ko) 2023-12-06

Similar Documents

Publication Publication Date Title
KR20170087292A (ko) Hmd 디바이스 및 그 제어 방법
US12182322B2 (en) Visibility improvement method based on eye tracking, machine-readable storage medium and electronic device
US11262835B2 (en) Human-body-gesture-based region and volume selection for HMD
US9904360B2 (en) Head tracking based gesture control techniques for head mounted displays
JP5300825B2 (ja) 指示受付装置、指示受付方法、コンピュータプログラム及び記録媒体
US20150309629A1 (en) Utilizing real world objects for user input
JP7005161B2 (ja) 電子機器及びその制御方法
KR102840429B1 (ko) 디스플레이 장치 및 그 동작 방법
KR20160051384A (ko) 웨어러블 디바이스 및 그 제어 방법
KR20180046681A (ko) 영상 표시 장치, 모바일 장치 및 그 동작방법
CN102736846B (zh) 检测区域扩大装置、显示装置以及检测区域扩大方法
JP2016126687A (ja) ヘッドマウントディスプレイ、操作受付方法および操作受付プログラム
CN112578983A (zh) 手指取向触摸检测
JP7005160B2 (ja) 電子機器及びその制御方法
US8941648B2 (en) Mobile terminal and control method thereof
WO2022269753A1 (ja) 情報処理システム、情報処理装置及び画像表示装置
CN120786051A (zh) 具有vr图像显示控制功能的图像处理设备、图像处理系统、非暂态计算机可读存储介质和图像处理设备的控制方法

Legal Events

Date Code Title Description
PA0109 Patent application

St.27 status event code: A-0-1-A10-A12-nap-PA0109

PG1501 Laying open of application

St.27 status event code: A-1-1-Q10-Q12-nap-PG1501

A201 Request for examination
PA0201 Request for examination

St.27 status event code: A-1-2-D10-D11-exm-PA0201

E902 Notification of reason for refusal
PE0902 Notice of grounds for rejection

St.27 status event code: A-1-2-D10-D21-exm-PE0902

AMND Amendment
P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

E601 Decision to refuse application
PE0601 Decision on rejection of patent

St.27 status event code: N-2-6-B10-B15-exm-PE0601

X091 Application refused [patent]
AMND Amendment
E13-X000 Pre-grant limitation requested

St.27 status event code: A-2-3-E10-E13-lim-X000

P11-X000 Amendment of application requested

St.27 status event code: A-2-2-P10-P11-nap-X000

P13-X000 Application amended

St.27 status event code: A-2-2-P10-P13-nap-X000

PX0901 Re-examination

St.27 status event code: A-2-3-E10-E12-rex-PX0901

PX0701 Decision of registration after re-examination

St.27 status event code: A-3-4-F10-F13-rex-PX0701

X701 Decision to grant (after re-examination)
PR0701 Registration of establishment

St.27 status event code: A-2-4-F10-F11-exm-PR0701

PR1002 Payment of registration fee

St.27 status event code: A-2-2-U10-U11-oth-PR1002

Fee payment year number: 1

PG1601 Publication of registration

St.27 status event code: A-4-4-Q10-Q13-nap-PG1601