JP2011197777A - 情報処理装置、情報処理方法およびプログラム - Google Patents

情報処理装置、情報処理方法およびプログラム Download PDF

Info

Publication number
JP2011197777A
JP2011197777A JP2010061127A JP2010061127A JP2011197777A JP 2011197777 A JP2011197777 A JP 2011197777A JP 2010061127 A JP2010061127 A JP 2010061127A JP 2010061127 A JP2010061127 A JP 2010061127A JP 2011197777 A JP2011197777 A JP 2011197777A
Authority
JP
Japan
Prior art keywords
space
gravity
virtual space
information processing
unit
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2010061127A
Other languages
English (en)
Inventor
Hiroyuki Ishige
広行 石毛
Kazuhiro Suzuki
和弘 鈴木
Akira Miyashita
朗 宮下
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2010061127A priority Critical patent/JP2011197777A/ja
Priority to TW100107173A priority patent/TW201142746A/zh
Priority to US13/043,772 priority patent/US8854393B2/en
Priority to KR1020110020756A priority patent/KR20110104886A/ko
Priority to CN201110062285.8A priority patent/CN102194050B/zh
Publication of JP2011197777A publication Critical patent/JP2011197777A/ja
Pending legal-status Critical Current

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating three-dimensional [3D] models or images for computer graphics
    • G06T19/006Mixed reality
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T1/00General purpose image data processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T11/00Two-dimensional [2D] image generation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • User Interface Of Digital Computer (AREA)
  • Processing Or Creating Images (AREA)

Abstract

【課題】現実空間を解析して認識される仮想空間に現実空間の重力方向を反映する。
【解決手段】情報処理装置10は、現実空間の3次元空間構造を解析して仮想空間を認識する仮想空間認識部152と、前記仮想空間に配置するオブジェクトを記憶している記憶部158と、前記仮想空間に配置された前記オブジェクトを表示装置に表示させる表示部154と、現実空間の重力方向を検出する重力方向検出部156と、前記検出部により検出された前記重力方向を前記仮想空間に反映させる重力方向反映部162と、を備える。
【選択図】図5

Description

本発明は、情報処理装置、情報処理法方法およびプログラムに関し、特に、拡張現実空間におけるオブジェクトの配置に関する。
最近では、拡張現実技術(Augmented Reality、以下AR技術とも称する)の一環として、現実世界の映像などの実空間情報に対して仮想的なデジタル情報を重畳して表示することが行われている。実空間情報に対して仮想的なデジタル情報を重畳する際には、重畳する仮想的なオブジェクトに実空間上の位置情報や姿勢情報を反映させる必要があった。
例えば、カメラの位置および姿勢に基づいて、撮像画像に含まれるオブジェクトの位置情報や姿勢情報を3次元空間上に反映させる技術が開示されている(例えば、特許文献1)。
特開2008−304268号公報
実空間情報に対して仮想的なデジタル情報(仮想オブジェクト)を重畳させる際に、位置情報や姿勢情報だけでなく、重力情報も反映して仮想オブジェクトに実空間上の物体と同様の動きを与えることが望まれていた。しかし、上記特許文献1では、オブジェクトに位置情報や姿勢情報を反映させることができるが、オブジェクトに重力情報を反映させることができないという問題があった。
そこで、本発明は、上記問題に鑑みてなされたものであり、本発明の目的とするところは、現実空間を解析して認識される仮想空間に現実空間の重力方向を反映することが可能な、新規かつ改良された情報処理装置、情報処理方法およびプログラムを提供することにある。
上記課題を解決するために、本発明のある観点によれば、現実空間の3次元空間構造を解析して仮想空間を認識する仮想空間認識部と、前記仮想空間に配置するオブジェクトを記憶している記憶部と、前記仮想空間に配置された前記オブジェクトを表示装置に表示させる表示部と、現実空間の重力方向を検出する重力方向検出部(以下、検出部と称する。)と、前記検出部により検出された前記重力方向を前記仮想空間に反映させる重力方向反映部と、を備える、情報処理装置が提供される。
また、前記重力方向反映部により前記重力方向が反映された前記仮想空間において、前記オブジェクトに対して前記重力方向を基準とした所定の処理を実行する実行部を備えてもよい。
また、前記検出部は、前記表示装置に対する重力方向の変化を検出し、前記重力方向反映部は、前記重力方向の変化を前記仮想空間に反映させてもよい。
また、前記検出部は、前記表示装置の前記仮想空間上における位置情報を検出してもよい。
また、前記実行部は、前記表示装置の位置情報に基づいて前記オブジェクトを配置し、前記オブジェクトを前記重力方向に移動させてもよい。
また、前記実行部は、前記表示装置の位置情報に基づいて前記オブジェクトを配置し、前記オブジェクトの姿勢を前記重力方向に変更させてもよい。
また、前記実行部は、前記表示装置の位置情報に基づいて前記オブジェクトを配置し、前記オブジェクトを前記重力方向に垂直に配置させてもよい。
また、前記検出部は、加速度センサを用いて前記重力方向を検出してもよい。
また、上記課題を解決するために、本発明の別の観点によれば、現実空間の3次元空間構造を解析して仮想空間を認識するステップと、前記仮想空間にオブジェクトを配置するステップと、現実空間の重力方向を検出するステップと、前記重力方向を前記仮想空間に反映させるステップと、前記仮想空間に配置された前記オブジェクトを表示装置に表示させるステップと、を含む、情報処理方法が提供される。
また、上記課題を解決するために、本発明の別の観点によれば、コンピュータを、現実空間の3次元空間構造を解析して仮想空間を認識する仮想空間認識部と、前記仮想空間に配置するオブジェクトを記憶している記憶部と、前記仮想空間に配置された前記オブジェクトを表示装置に表示させる表示部と、現実空間の重力方向を検出する検出部と、前記検出部により検出された前記重力方向を前記仮想空間に反映させる重力方向反映部と、を備える、情報処理装置として機能させるためのプログラムが提供される。
以上説明したように本発明によれば、現実空間を解析して認識される仮想空間に現実空間の重力方向を反映することができる。
AR技術について説明する説明図である。 現実空間を解析して認識される仮想空間を説明する説明図である。 AR空間に対する重力方向の反映について説明する説明図である。 本実施形態にかかる情報処理装置のハードウェア構成を示すブロック図である。 同実施形態にかかる情報処理装置の機能構成を示すブロック図である。 同実施形態にかかるARオブジェクトに対する処理について説明する説明図である。 同実施形態にかかるARオブジェクトに対する処理について説明する説明図である。 同実施形態にかかる情報処理装置の動作の詳細を示すフローチャートである。 同実施形態にかかる情報処理装置の動作の詳細を示すフローチャートである。
以下に添付図面を参照しながら、本発明の好適な実施の形態について詳細に説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複説明を省略する。
また、以下に示す順序に従って、当該「発明を実施するための最良の形態」を説明する。
〔1〕本実施形態の目的
〔2〕情報処理装置の概要
〔3〕情報処理装置のハードウェア構成
〔4〕情報処理装置の機能構成
〔5〕情報処理装置の動作の詳細
〔1〕本実施形態の目的
まず、本実施形態の目的について説明する。最近では、拡張現実技術(Augmented Reality、以下AR技術とも称する)の一環として、現実世界の映像などの実空間情報に対して仮想的なデジタル情報を重畳して表示することが行われている。実空間情報に対して仮想的なデジタル情報を重畳する際には、重畳する仮想的なオブジェクトに実空間上の位置情報や姿勢情報を反映させる必要があった。
例えば、カメラの位置および姿勢に基づいて、撮像画像に含まれるオブジェクトの位置情報や姿勢情報を3次元空間上に反映させる技術が開示されている。
実空間情報に対して仮想的なデジタル情報(仮想オブジェクト)を重畳させる際に、位置情報や姿勢情報だけでなく、重力情報も反映して仮想オブジェクトに実空間上の物体と同様の動きを与えることが望まれていた。しかし、上記特許文献1では、オブジェクトに位置情報や姿勢情報を反映させることができるが、オブジェクトに重力情報を反映させることができないという問題があった。
そこで、上記のような事情を一着眼点として、本発明の実施形態にかかる情報処理装置10が創作されるに至った。情報処理装置10によれば、現実空間を解析して認識される仮想空間に現実空間の重力方向を反映することが可能となる。
〔2〕情報処理装置の概要
以上、本実施形態の目的について説明した。次に、図1〜図3を参照して、本実施形態にかかる情報処理装置10の概要について説明する。情報処理装置10は、携帯電話やPDA(Personal Digital Assistant)、携帯用ゲーム機器や小型のPC(Personal Computer)など、表示装置を備える情報処理端末を例示することができる。情報処理装置10には、実空間画像に重畳される仮想オブジェクトが登録されている。
図1は、AR技術について説明する説明図である。図2は、現実空間を解析して認識される仮想空間(AR空間)を説明する説明図である。図3は、AR空間に対する重力方向の反映について説明する説明図である。
図1では、現実世界の映像301に対して、仮想的なデジタル情報302を重畳している。これにより、現実世界の映像301に補足的な情報を合成して表示させることが可能となる。現実世界の映像301は、撮像装置などで撮像された現実空間上の映像である。また、仮想的なデジタル情報302は、現実空間を解析して、現実空間上の任意の位置に配置された仮想オブジェクトである。
例えば、図1では、現実空間上で投げる動作をしている人が表示されている表示画面に、仮想オブジェクトであるボールが重畳される。このように、情報処理装置10では、現実空間上の人の映像にボールのデジタル画像を合成して、実際にボールを投げているように見せることができる。
次に、図2を参照して、現実空間を解析して認識される仮想空間(AR空間)について説明する。図2では、情報処理装置10を用いて認識されたAR空間に仮想オブジェクトが配置されている状態を示している。AR空間とは、現実空間の空間座標系に、現実空間を解析して認識された仮想空間の空間座標系を重ね合わせた空間である。これは、現実空間座標系での位置が決定すれば、一意に、AR空間上での座標が決定されることを意味している。すなわち、現実空間上の任意の位置にARオブジェクトを配置する場合には、一意にAR空間上でのARオブジェクトを配置する位置が決定されることとなる。
本実施形態にかかる情報処理装置10では、現実空間を解析して認識されるAR空間に現実空間の重力方向を反映させる。図3を参照して、AR空間への重力方向の反映について説明する。図3の説明図310は、現実空間上のデバイス(表示装置30)で認識されるAR空間座標系を示している。空間座標系311は、後述する仮想空間認識部により生成される空間座標系である。
説明図312の矢印313は、現実空間での重力方向を示している。該重力方向は、情報処理装置10に備えられた加速度センサなどを用いて検出される。説明図312の空間座標系314は、現実空間での重力方向を生成されたAR空間座標系に反映したものである。重力方向が反映されたAR空間座標系にARオブジェクトが配置されると、配置されたARオブジェクトに対して重力方向の所定の処理を実行することが可能となる。重力方向の所定の処理とは、例えば、重力方向を基準としてARオブジェクトを移動させたり、重力方向を基準としてARオブジェクトの姿勢情報を更新したりすることが挙げられる。
このように、AR空間に重力方向が反映されると、重力方向を基準とする任意の方向への処理を実行することが可能となる。また、AR空間上でデバイス位置が変更されたり、デバイスの姿勢情報が変化してデバイスにおける重力方向が変化したりした場合には、AR空間上の重力方向を動的に更新する。
なお、デバイス位置が変更されても、デバイスにおける重力方向が変化しない場合には、重力方向を更新する必要はない。本実施形態にかかる情報処理装置10では、AR空間に重力方向を反映させることにより、AR空間に配置されるARオブジェクトに種々の動きを与えることを可能としている。
〔3〕情報処理装置のハードウェア構成
以上、情報処理装置10の概要について説明した。次に、図4を参照して、情報処理装置10のハードウェア構成について説明する。
図4は、情報処理装置10のハードウェア構成を示すブロック図である。情報処理装置10は、CPU(Central Processing Unit)101と、ROM(Read Only Memory)102と、RAM(Random Access Memory)103と、ホストバス104と、ブリッジ105と、外部バス106と、インタフェース107と、入力装置108と、出力装置109と、ストレージ装置(HDD)110と、ドライブ111と、通信装置112と、撮像装置20と、各種センサ40を備える。
CPU101は、演算処理装置および制御装置として機能し、各種プログラムに従って情報処理装置10内の動作全般を制御する。また、CPU101は、マイクロプロセッサであってもよい。ROM102は、CPU101が使用するプログラムや演算パラメータ等を記憶する。RAM103は、CPU101の実行において使用するプログラムや、その実行において適宜変化するパラメータ等を一次記憶する。これらはCPUバスなどから構成されるホストバス104により相互に接続されている。
ホストバス104は、ブリッジ105を介して、PCI(Peripheral Component Interconnect/Interface)バスなどの外部バス106に接続されている。なお、必ずしもホストバス104、ブリッジ105および外部バス106を分離構成する必要はなく、一のバスにこれらの機能を実装してもよい。
入力装置108は、例えば、マウス、キーボード、タッチパネル、ボタン、マイク、スイッチおよびレバーなどユーザが情報を入力するための入力手段と、ユーザによる入力に基づいて入力信号を生成し、CPU101に出力する入力制御回路などから構成されている。情報処理装置10のユーザは、該入力装置108を操作することにより、情報処理装置10に対して各種のデータを入力したり処理動作を指示したりすることができる。
出力装置109、例えば、CRT(Cathode Ray Tube)ディスプレイ装置、液晶ディスプレイ(LCD)装置、OLED(Organic Light Emitting Display)装置およびランプなどの表示装置と、スピーカおよびヘッドホンなどの音声出力装置で構成される。具体的には、表示装置は再生された映像データ等の各種情報をテキストまたはイメージで表示する。一方、音声出力装置は、再生された音声データ等を音声に変換して出力する。後述する表示装置30は、出力装置109の一例である。
ストレージ装置110は、本実施形態にかかる情報処理装置10の記憶部の一例として構成されたデータ格納用の装置であり、記憶媒体、記憶媒体にデータを記録する記録装置、記憶媒体からデータを読み出す読出し装置および記憶媒体に記録されたデータを削除する削除装置などを含むことができる。
ストレージ装置110は、例えば、HDD(Hard Disk Drive)で構成される。このストレージ装置110は、ハードディスクを駆動し、CPU101が実行するプログラムや各種データを格納する。また、このストレージ装置110には、後述の、アイテム、識別番号などを記憶する。
ドライブ111は、記憶媒体用リーダライタであり、情報処理装置10に内蔵、あるいは外付けされる。ドライブ111は、装着されている磁気ディスク、光ディスク、光磁気ディスク、または半導体メモリ等のリムーバブル記憶媒体24に記録されている情報を読み出して、RAM103に出力する。
通信装置112は、例えば、通信網50に接続するための通信デバイス等で構成された通信インタフェースである。また、通信装置112は、無線LAN(Local Area Network)対応通信装置であっても、ワイヤレスUSB対応通信装置であっても、有線による通信を行うワイヤー通信装置であってもよい。
撮像装置20は、撮像レンズを介して通過した光をCCDで電気信号に変換し、アナログ信号をデジタル変換することにより被写体を撮像する機能を有する。撮像装置20により撮像された画像は、表示装置に表示される。各種センサ40は、仮想空間を認識するためのセンサであって、例えば、地磁気コンパスや加速度センサなどを例示できる。また、各種センサ40の一例として、重力方向を検出可能な重力方向検出装置41を例示できる。
〔4〕情報処理装置の機能構成
以上、情報処理装置10のハードウェア構成例について説明した。次に、図5を参照して、本実施形態にかかる情報処理装置10の機能構成について説明する。図5は、本実施形態にかかる情報処理装置10の機能構成を示すブロック図である。
図5に示したように、情報処理装置10は、仮想空間認識部152、表示部154、重力方向検出部156、記憶部158、実行部160、重力方向反映部162などを備える。
仮想空間認識部152は、現実空間の3次元空間構造を解析して仮想空間(AR空間)を認識する機能を有する。仮想空間認識部152は、現実空間の映像や、地磁気コンパスや加速度センサなどの各種センサ、GPS等を用いて、AR空間における位置や姿勢、サイズ、カメラ位置等を認識する機能を有する。すなわち、仮想空間認識部152は、現実空間上の空間座標系に仮想空間の空間座標系を重ね合わせる機能を有する。
表示部154は、仮想空間認識部152により認識された仮想空間を表示装置30に表示する機能を有する。また、表示部154は、仮想空間に配置されたオブジェクトを表示する。本実施形態では、表示装置30は、情報処理装置10と一体の装置として構成しているが、かかる例に限定されず、表示装置30と情報処理装置10とは別体の装置としてもよい。
重力方向検出部156は、現実空間の重力方向を検出する機能を有する。重力方向検出部156は、重力方向検出装置41から提供される重力方向の情報を用いて、現実空間の重力方向を検出する。また、重力方向検出部156は、認識された仮想空間に対する重力方向の変化を検出して、後述する重力方向反映部162に重力方向の変化を仮想空間に反映させるようにしてもよい。また、撮像装置20の仮想空間上における位置情報を検出してもよい。重力方向検出部156により撮像装置20の位置情報が検出された場合には、該位置情報に基づいて仮想オブジェクトを配置するようにしてもよい。重力方向検出部156は、本発明の検出部の一例である。
記憶部158は、仮想空間に配置するオブジェクト(ARオブジェクト)を記憶している。なお、記憶部158は、不揮発性メモリ、磁気ディスク、光ディスク、およびMO(Magneto Optical)ディスクなどの記憶媒体であってもよい。不揮発性メモリとしては、例えば、EEPROM(Electrically Erasable Programmable Read−Only Memory)、EPROM(Erasable Programmable ROM)があげられる。また、磁気ディスクとしては、ハードディスクおよび円盤型磁性体ディスクなどがあげられる。また、光ディスクとしては、CD(Compact Disc)、DVD−R(Digital Versatile Disc Recordable)およびBD(Blu−Ray Disc(登録商標))などがあげられる。
また、記憶部158には、各ARオブジェクトの位置情報や姿勢情報やサイズなどのARオブジェクトの属性情報が関連付けて記憶されている。
重力方向反映部162は、重力方向検出部156により検出された重力方向を、仮想空間認識部152により認識された仮想空間に反映させる機能を有する。また、上記したように、重力方向検出部156により、撮像装置20に対する重力方向の変化が検出された場合には、重力方向反映部は、重力方向の変化を仮想空間に反映する。
実行部160は、重力方向反映部162により重力方向が反映された仮想空間において、仮想空間に重畳するオブジェクト(ARオブジェクト)に対して重力方向を基準とした所定の処理を実行する機能を有する。ここで、所定の処理とは、例えば、重力方向を基準としてARオブジェクトを移動させたり、重力方向を基準としてARオブジェクトの姿勢情報を更新したりする処理である。
また、重力方向検出部156により撮像装置20の仮想空間上における位置情報が検出された場合には、実行部160は、撮像装置20の位置情報に基づいてARオブジェクトを仮想空間に配置し、さらに、ARオブジェクトを重力方向に移動させてもよい。また、実行部160は、撮像装置20の位置情報に基づいてARオブジェクトを仮想空間に配置し、ARオブジェクトの姿勢を重力方向に変更させるようにしてもよい。さらに、実行部160は、撮像装置20の位置情報に基づいてARオブジェクトを仮想空間に配置し、ARオブジェクトを重力方向に垂直に配置させてもよい。
ここで、図6および図7を参照して、実行部160によるARオブジェクトに対する処理について説明する。図6は、AR空間にARオブジェクトを配置した様子を示している。オブジェクト321は、AR空間上に配置されたARオブジェクトである。
本実施形態では、上記した重力方向反映部により、AR空間に現実空間の重力方向が反映されている。図6に示したように、実行部160は、AR空間に配置されたオブジェクト321を、AR空間の空間座標系における重力方向に向かって移動させる。このように、AR空間の空間座標系における重力方向に向かってオブジェクト321を移動させることにより、現実空間において物体が落下していくのと同様の視覚的な効果を与えることができる。
また、AR空間の重力方向に、平面として認識される面が存在している場合には、実行部160は、重力方向に移動させているオブジェクト321を平面に配置するようにしてもよい。これにより、重力方向に落下するオブジェクト321が、重力方向に存在する平面に衝突して該平面に落下するのと同様の視覚的な効果を与えることが可能となる。ここで、重力方向に存在する平面は、重力方向が垂直となるような平面である。なお、必ずしも重力方向が垂直となる平面だけでなく、移動させたオブジェクトが最初に接触する平面でもよい。また、重力方向に移動させて配置する位置は、他のARオブジェクトと接触した位置、例えば、それぞれの位置が一定範囲内になった位置でもよい。
また、図7に示すように、実行部160は、AR空間上に配置されたオブジェクトを、常に現実方向の重力方向に垂直に配置するようにしてもよい。この場合、実行部160は、まず、撮像装置の位置(デバイス位置)を基準としてAR空間上にオブジェクトを配置する。本実施形態では、オブジェクト321は、AR空間上の撮像装置の位置を基準としてAR空間上に配置されるが、かかる例に限定されず、表示装置の位置を基準としてAR空間上に配置されるようにしてもよい。
実行部160は、AR空間に配置されたオブジェクトを、常にAR空間に反映されている重力方向に垂直となるように動的に配置する。すなわち、オブジェクトの姿勢が常に重力方向に垂直となるように配置する。例えば、図7の表示例324のオブジェクト325や、表示例326のオブジェクト327のように、表示装置30の表示画面にぶら下がっているのと同様の視覚的な効果を与えることができる。
上記したように、オブジェクトに加速度センサ等により検出された重力方向を反映させるだけでなく、ARオブジェクトをAR空間に配置した後にAR空間の重力方向を反映させることにより、AR空間上における他の処理を実行することが可能となる。ここで、AR空間上における他の処理とは、例えば、AR空間において認識される他のオブジェクトとの位置関係を比較して、比較結果に応じた処理などである。例えば、他のオブジェクトに接触したことを判定して、接触した場合の動きを表示させることができる。また、AR空間において認識される壁などの障害物を認識して、障害物との位置関係に応じた処理を実行してもよい。
このように、ARオブジェクトをAR空間に配置した後にAR空間の重力方向を反映させることにより、AR空間において認識されている他のオブジェクトや障害物などとの位置関係を把握したり、位置関係に応じた処理を実行したりすることが可能となる。これにより、AR空間に配置されたARオブジェクトを、実空間と同様の動きをするように見せることができる。
以上、実行部160によるARオブジェクトに対する処理について説明した。上記したように、情報処理装置10によれば、現実空間の重力方向を反映させたAR空間にARオブジェクトを配置して、ARオブジェクトに対して重力方向に応じた処理を実行することが可能となる。
〔5〕情報処理装置の動作の詳細
以上、情報処理装置10の機能構成について説明した。次に、図8および図9を参照して、情報処理装置10の動作の詳細について説明する。図8は、仮想空間(AR空間)に重力方向を反映させる処理を示すフローチャートである。また、図9は、撮像装置の位置(デバイス位置)および重力方向をARオブジェクトに反映させる処理を示すフローチャートである。
図8に示したように、まず、仮想空間認識部152は、現実空間の3次元空間構造を解析して仮想空間(AR空間)を認識する(S102)。そして、重力方向検出部156は、現実空間の重力方向を検出する(S104)。ステップS104において、重力方向検出部156は、例えば、加速度センサなどを用いて現実空間の重力方向を検出する。
そして、デバイス(撮像装置)における重力方向が変化したか否かを判定する(S106)。ステップS106において、重力方向検出部156は、デバイスに対する重力方向の変化を検出する。または、仮想空間上のデバイスの姿勢情報の変化を検出し、変化があった場合は重力方向の検出を行ってもよい。
ステップS106において、デバイスにおける重力方向が変化したと判定された場合には、AR空間における重力方向を更新する(S108)。ステップS106において、デバイスにおける重力方向が変化していないと判定された場合には、再度ステップS104以降の処理を繰り返す。
このように、デバイスに対する現実空間の重力方向の変化を検出して、重力方向の変化をAR空間に反映させることにより、AR空間に配置されるARオブジェクトに重力方向を基準とする処理を実行することが可能となる。以上、仮想空間に重力方向を反映させる処理について説明した。
次に、図9を参照して、デバイス位置および重力方向をARオブジェクトに反映させる処理について説明する。図9に示したように、まず、仮想空間認識部152は、現実空間の3次元空間構造を解析して仮想空間(AR空間)を認識する(S202)。そして、重力方向検出部156は、AR空間上におけるデバイス(表示装置30)位置を検出する(S204)。さらに、重力方向検出部156は、現実空間の重力方向を検出する(S206)。
そして、ステップS204において検出したデバイス位置またはステップS206において検出した重力方向が変化したか否かを判定する(S208)。デバイス位置の変化は、AR空間上におけるデバイス位置の変化であり、重力方向の変化は、デバイスに対する重力方向の変化である。
ステップS208において、重力方向が変化したと判定された場合には、AR空間の重力方向を更新する(S210)。また、ステップS208において、デバイス位置が変化したと判定された場合には、ステップS204において検出されたデバイス位置にARオブジェクトを再配置する(S212)。ステップS212において、変化したデバイス位置にARオブジェクトを再配置して、さらに、ステップS206において検出された重力方向をARオブジェクトに反映する。
図9では、AR空間上におけるデバイス位置を検出した後に、重力方向を検出しているが、かかる例に限定されず、重力方向を検出した後にデバイス位置を検出するようにしてもよい。また、ステップS212において、デバイス位置にARオブジェクトを再配置するようにしているが、かかる例に限定されず、デバイス位置を基準とした位置にARオブジェクトを配置してもよい。また、ステップS204において、撮像装置20の位置情報を検出した場合には、撮像装置20の位置を基準としてARオブジェクトを配置するようにしてもよい。
また、上記では、重力方向を基準としてARオブジェクトを配置しているが、かかる例に限定されず、地磁気コンパスなどにより実空間における方位を検出し、その方位が示す方向を基準としてARオブジェクトを配置するようにしてもよい。例えば、地磁気コンパスにより北方向を検出し、AR空間に配置されたARオブジェクトが常に北方向を向くように配置してもよい。
このように、重力方向や方位などを仮想空間に反映させると、仮想オブジェクトに対して、重力方向や方位などを基準としたオブジェクトの移動処理や、オブジェクトの姿勢更新などの種々の動きを与えることが可能となる。
以上、添付図面を参照しながら本発明の好適な実施形態について詳細に説明したが、本発明はかかる例に限定されない。本発明の属する技術の分野における通常の知識を有する者であれば、特許請求の範囲に記載された技術的思想の範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、これらについても、当然に本発明の技術的範囲に属するものと了解される。
例えば、本明細書の情報処理装置10の処理における各ステップは、必ずしもフローチャートとして記載された順序に沿って時系列に処理する必要はない。すなわち、情報処理装置10の処理における各ステップは、異なる処理であっても並列的に実行されてもよい。
また、情報処理装置10などに内蔵されるCPU、ROMおよびRAMなどのハードウェアを、上述した情報処理装置10の各構成と同等の機能を発揮させるためのコンピュータプログラムも作成可能である。また、該コンピュータプログラムを記憶させた記憶媒体も提供される。
10 情報処理装置
152 仮想空間認識部
154 表示部
156 検出部
158 記憶部
160 実行部
162 重力方向反映部
20 撮像装置
30 表示装置

Claims (10)

  1. 現実空間の3次元空間構造を解析して仮想空間を認識する仮想空間認識部と、
    前記仮想空間に配置するオブジェクトを記憶している記憶部と、
    前記仮想空間に配置された前記オブジェクトを表示装置に表示させる表示部と、
    現実空間の重力方向を検出する検出部と、
    前記検出部により検出された前記重力方向を前記仮想空間に反映させる重力方向反映部と、
    を備える、情報処理装置。
  2. 前記重力方向反映部により前記重力方向が反映された前記仮想空間において、前記オブジェクトに対して前記重力方向を基準とした所定の処理を実行する実行部を備える、請求項1に記載の情報処理装置。
  3. 前記検出部は、前記表示装置に対する重力方向の変化を検出し、
    前記重力方向反映部は、前記重力方向の変化を前記仮想空間に反映させる、請求項1または2のいずれかに記載の情報処理装置。
  4. 前記検出部は、
    前記表示装置の前記仮想空間上における位置情報を検出する、請求項1〜3のいずれかに記載の情報処理装置。
  5. 前記実行部は、
    前記表示装置の位置情報に基づいて前記オブジェクトを配置し、前記オブジェクトを前記重力方向に移動させる、請求項4に記載の情報処理装置。
  6. 前記実行部は、
    前記表示装置の位置情報に基づいて前記オブジェクトを配置し、前記オブジェクトの姿勢を前記重力方向に変更させる、請求項4に記載の情報処理装置。
  7. 前記実行部は、
    前記表示装置の位置情報に基づいて前記オブジェクトを配置し、前記オブジェクトを前記重力方向に垂直に配置させる、請求項4に記載の情報処理装置。
  8. 前記検出部は、
    加速度センサを用いて前記重力方向を検出する、請求項1〜7のいずれかに記載の情報処理装置。
  9. 現実空間の3次元空間構造を解析して仮想空間を認識するステップと、
    前記仮想空間にオブジェクトを配置するステップと、
    現実空間の重力方向を検出するステップと、
    前記重力方向を前記仮想空間に反映させるステップと、
    前記仮想空間に配置された前記オブジェクトを表示装置に表示させるステップと、
    を含む、情報処理方法。
  10. コンピュータを、
    現実空間の3次元空間構造を解析して仮想空間を認識する仮想空間認識部と、
    前記仮想空間に配置するオブジェクトを記憶している記憶部と、
    前記仮想空間に配置された前記オブジェクトを表示装置に表示させる表示部と、
    現実空間の重力方向を検出する検出部と、
    前記検出部により検出された前記重力方向を前記仮想空間に反映させる重力方向反映部と、
    を備える、情報処理装置として機能させるためのプログラム。
JP2010061127A 2010-03-17 2010-03-17 情報処理装置、情報処理方法およびプログラム Pending JP2011197777A (ja)

Priority Applications (5)

Application Number Priority Date Filing Date Title
JP2010061127A JP2011197777A (ja) 2010-03-17 2010-03-17 情報処理装置、情報処理方法およびプログラム
TW100107173A TW201142746A (en) 2010-03-17 2011-03-03 Information processing device, information processing method, and program
US13/043,772 US8854393B2 (en) 2010-03-17 2011-03-09 Information processing device, information processing method, and program
KR1020110020756A KR20110104886A (ko) 2010-03-17 2011-03-09 정보 처리 장치, 정보 처리 방법 및 프로그램
CN201110062285.8A CN102194050B (zh) 2010-03-17 2011-03-10 信息处理设备和信息处理方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2010061127A JP2011197777A (ja) 2010-03-17 2010-03-17 情報処理装置、情報処理方法およびプログラム

Publications (1)

Publication Number Publication Date
JP2011197777A true JP2011197777A (ja) 2011-10-06

Family

ID=44602111

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2010061127A Pending JP2011197777A (ja) 2010-03-17 2010-03-17 情報処理装置、情報処理方法およびプログラム

Country Status (4)

Country Link
US (1) US8854393B2 (ja)
JP (1) JP2011197777A (ja)
KR (1) KR20110104886A (ja)
TW (1) TW201142746A (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016507793A (ja) * 2012-11-02 2016-03-10 クアルコム,インコーポレイテッド 基準座標系の決定
JP2016110546A (ja) * 2014-12-10 2016-06-20 株式会社Nttドコモ 表示装置及び表示方法
WO2024090303A1 (ja) 2022-10-24 2024-05-02 ソニーグループ株式会社 情報処理装置及び情報処理方法
JP2024156710A (ja) * 2018-09-29 2024-11-06 アップル インコーポレイテッド 奥行きベースの注釈のためのデバイス、方法、およびグラフィカルユーザインターフェース

Families Citing this family (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5431823A (en) 1994-08-18 1995-07-11 Electric Fuel(E.F.L.) Ltd. Process for supporting and cleaning a mesh anode bag
US9230223B2 (en) * 2011-12-05 2016-01-05 Houzz, Inc. Consistent presentation of content and passive relevance determination of content relationship in an on-line commerce system
US9183676B2 (en) * 2012-04-27 2015-11-10 Microsoft Technology Licensing, Llc Displaying a collision between real and virtual objects
US20140002492A1 (en) * 2012-06-29 2014-01-02 Mathew J. Lamb Propagation of real world properties into augmented reality images
US9773346B1 (en) * 2013-03-12 2017-09-26 Amazon Technologies, Inc. Displaying three-dimensional virtual content

Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005173042A (ja) * 2003-12-09 2005-06-30 Canon Inc 携帯型情報装置及びその広告表示方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
FR2775814B1 (fr) * 1998-03-06 2001-01-19 Rasterland Sa Systeme de visualisation d'images tridimensionnelles realistes virtuelles en temps reel
US20070046561A1 (en) * 2005-08-23 2007-03-01 Lg Electronics Inc. Mobile communication terminal for displaying information
CA2621191C (en) * 2005-08-29 2012-12-18 Evryx Technologies, Inc. Interactivity via mobile image recognition
US8730156B2 (en) * 2010-03-05 2014-05-20 Sony Computer Entertainment America Llc Maintaining multiple views on a shared stable virtual space
US8462109B2 (en) * 2007-01-05 2013-06-11 Invensense, Inc. Controlling and accessing content using motion processing on mobile devices
JP5380789B2 (ja) * 2007-06-06 2014-01-08 ソニー株式会社 情報処理装置、および情報処理方法、並びにコンピュータ・プログラム
US8902227B2 (en) * 2007-09-10 2014-12-02 Sony Computer Entertainment America Llc Selective interactive mapping of real-world objects to create interactive virtual-world objects
EP2327201B1 (en) * 2008-07-15 2018-09-05 Immersion Corporation Systems and methods for transmitting haptic messages
US9310992B2 (en) * 2008-08-22 2016-04-12 Google Inc. Panning in a three dimensional environment on a mobile device
US9566029B2 (en) * 2008-09-30 2017-02-14 Cognisens Inc. Method and device for assessing, training and improving perceptual-cognitive abilities of individuals
EP2193825B1 (en) * 2008-12-03 2017-03-22 Alcatel Lucent Mobile device for augmented reality applications
GB0915589D0 (en) * 2009-09-07 2009-10-07 Sony Comp Entertainment Europe Image processing method, apparatus and system
US20110250962A1 (en) * 2010-04-09 2011-10-13 Feiner Steven K System and method for a 3d computer game with true vector of gravity
US20130249792A1 (en) * 2010-12-03 2013-09-26 App.Lab Inc. System and method for presenting images
US8570320B2 (en) * 2011-01-31 2013-10-29 Microsoft Corporation Using a three-dimensional environment model in gameplay

Patent Citations (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005173042A (ja) * 2003-12-09 2005-06-30 Canon Inc 携帯型情報装置及びその広告表示方法

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
CSNG200501558001; 一刈 良介,外3名: '複合現実型アトラクションのための自然落下物表現法' 日本バーチャルリアリティ学会論文誌 第10巻,第3号, 20050930, pp.273-280, 特定非営利活動法人日本バーチャルリアリティ学会 Th *
JPN6013054821; 一刈 良介,外3名: '複合現実型アトラクションのための自然落下物表現法' 日本バーチャルリアリティ学会論文誌 第10巻,第3号, 20050930, pp.273-280, 特定非営利活動法人日本バーチャルリアリティ学会 Th *

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2016507793A (ja) * 2012-11-02 2016-03-10 クアルコム,インコーポレイテッド 基準座標系の決定
US10309762B2 (en) 2012-11-02 2019-06-04 Qualcomm Incorporated Reference coordinate system determination
JP2016110546A (ja) * 2014-12-10 2016-06-20 株式会社Nttドコモ 表示装置及び表示方法
JP2024156710A (ja) * 2018-09-29 2024-11-06 アップル インコーポレイテッド 奥行きベースの注釈のためのデバイス、方法、およびグラフィカルユーザインターフェース
JP7774679B2 (ja) 2018-09-29 2025-11-21 アップル インコーポレイテッド 奥行きベースの注釈のためのデバイス、方法、およびグラフィカルユーザインターフェース
WO2024090303A1 (ja) 2022-10-24 2024-05-02 ソニーグループ株式会社 情報処理装置及び情報処理方法
KR20250095637A (ko) 2022-10-24 2025-06-26 소니그룹주식회사 정보 처리 장치 및 정보 처리 방법

Also Published As

Publication number Publication date
US8854393B2 (en) 2014-10-07
TW201142746A (en) 2011-12-01
US20110227945A1 (en) 2011-09-22
CN102194050A (zh) 2011-09-21
KR20110104886A (ko) 2011-09-23

Similar Documents

Publication Publication Date Title
JP5573238B2 (ja) 情報処理装置、情報処理法方法およびプログラム
JP2011197777A (ja) 情報処理装置、情報処理方法およびプログラム
US11188187B2 (en) Information processing apparatus, information processing method, and recording medium
JP6121647B2 (ja) 情報処理装置、情報処理方法およびプログラム
EP2840475A1 (en) Information processing device, information processing method, and program
US20120195461A1 (en) Correlating areas on the physical object to areas on the phone screen
WO2011070871A1 (ja) 情報処理装置、情報処理方法およびプログラム
US10964045B2 (en) Information processing device, information processing method, and individual imaging device for measurement of a size of a subject
JP4912377B2 (ja) 表示装置、表示方法、ならびに、プログラム
JP2013054470A (ja) 情報処理装置、情報処理方法、及びプログラム
JP6065084B2 (ja) 情報処理装置、情報処理方法およびプログラム
US11023347B2 (en) Screen control method and electronic device supporting the same
JP5446700B2 (ja) 情報処理装置、情報処理方法およびプログラム
US10133966B2 (en) Information processing apparatus, information processing method, and information processing system
JP2018116592A (ja) 情報処理装置、情報処理方法およびプログラム
US20120327118A1 (en) Display control apparatus, display control method and program
CN102194050B (zh) 信息处理设备和信息处理方法
JP4979895B2 (ja) ディスプレイ制御装置、ディスプレイ制御方法、ディスプレイ制御プログラム、およびディスプレイ
JP2011227510A (ja) ディスプレイ制御装置、ディスプレイ制御方法、ディスプレイ制御プログラム、およびディスプレイ

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20130305

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131025

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131105

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20131205

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20131227

A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20140527