JP5511084B2 - 通信装置、通信システム、通信方法、及び通信プログラム - Google Patents

通信装置、通信システム、通信方法、及び通信プログラム Download PDF

Info

Publication number
JP5511084B2
JP5511084B2 JP2011025334A JP2011025334A JP5511084B2 JP 5511084 B2 JP5511084 B2 JP 5511084B2 JP 2011025334 A JP2011025334 A JP 2011025334A JP 2011025334 A JP2011025334 A JP 2011025334A JP 5511084 B2 JP5511084 B2 JP 5511084B2
Authority
JP
Japan
Prior art keywords
information
annotation
unit
display
physical object
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2011025334A
Other languages
English (en)
Other versions
JP2012165276A (ja
Inventor
潤 安齋
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Panasonic Corp
Panasonic Holdings Corp
Original Assignee
Panasonic Corp
Matsushita Electric Industrial Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Panasonic Corp, Matsushita Electric Industrial Co Ltd filed Critical Panasonic Corp
Priority to JP2011025334A priority Critical patent/JP5511084B2/ja
Priority to US13/814,705 priority patent/US20130135348A1/en
Priority to PCT/JP2012/000801 priority patent/WO2012108180A1/ja
Publication of JP2012165276A publication Critical patent/JP2012165276A/ja
Application granted granted Critical
Publication of JP5511084B2 publication Critical patent/JP5511084B2/ja
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T19/00Manipulating three-dimensional [3D] models or images for computer graphics
    • G06T19/006Mixed reality

Landscapes

  • Engineering & Computer Science (AREA)
  • Computer Graphics (AREA)
  • Computer Hardware Design (AREA)
  • General Engineering & Computer Science (AREA)
  • Software Systems (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Information Transfer Between Computers (AREA)
  • Processing Or Creating Images (AREA)
  • Telephone Function (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、通信装置、通信システム、通信方法、及び通信プログラムに関する。特に、現実環境の対象物(物理オブジェクト)に関する情報(アノテーション)をユーザに提供する拡張現実感(AR:Augmented Reality)システムで用いられる技術に関する。
近年、現実環境にコンピュータを用いて情報を付加提示する技術、及び情報を付加提示された環境そのものを示す言葉として、「拡張現実感(拡張現実ともいう)」が知られつつある。拡張現実感技術(AR技術)では、現実環境における特定の物体に関する説明や関連情報を含む電子情報(アノテーション)が、説明対象となる実物体(物理オブジェクト)に対応付けて提示される。
拡張現実感に関する技術として、以下のような技術が知られている。例えば、撮影映像の部分映像から抽出された視覚的特徴情報と、記憶装置により記憶されている物理オブジェクトの視覚的特徴情報と、の類似度を算出し、算出された類似度により、物理オブジェクトが撮影映像に存在するか否かを判定する。そして、物理オブジェクトが撮影映像に存在しない場合には、アノテーションを表示しないようにする装置が知られている(例えば、特許文献1参照)
また、実世界映像に映し出される物理オブジェクトと実世界映像の視点との距離し、取得された距離に応じて、アノテーションの表示を変更する装置が知られている(例えば、特許文献2参照)。
また、従来、インターネット等の通信網を介したデジタルコンテンツの販売及び配信が盛んに行われている。このようなデジタルコンテンツの配信技術の一例として、属性情報、位置情報、時間情報などを利用して潜在的な消費者を識別し、その消費者が要求する前にコンテンツ・アイテムを配信するシステムが知られている(特許文献3参照)。このシステムにより、消費者はコンテンツ・アイテムを即時に利用することができる。
特許第4488233号公報 国際公開第2010/073616号パンフレット 特表2009−527807号公報
拡張現実感システムが今後一層普及してくると、携帯電話等の通信装置を利用したEメールシステムにおいても拡張現実感システムを取り入れたサービスが行われると予想される。例えば、携帯電話のカメラで撮影された画像に含まれる物理オブジェクトに関して、Eメールを介して何らかのコンテンツを提供することが予想される。
特許文献3によれば、消費者が要求する前に、消費者の嗜好に合せたコンテンツを配信することは可能である。この技術を特許文献1及び2に示された拡張現実感システムに適用すれば、コンテンツとしてのアノテーションを提供する側(送信側)は、特定の物理オブジェクトに関するアノテーションを提供することが可能になり、アノテーションの提供を受けた側(受信側)は、そのアノテーションを表示して確認することが可能になると考えられる。
しかしながら、受信側では、様々なシチュエーションを考慮してアノテーションを表示するようにしなければ、そのアノテーションが、視覚的に邪魔になる可能性があったり、実世界とはかけ離れた違和感のあるものとなってしまったりする可能性がある。
本発明は、上記事情に鑑みてなされたものであって、様々なシチュエーションを考慮したアノテーションの提供又は表示を行うことが可能な通信装置、通信システム、通信方法、及び通信プログラムを提供することを目的とする。
本発明の通信装置は、物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報を生成するアノテーション生成部と、前記アノテーションを表示するための条件を示す表示条件情報、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、及び、誘導情報を提示するための条件を示す誘導情報提示条件情報、を生成する情報生成部と、前記アノテーション生成部により生成された前記アノテーション生成情報、前記情報生成部により生成された前記表示条件情報、前記表示対象情報、及び、前記誘導情報提示条件情報、を送信する送信部と、を備え、前記誘導情報は、前記アノテーションを表示させるために、前記アノテーションの確認者を、前記物理オブジェクトが撮影される画像に含まれるように誘導する情報である
この構成により、表示条件や表示対象の情報を送信することで、様々なシチュエーションを考慮したアノテーションの提供を行うことが可能であるとともに、所望のタイミングで、アノテーションを確実に確認することができる状態になるように、アノテーションの確認者を誘導することができる
また、本発明の通信装置は、前記情報生成部が、前記誘導情報を提示する方法を示す誘導情報提示方法情報を生成し、前記送信部が、前記情報生成部により生成された前記誘導情報提示方法情報を送信する。
この構成により、所望の方法で、アノテーションを確実に確認することができる状態になるように、アノテーションの確認者を誘導することができる。
また、本発明の通信装置は、前記物理オブジェクトの画像に対応する参照画像を記憶する参照画像記憶部を備え、前記アノテーション生成部は、前記参照画像記憶部に記憶された参照画像を用いて、前記アノテーション生成情報を生成する。
この構成により、参照画像を用いて視覚的に容易にアノテーション生成情報を生成することができる。
また、本発明の通信装置は、物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報、前記アノテーションを表示するための条件を示す表示条件情報、及び、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、を受信する受信部と、状態を検出する状態検出部と、画像を取得する画像取得部と、前記画像取得部により取得された画像に含まれる物理オブジェクトを識別するための物理オブジェクト識別情報を認識するオブジェクト認識部と、前記状態検出部により検出された状態の情報と前記受信部により受信された表示条件情報とが略一致するか否かを判定する表示条件判定部と、前記オブジェクト認識部により認識された物理オブジェクト識別情報と前記受信部により受信された表示対象情報とが略一致するか否かを判定する表示対象判定部と、前記表示条件判定部により略一致すると判定され、かつ、前記表示対象判定部により略一致すると判定された場合、前記受信部により受信された前記アノテーション生成情報に基づいて、アノテーションを再現するアノテーション再現部と、を備える。
この構成により、表示条件や表示対象の情報を取得することで、様々なシチュエーションを考慮したアノテーションの表示を行うことが可能である。
また、本発明の通信装置は、誘導情報提示条件判定部と、誘導情報提示部と、を備え、前記受信部が、誘導情報を提示するための条件を示す誘導情報提示条件情報を受信し、前記誘導情報提示条件判定部が、前記状態検出部により検出された状態の情報と前記受信部により受信された誘導情報提示条件情報とが略一致するか否かを判定し、前記誘導情報提示部が、前記誘導情報提示条件判定部により略一致すると判定された場合、前記誘導情報を提示し、前記誘導情報が、前記アノテーションを表示させるために、前記アノテーションの確認者を、前記物理オブジェクトが撮影される画像に含まれるように誘導する情報である
この構成により、所望のタイミングで、アノテーションを確実に確認することができる状態になるように、アノテーションの確認者を誘導することができる。
また、本発明の通信装置は、前記受信部が、前記誘導情報を提示する方法を示す誘導情報提示方法情報を受信し、前記誘導情報提示部が、前記受信部により受信された前記誘導情報提示方法情報に従って、前記誘導情報を提示する。
この構成により、所望の方法で、アノテーションを確実に確認することができる状態になるように、アノテーションの確認者を誘導することができる。
また、本発明の通信システムは、第1の通信装置と第2の通信装置との間で通信を行う通信システムであって、前記第1の通信装置は、物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報を生成するアノテーション生成部と、前記アノテーションを表示するための条件を示す表示条件情報、及び、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、を生成する情報生成部と、前記アノテーション生成部により生成された前記アノテーション生成情報、前記情報生成部により生成された前記表示条件情報、及び前記表示対象情報、を送信する送信部と、を備え、前記第2の通信装置は、前記アノテーション生成情報、前記表示条件情報、及び、前記表示対象情報、を受信する受信部と、状態を検出する状態検出部と、画像を取得する画像取得部と、前記画像取得部により取得された画像に含まれる物理オブジェクトを識別するための物理オブジェクト識別情報を認識するオブジェクト認識部と、前記状態検出部により検出された状態の情報と前記受信部により受信された表示条件情報とが略一致するか否かを判定する表示条件判定部と、前記オブジェクト認識部により認識された物理オブジェクト識別情報と前記受信部により受信された表示対象情報とが略一致するか否かを判定する表示対象判定部と、前記表示条件判定部により略一致すると判定され、かつ、前記表示対象判定部により略一致すると判定された場合、前記受信部により受信された前記アノテーション生成情報に基づいて、アノテーションを再現するアノテーション再現部と、を備える。
この構成により、表示条件や表示対象の情報を用いて、様々なシチュエーションを考慮したアノテーションの提供及び表示を行うことが可能である。
また、本発明の第1の通信方法は、物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報を生成するステップと、前記アノテーションを表示するための条件を示す表示条件情報、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、及び、誘導情報を提示するための条件を示す誘導情報提示条件情報を、生成するステップと、前記アノテーション生成情報、前記表示条件情報、前記表示対象情報、及び、前記誘導情報提示条件情報を送信するステップと、を有し、前記誘導情報は、前記アノテーションを表示させるために、前記アノテーションの確認者を、前記物理オブジェクトが撮影される画像に含まれるように誘導する情報である
この方法により、表示条件や表示対象の情報を送信することで、様々なシチュエーションを考慮したアノテーションの提供を行うことが可能であるとともに、所望のタイミングで、アノテーションを確実に確認することができる状態になるように、アノテーションの確認者を誘導することができる
また、本発明の第2の通信方法は、物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報、前記アノテーションを表示するための条件を示す表示条件情報、及び、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、を受信するステップと、状態を検出するステップと、画像を取得するステップと、前記取得された画像に含まれる物理オブジェクトを識別するための物理オブジェクト識別情報を認識するステップと、前記検出された状態の情報と前記受信された表示条件情報とが略一致するか否かを判定するステップと、前記認識された物理オブジェクト識別情報と前記受信された表示対象情報とが略一致するか否かを判定するステップと、前記状態の情報と前記表示条件情報とが略一致すると判定され、かつ、前記物理オブジェクト識別情報と前記表示対象情報とが略一致すると判定された場合、前記アノテーション生成情報に基づいてアノテーションを再現するステップと、を有する。
この方法により、表示条件や表示対象の情報を取得することで、様々なシチュエーションを考慮したアノテーションの表示を行うことが可能である。
また、本発明の通信プログラムは、上記第1の通信方法の各ステップをコンピュータに実行させるためのプログラムである。
このプログラムにより、表示条件や表示対象の情報を送信することで、様々なシチュエーションを考慮したアノテーションの提供を行うことが可能であるとともに、所望のタイミングで、アノテーションを確実に確認することができる状態になるように、アノテーションの確認者を誘導することができる
また、本発明の通信プログラムは、上記第2の通信方法の各ステップをコンピュータに実行させるためのプログラムである。
このプログラムにより、表示条件や表示対象の情報を取得することで、様々なシチュエーションを考慮したアノテーションの表示を行うことが可能である。
本発明によれば、様々なシチュエーションを考慮したコンテンツの提供又は表示を行うことが可能である。
本発明の実施形態における本実施形態における拡張現実感システムの概要を説明するためのイメージ図 本発明の実施形態の拡張現実感システムにおける送信装置の構成例を示すブロック図 本発明の実施形態の拡張現実感システムにおける受信装置の構成例を示すブロック図 本発明の実施形態における送信装置の動作例を説明するための図 本発明の実施形態における送信装置の動作例を説明するための図(図4の続き) 本発明の実施形態における受信装置の動作例を示すフローチャート
以下、本発明の実施形態について、図面を参照して詳細に説明する。
本実施形態での物理オブジェクトとしては、地物、移動体、場所等を想定する。地物とは、建物や記念碑など特定の位置に固定された建造物等である。移動体とは、人や車などの移動可能な物体である。場所とは、緯度経度により一意に特定され、所定の地点、公園、街路など、特定の名称により一意にされる地区である。また、アノテーション(コンテンツ)としては、文字情報等のテキスト情報、2D/3Dグラフィックなどの画像情報、等を想定する。画像には、静止画だけでなく、動画も含まれる。
図1は、本実施形態における拡張現実感システムの概要を説明するためのイメージ図である。本実施形態の拡張現実感システムでは、1又は複数の送信装置と1又は複数の受信装置との間で、AR技術を採用したメール(ARメール)の通信を行う。図1では、ユーザAが所有する送信装置Aが、所定の物理オブジェクトに対応するアノテーションに関する情報を生成する。そして、ユーザBが所有する受信装置Bが、受信装置Bのカメラ機能により撮影された画像内の所定の位置に、受信されたアノテーションを表示することを想定している。
まず、送信装置Aが、ARメールに関する情報を生成して、その情報を送信する。ARメールを生成する際には、ARメールの送信先、ARメールの内容、表示対象、表示条件、デコレーションの内容、お知らせ方法、等の情報を生成する。
ここで、送信先の情報とは、ユーザBが所有する受信装置Bを識別するための識別情報(Eメールアドレス等)である。ARメールの内容の情報とは、受信装置Bによりアノテーションを生成するための情報や、一般的なEメールの本文に相当する内容の情報である。表示対象の情報とは、ARメールに含まれるアノテーションに対応する物理オブジェクトの全体又は一部を識別するための物理オブジェクト識別情報である。表示条件の情報とは、アノテーションを表示する条件を示すタイミング情報である。デコレーションの内容の情報とは、受信装置Bにより表示されるアノテーションを装飾するための装飾情報である。お知らせ方法の情報とは、受信装置Bによりアノテーションを確認する受信者を誘導するための誘導情報を提示する方法を示す情報である。
受信装置Bは、送信装置Aからの各情報を受信すると、それらの情報に基づいて、送信装置Aにより生成されたARメールの内容に対応する物理オブジェクト(全体又は一部)を探索する。そして、受信装置Bは、その物理オブジェクトを特定すると、その物理オブジェクトが受信装置Bにより撮影される画像に含まれるように、ユーザBを誘導する。例えば、「後ろを振り向いてください」のようなメッセージを受信装置Bの表示画面上に表示させたり、音声メッセージとして音声出力したり、バイブレータにより提示したりすることで、ユーザBを誘導する。そして、受信装置Bは、その物理オブジェクトに対して、ARメールに含まれるアノテーションを例えばオーバーレイ表示(重畳表示)する。
次に、本発明の拡張現実感システムの構成について説明する。
本実施形態における拡張現実感システムでは、複数の通信装置がインターネット網や携帯電話網等の通信網を介して接続されている。通信装置には、ARメールを送信する送信装置、ARメールを受信する受信装置が含まれる。通信装置としては、例えば、携帯電話、携帯情報端末、ノートパソコン等のモバイル機器、デジタルカメラ、デジタルビデオカメラ、車載用カメラ等の撮影装置、が考えられる。
まず、送信装置の構成について説明する。
図2は、本発明の実施形態における送信装置100の構成例を示すブロック図である。
送信装置100は、記憶部101、表示条件設定部102、表示対象設定部103、参照画像選択部104、誘導情報提示方法設定部105、誘導情報提示条件設定部106、コンテンツ生成部107、コンテンツ表示情報設定部108、通信部109、操作部110、を有して構成される。
記憶部101は、各種情報を記憶する。例えば、アノテーションとしてのコンテンツの表示位置を指定するための参照画像(テンプレート画像)を記憶する。参照画像は、例えば実世界の物理オブジェクトを模擬的に表した画像であり、実際の物理オブジェクトに対応する画像である。参照画像としては、物理オブジェクトとしての建物、場所、移動体、に関する画像等がある。また、記憶部101は、送信装置100が備える不図示のカメラにより撮影された画像を参照画像として記憶しておいてもよいし、所定のサーバから通信部109によりダウンロード等することで参照画像を取得し、記憶しておいてもよい。
また、記憶部101は、例えば、コンテンツを装飾するための装飾情報としてのデコレーションアイテムの情報を記憶する。デコレーションアイテムとしては、「☆」、「#」、「$」、等の画像、イルミネーション、クリスマス、誕生日等に関する画像、効果音やBGMとしての音情報、等を記憶する。
表示条件設定部102は、操作部110を介して、受信装置200によりコンテンツを表示するための条件を設定する。設定された条件の情報は、表示条件情報としてコンテンツ表示情報設定部108に送られる。また、表示条件情報を設定しないこともできる。
ここで、表示条件情報には、表示時間情報、受信者姿勢情報、移動速度情報、等が含まれる。表示時間情報とは、コンテンツの表示を行うべき日時等を示す時間情報であり、○月○日○○時、等の情報である。受信者姿勢情報とは、コンテンツの表示を行うべき受信者の姿勢を示す情報であり、見ている、下を見ている、前を見ている、座っている、寝ている、等の情報である。移動速度情報とは、コンテンツの表示を行うべき受信装置200の移動速度を示す情報であり、○○km/h、停止中、特定の乗り物(電車、車等)に乗っている、等の情報である。
また、上記の情報以外であっても、表示条件情報として、コンテンツの表示を行うべき位置の情報(緯度、経度、高度、等の情報)、方角の情報、向きの情報(受信装置200の向きを示す情報)、場所の情報(駅、繁華街、家、静かな場所、等の情報)、等が考えられる。
表示対象設定部103は、操作部110を介して、コンテンツを対応付けて表示すべき表示対象を識別するための表示対象情報を設定する。表示対象情報は、コンテンツが表示される表示対象となる物理オブジェクトを識別するための物理オブジェクト識別情報である。表示対象情報は、コンテンツ表示情報設定部108に送られる。
表示対象情報には、例えば、物理オブジェクトの種別を示す種別情報、物理オブジェクトの大きさを示すサイズ情報、物理オブジェクトの色を示す色情報、物理オブジェクトの複雑さを示す複雑さ情報、等が含まれる。
種別情報としては、ビル、広場、空、等が考えられる。サイズ情報としては、物理オブジェクトの面積等の情報が考えられる。色情報としては、白色、ガラス等の透明色、等が考えられる。複雑さ情報としては、例えば、物理オブジェクトとしての建物の窓が平らであり単純である、建物の壁が凸凹を有しており複雑である、等の情報が考えられる。
参照画像選択部104は、記憶部101に記憶されたテンプレート画像を参照し、操作部110を介して、複数のテンプレート画像から所望のテンプレート画像を選択する。
誘導情報提示方法設定部105は、操作部110を介して、受信装置200の表示部213や不図示のスピーカを介して、物理オブジェクトに対応するコンテンツを確認できるように、コンテンツを確認する受信者(確認者)を誘導するための誘導情報を提示するための誘導情報提示方法情報を生成する。誘導情報提示方法情報は、コンテンツ表示情報設定部108に送られる。
誘導情報提示方法情報は、「振り向いて下さい」、「見上げて下さい」、のような誘導情報を、音声、文字、画像等により提示するための情報、受信装置200の表示部213にアイコンや矢印等を表示するための情報、バイブレーションにより提示するための情報、等である。
誘導情報提示条件設定部106は、操作部110を介して、誘導情報を提示するための条件を設定する。設定された条件の情報は、誘導情報提示条件情報としてコンテンツ表示情報設定部108に送られる。
ここで、誘導情報提示条件情報には、受信装置200の状態を示す受信装置状態情報、受信装置200を所有する受信者の状態を示す受信者状態情報、コンテンツの表示条件を満たしたときに直ぐに誘導情報を提示することを示す即時提示情報、等が含まれる。
受信装置状態情報としては、受信装置200がARアプリケーションを起動中であるか否かを示す情報、受信装置200の表示部213(LCD(Liquid Crystal Display)等)の電源がOFFであるか否かを示す情報、受信装置200の通信部201によりメール通信中であるか否かを示す情報、等がある。
受信者状態情報としては、受信者が歩行中であるか否かを示す情報、受信者が停止中であるか否かを示す情報、受信者が表示すべきコンテンツに対応する物理オブジェクトとは逆方向を向いているか否かを示す情報、等がある。
コンテンツ生成部107は、操作部110を介して、コンテンツを生成するためのコンテンツ生成情報を生成する。このとき、テンプレート画像を用いて、アノテーション生成情報を生成することができる。
例えば、コンテンツ生成部107は、参照画像選択部104により選択されたテンプレート画像を利用して、コンテンツを表示すべき表示位置を指定する。この表示位置に係る位置情報は、例えば、テンプレート画像における座標位置として指定される。この表示位置の指定に対応して、受信装置200のカメラ部205により撮影された画像において、コンテンツを表示させる表示位置が指定される。
また、コンテンツ生成部107は、操作部110を介して、コンテンツに含まれる文字情報(テキスト情報)、画像情報、等を生成する。例えば、図1に示した例では、「To Be Happy」の文字列、文字列の背後の画像「☆」(星印)を生成する。また、図1に示した例では、コンテンツが表示される領域を強調するための画像(赤枠での縁取り、二重外枠線、等)を生成する。また、コンテンツ生成部107は、コンテンツにおけるこの文字列が表示される位置、文字色、文字の向き(斜体等)、文字のサイズ、文字のフォント、等の情報も、文字自体と合わせて生成する。
また、コンテンツ生成部107は、記憶部101に記憶されたデコレーションアイテムを参照し、操作部110を介して、複数のデコレーションアイテムから所望のデコレーションアイテムを選択する。
また、コンテンツ生成部107は、参照画像選択部104により選択されたテンプレート画像上で、選択されたデコレーションアイテムを表示すべき表示位置を指定する。この表示位置の指定に対応して、受信装置200のカメラ部205により撮影された画像において、デコレーションアイテムを表示させる表示位置が指定される。
コンテンツ生成部107は、このようなコンテンツを生成するためのコンテンツ生成情報(コンテンツ生成部107により生成、指定、選択等された情報)を、ARメールの本文、ヘッダ、又は添付ファイルの少なくとも一部として設定する。また、生成されたコンテンツ自体を、ARメールに設定してもよい。
コンテンツ表示情報設定部108は、受信装置200によりコンテンツを表示するためコンテンツ表示情報を、ARメールの本文、ヘッダ、又は添付ファイルの少なくとも一部として設定する。コンテンツ表示情報には、表示条件設定部102からの表示条件情報、表示対象設定部103からの表示対象情報、誘導情報提示方法設定部105からの誘導情報提示方法情報、誘導情報提示条件設定部106からの誘導情報提示条件情報、等が含まれる。
通信部109は、コンテンツ生成部107により生成されたコンテンツ生成情報と、コンテンツ表示情報設定部108により設定されたコンテンツ表示情報と、を含むARメールを、所定の通信網を介して受信装置200へ送信する。
操作部110は、ユーザからの操作入力を受け付けるものであり、例えば、テンキー、十字キー、タッチパネル等である。
次に、受信装置の構成について説明する。
図3は、本発明の実施形態における受信装置200の構成例を示すブロック図である。
受信装置200は、通信部201、記憶部202、情報解析部203、状態検出部204、カメラ部205、オブジェクト認識部206、表示条件判定部207、表示対象探索部208、誘導情報提示条件判定部209、誘導情報提示部210、コンテンツ再現部211、合成部212、表示部213、を有して構成される。
通信部201は、所定の通信網を介して、送信装置100からのARメールを受信する。ARメールには、コンテンツ生成情報及びコンテンツ表示情報が含まれる。
記憶部202は、各種情報を記憶する。例えば、通信部201により受信されたコンテンツ生成情報と、コンテンツ表示情報と、を対応付けて記憶する。
情報解析部203は、記憶部202により記憶されたコンテンツ表示情報に含まれる、表示条件情報、表示対象情報、誘導情報提示方法情報、誘導情報提示条件情報、等を抽出し、解析する。
状態検出部204は、各種状態を検出する。例えば、GPS機能を有することで、受信装置200の位置情報(緯度、経度、高度、等の情報)を検出する。また、地磁気センサを有することで、受信装置200の向きの情報(東西南北の方位等の情報)を検出する。また、加速度センサや速度センサを有することで、受信装置200の移動速度の情報を検出する。また、タイマを有することで、時刻情報を検出する。また、状態検出部204が受信装置200内の他の構成部の情報を取得することで、表示部213等の電源がOFF状態であることを検出する。
カメラ部205は、2D又は3Dの静止画像又は動画像を撮影する撮影装置であり、例えばCCDイメージセンサ、CMOSイメージセンサである。
オブジェクト認識部206は、カメラ部205により撮影された画像の特徴を抽出する特徴抽出処理を行う。この特徴抽出処理には、特徴点抽出やエッジ抽出等の公知の特徴抽出方法を用いる。そして、オブジェクト認識部206は、抽出された特徴から、物理オブジェクトを認識する認識処理を行う。この認識処理には、パターンマッチング等の公知の画像認識方法を用いる。この認識処理により、物理オブジェクトを識別するための物理オブジェクト識別情報を認識し、これにより表示対象としての物理オブジェクトを認識する。
認識処理により認識される物理オブジェクト識別情報には、種別情報、サイズ情報、色情報、複雑さ情報、等がある。種別情報としては、ドア、ビル、地面、空、等が考えられる。サイズ情報としては、物理オブジェクトの面積等が大きい、中程度、小さい、等の情報が考えられる。色情報としては、白色、ガラス等の透明色、等が考えられる。複雑さ情報としては、例えば、物理オブジェクトが全体的に平面で構成されている、物理オブジェクトに凹凸が多くガタガタしている、等の情報である。つまり、送信装置100により設定される表示対象情報に対応している。
表示条件判定部207は、記憶部202に記憶されたコンテンツを表示する条件を満たしているか否かを判定する。例えば、表示条件判定部207は、情報解析部203により解析された表示条件情報と、状態検出部204により検出された状態の情報のうち表示条件情報に対応する情報(表示時間情報、受信者姿勢情報、移動速度情報、等の情報)と、が略一致した場合には、コンテンツを表示する条件を満たしていると判定する。
表示対象探索部208は、カメラ部205により撮影された画像から、コンテンツに対応する表示対象となる物理オブジェクトを探索する。例えば、情報解析部203により解析された表示対象情報と、オブジェクト認識部206により認識された物理オブジェクト識別情報と、が略一致する場合には、その物理オブジェクト識別情報により識別される物理オブジェクトを、表示対象となる物理オブジェクトとして特定する。
誘導情報提示条件判定部209は、コンテンツを確認する受信者を誘導するための誘導情報を提示する条件を満たすか否かを判定する。例えば、情報解析部203により解析された誘導情報提示条件情報と、状態検出部204により検出された状態の情報のうち誘導情報提示条件情報に対応する情報(受信装置状態情報、受信者状態情報、等の情報)とが、略一致した場合には、誘導情報を提示する条件を満たしていると判定する。
誘導情報提示部210は、表示部213、不図示のスピーカ、不図示のバイブレーション、等を介して、情報解析部203により解析された誘導情報提示方法情報に従って、誘導情報を提示する。
コンテンツ再現部211は、記憶部202により記憶されたコンテンツ生成情報に基づいて、コンテンツを再現する。このとき、コンテンツ生成情報に基づいて、コンテンツに含まれる文字列や画像を生成し、さらにデコレーションアイテムを再現する。
例えば、コンテンツ再現部211は、コンテンツの表示位置を、送信装置100により指定されたその(表示位置の)情報に従って認識する。また、コンテンツの内容を、文字情報や画像情報に従って認識する。また、文字列が表示される位置、文字色、文字の向き(斜体等)、文字のサイズ、文字のフォント、等を、送信装置100により生成されたそれらの情報に従って認識する。また、デコレーションアイテムの情報を、送信装置100により選択されたその(デコレーションアイテムの)情報に従って認識する。なお、デコレーションアイテムについては、記憶部202にあらかじめ記憶しておいてもよいし、送信装置100から通信部201を介してデコレーションアイテム自体を取得してもよい。
合成部212は、カメラ部205により撮影された画像に、コンテンツ再現部211により再現されたコンテンツを合成する。これにより、画像に含まれる物理オブジェクトに対して、送信装置100が意図した形態でコンテンツが対応付けられる。
表示部213は、液晶ディスプレイ(LCD:Liquid Crystal Display)やヘッドマウントディスプレイ(HMD:Head Mounted Display)であり、合成部212により対応付けて合成された物理オブジェクトとコンテンツとを表示する。表示部213による表示では、例えば物理オブジェクトにコンテンツがオーバーレイ表示(重畳表示)される。また、表示部213は、他にプロジェクタを用いて物理オブジェクトにコンテンツを投影して表示するようにしてもよい。
次に、送信装置100の動作について説明する。
図4及び図5は、送信装置100の動作例を説明するための図である。
まず、表示条件設定部102は、操作部110への操作入力を介して、表示条件情報を設定する。ここでは、表示条件情報として、表示位置の情報(ステップS101)、表示向きの情報(ステップS102)、表示タイミングの情報(ステップS103)、表示条件達成の情報(ステップS104)を、順に設定する。
表示位置の情報は、操作部110を介して所定の地図上で座標を指定すること、操作部110を介して地名等を入力し場所を指定すること、等により設定される。受信装置200は、GPS等により取得される情報により表示位置を認識することが可能である。なお、表示位置の情報が未設定であってもよい。
表示向きの情報は、操作部110を介してコンテンツを表示すべき受信装置200の向き(方角)を指定すること、操作部110を介して受信者を基準とした受信装置200の向き(受信者基準角度)を指定すること、等により設定される。受信装置200は、地磁気センサ等により取得される情報により表示向きを認識することが可能である。なお、表示向きの情報が未設定であってもよい。
表示タイミングの情報は、操作部110を介して日時等の時間を指定すること、操作部110を介して受信者の姿勢(受信装置200の傾き)を指定すること、操作部110を介して受信装置200の移動速度を指定すること、等により設定される。受信装置200は、タイマ等により取得される情報により時間を認識することが可能である。また、ジャイロセンサ等により取得される情報により受信装置200の傾きを認識することが可能である。また、速度センサ等により取得される情報により受信装置200の移動速度を認識することが可能である。表示タイミングの情報が未設定であってもよい。
表示条件達成の情報は、操作部110を介して表示条件の達成レベルを指定すること、操作部110を介して表示条件未達成時の挙動を指定すること、等により設定される。ここで、表示条件の達成レベルの情報とは、複数の表示条件のうち必須の表示条件は満たしているか、必須ではない表示条件はいくつ満たしているか、表示条件と比較した場合の誤差がどの程度まで許容されるか、などの情報である。なお、この許容誤差の情報を、あらかじめ表示条件設定部102が設定し、通信部109により受信装置200へ送信しておいてもよい。また、表示条件未達成時の挙動の情報とは、表示条件の達成レベルを緩和する、未達成であってもタイムアウト時にはコンテンツを表示させる、などの情報である。受信装置200は、各状態検出センサにより取得される情報に基づいて、表示条件の達成レベルを認識することが可能である。なお、表示条件達成の情報が未設定であってもよい。
続いて、表示対象設定部103は、操作部110への操作入力を介して、表示対象情報を設定する。ここでは、表示対象情報として、表示対象種別の情報(ステップS105)、表示対象発見の情報(ステップS106)を、順に設定する。
表示対象種別の情報は、操作部110を介して種別情報を指定すること、操作部110を介してサイズ情報を指定すること、操作部110を介して色情報を指定すること、操作部110を介して複雑さ情報を指定すること、等により設定される。受信装置200は、オブジェクト認識部206によりこれらの情報を認識することが可能である。
表示対象発見の情報は、操作部110を介して表示対象の発見レベルを指定すること、操作部110を介して表示対象未発見時の挙動を指定すること、等により設定される。ここで、表示対象の発見レベルの情報とは、表示対象種別の情報のうち必須の情報は満たしているか、必須ではない情報はいくつ満たしているか、表示対象種別の情報と比較した場合の誤差がどの程度まで許容されるか、などの情報である。なお、この許容誤差の情報を、あらかじめ表示対象設定部103が設定し、通信部109により受信装置200へ送信しておいてもよい。また、表示対象未発見時の挙動の情報とは、表示対象の発見レベルを緩和する、未達成であってもタイムアウト時にはコンテンツを表示させる、未発見時でもコンテンツを表示させる、未発見時にはコンテンツを表示させない、表示対象種別の情報が類似する表示対象であってもコンテンツを表示する、などの情報である。受信装置200は、各状態検出センサにより取得される情報に基づいて、表示対象の発見レベルを認識することが可能である。なお、表示対象発見の情報が未設定であってもよい。
続いて、参照画像選択部104は、記憶部101に記憶されたテンプレート画像のうち、ステップS105において設定された表示対象種別の情報と略一致するテンプレート画像を抽出する。そして、参照画像選択部104は、操作部110への操作入力を介して、抽出されたテンプレート画像から、所望のテンプレート画像を選択する(ステップS107)。図5に示す例では、記憶部101にテンプレート画像としてのテンプレート候補A〜Cが記憶されている。ここでは、テンプレート候補Bに類似する物理オブジェクトに対応するコンテンツを提供すべく、参照画像選択部104によりテンプレート候補Bを選択する。
また、参照画像選択部104は、ステップS101において設定された表示位置の情報に基づいて、その表示位置に存在すると想定される物理オブジェクトに近いものを、操作部110を介して選択してもよい。また、参照画像選択部104は、ステップS101において設定された表示位置の情報を有するサーバと連携し、このサーバから通信部109により実際の物理オブジェクトの画像を取得するようにしてもよい。
続いて、コンテンツ生成部107は、操作部110への操作入力を介して、テンプレート画像におけるコンテンツを表示させる表示位置(表示領域)を指定する(ステップS108)。図5に示す例では、建物の1階正面部分をコンテンツの表示位置に指定している。なお、矩形以外の領域で表示領域を指定してもよい。
続いて、コンテンツ生成部107は、操作部110への操作入力を介して、コンテンツの内容を設定する(ステップS109)。図5に示す例では、ステップS108において指定されたコンテンツの表示領域における、背景色に青色、外周部分に赤太線、中央部分に☆印(☆印)、文字としての「To Be Happy」を設定する。さらに、文字のフォント、サイズ、色、等も設定する。これらの情報がコンテンツ生成情報に含めて設定される。
続いて、コンテンツ生成部107は、操作部110への操作入力を介して、デコレーションアイテムを表示させる表示位置(表示領域)を指定する(ステップS110)。図5に示す例では、コンテンツの表示領域としての矩形の4隅をデコレーションアイテムの表示領域に指定している。なお、矩形以外の領域で表示領域を指定してもよい。
続いて、コンテンツ生成部107は、操作部110への操作入力を介して、記憶部101に記憶されたデコレーションアイテムから所望のデコレーションアイテムを選択する(ステップS111)。図5に示す例では、デコレーションアイテムとして星画像「☆」を選択している。
このように、コンテンツ生成部107は、図5のステップS108〜S111の処理により、デコレーションアイテムを含むコンテンツの内容を生成する。
続いて、誘導情報提示方法設定部105は、操作部110への操作入力を介して、誘導情報提示方法情報を設定する(ステップS112)。誘導情報提示方法情報は、操作部110を介して音声により誘導情報を提示するよう指定すること、操作部110を介して表示により誘導情報を提示するよう指定すること、操作部110を介してバイブレーション(振動)により誘導情報を提示するよう指定すること、等により設定される。
続いて、誘導情報提示条件設定部106は、操作部110への操作入力を介して、誘導情報提示条件情報を設定する(ステップS113)。誘導情報提示条件情報は、操作部110を介して受信装置状態情報を指定すること、操作部110を介して受信者状態情報を指定すること、操作部110を介して即時提示情報を指定すること、等により設定される。受信装置200は、各状態検出センサにより取得される情報により受信装置200の状態及び受信者の状態を認識することが可能である。
続いて、通信部109は、コンテンツ生成部107により生成されたコンテンツ生成情報と、コンテンツ表示情報設定部108により設定されたコンテンツ表示情報と、を受信装置200へ送信する。ここでは、コンテンツ生成情報は、ステップS108〜S111により生成されたコンテンツ画像自体であってもよいし、送信装置により生成されたコンテンツを再現するための情報(メタデータ)であってもよい。メタデータには、ステップS108〜S111により指定された各情報が含まれる。
このような送信装置100の動作によれば、様々なシチュエーションを考慮したアノテーションとしてのコンテンツを提供することができる。また、実際の物理オブジェクトに類似する参照画像を利用してコンテンツ生成情報を生成することができるので、実際には送信装置100を所有する送信者が訪れたことのない場所にある物理オブジェクトに対するアノテーションを生成することもできる。
なお、送信装置100は、図4及び図5の各ステップS101〜S113において、図4及び図5に示すような画像を送信装置100の表示画面上に表示させ、操作部110を介してタッチパネルにより入力を行うことで、直感的に操作を行うようにしてもよい。また、送信装置100は、各ステップS101〜S113における指定をウィザード形式やナビゲーション形式で行うようにしてもよい。
次に、受信装置200の動作について説明する。
図6は、受信装置200の動作例を示すフローチャートある。図6では、ウィンドウショッピング中にカメラ部205により画像を撮影し、撮影画像に含まれる店舗の窓(ウィンドウ)にコンテンツを重畳表示することを想定している。
まず、通信部201が送信装置100からのコンテンツ生成情報及びコンテンツ表示情報を含む情報を受信し、記憶部202がそれらの情報を記憶する(ステップS201)。そして、情報解析部203が、記憶部202に記憶された情報のうちコンテンツ表示情報を解析する。
続いて、状態検出部204は、各種状態を検出する(ステップS202)。例えば、時計(タイマ)により時刻を検出し、GPS等により受信装置200の位置を検出し、地磁気センサ等により受信装置200の向きを検出し、速度センサ等により受信装置200の移動速度を検出する。
続いて、表示条件判定部207は、情報解析部203により解析されたコンテンツ表示情報に含まれる表示条件情報と、状態検出部204により検出された状態が略一致するか否かを判定する(ステップS203)。ここで、表示条件情報には、例えば、表示タイミングの情報として「6月7日(金)の18時以降」、表示位置の情報として「緯度35度、経度139度」、表示向きの情報として「東」、移動速度の情報として「1分以上停止中」、のような情報が含まれている。
また、表示条件判定部207は、表示条件達成の情報が設定されている場合には、この情報を加味して、表示条件情報と検出された状態の情報とが略一致するか否かを判定する。例えば、表示条件達成の情報には、必須条件の情報として「日時」、オプション条件の必達個数の情報として「1」、許容誤差の情報として「20%以内」が設定されているとする。この場合、「6月7日(金)の18時以降」と状態検出部204により検出された時刻情報との誤差が20%以内(所定範囲内)であり、その他の条件、例えば「経度35度、経度139度」と状態検出部204により検出された位置情報との誤差が20%以内(所定範囲内)である場合には、表示条件判定部207は、表示条件を満たしていると判定する。
ステップS203において両情報が略一致しない場合には、略一致するまでステップS203を繰り返す。
ステップS203において両情報が略一致した場合には、オブジェクト認識部206が、カメラ部205により撮影された画像から、物理オブジェクト毎に物理オブジェクト識別情報(種別情報、サイズ情報、色情報、複雑さ情報、等)を認識する(ステップS204)。
続いて、表示対象探索部208が、情報解析部203により解析されたコンテンツ表示情報に含まれる表示対象情報と、オブジェクト認識部206により認識された物理オブジェクト情報とが略一致するか否かを判定する(ステップS205)。ここで、表示対象情報には、例えば、種別情報として「2階建てのビル」、サイズ情報として「中程度」、色情報として「ガラス」、複雑さ情報として「全平面」、のような情報が含まれている。
また、表示対象探索部208は、表示対象発見の情報が設定されている場合には、この情報を加味して、表示対象情報と認識された物理オブジェクト識別情報とが略一致するか否かを判定する。例えば、表示対象発見の情報には、必須条件の情報として「色」、オプション条件の必達個数の情報として「1」、許容誤差の情報として「30%以内」が設定されているとする。この場合、「ガラス」とオブジェクト認識部206により認識された色情報との誤差が30%以内(所定範囲内)であり、その他の条件、例えば「中程度」とオブジェクト認識部206により認識されたサイズ情報との誤差が30%以内(所定範囲内)である場合には、表示対象探索部208は、表示対象の物理オブジェクトであると判定する。
ステップS205において両情報が略一致しない場合には、略一致するまでステップS205を繰り返す。
ステップS205において両情報が略一致した場合には、状態検出部204は、各種状態を検出する(ステップS206)。例えば、時計(タイマ)により時刻を検出し、GPS等により位置を検出し、地磁気センサ等により受信装置200の向きを検出し、速度センサ等により受信装置200の移動速度を検出し、不図示のアプリケーション監視部により実行中のアプリケーション(AR中、メール中)を検出し、不図示の電源監視部により表示部213の電源がON状態であるか否かを検出する。
続いて、表示対象探索部208が、情報解析部203により解析されたコンテンツ表示情報に含まれる誘導情報提示条件情報と、状態検出部204により検出された状態とが略一致するか否かを判定する(ステップS207)。ここで、誘導情報提示条件情報には、例えば、受信装置状態情報として「ARアプリケーションの実行中」、受信者状態情報として「停止中」、即時提示情報として「No」、のような情報が含まれている。
ステップS207において両情報が略一致しない場合には、略一致するまでステップS207を繰り返す。
ステップS207において両情報が略一致した場合には、誘導情報提示部210は、情報解析部203により解析されたコンテンツ表示情報に含まれる誘導情報提示方法情報に従って、誘導情報を提示する(ステップS208)。ここで、誘導情報提示方法情報には、例えば、音声により提示するための情報として「少しウィンドウから離れて」、表示により提示するための情報として「ウィンドウに向けて矢印表示」、バイブレーションにより提示するための情報として「バイブON」、のような情報が含まれている。
なお、誘導情報の提示を行うまでもなく、受信者がコンテンツを確認できる状態にある場合には、誘導情報の提示の処理を省略してもよい。つまり、ステップS206〜S208の処理を省略してもよい。
続いて、コンテンツ再現部211は、記憶部202に記憶されたコンテンツ生成情報から、コンテンツ生成情報を抽出する。ここで、コンテンツ生成情報には、例えば、コンテンツ内でのテキストや画像を配置する位置の情報として「中央」、そのテキストや画像の色の情報として「赤」、そのテキストや画像の向きの情報として「傾き20度」、そのテキストのフォントの情報として「20point、ゴシック体」、撮影画像における表示対象の位置の情報として「(321,220)」(座標情報)、コンテンツのエッジの情報(デコレーションアイテムの表示位置の情報及びデコレーションアイテムの内容の情報)として「頂点に星画像」、コンテンツの背景の情報として「青塗り」、のような情報が含まれる。
続いて、コンテンツ再現部211は、抽出されたコンテンツ生成情報に基づいて、コンテンツを再現する(ステップS209)。例えば、コンテンツ生成情報に上記のような情報が含まれる場合には、図5のステップS111で完成したコンテンツが、表示部213により再現される。
続いて、合成部212が、カメラ部205により撮影された画像における送信装置100が指定した位置(コンテンツ生成情報に含まれる表示対象の位置)に、コンテンツ再現部211により再現されたコンテンツを重畳して合成し、表示部213が、この合成された画像を表示する(ステップS210)。
このような受信装置200の動作によれば様々なシチュエーションを考慮したコンテンツの提示を行うことが可能である。また、受信装置200は、表示条件及び表示対象の許容誤差が所定範囲内であれば、撮影画像に含まれる実際の物理オブジェクトのサイズや形状に合わせてコンテンツを生成してもよい。つまり、コンテンツ生成情報に含まれる情報を多少加工して、コンテンツを生成してもよい。これにより、実際の物理オブジェクトに合せてコンテンツを表示させることができる。
このような拡張現実感システムによれば、例えば以下の(1)〜(8)のようなシチュエーションで、アノテーション(コンテンツ)を表示することができる。
(1)あるビルの中から見た向かいのビルの窓にアノテーションを表示
(2)歩行中に振り向いた後ろのビルの全体にアノテーションを表示
(3)夕方ふと見上げた空にアノテーションを表示
(4)ウィンドウショッピング中のウィンドウにアノテーションを表示
(5)広場で下を見たときにアノテーションを表示
(6)誕生日の帰宅した家の玄関にアノテーションを表示
(7)ベッドに寝転んだときの天井にアノテーションを表示
(8)通勤時のバスの横(側面)一面にアノテーションを表示
また、グラフィカルなメールを実世界の物理オブジェクトに合わせて表示させることができる。したがって、視覚的にアノテーションの表示が邪魔になる可能性は極めて低く、実世界に溶け込ませてアノテーションを表示させることができる。また、受信者や受信装置200の状況に応じてアノテーションを表示できるので、例えば振り向いた瞬間にアノテーションを表示したり、見上げた瞬間にアノテーションを表示したりすることができる。
なお、本実施形態の拡張現実感システムでは、送信装置100と受信装置200とはEメールの通信により情報を共有していたが、Eメール通信以外の方法で情報を共有するようにしてもよい。
本発明は、様々なシチュエーションを考慮したコンテンツの提供又は表示を行うことが可能な通信装置、通信システム、通信プログラム等に有用である。
100 送信装置
101 記憶部
102 表示条件設定部
103 表示対象設定部
104 参照画像選択部
105 誘導情報提示方法設定部
106 誘導情報提示条件設定部
107 コンテンツ生成部
108 コンテンツ表示情報設定部
109 通信部
110 操作部
200 受信装置
201 通信部
202 記憶部
203 情報解析部
204 状態検出部
205 カメラ部
206 オブジェクト認識部
207 表示条件判定部
208 表示対象探索部
209 誘導情報提示条件判定部
210 誘導情報提示部
211 コンテンツ再現部
212 合成部
213 表示部

Claims (11)

  1. 物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報を生成するアノテーション生成部と、
    前記アノテーションを表示するための条件を示す表示条件情報、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、及び、誘導情報を提示するための条件を示す誘導情報提示条件情報、を生成する情報生成部と、
    前記アノテーション生成部により生成された前記アノテーション生成情報、前記情報生成部により生成された前記表示条件情報、前記表示対象情報、及び、前記誘導情報提示条件情報、を送信する送信部と、
    を備え
    前記誘導情報は、前記アノテーションを表示させるために、前記アノテーションの確認者を、前記物理オブジェクトが撮影される画像に含まれるように誘導する情報である通信装置。
  2. 請求項1に記載の通信装置であって、
    前記情報生成部は、前記誘導情報を提示する方法を示す誘導情報提示方法情報を生成し、
    前記送信部は、前記情報生成部により生成された前記誘導情報提示方法情報を送信する通信装置。
  3. 請求項1または請求項2に記載の通信装置であって、更に、
    前記物理オブジェクトの画像に対応する参照画像を記憶する参照画像記憶部を備え、
    前記アノテーション生成部は、前記参照画像記憶部に記憶された参照画像を用いて、前記アノテーション生成情報を生成する通信装置。
  4. 物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報、前記アノテーションを表示するための条件を示す表示条件情報、及び、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、を受信する受信部と、
    状態を検出する状態検出部と、
    画像を取得する画像取得部と、
    前記画像取得部により取得された画像に含まれる物理オブジェクトを識別するための物理オブジェクト識別情報を認識するオブジェクト認識部と、
    前記状態検出部により検出された状態の情報と前記受信部により受信された表示条件情報とが略一致するか否かを判定する表示条件判定部と、
    前記オブジェクト認識部により認識された物理オブジェクト識別情報と前記受信部により受信された表示対象情報とが略一致するか否かを判定する表示対象判定部と、
    前記表示条件判定部により略一致すると判定され、かつ、前記表示対象判定部により略一致すると判定された場合、前記受信部により受信された前記アノテーション生成情報に基づいて、アノテーションを再現するアノテーション再現部と、
    を備える通信装置。
  5. 請求項4に記載の通信装置であって、更に、
    誘導情報提示条件判定部と、誘導情報提示部と、を備え、
    前記受信部は、誘導情報を提示するための条件を示す誘導情報提示条件情報を受信し、
    前記誘導情報提示条件判定部は、前記状態検出部により検出された状態の情報と前記受信部により受信された誘導情報提示条件情報とが略一致するか否かを判定し、
    前記誘導情報提示部は、前記誘導情報提示条件判定部により略一致すると判定された場合、前記誘導情報を提示し、
    前記誘導情報は、前記アノテーションを表示させるために、前記アノテーションの確認者を、前記物理オブジェクトが撮影される画像に含まれるように誘導する情報である通信装置。
  6. 請求項5に記載の通信装置であって、
    前記受信部は、前記誘導情報を提示する方法を示す誘導情報提示方法情報を受信し、
    前記誘導情報提示部は、前記受信部により受信された前記誘導情報提示方法情報に従って、前記誘導情報を提示する通信装置。
  7. 第1の通信装置と第2の通信装置との間で通信を行う通信システムであって、
    前記第1の通信装置は、
    物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報を生成するアノテーション生成部と、
    前記アノテーションを表示するための条件を示す表示条件情報、及び、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、を生成する情報生成部と、
    前記アノテーション生成部により生成された前記アノテーション生成情報、前記情報生成部により生成された前記表示条件情報、及び前記表示対象情報、を送信する送信部と、
    を備え、
    前記第2の通信装置は、
    前記アノテーション生成情報、前記表示条件情報、及び、前記表示対象情報、を受信する受信部と、
    状態を検出する状態検出部と、
    画像を取得する画像取得部と、
    前記画像取得部により取得された画像に含まれる物理オブジェクトを識別するための物理オブジェクト識別情報を認識するオブジェクト認識部と、
    前記状態検出部により検出された状態の情報と前記受信部により受信された表示条件情報とが略一致するか否かを判定する表示条件判定部と、
    前記オブジェクト認識部により認識された物理オブジェクト識別情報と前記受信部により受信された表示対象情報とが略一致するか否かを判定する表示対象判定部と、
    前記表示条件判定部により略一致すると判定され、かつ、前記表示対象判定部により略一致すると判定された場合、前記受信部により受信された前記アノテーション生成情報に基づいて、アノテーションを再現するアノテーション再現部と、
    を備える通信システム。
  8. 物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報を生成するステップと、
    前記アノテーションを表示するための条件を示す表示条件情報、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、及び、誘導情報を提示するための条件を示す誘導情報提示条件情報を、生成するステップと、
    前記アノテーション生成情報、前記表示条件情報、前記表示対象情報、及び、前記誘導情報提示条件情報を送信するステップと、
    を有し、
    前記誘導情報は、前記アノテーションを表示させるために、前記アノテーションの確認者を、前記物理オブジェクトが撮影される画像に含まれるように誘導する情報である通信方法。
  9. 物理オブジェクトに対応するアノテーションを生成するためのアノテーション生成情報、前記アノテーションを表示するための条件を示す表示条件情報、及び、前記アノテーションが表示される表示対象となる物理オブジェクトを識別するための表示対象情報、を受信するステップと、
    状態を検出するステップと、
    画像を取得するステップと、
    前記取得された画像に含まれる物理オブジェクトを識別するための物理オブジェクト識別情報を認識するステップと、
    前記検出された状態の情報と前記受信された表示条件情報とが略一致するか否かを判定するステップと、
    前記認識された物理オブジェクト識別情報と前記受信された表示対象情報とが略一致するか否かを判定するステップと、
    前記状態の情報と前記表示条件情報とが略一致すると判定され、かつ、前記物理オブジェクト識別情報と前記表示対象情報とが略一致すると判定された場合、前記アノテーション生成情報に基づいてアノテーションを再現するステップと、
    を有する通信方法。
  10. 請求項8に記載の通信方法の各ステップをコンピュータに実行させるための通信プログラム。
  11. 請求項9に記載の通信方法の各ステップをコンピュータに実行させるための通信プログラム。
JP2011025334A 2011-02-08 2011-02-08 通信装置、通信システム、通信方法、及び通信プログラム Expired - Fee Related JP5511084B2 (ja)

Priority Applications (3)

Application Number Priority Date Filing Date Title
JP2011025334A JP5511084B2 (ja) 2011-02-08 2011-02-08 通信装置、通信システム、通信方法、及び通信プログラム
US13/814,705 US20130135348A1 (en) 2011-02-08 2012-02-07 Communication device, communication system, communication method, and communication program
PCT/JP2012/000801 WO2012108180A1 (ja) 2011-02-08 2012-02-07 通信装置、通信システム、通信方法、及び通信プログラム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2011025334A JP5511084B2 (ja) 2011-02-08 2011-02-08 通信装置、通信システム、通信方法、及び通信プログラム

Publications (2)

Publication Number Publication Date
JP2012165276A JP2012165276A (ja) 2012-08-30
JP5511084B2 true JP5511084B2 (ja) 2014-06-04

Family

ID=46638401

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2011025334A Expired - Fee Related JP5511084B2 (ja) 2011-02-08 2011-02-08 通信装置、通信システム、通信方法、及び通信プログラム

Country Status (3)

Country Link
US (1) US20130135348A1 (ja)
JP (1) JP5511084B2 (ja)
WO (1) WO2012108180A1 (ja)

Families Citing this family (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9262865B2 (en) 2013-03-15 2016-02-16 Daqri, Llc Content creation tool
JP6168872B2 (ja) * 2013-06-19 2017-07-26 キヤノン株式会社 画像処理装置、画像処理方法及びプログラム
JP2015228050A (ja) 2014-05-30 2015-12-17 ソニー株式会社 情報処理装置および情報処理方法
US12069013B1 (en) * 2014-06-27 2024-08-20 Amazon Technologies, Inc. User initiated augmented reality system
US10216996B2 (en) 2014-09-29 2019-02-26 Sony Interactive Entertainment Inc. Schemes for retrieving and associating content items with real-world objects using augmented reality and object recognition
US10354449B2 (en) * 2015-06-12 2019-07-16 Hand Held Products, Inc. Augmented reality lighting effects
US10996924B2 (en) * 2019-03-28 2021-05-04 Lenovo (Singapore) Pte. Ltd. Drawing attention to a graphical element on a display
US12591402B2 (en) * 2020-09-16 2026-03-31 Qualcomm Incorporated Augmented reality collaboration system with annotation capability

Family Cites Families (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4631987B2 (ja) * 1998-10-19 2011-02-16 ソニー株式会社 情報処理端末、情報処理システム及び情報処理方法
JP2001076168A (ja) * 1999-09-02 2001-03-23 Ntt Docomo Inc 情報端末装置、データベースサーバ装置、画像表示システムおよびそれらの制御方法
WO2004095374A1 (ja) 2003-04-21 2004-11-04 Nec Corporation 映像オブジェクト認識装置および認識方法、映像アノテーション付与装置および付与方法ならびにプログラム
US9681925B2 (en) * 2004-04-21 2017-06-20 Siemens Medical Solutions Usa, Inc. Method for augmented reality instrument placement using an image based navigation system
US20070035563A1 (en) * 2005-08-12 2007-02-15 The Board Of Trustees Of Michigan State University Augmented reality spatial interaction and navigational system
CA2621191C (en) * 2005-08-29 2012-12-18 Evryx Technologies, Inc. Interactivity via mobile image recognition
US20070179854A1 (en) 2006-01-30 2007-08-02 M-Systems Media predictive consignment
US20100157848A1 (en) * 2008-12-22 2010-06-24 Qualcomm Incorporated Method and apparatus for providing and utilizing local maps and annotations in location determination
WO2010073616A1 (ja) 2008-12-25 2010-07-01 パナソニック株式会社 情報表示装置および情報表示方法
JPWO2011004608A1 (ja) * 2009-07-09 2012-12-20 頓智ドット株式会社 視界情報に仮想情報を付加して表示できるシステム
US8743145B1 (en) * 2010-08-26 2014-06-03 Amazon Technologies, Inc. Visual overlay for augmenting reality
US9317133B2 (en) * 2010-10-08 2016-04-19 Nokia Technologies Oy Method and apparatus for generating augmented reality content

Also Published As

Publication number Publication date
JP2012165276A (ja) 2012-08-30
US20130135348A1 (en) 2013-05-30
WO2012108180A1 (ja) 2012-08-16

Similar Documents

Publication Publication Date Title
JP5511084B2 (ja) 通信装置、通信システム、通信方法、及び通信プログラム
US11488358B2 (en) Augmented reality session creation using skeleton tracking
ES2558255T3 (es) Anotación automatizada de una vista
JP5389111B2 (ja) 拡張現実情報提供装置及び方法
US12198376B2 (en) Marker-based shared augmented reality session creation
US9710969B2 (en) Indicating the geographic origin of a digitally-mediated communication
EP3702914B1 (en) Mobile virtual and augmented reality system
CN111598974B (zh) 用于呈现与真实对象相关的数字信息的方法和系统
US8661053B2 (en) Method and apparatus for enabling virtual tags
US10264207B2 (en) Method and system for creating virtual message onto a moving object and searching the same
KR101591493B1 (ko) 각각의 사용자의 시점에 대해 공유된 디지털 인터페이스들의 렌더링을 위한 시스템
KR101330805B1 (ko) 증강 현실 제공 장치 및 방법
US20150020014A1 (en) Information processing apparatus, information processing method, and program
KR20110093664A (ko) 데이터 송신 방법 및 시스템
CN103377487A (zh) 信息处理设备、显示控制方法以及程序
CN103814397A (zh) 用于增强实境环境的基于移动设备的内容映射
US11227494B1 (en) Providing transit information in an augmented reality environment
CN105917329A (zh) 信息显示装置和信息显示程序
US20220351425A1 (en) Integrating overlaid digital content into data via processing circuitry using an audio buffer
CN105933500A (zh) 移动终端、远程服务器、基于增强现实的通讯方法及系统
JP7086242B1 (ja) 情報処理装置、情報処理方法、及びプログラム
JP2017208809A (ja) 仮想空間を提供する方法、プログラム及び記録媒体
CN101930690B (zh) 地图辨识处理系统及其方法
WO2021200187A1 (ja) 携帯端末および情報処理方法、並びに記憶媒体
JP2022160956A (ja) 情報処理装置、情報処理システム、情報処理方法、及び端末装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20130528

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20130703

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20131210

RD04 Notification of resignation of power of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7424

Effective date: 20131225

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20140115

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20140225

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20140324

LAPS Cancellation because of no payment of annual fees