JP7746728B2 - 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム - Google Patents

遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム

Info

Publication number
JP7746728B2
JP7746728B2 JP2021132905A JP2021132905A JP7746728B2 JP 7746728 B2 JP7746728 B2 JP 7746728B2 JP 2021132905 A JP2021132905 A JP 2021132905A JP 2021132905 A JP2021132905 A JP 2021132905A JP 7746728 B2 JP7746728 B2 JP 7746728B2
Authority
JP
Japan
Prior art keywords
image
remote
information
terminal device
display
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021132905A
Other languages
English (en)
Other versions
JP2023027650A (ja
Inventor
靖 飯田
裕丈 佐々木
猛志 永峯
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujifilm Business Innovation Corp
Original Assignee
Fuji Xerox Co Ltd
Fujifilm Business Innovation Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fuji Xerox Co Ltd, Fujifilm Business Innovation Corp filed Critical Fuji Xerox Co Ltd
Priority to JP2021132905A priority Critical patent/JP7746728B2/ja
Priority to US17/646,899 priority patent/US11895395B2/en
Publication of JP2023027650A publication Critical patent/JP2023027650A/ja
Application granted granted Critical
Publication of JP7746728B2 publication Critical patent/JP7746728B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/63Control of cameras or camera modules by using electronic viewfinders
    • H04N23/633Control of cameras or camera modules by using electronic viewfinders for displaying additional information relating to control or operation of the camera
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N23/00Cameras or camera modules comprising electronic image sensors; Control thereof
    • H04N23/60Control of cameras or camera modules
    • H04N23/64Computer-aided capture of images, e.g. transfer from script file into camera, check of taken image quality, advice or proposal for image composition or decision on when to take image
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N7/00Television systems
    • H04N7/18Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast
    • H04N7/183Closed-circuit television [CCTV] systems, i.e. systems in which the video signal is not broadcast for receiving images from a single remote source
    • HELECTRICITY
    • H04ELECTRIC COMMUNICATION TECHNIQUE
    • H04NPICTORIAL COMMUNICATION, e.g. TELEVISION
    • H04N1/00Scanning, transmission or reproduction of documents or the like, e.g. facsimile transmission; Details thereof
    • H04N1/00127Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture
    • H04N1/00344Connection or combination of a still picture apparatus with another apparatus, e.g. for storage, processing or transmission of still picture signals or of information associated with a still picture with a management, maintenance, service or repair apparatus

Landscapes

  • Engineering & Computer Science (AREA)
  • Multimedia (AREA)
  • Signal Processing (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Studio Devices (AREA)
  • Telephonic Communication Services (AREA)
  • User Interface Of Digital Computer (AREA)

Description

本発明は、遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラムに関する。
特許文献1には、遠隔監視センターによる巡回者の周囲状況の適切な把握による、巡回者の安全確保と、巡回警備の効率化を、低コストで実現する装置の提供を目的とした監視支援システムが開示されている。この監視支援システムは、三次元空間情報データベースと該情報を表示するバーチャルリアリティ表示部を具備する遠隔監視手段と、位置取得手段と指向方向取得手段を具備する携帯端末からなる。そして、この監視支援システムは、巡回者が所持する携帯端末の視線情報を遠隔監視手段に送信することで、遠隔監視手段からは、巡回者の眼前に広がる空間情報を低コスト且つ適切に把握する。
また、特許文献2には、適切な位置にユーザの視点を移動させることが可能となる仕組みを提供することを目的とした情報処理装置が開示されている。この情報処理装置は、装着型の表示装置の過去の位置に、表示装置の仮想空間における視点位置を移動する指示を受け付ける。そして、この情報処理装置は、当該視点位置の移動指示を受け付けた場合に、指示を受け付けた過去の表示装置の位置から所定距離離れた位置を、当該視点位置の移動先の位置として決定し、決定された位置に表示装置の仮想空間における視点位置を移動させるべく変更する。
更に、特許文献3には、ターゲットへのユーザ誘導を円滑に行うことを目的とした誘導支援方法が開示されている。この誘導支援方法は、予め記憶した空間情報の中からターゲット情報を検出し、前記空間情報が規定する空間における表示装置の位置とターゲット情報が規定するターゲットの位置を計測する。また、この誘導支援方法は、計測した前記表示装置の位置と前記ターゲットの位置とに基づいて前記表示装置に表示するアイコンの位置と該アイコンの動きを決定し、前記表示装置において決定した前記位置で決定した前記動きをする前記アイコンを表示する。そして、この誘導支援方法は、前記表示装置の位置の変化に応じて、該表示装置に表示する前記アイコンの位置及び動きを変更する処理を行う。
特開2008-257385号公報 特開2018-063589号公報 特開2017-068689号公報
本発明は、一方向から撮影された撮影画像のみを用いて誘導する場合に比較して、より容易に利用者を要求される撮影位置に誘導することができる遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラムを提供することを目的とする。
上記目的を達成するために、第1態様に係る遠隔支援システムは、端末装置と遠隔装置とを含む遠隔支援システムであって、前記端末装置は第1のプロセッサを備え、前記第1のプロセッサは、各々異なる方向から対象物を撮影して得られた複数の画像情報を前記遠隔装置に送信し、前記画像情報を用いて前記遠隔装置によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報を受信し、受信した前記表示情報が示す誘導画像を表示し、前記遠隔装置は第2のプロセッサを備え、前記第2のプロセッサは、前記複数の画像情報を前記端末装置から受信し、受信した前記複数の画像情報が示す画像を表示し、表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付け、受け付けた画像を用いて前記表示情報を導出し、導出した前記表示情報を前記端末装置に送信する遠隔支援システムであり、前記第1のプロセッサが、利用者による撮影位置と、要求される撮影位置とのずれ量に応じて前記誘導画像の表示状態を変更するものである
また、第2態様に係る遠隔支援システムは、第1態様に係る遠隔支援システムにおいて、前記画像情報が、静止画像を示す画像情報、及び動画像を示す画像情報の何れか一方であるものである。
また、第3態様に係る遠隔支援システムは、第2態様に係る遠隔支援システムにおいて、前記第1のプロセッサが、前記画像情報が前記動画像を示す画像情報である場合、当該動画像における予め定められた枚数毎に1枚の静止画像を選択して前記遠隔装置に送信するものである。
また、第4態様に係る遠隔支援システムは、第1態様~第3態様の何れか1態様に係る遠隔支援システムにおいて、前記誘導画像が、3次元の画像であるものである。
また、第5態様に係る遠隔支援システムは、第4態様に係る遠隔支援システムにおいて、前記3次元の画像が、前記対象物に対する撮影領域の3次元空間において仮想的に表示され、かつ、要求される前記対象物に対する撮影位置及び撮影方向を示す3次元の画像であるものである。
また、第6態様に係る遠隔支援システムは、第5態様に係る遠隔支援システムにおいて、前記3次元の画像が、多面体として構成されているものである。
また、第7態様に係る遠隔支援システムは、第1態様~第6態様の何れか1態様に係る遠隔支援システムにおいて、前記誘導画像が、端末装置が要求される撮影位置及び向きとなった場合に予め定められた状態となる画像であるものである。
また、第8態様に係る遠隔支援システムは、第7態様に係る遠隔支援システムにおいて、前記予め定められた状態が、歪みのない状態であるものである。
また、第9態様に係る遠隔支援システムは、第8態様に係る遠隔支援システムにおいて、前記歪みのない状態が、矩形の状態であるものである。
また、第10態様に係る遠隔支援システムは、第1態様~第9態様の何れか1態様に係る遠隔支援システムにおいて、前記異なる方向が、対象物の正面に正対する一方向を含むものである。
また、第11態様に係る遠隔支援システムは、第1態様~第10態様の何れか1態様に係る遠隔支援システムにおいて、前記異なる方向が、対象物の正面、一方の側面、及び上面が1画像に含む一方向を含むものである。
また、第12態様に係る遠隔支援システムは、第1態様~第11態様の何れか1態様に係る遠隔支援システムにおいて、前記表示状態が、点滅間隔、表示色、透過率の少なくとも1つであるものである。
また、第13態様に係る遠隔支援システムは、第12態様に係る遠隔支援システムにおいて、前記第1のプロセッサが、前記透過率を変更する場合、前記ずれ量が少なくなるほど当該透過率を増加させるものである。
また、第14態様に係る遠隔支援システムは、第1態様~第13態様の何れか1態様に係る遠隔支援システムにおいて、前記第1のプロセッサが、対象物の対象とする位置が撮影されたら、当該位置にマーカを仮想的に表示するものである。
また、第15態様に係る遠隔支援システムは、第1態様~第14態様の何れか1態様に係る遠隔支援システムにおいて、前記第2のプロセッサが、受信した前記複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報を前記端末装置に送信するものである。
また、第16態様に係る遠隔支援システムは、第15態様に係る遠隔支援システムにおいて、前記指示情報が、要求される撮影位置に最も近い撮影位置での撮影で得られた前記画像情報を特定する特定情報を含むものである。
また、上記目的を達成するために、第17態様に係る端末装置は、プロセッサを備え、前記プロセッサは、各々異なる方向から対象物を撮影して得られた複数の画像情報を遠隔装置に送信し、前記画像情報を用いて前記遠隔装置によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報を受信し、受信した前記表示情報が示す誘導画像を表示する端末装置であり、前記プロセッサが、利用者による撮影位置と、要求される撮影位置とのずれ量に応じて前記誘導画像の表示状態を変更するものである
また、上記目的を達成するために、第18態様に係る遠隔装置は、プロセッサを備え、前記プロセッサは、各々異なる方向から対象物を撮影して得られた複数の画像情報を端末装置から受信し、受信した前記複数の画像情報が示す画像を表示し、表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付け、受け付けた画像を用いて、要求される撮影位置に誘導する誘導画像を表示するための表示情報を導出し、導出した前記表示情報を前記端末装置に送信する遠隔装置であり、前記プロセッサが、受信した前記複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報を前記端末装置に送信し、前記指示情報が、要求される撮影位置に最も近い撮影位置での撮影で得られた前記画像情報を特定する特定情報を含むものである
また、上記目的を達成するために、第19態様に係る誘導画像表示プログラムは、各々異なる方向から対象物を撮影して得られた複数の画像情報を遠隔装置に送信し、前記画像情報を用いて前記遠隔装置によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報を受信し、受信した前記表示情報が示す誘導画像を表示する、処理であり、利用者による撮影位置と、要求される撮影位置とのずれ量に応じて前記誘導画像の表示状態を変更する、処理をコンピュータに実行させる。
更に、上記目的を達成するために、第20態様に係る遠隔支援プログラムは、各々異なる方向から対象物を撮影して得られた複数の画像情報を端末装置から受信し、受信した前記複数の画像情報が示す画像を表示し、表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付け、受け付けた画像を用いて、要求される撮影位置に誘導する誘導画像を表示するための表示情報を導出し、導出した前記表示情報を前記端末装置に送信する、処理であり、受信した前記複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報を前記端末装置に送信し、前記指示情報は、要求される撮影位置に最も近い撮影位置での撮影で得られた前記画像情報を特定する特定情報を含む、処理をコンピュータに実行させる。
第1態様、第17態様~第20態様によれば、一方向から撮影された撮影画像のみを用
いて誘導する場合に比較して、より容易に利用者を要求される撮影位置に誘導することができる。
また、第1態様、第17態様~第20態様によれば、利用者による撮影位置と、要求される撮影位置とのずれ量に応じて誘導画像の表示状態を変更しない場合に比較して、より短時間で、利用者を要求される撮影位置に誘導することができる。
第2態様によれば、画像情報として静止画像を示す画像情報を適用する場合は、画像情報として動画像を示す画像情報を適用する場合に比較して、当該画像情報のための記憶容量を低減することができる。また、第2態様によれば、画像情報として動画像を示す画像情報を適用する場合は、画像情報として静止画像を示す画像情報を適用する場合に比較して、より多くの画像情報を得ることができる。
第3態様によれば、動画像を示す画像情報の全てを遠隔装置に送信する場合に比較して、より短時間に画像情報を遠隔装置に送信することができる。
第4態様によれば、誘導画像を1次元又は2次元の画像とする場合に比較して、より直感的に、利用者を要求される撮影位置に誘導することができる。
第5態様によれば、3次元の画像の誘導対象を撮影位置のみとする場合に比較して、より的確な撮影状態に利用者を誘導することができる。
第6態様によれば、3次元の画像を多面体としない場合に比較して、より容易に表示情報を導出することができる。
第7態様によれば、誘導画像を、端末装置が要求される撮影位置及び向きとなった場合も状態が変わらない画像とした場合に比較して、より的確な撮影状態に利用者を誘導することができる。
第8態様によれば、上記予め定められた状態を歪みがある状態とする場合に比較して、より直感的に、利用者を要求される撮影位置に誘導することができる。
第9態様によれば、上記歪みのない状態を矩形以外の状態とした場合に比較して、より直感的に、利用者を要求される撮影位置に誘導することができる。
第10態様によれば、上記異なる方向を、対象物の正面に正対する一方向を含まないものとする場合に比較して、遠隔装置において選択される可能性がより高い画像情報を得ることができる。
第11態様によれば、上記異なる方向を、対象物の正面、一方の側面、及び上面が1画像に含む一方向を含まないものとする場合に比較して、1つの画像に対象物の対象とする位置が含まれる可能性を高めることができる結果、より効率よく、利用者を要求される撮影位置に誘導することができる。
12態様によれば、適用した表示状態の変化を利用して、利用者と要求される撮影位置とのずれ量を把握することができる。
13態様によれば、上記透過率を変更する場合に、上記ずれ量が多くなるほど当該透過率を増加させる場合に比較して、対象物の視認性を向上させることができる。
14態様によれば、対象物の対象とする位置にマーカを表示しない場合に比較して、より容易に、利用者に対して対象とする位置を把握させることができる。
15態様によれば、受信した画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合でも再撮影を指示しない場合に比較して、より確実に、利用者を要求される撮影位置に誘導することができる。
16態様によれば、上記指示情報に、要求される撮影位置に最も近い撮影位置での撮影で得られた画像情報を特定する特定情報を含めない場合に比較して、既に得られている画像情報を有効利用することができる。
実施形態に係る遠隔支援システムのハードウェア構成の一例を示すブロック図である。 実施形態に係る遠隔支援システムの機能的な構成の一例を示すブロック図である。 実施形態に係る撮影関連情報データベースの構成の一例を示す模式図である。 実施形態に係る遠隔支援処理の説明に供する図であり、端末装置による撮影状況の一例を示す斜視図である。 第1実施形態に係る誘導画像表示処理の一例を示すフローチャートである。 実施形態に係る再撮影指示画面の一例を示す正面図である。 実施形態に係る誘導画像表示画面の一例を示す正面図である。 実施形態に係る誘導画像表示画面の他の例を示す正面図である。 実施形態に係る遠隔支援処理の一例を示すフローチャートである。 実施形態に係る画像選択画面の一例を示す正面図である。 実施形態に係る遠隔支援処理の説明に供する図であり、端末装置による撮影状況の他の一例を示す斜視図である。 第2実施形態に係る誘導画像表示処理の一例を示すフローチャートである。 実施形態に係る誘導画像の他の例を示す斜視図である。 実施形態に係る誘導画像表示画面の他の例を示す正面図である。 実施形態に係る誘導画像の他の一例を示す斜視図である。 実施形態に係る誘導画像の他の一例を示す斜視図である。 実施形態に係る誘導画像の他の一例を示す斜視図である。 実施形態に係る誘導画像の他の一例を示す斜視図である。
以下、図面を参照して、本発明を実施するための形態例を詳細に説明する。なお、本実施形態では、本発明を、各々利用者が個別に用いる携帯型の端末である複数の端末装置と、各端末装置とは離れた遠隔地に設けられた遠隔装置と、を含む遠隔支援システムに適用した場合について説明する。また、本実施形態では、利用者がデジタル複合機やプリンタ等の画像形成装置のメンテナンスを行う作業員であり、遠隔支援システムが、当該作業員の画像形成装置に対するメンテナンスを遠隔支援するシステムである場合について説明する。
[第1実施形態]
まず、図1及び図2を参照して、本実施形態に係る遠隔支援システム90の構成を説明する。図1は、本実施形態に係る遠隔支援システムのハードウェア構成の一例を示すブロック図である。また、図2は、本実施形態に係る遠隔支援システムの機能的な構成の一例を示すブロック図である。
図1に示すように、本実施形態に係る遠隔支援システム90は、ネットワーク80に各々アクセス可能とされた、遠隔装置10と、複数の端末装置30と、を含む。なお、遠隔装置10の例としては、パーソナルコンピュータ及びサーバコンピュータ等の情報処理装置が挙げられる。また、端末装置30の例としては、スマートフォン、タブレット端末、PDA(Personal Digital Assistant、携帯情報端末)等の携帯型の端末が挙げられる。
本実施形態に係る端末装置30は、遠隔支援システム90を利用する複数の利用者(以下、単に「利用者」という。)の各々が画像形成装置をメンテナンスする場合に所持する装置である。端末装置30は、CPU(Central Processing Unit)31、一時記憶領域としてのメモリ32、不揮発性の記憶部33、タッチパネル等の入力部34、液晶ディスプレイ等の表示部35、及び媒体読み書き装置(R/W)36を備えている。また、端末装置30は、撮影部38、マイク39、位置検出部40、及び無線通信部42を備えている。CPU31、メモリ32、記憶部33、入力部34、表示部35、媒体読み書き装置36、撮影部38、マイク39、位置検出部40、及び無線通信部42はバスB1を介して互いに接続されている。媒体読み書き装置36は、記録媒体37に書き込まれている情報の読み出し及び記録媒体37への情報の書き込みを行う。
記憶部33は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、フラッシュメモリ等によって実現される。記憶媒体としての記憶部33には、誘導画像表示プログラム33Aが記憶されている。誘導画像表示プログラム33Aは、誘導画像表示プログラム33Aが書き込まれた記録媒体37が媒体読み書き装置36にセットされ、媒体読み書き装置36が記録媒体37からの誘導画像表示プログラム33Aの読み出しを行うことで、記憶部33へ記憶される。CPU31は、誘導画像表示プログラム33Aを記憶部33から読み出してメモリ32に展開し、誘導画像表示プログラム33Aが有するプロセスを順次実行する。
また、記憶部33には、撮影関連情報データベース33Bが記憶される。撮影関連情報データベース33Bについては、詳細を後述する。
また、本実施形態に係る撮影部38は、メンテナンスの対象とする画像形成装置を撮影するものであり、当該撮影によって得られた画像情報を出力する。また、本実施形態に係るマイク39は、利用者が発した音声を収集し、音声情報を出力する。
更に、本実施形態に係る位置検出部40は、自身の位置を検出し、位置情報を出力するものであり、本実施形態では、GPS(Global Positioning Systems)を利用したものが適用されているが、この形態に限定されるものではない。例えば、WiFi(登録商標)のルータから取得される位置情報を用いるものや、ビーコン(Beacon)を利用して位置を検出するもの、撮影画像を用いた画像解析により位置を検出するもの等を位置検出部40として適用する形態としてもよい。
一方、遠隔装置10は、遠隔支援システム90において中心的な役割を有する装置であり、利用者に対して提示される、詳細を後述する誘導画像を導出する装置である。遠隔装置10は、CPU11、一時記憶領域としてのメモリ12、不揮発性の記憶部13、キーボードとマウス等の入力部14、液晶ディスプレイ等の表示部15、媒体読み書き装置16及び通信インタフェース(I/F)部18を備えている。CPU11、メモリ12、記憶部13、入力部14、表示部15、媒体読み書き装置16及び通信I/F部18はバスB2を介して互いに接続されている。媒体読み書き装置16は、記録媒体17に書き込まれている情報の読み出し及び記録媒体17への情報の書き込みを行う。
記憶部13はHDD、SSD、フラッシュメモリ等によって実現される。記憶媒体としての記憶部13には、遠隔支援プログラム13Aが記憶されている。遠隔支援プログラム13Aは、遠隔支援プログラム13Aが書き込まれた記録媒体17が媒体読み書き装置16にセットされ、媒体読み書き装置16が記録媒体17からの遠隔支援プログラム13Aの読み出しを行うことで、記憶部13へ記憶される。CPU11は、遠隔支援プログラム13Aを記憶部13から読み出してメモリ12に展開し、遠隔支援プログラム13Aが有するプロセスを順次実行する。
なお、本実施形態では、ネットワーク80として、インターネット、電話回線網等の公共の通信回線を適用しているが、この形態に限定されるものではない。例えば、ネットワーク80として、LAN(Local Area Network)、WAN(Wide Area Network)等の企業内の通信回線を適用してもよく、これらの企業内の通信回線及び公共の通信回線を組み合わせて適用してもよい。
次に、図2を参照して、本実施形態に係る遠隔装置10及び端末装置30の機能的な構成について説明する。
図2に示すように、本実施形態に係る端末装置30は、第1送信部31A、第1受信部31B、及び第1表示制御部31Cを含む。端末装置30のCPU31が誘導画像表示プログラム33Aを実行することで、第1送信部31A、第1受信部31B、及び第1表示制御部31Cとして機能する。
本実施形態に係る第1送信部31Aは、各々異なる方向から対象物を撮影して得られた複数の画像情報(以下、単に「画像情報」という。)を遠隔装置10に送信する。なお、本実施形態では、上述したように、対象物として、メンテナンスの対象である画像形成装置を適用している。
また、本実施形態に係る第1受信部31Bは、画像情報を用いて遠隔装置10によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報(以下、単に「表示情報」という。)を受信する。なお、本実施形態では、第1送信部31Aによる画像情報の送信、及び第1受信部31Bによる表示情報の受信を、無線通信部42を介して行っているが、これに限るものではない。
そして、本実施形態に係る第1表示制御部31Cは、受信した表示情報が示す誘導画像(以下、単に「誘導画像」という。)を表示部35により表示する。
一方、図2に示すように、本実施形態に係る遠隔装置10は、第2受信部11A、第2表示制御部11B、受付部11C、導出部11D、及び第2送信部11Eを含む。遠隔装置10のCPU11が主として遠隔支援プログラム13Aを実行することで、第2受信部11A、第2表示制御部11B、受付部11C、導出部11D、及び第2送信部11Eとして機能する。
本実施形態に係る第2受信部11Aは、複数の画像情報を端末装置30から受信する。また、本実施形態に係る第2表示制御部11Bは、受信した複数の画像情報が示す画像を表示部15により表示する。
また、本実施形態に係る受付部11Cは、表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付ける。なお、本実施形態では、受付部11Cによる画像の選択の受け付けを、入力部14を介した遠隔装置10のユーザによる操作によって行っているが、これに限るものではない。例えば、遠隔装置10にマイク等の音声入力部を設けておき、当該音声入力部を介した音声により画像の選択の受け付けを行う形態としてもよい。
ここで、本実施形態に係る導出部11Dは、受け付けた画像を用いて上述した表示情報を導出する。そして、本実施形態に係る第2送信部11Eは、導出した表示情報を端末装置30に送信する。
なお、本実施形態では、画像情報として、静止画像を示す画像情報を適用している。従って、端末装置30に設けられた撮影部38は、静止画像の撮影が可能とされたものとされているが、これに限るものではない。例えば、静止画像及び動画像の双方の撮影が可能とされた撮影部を撮影部38として適用する形態としてもよいことは言うまでもない。また、本実施形態では、画像情報として、カラー画像を示す画像情報を適用しており、従って、本実施形態に係る撮影部38は、カラー画像の撮影を行うことができるものとされているが、これに限るものではない。例えば、画像情報として、モノクロ画像を示す画像情報を適用し、撮影部38として、モノクロ画像の撮影を行うことができるものを適用する形態としてもよい。
また、本実施形態では、誘導画像として、端末装置30が要求される撮影位置及び向きとなった場合に予め定められた状態となる画像を適用しており、特に、本実施形態では、当該予め定められた状態として、歪みのない状態を適用している。更に、本実施形態では、当該歪みのない状態として、矩形の状態を適用している。
また、本実施形態では、上記異なる方向に、対象物の正面に正対する一方向を含むものとしている。
また、本実施形態では、第1表示制御部31Cにより、利用者と要求される撮影位置とのずれ量に応じて誘導画像の表示状態を変更するものとしている。ここで、本実施形態では、当該表示状態として、透過率を適用しており、上記ずれ量が少なくなるほど当該透過率を増加させるものとしている。但し、この形態に限るものではなく、上記透過率に代えて、点滅間隔及び表示色の何れか一方を上記表示状態として適用する形態としてもよいし、点滅間隔、表示色、及び透過率の2つ、又は3つの組み合わせを上記表示状態として適用する形態としてもよい。
また、本実施形態では、第1表示制御部31Cにより、対象物の対象とする位置が撮影されたら、当該位置にマーカを仮想的に表示する。
更に、本実施形態では、第2送信部11Eが、受信した複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報(以下、単に「指示情報」という。)を端末装置30に送信する。ここで、本実施形態では、指示情報に、要求される撮影位置に最も近い撮影位置での撮影で得られた画像情報を特定する特定情報を含むものとしている。
次に、図3を参照して、本実施形態に係る撮影関連情報データベース33Bについて説明する。図3は、本実施形態に係る撮影関連情報データベース33Bの構成の一例を示す模式図である。
本実施形態に係る撮影関連情報データベース33Bは、上述した複数の画像情報に関する情報が登録されるデータベースである。図3に示すように、本実施形態に係る撮影関連情報データベース33Bは、撮影順、撮影画像、撮影位置、及び向きの各情報が関連付けられて記憶される。
上記撮影順は、利用者による対象物に対する撮影順番を示す情報であり、上記撮影画像は、対応する撮影によって得られた画像情報そのものである。更に、上記撮影位置は、対応する撮影を行った際の端末装置30の位置を示す情報であり、上記向きは、対応する撮影を行った際の端末装置30の向きを示す情報である。
本実施形態では、上記撮影位置を示す情報として、位置検出部40により、GPSを用いて、端末装置30の水平方向及び高さ方向の3次元の位置を示す情報を得る形態としているが、これに限るものではない。例えば、ビーコン等を利用して位置を検出する形態等としてもよいことは上述した通りである。
また、本実施形態では、上記向きを示す情報として、端末装置30に内蔵されたジャイロセンサ(図示省略。)により、対応する撮影位置において対象物を撮影部38による撮影画角内の左右方向の略中央部に位置させた状態における、撮影部38による撮影方向を示す情報を得るものとしている。但し、この形態に限るものではなく、例えば、加速度センサ等によって上記向きを示す情報を得る形態としてもよい。
即ち、本実施形態に係る遠隔支援システム90では、メンテナンスの実施に先立ち、一例として図4に示すように、利用者が、自身が所持する端末装置30を用いて、メンテナンスの対象とする対象物50を、予め定められた複数の方向(本実施形態では、対象物50の正面、右側面、背面、及び左側面の4方向)から撮影を行うものとされている。そして、本実施形態に係る端末装置30は、上記複数の方向からの撮影によって得られた画像情報を、撮影順、及び撮影した際の端末装置30による撮影位置及び向きを示す情報と共に、遠隔装置10に送信する。
本実施形態に係る撮影関連情報データベース33Bは、この遠隔装置10への各情報の送信に先立って、当該各情報を端末装置30自身で一時的に保持するためのものである。
次に、図5~図10を参照して、本実施形態に係る遠隔支援システム90の作用を説明する。まず、図5~図8を参照して、本実施形態に係る端末装置30の作用を説明する。図5は、本実施形態に係る誘導画像表示処理の一例を示すフローチャートである。なお、錯綜を回避するために、以下では、遠隔支援システム90による遠隔支援の対象とする作業そのものに関する指示を行うための処理については説明を省略し、利用者を要求される撮影位置に誘導するための処理のみについて説明する。
本実施形態に係る遠隔支援システム90では、上述したように、利用者が端末装置30を用いて、対象物50を複数の方向から撮影し、これにより得られた複数の画像情報を、撮影順、撮影位置、及び向きの各情報と共に撮影関連情報データベース33Bに登録する。
この状態において利用者により端末装置30に対して、誘導画像表示処理の実行の指示入力が行われた場合に、端末装置30のCPU31が誘導画像表示プログラム33Aを実行することで、図5に示す誘導画像表示処理が実行される。
図5のステップ100で、CPU31は、撮影関連情報データベース33Bに記憶されている全ての情報(以下、「撮影関連情報」という。)を読み出し、ステップ102で、CPU31は、読み出した撮影関連情報を遠隔装置10に送信する。
撮影関連情報を受信すると、遠隔装置10は、当該撮影関連情報に含まれる画像情報が示す複数の撮影画像に、要求される撮影位置及び向きで撮影された画像(以下、「要求撮影画像」という。)が含まれていない場合は再撮影を指示する再撮影指示情報(上述した指示情報に相当。)をアクセス元の端末装置30に送信する。この際、遠隔装置10は、要求される撮影位置に最も近い撮影位置での撮影で得られた撮影画像を示す画像情報を特定する特定情報(本実施形態では、撮影順を示す情報)を再撮影指示情報に含めて端末装置30に送信する。
そこで、ステップ104で、CPU11は、遠隔装置10から再撮影指示情報を受信したか否かを判定し、否定判定となった場合はステップ110に移行する一方、肯定判定となった場合はステップ106に移行する。
ステップ106で、CPU11は、再撮影指示情報と共に受信した特定情報が示す画像情報を用いて、予め定められた構成とされた再撮影指示画面を表示するように表示部35を制御した後、ステップ108で、利用者による再撮影が終了するまで待機する。図6には、本実施形態に係る再撮影指示画面の一例が示されている。
図6に示すように、本実施形態に係る再撮影指示画面では、要求される撮影位置に最も近い撮影位置での撮影で得られた撮影画像35Aが表示される。また、本実施形態に係る再撮影指示画面では、表示されている撮影画像35Aを撮影した位置に近い位置での再度の複数回の撮影を促すメッセージが表示される。
そこで、利用者は、再撮影指示画面に表示されている撮影画像35Aを撮影した際の位置付近の位置で端末装置30により対象物50に対する複数回の撮影を再度行うことで、撮影関連情報データベース33Bの登録情報を更新する。そして、利用者は、再撮影指示画面に表示されている終了ボタン35Eを、入力部34を介して指定する。これに応じて、ステップ108が肯定判定となってステップ100に戻り、ステップ100からの処理が再度実行される。
一方、遠隔装置10は、受信した撮影関連情報に含まれる画像情報が示す複数の撮影画像に要求撮影画像が含まれる場合は、この時点の撮影位置及び向きの各々を示す情報(以下、「位置・向き情報」という。)の送信を指示する位置・向き情報送信指示情報をアクセス元の端末装置30に送信する。
そこで、ステップ110で、CPU31は、遠隔装置10から位置・向き情報送信指示情報を受信したか否かを判定し、否定判定となった場合はステップ100に戻る一方、肯定判定となった場合はステップ112に移行する。
ステップ112で、CPU11は、位置・向き情報を上述した方法で取得し、取得した位置・向き情報を遠隔装置10に送信する。
遠隔装置10は、アクセス元の端末装置30から位置・向き情報を受信すると、当該情報と、要求撮影画像に関する撮影関連情報とを用いて、利用者に対し、端末装置30を、要求撮影画像を撮影した際の撮影位置及び向きに誘導するための誘導画像を導出する。そして、遠隔装置10は、導出した誘導画像を仮想的に表示するための誘導画像表示情報を導出してアクセス元の端末装置30に送信する。この際、遠隔装置10は、対象物50のメンテナンスの対象とする位置(以下、「ターゲット」という。)にマーカを仮想的に表示するためのマーカ表示情報を誘導画像表示情報に含めて端末装置30に送信する。
そこで、ステップ114で、CPU31は、誘導画像表示情報及びマーカ表示情報を遠隔装置10から受信するまで待機する。ステップ116で、CPU31は、受信した誘導画像表示情報、マーカ表示情報、及びその時点で撮影部38によって撮影されている画像(以下、「実撮影画像」という。)を用いて、予め定められた構成とされた誘導画像表示画面を表示するように表示部35を制御する。図7には、本実施形態に係る誘導画像表示画面の一例が示されている。
図7に示すように、本実施形態に係る誘導画像表示画面では、誘導画像35Bが予め定められた形状(本実施形態では、矩形)となるように、端末装置30の撮影位置及び向きの設定を促すメッセージが表示される。また、本実施形態に係る誘導画像表示画面では、誘導画像35Bが実撮影画像に重畳された状態で表示される。また、本実施形態に係る誘導画像表示画面では、利用者と要求される撮影位置とのずれ量に応じて誘導画像35Bの表示状態(本実施形態では、透過率)が逐次変更(本実施形態では、ずれ量が少なくなるほど増加)される。更に、本実施形態に係る誘導画像表示画面では、要求される撮影方向(向き)を示す撮影方向画像35C(本実施形態では、矢印を示す画像)が誘導画像35Bと組み合わされた状態で表示される。
即ち、本実施形態に係る誘導画像35Bは、端末装置30による撮影位置及び向きが、要求される撮影位置及び向きとなった場合に上記予め定められた形状(本実施形態では、矩形。)及びサイズとなる3次元の画像とされている。
そして、本実施形態に係る端末装置30では、端末装置30による撮影位置及び向きが、要求される撮影位置及び向きとは異なる状態となっている場合には、その状態において、上記要求される撮影位置及び向きである場合に上記予め定められた形状及びサイズで見える誘導画像35Bを見た場合の当該誘導画像35Bが表示される。
図7に示す例では、この時点で対象物50を正面から撮影しており、要求される撮影位置が対象物50の右側面である場合の誘導画像表示画面の一例が示されている。この場合、誘導画像35Bは、矩形が歪んだ状態である直線状に近い平行四辺形となり、その大きさは、端末装置30から対象物50までの距離が長くなるほど小さくなる。従って、利用者は、誘導画像表示画面を参照することで、対象物50に対して要求される撮影位置及び向きを誘導画像35Bの表示位置、形状、及びサイズから直感的に把握することができる。
図8に示す例は、図7に示す例において、端末装置30が要求される撮影方向及び向きとなった場合の誘導画像表示画面の一例である。この場合、対象物50が右側面側から撮影された状態で表示されると共に、誘導画像35Bは矩形となる。また、この場合、撮影画角内にターゲットが含まれるため、上述したマーカ35Dが表示される。このため、利用者は、ターゲットの位置も容易に把握することができる。
なお、本実施形態では、この端末装置30による撮影位置及び向きによって、形状、サイズ、及び透過率の異なる誘導画像35Bを示す情報を遠隔装置10によって逐次生成しているが、これに限るものではない。例えば、遠隔装置10では、誘導画像35Bの単一の原形のみを生成してアクセス元の端末装置30に送信し、当該端末装置30において、自身の撮影位置及び向きに応じた誘導画像35Bを生成する形態としてもよい。
ステップ118で、CPU31は、端末装置30が要求される撮影位置及び向きとなり、利用者の誘導先への誘導が終了したか否かを判定し、否定判定となった場合はステップ112に戻る一方、肯定判定となった場合は本誘導画像表示処理を終了する。
このステップ112~ステップ118の繰り返し処理により、端末装置30の表示部35には、端末装置30により撮影されている対象物50が表示されると共に、端末装置30による撮影位置及び向きに応じた状態の誘導画像35Bが重畳された状態で表示される。従って、利用者は、この状態の誘導画像表示画面を参照することで、端末装置30を、直感的に、要求される撮影位置及び向きとすることができる。
なお、誘導画像表示処理が終了すると、従来既知の技術により、対象物50に対して必要なメンテナンスを行うための遠隔支援の処理が実行される。
次に、図9~図10を参照して、本実施形態に係る遠隔装置10の作用を説明する。図9は、本実施形態に係る遠隔支援処理の一例を示すフローチャートである。なお、ここでは、遠隔装置10のユーザが、利用者に対して遠隔指示を行う人(以下、「遠隔指示者」という。)である場合について説明する。
本実施形態に係る遠隔支援システム90では、何れかの端末装置30から上述した撮影関連情報が受信された場合に、遠隔装置10のCPU11が遠隔支援プログラム13Aを実行することで、図9に示す遠隔支援処理が実行される。
図9のステップ200で、CPU11は、受信した撮影関連情報を用いて、予め定められた構成とされた画像選択画面を表示するように表示部15を制御した後、ステップ202で、CPU11は、予め定められた情報が入力されるまで待機する。図10には、本実施形態に係る画像選択画面の一例が示されている。
図10に示すように、本実施形態に係る画像選択画面では、誘導先において撮影された撮影画像、及び上述したターゲットの位置の指定を促すメッセージ、及び誘導先の撮影画像がない場合における、誘導先に最も近い撮影画像の指定を促すメッセージが表示される。また、本実施形態に係る画像選択画面では、受信した撮影関連情報に含まれる複数の画像情報が示す撮影画像(本実施形態では、対象物50の正面、右側面、背面、及び左側面の4方向から撮影された4つの撮影画像15a~15d)が表示される。
従って、遠隔指示者は、画像選択画面を参照することにより、アクセス元の利用者(以下、単に「利用者」という。)によって、端末装置30により遠隔支援処理の実行に先立って撮影された全ての撮影画像を把握することができる。そこで、遠隔指示者は、表示されている複数の撮影画像に、要求される撮影位置及び向きで撮影された撮影画像(上述した要求撮影画像)が存在する場合、当該要求撮影画像、及び当該要求撮影画像におけるターゲットの位置を、入力部14を介して指定する。そして、遠隔指示者は、これらの指定が終了すると、要求撮影画像指定ボタン15Aを、入力部14を介して指定する。
本実施形態では、遠隔支援システム90による遠隔支援の対象が対象物50に対するメンテナンスであるため、上記要求される撮影位置は、当該メンテナンスを開始する時点において対象物50に向き合う位置となる。例えば、対象物50であるデジタル複合機の内部のメンテナンスを行う場合で、かつ、当該メンテナンスの最初にデジタル複合機の前面の扉を開ける必要がある場合がある。この場合、遠隔指示者は、デジタル複合機の正面の撮影位置からの撮影によって得られた撮影画像を要求撮影画像として指定する。
一方、遠隔指示者は、表示されている複数の撮影画像に要求撮影画像が存在しない場合、当該要求撮影画像の撮影位置に最も近い撮影位置から撮影された撮影画像(上述した撮影画像35Aに相当し、以下「最近位置撮影画像」という。)を、入力部14を介して指定する。そして、遠隔指示者は、最近位置撮影画像の指定が終了すると、最近位置撮影画像指定ボタン15Bを、入力部14を介して指定する。
遠隔指示者によって要求撮影画像指定ボタン15A又は最近位置撮影画像指定ボタン15Bが指定されると、ステップ202が肯定判定となってステップ204に移行する。
ステップ204で、CPU11は、遠隔指示者によって要求撮影画像が指定されたか否かを判定し、否定判定となった場合はステップ206に移行する。ステップ206で、CPU11は、上述した再撮影指示情報を生成してアクセス元の端末装置30に送信し、その後に本遠隔支援処理を終了する。
一方、ステップ204において肯定判定となった場合はステップ208に移行し、CPU11は、上述した位置・向き情報送信指示情報をアクセス元の端末装置30に送信する。これに応じて、アクセス元の端末装置30から位置・向き情報が送信されてくるため、ステップ210で、CPU11は、アクセス元の端末装置30からの位置・向き情報が受信されるまで待機する。
ステップ212で、CPU11は、受信した位置・向き情報と、指定された要求撮影画像に対応する撮影関連情報及びターゲットの位置を用いて、上述した誘導画像表示情報及びマーカ表示情報を導出する。ステップ214で、CPU11は、導出した誘導画像表示情報及びマーカ表示情報をアクセス元の端末装置30に送信する。
ステップ216で、CPU11は、遠隔支援処理の終了タイミングが到来したか否かを判定し、否定判定となった場合はステップ210に戻る一方、肯定判定となった場合は本遠隔支援処理を終了する。なお、本実施形態では、上記終了タイミングとして、遠隔指示者によって、遠隔支援処理の終了を指示する指示入力が行われたタイミングを適用しているが、これに限るものではない。例えば、受信した位置・向き情報が示す撮影位置及び向きが、要求される撮影位置及び向きとなったことを検出したタイミングや、利用者から作業の終了を示す情報が受信されたタイミングを上記終了タイミングとして適用する形態としてもよい。
なお、上記実施形態では、遠隔支援処理の実行に先立って行う複数回の撮影として、一例として図4に示すように、対象物50に対する正面、右側面、背面、及び左側面の4回の撮影を適用した場合について説明したが、これに限るものではない。撮影回数は、4回に限らず、複数回であれば如何なる回数でもよく、撮影位置及び向きについても、一例として図11に示すように、右前方斜め上、左後方斜め下等といった任意の撮影位置及び向きを適用する形態としてもよい。
この場合、対象物50の正面、一方の側面、及び上面が1画像に含む一方向を含むものとすることが、1画像で、より多くの面を撮影することができ、利用者を、より効率よく誘導することができ、好ましい。
また、上記実施形態では、利用者と要求される撮影位置とのずれ量に応じて変更する誘導画像の表示状態として透過率を適用した場合について説明したが、これに限るものではない。例えば、点滅間隔及び表示色の少なくとも一方を上記表示状態として適用する形態としてもよいし、点滅間隔及び表示色に透過率を加えた3種類の表示状態のうちの複数種類の組み合わせを上記表示状態として適用する形態としてもよいことは上述した通りである。例えば、上記表示状態として点滅間隔を適用する場合、上記ずれ量が少なくなるほど点滅間隔を短くする形態が例示され、上記表示状態として表示色を適用する場合、上記ずれ量が少なくなるほど赤色に近づける形態が例示される。
[第2実施形態]
第1実施形態では、遠隔支援処理の実行に先立って、端末装置30により静止画像を撮影する場合の形態について例示したが、本実施形態では、遠隔支援処理の実行に先立って、端末装置30により動画像を撮影する場合の形態例について説明する。
なお、本実施形態に係る遠隔支援システム90の構成は、第1送信部31A及び撮影関連情報データベース33Bを除いて第1実施形態に係る遠隔支援システム90と同一である。このため、ここでは、本実施形態に係る第1送信部31A及び撮影関連情報データベース33Bのみについて説明する。
即ち、本実施形態に係る第1送信部31Aは、遠隔支援処理の実行に先立って行われる、対象物に対する撮影が動画撮影である場合、当該動画撮影によって得られた動画像における予め定められた枚数毎に1枚の静止画像を選択して遠隔装置10に送信する。
また、図示は省略するが、本実施形態では、撮影関連情報データベース33Bにおける撮影画像を示す情報として、静止画像を示す情報に代えて、動画像を示す画像情報を登録する。また、撮影関連情報データベース33Bにおける撮影位置及び向きの各情報として、対応する動画像における撮影位置及び向きの各情報を、予め定められた撮影期間(本実施形態では、0.3秒)毎に登録する。
以下、本実施形態に係る遠隔支援システム90の作用を説明する。なお、本実施形態に係る作用は、誘導画像表示処理を除いて第1実施形態に係る遠隔支援システム90と同一であるため、ここでは、図12を参照して、誘導画像表示処理を実行する場合の本実施形態に係る端末装置30の作用のみについて説明する。図12は、本実施形態に係る誘導画像表示処理の一例を示すフローチャートであり、図5と同一の処理を行うステップについては図5と同一のステップ番号を付して、その説明を省略する。
図12に示すように、本実施形態に係る誘導画像表示処理は、ステップ100の処理に代えて、ステップ101A及びステップ101Bの処理が適用されている点のみが第1実施形態に係る誘導画像表示処理と異なっている。
即ち、ステップ101Aで、CPU31は、撮影関連情報データベース33Bに記憶されている全ての情報(以下、「動画像情報」という。)を読み出す。ステップ101Bで、CPU11は、読み出した動画像情報から撮影位置及び向きを示す情報が記憶された画像情報を抽出し、抽出した画像情報から、予め定められた枚数(本実施形態では、10枚)毎に1枚ずつの画像情報を選択する。
以上の処理によって選択された複数の画像情報は各々静止画像を示す情報であり、ステップ102で、CPU11は、当該画像情報と、当該画像情報に対応する撮影位置及び向きを示す情報とを関連付けて遠隔装置10に送信することになる。そして、これ以降、端末装置30及び遠隔装置10は、第1実施形態と同様に作用する。
なお、上記各実施形態では、誘導画像として、一例として図7及び図8に示した矩形の誘導画像35Bを適用した場合について説明したが、これに限るものではない。例えば、一例として図13に示すように、要求される撮影方向(向き)に垂直な面である撮影方向指示面60Aを有する多面体を誘導画像60として適用する形態としてもよい。なお、図13は、この形態に係る誘導画像60の一例を示す斜視図である。
図13に示すように、この誘導画像60は、上述した撮影方向指示面60Aと、8つの頂点60a~60hを有する正六面体(立方体)の形状とされている。
この誘導画像60を適用する場合、遠隔装置10のCPU11は、一例として図10に示した画像選択画面に引き続き、遠隔指示者によって指定された要求撮影画像を拡大して表示部15に表示する。そして、遠隔装置10のCPU11は、誘導画像60における撮影方向指示面60Aを除く画像、即ち、正六面体の辺のみで構成される画像(以下、「元誘導画像」という。)を要求撮影画像に重畳して表示部15に表示する。
元誘導画像が表示部15に表示されると、遠隔指示者は、表示された元誘導画像を要求される撮影位置に移動させる操作を行うと共に、撮影方向指示面60Aが、要求される向きによる撮影方向に垂直な面、又は当該面に傾斜角度が最も近い面となる頂点を指定する。図13に示す例において撮影方向指示面60Aを指定する場合、遠隔指示者は、頂点60a、頂点60c、及び頂点60fの3つの頂点を指定する。遠隔指示者による指定によって誘導画像60が得られると、遠隔装置10のCPU11は、当該誘導画像60を示す誘導画像表示情報を、アクセス元の端末装置30に送信する。
誘導画像表示情報を受信すると、アクセス元の端末装置30のCPU31は、受信した 誘導画像表示情報を用いて、一例として図14に示す誘導画像表示画面を表示部35によって表示する。
この場合、元誘導画像は正六面体であるため、撮影方向指示面60Aは、当該面を正面から見た場合に歪みのない正三角形となり、向きは右斜め下を向く向きとなり、傾斜角度は45度となる。従って、この場合、利用者は、誘導画像表示画面を参照して、撮影方向指示面60Aが正三角形となるように端末装置30による撮影位置及び向きを調整する。
なお、元誘導画像として正六面体を適用した場合で、かつ、撮影方向指示面60Aとして垂直な面を指定すると共に、撮影方向として右斜め前方を指定したい場合、一例として図15に示すように、頂点60a、頂点60c、頂点60e、及び頂点60gの4つの頂点を指定すればよい。また、撮影方向指示面60Aとして元誘導画像の外周面を指定したい場合は、例えば、頂点60b、頂点60c、頂点60f、及び頂点60gを指定すればよい。この場合、4つの頂点を指定することに代えて、撮影方向指示面60Aとしたい面を直接指定する形態としてもよい。この形態では、1度の指定操作のみで撮影方向指示面60Aを指定することができるため、頂点を指定することで撮影方向指示面60Aを指定する場合に比較して、より簡易に撮影方向指示面60Aを指定することができる。
また、上記多面体は正六面体に限るものではなく、一例として図16に示すように、元誘導画像として正四面体とされた誘導画像64を適用する形態としてもよく、各辺の長さが異なる六面体や四面体等を適用する形態としてもよい。更に、多面体を用いた誘導画像は、以上のような撮影方向指示面60Aのみを有するものに限るものではなく、一例として図17に示すように、撮影方向指示面60Aを含み、かつ、対象物に至る柱状画像66Aを更に含む誘導画像66を適用する形態としてもよい。なお、錯綜を回避するために、図17では、撮影方向指示面60A及び対象物の記載を省略している。
更に、一例として図18に示すように、端末装置30の表示部35に、誘導画像60に加えて、当該誘導画像60の多面体と同一形状及び同一寸法で、かつ、撮影方向指示面60Aを有しない複数の多面体60Bを、対象物50を含む領域を包含するように並べて表示する形態としてもよい。この形態によれば、対象物50が比較的遠方に存在する場合であっても、遠隔指示者によって指定された、要求される撮影位置及び向きが把握しやすくなる。
以上、実施形態を説明したが、本発明の技術的範囲は上記実施形態に記載の範囲には限定されない。発明の要旨を逸脱しない範囲で上記実施形態に多様な変更又は改良を加えることができ、該変更又は改良を加えた形態も本発明の技術的範囲に含まれる。
また、上記実施形態は、クレーム(請求項)にかかる発明を限定するものではなく、また実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。前述した実施形態には種々の段階の発明が含まれており、開示される複数の構成要件の組み合わせにより種々の発明が抽出される。実施の形態に示される全構成要件から幾つかの構成要件が削除されても、効果が得られる限りにおいて、この幾つかの構成要件が削除された構成が発明として抽出され得る。
また、上記実施形態において、プロセッサとは広義的なプロセッサを指し、汎用的なプロセッサ(例えば、CPU等)や、専用のプロセッサ(例えば、GPU: Graphics Processing Unit、ASIC: Application Specific Integrated Circuit、FPGA: Field Programmable Gate Array、プログラマブル論理デバイス、等)を含むものである。
更に、上記実施形態では、誘導画像表示処理及び遠隔支援処理を、プログラムを実行することにより、コンピュータを利用してソフトウェア構成により実現する場合について説明したが、本発明はこれに限定されるものではない。例えば、誘導画像表示処理及び遠隔支援処理を、ハードウェア構成や、ハードウェア構成とソフトウェア構成の組み合わせによって実現する形態としてもよい。
その他、上記実施形態で説明した遠隔装置10及び端末装置30の構成は一例であり、本発明の主旨を逸脱しない範囲内において不要な部分を削除したり、新たな部分を追加したりしてもよいことは言うまでもない。
また、上記実施形態で説明した誘導画像表示処理及び遠隔支援処理の流れも一例であり、本発明の主旨を逸脱しない範囲内において不要なステップを削除したり、新たなステップを追加したり、処理順序を入れ替えたりしてもよいことは言うまでもない。
10 遠隔装置
11 CPU
11A 第2受信部
11B 第2表示制御部
11C 受付部
11D 導出部
11E 第2送信部
12 メモリ
13 記憶部
13A 遠隔支援プログラム
14 入力部
15 表示部
15A 要求撮影画像指定ボタン
15B 最近位置撮影画像指定ボタン
15a~15d 撮影画像
16 媒体読み書き装置
17 記録媒体
18 通信I/F部
30 端末装置
31 CPU
31A 第1送信部
31B 第1受信部
31C 第1表示制御部
32 メモリ
33 記憶部
33A 誘導画像表示プログラム
33B 撮影関連情報データベース
34 入力部
35 表示部
35A 撮影画像
35B 誘導画像
35C 撮影方向画像
35D マーカ
35E 終了ボタン
36 媒体読み書き装置
37 記録媒体
38 撮影部
39 マイク
40 位置検出部
42 無線通信部
50 対象物
60 誘導画像
60A 撮影方向指示面
60B 多面体
60a~60h 頂点
64 誘導画像
66 誘導画像
66A 柱状画像
80 ネットワーク
90 遠隔支援システム

Claims (20)

  1. 端末装置と遠隔装置とを含む遠隔支援システムであって、
    前記端末装置は第1のプロセッサを備え、
    前記第1のプロセッサは、
    各々異なる方向から対象物を撮影して得られた複数の画像情報を前記遠隔装置に送信し、
    前記画像情報を用いて前記遠隔装置によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報を受信し、
    受信した前記表示情報が示す誘導画像を表示し、
    前記遠隔装置は第2のプロセッサを備え、
    前記第2のプロセッサは、
    前記複数の画像情報を前記端末装置から受信し、
    受信した前記複数の画像情報が示す画像を表示し、
    表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付け、
    受け付けた画像を用いて前記表示情報を導出し、
    導出した前記表示情報を前記端末装置に送信する、
    遠隔支援システムであり、
    前記第1のプロセッサは、利用者による撮影位置と、要求される撮影位置とのずれ量に応じて前記誘導画像の表示状態を変更する、
    遠隔支援システム
  2. 前記画像情報は、静止画像を示す画像情報、及び動画像を示す画像情報の何れか一方である、
    請求項1に記載の遠隔支援システム。
  3. 前記第1のプロセッサは、前記画像情報が前記動画像を示す画像情報である場合、当該動画像における予め定められた枚数毎に1枚の静止画像を選択して前記遠隔装置に送信する、
    請求項2に記載の遠隔支援システム。
  4. 前記誘導画像は、3次元の画像である、
    請求項1~請求項3の何れか1項に記載の遠隔支援システム。
  5. 前記3次元の画像は、前記対象物に対する撮影領域の3次元空間において仮想的に表示され、かつ、要求される前記対象物に対する撮影位置及び撮影方向を示す3次元の画像である、
    請求項4に記載の遠隔支援システム。
  6. 前記3次元の画像は、多面体として構成されている、
    請求項5に記載の遠隔支援システム。
  7. 前記誘導画像は、端末装置が要求される撮影位置及び向きとなった場合に予め定められた状態となる画像である、
    請求項1~請求項6の何れか1項に記載の遠隔支援システム。
  8. 前記予め定められた状態は、歪みのない状態である、
    請求項7に記載の遠隔支援システム。
  9. 前記歪みのない状態は、矩形の状態である、
    請求項8に記載の遠隔支援システム。
  10. 前記異なる方向は、対象物の正面に正対する一方向を含む、
    請求項1~請求項9の何れか1項に記載の遠隔支援システム。
  11. 前記異なる方向は、対象物の正面、一方の側面、及び上面が1画像に含む一方向を含む、
    請求項1~請求項10の何れか1項に記載の遠隔支援システム。
  12. 前記表示状態は、点滅間隔、表示色、透過率の少なくとも1つである、
    請求項1~請求項11の何れか1項に記載の遠隔支援システム。
  13. 前記第1のプロセッサは、前記透過率を変更する場合、前記ずれ量が少なくなるほど当該透過率を増加させる、
    請求項12に記載の遠隔支援システム。
  14. 前記第1のプロセッサは、対象物の対象とする位置が撮影されたら、当該位置にマーカを仮想的に表示する、
    請求項1~請求項13の何れか1項に記載の遠隔支援システム。
  15. 前記第2のプロセッサは、受信した前記複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報を前記端末装置に送信する、
    請求項1~請求項14の何れか1項に記載の遠隔支援システム。
  16. 前記指示情報は、要求される撮影位置に最も近い撮影位置での撮影で得られた前記画像情報を特定する特定情報を含む、
    請求項15に記載の遠隔支援システム。
  17. プロセッサを備え、
    前記プロセッサは、
    各々異なる方向から対象物を撮影して得られた複数の画像情報を遠隔装置に送信し、
    前記画像情報を用いて前記遠隔装置によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報を受信し、
    受信した前記表示情報が示す誘導画像を表示する、
    端末装置であり、
    前記プロセッサは、利用者による撮影位置と、要求される撮影位置とのずれ量に応じて前記誘導画像の表示状態を変更する、
    端末装置
  18. プロセッサを備え、
    前記プロセッサは、
    各々異なる方向から対象物を撮影して得られた複数の画像情報を端末装置から受信し、
    受信した前記複数の画像情報が示す画像を表示し、
    表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付け、
    受け付けた画像を用いて、要求される撮影位置に誘導する誘導画像を表示するための表示情報を導出し、
    導出した前記表示情報を前記端末装置に送信する、
    遠隔装置であり、
    前記プロセッサは、受信した前記複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報を前記端末装置に送信し、
    前記指示情報は、要求される撮影位置に最も近い撮影位置での撮影で得られた前記画像情報を特定する特定情報を含む、
    遠隔装置
  19. 各々異なる方向から対象物を撮影して得られた複数の画像情報を遠隔装置に送信し、
    前記画像情報を用いて前記遠隔装置によって導出された、要求される撮影位置に誘導する誘導画像を表示するための表示情報を受信し、
    受信した前記表示情報が示す誘導画像を表示する、
    処理であり、
    利用者による撮影位置と、要求される撮影位置とのずれ量に応じて前記誘導画像の表示状態を変更する、
    処理をコンピュータに実行させるための誘導画像表示プログラム。
  20. 各々異なる方向から対象物を撮影して得られた複数の画像情報を端末装置から受信し、
    受信した前記複数の画像情報が示す画像を表示し、
    表示した画像からの、要求される撮影位置から撮影された画像の選択を受け付け、
    受け付けた画像を用いて、要求される撮影位置に誘導する誘導画像を表示するための表示情報を導出し、
    導出した前記表示情報を前記端末装置に送信する、
    処理であり、
    受信した前記複数の画像情報が示す画像に、要求される撮影位置から撮影されたものが含まれない場合、再撮影を指示する指示情報を前記端末装置に送信し、
    前記指示情報は、要求される撮影位置に最も近い撮影位置での撮影で得られた前記画像情報を特定する特定情報を含む、
    処理をコンピュータに実行させるための遠隔支援プログラム。
JP2021132905A 2021-08-17 2021-08-17 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム Active JP7746728B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021132905A JP7746728B2 (ja) 2021-08-17 2021-08-17 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム
US17/646,899 US11895395B2 (en) 2021-08-17 2022-01-04 Remote assistance system, terminal device, and remote device

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021132905A JP7746728B2 (ja) 2021-08-17 2021-08-17 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム

Publications (2)

Publication Number Publication Date
JP2023027650A JP2023027650A (ja) 2023-03-02
JP7746728B2 true JP7746728B2 (ja) 2025-10-01

Family

ID=85229281

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021132905A Active JP7746728B2 (ja) 2021-08-17 2021-08-17 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム

Country Status (2)

Country Link
US (1) US11895395B2 (ja)
JP (1) JP7746728B2 (ja)

Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014072803A (ja) 2012-09-28 2014-04-21 Brother Ind Ltd 作業補助システムおよびプログラム
WO2014097413A1 (ja) 2012-12-19 2014-06-26 株式会社日立製作所 作業支援端末および作業支援システム
JP2016012168A (ja) 2014-06-27 2016-01-21 株式会社デジタル 情報共有化システム
JP2017091227A (ja) 2015-11-10 2017-05-25 株式会社オプティム 遠隔端末、遠隔指示方法及び遠隔端末用プログラム
JP2018056845A (ja) 2016-09-29 2018-04-05 富士通株式会社 作業支援装置、システム、方法及びプログラム
WO2020218452A1 (ja) 2019-04-26 2020-10-29 住友建機株式会社 ショベル、作業現場の安全装備確認システム

Family Cites Families (22)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2008257385A (ja) 2007-04-03 2008-10-23 Mitsubishi Electric Corp 監視支援システム及び監視用携帯端末
US8675112B2 (en) * 2011-06-24 2014-03-18 Intellectual Ventures Fund 83 Llc Imaging device providing capture location guidance
US8405740B2 (en) * 2011-06-24 2013-03-26 Eastman Kodak Company Guidance for image capture at different locations
JP2015507860A (ja) * 2011-12-07 2015-03-12 インテル コーポレイション 画像キャプチャのガイド
DE102012108838A1 (de) * 2012-09-19 2014-05-28 Cross Match Technologies Gmbh Verfahren und Vorrichtung zur Aufnahme von Fingerabdrücken auf Basis von Fingerabdruckscannern in zuverlässig hoher Qualität
US20140198215A1 (en) * 2013-01-16 2014-07-17 Sherry Schumm Multiple camera systems with user selectable field of view and methods for their operation
US9343043B2 (en) * 2013-08-01 2016-05-17 Google Inc. Methods and apparatus for generating composite images
US10178303B2 (en) * 2015-05-29 2019-01-08 Hover Inc. Directed image capture
US10410412B2 (en) * 2015-05-29 2019-09-10 Hover Inc. Real-time processing of captured building imagery
JP6886236B2 (ja) 2015-09-30 2021-06-16 富士通株式会社 視野誘導方法、視野誘導プログラム、及び視野誘導装置
US10163008B2 (en) * 2016-10-04 2018-12-25 Rovi Guides, Inc. Systems and methods for recreating a reference image from a media asset
JP6871501B2 (ja) 2016-10-13 2021-05-12 キヤノンマーケティングジャパン株式会社 情報処理装置、情報処理システム、その制御方法及びプログラム
EP3557861A4 (en) * 2017-01-31 2019-12-25 NTT DoCoMo, Inc. INFORMATION PROCESSING DEVICE AND INFORMATION PROCESSING METHOD
US10841486B2 (en) * 2017-07-20 2020-11-17 Eclo, Inc. Augmented reality for three-dimensional model reconstruction
WO2020021858A1 (ja) * 2018-07-24 2020-01-30 コニカミノルタ株式会社 撮像支援装置及び撮像支援方法
US12203872B2 (en) * 2019-01-22 2025-01-21 Fyusion, Inc. Damage detection from multi-view visual data
US10706624B1 (en) * 2019-03-11 2020-07-07 Amazon Technologies, Inc. Three-dimensional room model generation using panorama paths with augmented reality guidance
US11024090B2 (en) * 2019-06-28 2021-06-01 Adobe Inc. Virtual frame for guided image composition
EP4097963B1 (en) * 2020-01-31 2024-08-21 Hover Inc. Techniques for enhanced image capture
US11158038B2 (en) * 2020-02-29 2021-10-26 dMACQ Software PVT, Ltd. System for evaluating correctness of gear mesh and automatically updating results on a production system
KR102733876B1 (ko) * 2020-05-21 2024-11-26 삼성전자주식회사 파노라마 이미지를 제공하는 방법 및 이를 지원하는 전자 장치
US11430191B2 (en) * 2021-02-03 2022-08-30 Wayfair Llc Systems and methods of augmented reality guided image capture

Patent Citations (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014072803A (ja) 2012-09-28 2014-04-21 Brother Ind Ltd 作業補助システムおよびプログラム
WO2014097413A1 (ja) 2012-12-19 2014-06-26 株式会社日立製作所 作業支援端末および作業支援システム
JP2016012168A (ja) 2014-06-27 2016-01-21 株式会社デジタル 情報共有化システム
JP2017091227A (ja) 2015-11-10 2017-05-25 株式会社オプティム 遠隔端末、遠隔指示方法及び遠隔端末用プログラム
JP2018056845A (ja) 2016-09-29 2018-04-05 富士通株式会社 作業支援装置、システム、方法及びプログラム
WO2020218452A1 (ja) 2019-04-26 2020-10-29 住友建機株式会社 ショベル、作業現場の安全装備確認システム

Also Published As

Publication number Publication date
US20230056882A1 (en) 2023-02-23
JP2023027650A (ja) 2023-03-02
US11895395B2 (en) 2024-02-06

Similar Documents

Publication Publication Date Title
CN107026973B (zh) 图像处理装置、图像处理方法与摄影辅助器材
JP7614268B2 (ja) 情報処理装置、情報処理方法、及びプログラム
CN107659851B (zh) 全景图像的展示控制方法及装置
CN104350736B (zh) 附近位置信息的增强现实布置
JP2004318823A (ja) 情報表示システム、情報処理装置、ポインティング装置および情報表示システムにおけるポインタマーク表示方法
EP2866088B1 (en) Information processing apparatus and method
JP2013200793A (ja) 情報処理装置、情報処理方法およびプログラム
WO2010029671A1 (ja) 視界情報に仮想情報を付加して表示できるシステム
US10771707B2 (en) Information processing device and information processing method
JPWO2018025825A1 (ja) 撮像システム
CN112805995A (zh) 信息处理装置
EP2107529A2 (en) Storage medium storing image conversion programm and image conversion apparatus
JP7746728B2 (ja) 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム
US20170091899A1 (en) Image management apparatus and system, and method for controlling display of captured image
JP2000067227A (ja) 画像表示装置、方法および記憶媒体
CN111242107A (zh) 用于设置空间中的虚拟对象的方法和电子设备
JP2021060856A (ja) 画像合成装置、画像合成装置の制御方法およびプログラム
JP7746729B2 (ja) 遠隔支援システム、端末装置、遠隔装置、誘導画像表示プログラム、及び遠隔支援プログラム
KR20230031897A (ko) 촬영 지원 장치, 방법 및 프로그램
US12506967B2 (en) Display terminal, communication system, display method, and recording medium which displays an image of predetermined area in a wide visual field image and the wide visual field image
JP2021081937A (ja) ユーザー端末、制御方法及びコンピュータープログラム
US12464248B2 (en) Display terminal, communication system, and display method
JP4478047B2 (ja) 情報提示装置及び情報提示方法とそのプログラム
EP4611384A1 (en) Display terminal, display method, and carrier means
US20250278173A1 (en) Display terminal, display method, and non-transitory recording medium

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240718

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250325

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250408

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250523

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250819

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250901

R150 Certificate of patent or registration of utility model

Ref document number: 7746728

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150