JP2013051602A - 電子機器、電子機器の制御方法 - Google Patents
電子機器、電子機器の制御方法 Download PDFInfo
- Publication number
- JP2013051602A JP2013051602A JP2011189349A JP2011189349A JP2013051602A JP 2013051602 A JP2013051602 A JP 2013051602A JP 2011189349 A JP2011189349 A JP 2011189349A JP 2011189349 A JP2011189349 A JP 2011189349A JP 2013051602 A JP2013051602 A JP 2013051602A
- Authority
- JP
- Japan
- Prior art keywords
- user
- image
- display
- stereoscopic
- face
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/302—Image reproducers for viewing without the aid of special glasses, i.e. using autostereoscopic displays
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N13/00—Stereoscopic video systems; Multi-view video systems; Details thereof
- H04N13/30—Image reproducers
- H04N13/366—Image reproducers using viewer tracking
- H04N13/368—Image reproducers using viewer tracking for two or more viewers
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Testing, Inspecting, Measuring Of Stereoscopic Televisions And Televisions (AREA)
- User Interface Of Digital Computer (AREA)
- Controls And Circuits For Display Device (AREA)
Abstract
【課題】ユーザが正しい視聴位置で立体映像を視聴することができる立体映像処理装置及び立体映像処理方法を提供すること。
【解決手段】立体映像を表示するディスプレイの前方を含む領域を撮像する撮像モジュールと、撮像モジュールで撮像される映像からユーザの顔を検出する顔検出モジュールと、顔検出モジュールにてユーザの顔が検出できない場合、顔が検出できない旨を通知し、立体映像を立体として認識できる領域を示す第1の画像をディスプレイに表示するよう制御するコントローラと、を備える。
【選択図】図1
【解決手段】立体映像を表示するディスプレイの前方を含む領域を撮像する撮像モジュールと、撮像モジュールで撮像される映像からユーザの顔を検出する顔検出モジュールと、顔検出モジュールにてユーザの顔が検出できない場合、顔が検出できない旨を通知し、立体映像を立体として認識できる領域を示す第1の画像をディスプレイに表示するよう制御するコントローラと、を備える。
【選択図】図1
Description
本発明の実施形態は、立体映像処理装置、立体映像処理方法に関する。
近年、立体映像を視聴可能な映像処理装置(以下、立体映像処理装置と記載する)が開発され、発売されている。この立体映像処理装置には、視差を有する複数枚の画像(多視点画像)の各画素を1つの画像(以下、合成画像と記載する)に離散的に配置し、この合成画像を構成する各画素からの光線の軌道をレンチキュラーレンズなどにより制御して、観察者に立体映像を知覚させるインテグラルイメージング方式(インテグラルフォトグラフィ方式とも呼ばれる)を採用したものがある。
インテグラルイメージング方式の場合、立体画像を視聴するために専用メガネを必要としないというメリットがある一方、映像を立体として認識できる領域(以下、視域と記載する)が限定されてしまうという問題がある。ユーザが視域外にいる場合、いわゆる逆視やクロストーク等の発生によりユーザは映像を立体として認識できない。このため、カメラを搭載し、このカメラで撮像した映像からユーザを検出して、この検出したユーザの位置が上記視域内であるか否かを判別し、該判別結果に基づいて立体画像を制御する立体映像処理装置が提案されている(例えば、特許文献1参照)。
上述のように、インテグラルイメージング方式を採用した立体映像処理装置では、視域が限定されてしまう。このため、ユーザが視域外にいる場合、ユーザが映像を立体として認識することができない。また、カメラを搭載した立体映像処理装置についても、ユーザの顔を検出できない場合は、ユーザの位置を特定することができず、ユーザの位置に上記視域を形成することができない。
本実施形態は、ユーザが正しい視聴位置で立体映像を視聴することができる立体映像処理装置及び立体映像処理方法を提供することを目的とする。
本実施形態は、ユーザが正しい視聴位置で立体映像を視聴することができる立体映像処理装置及び立体映像処理方法を提供することを目的とする。
本発明の実施形態に係る立体映像処理装置は、立体映像を表示するディスプレイの前方を含む領域を撮像する撮像モジュールと、撮像モジュールで撮像される映像からユーザの顔を検出する顔検出モジュールと、顔検出モジュールにてユーザの顔が検出できない場合、顔が検出できない旨を通知し、立体映像を立体として認識できる領域を示す第1の画像をディスプレイに表示するよう制御するコントローラと、を備える。
以下、図面を参照して、本発明の実施形態を詳細に説明する。
(実施形態)
図1は、実施形態に係る立体映像処理装置100の構成図である。立体映像処理装置100は、例えば、デジタルテレビである。この立体映像処理装置100は、視差を有する複数枚の画像(多視点画像)の各画素を1つの画像(以下、合成画像と記載する)に離散的に配置し、この合成画像を構成する各画素からの光線の軌道をレンチキュラーレンズなどにより制御して、観察者に立体映像を知覚させるインテグラルイメージング方式によりユーザに立体映像を提示する。
(実施形態)
図1は、実施形態に係る立体映像処理装置100の構成図である。立体映像処理装置100は、例えば、デジタルテレビである。この立体映像処理装置100は、視差を有する複数枚の画像(多視点画像)の各画素を1つの画像(以下、合成画像と記載する)に離散的に配置し、この合成画像を構成する各画素からの光線の軌道をレンチキュラーレンズなどにより制御して、観察者に立体映像を知覚させるインテグラルイメージング方式によりユーザに立体映像を提示する。
(立体映像処理装置100の構成)
実施形態に係る立体映像処理装置100は、チューナ101、チューナ102、チューナ103、PSK(Phase Shift Keying)復調器104、OFDM(Orthogonal Frequency Division Multiplexing)復調器105、アナログ復調器106、信号処理部107、グラフィック処理部108、OSD(On Screen Display)信号生成部109、音声処理部110、スピーカ111、映像処理部112、映像表示部113(ディスプレイ)、制御部114(コントローラ)、操作部115(操作受付モジュール)、受光部116(操作受付モジュール、)、端子117、通信I/F(Inter Face)118、カメラモジュール119(撮像モジュール、顔検出モジュール、位置算出モジュール)を備える。
実施形態に係る立体映像処理装置100は、チューナ101、チューナ102、チューナ103、PSK(Phase Shift Keying)復調器104、OFDM(Orthogonal Frequency Division Multiplexing)復調器105、アナログ復調器106、信号処理部107、グラフィック処理部108、OSD(On Screen Display)信号生成部109、音声処理部110、スピーカ111、映像処理部112、映像表示部113(ディスプレイ)、制御部114(コントローラ)、操作部115(操作受付モジュール)、受光部116(操作受付モジュール、)、端子117、通信I/F(Inter Face)118、カメラモジュール119(撮像モジュール、顔検出モジュール、位置算出モジュール)を備える。
チューナ101は、制御部114からの制御信号により、BS/CSデジタル放送受信用のアンテナ1で受信した衛星デジタルテレビジョン放送から所望のチャンネルの放送信号を選局し、この選局した放送信号をPSK復調器104に出力する。PSK復調器104は、制御部114からの制御信号により、チューナ101から入力される放送信号を復調して信号処理部107へ出力する。
チューナ102は、制御部114からの制御信号により、地上波放送受信用のアンテナ2で受信した地上デジタルテレビジョン放送信号から所望のチャンネルのデジタル放送信号を選局し、この選局したデジタル放送信号をOFDM復調器105に出力する。OFDM復調器105は、制御部114からの制御信号により、チューナ102から入力されるデジタル放送信号を復調して信号処理部107へ出力する。
チューナ103は、制御部114からの制御信号により、地上波放送受信用のアンテナ2で受信した地上アナログテレビジョン放送信号から所望のチャンネルのアナログ放送信号を選局し、この選局したアナログ放送信号をアナログ復調器106に出力する。アナログ復調器106は、制御部114からの制御信号により、チューナ102から入力されるアナログ放送信号を復調して信号処理部107へ出力する。
信号処理部107は、PSK復調器104、OFDM復調器105及びアナログ復調器106から入力される復調後の放送信号から、映像信号及び音声信号を生成する。信号処理部107は、映像信号をグラフィック処理部108に出力し、音声信号を音声処理部110に出力する。
OSD信号生成部109は、制御部114からの制御信号に基づいてOSD信号を生成しグラフィック処理部108へ出力する。
グラフィック処理部108は、後述する制御部114からの指示に基づいて、信号処理部107から出力される映像信号から2視差又は9視差に対応する複数枚の画像データ(多視点画像データ)を生成する。グラフィック処理部108は、生成した多視点画像の各画素を1つの画像に離散的に配置して2視差又は9視差を有する合成画像に変換する。また、グラフィック処理部108は、OSD信号生成部109で生成されるOSD信号を映像処理部112へ出力する。
映像処理部112は、グラフィック処理部108で変換された合成画像を映像表示部113で表示可能なフォーマットに変換した後、映像表示部113に出力して立体映像表示させる。映像処理部112は、入力されるOSD信号を映像表示部113で表示可能なフォーマットに変換した後、映像表示部113に出力してODS信号に対応する映像を表示させる。
映像表示部113は、各画素からの光線の軌道を制御するためのレンチキュラーレンズを備えたインテグラルイメージング方式の立体映像表示用のディスプレイである。
音声処理部110は、入力される音声信号をスピーカ111で再生可能なフォーマットに変換した後、スピーカ111に出力して音声再生させる。
操作部115には、立体映像処理装置100を操作するための複数の操作キー(例えば、カーソルキー、決定キー、BACK(戻る)キー、カラーキー(赤、緑、黄、青)等)が配列されている。ユーザが、上記操作キーを押し下げすることで、押し下げられた操作キーに対応する操作信号が制御部114へ出力される。
受光部116は、リモートコントローラ3(以下、リモコン3と記載する)から送信される赤外線信号を受信する。リモコン3には、立体映像処理装置100を操作するための複数の操作キー(例えば、カーソルキー、決定キー、BACK(戻る)キー、カラーキー(赤、緑、黄、青)等)が配列されている。ユーザが、上記操作キーを押し下げすることで、押し下げられた操作キーに対応した赤外線信号が発光される。受光部116は、リモコン3が発光した赤外線信号を受信する。受光部116は、受信した赤外線信号に対応する操作信号を制御部114へ出力する。
ユーザは、上記操作部115もしくはリモコン3を操作して、立体映像処理装置100の種々の動作を行わせたり、立体映像処理装置100の設定を変更することができる。例えば、ユーザは、立体映像処理装置100の視差、オートトラッキング、アラート画面表示等の設定を変更することができる。視差の設定では、ユーザは、2視差又は9視差のいずれで立体映像を視聴するかを選択することができる。ユーザにより選択された視差の設定は、後述する制御部114の不揮発性メモリ114cに記憶される。なお、上記視差数(2視差又は9視差)は、例示であり、他の視差数(例えば、4視差、6視差)であってもよい。
オートトラッキングの設定では、ユーザは、オートトラッキングをONするかOFFするかを選択することができる。オートトラッキングがONの場合、後述するカメラモジュール119で撮像される映像に基づいて算出したユーザの位置に自動で視域が形成される。オートトラッキングがONの場合、所定の時間(例えば、数十秒〜数分)ごとにユーザの位置が算出され、この算出したユーザの位置に視域が形成される。また、オートトラッキングがOFFの場合、ユーザが指示したときにのみ、ユーザの位置に視域が形成される。
なお、視域の形成は、以下のようにして行う。例えば、視域を映像表示部113の前後方向に動かしたい場合は、表示画像とレンチキュラーレンズの開口部の隙間を広くしたり、狭くすることで、視域が映像表示部113の前後方向に移動する。レンチキュラーレンズの開口部の隙間を広くすると、視域が映像表示部113の後方に移動する。また、レンチキュラーレンズの開口部の隙間を狭くすると、視域が映像表示部113の前方に移動する。
視域を映像表示部113の左右方向に動かしたい場合は、表示画像を左右にシフトさせることで、視域が映像表示部113の左右方向に移動する。表示画像を左にシフトさせることで、視域が映像表示部113の左側に移動する。また、表示画像を右にシフトさせることで、視域が映像表示部113の右側に移動する。
アラート画面表示の設定は、後述するアラート画面(図2参照)を表示するか否かを設定することができる。アラート画面表示がONの場合、後述するアラート画面(図2参照)が映像表示部113に表示される。また、アラート画面表示がOFFの場合、後述するアラート画面(図2参照)が映像表示部113に表示されない。
端子117は、外部端末(例えば、USBメモリ、DVD記憶再生装置、インターネットサーバ、PC等)を接続するためのUSB端子、LAN端子、HDMI端子、iLINK端子などである。
通信I/F118は、端子117に接続された上記外部端末との通信インターフェースであり、制御部114と上記外部端末との間で制御信号及びデータ等のフォーマットに変換を行う。
カメラモジュール119は、立体映像処理装置100の正面下側もしくは正面上側に設けられる。カメラモジュール119は、カメラ119aと、顔検出部119b(顔検出モジュール)と、不揮発性メモリ119cと、位置算出部119dとを備える。カメラ119aは、例えば、CMOSイメージセンサやCCDイメージセンサである。カメラ119aは、立体映像処理装置100前方を含む領域を撮像する。
顔検出部119bは、カメラ119aで撮像される映像からユーザの顔を検出する。顔検出部119bは、検出したユーザの顔に固有の番号(ID)を付与する。この顔検出には既知の手法を用いることができる。例えば、顔認識のアルゴリズムは、見た目の特徴を直接幾何学的に比較する方法と、画像を統計的に数値化してその数値をテンプレートと比較する方法との大別できるが、この実施形態では、どちらのアルゴリズムを用いて顔を検出してもよい。
不揮発性メモリ119cは、顔検出部119bで顔を検出できなかった場合、該顔を検出できなかった際の画像を記憶する。顔を検出できない場合としては、例えば、リモコン3の操作のためにユーザが下を向いている場合や、横にいる他のユーザと話すためにユーザが横を向いている場合などが考えられる。この不揮発性メモリ119cに記憶された画像は、映像表示部113に表示されるため、ユーザは、なぜ顔検出に失敗したのかを容易に理解、推考することができる。
なお、顔検出の失敗は、例えば、数秒に1度、カメラ119aで撮像される映像からユーザの顔の検出を行い、複数回(例えば、3回)連続して顔の検出に失敗した場合に、顔の検出に失敗したと判断すればよい。
位置算出部119dは、顔検出部119bで顔を検出したユーザの位置座標を算出する。このユーザの位置座標の算出には既知の手法を用いることができる。例えば、顔検出部119bで検出した顔の右目から左目の距離と、撮像した映像の中心から顔中心(右目と左目の中央)の座標とに基づいて顔を検出したユーザの位置座標を算出するようにしてもよい。
撮像した映像の中心から顔中心の座標からは、ユーザの上下及び左右方向(x−y平面)における位置がわかる。また、顔の右目から左目の距離からは、カメラ119aからユーザまでの距離を算出できる。通常、人間の右目と左目との距離は65mm程度であることから、右目と左目との距離がわかればカメラ119aからユーザまでの距離を算出することができる。
また、位置算出部119dは、顔検出部119bで付与したIDと同じIDを算出した位置座標のデータに付与する。なお、位置座標は、3次元の座標データとして認識できればよく、一般的に知られている座標系(例えば、直交座標系、極座標系、球座標系)のいずれで表現してもよい。
カメラモジュール119は、カメラ119aで撮像した映像にユーザの顔が検出できない場合、制御部114へアラート信号と、不揮発性メモリ119cに記憶されている顔を検出できなかった際の画像を出力する。また、ユーザの顔を検出できた場合、位置算出部119dで算出した位置座標を、顔認識部119bで付与したIDと共に出力する。なお、ユーザの顔の検出及び検出した顔(ユーザ)の位置座標の算出は、後述の制御部114で行うようにしてもよい。
制御部114は、ROM(Read Only Memory)114a、RAM(Random Access Memory)114b、不揮発性メモリ114c、CPU114dを備える。ROM114aには、CPU114dが実行する制御プログラムが格納されている。RAM114bは、CPU114dは作業エリアとして機能する。不揮発性メモリ114cには、各種の設定情報(例えば、上述の視差、トラッキング、アラート画面表示の設定情報)や視域情報等が格納されている。視域情報は、実空間における視域の分布を3次元の座標データとしたものである。視域情報は、2視差と9視差のそれぞれが不揮発性メモリ114cに記憶されている。
制御部114は、立体映像処理装置100全体を制御する。具体的には、制御部114は、操作部115及び受光部116から入力される操作信号や不揮発性メモリ114cに記憶されている設定情報に基づいて立体映像処理装置100全体の動作を制御する。以下、制御部114の代表的な動作について説明する。
(視差数の制御)
制御部114は、不揮発性メモリ114cに記憶されている視差が2視差であれば、信号処理部107から出力される映像信号から2視差用の画像データを生成するようグラフィック処理部108へ指示する。制御部114は、不揮発性メモリ114cに記憶されている視差が9視差であれば、信号処理部107から出力される映像信号から9視差用の画像データを生成するようグラフィック処理部108へ指示する。
制御部114は、不揮発性メモリ114cに記憶されている視差が2視差であれば、信号処理部107から出力される映像信号から2視差用の画像データを生成するようグラフィック処理部108へ指示する。制御部114は、不揮発性メモリ114cに記憶されている視差が9視差であれば、信号処理部107から出力される映像信号から9視差用の画像データを生成するようグラフィック処理部108へ指示する。
(トラッキングの制御)
また、制御部114は、不揮発性メモリ114cに記憶されているオートトラッキングがONの場合、所定の時間(例えば、数十秒〜数分)ごとに、カメラモジュール119で撮像される映像からユーザの位置を算出し、該算出した位置に視域が形成されるように映像表示部113の各画素からの光線の軌道を制御する。また、制御部114は、不揮発性メモリ114cに記憶されているオートトラッキングがOFFの場合、ユーザが操作部115又はリモコン3を操作して、視域の形成を指示したときにのみカメラモジュール119で撮像される映像からユーザの位置を算出し、該算出した位置に視域が形成されるように映像表示部113の各画素からの光線の軌道を制御する。
また、制御部114は、不揮発性メモリ114cに記憶されているオートトラッキングがONの場合、所定の時間(例えば、数十秒〜数分)ごとに、カメラモジュール119で撮像される映像からユーザの位置を算出し、該算出した位置に視域が形成されるように映像表示部113の各画素からの光線の軌道を制御する。また、制御部114は、不揮発性メモリ114cに記憶されているオートトラッキングがOFFの場合、ユーザが操作部115又はリモコン3を操作して、視域の形成を指示したときにのみカメラモジュール119で撮像される映像からユーザの位置を算出し、該算出した位置に視域が形成されるように映像表示部113の各画素からの光線の軌道を制御する。
(アラート画面の表示)
制御部114は、カメラモジュール119からアラート信号が送信されると、OSD信号生成部109に、顔を検出できない旨を通知する画像信号を生成し、映像表示部113に表示するよう指示する。図2は、実際に映像表示部113に表示される画像図である。図2に示すように、映像表示部113の下側に配置される表示枠201内には、顔が検出できなかった旨のメッセージ「トラッキング(顔検出)に失敗しました。」及びその後の操作を促すメッセージ「[青]を押して3D視聴位置チェックを行ってください。」が表示される。
制御部114は、カメラモジュール119からアラート信号が送信されると、OSD信号生成部109に、顔を検出できない旨を通知する画像信号を生成し、映像表示部113に表示するよう指示する。図2は、実際に映像表示部113に表示される画像図である。図2に示すように、映像表示部113の下側に配置される表示枠201内には、顔が検出できなかった旨のメッセージ「トラッキング(顔検出)に失敗しました。」及びその後の操作を促すメッセージ「[青]を押して3D視聴位置チェックを行ってください。」が表示される。
また、表示枠202内には、「[決定]を押す」が表示される。ユーザが操作部115もしくはリモコン3の青のカラーキーを押下げた場合、後述の図3の視聴位置確認画面が映像表示部113に表示される。また、ユーザが操作部115もしくはリモコン3の決定キーを押下げた場合、図2に示す枠201,202及び枠201,202内のメッセージが非表示となる。なお、ユーザが、アラート画面表示をOFFに設定している場合、図2に示す画像は表示されない。
(視聴位置確認画面の表示)
図2に示すアラート画面が映像表示部113に表示された後、ユーザにより、操作部115又はリモコン3の青色のカラーキーが押下げされると、制御部114は、OSD信号生成部109に、立体映像の視聴位置を確認するための画像信号を生成し、映像表示部113に表示するよう指示する。なお、この実施形態では、視聴位置確認画面への移行操作に青色のカラーキーを割り当てているが、他の操作キーを割り当てるようにしてもよい。
図2に示すアラート画面が映像表示部113に表示された後、ユーザにより、操作部115又はリモコン3の青色のカラーキーが押下げされると、制御部114は、OSD信号生成部109に、立体映像の視聴位置を確認するための画像信号を生成し、映像表示部113に表示するよう指示する。なお、この実施形態では、視聴位置確認画面への移行操作に青色のカラーキーを割り当てているが、他の操作キーを割り当てるようにしてもよい。
図3は、実際に映像表示部113に表示される画像図である。図3に示すように、映像表示部113には、表示枠301〜305が表示される。各表示枠301〜305内には、ユーザが視域内で立体画像を視聴するために必要な種々の情報が提示される。
表示枠301内には、ユーザが映像を立体として認識できる領域、すなわち視域内で立体画像を視聴するために必要な事項が表示される。
表示枠302内には、カメラモジュール119のカメラ119aで撮像される映像が表示される。ユーザは、表示枠302内に表示される映像により、顔の向きや位置、実際に顔が認識されているかどうか等を確認することができる。ユーザの顔が認識されている場合、認識したユーザの顔が枠により囲まれる。枠の上部には、カメラモジュール119の顔検出部119bで付与されたID(この実施形態では、アルファベット)が表示される。
なお、この実施形態では、ユーザが視域内であるか視域外であるか応じて枠の表示態様が異なる。図3に示す例では、ユーザが視域内である場合、ユーザの顔を囲む枠は実線で描画され、ユーザが視域外である場合、ユーザの顔を囲む枠は破線で描画されている。図3に示す例では、ユーザA,Bが視域内であり、ユーザCが視域外であることがわかる。
ユーザが視域外にいる場合、いわゆる逆視やクロストーク等の発生により、ユーザは映像を立体として認識できないが、この実施形態では、ユーザが視域内であるか否かに応じて枠の表示態様が異なるため、ユーザの位置が視域内か視域外かを簡単に確認することができる。なお、図3に示す例では、ユーザの顔を囲む枠の線の種類(実線、破線)をユーザの位置が視域内か否かに応じて異なるものとしているが他の表示形態、例えば、枠の形状(四角、三角、円等)、色等をユーザの位置が視域内か否かに応じて異なるものとしてもよい。このようにしても、ユーザの位置が視域内か視域外かを簡単に確認することができる。
ユーザの位置が視域内であるかどうかは、位置算出部119dで算出されたユーザの位置座標及び不揮発性メモリ114cに記憶されている視域情報に基づいて判定される。この際、制御部114は、視差数の設定が2視差か9視差かに応じて、参照する視域情報を変更する。すなわち、制御部114は、視差数の設定が2視差の場合、2視差用の視域情報を参照する。また、制御部114は、視差数の設定が9視差の場合、9視差用の視域情報を参照する。
表示枠303内には、不揮発性メモリ119cに記憶されている顔を検出できなかった際の画像が表示される。表示枠303内に表示される画像を確認することで、ユーザは、なぜ顔検出に失敗したのかを容易に理解することができる。例えば、図3に示す例では、ユーザが下を向いているために、顔を認識することができなかったことが理解できる。
表示枠304内には、現在の設定情報が表示される。具体的には、立体映像の視差数が2視差であるか9視差であるか、及び、オートトラッキングがONであるかOFFであるかが表示される。
表示枠305内には、立体映像を立体的に視聴可能な領域である視域305a(斜線部)と、カメラモジュール119の位置算出部119dで算出したユーザの位置情報(ユーザを示すアイコンと、該アイコンを囲む枠)及びID(アルファベット)が俯瞰図として表示される。表示枠305内に表示される俯瞰図は、不揮発性メモリ114cに記憶されている視域情報及び位置算出部119dで算出したユーザの位置座標に基づいて表示される。
ユーザは、表示枠305内に表示される俯瞰図を参照することで、自分の顔が認識されているか否か、認識されている場合、視域305a内に位置するかどうか、視域305a外にいる場合、どの方向に移動すれば視域305a内となるのかを容易に理解することができる。
また、この実施形態では、俯瞰図に示されるユーザの位置情報についても、視域内であるか視域外であるか応じて表示態様が異なる。図3に示す例では、ユーザが視域内である場合、ユーザを示すアイコンを囲む枠は実線で描画され、ユーザが視域外である場合、ユーザを示すアイコンを囲む枠は破線で描画されている。図3に示す例では、ユーザA,Bが視域内であり、ユーザCが視域外であることがわかる。なお、図3に示す例では、ユーザを示すアイコンを囲む枠の線の種類(実線、破線)をユーザの位置が視域内か否かに応じて異なるものとしているが、他の表示形態、例えば、アイコンを囲む枠の形状(四角、三角、円等)、色等をユーザの位置が視域内か否かに応じて異なるものとしてもよい。
また、表示枠302内に表示される映像と表示枠305内に表示される俯瞰図では、同一のユーザには、同一のアルファベットが上部に表示されるため、ユーザ、すなわち視聴者が複数人いる場合でも、自身がどの位置にいるかを容易に理解することができる。なお、図3では、同一のユーザには、同一のアルファベットを表示するようにしているが、他の方法、例えば、枠の色や形状により同一のユーザを表すようにしてもよい。
なお、表示枠305内の破線305bは、カメラ119aの撮像範囲の境界を表している。つまり、カメラ119aで実際に撮像され、表示枠302内に表示される範囲は、破線305bよりも下側の範囲となる。このため、表示枠305内の破線305bよりも左上及び右上の範囲については、表示枠305内への表示を省略するようにしてもよい。
(テストパターンの表示)
図3に示す視聴位置確認画面が映像表示部113に表示された後、ユーザにより、操作部115又はリモコン3の青色のカラーキーが押下げされると、制御部114は、OSD信号生成部109に、立体映像のテストパターンを表示するための画像信号を生成し、映像表示部113に表示するよう指示する。なお、この実施形態では、テストパターンへの移行操作に青色のカラーキーを割り当てているが、他の操作キーを割り当てるようにしてもよい。
図3に示す視聴位置確認画面が映像表示部113に表示された後、ユーザにより、操作部115又はリモコン3の青色のカラーキーが押下げされると、制御部114は、OSD信号生成部109に、立体映像のテストパターンを表示するための画像信号を生成し、映像表示部113に表示するよう指示する。なお、この実施形態では、テストパターンへの移行操作に青色のカラーキーを割り当てているが、他の操作キーを割り当てるようにしてもよい。
OSD信号生成部109は、テストパターンの画像信号を生成し、映像表示部113に出力する。映像表示部113には、立体画像のテストパターンが表示される。ユーザは、このテストパターンにより、現在の位置で、映像表示部113に表示される映像を立体として認識できるかどうか、すなわち視域内であるかどうかを確認することができる。
(視域情報の更新)
制御部114は、オートトラッキングやユーザの操作により視域が変更される度に新たな視域の分布を再計算し、不揮発性メモリ114cに記憶されている視域情報を更新する。
制御部114は、オートトラッキングやユーザの操作により視域が変更される度に新たな視域の分布を再計算し、不揮発性メモリ114cに記憶されている視域情報を更新する。
(立体映像処理装置100の動作)
図4は、立体映像処理装置100の動作を示すフローチャートである。以下、図4を参照して、立体映像処理装置100の動作を説明する。
図4は、立体映像処理装置100の動作を示すフローチャートである。以下、図4を参照して、立体映像処理装置100の動作を説明する。
カメラモジュール119は、カメラ119aにて立体映像処理装置100前方を撮像する(ステップS101)。顔検出部119bは、カメラ119aで撮像される映像に対して顔検出を行う(ステップS102)。顔が検出できる場合(ステップS102のYes)、カメラモジュール119は、ステップS101の動作に戻る。
顔検出部119bにて顔が認識できない場合(ステップS102のNo)、カメラモジュール119は、制御部114へアラート信号を送信する。制御部114は、アラート信号を受信すると、不揮発性メモリ114cに記憶されているアラート画面表示の設定を参照し、アラート画面表示の設定がONであるかどうかを確認する(ステップS103)。
アラート画面表示の設定がONの場合(ステップS103のYes)、制御部114は、OSD信号生成部109に、顔を検出できない旨を通知する画像信号を生成し、映像表示部113に表示するよう指示する。ODS信号生成部109は、制御部114からの指示に基づいて画像信号を生成して映像表示部113へ出力する。映像表示部113では、図2に示したアラート画面が表示される(ステップS104)。なお、アラート画面表示の設定がOFFの場合(ステップS103のNo)、制御部114は、後述のステップS106の動作を実施する。
アラート画面が表示された後、制御部114は、ユーザにより操作部115又はリモコン3の青色のカラーキーが押下げされたかどうかを判定する(ステップS105)。この判定は、青色のカラーキーの押下げに対応する操作信号が制御部114で受信されたかどうかで判定することができる。
カラーキーが押下げされた場合(ステップS105のYes)、制御部114は、立体映像の視聴位置を確認するための画像信号を生成し、映像表示部113に表示するよう指示する。ODS信号生成部109は、制御部114からの指示に基づいて画像信号を生成して映像表示部113へ出力する。映像表示部113では、図3に示した視聴位置確認画面が表示される(ステップS106)。なお、カラーキーが押下げされない場合(ステップS105のNo)、制御部114は、カラーキーが押下げられるまで待機する。
ユーザは、映像表示部113に表示される視聴位置確認画面を確認して、立体画像を立体的に視聴することができる領域(視域)内に位置するかを確認し、視域内に位置しない場合は、自身の位置が視域内となるように移動する。
視聴位置確認画面が表示された後、制御部114は、ユーザにより操作部115又はリモコン3の青色のカラーキーが押下げされたかどうかを判定する(ステップS107)。この判定は、青色のカラーキーの押下げに対応する操作信号が制御部114で受信されたかどうかで判定することができる。
カラーキーが押下げされた場合(ステップS107のYes)、制御部114は、OSD信号生成部109に、立体映像のテストパターンを表示するための画像信号を生成し、映像表示部113に表示するよう指示する。OSD信号生成部109は、テストパターンの画像信号を生成し、映像表示部113に出力する。映像表示部113には、立体画像のテストパターンが表示される(ステップS108)。なお、カラーキーが押下げされない場合(ステップS107のNo)、制御部114は、カラーキーが押下げられるまで待機する。
ユーザは、このテストパターンにより、実際に、映像表示部113に表示される映像が立体的に視聴できているかを確認する(ステップS109)。テストパターンが立体的に視聴できている場合(ステップS109のYes)、ユーザは、操作部115又はリモコン3の決定キーを操作して動作を終了させる。また、テストパターンが立体的に視聴できない場合(ステップS109のNo)、ユーザは、操作部115又はリモコン3のBACK(戻る)キーを操作して、ステップS106の動作に戻り、視聴位置の確認を再度実施する。
以上のように、実施形態に係る立体映像処理装置100では、ユーザの顔の検出に失敗した場合、図2に示すアラート画面が映像表示部113に表示される。このため、ユーザは、顔が検出されていないことを直ちに認識することができる。また、設定により、このアラート画面の表示をON又はOFFできるのでユーザの利便性が向上する。
また、実施形態に係る立体映像処理装置100では、図3に示す視聴位置確認画面が映像表示部113に表示される。視聴位置確認画面の表示枠302内には、カメラモジュール119で撮像される映像が表示され、ユーザの顔が認識されている場合、認識したユーザの顔が枠により囲まれる。このため、ユーザは、自身の顔の向きや位置、実際に顔が認識されているかどうか等を簡易に確認することができる。また、ユーザが視域内であるか視域外であるか応じて枠の表示態様(例えば、枠の形状(四角、三角、円等)、色、線の種類(実線、破線等))が異なるため、ユーザの位置が視域外か視域内かを簡単に確認することができる。
また、視聴位置確認画面の表示枠303内には、顔を検出できなかった際の画像が表示される。このため、ユーザは、なぜ顔検出に失敗したのかを容易に理解することができる。また、視聴位置確認画面の表示枠304内には、現在の設定情報が表示される。このため、ユーザは、現在の設定状況を容易に知ることができる。
さらに、視聴位置確認画面の表示枠305内には、立体映像を立体的に視聴可能な領域である視域305a(斜線部)と、カメラモジュール119の位置算出部119dで算出したユーザの位置情報(ユーザを示すアイコンと、該アイコンを囲む枠)が俯瞰図として表示される。各ユーザの位置情報には、付与されたIDが上部に表示される。また、ユーザが視域内であるか視域外であるか応じて、ユーザを示すアイコンを囲む枠の表示態様(例えば、枠の形状(四角、三角、円等)、色、線の種類(実線、破線等))が異なるため、ユーザの位置が視域外か視域内かを簡単に確認することができる。その結果、ユーザは、表示枠305内に表示される俯瞰図を参照することで、自分の顔が認識されているか否か、認識されている場合、視域305a内に位置するかどうか、視域305a外にいる場合、どの方向に移動すれば視域305a内となるのかを容易に理解することができる。
さらに、表示枠302内に表示される映像と表示枠305内に表示される俯瞰図では、同一のユーザには、同一のIDが表示されるため、ユーザ、すなわち視聴者が複数人いる場合でも、自身がどの位置にいるかを容易に理解することができる。
また、図3が表示された後、所定の操作を行うことで、映像表示部113にテストパターンが表示される。ユーザは、このテストパターンにより、実際に、映像表示部113に表示される映像が立体的に視聴できているかを確認することができるためユーザの利便性が向上する。
(その他の実施形態)
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。例えば、上記実施形態では、立体映像処理装置100としてデジタルテレビを例に説明したが、立体映像をユーザに提示する機器(例えば、PC(Personal computer)、携帯電話、タブレットPC、ゲーム機器等)や立体映像を提示するディスプレイに映像信号を出力する信号処理装置(例えば、STB(Set Top Box))であれば本発明を適用することができる。また、上記実施形態では、視域とユーザの位置との関係を俯瞰図としてユーザに提示しているが(図3参照)、視域とユーザの位置との位置関係が把握できれば俯瞰図でなくともよい。さらに、上記実施形態では、ユーザの顔を検出して、ユーザの位置情報を算出しているが、他の手法によりユーザを検出するようにしてもよい。この際は、例えば、ユーザの顔以外の部分(例えば、ユーザの肩や上半身等)を検出するようにしてもよい。
なお、本発明は上記実施形態そのままに限定されるものではなく、実施段階ではその要旨を逸脱しない範囲で構成要素を変形して具体化できる。例えば、上記実施形態では、立体映像処理装置100としてデジタルテレビを例に説明したが、立体映像をユーザに提示する機器(例えば、PC(Personal computer)、携帯電話、タブレットPC、ゲーム機器等)や立体映像を提示するディスプレイに映像信号を出力する信号処理装置(例えば、STB(Set Top Box))であれば本発明を適用することができる。また、上記実施形態では、視域とユーザの位置との関係を俯瞰図としてユーザに提示しているが(図3参照)、視域とユーザの位置との位置関係が把握できれば俯瞰図でなくともよい。さらに、上記実施形態では、ユーザの顔を検出して、ユーザの位置情報を算出しているが、他の手法によりユーザを検出するようにしてもよい。この際は、例えば、ユーザの顔以外の部分(例えば、ユーザの肩や上半身等)を検出するようにしてもよい。
1,2…アンテナ、3…リモートコントローラ(リモコン)、100…立体映像処理装置、101〜103…チューナ、104…PSK復調器、105…OFDM復調器、106…アナログ復調器、107…信号処理部、108…グラフィック処理部、109…OSD信号生成部、110…音声処理部、111…スピーカ、112…映像処理部、113…映像表示部(ディスプレイ)、114…制御部(コントローラ)、115…操作部(操作受付モジュール)、116…受光部(操作受付モジュール)、117…端子、118…通信I/F、119…カメラモジュール(撮像モジュール、顔検出モジュール、位置算出モジュール)。
Claims (14)
- 立体映像を表示するディスプレイの前方を含む領域を撮像する撮像モジュールと、
前記撮像モジュールで撮像される映像からユーザの顔を検出する顔検出モジュールと、
前記顔検出モジュールにて前記ユーザの顔が検出できない場合、顔が検出できない旨を通知し、前記立体映像を立体として認識できる領域を示す第1の画像を前記ディスプレイに表示するよう制御するコントローラと、
を備える立体映像処理装置。 - 前記第1の画像を表示する第1の指示操作を受け付ける操作受付モジュールをさらに備え、
前記コントローラは、
前記操作受付モジュールが前記第1の指示操作を受け付けると前記第1の画像を前記ディスプレイに表示するよう制御する請求項1記載の立体映像処理装置。 - 前記顔検出モジュールで顔を検出した前記ユーザの位置を算出する位置算出モジュールをさらに備え、
前記コントローラは、
前記位置算出モジュールで算出した前記ユーザの位置が、前記立体映像を立体として認識できる領域外である場合、前記ディスプレイに顔が検出できた旨及び前記立体映像を立体として認識できる領域外である旨を示すよう制御する請求項1又は請求項2に記載の立体映像処理装置。 - 前記コントローラは、
前記位置算出モジュールで算出したユーザの位置を前記第1の画像上に表示するよう制御する請求項3に記載の立体映像処理装置。 - 前記コントローラは、
前記撮像モジュールで撮像される映像を前記ディスプレイに表示するよう制御する請求項1乃至請求項4のいずれか1項に記載の立体映像処理装置。 - 前記コントローラは、
前記位置算出モジュールで算出した前記ユーザの位置が、前記立体映像を立体として認識できる領域内である否かに応じて、前記撮像モジュールで撮像される映像のユーザに対して異なる表示形態で前記ディスプレイに表示するよう制御する請求項5に記載の立体映像処理装置。 - 前記コントローラは、
前記位置算出モジュールで算出した前記ユーザの位置が、前記立体映像を立体として認識できる領域内である否かに応じて、前記第1の画像上のユーザの位置情報を異なる表示形態で前記ディスプレイに表示するよう制御する請求項4に記載の立体映像処理装置。 - 前記コントローラは、
前記ディスプレイに表示される前記撮像モジュールで撮像される映像のユーザと、前記第1の画像上に表示される前記ユーザの位置とを対応付けて表示するよう制御する請求項5又は請求項6に記載の立体映像処理装置。 - 前記操作受付モジュールは、
前記立体映像を立体として認識できるかどうかを確認するためのテストパターンを表示する第2の指示操作を受け付け、
前記コントローラは、
前記操作受付モジュールが、前記第2の指示操作を受け付けると、前記テストパターンを前記ディスプレイに表示するよう制御する請求項1乃至請求項8のいずれか1項に記載の立体映像処理装置。 - 前記コントローラは、
前記ユーザに顔が検出できない場合、該顔を検出できなかった際の第2の画像を前記ディスプレイに表示するよう制御する請求項1乃至請求項9のいずれか1項に記載の立体映像処理装置。 - 立体映像を表示するディスプレイの前方を含む領域を撮像する撮像モジュールで撮像される映像からユーザを検出する検出モジュールと、
前記検出モジュールにて前記ユーザが検出できない場合、ユーザが検出できない旨を通知し、前記立体映像を立体として認識できる領域を示す第1の画像を前記ディスプレイに表示するよう制御するコントローラと、
を備える立体映像処理装置。 - 前記コントローラは、
前記撮像モジュールで撮像される映像を前記ディスプレイに表示し、前記ユーザの位置が、前記立体映像を立体として認識できる領域内である否かに応じて、前記撮像モジュールで撮像される映像のユーザに対して異なる表示形態で前記ディスプレイに表示するよう制御する請求項11に記載の立体映像処理装置。 - 前記コントローラは、
前記ユーザの位置が、前記立体映像を立体として認識できる領域内である否かに応じて、前記第1の画像上のユーザの位置情報を異なる表示形態で前記ディスプレイに表示するよう制御する請求項11に記載の立体映像処理装置。 - 立体映像を表示するディスプレイの前方を含む領域を撮像する撮像モジュールで撮像される映像からユーザの顔を検出し、
前記ユーザの顔が検出できない場合、顔が検出できない旨を通知し、前記立体映像を立体として認識できる領域を示す第1の画像を前記ディスプレイに表示するよう制御する立体映像処理方法。
Priority Applications (3)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011189349A JP5197816B2 (ja) | 2011-08-31 | 2011-08-31 | 電子機器、電子機器の制御方法 |
| US13/451,474 US20130050816A1 (en) | 2011-08-31 | 2012-04-19 | Three-dimensional image processing apparatus and three-dimensional image processing method |
| CN2012101196373A CN102970553A (zh) | 2011-08-31 | 2012-04-20 | 三维图像处理设备和三维图像处理方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2011189349A JP5197816B2 (ja) | 2011-08-31 | 2011-08-31 | 電子機器、電子機器の制御方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JP2013051602A true JP2013051602A (ja) | 2013-03-14 |
| JP5197816B2 JP5197816B2 (ja) | 2013-05-15 |
Family
ID=47743365
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2011189349A Expired - Fee Related JP5197816B2 (ja) | 2011-08-31 | 2011-08-31 | 電子機器、電子機器の制御方法 |
Country Status (3)
| Country | Link |
|---|---|
| US (1) | US20130050816A1 (ja) |
| JP (1) | JP5197816B2 (ja) |
| CN (1) | CN102970553A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2022113478A (ja) * | 2021-01-25 | 2022-08-04 | 日本放送協会 | インテグラル立体表示システム及びその方法 |
Families Citing this family (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN104363435A (zh) * | 2014-09-26 | 2015-02-18 | 深圳超多维光电子有限公司 | 跟踪状态指示方法及显示装置 |
| CN104345885A (zh) * | 2014-09-26 | 2015-02-11 | 深圳超多维光电子有限公司 | 立体跟踪状态指示方法及显示装置 |
| US20160091966A1 (en) * | 2014-09-26 | 2016-03-31 | Superd Co., Ltd. | Stereoscopic tracking status indicating method and display apparatus |
| US20170171535A1 (en) * | 2015-12-09 | 2017-06-15 | Hyundai Motor Company | Three-dimensional display apparatus and method for controlling the same |
| KR20190050227A (ko) | 2017-11-02 | 2019-05-10 | 현대자동차주식회사 | 운전자 자세 제어 장치 및 방법 |
| KR102634349B1 (ko) * | 2018-10-11 | 2024-02-07 | 현대자동차주식회사 | 차량의 제어 장치 및 방법 |
| CN112622916B (zh) * | 2019-10-08 | 2025-03-04 | 株式会社斯巴鲁 | 车辆的驾驶辅助系统 |
Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10271536A (ja) * | 1997-03-24 | 1998-10-09 | Sanyo Electric Co Ltd | 立体映像表示装置 |
| JPH11155155A (ja) * | 1997-11-19 | 1999-06-08 | Toshiba Corp | 立体映像処理装置 |
| JP2000152285A (ja) * | 1998-11-12 | 2000-05-30 | Mr System Kenkyusho:Kk | 立体画像表示装置 |
| JP2011049630A (ja) * | 2009-08-25 | 2011-03-10 | Canon Inc | 3d映像処理装置及びその制御方法 |
| WO2011040513A1 (ja) * | 2009-10-01 | 2011-04-07 | 三洋電機株式会社 | 画像表示装置 |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP5462672B2 (ja) * | 2010-03-16 | 2014-04-02 | 株式会社ジャパンディスプレイ | 表示装置及び電子機器 |
-
2011
- 2011-08-31 JP JP2011189349A patent/JP5197816B2/ja not_active Expired - Fee Related
-
2012
- 2012-04-19 US US13/451,474 patent/US20130050816A1/en not_active Abandoned
- 2012-04-20 CN CN2012101196373A patent/CN102970553A/zh active Pending
Patent Citations (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH10271536A (ja) * | 1997-03-24 | 1998-10-09 | Sanyo Electric Co Ltd | 立体映像表示装置 |
| JPH11155155A (ja) * | 1997-11-19 | 1999-06-08 | Toshiba Corp | 立体映像処理装置 |
| JP2000152285A (ja) * | 1998-11-12 | 2000-05-30 | Mr System Kenkyusho:Kk | 立体画像表示装置 |
| JP2011049630A (ja) * | 2009-08-25 | 2011-03-10 | Canon Inc | 3d映像処理装置及びその制御方法 |
| WO2011040513A1 (ja) * | 2009-10-01 | 2011-04-07 | 三洋電機株式会社 | 画像表示装置 |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2022113478A (ja) * | 2021-01-25 | 2022-08-04 | 日本放送協会 | インテグラル立体表示システム及びその方法 |
Also Published As
| Publication number | Publication date |
|---|---|
| US20130050816A1 (en) | 2013-02-28 |
| CN102970553A (zh) | 2013-03-13 |
| JP5197816B2 (ja) | 2013-05-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP5197816B2 (ja) | 電子機器、電子機器の制御方法 | |
| EP3097689B1 (en) | Multi-view display control for channel selection | |
| US20130257928A1 (en) | Image display apparatus and method for operating the same | |
| US20120002010A1 (en) | Image processing apparatus, image processing program, and image processing method | |
| US20130328864A1 (en) | Image display apparatus and method for operating the same | |
| JP2013050645A (ja) | 映像処理装置および映像処理方法 | |
| JP5095851B1 (ja) | 映像処理装置および映像処理方法 | |
| JP5156117B1 (ja) | 映像処理装置および映像処理方法 | |
| CN102970562B (zh) | 视频处理装置、视频处理方法以及远程控制装置 | |
| JP5127972B1 (ja) | 電子機器、電子機器の制御方法 | |
| JP2013009127A (ja) | 画像表示装置及び画像表示方法 | |
| JP5143262B1 (ja) | 立体映像処理装置、立体映像処理方法 | |
| JP2013055694A (ja) | 映像処理装置および映像処理方法 | |
| KR101699740B1 (ko) | 2d/3d 변환 가능한 영상표시장치와 그 동작제어방법 | |
| JP2013081177A (ja) | 電子機器、電子機器の制御方法 | |
| JP5568116B2 (ja) | 映像処理装置および映像処理方法 | |
| JP5603911B2 (ja) | 映像処理装置、映像処理方法および遠隔制御装置 | |
| JP2013059094A (ja) | 立体映像処理装置、立体映像処理方法 | |
| JP2012178706A (ja) | 映像表示方法および映像表示装置 | |
| KR20110083915A (ko) | 원격제어장치로 제어할 수 있는 영상표시장치 및 그 동작 제어방법 | |
| JP2014175982A (ja) | 表示装置 | |
| JP2013055682A (ja) | 映像処理装置および映像処理方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20130108 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20130205 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160215 Year of fee payment: 3 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20160215 Year of fee payment: 3 |
|
| LAPS | Cancellation because of no payment of annual fees |