WO2018079389A1 - 送信装置、送信方法、受信装置および受信方法 - Google Patents
送信装置、送信方法、受信装置および受信方法 Download PDFInfo
- Publication number
- WO2018079389A1 WO2018079389A1 PCT/JP2017/037765 JP2017037765W WO2018079389A1 WO 2018079389 A1 WO2018079389 A1 WO 2018079389A1 JP 2017037765 W JP2017037765 W JP 2017037765W WO 2018079389 A1 WO2018079389 A1 WO 2018079389A1
- Authority
- WO
- WIPO (PCT)
- Prior art keywords
- viewing angle
- wide viewing
- information
- angle image
- image
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Ceased
Links
Images
Classifications
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/40—Client devices specifically adapted for the reception of or interaction with content, e.g. set-top-box [STB]; Operations thereof
- H04N21/47—End-user applications
- H04N21/472—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content
- H04N21/4728—End-user interface for requesting content, additional data or services; End-user interface for interacting with content, e.g. for content reservation or setting reminders, for requesting event notification, for manipulating displayed content for selecting a Region Of Interest [ROI], e.g. for requesting a higher resolution version of a selected region
-
- G—PHYSICS
- G09—EDUCATION; CRYPTOGRAPHY; DISPLAY; ADVERTISING; SEALS
- G09G—ARRANGEMENTS OR CIRCUITS FOR CONTROL OF INDICATING DEVICES USING STATIC MEANS TO PRESENT VARIABLE INFORMATION
- G09G5/00—Control arrangements or circuits for visual indicators common to cathode-ray tube indicators and other visual indicators
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N19/00—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals
- H04N19/70—Methods or arrangements for coding, decoding, compressing or decompressing digital video signals characterised by syntax aspects related to video coding, e.g. related to compression standards
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/20—Servers specifically adapted for the distribution of content, e.g. VOD servers; Operations thereof
- H04N21/23—Processing of content or additional data; Elementary server operations; Server middleware
- H04N21/236—Assembling of a multiplex stream, e.g. transport stream, by combining a video stream with other content or additional data, e.g. inserting a URL [Uniform Resource Locator] into a video stream, multiplexing software data into a video stream; Remultiplexing of multiplex streams; Insertion of stuffing bits into the multiplex stream, e.g. to obtain a constant bit-rate; Assembling of a packetised elementary stream
-
- H—ELECTRICITY
- H04—ELECTRIC COMMUNICATION TECHNIQUE
- H04N—PICTORIAL COMMUNICATION, e.g. TELEVISION
- H04N21/00—Selective content distribution, e.g. interactive television or video on demand [VOD]
- H04N21/60—Network structure or processes for video distribution between server and client or between remote clients; Control signalling between clients, server and network components; Transmission of management data between server and client, e.g. sending from server to client commands for recording incoming content stream; Communication details between server and client
- H04N21/65—Transmission of management data between client and server
- H04N21/658—Transmission by the client directed to the server
- H04N21/6587—Control parameters, e.g. trick play commands, viewpoint selection
Definitions
- target point information set in a wide viewing angle image is also inserted into the video stream.
- Command information controls selection of a target point that determines a display area.
- the target point information is information on the relative radius of the ellipse from the reference point set on the effective image area of the ellipse (including the circle) existing in the rectangular area of the wide viewing angle image and the angle from the horizontal axis. It is supposed to include.
- the target point information includes a rectangular area of the wide viewing angle image as an effective image area, and includes information on a two-dimensional relative position from a reference point in the rectangular area.
- the video encoder 104 specifically includes information on the reference point (RP), the effective image area of the ellipse, and the target point (TP) in the “SEIs” portion of the access unit (AU).
- a newly defined target point indication SEI message (Target_point_indication SEI message) having meta information and a newly defined target selection command SEI message (Target_Selection_Command SEI message) having command information are inserted.
- the video encoder 104 inserts these SEI messages into all the access units or only the access unit at the head of the GOP.
Landscapes
- Engineering & Computer Science (AREA)
- Multimedia (AREA)
- Signal Processing (AREA)
- Databases & Information Systems (AREA)
- Human Computer Interaction (AREA)
- Physics & Mathematics (AREA)
- Computer Hardware Design (AREA)
- General Physics & Mathematics (AREA)
- Theoretical Computer Science (AREA)
- Two-Way Televisions, Distribution Of Moving Picture Or The Like (AREA)
- Compression Or Coding Systems Of Tv Signals (AREA)
Abstract
受信側における広視野角画像内の表示領域を送信側で制御可能とする。 広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する。広視野角画像内の表示領域を制御するコマンドの情報をビデオストリームに挿入する。例えば、コマンドは、広視野角画像内の特定領域を表示領域として指定するものである。また、例えば、コマンドは、広視野角画像内の複数の領域を表示領域の選択候補として提示するものである。
Description
本技術は、送信装置、送信方法、受信装置および受信方法に関し、詳しくは、広視野角画像の動画像データを符号化して得られたビデオストリームを送信する送信装置等に関する。
広視野角画像は、広視野角に対応するミラーやレンズなどを用いてキャプチャされたものである。例えば、特許文献1には、広視野角画像としての全方位画像などの記載がある。
広視野角画像の動画像データを送信する場合、受信側においては、表示の際に変換の仕方によって表示対象部分が異なってくる。そのため、広視野角画像内の一定の部分画像を受信機間で一貫性をもって表示させたい場合に、従来は、その方法が存在しないという問題があった。
本技術の目的は、受信側における広視野角画像内の表示領域を送信側で制御可能とすることにある。
本技術の概念は、
広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信部と、
上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入部を備える
送信装置にある。
広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信部と、
上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入部を備える
送信装置にある。
本技術において、送信部により、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナが送信される。情報挿入部により、広視野角画像内の表示領域を制御するコマンドの情報がビデオストリームに挿入される。例えば、情報挿入部は、コマンドの情報を、全てのピクチャの符号化データに対応してあるいはGOPの先頭のピクチャの符号化データのみに対応して挿入する、ようにされてもよい。
また、例えば、コマンドは、広視野角画像内の特定領域を表示領域として指定するものである、ようにされてもよい。また、例えば、コマンドは、広視野角画像内の複数の領域を表示領域の選択候補として提示するものである、ようにされてもよい。そして、この場合、例えば、広視野角画像内の複数の領域のうちの1つの領域はデフォルトの表示領域として指定される、ようにされてもよい。
例えば、情報挿入部は、広視野角画像内に設定されたターゲットポイントの情報をビデオストリームにさらに挿入し、コマンドは、表示領域を決めるターゲットポイントの選択を制御する、ようにされてもよい。この場合、例えば、ターゲットポイントの情報は、広視野角画像の長方形領域内に存在する楕円の有効画像領域上に設定された基準点からの楕円の相対半径と水平軸からの角度の情報を含む、ようにされてもよい。また、この場合、例えば、ターゲットポイントの情報は、広視野角画像の長方形領域を有効画像領域とし、長方形領域内の基準となる点からの2次元相対位置の情報を含む、ようにされてもよい。
このように本技術においては、広視野角画像の動画像データを符号化して得られたビデオストリームに広視野角画像内の表示領域を制御するコマンドの情報を挿入して送信するものである。そのため、受信側における広視野角画像内の表示領域を送信側で制御することが可能となる。
また、本技術の他の概念は、
広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信部を備え、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理部をさらに備える
受信装置にある。
広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信部を備え、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理部をさらに備える
受信装置にある。
本技術において、受信部により、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナが受信される。ビデオストリームには、広視野角画像内の表示領域を制御するコマンドの情報が挿入されている。処理部により、ビデオストリームを復号化して得られた広視野角画像の動画像データがコマンドの情報に基づいて処理されて表示用画像データが得られる。
このように、本技術においては、ビデオストリームを復号化して得られた広視野角画像の動画像データを、広視野角画像内の表示領域を制御するコマンドの情報に基づいて処理して、表示用画像データを得るものである。そのため、広視野角画像内の表示領域は送信側が意図したものとなる。
なお、本技術において、例えば、コマンドは、広視野角画像内の複数の領域を表示領域の選択候補として提示するものであり、複数の領域から任意の領域を選択するためのユーザインタフェース画面を表示するように制御する表示制御部をさらに備え、処理部は、ユーザインタフェース画面に基づいて選択された領域の表示用画像データを得る、ようにされてもよい。これにより、ユーザは、表示領域の選択を容易に行い得る。
本技術によれば、受信側における広視野角画像内の表示領域を送信側で制御可能となる。なお、ここに記載された効果は必ずしも限定されるものではなく、本開示中に記載されたいずれかの効果であってもよい。
以下、発明を実施するための形態(以下、「実施の形態」とする)について説明する。なお、説明は以下の順序で行う。
1.実施の形態
2.変形例
1.実施の形態
2.変形例
<1.実施の形態>
[送受信システム]
図1は、実施の形態としての送受信システム10の構成例を示している。この送受信システム10は、送信装置100と、受信装置200とを有する構成となっている。
[送受信システム]
図1は、実施の形態としての送受信システム10の構成例を示している。この送受信システム10は、送信装置100と、受信装置200とを有する構成となっている。
送信装置100は、コンテナとしてのトランスポートストリームTSを放送波に載せて送信する。このトランスポートストリームTSには、全方位画像などの広視野角画像の動画像データを符号化して得られたビデオストリームが含まれている。そして、このビデオストリームには、広視野角画像内の表示領域を制御するコマンドの情報が挿入されている。
このコマンド情報は、全てのピクチャの符号化データに対応して、あるいはGOP(Group Of Picture)の先頭のピクチャの符号化データのみに対応して挿入される。例えば、コマンド情報は、広視野角画像内の特定領域を表示領域として指定するものとされる。また、例えば、コマンド情報は、広視野角画像内の複数の領域を表示領域の選択候補として提示するものとされる。
この実施の形態において、ビデオストリームには、広視野角画像内に設定されたターゲットポイントの情報も挿入される。コマンド情報は、表示領域を決めるターゲットポイントの選択を制御するものとされる。例えば、ターゲットポイントの情報は、広視野角画像の長方形領域内に存在する楕円(円を含む)の有効画像領域上に設定された基準点からの楕円の相対半径と水平軸からの角度の情報を含むものとされる。また、例えば、ターゲットポイントの情報は、広視野角画像の長方形領域を有効画像領域とし、長方形領域内の基準となる点からの2次元相対位置の情報を含むものとされる。
受信装置200は、送信装置100から放送波に載せて送られてくる上述のトランスポートストリームTSを受信する。このトランスポートストリームTSには、上述したように、広視野角画像の動画像データを符号化して得られたビデオストリームが含まれている。そして、このビデオストリームには、広視野角画像内の表示領域を制御するコマンドの情報が挿入されている。
受信装置200は、ビデオストリームを復号化して得られた広視野角画像の動画像データを、広視野角画像内の表示領域を制御するコマンドの情報に基づいて処理して、表示用画像データを得る。受信装置200は、コマンドが広視野角画像内の複数の領域を表示領域の選択候補として提示するものである場合、複数の領域から任意の領域を選択するためのユーザインタフェース画面を表示し、このユーザインタフェース画面に基づいて選択された領域の表示用画像データを得る。ユーザは、表示領域の選択を容易に行い得る。
「送信装置の構成」
図2は、送信装置100の構成例を示している。この送信装置100は、制御部101と、ユーザ操作部101aと、表示部101bと、広視野角カメラ102と、非圧縮データバッファ(dpb:decoded picture buffer)103と、ビデオエンコーダ104と、圧縮データバッファ(cpb:coded picture buffer)105と、TSフォーマッタ106と、送信部107を有している。
図2は、送信装置100の構成例を示している。この送信装置100は、制御部101と、ユーザ操作部101aと、表示部101bと、広視野角カメラ102と、非圧縮データバッファ(dpb:decoded picture buffer)103と、ビデオエンコーダ104と、圧縮データバッファ(cpb:coded picture buffer)105と、TSフォーマッタ106と、送信部107を有している。
制御部101は、CPU(Central Processing Unit)を備えており、送信装置100の各部の動作を制御する。この制御部101には、ユーザインタフェースを構成するユーザ操作部101aおよび表示部101bが接続されている。ユーザは、ユーザ操作部101aにより種々の入力操作を行うことができる。例えば、ユーザ操作部101aから、表示部101bに表示される広視野角画像の内にターゲットポイントを設定する操作を行うことができる。また、例えば、ユーザ操作部101aから、広視野角画像内の表示領域を制御するコマンド、ここでは表示領域を決めるターゲットポイントの選択を制御するコマンドを設定する操作を行うことができる。
広視野角カメラ102は、被写体を撮像して全方位画像などの広視野角画像の動画像データVDを得る。上述したように広視野角画像内にターゲットポイントを設定する際には、広視野角カメラ102で得られた広視野角画像の動画像データVDが制御部101を介して表示部101bに送られて、この表示部101bに広視野角画像が表示される。ビデオエンコーダ104は、非圧縮データバッファ103を通じて広視野角画像の動画像データVDを入力し、AVCあるいはHEVCなどで符号化してビデオストリームを得る。
ビデオエンコーダ104は、ビデオストリームに、上述したようにユーザ操作部101aからのユーザ操作で設定されたターゲットポイントの情報を挿入する。ここで、ターゲットポイントの個数は1個、あるいは2個以上である。また、ビデオエンコーダ104は、ビデオストリームに、広視野角画像の長方形領域内に存在する楕円の有効画像領域の情報と、この楕円の有効画像領域上に設定された基準点(RP: Reference Point)の情報も挿入する。ビデオエンコーダ104は、これらの情報を、全てのピクチャの符号化データに対応して、あるいはGOPの先頭のピクチャの符号化データのみに対応して挿入する。
各情報について説明する。図3を参照して、基準点(RP)の情報について説明する。この基準点(RP)は、広視野角画像の長方形領域内に存在する楕円の有効画像領域上に設定され、基準となる位置、例えば楕円の中心を示す。図3において、広視野角画像の長方形領域内に楕円の有効画像領域が存在し、この有効画像領域上に基準点(RP)が設定される。基準点(RP)の位置は、長方形のトップ・レフト(top-left)を起点とし、長方形全体を縦横1とした場合の縦方向と横方向の割合(rh%,rv%)として指定される。
なお、一連の相対位置で示す位置は、精度をよく取っておくことでビデオの解像度に依存せずに的確な位置の指定が行えるメリットがある。ビデオの解像度が予め特定できる場合は、位置の指定をすべて、相対位置でなく画素数で表すこともできる。
次に、図4を参照して、楕円の有効画像領域の情報について説明する。この場合、外側の長方形に対する楕円(円を含む)の外形位置を特定するために、基準点(RP)から長方形の特定位置へ引いた線分を水平軸からの角度θで表し、基準点RPから、その線分が円または楕円と交わる点への長さの、線分に対する比を角度θにおけるパーセンテージで表す。例えば、図4の線分OPは水平軸より角度θの方向へ向かうものであり、OPの長さを1とするとOQは比率rとして表される。
図4のような楕円の軌道は、以下のように、A~Dの4点をその角度とパーセンテージ、(θ、r)で表し、それらを通る軌道として求めることができ、楕円の有効画像領域を得ることが可能となる。
A:(0,OA/OS)
B:(90,1(OB/OT=1))
C:(180,OC/OU)
D:(270,1(OD/OW=1))
なお、OA,OB,OC,ODの角度は必ずしも90度刻みである必要はなく、水平軸からの角度として任意に指定できる要素である。
A:(0,OA/OS)
B:(90,1(OB/OT=1))
C:(180,OC/OU)
D:(270,1(OD/OW=1))
なお、OA,OB,OC,ODの角度は必ずしも90度刻みである必要はなく、水平軸からの角度として任意に指定できる要素である。
次に、ターゲットポイント(TP)の情報について説明する。最初に、図5を参照して、タイプ1(Type1)を説明する。このタイプ1の場合、ターゲットポイント(TP)は、広視野角画像の長方形領域に存在する楕円の有効画像領域上に設定された基準点(RP)からの楕円の相対半径drと水平軸からの角度φで示される(TP(φ,dr))。ここで、角度φは、基準点(RP)における水平線の角度を0として、そこから反時計回りの度数で示される。また、相対半径drは、角度φにおける有効画素領域の端点までの距離(半径に相当する)を1とした場合の割合で示される。
次に、図6を参照して、タイプ2(Type2)を説明する。このタイプ2の場合、ターゲットポイント(TP)は、広視野角画像の長方形領域を有効画像領域とし、この長方形領域内の基準となる点から長方形全体を1とした場合の2次元相対位置で示される。このタイプ2は、有効画像領域が楕円範囲内に収まらない場合に有効な方法である。
基準となる点が長方形領域のトップ・レフト(top-left)である場合、ターゲットポイント(TP)は(tx、ty)で示される。また、基準となる点が基準点(RP)である場合、RP(rh,rv)であるとして、ターゲットポイント(TP)は(tx-rh,ty-rv)で示される。この場合、ターゲットポイント(TP)の水平位置に関しては基準となる点から右側方向では正値となると共に左側方向では負値となり、またその垂直位置に関しては基準となる点から下側方向では正値となると共に上側方向では負値となる。
図7は、広視野角画像内に設定されたターゲットポイント(TP)の設定例を示している。この例は、ターゲットポイント(TP)が基準点(RP)からの楕円の相対半径drと水平軸からの角度φで指定された場合の例である。TP1~TP6のターゲットポイントは、基準点(RP)からの楕円の相対半径drがdr1で共通となっている。TR7のターゲットポイントは、基準点(RP)からの楕円の相対半径drがdr2で、TP1~TP6のターゲットポイントとは異なっている。
図8(a)は、図7に示す広視野角画像をパノラマ展開して得られた画像を示している。図8(b)は、パノラマ展開画像上におけるTP1~TP7のターゲットポイントの位置を示している。各ターゲットポイントはターゲットIDで識別される。受信側では、図8(c)に示すように、ターゲットIDで識別される各ターゲットポイントから所望のターゲットポイントを選択することで、そのターゲットポイントに対応した領域を表示領域として選択してその画像表示が可能となる。
この場合、ターゲットポイントが表示の中心となるように表示が行われる。また、表示後に、ユーザ操作で表示領域をずらしていくことは自由に行われる。なお、図8(c)は、受信側において全てのターゲットポイントが選択可能なように示しているが、この実施の形態においては、ビデオストリームに挿入されるコマンドの情報によって、受信側におけるターゲットポイントの選択が制御される。
上述例では、広視野角画像の長方形領域内に楕円の有効画像領域が1個だけ存在している。しかし、広視野角画像の長方形領域内に楕円の有効画像領域が複数個存在する場合もある。その場合にあっても、基準点(RP)、楕円の有効画像領域およびターゲットポイント(TP)の情報に関しては、上述例と同様に考えることができる。
図9は、広視野角画像の長方形領域内に楕円の有効画像領域が2個存在する例であって、ターゲットポイント(TP)がタイプ1で指定される例を示している。基準点(RP)は、各楕円有効画像領域上にそれぞれ設定されている。各基準点(RP)の位置は、長方形のトップ・レフト(top-left)を起点とし、長方形全体を縦横1とした場合の縦方向と横方向の割合として指定される。図示の例では、左側の楕円有効画像領域上に設定された基準点(RP1)の位置は(rh1%,rv1%)であり、右側の楕円有効画像領域上に設定された基準点(RP2)の位置は(rh2%,rv2%)である。
また、各楕円有効画像領域は、詳細説明は省略するが、上述例と同様に、軌道上の4点における角度とパーセンテージで示される。各ターゲットポイント(TP)は、広視野角画像の長方形領域に存在し、自身が属する側の楕円の有効画像領域上に設定された基準点(RP)からの楕円の相対半径drと水平軸からの角度φで示される。図示の例では、ターゲットポイント(TP1)は左側の楕円有効画像領域上に設定された基準点(RP1)からの楕円の相対半径dr1と水平軸からの角度φ1で示され、ターゲットポイント(TP2)は右側の楕円有効画像領域上に設定された基準点(RP2)からの楕円の相対半径dr2と水平軸からの角度φ2で示される。
図10は、広視野角画像の長方形領域内に楕円の有効画像領域が2個存在する例であって、ターゲットポイント(TP)がタイプ2で指定される例を示している。基準点(RP)は、各楕円有効画像領域上にそれぞれ設定されている。各基準点(RP)の位置は、長方形のトップ・レフト(top-left)を起点とし、長方形全体を縦横1とした場合の縦方向と横方向の割合として指定される。図示の例では、左側の楕円有効画像領域上に設定された基準点(RP1)の位置は(rh1%,rv1%)であり、右側の楕円有効画像領域上に設定された基準点(RP2)の位置は(rh2%,rv2%)である。
また、各楕円有効画像領域は、詳細説明は省略するが、上述例と同様に、軌道上の4点における角度とパーセンテージで示される。各ターゲットポイント(TP)は、広視野角画像の長方形領域を有効画像領域とし、この長方形領域内の基準となる点から長方形全体を1とした場合の2次元相対位置で示される。
図示の例では、基準となる点が長方形領域のトップ・レフト(top-left)である場合、ターゲットポイント(TP1)は(tx1、ty1)で示され、ターゲットポイント(TP2)は(tx2、ty2)で示される。また、基準となる点が基準点(RP)である場合、ターゲットポイント(TP1)は左側の楕円の有効画像領域に属するものとされて(tx1-rh1,ty1-rv1)で示され、ターゲットポイント(TP2)は右側の楕円の有効画像領域に属するものとされて(tx2-rh2,ty2-rv2)で示される。この場合、ターゲットポイント(TP)の水平位置に関しては基準となる点から右側方向では正値となると共に左側方向では負値となり、またその垂直位置に関しては基準となる点から下側方向では正値となると共に上側方向では負値となる。
図11は、広視野角画像内に設定されたターゲットポイント(TP)の設定例を示している。この例は、ターゲットポイント(TP)が広視野角画像の長方形領域内の基準となる点から長方形全体を1とした場合の2次元相対位置で示された場合の例である。左側の楕円の有効画像領域内にTP11のターゲットポイントが設定されている。また、右側の楕円の有効画像慮域内にTP12,TP13のターゲットポイントが設定されている。
図12(a)は、図11に示す広視野角画像をパノラマ展開して得られた画像を示している。図12(b)は、パノラマ展開画像上におけるTP11~TP13のターゲットポイントの位置を示している。各ターゲットポイントはターゲットIDで識別される。受信側では、図12(c)に示すように、ターゲットIDで識別される各ターゲットポイントから所望のターゲットポイントを選択することで、そのターゲットポイントに対応したターゲット領域を表示領域として選択してその画像表示が可能となる。
この場合、ターゲットポイントが表示の中心となるように表示が行われる。また、表示後に、ユーザ操作で表示領域をずらしていくことは自由に行われる。なお、図12(c)は、受信側において全てのターゲットポイントが選択可能なように示しているが、この実施の形態においては、ビデオストリームに挿入されるコマンドの情報によって、受信側におけるターゲットポイントの選択が制御される。
また、ビデオエンコーダ104は、ビデオストリームに、上述したようにユーザ操作部101aからのユーザ操作で設定されたコマンドの情報を挿入する。図13は、コマンド(CMD)の一例を示している。このコマンドは、コマンドタイプ(command_type)が“0x01”であって、広視野角画像内の特定領域を表示領域として指定するものである。図示の例では、広視野角画像内のターゲットID(Target_id)=“4”で示されるターゲットポイントに対応した一部領域が表示領域として指定されている。なお、この例は、図7のターゲットポイント(TP)の設定例に対応している。
このコマンドに対して、受信側では、コマンド解析が行われ、広視野角画像から変換された平面画(パノラマ展開画像)から指定された特定領域の画像が取り出されて、表示される。図示の例では、広視野角画像のうちターゲットID(Target_id)=“4”で示されるターゲットポイントに対応した一部領域の画像が表示される。
図14は、コマンド(CMD)の他の一例を示している。このコマンドは、コマンドタイプ(command_type)が“0x02”であって、広視野角画像内の複数の領域を表示領域の選択候補として提示するものである。そして、この実施の形態において、複数の領域のうちの1つの領域はデフォルトの表示領域として指定される。
図示の例では、広視野角画像内のターゲットID(Target_id)=“3”、“1”、“2”、“4” で示されるターゲットポイントに対応した一部領域、さらにはターゲットID=“0”で示される広視野角画像の全体領域が表示領域の選択候補として提示され、そのうちのターゲットID=“3”で示されるターゲットポイントに対応した一部領域がデフォルトの表示領域として指定されている。この場合、ID=“1”、“2”、“4”、“0”で示されるターゲットポイントに対応した領域はオプション領域として提示されている。なお、この例は、図7のターゲットポイント(TP)の設定例に対応している。
このコマンドに対して、受信側では、コマンド解析が行われ、広視野角画像、あるいは広視野角画像から変換された平面画(パノラマ展開画像)から選択された領域の画像が取り出されて、表示される。この場合、最初はデフォルトの表示領域として指定された領域の画像が表示される。図示の例では、最初は、広視野角画像のうちターゲットID=“3”で示されるターゲットポイントに対応した一部領域の画像が表示される。その後は、ユーザ操作によって選択された領域の画像表示に変更可能である。
図2に戻って、ビデオエンコーダ104は、具体的には、アクセスユニット(AU)の“SEIs”の部分に、基準点(RP)、楕円の有効画像領域およびターゲットポイント(TP)の情報などのメタ情報を持つ新規定義するターゲット・ポイント・インディケーション・SEIメッセージ(Target_point_indication SEI message)と、コマンドの情報を持つ新規定義するターゲット・セレクション・コマンド・SEIメッセージ(Target_Selection_Command SEI message)を挿入する。ビデオエンコーダ104は、これらのSEIメッセージを、全てのアクセスユニットに挿入するか、あるいは、GOPの先頭のアクセスユニットのみに挿入する。
図15は、符号化方式がHEVCである場合におけるGOP(Group Of Pictures)の先頭のアクセスユニットを示している。HEVCの符号化方式の場合、画素データが符号化されているスライス(slices)の前にデコード用のSEIメッセージ群「Prefix_SEIs」が配置され、このスライス(slices)の後に表示用のSEIメッセージ群「Suffix_SEIs」が配置される。ターゲット・ポイント・インディケーション・SEIメッセージおよびターゲット・セレクション・コマンド・SEIメッセージは、例えば、SEIメッセージ群「Suffix_SEIs」として配置される。
図16、図17は、ターゲット・ポイント・インディケーション・SEIメッセージの構造例(Syntax)を示している。図18は、その構造例における主要な情報の内容(Semantics)を示している。「byte_length」の8ビットフィールドは、このSEIメッセージの以降のサイズをバイト数で示す。
「pointing_type」の8ビットフィールドは、ターゲットポイントの座標位置の指定方法の種別を示す。例えば、“0x01”は極座標による座標(タイプ1)を示し、“0x02”は直交座標による座標(タイプ2)を示す。「number_of_active_area」の8ビットフィールドは、符号化エリア(広視野角画像の長方形領域)に存在する楕円の有効画像領域の数を示す。この数の分だけ、以下のフィールドが繰り返し存在する。
「area_id」の8ビットフィールドは、楕円の有効画像領域の識別情報を示す。「rp_position_h」の16ビットフィールドは、基準点(RP)の水平位置を画像のトップ・レフト(top-left)からの画像内相対距離で示す。「rp_position_v」の16ビットフィールドは、基準点(RP)の垂直位置を画像のトップ・レフト(top-left)からの画像内相対距離で示す。「degree_h」の16ビットフィールドは、楕円の長径の水平軸からの傾きを示す度数を示す。「degree_v」の16ビットフィールドは、楕円の短径の水平軸からの傾きを示す度数を示す。
「h_boundary_r」の16ビットフィールドは、基準点(RP)からの楕円長径(「degree_h」で示される)の右端境界までの距離を、その延長線の符号化対象長方形との交点までの距離に対する比で表す。「h_boundary_l」の16ビットフィールドは、基準点(RP)からの楕円長径(「degree_h」で示される)の左端境界までの距離を、その延長線の符号化対象長方形との交点までの距離に対する比で表す。
「v_boundary_t」の16ビットフィールドは、基準点(RP)からの楕円短径(「degree_v」で示される)の上端境界までの距離を、その延長線の符号化対象長方形との交点までの距離に対する比で表す。「v_boundary_b」基準点(RP)からの楕円短径(「degree_v」で示される)の下端境界までの距離を、その延長線の符号化対象長方形との交点までの距離に対する比で表す。
「pointing_type」が“0x01”であるとき、以下のフィールドが存在する。「target_id」の8ビットフィールドは、ターゲットポイントの識別情報を示す。例えば、“0”は広視野角全体を見渡すビューであることを示し、“0”以外は個々のビューであることを示す。「direction_degree」の16ビットフィールドは、水平軸からの角度φを示す。「distance_ratio」の16ビットフィールドは、基準点(PR)からの相対半径drを示す。
また、「pointing_type」が“0x01”であるとき、以下のフィールドが存在する。「target_id」の8ビットフィールドは、ターゲットポイントの識別情報を示す。例えば、“0”は広視野角全体を見渡すビューであることを示し、“0”以外は個々のビューであることを示す。「relative_h_position」の16ビットフィールドは、基準となる点からの水平方向相対位置を示す。「relative_v_position」の16ビットフィールドは、基準となる点からの垂直方向相対位置を示す。
図19は、ターゲット・セレクション・コマンド・SEIメッセージの構造例(Syntax)を示している。図20は、その構造例における主要な情報の内容(Semantics)を示している。「byte_length」の8ビットフィールドは、このSEIメッセージの以降のサイズをバイト数で示す。
「command_type」の8ビットフィールドは、コマンドの種別(タイプ)を示す。“0x01”は、指定ターゲットを必須表示させるコマンド、つまり広視野角画像内の特定領域を表示領域として指定するコマンドであることを示す。“0x02”は、デフォルトターゲットを指定し、且つ受信機側での表示ターゲットの選択変更を許可するコマンド、つまり広視野角画像内の複数の領域を表示領域の選択候補として提示し、そのうちの1つの領域をデフォルトの表示領域として提示するコマンドであることを示す。
「command_type」が“0x01”であるとき、「mandatory_target_id」の8ビットフィールドが存在する。このフィールドは、表示必須ターゲットのターゲットID(target_id)を示す。
また、「command_type」が“0x02”であるとき、「default_target_id」の8ビットフィールドが存在する。このフィールドは、デフォルト表示を行うターゲットのターゲットID(target_id)を示す。このとき、さらに、「number_of_optional_targets」の8ビットフィールドが存在する。このフィールドは、受信機側で選択表示可能なオプションターゲットの数を示す。そして、この数だけ、「optional_target_id」の8ビットフィールドが繰り返し存在する。このフィールドは、受信機側で選択表示可能なオプションターゲットのターゲットID(target_id)を示す。
図2に戻って、圧縮データバッファ(cpb)105は、ビデオエンコーダ104で生成されたビデオストリームを、一時的に蓄積する。TSフォーマッタ106は、圧縮データバッファ104に蓄積されているビデオストリームを読み出し、PESパケット化し、さらにトランスポートパケット化して多重し、多重化ストリームとしてのトランスポートストリームTSを得る。送信部107は、TSフォーマッタ106で得られたトランスポートストリームTSを、放送波あるいはネットのパケットに載せて、受信装置200に送信する。
図2に示す送信装置100の動作を簡単に説明する。広視野角カメラ102で得られた広視野角画像の動画像データVDは、非圧縮データバッファ(dpb)103を介して、ビデオエンコーダ103に供給される。ビデオエンコーダ104では、動画像データVDがAVCあるいはHEVCなどで符号化されて、ビデオストリーム(符号化ストリーム)が得られる。
また、ビデオエンコーダ104では、ビデオストリームに、ユーザ操作で広視野角画像内に設定されたターゲットポイント、さらには、広視野角画像の長方形領域内に存在する楕円の有効画像領域、この楕円の有効画像領域上に設定された基準点(RP)などの情報が挿入される。また、ビデオエンコーダ104では、ビデオストリームに、ユーザ操作で設定された、受信機側におけるターゲット領域の選択を制御するコマンドの情報が挿入される。これら情報は、全てのピクチャの符号化データに対応して、あるいはGOPの先頭のピクチャの符号化データのみに対応して挿入される。
具体的には、ビデオエンコーダ104では、アクセスユニット(AU)の“SEIs”の部分に、基準点(RP)、楕円の有効画像領域およびターゲットポイント(TP)の情報などのメタ情報を持つ新規定義するターゲット・ポイント・インディケーション・SEIメッセージと、コマンドの情報を持つ新規定義するターゲット・セレクション・コマンド・SEIメッセージが挿入される(図15、図16、図17、図19参照)。
ビデオエンコーダ104で生成されたビデオストリームは、圧縮データバッファ(cpb)105に一時的に蓄積される。TSフォーマッタ106では、圧縮データバッファ105に蓄積されている符号化ストリームが読み出され、PESパケット化され、さらにトランスポートパケット化されて多重され、多重化ストリームとしてのトランスポートストリームTSが得られる。
TSフォーマッタ106で得られたトランスポートストリームTSは、送信部107に送られる。送信部107では、TSフォーマッタ106で得られたトランスポートストリームTSが、放送波あるいはネットのパケットに載せて、受信装置200に送信される。
「受信装置の構成」
図21は、受信装置200の構成例を示している。この受信装置200は、制御部(Central Processing Unit)201と、ユーザ操作部201aと、受信部202と、TS解析部203と、圧縮データバッファ(cpb:coded picture buffer)204と、ビデオデコーダ205と、非圧縮データバッファ(dpb:decoded picture buffer)206と、コンバータ/セレクタ207と、合成部208と、表示部209を有している。
図21は、受信装置200の構成例を示している。この受信装置200は、制御部(Central Processing Unit)201と、ユーザ操作部201aと、受信部202と、TS解析部203と、圧縮データバッファ(cpb:coded picture buffer)204と、ビデオデコーダ205と、非圧縮データバッファ(dpb:decoded picture buffer)206と、コンバータ/セレクタ207と、合成部208と、表示部209を有している。
制御部201は、CPU(Central Processing Unit)を備えており、受信装置200の各部の動作を制御する。この制御部201には、ユーザインタフェースを構成するユーザ操作部201aが接続されている。ユーザは、ユーザ操作部201aにより種々の入力操作を行うことができる。例えば、受信機側でターゲット領域の選択表示が可能な場合には、ユーザ操作部201aからターゲットIDを指定することで、表示画像の選択変更が可能となる。
受信部202は、送信装置100から放送波あるいはネットのパケットに載せて送られてくるトランスポートストリームTSを受信する。TS解析部203は、トランスポートストリームTSから、それに含まれる広視野角画像の動画像データVDに係るビデオストリームを取り出して圧縮データバッファ(cpb)204に送る。
ビデオデコーダ205は、圧縮データバッファ204に蓄積されている各ピクチャの符号化画像データを、それぞれ、そのピクチャのDTS(Decoding Time stamp)で与えられるデコードタイミングで読み出してデコードする。デコードして得られた各ピクチャの画像データは非圧縮データバッファ206に一時的に蓄積される。そして、この非圧縮データバッファ206から各ピクチャの画像データがそのピクチャのPTS(Presentation Time Stamp)で与えられるタイミングで読み出されて、広視野角画像の動画像データVDが得られ、コンバータ/セレクタ207に送られる。
また、ビデオデコーダ205は、ビデオストリームに挿入されているパラメータセットやSEIメッセージを抽出し、制御部201に送る。この抽出情報には、上述したように、全てのアクセスユニットに挿入されている、あるいはGOPの先頭のアクセスユニットのみに挿入されているターゲット・ポイント・インディケーション・SEIメッセージ(図16、図17参照)やターゲット・セレクション・コマンド・SEIメッセージ(図19参照)も含まれる。
ここで、ターゲット・ポイント・インディケーション・SEIメッセージは、上述したように、広視野角画像内に設定されたターゲットポイント(TP)の情報、広視野角画像の長方形領域内に存在する楕円の有効画像領域の情報、および楕円の有効画像領域上に設定された基準点(RP)の情報などのメタ情報を持っている。また、ターゲット・セレクション・コマンド・SEIメッセージは、上述したように、受信側におけるターゲットポイントの選択を制御するコマンドの情報を持っている。制御部201は、全てのアクセスユニットに、あるいはGOPの先頭のアクセスユニットに対応して、これらの情報を認識する。
コンバータ/セレクタ207は、非圧縮データバッファ206で得られた広視野角画像の動画像データVDにパノラマ展開の画像処理を施して、パノラマ画像を得る。このパノラマ展開の画像処理は、制御部201からの広視野角画像の長方形領域内に存在する楕円の有効画像領域の情報、および楕円の有効画像領域上に設定された基準点(RP)の情報などに基づいて行われる。
また、コンバータ/セレクタ207は、コマンドのタイプが“0x02”であって受信機側でターゲットの選択表示が可能な場合(図14、図19参照)、制御部201からの表示領域として選択可能な各ターゲット領域のターゲットIDの情報に基づいて、デフォルトターゲットおよびオプションターゲットの各領域の画像内容を示すサムネイルのデータを生成し、それらのサムネイルのデータを制御部201に送る。
制御部201は、コマンドのタイプが“0x02”であって受信機側でターゲットの選択表示が可能な場合、コンバータ/セレクタ207から送られてくるサムネイルデータに基づいて、各領域の画像内容を示すサムネイルをターゲットIDと関連づけて表示するためのUI表示信号を生成する。
図22は、UI画面の一例を示している。この例は、図7のターゲットポイント(TP)の設定例に対応し、かつ図14のコマンドの設定例に対応している。図14のコマンドの設定例では、ターゲットID=“3”のターゲット領域はデフォルの表示領域として登録され、ID=“1”、“2”、“4”、“0”のターゲット領域はオプション領域として登録されており、これらのターゲット領域が表示選択可能としてUI画面に表示される。ユーザは、このUI画面に基づいて、ユーザ操作部201aからターゲット領域の選択変更の操作を行うことができる。なお、図22において、選択されていることを示す枠は、最初はデフォルトのターゲット領域を示すが、ユーザ操作による選択変更によって、この枠は選択変更されたターゲット領域を示すように移動する。
一方、ID=“5”、“6”、“7”のターゲット領域はデフォルト領域およびオプション領域のいずれにも登録されていないので、これらのターゲット領域は表示選択可能としてUI画面に表示されない。
制御部201は、ターゲットIDの指定情報をコンバータ/セレクタ207に送る。ここで、コマンドのタイプが“0x01”であって、必須表示のターゲット領域が指定されているときは、そのターゲットIDの情報をコンバータ/セレクタ207に送る。一方、コマンドのタイプが“0x02”であって受信機側でターゲット領域の選択表示が可能なとき、選択されたターゲット領域(最初はデフォルトのターゲット領域)のターゲットIDの情報をコンバータ/セレクタ207に送る。
コンバータ/セレクタ207は、制御部201から送られてくるターゲットID情報に応じたターゲット領域の表示用画像データを生成する。例えば、指定されたターゲットIDが“0”である場合には、広視野角画像の画像データに必要に応じて画素位置の変換や解像度変換などの処理を行って広視野角画像を表示するための表示用画像データを生成する。また、例えば、指定されたターゲットIDが“0”以外である場合には、広視野角画像からの変換により得られるパノラマ画像を経て、ターゲットIDが示すターゲットポイントに対応した一部領域の画像を表示するための画像データを選択的に取り出して表示用画像データを生成する。
合成部208は、コンバータ/セレクタ207で生成された表示用ビデオ信号および制御部201で発生されるUI表示信号を合成して、表示部209に送る。表示部209は、例えば、LCD(Liquid Crystal Display)、有機EL(Organic Electro-Luminescence)パネル等で構成されている。なお、この表示部209は、受信装置200に接続される外部機器であってもよい。
表示部209は、制御部201でUI表示信号を発生していない状態では、コンバータ/セレクタ207で生成された表示用ビデオ信号による画像を表示する。また、表示部209は、制御部201でUI表示信号を発生している状態では、UI表示信号によるUI画面を表示するか、あるいは表示用ビデオ信号による画像をUI表示信号によるUI画面が重畳された状態で表示する。
なお、コンバータ/セレクタ207でパノラマ画像からターゲットIDが示すターゲットポイントに対応した一部領域の画像を表示するための画像データが選択的に取り出され、表示部209にその一部領域の画像が表示されている状態で、ユーザ操作部201aからの操作で表示画像を上下左右にスクロールすることが可能とされる。この場合、コンバータ/セレクタ207は、パノラマ画像からの取り出し領域を、ユーザ操作に応じて順次変更していく。
図21に示す受信装置200の動作を簡単に説明する。受信部202では、送信装置100から放送波あるいはネットのパケットに載せて送られてくるトランスポートストリームTSが受信される。このトランスポートストリームTSは、TS解析部203に供給される。TS解析部203では、トランスポートストリームTSから、それに含まれる広視野角画像の動画像データVDに係るビデオストリームが取り出され、圧縮データバッファ204に送られる。
ビデオデコーダ205では、圧縮データバッファ204に蓄積されている各ピクチャの符号化画像データが、それぞれ、そのピクチャのDTS(Decoding Time stamp)で与えられるデコードタイミングで読み出されてデコードされる。デコードされて得られた各ピクチャの画像データは非圧縮データバッファ206に一時的に蓄積される。そして、この非圧縮データバッファ206から各ピクチャの画像データがそのピクチャのPTS(Presentation Time Stamp)で与えられるタイミングで読み出されて、広視野角画像の動画像データVDが得られ、コンバータ/セレクタ207に送られる。
また、ビデオデコーダ205では、ビデオストリームに挿入されているパラメータセットやSEIメッセージが抽出され、制御部201に送られる。この抽出情報には、ターゲット・ポイント・インディケーション・SEIメッセージやターゲット・セレクション・コマンド・SEIメッセージも含まれる。制御部201では、全てのアクセスユニットに、あるいはGOPの先頭のアクセスユニットに対応して、広視野角画像内に設定されたターゲットポイント(TP)の情報、広視野角画像の長方形領域内に存在する楕円の有効画像領域の情報、および楕円の有効画像領域上に設定された基準点(RP)の情報、さらには受信側におけるターゲットポイントの選択を制御するコマンドの情報が認識される。
コンバータ/セレクタ207では、広視野角画像の動画像データVDにパノラマ展開の画像処理が施されて、パノラマ画像が得られる。
また、コンバータ/セレクタ207では、コマンドのタイプが“0x02”であって受信機側でターゲットの選択表示が可能な場合(図14、図19参照)、制御部201からの表示領域として選択可能な各ターゲット領域のターゲットIDの情報に基づいて、デフォルトターゲットおよびオプションターゲットの各領域の画像内容を示すサムネイルのデータが生成され、それらのサムネイルのデータが制御部201に送られる。
制御部201では、コマンドのタイプが“0x02”であって受信機側でターゲットの選択表示が可能な場合、コンバータ/セレクタ207から送られてくるサムネイルデータに基づいて、各領域の画像内容を示すサムネイルをターゲットIDと関連づけて表示するためのUI表示信号が生成される。このUI表示信号は、合成部208を介して、表示部209に供給される。これにより、表示部209に、UI画面(図22参照)が表示される。ユーザは、このUI画面に基づいて、ユーザ操作部201aからターゲットIDを指定することで、表示領域とするターゲット領域の選択変更を行うことができる。
制御部201からコンバータ/セレクタ207にターゲットIDの指定情報が送られる。この場合、コマンドのタイプが“0x01”であって、必須表示のターゲット領域が指定されているときは、そのターゲットIDの情報がコンバータ/セレクタ207に送られる。一方、コマンドのタイプが“0x02”であって受信機側でターゲット領域の選択表示が可能なとき、選択されたターゲット領域(最初はデフォルトのターゲット領域)のターゲットIDの情報がコンバータ/セレクタ207に送られる。
コンバータ/セレクタ207では、制御部201から送られてくるターゲットIDの情報に応じたターゲット領域の表示用画像データが生成される。例えば、ターゲットIDが“0”である場合には、広視野角画像の画像データに必要に応じて画素位置の変換や解像度変換などの処理を行って広視野角画像を表示するための表示用画像データが生成される。また、例えば、ターゲットIDが“0”以外である場合には、パノラマ画像から、ターゲットIDが示すターゲットポイントに対応した一部領域の画像を表示するための画像データが選択的に取り出されて表示用画像データが生成される。
コンバータ/セレクタ207で生成された表示用画像データは、合成部208を介して、表示部209に供給される。これにより、表示部209には、その表示用画像データによる画像(広視野角画像、広視野角画像のうちのターゲットポイントに対応した一部領域の画像)が表示される。なお、この画像表示状態で、コマンドのタイプが“0x02”であって受信機側でターゲット領域の選択表示が可能なとき、表示部209にUI画面(図22参照)を表示し、このUI画面に基づいてユーザ操作部201aからターゲットIDの変更指定をすることで、表示画像の変更が行われる。
なお、広視野角画像のうちのターゲットポイントに対応した一部領域の画像が表示されている状態で、ユーザ操作部201aからの操作で表示画像は上下左右にスクロールされる。この場合、コンバータ/セレクタ207では、パノラマ画像からの取り出し領域が、ユーザ操作に応じて順次変更されていく。
以上説明したように、図1に示す送受信システム10において、送信装置100は、広視野角画像の動画像データを符号化して得られたビデオストリームに広視野角画像内の表示領域を制御するコマンドの情報を挿入して送信するものである。そのため、受信側における広視野角画像内の表示領域を送信側で制御することが可能となる。
また、図1に示す送受信システム10において、受信装置200は、コマンドのタイプが“0x02”であって受信機側でターゲット領域の選択表示が可能なとき、ユーザが表示領域とすべきターゲット領域を選択する際に、選択可能な各ターゲット領域の画像のサムネイルをターゲットIDと関連づけたUI画面を表示する。そのため、ユーザは、表示領域の選択変更を容易に行い得る。
<2.変形例>
なお、上述実施の形態においては、送信装置100と受信装置200からなる送受信システム10を示したが、本技術を適用し得る送受信システムの構成は、これに限定されるものではない。例えば、受信装置200の部分が、例えば、(HDMI(High-Definition Multimedia Interface)などのデジタルインタフェースで接続されたセットトップボックスおよびモニタの構成などであってもよい。なお、「HDMI」は、登録商標である。
なお、上述実施の形態においては、送信装置100と受信装置200からなる送受信システム10を示したが、本技術を適用し得る送受信システムの構成は、これに限定されるものではない。例えば、受信装置200の部分が、例えば、(HDMI(High-Definition Multimedia Interface)などのデジタルインタフェースで接続されたセットトップボックスおよびモニタの構成などであってもよい。なお、「HDMI」は、登録商標である。
また、上述実施の形態においては、コンテナがトランスポートストリーム(MPEG-2 TS)である例を示した。しかし、本技術は、インターネット等のネットワークを利用して受信端末に配信される構成のシステムにも同様に適用できる。インターネットの配信では、ISOBMFF(あるいはMP4)やそれ以外のフォーマットのコンテナで配信されることが多い。つまり、コンテナとしては、デジタル放送規格で採用されているトランスポートストリーム(MPEG-2 TS)、インターネット配信で使用されているISOBMFF(あるいはMP4)などの種々のフォーマットのコンテナが該当する。
また、本技術は、以下のような構成を取ることもできる。
(1)広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信部と、
上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入部を備える
送信装置。
(2)上記コマンドは、上記広視野角画像内の特定領域を表示領域として指定するものである
前記(1)に記載の送信装置。
(3)上記コマンドは、上記広視野角画像内の複数の領域を表示領域の選択候補として提示するものである
前記(1)に記載の送信装置。
(4) 上記広視野角画像内の複数の領域のうちの1つの領域はデフォルトの表示領域として指定される
前記(3)に記載の送信装置。
(5)上記情報挿入部は、上記広視野角画像内に設定されたターゲットポイントの情報を上記ビデオストリームにさらに挿入し、
上記コマンドは、上記表示領域を決める上記ターゲットポイントの選択を制御する
前記(1)から(4)のいずれかに記載の送信装置。
(6)上記ターゲットポイントの情報は、上記広視野角画像の長方形領域内に存在する楕円の有効画像領域上に設定された基準点からの楕円の相対半径と水平軸からの角度の情報を含む
前記(5)に記載の送信装置。
(7)上記ターゲットポイントの情報は、上記広視野角画像の長方形領域を有効画像領域とし、上記長方形領域内の基準となる点からの2次元相対位置の情報を含む
前記(5)に記載の送信装置。
(8)上記情報挿入部は、上記コマンドの情報を、全てのピクチャの符号化データに対応してあるいはGOPの先頭のピクチャの符号化データのみに対応して挿入する
前記(1)から(7)のいずれかに記載の送信装置。
(9)送信部が、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップと、
情報挿入部が、上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入ステップを有する
送信方法。
(10)広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信部を備え、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理部をさらに備える
受信装置。
(11)上記コマンドは、上記広視野角画像内の複数の領域を表示領域の選択候補として提示するものであり、
上記複数の領域から任意の領域を選択するためのユーザインタフェース画面を表示するように制御する表示制御部をさらに備え、
上記処理部は、上記ユーザインタフェース画面に基づいて選択された領域の表示用画像データを得る
前記(10)に記載の受信装置。
(12)受信部が、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信ステップを有し、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
処理部が、上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理ステップをさらに有する
受信方法。
(1)広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信部と、
上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入部を備える
送信装置。
(2)上記コマンドは、上記広視野角画像内の特定領域を表示領域として指定するものである
前記(1)に記載の送信装置。
(3)上記コマンドは、上記広視野角画像内の複数の領域を表示領域の選択候補として提示するものである
前記(1)に記載の送信装置。
(4) 上記広視野角画像内の複数の領域のうちの1つの領域はデフォルトの表示領域として指定される
前記(3)に記載の送信装置。
(5)上記情報挿入部は、上記広視野角画像内に設定されたターゲットポイントの情報を上記ビデオストリームにさらに挿入し、
上記コマンドは、上記表示領域を決める上記ターゲットポイントの選択を制御する
前記(1)から(4)のいずれかに記載の送信装置。
(6)上記ターゲットポイントの情報は、上記広視野角画像の長方形領域内に存在する楕円の有効画像領域上に設定された基準点からの楕円の相対半径と水平軸からの角度の情報を含む
前記(5)に記載の送信装置。
(7)上記ターゲットポイントの情報は、上記広視野角画像の長方形領域を有効画像領域とし、上記長方形領域内の基準となる点からの2次元相対位置の情報を含む
前記(5)に記載の送信装置。
(8)上記情報挿入部は、上記コマンドの情報を、全てのピクチャの符号化データに対応してあるいはGOPの先頭のピクチャの符号化データのみに対応して挿入する
前記(1)から(7)のいずれかに記載の送信装置。
(9)送信部が、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップと、
情報挿入部が、上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入ステップを有する
送信方法。
(10)広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信部を備え、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理部をさらに備える
受信装置。
(11)上記コマンドは、上記広視野角画像内の複数の領域を表示領域の選択候補として提示するものであり、
上記複数の領域から任意の領域を選択するためのユーザインタフェース画面を表示するように制御する表示制御部をさらに備え、
上記処理部は、上記ユーザインタフェース画面に基づいて選択された領域の表示用画像データを得る
前記(10)に記載の受信装置。
(12)受信部が、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信ステップを有し、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
処理部が、上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理ステップをさらに有する
受信方法。
本技術の主な特徴は、広視野角画像の動画像データを符号化して得られたビデオストリームに広視野角画像内の表示領域を制御するコマンドの情報を挿入して送信することで、受信側における広視野角画像内の表示領域を送信側で制御することを可能としたことである(図13、図14、図15参照)。
10・・・送受信システム
100・・・送信装置
101・・・制御部
101a・・・ユーザ操作部
101b・・・表示部
102・・・広視野角カメラ
103・・・非圧縮データバッファ
104・・・ビデオエンコーダ
105・・・圧縮データバッファ
106・・・TSフォーマッタ
107・・・送信部
200・・・受信装置
201・・・制御部
201a・・・ユーザ操作部
202・・・受信部
203・・・TS解析部
204・・・圧縮データバッファ
205・・・ビデオデコーダ
206・・・非圧縮データバッファ
207・・・コンバータ/セレクタ
208・・・合成部
209・・・表示部
100・・・送信装置
101・・・制御部
101a・・・ユーザ操作部
101b・・・表示部
102・・・広視野角カメラ
103・・・非圧縮データバッファ
104・・・ビデオエンコーダ
105・・・圧縮データバッファ
106・・・TSフォーマッタ
107・・・送信部
200・・・受信装置
201・・・制御部
201a・・・ユーザ操作部
202・・・受信部
203・・・TS解析部
204・・・圧縮データバッファ
205・・・ビデオデコーダ
206・・・非圧縮データバッファ
207・・・コンバータ/セレクタ
208・・・合成部
209・・・表示部
Claims (12)
- 広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信部と、
上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入部を備える
送信装置。 - 上記コマンドは、上記広視野角画像内の特定領域を表示領域として指定するものである
請求項1に記載の送信装置。 - 上記コマンドは、上記広視野角画像内の複数の領域を表示領域の選択候補として提示するものである
請求項1に記載の送信装置。 - 上記広視野角画像内の複数の領域のうちの1つの領域はデフォルトの表示領域として指定される
請求項3に記載の送信装置。 - 上記情報挿入部は、上記広視野角画像内に設定されたターゲットポイントの情報を上記ビデオストリームにさらに挿入し、
上記コマンドは、上記表示領域を決める上記ターゲットポイントの選択を制御する
請求項1に記載の送信装置。 - 上記ターゲットポイントの情報は、上記広視野角画像の長方形領域内に存在する楕円の有効画像領域上に設定された基準点からの楕円の相対半径と水平軸からの角度の情報を含む
請求項5に記載の送信装置。 - 上記ターゲットポイントの情報は、上記広視野角画像の長方形領域を有効画像領域とし、上記長方形領域内の基準となる点からの2次元相対位置の情報を含む
請求項5に記載の送信装置。 - 上記情報挿入部は、上記コマンドの情報を、全てのピクチャの符号化データに対応してあるいはGOPの先頭のピクチャの符号化データのみに対応して挿入する
請求項1に記載の送信装置。 - 送信部が、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを送信する送信ステップと、
情報挿入部が、上記広視野角画像内の表示領域を制御するコマンドの情報を上記ビデオストリームに挿入する情報挿入ステップを有する
送信方法。 - 広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信部を備え、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理部をさらに備える
受信装置。 - 上記コマンドは、上記広視野角画像内の複数の領域を表示領域の選択候補として提示するものであり、
上記複数の領域から任意の領域を選択するためのユーザインタフェース画面を表示するように制御する表示制御部をさらに備え、
上記処理部は、上記ユーザインタフェース画面に基づいて選択された領域の表示用画像データを得る
請求項10に記載の受信装置。 - 受信部が、広視野角画像の動画像データを符号化して得られたビデオストリームを含む所定フォーマットのコンテナを受信する受信ステップを有し、
上記ビデオストリームには、上記広視野角画像内の表示領域を制御するコマンドの情報が挿入されており、
処理部が、上記ビデオストリームを復号化して得られた上記広視野角画像の動画像データを上記コマンドの情報に基づいて処理して表示用画像データを得る処理ステップをさらに有する
受信方法。
Priority Applications (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| EP17865739.1A EP3534612B1 (en) | 2016-10-26 | 2017-10-18 | Transmission apparatus, transmission method, reception apparatus, and reception method |
| JP2018547607A JP6943255B2 (ja) | 2016-10-26 | 2017-10-18 | 送信装置、送信方法、受信装置および受信方法 |
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2016209777 | 2016-10-26 | ||
| JP2016-209777 | 2016-10-26 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| WO2018079389A1 true WO2018079389A1 (ja) | 2018-05-03 |
Family
ID=62025054
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| PCT/JP2017/037765 Ceased WO2018079389A1 (ja) | 2016-10-26 | 2017-10-18 | 送信装置、送信方法、受信装置および受信方法 |
Country Status (3)
| Country | Link |
|---|---|
| EP (1) | EP3534612B1 (ja) |
| JP (1) | JP6943255B2 (ja) |
| WO (1) | WO2018079389A1 (ja) |
Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013255210A (ja) * | 2012-01-19 | 2013-12-19 | Nippon Telegr & Teleph Corp <Ntt> | 映像表示方法、映像表示装置および映像表示プログラム |
| WO2016056411A1 (ja) * | 2014-10-10 | 2016-04-14 | ソニー株式会社 | 符号化装置および方法、再生装置および方法、並びにプログラム |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP6382329B2 (ja) * | 2014-02-18 | 2018-08-29 | エルジー エレクトロニクス インコーポレイティド | パノラマサービスのための放送信号送受信方法及び装置 |
| EP3534611A4 (en) * | 2016-10-25 | 2019-09-04 | Sony Corporation | SENDING DEVICE, TRANSMISSION PROCEDURE, RECEPTION DEVICE AND RECEPTION PROCEDURE |
-
2017
- 2017-10-18 EP EP17865739.1A patent/EP3534612B1/en active Active
- 2017-10-18 JP JP2018547607A patent/JP6943255B2/ja not_active Expired - Fee Related
- 2017-10-18 WO PCT/JP2017/037765 patent/WO2018079389A1/ja not_active Ceased
Patent Citations (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013255210A (ja) * | 2012-01-19 | 2013-12-19 | Nippon Telegr & Teleph Corp <Ntt> | 映像表示方法、映像表示装置および映像表示プログラム |
| WO2016056411A1 (ja) * | 2014-10-10 | 2016-04-14 | ソニー株式会社 | 符号化装置および方法、再生装置および方法、並びにプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| EP3534612B1 (en) | 2021-08-25 |
| EP3534612A4 (en) | 2019-09-04 |
| JP6943255B2 (ja) | 2021-09-29 |
| JPWO2018079389A1 (ja) | 2019-09-12 |
| EP3534612A1 (en) | 2019-09-04 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US10575062B2 (en) | Reception apparatus, reception method, transmission apparatus, and transmission method | |
| EP3739889A1 (en) | Transmission device, transmission method, reception device and reception method | |
| WO2018177373A1 (en) | Method and apparatus for signaling spherical region information in isobmff | |
| CN110999308B (zh) | 发送装置、发送方法、接收装置和接收方法 | |
| US20200372919A1 (en) | Transmission apparatus, transmission method, processing apparatus, and processing method | |
| JP2026015579A (ja) | 送信装置、送信方法、受信装置および受信方法 | |
| JP6969572B2 (ja) | 送信装置、送信方法、受信装置および受信方法 | |
| JP6943255B2 (ja) | 送信装置、送信方法、受信装置および受信方法 | |
| JP7056576B2 (ja) | 送信装置、送信方法、受信装置および受信方法 | |
| JP7821823B2 (ja) | メディア処理装置、送信装置及び受信装置 | |
| JP7825645B2 (ja) | メディア処理装置、送信装置及び受信装置 | |
| JP7817850B2 (ja) | メディア処理装置及びユーザ端末 | |
| US10965971B2 (en) | Server device, method of transmission processing of server device, client device, method of reception processing of client device, and server system | |
| JP2023117400A (ja) | メディア処理装置、送信装置及び受信装置 | |
| JP2023117157A (ja) | メディア処理装置、送信装置及び受信装置 | |
| JP2024116702A (ja) | シーン記述編集装置及びプログラム | |
| JP2024165003A (ja) | シーン記述編集装置及びプログラム | |
| JP2024122238A (ja) | メディア処理装置、送信装置及び受信装置 | |
| JP2025110755A (ja) | メディア処理装置、ユーザ端末及びプログラム | |
| WO2019181493A1 (ja) | 受信装置、受信方法、送信装置および送信方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| 121 | Ep: the epo has been informed by wipo that ep was designated in this application |
Ref document number: 17865739 Country of ref document: EP Kind code of ref document: A1 |
|
| ENP | Entry into the national phase |
Ref document number: 2018547607 Country of ref document: JP Kind code of ref document: A |
|
| NENP | Non-entry into the national phase |
Ref country code: DE |
|
| ENP | Entry into the national phase |
Ref document number: 2017865739 Country of ref document: EP Effective date: 20190527 |