JPH09231408A - 動画像合成装置 - Google Patents
動画像合成装置Info
- Publication number
- JPH09231408A JPH09231408A JP8041944A JP4194496A JPH09231408A JP H09231408 A JPH09231408 A JP H09231408A JP 8041944 A JP8041944 A JP 8041944A JP 4194496 A JP4194496 A JP 4194496A JP H09231408 A JPH09231408 A JP H09231408A
- Authority
- JP
- Japan
- Prior art keywords
- moving image
- area
- divided
- virtual camera
- depth value
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Processing Or Creating Images (AREA)
- Studio Circuits (AREA)
Abstract
(57)【要約】
【目的】 撮影時とは異なる視点からの画像表示がで
き、複数の被写体の前後関係、重複部分を考慮した動画
像合成が可能な動画像合成装置を提供すること。 【構成】 2つの被写体の動画オブジェクトを入力し、
各動画オブジェクトの被写体の分割領域について、仮想
カメラにおける奥行き値と分割領域に対応する変形領域
とをそれぞれ算出する座標変換手段3と、その算出され
た奥行き値と変形領域に基づき、入力された各動画オブ
ジェクト上の分割領域を変形し、輝度値を修正する画像
変形手段4と、仮想カメラにおける変形領域の奥行き値
に基づき、その変形領域内の画素を描画するか否かを判
定する描画判定手段6と、描画すると判定された画素の
輝度値を格納するフレームメモリ5とを備える。
き、複数の被写体の前後関係、重複部分を考慮した動画
像合成が可能な動画像合成装置を提供すること。 【構成】 2つの被写体の動画オブジェクトを入力し、
各動画オブジェクトの被写体の分割領域について、仮想
カメラにおける奥行き値と分割領域に対応する変形領域
とをそれぞれ算出する座標変換手段3と、その算出され
た奥行き値と変形領域に基づき、入力された各動画オブ
ジェクト上の分割領域を変形し、輝度値を修正する画像
変形手段4と、仮想カメラにおける変形領域の奥行き値
に基づき、その変形領域内の画素を描画するか否かを判
定する描画判定手段6と、描画すると判定された画素の
輝度値を格納するフレームメモリ5とを備える。
Description
【0001】
【発明の属する技術分野】本発明は、複数の異なる被写
体を実写した異なる複数の動画像を仮想の3次元空間内
に配置し、仮想のカメラ位置から撮影した新たなる動画
像を編集する動画像合成装置に関するものである。
体を実写した異なる複数の動画像を仮想の3次元空間内
に配置し、仮想のカメラ位置から撮影した新たなる動画
像を編集する動画像合成装置に関するものである。
【0002】
【従来の技術】近年、動画像合成はノンリニア編集に見
られるように実時間で異なる動画像を接続したり、画面
内のある領域に動画像をはめ込む編集がなされている。
また、コンピュータグラフィックス(以下CGと呼ぶ)技
術の発展により、実写画像を仮想の3次元物体の表面に
写像して映像特殊効果を生み出す装置や、カメラで実物
を撮影すると同時に、カメラの動きに同期してCG映像を
生成し、実写映像とCG映像を前後関係を比較して合成す
る試みも放送業界においてなされている。
られるように実時間で異なる動画像を接続したり、画面
内のある領域に動画像をはめ込む編集がなされている。
また、コンピュータグラフィックス(以下CGと呼ぶ)技
術の発展により、実写画像を仮想の3次元物体の表面に
写像して映像特殊効果を生み出す装置や、カメラで実物
を撮影すると同時に、カメラの動きに同期してCG映像を
生成し、実写映像とCG映像を前後関係を比較して合成す
る試みも放送業界においてなされている。
【0003】以下図面を参照しながら、上記した従来の
動画像合成装置の一例について説明する。
動画像合成装置の一例について説明する。
【0004】図10は、従来の動画像合成装置の構成を
示すブロック図である。図10において、101は第1
の被写体を撮影した動画像を蓄える第1のフレームメモ
リで、102は第2の被写体を撮影した動画像を蓄える
第2のフレームメモリ、103は第1の動画像を描画す
る領域を算出する第1の領域指定手段、104は第2の
動画像を描画する領域を算出する第2の領域指定手段、
105は第1の動画像を変形する第1の再配列手段、1
06は第2の動画像を変形する第2の再配列手段、10
7は変形された第1の動画と第2の動画を合成して描画
するための第3のフレームメモリである。
示すブロック図である。図10において、101は第1
の被写体を撮影した動画像を蓄える第1のフレームメモ
リで、102は第2の被写体を撮影した動画像を蓄える
第2のフレームメモリ、103は第1の動画像を描画す
る領域を算出する第1の領域指定手段、104は第2の
動画像を描画する領域を算出する第2の領域指定手段、
105は第1の動画像を変形する第1の再配列手段、1
06は第2の動画像を変形する第2の再配列手段、10
7は変形された第1の動画と第2の動画を合成して描画
するための第3のフレームメモリである。
【0005】以上のように構成された動画像合成装置に
ついて、以下その動作について説明する。
ついて、以下その動作について説明する。
【0006】まず、ビデオカメラで撮影された第1の動
画像は、フレームメモリ101に実時間で蓄えられる。
第1の領域指定手段103はフレームメモリ101内の
元の領域と、フレームメモリ107内に描画する領域を
算出する。同様に、第2の動画像はフレームメモリ10
2に蓄えられ、領域指定手段103によってフレームメ
モリ102の変形前の領域と描画すべきフレームメモリ
107の領域とを算出する。第1、第2の再配列手段1
05は、それぞれフレームメモリ101,102から読
み出す画素データのアドレスと、フレームメモリ107
内に書き込むアドレスを算出し、読み出した画素データ
にフィルタ処理を行ってフレームメモリ107に書き込
む。
画像は、フレームメモリ101に実時間で蓄えられる。
第1の領域指定手段103はフレームメモリ101内の
元の領域と、フレームメモリ107内に描画する領域を
算出する。同様に、第2の動画像はフレームメモリ10
2に蓄えられ、領域指定手段103によってフレームメ
モリ102の変形前の領域と描画すべきフレームメモリ
107の領域とを算出する。第1、第2の再配列手段1
05は、それぞれフレームメモリ101,102から読
み出す画素データのアドレスと、フレームメモリ107
内に書き込むアドレスを算出し、読み出した画素データ
にフィルタ処理を行ってフレームメモリ107に書き込
む。
【0007】
【発明が解決しようとする課題】しかしながら、上記の
ような構成では、第1、第2の被写体を撮影した際の3
次元空間上の情報を利用する手段がないので、撮影時と
は異なる視点からの画像表示が困難である。また、撮影
された第1、第2の被写体の前後関係と、撮影された第
1、第2の被写体の全領域もしくは部分領域の重なり関
係を表現できないという課題を有していた。
ような構成では、第1、第2の被写体を撮影した際の3
次元空間上の情報を利用する手段がないので、撮影時と
は異なる視点からの画像表示が困難である。また、撮影
された第1、第2の被写体の前後関係と、撮影された第
1、第2の被写体の全領域もしくは部分領域の重なり関
係を表現できないという課題を有していた。
【0008】本発明は、従来の動画合成におけるこのよ
うな課題を考慮し、撮影時とは異なる視点からの画像表
示ができ、複数の被写体の前後関係、重複部分を考慮し
た動画像合成が可能な動画像合成装置を提供することを
目的とするものである。
うな課題を考慮し、撮影時とは異なる視点からの画像表
示ができ、複数の被写体の前後関係、重複部分を考慮し
た動画像合成が可能な動画像合成装置を提供することを
目的とするものである。
【0009】
【課題を解決するための手段】請求項1の本発明は、被
写体を撮影した時のカメラパラメータ及び各フレームに
おける被写体の所定の分割領域の奥行き値と輝度値及び
各フレーム間の分割領域の対応関係情報を持つ動画オブ
ジェクトを複数の異なる被写体についてそれぞれ入力
し、各動画オブジェクト毎に分割領域について、指定さ
れた仮想カメラのカメラパラメータに基づき、その仮想
カメラにおける奥行き値と分割領域に対応する変形領域
とをそれぞれ算出する座標変換手段と、その座標変換手
段によって算出された奥行き値と変形領域に基づいて、
入力された各動画オブジェクト上の分割領域を変形し、
輝度値を修正する画像変形手段と、算出された仮想カメ
ラにおける変形領域の奥行き値に基づいて、その変形領
域と仮想カメラとの間に他の変形領域が存在するか否か
を判定する描画判定手段と、その描画判定手段により他
の変形領域が存在しないと判定された領域の輝度値を格
納するフレームメモリとを備えた動画像合成装置であ
る。
写体を撮影した時のカメラパラメータ及び各フレームに
おける被写体の所定の分割領域の奥行き値と輝度値及び
各フレーム間の分割領域の対応関係情報を持つ動画オブ
ジェクトを複数の異なる被写体についてそれぞれ入力
し、各動画オブジェクト毎に分割領域について、指定さ
れた仮想カメラのカメラパラメータに基づき、その仮想
カメラにおける奥行き値と分割領域に対応する変形領域
とをそれぞれ算出する座標変換手段と、その座標変換手
段によって算出された奥行き値と変形領域に基づいて、
入力された各動画オブジェクト上の分割領域を変形し、
輝度値を修正する画像変形手段と、算出された仮想カメ
ラにおける変形領域の奥行き値に基づいて、その変形領
域と仮想カメラとの間に他の変形領域が存在するか否か
を判定する描画判定手段と、その描画判定手段により他
の変形領域が存在しないと判定された領域の輝度値を格
納するフレームメモリとを備えた動画像合成装置であ
る。
【0010】上記の構成によって、実カメラパラメータ
及び仮想カメラパラメータ及び撮影画像の奥行き値と輝
度値を用いて、座標変換手段が撮影画像の分割領域を仮
想カメラにおける新たな分割領域に変形する。画像変形
手段が分割領域内の画像から射影変換によりパースのあ
る画像を生成する。他の被写体を撮影した同様の画像
も、同一の仮想空間内に配置でき、仮想カメラからの奥
行き値を算出できるため描画判定手段によって隠れ面消
去が可能となる。
及び仮想カメラパラメータ及び撮影画像の奥行き値と輝
度値を用いて、座標変換手段が撮影画像の分割領域を仮
想カメラにおける新たな分割領域に変形する。画像変形
手段が分割領域内の画像から射影変換によりパースのあ
る画像を生成する。他の被写体を撮影した同様の画像
も、同一の仮想空間内に配置でき、仮想カメラからの奥
行き値を算出できるため描画判定手段によって隠れ面消
去が可能となる。
【0011】請求項3の本発明は、各被写体毎に、同一
被写体を同時に異なる位置から撮影し、撮影時の各カメ
ラパラメータ及び各フレームにおける被写体の所定の分
割領域の奥行き値と輝度値及び各フレーム間の分割領域
の対応関係を持つ複数の動画オブジェクトからなる動画
オブジェクト群をそれぞれ入力し、指定された仮想カメ
ラのカメラパラメータに基づいて、各動画オブジェクト
群から全部又は一部の動画オブジェクトをそれぞれ選択
する複数の動画選択手段と、その選択された各複数の動
画オブジェクト間で対応する分割領域から、仮想カメラ
における奥行き値と分割領域に対応する変形領域とを被
写体毎に算出する複数の座標補間手段と、その複数の座
標補間手段によって算出された各変形領域に対し、選択
された各複数の動画オブジェクト間で対応する分割領域
の輝度値をそれぞれ変形合成する複数の画像変形合成手
段と、算出された仮想カメラにおける変形領域の奥行き
値に基づいて、変形領域と仮想カメラとの間に他の変形
領域が存在するか否かをそれぞれ判定する描画判定手段
と、その描画判定手段により他の変形領域が存在しない
と判定された領域の輝度値を格納するフレームメモリと
を備えた動画像合成装置である。
被写体を同時に異なる位置から撮影し、撮影時の各カメ
ラパラメータ及び各フレームにおける被写体の所定の分
割領域の奥行き値と輝度値及び各フレーム間の分割領域
の対応関係を持つ複数の動画オブジェクトからなる動画
オブジェクト群をそれぞれ入力し、指定された仮想カメ
ラのカメラパラメータに基づいて、各動画オブジェクト
群から全部又は一部の動画オブジェクトをそれぞれ選択
する複数の動画選択手段と、その選択された各複数の動
画オブジェクト間で対応する分割領域から、仮想カメラ
における奥行き値と分割領域に対応する変形領域とを被
写体毎に算出する複数の座標補間手段と、その複数の座
標補間手段によって算出された各変形領域に対し、選択
された各複数の動画オブジェクト間で対応する分割領域
の輝度値をそれぞれ変形合成する複数の画像変形合成手
段と、算出された仮想カメラにおける変形領域の奥行き
値に基づいて、変形領域と仮想カメラとの間に他の変形
領域が存在するか否かをそれぞれ判定する描画判定手段
と、その描画判定手段により他の変形領域が存在しない
と判定された領域の輝度値を格納するフレームメモリと
を備えた動画像合成装置である。
【0012】上記の構成により、更に、同一被写体を異
なる位置から撮影した画像を用いているので、仮想カメ
ラにおいて生じるオクルージョン領域を少なく、あるい
は無くすことができる。
なる位置から撮影した画像を用いているので、仮想カメ
ラにおいて生じるオクルージョン領域を少なく、あるい
は無くすことができる。
【0013】
【発明の実施の形態】以下に、本発明をその実施の形態
を示す図面に基づいて説明する。
を示す図面に基づいて説明する。
【0014】図1及び図2は、本発明にかかる第1の実
施の形態の動画像合成装置の構成図である。図1におい
て、1は動画オブジェクト1、2のそれぞれの分割領域
に対し、時間的スケーリング1、2の指示に従い分割領
域のフレーム間の幾何的補間を行う領域補間手段、2は
分割領域内の画像データをフレーム間で補間する画像補
間手段である。又、図2において、3は図1の画像補間
手段2によって得られた領域に対し、指定された仮想の
カメラ視点から見た幾何変換を行う座標変換手段、4
は、座標変換手段3によって得られた領域に、画像補間
手段2によって得られた画像データを変形する画像変形
手段、5は描画する画像データを蓄積するフレームメモ
リ、6は変形された領域の奥行き判定をして隠れ面処理
を実行する描画判定手段である。
施の形態の動画像合成装置の構成図である。図1におい
て、1は動画オブジェクト1、2のそれぞれの分割領域
に対し、時間的スケーリング1、2の指示に従い分割領
域のフレーム間の幾何的補間を行う領域補間手段、2は
分割領域内の画像データをフレーム間で補間する画像補
間手段である。又、図2において、3は図1の画像補間
手段2によって得られた領域に対し、指定された仮想の
カメラ視点から見た幾何変換を行う座標変換手段、4
は、座標変換手段3によって得られた領域に、画像補間
手段2によって得られた画像データを変形する画像変形
手段、5は描画する画像データを蓄積するフレームメモ
リ、6は変形された領域の奥行き判定をして隠れ面処理
を実行する描画判定手段である。
【0015】以上のように構成された動画像合成装置に
ついて、以下図1、図2、及び図3を用いてその動作を
説明する。
ついて、以下図1、図2、及び図3を用いてその動作を
説明する。
【0016】まず、図3は、動画オブジェクト1の時間
的に連続する2枚のフレームN、フレームN+1と分割
領域等を示す図である。
的に連続する2枚のフレームN、フレームN+1と分割
領域等を示す図である。
【0017】元動画オブジェクトとしての動画オブジェ
クト1のフレームN内には、P11−P12−P13か
らなる分割領域(N、1)と、P11−P13−P14
からなる分割領域(N、2)が存在する。フレームN+
1内には同様に、P21−P22−P23からなる分割
領域(N+1、1)と、P21−P23−P24からな
る分割領域(N+1、2)が存在する。又、フレームN
+2内には同様に、P31−P32−P33からなる分
割領域(N+2、1)と、P31−P33−P34から
なる分割領域(N+2、2)が存在する。撮影時のズー
ム角等のカメラパラメータは固定値で既知であり、及び
P11〜P14、P21〜P24、P31〜P34の各
頂点の撮影時におけるカメラ視点からの奥行き値とフレ
ーム内の2次元座標値も既知で、分割領域(N、1)と
分割領域(N+1、1)と分割領域(N+2、1)が対
応することも既知であるとする。
クト1のフレームN内には、P11−P12−P13か
らなる分割領域(N、1)と、P11−P13−P14
からなる分割領域(N、2)が存在する。フレームN+
1内には同様に、P21−P22−P23からなる分割
領域(N+1、1)と、P21−P23−P24からな
る分割領域(N+1、2)が存在する。又、フレームN
+2内には同様に、P31−P32−P33からなる分
割領域(N+2、1)と、P31−P33−P34から
なる分割領域(N+2、2)が存在する。撮影時のズー
ム角等のカメラパラメータは固定値で既知であり、及び
P11〜P14、P21〜P24、P31〜P34の各
頂点の撮影時におけるカメラ視点からの奥行き値とフレ
ーム内の2次元座標値も既知で、分割領域(N、1)と
分割領域(N+1、1)と分割領域(N+2、1)が対
応することも既知であるとする。
【0018】図1において、領域補間手段1は、カメラ
パラメータとフレーム内の各頂点の2次元座標値と奥行
き値から3次元空間内の各頂点の動きをスプライン補間
等によって算出し、指定された動画オブジェクト1に対
する指定された時間スケーリング1に従って実サンプリ
ングのフレームN、N+1、N+2間内の各頂点の座標
値及び奥行き値を算出する。次に、画像補間手段2は、
図3に示すように、得られた頂点から、分割領域(N、
1)、(N+1、1)に対応する時間スケーリング1を
ほどこし、時間Nと時間N+1内の時間T(N<T<N
+1)における新たな分割領域の一つを分割領域(T、
1)とし、分割領域(N、1)と分割領域(N+1、
1)内の画素輝度値を補間して分割領域(T、1)内の
画素輝度値を算出する。このとき、T−N:N+1−T
の比率で分割領域(N+1、1)内の画素輝度値と分割
領域(N、1)内の画素輝度値を合成する。
パラメータとフレーム内の各頂点の2次元座標値と奥行
き値から3次元空間内の各頂点の動きをスプライン補間
等によって算出し、指定された動画オブジェクト1に対
する指定された時間スケーリング1に従って実サンプリ
ングのフレームN、N+1、N+2間内の各頂点の座標
値及び奥行き値を算出する。次に、画像補間手段2は、
図3に示すように、得られた頂点から、分割領域(N、
1)、(N+1、1)に対応する時間スケーリング1を
ほどこし、時間Nと時間N+1内の時間T(N<T<N
+1)における新たな分割領域の一つを分割領域(T、
1)とし、分割領域(N、1)と分割領域(N+1、
1)内の画素輝度値を補間して分割領域(T、1)内の
画素輝度値を算出する。このとき、T−N:N+1−T
の比率で分割領域(N+1、1)内の画素輝度値と分割
領域(N、1)内の画素輝度値を合成する。
【0019】図2において、座標変換手段3は、算出さ
れた分割領域(T、1)について、さらに指定された仮
想カメラの位置、ズーム情報などの仮想カメラパラメー
タをもとに分割領域(T、1)の頂点の座標変換による
幾何変形処理と奥行き値を求め、変形領域としての新た
な分割領域(TV、1)を算出する。次に、画像変形手
段4は、分割領域(T、1)内の画素輝度値から分割領
域(TV、1)内の画素輝度値にマッピング処理をす
る。
れた分割領域(T、1)について、さらに指定された仮
想カメラの位置、ズーム情報などの仮想カメラパラメー
タをもとに分割領域(T、1)の頂点の座標変換による
幾何変形処理と奥行き値を求め、変形領域としての新た
な分割領域(TV、1)を算出する。次に、画像変形手
段4は、分割領域(T、1)内の画素輝度値から分割領
域(TV、1)内の画素輝度値にマッピング処理をす
る。
【0020】動画オブジェクト1内の他の分割領域、及
び動画オブジェクト2内の分割領域についても同様の演
算がなされる。ここで、座標変換手段3によって動画オ
ブジェクト1から得られる分割領域、例えば分割領域
(TV、1)と、動画オブジェクト2から得られる分割
領域の前後判定を行い隠れ面処理を行う。描画判定手段
6は、分割領域(TV、1)の各頂点の奥行き値から領
域内の各画素の奥行き値を補間演算して求め、フレーム
メモリ5の各画素に対応して保存されている奥行き値
(先に格納された別の動画オブジェクト、あるいはデフ
ォルト値等が考えられる)と比較演算して、結果として
奥行き値が最小を示す仮想カメラに一番近い画素の輝度
値をフレームメモリ5に保存する。
び動画オブジェクト2内の分割領域についても同様の演
算がなされる。ここで、座標変換手段3によって動画オ
ブジェクト1から得られる分割領域、例えば分割領域
(TV、1)と、動画オブジェクト2から得られる分割
領域の前後判定を行い隠れ面処理を行う。描画判定手段
6は、分割領域(TV、1)の各頂点の奥行き値から領
域内の各画素の奥行き値を補間演算して求め、フレーム
メモリ5の各画素に対応して保存されている奥行き値
(先に格納された別の動画オブジェクト、あるいはデフ
ォルト値等が考えられる)と比較演算して、結果として
奥行き値が最小を示す仮想カメラに一番近い画素の輝度
値をフレームメモリ5に保存する。
【0021】以上のように本実施の形態によれば、時間
的スケーリングと仮想カメラ視点からの画像を生成可能
で、なおかつ分割領域の画素単位で隠れ面処理を行うこ
とによって複数の動画オブジェクトを違和感なく合成す
ることができる。
的スケーリングと仮想カメラ視点からの画像を生成可能
で、なおかつ分割領域の画素単位で隠れ面処理を行うこ
とによって複数の動画オブジェクトを違和感なく合成す
ることができる。
【0022】図4及び図5は、本発明にかかる第2の実
施の形態を示す動画像合成装置の構成図である。
施の形態を示す動画像合成装置の構成図である。
【0023】図4及び図5に示すように、本実施の形態
の動画像合成装置は、同一被写体を異なる位置から複数
のカメラで同時に撮影した動画オブジェクト群1から指
定された仮想カメラ位置に近い隣接動画オブジェクト群
1を選択する第1の動画選択手段21と、その選択され
た隣接動画オブジェクト群1内の対応する分割領域をも
とに仮想カメラパラメータに対応する分割領域を生成す
る第1の座標補間手段22と、仮想カメラに対応して生
成された分割領域に、隣接動画オブジェクト群1内の分
割領域内の画素輝度値を変形合成する第1の画像変形合
成手段23と、もう一つの被写体を異なる位置から複数
のカメラで同時に撮影した動画オブジェクト群2から仮
想カメラ位置に近い隣接動画オブジェクト群2を選択す
る第2の動画選択手段24と、その選択された隣接動画
オブジェクト群2内の対応する分割領域をもとに仮想カ
メラパラメータに対応する分割領域を生成する第2の座
標補間手段25と、仮想カメラに対応して生成された分
割領域に、隣接動画オブジェクト群2内の分割領域内の
画素輝度値を変形合成する第2の画像変形合成手段26
と、第1の実施の形態と同様の構成の描画判定手段27
及びフレームメモリ28により構成されている。
の動画像合成装置は、同一被写体を異なる位置から複数
のカメラで同時に撮影した動画オブジェクト群1から指
定された仮想カメラ位置に近い隣接動画オブジェクト群
1を選択する第1の動画選択手段21と、その選択され
た隣接動画オブジェクト群1内の対応する分割領域をも
とに仮想カメラパラメータに対応する分割領域を生成す
る第1の座標補間手段22と、仮想カメラに対応して生
成された分割領域に、隣接動画オブジェクト群1内の分
割領域内の画素輝度値を変形合成する第1の画像変形合
成手段23と、もう一つの被写体を異なる位置から複数
のカメラで同時に撮影した動画オブジェクト群2から仮
想カメラ位置に近い隣接動画オブジェクト群2を選択す
る第2の動画選択手段24と、その選択された隣接動画
オブジェクト群2内の対応する分割領域をもとに仮想カ
メラパラメータに対応する分割領域を生成する第2の座
標補間手段25と、仮想カメラに対応して生成された分
割領域に、隣接動画オブジェクト群2内の分割領域内の
画素輝度値を変形合成する第2の画像変形合成手段26
と、第1の実施の形態と同様の構成の描画判定手段27
及びフレームメモリ28により構成されている。
【0024】以上のように構成された動画像合成装置に
ついて、以下その動作を図4、図5及び図6を用いて説
明する。
ついて、以下その動作を図4、図5及び図6を用いて説
明する。
【0025】図6に示すように、各カメラパラメータが
既知である複数のカメラによって、動く被写体1を同期
撮影する。各カメラからの画像は、第1の実施の形態と
同様に、奥行き値から3次元空間上で同一平面となる三
角形もしくは四角形からなる領域に分割され、一つの動
画オブジェクト内のこの分割領域はフレーム間で対応が
とれているとする。さらに、動画オブジェクト群1は、
複数の動画オブジェクトからなり、その動画オブジェク
ト間で同一フレームの分割領域の対応もとられていると
仮定する。これら動画オブジェクト群1が動画選択手段
21に入力され、仮想カメラの視点位置、視点方向、ズ
ーム角等からなる仮想カメラパラメータに基づいて、各
フレーム単位で仮想カメラに隣接する複数の動画オブジ
ェクトからなる隣接動画オブジェクト群1が選択され
る。図6において説明すると、フレームNにおける塗り
つぶされたフレームで構成される動画オブジェクトA〜
Dが隣接動画オブジェクト群1である。
既知である複数のカメラによって、動く被写体1を同期
撮影する。各カメラからの画像は、第1の実施の形態と
同様に、奥行き値から3次元空間上で同一平面となる三
角形もしくは四角形からなる領域に分割され、一つの動
画オブジェクト内のこの分割領域はフレーム間で対応が
とれているとする。さらに、動画オブジェクト群1は、
複数の動画オブジェクトからなり、その動画オブジェク
ト間で同一フレームの分割領域の対応もとられていると
仮定する。これら動画オブジェクト群1が動画選択手段
21に入力され、仮想カメラの視点位置、視点方向、ズ
ーム角等からなる仮想カメラパラメータに基づいて、各
フレーム単位で仮想カメラに隣接する複数の動画オブジ
ェクトからなる隣接動画オブジェクト群1が選択され
る。図6において説明すると、フレームNにおける塗り
つぶされたフレームで構成される動画オブジェクトA〜
Dが隣接動画オブジェクト群1である。
【0026】次に、隣接動画オブジェクト群1は、座標
補間手段22に入力される。座標補間手段22は、動画
オブジェクトA〜D間で対応する分割領域QA、分割領
域QB、分割領域QC、分割領域QDの奥行き値とスク
リーン座標と実カメラのカメラパラメータと仮想カメラ
パラメータを用いて補間演算し、仮想カメラで撮影した
ときの新たな分割領域Rの頂点の仮想スクリーンの座標
と奥行き値を算出する。画像変形合成手段23は、分割
領域QA、分割領域QB、分割領域QC、分割領域QD
内の画素輝度値を分割領域Rに変形合成する。動画オブ
ジェクトA〜D内の他の分割領域についても同様の演算
を行う。
補間手段22に入力される。座標補間手段22は、動画
オブジェクトA〜D間で対応する分割領域QA、分割領
域QB、分割領域QC、分割領域QDの奥行き値とスク
リーン座標と実カメラのカメラパラメータと仮想カメラ
パラメータを用いて補間演算し、仮想カメラで撮影した
ときの新たな分割領域Rの頂点の仮想スクリーンの座標
と奥行き値を算出する。画像変形合成手段23は、分割
領域QA、分割領域QB、分割領域QC、分割領域QD
内の画素輝度値を分割領域Rに変形合成する。動画オブ
ジェクトA〜D内の他の分割領域についても同様の演算
を行う。
【0027】一方、他の被写体2を前述の被写体1と同
様に撮影して生成された動画像オブジェクト群2につい
ても、動画選択手段24、座標補間手段25、及び画像
変形合成手段26によって仮想カメラ視点から撮影した
画像を合成する。その後、描画判定手段27は、第1の
実施の形態と同様に、分割領域の各画素の奥行き値が仮
想カメラに最も近いか否かを判定して隠れ面消去し、フ
レームメモリ28に画像を書き込む。
様に撮影して生成された動画像オブジェクト群2につい
ても、動画選択手段24、座標補間手段25、及び画像
変形合成手段26によって仮想カメラ視点から撮影した
画像を合成する。その後、描画判定手段27は、第1の
実施の形態と同様に、分割領域の各画素の奥行き値が仮
想カメラに最も近いか否かを判定して隠れ面消去し、フ
レームメモリ28に画像を書き込む。
【0028】図8は上記の図4における座標補間手段2
2,25の構成例を示す図である。31は第1の実施の
形態の座標変換手段3と同じ構成であり隣接動画オブジ
ェクト群の各動画オブジェクト内の対応する各分割領域
を仮想カメラパラメータに基づいて幾何変形する座標変
換手段である。32は隣接動画オブジェクト群の各カメ
ラ位置と仮想カメラ位置との距離の比を算出する距離算
出手段、33は、距離算出手段32によって算出された
距離の比に基づいて、座標変換手段31によって幾何変
形された分割領域の各頂点の仮想スクリーン座標と奥行
き値を平均化する座標平均化手段である。図6のフレー
ムNにおける例では、動画オブジェクトA〜D間で対応
する分割領域QA、分割領域QB、分割領域QC、分割
領域QDに対して、座標変換手段31による幾何変形を
施した場合、同一の新たな分割領域を算出することがで
きず誤差を生じる。そこで、座標変換手段31によって
幾何変形された分割領域の各頂点の仮想スクリーン座標
と奥行き値に対し、距離算出手段32によって算出され
た距離の比を用いた重み付けを座標平均化手段33で行
うことによって分割領域Rを算出する。
2,25の構成例を示す図である。31は第1の実施の
形態の座標変換手段3と同じ構成であり隣接動画オブジ
ェクト群の各動画オブジェクト内の対応する各分割領域
を仮想カメラパラメータに基づいて幾何変形する座標変
換手段である。32は隣接動画オブジェクト群の各カメ
ラ位置と仮想カメラ位置との距離の比を算出する距離算
出手段、33は、距離算出手段32によって算出された
距離の比に基づいて、座標変換手段31によって幾何変
形された分割領域の各頂点の仮想スクリーン座標と奥行
き値を平均化する座標平均化手段である。図6のフレー
ムNにおける例では、動画オブジェクトA〜D間で対応
する分割領域QA、分割領域QB、分割領域QC、分割
領域QDに対して、座標変換手段31による幾何変形を
施した場合、同一の新たな分割領域を算出することがで
きず誤差を生じる。そこで、座標変換手段31によって
幾何変形された分割領域の各頂点の仮想スクリーン座標
と奥行き値に対し、距離算出手段32によって算出され
た距離の比を用いた重み付けを座標平均化手段33で行
うことによって分割領域Rを算出する。
【0029】また、図9は、図4の座標補間手段22,
25における別の構成例を示す図であり、時間的スケー
リングを可能にした座標補間手段を示す。図9におい
て、領域補間手段41と画像補間手段45は、第1の実
施の形態における領域補間手段1と同じ構成であり、座
標変換手段42、距離算出手段43、及び座標平均化手
段44は、それぞれ図8の座標変換手段31、距離算出
手段32、及び座標平均化手段33と同一構成のもので
ある。本実施の形態において、図5の画像変形合成手段
23,26の入力は、領域補間手段41によって得られ
た分割領域に画像補間手段45によって描画された画素
輝度値である。本構成により、撮影時の実時間を仮想の
時間スケールに変更して画像合成を行うことが可能とな
る。
25における別の構成例を示す図であり、時間的スケー
リングを可能にした座標補間手段を示す。図9におい
て、領域補間手段41と画像補間手段45は、第1の実
施の形態における領域補間手段1と同じ構成であり、座
標変換手段42、距離算出手段43、及び座標平均化手
段44は、それぞれ図8の座標変換手段31、距離算出
手段32、及び座標平均化手段33と同一構成のもので
ある。本実施の形態において、図5の画像変形合成手段
23,26の入力は、領域補間手段41によって得られ
た分割領域に画像補間手段45によって描画された画素
輝度値である。本構成により、撮影時の実時間を仮想の
時間スケールに変更して画像合成を行うことが可能とな
る。
【0030】以上のように本実施の形態では、同一の被
写体に対して、異なる位置から複数のカメラで同時撮影
することにより得られた動画オブジェクト群の中から、
仮想カメラのカメラパラメータに基づいて、全部又は一
部の動画オブジェクトを選択して用いるので、仮想カメ
ラ位置からの画像をオクルージョンを少なくして合成す
ることを可能とする。
写体に対して、異なる位置から複数のカメラで同時撮影
することにより得られた動画オブジェクト群の中から、
仮想カメラのカメラパラメータに基づいて、全部又は一
部の動画オブジェクトを選択して用いるので、仮想カメ
ラ位置からの画像をオクルージョンを少なくして合成す
ることを可能とする。
【0031】以上のように、撮影時のカメラパラメータ
と、画面内の分割領域に関してカメラからの奥行き値と
を備えた実写映像に対して、仮想の視点位置からの映像
を生成するとともに、異なる被写体を撮影した映像とを
分割領域単位もしくは画素単位で前後判定して表示する
ことができる。
と、画面内の分割領域に関してカメラからの奥行き値と
を備えた実写映像に対して、仮想の視点位置からの映像
を生成するとともに、異なる被写体を撮影した映像とを
分割領域単位もしくは画素単位で前後判定して表示する
ことができる。
【0032】なお、上記第1の実施の形態では、被写体
の数を2個として入力する動画オブジェクトの数が2個
の例について説明したが、被写体、すなわち動画オブジ
ェクトの個数はこれに限定されるものではない。
の数を2個として入力する動画オブジェクトの数が2個
の例について説明したが、被写体、すなわち動画オブジ
ェクトの個数はこれに限定されるものではない。
【0033】また、上記第2の実施の形態では、被写体
の数を2個として入力する動画オブジェクト群の数が2
個の例について説明したが、被写体、すなわち動画オブ
ジェクト群の個数はこれに限定されるものではない。そ
の場合、動画選択手段、座標補間手段、画像変形合成手
段の各手段を動画オブジェクト群の個数だけ並列に設け
ればよい。
の数を2個として入力する動画オブジェクト群の数が2
個の例について説明したが、被写体、すなわち動画オブ
ジェクト群の個数はこれに限定されるものではない。そ
の場合、動画選択手段、座標補間手段、画像変形合成手
段の各手段を動画オブジェクト群の個数だけ並列に設け
ればよい。
【0034】また、上記実施の形態では、いずれも描画
判定手段による描画するか否かの判定は画素毎に行う構
成としたが、これに限らず、分割領域内の一部の領域、
あるいは全領域に対して判定する構成としてもよい。
判定手段による描画するか否かの判定は画素毎に行う構
成としたが、これに限らず、分割領域内の一部の領域、
あるいは全領域に対して判定する構成としてもよい。
【0035】また、上記実施の形態では、いずれも領域
補間手段などの各手段を専用のハードウェアにより構成
したが、これに代えて、同様の機能をコンピュータを用
いてソフトウェア的に実現してもよい。
補間手段などの各手段を専用のハードウェアにより構成
したが、これに代えて、同様の機能をコンピュータを用
いてソフトウェア的に実現してもよい。
【0036】
【発明の効果】以上述べたところから明らかなように本
発明は、撮影時とは異なる視点からの画像表示ができ、
複数の被写体の前後関係、重複部分を考慮した動画像合
成が可能になるという長所を有する。
発明は、撮影時とは異なる視点からの画像表示ができ、
複数の被写体の前後関係、重複部分を考慮した動画像合
成が可能になるという長所を有する。
【図1】本発明にかかる第1の実施の形態の動画像合成
装置の前半部を示す構成図である。
装置の前半部を示す構成図である。
【図2】同第1の実施の形態の動画像合成装置の後半部
を示す構成図である。
を示す構成図である。
【図3】同第1の実施の形態における処理の一例を説明
する図である。
する図である。
【図4】本発明にかかる第2の実施の形態の動画像合成
装置の前半部を示す構成図である。
装置の前半部を示す構成図である。
【図5】同第2の実施の形態の動画像合成装置の後半部
を示す構成図である。
を示す構成図である。
【図6】同第2の実施の形態におけるカメラ配置の一例
を説明する図である。
を説明する図である。
【図7】図6におけるカメラによる動画オブジェクト群
を説明する図である。
を説明する図である。
【図8】同第2の実施の形態における座標補間手段の一
例を示す構成図である。
例を示す構成図である。
【図9】同第2の実施の形態における座標補間手段の別
の一例を示す構成図である。
の一例を示す構成図である。
【図10】従来の動画像合成装置の構成図である。
1 領域補間手段 2 画像補間手段 3 座標変換手段 4 画像変形手段 5、28 フレームメモリ 6、27 描画判定手段 21、24 動画選択手段 22、25 座標補間手段 23、26 画像変形合成手段 32、43 距離算出手段 33、44 座標平均化手段 103 領域指定手段 105 再配列手段
Claims (5)
- 【請求項1】 被写体を撮影した時のカメラパラメータ
及び各フレームにおける被写体の所定の分割領域の奥行
き値と輝度値及び各フレーム間の前記分割領域の対応関
係情報を持つ動画オブジェクトを複数の異なる被写体に
ついてそれぞれ入力し、前記各動画オブジェクト毎に前
記分割領域について、指定された仮想カメラのカメラパ
ラメータに基づき、その仮想カメラにおける奥行き値と
前記分割領域に対応する変形領域とをそれぞれ算出する
座標変換手段と、その座標変換手段によって算出された
奥行き値と変形領域に基づいて、前記入力された各動画
オブジェクト上の分割領域を変形し、輝度値を修正する
画像変形手段と、前記算出された前記仮想カメラにおけ
る変形領域の奥行き値に基づいて、その変形領域と前記
仮想カメラとの間に他の変形領域が存在するか否かを判
定する描画判定手段と、その描画判定手段により他の変
形領域が存在しないと判定された領域の輝度値を格納す
るフレームメモリとを備えたことを特徴とする動画像合
成装置。 - 【請求項2】 被写体を撮影した時のカメラパラメータ
及び各フレームにおける分割領域の奥行き値と輝度値及
び各フレーム間の前記分割領域の対応関係情報を持つ元
動画オブジェクトを複数の異なる被写体についてそれぞ
れ入力し、その各元動画オブジェクトに対して時間的ス
ケーリング指示に基づいて奥行き値及び分割領域の補間
演算を行う領域補間手段と、その領域補間手段によって
算出された分割領域と奥行き値から、前記入力された元
動画オブジェクト上の分割領域の輝度値を修正すること
により前記各動画オブジェクトを生成する画像補間手段
とを備え、前記座標変換手段に入力される各動画オブジ
ェクトが、前記画像補間手段により生成された動画オブ
ジェクトであることを特徴とする請求項1記載の動画像
合成装置。 - 【請求項3】 各被写体毎に、同一被写体を同時に異な
る位置から撮影し、撮影時の各カメラパラメータ及び各
フレームにおける被写体の所定の分割領域の奥行き値と
輝度値及び各フレーム間の前記分割領域の対応関係を持
つ複数の動画オブジェクトからなる動画オブジェクト群
をそれぞれ入力し、指定された仮想カメラのカメラパラ
メータに基づいて、前記各動画オブジェクト群から全部
又は一部の動画オブジェクトをそれぞれ選択する複数の
動画選択手段と、その選択された各複数の動画オブジェ
クト間で対応する分割領域から、前記仮想カメラにおけ
る奥行き値と前記分割領域に対応する変形領域とを前記
被写体毎に算出する複数の座標補間手段と、その複数の
座標補間手段によって算出された各変形領域に対し、前
記選択された各複数の動画オブジェクト間で対応する分
割領域の輝度値をそれぞれ変形合成する複数の画像変形
合成手段と、前記算出された仮想カメラにおける変形領
域の奥行き値に基づいて、前記変形領域と前記仮想カメ
ラとの間に他の変形領域が存在するか否かをそれぞれ判
定する描画判定手段と、その描画判定手段により他の変
形領域が存在しないと判定された領域の輝度値を格納す
るフレームメモリとを備えたことを特徴とする動画像合
成装置。 - 【請求項4】 座標補間手段はそれぞれ、前記選択され
た各動画オブジェクトに対するカメラ視点と前記仮想カ
メラの仮想視点との距離の比を算出する距離算出手段
と、前記選択された各動画オブジェクト間で対応する分
割領域に対し、前記仮想カメラにおける奥行き値と前記
分割領域に対応する変形領域を算出する座標変換手段
と、前記距離算出手段によって得られた距離の比をもと
に、前記算出された前記仮想カメラにおける変形領域と
奥行き値を補間演算する座標平均化手段とを有すること
を特徴とする請求項3記載の動画像合成装置。 - 【請求項5】 座標補間手段はそれぞれ、前記選択され
た各動画オブジェクトの時間的スケーリング指示に基づ
いて奥行き値及び前記分割領域の補間演算を行う領域補
間手段と、前記選択された各動画オブジェクトに対する
カメラ視点と前記仮想カメラの仮想視点との距離の比を
算出する距離算出手段と、前記領域補間手段によって算
出された分割領域に対し、前記前記仮想カメラにおける
奥行き値と前記分割領域に対応する変形領域を算出する
座標変換手段と、前記距離算出手段によって得られた距
離の比をもとに、前記算出された前記仮想カメラにおけ
る変形領域と奥行き値を補間演算する座標平均化手段
と、前記領域補間手段によって算出された変形領域の輝
度値を、その変形領域に対応する前記入力された各動画
オブジェクト上の分割領域の輝度値から算出する画像補
間手段とを有することを特徴とする請求項3記載の動画
像合成装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP8041944A JPH09231408A (ja) | 1996-02-28 | 1996-02-28 | 動画像合成装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP8041944A JPH09231408A (ja) | 1996-02-28 | 1996-02-28 | 動画像合成装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH09231408A true JPH09231408A (ja) | 1997-09-05 |
Family
ID=12622330
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP8041944A Pending JPH09231408A (ja) | 1996-02-28 | 1996-02-28 | 動画像合成装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH09231408A (ja) |
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008282418A (ja) * | 2000-05-11 | 2008-11-20 | Yeda Res & Dev Co Ltd | 画像系列の時空的正規化マッチングシステム及び方法 |
| JP2011228845A (ja) * | 2010-04-16 | 2011-11-10 | Canon Inc | 画像処理装置および方法 |
| JP2014120093A (ja) * | 2012-12-19 | 2014-06-30 | Kddi Corp | 仮想視点映像生成装置、仮想視点映像生成方法、およびプログラム |
| JP2017103613A (ja) * | 2015-12-01 | 2017-06-08 | 日本電信電話株式会社 | 情報取得装置、情報取得方法及び情報取得プログラム |
| JP2017112419A (ja) * | 2015-12-14 | 2017-06-22 | 日本電信電話株式会社 | 最適奥行き決定装置、最適奥行き決定方法及びコンピュータプログラム |
-
1996
- 1996-02-28 JP JP8041944A patent/JPH09231408A/ja active Pending
Cited By (5)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008282418A (ja) * | 2000-05-11 | 2008-11-20 | Yeda Res & Dev Co Ltd | 画像系列の時空的正規化マッチングシステム及び方法 |
| JP2011228845A (ja) * | 2010-04-16 | 2011-11-10 | Canon Inc | 画像処理装置および方法 |
| JP2014120093A (ja) * | 2012-12-19 | 2014-06-30 | Kddi Corp | 仮想視点映像生成装置、仮想視点映像生成方法、およびプログラム |
| JP2017103613A (ja) * | 2015-12-01 | 2017-06-08 | 日本電信電話株式会社 | 情報取得装置、情報取得方法及び情報取得プログラム |
| JP2017112419A (ja) * | 2015-12-14 | 2017-06-22 | 日本電信電話株式会社 | 最適奥行き決定装置、最適奥行き決定方法及びコンピュータプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP6681467B2 (ja) | 画像生成装置および画像生成方法 | |
| US20150262344A1 (en) | Method And System For Correcting A Distorted Input Image | |
| JP3524147B2 (ja) | 3次元画像表示装置 | |
| JPH0765197A (ja) | 画像処理方法と装置 | |
| JP2009037301A (ja) | 局所領域分割による自由視点画像の生成方法 | |
| JP2000182038A (ja) | 歪まされた情報からの遠近法的矯正デ―タの生成方法及びこれに用いる装置並びにコンピュ―タプログラム製品 | |
| JPH0771936A (ja) | 画像処理装置及びその方法 | |
| JP4871820B2 (ja) | 映像表示システム及び該システムのパラメータ生成方法 | |
| JP5445461B2 (ja) | 画素位置対応関係特定システム、画素位置対応関係特定方法および画素位置対応関係特定プログラム | |
| JPH11161819A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラムを記録した記録媒体 | |
| KR100317138B1 (ko) | 얼굴 텍스처 영상을 이용한 3차원 얼굴 모델링방법 | |
| JP2005063041A (ja) | 3次元モデリング装置、方法、及びプログラム | |
| JP3643511B2 (ja) | 3次元画像処理方法,3次元モデリング方法および3次元画像処理プログラムを記録した記録媒体 | |
| JP3538263B2 (ja) | 画像生成方法 | |
| JPH10126665A (ja) | 画像合成装置 | |
| JP2010152529A (ja) | 頂点テクスチャマッピング装置及びプログラム | |
| JP2002092625A (ja) | 画像処理装置および方法、並びに記録媒体 | |
| JPH10334269A (ja) | 画像処理装置、画像処理方法、及び画像処理プログラムを記録した記録媒体 | |
| JPH10208074A (ja) | 画像生成方法 | |
| JP2821042B2 (ja) | 画像合成装置 | |
| JP3002886B2 (ja) | デジタル映像効果の形成ならびにそれに関連する改良 | |
| JP7514125B2 (ja) | 画像処理装置およびそのプログラム | |
| JP2005157847A (ja) | 画像処理装置および処理方法 | |
| JP2002260003A (ja) | 映像表示装置 | |
| JPH07254074A (ja) | 視差画像作成方法および装置 |