JPH11120377A - 画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体 - Google Patents

画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体

Info

Publication number
JPH11120377A
JPH11120377A JP14635598A JP14635598A JPH11120377A JP H11120377 A JPH11120377 A JP H11120377A JP 14635598 A JP14635598 A JP 14635598A JP 14635598 A JP14635598 A JP 14635598A JP H11120377 A JPH11120377 A JP H11120377A
Authority
JP
Japan
Prior art keywords
buffer
image
value
defocus
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP14635598A
Other languages
English (en)
Other versions
JP3382536B2 (ja
Inventor
Hisaya Kotani
尚也 小谷
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NTT Inc
Original Assignee
Nippon Telegraph and Telephone Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Telegraph and Telephone Corp filed Critical Nippon Telegraph and Telephone Corp
Priority to JP14635598A priority Critical patent/JP3382536B2/ja
Publication of JPH11120377A publication Critical patent/JPH11120377A/ja
Application granted granted Critical
Publication of JP3382536B2 publication Critical patent/JP3382536B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Image Processing (AREA)
  • Image Generation (AREA)

Abstract

(57)【要約】 【課題】 自然な被写界深度を持った画像を高速に生成
し、さらに実際のカメラを用いて撮影する同じ指定の仕
方で被写界深度を制御する。 【解決手段】 オブジェクトモデルデータ読出処理部1
で記憶装置11からオブジェクトモデルデータを読み出
し、座標変換および陰面消去処理部2で座標変換と陰影
処理をし、結果をZバッファ3に格納する。デフォーカ
ス処理部5はZバッファ3からR,G,B,Zの値を読
み込み、実際のカメラと同じレンズの焦点距離と絞り値
および被写体との距難からなる関数に従ってピントを外
したデフォーカス像を生成し、デフォーカスバッファ6
に格納する。マルチプレーンバッファ処理部7はそのデ
フォーカス計算結果イメージを画素単位で視点からの距
離の近い順にマルチプレーンバッファ8に格納する。全
てのオブジェクトの処理が終了した後マルチプレーンバ
ッファ8の内容から目的とするイメージを生成する。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は画像生成装置および
方法に関し、特に、自然な被写界深度をもった画像を高
速に生成できる、あるいは、被写界深度を制御できる画
像生成装置および方法に関する。
【0002】
【従来の技術】従来、コンピュータグラフィクスにより
画像を生成する際に実写と同じような被写界深度を得る
ためには、大きく分けて (1)従来の方法で生成された絵(画面の全ての領域で
ピントが合っている)を生成した後デフォーカスフィル
タでぼかしを入れる方法(Potmesil,Michael etal."A L
ens and Aperture Camera Model for Synthetic Image
Genaration", Computer Graphics, vol.17, no.3, pp13
7-145, 1981.) (2)分散光線追跡法(Cook,R.L. et al."Distributed
Ray Tracing", Computer Graphics, vol18, no.3, pp1
37-145, 1984.)による方法 がある。
【0003】
【発明が解決しようとする課題】ところで、実写に見ら
れる自然な被写界深度が持つ最も重要な性格のひとつ
に、ピントを合わせた距離により手前に存在する大きく
ぼけた物体の像はぼけると同時にエッジから透けて見え
る、がある。上記(1)の方法では完全に陰面消去され
て生成された絵をぼかすため、そのような手前の物体を
いくら大きくぼかしてもその向こうの物体が透けて見え
ることは基本的にありえず、結果的に不自然な絵ができ
てしまうという問題があった。また上記(2)の方法で
はそのような問題は基本的に生じないのであるが、元々
時間のかかる光線追跡法を基本としながらさらに最低で
も数十本の分散された光線を追跡せねばならず、したが
って所望とする画像が生成されるまで非常に長い時間が
かかるという問題があった。また、一般に生成手段を問
わず複数の画像を生成後合成するためには、従来技術に
よれば合成される境界を明確にしておかなければなら
ず、手前に合成される物体にピントを合わせた状態で生
成しておきその物体の像のエッジを明確にしておかなく
てはならなかった。手前に合成された物体をデフォーカ
ス状態としたい場合には熟練された手作業によって合成
しなくてはならず、したがって動画における作業量は非
常に大きかった。それを避けるためには一般的には予め
実写の撮影時に全て手前から奥までピントが合うように
(以下パンフォーカスと書く)撮影せねばならず、それ
による撮影条件への制限が大きかった。
【0004】本発明は、このような事情に鑑みてなされ
たもので、自然な被写界深度をもった画像を高速に生成
できる画像生成装置および方法を提供することを目的と
する。また、本発明は、実際のカメラを用いて撮影する
同じ指定の仕方(レンズの焦点距離、F値、ピントを合
わせる距離)で被写界深度を制御できる画像生成装置お
よび方法を提供することを目的とする。
【0005】
【課題を解決するための手段】上記目的を達成するため
に、本発明のうち請求項1に記載の発明は、画素値とし
てR,G,B,A,Zの値を記憶でき複数プレーンから
なるマルチプレンバッファと、ピントを合わせたその前
後に実用上ピントが合っている範囲である被写界深度を
利用して視点に対する前後関係を表現したいオブジェク
トをオブジェクトモデルデータとし、該オブジェクトモ
デルデータ毎に少なくとも座標変換、陰面処理、デーフ
ォーカス処理をしたデータであって、画素毎にR,G,
B,A,Zの値を有する複数のデフォーカスデータを、
視点からの距離の近い順に前記マルチプレーンバッファ
に格納するマルチプレーンバッファ処理部とを備えたこ
とを特徴とする画像生成装置。また、請求項2に記載の
発明は、請求項1に記載の画像生成装置において、前記
画像生成装置は、全てのデフォーカスデータについてマ
ルチプレーンバッファ処理部によるが終了した後、前記
マルチプレーンバッファの内容から目的とするイメージ
を生成し、出力する出力イメージ作成処理部をさらに備
えたことを特徴としている。また、請求項3に記載の発
明は、請求項1に記載の画像生成装置において、前記マ
ルチプレーバッファ処理部は、前記マルチプレーンバッ
ファのプレーン数をnとした場合、デフォーカスデータ
上の画素位置(X,Y)におけるZ値Zd (X,Y)と
nプレーン目のマルチプレーンバッファ上の対応する画
素位置のZ値Zm (X、Y)#n を比較し、前者の方が
小さければ前記マルチプレーンバッファの各プレーンの
対応する画像のZ値Zm(X、Y)#1からZm(X,Y)
#nまで順にZd(X,Y)と比較し、Zd(X,Y)<Z
m(X,Y)#N を満たすNプレーン目の対応する画像位
置のZ値が見つかった時点でマルチプレーンバッファ上
のNプレーン以降の対応する画素の画素値を1つづつ後
のプレーンの対応する画素にシフトし、前記デフォーカ
スデータの画素値を前記マルチプレーンバッファのNプ
レーン目の画素値とすることで、前記複数のデフォーカ
スデータを、視点からの距離の近い順に前記マルチプレ
ーンバッファに格納する処理を行うことを特徴としてい
る。また、請求項4に記載の発明は、請求項1に記載の
画像生成装置において、前記マルチプレーンバッファ
は、初期段階で必要最低限数のプレーンを備え、前記マ
ルチプレーンバッファ処理部は、前記複数のデフォーカ
スデータを視点からの距離の近い順に前記マルチプレー
ンバッファに格納する処理を行う際、前記マルチプレー
ンバッファのプレーンが足りなくなる毎に必要なプレー
ンを新たに確保することを特徴としている。また、請求
項5に記載の発明は、請求項2に記載の画像生成装置に
おいて、画素値としてR,G,B,A,Zの値を記憶で
きるデフォーカスバッファと、前記オブジェクトモデル
データに対し座標変換、陰面処理、シェーディング処理
が行われ、画素値としてR,G,B,Zの値を有するシ
ェーディングデータから、実際のカメラと同じレンズの
焦点距離と絞り値および被写体との距離からなる関数に
したがってピントを外したデフォーカス像を生成し、前
記デフォーカスバッファに格納するデフォーカス処理部
とをさらに備え、前記マルチプレーンバッファ処理部
は、前記デフォーカスバッファに格納されたデータを前
記デフォーカスデータとして処理することを特徴として
いる。
【0006】また、請求項6に記載の発明は、請求項2
に記載の画像生成装置において、画素値としてR,G,
B,A,Zの値を記憶できるデフォーカスバッファと、
前記オブジェクトモデルデータに座標変換、陰面処理、
シェーディング処理が行われ、画素値としてR,G,
B,A,Zの値を有するシェーディングデータから、実
際のカメラと同じレンズの焦点距離と絞り値および被写
体との距離からなり、パラメータとしてAを含む関数に
したがってピントを外したデフォーカス像を生成し、前
記デフォーカスバッファに格納するデフォーカス処理部
と、をさらに備え、前記マルチプレーンバッファ処理部
は、前記デフォーカスバッファに格納されたデータを前
記デフォーカスデータとして処理することを特徴として
いる。また、請求項7に記載の発明は、請求項5に記載
の画像生成装置において、前記デフォーカス処理部は、
前記シェーディングデータをスキャンし、点光源をぼか
したときの該点光源像の直径Φを計算し、該直径の円内
における点光源像の強度比を求め、該直径の円内におけ
る強度比の和が1.0になるように強度比係数Mを求
め、前記強度比係数Mを利用して前記直径Φの円内にお
けるR,G,Bの値,アルファ値Aの値を求めて前記デ
フォーカスバッファに保存されている値に加え、前記デ
フォーカスバッファ上の前記直径Φの円内画素位置
(a,b)におけるZ値と前記シェーディングデータの
同じ画素位置(X,Y)におけるZ値を比べ、該シェー
ディングデータのZ値の方が小さければ前記シェーディ
ングデータの画素位置(X,Y)におけるZ値を前記デ
フォーカスバッファ上の前記直径Φの円内画素位置
(a,b)におけるZ値に移すことによりデフォーカス
画像の生成を行うことを特徴としている。また、請求項
8に記載の発明は、請求項7に記載の画像生成装置にお
いて、前記デフォーカス処理部は、前記直径の円内にお
ける点光源像の強度比を、コサインを用いた近似計算に
より求めることを特徴としている。また、請求項9に記
載の発明は、請求項5に記載の画像生成装置において、
前記画像生成装置は、画素値としてR,G,B,Zの値
を記憶できるZバッファと、前記オブジェクトモデルデ
ータに座標変換、陰面処理、シェーディング処理をし、
結果を前記Zバッファに格納する座標変換および陰面消
去処理部とをさらに備え、前記デフォーカス処理部は、
前記Zバッファに格納されたデータを前記シェーディン
グデータとして処理することを特徴としている。また、
請求項10に記載の発明は、請求項6に記載の画像生成
装置において、画素値としてR,G,B,A、Zの値を
記憶できるZバッファと、前記オブジェクトモデルデー
タに座標変換、陰面処理、シェーディング処理をし、結
果を前記Zバッファに格納する座標変換および陰面消去
処理部とをさらに備え、前記デフォーカス処理部は、前
記Zバッファに格納されたデータを前記シェーディング
データとして処理することを特徴としている。また、請
求項11に記載の発明は、請求項1に記載の画像生成装
置において、前記オブジェクトは、パンフォーカスによ
り生成され、Z値として無限遠が与えられた背景画像を
含むことを特徴としている。
【0007】また、請求項12に記載の発明は、請求項
1に記載の画像生成装置において、前記オブジェクト
は、自然画像を利用して、画像合成時に使用しない領域
であるクロマキー領域を、利用者から与えられる閾値を
もって抽出し、該抽出されたクロマキー領域に無限遠の
Z値と色情報としてR,G,B各々に0を与え、それ以
外の領域についてはR,G,B値はそのままで、利用者
が与えるZ値を与えたフォアグラウンド画像を含むこと
を特徴としている。また、請求項13に記載の発明は、
請求項9に記載の画像生成装置において、画素値として
R,G,B,Zの値を記憶できる背景画像用バッファ
と、背景画像を、Z値として無限遠を与えることにより
RGBZ変換処理し、前記背景画像がオブジェクトと同
じ撮影パラメータで生成されている場合、前記RGBZ
変換処理の結果を前記背景画像用バッファに書き込み、
前記背景画像がパンフォーカスにより生成されている場
合、前記RGBZ変換処理の結果を前記Zバッファに書
き込みその後前記デフォーカス処理部によりデフォーカ
ス処理されたデータを前記背景画像用バッファに書き込
む処理部と、をさらに備え、前記出力イメージ作成処理
部は、前記背景画像用バッファと前記マルチプレーンバ
ッファの値を読み込み、イメージを生成し、出力するこ
とを特徴としている。また、請求項14に記載の発明
は、請求項10に記載の画像生成装置において画素値と
してR,G,B,Zの値を記憶できる背景画像用バッフ
ァと、背景画像を、Z値として無限遠を与えることによ
りRGBZ変換処理し、前記背景画像がオブジェクトと
同じ撮影パラメータで生成されている場合、前記RGB
Z変換処理の結果を背景画像用バッファに書き込み、前
記背景画像がパンフォーカスにより生成されている場
合、前記RGBZ変換処理の結果を前記Zバッファに書
き込みその後前記デフォーカス処理部によりデフォーカ
ス処理されたデータを前記背景画像用バッファに書き込
む処理部と、をさらに備え、前記出力イメージ作成処理
部は、前記背景画像用バッファと前記マルチプレーンバ
ッファの値を読み込み、イメージを生成し、出力するこ
とを特徴としている。また、請求項15に記載の発明
は、請求項9に記載の画像生成装置において、自然画像
を利用して合成時に使用しない領域であるクロマキー領
域を、利用者から与えられる閾値をもって抽出するクロ
マキー領域処理部と、抽出されたクロマキー領域に無限
遠のZ値と色情報としてR,G,B各々に0を与え、そ
れ以外の領域についてはR,G,B値はそのままで、利
用者が与えるZ値を与え、前記Zバッファに書き送むR
GBZ変換処理部とをさらに備えたことを特徴としてい
る。また、請求項16に記載の発明は、請求項10に記
載の画像生成装置において、自然画像を利用して合成時
に使用しない領域であるクロマキー領域を、利用者から
与えられる閾値をもって抽出し、該抽出した領域と接す
る他の領域との境界領域においてなだらかに変化するA
を算出するクロマキー領域処理部と、抽出されたクロマ
キー領域に無限遠のZ値と色情報としてR,G,B,A
各々に0を与え、それ以外の領域についてはR,G,B
はそのままで、前記算出されたA値と、利用者が指定し
たZ値を与え、前記Zバッファに書き込むRGBAZ変
換処理部とをさらに備えたことを特徴としている。
【0008】次に、請求項17に記載の発明は、画素値
としてR,G,B,A,Zの値を記憶できるデフォーカ
スバッファと、デフォーカス処理の対象のモデルデータ
に対し座標変換、陰面処理、シェーディング処理が行わ
れ、画素値としてR,G,B,Zの値を有するシェーデ
ィングデータから、実際のカメラと同じレンズの焦点距
離と絞り値および被写体との距離からなる関数にしたが
ってピントを外したデフォーカス像を前記デフォーカス
バッファを利用して生成するデフォーカス処理部とを備
えたことを特徴とする画像生成装置である。また、請求
項18に記載の発明は、請求項17に記載の画像生成装
置において、前記デフォーカス処理部は、前記シェーデ
ィングデータをスキャンし、点光源をぼかしたときの該
点光源像の直径Φを計算し、該直径の円内における点光
源像の強度比を求め、該直径の円内における強度比の和
が1.0になるように強度比係数Mを求め、前記強度比
係数Mを利用して前記直径Φの円内におけるR,G,B
の値,アルファ値Aの値を求めて前記デフォーカスバッ
ファに保存されている値に加え、前記デフォーカスバッ
ファ上の前記直径Φの円内画素位置(a,b)における
Z値と前記シェーディングデータの同じ画素位置(X,
Y)におけるZ値を比べ、該シェーディングデータのZ
値の方が小さければ前記シェーディングデータの画素位
置(X,Y)におけるZ値を前記デフォーカスバッファ
上の前記直径Φの円内画素位置(a,b)におけるZ値
に移すことによりデフォーカス画像の生成を行うことを
特徴としている。また、請求項19に記載の発明は、請
求項18に記載の画像生成装置において、前記デフォー
カス処理部は、前記直径の円内における点光源像の強度
比を、コサインを用いた近似計算により求めることを特
徴としている。また、請求項20に記載の発明は、請求
項17に記載の画像生成装置において、画素値として
R,G,B,Zの値を記憶できるZバッファと、前記モ
デルデータに座標変換、陰面処理、シェーディング処理
をし、結果を前記Zバッファに格納する座標変換および
陰面消去処理部とをさらに備え、前記デフォーカス処理
部は、前記Zバッファに格納されたデータを前記シェー
ディングデータとして処理することを特徴としている。
【0009】次に、請求項21に記載の発明は、ピント
を合わせたその前後に実用上ピントが合っている範囲で
ある被写界深度を利用して視点に対する前後関係を表現
したいオブジェクトをオブジェクトモデルデータとし、
該オブジェクトモデルデータ毎に少なくとも座標変換、
陰面処理、デーフォーカス処理をしたデータであって、
画素毎にR,G,B,A,Zの値をする複数のデフォー
カスデータを取得するステップと、画素値としてR,
G,B,A,Zの値を記憶でき複数プレーンからなるマ
ルチプレーンバッファに前記取得したデフォーカスデー
タを視点からの距離の近い順に格納するマルチプレーン
バッファ処理ステップとを含むことを特徴とする画像生
成方法である。また、請求項22に記載の発明は、請求
項21に記載の画像生成方法において、全てのデフォー
カスデータについてマルチプレーンバッファ処理ステッ
プによるが終了した後、前記マルチプレーンバッファの
内容から目的とするイメージを生成し、出力する出力イ
メージ作成処理ステップををさらに含むことを特徴とし
ている。また、請求項23に記載の発明は、請求項21
に記載の画像生成方法において、前記マルチプレーバッ
ファ処理ステップは、前記マルチプレーンバッファのプ
レーン数をnとした場合、デフォーカスデータ上の画素
位置(X,Y)におけるZ値Zd (X,Y)とnプレー
ン目のマルチプレーンバッファ上の対応する画素位置の
Z値Zm (X、Y)#n を比較し、前者の方が小さけれ
ば前記マルチプレーンバッファの各プレーンの対応する
画像のZ値Zm(X、Y)#1からZm(X,Y)#nまで順
にZd(X,Y)と比較し、Zd(X,Y)<Zm(X,
Y)#N を満たすNプレーン目の対応する画像位置のZ
値が見つかった時点でマルチプレーンバッファ上のNプ
レーン以降の対応する画素の画素値を1つづつ後のプレ
ーンの対応する画素にシフトし、前記デフォーカスデー
タの画素値を前記マルチプレーンバッファのNプレーン
目の画素値とすることにより、前記複数のデフォーカス
データを、視点からの距離の近い順に前記マルチプレー
ンバッファに格納する処理を行うことを特徴としてい
る。また、請求項24に記載の発明は、請求項21に記
載の画像生成方法において、前記マルチプレーンバッフ
ァは、初期段階で必要最低限数のプレーンを備え、前記
マルチプレーンバッファ処理ステップは、前記複数のデ
フォーカスデータを視点からの距離の近い順に前記マル
チプレーンバッファに格納する処理を行う際、前記マル
チプレーンバッファのプレーンが足りなくなる毎に必要
なプレーンを新たに確保する処理を行うことを特徴とし
ている。また、請求項25に記載の発明は、請求項22
に記載の画像生成方法において、前記デフォーカスデー
タを取得するステップは、前記デフォーカスデータを取
得するために、前記オブジェクトモデルデータに対し座
標変換、陰面処理、シェーディング処理が行われ、画素
値としてR,G,B,Zの値を有するシェーディングデ
ータから、実際のカメラと同じレンズの焦点距離と絞り
値および被写体との距離からなる関数にしたがってピン
トを外したデフォーカス像を生成し、前記デフォーカス
バッファに格納するデフォーカス処理ステップをさらに
含むことを特徴としている。また、請求項26に記載の
発明は、請求項22に記載の画像生成方法において、前
記オブジェクトモデルデータに座標変換、陰面処理、シ
ェーディング処理が行われ、画素値としてR,G,B,
A,Zの値を有するシェーディングデータから、実際の
カメラと同じレンズの焦点距離と絞り値および被写体と
の距離からなり、パラメータとしてAを含む関数にした
がってピントを外したデフォーカス像を生成し、前記デ
フォーカスバッファに格納するデフォーカス処理ステッ
プをさらに含み、前記デフォーカスデータを取得するス
テップは、前記デフォーカスバッファに格納されたデー
タを前記デフォーカスデータとして取得することを特徴
としている。
【0010】また、請求項27に記載の発明は、請求項
25に記載の画像生成方法において、前記デフォーカス
処理ステップは、前記シェーディングデータをスキャン
し、点光源をぼかしたときの該点光源像の直径Φを計算
し、該直径の円内における点光源像の強度比を求め、該
直径の円内における強度比の和が1.0になるように強
度比係数Mを求め、前記強度比係数Mを利用して前記直
径Φの円内におけるR,G,Bの値,アルファ値Aの値
を求めて前記デフォーカスバッファに保存されている値
に加え、前記デフォーカスバッファ上の前記直径Φの円
内画素位置(a,b)におけるZ値と前記シェーディン
グデータの同じ画素位置(X,Y)におけるZ値を比
べ、該シェーディングデータのZ値の方が小さければ該
シェーディングデータの画素位置(X,Y)におけるZ
値を前記デフォーカスバッファ上の前記直径Φの円内画
素位置(a,b)におけるZ値に移すことによりデフォ
ーカス画像の生成を行うことを特徴としている。また、
請求項28に記載の発明は、請求項27に記載の画像生
成方法において、前記デフォーカス処理ステップは、前
記直径の円内における点光源像の強度比を、コサインを
用いた近似計算により求めることを特徴としている。ま
た、請求項29に記載の発明は、請求項25に記載の画
像生成方法において、前記オブジェクトモデルデータに
座標変換、陰面処理、シェーディング処理をし、結果を
Zバッファに格納するステップをさらに含み、前記デフ
ォーカス処理ステップは、前記Zバッファに格納された
データをシェーディングデータとして処理することを特
徴としている。また、請求項30に記載の発明は、請求
項26に記載の画像生成方法において、前記オブジェク
トモデルデータに座標変換、陰面処理、シェーディング
処理をし、結果をZバッファに格納するステップをさら
に含み、前記デフォーカス処理ステップは、前記Zバッ
ファに格納されたデータをシェーディングデータとして
処理することを特徴としている。また、請求項31に記
載の発明は、請求項21に記載の画像生成方法におい
て、前記オブジェクトは、パンフォーカスにより生成さ
れ、Z値として無限遠が与えられた背景画像を含むこと
を特徴としている。
【0011】また、請求項32に記載の発明は、請求項
21に記載の画像生成方法において、前記オブジェクト
は、自然画像を利用して、画像合成時に使用しない領域
であるクロマキー領域を、利用者から与えられる閾値を
もって抽出し、該抽出されたクロマキー領域に無限遠の
Z値と色情報としてR,G,B各々に0を与え、それ以
外の領域についてはR,G,B値はそのままで、利用者
が与えるZ値を与えたフォアグラウンド画像を含むこと
を特徴としている。また、請求項33に記載の発明は、
請求項29に記載の画像生成方法において、背景画像
を、Z値として無限遠を与えることによりRGBZ変換
処理するステップと、前記背景画像がオブジェクトと同
じ撮影パラメータで生成されている場合、前記RGBZ
変換処理の結果を背景画像用バッファに書き込むステッ
プと、前記背景画像がパンフォーカスにより生成されて
いる場合、前記RGBZ変換処理の結果を前記Zバッフ
ァに書き込みその後前記デフォーカス処理部によりデフ
ォーカス処理されたデータを前記背景画像用バッファに
書き込むステップと、をさらに含み、出力イメージ作成
処理ステップは、前記背景画像用バッファと前記マルチ
プレーンバッファの値を読み込み、イメージを生成し、
出力することを特徴としている。また、請求項34に記
載の発明は、請求項30に記載の画像生成方法におい
て、背景画像を、Z値として無限遠を与えることにより
RGBZ変換処理するステップと、前記背景画像がオブ
ジェクトと同じ撮影パラメータで生成されている場合、
前記RGBZ変換処理の結果を背景画像用バッファに書
き込むステップと、前記背景画像がパンフォーカスによ
り生成されている場合、前記RGBZ変換処理の結果を
前記Zバッファに書き込みその後前記デフォーカス処理
部によりデフォーカス処理されたデータを前記背景画像
用バッファに書き込むステップと、をさらに含み、出力
イメージ作成処理ステップは、前記背景画像用バッファ
と前記マルチプレーンバッファの値を読み込み、イメー
ジを生成し、出力することを特徴としている。また、請
求項35に記載の発明は、請求項29に記載の画像生成
方法において、自然画像を利用して合成時に使用しない
領域であるクロマキー領域を、利用者から与えられる閾
値をもって抽出するクロマキー領域処理ステップと、抽
出されたクロマキー領域に無限遠のZ値と色情報として
R,G,B各々に0を与え、それ以外の領域については
R,G,B値はそのままで、利用者が与えるZ値を与
え、前記Zバッファに書き送むRGBZ変換処理ステッ
プとをさらに含むことを特徴としている。また、請求項
36に記載の発明は、請求項30に記載の画像生成方法
において、自然画像を利用して合成時に使用しない領域
であるクロマキー領域を、利用者から与えられる閾値を
もって抽出し、該抽出した領域と接する他の領域との境
界領域においてなだらかに変化するAを算出するクロマ
キー領域処理ステップと、抽出されたクロマキー領域に
無限遠のZ値と色情報としてR,G,B,A各々に0を
与え、それ以外の領域についてはR,G,Bはそのまま
で、前記算出されたA値と、利用者が指定したZ値を与
え、前記Zバッファに書き込むRGBAZ変換処理ステ
ップとをさらに含むことを特徴としている。
【0012】次に、請求項37に記載の発明は、デフォ
ーカス処理の対象のモデルデータに対し座標変換、陰面
処理、シェーディング処理が行われ、画素値としてR,
G,B,Zの値を有するシェーディングデータを取得す
るステップと、画素値としてR,G,B,A,Zの値を
記憶できるデフォーカスバッファを利用して、前記取得
したシェーディングデータを実際のカメラと同じレンズ
の焦点距離と絞り値および被写体との距離からなる関数
にしたがってピントを外したデフォーカス像を生成する
デフォーカス処理ステップとを含むことを特徴とした画
像生成方法である。また、請求項38に記載の発明は、
請求項37に記載の画像生成方法において、前記デフォ
ーカス処理ステップは、前記シェーディングデータをス
キャンし、点光源をぼかしたときの該点光源像の直径Φ
を計算し、該直径の円内における点光源像の強度比を求
め、該直径の円内における強度比の和が1.0になるよ
うに強度比係数Mを求め、前記強度比係数Mを利用して
前記直径Φの円内におけるR,G,Bの値,アルファ値
Aの値を求めて前記デフォーカスバッファに保存されて
いる値に加え、前記デフォーカスバッファ上の前記直径
Φの円内画素位置(a,b)におけるZ値と前記シェー
ディングデータの同じ画素位置(X,Y)におけるZ値
を比べ、該シェーディングデータのZ値の方が小さけれ
ば前記シェーディングデータの画素位置(X,Y)にお
けるZ値を前記デフォーカスバッファ上の前記直径Φの
円内画素位置(a,b)におけるZ値に移すことにより
デフォーカス画像の生成を行うことを特徴としている。
また、請求項39に記載の発明は、請求項38に記載の
画像生成方法において、前記デフォーカス処理ステップ
は、前記直径の円内における点光源像の強度比を、コサ
インを用いた近似計算により求めることを特徴としてい
る。また、請求項40に記載の発明は、請求項37に記
載の画像生成方法において、前記モデルデータに座標変
換、陰面処理、シェーディング処理をし、結果をZバッ
ファに格納する座標変換および陰面消去処理ステップを
さらに含み、前記シェーディングデータを取得するステ
ップは、前記Zバッファに格納されたデータを前記シェ
ーディングデータとして取得することを特徴としてい
る。
【0013】次に、請求項41に記載の発明は、ピント
を合わせたその前後に実用上ピントが合っている範囲で
ある被写界深度を利用して視点に対する前後関係を表現
したいオブジェクトをオブジェクトモデルデータとし、
該オブジェクトモデルデータ毎に少なくとも座標変換、
陰面処理、デーフォーカス処理をしたデータであって、
画素毎にR,G,B,A,Zの値をする複数のデフォー
カスデータを取得するステップと、画素値としてR,
G,B,A,Zの値を記憶でき複数プレーンからなるマ
ルチプレーンバッファに前記取得したデフォーカスデー
タを視点からの距離の近い順に格納するマルチプレーン
バッファ処理ステップとをコンピュータに実現させるた
めの画像生成プログラムを記録したコンピュータ読み取
り可能な記録媒体である。また、請求項42に記載の発
明は、請求項41に記載の画像生成プログラムを記録し
た記録媒体において、前記画像生成プログラムは、全て
のデフォーカスデータについてマルチプレーンバッファ
処理ステップによるが終了した後、前記マルチプレーン
バッファの内容から目的とするイメージを生成し、出力
する出力イメージ作成処理ステップををさらにコンピュ
ータに実現させることを特徴としている。また、請求項
43に記載の発明は、請求項41に記載の画像生成プロ
グラムを記録した記録媒体において、前記マルチプレー
バッファ処理ステップは、前記マルチプレーンバッファ
のプレーン数をnとした場合、デフォーカスデータ上の
画素位置(X,Y)におけるZ値Zd (X,Y)とnプ
レーン目のマルチプレーンバッファ上の対応する画素位
置のZ値Zm (X、Y)#n を比較し、前者の方が小さ
ければ前記マルチプレーンバッファの各プレーンの対応
する画像のZ値Zm(X、Y)#1からZm(X,Y)#n
で順にZd(X,Y)と比較し、Zd(X,Y)<Z
m(X,Y)#N を満たすNプレーン目の対応する画像位
置のZ値が見つかった時点でマルチプレーンバッファ上
のNプレーン以降の対応する画素の画素値を1つづつ後
のプレーンの対応する画素にシフトし、前記デフォーカ
スデータの画素値を前記マルチプレーンバッファのNプ
レーン目の画素値とすることにより、前記複数のデフォ
ーカスデータを、視点からの距離の近い順に前記マルチ
プレーンバッファに格納する処理を行うことを特徴とし
ている。また、請求項44に記載の発明は、請求項41
に記載の画像生成プログラムを記録した記録媒体におい
て、前記マルチプレーンバッファは、初期段階で必要最
低限数のプレーンを備え、前記マルチプレーンバッファ
処理ステップは、前記複数のデフォーカスデータを視点
からの距離の近い順に前記マルチプレーンバッファに格
納する処理を行う際、前記マルチプレーンバッファのプ
レーンが足りなくなる毎に必要なプレーンを新たに確保
する処理を行うことを特徴としている。また、請求項4
5に記載の発明は、請求項42に記載の画像生成プログ
ラムを記録した記録媒体において、前記デフォーカスデ
ータを取得するステップは、前記デフォーカスデータを
取得するために、前記オブジェクトモデルデータに対し
座標変換、陰面処理、シェーディング処理が行われ、画
素値としてR,G,B,Zの値を有するシェーディング
データから、実際のカメラと同じレンズの焦点距離と絞
り値および被写体との距離からなる関数にしたがってピ
ントを外したデフォーカス像を生成し、前記デフォーカ
スバッファに格納するデフォーカス処理ステップをさら
に含むことを特徴としている。また、請求項46に記載
の発明は、請求項42に記載の画像生成プログラムを記
録した記録媒体において、前記画像生成プログラムは、
前記オブジェクトモデルデータに座標変換、陰面処理、
シェーディング処理が行われ、画素値としてR,G,
B,A,Zの値を有するシェーディングデータから、実
際のカメラと同じレンズの焦点距離と絞り値および被写
体との距離からなり、パラメータとしてAを含む関数に
したがってピントを外したデフォーカス像を生成し、前
記デフォーカスバッファに格納するデフォーカス処理ス
テップををさらに含み、前記デフォーカスデータを取得
するステップは、前記デフォーカスバッファに格納され
たデータを前記デフォーカスデータとして取得すること
を特徴としている。
【0014】また、請求項47に記載の発明は、請求項
45に記載の画像生成プログラムを記録した記録媒体に
おいて、前記デフォーカス処理ステップは、前記シェー
ディングデータをスキャンし、点光源をぼかしたときの
該点光源像の直径Φを計算し、該直径の円内における点
光源像の強度比を求め、該直径の円内における強度比の
和が1.0になるように強度比係数Mを求め、前記強度
比係数Mを利用して前記直径Φの円内におけるR,G,
Bの値,アルファ値Aの値を求めて前記デフォーカスバ
ッファに保存されている値に加え、前記デフォーカスバ
ッファ上の前記直径Φの円内画素位置(a,b)におけ
るZ値と前記シェーディングデータの同じ画素位置
(X,Y)におけるZ値を比べ、前記該シェーディング
データのZ値の方が小さければ該シェーディングデータ
の画素位置(X,Y)におけるZ値を前記デフォーカス
バッファ上の前記直径Φの円内画素位置(a,b)にお
けるZ値に移すことによりデフォーカス画像の生成を行
うことを特徴としている。また、請求項48に記載の発
明は、請求項47に記載の画像生成プログラムを記録し
た記録媒体において、前記デフォーカス処理ステップ
は、前記直径の円内における点光源像の強度比を、コサ
インを用いた近似計算により求めることを特徴としてい
る。また、請求項49に記載の発明は、請求項45に記
載の画像生成プログラムを記録した記録媒体において、
前記画像生成プログラムは、前記オブジェクトモデルデ
ータに座標変換、陰面処理、シェーディング処理をし、
結果をZバッファに格納するステップをさらに含み、前
記デフォーカス処理ステップは、前記Zバッファに格納
されたデータをシェーディングデータとして処理するこ
とを特徴としている。また、請求項50に記載の発明
は、請求項46に記載の画像生成プログラムを記録した
記録媒体において、前記画像生成プログラムは、前記オ
ブジェクトモデルデータに座標変換、陰面処理、シェー
ディング処理をし、結果をZバッファに格納するステッ
プをさらに含み、前記デフォーカス処理ステップは、前
記Zバッファに格納されたデータをシェーディングデー
タとして処理することを特徴としている。また、請求項
51に記載の発明は、請求項41に記載の画像生成プロ
グラムを記録した記録媒体において、前記オブジェクト
は、パンフォーカスにより生成され、Z値として無限遠
が与えられた背景画像を含むことを特徴としている。ま
た、請求項52に記載の発明は、請求項41に記載の画
像生成プログラムを記録した記録媒体において、前記オ
ブジェクトは、自然画像を利用して、画像合成時に使用
しない領域であるクロマキー領域を、利用者から与えら
れる閾値をもって抽出し、該抽出されたクロマキー領域
に無限遠のZ値と色情報としてR,G,B各々に0を与
え、それ以外の領域についてはR,G,B値はそのまま
で、利用者が与えるZ値を与えたフォアグラウンド画像
を含むことを特徴としている。
【0015】また、請求項53に記載の発明は、請求項
49に記載の画像生成プログラムを記録した記録媒体に
おいて、前記画像生成プログラムは、背景画像を、Z値
として無限遠を与えることによりRGBZ変換処理する
ステップと、前記背景画像がオブジェクトと同じ撮影パ
ラメータで生成されている場合、前記RGBZ変換処理
の結果を背景画像用バッファに書き込むステップと、前
記背景画像がパンフォーカスにより生成されている場
合、前記RGBZ変換処理の結果を前記Zバッファに書
き込みその後前記デフォーカス処理部によりデフォーカ
ス処理されたデータを前記背景画像用バッファに書き込
むステップと、をさらに含み、出力イメージ作成処理ス
テップは、前記背景画像用バッファと前記マルチプレー
ンバッファの値を読み込み、イメージを生成し、出力す
ることを特徴とする請求項49記載の画像生成プログラ
ムを記録した記録媒体。また、請求項54に記載の発明
は、請求項50に記載の画像生成プログラムを記録した
記録媒体において、前記画像生成プログラムは、背景画
像を、Z値として無限遠を与えることによりRGBZ変
換処理するステップと、前記背景画像がオブジェクトと
同じ撮影パラメータで生成されている場合、前記RGB
Z変換処理の結果を背景画像用バッファに書き込むステ
ップと、前記背景画像がパンフォーカスにより生成され
ている場合、前記RGBZ変換処理の結果を前記Zバッ
ファに書き込みその後前記デフォーカス処理部によりデ
フォーカス処理されたデータを前記背景画像用バッファ
に書き込むステップと、をさらに含み、出力イメージ作
成処理ステップは、前記背景画像用バッファと前記マル
チプレーンバッファの値を読み込み、イメージを生成
し、出力することを特徴としている。また、請求項55
に記載の発明は、請求項49に記載の画像生成プログラ
ムを記録した記録媒体において、前記画像生成プログラ
ムは、自然画像を利用して合成時に使用しない領域であ
るクロマキー領域を、利用者から与えられる閾値をもっ
て抽出するクロマキー領域処理ステップと、抽出された
クロマキー領域に無限遠のZ値と色情報としてR,G,
B各々に0を与え、それ以外の領域についてはR,G,
B値はそのままで、利用者が与えるZ値を与え、前記Z
バッファに書き送むRGBZ変換処理ステップとをコン
ピュータに実現させることを特徴としている。また、請
求項56に記載の発明は、請求項50に記載の画像生成
プログラムを記録した記録媒体において、前記画像生成
プログラムは、自然画像を利用して合成時に使用しない
領域であるクロマキー領域を、利用者から与えられる閾
値をもって抽出し、該抽出した領域と接する他の領域と
の境界領域においてなだらかに変化するAを算出するす
るクロマキー領域処理ステップと、抽出されたクロマキ
ー領域に無限遠のZ値と色情報としてR,G,B,A各
々に0を与え、それ以外の領域についてはR,G,Bは
そのままで、前記算出されたA値と、利用者が指定した
Z値を与え、前記Zバッファに書き込むRGBAZ変換
処理ステップとをさらにコンピュータに実現させること
を特徴としている。
【0016】次に、請求項57に記載の発明は、デフォ
ーカス処理の対象のモデルデータに対し座標変換、陰面
処理、シェーディング処理が行われ、画素値としてR,
G,B,Zの値を有するシェーディングデータを取得す
るステップと、画素値としてR,G,B,A,Zの値を
記憶できるデフォーカスバッファを利用して、前記取得
したシェーディングデータを実際のカメラと同じレンズ
の焦点距離と絞り値および被写体との距離からなる関数
にしたがってピントを外したデフォーカス像を生成する
デフォーカス処理ステップとをコンピュータに実現させ
るための画像生成プログラムを記録したコンピュータ読
み取り可能な記録媒体である。また、請求項58に記載
の発明は、請求項57に記載の画像生成プログラムを記
録した記録媒体において、前記デフォーカス処理ステッ
プは、前記シェーディングデータをスキャンし、点光源
をぼかしたときの該点光源像の直径Φを計算し、該直径
の円内における点光源像の強度比を求め、該直径の円内
における強度比の和が1.0になるように強度比係数M
を求め、前記強度比係数Mを利用して前記直径Φの円内
におけるR,G,Bの値,アルファ値Aの値を求めて前
記デフォーカスバッファに保存されている値に加え、前
記デフォーカスバッファ上の前記直径Φの円内画素位置
(a,b)におけるZ値と前記シェーディングデータの
同じ画素位置(X,Y)におけるZ値を比べ、該シェー
ディングデータのZ値の方が小さければ該シェーディン
グデータの画素位置(X,Y)におけるZ値を前記デフ
ォーカスバッファ上の前記直径Φの円内画素位置(a,
b)におけるZ値に移すことによりデフォーカス画像の
生成を行うことを特徴としている。また、請求項59に
記載の発明は、請求項58に記載の画像生成プログラム
を記録した記録媒体において、前記デフォーカス処理ス
テップは、前記直径の円内における点光源像の強度比
を、コサインを用いた近似計算により求めることを特徴
としている。また、請求項60に記載の発明は、請求項
57に記載の画像生成プログラムを記録した記録媒体に
おいて、前記画像生成プログラムは、前記モデルデータ
に座標変換、陰面処理、シェーディング処理をし、結果
をZバッファに格納する座標変換および陰面消去処理ス
テップをさらに含み、前記シェーディングデータを取得
するステップは、前記Zバッファに格納されたデータを
前記シェーディングデータとして取得することを特徴と
している。
【0017】
【発明の実施の形態】次に、本発明の実施の形態につい
て図面を参照して説明する。
【0018】(第1の実施の形態)図1は本発明の第l
の実施形態の画像生成装置の構成図である。本実施形態
の画像生成装置はオブジェクトモデルデータ読み出し処
理部1と座標変換および陰面消去処理部2とZバッファ
3とシェーディング・マッピング等処理部4とデフォー
カス処理部5とデフォーカスバッファ6とマルチプレー
ンバッファ処理部7とマルチプレーンバッファ8と出力
イメージ作成処理部9とディスク書き込み処理部10と
記憶装置11で構成される。
【0019】オブジェクトモデルデータ読み出し処理部
1は記憶装置11から、被写界深度を利用して前後関係
を表現したい物体(オブジェクト)毎にオブジェクトモ
デルデータを読み出し、次の座標変換および陰面消去処
理部2に渡す。オブジェクトの概念を図2に示す。オブ
ジェクトは通常複数のポリゴンや複数の基本形状(以下
プリミティブと書く)の組み合わせ(オブジェクトモデ
ルデータ)で表現される。図2のようにA、B、Cの3
つのオブジェクトが存在し、A、B、Cの前後関係を被
写界深度によって表現したい場合、ここでA、B、C毎
にオブジェクトモデルデータを読み出し、座標変換およ
び陰面消去処理部2に渡す。読み出された各々の物体に
関して以下に説明する処理が進み、マルチプレーンバッ
ファ処理が終了したら次のオブジェクトを読み出す、と
いう処理をオブジェクトが無くなるまで続ける。なお、
ここでいう”被写界深度”とは、ピントを合わせたその
前後に実用上ピントがあっている範囲のことをいう。
【0020】座標変換および陰面消去処理部2はオブジ
ェクトモデルデータ読み出し処理部1から渡されたオブ
ジェクト毎に座標変換、陰面消去やシェーディング等を
行う。この座標変換および陰面消去処理部2は一般的な
コンピュータグラフィックス画像生成装置と同じものが
使われる。
【0021】座標変換とは、処理対処となるオブジェク
トモデルデータを各処理に適した座標系に変換する処理
のことをいう。一例としてボディ座標系で表わされたオ
ブジェクをその処理過程に応じて、ワールド座標系、視
点座標系、スクリーン座標系といった座標へ変換する処
理のことをいう。ここで、”ボディ座標系”とは、座標
系を各オブジェクトに関するデータの入力しやすい座標
原点および座標軸としたもののことをいう。なお、この
ボディ座標系はオブジェクト座標系もしくはモデル座標
系と呼ばれる場合もある。”ワールド座標系”とは、ボ
ディ座標系で表現されたオブジェクトを運動モデルに従
って配置するための座標系のことをいう。また、”視点
座標系”とは、ワールド座標系に対し視点の位置を原点
とし、視線の方向をZ軸の正の方向とした座標系のこと
をいう。そして、”スクリーン座標系”とは視点座標系
に置かれたデータを画面に投影するための座標系をい
う。これら、座標変換は主にアフィン変換により行われ
る。
【0022】また、陰面消去とは、視点から見てオブジ
ェクトの重なり等により見えない部分を消去する処理の
ことをいう。陰面消去の方法としては、Zバッファ法、
スキャンライン法、レイ・トレーシング法等がある。な
お、実施の形態ではZバッファ法による陰面消去を例に
している。ここで、”Zバッファ法”とは視点からの距
離に関するZ値を記憶可能なZバッファを用いて、視点
から各オブジェクトの各点までの距離と対応するZバッ
ファ内の画素のZ値とを比較し、オブジェクトの点まで
の距離がZバッファ内のZ値より小さい(視点に近い)
場合に、Zバッファの対応する画素の色データおよびZ
値を書き換えることで陰面消去を行う方法である。
【0023】また、シェーディング・マッピング等処理
部4は座標変換・陰面消去されたオブジェクトにシェー
ディングやマッピング等処理を行う。シェーディング・
マッピング等処理部4は一般的なコンピュータグラフィ
ックス画像生成装置と同じものが使われる。
【0024】ここで、”シェーディング”とは、目に見
えるオブジェクトの色を構成するさまざまな要素、つま
りオブジェクト本来の色や表面の状態、表面上の点の向
いている方向、光源の位置や色、視点の位置、視線の方
向、それに周囲のオブジェクトの映り込みなどを考慮し
て画素に付ける色を決定する処理のことをいう。このシ
ェーディング・アルゴリズムのことを一般にシェーディ
ングモデルと呼ぶが、このシェーディング・モデルとし
て、ランバートモデル、フォン・シェーディングモデ
ル、ブリン・シェーディングモデル等がある。また、”
マッピング”とは平面的なマッピングデータを3次元形
状を有するオブジェクト表面上へ写像することでオブジ
ェクトの表面の模様等を表わす処理のことをいう。マッ
ピング方法としては表面マッピング、ソリッドマッピン
グ等がある。なお、シェーディング・マッピング等処理
部4は、座標変換・陰面消去されたオブジェクトに対し
シェーディング処理を行う。さらにマッピング等の処理
が必要な場合、シェーディング・マッピング等処理部4
はそれらの処理も行う。
【0025】オブジェクト毎に生成されたイメージは図
3に示す一般的なフォーマットのZバッファ3に格納さ
れ、次のデフォーカス処理部5に渡される。Zバッファ
3は処理の開始時に全ての(x,y)が図3の初期値に
初期化される。図3において結果として得たい画像のサ
イズとして横xmax画素、縦ymax画素としている。
【0026】デフォーカスバッファ6のフォーマットを
図4に、デフォーカス処理を図7に示す。xmax ,y
max は結果として得たい画像のサイズを横方向、縦方向
各々画素数で表したものである。処理の開始時には初期
値としてR=0.0,G=0.0,B=0.0,視点か
ら対応する点までの距離Z=∞,アルファ値A=0.0
が全ての(x,y)に与えられる。なお、アルファ値A
は、0から1の間の値を取り、別途詳細に説明する演算
方法によりその値が求められる。
【0027】デフォーカス処理部5は、Zバッファ3上
の該当するオブジェクトが含まれているある座標(X,
Y)の画素をデフォーカス像に広げるのだが、その広が
った像は円形であるとし、その直径Φを画素を単位とし
て幾何光学的アプローチによって求める(ステップ21
〜24)。
【0028】図5(a)〜(c)を使ってその方法を説
明する。図5(a)〜(c)は二次元で表しているが、
以下に説明するとおり二次元で考えて問題ない。本実施
形態では図5(a)〜(c)に示すとおりレンズ面と絞
り輪面は同一としている。幾何光学の一般論として図5
(a)に示すように、(z,y)=(a,b)に位置す
る点光源が結像する座標(α,β)は次のように表され
る(必ずa>f)。
【数1】
【0029】次に、結像点(α,β)がフィルム面より
前にあるか後ろにあるかについて別々に図にしたのが図
5(b)と図5(c)である。sはカメラからある距離
0にある点光源の結像点がフィルム面上になるように
調整された距離である。つまりカメラからa0 の距離に
ある点光源にピントを合わせるように利用者が指定した
距離である。a0 は必ずfより大きいので、
【数2】 である。
【0030】図5(b)と図5(c)から3角形の相似
関係を使うと、
【数3】 が得られる。ここにおいて、Fは絞り値、fはレンズの
焦点距離、φirisは絞り輪の直径、φimageはフィルム
上に現れる点光源の像の直径である。
【0031】ここで得られた直径φimage は実際の大き
さであるので単位を画素に変換し、実際に利用する像の
直径Φを求める(ステップ23)。
【数4】
【0032】ここにおいて、a0 はピントを合わす点光
源のカメラからの距離、aは目的とする画素のカメラか
らの距離(Zバッファ3上のZ値)、fはレンズの焦点
距離、Fは絞り値、φfilmはフィルムの撮像される有効
な長方形に外接する円の直径、xmax とymax は生成し
ようとする画像を構成する横方向の画素数と縦方向の画
素数である。
【0033】次に、(4)式で求まった直径がΦの円形
の像内での強度比分布を求める。一般に、波動光学では
強度比分布は、
【数5】 に従う(Potmesil,Michael et al."A Lens and Apertur
e Camera Model for Synthetic Image Genaration", Co
mputer Graphics, vol.17, no.3, pp137-145, 198
1.)。ここで、(l,m)は原点(0,0)が円形の像
の中心であるように座標がとられている。また、J
l(a)はベッセル関数の第1次級数である。この式に
よって強度比分布を求めてもよいが、本発明では干渉を
考慮する必要が無く、また処理量の削減のために近似式
として次式を用いて強度比分布を求める。
【数6】 (5)式と(6)式の関数形を(l2+m21/2=rと
して図6に示す。
【0034】(6)式では円形の像が原点を中心として
直径が2πであるので、デフォーカスバッファ6上で実
際に使用する形、すなわち直径がΦ、中心が(X,Y)
に変換して用いることになる。すなわち、
【数7】 として利用する。
【0035】次に、(7)式により中心が(X,Y)
で、直径がΦの円形の像内の全ての画素における強度比
の和を求め、その和が1.0となるように強度比係数M
を決める(ステップ25)。
【数8】
【0036】以上求められた値を用いて、Zバッファ3
上の該当するオブジェクト内のある座標(X,Y)の画
素のデフォーカス処理によって得られる、中心が(X,
Y)で、直径がΦである円形の像(Rd,Gd,Bd) は
次式によって求められる。なお、以降R,G,B,A,
Z,R(x,y)に付されたサフィックスz,d,mは
それぞれZバッファ3、デフォーカスバッファ6、マル
チプレーンバッファ8上の値であることを示している。
【数9】
【0037】また、同時に出力イメージ作成処理部9で
使用するアルファ値Aを求める。
【0038】なお、(9),(10),(11)式は最
初Rd(x,y),Gd(x,y),Bd(x,y) の初
期値が与えられて、右辺の計算値を左辺に代入すること
を繰り返すことを示している。
【数10】
【0039】以上のようにR,G,B,Aの値をZバッ
ファ3上の該当するオブジェクト内の全ての座標におい
て求め、結果をデフォーカスバッファ6の対応する座標
の該当する値に加える(ステップ26)。
【0040】デフォーカスバッファ6上(x,y)にお
けるZ値については、Zバッファ3上の(X,Y)にお
けるZ値がデフォーカスバッファ6上の(x,y)にお
けるZ値より小さければZバッファ3上の(X,Y)に
おけるZ値をデフォーカスバッファ6上(x,y)のZ
値に移す(ステップ27)。
【0041】マルチプレーンバッファ8のフォーマット
を図8、マルチプレーンバッファ処理を図10に示す。
max ,ymax は結果として得たい画像のサイズを横方
向、縦方向各々画素数で表したものである。nはマルチ
プレーンバッファ8の枚数であり、出力画像上重なって
見えるデフォーカスされたオブジェクトの数に依存して
決定される値である。マルチプレーンバッファ8には任
意の座標(x,y),((0≦x<xmax ),(0≦y
<ymax ))について各々n個のRm (x,y),Gm
(x,y),Bm(x,y),Zm(x,y),A
m(x,y)が保持される。マルチプレーンバッファ8
の初期値として処理開始時に全ての(x,y)の全ての
nについてRm=0.0,Gm=0.0,Bm=0.0,
m=∞,Am =0.0が与えられる。
【0042】デフォーカスバッファ6上の処理中のオブ
ジェクトに含まれるある座標(X,Y)からマルチプレ
ーンバッファ8の対応する座標(X,Y)に全ての情報
R(X,Y),G(X,Y),B(X,Y),Z(X,
Y),A(X,Y)が移される。その際の処理の概略を
図9に示す。
【0043】図9は処理中のオブジェクトに含まれるあ
る座標(X,Y)についての処理を説明している。既に
説明したようにマルチプレーンバッファ8のある座標
(X,Y)についてn個のRm(X,Y),Gm(X,
Y),Bm(X,Y),Zm(X,Y),Am(X,Y)
が保持されており、各々Rm(X,Y)#n,Gm(X,
Y)# n,Bm(X,Y)#n,Zm(X,Y)#n,A
m(X,Y)#nと表している。マルチプレーンバッファ
処理部7はマルチプレーンバッファ8を(X,Y)につ
いて常にZm(X,Y)#1≦Zm(X,Y)#2≦Z
m(X,Y)#3 ・・・ ≦Zm(X,Y)#nとなるように
制御する。デフォーカスバッファ6の(X,Y)につい
て、マルチプレーンバッファ処理部7はまずデフォーカ
スバッファ6上の(X,Y)におけるZd(X,Y)と
マルチプレーンバッファ8上のZm(X,Y)#nを比較
する(ステップ33)。その結果Zd(X,Y)>Z
m(X,Y)#nであればマルチプレーンバッファ処理部
7はデフォーカスバッファ6からの(X,Y)に関する
情報のマルチプレーンバッファ8への移送を行わない。
d(X,Y)≦Zm(X,Y)#nであればマルチプレー
ンバッファ処理部7はZm(X,Y)#1からZm(X,
Y)#nまで順にZd(X,Y)との比較を行う(ステッ
プ34,35)。Zd(X,Y) < Zm(X,Y)#N 、
(1≦N≦n)であるNが見つかった時点でマルチプレ
ーンバッファ処理部7はN以降の(R,G,B,Z,
A)をひとつづつ後ろにシフトさせ(ステップ36)、
最後にデフォーカスバッファ6のRd (X,Y),Gd
(X,Y),Bd(X,Y),Zd(X,Y),A
d(X,Y)をN番目のマルチプレーンバッファ8のRm
(X,Y)#N,Gm(X,Y)#N,Bm(X,Y)#N,Z
m(X,Y)#N,Am(X,Y)#Nに移す(ステップ3
7)。この作業を該当するオブジェクトが含まれる全て
の(X,Y)で行う(ステップ31,32)。
【0044】該当するオブジェクトの処理が終了した場
合(ステップ38)、そのオブジェクトが最後のオブジ
ェクトであれば次の出力イメージ作成処理部9に移り、
そうでない場合はオブジェクトモデルデータ読み出し処
理部1に戻って次のオブジェクトモデルデータを読み出
し、ここまで説明してきた各処理を行う。
【0045】ここでは、マルチプレーンバッファ8の枚
数nは、出力画像上重なって見えるデフォーカスされた
オブジェクトの数に依存して決定される値であり、予め
n枚のマルチプレーンバッファ8が確保されているもの
として説明した。しかし、マルチプレーンバッファ8を
動的に確保できるようであれば、初期段階で最低限のマ
ルチプレーンバッファ8の数(例えば1枚)のみを確保
し、図10のステップS36のN番目のプレーン以降の
プレーンの情報をひとつづつ後ろに下げる処理でマルチ
プレーバッファ8の数が足りなくなったとき、マルチプ
レーンバッファ8用のプレーンバッファを新たに確保す
るようにしても良い。すなわち、現在マルチプレーンバ
ッファ8のプレーン数がαで、ステップS36の処理の
ためにプレーン数が(α+1)必要になった場合、新た
に1プレーン分のバッファを初期化して確保し、マルチ
プレーンバッファ8のプレーン数を(α+1)とした
後、N番目のプレーン以降のプレーンの情報をひとつづ
つ後ろに下げる処理を行うとよい。なお、マルチプレー
ンバッファ8の必要枚数は、最大で処理するオブジェク
トの数となる。
【0046】出力イメージ作成処理部9は0≦x<x
max , 0≦y<ymaxの全ての(x,y)について、次
式の計算を行い出力イメージ作成する。
【数11】
【0047】以上の第1の実施形態では、Zバッファ3
からR,G,B,Zの値を読み込み、実際のカメラと同
じレンズの焦点距離と絞り値および被写体との距離から
なる関数(式(12))にしたがってピントを外したデ
フォーカス像を生成したが、Zバッファ3からR,G,
B,A,Zの値を読み込み、実際のカメラと同じレンズ
と同じ焦点距離と絞り値および被写体との距離からな
り、パラメータとしてAを含む関数
【数12】 にしたがってピントを外したデフォーカス像を生成して
もよい。この場合、Zバッファ3のフォーマットおよび
初期値は図11のようになる。ここで、(16)式は右
辺の値を左辺に代入することを意味し、最初Ad(x,
y)の値として初期値が与えられる。
【0048】(第2の実施の形態)図12は本発明の第
2の実施形態の画像生成装置の構成図である。
【0049】本実施形態では、背景画像読み出し処理部
12とRGBZ変換処理部13とスイッチ14と背景画
像用バッファ15が第1の実施形態(図1)に付加され
て構成されている。ここで、RGBZ変換処理部13は
R,G,Bの情報にZの値を加える処理を行う。
【0050】背景画像読み出し処理部12は背景画像を
記憶装置11から読み出し、記憶装置11に格納されて
いる画像ファイルフォーマットがRGB形式でなけれ
ば、まず画像ファイルフォーマットをRGB形式に変換
する。変換方法については一般的なものと同じであるた
め説明は省略する。生成しようとしている画像サイズx
max, ymax と同じ大きさであればそのままRGBZ変
換処理部13に渡し、そうでない場合には xmax,y
max に合わせる処理をここで行う。その際の処理方法は
一般的なものと同じであるので説明は省略する。
【0051】背景画像は生成画像内で無限遠に論理的に
置かれる。そのため背景画像の全ての座操におけるZ値
として無限遠を発生して、R,G,Bの情報に加える。
記憶装置11に格納されている背景画像が第1の実施形
態により生成されるときに指定する撮影パラメータ(レ
ンズの焦点距離とF値とピントを合わせる距離)と同じ
ものを用いて生成されている場合と、パンフォーカスで
生成している場合によってこの後の流れが若干異なる。
【0052】[背景画像が同じ撮影パラメータで生成さ
れている場合]RGBZ変換処理部13の出力はスイッ
チ14を経て全て背景画像用バッファ15に移される。
背景画像用バッファ15のフォーマットを図13に示
す。
【0053】背景画像用バッファ15に移された後、第
1の実施形態による画像生成が開始される。全てのオブ
ジェクトに関してマルチプレーンバッファ処理が終了し
た後、出力イメージ作成処理部9における処理が第1の
実施形態と異なる。(13)式〜(15)式の代わりに
第2の実施形態では次式によって出力画像を作成する。
【数13】 ここで、R(x,y)back,G(x,y)back,B
(x,y)backは背景画像用バッファ15上の座標
(x,y)におけるR,G,B値である。
【0054】[背景画像がパンフォーカスにより生成さ
れている場合]RGBZ変換処理部13の出力はスイッ
チ14を径てZバッファ3に移される。完了後、第1の
実施形態と同じデフォーカス処理がZバッファ3に移さ
れた背景画像全体に対して行われる。第2の実施形態で
は背景画像にアルファ値Aは必要無いので(12)式に
よるアルファ値Aは計算しない。デフォーカス処理の結
果はデフォーカスバッファ6ではなく背景画像用バッフ
ァ15に移される。
【0055】背景画像に関してデフォーカス処理が終
り、結果が背景画像用バッファ15に格納された後、第
1の実施形態による画像生成が開始される。全てのオブ
ジェクトに関してマルチプレーンバッファ処理が終了し
た後、出力イメージ作成処理部9における処理が行われ
る。これは背景画像が同じ撮影パラメータで生成されて
いる場合と同じく(17)式〜(19)式に従って行わ
れる。
【0056】なお、本実施例において画像処理装置は背
景画像用バッファ15を備え、出力イメージ作成処理部
9が背景画像用バッファ15およびマルチプレーンバッ
ファ8内のデータを用いて式(17)〜(19)によっ
て出力画像を作成するものとして説明した。しかし、上
述の背景処理バッファ15への出力データにさらにZ値
=∞およびアルファ値A=1.0を付加してデフォーカ
スバッファ6に移し、マルチプレーンバッファ処理部7
によりデフォーカスされた背景画像をマルチプレーンバ
ッファ8に納めさせることで、出力イメージ処理部9の
処理は、第1の実施の形態で説明した処理と同じく(1
3)式〜(15)式により処理することができる。ま
た、これにより背景画像用バッファ15を省くことがで
きる。
【0057】(第3の実施の形態)図14は本発明の第
3の実施形態の画像生成装置の構成図である。本実施形
態では、フォアグラウンド画像読み出し処理部16とク
ロマキー領域抽出処理部17とRGBZ変換処理部18
が第2の実施形態(図12)に付加されて構成されてい
る。
【0058】第3の実施形態は第1の実施形態において
最初にオブジェクトのオブジェクトモデルデータ読み出
し処理前に実行してもよいし、あるオブジェクトのマル
チプレーンバッファ処理終了後次のオブジェクトのオブ
ジェクトモデルデータ読み出し処理開始前の間の任意の
タイミングで行うこともできるし、最後のオブジェクト
のマルチプレーンバッファ処理終了後で出力イメージ作
成処理前でもよい。
【0059】フォアグラウンド画像読み出し処理部16
は、ブルーバック等を用いて撮影された画像(以下フォ
アグラウンド画像と書く)を記憶装置11から読み出
す。記憶装置11に格納されている画像ファイルフォー
マットがRGB形式でなければ、ここでまず画像ファイ
ルフォーマットをRGB形式に変換する。変換方法につ
いては一般的なものと同じであるため説明は省略する。
生成しようとしている画像サイズ xmax,ymax と同じ
大きさであればそのままRGBZ変換処理部18に渡
し、そうでない場合には xmax,ymax に合わせる処理
をここで行う。その際の処理方法は一般的なものと同じ
であるので説明は省略する。
【0060】クロマキー領域抽出処理部17は、読み出
されたフォアグラウンド画像からクロマキー領域を抽出
する。その際の処理については一般的なものと同じであ
るため詳細な説明は省略する。その処理の概要として
は、例えば、R,G,B各々について閾値 Rmin, R
max, Gmin,Gmax, Bmin, Bmax が利用者から与
えられ、フォアグラウンド画像からR,G,B各々全て
その範囲に含まれる画素をクロマキー領域とみなすこと
によりクロマキー処理をする。
【0061】RGBZ変換処理部18は、記憶装置11
から読み出され、フォアグラウンド画像読み出し処理部
16で大きさ がxmax, ymax,フォーマットがRGB
フォーマットに変換されたフォアグラウンド画像が第1
の実施形態の説明で述べたZバッファ3に書き込まれ
る。このときクロマキー領域抽出処理部17によって抽
出されたクロマキー領域内の画素の座標について(R,
G,B)=(0,0,0)としまたZ値に無限遠を与
え、その他の領域の座標についてはR,G,B値はその
ままで利用者が与えるZ値を与えZバッファ3に書き込
む。これを図15に示す。終了後デフォーカス処理以降
は第1の実施形態で述べたあるオブジェクトに関する処
理と同じ処理が行われる。
【0062】(第4の実施の形態)図16は本発明の第
4の実施形態の画像生成装置の構成図である。本実施形
態では、フォアグラウンド画像読み出し処理部16とク
ロマキー領域抽出処理部17とRGBAZ変換処理部1
8’が第2の実施形態(図12)に付加されて構成され
ている。
【0063】第4の実施形態は第2の実施形態において
最初にオブジェクトのオブジェクトモデルデータ読み出
し処理前に実行してもよいし、あるオブジェクトのマル
チプレーンバッファ処理終了後次のオブジェクトのオブ
ジェクトモデルデータ読み出し処理開始前の間の任意の
タイミングで行うこともできるし、最後のオブジェクト
のマルチプレーンバッファ処理終了後で出力イメージ作
成処理前でもよい。
【0064】フォアグラウンド画像読み出し処理部16
は、ブルーバック等を用いて撮影された画像(以下フォ
アグラウンド画像と書く)を記憶装置11から読み出
す。記憶装置11に格納されている画像ファイルフォー
マットがRGB形式でなければ、ここでまず画像ファイ
ルフォーマットをRGB形式に変換する。変換方法につ
いては一般的なものと同じであるため説明は省略する。
生成しようとしている画像サイズxmax, ymax と同じ
大きさであればそのままRGBAZ変換処理部18’に
渡し、そうでない場合にはxmax, ymax に合わせる処
理をここで行う。その際の処理方法は一般的なものと同
じであるので説明は省略する。
【0065】クロマキー領域抽出処理部17は、読み出
されたフォアグラウンド画像からクロマキー領域を抽出
し、A値を算出する。ここで、クロマキー領域抽出処理
部17は、クロマキー領域において0、クロマキー領域
以外の領域において1とし、クロマキー領域に接するク
ロマキー領域以外の領域との境界領域においてなだらか
に変化するA値を算出する。なお、クロマキー領域の抽
出、A値の算出処理については一般的なものと同じであ
るため詳細な説明を省略する。ここで、クロマキー領域
の抽出処理の概要としては、例えば、R,G,B各々に
ついて閾値Rmi n, Rmax, Gmin,Gmax, Bmin
max が利用者から与えられ、フォアグラウンド画像か
らR,G,B各々全てその範囲に含まれる画素をクロマ
キー領域とみなすことによりクロマキー処理をする。
【0066】RGBAZ変換処理部18’は、記憶装置
11から読み出され、フォアグラウンド画像読み出し処
理部16で大きさがxmax, ymax, フォーマットが
RGBフォーマットに変換されたフォアグラウンド画像
が第1の実施形態の説明で述べたZバッファ3に書き込
まれる。このときクロマキー領域抽出処理部17によっ
て抽出されたクロマキー領域内の画素の座標について
(R,G,B,A)=(0,0,0,0)としまたZ値
に無限遠を与え、その他の領域の座標についてはR,
G,B値はそのままで、クロマキー領域抽出処理部17
により算出されたA値および利用者が与えるZ値を図1
1に示す構成のZバッファ3に書き込む。これを図17
に示す。
【0067】終了後デフォーカス処理以降は第1の実施
形態で述べたあるオブジェクトに関する処理と同じ処理
が行われる。
【0068】(第5の実施の形態)本発明の第5の実施
形態は、第1の実施形態(図1)に、第3の実施形態
(図14)のフォアグラウンド画像読み出し処理部1
6、クロマキー領域抽出処理部17、RGBZ変換処理
部18を付加したものである。その説明は図1と図14
の説明から容易に類推できるので、省略する。
【0069】(第6の実施の形態)本発明の第6の実施
形態は、第1の実施形態(図1)に、第4の実施形態
(図16)のフォアグラウンド画像読み出し処理部1
6、クロマキー領域抽出処理部17、RGBAZ変換処
理部18’を付加したものである。その説明は図1と図
16の説明から容易に類推できるので、省略する。
【0070】(第7の実施の形態)図18は本発明の第
7の実施形態の画像生成装置の構成図である。図18に
おいて、記憶装置11には、ピントを合わせたその前後
に実用上ピントが合っている範囲である被写界深度を利
用して視点に対する前後関係を表現したいオブジェクト
をオブジェクトモデルデータとし、このオブジェクトモ
デルデータ毎に少なくとも座標変換、陰面処理、デーフ
ォーカス処理をしたデータであって、画素毎にR,G,
B,A,Zの値をする複数のデフォーカスデータが記憶
されている。
【0071】デフォーカスデータ読み出し処理部31
は、記憶装置11に記憶されているデフォーカスデータ
を順次読み出し、マルチプレーンバッファ処理部7に渡
す。マルチプレンバッファ処理部7は、画素値として
R,G,B,A,Zの値を記憶でき複数プレーンからな
るマルチプレンバッファ8を利用して、渡されたデフォ
ーカスデータを、視点からの距離の近い順にマルチプレ
ーンバッファ8に格納する。
【0072】ディスク書き込み処理部32は、処理対象
となるデフォーカスデータがすべて処理された後、マル
チプレーンバッファ8に記憶されたデータを記憶装置に
書き込む。
【0073】以上により、複数のデフォーカスデータか
らピントを合わせた距離により手前に存在する大きくぼ
けた物体の像はぼけると同時にエッジから透けて見える
自然な被写界深度をもった画像を高速に生成することが
可能となる。
【0074】なお、図18において図1の各部に対応す
る部分には同一の符号を付けている。
【0075】ここでいう、オブジェクトは、パンフォー
カスにより生成され、Z値として無限遠が与えられた背
景画像を含むものであってもよい。また、オブジェクト
は、自然画像を利用して、画像合成時に使用しない領域
であるクロマキー領域を、利用者から与えられる閾値を
もって抽出し、該抽出されたクロマキー領域に無限遠の
Z値と色情報としてR,G,B各々に0を与え、それ以
外の領域についてはR,G,B値はそのままで、利用者
が与えるZ値を与えたフォアグラウンド画像を含むもの
であってもよい。
【0076】図18において、マルチプレーバッファ処
理部8の動作は、第1の実施の形態で説明した通りであ
る。すなわち、マルチプレーンバッファ8のプレーン数
をnとした場合、デフォーカスデータ上の画素位置
(X,Y)におけるZ値Zd (X,Y)とnプレーン目
のマルチプレーンバッファ8上の対応する画素位置のZ
値Zm (X、Y)#n を比較する。そして、Zd (X,
Y)≦Zm (X、Y)#nであればマルチプレーンバッフ
ァ8の各プレーンの対応する画像のZ値Zm(X、Y)1
からZm(X,Y)#nまで順にZd(X,Y)と比較し、
d(X,Y)<Zm(X,Y)#N を満たすNプレーン
目の対応する画像位置のZ値を見つける。
【0077】条件を満たすNプレーン目の対応する画像
位置のZ値が見つかった時点でマルチプレーンバッファ
8上のNプレーン以降の対応する画素の画素値を1つづ
つ後のプレーンの対応する画素にシフトし、デフォーカ
スデータの画素値をマルチバッファ8のNプレーン目の
画素値とする。以上により複数のデフォーカスデータ
を、視点からの距離の近い順にマルチプレーンバッファ
8に格納する処理を行う。なお、マルチプレーンバッフ
ァ8は、初期段階で必要最低限のプレーン数を備え、マ
ルチプレーンバッファ処理部7は、複数のデフォーカス
データを視点からの距離の近い順に前記マルチプレーン
バッファに格納する処理を行う際、マルチプレーンバッ
ファ8のプレーンが足りなくなる毎に必要なプレーンを
新たに確保するようにしてもよい。
【0078】また、図18の画像生成装置において、図
1で説明したデフォーカスバッファ6と、デフォーカス
処理部5とをさらに備えるようにしても良い。なお、こ
のとき、記憶装置11には、オブジェクトモデルデータ
に座標変換、陰面処理、シェーディング処理が行われ、
画素値としてR,G,B,Zの値を有するシェーディン
グデータが記憶され、これに対する処理が行われること
になり、マルチプレーンバッファ処理部7は、デフォー
カスバッファ6に格納されたデータをデフォーカスデー
タとして処理することになる。
【0079】これに加え、さらに、図1で説明した座標
変換および陰面消去処理部2やZバッファ、必要に応じ
てシェーディング・マッピング等処理部を備えても良
い。この時、記憶装置に記憶される処理対象となるデー
タは、第1の実施の形態で説明した通りとなる。
【0080】また、図18の記画像生成装置は、さら
に、第2の実施の形態から第6の実施形態で説明した背
景画像やフォアグランド画像を処理するための処理部を
さらに備えるものであっても良い。
【0081】(第8の実施の形態)図19は本発明の第
8の実施形態の画像生成装置の構成図である。本実施形
態では、図18と比較し、本実施形態の画像生成装置
は、出力イメージ作成処理部9が付加され、図18のデ
ィスク書き込み処理部32が第1の実施形態で説明した
ディスク書き込み処理部10となっている点が異なる。
ここで、図19において図18の各部に対応する部分に
は同一の符号を付け、その説明を省略する。なお、出力
イメージ作成処理部9、ディスク書き込み処理部10の
動作は、第1の実施形態で説明した通りであり、その説
明を省略する。以上により、複数のデフォーカスデータ
からピントを合わせた距離により手前に存在する大きく
ぼけた物体の像はぼけると同時にエッジから透けて見え
る自然な被写界深度をもった画像を高速に生成すること
が可能となる。
【0082】(第9の実施の形態)図20は本発明の第
9の実施形態の画像生成装置の構成図である。図20の
画像生成装置において、記憶装置11には、デフォーカ
ス処理の対象のモデルデータに対し座標変換、陰面処
理、シェーディング処理が行われ、画素値としてR,
G,B,Zの値を有するシェーディングデータが記憶さ
れている。そして、シェーディングデータ読み出し処理
部41は、記憶装置11から処理対象のシェーディング
データを読み出し、デフォーカス処理部5に引き渡す。
デフォーカス処理部5は、引き渡されたシェーディング
データから、実際のカメラと同じレンズの焦点距離と絞
り値および被写体との距離からなる関数にしたがってピ
ントを外したデフォーカス像をデフォーカスバッファ6
を利用して生成する。ディスク書き込み処理部42は、
デフォーカスバッファ6上に生成されたデフォーカス画
像を記憶装置11に書き込み。以上により、デフォーカ
スされた画像を生成することができる。なお、図18に
おいて図1の各部に対応する部分には同一の符号を付け
ている。
【0083】デフォーカス処理部6は、第1の実施の形
態で説明した通りであるが、その動作を再度説明すると
以下のようになる。引き渡されたシェーディングデータ
をスキャンする。そして、点光源をぼかしたときの該点
光源像の直径Φを計算する。求めた直径の円内における
点光源像の強度比を求め、直径Φの円内における強度比
の和が1.0になるように強度比係数Mを求める。そし
て、強度比係数Mを利用して直径Φの円内におけるR,
G,Bの値,アルファ値Aの値を求めてデフォーカスバ
ッファ6に保存されている値に加える。このとき、デフ
ォーカスバッファ6上の前記直径Φの円内画素位置
(a,b)におけるZ値とシェーディングデータ上の同
じ画素位置(X,Y)におけるZ値を比べ、前記、シェ
ーディングデータのZ値の方が小さければシェーディン
グデータ上の画素位置(X,Y)におけるZ値をデフォ
ーカスバッファ6上の直径Φの円内画素位置(a,b)
におけるZ値に移す。以上により、デフォーカス画像の
生成を行う。なお、デフォーカス処理部5は、直径Φの
円内における点光源像の強度比を、コサインを用いた近
似計算により求めることで、高速演算が可能となる。
【0084】(第10の実施の形態)図21は本発明の
第10の実施形態の画像生成装置の構成図である。本実
施形態では、図20と比較し、本実施形態の画像生成装
置は、座標変換および陰面消去処理部2、Zバッファ
3、および必要に応じてシェーディング・マッピング等
処理部4が付加されている点が異なる。ここで、図21
において図20の各部に対応する部分には同一の符号を
付け、その説明を省略する。なお、モデルデータ読み出
し処理部43は、図1のオブジェクトモデルデータ読み
出し処理部1に対応する。なお、座標変換および陰面消
去処理部2、Zバッファ3、シェーディング・マッピン
グ等処理部4については、第1の実施形態で説明した通
りであり、その説明を省略する。
【0085】なお、第1〜第10の実施の形態で説明し
た画像生成装置により生成された画像は、記憶装置11
に納められるものとして説明したがこれに限定されるも
のではない。例えば、順次表示装置に表示されるもので
あっても良い。また、第1〜第10の実施の形態で説明
した各処理部の機能は、専用のハードウェアによりその
機能が実現されるものであっても、プログラムとして提
供され画像生成装置内の図示しないメモリを利用しCP
U(中央演算装置)により実行されることにより、その
機能が実現されるものであってもよい。
【0086】なお、図1、図7、図10、図12、図1
4、図16、図18、図19、図20、図21に示した
手順はプログラムで実行され、該プログラムはフロッピ
ーディスク、CDROM、ROMテープなどのコンピュ
ータ読み取り可能な記録媒体に記録されて提供され、コ
ンピュータシステムは該プログラムを実行し、画面を生
成する。なお、ここでいう「コンピュータシステム」と
は、OSや周辺機器等のハードウェアを含むものとす
る。また、「コンピュータ読み取り可能な記録媒体」と
は、上述したフロッピーディスク、CD−ROM等の可
般媒体のほか、コンピュータシステムに内蔵されるハー
ドディスク等の記憶装置も含むものとする。さらに「コ
ンピュータ読み取り可能な記録媒体」とは、インターネ
ット等のネットワークや電話回線等の通信回線を介して
プログラムを送信する場合の通信線のように、短時間の
間、動的にプログラムを保持するもの、その場合のサー
バやクライアントとなるコンピュータシステム内部の揮
発性メモリのように、一定時間プログラムを保持してい
るものも含むものとする。また上記プログラムは、前述
した機能の一部を実現するためのものであっても良く、
さらに前述した機能をコンピュータシステムにすでに記
録されているプログラムとの組み合わせて実現できるも
のであっても良い。
【0087】以上説明したように、本発明は、実際のカ
メラと同じやり方により実写と同様の自然な被写界深度
を持った画像を高速に生成することができ、また透明/
半透明のオブジェクトも扱える。また、実写等予め別に
生成された画像を被写界深度上自然に背景として合成し
利用でき、また透明/半透明のオブジェクトも扱える。
また、A値も与えることによりブルーバック等で撮影さ
れた人物画像等の自然画像を被写界深度上自然に合成で
き、また透明/半透明のオブジェクトも扱える。
【0088】
【発明の効果】以上説明したように、本発明による画像
生成装置および方法およびそのプログラムを記録した記
録媒体によれば、下記の効果を得ることができる。その
ため、本発明によれば、画素値としてR,G,B,A,
Zの値を記憶でき複数プレーンからなるマルチプレンバ
ッファを利用し、ブジェクトモデルデータ毎に少なくと
も座標変換、陰面処理、デーフォーカス処理をし複数の
デフォーカスデータを、視点からの距離の近い順にマル
チプレーンバッファに格納している。これにより、複数
のデフォーカスデータからピントを合わせた距離により
手前に存在する大きくぼけた物体の像はぼけると同時に
エッジから透けて見えるようになり、自然な被写界深度
をもった画像を高速に生成することが可能となる。ま
た、デフォーカス処理の対象のモデルデータに対し座標
変換、陰面処理が行われたシェーディングデータから、
実際のカメラと同じレンズの焦点距離と絞り値および被
写体との距離からなる関数にしたがってピントを外した
デフォーカス像をデフォーカスバッファを利用して生成
している。これにより、実際のカメラと同じ指定の仕方
(レンズの焦点距離、F値、ピントを合わぜる距離)に
より実写と同様の自然な被写界深度をもった画像を、実
際のカメラと同じ指定の仕方で制御することができるよ
になる。
【図面の簡単な説明】
【図1】 本発明の第1の実施形態の画像生成装置の構
成図である。
【図2】 オブジェクトの概念を示す図である。
【図3】 Zバッファ3のフォーマットおよび初期値を
示す図である。
【図4】 デフォーカスバッファ6のフォーマットおよ
び初期値を示す図である。
【図5】 幾何光学によるデフォーカス処理の説明図で
ある。
【図6】 波動光学によるデフォーカス処理の関数形を
示す図である。
【図7】 デフォーカス処理部5の処理を示す流れ図で
ある。
【図8】 マルチプレーンバッファ8のフォーマットお
よび初期値を示す図である。
【図9】 マルチプレーンバッファ処理の概念を示す図
である。
【図10】 マルチプレーンバッファ処理部7の処理を
示す流れ図である。
【図11】 Zバッファ3からR,G,B,A,Zの値
を読み込み、デフォーカス画像を生成する場合のZバッ
ファ3のフォーマットと初期値を示す図である。
【図12】 本発明の第2の実施形態の画像生成装置の
構成図である。
【図13】 図11における背景画像用バッファ15の
フォーマットおよび初期値を示す図である。
【図14】 本発明の第3の実施形態の画像生成装置の
構成図である。
【図15】 第3の実施形態におけるクロマキー領域抽
出処理とRGBZ変換処理の概要を示す図である。
【図16】 本発明の第4の実施形態の画像形成装置の
構成図である。
【図17】 第4の実施形態におけるクロマキー領域抽
出処理とRGBAZ変換処理の概要を示す図である。
【図18】 本発明の第7の実施形態の画像生成装置の
構成図である。
【図19】 本発明の第8の実施形態の画像生成装置の
構成図である。
【図20】 本発明の第9の実施形態の画像生成装置の
構成図である。
【図21】 本発明の第10の実施形態の画像生成装置
の構成図である。
【符号の説明】
1 オブジェクトモデルデータ読み出し処理部 2 座標変換および陰面消去処理部 3 Zバッファ 4 シェーディング・マッピング等処理部 5 デフォーカス処理部 6 デフォーカスバッファ 7 マルチプレーンバッファ処理部 8 マルチプレーンバッファ 9 出力イメージ作成処理部 10 ディスク書き込み処理部 11 記憶装置 12 背景画像読み出し処理部 13 RGBZ変換処理部 14 スイッチ 15 背景画像用バッファ 16 フォアグラウンド画像読み出し処理部 17 クロマキー領域抽出処理部 18 RGBZ変換処理部 18’ RGBAZ変換処理部 31 デフォーカスデータ読み出し処理部 32、42 ディスク書き込み処理部 41 シェーディングデータ読み出し処理部 43 モデルデータ読み出し処理部 21〜27,31〜38 ステップ

Claims (60)

    【特許請求の範囲】
  1. 【請求項1】 画素値としてR,G,B,A,Zの値を
    記憶でき複数プレーンからなるマルチプレンバッファ
    と、 ピントを合わせたその前後に実用上ピントが合っている
    範囲である被写界深度を利用して視点に対する前後関係
    を表現したいオブジェクトをオブジェクトモデルデータ
    とし、該オブジェクトモデルデータ毎に少なくとも座標
    変換、陰面処理、デーフォーカス処理をしたデータであ
    って、画素毎にR,G,B,A,Zの値を有する複数の
    デフォーカスデータを、視点からの距離の近い順に前記
    マルチプレーンバッファに格納するマルチプレーンバッ
    ファ処理部とを備えたことを特徴とする画像生成装置。
  2. 【請求項2】 前記画像生成装置は、全てのデフォーカ
    スデータについてマルチプレーンバッファ処理部による
    が終了した後、前記マルチプレーンバッファの内容から
    目的とするイメージを生成し、出力する出力イメージ作
    成処理部をさらに備えたことを特徴とする請求項1記載
    の画像生成装置。
  3. 【請求項3】 前記マルチプレーバッファ処理部は、 前記マルチプレーンバッファのプレーン数をnとした場
    合、デフォーカスデータ上の画素位置(X,Y)におけ
    るZ値Zd (X,Y)とnプレーン目のマルチプレーン
    バッファ上の対応する画素位置のZ値Zm (X、Y)
    #n を比較し、前者の方が小さければ前記マルチプレー
    ンバッファの各プレーンの対応する画像のZ値Z
    m(X、Y)#1からZm(X,Y)#nまで順にZd(X,
    Y)と比較し、Zd(X,Y)<Zm(X,Y)#N を満
    たすNプレーン目の対応する画像位置のZ値が見つかっ
    た時点でマルチプレーンバッファ上のNプレーン以降の
    対応する画素の画素値を1つづつ後のプレーンの対応す
    る画素にシフトし、前記デフォーカスデータの画素値を
    前記マルチプレーンバッファのNプレーン目の画素値と
    することで、前記複数のデフォーカスデータを、視点か
    らの距離の近い順に前記マルチプレーンバッファに格納
    する処理を行うことを特徴とする請求項1記載の画像生
    成装置。
  4. 【請求項4】 前記マルチプレーンバッファは、初期段
    階で必要最低限数のプレーンを備え、 前記マルチプレーンバッファ処理部は、 前記複数のデフォーカスデータを視点からの距離の近い
    順に前記マルチプレーンバッファに格納する処理を行う
    際、前記マルチプレーンバッファのプレーンが足りなく
    なる毎に必要なプレーンを新たに確保することを特徴と
    する請求項1記載の画像生成装置。
  5. 【請求項5】 前記画像生成装置は、 画素値としてR,G,B,A,Zの値を記憶できるデフ
    ォーカスバッファと、 前記オブジェクトモデルデータに対し座標変換、陰面処
    理、シェーディング処理が行われ、画素値としてR,
    G,B,Zの値を有するシェーディングデータから、実
    際のカメラと同じレンズの焦点距離と絞り値および被写
    体との距離からなる関数にしたがってピントを外したデ
    フォーカス像を生成し、前記デフォーカスバッファに格
    納するデフォーカス処理部とをさらに備え、 前記マルチプレーンバッファ処理部は、前記デフォーカ
    スバッファに格納されたデータを前記デフォーカスデー
    タとして処理することを特徴とする請求項2記載の画像
    生成装置。
  6. 【請求項6】 前記画像生成装置は、 画素値としてR,G,B,A,Zの値を記憶できるデフ
    ォーカスバッファと、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理が行われ、画素値としてR,G,
    B,A,Zの値を有するシェーディングデータから、実
    際のカメラと同じレンズの焦点距離と絞り値および被写
    体との距離からなり、パラメータとしてAを含む関数に
    したがってピントを外したデフォーカス像を生成し、前
    記デフォーカスバッファに格納するデフォーカス処理部
    と、 をさらに備え、 前記マルチプレーンバッファ処理部は、前記デフォーカ
    スバッファに格納されたデータを前記デフォーカスデー
    タとして処理することを特徴とする請求項2記載の画像
    生成装置。
  7. 【請求項7】 前記デフォーカス処理部は、 前記シェーディングデータをスキャンし、 点光源をぼかしたときの該点光源像の直径Φを計算し、 該直径の円内における点光源像の強度比を求め、 該直径の円内における強度比の和が1.0になるように
    強度比係数Mを求め、 前記強度比係数Mを利用して前記直径Φの円内における
    R,G,Bの値,アルファ値Aの値を求めて前記デフォ
    ーカスバッファに保存されている値に加え、 前記デフォーカスバッファ上の前記直径Φの円内画素位
    置(a,b)におけるZ値と前記シェーディングデータ
    の同じ画素位置(X,Y)におけるZ値を比べ、該シェ
    ーディングデータのZ値の方が小さければ前記シェーデ
    ィングデータの画素位置(X,Y)におけるZ値を前記
    デフォーカスバッファ上の前記直径Φの円内画素位置
    (a,b)におけるZ値に移すことによりデフォーカス
    画像の生成を行うことを特徴とする請求項5記載の画像
    生成装置。
  8. 【請求項8】 前記デフォーカス処理部は、 前記直径の円内における点光源像の強度比を、コサイン
    を用いた近似計算により求めることを特徴とする請求項
    7記載の画像生成装置。
  9. 【請求項9】 前記画像生成装置は、 画素値としてR,G,B,Zの値を記憶できるZバッフ
    ァと、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理をし、結果を前記Zバッファに格納
    する座標変換および陰面消去処理部とをさらに備え、 前記デフォーカス処理部は、 前記Zバッファに格納されたデータを前記シェーディン
    グデータとして処理することを特徴とする請求項5記載
    の画像生成装置。
  10. 【請求項10】 前記画像生成装置は、 画素値としてR,G,B,A、Zの値を記憶できるZバ
    ッファと、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理をし、結果を前記Zバッファに格納
    する座標変換および陰面消去処理部とをさらに備え、 前記デフォーカス処理部は、 前記Zバッファに格納されたデータを前記シェーディン
    グデータとして処理することを特徴とする請求項6記載
    の画像生成装置。
  11. 【請求項11】 前記オブジェクトは、 パンフォーカスにより生成され、Z値として無限遠が与
    えられた背景画像を含むことを特徴とする請求項1記載
    の画像生成装置。
  12. 【請求項12】 前記オブジェクトは、 自然画像を利用して、画像合成時に使用しない領域であ
    るクロマキー領域を、利用者から与えられる閾値をもっ
    て抽出し、該抽出されたクロマキー領域に無限遠のZ値
    と色情報としてR,G,B各々に0を与え、それ以外の
    領域についてはR,G,B値はそのままで、利用者が与
    えるZ値を与えたフォアグラウンド画像を含むことを特
    徴とする請求項1記載の画像生成装置。
  13. 【請求項13】 前記画像生成装置は、 画素値としてR,G,B,Zの値を記憶できる背景画像
    用バッファと、 背景画像を、Z値として無限遠を与えることによりRG
    BZ変換処理し、前記背景画像がオブジェクトと同じ撮
    影パラメータで生成されている場合、前記RGBZ変換
    処理の結果を前記背景画像用バッファに書き込み、前記
    背景画像がパンフォーカスにより生成されている場合、
    前記RGBZ変換処理の結果を前記Zバッファに書き込
    みその後前記デフォーカス処理部によりデフォーカス処
    理されたデータを前記背景画像用バッファに書き込む処
    理部と、 をさらに備え、 前記出力イメージ作成処理部は、 前記背景画像用バッファと前記マルチプレーンバッファ
    の値を読み込み、イメージを生成し、出力することを特
    徴とする請求項9記載の画像生成装置。
  14. 【請求項14】 前記画像生成装置は、 画素値としてR,G,B,Zの値を記憶できる背景画像
    用バッファと、 背景画像を、Z値として無限遠を与えることによりRG
    BZ変換処理し、前記背景画像がオブジェクトと同じ撮
    影パラメータで生成されている場合、前記RGBZ変換
    処理の結果を背景画像用バッファに書き込み、前記背景
    画像がパンフォーカスにより生成されている場合、前記
    RGBZ変換処理の結果を前記Zバッファに書き込みそ
    の後前記デフォーカス処理部によりデフォーカス処理さ
    れたデータを前記背景画像用バッファに書き込む処理部
    と、 をさらに備え、 前記出力イメージ作成処理部は、 前記背景画像用バッファと前記マルチプレーンバッファ
    の値を読み込み、イメージを生成し、出力することを特
    徴とする請求項10記載の画像生成装置。
  15. 【請求項15】 前記画像生成装置は、 自然画像を利用して合成時に使用しない領域であるクロ
    マキー領域を、利用者から与えられる閾値をもって抽出
    するクロマキー領域処理部と、 抽出されたクロマキー領域に無限遠のZ値と色情報とし
    てR,G,B各々に0を与え、それ以外の領域について
    はR,G,B値はそのままで、利用者が与えるZ値を与
    え、前記Zバッファに書き送むRGBZ変換処理部とを
    さらに備えたことを特徴とする請求項9記載の画像生成
    装置。
  16. 【請求項16】 前記画像生成装置は、 自然画像を利用して合成時に使用しない領域であるクロ
    マキー領域を、利用者から与えられる閾値をもって抽出
    し、該抽出した領域と接する他の領域との境界領域にお
    いてなだらかに変化するAを算出するクロマキー領域処
    理部と、 抽出されたクロマキー領域に無限遠のZ値と色情報とし
    てR,G,B,A各々に0を与え、それ以外の領域につ
    いてはR,G,Bはそのままで、前記算出されたA値
    と、利用者が指定したZ値を与え、前記Zバッファに書
    き込むRGBAZ変換処理部とをさらに備えたことを特
    徴とする請求項10記載の画像生成装置。
  17. 【請求項17】 画素値としてR,G,B,A,Zの値
    を記憶できるデフォーカスバッファと、 デフォーカス処理の対象のモデルデータに対し座標変
    換、陰面処理、シェーディング処理が行われ、画素値と
    してR,G,B,Zの値を有するシェーディングデータ
    から、実際のカメラと同じレンズの焦点距離と絞り値お
    よび被写体との距離からなる関数にしたがってピントを
    外したデフォーカス像を前記デフォーカスバッファを利
    用して生成するデフォーカス処理部とを備えたことを特
    徴とする画像生成装置。
  18. 【請求項18】 前記デフォーカス処理部は、 前記シェーディングデータをスキャンし、 点光源をぼかしたときの該点光源像の直径Φを計算し、 該直径の円内における点光源像の強度比を求め、 該直径の円内における強度比の和が1.0になるように
    強度比係数Mを求め、 前記強度比係数Mを利用して前記直径Φの円内における
    R,G,Bの値,アルファ値Aの値を求めて前記デフォ
    ーカスバッファに保存されている値に加え、 前記デフォーカスバッファ上の前記直径Φの円内画素位
    置(a,b)におけるZ値と前記シェーディングデータ
    の同じ画素位置(X,Y)におけるZ値を比べ、該シェ
    ーディングデータのZ値の方が小さければ前記シェーデ
    ィングデータの画素位置(X,Y)におけるZ値を前記
    デフォーカスバッファ上の前記直径Φの円内画素位置
    (a,b)におけるZ値に移すことによりデフォーカス
    画像の生成を行うことを特徴とする請求項17記載の画
    像生成装置。
  19. 【請求項19】 前記デフォーカス処理部は、 前記直径の円内における点光源像の強度比を、コサイン
    を用いた近似計算により求めることを特徴とする請求項
    18記載の画像生成装置。
  20. 【請求項20】 前記画像生成装置は、 画素値としてR,G,B,Zの値を記憶できるZバッフ
    ァと、 前記モデルデータに座標変換、陰面処理、シェーディン
    グ処理をし、結果を前記Zバッファに格納する座標変換
    および陰面消去処理部とをさらに備え、 前記デフォーカス処理部は、 前記Zバッファに格納されたデータを前記シェーディン
    グデータとして処理することを特徴とする請求項17記
    載の画像生成装置。
  21. 【請求項21】 ピントを合わせたその前後に実用上ピ
    ントが合っている範囲である被写界深度を利用して視点
    に対する前後関係を表現したいオブジェクトをオブジェ
    クトモデルデータとし、該オブジェクトモデルデータ毎
    に少なくとも座標変換、陰面処理、デーフォーカス処理
    をしたデータであって、画素毎にR,G,B,A,Zの
    値をする複数のデフォーカスデータを取得するステップ
    と、 画素値としてR,G,B,A,Zの値を記憶でき複数プ
    レーンからなるマルチプレーンバッファに前記取得した
    デフォーカスデータを視点からの距離の近い順に格納す
    るマルチプレーンバッファ処理ステップとを含むことを
    特徴とする画像生成方法。
  22. 【請求項22】 前記画像生成方法は、 全てのデフォーカスデータについてマルチプレーンバッ
    ファ処理ステップによるが終了した後、前記マルチプレ
    ーンバッファの内容から目的とするイメージを生成し、
    出力する出力イメージ作成処理ステップををさらに含む
    ことを特徴とする請求項21記載の画像生成方法。
  23. 【請求項23】 前記マルチプレーバッファ処理ステッ
    プは、 前記マルチプレーンバッファのプレーン数をnとした場
    合、デフォーカスデータ上の画素位置(X,Y)におけ
    るZ値Zd (X,Y)とnプレーン目のマルチプレーン
    バッファ上の対応する画素位置のZ値Zm (X、Y)
    #n を比較し、 前者の方が小さければ前記マルチプレーンバッファの各
    プレーンの対応する画像のZ値Zm(X、Y)#1からZm
    (X,Y)#nまで順にZd(X,Y)と比較し、Z
    d(X,Y)<Zm(X,Y)#N を満たすNプレーン目
    の対応する画像位置のZ値が見つかった時点でマルチプ
    レーンバッファ上のNプレーン以降の対応する画素の画
    素値を1つづつ後のプレーンの対応する画素にシフト
    し、 前記デフォーカスデータの画素値を前記マルチプレーン
    バッファのNプレーン目の画素値とすることにより、前
    記複数のデフォーカスデータを、視点からの距離の近い
    順に前記マルチプレーンバッファに格納する処理を行う
    ことを特徴とする請求項21記載の画像生成方法。
  24. 【請求項24】 前記マルチプレーンバッファは、初期
    段階で必要最低限数のプレーンを備え、前記マルチプレ
    ーンバッファ処理ステップは、 前記複数のデフォーカスデータを視点からの距離の近い
    順に前記マルチプレーンバッファに格納する処理を行う
    際、前記マルチプレーンバッファのプレーンが足りなく
    なる毎に必要なプレーンを新たに確保する処理を行うこ
    とを特徴とする請求項21記載の画像生成方法。
  25. 【請求項25】 前記デフォーカスデータを取得するス
    テップは、前記デフォーカスデータを取得するために、 前記オブジェクトモデルデータに対し座標変換、陰面処
    理、シェーディング処理が行われ、画素値としてR,
    G,B,Zの値を有するシェーディングデータから、実
    際のカメラと同じレンズの焦点距離と絞り値および被写
    体との距離からなる関数にしたがってピントを外したデ
    フォーカス像を生成し、前記デフォーカスバッファに格
    納するデフォーカス処理ステップをさらに含むことを特
    徴とする請求項22記載の画像生成方法。
  26. 【請求項26】 前記画像生成方法は、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理が行われ、画素値としてR,G,
    B,A,Zの値を有するシェーディングデータから、実
    際のカメラと同じレンズの焦点距離と絞り値および被写
    体との距離からなり、パラメータとしてAを含む関数に
    したがってピントを外したデフォーカス像を生成し、前
    記デフォーカスバッファに格納するデフォーカス処理ス
    テップをさらに含み、 前記デフォーカスデータを取得するステップは、 前記デフォーカスバッファに格納されたデータを前記デ
    フォーカスデータとして取得することを特徴とする請求
    項22記載の画像生成方法。
  27. 【請求項27】 前記デフォーカス処理ステップは、 前記シェーディングデータをスキャンし、 点光源をぼかしたときの該点光源像の直径Φを計算し、 該直径の円内における点光源像の強度比を求め、 該直径の円内における強度比の和が1.0になるように
    強度比係数Mを求め、 前記強度比係数Mを利用して前記直径Φの円内における
    R,G,Bの値,アルファ値Aの値を求めて前記デフォ
    ーカスバッファに保存されている値に加え、 前記デフォーカスバッファ上の前記直径Φの円内画素位
    置(a,b)におけるZ値と前記シェーディングデータ
    の同じ画素位置(X,Y)におけるZ値を比べ、該シェ
    ーディングデータのZ値の方が小さければ該シェーディ
    ングデータの画素位置(X,Y)におけるZ値を前記デ
    フォーカスバッファ上の前記直径Φの円内画素位置
    (a,b)におけるZ値に移すことによりデフォーカス
    画像の生成を行うことを特徴とする請求項25記載の画
    像生成方法。
  28. 【請求項28】 前記デフォーカス処理ステップは、 前記直径の円内における点光源像の強度比を、コサイン
    を用いた近似計算により求めることを特徴とする請求項
    27記載の画像生成方法。
  29. 【請求項29】 前記画像生成方法は、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理をし、結果をZバッファに格納する
    ステップをさらに含み、 前記デフォーカス処理ステップは、前記Zバッファに格
    納されたデータをシェーディングデータとして処理する
    ことを特徴とする請求項25記載の画像生成方法。
  30. 【請求項30】 前記画像生成方法は、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理をし、結果をZバッファに格納する
    ステップをさらに含み、 前記デフォーカス処理ステップは、前記Zバッファに格
    納されたデータをシェーディングデータとして処理する
    ことを特徴とする請求項26記載の画像生成方法。
  31. 【請求項31】 前記オブジェクトは、 パンフォーカスにより生成され、Z値として無限遠が与
    えられた背景画像を含むことを特徴とする請求項21記
    載の画像生成方法。
  32. 【請求項32】 前記オブジェクトは、 自然画像を利用して、画像合成時に使用しない領域であ
    るクロマキー領域を、利用者から与えられる閾値をもっ
    て抽出し、該抽出されたクロマキー領域に無限遠のZ値
    と色情報としてR,G,B各々に0を与え、それ以外の
    領域についてはR,G,B値はそのままで、利用者が与
    えるZ値を与えたフォアグラウンド画像を含むことを特
    徴とする請求項21記載の画像生成方法。
  33. 【請求項33】 前記画像生成方法は、 背景画像を、Z値として無限遠を与えることによりRG
    BZ変換処理するステップと、 前記背景画像がオブジェクトと同じ撮影パラメータで生
    成されている場合、前記RGBZ変換処理の結果を背景
    画像用バッファに書き込むステップと、 前記背景画像がパンフォーカスにより生成されている場
    合、前記RGBZ変換処理の結果を前記Zバッファに書
    き込みその後前記デフォーカス処理部によりデフォーカ
    ス処理されたデータを前記背景画像用バッファに書き込
    むステップと、 をさらに含み、 出力イメージ作成処理ステップは、 前記背景画像用バッファと前記マルチプレーンバッファ
    の値を読み込み、イメージを生成し、出力することを特
    徴とする請求項29記載の画像生成方法。
  34. 【請求項34】 前記画像生成方法は、 背景画像を、Z値として無限遠を与えることによりRG
    BZ変換処理するステップと、 前記背景画像がオブジェクトと同じ撮影パラメータで生
    成されている場合、前記RGBZ変換処理の結果を背景
    画像用バッファに書き込むステップと、 前記背景画像がパンフォーカスにより生成されている場
    合、前記RGBZ変換処理の結果を前記Zバッファに書
    き込みその後前記デフォーカス処理部によりデフォーカ
    ス処理されたデータを前記背景画像用バッファに書き込
    むステップと、 をさらに含み、 出力イメージ作成処理ステップは、 前記背景画像用バッファと前記マルチプレーンバッファ
    の値を読み込み、イメージを生成し、出力することを特
    徴とする請求項30記載の画像生成方法。
  35. 【請求項35】 前記画像生成方法は、 自然画像を利用して合成時に使用しない領域であるクロ
    マキー領域を、利用者から与えられる閾値をもって抽出
    するクロマキー領域処理ステップと、 抽出されたクロマキー領域に無限遠のZ値と色情報とし
    てR,G,B各々に0を与え、それ以外の領域について
    はR,G,B値はそのままで、利用者が与えるZ値を与
    え、前記Zバッファに書き送むRGBZ変換処理ステッ
    プとをさらに含むことを特徴とする請求項29記載の画
    像生成方法。
  36. 【請求項36】 前記画像生成方法は、 自然画像を利用して合成時に使用しない領域であるクロ
    マキー領域を、利用者から与えられる閾値をもって抽出
    し、該抽出した領域と接する他の領域との境界領域にお
    いてなだらかに変化するAを算出するクロマキー領域処
    理ステップと、 抽出されたクロマキー領域に無限遠のZ値と色情報とし
    てR,G,B,A各々に0を与え、それ以外の領域につ
    いてはR,G,Bはそのままで、前記算出されたA値
    と、利用者が指定したZ値を与え、前記Zバッファに書
    き込むRGBAZ変換処理ステップとをさらに含むこと
    を特徴とする請求項30記載の画像生成方法。
  37. 【請求項37】 デフォーカス処理の対象のモデルデー
    タに対し座標変換、陰面処理、シェーディング処理が行
    われ、画素値としてR,G,B,Zの値を有するシェー
    ディングデータを取得するステップと、 画素値としてR,G,B,A,Zの値を記憶できるデフ
    ォーカスバッファを利用して、前記取得したシェーディ
    ングデータを実際のカメラと同じレンズの焦点距離と絞
    り値および被写体との距離からなる関数にしたがってピ
    ントを外したデフォーカス像を生成するデフォーカス処
    理ステップとを含むことを特徴とする画像生成方法。
  38. 【請求項38】 前記デフォーカス処理ステップは、 前記シェーディングデータをスキャンし、 点光源をぼかしたときの該点光源像の直径Φを計算し、 該直径の円内における点光源像の強度比を求め、 該直径の円内における強度比の和が1.0になるように
    強度比係数Mを求め、 前記強度比係数Mを利用して前記直径Φの円内における
    R,G,Bの値,アルファ値Aの値を求めて前記デフォ
    ーカスバッファに保存されている値に加え、 前記デフォーカスバッファ上の前記直径Φの円内画素位
    置(a,b)におけるZ値と前記シェーディングデータ
    の同じ画素位置(X,Y)におけるZ値を比べ、該シェ
    ーディングデータのZ値の方が小さければ前記シェーデ
    ィングデータの画素位置(X,Y)におけるZ値を前記
    デフォーカスバッファ上の前記直径Φの円内画素位置
    (a,b)におけるZ値に移すことによりデフォーカス
    画像の生成を行うことを特徴とする請求項37記載の画
    像生成方法。
  39. 【請求項39】 前記デフォーカス処理ステップは、 前記直径の円内における点光源像の強度比を、コサイン
    を用いた近似計算により求めることを特徴とする請求項
    38記載の画像生成方法。
  40. 【請求項40】 前記画像生成方法は、 前記モデルデータに座標変換、陰面処理、シェーディン
    グ処理をし、結果をZバッファに格納する座標変換およ
    び陰面消去処理ステップをさらに含み、 前記シェーディングデータを取得するステップは、 前記Zバッファに格納されたデータを前記シェーディン
    グデータとして取得することを特徴とする請求項37記
    載の画像生成方法。
  41. 【請求項41】 ピントを合わせたその前後に実用上ピ
    ントが合っている範囲である被写界深度を利用して視点
    に対する前後関係を表現したいオブジェクトをオブジェ
    クトモデルデータとし、該オブジェクトモデルデータ毎
    に少なくとも座標変換、陰面処理、デーフォーカス処理
    をしたデータであって、画素毎にR,G,B,A,Zの
    値をする複数のデフォーカスデータを取得するステップ
    と、 画素値としてR,G,B,A,Zの値を記憶でき複数プ
    レーンからなるマルチプレーンバッファに前記取得した
    デフォーカスデータを視点からの距離の近い順に格納す
    るマルチプレーンバッファ処理ステップとをコンピュー
    タに実現させるための画像生成プログラムを記録したコ
    ンピュータ読み取り可能な記録媒体。
  42. 【請求項42】 前記画像生成プログラムは、 全てのデフォーカスデータについてマルチプレーンバッ
    ファ処理ステップによるが終了した後、前記マルチプレ
    ーンバッファの内容から目的とするイメージを生成し、
    出力する出力イメージ作成処理ステップををさらにコン
    ピュータに実現させることを特徴とする請求項41記載
    の画像生成プログラムを記録した記録媒体。
  43. 【請求項43】 前記マルチプレーバッファ処理ステッ
    プは、 前記マルチプレーンバッファのプレーン数をnとした場
    合、デフォーカスデータ上の画素位置(X,Y)におけ
    るZ値Zd (X,Y)とnプレーン目のマルチプレーン
    バッファ上の対応する画素位置のZ値Zm (X、Y)
    #n を比較し、 前者の方が小さければ前記マルチプレーンバッファの各
    プレーンの対応する画像のZ値Zm(X、Y)#1からZm
    (X,Y)#nまで順にZd(X,Y)と比較し、Z
    d(X,Y)<Zm(X,Y)#N を満たすNプレーン目
    の対応する画像位置のZ値が見つかった時点でマルチプ
    レーンバッファ上のNプレーン以降の対応する画素の画
    素値を1つづつ後のプレーンの対応する画素にシフト
    し、 前記デフォーカスデータの画素値を前記マルチプレーン
    バッファのNプレーン目の画素値とすることにより、前
    記複数のデフォーカスデータを、視点からの距離の近い
    順に前記マルチプレーンバッファに格納する処理を行う
    ことを特徴とする請求項41記載の画像生成プログラム
    を記録した記録媒体。
  44. 【請求項44】 前記マルチプレーンバッファは、初期
    段階で必要最低限数のプレーンを備え、 前記マルチプレーンバッファ処理ステップは、 前記複数のデフォーカスデータを視点からの距離の近い
    順に前記マルチプレーンバッファに格納する処理を行う
    際、前記マルチプレーンバッファのプレーンが足りなく
    なる毎に必要なプレーンを新たに確保する処理を行うこ
    とを特徴とする請求項41記載の画像生成プログラムを
    記録した記録媒体。
  45. 【請求項45】 前記デフォーカスデータを取得するス
    テップは、前記デフォーカスデータを取得するために、 前記オブジェクトモデルデータに対し座標変換、陰面処
    理、シェーディング処理が行われ、画素値としてR,
    G,B,Zの値を有するシェーディングデータから、実
    際のカメラと同じレンズの焦点距離と絞り値および被写
    体との距離からなる関数にしたがってピントを外したデ
    フォーカス像を生成し、前記デフォーカスバッファに格
    納するデフォーカス処理ステップをさらに含むことを特
    徴とする請求項42記載の画像生成プログラムを記録し
    た記録媒体。
  46. 【請求項46】 前記画像生成プログラムは、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理が行われ、画素値としてR,G,
    B,A,Zの値を有するシェーディングデータから、実
    際のカメラと同じレンズの焦点距離と絞り値および被写
    体との距離からなり、パラメータとしてAを含む関数に
    したがってピントを外したデフォーカス像を生成し、前
    記デフォーカスバッファに格納するデフォーカス処理ス
    テップををさらに含み、 前記デフォーカスデータを取得するステップは、 前記デフォーカスバッファに格納されたデータを前記デ
    フォーカスデータとして取得することを特徴とする請求
    項42記載の画像生成プログラムを記録した記録媒体。
  47. 【請求項47】 前記デフォーカス処理ステップは、 前記シェーディングデータをスキャンし、 点光源をぼかしたときの該点光源像の直径Φを計算し、 該直径の円内における点光源像の強度比を求め、 該直径の円内における強度比の和が1.0になるように
    強度比係数Mを求め、 前記強度比係数Mを利用して前記直径Φの円内における
    R,G,Bの値,アルファ値Aの値を求めて前記デフォ
    ーカスバッファに保存されている値に加え、 前記デフォーカスバッファ上の前記直径Φの円内画素位
    置(a,b)におけるZ値と前記シェーディングデータ
    の同じ画素位置(X,Y)におけるZ値を比べ、前記該
    シェーディングデータのZ値の方が小さければ該シェー
    ディングデータの画素位置(X,Y)におけるZ値を前
    記デフォーカスバッファ上の前記直径Φの円内画素位置
    (a,b)におけるZ値に移すことによりデフォーカス
    画像の生成を行うことを特徴とする請求項45記載の画
    像生成プログラムを記録した記録媒体。
  48. 【請求項48】 前記デフォーカス処理ステップは、 前記直径の円内における点光源像の強度比を、コサイン
    を用いた近似計算により求めることを特徴とする請求項
    47記載の画像生成プログラムを記録した記録媒体。
  49. 【請求項49】 前記画像生成プログラムは、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理をし、結果をZバッファに格納する
    ステップをさらに含み、 前記デフォーカス処理ステップは、前記Zバッファに格
    納されたデータをシェーディングデータとして処理する
    ことを特徴とする請求項45記載の画像生成プログラム
    を記録した記録媒体。
  50. 【請求項50】 前記画像生成プログラムは、 前記オブジェクトモデルデータに座標変換、陰面処理、
    シェーディング処理をし、結果をZバッファに格納する
    ステップをさらに含み、 前記デフォーカス処理ステップは、前記Zバッファに格
    納されたデータをシェーディングデータとして処理する
    ことを特徴とする請求項46記載の画像生成プログラム
    を記録した記録媒体。
  51. 【請求項51】 前記オブジェクトは、 パンフォーカスにより生成され、Z値として無限遠が与
    えられた背景画像を含むことを特徴とする請求項41記
    載の画像生成プログラムを記録した記録媒体。
  52. 【請求項52】 前記オブジェクトは、 自然画像を利用して、画像合成時に使用しない領域であ
    るクロマキー領域を、利用者から与えられる閾値をもっ
    て抽出し、該抽出されたクロマキー領域に無限遠のZ値
    と色情報としてR,G,B各々に0を与え、それ以外の
    領域についてはR,G,B値はそのままで、利用者が与
    えるZ値を与えたフォアグラウンド画像を含むことを特
    徴とする請求項41記載の画像生成プログラムを記録し
    た記録媒体。
  53. 【請求項53】 前記画像生成プログラムは、 背景画像を、Z値として無限遠を与えることによりRG
    BZ変換処理するステップと、 前記背景画像がオブジェクトと同じ撮影パラメータで生
    成されている場合、前記RGBZ変換処理の結果を背景
    画像用バッファに書き込むステップと、 前記背景画像がパンフォーカスにより生成されている場
    合、前記RGBZ変換処理の結果を前記Zバッファに書
    き込みその後前記デフォーカス処理部によりデフォーカ
    ス処理されたデータを前記背景画像用バッファに書き込
    むステップと、 をさらに含み、 出力イメージ作成処理ステップは、 前記背景画像用バッファと前記マルチプレーンバッファ
    の値を読み込み、イメージを生成し、出力することを特
    徴とする請求項49記載の画像生成プログラムを記録し
    た記録媒体。
  54. 【請求項54】 前記画像生成プログラムは、 背景画像を、Z値として無限遠を与えることによりRG
    BZ変換処理するステップと、 前記背景画像がオブジェクトと同じ撮影パラメータで生
    成されている場合、前記RGBZ変換処理の結果を背景
    画像用バッファに書き込むステップと、 前記背景画像がパンフォーカスにより生成されている場
    合、前記RGBZ変換処理の結果を前記Zバッファに書
    き込みその後前記デフォーカス処理部によりデフォーカ
    ス処理されたデータを前記背景画像用バッファに書き込
    むステップと、 をさらに含み、 出力イメージ作成処理ステップは、 前記背景画像用バッファと前記マルチプレーンバッファ
    の値を読み込み、イメージを生成し、出力することを特
    徴とする請求項50記載の画像生成プログラムを記録し
    た記録媒体。
  55. 【請求項55】 前記画像生成プログラムは、 自然画像を利用して合成時に使用しない領域であるクロ
    マキー領域を、利用者から与えられる閾値をもって抽出
    するクロマキー領域処理ステップと、 抽出されたクロマキー領域に無限遠のZ値と色情報とし
    てR,G,B各々に0を与え、それ以外の領域について
    はR,G,B値はそのままで、利用者が与えるZ値を与
    え、前記Zバッファに書き送むRGBZ変換処理ステッ
    プとをさらにコンピュータに実現させることを特徴とす
    る請求項49記載の画像生成プログラムを記録した記録
    媒体。
  56. 【請求項56】 前記画像生成プログラムは、 自然画像を利用して合成時に使用しない領域であるクロ
    マキー領域を、利用者から与えられる閾値をもって抽出
    し、該抽出した領域と接する他の領域との境界領域にお
    いてなだらかに変化するAを算出するするクロマキー領
    域処理ステップと、 抽出されたクロマキー領域に無限遠のZ値と色情報とし
    てR,G,B,A各々に0を与え、それ以外の領域につ
    いてはR,G,Bはそのままで、前記算出されたA値
    と、利用者が指定したZ値を与え、前記Zバッファに書
    き込むRGBAZ変換処理ステップとをさらにコンピュ
    ータに実現させることを特徴とする請求項50記載の画
    像生成プログラムを記録した記録媒体。
  57. 【請求項57】 デフォーカス処理の対象のモデルデー
    タに対し座標変換、陰面処理、シェーディング処理が行
    われ、画素値としてR,G,B,Zの値を有するシェー
    ディングデータを取得するステップと、 画素値としてR,G,B,A,Zの値を記憶できるデフ
    ォーカスバッファを利用して、前記取得したシェーディ
    ングデータを実際のカメラと同じレンズの焦点距離と絞
    り値および被写体との距離からなる関数にしたがってピ
    ントを外したデフォーカス像を生成するデフォーカス処
    理ステップとをコンピュータに実現させるための画像生
    成プログラムを記録したコンピュータ読み取り可能な記
    録媒体。
  58. 【請求項58】 前記デフォーカス処理ステップは、 前記シェーディングデータをスキャンし、 点光源をぼかしたときの該点光源像の直径Φを計算し、 該直径の円内における点光源像の強度比を求め、 該直径の円内における強度比の和が1.0になるように
    強度比係数Mを求め、 前記強度比係数Mを利用して前記直径Φの円内における
    R,G,Bの値,アルファ値Aの値を求めて前記デフォ
    ーカスバッファに保存されている値に加え、 前記デフォーカスバッファ上の前記直径Φの円内画素位
    置(a,b)におけるZ値と前記シェーディングデータ
    の同じ画素位置(X,Y)におけるZ値を比べ、該シェ
    ーディングデータのZ値の方が小さければ該シェーディ
    ングデータの画素位置(X,Y)におけるZ値を前記デ
    フォーカスバッファ上の前記直径Φの円内画素位置
    (a,b)におけるZ値に移すことによりデフォーカス
    画像の生成を行うことを特徴とする請求項57記載の画
    像生成プログラムを記録した記録媒体。
  59. 【請求項59】 前記デフォーカス処理ステップは、 前記直径の円内における点光源像の強度比を、コサイン
    を用いた近似計算により求めることを特徴とする請求項
    58記載の画像生成プログラムを記録した記録媒体。
  60. 【請求項60】 前記画像生成プログラムは、 前記モデルデータに座標変換、陰面処理、シェーディン
    グ処理をし、結果をZバッファに格納する座標変換およ
    び陰面消去処理ステップをさらに含み、 前記シェーディングデータを取得するステップは、 前記Zバッファに格納されたデータを前記シェーディン
    グデータとして取得することを特徴とする請求項57記
    載の画像生成プログラムを記録した記録媒体。
JP14635598A 1997-06-02 1998-05-27 画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体 Expired - Fee Related JP3382536B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP14635598A JP3382536B2 (ja) 1997-06-02 1998-05-27 画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体

Applications Claiming Priority (5)

Application Number Priority Date Filing Date Title
JP14402497 1997-06-02
JP9-144024 1997-06-02
JP21772597 1997-08-12
JP9-217725 1997-08-12
JP14635598A JP3382536B2 (ja) 1997-06-02 1998-05-27 画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体

Publications (2)

Publication Number Publication Date
JPH11120377A true JPH11120377A (ja) 1999-04-30
JP3382536B2 JP3382536B2 (ja) 2003-03-04

Family

ID=27318751

Family Applications (1)

Application Number Title Priority Date Filing Date
JP14635598A Expired - Fee Related JP3382536B2 (ja) 1997-06-02 1998-05-27 画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体

Country Status (1)

Country Link
JP (1) JP3382536B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6409598B1 (en) 2000-01-28 2002-06-25 Square Co., Ltd. Method, program product, and game system for blurring an image
US6443842B1 (en) 2000-01-28 2002-09-03 Square Co., Ltd. Method, program product, and game system for blurring an image
US6593922B1 (en) 1999-12-31 2003-07-15 Square Co., Ltd. Computer readable recording medium having programs for three-dimensional computer image processing stored thereon, graduation rendering processing method, and video game device

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6593922B1 (en) 1999-12-31 2003-07-15 Square Co., Ltd. Computer readable recording medium having programs for three-dimensional computer image processing stored thereon, graduation rendering processing method, and video game device
US6409598B1 (en) 2000-01-28 2002-06-25 Square Co., Ltd. Method, program product, and game system for blurring an image
US6443842B1 (en) 2000-01-28 2002-09-03 Square Co., Ltd. Method, program product, and game system for blurring an image

Also Published As

Publication number Publication date
JP3382536B2 (ja) 2003-03-04

Similar Documents

Publication Publication Date Title
US6157387A (en) Image generating apparatus and method
JP3450833B2 (ja) 画像処理装置及びその方法並びにプログラムコード、記憶媒体
US7961970B1 (en) Method and apparatus for using a virtual camera to dynamically refocus a digital image
US9934562B2 (en) Method for dynamic range editing
JP4220470B2 (ja) 映画におけるデジタルイメージング用のリアリティベースのライト環境
EP1008957A1 (en) Image processing device and image processing method
KR19990045321A (ko) 폴리곤이 분할되는 화상처리
ES2285566T3 (es) Procedimiento y sistema para modificar una imagen digital de manera diferenciada y casi regular por pixel.
US6917718B2 (en) Process for making images defocused
EP0970441B1 (en) Improvements in artificial image generation
JPH11120377A (ja) 画像生成方法、画像生成装置および画像生成プログラムを記録した記録媒体
JP2001052156A (ja) 彫版風ハーフトーン画像生成方法
US12250450B2 (en) Method for editing an image
JP3392078B2 (ja) 画像処理方法、画像処理装置および記憶媒体
JP3387856B2 (ja) 画像処理方法、画像処理装置および記憶媒体
WO2020084894A1 (ja) マルチカメラシステム、制御値算出方法及び制御装置
JP2020173726A (ja) 仮想視点変換装置及びプログラム
CN120526018A (zh) 游戏画面渲染方法及系统
CN120147171A (zh) 一种散景模糊处理方法、装置、设备、存储介质及产品
JP2001169083A (ja) 画像処理方法および装置並びに記録媒体
JP2020178235A (ja) 映像効果装置及びプログラム
IE20060558U1 (en) Image blurring

Legal Events

Date Code Title Description
FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071220

Year of fee payment: 5

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081220

Year of fee payment: 6

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091220

Year of fee payment: 7

FPAY Renewal fee payment (prs date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101220

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees