JP7730657B2 - 情報処理装置、情報処理方法及びプログラム - Google Patents

情報処理装置、情報処理方法及びプログラム

Info

Publication number
JP7730657B2
JP7730657B2 JP2021063945A JP2021063945A JP7730657B2 JP 7730657 B2 JP7730657 B2 JP 7730657B2 JP 2021063945 A JP2021063945 A JP 2021063945A JP 2021063945 A JP2021063945 A JP 2021063945A JP 7730657 B2 JP7730657 B2 JP 7730657B2
Authority
JP
Japan
Prior art keywords
information
diffuse reflection
compression
specular reflection
reflection information
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2021063945A
Other languages
English (en)
Other versions
JP2022159636A (ja
Inventor
雅治 佐藤
彬 柴▲崎▼
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Canon Inc
Original Assignee
Canon Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Canon Inc filed Critical Canon Inc
Priority to JP2021063945A priority Critical patent/JP7730657B2/ja
Priority to US17/710,751 priority patent/US12020371B2/en
Publication of JP2022159636A publication Critical patent/JP2022159636A/ja
Application granted granted Critical
Publication of JP7730657B2 publication Critical patent/JP7730657B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T15/00Three-dimensional [3D] image rendering
    • G06T15/50Lighting effects
    • G06T15/506Illumination models
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T9/00Image coding
    • G06T9/001Model-based coding, e.g. wire frame

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • Multimedia (AREA)
  • Computer Graphics (AREA)
  • Image Processing (AREA)
  • Image Generation (AREA)

Description

本発明は、物体の質感に関するデータを圧縮する技術に関する。
物体の素材や塗装の質感を再現するために、照明方向や観察方向に応じた反射特性の測定データが利用されている。反射特性データには、一般的に、物体における拡散反射や鏡面反射に関する情報や、表面の微細な凹凸に関する情報などが含まれており、静止画像データと比べるとデータ量が大きいという特徴がある。データを圧縮する技術として、特許文献1は、デプス画像を二次元画像圧縮方式により圧縮する技術を開示している。
WO2018/123801
反射特性データに含まれる各情報は、互いに関連し合って物体の見え方に影響しているため、それぞれに対して別々に特許文献1のような圧縮処理を行うと、反射特性データを用いて表現される物体の質感が大きく劣化してしまうという場合があった。
そこで本発明は、反射特性データを用いて表現される物体の質感が劣化するのを抑制しつつ、反射特性データのデータ量を削減するための処理を提供することを目的とする。
上記課題を解決するために、本発明に係る情報処理装置は、物体の表面における鏡面反射強度に関する鏡面反射情報を取得する第1取得手段と、前記物体における拡散反射光に関する拡散反射情報を取得する第2取得手段と、前記鏡面反射情報に基づいて、前記拡散反射情報を含むファイルのサイズを圧縮により小さくする圧縮手段と、を有し、前記圧縮手段は、前記鏡面反射強度が小さい場合よりも前記鏡面反射強度が大きい場合に前記拡散反射情報を含むファイルのサイズをより小さく圧縮することを特徴とする。
本発明によれば、反射特性データを用いて表現される物体の質感が劣化するのを抑制しつつ、反射特性データのデータ量を削減することができる。
反射特性を説明するための模式図 情報処理装置のハードウェア構成を示すブロック図 情報処理装置の機能構成を示すブロック図 情報処理装置が実行する処理を示すフローチャート 法線情報を説明するための模式図 法線方向に応じた見えの変化を説明するための模式図 鏡面反射情報を評価する処理を示すフローチャート 鏡面反射情報を評価する処理を説明するための模式図 評価情報を説明するための模式図 拡散反射情報を圧縮する処理を示すフローチャート 圧縮パラメータを決定する処理を説明するための模式図 効果を説明するための模式図 鏡面反射情報を評価する処理を示すフローチャート 鏡面反射成分に応じた拡散反射成分の見えの変化を説明するための模式図 鏡面反射情報を評価する処理を示すフローチャート 情報処理装置の機能構成を示すブロック図 情報処理装置が実行する処理示すフローチャート 鏡面反射情報を分割する処理を示すフローチャート
以下、各実施形態について、図面を参照して説明する。尚、以下の実施形態は本発明を必ずしも限定するものではない。また、各実施形態において説明されている特徴の組み合わせの全てが本発明の解決手段に必須のものとは限らない。
[第1実施形態]
本実施形態においては、鏡面反射情報、拡散反射情報を含む反射特性データのデータ量削減に関する処理を行う。具体的には、鏡面反射情報に基づいて拡散反射情報の圧縮に用いる圧縮パラメータを決定し、圧縮パラメータに基づいて拡散反射情報を圧縮する。まず、物体の反射特性について図1を用いて説明する。
図1(a)は物体101を説明するための模式図であり、図1(b)は物体101の表面の展開図である。物体101は表面の位置毎に反射特性を有している。本実施形態においては、説明を簡単にするため、物体101は立方体であるとして説明する。尚、物体101の形状は、立方体のような3次元形状だけでなく、平面体のような2次元形状であっても良い。図1(b)のように、物体101の表面は、6つの面で構成された展開図で表現できる。図1(c)は物体101上のある位置102の反射特性を説明するための図である。ある方向103から、法線104を有する物体表面上の点105に向かって光を照射した場合の反射光106は反射方向によって異なる強度を有する。反射光106は、2色性反射モデルを用いてモデル化することができる。具体的には、反射光106を、空気と物体との境界面において反射した光である鏡面反射光成分107と、境界面を通過し物体の内部において拡散した拡散反射光成分108とに分離することができる。
鏡面反射光成分107は、正反射方向近傍において強く観測されるという特徴を有する。鏡面反射光成分107は、鏡面反射光成分107の強度が最大の方向である鏡面反射方向109、鏡面反射方向109における反射強度である鏡面反射強度110、鏡面反射方向109を中心とした鏡面反射光成分107の拡がり幅111の3つで特徴づけられる。また、鏡面反射光方向109は、法線104の方向に応じて変化する。拡散反射光成分108は、あらゆる方向において略均一の強度で観測されるという特徴を有する。拡散反射光成分108の反射強度を拡散反射強度112と呼ぶ。
物体表面のある位置における反射特性は、双方向反射率分布関数(Bidirectional Reflectance Distribution Function:BRDF)と呼ばれる4次元の関数で記述することができる。また、物体表面の反射特性は、SVBRDF(Spatially-Varying BRDF)と呼ばれる、位置に依存してBRDFが変化する6次元の関数で記述することができる。また、双方向散乱面反射率分布関数(Bidirectional Scattering Surface Reflectance Distribution Function:BSSRDF)が用いられることもある。尚、次元が高くなるにつれてデータ量は増大する。
反射特性の測定方法の1つとして、光源の方向と撮像装置の方向とを変えながら複数の撮像を行い、パラメトリックな反射特性モデルを用いて物体の反射特性を測定する方法がある。鏡面反射光のモデルとして、例えば、トーランススパローモデル(Torrance-Sparrow model)がある。また、鏡面反射光のモデルとして、クックトーランスモデル(Cook-Torrance model)や、フォンモデル(Phong model)等がある。拡散反射光のモデルとして、例えば、ランバートモデル(Lambert model)や、オーレンネイヤーモデル(Oren-Nayar model)等がある。これらのパラメトリックな反射特性モデルを用いれば、物体表面の反射特性をパラメータで表現することができる。
本実施形態においては、パラメータ化された物体表面の反射特性のうち、鏡面反射光成分107に関する情報を鏡面反射情報と呼び、拡散反射光成分108に関する情報を拡散反射情報と呼ぶ。また、法線104に関する情報を法線情報、鏡面反射強度110に関する情報を反射強度情報、拡がり幅111に関する情報を拡がり幅情報と呼ぶ。また、本実施形態においては、反射強度情報、拡がり幅情報、法線情報を含む情報を鏡面反射情報と呼ぶ。
例えば、物体表面における拡散反射光をランバートモデルでパラメータ化する場合について説明する。拡散反射光の放射輝度LLambertはランバートモデルを用いると式(1)で表現される。
Lambert=Kcosθ・・・(1)
ここで、θは入射角であり、Kは拡散反射率である。拡散反射光をランバートモデルでモデル化する場合は、拡散反射率Kの2次元分布K(x,y)が本実施形態における拡散反射情報に相当する。
物体表面における鏡面反射光をトーランススパローモデルでパラメータ化する場合について説明する。鏡面反射光の放射輝度LTSはトーランススパローモデルを用いると式(2)で表現される。
ここで、θは反射角であり、Kは鏡面反射率である。また、Dは法線分布項、Gは幾何減衰項、Fはフレネル項である。物体表面の法線のばらつきを表現する法線分布項Dは、照明方向と観察方向との2等分方向(ハーフベクトル)Hと、法線方向Nとがなす角αの確率密度関数を表す。法線分布項Dは式(3)で示される。
ここで、nは表面の粗さを表すパラメータである。また、微小面の凹凸によって生じる自己遮蔽・自己陰影を表現する幾何減衰項Gは、照明方向もしくは観察方向が物体の接平面に近づくほど減衰が大きくなる。幾何減衰項Gは式(4)で示される。
ここで、Vは観察方向、Lは照明方向である。また、屈折率や光の入射角度により反射率が変わるフレネル項Fは式(5)、式(6)、式(7)で示される。
c=V・H・・・(6)
ここで、ηは相対屈折率である。鏡面反射光をトーランススパローモデルでモデル化する場合は、法線方向Nの2次元分布N(x,y)が本実施形態における法線情報に相当する。また、鏡面反射率Ksの2次元分布Ks(x,y)が本実施形態における反射強度情報に相当し、表面の粗さを表すパラメータであるnの2次元分布n(x,y)が本実施形態における拡がり幅情報に相当する。
<情報処理装置のハードウェア構成>
図2は、情報処理装置1のハードウェア構成を示すブロック図である。情報処理装置1は、CPU201、ROM202、RAM203を備える。また、情報処理装置1は、VC(ビデオカード)204、汎用I/F(インターフェース)205、SATA(シリアルATA)I/F206、NIC(ネットワークインターフェースカード)207を備える。CPU201は、RAM203をワークメモリとして、ROM202、HDD(ハードディスクドライブ)213などに格納されたOS(オペレーティングシステム)や各種プログラムを実行する。また、CPU201は、システムバス208を介して各構成を制御する。尚、後述するフローチャートによる処理は、ROM202やHDD213などに格納されたプログラムコードがRAM203に展開され、CPU201によって実行される。VC204には、表示装置215が接続される。汎用I/F205には、シリアルバス209を介して、マウスやキーボードなどの入力装置210や撮像装置211が接続される。SATAI/F206には、シリアルバス212を介して、HDD213や各種記録メディアの読み書きを行う汎用ドライブ214が接続される。NIC207は、外部装置との間で情報の入力及び出力を行う。CPU201は、HDD213や汎用ドライブ214にマウントされた各種記録メディアを各種データの格納場所として使用する。CPU201は、プログラムによって提供されるUI(ユーザインターフェース)を表示装置215に表示し、入力装置210を介して受け付けるユーザ指示などの入力を受信する。尚、表示装置215は、指などの指示体によるタッチの位置を検出するタッチパネルの機能を有するタッチパネルディスプレイであっても良い。
<情報処理装置の機能構成>
図3は情報処理装置1の機能構成を示すブロック図である。CPU201は、RAM203をワークメモリとして、ROM202又はHDD213に格納されたプログラムを読み出して実行することによって、図3に示す機能構成として機能する。尚、以下に示す処理の全てがCPU201によって実行される必要はなく、処理の一部又は全てがCPU201以外の1つまたは複数の処理回路によって行われるように情報処理装置1が構成されていても良い。
情報処理装置1は、拡散情報取得部301、鏡面情報取得部302、評価部303、圧縮部304を有する。拡散情報取得部301は、HDD213等の記憶装置から拡散反射情報を取得する。鏡面情報取得部302は、HDD213等の記憶装置から鏡面反射情報を取得する。評価部303は、鏡面反射情報に基づいて、鏡面反射情報の評価結果である評価情報を導出する。圧縮部304は、評価情報に基づいて、拡散反射情報を圧縮する。また、圧縮部304は、圧縮処理により得られた拡散反射情報をレンダリング部305に出力する。レンダリング部305は、圧縮された拡散反射情報、鏡面反射情報、照明情報、撮像情報、形状情報を取得し、取得した情報を基にレンダリングを行い、物体の質感を再現した画像を生成する。尚、本実施形態におけるレンダリング部305は、情報処理装置1に含まれていないが、情報処理装置1に含まれていても良い。また、圧縮部304は、圧縮された拡散反射情報をレンダリング部305に出力したが、出力先はHDD213等の別の装置であっても良い。また、拡散情報取得部301及び鏡面情報取得部302は、HDD213から情報を取得したが、撮像装置211等の別の装置から情報を取得しても良い。
<情報処理装置が実行する処理の流れ>
本実施形態において情報処理装置1が実行する処理の流れを、図4のフローチャートを用いて説明する。図4のフローチャートが示す処理は、ユーザによって入力装置210を介して指示が入力され、CPU201が入力された指示を受け付けることにより開始する。以下、各ステップ(工程)は符号の前にSをつけて表す。
S401において、拡散情報取得部301は、HDD213から拡散反射情報を読み込む。本実施形態における拡散反射情報は、物体表面のある面における拡散反射光の情報であり、サイズが128×128pixel、解像度が150dpi、8bitで画素値(R,G,B)が表現される画像形式の情報である。S402において、鏡面情報取得部302は、HDD213から鏡面反射情報を読み込む。本実施形態における鏡面情報取得部302は、鏡面反射方向を特定する要素である法線情報を取得する。本実施形態における法線情報は、物体表面のある面における法線方向の情報であり、サイズが128×128pixel、解像度が150dpi、8bitで画素値(X,Y,Z)が表現される画像形式の情報である。法線情報の画素値(X,Y,Z)は法線ベクトルのXYZ成分である。法線情報の例を図5に示す。図5に示す画像は、法線情報をRGB画像とした場合の、R信号に対応するX成分を表す画像501、G信号に対応するY成分を表す画像502、B信号に対応するZ成分を表す画像503である。
S403において、評価部303は、鏡面反射情報に基づいて、物体表面における鏡面反射光を評価する。本実施形態における評価部303は、鏡面反射情報に含まれる法線情報のばらつきを評価する。
ここで、物体表面の法線情報に基づいて拡散反射情報を圧縮する利点について、図6を用いて説明する。図6は、物体表面のある領域における表面形状と、各位置の反射特性から成る領域の反射特性とを模式的に示す。図6(a)は、物体表面において法線方向がばらついている場合の反射特性を模式的に示す。物体表面の法線方向に応じて鏡面反射方向が変化するため、物体表面の法線方向がばらついていると、観察される反射特性に複数の反射強度のピークが含まれる。鏡面反射光成分601と拡散反射光成分602とを含む反射特性を有する表面を、観察位置603や観察位置604などの様々な方向から観察した場合を考える。この場合、観察方向に応じて鏡面反射光成分601の強度が大きく変化するため、観察者はきらきらとした高輝感を知覚する一方で、拡散反射光成分602が圧縮により劣化していたとしても知覚されにくい。
図6(b)は、物体表面の法線方向が略均一である場合の反射特性を模式的に示す。鏡面反射光成分605と拡散反射光成分606とを含む反射特性を有する表面を、観察位置607と観察位置608から観察した場合を考える。観察位置607は、鏡面反射光成分605の反射強度のピーク方向から物体表面を観察する位置であり、観察位置608は、鏡面反射光成分605の反射強度のピーク方向からずれた方向から物体表面を観察する位置である。観察位置608から物体表面を観察する場合、鏡面反射光成分605が小さいため、観察者は拡散反射光成分606が圧縮により劣化していることを知覚しやすい。
以上から、拡散反射情報を圧縮する場合に、法線方向がばらついている表面では質感再現時の画質劣化が知覚されにくく、法線方向が略均一である表面では質感再現時の画質劣化が知覚されやすい。そこで、本実施形態における評価部303は、S402において取得された法線情報に基づいて、着目画素の法線方向と着目画素の近傍画素の法線方向との類似度を導出することにより、法線方向のばらつきを評価し、生成した評価情報を圧縮部304に出力する。圧縮部304は、評価情報に基づいて、法線方向のばらつきが大きい場合に拡散反射情報に対して高圧縮処理を行い、法線方向のばらつきが小さい場合に拡散反射情報に対して低圧縮処理を行う。
S403の説明に戻る。S403における法線情報を評価する処理の詳細を図7のフローチャートを用いて説明する。S701において、評価部303は、法線情報N(x,y)の全画素に対する繰り返し処理を開始する。具体的には、順次着目する画素を変更しながら、S702~S704の処理を行う。S702において、評価部303は、着目画素の近傍画素に対する繰り返し処理を開始する。図8は、着目画素と近傍画素を説明するための模式図である。本実施形態においては、着目画素801に対して、左上、上、右上、左、右、左下、下、右下に隣接する8つの画素を近傍画素802に設定している。尚、近傍画素は、着目画素の上、左、右、下に隣接する4つの画素に設定しても良い。また、着目画素を中心とする5×5画素の領域に含まれる画素のうち着目画素を除いた画素を近傍画素に設定しても良い。
S703において、評価部303は、着目画素の法線方向と近接画素の法線方向との類似度を導出する。本実施形態における評価部303は、2つの方向の類似度としてコサイン類似度を導出する。コサイン類似度csは式(8)で示される。
ここで、Nは近接画素の法線方向であり、Nは着目画素の法線方向である。近傍画素の法線方向と着目画素の法線方向とが、同じ方向を向いている場合はcs=1となり、向きの違いが大きくなるほどcsは小さくなる。近傍画素の法線方向と着目画素の法線方向とが逆の方向を向いている場合はcs=-1となる。
S704において、評価部303は、設定されている着目画素に対する全ての近傍画素それぞれを用いた処理が終了するまで処理をS702に戻す。S705において、評価部303は、全ての画素について近傍画素との法線方向の類似度を導出し終えるまで処理をS701に戻す。評価部308は、全ての画素について処理を行った後、各画素に法線方向の類似度を有する評価情報を生成し、評価情報を圧縮部304に出力する。
S403において生成される評価情報の一例を図9に示す。本実施形態において生成される評価情報は、サイズが128×128pixel、解像度が150dpi、画素値が8bitで表現されるグレースケール画像形式の情報である。-1から1の範囲のコサイン類似度が0から255の画素値に対応しており、画素値0が黒、画素値255が白に対応している。尚、評価情報は画像形式で保存されなくても良く、例えばcsvファイル等で保存されても良い。
S404において、圧縮部304は、評価情報に基づいて、拡散反射情報を圧縮する。本実施形態において用いる圧縮方式は、公知のJPEG圧縮方式である。S404における拡散反射情報を圧縮する処理の詳細を図10のフローチャートを用いて説明する。S1001において、圧縮部304は、評価情報に基づいて、スカラー値の圧縮パラメータを決定する。本実施形態における圧縮パラメータは、JPEG圧縮方式の圧縮率とする。JPEG圧縮方式の圧縮率は、低圧縮を表す12から高圧縮を表す0まで、整数値で設定される。圧縮率の値が小さいほど圧縮後のファイルサイズが小さく、圧縮率の値が大きいほど圧縮後のファイルサイズが大きい。圧縮部304は、評価情報の代表値として、評価情報の平均値を導出する。また、圧縮部304は、導出した平均値をルックアップテーブル(LUT)を参照して圧縮パラメータに変換する。尚、LUTは予め作成され、HDD213等の記憶装置に保持されているものとする。LUTの例を図11に示す。LUTは、評価情報の平均値と圧縮パラメータとの対応関係を示す情報である。
S1002において、圧縮部304は、S1001において決定した圧縮パラメータを用いて拡散反射情報を圧縮する。圧縮部304は、圧縮処理に公知のJPEG圧縮を使用する。尚、本実施形態における圧縮部304は、拡散反射情報の圧縮方式としてJPEG圧縮方式を用いたが、拡散反射情報のビット深度を削減する方法、拡散反射情報の画素数を減らす方法、JPEG2000圧縮など用いて圧縮を行っても良い。また、圧縮部304は、圧縮された拡散反射情報をレンダリング部305に出力する。
<第1実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、物体における鏡面反射光に関する鏡面反射情報を取得し、物体における拡散反射光に関する拡散反射情報を取得し、鏡面反射情報に基づいて拡散反射情報を圧縮する。図12は、本実施形態の効果を説明するための模式図である。図12(a)は、図1で示した物体101の各面に対し、単純にJPEG圧縮を行った場合の拡散反射情報の圧縮率を示している。図12(b)は、物体101の各面に対し、本実施形態の圧縮処理を行った場合の拡散反射情報の圧縮率を示している。単純にJPEG圧縮を行った場合は、物体の面によらず同一の圧縮率になるが、本実施形態の圧縮処理を行った場合は、物体の面の法線情報に基づいて圧縮率が決定されるため、面毎に異なった圧縮率になる。これにより、法線方向のばらつきが大きい場合に拡散反射情報に対して高圧縮処理が行われ、法線方向のばらつきが小さい場合に拡散反射情報に対して低圧縮処理が行われる。よって、質感の劣化が知覚やすい場合よりも質感の劣化が知覚されにくい場合にデータが大きく圧縮され、データ量が削減される。したがって、反射特性データを用いて表現される物体の質感が劣化するのを抑制しつつ、反射特性データのデータ量を削減することができる。
<変形例>
本実施形態においては、着目画素の法線方向と近傍画素の法線方向との類似度を導出することにより法線情報を評価したが、法線情報の評価方法はこれに限られない。例えば、着目画素の法線方向と大域的な法線方向との類似度を導出することにより、法線情報のばらつきを評価してもよい。図13を用いて法線情報を評価する処理の流れを説明する。S1301において、評価部303は、大域的な法線方向を導出する。ここで、大域的な法線方向は、法線情報N(x,y)の全ての画素における法線方向Nの平均値である。S1302において、評価部303は、法線情報N(x,y)の全画素に対する繰り返し処理を開始する。具体的には、順次着目する画素を変更しながら、S1303の処理を行う。S1303において、評価部303は、着目画素の法線方向と、S1301において導出した大域的な法線方向との類似度を導出する。評価部303は、法線方向の類似度としてコサイン類似度を導出する。S1304において、評価部303は、全ての画素について法線方向の類似度を導出し終えるまで処理をS1302に戻す。以上の処理により、着目画素の法線方向と大域的な法線方向との類似度を導出することにより、法線情報のばらつきを評価することができる。
また、拡散反射情報の領域毎に異なる圧縮率を設定する方法として、拡散反射情報に関心領域(ROI:REGION OF INTEREST)を設定しても良い。また、鏡面反射情報に基づいてROIを設定しても良い。
[第2実施形態]
第1実施形態においては、鏡面反射情報に含まれる法線情報に基づいて、拡散反射情報を圧縮した。本実施形態においては、鏡面反射情報に含まれる反射強度情報と拡がり幅情報との少なくとも一方に基づいて、拡散反射情報を圧縮する。尚、本実施形態における情報処理装置のハードウェア構成及び機能構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置が実行する処理の流れ>
本実施形態において情報処理装置1が実行する処理の流れを、図4のフローチャートを用いて説明する。S401は、第1実施形態と同等であるため説明を省略する。S402において、鏡面情報取得部302は、HDD213から鏡面反射情報を読み込む。本実施形態における鏡面情報取得部302は、反射強度情報及び拡がり幅情報を取得する。尚、鏡面情報取得部302は、反射強度情報と拡がり幅情報との少なくとも一方を取得できれば、両方を取得しなくても良い。S403において、評価部303は、物体表面における鏡面反射光を評価する。
ここで、物体表面の鏡面反射情報に基づいて拡散反射情報を圧縮する利点について、図14を用いて説明する。図14(a)、図14(b)、図14(c)は拡散反射光成分1401が同一で、鏡面反射強度1402及び拡がり幅1403が異なる場合を模式的に示す図である。図14(b)は、図14(a)に比べ、拡がり幅1403が大きい場合を示す。図14(c)は、図14(a)に比べ、鏡面反射強度1402が大きい場合を示す。観察位置1404は、鏡面反射光成分の反射強度のピーク方向から観察する位置であり、観察位置1405及び観察位置1406は、鏡面反射光成分の反射強度のピーク方向からずれた方向から観察する位置である。観察位置1404から観察する場合、拡散反射光成分1401に加えて鏡面反射光成分が観察される。観察位置1405から観察する場合、拡散反射光成分1401のみが観察される。また、観察位置1406から観察する場合、拡散反射光成分1401に加えて鏡面反射光成分が観察される。観察位置1404及び観察位置1406からの観察においては鏡面反射光成分が観察されるため、拡散反射光成分1401が圧縮により劣化していたとしても知覚されにくい。
以上から、拡散反射情報を圧縮する場合に、鏡面反射強度が大きく、鏡面反射光成分の拡がり幅が大きい表面では質感再現時の画質劣化が知覚されにくい。そこで、本実施形態における評価部303は、S402において取得された反射強度情報及び拡がり幅情報に基づいて鏡面反射光に関する評価を行い、生成した評価情報を圧縮部304に出力する。
S403の説明に戻る。S403における反射強度情報及び拡がり幅情報を評価する処理の詳細を図15のフローチャートを用いて説明する。S1501において、評価部303は、鏡面反射情報の水平方向(x方向)のデータ数Wを取得し、現在の水平方向の参照位置を表すxに「0」を設定する。S1502において、評価部303は、鏡面反射情報の垂直方向(y方向)のデータ数Hを取得し、現在の垂直方向の参照位置を表すyに「0」を設定する。S1503において、評価部303は、鏡面反射情報の左上を原点とし、位置(x,y)の鏡面反射情報に基づいて評価値を導出する。具体的には、評価部303は、鏡面反射強度が大きい場合に拡散反射光情報の圧縮率を小さくし、鏡面反射強度が小さい場合に拡散反射情報の圧縮率を大きくする評価値を導出する。また、鏡面反射光の拡がり幅が大きい場合に拡散反射情報の圧縮率を小さくし、鏡面反射光の拡がり幅が小さい場合に拡散反射情報の圧縮率を大きくする評価値を導出する。
S1504において、評価部303は、yが垂直方向のデータ数Hより小さいか否かを判定する。yがHより小さい場合はS1502に戻り、yがHより大きい場合はS1505に進む。S1505において、評価部303は、xが水平方向のデータ数Wより小さいか否かを判定する。xがWより小さい場合はS1501に戻り、xがWより大きい場合は、各画素に鏡面反射光の評価値を有する評価情報を生成し、評価情報を圧縮部304に出力する。S404は、第1実施形態と同等であるため説明を省略する。
<第2実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、鏡面反射情報に含まれる反射強度情報と拡がり幅情報との少なくとも一方に基づいて、拡散反射情報を圧縮する。これにより、反射特性データを用いて表現される物体の質感が劣化するのを抑制しつつ、反射特性データのデータ量を削減することができる。
<変形例>
本実施形態においては、反射強度情報と拡がり幅情報との両方に基づいて拡散反射情報を圧縮したが、反射強度情報のみに基づいて拡散反射情報を圧縮しても良いし、拡がり幅情報のみに基づいて拡散反射情報を圧縮しても良い。また、反射強度情報や拡がり幅情報に加えて、第1実施形態において用いた法線情報も参照して、拡散反射情報を圧縮しても良い。
[第3実施形態]
上述した実施形態においては、画素毎に鏡面反射情報を評価し、評価結果に基づいて拡散反射情報を圧縮した。物体が複雑な形状を有する場合などには、鏡面反射光を正しく評価するために、ある程度の大きさの領域が必要になることがある。そこで、本実施形態においては、鏡面反射情報を複数の領域に分割し、分割した領域毎に鏡面反射情報を評価し、評価結果に基づいて拡散反射情報を圧縮する。尚、本実施形態における情報処理装置のハードウェア構成は第1実施形態のものと同等であるため、説明を省略する。以下において、本実施形態と第1実施形態とで異なる部分を主に説明する。尚、第1実施形態と同一の構成については、同一の符号を付して説明する。
<情報処理装置の機能構成>
図16は情報処理装置1の機能構成を示すブロック図である。CPU201は、RAM203をワークメモリとして、ROM202又はHDD213に格納されたプログラムを読み出して実行することによって、図16に示す機能構成として機能する。尚、以下に示す処理の全てがCPU201によって実行される必要はなく、処理の一部又は全てがCPU201以外の1つまたは複数の処理回路によって行われるように情報処理装置1が構成されていても良い。
情報処理装置1は、拡散情報取得部1601、鏡面情報取得部1602、分割部1603、評価部1604、圧縮部1605を有する。拡散情報取得部1601は、HDD213等の記憶装置から拡散反射情報を取得する。鏡面情報取得部1602は、HDD213等の記憶装置から鏡面反射情報を取得する。分割部1603は、鏡面反射情報を所定の画素数以上の画素を含む複数の領域に分割する。評価部1604は、鏡面反射情報に基づいて、鏡面反射情報の評価結果である評価情報を領域毎に導出する。圧縮部304は、評価情報に基づいて、拡散反射情報を領域毎に圧縮する。
<情報処理装置が実行する処理の流れ>
本実施形態において情報処理装置1が実行する処理の流れを、図17のフローチャートを用いて説明する。図17のフローチャートが示す処理は、ユーザによって入力装置210を介して指示が入力され、CPU201が入力された指示を受け付けることにより開始する。
S1701において、拡散情報取得部1601は、HDD213から拡散反射情報を読み込む。上述した実施形態における拡散反射情報は、物体表面のある面における拡散反射光の情報であったが、本実施形態における拡散反射情報は、物体の全ての面における拡散反射光の情報である。尚、面はラベリングされており、ラベルで面を指定できるものとする。S1702において、鏡面情報取得部1602は、HDD213から鏡面反射情報を読み込む。本実施形態における鏡面反射情報は、面毎に、ワールド座標系における大域的な法線方向を含む情報である。尚、面はラベリングされており、ラベルで面を指定できるものとする。ここで、ワールド座標系は、物体の位置を表現するための座標系である。例えば、物体が立方体形状である場合、各面は上や下を向いているが、各面の向いている方向がワールド座標系における法線方向である。
S1703において、分割部1603は、鏡面反射情報を所定の画素数以上の画素を含む複数の領域に分割する。S1703における鏡面反射情報を分割する処理の詳細を図18のフローチャートを用いて説明する。S1801において、分割部1603は、画素数情報を読み込む。画素数情報は、法線方向のばらつきを正しく評価するために必要な領域の画素数である。S1802において、分割部1603は、物体の面毎に画素数を導出する。S1803において、分割部1603は、物体の面毎に、他の面とのワールド座標系における法線方向の類似度を導出する。S1804において、分割部1603は、S1802において導出した物体の面毎の画素数を、S1801において読み込んだ画素数情報と比較して、所定の画素数以上の画素を含まない小さい面のラベルを特定する。
S1805において、分割部1603は、所定の画素数以上の画素を含まない小さい面に対する繰り返し処理を開始する。S1806において、分割部1603は、S1803において導出した類似度を参照し、ワールド座標系における法線方向が最も近い面同士を合体する。具体的には、分割部1603は、着目している面のラベルを、ワールド座標系における法線方向が最も近い面のラベルに置き換える処理を行う。S1807において、分割部1603は、所定の画素数以上の画素を含まない小さい面全てについてラベルの置き換え処理を終えるまで処理をS1805に戻す。S1808において、分割部1603は、全ての面の画素数が所定の画素数より大きいか否かを判定する。全ての面の画素数が所定の画素数以上である場合はS1703の処理を終了し、全ての面の画素数が所定の画素数未満である場合は処理をS1804に戻す。
S1704において、評価部1604は、鏡面反射情報に基づいて、領域毎に、評価情報を導出する。評価情報を導出する方法は、上述した実施形態と同等であるため説明を省略する。S1705において、圧縮部1605は、評価情報に基づいて、領域毎に、拡散反射情報を圧縮する。拡散反射情報を圧縮する方法は、上述した実施形態と同等であるため説明を省略する。
<第3実施形態の効果>
以上説明したように、本実施形態における情報処理装置は、鏡面反射情報を複数の領域に分割し、分割により得られた領域毎に評価情報を導出し、評価情報に基づいて拡散反射情報を圧縮する。これにより、反射特性データを用いて表現される物体の質感が劣化するのを抑制しつつ、反射特性データのデータ量を削減することができる。具体的には、所定の画素数以上の画素を含む領域毎に鏡面反射情報を評価するため、鏡面反射情報の評価精度を向上させることができ、効率的に拡散反射情報を圧縮することができる。また、ワールド座標系の法線情報に基づいて領域分割を行うことで、同一の観察方向からのレンダリング画像の見えを考慮して処理を行うことができ、より効率的に拡散反射情報を圧縮することができる。
<変形例>
本実施形態においては、所定の画素数以上の画素を含まない小さい面を、ワールド座標系における法線方向が最も近い面と合体することで、鏡面反射情報を領域分割したが、他の方法により鏡面反射情報を領域分割しても良い。金属や布などの素材の情報に基づいて領域分割を行っても良い。例えば、所定の画素数以上の画素を含まない小さい面を、素材が同一とみなせる面と合体することで、鏡面反射情報を領域分割する。素材情報に基づいて鏡面反射情報を領域分割することで、効率的に拡散反射情報を圧縮することができる。
[その他の実施形態]
本発明は、上述の実施形態の1以上の機能を実現するプログラムを、ネットワーク又は記憶媒体を介してシステム又は装置に供給し、そのシステム又は装置のコンピュータにおける1つ以上のプロセッサがプログラムを読出し実行する処理でも実現可能である。また、1以上の機能を実現する回路(例えば、ASIC)によっても実現可能である。
1 情報処理装置
301 拡散情報取得部
302 鏡面情報取得部
304 圧縮部

Claims (15)

  1. 物体の表面における鏡面反射強度に関する鏡面反射情報を取得する第1取得手段と、
    前記物体における拡散反射光に関する拡散反射情報を取得する第2取得手段と、
    前記鏡面反射情報に基づいて、前記拡散反射情報を含むファイルのサイズを圧縮により小さくする圧縮手段と、を有し、
    前記圧縮手段は、前記鏡面反射強度が小さい場合よりも前記鏡面反射強度が大きい場合に前記拡散反射情報を含むファイルのサイズをより小さく圧縮することを特徴とする情報処理装置。
  2. 前記鏡面反射情報は、前記物体の表面における法線情報を含むことを特徴とする請求項1に記載の情報処理装置。
  3. 前記圧縮手段は、前記法線情報が表す法線方向のばらつきに基づいて、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項2に記載の情報処理装置。
  4. 前記圧縮手段は、前記法線方向のばらつきが小さい場合よりも前記法線方向のばらつきが大きい場合に前記拡散反射情報を含むファイルのサイズをより小さく圧縮することを特徴とする請求項3に記載の情報処理装置。
  5. 前記鏡面反射情報は、前記物体の表面における鏡面反射光の拡がり幅を含むことを特徴とする請求項1乃至請求項のいずれか一項に記載の情報処理装置。
  6. 前記圧縮手段は、前記拡がり幅が小さい場合よりも前記拡がり幅が大きい場合に前記拡散反射情報を含むファイルのサイズをより小さく圧縮することを特徴とする請求項に記載の情報処理装置。
  7. 前記法線方向のばらつきを、着目画素の法線方向と前記着目画素の近傍画素の法線方向との類似度に基づいて評価する評価手段をさらに有し、
    前記圧縮手段は、前記評価手段による評価の結果に基づいて、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項4に記載の情報処理装置。
  8. 前記鏡面反射情報を複数の領域に分割する分割手段と、
    前記圧縮手段は、前記分割された領域毎に、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項1乃至請求項のいずれか一項に記載の情報処理装置。
  9. 前記圧縮手段は、前記鏡面反射情報に基づくJPEG圧縮方式により、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項1乃至請求項8のいずれか一項に記載の情報処理装置。
  10. 前記圧縮手段は、前記鏡面反射情報に基にルックアップテーブルを参照して取得した圧縮率を用いて、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項1乃至請求項9のいずれか一項に記載の情報処理装置。
  11. 前記圧縮率は、JPEG圧縮方式の圧縮率であることを特徴とする請求項10に記載の情報処理装置。
  12. 前記圧縮手段は、前記鏡面反射情報に基づいて、前記拡散反射情報のビット深度を削減することにより、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項1乃至請求項8のいずれか一項に記載の情報処理装置。
  13. 前記圧縮手段は、前記鏡面反射情報に基づいて、前記拡散反射情報の画素数を削減することにより、前記拡散反射情報を含むファイルのサイズを圧縮することを特徴とする請求項1乃至請求項8のいずれか一項に記載の情報処理装置。
  14. コンピュータを請求項1乃至請求項13のいずれか一項に記載の情報処理装置の各手段として機能させるためのプログラム。
  15. 物体の表面における鏡面反射強度に関する鏡面反射情報を取得する第1取得ステップと、
    前記物体における拡散反射光に関する拡散反射情報を取得する第2取得ステップと、
    前記鏡面反射情報に基づいて、前記拡散反射情報を含むファイルのサイズを圧縮により小さくする圧縮ステップと、を有し、
    前記圧縮ステップにおいて、前記鏡面反射強度が小さい場合よりも前記鏡面反射強度が大きい場合に前記拡散反射情報を含むファイルのサイズをより小さく圧縮することを特徴とする情報処理方法。
JP2021063945A 2021-04-05 2021-04-05 情報処理装置、情報処理方法及びプログラム Active JP7730657B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2021063945A JP7730657B2 (ja) 2021-04-05 2021-04-05 情報処理装置、情報処理方法及びプログラム
US17/710,751 US12020371B2 (en) 2021-04-05 2022-03-31 Apparatus, method, and storage medium for compressing data about texture of an object

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2021063945A JP7730657B2 (ja) 2021-04-05 2021-04-05 情報処理装置、情報処理方法及びプログラム

Publications (2)

Publication Number Publication Date
JP2022159636A JP2022159636A (ja) 2022-10-18
JP7730657B2 true JP7730657B2 (ja) 2025-08-28

Family

ID=83448176

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2021063945A Active JP7730657B2 (ja) 2021-04-05 2021-04-05 情報処理装置、情報処理方法及びプログラム

Country Status (2)

Country Link
US (1) US12020371B2 (ja)
JP (1) JP7730657B2 (ja)

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US20250182373A1 (en) * 2023-11-30 2025-06-05 Huawei Technologies Co., Ltd. Computer model rendering

Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005149390A (ja) 2003-11-19 2005-06-09 Fuji Photo Film Co Ltd 画像処理方法および装置
WO2006061999A1 (ja) 2004-12-07 2006-06-15 Matsushita Electric Industrial Co., Ltd. 画像変換方法、装置およびプログラム、テクスチャマッピング方法、装置およびプログラム、並びに、サーバークライアントシステム
JP2010246049A (ja) 2009-04-09 2010-10-28 Canon Inc 色処理方法、色処理装置及びプログラム
JP2013196651A (ja) 2012-03-22 2013-09-30 Toshiba Corp 画像処理装置、画像表示装置及び画像処理方法
JP2017068764A (ja) 2015-10-01 2017-04-06 日本放送協会 照明情報取得装置、照明復元装置、およびこれらのプログラム
JP2022092235A (ja) 2020-12-10 2022-06-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2022155060A (ja) 2021-03-30 2022-10-13 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP3409677B2 (ja) * 1998-02-05 2003-05-26 トヨタ自動車株式会社 物体画像の高輝度部圧縮方法
EP2120007A4 (en) * 2007-02-13 2010-12-01 Panasonic Corp SYSTEM, METHOD AND DEVICE FOR IMAGE PROCESSING AND IMAGE FORMAT
US9299188B2 (en) * 2013-08-08 2016-03-29 Adobe Systems Incorporated Automatic geometry and lighting inference for realistic image editing
EP3182691B1 (en) * 2015-12-17 2018-10-31 Thomson Licensing Method of encoding raw color coordinates provided by a camera representing colors of a scene having two different illuminations
EP3565259A1 (en) 2016-12-28 2019-11-06 Panasonic Intellectual Property Corporation of America Three-dimensional model distribution method, three-dimensional model receiving method, three-dimensional model distribution device, and three-dimensional model receiving device
CN119135920A (zh) * 2018-05-02 2024-12-13 奎蒂安特有限公司 用于处理具有几乎无限细节的场景的编解码器

Patent Citations (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005149390A (ja) 2003-11-19 2005-06-09 Fuji Photo Film Co Ltd 画像処理方法および装置
WO2006061999A1 (ja) 2004-12-07 2006-06-15 Matsushita Electric Industrial Co., Ltd. 画像変換方法、装置およびプログラム、テクスチャマッピング方法、装置およびプログラム、並びに、サーバークライアントシステム
JP2010246049A (ja) 2009-04-09 2010-10-28 Canon Inc 色処理方法、色処理装置及びプログラム
JP2013196651A (ja) 2012-03-22 2013-09-30 Toshiba Corp 画像処理装置、画像表示装置及び画像処理方法
JP2017068764A (ja) 2015-10-01 2017-04-06 日本放送協会 照明情報取得装置、照明復元装置、およびこれらのプログラム
JP2022092235A (ja) 2020-12-10 2022-06-22 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム
JP2022155060A (ja) 2021-03-30 2022-10-13 キヤノン株式会社 情報処理装置、情報処理方法及びプログラム

Also Published As

Publication number Publication date
US20220319107A1 (en) 2022-10-06
JP2022159636A (ja) 2022-10-18
US12020371B2 (en) 2024-06-25

Similar Documents

Publication Publication Date Title
Chen et al. Learning to predict 3d objects with an interpolation-based differentiable renderer
TWI810818B (zh) 提供三維模型的電腦實施方法與系統及其相關之儲存媒體
CN115830208B (zh) 全局光照渲染方法、装置、计算机设备和存储介质
US8866813B2 (en) Point-based guided importance sampling
Lefebvre et al. Appearance-space texture synthesis
US9418473B2 (en) Relightable texture for use in rendering an image
CN119129019B (zh) 一种基于3d模型的设计方案确认方法及系统
Jarabo et al. Effects of approximate filtering on the appearance of bidirectional texture functions
EP3355279A1 (en) Method and computer programs for identifying differences between 3-dimensional scenes
Vanhoey et al. Visual quality assessment of 3D models: on the influence of light-material interaction
WO2024037116A9 (zh) 三维模型的渲染方法、装置、电子设备及存储介质
JP7730657B2 (ja) 情報処理装置、情報処理方法及びプログラム
Zhang et al. Splatting lines: an efficient method for illustrating 3D surfaces and volumes
Balado et al. Multi feature-rich synthetic colour to improve human visual perception of point clouds
US6967653B2 (en) Apparatus and method for semi-automatic classification of volume data
Schiavo Real-time XR visualization of 3D Gaussian Splatting models
Neuhauser et al. Interactive focus+ context rendering for hexahedral mesh inspection
Dachsbacher Analyzing visibility configurations
Qu et al. Perceptually driven interactive geometry remeshing
Müller et al. Procedural Editing of Bidirectional Texture Functions.
Choudhury et al. Ray tracing NPR-style feature lines
Stoppel et al. Graxels: Information Rich Primitives for the Visualization of Time-Dependent Spatial Data.
Prus et al. Level-of-Detail for Production-Scale Path Tracing.
Kuge et al. Real-time Shading with Free-form Planar Area Lights using Linearly Transformed Cosines
Liang Optimizing Night Driving Simulations: A Comparative Study of Light Simulation Software

Legal Events

Date Code Title Description
RD01 Notification of change of attorney

Free format text: JAPANESE INTERMEDIATE CODE: A7421

Effective date: 20231213

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20240404

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20250422

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250430

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20250612

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250715

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250818

R150 Certificate of patent or registration of utility model

Ref document number: 7730657

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150