JP6885509B2 - 画像処理装置、画像処理方法及び画像処理プログラム - Google Patents

画像処理装置、画像処理方法及び画像処理プログラム Download PDF

Info

Publication number
JP6885509B2
JP6885509B2 JP2020513656A JP2020513656A JP6885509B2 JP 6885509 B2 JP6885509 B2 JP 6885509B2 JP 2020513656 A JP2020513656 A JP 2020513656A JP 2020513656 A JP2020513656 A JP 2020513656A JP 6885509 B2 JP6885509 B2 JP 6885509B2
Authority
JP
Japan
Prior art keywords
cloud
shadow
pixel
pixels
altitude
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2020513656A
Other languages
English (en)
Other versions
JP2020532808A (ja
Inventor
マドリ マヘンドラ ナグレ
マドリ マヘンドラ ナグレ
啓史 青木
啓史 青木
和俊 鷺
和俊 鷺
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NEC Corp
Original Assignee
NEC Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NEC Corp filed Critical NEC Corp
Publication of JP2020532808A publication Critical patent/JP2020532808A/ja
Application granted granted Critical
Publication of JP6885509B2 publication Critical patent/JP6885509B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Images

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T5/00Image enhancement or restoration
    • G06T5/90Dynamic range modification of images or parts thereof
    • G06T5/94Dynamic range modification of images or parts thereof based on local image properties, e.g. for local contrast enhancement
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/10Segmentation; Edge detection
    • G06T7/12Edge-based segmentation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/40Analysis of texture
    • G06T7/41Analysis of texture based on statistical description of texture
    • G06T7/45Analysis of texture based on statistical description of texture using co-occurrence matrix computation
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/10Image acquisition modality
    • G06T2207/10032Satellite or aerial image; Remote sensing
    • G06T2207/10036Multispectral image; Hyperspectral image
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20076Probabilistic image processing
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20081Training; Learning
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T2207/00Indexing scheme for image analysis or image enhancement
    • G06T2207/20Special algorithmic details
    • G06T2207/20084Artificial neural networks [ANN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Theoretical Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Computing Systems (AREA)
  • Mathematical Physics (AREA)
  • Probability & Statistics with Applications (AREA)
  • Image Processing (AREA)
  • Image Analysis (AREA)

Description

本発明は、衛星搭載プラットフォーム上のセンサによって観測された画像において、雲の影下にある画像内の画素を検出および補正するための、画像処理装置、画像処理方法、および画像処理プログラムに関する。
衛星画像は、地球表面を監視することなど、極めて重要な用途に用いられる。しかしながら、画像の撮像中に雲が存在する場合、これが、画像の信頼性に大きな影響を与える。雲は画像内に現れるだけでなく、地面に影を落として、真の地面情報を遮蔽する(被覆する)。
衛星画像の場合、地面への入射太陽放射は、2つの構成要素、具体的には、直接太陽放射および拡散太陽放射を有する。雲などの物体は、直接太陽放射を減衰させることによって、影を落とす。したがって、影の下の領域は、完全な放射を受けない。結果として、そのような領域は、暗く見え、真の地面情報を遮蔽する。これらの影を除去して真の地面情報を取得することが必要である(このような技術は影分離として知られる)。
非特許文献1は、影画素を補正するために直接太陽放射の減衰率を推定する、空撮および衛星画像のための影分離法を開示している。図19は、この方法を使用する装置のブロック図を示す。この装置は、前処理部01、整合フィルタ導出部02、減衰率推定部03、影除去部04、および出力部05を含む。前処理部01は、次のプロセスにおいて処理対象から除外する水域および雲画素を検出する。この検出は、スペクトル状態に基づく。整合フィルタ導出部02は、計算される整合フィルタベクトルを、対象の影反射に合うように式(1)を用いて調整する。
Figure 0006885509
mfは、整合フィルタベクトルである
は、整合フィルタが合わせられる標的反射である
Cは、非雲および非水の画素の共分散行列である
Figure 0006885509
は、非雲および非水画素の平均ベクトルである。
この方法は、式(1)においてrを0に設定して影を検出する。結果として生じるフィルタ(Vsh)は、次元k×1の列ベクトルであり、式中、kは、共分散行列および平均ベクトルを計算するために考慮される波長域の数である。減衰率推定部03は、フィルタVshをすべての非雲および非水域画素に適用して、それぞれの画素内の影存在量を得る。この方法は、算出値が、それぞれの画素についての直接太陽放射の減衰率の相対的尺度であると仮定する。算出値は、各画像に依存した値域内での正数および負数の任意の値となる。したがって、減衰率推定部03は、「0」が直接照明なし(完全な影)を示し、「1」が完全直接照明(影なし)を示すように、影存在量値を範囲[0,1](0から1まで)にスケーリングする。非特許文献1内の方法は、画像内の他の暗い物体と区別できるように、中核となる一つの影を、実際の影と設定する。影除去部04は、まず、画像二値化法により、影によって実際に被覆された画素を検出する。影除去部04は、ヒストグラムスライス技法に基づいて、減衰率推定部03によって得られた影存在量値のしきい値を定める。このしきい値を使用して検出された画素が、中核となる影領域を形成する。さらに、影除去部04は、中核影領域を空間的に拡大させる。次いで、影除去部04は、減衰率推定部03によって決定された減衰率を用いることにより雲影形成の物理モデルに基づいて、中核影領域内の画素を補正する。出力部05は、出力をディスプレイ(図19には示されない)に送信する。
加えて、関連技術が、特許文献1〜特許文献3、非特許文献2〜非特許文献4に開示されている。
特開第2002−122667号公報 特開第2005−157561号公報 特開第2013−165176号公報
Richter, R. and Muller, A., "De-shadowing of satellite/airborne imagery," International Journal of Remote Sensing (Volume:26, Issue:3, August2005), Page(s):3137-3148 Xu, M., Pickering, M., Plaza, A.J. and Jia, X., "Thin Cloud Removal Based on Signal Transmission Principles and Spectral Mixture Analysis," IEEE Transactions on Geoscience and Remote Sensing (Volume: 54, Issue:3, March2016), Page(s):1659-1669 Khlopenkov, K. V., and Trishchenko, A. P., "SPARC: New cloud, snow, and cloud shadow detection scheme for historical1-km AVHHR data over Canada," Journal of Atmospheric and Oceanic technology (Volume: 24, Issue:3, March 2007), Page(s):322-343 Luo, Y., Trishchenko, A., Khlopenkov, K., "Developing clear-sky, cloud and cloud shadow mask for producing clear-sky composites at 250-meter spatial resolution for the seven MODIS land bands over Canada and North America", Remote Sensing of Environment, vol. 112, issue 12, pp. 4167-4185, December,2008
非特許文献1に開示される方法は、影検出ならびに影除去のための手法を提供する。しかしながら、この方法は、影形成中に発生する実際の現象を表す物理モデルに基づかない整合フィルタリングの方法によって、直接太陽放射の減衰率を推定する。雲に起因して影が形成されるとき、雲の光学特性が重要な役割を果たす。しかしながら、非特許文献1の方法は、減衰率を導出するために雲光学特性のモデルを考慮しない。したがって、推定減衰率が実際の減衰率とは異なる可能性がある。そのため、この方法は、放射測定的に正しい出力を保証することができない。
本発明は、上に説明された問題を解決するために開発された。本発明の目的の1つは、雲影によって被覆された画素を正確に検出し、画像内の雲影の影響を除去することができる、画像処理装置、画像処理方法、および画像処理プログラムを提供することである。
上記の問題を解消するために、本発明の第1の観点は、1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理装置である。本装置は、各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算するための雲透過率計算手段と、対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定する雲高度推定手段と、各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算するための減衰率推定手段と、計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去するための影除去手段と、を備える。
本発明の第2の観点は、1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理方法である。当該方法は、各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算することと、対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定することと、各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算することと、計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去することと、を含む
本発明の第3の観点は、1つまたは複数の雲によって引き起こされる影響をコンピュータに検出および補正させるための画像処理プログラムである。当該プログラムは、各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算することと、対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定することと、各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算することと、計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去することと、を含む。
本発明の目的は、当該プログラムが記憶されるコンピュータ可読記憶媒体によっても達成され得る。
本発明によると、雲影によって被覆された画素を正確に検出し、画像内の雲影の効果を除去することができる、画像処理装置、画像処理方法、および画像処理プログラムが提供される。
図1は、本発明に従う第1の実施形態例のブロック図である。 図2は、雲データ記憶装置内の表の例である。 図3は、R×C透過率行列の例である。 図4は、例示的な雲透過率値を描写する、図3内の透過率行列のサブセットである。 図5は、単純な平均化フィルタの例である。 図6は、図4内の画素Pの近傍画素を示す行列である。 図7は、図4に示されるサブセットについて透過率行列を平均化することによって得られる減衰率の行列を示す。 図8は、本発明に従う第1の実施形態例の手順のフローチャートである。 図9は、図8内のステップS1の手順についてのフローチャートである。 図10は、図9内のステップS11の手順についてのフローチャートである。 図11は、本発明に従う第2の実施形態例のブロック図である。 図12は、本発明に従う第2の実施形態例のフローチャートである。 図13は、図12内のステップS201の手順についてのフローチャートである。 図14は、図12内のステップS203の手順についてのフローチャートである。 図15は、図12内のステップS205の手順についてのフローチャートである。 図16は、雲影形成の例示的な物理モデルの描写である。 図17は、本発明に従う第3の実施形態例の図である。 図18は、本発明に従う実施形態において使用される例示的なコンピュータ構成を示す。 図19は、非特許文献1に記載される方法のブロック図である。
図中において、各要素は単純化および明瞭化のために示され、必ずしも縮尺通りに描かれていないことがあるが、これは当業者であれば理解可能である。例えば、雲の影の形成の物理モデルを示す図のいくつかの要素の寸法は、本願の各実施形態の理解を助けるために、他の要素に対して誇張されている場合がある。
衛星搭載プラットフォーム上のセンサによって観測される衛星画像は、地球表面に関する膨大な量の情報を提供する。多くの衛星搭載プラットフォームは、マルチスペクトルまたはハイパースペクトル画像を観測することができるセンサを有する。マルチスペクトルまたはハイパースペクトル画像は、RGB画像の波長域よりもはるかに多い波長域で地球表面から反射されたエネルギーを記録する。観測された反射エネルギーは、地面上の物体を特徴付ける。しかしながら、観測画像内の情報の質は、観測時の大気の状態、観測の幾何などに依存する。衛星画像は、多くの場合、大気内のもや、霧、または雲による影響を受ける。大気内の雲被覆は、実践的な用途における画像の信頼できる使用に対して最も大きな影響を与える。地表の約3分の2が、年間を通して雲に被覆され、このことが雲のないシーンを得ることを困難にする。上方反射信号の遮蔽に加えて、雲は、地面に達する日射を妨げ、それにより地面に影を落とし、真の地面情報を遮蔽する。土地利用土地被覆(LULC:Land Use Land Cover)分類などの高レベル分析の用途で、雲影を有する画像が処理される場合、誤った結果が得られることになる。したがって、雲影によって被覆された画像内の部分の検出は、重要な前処理タスクである。雲影の検出後、それらを除去することは、影の下の真の地面情報を取得するという追加の利益をもたらす。地上への入射太陽放射は、2つの構成要素、詳細には、直接太陽放射および拡散太陽放射を有する。影は、雲などの遮蔽物による直接太陽放射の減衰に起因して生じる。しかしながら、影付きの部分においても、入射拡散太陽放射に起因する一部の反射が観測される。この観測された反射は、陰付きの部分における真の地面反射の取得を可能にする。
非特許文献1内の方法は、影の除去に対する手法を提供する。しかしながら、この方法は、水域画素における影の検出および除去が非常に不安定である。加えて、この方法における複雑な計算は、増大なコンピュータリソースを必要とする。この方法の主な制限は、影除去のための遮蔽物に関する情報を無視することから生じる。物理モデルを考えると、遮蔽物の光学特性は、その影を特徴付けるのに重要である。雲影の場合、雲影除去の精度は、遮蔽雲の光学特性の推定が正確に実施される場合には改善されることになる。
本発明者らの実施形態の主たる考えは、雲影除去のために雲透過率値を使用することである。影除去のために雲透過率を使用する手法は、影形成の間に起きている実際の現象(以後、「物理モデル」と呼ぶ)に基づく。
図16は、雲影形成の例示的な物理モデルを示す。太陽から発せられる放射は、大気を透過し(一部は雲によって吸収される)、地面によって反射され、衛星側に向かって再び大気を透過する。衛星システムは、この反射光を受け取る。雲影形成の間に起こる現象を説明するために、図16は、太陽照射の例示的な光線を描写する。ここでは、光線の1つを、光線αと呼ぶ。光線αは、太陽から生じ、地面に向かって進む。この経路上で、光線αは雲に遭遇する。光線αの一部分は、雲の上部から反射され、衛星画像内に画素(x,y)を作成する。この画像内の位置座標は、x軸およびy軸によって示される。光線αの残りの部分は、雲を通り抜けて、多重反射(雲内部反射)などの複雑な現象を経る。他の光線の一部は、大気内に拡散される。これらのプロセスの後、光線αは、地面に達し、地点「A」において反射される。反射された光線αは、地点「A」における地表物体の情報を含む。この光線αは、大気を上方向に再び通り抜けて、衛星に達する。この光線αが雲に起因して減衰されるため、地点「A」は、完全な照明を受け取らず、したがって、この光線が、衛星画像内に影付きの画素(x,y)を形成する。
図16では、雲によって被覆された画素について受信された放射輝度は、地面からの反射エネルギーおよび雲表面の上側(地球側と反対の宇宙側)からの反射エネルギーを有する。画素について、雲透過率は、画素を成分分離することによって推定され得る(詳細は非特許文献2を参照されたい)。画素を成分分離することによって得られるこの透過率は、雲上側の地点における透過率である。しかしながら、地面に達する前に、放射は、雲の内部プロセスによって影響を受ける。これらの内部プロセスは、近傍画素についての雲上側反射に影響を与える。したがって、座標(x,y)によって記される画素における雲に起因する直接太陽放射の減衰は、(x,y)だけでなく、その近隣画素においても同様に雲透過率を考慮することによって推定され得る。
図16に示される大気現象を考えると、影画素についての真の地面反射は、以下に示される式(2)によって取得され得る。式(2)において定数を除くすべての項は、特定の波長内にある。
Figure 0006885509
式中、rは、特定の波長における影画素(x,y)についての真の地面反射である。IDNは、特定の波長の場合のその画素における、衛星センサによって記録されたデジタル数字である。cおよびcは、それぞれ、デジタル数字を放射輝度へ変換するための、特定の波長についてのオフセットおよび利得である。dは、天文単位での、画像を観測する時点での地球と太陽との間の距離である。Lは、特定の波長の場合のその画素における大気経路放射輝度である。tは、地面からセンサまでの経路上での大気透過率である。Edirは、特定の波長の場合の直接太陽放射である。Edifは、特定の波長の場合の拡散太陽放射である。Aは、太陽天頂角である。tは、直接太陽放射が、影を発生させる雲などの遮蔽物に起因して減衰される減衰率である。式(2)において、L、Edir、Edif、tの値は、確立された大気モデルによって得られ得る。したがって、影画素についての真の地面反射は、式(2)内に正確な減衰率tを代入することによって決定される。
図16に描写される大気現象および式(2)におけるそれらの数学的定式化は、例示的な状況を示す。実際には、より複雑なまたはより単純な大気現象が、同様の光線について考えられ得る。
太陽から地面までの経路上の透過率は、他の気体分子、例えばCO、水分子、雲、もやなどの、その経路に対する様々な因子によって影響を受ける。本発明者らの実施形態において、本発明者らは、この透過率が雲によってのみ影響を受け、他の因子には起因しないと仮定した。したがって、雲以外の大気の部分における太陽から地面までの経路上での透過率は、何の影響も及ぼさない。
以下に説明される実施形態は、入力画像から減衰率を推定することによって影画素を正確に検出して補正するための方法を説明する。
上で述べた問題を解決することができる本発明の各実施形態を、図面を参照して以下に説明する。以下の詳細な説明は、本質的に単なる例示にすぎず、本発明または本発明の用途および使用を制限することは意図されない。さらには、本発明の先行する背景技術において提示されたいかなる理論または以下の詳細な説明にも拘束されることも意図しない。
<第1の実施形態例>
<<画像処理装置>>
雲を抜ける通路を除き、太陽から地面までの経路上の大気透過率を1つと見なすと、直接太陽放射(t)の減衰は、その経路に沿った雲の透過率によって決定されることになる。遮蔽雲の透過率を推定し、それを影除去に用いることにより、補正の精度を向上させることができる。第1の実施形態において、遮蔽雲の透過率から直接太陽放射(t)の減衰率を推定して正確な影除去結果を得る画像処理装置が説明される。
図1を参照すると、第1の実施形態例の画像処理装置100は、入力部10、雲データ記憶装置11、雲透過率計算部12、雲分類部13、雲高度推定部14、影検出部15、減衰率推定部16、大気モデル化部17、影除去部18、および出力部19を含む。
雲データ記憶装置11は、雲に関するドメイン知識を記憶する。ここでは、ドメイン知識は、専門分野の知識を意味する。つまり、雲に関するドメイン知識は、雲のタイプ(クラス)、それらの典型的な地上高度、およびそれらのスペクトルシグネチャなど、専門的な雲情報を意味する。雲データ記憶装置11は、異なるクラス(種類)の雲のスペクトルシグネチャおよび例を、雲クラスおよびそれらの典型的な地上高度のルックアップテーブルと一緒に記憶する。このテーブルは、ドメイン知識を有する専門家、または例となる画像から知識を学習してテーブルを生成することができるアプリケーションによって作成され得る。図2は、例示的な雲データ記憶装置11を示す。テーブルの項目は、「雲タイプ」、「雲タイプラベル」、「雲高度」、および「帯域1、…、帯域7」(以後、単に「帯域」と呼ぶ)を含む。「雲タイプラベル」は、巻雲、高積雲など、雲の種類を指す。「雲高度」は、各雲タイプの典型的な地上高度を指す。「帯域」は、いくつかの波長域(1〜7)における特定の雲タイプの典型的な反射を指す。雲データ記憶装置11内の情報は、雲分類部13および雲高度推定部14にとって利用可能なものである。
入力部10は、衛星システムなどの他の外部デバイスから画像(マルチスペクトル画像)を入力する。入力部10は、ハイパースペクトル画像を受け入れることもできる。
雲透過率計算部12は、入力部10から入力画像を受信し、既存の方法を使用することによって、画像内に現れる雲の透過率の推定を計算する。例えば、非特許文献2は、画素について、雲被覆の透過率が、画素内の雲の存在量に基づいて推定されるという方法を開示する。非特許文献2の方法に説明されるように、雲の透過率(C)は、
=1−g (3)
として与えられ、式中、「g」は、雲の相対厚さ係数である。係数gは、厚い雲に対する雲の相対厚さに従って0〜1まで変化する。g=1の場合、これは厚い雲を意味する。これらの雲は、透過率が0である不透明の雲である。本方法は、雲をエンドメンバと仮定し、画素を成分分離して、gで近似される雲存在量(画素内の相対的比率)を得る。エンドメンバは、画像内の純粋な土地被覆クラスを表す。土地被覆クラス(エンドメンバ)の選択は、用途に依存する。例えば、変化検出用途では、エンドメンバは、植生、水などである一方、植生モニタリングにおいては、エンドメンバは、スギまたはヒノキであり得る。非特許文献2内のモデルは、gを決定するために線形分離技法を適用する。成分分離のため、雲透過率計算部12は、雲スペクトルを抽出する。複数の雲クラスが画像内に存在する場合、雲透過率計算部12は、複数の雲スペクトルを抽出する。
画像内の各画素について、雲透過率計算部12は、画素を成分分離して雲存在量を得て、式(3)によって雲透過率(C)を計算する。非ゼロの雲存在量を有する画素は、雲によって影響を受ける画素(以後、「雲画素」と称される)である。RおよびCが、それぞれ、入力画像内の行および列である場合、R×C透過行列は、図3に示されるようなものである。図3では、P11、…、PRCは、値の各々を記憶するための行列要素を表す。
雲透過率計算部12は、行列内にすべての画素についての雲存在量値を設定し、それを雲分類部13に送信する。雲透過率計算部12はまた、行列内に雲透過率値を設定し、それを減衰率推定部16に送信する。図4は、図3に示されるR×C透過行列のサブセット例を示す。画素Pおよび近傍領域は、図4内のPareaなどのようになる。
雲分類部13は、入力部10から入力画像を、また雲透過率計算部12からすべての画素についての雲存在量値を受信する。雲分類部13は、入力画像内の各雲画素を、巻積雲、巻層雲、高積雲、層積雲、および層雲などの雲クラスのうちの1つに分類する。雲分類部13は、分類のために、雲データ記憶装置11から受信された異なる雲クラスのスペクトルシグネチャおよび例を、入力画像内の画素スペクトルと比較する。入力画像は、複数の雲クラスを含んでもよい。雲分類部13は、各画素に雲タイプラベルをラベル付けし、このラベル行列を雲高度推定部14に送信する。
雲高度推定部14は、雲画素についての雲タイプラベルを受信し、各雲画素の地面からの高度を決定する。雲高度推定部14は、雲データ記憶装置11から受信されたルックアップテーブルを使用することによって、各雲画素の高度を推定する。ルックアップテーブルは、雲タイプ(クラス)に対する大気高度のエントリを有する。雲高度推定部14は、雲画素についての推定高度からなる行列を影検出部15に送信する。
影検出部15は、雲画素についての推定高度からなる行列を雲高度推定部14から受信する。影検出部15は、照明源(太陽)およびセンサ(衛星上)の幾何モデル(図16を参照されたい)に基づいて、各雲画素に対応する影画素を位置特定する。幾何モデルは、非特許文献4から採用される。本発明の文脈において、本発明者らは、直下観察衛星を仮定した。その結果、画像平面と画像画素の地表投影を含む地面における平面とは、正確に平行に配置されている。画像内の画素およびその地表投影は、x軸およびy軸について同じ座標を有する。非特許文献4内の幾何モデルを直下観察衛星条件と共に使用すると、衛星画像平面上の影画素の位置は、座標(xs,ys)として得ることができる。各値は、
Figure 0006885509
として得ることができる。式中、(x,y)は、雲画素(x,y)によって形成される影画素を示す。hは、雲の地上高度である。Aは、太陽天頂角である。Bは太陽方位角であり、真北から時計回りに定義される。Dは、y軸と真北の間の角度であり、画像が方向とは無関係に撮影されることから真北とy軸を含む衛星画像との間の位置関係を示すためにある。影検出部15は、式(4)内のhについて雲画素(x,y)の推定高度を代入して、対応する影画素を位置特定する。影検出部15は、入力画像内の影画素座標およびその対応する雲画素座標のすべての対を影除去部18に送信する。
減衰率推定部16は、雲透過率計算部12から雲透過率値の行列を、また入力部10から入力画像を受信する。減衰率推定部16は、入力画像内のすべての画素について直接太陽放射の減衰率の推定値を計算する。雲は、3次元体であり、様々な構成分子を有する。その結果、入射放射線は、雲を抜ける通路に沿って、多重反射、吸収、および拡散を有する。
雲画素(x,y)に起因する直接太陽放射の減衰が、画素(x,y)における雲透過率だけでなくその近傍画素における雲透過率も同様に考慮することによって推定され得るということを考慮して、減衰率推定部16は、受信した雲透過率行列に平均化フィルタを適用する。平均化フィルタは、平均(Mean)フィルタ、ガウスぼかし(ガウス平滑化)フィルタなど、単純なフィルタまたは特別なフィルタであってもよい。平均化後に入力画像のサイズを維持するため、減衰率推定部16は、平均化フィルタのサイズに応じて、いくつかの行および列を画像の境界までパディングする。
この実施形態においては、例として、図5に示される単純な3×3平均化フィルタが使用される。平均化フィルタは、中心セル、および中心セルの周りに近傍セルを有する。すべてのセルが、「1/9」を保持し、g(1,1)、g(1,2)、…、g(3,3)などで示される。この平均化処理は、すべての画素に対応するローカルウィンドウ内の画素値の平均計算のためであり、計算された平均は、中心画素内に設定される。図6は、平均化フィルタの範囲内での図4の画素Pの近傍画素を示す。すべての画素は、f(1,1)、f(1,2)、…、f(3,3)などで示される。中心画素Pの平均Pavは、各画素値f(1,1)、f(1,2)、…、f(3,3)およびフィルタ値g(1,1)、g(1,2)、…、g(3,3)の乗算の合計である。図6に示される範囲では、平均Pavは、
av=f(1,1)*g(1,1)+f(1,2)*g(1,2)+、…、+f(3,2)*g(3,2)+f(3,3)*g(3,3)
=0.55/9+0.60/9+0.64/9+0.71/9+0.72/9+0.74/9+0.70/9+0.62/9+0.52/9
=(0.55+0.60+0.64+0.71+0.72+0.74+0.70+0.62+0.52)/9=0.64
などのように計算される。減衰率推定部16は、各画素について平均Pavを計算する。すべての画素についての計算の結果として、図7に示されるような行列が、図4の雲透過率値から得られる。図7の行列内の値は、それぞれの画素についての直接太陽放射の減衰率を示す。
減衰率推定部16は、直接太陽放射の減衰率からなる行列である、平均化された雲透過率行列を影除去部18に送信する。
大気モデル化部17は、入力部10から入力画像を受信し、MODTRAN(MODerate resolution atmospheric TRANsmission、登録商標)、ATCOR(Atmospheric & Topographic Correction、登録商標)などの確立された大気モデルによって、画像を観測する時点における大気をモデル化する。これらのモデルは、観測の時間、画像の地理的位置、季節的な特質などを考慮し、影を除去するために必要とされる大気パラメータを導出する。例えば、大気モデル化部17は、式(2)内のL、Edir、Edif、tなどの大気パラメータを得ることができる。
影除去部18は、影検出部15から画像平面内の雲画素座標および対応する影画素座標のすべての対を受信する。影除去部18はまた、減衰率推定部16から、直接太陽放射の減衰率を、および大気モデル化部17から、導出された大気パラメータを受信する。雲(x,y)および影画素(x,y)の各対について、影除去部18は、導出された減衰率を用いることによって、雲影形成の物理モデルに基づいて影画素を補正する。例えば、影除去部18は、式(2)内のtについて画素(x,y)における直接太陽放射の減衰率を代入して、影画素(x,y)を補正する。tと一緒に、影除去部18は、式(2)内のL、Edir、Edif、およびtについて他の大気パラメータの値を代入することができる。
影除去部18は、影除去のために補正されたマルチスペクトル画像を出力部19に送信する。
出力部19は、影除去部18からの受信した補正画像をディスプレイなどの外部デバイス(図1には示されない)に送信する。
<<画像処理装置の動作>>
図8は、雲に関する必要なドメイン知識が雲データ記憶装置11に記憶されると仮定して、画像処理装置100の動作を描写するフローチャートを示す。
ステップS1において、入力部10によって獲得される画像内の各画素について、雲透過率計算部12は、雲の透過率(C)を計算する。非ゼロの雲透過率値を有する画素は、雲画素と称される。この動作は、後で詳細に説明される。雲透過率計算部12は、入力画像内の各画素についての雲の存在量も計算する。雲透過率計算部12は、雲の透過率を減衰率推定部16に送信し、雲の存在量を雲分類部13に送信する。
ステップS2において、雲分類部13は、入力画像内の各雲画素を、そのスペクトル応答と雲データ記憶装置11に記憶されたルックアップテーブルなどのドメイン知識とを比較することによって、特定の雲クラスに分類する。雲分類部13は、任意の教師付き分類技法、例えば、最近傍、決定木、スペクトル角マッパー、k近傍、サポートベクタマシン、人工ニューラルネットワーク、畳み込みニューラルネットワーク、および深層ニューラルネットワークを使用することができるが、これらに限定されるものではない。雲分類部13は、雲データ記憶装置11から受信したスペクトルシグネチャおよび例を使用して教師付き分類器を訓練することができる。
ステップS3において、雲高度推定部14は、各雲画素の高度を推定することができる。より詳細には、雲高度推定部14は、雲データ記憶装置11内のルックアップテーブルを使用することによって、各雲画素の地上高度を決定する。
ステップS4において、大気モデル化部17は、大気パラメータを導出する。より詳細には、大気モデル化部17は、入力画像を観測する時点の大気をモデル化し、大気パラメータのための値を得る。例えば、大気モデル化部17は、式(2)のL、Edir、Edif、tなどの大気パラメータを導出するために、MODTRAN(登録商標)およびATCOR(登録商標)などの確立された大気モデルを利用することができる。大気モデル化部17は、大気パラメータを影除去部18に送信する。
ステップS5において、減衰率推定部16は、雲被覆の透過率(雲透過率)に平均化フィルタを適用する。例えば、減衰率推定部16は、雲透過率行列をフィルタリングして、雲に起因する直接太陽放射の減衰率を推定する。
ステップS6およびS7は、すべての雲画素について実行される。ステップS6において、雲画素について、影検出部15は、雲高度推定部14による推定高度を用いることにより式(4)内の幾何モデルに基づいて対応する影画素を位置特定する。
ステップS7において、影除去部18は、影除去のために、位置特定された影画素を補正する。より詳細には、影除去部18は、式(2)において、tについては直接太陽放射の導出された減衰率、およびステップS4によって得られた他のパラメータを代入することによって、位置特定された影画素を補正する。
画像処理装置100の動作はこれで終了である。
次に、上で述べたステップS1の動作が詳細に説明される。図9は、ステップS1の動作のフローチャートを示す。
まず、ステップS11において、雲透過率計算部12は、入力マルチスペクトル画像内に存在するすべてのタイプの雲のスペクトルを抽出する。この動作は、後で詳細に説明される。
ステップS12において、雲透過率計算部12は、入力画像内の雲以外のエンドメンバのスペクトルを抽出する。雲以外のエンドメンバの最大数は、既存の方法における制約に起因してLより2つ少ない数に自動的に制限される。Lは、入力画像内に存在する波長域の数である。
代表画素が、画像内のエンドメンバについて特定される場合、代表画素の平均スペクトルが、エンドメンバスペクトルと見なされ得る。しかしながら、一般的に、そのような代表画素は、容易に利用可能ではない。代替的に、雲透過率計算部12は、Pixel Purity Index、N−FINDR、およびVertex Component Analysis(VCA)などの周知の教師なしエンドメンバ抽出アルゴリズムによって抽出を実施することができる。代替的に、雲透過率計算部12は、スペクトル的に類似した画素をクラスタリングするために教師なしクラスタリングアルゴリズムをまず使用することによって抽出を実施することができる。次いで、雲透過率計算部12は、それぞれのクラスタを用いてエンドメンバを選択し、雲スペクトルと類似していないスペクトルのみを考慮する。
ステップS13〜S15は、画像内のすべての画素について実行される。
ステップS13において、ある画素について、雲透過率計算部12は、抽出された雲スペクトルの中から雲スペクトルを選択して、画素を成分分離する。この選択は、雲スペクトルおよび画素スペクトルについての空間またはスペクトル近似尺度に基づき得る。このプロセスの目的は、画素スペクトルに混合された可能性が最も高い雲スペクトルを選択することである。
ステップS14において、雲透過率計算部12は、一画素を成分分離して雲存在量を得る。より詳細には、雲透過率計算部12は、画素内の雲と共にすべてのエンドメンバの分画存在量を決定する。画素スペクトルについては、雲透過率計算部12は、逐次最小2乗手法、すなわち完全拘束の線形混合分析によって、エンドメンバスペクトルおよび雲スペクトルの線形混合の係数を決定する。線形混合モデルの係数は、エンドメンバおよび雲の分画存在量である。雲透過率計算部12は、エンドメンバスペクトルおよび雲スペクトルがそれぞれの計算された分画存在量によってスケーリングされ、線形に追加される場合に、所与のスペクトルが得られるように、所与のスペクトルを分離する。上の説明に基づいて、雲透過率計算部12は、雲の分画存在量、すなわち、g(雲の相対厚さ因子)を得る。
雲存在量を計算した後、ステップS15において、雲透過率計算部12は、式(3)によって、各画素について雲透過率を計算する。
ステップS1の特定の動作の説明はここで終了である。
次に、上で述べたステップS11の動作が詳細に説明される。図10は、ステップS11における動作のフローチャートを示す。
まず、ステップS101において、雲透過率計算部12は、式(5)によって、受信したマルチスペクトル画像(I)をグレースケール強度画像(I)に変換する。式中、i=1、…、Rであり、j=1、…、Cである(kは、入力画像内の波長域に対応する変数である)。
Figure 0006885509
ステップS102において、雲透過率計算部12は、雲によって影響を受けた可能性のある画素を検出するためにテクスチャ尺度(テクスチャ平均)を計算する。画像のテクスチャは、濃度共起行列(GLCM)によって評価され得る。エントロピー、コントラスト、分散、および平均など、異なる数量がGLCMから導出され得る。最も好ましい尺度は、GLCM平均である。グレースケール強度画像から、雲透過率計算部12は、画像内の各画素についてローカルウィンドウ内でGLCMを使用したテクスチャ平均(GLCM平均値)を計算する。ステップS102の詳細な説明は次に続く。
ある画素について、ローカルウィンドウ内で、GLCMを導出するために、雲透過率計算部12は、共起行列を生成し、この行列の要素は、ある特定の変位δ=(s,θ)におけるウィンドウ内での強度レベルiおよびjの発生の周波数Pδ(i,j)(i=0、1...Q−1、j=0、1...Q−1)である。Qは、量子化強度レベルの最大値である。sは、強度レベルiを有する画素とjを有する画素との間の距離であり、θは、画像内の強度レベルiおよびjを繋ぐ線の、水平軸に対する配向である。特徴値は、導出されたGLCM行列から計算され、画像の特徴情報(テクスチャなど)は、これらの値によって特徴づけられる。
GLCMを決定するには、入力強度レベルの量子化が、多くのゼロを有する疎なGLCMを避けるために推奨される。量子化レベル(Q)は、2から入力画像内の強度レベルまで変化し得る。最も好ましいのは、8レベル量子化である。iおよびjは、ウィンドウ内のQレベル量子化強度レベルに対応する。
Figure 0006885509
など、導出されたGLCMから、GLCM平均(Gmean)が計算され、式中、P(i,j)は、導出されたGLCM内の強度レベルiおよびjの値を示す。これは、強度レベルiおよび強度レベルjの対が、どれくらいの頻度でウィンドウ内の特定の距離において特定の配向で発生したかを示す。例えば、導出されたGLCM内の(7,2)における要素は、強度レベル7および2が、何回、画素周辺の量子化ローカルウィンドウ内で一緒に発生したかを示す。
配向は、水平(0°)、垂直(90°)、対角線1(45°)、または対角線2(135°)と見なされ得る。最も好ましい配向は、強度レベル間に単位距離を有する水平(0°)配向である。
ステップS103において、雲透過率計算部12は、すべての画素のGLCM平均値を範囲[0,255]までスケーリングする。
ステップS104において、雲透過率計算部12は、既定のしきい値よりも大きいGLCMを有する画素を、雲によって影響を受けた可能性のある画素として選択する。画像に対する平均的なGLCM平均は、画像の大半のためのしきい値として役立つ。
ステップS105において、雲透過率計算部12は、ステップS104において選択された画素についてGLCM平均値のヒストグラムを導出する。
ステップS106において、雲透過率計算部12は、ヒストグラム内の各GLCM平均レベルの極大値(ピーク)のピーク度測度を、
Figure 0006885509
として計算する。式中、「V」は、ピーク前の最も近い谷の高さであり、「V」は、ピーク後の最も近い谷の高さであり、Pは、ピークの高さであり、Qは、ピークの隣接する谷同士の距離として見られる、ピークの広がりである。所与の問題の文脈において、GLCM平均値のヒストグラムは、多くのレベルでゼロを有する疎である。したがって、ピーク度測度を計算する場合、隣接する非ゼロの谷が考慮される。
ステップS107において、雲透過率計算部12は、ピーク度測度が既定のしきい値よりも大きいヒストグラム内のGLCM平均レベルを選択する。
ステップS108およびS109は、すべての選択されたGLCM平均レベルについて実行される。
ステップS108において、選択されたGLCM平均レベルについて、雲透過率計算部12は、選択されたGLCM平均レベルに等しいGLCM平均を有するすべての画素の平均スペクトルを計算する。ステップS109において、雲透過率計算部12は、計算された平均スペクトルを、入力画像内に存在する雲スペクトルとして判定する。ステップ109における動作の最終出力は、入力画像内に存在する雲スペクトルのセットである。
雲透過率計算部12の特定の動作およびステップS11はここで終了である。
本発明に従う第1の実施形態例のプロセスにおいて上に説明されるステップの一部には代替案が存在し得る。
例えば、図8内のステップS1のプロセスにおいて、雲透過率計算部12は、天空のスペクトル特性によって重みが決められる一方で、式(5)の代わりに重み付け平均処理によって、図10のステップS101において入力マルチスペクトル画像からグレースケール強度画像を導出することができる。
<第1の実施形態例の効果>
本発明に従う第1の実施形態例の画像処理装置100は、雲影に被覆された画素を正確に検出し、画像内の雲影の効果を除去することができる。その理由は、雲透過率計算部12が、雲影除去のために雲透過率値を計算し、減衰率推定部16が、影形成の物理モデルを考慮し、遮蔽雲の光学特性(雲透過率)から直接太陽放射の減衰率を推定するからである。加えて、雲影は、雲データ記憶装置11内のドメイン知識を使用して影検出部15によって正確に位置特定される。減衰率推定部16におけるプロセスは、非特許文献1の方法を演算的に複雑にする共分散行列の計算を回避する。加えて、画像処理装置100は、影除去のために水域画素を検出する必要がなく、このことは、先行技術の非特許文献1における方法が水域画素の排除に非常に不安定であることから、有利である。頻繁に発生することだが、図19の前処理部01が水域画素を正確に検出することができない場合、本方法は、影画素とみなした過補正を実施する。この問題は、画像処理装置100におけるプロセスが水域画素の除去を必要としないため、画像処理装置100によって軽減される。組み合わせた結果として、画像処理装置100は、雲の影をより高い精度で検出および補正することができる。
<第2の実施形態例>
第1の実施形態例において、画像処理装置100は、雲影で被覆された画素を検出し、それらを補正して、遮蔽雲の光学特性を使用することにより真の地面反射を正確に取得することができる。検出および補正の精度は、入力画像自体から入力画像内の雲の高度を推定することによってさらに向上され得る。画像内で、雲によって投じられた影画素を、雲の光学特性に基づいて補正するには、影画素と遮蔽雲の画素との正確な対応を確立することが必要不可欠である。この対応は、遮蔽雲の高度の推定が正しい場合にのみ正確である。第2の実施形態では、ドメイン知識なしに画像自体から画像内の遮蔽雲の高度を見出すことができる画像処理装置が説明される。
<<画像処理装置>>
図11は、本発明に従う第2の実施形態例の画像処理装置200の構成を示すブロック図である。画像処理装置200は、入力部10、雲マップ検出部21、雲オブジェクト検出部22、影マップ検出部23、影オブジェクト検出部24、雲高度推定部25、影オブジェクト拡大部26、雲透過率計算部12、減衰率推定部16、大気モデル化部17、影除去部18a、および出力部19を含む。
雲マップ検出部21は、入力部10から受信される入力画像内の雲画素を、空間およびスペクトル特性に基づいて検出し、具体的には、雲は、画像内の幅広い領域を均質のテクスチャで被覆し、可視から中赤外帯域まで幅広い波長にわたって高反射を示す。雲マップ検出部21は、GLCM平均を用いることによりテクスチャ尺度でこれらの特性を評価することができる。代替的に、雲マップ検出部21は、単位長さあたりのエッジ、空間変動などの尺度に基づいて強度レベル平坦性を特定することができる。
雲マップ検出部21は、強度レベル勾配値に基づいて、強度レベルの急な変化のない領域を検出するようにフィルタを設計することができる。勾配値は、Prewitt、Sobel、Laplacian of Gaussian、またはCannyエッジ検出器などのフィルタ関数の適用によって計算され得る。代替的に、標準偏差が、強度勾配の尺度として使用され得る。さらには、雲マップ検出部21は、形状のフィルタ、および/または特定の土地被覆クラスのスペクトル反射特性に基づいた特定の土地被覆クラスのためのフィルタを用いることができる。
雲とは異なり、人工物体は、明確な定まった形状を有する。雲マップ検出部21は、入力画像内の物体の形状を決定し、推定雲マップから定まった形状を有する物体を除去する。
定まった形状の除去に加えて、雲マップ検出部21は、入力画像内の植生、雪、水、市街地などの特定の土地被覆クラスを評価することができる。評価のため、雲マップ検出部21は、スペクトル指標、例えば、限定されるものではないが、正規化差分植生指標、正規化差分雪指標、正規化市街地差分指標、正規化差分水指標、正規化差分泥指標、および正規化燃焼率を用いることができる。
雲マップ検出部21は、雲画素を検出するために、上に述べられた特性およびフィルタの組み合わせを用いる。雲マップ検出部21は、雲画素に関する情報を含む雲マップを作成する。例えば、雲マップは、各画素が雲画素のセットに属する確率で構成される行列であり得るか、または、雲マップは、検出された雲画素には値「1」およびその他には値「0」を用いる2値行列であり得る。雲マップ検出部21は、雲マップを雲オブジェクト検出部22に送信する。
雲オブジェクト検出部22は、雲マップ検出部21から雲マップを受信し、マップ内で連結した画素を見出す。連結した画素のグループが、画像内でオブジェクトを形成する。雲マップ内の各オブジェクトは、入力画像内の雲に対応する。雲オブジェクト検出部22のプロセスの目的は、入力画像内の雲を個々のオブジェクトとして特定することである。
雲オブジェクト検出部22では、連結した画素を見出すために、画素の4近傍連結評価または8近傍連結評価を使用してもよい。画素連結性は、画素と近傍画素との関連性を示す。4近傍画素は、個々の画素における近傍画素であり領域境界に接触する画素を取り出す。これらの画素は、水平および垂直に連結される。8連結画素は、個々の画素における近傍画素であり領域の角や境界に接触する画素を取り出す。これらの画素は、水平、垂直、および対角線上に連結される。最も好ましい連結評価は、画素の8近傍連結評価である。
代替的に、雲オブジェクト検出部22は、各雲オブジェクトのシードを規定した後に領域拡張技法によって雲オブジェクトを見出すことができる。
雲オブジェクト検出部22は、見出した雲オブジェクトの各々にラベルを割り当てる。雲オブジェクト検出部22は、雲マップ内のすべての雲画素に、それらが属する雲オブジェクトのラベルをラベル付けする。雲オブジェクト検出部22はラベル付けされた雲オブジェクトマップを雲高度推定部25に送信する。
影マップ検出部23は、入力部10から入力画像を受信し、雲影によって被覆される画素を検出する。雲に起因して形成される影は、遮蔽雲と類似の空間特性、例えば、形状、テクスチャ、および変動を呈する。結果として、雲マップ検出部21について説明される特性およびフィルタが、影マップを検出するために同様に適用され得る。しかしながら、影領域におけるスペクトル応答は低い。
グレースケール強度画像において、影画素は暗く見える一方、雲画素は明るく見える。したがって、影マップ検出部23は、入力マルチスペクトル画像から得られたグレースケール強度画像の補数を算出する。この補数算出処理は、暗いオブジェクトを明るくし、明るいオブジェクトを暗くする。次いで、影マップ検出部23は、雲マップ検出部21と類似した処理を実施して、影の下の画素(以後、「影画素」と称される)を検出することができる。
影画素を検出した後、影マップ検出部23は、影画素に関する情報を含む影マップを作成する。例えば、影マップは、各画素が影画素のセットに属する確率で構成される行列であり得るか、または、影マップは、検出された影画素には値「1」およびその他には値「0」を用いる2値行列であり得る。影マップ検出部23は、影マップを影オブジェクト検出部24に送信する。
影オブジェクト検出部24は、影マップ検出部23から影マップを受信する。影オブジェクト検出部24の動作は、雲オブジェクト検出部22に類似する。双方が、マップを入力として受信し、入力内に連結したオブジェクトを見出す。影オブジェクト検出部24および雲オブジェクト検出部22の入力の差は、前者が影マップであり、後者が雲マップであることである。
影オブジェクト検出部24は、影マップ内のすべての影画素に、それらが属する影オブジェクトのラベルをラベル付けする。影オブジェクト検出部24は、ラベル付けされた影オブジェクトマップを雲高度推定部25に送信する。
雲高度推定部25は、雲オブジェクト検出部22から雲オブジェクトマップを、影マップ検出部23から影マップを、および影オブジェクト検出部24から影オブジェクトマップを受信する。雲高度推定部25は、上の入力に基づいて、すべての雲オブジェクトについて推定される高度を計算する。
雲高度推定部25は、影が、画像のある特定の方向に形成されること、および雲影が、遮蔽雲と類似の形状を有することに基づいて、雲−影の対を見出す。雲高度推定部25は、可能性のある雲高度の範囲の最小から最大まで単位ステップで雲高度を増分し、式(4)内の幾何モデルに基づいて影の推定位置を見出す。
雲高度推定部25は、雲オブジェクトを各推定位置へとシフトし、シフトされた雲オブジェクトと影マップとの重複を計算する。雲高度推定部25は、重複が最大である位置を、雲の一致した影の位置として選択する。雲高度推定部25は、一致した影が見出される高度を、その影の遮蔽雲の高度として判定する。
雲高度推定部25は、一致した影が属する影オブジェクトを見出し、その影オブジェクトの遮蔽雲の見出された高度を記憶する。雲高度推定部25は、一致した影オブジェクトマップを影オブジェクト拡大部26に送信する。
一致した影オブジェクトマップは、雲オブジェクトのうちのいずれか1つと一致していることが見出された影オブジェクトを有する。加えて、雲高度推定部25は、遮蔽雲オブジェクトの推定高度を影除去部18aに送信する。
影オブジェクト拡大部26は、雲高度推定部25から一致した影オブジェクトマップを受信する。影オブジェクト拡大部26は、マップ内の影オブジェクトの領域を、影領域境界を含むように空間的に拡大(増大)する。影オブジェクト拡大部26は、モルフォロジー膨張処理を用いることができる。
影除去部18aは、入力画像、影オブジェクト拡大部26から補正されるべき影オブジェクトマップ、雲高度推定部25から遮蔽雲の高度推定、減衰率推定部16から直接太陽放射の減衰率、および大気モデル化部17から大気パラメータを受信する。
影オブジェクト内の各画素について、影除去部18aは、式(4)内のhに対して遮蔽雲の(影オブジェクトの)推定高度を代入することによって、対応する雲画素を見出す。見出した雲画素の減衰率を使用して、影画素は、式(1)内のモデルなどの雲影形成の物理モデルに基づいて補正される。
他の部は、第1の実施形態例と同じである。
<<画像処理装置の動作>>
図12は、画像処理装置200の動作を描写するフローチャートを示す。
はじめに、ステップS201において、雲マップ検出部21は、入力部10から入力画像を受信し、雲マップを得るために入力画像内の雲(雲画素)によって影響を受けた画素を検出する。この動作は、後で詳細に説明される。
ステップS202において、雲オブジェクト検出部22は、画像内の個々の雲オブジェクトを得るために、8連結性の画素を使用して、連結した領域を雲マップ内の雲オブジェクトとして見出し、各雲画素に、それが属する雲オブジェクトのラベルでラベル付けする。単一のラベル付けされていない雲画素から開始して、雲オブジェクト検出部22は、画素の8連結の近傍を1つのオブジェクトへと含める。この包含プロセスは、オブジェクト内の画素のすべての8連結のラベル付けされていない近傍が同じオブジェクト内に含まれるまで継続する。包含プロセスの完了後、1つの雲オブジェクトが見出される。次いで、次のラベル付けされていない雲画素が、画像内の次の雲オブジェクトを規定し、このプロセスは、すべての雲画素がそれらの雲オブジェクトラベルを受信するまで継続する。
ステップS203において、影マップ検出部23は、影マップを得るために、入力画像内の雲影(影画素)によって被覆された画素を検出する。この動作は、後で詳細に説明される。
ステップS204において、影オブジェクト検出部24は、個々の影オブジェクトを得るために、影マップ内の影オブジェクトとして、連結した領域を見出す。ステップS204の動作は、ステップS202の動作と同じである。
ステップS205において、雲高度推定部25は、すべての雲オブジェクトの高度を見出し、それらの対応する影を位置特定する。この動作は、後で詳細に説明される。
ステップS206の動作は、図8内のステップS4の動作と同じである。ステップS207の動作は、図8内のステップS1の動作と同じである。ステップS208の動作は、図8内のステップS5の動作と同じである。ステップS209からS211は、すべての影オブジェクトについて実行される。
ステップS209において、影オブジェクト拡大部26は、グレースケールのモルフォロジー膨張処理によって影オブジェクトの領域境界を含むように空間的に影オブジェクトの領域を拡大(増大)する。モルフォロジー膨張処理は、入力画像内の明るい形状を拡大する。グレースケールのモルフォロジー膨張処理は、以下に示されるように規定される。
Figure 0006885509
式中、Iは、入力グレースケール強度画像であり、Hは、構造要素であり、(u,v)は、画像I内の画素座標であり、(i,j)は、構造要素H内の座標である。構造要素は、モルフォロジー膨張処理を実施するための所与の画像を調査するために使用される形状である。任意の好適な構造要素が使用され得る。本実施形態では、ディスク形状の構造要素が用いられる。
ステップS210およびS211は、影オブジェクト内のすべての画素について実行される。入力画像内に複数の影オブジェクトが存在する場合、ステップS210およびS211は、影オブジェクトの数だけ繰り返される。
ステップS210において、影画素について、影除去部18aは、対応する雲画素を位置特定する。より詳細には、影除去部18aは、その画素が属する影オブジェクトを確認する。影除去部18aは、対応する雲画素およびその減衰率を見出すために、影オブジェクトに対応する遮蔽雲について推定された高度を式(4)内のhとして代用する。
ステップS211において、影除去部18aは、影除去のために影オブジェクトの画素(影画素)を補正する。より詳細には、影除去部18aは、影画素を補正するために、減衰率tに対してステップS210で得られた減衰率h、および、式(1)内のステップS206で得られた他の大気パラメータを代入する。
画像処理装置200の動作はこれで終了である。
次に、上で述べたステップS201の動作が詳細に説明される。図13は、ステップS201における動作のフローチャートを示す。
ステップS2011の動作は、図10のステップS101の動作と同じである。
ステップS2012において、雲マップ検出部21は、暗いオブジェクトをより暗く、明るいオブジェクトをより明るくするようにコントラストストレッチング処理を実施する。コントラストストレッチングは、背景からの雲の区別を改善する。
ステップS2013〜S2015の動作は、それぞれ、図10内のステップS102〜S104の動作と同じである。
図12内のステップS201の動作はこれで終了である。
次に、上で述べた図12内のステップS203が詳細に説明される。図14は、ステップS203における動作のフローチャートを示す。
ステップS2031の動作は、図10内のステップS101の動作と同じである。
ステップS2032において、影マップ検出部23は、暗いオブジェクトを明るくし、明るいオブジェクトを暗くするようにグレースケール強度画像を補数計算する。例えば、画像内の強度レベルをその画像についての最大可能強度レベルから減算することにより、画像の補足を与えることができる。
ステップS2033〜S2035の動作は、それぞれ、図10内のステップS102〜S104の動作と同じである。
図12内のステップS203の動作はこれで終了である。
次に、上で述べた図12内のステップS205が詳細に説明される。図15は、ステップS205における動作のフローチャートを示す。雲の最小および最大範囲は、地球大気内に存在する雲の一般的な高度を考慮して事前に設定される。例えば、空中に、より低い雲は、約3kmから現われ、上層の雲は、最大で約15km上に現れる。
ステップS2051およびS2060は、すべての影オブジェクトについて実行される。
ステップS2051において、雲高度推定部25は、雲高度の範囲の最小までの雲高度(h)を暫定的な値として、および雲高度(h)によって決定される影オブジェクトと影マップとの最大重複率(max_overlap)を示す最大重複を0に設定する。max_overlapの値は、最大重複を見出すように反復の間ずっと繰り返し更新されている。反復の度に、現在の反復における重複が、現在のmax_overlap値よりも大きい場合、アルゴリズムは、max_overlapを現在の反復における重複値と置き換える。
ステップS2052において、雲高度推定部25は、雲高度(h)が、雲高度の範囲の最大以上であるかどうかを確認する。
雲高度(h)が雲高度の範囲の最大以上である場合、プロセスは、ステップS2058へと進み、そうでない場合は、プロセスは、ステップS2053へと進む。
ステップS2053において、雲オブジェクトについて、雲高度推定部25は、雲高度(h)の現在の値をhとして使用することにより式(4)内の幾何モデルに基づいて、影オブジェクトを位置特定する。位置特定された影オブジェクトと影マップとの重複の割合は、以下に示されるように計算される。
Figure 0006885509
式中、Pは、重複の割合であり、Nは、位置特定された影オブジェクトと影マップとで共通する画素の数であり、Nは、位置特定された影オブジェクト内の画素の総数(対応する雲オブジェクトと同じ)である。「h」の値が雲(雲オブジェクトに対応する)の実際の高度と一致する場合、位置特定された影オブジェクトの形状およびマップも、ほぼ完全に重複する。したがって、雲オブジェクトの高度を徐々に増大することによって、雲高度推定部25は、位置特定された影オブジェクトと影マップとが完全またはほぼ完全に重複する高度を、雲が実際に存在する高度として見出すことができる。
ステップS2055において、雲高度推定部25は、計算された重複の割合(P)がmax_overlap以上であるかどうかを確認する。
計算された重複の割合(P)がmax_overlapよりも大きい場合、max_overlapは、計算された重複の割合(P)によって置き換えられ、hの値は、ステップS2056において雲オブジェクトhの高度として保持される。
計算された重複の割合(P)がmax_overlapよりも小さい場合、雲高度推定部25は、ステップS2057においてhを、h=hプラス10メートルなど、単位ステップだけ増分し、ステップS2052に戻る。
ステップS2052において、雲高度(h)が雲高度の範囲の最大以上である場合、ステップS2058において、雲高度推定部25は、最後に記憶されたhを雲オブジェクトの高度として、hについての位置特定された影を一致した影として判定する。
ステップS2059において、雲高度推定部25は、多数決によって、一致した影が属する影オブジェクトを見出す。雲高度推定部25は、一致した影内の最大数の画素が属する影オブジェクトを選択する。
ステップS2060において、雲高度推定部25は、見出した影オブジェクトの高度hを遮蔽雲の高度として記憶する。
雲の高度を見出すための上に説明される手順は、雲高度の可能性のあるすべての値を確認することにより総当たり手法をとる。
雲高度推定部25の特定の動作および図12内のステップS205はここで終了である。
本発明に従う第2の実施形態例のプロセスにおいて上に説明されるステップの一部には代替案が存在し得る。
例えば、図12内のステップS201およびS203のプロセスにおいて、影マップ検出部23は、天空のスペクトル特性によって重みが決められる一方で、式(5)の代わりに重み付け平均処理によって、図13のステップS2011において入力マルチスペクトル画像からグレースケール強度画像を導出することができる。
図12内のステップS201のプロセスにおいて、図13内のステップS2012は、ステップS2013において量子化レベルを適切に調節することによってスキップされてもよい。
図12内のステップS203のプロセスにおいて、図14内のステップS2032は、ステップS2035においてプロセスを適切に調整することによってスキップされてもよい。画像の補足がステップS2032において行われない場合、影マップ検出部23は、均質なテクスチャを有する暗い画素を影画素として見出すことができる。
図12内のステップS205のプロセスにおいて、総当たり手法をとるのではなく、雲高度推定部25は、雲クラスおよびそれらの典型的な高度に関するドメイン知識による検索のために雲高度の最小値および最大値を設定することができる。さらに、特定の波長域が画像内に存在する場合、雲高度の初期値は、非特許文献3に説明される方法によって推定され得る。
<第2の実施形態の効果>
本発明に従う第2の実施形態の画像処理装置200は、入力画像内の雲影についての遮蔽雲の高度を入力画像自体から見出す。画像処理装置100は、雲記憶装置に記憶された雲クラスおよびその典型的な高度に基づいて遮蔽雲の高度を決定する。しかしながら、ドメイン知識は、雲クラスについての潜在的な高度の範囲を提供するだけであり、正確な高度は提供することができない。したがって、影を不正確に位置特定する可能性がある。
対照的に、第2の実施形態の画像処理装置200は、入力画像自体から遮蔽雲の高度を決定する。これは、影の正しい位置および雲と影との正しい相関を確実にする。したがって、検出および雲影の除去の精度は、さらに向上される。
<第3の実施形態例>
本発明に従う第3の実施形態の画像処理装置300は、第1および第2の実施形態例に従う画像処理装置の最小構成を含む。
図17は、本発明に従う第3の実施形態例の画像処理装置300の構成を示すブロック図である。1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理装置300は、雲透過率計算部31、雲高度推定部32、減衰率推定部33、および影除去部34を含む。
雲透過率計算部31は、各画素について、入力画像内の1つまたは複数の雲の透過率を計算する。
雲高度推定部32は、対応する1つまたは複数の影の位置を検出するために、各画素について入力画像における地面から各雲までの高度の推定値を決定する。
減衰率推定部33は、各画素について、計算された雲透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算する。
影除去部34は、計算された減衰率を用いることにより雲影形成の物理モデルに基づいて、1つまたは複数の影によって影響を受けた画素を補正し、補正された画素を含む画像を出力する。
本発明に従う第3の実施形態例の効果は、雲影に被覆された画素を正確に検出し、入力画像内の雲影の効果を除去することができる。この理由は、雲透過率計算部31が、各画素について、入力画像内の雲の透過率を計算し、減衰率推定部33が、雲透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算し、影除去部34が、減衰率を用いることにより雲影形成の物理モデルに基づいて画素を補正するなど、雲影除去に雲透過率を利用することである。
<情報処理装置の構成>
図18は、例として、本発明の実施形態例に関連する画像処理装置を実装することができる情報処理装置900(コンピュータ)の構成を例証する。言い換えると、図18は、図1、図11、および図17のデバイスを実装することができるコンピュータ(情報処理装置)の構成を例証しており、上記実施形態例における個々の機能が実装され得るハードウェア環境を表す。
図18に例証される情報処理装置900は、以下の構成要素を含む:
− CPU901(Central_Processing_Unit)、
− ROM902(Read_Only_Memory)、
− RAM903(Random_Access_Memory)、
− ハードディスク904(ストレージデバイス)、
− 外部デバイスへの通信インターフェース905;
− CD−ROM(Compact_Disc_Read_Only_Memory)などの記憶媒体907に記憶されたデータを読みこむことまたはそれに書き込むことができるリーダ/ライタ908、および
−入力/出力インターフェース909。
情報処理装置900は、これらの構成要素がバス906(通信線)を介して接続される汎用コンピュータである。
例として上記実施形態例を用いて説明される本発明は、図18に例証される情報処理装置900に、これらの実施形態例の説明において参照されるブロック図(図1、図11、および図17)またはフローチャート(図8〜図10および図12〜図15)に例証される機能を実行することができるコンピュータプログラムを搭載し、次いでコンピュータプログラムをそのようなハードウェア内のCPU901内に読み出し、それを解釈し、それを実行することによって達成される。装置に設けられたコンピュータプログラムは、揮発性の読み出し可能および書き込み可能な記憶装置(RAM903)、またはハードディスク904などの不揮発性のストレージデバイスに記憶され得る。
加えて、上に説明されるケースでは、そのようなハードウェアにコンピュータプログラムを提供するために基本手順がここでは使用され得る。これらの手順は、例えば、CD−ROMなどの様々な記憶媒体907のいずれかにより装置にコンピュータプログラムをインストールすること、またはそれをインターネットなどの通信線により外部ソースからダウンロードすることを含む。これらのケースでは、本発明は、そのようなコンピュータプログラムを形成するコードからなる、またはコードを記憶する記憶媒体907からなると捉えられ得る。
以上、実施形態を参照して本願発明を説明したが、本願発明は上記実施形態に限定されるものではない。本願発明の構成や詳細には、本願発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
<付記>
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理装置であって、
各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算するための雲透過率計算手段と、
対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定する雲高度推定手段と、
各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算するための減衰率推定手段と、
計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去するための影除去手段と
を備える、画像処理装置。
(付記2)
各雲クラスの高度を含む、雲クラスを分類するための雲情報を記憶するための雲データ記憶装置と、
前記雲データ記憶装置に記憶された前記雲情報に基づいて、雲によって影響を受けた前記各画素を雲クラスのうちの1つに分類するための雲分類手段と
をさらに備え、
前記雲高度推定手段が、前記雲データ記憶装置に記憶された前記雲クラスの各々に対応する前記高度を推定する、
付記1に記載の画像処理装置。
(付記3)
前記雲高度推定手段によって得られた前記各雲の高度を用いることにより幾何モデルに基づいて、前記入力画像内の雲画素に対応する前記入力画像上の影画素を検出するための影検出手段をさらに備える、
付記1または2に記載の画像処理装置。
(付記4)
各雲の空間およびスペクトル特性に基づいて、前記入力画像内の前記1つまたは複数の雲によって影響を受けた可能性のある画素を含む雲マップを検出するための雲マップ検出手段と、
前記雲マップ内の前記1つまたは複数の雲によって影響を受けた可能性のある前記画素に対応する1つまたは複数の雲オブジェクトを検出するための雲オブジェクト検出手段と
をさらに備える、付記1に記載の画像処理装置。
(付記5)
各影の空間およびスペクトル特性に基づいて、雲に対応する影によって被覆された画素を含む影マップを検出するための影マップ検出手段と、
推定された前記各雲の高度を用いることにより幾何モデルに基づいて、前記影マップ内の前記影によって被覆された前記画素に対応する影オブジェクトを検出するための影オブジェクト検出手段と
をさらに備える、付記1または4に記載の画像処理装置。
(付記6)
前記影オブジェクトの領域境界を含めるために構造要素を適用し影オブジェクトの領域を空間的に拡大する影オブジェクト拡大手段をさらに備える、
付記1、4および5のいずれか一項に記載の画像処理装置。
(付記7)
1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理方法であって、
各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算することと、
対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定することと、
各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算することと、
計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去することと
を含む方法。
(付記8)
雲データ記憶装置に記憶された、各雲クラスの高度を含む雲情報に基づいて、雲によって影響を受けた前記各画素を雲クラスのうちの1つに分類することをさらに含み、
高度を推定することにおいて、前記高度が、前記雲データ記憶装置に記憶された前記雲クラスの各々に対応する、
付記7に記載の方法。
(付記9)
前記雲高度推定手段によって得られた前記各雲の高度を用いることにより幾何モデルに基づいて、前記入力画像内の雲画素に対応する前記入力画像上の影画素を検出することをさらに含む、
付記7または8に記載の方法。
(付記10)
各雲の空間およびスペクトル特性に基づいて、前記入力画像内の前記1つまたは複数の雲によって影響を受けた可能性のある画素を含む雲マップを検出することと、
前記雲マップ内の前記1つまたは複数の雲によって影響を受けた可能性のある前記画素に対応する1つまたは複数の雲オブジェクトを検出することと
をさらに含む、付記7に記載の方法。
(付記11)
各影の空間およびスペクトル特性に基づいて、雲に対応する影によって被覆された画素を含む影マップを検出することと、
推定された前記各雲の高度を用いることにより幾何モデルに基づいて、前記影マップ内の前記影によって被覆された前記画素に対応する影オブジェクトを検出することと
をさらに含む、付記7または10に記載の方法。
(付記12)
前記影オブジェクトの領域境界を含めるために構造要素を適用し影オブジェクトの領域を空間的に拡大することをさらに含む、
付記7、10および11のいずれか一項に記載の方法。
(付記13)
1つまたは複数の雲によって引き起こされる影響をコンピュータに検出および補正させるための画像処理プログラムを記憶するコンピュータ可読記憶媒体であって、前記プログラムが、
各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算することと、
対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定することと、
各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算することと、
計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去することと、を含む
コンピュータ可読記憶媒体。
(付記14)
前記プログラムが、
雲データ記憶装置に記憶された、各雲クラスの高度を含む雲情報に基づいて、雲によって影響を受けた前記各画素を雲クラスのうちの1つに分類することをさらに含み、
高度を推定することにおいて、前記高度が、前記雲データ記憶装置に記憶された前記雲クラスの各々に対応する、
付記13に記載の記憶媒体。
(付記15)
前記プログラムが、
前記雲高度推定手段によって得られた前記各雲の高度を用いることにより幾何モデルに基づいて、前記入力画像内の雲画素に対応する前記入力画像上の影画素を検出することをさらに含む、
付記13または14に記載の記憶媒体。
(付記16)
前記プログラムが、
各雲の空間およびスペクトル特性に基づいて、前記入力画像内の前記1つまたは複数の雲によって影響を受けた可能性のある画素を含む雲マップを検出することと、
前記雲マップ内の前記1つまたは複数の雲によって影響を受けた可能性のある前記画素に対応する1つまたは複数の雲オブジェクトを検出することと
をさらに含む、付記13に記載の記憶媒体。
(付記17)
前記プログラムが、
各影の空間およびスペクトル特性に基づいて、雲に対応する影によって被覆された画素を含む影マップを検出することと、
推定された前記各雲の高度を用いることにより幾何モデルに基づいて、前記影マップ内の前記影によって被覆された前記画素に対応する影オブジェクトを検出することと
をさらに含む、付記13または16に記載の記憶媒体。
(付記18)
前記プログラムが、
前記影オブジェクトの領域境界を含めるために構造要素を適用し影オブジェクトの領域を空間的に拡大することをさらに含む、
付記13、16および17のいずれか一項に記載の記憶媒体。
本発明は、先進レベルの衛星画像処理動作前に、衛星による画像を観測することにおける環境効果を補償するための事前処理ツールとして適用され得る。
1 前処理部
2 整合フィルタ導出部
3 減衰率推定部
4 影除去部
5 出力部
10 入力部
11 雲データ記憶装置
12 雲透過率計算部
13 雲分類部
14 雲高度推定部
15 影検出部
16 減衰率推定部
17 大気モデル化部
18,18a 影除去部
19 出力部
21 雲マップ検出部
22 雲オブジェクト検出部
23 影マップ検出部
24 影オブジェクト検出部
25 雲高度推定部
26 影オブジェクト拡大部
31 雲透過率計算部
32 雲高度推定部
33 減衰率推定部
34 影除去部
100 画像処理装置
200 画像処理装置
300 画像処理装置
900 情報処理装置
901 CPU
902 ROM
903 RAM
904 ハードディスク
905 通信インターフェース
906 バス
907 記憶媒体
908 リーダ/ライタ
909 入力/出力インターフェース

Claims (8)

  1. 1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理装置であって、
    各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算するための雲透過率計算手段と、
    対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度の推定する雲高度推定手段と、
    各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算するための減衰率推定手段と、
    計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去するための影除去手段と
    を備える、画像処理装置。
  2. 各雲クラスの高度を含む、雲クラスを分類するための雲情報を記憶するための雲データ記憶装置と、
    前記雲データ記憶装置に記憶された前記雲情報に基づいて、雲によって影響を受けた前記各画素を雲クラスのうちの1つに分類するための雲分類手段と
    をさらに備え、
    前記雲高度推定手段が、前記雲データ記憶装置に記憶された前記雲クラスの各々に対応する前記高度を推定する、請求項1に記載の画像処理装置。
  3. 前記雲高度推定手段によって得られた前記各雲の高度を用いることにより幾何モデルに基づいて、前記入力画像内の雲画素に対応する前記入力画像上の影画素を検出するための影検出手段をさらに備える、請求項1または2に記載の画像処理装置。
  4. 各雲の空間およびスペクトル特性に基づいて、前記入力画像内の前記1つまたは複数の雲によって影響を受けた可能性のある画素を含む雲マップを検出するための雲マップ検出手段と、
    前記雲マップ内の前記1つまたは複数の雲によって影響を受けた可能性のある前記画素に対応する1つまたは複数の雲オブジェクトを検出するための雲オブジェクト検出手段と
    をさらに備える、請求項1に記載の画像処理装置。
  5. 各影の空間およびスペクトル特性に基づいて、雲に対応する影によって被覆された画素を含む影マップを検出するための影マップ検出手段と、
    推定された前記各雲の高度を用いることにより幾何モデルに基づいて、前記影マップ内の前記影によって被覆された前記画素に対応する影オブジェクトを検出するための影オブジェクト検出手段と
    をさらに備える、請求項1または4に記載の画像処理装置。
  6. 前記影オブジェクトの領域境界を含めるために構造要素を適用し影オブジェクトの領域を空間的に拡大する影オブジェクト拡大手段をさらに備える、請求項5に記載の画像処理装置。
  7. 1つまたは複数の雲によって引き起こされる影響の検出および補正のための画像処理方法であって、
    各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算することと、
    対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定することと、
    各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算することと、
    計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去することと
    を含む画像処理方法。
  8. 1つまたは複数の雲によって引き起こされる影響をコンピュータに検出および補正させるための画像処理プログラムあって
    各画素について、入力画像内の前記1つまたは複数の雲の透過率を計算することと、
    対応する1つまたは複数の影の位置を検出するために、前記各画素について前記入力画像における地面から各雲までの高度を推定することと、
    各画素について、計算された前記雲の透過率に平均化フィルタを適用することによって直接太陽放射の減衰率を計算することと、
    計算された前記減衰率および前記位置を用いることにより雲影形成の物理モデルに基づいて、前記1つまたは複数の影によって影響を受けた画素を補正し、補正された前記画素を含む画像を出力することによって、前記1つまたは複数の影を除去することと、を含む
    画像処理プログラム。
JP2020513656A 2017-09-08 2017-09-08 画像処理装置、画像処理方法及び画像処理プログラム Active JP6885509B2 (ja)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
PCT/JP2017/032530 WO2019049324A1 (en) 2017-09-08 2017-09-08 IMAGE PROCESSING DEVICE, IMAGE PROCESSING METHOD, AND STORAGE MEDIUM

Publications (2)

Publication Number Publication Date
JP2020532808A JP2020532808A (ja) 2020-11-12
JP6885509B2 true JP6885509B2 (ja) 2021-06-16

Family

ID=65634761

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2020513656A Active JP6885509B2 (ja) 2017-09-08 2017-09-08 画像処理装置、画像処理方法及び画像処理プログラム

Country Status (3)

Country Link
US (1) US11227367B2 (ja)
JP (1) JP6885509B2 (ja)
WO (1) WO2019049324A1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230078377A (ko) * 2021-11-26 2023-06-02 한국항공우주연구원 위성 영상 편집 방법, 위성 영상 편집 장치 및 상기 방법을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램

Families Citing this family (12)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
WO2020009826A1 (en) * 2018-07-05 2020-01-09 Kaarta, Inc. Methods and systems for auto-leveling of point clouds and 3d models
US10650498B2 (en) 2018-08-02 2020-05-12 Nec Corporation System, method, and non-transitory, computer-readable medium containing instructions for image processing
CN112889089B (zh) * 2018-10-19 2024-03-05 克莱米特有限责任公司 用于标识卫星影像中的云和云影的机器学习技术
CN113436115B (zh) * 2021-07-30 2023-09-19 西安热工研究院有限公司 一种基于深度无监督学习的图像阴影检测方法
CN113936009B (zh) * 2021-09-14 2023-11-21 国家卫星气象中心(国家空间天气监测预警中心) 一种气象卫星洪涝监测的云阴影去除方法、装置及设备
CN114066755B (zh) * 2021-11-11 2023-02-14 南京航空航天大学 一种基于全波段特征融合的遥感影像薄云去除方法及系统
CN114359232B (zh) * 2022-01-06 2024-02-02 中国人民解放军国防科技大学 一种基于上下文协方差矩阵的图像变化检测方法及装置
CN114563085B (zh) * 2022-02-28 2023-10-20 中国科学院空天信息创新研究院 基于临近空间浮空器平台的遥感卫星传递定标方法
CN115906477B (zh) * 2022-11-21 2026-03-20 杭州电子科技大学 一种基于云图的雷暴云实时模拟方法
CN115657013B (zh) * 2022-12-27 2023-04-07 成都远望探测技术有限公司 基于激光雷达和云雷达的冰云内冰晶粒子数浓度估算方法
CN117745583B (zh) * 2023-12-21 2025-12-12 中山大学 一种支持路况阴影祛除的公交安全预警方法及系统
CN119762696B (zh) * 2024-12-13 2025-07-08 山东庆莱信息科技有限公司 一种用于测绘制图的图像数据处理方法

Family Cites Families (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5612901A (en) * 1994-05-17 1997-03-18 Gallegos; Sonia C. Apparatus and method for cloud masking
JP2001143054A (ja) 1999-11-16 2001-05-25 Hitachi Ltd 衛星画像処理方法
JP3383845B2 (ja) 2000-10-12 2003-03-10 独立行政法人通信総合研究所 雲微物理量導出システム,雲微物理量導出処理方法およびそのプログラム記録媒体
EP1476850A1 (en) * 2002-01-22 2004-11-17 National University Of Singapore Method for producing cloud free, and cloud-shadow free, images
JP3981744B2 (ja) * 2003-11-21 2007-09-26 中部電力株式会社 画像補正方法及び画像補正装置
US7058511B2 (en) * 2003-11-24 2006-06-06 The Boeing Company Sub-visible cloud cover assessment: VNIR-SWIR
US8594375B1 (en) * 2010-05-20 2013-11-26 Digitalglobe, Inc. Advanced cloud cover assessment
US9230308B2 (en) * 2011-06-30 2016-01-05 Weyerhaeuser Nr Company Method and apparatus for removing artifacts from aerial images
US8509476B2 (en) * 2011-09-13 2013-08-13 The United States Of America, As Represented By The Secretary Of The Navy Automated system and method for optical cloud shadow detection over water
JP5856866B2 (ja) 2012-02-10 2016-02-10 株式会社日立製作所 太陽光発電量推定システム、装置及び方法
US20140083413A1 (en) * 2012-09-24 2014-03-27 Brightsource Industries (Israel) Ltd. Method and apparatus for mapping cloud shading on the ground in a large area
US9001311B2 (en) * 2013-03-15 2015-04-07 Digitalglobe, Inc. Using parallax in remote sensing to determine cloud feature height
US9449244B2 (en) * 2013-12-11 2016-09-20 Her Majesty The Queen In Right Of Canada, As Represented By The Minister Of National Defense Methods for in-scene atmospheric compensation by endmember matching
US20170031056A1 (en) * 2014-04-10 2017-02-02 Board Of Regents, The University Of Texas System Solar Energy Forecasting
US9721181B2 (en) 2015-12-07 2017-08-01 The Climate Corporation Cloud detection on remote sensing imagery

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR20230078377A (ko) * 2021-11-26 2023-06-02 한국항공우주연구원 위성 영상 편집 방법, 위성 영상 편집 장치 및 상기 방법을 실행시키기 위하여 기록매체에 저장된 컴퓨터 프로그램

Also Published As

Publication number Publication date
JP2020532808A (ja) 2020-11-12
WO2019049324A1 (en) 2019-03-14
US20200265562A1 (en) 2020-08-20
US11227367B2 (en) 2022-01-18

Similar Documents

Publication Publication Date Title
JP6885509B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
CN110100262B (zh) 用于从图像移除云的图像处理设备、方法和存储介质
CN109214439B (zh) 一种基于多特征融合的红外图像结冰河流检测方法
CN109146890B (zh) 基于滤波器的高光谱图像的异常目标检测方法
US7953280B2 (en) Anomalous change detection in imagery
EP2846306B1 (en) Image processing apparatus for removing haze contained in still image and method thereof
Satya et al. Stripe noise removal from remote sensing images
CN120707450B (zh) 一种复杂光场干扰环境下的精密金属件表面缺陷成像方法及系统
Kumar et al. Comparison of efficient techniques of hyper-spectral image preprocessing for mineralogy and vegetation studies
CN114820577A (zh) 一种多源卫星遥感影像产品的辐射质量检测方法及系统
JP6958743B2 (ja) 画像処理装置、画像処理方法及び画像処理プログラム
Cui et al. Multiscale Intensity Propagation to Remove Multiplicative Stripe Noise From Remote Sensing Images.
US10650498B2 (en) System, method, and non-transitory, computer-readable medium containing instructions for image processing
CN114792322A (zh) 一种检测山地国产高分辨率卫星影像云与云阴影的方法
CN111310771A (zh) 遥感影像的道路图像提取方法、装置、设备及存储介质
Rahimzadegan et al. Development of the iterative edge detection method applied on blurred satellite images: state of the art
CN103824260A (zh) 一种高分辨率遥感图像薄雾快速去除技术
Qi et al. Fast thermal infrared image restoration method based on on-orbit invariant modulation transfer function
CN118570615A (zh) 一种基于高分辨率sar影像的覆雪条件下结构面识别方法
CN110753951B (zh) 用于处理在大气中存在气溶胶和/或云的情况下获取的光学图像的方法
CN117522746A (zh) 一种遥感图像阴影去除方法、设备及存储介质
Somdatta et al. Pre-processing of hyperspectral data: a case study of Henry and Lothian Islands in Sunderban Region, West Bengal, India
Shrawankar et al. An algorithm for high-resolution satellite imagery pre-processing
Zhou et al. An Extended Cloud Shadow Detection Algorithm Supported by an A Priori Database
CN117315391B (zh) 一种物体分类模型训练方法、装置、设备及存储介质

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20200305

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20200305

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20210413

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20210426

R150 Certificate of patent or registration of utility model

Ref document number: 6885509

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150