JP7733754B2 - 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム - Google Patents

画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム

Info

Publication number
JP7733754B2
JP7733754B2 JP2024006308A JP2024006308A JP7733754B2 JP 7733754 B2 JP7733754 B2 JP 7733754B2 JP 2024006308 A JP2024006308 A JP 2024006308A JP 2024006308 A JP2024006308 A JP 2024006308A JP 7733754 B2 JP7733754 B2 JP 7733754B2
Authority
JP
Japan
Prior art keywords
image
super
resolution
target
image processing
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Active
Application number
JP2024006308A
Other languages
English (en)
Other versions
JP2025112168A (ja
Inventor
健一 中楯
昌一郎 松尾
喬史 亀山
耕司 山田
一之 二本柳
徳史 平田
秀樹 川井
次郎 牧
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujikura Ltd
Fibertech Co Ltd
Original Assignee
Fujikura Ltd
Fibertech Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujikura Ltd, Fibertech Co Ltd filed Critical Fujikura Ltd
Priority to JP2024006308A priority Critical patent/JP7733754B2/ja
Priority to PCT/JP2025/000697 priority patent/WO2025154680A1/ja
Publication of JP2025112168A publication Critical patent/JP2025112168A/ja
Application granted granted Critical
Publication of JP7733754B2 publication Critical patent/JP7733754B2/ja
Active legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/04Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor combined with photographic or television appliances
    • A61B1/045Control thereof

Landscapes

  • Health & Medical Sciences (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • Biomedical Technology (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Radiology & Medical Imaging (AREA)
  • Biophysics (AREA)
  • Engineering & Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Medical Informatics (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • General Health & Medical Sciences (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Endoscopes (AREA)

Description

本発明は、イメージガイドを用いて撮像した画像を処理する画像処理方法、画像処理装置、及び画像処理プログラムに関する。また、そのような画像処理装置を備えた内視鏡システムに関する。
一端が体内に挿入されたイメージガイドの他端を撮像することによって、体内の対象物を被写体として含む画像を得る内視鏡システムが広く用いられている。例えば、特許文献1には、イメージガイドの細径化及び柔軟化によって、細径血管内膜への損傷の危険性を改善した血管内視鏡システムが開示されている。
特開平8-191439号公報
イメージガイドを用いた内視鏡システムでは、イメージガイドのコア密度によって解像度が決まる。例えば、コア間距離の100倍程度のサイズの構造は、イメージガイドの端面に形成される像から視認することができるが、コア間距離の10倍程度のサイズの構造は、イメージガイドの端面に形成される像から視認することが困難になり、コア間距離と同程度のサイズの構造は、イメージガイドの端面に形成される像から視認することができない。
特許文献1に記載の血管内視鏡システムにおいては、イメージガイドの各コアの伝送特性の違いに起因する画素毎の明度及び色調の違いを補正することによって、得られる画像の画質を向上させている。しかしながら、このような補正では、イメージガイドのコア密度によって決まる解像度を超えることはできない。
本発明の一態様は、上記の課題に鑑みてなされたものであり、得られる画像の解像度又は視認性を向上した画像処理技術を提供することにある。
本発明の一態様に係る画像処理方法は、複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を単純平均又は加重平均することによって、超解像画像を生成する超解像処理と、を含む。
本発明の一態様に係る画像処理装置は、少なくとも1つのプロセッサを備えた画像処理装置であって、前記プロセッサは、複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を平均又は加重平均することによって、超解像画像を生成する超解像処理と、を実行する。
本発明の一態様に係る画像処理プログラムは、少なくとも1つのプロセッサを動作させるための画像処理プログラムであって、前記プロセッサに、複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を平均又は加重平均することによって、超解像画像を生成する超解像処理と、を実行させる。
本発明の一態様によれば、得られる画像の解像度又は視認性を向上することができる。
本発明の一実施形態に係る内視鏡システムの構成を示す模式図である。 図1に示す内視鏡システムに含まれる画像処理装置の構成を示すブロック図である。 本発明の一実施形態に係る画像処理方法の流れを示すフロー図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において観察の対象となる対象物を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において白色標準板撮像処理により得られる網目画像を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において対象物撮像処理により得られる第1の対象画像を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において対象物撮像処理により得られる第2の対象画像を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において対象物撮像処理により得られる第3の対象画像を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において対象物撮像処理により得られる第4の対象画像を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において超解像処理(単純平均)により得られる超解像画像を示す図である。 図3に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例においてマスク処理により得られる出力画像を示す図である。 図3に示す画像処理方法の一変形例に係る画像処理方法の流れを示すフロー図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において透明化処理により得られる第1の対象画像を示す図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において透明化処理により得られる第2の対象画像を示す図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において透明化処理により得られる第3の対象画像を示す図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において透明化処理により得られる第4の対象画像を示す図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例において超解像処理(加重平均)により得られる超解像画像を示す図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例においてマスク処理により得られる出力画像を示す図である。 図12に示す画像処理方法の一実行例を示す図である。具体的には、当該実行例においてコア描画処理により得られる超解像画像の一部を示す拡大図である。(a)は、不透明度について再設定を行わなかった場合、(b)は、不透明度について、コア領域の中心からの距離が予め定められた閾値以下である各画素の不透明度を、その距離が大きくなるにつれて線形に小さくなるように再設定した場合、(c)は、コア領域の中心からの距離が予め定められた閾値以下である各画素の不透明度を、その距離が大きくなるにつれてガウス分布に従って小さくなるように再設定した場合に対応する。
(内視鏡システムの構成)
本発明の一実施形態に係る内視鏡システム1について、図1を参照して説明する。図1において、(a)は、内視鏡システム1の構成を示す模式図であり、(b)は、ライトガイドプラグ部13aにおけるライトガイド13pの構造を示す平面図及び断面図であり、(c)は、イメージガイドプラグ部13cにおけるイメージガイド13qの構造を示す平面図及び断面図であり、(d)は、挿入部13gにおけるライトガイド13p及びイメージガイド13qの構造を示す平面図及び断面図である。
内視鏡システム1は、観察対象となる対象物OのイメージをディススプレイDに表示するためのシステムである。内視鏡システム1は、図1の(a)に示すように、画像処理装置10と、光源装置11と、カメラ装置12と、内視鏡プローブ13と、を備えている。
光源装置11は、図1の(a)に示すように、光源11aと、集光レンズ11bと、を備えている。光源11aは、集光レンズ11bの光軸上に配置されている。光源11aとしては、例えば、LED(Light Emitting Diode)、キセノンランプ、ハロゲンランプなどが用いられる。
カメラ装置12は、図1の(a)に示すように、イメージセンサ12aと、対物レンズ12bと、信号処理回路12cと、を備えている。イメージセンサ12aは、対物レンズ12bの光軸上に配置されている。信号処理回路12cは、イメージセンサ12aと電気的に接続されている。イメージセンサ12aとしては、例えば、CMOS(Complementary Metal Oxide Semiconductor)センサ、CCD(Charge Coupled Device)センサなどが用いられる。
内視鏡プローブ13は、図1の(a)に示すように、(1)光源装置11に機械的に接続されるライトガイドプラグ部13aと、(2)一端がライトガイドプラグ部13aに接続されたライトガイドリード部13bと、(3)カメラ装置12に機械的に接続されるイメージガイドプラグ部13cと、(4)一端がイメージガイドプラグ部13cに接続されたイメージガイドリード部13dと、(5)一端がライトガイドリード部13b及びイメージガイドリード部13dの他端に接続された分岐部13eと、(6)一端が分岐部13eの他端に接続された中間部13fと、(7)一端が中間部13fの他端に接続された挿入部13gと、を備えている。なお、内視鏡プローブ13は、更に、通水用管腔、作業用管腔、挿入部湾曲機構、及び湾曲操作部(何れも不図示)を備えていてもよい。
図1の(b)及び(d)に示すように、ライトガイドプラグ部13a、ライトガイドリード部13b、分岐部13e、中間部13f、及び挿入部13gの内部には、光源装置11で生じた照明光を導波する導波路として機能する1本もしくは複数本のライトガイド13pが設けられている。それぞれのライトガイド13pは、クラッドに埋設されている。ライトガイドプラグ部13a及びライトガイドリード部13bに内包されるライトガイド13pは、分岐部13eにおいて後述するイメージガイド13qと束ねられ、このイメージガイド13qと共に中間部13f及び挿入部13gに内包される。
また、図1の(c)及び(d)に示すように、イメージガイドプラグ部13c、イメージガイドリード部13d、分岐部13e、中間部13f、及び挿入部13gの内部には、対象物Oで生じた散乱光を導波する導波路であるイメージガイド13qが設けられている。イメージガイド13qは、クラッドと、そのクラッドの内部に規則的に又はランダムに配置された複数のコア(例えば、数千個から数万個のコア)により構成される。イメージガイドプラグ部13c及びイメージガイドリード部13dに内包されるイメージガイド13qは、分岐部13eにおいて前述したライトガイド13pと束ねられ、このライトガイド13pと共に中間部13f及び挿入部13gに内包される。
イメージガイド13qとしては、例えば、イメージガイドファイバ、イメージファイバ、ファイババンドル、ファイバコンジット等を用いることができる。イメージガイド13qの素材は、石英系、多成分ガラス系、プラスチック系のいずれであってもよい。また、イメージガイド13qのコア数及びコア配置も特に限定されない。一例として、3000個のコアを六方最密格子の格子点上に配置したイメージガイドファイバを、イメージガイド13qとして用いることができる。ただし、イメージガイド13qの解像度は、イメージセンサ12aの解像度よりも低い、すなわち、イメージガイド13qのコア数は、イメージセンサ12aのセル数よりも少ない。
また、図1の(d)に示すように、挿入部13gの先端には、対物レンズ13rが設けられている。対物レンズ13rの一端は、挿入部13gの端面を構成し、対物レンズ部13sの他端は、イメージガイド13qの一端と対向している。対物レンズ13rとしては、例えば、GRINレンズや複数枚レンズからなるレンズユニットを用いることができる。
内視鏡システム1は、例えば、次のように動作する。すなわち、挿入部13gを患者の体内に挿入した状態で光源11aから照明光が出射される。光源11aから出射した照明光は、集光レンズ11bによりライトガイド13pのライトガイドプラグ部13a側の端面に集光される。ライトガイド13pのライトガイドプラグ部13a側の端面においてライトガイド13pのコアに入射した照明光は、ライトガイド13pのコアを導波され、ライトガイド13pの挿入部13g側の端面においてライトガイド13pのコアから出射する。ライトガイド13pの挿入部13g側の端面においてライトガイド13pのコアから出射した照明光は、患者の体内において対象物Oに照射される。
患者の体内において照明光を散乱することにより対象物Oの各点で生じた散乱光は、対物レンズ13rによりイメージガイド13qの挿入部13g側の端面の各点に集光される。これにより、イメージガイド13qの挿入部13g側の端面に対象物Oの像が形成される。対物レンズ13rによりイメージガイド13qの挿入部13g側の端面においてイメージガイド13qのコアに入射した散乱光は、イメージガイド13qのコアを導波され、イメージガイド13qのイメージガイドプラグ部13c側の端面においてイメージガイド13qのコアから出射する。これにより、イメージガイド13qのイメージガイドプラグ部13c側の端面にも、イメージガイド13qの挿入部13g側の端面と同様、対象物Oの像が形成される。
イメージガイド13qのイメージガイドプラグ部13c側の端面においてイメージガイド13qの各コアから出射した光(対象物Oの各点で生じた散乱光に由来する光)は、対物レンズ12bによりイメージセンサ12aの受光面の各点に集光される。これにより、イメージセンサ12aの受光面に対象物Oの像が形成される。イメージセンサ12aは、対象物Oの像を表す電気信号を生成し、生成した電気信号を信号処理回路12cに入力する。信号処理回路12cは、イメージセンサ12aから入力された電気信号から、対象物Oの像を表す対象画像を生成する。
カメラ装置12は、生成した対象画像を画像処理装置10に入力する。画像処理装置10は、後述する画像処理方法S100に従って、カメラ装置12から入力された対象画像からディスプレイDに表示する出力画像を生成する。なお、画像処理装置10が担う機能は、カメラ装置12が担ってもよい。すなわち、後述する画像処理方法S100を、画像処理装置10が実施する構成の代わりに、カメラ装置12が実施する構成を採用してもよい。この場合、内視鏡システム1から画像処理装置10を省略することができる。
なお、本明細書において、「画像」とは、画素値の2次元配列のことを指す。モノクロ画像の画素値は、例えば、輝度に対応する1つの数値からなる。D階調のモノクロ画像において、輝度は、0以上D-1以下の整数値を取る。カラー画像における画素値は、例えば、RGBに対応する3つの数値からなる。ここで、Rは、赤成分を表し、Gは、緑成分を表し、Bは、青成分を表す。D階調のカラー画像において、赤成分、緑成分、及び青成分は、それぞれ、0以上D-1以下の整数値を取る。透過カラー画像における画素値は、例えば、RGBAに対応する4つの数値からなる。ここで、Aは、不透明度を表す。D階調の透過カラー画像の場合、赤成分、緑成分、青成分、及び不透明度は、それぞれ、0以上D-1以下の整数値を取る。
画像における画素は、座標(x,y)により識別される。画像のサイズが横W画素×縦H画素である場合、xは、0以上W-1以下の整数であり、yは、0以上H-1以下の整数である。座標が(x,y)である画素を、以下、画素(x,y)とも記載する。例えば、画素(0,0)は、画像の左上隅の画素であり、画素(1,0)は、画素(0,0)の右隣の画素であり、画素(0,1)は、画素(0,0)の下隣の画素である。モノクロ画像の画素(x,y)の画素値(輝度値)をA(x,y)と記載する。また、カラー画像の画素(x,y)の画素値について、その赤成分をR(x,y)、その緑成分をG(x,y)、その青成分をB(x,y)と記載する。同様に、不透明度付きカラー画像の画素(x,y)の画素値について、その赤成分をR(x,y)、その緑成分をG(x,y)、その青成分をB(x,y)、その不透明度をA(x,y)と記載する。
画像を保存するためのファイルフォーマットは、特に限定されない。例えば、PNG、JPEG、GIFなどのファイルフォーマットを用いれば、モノクロ画像又はカラー画像を保存することが可能である。また、透過PNGなどのファイルフォーマットを用いれば、透過カラー画像を保存することが可能である。
(画像処理装置の構成)
画像処理装置10の構成について、図2を参照して説明する。図2は、画像処理装置10の構成を示すブロック図である。
画像処理装置10は、図2に示すように、プロセッサ101と、メモリ102と、ストレージ103と、入出力インタフェース104と、バス105と、を備えている。プロセッサ101、メモリ102、ストレージ103、及び入出力インタフェース104は、バス105を介して互いに接続されている。
メモリ102は、後述する画像処理方法S100を実施するための画像処理プログラムP100をプロセッサ101が参照可能な状態に展開して記憶するための構成である。また、メモリ102は、カメラ装置12から取得した各種画像を記憶するためにも利用される。なお、メモリ102としては、例えば、半導体RAM(Random Access Memory)等を用いることができる。
プロセッサ101は、メモリ102に展開された画像処理プログラムP100に従って、後述する画像処理方法S100を実施するための構成である。プロセッサ101としては、例えば、CPU(Central Processing Unit)、GPU(Graphic Processing Unit)、又はこれらの組み合わせ等を用いることができる。
ストレージ103は、画像処理プログラムP100を格納(不揮発保存)するための構成である。プロセッサ101は、後述する画像処理方法S100を実施する際に、ストレージ103に格納された画像処理プログラムP100をメモリ102上に展開して参照する。なお、ストレージ103としては、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、又は、これらの組み合わせ等を用いることができる。
入出力インタフェース104は、カメラ装置12及びディスプレイDを、それぞれ、画像処理装置10に接続するための構成である。なお、入出力インタフェース104としては、例えば、USB(Universal Serial Bus)インタフェース等を用いることができる。
なお、ここでは、後述する画像処理方法S100を単一のコンピュータ(画像処理装置10として機能するコンピュータ)に設けられた単一のプロセッサ101が実行する構成について説明したが、これに限定されない。すなわち、後述する画像処理方法S100を単一のコンピュータに集中して設けられた、或いは、複数のコンピュータに分散して設けられた複数のプロセッサが共同して実行する構成を採用することも可能である。
なお、画像処理プログラムP100は、コンピュータ読み取り可能な一時的でない有形の記録媒体に記録され得る。この記録媒体は、メモリ102であってもよいし、ストレージ103であってもよいし、その他の記録媒体であってもよい。例えば、テープ、ディスク、カード、半導体メモリ、プログラマブル論理回路等が、その他の記録媒体として利用可能である。
(画像処理方法の流れ) 本発明の一実施形態に係る画像処理方法S100の流れについて、図3を参照して説明する。図3は、画像処理方法S100の流れを示すフロー図である。
画像処理方法S100は、図3に示すように、白色標準板撮像処理S101と、ホワイトバランス調整処理S102と、対象物撮像処理S103と、対象画像取得処理S104と、超解像処理S105と、マスク処理S106と、画像表示処理S107と、を含んでいる。ここで、白色標準板撮像処理S101、ホワイトバランス調整処理S102、及び対象物撮像処理S103は、カメラ装置12を主体として実施される処理である。一方、対象画像取得処理S104、超解像処理S105、マスク処理S106、及び画像表示処理S107は、画像処理装置10を主体として実施される処理である。
白色標準板撮像処理S101は、ユーザが、内視鏡プローブ13の対物レンズ13rを白色標準板に対向させ、カメラ装置12が、イメージガイド13qのイメージガイドプラグ部13c側の端面を撮像する処理である。ホワイトバランス調整処理S102は、カメラ装置12が、白色標準板撮像処理S101にて撮像された画像を参照してホワイトバランスを調整する処理である。白色標準板撮像処理S101にて撮像され、ホワイトバランス調整処理S102にて参照される画像は、イメージガイド13qのコアに対応する領域が明るく、その他の領域が暗いカラー画像である。この画像のことを、以下、網目画像I0と記載する。なお、白色標準板撮像処理S101にて得られる網目画像I0の具体例については、参照する図面を代えて後述する。
対象物撮像処理S103は、ユーザが、内視鏡プローブ13の対物レンズ13rを対象物Oに対向させ、カメラ装置12が、イメージガイド13qのイメージガイドプラグ部13c側の端面を撮像する処理である。対象画像取得処理S104は、画像処理装置10が、対象物撮像処理S103にて撮像された画像を、カメラ装置12から取得し、メモリ102に記憶させる処理である。対象物撮像処理S103及び対象画像取得処理S104は、n回(nは予め定めらた自然数)繰り返される。対象物撮像処理S103にて撮像され、対象画像取得処理S104にて取得される画像は、イメージガイド13qのイメージガイドプラグ部13c側の端面に形成された対象物Oの像を表すカラー画像である。これらの画像のことを、以下、対象画像I1,I2,…,Inと記載する。なお、対象物撮像処理S103にて得られる対象画像I1,I2,…,Inの具体例については、参照する図面を代えて後述する。
超解像処理S105は、対象画像I1,I2,…,Inにおいて対象物Oの同一の点に対応する画素の画素値を平均することによって、超解像画像Iを生成する処理である。本実施形態において、超解像処理S105は、位置合わせ処理S105aと、平均処理S105bと、により構成される。
位置合わせ処理S105aは、画像処理装置10が、最後に取得した対象画像In以外の各対象画像Ii(iは1以上n-1以下の各自然数)について、(1)対象画像Inに対する対象画像Iiの位置ずれベクトルviを算出し、(2)対象画像Iiの各画素の画素値を位置ずれベクトルvi分だけシフトする処理である。位置ずれベクトルviの算出方法としては、例えば、対象画像Ii,Inの特徴量を利用する公知の方法を利用することができる。対象画像Iiに対する位置合わせ処理S105aにて得られる画像は、イメージガイド13qのイメージガイドプラグ部13c側の端面に形成された対象物Oの像を表すカラー画像である。この画像のことを、以下、対象画像Ii’と記載する。
対象画像Iiの画素(xi,yi)と対象画像Inの画素(xn,yn)とが被写体の同一の点に対応する場合、位置ずれベクトルvi=(vix,viy)は、例えば、以下の式により与えられる。
vix=xi-xn、
viy=yi-yn。
また、対象画像Iiの画素(x,y)における画素値が{Ri(x,y),Gi(x,y),Bi(x,y)}により与えられる場合、対象画像Ii’の画素(x,y)における画素値{Ri’(x,y),Gi’(x,y),Bi’(x,y)}は、例えば、以下の式により与えられる。
0≦x+vix≦W、且つ0≦y+viy≦Hである場合:
Ri’(x,y)=Ri(x+vix,y+viy)、
Gi’(x,y)=Gi(x+vix,y+viy)、
Bi’(x,y)=Bi(x+vix,y+viy)、
x+vix<0,W<x+vix,y+viy<0、又はH<y+viyである場合:
Ri’(x,y)=0、
Gi’(x,y)=0、
Bi’(x,y)=0。
なお、最後に取得した対象画像Inについては、位置合わせ処理S105aを行わないが、以下では説明の便宜上、対象画像Inを対象画像In’とも記載する。つまり、対象画像In’の画素(x,y)における画素値{Rn’(x,y),Gn’(x,y),Bn’(x,y)}は、対象画像Inの画素(x,y)における画素値{Rn(x,y),Gn(x,y),Bn(x,y)}と同一である。位置合わせ処理S105aにて得られる対象画像I1’,I2’,…,In’の具体例については、参照する図面を代えて後述する。
なお、ここでは、最後に取得した対象画像Inを基準画像として、基準画像以外の各対象画像Iiの画素値をシフトする構成について説明したが、これに限定されない。すなわち、最後に取得した対象画像In以外の対象画像Ip(pは1以上n-1以下の予め定められた自然数)を基準画像として、基準画像以外の各対象画像Iq(qはpとは異なる1以上n以下の各自然数)の画素値をシフトする構成を採用してもよい。
平均処理S105bは、画像処理装置10が、各画素(x,y)について、各対象画像Ij’(jは1以上n以下の各自然数)の画素値{Rj’(x,y),Gj’(x,y),Bj’(x,y)}を成分毎に単純平均する処理である。平均処理S105bにて得られる画像は、イメージガイド13qのイメージガイドプラグ部13c側の端面に形成された対象物Oの像を表すカラー画像である。この画像のことを、以下、超解像画像Iと記載する。超解像画像Iの画素(x,y)における画素値{R(x,y),G(x,y),B(x,y)}は、例えば、以下の式により与えられる。超解像処理S105にて生成される超解像画像Iの具体例については、参照する図面を代えて後述する。
R(x,y)={R1’(x,y)+R2’(x,y)+…+Rn’(x,y)}/n、
G(x,y)={G1’(x,y)+G2’(x,y)+…+Gn’(x,y)}/n、
B(x,y)={B1’(x,y)+B2’(x,y)+…+Bn’(x,y)}/n。
マスク処理S106は、画像処理装置10が、超解像画像Iにおいて視野円外の領域をマスクすることによって、出力画像I’を生成する処理である。ここで、視野円外の領域をマスクするとは、例えば、超解像画像Iにおいて視野円外に位置する画素(x,y)の画素値{R(x,y),G(x,y),B(x,y)}を、R(x,y)=0、G(x,y)=0,B(x,y)=0に設定することを指す。マスク処理S106にて生成される出力画像I’の具体例については、参照する図面を代えて後述する。
画像表示処理S107は、画像処理装置10が、出力画像I’をディスプレイDに表示する処理である。これにより、画像処理方法S100の一連の処理が完了する。
なお、ここでは、対象物Oの静止画像をディスプレイDに表示するための画像処理方法S100について説明したが、この方法を利用して対象物Oの動画像をディスプレイDに表示するようにしてもよい。この場合、カメラ装置12は、フレームレートに応じた周期で対象物撮像処理S103を繰り返し実行し、画像処理装置10は、それまでにカメラ装置12が撮像した対象画像のうち、最新のn枚の対象画像に対して超解像処理S105、マスク処理S106、及び画像表示処理S107を実行する。これにより、対象物Oの動画像をディスプレイDに表示することができる。
なお、超解像処理S105の前処理として、対象画像I1,I2,…,Inのそれぞれに対してアフィン変換などの変形補正を行ってもよい。撮像時のアオリ角の差異によって対象画像I1,I2,…,Inに含まれるコアの像の位置及び形に差異が生じている場合には、この差異を変形補正によって事前に解消することで、より視認性の高い超解像画像Iが得られる。また、超解像処理S105の前処理として、対象画像I1,I2,…,Inのそれぞれに対して特開2021-177604号(特許7189173号)に記載の色ムラ補正及び輝度ムラ補正を行ってもよい。対象画像I1,I2,…,Inに含まれるコアの像毎の色ムラ及び輝度ムラが生じている場合には、これらを色ムラ補正及び輝度ムラ補正により事前に解消することで、より視認性の高い超解像画像Iが得られる。
(画像処理方法の実行例)
画像処理方法S100の実行例について、図4~図11を参照して説明する。本具体例においては、簡単のために対象画像I1,I2,…,Inの枚数nを4とする。
図4は、本実行例においてサンプルとして用いる対象物Oの平面図である。本実行例においてサンプルとして用いる対象物Oは、AからZまでのアルファベットと、0から9までの数字とが印字された白色標準板である。
図5は、白色標準板撮像処理S101にて得られる網目画像I0を例示した図である。上述したように、網目画像I0は、イメージガイド13qのコアに対応する領域が明るく、その他の領域が暗い画像になる。
図6は、対象物撮像処理S103にて得られる対象画像I1、及び、位置合わせ処理S105aにて得られる対象画像I1’を例示した図である。対象画像I1に被写体として含まれる文字及びアルファベットの位置は、基準画像として用いられる対象画像I4に被写体として含まれる文字及びアルファベットの位置よりも、右下に寄っている。したがって、位置ずれベクトルv1は、図6に白色矢印で示すように、右下を向く。対象画像I1の各画素の画素値を位置ずれベクトルv1分だけシフトすることで得られる対象画像I1’に被写体として含まれる文字及びアルファベットの位置は、基準画像として用いられる対象画像I4に被写体として含まれる文字及びアルファベットの位置と一致又は略一致する。
図7は、対象物撮像処理S103にて得られる対象画像I2、及び、位置合わせ処理S105aにて得られる対象画像I2’を例示した図である。対象画像I2に被写体として含まれる文字及びアルファベットの位置は、基準画像として用いられる対象画像I4に被写体として含まれる文字及びアルファベットの位置よりも、左に寄っている。したがって、位置ずれベクトルv2は、図7に白色矢印で示すように、左を向く。対象画像I2の各画素の画素値を位置ずれベクトルv2分だけシフトすることで得られる対象画像I2’に被写体として含まれる文字及びアルファベットの位置は、基準画像として用いられる対象画像I4に被写体として含まれる文字及びアルファベットの位置と一致又は略一致する。
図8は、対象物撮像処理S103にて得られる対象画像I3、及び、位置合わせ処理S105aにて得られる対象画像I3’を例示した図である。対象画像I3に被写体として含まれる文字及びアルファベットの位置は、基準画像として用いられる対象画像I4に被写体として含まれる文字及びアルファベットの位置よりも、右上に寄っている。したがって、位置ずれベクトルv3は、図8に白色矢印で示すように、右上を向く。対象画像I3の各画素の画素値を位置ずれベクトルv3分だけシフトすることで得られる対象画像I3’に被写体として含まれる文字及びアルファベットの位置は、基準画像として用いられる対象画像I4に被写体として含まれる文字及びアルファベットの位置と一致又は略一致する。
図9は、対象物撮像処理S103にて得られる対象画像I4を例示した図である。対象画像I4は、位置合わせ処理S105aにおける基準画像として用いられるため、対象画像I4に対する位置合わせ処理S105aは実行されない。
図10は、超解像処理S105にて得られる超解像画像Iを例示した図である。対象画像I1~I4においては、被写体として含まれるアルファベット及び文字の判読が困難である。これに対して、超解像画像Iにおいては、被写体として含まれるアルファベット及び文字の判読が容易である。すなわち、超解像処理S105を実行することによって、対象画像I1~I4よりも視認性の高い超解像画像Iが得られることが確かめられた。
図11は、マスク処理S106にて得られる出力画像I’を例示した図である。超解像画像Iにおいては、被写体として含まれるイメージガイド13qの端面の境界にジャギー(イメージガイド13qが複数のコアにより構成されることに起因して生じるギザギザ)を視認することができる。一方、出力画像I’においては、被写体として含まれるイメージガイド13qの端面の境界にジャギーを視認することができない。すなわち、マスク処理S106を実行することによって、超解像画像Iよりもジャギーの少ない出力画像I’が得られることが確かめられた。
(画像処理方法の変形例)
画像処理方法S100の一変形例について、図12を参照して説明する。図12は、本変形例に係る画像処理方法S100’の流れを示すフロー図である。
本変形例に係る画像処理方法S100’は、(1)上述した画像処理方法S100に白色標準板撮像処理S110、網目画像取得処理S111、及び透明化処理S112を追加すると共に、(2)上述した超解像処理S105に含まれる単純平均を取る平均処理S105bを、加重平均を取る平均処理S105cに置き換えたものである。
白色標準板撮像処理S110及び網目画像取得処理S111は、上述したホワイトバランス調整処理S102と対象物撮像処理S103との間で実行される処理である。
白色標準板撮像処理S110は、ユーザが、内視鏡プローブ13の対物レンズ13rを白色標準板に対向させ、カメラ装置12が、イメージガイド13qのイメージガイドプラグ部13c側の端面を撮像する処理である。網目画像取得処理S111は、画像処理装置10が、白色標準板撮像処理S110にて撮像された画像を、カメラ装置12から取得し、メモリ102に記憶させる処理である。白色標準板撮像処理S101にて撮像され、網目画像取得処理S111にて取得される画像は、イメージガイド13qのコアに対応する領域が明るく、その他の領域が暗いカラー画像である。画像処理装置10は、このカラー画像をグレースケール化して利用する。このカラー画像をグレースケール化することにより得られたモノクロ画像のことを、以下、網目画像I0’と記載する。なお、上述した網目画像I0との違いは、網目画像I0が、ホワイトバランス調整前に撮像されたカラー画像であるのに対して、網目画像I0’は、ホワイトバランス調整後に撮像されたカラー画像をグレースケール化することに得られたモノクロ画像である点である。
透明化処理S112及びコア描画処理S113は、上述した対象画像取得処理S104と超解像処理S105との間で実行される、超解像処理S105の前処理である。
透明化処理S112は、画像処理装置10が、各対象画像Ij(jは1以上n以下の各自然数)について、白色標準板撮像処理S110にて撮像された網目画像I0’を参照し、対象画像Ijにおいてイメージガイド13qのコアに対応する領域以外の領域(すなわち、網目画像I0’において網目及び背景に相当する領域)を透明化又は半透明化する処理である。透明化処理S112により生成される画像は、イメージガイド13qのコアに対応する領域で不透明度が高く、その他の領域で不透明度が低い不透明度付きカラー画像である。この画像のことを、以下、「透明対象画像Ij」と記載する。透明対象画像Ijの画素(x,y)における画素値は、例えば、対象画像Ijの画素(x,y)における画素値{Rj(x,y),Gj(x,y),Bj(x,y)}に、網目画像I0’の画素(x,y)における画素値A(x,y)を不透明成分として追加したものである。すなわち、透明対象画像Ijの画素(x,y)における画素値は、{Rj(x,y),Gj(x,y),Bj(x,y),A(x,y)}である。
超解像処理S105の位置合わせ処理S105aにおいて、画像処理装置10は、透明対象画像In以外の各透明対象画像Ii(iは1以上n-1以下の各自然数)について、(1)透明対象画像Inに対する透明対象画像Iiの位置ずれベクトルviを算出し、(2)透明対象画像Iiの各画素の画素値を位置ずれベクトルvi分だけシフトする。透明対象画像Iiに対する位置合わせ処理S105aにて得られる画像は、イメージガイド13qのイメージガイドプラグ部13c側の端面に形成された対象物Oの像を表す不透明度付きカラー画像である。この画像のことを、以下、透明対象画像Ii’と記載する。なお、透明対象画像Inについては、位置合わせ処理S105aを行わないが、以下では説明の便宜上、透明対象画像Inを透明対象画像In’とも記載する。位置合わせ処理S105aにて得られる透明対象画像I1’,I2’,…,In’の具体例については、参照する図面を代えて後述する。
超解像処理S105の平均処理S105cにおいて、画像処理装置10は、各画素(x,y)について、各透明対象画像Ij’の画素値{Rj’(x,y),Gj’(x,y),Bj’(x,y),Aj’(x,y)}を成分毎に加重平均することによって、超解像画像Iを生成する。加重平均における加重としては、不透明度Aj’(x,y)を用いる。平均処理S105cにて得られる画像は、イメージガイド13qのイメージガイドプラグ部13c側の端面に形成された対象物Oの像を表す不透明度付きカラー画像である。この画像のことを、以下、超解像画像Iと記載する。超解像画像Iの画素(x,y)における画素値{R(x,y),G(x,y),B(x,y),A(x,y)}は、例えば、以下の式により与えられる。平均処理S105cにて生成される超解像画像Iの具体例については、参照する図面を代えて後述する。
D(x,y)=A1’(x,y)+A2’(x,y)+…+An’(x,y)、
D(x,y)≠0である場合:
R(x,y)={R1’(x,y)A1’(x,y)+R2’(x,y)A2’(x,y)+…+Rn’(x,y)An’(x,y)}/D(x,y)、
G(x,y)={G1’(x,y)A1’(x,y)+G2’(x,y)A2’(x,y)+…+Gn’(x,y)An’(x,y)}/D(x,y)、
B(x,y)={B1’(x,y)A1’(x,y)+B2’(x,y)A2’(x,y)+…+Bn’(x,y)An’(x,y)}/D(x,y)、
A(x,y)=[{A1’(x,y)}+{A2’(x,y)}+…+{An’(x,y)}]/D(x,y)、
D(x,y)=0である場合:
R(x,y)=0、
G(x,y)=0、
B(x,y)=0、
A(x,y)=0。
(変形例に係る画像処理方法の実行例)
上述した変形例に係る画像処理方法S100の実行例について、図13~図18を参照して説明する。本具体例においては、簡単のために対象画像I1,I2,…,Inの枚数nを4とする。
図13は、透明化処理S112にて得られる透明対象画像I1を例示した図である。図14は、透明化処理S112にて得られる透明対象画像I2を例示した図である。図15は、透明化処理S112にて得られる透明対象画像I3を例示した図である。図16は、透明化処理S112にて得られる透明対象画像I4を例示した図である。何れの透明対象画像Iiにおいても、イメージガイド13qのコアに対応する領域以外の領域が透明化されていることが見て取れる。
図17は、超解像処理S105にて得られる超解像画像Iを例示した図である。対象画像I1~I4においては、被写体として含まれるアルファベット及び文字の判読が困難である。これに対して、超解像画像Iにおいては、被写体として含まれるアルファベット及び文字の判読が容易である。すなわち、超解像処理S105を実行することによって、対象画像I1~I4よりも視認性の高い超解像画像Iが得られることが確かめられた。
また、図10に示した超解像画像I(透明化処理なし)と図17に示した超解像画像I(透明化処理あり)とを比べると、後者の方がアルファベット及び文字とその背景とのコントラストが高くなり、その結果、後者の方がアルファベット及び文字の視認性が高いことが分かる。これは、各対象画像Iiにおいては、イメージガイド13qのコアに対応する領域以外の領域の輝度が低いため、図10に示した超解像画像Iにおいては、視野円内での輝度の低下や画像のザラつきが生じ易いが、各透明対象画像Iiにおいては、イメージガイド13qのコアに対応する領域以外の領域が透明化されているため、視野円内での輝度の低下や画像のザラつきが生じ難いからである。
なお、輝度の低下や画像のザラつきは、例えば、対象画像Ijの低輝度領域に属する画素の画素値が他の対象画像Ij’の高輝度領域に属する画素の画素値と平均化されること、或いは、対象画像Ijの低輝度領域に属する画素の画素値が他の対象画像I’の低輝度領域に属する画素の画素値と平均化されることにより生じる。
図18は、マスク処理S106にて得られる出力画像I’を例示した図である。超解像画像Iにおいては、被写体として含まれるイメージガイド13qの端面の境界にジャギー(イメージガイド13qが複数のコアにより構成されることに起因して生じるギザギザ)を視認することができる。一方、出力画像I’においては、被写体として含まれるイメージガイド13qの端面の境界にジャギーを視認することができない。すなわち、マスク処理S106を実行することによって、超解像画像Iよりもジャギーの少ない出力画像I’が得られることが確かめられた。
(画像処理方法の更なる変形例1)
上述した超解像処理S105の前処理として、画像処理装置10は、各透明対象画像Ijに対してコア描画処理を行ってもよい。
コア描画処理において、画像処理装置10は、まず、透明対象画像Ijにおいてイメージガイド13qのコアに対応する領域(以下、「コア領域」とも記載する)を特定する。例えば、網目画像I0’において同じ座標を有する画素の画素値が予め定められた閾値以上である画素の集合をコア領域として特定する。
次に、画像処理装置10は、赤成分、緑成分、及び青成分のそれぞれについて、透明対象画像Ijにおいてコア領域に含まれる各画素の画素値を、(a1)コア領域の中心に位置する画素の画素値(以下、「中心画素値」とも記載する)、又は、(a2)そのコア領域に含まれる各画素の画素値の平均値(以下、「平均画素値」とも記載する)に一致するように再設定する。また、画像処理装置10は、透明対象画像Ijにおいてコア領域の中心に位置する画素の不透明度を100%に設定する。そして、画像処理装置10は、透明対象画像Ijにおいてコア領域の中心からの距離rが予め定められた閾値R以下である各画素の不透明度を、(b1)距離rが大きくなるにつれて線形に小さくなるように、又は、(b2)距離rが大きくなるにつれてガウス分布に従って小さくなるように再設定する。なお、不透明度の再設定を行わない場合、コア領域に含まれる各画素の不透明度は、上述したように、網目画像I0’においてその画素と同じ座標を有する画素の画素値と一致する。
図19の(a)は、赤成分、緑成分、及び青成分については、コア領域に含まれる各画素の画素値を平均画素値に再設定し、不透明度については、再設定を行わなかった場合に得られる透明対象画像Ij及び超解像画像Iの拡大図である。
図19の(b)は、赤成分、緑成分、及び青成分については、コア領域に含まれる各画素の画素値を平均画素値に再設定し、不透明度については、コア領域の中心からの距離rが予め定められた閾値R以下である各画素の不透明度を、距離rが大きくなるにつれて線形に小さくなるように再設定した場合に得られる透明対象画像Ij及び超解像画像Iの拡大図である。図19の(a)と(b)とを比べると、不透明度の再設定を行うことによって、超解像画像Iにおける輝度の低下や画像のザラつきを更に抑えられることが分かる。なお、赤成分、緑成分、及び青成分のそれぞれについて、コア領域に含まれる各画素の画素値を中心画素値に設定した場合でも、同様の効果が得られる。
図19の(c)は、赤成分、緑成分、及び青成分については、コア領域に含まれる各画素の画素値を平均画素値に再設定し、不透明度については、コア領域の中心からの距離rが予め定められた閾値R以下である各画素の不透明度を、距離rが大きくなるにつれてガウス分布に従って小さくなるように再設定した場合に得られる透明対象画像Ij及び超解像画像Iの拡大図である。図19の(a)と(c)とを比べると、不透明度の再設定を行うことによって、超解像画像Iにおいて輝度の低下や画像のザラつきを更に抑えられることが分かる。また、図19の(b)と(c)とを比べると、不透明度の再設定は、距離rが大きくなるにつれて線形に小さくなるように再設定するよりも、距離rが大きくなるにつれてガウス分布に従って小さくなるように再設定する方が、超解像画像Iにおける輝度の低下や画像のザラつきを更に抑えるうえで有利であることが分かる。なお、赤成分、緑成分、及び青成分のそれぞれについて、コア領域に含まれる各画素の画素値を中心画素値に設定した場合でも、同様の効果が得られる。
(画像処理方法の更なる変形例2)
上述した超解像処理S105において、画像処理装置10は、透明対象画像I1,I2,…,Inの全部を対象として平均処理S105cを行ってもよいし、透明対象画像I1,I2,…,Inの一部を対象として平均処理S105cを行ってもよい。
後者の例としては、透明対象画像I1,I2,…,Inにおいて、位置ずれ量の大きい透明対象画像以外の透明対象画像を、平均処理S105cの対象とする構成が考えられる。位置ずれ量が大きい透明対象画像は、位置合わせ処理S105aにおいて基準画像として用いる透明対象画像Inとのオーバーラップが少ないため、超解像画像Iの視認性向上に対する寄与は限定的であり、逆に、超解像画像Iにおいてノイズを発生させる原因にもなり得る。このため、位置ずれ量の大きい透明対象画像を平均処理S105cの対象から外すことによって、超解像画像Iの視認性向上という効果を阻害することなく、超解像画像Iにおけるノイズの発生を抑えることができる。
なお、透明対象画像I1,I2,…,Inにおいて、位置ずれ量の大きい透明対象画像を選択する方法としては、例えば、透明対象画像I1,I2,…,Inにおいて、位置ずれベクトルviが予め定められた閾値を超える透明対象画像Iiを選択する方法などが挙げられる。
或いは、透明対象画像I1,I2,…,Inにおいて、ボケ又はブレが発生した透明対象画像以外の透明対象画像を、平均処理S105cの対象とする構成が考えられる。ボケ又はブレが大きい透明対象画像は、位置合わせ処理S105aを精度良く行うことが困難であると共に、被写体として含まれる対象物Oの輪郭が不明確であるため、超解像画像Iの視認性向上に対する寄与は限定的であり、逆に、超解像画像Iにおいてノイズを発生させる原因にもなり得る。このため、ボケ又はブレが発生した透明対象画像を平均処理S105cの対象から外すことによって、超解像画像Iの視認性向上という効果を阻害することなく、超解像画像Iにおけるノイズの発生を抑えることができる。
なお、透明対象画像I1,I2,…,Inにおいて、ボケ又はブレが発生した透明対象画像Iiを選択する方法としては、例えば、隣接する透明対象画像Ii-1,Ii+1との位置ずれベクトルの差|(vi-1)-(vi)|,|(vi+1)-(vi)|が予め定められた閾値を超える透明対象画像Iiを選択する方法などが挙げられる。ただし、ボケ又はブレが発生した透明対象画像Iiを選択する方法は、これに限定されず、公知の方法を任意に採用することができる。
(画像処理方法の更なる変形例3)
上述した超解像処理S105の後処理として、画像処理装置10は、最後に取得した対象画像Inを平滑化することよって下地画像を生成する下地画像生成処理と、生成した下地画像の上に超解像画像Iを重畳することによって出力画像を生成する出力画像生成処理を行ってもよい。ここで、平滑化の方法は、特に限定されない。平均化フィルタを用いた平滑化によって下地画像を生成してもよいし、ガウシアンフィルタを用いた平滑化によって下地画像を生成してもよい。
ある画素の不透明度が全ての透明対象画像I1’,I2’,…,In’において0であると、その画像の不透明度が超解像画像Iにおいても0になる。つまり、超解像画像Iにおいてその画素が透明になる。このような超解像画像Iを表示すると、透明画素において透けて見える背景が視認され、不自然な印象を与える場合がある。例えば、全面黒色の背景を用いた場合、このような超解像画像Iを表示すると、透明画素において透けて見える背景が点在する黒点のように視認され、不自然な印象を与える。対象画像Inを平滑化することによって生成した下地画像に超解像画像Iを重畳することで、透明画素において透けて見える背景が視認される懸念を払拭し、より自然に超解像画像Iを表示することが可能になる。
なお、本変形例においては、最後に取得した対象画像Inを平滑化することによって下地画像を生成する構成について説明したが、これに限定されない。すなわち、対象画像I1,I2,…,Inのうち、最後に取得した対象画像In以外の対象画像Iiを平滑化することによって下地画像を生成する構成を採用してもよい。
(まとめ)
本実施形態には、以下の態様が含まれる。
〔態様1〕
複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、
前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を単純平均又は加重平均することによって、超解像画像を生成する超解像処理と、を含む、
画像処理方法。
本態様によれば、対象画像よりも解像度又は視認性の高い超解像画像を得ることができる。
〔態様2〕
前記超解像処理の前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域以外の領域を透明化又は半透明化する透明化処理を更に含み、
前記超解像処理は、前記前処理後の前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を、不透明度を加重として加重平均することによって、前記超解像画像を生成する処理である、
態様1に記載の画像処理方法。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様3〕
前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域の中心に位置する画素の画素値に設定するコア描画処理を更に含む、
態様2に記載の画像処理方法。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを更に抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様4〕
前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域に含まれる各の画素値の平均値に設定するコア描画処理を更に含む、
態様2に記載の画像処理方法。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを更に抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様5〕
前記コア描画処理においては、更に、前記複数の対象画像の各々において前記領域の中心からの距離が閾値以下である各画素の不透明度を、該距離が大きくなるにつれてガウス分布に従って小さくなるように設定する、
態様3又は4に記載の画像処理方法。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを更に抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様6〕
前記超解像処理の後処理として、前記複数の対象画像の何れかを平滑化することによって、下地画像を生成する下地画像生成処理と、前記下地画像に前記超解像画像を重畳することによって、出力画像を生成する重畳処理と、を更に含む、
態様2~5の何れか一項に記載の画像処理方法。
本態様によれば、超解像画像において背景が透けて見える可能性を排除することによって、より自然な超解像画像を得ることができる。
〔態様7〕
前記超解像処理は、前記複数の対象画像のうち、位置ずれが小さいと判定された対象画像において前記対象物の同一の点に対応する画素の画素値を加重平均することによって、前記超解像画像を生成する処理である、
態様2~6の何れか一項に記載の画像処理方法。
本態様によれば、超解像画像において生じ得るノイズを低減することによって、より視認性の高い超解像画像を得ることができる。
〔態様8〕
前記超解像処理は、前記複数の対象画像のうち、ボケ又はブレが発生していないと判定された対象画像において前記対象物の同一の点に対応する画素の画素値を加重平均することによって、前記超解像画像を生成する処理である、
態様2~6の何れか一項に記載の画像処理方法。
本態様によれば、超解像画像において生じ得るノイズを低減することによって、より視認性の高い超解像画像を得ることができる。
〔態様9〕
少なくとも1つのプロセッサを備えた画像処理装置であって、
前記プロセッサは、
複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、
前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を平均又は加重平均することによって、超解像画像を生成する超解像処理と、を実行する、
画像処理装置。
本態様によれば、対象画像よりも解像度又は視認性の高い超解像画像を得ることができる。
〔態様10〕
前記プロセッサは、前記超解像処理の前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域以外の領域を透明化又は半透明化する透明化処理を更に実行し、
前記超解像処理は、前記前処理後の前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を、不透明度を加重として加重平均することによって、前記超解像画像を生成する処理である、
態様9に記載の画像処理装置。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様11〕
前記プロセッサは、前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域の中心に位置する画素の画素値に設定するコア描画処理を更に実行する、
態様10に記載の画像処理装置。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを更に抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様12〕
少なくとも1つのプロセッサを動作させるための画像処理プログラムであって、前記プロセッサに、
複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、
前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を平均又は加重平均することによって、超解像画像を生成する超解像処理と、を実行させる、
画像処理プログラム。
本態様によれば、対象画像よりも解像度又は視認性の高い超解像画像を得ることができる。
〔態様13〕
前記プロセッサに、前記超解像処理の前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域以外の領域を透明化又は半透明化する透明化処理を更に実行させ、
前記超解像処理は、前記前処理後の前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を、不透明度を加重として加重平均することによって、前記超解像画像を生成する処理である、
態様12に記載の画像処理プログラム。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを更に抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様14〕
前記プロセッサに、前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域の中心に位置する画素の画素値に設定するコア描画処理を更に実行させる、
態様13に記載の画像処理プログラム。
本態様によれば、超解像画像において生じ得る輝度の低下や画像のザラつきを更に抑制することよって、より視認性の高い超解像画像を得ることができる。
〔態様15〕
態様9~11の何れか一項に記載の画像処理装置と、
前記イメージガイドを含む内視鏡プローブと、を備えている、
内視鏡システム。
本態様によれば、対象画像よりも解像度又は視認性の高い超解像画像を得ることができる内視鏡システムを実現することができる。
(付記事項)
本発明は、上述した実施形態に限定されるものでなく、請求項に示した範囲で種々の変更が可能であり、上述した実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても、本発明の技術的範囲に含まれる。
1 内視鏡システム
10 画像処理装置
101 プロセッサ
102 メモリ
103 ストレージ
104 入出力インタフェース
105 バス
11 光源装置
12 カメラ装置
13 内視鏡プローブ
13p ライトガイド
13q イメージガイド

Claims (15)

  1. 複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、
    前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を単純平均又は加重平均することによって、超解像画像を生成する超解像処理と、を含む、
    画像処理方法。
  2. 前記超解像処理の前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域以外の領域を透明化又は半透明化する透明化処理を更に含み、
    前記超解像処理は、前記前処理後の前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を、不透明度を加重として加重平均することによって、前記超解像画像を生成する処理である、
    請求項1に記載の画像処理方法。
  3. 前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域の中心に位置する画素の画素値に設定するコア描画処理を更に含む、
    請求項2に記載の画像処理方法。
  4. 前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域に含まれる各の画素値の平均値に設定するコア描画処理を更に含む、
    請求項2に記載の画像処理方法。
  5. 前記コア描画処理においては、更に、前記複数の対象画像の各々において前記領域の中心からの距離が閾値以下である各画素の不透明度を、該距離が大きくなるにつれてガウス分布に従って小さくなるように設定する、
    請求項3又は4に記載の画像処理方法。
  6. 前記超解像処理の後処理として、前記複数の対象画像の何れかを平滑化することによって、下地画像を生成する下地画像生成処理と、前記下地画像に前記超解像画像を重畳することによって、出力画像を生成する重畳処理と、を更に含む、
    請求項2~4の何れか一項に記載の画像処理方法。
  7. 前記超解像処理は、前記複数の対象画像のうち、位置ずれが小さいと判定された対象画像において前記対象物の同一の点に対応する画素の画素値を加重平均することによって、前記超解像画像を生成する処理である、
    請求項2~4の何れか一項に記載の画像処理方法。
  8. 前記超解像処理は、前記複数の対象画像のうち、ボケ又はブレが発生していないと判定された対象画像において前記対象物の同一の点に対応する画素の画素値を加重平均することによって、前記超解像画像を生成する処理である、
    請求項2~4の何れか一項に記載の画像処理方法。
  9. 少なくとも1つのプロセッサを備えた画像処理装置であって、
    前記プロセッサは、
    複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、
    前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を平均又は加重平均することによって、超解像画像を生成する超解像処理と、を実行する、
    画像処理装置。
  10. 前記プロセッサは、前記超解像処理の前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域以外の領域を透明化又は半透明化する透明化処理を更に実行し、
    前記超解像処理は、前記前処理後の前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を、不透明度を加重として加重平均することによって、前記超解像画像を生成する処理である、
    請求項9に記載の画像処理装置。
  11. 前記プロセッサは、前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域の中心に位置する画素の画素値に設定するコア描画処理を更に実行する、
    請求項10に記載の画像処理装置。
  12. 少なくとも1つのプロセッサを動作させるための画像処理プログラムであって、前記プロセッサに、
    複数のコアを有し、一端が対象物に対向するイメージガイドの他端を撮像することにより得られた複数の対象画像を取得する取得処理と、
    前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を平均又は加重平均することによって、超解像画像を生成する超解像処理と、を実行させる、
    画像処理プログラム。
  13. 前記プロセッサに、前記超解像処理の前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域以外の領域を透明化又は半透明化する透明化処理を更に実行させ、
    前記超解像処理は、前記前処理後の前記複数の対象画像において前記対象物の同一の点に対応する画素の画素値を、不透明度を加重として加重平均することによって、前記超解像画像を生成する処理である、
    請求項12に記載の画像処理プログラム。
  14. 前記プロセッサに、前記前処理として、前記複数の対象画像の各々において前記イメージガイドのコアに対応する領域に含まれる各画素の画素値を、該領域の中心に位置する画素の画素値に設定するコア描画処理を更に実行させる、
    請求項13に記載の画像処理プログラム。
  15. 請求項9~11の何れか一項に記載の画像処理装置と、
    前記イメージガイドを含む内視鏡プローブと、を備えている、
    内視鏡システム。
JP2024006308A 2024-01-18 2024-01-18 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム Active JP7733754B2 (ja)

Priority Applications (2)

Application Number Priority Date Filing Date Title
JP2024006308A JP7733754B2 (ja) 2024-01-18 2024-01-18 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム
PCT/JP2025/000697 WO2025154680A1 (ja) 2024-01-18 2025-01-10 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2024006308A JP7733754B2 (ja) 2024-01-18 2024-01-18 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム

Publications (2)

Publication Number Publication Date
JP2025112168A JP2025112168A (ja) 2025-07-31
JP7733754B2 true JP7733754B2 (ja) 2025-09-03

Family

ID=96471279

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2024006308A Active JP7733754B2 (ja) 2024-01-18 2024-01-18 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム

Country Status (2)

Country Link
JP (1) JP7733754B2 (ja)
WO (1) WO2025154680A1 (ja)

Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010512173A (ja) 2006-08-21 2010-04-22 エスティーアイ・メディカル・システムズ・エルエルシー 内視鏡からの映像を用いるコンピュータ支援解析
JP2010110500A (ja) 2008-11-07 2010-05-20 Olympus Corp 撮像装置及び撮像方法
JP2022514635A (ja) 2018-12-20 2022-02-14 アクラレント インコーポレイテッド デュアル画像センサを有する内視鏡

Patent Citations (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2010512173A (ja) 2006-08-21 2010-04-22 エスティーアイ・メディカル・システムズ・エルエルシー 内視鏡からの映像を用いるコンピュータ支援解析
JP2010110500A (ja) 2008-11-07 2010-05-20 Olympus Corp 撮像装置及び撮像方法
JP2022514635A (ja) 2018-12-20 2022-02-14 アクラレント インコーポレイテッド デュアル画像センサを有する内視鏡

Also Published As

Publication number Publication date
JP2025112168A (ja) 2025-07-31
WO2025154680A1 (ja) 2025-07-24

Similar Documents

Publication Publication Date Title
JP7003238B2 (ja) 画像処理方法、装置、及び、デバイス
JP7145208B2 (ja) デュアルカメラベースの撮像のための方法および装置ならびに記憶媒体
JP7015374B2 (ja) デュアルカメラを使用する画像処理のための方法および移動端末
JP5132401B2 (ja) 画像処理装置及び画像処理方法
US10269103B2 (en) Image processing apparatus, image processing method, and image processing system
US11714278B2 (en) Method and system for calibrating a wearable heads-up display to produce aligned virtual images in an eye space
JP2020528622A (ja) 画像処理方法、装置および機器
KR20170094243A (ko) 하이 다이내믹 범위 이미지의 생성 방법, 촬영 장치와 단말기, 이미징 방법
KR20200041371A (ko) 더블 카메라 기반 이미징 방법 및 장치
WO2015190013A1 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法及び画像処理プログラム
CN111586273A (zh) 电子设备及图像获取方法
US6741760B2 (en) Image sensing apparatus which intentionally retains longitudinal chromatic aberration
JPH03165732A (ja) 内視鏡の暗部領域の検出方法
JP2011233058A (ja) 撮像装置、画像処理装置、および画像処理方法
JP7733754B2 (ja) 画像処理方法、画像処理装置、画像処理プログラム、及び内視鏡システム
JP2014157428A (ja) 画像表示装置、画像表示方法、及び、プログラム
JP6479178B2 (ja) 画像処理装置、撮像装置、顕微鏡システム、画像処理方法、及び画像処理プログラム
JPWO2014002811A1 (ja) 画像処理装置、画像処理方法および画像処理プログラム
JP5020615B2 (ja) 画像処理装置及び撮像装置及び画像処理方法及びプログラム
JP2008147980A (ja) 画像処理装置及び撮像装置及び画像処理方法及びプログラム及び記憶媒体
CN115661122B (zh) 一种图像网格纹去除方法及系统
JP3572304B2 (ja) 医療分野におけるフォトレタッチソフトウェアを用いた画像解析方法
CN113701880B (zh) 一种高光通量光谱编码成像系统与方法
CN107481198A (zh) 图像处理方法、装置、计算机可读存储介质和计算机设备
JP2021132812A (ja) 医療用画像処理装置及び医療用観察システム

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20241128

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20250318

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20250805

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20250822

R150 Certificate of patent or registration of utility model

Ref document number: 7733754

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150