JP4171833B2 - 内視鏡誘導装置および方法 - Google Patents

内視鏡誘導装置および方法 Download PDF

Info

Publication number
JP4171833B2
JP4171833B2 JP2002075882A JP2002075882A JP4171833B2 JP 4171833 B2 JP4171833 B2 JP 4171833B2 JP 2002075882 A JP2002075882 A JP 2002075882A JP 2002075882 A JP2002075882 A JP 2002075882A JP 4171833 B2 JP4171833 B2 JP 4171833B2
Authority
JP
Japan
Prior art keywords
image
endoscope
endoscopic image
virtual endoscopic
virtual
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP2002075882A
Other languages
English (en)
Other versions
JP2003265408A (ja
Inventor
潔 依田
敦 永田
幸夫 小杉
英寿 渡辺
宏之 青木
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Tokyo Institute of Technology NUC
Original Assignee
Tokyo Institute of Technology NUC
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Tokyo Institute of Technology NUC filed Critical Tokyo Institute of Technology NUC
Priority to JP2002075882A priority Critical patent/JP4171833B2/ja
Publication of JP2003265408A publication Critical patent/JP2003265408A/ja
Application granted granted Critical
Publication of JP4171833B2 publication Critical patent/JP4171833B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Classifications

    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00004Operational features of endoscopes characterised by electronic signal processing
    • A61B1/00009Operational features of endoscopes characterised by electronic signal processing of image signals during a use of endoscope
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B1/00Instruments for performing medical examinations of the interior of cavities or tubes of the body by visual or photographical inspection, e.g. endoscopes; Illuminating arrangements therefor
    • A61B1/00002Operational features of endoscopes
    • A61B1/00043Operational features of endoscopes provided with output arrangements
    • A61B1/00045Display arrangement
    • A61B1/0005Display arrangement combining images e.g. side-by-side, superimposed or tiled
    • AHUMAN NECESSITIES
    • A61MEDICAL OR VETERINARY SCIENCE; HYGIENE
    • A61BDIAGNOSIS; SURGERY; IDENTIFICATION
    • A61B34/00Computer-aided surgery; Manipulators or robots specially adapted for use in surgery
    • A61B34/20Surgical navigation systems; Devices for tracking or guiding surgical instruments, e.g. for frameless stereotaxis
    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06TIMAGE DATA PROCESSING OR GENERATION, IN GENERAL
    • G06T7/00Image analysis
    • G06T7/0002Inspection of images, e.g. flaw detection
    • G06T7/0012Biomedical image inspection

Landscapes

  • Health & Medical Sciences (AREA)
  • Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Surgery (AREA)
  • Medical Informatics (AREA)
  • Nuclear Medicine, Radiotherapy & Molecular Imaging (AREA)
  • General Health & Medical Sciences (AREA)
  • Physics & Mathematics (AREA)
  • Radiology & Medical Imaging (AREA)
  • Molecular Biology (AREA)
  • Animal Behavior & Ethology (AREA)
  • Biomedical Technology (AREA)
  • Public Health (AREA)
  • Veterinary Medicine (AREA)
  • Heart & Thoracic Surgery (AREA)
  • Biophysics (AREA)
  • Optics & Photonics (AREA)
  • Pathology (AREA)
  • Signal Processing (AREA)
  • General Physics & Mathematics (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Quality & Reliability (AREA)
  • Theoretical Computer Science (AREA)
  • Robotics (AREA)
  • Closed-Circuit Television Systems (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Apparatus For Radiation Diagnosis (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Endoscopes (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は、自在に屈折する軟性内視鏡のナビゲーションに関する。
【0002】
【従来の技術】
脳神経外科などの手術の際には、患者の手術操作部位とコンピュータ連動断層撮影(CT)、磁気共鳴撮像(MRI)などの断層画像(3次元画像)の位置関係を把握できるように術者を支援するナビゲーション装置が利用されている。これにより、術者は、操作位置と、診断時に撮影された医用画像との相対的位置関係の認識が可能となる。
【0003】
このナビゲーション装置を利用した操作部位の3次元位置計測の主なものとして、機械方式(例えば、Kosugi et al., An Articulated Neurosurgical Navigation System Using MRI and CT Images (IEEE Transactions of Biomedical Engineering, Vol. 35, No. 2, February 1988)、および米国特許5050608号 (E. Watanabe, Y. Kosugi and S. Manaka: System for indicating a position to be operated in a patient's body)と、ステレオビジョン方式 (例えば、特許3152810号;小杉、渡辺、鈴木、川上、中川:光学式3次元位置検出装置) がある。機械方式は、ロータリーエンコーダを有する多関節アームナビゲーション装置により先端位置座標を求めるものである。また、ステレオビジョン方式は、複数個のCCDカメラによりプローブに設置された輝点像を認識し、三角測量の原理に基づいてプローブの3次元的位置を算出するものである。
【0004】
【発明が解決しようとする課題】
しかし、これらの装置で内視鏡先端の位置を測定しようとした場合、機械方式にあっては、アームと内視鏡先端の位置が機械的に剛性の保たれた形で接続されていることが必要であり、形状が自在に変わり得るファイバー式の軟性内視鏡ではこのような使用条件が満たされない。また、ステレオビジョン方式にあっては、体内に置かれた内視鏡先端に仮に発光部を装着したとしても、体外に位置するCCDカメラとの間に不透明の生体組織が存在することから、位置の確定は不可能である。
【0005】
軟性内視鏡を用いた手術装置において、内視鏡先端部の位置測定をおこなうためには、1) 体内の3次元位置に対応した画像をいかにして生成・登録するかという問題、2) 登録された画像と内視鏡から観測される画像の照合をいかにして行うかという問題、3) 手術環境下で内視鏡の進むべき方向を術者に的確に与えるヒューマンインターフェースをどのように構成すれば良いかという問題がある。また、4) 手術時に簡便かつ高精度に実時間で内視鏡先端部の位置測定を実行するための計算アルゴリズムおよび付属機器の開発を行う必要がある。
【0006】
この発明の目的は、自在に屈折する軟性内視鏡を用いた手術などにおいて、簡便かつ高精度に内視鏡先端部の位置を判断できるようにすることである。
【0007】
【課題を解決するための手段】
本発明に係る内視鏡誘導装置は、検査対象の仮想内視鏡画像と内視鏡先端の位置および姿勢の情報からなるデータベースを記憶する記憶手段と、検査対象の実軟性内視鏡画像を取得する入力手段と、前記実内視鏡画像を前記データベース内の仮想内視鏡画像と比較して、前記内視鏡画像と最も類似度が高い仮想内視鏡画像を決定する比較手段と、決定された仮想内視鏡画像の情報から、前記実内視鏡画像に対応する軟性内視鏡先端部の位置と姿勢を決定する決定手段とを有する。ここで、実軟性内視鏡画像とは、本物の軟性内視鏡で観測される画像であり、実内視鏡画像とは、本物の内視鏡で観測される画像である。
【0008】
前記の内視鏡誘導装置において、たとえば、前記の仮想内視鏡画像は、検査対象の3次元画像データに基づいて生成された画像である。
【0009】
前記の内視鏡誘導装置において、たとえば、前記の仮想内視鏡画像と内視鏡先端の位置および姿勢の情報は、硬性内視鏡により得られた画像と、その画像を得たときの硬性内視鏡先端の位置および姿勢の情報である。
【0010】
前記の内視鏡誘導装置において、たとえば、さらに、決定手段により決定された内視鏡先端部の位置と姿勢を、2次元断面表示または3次元表示された検査対象の画像に重畳して表示装置の画面に表示する表示手段とを備える。
【0011】
前記の内視鏡誘導装置において、たとえば、前記の表示手段は、さらに、実内視鏡画像またはそれと最も類似度が高い仮想内視鏡画像に、当該画像では表示されていない体内の患部を重畳して表示する。
【0012】
前記の内視鏡誘導装置において、たとえば、さらに、検査対象の3次元画像データに基づいて仮想内視鏡画像を計算する画像生成手段を備え、この画像生成手段は、設定された内視鏡先端の位置と姿勢ごとに、それに基いて3次元画像データの補間演算とレンダリング演算を実行して仮想内視鏡画像を取得する。多数の内視鏡先端の位置と姿勢を設定して演算することにより大規模な仮想内視鏡画像のデータベースを構築できる。
【0013】
前記の内視鏡誘導装置において、たとえば、前記の比較手段は、画素位置(i,j)における実内視鏡画像の画素値と仮想内視鏡画像の画素値を、実内視鏡画像の画素値と仮想内視鏡画像の画素位置を座標軸とする2次元グラフにプロットしたときに最も少ない面積上に分布する仮想内視鏡画像をデータベースから探索し、最も類似度が高い仮想内視鏡画像とする。
【0014】
前記の内視鏡誘導装置において、たとえば、前記の比較手段は、相互情報量が最大の仮想内視鏡画像を仮想内視鏡画像データベースから探索し、最も類似度が高い仮想内視鏡画像とする。
【0016】
前記の内視鏡誘導装置において、たとえば、前記の比較手段は、適応的非線形写像を実施した後の最終マッチングスコアによる類似度を用いる。
【0017】
前記の内視鏡誘導装置において、たとえば、前記の比較手段は、内視鏡を前進させた場合に、探索範囲を常に前回の探索範囲の近傍とし、前回と今回の内視鏡の挿入距離の差分に相当する探索半径を基に、仮想内視鏡画像のデータベース内の探索を実施する。
【0018】
前記の内視鏡誘導装置において、たとえば、前記の比較手段は、実内視鏡画像と仮想内視鏡画像をそれぞれ極座標系に変換した後、最も類似度が高い仮想内視鏡画像を選ぶ。
【0019】
前記の内視鏡誘導装置において、たとえば、前記の比較手段は、類似度の評価において、あらかじめ実内視鏡画像と仮想内視鏡画像の各画像の画素強度の最大値を1に規格化した後、対応する画素との強度差の2乗和を用いる。
【0020】
前記の内視鏡誘導装置において、たとえば、前記の決定手段は、前記の比較手段により得られた内視鏡先端の推定位置が、過去に推定した内視鏡先端位置を時系列で並べたときに外挿される現在の予測位値から著しく逸脱した位置である場合にその推定位置を採用しない。なお、前述の内視鏡誘導装置における種々の構成要素は、可能な限り組み合わせることができる。
【0024】
【発明の実施の形態】
以下、添付の図面を参照して本発明の実施の形態を説明する。
本発明は、自由に屈折する内視鏡の誘導(ナビゲーション)に関する。近年脳神経外科領域をはじめとして多くの医療分野で内視鏡を用いた手術が行われるようになったが、術者は内視鏡先端が患者のどの位置にあるかを見失う場合がある。そこで、ヒトはGPSなどの特別な位置検出機器を用いなくても、見慣れた街中を迷わずに自由に移動することができることに着眼した。これは、「この光景は見たことがある」という既視感と、その光景から場所の情報を連想的に検索できる人間の脳に備わった機能によるものである。本発明では、このような画像の印象より位置情報を検索する機能をコンピュータのアルゴリズム上で実現した。ここで、コンピュータ連動断層撮影(CT)、磁気共鳴撮像(MRI)などの断層写真群からボリュームレンダリング、手術用ナビゲーションシステムなどの画像表示によって得られた位置と画像の関係のデータを蓄積しておき、特に手術などの施行者が操作する内視鏡先端の3次元的位置情報を、過去に登録済みの画像から推定して術者に提供する。
【0025】
発明の実施の形態1.
図1は、発明の実施の形態1に係る内視鏡誘導装置の構成を示す。この装置は、自在に屈折する軟性内視鏡(図示しない)に接続され、患者の手術操作部位と断層画像(3次元画像)の位置関係を把握できるように術者を支援する。さらに説明すると、この装置において、ネットワークコントローラ10は、CT画像、MRI画像などの3次元画像、本物の内視鏡からの画像(内視鏡画像)などの診断画像を外部から読み込む。これらの診断画像は、ハードディスク12内に記憶される。CPU14は、キーボード、マウスなどの入力装置16からの指示に基づき、内視鏡誘導プログラムに従い計算機処理を実行する。ここで、ハードディスク装置12内のハードディスク(記録媒体)に格納された内視鏡誘導プログラムは、実行時にメモリ18にロードされる。処理結果の画像は、ビデオコントローラ20を経由し、ディスプレーモニタ22で表示される。
【0026】
図2は、内視鏡誘導プログラムにおける機能ブロックを表している。仮想内視鏡画像データベース計算ステップ(S10)で、検査対象のMRI、CTなどの3次元画像データを入力して、入力した3次元画像データに基づいて仮想内視鏡画像を計算し、ハードディスク装置12内のデータベースに記憶しておく。手術などにおいて、検査対象の内視鏡画像データが入力されると、比較ステップ(S12)で、データベース内の仮想内視鏡画像と本物の内視鏡で観測した検査対象の画像(実内視鏡画像)とを比較して、現在の内視鏡先端部の位置と姿勢を実時間で決定する。次に、表示ステップ(S14)で、比較ステップで得られた現在の内視鏡先端部の位置と姿勢を、モニタ22の画面上に表示しているMRI画像またはCT画像上に重畳して表示する。
【0027】
仮想内視鏡画像の計算では、検査対象のMRI、CTなどの3次元画像データに基いて仮想内視鏡画像を計算する必要がある。これについては、3次元画像データをボリュームレンダリングする方法が公知であり、その方法を用いてもよい。その方法の詳細は、たとえば、Rubin, Perspective Volume Rendering of CT and MRI Images: Applications for Endoscopic Imaging (Radiology、199巻、321〜330ページ、1996年) に記載されている。簡単に説明すると、検査対象のMRI、CTなどの3次元画像データは3次元のボリュームデータである。内視鏡を検査対象に挿入したときに、内視鏡先端のカメラで観測できる画像は、この点に観測点をセットして、そこから光の束を発散させて各光の直進路にしたがって検査対象の体積要素に関する色と透明度の計算を行うと、シミュレーション可能である。たとえば、MRIの各体積要素内の値が小さいときは、空気領域または骨領域であることが一般的である。また、MRIの各体積要素内の値が大きいときは、軟組織など水分が豊富な領域であることが一般的である。したがって、MRIの各体積要素内の値が小さいときは透明度をあげて、MRIの各体積要素内の値が大きくなるに従い透明度を下げれば、空気領域と軟組織領域をコントラストよく区別して3次元表示できる。
【0028】
仮想内視鏡画像データベース計算(図2、S10)では、上記の観測点(視点)と観測姿勢(仮想的なカメラの方向)を種々変化させて、多数の内視鏡画像をシミュレートした画像(仮想内視鏡画像)を得て、仮想内視鏡画像および視点情報をハードディスク装置12内のデータベースに蓄積しておく。図3に、その処理をより詳細に流れ図として示した。まず、病院内ネットワークで標準的に使用されているDICOM形式のCTまたはMRI画像を読み込む(S100)。次に、ボクセル値に対する不透明度と色テーブルを定義する(ステップS102)。ボクセル値に対する不透明度に関しては、所定のしきい値以下の不透明度をゼロ(完全透明)、前記しきい値以上の不透明度を1(完全不透明)とすると、レンダリング速度が増大した。次に、補間計算法を設定する(ステップS104)。補間計算法としては、3次元の線形補間を用いた。次に、陰影処理パラメータを設定し(ステップS106)、レンダリング方法を選択する(ステップS108)。陰影処理パラメータは複数の値で試行錯誤的に調整した。また、レンダリング方法としてレイキャスティング法によるボリュームレンダリングを採用した。なお、光線上の計算刻み幅を表示にアーチファクトが入らない範囲でなるべく大きくすることにより、高速計算が達成できた。次に、視点(カメラ)位置・回転中心・鉛直上向きの視点情報を設定する(ステップS110)。視点情報は、カメラ位置を体外位置とした平行投影による対象となる画像全体のボリュームレンダリング表示に基づき決定した。次に、視野角を設定する(ステップS112)。視野角としては同時に用いる内視鏡における視野角の値を入力した。次に、レンダリングを実行し、仮想内視鏡画像を取得する(ステップS114)。最後に、仮想内視鏡画像と視点情報をデータベース用ファイルに保存する(ステップS116)。視点情報(観測点と観測姿勢)を種々変化させて、ステップS110〜S116の処理を繰り返して、多数の内視鏡画像をシミュレートした画像(仮想内視鏡画像)を得る。
【0029】
図4は、仮想内視鏡画像データベースを生成する処理(図2、S10)における視点情報の設定を具体的に示す。この処理は、図3のステップS110とS112に対応する。ここで、種々の位置と姿勢に仮想カメラを設置する必要がある。カメラ位置については、1)まず本物の内視鏡で探索する場合に想定されるカメラ位置の領域を決定し(S120)、その後この領域内をたとえば10mmステップで3軸方向に移動した点をすべてカメラ位置として採用する(S122)。次に、カメラの姿勢については、2)カメラ画像の回転を5度おきに設定し、3)カメラ画像の端部位置を画像サイズの1/10ずつ平行移動し、4)さらに仮想カメラによる画像の拡大・縮小率を50%から200%まで20%ずつ変化させる(S124)。これらの1)から4)のパラメータを独立に変化させて(S126)、多数のカメラ位置と姿勢を与える。これに基いてレンダリング画像を生成することより、大規模な仮想内視鏡画像データベースを生成する。なお、仮想内視鏡画像を計算する場合は、仮想内視鏡の視野角および仮想内視鏡のカメラ回転中心とカメラ位置の相対的配置を実内視鏡と同一にすることが好ましい。
【0030】
このようなデータベースを用いれば、画像比較ステップ(図2、S12)において、計算した仮想内視鏡画像と本物の内視鏡で観測がされる画像(実内視鏡画像)を比較して、本物の内視鏡画像と一致度が最も高い仮想内視鏡画像をデータベース内部から探索できる。画像比較ステップ(図2、S12)では、仮想内視鏡画像データベース内に蓄積された画像と現時点の内視鏡画像の一致度合いを調べ、最も一致する仮想内視鏡画像データベース内に蓄積された画像を決定して、これに対応する仮想カメラ位置と姿勢を得る。この結果、現時点の内視鏡先端部が検査対象(たとえば、人体の脳内)のどの位置で、どの方向に向いているかを知ることができる。この情報を、モニタ22の2次元または3次元のMRI画像またはCT画像上に重畳して表示することにより、内視鏡手術従事者は、位置と方向の判断を誤ることなく複雑な手術を続行できる。
【0031】
具体的な方法は、図5の流れ図に示す。まずオフラインで仮想内視鏡画像をグレースケール表示して、仮想内視鏡画像の濃淡変化を、同一場所で撮像した本物の内視鏡画像となるべく一致するように調整する(S130)。具体的には、内視鏡を体内に入れながらMRIまたはCT撮像を行い、同一部位の実内視鏡画像と仮想内視鏡画像を取得すれば、上記の色の調整が対話的に可能になる。仮想内視鏡の画素強度をグレースケールに変換する関数を対話的に定義すれば、仮想内視鏡画像の濃淡を任意に変更できる。次に、相関係数が最大になる仮想内視鏡画像を仮想内視鏡画像データベースから探索する(S132)。次に、求まった仮想内視鏡画像に対する内視鏡先端の位置と姿勢の情報を出力する(S134)。
【0032】
より詳細に説明すると、一致度の判定には、通常よく用いられる画像間の相関係数を計算する方法が適している。仮想内視鏡と本物の内視鏡画像では、色情報の相関は一般には高くないので、相関計算は、カラー画像からグレースケール画像に変換した後に実施することが望ましい。そこで、オフラインで仮想内視鏡画像をグレースケール化して、仮想内視鏡画像の濃淡変化を同一場所で撮影した本物の内視鏡画像となるべく一致するように調整する。仮想内視鏡の画素強度をグレースケールに変換する関数を定義すれば、濃淡を任意に定義できる。カラー画像(R,G,B色の強度をそれぞれIR, IG, IBとする)からグレースケール画像(強度I)に変換する方法は、たとえば、次の式(1)で計算すればよい。
【数1】
Figure 0004171833
【0033】
次に、仮想内視鏡画像と内視鏡画像の相関計算を行う。画素位置(i,j)における内視鏡画像画素値A(i,j)と仮想内視鏡画像画素値B(i,j)について、相関係数rは次の式(2)で定義される。
【数2】
Figure 0004171833
ここで、UとVはベクトルであり、内視鏡画像および仮想内視鏡画像の画素値を並べたものであり、具体的には、次式(3)、(4)で定義される。
【数3】
Figure 0004171833
【数4】
Figure 0004171833
また、U・V はベクトルUとVの内積を表し、|U|はベクトルUの大きさを表す。相関係数rは、ベクトルUとVの平均値を引いていない点が通常の統計学の相関係数と異なるが、直流成分を含めて2つの画像の一致度を評価する場合は、上式(2)が好ましい。なお、もし残差の2乗平均を評価関数に用いる場合は、あらかじめ |U|= |V|= 1 としておけばよい。こうしないと、互いにスケールが異なる画像の間で画素の差分を評価することになり、意味が見出せない。
【0034】
ところで、仮想内視鏡画像と本物の内視鏡画像では、互いに異種画像であるために、画素強度は互いに比例していないことが一般的である。相関係数を計算するために、2種類の画像では対応する画素強度は、互いに比例すると相関が最大になるので、比例させるように前処理をする必要がある。このような問題は、患者ごと、部位ごとに経験的な方法で対処することが可能である。
【0035】
図6は、最も一致する仮想内視鏡画像データベース内に蓄積された画像を決定した処理の一例を示す。左側が、現時点の内視鏡画像30であり、右側がデータベース内の最も一致する仮想内視鏡画像32である。
【0036】
図7は、表示ステップ(図2、S14)で、得られた現時点の内視鏡先端部の3次元位置およびカメラの向きを、直交3平面画像40a,40b,40c上に矢印として重畳して表示した結果である。矢印の大きさは3平面への投影長さで表示する。たとえば、矢印42a,42b,42cの出発点に内視鏡先端位置を対応させ、矢印のベクトルをカメラの方向ベクトルとする。この結果、治療医は内視鏡先端位置を正しく認識し、正確な位置で内視鏡手術を実施できる。図8は、同様の表示を3次元レンダリング画像に重畳して表示した場合を示す。3次元レンダリング画像としては、ボリュームレンダリングまたはサーフェスレンダリングを用いることができる。ボリュームレンダリングを用いた場合は、組織ごとの輪郭抽出が不要であるという利点を有する。
【0037】
発明の実施の形態2.
図9は、発明の実施の形態2における内視鏡誘導プログラムを示す。ここで、図2の処理の後で、さらに、内視鏡では見えない体内表層下の患部(腫瘍など)を仮想内視鏡画像上でボリュームレンダリングにより表層を半透明表示し、内視鏡との位置合わせをおこなう(S16)。この結果、内視鏡画像にも体内表層下の患部(腫瘍など)を追加表示でき、正確な内視鏡下での手術を実施できる。このような体内の腫瘍をボリュームレンダリングで表示することができる条件は、正常組織と腫瘍組織のMRI画像強度が大きく異なることであるが、この条件は多くの場合に成立することが知られている。
【0038】
1例として、図10に、図6に示した画像に体内表層下の患部(ここでは腫瘍)の位置を重畳して表示した例を示す。体内表層下の患部を、仮想内視鏡画像32上でボリュームレンダリングにより表層を半透明に表示して重畳して表示している。また、内視鏡画像30に、体内表層下の患部34を追加表示している。
【0039】
発明の実施の形態3.
前述の実施の形態1では、仮想内視鏡像をグレースケール化していた(図5、S120)。ところで、実内視鏡画像のグレースケール表示は組織表層の色(R,G,Bの比率およびスケーリング値つまり明度)で決まり、患者の組織表層の血流状態と代謝状態で色が決まる。一方、CTまたはMRI画像から仮想内視鏡画像を構成した場合の色は、CT値またはMRI強度と表示色の対応関数で決まる。この対応関数は任意に設定できる。このことから、患者が変わった場合は、組織表層の色は個体差があるので、発明の実施の形態3で説明した方法で、別の患者のオフライン測定結果を用いることは一般には不適切であることがわかる。また、同一患者でも組織が異なれば、組織表層の血流状態と代謝状態が変化するため、同一患者の別組織のオフライン測定結果を用いることは一般には不適切であることも理解できる。
【0040】
このような事情があるので、実内視鏡画像と仮想内視鏡画像のグレースケールの濃淡合わせまたは色合わせは、理想的には、適応的に画像ごとに自動計算する必要がある。しかし、これは煩雑であるので、これを避ける本実施の形態の処理を説明する。ここでは、ジョイントヒストグラムまたは2次元ヒストグラムと呼ばれる図を用いるが、この方法は異種画像の位置合わせ手法として公知である。たとえば 2001年にCRC Press社から刊行された単行本、Medical Image Registration, 57〜59ページ、に記載されている。
【0041】
図11は、この実施形態における画像比較処理を示す。具体的には、図12の(a)のように、画素位置(i,j)における実内視鏡画像の画素値A(i,j)と仮想内視鏡画像の画素値B(i,j)を用いて、点(A(i,j)、B(i,j))としてグラフに2次元プロットしていき(S131)、最も少ない面積上に分布する仮想内視鏡画像をデータベースから探索する(S133)。そして、求まった仮想内視鏡画像に対応するカメラの位置と姿勢の情報を出力する(S134)。最も少ない面積の判定には、対話的に操作者が行う方法、プロットされた点を含む閉曲線を描く方法および発明の実施の形態1で説明したベクトルの内積演算による相関係数の計算などがある。なお、最も少ない面積上に分布するということは、実内視鏡画像で表示された画素値と仮想内視鏡画像で表示された画素値の強い関連性があることを示している。強い関連性とは、いわゆる正の相関が強い場合や負の相関が強い場合を含むが、もっと複雑な場合も含む(図12の(b)参照)。このような複雑な関連性が強い場合でも、発明の実施の形態1で説明したベクトルの内積演算による相関係数の計算が有効である。いずれの場合でも、最も少ない面積上に分布することは、2つの画像が同一カメラ位置から見た同一組織である可能性が非常に高いことを意味している。
【0042】
発明の実施の形態4.
発明の実施の形態3の対応関数を用いた処理をさらに拡張した方法として、画像比較処理に相互情報量を評価する手法を用いることが考えられる。図13にその流れ図を示す。相互情報量を用いた異種画像のレジストレーション(位置合わせ)については、発明の実施の形態3であげた文献の60〜61ページに記載されている。まず、画素位置(i,j)における実内視鏡画像A(i,j)と仮想内視鏡画像B(i,j)の画素値を用いて相互情報量を計算する(S131')。相互情報量は定性的には一方の画像情報が他方の画像情報をどれだけうまく説明できるかを与えるものであり、たとえば次の式(5)で与えられる相互情報量I(A, B)が最大になったときに、2つの画像は位置合わせできたと判断する。
【数5】
Figure 0004171833
Figure 0004171833
ここで、pT AB(a, b)は画像Aと画像Bのジョイント確率分布関数であり、pT A(a)およびpT B(b)はマージナル確率分布関数である。相互情報量の定義は、上記に限らず、他にも種々提案されているので、それらを用いてもよい。次に、相互情報量が最大になる仮想内視鏡画像を仮想内視鏡画像データベースから探索する(S133')。そして、求まった仮想内視鏡画像に対応するカメラの位置と姿勢の情報を出力する(S134)。
【0043】
発明の実施の形態5.
これまで述べてきたような類似度評価に相関係数、2乗誤差、相互情報量などを用いる場合、類似度が最大になる仮想内視鏡画像が仮想内視鏡画像データベース内に存在する必要があるので、データベースの大規模化は避けられない。一般にこのような処理はオフラインで計算しておく必要があり、緊急手術が必要な救急患者に対しては適用が難しい場合も考えられる。さらに、内視鏡画像に雑音が混入している場合に最適な仮想内視鏡画像の推定に失敗することも考えられる。そこで、この発明の実施の形態では、脳機能の1つである連想処理の採用によりデータベースの小規模化および対ノイズ性能向上を図る。内視鏡で得られた画像から連想処理によりその位置を検出するためには、内視鏡は挿入の間、任意の角度で回転することが予想されるため、回転操作に不変な連想処理システムを実現することが要求される。
【0044】
以下に、2001年6月に青木らにより発表されたRotation-Invariant Image Association for Endoscopic Positional Identification Using Complex-Valued Associative Memories (Springer, Proceedings of the 6th International Work-Conference on Artificial and Natural Neural Networks Granada, PartII,pp.369-376)に記載された、複素数型連想メモリを用いた内視鏡位置検出のための回転に不変な画像連想処理の概要を述べる。連想記憶を用いた処理は、必要なパターンをあらかじめ記憶させる記銘処理(フェーズ1)と、その後で記憶パターンの不完全パターン(ノイズの混入や、パターンの一部の情報が欠落しているようなパターン)を与えると、その不完全パターンより完全な記憶パターンを連想し出力する想起処理(フェーズ2)の2段階の処理に分けられる。
【0045】
フェーズ1の記銘処理は、記憶しようとするパターンよりニューロン間の結合荷重を決定するプロセスであり、記憶パターンの情報はニューロン間の結合荷重に多重分散的に記憶される。また、フェーズ2の想起処理では、各ニューロンはあらかじめ定められた状態遷移規則に従って次々と状態を更新していく。実数型を拡張した複素数型連想記憶モデルを応用することにより、容易に多値のパターン情報を扱うことが可能となる。特に、複素数型連想記憶モデル(CAMM)と2次元離散フーリエ変換処理(2-D DFT)とを組み合わせることにより、濃淡画像の連想システムが実現される。
【0046】
図14により、回転操作に不変な画像連想システムの実現方法の概要を説明する。本システムでは、図14の(a)に示すように円形画像を扱うものとする。なお、以下の説明は、記銘処理と想起処理に共通である。
【0047】
(A) まず図14の(a)に示す円形画像を図14の(b)に示すような長方形画像に変換する。すると、円形画像における0を中心とするθ方向への回転操作は、長方形画像においてはn方向(横方向)のみへのシフト操作に置き換えられる。
【0048】
(B) 図14の(b)の形式に変換された図形について2次元離散フーリエ変換処理(2-D DFT)をする。フーリエ変換された結果は図14の(c)のように与えられる。ここで、四隅の部分が低周波の空間周波数成分を表わし、中央部分が高周波の空間周波数成分を表す。
【0049】
(C) 図14の(c)のフーリエ変換の各成分をν(m',n')とし、ν(m',n') = |ν(m',n')|exp(α(m',n')) と表わせるものとする。以下の式(6)、(7)を用いてν(m',n')の振幅情報を位相情報に多重化させる処理を行い、位相情報のみにより表現される行列 {χphase(m',n')} を生成する。式(6)で、|νmax(m',n')|は各要素|ν(m',n')|の中での最大値を表す。また、式(7)はχphase(m',n')を定義する。こうして画像情報をχphase(m',n')の形式に変換することにより、画像情報は図14の(d)の複素ニューロンにより表現することが可能となる。
【数6】
Figure 0004171833
【数7】
Figure 0004171833
【0050】
(D) このように画像の情報は上記χphase(m',n')の形式に変換して、複素数型連想記憶モデル(CAMM)に与える。
【0051】
(E) 次に、χphase(m',n') を位相量子化する。
【0052】
(F) 通常、χphase(m',n')の全ての成分を用いてCAMMを構成するとニューロン数が非常に多くなってしまうため、画質の劣化が目立たない範囲で図14の(c)に示すように高周波領域の成分を無視してCAMMを構成する。その際CAMMはχphase(m',n')の低周波領域の各列毎に構成する。例えば、行列{χphase(m',n')}の0からXおよびN−XからN−1までの各列を利用すると、作られるCAMMの数は2X+1個となる。CAMMのニューロンの間の結合荷重の決定を行なう。
【0053】
以下は、想起処理における説明である。
(G) ここで、2次元離散フーリエ変換(2-D DFT)の次の性質に注目する。n方向のみにqだけシフトした画像の2次元離散フーリエ変換は次のように表される。
【数8】
ν(m',n') = DFT{u(m, n)}
とおけば、u(m, n)をn方向のみにqだけシフトした画像u(m, n-q)の2次元離散フーリエ変換は次のように与えられる。
【数9】
DFT{u(m,n-q)} = ν(m',n')exp(-iθNn'q)
ここにθN = 2π/N
つまり、複素領域側でみるとexp(-isθNn'q)の項が付加されるだけである。
(H) (F)で述べた通り、行列{χphase(m',n')}の各列ごとにCAMMを構成すると、ひとつのCAMMの中ではn'の値は等しいから、回転による影響項exp(-iθNn'q)の値は各ニューロンでは皆等しくなる。すなわち、各CAMMに対しては画像の回転操作による影響はexp(-isθN)の項が付加されるだけとなる。
【0054】
(I) 一方、CAMMは、exp(-isθN)の影響を吸収する性質(位相シフトに対して不変な性質)をもつ。すなわち、状態パターンx1をCAMMの平衡状態として記銘させると、状態x1をsθN(sは任意の整数)だけ位相をシフトした状態exp(-isθN)x1もまたCAMMの平衡状態となる。(ただし、この場合、複素ニューロンの量子化数KはNの整数倍に設定しておくものとする。)言い換えると、CAMMはx1もexp(-isθN)x1も区別なく平等に記憶する。こうして、(H)と(I)の性質を用いることにより回転に不変な連想記憶システムを実現できる。
【0055】
(J) 残る問題は、各CAMMが想起した結果からどのようにして想起画像を再構成するかである。各CAMMが想起した結果をそのまま逆2次元離散フーリエ変換(2-D IDFT)をして実数領域に変換しても正しい想起画像は得られない。各CAMMが想起した結果より、回転による影響項exp(-isθN)の位相分を補正する必要がある。
【0056】
そこで、各CAMMの中に上記補正量を検出するためのニューロンを新たに埋め込んでおく(これにより各CAMMのニューロン数はR+1個となる)。このニューロンはあらかじめ決められた位相(これを基準位相とする)でCAMMに記憶させておき、毎回想起処理が完了した時にこのニューロンの位相を調べ、基準位相とのズレから上記補正量を検出するものとする。
【0057】
(K) CAMMの補正処理された想起結果より、下図の形式の行列νa(m',n')を作成する。νa(m',X+1)からνa(m',N-X-1)の各列には0を補う。
(L) この行列{νa(m',n')}から次式(10)を用いて想起画像{ua(m,n)}が得られる。
【数10】
Figure 0004171833
【0058】
発明の実施の形態1では、仮想内視鏡データベースに格納すべき画像として、カメラ画像の回転を5度おきに設定するというステップを用いた。しかし、上述の処理を用いることにより、この回転が不要になる。結果的に、データベースのサイズが、5度おきの回転の場合で、5/360=1/72になる効果がある。これは、類似度評価の計算時間が1/72になることを意味する。さらに、画像に雑音が混入した場合でも正しく推定が可能になる効果もある。
【0059】
発明の実施の形態6.
この実施の形態のハイブリッドシステムでは、検査対象のMRI、CTなどの3次元画像データに基づく仮想内視鏡画像を用いずに、硬性内視鏡像をMRレンダリング像で補間する。硬性内視鏡像の場合は、従来の技術として説明した機械方式(例えば、Kosugi et al, An Articulated Neurosurgical Navigation System Using MRI and CT Images (IEEE Transactions on Biomedical Engineering, Vol. 35, No. 2, February 1988)、および、米国特許5050608号 (E. Watanabe, Y. Kosugi, and S. Manaka: System for indicating a position to be operated in a patient's body)に相当する。図15に示すように、ロータリーエンコーダを有する多関節アームナビゲーション装置により硬性内視鏡先端の位置座標および姿勢を求めることができる。図16にハイブリッドシステムでの処理の流れ図を示す。まず、ランドマークとなりそうな場所の硬性内視鏡画像と硬性内視鏡先端の3次元位置と姿勢を複数地点で手術準備のために取得して、データベース化する(S20)。続いて、光ファイバー方式のやわらかい内視鏡に交換して、手術を行う(図17参照)。ここで、光ファイバー内視鏡を進行させながら得られた光ファイバー内視鏡画像と類似度が高い硬性内視鏡画像をデータベースから選ぶ(S22)。そして、類似度が高く画像が選ばれた地点の近傍においては、異種画像の類似度評価により局所的な探索を行う(S24)。この場合、硬性内視鏡と光ファイバー方式の内視鏡画像は同種画像であり、データベースによる類似度の評価は容易である。したがって、ランドマークとなる要所要所では、精度良く光ファイバー方式の内視鏡先端位置を知ることができる。また、これらのランドマーク近傍においては、異種画像の類似度評価になるが、局所的な探索で良いので、似たような別の場所の誤認知の確率を低減でき、安全なナビゲーションが実行できる。そもそも似たような場所を間違えないようにするための道具なので、ミスは許されないため、本手法は有用である。そして、求まった仮想内視鏡画像に対するカメラの位置と姿勢の情報を出力する(S26)。そして、この結果に基いて、図2や図9で説明したように重畳して表示を行う。
【0060】
発明の実施の形態7.
また、類似性については、適応的非線形写像実施後の最終マッチングスコアによる類似度評価を用いる方法も考えられる。この処理が有効な場合は、これまで述べてきた方法のいずれかで類似度を評価しても、十分高い類似度が得られなかった場合である。もし内視鏡挿入に伴い組織が局所的に歪んだ場合、実内視鏡画像に含まれる空間的な非線形ひずみを考慮して類似度を評価する必要がある。具体的には、内視鏡画像または計算した仮想内視鏡画像を空間的に弾性変形のようなひずみを与えて変形させながら、類似度が上昇する変形パターンを探索する。このような適応的非線形写像の詳細は、特許公報第2860048号「非線形画像変換装置および標準画像計算方法」に記載されているので、詳細は省略するが、図18と図19で簡単に説明する。
【0061】
図18は、適応的非線形写像実施後の最終マッチングスコアによる類似度評価を用いる処理の流れ図である。まず、第1画像のデータから、第1画像を所定の数に分割して小エリアのデータを生成し、第1画像層のデータとして保存する(S30)。例えば、図19に示すように4×4 個(16個)の小エリアに分割される。次に、第2画像のデータを保存する(S32)。たとえば、第1画像が実内視鏡画像で、第2画像が仮想内視鏡画像である。
【0062】
そして、第1画像の各小エリアのデータに対して、各小エリアの位置を示す位置ベクトルに移動ベクトルを加算して、位置をスライドさせる(S34)。なお、各小エリアに対応する移動ベクトルDの初期値はいずれも0ベクトルである。次に、スライド後の第1画像の各小エリアと第2画像の各小エリアとの類似度が最も高い移動量(増分ベクトル)を各小エリアごとに探索する(S36)。類似度の評価はこれまで述べてきた方法のいずれかを用いる。すなわち、相関係数、2乗誤差などである。
【0063】
次に、小エリアごとにばらばらに計算した移動ベクトルを平滑化する(S38)。これは隣接する小エリアごとの移動ベクトルの変化を滑らかにするためである。ただし、滑らかにする度合はステップS34ないしS38の処理を反復する反復ループの周回回数により変化させる。このように、ループの周回回数により平滑化の度合を変化させるので、この処理は適応的非線形写像と呼ばれる。ここで、最初はあまり平滑化せずに、個々の小エリアごとの特性を重視し、だいたい局所的には類似度が向上したら、最後に周囲との連続性を考慮して、移動ベクトルを滑らかに変化させる。このように、反復するため、反復ループ内では移動ベクトルの計算は前回の移動後の画像から始める。すなわち、移動量の増分ベクトルをループを反復するたびに計算していく。したがって、反復2回目以降は増分ベクトルを計算後に、全体的な移動ベクトルを求める計算(ステップS40)が必要になる。類似度が十分向上すれば、すなわち、マッチングが成功すれば(S42でYES)、全画素に対する移動ベクトルを計算する(S44)。これにより、操作者は画面上で移動ベクトルを考慮して表示された実内視鏡画像と仮想内視鏡画像を観察できる。
【0064】
発明の実施の形態8.
発明の実施の形態1でも説明したように、実内視鏡画像と仮想内視鏡画像は、互いに回転の自由度があるので、カメラを5度おきに回転して仮想内視鏡画像を生成してデータベースを構築する。次に、類似度が最大の仮想内視鏡画像を検索するために、データベース内のすべての画像を評価する必要がある。これは、カメラの回転角と実内視鏡画像と仮想内視鏡画像の類似度との関係があらかじめ不明であるためやむをえない。図6の実内視鏡画像と仮想内視鏡画像の類似度と回転角の関係を計算した1例を以下に示す。回転は仮想内視鏡画像に対して行った。
【0065】
図20は、直交座標系で類似度を評価した結果のグラフである。類似度としては、あらかじめ実内視鏡画像と仮想内視鏡画像の各画像の最大値を1に規格化した後で、対応する画素ごとの強度差の2乗和(Error)を用いた。もちろん、段落0031で説明した相関値を用いてもよい。類似度が画素強度値の2乗和(縦軸ではErrorと表記)で与えているので、その最小値を与えるときに最大の類似度となる。角度(Rotation)を変化させた場合に、最大の類似度は角度0〜30度で与えられるが、130度付近にも極小値が存在し、通常の分割法、2次補間法などの最適化手法を用いて探索を高速化した場合に、真の角度が求められない可能性を示している。また、回転角が0〜30度とかなりあいまいな解になっている。
【0066】
ところが、上記2つの画像を極座標に変換した後、類似度を評価すると、図21のグラフのように、誤差(Error)の最小値は、他の極小値もなく、回転角(Rotation)0度として明確に与えられることが分かった。このため、通常の分割法、2次補間法などの最適化手法を用いて探索を最適化した場合に、真の角度を求めることができることを示している。なお、変換前の画像(直交座標系)をA(x,y)、極座標系に変換後の画像をA(r、theta)とすると、
r=(X+Y1/2、 theta=tan−1(y/x)
により、極座標系に変換後の画像A(r、theta)の各成分を計算できる。以上から、あらかじめ画像を極座標系に変換した後に類似度を評価すると、評価が高速化できる効果があることがわかった。
【0067】
発明の実施の形態9.
次に、仮想内視鏡画像データベースの探索を高速化する方法を説明する。ここで、内視鏡を体内に導入した初期位置情報を用いて、仮想内視鏡画像データベースを十分絞り込んで探索する。図22は、その処理の流れ図を示す。すなわち、MRI画像またはCT画像を取得するときに、内視鏡を体内に導入する初期位置を液体を封入した微小球マーカを体表に貼り付けることにより、仮想内視鏡画像の初期カメラ位置を決定する(S50)。さらに内視鏡を前進させた場合に、探索範囲を常に前回の探査位置の近傍とする(S52)。このとき、前回と今回の内視鏡の挿入距離の差分に相当する探索半径を基に、仮想内視鏡データベース内の探索を実施する(S54)。これにより探索を高速化・高精度化できる。
【0068】
発明の実施の形態10.
上述の各種処理により内視鏡先端位置が推定される。ここで、好ましくは、過去に推定した内視鏡先端位置を時系列で並べたときに外挿される現在の予測位値から著しく逸脱した位置を解としようとした場合に、その解をリジェクトする。図23は、その処理の流れ図を示す。内視鏡位置の推定値を入力する(S60)。一方、過去に推定した内視鏡先端位置を時系列で並べたときに外挿される現在の予測位値を計算し(S62)、内視鏡位置の推定値と比較する(S64)。2つの値の差が所定の値より小さければ採用するが、2つの値の差が所定の値以上であれば、推定値を採用しない。これにより、探索の誤りを防止する。
【0069】
【発明の効果】
本発明による内視鏡誘導装置および方法によれば、検査対象の仮想内視鏡画像と内視鏡先端の位置および姿勢の情報からなるデータベースと実内視鏡画像を実時間で比較することにより、高度な画像診断技術によって与えられた患部へ、迅速かつ正確に内視鏡を誘導することが可能になる。たとえば、腫瘍摘出手術にあっては、残存する腫瘍組織を最低限に抑え、かつ短時間で、また患者への侵襲を最小限にとどめた形で手術を実施することが可能になり、ひいては患者の延命、早期退院を実現することが可能になる。
【0070】
また、検査対象の3次元画像データ(CT画像、MRI画像などの診断画像)に基づいて仮想内視鏡画像と比較するので、実内視鏡画像との比較が容易になる。
【0071】
また、硬性内視鏡により得られた画像と、その画像を得たときの硬性内視鏡先端の位置および姿勢の情報を用いるので、硬性内視鏡と光ファイバー方式の内視鏡画像は同種画像であるため、データベースによる類似度の評価は容易になる。
【0072】
また、内視鏡先端部の位置と姿勢を、2次元断面表示または3次元表示された検査対象の画像に重畳して表示するので、内視鏡手術従事者は、位置と方向の判断を誤ることなく複雑な手術を続行できる。
【0073】
また、内視鏡画像にも体内表層下の患部(腫瘍など)を重畳して表示できるので、正確な内視鏡下での手術を実施できる。
【0074】
また、さらに、検査対象の3次元画像データに基づいて仮想内視鏡画像を計算する画像生成手段を備えるので、多数の内視鏡先端の位置と姿勢での仮想内視鏡画像からなるデータベースを構築できる。
【0075】
また、ジョイントヒストグラムまたは2次元ヒストグラムと呼ばれる図を用いて異種画像の位置合わせを行うので、最も類似度が高い仮想内視鏡画像を容易に決定できる。
【0076】
また、前記の比較手段は相互情報量を用いるので、最も類似度が高い仮想内視鏡画像を容易に決定できる。
【0077】
また、回転操作に不変な複素数連想処理を採用するので、仮想内視鏡画像のデータベースの小規模化および対ノイズ性能の向上が図れる。
【0078】
また、前記の比較手段は適応的非線形写像実施後の最終マッチングスコアによる類似度を用いるので、最も類似度が高い仮想内視鏡画像を容易に決定できる。
【0079】
また、前記の比較手段は画像を極座標系に変換した後に類似度を評価するので、評価が高速化できる。
【0080】
また、内視鏡を前進させた場合に、探索範囲を前回の探索範囲の近くとして仮想内視鏡画像のデータベース内の探索を実施するので、探索を高速化できる。
【0081】
また、好ましくは、内視鏡先端の推定位置が予測位値から著しく逸脱した位置である場合にその推定位置を採用しないので、誤った推定を防止できる。
【図面の簡単な説明】
【図1】 内視鏡誘導装置のブロック図
【図2】 内視鏡誘導プログラムの流れ図
【図3】 仮想内視鏡画像データベース計算の流れ図
【図4】 仮想内視鏡画像データベースの生成における視点情報の設定処理の流れ図
【図5】 内視鏡画像のグレースケール化を用いた探索処理の流れ図
【図6】 最も一致する仮想内視鏡画像データベース内に蓄積された画像を決定した処理の一例を示す図
【図7】 現時点の内視鏡先端部の3次元位置およびカメラの向きを直交3平面画像上に矢印として重畳して表示した図
【図8】 現時点の内視鏡先端部の3次元位置およびカメラの向きを直交3平面画像上に矢印として重畳して表示した図
【図9】 内視鏡誘導プログラムの流れ図
【図10】 腫瘍位置を重畳して表示した図
【図11】 画像比較処理の流れ図
【図12】 実内視鏡画素値と仮想内視鏡画素値の2次元グラフ
【図13】 相互情報量を用いる画像比較処理の流れ図
【図14】 回転に不変な連想記憶システムの基本的な考え方を説明するための図
【図15】 硬質内視鏡を用いて内視鏡画像とその姿勢情報を得ることを示す図
【図16】 ハイブリッドシステムでの処理の流れ図
【図17】 光ファイバー方式の軟内視鏡に交換して手術を行う状況を示す図
【図18】 適応的非線形写像実施後の最終マッチングスコアによる類似度評価を用いる処理の流れ図
【図19】 小エリアへの分割を示す図
【図20】 直交座標系における実内視鏡画像と仮想内視鏡画像の類似度と回転角の関係のグラフ
【図21】 極座標系における実内視鏡画像と仮想内視鏡画像の類似度と回転角の関係のグラフ
【図22】 仮想内視鏡画像データベースの探索を高速化する処理の流れ図
【図23】 現在の予測位値から著しく逸脱した位置を採用しない処理の流れ図
【符号の説明】
10 ネットワークコントローラ、 12 ハードディスク、 14 CPU、 16 入力装置、 18 メモリ、 22 モニター。

Claims (13)

  1. 検査対象の仮想内視鏡画像と内視鏡先端の位置および姿勢の情報からなるデータベースを記憶する記憶手段と、
    検査対象の実軟性内視鏡画像を取得する入力手段と、
    前記実内視鏡画像を前記データベース内の仮想内視鏡画像と比較して、前記内視鏡画像と最も類似度が高い仮想内視鏡画像を決定する比較手段と、
    決定された仮想内視鏡画像の情報から、前記実内視鏡画像に対応する軟性内視鏡先端部の位置と姿勢を決定する決定手段と
    を有する内視鏡誘導装置。
  2. 前記の仮想内視鏡画像は、検査対象の3次元画像データに基づいて生成された画像であることを特徴とする請求項1に記載された内視鏡誘導装置。
  3. 前記の仮想内視鏡画像と内視鏡先端の位置および姿勢の情報は、硬性内視鏡により得られた画像と、その画像を得たときの硬性内視鏡先端の位置および姿勢の情報であることを特徴とする請求項1に記載された内視鏡誘導装置。
  4. さらに、決定手段により決定された内視鏡先端部の位置と姿勢を、2次元断面表示または3次元表示された検査対象の画像に重畳して表示装置の画面に表示する表示手段とを備えることを特徴とする請求項1ないし請求項3のいずれかに記載の内視鏡誘導装置。
  5. 前記の表示手段は、さらに、実内視鏡画像またはそれと最も類似度が高い仮想内視鏡画像に、当該画像では表示されていない体内の患部を重畳して表示することを特徴とする請求項1ないし請求項4のいずれかに記載の内視鏡誘導装置。
  6. さらに、検査対象の3次元画像データに基づいて仮想内視鏡画像を計算する画像生成手段を備え、この画像生成手段は、設定された内視鏡先端の位置と姿勢ごとに、それに基いて3次元画像データの補間演算とレンダリング演算を実行して仮想内視鏡画像を取得することを特徴とする請求項1ないし請求項5のいずれかに記載の内視鏡誘導装置。
  7. 前記の比較手段は、画素位置(i,j)における実内視鏡画像の画素値と仮想内視鏡画像の画素値を、実内視鏡画像の画素値と仮想内視鏡画像の画素位置を座標軸とする2次元グラフにプロットしたときに最も少ない面積上に分布する仮想内視鏡画像をデータベースから探索し、最も類似度が高い仮想内視鏡画像とすることを特徴とする請求項1ないし請求項6のいずれかに記載の内視鏡誘導装置。
  8. 前記の比較手段は、相互情報量が最大の仮想内視鏡画像を仮想内視鏡画像データベースから探索し、最も類似度が高い仮想内視鏡画像とすることを特徴とする請求項1ないし請求項7のいずれかに記載の内視鏡誘導装置。
  9. 前記の比較手段は、適応的非線形写像を実施した後の最終マッチングスコアによる類似度を用いることを特徴とする請求項1ないし請求項のいずれかに記載の内視鏡誘導装置。
  10. 前記の比較手段は、内視鏡を前進させた場合に、探索範囲を常に前回の探索範囲の近傍とし、前回と今回の内視鏡の挿入距離の差分に相当する探索半径を基に、仮想内視鏡画像のデータベース内の探索を実施することを特徴とする請求項1ないし請求項のいずれかに記載の内視鏡誘導装置。
  11. 前記の比較手段は、実内視鏡画像と仮想内視鏡画像をそれぞれ極座標系に変換した後、最も類似度が高い仮想内視鏡画像を選ぶことを特徴とする請求項1ないし請求項10のいずれかに記載の内視鏡誘導装置。
  12. 前記の比較手段は、類似度の評価において、あらかじめ実内視鏡画像と仮想内視鏡画像の各画像の画素強度の最大値を1に規格化した後、対応する画素との強度差の2乗和を用いたことを特徴とする請求項1ないし請求項11のいずれかに記載の内視鏡誘導装置。
  13. 前記の決定手段は、前記の比較手段により得られた内視鏡先端の推定位置が、過去に推定した内視鏡先端位置を時系列で並べたときに外挿される現在の予測位値から著しく逸脱した位置である場合にその推定位置を採用しないことを特徴とする請求項1ないし請求項1のいずれかに記載の内視鏡誘導装置。
JP2002075882A 2002-03-19 2002-03-19 内視鏡誘導装置および方法 Expired - Fee Related JP4171833B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002075882A JP4171833B2 (ja) 2002-03-19 2002-03-19 内視鏡誘導装置および方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002075882A JP4171833B2 (ja) 2002-03-19 2002-03-19 内視鏡誘導装置および方法

Publications (2)

Publication Number Publication Date
JP2003265408A JP2003265408A (ja) 2003-09-24
JP4171833B2 true JP4171833B2 (ja) 2008-10-29

Family

ID=29204839

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002075882A Expired - Fee Related JP4171833B2 (ja) 2002-03-19 2002-03-19 内視鏡誘導装置および方法

Country Status (1)

Country Link
JP (1) JP4171833B2 (ja)

Cited By (2)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102883651A (zh) * 2010-01-28 2013-01-16 宾夕法尼亚州研究基金会 可应用于支气管镜引导的基于图像的全局配准系统和方法
US12048501B2 (en) 2019-04-03 2024-07-30 Canon Medical Systems Corporation Medical image diagnosis apparatus, surgery assistance robot apparatus, surgery assistance robot controlling apparatus, and controlling method

Families Citing this family (55)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP4022114B2 (ja) * 2002-08-30 2007-12-12 オリンパス株式会社 内視鏡装置
JP4464640B2 (ja) * 2003-09-01 2010-05-19 オリンパス株式会社 工業用内視鏡装置
JP4615842B2 (ja) * 2003-10-09 2011-01-19 オリンパス株式会社 内視鏡システムおよび内視鏡画像処理装置
JP4573517B2 (ja) * 2003-10-29 2010-11-04 オリンパス株式会社 挿入支援システム
JP4546064B2 (ja) * 2003-10-31 2010-09-15 オリンパス株式会社 挿入シミュレーション装置
JP4323288B2 (ja) * 2003-10-31 2009-09-02 オリンパス株式会社 挿入支援システム
JP2005202791A (ja) * 2004-01-16 2005-07-28 Med Solution Kk 画像を生成する方法、装置およびプログラム
JP4354283B2 (ja) * 2004-01-20 2009-10-28 本田技研工業株式会社 排気還流装置のリーク検出装置
JP4698966B2 (ja) 2004-03-29 2011-06-08 オリンパス株式会社 手技支援システム
JP4630777B2 (ja) * 2004-09-13 2011-02-09 キヤノン株式会社 デジタル文書を変更する方法、装置、コンピュータプログラム及び記憶媒体
JP5525727B2 (ja) * 2005-05-23 2014-06-18 ザ ペン ステイト リサーチ ファンデーション 3d−2d姿勢推定に基づく案内方法及び生の気管支鏡検査への応用を有する3d−ctレジストレーション
JP4915836B2 (ja) * 2005-12-15 2012-04-11 株式会社日立メディコ 画像処理装置の作動方法、プログラム、及び装置
US8199984B2 (en) 2006-05-02 2012-06-12 National University Corporation Nagoya University System that assists in observing a luminal organ using the structure of the luminal organ
US8672836B2 (en) * 2007-01-31 2014-03-18 The Penn State Research Foundation Method and apparatus for continuous guidance of endoscopy
JP4937843B2 (ja) * 2007-06-11 2012-05-23 株式会社日立メディコ 医用画像表示装置、医用画像表示方法及びプログラム
JP5372407B2 (ja) 2008-05-23 2013-12-18 オリンパスメディカルシステムズ株式会社 医療機器
JP5188879B2 (ja) * 2008-05-23 2013-04-24 オリンパスメディカルシステムズ株式会社 医療機器
JP5372406B2 (ja) * 2008-05-23 2013-12-18 オリンパスメディカルシステムズ株式会社 医療機器
JP5358856B2 (ja) * 2009-04-24 2013-12-04 公立大学法人首都大学東京 医用画像処理装置及び方法
JP5836267B2 (ja) * 2009-05-18 2015-12-24 コーニンクレッカ フィリップス エヌ ヴェKoninklijke Philips N.V. 電磁追跡内視鏡システムのためのマーカーなし追跡の位置合わせおよび較正のための方法およびシステム
JP5322794B2 (ja) * 2009-06-16 2013-10-23 株式会社東芝 内視鏡検査支援システム
CN103068294B (zh) 2011-01-24 2015-06-24 奥林巴斯医疗株式会社 医疗设备
WO2012106310A1 (en) * 2011-02-04 2012-08-09 The Penn State Research Foundation Method and device for determining the location of an endoscope
JPWO2012108085A1 (ja) * 2011-02-08 2014-07-03 オリンパスメディカルシステムズ株式会社 医療機器
JP2012165838A (ja) * 2011-02-10 2012-09-06 Nagoya Univ 内視鏡挿入支援装置
EP2785270B1 (en) * 2011-12-03 2019-05-01 Koninklijke Philips N.V. Automatic depth scrolling and orientation adjustment for semi-automated path planning
JP5807826B2 (ja) * 2012-03-29 2015-11-10 パナソニックヘルスケア株式会社 手術支援装置および手術支援プログラム
JP6233913B2 (ja) * 2013-01-07 2017-11-22 晃 竹林 内視鏡向けナビゲーション装置
GB201303712D0 (en) 2013-03-01 2013-04-17 Geissler Michael P A Optical navigation & positioning system
EP2904958A4 (en) * 2013-03-12 2016-08-24 Olympus Corp ENDOSCOPE SYSTEM
JP5418952B1 (ja) * 2013-03-22 2014-02-19 株式会社国際電気通信基礎技術研究所 脳活動測定装置および脳活動測定方法
WO2014171391A1 (ja) * 2013-04-15 2014-10-23 オリンパスメディカルシステムズ株式会社 内視鏡システム
JP6145870B2 (ja) * 2013-05-24 2017-06-14 富士フイルム株式会社 画像表示装置および方法、並びにプログラム
JP6594133B2 (ja) * 2015-09-16 2019-10-23 富士フイルム株式会社 内視鏡位置特定装置、内視鏡位置特定装置の作動方法および内視鏡位置特定プログラム
US9947091B2 (en) * 2015-11-16 2018-04-17 Biosense Webster (Israel) Ltd. Locally applied transparency for a CT image
US10022192B1 (en) * 2017-06-23 2018-07-17 Auris Health, Inc. Automatically-initialized robotic systems for navigation of luminal networks
WO2019045144A1 (ko) 2017-08-31 2019-03-07 (주)레벨소프트 의료용 항법 장치를 위한 의료 영상 처리 장치 및 의료 영상 처리 방법
KR101977650B1 (ko) * 2017-08-31 2019-05-13 (주)레벨소프트 증강 현실을 이용한 의료 영상 처리 장치 및 의료 영상 처리 방법
JP6879376B2 (ja) * 2017-09-14 2021-06-02 株式会社島津製作所 放射線撮影装置
JP7115493B2 (ja) * 2017-11-01 2022-08-09 ソニーグループ株式会社 手術アームシステム及び手術アーム制御システム
WO2019130868A1 (ja) * 2017-12-25 2019-07-04 富士フイルム株式会社 画像処理装置、プロセッサ装置、内視鏡システム、画像処理方法、及びプログラム
JP7023196B2 (ja) 2018-07-13 2022-02-21 富士フイルム株式会社 検査支援装置、方法およびプログラム
JP7023195B2 (ja) 2018-07-13 2022-02-21 富士フイルム株式会社 検査支援装置、方法およびプログラム
JP7071240B2 (ja) 2018-07-26 2022-05-18 富士フイルム株式会社 検査支援装置、方法およびプログラム
CN109223177A (zh) * 2018-07-30 2019-01-18 艾瑞迈迪医疗科技(北京)有限公司 图像显示方法、装置、计算机设备和存储介质
EP3854294A4 (en) 2018-09-20 2021-10-20 NEC Corporation POSITION ESTIMATE DEVICE, POSITION ESTIMATE METHOD, AND COMPUTER READABLE RECORDING MEDIUM
CN109934934B (zh) * 2019-03-15 2023-09-29 广州九三致新科技有限公司 一种基于增强现实的医疗图像显示方法及装置
WO2021010225A1 (ja) * 2019-07-18 2021-01-21 Hoya株式会社 コンピュータプログラム、情報処理方法、及び内視鏡用プロセッサ
CN112315582B (zh) * 2019-08-05 2022-03-25 罗雄彪 一种手术器械的定位方法、系统及装置
WO2021054360A1 (ja) * 2019-09-20 2021-03-25 Hoya株式会社 内視鏡用プロセッサ、プログラム、情報処理方法及び情報処理装置
JP7377769B2 (ja) * 2020-06-08 2023-11-10 Hoya株式会社 プログラム、情報処理方法及び情報処理装置
CN112641514B (zh) * 2020-12-17 2022-10-18 杭州堃博生物科技有限公司 一种微创介入导航系统与方法
CN115024679A (zh) * 2022-04-14 2022-09-09 中山大学孙逸仙纪念医院 可视化气管插管内镜导丝结构及其智能化模块的管理方法
CN116744088A (zh) * 2023-06-28 2023-09-12 南京晨新医疗科技有限公司 一种内窥镜成像系统及其数据传输方法
CN120931518B (zh) * 2025-07-24 2026-04-17 深圳麦默康医疗科技有限公司 基于深度学习的纤维内窥镜动态摩尔纹消除方法

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN102883651A (zh) * 2010-01-28 2013-01-16 宾夕法尼亚州研究基金会 可应用于支气管镜引导的基于图像的全局配准系统和方法
CN102883651B (zh) * 2010-01-28 2016-04-27 宾夕法尼亚州研究基金会 可应用于支气管镜引导的基于图像的全局配准系统和方法
US12048501B2 (en) 2019-04-03 2024-07-30 Canon Medical Systems Corporation Medical image diagnosis apparatus, surgery assistance robot apparatus, surgery assistance robot controlling apparatus, and controlling method

Also Published As

Publication number Publication date
JP2003265408A (ja) 2003-09-24

Similar Documents

Publication Publication Date Title
JP4171833B2 (ja) 内視鏡誘導装置および方法
US10881353B2 (en) Machine-guided imaging techniques
US9498132B2 (en) Visualization of anatomical data by augmented reality
CN107106241B (zh) 用于对外科器械进行导航的系统
CN101474075B (zh) 微创手术导航系统
CN107847274B (zh) 用于在机器人外科手术期间提供更新后的患者图像的方法和装置
US20190038365A1 (en) Systems and methods of pose estimation and calibration of perspective imaging system in image guided surgery
CN116485850B (zh) 基于深度学习的手术导航影像的实时非刚性配准方法及系统
Wu et al. Three-dimensional modeling from endoscopic video using geometric constraints via feature positioning
CN111093505B (zh) 放射线拍摄装置以及图像处理方法
KR101504162B1 (ko) 의료 화상용 정보처리장치, 의료 화상용 촬영 시스템 및 의료 화상용 정보처리방법
JP5832938B2 (ja) 画像処理装置、方法及びプログラム
JP2017035469A (ja) 画像処理装置、画像処理方法、およびプログラム
US20170270678A1 (en) Device and method for image registration, and non-transitory recording medium
JP7635469B2 (ja) 探索画像を用いた術前ボリューム画像データの自動記録
CN115153835A (zh) 基于特征点配准与增强现实的髋臼假体放置引导系统及方法
Alam et al. Evaluation of medical image registration techniques based on nature and domain of the transformation
CN116612161B (zh) 用于医学图像配准的数据集的构建方法和装置
KR20160057024A (ko) 마커리스 3차원 객체추적 장치 및 그 방법
US20220249174A1 (en) Surgical navigation system, information processing device and information processing method
JP2002360574A (ja) 可視化した医学的な測定結果を空間的な情報を含む別のデータセットと共に調整するための方法および装置
Ma et al. Feasibility of pointcloud-based ultrasound-CT registration towards automated, robot-assisted image-guidance in spine surgery
CN116831729A (zh) 一种手术机器人内窥镜视野下器械提示方法及系统
JP7495216B2 (ja) 鏡視下手術支援装置、鏡視下手術支援方法、及びプログラム
Lin et al. Optimization model for the distribution of fiducial markers in liver intervention

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20020416

A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20020319

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20020416

A80 Written request to apply exceptions to lack of novelty of invention

Free format text: JAPANESE INTERMEDIATE CODE: A80

Effective date: 20020416

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050209

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050316

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20050316

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050316

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20071129

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080415

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080502

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080502

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080612

A711 Notification of change in applicant

Free format text: JAPANESE INTERMEDIATE CODE: A711

Effective date: 20080627

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080708

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A821

Effective date: 20080627

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080725

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110822

Year of fee payment: 3

LAPS Cancellation because of no payment of annual fees