JPH0926547A - 内視鏡画像処理装置 - Google Patents

内視鏡画像処理装置

Info

Publication number
JPH0926547A
JPH0926547A JP7173618A JP17361895A JPH0926547A JP H0926547 A JPH0926547 A JP H0926547A JP 7173618 A JP7173618 A JP 7173618A JP 17361895 A JP17361895 A JP 17361895A JP H0926547 A JPH0926547 A JP H0926547A
Authority
JP
Japan
Prior art keywords
image
target object
distance
estimating
point
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Withdrawn
Application number
JP7173618A
Other languages
English (en)
Inventor
Nagaaki Ooyama
永昭 大山
Masahiro Yamaguchi
雅浩 山口
Jun Hasegawa
潤 長谷川
Tetsuo Nonami
徹緒 野波
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP7173618A priority Critical patent/JPH0926547A/ja
Publication of JPH0926547A publication Critical patent/JPH0926547A/ja
Withdrawn legal-status Critical Current

Links

Landscapes

  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Abstract

(57)【要約】 【課題】 同一の対象物体に対して異なる位置から撮像
された画像を基に対象物体までの絶対的な距離を精度良
く容易に推定する。 【解決手段】 同一の対象物体に対して撮像手段を移動
しながら異なる位置より撮像した複数の画像を取り込
み、一旦メモり61に格納する。この複数の画像を基
に、相対形状推定手段62,距離推定手段63,絶対形
状推定手段64により、対象物体の相対的な形状と、撮
像手段から対象物体上の適当な位置までの距離とを推定
し、得られた対象物体の相対形状及び対象物体までの距
離から、対象物体の絶対的な形状を推定する。求めた対
象物体の形状の画像データを一旦メモリ65に格納し、
モニタ5に入力して対象物体の立体形状画像を表示す
る。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、同一の対象物体に
対して異なる位置から撮像された画像を用いて撮像手段
から対象物体までの距離を推定する内視鏡画像処理装置
に関する。
【0002】
【従来の技術】視野に重なりをもって配置された撮像手
段の、相対的な配置が既知の場合に、撮像された画像か
ら対象物の形状を推定する問題に対しては、いわゆるス
テレオ画像からの形状推定問題として種々の方法が提案
されている。
【0003】さらに近年では、動きからの3次元構造抽
出についていくつかの提案がなされている。これは複数
の画像から撮像手段の相対的な移動をも推定しようとす
る手法である。
【0004】これらの手法はいずれも、複数の画像間で
対象物上の同一の点の各画像上における位置が関連付け
られることを原情報として用いる。
【0005】対象物上の同一の点の各画像上における位
置の検出に対しても種々の方法が提案されている。人工
的な対象物の場合、角、輪郭成分が明瞭であることが多
いため、線分抽出等の構造抽出による手法は有効である
が、一般的な自然画像に対しては適用が難しい。時系列
画像に対してしばしば用いられる濃度勾配法は、画像間
での対象物の見かけの移動が非常に小さく、画像品質が
良い場合には良好な結果が得られるが、撮像条件の制約
が大きい。
【0006】そこで一般的には、画像上の着目点とその
周辺領域を参照領域として抽出し、探索対象物の画像上
から抽出した領域との間で相関演算を行い最大相関値を
与える位置を対応点とする手法(ブロックマッチング)
がしばしば用いられる。このブロックマッチング法は画
像上のテクスチャが明瞭であれば比較的安定した結果を
もたらすが、テクスチャが不明瞭な場合には誤った対応
点を検出してしまうことがある。
【0007】さらに本質的な欠点として、対象物が立体
でありブロック内に例えば背景との境界を含む場合には
検出結果は信頼できない。また、対象物面が撮像手段に
対して傾いている、あるいは距離の差がある等、複数の
撮像手段の画像間での像の変形が大きい、または像の大
きさの差異が大きい場合も信頼できない。
【0008】立体形状の推定に関わる問題としてはオク
ルージョン及び推定結果の整合の問題が挙げられる。特
に、ステレオからの推定においては対象物の背後に隠
れ、撮像されない部分、あるいは一方の撮像手段のみに
撮像される部分とが存在し、これらの領域の扱いが問題
となる。
【0009】撮像手段の数が多ければ必然的に撮像され
る領域は多くなり、隠される領域は少なくなるが、特に
撮像手段の位置が既知でない場合、あるいは推定が正確
でない場合には、これらの画像間の整合は容易でない。
【0010】このように従来提案されてきた手法のほと
んどは、人工物を撮像した画像を対象物としているか、
または、自然画像を対象物とした場合に当然発生するこ
れらの問題に対し、いずれかの仮定をおくことにより、
影響を除外あるいは軽減した条件において考察されてお
り、実用上十分な能力をもっているとは言えない。
【0011】例えば、従来提案されている手法の適用が
困難であり、かつ、機能が実現された場合に実用的な価
値の大きい画像の種類として、生体用内視鏡から得られ
る画像がある。
【0012】細長の挿入部を体腔内に挿入することによ
って、切開を必要とすることなく、体腔内の患部等を観
察したり、必要に応じ処置具を用いて治療処置のできる
内視鏡においては、先端部の大きさは機能上最小限に抑
える必要があるため、医師が観察、あるいは処置を行う
ために必要な部材以外は組み込むことができない。
【0013】経内視鏡的に対象物の形状を把握すること
に関して既にいくつかの提案がなされている。例えば観
察対象物に対しパターン光等を投影する方式(特開昭6
3−240831号公報)、先端部に複眼を持つ方式
(特開昭63−244011号公報)であるが、いずれ
も内視鏡先端部あるいは光源部に特殊な構造が要求され
るため、装置の大型化、複雑化を招き一般的に用いるこ
とが難しい。
【0014】同一出願人による特開昭63−24671
6号公報には内視鏡先端を手元操作により移動させて得
た複数の画像から対象物形状を推定する手法及び、操作
に伴う先端の移動量を計測する計測機構が開示されてい
る。この方法によれば現内視鏡の機能を損なうことな
く、絶対的な対象物形状の推定を行うことができる。
【0015】また、同一出願人による特開平6−728
9号公報では、対象となる物体のそばに大きさが既知な
基準物を置いて、内視鏡先端を手元操作により移動させ
て得た複数の画像から対象物と基準物の相対的な形状を
推定する手法及び、対象物のそばに置いた基準物の大き
さから対象物の大きさを推定する手法が開示されてい
る。
【0016】
【発明が解決しようとする課題】前述した特開昭63−
246716号公報の構成では、時系列的に得られた複
数の画像から対象物体の相対的な形状を推定すると共
に、この操作に伴う内視鏡先端の撮像手段の移動量を計
測しその計測値から絶対的な形状を推定することは可能
である。
【0017】しかし、前記計測機構の与え得る精度は撮
像手段の分解能等を考え合わせると不十分ではないまで
も十分であるとは言い難い。
【0018】また、特開平6−7289号公報の構成で
は、時系列的に対象物体を撮像する場合に、対象物体と
共に形状の大きさが既知な基準物を同時に撮像すること
により、対象物体の絶対的な形状を求めるようになって
いる。
【0019】しかし、生体用内視鏡を使って対象物体の
そばに基準物を置いて同時に撮像することは、内視鏡の
操作者にとって大きな負担になるという問題点がある。
【0020】本発明は、これらの事情に鑑みてなされた
もので、同一の対象物体に対して異なる位置から撮像さ
れた画像を基に、撮像手段から対象物体までの絶対的な
距離を精度良く容易に推定することが可能な内視鏡画像
処理装置を提供することを目的としている。
【0021】
【課題を解決するための手段】本発明による内視鏡画像
処理装置は、同一の対象物体に対して異なる位置より撮
像する撮像手段を有する内視鏡と、前記撮像手段により
撮像された複数の画像から、前記対象物体の相対的な形
状を推定する相対形状推定手段と、前記撮像手段から前
記対象物体上の適当な位置までの距離を推定する距離推
定手段と、前記相対形状推定手段により推定された対象
物体の相対形状と前記距離推定手段により推定された対
象物体までの距離とから、前記対象物体の絶対的な形状
を推定する絶対形状推定手段と、を備えたものであり、
この構成によって撮像手段から対象物体までの絶対的な
距離を精度良く推定する。
【0022】
【発明の実施の形態】以下、図面を参照して本発明の実
施の形態を説明する。図1ないし図9は本発明の第1の
実施形態の構成に係り、図1は第1の実施形態における
電子内視鏡システムの全体構成図、図2は電子内視鏡装
置のブロック構成を示すブロック図、図3は画像処理装
置の構成を示すブロック図、図4はCPUで構成した画
像処理手段の機能構成を示すブロック図、図5はハード
ウェアで構成した画像処理手段の構成を示すブロック
図、図6は記録装置の構成を示すブロック図、図7は画
像処理装置の入力部の変形例を示すブロック図、図8は
相対形状推定手段の機能構成を示すブロック図、図9は
距離推定手段の機能構成を示すブロック図である。
【0023】第1の実施形態は、内視鏡システムに対し
て特別な装置を付加したり、装置の構造を変更すること
なく、対象物の絶対的な形状を推定することを可能にし
た構成例を示したものである。
【0024】図1に示すように、内視鏡システム1は、
撮像手段を備えた電子内視鏡装置2と、撮像された画像
に基づいて患部等の対象物の立体形状を推定する画像処
理を行う画像処理装置3と、画像を記録する記録装置4
と、画像処理された画像を表示するモニタ5と、を有し
て構成される。
【0025】電子内視鏡装置2は、電子内視鏡6と、こ
の電子内視鏡6に照明光を供給する光源部7A(図2参
照)と撮像手段に対する信号処理を行う信号処理部7B
とを内蔵した観察装置7と、この観察装置7から出力さ
れる画像信号を表示する観察用モニタ8と、を有して構
成される。
【0026】前記電子内視鏡6は、生体9内に挿入され
る細長の挿入部11と、この挿入部11の後端に形成さ
れた操作部12と、この操作部12から延出されたユニ
バーサルケーブル13とから構成され、このユニバーサ
ルケーブル13の先端に設けたコネクタ14を観察装置
7に接続することができる。
【0027】前記挿入部11内にはライトガイド15が
挿通され、コネクタ14を観察装置7に接続することに
より、図2に示すように光源部7Aから照明光が入射端
面に供給される。照明光はライトガイド15によって伝
送され、先端部16側の端面から前方に出射され、生体
9内の対象部位を照明する。この照明された対象部位は
先端部16に設けた対物レンズ17によってその結像位
置に配置されたCCD18に結像され、光電変換され
る。この対物レンズ17とCCD18とで撮像手段とし
ての撮像部19を形成する。
【0028】前記CCD18で光電変換された画像信号
は観察装置7内の信号処理部7Bにより、信号処理され
て画像信号が生成され、この画像信号は観察用モニタ8
に出力されると共に、画像処理装置3に出力される。
【0029】観察装置7における光源部7Aと信号処理
部7Bの構成を図2に示す。
【0030】光源部7Aは、紫外光から赤外光に至る広
帯域の光を発光するランプ21を備えている。このラン
プ21としては、一般的なキセノンランプやストロボラ
ンプ等を用いることができる。前記キセノンランプやス
トロボランプは、可視光のみならず紫外光及び赤外光を
大量に発光する。このランプ21は、電源22によって
電力が供給されるようになっている。前記ランプ21の
前方には、モータ23によって回転駆動される回転フィ
ルタ28が配設されている。この回転フィルタ28に
は、通常観察用の赤(R),緑(G),青(B)の各波
長領域の光を透過するフィルタが周方向に沿って配列さ
れている。また前記モータ23は、モータドライバ25
によって回転が制御されて駆動されるようになってい
る。
【0031】前記回転フィルタ28を透過し、R,G,
Bの各波長領域の光に時系列的に分離された光は、更に
ライトガイド15の入射端に入射され、このライトガイ
ド15を介して先端部16側の出射端面に導かれ、この
出射端面から前方に出射されて、観察部位等を照明する
ようになっている。
【0032】この照明光による観察部位等の被検体(被
写体)からの戻り光は、対物レンズ17によって、CC
D18上に結像され、光電変換されるようになってい
る。このCCD18には、信号線26を介して、信号処
理部7B内のドライバ31からの駆動パルスが印加さ
れ、この駆動パルスによって光電変換された被検体の画
像に対応した電気信号(画像信号)の読出し、転送が行
われるようになっている。このCCD18から読み出さ
れた画像信号は、信号線27を介して、電子内視鏡6内
又は観察装置7内に設けられたプリアンプ32に入力さ
れるようになっている。
【0033】プリアンプ32で増幅された画像信号は、
プロセス回路33に入力され、γ補正及びホワイトバラ
ンス等の信号処理を施され、A/Dコンバータ34によ
って、デジタル信号に変換されるようになっている。こ
のデジタルの画像信号は、セレクト回路35によって、
例えば赤(R),緑(G),青(B)の各色に対応する
3つのメモリ(1)36a,メモリ(2)36b,メモ
リ(3)36cに選択的に記憶されるようになってい
る。前記メモリ(1)36a,メモリ(2)36b,メ
モリ(3)36cに記憶されたR,G,B色信号は、同
時に読み出され、D/Aコンバータ37によって、アナ
ログ信号に変換され、入出力インタフェース38を介し
てR,G,B色信号として観察用モニタ8に出力され、
この観察用モニタ8によって、観察部位がカラー表示さ
れるようになっている。
【0034】また、観察装置7内には、システム全体の
タイミングを作るタイミングジェネレータ39が設けら
れ、このタイミングジェネレータ39によって、モータ
ドライバ25,ドライバ31,セレクト回路35等の各
回路間の同期が取られている。
【0035】本実施形態では、メモリ(1)36a,メ
モリ(2)36b,メモリ(3)36cの出力端及びタ
イミングジェネレータ39の同期信号出力端は、画像処
理装置3と接続されている。また、画像処理装置3はモ
ニタ5と接続され、このモニタ5には画像処理装置3に
よる演算処理結果が表示されるようになっている。
【0036】図3に前記画像処理装置3の構成を示す。
画像処理装置3は、CPU40、情報入力装置41、R
AMで構成される主記憶装置42、画像入力インタフェ
ース43、表示インタフェース44、ROM45及び記
録装置インタフェース46を備え、これらはバスによっ
て互いに接続されている。
【0037】前記情報入力装置41はキーボード等で構
成され、電子内視鏡6の種別等のデータを入力できるよ
うになっている。前記画像入力インタフェース43は、
メモリ(1)36a,メモリ(2)36b,メモリ
(3)36cに接続され、これらのメモリからの画像デ
ータの受信を行うようになっている。また、表示インタ
フェース44は、モニタ5に入力する画像データを送る
ようになっている。
【0038】前記CPU40は、図4に示すように、R
OM45等に記憶されたプログラムにより動作する画像
処理手段47を備え、この画像処理手段47は、例えば
体腔内の対象物体上で電子内視鏡6の挿入部11の先端
を移動させることにより複数の画像を撮像し、記憶され
た画像より対象物体の相対的な形状を推定する相対形状
推定手段50と、電子内視鏡6の挿入部11の先端の適
当な位置の視点から対象物体上の位置までの距離を推定
する距離推定手段51と、前記相対形状推定手段で推定
された相対的な形状と前記距離推定手段で推定された距
離から対象物の絶対的な形状を推定する絶対形状推定手
段52と、を有して構成される。
【0039】また、前記画像処理装置3の演算処理をハ
ードウェアで構成した場合のブロック構成を図5に示
す。
【0040】メモリ(1)36a,(2)36b,
(3)36cに記憶されたR,G,Bの時系列画像デー
タは、一旦メモリ61に入力されて記憶される。メモリ
61に記憶した画像データを相対形状推定手段62と距
離推定手段63に入力し、各々の出力結果を絶対形状推
定手段64に入力することにより、対象物の絶対的な形
状を算出し、得られた3次元画像データまたは2次元画
像データをメモリ65に記憶する。
【0041】そして、メモリ65に記憶された3次元画
像データまたは2次元画像データを読み出し、D/Aコ
ンバータ66によってアナログ信号に変換し、入出力イ
ンタフェース67を介してモニタ5に出力する。これに
より、モニタ5に対象部位の3次元または2次元の画像
が表示されるようになっている。
【0042】また、画像処理装置3には、相対形状推定
手段62、距離推定手段63、絶対形状推定手段64の
演算を制御するための演算処理用コントローラ68と、
メモリ61,65のデータの読み書きを制御するための
メモリコントローラ69と、メモリ61,65の画像デ
ータを選択的に出力するセレクタ70とが設けられてい
る。このセレクタ70により、メモリコントローラ69
の制御信号によってメモリ61,メモリ65の一方の出
力端が記録装置4と選択的に接続され、記録装置4とメ
モリ61またはメモリ65との間でデータの転送ができ
るようになっている。
【0043】本実施形態では、電子内視鏡6で得た対象
物部位の画像に対し、画像処理装置3で処理を行い、モ
ニタ5に処理結果を出力する。
【0044】図6は画像処理装置3と接続され、画像処
理装置3で画像処理される画像データを記録したり、画
像処理装置3で処理され、モニタ5で表示される画像デ
ータ等を記録する記録装置4のより具体的な構成例を示
したものである。
【0045】この記録装置4への画像データの入力は、
電子内視鏡装置2のみに限らず、例えばアナログあるい
はデジタルの光磁気ディスク、VTR、光ディスク、動
画像メモリ等の入力装置により行うことも可能である。
【0046】記録装置4に設けられる画像記録装置80
は、VTR或いはアナログ光磁気ディスク装置等のアナ
ログ方式の画像記録装置であり、その出力はA/Dコン
バータ81によりA/D変換された後、デジタル画像と
して画像処理装置3に入力される。また、画像処理装置
3による処理結果画像をD/Aコンバータ84を介して
入力し、画像記録装置80に記録することが可能であ
る。
【0047】動画像ファイル装置82は、半導体メモ
リ、ハードディスク、デジタル光磁気ディスク装置等で
構成されるデジタル方式の動画像ファイル装置であり、
その出力はデジタル画像として画像処理装置3に入力さ
れる。また、静止画像ファイル装置83は、動画像ファ
イル装置82と同様に半導体メモリ、ハードディスク、
デジタル光磁気ディスク装置等で構成されるデジタル方
式の静止画像ファイル装置であり、その出力はデジタル
画像として画像処理装置3に入力される。また、画像処
理装置3による処理結果画像を動画像ファイル装置82
及び静止画像ファイル装置83に記録することも可能で
ある。
【0048】図2において、CCD18で光電変換され
た画像信号は観察装置7内の信号処理部7Bで信号処理
された画像信号となり、観察用モニタ8に出力されると
共に、画像処理装置3に出力される。
【0049】この画像処理装置3に入力される2次元の
画像データは一旦記録装置4に送られ、画像信号が記録
される。また、記録された画像信号は画像処理装置3に
再び送られ、被写体の3次元形状の推定の処理が行わ
れ、記録装置4及びモニタ5に送り出され、それぞれ推
定された3次元形状の記録及び表示が行われる。
【0050】また、前記画像処理装置3は、図7に示す
ように、画像入力インターフェース43の前段にA/D
変換器90a,90b,90cを設けるようにしても良
い。これにより、外部装置からのR,G,Bのアナログ
信号、例えば観察装置7の入出力インターフェース38
からのアナログ信号R,G,BをA/D変換器90a,
90b,90cに入力し、A/D変換器90a,90
b,90cで得られたデジタル信号をRAM42に記録
することで、デジタルのR,G,Bの画像データを得る
ことが可能である。
【0051】前記相対形状推定手段50は、図8に示す
ように、撮像手段により同一の対象物体を複数の位置か
ら撮像した画像の同一の点の位置を検出する位置検出手
段101と、前記位置検出手段101で検出された同一
の点の位置から撮像手段の相対的な動きを推定する動き
推定手段102と、前記位置検出手段101で検出され
た同一の点の位置と前記動き推定手段102で検出され
た撮像手段の動きとから対象物の相対的な形状を推定す
る形状推定手段103と、を有して構成される。
【0052】前記距離推定手段51は、図9に示すよう
に、前記位置検出手段101で検出された各画像の同一
の点においてその点を含み適当な領域内の周波数特性を
推定する周波数特性推定手段104と、各画像の周波数
特性が最も高周波領域まで広がっている画像を検出する
画像検出手段105と、画像検出手段105で検出され
た画像の撮像した位置で最も焦点が合ったと判断し、撮
像手段の視点から対象物体上の一点までの距離を撮像手
段の焦点距離と同一にすることにより絶対的な一つの距
離を推定する絶対距離推定手段106と、を有して構成
される。
【0053】前記絶対形状推定手段52は、相対形状推
定手段50の出力結果である対象物体の相対的な形状と
距離推定手段51の出力結果である撮像手段から対象物
体上の一点までの絶対的な距離とに基づき、対象物体の
絶対的な形状を推定する機能を有している。
【0054】次に、図10ないし図17を参照して第1
の実施形態の画像処理装置における動作を説明する。図
10は対象物の相対的な形状を推定する処理の全体的な
流れを示すフローチャート、図11は図10の各処理を
説明するための作用説明図、図12は時系列に得られた
画像データからシフトマップを作成する様子を示す説明
図、図13は中心射影の座標系を示す説明図、図14は
撮像手段の運動に関する回転ベクトル及び並進ベクトル
の関係を示す説明図、図15は撮像手段の運動に伴う対
象物体との距離の変化を示す説明図、図16は時系列に
得られた各画像の周波数特性を求める様子を示す説明
図、図17は画像データの周波数特性を示す特性図であ
る。
【0055】電子内視鏡6によって得られる内視鏡画像
は観察装置7により画像信号として画像処理装置3に順
次送り出される。画像処理装置3では順次送られてくる
内視鏡画像の任意の期間の画像信号を記録装置4に送り
記録させる。そして、画像処理装置3は、記録装置4に
記録された内視鏡画像信号(2次元の画像データ)の複
数フレームの画像データを入力し、これらの複数フレー
ムの画像データから同一の点に対する位置を検出した
後、検出された位置の移動を表すシフトマップを算出す
る。
【0056】その後、求められたシフトマップより撮像
手段の運動ベクトル(電子内視鏡6先端の運動ベクト
ル)を推定する。また、推定された撮像手段の運動ベク
トルと各画像間のシフトマップを用いて撮像手段と対象
物体との相対的な距離を算出し、対象物体の絶対的な形
状を推定する。
【0057】前記求められた絶対形状の3次元データに
対して、任意の撮像手段の方向から見たときの2次元画
像または3次元画像で表示する(ワイヤーフレーム等)
画像データを作成する。画像処理装置3によって作成さ
れた3次元画像データまたは2次元画像データをモニタ
5に表示すると同時に記録装置4に記録する。
【0058】まず、対象物の相対的な形状を推定する手
法について説明する。図10は相対形状を推定する処理
の全体的な流れを示したフローチャート、図11は図1
0の各処理を説明するための作用説明図である。以降に
各過程を順次説明する。
【0059】(1)シフトマップの算出 初めにステップS1として、電子内視鏡6により撮像手
段を移動しながら画像の撮像を行い、この時系列に撮像
された2次元の画像データを画像処理装置3に入力す
る。そしてステップS2として、複数の画像間の同一点
の検出を行い、シフトマップを作成する。
【0060】このとき、図12の(a)に示すように、
内視鏡先端を移動することにより同一の対象物体の時系
列画像を撮像する。これにより、P0 ないしPn で示す
撮像手段の移動軌跡に対応して時系列画像f0 〜fn が
得られる。
【0061】次いで、図12の(b)に示すように、撮
像された時系列画像の最初の画像f0 に対して複数の点
Pab(a=0,1,…,q、b=0,1,…,r)を設
定し、テンプレートマッチングの手法(参照文献:コン
ピュータ画像処理入門 総研出版(株) 田村秀行監
修:p.148 〜p.150 )により、残りの画像fi (i=
1,2,…,n)で設定された点Pabと同一の点の位置
を検出する。
【0062】各画像の同一の点の位置が検出されること
で、画像f0 で設定された点Pabに対して残りの画像f
i (i=1,2,…,n)との位置のズレ、すなわち、
点Pabの各画像毎の移動量であるシフトマップSi (i
=1,2,…,n)が求められる。
【0063】画像fi に対するシフトマップは、次のよ
うにx方向とy方向の移動量として表す。
【0064】 なお、テンプレートマッチングの手法は、同一出願人に
よるUSP4,962,540に開示されているカラー
マッチング手法を適用してもよい。
【0065】(2)運動の推定 次にステップS3として、前記求められたシフトマップ
より撮像手段の運動(内視鏡先端部16の動き)を推定
する。
【0066】図13に中心射影の座標系を示す。画像原
点Oからの距離eだけ離れたところにZ軸に垂直に画像
面をおく。空間中の点(X,Y,Z)は、この点(X,
Y,Z)と原点Oとを結ぶ直線と画像面とが交わる点に
投影されるものとする。その交点の画像上の座標を
(x,y)とすると、幾何学的な関係からx,yは、
【数1】 となる。
【0067】撮像手段の運動により空間中の点X=
(X,Y,Z)がX′=(X′,Y′,Z′)に移動し
たとき、そのときの撮像手段の運動は、原点を通る視軸
回りの回転を表す回転ベクトルRと、並進ベクトルh=
(hx ,hy ,hz )を用いて次のように表される。
【0068】
【数2】 ここで、点X,X′を原点からの距離r,r′と単位方
向ベクトルm(Nベクトル)を用いて表すとそれぞれ、
【数3】 となる。ただし、
【数4】 である。よって、式(4)を用いると式(2)は、
【数5】 となる。
【0069】ここで、図14(a)及び(b)に示すよ
うに、3本のベクトルm,Rm′,hは空間中の同一平
面上に存在するため、それらのスカラ3重積が0とな
る。
【0070】
【数6】 前記テンプレートマッチングにより画像間の同一の点を
検出する場合、検出誤差によりシフトマップに誤差が含
まれる可能性がある。そこで、本例では最小二乗法を用
いて、画像内で設定される複数の点に対して、
【数7】 を満足するように回転ベクトルRと並進ベクトルhを求
める。ただし、推定される並進ベクトルhは単位ベクト
ルh′として推定される。
【0071】(3)撮像手段と対象物体までの相対的な
距離の算出 次にステップS4として、前記推定された撮像手段の運
動より、撮像手段から対象物体までの相対的な距離を算
出する。
【0072】式(5)の両辺とm,Rm′との内積をと
ると、それぞれ、
【数8】 となる。これを解けば各点までの距離が次のように得ら
れる。
【0073】
【数9】 ただし、並進ベクトルhが単位ベクトルh′として推定
されるため、r,r′は次式のように適当な倍率kで決
定される。
【0074】
【数10】 r =kr …(10)
【数11】 r′=kr′ …(11) したがって、画像f0 を撮像したときの撮像手段の位置
から、各画像fi (i=1,2,…,n)を撮像したと
きの撮像手段の位置までのそれぞれの相対的な運動(R
i ,hi (i=1,2,…,n))が推定される。
【0075】この各画像fi (i=1,2,…,n)毎
に推定された相対的な運動とシフトマップとにより、各
画像毎の撮像手段の位置から対象物体までの相対的な距
離を推定する。この相対距離は、撮像手段から対象物体
を観察したときの相対的な形状に相当する。
【0076】次に、求められた対象物の相対的な形状か
ら絶対的な一つの値を得る手法について説明する。
【0077】内視鏡先端を移動することにより同一の対
象物体の画像を時系列に撮像する場合、内視鏡先端と対
象物体までの距離に応じて焦点ズレを起こした画像が撮
像される。
【0078】焦点ズレを起こした画像には、内視鏡の焦
点距離より内視鏡先端と対象物体との距離が遠くなった
とき生じる後ボケの画像と、近くなったときに生じる前
ボケの画像とがある。
【0079】このような前ボケ及び後ボケの画像が含ま
れる時系列画像には、内視鏡先端と対象物体までの距離
と電子内視鏡の焦点距離が一致したときに撮像された画
像が含まれる。
【0080】そこで、時系列画像の中から最も焦点が合
った画像とその画像内で最も焦点の合った点を検出する
ことにより、電子内視鏡の焦点距離を、前記焦点が合っ
たものとして検出された画像が撮像された位置から対象
物体上の適当な位置までの距離とすることで、撮像手段
と対象物体との距離について絶対的な一つの値を推定で
きる。
【0081】本実施形態では、前述した相対形状を推定
する処理において同一点が検出された後、画像f0 で設
定された複数の点Pab(a=0,1,…,q、b=0,
1,…,r)の中から適当な一点を選び、その点と各画
像毎の同一点に関して周波数特性を求める。
【0082】撮像手段を移動させて時系列的な画像を撮
像した場合、撮像された各画像内の対象物体の大きさ
は、撮像手段の位置に応じて変化する。このため、一つ
の領域の大きさにより各画像の周波数特性を求めた場
合、ボケ以外に拡大縮小の要素も含まれるため周波数特
性を直接比較することができない。
【0083】そこで、前記相対形状を推定したときに各
画像毎に撮像手段の位置と対象物体の位置の相対的な距
離が推定されていることから、図15及び図16に示す
ように、それぞれの距離の比率に応じて領域の大きさを
決定し、各画像の周波数特性を比較する。
【0084】図15に示すように、画像f0 で設定され
た点Pabと画像fi の同一点P′abとの撮像手段からの
距離の比率は、式(10),(11)より、
【数12】 d0 :di =kr:kr′=r0 :ri …(12) となる。
【0085】また、図16に示すように、画像f0 で設
定された点Pabを含む領域W0 をW0x,W0yとおくと、
画像fi の同一点を含む領域Wi は、
【数13】 となる。
【0086】そして、画像fi の同一点を含む領域Wi
が画像f0 で設定された点Pabを含む領域W0 と同じ大
きさになるように領域Wi を拡大または縮小する。この
とき、拡大または縮小による倍率Kは、
【数14】 である。
【0087】このように各画像毎に領域の大きさを設定
し、設定された領域を拡大または縮小することで得られ
た部分画像Ipiに対してフーリエ変換を行い、各部分画
像の周波数特性を求める。
【0088】ここで、部分画像Ipiの周波数特性が最も
広がっている画像を検出するには、図17に示すよう
に、それぞれの周波数特性の高周波部分において適当な
領域λ0 ,λ1 を設定し、このλ0 とλ1 で囲まれる周
波数領域のパワーの平均Pavrを、
【数15】 λ0 とλ1 で囲まれる周波数領域のパワーの合計Psum
を、
【数16】 とし、このPavr あるいはPsum が最大となるような部
分画像Ipiを求める。
【0089】これにより、時系列的に撮像された画像f
0 ないしfn のうち、画像f0 で設定された点Pab及び
画像fi の同一点の中で最も焦点の合った点を含む画像
が検出されたことになる。
【0090】その画像を撮像したときの撮像手段の位置
から対象物体までの位置(最も焦点の合った点)の距離
を電子内視鏡の焦点距離とすることで、前記相対形状推
定手段で推定された撮像手段から対象物体上の一点まで
の相対的な距離を絶対的な距離として表すことができ、
これに基づいて対象物体の絶対値形状を推定することが
可能となる。
【0091】本実施形態では、撮像手段から対象物体ま
での距離について、画像f0 の一つの点からの絶対的な
値を推定したが、複数の点に対して絶対的な値を推定
し、推定された値と相対的な値との比率を求め、その比
率の平均値と相対的な形状より対象物体の絶対的な形状
を推定しても良い。
【0092】以上のように、本実施形態によれば、従来
からの内視鏡システムに対して特別な装置を追加した
り、装置構成を変更することなく、時系列的に得られる
画像の特性を利用して対象物体の絶対的な形状を推定す
ることができる。
【0093】また、本実施形態では電子内視鏡の先端を
図12のように移動させて、対象物に対して時系列的な
画像に前ボケ、後ボケの状態をつくったが、実際には心
拍や呼吸等の生体内の動きが発生するために、図12の
ように電子内視鏡を移動させなくても前ボケ、後ボケの
状態が発生した複数の画像を容易に取り込むことができ
る。
【0094】次に図18ないし図20を参照して本発明
の第2の実施形態を説明する。
【0095】第2の実施形態は距離推定手段の機能構成
を変更した例であり、距離推定手段以外の部分について
は第1の実施形態と同様の構成となっている。
【0096】第2の実施形態の距離推定手段は、時系列
的に撮像された複数の画像に対してハレーションの存在
する画像とその画像内のハレーションの位置を検出する
ハレーション検出手段と、前記相対形状推定手段より推
定された形状に対して前記ハレーション検出手段からの
ハレーション位置における接平面の法線ベクトルを推定
する法線ベクトル推定手段と、前記接平面の法線ベクト
ルと前記相対形状推定手段により推定される視点から対
象物体までの方向ベクトルと撮像手段のレンズと光源の
出射口の中心間の距離との関係より視点から対象物体の
特定の位置までの距離を推定する絶対距離推定手段と、
を有して構成される。
【0097】同一の対象物体に対して内視鏡先端を移動
させて時系列的な画像を撮像する場合、一般に内視鏡先
端と対象物体との距離に応じて画像内にハレーションが
発生することが多い。ハレーションの発生している対象
物体の表面では、図18に示すように、内視鏡先端から
出射した光と対象物体を反射した光とが対象物体の表面
の法線に対して同じ角度で入射または反射する。
【0098】したがって、対象物体の相対形状とハレー
ションの位置が既知であれば、ハレーションを発生して
いる画像を撮像した位置から対象物体上のハレーション
位置までの距離を絶対的な値で与えることができる。
【0099】第2の実施形態における撮像手段から対象
物体までの絶対的な距離を推定する際の動作を以下に説
明する。
【0100】初めに前述の第1の実施形態で示したよう
に、対象物体の相対的な形状を前記相対形状推定手段に
よって推定する。
【0101】その後、撮像手段によって得られた複数の
時系列画像に対してハレーションの位置を検出する。ハ
レーションの検出方法としては、しきい値処理により各
画像の画素毎の輝度レベルが特定の値(しきい値)を越
えたときにハレーションとして検出する方法を用いる。
【0102】次いで、図18に示すように、法線ベクト
ル推定手段により、視点Oから対象物体のハレーション
の位置Pまでのベクトルmとハレーション位置Pにおけ
る接平面の法線ベクトルnを求める。ただし、ベクトル
mと法線ベクトルnは、正規化した同時座標系の組を単
位ベクトルとするNベクトルである。
【0103】ここで、図19に示すように、対象物上の
点Pにおける接平面の法線ベクトルnを延長した直線と
視点Oから光源Sを結ぶ直線との交点をQ、点Pから点
QへのベクトルをN、点Oから点PへのベクトルをM、
視点Oから光源Sへのベクトルをdとすると、
【数17】 となる。また、このM,Nは適当な係数k0 ,k1 によ
り、
【数18】 と表され、それぞれを式(17)へ代入すると、
【数19】 となる。
【0104】また式(19)の両辺に法線ベクトルnの
外積をとると、
【数20】 となり、式(20)の分母、分子がベクトルとなること
から、分母、分子にn×mの内積をとることで係数k0
を求める。
【0105】
【数21】 この式(21)のベクトルm,n,dは全て既知なベク
トルであることから係数k0 が求められ、撮像手段から
対象物体上のハレーションを発生している位置までの距
離を絶対的な値として得ることができる。
【0106】よって、ハレーションにより推定された絶
対的な一つの値と前記相対形状推定手段による撮像手段
から対象物体までの相対的な距離が推定されたことか
ら、対象物体までの絶対的な距離を与えられ、これを基
に絶対的な値として対象物体の形状を推定できる。
【0107】前記法線ベクトルの推定方法の一例を示
す。図20に示すように、画像上のハレーション位置I
H に近接した点IA ,IB ,IC を抽出し、それぞれの
点に対応する対象物体上の点をPH ,PA ,PB ,PC
とすると、3点PA ,PB ,PC で構成される平面は、
【数22】 lx +my +nz +p=0 …(22) で表される。この平面の法線ベクトル(l,m,n)を
対象物上のハレーション位置PH における接平面の法線
ベクトルnとする。
【0108】また、対象物体上のハレーション位置PH
に近接した複数の点から、ハレーション位置PH 近辺の
曲面を推定し、曲面上のハレーション位置の法線ベクト
ルを推定しても良い(参照文献:コンピュータディスプ
レイによる形状処理工学〔I〕 日刊工業新聞社 山口
富士夫著:p.49〜p.66)。
【0109】なお本実施形態では、一つの画像のハレー
ションから撮像手段と対象物体間の距離に関する一つの
絶対的な値を推定したが、一つの画像の複数のハレーシ
ョンまたは複数の画像の複数のハレーションからそれぞ
れの絶対的な値を推定し、推定された値と相対的な値と
の比率を求め、その比率の平均値と相対的な形状より対
象物体の絶対的な形状を推定しても良い。
【0110】以上のように、本実施形態によれば、従来
からの内視鏡システムに対して特別な装置を追加した
り、装置構成を変更することなく、時系列的に得られる
画像の特性を利用して対象物体の絶対的な形状を推定す
ることができる。
【0111】また、一般に時系列的に内視鏡画像を複数
撮像した場合、その複数の画像の中にハレーションが含
まれることが多々あるため、ハレーションを得るために
特別に電子内視鏡の先端を移動させる必要はなく、容易
に対象物の絶対的な形状を推定できる。
【0112】次に図21及び図22を参照して本発明の
第3の実施形態を説明する。
【0113】第3の実施形態は、内視鏡システムに対し
て、装置の構造を変更することなく付加的な装置を追加
することで、対象物の絶対的な形状を推定することを可
能にした構成例を示したものである。
【0114】図21に示すように、第1の実施形態の内
視鏡システムの構成に加えて、レーザ光を発生するレー
ザ発生装置110と、レーザ発生装置110からのレー
ザ光を電子内視鏡6の鉗子口112から挿入して対象物
体に照射するためのプローブ111と、を備えており、
画像処理装置3内の画像処理手段47において、レーザ
光が照射された状態で撮像された複数の画像より視点か
ら対象物体の特定の点までの距離を推定する距離推定手
段を有して構成される。
【0115】第3の実施形態の距離推定手段は、撮像手
段の視点からレーザ光が出射される位置への出射位置ベ
クトルを算出する出射位置ベクトル算出手段と、前記算
出された出射位置ベクトルと前記撮像手段の視点から対
象物体上に照射されたレーザ光の照射位置への照射位置
ベクトルとで構成されるレーザ照射ベクトルを算出する
レーザ照射ベクトル算出手段と、この算出されたレーザ
光照射ベクトルの外積が0になることから前記撮像手段
の対象物体上のレーザ光が照射された位置までの距離を
推定する絶対距離推定手段と、を有して構成される。
【0116】本実施形態の作用を以下に説明する。図2
1に示すように、レーザ発生装置110に接続したプロ
ーブ111を電子内視鏡6の鉗子口112から挿入す
る。そして、鉗子口112より挿入されたプローブ11
1の先端がモニタ8上の観察画像の特定の位置に存在す
るように内視鏡の先端から突出させる。この状態でレー
ザ光を照射しながら電子内視鏡6の先端を対象物体上で
移動し、複数の画像を撮像する。
【0117】撮像された複数の画像を画像処理装置3に
取り込み、前述した相対形状推定手段50により対象物
体の相対形状を推定する。
【0118】また、プローブの先端がモニタ8上の観察
画像の特定の位置に存在するように内視鏡の先端から突
出しているため、電子内視鏡6の撮像手段の位置とプロ
ーブの先端の位置関係を求めることができる。
【0119】したがって、プローブの先端位置と観察画
像上のレーザ光の照射位置、及び対象物体の相対的な形
状から、対象物体上のレーザ光の照射位置までの距離が
推定できる。
【0120】距離推定手段により対象物体上のレーザ光
の照射位置までの距離を推定する方法を図22に基づい
て以下に説明する。
【0121】図22(a)は、二つの異なる位置で対象
物体を撮像したときの電子内視鏡6の先端と対象物体、
及びレーザ光の照射位置を示したものである。
【0122】撮像手段の位置に対してプローブ先端の位
置とレーザ光の照射方向は、対象物体上をどのように移
動しても同一であることから、図22(a)の二つの異
なる位置で撮像した際の撮像手段を同一点に重ね合わせ
ると、図22(b)のように表すことができる。ここ
で、図22(b)を図22(c)のようにベクトルで表
す。
【0123】撮像手段の視点からプローブの先端へのベ
クトルをL、二つの異なる位置で撮像したときの撮像手
段の視点から対象物体上へ照射されたレーザ光の照射位
置へのベクトルをM1 ,M2 とすると、
【数23】 となる。
【0124】ここで、m1 ,m2 は前記相対形状推定手
段により推定された撮像手段の視点から対象物体上へ照
射されたレーザ光の照射位置への単位方向ベクトル、k
は倍率である。
【0125】また、図22(c)で示すように、レーザ
光の照射方向が常に一定なことから、Lとm1 より得ら
れるベクトル(L−km1 )と、Lとm2 より得られる
ベクトル(L−km2 )は、方向が同じで大きさが異な
るベクトルである。したがって、次式に示すようにこの
二つのベクトルの外積は0となる。
【0126】
【数24】 この式(24)より係数kを求めると、
【数25】
【数26】 となる。
【0127】式(26)の分母、分子がベクトルとなる
ことから、分母、分子にm1 ×m2の内積をとると、
【数27】 となる。
【0128】この式(27)のベクトルL,m1 ,m2
は全て既知なベクトルであることから係数kが求めら
れ、撮像手段から対象物体上の一点までの距離を絶対的
な値として得ることができる。
【0129】また、式(25)において、
【数28】 とおくと、式(25)は、
【数29】 となり、式(29)の両辺を二乗することで、
【数30】 が求められる(ただし、・は内積を表す)。
【0130】複数の画像より、撮像手段の視点から対象
物体上に照射されたレーザ光の照射位置へのベクトルは
複数存在する。
【0131】したがって、式(30)に最小二乗法を適
用し、
【数31】 を満足するようなkを推定する方法を用いれば良い。
【0132】前記撮像手段の視点からプローブの先端へ
のベクトルLを算出する手順を以下に示す。
【0133】図22(a)に示すように、L−km1 と
L−km2 との関係はkの値に関わらず常に成立する。
すなわちこれらは、kの値が0以外のどのような値をと
っても、方向が同じで大きさの異なるベクトルである。
よってk=1として、
【数32】 となるLを求める。
【0134】式(32)は、
【数33】 となり、それぞれのベクトルを成分で表すと、
【数34】 となる。
【0135】式(33)に式(34)をそれぞれ代入す
ると、
【数35】 この式(35)を展開すると、
【数36】 m1ym2z−m1zmy −{Ly (m1z+m2z)−Lz (m1y+my )}=0 m1zm2x−m1xmz −{Lz (m1x+m2x)−Lx (m1z+mz )}=0 m1xm2y−m1ymx −{Lx (m1y+m2y)−Ly (m1x+mx )}=0 …(36) となり、式(36)よりLx ,Ly ,Lz を求めること
ができる。
【0136】このように得られた撮像手段から対象物体
上の一点までの絶対的な距離に基づいて、対象物体の絶
対値形状を推定することが可能となる。
【0137】以上のように、本実施形態によれば、従来
からの内視鏡システムの構成を特別に変更することな
く、付加的な装置(ここではレーザ光照射装置)を追加
することで対象物体の絶対的な形状を推定することがで
きる。このとき、プローブから照射されるレーザ光の照
射方向が、プローブを内視鏡の鉗子口から挿入する度に
変わった場合でも、常に絶対的な形状を推定することが
できる。ただしこの場合、内視鏡の先端を移動して複数
の画像を得ている期間は、レーザ光の照射方向は変化し
ないものとする。
【0138】次に図23ないし図27を参照して本発明
の第4の実施形態を説明する。
【0139】第4の実施形態は、第1及び第2の実施形
態と同様に、内視鏡システムに対して特別な装置を付加
したり、装置の構造を変更することなく、対象物の絶対
的な形状を推定することを可能にした構成例を示したも
のである。
【0140】第4の実施形態は距離推定手段の機能構成
を変更した例であり、距離推定手段以外の部分について
は第1の実施形態と同様の構成となっている。
【0141】第4の実施形態の距離推定手段は、対象物
体の表面の法線ベクトルを推定する法線ベクトル推定手
段と、撮像手段の視点から光源へのベクトルを推定する
光源位置ベクトル推定手段と、前記相対形状推定手段で
推定された撮像手段の視点から対象物体上の一点までの
相対的な距離と前記法線ベクトル及び前記光源位置ベク
トルの関係から対象物体上の一点の輝度を推定する輝度
推定手段と、対象物体上の複数の点の輝度の比率を前記
輝度推定手段と実際の画像から求め、輝度の比率に関す
る複数の方程式を算出する方程式算出手段と、前記輝度
の比率に関する複数の方程式より撮像手段から対象物体
上の点へのベクトルの倍率を推定して対象物体までの絶
対的な距離を推定する絶対距離推定手段と、を有して構
成される。
【0142】図23に示すように、単眼内視鏡の照明光
を点光源、対象物体の表面を完全拡散面と仮定した場
合、撮像手段で得られる対象物体上の一点の輝度値E
は、
【数37】 のように求められる。ただし、ρは拡散反射率、xは光
源から対象物体上の一点までの距離、θは光源から対象
物体上の一点へのベクトルとその点の法線ベクトルとの
なす角度である。
【0143】図24に示すように、光源から対象物体上
の適当な一点へのベクトルXi と対象物体の一点の法線
ベクトルni とのなす角度θi は、
【数38】 となる。法線ベクトルni は、単位方向ベクトルである
ことから、
【数39】 である。
【0144】式(37),(38)から輝度Ei は、
【数40】 となる。
【0145】図25に示すように、前記相対形状推定手
段により画像fi を撮像したときの撮像手段の位置を基
準として得られた撮像手段の視点Oから対象物体上の2
点A,Bまでの各ベクトルM1 ,M2 は、
【数41】 となる。ただし、kは倍率である。
【0146】また、撮像手段の視点Oから光源Sまでの
光源位置ベクトルをLとおくと、対象物体の2点から光
源へのベクトルX1 ,X2 は、
【数42】 となり、式(40)より各々の点における輝度E1 ,E
2 は、
【数43】 として推定される。
【0147】また、実際の画像fi から得られる2点の
輝度をそれぞれI1 ,I2 とすると、これらの輝度の比
率は、
【数44】 となる。
【0148】式(44)をkについて解くと複数の解が
算出される。したがって、少なくとももう1組の異なる
点から輝度の比率を算出し、それぞれの方程式を満たす
倍率kを推定する。
【0149】前記光源位置ベクトルの推定方法の一例を
示す。図26に示すように、光軸に対して垂直に視点O
から距離Zの位置に、鏡とこの鏡面上に間隔が既知の格
子パターンとをおき、その画像を撮像する。鏡面上の格
子パターンの間隔をd、撮像された画像上の格子パター
ンの間隔をd′、焦点距離をeとすると、視点Oより鏡
面までの距離Zは、
【数45】 となる。
【0150】また図27に示すように、撮像された画像
内の照明光源の反射位置(x,y,e)から鏡面上の反
射位置ベクトルV(X,Y,Z)は、
【数46】 となる。
【0151】また、照明光源の照射端と鏡面との距離b
を測定し、照明光源の照射端の鏡面に対する対称な位置
ベクトルV′(X′,Y′,Z′)を求めると、
【数47】 となる。
【0152】したがって、照射光源の照射位置ベクトル
VS は、
【数48】 となり、この式(48)より光源位置ベクトルを求める
ことができる。
【0153】なお、法線ベクトルの推定は、第2の実施
形態で示した方法を用いて行うことができる。
【0154】また、本実施形態の距離推定手段では、画
像内の3点より撮像手段から対象物体上の点へのベクト
ルの倍率を推定することを可能にしたが、画像内の複数
の点から倍率を推定することも考えられる。
【0155】この場合は、式(44)に最小二乗法を適
用し、各点の輝度の比率が、
【数49】 を満たすような倍率kを求めることで推定できる。
【0156】なお、前記相対形状推定手段では、図10
及び図11に示したように、時系列的に得られた画像の
各画像が撮像された位置を撮像手段の視点とし、視点か
ら対象物体までの相対的な距離を算出している。
【0157】前述した距離推定手段では、前記相対形状
推定手段で推定された一つの相対形状と画像とから一つ
の倍率kを推定した。
【0158】しかし、前記相対形状推定手段では、複数
の画像と各画像が撮像された位置での相対的な距離が求
められていることから、前記距離推定手段より各相対形
状とその基準となった画像から倍率kx を求め、次式に
示すようにその平均値から一つの倍率〈k〉を推定する
こともできる。
【0159】
【数50】 以上のように、本実施形態によれば、従来からの内視鏡
システムに対して特別な装置を追加したり、装置構成を
変更することなく、時系列的に画像を得て、その画像が
撮像された位置を撮像手段の視点とし、視点から対象物
体までの相対的な距離から一つの絶対的な値を算出して
対象物体の絶対的な形状を推定することが可能となる。
【0160】次に本発明の第5の実施形態を説明する。
【0161】第5の実施形態は、第4の実施形態の構成
に画像内の同一な色の点を検出する同一色点検出手段を
加えた例である。
【0162】第4の実施形態では、図25に示したよう
に、位置の異なる2点を抽出してその2点の輝度の比率
と別の2組の点の輝度の比率とから対象物体までの絶対
的な距離を推定した。
【0163】本実施形態では、対象物体上の同じ色の点
は拡散反射率が同一と考えて、撮像された画像の同じ色
の点を抽出して絶対的な距離を求める。
【0164】撮像された画像内で同じ色の点を抽出する
には、画像内の各点を表す色の成分をRj ,Gj ,Bj
とし、基準となる点の色の成分をR0 ,G0 ,B0 とし
た場合に、
【数51】 R0 =Rj (j≠0) G0 =Gj (j≠0) …(51) B0 =Bj (j≠0) を満たすように基準となる色の成分と同一となる複数の
点を選ぶ。あるいは、次式のように適当な範囲を設け、
その範囲内の色を持つ点を選ぶ方法もある。
【0165】
【数52】 (R0 −α)≦Rj ≦(R0 +α) (j≠0) (G0 −β)≦Gj ≦(G0 +β) (j≠0) …(52) (B0 −γ)≦Bj ≦(B0 +γ) (j≠0) また、明るさが変化した場合でも同一の色を抽出するに
は、各点の成分を正規化した値
【数53】 を用いて、各色成分が同一または適当な範囲内となる点
を抽出する方法がある。
【0166】また、前記撮像手段から対象物体上の点へ
のベクトルの倍率を推定する方法として、2点間の色の
差を重み関数wijとし、画像内の複数の点より倍率を推
定することも考えられる。
【0167】例えば、2点の各色成分の輝度の差の二乗
和に適当な係数Wk を掛けた値を引いた関数
【数54】 を重み関数wijとする。ただし、Wk は、
【数55】 の条件を満たすものとする。
【0168】これより、式(49)の最小二乗法に重み
関数wijを適用し、各点の輝度の比率が、
【数56】 を満たすような倍率kを求めることで推定できる。
【0169】本実施形態によれば、対象物体上の同じ色
の点は拡散反射率が同一と考えて、拡散反射率が同一と
なる点を用いて輝度の比率を算出することにより、対象
物体までの絶対的な距離を正確に推定できる。よって第
4の実施形態と同様に、特別な装置を付加したり、装置
の構造を変更することなく対象物体の絶対的な形状を正
確に推定することが可能となる。
【0170】次に図28ないし図32を参照して本発明
の第6の実施形態を説明する。
【0171】第6の実施形態は、第4の実施形態の構成
に画像内の各点毎の相互相関のピークが鋭くなる点を検
出するピーク検出手段を加えた例である。
【0172】本実施形態では、時系列的に得られた複数
の画像の中から適当な一つの画像を抽出し、その画像中
の明確な模様や細かい模様の存在する特定の領域をテン
プレート画像とする。このテンプレート画像と他の画像
との対応点の検出を行うようにすれば、対応点を精度よ
く検出することができる。
【0173】対応点が精度よく検出される点では、その
点に対応する相対的な距離や法線ベクトルも正確に推定
されると考えられる。
【0174】したがって、本実施形態では対応点が精度
よく検出された点を選択し、その点をテンプレート画像
として第4の実施形態における距離推定方法に適用して
対象物体までの絶対的な距離を求める。
【0175】図28に示すように、ある画像A内の適当
な領域をテンプレート画像とし、他の画像B内の特定の
領域を移動させて各点毎の相互相関の値を求めると、テ
ンプレート画像と最も一致した位置を最大にして、図2
9に示す鳥瞰図のような山形形状の特性図が得られる。
【0176】この相互相関の値は、図30に示すよう
に、画像内の明確な模様や細かい模様の存在する領域を
テンプレート画像とすると、特性図は鋭い形状を示す。
また、明瞭でない模様やボケた画像では、特性図はブロ
ードな形状を示す。
【0177】したがって、相互相関の値が鋭い形状を示
すような点を、対応点を精度よく検出可能な点とするこ
とができる。
【0178】そこで本実施形態では、図31に示すよう
に、前記相対形状推定手段で設定された画像f0 内の複
数の点Pab(a=0,1,2,…,q、b=0,1,
2,…,r)に対し、各点を中心に適当な領域Tab(以
後テンプレート画像とする)を設定する。そして、他の
画像fi 内の適当な領域Sab(以後サーチエリアとす
る)に対し、テンプレート画像Tabを移動して各点毎の
相互相関の値を求める。
【0179】相互相関の値としては、
【数57】 のような正規化相互相関を用いる。ただし、∬S はサー
チエリアSabの積分、〈fi 〉はサーチエリア内のテン
プレート画像と同等の領域における平均値、〈t〉はテ
ンプレート画像の平均値を表す。
【0180】次に、図32に示すように、相互相関の値
の鳥瞰図を最大位置を中心にx方向、y方向に切り出
し、相互相関の最大値をDp ,相互相関の値のしきい値
をDtとしたときのx方向、y方向への広がりをWx ,
Wy とする。
【0181】このとき、相互相関値の形状の鋭さを、
【数58】 とすると、式(58)が大きい値を示すほど形状が鋭く
なる。
【0182】上記のように、画像f0 内で設定された点
について相互相関の値に関する形状の鋭さを求め、しき
い値処理等により各点の鋭さが大きい点を抽出する。
【0183】この相互相関のピークが鋭くなる点を用い
て、第4の実施形態の距離推定方法にしたがって対象物
体までの絶対的な距離を算出する。
【0184】また、前記撮像手段から対象物体上の点へ
のベクトルの倍率を推定する方法として、相互相関値の
形状の鋭さを重み関数wijとし、画像内の複数の点より
倍率を推定することも考えられる。
【0185】例えば、2点のうち形状の鋭さが小さい方
の値Sh に適当な係数Wk を掛けたもの
【数59】 wij=Sh ×Wk (i≠j) …(59) を重み関数wijとする。
【0186】これより、式(49)の最小二乗法に重み
関数wijを適用し、各点の輝度の比率が、
【数60】 を満たすような倍率kを求めることで推定できる。
【0187】本実施形態によれば、法線ベクトルが正確
に推定される点を用いて輝度の比率を算出することによ
り、対象物体までの絶対的な距離を正確に推定できる。
よって第4の実施形態と同様に、特別な装置を付加した
り、装置の構造を変更することなく対象物体の絶対的な
形状を正確に推定することが可能となる。
【0188】次に本発明の第7の実施形態を説明する。
【0189】第7の実施形態は第4の実施形態の距離推
定手段の機能構成を変更した例である。
【0190】第7の実施形態の距離推定手段は、対象物
体の表面の法線ベクトルを推定する法線ベクトル推定手
段と、撮像手段の視点から光源へのベクトルを推定する
光源位置ベクトル推定手段と、前記相対形状推定手段で
推定された撮像手段の視点から対象物体上の一点までの
相対的な距離と前記法線ベクトル及び前記光源位置ベク
トルの関係から対象物体上の一点の輝度を推定する輝度
推定手段と、画像内の各点に対して前記輝度推定手段で
得られた輝度と画像から得られる輝度をその周辺の輝度
の平均で正規化する輝度正規化手段と、前記輝度正規化
手段で得られた各点の正規化された輝度を基に最小二乗
法により撮像手段から対象物体上の点へのベクトルの倍
率を推定して対象物体までの絶対的な距離を推定する絶
対距離推定手段と、を有して構成される。
【0191】第4の実施形態では、図25に示したよう
に、位置の異なる2点を抽出してその2点の輝度の比率
と別の2組の点の輝度の比率とから対象物体までの絶対
的な距離を推定した。
【0192】本実施形態では、対象物体上の複数の点の
中から選ばれた点の輝度を周辺の輝度の平均で正規化す
ることにより、ノイズ等の影響を抑制して対象物体まで
の絶対的な距離を求める。
【0193】本実施形態における前記撮像手段から対象
物体上の点へのベクトルの倍率を推定する方法を示す。
【0194】画像fi 内の適当な一点の輝度をI(X,
Y)とおき、その周辺輝度をI(x,y)とすると、輝
度I(X,Y)をその周辺の輝度の平均で正規化した値
I′(X,Y)は、
【数61】 となる。
【0195】式(43),(61)より、I′(X,
Y)は、
【数62】 となり、式(62)から式(61)は拡散反射率ρの影
響を受けないことがわかる。
【0196】また、相対形状から推定される輝度をIm
(X,Y)とし、その周辺輝度をIm (x,y)とする
と、輝度Im (X,Y)をその周辺の輝度の平均で正規
化した値Im ′(X,Y)は、
【数63】 となる。
【0197】式(43),(63)より、Im ′(X,
Y)は、
【数64】 となる。
【0198】式(62),(64)より、画像内の輝度
の値がノイズ等の影響を受けなければ、I′(X,Y)
とIm ′(X,Y)の値は等しくなる。
【0199】実際には、ノイズ等の誤差によりI′
(X,Y)とIm ′(X,Y)の値は等しくならないた
め、最小二乗法により、
【数65】 を満たすような倍率kを複数の正規化された輝度から推
定する。
【0200】本実施形態によれば、画像及び相対形状か
ら得られる輝度をその周辺の輝度の平均で正規化するこ
とにより、ノイズ等の影響を抑制することができるた
め、対象物体までの絶対的な距離を正確に推定できる。
よって第4の実施形態と同様に、特別な装置を付加した
り、装置の構造を変更することなく対象物体の絶対的な
形状を正確に推定することが可能となる。
【0201】次に図33を参照して本発明の第8の実施
形態を説明する。
【0202】第8の実施形態は第4の実施形態の距離推
定手段の機能構成を変更した例である。
【0203】第8の実施形態の距離推定手段は、対象物
体の表面の法線ベクトルを推定する法線ベクトル推定手
段と、撮像手段の視点から光源へのベクトルを推定する
光源位置ベクトル推定手段と、前記相対形状推定手段で
推定された撮像手段の視点から対象物体上の一点までの
相対的な距離と前記法線ベクトル及び前記光源位置ベク
トルの関係から対象物体上の一点の輝度を推定する輝度
推定手段と、対象物体上の複数の点の輝度の比率を前記
輝度推定手段と実際の画像から求め、輝度の比率に関す
る複数の方程式を算出する方程式算出手段と、前記輝度
の比率に関する複数の方程式より撮像手段から対象物体
上の点へのベクトルの倍率を推定して対象物体までの絶
対的な距離を推定する絶対距離推定手段と、を有して構
成される。
【0204】第4の実施形態では、図25に示したよう
に、位置の異なる2点を抽出してその2点の輝度の比率
と別の2組の点の輝度の比率とから対象物体までの絶対
的な距離を推定した。
【0205】本実施形態では、対象物体に照射される光
量を一定にし、撮像手段の撮像位置を変えることで照明
条件を変化させた場合、対象物体上の拡散反射率は変化
しないと考える。この条件において、対象物体上の一点
を異なる二つの位置から撮像した画像の輝度の値と、そ
の二つの画像を撮像した位置を基準に推定される相対的
な距離から得られる輝度の値とを第4の実施形態におけ
る距離推定方法に適用し、対象物体までの絶対的な距離
を推定する。
【0206】図33に示すように、前記相対形状推定手
段により画像f0 と画像fi を基準に推定される相対的
な距離を用いて、撮像手段の視点Oから対象物体上の点
Pへの位置ベクトルを求める。画像f0 を撮像した位置
を基準として得られる視点Oから対象物体上の点Pへの
位置ベクトルM01は、式(10),(11)より、
【数66】 となり、画像fi を基準としたときの視点Oから対象物
体上の点Pへの位置ベクトルM11は、
【数67】 となる。
【0207】また、前記相対形状推定手段により画像f
0 と画像fi+a を基準に推定される相対的な距離を用い
て、画像f0 を撮像した位置を基準として得られる撮像
手段の視点Oから対象物体上の点Pへの位置ベクトルM
02は、式(10),(11)より、
【数68】 となり、画像fi+a を基準としたときの視点Oから対象
物体上の点Pへの位置ベクトルM22は、
【数69】 となる。
【0208】ここで、位置ベクトルM01とM02及び単位
ベクトルm1 とm2 は等しいことから、倍率k2 と位置
ベクトルM22は、
【数70】 となる。
【0209】また、式(43)より各位置ベクトルから
推定される点Pの輝度の値は次のようになる。
【0210】
【数71】 また、撮像された画像f0 ,fi ,fi+a から得られる
輝度をそれぞれI0 ,Ii ,Ii+a とすると、輝度の比
率は式(44)より、
【数72】
【数73】 となる。
【0211】前記式(66),(67),(70)の位
置ベクトルM01,M11,M22を式(72),(73)に
代入すると、
【数74】
【数75】 となり、一つの倍率k1 が未知数となる二つの方程式が
得られる。この二つの方程式を解くことにより倍率k1
が求められる。
【0212】また、第4の実施形態でも述べたように、
画像内の複数の点から倍率を推定することも可能であ
る。この場合、対象物体上の複数の点(例えばM+1個
の点)と二つの基準となる画像(例えば画像f0 と画像
fi )から得られる輝度の比率に最小二乗法を適用する
と、
【数76】 が得られ、複数の点に対して式(76)を満足するよう
な倍率k1 を求めれば良い。
【0213】さらに、複数の画像の同一点から倍率を推
定することもできる。この場合、対象物体上の一点と複
数の基準となる画像(例えば画像f0 から画像fM )か
ら得られる輝度の比率に最小二乗法を適用すると、
【数77】 が得られ、複数の画像の同一点に対して式(77)を満
足するような倍率k1 を求めれば良い。
【0214】第4の実施形態で仮定した拡散反射率は、
対象物体の位置によって異なるが、対象物体に照射され
る光量を一定にし、撮像手段の撮像位置を変えて対象物
体を撮像したときには、対象物体上の拡散反射率は変化
しない。
【0215】したがって、本実施形態ではこの点を考慮
して、対象物体上の一点を異なる二つの位置から撮像し
た画像の輝度と、その二つの画像が撮像された位置を基
準に推定される相対的な距離を使って求められる輝度と
を用いることにより、対象物体までの絶対的な距離を正
確に推定できる。よって第4の実施形態と同様に、特別
な装置を付加したり、装置の構造を変更することなく対
象物体の絶対的な形状を正確に推定することが可能とな
る。
【0216】次に図34を参照して本発明の第9の実施
形態を説明する。
【0217】第9の実施形態は、第8の実施形態を光源
の照射口を複数有する内視鏡と、それぞれの照射口から
照射される光を交互に点灯させる光源装置とを有する構
成に適用した例である。
【0218】第8の実施形態では、撮像手段の撮像位置
を変えることで照明条件を変化させたが、本実施形態で
は二つの照射口から交互に光を照射することにより、照
明条件を変化させ、対象物体までの絶対的な距離を推定
する。
【0219】図34に示すように、内視鏡の先端部には
照明光を照射する二つの照射口A,Bが設けられてい
る。対象物体上において内視鏡の先端を移動させ、二つ
の照射口A,Bから交互に照明光を照射すると同時に、
各照明光で照射された対象物体の画像を撮像して記憶す
る。
【0220】そして、照射口Aで照射された光によって
得られた時系列画像fAi(i=0,1,…,n)から撮
像手段と対象物体との相対的な距離を推定する。
【0221】前記相対形状推定手段により、画像fA0と
画像fAiを基準に、画像fA0を撮像したときの撮像手段
の位置を基準として得られる撮像手段の視点Oから対象
物体上の点Pへの位置ベクトルM0 を、
【数78】 とし、画像fi を基準としたときの視点Oから対象物体
上の点Pへの位置ベクトルMi を、
【数79】 とする。
【0222】また、式(43)より各位置ベクトルから
推定される点Pの照射口Aの光による輝度の値は、
【数80】 となり、照射口Bの光による輝度の値は、
【数81】 となる。
【0223】また、実際の撮像された画像fA0,fAi,
fBiから得られる輝度をそれぞれI0 ,Ii ,Ii ′と
おくと、輝度の比率は式(44)より、
【数82】
【数83】 となる。
【0224】前記式(78),(79)の位置ベクトル
M0 ,Mi を式(82),(83)に代入すると、
【数84】
【数85】 となり、一つの倍率kが未知数となる二つの方程式が得
られる。この二つの方程式を解くことにより倍率kが求
められる。
【0225】本実施形態によれば、従来からの内視鏡シ
ステムの構成に簡単な変更を加えることにより、対象物
体の絶対的な形状を推定することができる。また、二つ
の照射口から交互に光を照射することにより、照明条件
を変更するようにしているため、撮像手段の撮像位置を
変えないで正確な絶対的な距離の推定が可能となる。
【0226】次に図35及び図36を参照して本発明の
第10の実施形態を説明する。
【0227】第10の実施形態では、前記相対形状推定
手段における位置検出手段の構成例について説明する。
【0228】本実施形態の位置検出手段は、時系列的に
送られてくる画像を取り込むための画像取り込み手段
と、前記画像取り込み手段から取り込まれた画像の歪曲
収差を補正する歪曲収差補正手段と、前記画像取り込み
手段で取り込まれた画像の特定の領域の周波数特性のパ
ワーを算出するパワー算出手段と、画像内の同一の点の
検出を行う同一点検出手段と、前記同一点検出手段の結
果から同一点の移動量を算出する移動量算出手段と、前
記移動量算出手段に取り込まれる画像の同一点の位置を
予測する位置予測手段と、前記各画像の周波数特性のパ
ワーを比較するパワー比較手段と、有して構成される。
【0229】本実施形態では、第1の実施形態と同様
に、図36の(a)に示すように、撮像手段により同一
の対象物に対して複数の位置から撮像し、撮像された複
数の画像を時系列的に画像処理装置3に取り込む。
【0230】図35は位置検出手段によって時系列的に
入力される複数の画像の同一点の検出を行う過程を示し
たフローチャートである。
【0231】キーボード等の情報入力装置41により、
内視鏡の操作者が病変部等の形状を観察したいことを指
示すると、画像処理装置3内のCPU40に指示が伝達
され、CPU40において構成される画像処理手段47
により処理が開始される。
【0232】まずステップS11で、時系列的に入力さ
れた初期画像f0 が取り込まれ、ステップS12で歪曲
収差が補正される。そしてステップS13において、i
=0であるか、すなわち初期画像f0 か否かの判断を行
い、初期画像f0 の場合はステップS14へ、それ以外
の画像の場合はステップS17に進む。
【0233】ステップS14では、図36の(b)に示
すように、初期画像f0 について画像間の同一点を検出
するために複数の点Pab(a=0,1,…,q、b=
0,1,…,r)を設定する。そしてステップS15
で、図36の(c)に示すように、ステップS14で設
定された点Pabを含む適当な領域S0ab を設定し、図3
6の(d)に示すように、フーリエ変換を行って領域S
0ab の部分画像の周波数特性を求め、この部分画像につ
いての適当な周波数領域(λ0 〜λ1 )のパワーの合計
Ps0ab(Psum_0 )を算出する。
【0234】ステップS15で得られたPs0abは、ステ
ップS20へ送られる。そして、ステップS16におい
てiを一つ増加してステップS11へ戻る。
【0235】再びステップS11で、次の画像f1 を取
り込み、ステップS12で歪曲収差の補正を行った後、
ステップS13からステップS17に進み、i=1であ
るか、すなわち1番目に入力された画像か否かを判断す
る。ステップS17で1番目の画像f1 と判断された場
合は、ステップS21において画像f0 で設定された複
数の点Pabに対する同一点の検出を行う。
【0236】そしてステップS22で、ステップS21
で検出された同一点の位置から初期画像f0 と1番目の
画像f1 間での各点の移動量M1 を算出し、移動量M1
をステップS18へ送った後、ステップS23で前回ま
でに連続して焦点ズレの画像が何回発生したかを示すカ
ウント値であるCを初期化してC=0とする。
【0237】その後ステップS24で、i=nである
か、すなわち最終画像fn であるか否かを判別し、最終
画像でない場合はステップS16でiを一つ増加してス
テップS11に戻る。
【0238】一方、ステップS17で1番目の画像f1
でないと判断された場合、ステップS18において、i
番目の画像fi についてステップS22で得られた移動
量Mi-1-c とステップS25の結果である前回までに連
続して焦点ズレの画像が何回発生したかをカウントした
値Cとから、ステップS14で設定された点Pabのi番
目の画像における同一点の位置を予測する。
【0239】そしてステップS19では、ステップS1
8で予測された同一点の位置を含み、初期画像f0 で設
定した領域S0ab と同等の領域の周波数特性と、初期画
像f0 で設定した周波数領域と同等の領域のパワーの合
計Psiab(Psum_i )を算出する。
【0240】次いでステップS20で、ステップS15
で得られたパワーPs0abとステップS19で得られたパ
ワーPsiabとを比較し、i番目の画像のパワーが初期画
像のパワー以上であれば、焦点ズレがないと判断して、
ステップS21において画像f0 で設定された複数の点
Pabに対する同一点の検出を行う。また、ステップS2
0でi番目の画像のパワーが初期画像のパワーより小さ
ければ、焦点ズレが発生したと判断し、ステップS25
でCを一つ増加させ、ステップS26でiを一つ増加し
てステップS11に戻る。
【0241】以上の処理を繰り返してn番目までの画像
fn の処理が行われ、ステップS24において最終画像
fn であると判断されると、この処理を終了する。
【0242】ここで、初期画像f0 とi番目の画像fi
で求められる周波数特性の適当な周波数領域のパワー
は、それぞれ、
【数86】 として求められる。
【0243】また、i番目の画像における同一点の位置
の予測は、初期画像に対するi番目の画像の移動量をM
i とすると、i−1番目の画像までに焦点ズレが発生し
ていない場合は、
【数87】 となる。また、i−1番目の画像が焦点ズレを発生して
同一点の検出が行われなかった場合は、i番目の画像に
おける同一点の予測位置はi−2番目までの移動量を用
いて、
【数88】 として求めることができる。
【0244】また、ステップS20において初期画像f
0 とi番目の画像fi で求められる周波数特性の適当な
周波数領域のパワーをそれぞれ比較したが、
【数89】 Psum_0 −α≦Psum_i ≦Psum_0 +α …(89) のようにi番目の画像fi で求められるパワーの合計を
初期画像f0 で求められるパワーの合計に適当な幅をも
たせて比較しても良い。
【0245】生体観察用に用いる内視鏡は、一般的に焦
点深度の浅い光学系によって明瞭な角、輪郭、テクスチ
ャを伴わない粘膜画像を主に観察する。このため、それ
らの画像を時系列的に得た場合、焦点の合っていない画
像が含まれる可能性が大きい。このような時系列画像に
対して、前述した特開平6−7289号公報のようにブ
ロックマッチングを用いた場合、正確な対応点の追跡を
行うことができなくなるおそれがある。
【0246】これに対し、上記のように位置検出手段に
おいて同一点の検出を行うことで、本実施形態では、時
系列的に取り込まれる複数の画像に対して焦点ズレを検
出し、焦点ズレの発生していない画像に対して同一点の
検出を行うことによって、内視鏡のような焦点ズレを含
む画像に対しても正確に対応点の追跡が行える。このた
め、撮像手段を移動させて時系列的に対象物体の複数の
画像を撮像し、それらの画像間の同一点を検出する場合
に、焦点の合っていない粘膜画像等が撮像された場合で
も正確に同一点の検出を行うことが可能となる。
【0247】次に図37及び図38を参照して本発明の
第11の実施形態を説明する。
【0248】第11の実施形態は、第10の実施形態の
位置検出手段における機能構成を変更し、同一点を検出
する手順にテンプレート画像のサイズを変更するステッ
プを加えた例である。
【0249】図37は位置検出手段によって時系列的に
入力される複数の画像の同一点の検出を行う過程を示し
たフローチャートである。図37のステップS31〜4
3における初期画像f0 及び1番目の画像f1 を処理す
るまでは、第10の実施形態のステップS11〜24と
同様であるため説明を省略する。
【0250】2番目以降の画像fi について、まずステ
ップS31で画像が取り込まれると、ステップS32で
歪曲収差が補正され、ステップS38に進む。
【0251】ステップS38において、画像fi につい
てステップS42で得られた移動量Mi-1-c または後述
するステップS46で算出された平均移動量から、ステ
ップS40の結果に応じてステップS34で設定された
点Pabのi番目の画像における同一点の位置を予測す
る。すなわち、前回のステップS40においてi番目の
画像のパワーが初期画像のパワー以上のときは、ステッ
プS42で得られた移動量を、ステップS40において
i番目の画像のパワーが初期画像のパワーより小さいと
きはステップS46で得られた平均移動量を用いて同一
点の位置を予測する。
【0252】そしてステップS39では、ステップS3
8で予測された同一点の位置を含み、初期画像f0 で設
定した領域S0ab と同等の領域の周波数特性と、初期画
像f0 で設定した周波数領域と同等の領域のパワーの合
計Psum_i を算出する。
【0253】次いでステップS40で、ステップS35
で得られたパワーPsum_0 とステップS39で得られた
パワーPsum_i とを比較し、i番目の画像のパワーが初
期画像のパワー以上であれば、焦点ズレがないと判断し
て、ステップS41において画像f0 で設定された複数
の点Pabに対する同一点の検出を行う。また、ステップ
S40でi番目の画像のパワーが初期画像のパワーより
小さければ、焦点ズレが発生したと判断し、ステップS
44へ進む。
【0254】ステップS44では、テンプレート画像の
サイズとステップS34で設定された点Pabの数とを減
らし、その後ステップS45で、設定されたテンプレー
ト画像のサイズと画像内の点に関して同一点の検出を行
う。例えば、テンプレート画像のサイズを大きくし、画
像内の点の数を半分に減らす。
【0255】ステップS46では、現在まで連続して焦
点ズレが発生した画像間の平均移動量として、ステップ
S45で検出された同一点の位置から移動量を算出し、
それぞれの点の移動量の平均値を求める。
【0256】その後、ステップS47でiを一つ増加し
てステップS31に戻る。
【0257】以上の処理を繰り返してn番目までの画像
fn の処理が行われ、ステップS43において最終画像
fn であると判断されると、この処理を終了する。
【0258】観察点が焦点距離から離れるにしたがっ
て、得られた画像の高周波数領域におけるパワーが小さ
くなる。このため、テンプレートマッチングにおいて高
周波数領域のパワーが小さくなるにつれて、複数の画像
間の同一点の検出の精度が悪くなる。
【0259】そこで本実施形態では、周波数特性のパワ
ーに応じてテンプレート画像のサイズを変更することに
より、同一点の検出の精度の悪化を防止する。
【0260】図38は焦点ズレに関する量とテンプレー
ト画像のサイズの大きさとの関係を示した図である。こ
こでは、焦点ズレを表す量として、ステップS35で得
られた初期画像のパワーPsum_0 とステップS39で得
られたi番目の画像のパワーPsum_i との比率Pratio
を用いる。
【0261】
【数90】 特定の大きさの焦点ズレまでは、ステップS35で周波
数特性のパワーを算出したときのテンプレート画像のサ
イズTs0を用いる。これより焦点ズレが大きくなった場
合は、初期画像のパワーPsum_0 とi番目の画像のパワ
ーPsum_i との比率Pratio に応じて、Pratio が大き
くなるにしたがってリニアに大きくなるようテンプレー
ト画像のサイズをTsiに変更する。
【0262】
【数91】 Tsi=Pratio *Ts0 …(91) また、前記パワーの比率に適当な重みwを与えてテンプ
レート画像のサイズを決定しても良い。
【0263】
【数92】 Tsi=w*Pratio *Ts0 …(92) また、第10の実施形態と同様に、ステップS40にお
いて初期画像f0 とi番目の画像fi で求められる周波
数特性の適当な周波数領域のパワーをそれぞれ比較した
が、
【数93】 Psum_0 −α≦Psum_i ≦Psum_0 +α …(93) のようにi番目の画像fi で求められるパワーの合計を
初期画像f0 で求められるパワーの合計に適当な幅をも
たせて比較しても良い。
【0264】以上のように、位置検出手段においてテン
プレートマッチングにより同一点の検出を行うことで、
本実施形態では、時系列的に取り込まれる複数の画像に
対して焦点ズレを検出し、焦点ズレが大きい場合はテン
プレート画像のサイズを変更してテンプレートマッチン
グを行い、平均的な移動量を算出することによって、内
視鏡のような焦点ズレを含む画像に対しても確実に同一
点の位置を予測することができる。
【0265】また、第10の実施形態では複数の画像に
おいて焦点ズレが発生した場合や内視鏡の先端の動きが
大きい場合には、同一点の位置の予測に誤差が発生しや
すくなる。しかし、本実施形態によれば、焦点ズレを発
生した画像から同一点の位置を予測することができるの
で、前記のような不具合を防止でき、焦点ズレが発生し
た場合でも常に正確に同一点の検出を行うことが可能と
なる。
【0266】[付記] (1) 同一の対象物体に対して異なる位置より撮像す
る撮像手段を有する内視鏡と、前記撮像手段により撮像
された複数の画像から、前記対象物体の相対的な形状を
推定する相対形状推定手段と、前記撮像手段から前記対
象物体上の適当な位置までの距離を推定する距離推定手
段と、前記相対形状推定手段により推定された対象物体
の相対形状と前記距離推定手段により推定された対象物
体までの距離とから、前記対象物体の絶対的な形状を推
定する絶対形状推定手段と、を備えたことを特徴とする
内視鏡画像処理装置。
【0267】(2) 前記距離推定手段は、前記複数の
画像の同一な点における焦点ズレの大きさを算出する焦
点ズレ算出手段と、前記算出された焦点ズレが最小とな
る点を検出する最小点検出手段と、を有してなり、前記
検出された最小点の対象物体上から前記撮像手段までの
距離を前記撮像手段の焦点距離とすることで前記対象物
体までの距離を推定する付記1に記載の内視鏡画像処理
装置。
【0268】(3) 前記距離推定手段は、前記画像内
に発生するハレーションの位置を検出するハレーション
検出手段と、前記対象物体上のハレーション位置におけ
る法線ベクトルを推定する法線ベクトル推定手段と、前
記撮像手段の視点から光源の出射位置までのベクトルを
推定する出射位置ベクトル推定手段と、前記撮像手段の
視点から対象物体上のハレーション位置までのベクトル
を推定するハレーション位置ベクトル推定手段と、を有
してなり、前記推定された3本のベクトルの関係より視
点から対象物体上のハレーション位置までの距離を推定
することで前記対象物体までの距離を推定する付記1に
記載の内視鏡画像処理装置。
【0269】付記1ないし3では、撮像手段により得ら
れる時系列的な画像より焦点距離からのズレやハレーシ
ョンを検出し、検出された特徴を利用して撮像手段から
対象物体上の適当な点の位置までの距離を推定すること
により、対象物体までの絶対的な距離が正確に推定され
る。
【0270】(4) レーザ光を発生するレーザ光発生
手段と、前記レーザ光発生手段からのレーザ光を前記撮
像手段が設けられる内視鏡の先端まで導く導光手段と、
をさらに備えた付記1に記載の内視鏡画像処理装置。
【0271】(5) 前記距離推定手段は、前記撮像手
段の視点からレーザ光の出射位置までのベクトルを推定
する出射位置ベクトル推定手段と、前記撮像手段の視点
から対象物体上に照射されたレーザ光の照射位置までの
ベクトルを推定する照射位置ベクトル推定手段と、前記
推定された2本のベクトルからレーザ光の出射位置から
対象物体に照射された位置へのレーザ照射ベクトルを推
定するレーザ照射ベクトル推定手段と、前記撮像手段の
異なる位置から得られる2本のレーザ照射ベクトルの外
積が0になることから前記撮像手段から対象物体上のレ
ーザ光が照射された位置までの距離を推定する絶対距離
推定手段と、を有してなる付記4に記載の内視鏡画像処
理装置。
【0272】付記4及び5では、内視鏡先端からレーザ
光を照射し、レーザ光が照射された対象物体の画像を複
数撮像して、撮像手段から対象物体上の適当な点の位置
までの距離を推定することにより、対象物体までの絶対
的な距離が正確に推定される。
【0273】(6) 前記距離推定手段は、前記撮像手
段によって得られる画像上の適当な2点間の輝度の比率
を求め、この輝度の比率を前記撮像手段の視点と光源と
対象物体との相対的な位置関係によって導かれる倍率を
変数とする方程式で表し、前記対象物体上の複数の点の
組み合わせにより前記倍率に関する複数の方程式を導
き、この複数の方程式を解くことによって前記倍率を推
定する倍率推定手段を有してなり、前記倍率より前記対
象物体までの距離を推定する付記1に記載の内視鏡画像
処理装置。
【0274】(7) 前記倍率推定手段は、前記対象物
体上の複数の点の組み合わせにより算出される複数の方
程式を、倍率を求めるのに必要な数の組に分割し、各組
毎に求められる倍率を平均化することにより一つの倍率
を推定する手段からなる付記6に記載の内視鏡画像処理
装置。
【0275】(8) 前記倍率推定手段は、前記撮像手
段によって得られる画像上の適当な2点間の輝度の比率
と、前記撮像手段の視点と光源と対象物体との相対的な
位置関係によって導かれる倍率を変数とした輝度の比率
と、の差の二乗和が最小になるような倍率を推定する手
段からなる付記6に記載の内視鏡画像処理装置。
【0276】(9) 前記距離推定手段は、前記撮像手
段によって得られる画像上の同一な色の2点を複数用い
て倍率を推定する倍率推定手段を有してなる付記1に記
載の内視鏡画像処理装置。
【0277】(10) 前記倍率推定手段は、前記撮像
手段によって得られる画像上の同一な色の2点間の輝度
の比率と、前記撮像手段の視点と光源と対象物体との相
対的な位置関係によって導かれる倍率を変数とした輝度
の比率と、の差の二乗に色の同一性を表す重み関数を掛
けて合計した値が最小になるような倍率を推定する手段
からなる付記6に記載の内視鏡画像処理装置。
【0278】(11) 前記距離推定手段は、前記撮像
手段によって得られる画像上の点とその周辺の相関値の
形状が鋭くなる複数組の2点を用いて倍率を推定する倍
率推定手段を有してなる付記1に記載の内視鏡画像処理
装置。
【0279】(12) 前記距離推定手段において用い
る相関値が、相互相関の値による付記11に記載の内視
鏡画像処理装置。
【0280】(13) 前記距離推定手段において用い
る相関値が、自己相関の値による付記11に記載の内視
鏡画像処理装置。
【0281】(14) 前記倍率推定手段は、前記撮像
手段によって得られる画像上の相関値が適当なしきい値
よりも大きい2点間の輝度の比率と、前記撮像手段の視
点と光源と対象物体との相対的な位置関係によって導か
れる倍率を変数とした輝度の比率と、の差の二乗に相関
値から得られる重み関数を掛けて合計した値が最小にな
るような倍率を推定する手段からなる付記6に記載の内
視鏡画像処理装置。
【0282】(15) 前記距離推定手段は、前記撮像
手段によって得られる画像上の適当な点の正規化された
輝度と、前記撮像手段の視点と光源と対象物体との相対
的な位置関係によって導かれる倍率を変数とする正規化
した輝度と、の差の二乗和が最小になるような倍率を推
定する倍率推定手段を有してなり、前記推定された倍率
より前記撮像手段から対象物体までの距離を推定する付
記1に記載の内視鏡画像処理装置。
【0283】(16) 前記距離推定手段において用い
る正規化された輝度が、前記画像上点の周辺の輝度の平
均値によって正規化されたものからなる付記15に記載
の内視鏡画像処理装置。
【0284】(17) 前記距離推定手段において用い
る2点間の輝度の比率が、前記撮像手段の異なる位置か
ら撮像された同一点から得られる付記6に記載の内視鏡
画像処理装置。
【0285】(18) 前記撮像手段は照明光を照射す
る複数の照射口を有し、前記距離推定手段は、前記各照
射口から照射される光に応じて得られるそれぞれの画像
の同一な2点間の輝度の比率を、前記撮像手段の視点と
照射口の位置と対象物体との相対的な位置関係によって
導かれる倍率を変数とする方程式で表し、前記対象物体
上の複数の点の組み合わせにより前記倍率に関する複数
の方程式を導き、この複数の方程式を解くことによって
前記倍率を推定する倍率推定手段を有してなり、前記推
定された倍率より前記撮像手段から対象物体までの距離
を推定する付記1に記載の内視鏡画像処理装置。
【0286】付記6〜18では、撮像手段の視点と光源
と対象物体との相対的な位置関係から推定される輝度の
比率と撮像手段で実際に得られる画像の輝度の比率とか
ら、撮像手段から対象物体上の適当な点の位置までの距
離を推定することにより、対象物体までの絶対的な距離
が正確に推定される。
【0287】(19) 前記相対形状推定手段は、前記
撮像手段により撮像された複数の画像から画像上の同一
な点の位置を検出する位置検出手段と、前記位置検出手
段で検出された同一な点の位置から対象物体の位置に対
する各撮像手段の位置を推定する撮像位置推定手段と、
前記位置検出手段と前記撮像位置推定手段の結果より前
記撮像手段から対象物体までの相対的な距離を推定する
相対距離推定手段と、を有してなる付記1に記載の内視
鏡画像処理装置。
【0288】(20) 前記位置検出手段は、前記画像
上の同一な点の位置を予測する位置予測手段と、前記位
置予測手段で予測された位置の周辺の部分画像の特徴を
検出する特徴検出手段と、前記検出された特徴により前
記画像上の同一な位置の検出処理を行う同一点検出手段
と、を有してなる付記19に記載の内視鏡画像処理装
置。
【0289】(21) 前記位置予測手段は、時系列的
に得られる画像において前回までの同一な点の位置の移
動量から推定される位置より予測する付記20に記載の
内視鏡画像処理装置。
【0290】(22) 前記特徴検出手段は、前記部分
画像の周波数特性より特徴を検出する付記20に記載の
内視鏡画像処理装置。
【0291】(23) 前記同一点検出手段は、画像上
の同一な点の位置を検出する同一点位置検出手段と、こ
の同一点位置検出手段の結果から前記同一な点の位置の
移動量を算出する移動量算出手段と、を有してなる付記
20に記載の内視鏡画像処理装置。
【0292】(24) 前記同一点位置検出手段は、テ
ンプレートマッチングを用いたものからなる付記23に
記載の内視鏡画像処理装置。
【0293】(25) 前記同一点検出手段は、処理さ
れる画像に対して連続して同一な点の位置の検出を行わ
ない回数を数えるカウント手段を有してなる付記20に
記載の内視鏡画像処理装置。
【0294】付記19〜25では、時系列的に得られる
画像の中から焦点ズレが発生している画像を検出し、焦
点ズレが発生している画像は用いないようにし、画像間
の同一な点の位置を前回までの移動量から予測して、前
記同一な点の位置の検出を行うことにより、焦点の合っ
ていない画像が撮像された場合でも正確に同一点の検出
がなされる。
【0295】(26) 前記同一点検出手段は、画像上
の同一な点の位置を検出する点の数とテンプレート画像
の大きさとを変更するテンプレート変更手段と、変更さ
れた検出点の数とテンプレート画像とから画像上の同一
な点の位置を検出する同一点位置検出手段と、この同一
点位置検出手段の結果から前記同一な点の位置の平均的
な移動量を算出する移動量算出手段と、を有してなる付
記20に記載の内視鏡画像処理装置。
【0296】(27) 前記テンプレート変更手段は、
前記特徴検出手段で検出される部分画像の特徴に応じて
前記検出点の数とテンプレートの大きさとを決定する付
記26に記載の内視鏡画像処理装置。
【0297】付記26及び27では、時系列的に得られ
る画像の中から焦点ズレが発生している画像を検出し、
焦点ズレを発生した画像間ではテンプレート画像の大き
さを変更して画像上の同一な点の位置の検出を行うよう
にする。この際、検出された同一点の位置を基に焦点ズ
レを発生した画像間の平均的な移動量を求め、その移動
量から画像上の同一な点の位置を予測して前記同一な点
の位置を検出することにより、焦点の合っていない画像
が撮像された場合でも正確に同一点の検出がなされる。
【0298】
【発明の効果】以上説明したように本発明によれば、同
一の対象物体に対して異なる位置から撮像された画像を
基に、撮像手段から対象物体までの絶対的な距離を精度
良く容易に推定することが可能となる効果がある。
【図面の簡単な説明】
【図1】第1の実施形態における電子内視鏡システムの
全体構成図
【図2】電子内視鏡装置のブロック構成を示すブロック
【図3】画像処理装置の構成を示すブロック図
【図4】CPUで構成した画像処理手段の機能構成を示
すブロック図
【図5】ハードウェアで構成した画像処理手段の構成を
示すブロック図
【図6】記録装置の構成を示すブロック図
【図7】画像処理装置の入力部の変形例を示すブロック
【図8】相対形状推定手段の機能構成を示すブロック図
【図9】距離推定手段の機能構成を示すブロック図
【図10】対象物の相対的な形状を推定する処理の全体
的な流れを示すフローチャート
【図11】図10の各処理を説明するための作用説明図
【図12】時系列に得られた画像データからシフトマッ
プを作成する様子を示す説明図
【図13】中心射影の座標系を示す説明図
【図14】撮像手段の運動に関する回転ベクトル及び並
進ベクトルの関係を示す説明図
【図15】撮像手段の運動に伴う対象物体との距離の変
化を示す説明図
【図16】時系列に得られた各画像の周波数特性を求め
る様子を示す説明図
【図17】画像データの周波数特性を示す特性図
【図18】ハレーションが発生した場合の光源及び撮像
手段と対象物体との位置関係を示す説明図
【図19】対象物上の点Pにおける接平面の法線ベクト
ルと視点O及び光源Sの位置座標係を示す説明図
【図20】対象物上の点Pにおける接平面の法線ベクト
ルの推定方法の一例を示す作用説明図
【図21】第3の実施形態における内視鏡システムの全
体構成を示す構成説明図
【図22】対象物体上のレーザ光の照射位置までの距離
を推定する動作を説明する作用説明図
【図23】光源及び撮像手段の位置と撮像手段で得られ
る対象物体上の一点の輝度値との関係を示す説明図
【図24】光源から対象物体上の適当な一点へのベクト
ルと対象物体の一点の法線ベクトルの関係を示す説明図
【図25】撮像手段の視点Oから対象物体上の2点A,
Bまでのベクトルを示す説明図
【図26】光源位置ベクトルの推定方法の一例を示す作
用説明図
【図27】光源位置ベクトルの推定方法の一例を示す作
用説明図
【図28】画像内の特定の領域として設定されるテンプ
レート画像を示す説明図
【図29】画像内の各点毎の相互相関の値を示す特性図
【図30】画像内の模様に応じた相互相関の値の変化を
示す特性図
【図31】テンプレート画像に関する相互相関の値を算
出する手順を示す作用説明図
【図32】相互相関値の形状の鋭い点を検出する手順を
示す作用説明図
【図33】撮像手段を移動させて撮像した複数の画像に
おける各撮像手段の視点Oから対象物体上の点Pへの位
置ベクトルを示す説明図
【図34】内視鏡の先端部に二つの照射口A,Bを設け
て各照射口からの光により複数の画像を撮像する場合の
作用説明図
【図35】第10の実施形態に係る位置検出手段によっ
て時系列的に入力される複数の画像の同一点の検出を行
う過程を示したフローチャート
【図36】時系列的に得られる複数の画像について各画
像の周波数特性の適当な周波数領域のパワーを算出する
手順を示す作用説明図
【図37】第11の実施形態に係る位置検出手段によっ
て時系列的に入力される複数の画像の同一点の検出を行
う過程を示したフローチャート
【図38】焦点ズレに関する量とテンプレート画像のサ
イズの大きさとの関係を示す説明図
【符号の説明】
1…内視鏡システム 2…電子内視鏡装置 3…画像処理装置 4…記録装置 5,8…モニタ 6…電子内視鏡 7…観察装置 7A…光源部 7B…信号処理部 16…先端部 19…撮像部 40…CPU 42…主記憶装置(RAM) 45…ROM 47…画像処理手段 50,62…相対形状推定手段 51,63…距離推定手段 52,64…絶対形状推定手段
───────────────────────────────────────────────────── フロントページの続き (72)発明者 野波 徹緒 東京都渋谷区幡ヶ谷2丁目43番2号 オリ ンパス光学工業株式会社内

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 同一の対象物体に対して異なる位置より
    撮像する撮像手段を有する内視鏡と、 前記撮像手段により撮像された複数の画像から、前記対
    象物体の相対的な形状を推定する相対形状推定手段と、 前記撮像手段から前記対象物体上の適当な位置までの距
    離を推定する距離推定手段と、 前記相対形状推定手段により推定された対象物体の相対
    形状と前記距離推定手段により推定された対象物体まで
    の距離とから、前記対象物体の絶対的な形状を推定する
    絶対形状推定手段と、 を備えたことを特徴とする内視鏡画像処理装置。
JP7173618A 1995-07-10 1995-07-10 内視鏡画像処理装置 Withdrawn JPH0926547A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP7173618A JPH0926547A (ja) 1995-07-10 1995-07-10 内視鏡画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP7173618A JPH0926547A (ja) 1995-07-10 1995-07-10 内視鏡画像処理装置

Publications (1)

Publication Number Publication Date
JPH0926547A true JPH0926547A (ja) 1997-01-28

Family

ID=15963959

Family Applications (1)

Application Number Title Priority Date Filing Date
JP7173618A Withdrawn JPH0926547A (ja) 1995-07-10 1995-07-10 内視鏡画像処理装置

Country Status (1)

Country Link
JP (1) JPH0926547A (ja)

Cited By (9)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6295368B1 (en) 1998-04-10 2001-09-25 Olympus Optical Co., Ltd. Endoscopic image processing system capable of estimating absolute shape of object entity
WO2008099881A1 (ja) 2007-02-14 2008-08-21 Olympus Medical Systems Corp. 処置具の位置制御を行う内視鏡システム及びその位置制御方法
WO2008120508A1 (ja) 2007-03-29 2008-10-09 Olympus Medical Systems Corp. 内視鏡の処置具位置制御装置
JP2010119742A (ja) * 2008-11-21 2010-06-03 Fujifilm Corp 内視鏡装置およびその制御方法
WO2015125592A1 (ja) * 2014-02-20 2015-08-27 オリンパス株式会社 内視鏡システム
US11055865B2 (en) 2018-08-30 2021-07-06 Olympus Corporation Image acquisition device and method of operating image acquisition device
US11321861B2 (en) 2017-05-23 2022-05-03 Olympus Corporation Method of operating measurement device, measurement device, measurement system, three-dimensional shape restoration device, and recording medium
CN116076985A (zh) * 2023-03-16 2023-05-09 珠海视新医用科技有限公司 内窥镜防碰撞报警装置及电子设备
EP4424226A1 (en) * 2023-03-03 2024-09-04 FUJIFILM Corporation Medical endoscope system and operation method thereof

Cited By (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6295368B1 (en) 1998-04-10 2001-09-25 Olympus Optical Co., Ltd. Endoscopic image processing system capable of estimating absolute shape of object entity
WO2008099881A1 (ja) 2007-02-14 2008-08-21 Olympus Medical Systems Corp. 処置具の位置制御を行う内視鏡システム及びその位置制御方法
WO2008120508A1 (ja) 2007-03-29 2008-10-09 Olympus Medical Systems Corp. 内視鏡の処置具位置制御装置
JP2010119742A (ja) * 2008-11-21 2010-06-03 Fujifilm Corp 内視鏡装置およびその制御方法
US8439823B2 (en) 2008-11-21 2013-05-14 Fujifilm Corporation Endoscope apparatus and its control method
JP2015154803A (ja) * 2014-02-20 2015-08-27 オリンパス株式会社 内視鏡システム
WO2015125592A1 (ja) * 2014-02-20 2015-08-27 オリンパス株式会社 内視鏡システム
CN106028904A (zh) * 2014-02-20 2016-10-12 奥林巴斯株式会社 内窥镜系统
US10413155B2 (en) 2014-02-20 2019-09-17 Olympus Corporation Endoscope system and the method of controlling the endoscope
US11321861B2 (en) 2017-05-23 2022-05-03 Olympus Corporation Method of operating measurement device, measurement device, measurement system, three-dimensional shape restoration device, and recording medium
US11055865B2 (en) 2018-08-30 2021-07-06 Olympus Corporation Image acquisition device and method of operating image acquisition device
EP4424226A1 (en) * 2023-03-03 2024-09-04 FUJIFILM Corporation Medical endoscope system and operation method thereof
CN116076985A (zh) * 2023-03-16 2023-05-09 珠海视新医用科技有限公司 内窥镜防碰撞报警装置及电子设备

Similar Documents

Publication Publication Date Title
JP3347385B2 (ja) 内視鏡画像処理装置
US10213093B2 (en) Focus control device, endoscope apparatus, and method for controlling focus control device
US9486123B2 (en) Endoscope system which enlarges an area of a captured image, and method for operating endoscope system
JP5865606B2 (ja) 内視鏡装置及び内視鏡装置の作動方法
JP5242381B2 (ja) 医療用画像処理装置及び医療用画像処理方法
US7857752B2 (en) Medical image processing apparatus and medical image processing method
US20150339817A1 (en) Endoscope image processing device, endoscope apparatus, image processing method, and information storage device
US8184146B2 (en) Medical image processing apparatus and medical image processing method
US20150294463A1 (en) Image processing device, endoscope apparatus, image processing method, and information storage device
US9826884B2 (en) Image processing device for correcting captured image based on extracted irregularity information and enhancement level, information storage device, and image processing method
JP3438937B2 (ja) 画像処理装置
WO2018230098A1 (ja) 内視鏡システム、内視鏡システムの作動方法
JP6132901B2 (ja) 内視鏡装置
WO2012114600A1 (ja) 医用画像処理装置及び医用画像処理方法
JP7387859B2 (ja) 医用画像処理装置、プロセッサ装置、内視鏡システム、医用画像処理装置の作動方法及びプログラム
EP4101364A1 (en) Medical image processing device, endoscope system, medical image processing method, and program
JP7609075B2 (ja) 情報処理装置および情報処理方法
JPH0926547A (ja) 内視鏡画像処理装置
WO2017212725A1 (ja) 医療用観察システム
EP4026479A1 (en) Medical image processing device, endoscope system, medical image processing method, and program
CN113907693B (zh) 操作映射比例调整方法、装置、电子设备以及存储介质
JP3126996B2 (ja) 内視鏡画像の処理方法
KR20240065115A (ko) 다중 이미지 재구성 및 정합 방법
JP2997785B2 (ja) 内視鏡画像処理装置および内視鏡画像処理方法
US20240423699A1 (en) Medical system and method for detecting contact state

Legal Events

Date Code Title Description
A300 Withdrawal of application because of no request for examination

Free format text: JAPANESE INTERMEDIATE CODE: A300

Effective date: 20021001