JP2003290131A - 立体内視鏡 - Google Patents

立体内視鏡

Info

Publication number
JP2003290131A
JP2003290131A JP2002104359A JP2002104359A JP2003290131A JP 2003290131 A JP2003290131 A JP 2003290131A JP 2002104359 A JP2002104359 A JP 2002104359A JP 2002104359 A JP2002104359 A JP 2002104359A JP 2003290131 A JP2003290131 A JP 2003290131A
Authority
JP
Japan
Prior art keywords
image
light
intensity
variable
distance
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2002104359A
Other languages
English (en)
Other versions
JP4195574B2 (ja
Inventor
Masahiro Kawakita
真宏 河北
Keigo Iizuka
啓吾 飯塚
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Japan Broadcasting Corp
Original Assignee
Nippon Hoso Kyokai NHK
Japan Broadcasting Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nippon Hoso Kyokai NHK, Japan Broadcasting Corp filed Critical Nippon Hoso Kyokai NHK
Priority to JP2002104359A priority Critical patent/JP4195574B2/ja
Publication of JP2003290131A publication Critical patent/JP2003290131A/ja
Application granted granted Critical
Publication of JP4195574B2 publication Critical patent/JP4195574B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Length Measuring Devices By Optical Means (AREA)
  • Instruments For Viewing The Inside Of Hollow Bodies (AREA)
  • Endoscopes (AREA)

Abstract

(57)【要約】 【課題】 本発明は、距離情報をリアルタイムで検出す
ることができる立体内視鏡を提供することを目的とす
る。 【解決手段】 光強度を変調し出力する強度可変光源1
と、光を照射された観察対象の画像を結像しイメージガ
イド光学系6で伝達された画像を入力され撮像ゲインを
変調する撮像ゲイン可変イメージセンサ手段8と、光源
の出力光強度の変調と撮像ゲイン可変イメージセンサ手
段の撮像ゲインの変調との時間変化パターンが異なる組
合せであるときに撮像ゲイン可変イメージセンサ手段で
得られた複数の画像信号間の強度比から距離を算出し観
察対象の奥行き距離を画像の濃淡で表す距離画像を出力
する信号演算処理手段9とを有することにより、複数の
画像信号間の強度比を計算するだけで距離を高速に算出
することができ、距離情報をリアルタイムで検出するこ
とができる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は立体内視鏡に関し、
特に、観察対象の奥行き形状を検出し3次元情報を取得
する立体内視鏡に関する。
【0002】
【従来の技術】観察対象の3次元形状を観察する立体内
視鏡として、異なる視差から観察対象を観察する2眼方
式を用いた、特開平9−5643号公報、特開平5−3
41206号公報に記載のものがある。また、レーザ光
を照射し干渉縞を形成して距離を求める方式を用いた、
特開平8−248326号公報に記載のものがある。
【0003】
【発明が解決しようとする課題】しかし、2眼方式にお
いては、左目画像と右目画像間でのマッチングをとり、
各点の距離を算出するための時間を要する画像演算処理
が必要であり、動く観察対象に対し、観察範囲全体の奥
行き距離のデータを高速に取得することは困難である。
また、レーザ光を照射し、観察対象上のポイントを1点
ごとに算出する方法においては、観察範囲全体をレーザ
光で2次元走査が必要であり、時間を要する。
【0004】また、干渉縞画像より奥行き距離を検出す
る方式においても、複雑な画像処理が必要であり、高速
検出と多画素検出を両立することはできない。このよう
に従来方式では、動く観察対象の奥行き距離情報をリア
ルタイムで検出することは困難であるという問題があっ
た。
【0005】本発明は、上記の点に鑑みなされたもの
で、距離情報をリアルタイムで検出することができる立
体内視鏡を提供することを目的とする。
【0006】
【課題を解決するための手段】請求項1に記載の発明
は、光強度を変調し出力する強度可変光源と、前記強度
可変光源からの出力光を観察対象に照射するライトガイ
ド手段と、光を照射された観察対象の画像を結像する結
像手段と、前記画像を伝達するイメージガイド手段と、
前記イメージガイド光学系で伝達された画像を入力され
撮像ゲインを変調する撮像ゲイン可変イメージセンサ手
段と、前記光源の出力光強度の変調と前記撮像ゲイン可
変イメージセンサ手段の撮像ゲインの変調との時間変化
パターンが異なる組合せであるときに前記撮像ゲイン可
変イメージセンサ手段で得られた複数の画像信号間の強
度比から距離を算出し観察対象の奥行き距離を画像の濃
淡で表す距離画像を出力する信号演算処理手段とを有す
ることにより、複数の画像信号間の強度比を計算するだ
けで距離を高速に算出することができ、距離情報をリア
ルタイムで検出することができる。
【0007】請求項2に記載の発明は、光強度を変調し
可視領域外の光を出力する強度可変光源と、可視領域の
光を出力する可視光源と、前記強度可変光源と可視光源
それぞれの出力光を観察対象に照射するライトガイド手
段と、光を照射された観察対象の画像を結像する結像手
段と、前記画像を伝達するイメージガイド手段と、前記
イメージガイド光学系で伝達された画像から前記強度可
変光源の波長成分と前記可視光源の波長成分とを分離す
る分離手段と、前記分離手段で分離された前記強度可変
光源の波長成分の画像を入力され撮像ゲインを変調する
撮像ゲイン可変イメージセンサ手段と、前記分離手段で
分離された前記可視光源の波長成分の画像を入力され観
察対象の画像を出力する第2イメージセンサ手段と、前
記強度可変光源の出力光強度の変調と前記撮像ゲイン可
変イメージセンサ手段の撮像ゲインの変調との時間変化
パターンが異なる組合せであるときに前記撮像ゲイン可
変イメージセンサ手段で得られた複数の画像信号間の強
度比から距離を算出し観察対象の奥行き距離を画像の濃
淡で表す距離画像を出力する信号演算処理手段とを有す
ることにより、複数の画像信号間の強度比を計算するだ
けで距離を高速に算出することができ、距離情報をリア
ルタイムで検出することができる。
【0008】請求項3に記載の発明は、請求項1または
2記載の立体内視鏡において、前記イメージガイド手段
と前記イメージガイド手段とを共用することにより、装
置の光学系全体を簡単な構成とすることができる。
【0009】請求項4に記載の発明は、請求項1乃至3
のいずれか記載の立体内視鏡において、前記強度可変光
源は、パルス光を出力し、前記撮像ゲイン可変イメージ
センサ手段は、前記撮像ゲインを時間と共に増加及び減
少させ、前記信号演算処理手段は、前記撮像ゲインを時
間と共に増加させながら撮像した画像と前記撮像ゲイン
を時間と共に減少させながら撮像した画像との間の強度
比から距離を算出することにより、パルスレーザ光が使
用でき、分解能が高い距離検出が可能となる。
【0010】請求項5に記載の発明は、請求項1乃至3
のいずれか記載の立体内視鏡において、前記強度可変光
源は、前記光強度を時間と共に増加及び減少させて出力
し、前記撮像ゲイン可変イメージセンサ手段は、前記撮
像ゲインをパルス状に短時間一定値とし、前記信号演算
処理手段は、前記光強度を時間と共に増加させながら撮
像した画像と前記前記光強度を時間と共に減少させなが
ら撮像した画像との間の強度比から距離を算出すること
により、発光ダイオードなどインコヒーレントな照明も
使用でき、高輝度で広い範囲を照明でき、人物の距離検
出などが可能となる。
【0011】請求項6に記載の発明は、請求項1乃至3
のいずれか記載の立体内視鏡において、前記強度可変光
源は、前記光強度を矩形波状に変調して出力し、前記撮
像ゲイン可変イメージセンサ手段は、前記撮像ゲインを
前記光強度と同一周期で矩形波状に変調し、前記信号演
算処理手段は、前記光強度と前記撮像ゲインが同位相の
とき撮像した画像と前記光強度と前記撮像ゲインが逆位
相のとき撮像した画像との間の強度比から距離を算出す
ることにより、検出される検出信号量が多くなり、信号
対ノイズ比が高い撮像が可能であり、高分解能な距離検
出が可能となる。
【0012】
【発明の実施の形態】図1は、本発明の立体内視鏡の第
1実施例の構成図を示す。同図中、光源1は、出力光強
度を高速に変調可能な光源である。この光源1の出力光
を光照射用のライトガイド光学系2に入力する。光源1
としては、レーザ光ダイオードや発光ダイオードなどを
発光素子として使用し、発光素子を直接変調するか、も
しくは音響光学素子など外部変調素子により発光素子の
出力光を変調するものが使用できる。
【0013】光の波長として、観察対象の表面の反射率
が高いものやファイバ光学系の透過率特性が高く、撮像
ゲイン可変撮像素子の光電面の感度特性に最適な波長を
選択する。外光がある環境下での距離検出では、外光に
含まれている波長成分が少ない波長域を選択すること
で、外乱要因の影響を少なく抑えることができる。ま
た、人体に対するレーザ光の安全性を確保するには、波
長1.54μmのアイセーフ波長域の光を使用すること
が有効である。
【0014】カラーカメラでカラー画像を取得するため
に、別途、可視光で照明する場合は、距離検出用の強度
変調光として紫外または近赤外または赤外域の光を使用
する。出力光強度を高速に変調可能な光源1として、レ
ーザ光の代わりに、インコヒーレント光で広帯域な波長
特性の発光ダイオードを使用すれば、レーザ光で生じる
スペックルノイズを除去できる。
【0015】光源1からライトガイド光学系2への光の
入射は、集光レンズを使うことで効率よく入射できる。
ライトガイド光学系2は入力光に対し高い透過率を示す
材料を使用する。ライトガイド光学系2には、複数の微
細なプラスティックまたはガラス製のファイバ束により
構成されるイメージファイバを利用する。
【0016】ライトガイド光学系2の観察対象側の端面
から出力光3を観察対象4の全体に照射する。このと
き、ライトガイド光学系2の出力端面にレンズや拡散板
を設けることで、観察対象4の全体に対し光強度の面内
一様性よく照明できる。また、後述する画像取り込み用
のイメージガイド光学系6の回りを取り囲むように、ラ
イトガイド光学系2のファイバ束の出力端面を配置する
ことで、照射光の影を少なくすことができる。
【0017】照射光で照らされた観察対象4の画像をレ
ンズ5で結像し、その結像画像をイメージガイド光学系
6でリレーレンズ光学系7に伝達する。イメージガイド
光学系6は、複数の微細なプラスティックまたはガラス
製のファイバ束により構成されるイメージファイバを利
用する。また、大きな曲率は得られないものの高い透過
率と高い解像度を得るためには、微小なレンズ群や屈折
率分布レンズを使用してリレーレンズ光学系7を構成す
る。
【0018】イメージガイド光学系6の撮像側端面に伝
達された画像はリレーレンズ光学系7を用いて撮像ゲイ
ン可変イメージセンサ8に結像入力する。リレーレンズ
光学系7ではイメージガイド光学系6端面の比較的微小
な2次元画像を撮像ゲイン可変イメージセンサ8に拡大
結像して入力する。このとき、光量を効率良く結像する
ためのリレーレンズ光学系7の条件としては、イメージ
ガイド光学系6端面の光出力の開口数(NA)と同等の
NAをリレーレンズ光学系7の光取り込み側に持つこと
である。
【0019】さらに、リレーレンズ光学系7の光入力側
開口数NAi、ライトガイド端面の画像をイメージセン
サの有効結像面積に結像する際の拡大結像率をβとする
と、リレーレンズ光学系7の出力側開口数NAoをNA
o≧βNAiとすることで、光ロスを少なく効率的に、
光を撮像ゲイン可変イメージセンサ8に伝達できる。ま
た、別の手段として、リレーレンズ光学系7の代わりに
ファイバプレートを直接イメージガイド光学系6端面と
撮像ゲイン可変イメージセンサ8の受光部分との間に密
着させて配置することで光ロスを低減させることが可能
となる。
【0020】撮像ゲイン可変イメージセンサ8で取得し
た画像信号は、距離算出演算処理部9に供給される。距
離算出演算処理部9では、撮像ゲイン可変イメージセン
サ8で照射光の変調パターンと撮像ゲインの変調パター
ンが異なるときに撮影された2枚の画像信号を切替器1
0で切替え、メモリ11とメモリ12にそれぞれ入力す
る。演算処理回路13は、メモリ11,12に記憶され
た2枚の画像信号間の強度比から距離を算出し、観察対
象の奥行き距離を画像の濃淡で表す距離画像を生成して
出力する。出力される距離画像は図示しない画像表示モ
ニタに表示したり、また、画像記録装置等に供給されて
記録される。
【0021】また、図2に示すように、ライトガイド光
学系と結像画像撮像用のイメージガイド光学系を共用す
ることで装置の光学系全体を簡単な構成とすることがで
きる。図2において、光源1からの出力光をプリズム1
5によりライトガイド光学系14内に入射して観察対象
に照射すると共に、反射光を同じライトガイド光学系1
4を用いて結像画像を撮像側に伝達することができる。
この場合、光のロスが大きい欠点があるもの、軽量・コ
ンパクトで、直径が小さく細い内視鏡が可能となる。
【0022】図3は、本発明の立体内視鏡の第2実施例
の構成図を示す。同図中、図1と同一部分には同一符号
を付し、その説明を省略する。前述の第1の実施例では
観察対象の奥行き形状を示す距離画像のみを得る立体内
視鏡を示したが、図3に示す第2の実施例では、観察対
象のカラー画像と距離画像を同時に得る。
【0023】図3において、出力光強度を変調可能な光
源1からの出力光を、プリズム15を介して、ライトガ
イド光学系2に入力する。同時に、カラー画像を撮像す
るのに必要となる可視領域の波長の光を出力する光源1
6の出力光をプリズム15を介してライトガイド光学系
2に入力する。各光波長として、光源1からの波長を近
赤外光から赤外光とし、光源16からの光を可視光とし
て、それぞれの波長を光学的に分離でき、カラー画像撮
影と距離画像撮影とが互いに影響を及ぼさないようにで
きる。
【0024】可視光のみの光を得るためには光源16と
して白色光源を使用し、出力光を波長選択特性フィルタ
により、強度変調光の波長域を除去したものを使用す
る。また、可視域のレーザ光や発光ダイオード出力光も
使用できる。光源1を、レーザ光や発光ダイオードと
し、波長を750nm以上の長波長帯域を選択すること
で可視光とのクロストークをなくすことができると共
に、距離検出用の近赤外波長が可視光領域から大きく離
れていないため、レンズ光学系による結像特性もカラー
画像と距離画像で大きく異なることなく、どちらもほぼ
同じ画角の画像が得られ、レンズ光学系の設計も容易で
ある。
【0025】プリズム15の特性として例えば、光源1
の波長に対しては高い透過率を示し、光源16の波長に
対しては高い反射率を示す特性をもつダイクロイックプ
リズムを使用して、効率良くライトガイド光学系2にそ
れぞれの光を入射することができる。ライトガイド光学
系2の観察対象側端面から観察対象4全体に強度変調光
と可視光の出力光3を照射する。観察対象4からの反射
光は、レンズ5でイメージガイド光学系6の端面に結像
され、イメージガイド光学系6のイメージセンサ側端面
に伝達される。
【0026】イメージガイド光学系6の撮像側端面を分
割結像光学系17に接続し、可視光の結像画像をカラー
カメラ18に供給し、強度変調光の結像画像を距離検出
用の撮像ゲイン可変イメージセンサ8に供給する。分割
結像光学系17の構成例としては、強度変調光の波長と
可視光の波長を分割するダイクロイックプリズム19
と、カラーカメラ用のリレーレンズ光学系20と、距離
検出用のリレーレンズ光学系21とからなる。
【0027】分割結像光学系17の構成としては、リレ
ーレンズ光学系をイメージガイド光学系6とダイクロイ
ックプリズム19との間に挿入する構成でも可能であ
る。しかし、図3に示す構成の方が、各リレーレンズ光
学系20,21は波長帯域が限定されているため波長に
より最適化し易く、高い結像性能の結像ができる。ま
た、カラーカメラ18の撮像素子サイズヘの倍率変換
と、撮像ゲイン可変イメージセンサ8の倍率変換を個々
独立に扱うことができる。強度変調光は撮像ゲイン可変
イメージセンサ8に入力し、距離算出演算処理部9で距
離を算出し、観察対象の奥行き距離を画像の濃淡で表す
距離画像を生成して出力する。
【0028】距離画像とカラー画像をフレーム単位で同
期させることは、カラーカメラ18と撮像ゲイン可変イ
メージセンサ8と距離算出演算処理部9を外部同期駆動
させると共に、カラー画像信号を遅延回路22で遅延し
て出力することにより、距離画像とカラー画像をフレー
ム単位で同期させることが可能とある。
【0029】出力されたカラー画像と距離画像は、画像
表示モニタに表示したり、画像記録装置等に入力され記
録される。更に、得られたカラー画像と距離画像から、
視差画像を作成し、図示しない立体表示装置で立体的に
表示し、立体観察することも可能となる。
【0030】この実施例においても、図2に示すよう
に、ライトガイド光学系と結像画像撮像用のイメージガ
イド光学系を共用することで装置光学系全体を簡単な構
成とすることができる。
【0031】次に、距離検出の原理を説明する。
【0032】図4を用いて、強度変調光として短時間の
パルス光を使用し、撮像ゲインを時間と共に高速に増加
させながら撮像した画像と、撮像ゲインを時間と共に高
速に減少させながら撮像した画像間で演算を行い、距離
を検出する方法を説明する。
【0033】距離dの位置にある観察対象に、図4
(A)に示すように、光強度Fのパルス光23を時刻
tpに照射し、観察対象からの反射光24を時間と共に
係数gで増加する撮像ゲイン25を持つイメージセンサ
で撮像した場合のカメラで検出される信号量E(d,
tp)は、(1)式で表される。
【0034】
【数1】 ここで、Tはライトガイド光学系2やイメージガイド
光学系6などのレンズ光学系の透過率、ρは観察対象表
面の反射特性係数、τはパルス幅、cは光速、2d/c
は撮像ゲイン可変イメージセンサ8から観察対象4まで
の距離dを光が往復する時間、lはレンズ5から観察対
象4までの距離であり、式の分母は光の拡散による減衰
を考慮した項である。次に、図4(B)に示すように、
時間と共に係数gで減少する撮像ゲイン26を持つイメ
ージセンサで撮像した場合のカメラで検出される信号量
(d,tp)は、(2)式で表される。
【0035】
【数2】 ここで、Tは撮像ゲインの変調周期である。(1)式と
(2)式より、撮像ゲインの異なる2枚の画像間での強
度比R=E/Eをとり、距離dを求めると、(3)
式となる。
【0036】
【数3】 上記(3)式で示されるように、撮像ゲイン増加時と撮
像ゲイン減少時に撮像した2つの画像間の強度比Rを計
算するだけで、観察対象の反射率や光の拡散による光の
減衰効果等の影響をキャンセルし、高速に距離を求める
ことができる。
【0037】このように、パルス状の光と、時間と共に
変化する撮像ゲインの組合せでは、パルスレーザが使用
でき、Qスイッチパルスレーザ光、モード同期パルス光
など、パルス幅がピコ秒からフェムト秒のパルスレーザ
光が使用できるため、分解能が高い距離検出が可能とな
る。
【0038】この場合、測定できる範囲(測定レンジ)
Dは、(4)式で表される。
【0039】
【数4】 次に、強度変調光として時間と共に光強度が増加および
減少する光と、撮像ゲイン可変イメージセンサ8の撮像
ゲインをパルス状に短時間一定値とする所謂シャッタ機
能を持つ撮像装置による距離検出方法について説明す
る。距離dに置かれた観察対象に、図5(A)に示すよ
うに、時間と共に係数sで光強度が増加する強度変調光
27を照射し、観察対象からの反射光28を時刻tsに
パルス状撮像ゲイン29で短時間撮像した場合、カメラ
で検出される信号量E(d,ts)は、(5)式で表
される。
【0040】
【数5】 ここで、Tはライトガイド光学系2やイメージガイド
光学系6などのレンズ光学系の透過率、ρは観察対象表
面の反射特性係数、τはパルス幅、cは光速、2d/c
は撮像ゲイン可変イメージセンサ8から観察対象4まで
の距離dを光が往復する時間、lはレンズ5から観察対
象4までの距離であり、式の分母は光の拡散による減衰
を考慮した項であり、△tは撮像時間幅である。
【0041】次に、図5(B)に示すように、時間と共
に係数sで光強度が減少する強度変調光30を照射し、
観察対象からの反射光31を時刻tsにパルス状撮像ゲ
イン29で短時間撮像した場合、カメラで検出される信
号量E(d,ts)は、(6)式で表される。
【0042】
【数6】 ここで、Tは光強度の変調周期である。(5)式と
(6)式より、光強度の異なる2枚の画像間での強度比
R=E/Eをとり、距離dを求めると、(7)式と
なる。
【0043】
【数7】 (7)式で示されるように、光強度増加時と光強度減少
時に撮像した2つの画像間の比Rを計算するだけで、観
察対象の反射率や光の拡散による光の減衰効果等の影響
をキャンセルし、高速に距離を求めることができる。
【0044】このように、時間と共に強度変化する光源
は、パルス照射光より低い周波数特性でも実現できるた
め、レーザ光源以外に、LED(発光ダイオード)など
インコヒーレントな照明も使用できるため、高輝度で広
い範囲を照明でき、人物の距離検出なども可能となる。
【0045】次に、矩形波状に変調した強度変調光と、
矩形波状に撮像ゲインが変化する撮像装置による距離検
出方法を説明する。距離dに位置する観察対象に、図6
(A)に破線で示すような矩形の強度変調光32(光強
度F、変調周期T)を照射し、その反射光33を強度
変調光32と同一周期で同位相の矩形状の撮像ゲイン3
4(ゲインg、周期T)で撮像する場合、カメラで検出
される信号量E(d,tp)は、(8)式で表され
る。
【0046】
【数8】 ここで、Tはライトガイド光学系2やイメージガイド
光学系6などのレンズ光学系の透過率、ρは観察対象表
面の反射特性係数、τはパルス幅、cは光速、2d/c
は撮像ゲイン可変イメージセンサ8から観察対象4まで
の距離dを光が往復する時間、lはレンズ5から観察対
象4までの距離であり、式の分母は光の拡散による減衰
を考慮した項である。
【0047】次に、図6(B)に示すように、周期Tだ
けシフトした強度変調光32と逆位相の矩形状の撮像ゲ
イン35(ゲインg、周期T)で撮像する場合、カメラ
で検出される信号量E(d,tp)は、(9)式で表
される。
【0048】
【数9】 (8)式と(9)式より、2つの画像間の強度比R=E
/Eをとり、距離dを求めると、(10)となる。
【0049】
【数10】 (10)式で示されるように、2つの画像間の比Rを計
算するだけで、観察対象の反射率や光の拡散による光の
減衰効果等の影響をキャンセルし、高速に距離を求める
ことができる。
【0050】このように強度変調照射光と、撮像ゲイン
を同じ周期の幅を持つ矩形波状とすることで、カメラで
検出される検出信号量が多くなり、信号対ノイズ比が高
い撮像が可能であり、高分解能な距離検出が可能とな
る。
【0051】図7は、撮像ゲイン可変イメージセンサ8
の一実施例の構成図を示す。同図中、リレーレンズ光学
系7によりイメージインテンシファイア36に画像を結
像させる。イメージインテンシファイア36は、その光
電変換面とマイクロチャンネルプレート(MCP)間の
印加電圧の値を制御することで、撮像感度を時間と共に
高速に変化できる。
【0052】また、印加電圧をパルス形状とすること
で、1ns以下の短時間のゲート撮像も可能となる。光
電変換面の材料は、距離検出に使用する強度変調光の波
長感度特性により選択する。例えば、波長800nmの
場合は3種類以上のアルカリを使用した光電変換材料で
あるマルチアルカリ(Sb・Na・K・Cs:S−2
0)が使用でき、さらに長波長の850nmの場合はG
aAsを使用することで高い量子効率が得られ、SN比
のよい撮像画像が得られる。
【0053】撮像ゲインを高速に変化させ、または短時
間のゲート動作を行わせて画像を撮像するため、1回の
撮像で得られる信号量は非常に微弱である。このため、
出力光強度を高速に変調可能な光源1の出力タイミング
とイメージインテンシファイア36の撮像ゲイン変調タ
イミングを同期させて繰り返し撮像を行い、イメージイ
ンテンシファイア36の出力蛍光面の画像を画像伝達光
学系37でCCDカメラ38に入力し、CCDカメラ3
8の蓄積効果で十分な感度を確保することができる。
【0054】画像伝達光学系37はファイバプレートも
しくはリレーレンズ光学系で実現できる。画像伝達光学
系37をファイバプレートとし、イメージインテンシフ
ァイア36の出力蛍光面とCCDカメラ38のCCD面
を連結することで、高い効率で蛍光面出力光をCCDに
入力できる。
【0055】一方、画像伝達光学系37をリレーレンズ
光学系とした場合、光の利用効率が下がるが、CCDカ
メラを交換できCCDカメラの選択の幅が広がると共
に、結像倍率の制御が可能であり、かつ、ファイバプレ
ート使用時に発生する固定パターンノイズの影響がなく
良好な画像が得られる。
【0056】イメージインテンシファイア36の撮像の
解像度は、イメージインテンシファイアを構成する光電
変換面とMCPの間隔、MCPと蛍光面の間隔、MCP
を構成する導電性のガラスキャピラリの直径に大きく依
存する。そのため、光電変換面とMCPの間隔、MCP
と蛍光面の間隔それぞれを近接させると共に、MCPを
構成する導電性のガラスキャピラリの直径を6μm程度
以下の細かいものを使用すると高解像度に有利である。
【0057】また、イメージガイド光学系6の端面の結
像画像をリレーレンズ光学系7により拡大し、イメージ
インテンシファイア36の光電面に結像入力する。これ
と共に、イメージインテンシファイア36の蛍光面の光
画像を画像伝達光学系37としてのリレーレンズ光学系
で縮小結像してCCDカメラ38に入力することで解像
度を高く保つことができる。
【0058】本発明による距離検出実験について説明す
る。強度変調照射光としてパルス光を使用し、撮像ゲイ
ンを時間と共に変化させ距離を検出した。また、光照射
用のライトガイド光学系2と撮像用のイメージライトガ
イド光学系6は使用せずに、距離検出性能を調べた。
【0059】図8は、本発明の立体内視鏡の実験装置の
一実施例の構成図を示す。同図中、光源にレーザ光ダイ
オード39を使用し、出力光40の波長は803nm、
パルス半値幅70ps、繰り返し周波数40MHz、平
均出力光強度1mWである。シリンドリカルレンズ41
で光束を約10×10cmに広げ、49cm離れた5
mm間隔の階段状の被写体42を照明する。
【0060】反射光をカメラレンズ43でイメージイン
テンシファイア44の光電面に結像し、蛍光面出力画像
をリレーレンズ光学系45によりCCDカメラ46に入
力する。光の変調信号とイメージインテンシファイアの
ゲイン変調信号は信号発生器47からそれぞれ供給す
る。パルス光の出力タイミングと、イメージインテンシ
ファイア44の撮像ゲイン変調タイミングを外部同期信
号48により同期させ、1フレーム毎にパルストリガー
タイミングの切替えを位相切替器49で行う。そして、
撮像ゲイン増加時の画像とゲイン減少時の画像の画像を
CCDカメラ46で交互に撮像し、これら2枚の画像間
で(3)式の演算を信号処理装置50で行い距離画像5
1を出力する。
【0061】同様に、カラーカメラ52でカラー画像5
3を撮影する。図9(A),(B)は、それぞれ距離画
像算出の元となる増加ゲイン時と減少ゲイン時の撮像画
像のビデオ信号の波形図である。図9(A)のゲイン増
加時の撮像画像信号では、近い観察対象ほど輝度信号レ
ベルが低く、遠い観察対象ほど高い輝度信号レベルが得
られている。一方、図9(B)のゲイン減少時の撮像画
像信号では、その逆の傾向となっている。
【0062】これら2画像間で(3)式の演算を行い、
得られた距離画像のビデオ信号の波形図が図9(C)で
ある。観察対象の反射率などの影響が補正され、観察対
象形状を現す平坦な階段形状の波形が得られ、5mm間
隔の段差を明確に分離できていることがわかる。
【0063】また、被写体のカメラからの距離と、距離
画像の輝度レベルとの関係を図10に示す。測定範囲の
中心位置(約49cm)におけるビデオ信号のノイズ成
分の実効値より、距離検出分解能を求めた結果、2.0
mmであった。測定レンジは7cmであった。図10に
示す特性が測定レンジの端部(約45cm,約55c
m)において非線型であるのは、撮像ゲインの変調特性
の非線形性によるものであり、距離画像のガンマ補正等
により直線性を補正できる。
【0064】実験では、距離画像の更新時間1/15
秒、画素数35万点が得られ、動く観察対象の距離検出
が可能であることが実験により確かめられた。本発明の
立体内視鏡では、上記実験装置にライトガイド光学系2
およびイメージガイド光学系6が加わる形態となり、照
射光量や結像に寄与する光量が本実験と異なると予想さ
れるが、距離検出の基本原理は本実験で実証された。
【0065】本発明では、2つの画像間の比Rを計算す
るだけで、時間を要する高度で煩雑な演算処理が不要で
あり、また光ビームを走査する必要がない。そのため、
観察対象の奥行き距離画像をテレビジョンのビデオレー
ト(フレームレート60Hz)相当で撮像でき、しか
も、通常テレビ画像やハイビジョンテレビ画像と同等の
画素数で奥行き距離情報が得られる。そのため、人体内
部など動く観察対象においても、高精細な3次元形状を
リアルタイムで取得することが可能である。
【0066】本発明のの内視鏡の応用分野としては、医
療用の体内検査、自動車や航空、宇宙、船舶分野におけ
るエンジン等の機器内の観察や、ガス管、排気口、水道
管、ボイラー、タービン内の検査、古墳や遺跡内の調査
や動物生態の観察などに適用できる。
【0067】なお、光源1が請求項記載の強度可変光源
に対応し、ライトガイド光学系2がライトガイド手段に
対応し、レンズ5が結像手段に対応し、イメージガイド
光学系6がイメージガイド手段に対応し、撮像ゲイン可
変イメージセンサ8が撮像ゲイン可変イメージセンサ手
段に対応し、距離算出演算処理部9が信号演算処理手段
に対応し、光源16が可視光源に対応し、分割結像光学
系17が分離手段に対応し、カラーカメラ18が第2イ
メージセンサ手段に対応する。
【0068】
【発明の効果】上述の如く、請求項1に記載の発明によ
れば、複数の画像信号間の強度比を計算するだけで距離
を高速に算出することができ、距離情報をリアルタイム
で検出することができる。
【0069】請求項2に記載の発明によれば、複数の画
像信号間の強度比を計算するだけで距離を高速に算出す
ることができ、距離情報をリアルタイムで検出すること
ができる。
【0070】請求項3に記載の発明によれば、装置の光
学系全体を簡単な構成とすることができる。
【0071】請求項4に記載の発明によれば、パルスレ
ーザ光が使用でき、分解能が高い距離検出が可能とな
る。
【0072】請求項5に記載の発明によれば、発光ダイ
オードなどインコヒーレントな照明も使用でき、高輝度
で広い範囲を照明でき、人物の距離検出などが可能とな
る。
【0073】請求項6に記載の発明によれば、検出され
る検出信号量が多くなり、信号対ノイズ比が高い撮像が
可能であり、高分解能な距離検出が可能となる。
【図面の簡単な説明】
【図1】本発明の立体内視鏡の第1実施例の構成図であ
る。
【図2】ライトガイド光学系と結像画像撮像用のイメー
ジガイド光学系を共用した実施例の構成図である。
【図3】本発明の立体内視鏡の第2実施例の構成図であ
る。
【図4】短時間のパルス光を使用し撮像ゲインを時間と
共に高速に増加させながら撮像した画像と撮像ゲインを
時間と共に高速に減少させながら撮像した画像による距
離検出方法を説明するための図である。
【図5】強度変調光として時間と共に光強度が増加およ
び減少する光と短時間シャッタ機能を持つ撮像装置によ
る距離検出方法を説明するための図である。
【図6】矩形波状に変調した強度変調光と矩形波状に撮
像ゲインが変化する撮像装置による距離検出方法を説明
するための図である。
【図7】撮像ゲイン可変イメージセンサの一実施例の構
成図である。
【図8】本発明の立体内視鏡の実験装置の一実施例の構
成図である。
【図9】増加ゲイン時と減少ゲイン時の撮像画像及び距
離画像のビデオ信号の波形図である。
【図10】被写体のカメラからの距離と、距離画像の輝
度レベルとの関係を示す図である。
【符号の説明】
1,16 光源 2 ライトガイド光学系 3,40 出力光 4 観察対象 5 レンズ 6 イメージガイド光学系 7,20,21,45 リレーレンズ光学系 8 撮像ゲイン可変イメージセンサ 9 距離算出演算処理部 10 切替器 11,12 メモリ 13 演算処理回路 14 ライトガイド光学系 15 プリズム 17 分割結像光学系 18 カラーカメラ 19 ダイクロイックプリズム 22 遅延回路 23 パルス光 24,28,33 反射光 25,26,34,35 撮像ゲイン 27,30,32 強度変調光 29 パルス状撮像ゲイン 36,44 イメージインテンシファイア 37 画像伝達光学系 38,46 CCDカメラ 39 レーザ光ダイオード 41 シリンドリカルレンズ 42 被写体 43 カメラレンズ 47 信号発生器 48 外部同期信号 49 位相切替器 50 信号処理装置 51 距離画像 52 カラーカメラ 53 カラー画像
───────────────────────────────────────────────────── フロントページの続き Fターム(参考) 2F065 AA06 AA53 BB08 DD06 EE00 FF42 GG06 GG07 GG08 GG22 GG24 JJ03 JJ26 LL03 LL10 NN08 NN13 QQ24 QQ26 SS02 SS13 2H040 BA15 CA04 CA06 CA11 CA27 GA01 GA11 4C061 BB06 HH52 RR02 SS13 SS21

Claims (7)

    【特許請求の範囲】
  1. 【請求項1】 光強度を変調し出力する強度可変光源
    と、 前記強度可変光源からの出力光を観察対象に照射するラ
    イトガイド手段と、 光を照射された観察対象の画像を結像する結像手段と、 前記画像を伝達するイメージガイド手段と、 前記イメージガイド光学系で伝達された画像を入力され
    撮像ゲインを変調する撮像ゲイン可変イメージセンサ手
    段と、 前記光源の出力光強度の変調と前記撮像ゲイン可変イメ
    ージセンサ手段の撮像ゲインの変調との時間変化パター
    ンが異なる組合せであるときに前記撮像ゲイン可変イメ
    ージセンサ手段で得られた複数の画像信号間の強度比か
    ら距離を算出し観察対象の奥行き距離を画像の濃淡で表
    す距離画像を出力する信号演算処理手段とを有すること
    を特徴とする立体内視鏡。
  2. 【請求項2】 光強度を変調し可視領域外の光を出力す
    る強度可変光源と、 可視領域の光を出力する可視光源と、 前記強度可変光源と可視光源それぞれの出力光を観察対
    象に照射するライトガイド手段と、 光を照射された観察対象の画像を結像する結像手段と、 前記画像を伝達するイメージガイド手段と、 前記イメージガイド光学系で伝達された画像から前記強
    度可変光源の波長成分と前記可視光源の波長成分とを分
    離する分離手段と、 前記分離手段で分離された前記強度可変光源の波長成分
    の画像を入力され撮像ゲインを変調する撮像ゲイン可変
    イメージセンサ手段と、 前記分離手段で分離された前記可視光源の波長成分の画
    像を入力され観察対象の画像を出力する第2イメージセ
    ンサ手段と、 前記強度可変光源の出力光強度の変調と前記撮像ゲイン
    可変イメージセンサ手段の撮像ゲインの変調との時間変
    化パターンが異なる組合せであるときに前記撮像ゲイン
    可変イメージセンサ手段で得られた複数の画像信号間の
    強度比から距離を算出し観察対象の奥行き距離を画像の
    濃淡で表す距離画像を出力する信号演算処理手段とを有
    することを特徴とする立体内視鏡。
  3. 【請求項3】 請求項1または2記載の立体内視鏡にお
    いて、 前記イメージガイド手段と前記イメージガイド手段とを
    共用することを特徴とする立体内視鏡。
  4. 【請求項4】 請求項1乃至3のいずれか記載の立体内
    視鏡において、 前記強度可変光源は、パルス光を出力し、 前記撮像ゲイン可変イメージセンサ手段は、前記撮像ゲ
    インを時間と共に増加及び減少させ、 前記信号演算処理手段は、前記撮像ゲインを時間と共に
    増加させながら撮像した画像と前記撮像ゲインを時間と
    共に減少させながら撮像した画像との間の強度比から距
    離を算出することを特徴とする立体内視鏡。
  5. 【請求項5】 請求項1乃至3のいずれか記載の立体内
    視鏡において、 前記強度可変光源は、前記光強度を時間と共に増加及び
    減少させて出力し、 前記撮像ゲイン可変イメージセンサ手段は、前記撮像ゲ
    インをパルス状に短時間一定値とし、 前記信号演算処理手段は、前記光強度を時間と共に増加
    させながら撮像した画像と前記前記光強度を時間と共に
    減少させながら撮像した画像との間の強度比から距離を
    算出することを特徴とする立体内視鏡。
  6. 【請求項6】 請求項1乃至3のいずれか記載の立体内
    視鏡において、 前記強度可変光源は、前記光強度を矩形波状に変調して
    出力し、 前記撮像ゲイン可変イメージセンサ手段は、前記撮像ゲ
    インを前記光強度と同一周期で矩形波状に変調し、 前記信号演算処理手段は、前記光強度と前記撮像ゲイン
    が同位相のとき撮像した画像と前記光強度と前記撮像ゲ
    インが逆位相のとき撮像した画像との間の強度比から距
    離を算出することを特徴とする立体内視鏡。
  7. 【請求項7】 請求項1乃至6のいずれか記載の立体内
    視鏡において、 前記撮像ゲイン可変イメージセンサ手段は、イメージイ
    ンテンシファイアと、リレーレンズまたはファイバプレ
    ートと、CCD撮像素子とを組合せたものであることを
    特徴とする立体内視鏡装置。
JP2002104359A 2002-04-05 2002-04-05 立体内視鏡 Expired - Fee Related JP4195574B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2002104359A JP4195574B2 (ja) 2002-04-05 2002-04-05 立体内視鏡

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2002104359A JP4195574B2 (ja) 2002-04-05 2002-04-05 立体内視鏡

Publications (2)

Publication Number Publication Date
JP2003290131A true JP2003290131A (ja) 2003-10-14
JP4195574B2 JP4195574B2 (ja) 2008-12-10

Family

ID=29242917

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2002104359A Expired - Fee Related JP4195574B2 (ja) 2002-04-05 2002-04-05 立体内視鏡

Country Status (1)

Country Link
JP (1) JP4195574B2 (ja)

Cited By (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009303166A (ja) * 2008-06-17 2009-12-24 Hamamatsu Photonics Kk 撮像システムおよび周辺モニタ装置
JP2010172638A (ja) * 2009-02-02 2010-08-12 Olympus Corp 撮像装置、内視鏡及び電子機器
JP2010175435A (ja) * 2009-01-30 2010-08-12 Nippon Hoso Kyokai <Nhk> 三次元情報検出装置及び三次元情報検出方法
WO2012098792A1 (ja) * 2011-01-20 2012-07-26 オリンパスメディカルシステムズ株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび内視鏡システム
JP2015531271A (ja) * 2012-09-14 2015-11-02 ソニー株式会社 外科用画像処理システム、外科用画像処理方法、プログラム、コンピュータ可読記録媒体、医用画像処理装置、および画像処理検査装置
US9750399B2 (en) 2009-04-29 2017-09-05 Koninklijke Philips N.V. Real-time depth estimation from monocular endoscope images
JP2017185225A (ja) * 2016-03-31 2017-10-12 コヴィディエン リミテッド パートナーシップ 表面走査のための胸部内視鏡
US11071591B2 (en) 2018-07-26 2021-07-27 Covidien Lp Modeling a collapsed lung using CT data
US11705238B2 (en) 2018-07-26 2023-07-18 Covidien Lp Systems and methods for providing assistance during surgery
KR20240079619A (ko) * 2022-11-29 2024-06-05 한국광기술원 2차원 이미지 및 3차원 이미지 모두의 획득이 가능한 내시경 장치 및 시스템
US12089902B2 (en) 2019-07-30 2024-09-17 Coviden Lp Cone beam and 3D fluoroscope lung navigation

Cited By (19)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2009303166A (ja) * 2008-06-17 2009-12-24 Hamamatsu Photonics Kk 撮像システムおよび周辺モニタ装置
JP2010175435A (ja) * 2009-01-30 2010-08-12 Nippon Hoso Kyokai <Nhk> 三次元情報検出装置及び三次元情報検出方法
JP2010172638A (ja) * 2009-02-02 2010-08-12 Olympus Corp 撮像装置、内視鏡及び電子機器
US9750399B2 (en) 2009-04-29 2017-09-05 Koninklijke Philips N.V. Real-time depth estimation from monocular endoscope images
WO2012098792A1 (ja) * 2011-01-20 2012-07-26 オリンパスメディカルシステムズ株式会社 画像処理装置、画像処理方法、画像処理プログラムおよび内視鏡システム
US8692869B2 (en) 2011-01-20 2014-04-08 Olympus Medical Systems Corp. Image processing device, image processing method, machine readable recording medium, endoscope system
JPWO2012098792A1 (ja) * 2011-01-20 2014-06-09 オリンパスメディカルシステムズ株式会社 画像処理装置、画像処理装置の作動方法、画像処理プログラムおよび内視鏡システム
JP2015531271A (ja) * 2012-09-14 2015-11-02 ソニー株式会社 外科用画像処理システム、外科用画像処理方法、プログラム、コンピュータ可読記録媒体、医用画像処理装置、および画像処理検査装置
JP2017185225A (ja) * 2016-03-31 2017-10-12 コヴィディエン リミテッド パートナーシップ 表面走査のための胸部内視鏡
JP2019042551A (ja) * 2016-03-31 2019-03-22 コヴィディエン リミテッド パートナーシップ 表面走査のための胸部内視鏡
CN109998450A (zh) * 2016-03-31 2019-07-12 柯惠有限合伙公司 用于表面扫描的胸部内窥镜
US11071591B2 (en) 2018-07-26 2021-07-27 Covidien Lp Modeling a collapsed lung using CT data
US11705238B2 (en) 2018-07-26 2023-07-18 Covidien Lp Systems and methods for providing assistance during surgery
US11701179B2 (en) 2018-07-26 2023-07-18 Covidien Lp Modeling a collapsed lung using CT data
US12004815B2 (en) 2018-07-26 2024-06-11 Covidien Lp Modeling a collapsed lung using CT data
US12243634B2 (en) 2018-07-26 2025-03-04 Covidien Lp Systems and methods for providing assistance during surgery
US12089902B2 (en) 2019-07-30 2024-09-17 Coviden Lp Cone beam and 3D fluoroscope lung navigation
KR20240079619A (ko) * 2022-11-29 2024-06-05 한국광기술원 2차원 이미지 및 3차원 이미지 모두의 획득이 가능한 내시경 장치 및 시스템
KR102808706B1 (ko) * 2022-11-29 2025-05-21 한국광기술원 2차원 이미지 및 3차원 이미지 모두의 획득이 가능한 내시경 장치 및 시스템

Also Published As

Publication number Publication date
JP4195574B2 (ja) 2008-12-10

Similar Documents

Publication Publication Date Title
JP6334755B2 (ja) 組み合わされたフルカラー反射および近赤外線画像化のための画像化システム
US9998678B2 (en) Camera for acquiring optical properties and spatial structure properties
JP4931288B2 (ja) 画像検出装置と絞り装置
JP4031306B2 (ja) 3次元情報検出システム
JP5245022B1 (ja) 撮像装置
JP7449736B2 (ja) 医療用画像処理装置及び医療用観察システム
US20030147002A1 (en) Method and apparatus for a color sequential scannerless range imaging system
JP5053468B2 (ja) 立体画像撮影装置および内視鏡
KR930007296A (ko) 물체의 3차원 입체정보취득장치
US11109744B2 (en) Three-dimensional endoscope system including a two-dimensional display image portion in a three-dimensional display image
JP6368886B1 (ja) 内視鏡システム
JP4010779B2 (ja) 画像検出装置と絞り装置
JP4195574B2 (ja) 立体内視鏡
JP5346635B2 (ja) 蛍光観察装置
WO2016084926A1 (ja) 撮像システム
US11388387B2 (en) Imaging system and synchronization control method
WO2020194025A1 (en) Process and apparatus for the capture of plenoptic images between arbitrary planes
JP2021013179A (ja) 撮像装置および測距装置
JP4448320B2 (ja) 電子内視鏡装置
WO2021140597A1 (ja) 制御装置、内視鏡システム、および制御方法
JPH0552533A (ja) 3次元計測用内視鏡装置
JP2018148943A (ja) 医療用内視鏡システム
JPH05111460A (ja) 3次元計測用内視鏡装置
JP2002165751A (ja) 蛍光内視鏡装置
JPH10314111A (ja) 立体視内視鏡装置

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20050216

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20070920

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20071009

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20071205

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20080624

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20080731

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20080902

A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20080926

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

Ref document number: 4195574

Country of ref document: JP

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111003

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121003

Year of fee payment: 4

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121003

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131003

Year of fee payment: 5

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20141003

Year of fee payment: 6

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

R250 Receipt of annual fees

Free format text: JAPANESE INTERMEDIATE CODE: R250

LAPS Cancellation because of no payment of annual fees