JPH06229931A - Method and equipment for calibration for image measuring apparatus - Google Patents
Method and equipment for calibration for image measuring apparatusInfo
- Publication number
- JPH06229931A JPH06229931A JP5020371A JP2037193A JPH06229931A JP H06229931 A JPH06229931 A JP H06229931A JP 5020371 A JP5020371 A JP 5020371A JP 2037193 A JP2037193 A JP 2037193A JP H06229931 A JPH06229931 A JP H06229931A
- Authority
- JP
- Japan
- Prior art keywords
- image
- measurement
- size
- lens
- center
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Endoscopes (AREA)
- Closed-Circuit Television Systems (AREA)
- Length Measuring Devices By Optical Means (AREA)
- Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
- Testing Of Optical Devices Or Fibers (AREA)
- Instruments For Viewing The Inside Of Hollow Bodies (AREA)
Abstract
Description
【0001】[0001]
【産業上の利用分野】本発明は、内視鏡で得られた画像
から計測を行う画像計測装置用キャリブレーション方法
とキャリブレーション装置に関する。BACKGROUND OF THE INVENTION 1. Field of the Invention The present invention relates to a calibration method for an image measuring device and a calibration device for measuring from an image obtained by an endoscope.
【0002】[0002]
【従来の技術】近年、内視鏡は医療分野及び工業分野に
おいて広く用いられるようになった。また、この内視鏡
を用いて、直接計測できない患部とか傷のサイズ等を計
測することも行われることがある。2. Description of the Related Art In recent years, endoscopes have been widely used in the medical field and industrial field. In addition, the endoscope may be used to measure the size of a lesion or a wound that cannot be directly measured.
【0003】内視鏡を用いて測定を行う場合に、使用す
る内視鏡に組み込まれているレンズの特性を知り、その
特性を決定するパラメータを使用する必要がある。この
特性に必要な係数としてはレンズの焦点距離と、レンズ
の結像式と、レンズの歪曲収差を補正する係数と、レン
ズの最大画角と、画像の中心位置がある。この内の画像
の中心位置については従来の方法でも画像から得てい
た。(この操作をキャリブレーションと呼ぶ)その他の
係数についてはあらかじめ用意した内視鏡の名称の一覧
表から選んでいた。When performing measurement using an endoscope, it is necessary to know the characteristics of the lens incorporated in the endoscope to be used and use the parameters that determine the characteristics. The coefficients required for this characteristic are the focal length of the lens, the imaging formula of the lens, the coefficient for correcting the lens distortion, the maximum angle of view of the lens, and the center position of the image. The center position of the image among these has been obtained from the image by the conventional method. Other coefficients (this operation is called calibration) were selected from a list of endoscope names prepared in advance.
【0004】すなわち、内視鏡の名前に対して組み合わ
せて使用する撮影アダプタとTVカメラを確認して、そ
れに対応する係数の組の番号を一覧表から選んでいた。
このとき番号に対応してあらかじめ用意されているの
は、レンズの焦点距離、レンズの結像式、レンズの歪曲
収差を補正する係数、レンズの最大画角である。That is, the photographing adapter and the TV camera to be used in combination with the name of the endoscope are confirmed, and the number of the coefficient set corresponding thereto is selected from the list.
At this time, the focal length of the lens, the imaging formula of the lens, the coefficient for correcting the distortion aberration of the lens, and the maximum angle of view of the lens are prepared in advance corresponding to the numbers.
【0005】[0005]
【発明が解決しようとする問題点】このようにして係数
を設定したのでは、レンズの焦点距離に関して以下のよ
うな不具合を生じる。内視鏡の結像レンズ系と、撮影ア
ダプタと、TVカメラのばらつきにより、TV画面上で
の内視鏡の像の大きさが計算値と異なる事がある。この
誤差は測定誤差となる。When the coefficient is set in this way, the following problems occur with respect to the focal length of the lens. The image size of the endoscope on the TV screen may differ from the calculated value due to variations in the image forming lens system of the endoscope, the photographing adapter, and the TV camera. This error becomes a measurement error.
【0006】また、新しい光学系を持つ内視鏡が発売さ
れたときに、一覧表にこの内視鏡の係数を登録する事が
できなかった。また、撮影アダプタ、TVカメラの組み
合わせが多くて係数の組を一覧表から選択する事がわず
らわしかった。Further, when an endoscope having a new optical system was put on the market, the coefficient of this endoscope could not be registered in the list. In addition, since there are many combinations of shooting adapters and TV cameras, it is difficult to select a coefficient set from the list.
【0007】さらに、TVカメラで撮影される画像の大
きさは、内視鏡の接眼レンズと撮影アダプタのレンズと
TVカメラの撮像面の大きさのそれぞれの誤差を集積し
たものになる。あらかじめ決めておいたパラメータでは
この誤差を無視する事になってしまい、計測誤差が大き
くなてしまうという欠点があった。Further, the size of the image taken by the TV camera is the sum of the errors of the eyepiece lens of the endoscope, the lens of the photographing adapter, and the size of the image pickup surface of the TV camera. There is a drawback that this error is neglected by the parameter decided in advance, and the measurement error becomes large.
【0008】本発明は、上述した点にかんがみてなされ
たもので、測定に使用する画像機器の誤差を吸収できる
ような柔軟なパラメータ設定を行うことができる画像計
測装置用キャリブレーション方法とキャリブレーション
装置を提供することを目的としている。The present invention has been made in view of the above points, and a calibration method and calibration for an image measuring device capable of performing flexible parameter setting capable of absorbing an error of an image device used for measurement. The purpose is to provide a device.
【0009】[0009]
【問題点を解決するための手段及び作用】本発明は測定
に使用する画像から画像の中心を求める手段と、画像の
大きさを求める手段を設けたので、内視鏡の結像レンズ
系と、撮影アダプタと、TVカメラのばらつきにより、
TV画面上での内視鏡の像の大きさが計算値と異なる事
ことによる誤差をなくす事ができる。Since the present invention is provided with a means for determining the center of an image from an image used for measurement and a means for determining the size of the image, the present invention provides an imaging lens system for an endoscope. , Due to variations in shooting adapter and TV camera,
It is possible to eliminate the error caused by the size of the image of the endoscope on the TV screen being different from the calculated value.
【0010】[0010]
【実施例】以下、図面を参照して本発明の実施例を説明
する。図1ないし図10は本発明の第1実施例に係り、
図1は第1実施例を備えた内視鏡画像計測装置の全体構
成図、図2は撮像光学系による結像の原理を示す説明
図、図3は図2を簡略化して示す説明図、図4は計測装
置の構成を示すブロック図、図5は画像の大きさと中心
を求める動作の説明図である。Embodiments of the present invention will be described below with reference to the drawings. 1 to 10 relate to a first embodiment of the present invention,
FIG. 1 is an overall configuration diagram of an endoscopic image measuring device including the first embodiment, FIG. 2 is an explanatory diagram showing the principle of image formation by an imaging optical system, and FIG. 3 is an explanatory diagram showing a simplified version of FIG. FIG. 4 is a block diagram showing the configuration of the measuring device, and FIG. 5 is an explanatory diagram of the operation for obtaining the size and center of the image.
【0011】図1に示す第1実施例を備えた内視鏡画像
計測装置1は、撮像手段を備えたTVカメラ外付けスコ
ープ2と、このTVカメラ外付けスコープ2に照明光を
供給する光源装置3と、TVカメラ外付けスコープ2の
撮像手段に対する信号処理を行うカメラコントロールユ
ニット(以下、CCUと記す)4と、このCCU4と接
続され、傷等の対象物の大きさの計測を行う計測装置5
とから構成され、この計測装置5によって画像から計測
に必要となるキャリブレーション(較正)を行い、対象
物の大きさの計測を高い精度で行うことができるように
なっている。An endoscope image measuring apparatus 1 having the first embodiment shown in FIG. 1 includes a TV camera external scope 2 having an image pickup means, and a light source for supplying illumination light to the TV camera external scope 2. A device 3, a camera control unit (hereinafter referred to as CCU) 4 that performs signal processing for the image pickup means of the TV camera external scope 2, and measurement that is connected to the CCU 4 and measures the size of an object such as a scratch. Device 5
The measuring device 5 is used to perform calibration necessary for measurement from an image, and the size of the object can be measured with high accuracy.
【0012】上記TVカメラ外付けスコープ2は、ファ
イバスコープ6と、このファイバスコープ6に撮影アダ
プタ7を介して接続されるTVカメラ8を有する。この
ファイバスコープ6は細長の挿入部9と、この挿入部9
の基端側に設けられた操作部10と、この操作部10の
後端に設けられた接眼部11とを有し、操作部10の側
部からライトガイドケーブル12が延出されている。The TV camera external scope 2 has a fiberscope 6 and a TV camera 8 connected to the fiberscope 6 via a photographing adapter 7. This fiberscope 6 has an elongated insertion part 9 and this insertion part 9
Has an operation section 10 provided on the proximal side and an eyepiece section 11 provided on the rear end of the operation section 10, and the light guide cable 12 extends from the side of the operation section 10. .
【0013】このライトガイドケーブル12の末端に設
けたコネクタ13を光源装置3に着脱自在で接続するこ
とにより、光源装置3から供給される照明光がライトガ
イドケーブル12内に挿通された図示しないライトガイ
ドに供給される。このライトガイドによって伝送された
照明光は挿入部9の先端部14の図示しない照明窓から
前方に出射され、患部等を照明する。A connector 13 provided at the end of the light guide cable 12 is detachably connected to the light source device 3 so that the illumination light supplied from the light source device 3 is inserted into the light guide cable 12 and is not shown. Supplied to the guide. The illumination light transmitted by this light guide is emitted forward from an illumination window (not shown) of the distal end portion 14 of the insertion portion 9 to illuminate the affected area or the like.
【0014】この先端部14には照明窓に隣接して観察
窓が形成され、この観察窓には図2(a)に示すように
対物光学系16が取り付けられ、この対物光学系16に
よって物体17の像を結ぶ。この結像位置にはイメージ
ガイド18の先端面18aが配置され、接眼部11側の
後端面18bまで像を伝送する。An observation window is formed adjacent to the illumination window at the tip portion 14, and an objective optical system 16 is attached to the observation window as shown in FIG. Connect 17 statues. The front end surface 18a of the image guide 18 is arranged at this image forming position, and the image is transmitted to the rear end surface 18b on the eyepiece 11 side.
【0015】この後端面18bに対向して接眼部11内
に接眼光学系19が配置され、伝送された像を拡大観察
することができる。この接眼部11に撮影アダプタ7が
装着された場合には、この接眼光学系19に対向するア
ダプタ光学系21によってTVカメラ8内に収納された
CCD22面上に結像する。An eyepiece optical system 19 is arranged in the eyepiece portion 11 so as to face the rear end surface 18b, and the transmitted image can be magnified and observed. When the photographing adapter 7 is attached to the eyepiece section 11, an image is formed on the surface of the CCD 22 housed in the TV camera 8 by the adapter optical system 21 facing the eyepiece optical system 19.
【0016】CCD22に結像した画像は光電変換され
て電気信号となり、TVカメラ8から延出されたカメラ
ケーブル23によってCCU4に送られ、このCCU4
よって信号処理されて、映像信号に変換される。この映
像信号はビデオケーブル24によって計測装置5に伝送
される。The image formed on the CCD 22 is photoelectrically converted into an electric signal, which is sent to the CCU 4 by the camera cable 23 extended from the TV camera 8, and this CCU 4
Therefore, the signal is processed and converted into a video signal. This video signal is transmitted to the measuring device 5 by the video cable 24.
【0017】そして、この映像信号によって図2(b)
に示すように計測装置5のCRT25面上に物体17の
像が表示される。つまり、CRT25により、内視鏡の
画像を観察する事ができる。この計測装置5にはキーボ
ード26とマウス27が接続されている。次に図2の撮
像光学系を参照して結像の原理を説明する。Then, the video signal shown in FIG.
As shown in, the image of the object 17 is displayed on the CRT 25 surface of the measuring device 5. That is, the image of the endoscope can be observed by the CRT 25. A keyboard 26 and a mouse 27 are connected to the measuring device 5. Next, the principle of image formation will be described with reference to the image pickup optical system in FIG.
【0018】物体17の対物光学系16による像はイメ
ージガイド18の先端面18aに結像される。このイメ
ージガイド18は180度捻ってあるので物体17の像
は上下左右入れ替わってイメージガイド18の後端面1
8bに送られる。An image of the object 17 by the objective optical system 16 is formed on the tip surface 18a of the image guide 18. Since the image guide 18 is twisted by 180 degrees, the images of the object 17 are interchanged vertically and horizontally, and the rear end surface 1 of the image guide 18 is rotated.
Sent to 8b.
【0019】この後端面18bの画像は接眼光学系19
とアダプタ光学系21により、CCD22面上に結像す
る。CCD22に結像した画像はCRT25面上に表示
される。結果として物体17の画像はCRT25画面上
に投影される事になる。この関係をもっと簡略化して原
理を示したものが図3である。θは物体17を見込む入
射角である。入射角θで入射した光線はレンズ29を通
り、焦点距離fの地点に像高hで結像する。このレンズ
29は図2では対物光学系16、その像を伝送するイメ
ージガイド18、接眼光学系19、アダプタ光学系21
を表す。The image on the rear end face 18b is an eyepiece optical system 19.
An image is formed on the surface of the CCD 22 by the adapter optical system 21. The image formed on the CCD 22 is displayed on the surface of the CRT 25. As a result, the image of the object 17 is projected on the screen of the CRT 25. FIG. 3 shows the principle by further simplifying this relationship. θ is an incident angle at which the object 17 is seen. A light ray incident at an incident angle θ passes through the lens 29 and forms an image at a focal length f at an image height h. In FIG. 2, the lens 29 is an objective optical system 16, an image guide 18 for transmitting the image, an eyepiece optical system 19, and an adapter optical system 21.
Represents
【0020】ここで、レンズ29の収差として歪曲収差
が計測にとって問題となる。本実施例では収差のみを補
正する。この収差を補正する式として例えば図3に示す
式(1)、(2)、(3)の内の一つの計算式を使用す
る。この式はいずれでも入射角θの光線がhの像高とな
ることを示している。実際の光学系に合わせてこの式を
使い分ける。Here, as the aberration of the lens 29, distortion is a problem for measurement. In this embodiment, only aberration is corrected. As a formula for correcting this aberration, for example, one of formulas (1), (2), and (3) shown in FIG. 3 is used. This equation shows that the light ray having the incident angle θ has the image height h. Use this formula properly according to the actual optical system.
【0021】知らなければならない変数は焦点距離f、
歪曲収差補正係数kである。歪曲収差補正係数kは光学
系により決まった定数であるし、また測定して求める事
がむずかしいので光学系の種類によりあらかじめ与え
る。The variables that must be known are the focal length f,
The distortion correction coefficient k. The distortion correction coefficient k is a constant determined by the optical system, and it is difficult to obtain it by measurement. Therefore, it is given in advance depending on the type of the optical system.
【0022】また、式(1)、(2)、(3)のどの計
算式を用いるかもあらかじめ与える。このような条件に
おいて焦点距離fを求めるためには一組の像高hと入射
角θを与える必要がある。任意の分かっている角度θの
画像を取り込む事がむずかしいので、分かっているθの
角度として最大画角を用いると便利である。Further, which of the formulas (1), (2) and (3) is used is also given in advance. Under such conditions, it is necessary to give a set of image height h and incident angle θ in order to obtain the focal length f. Since it is difficult to capture an image with an arbitrary known angle θ, it is convenient to use the maximum angle of view as the known angle θ.
【0023】すなわち、最大画角とその時の像高(最大
像高)から、像高hと入射角θの関係が簡単にわかる。
最大画角は光学系により決まっているし、測定しにくい
ので、あらかじめ与えておく。最後に残った最大像高は
画面内から求めればよい。That is, the relationship between the image height h and the incident angle θ can be easily understood from the maximum angle of view and the image height at that time (maximum image height).
The maximum angle of view is determined by the optical system and is difficult to measure, so give it in advance. The last remaining maximum image height can be obtained from the screen.
【0024】一方、上記の式で表される結像式は光軸に
対して点対称なので画面内で画面の中心を求める必要が
ある。以上より画面内で画像の中心と、画像の大きさ
(最大像高)を求める事ができれば焦点距離fを求める
事ができるので結像の関係式(1)、(2)、(3)を
使用する事ができる。そこでこの結像式を用いて計測を
する事ができる。On the other hand, since the image formation formula expressed by the above formula is point-symmetric with respect to the optical axis, it is necessary to find the center of the screen within the screen. From the above, if the center of the image and the size of the image (maximum image height) can be obtained on the screen, the focal length f can be obtained. Therefore, the relational expressions (1), (2), and (3) of the image formation are Can be used. Therefore, measurement can be performed using this imaging formula.
【0025】図4は第1実施例を構成する計測装置5の
ブロック図である。TVカメラ8からの画像信号は画像
の取込記憶手段31に接続されている。この画像の取込
記憶手段31は内視鏡画像を一時的に記憶する。FIG. 4 is a block diagram of the measuring device 5 constituting the first embodiment. The image signal from the TV camera 8 is connected to the image capture storage means 31. The image capturing and storing means 31 temporarily stores the endoscopic image.
【0026】画像の取込記憶手段31の出力は、スーパ
インポーズ手段32に接続されている。このスーパイン
ポーズ手段32は内視鏡画像上に図形を重ね合わせて表
示する。The output of the image storage means 31 is connected to the superimposing means 32. The superimposing means 32 superimposes and displays a figure on the endoscopic image.
【0027】スーパインポーズ手段32の出力は画像表
示手段33に接続されている。この画像表示手段33は
CRT25で表示できるように信号を変換する。スーパ
インポーズ手段32は表示制御手段34により制御され
て必要な情報を取り込まれた画像信号に合成して表示す
る。The output of the superimposing means 32 is connected to the image display means 33. The image display means 33 converts the signal so that it can be displayed on the CRT 25. The superimposing means 32 is controlled by the display control means 34 and synthesizes necessary information with the captured image signal and displays it.
【0028】表示制御手段34には画像の中心位置を指
示するための十字カーソル表示指示手段35と、画像の
大きさを指示するための円カーソル表示指示手段36が
接続されている。十字カーソル表示手段35からの情報
によりスーパインポーズ手段32はCRT25面上に十
字線を表示する。The display control means 34 is connected to a cross cursor display instruction means 35 for instructing the center position of the image and a circular cursor display instruction means 36 for instructing the size of the image. The superimposing means 32 displays a crosshair on the surface of the CRT 25 according to the information from the crosshair cursor display means 35.
【0029】円カーソル表示指示手段36からの情報に
よりスーパインポーズ手段32はCRT25面上に円形
のカーソルを表示する。一方、統括制御演算手段37が
設けれており、画像の取込記憶手段31、表示制御手段
34、十字カーソル表示指示手段35、円カーソル表示
指示手段36、位置情報・量情報入力手段38に接続さ
れている。The superimposing means 32 displays a circular cursor on the surface of the CRT 25 according to the information from the circular cursor display instruction means 36. On the other hand, integrated control calculation means 37 is provided and connected to the image capture storage means 31, display control means 34, cross cursor display instruction means 35, circle cursor display instruction means 36, position information / quantity information input means 38. Has been done.
【0030】この統括制御演算手段37は位置情報・量
情報入力手段38からの情報により計測装置5の動作を
決定する。位置情報・量情報入力手段38はキーボード
26とマウス27から位置と量との情報を得る。The overall control calculation means 37 determines the operation of the measuring device 5 based on the information from the position information / quantity information input means 38. The position information / quantity information input means 38 obtains position and quantity information from the keyboard 26 and the mouse 27.
【0031】次にこの実施例の動作を説明する。まず、
図1を参照して動作を説明する。光源装置3で図示しな
いランプから光が図示しないライトガイドに入射する。
図示しないライトガイドはコネクタ13内を通り、ライ
トガイドケーブル12、操作部10、挿入部9を通り、
先端部14に導かれる。先端部14の図示しない照明レ
ンズにより光線が広げられ観察対象となる物体17を照
明する。これは通常の内視鏡の動作である。Next, the operation of this embodiment will be described. First,
The operation will be described with reference to FIG. In the light source device 3, light from a lamp (not shown) enters a light guide (not shown).
A light guide (not shown) passes through the connector 13, the light guide cable 12, the operation section 10, and the insertion section 9,
It is guided to the tip portion 14. An illumination lens (not shown) of the tip portion 14 spreads the light beam to illuminate an object 17 to be observed. This is a normal endoscope operation.
【0032】観察対象となる物体17の画像は対物光学
系16により結像され、イメージガイド18で伝送され
た後、接眼光学系19、アダプタ光学系21により、前
述のようにTVカメラ8のCCD22に形成される。C
CD22上に形成された画像はCCU4で通常のTV信
号に変換され、計測装置5に送られる。計測装置5では
図4に示すように、送られてきたTV信号を画像の取込
記憶手段31が受ける。An image of the object 17 to be observed is formed by the objective optical system 16 and transmitted by the image guide 18, and then, by the eyepiece optical system 19 and the adapter optical system 21, the CCD 22 of the TV camera 8 as described above. Is formed. C
The image formed on the CD 22 is converted into a normal TV signal by the CCU 4 and sent to the measuring device 5. In the measuring device 5, as shown in FIG. 4, the image capture storage means 31 receives the transmitted TV signal.
【0033】ここで使用者がキーボード26を操作して
画像の取込みを指示すると、その情報は位置情報・量情
報入力手段38から統括制御演算手段37に送られ、統
括制御演算手段37は画像の取込みを画像の取込記憶手
段31に指令する。その指令に基づき、画像の取込記憶
手段31はTVカメラ8からの画像を記憶する。When the user operates the keyboard 26 to instruct to capture an image, the information is sent from the position information / quantity information input means 38 to the overall control arithmetic means 37, and the overall control arithmetic means 37 displays the image. The acquisition is instructed to the image acquisition storage means 31. Based on the command, the image capture storage means 31 stores the image from the TV camera 8.
【0034】画像の取込記憶手段31の画像の出力信号
はスーパインポーズ手段32を通り、画像表示手段33
に送られ、CRT25で表示できる信号に変換される。
すなわち、TVカメラ8の画像がCRT25に文字や図
形が合成されて表示される。通常の内視鏡に画像は、図
5(a)に示すように円形の画像になる。円形の枠上が
この内視鏡の最大画角の画像である。この円をマスク3
9と呼ぶ。原理の説明で述べたようにここで画像の中心
と大きさを求める。An image output signal of the image acquisition / storage means 31 passes through a superimposing means 32 and an image display means 33.
And converted into a signal that can be displayed on the CRT 25.
That is, the image of the TV camera 8 is displayed on the CRT 25 with characters and graphics combined. An image on a normal endoscope becomes a circular image as shown in FIG. The image on the circular frame is the maximum angle of view of this endoscope. This circle is mask 3
Call it 9. As described in the explanation of the principle, the center and size of the image are obtained here.
【0035】キーボード26を操作して計測のためのキ
ャリブレーションの機能を動作させると、統括制御演算
手段37は十字カーソル表示指示段35に十字カーソル
を表示するように指令を出す。その指令に基づいて、十
字カーソル表示指示手段35は表示制御手段34に十字
カーソルのデータを送り出す。When the keyboard 26 is operated to operate the calibration function for measurement, the overall control calculation means 37 issues a command to the cross cursor display instruction stage 35 to display the cross cursor. Based on the command, the cross-cursor display instruction means 35 sends the cross-cursor data to the display control means 34.
【0036】そのデータを受けて表示制御手段34はス
ーパインポーズ手段32に十字カーソル表示用の信号を
送り、それに基づいてスーパインポーズ手段32は画像
信号内に十字線情報を重ね合わせるので、CRT25面
上に十字カーソル40が表示される。In response to the data, the display control means 34 sends a signal for displaying the cross cursor to the superimposing means 32, and the superimposing means 32 superimposes the crosshair information on the image signal based on the signal, so that the CRT 25 is used. A cross cursor 40 is displayed on the surface.
【0037】この画像を図5(b)に示す。内視鏡画像
でTVカメラ8の中心軸がずれている場合には、マスク
39は図5(b)に示すように画面の中心にはなく、ず
れている。操作者はこのずれた様子を見て十字カーソル
40を動かし、それをマスク39の中心に合わせる操作
を行う。This image is shown in FIG. 5 (b). When the central axis of the TV camera 8 is displaced in the endoscopic image, the mask 39 is not at the center of the screen as shown in FIG. 5B and is displaced. The operator moves the cross-shaped cursor 40 while seeing the shifted state, and performs an operation of aligning it with the center of the mask 39.
【0038】操作者により動かされたマウス27からの
量情報に基づいて統括制御演算手段37は十字カーソル
表示指示手段35に十字カーソル表示位置の変更を指示
する。この結果CRT25に表示される十字カーソル4
0の位置が変更される。Based on the amount information from the mouse 27 moved by the operator, the overall control calculation means 37 instructs the cross cursor display instruction means 35 to change the cross cursor display position. As a result, the cross-shaped cursor 4 displayed on the CRT 25
The position of 0 is changed.
【0039】十字カーソル40が内視鏡の画像の中心位
置、すなわちマスク39の中心に位置したとき、操作者
はキーボード26の値確定のキーを押す。この情報によ
り統括制御演算手段37は値確定のキーが押されたとき
の十字カーソル40の位置を算出する。すなわちこの位
置が画像の中心点の座標となる。When the cross cursor 40 is located at the center position of the image of the endoscope, that is, at the center of the mask 39, the operator presses the value fixing key on the keyboard 26. Based on this information, the overall control calculation means 37 calculates the position of the cross cursor 40 when the value confirmation key is pressed. That is, this position becomes the coordinates of the center point of the image.
【0040】次にマスク39の大きさを設定する。その
ために統括制御演算手段37は円カーソル表示指示手段
36に円カーソル41の表示を指示する。この円カーソ
ル41がCRT25上に表示された様子を図5(c)に
示す。Next, the size of the mask 39 is set. Therefore, the overall control calculation means 37 instructs the circle cursor display instruction means 36 to display the circle cursor 41. FIG. 5C shows how the circular cursor 41 is displayed on the CRT 25.
【0041】操作者はマウス27を動かす事により円カ
ーソル41の大きさを大きくしたり小さくしたりして、
内視鏡の画像に合わせる操作を行う。すなわち、総括制
御演算手段37はこのマウス27からの情報により円カ
ーソル表示指示手段36に円カーソルの大きさを変えて
表示する事を指示する。The operator moves the mouse 27 to increase or decrease the size of the circular cursor 41,
Perform the operation to match the image on the endoscope. That is, the general control calculation means 37 instructs the circle cursor display instruction means 36 to change and display the size of the circle cursor based on the information from the mouse 27.
【0042】この結果、CRT25上に中心は変わら
ず、大きさの異なる円カーソル41が表示され、マウス
27の動きにより大きさが変わる。操作者は内視鏡のマ
スク39に円カーソル41を合わせてキーボード26の
値確定キーを押す。統括制御演算手段37はこの情報に
より内視鏡画像の枠の大きさを算出する。As a result, the center does not change on the CRT 25, circular cursors 41 having different sizes are displayed, and the size changes according to the movement of the mouse 27. The operator places the circular cursor 41 on the mask 39 of the endoscope and presses the value confirmation key of the keyboard 26. Based on this information, the overall control calculation means 37 calculates the size of the frame of the endoscopic image.
【0043】つぎに、第1実施例での測定のための係数
の選出方法について述べる。算出すべき係数は前述した
ように式(1)、(2)、(3)の係数f,kである。
この式はCCD面上に結像する場合の係数fを算出する
計算式である。Next, a method of selecting coefficients for measurement in the first embodiment will be described. The coefficients to be calculated are the coefficients f and k of the equations (1), (2) and (3) as described above.
This formula is a calculation formula for calculating the coefficient f when an image is formed on the CCD surface.
【0044】第1実施例ではCCD面上の大きさとCR
T画面上の大きさとは単に大きさの倍率を掛けたものに
なるので、式(1)、(2)、(3)のhをCRT画面
上の大きさだと考える事にする。すると焦点距離fは倍
率を含んだ焦点距離となり、式(1)、(2)、(3)
を使う事でCRT画面上の像高を算出する事ができる。
すなわち、CRT画面上の座標で画像を利用した測定を
する事ができる。In the first embodiment, the size on the CCD surface and CR
Since the size on the T screen is simply a multiplication of the size, h in equations (1), (2) and (3) is considered to be the size on the CRT screen. Then, the focal length f becomes the focal length including the magnification, and equations (1), (2), and (3)
The image height on the CRT screen can be calculated by using.
That is, it is possible to perform the measurement using the image at the coordinates on the CRT screen.
【0045】前述のようにCRT画面上での内視鏡画像
の中心がわかる。また、内視鏡画像の最大像高に相当す
る円の半径がわかるのでそれをdし、最大画角をθとす
ると、 d=f・k・sin(θ/k) (式(1)の場合) より 倍率を含んだ焦点距離fを求める事ができる。す
なわち、計測に必要な係数のキャリブレーション(較
正)をする事ができる。As described above, the center of the endoscopic image on the CRT screen can be seen. In addition, since the radius of the circle corresponding to the maximum image height of the endoscopic image is known, let d be the maximum angle of view, and let d = f · k · sin (θ / k) (Equation (1) In this case, the focal length f including the magnification can be obtained. That is, the coefficients required for measurement can be calibrated.
【0046】以後は、このキャリブレーションにより決
定された焦点距離fを用いて対象物の大きさを計測する
ことができる。説明をしないがその他の係数はあらかじ
めキーボード26によりセットしておくのでこの状態で
画像を用いた計測をする事ができる。After that, the size of the object can be measured by using the focal length f determined by this calibration. Although not described, since other coefficients are set in advance by the keyboard 26, the measurement using the image can be performed in this state.
【0047】この実施例によれば、実際に使用する光学
系によって結像し、CRT画面上に表示させて、光学系
の特性を設定するようにしているので、個々のレンズに
ばらつきが存在する場合でも、そのばらつによる誤差を
吸収でき、誤差を少なくできる。According to this embodiment, since the image is formed by the actually used optical system and is displayed on the CRT screen to set the characteristics of the optical system, there is a variation in each lens. Even in the case, the error due to the variation can be absorbed, and the error can be reduced.
【0048】つまり、計測に使用するスコープのパラメ
ータを一覧表から設定するのでなく、現物に合わせて画
像から取り込み、その現物に合わせてパラメータを計算
するので、スコープやアダプタのばらつきによる誤差を
吸収する事ができ、精度の高い計測を可能にする。ま
た、新しいスコープにも対応できる。In other words, the parameters of the scope used for measurement are not set from the list, but are taken from the image according to the actual product and the parameters are calculated according to the actual product, so errors due to variations in the scope and adapter are absorbed. It is possible to do things, and it enables highly accurate measurement. It can also support new scopes.
【0049】より正確な計測が可能になる。また、新し
いスコープが発売されたときにもユーザーレベルで対応
できる。More accurate measurement becomes possible. Also, when a new scope is released, it can be handled at the user level.
【0050】なお、この実施例により、倍率を含んだ焦
点距離fを求めた場合、使用したファイバスコープ6、
撮影アダプタ11、TVカメラ8のID番号等と共に、
この倍率を含んだ焦点距離fを登録して、次に同じ組み
合わせの場合には、操作者の選択により、キャリブレー
ションを行うことなく計測を行ったり、次回にも再びキ
ャリブレーションを行うようにしても良い。When the focal length f including the magnification is determined by this embodiment, the fiberscope 6 used,
Along with the shooting adapter 11 and ID number of the TV camera 8,
The focal length f including this magnification is registered, and in the case of the same combination next, the measurement is performed without performing the calibration or the calibration is performed again next time according to the operator's selection. Is also good.
【0051】次に本発明の第2実施例を説明する。第2
実施例は第1実施例の画像の中心位置の検出と画像の大
きさの検出を画像処理を使用して求める点が異なる。図
6は第2実施例における計測装置5のブロック図を示
す。Next, a second embodiment of the present invention will be described. Second
The embodiment differs from the first embodiment in that the detection of the center position of the image and the detection of the size of the image are obtained by using image processing. FIG. 6 shows a block diagram of the measuring device 5 in the second embodiment.
【0052】第1実施例と異なるのは計測装置5に画像
中心位置検出手段41と画像の大きさ検出手段42がつ
け加わった点である。The difference from the first embodiment is that an image center position detecting means 41 and an image size detecting means 42 are added to the measuring device 5.
【0053】どちらも画像の取込記憶手段31と統括制
御演算手段37に接続されている。画像中心位置検出手
段41は統括制御演算手段37からの指令により、画像
の取込記憶手段31から画像データを受け取る。Both are connected to the image acquisition / storage means 31 and the overall control calculation means 37. The image center position detecting means 41 receives the image data from the image storage means 31 in response to a command from the overall control calculating means 37.
【0054】この画像データの内、画像が存在する点と
存在しない点とをその点の明るさ判別し、2値化された
画像を生成する。つぎに、その画像の重心を求める事に
より画像の中心を求める。この方法については公知であ
る。In this image data, the brightness of the point where the image exists and the point where the image does not exist is discriminated, and the binarized image is generated. Next, the center of the image is obtained by obtaining the center of gravity of the image. This method is known.
【0055】また、画像の大きさ検出手段42は図7に
示すように求められた画像の中心43から全周44方向
にサーチする。例えば、サーチライン45に示す線上を
画像の中心43から順にサーチする。サーチした点上に
画像がなくなったところをそのサーチライン45上での
半径とする。このようにして求められた半径を平均する
事でマスク39の大きさを検出する事ができる。この方
法も公知である。Further, the image size detecting means 42 searches in the direction of the entire circumference 44 from the center 43 of the obtained image as shown in FIG. For example, the line indicated by the search line 45 is sequentially searched from the center 43 of the image. The area on the searched line where the image disappears is the radius on the search line 45. The size of the mask 39 can be detected by averaging the radii thus obtained. This method is also known.
【0056】以上のように第2実施例では画像処理によ
り自動的に必要なパラメータを画像から検出する事がで
きる。次に本発明の第3実施例を説明する。As described above, in the second embodiment, the necessary parameters can be automatically detected from the image by the image processing. Next, a third embodiment of the present invention will be described.
【0057】第3実施例として本実施例で説明した方法
を使用したパイプ計測装置を対象とする。パイプ計測方
法については本願出願人の特願平4ー84066号と特
願平4ー217049号の明細書にて示している。As a third embodiment, the pipe measuring apparatus using the method described in this embodiment is targeted. The pipe measuring method is described in the specification of Japanese Patent Application No. 4-84066 and Japanese Patent Application No. 4-217049 of the present applicant.
【0058】本実施例では、図8に示す内視鏡51に対
して想定するパイプの形状をした計測モデル52の4つ
の断面に相当する円を、図9で示すように画面上に合成
している。これをガイド53と呼ぶ。In this embodiment, circles corresponding to four sections of the pipe-shaped measurement model 52 assumed for the endoscope 51 shown in FIG. 8 are synthesized on the screen as shown in FIG. ing. This is called a guide 53.
【0059】通常の使用においては、計測モデル52の
中心軸を内視鏡51の光学系の中心軸と一致させている
ので、ガイド53の4つの円は大きさの異なる4つの円
になる。大きさの違いは、内視鏡51からのそれぞれの
断面までの距離の違いを示している。この画面内の2点
を指定する事により前記明細書で示した長さの計測が行
われる。In normal use, since the central axis of the measurement model 52 is aligned with the central axis of the optical system of the endoscope 51, the four circles of the guide 53 are four circles of different sizes. The difference in size indicates the difference in the distance from the endoscope 51 to each cross section. By specifying two points on this screen, the length shown in the above specification is measured.
【0060】本実施例では計測モデル52の位置を手動
にて変更する事ができる。位置情報・量情報入力手段か
らの情報により計測モデルを平行移動したり傾けたりす
る事ができる。平行移動したときのガイド53の形状を
図10に示す。この図は計測モデル52を画面左下に移
動したときの画面を示している。In this embodiment, the position of the measurement model 52 can be changed manually. The measurement model can be translated or tilted according to the information from the position information / quantity information input means. The shape of the guide 53 when translated is shown in FIG. This figure shows the screen when the measurement model 52 is moved to the lower left of the screen.
【0061】傾けたときのガイド53の形状を図11に
示す。この図は計測モデル102を上側に傾けたときの
画面を示している。一方、本実施例にはパイプの断面方
向の長さを確認できる2重円ガイド54の表示もでき
る。この様子を図12に示す。2重円ガイド54の間隔
は例えば左下に1mmと表示される。The shape of the guide 53 when tilted is shown in FIG. This figure shows a screen when the measurement model 102 is tilted upward. On the other hand, in this embodiment, it is possible to display a double circle guide 54 for confirming the length of the pipe in the sectional direction. This state is shown in FIG. The distance between the double circle guides 54 is displayed as 1 mm at the lower left, for example.
【0062】このときの計測モデルの状態を図13に示
す。2重円ガイド54はモデルの断面に相当する第1の
円55とパイプの断面方向の長さを確認するための第2
の円56がモデル52に想定されている。図13ではパ
イプの内側がえぐれている場合に使用する2重円ガイド
54を示している。The state of the measurement model at this time is shown in FIG. The double circle guide 54 has a first circle 55 corresponding to the cross section of the model and a second circle for confirming the length of the pipe in the cross sectional direction.
A circle 56 is assumed for the model 52. FIG. 13 shows a double circle guide 54 used when the inside of the pipe is carved.
【0063】図示しないが、パイプの内側に観察対象が
張り出している場合の2重円ガイド54は第2の円56
が第1の円55の内側にはいる形になる。Although not shown, the double circle guide 54 is a second circle 56 when the object to be observed is overhanging inside the pipe.
Will be inside the first circle 55.
【0064】もちろん以上の計測をする場合には第1及
び第2実施例で示した方法により内視鏡の光学系をキャ
リブレーションしておく必要がある。Of course, when performing the above measurement, it is necessary to calibrate the optical system of the endoscope by the method shown in the first and second embodiments.
【0065】[0065]
【発明の効果】以上説明したように本発明によれば、内
視鏡の結像レンズ系と、撮影アダプタと、TVカメラの
ばらつきにより、TV画面上での内視鏡の像の大きさが
計算値と異なる事による測定誤差をなくす事ができる。As described above, according to the present invention, the size of the image of the endoscope on the TV screen varies due to variations in the imaging lens system of the endoscope, the photographing adapter, and the TV camera. It is possible to eliminate the measurement error due to the difference from the calculated value.
【図1】図1は本発明の第1実施例を備えた画像計測装
置の全体構成図。FIG. 1 is an overall configuration diagram of an image measuring device including a first embodiment of the present invention.
【図2】図2は撮像光学系による結像の原理を示す説明
図。FIG. 2 is an explanatory diagram showing the principle of image formation by the image pickup optical system.
【図3】図3は図2を簡略化して示す説明図。FIG. 3 is an explanatory view showing a simplified version of FIG.
【図4】図4は計測装置の構成を示すブロック図。FIG. 4 is a block diagram showing a configuration of a measuring device.
【図5】図5は画像の大きさと中心を求める動作の説明
図。FIG. 5 is an explanatory diagram of an operation for obtaining the size and center of an image.
【図6】図6は本発明の第2実施例における計測装置の
構成を示すブロック図。FIG. 6 is a block diagram showing a configuration of a measuring device according to a second embodiment of the present invention.
【図7】図7はマスクの大きさを検出する動作の説明
図。FIG. 7 is an explanatory diagram of an operation of detecting the size of a mask.
【図8】図8は本発明の第3実施例におけるパイプを計
測する様子を示す説明図。FIG. 8 is an explanatory view showing a state of measuring a pipe in the third embodiment of the present invention.
【図9】図9はガイドを表示した様子を示す説明図。FIG. 9 is an explanatory diagram showing a state in which a guide is displayed.
【図10】図10は計測モデルを平行移動した場合にお
けるガイドの形状を示す説明図。FIG. 10 is an explanatory diagram showing a shape of a guide when a measurement model is translated.
【図11】図11は計測モデルを傾けた場合におけるガ
イドの形状を示す説明図。FIG. 11 is an explanatory diagram showing the shape of the guide when the measurement model is tilted.
【図12】図12は2重円ガイドを表示した様子を示す
説明図。FIG. 12 is an explanatory diagram showing a state in which a double circle guide is displayed.
【図13】図12の場合に相当する計測モデルの状態を
示す説明図。13 is an explanatory diagram showing a state of a measurement model corresponding to the case of FIG.
1…内視鏡画像計測装置 2…TVカメラ外付けスコープ 3…光源装置 4…CCU 5…計測装置 6…ファイバスコープ 7…撮影アダプタ 8…TVカメラ 11…接眼部 16…対物光学系 17…物体 18…イメージガイド 19…接眼光学系 22…CCD 25…CRT 26…キーボード 27…マウス 29…レンズ 31…画像の取込記憶手段 32…スーパインポーズ手段 34…表示制御手段 35…十字カーソル表示指示手段 36…円カーソル表示指示手段 37…統括制御演算手段 38…位置情報・量情報入力手段 1 ... Endoscopic image measuring device 2 ... TV camera external scope 3 ... Light source device 4 ... CCU 5 ... Measuring device 6 ... Fiberscope 7 ... Imaging adapter 8 ... TV camera 11 ... Eyepiece 16 ... Objective optical system 17 ... Object 18 ... Image guide 19 ... Eyepiece optical system 22 ... CCD 25 ... CRT 26 ... Keyboard 27 ... Mouse 29 ... Lens 31 ... Image capture storage means 32 ... Superimpose means 34 ... Display control means 35 ... Cross cursor display instruction Means 36 ... Circle cursor display instruction means 37 ... Overall control calculation means 38 ... Position information / quantity information input means
Claims (2)
をするときに使用する定数として、少なくともレンズの
焦点距離と、レンズの歪曲収差を補正する係数と、レン
ズの最大画角と、最大像高さと、画像の中心位置を使用
する画像計測方法において、 計測に使用する画像から、少なくとも画像の中心を求
め、かつ画像の大きさを求めるステップを有することを
特徴とする画像計測装置用キャリブレーション方法。1. As constants used for measurement from an image obtained by an image input device, at least a focal length of a lens, a coefficient for correcting lens distortion aberration, a maximum angle of view of the lens, and a maximum An image measuring method using image height and image center position, which comprises a step of obtaining at least an image center and an image size from an image used for measurement, and a calibration for an image measuring apparatus. Method.
をするときに使用する定数として、少なくともレンズの
焦点距離と、レンズの歪曲収差を補正する係数と、レン
ズの最大画角と、最大像高さと、画像の中心位置を使用
する計測装置において、 計測に使用する画像から少なくとも画像の中心を求める
中心位置検出手段と、画像の大きさを求める大きさ検出
手段とを有する事を特徴とする画像計測装置用キャリブ
レーション装置。2. A constant used for measurement from an image obtained by an image input device, at least a focal length of the lens, a coefficient for correcting distortion of the lens, a maximum angle of view of the lens, and a maximum A measuring device that uses the image height and the center position of the image is characterized by having a center position detecting means for obtaining at least the center of the image from the image used for measurement, and a size detecting means for obtaining the size of the image. Calibration device for image measurement device.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP02037193A JP3271813B2 (en) | 1993-02-08 | 1993-02-08 | Calibration method and calibration device for image measurement device |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP02037193A JP3271813B2 (en) | 1993-02-08 | 1993-02-08 | Calibration method and calibration device for image measurement device |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH06229931A true JPH06229931A (en) | 1994-08-19 |
| JP3271813B2 JP3271813B2 (en) | 2002-04-08 |
Family
ID=12025217
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP02037193A Expired - Fee Related JP3271813B2 (en) | 1993-02-08 | 1993-02-08 | Calibration method and calibration device for image measurement device |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3271813B2 (en) |
Cited By (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0989527A (en) * | 1995-09-27 | 1997-04-04 | Ntn Corp | Method for measuring operation parameter of measuring device, and measuring device |
| JP2005279054A (en) * | 2004-03-30 | 2005-10-13 | Olympus Corp | Device and method for displaying conversion image, and endoscope apparatus for industrial use |
| JP2007152014A (en) * | 2005-12-08 | 2007-06-21 | Olympus Medical Systems Corp | Endoscopic inspection tool and endoscope system |
| JP2009168499A (en) * | 2008-01-11 | 2009-07-30 | Olympus Corp | Endoscope apparatus and program |
| US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
| CN110811495A (en) * | 2019-10-28 | 2020-02-21 | 浙江华诺康科技有限公司 | Lesion size measurement method, system and computer equipment for fluorescence endoscopy |
| CN117073982A (en) * | 2023-07-25 | 2023-11-17 | 精微视达医疗科技(苏州)有限公司 | Field of view detection method of probe-type confocal endoscope |
-
1993
- 1993-02-08 JP JP02037193A patent/JP3271813B2/en not_active Expired - Fee Related
Cited By (8)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0989527A (en) * | 1995-09-27 | 1997-04-04 | Ntn Corp | Method for measuring operation parameter of measuring device, and measuring device |
| JP2005279054A (en) * | 2004-03-30 | 2005-10-13 | Olympus Corp | Device and method for displaying conversion image, and endoscope apparatus for industrial use |
| JP2007152014A (en) * | 2005-12-08 | 2007-06-21 | Olympus Medical Systems Corp | Endoscopic inspection tool and endoscope system |
| JP2009168499A (en) * | 2008-01-11 | 2009-07-30 | Olympus Corp | Endoscope apparatus and program |
| US10127687B2 (en) | 2014-11-13 | 2018-11-13 | Olympus Corporation | Calibration device, calibration method, optical device, image-capturing device, projection device, measuring system, and measuring method |
| CN110811495A (en) * | 2019-10-28 | 2020-02-21 | 浙江华诺康科技有限公司 | Lesion size measurement method, system and computer equipment for fluorescence endoscopy |
| CN110811495B (en) * | 2019-10-28 | 2022-04-05 | 浙江华诺康科技有限公司 | Focus size measuring method and system of fluorescence endoscope and computer equipment |
| CN117073982A (en) * | 2023-07-25 | 2023-11-17 | 精微视达医疗科技(苏州)有限公司 | Field of view detection method of probe-type confocal endoscope |
Also Published As
| Publication number | Publication date |
|---|---|
| JP3271813B2 (en) | 2002-04-08 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US12349985B2 (en) | Device and method for tracking the position of an endoscope within a patient's body | |
| US8313425B2 (en) | Apparatus and method for measuring displacement amount of endoscope image, electronic endoscope, and image processing device for endoscope | |
| US8619125B2 (en) | Image measuring apparatus and method | |
| US7170677B1 (en) | Stereo-measurement borescope with 3-D viewing | |
| US5633675A (en) | Shadow probe | |
| JPWO2018051680A1 (en) | Endoscope system | |
| EP3603482B1 (en) | Endoscope system, processor device for operating endoscope system | |
| US5202758A (en) | Fluorescent penetrant measurement borescope | |
| US6945930B2 (en) | Environment adaptable measurement endoscope | |
| JP5307407B2 (en) | Endoscope apparatus and program | |
| JPH03102202A (en) | Testing method of objective part by photographing means | |
| US20230390019A1 (en) | Stone measurement systems and methods related thereto | |
| US11426052B2 (en) | Endoscopic system | |
| US20120130168A1 (en) | Endoscope apparatus | |
| CN110461204A (en) | Measurement aids, endoscopy systems and processors | |
| JP4885479B2 (en) | Endoscope device for measurement and program for endoscope | |
| JP3271813B2 (en) | Calibration method and calibration device for image measurement device | |
| JP5113990B2 (en) | Endoscope device for measurement | |
| JPH03231622A (en) | Endoscope apparatus | |
| JP5513343B2 (en) | Imaging device | |
| JP4011888B2 (en) | Measuring endoscope device | |
| JP3199793B2 (en) | Imaging device | |
| JP6400767B2 (en) | Measuring endoscope device | |
| US20260047746A1 (en) | Medical measurement systems and methods related thereto | |
| JP2008125996A (en) | Endoscope subject distance measurement system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20020107 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080125 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090125 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090125 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100125 Year of fee payment: 8 |
|
| LAPS | Cancellation because of no payment of annual fees |