JPH06319694A - 色ズレ補正装置 - Google Patents

色ズレ補正装置

Info

Publication number
JPH06319694A
JPH06319694A JP5114643A JP11464393A JPH06319694A JP H06319694 A JPH06319694 A JP H06319694A JP 5114643 A JP5114643 A JP 5114643A JP 11464393 A JP11464393 A JP 11464393A JP H06319694 A JPH06319694 A JP H06319694A
Authority
JP
Japan
Prior art keywords
color
image
corrected
drift
signal
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP5114643A
Other languages
English (en)
Other versions
JP3327992B2 (ja
Inventor
Koji Inaba
康治 稲葉
Kazunari Nakamura
一成 中村
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Olympus Corp
Original Assignee
Olympus Optical Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Olympus Optical Co Ltd filed Critical Olympus Optical Co Ltd
Priority to JP11464393A priority Critical patent/JP3327992B2/ja
Publication of JPH06319694A publication Critical patent/JPH06319694A/ja
Application granted granted Critical
Publication of JP3327992B2 publication Critical patent/JP3327992B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Endoscopes (AREA)

Abstract

(57)【要約】 【目的】 動きの大きい部分でも元の被写体色に近い色
で補い色ズレを解消でき、違和感のない画像を得ること
のできる色ズレ補正装置を提供すること。 【構成】 被写体を面順次で撮像する撮像手段により得
られたカラー画像信号から時間差のある画像信号を比較
して色ズレに対応する画像の変化点を検出する色変化検
出部1と、カラー画像信号より色分布のヒストブラムを
作成し、作成された色分布から代表色を算出し、色ズレ
補正用の色ズレ補正データを算出し、画像の色ズレを補
正する補正画像を生成する補正画像作成部2と、原画像
に対して色ズレが検出された場合には原画像から補正画
像に切り換えて出力する合成部3とから構成される。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は色分布作成手段で生成さ
れた色分布に基づいて色ズレ補正用のデータを生成し、
色ズレ補正を行う色ズレ補正装置に関する。
【0002】
【従来の技術】面順次式の電子内視鏡は、1/60秒毎
にR,G,B三原色画像を1枚ずつ撮像している。この
ため動きのある物体を撮像した場合、同一時間にR,
G,Bの三原色を取り込むことができないので物体の色
が分離してしまう。この分離した状態を色ズレという。
【0003】特公昭52−9095による色ズレの補正
方法は、原信号と3フィールド遅延信号、すなわち原信
号の各原色信号と3フィールド前のこれと同一色の原色
信号とを比較し、その差信号がある値を越えたとき、そ
の位置が色割れを生ずる画像の動き位置であるものと判
断し、この動き位置判別信号(パルス)により搬送信号
を利得制御および帯域制御し、搬送色信号を画像の動き
位置で完全に除去するか、抑圧して三原色の色割れを軽
減する。
【0004】また、動きの大きいときには更に狭い帯域
の通過フィルタと切換える2個以上の複数個の切換え方
式としてもよいという色割れ軽減するフィールド順次カ
ラーテレビジョン撮像方式が開示されている。
【0005】
【発明が解決しようとする課題】特公昭52−9095
では色ズレに応じて色信号の帯域制限を行うため動きの
大きい部分ほど色彩が弱くなり白黒画像に近くなってし
まい本来の被写体色と異なる不自然な画像になる。
【0006】本発明は上述した点にかんがみてなされた
もので、動きの大きい部分でも元の被写体色に近い色で
補い色ズレを解消でき、違和感のない画像を得ることの
できる色ズレ補正装置を提供することを目的とする。
【0007】
【課題を解決するための手段】被写体を面順次で撮像す
る撮像手段により得られたカラー画像信号から時間差の
ある画像信号を比較して色ズレに対応する画像の変化点
もしくは変化領域を算出する変化部算出手段と、被写体
のカラー画像信号より色分布を作成する色分布作成手段
と、前記色分布作成手段で作成された色分布から色ズレ
補正用の色ズレ補正データを算出する色ズレ補正データ
算出手段と、前記色ズレ補正データを用いて画像の色ズ
レを補正する補正画像生成手段と、を具備している。
【0008】
【作用】内視鏡画像は通常画像と違い体腔内の画像のた
め画像を構成する色がかなり片寄っているので色空間の
一部の画素密度が高くなる。ここで色空間内で画素密度
の高い代表色を検索すれば色ズレ画像を体腔内に近い色
で補正できることになる。
【0009】つまり、色分布作成手段で作成された色分
布から代表色を生成し、この代表色を用いて色ズレ補正
データを算出し、この算出された色ズレ補正正データを
用いて補正を行うことにより、違和感のない自然な補正
画像が得られるようにしている。
【0010】
【実施例】以下、図面を参照して本発明の実施例を説明
する。図1ないし図8は本発明の1実施例に係り、図1
は1実施例の色ズレ補正装置の基本構成を示し、図2は
色変化検出部の構成を示し、図3は補正画像作成部の構
成を示し、図4は1実施例の色ズレ補正装置を備えた電
子内視鏡装置の構成を示し、図5はヒストグラム作成の
フローを示し、図6は色空間ヒストグラムから画素数頻
度の最大値の代表色を求める説明図を示し、図7及び図
8は代表色のルックアップテーブルを求める説明図を示
す。
【0011】図1に示すように第1実施例の色ズレ補正
装置10は入力される原画像の信号から色ズレ等の色変
化画素の検出を行う色変化検出部1と、色ズレ等の色変
化部分の補正画像を作成する補正画像作成部2と、原画
像と補正画像を色変化検出部1に基づき合成する合成部
3とから構成される。
【0012】図2に示すように色変化検出部1は入力さ
れるR,G,B信号から輝度信号Yと、2つの色信号C
r,Cbを算出するマトリクス回路11と、算出された
色信号Cr,Cb信号をそれぞれ4フィールド遅延させ
る4フィールド遅延メモリ12a,12bと、4フィー
ルド遅延された色信号Cr,Cbとマトリクス回路11
にて算出された色信号Cr,Cbの差分を検出する差分
検出回路13a,13bと、差分検出回路13a、13
bの検出結果の論理和を求める論理和回路14にて構成
される。
【0013】この論理和回路14から出力される変化点
検出信号は補正画像作成部2に入力され色ズレのない画
素の選択に使用されると共に、合成部3に入力され原画
像と補正画像の切換に使用される。
【0014】図3に示すように補正画像作成部2は色変
化検出部1の結果に基づいて原画像(入力されるR,
G,B信号)に対し、1フィールド分のヒストグラムを
作成するヒストグラム作成回路21と、このヒストグラ
ム作成回路21のヒストグラムデータから代表色を作成
するCPUブロック22と、原画像から補正色を作成す
る色変換手段23と、原画像の輝度信号Yと色変換手段
23の補正色をマトリクス演算して補正画像を作成する
演算部24とから構成され、この演算部24から補正画
像を出力する。
【0015】上記ヒストグラム作成回路21は、入力さ
れるR,G,B信号とラストイメージ用フィールドメモ
リ212から読み出された信号を選択するセレクタ21
1と、セレクタ211で選択された信号を1フィールド
分記憶するラストイメージ用フィールドメモリ212
と、このラストイメージ用フィールドメモリ212に記
憶されている1フィールド分の信号から色分布を作成す
るヒストグラムLSI213とで構成される。
【0016】CPUブロック22はヒストグラムLSI
213で作成されたヒストグラムデータから代表色を選
出し、ルックアップテーブルを作成する。
【0017】色変換手段23は、入力されるR,G,B
信号を1フィールド時間遅延させるフィールドメモリ2
31a,231b,231cと、CPUブロック22で
選出された代表色を記録するルックアップテーブル23
2a〜232fと、変換された色に重み付けをする乗算
器233a〜233fと、乗算器233a〜233fで
重み付けされた色信号を加算する加算器234a,23
4bとから構成される。
【0018】また、演算部24は、マトリクス回路11
で作成された輝度信号Yを1フィールド時間遅延させる
フィールドメモリ241と、加算器234a,234b
で作成された色信号とフィールドメモリ241で遅延さ
せた輝度信号Yから画像を作成するマトリクス回路24
2で構成され、この演算部24から出力される補正画像
の色信号R′,G′,B′は合成部3に入力される。
【0019】合成部3は色変化検出部1の色ズレ検出結
果に基づき、原画像とマトリクス回路242で演算され
て生成された補正画像とを切り換え、色ズレが存在した
場合にも色ズレの少ない画像を出力する。この合成部3
は例えばアナログスイッチで構成される。
【0020】図4は1実施例の色ズレ補正装置10を備
えた電子内視鏡装置71を示す。
【0021】この電子内視鏡装置71は電子内視鏡72
と、この電子内視鏡72に照明光を供給する光源部73
及び電子内視鏡72の撮像手段に対する信号処理を行う
信号処理部74とを内蔵したビデオプロセッサ75と、
このビデオプロセッサ75から出力される映像信号を表
示するカラーモニタ76とから構成される。
【0022】電子内視鏡72は細長で例えば可撓性の挿
入部77を有し、この挿入部77の後端に太径の操作部
78が連設されている。操作部78の後端付近からは側
方に可撓性のユニバーサルケ―ブル79が延設され、こ
のケ―ブル79の先端部にコネクタ80が設けられてい
る。
【0023】上記コネクタ80をビデオプロセッサ75
に接続することにより、光源部73から電子内視鏡72
のライトガイド81に面順次照明光が供給される。つま
り、ランプ82の白色照明光はモータ83によって回転
駆動される回転フィルタ84に設けたR,G,Bの色透
過フィルタ84R,84G,84Bを通すことによっ
て、R,G,Bの面順次照明光となり、ライトガイド8
1の先端面から前方に出射される。
【0024】面順次照明光で照明された患部等の被写体
は先端部の対物レンズ85によりその焦点面に配置した
CCD86に結像され、光電変換される。このCCD8
6にドライバ87から駆動信号を印加することによって
光電変換された画像信号が読み出され、アンプ88で増
幅された後、A/Dコンバータ89でデジタル信号に変
換され、さらにセレクタ91を介してR,G,Bメモリ
92R,92G,92Bに順次記憶される。
【0025】上記R,G,Bメモリ92R,92G,9
2Bに順次記憶された画像データは同時に読み出され、
1実施例の色ズレ補正装置10に入力され、色ズレ補正
された後、D/Aコンバータ部94でアナログの色信号
に変換され、図示しない同期信号と共に、カラーモニタ
76に入力され、被写体像をカラー表示するようになっ
ている。
【0026】次にこの1実施例の色ズレ補正装置10の
作用を説明する。色変化検出部1は4フィールドの時間
差のある色信号を比較するため、デジタルR,G,B信
号はマトリクス回路11で色信号Cr,Cbに変換され
る。なお、色信号は通常R−Y,B−Yを使用するが
R,G,B各8ビットで演算を行うと9ビットになる、
これを8ビット幅におさまるようにした色信号をCr,
Cbで示している。
【0027】2つの色信号Cr,Cbは4フィールド遅
延メモリ12aと12bに入力され、4フィールド時間
遅らせる。差分検出回路13aと13bでは、マトリク
ス回路11から遅延されないで出力された色信号Cr,
Cbと、4フィールド遅延メモリ12a,12bにて遅
延された色信号Cr,Cbとの減算をそれぞれ行い、結
果が正であれば正側比較を行い、負であれば負側比較を
行う。
【0028】各々所定の値と比較することで色の変化を
検出する。なお色信号はCr,Cbの2種類で構成され
ているためどちらかが不一致の判定を出せば色の変化が
あったことになるので2つの差分検出回路13a、13
bの出力は論理和回路14にて合成され、色の変化のあ
る画素を検出し、この論理和回路14は色の変化のある
画素を検出すると変化点検出信号を出力する。この変化
点検出信号は補正画像作成部2(のヒストグラム作成回
路21)と合成部3に出力される。
【0029】ヒストグラム作成回路21は、色ズレのな
い1フィールド分の画像の画素データから色空間のヒス
トグラムを作成するために、まずセレクタ211によ
り、原画像と1フィールド分の画像を記憶するラストイ
メージ用フィールドメモリ212の画像とを変化点検出
信号でセレクトし、セレクトされた色変化の無い画素を
ラストイメージ用フィールドメモリ212に蓄える。
【0030】ヒストグラムLSI213はラストイメー
ジ用フィールドメモリ212に蓄えられた1フィールド
分の画像データのR,G,B各8ビットのうち上位3ビ
ットを使用して色空間ヒストグラムを作成する。なお、
色ズレのない1フィールド分の画像の画素データを記憶
しているフィールドメモリ213は例えばFIFO構造
のため読み出してしまうと内容がなくなるので、セレク
タ211にフィードバックし色ズレ発生直前の色ズレの
ない画素を記憶する。
【0031】CPUブロック22では、R,G,B=8
×8×8の色空間から代表色を選ぶ作業をする。通常、
代表色を選ぶ場合は色空間の中を1本の線で結ぶことが
多いが、この代表色算出法は1色から他の2色を選ぶた
め色空間内を3本の線を通している。
【0032】その理由として、色ズレを起こしている部
分の色はR,G,Bいずれかが欠けており、最悪時には
1つの色で画像を形成する場合があり、そのときにはこ
の1色から他の2色を推定せざるを得ない為である。内
視鏡画像は通常画像と違い体腔内の画像のため画像を構
成する色がかなり片寄っているので1色から2色を推定
することが可能である。
【0033】この代表色算出法を図5のフローチャート
に沿って説明する。まずステップS1に示すように色空
間ヒストグラムを読み出し、次にステップS2に示すよ
うに各色平面から最大値(最大頻度の色)を選出し、そ
の最大値のR,G,Bに対し、ステップS3に示すよう
に色信号Cr,Cbを算出する。
【0034】そしてステップS4に示すように色信号C
r,Cbの値を8ビット階調に補間した後、ステップS
5に示すようにルックアップテーブル232a〜232
fに書き込む。ルックアップテーブル232a〜232
fは1対毎に基準となる1色から色信号Cr,Cbを推
定するようになっている。
【0035】基準となる1色から色信号Cr,Cbを推
定するためのルックアップテーブル232a〜232f
の作成を図6ないし図8を参照してさらに説明する。基
準の1色から他の2色を色空間から推定する場合、たと
えばRを基準とした場合にはGとBを色空間から選び出
しR(原画色),G′(推定色),B′(推定色)の1
組となる。
【0036】その方法は図6(a)のようにR,G,B
の色空間座標位置にヒストグラムの値(画素数頻度値)
を対応させた色空間ヒストグラムにおけるRの色空間座
標(Rの階調)を例えば、10HからF0Hまでの8分
割とし、図6(b)のようにG−B平面を8枚用意し、
各平面において最も密度の高い部分を選び出し、その部
分のGとBの座標値を推定色として記録する。
【0037】例えばR=F0Hの場合のG−B平面にお
いて、最も密度の高い部分(最大の画素数頻度値)が図
6(b)で示す太枠の部分だとすればGとBの座標位置
はそれぞれD0H、B0Hなのでこれを推定色とする。
【0038】これを他の7枚のG−B平面についてもそ
れぞれ検索を行い、RからGを推定する8ポイントのデ
ータとRからBを推定する8のポイントのデータを得
る。これをR−B平面とR−G平面についても検索を行
い、図7に示すような表を作成する。
【0039】しかし、ここで得られるのは入出力ともに
R,G,Bのデータで最終的に必要としている色データ
ではないので、マトリクス演算を行い、RからCr,C
b8ポイント、GからCr,Cbの8ポイント、Bから
Cr,Cbの8ポイントデータを求め図8の表を作成す
る。つぎに8ポイントのデータから256ポイントに補
間処理を行い、その結果をルックアップテーブル232
a〜232fに書き込む。
【0040】色変換部23では、CPUブロック22で
選出された代表色を書き込んだルックアップテーブル2
32a〜232fから3組の色データを乗算器233a
〜233fにて重み付けされ、各色データ別に加算され
色信号Cr,Cbを得る。
【0041】次に、演算部24は色変換部23にて作成
された補正色色信号Cr,Cbとマトリクス回路11に
て作成された原画の輝度信号Yをマトリクス回路242
にてマトリクス演算をしてR′,G′,B′の補正画像
を得る。なお輝度信号Yは色分布作成に1フィールドの
時間が必要のためフィールドメモリ241にて遅延させ
てマトリクス回路242に入力される。
【0042】このようにして得られた補正画像と原画像
を色の変化点に基づいて切り換えて、合成された画像を
出力することにより色彩を弱めることなく色ズレ補正が
可能になる。このようにして色ズレが検出された場合に
は補正画像で補正することにより、違和感のない自然な
補正画像で補正できる。
【0043】なお、色ズレ補正用の色空間ヒストグラム
に予めハレーション部補正用のデータを設定する事で、
ハレーションに基づく色ズレを良好に補正する事が可能
となる。
【0044】また、色ズレの発生していない画像と原画
像を色ズレの発生している量に応じ合成しても良い。ま
た、時間差のあるR−Y,B−Y信号を比較し、どちら
か一方の画像信号のみが変化している場合、変化した色
信号のみを色ズレの発生していない画像データに置き換
えても良い。
【0045】また、色空間より算出された各色8ポイン
トのデータを線形補間するのではなく、1次元のLPF
にてスムージングの処理を行い多階調化しても良い。ま
た、色空間より算出された各色8ポイントのデータを補
間する際、隣合うポイント間の中間を通る直線で補間し
て256階調のデータを得ても良く、一度直線補間した
データを更に隣接するデータ間で補間する事で、推定デ
ータの平坦部分を少なくし自然な補正データとする事が
出来る。
【0046】また、各補正データは上位Bitのみ推定し
下位Bitは原画像をそのまま出力する事で、8ポイント
の推定データをそのまま使用しても、補正色がなめらか
な変化をするため自然な補正データとなる。なお、色空
間、色平面の分割数は8*8*8および16*16に限
らず、他の分割数でも良い。更に色空間、色平面は他の
等色色平面(u-v色平面等)、等色色空間(L*,a
*,b*又はY,R−Y,B−Y等色色空間など)を用
いても良い。
【0047】
【発明の効果】以上説明したように本発明によれば、色
の分布状態を把握して補正色を選んでいるため、動きの
大きい小さいにかかわらず元の被写体色に近い色で色補
正することができるので、色ズレが発生しても違和感の
ない高精度な色ズレ補正が可能になる。
【図面の簡単な説明】
【図1】本発明の1実施例の色ズレ補正装置の基本構成
を示すブロック図。
【図2】色変化検出部の構成を示すブロック図。
【図3】補正画像作成部の構成を示すブロック図。
【図4】1実施例の色ズレ補正装置を備えた電子内視鏡
装置の構成を示す構成図。
【図5】ヒストグラム作成のフローチャート図。
【図6】色空間ヒストグラムから画素数頻度の最大値の
代表色を求める説明図。
【図7】R,G,Bの代表色を示す説明図。
【図8】R,G,Bの代表色に対応する色信号Cr,C
bを示す説明図。
【符号の説明】
1…色変化検出部 2…補正画像作成部 3…合成部 10…色ズレ補正装置 11…マトリクス回路 12a,12b…4フィールド遅延メモリ 13a,13b…差分検出回路 14…加算器 21…ヒストグラム作成部 22…CPUブロック 23…色変換部 24…演算部

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 被写体を面順次で撮像する撮像手段によ
    り得られたカラー画像信号から時間差のある画像信号を
    比較して色ズレに対応する画像の変化点もしくは変化領
    域を算出する変化部算出手段と、 被写体のカラー画像信号より色分布を作成する色分布作
    成手段と、 前記色分布作成手段で作成された色分布から色ズレ補正
    用の色ズレ補正データを算出する色ズレ補正データ算出
    手段と、 前記色ズレ補正データを用いて画像の色ズレを補正する
    補正画像生成手段と、を具備することを特徴とする色ズ
    レ補正装置。
JP11464393A 1993-05-17 1993-05-17 色ズレ補正装置 Expired - Fee Related JP3327992B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP11464393A JP3327992B2 (ja) 1993-05-17 1993-05-17 色ズレ補正装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP11464393A JP3327992B2 (ja) 1993-05-17 1993-05-17 色ズレ補正装置

Publications (2)

Publication Number Publication Date
JPH06319694A true JPH06319694A (ja) 1994-11-22
JP3327992B2 JP3327992B2 (ja) 2002-09-24

Family

ID=14642943

Family Applications (1)

Application Number Title Priority Date Filing Date
JP11464393A Expired - Fee Related JP3327992B2 (ja) 1993-05-17 1993-05-17 色ズレ補正装置

Country Status (1)

Country Link
JP (1) JP3327992B2 (ja)

Cited By (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000316864A (ja) * 1999-05-11 2000-11-21 Olympus Optical Co Ltd 超音波診断装置
WO2003096887A1 (fr) * 2002-05-16 2003-11-27 Olympus Corporation Dispositif permettant de reduire le decalage des couleurs
JP2005080843A (ja) * 2003-09-08 2005-03-31 Olympus Corp 被検体内導入装置および無線型被検体内情報取得システム

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
EP4669182A1 (en) * 2023-05-03 2025-12-31 Boston Scientific Scimed Inc. MEDICAL IMAGE CALIBRATION AND COLORIMETRIC CORRECTION SYSTEMS AND METHODS

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2000316864A (ja) * 1999-05-11 2000-11-21 Olympus Optical Co Ltd 超音波診断装置
WO2003096887A1 (fr) * 2002-05-16 2003-11-27 Olympus Corporation Dispositif permettant de reduire le decalage des couleurs
US7372989B2 (en) 2002-05-16 2008-05-13 Olympus Corporation Color misregistration reducer
JP2005080843A (ja) * 2003-09-08 2005-03-31 Olympus Corp 被検体内導入装置および無線型被検体内情報取得システム

Also Published As

Publication number Publication date
JP3327992B2 (ja) 2002-09-24

Similar Documents

Publication Publication Date Title
US5617136A (en) Image freezing unit for obtaining still image at a precise timing from image data obtained by the imaging means
US5485203A (en) Color misregistration easing system which corrects on a pixel or block basis only when necessary
JP3699873B2 (ja) 画像処理装置
US5418574A (en) Video signal correction apparatus which detects leading and trailing edges to define boundaries between colors and corrects for bleeding
JPH1079954A (ja) 色補正装置、色補正制御装置および色補正システム
WO2003101285A1 (en) Electronic endoscope device
JP2003174602A (ja) 画像表示システム
JP2002237998A (ja) 画面補正方法及び撮像装置
JP2019110467A (ja) 画像色変換装置、画像色変換プログラム、画像色変換方法
US8139856B2 (en) Image processing apparatus, imaging apparatus, and computer readable medium irregularizing pixel signals continuous in level near a saturation level
EP0554035B1 (en) Solid state color video camera
JP3327992B2 (ja) 色ズレ補正装置
JP3938715B2 (ja) 色ズレ軽減装置
JPH0888863A (ja) 高輝度圧縮装置
JP3372967B2 (ja) 色ズレ軽減装置
JP2000350231A (ja) 映像信号処理装置
JP2003348442A (ja) テレビジョンカメラ装置
JP3302439B2 (ja) 色ズレ補正装置
JP3368012B2 (ja) 画像データ処理装置
JP3310384B2 (ja) 色ズレ補正装置
JPH11168653A (ja) 輪郭補償システム
JPH11103471A (ja) 映像信号処理装置
JP2001186534A (ja) 固体撮像装置
JP2650062B2 (ja) カラー撮像装置
JP2933626B2 (ja) 内視鏡画像処理装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20020701

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080712

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090712

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100712

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100712

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110712

Year of fee payment: 9

LAPS Cancellation because of no payment of annual fees