JP3577525B2 - 電子カメラ - Google Patents

電子カメラ Download PDF

Info

Publication number
JP3577525B2
JP3577525B2 JP22905298A JP22905298A JP3577525B2 JP 3577525 B2 JP3577525 B2 JP 3577525B2 JP 22905298 A JP22905298 A JP 22905298A JP 22905298 A JP22905298 A JP 22905298A JP 3577525 B2 JP3577525 B2 JP 3577525B2
Authority
JP
Japan
Prior art keywords
data
image
image data
output
pixels
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Fee Related
Application number
JP22905298A
Other languages
English (en)
Other versions
JPH11122522A (ja
Inventor
弘之 末高
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Casio Computer Co Ltd
Original Assignee
Casio Computer Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Priority claimed from JP5138499A external-priority patent/JPH06350888A/ja
Application filed by Casio Computer Co Ltd filed Critical Casio Computer Co Ltd
Priority to JP22905298A priority Critical patent/JP3577525B2/ja
Publication of JPH11122522A publication Critical patent/JPH11122522A/ja
Application granted granted Critical
Publication of JP3577525B2 publication Critical patent/JP3577525B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Images

Landscapes

  • Television Signal Processing For Recording (AREA)
  • Studio Devices (AREA)

Description

【0001】
【発明の属する技術分野】
本発明は撮像素子から抽出した原画データを外部電子機器に出力する電子カメラに関する。
【0002】
【従来の技術】
従来の電子カメラやスキャナでは、取り込んだ画像を出力する際、原画の全部を読み出すには、装置によって決まる一定量のデータを読み出す必要があった。一方、ホストシステム側のメモリ容量や表示サイズの違いから、必要とするデータ量はシステムによってそれぞれ異なる。カメラ側のデータ量がホスト側のそれを上回る場合は原画全体を見ることができず、一部のデータで我慢しなければならないという欠点があった。
【0003】
【発明が解決しようとする課題】
最近では、電子スチルカメラを画像入力端末として、様々な外部電子機器に接続して画像を取り込む事が考えられている。しかし、外部電子機器毎で画像処理能力が事なるために、電子スチルカメラの仕様で入力される画像データを効率よく処理できない。
【0004】
例えば、画像データを2値化して出力する場合、外部電子機器で使用するディスプレイ装置の特性、原画像の種類さらには出力画像の用途によって最適な誤差の拡散のさせかたは異なってくる。
【0005】
また、外部電子機器のメモリ容量や表示サイズの違い等により外部電子機器が必要とする画像データ量が異なる。
さらに、外部電子機器により画像データの一部を切り出して出力する時、その切り出し画像データの露出値は、切り出し画像データが撮影した被写体画像と異なるため、撮影時に設定した適正露出値とは異なる。
【0006】
上述した理由により、電子スチルカメラに接続される外部電子機器により必要とする画像データが異なるという問題点が生じる。
本発明は上記の実情に鑑みてなされたもので、原画の全部または一部を出力する際のデータ量をホストシステムからの指定により、任意に変えられるようにした電子カメラを提供することを目的とする。
【0007】
【課題を解決するための手段】
上記目的を達成するために本発明の電子カメラは、撮像素子と、これを駆動する手段と、上記撮像素子の出力をデジタル値に変換する手段と、変換したデータを蓄積するメモリと、蓄積したデータを処理するCPUと、上記CPUを外部から制御するとともに処理したデータを出力するための通信手段と、を有し、上記CPUは外部から指定される水平画素数H、垂直画素数V、ビューポイント(Cx,Cy)、アスペクト比A、倍率Zに基づいて、原画データのビューポイント(Cx,Cy)を中心とする領域Kx*KyをH*V画素に変換するために、送出データD(i,j)を
D(i,j)=(Cx-Kx/2+i*Kx/H, Cy-Ky/2+j*Ky/V)
(ここでKx=k*A*H/Z、Ky=k*a*V/Z、k:定数、A=px/py、px:水平方向の画素ピッチ、py:垂直方向の画素ピッチ、a:撮像素子のアスペクト比)
として出力することを特徴とするものである。
【0009】
本発明は、撮像画像データの所定の領域を所定のデータ量に変換して出力するため、撮像画像データの任意の部分を任意の画素数で出力することができるので、様々な仕様の外部機器に対応可能に構成でき、外部機器側のメモリ容量や表示サイズ等に対応したデータ量に変換することができる。
【0011】
【発明の実施の形態】
以下図面を参照して本発明の実施形態例を詳細に説明する。
図1は本発明の電子スチルカメラのブロック構成図である。この図において、電子スチルカメラは、A/Dコンバータ31、CDS回路32、メモリ制御部33、タイミング発生器34、レジスタ35、積分処理回路36、カウンタ37、タイマ38、CPU39、パラレルI/O 40、ROM41、RAM42、I/Oポート43、割込処理部44、シリアルI/O 45、及びシステムックロック発生部46により構成され、メモリ制御部33、レジスタ35、カウンタ37、タイマ38、CPU39、パラレルI/O 40、ROM41、RAM42、I/Oポート43、割込処理部44及びシリアルI/O 45は、バス47に接続される。
【0012】
A/Dコンバータ31は、タイミング発生器34から入力される処理タイミング信号によりA/D変換処理タイミングが制御され、CCD11からアンプ51により増幅されて出力される画像信号を所定のデジタル画像信号に変換してCDS回路32に出力する。
【0013】
CDS回路32は、タイミング発生器34から入力されるサンプリング・タイミング信号及びレジスタ35を介して入力される所定の制御信号により制御され、A/Dコンバータ31から入力されるデジタル画像信号に、CCD11の出力部で重畳されるランダム性のリセットノイズや1/fノイズ等を除去する相関2重サンプリング処理を行い、そのノイズを除去したデジタル画像信号を、画像データとしてメモリ制御部33及び積分処理回路36に出力する。
【0014】
メモリ制御部33は、タイミング発生器34から入力されるアクセス・タイミング信号及びレジスタ35から入力される所定のアクセス要求信号により制御され、CDS回路32から入力される画像データを外部に接続するSRAM52に転送して書込むとともに、SRAM52から画像データを読み出してバス47を介してパラレルI/O 40、I/Oポート43及びシリアルI/O 45に転送する。
【0015】
タイミング発生器34は、マスタークロック発生器46から入力されるマスタークロック信号に基づいてA/Dコンバータ31用の処理タイミング信号、CDS回路32用のサンプリング・タイミング信号、メモリ制御部33用のアクセス・タイミング信号及び積分処理回路36用の積分処理タイミング信号等の画像処理回路30内の各種処理タイミングを制御する各種タイミング信号を生成すると共に、外部に接続するCCDドライバ53におけるCCD11の動作タイミングを制御するための所定のタイミング信号を出力する。
【0016】
レジスタ35は、バス47を介してCPU39から入力される各種制御信号を一時的に格納し、タイミング発生器34から入力されるタイミング信号に従ってその各種制御信号をCDS回路32、メモリ制御部33、積分処理回路36に出力する。
【0017】
積分処理回路36は、タイミング発生器34から入力される積分処理タイミング信号に従ってCDS回路32から入力される画像データを積分処理し、その積分結果をカウンタ37に出力する。
【0018】
カウンタ37は、積分処理回路36から入力される積分結果に基づいてカウントアップし、そのカウント値をバス47を介してCPU39に通知する。タイマ38は、画像撮影時のシャッタ動作の遅延時間等を設定し、その設定時間をバス47を介して割込処理部44に通知する。
【0019】
CPU39は、ROM41内に格納された所定のプログラムに基づいて画像データの誤差拡散処理等を実行して、2値画像データを生成すると共に、後述するCCD11内の蓄積電荷を転送する転送タイミング制御処理を実行し、CCD11における電子シャッタ動作を制御する。
【0020】
パラレルI/O 40は、外部に接続する電子機器のパラレルI/Oとの間で、所定のパラレルデータ通信手順に従って画像データ、制御データ等を送受信する。ROM41は、CPU39が実行するプログラム等を格納し、RAM42は、CPU39が誤差拡散処理等を実行する際のデータを一時的に格納するデータエリアを形成する。
【0021】
I/Oポート43は、外部の電子機器等のI/Oポートと接続し、画像データの授受を所定のデータ通信制御手順に従って制御する。割込処理部44は、タイマ38により設定され遅延時間に応じてシャッタ遅延動作等の割込処理を実行する。
【0022】
シリアルI/O 45は、バス47を介して外部に接続する電子機器のシリアルI/Oとの間で、所定のシリアル通信手順(例えば、RS232C)に従って画像データ、制御データ等を送受信する。
【0023】
SRAM52は、メモリ制御部33により画像データを一時的に格納するメモリエリアを形成する。
CCDドライバ53は、タイミング発生器34から入力されるタイミング信号に応じてCCD11内の光電変換・蓄積期間及び蓄積電荷の転送タイミング等の動作を制御するためのフレームシフトパルス信号及びライン転送パルス信号を生成してCCD11に出力する。
【0024】
前記電子スチルカメラが各I/Oポートを介して外部電子機器に接続され、この外部電子機器から出力画像形態を受信することにより、CPU39がその受信した出力画像形態に基づいて撮像画像データを最適化する。
【0025】
まず、誤差拡散処理の最適化について説明する。
図2(a)は誤差拡散法の一例を示す原理図であり、ある画素を2値化したとき元の輝度との差分を周囲の未処理の画素に拡散する方法である。ここで原画データのビット幅は8ビット(256階調)である。即ち、画素Xを2値化しきい値Tにより2値化X0 し、X<TならX0 =0(黒)、X≧TならX0 =255(白)とすると、X−X0 が誤差成分となる。これを周囲の画素に所定の比率で拡散する。本実施例では誤差成分に拡散係数Kを乗じ拡散量を制御する。図2 (b)の誤差拡散フィルタに示すように4方向に対して拡散を実行し、周囲の画素D(n)の拡散後の値D′(n)は、対応する誤差拡散フィルタの係数をβ (n)とすると、
D′(n)=D(n)+β(n)* K* (X−X0 )
となり、この画素D′(n)を2値化する際には誤差を含んだ値D′(n)に対して同様な処理を施すことで原画の濃度勾配に近い自然な画像が得られる。図2(b)の誤差拡散フィルタの例では画素Xで行われた2値化の誤差を各比率7/16,1/16,5/16,3/16で周囲の画素に加える。
【0026】
しかして、前記しきい値Tを変化させると出力画像全体の明暗が変化し、しきい値Tが小さいほど明るく、大きいほど暗い画像となる。また、拡散係数K(0≦K≦1)を変化させると、拡散の全体量が増減し出力画像のトーンが変化する。K=0とすると誤差拡散を行わない全くの2値化画像となり、拡散係数Kを増加させるに従い中間調画像に近くなって行くが、しきい値Tと拡散係数Kを、図3に示すように互いに関係付けて変化させると、この変化をより自然に見せることができる。このように、しきい値Tを拡散係数Kに連動させて変化するようにしたので画像のハーフトーン調節がより自然に行えるという利点があり、与えるパラメータは1つで済むので、簡単な操作でハーフトーン調節が実現できる。
【0027】
つまり、電子スチルカメラ1のROM41内に図3に示すようなテーブルを持っていれば、外部電子機器は、しきい値Tあるいは拡散係数Kのどちらかを受信すればよい。
【0028】
以上のように、撮像した画像データに対して誤差拡散処理をする場合、外部電子機器から入力されたしきい値あるいは拡散係数に基づいて誤差拡散処理をするようにしたので、外部電子機器のディスプレイ装置の特性、原画像の種類、出力画像の用途に関係なく最適な画像データを外部電子機器に出力できる。
【0029】
なお、本実施例では、疑似中間調処理を誤差拡散処理により実現したがこれに限ることなく、ディザ処理等の疑似中間調処理でもよい。この場合、所定サイズのディザマトリクスのしきい値、ディザマトリクスのサイズ等を外部電子機器から入力する。
【0030】
次に、原画の全部または一部を出力する際のデータ量を外部電子機器からの指定により、任意に変えられるようにした電子スチルカメラについて説明する。
外部電子機器は、予め、水平画素数H,垂直画素数V,ビューポイント(Cx ,Cy ),アスペクト比A,倍率Zを指定しておき、CPU39はこれらのパラメータを基に外部電子機器が必要とする部分の画像データを必要とするデータ量に変換し、各I/Oポートを介して外部機器に送り出す。
【0031】
この操作の基本は、図4(a),(b)に示すような画素補間演算である。即ち、図4(a)に示すように、補間データSは2画素のデータP,Qの直線近似により求める。
【0032】
S=(1−d)P+dQ
しかして、図4(b)に示すように、近傍4画素のデータA,B,C,Dから域内1点の補間データSを求めるには、まず水平方向の2点の補間データP,Qを求め、
P=(1−x)A+xB
Q=(1−x)C+xD
次に、垂直方向に同様な演算を行い、目的の補間データSを得る。
【0033】
S=(1−y)P+yQ
本実施例では画素間を256分割し、原画データの有効画素数240 * 120から61440 * 30720画素の仮想空間を生成している。
【0034】
次に、図5に示すように、この仮想空間のビューポイント(Cx ,Cy )を中心とする領域K x* K yをH * V画素に変換し、出力する画像空間の切り出しについて説明する。出力画面の左上端から水平方向を主走査方向、垂直方向を副走査方向としてデータ送出を行うものとすると、最初の送出データD(0,0)は、仮想空間上の点(Cx −Kx /2,Cy −Ky /2)であり、次の送出データD(1,0)は、Kx /H画素右のデータとなる。垂直方向も同様であるから、送出データD(i,j)は、
D(i,j)=(Cx −Kx /2+i * K x /H, Cy −Ky /2 +j * K y /V)
で表される。ここで、Kx ,Ky を前述のアスペクト比Aと倍率Zを用いて
Kx =k * A * H/Z
Ky =k * a * V/Z
k:定数
と与える。ただし、アスペクト比Aは、水平方向の画素ピッチをpx,垂直方向の画素ピッチをpyとしたときA=px/pyで定義する。式中のaはCCD自体のアスペクト比である。
【0035】
尚、倍率Zを変化させるとズームイン/アウトが、ビューポイントCx ,Cy を変化させると縦/横スクロールが簡単に実現できる。
以上のように、原画データの任意の部分を任意の画素数で出力することができるので、様々な仕様の外部電子機器に対応可能な電子カメラが構成できる。
【0036】
次に、取り込んだ画像の一部を読み出す場合、切り出された部分にある被写体が適正露出となるよう露出補正を施して出力するようにした電子スチルカメラについて説明する。即ち、図6に示すように、CPU39は、撮影した原画データの中央部分AE演算領域の平均値Aを算出し、この平均値Aが所定の適正露出値に等しくなるように露出制御を行う。この適正露出により露出制御された画像データに対して、図7に示すように、指定されたビューエリア内の原画データを必要に応じて拡大/縮小し、切り出し画像として出力するとき、切り出されたビューエリアに対して、撮影時と同様にビューエリア内の中央部分AE演算領域の平均値Bを算出する。前記ビューエリア内の画像データをA/B倍に利得補正することによって、切り出し画像を前記適正露出と同等な状態にして出力することができる。この場合、極端な明暗によって画像が不自然にならないように利得にリミッタをかける。
【0037】
以上のように、ビューエリア内の画像データを利得補正する機能を設けたので、切り出し画像を適正露出と同等な状態にして出力できる利点があり、ズームイン/アウトや縦/横スクロールなどによってビューエリアが刻々変化するときにも常に適切な画像を出力できるので、電子スチルカメラの高機能化が図れる。
【0038】
図8は、本発明の電子スチルカメラ1をラベルプリンタ61に接続した例を示したものである。同図において、ラベルプリンタ61は、電子スチルカメラ1から入力した画像データ、ラベルプリンタ61の操作状態等を表示する液晶表示画面62、この液晶表示画面62の明るさを調整するコントラストダイヤル63、ラベルのプリント操作、電子スチルカメラ1との通信操作等を入力する操作キー部64、文字を入力する文字入力部65及び電源のオン/オフをする電源キー部66等から構成されている。そして、本発明の電子スチルカメラ1にケーブルにより接続されている。
【0039】
上記構成において、液晶表示画面62の液晶パネル(ディスプレイ装置)の特性、原画像の種類(例えば自然画像)さらに出力画像の用途により誤差拡散係数Kを、また、ラベルプリンタ61の画像メモリの容量や液晶表示画面62の液晶パネルに表示できる表示サイズ、画像データとして必要な領域等に基づいてビューポイント(Cx ,Cy )、領域(Kx ,Ky ),アスペクト比A、倍率Z等をケーブルを介して電子スチルカメラ1に入力し、この入力データに基づいて、電子スチルカメラ1は、上述したように誤差拡散係数Kに基づいてラベルプリンタ61に最適な誤差拡散処理、ビューポイント(Cx ,Cy )、領域(Kx ,Ky ),アスペクト比A、倍率Zに基づいて最適データ量及び最適露出値の出力画像データを出力することができる。
【0040】
図9、図10は、本発明の電子スチルカメラ1を電子手帳67、69に接続したものであり、図9は、電子スチルカメラ1が電子手帳67に一体的に形成されているものであり、図10は、電子スチルカメラ1が電子手帳69にケーブルにより接続されているものである。この実施例においても、上述したように液晶表示パネル68,70の特性、原画像の種類(例えば自然画像)さらに出力画像の用途により誤差拡散係数Kを、また、電子手帳67、69の画像メモリの容量や液晶表示パネル68,70に表示できる表示サイズ、画像データとして必要な領域等に基づいてビューポイント(Cx ,Cy )、領域(Kx ,Ky ),アスペクト比A、倍率Z等を直接あるいはケーブルを介して電子スチルカメラ1に入力し、この入力データに基づいて、電子スチルカメラ1は、上述したように誤差拡散係数Kに基づいて電子手帳67、69に最適な誤差拡散処理、ビューポイント(Cx ,Cy )、領域(Kx ,Ky ),アスペクト比A、倍率Zに基づいて最適データ量及び最適露出値の出力画像データを出力することができる。このように、本発明の電子スチルカメラ1は、外部電子機器に対して、一体的あるいは着脱可能に形成してもよい。
【0041】
【発明の効果】
以上述べたように本発明によれば、原画データの任意の画素数で出力することができるので、様々な仕様のホストシステムに対応可能な電子カメラが構成できる。例えば、上記実施形態例において、Zを変化させるとズームイン/アウトが、Cx ,Cy を変化させると縦/横スクロールが簡単に実現できる。
【図面の簡単な説明】
【図1】本発明の一実施例を示す構成説明図である。
【図2】本発明に係る誤差拡散法の一例を示す構成説明図である。
【図3】本発明に係る拡散係数としきい値の関係の一例を示す特性図である。
【図4】本発明に係る画素補間演算の一例を示す説明図である。
【図5】本発明に係る画素空間の切り出しの一例を示す説明図である。
【図6】本発明に係るAE演算領域の一例を示す説明図である。
【図7】本発明に係る画素空間の切り出しの他の例を示す説明図である。
【図8】本発明の電子スチルカメラをラベルプリンタに接続した例を示す構成図である。
【図9】本発明の他の使用例として電子手帳に一体的に接続した例を示す構成図である。
【図10】本発明の他の使用例として電子手帳にケーブルにより接続した例を示す構成図である。
【符号の説明】
1…電子スチルカメラ、11…フレームトランスファー型CCD、31…A/Dコンバータ、32…CDS回路、33…メモリ制御部、34…タイミング発生器、35…レジスタ、36…積分処理回路、37…カウンタ、38…タイマ、39…CPU、40…パラレルI/O、41…ROM、42…RAM、43…I/Oポート、44…割込処理回路、45…シリアルI/O、46…システムックロック発生部、47…バス、51…アンプ、52…SRAM、53…CCDドライバ。

Claims (1)

  1. 撮像素子と、
    これを駆動する手段と、
    上記撮像素子の出力をデジタル値に変換する手段と、
    変換したデータを蓄積するメモリと、
    蓄積したデータを処理するCPUと、
    上記CPUを外部から制御するとともに処理したデータを出力するための通信手段と、を有し、
    上記CPUは外部から指定される水平画素数H、垂直画素数V、ビューポイント(Cx,Cy)、アスペクト比A、倍率Zに基づいて、原画データのビューポイント(Cx,Cy)を中心とする領域Kx*KyをH*V画素に変換するために、送出データD(i,j)を
    D(i,j)=(Cx-Kx/2+i*Kx/H, Cy-Ky/2+j*Ky/V)
    (ここでKx=k*A*H/Z、Ky=k*a*V/Z、k:定数、A=px/py、px:水平方向の画素ピッチ、py:垂直方向の画素ピッチ、a:撮像素子のアスペクト比)
    として出力することを特徴とする電子カメラ。
JP22905298A 1993-06-10 1998-08-13 電子カメラ Expired - Fee Related JP3577525B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP22905298A JP3577525B2 (ja) 1993-06-10 1998-08-13 電子カメラ

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
JP5138499A JPH06350888A (ja) 1993-06-10 1993-06-10 電子スチルカメラ
JP22905298A JP3577525B2 (ja) 1993-06-10 1998-08-13 電子カメラ

Related Parent Applications (1)

Application Number Title Priority Date Filing Date
JP5138499A Division JPH06350888A (ja) 1993-06-10 1993-06-10 電子スチルカメラ

Publications (2)

Publication Number Publication Date
JPH11122522A JPH11122522A (ja) 1999-04-30
JP3577525B2 true JP3577525B2 (ja) 2004-10-13

Family

ID=33312457

Family Applications (1)

Application Number Title Priority Date Filing Date
JP22905298A Expired - Fee Related JP3577525B2 (ja) 1993-06-10 1998-08-13 電子カメラ

Country Status (1)

Country Link
JP (1) JP3577525B2 (ja)

Also Published As

Publication number Publication date
JPH11122522A (ja) 1999-04-30

Similar Documents

Publication Publication Date Title
US6778216B1 (en) Method and apparatus for digital camera real-time image correction in preview mode
EP0717551B1 (en) Image processing apparatus
KR19980019708A (ko) 영상 배율 임의 변경장치 및 방법
US5535007A (en) Method and device for adjusting magnification of image
JPH0865546A (ja) シェーディング補正係数生成回路およびシェーディング補正係数生成方法
US6762792B1 (en) Digital still camera
EP1045594A2 (en) Programmable real-time image processing
EP0665681B1 (en) Color image forming method and apparatus with correction of the black component
JP3513833B2 (ja) 電子カメラ
JPH06350888A (ja) 電子スチルカメラ
JPH11122522A (ja) 電子カメラ
JP3461247B2 (ja) 画像処理装置及び画像処理方法
JPH0197056A (ja) 画像読取装置
JPS6183587A (ja) 画像デ−タ変換方式
JP2002300398A (ja) 画像処理装置
JPH10243220A (ja) 画像データ処理装置
JPH0918763A (ja) 撮像装置および映像信号処理装置
JP3699171B2 (ja) 電子ズーム処理装置および電子ズーム処理方法
JP3384688B2 (ja) 画像データ処理装置
JP2000196875A (ja) 画像処理装置
JP2646888B2 (ja) 画像処理装置
KR20010027261A (ko) 단색 이미지 센서를 이용한 칼라 화상 스캐닝 장치
JPH0762867B2 (ja) 網点画像スクリ−ン線数変換装置
JPH04127774A (ja) 画像縮小方法
JPH06311346A (ja) 画像処理装置

Legal Events

Date Code Title Description
TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040608

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040621

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080723

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090723

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090723

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100723

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110723

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110723

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120723

Year of fee payment: 8

LAPS Cancellation because of no payment of annual fees