JPH09210922A - 表面状態検査装置 - Google Patents

表面状態検査装置

Info

Publication number
JPH09210922A
JPH09210922A JP8015407A JP1540796A JPH09210922A JP H09210922 A JPH09210922 A JP H09210922A JP 8015407 A JP8015407 A JP 8015407A JP 1540796 A JP1540796 A JP 1540796A JP H09210922 A JPH09210922 A JP H09210922A
Authority
JP
Japan
Prior art keywords
inspected
light
image
value
predetermined
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP8015407A
Other languages
English (en)
Other versions
JP3259624B2 (ja
Inventor
Masanori Imanishi
正則 今西
Yutaka Suzuki
裕 鈴木
Sachiyo Katabami
祥代 方波見
Kazunori Noso
千典 農宗
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Nissan Motor Co Ltd
Original Assignee
Nissan Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Nissan Motor Co Ltd filed Critical Nissan Motor Co Ltd
Priority to JP01540796A priority Critical patent/JP3259624B2/ja
Publication of JPH09210922A publication Critical patent/JPH09210922A/ja
Application granted granted Critical
Publication of JP3259624B2 publication Critical patent/JP3259624B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Investigating Materials By The Use Of Optical Means Adapted For Particular Applications (AREA)
  • Length Measuring Devices By Optical Means (AREA)

Abstract

(57)【要約】 【課題】被検査物体の有無を検知する専用のセンサを必
要とせず、かつ被検査物体のうちの被検査面(検査すべ
き個所)のみを処理することの出来る表面状態検査装置
を提供する。 【解決手段】被検査面に所定の照明光を照射する照明装
置1と、照明装置1からの光が照射された被検査面3を
撮像し、画像信号として出力するビデオカメラ2と、ビ
デオカメラ2より得られる受光画像における所定の複数
個所の輝度値に基づいてビデオカメラ2の視野内に被検
査面3が存在するか否かを認識する画像処理装置5と、
を備え、欠陥検出処理に用いる照明手段とビデオカメラ
とを用いて得た受光画像内の所定個所の輝度値に基づい
て被検査面の有無を認識する表面状態検出装置。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、表面状態検査装
置、特に被検査面に光を照射し、その被検査面からの反
射光より受光画像を作成し、この受光画像に基づいて被
検査物体の表面状態の良否判定などの検査を行なう表面
状態検査装置に関する。
【0002】
【従来の技術】従来の表面状態検査装置としては、例え
ば特開平3−10150号公報に示されたものがある。
これは、塗装工程において搬送されてくる車両(ボデ
ィ)の表面に光を照射し、その照明領域をイメージセン
サで撮像して得られた画像から、塗装面上の欠陥(いわ
ゆるゴミブツ)を検出するものである。具体的には、車
両検知センサで車両を検知すると所定の欠陥検出処理が
開始され、車両が通過しなくなると処理が終了するとい
うものであった。
【0003】
【発明が解決しようとする課題】しかしながら、従来の
表面状態検査装置にあっては、上記のように車両の有無
を検知する専用のセンサが必要である。また、単に搬送
されて来る物体表面を区別せずに撮像するようになって
いたので、車両表面全域を撮像するように複数のイメー
ジセンサが設置される場合には、タイヤハウス内やウイ
ンドウ部(タイヤハウス内は粗塗りなのでブツ検出は不
要、ウィンドウ部は塗装中は空)などといった検査の必
要のない部位も撮像して処理するので、無駄が多く非能
率であるという問題があった。
【0004】本発明は、上記のごとき問題を解決するた
めになされたものであり、第1の目的は、専用のセンサ
を必要とせずに被検査物体の有無を検知することの出来
る表面状態検査装置を提供することであり、第2の目的
は、被検査物体のうちの被検査面(検査すべき個所)の
みについて欠陥検出処理を行なうことの出来る表面状態
検査装置を提供することである。
【0005】
【課題を解決するための手段】上記の目的を達成するた
め、本発明においては、特許請求の範囲に記載するよう
に構成している。すなわち、請求項1に記載の発明にお
いては、被検査面に所定の照明光を照射する照明手段
と、上記照明手段からの光が照射された被検査面を撮像
し、画像信号として出力する撮像手段と、撮像手段より
得られる受光画像における所定の複数個所の輝度値に基
づいて撮像手段の視野内に被検査面が存在するか否かを
認識する認識手段と、を備えるように構成している。上
記のように、本発明においては、欠陥検出処理に用いる
照明手段と撮像手段とを用いて得た受光画像内の所定個
所の輝度値に基づいて被検査面の有無を認識するように
構成しているので、専用のセンサを用いることなしに撮
像手段の視野内に被検査面が存在するか否かを認識する
ことが出来る。
【0006】また、請求項2〜請求項4は認識手段の詳
細な構成を示すものであり、認識処理に用いる輝度値の
検出個所やその処理方法を示したものである。また、請
求項5は、撮像手段と照明手段の配置構成を規定したも
のであり、撮像手段の視野内に被検査物体がないとき、
その視野内に照明手段およびその他からの光が入射しな
いように配置するものである。このように構成すること
により、誤認識を防止することが出来る。また、請求項
6は、認識手段が、被検査面が存在すると認識した場合
にのみ、被検査面上の欠陥検出処理を行なうものであ
る。このように構成することにより、被検査面がある場
合にのみ欠陥検出処理を行なうので、無駄な処理を無く
して効率的に検査を行なうことが出来る。
【0007】
【発明の効果】被検査物体の有無を検知する専用のセン
サを必要とせずに被検査面か否かを認識することが出
来、また被検査面についてのみ欠陥検出処理を行なうこ
とができるので、効率的に表面状態の検査を行なうこと
が可能となり、コストを低下させることが出来る、とい
う効果が得られる。
【0008】
【発明の実施の形態】以下、この発明を図面に基づいて
説明する。図1〜図3は本発明の一実施の形態を示す図
である。まず、図1は、本発明の表面状態検査装置の基
本的構成を示すブロック図である。図1において、1は
照明装置であり、被検査面3に所定の明暗パターンの光
を照射するように配置されている。2はビデオカメラ
(例えばCCDカメラ等)であり、明暗パターンが映し
出された被検査面3を撮像するよう配置されている。な
お、照明装置1とビデオカメラ2の位置は、被検査面3
が存在する場合に照明装置1の明暗パターンがビデオカ
メラ2に入射するように配置されており、被検査面3が
ない場合には、照明装置1の光がビデオカメラ2に入射
しないようになっている。また、4はカメラコントロー
ルユニットであり、ここではビデオカメラ2で撮像され
た受光画像の画像信号が生成され、画像処理装置5へ出
力される。また、6はホストコンピュータであり、画像
処理装置5の制御や処理結果を外部に表示させたり、出
力させる機能を有する。また、7はモニタであり、ビデ
オカメラ2で撮像した画面等を表示する。なお、照明装
置1の照明パターンは、例えばモニタ7に示したような
明暗ストライプ(後記図4aと同じ)である。
【0009】次に、図2は上記画像処理装置5の構成を
示すブロック図である。図2において、カメラコントロ
ールユニット4からの画像信号は、バッファアンプ8を
介しA/D変換器9でディジタル値に変換される。ま
た、MPU(マイクロプロセッサ)10は、画像データ
に対して所定の演算、処理等を行なう。11は画像デー
タや処理結果を記憶するメモリであり、処理結果等はD
/A変換器12を介してモニタ7に出力して表示するこ
とができる。
【0010】次に、図3は、図1の装置を自動車の塗装
ラインにおける“ゴミブツ”と呼ばれる塗装欠陥の検査
に適用した例を示す斜視図である。図3において、塗装
された自動車のボディ14が塗装検査ラインを矢印の方
向へ流れている。このボディ14の塗装面の一部分に、
所定の明暗模様を映し出し、かつ明暗模様が映し出され
た部分を撮像するように、照明装置1、ビデオカメラ2
がアーチ状に固定された状態で複数個配置されている。
したがって、ボディ14が塗装検査ライン上をコンベア
15によって移動し、アーチ状に配置されたビデオカメ
ラ2とストライプ照明の下を通過する間に、被検査面3
の欠陥検出が行われる。
【0011】次に作用を説明する。明暗ストライプが映
し出されている被検査面3を撮像して得られる受光画像
は、例えば図4(a)に示すようになる。ビデオカメラ
2からの画像信号をA/D変換して輝度レベルを8bi
tのディジタル値に変換した場合、縦軸において255
が最大値で白、0が黒となり、1画面を512×480
画素の分解能で取り込んだ場合には、横軸は0〜511
の画素数となり、図4(b)に示すようになる。
【0012】ここで、図4(a)のように欠陥13、1
3’では、その凹凸によって光が乱反射するので、欠陥
部分では周囲と異なる明るさの点(領域)として映る。
つまり、ストライプ明部では暗い点(欠陥13)、逆に
ストライプ暗部では明るい点(13’)として映るわけ
である。また、欠陥13、13’部分の輝度(濃度)断
面(※印の線上の部分)は図4(b)のようになる。
【0013】このような図4の受光画像を原画像S0と
して画像処理装置5に取り込み、例えば微分処理を用い
た孤立点抽出処理を行い、欠陥検出処理を行う。なお、
欠陥検出処理の詳細については、本発明の趣旨から外れ
るので、記載を省略するが、照明装置と撮像装置を備え
た欠陥検出処理であれば、一般に本発明と組み合わせる
ことが出来る。
【0014】次に、本発明の特徴とする被検査面の有無
の認識処理について説明する。図5は、図3のうちボデ
ィ14とコンベア15の部分の上面図(照明装置1、ビ
デオカメラ2等は省略)である。ボディ14の上面(ル
ーフ、フード等)を撮像するビデオカメラ2の任意の1
つの視野が斜線部16のような範囲であるとすると、こ
のビデオカメラ2にはボディ14の塗装面(被検査面
3)の他に、塗装工場の床やウィンドウ取付部(図中の
黒い部分、塗装中はガラスがなく、空洞になっている)
といったものも当然映る。このような塗装面以外の部分
をまとめて“背景”と呼ぶことにする。本発明の認識処
理は、ビデオカメラ2から得られる画像を用いて塗装部
分(被検査面3)と背景とを自動的に認識(判別)する
ものである。
【0015】図5のように、ボディ14がコンベア15
で矢印の方向へ移動するので、上記のような視野をもつ
ビデオカメラ2の画像は、図6(a)、(b)、(c)
に示すように、まず背景から被検査面3が映り、再び背
景が映るような画像となる。このときの画像のx方向
(図中の※印の線)の輝度断面は、図6(a')、
(b')、(c')に示すようになる。なお、図6におい
ては(a')は(a)に、(b')は(b)に、(c')
は(c)にそれぞれ対応している。
【0016】前記図1で説明したように、照明装置1と
ビデオカメラ2の位置は、被検査面3が存在する場合に
照明装置1の明暗パターンがビデオカメラ2に入射し、
被検査面3がない場合には、照明装置1の光がビデオカ
メラ2に入射しないようになっている。したがって、背
景(被検査面3がない個所)では輝度値YBはほとんど
0であり、被検査面3のある個所ではストライブパター
ンの照明光が照射されているため、ストライプ明部で輝
度値YSH、ストライプ暗部で輝度値YSLとなる。したが
って、画像中で、背景での輝度値YBより高い輝度値を
持つ領域が存在するならば、ビデオカメラ2の視野内に
ボディ14があり、かつ被検査面3を撮像したものと判
断(認識)することが出来る。
【0017】次に、認識処理の細部について説明する。
まず、第1の方法について説明する。図5に斜線で示す
ようなビデオカメラ2の視野の場合、受光画像は図6に
示すようにボディ14が画面の右端から現れ、画面全体
にボディが映り、画面左端へ通過していくように映る。
このような場合、画面全体(512×480画素)の輝
度値からボディの有無を認識してもよいが、例えば図7
に示すように画面を均等に分割するような任意の個所
(以下ポイントという:図中の●印)の輝度値をその画
像の代表値として用い、ボディの有無の認識を行ったほ
うが処理時間が短く効率的である。例えば、上記画像中
のポイントでの輝度値Yの最大値YMAXを求め、その値
が基準値YREFより大きければ“ボディあり(被検査面
3である)”と判断できる。基準値YREFは、例えば図
6(a')において(YSL+YB)/2のような値とすれ
ば、背景とボディを確実に分離して認識できる。
【0018】ただし、ビデオカメラ2の視野に背景しか
映つていない場合でも、ノイズや何らかの原因で輝度値
の大きなポイントが存在してしまうことがあり、ボディ
がないにもかかわらず“ボディあり”と誤認識してしま
うことがある。このような場合は、最大値YMAX自体を
用いず、最大値YMAXから2番目の値、もしくは3番目
の値や平均値といった輝度値から算出した値の何れかを
用いれば、誤認識を防ぐことができる。ただし、最大値
MAXに近い値を用いるほどビデオカメラ2の視野にボ
ディが入ってから短時間に認識することが出来る。した
がって判定に用いるポイントでの輝度値Yの値や基準値
REFの値は、予め実験的に最適の値を選定しておく。
【0019】次に、認識処理の第2の方法として、図7
の画像中のポイントの輝度値のうち、所定値以上のポイ
ントが何個所あったか、によってボディの有無を認識す
ることも出来る。例えば上記所定値を基準値YREF
し、YREF以上の輝度値のポイント数Nが予め設定した
値NREFより多かったならば“ボディあり”と判断す
る。上記基準値YREFおよび値NREFは、予め実験等でき
めておけばよい。
【0020】次に、認識処理の第3の方法を説明する。
この方法は、画像中の複数のポイントをいくつかの領域
(グループ)に分け、それぞれのグループに対して輝度
値から最大値等を算出し、その値に基づいてボディの有
無を認識するものである。例えば図8において、x方向
の1列を1グループとして3グループに分け、それぞれ
のグループでの輝度値の最大値YMAX1、YMAX2、Y
MAX3を算出し、基準値YREFと比較する。そして、基準
値YREFより大きい最大値YMAXをとるグループの数が、
予め設定した所定の数GREFより大きければ”ボディあ
り”と判断する。
【0021】次に、認識処理の第4の方法について説明
する。この方法は、画像中の複数のポイントをいくつか
の領域(グループ)に分け、その輝度値と基準値YREF
との比較を行い、それぞれのグループ内に基準値YREF
よりも大きい輝度値が存在したグループ数が所定値G
REFより多かったならば、“ボディあり”と判断するも
のである。この方法では、最大値等の算出値を使用しな
いので、前記第1〜第3の方法に比べて処理速度は速
い。ただし、ノイズ等の影響は大きくなるが、グループ
やポイントの数、位置を調整すれば、認識力の低下を防
ぐことができる。
【0022】次に、認識処理の第5の方法について説明
する。この方法は、図9に示すように、ビデオカメラ2
の視野にボデイの一部しか映らず、x軸の同じ位置に背
景と被検査面3が一緒に映ってしまう場合の認識方法で
ある。図9(a)、(b)、(c)に示すように、画面
の下側をボディが通過していく場合は、これに合わせて
輝度値を読み込むポイントを図9(d)のように画面下
側に配置すれば、前記第1〜第4の方法と同様に認識処
理を行なうことが出来る。
【0023】次に、認識処理の第6の方法について説明
する。図10(c)に示すようなビデオカメラ2の視野
(斜線部分17)で、視野よりも幅の狭いピラー部を撮
像すると、図10(a)に示すような画像が得られる。
このような視野よりも幅の狭い部分を認識するには、図
10(b)に示すように被検査物体の形状に合わせて輝
度値読み込みポイントを設定すれば、効率よく確実に認
識することができる。なお、図10(c)において、1
8は台車である。
【0024】次に、認識処理の第7の方法について説明
する。この方法は、2個のビデオカメラが対向した位置
に設置されている場合の処理方法である。図11は、図
1の装置の概略の上面図である。対向した位置に設置さ
れた2個のビデオカメラ2、2’の視野内にボディ14
がある場合、被検査面3に映る照明装置1、1’の虚像
が撮像されるので、ビデオカメラ2、2’の視野は図の
実線のようになる。また、ボディ14がない場合には、
ビデオカメラ2、2’の視野は点線のようになり、背景
が撮像される。本発明においては、受光画像の輝度値を
利用してボディの有無を認識しているので、ビデオカメ
ラ2の視野内にボディ14が映っていない場合は、照明
装置に照射されていない輝度値の低い背景が映つている
のが望ましい。したがって、図のようにボディ14の両
側面の照明装置1、1’およびビデオカメラ2、2’が
向き合っている場合、それぞれのビデオカメラの視野内
にお互いの照明が映らないような配置(例えば図11に
示す角度)に固定する必要がある。すなわち、ビデオカ
メラ2、2’の視野内にボディ14がないときには、こ
の視野内に照明装置1、1’およびその他からの光が入
射しないように、ビデオカメラ2、2’と照明装置1、
1’の位置を設定する。
【0025】上記のような種々の方法により、被検査面
の有無を検出することが出来るが、図1の画像処理装置
5においては、被検査面が存在すると認識した場合にの
み、被検査面上の欠陥検出処理を行なう。このように構
成することにより、被検査面がある場合にのみ欠陥検出
処理を行なうので、無駄な処理を無くして効率的に検査
を行なうことが出来る。
【図面の簡単な説明】
【図1】本発明の表面状態検査装置の基本的構成を示す
ブロック図。
【図2】画像処理装置5の構成を示すブロック図。
【図3】図1の装置を自動車の塗装ラインにおける塗装
欠陥の検査に適用した例を示す斜視図。
【図4】明暗ストライプが映し出されている被検査面を
撮像して得られる受光画像と画像信号の一例を示す図。
【図5】図3のうちボディ14とコンベア15の部分の
上面図。
【図6】図3における受光画像と画像信号の一例を示す
図。
【図7】ボディの有無を認識するための判定を行なう点
として、画面を均等に分割したポイントの一例を示す
図。
【図8】画面を分割した他のポイントの位置の一例を示
す図。
【図9】ビデオカメラの視野に背景と被検査面が一緒に
映ってしまう場合のポイント位置の一例を示す図。
【図10】ビデオカメラの視野よりも幅の狭い部分を認
識するためのポイント位置の一例とボディの側面を示す
図。
【図11】2個のビデオカメラが対向した位置に設置さ
れている場合の配置を示す装置の概略の上面図。
【符号の説明】
1…照明装置 2…ビデオカメ
ラ 3…被検査面(塗装面) 4…カメラコン
トロールユニット 5…画像処理装置 6…ホストコン
ピュータ 7…モニタ 8…バッファア
ンプ 9…A/D変換器 10…MPU 11…メモリ 12…D/A変
換器 13、13’…欠陥 14…ボディ 15…コンベア 16、17…ビデオカ
メラの視野 18…台車
───────────────────────────────────────────────────── フロントページの続き (72)発明者 農宗 千典 神奈川県横浜市神奈川区宝町2番地 日産 自動車株式会社内

Claims (6)

    【特許請求の範囲】
  1. 【請求項1】被検査物体の被検査面に光を照射し、その
    被検査面からの反射光より受光画像を作成し、この受光
    画像に基づいて被検査面上の欠陥を検出する表面状態検
    査装置において、 被検査面に所定の照明光を照射する照明手段と、 上記照明手段からの光が照射された被検査面を撮像し、
    画像信号として出力する撮像手段と、 撮像手段より得られる受光画像における所定の複数個所
    の輝度値に基づいて撮像手段の視野内に被検査面が存在
    するか否かを認識する認識手段と、 を備えたことを特徴とする表面状態検査装置。
  2. 【請求項2】上記認識手段における所定の複数個所が、
    被検査物体の形状もしくは受光画像に映し出される被検
    査物体の位置に基づいて予め定められていることを特徴
    とする請求項1に記載の表面状態検査装置。
  3. 【請求項3】上記認識手段は、受光画像の所定の複数個
    所の輝度値もしくはこれら輝度値から算出した値と、予
    め設定した値とを比較した結果に基づいて被検査面の有
    無を認識することを特徴とする請求項1または請求項2
    に記載の表面状態検査装置。
  4. 【請求項4】上記認識手段は、受光画像の所定の複数個
    所を所定の範囲に分割し、それぞれの範囲において輝度
    値もしくは輝度値から算出した値と所定の値とを比較し
    た結果に基づいて被検査面の有無を認識することを特徴
    とする講求項1または請求項2に記載の表面状態検査装
    置。
  5. 【請求項5】上記撮像手段の視野内に被検査物体がない
    とき、その視野内に上記照明手段およびその他からの光
    が入射しないように、上記撮像手段および照明手段を配
    置したことを特徴とする請求項1乃至請求項4の何れか
    に記載の表面状態検査装置。
  6. 【請求項6】上記認識手段が、被検査面が存在すると認
    識した場合にのみ、被検査面上の欠陥の検出処理を行な
    うことを特徴とする請求項1乃至請求項5の何れかに記
    載の表面状態検査装置。
JP01540796A 1996-01-31 1996-01-31 表面状態検査装置 Expired - Lifetime JP3259624B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP01540796A JP3259624B2 (ja) 1996-01-31 1996-01-31 表面状態検査装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP01540796A JP3259624B2 (ja) 1996-01-31 1996-01-31 表面状態検査装置

Publications (2)

Publication Number Publication Date
JPH09210922A true JPH09210922A (ja) 1997-08-15
JP3259624B2 JP3259624B2 (ja) 2002-02-25

Family

ID=11887888

Family Applications (1)

Application Number Title Priority Date Filing Date
JP01540796A Expired - Lifetime JP3259624B2 (ja) 1996-01-31 1996-01-31 表面状態検査装置

Country Status (1)

Country Link
JP (1) JP3259624B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9970887B2 (en) 2016-06-09 2018-05-15 Honda Motor Co., Ltd. Defect inspection method and apparatus therefor

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
TWI433137B (zh) 2009-09-10 2014-04-01 Dolby Int Ab 藉由使用參數立體聲改良調頻立體聲收音機之聲頻信號之設備與方法

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US9970887B2 (en) 2016-06-09 2018-05-15 Honda Motor Co., Ltd. Defect inspection method and apparatus therefor

Also Published As

Publication number Publication date
JP3259624B2 (ja) 2002-02-25

Similar Documents

Publication Publication Date Title
US5963328A (en) Surface inspecting apparatus
JPH06203154A (ja) 画像処理装置
JP3514107B2 (ja) 塗装欠陥検査装置
JP2000193601A (ja) 表面欠陥検査装置
JPH11139225A (ja) トンネル検出装置及びそれを用いた車両制御装置
JPH04127280A (ja) トンネル検出装置
JPH0979988A (ja) 表面欠陥検査装置
JP3185599B2 (ja) 表面欠陥検査装置
JP3259624B2 (ja) 表面状態検査装置
JP2004361085A (ja) 外観検査装置
JP2001021321A (ja) トロリ線支持碍子の高さ測定装置
JP3427248B2 (ja) 異物検出方法
JPH0711414B2 (ja) ガラスびんの偏肉検査方法
JPH11223519A (ja) 表面欠陥の検査装置
JPH0963547A (ja) 缶開口部の検査方法
JPH1010053A (ja) 表面欠陥検査装置
JP2720360B2 (ja) 車両用塗面検査装置
JP3100448B2 (ja) 表面状態検査装置
JP3025562B2 (ja) 明暗照明による表面状態検査方法
JP3177945B2 (ja) 表面欠陥検査装置
JP3168864B2 (ja) 表面欠陥検査装置
JPH0477951B2 (ja)
JPH1091837A (ja) 認識対象物のエッジ検出装置
JPH0797410B2 (ja) 画像処理方法
JP3038092B2 (ja) 外観検査方法

Legal Events

Date Code Title Description
FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20071214

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20081214

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091214

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101214

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20111214

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121214

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20121214

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20131214

Year of fee payment: 12

EXPY Cancellation because of completion of term