JPH10244892A - 車両用運転支援装置 - Google Patents

車両用運転支援装置

Info

Publication number
JPH10244892A
JPH10244892A JP4821697A JP4821697A JPH10244892A JP H10244892 A JPH10244892 A JP H10244892A JP 4821697 A JP4821697 A JP 4821697A JP 4821697 A JP4821697 A JP 4821697A JP H10244892 A JPH10244892 A JP H10244892A
Authority
JP
Japan
Prior art keywords
line
gaze
sight
information
vehicle
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4821697A
Other languages
English (en)
Other versions
JP3865856B2 (ja
Inventor
Yoshiyuki Matsumoto
善行 松本
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Honda Motor Co Ltd
Original Assignee
Honda Motor Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Honda Motor Co Ltd filed Critical Honda Motor Co Ltd
Priority to JP4821697A priority Critical patent/JP3865856B2/ja
Publication of JPH10244892A publication Critical patent/JPH10244892A/ja
Application granted granted Critical
Publication of JP3865856B2 publication Critical patent/JP3865856B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Lighting Device Outwards From Vehicle And Optical Signal (AREA)

Abstract

(57)【要約】 【課題】操縦者(ドライバ)の視線配分が、いわゆる、
脇見、よそ見、視線固定等の不健全な視線配分になって
いる場合に注意を与える。 【解決手段】運転中の操縦者32の視線位置を検出し、
例えば、過去5秒間の視線方向の度数分布を表す視線マ
ップ71〜73を作成する。作成した視線マップ71〜
73と、視線配分が健全な視線マップ71との偏差平方
和を計算し、この偏差平方和が所定値以上の値であった
場合には、操縦者32が健全な視線配分をしていないと
推定して警報等を発生する。視線マップ72は、脇見運
転の際の視線マップの例、視線マップ73は、視線固定
運転の際の視線マップの例である。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】この発明は、車両の操縦者
(ドライバ)の視線を検出し、操縦者に対して運転を支
援する情報を与える車両用運転支援装置に関する。
【0002】
【従来の技術】車両を運転する際、操縦者は、たえず、
自車の速度や自車の前後左右に注意し、道路状況、人や
車の有無、それらの動き等、操縦に必要な情報を、迅速
かつ確実につかむことが必要である。
【0003】操縦に必要な情報は、操縦者の眼や耳によ
って認知されるが、その認知のための補助装置として、
バックミラーやサイドミラーがあり、また、最近では、
いわゆるHUD(headup display)技術
を用い、フロントウインドシールド上にスピード(自車
速度)等を補助的にデジタル表示することも行われてい
る。
【0004】車両の進行方向に存在する移動物体等に係
る情報を、車両の操縦者に対して知らせる車両用運転支
援装置として、特開平6−230132号公報に開示さ
れた技術がある。
【0005】この技術では、操縦者の眼を含む部分に赤
外線照明ライトを照射し、赤外線カメラにより操縦者の
眼球部を撮影する。その撮影画像から操縦者の視線方向
を検出し、フロントウインドシールド上のその視線方向
に対応するエリアに操縦者の観測エリアを設定する。一
方、赤外線レーダヘッドを用いて車両周囲の障害物の位
置方向を検出し、検出した障害物の位置方向と前記観測
エリアの中心との間に警報マークを表示するようにして
いる。
【0006】前記公報には、警報マークが操縦者の視線
近くに表示されることから障害物の出現を確実に知るこ
とができ、かつ警報マークが観測エリアの中心からどち
らの方向に表示されているかによって障害物の方向が示
されるから、その障害物を容易に確認することができる
と記載されている。
【0007】
【発明が解決しようとする課題】この発明は、車両の操
縦者(ドライバ)に対して、視線方向の偏り等を認識さ
せることを可能とする車両用運転支援装置を提供するこ
とを目的とする。
【0008】また、この発明は、車両の操縦者の視線情
報および車両情報、環境情報、操縦者の個別の情報等に
基づき運転を支援する情報を与えることを可能とする車
両用運転支援装置を提供することを目的とする。
【0009】
【課題を解決するための手段】この発明は、車両に搭載
される車両用運転支援装置において、操縦者の視線方向
を検出する視線方向検出手段と、検出された視線方向を
記録して、視線方向の度数分布を作成する度数分布作成
手段と、前記度数分布に基づき警告信号を作成する警告
信号作成手段とを備えることを特徴とする。
【0010】この発明によれば、度数分布作成手段によ
り作成した視線方向の度数分布に基づいて警告信号作成
手段により警告信号を作成するようにしているので、車
両の操縦者に対して、視線情報に基づき運転を支援する
ことができるという可能性が得られる。
【0011】この場合、視線方向は、頭部の向いている
方向と視線の方向とから真の視線方向を検出するように
する。
【0012】また、前記警告信号作成手段は、作成した
度数分布と基準となる度数分布とを比較し、その比較結
果に応じて警告信号を発生すること、その比較の際に、
作成した度数分布と基準となる度数分布に対応する各度
数の差の平方和が所定値より大きい場合に警告信号を発
生すること、または、度数分布と車両情報、環境情報、
または操縦者情報の中、少なくとも1つの情報に応じて
警告信号を発生することで、視線情報および車両情報、
環境情報、操縦者情報等に基づき運転を支援することが
できるという可能性が得られる。
【0013】
【発明の実施の形態】以下、この発明の一実施の形態に
ついて図面を参照して説明する。
【0014】図1は、車両としての自動車に搭載された
この実施の形態に係る車両用運転支援装置10の構成を
示している。
【0015】この車両用運転支援装置10は、操縦者
(ドライバ)の眼の視線方向を一定時間(例えば、0.
1〜1.0秒)毎に検出する視線検出手段12と、操縦
者の頭部の向いている方向、すなわち頭部位置を前記一
定時間毎に検出する頭部位置検出手段14とを有し、こ
れらの出力が視線情報変換手段16に供給される。
【0016】視線情報変換手段16は、供給された視線
方向情報と頭部位置情報とに基づいて、操縦者の実際の
視線方位、言い換えれば、真の視線方位を計算する。計
算された真の視線方位データが視線情報記録手段18に
時系列的に記録される。
【0017】警告信号作成手段19を構成する視線情報
解析手段20は、連続的に、過去5秒間分の視線方位デ
ータの度数分布を作成し、作成した度数分布と予め定め
ている基準の(標準の)度数分布と比較して所定の演算
を行い、かつ一般情報読取手段22の出力情報を参照し
て視線情報を解析し、解析結果を警告信号作成手段19
を構成する警告信号生成手段24に供給する。
【0018】一般情報読取手段22は、この実施の形態
では、車両情報、周囲環境情報および操縦者情報等を読
み取り収集するための手段である。この場合、車両情報
は、例えば、車速センサおよびヨーレートセンサから得
られる車両速度、角速度等の情報であり、周囲環境情報
は、例えば、ステレオカメラあるいは赤外線レーダ等に
より得られる移動物体の映像が障害物と考えられる場合
の障害物情報であり、さらには、ステレオカメラから得
られる昼夜の区別情報、ワイパースイッチの作動により
判定可能な天候(晴雨)の情報、ナビゲーション装置か
ら得られる現在位置情報、高速道路等の道路属性情報等
であり、操縦者情報は、例えば、操縦者の操縦経験年
数、年令、性別、身体特性等の情報である。
【0019】警告信号生成手段24は、解析結果に基づ
いて警告信号を生成し、一般情報読取手段22を参照し
て警告信号を警告出力手段26に出力する。
【0020】警告出力手段26は、ブザー、スピーカま
たはLED(発光素子)等により構成され、警告信号に
応じた警報音、音声メッセージ、フラッシュ(点滅表
示)等の警告を出力する。
【0021】なお、視線情報解析手段20等、車両用運
転支援装置10を構成する上記各手段には、制御、記
憶、判断手段等として機能するマイクロコンピュータが
必要に応じて搭載されている。
【0022】次に、上記図1例のさらに詳しい構成を説
明するとともに、図2に示すフローチャートに基づき、
動作について説明する。
【0023】まず、視線検出手段12により操縦者の視
線を検出して視線情報を視線情報変換手段16に供給す
るとともに、頭部位置検出手段14により操縦者の頭部
位置(頭部の向いている方向)を検出して頭部位置情報
を視線情報変換手段16に供給する。これにより、視線
情報変換手段16は、視線、頭部位置情報を取得する
(ステップS1)。
【0024】視線検出手段12と頭部位置検出手段14
は、HUD(headup display)を利用す
るものであれば、図3に示すように、操縦者32の頭部
(頭ともいう。)33を含む部分を撮影するために車両
28のダッシュボード30上に配置される視線計測カメ
ラ34を含んで構成される。この視線計測カメラ34に
より、視線方向と頭部33の向いている方向、すなわ
ち、視線、頭部位置情報が検出され、視線情報変換手段
16に供給される。
【0025】なお、視線検出手段12と頭部位置検出手
段14は、HMD(headmount displa
y)を利用するものであれば、図4A、図4Bに示すよ
うに、操縦者32の頭部33に対して着脱可能な透過型
液晶表示装置42と、この透過型液晶表示装置42の支
持体部44に一体的に取り付けられた視線計測カメラ4
6とヨーレートセンサからなる頭部位置方向センサ48
と、透過型液晶表示装置42の前方に、これと一体的に
配置されたハーフミラー50とを含んで構成される。ヨ
ーレートセンサは、角速度を検出するセンサである。
【0026】視線計測カメラ46は、ハーフミラー50
で反射された眼35の情報を計測して、視線方向(視点
位置)を検出して視線情報変換手段16に供給する。ま
た、操縦者32の頭頂部に配置されている頭部位置方向
センサ48の出力であるヨーレート(角速度)またはヨ
ーレートの積分処理後のデータである頭部位置データも
視線情報変換手段16に供給される。
【0027】次に、視線情報変換手段16は、視線情報
と頭部位置情報とから、眼35の実際の(真の)視線方
位(視線方向、視線位置)を計算する(ステップS
2)。すなわち、頭部位置情報、換言すれば、車両28
の進行方向(前方)を基準(0°)とする頭33の向い
ている方向(角度をθ°とする。)に、両眼35が真っ
直ぐ前方を見ているときを基準(0°)とする視線方
向、すなわち眼35の向いている方向(角度をφ°とす
る。)を加算することで、車両28の進行方向を基準
(0°)とする視線方位(角度をα°とする。)を次の
(1)式により計算することができる。
【0028】α=θ+φ …(1) 例えば、極端な例として、頭33が正面を向いていると
きには、θ=0°であり、その場合には、両眼35の偏
りに係る視線方向φが、真の視線方位α(α=φ)とし
て計算される。また、逆に頭33が回転しているとき
に、その回転角度がθ°であって、両眼35に偏りがな
い場合には、視線方向φがφ=0°であるので、真の視
線方位αはα=θとして計算される。
【0029】もちろん、(1)式に示すような単純な加
算ではなく、視線方向φや頭部位置方向θの関数として
真の視線方位αを計算することもできる。この場合、関
数は、例えば、予め多数の人の分を測定し、最小自乗法
等を用いて関数近似して決定することができる。
【0030】次に、このようにして計算した真の視線方
位αを、そのときの時間情報とともに、時系列で視線情
報記録手段18に記録する(ステップS3)。
【0031】次いで、視線情報解析手段20は、過去
の、例えば、5秒間で得られている視線方位αの記録デ
ータから、水平方位成分毎の視線方位αの度数分布(視
線マップまたは視線配分表ともいう。)を作成する(ス
テップS4)。
【0032】図5A〜図5Cに模式的に示す視線マップ
(視線分布ともいう。)71〜73のように作成された
ものとする。これら視線マップ71〜73の横軸ri、
xiは、視線方位αを±90°の範囲で区分した水平方
向成分を表し、縦軸Dri、Dxiは、5秒間で検出し
た視線方位αの度数、この場合、視線停留時間Tを表し
ている。
【0033】例えば、車両28が直進走行をしていると
仮定した場合、図5Aに示す視線マップ71は、0°の
方向、すなわち、車両28の進行方向を中心に左右をバ
ランスよく見ており、操縦者32が健全な運転をしてい
る視線マップと考えることができる。また、図5Bに示
す視線マップ72は、左側を中心に見ており、操縦者3
2がいわゆる脇見運転をしている視線マップと考えるこ
とができる。さらに、図5Cに示す視線マップ73は、
視点が中央に固定されすぎており、この場合も操縦者3
2の運転が健全でない視線マップと考えることができ
る。
【0034】そこで、次に、視線情報解析手段20にお
いて、検出した5秒間分の視線マップDxiと健全な運
転にかかる視線マップ71(Dri)との偏差平方和S
{(2)式による積和演算参照}を計算する(ステップ
S5)。なお、(2)式中、iは、和の記号Σに係るも
のであり、i=−90°〜+90°である。
【0035】 S=Σ(Dxi−Dri)2 …(2) 次に、この偏差平方和Sと所定の定数(閾値)aとの大
小を比較し(ステップS6)、S>aでない場合(S≦
a)には、このときの視線分布Dxiは健全であるもの
として、再び、ステップS1からステップS6までの処
理を繰り返す。なお、2回目の処理からは5秒間待つ必
要はなく、視線、頭部位置情報を取得するごとに、連続
的に偏差平方和Sの計算がなされる。
【0036】ステップS6の判定が成立した場合(S>
a)には、視線マップDxiに異常があるものと推定す
る。
【0037】このとき、一般情報読取手段22から供給
されている他の情報の内容を参照して、視線マップDx
iを異常とみなしてよいかどうかを判定する。
【0038】すなわち、車両速度が10km/hを超え
ている場合(ステップS7の判定が肯定的)、年齢が6
0歳を超えている場合(ステップS8の判定が肯定
的)、および周囲に障害物がある場合(ステップS9の
判定が肯定的)には、推定は覆らず異常とみなされる。
【0039】このとき、警告信号生成手段24により警
告信号が作成され、作成された警告信号に基づき警告出
力手段26から警報ブザーおよび(または)LED表示
により、あるいはスピーカにより「脇見運転等の可能性
があります。」と操縦者32に警告を与える(ステップ
S10)。以下、ステップS1からステップS10まで
の処理を繰り返す。
【0040】なお、上述の実施の形態において、ステッ
プS6における基準閾値aの値、また、ステップS7〜
S9の各基準の値は、操縦者32の運転習熟度あるいは
道路の区分(高速道路であるかどうか)等に応じて変更
することにより、より操縦者32に適したものとするこ
とができる可能性が得られる。異なる操縦者32毎に変
更するようにしてもよい。さらに、ステップS5の計算
においては、偏差平方和ではなく、偏差の和を計算する
ようにしてもよい。
【0041】このように上述の実施の形態によれば、操
縦者32の運転中の視線配分が適当であるかどうかを瞬
時に検知し、警報等による警告を直ちに与えることがで
きるという効果が達成される。
【0042】これにより、操縦者32の視線が好ましい
分布とされるため、不測の事態の発生を回避することが
できるという可能性が得られる。
【0043】なお、この発明は、上述の実施の形態に限
らず、この発明の要旨を逸脱することなく、種々の構成
を採り得ることはもちろんである。
【0044】
【発明の効果】以上説明したように、この発明によれ
ば、車両の操縦者の視線方向の度数分布を求め、この度
数分布に基づき警告信号を作成するようにしているの
で、車両の操縦者に対して運転を支援することができる
という効果が達成される。
【0045】例えば、視線情報の度数分布の偏り等を警
告することで、操縦者に視線の偏りを確実に認識させる
ことができるという効果が達成される。
【0046】また、この発明によれば、度数分布に基づ
いて警告信号を作成する際、前記度数分布と、さらに、
車両情報、環境情報、または操縦者情報の中、少なくと
も1つの情報に応じて警告信号を発生するようにしてい
るので、結果として、車両の操縦者の視線情報および車
両情報、環境情報、操縦者の個別の情報等に基づき運転
を支援することができるという効果が達成される。
【図面の簡単な説明】
【図1】この発明の一実施の形態の構成を示すブロック
図である。
【図2】図1例の動作説明に供されるフローチャートで
ある。
【図3】視線計測カメラの配置例の説明に供される平面
視的線図である。
【図4】視線計測カメラおよび頭部位置方向センサの配
置構成等の説明に供される線図であって、図4Aはその
正面図、図4B図はその側面図である。
【図5】操縦者の視線方向の度数分布を示す線図であっ
て、それぞれ、図5Aは視線分布が健全と思われる度数
分布、図5Bは視線分布が横に偏っている度数分布、図
5Cは視線分布が中央に固定されている度数分布を示す
線図である。
【符号の説明】 10…車両用運転支援装置 12…視線検
出手段 14…頭部位置検出手段 16…視線情
報変換手段 18…視線情報記録手段 20…視線情
報解析手段 22…一般情報読取手段 24…警告信
号生成手段 26…警告出力手段 28…車両 32…操縦者(ドライバ) 33…頭部
(頭) 35…眼 42…透過型
液晶表示装置 46…視線計測カメラ 48…頭部位
置方向センサ 50…ハーフミラー 71〜73…
視線マップ

Claims (5)

    【特許請求の範囲】
  1. 【請求項1】車両に搭載される車両用運転支援装置にお
    いて、 操縦者の視線方向を検出する視線方向検出手段と、 検出された視線方向を記録して、視線方向の度数分布を
    作成する度数分布作成手段と、 前記度数分布に基づいて警告信号を作成する警告信号作
    成手段とを備えることを特徴とする車両用運転支援装
    置。
  2. 【請求項2】請求項1記載の装置において、 前記視線方向検出手段は、頭部の方向と視線方向とから
    真の視線方向を検出することを特徴とする車両用運転支
    援装置。
  3. 【請求項3】請求項1記載の装置において、 前記警告信号作成手段は、作成した度数分布と基準とな
    る度数分布とを比較し、その比較結果に応じて警告信号
    を発生することを特徴とする車両用運転支援装置。
  4. 【請求項4】請求項3記載の装置において、 前記比較は、作成した度数分布と基準となる度数分布の
    対応する各度数の差の平方和が所定値より大きい場合
    に、警告信号を発生することを特徴とする車両用運転支
    援装置。
  5. 【請求項5】請求項1記載の装置において、 警告信号作成手段は、前記度数分布に基づいて警告信号
    を作成する際、前記度数分布と、さらに、車両情報、環
    境情報、または操縦者情報の中、少なくとも1つの情報
    に応じて警告信号を発生することを特徴とする車両用運
    転支援装置。
JP4821697A 1997-03-03 1997-03-03 車両用運転支援装置 Expired - Fee Related JP3865856B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4821697A JP3865856B2 (ja) 1997-03-03 1997-03-03 車両用運転支援装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4821697A JP3865856B2 (ja) 1997-03-03 1997-03-03 車両用運転支援装置

Publications (2)

Publication Number Publication Date
JPH10244892A true JPH10244892A (ja) 1998-09-14
JP3865856B2 JP3865856B2 (ja) 2007-01-10

Family

ID=12797228

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4821697A Expired - Fee Related JP3865856B2 (ja) 1997-03-03 1997-03-03 車両用運転支援装置

Country Status (1)

Country Link
JP (1) JP3865856B2 (ja)

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005267108A (ja) * 2004-03-17 2005-09-29 Denso Corp 運転支援装置
JP2006048171A (ja) * 2004-07-30 2006-02-16 Toyota Motor Corp 状態推定装置、状態推定方法、及びそれを用いた情報提供装置、情報提供方法
JP2009015548A (ja) * 2007-07-04 2009-01-22 Omron Corp 運転支援装置および方法、並びに、プログラム
JP2016207176A (ja) * 2015-04-28 2016-12-08 いすゞ自動車株式会社 車両の安全運転促進方法及び車両の安全運転促進装置
US9682623B2 (en) 2015-01-21 2017-06-20 Hyundai Motor Company Safe driving notification system using wearable device and method thereof
US9932000B2 (en) 2016-01-06 2018-04-03 Fujitsu Limited Information notification apparatus and information notification method
KR101867915B1 (ko) * 2015-01-16 2018-07-19 현대자동차주식회사 차량에서 웨어러블 기기를 이용한 기능 실행 방법 및 이를 수행하는 차량

Families Citing this family (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
KR101628176B1 (ko) * 2015-04-24 2016-06-08 국방과학연구소 능동 보조 안전 시스템 및 그 제어 방법

Cited By (7)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2005267108A (ja) * 2004-03-17 2005-09-29 Denso Corp 運転支援装置
JP2006048171A (ja) * 2004-07-30 2006-02-16 Toyota Motor Corp 状態推定装置、状態推定方法、及びそれを用いた情報提供装置、情報提供方法
JP2009015548A (ja) * 2007-07-04 2009-01-22 Omron Corp 運転支援装置および方法、並びに、プログラム
KR101867915B1 (ko) * 2015-01-16 2018-07-19 현대자동차주식회사 차량에서 웨어러블 기기를 이용한 기능 실행 방법 및 이를 수행하는 차량
US9682623B2 (en) 2015-01-21 2017-06-20 Hyundai Motor Company Safe driving notification system using wearable device and method thereof
JP2016207176A (ja) * 2015-04-28 2016-12-08 いすゞ自動車株式会社 車両の安全運転促進方法及び車両の安全運転促進装置
US9932000B2 (en) 2016-01-06 2018-04-03 Fujitsu Limited Information notification apparatus and information notification method

Also Published As

Publication number Publication date
JP3865856B2 (ja) 2007-01-10

Similar Documents

Publication Publication Date Title
EP3496069B1 (en) Travel assistance device and computer program
JP6563798B2 (ja) 視覚認知支援システムおよび視認対象物の検出システム
CN109795413B (zh) 驾驶辅助装置和驾驶辅助方法
CN107176165B (zh) 车辆的控制装置
US6535242B1 (en) System and method for acquiring and displaying vehicular information
JP6342856B2 (ja) 車両制御装置
CN102378998B (zh) 信息显示设备和信息显示方法
US20040178894A1 (en) Head-up display system and method for carrying out the location-correct display of an object situated outside a vehicle with regard to the position of the driver
EP1152218B1 (en) Navigation device
US7920070B2 (en) Parking guidance device and method thereof
JP6460058B2 (ja) 車両の制御装置
US20170174129A1 (en) Vehicular visual information system and method
CN102610125A (zh) 输出超车建议的机动车驾驶员辅助系统运行方法和机动车
JP6720732B2 (ja) 車両の制御装置
JP6811743B2 (ja) 安全運転支援装置
CN110544368B (zh) 一种疲劳驾驶增强现实预警装置及预警方法
CN111461096A (zh) 车辆用显示装置
JP4186749B2 (ja) 脇見判定装置
JP4872245B2 (ja) 歩行者認識装置
JPH097100A (ja) 運転者注視点予測装置及びこれを用いた車両用運転支援システム
US11390215B2 (en) Assistance system for a vehicle
JP3865856B2 (ja) 車両用運転支援装置
JP7043795B2 (ja) 運転支援装置、運転状況情報取得システム、運転支援方法及びプログラム
KR20230001923A (ko) 운전자 시선 기반의 헤드업 디스플레이 영상 출력 제어 방법 및 장치
JP7276082B2 (ja) 運転者状態推定装置

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20060704

A521 Written amendment

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20060830

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20060926

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20061004

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20091013

Year of fee payment: 3

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20101013

Year of fee payment: 4

LAPS Cancellation because of no payment of annual fees