JP2003116152A - 画像信号処理方法及び画像信号処理回路 - Google Patents

画像信号処理方法及び画像信号処理回路

Info

Publication number
JP2003116152A
JP2003116152A JP2001308088A JP2001308088A JP2003116152A JP 2003116152 A JP2003116152 A JP 2003116152A JP 2001308088 A JP2001308088 A JP 2001308088A JP 2001308088 A JP2001308088 A JP 2001308088A JP 2003116152 A JP2003116152 A JP 2003116152A
Authority
JP
Japan
Prior art keywords
signal
white balance
primary color
signal processing
gain
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP2001308088A
Other languages
English (en)
Other versions
JP3925138B2 (ja
Inventor
Yasuki Ogiwara
康樹 荻原
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Sony Corp
Original Assignee
Sony Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Sony Corp filed Critical Sony Corp
Priority to JP2001308088A priority Critical patent/JP3925138B2/ja
Publication of JP2003116152A publication Critical patent/JP2003116152A/ja
Application granted granted Critical
Publication of JP3925138B2 publication Critical patent/JP3925138B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Landscapes

  • Facsimile Image Signal Circuits (AREA)
  • Color Image Communication Systems (AREA)
  • Image Processing (AREA)
  • Color Television Image Signal Generators (AREA)
  • Processing Of Color Television Signals (AREA)

Abstract

(57)【要約】 【課題】 3原色信号処理方式のカラー撮像装置におけ
るホワイトバランス補正とともに輝度補償を簡単なシス
テムで実現する。 【解決手段】 演算処理部35により、入力3原色信号
r,g,bから、緑信号gに対する赤信号r及び青信号
bの信号レベル差に基づいて、ホワイトバランスをとる
ための利得Rg,Bgを算出し、RGB混合比をV,
W,Xとして、制御利得Rg’,Gg’,Bg’を Rg’=(V/Rg+W+X/Bg)・Rg Gg’=V/Rg+W+X/Bg Bg’=(V/Rg+W+X/Bg)・Bg にて算出して、入力3原色信号r,g,bが供給される
3チャンネルの可変利得増幅器11,12,13の利得
制御を行う。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、3原色信号処理方
式のカラー撮像装置におけるホワイトバランス補正とと
もに輝度補償を行う画像信号処理方法及び画像信号処理
回路に関する。
【0002】
【従来の技術】従来より、カラー撮像装置においては、
白い被写体を白く再現するようにホワイトバランスの調
整をしている。ホワイトバランスの調整は、カラー撮像
装置の赤信号処理系の利得と青信号処理系との利得を、
緑信号を基準として制御して行う。
【0003】例えば、図3に示すように、色信号Cr/
Cbと輝度信号Yの処理が分離されたカラー撮像装置に
おける画像信号処理回路100では、図示しない撮像部
にて得られる3原色信号r,g,bが供給される輝度信
号マトリクス回路110及び色信号マトリクス回路12
0、上記輝度信号マトリクス回路110により上記3原
色信号r,g,bから生成される輝度信号Yが供給され
る可変利得増幅器115、上記色信号マトリクス回路1
20により生成される色信号Cr/Cbが供給される可
変利得増幅器125、上記3原色信号r,g,bが平均
値演算部130を介して供給される演算処理部135を
備え、上記平均値演算部130により例えば1フレーム
毎に平均化された緑信号gに対する赤信号r及び青信号
bの信号レベル差から上記演算処理部135にてホワイ
トバランス制御信号WB_R/Bを求め、上記ホワイト
バランス制御信号WB_R/Bで上記可変利得増幅器1
15,125の利得を制御することによって、ホワイト
バランス補正を行っている。
【0004】このような構成の色信号Cr/Cbと輝度
信号Yの処理が分離されたカラー撮像装置における画像
信号処理回路100では、ホワイトバランス、色温度補
正を行う場合は輝度信号経路に何ら影響を与えないので
問題ないが回路規模が大きくなる。さらに、色信号復調
後の色再現性が原色方式に比べて劣る。
【0005】そこで、従来より、図4に示すように、回
路規模削減やその他の理由で輝度信号の復調を行う前に
ホワイトバランス補正を行うようにした3原色信号処理
方式のカラー撮像装置における画像信号処理回路200
が広く採用されている。
【0006】この画像信号処理回路200は、図示しな
い撮像部にて得られる3原色信号r,g,bが3チャン
ネルの可変利得増幅器201,202,203を介して
供給されるYCマトリクス回路210、上記3原色信号
r,g,bが平均値演算部220を介して供給される演
算処理部225を備え、上記平均値演算部220により
例えば1フレーム毎に平均化された緑信号gに対する赤
信号r及び青信号bの信号レベル差から上記演算処理部
225にてホワイトバランス制御信号Rg,Bgを求
め、上記ホワイトバランス制御信号Rg,Bgで上記可
変利得増幅器201,203の利得を制御することによ
って、ホワイトバランス補正を行い、ホワイトバランス
補正された3原色信号r’,g’,b’から上記YCマ
トリクス回路210により輝度信号Yと色信号Cr/C
bを生成している。なお、緑信号gチャンネルの可変利
得増幅器202の利得Ggは、0dBに固定されている
のが通常である。
【0007】この画像信号処理回路200において、上
記演算処理部225では、図5のフローチャートに示す
手順に従って、ホワイトバランス制御信号Rg,Bgを
生成する。
【0008】すなわち、先ず、最初の処理ステップS1
1において、3原色信号r,g,bのレベルデータを取
得する。
【0009】次の処理ステップS12では、光源を判断
し、ホワイトバランス処理を決定する。
【0010】次の処理ステップS13では、緑信号gに
対する赤信号r及び青信号bの信号レベル差に基づい
て、ホワイトバランスをとるための利得Rg,Bgを算
出する。
【0011】そして、次の処理ステップS14では、ホ
ワイトバランス制御信号Rg,Bgを出力する。
【0012】
【発明が解決しようとする課題】ところで、上述の如き
構成の3原色信号処理方式のカラー撮像装置における画
像信号処理回路200では、輝度信号処理系と色信号処
理系が独立していないので撮影データの色温度変化に対
しホワイトバランス制御を行うことにより、その後に復
調される輝度信号レベルを変動させてしまうという問題
点がある。
【0013】すなわち、入力信号をr,g,bとすると
一般的に輝度Yは、次の式(1)にて示される。
【0014】
【数1】
【0015】ここで、V,W,XはRGB混合比であ
る。
【0016】例えばITU−R601の規格にならうな
らV,W,Xはそれぞれ、0.299、0.587、
0.114であり、輝度復調式はよく知られる次の式
(2)で表される。
【0017】 Y=0.299r+0.587g+0.114b (2) これに対し、従来のホワイトバランス補正は赤信号rチ
ャンネルの可変利得増幅器201の利得Rgと青信号b
チャンネルの可変利得増幅器203の利得Bgにて補正
するのが一般的であり、緑信号gチャンネルの可変利得
増幅器202を実装している場合でも利得Ggは1、す
なわち0dB固定で使用している。
【0018】このため、上述した復調輝度は厳密には2
値ゲインを加味した下記の式(3)で表される。
【0019】 Y’=0.299r×Rg+0.587g+0.114b×Bg (3) これはすなわち、色温度変動やそれに伴うホワイトバラ
ンス補正制御を行うことにより本来の輝度レベルYに誤
差を生じ、Y’となってしまうことを表している。
【0020】この変動は小さなものではあるが近年のデ
ジタルカメラ制御の高性能化、DPEの高画質化に伴い
無視できないものとなってきている。
【0021】また、この輝度補償を行うためのハードウ
ェア追加を行うことも回路規模の点から見て現実的では
ない。
【0022】そこで、本発明は、上述の如き従来の問題
点に鑑み、3原色信号処理方式のカラー撮像装置におけ
るホワイトバランス補正とともに輝度補償を簡単なシス
テムで実現することができるようにした画像信号処理方
法及び画像信号処理回路を提供することを目的とする。
【0023】
【課題を解決するための手段】本発明に係る画像処理方
法は、入力3原色信号r,g,bから、緑信号gに対す
る赤信号r及び青信号bの信号レベル差に基づいて、ホ
ワイトバランスをとるための利得Rg,Bgを算出する
第1の演算処理ステップと、輝度補償を行うための制御
利得Rg’,Gg’,Bg’を算出する第2の演算処理
ステップと、算出した制御利得Rg’,Gg’,Bg’
により、入力3原色信号r,g,bに対して利得制御を
行う利得制御ステップとを有することを特徴とする。
【0024】また、本発明に係る画像処理装置は、入力
3原色信号r,g,bが供給される3チャンネルの可変
利得増幅手段と、上記入力3原色信号r,g,bからホ
ワイトバランスをとるとともに輝度補償を行うための制
御利得Rg’,Gg’,Bg’を算出する演算処理手段
と、上記演算処理手段により算出された制御利得R
g’,Gg’,Bg’により上記3チャンネルの可変利
得増幅手段の利得を制御することを特徴とする。
【0025】本発明では、例えば、入力3原色信号r,
g,bから、緑信号gに対する赤信号r及び青信号bの
信号レベル差に基づいて、ホワイトバランスをとるため
の利得Rg,Bgを算出し、RGB混合比をV,W,X
として、制御利得Rg’,Gg’,Bg’を Rg’=(V/Rg+W+X/Bg)・Rg Gg’=V/Rg+W+X/Bg Bg’=(V/Rg+W+X/Bg)・Bg にて算出して、入力3原色信号r,g,bに対して利得
制御を行う。
【0026】
【発明の実施の形態】以下、本発明の実施の形態につい
て図面を参照して詳細に説明する。
【0027】本発明は、例えば図1に示すような構成の
3原色信号処理方式のカラー撮像装置における画像信号
処理回路10に適用される。
【0028】この画像信号処理回路10は、図示しない
撮像部にて得られる3原色信号r,g,bが3チャンネ
ルの可変利得増幅器11,12,13を介して供給され
るYCマトリクス回路20、上記3原色信号r,g,b
が平均値演算部30を介して供給される演算処理部35
を備え、上記平均値演算部30により利得制御信号R
g’,Gg’,Bg’を生成し、上記利得制御信号R
g’,Gg’,Bg’で上記可変利得増幅器11,1
2,13の利得を制御することによって、ホワイトバラ
ンス補正及び輝度信号補正を行い、その補正された3原
色信号r’,g’,b’から上記YCマトリクス回路2
0により輝度信号Yと色信号Cr/Cbを生成する。
【0029】ここで、この画像信号処理回路10に入力
される3原色信号の信号レベルをr,g,bとし、RG
B混合比率をV,W,Xとすると、輝度値Yは、次の式
(4)にて表される。
【0030】
【数2】
【0031】そして、2値制御でのホワイトバランス補
正用の利得Rg,Bg,Ggは、次の式(5),
(6),(7)にて表される。
【0032】 Rg=g/r (5) Bg=g/b (6) Gg=1(0dB) (7) これにより補正された3原色信号の信号レベルr’,
g’,b’は、次の式(8),(9),(10)にて表
される。
【0033】 r’=r×Rg (8) g’=g×Gg=g (9) b’=b×Bg (10) ここでのr’,g’,b’はホワイトバランスがとれて
いるので r’=b’=g’=g (11) である。
【0034】したがって、2値制御での仮想輝度レベル
Y’は Y’=V・r’+W・g’+X・b’ =(V+W+X)g =g (12) となる。
【0035】それに対し、3値制御での本来の輝度レベ
ルYをgとRg,Bgについて解くと Y=V・r+W・g+X・b =V(g/Rg)+W・g+X(g/Bg) (13) となる。
【0036】ここで、輝度レベルの変動を制御するため
の輝度ゲインYgは Yg=Y/Y’ (14) と表される。したがって上記式(13)及び式(14)
から Yg=Y/Y’ ={V(g/Rg)+W・g+X(g/Bg)}/g =V/Rg+W+X/Bg (15) である。
【0037】この結果から3値制御を行うためのホワイ
トバランス補正用の利得Rg’,Bg’,Gg’は、次
の式(16)乃至式(18)又は式(19)にて表すこ
とができる。
【0038】
【数3】
【0039】そこで、この画像信号処理回路10では、
上述の式(2)にて示される輝度信号Yと上述の式
(3)にて示される輝度信号Y’との誤差を演算にて間
接的に求め、上述の式(16)乃至式(18)又は式
(19)で示す各チャンネルの利得Rg’,Gg’,B
g’で補正を行い、本来の輝度レベルであるYを補償す
る。
【0040】また、補正誤差値は上述の(1)式で表す
ような輝度復調を行うことなく、既知の2値ホワイトバ
ランス補正値Rg,Bgを用いた演算を行うことで求め
る。
【0041】その補正は、従来の赤信号rチャンネル及
び青信号bチャンネルの利得Rg,Bgを用いた2値に
よるホワイトバランス補正だけでなく、緑信号gチャン
ネルの利得Ggを含めた3値にてホワイトバランス補正
を行う。
【0042】しかも、ホワイトバランス補正回路を流用
することにより、専用の輝度補正増幅器を必要とせず、
回路規模の増大をすることなく画像信号処理を行う。
【0043】補正のための輝度ゲインYgは次の式(2
0)で表されるがYgをホワイトバランス補正用の利得
Rg,Bg,Ggに割り振ることで輝度専用増幅を使用
せず、ホワイトバランス補正用の可変利得増幅器11,
12,13で代用する。
【0044】 Yg = Y‘/Y (20) 撮影出力すなわち3原色信号r,g,bから得られる2
値のホワイトバランス補正用の利得Rg,Bgから誤差
補正後の3値のホワイトバランス補正用の利得Rg’,
Bg’,Gg’は、上述の式(16)乃至式(18)又
は式(19)に従って算出する。
【0045】すなわち、この画像信号処理回路10にお
いて、上記演算処理部35は、図2のフローチャートに
示す手順に従って、上記可変利得増幅器11,12,1
3の利得制御信号Rg’,Bg’,Gg’を生成する。
【0046】先ず、最初の処理ステップS1において、
3原色信号r,g,bのレベルデータを取得する。
【0047】次の処理ステップS2では、光源を判断
し、ホワイトバランス処理を決定する。
【0048】次の処理ステップS3では、緑信号gに対
する赤信号r及び青信号bの信号レベル差に基づいて、
ホワイトバランスをとるための利得Rg,Bgを算出す
る。
【0049】次の処理ステップS4では、輝度復調方式
を選択し混合比率(V,W,X)の値を設定する。
【0050】次の処理ステップS5では、輝度補償を行
うための利得Rg’,Gg’,Bg’を上述の式(1
6)乃至式(18)又は式(19)に従って演算する。
【0051】そして、次の処理ステップS6では、利得
制御信号Rg’,Gg’,Bg’を出力する。
【0052】このような構成の画像信号処理回路10で
は、色温度変化に対して生ずる輝度変動をソフトウェア
演算にてホワイトバランス補正用の可変利得増幅器1
1,12,13を用いて補償することができる。また、
撮影画像の色温度の変化やホワイトバランス補正、信号
処理にて生ずる輝度変動誤差を開ループ制御にて補正す
ることができる。さらに、ホワイトバランス補正データ
を用いたソフト演算にて行うことができ、輝度信号復調
回路を必要とせず、簡単なシステム構成で実現できる。
【0053】
【発明の効果】以上説明したように、本発明によれば、
撮影画像の色温度変化、ホワイトバランス補正により生
ずる輝度変動誤差を演算にて求め、補正することができ
る。また、専用の輝度信号復調回路や輝度補正用増幅器
を必要とせず、従来と同じシステム構成で実現できる。
また、従来用いている2値のホワイトバランス補正用の
利得Rg,Bgから2次演算を行い3値のホワイトバラ
ンス補正用の利得Rg’,Gg’,Bg’を求めるので
従来のシステムの利用が可能で実装が容易である。ま
た、予め考え得る信号規格の輝度復調式の係数(V,
X,W)を切り変えることで他の輝度復調式(ITU−
R709等)に対応することができる。また、ホワイト
バランス補正回路を併用することにより専用の輝度補正
用増幅器を必要とせず、回路規模の増大をすることなく
行える。さらに、輝度信号処理が独立していない3原色
信号処理方式のカラー撮像装置で輝度変動誤差の補償を
行うことができる。
【0054】
【図面の簡単な説明】
【図1】本発明を適用した画像信号処理回路の構成図で
ある。
【図2】上記画像信号処理回路における演算処理部の動
作を示すフローチャートである。
【図3】従来の色信号Cr/Cbと輝度信号Yの処理が
分離されたカラー撮像装置における画像信号処理回路の
構成を示すブロック図である。
【図4】従来の3原色信号処理方式のカラー撮像装置に
おける画像信号処理回路の構成を示すブロック図であ
る。
【図5】図4に示した画像信号処理回路における演算処
理部の動作を示すフローチャートである。
【符号の説明】
10 画像信号処理回路、11,12,13 可変利得
増幅器、20 YCマトリクス回路、30 平均値演算
部、35 演算処理部
フロントページの続き Fターム(参考) 5B057 BA02 CA01 CA08 CA12 CA16 CB01 CB08 CB12 CB16 CC01 CE17 CE18 CH08 5C066 AA01 BA01 CA05 CA17 EA14 EE02 EE04 GA01 GA05 GB01 JA03 KE02 KE03 KE04 5C077 LL19 MP08 PP32 PP34 PP37 PP47 PP48 PQ12 SS01 TT09 5C079 HB01 HB04 HB11 LA23 LB01 MA11 NA03

Claims (4)

    【特許請求の範囲】
  1. 【請求項1】 入力3原色信号r,g,bから、緑信号
    gに対する赤信号r及び青信号bの信号レベル差に基づ
    いて、ホワイトバランスをとるための利得Rg,Bgを
    算出する第1の演算処理ステップと、 輝度補償を行うための制御利得Rg’,Gg’,Bg’
    を算出する第2の演算処理ステップと、 算出した制御利得Rg’,Gg’,Bg’により、入力
    3原色信号r,g,bに対して利得制御を行う利得制御
    ステップとを有することを特徴とする画像信号処理方
    法。
  2. 【請求項2】 上記第2の演算処理ステップにおいて、
    RGB混合比をV,W,Xとして、上記制御利得R
    g’,Gg’,Bg’を Rg’=(V/Rg+W+X/Bg)・Rg Gg’=V/Rg+W+X/Bg Bg’=(V/Rg+W+X/Bg)・Bg にて算出することを特徴とする請求項1記載の画像信号
    処理方法。
  3. 【請求項3】 入力3原色信号r,g,bが供給される
    3チャンネルの可変利得増幅手段と、 上記入力3原色信号r,g,bからホワイトバランスを
    とるとともに輝度補償を行うための制御利得Rg’,G
    g’,Bg’を算出する演算処理手段と、 上記演算処理手段により算出された制御利得Rg’,G
    g’,Bg’により上記3チャンネルの可変利得増幅手
    段の利得を制御することを特徴とする画像信号処理回
    路。
  4. 【請求項4】 上記演算処理手段は、上記入力3原色信
    号r,g,bから、緑信号gに対する赤信号r及び青信
    号bの信号レベル差に基づいて、ホワイトバランスをと
    るための利得Rg,Bgを算出し、RGB混合比をV,
    W,Xとして、上記制御利得Rg’,Gg’,Bg’を Rg’=(V/Rg+W+X/Bg)・Rg Gg’=V/Rg+W+X/Bg Bg’=(V/Rg+W+X/Bg)・Bg にて算出することを特徴とする請求項3記載の画像信号
    処理回路。
JP2001308088A 2001-10-03 2001-10-03 画像信号処理方法及び画像信号処理回路 Expired - Fee Related JP3925138B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2001308088A JP3925138B2 (ja) 2001-10-03 2001-10-03 画像信号処理方法及び画像信号処理回路

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2001308088A JP3925138B2 (ja) 2001-10-03 2001-10-03 画像信号処理方法及び画像信号処理回路

Publications (2)

Publication Number Publication Date
JP2003116152A true JP2003116152A (ja) 2003-04-18
JP3925138B2 JP3925138B2 (ja) 2007-06-06

Family

ID=19127443

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2001308088A Expired - Fee Related JP3925138B2 (ja) 2001-10-03 2001-10-03 画像信号処理方法及び画像信号処理回路

Country Status (1)

Country Link
JP (1) JP3925138B2 (ja)

Cited By (4)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007258760A (ja) * 2006-03-20 2007-10-04 Ricoh Co Ltd 画像読取信号処理icおよび画像読取装置と画像形成装置
JP2013058869A (ja) * 2011-09-07 2013-03-28 Canon Inc 画像処理装置、画像処理方法及びプログラム
EP2351515A4 (en) * 2008-10-27 2015-03-11 Olympus Medical Systems Corp PICTURE PROCESSING DEVICE, DEVICE FOR GUIDING DURING THE STUDY, MEDICAL SYSTEM AND PICTURE PROCESSING METHOD
CN109410889A (zh) * 2018-12-20 2019-03-01 惠州市华星光电技术有限公司 一种白平衡调整方法、装置及电子设备

Cited By (5)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2007258760A (ja) * 2006-03-20 2007-10-04 Ricoh Co Ltd 画像読取信号処理icおよび画像読取装置と画像形成装置
EP2351515A4 (en) * 2008-10-27 2015-03-11 Olympus Medical Systems Corp PICTURE PROCESSING DEVICE, DEVICE FOR GUIDING DURING THE STUDY, MEDICAL SYSTEM AND PICTURE PROCESSING METHOD
JP2013058869A (ja) * 2011-09-07 2013-03-28 Canon Inc 画像処理装置、画像処理方法及びプログラム
CN109410889A (zh) * 2018-12-20 2019-03-01 惠州市华星光电技术有限公司 一种白平衡调整方法、装置及电子设备
CN109410889B (zh) * 2018-12-20 2020-08-04 惠州市华星光电技术有限公司 一种白平衡调整方法、装置及电子设备

Also Published As

Publication number Publication date
JP3925138B2 (ja) 2007-06-06

Similar Documents

Publication Publication Date Title
JP3652902B2 (ja) ホワイトバランス調整装置
KR100428522B1 (ko) 촬영장치
JP2001045308A (ja) 信号処理装置
JP2005027033A (ja) カラー撮像装置
WO2008050548A1 (en) Image processing device, image processing program and image processing method
JP3925138B2 (ja) 画像信号処理方法及び画像信号処理回路
US6741285B2 (en) Apparatus which adjusts exposure on luminance value of photoelectrically converted image pickup screen
JP2000354250A (ja) 撮像装置
JP4037276B2 (ja) 固体撮像装置及びデジタルカメラ並びに色信号処理方法
JP3112531B2 (ja) 撮像装置
JP3121056B2 (ja) 撮像装置
JP2004222160A (ja) デジタルカメラ
JP3475600B2 (ja) ホワイトバランス調整方法及びホワイトバランス調整装置
JP3434329B2 (ja) カラー撮像装置
JP2001339740A (ja) ホワイトバランス調整装置
JP2001078224A (ja) 画像変換方法
JP3263925B2 (ja) 原色信号調整方法
JP3612855B2 (ja) ホワイトバランス回路及び撮像装置
JP3704909B2 (ja) 撮像装置
JPH11127442A (ja) カメラ信号処理装置、カメラ信号処理方法及びカメラ信号処理装置の制御プログラムを記録した媒体
JPS60254985A (ja) 自動利得調整回路
JP3121055B2 (ja) 撮像装置
JPS631509Y2 (ja)
JPH0628477B2 (ja) カメラ信号処理回路
JPS6038996A (ja) 輝度信号補正回路

Legal Events

Date Code Title Description
A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040924

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061027

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061114

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070112

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070206

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070219

LAPS Cancellation because of no payment of annual fees