JPH10340340A - 画像処理装置 - Google Patents

画像処理装置

Info

Publication number
JPH10340340A
JPH10340340A JP9151185A JP15118597A JPH10340340A JP H10340340 A JPH10340340 A JP H10340340A JP 9151185 A JP9151185 A JP 9151185A JP 15118597 A JP15118597 A JP 15118597A JP H10340340 A JPH10340340 A JP H10340340A
Authority
JP
Japan
Prior art keywords
data
processing
image
image processing
memory
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9151185A
Other languages
English (en)
Other versions
JP3593439B2 (ja
Inventor
Shoji Muramatsu
彰二 村松
Yoshiki Kobayashi
小林  芳樹
Manabu Araoka
学 荒岡
Shigeru Naoi
茂 直井
Takahito Kaneda
隆仁 金田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Hitachi Ltd
Original Assignee
Hitachi Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hitachi Ltd filed Critical Hitachi Ltd
Priority to JP15118597A priority Critical patent/JP3593439B2/ja
Publication of JPH10340340A publication Critical patent/JPH10340340A/ja
Application granted granted Critical
Publication of JP3593439B2 publication Critical patent/JP3593439B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Landscapes

  • Storing Facsimile Image Data (AREA)
  • Facsimile Image Signal Circuits (AREA)
  • Controls And Circuits For Display Device (AREA)
  • Image Processing (AREA)
  • Memory System (AREA)
  • Picture Signal Circuits (AREA)

Abstract

(57)【要約】 【課題】扱う画像データのビット幅に合わせて画像処理
構成が変更でき、汎用性が高く、リソースの使用効率が
よい画像処理装置を提供する。 【解決手段】画像データを記憶するラインメモリ5と、
画像データのビット幅及び設定される画像処理機能に基
づいて、ラインメモリ5、入力データ制御回路200及
び出力データ制御回路300の入出力構成や画像処理部
90の演算構成を制御する構成制御部3と、構成制御部
3からの入出力制御にしたがって、ラインメモリ5に入
力されるデータの生成を制御するラインメモリ入力デー
タ制御回路200と、ラインメモリ5から出力されるデ
ータを制御して画像処理部90に分配するラインメモリ
出力データ制御回路200を備えている。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は、扱う画像データの
ビット幅が多様となる汎用の画像処理装置に関し、特
に、画像データのビット幅に応じて処理構成を変更可能
とした画像処理装置に関する。
【0002】
【従来の技術】画像処理の一つであるフィルタ処理を高
速に行なう方法に、ラインメモリ(LM)に画像データ
を記憶しながら処理を行なうものがある。LMを用いる
方法は、フィルタ処理に必要な演算を部分的に並列処理
することができる。また、画面を一通りスキャンするだ
けでフィルタ処理を行なうことができる。
【0003】図2に、LMを用いる画像処理装置の概略
構成を示す。同図(a)は、画像データのビット幅を8
ビットとした時の3×3フィルタ処理の場合の構成を示
す。3×3フィルタ処理では、ある画素の処理に、近傍
の画素を含む9つの画像データが必要となる。この9つ
の画像データは、2本のラインメモリと処理対象メモリ
から読み出された画像データの組合せにより与えられ
る。そして、フィルタ処理に使用される9つの画像デー
タと9つの係数を用いて、9つの乗算器を使用すること
により並列に積和演算を行なうことで、フィルタ処理を
高速に実行する。
【0004】同じ3×3フィルタでも扱う画像データの
ビット幅が16ビットの場合には、図2(b)のよう
に、16ビット幅のラインメモリを2本使用する。さら
に、画像データのビット幅が8ビットで、5×5フィル
タ処理を実現する場合は、図2(c)のように、8ビッ
ト幅のラインメモリが4本必要となる。
【0005】従来、高分解能が要求される医療用などの
画像処理では16ビット幅の画像データ、その他の分野
の画像処理では8ビットや1ビット幅の画像データが用
いられている。最近では、工業用の分野などでも16ビ
ット幅の画像データによる画像処理の必要が高まってい
る。
【0006】
【発明が解決しようとする課題】ラインメモリを使用す
る従来の画像処理装置では、処理対象の画像データにお
ける最大ビット幅の仕様によって、固定的に構成されて
いた。つまり、3×3フィルタ処理を考えた場合、最大
8ビット幅の画像データを扱う画像処理装置は図2
(a)の構成をとり、最大16ビット幅の画像データを
扱う画像処理装置は図2(b)の構成をとっていた。し
たがって、1ビット幅、8ビット幅、16ビット幅の画
像データを扱う画像処理装置においては、図2(b)の
処理構成をとる必要があった。
【0007】しかし、図2(b)の処理構成を用いて1
ビット幅、8ビット幅の画像データを処理する場合、ラ
インメモリに未使用のメモリ領域が多く存在し、メモリ
の使用効率が悪く経済的でないという問題があった。
【0008】また、5×5フィルタ処理を実現する図2
(c)の処理構成においても、小さいビット幅の画像デ
ータを扱うときに上記と同様な問題が生じる。さらに、
3×3フィルタ処理を行った場合、ラインメモリのみな
らず、フィルタ処理の演算装置にも未使用の回路が多く
存在するという問題があった。
【0009】上記のような使用効率の低さは、処理の高
速化を考えた場合に重要な問題となる。一般に、複数の
フィルタ処理を連続で行う場合の高速化についてはパイ
プライン処理を、単独のフィルタ処理の高速化について
は画面を小領域に分割して各小領域ごとに処理を行なう
並列処理を挙げることができる。しかし、これらのパイ
プライン処理や並列処理にはラインメモリや演算装置の
規模が大きくなるため、上記の問題点の解決が重要な課
題となる。
【0010】本発明の目的は、従来技術の問題点を克服
し、扱う画像データのビット幅や処理機能に応じて処理
構成を柔軟に変更でき、汎用性に優れリソースの使用効
率が高い画像処理装置を提供することにある。また、高
速処理の可能なパイプライン処理や並列処理を、画像デ
ータのビット幅に適応して任意に構成できる画像処理装
置を提供することにある。
【0011】
【課題を解決するための手段】本発明の上記目的は、処
理対象の画像データを、複数ビットのライン幅をもつラ
インメモリを用いて画像処理回路に入力する画像処理装
置において、画像データのビット幅に合わせて前記ライ
ンメモリのライン幅を切り分けて理論上、複数の分割ラ
インメモリを構成し、かつ、設定される画像処理機能情
報(以下、設定機能と略称)にしたがって使用する本数
の分割ラインメモリを、前記画像処理回路と対応するよ
う、その入出力を制御する構成を備えたことにより達成
される。
【0012】上記の構成には、前記設定機能に応じて、
前記画像処理回路における複数の演算回路の組合せを制
御する機能を備え、3×3や5×5などの処理サイズの
変更および/またはパイプラインや並列処理などの処理
形態の変更を可能したことを特徴とする。
【0013】すなわち、本発明の画像処理装置は、処理
対象の画像データを格納する画像メモリと、所定の画像
処理を行う画像処理回路と、前記画像メモリから読み出
した画像データを処理サイズに合わせたブロックデータ
にして前記画像処理回路に出力するラインメモリを備え
る画像処理装置において、前記画像データのビット幅に
合わせて前記ラインメモリのライン幅を切り分け理論
上、複数の分割ラインメモリを構成し、かつ、設定機能
にしたがって使用する本数の分割ラインメモリを、前記
画像処理回路と対応するように、その入出力を制御する
構成制御手段と、前記ラインメモリに入力する入力デー
タを生成するラインメモリ入力データ制御手段と、前記
ラインメモリの出力するデータから前記ブロックデータ
を生成するラインメモリ出力データ制御手段を備えるこ
とを特徴とする。
【0014】また、前記設定機能が異なるi×iフィル
ター処理によるP段のパイプライン処理で、前記使用す
る本数Lが(i−1)×Pとなる場合、前記構成制御手
段は、パイプライン処理の各段に使用する前記分割ライ
ンメモリをL/P本のライン群とし、最前段の画像処理
回路には前記画像メモリから読み出した画像データを直
接入力する分割ラインメモリを含むライン群を対応さ
せ、次段以降の画像処理回路には順次、前段の処理デー
タを入力する分割ラインメモリを含むライン群を対応さ
せるように、前記ラインメモリの入出力の制御を行うこ
とを特徴とする。
【0015】また、前記設定機能が同じi×iフィルタ
ー処理によるQ組の並列処理で、前記使用する本数Lが
(i−1)×Qとなる場合、前記構成制御手段は、並列
処理の各組に使用する前記分割ラインメモリをL/Q本
のライン群とし、前記画像メモリに格納されている画像
データの1画面分を垂直方向にQ分割し各々の領域から
並列に読み出される画像データを、対応するライン群に
入力するように制御することを特徴とする。
【0016】さらに、前記構成制御手段は、前記設定機
能を示すフィルタサイズ(i×i)、処理個数(1また
はPまたはQ)、パイプラインなどの処理形態を設定さ
れると、前記処理個数分の画像処理回路を前記フィルタ
サイズに見合った演算回路によって構成するように制御
することを特徴とする。
【0017】本発明によれば、扱う画像データのビット
幅に合わせて、1ライン分のラインメモリのビット幅を
可変にすることにより、理論上のラインメモリの本数を
可変にすることができる。たとえば、図2(b)と同様
な機能を実現する32ビット幅のラインメモリを使用し
た場合、ビット幅が16ビットの画像データを扱う場合
には図2(b)と同様であるが、ビット幅が8ビットの
画像データを扱う場合、図2(c)のようにラインメモ
リを制御することができる。つまり、扱う画像データの
ビット幅に合わせて、処理構成を変更できるので、画像
処理装置の汎用性と使用効率を向上上できる。
【0018】また、本発明によれば、画像処理の設定機
能に応じてラインメモリの入出力を制御できるので、複
数段のパイプライン処理や複数組の並列処理など、高速
処理の可能な処理構成を簡単に構築できる。
【0019】したがって、上記のようにラインメモリと
画像回路の構成を可変制御する本発明によれば、たとえ
ば32ビット幅のラインメモリと5×5フィルタ処理可
能な積和演算回路を備える画像処理装置の場合に、画像
データが16ビット幅の3×3フィルタ処理、画像デー
タが1〜8ビット幅の5×5または3×3フィルタ処
理、または、画像データが1〜8ビット幅の3×3フィ
ルタ処理によるパイプライン処理もしくは並列処理を任
意に構成制御できる汎用の画像処理装置を提供できる。
【0020】
【発明の実施の形態】以下、本発明の一実施形態を図面
を用いて詳細に説明する。図1は、一実施例による画像
処理装置の全体構成を示す機能ブロック図である。図示
で信号の流れを示す矢線は、後述するパイプライン処理
に対応されている。
【0021】構成制御部3は、処理対象の画像データの
詳細情報を制御装置1から受取りそれを解釈する。さら
に、制御装置1から伝達された画像処理機能を解釈し、
その機能に必要な処理構成を行うための制御信号を発行
する。構成制御部3で発行する制御信号のうち、タイミ
ングに関する信号は、信号伝達手段4を介してメモリ制
御部10に伝達される。メモリ制御部10は、画像デー
タを記憶する処理対象メモリ部100や処理結果メモリ
部700、ラインメモリ(LM)5を制御するLM制御
部50を制御している。
【0022】また、構成制御部3は、伝達された画像処
理機能や画像データのビット幅の情報から、LM入力デ
ータ制御回路200やLM出力制御回路300などに、
その入出力を制御する制御信号を伝達手段4を介して伝
達する。LM入力データ制御回路200とLM出力デー
タ制御回路300は、この制御信号に従ってLM5に入
出力するデータを制御する。
【0023】LM出力データ制御回路300から出力さ
れた画像データは、画像処理部90のプロセッサユニッ
ト(PU)400で演算され、データ統合回路500に
入力される。本実施例の画像処理部90はフィルタ処理
を実行するが、データ統合回路500に形状変換処理や
ラベリング処理を行なう回路を付加してもよい。
【0024】フィルタ処理された処理結果データは、デ
ータ選択制御回路600に入力され、構成制御部3から
の制御信号により処理結果データの選択を行い、処理結
果メモリ部700にデータを出力する。また、このデー
タ選択制御回路600では、構成制御部3からの制御信
号よりフィードバックの指示がある場合、フィードバッ
ク手段800を介して処理結果データをLM入力データ
制御回路200にフィードバックする。本発明の一実施
形態であるパイプライン処理構成では、このフィードバ
ックされた処理結果を再びLM5に入力し、別のフィル
タ処理を行うことができる。
【0025】図3に、パイプライン処理を行う画像処理
装置の概略構成を示す。本実施形態は、フィルタ処理A
903の出力結果を再びLM5に戻すことにより、異な
るフィルタ処理B904をパイプライン的に処理する。
このパイプライン処理構成は、図2(b)または(c)
から変更できる。すなわち、LM5は図2(b)、
(c)の場合と同じ32ビット幅である。また、図2
(c)の5×5フィルタ処理902は乗算器を25、加
算器を24使用しているので、その中から乗算器を9個
×2、加算器を8個×2用いて、図3のフィルタ処理9
03,904を構成できる。あるいは、図2(b)のシ
ステムにおいて、乗算器を18個、加算器を16個それ
ぞれ備えていれば、図3の処理構成への変更が可能にな
る。
【0026】次に、図1の各ブロックを詳細に説明す
る。構成制御部3は、制御装置1から画像データに関す
る情報や画像処理機能の実行命令をバス2を介して受け
取る。
【0027】図4に、画像データ情報や画像処理機能情
報の管理テーブルの一例を示す。これらの情報は、構成
制御部3の記憶装置(図示なし)に設けられる管理テー
ブルに、制御装置1から設定される。同図(a)は、画
面管理テーブルを示し、処理対象の画像データが記憶さ
れているメモリを示す画像メモリチャネル番号や、処理
を行なう画像画面上で開始する物理的なアドレス、画面
のサイズ、さらには画像データのビット幅(w)やカラ
ー、モノクロといった画像種別を示す画面のデータタイ
プなどの画像データ情報を格納している。
【0028】同図(b)は、画像処理機能設定テーブル
を示し、フィルタ処理などの処理内容と、単独、パイプ
ラインあるいは並列などの処理形態と、処理個数及び処
理サイズなどを格納している。同図(c)は、設定され
る処理機能の可否をチエックするための処理個数管理テ
ーブルで、図示例はLM5が32ビット幅のとき、画像
処理部90による構成可能なフィルタ処理の処理数個数
を示している。すなわち、画像データのビット幅(w)
と処理サイズ(フィルタ処理のカーネルサイズ)をパラ
メータとして、フィルタ処理の処理数個数が設定されて
いる。例えば、画像データのビット幅がw=8で、3×
3フィルタ処理を行う場合、可能な処理個数は2であ
り、2つの異なるフィルタ処理をパイプラインで、また
は2つの同じフィルタ処理を並列処理で実行できる。
【0029】図5に構成制御部3の処理の流れを示す。
構成制御部3では、画像データ情報の設定と画像処理機
能の設定により(s101,s102)、LM5へのデ
ータの入出力制御をはじめ、各ブロックを制御する信号
を生成する(s103)。これらの制御信号は、たとえ
ば図5(b)のように、画像データのビット幅(w)と
設定機能に基づいて発行される。
【0030】図5(b)のテーブルは、データ幅が8ビ
ットの3×3フィルタ処理の各ブロックの制御信号の例
を、単独、パイプライン処理、並列処理の場合について
示している。
【0031】構成制御部3からの制御信号で、メモリ制
御部10に対しては、画像データの記憶場所や画面サイ
ズを設定する。パイプライン処理の場合、図5(b)と
後述する図6、図7に示すように、LM入力データ制御
回路200に対しては、処理対象メモリ部100からの
データと、LM5の出力データと、画像処理結果のデー
タとから、LM5の入力データを作成するための制御信
号を発生する。LM出力データ制御回路300に対して
は、画像処理機能に応じてPU400やデータ統合回路
500が3×3フィルタ処理の積和演算などを実現する
ように、LM5の出力(LM_out)301や、LM入力
データ制御回路200から直接入力するデータ(LM_t
hr)302を基に、各PU400に分配するブロックデ
ータを作成するための制御信号を発生する。
【0032】次に、各PU400に対しては、積和演算
などが所望の機能を実現するように、係数の設定や、乗
算、加算などの機能の選択を行なう制御信号を発生す
る。データ統合回路500に対しては、たとえば図8に
示す回路の構成を行う制御信号を発生し、各PU400
からの演算結果から積和演算の加算処理をする。これら
は、基本的には従来技術と同様に行われる。
【0033】データ選択制御回路600については、処
理結果メモリ部700に記憶する3×3フィルタ処理結
果の選択や、パイプライン処理を実現するためにフィー
ドバックする画像データを選択する信号を発生する。
【0034】構成制御部3は、全ての制御信号を発生し
た後に、画像処理を開始する起動信号をメモリ制御部1
0に発生する(s104)。メモリ制御部10では、こ
の起動信号により、画像データの記憶手段である各メモ
リにアクセスするためのアドレスや、タイミング信号を
発生する。
【0035】以上により、図3のパイプライン処理構成
の場合、構成制御部3は32ビット幅のLM5を理論
上、8ビット毎にLM0〜LM3に4分割し、分割した
各LMに対応する入力データの取り込みを可能にする。
また、使用する画像処理機能に合わせて2組の3×3フ
ィルタ処理の構成を行う。本実施形態では、3×3フィ
ルタ処理について説明しているが、5×5フィルタ処理
構成をとることもできる。つまり、フィルタサイズを自
由に選択できるように、積和演算の構成をフィルタサイ
ズによって変更できるようにしている。
【0036】図8に、異なる二つの3×3フィルタ処理
を実現する構成、図9に、5×5フィルタ処理を実現す
る構成を示す。フィルタ処理における積和演算で、乗算
はPU400で行なわれ、加算はデータ統合回路500
で行なわれる。フィルタサイズの制御は、データ統合回
路500においてデータの流れを制御することにより実
現する。データの流れは、セレクタ510〜550によ
って制御し、フィルタサイズに応じて加算器を組み合わ
せることにより所望のフィルタ処理を実現する。したが
って、図8と図9の構成の変更は、各セレクタ510〜
550によってデータの流れを制御することにより可能
となる。
【0037】本実施形態では、処理構成と画像処理に係
わる全ての制御を構成制御部3が行なっている。しか
し、同様の機能を制御装置1が行なったり、構成制御部
3が行なう機能の一部を別のブロックにより代替するな
ど、本実施形態に対する他の代案が可能である。
【0038】次に、LM5の入出力制御について図6、
図7及び図10〜図15を使用して詳細に説明する。ま
ず、図6を用いてLM入力データ制御回路200、LM
5及びLM出力データ制御回路300の関係を説明す
る。同図において、処理対象メモリ部100から入力さ
れるビット幅8ビットのデータ201をM[7:0]、デ
ータ選択制御回路600からフィードバック手段800
を介して入力されるデータ203をFB[7:0]、32
ビット幅のLM5に入力するデータ210をLM_in[3
1:0]、LM5から出力されるデータ301(202)
をLM_out[31:0]、LM入力データ制御回路200か
らLM出力データ制御回路300にLM5を介さずに入
力されるデータ302をLM_thr[15:0]と記述する。
なお、各データの符号は、対応する信号線の符号に読み
替えることもある。
【0039】まず、LM入力データ制御回路200とL
M出力データ制御回路300の機能の概要を説明する。
LM入力データ制御回路200においては、M[7:
0]、FB[7:0]、LM_out[31:0]からLM5への入
力データLM_in[31:0]と、LM出力データ制御回路
300への入力データLM_thr[15:0]を生成する。こ
のとき、LM_in[31:0]とLM_thr[15:0]は、画像
データのビット幅に応じて制御され、そのビット幅が8
ビットの場合、図9に示すように8ビットごとに切り別
けて信号線を使用する。
【0040】図10に、LM5の理論上の切り分け構成
と入力データのビット幅の関係を示す。同図(a)のよ
うに、画像データのビット幅が16ビットの場合は、図
2(b)の処理構成となるので、LM0にLM_in[15:
0]、LM1にLM_in[31:16]が入力される。同図
(b)のように、画像データのビット幅が8ビットで、
図3の処理構成をとる場合、LM0にM[7:0]、LM
1にLM_out[7:0]、LM2にFB[7:0]、LM3に
LM_out[23:16]が入力される。
【0041】次に、LM出力データ制御回路300にお
いては、LM_out[31:0]とLM_thr[15:0]からフィ
ルタ処理に必要なデータを選択制御して、PU400に
出力する。ここで、3×3フィルタ処理A,Bをパイプ
ライン処理する場合のデータの流れについて、詳細に説
明する。
【0042】図7に、LM出力データ制御回路300の
構成を示す。LM出力データ制御回路300には、信号
線301から垂直方向に1ラインもしくは2ライン遅延
された画像データLM_outが、信号線302から垂直方
向の遅延がない画像データLM_thrがそれぞれ入力され
る。図中、信号線上の斜線に付記した数字は、各信号線
の本数を表わし、伝達するビット数に対応している。
【0043】LM出力データ制御回路300の内部で
は、水平方向の遅延回路(フリップフロップ)311,
312を用いて、水平方向に2段遅延したデータを生成
し、3×3フィルタ処理に必要なブロックデータ、すな
わち画面上の3×3領域に対応する9個の画像データの
組み合わせを作成し、フィルタ処理AのPU400の各
々に分配する。また、フィルタ処理Aの処理結果を用い
るフィルタ処理Bに対しても、同様に遅延回路313,
314を用いてブロックデータを作成する。なお、出力
データの処理Aと処理Bへの切り分けは、出力データビ
ット切り分け回路315によって行われる。
【0044】図20に、他の実施例によるLM出力デー
タ制御回路300の構成を示す。水平方向の遅延回路3
11〜314及び321〜324をそれぞれ4段とする
ことによって、3×3と5×5の両方のフィルタ処理に
適用できるようにしている。具体的には出力データビッ
ト回路に指定された処理サイズ(カーネルサイズ)に合
わせて、出力データを発生させる。
【0045】図11に、フィルタ処理A,Bのデータ配
列の関係を示す。この例は、積和演算の遅延がないとき
の関係を示し、図のフィルタAはAm,nの位置でのフィル
タ処理の演算を示している。ここで、添え字のmは画像
のx座標を、nはy座標を指している。処理に使用され
る9つのデータは、LM出力データ制御回路300によ
り一組にまとめられ、9つ同時に積和演算を行なう回路
であるPU400およびデータ統合回路500に入力さ
れる。
【0046】次に、フィルタ処理Aの処理結果に対して
異なるフィルタ処理Bをパイプライン処理する仕組みに
ついて説明する。フィルタ処理AにおけるAm,nでの処理
結果は、フィードバック手段800を介して、LM入力
データ制御回路200に伝達され、フィルタ処理Bに使
用される。このとき、Am,nでの処理結果はBm,nとなる。
このとき、フィルタ処理Bの出力結果は、フィルタ処理
Aの処理結果を処理しているため、フィルタ処理Aの処
理結果よりも1ラインと1画素だけ遅延した位置のもの
になる。つまり、フィルタ処理Aは絶対座標で(m,n)の
画素での結果を出力し、この時にはフィルタ処理Bは(m
-1,n-1)の結果を出力する。
【0047】以上を整理すると、フィルタ処理Aでは、
処理対象メモリ部100からのデータに対しフィルタ処
理を行なっているのに対し、フィルタ処理Bでは、フィ
ルタ処理Aの処理結果に対してパイプライン的にフィル
タ処理を行なっている。このとき、フィルタ処理Aとフ
ィルタ処理Bとの構成の違いは、処理対象メモリ部10
0からのデータに対し処理を行なうか、フィルタ処理A
の処理結果のデータに対し処理を行なうかであり、個々
には単独のフィルタ処理の場合の処理構成と変わらな
い。
【0048】図11に示したフィルタ処理A,Bのパイ
プライン処理を実現するためのデータ制御について、さ
らに詳細に説明する。ここでのデータ制御の目的は、図
11に斜線部で示した3つのデータを同時に、LM_out
とLM_thrの2つのデータから生成できるように、デー
タの流れのタイミングを制御することにある。上記の斜
線部を同時に生成するということは、同時刻においてL
M_outとLM_thrに上記斜線部のデータを発生すること
を意味する。
【0049】図12に、図11の斜線部のデータのビッ
ト構成を示す。図示で、LM_in、LM_thr、LM_out
から切り分けされるデータをビット幅毎に上段に示し、
そのデータに対応するフィルタ処理A、Bでのデータ配
列を下段に示している。
【0050】これらのビットの切り分け制御は、LM_i
nに対しては図6におけるLM入力データ生成回路25
0で、LM_thrに対してはLM通過データ生成回路25
1で行なわれる。LM_outに関しては、LM5から読み
出されるデータが既に、図12に示したビット構成にな
っている。
【0051】図13に、フィルタ処理A、Bにおけるタ
イミングチャートを示す。(a)はフィルタ処理におけ
る演算の遅延がない場合で、RAはLM5のリードアド
レス、WAはライトアドレスを示している。この例のL
M5には、そのビット幅が32ビット、処理対象のビッ
ト幅が8ビットで、RAで指定されたアドレスのデータ
を1クッロク後に出力する同期型メモリを使用してい
る。
【0052】このとき、LM5の下位の16ビットはフ
ィルタ処理Aに、上位の16ビットはフィルタ処理Bに
使用されるよう制御される。つまり、LM5と信号線2
10、302をフィルタ処理A,Bで画像データのビッ
ト幅に合わせて2分割して使用できるように制御する。
【0053】次に、LM5の動作とフィルタ処理Aおよ
びフィルタ処理Bとの関係を、図14と図15を用いて
より具体的に説明する。図14は、処理対象の画像画面
でのデータ配列とLM5のデータ配列を説明するための
概念図である。LM5には、RAで指定されたアドレス
のデータを1クッロク後に出力する同期型メモリを使用
している。フィルタAで使用される画像データは丸数
字、フィルタBで使用される画像データは二重丸数字で
示している。図示のように、LA5に対しRA(=
8)、WA(=7)が指示されているとき、フィルタ処
理Aでは矩形内の9つの画像データを用いデータ68の
処理を、同様にフィルタ処理Bでは処理Aの結果データ
57(画像データ57に対応)の処理を行っている。以
下、矩形で示されたフィルタ処理に注目して説明する。
【0054】図15は、(a)〜(c)のように、LM
5の動作を3クロック期間モニタリングした説明図であ
る。以下では、フィルタAで使用するデータには添字
a、フィルタBで使用するデータには添字bを付与して
区別する。
【0055】同図(a)の状態では、WA=5、RA=
6を示している。画像メモリ100から画像データ59
aが入力されると、LM5がそれに同期して、画像デー
タ57a,58aを出力するように制御される。このと
き、フィルタ処理Aは37a,38a,39a,47
a,48a,49a,57a,58a,59aの画像デ
ータを使用してフィルタ処理を行い、その処理結果はデ
ータ48bである。データ48bはLM5の入力として
使用されると同時に、フィルタ処理Bに使用される。フ
ィルタ処理Bは、処理Aの結果データ26b,27b,
28b,36b,37b,38b,46b,47b,4
8bを使用して、37の位置の処理結果を出力する。
【0056】次に、1クロック後の同図(b)の状態で
は、WA=6、RA=7となり、LM5からの出力は1
クロック前に指定したアドレスのデータ56b,57
b,67a,68aである。このとき、画像メモリ10
0から入力される画像データは69a、フィルタ処理A
の処理結果データは58bである。また、フィルタ処理
Bの処理結果データは、47の位置のデータである。さ
らに、1クロック後の同図(c)の状態では、WA=
7、RA=8となり、LM5からの出力はデータ66
b,67b,77a,78aである。フィルタ処理Aの
処理結果データは68b、フィルタ処理Bの処理結果デ
ータは、57の位置のデータである。
【0057】このように、画像メモリ100から入力さ
れる画像データのビット幅に合わせて、毎クロックWA
及びRAがカウントアップされる。そして、画像メモリ
100から読み出される画像データに同調して、3×3
フィルタ処理を実行できるようにLM5を制御する。
【0058】なお、上記したLM5の動作は2段のパイ
プライン処理についての説明ではあるが、個々のフィル
タ処理Aまたはフィルタ処理Bについてみれば、通常の
3×3フィルタ処理や5×5フィルタ処理の動作と同じ
になる。
【0059】また、本実施形態では、フィルタ処理にお
ける演算の遅延段数を考慮していないが、遅延段数を考
慮してもよい。遅延段数を考慮した場合、図13(b)
に示すように、LM_in およびLM_thr におけるフィ
ルタ処理Aとフィルタ処理Bとのデータの組み合わせの
差が1クロックになるだけで、制御方法は遅延がない場
合と全く同様である。
【0060】このように、本実施形態によれば、ライン
メモリの入出力をデータの組合せによって簡単に制御で
きるので、フィルタサイズの異なるフィルタ処理、さら
にはパイプライン処理や並列処理などを、共通のハード
(リソース)を用いてその処理構成を変更することで効
率的に実現できる。以下に、処理形態の異なる他の実施
例について説明する。
【0061】図16は、画像データのビット幅が16ビ
ットの図2(b)の処理構成において、3×3フィルタ
処理901に入力されるデータのビット構成を示す。図
12の場合と同様に、LM_in、LM_thr、LM_outは
制御されるデータを上段に、そのデータに対応するフィ
ルタ処理A901での対象データを下段に示している。
前例と同様に、これらのビットの切り分け制御は、LM
_inに対してはLM入力データ生成回路250で、LM_
thrに対してはLM通過データ生成回路251で行なわ
れる。LM_outに関しては、LM5から読み出されるデ
ータが既に図10に示したビット構成になっている。
【0062】図17に、画像データのビット幅が1ビッ
トで、A〜Pの16段のパイプライン処理を行なう処理
構成を示す。この場合にも、LM5を1ビット幅でLM
0〜LM31に区分し、各3×3フィルタに入力するL
M_in、LM_thr、LM_outのデータを、図12の場合
の8ビット幅に対し1ビット幅で切り分け制御すること
で、同様に実現できる。
【0063】このように、画像データのビット幅に応じ
てLMの入出力を制御し、LMの使用本数を実質的に最
適化することにより複数段のパイプライン処理を可能と
し、高速な画像処理を実現している。
【0064】図18に、本発明の並列処理による画像処
理装置の構成を示す。図示のように、n個の処理対象メ
モリ部100とn個の処理結果メモリ部700を用いて
いる以外は、図1の実施形態と同じ構成となる。
【0065】図19に、2個の並列処理の処理構成を示
す。32ビット幅のLMを使用し、画像データのビット
幅が8ビット、2個の3×3フィルタ処理Aを並列処理
するときの処理構成を示している。同図(b)に示すよ
うに、一画面を2つに分割して並列に処理する場合、1
個でフィルタ処理Aを行なう処理時間を1/2に短縮で
きる。
【0066】この処理構成は、図3のパイプラインの処
理構成から簡単に変更できる。たとえば、LM入力デー
タ制御回路200において、フィードバック手段800
によって伝達される処理結果データを、処理対象メモリ
部100からの画像データに変更するだけでよい。した
がって、パイプライン処理が必要なときには図3の処理
構成を採用し、並列処理が必要なときには図14の処理
構成を採用するように任意な構成が可能になる。もちろ
ん、図2(c)の処理構成からの変更も可能である。
【0067】
【発明の効果】本発明によれば、扱う画像データのビッ
ト幅と合わせ、一ライン分のラインメモリのビット幅を
可変して理論上のラインメモリの本数を変更するので、
画像データのビット幅と画像処理の設定機能に対応した
処理構成を、ラインメモリや演算装置の規模の範囲内で
柔軟に変更できる。
【0068】また、本発明によれば、扱う画像データの
ビット幅と画像処理サイズに合わせてラインメモリの入
出力を制御することにより、複数段のパイプライン処理
や複数組の並列処理を自由に構成することができ、画像
処理の高速化が可能になる。
【0069】つまり、本発明によれば、扱う画像データ
のビット幅と画像処理の設定機能に合わせて、多様な処
理構成をとることができるので、汎用性に優れリソース
の使用効率が高い画像処理装置を提供できる。
【図面の簡単な説明】
【図1】本発明の一実施形態における画像処理装置の全
体構成図。
【図2】ラインメモリを使用する画像処理装置の種々の
処理構成を示す概念図。
【図3】本発明のパイプライン処理の画像処理装置の処
理構成を示す概念図。
【図4】画像情報及び画像処理機能情報の設定内容を示
すテーブル。
【図5】構成制御部による処理の流れと、発行される制
御信号の一例を示す説明図。
【図6】ラインメモリの入力データを制御するLM入力
データ制御回路とその周辺回路の構成を示す機能ブロッ
ク図。
【図7】LM出力データ制御回路の構成を示す機能ブロ
ック図。
【図8】3×3フィルタ処理を実現する画像処理部の回
路構成を示す機能ブロック図。
【図9】5×5フィルタ処理を実現する画像処理部の回
路構成を示す機能ブロック図。
【図10】ラインメモリの理論上の分割構成を示す概念
図。
【図11】3×3フィルタ処理のパイプライン処理を実
現するブロックデータの推移を示す説明図。
【図12】図11の斜線部に対応し、LM入力データ、
LM通過データ及びLM出力データをビット幅毎に示す
データ構成図。
【図13】図11のブロックデータのタイミングチャー
ト。
【図14】3×3フィルタ処理のパイプライン処理での
ブロックデータとラインメモリの位置を示す説明図。
【図15】ラインメモリのデータ移動を詳細に示す説明
図。
【図16】本発明の他の実施形態で、画像データが15
ビット幅の場合のLM入力データ、LM通過データ及び
LM出力データをビット幅毎に示すデータ構成図。
【図17】本発明の他の実施形態で、画像データが1ビ
ット幅の場合の3×3フィルタ処理を16段のパイプラ
イン処理で行う処理構成の概念図。
【図18】本発明の他の実施形態で、n組の並列処理を
行う画像処理装置の全体構成図。
【図19】3×3フィルタ処理の2並列処理を行う処理
構成と対象メモリの説明図。
【図20】他の実施形態によるLM出力データ制御回路
の構成を示す機能ブロック図。
【符号の説明】
1…制御装置、2…制御装置と画像処理装置とのバスイ
ンタフェース、3…構成制御部、5…ラインメモリ(L
M)、90…画像処理部、100…処理対象メモリ部、
200…LM入力データ制御回路、250…LM入力デ
ータ生成回路、300…LM出力データ制御回路、31
1〜314…遅延回路、321〜324…遅延回路、3
30…出力データビット切り分け回路、400…PU、
500…データ統合回路、600…データ選択制御回
路、700…処理結果メモリ部。
───────────────────────────────────────────────────── フロントページの続き (51)Int.Cl.6 識別記号 FI H04N 1/40 G06F 15/66 J 5/14 H04N 1/40 Z (72)発明者 直井 茂 茨城県日立市大みか町五丁目2番1号 株 式会社日立製作所大みか工場内 (72)発明者 金田 隆仁 茨城県日立市大みか町五丁目2番1号 株 式会社日立製作所大みか工場内

Claims (10)

    【特許請求の範囲】
  1. 【請求項1】 処理対象の画像データを、複数ビットの
    ライン幅をもつラインメモリを用いて画像処理回路に入
    力する画像処理装置において、 画像データのビット幅に合わせて前記ラインメモリのラ
    イン幅を切り分け理論上、複数の分割ラインメモリを構
    成し、かつ、設定される画像処理機能情報(以下、設定
    機能)にしたがって使用する本数の分割ラインメモリ
    を、前記画像処理回路と対応するように、その入出力を
    制御する構成を備えたことを特徴とする画像処理装置。
  2. 【請求項2】 請求項1において、 前記設定機能に応じて、前記画像処理回路における複数
    の演算回路の組合せを制御する構成を備え、 3×3や5×5などの処理サイズの変更および/または
    パイプラインや並列処理などの処理形態の変更を可能し
    たことを特徴とする画像処理装置。
  3. 【請求項3】 処理対象の画像データを格納する画像メ
    モリと、所定の画像処理を行う画像処理回路と、前記画
    像メモリから読み出した画像データを処理サイズに合わ
    せたブロックデータにして前記画像処理回路に出力する
    ラインメモリを備える画像処理装置において、 前記画像データのビット幅に合わせて前記ラインメモリ
    のライン幅を切り分け理論上、複数の分割ラインメモリ
    を構成し、かつ、設定機能にしたがって使用する本数の
    分割ラインメモリを、前記画像処理回路と対応するよう
    に、その入出力を制御する構成制御手段と、 前記ラインメモリに入力する入力データを生成するライ
    ンメモリ入力データ制御手段と、前記ラインメモリの出
    力するデータから前記ブロックデータを生成するライン
    メモリ出力データ制御手段を備え、 ラインメモリのライン幅の範囲内で処理構成を任意に変
    更できるようにしたことを特徴とする画像処理装置。
  4. 【請求項4】 請求項3において、 前記設定機能が異なるi×iフィルター処理によるP段
    のパイプライン処理で、前記使用する本数Lが(i−
    1)×Pとなる場合、 前記構成制御手段は、パイプライン処理の各段に使用す
    る前記分割ラインメモリをL/P本のライン群とし、最
    前段の画像処理回路には前記画像メモリから読み出した
    画像データを直接入力する分割ラインメモリを含むライ
    ン群を対応させ、次段以降の画像処理回路には順次、前
    段の処理データを入力する分割ラインメモリを含むライ
    ン群を対応させるように、前記ラインメモリの入出力の
    制御を行うことを特徴とする画像処理装置。
  5. 【請求項5】 請求項4において、 前記ラインメモリ入力データ制御手段は、前記画像メモ
    リから読み出した画像データと、前記ラインメモリの出
    力データの一部と、前記画像処理回路の各段の処理結果
    データとから、前記分割ラインメモリの全てに入力する
    ための入力データを生成することを特徴とする画像処理
    装置。
  6. 【請求項6】 請求項3において、 前記設定機能が同じi×iフィルター処理によるQ組の
    並列処理で、前記使用する本数Lが(i−1)×Qとな
    る場合、 前記構成制御手段は、並列処理の各組に使用する前記分
    割ラインメモリをL/Q本のライン群とし、前記画像メ
    モリに格納されている画像データの1画面分を垂直方向
    にQ分割し各々の領域から並列に読み出される画像デー
    タを、対応するライン群に入力するように制御すること
    を特徴とする画像処理装置。
  7. 【請求項7】 請求項4〜6のいずれか1項において、 前記構成制御手段は、前記設定機能を示すフィルタサイ
    ズ(i×i)、処理個数(1またはPまたはQ)、パイ
    プラインなどの処理形態を設定されると、前記処理個数
    分の画像処理回路を前記フィルタサイズに見合った演算
    回路によって構成するように制御し、 また、前記処理形態がパイプラインの場合に、前記画像
    処理回路の各々の処理結果データを前記ラインメモリ入
    力データ制御手段にフィードバックするように制御する
    ことを特徴とする画像処理装置。
  8. 【請求項8】 処理対象の画像データを格納する画像メ
    モリと、所定の画像処理を行う画像処理回路と、前記画
    像メモリから読み出した画像データを処理サイズに合わ
    せたブロックデータにして前記画像処理回路に出力する
    ラインメモリを備える画像処理装置において、 異なるi×iフィルター処理によるP段のパイプライン
    処理を行うためのP組の画像処理回路と、 前記画像データのビット幅に合わせて前記ラインメモリ
    のライン幅を切り分け理論上、L(=(i−1)×P)
    本の分割ラインメモリを構成し、かつ、設定機能にした
    がって使用する分割ラインメモリをL/P本のライン群
    毎に各画像処理回路に対応させて、前記ラインメモリの
    入出力を制御する構成制御手段と、 前記画像メモリから読み出した画像データと、前記ライ
    ンメモリの出力データの一部と、前記画像処理回路の各
    段の処理結果データとから、前記ラインメモリを理論上
    で切り分けた全てのラインに入力するための入力データ
    を生成するラインメモリ入力データ制御手段と、 前記ラインメモリから出力するデータから前記ブロック
    データを生成するラインメモリ出力データ制御手段を備
    え、ラインメモリのライン幅の範囲内でパイプライン処
    理構成を任意に変更できるようにしたことを特徴とする
    画像処理装置。
  9. 【請求項9】 請求項8において、 i=3、P=2の場合に、 前記ラインメモリ入力データ制御手段は、前記画像メモ
    リから読み出した画像データの幅のMビットと、1クロ
    ック前に読み出した画像データで前記出力データの中か
    ら得られるMビットを前段の画像処理回路に対応する2
    本の分割メモリからなるライン群に、このときの前段の
    画像処理回路の処理結果データのMビットと、その1ク
    ロック前の処理結果データのMビットを後段の画像処理
    回路に対応する2本の分割メモリからなるライン群に入
    力するように制御し、 前記ラインメモリ出力データ制御手段は、前記画像メモ
    リから読み出した画像データと前段のライン群から出力
    する2の画像データとの画面上3ラインのデータ組み
    と、それらデータ組の1クロック前及び2クロック前の
    データ組を合わせた9つのデータブロックを生成して前
    段の画像処理回路に、このときの前段の処理結果データ
    と後段のライン群から出力する2の処理結果データを、
    前段の場合と同様に制御してデータブロックを生成して
    後段の画像処理回路に出力するように制御することを特
    徴とする画像処理装置。
  10. 【請求項10】 処理対象の画像データを格納する画像
    メモリと、32ビットのライン幅を有するラインメモリ
    と、少なくとも5×5フィルタ処理を実行できる複数の
    積和演算回路をもつ画像処理回路を備える画像処理装置
    において、 画像データのビット幅に合わせて前記ラインメモリのラ
    イン幅を切り分け理論上、複数の分割ラインメモリを構
    成し、かつ、設定機能にしたがって使用する本数の分割
    ラインメモリを、前記画像処理回路と対応するように、
    その入出力を制御する構成を備え、 画像データが16ビット幅の場合に、前記ラインメモリ
    を16ビット幅毎に分割して3×3フィルタの処理構成
    を構築し、 または、画像データが1〜8ビット幅のいずれかの場合
    に、前記ラインメモリを1〜8ビットの対応する幅に分
    割して、5×5フィルタまたは3×3フィルタの処理構
    成を構築し、 または、画像データが1〜8ビット幅のいずれかで、か
    つ、処理形態が複数段のパイプライン処理の場合は、前
    記ラインメモリを1〜8ビットの対応する幅に分割し、
    3×3フィルタ処理によるパイプライン処理の各段を分
    割したラインメモリによって入出力させる処理構成を構
    築し、 または、画像データが1〜8ビット幅のいずれかで、か
    つ、処理形態が複数組の並列処理の場合は、前記ライン
    メモリを1〜8ビットの対応する幅に分割し、3×3フ
    ィルタ処理による並列処理の各組と前記画像メモリの並
    列読み出し領域を分割したラインメモリによって対応さ
    せる処理構成を構築することを特徴とする画像処理装
    置。
JP15118597A 1997-06-09 1997-06-09 画像処理装置 Expired - Lifetime JP3593439B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP15118597A JP3593439B2 (ja) 1997-06-09 1997-06-09 画像処理装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP15118597A JP3593439B2 (ja) 1997-06-09 1997-06-09 画像処理装置

Publications (2)

Publication Number Publication Date
JPH10340340A true JPH10340340A (ja) 1998-12-22
JP3593439B2 JP3593439B2 (ja) 2004-11-24

Family

ID=15513148

Family Applications (1)

Application Number Title Priority Date Filing Date
JP15118597A Expired - Lifetime JP3593439B2 (ja) 1997-06-09 1997-06-09 画像処理装置

Country Status (1)

Country Link
JP (1) JP3593439B2 (ja)

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7170522B2 (en) 2002-02-28 2007-01-30 Ricoh Company, Ltd. Image processing circuit, combined image processing circuit, and image forming apparatus
JP2010026738A (ja) * 2008-07-18 2010-02-04 Ricoh Co Ltd 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
JP2010067276A (ja) * 2008-09-09 2010-03-25 Sony Corp パイプライン画像処理エンジン
JP2010086497A (ja) * 2008-10-03 2010-04-15 Renesas Technology Corp 画像処理装置及びデータプロセッサ
US8164693B2 (en) 2006-06-23 2012-04-24 Kabushiki Kaisha Toshiba Line memory packaging apparatus and television receiver
KR20170132551A (ko) * 2016-05-24 2017-12-04 삼성전자주식회사 전자 장치 및 그의 동작 방법
JP2018512633A (ja) * 2015-01-22 2018-05-17 グーグル エルエルシー 画像信号プロセッサのための仮想ラインバッファ
US10321077B2 (en) 2015-04-23 2019-06-11 Google Llc Line buffer unit for image processor

Cited By (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7170522B2 (en) 2002-02-28 2007-01-30 Ricoh Company, Ltd. Image processing circuit, combined image processing circuit, and image forming apparatus
US7659908B2 (en) 2002-02-28 2010-02-09 Ricoh Company, Ltd. Image processing circuit, combined image processing circuit, and image forming apparatus
US8164693B2 (en) 2006-06-23 2012-04-24 Kabushiki Kaisha Toshiba Line memory packaging apparatus and television receiver
JP2010026738A (ja) * 2008-07-18 2010-02-04 Ricoh Co Ltd 画像処理装置、画像処理方法、画像処理プログラム及び記録媒体
JP2010067276A (ja) * 2008-09-09 2010-03-25 Sony Corp パイプライン画像処理エンジン
JP2010086497A (ja) * 2008-10-03 2010-04-15 Renesas Technology Corp 画像処理装置及びデータプロセッサ
US10277833B2 (en) 2015-01-22 2019-04-30 Google Llc Virtual linebuffers for image signal processors
JP2018512633A (ja) * 2015-01-22 2018-05-17 グーグル エルエルシー 画像信号プロセッサのための仮想ラインバッファ
JP2019023900A (ja) * 2015-01-22 2019-02-14 グーグル エルエルシー 画像信号プロセッサのための仮想ラインバッファ
US10516833B2 (en) 2015-01-22 2019-12-24 Google Llc Virtual linebuffers for image signal processors
US10791284B2 (en) 2015-01-22 2020-09-29 Google Llc Virtual linebuffers for image signal processors
US10321077B2 (en) 2015-04-23 2019-06-11 Google Llc Line buffer unit for image processor
US10638073B2 (en) 2015-04-23 2020-04-28 Google Llc Line buffer unit for image processor
US11190718B2 (en) 2015-04-23 2021-11-30 Google Llc Line buffer unit for image processor
KR20170132551A (ko) * 2016-05-24 2017-12-04 삼성전자주식회사 전자 장치 및 그의 동작 방법

Also Published As

Publication number Publication date
JP3593439B2 (ja) 2004-11-24

Similar Documents

Publication Publication Date Title
US5659776A (en) Method and apparatus for inputting data to a single instruction, multiple data processor used in a television receiving system
JPH0233191B2 (ja)
JPH0954761A (ja) デイジタル信号処理装置及び情報処理システム
JPH0863355A (ja) プログラム制御装置及びプログラム制御方法
JPH10340340A (ja) 画像処理装置
US7849288B2 (en) Alternately selecting memory units to store and retrieve configuration information in respective areas for a plurality of processing elements to perform pipelined processes
JPH02226336A (ja) デジタル信号処理装置
JPH04280368A (ja) Dctマトリクス演算回路
JP2552710B2 (ja) 画像処理装置
JPH08123683A (ja) 並列プロセツサ装置
KR200148662Y1 (ko) 고속 영상처리기
JPS6280775A (ja) 画像処理装置
EP1272939B1 (en) Elementary cell of a linear filter for image processing
JPS63273176A (ja) 空間フイルタリング装置
JP2647378B2 (ja) 画像処理装置
JP2647379B2 (ja) 画像処理装置
JP2511262Y2 (ja) デジタル信号処理装置
JP2783917B2 (ja) 画像アドレス発生装置及び画像アドレス発生方法
JPS6319911B2 (ja)
US20030174250A1 (en) Digital signal processor and digital signal processing method
JPH0520448A (ja) デジタル信号処理装置
JPWO1999030276A1 (ja) ディジタル信号処理装置およびディジタル信号処理方法
JPS63245726A (ja) 配列添字変換装置
JP2504582B2 (ja) マトリクス・スキャン回路
JPH0454575A (ja) 並列計算機

Legal Events

Date Code Title Description
A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20040210

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040402

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20040824

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20040830

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080903

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080903

Year of fee payment: 4

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090903

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090903

Year of fee payment: 5

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100903

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100903

Year of fee payment: 6

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110903

Year of fee payment: 7

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20120903

Year of fee payment: 8

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20130903

Year of fee payment: 9

EXPY Cancellation because of completion of term