JPH02292686A - 画像処理装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、いわゆるニューラルネットワークによって構
成され、図形のベクトルデータを用いてその図形を認識
する画像処理装置に関する。

〔従来の技術〕

図形を記録するときのデータ形式として、ベク？ルデー
夕は、ラスタデータに比較して容量が少なく、また図形
の品質を保ちながら図形を拡大縮小あるいは変形して表
示することが容易であり、図形認識においてしばしば用
いられる。

一方、ニューラルネットワークの概念を基礎とする画像
処理装置は、ニューラルネットワークの学習機能あるい
は連想機能のため、多様な画像認識が可能であり、また
高い認識率を得ることができる。ニューラルネットワー
クは、第２図に示す神経細胞モデル（以下、ニューロン
という）１を第３図に示すように並列に設けて層状に構
成される。ニューロン１において、外部から入力される
データｏｒ，、ＤＩ２、ＤＩ．、・・・ＤＩｌｌにはそ
れぞれ重みＷ１、Ｗ２、Ｗ３、・・・ｗ７が掛けられ、
これらの総和と閾値θとが比較される。この比較方法と
しては種々のものが可能であるが、例えば、この総和が
閾値θ以上の時出力データＤＯがｒ１，となり、またこ
の総和が閾値θより小さい時出力データＤＯがｒ■，と
なるように定められる。

ニューロン１からなる層すなわちニューラルレイヤは、
通常複数個設けられ、このようなニューラルレイヤを備
えた画像処理装置に対する入力データは、第１層目のニ
ューラルレイヤに人力される。またこの人力データは図
形の画素データである。

〔発明が解決しようとする課題］ しかし、このような画像処理装置において、全画素デー
タから所望の認識処理を行うためには、膨大な個数のニ
ューロンが必要であり、実用的な装置を具現化すること
は困難であり、また、画素データそのものをニューラル
ネソトワークに入力するということ自体、生体系の処理
とは全く遊離した考え方である。

さらに従来はニューラルネットワークの構成と処理対象
データとの関係について確立した考え方はなく、確実に
所望の認識処理を実行する画像処理装置を構成すること
は困難であった。

本発明は、このような従来の問題点を解決すべく創案さ
れたもので、所望の認識処理を効率的かつ確実に実行し
得る画像処理装置を提供することを目的とする。

〔課題を解決するための手段］ 本発明に係る画像処理装置は、図形を構成する画素デー
タをベクトル化するベクトルデータ抽出手段と、このベ
クトルデータ抽出手段に接続され、入力されたデータに
所定の重みを乗じたものの総和と闇値との比較結果に応
したデータを出力するニューロンが並列的に設けられる
とともに、ベクトルデータの抽象度に応じた層構造のニ
ューラルレイヤを有し、そのベクトルデータに基づいて
図形を認識する手段とを備えたことを特徴としている。

〔作用〕

ベクトルデータは、図形認識手段の所定のニューラルレ
イヤに入力され、図形認識が行われる。

図形認識手段は、図形認識のために必要最小限のニュー
ロンを有し、少ないメモリで高速かつ確実に図形認識を
行う。

〔実施例〕

以下図示実施例に基づいて本発明を説明する。

第１図は画像認識装置の概略的な構成を示す。

この画像処理装置は画像入力部２００と、画像処理部３
００と、認識部１００と、システムメモリ４００を備え
、これらはシステムバスＢを通じて相互に接続されると
ともに、ＣＰＵ５ＱＯに接続されている。画像入力部２
００にはイメージスキャナ等の入力機器とＩ／Ｏとを含
み、Ｉ／Ｏには適宜、データ圧縮手段、データ保持のた
めのメモリ等が含まれる。画像処理部３００はベクトル
データ抽出手段である処理部３１０と、画像を保持する
フレームメモリ３３０とを備え、所望により内部に画像
入力部３４０が設けられる。認識部１００は、後に詳述
するように、画像処理部３００で得られた抽出データに
基づいて図形認識を行うものであり、ニューロンからな
る複数層のニューラルレイヤが構築され、このニューラ
ルレイヤの出力データを記憶するメモリを備える。

第４図は画像処理部３００における処理部３１０を示す
ものであり、処理部３１０は、フレームメモリ３３０か
らマルチブレクサ３１１を介して選択的に取り込んだデ
ータをローカルバスＬＢを通して近傍処理部３１２に転
送している。近傍処理部３１２はデータを所定近傍領域
（例えば３×３）単位でデータを保持し、これらのデー
タを並列に演算部３２０に入力する。演算部３２０は数
値演算部３２１および状態演算部３２５を存し、近傍処
理部３１２の出力は数値演算部３２１に入力される。数
値演算部３２１は、乗算部３２２、セレクタ３２３、統
合部３２４を順次接続してなり、微分その他のオペレー
タ処理や画像間演算は数値演算部３２１において行われ
る。数値演算は例えば各画素の濃度に乗数を乗じた後に
これを数値的に統合する処理を行うが、同一の画素には
異なる絶対値の乗数が掛けられることはないという発明
者の知見に基づき最前段に乗算部３２２が配置されてい
る。これによって乗算部のカーネル数は同時処理画素数
に等しい最小値とすることができ、こ秩にともなって後
段のセレクタ３２３、統合部３２４のゲート数も減少す
る。したがって数値演算部３２１は小規模回路で最大限
の機能をもつことかでき、処理速度も高速化される。

数値演算部３２１内のデータは状態演算部３２５に導か
れ、状態演算部３２５は、所定近傍領域内の画素に対し
て次のような判断または演算を行つ。

１）中央画素が処理対象画素であるか否か。

ｉｉ）８近傍に中央画素と異なる濃度の画素が存在する
か否か。

ｉｉｉ）８近傍の各画素が中央画素と同一か否か。

ｉｖ）オイラー数算出のためのＴＦＤＥの各個数。

■）所定パターンとの一致度。

■）その他。

このように数値演算とともに状態演算を並列的にしかも
別回路で行うことにより、各回路の効率化と高速化を図
ることができる。また状態演算部３２５の出力はそれ自
体が有効な特徴量であり、あるいは特＠量抽出のための
有効なデータである。

状態演算部３２５の出力は変換部３１３に人力され、さ
らに特徴抽出や、積算、比較などの処理により特徴量が
求められる。

変換部３１３はスタティックＲＡＭなどの高速メモリの
出力の分岐にフルアダーなどの軽演算部を接続し、この
軽演算部の出力を高速メモリのデータ入力にフィードバ
ックしてなるものである。

このような構成により、同一データに同一演算を繰返し
施したり、データの積算、データの逐次比較等の複雑な
演算を小規模の回路において高速で行うことができる。

演算部３２０、変換部３１３の出力は出力側のローカル
バスＬＢを通じて前記フレームメモリ３３０のいずれか
に戻されている。

出力側のローカルバスＬＢには、さらに逐次処理部３１
４が接続され、ラベリングや細線化などの逐次処理はこ
の逐次処理部で行われる。逐次処理部３１４は、ライン
メモリとラッチと論理部を備え、処理対象画素の１つ前
のラスクの処理後濃度を参照しつつ逐次処理を行う。

このような処理部においては、極めて多様な特徴量を高
速でもとめることができ、認識部１００に貴重な特徴量
を供給し得る。なおフレームメモリ３３０としてデュア
ルボートメモリを採用すれば、データの続出し、書き込
みを極めて高速で行い得る。

このような画像処理装置において、処理対象画像の闇値
処理、２値化、輪郭抽出を行い、この輪郭のベクトルデ
ータを生成すれば、輪郭に関する特徴データを認識部１
００に与え得る。また画像の闇値処理、２値化、細線化
を行い、この細線化画像のベクトルデータを生成すれば
、各図形のストローク特徴等の形状的特徴データを認識
部１００に与え得る。ベクトルデータの形態としては、
ベクトルポイントの座標を追跡順に配列したデータ、凸
凹の角部の個数および座標、穴の存否および個数、輪郭
長などが考えられる。これらのデータの生成には一部Ｃ
ＰＵが使用される。

次に認識部ｌＯＯの構成を第５図に基づいて説明する。

認識部１００は、システムバスＢを介して、または認識
部１００に直接接続された入力系、すなわち画像処理部
３００から入力されたデータを処理し、処理結果を最終
出力データとして、データメモリ１１０に出力する。

認識部ＩＯＯにはニューラルネットワークが構築される
。ニューラルネットワークの各ニューロンからの出力デ
ータＤＯは、前述したように、入力データと重みとの積
の総和が閾値θ以上の時「ｌ」となり、またこの総和が
閾値θより小さい時「０」となるように定められる。す
なわち、ＤＯ＝ｆ（（Σ（ｔＬ　ＸＤＩ＋　）一〇）　
　（１）であり、ここでｆは正規化関数である。

認識部１００は、ニューラルネットワークにおける連想
の作用を為す出力データ生成部１２０を有し、出力デー
タ生成部１２０においては、各二二一ロンについての線
型闇値関数（ΣＷ．Ａ，−θ）の演算が行われる。出力
データ生成部１２０の各部はＣＰＵ５００によって制御
される。

Ｗ．Ａ，の乗算は出力データ生成部１２０における乗算
回路１２１において実行される。１回毎のＷ，Ａ．の演
算結果は順次積算回路１２２に入力され、ΣＷ．Ａ．の
演算が行われる。積算回路１２２は、加算回路１０４に
フリップフロップ１０５を帰還的に接続してなり、加算
結果を一旦フリップフロップ１０５に保持したのち、次
のＷ，Ａ．の入力と保持された加算結果とを加算してい
くことにより積算を行う。ΣＷ，Ａ，の演算結果は闇値
処理部１２３に入力され、（ΣＷ．Ａ．一θ）の演算が
行われる。さらに闇値処理部１２３においては、（ΣＷ
．Ａｔ−θ）の演算結果を正規化する等の処理を行い、
出力データとする。（ΣＷ．Ａ．−θ）の演算結果はパ
ッファ１０６を介してデータメモリ１１０に入力される
。

乗算回路１２１には重みのデータと、入力あるいは出力
データとが並列的に入力されるため、２系統の入力ライ
ンを有するが、バッファ１０６はそのうちの一方の入力
ラインに接続され、この入力ラインは人出力双方向のラ
インとして使用される。バッファ１０６は、データメモ
リ１１０から乗算回路１２１にデータが転送される際に
はハイインピーダンスとなる。

各ニューラルレイヤのデータは、第１層についてはＯ次
入カデータおよび第１ニューラルレイヤの重みが人力さ
れ、第２層については１次出力データおよび第２ニュー
ラルレイヤの重みが入力される。すなわち第ｎニューラ
ルレイヤの出力（ｎ次出力データ）は第（ｎ＋１）ニュ
ーラルレイヤの入力となる。データメモリ１１０におい
て、重みのデータはシナプス重みエリア１１１に格納さ
れ、入出力データは入出力データエリア１１２に格納さ
れる。また闇値処理部１２３に設定すべき各ニューロン
の闇値は、データメモリ１１０またはシステムメモリ１
０１に格納され、各ニューロンについての演算を開始す
る前に闇値処理部１２３に転送される。

次に、画像処理部３００において行われる図形のベクト
ル化について説明する。

本実施例においては、まず図形の境界画素が抽出サれ、
この境界画素がフリーマンのチェーンコードによって符
号化される。フリーマンのチェーンコードは、第６図に
示すように、対象画素の右側を「０」とし、反時計方向
に４５度ずつ順次１〜７の番号を与えたもので、図形の
境界画素を一方向に順次辿るとき、各境界画素に対し次
の境界画素の方向がチェーンコードとして与えられる。

但し、チェーンコードと等価な符号により同様の処理を
行うことも勿論可能である。

第７図において、画像中に図形Ｆが存在し、これを通常
の左から右、上から下の走査により見るとき、最初に左
上の画素ａが発見される。通常はこの画素ａを起点にし
て反時計回りに境界画素を辿り、チェーンコード列を生
成する。チェーンコードは対象画素（ａに注目している
とき、そのａが対象画素となる。）の次に存在する画素
がどの方向に存在するかを示す符号であり、第７図では
境界画素を辿るときに生じるチェーンコードをその境界
画素上に表示している。第７図の画素ａからチェーンコ
ードを生成する作業を始めたときに最後の画素となるａ
の右隣の画素ｂには、ａの方向を指し示すチェーンコー
ドを与えておく。

第７図から明らかなように、この図形のチェーンコード
はｒ６６０００７６６００２２２２２４４４４４Ｊで与
えられ、例えば「６６」の連続は下向の直線に「００」
の連続は水平右向きの直線に、「２２」の連続は上向き
の直線に、また「４４」の連続は水平左向の直線に対応
している。

第７図の図形をベクトル化する際、理想的には画素ａ→
画素ａの下方の直角の角の画素Ｃ１→その右方の凹の直
角の隅の画素ｃ２→その下方の直角の角の画素ｃ３→そ
の右方の直角の角の画素ｃ４→その上方の直角の角の画
素Ｃ，を順次ベクトルポイントとすればよいことが明ら
かである。そして、これらのベクトルポイントのうち角
（凸）の画素ａ．Ｃ＋　＋　　Ｃｚ＋　　Ｃ４１　　Ｃ
Ｓは連続したチェーンコード「６６」、「００ｊ１　「
２２」、「４４」が「２」だけ増加した（６→０も７を
法とすれば増加とみることができる。）位置に存在する
。

このようなチェーンコードは図形の輪郭の折曲状況を反
映していることが分かる。

なお第７図の凹の角部ｃ２は前述のようにベクトルポイ
ントとして抽出すべきであるが、境界画素ではないため
、チェーンコードは付されていない。ここに凹の直角の
処理の困難さがあるが、これについては後述する。なお
同一チェーンコートの連続は直線を意味する。

チェーンコードは図形の外周を反時計回りに取るものが
一般的であり、ここではまず外周を反時計回りに採った
チェーンコードを例にとって説明を進める。

ある画素にチェーンコードｋが与えられていた時、その
次の画素が採り得るチェーンコードｋ′は、次の画素が
境界画素である以上、ｋが偶数の場合ｋ−２，ｋ−３の
値をとることがなく、ｋが奇数の場合ｋ−３の値はとり
得ない（但し、ｋは「７」を法とする）。例えば第６図
においてｋ＝４の場合、ｋ′はｒｌ」、［２Ｊとはなり
得ない。

このように１つの境界画素のチェーンコードのみで次の
境界画素の方向の範囲が特定される。そしてｋ’　＝ｋ
＋−２のときには「ｋ゜」の画素は凸の直角の角になる
。この直角の角の画素はベクトルポイントとして採用す
る。

このように図形の特徴点となる角部を抽出することはベ
クトル化の処理で不可欠であるが、逆に直線部分または
直線に近似し得る部分において中途の画素がベクトルポ
イントとして抽出されないようにして、データ効率を高
めることもベクトル化の処理において重要である。

第８図は左斜め下方に延びる直線を示すものであり、チ
ェーンコード列はｒ５５５５５５５５５６」となってい
る。直線については、その両端の画素をベクトルポイン
トとし、中途の画素はベクトルポイントとすべきでない
。すなわち同一のチェーンコードが連続して存在した場
合、その連続の最初の画素ａと、その連続が終了した後
の最初のチェーンコードに対応する画素ｂをベクトルポ
イントとすぺきである。これは水平、垂直、右下り、右
上り、左上りの直線についても同様である。

第９図は連続する符号ａ，ｂ，ｃがｒ６７６Ｊであり、
その後にｒ　６　６　６一６　４の符号が続いている。

これを一般化すると（ｋ−１），ｋ，　　（ｋ１）（ｋ
＝ｏ〜７。ｋは７を法とする。）の符号列の後に（ｋ−
１）の符号が続くパターンであり、これは最初の「ｋｊ
と、（ｋ−１）の連続の後の（ｋ−１）以外の符号をベ
クトルポイントとする。第９図に示すように、符号ａｂ
が構成する直線と、その後の符号’　６　６−６　０　
Ｊよりなる直線β２とは１画素偏位した平行な直線であ
り、このような１画素の偏位はデジタル図形では意味を
持たないことが多い。特に自然画像をデジタル化する際
、ある座標値は隣接する４画素のうちの１つに不連続に
割りふられるため、座標値のわずかな差が１画素の偏位
を生む。すなわち１画素偏位した連続２直線は、それを
折れ線として表示しても、２直線をさらに別の直線で結
ぶ段階状の直線として表示しても図形の再現性には影響
ない。しかも折線として表示した方がベクトルポイント
のデータ効率は高まる。また画素ａの前の画素の符号が
ａと同じｋであった場合（画素ａ’　　ｒ７」）、これ
は前記の直線の処理となり、画素ｂの後の画素Ｃがベク
トルポイントとして抽出される。

次に凹の直角部の処理について説明する。

第１０図（ａ）は左下に開く、凹の直角部を示すもので
あり、チェーンコードは水平部分においてｒ−Ｏ　Ｏ　
７　，と進んで隅の画素ａに到り、その後垂直部分に移
って「６６−・・」と進んでいる。この図で直角を規定
する画素は、水平部分の最後の２つの画素ｂ，　　ｃと
垂直部分の最初の画素ｄである。これらのチェーンコー
ドはｒ０７６Ｊであり、チェーンコード列中にこの組合
せが生じたときは直ちに左下に開く凹の直角部分である
ことが判明する。ここでチェーンコードに変更を加え、
隅の画素ａが含まれるようにする。第ｌＯ図（ｂ）はチ
ェーンコードに変更を加えた結果を示すものであり、水
平部分の最後の画素Ｃを「７」から「６」に変更し、さ
らに隅の画素ａにチェーンコード「６」を与えている。

これはチェーンコードの組ｒ０７６．を「００６６」に
変更する操作に対応する。

これらのチェーンコードの変更により、水平部分の最後
の画素Ｃが隅の画素ａを指すことになり、隅の画素ａが
垂直部分の最初の画素ｄを指すことになる。

これはｋ，（ｋ−１），（ｋ−２）の符号列が存在する
ときこれをｋ，　　ｋ，（ｋ−２）．（ｋ−２）の符号
列に改め、最初の（ｋ−２）をベクトルポイントとする
構文解釈ということができる。

このような凹の直角の隅の画素は図形の特徴を残すうえ
で不可欠であり、直角の両辺が水平または直角である場
合には、以上のような符号の追加が必要である。しかし
両辺が４５度の｛頃斜をもつときは凹の直角の隅は境界
画素として表われる。

第１１図において、凹の直角は符号「１」、「７」で示
されており（図中ａ，ｂ）、直角の隅は符号「７」であ
る。これはｋ．（ｋ−２）　　（ｋ＝ｔ３，７。ｋは７
を法とする。）の符号列において（ｋ−２）の符号をベ
クトルポイントとする構文解釈を意味する。

このように凹の直角の隅は図形の特徴的な画素として抽
出されるが、同様に、凸部の直角の角、凸の鋭角の角は
特徴的な点として抽出すべきである。

第１２図は凸の直角の角を有する図形を示し、第１３図
は凸の鋭角の角を有する図形を示す。

第１２図では符号ａｂ（ｒ３５」）が直角の角を表し、
第１３図では符号ａｂ（’２５」）が凸の鋭角の角を表
す。これらの符号列をｋ，ｋ’　と表現すると、 ｋ’　＝ｋ＋２またはｋ＋４ ｋ，ｋ’　＝Ｏ〜７ ｋ，ｋ’　は７を法とする。

となり、ｋ“の符号の画素をベクトルポイントとすべき
である。

以上は図形の外側の境界画素の構文解釈であるが、内側
の境界画素すなわち穴の構文解釈については、外側と反
対方向に境界画素を辿る符号を付せば、全く同様に処理
し得る。

第１４図（ａ）は図形の長方形の内側に時計方向にチェ
ーンコードを付したものであり、チェーンコードはｒｏ
ｏ０７６６６５４４４３２２２１」　（最後の画素が先
頭の画素に続いているとする。

）である。この符号列中には凹の直角を示す符号列ｒ０
７６Ｊ、「６５４」、ｒ４３２Ｊ、ｒ２１０Ｊが存在し
、前記と同様に処理すれば、それぞれｒ００６６」、ｒ
６６４４」、ｒ４４２２，．＋、［２２００Ｊに改めら
れる。結果を第１４図（ｂ）に示す。

ここでチェーンコード列の生成方法の一例を示す。チェ
ーンコード列の生成に際しては、まずその最初の境界画
素を発見しなければならないが、走査方向を限定すれば
周囲の画素の状況により外側、内側、の最初の境界画素
を識別し得る。

走査方向を左から右、上から下の通常の走査方向とした
時、第１５図に示ように、上方および左方に画素が存在
しない境界画素ａを外側の最初の境界画素として採用で
き、第１６図に示すように左下に画素が存在しかつ下方
に画素が存在しない境界画素ａを最初の境界画素として
採用し得る。

最初の境界画素が発見されれば、前述のように、次の境
界画素が取り得るチェーンコードの値は一定範囲に限定
されるので、その範囲を反時計回りまたは時計回りに順
次境界画素を捜索する。ここに、外側境界画素に反時計
回りのチェーンコードを与えるときには、走査方向も反
時計回りとなり、時計回りのチェーンコードならば走査
方向も時計回りとなる。そして、内側境界画素のチェー
ンコードの生成は外側境界画素と同じアルゴリズムで処
理し得る。すなわち１つ前の境界画素のチェーンコード
がｋであるとき、ｋが偶数ならばｋ−１の方向から順次
反時計回りに次の境界画素を捜し、最初に境界画素が発
見された方向をその境界画素のチェーンコードとすれば
、外側境界画素について反時計回りのチェーンコード生
成される。そしてｋが奇数のときはｋ−２の方向から順
次反時計回りに次の境界画素を捜すことになる。このア
ルゴリズムでは全画面を１回走査するだけで全てのチェ
ーンコードが生成でき高能率であり、また境界画素が外
側か内側かを識別し得るので、ベクトル化されたデータ
から図形を再現し、その図形を塗りつぶす際の有力な情
報を得ることができる。

なお図形境界を前記とは逆方向に辿るチェーンコードを
符号としたときには、前記符号列の増減関係を逆転させ
れば全く等価な処理が可能であり、その他の等価な符号
について等価な処理を施し得ることはいうまでもない。

以上のようにチェーンコードまたはこれと等価な符号か
ら図形の折曲状態を判定してベクトルポイントを抽出す
れば、複雑な角度演算など要することなくベクトルデー
タを生成でき、しかも用途に応じて適宜高品質の図形を
再現し得る。

なお、上記実施例においてベクトルデータは境界画素か
ら得られていたが、図形を細線化して得られた画素デー
タをベクトル化したものであってもよい。

次に、図形のベクトルデータに基づいて図形認識を行う
ニューラルネットワークについて説明する。

ニューラルネットワークは認識部１００　（第１図）に
構築され、後述するように、ベクトルデータの抽象度に
応じた層構造を有する。

実際にニューラルネットワークによって実行される処理
内容は極めて複雑であるが、極めて単純な論理演算が実
行されると仮定して、ニューラルネットワークの第１実
施例を説明するとともに、この発明の基本理念を解説す
る。

第１７図（ａ）、（ｂ）、（Ｃ）は学習の結果Ａ・　（
Ｂ十〇）　　　　　　　　　（２）の論理演算が実行さ
れるに到ったニューラルネットワークを示すものである
。第１７図（ａ）、（ｂ）は比較例を示し、第１７図（
ｃ）はニューラルネットワークの第１実施例を示す。

第１７図（ａ）は、初段のニューラルレイヤ２０にデー
タ群１０におけるＡ，Ｂ，Ｃの３データの全ての組合せ
の数２３＝８個のニューロン２１〜２日が設けられ、第
２段のニューラルレイヤ３０に初段ニューロン２１〜２
８の出力のＯＲ（論理和）を演算する１個のニューロン
３１が設けられた構成を示している。図中、ニューロン
２１〜２８の上に付したｒｏ００ｊなどの数値はデータ
Ａ，Ｂ，Ｃよりなるビットパターンを示し、これらのニ
ューロンはこのビットパターンが入力されるときに出力
「１」を出力する。このニューラルネットワークにおい
ては、ニューロン数が９、シナブス数（ニューロンに接
続される入力経路の数）が３２であり、ニューロンおよ
びシナブスの効率が極めて低く、所要メモリ容量が大で
あるとともに処理時間も大である。

第１７図（ｂ）は（２）式を以下のように展開し、Ａ−
Ｂ　　　＋　　Ａ−Ｃ　　　　　　　　　　　　　　（
３）演算の単純化を図った例であり、初段ニューラルレ
イヤ２０は、Ａ−Ｂの演算を処理するためのニューロン
２１．．Ａ−Ｃの演算を処理するためのニューロン２２
を備える。第２段のニューラ・ルレイヤ３０はニューロ
ン２１、２２の出力のＯＲを求めるニューロン３１を有
する。

ニューロン２１においては、データＡ，Ｂ，Ｃに対する
重みＷ，〜Ｗ３は、例えばＷ＋　＝　１　，　Ｗｚ＝１
、Ｗ３＝０に設定され、 ＡＷ＋　＋ＢＷｚ　＋ｃｗ，≧２　　　（４）のときに
出力ｒ１，を出力する。したがってこの場合、閾値θ＝
２とされる。同様に、ニューロン２２では、Ｗ４　＝１
，Ｗｓ　＝Ｏ　　Ｗ６　＝１，　　θ＝２となる。一方
ニューロン３ｌでは、Ｗ？　＝　１　，ＷＩ＋＝　１、
θ＝１となる。

第１７図（ｂ）のニューラルネットワークにおいて、ニ
ューロン数は３、シナプス数は８であり、第１７図（ａ
）のニューラルネットワークに比較すれば、大゜幅にニ
ューロン効率、シナブス効率が向上している。しかし、
次に述べるように本発明によれば、さらにこれらの効率
が向上する。

第１７図（Ｃ）は本発明のニューラルネットワークの第
１実施例を示すもので、この構成は、初段ニューラルレ
イヤ２０および第２段ニューラルレイヤ３０を有し、初
段ニューラルレイヤ２０には、データＢ，Ｃのみが入力
され、そして第２段ニューラルレイヤ３０には、データ
Ａが直接入力される。初段ニューラルレイヤ２０には、
（Ｂ＋Ｃ）の演算を行うための１個のニューロン２ｌが
設けられ、第２段ニューラルレイヤ３０には、Ａ（Ｂ＋
Ｃ）の演算を行うための１個のニューロン３１が設けら
れる。ニューロン２１は、例えば重みＷＩ＝ｌ　，Ｗｚ
　＝１、θ−１に設定され、Ｂ　Ｗ　Ｉ十〇　Ｗ　ｚ≧
１　　　　　　　（５）のとき出力「ＩＪを出力する。

一方ニューロン３１は、例えば、Ｗ，＝１、Ｗ，＝１、
θ＝２に設定され、ニューロン２１の出力をＹ１とする
と、Ｙ　ＩＷ３＋ＡＷ４　≧２　　　　　　　（６）の
とき、出力ｒ１」を出力ずる。この実施例においては、
ニューロン数２、シナブス数４であり、第１７図（ｂ）
の比較例よりも大幅にニューロン効率、シナブス効率が
向上している。

ここで本発明の第１の基本理念を解説する。

再び（２）弐に注目すると、データＢ，Ｃ、は１つの作
用素ｒ＋（ＯＲ）Ｊにより結合されており、データＡは
、その演算結果に対して作用素「×（ＡＮＤ）　」で結
合されている。したがって本来データＢ，ＣとデータＡ
とは同一次元で評価すべきものではなく、それを敢えて
同一次元で評価しようとすると、第１７図（ａ）、（ｂ
）の比較例のように効率の低下を招来する。

ここで、ニューロンの処理内容が下記（７）式の評価の
みであると仮定する。

ΣＷ　ｔ’Ａ　＋−θ　　　　　　　　　　（７）（た
だし、Ｗ，：重み、Ａ、：入力、θ：閾値）そして、各
データについてその抽象度を定義できると仮定し、その
抽象度を「次数」と呼ぶ。

この次数は、１個のニューロンにおける入力データに対
し、出力データが１次だけ次数が増加すると定義する。

また、１つの作用素により結合されたデータ相互は同一
次数であると定義する。

このような定義によると、（２）弐の場合、データＢ，
Ｃは同一次数であり、データＡはそれよりも次数が１次
だけ高い。ここでデータＢ，Ｃの次数として「０」を与
えるとすると、データＡの次数は「１」である。

このデータの次数とニューラルレイヤの階層との関係を
考えると、第１７図（ｃ）において、ニューラルレイヤ
２０にはＯ次のデータのみが入力され、ニューラルレイ
ヤ３０には１次のデータのみが入力されている。したが
って、ニューラルレイヤ２０、３０を入力データの次数
に対応づけ得ることが明らかであり、以後ニューラルレ
イヤにも入力データと同一の次数を定義するものとする
。

そして、ニューラルネットワークに入力すべきデータ群
をその次数に応じて分類し、各次数のデータをそれに対
応した次数のニューラルレイヤに人力することによって
、ニューロン効ｌ、シナプス効率が最適化する。

また、第１７図（ａ）、（ｂ）に関連して説明したよう
に、高次のデータを低次数化して処理することも可能で
あり、この場合にはニューロン効率、シナプス効率が低
下する。したがって各データの次数は、そのデータがと
り得る最も高い次数を基準とすべきである。

なお、（Ａ＋Ｂ）　　・Ｂのように１つのデータが複数
の次数にわたって使用されることもあり、この場合、１
つのデータを複数のニューラルレイヤに入力するように
してもよい。

次数の本来の意味である抽象度をより分かり易く説明す
る例として、第１８図（ａ）〜（Ｃ）に図形の端点を判
断する構成を示す。

図形の端点のとらえ方は種々考えられるが、ここでは、
３×３コンポゾユーション（第１８図（ａ））において
、第１８図（ｂ）　（ｉ）　〜（ｖｉｉｉ）のいずれか
のパターンが生じたときに、中央画素（第１８図（ａ）
の画素Ｅ）は端点であるとする。

この端点の判断は中央画素以外の画素Ａ−Ｄ，Ｆ〜Ｉの
いずれか１つが図形濃度（例えば「１」）であり、かつ
中央画素Ｅが図形濃度であるときに「端点」、それ以外
のときに「端点てない」とする。

この判断のためのニューラルネットワークは例えば第１
８図（Ｃ）のように構成され、この図はニューラルネッ
トワークの第２実施例を示す。このニューラルネットワ
ークは、８個のニューロン２１〜２８を有する初段ニュ
ーラルレイヤ２０、および１個のニューロン３１を有す
る第２段ニューラルレイヤ３０を有し、画素Ａ−Ｄ，Ｆ
〜Ｉのデータが初段ニューラルレイヤ２０に、画素Ｅの
データが第２段ニューラルレイヤ３０に入力されている
。

初段ニューラルレイヤのニューロン２１〜２８はそれぞ
れＡのみ、Ｂのみ、Ｃのみ・・・が図形画素「１」であ
ることを判別し、第２段ニューラルレイヤ３０のニュー
ロン３１は、ニューロン２１〜２８のいずれかが「１」
を出力し、かつＥが図形画素「１」であるときに出力「
１」を出力する。

ここで各画素データＡ−Ｄ，Ｆ〜■を０次データと考え
ると、ニューロン３１の出力は２次データとなる。した
がって、各画素のデータをＯ次データと考えた場合、端
点データは２次データとして取扱い得ることが分かる。

画像処理部３００からは、グループ数、六数、オイラー
数、テクスチャ特徴量等種々のデータが出力されるが、
これらデータの次数を考慮し最適なニューラルレイヤに
直接入力すべきである。

第６図〜第１６図を参照して説明したベクトル化された
画素データの場合、ベクトルポイントすなわち角部の画
素データは、他の画素データに比較して抽象度が高い。

すなわち、他の画素データがＯ次データであるのに対し
てベクトルポイントはより高次のデータであり、ニュー
ラルネットワークにおいて他の画素データは初段のニュ
ーラルレイヤに入力され、ベクトルポイントの画素デー
タは後段のニューラルレイヤに入力されるべきである。

第１９図（ａ）はニューラルネットワークの第３実施例
を示し、この実施例においてニューラルネットワークは
、データ群１０とニューラルレイヤ２０、９０とを有し
、レイヤ９０は出力データを認識部１００に出力する出
力レイヤとなっている。

データ群１０は、第１グループのデータ１１、１２、１
３・・・と、第２グループのデータ１４、ｌ５、ｌ６・
・・とからなる。すなわちデータ群１０のデータは、そ
の次数に応じて第１および第２グループの２種頻に分類
されている。

ニューラルレイヤ２０はニューロン２Ｌ２２、２３・・
・を有し、また出力レイヤ９０はニューロン９ｌ、９２
、９３・・・を有する。ニューラルレイヤ２０の各ニュ
ーロンは出力レイヤ９０の各ニューロンに接続される。

第１グループのデータ１１、１２、１３・・・はニュー
ラルレイヤ２０の各ニューロンにそれぞれ入力され、第
２グループのデータ１４、ｌ５、１６・・・は出力レイ
ヤ９０の各ニューロンにそれぞれ入力される。

ニューラルレイヤ２０の各ニューロンは、例えば上記（
１）弐に示されるように、入力された各データに重みを
乗じたものの総和と闇値とを比較し、この比較結果に応
じて、出力データ「１」または「０」を出力する。出力
レイヤ９０の各ニューロンは、ニューラルレイヤ２０の
各ニューロンおよび第２グループのデータｌ４、１５、
ｌ６・・・にそれぞれ重みを乗じたものの総和を求め、
この総和と闇値との比較結果に応じて、ニューラルレイ
ヤ２０のニューロンと同様に「１」または「０」のデー
タを出力する。

第１グループのデータ１１、ｌ２、１３・・・は、例え
ば、画素が「１」　（例えば黒）か「０」（例えば白）
かを示すＯ次データであり、また第２グループのデータ
１４、１５、１６・・・は、画像の特徴を示す高次のデ
ータである。

しかして第３実施例において、第１グループのデータす
なわち低次のデータは、ニューラルレイヤ２０のニュー
ロンに入力され、第２グループのデータすなわち高次の
データは、出力レイヤ９０のニューロンに入力される。

したがって、ニューラルレイヤ２０のニューロンは、よ
り低次の処理すなわち例えば画素そのもののデータに対
する処理を行い、出力レイヤ９０のニューロンは、より
高次の処理すなわち例えば画素の持つ様々な性質等に対
する処理を行う。

このように、第３実施例においては、高次のデータが直
接出力レイヤ９０に入力され、ニューラルレイヤ２０に
は入力されないので、シナブス数すなわち入力要素とニ
ューロンあるいはニューロン同士の接続部の数は減少し
、またニューロン数も減少する。シナプス数が少なくな
ると、ニューロンにとって演算回数が減少するために、
演算速度が上昇し、また重みデータ数も減少するので、
メモリ容量も小さくてすむ。また、ニューロン数が少な
くなると、闇値の数も少なくてすみ、これによりメモリ
容量が小さくなるとともに、演算回数も少なくなり演算
速度が上昇する。しかして本実施例によれば、小さいメ
モリ容量でかつ高速の演算処理が可能になり、単純な回
路で効率の高い画像処理装置が得られる。

第１９図（ｂ）はニューラルネットワークの第４実施例
を示し、この実施例におけるデータ処理装置は、３つの
グループの入力データ群１０と、ニューラルレイヤ２０
、３０および出力レイヤ９０を有する。

入力データ群１０は、第１グループのデータ１１、１２
、ｌ３・・・と、第２グループのデータ１４、１５、ｌ
６・・・と、第３グループのデータ１７、１８、１９・
・・とを備える。すなわち入力データ群は、第３実施例
と異なり、３種類に分類されている。第１のニューラル
レイヤ２０はニューロン２ｌ、２２、２３・・・を有し
、また第２のニューラルレイヤ３０はニューロン３１、
３２、３３・・・を有する。出力レイヤ９０は、ニュー
ロン９１、９２、９３・・・を存する。第１のニューラ
ルレイヤ２０の各ニューロンは、第２のニヱーラルレイ
ヤ３０の各ニューロンに、また第２のニューラルレイヤ
３０の各ニューロンは、出力レイヤ９０の各ニューロン
にそれぞれ接続される。

第１グループのデータ１１、ｌ２、１３・・・は第１の
ニューラルレイヤ２０の各ニューロンに、第２グループ
のデータ１４、１５、１６・・・は第２のニューラルレ
イヤ３０の各ニューロンに、第３グループのデータ１７
、１８、１９・・・は出力レイヤ９０の各ニューロンに
それぞれ接続される。

各ニューロンは、第３実施例と同様に、例えば上記（］
）式に従い、入力された各データに応じて、出力データ
「ｌ」または「Ｏ」を出力する。　第１グループのデー
タ１１、ｌ２、ｌ３・・・はＯ次データ、第２グループ
のデータｌ４、１５、１６・・・は１次データ、第３グ
ループのデータｌ７、１８、１９・・・は２次データで
ある。すなわち、第２のニューラルレイヤ３０には高次
のデータが入力され、出力レイヤ９０にはさらに高次の
データが入力される。

この第４実施例においても、第３実施例と同様に、シナ
プス数は減少し、またニューロン数も減少する。したが
って、第３実施例と同様な効果が得られる。

第２０図（ａ）、（ｂ）はニューラルネットワークの第
５実施例を比較例とともに表したものであり、この例は
入力データを論理演算 （ＡｅＢ）　ｅ（ＣｅＤ） に従って処理する場合を示す。なおここで、ｅは「排他
的論理和」を示し、またＡ，Ｂ，Ｃ，Ｄは「ｌ」または
［ＯＪのデジタル値であり、この論理演算の結果も「１
」または「０」のデジタル値として出力されるとして説
明する。

第２０図（ａ）は比較例を示し、この装置は入力データ
を通過させるための入力データ群１０と第１および第２
のニューラルレイヤ２０、３０と出力レイヤ９０とを存
する。入力データ群１０は入力データＡ，Ｂ，Ｃ，Ｄか
らなる。第１のニューラルレイヤ２０は４個のニューロ
７２ｌ，２２、２３、２４を有し、第２のニューラルレ
イヤ３０は４個のニューロン３ｌ、３２、３３、３４を
有する。各データＡ−Ｄは、それぞれ第１のニューラル
レイヤ２０の各ニューロンに入力され、第１のニューラ
ルレイヤ２０の各ニューロンはそれぞれ第２のニューラ
ルレイヤ３０の各ニューロンに接続される。一方、出力
レイヤ９０は１個のニューロン９Ｉを有し、このニュー
ロン９１には、第２のニューラルレイヤ２０の各ニュー
ロンがそれぞれ接続される。

第１のニエーラルレイヤ２０において、各ニューロン２
ｌは各入力データに対して乗じられる重みと闇値とを有
し、上記（１）式に従い、各人力データと重みの積の総
和が闇値以上の時出力データ「１」を出力し、この総和
が閾値θよりも小さい時出力データ「０」を出力する。

同様にニューロン２２、２３、２４も各入力データに応
じて、「１」または「０」を出力する。第２のニューラ
ルレイヤ３０においても同様に、各ニューロンは、入カ
データに応じて「１ｊまたは「０」を出力する。

出力レイヤ９０のニューロン９１も同様に、第２のニュ
ーラルレイヤ３０のニューロンからの出力データに応じ
て、「１」または「０」のデータを出力する。

サテ論理演算（ＡｅＢ）＄　（ＣｅＤ）（７）演算結果
は、データＡ，Ｂが不一致で、かつＣ，Ｄが一致すると
き、またＡ，Ｂが一致し、かっＣ，Ｄが不一致のとき、
ｒ１，となる。それ以外の場合は「０」となる。このた
め、第２０図（ａ）においては、各ニューロンは次のよ
うに構成される。

第１のニューラルレイヤ２０において、ニューロン２１
，２２、２３、２４は、Ａ，　Ｂ．．Ｃ，　Ｄを４ビッ
トパターンで表した場合、それぞれ「０１　ＸＸＪ、ｒ
ｌｏｘｘ」、ｒｘｘｏ１ｊ，ｒｘｘ１０」の時ｒ１，を
出力し、それ以外の場合［Ｏｊを出力する。ここで、「
ｘｘＪはそのデータを無視することを意味する。一方、
第２のニューラルレイヤ３０において、ニューロン３ｌ
は、第１のニューラルレイヤ２０のニューロン２１のみ
が「１」を出力する時ｒｌ，を出力し、それ以外の時「
０」を出力する。またニューロン３２は、第１のニュー
ラルレイヤ２０のニューロン２２のみが「１」を出力す
る時「１」を出力し、それ以外の時「０」を出力する。

同様にして、ニューロン３３は、第１のニューラルレイ
ヤ２０のニューロン２３のみがｒ１，を出力する時「１
」を出力し、またニューロン３４は、第１のニューラル
レイヤ２０のニューロン２４のみがｒｌＪを出力する時
「１」を出力する。一方、出力レイヤ９０のニューロン
９１は、第２のニューラルレイヤ３０のニューロンの少
なくともひとつが「１」を出力する時「ｌ」を出力する
。

したがって、Ａ，Ｂ，Ｃ，Ｄの入力データがビットパタ
ーンでｒ　Ｏ　Ｏ　Ｏ　］．　Ｊの場合、第１のニュー
ラルレイヤ２０においてニューロン２３のみが「１」を
出力し、他のニューロン２ｌ、２２、２４が「０」を出
力する。この結果、第２のニューラルレイヤ３０におい
てニューロン３３が「１」を出力することとなり、出力
レイヤ９０の二二一ロン９ｌが「ｌ」を出力する。同様
にしてＡ，Ｂ、Ｃ，Ｄが、ｒ００１０Ｊ，ｒｏ１００Ｊ
、「１０００」、ｒ１１１０Ｊ、ｒｌｌ０１，、「１０
１１」、ｒｏ１１１」の場合、第２のニューラルレイヤ
３０において、いずれかのニューロンが「１」を出力し
、出力レイヤ９０のニューロン９１が「１」を出力する
。

第２０図（ｂ）はニューラルネットワークの第５の実施
例を示し、この装置は入力データ群１０と第１、第２お
よび第３のニューラルレイヤ２０、３０、４０と出力レ
イヤ９０と杏有する。入力データ群１０は、入力データ
ＡＳＢ，Ｃ，Ｄからなる。第１のニューラルレイヤ２０
は４個のニューロン２１、２２、２３、２４、第２のニ
ューラルレイヤ３０は２個のニューロン３１、３２、第
３のニューラルレイヤ４０は２個のニューロン４１、４
２、出力レイヤ９０は１個のニューロン９１を有する。

入力データ群のデータＡ−Ｄは、それぞれ第１のニュー
ラルレイヤ２０の各ニューロンに入力され、第１のニュ
ーラルレイヤ２０の各ニューロンはそれぞれ第２のニュ
ーラルレイヤ３０の各ニューロンに接続される。第２の
ニューラルレイヤ３０の各ニューロンは第３のニューラ
ルレイヤ４０の各ニューロンに接続され、第３のニュー
ラルレイヤ４０の各ニューロンは出力レイヤ９ｏのニュ
ーロンに接続される。

各ニューラルレイヤ２０、３０、４０および出力レイヤ
９０における各ニューロンは、第２０図（ａ）の場合と
同様に、入力されるデータに応じて「１」または「０」
を出力する。

第１のニューラルレイヤ２０において、ニューロン２１
、２２、２３、２４は、Ａ，Ｂ，ＣＸＤを４ビットパタ
ーンで表した場合、それぞれ「ＯＩＸＸＪ、ｒｌｏｘｘ
」、ｒｘｘｏ１」、ｒＸＸ１０」の時「１」を出力し、
それ以外の場合「０」を出力する。一方、第２のニュー
ラルレイヤ３０において、ニューロン３１は、第１のニ
ューラルレイヤ２０のニューロン２１または２２が「ｌ
」を出力する時「１」を出力し、それ以外の時「０」を
出力する。またニューロン３２は、第１のニューラルレ
イヤ２０のニューロン２３または２４が「１」を出力す
る時「１」を出力し、それ以外の時「０」を出力する。

第３のニューラルレイヤ４０において、ニューロン４ｌ
は、第２のニューラルレイヤ３０のニューロン３２のみ
が「１」を出力する時「１」を出力し、それ以外の時［
ＯＪを出力する。またニューロン４２は、第２のニュー
ラルレイヤ３０のニューロン３１のみカ「１」を出力す
る時「Ｉ」を出力し、それ以外の時「０」を出力する。

一方、出力レイヤ９０のニューロン９ｌは、第３のニュ
ーラルレイヤ４０のニューロンの少なくともひとつが「
１」を出力する時「１」を出力する。

したがって、Ａ，Ｂ，Ｃ，Ｄの入力データがビットパタ
ーンでｒｏｏｏＩＪの場合、第１のニューラルレイヤ２
０においてニューロン２３のみが「ｌ」を出力し、他の
ニューロン２１、２２、２４が「０」を出力する。この
結果、第２のニューラルレイヤ３０においてニューロン
３２のみが「１」を出力し、第３のニューラルレイヤ４
０においてニューロン４２が「１」を出力することとな
る。したがって出力レイヤ９０のニューロン９１が「１
」を出力する。同様にしてＡ，Ｂ，Ｃ，Ｄが、’００１
０Ｊ、「０１００」、ｒｌｏ００，、ｒｌ　１　１　０
Ｊ、ｒ１１０１，、ｒｌｏ１１Ｊ、［０１１１Ｊの場合
、第２のニューラルレイヤ３０において、いずれかのニ
ューロンが「１」を出力し、これにより第３のニューラ
ルレイヤ４０のいずれか一方のニューロンが「ＩＪを出
力することとなり、第４のニューラルレイヤ４０のいず
れか一方のニューロンがｒｌＪを出力する。したがって
、出力レイヤ９０のニューロン９１が「１」を出力する
。

第２０図（ａ）から容易に理解されるように、比較例に
おいて、シナプス数は３６であり、ニューロン数はｌＯ
である。これに対し本実施例においては、第２０図（ｂ
）から理解されるようにシナプス数は３０であり、ニュ
ーロン数は１０である。しかして、論理演算（ＡｆＥ９
Ｂ）ｌＥ９　（ＣｅＤ）によって入力データを処理する
場合、比較例において３６個のシナプスが必要であった
のに対し、本実施例によれば３０個のシナブスですむこ
とが理解される。

すなわち、本実施例によればシナブス数は約２割減少し
、上記各実施例において述べたのと同様な効果が得られ
る。つまり、ニューラルレイヤの数を増加させるととも
に、出力レイヤ９０側に構築されるニューラルレイヤの
ニューロン数をそれよリ前段のニューラルレイヤのニュ
ーロン数以下に定めることにより、シナプス数を減少さ
せることができ、画像処理装置のメモリ容量を削減する
とともに演算速度を向上させることができる。

第２１図（ａ）、（ｂ）はニューラルネットワークの第
６実施例を比較例とともに表したものであり、この例は
入力データを論理演算 ＋　（ＡｅＢ）　ｅ（ＣｅＤ））　ｅＥ　　（８）に従
って処理する場合を示す。

第２１図（ａ）は比較例を示し、人力データ群１０は５
個のデータＡ−Ｅ、初段のレイヤ２０は１５個のニュー
ロン、出力レイヤ９０は１個のニューロンをそれぞれ有
する。比較例において、上記（８）式を展開して得られ
る各項をニューラルレイヤ２０の各ニューロンへ入力し
ている。したがって、全てのデータはＯ次データとして
処理されている。

これに対し、第２１図（ｂ）はニューラルネットワーク
の第６実施例を示し、この構成は入力データ群ｌＯと、
第１、第２、第３および第４のニューラルレイヤ２０、
３０、４０、５０と、出力レイヤ９０とを有する。第１
のニューラルレイヤ２０と第２のニューラルレイヤ３０
は（ＡｅＢ）と（ＣｅＤ）に従った処理をそれぞれ行い
、第３のニューラルレイヤ４０は（　（ＡｅＢ）　ｅ（
ＣｅＤ））に従った処理を行う。そして第４のニューラ
ルレイヤ５０および出力レイヤ９０により、｛（ＡＩＥ
９Ｂ）＄　（ＣｅＤ））　＠Ｅによる最終結果が求めら
れる。

第２１図（ａ）および第２１図（ｂ）の対比から理解さ
れるように、比較例において、シナプス数は８０、ニュ
ーロン数は１６であり、これに対し本実施例においては
、シナプス数は３２であり、ニューロン数は１０である
。しかして、本実施例によればシナプス数は約４割に減
少し、またニューロン数は約６割に減少する。したがっ
て本実施例においても、上記各実施例において述べたの
と同様な効果が得られる。

以上の説明から理解されるように、本発明において、入
力データ群、ニューラルレイヤ、および出力レイヤから
なる層構造は、そのデータ処理において必要とする次数
、および入力データの次数に応じて最適に構成される必
要があり、また入力データはその層構造に適合したレイ
ヤに入力される。なお、ここで次数とは、前述したよう
に、データあるいは処理内容の抽象度を意味する。

さて、ニューロンが上述のような処理を行うには、重み
が学習により適当な値に定められなければならない。こ
のため本実施例においては、後述するように、重みが時
間的に指数関数的に変化せしめられる。なお、重みの修
正方法として、特願昭６３−２９７５４１号に開示され
ているように大別して３つの方法があり、これらをここ
ではそれぞれモード■、モード■、モード■と呼ぶこと
とする。

モード■は第２２図に示すように、ニューロンの重みが
そのニューロンの出力に基づいて修正されるものである
。この修正方法は、各レイヤの出力の目標値が明らかに
なっている場合に有効である。さて、ある入力に対して
そのニューロンが出力を生じた場合その出力が目標値に
一致し、あるいは目標値に十分近かった時、その時の入
出力の関係は強化されるべきである。これは、有意な人
力が与えられたシナブスの重みを高めることに相当する
。モード■においては、各ニューロンの出力の目標値が
予め分かっているので、各ニューロンの出力を目標値と
比較し、両者が一致あるいは十分近かった時、例えば２
値入力の場合「１」が入力されたシナブスの重みが増加
せしめられる。

モード■は第２３図に示すように、ニューロンの重みが
最終的な出力の評価結果に基づいて修正されるものであ
る。この修正方法は、画像処理装置の処理内容を大局的
に判断する場合に有効である。このモードにおける評価
方法としては、出力レイヤの最終出力と目標値とのハミ
ング距離、あるいはビタゴラス距離の評価、あるいは惑
応的評価等が可能である。この評価の結果、出力が目標
値と一致あるいは十分近ければ、その時の入出力関係は
強化されるべきであり、その時、例えば「１」が入力さ
れた各シナブスの重みが増加せしめられる。

モード■は、入力をそのまま記憶するタイプの学習の場
合の重みの修正方法であり、人力とその人力に対して最
初に生じた出力との関係を強化する。すなわち、第２２
図の構成において、その人力に対して「１」を出力した
ニューロンにおける、ｒ１，が入力されたシナブスの重
みが増加せしめられる。

このような重みの修正において、発明者等は、まずニュ
ーロンの重みの変化を生体の神経細胞における膜電位の
変化と仮定した。つまり、重みが生体の神経細胞におけ
る膜電位と同様に設定されるならば、画像処理装置にお
ける学習の効率は生体の脳細胞と同様に極めて高くなる
と、考えられる。そしてまた、重みが膜電位と同様な変
化を示すのであれば、その変化は、一般的なＲＬＣ回路
と同様に指数関数で表現されると考えられる。しかして
重みＷは、第２４図に示すように、Ｗ一±ｅｘｐ（ｔ）
　　　　　　　　　　　　（　９　）で表される。ただ
し、Ｌは個々のニューロンにおける学習時間、すなわち
学習回数を表す。

（９）式において、シナブスが興奮型の場合には符号は
十になり、重みＷは、実線Ｉで示すように０から始まっ
て最初は急速に大きくなり、学習開始から時間がたつほ
どその変化量は小さくなり最大値Ｗ。に近づく。これに
対し、シナプスが抑制型の場合には符号はーになり、重
みＷは、実線Ｊで示すようにＯから始まって最初は急速
に小さくなり、学習開始から時間がたつほどその変化量
は小さくなり最小値Ｗ，に近づく。

学習の開始直後、そのシナブスについてあまりデータ相
関がないので、この時の重みＷは小さく定められるが、
その後、データ相関が大きくなっていくので、重みＷは
急速に大きくなり、これにより学習による収束が早めら
れる。これに対し、学習が進んで重みＷが既に大きくな
っている場合、そのシナプスはそれまでの学習において
十分データ相関がある。したがって、その重みＷをいた
ずらに変動させると、単に振動を起こすだけであり学習
における収束性を阻害することとなるが、重みＷはほと
んど変化しないように定められているので、十分な収束
性が得られる。

なお、従来、ニューロンの出力特性として抑制型および
興奮型ニューロンが考えられており、これを画像処理装
置として最適配置するには処理内容を考慮した詳細な検
討が必要であり、画像処理装置において抑制型ニューロ
ンと興奮型ニューロンの結合は複雑である。しかし本実
施例によれば、ひとつのシナブスの特性として重みＷの
符号を＋または一に選択するだけで、抑制型、興奮型を
任意に実現でき、したがって回路構成が単純化され、回
路の自由度が高まる。なお、抑制型ニューロンの存在に
よって、データの分離性が向上することは、ローゼンブ
ラット以来よく知られたところである（　１９５８年Ｐ
．Ｒｏｓｅｎｂｌａｔｔ　　“Ｔｈｅ　ｐｅｒｃｅｐｔ
ｒｏｎ：　　ａ　ｐｒｏｂａｂｉｌｉｓｔｉｃ　　ｍｏ
ｄｅｌ　　ｆｏｒ　　ｉｎｆｏｒｍａｔｉｏｎｓｔｏｒ
ａｇｅ　ａｎｄ　ｏｒｇａｎｉｚａｔｉｏｎ　ｉｎ　ｔ
ｈｅ　ｂｒａｉｎＰｓｙｃｈｏｌｏｇｉｃａｌ　Ｒｅｖ
ｉｅｗ　６５：　３８６−４０８）。

しかして本実施例によれば、画像処理装置における学習
の効率が向上し、最終出力データを早１■に収束かつ安
定化させることができる。また、上述のように、重みＷ
の正負の符号を変えるだけで抑制型および興奮型の特性
が得られるので、画像処理装置の回路の自由度が高まる
。

なお、重みＷの時間的変化は、必ずしも正確に指数関数
に定める必要はなく、例えば折れ線等で近似してもよい
。

次に、ニューラルネットワークの第７〜９実施例を説明
するとともに、本発明の第２の基本理念を解説する。

第２５図（ａ）は本発明のニエーラルネットワークの第
７実施例を示し、この実施例は、学習の結果（Ａ＋Ｂ）
の論理演算を実行するに到ったニューラルネットワーク
を示すものである。

この構成は、１層のニューラルレイヤ２０を存し、この
ニューラルレイヤ２０には、データ数と同数、すなわち
２個のニューロン２１、２２が設けられる。各ニューロ
ン２１、２２にはデータＡおよびＢがそれぞれ入力され
る。各ニューロン２ｌ、２２は、各データの入力経路と
の接続部分すなわちシナブスにおける重みＷｌと、閾値
θとを有する。学習により重みＷ，は変化し、ニューロ
ンは、所定の処理を行うようになる。本実施例では、学
習の結果、一方のニューロン２１のみが論理演算（Ａ＋
Ｂ）の処理を行い、他方のニューロン２２は実質的に作
用しない。すなわちニューロン２ｌは例えばｗ＋　＝ｌ
，ｗ２＝１、θ＝１に設定され、 ＡＷ＋　十ＢＷ２≧１ の時、出力データ「１」を出力する。一方ニューロン２
２は、例えば、Ｗ３＝０、Ｗ４＝０、θ＝１に設定され
、したがって常に、 ＡＷ．Ｊ＋ＢＷ４　＜　１ であり、閾値θを越えることはなく、出力データ「０」
を出力する。

しかしてニューロン２１は、データＡ，Ｂの少なくとも
一方が「ｌ」の時、出力データ「１」を出力し、本実施
例のニューラルネットワークは、論理演算（Ａ＋Ｂ）を
実行する。

第２５図（ｂ）は第８実施例を示し、この実施例は、学
習の結果（ＡｅＢ）の論理演算を実行するに到ったニュ
ーラルネットワークを示すものである。この構成は２層
のニューラルレイヤ２０、３０を有し、初段のニューラ
ルレイヤ２０にはニューロン２１、２２が設けられ、ま
た後段のニューロン３０にはニューロン３１、３２が設
けられる。初段のニューラルレイヤ２０のニューロン２
１、２２には、データＡおよびＢが入力される。

論理演算（ＡｅＢ）は、（ＸＢ＋ＡＢ）　とＨ開され、
ニューラルレイヤ２０において、ニューロン２ｌが（Ａ
Ｂ）の処理を行い、ニューロン２２が（ＡＥ）の処理を
行う。すなわちニューロン２１は、例えばｗ，＝ｌ、Ｗ
２＝１、θ−１に設定され、 ＡＷ，＋ＢＷ，≧１ の時、出力データ「１」を出力する。一方、ニューロン
２２は、例えばＷ３−１、Ｗ４＝１、θ一１に設定され
、 ＡＷ３＋ＢＷ４≧１ の時、出力データｒｌＪを出力する。

ニューラルレイヤ３０のニューロン３１は、（ＡＢ＋Ａ
Ｂ）の処理を行い、例えばＷ，＝１、Ｗ６＝Ｌ　θ−１
に設定され、ニューロン２ｌの出力をＹｌ、ニューロン
２２の出力をＹ２とすると”ｙ’＋　Ｗｓ　＋ＹＺ　Ｗ
６≧１ の時、出力ｒｌＪを出力する。一方ニューロン３２は実
質的に作用しない。

しかしてニューロン３ｌは、データＡＸＢの一方のみが
「１」の時出力データ「１」を出力し、両者が共に「１
」または「０」の時出力データ「ＯＪを出力し、本実施
例のニューラルネットワークは、論理演算（ＡｅＢ）を
実行する。

第２５図（Ｃ）は第９実施例を示し、この実施例は、学
習の結果（Ａ＋Ｂ）Ｃの論理演算を実行するに到ったニ
ューラルネットワークを示すものである。この構成は２
層のニューラルレイヤ２０、３０を有し、初段のニュー
ラルレイヤ２０にはニューロン２１、２２、２３が設け
られ、また後段のニューロン３０にはニューロン３１、
３２、３３が設けられる。初段のニューラルレイヤ２０
のニューロン２１、２２、２３には、データＡ，　Ｂお
よびＣが入力される。

ニューラルレイヤ２０において、ニューロン２１は（Ａ
＋Ｂ）の処理を行い、ニューロン２２は実質的に作用せ
ず、ニューロン２３は入力データＣをそのまま出力する
。すなわちニューロン２１は、例えばＷ１　＝１、Ｗ２
−１、Ｗ．＝Ｏ，　θ＝１に設定され、 Ａ　Ｗ　＋　＋　Ｂ　Ｗ　Ｚ　＋Ｃ　Ｗ　３≧１の時、
出力データ「１」を出力する。一方、ニューロン２２は
、例えば各重みＷ，　、Ｗ，　、Ｗ６が０に設定される
とともに、閾値θが１に設定され、実質的に作用しない
。またニューロン２３は、例？ば重みＷ７−０、Ｗ　ｅ
　＝　Ｏ、Ｗ，＝１、θ＝１に設定され、 ＡＷｆｆ　＋Ｂｗ．＋ＣＷ９≧１ の時、出力データ「１」を出力し、その他の時、出力デ
ータ「０」を出力する。

ニューラルレイヤ３０のニューロン３ｌは、ニューラル
レイヤ２０のニューロン２Ｌ２３の出力データに基づい
て（Ａ十Ｂ）Ｃの処理を行い、例えばＷ　＋＋　＝　１
、Ｗ１■＝０、Ｗ＋＋＝１、θ−２に設定され、ニュー
ロン２ｌの出力をＹ１、ニューロン２２の出力をＹ２、
ニューロン２３の出力をＹ３とすると、 Ｙ，ｗｌ，＋ｙＺ　ｗｌ■＋ＹｚＷｒ：＋≧２の時、出
力データｒｌＪを出力する。一方ニューロン３２、３３
は実質的に作用しない。

しかしてニューｐン３１は、データＡ，Ｂの少なくとも
一方が「ｌ」でありかつデータＣが「ＩＪのとき出力デ
ータ「ｌ」を出力し、本実施例のニューラルネットワー
クは、論理演算（Ａ＋Ｂ）Ｃを実行する。

二こで本発明の第２の基本理念を解説する。

第７実施例において、データＡ，Ｂは１つの作用素ｒ−
１−　（ＯＲ）Ｊにより結合されており、この論理演算
（Ａ＋Ｂ）は、１層のニヱーラルレイヤ２０によって実
行される。

第８実施例においては、データＡ，Ｂは「ｅ（ＥＸ−Ｏ
Ｒ）Ｊにより結合されており、この論理演算（ＡｅＢ）
　はＣＡＢ＋ＡＥ）　と展開される。

そして初段のニューラルレイヤ２０においてＡＢとＡＢ
が実行され、すなわち作用素ｒｘ　（ＡＮＤ）Ｊについ
ての論理演算が実行される。次いで、２段目のニューラ
ノレレイヤ３０において（八Ｂ＋ＡＥ）すなわち作用素
ｒ＋　（ＯＲ）Ｊについての論理演算が実行される。し
かして、第８実施例の論理演算は２層のニューラルレイ
ヤによって実行される。

第９実施例において、データＡ，Ｂは１つの作用素ｒ＋
　（ＯＲ）Ｊにより結合されており、この論理演算は初
段のニューラルレイヤ２０によって実行される。その論
理演算結果に対してデータＣが作用素ｒｘ　（ＡＮＤ）
Ｊにより結合されており、この論理演算（Ａ＋Ｂ）Ｃは
２段目のニューラルレイヤ３０によって実行される。し
かして第９実施例の論理演算は２層のニューラルレイヤ
によって実行される。

このように、ニューラルネットワークの処理内容を論理
演算子ｒＡＮＤＪ、ｒＯＲＪで表現した場合、論理演算
子の数、あるいは論理演算の構成に応じてニューラルレ
イヤの層数が増加している。

なお各データの次数は前述した通りであり、その定義に
よると、例えば、論理演算（ＡｅＢ）を行う第８実施例
において、データＡ，ＢをＯ次とすると、初段のニュー
ラルレイヤ２０の各ニューロン２１、２２においてそれ
ぞれ八ＢとＡＥｒの処理が実行され、１次の出力データ
が２段目のニューラルレイヤ３０のニューロンに入力さ
れる。そして２段目のニューラノレレイヤ３０において
、（ＡＢ＋ＡＪ）の処理が実行され、２次の出力データ
が出力される。すなわち、最終出力データは２次であり
、論理演算（ＡｅＢ）は、最終出力デ−夕の次数から入
力データの次数を引いた数すなわち２層のニューラルレ
イヤによって処理されると考えられる。

発明者らは、入力データに対して最終出力データの次数
が何次高いかを判断することにより、ニューラルレイヤ
のＮ数を決定することができる、つまり、ニューラルレ
イヤの層数は、最終出力データの次数から入力データの
次数をひいた数であると推測した。これが本発明の第２
の基本的な思想である。次数は、前述のようにデータの
抽象度であり、そのデータの有する性質によって定まり
、例えば図形認識において、画素データは０次であり、
ベクトルポイント、端点データ、六数のデータあるいは
オイラー数のデータはさらに高次である。例えばベクト
ルデータを用いて図形認識を行う場合、ベクトルポイン
トは他の画素データに比して高次であり、ベクトルポイ
ントの次数から他の画素データの次数をひいた数のニュ
ーラルレイヤを設ければよい。また、画素データから端
点データを求める場合、端点データの次数すなわち抽象
度を考慮し、端点データの次数から画素データの次数を
ひいた数のニューラルレイヤを設ければよい。この場合
の実施例については第２７図および第２８図を参照して
後述する。

第２６図はニューラルネットワークの第１０実施例を示
したものであり、この例は学習の結果、入力データＡ，
Ｂ，Ｃ，Ｄを論理演算 （ＡｅＢ）＄　（（ｊＢＤ） に従って処理するように到った場合を示す。なおＡ，Ｂ
，ＣおよびＤは「１」または「０」のデジタル値であり
、この論理演算の結果もｒｌ」または「０」のデジタル
値として出力されるとして説明する。

この実施例は、４つのニューラルレイヤ２０、３０、４
０、９０とを有し、最終段のニューラルレイヤ９０は最
終出力データを出力する出力レイヤである。第１のニュ
ーラルレイヤ２０は４個のニューロン２１、２２、２３
、２４を有し、同様に、第２のニューラルレイヤ３０は
４個のニューロン３１、３２、３３、３４を、第３のニ
ューラ？レイヤ４０は４個のニューロン４１、４２、４
３、４４を、出力レイヤ９０は４個のニューロン９１、
９２、９３、９４を有する。各データＡ〜Ｄは、それぞ
れ第１のニューラルレイヤ２０の各ニューロンに入力さ
れる。なお、各ニューロンは隣のニューラルレイヤの各
ニューロンに接続されるが、簡単のため、実質的に作用
に関係しない部分の線は、図中省略されている。

各ニューロンは、入力されるデータに対して乗じられる
重みＷＩと閾値θとを有し、上記（１）弐に従い、各人
力データと重みの積の総和が闇値以上の時出力データ「
ＩＪを出力し、この総和が閾値θよりも小さい時出力デ
ータｒ■，を出力する。

論理演算（ＡｅＢ）は、（ＡＢ＋，ＩＩ）と展開され、
ニューラルレイヤ２０において、ニューロン２１が（Ｘ
Ｂ）の処理を行い、ニューロン２２が（ＡＢ）の処理を
行う。また論理演算（ＣＩＩＩＥＩＤ）は、（ＣＤ＋Ｃ
ｒ５）と展開され、＝ユ　ｏ７２３が（ＣＤ）の処理を
行い、ニューロン２４が（ＣＤ）の処理を行う。

？なわちニューロン２１は、例えばＷ！ｌ＝−ｌ、Ｗ２
■＝１、Ｗｚｙ＝Ｏ、Ｗ．．＝Ｏ、θ＝１に設定され、 Ａ　Ｗ　ｚ　＋　＋　Ｂ　Ｗ　ｚ■＋Ｃ　Ｗｚ３＋　Ｄ
　Ｗｚ４≧１のとき出力データ「１」を出力する。ニュ
ーロン２２は例えばＷ２Ｓ＝１、ＷＺ＆＝　　１，Ｗｔ
’ｒ＝Ｏ、Ｗ　２　ａ　＝　Ｏ、θ＝１に設定され、Ａ
Ｗｚｓ＋ＢＷｚｂ＋ＣＷｚ７＋ＤＷｚａ≧１のとき出力
データ「ｌ」を出力する。同様にしてニューロン２３、
２４の重みＷ，と閾値θが定められる。

ニューラルレイヤ３０のニューロン３１は、（ＡＢ＋Ａ
Ｂ）の処理を行い、例えばＷｔ＋＝１、Ｗ，２＝１、Ｗ
ｆｆ：ｌ＝０、Ｗ３４＝Ｏ、θ＝１に設定され、ニュー
ロン２１、２２、２３、２４の出力をそれぞれＫ，Ｌ，
Ｍ，Ｎとすると、 Ｋ　Ｗ　３　１　＋　Ｌ　Ｗ　３■＋Ｍ　Ｗ　ｆｆ３　
＋Ｎ　Ｗ　３ａ≧１の時、出力データｒ１」を出力する
。同様に、ニューロン３３は、（ＣＤ＋ＣＩ））の処理
を行い、ニューロン２３、２４の出力の少なくとも一方
が？１，の時、出力データ「１」を出力する。なおニュ
ーロン３２、３４の各重みＷ直はＯに定められ、これら
のニューロンは実質的に作用しない。

したがってニューロン３１は（Ａ６１｝Ｂ）の結果を出
力し、ニューロン３３は（（［Ｄ）の結果を出力する。

ニューロン３ｌ、３２、３３、３４の出力をそれぞれＥ
，ＦＳＧＳＨとすると、ニューラルレイヤ４０のニュー
ロン４１は（ＥＣ）の処理を行い、またニューロン４３
は（ＥＣ）の処理を行う。すなわち、ニューロン４ｌに
おいて、例えばＷ　，　，　ｘ−１、Ｗ４■＝ＯＳＷ．
３＝Ｉ、Ｗ，．−　Ｏ、θ＝１に設定され、 ＥＷ４，＋ＦＷ４■＋Ｇ　Ｗ　ａ　ｚ　＋　Ｈ　Ｗ　ａ
　ａ≧１のとき出力データ「ｌ」を出力する。同様に、
ニューロン４３は、例えばＷａｓ”１、Ｗ　４　６＝　
Ｏ、Ｗ４，＝　　１，Ｗｓｓ＝０、θ＝１に設定され、
Ｅ　Ｗ４Ｓ＋Ｆ　Ｗａｂ＋　Ｇ　Ｗ４？十Ｈ　Ｗａｎ≧
１のとき出力データｒ１，を出力する。ニューロン４２
、４４の各重みＷ．はＯに定められ、これら？ニューロ
ンは実質的に作用しない。

出力レイヤ９０のニューロン９ｌは、（ＥＧ＋ＥＣ）の
処理を行い、例えばＷ９１＝１、Ｗｑｚ＝Ｏ、Ｗ９３＝
１、Ｗ．．＝Ｏ、θ＝１に設定され、ニューロン４１、
４２、４３、４４の出力をそれぞれＰ、Ｑ，Ｒ，Ｓとす
ると、 Ｐ　Ｗｑ＋　＋　ＱＷ９■＋ＲＷｑｘ＋ＳＷｑａ≧１の
時、出力データ「１」を出力する。ニューロン９２、９
３、９４は実質的に作用しない。このように使用目的が
限定され、出力データ数が明確であるならば実質的に作
用しないニューロンは省略可能である。

したがってニューロン９１は、（ＥｆＥＥＩＧ）の結果
、すなわち（ＡｅＢ）ｅ（ＣｅＤ）の結果を出力する。

論理演算（ＡｅＢ）および（ＣｅＤ）における出力デー
タの次数は、上述したように作用素「ｅ（ＥＸ−ＯＲ）
Ｊが２つの作用素ｒＡＮＤＪと［ＯＲＪによって置き換
えられるので、それぞれ２である。したがって、論理演
算（ＡｅＢ）　ｅ（ＣｅＤ）における出力データの次数
は、４であり、この論理演算は、入力データと同数（４
個）のニューロンを有する４層のニューラルレイヤによ
り確実に処理される。

第２７図および第２８図に、図形の端点を判断する画像
処理装置を示す。

図形の端点のとらえ方は、ここでは、第１８図（ａ）に
示すような３×３コンポリューションにおいて、第７図
（ｂ）（ｉ）〜（νｆｉｔ）のいずれかのパターンが生
じたときに、中央画素（第１８図（ａ）の画素Ｅ）は端
点てあるとする。この端点の判断は、中央画素以外の画
素Ａ−Ｄ，Ｆ−１のいずれか１つが図形濃度（例えば「
１」）であり、かつ中央画素Ｅが図形濃度であるときに
「端点」、それ以外のときに「端点てない」とする。

この判断のためのニューラルネットワークは、例えば第
２７図のように構成され、この図は本発明の第１１実施
例を示す。このニューラルネットワークは、９個のニュ
ーロン２１〜２９を有する第１のニューラルレイヤ２０
と、９個のニューロン３ｌ〜３９を有する第２のニュー
ラルレイヤ３０と、９個のニューロン９１〜９９を有す
る出力レイヤ９０とを備える。画素Ａ〜■のデータは第
１のニューラルレイヤ２０に入力される。

第１のニューラルレイヤ２０のニューロン２ｌは、画素
Ｅを除いた画素Ａ〜■のうち、画素Ａのみがｒ１，の時
、出力データｒ１，を出力する。

同様に、ニューロン２２、２３、２４、２５、２６、２
７、２８は、それぞれ両素Ｂ，Ｃ，Ｄ．．Ｆ、Ｇ，Ｈ，
Ｉの１個のみが「１」の時、出力データ「１」を出力す
る。したがって画素Ａ−Ｄ，Ｆ〜■のいずれか１つが「
１」のとき、ニューロン２１〜２８のいずれかが出力デ
ータｒ１，を出力する。一方、ニューロン２９は、画素
Ｅのデータをそのまま出力する。

第２のニューラルレイヤ３０のニューロン３１は、ニュ
ーロン２１、２９の出力がそれぞれ「１」の時、すなわ
ち画素ＡとＥがそれぞれ「１」の時、出力データ「１」
を出力する。同様に、ニューロン３２〜３８は、画素Ｂ
と巳が「１」の時、画素ＣとＥが「１」の時、画素Ｄと
Ｅが「１」の時、画素ＦとＥが「１」の時、画素ＧとＥ
が「ｌ」の時、画素ＨとＥが「１」の時、画素■とＥが
「１」の時、それぞれ、出力データ「１」を出力する。

なおニューロン３９は、この端点の判断処理に実質的に
関与しない。

出力レイヤ９０のニューロン９１は、第２のニューラル
レイヤ３０のニューロン３１〜３８の少なくとも１つが
出力データ「１」を出力する時、すなわち第１８図（ｂ
）の（ｉ）〜（νｉｉｉ）のいずれかのパターンが生じ
た時、出力データ「１」を出力する。この時、中央画素
Ｅは端点てあると判断される。なおニューロン９２〜９
９は、この端点の判断処理に実質的に関与しない。

ここで各画素データＡ−１をＯ次データと考えると、ニ
ューロン９１の出力は３次データであり、端点の判断処
理には３段階の論理演算が施されている。つまり、ニュ
ーラルレイヤ２０では、Ａ〜Ｄ，Ｆ〜■のうちの１つの
みが「１」であるか否かを判断するための論理積（例え
ばニューロン２■では、（ＡＥＣＩ５ＦＣＲＴ））　が
とられる。ニューラルレイヤ３０では、Ａ−ＤＳ　Ｆ〜
１のうちの１つのみがｒ１，であり、かつＥが「ｌ」で
あるか否かを判断するための論理積（例えばニューロン
３１では、（ＡＥＣｒ５ＦＧＨＴ　．Ｅ））　がとられ
る。ニューラルレイヤ９０ではＥが「ｌ」であり、かつ
Ａ−Ｄ，Ｆ〜■のうちのいずれか１つ「ｌ」であるとい
う論理和が判断される。

なお、この端点の判断処理に関し、ニューラルレイヤ３
０において、Ｅが「１」であり、かつＡ〜Ｄ，Ｆ−ｒの
うちのいずれか１つが「１」であるという論理和をとる
ことができ、これにより、２層のニューラルレイヤによ
って端点の判断処理を行うこともできる。しかし、出力
データと入力データの次数の差が３の場合、高々３層の
ニューラルレイヤを設ければ、端点の判断処理を確実に
行うことができる。

第２８図は本発明の第１２実施例を示す。この実施例に
おけるニューラルネットワークは、９個のニューロン２
１〜２９を有する第１のニューラルレイヤ２０と、９個
のニューロン３１〜３９を有する第２のニューラルレイ
ヤ３０と、９個のニューロン９１〜９９を有する出力レ
イヤ９０とを備える。画素Ａ−１のデータは第１のニュ
ーラルレイヤ２０に入力される。

第１のニューラルレイヤ２０のニューロン２ｌは、画素
Ａ−Ｄ，Ｆ〜■のうちの８個以上が「１」の時、出力デ
ータ「１」を出力する。ニューロン２２は、画素Ａ−Ｄ
，Ｆ〜１のうちの７個以上が「１」の時、出力データ「
１」を出力する。同様に、ニエーロン２３、２４、２５
、２６、２７、２８は、それぞれ、画素Ａ−Ｄ，Ｆ−１
のうちの６個以上、５個以上、４個以上、３個以上、２
個以上、および１個以上が「１」の時、出力データ「１
」を出力する。ニューロン２９は画素Ｅのデータをその
まま出力する。

第２のニューラルレイヤ３０のニューロン３ｌは、ニュ
ーラルレイヤ２０のニューロン２１〜２日のうちニュー
ロン２８のみが「１」を出力する時、出力データｒ１，
を出力する。すなわち、ニューロン３１は、画素Ａ−Ｄ
，Ｆ−１のうちの１個のみが「１」の時、出力データｒ
１，を出力する。ニューロン３２は、画素Ｅのデータを
そのまま出力する。なおニューロン３３〜３９は、この
端点の判断処理に実質的に関与しない。

出力レイヤ９０のニューロン９１は、ニューロン３１、
３２が共に「１」を出力するか否かを判断するために論
理積をとり、画素Ａ−Ｄ，Ｆ−１のうちの１つのみが「
１」であり、かつＥが「１」である時、出力データ「１
」を出力する。なおニューロン９２〜９９は、この端点
の判断処理に実質的に関与しない。

シカして、この実施例において、３層のニューラルレイ
ヤによって、端点データが判断されている。

上記第７〜第１２実施例において、データの次数はその
データに施された処理内容の数であり、各処理はそれぞ
れのニューラルレイヤによって行われていた。ここで処
理内容の例としては、論理演算子のｒＡＮＤＪ、「ＯＲ
」、”ＮＡＮＤＪ、ｒＮＯＲＪであり、ｒＥＸ−ＯＲＪ
およびｒＥＸ−ＮＯＲ．等の場合にはＩ’ＡＮＤＪある
いは「ＯＲ，に変換されなければならない。これは、「
ＥＸ−ＯＲ，等はひとつのニューラルレイヤによっては
処理され得ないからである。

なお、処理内容は論理演算子によって表現されるものに
限定されず、出力データの性質によって定められる。

以上のように上記各実施例によれば、凹直角部を含む良
好なベクトルデータが生成され、このベクトルデータを
認識部に与えるので、最小限のニューロン数による高度
の認識処理が可能であり、また、認識部自体はデータの
抽象度に応じた層構造、データ入力構成であるため、極
めて効率的な構成により所望の認識処理を確実に実行し
得る。

これによって、例えば印鑑照合、あるいはプリント配線
基板等の配線の欠けの検査等の品質管理を高精度に行う
ことができる。

〔発明の効果〕

以上のように本発明によれば、ベクトルデータを用い、
少ないメモリ容量で高速かっ、より確実に図形認識を行
うことができる画像処理装置を得ることが可能となる。

【図面の簡単な説明】

第１図は本発明の実施例を適用した画像処理装置を示す
ブロック図、 第２図は一般的な神経細胞モデルを示す概念図、第３図
は一般的な神経細胞モデルを示す概念図、第４図は処理
部を示すブロック図、 第５図は認識部を示すブロック図、 第６図はフリーマンのチェーンコードを示す概念図、 第７図は具体的図形に反時計方向のチェーンコードを付
した状態を示す概念図、 第８図は直線部の処理態様を示す概念図、第９図は１画
素偏位しつつ連続する直線の処理を示す概念図、 第ｌＯ図てａ）、（ｂ）は凹の直角の処理をより詳細に
示す概念回、 第１１図は他の凹の直角の処理を示す概念図、第１２図
は他の凸の直角の処理を示す概念図、第１３図は他の凸
の鋭角の処理を示す概念図、第１４図（ａ）、（ｂ）は
内周の処理を示す概念図、 第１５図は外周の境界画素にチェーンコードを付す処理
を示す概念図、 第１６図は内周の境界画素にチェーンコードを付す処理
を示す概念図、 第１７図（ａ）は比較例を示す概念図、第１７図（ｂ）
は他の比較例を示す概念図、第１７図（Ｃ）はニューラ
ルネットワークの第１実施例を示す概念図、 第１８図（ａ）は図形処理における３ｘ３コンボリュー
シゴンを示す図、 第１８図（ｂ）は各画素の図形濃度の状態を示す図、 第１８図（Ｃ）はニューラルネットワークの第２実施例
を示す概念図、 第１９図（ａ）はニューラルネットワークの第３実施例
を示す概念図、 第１９図（ｂ）はニューラルネットワークの第４実施例
を示す概念図、 第２０図（ａ）は比較例を示す概念図、第２０図（ｂ）
はニューラルネットワークの第５実施例を示す概念図、 第２１図（ａ）は比較例を示す概念図、第２１図（ｂ）
はニューラルネットワークの第６実施例を示す概念図、 第２２図はモード■の学習を行うニューラルネットワー
クの概念図、 第２３図はモードＨの学習を行うニューラルネットワー
クの概念図、 第２４図は重みの時間的変化を示すグラフ、第２５図（
ａ）はニューラルネットワークの第７実施例を示す概念
図、 第２５図（ｂ）はニューラルネットワークの第８実施例
を示す概念図、 第２５図（Ｃ）はニューラルネッ１・ワークの第９実施
例を示す概念図、 第２６図はニューラルネットワークの第１０実施例を示
す概念図、 第２７図はニューラルネットワークの第１１実施例を示
す概念図、 第２８図はニューラルネットワークの第１２実施例を示
す概念図である。 ２０、３０、４０、５０、９０ ・・・ニューラルレイヤ ２１〜２４、３１〜３４、４１、４２ ９１〜９３・・・ニューロン １００・・・認識部（図形認識手段） ２００・・・入力部 ３００・・・画像処理部（ベクトルデータ抽出手段）

Claims (1)

【特許請求の範囲】
1. （１）図形を構成する画素データをベクトル化するベク
   トルデータ抽出手段と、 このベクトルデータ抽出手段に接続され、入力されたデ
   ータに所定の重みを乗じたものの総和と閾値との比較結
   果に応じたデータを出力するニューロンが並列的に設け
   られるとともに、ベクトルデータの抽象度に応じた層構
   造のニューラルレイヤを有し、該ベクトルデータに基づ
   いて図形を認識する手段とを備えた画像処理装置。