JPH02292687A - 画像処理装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔産業上の利用分野〕 本発明は、いわゆるニューラルネットワークによって構
成され、図形の細線化データを用いてその図形を認識す
る画像処理装置に関する。

〔従来の技術〕

図形の細線化は、図形の形状の特徴を残しつつ連続した
１画素幅の曲線へ変換するものであり、図形認識のため
の処理として有望視されているが、現段階では、車両プ
ロフィルの分類の研究が行われている程度のレベルであ
り、実用段階には至っていない。また細線化の処理は一
般に長時間を要し、処理手法によっては「切れ」や「ひ
げ」を生じるなどの問題がある。

一方、ニューラルネットワークの概念を基礎とする画像
処理装置は、ニューラルネットワークの学習機能あるい
は連想機能のため、多様な画像認識が可能であり、また
高い認識率を得ることが期待できる。ニューラルネット
ワークは、第２図に示す神経細胞モデル（以下、ニュー
ロンという）ｌを第３図に示すように並列に設けて層状
に構成される。ニューロン１において、外部から人力さ
れるデータＤＩ，、ＤＩｔＳＤＩ＋．．　　・・・Ｄｒ
，にはそれぞれ重みＷ１、Ｗ２、Ｗ，、・・・Ｗ７が掛
けられ、これらの総和と閾値θとが比較される。この比
較方法としては種々のものが可能であるが、例えば、こ
の総和が閾値θ以上の時出力データＤｏが「１」となり
、またこの総和が閥値θより小さい時出力データＤＯが
ｒＱＪとなるように定められる。

ニューロン１からなる層すなわちニューラルレイヤは、
通常複数個設けられ、このようなニューラルレイヤを備
えた画像処理装置に対する人力データは、第１層目のニ
ューラルレイヤに入力される。また画像認識において、
この入力データは通常図形の画素データである。

［発明が解決しようとする課題］ しかし、このような画像処理装置において、全画素デー
タから所望の認識処理を行うためには、膨大な個数のニ
ューロンが必要であり、実用的な装置を具現化すること
は困難であり、また、画素データそのものをニューラル
ネットワークに入力するということ自体、生体系の処理
とは全く遊離した考え方である。

さらに従来はニューラルネットワークの構成と処理対象
データとの関係について確立した考え方はなく、確実に
所望の認識処理を実行する画像処理装置を構成すること
は困難であった。

本発明は、このような従来の問題点を解決すべく創案さ
れたもので、所望の認識処理を効率的かつ確実に実行し
得る画像処理装置を提供することを目的とする。

〔課題を解決するための手段］ 本発明に係る画像処理装置は、図形を細線化するととも
に細線化された画素データを出力する細線化データ出力
手段と、この細線化データ出力手段に接続され、入力さ
れたデータに所定の重みを乗じたものの総和と閾値との
比較結果に応じたデータを出力するニューロンが並列的
に設けられるとともに、細線化された画素データの抽象
度に応じた層構造のニューラルレイヤを有し、この細線
化された画素データに基づいて図形を認識する手段とを
備えたことを特徴としている。

〔作用］ 細線化されたデータは、図形認識手段の所定のニューラ
ルレイヤに入力され、図形認識が行われる。図形認識手
段は、図形認識のために必要最小限ノニューロンを有し
、少ないメモリで高速かつ確実に図形認識を行う。

〔実施例〕

以下図示実施例に基づいて本発明を説明する。

第１図は画像処理装置の概略的な構成を示す。

この画像処理装置は画像入力部２００と、画像処理部３
００と、認識部ｌＯＯと、システムメモリ４００を備え
、これらはシステムバスＢを通じて相互に接続されると
ともに、ＣＰＵ５０　０に接続されている。画像人力部
２００にはイメージスキャナ等の入力機器とＩ／Ｏとを
含み、Ｉ／Ｏには適宜、データ圧縮手段、データ保持の
ためのメモリ等が含まれる。画像処理部３００は細線化
データ出力手段である処理部３１０と、画像を保持する
フレームメモリ３３０とを備え、所望により内部に画像
人力部３４０が設けられる。認識部１００は、後に詳述
するように、画像処理部３００で得られた抽出データに
基づいて図形認識を行うものであり、ニューロンからな
る複数層のニューラルレイヤが構築され、このニューラ
ルレイヤの出カデータを記憶するメモリを備える。

第４図は画像処理部３００における処理部３１０を示す
ものであり、処理部３１０は、フレームメモリ３３０か
らマルチプレクサ３１１を介して選択的に取り込んだデ
ータをローカルバスＬＢを通じて近傍処理部３１２に転
送している。近傍処理部３１２はデータを所定近傍領域
（例えば３×３）単位でデータを保持し、これらのデー
タを並列に演算部３２０に入力する。演算部３２０は数
値演算部３２１および状態演算部３２５を有し、近傍処
理部３１２の出力は数値演算部３２１に入力される。数
値演算部３２１は、乗算部３２２、セレクタ３２３、統
合部３２４を順次接続してなり、微分その他のオペレー
タ処理や画像間演算は数値演算部３２１において行われ
る。数値演算は例えば各画素の濃度に乗数を乗じた後に
これを数値的に統合する処理を行うが、同一の画素には
異なる絶対値の乗数が掛けられることはないという発明
者の知見に基づき最前段に乗算部３２２が配置されてい
る。これによって乗算部のカーネル数は同時処理画素数
に等しい最小値とすることができ、これにともなって後
段のセレクタ３２３、統合部３２４のゲート数も減少す
る。したがって数値演算部３２１は小規模回路で最大限
の機能をもつことができ、処理速度も高速化される。

数値演算部３２１内のデータは状態演算部３２５に導か
れ、状態演算部３２５は、所定近傍領域内の画素に対し
て次のような判断または演算を行う。

１）中央画素が処理対象画素であるか否か。

ｉｉ）８近傍に中央画素と異なる濃度の画素が存在する
か否か。

ｉｉｉ）８近傍の各画素が中央画素と同一か否か。

ｉｖ）オイラー数算出のためのＴＦＤＥの各個数。

■）所定パターンとの一致度。

ｖｉ）その他。

このように数値演算とともに状態演算を並列的にしかも
別回路で行うことにより、各回路の効率化と高速化を図
ることができる。また状態演算部３２５の出力はそれ自
体が有効な特徴量であり、あるいは特徴量抽出のための
有効なデータである。

状態演算部３２５の出力は変換部３１３に入力され、さ
らに特徴抽出や、積算、比較などの処理により特徴量が
求められる。

変換部３１３はスタティックＲＡＭなどの高速メモリの
出力の分岐にフルアダーなどの軽演算部を接続し、この
軽演算部の出力を高速メモリのデータ入力にフィードバ
ックしてなるものである。

このような構成により、同一データに同一演算を．繰返
し施したり、データの積算、データの逐次比較等の複雑
な演算を小規模の回路において高速で行うことができる
。

演算部３２０、変換部３１３の出力は出力側のローカル
バスＬＢを通じて前記フレームメモリ３３０のいずれか
に戻されている。

出力側のローカルバスＬＢには、さらに逐次処理部３１
４が接続され、ラベリングや細線化などの逐次処理はこ
の逐次処理部で行われる。逐次処理部３１４は、ライン
メモリとラッチと論理部を備え、処理対象画素の１つ前
のラスクの処理後濃度を参照しつつ逐次処理を行う。

このような処理部においては、極めて多様な特徴量を高
速でもとめることができ、認識部１００に貴重な特（ｔ
！［量を供給し得る。なおフレームメモリ３３０として
デュアルポートメモリを採用すれば、データの読出し、
書き込みを極めて高速で行い得る。

次に認識部１００の構成を第５図に基づいて説明する。

認識部１００は、システムバスＢを介して、または認識
部１００に直接接続された入力系、すなわち画像処理部
３００から入力されたデータを処理し、処理結果を最終
出力データとして、データメモリ１１０に出力する。

認識部１００にはニューラルネットワークが構築される
。ニューラルネットワークの各ニューロンからの出力デ
ータＤＯは、前述したように、入力データと重みとの積
の総和が閾値θ以上の時「ｌ」となり、またこの総和が
閾値θより小さい時「０」となるように定められる。す
なわち、ＤＯ＝Ｉｌ（Σ　（Ｗ▲　ｘｏｒｔ　　）　一
θ｝　　（１）であり、ここでｒは正規化関数である。

認識部１００は、ニューラルネットワークにおける連想
の作用を為す出力データ生成部１２０を有し、出力デー
タ生成部１２０においては、各ニューロンについての線
型閾値関数（ΣＷ．Ａ，一θ）の演算が行われる。出力
データ生成部１２０の各部はＭＰＵ５００によって制御
される。

Ｗ，Ａ，の乗算は出力データ生成部１２０における乗算
回路１２１において実行される。１回毎のＷ　ＩＡ　ｒ
の演算結果は順次積算回路１２２に入力され、ΣＷ．Ａ
，の演算が行われる。積算回路１２２は、加算回路１０
４にフリップフロップ１０５を帰還的に接続してなり、
加算結果を一旦フリップフロップ１０５に保持したのち
、次のＷ，Ａ．の入力と保持された加算結果とを加算し
ていくことにより積算を行う。ΣＷ，Ａ，の演算結果は
閾値処理部１２３に入力され、（ΣＷ．Ａ．一θ）の演
算が行われる。さらに閾値処理部１２３においては、（
ΣＷ．Ａ，−θ）の演算結果を正規化する等の処理を行
い、出力データとする。（ΣＷ，Ａ，一θ）の演算結果
はバッファ１０６を介してデータメモリ１ｌＯに入力さ
れる。

乗算回路１２１には重みのデータと、入力あるいは出力
データとが並列的に入力されるため、２系統の入力ライ
ンを有するが、バッファ１０６はそのうちの一方の入力
ラインに接続され、この入力ラインは入出力双方向のラ
インとして使用される。バッファ１０６は、データメモ
リ１１０から乗算回路１２１にデータが転送される際に
はハイインピーダンスとなる。

各ニューラルレイヤのデータは、第１層については０次
入カデータおよび第１ニューラルレイヤの重みが入力さ
れ、第２層については１次出力データおよび第２ニュー
ラルレイヤの重みが入力される。すなわち第ｎニューラ
ルレイヤの出力（ｎ次出力データ）は第（ｎ＋１）ニュ
ーラルレイヤの入力となる。データメモリ１１０におい
て、重みのデータはシナプス重みエリア１　］．　ｌに
格納され、入出力データは人出力データエリア１１２に
格納される。また閾値処理部１２３に設定すべき各ニュ
ーロンの閾値は、データメモリ１１０またはシステムメ
モリ１０１に格納され、各ニューロンについての演算を
開始する前に閾値処理部１２３に転送される。

次に、画像処理部３００において行われる図形の細線化
について説明する。

画像中に１画素の点すなわち独立点、あるいはｌ画素幅
の線が存在する時、これらを消去したとすると画像の特
徴がそこなわれる。またその線の端点を消去したとする
と、その他の点も順次消去され、ついにはその線が消去
されて画像の特徴がｔＪ’！なわれる。従って細線化の
処理において独立点や端点は消去すべきでない。

またある画素が要となって２つ以上の図形が連結されて
いる状態の時、その画素を消去すると画像がトボロジー
的に変化してしまう。この連結状態は８連結についての
連結で評価され、２つ以上の図形の要となる画素の連結
数は２以上である。

したがって画素の特徴を保持するためには連結数が１で
ない画素は消去すべきでない。

一方第６図において、画像中に特定の画素値（例えば「
１」）の正方形が存在する時、これを細線化するにはま
ず１回の走査でその境界画素（図中Ｘ印で示す。）を周
囲の画素値（例えば「０」）に変化させ、１回毎の走査
で順次境界画素を「１」から「０」に変化させるという
処理を行う。

この時走査方向が左から右、上から下の通常の走査であ
ったとすると、当初の正方形における右下の画素、すな
わち図形中最後に走査される画素にはその他の境界画素
が周囲の画素値に変化（×印を付した）したときには端
点となり、これを消去することはできない。同様にその
左上、その左上（中央）の画素は毎回の走査で残ってし
まい、ついには第７図のような右下がりの「ひげ」を生
じてしまう。このような「ひげ」の発生を防止するため
に、ここでは端点を並列型で処理している。

ここに並列型の処理とは、１回の走査において、その回
画素値が変化した画素については、未だ変化していない
ものとみなして判断を行うものである。すなわち第６図
において変化済のＸ印を付した画素が未変化であると、
画素Ｅの上、左に同一画素値の画素Ａ，Ｂが存在するこ
とになり、Ｅは端点てなくなる。このためＥは１回目の
走査で周囲の画素値に変化し、その左上の画素も次回の
走査で周囲の画素値に変化し、「ひげ」の発生が防止さ
れる。

並列型処理と対照的な処理方法に逐次型処理があり、こ
の場合には、１回の走査において画素値が変化した画素
をその変化後の画素値に基づいて評価する。

しかしこのように端点を並列型で処理すると、次のよう
な問題を生じる。すなわち、第８図のような走査線の進
行方向に沿った２画素幅の直線は端点を並列型で処理す
ると消滅してしまう。

つまり第８図において、その左上の端の両素Ａは端点や
独立点ではなく、連結数は１でありかつ境界画素である
ので周囲の画素値（例えばｒＯＪ）に変えられる。その
右隣の両素Ｂは画素Ａが存在しなければ端点として残さ
れるが端点に関する処理は並列的であるのでＡが残って
いるものとしてＢの端点に関する処理が行われ、画素Ｂ
は消去されてしまう。次に走査線並列方向について１走
査だけ進んだ２段目の画素Ｃ，Ｄについては、まずＣが
単なる境界画素であるために消去され、さらに、Ａ，Ｂ
，Ｃが存在しているものとして画素Ｄの境界画素に関す
る判断が行われるので、画素Ｄも消去される。このよう
に２画素幅の縦線はついには消滅してしまう。

このような問題は、走査線の並列方向に沿った２画素幅
の直線についても全く同様に生じる。

このような２画素幅の直線の消滅を防止するため次のよ
うな条件ａ−ｉ）〜ａ−ｖ）を採用することにする。

すなわち、第９図〜第１３図の３×３のコンポリューシ
ョンにおいて、 ａ−ｉ）対象画素Ａの上および左の画素が周囲の画素値
（例えば［ＯＪ）であるとき、対象画素Ａには通常の画
素値と異なる指標的画素値（画像中に存在し得ない画素
値、例えばｒ−ＩＪ）を与える（第９図）。

ａ−ｉｉ）ａ−ｉ）の条件に合致しない場合であって、
逐次型で判断して、対象画素Ａの上の画素Ｃが指標的画
素値であり、下の画素Ｂが周囲の画素値であるとき、対
象画素Ａをそのまま保存する（第１０図）。

ａ−ｉｉｉ）ａ−ｉ）の条件に合致しない場合であって
、逐次型で判断して、対象画素Ａの左の画素Ｃが指標的
画素値であり、右の画素Ｂが周囲の画素値であるとき、
対象画素Ａをそのまま保存する（第１１図）。

ａ−ｉｖ）ａ−ｉ）〜ａ　−　ｉｉｉ　）の条件に合致
しない場合であって、逐次型で判断して、対象画素Ａの
上の画素Ｂが指標的画素値であり、並列型で判断して、
画素Ｂの左右の画素Ｃ，　、Ｃ，が周囲の画素値である
とき、対象画素Ａを指標的画素値とする。

ａ−ｖ）ａ−ｉ）〜ａ　−　ｉｊ　）の条件に合致しな
い場合であって、逐次型で判断して、対象画素Ａの左の
画素Ｂが指標的画素値であり、並列型で判断して、画素
Ｂの上下の画素Ｃ，　、Ｃ２の画素が周囲の画素値であ
るとき、対象画素Ａを指標的画素値とする。

そしてこのような処理によって生じた指標的画素値の画
素は次回の走査に際して周囲の画素値とする。

走査の方向を左から右、上から下に限らなければ、これ
らの条件ａ−ｉ）〜ａ−Ｖ）は次のようにｂ−ｉ）〜ｂ
−ｖ）として一般化される。

ｂ−ｉ）並列型で判断して、■走査線の進行方向につい
て対象画素の１つ前の画素、および走査線並列方向につ
いて１つ前の走査線における、対象画素の位置に対応し
た画素が周囲の画素値または指標的画素値である時、対
象画素を指標的画素値に変換する。

ｂ−ｉｉ）ｂ−ｉ）の条件に合致しない場合であって、
逐次型で判断して、走査線の並列方向について１つ前の
走査線における対象画素の位置に対応した画素が指標的
画素値であり、なおかつ、走査線の並列方向について１
つ後の走査線における対象画素の位置に対応した画素が
周囲の画素値である時、対象画素をそのまま保存する。

ｂ−ｉｉｉ）ｂ−ｉ）の条件に合致しない場合であって
、逐次型で判断して、１走査線の並列方向について、１
つ前の画素が指標的画素値であり、１つ後の画素が周囲
の画素値である時、対象画素をそのまま保存する。

ｂ　−　ｉｖ　）　ｂ　−　ｉ　）　〜ｂ　−　ｉｉｉ
　）の条件に合致しない場合であって、逐次型で判断し
て、走査線の並列方向について１つ前の走査線における
対象画素の位置に対応した画素が指標的画素値であり、
なおかつ、並列型で判断して１走査線の進行方向につい
て、この画素の前後の画素が周囲の画素値である時、対
象画素を指標的画素値とする。

ｂ−ｖ）ｂ−ｉ）〜ｂ　−　ｉｉｉ　）の条件に合致し
ない場合であって、逐次型で判断して、１走査線の進行
方向について１つの前画素が指標的画素値であり、並列
型で判断して、走査線の並列方向についてこの画素の前
後の走査線におけるこの画素の位置に対応した画素が周
囲の画素値である時、対象画素を指標的画素値とする。

これらの条件は第１４図〜第１６図の図形の処理に対応
する。

第１４図（ａ）の図形は縦の２画素幅の直線であり、前
記条件ａ−ｉ）およびａ　−　ｉｉｉ　）に対応する。

この図形はまず上端左の画素が判断の対象となり、この
画素にはａ−ｉ）の条件により、指標的画素値（例えば
ｒ−ＩＪ）が付される。次にその右の画素が判断の対象
となり、これは条件ａ　−ｉｉｉ　）により、周囲の画
素値とはされずにそのままの画素値（例えば「ｌ」）が
残される。これによって２画素幅の縦の直線は最下端の
画素を除き右側の一画素幅の直線に細線化されることに
なる。

第１４図（ｂ）の図形は水平な２画素幅の直線であり、
前記条件ａ−ｉ）およびａ　−　ｉｉ　）に対応する。

この図形はまず上段左端の画素が判断の対象となり、こ
の画素にはａ−１）の条件により指標的画素値（例えば
’−ＩＪ）が付される。上段はこの左端の画素以外の画
素は全て消去される。

次に２段目にｆ多ると、左端の画素は条件ａ　−　ｉｉ
　）により、そのままの画素値（例えば［１』）が残さ
れ、以後の画素も同様に残される。これによって２両素
幅の水平な直線は右端の画素を除き下段の１画素幅の直
線が残されることになる。

第１５図（ａ）の図形は縦の２画素幅の直線の上端に、
左寄りに画素Ａを付加したものであり、前記条件ａ−ｉ
）およびａ−ｉｖ）に対応する。（ただし右寄りに画素
を付加した図形も同様に処理される。） この図形に対し、単なる並列型の端点判定条件を用いる
と、まず画素Ａは端点てはない（２画素Ｂ，Ｃに接して
いる。）ので周囲の画素値に変換されてしまう。次に２
画素幅の部分に移ると、左側の画素Ｂは、上側の画素Ａ
が存在しているものとして判断が行われるため、周囲の
画素値に変換される．このためついにはこの図形は消滅
することになる。

そこで第１６図（ａ）に示すように、条件ａ　−ｉ）に
より画素Ａには指標的画素値を与え、画素Ｂにも条件ａ
−ｉｖ）により指標的画素値を与える。

これによりこの図形は最下端の画素を除き右側の１画素
幅の直線に細線化される。

第１５図（ｂ）の図形は水平な２画素幅の直線の左端上
側に画素Ａを付加したものであり、前記条件ａ−１）お
よびａ−ｖ）に対応する．（ただし下側に画素を付加し
た図形も同様に処理される。

）この図形に対し、単なる並列型の端点判定条件を用い
ると、まず画素Ａは端点てはない（２画素Ｂ，Ｃに接し
ている．）ので周囲の画素値に変換されてしまう。次に
２画素幅の部分に移ると、上側の画素Ｂは、左側の画素
八が存在しているものとして判断が行われるため、周四
の画素値に変換され、ついには上段の画素は全て周囲の
画素値に変換される。次に２段目に移るとその左端の画
素は画素八の存在により消去され、ついには２段目の画
素は全て周囲の画素値に変換される。このためこの図形
は最終的には消滅することになる。

そこで第１６図（ｂ）に示すように、条件ａ−ｉ）によ
り画素Ａには指標的画素値を与え、画素Ｂにも条件ａ−
ｖ）により指標的画素値を与える。

これによりこの図形は右端の画素を除き下側１両素幅の
直線に細線化される。

このように「ひげ」を生じさせることなく２画素幅の直
線が確実に１画素幅の直線として残るため、細線化の処
理結果は良好である。そして１回の走査で１層の境界画
素の処理が終了するので、処理は高速である。

なお以上の実施例では画像中に周囲の画素値でない１種
類の画素値の図形が存在する場合について説明したが、
多種の画素値、例えば図形のグループ毎にラベリング番
号を付した場合には、各ラベリング番号を処理対象とな
る画素値として取扱い、各グループ毎に前記と同様に細
線化し、あるいは所望のラベリング番号の図形のみをそ
れぞれ前記と同様に細線化し得ることはいうまでもない
。

画像処理部３００はこのような良好な細線化データを高
速で出力する。この処理時間は、原図形の最大線幅の１
／２×スキャン時間であり、５ｌ２Ｘ５　１　２画素の
画像を１画素４Ｑｍｓｅｃで処理する場合、最大線幅が
２０画素であれば、０．１ｓｅｃ程度の処理時間となる
。そして細線化図形は図形のトボロジーを保存した高度
な圧縮データであるから、認識部１００において最小限
のニューロン数で認識処理を行い得る。なお、認識部に
与えるデータとしては、細線化画素そのもの、端点、分
岐点の座標、個数、分岐点の分岐数、ループ数、曲率、
変曲点等の種々のデータが考えられ、また細線化画素を
ベクトル化したデータを与えることもできる。

次に、図形の細線化データに基づいて図形認識を行うニ
ューラルネットワークについて説明する。

ニューラルネットワークは認識部１００（第１図）に構
築され、後述するように、細線化データの抽象度に応じ
た層構造を有する。

実際にニューラルネットワークによって実行される処理
内容は極めて複雑であるが、極めて単純な論理演算が実
行されると仮定して、ニューラルネットワークの第１実
施例を説明するとともに、この発明の基本理念を解説す
る。

第１７図（ａ）、（ｂ）、（ｃ）は学習の結果Ａ・（Ｂ
＋Ｃ）　　　　　　　　　（２）の論理演算が実行され
るに到ったニューラルネットワークを示すものである。

第１７図（ａ）、（ｂ）は比較例を示し、第１７図（ｃ
）はニューラルネットワークの第１実施例を示す。

第１７図（ａ）は、初段のニューラルレイヤ２０にデー
タ群１０におけるＡ，Ｂ，Ｃの３データの全ての組合せ
の数２３−８個のニューロン２１〜２８が設けられ、第
２段のニューラルレイヤ３０に初段ニューロン２１〜２
日の出力のＯＲ（論理和）を演算する１個のニューロン
３１が設けられた構成を示している。図中、ニューロン
２１〜２８の上に付したｒｏｏＯＪなとの数値はデータ
Ａ，Ｂ，Ｃよりなるビットパターンを示し、これらのニ
ューロンはこのビットパターンが入力されるときに出力
「１」を出力する。このニューラルネットワークにおい
ては、ニューロン数が９、シナプス数（ニューロンに接
続される人力経路の数）が３２であり、ニエーロンおよ
びシナブスの効率が極めて低く、所要メモリ容量が大で
あるとともに処理時間も大である。

第１７図（ｂ）は（２）式を以下のように展開し、Ａ−
Ｂ　　　＋　　Ａ−Ｃ　　　　　　　　　　　　　　（
３）演算の単純化を図った例であり、初段ニューラルレ
イヤ２０は、Ａ−Ｂの演算を処理するためのニューロン
２ＬＡ−Ｃの演算を処理するためのニューロン２２を備
える。第２段のニエーラルレイヤ３０はニューロン２１
、２２の出力のＯＲを求めるニューロン３ｌを有する。

ニューロン２１においては、データＡ，Ｂ，Ｃに対する
重みＷ＋−Ｗｘは、例えばＷ，−１、Ｗｔ”ｌ　ＳＷ！
　−０に設定され、 ＡＷＩ　＋ＢＷ，　＋ＣＷ２≧２　　　（４）のときに
出力「Ｉ」を出力する。したがってこの場合、閾値θ＝
２とされる。同様に、ニューロン２２では、Ｗａ　”Ｌ
，Ｗｓ冨０，Ｗｂ干ｌ，θ閣２となる。一方二エーロン
３１では、Ｗ，−ｔ，Ｗａ　”　ｌ、θ−１となる。

第１７図（ｂ）のニューラルネットワークにおいて、ニ
ューロン数は３、シナブス数は８であり、第１７図（ａ
）のニエーラルネットワークに比較すれば、大幅にニュ
ーロン効率、シナプス効率が向上している。しかし、次
に述べるように本発明によれば、さらにこれらの効率が
向上する。

第１７図（Ｃ）は本発明のニューラルネットワークの第
１実施例を示すもので、この構成は、初段ニューラルレ
イヤ２０および第２段ニューラルレイヤ３０を有し、初
段ニューラルレイヤ２０には、データＢ，Ｃのみが入力
され、そして第２段ニューラルレイヤ３０には、データ
Ａが直接入力される。初段ニューラルレイヤ２０には、
（Ｂ＋Ｃ）の演算を行うための１個のニューロン２ｌが
設けられ、第２段二エーラルレイヤ３０には、Ａ（Ｂ＋
Ｃ）の演算を行うための１個のニューロン３１が設けら
れる。ニューロン２１は、例えば重みＷ１＝１、Ｗ２＝
１、θ＝１に設定され、ＢＷ，　十〇Ｗ，≧１　　　　
　　　（５）のとき出力「１」を出力する。一方ニュー
ロン３１は、例えば、Ｗ，＝ｌＳＷ，＝１、θ＝２に設
定され、ニューロン２１の出力をＹ１とすると、Ｙ　Ｉ
　Ｗ　３　＋　Ａ　Ｗ　４≧２　　　　　　　（６）の
とき、出力「１」を出力する。この実施例においては、
ニューロン数２、シナプス数４であり、第１７図（ｂ）
の比較例よりも大幅にニューロン効率、シナプス効率が
向上している。

ここで本発明の第１の基本理念を解説する。

再び（２）式に注目すると、データＢ．．Ｃ、は１つの
作用素ｒ＋　（ＯＲ）Ｊにより結合されており、データ
Ａは、その演算結果に対して作用素「×（ＡＮＤ）Ｊで
結合されている。したがって本来データＢ，Ｃとデータ
Ａとは同一次元で評価すべきものではなく、それを敢え
て同一次元で評価しようとすると、第１７図（ａ）、（
ｂ）の比較例のように効率の低下を招来する。

？こで、ニューロンの処理内容が下記（力式の評価のみ
であると仮定する。

ΣＷ．Ａ，一〇　　　　　　　　　　（７）（ただし、
Ｗ．：重み、Ａ，：入力、θ：閾値）そして、各データ
についてその抽象度を定義できると仮定し、その抽象度
を「次数」と呼ぶ。

この次数は、１個のニューロンにおける入力データに対
し、出力データが１次だけ次数が増加すると定義する。

また、１つの作用素により結合されたデータ相互は同一
次数であると定義する。

このような定義によると、（２）弐の場合、データＢ，
Ｃは同一次数であり、データＡはそれよりも次数が１次
だけ高い。ここでデータＢ，Ｃの次数としてｒ■，を与
えるとすると、データ八の次数はｒ１，である。

このデータの次数とニューラルレイヤの階層との関係を
考えると、第１７図（Ｃ）において、ニューラルレイヤ
２０にはＯ次のデータのみが人力され、ニューラルレイ
ヤ３０には１次のデータのみが入力されている。したが
って、ニューラルレイヤ２０、３０を入力データの次数
に対応づけ得ることが明らかであり、以後ニューラルレ
イヤにも人力データと同一の次数を定義するものとする
。

そして、ニューラルネットワークに入力すべきデータ群
をその次数に応じて分頻し、各次数のデータをそれに対
応した次数のニューラルレイヤに入力することによって
、ニューロン効率、シナプス効率が最適化する。

また、第１７図（ａ）、（ｂ）に関連して説明したよう
に、高次のデータを低次数化して処理することも可能で
あり、この場合にはニューロン効率、シナプス効率が低
下する。したがって各データの次数は、そのデータがと
り得る最も高い次数を基準とすべきである。

なお、（Ａ十Ｂ）　　・Ｂのように１つのデータが複数
の次数にわたって使用されることもあり、この場合、１
つのデータを複数のニューラルレイヤに入力するように
してもよい。

次数の本来の意味である抽象度をより分かり易く説明す
る例として、第１８図（ａ）〜（ｃ）に図形の端点を判
断ずる構成を示す。

図形の端点のとらえ方は種々考えられるが、ここでは、
３×３コンポリューション（第１８図（ａ））において
、第１８図（ｂ）　（ｉ）　〜（ｖｉｉｉ）のいずれか
のパターンが生じたときに、中央画素（第１８図（ａ）
の画素Ｅ）は端点てあるとする。

この端点の判断は中央画素以外の画素Ａ−Ｄ，Ｆ〜Ｉの
いずれか１つが図形濃度（例えば「１」）であり、かつ
中央画素Ｅが図形濃度であるときに「端点」、それ以外
のときに「端点てない」とする。

この判断のためのニューラルネットワークは例えば第１
８図（Ｃ）のように構成され、この図はニューラルネッ
トワークの第２実施例を示す。このニューラルネットワ
ークは、８個のニューロン２１〜２８を有する初段ニュ
ーラルレイヤ２０、および１個のニューロン３ｌを有す
る第２段ニューラルレイヤ３０を有し、画素Ａ〜Ｄ，Ｆ
−１のデータが初段ニューラルレイヤ２０に、画素Ｅの
データが第２段ニューラルレイヤ３０に人力されている
。

初段ニューラルレイレのニューロン２１〜２８はそれぞ
れＡのみ、Ｂのみ、Ｃのみ・・・が図形画素「１」であ
ることを判別し、第２段ニューラルレイヤ３０のニュー
ロン３１は、ニューロン２１〜２８のいずれかがｒｌＪ
を出力し、かつＥが図形画素ｒｌＪであるときに出力「
１ｊを出力する。

ここで各画素データＡ−Ｄ，Ｆ〜■を０次データと考え
ると、ニューロン３ｌの出力は２次データとなる。した
がって、各画素のデータを０次データと考えた場合、端
点データは２次データとして取扱い得ることが分かる。

画像処理部３００からは、グループ数、六数、オイラー
数、テクスチャ特ｆｆｉｕＪ等種々のデータが出力され
るが、これらデータの次数を考慮し最適なニューラルレ
イヤに直接入力すべきである。

第６図〜第１６図を参照して説明した細線化された画素
データの場き、各グループ（例えば文字データの場合、
その文字を表す画素データのグルーブ）毎の端点数、端
点の座標、分岐数、分岐点数、分岐点座標、ループ数、
曲率、変曲点等のデータは、画素データに比較して抽象
度が高い。すなわち、画素データが０次データであるの
に対して端点数等はより高次のデータであり、ニューラ
ルネットワークにおいて画素データは初段のニューラル
レイヤに入力され、端点等のデータは後段のニューラル
レイヤに入力されるべきである。

第１９図（ａ）はニューラルネットワークの第３実施例
を示し、この実施例においてニューラルネットワークは
、データ群１０とニューラルレイヤ２０、９０とを有し
、レイヤ９０は出力データを認識部ｌ００に出力する出
力レイヤとなっている。

データ群１０は、第１グループのデータ１１、１２、ｌ
３・・・と、第２グループのデータｌ４、１５、１６・
・・とからなる。すなわちデータ群１０のデータは、そ
の次数に応じて第１および第２グループの２種頻に分類
されている。

ニューラルレイヤ２０はニューロン２１、２２、２３・
・・を有し、また出力レイヤ９０はニューロン９１、９
２、９３・・・を有する。ニューラルレイヤ２０の各ニ
ューロンは出力レイヤ９０の各ニューロンに接続される
。第１グループのデータ１１、１２、１３・・・はニュ
ーラルレイヤ２０の各ニューロンにそれぞれ人力され、
第２グループのデータ１４．．１５、１６・・・は出力
レイヤ９０の各ニューロンにそれぞれ入力される。

ニューラルレイヤ２０の各ニューロンは、例えば上記（
１）式に示されるように、入力された各データに重みを
乗じたものの総和と閾値とを比較し、この比較結果に応
じて、出力データ「１」または「０」を出力する。出力
レイヤ９０の各ニューロンは、ニューラルレイヤ２０の
各ニューロンおよび第２グループのデータ１４、１５、
１６・・・にそれぞれ重みを乗じたものの総和を求め、
この総和と閾値との比較結果に応じて，、ニューラル１
／イヤ２０のニューロンと同様に「ｌ」または［ＯＪの
データを出力する。

第１グループのデータ１１．，！．２、工３・・・？、
例えば、画素が「１」　（例えば黒）かｒ■，（例えば
白）かを示すＯ次データであり、また第２２グループの
データ１４、１５、ｌ６・・・は、画像の特徴を示す高
次のデータである。

しかして第３実施例において、第１グループのデータす
なわち低次のデータは、ニューラルレイヤ２０のニュー
ロンに入力され、第２グループのデータすなわち高次の
データは、出力レイヤ９０のニューロンに入力される。

したがって、ニューラルレイヤ２０のニューロンは、よ
り低次の処理すなわち例えば画素そのもののデータに対
する処理を行い、出力レイヤ９０のニューロンは、より
高次の処理すなわち例えば画素の持つ様々な性質等に対
する処理を行う。

このように、第３実施例においては、高次のデータが直
接出力レイヤ９０に入力され、ニューラルレイヤ２０に
は入力されないので、シナプス数すなわち人力要素とニ
エーロンあるいはニューロン同士の接続部の数は減少し
、またニューロン数も減少する。シナブス数が少なくな
ると、ニューロンにとって演算回数が減少するために、
演算速度が上昇し、また重みデータ数も減少するので、
メモリ容量も小さくてすむ。また、ニューロン数が少な
くなると、閾値の数も少なくてすみ、これによりメモリ
容量が小さくなるとともに、演算回数も少なくなり演算
速度が上昇する。しかして本実施例によれば、小さいメ
モリ容量でかつ高速の演算処理が可能になり、単純な回
路で効率の高い画像処理装置が得られる。

第１９図（ｂ）はニューラルネットワークの第４実施例
を示し、この実施例における画像処理装置は、３つのグ
ループの入力データ群１０と、ニューラルレイヤ２０、
３０および出力レイヤ９０を有する。

入力データ群１０は、第１グループのデータＩ１、１２
、１３・・・と、第２グループのデータ１４、１５、１
６・・・と、第３グループのデータＩ７、１８、ｌ９・
・・とを備える。すなわち人力データ群は、第３実施例
と異なり、３種類に分類されている。第１のニューラル
レイヤ２０はニューロン２１、２２、２３・・・を有し
、また第２のニューラルレイヤ３０はニューロン３１、
３２、３３・・・を有する。出力レイヤ９ｏは、ニュー
ロン９１、９２、９３・・・を有する。第１のニューラ
ルレイヤ２０の各ニューロンは、第２のニューラルレイ
ヤ３０の各ニューロンに、また第２のニューラルレイヤ
３０の各ニューロンは、出力レイヤ９０の各ニューロン
にそれぞれ接続される。

第１グループのデータ１１１２、１３・・・はｍｌ（７
）ニューラルレイヤ２０の各ニューロンニ、第２グルー
プのデータｌ４、１５、１６・・・は第２のニューラル
レイヤ３０の各ニューロンに、第３グループのデータ１
７、１８、１９・・・は出力レイヤ９０の各ニューロン
にそれぞれ接続される。

各ニューロンは、第３実施例と同様に、例えば上記（１
）式に従い、入力された各データに応じて、出力データ
「１」または「０」を出力する。　第１グループのデー
タＩＬ１２、１３・・・は０次データ、第２グループの
データｌ４、１５、１６・・・は１次データ、第３グル
ープのデータｌ７、１８、ｌ９・・・は２次データであ
る。すなわち、第２のニューラルレイヤ３０には高次の
データが人力され、出力レイヤ９０にはさらに高次のデ
ータが入力される。

この第４実施例においても、第３実施例と同様に、シナ
プス数は減少し、またニエーロン数も減少する。したが
って、第３実施例と同様な効果が得られる。

第２０図（ａ）、（ｂ）はニューラルネットワークの第
５実施例を比較例とともに表したものであり、この例は
入力データを論理演算 （ＡｆＥＥＩＢ）　ｅ（ＣｅＤ） に従って処理する場合を示す。なおここで、ｅは「排他
的論理和」を示し、またＡ，Ｂ，Ｃ，ＤはｒｌＪまたは
「０」のデジタル値であり、この論理演算の結果も「１
」または「０」のデジタル値として出力されるとして説
明する。

第２０図（ａ）は比較例を示し、この装置は入カデータ
を連過させるための入力データ群１ｏと第１および第２
のニューラルレイヤ２０、３ｏと出力レイヤ９０とを有
する。入力データ群１ｏは入力データＡ，Ｂ，Ｃ，Ｄか
らなる。第１のニューラルレイヤ２０は４個のニューロ
ン２１，２２、２３、２４を有し、第２のニューラルレ
イヤ３ｏは４個のニューロン３１、３２、３３、３４を
有する。各データＡ−Ｄは、それぞれ第１のニューラル
レイヤ２０の各ニューロンに入力され、第１のニューラ
ルレイヤ２０の各ニューロンはそれぞれ第２のニューラ
ルレイヤ３ｏの各ニューロンに接続される。一方、出力
レイヤ９０は１個のニューロン９ｌを有し、このニュー
ロン９１には、第２のニューラルレイヤ２０の各ニュー
ロンがそれぞれ接続される。

第１のニューラルレイヤ２０において、各ニューロン２
１は各入力データに対して乗じられる重みと閾値とを有
し、上記（１）式に従い、各人力データと重みの禎の総
和が閾値以上の時出力データ「１」を出力し、この総和
が閾値θよりも小さい時出力データ「ＯＪを出力する。

同様にニューロン２２、２３、２４も各入力データに応
じて、「１」または「０」を出力する。第２のニューラ
ルレイヤ３０においても同様に、各ニューロンは、入力
データに応じて「ｌ」または「０」を出力する。

出力レイヤ９０のニューロン９１も同様に、第２のニュ
ーラルレイヤ３０のニューロンからの出力データに応じ
て、「１」または「０」のデータを出力する。

さて論理演算（ＡｅＢ）　ｅ（ＣｅＤ）　の演算結果は
、データＡ，Ｂが不一致で、かつＣ，Ｄが一致するとき
、またＡ，Ｂが一致し、かつＣ，Ｄが不一致のとき、「
１」となる。それ以外の場合は「０」となる。このため
、第２０図（ａ）においては、各ニューロンは次のよう
に構成される。

第１のニューラルレイヤ２０において、ニューロン２ｌ
、２２、２３、２４は、Ａ，Ｂ，Ｃ，Ｄを４ビットパタ
ーンで表した場合、それぞれ「０１　ＸＸＪ、「ＩＯＸ
ＸＪ、ｒｘｘｏｌ」、ｒＸＸ１０Ｊの時「１」を出力し
、それ以外の場合「０」を出力する。ここで、「ＸＸ」
はそのデータを無視することを意味する。一方、第２の
ニューラルレイヤ３０において、ニューロン３１は、第
１のニューラルレイヤ２０のニューロン２１のみが「ｌ
」を出力する時「１」を出力し、それ以外の時「０」を
出力する。またニューロン３２は、第１のニューラルレ
イヤ２０のニューロン２２のみが「１」を出力する時「
１」を出力し、それ以外の時「０」を出力する。同様に
して、ニューロン３３は、第１のニューラルレイヤ２０
のニューロン２３のみが「１」を出力する時「１」を出
力し、またニューロン３４は、第１のニューラルレイヤ
２０のニューロン２４のみが「１」を出力する時「１」
を出力する。一方、出力レイヤ９０のニューロン９ｌは
、第２のニューラルレイヤ３０のニューロンの少なくと
もひとつが「１」を出力する時ｒ１，を出力する。

したがって、Ａ，Ｂ，Ｃ，Ｄの人力データがビットパタ
ーンでｒｏｏ０１Ｊの場合、第１のニューラルレイヤ２
０においてニューロン２３のみがｒ１，を出力し、他の
ニューロン２ｌ、２２、２４が「０」を出力する。この
結果、第２のニューラルレイヤ３０においてニューロン
３３が「ｌ」を出力することとなり、出力レイヤ９０の
ニューロン９１が「１」を出力する。同様にしてＡ，Ｂ
、Ｃ，Ｄが、’００１０Ｊ、ｒ０１００Ｊ、「１０００
」、ｒ１１１０Ｊ、ｒｌｌｏｌ，、「ｌ０１１」、ｒｏ
１１１」の場合、第２のニューラルレイヤ３０において
、いずれかのニューロンが「１」を出力し、出力レイヤ
９０のニューロン９１が「．１」を出力する。

第２０図（ｂ）はニューラル不ツトワークの第５の実施
例を示し、この装置は入力データ群１０と第１、第２お
よび第３のニューラルレイヤ２ｏ、３０、４０と出力レ
イヤ９０とを有する。入力データ群１０は、入力データ
Ａ，Ｂ，Ｃ．．Ｄからなる。第１のニューラルレイヤ２
０は４個のニューロン２１２２、２３、２４、第２のニ
ューラルレイヤ３０は２個のニューロン３１、３２、第
３のニューラルレイヤ４０は２個のニューロン４１、４
２、出力レイヤ９０は１個のニューロン９１を有する。

入力データ群のデータＡ−Ｄは、それぞれ第１のニュー
ラルレイヤ２０の各ニューロンニ人力され、第１のニュ
ーラルレイヤ２０の各ニューロンはそれぞれ第２のニュ
ーラルレイヤ３０の各ニューロンに接続される。第２の
ニューラルレイヤ３０の各ニューロンは第３のニューラ
ルレイヤ４０の各ニューロンに接続され、第３のニュー
ラルレイヤ４０の各ニューロンは出力レイヤ９０のニュ
ーロンに接続される。

各ニューラルレイヤ２０、３０、４０および出力レイヤ
９０における各ニューロンは、第２０図（ａ）の場合と
同様に、人力されるデータに応じて「１」または「Ｏ」
を出力する。

第１のニューラルレイヤ２０において、ニューロン２１
、２２、２３、２４は、Ａ，Ｂ，Ｃ，Ｄを４ビットパタ
ーンで表した場合、それぞれ「０１　ＸＸＪ、ｒｌｏｘ
ｘｊ，ｒｘｘＯＬＪ，ｒｘｘ１０」の時「１」を出力し
、それ以外の場合「０」を出力する。一方、第２のニュ
ーラルレイヤ３０において、ニューロン３１は、第１の
ニューラルレイヤ２０のニューロン２１または２２が「
１」を出力する時「１」を出力し、それ以外の時「０」
を出力する。またニューロン３２は、第１のニューラル
レイヤ２０のニューロン２３または２４が「１」を出力
する時「１」を出力し、それ以外の時「０」を出力する
。第３のニューラルレイヤ４０において、ニューロン４
１は、第２のニューラルレイヤ３０のニューロン３２の
みが「ｌ」を出力する時「１」を出力し、それ以外の時
「０」を出力する。またニューロン４２は、第２のニュ
ーラルレイヤ３０のニューロン３１のみが「１」を出力
する時「１」を出力し、それ以外の時「０」を出力する
。一方、出力レイヤ９０のニューロン９１は、第３のニ
ューラルレイヤ４０のニューロンの少なくともひとつが
「１」を出力する時「１」を出力する。

したがって、Ａ，Ｂ，Ｃ，Ｄの人カデータがビッｌ・パ
ターンでｒ０００１，の場合、第１のニューラルレイヤ
２０においてニューロン２３のみが「ｌ」を出力し、他
のニューロン２１２２、２４が「０」を出力する。この
結果、第２のニューラルレイヤ３０においてニューロン
３２のみが「１」を出力し、第３のニューラルレイヤ４
０においてニューロン４２が「１」を出力することとな
る。したがって出力レイヤ９０のニューロン９１がｒｌ
Ｊを出力する。同様にしてＡ，Ｂ，Ｃ，Ｄが、ｒ００１
０」、ｒｏｉｏｏＪ、ｒｌｏ００」、ｒ１１１０Ｊ、「
ｌｌＯｌ」、ｒｌｏｌ１．、［０１１１Ｊの場合、第２
のニューラルレイヤ３０において、いずれかのニューロ
ンが「ｌ」を出力し、これにより第３のニューラルレイ
ヤ４０のいずれか一方のニューロンが「１」を出力する
こととなり、第４のニューラルレイヤ４０のいずれか一
方のニューロンが「ｌ」を出力する。したがって、出力
レイヤ９０のニューロン９ｌが「ｌノを出力する。

第２０図（ａ）から容易に理解されるように、比較例に
おいて、シナブス数は３６であり、ニューロン数は１０
である。これに対し本実施例においては、第２０図（ｂ
）から理解されるようにシナブス数は３０であり、ニュ
ーロン数は１０である。シカシテ、論理演算（Ａ６９Ｂ
）　ｅ（ＣｅＤ）によって入力データを処理する場合、
比較例において３６個のシナプスが必要であったのに対
し、本実施例によれば３０個のシナブスですむことが理
解される。

すなわち、本実施例によればシナプス数は約２割減少し
、上記各実施例において述べたのと同様な効果が得られ
る。つまり、ニューラルレイヤの数を増加させるととも
に、出力レイヤ９０側に構築されるニューラルレイヤの
ニューロン数をそれより前段のニューラルレイヤのニュ
ーロン数以下に定めることにより、シナプス数を減少さ
せることができ、画像処理装置のメモリ容量を削減する
とともに演算速度を向上させることができる。

第２１図（ａ）、（ｂ）はニューラルネッ１〜ワークの
第６実施例を比較例とともに表したものであり、この例
は入力データを論理演算 ｆ　（ＡｅＢ）　の（（［Ｄ）ｌ　＄Ｅ　　（８）に従
って処理する場合を示す。

第２１図（ａ）は比較例を示し、入力データ群ｌＯは５
個のデータＡ−Ｅ，初段のレイヤ２０は１５個のニュー
ロン、出力レイヤ９０は１個のニューロンをそれぞれ有
する。比較例において、上記（８）式を展開して得られ
る各項をニューラルレイヤ２０の各ニューロンへ入力し
ている。したがって、全てのデータはＯ次データとして
処理されている。

これに対し、第２１図（ｂ）はニューラルネットワーク
の第６実施例を示し、この構成は入力データ群１０と、
第１、第２、第３および第４のニューラルレイヤ２０、
３０，４０、５０と、出力レイヤ９０とを有する。第１
のニューラルレイヤ２０と第２のニヱーラルレイヤ３０
は（ＡｅＢ）と（ＣｅＤ）に従った処理をそれぞれ行い
、第３のニューラルレイヤ４　０は＜　（ＡＩＢ）　ｅ
（ＣｅＤ）ｌに従った処理を行う。そして第４のニュー
ラルレイヤ５０および出力レイヤ９０により、｛（Ａｅ
Ｂ）ｌＥ９　（（［Ｄ））　６９Ｈによる最終結果が求
められる。

第２１図（ａ）および第２１図（ｂ）の対比がら理解さ
れるように、比較例において、シナプス数は８０、ニュ
ーロン数は１６であり、これに対し本実施例においては
、シナプス数は３２であり、ニューロン数は１０である
。しかして、本実施例によればシナプス数は約４割に減
少し、またニューロン数は約６割に減少する。したがっ
て本実施例においても、上記各実施例において述べたの
と同様な効果が得られる。

以上の説明から理解されるように、本発明において、入
力データ群、ニューラルレイヤ、および出力レイヤから
なる層構造は、その画像処理において必要とする次数、
および入力データの次数に応じて最適に構成される必要
があり、また入力データはその層構造に適合したレイヤ
に入力される。

なお、ここで次数とは、前述したように、データあるい
は処理内容の抽象度を意味する。

さて、ニューロンが上述のような処理を行うには、重み
が学習により適当な値に定められなげればならない。こ
のため本実施例においては、後述するように、重みが時
間的に指数関数的に変化せしめられる。なお、重みの修
正方法として、特願昭６３−２９７５４１号に開示され
ているように大別して３つの方法があり、これらをここ
ではそれぞれモードＩ、モード■、モード■と呼ぶこと
とする。

モードＩは第２２図に示すように、ニューロンの重みが
そのニューロンの出力に基づいて修正されるものである
。この修正方法は、各レイヤの出力の目標値が明らかに
なっている場合に有効である。さて、ある入力に対して
そのニューロンが出力を生じた場合その出力が目標値に
一致し、あるいは目標値に十分近かった時、その時の入
出力の関係は強化されるべきである。これは、有意な入
力が与えられたシナブスの重みを高めることに相当する
。モードＩにおいては、各ニューロンの出力の目標値が
予め分かっているので、各ニューロンの出力を目標値と
比較し、両者が一致あるいは十分近かった時、例えば２
値入力の場合「１」が入力されたシナブスの重みが増加
せしめられる。

モード■は第２３図に示すように、ニューロンの重みが
最終的な出力の評価結果に基づいて修正されるものであ
る。この修正方法は、画像処理装置の処理内容を大局的
に判断する場合に有効である。このモードにおける評価
方法としては、出力レイヤの最終出力と目標値とのハミ
ング距離、あるいはビタゴラス距離の評価、あるいは感
応的評価等が可能である。この評価の結果、出力が目標
値と一敗あるいは十分近ければ、その時の入出力関係は
強化されるべきであり、その時、例えば「ｌ」が入力さ
れた各シナブスの重みが増加せしめられる。

モード■は、人力をそのまま記憶するタイプの学習の場
合の重みの修正方法であり、入力とその入力に対して最
初に生じた出力との関係を強化する。すなわち、第２２
図の構成において、その入力に対してｒ１，を出力した
ニューロンにおける、「１」が入力されたシナブスの重
みが増加せしめられる。

このような重みの修正において、発明者等は、まずニュ
ーロンの重みの変化を生体の神経細胞における膜電位の
変化と仮定した。つまり、重みが生体の神経細胞におけ
る膜電位と同様に設定されるならば、画像処理装置にお
ける学習の効率は生体の脳細胞と同様に極めて高くなる
と、考えられる。そしてまた、重みが膜電位と同様な変
化を示すのであれば、その変化は、一般的なＲＬＣ回路
と同様に指数関数で表現されると考えられる。しかして
重みＷは、第２４図に示すように、Ｗ＝±ｅｘｐ（ｔ）
　　　　　　　　　　　　（　９　）で表される。ただ
し、ｔは個々のニューロンｐこおける学習時間、すなわ
ち学習回数を表す。

（９）式において、シナプスが興奮型の場合には符号は
十になり、重みＷは、実線■で示すようにＯから始まっ
て最初は象、速に大きくなり、学習開始から時間がたつ
ほどその変化量は小さくなり最大値Ｗ．４に近づく。こ
れに対し、シナプスが抑制型の場合には符号は一になり
、重みＷは、実線Ｊで示すように０から始まって最初は
急速に小さくなり、学習開始から時間がたつほどその変
化量は小さくなり最小値Ｗ。に近づく。

学習の開始直後、そのシナブスについてあまりデータ相
関がないので、この時の重みＷは小さく定められるが、
その後、データ相関が大きくなっていくので、重みＷは
急速に大きくなり、これにより学習による収束が早めら
れる。これに対し、学習が進んで重みＷが既に大きくな
っている場合、そのシナプスはそれまでの学習において
十分データ相関がある。したがって、その重みＷをいた
ずらに変動させると、単に振動を起こすだけであり学習
における収束性を阻害することとなるが、重みＷはほと
んど変化しないように定められているので、十分な収束
性が得られる。

なお、従来、ニューロンの出力特性として抑制型および
興奮型ニューロンが考えられており、これを画像処理装
置として最適配置するには処理内容を考慮した詳細な検
討が必要であり、画像処理装置において抑制型ニューロ
ンと興奮型二エーロンの結合は複雑である。しかし本実
施例によれば、ひとつのシナブスの特性として重みＷの
符号を＋または−に選択するだけで、抑制型、興奮型を
任意に実現でき、したがって回路構成が単純化され、回
路の自由度が高まる。なお、抑制型ニューロンの存在に
よって、データの分離性が向上することは、ローゼンブ
ラット以来よく知られたところである（　１９５８年Ｆ
．Ｒｏｓｅｎｂｌａｔｔ　　”↑ｈｅ　ｐｅｒｃｅｐｔ
ｒｏｎ：　　ａ　ｐｒｏｂａｂｉｌｉｓｔｉｃ　　ｍｏ
ｄｅｌ　　ｆｏｒ　　ｉｎｆｏｒｍａｔｉｏｎｓＬｏｒ
ａｇｅ　ａｎｄ　ｏｒｇａｎｔｚａｔｉｏｎ　ｉｎ　ｔ
ｈｅ　ｂｒａｉｎｒ’ｓｙｃｈｏｌｏｇｉｃａｌ　Ｒｅ
ｖｔｅｗ　６５：　３８６−４０８）。

しかして本実施例によれば、画像処理装置における学習
の効率が向上し、最終出力データを早期に収束かつ安定
化させることができる。また、上述のように、重みＷの
正負の符号を変えるだけで抑制型および興奮型の特性が
得られるので、画像処理装置の回路の自由度が高まる。

なお、重みＷの時間的変化は、必ずしも正確に指数関数
に定める必要はなく、例えば折れ線等で近似してもよい
。

次に、ニューラルネットワークの第７〜９実施例を説明
するとともに、本発明の第２の基本理念を解説する。

第２５図（ａ）は本発明のニューラルネットワークの第
７実施例を示し、この実施例は、学習の結果（Ａ＋Ｂ）
の論理演算を実行するに到ったニューラルネットワーク
を示すものである。

この構成は、１層のニューラルレイヤ２０を有し、この
ニューラルレイヤ２０には、データ数と同数、すなわち
２個のニューロン２１、２２が設けられる。各ニューロ
ン２ｌ、２２にはデータＡおよびＢがそれぞれ入力され
る。各二エーロン２ｌ、２２は、各データの入力経路と
の接続部分すなわちシナブスにおける重みＷｔと、閾値
θとを有する。学習により重みＷ盪は変化し、ニューロ
ンは、所定の処理を行うようになる。本実施例では、学
習の結果、一方のニューロン２１のみが論理演算（Ａ＋
Ｂ）の処理を行い、他方のニューロン２２は実質的に作
用しない。すなわちニューロン２ｌは例えばＷ，−１、
Ｗｚ　＝　１　，θ−１に設定され、 ＡＷ，＋ＢＷ，≧１ ？時、出力データ「ｌ」を出力する。一方ニューロン２
２は、例えば、Ｗ■−０、Ｗ４−０、θ＝１に設定され
、したがって常に、 ＡＷ２　＋　Ｂ　Ｗｓ　＜　１ であり、閾値θを越えることはなく、出力データ「０』
を出力する。

しかしてニューロン２１は、データＡ，Ｂの少なくとも
一方が「１」の時、出力データｒ１，を出力し、本実施
例のニエーラルネットワークは、論理演算（Ａ＋Ｂ）を
実行する。

第２５図（ｂ）は第８実施例を示し、この実施例は、学
習の結果（ＡｅＢ）の論理演算を実行するに到ったニュ
ーラルネットワークを示すものである。この構成は２Ｎ
のニエーラルレイヤ２０、３０を有し、初段のニューラ
ルレイヤ２０にはニューロン２ｌ、２２が設けられ、ま
た後段のニューロン３０には二ューロン３１、３２が設
けられる。初段のニューラルレイヤ２０のニューロン２
ｌ、２２には、データＡおよびＢが入力される。

論理演算（ＡＩ８）は、（ＸＢ＋ＡＢ）と展開され、ニ
ューラルレイヤ２０において、ニューロン２１が（ＡＢ
）の処理を行い、ニューロン２２が（ＡＨ）の処理を行
う。すなわちニューロン２１は、例えばＷ＋　＝　　１
，Ｗｚ　＝１、θ−１に設定され、 ＡＷ＋　＋ＢＷ，≧１ の時、出力データ「ｌ」を出力する。一方、ニューロン
２２は、例えばＷ，−１、Ｗ．−−１、θ＝１に設定さ
れ、 ＡＷｔ　＋ＢＷ４≧１ の時、出力データ「１」を出力する。

ニューラルレイヤ３０のニューロン３１は、（ＡＢ＋Ａ
Ｂ）の処理を行い、例えばＷ，＝１、Ｗ，＝Ｌ　θ＝１
に設定され、ニューロン２１の出力をＹＩ１ニューロン
２２の出力をＹｔとするとＹ　＋　Ｗｓ　＋　Ｙ　！　
Ｗｈ≧１ の時、出力「ｌ」を出力する。一方ニューロン３２は実
質的に作用しない。

しかしてニューロン３１は、データＡ，Ｂの一方のみが
ｒｌＪＯ時出力データ「１」を出力し、両者が共に「ｌ
」または「０」の時出力データ「０」を出力し、本実施
例のニューラルネットワークは、論理演算（Ａ６１１Ｂ
）を実行する。

第２５図（ｃ）は第９実施例を示し、この実施例は、学
習の結果（Ａ＋Ｂ）Ｃの論理演算を実行するに到ったニ
ューラルネットワークを示すものである。この構成は２
層のニューラルレイヤ２０、３０を有し、初段のニュー
ラルレイヤ２０にはニューロン２１、２２、２３が設け
られ、また後段のニューロン３０にはニューロン３１、
３２、３３が設けられる。初段のニューラルレイヤ２０
のニューロン２Ｌ２２、２３には、データＡ，　Ｂおよ
びＣが入力される。

ニューラルレイヤ２０において、ニューロン２１は（Ａ
＋Ｂ）の処理を行い、ニューロン２２は実質的に作用せ
ず、ニューロン２３は入力データＣをそのまま出力する
。すなわちニューロン２１は、例えばＷ，＝ｉ，Ｗ，＝
１、Ｗ３＝０、θ＝１に設定され、 Ａ　Ｗ　＋　＋　Ｂ　Ｗ　２　＋　Ｃ　Ｗ　ｚ≧１？時
、出力データｒ１」を出力する。一方、ニューロン２２
は、例えば各重みＷ．　、Ｗ，　、Ｗ，が０に設定され
るとともに、閾値θが１に設定され、実質的に作用しな
い。またニューロン２３は、例えば重みＷ７＝０、Ｗ．
＝Ｏ、Ｗ，＝１、θ＝１に設定され、 Ａ　Ｗ？　十Ｂ　Ｗｌｌ　＋　Ｃ　Ｗｑ≧１の時、出力
データ「ｌ」を出力し、その他の時、出力データ「０」
を出力する。

ニューラルレイヤ３０のニューロン３ｌは、ニューラル
レイヤ２０のニューロン２１、２３の出力データに基づ
いて（Ａ十Ｂ）Ｃの処理を行い、例えばＷｚ＝１、Ｗ１
■＝０、Ｗ＋　３＝１、θ＝２に設定され、ニューロン
２１の出力をＹ１、ニューロン２２の出力をＹ２、ニュ
ーロン２３の出力をＹ３とすると、 Ｙ　＋　Ｗ　＋　＋　十Ｙ　ｔ　Ｗ　Ｉｚ　＋　Ｙ　ｙ
　Ｗ　ｌ　３≧２の時、出力データ「ｌ」を出力する。

一方ニューロン３２、３３は実質的に作用しない。

しかしてニューロン３１は、データＡ１Ｂの少なくとも
一方が「１」でありかつデータＣが「１」のとき出力デ
ータｒ１，を出力し、本実施例のニューラルネットワー
クは、論理演算（Ａ十Ｂ）Ｃを実行する。

ここで本発明の第２の基本理念を解説する。

第７実施例において、データＡ，Ｂは１つの作用素ｒ−
４−　（ＯＲ）Ｊにより結合されており、この論理演算
（Ａ＋Ｂ）は、１層のニューラルレイヤ２０によって実
行される。

第８実施例においては、データＡ，Ｂはｒｅ（ＥＸ−Ｏ
Ｒ）Ｊにより結合されており、この論理演算（ＡｅＢ）
は（ＡＢ＋ＡＢ）と展開される。

そして初段のニューラルレイヤ２０においてＸＢとＡＢ
が実行され、すなわち作用素ｒｘ　（ＡＮＤ）」につい
ての論理演算が実行される。次いで、２段目のニューラ
ルレイヤ３０において（ＡＢ＋ＡＩＩＴ）すなわち作用
素ｒ＋　（ＯＲ）Ｊについての論理演算が実行される。

しかして、第８実施例の論理演算は２層のニューラルレ
イヤによって実行される。

第９実施例において、データＡ，Ｂは１つの作用素ｒ＋
（ＯＲ）Ｊにより結合されており、この論理演算は初段
のニューラルレイヤ２０によって実行される。その論理
演算結果に対してデータＣが作用素ｒＸ　（ＡＮＤ）Ｊ
により結合されており、この論理演算（Ａ十Ｂ）Ｃは２
段目のニューラルレイヤ３０によって実行される。しか
して第９実施例の論理演算は２層のニューラルレイヤに
よって実行される。

このように、ニューラルネットワークの処理内容を論理
演算子ｒＡＮＤＪ、「ＯＲ」で表現した場合、論理演算
子の数、あるいは論理演算の構成に応じてニューラルレ
イヤの層数が増加している。

なお各データの次数は前述した通りであり、その定義に
よると、例えば、論理演算（Ａ６９Ｂ）を行う第８実施
例において、データＡ，ＢをＯ次とすると、初段のニュ
ーラルレイヤ２０の各ニューロン２１、２２においてそ
れぞれＸＢとＡＥｒの処理が実行され、１次の出力デー
タが２段目のニューラルレイヤ３０のニューロンに入力
される。そして２段目のニューラノレレイヤ３０におい
て、（ＡＢ＋ＡＪ）の処理が実行され、２次の出力デー
タが出力される。すなわち、最終出力データは２次であ
り、論理演算（ＡｅＢ）は、最終出力データの次数から
入力データの次数を引いた数すなわち２層のニューラル
レイヤによって処理されると考えられる。

発明者らは、入力データに対して最終出力データの次数
が何次高いかを判断することにより、ニューラルレイヤ
の層数を決定することができる、つまり、ニューラルレ
イヤの層数は、最終出力データの次数から入力データの
次数をひいた数であると推測した。これが本発明の第２
の基本的な思想である。次数は、前述のようにデータの
抽象度であり、そのデータの有する性質によって定まり
、例えば図形認識において、画素データは０次であり、
端点数、端点座標、分岐数、分岐点数、分岐点座標、ル
ープ数、曲率、変曲点はさらに高次である。例えば分岐
点数のデータを用いて図形認識を行う場合、分岐点数の
次数から画素データの次数をひいた数のニューラルレイ
ヤを設ければよい。

また、画素データから端点データを求める場合、端点デ
ータの次数すなわち抽象度を考慮し、端点データの次数
から画素データの次数をひいた数のニューラルレイヤを
設ければよい。この場合の実施例については第２７図お
よび第２８図を参照して後述する。

第２６図はニューラルネットワークの第１０実施例を示
したものであり、この例は学習の結果、入力データＡ，
Ｂ，Ｃ，Ｄを論理演算 ｌｅＢ）　ｅ（ＣｅＤ） に従って処理するように到った場合を示す。なおＡ，Ｂ
，ＣおよびＤは「１」または「０」のデジタル値であり
、この論理演算の結果も「１」または「０」のデジタル
値として出力されるとして説明する。

この実施例は、４つのニューラルレイヤ２０、３０、４
０、９０とを存し、最終段のニューラルレイヤ９０は最
終出力データを出力する出力レイヤである。第１のニュ
ーラルレイヤ２０は４個のニューロン２１、２２、２３
、２４を有し、同様に、第２のニューラルレイヤ３０は
４個のニューロン３１、３２、３３、３４を、第３のニ
ューラルレイヤ４０は４個のニューロン４１、４２、４
３、４４を、出力レイヤ９０は４個のニューロン９１、
９２、９３、９４を有する。各データＡ〜Ｄは、それぞ
れ第１のニューラルレイヤ２０の各ニューロンに人力さ
れる。なお、各ニューロンは隣のニューラルレイヤの各
ニューロンに接続されるが、簡単のため、実質的に作用
に関係しない部分の線は、図中省略されている。

各ニューロンは、人力されるデータに対して乗じられる
重みＷ２と閾値θとを有し、上記（１）式に従い、各入
力データと重みの積の総和が閾値以上の時出力データ「
１」を出力し、この総和が閾値θよりも小さい時出力デ
ータ「０」を出力する。

論理演算（ＡｅＢ）は、（ＸＢ＋ＡＢ）　とＨＶＪされ
、ニューラルレイヤ２０において、ニューロン２１が（
ＡＢ）の処理を行い、ニューロン２２が（ＡＢ）の処理
を行う。また論理演算（ＣｅＤ？は、（ＣＤ＋ＣＤ）と
展開され、ニューロン２３がＣＣＤ）の処理を行い、ニ
ューロン２４が（ＣＤ）の処理を行う。

すなわちニューロン２１は、例えばＷｔ，＝−ｔ、Ｗ２
■＝１、Ｗ！！＝０、Ｗｔａ＝０、θ＝１に設定され、 Ａ　Ｗ　ｚ　＋　＋　Ｂ　Ｗ　２■＋Ｃ　Ｗ　ｚ　３　
＋Ｄ　Ｗ　ｚ　ｓ≧１のとき出力データｒ１，を出力す
る。ニューロン２２は例えばＷｚｓ＝１、Ｗｔｂ＝　　
１、Ｗｚ’ｒ＝Ｏ、Ｗ２．＝Ｏ、θ＝１に設定され、 ＡＷｚｓ＋ＢＷｔｂ＋ＣＷ２７＋ＤＷ２１≧１のとき出
力データｒｌ，を出力する。同様にしてニューロン２３
、２４の重みＷｉと閾値θが定められる。

ニューラルレイヤ３０のニューロン３１は、（ＡＢ＋Ａ
Ｂ）の処理を行い、例えばＷ！＋　＝　１　，　Ｗ３■
一１、Ｗ　３　：ｌ　＝　Ｏ、Ｗ：ｌ４＝Ｏ、θ＝１に
設定され、ニューロン２１、２２、２３、２４の出力を
それぞれＫ，Ｌ，ＭＳＮとすると、 Ｋ　Ｗ３＋　＋　Ｌ　Ｗｚ■＋Ｍ　Ｗ　ｙ　３＋　Ｎ　
Ｗ　３　４≧１？時、出力データ「ｌ」を出力する。同
様に、ニューロン３３は、（ＣＤ十ＣＩ５）の処理を行
い、ニューロン２３、２４の出力の少なくとも一方が「
１」の時、出力データ「ｌ」を出力する。なおニューロ
ン３２、３４の各重みＷ８は０に定められ、これらのニ
ューロンは実質的に作用しない。

したがってニューロン３ｌは（Ａ＄Ｂ）の結果を出力し
、ニューロン３３は（ＣｅＤ）の結果を出力する。

ニューロン３１、３２、３３、３４の出力をそれぞれＥ
，Ｆ，ＧＸＨとすると、ニューラルレイヤ４０のニュー
ロン４ｌは（ＥＣ）の処理ヲ行い、またニューロン４３
は（ＥＣ）の処理を行う。すなわち、ニューロン４１に
おいて、例えばＷ．，一−ＬＷ４■＝０、Ｗ４：ｌ＝　
ｌ　，Ｗ４４＝　Ｏ、θ＝１に設定され、 ＥＷ４１＋ＦＷＡ■＋Ｇ　Ｗ　ａ　ｚ　＋Ｈ　Ｗ　ａ　
４≧１のとき出力データ「１」を出力する。同様に、ニ
ューロン４３は、例えばＷａｓ＝　１　，　Ｗ４６＝　
Ｏ　，Ｗ４？”　　１　，　Ｗ４１１＝　Ｏ、θ＝１に
設定され、？　Ｗ　４　５　ｆ　Ｆ　Ｗ　ａ　ｂ　＋Ｇ
　Ｗ　ａ　ｔ　＋　Ｈ　Ｗ　ｓ　ｅ≧１のとき出力デー
タｒ１，を出力する。ニューロン４２、４４の各重みＷ
．はＯに定められ、これらのニューロンは実質的に作用
しない。

出力レイヤ９０のニューロン９Ｉは、（ＥＣ士ＥＣ）の
処理を行い、例えばＷ，，＝１、Ｗ９■＝０、Ｗ，３＝
１、Ｗｑａ＝Ｏ、θ；ｌに設定され、ニューロン４ｌ、
４２、４３、４４の出力をそれぞれＰ１Ｑ，Ｒ，Ｓとす
ると、 Ｐ　Ｗ　９　１　＋Ｑ　Ｗ　９　Ｚ　＋　Ｒ　Ｗ　ｑ　
ｙ　＋　Ｓ　Ｗ　９　ａ≧１の時、出力データ「１」を
出力する。ニューロン９２、９３、９４は実質的に作用
しない。このように使用目的が限定され、出力データ数
が明確であるならば実質的に作用しないニューロンは省
略可能である。

したがってニューロン９１は、（ＥｅＧ）の結果、すな
ｈ）ち（，６０Ｂ）　ｅ（ＣｅＤ）＋７）結果を出力す
る。

論理演算（ＡｅＢ）および（（［Ｄ）における出力デー
タの次数は、上述したように作用素「ｅ（ＥＸ−ＯＲ）
Ｊが２つの作用素ｒＡＮＤ，と「ＯＲｊによって置き換
えられるので、それぞれ２である。したがって、論理演
算（ＡｅＢ）　ｅ（ＣｅＤ）における出力データの次数
は、４であり、この論理演算は、入力データと同数（４
個）のニューロンを有する４層のニューラルレイヤによ
り確実に処理される。

第２７図および第２８図に、図形の端点を判断するニュ
ーラルネットワークを示す。

図形の端点のとらえ方は、ここでは、第１８図（ａ）に
示すような３×３コンポリューションにおいて、第７図
（ｂ）（ｉ）〜（νｉｉｉ）のいずれかのパターンが生
じたときに、中央画素（第１８図（ａ）の画素Ｅ）は端
点てあるとする。この端点の判断は、中央画素以外の画
素Ａ−Ｄ，Ｆ〜１のいずれか１つが図形濃度（例禾ば「
ｌ」）であり、かつ中央両素Ｅが図形濃度であるときに
「端点」、それ以外のときに「端点でない」とする。

この判断のためのニューラルネットワークは、例えば第
２７図のように構成され、この図は木発明の第１１実施
例を示す。このニューラルネットワークは、９個のニュ
ーロン２１〜２９を有する第１のニューラルレイヤ２０
と、９個のニューロン３１〜３９を有する第２のニュー
ラルレイヤ３０と、９個のニューロン９１〜９９を有す
る出力レイヤ９０とを備える。画素Ａ〜■のデータは第
１のニューラルレイヤ２０に入力される。

第１のニューラルレイヤ２０のニューロン２１は、画素
Ｅを除いた画素Ａ−１のうち、画素Ａのみが「１」の時
、出力データｒ１，を出力する。

同様に、ニューロン２２、２３、２４、２５、２６、２
７、２８は、それぞれ画素Ｂ，Ｃ，Ｄ．．Ｆ，Ｇ，Ｈ，
ｒの１個のみが「ｌ」の時、出力データ「１」を出力す
る。したがって画素Ａ−Ｄ，Ｆ〜Ｉのいずれか１つが「
ｌ」のとき、ニューロン２１〜２８のいずれかが出力デ
ータ「ｌ」を出力する。一方、ニューロン２９は、画素
Ｅのデータをそのまま出力する。

第２のニューラルレイヤ３０のニューロン３ｌは、ニュ
ーロン２１、２９の出力がそれぞれ「１」の時、すなわ
ち画素ＡとＥがそれぞれ「１」の時、出力データ「１」
を出力する。同様に、ニューロン３２〜３８は、画素Ｂ
とＥが「ｌ」の時、画素ＣとＥがｒ１，の時、画素Ｄと
Ｅが「１」の時、画素ＦとＥが「１」の時、画素ＧとＥ
が「１」の時、画素ＨとＥがｒ１，の時、画素■とＥが
「１」の時、それぞれ、出力データｒ１」を出力する。

なおニューロン３９は、この端点の判断処理に実質的に
関与しない。

出力レイヤ９０のニューロン９１は、第２のニューラル
レイヤ３０のニューロン３１〜３日の少なくとも１つが
出力データ「１」を出力する時、すなわち第１８図（ｂ
）の（ｉ）〜（νｉｉｉ）のいずれかのパターンが生じ
た時、出力データ「１」を出力する。この時、中央画素
Ｅは端点てあると判断される。なおニューロン９２〜９
９は、この端点の判断処理に実質的に関与しない。

ここで各画素データＡ〜■をＯ次データと考えると、ニ
ューロン９ｌの出力は３次データであり、端点の判断処
理には３段階の論理演算が施されている。つまり、ニュ
ーラルレイヤ２０では、Ａ〜Ｄ，Ｆ〜■のうちの１つの
みが「１」であるか否かを判断するための論理積（例え
ばニューロン２１では、（ＡＢＣＤＦＧＨＴ））がとら
れる。ニューラルレイヤ３０では、Ａ−Ｄ，Ｆ−Ｉのう
ちの１つのみが「１」であり、かつＥが「ｌ」であるか
否かを判断するための論理積（例えばニューロン３１で
は、（／ｌｃＩ５ＦＧＨＴ　−　Ｅ））がとられる。ニ
ューラルレイヤ９０ではＥが「１」であり、かつＡ−Ｄ
，Ｆ−１のうちのいずれか１つ「１」であるという論理
和が判断される。

なお、この端点の判断処理に関し、ニューラルレイヤ３
０において、Ｅが「１」であり、かつＡ〜Ｄ，Ｆ〜■の
うちのいずれか１つ「１」であるという論理和をとるこ
とができ、これにより、２層のニューラルレイヤによっ
て端点の判断処理を行うこともできる。しかし、出力デ
ータと入力データの次数の差が３の場合、高々３層のニ
ューラルレイヤを設ければ、端点の判断処理を確実に行
うことができる。

第２８図は本発明の第１２実施例を示す。この実施例に
おけるニューラルネットワークは、９個のニューロン２
１〜２９を有する第１のニューラルレイヤ２０と、９個
のニューロン３１〜３９を有する第２のニエーラルレイ
ヤ３０と、９個のニューロン９１〜９９を有する出力レ
イヤ９０とを備える。画素Ａ〜■のデータは第１のニュ
ーラルレイヤ２０に入力される。

第１のニューラルレイヤ２０のニューロン２１は、画素
Ａ−Ｄ，Ｆ−Ｉのうちの８個以上が「１」の時、出力デ
ータ「１」を出力する。ニューロン２２は、画素Ａ−Ｄ
，Ｆ−１のうちの７個以上が「１」の時、出力データ「
１」を出力する。同様に、ニューロン２３、２４、２５
、２６、２７、２８は、それぞれ、画素Ａ〜Ｄ，Ｆ−Ｉ
のうちの６個以上、５個以上、４個以上、３個以上、２
個以上、および１個以上が「１」の時、出力データ「１
」を出力する。ニューロン２９は画素Ｅのデータをその
まま出力する。

第２のニューラルレイヤ３０のニューロン３１は、ニュ
ーラルレイヤ２０のニューロン２１〜２日のうちニュー
ロン２ａのみが「１」を出力する時、出力データ「ｌ」
を出力する。すなわち、ニューロン３１は、画素Ａ〜Ｄ
，Ｆ〜Ｉのうちの１個のみが「１」の時、出力データ「
１」を出力する。ニューロン３２は、画素Ｅのデータを
そのまま出力する。なおニューロン３３〜３９は、この
端点の判断処理に実質的に関与しない。

出力レイヤ９０のニューロン９１は、ニューロン３１、
３２が共に「１」を出力するか否かを判断するために論
理積をとり、画素Ａ−Ｄ，Ｆ−１のうちの１つのみが「
１」であり、かつＥが「ｌ」である時、出力データ「１
」を出力する。なおニューロン９２〜９９は、この端点
の判断処理に実質的に関与しない。

しかして、この実施例において、３層のニューラルレイ
ヤによって、端点データが判断されている。

上記第７〜第１２実施例において、データの次数はその
データに施された処理内容の数であり、各処理はそれぞ
れのニューラルレイヤによって行われていた。ここで処
理内容の例としては、論理演算子のｒＡＮＤ，、ＦＯＲ
」、ｒＮＡＮＤ，、ｒＮＯＲ，であり、ｒＥＸ−ＯＲＪ
およびｒＥＸ−ＮＯＲ．等の場合にはｒＡＮＤＪあるい
は「ＯＲ」に変換されなければならない。これは、「Ｅ
Ｘ−ＯＲＪ等はひとつのニューラルレイヤによっては処
理され得ないからである。

なお、処理内容は論理演算子によって表現されるものに
限定されず、出力データの性質によって定められる。

以上のように上記各実施例によれば、良好な細線化図形
を高速で抽出でき、その細線化図形あるいは細線化図形
の特徴量を認識部に入力するので、ｆ！小限のニューロ
ン数による高度の認識処理が可能である。また認識部は
データの抽出度に応じた層構造、データ入力構成である
ため、極めて効率的な構成により所望の認識処理を確実
に実行し得る。これによって、高精度な図形認識が可能
となり、例えば印鑑照合、あるいはプリント配線基板等
の配線の欠けの検査等の品質管理を高精度に行うことが
でき、また人の容姿を細線化データにより処理するよう
構成されたセキュリティシステムを実現することが可能
となる。

〔発明の効果〕

以上のように本発明によれば、細線化データを用い、少
ないメモリ容量で高速かつ、より確実に図形認識を行う
ことができる画像処理装置を得ることが可能となる。

【図面の簡単な説明】

第１図は本発明の実施例を適用した画像処理装置を示す
ブロック図、 第２図は一般的な神経細胞モデルを示す概念図、第３図
は一般的な神経細胞モデルを示す概念図、第４図は処理
部を示すブロック図、 第５図は認識部を示すブロック図、 第６図、第７図は「ひげ」の発生状況を示す概念図、 第８図は２画素幅の樅線を示す概念図、第９図は３×３
の領域に対する第１の判断条件を示す概念図、 第１０図〜第１３図は順次第２〜第５の判断条件を示す
概念図、 第１４図（ａ）は２画素幅の縦線の処理結果を示す概念
図、 第１４図（ｂ）は２画素幅の水平線の処理結果を示す概
念図、 第１５図（ａ）は２画素幅の縦線に１画素付加した図形
を示す概念図、 第１５図（ｂ）は２画素幅の水平線に１画素付加した図
形を示す概念図、 第１６図（ａ）は第１５図（ａ）の図形の処理結果を示
す概念図、 第１６図（ｂ）は第１５図（ｂ）の図形の処理結果を示
す概念図、 第１７図（ａ）は比較例を示す概念図、第１７図（ｂ）
は他の比較例を示す概念図、第１７図（Ｃ）はニューラ
ルネットワークの第１実施例を示す概念図、 第１８図（ａ）は図形処理における３ｘ３コンボリュー
ションを示す図、 第１８図（ｂ）は各画素の図形濃度の状態を示す図、 第１８図（Ｃ）はニューラルネットワークの第２実施例
を示す概念図、 第１９図（ａ）はニューラルネットワークの第３実施例
を示す概念図、 第１９図（ｂ）はニューラルネットワークの第４実施例
を示す概念図、 第２０図（ａ）は比較例を示す概念図、第２０図（ｂ）
はニューラルネットワークの第５実施例を示す概念図、 第２１図（ａ）は比較例を示す概念図、第２１図（ｂ）
はニューラルネットワークの第６実施例を示す概念図、 第２２図はモードＩの学習を行うニューラルネットワー
クの概念図、 第２３図はモード■の学習を行うニューラルネットワー
クの概念図、 第２４図は重みの時間的変化を示すグラフ、第２５図（
ａ）はニヱーラルネットワークの第７実施例を示す概念
図、 第２５図（ｂ）はニューラルネットワークの第８実施例
を示す慨念図、 第２５図（Ｃ）はニューラルネットワークの第９実施例
を示す概念図、 第２６図はニューラルネットワークの第１０実施例を示
す概念図、 第２７図はニューラルネットワークの第１１実施例を示
す概念図、 第２８図はニューラルネットワークの第１２実施例を示
す概念図である。 ２０、３０、４０、５０、９０ ・・・ニューラルレイヤ ２１〜２４、３１〜３４、４１，４２ ９１〜９３・・・ニューロン １００・・・認識部（図形認識手段） ２００・・・人力部 ３００・・・画像処理部（細線化データ出力手段） 第　　２ 図 第　１　図 第３ 図 ・−３１０ 第 図 第 図 第 図 Ｃ１ Ｃ２ 第 図 Ｂ 第 １ｏ 図 第 図 （ｉ） （Ｖｉｉ） （ｉｉ） （Ｖｉｉｉ） （ｉｉｉ） 第 図 第 ２ｏ 図 示 図 第 図 第 図 ２〕 第 図 （ａ） （ｂ） （Ｃ） 第 図 第 図

Claims (1)

【特許請求の範囲】
1. （１）図形を細線化するとともに細線化された画素デー
   タを出力する細線化データ出力手段と、 この細線化データ出力手段に接続され、入力されたデー
   タに所定の重みを乗じたものの総和と閾値との比較結果
   に応じたデータを出力するニューロンが並列的に設けら
   れるとともに、細線化された画素データの抽象度に応じ
   た層構造のニューラルレイヤを有し、この細線化された
   画素データに基づいて図形を認識する手段とを備えた画
   像処理装置。