JPH02280283A - パターン分別・学習装置 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 【産業上の利用分野】

この発明は文字認識１画像認識、音声認識、信号理解等
において、階層構造をもつニューラルネットワークによ
りパターンを分別するとともに、最適なパターン分別結
果を得るために、前記ニューラルネットワークに学習さ
せるパターン分別・学習装置に関するものである。

【従来の技術】

第５図は、例えばジーイーヒントン“ラーニング　デイ
ストリビューテンド　リプリゼンテーションズ　オブ　
コンセプツ°°、プロシーデインゲス　オプ　ジ　エイ
ス　アニュアル　カンファレンス　オブ　ザ　コグニテ
ィプ　サイエンス　ソサエテ４　　ＰＰ、１−１２＋１
９８６　　（Ｇ、Ｅ、Ｈｉｎｔｏｎ、”Ｌｅａｒｎｉｎ
ｇ　Ｄｉｓｔｒｉｂｕｔｅｄ　Ｒｅｐｒｅｓｅｎｔａｔ
ｉｏｎｓ　ｏｆ　Ｃｏｎｃｅｐｔｓ’。 Ｐｒｏｃｅｅｄｉｎｇｓ　ｏｆ　ｔｈｅ　８ｔｈ　Ａｎ
ｎｕａｌ　Ｃｏｎｆｅｒｅｎｃｅ　ｏｆｔｈｅ　Ｃｏｇ
ｎｉｔｉｖｅ　５ｃｉｅｎｃｅ　５ｏｃｉｅｔｙ、ｐｆ
ｌ、１−１２．１９８６）に示された手法に基いた従来
のパターン分別・学習装置の構成を示すブロック図であ
り、図において１は入力ベクトル４中にいかなるパター
ンが存在するかを示す出力ベクトル５を後述のニューラ
ルネットワーク３をもちいて計算する出力ベクトル計算
装置、２は出力ベクトル計算装置１が期待された出力ベ
クトル５を出力しなかったときにテキストとなる望まし
い出力ベクトル６を外部より受は取ってニューラルネッ
トワーク３に学習させる学習装置、３は階層構造をもつ
ニューラルネットワーク、４は入力ベクトル、５は出力
ベクトル、６は望ましい出力ベクトルである。 第６図は一般的なニューラルネットワーク３の構成を示
すブロック図であり、図においてニューラルネットワー
ク３は入力層１２．１以上の中間層１３及び出力層１４
より構成されている。各層について説明の都合上、入力
層１２に近い層を下位の層、出力層１４の近い層を上位
の層と呼ぶことにする。各層は１以上のユニット１０か
ら構成されている。各ユニット１０からは１つ上位の層
のすべで、もしくは一部のユニット１０に向けて任意の
値の重みをもった結合１１が伸びている。 各ユニット１０には（０，１）の範囲の連続した値が入
力され、ある層のｊ番目のユニットＵ。 の入力値Ｘｊは、このユニットｕｊへの結合１１をもつ
１つ下位の層中ｉ番目のユニットｕ、の出力値ｙｉ、ユ
ニッ）Ｕｔからユニットｕ４への結合１１の重みをＷｊ
ｉとして Ｘｊ＝Σｗｊｔ・ｙえ　−・・・・−・・−・−・−（
１）から得られる。ここで変数ｉはユニットｕｊの入力
となる下位の層のユニット番号（番号は第６図中左から
数える）である。 このときユニットＵ、の出力値ｙＪは ｙＪ＝ｇ（Ｘｔ）　　　・−・−・−−−−−−−・−
・−一−−−−−−−・−（２）で決定され、−ｉには
入力値Ｘに対して関数ｇはｇ　（Ｘ）＝　１　／　（１
＋ｅｘｐ（−ｘ　）　）　−−−−（３）で決定される
。 次に動作についてパターン分別機能と学習機能に分けて
説明する。まずパターンを分別する機能について第７図
のフローチャートを用いて以下説明する。 ニューラルネットワーク３を構成する各層の複数ユニッ
ト１０はそれぞれ（０，１）の範囲の連続する値を扱う
ため、入力ベクトルの各成分を正規化する（ステップ５
ＴＩ）。そして最初にニューラルネットワーク３を構成
する人力層１２の最も左のユニットｌＯに着目して（ス
テップ５Ｔ２）、順次各ユニット１０の処理を実行する
。この処理で、ある層のｊ番目のユニットｌＯは入力値
Ｘｊを第（１）式より得（ステップ５Ｔ３）、第（２）
及び第（３）式より出力値ｙ４を得る（ステップ５Ｔ４
）。 ここで処理するユニット１０が入力層１２のｊ番目のユ
ニット１０の場合、入力値Ｘ、は人力ベクトル４のｊ番
目の成分となる。１つの層を構成している左側のユニッ
ト１０から順次（ステップ５Ｔ６）出力値を計算しくス
テップＳＴ３，５Ｔ４）、層内のすべてのユニッ）１０
の出力値が計算されると（ステップ５Ｔ５）、次の１つ
上位の層に着目しくステップ５Ｔ８）、出力層１４まで
すべての層について終了すると（ステップ５Ｔ７）、出
力層１４中で一定値以上の出力値を出力するユニット情
報を出力ベクトルとして利用者に知らせる（ステップ５
Ｔ９）。 次に学習の機能について説明する。この発明における学
習とは入力ベクトル４をニューラルネットワーク３に与
えて出力ベクトル５を計算し、この出力ベクトル５とテ
キストとなる望ましい出力ベクトル６との差を誤差とす
る。この誤差から各ユニット１０間結合１１の重みＷ、
、（上位層ユニットをｕｊ、下位層ユニットをＵ、とし
たときの重み）の修正分ΔＷｊｉを計算し、この修正分
ΔＷｊ。 により出力層１４から順次人力層１２まで結合１１の重
みＷ　ｊ　ｉを修正し、望ましい出力ベクトルを出力す
るように誤差を最小化するということである。 入力ベクトル４と望ましい出力ベクトル６（入力ベクト
ル４に対して最良の出力ベクトル）の組を例題と呼ぶこ
とにし、誤差Ｅを第（４）式で定義する。 Ｅ＝　（１／２）ΣΣ（ｙ　、ｃｄ　、ｃ）”　・−−
−−（４）ここでＣは例題のインデックス数、ｊは出力
層１４のユニット１０のインデックス数、ｙＪｃは出力
べクトルの第ｊ成分、ｄ　ｊｃは望ましい出力ベクトル
の第ｊ成分である。誤差Ｅを最小化するために結合１１
の重みＷに関する変微分係数を求めることにする。まず
θＥ／θｙｊを出力層の各ユニットに対して求める。例
題のインデックス数Ｃを固定すると θＥ／θ）’ｊ　　＝ｙｉ　　　ｃｔ、　　’−−−−
・・−・−・・−・−・−（５）ここでθＥ／θＸｊを
求めるためにｃｈａｉｎ　ｒｕｌｅθＥ／θＸ１＝（θ
Ｅ／θｙＪ）（θｙＪ／θＸｊ）と式（３）の微分を用
いる（６）式が得られる。 Ｅ／θｘＪ＝（θＥ／θｙＪ）ｙＪ　（ｙｊ−１）−・
−・・−・〜・・・・・（６） これは誤差Ｅが出力層１４のユニット１０が入力により
影響されることを示しているがＸｊは下位の層のユニッ
ト１０の出力ｙ１と重みＷｊ、の線型関数で表されるの
で、誤差Ｅが下位の層のユニット１０の出力ｙ直と重み
Ｗｊ、の影響をいかに受けるかが簡単に計算できる。ｃ
ｈａｉｎ　ｒｕｌｅにより（θＥ／θＷ＝ｔ）　＝（θ
Ｅ／θｘｊ）（θＸＪ／θＷＪ五）１つのユニット１０
間の関係だけをみるとＸＪ＝Ｗｊｉ＞’ｉ　とかけるが
、Ｗｊ、を変化させてもｙ、はＸｊに影響しないのでｙ
、は定数とみなせる。よって （θＥ／θＷｊｉ）　　＝　　（θＥ／θｘ　Ｊ）　ｙ
　ｔ　　−（７）また、下位層のｉ番目のユニットｌＯ
の出力層ｙ。 が誤差Ｅにもたらす影響は同様にして θＥ／θｙ、＝（θＥ／θｘＪ）（θＸＪ／θｙｔ）＝
（θＥ／θＸｊ）ＷＪＡ となる。そこでｉ番目のユニットｌＯから放射されてい
るすべての結合を考慮すると θＥ／θｙ、＝Σ（θＥ／θＸｊ）　Ｗｊｉ　−・（８
）となり、出力層１４より１つ下位の層のユニットｌＯ
に対する誤差Ｅの変動θＥ／θｙｉは、（６）式と（８
）式より、出力層１４でのユニットの出力値ｙ、に関す
る誤差Ｅの変動θＥ　／　ａ　ｙ　ｉで次のように表さ
れる。 θＥ／θｙ４＝Σ（θＥ／θｙＪ）ＶＪ（ｙ＝　　ｌ　
）Ｗ＝；・−−−−、（９） 第（９）式はある下位の層のユニット１０の出力値の変
動が誤差に及ぼす影響はその１つ上位の層のユニット１
０の出力の変動が誤差に及ぼす影響により表されること
を示している。このことは出力層１４のユニット１０と
その１つ下位の層のユニット１０との結合以外の結合の
場合も同様である。 今度は重みＷの変動が誤差Ｅに及ぼす影響について考え
る。もっとも簡単な方式として重みをθＥ／θＷに比例
した量だけ変動させることを考える。つまり、 ΔＷ＝−ε　（θＥ／θＷ）・−・−・−・−・−−−
−−ＯＩとなり、第００）式に第（６）及び第（７）式
を適用するとΔＷｊｉ＝−ε（θＥ／θＸＪ））’＝＝
−ε（θＥ／θｙ＝）ｙ、（ｙ＝　　１）ｙｒ・・・−
・・・・・−００ となる。この弐〇〇）と（１１）より下位の層のユニッ
トＵ。 からユニットｕＪへの重みＷｊｉの変動分′ΔＷｊ、は
ユニットｕｉより１つ上位の層のユニットｌＯにおける
θＥ／θｙｊを計算することにより求めることができる
ことが判明する。 実際に係合１１の重みを更新する手続きは出力層１４か
ら入力層１２に向けて、出力ベクトル６を求める手続き
とは逆向きに行われる。この手続きを第８図のフローチ
ャートを用いて説明する。 ニューラルネットワーク３がｎ層からできている場合で
考える。 また説明の都合上ｋをニューラルネットワーク３を構成
する層の数、ｊはある層（上位層）のｊ番目のユニット
を示す添字、ｉは前記ある層の１つ下位の層のｉ番目の
ユニットを示す添字、ＳＵＭは中間計算結果を格納する
変数である。 まず出力層１４の各ユニットｌＯの出力ｙ、（この場合
出力層１４は上位層になる）に関する誤差Ｅの変動θＥ
／θｙＪを求め（ステップ５ＴＩＯ）、パラメータに、
ｉにそれぞれ層の数ｎ、初期値ｌをそれぞれ代入しくス
テップ５ＴＩＩ、５Ｔ１２）、（ｋ−１）層（１つ下位
の層になる）のｉ番目のユニットＵ、に着目する（ステ
ップ５Ｔ１３）。 パラメータＪ、ＳＵＭにそれぞれ初期値ｌと０を代入し
くステップ５Ｔ１４）、ｋ層（上位層になる）のｊ番目
のユニットｕ＝に着目する。そしてユニットｕｉとユニ
ットｕｊの結合１１の重みＷｊ。 の変動ΔＷｊｉを求め（ステップ５Ｔ１６）、第（９）
弐を用いてユニットｕＩのθＥ／θｙ、の部分和をＳＵ
Ｍに加え（ステップ５Ｔ１７）、重みＷｊｉに変化分Δ
Ｗｊｉを加える（ステップ５Ｔ１８）。 （ｋ−１）層のユニットｕ、に関してこの手続きをに層
すべてのユニット１０に行って（ステップ５Ｔ１９，５
Ｔ２０）、ＳＵＭＯ値をユニ７トｕ１のθＥ／θｙ、と
しくステップ５Ｔ２１）（ｋｌ）層の各ユニット１０に
関して誤差Ｅへの影響を求める（ステップ５Ｔ２２，５
Ｔ２３）。さらに上述した上位層と１つ下位の層の関係
を（ｋｌ）層と（ｋ−２）層の関係としてに＝２になる
まで繰り返すことで（ステップＳＴ２４）　、ニューラ
ルネットワークの学習を行う。ここで具体的に説明する
ために、例えばオートマチイック自動車が自動的にギア
チェンジするタイミングの設定に従来のパターン分別・
学習装置を利用する場合を考える。 このエンジンの状態がこの発明でいうパターンであり、
このオートマチイック自動車には、少なくとも、加速度
と現在のギア設定をセンスするセンサ、エンジンには回
転数と振動の大きさを計測するセンサがついており、こ
れらセンサの出力データがパターンの各特徴としての入
力ベクトル４となる。またこのオートマチイック自動車
のギアシフト自動設定機構は、パターン分別・学習装置
をもちいて、例えば、エンジンの振動の大きさから「エ
ンジンに無理がかかっている状態」を分別しギアを１つ
シフトダウンしたり、加速度の大きさと回転数の大きさ
から「加速度で走行が重い状態」を分別し１つシフトア
ップしたりするものとする。この分別する状態がインデ
ックスであり、ニューラルネットワーク３では出力層１
４のユニット１つがこの１つのインデックスに対応して
おり、一定値以上の出力があると対応したインデックス
を分別したことになり、この出力層のユニント情報が出
力ベクトルとなる。ニューラルネットワーク３は各イン
デックス毎に分別できるように予め実験データを用いて
トレーニングしておく。 さてギアチェンジのタイミングは人によって異なるが、
例えばパターン分別・学習装置の出力によってシフトダ
ウンしたが、そのタイミングがあるドライバには早すぎ
たとき、そのドライバはエンジンフレーキがかかること
を嫌ってアクセルを強く踏み回転数を上げてギアが再度
上がるようにするであろう。また、シフトダウンしたタ
イミングが遅すぎるときドライバは自分でシフトダウン
するであろう。このような場合パタ−ン分別結果にドラ
イバは同意しなかったことになり、ニューラルネットワ
ーク３を用いたパターン分別・学習装置はドライバの行
動を望ましい出力ベクトル６としてニューラルネットワ
ーク３の学習を行い、各個人に適合したギアチェンジが
実現できるようになる。

【発明が解決しようとする課題】

従来のパターン分別・学習装置は以上のように構成され
ているので、ニューラルネットワークのどの部分がパタ
ーンの特徴のうちどの部分を認識しているかが不明で、
出力ベクトル計算装置がある入力ベクトル４に対して期
待された出力ベクトルを出力できなかったとき学習によ
りすべての結合の重みが更新されてしまう。すなわち、
誤った分別の原因となっている結合１１がどこにあるか
がわかっている場合でもその結合の重みだけを学習中に
変更することができず、学習が効率的にできないという
課題があった。 この発明は上記のような課題を解決するために′なされ
たもので、効率的な学習を行うパターン分別・学習装置
を得ることを目的とする。

【課題を解決するための手段】

この発明に係るパターン分別・学習装置は、出力ベクト
ル計算装置によりパターンの１つの特徴を１つの人力ベ
クトルとしてそれぞれがパターンの各特徴を分別する複
数のニューラルネットワークに入力し、該パターンの各
特徴の分別結果を出力ベクトルとしてそれぞれ出力し、
パターン決定装置により前記複数の出力ベクトルよりパ
ターンの分別結果となる出力ベクトルを決定し、もし期
待された出力ベクトルが決定されなかったとき、選択装
置で該当する入力ベクトルと出力ベクトルの組から学習
ルールベースに格納されたルールに従って原因となるニ
ューラルネットワークを選択して、学習装置により望ま
しい出力ベクトルを出力するように該ニューラルネット
ワークの学習を行うようにしたものである。

【作用】

この発明におけるパターンの分別・学習装置は、パター
ンの各特徴をそれぞれが分別する複数のニューラルネッ
トワークの出力ベクトルのうちパターン決定装置により
決定されたパターンの分別結果となる出力ベクトルが期
待どおりでなかったとき、選択装置によりその原因とな
るニューラルネットワークを選択して、該ニューラルネ
ットワークのみを学習装置により学習させるようにした
ので効率的な学習が可能となる。

【発明の実施例】

以下、この発明の一実施例を図について説明する。第１
図はこの発明の一実施例によるパターン分別・学習装置
の構成を示すブロック図であり、従来の技術（第５図）
と重複する部分については同一符号を付して説明を省略
する。図において、７は複数の出力ベクトル５から入力
ベクトル４に対する適切な出力ベクトル５を決定するパ
ターン決定装置、８は複数の入力ベクトル４及び出力ベ
クトル５から該当する１組を入力し、入力ベクトル４の
特徴・出力ベクトル５の特徴・その特徴を分別するニュ
ーラルネットワーク３のインデックス（パターンの各特
徴毎に発生する状態）の組で示したルールに適合したニ
ューラルネットワーク３を選択する選択装置、９は前記
ルールを格納する学習ルールベースである。 次に動作について説明する。 パターンの１つの特徴となる入力ベクトル４が入力され
ると、出力ベクトル計算装置１は、パターンの各特徴の
それぞれを分別する複数のニューラルネットワーク３に
入力し、該パターンの各特徴の分別結果を出力ベクトル
５としてそれぞれ出力させる。ここで１つのニューラル
ネットワーク３はパターンの１つの特徴を分別するので
、１つの入力ベクトル（１つの特徴）に対して、パター
ンの特徴の数だけ出力ベクトル５が得られることになる
。この出力ベクトル計算装置１から複数の出力ベクトル
５が出力されると、パターン決定装置７により、入力ベ
クトル４に対する適切な出力ベクトル５が決定する。こ
の適切な出力ベクトル５が期待どおりでないとき、選択
装置８は、学習ルールベース９に格納されている入力ベ
クトル４の特徴に対する出力ベクトル５の特徴及びこの
特徴を分別するニューラルネットワーク３のインデック
スの組で示したルールに従って、その原因となったニュ
ーラルネットワーク３を選択する。この原因となったニ
ューラルネットワークが選択されると学習装置２はテキ
ストとなる望ましい出力ベクトル６を出力するように該
ニューラルネットワーク３の学習を行う。なおこの学習
の機能については従来技術で説明した学習の機能と同様
である。 さらに具体的な例で動作を説明する。まずオートマチイ
ック自動車が自動的にギアチェンジする例を考える。こ
のオートマチイック自動車中の各種センサの出力データ
のベクトルがそれぞれ入力ベクトル４である。本発明に
かかるパターン分別・学習装置ではパターンの各特徴と
なる「エンジンに無理がかかっている状態」、「加速時
で走行が重い状態」を分別できる２つのニューラルネッ
トワークから構成される。これらニューラルネットワー
ク３の出力層のユニットＩＯは各ニューラルネットワー
ク３が分別すべき状態が起こっているかどうかを示す。 これらユニット１０は出力側のベクトルが出力ベクトル
５である。出力ベクトル計算装置１は２つのニューラル
ネットワーク３と人力ベクトル４から２つの出力ベクト
ル５を計算する。パターン決定装置７は２つの出力ベク
トル５のうち有効な出力ベクトル５を取り出してギア自
動設定機構に伝える。パターン決定装置７が２つの出力
ベクトル５のうち有効な出力ベクトル５を取り出すには
、例えば入力ベクトル４中の加速度に注目して減速中で
あれば「エンジンに無理がかかっている状態」を表すユ
ニッ）１０が有効であり、加速中であれば「加速時で走
行が重い状態」を表すユニットｌＯが有効である状態に
応答する出力ベクトル５を取り出す。 学習装置２は、例えば、パターン分別・学習装置の出力
によって自動的にシフトダウンが起こったがその直後に
ドライバがアクセルを強く踏み込んだときや、ギアシフ
ト自動設定機構がシフトダウンしようとしているときに
ドライバが自分で先にシフトダウンしたときに起動され
るものとする。 これを学習起動条件とする。図１において選択装置８は
入力ベクトル４及び出力ベクトル５を取り込むことによ
って前述の条件が成立しているかどうかを検査しており
、条件が成立すれば適切なニューラルネットワーク３を
選択し、ドライバの行動を望ましい出力ベクトル６とし
て学習装置に起動をかける。 次に、第２図は選択装置８の構成を示すブロック図であ
り、図において、１５は入力ベクトル４及び出力ベクト
ル５の特徴を示すエレメント、１６は前記エレメントを
保つワーキングメモリ（以下ＷＭという）、１７は学習
ルールベース９に格納されたルールのうち前記ＷＭ上の
エレメントに相応するルールを１つ選ぶ推論部、１８は
操作ルールベース１９に格納されたルールを用いて入力
ベクトル４及び出力ベクトル５の特徴をＷＭ１６上に設
置するＷＭ操作部、１９は操作ルールベース、２０はパ
ターン分別結果に対して満足できないときに、利用者の
意志を伝える手段としての端末、１９は入力ベクトル４
及び出力ベクトル５から特徴を取り出してＷＭ１６上の
エレメントとして設置するための手続きを示した条件及
び動作を記述したルールで、入力ベクトル４及び出力ベ
クトル５の特徴とＷＭ１６上に置くべきエレメントとの
組である。 次に選択装置８の動作について第３図に示すフローチャ
ートを用いて説明する。 ＷＭ操作部１８は入力ベクトル４及び出力ベクトル５の
組を常に取り込み（ステップ５Ｔ２６）、操作ルールベ
ース１９のルールの条件部４１に適合する入力ベクトル
４及び出力ベクトル５の組が取り込まれると（ステップ
５Ｔ２７）、該入力ベクトル４及び出力ベクトル５の特
徴をＷＭ１６上のｔｉ作ルールの動作部４２に示された
エレメント１５に格納する（ステップ５Ｔ２８）、推論
部１７はＷＭ１６上のエレメント１５と学習ルールベー
ス９内の学習ルールの条件部４１を比較して（ステップ
ＳＴ２９）　、適切なニューラルネットワーク３を選択
する（ステップ５Ｔ３０）。さらに入力ベクトル４及び
望ましい出力ベクトル６を設定しくステップ５Ｔ３１）
、学習装置２を起動させ（ステップ５Ｔ３２）、ＷＭ１
６を空にする（ステップ５Ｔ３３）。 またＷＭ操作部１８及び操作ルールベース１９、並びに
推論部１７及び学習ルールベース９は、例えばｒＬＩｓ
Ｐで学ぶ認知心理学２」　（安西、佐伯、難波著、東京
大学出版会、第５章、ｐｐ、１１３−１３９）に示され
たプロダクションシステムの手法により実現し、２つの
ルールベースには第４図（ａ）（ｂ）に示したようなル
ールをそれぞれ入れておく、第４図（ａ）に示したルー
ルは、鎖側でギアシフト自動設定機構がパターン分別・
学習装置を用いて「エンジンに無理がかかっている状態
」を分別しギアを１つシフトダウンしたがそのタイミン
グが速すぎたことをドライバの動作から認識するための
操作ルールである。（ｂ）に示したルールはシフトダウ
ンするタイミングが速すぎたときに「エンジンに無理が
かかっている状態」を分別するためのニューラルネット
ワーク３を選択し学習させるための学習ルールであり、
４１は条件部、４２は動作部である。 なお、上記実施例ではドライバなどのユーザがパターン
分別の結果に同意しないことをユーザの動作から抽出し
たが、端末２０を通じてユーザが明示的に同意しないこ
とを示しても同様の効果が得られる。また、ギアを１つ
シフトダウンしたタイミングが速すぎたことをドライバ
の動作から認識するのにＷＭ操作部１８と操作ルールベ
ース１９を用いたがこの部分にニューラルネットワーク
を用いてもよい。

【発明の効果】

以上のように、この発明によれば、パターンの各特徴を
それぞれが分別する複数のニューラルネットワークの出
力ベクトルのうちパターン決定装置により決定されたパ
ターンの分別結果となる出力ベクトルが期待どおりでな
かったとき、選択装置によりその原因となるニューラル
ネットワークを学習ルールベースに格納されたルールに
従って選択し、該ニューラルネットワークのみを望まし
出力ベクトルを出力するように学習装置により学習させ
るようにしたので効率的な学習を可能にする効果がある
。

【図面の簡単な説明】

第１図はこの発明の一実施例によるパターン分別・学習
装置の構成を示すブロック図、第２図はこの発明の一実
施例における選択装置の構成を示すブロック図、第３図
はこの発明の一実施例における選択装置の動作を説明す
るフローチャート、り図、第７図は従来のパターン分別
・学習装置の動作を説明するフローチャート、第８図は
ニューラルネットワークの学習動作を説明するフローチ
ャートである。 図において１は出力ベクトル計算装置、２は学習装置、
３はニューラルネットワーク、４は入力ベクトル、５は
出力ベクトル、６は望ましい出力ベクトル、７はパター
ン決定装置、８は選択装置、９は学習ルールベースであ
る。 なお、図中、同一符号は同一、又は相当部分を示す。 （外２名） ５′ニー−Ｖ ン分別・学習装置の構成を示すブロック図、第６図はニ
ューラルネットワークの構成を示すプロッ第 図 第 図 ｌｂ）

Claims (1)

【特許請求の範囲】
1. 入力層、１以上の中間層及び出力層から構成され、パタ
   ーンの１つの特徴に１つ対応してそれぞれが各特徴を分
   別する複数のニューラルネットワークと、パターンの１
   つの特徴を１つの入力ベクトルとして前記複数のニュー
   ラルネットワークに入力し、該パターンの各特徴の分別
   結果を出力ベクトルとしてそれぞれ出力させる出力ベク
   トル計算装置と、前記複数のニューラルネットワークか
   らそれぞれ出力される出力ベクトルから１つの出力ベク
   トルをパターンの分別結果として出力するパターン決定
   装置と、望ましい出力ベクトルを出力するニューラルネ
   ットワークの学習を行う学習装置と、前記複数のニュー
   ラルネットワークのうち前記学習装置で学習させるニュ
   ーラルネットワークを選択するルールを格納する学習ル
   ールベースと、前記学習ルールベースに格納されている
   ルールに適合したニューラルネットワークを選択する選
   択装置とを備えたパターン分別・学習装置。