JP2776265B2 - 単位認識ユニット及び学習型認識判断装置 - Google Patents
単位認識ユニット及び学習型認識判断装置Info
- Publication number
- JP2776265B2 JP2776265B2 JP6224696A JP22469694A JP2776265B2 JP 2776265 B2 JP2776265 B2 JP 2776265B2 JP 6224696 A JP6224696 A JP 6224696A JP 22469694 A JP22469694 A JP 22469694A JP 2776265 B2 JP2776265 B2 JP 2776265B2
- Authority
- JP
- Japan
- Prior art keywords
- unit
- input
- output
- recognition
- division
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Landscapes
- Image Analysis (AREA)
Description
【０００１】
【産業上の利用分野】本発明は対象物の判断認識を行な
う学習型認識判断装置に関するものである。
う学習型認識判断装置に関するものである。
【０００２】
【従来の技術】従来の学習型認識判断装置としては、例
えばD.E. ラメルハート (Rummelhart)らによる"ラーニンク゛ リフ゜リセ゛
ンテーションス゛ ハ゛イ ハ゛ックフ゜ロハ゜ケ゛ーティンク゛ エラース゛ (Learning rep
resentations by back-propagating errors)", ネイチャー
(Nature) Vol.323 No.9(1986)に示されている。図10は
従来の学習型認識判断装置の一般的構成図を示すもので
あり、201、202は入力端子、212は出力端子、217は学習
回路、218、219、220は多入力一出力回路、221は出力
層、222は隠れ層である。図10に示されるように、学習
型認識判断装置は多入力一出力回路を階層状に接続した
構成によって、入力端子201、202から入力された信号を
処理して、出力端子212から出力する。このように、階
層状に接続された多入力一出力回路のうち、出力信号を
出力する多入力一出力回路から成る層を出力層と呼び、
それ以外の多入力一出力回路から成る層を隠れ層と呼
ぶ。隠れ層は、一つの層をなす多入力一出力回路によっ
て構成されても良いし、複数の層をなす多入力一出力回
路によって構成されても良い。図11に従来の隠れ層が一
つの学習型認識判断装置の構成例を示す。図11におい
て、201、202は入力端子、203、204、205、206、207、2
08は可変重み乗算器、209、210、211は飽和入出力特性
を持つ加算器、212は出力端子、213は教師信号発生部、
214は誤差算出部、215は最急降下方向決定部、216は重
み変更部、217は学習回路、218, 219, 220は多入力一出
力回路、221は出力層、222は隠れ層である。図11に示さ
れるように、多入力一出力回路218、219および220は可
変重み乗算器と飽和入出力特性を持つ加算器からなって
いる。即ち、第ｊ番目の多入力一出力回路の出力信号は
（数１）で表わされる。
えばD.E. ラメルハート (Rummelhart)らによる"ラーニンク゛ リフ゜リセ゛
ンテーションス゛ ハ゛イ ハ゛ックフ゜ロハ゜ケ゛ーティンク゛ エラース゛ (Learning rep
resentations by back-propagating errors)", ネイチャー
(Nature) Vol.323 No.9(1986)に示されている。図10は
従来の学習型認識判断装置の一般的構成図を示すもので
あり、201、202は入力端子、212は出力端子、217は学習
回路、218、219、220は多入力一出力回路、221は出力
層、222は隠れ層である。図10に示されるように、学習
型認識判断装置は多入力一出力回路を階層状に接続した
構成によって、入力端子201、202から入力された信号を
処理して、出力端子212から出力する。このように、階
層状に接続された多入力一出力回路のうち、出力信号を
出力する多入力一出力回路から成る層を出力層と呼び、
それ以外の多入力一出力回路から成る層を隠れ層と呼
ぶ。隠れ層は、一つの層をなす多入力一出力回路によっ
て構成されても良いし、複数の層をなす多入力一出力回
路によって構成されても良い。図11に従来の隠れ層が一
つの学習型認識判断装置の構成例を示す。図11におい
て、201、202は入力端子、203、204、205、206、207、2
08は可変重み乗算器、209、210、211は飽和入出力特性
を持つ加算器、212は出力端子、213は教師信号発生部、
214は誤差算出部、215は最急降下方向決定部、216は重
み変更部、217は学習回路、218, 219, 220は多入力一出
力回路、221は出力層、222は隠れ層である。図11に示さ
れるように、多入力一出力回路218、219および220は可
変重み乗算器と飽和入出力特性を持つ加算器からなって
いる。即ち、第ｊ番目の多入力一出力回路の出力信号は
（数１）で表わされる。
【０００３】
【数１】
【０００４】で表される。ここに、y[i]は前段の層の第
ｉ番目の多入力一出力回路の出力信号であり、ｗ[i, j]
は前段の層の第ｉ番目の多入力一出力回路の出力信号が
第ｊ番目の多入力一出力回路に入力されるときに掛けら
れる重みである。fnc()は飽和特性を持つ関数でシグモ
イド関数（数２）等で表される。
ｉ番目の多入力一出力回路の出力信号であり、ｗ[i, j]
は前段の層の第ｉ番目の多入力一出力回路の出力信号が
第ｊ番目の多入力一出力回路に入力されるときに掛けら
れる重みである。fnc()は飽和特性を持つ関数でシグモ
イド関数（数２）等で表される。
【０００５】
【数２】
【０００６】図12に、前記のfnc()で表される、飽和入
出力特性を持つ加算器209、210及び211の特性関数のグ
ラフを示す。学習型認識判断装置における学習とは、入
力信号に対して望ましい出力信号（以下、教師信号と呼
ぶ）を出力するように可変重み乗算器203,204,205,206,
207および208で掛けられる重みを変更する。重みの変更
量を求めるために、まず教師信号と出力層の出力信号と
から、（数３）を用いて誤差Ｅを求める。
出力特性を持つ加算器209、210及び211の特性関数のグ
ラフを示す。学習型認識判断装置における学習とは、入
力信号に対して望ましい出力信号（以下、教師信号と呼
ぶ）を出力するように可変重み乗算器203,204,205,206,
207および208で掛けられる重みを変更する。重みの変更
量を求めるために、まず教師信号と出力層の出力信号と
から、（数３）を用いて誤差Ｅを求める。
【０００７】
【数３】
【０００８】ここに、yp[j]は第ｐ番目の入力信号に対
する出力層の第ｊ番目の多入力一出力回路の出力信号、
tp[j]はyp[j]に対する教師信号、pΣは全ての教師信号
に関する総和、Σjは出力層の全ての多入力一出力回路
に関する総和、ベクトルｗは重みｗ[i,j]を成分とする
ベクトル（以下ベクトルｗを重みベクトルと呼ぶ）であ
る。(2)式で示されるように誤差Ｅは教師信号と出力層
の出力信号との差の２乗和で表され、重みベクトルｗの
関数となる。学習では重みを変更し、教師信号と実際の
出力信号との差、即ち誤差を最小化する。重みの変更量
は（数４）により決定される。
する出力層の第ｊ番目の多入力一出力回路の出力信号、
tp[j]はyp[j]に対する教師信号、pΣは全ての教師信号
に関する総和、Σjは出力層の全ての多入力一出力回路
に関する総和、ベクトルｗは重みｗ[i,j]を成分とする
ベクトル（以下ベクトルｗを重みベクトルと呼ぶ）であ
る。(2)式で示されるように誤差Ｅは教師信号と出力層
の出力信号との差の２乗和で表され、重みベクトルｗの
関数となる。学習では重みを変更し、教師信号と実際の
出力信号との差、即ち誤差を最小化する。重みの変更量
は（数４）により決定される。
【０００９】
【数４】
【００１０】ここで、εは学習パラメータと呼ばれる正
の定数、αはモーメンタムと呼ばれる正の定数であり、
∂Ｅ／∂ｗ は、（数３）で表される誤差Ｅの重みｗ
[i, j]による微分を成分とするベクトルで、最急降下方
向と呼ばれる。Δｗ'は、前回の学習における重み変更
量のベクトル表現である。
の定数、αはモーメンタムと呼ばれる正の定数であり、
∂Ｅ／∂ｗ は、（数３）で表される誤差Ｅの重みｗ
[i, j]による微分を成分とするベクトルで、最急降下方
向と呼ばれる。Δｗ'は、前回の学習における重み変更
量のベクトル表現である。
【００１１】従来の学習型認識判断装置の学習回路217
では、教師信号発生部213が入力信号に対する教師信号
（望ましい出力信号）tp[j]を発生する。誤差算出部214
は、教師信号tp[j]と出力層の出力信号yp[j]とから、
（数３）で表される誤差Ｅを算出する。誤差算出部214
は重みの変更のために必要な教師信号と出力信号との差
信号tp[j] - yp[j]を、最急降下方向決定部215に出力す
る。最急降下方向決定部215は前記差信号、出力層出力
信号、隠れ層出力信号、入力信号及び出力層の重みをも
とに、重みをベクトルで表現する重み空間における誤差
Ｅの、最急降下方向を求める。最急降下方向は、（数
５）より求まる。
では、教師信号発生部213が入力信号に対する教師信号
（望ましい出力信号）tp[j]を発生する。誤差算出部214
は、教師信号tp[j]と出力層の出力信号yp[j]とから、
（数３）で表される誤差Ｅを算出する。誤差算出部214
は重みの変更のために必要な教師信号と出力信号との差
信号tp[j] - yp[j]を、最急降下方向決定部215に出力す
る。最急降下方向決定部215は前記差信号、出力層出力
信号、隠れ層出力信号、入力信号及び出力層の重みをも
とに、重みをベクトルで表現する重み空間における誤差
Ｅの、最急降下方向を求める。最急降下方向は、（数
５）より求まる。
【００１２】
【数５】
【００１３】（数５）の右辺は誤差Ｅの重みによる微分
のベクトル表現である。最急降下方向決定部215は、最
急降下方向に学習パラメータを掛けて、重み変更部216
に出力する。重み変更部216は (3)式によって重み変更
量を求め、各可変重み乗算器203、204、205、206、207
および208で掛ける重みを変更する。以上のように最急
降下法によって重みの変更量を求めることの繰り返しに
より、誤差を小さくしてゆき、誤差が十分に小さくなる
と、出力信号が望ましい値に十分近くなったものとし
て、学習を終了する。
のベクトル表現である。最急降下方向決定部215は、最
急降下方向に学習パラメータを掛けて、重み変更部216
に出力する。重み変更部216は (3)式によって重み変更
量を求め、各可変重み乗算器203、204、205、206、207
および208で掛ける重みを変更する。以上のように最急
降下法によって重みの変更量を求めることの繰り返しに
より、誤差を小さくしてゆき、誤差が十分に小さくなる
と、出力信号が望ましい値に十分近くなったものとし
て、学習を終了する。
【００１４】
【発明が解決しようとする課題】以上のような従来の学
習型認識判断装置においては、ネットワ−クの構成は最
初に定義、又は設計した固定の状態から変更することは
出来ず、従って、その学習、認識能力も最初の設計によ
って決ってしまい、入力されるデ−タに応じて適応的に
対処することはできない。又、ネットワ−クの設計手法
も確立されておらず、実際の設計は経験と感による試行
錯誤に頼らざるを得ないのが実状であった。
習型認識判断装置においては、ネットワ−クの構成は最
初に定義、又は設計した固定の状態から変更することは
出来ず、従って、その学習、認識能力も最初の設計によ
って決ってしまい、入力されるデ−タに応じて適応的に
対処することはできない。又、ネットワ−クの設計手法
も確立されておらず、実際の設計は経験と感による試行
錯誤に頼らざるを得ないのが実状であった。
【００１５】本発明はこのような従来例の問題点を改善
するためのもので、入力デ−タに対して重みの変更をす
る学習を行なうのみではなく、入力信号に応じて適応的
にネットワ−クの構造を自動的に変更、構築、及び自己
組織化し、かつ判断認識の対象に対して既存する知識を
利用して無駄な組織の構造の変更を抑制することが可能
な、単位認識ユニット及び学習型認識判断装置を提供し
ようとするものである。
するためのもので、入力デ−タに対して重みの変更をす
る学習を行なうのみではなく、入力信号に応じて適応的
にネットワ−クの構造を自動的に変更、構築、及び自己
組織化し、かつ判断認識の対象に対して既存する知識を
利用して無駄な組織の構造の変更を抑制することが可能
な、単位認識ユニット及び学習型認識判断装置を提供し
ようとするものである。
【００１６】
【課題を解決するための手段】本発明は上記目的を達成
するために、信号入力部と、前記信号入力部からの入力
信号に応じて量子化を行なう量子化器と、経路選択部と
を備えた単位ユニットを構成し、量子化定数を記憶させ
る構造記憶手段と、前記単位ユニットの内部状態を記憶
させる内部状態記憶手段と、前記記憶させた内部状態に
基づいて、前記単位認識ユニットの構造記憶手段に記憶
させた構造及び機能を有し、前記単位認識ユニットの複
製を作成する複製手段と、前記複製手段の前記量子化器
の量子化の範囲の２分割点を制御する分割制御手段とを
設けて単位認識ユニットを構成する。
するために、信号入力部と、前記信号入力部からの入力
信号に応じて量子化を行なう量子化器と、経路選択部と
を備えた単位ユニットを構成し、量子化定数を記憶させ
る構造記憶手段と、前記単位ユニットの内部状態を記憶
させる内部状態記憶手段と、前記記憶させた内部状態に
基づいて、前記単位認識ユニットの構造記憶手段に記憶
させた構造及び機能を有し、前記単位認識ユニットの複
製を作成する複製手段と、前記複製手段の前記量子化器
の量子化の範囲の２分割点を制御する分割制御手段とを
設けて単位認識ユニットを構成する。
【００１７】又、上記単位認識ユニットを、多層の階層
ネットワーク状に複数個組み合わせて、学習型認識判断
装置を構成する。
ネットワーク状に複数個組み合わせて、学習型認識判断
装置を構成する。
【００１８】
【作用】以上のように構成した装置の各階層の単位認識
ユニットの信号入力部に、対象物の各種特徴デ−タを入
力すると、入力デ−タに応じて内部状態記憶手段に記憶
させてある内部状態が変化する。この内部状態がある一
定の状態に達すると、複製手段が内部状態記憶手段に記
憶させてあるネットワ−クの構造と分割制御手段に基づ
いて、既存の単位認識ユニットの複製をしかるべき箇所
に作成し、自動的に入力デ−タに適応した状態のネット
ワ−クを自己組織的に、効率的に形成する事が出来る。
ユニットの信号入力部に、対象物の各種特徴デ−タを入
力すると、入力デ−タに応じて内部状態記憶手段に記憶
させてある内部状態が変化する。この内部状態がある一
定の状態に達すると、複製手段が内部状態記憶手段に記
憶させてあるネットワ−クの構造と分割制御手段に基づ
いて、既存の単位認識ユニットの複製をしかるべき箇所
に作成し、自動的に入力デ−タに適応した状態のネット
ワ−クを自己組織的に、効率的に形成する事が出来る。
【００１９】
（実施例１）以下本発明の単位認識ユニットの第１の実
施例について、図面を参照しながら説明する。
施例について、図面を参照しながら説明する。
【００２０】図１において、8は単位ユニットである。1
は信号入力部で、信号入力端子1aを介して入力した、認
識の対象となる特徴デ−タを量子化器2に入力する。量
子化器2は、入力された特徴デ−タを量子化し、量子化
した値を経路選択部3に入力する。3aは経路入力端子、3
b1及び3b2は経路出力端子で、単位認識ユニット9を組み
合わせてネットワ−クを構成するときに、これらの端子
を相互に連結するものである。経路選択部3は、量子化
器2から入力された値に基づいて、経路入力端子3aと、
経路出力端子3b1又は3b2との連結の仕方を変化させる様
に構成してある。構造記憶手段4には、量子化器の量子
化の範囲と、量子化の個数と、経路選択部の経路入力端
子数及び経路出力端子数を記憶させてある。内部状態記
憶手段5には、それまでに入力された信号の平均、分
散、入力総回数を単位認識ユニット9の内部状態として
記憶させてある。複製作成手段6は、内部状態記憶手段5
に記憶させた内部状態がある一定値に達したときに、構
造記憶手段4に記憶させた単位認識ユニットの量子化の
範囲を２分割し、単位認識ユニット9の複製を作成させ
るように構成してある。分割制御手段7は、複製作成手
段6での前記量子化の範囲の２分割の方法を制御させる
ように構成してある。
は信号入力部で、信号入力端子1aを介して入力した、認
識の対象となる特徴デ−タを量子化器2に入力する。量
子化器2は、入力された特徴デ−タを量子化し、量子化
した値を経路選択部3に入力する。3aは経路入力端子、3
b1及び3b2は経路出力端子で、単位認識ユニット9を組み
合わせてネットワ−クを構成するときに、これらの端子
を相互に連結するものである。経路選択部3は、量子化
器2から入力された値に基づいて、経路入力端子3aと、
経路出力端子3b1又は3b2との連結の仕方を変化させる様
に構成してある。構造記憶手段4には、量子化器の量子
化の範囲と、量子化の個数と、経路選択部の経路入力端
子数及び経路出力端子数を記憶させてある。内部状態記
憶手段5には、それまでに入力された信号の平均、分
散、入力総回数を単位認識ユニット9の内部状態として
記憶させてある。複製作成手段6は、内部状態記憶手段5
に記憶させた内部状態がある一定値に達したときに、構
造記憶手段4に記憶させた単位認識ユニットの量子化の
範囲を２分割し、単位認識ユニット9の複製を作成させ
るように構成してある。分割制御手段7は、複製作成手
段6での前記量子化の範囲の２分割の方法を制御させる
ように構成してある。
【００２１】図１から４の分割制御手段7は具体的には
図５に示す実施例で構成する。図５の分割制御手段7
は、複製手段6の対象となる単位認識ユニット9の量子化
範囲の中点を求める中点演算器7aと、量子化範囲の分割
可能範囲の上限と下限を記憶させた分割範囲記憶手段7c
1と、前記中点演算器の結果と分割可能範囲の上限と下
限とを比較する比較器7dと、比較器によって、中点演算
器で求めた中点が分割可能範囲の上限と下限の間にある
ときに、前記中点を量子化の範囲の２分割点として、複
製作成手段に出力する分割点出力部7bとによって構成し
たものである。
図５に示す実施例で構成する。図５の分割制御手段7
は、複製手段6の対象となる単位認識ユニット9の量子化
範囲の中点を求める中点演算器7aと、量子化範囲の分割
可能範囲の上限と下限を記憶させた分割範囲記憶手段7c
1と、前記中点演算器の結果と分割可能範囲の上限と下
限とを比較する比較器7dと、比較器によって、中点演算
器で求めた中点が分割可能範囲の上限と下限の間にある
ときに、前記中点を量子化の範囲の２分割点として、複
製作成手段に出力する分割点出力部7bとによって構成し
たものである。
【００２２】以上のように構成された単位認識ユニット
について、以下その動作を説明する。実際に複製を作成
するためには、他の単位認識ユニットと全く結合がな
く、使用していない空の単位認識ユニットを用意する必
要がある。複製の基となる単位認識ユニットの信号入力
部1の信号入力端子1aからは、例えば1〜10迄の値を取る
信号が入力され、又、量子化器の量子化の範囲は1〜10
に設定してある。内部状態記憶手段5は順次入力される
デ−タ信号の平均、分散、入力回数を、デ−タ信号が入
力される毎に計算し、記憶する。そして、入力回数と分
散の積がある一定値を越えたときに、中点演算器は1〜1
0迄の量子化の範囲の中点5を求める。分割範囲記憶手段
に記憶されている分割可能範囲の上限が例えば6以上、
下限が4以下であれば、分割点出力部は中点5を量子化の
範囲の分割点として複製作成手段に出力する。分割可能
範囲は、入力データがおおよそどの範囲に位置するかと
いう、入力データに対する既存の知識を利用して、単位
認識ユニットの過剰な複製を抑えるためのもので、本発
明の単位認識ユニット及び学習型認識判断装置の使用者
によって、自由に設定することができる。複製作成手段
は、分割点出力部から量子化の範囲の分割点が出力され
ると、構造記憶手段に記憶させてある量子化器の量子化
の範囲と、量子化の個数と、経路選択部の経路入力端子
数及び経路出力端子数とを参照し、この単位認識ユニッ
トの情報を、空の使用していない単位認識ユニットにコ
ピ−すると共に、他の単位認識ユニットとの結合も含め
て自分と全く同じ複製を作成する。複製時の各量子化の
範囲は、分割点出力部からの指示に基づき、分割前の1
〜10迄の量子化の範囲を中点5を境に分割し、基の単位
認識ユニットの量子化器の量子化の範囲を1〜5に、複製
の単位認識ユニットの量子化器の量子化の範囲を6〜10
に設定し、元のユニットと複製のユニットとで、機能を
分担するように、複製を作成するわけである。
について、以下その動作を説明する。実際に複製を作成
するためには、他の単位認識ユニットと全く結合がな
く、使用していない空の単位認識ユニットを用意する必
要がある。複製の基となる単位認識ユニットの信号入力
部1の信号入力端子1aからは、例えば1〜10迄の値を取る
信号が入力され、又、量子化器の量子化の範囲は1〜10
に設定してある。内部状態記憶手段5は順次入力される
デ−タ信号の平均、分散、入力回数を、デ−タ信号が入
力される毎に計算し、記憶する。そして、入力回数と分
散の積がある一定値を越えたときに、中点演算器は1〜1
0迄の量子化の範囲の中点5を求める。分割範囲記憶手段
に記憶されている分割可能範囲の上限が例えば6以上、
下限が4以下であれば、分割点出力部は中点5を量子化の
範囲の分割点として複製作成手段に出力する。分割可能
範囲は、入力データがおおよそどの範囲に位置するかと
いう、入力データに対する既存の知識を利用して、単位
認識ユニットの過剰な複製を抑えるためのもので、本発
明の単位認識ユニット及び学習型認識判断装置の使用者
によって、自由に設定することができる。複製作成手段
は、分割点出力部から量子化の範囲の分割点が出力され
ると、構造記憶手段に記憶させてある量子化器の量子化
の範囲と、量子化の個数と、経路選択部の経路入力端子
数及び経路出力端子数とを参照し、この単位認識ユニッ
トの情報を、空の使用していない単位認識ユニットにコ
ピ−すると共に、他の単位認識ユニットとの結合も含め
て自分と全く同じ複製を作成する。複製時の各量子化の
範囲は、分割点出力部からの指示に基づき、分割前の1
〜10迄の量子化の範囲を中点5を境に分割し、基の単位
認識ユニットの量子化器の量子化の範囲を1〜5に、複製
の単位認識ユニットの量子化器の量子化の範囲を6〜10
に設定し、元のユニットと複製のユニットとで、機能を
分担するように、複製を作成するわけである。
【００２３】以上の本発明の単位認識ユニットは上記以
外にも以下のように構成することができる。図２は、図
１の経路選択部3を、１個の経路入力端子3a1を有する経
路入力部3aと、２個の経路出力端子3b1と3b2を有する経
路出力部3bと、スイッチ3cとによって構成した実施例を
示すものである。スイッチ3cは、量子化器2から入力さ
れた値に基づき、経路入力部3aの経路入力端子3a1と経
路出力部3bの経路出力端子3b1又は3b2との連結の仕方を
切り換えるようにしたもので、図３は、図１の経路選択
部3を、１個の経路入力端子3a1を有する経路入力部3a
と、２個の経路出力端子3b1と3b2を有する経路力部3b
と、経路荷重部3cとによって構成した実施例を示したも
のである。荷重3c1、及び3c2は、経路出力部3bの経路出
力端子3b1及び3b2に出力する経路出力信号に加える重み
で、荷重器3c0は、量子化器2の出力する値に応じて、こ
れらの荷重を変化させる。荷重3c1及び3c2は、経路入力
部から入力された経路信号を重み付けし、経路出力部3b
は、この重み付けした経路信号を経路出力端子3b1及び3
b2に出力する。図４は、図１の経路入力部3aを、複数の
経路入力端子からの入力信号を加算する加算器3a0によ
って構成し、又、経路出力部3bを、経路信号をしきい値
処理するしきい値処理器3b0によって構成した実施例を
示したものである。加算器3a0は、3a1から3a8までの８
個の経路入力端子から入力された経路信号を加算して、
経路選択器3cに入力する。経路選択器3cは、量子化器2
の出力する値に応じて、前記加算した経路信号を、どの
様に経路出力端子へ出力するかを決定する。経路選択器
3cは、既に図２、図３にて説明を行なったもので、図
２、図３の何れの構成でも、この実施例の経路選択器と
して用いることができる。又、この場合、経路出力部に
は経路出力端子が１個しかなく、従って、経路選択器3c
は、図３の構成を用いた場合には、ただ単に経路信号へ
の重み付けのための荷重を変化させる。
外にも以下のように構成することができる。図２は、図
１の経路選択部3を、１個の経路入力端子3a1を有する経
路入力部3aと、２個の経路出力端子3b1と3b2を有する経
路出力部3bと、スイッチ3cとによって構成した実施例を
示すものである。スイッチ3cは、量子化器2から入力さ
れた値に基づき、経路入力部3aの経路入力端子3a1と経
路出力部3bの経路出力端子3b1又は3b2との連結の仕方を
切り換えるようにしたもので、図３は、図１の経路選択
部3を、１個の経路入力端子3a1を有する経路入力部3a
と、２個の経路出力端子3b1と3b2を有する経路力部3b
と、経路荷重部3cとによって構成した実施例を示したも
のである。荷重3c1、及び3c2は、経路出力部3bの経路出
力端子3b1及び3b2に出力する経路出力信号に加える重み
で、荷重器3c0は、量子化器2の出力する値に応じて、こ
れらの荷重を変化させる。荷重3c1及び3c2は、経路入力
部から入力された経路信号を重み付けし、経路出力部3b
は、この重み付けした経路信号を経路出力端子3b1及び3
b2に出力する。図４は、図１の経路入力部3aを、複数の
経路入力端子からの入力信号を加算する加算器3a0によ
って構成し、又、経路出力部3bを、経路信号をしきい値
処理するしきい値処理器3b0によって構成した実施例を
示したものである。加算器3a0は、3a1から3a8までの８
個の経路入力端子から入力された経路信号を加算して、
経路選択器3cに入力する。経路選択器3cは、量子化器2
の出力する値に応じて、前記加算した経路信号を、どの
様に経路出力端子へ出力するかを決定する。経路選択器
3cは、既に図２、図３にて説明を行なったもので、図
２、図３の何れの構成でも、この実施例の経路選択器と
して用いることができる。又、この場合、経路出力部に
は経路出力端子が１個しかなく、従って、経路選択器3c
は、図３の構成を用いた場合には、ただ単に経路信号へ
の重み付けのための荷重を変化させる。
【００２４】また、前記の分割制御手段は図６、図７に
示すように構成してもよい。図６は、分割制御手段7
を、複製手段6の対象となる単位認識ユニット9の量子化
範囲の中点を求める中点演算器7aと、量子化の範囲の分
割可能な点を記憶させた分割点記憶手段7c2と、中点演
算器の結果と前記分割点記憶手段との距離を計算する距
離演算器7fと、前記距離演算器で求めた各距離の最小値
を求める最小値検出器7eと、最小値を持つ分割可能点を
量子化の範囲の２分割点として複製作成手段6に出力す
る分割点出力部7bとによって構成したものである。
示すように構成してもよい。図６は、分割制御手段7
を、複製手段6の対象となる単位認識ユニット9の量子化
範囲の中点を求める中点演算器7aと、量子化の範囲の分
割可能な点を記憶させた分割点記憶手段7c2と、中点演
算器の結果と前記分割点記憶手段との距離を計算する距
離演算器7fと、前記距離演算器で求めた各距離の最小値
を求める最小値検出器7eと、最小値を持つ分割可能点を
量子化の範囲の２分割点として複製作成手段6に出力す
る分割点出力部7bとによって構成したものである。
【００２５】図７は、図６の分割点出力部を、分割許容
誤差を記憶させた許容誤差記憶手段7b1と、最小値検出
器で求めた最小値と前記分割許容誤差を比較する比較器
7b2と、最小値が分割許容誤差よりも小さいときに、最
小値を持つ分割可能点を量子化の範囲の２分割点として
複製手段に出力する分割点出力器7b3とで構成した実施
例を示したものである。
誤差を記憶させた許容誤差記憶手段7b1と、最小値検出
器で求めた最小値と前記分割許容誤差を比較する比較器
7b2と、最小値が分割許容誤差よりも小さいときに、最
小値を持つ分割可能点を量子化の範囲の２分割点として
複製手段に出力する分割点出力器7b3とで構成した実施
例を示したものである。
【００２６】以上のように構成された単位認識ユニット
について、以下図７を用いてその動作を説明する。図６
又は図７の単位認識ユニットの動作は、分割制御手段以
外は図５と同一である。図５と同様にして、入力データ
が順次入力され、内部状態記憶手段に記憶される入力回
数と分散の積がある一定値を越えたときに、中点演算器
は1〜10迄の量子化の範囲の中点5を求める。距離演算器
は、中点演算器の結果と、分割点記憶手段に記憶されて
いる分割可能点との距離を求める。分割可能点は通常複
数個存在する。最小値検出器は、距離演算器で求めた各
距離の最小値と、距離が最小値となるときの分割可能点
を求める。比較器は、許容誤差記憶手段に記憶される分
割許容誤差と演算距離器で求めた最小値を比較し、最小
値が分割許容誤差よりも小さいときに、分割点出力器
は、最小値検出器で求めた分割可能点を量子化の範囲の
２分割点として複製手段に出力する。分割可能点は図５
を用いて説明した分割可能範囲と同様に、入力データに
対する既存の知識を利用して単位認識ユニットの過剰な
複製を抑えるためのもので、本発明の単位認識ユニット
及び学習型認識判断装置の使用者によって自由に設定す
ることができる。複製作成手段は、分割出力器から量子
化の範囲の分割点が出力されると、構造記憶手段に記憶
させてある量子化器の量子化の範囲と、量子化の個数
と、経路選択部の経路入力端子数及び経路出力端子数と
を参照し、この単位認識ユニットの情報を、空の使用し
ていない単位認識ユニットにコピ−すると共に、他の単
位認識ユニットとの結合も含めて自分と全く同じ複製を
作成する。例えば、分割点出力器から出力された量子化
の範囲の２分割点が3であるとき、元の単位ユニットの
量子化器の量子化の範囲を1〜3に、複製の単位認識ユニ
ットの量子化器の量子化の範囲を4〜10に設定し、基の
ユニットと複製のユニットとで機能を分担するように、
複製を作成するわけである。
について、以下図７を用いてその動作を説明する。図６
又は図７の単位認識ユニットの動作は、分割制御手段以
外は図５と同一である。図５と同様にして、入力データ
が順次入力され、内部状態記憶手段に記憶される入力回
数と分散の積がある一定値を越えたときに、中点演算器
は1〜10迄の量子化の範囲の中点5を求める。距離演算器
は、中点演算器の結果と、分割点記憶手段に記憶されて
いる分割可能点との距離を求める。分割可能点は通常複
数個存在する。最小値検出器は、距離演算器で求めた各
距離の最小値と、距離が最小値となるときの分割可能点
を求める。比較器は、許容誤差記憶手段に記憶される分
割許容誤差と演算距離器で求めた最小値を比較し、最小
値が分割許容誤差よりも小さいときに、分割点出力器
は、最小値検出器で求めた分割可能点を量子化の範囲の
２分割点として複製手段に出力する。分割可能点は図５
を用いて説明した分割可能範囲と同様に、入力データに
対する既存の知識を利用して単位認識ユニットの過剰な
複製を抑えるためのもので、本発明の単位認識ユニット
及び学習型認識判断装置の使用者によって自由に設定す
ることができる。複製作成手段は、分割出力器から量子
化の範囲の分割点が出力されると、構造記憶手段に記憶
させてある量子化器の量子化の範囲と、量子化の個数
と、経路選択部の経路入力端子数及び経路出力端子数と
を参照し、この単位認識ユニットの情報を、空の使用し
ていない単位認識ユニットにコピ−すると共に、他の単
位認識ユニットとの結合も含めて自分と全く同じ複製を
作成する。例えば、分割点出力器から出力された量子化
の範囲の２分割点が3であるとき、元の単位ユニットの
量子化器の量子化の範囲を1〜3に、複製の単位認識ユニ
ットの量子化器の量子化の範囲を4〜10に設定し、基の
ユニットと複製のユニットとで機能を分担するように、
複製を作成するわけである。
【００２７】なお、以上の実施例では経路入力端子が１
個の場合について説明したが、経路入力端子を複数個設
けた場合も同様の動作をさせることができる。
個の場合について説明したが、経路入力端子を複数個設
けた場合も同様の動作をさせることができる。
【００２８】（実施例２）次に第２の本発明である学習
型認識判断装置の実施例について、図面を参照しながら
説明する。
型認識判断装置の実施例について、図面を参照しながら
説明する。
【００２９】図８は、本発明による単位認識ユニットを
多層の階層状に相互結合させて、ネットワ−クを構成し
てある。第１層、第２層、第３層を構成してある単位認
識ユニットn11〜n12、n21〜n24、及びn31〜n38は、例え
ば、図５に示した単位認識ユニットを用いてあり、既に
説明したように、経路選択部3を、１個の経路入力端子3
a1を有する経路入力部3aと、２個の経路出力端子3b1と3
b2を有する経路出力部3bと、経路選択部とによって構成
してある。又、第４層を構成してある単位認識ユニット
n41〜n43は、例えば、図４に示した単位認識ユニットを
用いたもので、既に説明したように、経路入力部3aを、
複数の経路入力端子からの入力信号を加算する加算器3a
0によって構成し、又、経路出力部3bを、経路信号をし
きい値処理するしきい値処理器3b0によって構成したも
のである。図８に示す学習型認識判断装置は、２個から
成る３種類の特徴デ−タに基づき、３種類に分類、認識
させるものである。
多層の階層状に相互結合させて、ネットワ−クを構成し
てある。第１層、第２層、第３層を構成してある単位認
識ユニットn11〜n12、n21〜n24、及びn31〜n38は、例え
ば、図５に示した単位認識ユニットを用いてあり、既に
説明したように、経路選択部3を、１個の経路入力端子3
a1を有する経路入力部3aと、２個の経路出力端子3b1と3
b2を有する経路出力部3bと、経路選択部とによって構成
してある。又、第４層を構成してある単位認識ユニット
n41〜n43は、例えば、図４に示した単位認識ユニットを
用いたもので、既に説明したように、経路入力部3aを、
複数の経路入力端子からの入力信号を加算する加算器3a
0によって構成し、又、経路出力部3bを、経路信号をし
きい値処理するしきい値処理器3b0によって構成したも
のである。図８に示す学習型認識判断装置は、２個から
成る３種類の特徴デ−タに基づき、３種類に分類、認識
させるものである。
【００３０】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。
置について、以下その動作を説明する。
【００３１】まず、学習動作について説明する。第１層
目の単位認識ユニットn11及びn12の経路入力端子への経
路信号として、先ず"１"を与える。又、これらのユニッ
トの量子化器への信号入力端子1aには、認識対象物の第
１の一連の特徴デ−タを入力する。（この図の場合に
は、２個の第１特徴デ−タを、それぞれ２個の単位認識
ユニットに入力する。）これらの第１特徴デ−タを、n1
1及びn12の量子化器が量子化し、この量子化した値に基
づいて、経路p11及びp12が、図５に示した経路選択部に
よって選ばれ、第２層目の単位認識ユニットn22及びn23
の経路入力端子へ、経路信号"１"が送られる。これらの
ユニットの量子化器への信号入力端子には、認識対象物
の第２の一連の特徴デ−タを入力する。（この図の場合
には、２個の第２特徴デ−タを、それぞれ２個の単位認
識ユニットn22及びn23に入力する。）これらの第２特徴
デ−タを、n22及びn23の量子化器が量子化し、この量子
化した値に基づいて、経路p21及びp22が、図５に示した
経路選択部によって選ばれ、第４層目の単位認識ユニッ
トn34及びn36の経路入力端子へ、経路信号"１"が送られ
る。これらのユニットの量子化器への信号入力端子に
は、認識対象物が分類したい３項目のどれに属するかを
示す教師入力信号、即ち、n41〜n43のどれを選ぶかを示
す信号を入力する。（この図の場合には、教師入力信号
を２個の単位認識ユニットn34及びn36に入力する。）こ
の教師入力信号を、n34及びn36の量子化器が量子化し、
この量子化した値に基づいて、経路p31及びp32が、図５
に示した経路選択部によって選ばれる。
目の単位認識ユニットn11及びn12の経路入力端子への経
路信号として、先ず"１"を与える。又、これらのユニッ
トの量子化器への信号入力端子1aには、認識対象物の第
１の一連の特徴デ−タを入力する。（この図の場合に
は、２個の第１特徴デ−タを、それぞれ２個の単位認識
ユニットに入力する。）これらの第１特徴デ−タを、n1
1及びn12の量子化器が量子化し、この量子化した値に基
づいて、経路p11及びp12が、図５に示した経路選択部に
よって選ばれ、第２層目の単位認識ユニットn22及びn23
の経路入力端子へ、経路信号"１"が送られる。これらの
ユニットの量子化器への信号入力端子には、認識対象物
の第２の一連の特徴デ−タを入力する。（この図の場合
には、２個の第２特徴デ−タを、それぞれ２個の単位認
識ユニットn22及びn23に入力する。）これらの第２特徴
デ−タを、n22及びn23の量子化器が量子化し、この量子
化した値に基づいて、経路p21及びp22が、図５に示した
経路選択部によって選ばれ、第４層目の単位認識ユニッ
トn34及びn36の経路入力端子へ、経路信号"１"が送られ
る。これらのユニットの量子化器への信号入力端子に
は、認識対象物が分類したい３項目のどれに属するかを
示す教師入力信号、即ち、n41〜n43のどれを選ぶかを示
す信号を入力する。（この図の場合には、教師入力信号
を２個の単位認識ユニットn34及びn36に入力する。）こ
の教師入力信号を、n34及びn36の量子化器が量子化し、
この量子化した値に基づいて、経路p31及びp32が、図５
に示した経路選択部によって選ばれる。
【００３２】次に、各単位認識ユニットが複製を作成す
る際の装置全体としての動作を説明する。
る際の装置全体としての動作を説明する。
【００３３】先に述べたように、実際に複製を作成する
ためには、他の単位認識ユニットと全く結合がなく、使
用していない空の単位認識ユニットを用意する必要があ
る。複製の元となる単位認識ユニットの信号入力部に入
力される信号の入力回数と分散の積がある一定値を越え
たとき、図５に示す分割制御手段の中の中点演算器は、
量子化の範囲の中点を求める。求めた中点が、分割範囲
記憶手段に記憶されている分割可能範囲の上限と下限と
の間にあれば、分割点出力部は中点を量子化の範囲の分
割点として複製作成手段に出力する。分割可能範囲は、
入力データがおおよそどの範囲に位置するかという、入
力データに対する既存の知識を利用して、単位認識ユニ
ットの過剰な複製を抑えるためのもので、本発明の単位
認識ユニット及び学習型認識判断装置の使用者によっ
て、自由に設定することができる。複製作成手段は、分
割点出力部から量子化の範囲の分割点が出力されると構
造記憶手段を動作させる。学習型認識判断装置の中の単
位認識ユニットが複製を作成する場合、図８に示す第４
層までの各層の単位認識ユニットは、各ユニットの下層
に連結させた単位認識ユニットの全てを含めて複製する
必要がある。図９は、下層に連結させた単位認識ユニッ
トの全てを含めた複製の様子を示したものである。複製
作成検出部Sは、複製動作を起こした全ての単位認識ユ
ニットを検出し、複製を作成する各ユニットの下層に連
結させた単位認識ユニットの全てを含めて複製する様に
指示を出す。例えば図９に示すように、ユニット71は、
下層に連結させた単位認識711、712を含めて複製するわ
けで、複製の単位認識ユニット72、及びその下層の単位
認識ユニット721、722が作成されるわけである。このよ
うな複製手段を用いる場合、複製する各ユニットの下層
に不必要なユニットが存在すると、不必要なユニットも
含めて複製されるため、学習を繰り返すにつれて、必要
以上に大規模なネットワークとなる。本発明による単位
認識ユニットは、先に述べた分割制御手段によって不必
要な単位認識ユニットの複製及び過剰規模のネットワー
クを抑制することができるため、入力デ−タに対してネ
ットワ−クの学習を行なうのみではなく、入力データに
対する知識を前提として、入力信号に応じて適応的かつ
効率的にネットワ−クの構造を自動的に変更することで
自己組織化することが可能となる。さらに、分割制御手
段内の分割可能範囲を広く設定すると、分割に対する制
御能力が低下するため、学習していない新規なデ−タ入
力に対する汎化性にも優れさせることができる。
ためには、他の単位認識ユニットと全く結合がなく、使
用していない空の単位認識ユニットを用意する必要があ
る。複製の元となる単位認識ユニットの信号入力部に入
力される信号の入力回数と分散の積がある一定値を越え
たとき、図５に示す分割制御手段の中の中点演算器は、
量子化の範囲の中点を求める。求めた中点が、分割範囲
記憶手段に記憶されている分割可能範囲の上限と下限と
の間にあれば、分割点出力部は中点を量子化の範囲の分
割点として複製作成手段に出力する。分割可能範囲は、
入力データがおおよそどの範囲に位置するかという、入
力データに対する既存の知識を利用して、単位認識ユニ
ットの過剰な複製を抑えるためのもので、本発明の単位
認識ユニット及び学習型認識判断装置の使用者によっ
て、自由に設定することができる。複製作成手段は、分
割点出力部から量子化の範囲の分割点が出力されると構
造記憶手段を動作させる。学習型認識判断装置の中の単
位認識ユニットが複製を作成する場合、図８に示す第４
層までの各層の単位認識ユニットは、各ユニットの下層
に連結させた単位認識ユニットの全てを含めて複製する
必要がある。図９は、下層に連結させた単位認識ユニッ
トの全てを含めた複製の様子を示したものである。複製
作成検出部Sは、複製動作を起こした全ての単位認識ユ
ニットを検出し、複製を作成する各ユニットの下層に連
結させた単位認識ユニットの全てを含めて複製する様に
指示を出す。例えば図９に示すように、ユニット71は、
下層に連結させた単位認識711、712を含めて複製するわ
けで、複製の単位認識ユニット72、及びその下層の単位
認識ユニット721、722が作成されるわけである。このよ
うな複製手段を用いる場合、複製する各ユニットの下層
に不必要なユニットが存在すると、不必要なユニットも
含めて複製されるため、学習を繰り返すにつれて、必要
以上に大規模なネットワークとなる。本発明による単位
認識ユニットは、先に述べた分割制御手段によって不必
要な単位認識ユニットの複製及び過剰規模のネットワー
クを抑制することができるため、入力デ−タに対してネ
ットワ−クの学習を行なうのみではなく、入力データに
対する知識を前提として、入力信号に応じて適応的かつ
効率的にネットワ−クの構造を自動的に変更することで
自己組織化することが可能となる。さらに、分割制御手
段内の分割可能範囲を広く設定すると、分割に対する制
御能力が低下するため、学習していない新規なデ−タ入
力に対する汎化性にも優れさせることができる。
【００３４】次に、認識動作について説明を行なう。認
識過程では、内部状態憶手段に記憶させた単位認識ユニ
ットの内部状態は変化せず、従って、複製作成手段も動
作しない。
識過程では、内部状態憶手段に記憶させた単位認識ユニ
ットの内部状態は変化せず、従って、複製作成手段も動
作しない。
【００３５】第１層から第２層までの単位認識ユニット
n11、n12及びn22、n23は、学習の動作と全く同様に、入
力した特徴デ−タを量子化器が量子化し、これに基づい
てスイッチを切り換え、経路p11、p12及びp21、p22を順
次選択する。認識動作の場合、第３層の単位認識ユニッ
トn34及びn36の信号入力端子には、教師入力信号は入力
されない。従って、学習時のスイッチの状態が保持され
ており、これらのスイッチの状態に応じて経路p31及びp
32が選択され、第４層目の単位認識ユニットn42の経路
入力端子へ、経路信号"１"が送られる。このユニットの
経路入力部の加算器は、p31及びp32の経路を通して入力
された経路信号を加算する。信号入力部の信号入力端子
には、信号"1"が入力され、量子化器がこれを量子化
し、経路選択器は、経路出力を可能な状態にし、（信
号"0"が入力された場合には、経路出力をしない状態に
経路選択器が切り換える。）加算した経路入力信号を経
路出力器に送る。経路出力器は、この信号をしきい値処
理し、経路出力端子に出力する。従って、加算した信号
の値があるしきい値より大きければ、出力がなされるわ
けであり、このようにして、経路選択と加算のみで、入
力した認識対象物特徴デ−タに基づいて認識対象物の分
類、認識判断を行なうことが出来るので、その処理が非
常に高速となる。なお、しきい値処理をする関数として
は、シグモイド関数、ステップ関数等を用いることが出
来る。
n11、n12及びn22、n23は、学習の動作と全く同様に、入
力した特徴デ−タを量子化器が量子化し、これに基づい
てスイッチを切り換え、経路p11、p12及びp21、p22を順
次選択する。認識動作の場合、第３層の単位認識ユニッ
トn34及びn36の信号入力端子には、教師入力信号は入力
されない。従って、学習時のスイッチの状態が保持され
ており、これらのスイッチの状態に応じて経路p31及びp
32が選択され、第４層目の単位認識ユニットn42の経路
入力端子へ、経路信号"１"が送られる。このユニットの
経路入力部の加算器は、p31及びp32の経路を通して入力
された経路信号を加算する。信号入力部の信号入力端子
には、信号"1"が入力され、量子化器がこれを量子化
し、経路選択器は、経路出力を可能な状態にし、（信
号"0"が入力された場合には、経路出力をしない状態に
経路選択器が切り換える。）加算した経路入力信号を経
路出力器に送る。経路出力器は、この信号をしきい値処
理し、経路出力端子に出力する。従って、加算した信号
の値があるしきい値より大きければ、出力がなされるわ
けであり、このようにして、経路選択と加算のみで、入
力した認識対象物特徴デ−タに基づいて認識対象物の分
類、認識判断を行なうことが出来るので、その処理が非
常に高速となる。なお、しきい値処理をする関数として
は、シグモイド関数、ステップ関数等を用いることが出
来る。
【００３６】
【発明の効果】以上説明してきたように、本発明の学習
型認識判断装置は少なくとも信号入力部と、信号出力部
とによって単位ユニットを構成し、前記単位ユニットの
構成及び機能を記憶させる構造記憶手段と、前記単位ユ
ニットの内部状態を記憶させる内部状態記憶手段と、前
記記憶させた内部状態の状態に応じて、単位認識ユニッ
トの構造記憶手段に記憶させた構造及び機能を有し、単
位認識ユニットの複製を作成する複製手段と、前記複製
手段で単位認識ユニットを複製する際の、量子化の範囲
の分割を制御する分割制御手段を設けた単位認識ユニッ
ト及び、前記単位認識ユニットを、多層の階層ネットワ
−ク状に複数個組み合わせて構成したものであり、入力
デ−タに応じて、各単位認識ユニットの内部状態が変化
し、複製作成手段が動作して、各単位認識ユニットの複
製を作成する際に、分割制御手段によって、入力データ
に対する既存の知識に基づいた制御を行なうため、入力
信号に応じて適応的にネットワ−クの構造を自動的に変
更することで自己組織化が可能であり、分割範囲記憶手
段に記憶されている分割可能範囲を広くとるか、又は分
割点記憶手段に記憶されている分割可能点を細かくする
ことによって、学習していない新規なデ−タ入力に対す
る汎化性にも優れさせることができる。又、多層の階層
ネットワ−クを構成する各単位認識ユニットの信号入力
部に、対象物の各種特徴デ−タを入力し、量子化器の出
力に応じて、単位認識ユニット同士の結合経路を切り換
え、最下層の前層に於いては、教師信号入力によって最
下層までの選択経路を決定するだけでよく、従って、非
常に高速に学習処理が行える。又、認識過程に於いて
は、多層の階層ネットワ−クを構成する各単位認識ユニ
ットの信号入力部に、対象物の各種特徴デ−タを入力
し、量子化器の出力に応じて、単位認識ユニット同士の
結合経路を切り換え、又、最下層の前層に於ては、学習
過程で設定された結合経路に基づいて、最下層までの選
択経路を決定するだけで認識結果が得られ、従って、学
習結果に基づいて、非常に高速に認識処理が行える。
型認識判断装置は少なくとも信号入力部と、信号出力部
とによって単位ユニットを構成し、前記単位ユニットの
構成及び機能を記憶させる構造記憶手段と、前記単位ユ
ニットの内部状態を記憶させる内部状態記憶手段と、前
記記憶させた内部状態の状態に応じて、単位認識ユニッ
トの構造記憶手段に記憶させた構造及び機能を有し、単
位認識ユニットの複製を作成する複製手段と、前記複製
手段で単位認識ユニットを複製する際の、量子化の範囲
の分割を制御する分割制御手段を設けた単位認識ユニッ
ト及び、前記単位認識ユニットを、多層の階層ネットワ
−ク状に複数個組み合わせて構成したものであり、入力
デ−タに応じて、各単位認識ユニットの内部状態が変化
し、複製作成手段が動作して、各単位認識ユニットの複
製を作成する際に、分割制御手段によって、入力データ
に対する既存の知識に基づいた制御を行なうため、入力
信号に応じて適応的にネットワ−クの構造を自動的に変
更することで自己組織化が可能であり、分割範囲記憶手
段に記憶されている分割可能範囲を広くとるか、又は分
割点記憶手段に記憶されている分割可能点を細かくする
ことによって、学習していない新規なデ−タ入力に対す
る汎化性にも優れさせることができる。又、多層の階層
ネットワ−クを構成する各単位認識ユニットの信号入力
部に、対象物の各種特徴デ−タを入力し、量子化器の出
力に応じて、単位認識ユニット同士の結合経路を切り換
え、最下層の前層に於いては、教師信号入力によって最
下層までの選択経路を決定するだけでよく、従って、非
常に高速に学習処理が行える。又、認識過程に於いて
は、多層の階層ネットワ−クを構成する各単位認識ユニ
ットの信号入力部に、対象物の各種特徴デ−タを入力
し、量子化器の出力に応じて、単位認識ユニット同士の
結合経路を切り換え、又、最下層の前層に於ては、学習
過程で設定された結合経路に基づいて、最下層までの選
択経路を決定するだけで認識結果が得られ、従って、学
習結果に基づいて、非常に高速に認識処理が行える。
【図１】本発明による単位認識ユニットの第１の実施例
を示すブロック図
を示すブロック図
【図２】同じく図１における経路選択部を経路入力部、
経路出力部、スイッチで構成した例を示すブロック図
経路出力部、スイッチで構成した例を示すブロック図
【図３】同じく図２におけるスイッチを経路荷重部に置
き換えた例を示すブロック図
き換えた例を示すブロック図
【図４】同じく図１における経路選択部の経路入力部を
加算器で、経路出力部をしきい値処理器で構成した例を
示すブロック図
加算器で、経路出力部をしきい値処理器で構成した例を
示すブロック図
【図５】同じく図１における分割制御手段を分割点出力
部、比較器、分割範囲記憶手段、中点演算器とで構成し
た例を示すブロック図
部、比較器、分割範囲記憶手段、中点演算器とで構成し
た例を示すブロック図
【図６】同じく図１における分割制御手段を分割点出力
部、最小値検出器、距離演算器、分割範囲記憶手段、中
点演算器とで構成した例を示すブロック図
部、最小値検出器、距離演算器、分割範囲記憶手段、中
点演算器とで構成した例を示すブロック図
【図７】同じく図６の分割点出力部を、許容誤差記憶手
段と、比較器と、分割点出力器とで構成した例を示すブ
ロック図
段と、比較器と、分割点出力器とで構成した例を示すブ
ロック図
【図８】本発明の学習型認識判断装置の一実施例を示し
たブロック図
たブロック図
【図９】同じくそのネットワ−クを含めた複製動作を示
す図
す図
【図１０】従来例の学習型認識判断装置の一般的構成を
示すブロック図
示すブロック図
【図１１】従来例の学習型認識判断装置のブロック図
【図１２】同じく図１１における加算器の特性関数の特
性図
性図
1 信号入力部 1a 信号入力端子 2 量子化器 3 経路選択部 3a 経路入力端子 3b1 経路出力端子 3b2 経路出力端子 4 構造記憶手段 5 内部状態記憶手段 6 複製作成手段 7 分割制御手段 7a 中点演算器 7b 分割点出力部 7b1 許容誤差記憶手段 7b2 比較器 7b3 分割点出力器 7c1 分割範囲記憶手段 7c2 分割点記憶手段 7d 比較器 7e 最小値検出器 7f 距離演算器 8 単位ユニット 9 単位認識ユニット
───────────────────────────────────────────────────── フロントページの続き (72)発明者 丸野 進 大阪府門真市大字門真1006番地 松下電 器産業株式会社内 (56)参考文献 特開 平４−142658（ＪＰ，Ａ) (58)調査した分野(Int.Cl.6，ＤＢ名) G06F 15/18 ＪＩＣＳＴファイル（ＪＯＩＳ)
Claims (8)
- 【請求項１】 信号入力部と、前記信号入力部からの入
力信号に応じて量子化を行なう量子化器と、単一又は複
数の経路入力端子と、少なくとも１個の経路出力端子
と、前記量子化器の出力に応じて、経路の選択を行なう
経路選択部とによって単位ユニットを構成し、前記単位
ユニットと、前記量子化器の量子化の範囲及び量子化の
個数を量子化定数として記憶させる構造記憶手段と、前
記単位ユニットへの入力信号の平均，分散，入力回数を
内部状態として記憶させる内部状態記憶手段と、前記記
憶させた内部状態に基づいて前記量子化の範囲を２分割
し、分割前の前記単位ユニットの全構造と、分割後の各
量子化の範囲を持つ単位ユニットをそれぞれ作成するよ
うに構成した複製作成手段と、前記複製手段による前記
量子化の範囲の２分割点を制御する分割制御手段とを設
け、前記分割制御手段は、量子化の範囲の中点を算出す
る中点演算器と、量子化の分割可能範囲の上限値と下限
値を記憶させる分割範囲記憶手段と、前記分割可能範囲
の上限値、下限値と前記算出した中点とを比較する比較
器と、前記中点が前記分割可能範囲の上限値と下限値と
の間にあるときに、前記算出した中点を前記量子化の範
囲の２分割点として、複製作成手段に出力する分割点出
力部とで構成することを特徴とする単位認識ユニット。 - 【請求項２】 分割制御手段を、中点演算器と、少なく
とも１箇所の量子化の分割可能点を記憶させる分割点記
憶手段と、量子化の範囲の中点と前記分割可能点との距
離を演算する距離演算器と、前記距離演算器で求めた各
距離の最小値を求める最小値検出器と、前記最小値検索
器で求めた最小値を持つ前記分割可能点を、前記量子化
の範囲の２分割点として、複製手段に出力する分割点出
力部とに置き換えて構成した、請求項１に記載の単位認
識ユニット。 - 【請求項３】 分割点出力部は、分割許容誤差を記憶さ
せた許容誤差記憶手段と、最小値検出器で求めた最小値
と前記分割許容誤差を比較する比較器と、前記最小値が
前記分割許容誤差よりも小さいときに、前記最小値検出
器で求めた前記最小値を持つ分割可能点を、量子化の範
囲の２分割点として複製手段に出力する分割点出力器と
で構成した、請求項２に記載の単位認識ユニット。 - 【請求項４】 単一又は複数の経路入力端子を有する経
路入力部と、単一又は複数の経路出力端子を有する経路
出力部と、前記経路入力部の経路入力端子と前記経路出
力部の経路出力端子との連結を、量子化器の出力に応じ
て切り換えるスイッチとによって経路選択器を構成し
た、請求項１〜３に記載の単位認識ユニット。 - 【請求項５】 単一又は複数の経路入力端子を有する経
路入力部と、単一又は複数の経路出力端子を有する経路
出力部と、前記経路入力部の経路入力端子と前記経路出
力部の経路出力端子との連結の強度を、量子化器の出力
に応じて変化させる荷重器とによって経路選択器を構成
した、請求項４に記載の単位認識ユニット。 - 【請求項６】 少なくとも複数の経路入力端子からの入
力信号を加算する加算器によって経路入力部を構成し、
少なくとも前記加算器の出力信号をしきい値処理するし
きい値処理器によって経路出力部を構成した、請求項４
又は請求項５に記載の単位認識ユニット。 - 【請求項７】 請求項１〜６のいずれかに記載の単位認
識ユニットを、多層の階層状に複数個組み合わせ、最下
層を請求項６に記載の単位認識ユニットにて構成し、多
層の階層構造中の最下層の前層に位置する単位認識ユニ
ットの信号入力部に、教師信号を入力するように構成し
た学習型認識判断装置。 - 【請求項８】 多層の階層構造中にある全単位認識ユニ
ットの複製作成動作を検出する複製作成検出手段を設
け、単位認識ユニットの複製を作成する際に、前記単位
認識ユニットに連結させた下層の単位ユニットの全てを
含めて複製を作成させるように構成した請求項７に記載
の学習型認識判断装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6224696A JP2776265B2 (ja) | 1994-09-20 | 1994-09-20 | 単位認識ユニット及び学習型認識判断装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6224696A JP2776265B2 (ja) | 1994-09-20 | 1994-09-20 | 単位認識ユニット及び学習型認識判断装置 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH0887482A JPH0887482A (ja) | 1996-04-02 |
| JP2776265B2 true JP2776265B2 (ja) | 1998-07-16 |
Family
ID=16817813
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6224696A Expired - Fee Related JP2776265B2 (ja) | 1994-09-20 | 1994-09-20 | 単位認識ユニット及び学習型認識判断装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2776265B2 (ja) |
Family Cites Families (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2762735B2 (ja) * | 1990-10-03 | 1998-06-04 | 松下電器産業株式会社 | 単位認識ユニット及び学習型認識判断装置 |
-
1994
- 1994-09-20 JP JP6224696A patent/JP2776265B2/ja not_active Expired - Fee Related
Also Published As
| Publication number | Publication date |
|---|---|
| JPH0887482A (ja) | 1996-04-02 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| EP0591921B1 (en) | Learning and recognition machine | |
| US5265224A (en) | Recognition unit and recognizing and judging apparatus employing same | |
| JP2776265B2 (ja) | 単位認識ユニット及び学習型認識判断装置 | |
| Kaoutar et al. | Multi-criteria optimization of neural networks using multi-objective genetic algorithm | |
| Junge et al. | Online identification of nonlinear time-variant systems using structurally adaptive radial basis function networks | |
| JP2762735B2 (ja) | 単位認識ユニット及び学習型認識判断装置 | |
| Lim et al. | Probabilistic Fuzzy ARTMAP: an autonomous neural network architecture for Bayesian probability estimation | |
| JP2779119B2 (ja) | 学習認識装置 | |
| EP0502494B1 (en) | Recognizing and judging apparatus | |
| Zhao et al. | Cooperative co-evolutionary algorithm-How to evaluate a module? | |
| JPH0619869A (ja) | 単位認識ユニット及び学習型認識判断装置 | |
| JP2767974B2 (ja) | 単位認識ユニット及び認識判断装置 | |
| Uykan | Clustering-based algorithms for single-hidden-layer sigmoid perceptron | |
| Abrao et al. | Rule extraction from artificial neural networks for voltage security analysis | |
| US5542005A (en) | Recognition unit and recognition apparatus | |
| Tetko et al. | Simple heuristic methods for input parameters' estimation in neural networks | |
| JPH05303642A (ja) | パターン認識装置 | |
| Yu et al. | An adaptive step size for backpropagation using linear lower bounding functions | |
| JPH07325797A (ja) | 学習型認識判断装置 | |
| JPH06149769A (ja) | 学習型認識判断装置 | |
| JPH10187651A (ja) | 学習型認識判断装置 | |
| Aarts et al. | The applicability of neural nets for decision support | |
| JPH09325950A (ja) | 学習型認識判断装置 | |
| JPH07325796A (ja) | 学習型認識判断装置 | |
| JPH0713745A (ja) | 神経回路網型パターン学習方法およびパターン処理装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |