JPH09305566A - 学習型認識判断装置 - Google Patents
学習型認識判断装置Info
- Publication number
- JPH09305566A JPH09305566A JP8114809A JP11480996A JPH09305566A JP H09305566 A JPH09305566 A JP H09305566A JP 8114809 A JP8114809 A JP 8114809A JP 11480996 A JP11480996 A JP 11480996A JP H09305566 A JPH09305566 A JP H09305566A
- Authority
- JP
- Japan
- Prior art keywords
- unit
- data
- learning
- group
- category
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Image Analysis (AREA)
Abstract
(57)【要約】
【課題】 カテゴリ群の境界に位置するパターンの認識
率の向上を図り、誤認識または正解にも係らずリジェク
トされているパターンを削除して、高速学習および効率
的な学習が行えるようにする。 【解決手段】 入力パターンを複数のカテゴリ群に分類
し、それらに対する帰属度を算出するファジィ大分類部
７と、各カテゴリ群内における類似度を算出する複数の
細分類部８とからなる学習型認識判断装置において、荷
重変更量制御部82が、第２の群選択部10により選択され
た群帰属度に応じて、それらに対応する細分類部８の荷
重変更量を制御しながら、各細分類部８が協調的に学習
する。また強化学習制御部17により、正解にも係らずリ
ジェクトされたパターンのリジェクト判定値がリジェク
トしきい値以下になるまで学習する。
率の向上を図り、誤認識または正解にも係らずリジェク
トされているパターンを削除して、高速学習および効率
的な学習が行えるようにする。 【解決手段】 入力パターンを複数のカテゴリ群に分類
し、それらに対する帰属度を算出するファジィ大分類部
７と、各カテゴリ群内における類似度を算出する複数の
細分類部８とからなる学習型認識判断装置において、荷
重変更量制御部82が、第２の群選択部10により選択され
た群帰属度に応じて、それらに対応する細分類部８の荷
重変更量を制御しながら、各細分類部８が協調的に学習
する。また強化学習制御部17により、正解にも係らずリ
ジェクトされたパターンのリジェクト判定値がリジェク
トしきい値以下になるまで学習する。
Description
【０００１】
【発明の属する利用分野】本発明は、入力されたパター
ンデータの学習および認識を行う学習型認識判断装置に
関するものである。
ンデータの学習および認識を行う学習型認識判断装置に
関するものである。
【０００２】
【従来の技術】従来のこの種の装置においては、入力さ
れたパターンデータに対して、まず大分類を行って入力
データが属するカテゴリ群を選択し、次に選択されたカ
テゴリ群において、細分類を行うことによって入力デー
タの認識を行うようにしている。このような学習型認識
判断装置の例としては、例えば、電子情報通信学会論文
誌D-II Vol.J75-D-II No.3 pp545-553「大規模ニューラ
ルネット“ＣｏｍｂＮＥＴ−II”」に示されている。
れたパターンデータに対して、まず大分類を行って入力
データが属するカテゴリ群を選択し、次に選択されたカ
テゴリ群において、細分類を行うことによって入力デー
タの認識を行うようにしている。このような学習型認識
判断装置の例としては、例えば、電子情報通信学会論文
誌D-II Vol.J75-D-II No.3 pp545-553「大規模ニューラ
ルネット“ＣｏｍｂＮＥＴ−II”」に示されている。
【０００３】図15はこの従来の学習型認識判断装置の構
成を示すブロック図であり、図15において、１は大分類
部であり、入力部１aと多入力−出力信号処理部１bとで
構成され、入力パターン信号Ｘに対する各カテゴリ群の
出力値(適合度)を計算することによって、前記入力パタ
ーン信号を各カテゴリ群に大分類するものである。２は
複数個からなる細分類部であり、入力部２aと多入力−
出力信号処理部２bと最大値選択部２cとで構成される。
これは入力信号を各カテゴリ群内で細分類するものであ
る。即ち、細分類部入力信号選択部４から出力される入
力パターン信号を入力部２aで入力し、多入力−出力信
号処理部２bは、これと接続されている下層の入力部２a
または多入力−出力信号処理部２bの出力と、その結合
の度合である重み係数とを各々掛け合わせて総和したも
のをしきい値処理して出力するものである。ここでは、
これら複数個の多入力−出力信号処理部２bは層構造で
構成され、各層内相互の結合がなく、上位層にのみ信号
が伝搬するようにネットワーク接続することによって、
入力パターン信号に対するカテゴリ群内の各カテゴリに
類似する度合を求める。最大値選択部２cは、最上位層
の複数個の前記多入力−出力信号処理部２bの出力の中
から最大値を選択する。
成を示すブロック図であり、図15において、１は大分類
部であり、入力部１aと多入力−出力信号処理部１bとで
構成され、入力パターン信号Ｘに対する各カテゴリ群の
出力値(適合度)を計算することによって、前記入力パタ
ーン信号を各カテゴリ群に大分類するものである。２は
複数個からなる細分類部であり、入力部２aと多入力−
出力信号処理部２bと最大値選択部２cとで構成される。
これは入力信号を各カテゴリ群内で細分類するものであ
る。即ち、細分類部入力信号選択部４から出力される入
力パターン信号を入力部２aで入力し、多入力−出力信
号処理部２bは、これと接続されている下層の入力部２a
または多入力−出力信号処理部２bの出力と、その結合
の度合である重み係数とを各々掛け合わせて総和したも
のをしきい値処理して出力するものである。ここでは、
これら複数個の多入力−出力信号処理部２bは層構造で
構成され、各層内相互の結合がなく、上位層にのみ信号
が伝搬するようにネットワーク接続することによって、
入力パターン信号に対するカテゴリ群内の各カテゴリに
類似する度合を求める。最大値選択部２cは、最上位層
の複数個の前記多入力−出力信号処理部２bの出力の中
から最大値を選択する。
【０００４】３は群選択部であり、大分類部１の出力値
(適合度)から複数個のカテゴリ群を選択するものであ
る。前出の細分類部入力信号選択部４は、群選択部３で
得られる群選択情報に基づいて入力パターン信号を入力
する細分類部２を選択するものである。５は識別部あ
り、類似度計算部５aとカテゴリ識別部５bとで構成され
る。これは類似度計算部５aでもって群選択部３で選択
されたカテゴリ群の適合度と、そのカテゴリ群に対応す
る細分類部２の出力値から各カテゴリの類似度を計算
し、カテゴリ識別部５bから得られた各カテゴリの類似
度の最大値を求めることによって、入力パターン信号Ｘ
の識別を行うものである。
(適合度)から複数個のカテゴリ群を選択するものであ
る。前出の細分類部入力信号選択部４は、群選択部３で
得られる群選択情報に基づいて入力パターン信号を入力
する細分類部２を選択するものである。５は識別部あ
り、類似度計算部５aとカテゴリ識別部５bとで構成され
る。これは類似度計算部５aでもって群選択部３で選択
されたカテゴリ群の適合度と、そのカテゴリ群に対応す
る細分類部２の出力値から各カテゴリの類似度を計算
し、カテゴリ識別部５bから得られた各カテゴリの類似
度の最大値を求めることによって、入力パターン信号Ｘ
の識別を行うものである。
【０００５】以上のように構成された従来の学習型認識
判断装置の動作を説明する。認識対象物のｎ個の特徴デ
ータからなる入力パターン信号Ｘは(数１)で示される。
判断装置の動作を説明する。認識対象物のｎ個の特徴デ
ータからなる入力パターン信号Ｘは(数１)で示される。
【０００６】
【数１】Ｘ＝（ｘ1，ｘ2，…，ｘn） この入力パターン信号Ｘは、まず、大分類部１の入力部
１aに入力される。この入力部１aはパターンデータの特
徴データ数に等しくｎ個用意されており、各特徴データ
ｘiはそれぞれ対応する入力部１aに入力される。大分類
部１の各多入力−出力信号処理部１bは、それに接続さ
れている入力部１aの入力ｘjとその連結の度合である重
み係数ｖij(１≦ｉ≦ｍr；ｍrはカテゴリ群の数、１≦j
≦ｎ)とを乗算したものの総和を計算した後、これを入
力パターン信号Ｘおよび、各多入力−出力信号処理部１
bの重み係数ベクトルＶiとすると(数２)で示される。
１aに入力される。この入力部１aはパターンデータの特
徴データ数に等しくｎ個用意されており、各特徴データ
ｘiはそれぞれ対応する入力部１aに入力される。大分類
部１の各多入力−出力信号処理部１bは、それに接続さ
れている入力部１aの入力ｘjとその連結の度合である重
み係数ｖij(１≦ｉ≦ｍr；ｍrはカテゴリ群の数、１≦j
≦ｎ)とを乗算したものの総和を計算した後、これを入
力パターン信号Ｘおよび、各多入力−出力信号処理部１
bの重み係数ベクトルＶiとすると(数２)で示される。
【０００７】
【数２】Ｖi＝（ｖi1，ｖi2，…，ｖin） (数１)，(数２)のノルム｜Ｘ｜、｜Ｖi｜の積で割り算
したものを多入力−出力信号処理部１bは出力する。つ
まり、重み係数ベクトルＶiをもつ多入力−出力信号処
理部１bの出力値sim(Ｘ，Ｖi)は、(数３)で表される。
したものを多入力−出力信号処理部１bは出力する。つ
まり、重み係数ベクトルＶiをもつ多入力−出力信号処
理部１bの出力値sim(Ｘ，Ｖi)は、(数３)で表される。
【０００８】
【数３】
【０００９】なお、重み係数ベクトルＶiについては、
類似した入力パターン信号に対して決まった多入力−出
力信号処理部１bが最大出力を発生するように予め設計
しておく。
類似した入力パターン信号に対して決まった多入力−出
力信号処理部１bが最大出力を発生するように予め設計
しておく。
【００１０】これらの重み係数ベクトルＶiは、従来例
では以下のような手法で設計される。まず第１過程で
は、重み係数ベクトル設計用の入力パターン信号Ｘを入
力する毎に、最もsim(Ｘ，Ｖi)の大きいＶcを求め(この
とき、ＸはＶcに最適整合するという)ＶcをＸに近づけ
る。また、１つの重み係数ベクトルに最適整合する入力
パターン信号がある一定数以上になったときには、その
重み係数ベクトルが担当する領域を２つに分割する。
では以下のような手法で設計される。まず第１過程で
は、重み係数ベクトル設計用の入力パターン信号Ｘを入
力する毎に、最もsim(Ｘ，Ｖi)の大きいＶcを求め(この
とき、ＸはＶcに最適整合するという)ＶcをＸに近づけ
る。また、１つの重み係数ベクトルに最適整合する入力
パターン信号がある一定数以上になったときには、その
重み係数ベクトルが担当する領域を２つに分割する。
【００１１】次に、第２過程では、重み係数ベクトル設
計用の全入力パターン信号に対して、最適整合するＶi
を求め、それが前回と変化したかどうかを調べる。そし
て、変化があればそのＶiを修正する。このとき、第１
過程と同様に重み係数ベクトルの領域の分割も行う。こ
れら重み係数ベクトルの修正，分割がなくなるまで繰り
返す。
計用の全入力パターン信号に対して、最適整合するＶi
を求め、それが前回と変化したかどうかを調べる。そし
て、変化があればそのＶiを修正する。このとき、第１
過程と同様に重み係数ベクトルの領域の分割も行う。こ
れら重み係数ベクトルの修正，分割がなくなるまで繰り
返す。
【００１２】このようにして、重み係数ベクトルの設計
を行うことによって、入力パターン信号は複数のカテゴ
リ群に大分類される。各多入力−出力信号処理部１bの
出力値は、入力パターン信号Ｘに対する各カテゴリ群の
適合度として群選択部３に出力される。
を行うことによって、入力パターン信号は複数のカテゴ
リ群に大分類される。各多入力−出力信号処理部１bの
出力値は、入力パターン信号Ｘに対する各カテゴリ群の
適合度として群選択部３に出力される。
【００１３】群選択部３では、大分類部１で得られた適
合度の大きい順に任意個のカテゴリ群を選び、どのカテ
ゴリ群が選択されたかを示す群選択情報とそれに対応す
る適合度を出力する。群選択部３から得られる群選択情
報に基づいて、細分類部入力信号選択部４は入力パター
ン信号を入力する細分類部２を選び、どのカテゴリ群が
選択されたかを示す群選択情報とそれに対応する適合度
を出力する。
合度の大きい順に任意個のカテゴリ群を選び、どのカテ
ゴリ群が選択されたかを示す群選択情報とそれに対応す
る適合度を出力する。群選択部３から得られる群選択情
報に基づいて、細分類部入力信号選択部４は入力パター
ン信号を入力する細分類部２を選び、どのカテゴリ群が
選択されたかを示す群選択情報とそれに対応する適合度
を出力する。
【００１４】群選択部３から得られる群選択情報に基づ
いて、細分類部入力信号選択部４は、入力パターン信号
を入力する細分類部２を選択し、入力パターン信号をこ
れらの細分類部２へ出力する。
いて、細分類部入力信号選択部４は、入力パターン信号
を入力する細分類部２を選択し、入力パターン信号をこ
れらの細分類部２へ出力する。
【００１５】群選択部３で選択されたカテゴリ群に対応
する各々の細分類部２(即ち、細分類部入力信号選択部
４から入力パターン信号Ｘを入力された細分類部２)で
は、まず、入力部２aに、入力パターン信号Ｘが入力さ
れる。入力部２aは、入力パターン信号Ｘの特徴データ
数に等しくｎ個用意されており、各特徴データｘiはそ
れぞれ対応する入力部２aに入力される。細分類部２の
各多入力−出力信号処理部２bはそれに接続されている
下層の入力部２a、または多入力−出力信号処理部２bの
出力とその連結の度合である重み係数とを掛け合わせた
ものの総和をしきい値関数で変換した後、その値を上層
へ出力する。ここで、各細分類部２の最上位層の多入力
−出力信号処理部２bは、各カテゴリ群に含まれるパタ
ーンデータのカテゴリ数と同じ個数に設定され、最上位
層の各多入力−出力信号処理部２bは、これらの各カテ
ゴリに対応している。最大値選択部２cは最上位層の各
多入力−出力信号処理部２bの出力値の中で最大のもの
を選び、この多入力−出力信号処理部２bに対応するカ
テゴリと、その最大出力値を出力する。
する各々の細分類部２(即ち、細分類部入力信号選択部
４から入力パターン信号Ｘを入力された細分類部２)で
は、まず、入力部２aに、入力パターン信号Ｘが入力さ
れる。入力部２aは、入力パターン信号Ｘの特徴データ
数に等しくｎ個用意されており、各特徴データｘiはそ
れぞれ対応する入力部２aに入力される。細分類部２の
各多入力−出力信号処理部２bはそれに接続されている
下層の入力部２a、または多入力−出力信号処理部２bの
出力とその連結の度合である重み係数とを掛け合わせた
ものの総和をしきい値関数で変換した後、その値を上層
へ出力する。ここで、各細分類部２の最上位層の多入力
−出力信号処理部２bは、各カテゴリ群に含まれるパタ
ーンデータのカテゴリ数と同じ個数に設定され、最上位
層の各多入力−出力信号処理部２bは、これらの各カテ
ゴリに対応している。最大値選択部２cは最上位層の各
多入力−出力信号処理部２bの出力値の中で最大のもの
を選び、この多入力−出力信号処理部２bに対応するカ
テゴリと、その最大出力値を出力する。
【００１６】なお、各多入力−出力信号処理部２bの重
み係数は、カテゴリ群内の各カテゴリをもつ入力パター
ン信号に対して、その各カテゴリに対応する最上位層の
多入力−出力信号処理部２bが最大出力を発生するよう
に、予め学習されている。
み係数は、カテゴリ群内の各カテゴリをもつ入力パター
ン信号に対して、その各カテゴリに対応する最上位層の
多入力−出力信号処理部２bが最大出力を発生するよう
に、予め学習されている。
【００１７】具体的には、このような重み係数の学習方
法は、誤差逆伝搬法と呼ばれる学習アルゴリズムによっ
て行われる。誤差逆伝搬法については、例えば D. E.Ru
melhart, G. E. Hinton and R. J. Williamsによる“Le
arningRepresentations by Back-Propagating Error
s，" Ｎature, vol.323,pp.533-536, Oct. 9, 1986に示
されている。
法は、誤差逆伝搬法と呼ばれる学習アルゴリズムによっ
て行われる。誤差逆伝搬法については、例えば D. E.Ru
melhart, G. E. Hinton and R. J. Williamsによる“Le
arningRepresentations by Back-Propagating Error
s，" Ｎature, vol.323,pp.533-536, Oct. 9, 1986に示
されている。
【００１８】以下、誤差逆伝搬法の概略について説明す
る。
る。
【００１９】まず、重み係数学習用の入力パターン信号
Ｘが細分類部２の入力部２aに入力される。各多入力−
出力信号処理部２bは、既に説明したように、各々それ
に接続されている下層の入力部２a、または多入力−出
力信号処理部２bの出力とその連結の度合である重み係
数とを掛け合わせたものの総和をしきい値関数で変換し
た後、その値を上層へ出力する。ここで、全ての最上位
層の多入力−出力信号処理部２bの出力信号ｏkと望まし
い出力信号ｔk(これを教師信号と呼ぶ)との誤差Ｅは(数
４)のように求められる。
Ｘが細分類部２の入力部２aに入力される。各多入力−
出力信号処理部２bは、既に説明したように、各々それ
に接続されている下層の入力部２a、または多入力−出
力信号処理部２bの出力とその連結の度合である重み係
数とを掛け合わせたものの総和をしきい値関数で変換し
た後、その値を上層へ出力する。ここで、全ての最上位
層の多入力−出力信号処理部２bの出力信号ｏkと望まし
い出力信号ｔk(これを教師信号と呼ぶ)との誤差Ｅは(数
４)のように求められる。
【００２０】
【数４】Ｅ＝0.5ΣpΣk(ｔk−ｏk)2 但し、Σpは教師信号のパターン数に関する総和であ
る。学習の目的は、誤差Ｅを最小にする重み係数の値を
決定することであり、各多入力−出力信号処理部２b間
の重み係数の変更量Δｗijは(数５)に基づいて計算され
る。
る。学習の目的は、誤差Ｅを最小にする重み係数の値を
決定することであり、各多入力−出力信号処理部２b間
の重み係数の変更量Δｗijは(数５)に基づいて計算され
る。
【００２１】
【数５】Δｗij＝−ε∂Ｅ／∂ｗij 但し、εは学習レートと呼ばれる正の定数である。この
ような(数５)に基づいた重み係数の更新を、学習用のパ
ターン信号が入力されるたびに繰り返すことにより、誤
差Ｅを小さくすることができる。誤差Ｅが十分小さくな
ると、出力信号が望ましい値に十分近くなったものとし
て、学習を終了する。
ような(数５)に基づいた重み係数の更新を、学習用のパ
ターン信号が入力されるたびに繰り返すことにより、誤
差Ｅを小さくすることができる。誤差Ｅが十分小さくな
ると、出力信号が望ましい値に十分近くなったものとし
て、学習を終了する。
【００２２】このような重み係数の学習方法によって、
カテゴリ群内の各カテゴリをもつ入力パターン信号に対
し、その各カテゴリに対応する最上位層の多入力−出力
信号処理部２bが最大出力を発生するようにすることが
できる。従って、最上位層の複数個の多入力−出力信号
処理部２bの中で、最大出力を発生するものを最大値選
択部２cで選ぶことにより、各カテゴリ群内において、
即ち、各細分類部において入力パターン信号のカテゴリ
を認識することができる。
カテゴリ群内の各カテゴリをもつ入力パターン信号に対
し、その各カテゴリに対応する最上位層の多入力−出力
信号処理部２bが最大出力を発生するようにすることが
できる。従って、最上位層の複数個の多入力−出力信号
処理部２bの中で、最大出力を発生するものを最大値選
択部２cで選ぶことにより、各カテゴリ群内において、
即ち、各細分類部において入力パターン信号のカテゴリ
を認識することができる。
【００２３】識別部５では、まず、類似度計算部５aに
おいて、群選択部３で選択されたカテゴリ群の適合度
と、そのカテゴリ群に対応する細分類部２の出力値から
(数６)を用いて細分類部２で得られた各カテゴリの類似
度を計算し、これらの類似度を(数６)によりカテゴリ識
別部５bに出力する。
おいて、群選択部３で選択されたカテゴリ群の適合度
と、そのカテゴリ群に対応する細分類部２の出力値から
(数６)を用いて細分類部２で得られた各カテゴリの類似
度を計算し、これらの類似度を(数６)によりカテゴリ識
別部５bに出力する。
【００２４】
【数６】
【００２５】但し、ａ，ｂは実定数とする。
【００２６】最後に、カテゴリ識別部５bは、類似度計
算部５aから得られる各カテゴリの類似度を比較し、そ
れらの中で最大となる類似度に対応するカテゴリを識別
結果として出力する。
算部５aから得られる各カテゴリの類似度を比較し、そ
れらの中で最大となる類似度に対応するカテゴリを識別
結果として出力する。
【００２７】
【発明が解決しようとする課題】しかしながら、上記の
ような構成では、各細分類部２の学習は、群参照用パタ
ーンと学習すべき入力パターン信号の距離すなわち群帰
属度を考慮せず、単一の細分類部で全く独立に行われる
ので、カテゴリ群間の境界に位置する入力パターン信号
に対する認識精度が劣化するだけでなく、未学習パター
ンが誤認識、または正解にも係らずリジェクトされた場
合に、改善することができないという問題がある。
ような構成では、各細分類部２の学習は、群参照用パタ
ーンと学習すべき入力パターン信号の距離すなわち群帰
属度を考慮せず、単一の細分類部で全く独立に行われる
ので、カテゴリ群間の境界に位置する入力パターン信号
に対する認識精度が劣化するだけでなく、未学習パター
ンが誤認識、または正解にも係らずリジェクトされた場
合に、改善することができないという問題がある。
【００２８】また、リジェクト時に、リジェクトデータ
が帰属するカテゴリ群，カテゴリなどの特性を考慮した
リジェクト処理ができないという問題を有していた。
が帰属するカテゴリ群，カテゴリなどの特性を考慮した
リジェクト処理ができないという問題を有していた。
【００２９】本発明は、前記の課題を解決すべく、入力
パターン信号に対する群帰属度を用いて各細分類部を協
調的に学習することにより、カテゴリ群の境界に位置す
る入力パターン信号の認識率の向上が図れ、誤認識また
は正解リジェクトデータの削減に有効な補習学習ならび
にリジェクト処理が効率的に行われる学習型認識判断装
置を提供することを目的とする。
パターン信号に対する群帰属度を用いて各細分類部を協
調的に学習することにより、カテゴリ群の境界に位置す
る入力パターン信号の認識率の向上が図れ、誤認識また
は正解リジェクトデータの削減に有効な補習学習ならび
にリジェクト処理が効率的に行われる学習型認識判断装
置を提供することを目的とする。
【００３０】
【課題を解決するための手段】前記目的を達成するた
め、本発明の学習型認識判断装置は、入力パターン信号
をファジィ大分類部に入力し、ファジィ大分類部は、群
辞書部に記憶されている全ての群参照用パターン信号を
読み出して、前記入力パターン信号が各カテゴリ群に属
する度合である群帰属度を求める。これらの群帰属度を
用いて、第１の群選択部は少なくとも１つのカテゴリ群
を選択し、識別信号荷重部に出力する。各細分類部は、
類似度算出部により前記入力パターン信号が各カテゴリ
群内に含まれる各カテゴリに類似する度合である群内類
似度ベクトルを計算し、前記識別信号荷重部に出力す
る。識別信号荷重部では、まず、前記第１の群選択部で
選択されたカテゴリ群の帰属度により、対応する細分類
部から得られる群内類似度ベクトルを重み付けし、カテ
ゴリ類似度算出部に出力する。
め、本発明の学習型認識判断装置は、入力パターン信号
をファジィ大分類部に入力し、ファジィ大分類部は、群
辞書部に記憶されている全ての群参照用パターン信号を
読み出して、前記入力パターン信号が各カテゴリ群に属
する度合である群帰属度を求める。これらの群帰属度を
用いて、第１の群選択部は少なくとも１つのカテゴリ群
を選択し、識別信号荷重部に出力する。各細分類部は、
類似度算出部により前記入力パターン信号が各カテゴリ
群内に含まれる各カテゴリに類似する度合である群内類
似度ベクトルを計算し、前記識別信号荷重部に出力す
る。識別信号荷重部では、まず、前記第１の群選択部で
選択されたカテゴリ群の帰属度により、対応する細分類
部から得られる群内類似度ベクトルを重み付けし、カテ
ゴリ類似度算出部に出力する。
【００３１】前記カテゴリ類似度算出部では、前記重み
付けされた群内類似度ベクトルをカテゴリごとに加算す
ることにより入力データの各カテゴリが属する度合であ
るカテゴリ類似度を算出し、認識結果算出部がこの算出
されたカテゴリ類似度から識別を行い識別結果を学習制
御部に出力する。そして、認識結果算出部が前記カテゴ
リ類似度から認識結果と認識不可能であることを表すリ
ジェクト信号を出力する。
付けされた群内類似度ベクトルをカテゴリごとに加算す
ることにより入力データの各カテゴリが属する度合であ
るカテゴリ類似度を算出し、認識結果算出部がこの算出
されたカテゴリ類似度から識別を行い識別結果を学習制
御部に出力する。そして、認識結果算出部が前記カテゴ
リ類似度から認識結果と認識不可能であることを表すリ
ジェクト信号を出力する。
【００３２】学習制御部は、教師信号発生部から出力さ
れる入力パターンのカテゴリ番号(教師信号)と前記識別
結果を比較し、比較結果が等しい場合は、各細分類部の
荷重更新を行わずに次の入力パターンの学習を行い、比
較結果が異なる場合には、各細分類部の荷重値が更新さ
れるように制御する。
れる入力パターンのカテゴリ番号(教師信号)と前記識別
結果を比較し、比較結果が等しい場合は、各細分類部の
荷重更新を行わずに次の入力パターンの学習を行い、比
較結果が異なる場合には、各細分類部の荷重値が更新さ
れるように制御する。
【００３３】荷重値が変更される場合、第２の群選択部
によりカテゴリ情報記憶部に記憶されたカテゴリ情報に
より入力パターンのカテゴリが存在する細分類部の中で
群帰属度の大きい方から少なくとも１つの群帰属度が選
択され荷重変更量制御部に出力される。
によりカテゴリ情報記憶部に記憶されたカテゴリ情報に
より入力パターンのカテゴリが存在する細分類部の中で
群帰属度の大きい方から少なくとも１つの群帰属度が選
択され荷重変更量制御部に出力される。
【００３４】荷重変更量制御部は、前記選択された群帰
属度に応じて対応する類似度算出部における荷重変更量
値を制御するので、入力パターンのカテゴリ群に対する
帰属度を用いながら各細分類部が協調して学習され、カ
テゴリ群の境界に位置するパターンが精度良く学習でき
認識率が向上する。
属度に応じて対応する類似度算出部における荷重変更量
値を制御するので、入力パターンのカテゴリ群に対する
帰属度を用いながら各細分類部が協調して学習され、カ
テゴリ群の境界に位置するパターンが精度良く学習でき
認識率が向上する。
【００３５】未学習の評価データが入力されると、認識
結果算出部の判定結果が認識結果表示部に表示された認
識結果が認識されると共に、認識結果が誤認識または正
解リジェクトの場合、正解の認識結果が正解入力部から
入力される。
結果算出部の判定結果が認識結果表示部に表示された認
識結果が認識されると共に、認識結果が誤認識または正
解リジェクトの場合、正解の認識結果が正解入力部から
入力される。
【００３６】そして補習学習制御部は、前記入力された
正解の認識結果に基づき、誤認識の場合、認識結果が正
解の認識結果に一致するまで前記細分類部の学習(追加)
を制御し、正解リジェクトデータの場合、前記リジェク
ト判定値が予め設定されたリジェクトしきい値以下にな
るまで、前記細分類部の学習(強化)を行うように制御す
ることにより、誤認識および正解リジェクトの削減が可
能になる。
正解の認識結果に基づき、誤認識の場合、認識結果が正
解の認識結果に一致するまで前記細分類部の学習(追加)
を制御し、正解リジェクトデータの場合、前記リジェク
ト判定値が予め設定されたリジェクトしきい値以下にな
るまで、前記細分類部の学習(強化)を行うように制御す
ることにより、誤認識および正解リジェクトの削減が可
能になる。
【００３７】
【発明の実施の形態】本発明の請求項１に記載の発明
は、類似パターンの集合からなるカテゴリ群を代表する
群参照用パターン信号が複数個記憶されている群辞書部
と、前記群参照用パターン信号を用いて入力パターン信
号が各カテゴリ群に属する度合である群帰属度を計算す
るファジィ大分類部と、前記群帰属度から少なくとも１
つのカテゴリ群を選択する第１の群選択部と、前記入力
パターン信号がカテゴリ群内に含まれる各カテゴリに類
似する度合である群内類似度を計算する類似度算出部
と、第２の群選択部の出力に応じて前記類似度算出部の
荷重変更量を制御する荷重変更量制御部とからなる複数
個の細分類部と、前記細分類部で得られた群内類似度を
前記選択された群帰属度により重み付けする識別信号荷
重部と、前記識別信号荷重部の出力から各カテゴリに属
する度合であるカテゴリ類似度の算出を行うカテゴリ類
似度算出部と、前記算出された類似度から認識結果また
は認識不可であることを表すリジェクト信号を出力する
認識結果算出部と、前記細分類部の学習に必要な教師信
号を発生する教師信号発生部と、各細分類部に属するカ
テゴリ情報を記憶したカテゴリ情報記憶部と、前記カテ
ゴリ情報により入力パターンのカテゴリが存在する細分
類部の中で群帰属度の大きい方から少なくとも１つの群
帰属度を選択する前記第２の群選択部と、前記識別結果
と前記教師信号発生部から出力される入力パターンのカ
テゴリとの比較結果に応じて前記細分類部の学習を制御
する学習制御部と、前記認識結果算出部で判定された判
定結果を表示する認識結果表示部と、前記認識結果が間
違っている誤認識である場合、または正解でリジェクト
された場合に、正解の認識結果を入力する正解入力部
と、前記入力された正解の認識結果に基づいて前記誤認
識のデータまたは前記正解リジェクトのデータに関する
前記細分類部の学習を制御する補習学習制御部とを備え
たものであり、この構成により、入力パターン信号をフ
ァジィ大分類部に入力し、ファジィ大分類部は、群辞書
部に記憶されている全ての群参照用パターン信号を読み
出して、前記入力パターン信号が各カテゴリ群に属する
度合である群帰属度を求める。これらの群帰属度を用い
て、第１の群選択部は少なくとも１つのカテゴリ群を選
択し、識別信号荷重部に出力する。各細分類部は、類似
度算出部により前記入力パターン信号が各カテゴリ群内
に含まれる各カテゴリに類似する度合である群内類似度
ベクトルを計算し、前記識別信号荷重部に出力する。識
別信号荷重部では、まず、前記第１の群選択部で選択さ
れたカテゴリ群の帰属度により、対応する細分類部から
得られる群内類似度ベクトルを重み付けし、カテゴリ類
似度算出部に出力する。
は、類似パターンの集合からなるカテゴリ群を代表する
群参照用パターン信号が複数個記憶されている群辞書部
と、前記群参照用パターン信号を用いて入力パターン信
号が各カテゴリ群に属する度合である群帰属度を計算す
るファジィ大分類部と、前記群帰属度から少なくとも１
つのカテゴリ群を選択する第１の群選択部と、前記入力
パターン信号がカテゴリ群内に含まれる各カテゴリに類
似する度合である群内類似度を計算する類似度算出部
と、第２の群選択部の出力に応じて前記類似度算出部の
荷重変更量を制御する荷重変更量制御部とからなる複数
個の細分類部と、前記細分類部で得られた群内類似度を
前記選択された群帰属度により重み付けする識別信号荷
重部と、前記識別信号荷重部の出力から各カテゴリに属
する度合であるカテゴリ類似度の算出を行うカテゴリ類
似度算出部と、前記算出された類似度から認識結果また
は認識不可であることを表すリジェクト信号を出力する
認識結果算出部と、前記細分類部の学習に必要な教師信
号を発生する教師信号発生部と、各細分類部に属するカ
テゴリ情報を記憶したカテゴリ情報記憶部と、前記カテ
ゴリ情報により入力パターンのカテゴリが存在する細分
類部の中で群帰属度の大きい方から少なくとも１つの群
帰属度を選択する前記第２の群選択部と、前記識別結果
と前記教師信号発生部から出力される入力パターンのカ
テゴリとの比較結果に応じて前記細分類部の学習を制御
する学習制御部と、前記認識結果算出部で判定された判
定結果を表示する認識結果表示部と、前記認識結果が間
違っている誤認識である場合、または正解でリジェクト
された場合に、正解の認識結果を入力する正解入力部
と、前記入力された正解の認識結果に基づいて前記誤認
識のデータまたは前記正解リジェクトのデータに関する
前記細分類部の学習を制御する補習学習制御部とを備え
たものであり、この構成により、入力パターン信号をフ
ァジィ大分類部に入力し、ファジィ大分類部は、群辞書
部に記憶されている全ての群参照用パターン信号を読み
出して、前記入力パターン信号が各カテゴリ群に属する
度合である群帰属度を求める。これらの群帰属度を用い
て、第１の群選択部は少なくとも１つのカテゴリ群を選
択し、識別信号荷重部に出力する。各細分類部は、類似
度算出部により前記入力パターン信号が各カテゴリ群内
に含まれる各カテゴリに類似する度合である群内類似度
ベクトルを計算し、前記識別信号荷重部に出力する。識
別信号荷重部では、まず、前記第１の群選択部で選択さ
れたカテゴリ群の帰属度により、対応する細分類部から
得られる群内類似度ベクトルを重み付けし、カテゴリ類
似度算出部に出力する。
【００３８】前記カテゴリ類似度算出部では、前記重み
付けされた群内類似度ベクトルをカテゴリごとに加算す
ることにより入力データの各カテゴリが属する度合であ
るカテゴリ類似度を算出し、認識結果算出部がこの算出
されたカテゴリ類似度から識別を行い識別結果を学習制
御部に出力する。そして、認識結果算出部が前記カテゴ
リ類似度から認識結果と認識不可能であることを表わす
リジェクト信号を出力する。
付けされた群内類似度ベクトルをカテゴリごとに加算す
ることにより入力データの各カテゴリが属する度合であ
るカテゴリ類似度を算出し、認識結果算出部がこの算出
されたカテゴリ類似度から識別を行い識別結果を学習制
御部に出力する。そして、認識結果算出部が前記カテゴ
リ類似度から認識結果と認識不可能であることを表わす
リジェクト信号を出力する。
【００３９】学習制御部は、教師信号発生部から出力さ
れる入力パターンのカテゴリ番号(教師信号)と前記識別
結果を比較し、比較結果が等しい場合は、各細分類部の
荷重更新を行わずに次の入力パターンの学習を行い、比
較結果が異なる場合には、各細分類部の荷重値が更新さ
れるように制御する。
れる入力パターンのカテゴリ番号(教師信号)と前記識別
結果を比較し、比較結果が等しい場合は、各細分類部の
荷重更新を行わずに次の入力パターンの学習を行い、比
較結果が異なる場合には、各細分類部の荷重値が更新さ
れるように制御する。
【００４０】荷重値が変更される場合、第２の群選択部
によりカテゴリ情報記憶部に記憶されたカテゴリ情報に
より入力パターンのカテゴリが存在する細分類部の中で
群帰属度の大きい方から少なくとも１つの群帰属度が選
択され荷重変更量制御部に出力される。
によりカテゴリ情報記憶部に記憶されたカテゴリ情報に
より入力パターンのカテゴリが存在する細分類部の中で
群帰属度の大きい方から少なくとも１つの群帰属度が選
択され荷重変更量制御部に出力される。
【００４１】このように、学習用パターン信号に対する
識別結果が誤っている場合、荷重変更量制御部は、第２
の群選択部により選択された群帰属度に応じて対応する
類似度算出部における荷重変更量値を変えるので、学習
パターンのカテゴリ群に対する帰属度を用いながら各細
分類部が協調して学習され、カテゴリ群の境界に位置す
るパターンが精度良く学習でき認識率が向上する。
識別結果が誤っている場合、荷重変更量制御部は、第２
の群選択部により選択された群帰属度に応じて対応する
類似度算出部における荷重変更量値を変えるので、学習
パターンのカテゴリ群に対する帰属度を用いながら各細
分類部が協調して学習され、カテゴリ群の境界に位置す
るパターンが精度良く学習でき認識率が向上する。
【００４２】また補習学習制御部を設けたことにより、
前記入力された正解の認識結果に基づき、誤認識の場
合、認識結果が正解の認識結果に一致するまで前記第２
の群選択部により細分類部の学習(追加)を制御し、正解
リジェクトデータの場合、前記リジェクト判定値が予め
設定されたリジェクトしきい値以下になるまで、前記第
２の群選択部により選択された細分類部の学習(強化)を
行うように制御することにより、誤認識および正解リジ
ェクトの削減が可能になる。
前記入力された正解の認識結果に基づき、誤認識の場
合、認識結果が正解の認識結果に一致するまで前記第２
の群選択部により細分類部の学習(追加)を制御し、正解
リジェクトデータの場合、前記リジェクト判定値が予め
設定されたリジェクトしきい値以下になるまで、前記第
２の群選択部により選択された細分類部の学習(強化)を
行うように制御することにより、誤認識および正解リジ
ェクトの削減が可能になる。
【００４３】さらに、上記のように補習学習パターンに
関連ある細分類部のみ、重み係数が更新されるので補習
学習が認識判断装置全体に影響を与えにくく、学習済み
データの認識性能に影響が出にくい補習学習が可能にな
る。
関連ある細分類部のみ、重み係数が更新されるので補習
学習が認識判断装置全体に影響を与えにくく、学習済み
データの認識性能に影響が出にくい補習学習が可能にな
る。
【００４４】請求項２に記載の発明は、前記類似度算出
部が、複数の階層からなり、最下層を複数の第３の単位
認識ユニット、最下層の前層を複数の第２の単位認識ユ
ニット、それ以外の層を複数の第１の単位認識ユニット
によりそれぞれ構成され、前記第１の単位認識ユニット
は、信号入力部と、入力信号の出力に応じて量子化を行
う量子化器と、前記入力信号の量子化結果から当該量子
化区間に隣接する量子化区間を選択する隣接区間選択部
と、前記入力信号の属する量子化区間ならびに当該量子
化区間に隣接する量子化区間に対する荷重値を記憶する
荷重テーブルと、単一または複数の経路入力端子を有す
る経路入力部と、単一または複数の経路出力端子を有す
る経路出力部と、量子化結果に応じて経路に加える荷重
の設定位置を変えることにより前記経路入力部の経路入
力端子と前記経路出力部の経路出力端子との連結強度を
変化させる経路荷重部とを備え、前記第２の単位認識ユ
ニットは、信号入力部と、入力信号の出力に応じて量子
化を行う量子化器と、単一または複数の経路入力端子を
有する経路入力部と、単一または複数の経路出力端子を
有する経路出力部と、経路入力部の経路入力端子に伝達
された値を数ビットシフトする伝達量変更部と、この伝
達量変更部の出力に応じて前記経路入力端子と前記量子
化器の出力値が指し示す経路出力部の経路出力端子との
連結強度を増加する学習器とを備え、前記第３の単位認
識ユニットは、複数の経路入力端子からの入力信号を加
算する加算器と、この加算器の出力信号をしきい値処理
するしきい値処理器とを備えた構成であるようにしたも
のである。
部が、複数の階層からなり、最下層を複数の第３の単位
認識ユニット、最下層の前層を複数の第２の単位認識ユ
ニット、それ以外の層を複数の第１の単位認識ユニット
によりそれぞれ構成され、前記第１の単位認識ユニット
は、信号入力部と、入力信号の出力に応じて量子化を行
う量子化器と、前記入力信号の量子化結果から当該量子
化区間に隣接する量子化区間を選択する隣接区間選択部
と、前記入力信号の属する量子化区間ならびに当該量子
化区間に隣接する量子化区間に対する荷重値を記憶する
荷重テーブルと、単一または複数の経路入力端子を有す
る経路入力部と、単一または複数の経路出力端子を有す
る経路出力部と、量子化結果に応じて経路に加える荷重
の設定位置を変えることにより前記経路入力部の経路入
力端子と前記経路出力部の経路出力端子との連結強度を
変化させる経路荷重部とを備え、前記第２の単位認識ユ
ニットは、信号入力部と、入力信号の出力に応じて量子
化を行う量子化器と、単一または複数の経路入力端子を
有する経路入力部と、単一または複数の経路出力端子を
有する経路出力部と、経路入力部の経路入力端子に伝達
された値を数ビットシフトする伝達量変更部と、この伝
達量変更部の出力に応じて前記経路入力端子と前記量子
化器の出力値が指し示す経路出力部の経路出力端子との
連結強度を増加する学習器とを備え、前記第３の単位認
識ユニットは、複数の経路入力端子からの入力信号を加
算する加算器と、この加算器の出力信号をしきい値処理
するしきい値処理器とを備えた構成であるようにしたも
のである。
【００４５】請求項３に記載の発明は、前記類似度算出
部が、教師信号選択部の出力を前記細分類部の中で最も
大きな値を出力することが望ましい前記第３の単位認識
ユニットの番号に変換する教師信号変換部を備え、最下
層の前層に位置する前記第２の単位認識ユニットの信号
入力部に前記教師信号変換部の出力を入力する構成であ
るようにしたものである。
部が、教師信号選択部の出力を前記細分類部の中で最も
大きな値を出力することが望ましい前記第３の単位認識
ユニットの番号に変換する教師信号変換部を備え、最下
層の前層に位置する前記第２の単位認識ユニットの信号
入力部に前記教師信号変換部の出力を入力する構成であ
るようにしたものである。
【００４６】請求項４に記載の発明は、前記荷重変更量
制御部が、前記第２の群選択部の出力に応じて対応する
類似度算出部における伝達量変更部のビットシフト量を
制御する構成であるようにしたものである。
制御部が、前記第２の群選択部の出力に応じて対応する
類似度算出部における伝達量変更部のビットシフト量を
制御する構成であるようにしたものである。
【００４７】請求項５に記載の発明は、前記荷重変更量
制御部が、前記第２の群選択部の出力に応じて対応する
類似度算出部の学習回数を変更する構成であるようにし
たものである。
制御部が、前記第２の群選択部の出力に応じて対応する
類似度算出部の学習回数を変更する構成であるようにし
たものである。
【００４８】請求項６に記載の発明は、前記認識結果算
出部が、カテゴリ類似度の大きい方から少なくとも２つ
のカテゴリ類似度を選択し、それらの比をリジェクト判
定値として、このリジェクト判定値が予め設定されてい
るリジェクトしきい値より大きい場合にリジェクト信号
を出力する構成であるようにしたものである。
出部が、カテゴリ類似度の大きい方から少なくとも２つ
のカテゴリ類似度を選択し、それらの比をリジェクト判
定値として、このリジェクト判定値が予め設定されてい
るリジェクトしきい値より大きい場合にリジェクト信号
を出力する構成であるようにしたものである。
【００４９】請求項７に記載の発明は、前記ファジィ大
分類部が、入力パターン信号と群辞書部に記憶されてい
る全ての群参照用パターン信号との距離を計算する複数
個の距離計算部と、前記距離計算部の出力の逆数を計算
する複数個の割算器と、前記割算器の各出力を加算する
加算器と、前記加算器の出力と前記距離計算部の出力を
乗算する複数個の乗算器と、前記乗算器の出力の逆数を
計算する複数個の割算器とを備えた構成であるようにし
たものである。
分類部が、入力パターン信号と群辞書部に記憶されてい
る全ての群参照用パターン信号との距離を計算する複数
個の距離計算部と、前記距離計算部の出力の逆数を計算
する複数個の割算器と、前記割算器の各出力を加算する
加算器と、前記加算器の出力と前記距離計算部の出力を
乗算する複数個の乗算器と、前記乗算器の出力の逆数を
計算する複数個の割算器とを備えた構成であるようにし
たものである。
【００５０】請求項８に記載の発明は、前記補習学習制
御部が、認識結果が正解の認識結果に一致するまで前記
細分類部の学習(追加)を制御する構成であるようにした
ものである。
御部が、認識結果が正解の認識結果に一致するまで前記
細分類部の学習(追加)を制御する構成であるようにした
ものである。
【００５１】請求項９に記載の発明は、前記カテゴリ情
報記憶部のカテゴリ情報により入力データのカテゴリが
存在する細分類部の中で群帰属度が最大の群番号を選択
する第１の群番号選択部と、誤認識の入力データとそれ
に対応するカテゴリ番号と当該選択された群番号とを記
憶する追加学習データ記憶部と、前記追加学習データ記
憶部に記憶されているデータから群番号およびカテゴリ
別の誤認識データ数をカウントする誤認識データ数計数
部と、前記カウントされた誤認識データ数の多い群番号
とカテゴリ番号に対応する入力データとカテゴリ番号を
選択する第１の追加学習候補データ選択部とを備えた構
成であるようにしたものであり、この構成により、未学
習の評価データが入力されると、前記請求項１に記載の
発明にて説明したと同様に、前記評価データの認識結果
が認識結果算出部から出力され、認識結果表示部に表示
される。教師信号とその認識結果が異なるとき、前記評
価データに対する帰属度が最大の群番号が群番号選択部
により選択されるとともに、正解入力部から入力された
正解のカテゴリ番号が前記評価データとともに、誤認識
情報記憶部に記憶される。誤認識データ数計数部は、誤
認識情報記憶部に記憶されているデータから、群番号お
よびカテゴリ番号別に誤認識データ数をカウントし、こ
のカウントされた誤認識データ数の多い群番号およびカ
テゴリ番号に対応するデータが第１の追加学習候補デー
タ選択部により選択された後、そのデータが前記と同様
にして学習されるので、追加学習が可能になる。
報記憶部のカテゴリ情報により入力データのカテゴリが
存在する細分類部の中で群帰属度が最大の群番号を選択
する第１の群番号選択部と、誤認識の入力データとそれ
に対応するカテゴリ番号と当該選択された群番号とを記
憶する追加学習データ記憶部と、前記追加学習データ記
憶部に記憶されているデータから群番号およびカテゴリ
別の誤認識データ数をカウントする誤認識データ数計数
部と、前記カウントされた誤認識データ数の多い群番号
とカテゴリ番号に対応する入力データとカテゴリ番号を
選択する第１の追加学習候補データ選択部とを備えた構
成であるようにしたものであり、この構成により、未学
習の評価データが入力されると、前記請求項１に記載の
発明にて説明したと同様に、前記評価データの認識結果
が認識結果算出部から出力され、認識結果表示部に表示
される。教師信号とその認識結果が異なるとき、前記評
価データに対する帰属度が最大の群番号が群番号選択部
により選択されるとともに、正解入力部から入力された
正解のカテゴリ番号が前記評価データとともに、誤認識
情報記憶部に記憶される。誤認識データ数計数部は、誤
認識情報記憶部に記憶されているデータから、群番号お
よびカテゴリ番号別に誤認識データ数をカウントし、こ
のカウントされた誤認識データ数の多い群番号およびカ
テゴリ番号に対応するデータが第１の追加学習候補デー
タ選択部により選択された後、そのデータが前記と同様
にして学習されるので、追加学習が可能になる。
【００５２】このように、第１の追加学習候補データ選
択部を設けたことにより、誤認識データをすべて追加学
習するのではなくて、認識性能の低い群番号またはカテ
ゴリを優先的に追加学習するので、追加学習の効率が向
上する。
択部を設けたことにより、誤認識データをすべて追加学
習するのではなくて、認識性能の低い群番号またはカテ
ゴリを優先的に追加学習するので、追加学習の効率が向
上する。
【００５３】請求項10に記載の発明は、前記第１の追加
学習候補データ選択部において選択されたデータに関す
る学習結果を評価するための基準となるデータと教師信
号を記憶した基準データ記憶部と、前記基準データに関
する認識結果を評価することにより追加学習の良否を判
定する追加学習結果良否判定部と、前記追加学習結果良
否判定部において良と判定された追加学習候補データの
みを選択する第２の追加学習候補データ選択部とを備え
た構成であるようにしたものであり、この構成により、
前記請求項９に記載の発明にて説明したと同様に、追加
学習候補データが選択され、認識性能の低い群番号およ
びカテゴリごとに追加学習が行われ、そのたびに追加学
習結果を評価するための基準データを前記と同様にして
認識し、この認識結果から追加学習結果良否判定部が追
加学習の良否を判定する。そして判定結果が良と判定さ
れた追加学習候補データのみが第２の追加学習候補デー
タ選択部により選択され、最終的な追加学習候補となっ
て追加学習される。
学習候補データ選択部において選択されたデータに関す
る学習結果を評価するための基準となるデータと教師信
号を記憶した基準データ記憶部と、前記基準データに関
する認識結果を評価することにより追加学習の良否を判
定する追加学習結果良否判定部と、前記追加学習結果良
否判定部において良と判定された追加学習候補データの
みを選択する第２の追加学習候補データ選択部とを備え
た構成であるようにしたものであり、この構成により、
前記請求項９に記載の発明にて説明したと同様に、追加
学習候補データが選択され、認識性能の低い群番号およ
びカテゴリごとに追加学習が行われ、そのたびに追加学
習結果を評価するための基準データを前記と同様にして
認識し、この認識結果から追加学習結果良否判定部が追
加学習の良否を判定する。そして判定結果が良と判定さ
れた追加学習候補データのみが第２の追加学習候補デー
タ選択部により選択され、最終的な追加学習候補となっ
て追加学習される。
【００５４】このように、追加学習結果良否判定部およ
び第２の追加学習候補データ選択部を設けたことによ
り、本装置が認識することを目標としているデータであ
る基準データに与える影響を確認しながら、追加学習候
補データが選択されるので、無駄な追加学習データが削
除され、追加学習の効率が向上する。
び第２の追加学習候補データ選択部を設けたことによ
り、本装置が認識することを目標としているデータであ
る基準データに与える影響を確認しながら、追加学習候
補データが選択されるので、無駄な追加学習データが削
除され、追加学習の効率が向上する。
【００５５】請求項11に記載の発明は、前記追加学習結
果良否判定部が、追加学習後の誤読データ数の増加数の
数倍(１以上の整数値)とリジェクトデータ数の増加数と
の総和により、追加学習の良否を判定する構成であるよ
うにしたものである。
果良否判定部が、追加学習後の誤読データ数の増加数の
数倍(１以上の整数値)とリジェクトデータ数の増加数と
の総和により、追加学習の良否を判定する構成であるよ
うにしたものである。
【００５６】請求項12に記載された発明は、前記補習学
習制御部が、リジェクト判定値が予め設定されたリジェ
クトしきい値以下になるまで前記細分類部の学習を制御
する構成であるようにしたものである。
習制御部が、リジェクト判定値が予め設定されたリジェ
クトしきい値以下になるまで前記細分類部の学習を制御
する構成であるようにしたものである。
【００５７】請求項13に記載の発明は、前記カテゴリ情
報記憶部のカテゴリ情報により入力データのカテゴリが
存在する細分類部の中で群帰属度が最大の群番号を選択
する第１の群番号選択部と、前記正解リジェクトの入力
データとそれに対応するカテゴリ番号(教師信号)と前記
選択された群番号とを記憶する強化学習データ記憶部
と、前記強化学習データ記憶部に記憶されているデータ
から群番号別およびカテゴリ別の正解リジェクトデータ
数をカウントする正解リジェクトデータ数計数部と、前
記カウントされた正解リジェクトデータ数の多い群番号
とカテゴリ番号に対応する入力データとカテゴリ番号を
選択する第１の強化学習候補データ選択部とを構成であ
るようにしたものであり、この構成により、未学習の評
価データが入力されると、前記と同様に、入力パターン
の認識結果が認識結果算出部から出力され、認識結果表
示部に表示される。認識結果が正解にも係らずリジェク
トと判定されたとき、この評価データに対する帰属度が
最大の群番号が第１の群番号選択部により選択され、正
解入力部から入力された正解のカテゴリ群が前記評価デ
ータと共に第１の強化学習データ記憶部に記憶される。
正解リジェクトデータ数係数部は、第１の強化学習デー
タ記憶部に記憶されているデータから、群番号およびカ
テゴリ番号別に正解リジェクトデータをカウントし、こ
のカウントされた正解リジェクトデータ数の多い群番号
およびカテゴリ番号に対応するデータが第１の強化学習
候補データ選択部により選択された後、そのデータが前
記と同様にして、強化学習される。
報記憶部のカテゴリ情報により入力データのカテゴリが
存在する細分類部の中で群帰属度が最大の群番号を選択
する第１の群番号選択部と、前記正解リジェクトの入力
データとそれに対応するカテゴリ番号(教師信号)と前記
選択された群番号とを記憶する強化学習データ記憶部
と、前記強化学習データ記憶部に記憶されているデータ
から群番号別およびカテゴリ別の正解リジェクトデータ
数をカウントする正解リジェクトデータ数計数部と、前
記カウントされた正解リジェクトデータ数の多い群番号
とカテゴリ番号に対応する入力データとカテゴリ番号を
選択する第１の強化学習候補データ選択部とを構成であ
るようにしたものであり、この構成により、未学習の評
価データが入力されると、前記と同様に、入力パターン
の認識結果が認識結果算出部から出力され、認識結果表
示部に表示される。認識結果が正解にも係らずリジェク
トと判定されたとき、この評価データに対する帰属度が
最大の群番号が第１の群番号選択部により選択され、正
解入力部から入力された正解のカテゴリ群が前記評価デ
ータと共に第１の強化学習データ記憶部に記憶される。
正解リジェクトデータ数係数部は、第１の強化学習デー
タ記憶部に記憶されているデータから、群番号およびカ
テゴリ番号別に正解リジェクトデータをカウントし、こ
のカウントされた正解リジェクトデータ数の多い群番号
およびカテゴリ番号に対応するデータが第１の強化学習
候補データ選択部により選択された後、そのデータが前
記と同様にして、強化学習される。
【００５８】このように、第１の強化学習候補データ選
択部を設けたことにより、正解リジェクトデータすべて
を強化学習するのではなく、認識性能の低い群番号の細
分類部またはカテゴリを優先的に強化学習するので、強
化学習の効率が向上するだけでなく、第２の群選択部を
設けることにより、強化学習パターンに関連ある細分類
部のみ重み係数が更新されるので、強化学習が認識判断
装置全体に影響を与えにくく、学習済みデータの認識性
能に影響が出にくい強化学習が可能になる。
択部を設けたことにより、正解リジェクトデータすべて
を強化学習するのではなく、認識性能の低い群番号の細
分類部またはカテゴリを優先的に強化学習するので、強
化学習の効率が向上するだけでなく、第２の群選択部を
設けることにより、強化学習パターンに関連ある細分類
部のみ重み係数が更新されるので、強化学習が認識判断
装置全体に影響を与えにくく、学習済みデータの認識性
能に影響が出にくい強化学習が可能になる。
【００５９】請求項14に記載の発明は、前記第１の強化
学習候補データ選択部において選択されたデータに関す
る強化学習結果を評価するための基準となるデータと教
師信号を記憶した基準データ記憶部と、前記基準となる
データに関する認識結果を評価することにより強化学習
の良否を判定する強化学習結果良否判定部と、前記強化
学習結果良否判定部において良と判定された強化学習候
補データのみを選択する第２の強化学習候補データ選択
部とを備えた構成であるようにしたものであり、この構
成により、前記請求項13に記載の発明にて説明したと同
様にして、強化学習候補データが選択され、認識性能の
低い群番号およびカテゴリごとに追加学習が行われ、そ
のたびに強化学習結果を評価するための基準データを前
記と同様にして認識し、この認識結果から強化学習結果
良否判定部が強化学習の良否を判定する。そして判定結
果が良と判定された強化学習候補データのみが第２の強
化学習候補データ選択部により選択され、最終的な強化
学習候補となって強化学習される。
学習候補データ選択部において選択されたデータに関す
る強化学習結果を評価するための基準となるデータと教
師信号を記憶した基準データ記憶部と、前記基準となる
データに関する認識結果を評価することにより強化学習
の良否を判定する強化学習結果良否判定部と、前記強化
学習結果良否判定部において良と判定された強化学習候
補データのみを選択する第２の強化学習候補データ選択
部とを備えた構成であるようにしたものであり、この構
成により、前記請求項13に記載の発明にて説明したと同
様にして、強化学習候補データが選択され、認識性能の
低い群番号およびカテゴリごとに追加学習が行われ、そ
のたびに強化学習結果を評価するための基準データを前
記と同様にして認識し、この認識結果から強化学習結果
良否判定部が強化学習の良否を判定する。そして判定結
果が良と判定された強化学習候補データのみが第２の強
化学習候補データ選択部により選択され、最終的な強化
学習候補となって強化学習される。
【００６０】このように、強化学習結果良否判定部およ
び第２の強化学習候補データ選択部を設けたことによ
り、本装置が認識することを目標としているデータであ
る基準データに与える影響を確認しながら、強化学習候
補データが選択されるので、無駄な強化学習データが削
除され、強化学習の効率が向上する。
び第２の強化学習候補データ選択部を設けたことによ
り、本装置が認識することを目標としているデータであ
る基準データに与える影響を確認しながら、強化学習候
補データが選択されるので、無駄な強化学習データが削
除され、強化学習の効率が向上する。
【００６１】請求項15に記載の発明は、前記強化学習結
果良否判定部が、強化学習後の誤読データ数の増加数の
数倍(１以上の整数値)とリジェクトデータ数の増加数と
の総和により、強化学習の良否を判定する構成であるよ
うにしたものである。
果良否判定部が、強化学習後の誤読データ数の増加数の
数倍(１以上の整数値)とリジェクトデータ数の増加数と
の総和により、強化学習の良否を判定する構成であるよ
うにしたものである。
【００６２】請求項16に記載の発明は、予め設定された
リジェクトしきい値に対して、一定値だけ増減させた２
種類のリジェクトしきい値を発生させる第１のリジェク
トしきい値制御部と、評価用データに対する群帰属度が
最大の群番号を選択する第２の群番号選択部と、評価用
データの認識結果から誤読およびリジェクトデータ数
を、前記選択された群番号により群番号別およびカテゴ
リ別に集計する認識結果集計部と、予め設定されたリジ
ェクトしきい値に対する集計結果と、前記変化後のリジ
ェクトしきい値に対する集計結果の群番号別またはカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定するリジェクトしきい値決定部と
を備えた構成であるようにしたものであり、この構成に
より、未学習の評価データが入力されると、前記と同様
にして、カテゴリ類似度が算出されるとともに、入力デ
ータに対する群帰属度が最大の群番号が第２の群番号選
択部により選択される。予め設定されたリジェクトしき
い値と、第１のリジェクトしきい値制御部により設定さ
れるそのしきい値の値を一定値だけ増減させた２種類の
リジェクトしきい値との計３種類のリジェクトしきい値
により、前記カテゴリ類似度に対する認識結果を認識結
果算出部が算出する。認識結果集計部は、前記３種類の
リジェクトしきい値ごとに前記認識結果と前記選択され
た群番号から誤読およびリジェクトデータ別に集計し、
リジェクトしきい値決定部が、予め設定されたリジェク
トしきい値に対する前記集計結果と、前記変化後のリジ
ェクトしきい値に対する集計結果の群番号別またはカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定する。
リジェクトしきい値に対して、一定値だけ増減させた２
種類のリジェクトしきい値を発生させる第１のリジェク
トしきい値制御部と、評価用データに対する群帰属度が
最大の群番号を選択する第２の群番号選択部と、評価用
データの認識結果から誤読およびリジェクトデータ数
を、前記選択された群番号により群番号別およびカテゴ
リ別に集計する認識結果集計部と、予め設定されたリジ
ェクトしきい値に対する集計結果と、前記変化後のリジ
ェクトしきい値に対する集計結果の群番号別またはカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定するリジェクトしきい値決定部と
を備えた構成であるようにしたものであり、この構成に
より、未学習の評価データが入力されると、前記と同様
にして、カテゴリ類似度が算出されるとともに、入力デ
ータに対する群帰属度が最大の群番号が第２の群番号選
択部により選択される。予め設定されたリジェクトしき
い値と、第１のリジェクトしきい値制御部により設定さ
れるそのしきい値の値を一定値だけ増減させた２種類の
リジェクトしきい値との計３種類のリジェクトしきい値
により、前記カテゴリ類似度に対する認識結果を認識結
果算出部が算出する。認識結果集計部は、前記３種類の
リジェクトしきい値ごとに前記認識結果と前記選択され
た群番号から誤読およびリジェクトデータ別に集計し、
リジェクトしきい値決定部が、予め設定されたリジェク
トしきい値に対する前記集計結果と、前記変化後のリジ
ェクトしきい値に対する集計結果の群番号別またはカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定する。
【００６３】このように、第１のリジェクトしきい値制
御部，第２の群番号選択部，認識結果集計部，リジェク
トしきい値決定部を設けたことにより、群別およびカテ
ゴリ別にリジェクトしきい値が個別に設定されるので、
誤読データ数またはリジェクトデータ数が削減でき、効
率的なリジェクト処理が可能になる。
御部，第２の群番号選択部，認識結果集計部，リジェク
トしきい値決定部を設けたことにより、群別およびカテ
ゴリ別にリジェクトしきい値が個別に設定されるので、
誤読データ数またはリジェクトデータ数が削減でき、効
率的なリジェクト処理が可能になる。
【００６４】請求項17に記載の発明は、前記認識結果集
計部による集計結果から、誤読データ数とリジェクトデ
ータ数の差が大きい群番号またはカテゴリ番号を少なく
とも１つ選択するしきい値変更候補選択部と、前記第１
のリジェクトしきい値制御部に代えて、選択された群ま
たはカテゴリの誤読データ数とリジェクトデータ数の大
小関係から前記群またはカテゴリのリジェクトしきい値
を一定値だけ増減させる第２のリジェクトしきい値制御
部とを備えた構成であるようにしたものであり、この構
成により、未学習の評価データが入力されると、請求項
16に記載の発明と同様にして、カテゴリ類似度と群番号
が選択され、予め設定されたリジェクトしきい値により
認識結果が集計される。
計部による集計結果から、誤読データ数とリジェクトデ
ータ数の差が大きい群番号またはカテゴリ番号を少なく
とも１つ選択するしきい値変更候補選択部と、前記第１
のリジェクトしきい値制御部に代えて、選択された群ま
たはカテゴリの誤読データ数とリジェクトデータ数の大
小関係から前記群またはカテゴリのリジェクトしきい値
を一定値だけ増減させる第２のリジェクトしきい値制御
部とを備えた構成であるようにしたものであり、この構
成により、未学習の評価データが入力されると、請求項
16に記載の発明と同様にして、カテゴリ類似度と群番号
が選択され、予め設定されたリジェクトしきい値により
認識結果が集計される。
【００６５】しきい値変更候補選択部は、前記集計結果
から誤読データ数とリジェクトデータ数の差が大きい群
番号またはカテゴリ番号を少なくとも１つ選択し、第２
のリジェクトしきい値制御部が、その選択された群また
はカテゴリの誤読データ数とリジェクトデータ数の大小
関係から、その群またはカテゴリしきい値を一定値だけ
増加または減少させたリジェクトしきい値を設定する。
から誤読データ数とリジェクトデータ数の差が大きい群
番号またはカテゴリ番号を少なくとも１つ選択し、第２
のリジェクトしきい値制御部が、その選択された群また
はカテゴリの誤読データ数とリジェクトデータ数の大小
関係から、その群またはカテゴリしきい値を一定値だけ
増加または減少させたリジェクトしきい値を設定する。
【００６６】前記リジェクトしきい値に対する認識結果
の集計結果を、請求項16に記載の発明と同様にして、リ
ジェクトしきい値決定部が、予め設定されたリジェクト
しきい値に対する前記集計結果と、前記変化後のリジェ
クトしきい値に対する集計結果の群番号別またはカテゴ
リ別の比較により、群番号別またはカテゴリ別にリジェ
クトしきい値を決定する。
の集計結果を、請求項16に記載の発明と同様にして、リ
ジェクトしきい値決定部が、予め設定されたリジェクト
しきい値に対する前記集計結果と、前記変化後のリジェ
クトしきい値に対する集計結果の群番号別またはカテゴ
リ別の比較により、群番号別またはカテゴリ別にリジェ
クトしきい値を決定する。
【００６７】このように、しきい値変更候補選択部，第
２のリジェクトしきい値制御部を設けたことにより、認
識性能またはリジェクト性能が低い群またはカテゴリの
リジェクトしきい値が個別に設定されるので、それらの
群またはカテゴリに対する誤読データ数またはリジェク
トデータ数が削減でき、効率的なリジェクト処理が可能
になる。
２のリジェクトしきい値制御部を設けたことにより、認
識性能またはリジェクト性能が低い群またはカテゴリの
リジェクトしきい値が個別に設定されるので、それらの
群またはカテゴリに対する誤読データ数またはリジェク
トデータ数が削減でき、効率的なリジェクト処理が可能
になる。
【００６８】請求項18に記載の発明は、前記リジェクト
しきい値決定部が、誤読データの増加数の数倍とリジェ
クトデータの減少数の総和が一定値以下の群番号または
カテゴリ番号のリジェクトしきい値を予め設定された値
から一定値だけ増加させ、逆に誤読データの減少数の数
倍とリジェクトデータの増加数の総和が一定値以下の群
番号またはカテゴリ番号のリジェクトしきい値を予め設
定された値から一定値だけ減少させる構成であるように
したものである。
しきい値決定部が、誤読データの増加数の数倍とリジェ
クトデータの減少数の総和が一定値以下の群番号または
カテゴリ番号のリジェクトしきい値を予め設定された値
から一定値だけ増加させ、逆に誤読データの減少数の数
倍とリジェクトデータの増加数の総和が一定値以下の群
番号またはカテゴリ番号のリジェクトしきい値を予め設
定された値から一定値だけ減少させる構成であるように
したものである。
【００６９】以下、本発明の好適な実施の形態を図面に
基づいて説明する。
基づいて説明する。
【００７０】一般に学習型認識判断装置に入力されるパ
ターンデータとしては、音声等の時系列パターン，文
字，画像等の空間パターン等などがあるが、本例におい
ては、いずれのパターンデータでも構わない。
ターンデータとしては、音声等の時系列パターン，文
字，画像等の空間パターン等などがあるが、本例におい
ては、いずれのパターンデータでも構わない。
【００７１】図１は本発明の第１実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。図１において、６は群辞書部であり、入力パターン
信号の類似パターンの集合からなるカテゴリ群を代表す
る群参照用パターン信号が複数個記憶されているもので
ある。７はファジィ大分類部であり、群辞書部６に記憶
されている群参照用パターン信号を用いて、入力パター
ン信号が各カテゴリ群に属する度合である群帰属度を計
算するものである。８は細分類部であり、入力パターン
信号がカテゴリ群内に含まれる各カテゴリに類似する度
合である群内類似度を計算する類似度算出部81と、後述
する第２の群選択部10の出力に応じて類似度算出部81の
荷重変更量を制御する荷重変更量制御部82からなる。９
は第１の群選択部であり、群帰属度から複数個のカテゴ
リ群を選択するものである。
めの学習型認識判断装置の構成を示すブロック図であ
る。図１において、６は群辞書部であり、入力パターン
信号の類似パターンの集合からなるカテゴリ群を代表す
る群参照用パターン信号が複数個記憶されているもので
ある。７はファジィ大分類部であり、群辞書部６に記憶
されている群参照用パターン信号を用いて、入力パター
ン信号が各カテゴリ群に属する度合である群帰属度を計
算するものである。８は細分類部であり、入力パターン
信号がカテゴリ群内に含まれる各カテゴリに類似する度
合である群内類似度を計算する類似度算出部81と、後述
する第２の群選択部10の出力に応じて類似度算出部81の
荷重変更量を制御する荷重変更量制御部82からなる。９
は第１の群選択部であり、群帰属度から複数個のカテゴ
リ群を選択するものである。
【００７２】前出の第２の群選択部10は後述するカテゴ
リ情報記憶部15に記憶されているカテゴリ情報により入
力パターン信号のカテゴリが存在する細分類部の中で群
帰属度の大きい方から少なくとも１つの群帰属度を選択
するものである。11は識別信号荷重部であり、細分類部
８で得られた群内類似度を第１の群選択部９で選択され
たカテゴリ群の群帰属度により重み付けするものであ
る。この識別信号荷重部11において、11Aは乗算器であ
り、第１の群選択部９で選択されたカテゴリ群の群帰属
度と該帰属度に対応する細分類部８から得られる群内類
似度を乗算するものである。
リ情報記憶部15に記憶されているカテゴリ情報により入
力パターン信号のカテゴリが存在する細分類部の中で群
帰属度の大きい方から少なくとも１つの群帰属度を選択
するものである。11は識別信号荷重部であり、細分類部
８で得られた群内類似度を第１の群選択部９で選択され
たカテゴリ群の群帰属度により重み付けするものであ
る。この識別信号荷重部11において、11Aは乗算器であ
り、第１の群選択部９で選択されたカテゴリ群の群帰属
度と該帰属度に対応する細分類部８から得られる群内類
似度を乗算するものである。
【００７３】12はカテゴリ類似度算出部であり、乗算器
11Aの乗算結果をカテゴリ毎に加算し、各カテゴリに属
する度合であるカテゴリ類似度を算出するものである。
11Aの乗算結果をカテゴリ毎に加算し、各カテゴリに属
する度合であるカテゴリ類似度を算出するものである。
【００７４】14は第１の教師信号発生部であり、各細分
類部８の荷重更新時(学習時)に必要な教師信号を発生す
るものである。15はカテゴリ情報記憶部であり、各細分
類部８に属するカテゴリ情報を記憶してある。16は学習
制御部であり、認識結果算出部13での識別結果と第１の
教師信号発生部14から出力される入力パターンのカテゴ
リ番号との比較結果に応じて、荷重変更量制御部82にお
ける荷重値変更の有無を制御する。17は強化学習制御部
であり、未学習パターンの認識結果が正解リジェクトの
場合、このパターンのリジェクト判定値が予め設定され
たしきい値以下になるまで細分類部８の学習を制御する
ものである。
類部８の荷重更新時(学習時)に必要な教師信号を発生す
るものである。15はカテゴリ情報記憶部であり、各細分
類部８に属するカテゴリ情報を記憶してある。16は学習
制御部であり、認識結果算出部13での識別結果と第１の
教師信号発生部14から出力される入力パターンのカテゴ
リ番号との比較結果に応じて、荷重変更量制御部82にお
ける荷重値変更の有無を制御する。17は強化学習制御部
であり、未学習パターンの認識結果が正解リジェクトの
場合、このパターンのリジェクト判定値が予め設定され
たしきい値以下になるまで細分類部８の学習を制御する
ものである。
【００７５】18は認識結果表示部であり、認識結果算出
部13で識別された認識結果を表示部に出力するものであ
る。19は正解入力部であり、前記認識結果が正解にも係
らず、リジェクトされている場合に正解の認識結果を入
力するものである。20は第２の教師信号発生部であり、
入力された正解の認識結果を入力データに対応するカテ
ゴリ番号である教師信号に変換する。21は教師信号選択
部であり、実行モードにより第１の教師信号発生部14の
出力と第２の教師信号発生部20の出力を切り替える。
部13で識別された認識結果を表示部に出力するものであ
る。19は正解入力部であり、前記認識結果が正解にも係
らず、リジェクトされている場合に正解の認識結果を入
力するものである。20は第２の教師信号発生部であり、
入力された正解の認識結果を入力データに対応するカテ
ゴリ番号である教師信号に変換する。21は教師信号選択
部であり、実行モードにより第１の教師信号発生部14の
出力と第２の教師信号発生部20の出力を切り替える。
【００７６】22は初期学習用データを記憶する学習デー
タ記憶部である。23は初期学習結果を評価するためのデ
ータを記憶する評価データ記憶部である。24は前記入力
データを実行モードにより切り替える入力データ選択部
である。
タ記憶部である。23は初期学習結果を評価するためのデ
ータを記憶する評価データ記憶部である。24は前記入力
データを実行モードにより切り替える入力データ選択部
である。
【００７７】図２は、図１のファジィ大分類部７の具体
構成を示すブロック図である。図２において、25は入力
部であり、入力パターン信号Ｘを入力するものである。
26はｒ個の距離計算部であり、群辞書部６の全ての群参
照用パターン信号Ｖ1，Ｖ2〜Ｖrと入力パターン信号Ｘ
との距離を計算するものである。27はｒ個の割算器であ
り、距離計算部26の出力の逆数を計算するものである。
28は加算器であり、各々の割算器27の出力の総和を求め
るものである。29はｒ個の乗算器であり、加算器28の出
力と距離計算部26の出力を乗算するものである。30はｒ
個の割算器であり、乗算器29の出力の逆数を計算するも
のである。
構成を示すブロック図である。図２において、25は入力
部であり、入力パターン信号Ｘを入力するものである。
26はｒ個の距離計算部であり、群辞書部６の全ての群参
照用パターン信号Ｖ1，Ｖ2〜Ｖrと入力パターン信号Ｘ
との距離を計算するものである。27はｒ個の割算器であ
り、距離計算部26の出力の逆数を計算するものである。
28は加算器であり、各々の割算器27の出力の総和を求め
るものである。29はｒ個の乗算器であり、加算器28の出
力と距離計算部26の出力を乗算するものである。30はｒ
個の割算器であり、乗算器29の出力の逆数を計算するも
のである。
【００７８】図３は図１の類似度算出部81における第１
の単位認識ユニットｋの構成例を示すブロック図であ
る。図３において、31は信号入力部であり、信号入力端
子31aを介して入力した認識判断の対象となる特徴デー
タを量子化器32に入力する。この量子化器32は入力され
た特徴データを量子化し、量子化したレベルを示す値を
経路荷重部33cと隣接区間選択部34に入力する。隣接区
間選択部34は、前記入力信号(特徴データ)の量子化区間
に隣接する量子化区間を選択し経路荷重部33cに出力す
る。
の単位認識ユニットｋの構成例を示すブロック図であ
る。図３において、31は信号入力部であり、信号入力端
子31aを介して入力した認識判断の対象となる特徴デー
タを量子化器32に入力する。この量子化器32は入力され
た特徴データを量子化し、量子化したレベルを示す値を
経路荷重部33cと隣接区間選択部34に入力する。隣接区
間選択部34は、前記入力信号(特徴データ)の量子化区間
に隣接する量子化区間を選択し経路荷重部33cに出力す
る。
【００７９】33a0は経路入力端子、33b1〜33b5は経路出
力端子であり、単位認識ユニットを組み合わせてネット
ワークを構成するときに、これらの端子を相互に連結す
るものである。
力端子であり、単位認識ユニットを組み合わせてネット
ワークを構成するときに、これらの端子を相互に連結す
るものである。
【００８０】経路荷重部33cは、経路入力部33aと経路出
力部33bとの間を接続する荷重33c1〜33c5と、後述する
荷重テーブル33dに記憶されている荷重値を前記量子化
結果に応じて荷重33c1〜33c5に設定する荷重設定部33c0
とで構成される。
力部33bとの間を接続する荷重33c1〜33c5と、後述する
荷重テーブル33dに記憶されている荷重値を前記量子化
結果に応じて荷重33c1〜33c5に設定する荷重設定部33c0
とで構成される。
【００８１】荷重テーブル33dには、入力信号の属する
量子化区間に対する荷重値と該隣接量子化区間に対する
荷重値が記憶されており、経路荷重部33cでは、荷重設
定部33c0が、前記量子化結果に基づいて、前記荷重値を
それぞれの量子化区間に対応する位置に設定する。荷重
33c1〜33c5は経路入力部33aから入力された経路信号を
重み付けし、経路出力部33bはこの重み付けした経路信
号を経路出力端子33b1〜33b5に出力する。
量子化区間に対する荷重値と該隣接量子化区間に対する
荷重値が記憶されており、経路荷重部33cでは、荷重設
定部33c0が、前記量子化結果に基づいて、前記荷重値を
それぞれの量子化区間に対応する位置に設定する。荷重
33c1〜33c5は経路入力部33aから入力された経路信号を
重み付けし、経路出力部33bはこの重み付けした経路信
号を経路出力端子33b1〜33b5に出力する。
【００８２】図４は図１の類似度算出部81におけるネッ
トワ−クの最下層の前層における第２の単位認識ユニッ
トｐの構成例を示すブロック図である。図３に示した第
１の単位認識ユニットｋと同様に、信号入力端子41aを
有する信号入力部41と、量子化器42と、１個の経路入力
端子43a1を有する経路入力部43aと、３個の経路出力端
子43b1〜43b3を有する経路出力部43bと、荷重値変更量
制御信号44aにより経路入力部43aの経路入力端子43a1に
伝達された値をｎビットシフトする伝達量変更部44と、
経路荷重部43cとによって構成されている。
トワ−クの最下層の前層における第２の単位認識ユニッ
トｐの構成例を示すブロック図である。図３に示した第
１の単位認識ユニットｋと同様に、信号入力端子41aを
有する信号入力部41と、量子化器42と、１個の経路入力
端子43a1を有する経路入力部43aと、３個の経路出力端
子43b1〜43b3を有する経路出力部43bと、荷重値変更量
制御信号44aにより経路入力部43aの経路入力端子43a1に
伝達された値をｎビットシフトする伝達量変更部44と、
経路荷重部43cとによって構成されている。
【００８３】経路荷重部43cの荷重43c1〜43c3は経路出
力部43bの経路出力端子43b1〜43b3に出力する経路出力
信号に加える重みで、荷重変更処理過程においては、学
習器43c0により、伝達量変更部44の出力値に応じて経路
入力端子43a1と量子化器42の出力値が指し示す経路出力
端子43b1〜43b3との荷重が更新される。フォワード処理
過程においては、量子化器42には信号が入力されず、荷
重43c1〜43c3は伝達量変更部44から出力された信号を重
み付けし、経路出力部43bはこの重み付けした経路信号
を経路出力端子43b1〜43b3に出力する。
力部43bの経路出力端子43b1〜43b3に出力する経路出力
信号に加える重みで、荷重変更処理過程においては、学
習器43c0により、伝達量変更部44の出力値に応じて経路
入力端子43a1と量子化器42の出力値が指し示す経路出力
端子43b1〜43b3との荷重が更新される。フォワード処理
過程においては、量子化器42には信号が入力されず、荷
重43c1〜43c3は伝達量変更部44から出力された信号を重
み付けし、経路出力部43bはこの重み付けした経路信号
を経路出力端子43b1〜43b3に出力する。
【００８４】図５は図１の類似度算出部81におけるネッ
トワ−クの最下層における第３の単位認識ユニットｑの
構成例を示すブロック図である。図５において、53a0は
複数の経路入力端子53a1〜53a50からの入力信号を加算
する加算器、53b0は経路信号をしきい値処理するしきい
値処理器である。
トワ−クの最下層における第３の単位認識ユニットｑの
構成例を示すブロック図である。図５において、53a0は
複数の経路入力端子53a1〜53a50からの入力信号を加算
する加算器、53b0は経路信号をしきい値処理するしきい
値処理器である。
【００８５】図６は、前記図３ないし図５の第１ないし
第３の単位認識ユニットｋ，ｐ，ｑからなる図１の類似
度算出部81の構成例を示すブロック図である。
第３の単位認識ユニットｋ，ｐ，ｑからなる図１の類似
度算出部81の構成例を示すブロック図である。
【００８６】本構成例では、２個からなる２種類の特徴
データ(第１特徴データ、第２特徴データ)に基づき、３
種類のカテゴリを認識するもので、単位認識ユニットを
複数個組み合わせて、２個の木分岐構造を有し、１つの
木分岐構造中に４層の階層を有するようにネットワーク
を構成してある。第１層，第２層を構成している単位認
識ユニットk11〜k12，k21〜k30は、例えば、図３に示し
た第１の単位認識ユニットｋを用い、第３層を構成して
いる単位認識ユニットp31〜p350は、例えば、図４に示
した第２の単位認識ユニットｐを用い、第４層を構成し
ている単位認識ユニットq41，q42，q43は、図５に示し
た第３の単位認識ユニットｑを用いている。
データ(第１特徴データ、第２特徴データ)に基づき、３
種類のカテゴリを認識するもので、単位認識ユニットを
複数個組み合わせて、２個の木分岐構造を有し、１つの
木分岐構造中に４層の階層を有するようにネットワーク
を構成してある。第１層，第２層を構成している単位認
識ユニットk11〜k12，k21〜k30は、例えば、図３に示し
た第１の単位認識ユニットｋを用い、第３層を構成して
いる単位認識ユニットp31〜p350は、例えば、図４に示
した第２の単位認識ユニットｐを用い、第４層を構成し
ている単位認識ユニットq41，q42，q43は、図５に示し
た第３の単位認識ユニットｑを用いている。
【００８７】各木分岐構造中の１，２層目を構成する第
１の単位認識ユニットｋの信号入力端子62，63には、判
断すべき第１，第２の特徴データを入力し、３層目を構
成する第２の単位認識ユニットｐの信号入力端子64に
は、荷重変更処理過程のみ入力データの教師信号を入力
する。
１の単位認識ユニットｋの信号入力端子62，63には、判
断すべき第１，第２の特徴データを入力し、３層目を構
成する第２の単位認識ユニットｐの信号入力端子64に
は、荷重変更処理過程のみ入力データの教師信号を入力
する。
【００８８】60は、荷重変更およびフォワード処理モー
ド信号を出力することにより、動作モードを切り換える
動作モード選択部、61は、第１の教師信号発生部14から
出力される教師信号を、それに対応する最終層の単位認
識ユニットｑの番号に変換する教師信号変換部である。
ド信号を出力することにより、動作モードを切り換える
動作モード選択部、61は、第１の教師信号発生部14から
出力される教師信号を、それに対応する最終層の単位認
識ユニットｑの番号に変換する教師信号変換部である。
【００８９】以上のように構成された第１実施形態の装
置における動作を説明する。
置における動作を説明する。
【００９０】動作モードは、初期学習モード，強化学習
モードに分かれる。
モードに分かれる。
【００９１】まず、初期学習モードについて説明する。
入力データ選択部24は、学習データ記憶部22のデータを
選択し、学習用パターン信号をファジイ大分類部７と細
分類部８に出力する。
入力データ選択部24は、学習データ記憶部22のデータを
選択し、学習用パターン信号をファジイ大分類部７と細
分類部８に出力する。
【００９２】認識対象物のｎ個の特徴データからなる学
習用パターン信号Ｘを(数７)で表す。
習用パターン信号Ｘを(数７)で表す。
【００９３】
【数７】Ｘ＝（ｘ1，ｘ2，…，ｘn） この入力パターン信号Ｘは、まず、ファジィ大分類部７
に入力される。このファジィ大分類部７では、図２に示
す入力部25が学習用パターン信号Ｘを入力し、ｒ個の距
離計算部26へ学習用パターン信号Ｘを出力する。各々の
距離計算部26は、群辞書部６に記憶されている各カテゴ
リ群を代表する群参照用パターン信号Ｖi(１≦ｉ≦ｒ；
ｒは群参照用パターン信号の数、即ち、カテゴリ群数)
を読み出し、(数８)によりＸとＶiの距離ｄiを計算し、
各々対応するｒ個の割算器27および乗算器29へ出力す
る。
に入力される。このファジィ大分類部７では、図２に示
す入力部25が学習用パターン信号Ｘを入力し、ｒ個の距
離計算部26へ学習用パターン信号Ｘを出力する。各々の
距離計算部26は、群辞書部６に記憶されている各カテゴ
リ群を代表する群参照用パターン信号Ｖi(１≦ｉ≦ｒ；
ｒは群参照用パターン信号の数、即ち、カテゴリ群数)
を読み出し、(数８)によりＸとＶiの距離ｄiを計算し、
各々対応するｒ個の割算器27および乗算器29へ出力す
る。
【００９４】
【数８】
【００９５】但し、ｆはｆ＞１を満たす実数とする。
【００９６】各々の割算器27は、距離ｄiの逆数を計算
し、その出力を加算器28へ出力する。加算器28は、全て
の割算器27の出力の総和を計算し、その出力をｒ個の乗
算器29へ出力する。各々の乗算器29では、対応する距離
計算部26と加算器28の出力を乗算し、その出力を対応す
る割算器30に入力する。各々の割算器30では、対応する
乗算器29の出力の逆数を計算する。最終的にファジィ大
分類部７では、この各割算器30の出力が学習用パターン
信号Ｘに対する各カテゴリ群の群帰属度μi(１≦ｉ≦
ｒ)として、第１の群選択部９に出力される。つまり、
各カテゴリ群の群帰属度μi(１≦ｉ≦ｒ)は、(数９)で
表される。
し、その出力を加算器28へ出力する。加算器28は、全て
の割算器27の出力の総和を計算し、その出力をｒ個の乗
算器29へ出力する。各々の乗算器29では、対応する距離
計算部26と加算器28の出力を乗算し、その出力を対応す
る割算器30に入力する。各々の割算器30では、対応する
乗算器29の出力の逆数を計算する。最終的にファジィ大
分類部７では、この各割算器30の出力が学習用パターン
信号Ｘに対する各カテゴリ群の群帰属度μi(１≦ｉ≦
ｒ)として、第１の群選択部９に出力される。つまり、
各カテゴリ群の群帰属度μi(１≦ｉ≦ｒ)は、(数９)で
表される。
【００９７】
【数９】
【００９８】なお、群辞書部６に記憶されている各カテ
ゴリ群を代表する群参照用パターン信号は、予め、従来
のクラスタリング手法、例えば、電子情報通信学会編
長尾真著「パターン情報処理」(コロナ社)に示されてい
るＫ平均アルゴリズム、およびIsodataアルゴリズム
や、Y.Linde, A.Buzo, and R.M.Gray による"An Algori
thmfor Vector Quantizer design," IEEE Trans. Commu
n.,COM-28, 1, pp.84-95,Jan.1980 に示されているＬＢ
Ｇアルゴリズムを用いて設定される。
ゴリ群を代表する群参照用パターン信号は、予め、従来
のクラスタリング手法、例えば、電子情報通信学会編
長尾真著「パターン情報処理」(コロナ社)に示されてい
るＫ平均アルゴリズム、およびIsodataアルゴリズム
や、Y.Linde, A.Buzo, and R.M.Gray による"An Algori
thmfor Vector Quantizer design," IEEE Trans. Commu
n.,COM-28, 1, pp.84-95,Jan.1980 に示されているＬＢ
Ｇアルゴリズムを用いて設定される。
【００９９】以下、Ｋ平均アルゴリズムを用いて群辞書
部６を設定する方法について簡単に説明する。
部６を設定する方法について簡単に説明する。
【０１００】(1)認識対象物の群辞書設計用のパターン
信号の集合から、ｒ個(但し、ｒは予め定められたカテ
ゴリ群数)のパターン信号を適切に選び、これらをｒ個
の群参照用パターン信号Ｖi(１≦ｉ≦ｒ)とする。
信号の集合から、ｒ個(但し、ｒは予め定められたカテ
ゴリ群数)のパターン信号を適切に選び、これらをｒ個
の群参照用パターン信号Ｖi(１≦ｉ≦ｒ)とする。
【０１０１】(2)全ての群辞書設計用のパターン信号Ｘ
について、それぞれ、(数10)に示される距離ｄiを最小
にするＶiを求める。
について、それぞれ、(数10)に示される距離ｄiを最小
にするＶiを求める。
【０１０２】
【数１０】ｄi＝‖Ｘ−Ｖi‖ このとき、Ｘはカテゴリ群Ｓi(１≦ｉ≦ｒ)に属するも
のとする。
のとする。
【０１０３】(3)各Ｓiに属するパターン信号Ｘの平均値
を求め、これをＶi′とする。
を求め、これをＶi′とする。
【０１０４】(4)Ｖi′＝Ｖiが全てのｉについて成立す
れば、このときの群参照用パターン信号Ｖiを群辞書部
６に記憶する。そうでなければ、Ｖi′を新たな群参照
用パターン信号Ｖiとして、(2)に戻る。
れば、このときの群参照用パターン信号Ｖiを群辞書部
６に記憶する。そうでなければ、Ｖi′を新たな群参照
用パターン信号Ｖiとして、(2)に戻る。
【０１０５】このようにして、群参照用パターン信号を
設定することによって、全てのパターン信号はいくつか
の類似したパターン信号の部分集合(カテゴリ群)に分割
することができる。なお、Isodataアルゴリズムおよ
び、ＬＢＧアルゴリズムもこのＫ平均アルゴリズムと基
本的にはほぼ同じ手法である。
設定することによって、全てのパターン信号はいくつか
の類似したパターン信号の部分集合(カテゴリ群)に分割
することができる。なお、Isodataアルゴリズムおよ
び、ＬＢＧアルゴリズムもこのＫ平均アルゴリズムと基
本的にはほぼ同じ手法である。
【０１０６】第１の群選択部９では、ファジィ大分類部
７で得られた群帰属度の大きい順に複数個のカテゴリ群
を選び(選択された群帰属度以外は“０”とする）識別
信号荷重部11へ出力する。なお、カテゴリ群の選択方法
としては、あるしきい値以上の群帰属度をもつカテゴリ
群を選択するようにしてもよい。
７で得られた群帰属度の大きい順に複数個のカテゴリ群
を選び(選択された群帰属度以外は“０”とする）識別
信号荷重部11へ出力する。なお、カテゴリ群の選択方法
としては、あるしきい値以上の群帰属度をもつカテゴリ
群を選択するようにしてもよい。
【０１０７】ここでは、学習用パターン信号が、第１特
徴データ(２次元)と第２特徴データ(２次元)から構成さ
れる４次元ベクトルデータで、３種類のカテゴリに分類
する場合を例に類似度算出部81の動作を説明する。
徴データ(２次元)と第２特徴データ(２次元)から構成さ
れる４次元ベクトルデータで、３種類のカテゴリに分類
する場合を例に類似度算出部81の動作を説明する。
【０１０８】図６に示す各類似度算出部81の各木分岐構
造の第１層目の単位認識ユニットk11〜k12の経路入力端
子への経路信号として、常に“１”を与えておく。ま
た、信号入力端子62，63には判断すべき第１，第２の特
徴データが入力され、信号入力端子64には荷重変更処理
過程のみ入力データの教師信号が入力される。
造の第１層目の単位認識ユニットk11〜k12の経路入力端
子への経路信号として、常に“１”を与えておく。ま
た、信号入力端子62，63には判断すべき第１，第２の特
徴データが入力され、信号入力端子64には荷重変更処理
過程のみ入力データの教師信号が入力される。
【０１０９】まず、動作モード選択部60からフォワード
処理モード信号が教師信号変換部61に出力される。学習
用パターン信号が、第１特徴データと第２特徴データに
分割されそれぞれ第１層目，第２層目の単位認識ユニッ
トｋの図３に示す信号入力端子31aに入力される。
処理モード信号が教師信号変換部61に出力される。学習
用パターン信号が、第１特徴データと第２特徴データに
分割されそれぞれ第１層目，第２層目の単位認識ユニッ
トｋの図３に示す信号入力端子31aに入力される。
【０１１０】第１層目の各単位認識ユニットk11，k12
は、第１特徴デ−タを信号入力部31を介して量子化器32
で量子化し、量子化結果を荷重設定部33c0および、隣接
区間選択部34に出力する。隣接区間選択部34は、前記入
力信号(特徴データ)の量子化区間に隣接する量子化区間
を選択し、経路荷重部33cに出力する。荷重設定部33c0
は、予め設定されている入力データに対応する前記荷重
値並びに、隣接区間の荷重値を荷重テーブル33dから読
み出し、対応する量子化レベル位置に設定する。このよ
うに１つの単位認識ユニットにおいて複数の経路が選択
され、図６の第２層目の単位認識ユニットk21〜k30の経
路入力端子へ、経路信号と前記荷重値を掛けた値が送ら
れる。
は、第１特徴デ−タを信号入力部31を介して量子化器32
で量子化し、量子化結果を荷重設定部33c0および、隣接
区間選択部34に出力する。隣接区間選択部34は、前記入
力信号(特徴データ)の量子化区間に隣接する量子化区間
を選択し、経路荷重部33cに出力する。荷重設定部33c0
は、予め設定されている入力データに対応する前記荷重
値並びに、隣接区間の荷重値を荷重テーブル33dから読
み出し、対応する量子化レベル位置に設定する。このよ
うに１つの単位認識ユニットにおいて複数の経路が選択
され、図６の第２層目の単位認識ユニットk21〜k30の経
路入力端子へ、経路信号と前記荷重値を掛けた値が送ら
れる。
【０１１１】第２層目の単位認識ユニットの信号入力端
子63には、前記第２特徴デ−タを入力する(この図の場
合には、２個の第２特徴デ−タを、それぞれk21〜k25、
k26〜k30に入力する)。第１層目の場合と同様にして複
数の経路信号が選択され、第３層目の単位認識ユニット
p31〜p350の経路入力端子へ、経路信号と前記荷重の値
を掛けた値が送られる。
子63には、前記第２特徴デ−タを入力する(この図の場
合には、２個の第２特徴デ−タを、それぞれk21〜k25、
k26〜k30に入力する)。第１層目の場合と同様にして複
数の経路信号が選択され、第３層目の単位認識ユニット
p31〜p350の経路入力端子へ、経路信号と前記荷重の値
を掛けた値が送られる。
【０１１２】フォワード処理モードの場合、第３層の単
位認識ユニットp31〜p350の信号入力端子には、教師入
力信号は入力されない。従って、荷重の変更は行われ
ず、学習時の荷重の状態が保持されており、各単位認識
ユニットの経路入力信号にこれらの荷重を乗じて、第４
層目の各単位認識ユニットｑの経路入力端子へ、経路信
号が送られる。
位認識ユニットp31〜p350の信号入力端子には、教師入
力信号は入力されない。従って、荷重の変更は行われ
ず、学習時の荷重の状態が保持されており、各単位認識
ユニットの経路入力信号にこれらの荷重を乗じて、第４
層目の各単位認識ユニットｑの経路入力端子へ、経路信
号が送られる。
【０１１３】次に図５に示す第４層目の各単位認識ユニ
ットｑの加算器53a0は、入力された経路信号を加算す
る。しきい値処理器53b0は、この信号をしきい値処理
し、経路出力端子53b1に出力する。ここで、しきい値処
理をする関数としては、シグモイド関数，ステップ関数
等を用いることができる。
ットｑの加算器53a0は、入力された経路信号を加算す
る。しきい値処理器53b0は、この信号をしきい値処理
し、経路出力端子53b1に出力する。ここで、しきい値処
理をする関数としては、シグモイド関数，ステップ関数
等を用いることができる。
【０１１４】このようにして、入力したパターン信号の
特徴デ−タに基づき、その時点の荷重値による最終層の
単位認識ユニットの出力が計算される。この出力値が学
習用パターン信号Ｘに対する各カテゴリの群内類似度ベ
クトルとして図１の識別信号荷重部11に出力される。
特徴デ−タに基づき、その時点の荷重値による最終層の
単位認識ユニットの出力が計算される。この出力値が学
習用パターン信号Ｘに対する各カテゴリの群内類似度ベ
クトルとして図１の識別信号荷重部11に出力される。
【０１１５】識別信号荷重部11では、まず、乗算器11A
が、第１の群選択部９で選択されたカテゴリ群の群帰属
度μiと、そのカテゴリ群に対応する細分類部８から得
られる群内類似度ベクトル(ν1，ν2，…，νc)を乗算
し、それらの出力をカテゴリ類似度算出部12に出力す
る。つまり、乗算器11Aは、(群参照用パターン信号の
数)×(各細分類部におけるカテゴリ参照用パターン信号
数の総和)の個数分が用意されており、第１の群選択部
９で選択されたあるカテゴリ群ｐの群帰属度μp(１≦ｐ
≦ｒ；ｒはカテゴリ群の数)とそのカテゴリ群ｐに対応
する細分類部８から得られたあるカテゴリ群ｑの群内類
似度νpq(１≦ｑ≦ｃ；ｃはカテゴリ群に属するカテゴ
リ数)が入力される乗算器11Aの出力値ξpqは、(数11)で
表される。
が、第１の群選択部９で選択されたカテゴリ群の群帰属
度μiと、そのカテゴリ群に対応する細分類部８から得
られる群内類似度ベクトル(ν1，ν2，…，νc)を乗算
し、それらの出力をカテゴリ類似度算出部12に出力す
る。つまり、乗算器11Aは、(群参照用パターン信号の
数)×(各細分類部におけるカテゴリ参照用パターン信号
数の総和)の個数分が用意されており、第１の群選択部
９で選択されたあるカテゴリ群ｐの群帰属度μp(１≦ｐ
≦ｒ；ｒはカテゴリ群の数)とそのカテゴリ群ｐに対応
する細分類部８から得られたあるカテゴリ群ｑの群内類
似度νpq(１≦ｑ≦ｃ；ｃはカテゴリ群に属するカテゴ
リ数)が入力される乗算器11Aの出力値ξpqは、(数11)で
表される。
【０１１６】
【数１１】ξpq＝μp・νpq カテゴリ類似度算出部12では、全ての乗算器11Aの出力
値を、各カテゴリ毎にこれらの選択された出力値の総和
をカテゴリ類似度ｒs(１≦ｓ≦ＮC；ＮCはカテゴリの
数)として求める。認識結果算出部13は、算出されたカ
テゴリ類似度の大きいほうから２つのカテゴリを選択
し、それらの比の値が予め設定されたしきい値より小さ
い場合はカテゴリ類似度が最大のカテゴリ番号を認識結
果として出力し、しきい値より大きい場合は認識不可と
してリジェクト信号も出力する。
値を、各カテゴリ毎にこれらの選択された出力値の総和
をカテゴリ類似度ｒs(１≦ｓ≦ＮC；ＮCはカテゴリの
数)として求める。認識結果算出部13は、算出されたカ
テゴリ類似度の大きいほうから２つのカテゴリを選択
し、それらの比の値が予め設定されたしきい値より小さ
い場合はカテゴリ類似度が最大のカテゴリ番号を認識結
果として出力し、しきい値より大きい場合は認識不可と
してリジェクト信号も出力する。
【０１１７】第１の教師信号発生部14は、学習用パター
ン信号Ｘに同期して、この学習用パターン信号Ｘのカテ
ゴリに対応するカテゴリ番号を生成し、学習制御部16と
細分類部８の類似度算出部81に出力する。
ン信号Ｘに同期して、この学習用パターン信号Ｘのカテ
ゴリに対応するカテゴリ番号を生成し、学習制御部16と
細分類部８の類似度算出部81に出力する。
【０１１８】学習制御部16は、上記のようにして算出さ
れた学習用パターン信号Ｘに対する識別結果と学習用パ
ターン信号Ｘのカテゴリを比較し、比較結果が等しい場
合は、各細分類部８の荷重更新を行わずに次の学習用パ
ターンの学習を行い、比較結果が異なる場合には、各細
分類部８の荷重値が更新されるように制御する。
れた学習用パターン信号Ｘに対する識別結果と学習用パ
ターン信号Ｘのカテゴリを比較し、比較結果が等しい場
合は、各細分類部８の荷重更新を行わずに次の学習用パ
ターンの学習を行い、比較結果が異なる場合には、各細
分類部８の荷重値が更新されるように制御する。
【０１１９】荷重値が変更される場合、第２の群選択部
10は、カテゴリ情報記憶部15に記憶されたカテゴリ情報
により入力パターンのカテゴリが存在する細分類部８の
中で群帰属度の大きい方から複数のカテゴリ群を選び、
荷重変更量制御部82に出力する。
10は、カテゴリ情報記憶部15に記憶されたカテゴリ情報
により入力パターンのカテゴリが存在する細分類部８の
中で群帰属度の大きい方から複数のカテゴリ群を選び、
荷重変更量制御部82に出力する。
【０１２０】荷重変更量制御部82は、選択された群帰属
度に応じて対応する類似度算出部81の荷重値を以下のよ
うに更新する。すなわち、図６に示す動作モード選択部
60から荷重変更処理モード信号が教師信号変換部61に出
力される。教師信号変換部61は、第１の教師信号発生部
14から出力されるカテゴリ番号を上記選択されたカテゴ
リ群内での最終層の単位認識ユニットの番号、即ち、q4
1，q42，q43のどれが最も大きい値を出力することが望
ましいかを示す信号に変換し、第３層目の単位認識ユニ
ットｑの図４に示す信号入力端子41aに出力する。ま
た、図６に示す単位認識ユニットp31〜p350の図４に示
す量子化器42は、例えばq41が最も大きい出力をする場
合には、量子化レベル値が単位認識ユニットq41につな
がる経路に対応する値となるように設定されている。
度に応じて対応する類似度算出部81の荷重値を以下のよ
うに更新する。すなわち、図６に示す動作モード選択部
60から荷重変更処理モード信号が教師信号変換部61に出
力される。教師信号変換部61は、第１の教師信号発生部
14から出力されるカテゴリ番号を上記選択されたカテゴ
リ群内での最終層の単位認識ユニットの番号、即ち、q4
1，q42，q43のどれが最も大きい値を出力することが望
ましいかを示す信号に変換し、第３層目の単位認識ユニ
ットｑの図４に示す信号入力端子41aに出力する。ま
た、図６に示す単位認識ユニットp31〜p350の図４に示
す量子化器42は、例えばq41が最も大きい出力をする場
合には、量子化レベル値が単位認識ユニットq41につな
がる経路に対応する値となるように設定されている。
【０１２１】荷重変更量制御部82は、上記選択された群
帰属度の値に応じて、図４に示す伝達量変更部44のビッ
トシフト量を変更する。例えば第２の群選択部10で選択
された細分類部８の中で、群帰属度が最大の細分類部の
ビットシフト量は“０”で、２番目の細分類部のビット
シフト量は“１”といった具合にビットシフト量を変更
する。
帰属度の値に応じて、図４に示す伝達量変更部44のビッ
トシフト量を変更する。例えば第２の群選択部10で選択
された細分類部８の中で、群帰属度が最大の細分類部の
ビットシフト量は“０”で、２番目の細分類部のビット
シフト量は“１”といった具合にビットシフト量を変更
する。
【０１２２】学習器43c0は、前記経路入力部43aの経路
入力端子43a1と量子化器42の出力が示す経路出力部43b
の経路出力端子(ここでは、単位認識ユニットq41につな
がる経路出力端子43b1)との連結強度である荷重43c1を
伝達量変更部44から出力された値だけ増加させる。
入力端子43a1と量子化器42の出力が示す経路出力部43b
の経路出力端子(ここでは、単位認識ユニットq41につな
がる経路出力端子43b1)との連結強度である荷重43c1を
伝達量変更部44から出力された値だけ増加させる。
【０１２３】図７は前記荷重変更量制御部の他の構成例
を示すブロック図であり、図７に示す荷重変更量制御部
83は、荷重値更新回数の基準値を設定する基準荷重値更
新回数設定部831と、この基準荷重値更新回数設定部831
から出力される荷重値更新回数の基準値と前記第２の群
選択部10により選択された群帰属度の内対応する群帰属
度とこの基準値を乗算する乗算器832と、この乗算結果
に基づいて前記類似度算出部81の学習器43c0による荷重
更新回数を制御する荷重更新回数制御部833により構成
され、予め基準荷重値更新回数設定部831に設定されて
いる荷重値更新回数の基準値に前記選択された群帰属度
を乗算することにより重みづけされた値に基づいて、荷
重更新回数制御部833が前記と同様の荷重更新処理を繰
り返すようにするものである。
を示すブロック図であり、図７に示す荷重変更量制御部
83は、荷重値更新回数の基準値を設定する基準荷重値更
新回数設定部831と、この基準荷重値更新回数設定部831
から出力される荷重値更新回数の基準値と前記第２の群
選択部10により選択された群帰属度の内対応する群帰属
度とこの基準値を乗算する乗算器832と、この乗算結果
に基づいて前記類似度算出部81の学習器43c0による荷重
更新回数を制御する荷重更新回数制御部833により構成
され、予め基準荷重値更新回数設定部831に設定されて
いる荷重値更新回数の基準値に前記選択された群帰属度
を乗算することにより重みづけされた値に基づいて、荷
重更新回数制御部833が前記と同様の荷重更新処理を繰
り返すようにするものである。
【０１２４】このようにして、全ての入力データについ
て、認識結果算出部13の識別結果と第１の教師信号発生
部14から出力される教師信号が一致するまで以上の学習
動作を繰り返すことにより、第１実施形態による装置は
学習用パターンに対する認識が可能となる。
て、認識結果算出部13の識別結果と第１の教師信号発生
部14から出力される教師信号が一致するまで以上の学習
動作を繰り返すことにより、第１実施形態による装置は
学習用パターンに対する認識が可能となる。
【０１２５】以上のように第１実施形態による装置によ
れば、学習用パターン信号に対する識別結果が誤ってい
る場合、そのパターンの帰属度が大きい複数のカテゴリ
群を第２の群選択部10が選択し、それらに対応する細分
類部８が、その学習用パターンがそれぞれのカテゴリ群
に属する帰属度を用いて荷重変更量を調整しながら協調
して学習するので、カテゴリ群の境界に位置するパター
ンを精度良く学習でき認識率も向上する。
れば、学習用パターン信号に対する識別結果が誤ってい
る場合、そのパターンの帰属度が大きい複数のカテゴリ
群を第２の群選択部10が選択し、それらに対応する細分
類部８が、その学習用パターンがそれぞれのカテゴリ群
に属する帰属度を用いて荷重変更量を調整しながら協調
して学習するので、カテゴリ群の境界に位置するパター
ンを精度良く学習でき認識率も向上する。
【０１２６】また、類似度算出部81における荷重変更処
理課程では、３層目の第２の単位認識ユニットの荷重値
のみを学習器43c0よって伝達量変更部から出力された値
だけ増加させるだけで学習が行えるので、全ての層の荷
重値を変更する必要がなく高速学習が可能である。
理課程では、３層目の第２の単位認識ユニットの荷重値
のみを学習器43c0よって伝達量変更部から出力された値
だけ増加させるだけで学習が行えるので、全ての層の荷
重値を変更する必要がなく高速学習が可能である。
【０１２７】次に、強化学習動作について説明する。
【０１２８】実行モードとして、強化学習モードが学習
制御部16および入力データ選択部24に入力されると、入
力データ選択部24は、評価用データ記憶部23を選択し、
未学習の評価用データをファジイ大分類部７と細分類部
８に出力する。未学習パターンが入力されると、初期学
習モードと同様にして学習用パターン信号Ｘに対する識
別結果が認識結果算出部13から出力され、認識結果表示
部18に表示される。
制御部16および入力データ選択部24に入力されると、入
力データ選択部24は、評価用データ記憶部23を選択し、
未学習の評価用データをファジイ大分類部７と細分類部
８に出力する。未学習パターンが入力されると、初期学
習モードと同様にして学習用パターン信号Ｘに対する識
別結果が認識結果算出部13から出力され、認識結果表示
部18に表示される。
【０１２９】その認識結果が正解であるにもかかわらず
リジェクトと判定された場合に、入力データのカテゴリ
に対応する正しい認識結果がキーボード等の正解入力部
19から入力されると、第２の教師信号発生部20は、入力
データのカテゴリに対応するカテゴリ番号を教師信号選
択部21に出力する。教師信号選択部21は、実行モードが
強化学習モードの場合、第２の教師信号発生部20の出力
を選択し、類似度算出部81と強化学習制御部17に出力す
る。
リジェクトと判定された場合に、入力データのカテゴリ
に対応する正しい認識結果がキーボード等の正解入力部
19から入力されると、第２の教師信号発生部20は、入力
データのカテゴリに対応するカテゴリ番号を教師信号選
択部21に出力する。教師信号選択部21は、実行モードが
強化学習モードの場合、第２の教師信号発生部20の出力
を選択し、類似度算出部81と強化学習制御部17に出力す
る。
【０１３０】強化学習制御部17は、入力された正解の認
識結果に基づき正解リジェクトデータのリジェクト判定
値が、予め設定されたリジェクトしきい値以下になるま
で、初期学習モードと同様に学習動作を繰り返すように
制御することにより、正解にも係らずリジェクトと判定
されることがなくなる。
識結果に基づき正解リジェクトデータのリジェクト判定
値が、予め設定されたリジェクトしきい値以下になるま
で、初期学習モードと同様に学習動作を繰り返すように
制御することにより、正解にも係らずリジェクトと判定
されることがなくなる。
【０１３１】このように、正解リジェクトパターンの強
化学習が可能であることにより、正解リジェクトパター
ンの削減により正読パターンが増加し、認識性能が改善
される。
化学習が可能であることにより、正解リジェクトパター
ンの削減により正読パターンが増加し、認識性能が改善
される。
【０１３２】また、前記のように強化学習パターンに関
連ある細分類部８のみ荷重値が更新されるので、強化学
習が認識判断装置全体に影響を与えにくく、学習済みデ
ータの認識性能に影響がでにくい強化学習が可能にな
る。
連ある細分類部８のみ荷重値が更新されるので、強化学
習が認識判断装置全体に影響を与えにくく、学習済みデ
ータの認識性能に影響がでにくい強化学習が可能にな
る。
【０１３３】図８は本発明の第２実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。なお、以下の各実施形態の説明において、既に説明
されている部材に対応する部材には同一符号を付して詳
しい説明は省略する。
めの学習型認識判断装置の構成を示すブロック図であ
る。なお、以下の各実施形態の説明において、既に説明
されている部材に対応する部材には同一符号を付して詳
しい説明は省略する。
【０１３４】前記第１実施形態の装置と異なる構成は、
評価データから選択された追加学習用データと教師信号
を記憶する第１の強化学習データ記憶部91，評価用デー
タに対する群帰属度が最大の群番号を選択する第１の群
番号選択部92，評価データに対する認識結果とそのカテ
ゴリ番号である第２の教師信号発生部20の出力から認識
結果を判定して正解リジェクトの場合、評価データとカ
テゴリ番号と第１の群番号選択部92で選択された群番号
を後述する正解リジェクト情報記憶部94に出力する正解
リジェクトデータ選択部93，前記正解リジェクトデータ
選択部93からの出力データを記憶する正解リジェクト情
報記憶部94，この正解リジェクト情報記憶部94に記憶さ
れている情報から群番号別およびカテゴリ番号別の正解
リジェクトデータ数をカウントする正解リジェクトデー
タ数計数部95，このカウントされた正解リジェクトデー
タ数の多い群番号とカテゴリ番号に対応する正解リジェ
クトデータとカテゴリ番号を選択して、第１の強化学習
データ記憶部91に出力する第１の強化学習候補データ選
択部96を設けた点である。
評価データから選択された追加学習用データと教師信号
を記憶する第１の強化学習データ記憶部91，評価用デー
タに対する群帰属度が最大の群番号を選択する第１の群
番号選択部92，評価データに対する認識結果とそのカテ
ゴリ番号である第２の教師信号発生部20の出力から認識
結果を判定して正解リジェクトの場合、評価データとカ
テゴリ番号と第１の群番号選択部92で選択された群番号
を後述する正解リジェクト情報記憶部94に出力する正解
リジェクトデータ選択部93，前記正解リジェクトデータ
選択部93からの出力データを記憶する正解リジェクト情
報記憶部94，この正解リジェクト情報記憶部94に記憶さ
れている情報から群番号別およびカテゴリ番号別の正解
リジェクトデータ数をカウントする正解リジェクトデー
タ数計数部95，このカウントされた正解リジェクトデー
タ数の多い群番号とカテゴリ番号に対応する正解リジェ
クトデータとカテゴリ番号を選択して、第１の強化学習
データ記憶部91に出力する第１の強化学習候補データ選
択部96を設けた点である。
【０１３５】以上のように構成された第２実施形態の装
置について、以下その動作を説明する。動作モードは、
初期学習モード，評価モード，強化学習モードに分かれ
る。初期学習モードは、第１実施形態の装置と同様にし
て実行される。
置について、以下その動作を説明する。動作モードは、
初期学習モード，評価モード，強化学習モードに分かれ
る。初期学習モードは、第１実施形態の装置と同様にし
て実行される。
【０１３６】次に、評価モードの動作について説明す
る。評価モードは、学習用パターンと異なる評価用デー
タを用いて前記初期学習の性能を評価するモードであ
る。
る。評価モードは、学習用パターンと異なる評価用デー
タを用いて前記初期学習の性能を評価するモードであ
る。
【０１３７】入力データ選択部24は、評価データ記憶部
23を選択し、評価用パターン信号をファジイ大分類部７
と細分類部８に出力する。
23を選択し、評価用パターン信号をファジイ大分類部７
と細分類部８に出力する。
【０１３８】初期学習モードと同様にして評価用パター
ン信号に対する認識結果が算出され、認識結果表示部18
により表示部に該認識結果が表示されるとともに正解リ
ジェクトデータ選択部93に出力される。前記表示部に表
示された認識結果が正解であるにもかかわらずリジェク
トされている場合、正解入力部19から正解が入力され、
第２の教師信号発生部20により前記正解に対応するカテ
ゴリ番号である教師信号に変換され、正解リジェクトデ
ータ選択部93に出力される。
ン信号に対する認識結果が算出され、認識結果表示部18
により表示部に該認識結果が表示されるとともに正解リ
ジェクトデータ選択部93に出力される。前記表示部に表
示された認識結果が正解であるにもかかわらずリジェク
トされている場合、正解入力部19から正解が入力され、
第２の教師信号発生部20により前記正解に対応するカテ
ゴリ番号である教師信号に変換され、正解リジェクトデ
ータ選択部93に出力される。
【０１３９】第１の群番号選択部92は、評価用パターン
信号に対する群帰属度が最大の群番号を選択し、正解リ
ジェクトデータ選択部93に出力する。正解リジェクトデ
ータ選択部93は、評価用パターンの認識結果とカテゴリ
番号から認識結果を判定し、正解リジェクトの場合、そ
の評価用パターンデータを評価データ記憶部23から読み
出し、そのパターンに対応するカテゴリ番号および群番
号とともに正解リジェクト情報記憶部94に出力する。
信号に対する群帰属度が最大の群番号を選択し、正解リ
ジェクトデータ選択部93に出力する。正解リジェクトデ
ータ選択部93は、評価用パターンの認識結果とカテゴリ
番号から認識結果を判定し、正解リジェクトの場合、そ
の評価用パターンデータを評価データ記憶部23から読み
出し、そのパターンに対応するカテゴリ番号および群番
号とともに正解リジェクト情報記憶部94に出力する。
【０１４０】正解リジェクトデータ数計数部95は、正解
リジェクト情報記憶部94に記憶されている情報から、群
番号およびカテゴリ番号別に正解リジェクトデータ数を
カウントし、そのカウント結果に基づき第１の強化学習
候補データ選択部96が、正解リジェクトデータ数の多い
群番号とカテゴリ番号に対応する評価用パターンデータ
とカテゴリ番号を第１の強化学習データ記憶部91に出力
する。
リジェクト情報記憶部94に記憶されている情報から、群
番号およびカテゴリ番号別に正解リジェクトデータ数を
カウントし、そのカウント結果に基づき第１の強化学習
候補データ選択部96が、正解リジェクトデータ数の多い
群番号とカテゴリ番号に対応する評価用パターンデータ
とカテゴリ番号を第１の強化学習データ記憶部91に出力
する。
【０１４１】以上のように、第２実施形態の装置によれ
ば、評価用データに関する正解リジェクトデータをすべ
て強化学習するのではなく、認識性能の低い(正解リジ
ェクトデータの多い)群番号の細分類部またはカテゴリ
を優先的に選択して強化学習するので、強化学習の効率
が向上する。
ば、評価用データに関する正解リジェクトデータをすべ
て強化学習するのではなく、認識性能の低い(正解リジ
ェクトデータの多い)群番号の細分類部またはカテゴリ
を優先的に選択して強化学習するので、強化学習の効率
が向上する。
【０１４２】次に、強化学習モードについて説明する。
強化学習モードは、前記評価モードで選択され第１の強
化学習データ記憶部91に記憶されているデータを用いて
強化学習するモードである。
強化学習モードは、前記評価モードで選択され第１の強
化学習データ記憶部91に記憶されているデータを用いて
強化学習するモードである。
【０１４３】入力データ選択部24は、第１の強化学習デ
ータ記憶部91を選択し、強化用パターン信号をファジイ
大分類部７と細分類部８に出力する。第１の教師信号選
択部21が、第１の強化学習データ記憶部91に記憶されて
いる強化学習用パターンの教師信号を選択する以外は、
前記第１実施形態の装置における強化学習モードと同様
にして、強化学習用パターンの学習が実行される。
ータ記憶部91を選択し、強化用パターン信号をファジイ
大分類部７と細分類部８に出力する。第１の教師信号選
択部21が、第１の強化学習データ記憶部91に記憶されて
いる強化学習用パターンの教師信号を選択する以外は、
前記第１実施形態の装置における強化学習モードと同様
にして、強化学習用パターンの学習が実行される。
【０１４４】以上のように、第２実施形態の装置によれ
ば、第２の群選択部10により選択された強化学習パター
ンに関連ある細分類部のみ、重み係数が更新されるの
で、強化学習が認識判断装置全体に影響を与えにくく、
学習済みデータの認識性能に影響がでにくい強化学習が
可能になる。
ば、第２の群選択部10により選択された強化学習パター
ンに関連ある細分類部のみ、重み係数が更新されるの
で、強化学習が認識判断装置全体に影響を与えにくく、
学習済みデータの認識性能に影響がでにくい強化学習が
可能になる。
【０１４５】図９は本発明の第３実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。この第３実施形態の装置が第２実施形態の装置(図
８)と異なる構成は、第１の強化学習候補データ選択部9
6で選択されたデータに関する強化学習結果を評価する
ための基準となるデータ、すなわち本認識判断装置が認
識目標とするパターンデータと教師信号を記憶した基準
データ記憶部97と、この基準データに関する認識結果を
評価することにより強化学習の良否を判定する強化学習
良否結果判定部98と、この強化学習結果良否判定部98で
良と判定された強化学習候補データを選択する第２の強
化学習候補データ選択部99と、この選択された強化学習
候補データを記憶する第２の強化学習データ記憶部100
と、第１の教師信号発生部14の出力と第１の強化学習候
補データ選択部96により選択されたカテゴリ番号と前記
第２の強化学習候補データ選択部99により選択されたカ
テゴリ番号の内どれか一つを選択する第２の教師信号選
択部101とを設けた点である。
めの学習型認識判断装置の構成を示すブロック図であ
る。この第３実施形態の装置が第２実施形態の装置(図
８)と異なる構成は、第１の強化学習候補データ選択部9
6で選択されたデータに関する強化学習結果を評価する
ための基準となるデータ、すなわち本認識判断装置が認
識目標とするパターンデータと教師信号を記憶した基準
データ記憶部97と、この基準データに関する認識結果を
評価することにより強化学習の良否を判定する強化学習
良否結果判定部98と、この強化学習結果良否判定部98で
良と判定された強化学習候補データを選択する第２の強
化学習候補データ選択部99と、この選択された強化学習
候補データを記憶する第２の強化学習データ記憶部100
と、第１の教師信号発生部14の出力と第１の強化学習候
補データ選択部96により選択されたカテゴリ番号と前記
第２の強化学習候補データ選択部99により選択されたカ
テゴリ番号の内どれか一つを選択する第２の教師信号選
択部101とを設けた点である。
【０１４６】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。初期学習モー
ド，評価モードは第２実施形態の装置と同様であるので
省略し、強化学習モードについて説明する。
置について、以下その動作を説明する。初期学習モー
ド，評価モードは第２実施形態の装置と同様であるので
省略し、強化学習モードについて説明する。
【０１４７】入力データ選択部24は、第１の強化学習デ
ータ記憶部91を選択し、ファジイ大分類部７と細分類部
８にデータを出力する。評価モードにおいて選択され第
１の強化学習データ記憶部91に記憶されている強化学習
パターンを、前記選択された性能の低い群番号、または
カテゴリごとに第１実施形態の装置と同様にして強化学
習が行われる。１つの群番号またはカテゴリが強化学習
されるたびに入力データ選択部24によって、基準データ
記憶部97に記憶されている基準データが選択され、第１
実施形態の装置と同様にして前記基準データに対する認
識結果が算出される。
ータ記憶部91を選択し、ファジイ大分類部７と細分類部
８にデータを出力する。評価モードにおいて選択され第
１の強化学習データ記憶部91に記憶されている強化学習
パターンを、前記選択された性能の低い群番号、または
カテゴリごとに第１実施形態の装置と同様にして強化学
習が行われる。１つの群番号またはカテゴリが強化学習
されるたびに入力データ選択部24によって、基準データ
記憶部97に記憶されている基準データが選択され、第１
実施形態の装置と同様にして前記基準データに対する認
識結果が算出される。
【０１４８】前記認識結果は、強化学習結果良否判定部
98により、強化学習の良否が判定され、良と判定された
前記強化学習データは、第２の強化学習候補データ選択
部99により選択され、最終的な強化学習候補データとし
て第２の強化学習データ記憶部100に記憶される。
98により、強化学習の良否が判定され、良と判定された
前記強化学習データは、第２の強化学習候補データ選択
部99により選択され、最終的な強化学習候補データとし
て第２の強化学習データ記憶部100に記憶される。
【０１４９】第１の強化学習データ記憶部91に記憶され
ているすべてのデータに対する強化学習と基準データに
対する評価が終了するまで前記動作が繰り返され、終了
した時点で、第２の強化学習データ記憶部100に記憶さ
れている強化学習データにより、第１実施形態の装置と
同様にして最終的な強化学習が実行される。前記強化学
習結果良否判定部98は、すべての基準データに対する認
識結果が算出された時点で、例えば強化学習後の誤読デ
ータ数の数倍とリジェクトデータ数の総和と強化学習前
の同様の総和を比較することにより、強化学習結果の良
否判定を行う。
ているすべてのデータに対する強化学習と基準データに
対する評価が終了するまで前記動作が繰り返され、終了
した時点で、第２の強化学習データ記憶部100に記憶さ
れている強化学習データにより、第１実施形態の装置と
同様にして最終的な強化学習が実行される。前記強化学
習結果良否判定部98は、すべての基準データに対する認
識結果が算出された時点で、例えば強化学習後の誤読デ
ータ数の数倍とリジェクトデータ数の総和と強化学習前
の同様の総和を比較することにより、強化学習結果の良
否判定を行う。
【０１５０】以上説明したように第３実施形態の装置に
よれば、第１の強化学習候補データ選択部96により選択
された候補データに関する強化学習が、認識判断装置が
認識することを目標としているパターンデータである基
準データに与える影響を確認しながら、第２の強化学習
候補データ選択部99により最終的に強化学習するデータ
が選択されるので、無駄な強化学習データが削除され強
化学習の効率が向上する。
よれば、第１の強化学習候補データ選択部96により選択
された候補データに関する強化学習が、認識判断装置が
認識することを目標としているパターンデータである基
準データに与える影響を確認しながら、第２の強化学習
候補データ選択部99により最終的に強化学習するデータ
が選択されるので、無駄な強化学習データが削除され強
化学習の効率が向上する。
【０１５１】また、上記のように強化学習パターンに関
連ある細分類部８のみ荷重値が更新されるので、強化学
習が認識判断装置全体に影響を与えにくく、学習済みデ
ータの認識性能に影響が出にくい強化学習が可能にな
る。
連ある細分類部８のみ荷重値が更新されるので、強化学
習が認識判断装置全体に影響を与えにくく、学習済みデ
ータの認識性能に影響が出にくい強化学習が可能にな
る。
【０１５２】図10は本発明の第４実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。この第４実施形態の装置が第１実施形態の装置(図
１)と異なる構成は、予め設定されたリジェクトしきい
値に対して一定値ｘだけ増減させた２種類のリジェクト
しきい値を発生させる第１のリジェクトしきい値制御部
104と、評価用データに対する群帰属度が最大の群番号
を選択する第２の群番号選択部105と、評価用データの
認識結果および第１の教師信号発生部14から出力される
カテゴリ番号から誤読およびリジェクトデータ数を、前
記選択された群番号により群番号別およびカテゴリ別に
集計する認識結果集計部106と、予め設定されたリジェ
クトしきい値に対する前記集計結果と前記変化後のリジ
ェクトしきい値に対する集計結果の群番号別またはカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定するリジェクトしきい値決定部10
7とを設けた点である。
めの学習型認識判断装置の構成を示すブロック図であ
る。この第４実施形態の装置が第１実施形態の装置(図
１)と異なる構成は、予め設定されたリジェクトしきい
値に対して一定値ｘだけ増減させた２種類のリジェクト
しきい値を発生させる第１のリジェクトしきい値制御部
104と、評価用データに対する群帰属度が最大の群番号
を選択する第２の群番号選択部105と、評価用データの
認識結果および第１の教師信号発生部14から出力される
カテゴリ番号から誤読およびリジェクトデータ数を、前
記選択された群番号により群番号別およびカテゴリ別に
集計する認識結果集計部106と、予め設定されたリジェ
クトしきい値に対する前記集計結果と前記変化後のリジ
ェクトしきい値に対する集計結果の群番号別またはカテ
ゴリ別の比較により、群番号別またはカテゴリ別にリジ
ェクトしきい値を決定するリジェクトしきい値決定部10
7とを設けた点である。
【０１５３】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。動作モードは、
初期学習モード、評価モードに分かれる。初期学習モー
ドは、第１実施形態の装置と同様にして実行される。
置について、以下その動作を説明する。動作モードは、
初期学習モード、評価モードに分かれる。初期学習モー
ドは、第１実施形態の装置と同様にして実行される。
【０１５４】次に、評価モードの動作について説明す
る。評価モードは、学習用パターンと異なる評価用デー
タを用いて前記初期学習の性能を評価するモードであ
る。
る。評価モードは、学習用パターンと異なる評価用デー
タを用いて前記初期学習の性能を評価するモードであ
る。
【０１５５】入力データ選択部24は評価データ記憶部23
を選択し、評価用パターン信号をファジイ大分類部７と
細分類部８に出力する。
を選択し、評価用パターン信号をファジイ大分類部７と
細分類部８に出力する。
【０１５６】初期学習モードと同様にして、評価用パタ
ーン信号に対するカテゴリ類似度が算出され認識結果算
出部13から出力されるとともに、入力データに対する群
帰属度が最大の群番号が第２の群番号選択部105により
選択される。
ーン信号に対するカテゴリ類似度が算出され認識結果算
出部13から出力されるとともに、入力データに対する群
帰属度が最大の群番号が第２の群番号選択部105により
選択される。
【０１５７】認識結果算出部13は、予め設定されたリジ
ェクトしきい値と第１のリジェクトしきい値制御部104
により設定されるしきい値の値を一定値ｘだけ増減させ
た２種類のリジェクトしきい値との計３種類のリジェク
トしきい値により、前記カテゴリ類似度に対する認識結
果を算出して認識結果集計部106に出力する。
ェクトしきい値と第１のリジェクトしきい値制御部104
により設定されるしきい値の値を一定値ｘだけ増減させ
た２種類のリジェクトしきい値との計３種類のリジェク
トしきい値により、前記カテゴリ類似度に対する認識結
果を算出して認識結果集計部106に出力する。
【０１５８】認識結果集計部106は、前記３種類のリジ
ェクトしきい値ごとの認識結果と前記選択された群番号
から誤読、およびリジェクトデータ数を群番号別または
カテゴリ別に集計してリジェクトしきい値決定部107に
出力すると、リジェクトしきい値決定部107が、予め設
定されたリジェクトしきい値に対する該集計結果と前記
変化後のリジェクトしきい値に対する集計結果の群番号
別またはカテゴリ別の比較により、群番号別またはカテ
ゴリ別にリジェクトしきい値を決定する。
ェクトしきい値ごとの認識結果と前記選択された群番号
から誤読、およびリジェクトデータ数を群番号別または
カテゴリ別に集計してリジェクトしきい値決定部107に
出力すると、リジェクトしきい値決定部107が、予め設
定されたリジェクトしきい値に対する該集計結果と前記
変化後のリジェクトしきい値に対する集計結果の群番号
別またはカテゴリ別の比較により、群番号別またはカテ
ゴリ別にリジェクトしきい値を決定する。
【０１５９】リジェクトしきい値決定部107は、すべて
の評価データに対する認識結果集計処理が終了した時点
で、例えば誤読データの増加数のＮ倍とリジェクトデー
タの減少数の総和を、一定値以下の群番号またはカテゴ
リ番号のリジェクトしきい値を予め設定された値からｘ
だけ増加し、逆に誤読データの減少数のＮ倍とリジェク
トデータの増加数の総和を、一定値以下の群番号または
カテゴリ番号のリジェクトしきい値を予め設定された値
から一定値ｘだけ減少させることにより、リジェクトし
きい値を決定する。
の評価データに対する認識結果集計処理が終了した時点
で、例えば誤読データの増加数のＮ倍とリジェクトデー
タの減少数の総和を、一定値以下の群番号またはカテゴ
リ番号のリジェクトしきい値を予め設定された値からｘ
だけ増加し、逆に誤読データの減少数のＮ倍とリジェク
トデータの増加数の総和を、一定値以下の群番号または
カテゴリ番号のリジェクトしきい値を予め設定された値
から一定値ｘだけ減少させることにより、リジェクトし
きい値を決定する。
【０１６０】以上のように第４実施形態の装置によれ
ば、群別とカテゴリ別にリジェクトしきい値を個別に設
定することにより、誤読データ数またはリジェクトデー
タ数が削減でき、効率的なリジェクト処理が可能とな
る。
ば、群別とカテゴリ別にリジェクトしきい値を個別に設
定することにより、誤読データ数またはリジェクトデー
タ数が削減でき、効率的なリジェクト処理が可能とな
る。
【０１６１】図11は本発明の第５実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。この第５実施形態の装置が第４実施形態の装置(図1
0)と異なる構成は、予め設定されたリジェクトしきい値
に対する認識結果集計部による集計結果から、誤読デー
タ数とリジェクトデータ数の差が大きい群番号またはカ
テゴリ番号を少なくとも１つ選択するしきい値変更候補
選択部108と、第１のリジェクトしきい値制御部104に代
えて、選択された群またはカテゴリの誤読データ数とリ
ジェクトデータ数の大小関係から群またはカテゴリのリ
ジェクトしきい値を一定値ｘだけ増減させる第２のリジ
ェクトしきい値制御部109を設けた点である。
めの学習型認識判断装置の構成を示すブロック図であ
る。この第５実施形態の装置が第４実施形態の装置(図1
0)と異なる構成は、予め設定されたリジェクトしきい値
に対する認識結果集計部による集計結果から、誤読デー
タ数とリジェクトデータ数の差が大きい群番号またはカ
テゴリ番号を少なくとも１つ選択するしきい値変更候補
選択部108と、第１のリジェクトしきい値制御部104に代
えて、選択された群またはカテゴリの誤読データ数とリ
ジェクトデータ数の大小関係から群またはカテゴリのリ
ジェクトしきい値を一定値ｘだけ増減させる第２のリジ
ェクトしきい値制御部109を設けた点である。
【０１６２】以上のように構成された学習型認識判断装
置について、以下その動作を説明する。動作モードは、
初期学習モード，評価モードに分かれる。初期学習モー
ドは、第４実施形態の装置と同様にして実行される。
置について、以下その動作を説明する。動作モードは、
初期学習モード，評価モードに分かれる。初期学習モー
ドは、第４実施形態の装置と同様にして実行される。
【０１６３】評価モードの動作について説明する。評価
モードは、学習用パターンと異なる評価用データを用い
て前記初期学習の性能を評価するモードである。
モードは、学習用パターンと異なる評価用データを用い
て前記初期学習の性能を評価するモードである。
【０１６４】入力データ選択部24は、評価データ記憶部
23を選択し、評価用パターン信号をファジイ大分類部７
と細分類部８に出力する。
23を選択し、評価用パターン信号をファジイ大分類部７
と細分類部８に出力する。
【０１６５】初期学習モードと同様にして、評価用パタ
ーン信号に対するカテゴリ類似度が算出され認識結果算
出部13に出力されるとともに、入力データに対する群帰
属度が最大の群番号が第２の群番号選択部105により選
択される。
ーン信号に対するカテゴリ類似度が算出され認識結果算
出部13に出力されるとともに、入力データに対する群帰
属度が最大の群番号が第２の群番号選択部105により選
択される。
【０１６６】認識結果算出部13は、予め設定されたリジ
ェクトしきい値により前記カテゴリ類似度に対する認識
結果を算出し、認識結果集計部106に出力する。認識結
果集計部106は、該認識結果と前記選択された群番号か
ら誤読およびリジェクトデータ数を群番号別またはカテ
ゴリ別に集計し、しきい値変更候補選択部108に出力す
る。
ェクトしきい値により前記カテゴリ類似度に対する認識
結果を算出し、認識結果集計部106に出力する。認識結
果集計部106は、該認識結果と前記選択された群番号か
ら誤読およびリジェクトデータ数を群番号別またはカテ
ゴリ別に集計し、しきい値変更候補選択部108に出力す
る。
【０１６７】しきい値変更候補選択部108は、集計結果
から誤読データ数とリジェクトデータ数の差が大きい群
番号またはカテゴリ番号を少なくとも１つ選択し、第２
のリジェクトしきい値制御部109に出力する。第２のリ
ジェクトしきい値制御部109は、選択された群またはカ
テゴリの誤読データ数とリジェクトデータ数の大小関係
から、例えば誤読データ数の方がリジェクトデータ数よ
り多い場合、その群またはカテゴリのリジェクトしきい
値を一定値ｘだけ減少させ、逆にリジェクトデータ数の
方が誤読データ数より多い場合は、群またはカテゴリの
リジェクトしきい値を一定値ｘだけ増加させたリジェク
トしきい値を設定する。
から誤読データ数とリジェクトデータ数の差が大きい群
番号またはカテゴリ番号を少なくとも１つ選択し、第２
のリジェクトしきい値制御部109に出力する。第２のリ
ジェクトしきい値制御部109は、選択された群またはカ
テゴリの誤読データ数とリジェクトデータ数の大小関係
から、例えば誤読データ数の方がリジェクトデータ数よ
り多い場合、その群またはカテゴリのリジェクトしきい
値を一定値ｘだけ減少させ、逆にリジェクトデータ数の
方が誤読データ数より多い場合は、群またはカテゴリの
リジェクトしきい値を一定値ｘだけ増加させたリジェク
トしきい値を設定する。
【０１６８】前記リジェクトしきい値に対する認識結果
の集計結果を、第４実施形態の装置と同様にして、リジ
ェクトしきい値決定部107が、予め設定されたリジェク
トしきい値に対する集計結果と、前記変化後のリジェク
トしきい値に対する集計結果の群番号別またはカテゴリ
別の比較により、群番号別またはカテゴリ別にリジェク
トしきい値を決定する。
の集計結果を、第４実施形態の装置と同様にして、リジ
ェクトしきい値決定部107が、予め設定されたリジェク
トしきい値に対する集計結果と、前記変化後のリジェク
トしきい値に対する集計結果の群番号別またはカテゴリ
別の比較により、群番号別またはカテゴリ別にリジェク
トしきい値を決定する。
【０１６９】以上のように第５実施形態の装置によれ
ば、認識性能あるいはリジェクト性能が低い群、または
カテゴリのリジェクトしきい値が個別に設定されるの
で、群またはカテゴリに対する誤読データ，リジェクト
データ数が削減でき、効率的なリジェクト処理が可能と
なる。
ば、認識性能あるいはリジェクト性能が低い群、または
カテゴリのリジェクトしきい値が個別に設定されるの
で、群またはカテゴリに対する誤読データ，リジェクト
データ数が削減でき、効率的なリジェクト処理が可能と
なる。
【０１７０】図12は本発明の第６実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。この第６実施形態の装置は、第１実施形態の装置と
基本的構成が類似するが、異なる構成は、第１実施形態
の装置において強化学習制御部17が削除された点であ
る。以上のように構成された第６実施形態の装置の学習
型認識判断装置の動作を説明する。学習動作は第１実施
形態と同様であるので省略し、追加学習動作について説
明する。
めの学習型認識判断装置の構成を示すブロック図であ
る。この第６実施形態の装置は、第１実施形態の装置と
基本的構成が類似するが、異なる構成は、第１実施形態
の装置において強化学習制御部17が削除された点であ
る。以上のように構成された第６実施形態の装置の学習
型認識判断装置の動作を説明する。学習動作は第１実施
形態と同様であるので省略し、追加学習動作について説
明する。
【０１７１】すなわち、実行モードとして追加学習モー
ドが学習制御部16に入力され、追加学習パターンとして
未学習パターンが入力されると、第１実施形態の装置と
同様にして入力パターン信号Ｘに対する識別結果が、認
識結果算出部13から出力され、認識結果表示部18に表示
される。その認識結果が入力パターンのカテゴリと異な
るとき、入力データのカテゴリに対応する正しい認識結
果がキーボード等の正解入力部19から入力されると、第
２の教師信号発生部20は、入力データのカテゴリに対応
するカテゴリ番号を教師信号選択部21に出力する。教師
信号選択部21は、実行モードが追加学習モードの場合、
第２の教師信号発生部20の出力を選択し、類似度算出部
81に出力する。第２の群選択部10は，未学習パターンの
カテゴリが存在する細分類部を選択し，以後、認識結果
算出部13から出力される前記追加学習パターンの認識結
果が、第２の教師信号発生部20の出力と一致するまで該
選択された細分類部８において，第１実施形態の装置と
同様の学習動作を繰り返すことにより、前記追加学習パ
ターンが認識可能となる。なお，認識動作は第１実施形
態の装置と同様であるので省略する。
ドが学習制御部16に入力され、追加学習パターンとして
未学習パターンが入力されると、第１実施形態の装置と
同様にして入力パターン信号Ｘに対する識別結果が、認
識結果算出部13から出力され、認識結果表示部18に表示
される。その認識結果が入力パターンのカテゴリと異な
るとき、入力データのカテゴリに対応する正しい認識結
果がキーボード等の正解入力部19から入力されると、第
２の教師信号発生部20は、入力データのカテゴリに対応
するカテゴリ番号を教師信号選択部21に出力する。教師
信号選択部21は、実行モードが追加学習モードの場合、
第２の教師信号発生部20の出力を選択し、類似度算出部
81に出力する。第２の群選択部10は，未学習パターンの
カテゴリが存在する細分類部を選択し，以後、認識結果
算出部13から出力される前記追加学習パターンの認識結
果が、第２の教師信号発生部20の出力と一致するまで該
選択された細分類部８において，第１実施形態の装置と
同様の学習動作を繰り返すことにより、前記追加学習パ
ターンが認識可能となる。なお，認識動作は第１実施形
態の装置と同様であるので省略する。
【０１７２】このように第６実施形態の装置によれば、
未学習パターンの識別結果が誤っている場合、第２の群
選択部10が入力パターンのカテゴリが存在する細分類部
８が選択され、学習が行われるので、未学習パターンの
追加学習が可能になる。
未学習パターンの識別結果が誤っている場合、第２の群
選択部10が入力パターンのカテゴリが存在する細分類部
８が選択され、学習が行われるので、未学習パターンの
追加学習が可能になる。
【０１７３】また、上記のように追加学習パターンに関
連ある細分類部のみ荷重値が更新されるので、追加学習
が認識判断装置全体に影響を与えにくく、学習済みデー
タの認識性能に影響がでにくい追加学習が可能になる。
連ある細分類部のみ荷重値が更新されるので、追加学習
が認識判断装置全体に影響を与えにくく、学習済みデー
タの認識性能に影響がでにくい追加学習が可能になる。
【０１７４】図13は本発明の第７実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
る。この第７実施形態の装置は第２実施形態(図８)の装
置と基本的構成が類似するが、異なる構成は第２実施形
態の装置において、強化学習制御部17が削除され、第１
の強化学習データ記憶部91と、第１の群番号選択部92
と、正解リジェクトデータ選択部93と、正解リジェクト
情報記憶部94と、正解リジェクトデータ数計数部95と、
第１の強化学習候補データ選択部96とを、それぞれ下記
の部材に替えた点である。
めの学習型認識判断装置の構成を示すブロック図であ
る。この第７実施形態の装置は第２実施形態(図８)の装
置と基本的構成が類似するが、異なる構成は第２実施形
態の装置において、強化学習制御部17が削除され、第１
の強化学習データ記憶部91と、第１の群番号選択部92
と、正解リジェクトデータ選択部93と、正解リジェクト
情報記憶部94と、正解リジェクトデータ数計数部95と、
第１の強化学習候補データ選択部96とを、それぞれ下記
の部材に替えた点である。
【０１７５】すなわち、図13において、111は前記評価
データから選択された追加学習用データと教師信号(カ
テゴリ番号)を記憶する第１の追加学習データ記憶部、1
13は評価データに対する群帰属度が最大の群番号を選択
する群番号選択部、114は、評価データに対する認識結
果とその教師信号である第２の教師信号発生部20の出力
から、認識結果の正解，不正解を判定し、誤認識の場合
に評価データ，教師信号，群番号選択部113で選択され
た群番号を誤認識情報記憶部115に記憶させるため出力
する誤認識データ選択部、116は、誤認識情報記憶部115
の記憶する情報から、群番号別，教師信号別の誤認識デ
ータ数をカウントする誤認識データ計数部、117は、カ
ウントされた誤認識データ数の多い群番号と教師信号に
対応する誤認識データと教師信号を選択し、第１の追加
学習データ記憶部111に出力する第１の追加学習候補デ
ータ選択部である。
データから選択された追加学習用データと教師信号(カ
テゴリ番号)を記憶する第１の追加学習データ記憶部、1
13は評価データに対する群帰属度が最大の群番号を選択
する群番号選択部、114は、評価データに対する認識結
果とその教師信号である第２の教師信号発生部20の出力
から、認識結果の正解，不正解を判定し、誤認識の場合
に評価データ，教師信号，群番号選択部113で選択され
た群番号を誤認識情報記憶部115に記憶させるため出力
する誤認識データ選択部、116は、誤認識情報記憶部115
の記憶する情報から、群番号別，教師信号別の誤認識デ
ータ数をカウントする誤認識データ計数部、117は、カ
ウントされた誤認識データ数の多い群番号と教師信号に
対応する誤認識データと教師信号を選択し、第１の追加
学習データ記憶部111に出力する第１の追加学習候補デ
ータ選択部である。
【０１７６】このように第７実施形態の装置によれば、
学習用パターン信号に対する認識結果が誤っている場
合、その学習用パターン信号の群帰属度が大きい複数の
カテゴリ群を第２の群選択部10で選択し、それらに対応
する細分類部８が、その学習用パターン信号のそれぞれ
のカテゴリ群に属する群帰属度を用いて、荷重変更量を
調整しながら協調して学習するので、カテゴリ群の境界
に位置するパターン信号を精度良く学習でき認識率も向
上する。
学習用パターン信号に対する認識結果が誤っている場
合、その学習用パターン信号の群帰属度が大きい複数の
カテゴリ群を第２の群選択部10で選択し、それらに対応
する細分類部８が、その学習用パターン信号のそれぞれ
のカテゴリ群に属する群帰属度を用いて、荷重変更量を
調整しながら協調して学習するので、カテゴリ群の境界
に位置するパターン信号を精度良く学習でき認識率も向
上する。
【０１７７】次に、評価モードの動作について説明す
る。評価モードは学習用パターン信号と異なる評価デー
タを用いて前記初期学習の性能を評価するモードであ
る。
る。評価モードは学習用パターン信号と異なる評価デー
タを用いて前記初期学習の性能を評価するモードであ
る。
【０１７８】入力データ選択部24は評価データ記憶部23
を選択し、評価用パターン信号をファジイ大分類部７と
細分類部８に出力する。初期学習モード同様に評価用パ
ターン信号に対する認識結果が算出され、認識結果表示
部18により認識結果が表示されると共に、誤認識データ
選択部114に出力される。
を選択し、評価用パターン信号をファジイ大分類部７と
細分類部８に出力する。初期学習モード同様に評価用パ
ターン信号に対する認識結果が算出され、認識結果表示
部18により認識結果が表示されると共に、誤認識データ
選択部114に出力される。
【０１７９】認識結果表示部18に表示された認識結果が
誤っている場合、正解入力部19から正解が入力され、第
２の教師信号発生部20により誤正解に対する教師信号
(カテゴリ番号)が変換され、誤認識データ選択部114に
出力される。
誤っている場合、正解入力部19から正解が入力され、第
２の教師信号発生部20により誤正解に対する教師信号
(カテゴリ番号)が変換され、誤認識データ選択部114に
出力される。
【０１８０】群番号選択部113は、評価用パターン信号
に対する群帰属度が最大の群番号を選択し、誤認識デー
タ選択部114に出力する。誤認識データ選択部114は、評
価用パターン信号の認識結果を前記教師信号から判定
し、誤認識の場合その評価用パターン信号のデータを評
価データ記憶部23から読み出し、その評価用パターン信
号に対応する教師信号および群番号とともに誤認識情報
記憶部115に出力する。
に対する群帰属度が最大の群番号を選択し、誤認識デー
タ選択部114に出力する。誤認識データ選択部114は、評
価用パターン信号の認識結果を前記教師信号から判定
し、誤認識の場合その評価用パターン信号のデータを評
価データ記憶部23から読み出し、その評価用パターン信
号に対応する教師信号および群番号とともに誤認識情報
記憶部115に出力する。
【０１８１】誤認識データ計数部116は、誤認識情報記
憶部115に記憶されている情報から、群番号および教師
信号別に誤認識データ数をカウントし、そのカウント結
果を基に第１の追加学習候補データ選択部117が、誤認
識データ数の多い群番号と教師信号に対応する評価用パ
ターン信号のデータと教師信号を第１の追加学習データ
記憶部111に出力する。第１の追加学習データ記憶部111
に記憶されたデータについて、追加学習を行う。
憶部115に記憶されている情報から、群番号および教師
信号別に誤認識データ数をカウントし、そのカウント結
果を基に第１の追加学習候補データ選択部117が、誤認
識データ数の多い群番号と教師信号に対応する評価用パ
ターン信号のデータと教師信号を第１の追加学習データ
記憶部111に出力する。第１の追加学習データ記憶部111
に記憶されたデータについて、追加学習を行う。
【０１８２】以上のように、第７実施形態の装置によれ
ば、評価データに関する誤認識データをすべて追加学習
するのではなく、認識性能の低い誤認識データの多い群
番号の細分類部８またはカテゴリを優先的に選択し追加
学習するので追加学習の効率が向上する。
ば、評価データに関する誤認識データをすべて追加学習
するのではなく、認識性能の低い誤認識データの多い群
番号の細分類部８またはカテゴリを優先的に選択し追加
学習するので追加学習の効率が向上する。
【０１８３】次に、追加学習モードについて説明する。
追加学習モードは前記評価モードで選択され第１の追加
学習データ記憶部111に記憶されているデータを用いて
追加学習するモードである。
追加学習モードは前記評価モードで選択され第１の追加
学習データ記憶部111に記憶されているデータを用いて
追加学習するモードである。
【０１８４】入力データ選択部24は、第１の追加学習デ
ータ記憶部111を選択し追加学習用パターン信号をファ
ジイ大分類部７と細分類部８に出力する。第１の教師信
号選択部21が、第１の追加学習データ記憶部111に記憶
されている追加学習用パターン信号と教師信号を選択す
る以外は、前記初期学習モードと同様に追加学習用パタ
ーン信号の学習が実行される。
ータ記憶部111を選択し追加学習用パターン信号をファ
ジイ大分類部７と細分類部８に出力する。第１の教師信
号選択部21が、第１の追加学習データ記憶部111に記憶
されている追加学習用パターン信号と教師信号を選択す
る以外は、前記初期学習モードと同様に追加学習用パタ
ーン信号の学習が実行される。
【０１８５】以上のように、第７実施形態の装置によれ
ば、第２の群選択部10により選択された追加学習パター
ンに関連ある細分類部８のみ、重み係数が更新されるの
で追加学習が学習型認識判断装置全体に影響を与えにく
く、学習済みデータの認識性能に影響がでにくい追加学
習が可能になる。
ば、第２の群選択部10により選択された追加学習パター
ンに関連ある細分類部８のみ、重み係数が更新されるの
で追加学習が学習型認識判断装置全体に影響を与えにく
く、学習済みデータの認識性能に影響がでにくい追加学
習が可能になる。
【０１８６】図14は本発明の第８実施形態を説明するた
めの学習型認識判断装置の構成を示すブロック図であ
り、以下に第７実施形態(図13)の装置と異なる構成を説
明する。
めの学習型認識判断装置の構成を示すブロック図であ
り、以下に第７実施形態(図13)の装置と異なる構成を説
明する。
【０１８７】すなわち、120は前記基準データに関する
認識結果を評価することにより追加学習の良否を判定す
る追加学習結果良否判定部、121は追加学習結果良否判
定部120で良と判定された追加学習候補データを選択す
る第２の追加学習候補データ選択部、122は選択された
追加学習候補データを記憶する第２の追加学習候補デー
タ記憶部であって、101は第１の教師信号発生部14の出
力と第１の追加学習候補データ選択部117により選択さ
れた教師信号(カテゴリ番号)と第２の追加学習候補デー
タ選択部121により選択された教師信号(カテゴリ番号)
のうちどれか１つを選択する第２の教師信号選択部であ
る。
認識結果を評価することにより追加学習の良否を判定す
る追加学習結果良否判定部、121は追加学習結果良否判
定部120で良と判定された追加学習候補データを選択す
る第２の追加学習候補データ選択部、122は選択された
追加学習候補データを記憶する第２の追加学習候補デー
タ記憶部であって、101は第１の教師信号発生部14の出
力と第１の追加学習候補データ選択部117により選択さ
れた教師信号(カテゴリ番号)と第２の追加学習候補デー
タ選択部121により選択された教師信号(カテゴリ番号)
のうちどれか１つを選択する第２の教師信号選択部であ
る。
【０１８８】以上のように構成された第８実施形態の装
置について、以下その動作を説明する。初期学習モー
ド，評価モードは、第７実施形態の装置と同様であるの
で説明を省略し、追加学習モードについてする説明す
る。
置について、以下その動作を説明する。初期学習モー
ド，評価モードは、第７実施形態の装置と同様であるの
で説明を省略し、追加学習モードについてする説明す
る。
【０１８９】入力データ選択部98は、第１の追加学習デ
ータ記憶部111を選択し、ファジイ大分類部７と細分類
部８にデータを出力する。評価モードにおいて選択され
た認識性能の低い群番号、またはカテゴリごとに第１の
追加学習データ記憶部111に記憶されている追加学習パ
ターン信号を、第７実施形態の装置と同様に学習が行わ
れる。第１の追加学習データ記憶部111に記憶されてい
る追加学習パターン信号が学習されるたびに、入力デー
タ選択部98によって、基準データ記憶部97に記憶されて
いる基準データが選択され第７実施形態の装置と同様に
して、基準データに対する認識結果が算出される。
ータ記憶部111を選択し、ファジイ大分類部７と細分類
部８にデータを出力する。評価モードにおいて選択され
た認識性能の低い群番号、またはカテゴリごとに第１の
追加学習データ記憶部111に記憶されている追加学習パ
ターン信号を、第７実施形態の装置と同様に学習が行わ
れる。第１の追加学習データ記憶部111に記憶されてい
る追加学習パターン信号が学習されるたびに、入力デー
タ選択部98によって、基準データ記憶部97に記憶されて
いる基準データが選択され第７実施形態の装置と同様に
して、基準データに対する認識結果が算出される。
【０１９０】第１の追加学習データ記憶部111に記憶さ
れている全てのデータに対する学習と、基準データに対
する評価が終了するまで、前記動作が繰り返される。認
識結果は、追加学習結果良否判定部120により追加学習
の良否が判定され、良と判定された追加学習データは、
第２の追加学習候補データ選択部121により選択され最
終的な追加学習候補データとして第２の追加学習データ
記憶部122に記憶される。終了した時点で第２の追加学
習データ記憶部122に記憶されている追加学習データに
より、前記第７実施形態の装置と同様に最終的な追加学
習が実行される。
れている全てのデータに対する学習と、基準データに対
する評価が終了するまで、前記動作が繰り返される。認
識結果は、追加学習結果良否判定部120により追加学習
の良否が判定され、良と判定された追加学習データは、
第２の追加学習候補データ選択部121により選択され最
終的な追加学習候補データとして第２の追加学習データ
記憶部122に記憶される。終了した時点で第２の追加学
習データ記憶部122に記憶されている追加学習データに
より、前記第７実施形態の装置と同様に最終的な追加学
習が実行される。
【０１９１】次に、追加学習結果良否判定部120におけ
る判定処理について説明する。すべての基準データに対
する認識結果が算出された時点で、例えば追加学習後の
誤認識データ数の数倍とリジェクトデータ数の総和と、
追加学習前の同様の総和とを比較することにより、追加
学習結果の良否判定を行う。
る判定処理について説明する。すべての基準データに対
する認識結果が算出された時点で、例えば追加学習後の
誤認識データ数の数倍とリジェクトデータ数の総和と、
追加学習前の同様の総和とを比較することにより、追加
学習結果の良否判定を行う。
【０１９２】以上説明したように第８実施形態の装置に
よれば、第１の追加学習候補データ選択部117により選
択された候補データに関する追加学習が、学習型認識判
断装置が認識することを目標としているパターンデータ
である基準データに与える影響を確認しながら、第２の
追加学習候補データ選択部121により最終的に追加学習
するデータが選択されるので、無駄な追加学習データが
削除され追加学習の効率が向上する。
よれば、第１の追加学習候補データ選択部117により選
択された候補データに関する追加学習が、学習型認識判
断装置が認識することを目標としているパターンデータ
である基準データに与える影響を確認しながら、第２の
追加学習候補データ選択部121により最終的に追加学習
するデータが選択されるので、無駄な追加学習データが
削除され追加学習の効率が向上する。
【０１９３】また、追加学習パターン信号に関連ある細
分類部のみ荷重値が更新されるので、追加学習が学習型
認識判断装置全体に影響を与えにくく、学習済みデータ
の認識性能に影響がでにくい追加学習が可能になる。
分類部のみ荷重値が更新されるので、追加学習が学習型
認識判断装置全体に影響を与えにくく、学習済みデータ
の認識性能に影響がでにくい追加学習が可能になる。
【０１９４】なお、上述した各実施形態の装置の構成を
適宜選択して学習型認識判断装置を構成することによっ
て、強化学習，補習学習，追加学習の効率を向上させる
ことが可能になる。
適宜選択して学習型認識判断装置を構成することによっ
て、強化学習，補習学習，追加学習の効率を向上させる
ことが可能になる。
【０１９５】
【発明の効果】以上説明したように、本発明の学習型認
識判断装置によれば、学習用パターン信号に対する識別
結果が誤っている場合、荷重変更量制御部が、第２の群
選択部により選択された群帰属度に応じて対応する類似
度算出部における荷重変更量を変えるので、学習用パタ
ーンのカテゴリ群に対する帰属度を用いながら各細分類
部が協調して学習され、カテゴリ群の境界に位置するパ
ターンが精度よく学習でき認識率が向上する。
識判断装置によれば、学習用パターン信号に対する識別
結果が誤っている場合、荷重変更量制御部が、第２の群
選択部により選択された群帰属度に応じて対応する類似
度算出部における荷重変更量を変えるので、学習用パタ
ーンのカテゴリ群に対する帰属度を用いながら各細分類
部が協調して学習され、カテゴリ群の境界に位置するパ
ターンが精度よく学習でき認識率が向上する。
【０１９６】また、補習学習制御部を設けたことによ
り、入力された正解の認識結果に基づき、誤認識の場
合、認識結果が正解の認識結果に一致するまで前記第２
の群選択部で選択された細分類部の学習(追加)を制御
し、正解リジェクトデータの場合、該リジェクト判定値
が、予め設定されたリジェクトしきい値以下になるま
で、前記第２の群選択部で選択された細分類部の学習
(強化)を行うように制御することにより誤認識、及び正
解リジェクトの削減が可能になる。
り、入力された正解の認識結果に基づき、誤認識の場
合、認識結果が正解の認識結果に一致するまで前記第２
の群選択部で選択された細分類部の学習(追加)を制御
し、正解リジェクトデータの場合、該リジェクト判定値
が、予め設定されたリジェクトしきい値以下になるま
で、前記第２の群選択部で選択された細分類部の学習
(強化)を行うように制御することにより誤認識、及び正
解リジェクトの削減が可能になる。
【０１９７】さらに、前記のように補習学習パターンに
関連ある細分類部のみ、重み係数が更新されるので、補
習学習が認識判断装置全体に影響を与えにくく、学習済
みデータの認識性能に影響がでにくい補習学習が可能に
なる。
関連ある細分類部のみ、重み係数が更新されるので、補
習学習が認識判断装置全体に影響を与えにくく、学習済
みデータの認識性能に影響がでにくい補習学習が可能に
なる。
【０１９８】また、第１の追加学習候補データ選択部を
設けたことにより、誤認識データをすべて追加学習する
のではなく、認識性能の低い群番号の細分類部または、
カテゴリを優先的に追加学習するので、追加学習の効率
が向上する。
設けたことにより、誤認識データをすべて追加学習する
のではなく、認識性能の低い群番号の細分類部または、
カテゴリを優先的に追加学習するので、追加学習の効率
が向上する。
【０１９９】また、追加学習結果良否判定部および第２
の追加学習候補データ選択部を設けたことにより、本装
置が認識することを目標としているデータである基準デ
ータに与える影響を確認しながら、追加学習候補データ
が選択されるので、無駄な追加学習データが削除され追
加学習の効率が向上する。
の追加学習候補データ選択部を設けたことにより、本装
置が認識することを目標としているデータである基準デ
ータに与える影響を確認しながら、追加学習候補データ
が選択されるので、無駄な追加学習データが削除され追
加学習の効率が向上する。
【０２００】また、第１の強化学習候補データ選択部を
設けたことにより、正解リジェクトデータをすべて強化
学習するのではなく、認識性能の低い群番号の細分類部
または、カテゴリを優先的に強化学習するので、強化学
習の効率が向上する。
設けたことにより、正解リジェクトデータをすべて強化
学習するのではなく、認識性能の低い群番号の細分類部
または、カテゴリを優先的に強化学習するので、強化学
習の効率が向上する。
【０２０１】また、強化学習結果良否判定部、第２の強
化学習候補データ選択部を設けたことにより、本装置が
認識することを目標としているデータである基準データ
に与える影響を確認しながら、強化学習候補データが選
択されるので、無駄な強化学習データが削除され強化学
習の効率が向上する。
化学習候補データ選択部を設けたことにより、本装置が
認識することを目標としているデータである基準データ
に与える影響を確認しながら、強化学習候補データが選
択されるので、無駄な強化学習データが削除され強化学
習の効率が向上する。
【０２０２】また、第１のリジェクトしきい値制御部，
第２の群番号選択部，認識結果集計部およびリジェクト
しきい値決定部を設けたことにより、群別，カテゴリ別
にリジェクトしきい値が個別に設定されるので、誤読デ
ータ数またはリジェクトデータ数が削減でき、効率的な
リジェクト処理が可能となる。
第２の群番号選択部，認識結果集計部およびリジェクト
しきい値決定部を設けたことにより、群別，カテゴリ別
にリジェクトしきい値が個別に設定されるので、誤読デ
ータ数またはリジェクトデータ数が削減でき、効率的な
リジェクト処理が可能となる。
【０２０３】また、しきい値変更候補選択部および第２
のリジェクトしきい値制御部を設けたことにより、認識
性能あるいはリジェクト性能が低い群、またはカテゴリ
のリジェクトしきい値が個別に設定されるので、該群ま
たはカテゴリに対する誤読データ、リジェクトデータ数
が削減でき、効率的なリジェクト処理が可能となる。
のリジェクトしきい値制御部を設けたことにより、認識
性能あるいはリジェクト性能が低い群、またはカテゴリ
のリジェクトしきい値が個別に設定されるので、該群ま
たはカテゴリに対する誤読データ、リジェクトデータ数
が削減でき、効率的なリジェクト処理が可能となる。
【図１】本発明の第１実施形態を説明するための学習型
認識判断装置の構成を示すブロック図である。
認識判断装置の構成を示すブロック図である。
【図２】本発明の第１実施形態におけるファジィ大分類
部の一例の構成を示すブロック図である。
部の一例の構成を示すブロック図である。
【図３】本発明の第１実施形態の類似度算出部における
第１の単位認識ユニットの構成を示すブロック図であ
る。
第１の単位認識ユニットの構成を示すブロック図であ
る。
【図４】本発明の第１実施形態の類似度算出部における
第２の単位認識ユニットの構成を示すブロック図であ
る。
第２の単位認識ユニットの構成を示すブロック図であ
る。
【図５】本発明の第１実施形態の類似度算出部における
第３の単位認識ユニットの構成を示すブロック図であ
る。
第３の単位認識ユニットの構成を示すブロック図であ
る。
【図６】本発明の第１実施形態における類似度算出部の
全体構成を示すブロック図である。
全体構成を示すブロック図である。
【図７】図１における荷重変更量制御部の他の構成例を
示すブロック図である。
示すブロック図である。
【図８】本発明の第２実施形態を説明するための学習型
認識判断装置の構成を示すブロック図である。
認識判断装置の構成を示すブロック図である。
【図９】本発明の第３実施形態を説明するための学習型
認識判断装置の構成を示すブロック図である。
認識判断装置の構成を示すブロック図である。
【図１０】本発明の第４実施形態を説明するための学習
型認識判断装置の構成を示すブロック図である。
型認識判断装置の構成を示すブロック図である。
【図１１】本発明の第５実施形態を説明するための学習
型認識判断装置の構成を示すブロック図である。
型認識判断装置の構成を示すブロック図である。
【図１２】本発明の第６実施形態を説明するための学習
型認識判断装置の構成を示すブロック図である。
型認識判断装置の構成を示すブロック図である。
【図１３】本発明の第７実施形態を説明するための学習
型認識判断装置の構成を示すブロック図である。
型認識判断装置の構成を示すブロック図である。
【図１４】本発明の第８実施形態を説明するための学習
型認識判断装置の構成を示すブロック図である。
型認識判断装置の構成を示すブロック図である。
【図１５】従来の学習型認識判断装置の構成を示すブロ
ック図である。
ック図である。
６…群辞書部、 ７…ファジィ大分類部、 ８…細分類
部、 81…類似度算出部、 82，83…荷重変更量制御
部、 ９…第１の群選択部、 10…第２の群選択部、
11…識別信号荷重部、 11A…乗算器、 12…カテゴリ
類似度算出部、 13…認識結果算出部、 14…第１の教
師信号発生部、 15…カテゴリ情報記憶部、16…学習制
御部、 17…強化学習制御部、 18…認識結果表示部、
19…正解入力部、 20…第２の教師信号発生部、 21
…(第１の)教師信号選択部、 22…学習データ記憶部、
23…評価データ記憶部、 24…入力データ選択部、
91…第１の強化学習データ記憶部、 92…第１の群番号
選択部、 93…正解リジェクトデータ選択部、 94…正
解リジェクト情報記憶部、 95…正解リジェクトデータ
数計数部、 96…第１の強化学習候補データ選択部、
97…基準データ記憶部、 98…強化学習結果良否判定
部、 99…第２の強化学習候補データ選択部、100…第
２の強化学習データ記憶部、 101…第２の教師信号選
択部、 104…第１のリジェクトしきい値制御部、 105
…第２の群番号選択部、 106…認識結果集計部、 107
…リジェクトしきい値決定部、 108…しきい値変更候
補選択部、109…第２のリジェクトしきい値制御部、 1
11…第１の追加学習データ記憶部、 113…群番号選択
部、 114…誤認識データ選択部、 115…誤認識情報記
憶部、 116…誤認識データ計数部、 117…第１の追加
学習候補データ選択部、120…追加学習結果良否判定
部、 121…第２の追加学習候補データ選択部、 122…
第２の追加学習データ記憶部。
部、 81…類似度算出部、 82，83…荷重変更量制御
部、 ９…第１の群選択部、 10…第２の群選択部、
11…識別信号荷重部、 11A…乗算器、 12…カテゴリ
類似度算出部、 13…認識結果算出部、 14…第１の教
師信号発生部、 15…カテゴリ情報記憶部、16…学習制
御部、 17…強化学習制御部、 18…認識結果表示部、
19…正解入力部、 20…第２の教師信号発生部、 21
…(第１の)教師信号選択部、 22…学習データ記憶部、
23…評価データ記憶部、 24…入力データ選択部、
91…第１の強化学習データ記憶部、 92…第１の群番号
選択部、 93…正解リジェクトデータ選択部、 94…正
解リジェクト情報記憶部、 95…正解リジェクトデータ
数計数部、 96…第１の強化学習候補データ選択部、
97…基準データ記憶部、 98…強化学習結果良否判定
部、 99…第２の強化学習候補データ選択部、100…第
２の強化学習データ記憶部、 101…第２の教師信号選
択部、 104…第１のリジェクトしきい値制御部、 105
…第２の群番号選択部、 106…認識結果集計部、 107
…リジェクトしきい値決定部、 108…しきい値変更候
補選択部、109…第２のリジェクトしきい値制御部、 1
11…第１の追加学習データ記憶部、 113…群番号選択
部、 114…誤認識データ選択部、 115…誤認識情報記
憶部、 116…誤認識データ計数部、 117…第１の追加
学習候補データ選択部、120…追加学習結果良否判定
部、 121…第２の追加学習候補データ選択部、 122…
第２の追加学習データ記憶部。
Claims (18)
- 【請求項１】 類似パターンの集合からなるカテゴリ群
を代表する群参照用パターン信号が複数個記憶されてい
る群辞書部と、 前記群参照用パターン信号を用いて入力パターン信号が
各カテゴリ群に属する度合である群帰属度を計算するフ
ァジィ大分類部と、 前記群帰属度から少なくとも１つのカテゴリ群を選択す
る第１の群選択部と、 前記入力パターン信号がカテゴリ群内に含まれる各カテ
ゴリに類似する度合である群内類似度を計算する類似度
算出部と、第２の群選択部の出力に応じて前記類似度算
出部の荷重変更量を制御する荷重変更量制御部とからな
る複数個の細分類部と、 前記細分類部で得られた群内類似度を前記選択された群
帰属度により重み付けする識別信号荷重部と、 前記識別信号荷重部の出力から各カテゴリに属する度合
であるカテゴリ類似度の算出を行うカテゴリ類似度算出
部と、 前記算出された類似度から認識結果または認識不可であ
ることを表すリジェクト信号を出力する認識結果算出部
と、 前記細分類部の学習に必要な教師信号を発生する教師信
号発生部と、 各細分類部に属するカテゴリ情報を記憶したカテゴリ情
報記憶部と、 前記カテゴリ情報により入力パターンのカテゴリが存在
する細分類部の中で群帰属度の大きい方から少なくとも
１つの群帰属度を選択する前記第２の群選択部と、 前記識別結果と前記教師信号発生部から出力される入力
パターンのカテゴリとの比較結果に応じて前記細分類部
の学習を制御する学習制御部と、 前記認識結果算出部で判定された判定結果を表示する認
識結果表示部と、 前記認識結果が間違っている誤認識である場合、または
正解でリジェクトされた場合に、正解の認識結果を入力
する正解入力部と、 前記入力された正解の認識結果に基づいて前記誤認識の
データまたは前記正解リジェクトのデータに関する前記
細分類部の学習を制御する補習学習制御部とを備えたこ
とを特徴とする学習型認識判断装置。 - 【請求項２】 前記類似度算出部は、複数の階層からな
り、最下層を複数の第３の単位認識ユニット、最下層の
前層を複数の第２の単位認識ユニット、それ以外の層を
複数の第１の単位認識ユニットによりそれぞれ構成さ
れ、 前記第１の単位認識ユニットは、信号入力部と、入力信
号の出力に応じて量子化を行う量子化器と、前記入力信
号の量子化結果から当該量子化区間に隣接する量子化区
間を選択する隣接区間選択部と、前記入力信号の属する
量子化区間ならびに当該量子化区間に隣接する量子化区
間に対する荷重値を記憶する荷重テーブルと、単一また
は複数の経路入力端子を有する経路入力部と、単一また
は複数の経路出力端子を有する経路出力部と、量子化結
果に応じて経路に加える荷重の設定位置を変えることに
より前記経路入力部の経路入力端子と前記経路出力部の
経路出力端子との連結強度を変化させる経路荷重部とを
備え、 前記第２の単位認識ユニットは、信号入力部と、入力信
号の出力に応じて量子化を行う量子化器と、単一または
複数の経路入力端子を有する経路入力部と、単一または
複数の経路出力端子を有する経路出力部と、経路入力部
の経路入力端子に伝達された値を数ビットシフトする伝
達量変更部と、この伝達量変更部の出力に応じて前記経
路入力端子と前記量子化器の出力値が指し示す経路出力
部の経路出力端子との連結強度を増加する学習器とを備
え、 前記第３の単位認識ユニットは、複数の経路入力端子か
らの入力信号を加算する加算器と、この加算器の出力信
号をしきい値処理するしきい値処理器とを備えたことを
特徴とする請求項１記載の学習型認識判断装置。 - 【請求項３】 前記類似度算出部は、教師信号選択部の
出力を前記細分類部の中で最も大きな値を出力すること
が望ましい前記第３の単位認識ユニットの番号に変換す
る教師信号変換部を備え、最下層の前層に位置する前記
第２の単位認識ユニットの信号入力部に前記教師信号変
換部の出力を入力することを特徴とする請求項１または
３記載の学習型認識判断装置。 - 【請求項４】 前記荷重変更量制御部は、前記第２の群
選択部の出力に応じて対応する類似度算出部における伝
達量変更部のビットシフト量を制御することを特徴とし
た請求項１または２記載の学習型認識判断装置。 - 【請求項５】 前記荷重変更量制御部は、前記第２の群
選択部の出力に応じて対応する類似度算出部の学習回数
を変更することを特徴とした請求項１または２記載の学
習型認識判断装置。 - 【請求項６】 前記認識結果算出部は、カテゴリ類似度
の大きい方から少なくとも２つのカテゴリ類似度を選択
し、それらの比をリジェクト判定値として、このリジェ
クト判定値が予め設定されているリジェクトしきい値よ
り大きい場合にリジェクト信号を出力することを特徴と
する請求項１記載の学習型認識判断装置。 - 【請求項７】 前記ファジィ大分類部は、入力パターン
信号と群辞書部に記憶されている全ての群参照用パター
ン信号との距離を計算する複数個の距離計算部と、前記
距離計算部の出力の逆数を計算する複数個の割算器と、
前記割算器の各出力を加算する加算器と、前記加算器の
出力と前記距離計算部の出力を乗算する複数個の乗算器
と、前記乗算器の出力の逆数を計算する複数個の割算器
とを備えたことを特徴とする請求項１記載の学習型認識
判断装置。 - 【請求項８】 前記補習学習制御部は、認識結果が正解
の認識結果に一致するまで前記細分類部の学習を制御す
ることを特徴とする請求項１記載の学習型認識判断装
置。 - 【請求項９】 前記カテゴリ情報記憶部のカテゴリ情報
により入力データのカテゴリが存在する細分類部の中で
群帰属度が最大の群番号を選択する第１の群番号選択部
と、 誤認識の入力データとそれに対応するカテゴリ番号と当
該選択された群番号とを記憶する追加学習データ記憶部
と、 前記追加学習データ記憶部に記憶されているデータから
群番号およびカテゴリ別の誤認識データ数をカウントす
る誤認識データ数計数部と、 前記カウントされた誤認識データ数の多い群番号とカテ
ゴリ番号に対応する入力データとカテゴリ番号を選択す
る第１の追加学習候補データ選択部とを備えたことを特
徴とする請求項１記載の学習型認識判断装置。 - 【請求項１０】 前記第１の追加学習候補データ選択部
において選択されたデータに関する学習結果を評価する
ための基準となるデータと教師信号を記憶した基準デー
タ記憶部と、 前記基準データに関する認識結果を評価することにより
追加学習の良否を判定する追加学習結果良否判定部と、 前記追加学習結果良否判定部において良と判定された追
加学習候補データのみを選択する第２の追加学習候補デ
ータ選択部と、を備えたことを特徴とする請求項１記載
の学習型認識判断装置。 - 【請求項１１】 前記追加学習結果良否判定部は、追加
学習後の誤読データ数の増加数の数倍(１以上の整数値)
とリジェクトデータ数の増加数との総和により、追加学
習の良否を判定することを特徴とした請求項10記載の学
習型認識判断装置。 - 【請求項１２】 前記補習学習制御部は、リジェクト判
定値が予め設定されたリジェクトしきい値以下になるま
で前記細分類部の学習を制御することを特徴とした請求
項１記載の学習型認識判断装置。 - 【請求項１３】 前記カテゴリ情報記憶部のカテゴリ情
報により入力データのカテゴリが存在する細分類部の中
で群帰属度が最大の群番号を選択する第１の群番号選択
部と、 前記正解リジェクトの入力データとそれに対応するカテ
ゴリ番号(教師信号)と前記選択された群番号とを記憶す
る強化学習データ記憶部と、 前記強化学習データ記憶部に記憶されているデータから
群番号別およびカテゴリ別の正解リジェクトデータ数を
カウントする正解リジェクトデータ数計数部と、 前記
カウントされた正解リジェクトデータ数の多い群番号と
カテゴリ番号に対応する入力データとカテゴリ番号を選
択する第１の強化学習候補データ選択部と、を備えたこ
とを特徴とする請求項１記載の学習型認識判断装置。 - 【請求項１４】 前記第１の強化学習候補データ選択部
において選択されたデータに関する強化学習結果を評価
するための基準となるデータと教師信号を記憶した基準
データ記憶部と、 前記基準となるデータに関する認識結果を評価すること
により強化学習の良否を判定する強化学習結果良否判定
部と、 前記強化学習結果良否判定部において良と判定された強
化学習候補データのみを選択する第２の強化学習候補デ
ータ選択部とを備えたことを特徴とする請求項13記載の
学習型認識判断装置。 - 【請求項１５】 前記強化学習結果良否判定部は、強化
学習後の誤読データ数の増加数の数倍(１以上の整数値)
とリジェクトデータ数の増加数との総和により、強化学
習の良否を判定することを特徴とした請求項14記載の学
習型認識判断装置。 - 【請求項１６】 予め設定されたリジェクトしきい値に
対して、一定値だけ増減させた２種類のリジェクトしき
い値を発生させる第１のリジェクトしきい値制御部と、 評価用データに対する群帰属度が最大の群番号を選択す
る第２の群番号選択部と、 評価用データの認識結果から誤読およびリジェクトデー
タ数を、前記選択された群番号により群番号別およびカ
テゴリ別に集計する認識結果集計部と、 予め設定されたリジェクトしきい値に対する集計結果
と、前記変化後のリジェクトしきい値に対する集計結果
の群番号別またはカテゴリ別の比較により、群番号別ま
たはカテゴリ別にリジェクトしきい値を決定するリジェ
クトしきい値決定部とを備えたことを特徴とする請求項
１記載の学習型認識判断装置。 - 【請求項１７】 前記認識結果集計部による集計結果か
ら、誤読データ数とリジェクトデータ数の差が大きい群
番号またはカテゴリ番号を少なくとも１つ選択するしき
い値変更候補選択部と、 前記第１のリジェクトしきい値制御部に代えて、選択さ
れた群またはカテゴリの誤読データ数とリジェクトデー
タ数の大小関係から前記群またはカテゴリのリジェクト
しきい値を一定値だけ増減させる第２のリジェクトしき
い値制御部とを備えたことを特徴とする請求項１記載の
学習型認識判断装置。 - 【請求項１８】 前記リジェクトしきい値決定部は、誤
読データの増加数の数倍とリジェクトデータの減少数の
総和が一定値以下の群番号またはカテゴリ番号のリジェ
クトしきい値を予め設定された値から一定値だけ増加さ
せ、逆に誤読データの減少数の数倍とリジェクトデータ
の増加数の総和が一定値以下の群番号またはカテゴリ番
号のリジェクトしきい値を予め設定された値から一定値
だけ減少させることを特徴とした請求項16または17記載
の学習型認識判断装置。
Priority Applications (4)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP8114809A JPH09305566A (ja) | 1996-05-09 | 1996-05-09 | 学習型認識判断装置 |
| US08/668,588 US5966701A (en) | 1995-06-21 | 1996-06-19 | Recognition and judgement apparatus having various learning functions |
| EP96304575A EP0750263B1 (en) | 1995-06-21 | 1996-06-20 | Recognition and judgement apparatus having various learning functions |
| DE69606468T DE69606468T2 (de) | 1995-06-21 | 1996-06-20 | Erkennungs- und Beurteilungsgerät mit verschiedenen Lernfunktionen |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP8114809A JPH09305566A (ja) | 1996-05-09 | 1996-05-09 | 学習型認識判断装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH09305566A true JPH09305566A (ja) | 1997-11-28 |
Family
ID=14647233
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP8114809A Pending JPH09305566A (ja) | 1995-06-21 | 1996-05-09 | 学習型認識判断装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH09305566A (ja) |
-
1996
- 1996-05-09 JP JP8114809A patent/JPH09305566A/ja active Pending
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5479570A (en) | Learning and recognition machine | |
| US5546503A (en) | Apparatus for configuring neural network and pattern recognition apparatus using neural network | |
| CN114782761B (zh) | 基于深度学习的智能仓储物料识别方法和系统 | |
| CN113408565A (zh) | 基于集成分类模型的分类方法及相关设备 | |
| US5966701A (en) | Recognition and judgement apparatus having various learning functions | |
| AL-Behadili | Classification algorithms for determining handwritten digit | |
| Parvin et al. | A scalable method for improving the performance of classifiers in multiclass applications by pairwise classifiers and GA | |
| JP3337597B2 (ja) | 学習型認識判断装置 | |
| JP2924442B2 (ja) | パターン認識装置 | |
| JPH09305566A (ja) | 学習型認識判断装置 | |
| JP3392612B2 (ja) | 学習型認識判断装置 | |
| JP3344873B2 (ja) | 学習型認識判断装置 | |
| EP0520446B1 (en) | Recognizing and judging apparatus | |
| JP2779119B2 (ja) | 学習認識装置 | |
| JPH0991266A (ja) | 学習型認識判断装置 | |
| JP2001142867A (ja) | 学習型認識判断装置 | |
| JP3180477B2 (ja) | パターン認識装置 | |
| JPH10187651A (ja) | 学習型認識判断装置 | |
| Shi et al. | Neocognitron's parameter tuning by genetic algorithms | |
| JP3440187B2 (ja) | 光学的文字読取装置 | |
| JP2574517B2 (ja) | パターン認識装置 | |
| Zhu et al. | An FPGA implementation of Kak's instantaneously-trained, Fast-Classification neural networks | |
| Perez et al. | Genetic selection of non-linear product terms in the inputs to a linear classifier for handwritten digit recognition | |
| JPH10187650A (ja) | 学習型認識判断装置 | |
| JPH09325950A (ja) | 学習型認識判断装置 |