JPH06295292A

JPH06295292A - 学習認識装置

Info

Publication number: JPH06295292A
Application number: JP5081568A
Authority: JP
Inventors: Taro Imagawa; 太郎今川; Toshiyuki Koda; 敏行香田; Susumu Maruno; 進丸野; 泰治〆木; Taiji Shimeki
Original assignee: Matsushita Electric Industrial Co Ltd
Current assignee: Panasonic Holdings Corp
Priority date: 1993-04-08
Filing date: 1993-04-08
Publication date: 1994-10-21

Abstract

(57)【要約】【目的】高速かつ効率的な学習及び追加学習が可能な
学習認識装置の提供。【構成】経路選択単位nは、入力信号を量子化する量子
化器と、複数の経路入力端子を有する第1の経路入力部
と、複数の経路出力端子を有する経路出力部と、複数の経
路出力端子を一つの経路出力端子に置き換える経路出力
統合器と、前記量子化出力に応じて、経路入力部と経路手
段との間の経路を選択する経路荷重部とを有し、学習認
識単位qは、教師信号を入力する教師信号入力部と、複数
の経路入力端子を有する第2の経路入力部からの入力に
対して重み付けを行なう荷重と、荷重からの出力を加算
する加算器と、その加算値をしきい値処理するしきい値
処理器の出力と教師信号に基づいて、前記荷重の値を決
定する学習器とを有し、経路選択単位を複数個階層的に
組み合わせて複数の分岐構造を構成し、その上層に、学習
認識単位を配置してなるもの。経路出力統合器が余剰な
信号経路を統合・削減して学習効率を高める。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、対象物の各種特徴デー
タに応じて前記対象物の認識判断の能力を学習により獲
得する学習認識装置に関するものである。

【０００２】

【従来の技術】従来、認識能力を学習により獲得する学
習認識装置としては、ネイチャー323(1986)、第533頁〜
第536頁掲載のもの（ D.E.Rumelhart , G.E.Hinton an
dR.J.Williams " Learning Representations by Back-
Propagating Errors ",Nature, vol.323. pp.533-536,
Oct. 9, 1986）がある。図６は前記従来の学習認識装置
の構成を示すものである。図６において、１０は出力信
号算出部、２０は学習時に前記出力算出部１０の出力と
目標となる出力値との差を用いて前記出力信号算出部１
０の結合荷重の値を更新する結合荷重更新部で、教師信
号発生部１００、誤差信号算出部１１０、結合荷重更新
量算出部１２０より成る。この出力信号算出部１０は、
図７に示すように階層構造を形成しており、３０は多入
力・一出力信号処理部、４０は出力信号算出部の入力部
である。図８は前記多入力・一出力信号処理部３０の構
成を具体的に示したものである。図８において、５０は
信号の入力部、６０は入力部５０からの複数入力を重み
付ける荷重を格納するメモリー、７０はメモリー６０の
結合荷重と入力部５０からの入力信号値の積を求める乗
算器、８０は乗算器７０の各出力の和を求める加算器。
９０は加算器８０の出力を一定範囲内の値に制限するし
きい値処理器である。しきい値処理器９０の入出力特性
を図９に示す。たとえば、出力を（０，１）の範囲に限
定するしきい値処理器９０の入出力特性は式（１）のよ
うに表現できる。

【０００３】ｆ（Ｉ）＝１／（１＋ｅｘｐ（−Ｉ＋θ））・・・（１）ここで、Ｉはしきい値処理器９０の入力、θはしきい値
である。

【０００４】以上のように構成された従来の学習認識装
置について、以下にその動作を説明する。出力信号算出
部１０の入力部４０に入力信号が入力されると、各多入
力一出力信号処理部３０は、結合している下層の多入力
一出力信号処理部の出力とメモリー６０に格納されてい
る結合荷重との積を乗算器７０により求め、前記乗算器
の出力の総和を加算器８０により求めた後、前記加算器
の出力値をしきい値処理器９０でしきい値処理を行い、
その値を上層の多入力一出力信号処理部の入力部に出力
する。すなわち、i番目の多入力一出力信号処理部３０
の出力値ｏ_iを数式で表現すると式（２）のように表現
できる。

【０００５】ｏ_i ＝ｆ( Σ_j ｗ_ij・ｏ_j ) ・・・（２）ここで、ｆは式（１）に示したしきい値処理器９０の入
出力特性を表わす関数、Σ_jはjに関する総和、ｗ_ijはメ
モリー６０に格納されているi番目の多入力一出力信号
処理部３０と下層のj番目の多入力一出力信号処理部３
０との結合荷重、ｏ_jは下層のj番目の多入力一出力信号
処理部３０の出力値を表わす。

【０００６】前記出力信号算出部１０の入力部４０から
入力される信号に対して、教師信号発生部１００が前記
入力信号に対する望ましい出力信号を教師信号として発
生し、誤差信号算出部１１０は前記出力信号算出部１０
から出力される実際の出力値と前記教師信号との誤差を
出力する。誤差Ｅは式（３）のように算出される。

【０００７】Ｅ＝｛Σ_i (ｔ_i − ｏ_i)²｝／２・・・（３）ここで、ｏ_iは最上位層のi番目の多入力一出力信号処理
部３０の出力値、ｔ_iは前記出力に対して目標となる出
力値を表わす。結合荷重更新部１２０は前記誤差信号算
出部１１０が出力した誤差Ｅをもとに前記出力信号算出
部１０のメモリー６０に記憶されている結合荷重の更新
量Δｗ_ijを算出し、結合荷重の更新を行なう。更新量Δ
ｗ_ijは式（４）のように求められる。

【０００８】 Δｗ_ij ＝ −ε・∂Ｅ／∂ｗ_ij ＋ α・Δｗ'_ij ・・・（４）ここで、ε及びαは学習に用いる正の定数であり、Δ
ｗ'_ijは前回の学習における結合荷重更新量である。

【０００９】上記のように、結合荷重の変更を繰り返す
ことで出力信号算出部１０にある信号を入力した場合の
出力信号算出部１０の出力と目標となる値に次第に近づ
いて行き、前記誤差Ｅが減少する。誤差Ｅが実用上十分
小さい値に達したときに学習を終了する。この学習が終
了したのち、この学習認識装置は入力される信号に対し
て望ましい値を出力して認識動作を行うことが出来る。

【００１０】

【発明が解決しようとする課題】しかしながら、上記従
来のような構成では、学習時に全ての結合荷重を変更す
る必要があるため、学習に必要な計算量が多く、学習に
時間がかかった。しかも、学習終了後に未知の入力信号
に対して望ましい出力を得るように追加学習をさせる場
合、以前に学習した入力信号も用いて新たに学習をし直
す必要があり、時間がかかるという問題点を有してい
た。

【００１１】本発明はかかる従来の学習認識装置の課題
を解決する為に、学習を高速かつ効率的に行え、さらに
未知の入力信号に対する追加学習も高速な学習認識装置
を提供することを目的とする。

【００１２】

【課題を解決するための手段】本発明は、例えば、経路
選択単位を、信号入力部と、信号入力部からの入力信号
を量子化する量子化器と、単一または複数の経路入力端
子を有する経路入力部と、単一または複数の経路出力端
子を有する経路出力部と、複数の経路出力端子を一つの
経路出力端子に置き換える経路出力統合器と、量子化器
の量子化出力に応じて経路を選択する経路荷重部とによ
り構成し、学習認識単位を、教師信号入力部と、複数の
経路入力端子を有する経路入力部と、経路入力部からの
入力に対して重み付けを行なう荷重と、荷重からの出力
を加算する加算器と、加算器の出力をしきい値処理する
しきい値処理器と、しきい値処理器のしきい値を学習す
るしきい値学習器と、荷重の値を決定する学習器とによ
り構成し、経路選択単位を階層的に組み合わせて複数の
分岐構造を構成し、その上層に学習認識単位を配置して
なる学習認識装置である。

【００１３】

【作用】本発明は上記の構成において、階層的に分岐構
造を有する学習認識装置の各階層の経路選択単位の信号
入力部に、対象物の特徴データを入力信号として入力す
ると、各階層の経路選択単位は、量子化器の出力に応じ
て、より上層との結合荷重を決定し、信号を上層へ伝達
する。ここで経路出力統合器が余剰な信号経路を統合し
信号経路数を削減することで、学習・認識の高速化およ
びメモリーの節約を可能とし、学習は最上位層の学習認
識単位に含まれる荷重のみを変更することにより学習を
行なうため、高速学習が可能である。

【００１４】また、しきい値処理器が学習認識単位の出
力値を正規化し、最終層の出力値が上限値を有するよう
にすることで、結合荷重及び学習認識単位の出力の学習
によるオーバーフローを防ぐことができる。

【００１５】また、しきい値学習器が適切なしきい値を
学習することで学習効率を高め、学習の繰り返し回数を
削減することができる。

【００１６】さらに、複数の学習認識装置の出力結果を
参照する場合に、その出力の上限値を一致させること
で、各学習認識装置の出力をそのまま比較することがで
き、複数の学習認識装置を同時に用いることで高速化が
可能となる。

【００１７】

【実施例】以下、本発明の実施例について図面を参照し
て説明する。

【００１８】図１は、本発明の学習認識装置の第一の実
施例を示すものである。本実施例では、二種類の特徴デ
ータ（第一特徴データ、第二特徴データ）二組を三つの
カテゴリーの中の一つのカテゴリーに対応付けるもの
で、経路選択単位を複数個組み合わせて、二個の分岐構
造を有し、一つの分岐構造中に三層の階層を有するよう
に構成してある。第一層、第二層を経路選択単位ｎ１１
〜ｎ１２、ｎ２１〜ｎ３０で構成し、最上位層を学習認
識単位ｑ３１〜ｑ３３で構成する。各分岐構造中の各階
層の経路選択単位の信号入力部には判断すべき特徴デー
タを、教師信号入力部には教師信号を入力する。第二層
からは量子化信号が最上位層の量子化信号入力部に入力
され、最上位層の荷重の値は第二層の荷重入力部に入力
されるようになっている。

【００１９】図２は本発明の学習認識装置に用いる経路
選択単位の一実施例を示すものである。ここで、１１は
信号入力部で、信号入力端子１１ａを介して入力された
認識の対象となる特徴データ信号を量子化器２に入力す
る。量子化器２は入力された信号を量子化し、量子化し
た結果を量子化信号出力端子２ａおよび経路荷重部３ｂ
に出力する。３ａは経路入力部で、経路入力端子３ａ０
を介して入力された経路信号を経路荷重部３ｂに入力す
る。３ｅ１〜３ｅ５は経路出力端子で、経路選択単位を
階層的に組合せるときに、これらの端子を互いに連結す
るものである。

【００２０】経路荷重部３ｂは、経路入力部３ａと経路
出力部３ｅとの間を接続する荷重３ｂ０１〜３ｂ０５
と、前記荷重の値を前記量子化結果に応じて荷重３ｂ０
１〜３ｂ０５に設定する荷重設定部３ｂ０とで構成され
る。経路荷重部３ｂでは、荷重設定部３ｂ０が入力信号
の量子化結果に基づいて、前記荷重値をそれぞれの量子
化レベルに対応する荷重に設定する。荷重３ｂ０１〜３
ｂ０５は、経路入力部３ａから入力された経路信号を重
み付けし、経路出力部３ｅは、この重み付けした経路信
号を経路出力端子３ｅ１〜３ｅ５に出力する。３ｆは経
路出力端子統合器で、経路出力部３ｅと経路出力端子３
ｅ１〜３ｅ５の間の接続を切り替えを行なう。

【００２１】３ｆ０１〜３ｆ０５は前記経路出力端子統
合器３ｆの入力端子、３ｆ１１〜３ｆ１５はその出力端
子である。初期状態では入力端子３ｆ０１〜３ｆ０５と
出力端子３ｆ１１〜３ｆ１５は１対１に接続されている
が、複数の入力端子を一つの出力端子に接続して経路数
を削減し、学習・認識の時間を低減することができる。
図では３ｆ０２から３ｆ１２への接続を３ｆ０２から３
ｆ１１に切り替えた状態を示している。このとき量子化
器によって選択された経路が３ｆ０１の場合にも３ｆ０
２の場合にも経路選択単位の出力端子３ｅ１から信号が
出力される。統合した結果使われなくなった経路は、上
の層に位置する学習認識単位において荷重の変更が行な
われなくなる。

【００２２】図では最上位層の荷重の値を用いて経路出
力端子の統合を行なう場合を示す。端子の統合は学習を
何回か行なった後に行なう。荷重入力部３ｈを介して経
路出力統合器３ｆに入力される最上位層の荷重の値を用
い、二つの端子の全ての組合せについて評価値Ｄ_ij（i
番目の端子とj番目の端子に対する評価値、ただしiとj
は異なる端子とする）を定め、Ｄ_ijを最も小さくする二
つの端子を統合する。評価値としては例えば式（５）で
定められるものを用いることができる。

【００２３】Ｄ_ij ＝ Σ_n (ｗ_in−ｗ_jn)² ・・・（５）ここでｗ_in、ｗ_jnは最上位層のn番目の学習認識単位に
含まれる荷重のうち、それぞれi番目、j番目の端子と同
じ経路に属する荷重の値を示し、Σ_n は全ての学習認識
単位についての和を表わす。

【００２４】図３は本発明の学習認識装置の最上位層に
用いる学習認識単位の一実施例を示す。１は教師信号入
力部、３ａは経路入力部、３ｂは経路荷重部で、経路入
力部３ａの出力値に重み付けを行なう荷重３ｂ０１〜３
ｂ０５０及び前記結合荷重を変更する学習器３ｂ１から
成る。３ｃは重み付けされた荷重の出力を加算する加算
器、３ｄは前記加算器３ｃの出力をしきい値処理するし
きい値処理器、３ｄ１は前記加算器３ｃのしきい値を学
習によって設定するしきい値学習器、５は量子化信号入
力部で、量子化信号入力端子５ａ０１〜５ａ１０を介し
て全ての経路選択単位の量子化信号を学習器３ｂ１に入
力し、３ｇは荷重値出力端子で荷重の値を出力し、経路
選択単位の経路出力端子の統合に用いる。

【００２５】学習器３ｂ１は誤差算出器３ｂ１１と荷重
値算出器３ｂ１２から構成され、誤差算出器３ｂ１１は
学習認識単位の出力と教師信号入力部１からの入力値と
量子化信号入力部５からの入力に基づいて、荷重３ｂ０
１〜３ｂ０５０の値を決定する。学習過程では、一つ下
の階層の量子化信号によって選択された経路に属する荷
重について、誤差算出器３ｂ１１が式（６）のように誤
差信号を発生し、荷重値算出器３ｂ１２が前記誤差信号
を用いて式（７）のように荷重値を設定する。

【００２６】Ｅ＝ｔ−ｏ・・・（６）ｗ'_3b0i ＝ η・Ｅ＋ｗ_3b0i ・・・（７）ここで、Ｅは誤差信号の値、ｔは教師信号の値、ｏは学
習認識単位の出力値、ｗ'_3b0iはｉ番目の荷重３ｂ０ｉ
の変更後の値、ｗ_3b0iは同変更前の値を示す。ηは学習
で用いる定数を表わす。

【００２７】しきい値処理器３ｄの入力と出力の関係は
式（１）の関係を用いる。ここで、Ｉは加算器３ｄから
の入力、θはしきい値学習器が設定するしきい値、ｆ
（Ｉ）はしきい値処理器の出力である。しきい値学習器
は式（８）で示されるようにしきい値θを決定する。

【００２８】 θ' ＝ ε・Ｅ＋ θ ・・・（８）ここで、Ｅは誤差信号の値、θ'は新しく学習したしき
い値、θは学習前のしきい値、ｔは教師信号の値、ｏは
学習認識単位の出力、すなわちしきい値処理器３ｄの出
力を示し、εは学習の定数を表わす。

【００２９】次に、このように構成した学習認識装置の
学習動作を説明する。

【００３０】各分岐構造の第一層目の経路選択単位ｎ１
１〜ｎ１２の経路入力端子への経路入力信号として、"
１"を与える。又、これらの経路選択単位の量子化器へ
の信号入力端子には、認識対象物の第一特徴デ−タを入
力する（この図の場合には、二個の第一特徴デ−タを、
それぞれ二個の経路選択単位に入力する）。

【００３１】各経路選択単位は、これらの第一特徴デ−
タを量子化器２で量子化し、この量子化した値に基づい
て、荷重設定部３ｂ０はそれぞれのデータに対応する荷
重値をその量子化レベルに基づいて設定する。このよう
に一つの経路選択単位において複数の経路が選択され、
第二層目の経路選択単位ｎ２１〜ｎ３０の経路入力端子
へ、経路入力信号と前記荷重の値を掛けた値が送られ
る。

【００３２】第二層目の経路選択単位の信号入力端子に
は、認識対象物の第二特徴デ−タを入力する（図１では
二個の第二特徴デ−タを、それぞれｎ２１〜ｎ２５、ｎ
２６〜ｎ３０に入力する）。第一層目の場合と同様に複
数の経路入力信号が選択され、全ての出力が最上位層の
全ての学習認識単位ｑ３１〜ｑ３３のそれぞれの経路入
力端子へ値が送られる。また、量子化信号は量子化信号
出力端子２ａから最上位層の全ての学習認識単位の量子
化信号入力部５に送られる。学習前の初期状態では経路
出力端子統合器３ｆの入力端子３ｆ０１〜３ｆ０５と出
力端子３ｆ１１〜３ｆ１５は１対１に接続されており、
学習を何回か行なった後に経路出力端子３ｆの統合を行
なう。経路出力端子統合器３ｆは３ｆ１１〜３ｆ１５の
経路端子の全ての２端子の組合せに対して式（５）で定
義される評価値Ｄを求め、Ｄの値が最小になる２端子の
組を１つの端子に統合する。

【００３３】最上位層の学習認識単位の教師信号入力端
子１ａには認識対象の信号が分類したい三つのカテゴリ
ーの内どのカテゴリーに属するかを示す教師入力信号、
すなわち、学習認識単位ｑ３１〜ｑ３３の内で最も大き
い値を出力することが望ましい学習認識単位に対して１
を入力し、他の学習認識単位に対しては０を入力する。

【００３４】たとえばｑ３１が最も大きい出力を出すよ
うにする場合には、経路選択単位ｎ１１〜ｎ１２及びｎ
２１〜ｎ３０にｑ３１が表わすカテゴリーに属する信号
を入力し、学習認識単位ｑ３１には１を、他の学習認識
単位ｑ３２、ｑ３３には０を教師信号として入力する。
このとき、最上位層の各学習認識単位ｑ３１〜ｑ３３の
経路入力部３ａには同じ値が入力され、学習認識単位ご
とに持つ荷重３ｂ０１〜３ｂ０５０を乗じた後、加算器
３ｃで総和を求め、しきい値処理器３ｄでしきい値処理
された値が学習認識単位の出力値となる。誤差信号算出
器３ｂ１１は前記学習単位の出力値と教師信号の差を求
める。量子化信号によって選択された経路の新しい荷重
値は、荷重値算出器３ｂ１２は誤差信号算出器の出力に
比例した値だけ修正される。ここで、量子化信号によっ
て選択されない経路については荷重の変更は行なわれな
い。上記の操作を学習したい全ての認識対象について複
数回繰り返すことで、学習認識単位が望ましい出力を出
すようになる。なお、式（５）にしたがって学習する場
合、学習認識単位の出力ｏと教師信号ｔの値が一致すれ
ば荷重の変更量は０となり変更は行なわれない。しかし
ながら、一致しない場合にも学習認識単位のうち最も大
きな出力を出すことが望ましい学習認識単位が最大値を
出力している場合には、荷重値の更新を省略することが
できる。これにより、学習回数を削減することができ
る。しきい値の変更は荷重の学習と同様に式（８）に従
って行なわれる。

【００３５】つぎに、図１に示した学習認識装置の認識
動作を説明する。学習の動作と全く同様に、各分岐構造
の第一層目の経路選択単位ｎ１１〜ｎ１２の経路入力端
子への経路信号として、まず”１”を与える。又、これ
らの経路選択単位の量子化器への信号入力端子には、認
識対象物の第一特徴デ−タを入力する（この図の場合に
は、二個の第一特徴デ−タを、それぞれ二個の経路選択
単位に入力する）。

【００３６】各経路選択単位は、第一特徴デ−タを量子
化器２で量子化し、この量子化した値に基づいて、荷重
設定部３ｂ０は特徴データに対応する前記荷重値を、そ
の量子化レベル位置に基づいて設定する。このように、
認識時には一つの経路が選択され、第二層目の経路選択
単位ｎ２１〜ｎ３０の経路入力端子へ、経路信号と前記
荷重の値をかけた値が送られる。

【００３７】第二層目の経路選択単位の信号入力端子に
は、認識対象物の第二特徴デ−タを入力する（この図の
場合には、二個の第二特徴デ−タを、それぞれｎ２１〜
ｎ２５、ｎ２６〜ｎ３０に入力する）。第一層目の場合
と異なり、全ての出力値が、最上位層の全ての学習認識
単位ｑ３１〜ｑ３３に送られる。

【００３８】最上位層の学習認識単位は、経路入力部か
らの入力値に対して結合荷重を乗じ、加算器３ｃで総和
を求め、しきい値処理した値を出力する。このとき、複
数の学習認識単位の中で最大値を出力した学習認識単位
が表わすカテゴリーが認識結果となる。また、認識時に
は荷重およびしきい値の変更は行なわれない。このよう
にして前記学習認識装置は、入力した認識対象物特徴デ
−タに基づき、認識対象物の分類、認識判断を行なうこ
とができる。

【００３９】以上説明したように、本発明による学習認
識装置は、分岐構造を有した多層の階層構造を構成し、
各経路選択単位の量子化器の出力に応じて、経路選択単
位同士の結合経路を切り換え、最上位層までの信号経路
を選択する。ここで経路出力統合器が余剰な信号経路を
統合し信号経路数を削減することで、学習・認識の高速
化およびメモリーの節約を可能とし、学習は最上位層の
学習認識単位に含まれる荷重のみを変更することにより
学習を行なうため、高速学習が可能である。

【００４０】また、しきい値学習器が適切なしきい値を
学習することで学習効率を高め、学習の繰り返し回数を
削減することができる。

【００４１】図４は本発明の学習認識装置の最上位層に
用いる学習認識単位の第二の実施例で教師信号変換器を
有するものを示す。１は教師信号入力部、３ａは経路入
力部、３ｂは経路荷重部で、経路入力部３ａの出力値に
重み付けを行なう荷重３ｂ０１〜３ｂ０５０及び前記結
合荷重を変更する学習器３ｂ１から成る。３ｃは重み付
けされた荷重の出力を加算する加算器、５は量子化信号
入力部、５ａ０１〜５ａ１０は量子化信号入力端子、３
ｂ１は学習器、４は教師信号変換器である。教師信号変
換器４を除く構成は図３に説明した学習認識単位の第一
の実施例と同様である。

【００４２】前記教師信号変換器４は全ての学習認識単
位の出力および教師信号を用いて、入力される信号の属
するカテゴリーに応じて教師信号の強度を変える働きを
持つ。すなわち、教師信号変換器４は教師信号として与
えられる０、１の二値の教師信号をその信号が属するカ
テゴリーに応じて中間的な値に変換し、多値の教師信号
を発生する。教師信号の変換には学習認識単位の出力と
教師信号から求めた誤認識特性を利用する。たとえば、
カテゴリーＡに属する信号は他のカテゴリーに誤認識さ
れないが、他のカテゴリーに属する信号はカテゴリーＡ
に誤認識される場合、カテゴリーＡに属する入力信号に
対応する教師信号を他のカテゴリーに対応する教師信号
よりも小さい値に変換する。この変換後学習を進める
と、カテゴリーＡを担当する学習認識単位の出力値は抑
えられ、カテゴリーＡを担当する学習認識単位が他の学
習認識単位よりも大きな値を出す場合が少なくなる。そ
の結果、教師信号変換器による教師信号の変更量が大き
くなければ、カテゴリーＡに属する信号が入力されたと
きにはカテゴリーＡの学習認識単位がすべての学習認識
単位の中で最大値を出力する状態を維持し、カテゴリー
Ａ以外の信号が入力されたときにカテゴリーＡの学習認
識単位が最大値を出力することが少なくなる。逆に、カ
テゴリーＡに属する信号は他のカテゴリーに誤認識され
るが、他のカテゴリーに属する信号はカテゴリーＡに誤
認識されない場合、カテゴリーＡに属する入力信号に対
応する教師信号を他のカテゴリーに対応する教師信号よ
りも大きい値に変換する。

【００４３】つぎに、図５を用いて教師信号変換器４を
有する学習認識単位を用いて最上位層を構成した学習認
識装置の学習動作を説明する。学習開始の状態では教師
信号変換器４は教師信号の変換を行なわず、教師信号入
力部に入力された教師信号がそのまま学習器に入力され
る。このとき教師信号変換器４は教師信号と学習認識単
位の出力を用いて、誤認識の記録（あるカテゴリーの信
号が他のカテゴリーに誤認識された頻度の記録）を行な
う。他の学習動作は第一の実施例を用いた場合と同じで
ある。

【００４４】学習が何回か行なわれた後、教師信号変換
器４は誤認識の記録に基づき教師信号の変換を行なう。
たとえば、学習認識単位ｔ３１は担当外の入力信号に対
してｔ３２、ｔ３３よりも大きな値を出力しないが、ｔ
３１が最大値を出力すべき時にｔ３２またはｔ３３がｔ
３１よりも大きな値を出力することが多い場合、ｔ３１
が最大値を出力することが望ましいときに与えていた教
師信号を１よりも小さく０よりも大きい値（０．８な
ど）に変換し、他の学習認識単位に対しては０のまま変
換を行なわない。逆にｔ３１が誤認識しやすく、ｔ３１
の担当カテゴリーに誤認識されることが少ない場合には
ｔ３１に対する教師信号を１よりも大きい値（１．２な
ど）に変換し、他の学習認識単位に対しては０のまま変
換を行なわない。このように教師信号変換器を有する構
成では、学習認識装置の誤認識結果に基づいて教師信号
変換器が誤認識が少なくなるように教師信号を変更する
ことで、必要な学習の回数を削減し、学習の高速化を可
能とする。

【００４５】認識動作時には教師信号は使われないた
め、認識動作は第一の実施例を用いた場合と同様であ
る。

【００４６】以上説明したように、本発明による学習認
識装置は、分岐構造を有した多層の階層構造を構成し、
各経路選択単位の量子化器の出力に応じて、経路選択単
位同士の結合経路を切り換え、最上位層までの信号経路
を選択する。ここで経路出力統合器が余剰な信号経路を
統合し信号経路数を削減することで、学習・認識の高速
化およびメモリーの節約を可能とし、学習は最上位層の
学習認識単位に含まれる荷重のみを変更することにより
学習を行なうため、高速学習が可能である。

【００４７】また、しきい値学習器が適切なしきい値を
学習することで学習効率を高め、学習の繰り返し回数を
削減することができる。

【００４８】教師信号変換器を有する構成では、学習認
識装置の誤認識結果に基づいて教師信号変換器が誤認識
が少なくなるように教師信号を変更することで、必要な
学習の回数を削減し、学習の高速化を可能となる。

【００４９】なお、本発明の各手段は、コンピュータを
用いてソフトウェア的に実現し、あるいはそれら各機能
を有する専用のハード回路を用いて実現する事が出来
る。

【００５０】

【発明の効果】以上述べたところから明らかなように、
本発明の学習認識装置は、上記したように階層的に分岐
構造を有する学習認識装置の各階層の経路選択単位の信
号入力部に、対象物の特徴データを入力信号として入力
すると、各階層の経路選択単位は、量子化器の出力に応
じて、より上層との結合荷重を決定し、信号を上層へ伝
達する。ここで経路出力統合器が余剰な信号経路を統合
し信号経路数を削減することで、学習・認識の高速化お
よびメモリーの節約を可能とし、学習は最上位層の学習
認識単位に含まれる経路入力部と加算器との間の荷重の
みを変更することにより学習を行なうため、高速学習が
可能である。

【００５１】また、しきい値処理器が学習認識単位の出
力値を正規化し、最終層の出力値が上限値を有するよう
にする場合は、結合荷重及び学習認識単位の出力の学習
によるオーバーフローを防ぐことができる。

【００５２】また、しきい値学習器が適切なしきい値を
学習する場合は、学習効率を高め、学習の繰り返し回数
を削減することができる。

【００５３】また、複数の学習認識装置の出力結果を参
照する場合に、その出力の上限値を一致させる場合は、
各学習認識装置の出力をそのまま比較することができ、
複数の学習認識装置を同時に用いることで高速化が可能
となる。

【００５４】また、教師信号変換器を有する構成では、
学習認識装置の誤認識結果に基づいて教師信号変換器が
誤認識が少なくなるように教師信号を変更することで、
必要な学習の回数を削減し、学習の高速化を可能とする
ためその実用的効果は大きい。

【図面の簡単な説明】

【図１】本発明の学習認識装置の第一の実施例を示すブ
ロック図である。

【図２】上記学習認識装置に用いる経路選択単位の一実
施例を示すブロック図である。

【図３】上記学習認識装置に用いる学習認識単位の第一
の実施例を示すブロック図である。

【図４】上記学習認識装置に用いる学習認識単位の第二
の実施例を示すブロック図である。

【図５】上記学習認識装置の第二の実施例を示すブロッ
ク図である。

【図６】従来の学習認識装置の全体構成図である。

【図７】上記学習認識装置の出力信号算出部の構成図で
ある。

【図８】上記学習認識装置の出力信号算出部の多入力一
出力算出部の構成図である。

【図９】上記学習認識装置の出力信号算出部の多入力一
出力算出部のしきい値処理器の特性関数を示すグラフで
ある。

【符号の説明】

１教師信号入力部１ａ教師信号入力端子２量子化器２ａ量子化信号出力端子３ａ経路入力部３ａ０１〜３ａ０５０経路入力端子３ｂ経路荷重部３ｂ０荷重設定部３ｂ０１〜３ｂ０５０荷重３ｂ１学習器３ｂ１１誤差算出器３ｂ１２荷重値算出器３ｃ加算器３ｄしきい値処理器３ｄ１しきい値学習器３ｅ経路出力部３ｅ１経路出力端子３ｆ経路出力端子統合器３ｆ０１〜３ｆ０５経路出力端子統合器入力端子３ｆ１１〜３ｆ１５経路出力端子統合器出力端子３ｈ荷重入力部３ｇ荷重値出力端子４教師信号変換器５量子化信号入力部５ａ０１〜５ａ１０量子化信号入力端子１１信号入力部１１ａ信号入力端子ｑ，ｔ学習認識単位ｎ経路選択単位

───────────────────────────────────────────────────── フロントページの続き (72)発明者〆木泰治大阪府門真市大字門真1006番地松下電器産業株式会社内

Claims

【特許請求の範囲】

【請求項１】経路選択単位は、信号入力部と、前記信
号入力部からの入力信号を量子化する量子化器と、単一
または複数の経路入力端子を有する第１の経路入力部
と、単一または複数の経路出力端子を有する経路出力部
と、複数の前記経路出力端子を一つの経路出力端子に置
き換える経路出力統合器と、前記量子化器の量子化出力
に応じて、前記経路入力部と前記経路手段との間の経路
を選択する経路荷重部とを有し、学習認識単位は、教師信号を入力するための教師信号入
力部と、複数の経路入力端子を有する第２の経路入力部
と、前記第２の経路入力部からの入力に対して重み付け
を行なう荷重と、前記荷重からの出力を加算する加算器
と、その加算された値及び前記教師信号に直接又は間接
的に基づいて、前記荷重の値を決定する学習器とを有
し、前記経路選択単位を複数個、前記経路出力統合器の出力
端子と前記第１の経路入力部とを組合せながら、階層的
に組み合わせて複数の分岐構造を構成し、その上層に、
前記学習認識単位を、前記経路出力統合器の出力端子と
前記第２の経路入力部とを組合せながら、配置してなる
ことを特徴とする学習認識装置。
【請求項２】経路選択単位の前記経路出力統合器は、
一つ上の階層に含まれる荷重の値を用いて経路出力端子
の置き換えを行なうことを特徴とする請求項１記載の学
習認識装置。
【請求項３】学習器は、前記教師信号と前記学習認識
単位の出力を用いて誤差信号を算出する誤差信号算出器
と、前記誤差信号算出器の誤差信号と前記量子化器の量
子化信号を用いて前記荷重の値を決定する荷重算出器を
有することを特徴とする請求項１又は、２記載の学習認
識装置。
【請求項４】学習認識単位は、前記加算器の出力をし
きい値処理するしきい値処理器と、前記しきい値処理器
のしきい値を学習するしきい値学習器とを有することを
特徴とする請求項１〜３記載のいずれかの学習認識装
置。
【請求項５】学習認識単位は、前記学習認識単位の出
力と前記教師信号を用いて教師信号の強度変換を行なう
教師信号変換器を有することを特徴とする請求項１〜４
記載のいずれかの学習認識装置。