JPH04336370A

JPH04336370A - 人工的神経回路網処理装置

Info

Publication number: JPH04336370A
Application number: JP10702091A
Authority: JP
Inventors: Setsu Suzuoka; 節鈴岡
Original assignee: Toshiba Corp
Current assignee: Toshiba Corp
Priority date: 1991-05-13
Filing date: 1991-05-13
Publication date: 1992-11-24

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】

［発明の目的］

【０００１】

【産業上の利用分野】本発明は、人工的神経回路網を用
いた最適化や連想を効率的に行う人工的神経回路網処理
装置に関する。

【０００２】

【従来の技術】近年、複数の人工的ニューロンを用いて
人工的神経回路網を構築し、種々の処理を実行すること
が試みられている。例えば、一般的な神経回路網モデル
であるホップフィールド（Ｈｏｐｆｉｅｌｄ）モデルで
は、複数の人工的ニューロンが重み付きリンクを介して
結合されている。そして、ｊ番目の人工的ニューロンの
出力値Ｏｊ　を次のように計算することで、連想を行う
。

【０００３】

【数１】

【０００４】すなわち、人工的ニューロンｊにリンクを
介して接続された人工的ニューロンｉの出力値Ｏｉ　に
それぞれのリンクの重みＷｊｉをかけたものを全てのｉ
についてたし合わせ、さらに人工的ニューロンｊ固有の
外部入力Ｉｊ　を加えたものを、人工的ニューロンｊへ
の入力値μｊ　とする。この入力値μｊ　に、上限下限
を持つ単調増加関数ｆを施して、人工的ニューロンｊの
出力値Ｏｊ　を得る。

【０００５】以上を全てのｊについて行って１サイクル
の神経回路網計算とする。さらに、以上の手続きを、全
ての人工的ニューロンの出力値が変化しなくなるまで反
復する。

【０００６】ここで問題となるのは、全ての出力値が変
化しなくなるまでの計算量が多いという点である。計算
量を減らす工夫として、本発明者は既に特願平１−１９
４０６１号にて差分計算を用いる方法を提案した。これ
によれば、人工的ニューロンの出力値がＯｊ　ｏｌｄ　
からＯｊ　ｎｅｗ　へ変化した場合に、人工的ニューロ
ンｊとリンクで接続されている全人工的ニューロンｉに
ついて、入力値μｉ　および出力値Ｏｉ　を次のように
更新する。 μｉ　←μｉ　＋２Ｗｉｊ（Ｏｊ　ｎｅｗ　−Ｏｊ　ｏ
ｌｄ　）Ｏｉ　ｎｅｗ　←ｆ（μｉ　）そして、全てのμｉ　，Ｏｉ　ｎｅｗ　を更新し終えた
後に、Ｏｊ　ｏｌｄ　←Ｏｊ　ｎｅｗとする。（Ｏｊ　ｎｅｗ　−Ｏｊ　ｏｌｄ　）の絶対値
が比較的大きいｊを選び、以上を繰り返す。そして、全
てのｊについて｜Ｏｊ　ｎｅｗ　−Ｏｊ　ｏｌｄ　｜≦ε（εはある正
定数）になったならば、処理を終了する。

【０００７】この方法であれば、変化しない部分を再計
算することはないので効果的な処理を行うことができる
が、この方法が有効であるのは、外部入力Ｉｊ　が一定
値の場合（外乱がない場合）に限られる。

【０００８】ところで、このような人工的神経回路網を
応用した処理の一つとして、本発明者が特願平１−１５
７１５９号にて提案した、神経回路網の連想機能を用い
た仮名漢字変換技術がある。ここでは、人工的ニューロ
ンはそれぞれ語句を表し、人工的ニューロンの出力値は
現在入力中の文章におけるその語句の現れ易さを表し、
人工的ニューロン間のリンクの重みは対応する語句同士
の関係の強さ（同じ文脈で共に現れる度合い）を表して
いる。入力文章中に既に現れた語句に対応する人工的ニ
ューロンのＩｊ　を大きく（ユーザが選択した語句に対
応する人工的ニューロンのＩｊ　を大きく）して、上述
した連想を行うことにより、入力文章の分野に関係が深
くこれから入力されそうな語句に対応する人工的ニュー
ロンの出力値は大きく、そうでない語句に対応する人工
的ニューロンの出力値は小さくなる。この神経回路網を
用いて仮名漢字変換を行う際には、入力された仮名に対
する変換候補となる語句に対応する人工的ニューロンの
出力値を考慮して、変換候補の優先順位を決定し、この
順位に従って変換候補の語句を出力する。

【０００９】ここで、語句の数は全部で数万個というオ
ーダであっても、現在入力中の文章に関係のある語句は
高々数千個である。つまり、わずか数％の人工的ニュー
ロンのみが大きな出力値を持ち、残りのほとんどの人工
的ニューロンが小さな出力値を持つという状態になって
いる。なおかつ、出力値の小さい人工的ニューロンに対
応する語句は、現在入力中の文章に出現する可能性が低
いから、変換候補としての優先順位が低い即ち人工的ニ
ューロンの出力値が小さいということにのみ意味があり
、出力値の具体的な値自体はあまり意味を持たない。なぜなら、現在入力中の文章に対して注目する語句がど
の程度関係が深いかを表す値（大きな出力値の値）が重
要なのであって、現在入力中の文章に関係のない語句の
うちいずれがより関係ないかということ（小さな出力値
の値）は全く重要でないからである。

【００１０】つまり、上記のような神経回路網の連想機
能を用いた仮名漢字変換においては、文章が入力され続
けている限り、ユーザの選択によって外部入力Ｉｊ　は
変化し続けるため、差分計算法の奏する効果が小さいと
いう問題があった。そのうえ、神経回路網計算の大部分
は、多数を占める出力値の小さい人工的ニューロンのた
めのものであって、しかも小さい出力値の値自体にはあ
まり意味がないのであるから、効果の少ない計算のため
に多くの時間を浪費しているという問題があった。

【００１１】

【発明が解決しようとする課題】このように従来の人工
的神経回路網処理装置にあっては、人工的ニューロンの
出力値の分布に偏りがあり、かつ、多くの人工的ニュー
ロンの出力値が分布している方の出力値の値自体があま
り意味を持たない場合には、非効率的な処理が多いため
に処理が遅くなるという問題があった。

【００１２】本発明は以上の点を鑑みてなされたもので
、その目的とするところは、前述したような場合に高速
に処理を行うことのできる人工的神経回路網処理装置を
提供することにある。［発明の構成］

【００１３】

【課題を解決するための手段】本発明に係る人工的神経
回路網処理装置は、入力値と出力値とを持つ人工的ニュ
ーロンを複数個接続して構成される人工的神経回路網と
、この人工的神経回路網から、出力値が第１の所定値以
上であるか、あるいは、入力値が第２の所定値以上であ
る人工的ニューロンを選択する選択手段と、この選択手
段により選択された人工的ニューロンに限って、以下に
記す処理を行う手段を具備したことを特徴とするもので
ある。

【００１４】その処理とは、前記の人工的ニューロンの
入力値に関数を作用させて新たな出力値を求め、この結
果出力値の変化した人工的ニューロンに接続された人工
的ニューロンの入力値を前記の新たな出力値に基づいて
更新するものである。この処理の後、上述した条件を満
たす人工的ニューロンについて再度上記の処理を行うこ
とを繰り返す。

【００１５】前記第１の所定値は、出力値が前記第１の
所定値以上の人工的ニューロンの数が、出力値が前記第
１の所定値より小さい人工的ニューロンの数よりも少な
いように定めたものであり、前記第２の所定値は、前記
第１の所定値に前記第１の更新手段における関数の逆関
数を作用させて求められるものである。また、以上に述
べた構成要件のうち大小関係のみを全て逆転させたもの
も、本発明に含まれる。

【００１６】

【作用】本発明によれば、人工的ニューロンを選択して
処理を行うため、全ての人工的ニューロンについて処理
を行う装置に比べて、計算量を減らすことができる。特
に、本発明は、出力値分布に偏りがある人工的神経回路
網を処理する場合に威力を発揮する。

【００１７】出力値分布に偏りがある場合のうち、出力
値が大きい人工的ニューロンの数が、出力値が小さい人
工的ニューロンの数より少ない場合を例にとり説明する
。この場合、人工的ニューロンの出力値が比較的大きい
場合にはその値の意味は大きいが、出力値が比較的小さ
い場合には値が小さいということだけに意味がありその
具体的値には意味がない。

【００１８】本発明によれば、出力値が第１の所定値よ
り小さい人工的ニューロンの新たな出力値の計算、及び
、この計算により変化した出力値による他の人工的ニュ
ーロンの入力値の変化の計算を省略する。この省略は、
本処理装置により処理された人工的神経回路網における
出力値を参照するうえで何ら影響がない。しかも、出力
値が第１の所定値より小さい人工的ニューロンが全体に
占める割合は大きいので、計算量を大きく削減すること
ができる。

【００１９】このことから、第１の所定値について次の
ように言うこともできる。上記のように、出力値が大き
い人工的ニューロンの数が、出力値が小さい人工的ニュ
ーロンの数より少なく、出力値が第１の所定値より小さ
い人工的ニューロンについての計算を行わないとするな
らば、第１の所定値を大きく設定すればするほど計算量
は削減できるが、第１の所定値を過度に大きくすると、
計算を省略することにより出力値を参照するうえで無視
できない誤差が現れてくる。このトレードオフを考慮し
て第１の所定値を設定すればよい。

【００２０】また、本発明によれば、外乱（人工的ニュ
ーロンへの外部入力）により人工的神経回路網の状態が
安定しないとき、計算量を減らして処理を高速化し、外
界の変化にすばやく対応することができる。

【００２１】

【実施例】以下、図面を参照しながら本発明の一実施例
に係る人工的神経回路網処理装置について説明する。図
１は人工的神経回路網処理装置の構成例を示す図、図２
はこの装置の処理の流れを表すフロー図である。

【００２２】図１において、神経回路網部は、人工的ニ
ューロン（図３にその概念図を示す）をリンクにより無
階層に相互結合して構成されたもので、その連想（出力
値の変更）は、数１（あるいは数２）に従って行われる
。図１の神経回路網部１内の○は人工的ニューロンを、
−はリンクを表す。

【００２３】図１の人工的神経回路網処理装置は、外部
入力発生部２より、神経回路網部１の人工的ニューロン
に外部入力を与え、人工的神経回路網の状態（各人工的
ニューロンの出力値）を変化させて、出力値参照部３に
おいて出力値を各人工的ニューロンの出力値を参照して
、この参照結果を様々な装置に提供するものである。提供先の装置としては、後述する仮名漢字変換装置や認
識装置等が挙げられる。図２において、Ａ１〜Ａ４は人
工的ニューロンの出力値（Ｏｊ　）を初期化し、Ａ５〜
Ａ８は人工的ニューロンへの入力値（μｊ　）を初期化
して、Ａ９〜Ａ２１は人工的神経回路網の処理を行うこ
とを示している。

【００２４】ニューロン取出部４では、処理を行う人工
的ニューロンｊの出力値を神経回路網部１より取り出す
。ｊは人工的ニューロンの番号を示す変数であり、ｊ＝
１（Ａ９）から、ｊを１つずつ増やしながら（Ａ２０）
、全人工的ニューロンについて（Ａ２１）以下の処理を
施す。Ａ１２〜Ａ１９の処理をするか否かを、人工的ニ
ューロンの現在の出力値ｆ（μｊ　）、もしくは、現在
の出力値に変更される直前の（以降「前回の」と呼ぶ）
出力値Ｏｊ　が、しきい値ＯＴ　以上であるか否かで判
定する。ところで、現在の出力値ｆ（μｊ　）とＯＴ　
とを直接比較するためには、ｆ（μｊ　）を計算する必
要があるが、関数ｆは単調増加関数であるため、以下の
ことが成り立つ。ＯＴ　＝ｆ（μＴ　）のとき μｊ　＜μＴ　　　ならば　　ｆ（μｊ　）＜ＯＴ　　
　　　　　　　　　　　　μｊ　≧μＴ　　　ならば　
　ｆ（μｊ　）≧ＯＴよって、ｆ（μｊ　）とＯＴ　と
を直接比較しなくても、μｊ　とμＴ　とを比較すれば
よい。こうすると関数ｆを計算するコストが減る。

【００２５】前回の出力値Ｏｊ　を出力値検出部５で検
出し、これが出力しきい値発生部９で発生されたＯＴ　
以上であるかを出力値比較部７にて調べる（Ａ１０）。また、入力値μｊ　を入力値検出部６で検出し、これが
入力しきい値発生部１０で発生されたμＴ　以上である
かを入力値比較部８にて調べる（Ａ１１）。Ａ１１は、
現在の出力値ｆ（μｊ　）がＯＴ　以上であるというこ
とと同意である。Ａ１０もしくはＡ１１という条件を満
たしている人工的ニューロンに限って（以上を行う図１
の１００がニューロン選択手段である）、新しい出力値
ｆ（μｊ　）を出力値計算部１１にて計算し、変数ｏｕ
ｔに代入する（Ａ１２）。出力値の変化量（Ｏｊ　とｏ
ｕｔとの差の絶対値）が、ユーザによって設定された誤
差量εよりも小さい場合には、Ａ１５〜Ａ１９の処理を
行なわない（Ａ１３）。Ａ１５〜Ａ１９の処理を行う場
合には、出力値が変化したことを表すフラグｃｈａｎｇ
ｅを１にする（Ａ１４）。人工的ニューロンｊとリンク
で接続されている全ての人工的ニューロンｉをニューロ
ン補助取出部１２にて取り出し、人工的ニューロンｉへ
の入力値μｉを、３ページの上式に示した差分計算によ
り更新する（Ａ１５〜Ａ１８）。この入力値μｉ　の計
算は、出力値計算部１１からのｆ（μｊ　）（あるいは
ｏｕｔ）と、リンク重み検出部１３からのＷｊｉとを用
いて、入力値計算部１４にて行われる。計算された新し
いμｉ　が、ニューロン補助指定部１６を通して神経回
路網部１に送られることにより、人工的ニューロンｉへ
の入力値μｉ　が更新される。その後、人工的ニューロ
ンｊの出力値Ｏｊ　を新しい値ｏｕｔに更新する（Ａ１
９）。これは、新しい出力値ｏｕｔが、ニューロン指定
部１５を通して神経回路網部１に送られることにより実
現される。Ａ９〜Ａ２１の人工的神経回路網処理計算を
、出力値の変化した人工的ニューロンがなくなるまで（
Ａ２２）反復して行う。

【００２６】次に、本発明の具体的な応用例として、人
工的神経回路網の連想機能を用いた仮名漢字変換技術に
ついて説明する。日本語には読みが同じである語や句が
多く存在するので、日本語ワードプロセッサにおいては
同音語選択（仮名漢字変換候補の提示）が重要な技術で
ある。例えば、特願平１−１５７１５９号にて提案した
仮名漢字変換装置によれば、語や句の間の関係を表すネ
ットワークを用いることにより、文脈に即した適切や語
句を仮名漢字変換候補として選び出すことができる。語
や句の間の関係を表すネットワークの一例を図４の下部
に示す。各人工的ニューロン（以降これをノードと呼ぶ
）はそれぞれ語（句）に対応し、双方向性の重み付きリ
ンクがノード間を接続している。このリンクの重みはノ
ードに対応する語（句）の間の意味的な近さを表し、重
みが大きいほどそのリンクでつながれている２つの語（
句）の関係が深いものとする。

【００２７】この語ネットワークを、前述したＨｏｐｆ
ｉｅｌｄモデル型の神経回路網として動作させて連想を
行う。ユーザがある語（仮名漢字変換候補）を選択（受
理）すると、その語に対応するノードｊに正の外部入力
Ｉｊ　を与えて、このノードの出力値を大きくする（ノ
ードを興奮させる）。さらに、ユーザが拒否した語に対
応するノードｊに負の外部入力Ｉｊ　を与えて、このノ
ードの出力値を小さくするようにしてもよい。このノー
ドの出力値の上昇あるいは下降が、数１に従ってリンク
を伝搬し、入力中の文脈に沿った語に対応するノードが
興奮している状態が作り出される。

【００２８】ユーザがこの仮名漢字変換装置に仮名（あ
るいは語句の読み）を入力すると、装置は、入力された
読みに属する同音語に対応するノードの出力値を、上記
の語ネットワークから検出する。そして、ノードの出力
値の大きい順に、そのノードに対応する語句を仮名漢字
変換候補として出力・提示する。

【００２９】上記の仮名漢字変換装置の例における語ネ
ットワークでは、入力中の文章の話題に属する語句に対
応するノードの出力値のみが大きく値を持ち、一般に、
ある話題に関係する語句の数は関係しない語句の数に比
べて遥かに少ない。つまり、この語ネットワーク中に、
ノードは語句に対応した数だけ（数万程度）あるが、そ
の中で出力値が大きいもの（例えば、正であるもの）は
高々数％にすぎない。しかも、この場合には、話題に関
係する即ち出力値の大きいノードのみが重要であり、出
力値の小さい（例えば、負の）ノードの出力値の値自体
には意味がない。

【００３０】そこで、この仮名漢字変換装置における語
ネットワークの連想に、本実施例に係る人工的神経回路
網処理方式を応用することができる。このときの処理の
流れは、図２に多少変更を加えた図５のようなフロー図
で示される。

【００３１】まず、Ａ４１でノードの出力値（Ｏｊ　）
を初期化し、Ａ４３でノードへの入力値（μｊ　）を初
期化するのは、図２のＡ１〜Ａ８と同様である。Ａ４４
〜Ａ６０を１サイクルとして、語ネットワーク（あるい
は人工的神経回路網）の処理を行う。

【００３２】図２ではＩｊ　が固定の場合の本方式を示
したが、Ｉｊ　が変動する場合には以下のような操作を
行う。Ｉｊ　が変動することは、連想すべきパターン（
ネットワークの状態）が時々刻々と変化するということ
である。ｊはノードの番号を示す変数であり、ｊ＝１〜
Ｎの全ノードについて、まず、Ｉｊ　が変化したか否か
を判定する（Ａ４５）。ユーザがノードに対応する語句
を受理／拒否することによりＩｊ　の変動は、Ａ４４〜
Ａ６０のどのタイミングでも起こる可能性があるが、こ
のＩｊ　の変動をいったんバッファに記憶しておき、Ａ
４５で直前の１サイクル間にＩｊ　に変化があったかど
うかをバッファから検出する。変化があった場合には、
入力値μｊ　にＩｊ　の変化量を加える。

【００３３】Ａ４９〜Ａ６０の処理は、図２のＡ９〜Ａ
２１と同様であるが、フラグｃｈａｎｇｅは必要ない。なぜなら、Ｉｊ　が固定の場合は出力値の変化したノー
ドがなくなったときに処理を終了したが、この場合には
仮名漢字変換を続ける限りＩｊは変化し続けるため、出
力値の変化したノードがなくなることはなく、Ａ４４〜
Ａ６０の処理が繰り返される。なお、この場合は、出力
値の大小を分けるしきい値ＯＴ　＝０、μＴ　＝０とす
ればよい。

【００３４】ここで、しきい値ＯＴ　（第１の所定値）
について、さらに説明する。例えば、人工的ニューロン
の出力値分布がおおむね図６のような形になるように神
経回路網が構成されていたとする（関数ｆの上限下限は
各々１，−１である）。この場合、ＯＴ　＝０とすれば
所望の効果が得られるが、ＯＴ　を例えば−０．５〜０
．５の間の任意の値に設定しても、同様の効果が得られ
る。ＯＴ　を−１に近づければ出力値計算の全体の精度
が上がり、ＯＴ　を１に近づければ計算量削減の効果が
大きくなることは自明である。また、ここでＯＴ　＝−
１とすることは本発明の趣旨をはずれる。

【００３５】また、装置が、入力された読みに対する仮
名漢字変換候補を出力するために、その読みに属する同
音語に対応するノードの出力値を検出するタイミングは
、図４中に示されたタイミング１あるいはタイミング２
とする。本来、出力値の検出は、全てのノードについて
出力値の更新（１サイクル）が終了した時点であるタイ
ミング１になされるよう割込み制御をすることが望まし
いが、これでは応答時間が遅い場合には、あるノードに
ついて出力値の更新が終了した時点であるタイミング２
で行ってもよい。

【００３６】ここで、図４を用いて以上説明した仮名漢
字変換の具体例について述べる。ここでは、「クロック
の立ち上がりにおいて、この信号はプロセッサに取り込
まれる。」までが既に入力され、正しくは変換されてい
るものとする。ユーザが「クロック」、「信号」、「プ
ロセッサ」という語の仮名漢字変換を受理したことによ
り、図１の外部入力発生部２を介してそれらに対応する
ノードが強制的に興奮させられている。更にそれらのノ
ードに近いいくつかのノードにも図４のアルゴリズムに
従って興奮が伝播し、興奮したノードの集団（図中の領
域３０のノード群）が形成されている。これが、現在入
力されている文章の分野を表現している。次に「このよ
うにどうきして…」の「どうき」を仮名漢字変換するこ
とになる。「どうき」という読みを持つ語が３つ（「同
期」、「動機」、「動悸」）あるものとする。ここでは
計算機のハードウェア関連の文章が選択されているので
、上述したように、それに関係する語に対応するノード
の出力値が高くなっている。例え、「同期」という語が
今まで同一文章中で出現していなくても、計算機のハー
ドウェア関係の語がいくつか選択されているので、図４
のアルゴリズムに従って出力値の上昇が伝播され「同期
」に対応するノードの出力値も大きくなっているはずで
ある。そこで、「どうき」を仮字漢字変換する旨の指示
を受けると、図１の出力値参照部３が図４中のタイミン
グ１あるいは２で「どうき」という読みを持つ３つの語
に対応するノードの出力値を比較し、その中で最も出力
値の大きい「同期」を第一候補として提示する。

【００３７】なお、特願平２−０８５６４９号に記載さ
れているように、出力値分布が一方に偏っている場合に
は、多数派を占めている方、上記の例では出力値の小さ
い方の人工的ニューロンの影響を小さくした方が、連想
がうまく行える。出力値の小さい（負の）人工的ニュー
ロンの影響を小さくするために、具体的には、人工的ニ
ューロンｊの入力値に施す関数ｆが、任意のｘ＞０の大部分の値についてｆ（ｘ）＞−ｆ（−ｘ）であるように、ｆを設定している。ところが、本発明に
用いれば、出力値の小さい人工的ニューロンについては
計算を行わないから、上記のような設定を行わなくても
、出力値の小さい人工的ニューロンの影響は小さくなり
、連想がうまく行える。また、人工的ニューロンの出力
値を計算する際に、ネットワークの慣性を考慮して、数
２のような連想を行う場合にも本発明を適用できる。

【００３８】

【数２】

【００３９】なお、本発明は、上述した仮名漢字変換装
置のみでなく、例えば、本発明者が特願平３−３１２５
１号にて提案した認識装置等にも応用できる。これは、
上述したような人工的神経回路網を用いて、入力した文
字や音声や画像等の情報をシンボルとして認識するもの
である。まず、入力した情報と近い複数のシンボルを候
補とし、次に、この候補が入力した情報とどの程度似て
いるかを示す確信度と、上記の人工的神経回路網内のこ
の候補に対応するノードの出力値とに基づいて、最適な
シンボルを選ぶ。この場合の人工的神経回路網において
も、入力された情報の文脈に即したシンボルに対応する
ノードのみが大きな値を持ち、一般に、ある文脈で出現
する可能性の高いシンボルの数はこの文脈と関係しない
シンボルの数に比べて遥かに少ないという特徴があるか
ら、本方式がそのまま適用できる。

【００４０】

【発明の効果】以上説明したように、本発明に係る人工
的神経回路網処理装置によれば、人工的ニューロンの出
力値の分布が一方に偏っている場合に、多数脈を占める
出力値を持つ人工的ニューロンについては計算を省略し
て、高速な処理を行うことができる。特に、連想すべき
パターンが変化するような場合には、高速な処理により
連想の追従性が良くなる。

【図面の簡単な説明】

【図１】　　本実施例に係る人工的神経回路網処理装置
の構成例を表す図。

【図２】　　本実施例に係る人工的神経回路網処理方式
を表すフロー図。

【図３】　　本実施例における人工的神経回路網の構成
要素である人工的ニューロンを模式的に表す図。

【図４】　　本実施例の応用例である仮名漢字変換の仕
組みを表す図。

【図５】　　本実施例方式（図２）を仮名漢字変換に応
用した場合の処理の流れを表すフロー図。

【図６】　　人工的ニューロンの出力値分布の一例を示
す図。

【符号の説明】

１…神経回路網部２…外部入力発生部３…出力値参照部４…ニューロン取出部５…出力値検出部６…入力値検出部７…出力値比較部８…入力値比較部９…出力しきい値発生部１０…入力しきい値発生部１１…出力値計算部１２…ニューロン補助取出部１３…リンク重み検出部１４…入力値計算部１５…ニューロン指定部１６…ニューロン補助指定部１００…ニューロン選択手段

Claims

【特許請求の範囲】

【請求項１】　　入力値と出力値とを持つ人工的ニュー
ロンを複数個接続して構成される人工的神経回路網と、
この人工的神経回路網から、出力値が第１の所定値以上
であるか、あるいは、入力値が第２の所定値以上である
人工的ニューロンを選択する選択手段と、この選択手段
により選択された人工的ニューロンの入力値に関数を作
用させて新たな出力値を求める第１の更新手段と、この
第１の更新手段で求められた出力値に基づいて、前記選
択手段により選択された人工的ニューロンに接続された
人工的ニューロンの入力値を更新する第２の更新手段と
を具備したことを特徴とする人工的神経回路網処理装置
。
【請求項２】　　前記第１の所定値は、出力値が前記第
１の所定値以上の人工的ニューロンの数が、出力値が前
記第１の所定値より小さい人工的ニューロンの数よりも
少ないように定めたものであり、前記第２の所定値は、
前記第１の所定値に前記第１の更新手段における関数の
逆関数を作用させて求められるものであることを特徴と
する請求項１記載の人工的神経回路網処理装置。
【請求項３】　　入力値と出力値とを持つ人工的ニュー
ロンを複数個接続して構成される人工的神経回路網と、
この人工的神経回路網から、出力値が第１の所定値以下
であるか、あるいは、入力が第２の所定値以下である人
工的ニューロンを選択する選択手段と、この選択手段に
より選択された人工的ニューロンの入力値に関数を作用
させて新たな出力値を求める第１の更新手段と、この第
１の更新手段で求められた出力値に基づいて、前記選択
手段により選択された人工的ニューロンに接続された人
工的ニューロンの入力値を更新する第２の更新手段とを
具備したことを特徴とする人工的神経回路網処理装置。
【請求項４】　　前記第１の所定値は、出力値が前記第
１の所定値以下の人工的ニューロンの数が、出力値が前
記第１の所定値より大きい人工的ニューロンの数よりも
少ないように定めたものであり、前記第２の所定値は、
前記第１の所定値に前記第１の更新手段における関数の
逆関数を作用させて求められるものであることを特徴と
する請求項３記載の人工的神経回路網処理装置。