JPH06274660A

JPH06274660A - 認識又は診断方法

Info

Publication number: JPH06274660A
Application number: JP5058328A
Authority: JP
Inventors: Isao Takahashi; 高橋　　功; Fumimasa Endo; 奎将遠藤; Tokio Yamagiwa; 時生山極
Original assignee: Hitachi Ltd
Current assignee: Hitachi Ltd
Priority date: 1993-03-18
Filing date: 1993-03-18
Publication date: 1994-09-30
Also published as: EP0616291A3; EP0616291A2

Abstract

(57)【要約】【目的】ニューラルネットワークの構成及び結合係数を
解析的に求めるとともに、入力データのばらつきも考慮
でき、能率が良く、診断時の正解率も高い、認識，診断
方法を提供する。【構成】本発明は、入力の総和の大きい順に、各ケース
の入力総和と教師データの関係を表にし、総和最大の入
力に対する教師データの値とその表の教師データの変化
の回数に着目する。これにより、ニューラルネットワー
クの構成（中間層の層数，そのニューロン数）が定ま
り、各結合係数はその表を用いて解析的に計算できる。【効果】計算時間が短く、規模によらず精度の高い診断
ができるという効果がある。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、例えば、ガス絶縁開閉
器（GIS (Gas Insulated Switchgear)）や変圧器等、電
力回路の各種の構成要素の過去の運転情報を利用して、
現在の使用状態の異常の有無の診断をするような、主と
してニューラルネットワークを利用した認識又は診断方
法に関する。これらは各種の工学分野のほかに、医療分
野はもちろんのこと、さらに、一般には各種の物理，化
学，生物現象等の認識や診断等にも利用できる。

【０００２】

【従来の技術】従来、特開平2−297074 号公報では、ニ
ューラルネットワークを用いて設備の異常を診断する方
法が提案されている。その方法は、予め多層構造を有す
るニューラルネットワークの入力層に、各種設備の状態
を入力して学習させておき、新たな諸設備の状態が入力
された場合、先の学習結果に基づいてその設備が正常で
あるか否かを判別し、異常であると判断したときは、そ
の原因を推定するものである。

【０００３】また、特開平2−272326 号公報では、回転
機の機械的な振動等，音響的振動、一般に電気的振動等
に関して、詳細な記述がなされている。

【０００４】更にまた、特開平2−100757 号公報では、
並列ニューラルネットワークの学習方式について提案さ
れているが、この中で、学習法として、逆伝搬（バック
プロパゲーション）法が有効になりつつあるが、従来の
方式では誤差を極小にする点しか見当らず、一度局所的
な極小に落ちこむと学習が進まなくなること、学習する
データの個数が多くなると、学習の精度が非常に落ちて
しまう等の欠点が指摘され、その改善案として、一つ以
上のニューラルネットワークを並列に接続して順次学習
させることにより、学習の効率と精度をあげる案が提案
されている。

【０００５】その他、本技術に類似するものとして、米
国特許5023045号，特開平2−206721号公報，特開平4−1
20479 号公報，特開平3−201079 号公報，特開平3−092
795号公報がある。

【０００６】

【発明が解決しようとする課題】図２は、ニューラルネ
ットワークの従来例の一例を示す。入力層と出力層の間
に、任意の層数の中間層がある(図示は一層の例)。入力
層には、Ｘ₁，Ｘ₂，Ｘ₃…Ｘ_nが入力される。図２で
は、そのほかに、ニューロンからの出力調整用に入力の
一つとして常に１も入力される。これらの入力に重みＷ
₁，Ｗ₂，Ｗ₃…Ｗ_n，Ｗ_n+1を乗じた値を、例えば、中間
層の第一のニューロンへの入力Ｕ₁とする。そのニュー
ロンからの出力をＶ₁とする。Ｕ₁，Ｖ₁は、例えば、表
１の(数１），(数２)で表わされる。

【０００７】

【表１】

【０００８】他の中間層ニューロンや出力層ニューロン
の入力や出力に関しても、一般には重みの値は変わる
が、同様な計算式が成り立つ。特に、各中間層のいずれ
か１つ(図示したものでは最下段のハッチングしたもの)
だけは、出力調整用の入力１だけに結合し、あらかじめ
出力が１になるように結合係数が与えられている。

【０００９】このような従来のニューラルネットワーク
では、学習という操作が不可欠である。学習とは、ある
入力データを入力したときに、そのデータに対応してあ
らかじめ定めた教師データと称するデータに近似した計
算値が出力層から出力されるように、各ニューロン間の
結合係数を、繰り返し計算によって求めることをいう。

【００１０】例えば、教師データと計算出力の差の自乗
の 0.5倍を誤差として、全出力，全ケースについて合計
し、これが小さくなるように、少しずつ結合係数を修正
する計算を繰り返すことを言う。学習が良好に進行すれ
ば、誤差は小さくなるが、場合によっては、この誤差が
小さくならず、多数回学習しても、充分な精度で計算出
力が得られない場合もあり、このような場合には、局所
的な極小値（local minimum ）に陥った等といわれる
こともある。この場合には、どのように多数回学習して
も、その極小値から抜け出すことができず、絶対に適切
な結合係数は得られない。また、仮に計算出力が望まし
い値に収束する場合でも、多数回の学習には、ニューラ
ルネットワークの規模や教師データによっては、非常に
長い時間(例えば、数時間以上)を要することもある。ま
た、従来のニューラルネットワークでは、最適な中間層
の層数やそのニューロン数を決めるには、カット・アン
ド・トライが必要で、能率が悪く、改善が望まれてい
た。特に、未学習データに対する診断精度を高めたいと
いう強い要求がある。

【００１１】本発明の目的は、上記問題点を解決するも
のであって汎用化能力の高い方法を提供するものであ
る。

【００１２】

【課題を解決するための手段】従来、ニューロンの結合
係数を入力データと教師データから、解析的に求める方
法が知られていなかったが、最近、筆者は以下に詳細を
説明するごとく、各ニューロンの結合係数を解析的に求
める方法を見出したので、これを利用する。

【００１３】また、繰り返し学習により結合係数を求め
る場合でも、前記の解析的に結合係数を求める方法を、
例えば中間層の層数やそのニューロン数、あるいは各部
の結合係数相互間に関して明らかになった事項などを部
分的に利用する。更に次のような手段も用いる。

【００１４】（１）後に詳細を述べるように、まず、出
来るだけ広い角度から、入力データの特徴を調べ、学習
データの型を何種類かに分類する。その後、その各々に
ついて、前記提案中の方式を適用する。

【００１５】（２）学習するデータについて、データの
ばらつきの範囲も考慮し、そのばらつきの範囲内の診断
データならば、必ず正解となるように考慮する。

【００１６】（３）診断した後に、もしそれに対する正
解が判明する場合には、診断データと正解とを、次の機
会の学習データと教師データとして扱えるようにする。

【００１７】（４）診断する場合に推論を、論理的によ
り厳密にする。

【００１８】本発明の認識又は診断方法は、入力層，中
間層及び出力層とを有するニューラルネットワークを用
いたものであって、前記入力層に入力される学習データ
をその特徴に着目して複数の型に分類し、前記各型毎に
学習データを入力し、各ケース毎について総和を求め、
前記出力層の各出力毎に対応する教師データと前記各総
和をその大きさの順に対応させ、前記表における総和が
最大のケースに対応する教師データと、教師データが変
化する前後の総和及びその教師データとに着目して各部
の結合係数を求めることを特徴とした。

【００１９】又、本発明は、入力層，中間層及び出力層
とを有するニューラルネットワークを用いた認識又は診
断方法に係り、前記入力層に入力される各ケース毎の入
力データの上限値及び下限値に着目して、各ケースにつ
いて各値毎に入力データを入力し、各ケース毎について
総和を求め、前記出力層の各出力毎に対応する教師デー
タと前記各総和をその大きさの順に対応させ、前記表に
おける総和が最大のケースに対応する教師データと、教
師データが変化する前後の総和及びその教師データとに
着目して各部の結合係数を求めることを特徴とした。

【００２０】ここで、前記入力層に入力される入力デー
タは、前記上限値及び下限値に同一の結合係数を乗じた
値であることが好ましい。

【００２１】又、本発明は、入力層，中間層及び出力層
とを有するニューラルネットワークを用いた認識又は診
断方法に係り、前記入力層に入力される特定ケースの入
力データの上限値及び下限値から求めた２つの入力和の
間に、前記特定ケースとは異なるケースから求めた入力
和が入らないように結合係数を選定し入力和を求め、前
記入力和を入力データとして入力し、各ケース毎につい
て入力総和を求め、前記出力層の各出力毎に対応する教
師データと前記各入力総和をその大きさの順に対応さ
せ、前記表における入力総和が最大のケースに対応する
教師データと、教師データが変化する前後の入力総和及
びその教師データとに着目して各部の結合係数を求める
ことを特徴とした。

【００２２】ここで、前記特定ケースの教師データと前
記特定ケースとは異なるケースの教師データとは異なる
ことが好ましい。

【００２３】また、前記中間層が２つあり、前記総和が
最大のケースに対応する教師データが０である場合に、
第２の中間層がＡＮＤ回路として、前記出力層がＯＲ回
路として機能する様に結合係数を選定したことが好まし
く、前記中間層が２つあり、前記総和が最大のケースに
対応する教師データが１である場合に、第２の中間層が
ＯＲ回路として、前記出力層がＡＮＤ回路として機能す
る様に結合係数を選定したことが好ましい。

【００２４】さらに、前記入力データは、各ケースにつ
いて、その逆数の数値を用い前記入力データの大小関係
を逆転させる演算を施すことが好ましい。

【００２５】さらに、ニューラルネットワークの主要部
を構成する結合係数の算出に逆伝搬の繰り返し学習法を
用いたことが好ましい。

【００２６】又、本発明の認識又は診断方法は、入力
層，中間層及び出力層とを有するニューラルネットワー
クを用いたものであって、前記入力層に各ケース毎に学
習データを入力し、各ケース毎について総和を求め、前
記出力層の各出力毎に対応する教師データと前記各総和
をその大きさの順に対応させ、前記表における総和が最
大のケースに対応する教師データと、教師データが変化
する前後の総和及びその教師データとに着目して各部の
結合係数を求め、診断用データが入力された際、前記学
習データとして指定したばらつきの範囲から外れた場合
にはその事実を表示することを特徴とした。

【００２７】教師データと各総和をその大きさの順に対
応させる方法として、教師データと共に各総和の大きさ
の順に表を作成することが好ましい。

【００２８】さらに、本発明の認識又は診断方法は、入
力層，中間層及び出力層とを有するニューラルネットワ
ークを用いたものであって、診断用データを入力する場
合、診断用データに対する正解が判明している時には、
診断後に診断用データと対応する正解を学習データの一
部として転送することを特徴とした。

【００２９】さらに、本発明の認識又は診断方法は、入
力層，中間層及び出力層とを有するニューラルネットワ
ークを用いたものであって、診断用データが入力された
後、診断用データに対する出力を計算し、その出力から
確からしい少なくとも一つの学習データを推定し、診断
用データとその学習データとを比較し、その結果を表示
することを特徴とした。

【００３０】ここで、前記推定された学習データがばら
つきを有するものであって、前記診断用データと前記ば
らつき範囲を有する学習データとを比較し、その結果を
表示することが好ましい。

【００３１】又、前記入力層の各入力データに乗ずる最
初の結合係数とその他の結合係数とを異なる値に選定し
たことが好ましい。

【００３２】さらに、本発明は、診断用データと学習デ
ータとを直接比較し、診断用データと特定ケースの学習
データとが全て一致しているか，部分的に一致している
か，又は全く一致していないかを分類する機能を有し、
その結果を表示すること、診断用データとばらつき範囲
を有する学習データとを直接比較し、診断用データが、
全て前記範囲内にあるか，部分的に前記範囲内にある
か、又は全く前記範囲内にないかを分類する機能を有
し、その結果を表示することを特徴とする。

【００３３】又、本発明は、ばらつき範囲を有する入力
データの上限値及び下限値に着目し、この上限値及び下
限値についてニューロンへの入力の計算式を用いて連立
方程式を作成し、この連立方程式を解くことにより結合
係数を求め、この結合係数に基づきニューラルネットワ
ークを利用することを特徴とする。

【００３４】又、本発明は、入力層，中間層及び出力層
を有し、各層間が結合係数によって重み付けされている
ニューラルネットワークを用いた認識又は診断方法に係
り、前記結合係数を決定するための教師データを自ら評
価する能力を有することを特徴とした。

【００３５】又、本発明は、複数の条件下で使用される
電気回路を有し、前記回路の診断をニューラルネットワ
ークを用いて行う装置であって、前記複数の条件を学習
データとして取り込み、前記ニューラルネットワークを
構成する結合係数を決定することを特徴とした。

【００３６】このような本発明を詳述すると、前記出力
層以外には常に１を出力する、しきい値修正用のニュー
ロンを各一個設け、各ケースの入力の総和を求め、出力
層の各出力毎に、前記の各総和の大きさの順に、対応す
る教師データとともに作表し、その表の教師データの変
化回数Ｎに着目し、第１の中間層として、前記教師デー
タの変化回数と等しい数のニューロンを前記の作表結果
に従って順次配置し、第２の中間層として、Ｎが奇数の
場合には、(Ｎ−１)／２個のニューロンを配置して、前
記第１の中間層の出力を２個ずつ順次入力させ、その各
出力を、前記第１の中間層の出力の残り１個と共に、出
力層の入力にし、また、Ｎが偶数の場合には、Ｎ／２個
のニューロンを配置して、前記第１の中間層の出力を２
個ずつ順次入力させ、その各出力を出力層の入力にし、
前記作表の入力総和最大のケースに対応する教師データ
と、教師データの変化する前後の入力総和と教師データ
とに着目して各部の結合係数を解析的に求めることを特
徴とした。

【００３７】又、各ケースの入力の総和の代わりに、各
入力に対してすべては等しくない任意の数Ｋｉ、例えば
乱数等を乗じた後に加算したことが好ましい。

【００３８】又、前記出力層以外には常に１を出力する
しきい値修正用のニューロンを各１個設け、各ケースの
入力と適当な結合係数の積からなる総和を求めることが
好ましい。

【００３９】又、各ケースの入力データのばらつきの上
限値，下限値に着目し、入力の上限値，下限値に適当な
同一の結合係数を乗じた入力和を、前記各ケースの入力
データについて作成し、入力和の大小関係について、あ
る特定のケースの入力の上限値，下限値とから求めた２
つの入力和の間に、他のケースから求めた入力和が１つ
も入らないないように、前記結合係数を選定して入力和
を求めることが好ましい。つまり、最初に決めたケース
における範囲に他のケースにおける和が入らないように
重みを決定する。

【００４０】又、各ケースの入力データのばらつきの上
限値，下限値に着目し、入力の上限値，下限値に適当な
同一の結合係数を乗じた入力和を、前記各ケースの入力
データについて作成し、入力和の大小関係について、あ
る特定のケースの入力の上限値，下限値とから求めた２
つの入力和の間に、前記特定のケースの教師データとは
異なる教師データを有する、他のケースから求めた入力
和が１つも入らないないように、前記結合係数を選定し
て入力和を求めることが好ましい。

【００４１】又、診断の事実は、映像表示手段における
表示画面或いは警報音等何らかの手段によって示される
ことが好ましい。

【００４２】又、診断用データと学習データとの比較
は、全て一致しているか，部分的に一致しているか，全
く一致していないかを比較することが好ましく、それら
を分類する機能を備えることがさらに好ましい。

【００４３】又、診断用データと学習データとの同一デ
ータ番号の数値を比較する手段として、行列を用いたこ
とが好ましい。

【００４４】

【作用】（１）解析的な方法を用いると、従来は必要で
あった繰り返し学習が不要になる。ニューラルネットワ
ークの最適な中間層の層数やそのニューロン数を予め決
定できる。また、前記の局所的な極小値の問題も生じな
い。従って、データを入力してから、ニューラルネット
ワークを利用する診断までの時間を短縮できる。入力デ
ータの数や、ケース数によらず、本法を適用できること
から、大規模なニューラルネットワークの各ニューロン
間の結合係数を短時間に、確実に求められる。

【００４５】（２）解析的な方法も併用した、繰り返し
学習を利用すれば、学習時間の大幅な短縮が可能であ
る。

【００４６】（３）計算回数が大幅に少なくなったの
で、例えば、経済的なbook型パソコン等でも、そのメモ
リ容量によっては認識，診断ができる可能性がある。

【００４７】（４）分類後のある特定の形状のデータに
着目すれば、複数に分類された場合には、当然、類似し
たデータとしては、比較すべきケース数が少なくなり、
比較が容易になるので、診断精度が向上する。

【００４８】（５）適切なばらつきを考慮して、その範
囲内のデータならば、必ず正解となり、当然、未学習デ
ータに対する、診断精度は飛躍的に高まる。

【００４９】（６）診断結果を出した場合、正しい回答
がわかれば、診断データとその正解を次の機会の学習デ
ータとし得る如く構成するので、当然、診断精度が徐々
に向上していく。

【００５０】（７）診断を論理的に、より厳密にするこ
とによって、診断の精度を一層向上させることができ
る。

【００５１】

【実施例】本発明に関する説明では、入力は０〜１の任
意の数値，教師データは０または１とする。また、出力
が複数ある場合には、出力の一つ一つについて下記のよ
うに取り扱う。

【００５２】まず、各入力に対する結合係数Ｗ₁，Ｗ₂，
Ｗ₃…Ｗ_nは、極めてまれな例外はあるが、ほとんど大部
分は、次式に示すように互いに等しいとおいて支障のな
いことを見出した。(例外については、後に言及する)。

【００５３】Ｗ₁＝Ｗ₂＝Ｗ₃…＝Ｗ_n…(数３) しきい値修正用の入力１に対する重みＷ_n+1は、一般に
は別の値をとる。

【００５４】(数３)を考えると、各ケース毎に入力の総
和を求めた後に、結合係数を乗じてよい。そこで、各ケ
ース毎に入力の総和を求め、例えば表２に示すように総
和の大きい順に並べ換え、対応する教師データと共に表
示する。

【００５５】

【表２】

【００５６】このような整理をして、種々考察した結
果、入力の総和最大のもの(これをＳ₁と表示する）の教
師データが０か１かによって、扱い方を変える必要があ
ることがわかった。ここでは、まず、Ｓ₁に対応する教
師データが０の場合から述べる。

【００５７】説明の便宜上、簡単な例から述べる。図３
は、縦軸に、表２のＳ₁，Ｓ₂，Ｓ₃,…，Ｓ_nを、横軸に
教師データを表示し、教師データが一度だけ変化した例
を示す。図３では、Ｓ₁，Ｓ₂の境界で教師データが変化
した場合を示しているが、当然、他の所で変化する場合
もある。この単純な変化を発生するには、ニューラルネ
ットワークに中間層は全く不要であり、図４に示す簡単
なもので良い。ニューラルネットワークの結合係数Ｗ
ａ，Ｗｂは、下記のようにして求める。

【００５８】表２の教師データの変化に着目し、表に点
線で図示した教師データが変化する境界の直前，直後の
入力総和、即ち、Ｓ₁，Ｓ₂を用いて次の二元連立１次方
程式をたてる。

【００５９】Ｓ₁・Ｗａ＋1・Ｗｂ＝−1０ …（数４）Ｓ₂・Ｗａ＋1・Ｗｂ＝1０ …（数５）左辺の値は、出力層へのケース１′，ケース２′の入力
であり、右辺の値は表１の(数１)，(数２)で計算した出
力が実用上０または１とみなせる値が得られるような入
力の値である。

【００６０】(∵１／(１＋exp(−(−１０)))≒０，１／
(１＋exp(−(１０)))≒１（表１の(数１)，(数２)参
照))この連立方程式を解くと、Ｓ₁−Ｓ₂≠０として、Ｗａ＝−２０／(Ｓ₁−Ｓ₂) …（数６) Ｗｂ＝１０＋２０Ｓ₂／(Ｓ₁−Ｓ₂) …（数７) Ｗａは負、Ｗｂは正の値であるから、もしＳ′がＳ₂よ
り小さい場合には、次の不等式が成り立つ。

【００６１】Ｓ′・Ｗａ＋1・Ｗｂ＞１０ …（数８) 従って、図３のＳ₃以下の出力は、Ｓ₂の場合よりも、よ
り１に近い、実用上１とみなせる値が得られる。(数
４)，(数５)のような連立方程式の一組が、教師データ
の変化１回に対応することがわかる。

【００６２】次に、図５の折線５０のように教師データ
が０から始まり、１を経て再び０に戻る場合を考える。
教師データが２回変化する場合である。折線５１，折線
５２は前記図３の場合とほぼ同様にして発生できるの
で、これらを組み合わせて折線５０を合成することを考
える。折線５１，折線５２の両者が１の時にのみ、出力
が１となればよいので、結局、両者をＡＮＤ回路に接続
すればよいことがわかる。ＡＮＤ回路の出力は、両者か
らの入力が１の時にのみ出力が１となり、折線５３が得
られるが、これは折線５０に一致する。

【００６３】このニューラルネットワークを、図６に示
す。この場合、入力層と中間層の結合係数は、それぞれ
教師データの変化の直前，直後に関する(数４)，(数５)
とほぼ同様な連立方程式を２回解くことによって得られ
る。この場合は、教師データが０から１へ変化する場合
と、その後、１から０へ変化する場合についても考慮す
ることになる。

【００６４】中間層の最下段にハッチングして示すニュ
ーロンは、しきい値修正用であり入力層−中間層間の結
合係数として、図示のごとく、例えば２０を指定すれ
ば、その出力は常に実用上１となる。また、中間層と出
力層との間の結合(ＡＮＤ回路)の係数は、同様な方法で
簡単に求まり、例えば、図６に示すように２０，２０及
び−３０でよい。−３０は、しきい値変更用である。

【００６５】図６に同時に示した(ＯＲ)及び(−１０)の
表示については後に述べる。

【００６６】次に、図７の折線７０のように、教師デー
タが３回変化する場合を考える。まず、前記と同様な方
法で折線７１，折線７２を発生できるので、これらのＡ
ＮＤをとって折線７３を発生する。次に、折線７４を折
線７１等と同様な方法で発生し、折線７３，折線７４を
ＯＲ回路で結合すれば、その少なくとも一方が１の時
に、出力が１となるので、折線７５が得られる。これは
折線７０に一致する。

【００６７】このニューラルネットワークを、図８に示
す。この場合も、中間層の最下段のハッチングをしたニ
ューロンはしきい値修正用であり、その出力は常に１で
ある。第１中間層の上から３番目の出力は、ＡＮＤ回路
を経由しないで直接に出力層に入力される。

【００６８】また、ＯＲ回路の結合係数も、同様な方法
で簡単に求まり、出力層への入力の少なくとも一方が１
の場合に、１を出力できるように、図８に示すように例
えば、２０，２０及び−１０でよい。−１０は、しきい
値変更用である。図８の中間層に併記した(ＯＲ)や(−
１０)及び出力層の(ＡＮＤ)と(−３０)については、後
に述べる。

【００６９】教師データの変化回数を増しながら、同様
な解析を続けていくと表３が得られる。

【００７０】

【表３】

【００７１】表３は、教師データの変化回数が１〜７ま
でと、一般的な数ｎ₁について、第１中間層のニューロ
ン数ｎ₂，第２中間層であるＡＮＤ回路の個数ｎ₃及び
出力層となるＯＲ回路の個数ｎ₄を示す (ただし、中間
層には、しきい値修正用のニューロンは、別途考慮す
る) 。表に示すように、第１の中間層のニューロン数は
教師データの変化回数ｎ₁に一致する。ただし、教師デ
ータの変化回数ｎ₁が１の場合には、第１中間層のニュ
ーロンは出力層のニューロンそのものであり、また、教
師データの変化回数ｎ₁が２の場合には、第２中間層の
ニューロンが出力層のニューロンである。これらについ
て、中間層がないと表現するよりは、結合係数の算出法
等を考えると、表３の括弧付きで表示された数字１につ
いて、このように考えた方が便利である。先にも述べた
ように、出力層からの出力が複数ある場合には、以上述
べた計算手法を繰り返す。この解析によれば、中間層
は、最大でも２層まで考慮すればよいことが明らかにな
った。

【００７２】以上をより一般的に、教師データの変化回
数が比較的多い場合について図示すれば、本発明のニュ
ーラルネットワークの構成は、図１のようになる。教師
データの変化回数が奇数の時には、点線で図示したよう
に、第１の中間層から出力層に直接入力され第２の中間
層を経由しないものが現われる。各部の結合係数は前記
のようにして求める。

【００７３】

【表４】

【００７４】次に、例えば表４に示すように、入力の総
和の最大なものＳ₁に対応する教師データが、１の場合
について述べる。教師データの変化が１回の例を図９に
示す。図９では、Ｓ₁，Ｓ₂の間で教師データが変化した
例を示しているが、当然、一般には、別のところで変化
することもあり得る。この場合のニューラルネットワー
クは中間層が不要であり、図４と同様なものでよいが結
合係数は異なる。結合係数は(数４)，(数５)と同様な連
立方程式をたてて求めるが、出力を１，０にするために
右辺の符号が変わる。

【００７５】次に、図１０は折線１００に示すように、
教師データが２回変化する場合である。まず、折線１０
１，折線１０２を先の説明と同様な方法で発生できるか
ら、これを用いて折線１００を合成する方法を工夫す
る。折線１０１，折線１０２の少なくとも一方が１の時
に、１を出力できればよい。結局、両者をＯＲ回路で結
合すればよい。この場合のニューラルネットワークは、
図６とほぼ同様であるが、出力層はＡＮＤではなくＯＲ
回路として機能するように、しきい値修正用の結合係数
を−３０から、例えば−１０に変更する。

【００７６】次に、図１１は折線１１０に示すように、
教師データが３回変化する場合である。この場合も、折
線１１１，折線１１２を先の説明と同様な方法で発生
し、これのＯＲをとって折線１１３を得る。次に折線１
１１と同様な方法で、折線114を発生する。最後に折線
１１３と折線１１４をＡＮＤ回路で結合すれば、折線１
１５が得られる。これは折線１１０に一致する。この場
合のニューラルネットワークは、図８とほぼ同様である
が、第２の中間層にはＯＲ回路を配置し、出力層はＡＮ
Ｄ回路として機能するように、各々のしきい値修正用の
結合係数を変更する。

【００７７】次に、教師データの変化回数を増して解析
した結果を、まとめると表５が得られる。

【００７８】

【表５】

【００７９】表５は、教師データの変化回数が１〜７ま
でと、一般的な数ｎ₅について、第１中間層のニューロ
ン数ｎ₆，第２中間層のニューロン数であるＯＲ回路の
個数ｎ₇及び出力層となるＡＮＤ回路の個数ｎ₈を示
す。表３の場合と同様に、中間層に関しては、しきい値
修正用のニューロンを別途考慮すると共に、括弧付きで
表示された数字１は出力層の出力を兼ねる。表３と表５
を比較すると、ＡＮＤとＯＲが入れ代わっていることが
わかる。この場合も、中間層は最大でも２層まで考慮す
ればよい。

【００８０】以上をより一般的に、教師データの変化回
数が比較的多い場合について図示すれば、ニューラルネ
ットワークの構成は、図１と類似したものになる。教師
データの変化回数が奇数の時には、この場合も点線で図
示したように、第１の中間層から出力層に直接入力され
て、第２の中間層を経由しないものが現われる。ただ
し、第２の中間層はＯＲ回路，出力層はＡＮＤ回路とな
る。各部の結合係数の計算法は前記の場合とほぼ同様で
ある。

【００８１】出力層に複数の出力がある場合には、各々
の出力について、今まで述べてきた手順で解析を繰り返
す。なお、各々の出力を求める際に、表２や表４に示し
た教師データ変化の境界線が共通であれば、ニューラル
ネットワークの一部が共用できるので、必要に応じてこ
の事実を利用すれば全体の構成が簡単になる可能性があ
る。

【００８２】また、(数６)，(数７)において、Ｓ₁とＳ₂
が等しい場合には、これらの数式の分母が零になり不都
合なので、このような場合には、入力を単純に加算しな
いで、例えば乱数等で求めた数Ｋｉを乗じてから加算す
る。即ち、ΣＫｉＸｉを求め、それらを表２，表４のＳ
₁，Ｓ₂，Ｓ₃，…Ｓ_nと同様に扱う。このようにすれば、
複数のケースの入力が全く同じでない限り、(数６)，
(数７)等の分母が零になることはほとんどなくなる。も
し、それでも(数６)，(数７)の分母が零になる場合に
は、再び別の乱数を求める操作を繰り返すことができ
る。更に、先の説明から明らかなように、前記(数６)，
(数７)のような数式の分母が零になることが問題になる
のは、例えばＳ₁とＳ₂が等しくて、かつそれらに対応す
る教師データが異なる場合だけである。Ｓ₁とＳ₂が等し
くても、それらに対応する教師データが等しい場合に
は、結合係数の計算に使用されることがないから、問題
にはならない。

【００８３】従って、より一般的に表現すれば表２，表
４等では単純なΣＸｉはなく、例えば乱数等として求め
た数値Ｋｉを用いて、ΣＫｉＸｉを求め、以上説明した
ように計算を進めればよい。この場合、各入力に対する
重み(結合係数)は、ＫｉＷｉとなる。

【００８４】仮に、Ｓ₁′とＳ₃′が等しく、かつそれら
に対応する教師データが等しかったとする。この場合
に、大きさがＳ₁′とＳ₃′の間にあって教師データがＳ
₁′，Ｓ₃′の場合と等しい、入力の総和Ｓ₂′があった
とする。この場合、以上の計算方式から明らかなよう
に、この３つの教師データの間では教師データの変化は
ないから、Ｓ₂′は結合係数の計算に使用されることが
ない。従って、Ｓ₂′のようなデータは学習用のデータ
として、新たに追加する価値がないことがわかる。メモ
リ節約のためにこれを除去しても差し支えない。新たに
追加した教師データが、前記の教師データの変化の境界
を変える場合には、追加するだけの価値がある。

【００８５】本方式によれば、次のような効果がある。

【００８６】(1) 従来は必要であった、繰り返し学習が
不要になった。

【００８７】(2) 中間層の層数やそこに必要なニューロ
ンの数、各部の結合係数を解析的に決定できるので、短
時間で能率の良い診断ができる。

【００８８】(3) 中間層の層数は、最大でも２層までで
良いことを明確にできた。

【００８９】(4) 各部の結合係数が解析的に簡単に求ま
るので、入力データや、出力データの多い、大規模なも
のにも適用できる。

【００９０】(5) 従来の繰り返し学習が不要になったの
で、より経済的な計算機を認識，診断に用いることが可
能になった。

【００９１】(6) 診断の精度を高めるために、入力デー
タを追加しようとする場合、入力データと教師データか
ら、追加するに値するか否かを判定でき、価値のないこ
とがわかれば、追加を中止してメモリを有効に利用する
ことができる。

【００９２】次に、本発明の変形例を述べる。

【００９３】(数４)，(数５)では、ニューロンから近似
的に０または１を出力する例を述べたが、図１２に示す
ような変換によって０，１のかわりに、途中の演算では
εを零に近い正の数として、εと(１−ε)の区間で各種
の演算を行い、最終の出力段階で、再び０と１の区間の
数字に戻すことも従来一部行われており、これを(数
４)，(数５)の右辺に適用すれば、logを自然対数とし
て、Ｓ₁・Ｗａ＋1・Ｗｂ＝log(ε／(１−ε)) …(数４′）Ｓ₂・Ｗａ＋1・Ｗｂ＝−log(ε／(１−ε)) …(数５′）となる。表１の出力を実用上、０と１とで扱う方法で
は、一部に近似計算であるための誤差が入るのに対し
て、この実施例では、それがないので便利なことがあ
る。

【００９４】本発明のさらに異なる一実施例を、学習デ
ータの分類例を示した、図１３によって説明する。横軸
に同一ケースの入力データ番号ｎ，縦軸に対応した入力
データｘの大きさを示す。多数の例をその特徴に着目し
て分類して図示すれば、例えば、図１３のようになる。
(a) 〜(c) は、極大値が１個のものであり、極大値の大
きさや、極大となるｎの値のほかに、図示は省略したが
部分的な勾配の様子(上に凸，下に凸)等でより詳細な分
類ができよう。(d) 〜(f) は、極大値が２個のものであ
り、左右の極大値の大小や極大，極小の大きさ、或いは
図示は省略したが、極値を取るｎの値（極小値をとるｎ
の値が、左の極大値をとるｎに近いか、右の極大値をと
るｎに近いか、等）でも分類できよう。(g) 〜(i) は、
極大値が３個のものであり、前記のような、いろいろな
観点から分類できよう。矩形，台形等必要に応じて図示
しない、さらにいろいろな形状に分類できる。

【００９５】学習用の全入力データを、図１３を参考に
何種類かに分類し、その各々について、前述の方法で、
多層型ニューラルネットワークの構成と、各ニューロン
間の結合係数を解析的に定めることが可能である。前記
の解析的な方法では、ニューラルネットワークの構成
と、各ニューロン間の結合係数は、当然データの規模に
もよるが、普通は数秒〜数十秒で決まる。ある特定の形
状に分類されたものに属するケース数は、当然、全く分
類しない場合に比較して、少なくなるから、診断の際に
は比較が容易になり、類似した紛らわしいデータに対し
ても判別が比較的容易になり、診断精度が高まるという
効果がある。なお、従来の逆伝搬学習則による非常に多
数回の繰り返し学習を要する方式を、このような分類
後、その各々について学習すると、すべての型の学習に
要する時間は全体として長くなることが多い。従って、
一般にはこの例のように入力データの型を分類してから
逆伝搬学習則に利用することは、困難なことが多い。し
かし、入力データによっては、逆伝搬学習則に利用して
全体の学習時間を短縮できる可能性もある。

【００９６】次に本発明のさらに異なる実施例を、図１
４〜図１５によって説明する。この実施例は前記図１〜
図１２で説明した解析的な方法を、入力データのばらつ
きも考慮するように拡張したものである。

【００９７】図１４では、図１３の場合と同様に、横軸
は入力のデータ番号ｎ，縦軸は入力の数値ｘを示す。こ
の図では、例えば、ばらつきのある２種類の測定値曲線
Ｆ，Ｇが示されているとする。Ｆの上限をＦｕ，下限を
Ｆｄとし、Ｇの上限をＧｕ，下限をＧｄで表示する。

【００９８】本発明に関する説明では、入力ｘは仮に正
の任意の数値，ニューラルネットワークの出力(教師デ
ータ)は１個とし、その値は０または１とする。また、
出力が複数ある場合には、出力の一つ一つについて下記
のように取り扱う。

【００９９】Ｆが入力されたとき、ニューラルネットワ
ークの出力としては、例えば、０を出力し、Ｇの入力に
対しては、１を出力する場合を考える。

【０１００】表２とほぼ同様に、まず任意に仮定した重
み(結合係数)Ｋｉを考えた、しきい値修正用を除く入力
の総和Ｓｆｕ，Ｓｆｄ，Ｓｇｕ，Ｓｇｄを表６の（数
９）で求める。

【０１０１】

【表６】

【０１０２】

【表７】

【０１０３】次に、例えば表７に示すように総和の大き
い順に並べ換え、対応する教師データと共に表示する。
このような整理をして、入力の総和最大の教師データが
０か１かによって、ニューラルネットワークの第２中間
層以降の重み（結合係数）を変える必要があることがわ
かっている。ばらつきのある入力Ｆ，Ｇを考え、そのば
らつきの範囲内ならば、ニューラルネットワークの出力
として正解を得るためには、簡単のため、入力に対する
重み(結合係数)を、正又は０とした場合には、表８の
(数１０)，(数１１)のいずれかであることを要する。

【０１０４】

【表８】

【０１０５】曲線の変化の様子によっては、仮に入力ｘ
に対する重み(結合係数)をすべて等しく選んでも、(数
１０)又は(数１１)が得られることがある。しかし、曲
線によっては例えば、１つの曲線に関する和(例えば、
Ｓｆｕ，Ｓｆｄ)の間に他の曲線に関する値(例えば、Ｓ
ｇｕ)が入るような大小関係になることもあり得る。確
実に(数１０)又は(数１１)の大小関係が得られるように
するためには、次のようにする。まず、使用する重み
(結合係数)Ｋｉの候補として、例えば０.０００１，０.
００１，０.０１，０.１，１.０，１０.０，１００.
０，１０００.０，１００００.０等を予め準備してお
いて、図１４の曲線ＦとＧの交点付近から、右側では左
側に比較して、重み(結合係数)Ｋｉを非常に大きく（例
えば、１０〜１００倍）しておけば、重み(結合係数)を
乗じた入力の総和は、曲線ＦとＧの交点付近より右側が
強調されて、曲線Ｆに関する和の方が大きいという、前
記の(数１０)を満たす大小関係となる。

【０１０６】逆に、図１４の曲線の交点付近から、左側
では右側に比較して、重み（結合係数)Ｋｉを非常に大
きく(例えば、１０〜１００倍)しておけば、重み(結合
係数)Ｋｉを乗じた入力の総和は、曲線ＦとＧの交点付
近より左側が強調されて、曲線Ｇに関する和の方が大き
いという、前記の(数１１)を満たす大小関係となる。

【０１０７】１つの曲線から求まる２つの総和の間に、
別の曲線から求まる総和の少なくとも１つが割り込むよ
うな、大小関係にあってはならない。

【０１０８】曲線Ｆの図示ばらつきの範囲内のデータに
対して、重み(結合係数)が正又は０の場合には、入力ｘ
に重み(結合係数)Ｋｉを乗じた数値の合計は、必ずＳｆ
ｕとＳｆｄの間になる。同様に、曲線Ｇの図示ばらつき
の範囲内のデータに対して、重み(結合係数)が正又は０
の場合、入力ｘに重み(結合係数)Ｋｉを乗じた数値の合
計は、必ずＳｇｕとＳｇｄの間になる。従って後に説明
するように、前記（数１０）または(数１１)が成立する
ように重み(結合係数)を選定すれば、曲線Ｆのばらつき
の範囲内の入力ｘについては、曲線Ｆｕ，Ｆｄで指定し
たと同じ出力を得ることができる。同様に、曲線Ｇのば
らつきの範囲内の入力ｘについては、曲線Ｇｕ，Ｇｄで
指定したと同じ出力が得られる。

【０１０９】ここでは、簡単のために前記 (数１０) が
成立し、曲線Ｆに対しては、出力(教師データ)０，曲線
Ｇについては出力(教師データ)１とした場合について説
明する。

【０１１０】まず、表７の数式の取扱いを容易にするた
めに、次のように文字を置き換える。

【０１１１】Ｓｆｕ⇒Ｓ₁，Ｓｆｄ⇒Ｓ₂，Ｓｇｕ⇒Ｓ₃，Ｓｇｄ⇒Ｓ₄ 図１５は、縦軸に、表７のＳ₁，Ｓ₂，Ｓ₃，Ｓ₄を、横軸
に教師データを表示したもので、教師データがＳ₂，Ｓ₃
の境界で一度だけ変化した例である。この単純な変化を
発生するには、ニューラルネットワークに中間層は全く
不要であり、図１６に示す簡単なもので良い。これは、
図４に対して入力に重みＫｉが乗じられている点が異な
る。ニューラルネットワークの結合係数Ｗａ，Ｗｂは、
下記のようにして求める。

【０１１２】表７の教師データの変化に着目し、図１６
を参照しながら表に点線で図示した教師データが変化す
る境界の直前，直後の入力総和、即ち、Ｓ₂，Ｓ₃を用い
て次の二元連立１次方程式をたてる。

【０１１３】Ｓ₂・Ｗａ＋１・Ｗｂ＝−１０ …（数１２）Ｓ₃・Ｗａ＋１・Ｗｂ＝１０ …（数１３) 左辺の値は、出力層への入力であり、右辺の値は表１の
(数１)，(数２)で計算した出力が実用上０または１とみ
なせる値が得られるような入力の値である。

【０１１４】(∵ １／(１＋exp(−(−１０)))≒０，１
／(１＋exp(−(１０)))≒１(表１の(数１)，(数２)参
照))この連立方程式を解くと、Ｓ₂−Ｓ₃≠０として、Ｗａ=−２０／(Ｓ₂−Ｓ₃) …（数１４）Ｗｂ=１０＋２０Ｓ₃／(Ｓ₂−Ｓ₃) …（数１５）Ｗａは負、Ｗｂは正の値であるから、もしＳ′がＳ₃よ
り小さい場合には、次の不等式が成り立つ。

【０１１５】Ｓ′・Ｗａ＋１・Ｗｂ＞１０ …（数１６) 従って、図１５のＳ₃より小さい入力総和に対する出力
は、Ｓ₃の場合よりも、より１に近い、実用上１とみな
せる値が得られる。

【０１１６】また、もし、Ｓ″がＳ₂より大きい場合に
は、次の不等式が成り立つ。

【０１１７】Ｓ″・Ｗａ＋１・Ｗｂ＜−１０ …（数１７) 従って、図１５のＳ₂より大きい入力総和に対する出力
は、Ｓ₂の場合よりも、より０に近い、実用上０とみな
せる値が得られる。

【０１１８】これにより、図１４の曲線ＦまたはＧのば
らつきの範囲内の入力に対しては、それぞれ、０又は１
の出力が得られることがわかる。

【０１１９】次に、図１７によって、ばらつきのある曲
線Ｆ，Ｇが大部分の範囲にわたって重なっている場合の
例を示す。このような場合には、各入力に対する重み
（結合係数）Ｋｉを仮に全部等しくすると、曲線の凹凸
の様子によっては、結合係数を考慮した入力の総和はほ
ぼ等しくなって、入力総和の大小関係が前記の必要な条
件を満足しない可能性がある。

【０１２０】しかし、曲線Ｆ，Ｇが重なっていない部分
の１個所だけの重み(結合係数)Ｋｉを、その他の部分の
重み(結合係数)Ｋｉに比較して、十分大きく (例えば、
１０〜１００倍）すれば、その部分だけの数値の影響が
強く現われるから、前記（数１０）又は(数１１)の大小
関係を満足させることができる。例えば、図１７のＡの
範囲の重み(結合係数)Ｋｉだけを十分大きく選定すれ
ば、曲線Ｆに関する和が優勢となり、(数１０)が成立
し、Ｂの範囲の結合係数だけを十分大きく選定すれば、
曲線Ｇに関する和が優勢となり、逆に(数１１)が成り立
つようになる。更に、Ａの範囲の重みＫｉを、その他の
部分にくらべて大きく選び、Ｂの範囲の重みＫｉを小さ
く選べば、曲線Ｆがより優勢となる。また、逆の選択も
可能である。図１８は、同様な場合に対処する別の方法
を示す。表現を簡単にするために、これらの図では、ば
らつきの範囲の図示を省略する。図１８でも、横軸にデ
ータ番号ｎに対して、縦軸に入力データｘを示す。デー
タは、丸印で示すものと、×印で示す２種類を示す。大
部分のデータは重なっているが、３個のデータは互いに
一致してはいない。２個の×印は、丸印より小さく、１
個の×印は、丸印より大きい。この場合、図示しないば
らつきまでを考慮すると、入力データｘに対して、重み
(結合係数)Ｋｉを乗じた値の各ケースの総和は、重み
(結合係数)Ｋｉを単純に等しくとると、ほぼ等しい値に
なって、前記(数１０)または(数１１)の大小関係が求ま
らないことがありうる。入力データに対する結合係数を
部分的に大きくする等の対策例は先に示した。図１８〜
図２０では、仮に入力データに対するすべての結合係数
を等しくとっても、確実に(数１０)または(数１１)の大
小関係を成立させるような、別の方法を示す。

【０１２１】図１９では、１個だけ丸印より大きい×印
の入力データは、そのまま用いないで、その時のデータ
番号ｎに対するデータは丸印，×印とも、その逆数を利
用する。丸印の逆数のデータを点線の丸印で示す。ま
た、×印の逆数を△印で示す。×印で分類されたケース
は、２つの×印及び１個の△印が同じデータ番号の丸印
(点線図示のものを含む)よりも小さい。従って、仮に、
すべての重み(結合係数)Ｋｉを等しくとっても、丸印側
の入力総和の方が大きくなって判別が可能である。

【０１２２】図２０では、１個だけ丸印より大きい×印
の入力データは、そのままにしておいて、丸印より小さ
い２つの×印のｎに対する入力を、丸印，×印データと
も、その逆数を利用する。その結果、２つの△印及び１
個の×印が同じデータ番号の丸印(点線図示のものを含
む)よりも大きい。従って、仮にすべての重み（結合係
数）Ｋｉを等しくとっても、丸印側の入力総和の方が小
さくなって、判別が可能になる。

【０１２３】次に図２１に、ばらつきのある４ケースの
データ例を示す。この場合もデータ番号の一部の範囲、
例えばＡに示すように、４ケースのデータが互いに異な
った数値になり得るデータ番号の範囲を選び、その部分
の入力データに対する重み（結合係数）Ｋｉを、その他
の部分に比較して十分大きく選定する。これにより、重
み(結合係数)Ｋｉを考慮した入力の総和は、大きい順に
Ｆ，Ｇ，Ｈ及びＩとなり、当然各データのばらつきの上
限の和が下限より大きく、各４ケースの総和の順位は乱
れることがない。

【０１２４】入力データＦ，Ｇ，Ｈ，Ｉに対する、出力
(教師)データを仮に、それぞれ０，１，０及び１とし
て、入力総和と教師データの関係を、入力総和の大きい
順に示せば、表９となる。入力総和の記号は、先の例と
同じく、ばらつきの上限にｕの、また下限にはｄの添字
をつけて、Ｓｆｕ，Ｓｆｄ，Ｓｇｕ，Ｓｇｄ，Ｓｈｕ，
Ｓｈｄ，Ｓｉｕ，Ｓｉｄとする。この関係は、図２２の
ような折線でも示すことができる。

【０１２５】折線２２０のように教師データが０から始
まり、１を経て再び０に戻り、最終的には１となる。教
師データが３回変化する場合である。折線２２１，折線
222は前記図３の場合とほぼ同様にして発生できるの
で、これらを組み合わせて、まず折線２２３を合成する
ことを考える。折線２２１，折線２２２の両者が１の時
にのみ、出力が１となればよいので、結局、両者をＡＮ
Ｄ回路に接続すればよいことがわかる。次に、折線２２
１と同様な方法で、折線２２４を発生する。最後に、折
線２２３，２２４をＯＲ回路で結合する。ＯＲ回路の出
力は、入力の少なくても一方が１のときに出力が１にな
るので、折線２２５が得られる。これは折線２２０に一
致する。

【０１２６】もし、入力データＦ，Ｇ，Ｈ，Ｉに対す
る、出力(教師)データを、それぞれ１，０，１及び０と
逆にすれば、入力総和と教師データの関係は、表１０と
なる。この関係は、図２３のような折線でも示すことが
できる。折線２３０のように教師データが１から始ま
り、０を経て再び１に戻り、最終的には０となる。教師
データが３回変化する。折線２３１，折線２３２は前記
図３の場合とほぼ同様にして発生できるので、まず、折
線２３１，折線２３２をＯＲ回路に接続し、折線２３３
を合成する。次に、折線２３１と同様な方法で、折線２
３４を発生する。最後に、折線２３３，２３４をＡＮＤ
回路で結合すると折線２３５が得られる。これは折線２
３０に一致する。

【０１２７】なお、以上の例で、入力に重み（結合係
数）Ｋｉを乗じた総和が、ＳｆｕとＳｆｄの間，Ｓｇｕ
とＳｇｄの間，ＳｈｕとＳｈｄの間，ＳｉｕとＳｉｄの
間になった場合には、出力（教師）データが指定されて
いる。しかし、異なる曲線の間、即ち、ＳｆｄとＳｇ
ｕ，ＳｇｄとＳｈｕ，ＳｈｄとＳｉｕの間については、
出力データが指定されていない。この場合には、例えば
下記のような取扱いが可能である。

【０１２８】(a) 一定の数式に従って、両境界の数値の
間の値を出力する。

【０１２９】(b) 出力表示の際に、例えば、『？』を出
して、推定不可能を示す。

【０１３０】例えば、(a）の例としては、出力指定が０
と１に挟まれた、未指定範囲には、その境界からの離れ
た程度に応じて、例えば、０から１の間で直線的に、あ
るいはシグモイド関数などで求めた数値を出力する。

【０１３１】図２４は、図２２や図２３に対応するニュ
ーラルネットワークの構成例を示す。中間層の最下段に
は、ハッチングして示すしきい値修正用に常に１を出力
するニューロンが結合され、第一中間層の入力側は、し
きい値修正用の入力１だけに結合している。

【０１３２】第二中間層がＡＮＤ回路として働き、出力
層がＯＲ回路として作用することを要するのは、図２２
のように、重み(結合係数)Ｋｉを考慮した入力の総和の
最大値が、教師データ０に対応する場合である。逆に、
第二中間層がＯＲ回路として働き、出力層がＡＮＤ回路
として作用することを要するのは、図２３のように、重
み(結合係数)Ｋｉを考慮した入力の総和の最大値が、教
師データの１に対応する場合である。

【０１３３】この図から明らかなように、ＡＮＤ回路と
ＯＲ回路では、しきい値修正用の結合係数だけが、例え
ば図示のように変化する。入力ｘに対する等価な結合係
数は、表６等で使用した重み(結合係数)Ｋｉと(数１
４)，(数１５)やそれと同様にして求めた結合係数Ｗ
ａ，Ｗｂ等の積となる。

【０１３４】

【表９】

【０１３５】

【表１０】

【０１３６】なお、表９，表１０のようなもので、教師
データがさらに複雑に、より多く変化する場合について
も、当然、本発明は適用できる。

【０１３７】次に、診断データに対する出力として、正
解が判明している場合に、適用する異なる実施例を、図
２５のフローチャートによって述べる。

【０１３８】計算を開始すると、まず、学習データ(１)
として、学習データやそれに対する教師データ、並び
に、重み(結合係数)Ｋｉの候補となる多数の数値等を、
計算機のメモリ，ハードディスク(ＨＤ)，フレキブル・
ディスク(ＦＤ)等から読み込む。

【０１３９】次に、学習データ(２)として、追加される
データがあるか否かを調べる。初めは追加データはない
(TUIKA$＝NASHI$)ので、次は入力総和の計算に移る。本
発明の説明で、すでに述べたような方法で、適切な重み
(結合係数)Ｋｉを選んで、入力に乗じて入力総和を求
め、入力総和の大きい順に、対応する教師データと共に
並べ、その教師データの変化回数に着目する。その教師
データの変化回数に関連して定まる第一，第二中間層の
ニューロン数ならびに１つのニューロンからなる出力層
を構成し、すでに説明した方法で、その他の各部の結合
係数も決定する。この段階で、従来の逆伝播学習方式
の、学習に相当する段階は終了する。

【０１４０】次に、ＣＲＴ(Cathode Ray Tube）の画面
が、診断の要否を問う。もし、Ｙ(＝ＹＥＳ）と入力
し、診断データを入力すれば、計算機のメモリ，ハード
ディスク(ＨＤ)，フレキブル・ディスク(ＦＤ)等から、
これらの数値を読み込む。その後、診断がなされ、その
結果が表示される。次に、ＣＲＴの『正解は判明してい
るか』の問いに、Ｙと入力すれば、TUIKA$の文字がＡＲ
Ｉ＄に変更され、診断のために入力されたデータと共に
対応する正解が、学習データ(2）としてＨＤやＦＤに保
存される。次に、ＣＲＴ画面に、『終了するか否か』が
問われ、Ｙと入力すれば、診断が終了する。

【０１４１】図示は省略するが、ニューラルネットワー
クの構成と各部の結合係数を決定した段階で、これらの
結合係数を含む各種の数値を、ＨＤやＦＤに保存して、
必要な計算ループの変更をして、次回の診断の能率化に
役立ててもよい。

【０１４２】次の機会に、再び計算を開始した時には、
ほぼ同様に計算が進行するが、前回診断して、正解も入
力したデータについては、学習データ(2）の段階で、そ
れが入力データに追加されるので、より良く学習したこ
とに相当し、前回正解を与えた診断データと同じ問いに
対しては、当然正解が可能であり、診断精度が高まって
いく。しかも、本発明の解析的にニューラルネットワー
クの構成と、結合係数を決める方式では、当然、データ
数の規模にもよるが、大体、学習データを追加して数秒
〜数十秒後には、より精度を高めた状態で、再び診断が
可能になるという長所がある。

【０１４３】表１１は、一般の推論に用いられる各種の
命題(proposition）を示す。

【０１４４】

【表１１】

【０１４５】表１１の(1）の命題に対して、表１１の
(2）を対偶(contraposition)と云う。対偶とは、一つの
命題に対して、その終結(conclusion)を否定したものを
仮説(hypothesis)とし、仮説を否定したものを終結とし
た命題を云う。もとの命題と対偶命題の真偽は常に一致
する。これに対して、表１１の(3）は、(1）に対して逆
(converse)と云われる。逆は、ある命題の仮説と終結と
を転倒して得た命題である。もとの命題は真でも、逆は
必ずしも真ではない（参考文献：例えば、広辞苑（岩波
書店、昭和４９年９月２０日))。

【０１４６】従来用いられてきたニューラルネットワー
クでは、診断用のデータを入力した時の出力データが、
前もって学習した時の出力(教師)データのどれに類似し
ているかによって、診断データが入力されたどの学習デ
ータに類似しているかを判断していた。先に、表１１を
用いて行った一般的な説明で明らかなように、例えば、
「学習データがＡならば、出力データはＢである」とい
うことを、表１１の(1）とするとき、表１１の(2）のよ
うに利用するのは常に正しいが、表１１の(3) のよう
に、利用するのは、厳密には必ずしも正しくない。表１
１の(3) として、仮説がＢである場合には、一般的に
は、終結としてはＡであるものと、Ａでないものとが含
まれる。しかし、ニューラルネットワークでは、完全に
はＡでなくても、Ａとよく似たものを、Ａと同じように
扱って支障のないこともある。

【０１４７】例を示そう。図２６は、あるケースのニュ
ーラル・ネットワークの入力データを示す。横軸はデー
タ番号ｎ，縦軸は入力データｘである。この図で丸印の
データを学習することを、表１１(1）のＡとし、その際
の出力(教師)データを表１１(1）のＢとする。次に、診
断データとして仮に、大部分は図２６の丸印と同じであ
るが、データ番号ｉとｋの２点だけ異なっているデータ
を考える。図２６では、丸印と一致したデータは×印の
図示を省略する。診断用のデータで、ｉ番目，ｋ番目の
データを、それぞれ(ｘｉ＋Δｘｉ)，(ｘｋ＋Δｘｋ)と
置き、それぞれの入力データに対する重み(結合係数)Ｋ
ｉをＫｉ，Ｋｋと置くとき、前記２つのケースの入力に
対して重み(結合係数)を乗じた入力総和の差ΔＳは、次
式で表される。

【０１４８】 ΔＳ＝Δｘｉ・Ｋｉ＋Δｘｋ・Ｋｋ …（数１８) Ｋｉ，Ｋｋが図２６の丸印の学習データについて、すで
に適切な値が決まっていたとする時、ΔＳが零になるよ
うに、Δｘｉ，Δｘｋの一方を与えて、他方を決めるこ
とは容易である。この場合には、学習データとしては丸
印のデータだけを用いて学習していたとしても、前記の
ように図２６の丸印から一部はみ出したデータを診断し
ても、重み(結合係数)を考慮した入力総和が、学習の場
合と診断の場合とで等しくなるために、両者の出力デー
タは等しくなる。つまり、出力データが等しくても入力
データが等しいとは限らない。表１１に関連して述べ
た、「逆は必ずしも真ならず」である。出力データから
期待通り推定されるものと、それ以外に予想以外のもの
が含まれることがある例である。しかし、ニューラルネ
ットワークでは、未学習データを入力しても、その際の
出力が既学習のものと、相当似かよっていれば、既学習
のものと、ほぼ同一とみなすことも行われる。しかし、
診断の精度をさらに向上させるためには、この場合、予
想外の入力データの場合を区別できることが必要なこと
もある。予想外のデータを確実に除く方法を、同じ図２
６を用いて説明する。

【０１４９】まず、診断のためのデータを入力すること
により、出力データを計算し、それに応じて学習した多
数のケースの中から、最も確からしい学習データを推定
する。この最も確からしいと推定したデータが、図２６
の丸印のデータであったと仮定する。次に、図２６の丸
印のデータと診断データとが一致するか否かを、各デー
タ番号について調べる。もし、入力データの全数が、学
習データと診断データで互いに一致すれば、診断データ
は選出した学習のケースと同じであると確認できる。も
し、入力データの一部が一致しなければ、診断データは
選出した学習のケースとは異なることがわかる。この操
作により、診断の精度が高まるという効果がある。

【０１５０】また、このような診断の際の確認で、学習
データと診断データが仮に完全には一致するものがない
場合には、例えば、『学習データに一致するものなし』
と表示したほかに、『類似したもの』として、１ケース
当りの全入力数に対する一致したデータ数を百分率で表
した数値とともに示す等の処置も可能である。これによ
り、単に『学習データに一致するものなし』と表現する
よりも、利用者に親切な解答ができるという効果があ
る。

【０１５１】前記の説明では、図２６の丸印のデータと
の違いが２つだけの場合について説明したが、もっと多
くのデータが丸印のデータと一致しない場合について
も、ほぼ同様に考えることができる。

【０１５２】次に、学習データにばらつきを考慮した場
合の、診断の際の確認について、図２７によって説明す
る。図２７では、横軸にデータ番号，縦軸に入力データ
を示す。曲線Ｆｕは、あるケースの曲線Ｆの上限値の入
力データ、曲線Ｆｄは、同じケースの下限値の入力デー
タである。診断データを入力して、出力を計算した結
果、最も確からしい学習のケースとして、図２７の曲線
Ｆｕ，Ｆｄが選ばれたとする。図２６の場合と同様に、
例えば、次のように確認計算をする。１ケース当りの入
力データ数をｎ₁として、 (a) 曲線Ｆｕの線上かそれより下にある診断データ(×
印)の数ｎ₂を調べる。

【０１５３】(b) 次に、曲線Ｆｄの線上かそれより上に
ある診断データの数ｎ₃を調べる。

【０１５４】もし、ｎ₁，ｎ₂及びｎ₃がすべて等しけれ
ば、診断データは曲線Ｆｕ，Ｆｄの範囲内にあることが
わかり、曲線Ｆのケースに一致することがわかる。

【０１５５】ｎ₂，ｎ₃の少なくとも一方がｎ₁と等し
くなければ、診断データの一部は、曲線Ｆｕ，Ｆｄで囲
まれたばらつきの範囲からはみ出していることがわか
る。このような場合には、図２６で説明したと同様に、
診断データが完全には学習データに一致しないことを明
示する共に、曲線Ｆｕ，Ｆｄの間にある診断データの全
入力データに対する比率等も表示することによって、学
習データに対する類似の程度を表示し、利用者の便宜を
はかることができる。これにより、ばらつきのある入力
データに対しても、正確な診断を行うことができるとい
う効果がある。

【０１５６】また、診断データと学習データを比較する
具体的な方法としては、前記(a），(b）の代わりに、次
のような方法も可能である。

【０１５７】(a′) 診断データのうちで、図２７の曲線
Ｆｕより上にあるデータ数を数える。 (b′) 診断データのうちで、図２７の曲線Ｆｄより下に
あるデータ数を数える。 (a′），(b′）で求めたデータ数が共に零であれば、診
断データは、あるケースの学習済データのばらつきの範
囲内にあることが分かる。

【０１５８】なお、図２７に於いて、ばらつきの範囲の
上限値Ｆｕ，下限値Ｆｄの値としては、実験等に於いて
確認されている、実際のばらつきの幅よりも多少大きく
設定して、将来何らかの原因で、ばらつきが大きくなり
得る等の事態にそなえることも可能である。また、診断
データが学習データと完全には等しくない場合には、ば
らつきの範囲からはみ出したデータの数だけでなく、は
み出した程度も何らかの形で表示に影響を与えるように
することも可能である。

【０１５９】図２６，図２７に述べた方法は、次のよう
な方法の適用が可能である。

【０１６０】(1）多層型ニューラルネットワークの逆伝
播学習法への適用。

【０１６１】(2）多層型ニューラルネットワークの構成
及び各部の結合係数を解析的に決定する本発明への適
用。

【０１６２】(3) ニューラルネットワークへは適用せず
に、診断データを全ケースの学習データに対して、同じ
か類似しているかの前記のような確認を繰り返す。

【０１６３】なお、これらいずれの場合にも、診断デー
タと学習データの比較には、例えば、作成したソフトに
より、個々の数値の大小，同等を求めたり、あるいは、
行列や行列式により診断データ・グループとあるケース
の学習データ・グループを一挙に比較して、あるグルー
プの数値が他のグループのそれに比較して等しいか、小
さいもの等を明示したり、その数を数えたりすることも
可能である。

【０１６４】前記(1）〜(3) について、説明の都合上逆
に(3) 〜(1）の順に説明を加える。(3) に述べた方法
は、全ケースの入力データに対して、診断データがどの
学習ケースに最も類似（全く同じ場合を含む）している
かを、確認するので、ケースの数が多く、かつ１ケース
当りのデータ数が多い時には、診断のための計算に多少
の時間を要する。しかし、従来の逆伝播学習法で、学習
に時間がかかり過ぎる場合、local minimum に陥って学
習が進行しない場合等には、それに代わって、あまり高
速計算を要しない目的には、十分実用できる。故障診断
等の場合には計算速度よりも、診断の正確さが要求され
ることが多いので、実用できることが多い。

【０１６５】(2) の方法は、診断デ−タを入力して出力
を計算し、類似している学習ケ−スを選んだ後に、前記
の方法で確認計算を行うので、前記(3) の方法に比較し
て計算回数が少ないから、計算時間も短く、診断も正確
であるという特徴がある。

【０１６６】(1) の方法は、理論的に厳密に、かつ最悪
の場合（ニューラルネットワークの構成が、非常に簡単
な場合、例えば、中間層が１層数で、かつ、中間層のニ
ューロンが１個の場合等）では、図２６，図２７で説明
した確認計算が必要である。しかし、ニューラルネット
ワークがより複雑な場合には、このような確認計算は不
要になる可能性が大きい。このことを、説明を簡単にす
るために中間層が１層として、以下に述べる。

【０１６７】第一中間層のニューロンが複数個ある場合
には、入力層の各ニューロンと第一中間層の第１のニュ
ーロンとの間の結合係数は、一般には、入力層と第一中
間層の第２のニューロンとの間の結合係数とは異なる。
従って、仮に入力層と第一中間層の第１のニューロンと
の間の結合係数に関して、(数１８)で示すΔＳが零にな
ったとしても、入力層と第一中間層の第２のニューロン
との間の結合係数に関してΔＳと同様な方法で計算した
ΔＳ′は零にならない可能性が強い。従って、第一中間
層の第２のニューロンからの出力は、前記のような学習
データの場合と診断データの場合では異なる可能性が大
きい。この影響は、一般には出力層の出力にも現われ
る。その結果、図２６で説明した丸印の学習データと、
（丸印と一致したデータは図示を省略した）×印で示し
た診断データは区別できる可能性が大きい。ニューラル
ネットワークの構成がさらに複雑になると、この傾向は
一層顕著になり、図２６，図２７で述べた確認計算は不
要なことが多くなる。

【０１６８】当然、本発明になる解析的な方法でも、診
断時の確認計算をできるだけ不要にしたい。このこと
は、出力が複数個ある場合にはある程度可能になる。こ
れを図２４及び同様な回路構成をした図２８のネットワ
ークで説明する。まず、第一の出力については、図２４
及びそれに関連して説明した方法でニューラルネットワ
ークの構成と各部の結合係数を求める。この場合の入力
に関する最初の重み（結合係数）を、図示の如くＫｉで
表示する。次に図２８の第二の出力を求める場合には、
図２４に関連して説明した各項目を満足する範囲内で、
入力に関する最初の重み(結合係数)を第一の出力の計算
の場合とは異なった値とし、これを図示の如くＫｉ′で
示す。更に、その他の出力がある場合には、同様に入力
に対する最初の結合係数を、第一，第二の出力計算のた
めに使用したものとは異なる値を使用する。これによ
り、仮に図２４による第一の出力では、前記の説明のよ
うに、学習データと診断データとの差異が現われなくて
も、図２８に示す第二の出力では入力に対する重み(結
合係数)を変更しているために、差異が現われる可能性
が高まり、結局、複数の出力データ全体としては、図２
６で説明したような学習データと診断データの相違を検
出できる可能性が多くなるという効果がある。

【０１６９】この方法によれば、中間層の層数やニュー
ロン数が明確になっているだけでなく、学習すべき結合
係数の個数を大幅に少なくできるので、学習時間を短縮
できる効果がある。特に、すでに逆伝搬学習をするプロ
グラムを所有している場合には、プログラムの修正は容
易であり、本発明の長所を取り入れて、しかも従来の各
種の機能も利用できるという効果がある。

【０１７０】以上述べた各種の手法によって、従来の繰
り返し法による学習完了と同等の状態が、能率よく実現
できる。従って、これらの計算に用いた、いずれかの入
力データを使用すれば、予め定めた教師データに全く等
しいか、あるいはそれに極めて近似した計算値が出力さ
れる。予め以上のように取り扱うケースの数を十分多く
しておけば、今まで全く入力したことがないものについ
ても、類似した入力のケースに近似した出力が得られる
ので、各種の認識や診断に利用できる。

【０１７１】次に、本発明の方式で計算した場合の結果
と、従来方式の逆伝搬学習則で計算した場合の結果との
比較について説明する。比較は、周知の方法でＧＩＳの
コロナノイズを測定して、フレキシブル・ディスクに保
存していたデータを、周波数分析し代表的な数値を読み
出したものに基づいて行った。

【０１７２】従来方式の逆伝搬学習則については、表１
２に示すようなニューラルネットワークを用いた。供試
ＧＩＳの構造を判別することを目的として、出力層から
の出力の個数は３個とした。最大８（＝２＊２＊２）種
類まで判別することをめざしている。

【０１７３】

【表１２】

【０１７４】各ケースの望ましい３つの出力（教師デー
タ）としては、表１３を指定した。

【０１７５】

【表１３】

【０１７６】従来方式の逆伝搬学習法で計算した出力の
例を表１４，表１５に示す。

【０１７７】

【表１４】

【０１７８】

【表１５】

【０１７９】学習回数の数え方としては、ここでは、各
ケースを１回ずつ学習して全ケースを一巡した状態を、
１回と数える。表１４は、学習回数が４００回及び８０
０回の場合であり、表１５は学習回数が１２００回の場
合である。計算出力は、表１３で全く一致するのが理想
であるが、この場合には完全には一致しない。少なくと
も、出力として０を期待する場合に、０.５以上の数値
は許容し難い。同様に、出力として１を期待する場合
に、０.５未満の数値は許容できない。このように、許
容し難い数値には、アンダーラインを付けて示した。学
習回数が、400回，８００回及び１２００回と増すにつ
れて、アンダーラインの付いた数値は、７個，３個の及
び２個と減少し、計算精度が高まって行くことがわか
る。その計算に要する時間と計算打切り時点における各
ケースの誤差の和も同時に示した。この例題では、１２
００回の学習には、５時間２０分以上も要すること、あ
る程度学習回数が多くなると、誤差の減少がゆるやかに
なること等がわかる。この例で、送効搬学習則で計算を
する場合、学習回数や全誤差もＣＲＴ（Cathode RayTub
e）に表示しながら、計算を進めている。その表示によ
ると、全誤差は学習回数に対して、単調には減少せず、
ある程度小さくなったかと思うと、突然大きくなったり
しながら、全体的な傾向は、少しずつ減少して行く。一
般的に云えば、表１５の状態でも、まだまだ計算精度は
不十分と考えられ、さらに、学習が必要と考えられる。

【０１８０】次に、同じ入力データを用いて、本発明の
図１及び図１２を併用した方式による計算結果を表１６
に示す。

【０１８１】

【表１６】

【０１８２】この表から明らかなように、小数点以下第
４位四捨五入では、計算出力は、表８に示した教師デー
タに完全に一致した。また、結合係数の計算に要する時
間は、約０.８４秒であった。本発明による方式では、
解析的に計算しており、数値を収束させるための繰り返
し計算がないので、計算時間は非常に短い。

【０１８３】本実施例によれば、次のような効果があ
る。

【０１８４】(1) 入力データと教師データから、ニュー
ラルネットワークの中間層の層数やそのニューロン数を
決定でき、さらに各部の結合係数を解析的に計算でき
る。従って、長時間を要する従来の逆伝搬の繰り返し学
習が不要となり、データの入力から、認識，診断までの
時間を短縮できるという効果がある。

【０１８５】(2) 従来は、中間層の層数やそのニューロ
ン数の選択に、カット・アンド・トライをする時間があ
る程度必要であったが、その時間が不要となった。これ
により、計算を能率良く進めることができるという効果
がある。

【０１８６】(3) 入力データや教師データの多い、大規
模なニューラルネットワークにも適用できるという効果
がある。

【０１８７】(4) 入力データを教師データとともに追加
した場合には、追加に値したか否かを判断でき、もし、
無益と判断した場合には、計算機のメモリ節約のため
に、追加を取り消すことができるという効果がある。

【０１８８】(5) 繰り返し学習が不要になったことか
ら、より経済的な計算機、例えば、book型パソコン等で
も、ニューロン間の結合係数の算出から、診断まででき
る可能性が出てきた。

【０１８９】(6) 以上述べた、本発明で得られた知見
を、逆伝搬方式の従来の繰り返し学習を要するニューラ
ルネットワークに併用すれば、中間層の層数やそのニュ
ーロン数が明らかになっているほかに、各部の結合係数
相互間の関係も明らかになっているので、実際に学習を
要する結合係数の数は非常に少ないので、学習に要する
時間が、大幅に短縮できるだけでなく、従来のプログラ
ムの機能を利用できるので便利であるという効果があ
る。

【０１９０】(7) 入力データのケース数が多い場合に
は、これらのケースを何らかの特徴に着目して、複数の
型に分類し、その各々について学習と診断をするように
したので、類似した、紛らわしいケースについても、診
断の精度が高まるという効果がある。

【０１９１】(8) ばらつきのある入力データに対して、
そのばらつきの範囲内ならば、確実に正解を出せるとい
う効果がある。

【０１９２】(9) 入力データを分類するための、初段の
結合係数のよい選定法が明らかになり選定能率が高まっ
たという効果がある。

【０１９３】(10)入力データを分類するために、一部の
データに対しては、そのデータを直接に用いないで、場
合によっては、その逆数を利用することによって、能率
良く入力データの振り分けが可能であるという効果があ
る。

【０１９４】(11)学習しなかったデータに対しては、診
断の際に、従来通り前後の関係から推定することも、学
習しなかったことを、『？』など適当な言葉で表現した
り、学習したデータから、離れている程度も明示できる
等、より正確な診断が可能であるという効果がある。

【０１９５】(12)診断した入力データに対する正解の教
師データがある場合には、診断した入力データと、その
正解教師データを、能率良く学習データに追加できるよ
うにした。これにより、診断の精度が能率良く高められ
るという効果がある。

【０１９６】(13)診断データを入力して、出力を計算
し、その出力の値から最も類似した学習ケースを論理的
に正しい方法で、精度良く推定することが可能になっ
た。

【０１９７】以上の説明では、主として、ソフトウエア
として説明してきたが、当然同様な機能を持ったハード
ウエアとしても実現することが可能であり、本発明の適
用できる分野は、先にも述べたように工学の範囲に止ま
らず、バイオテクロノジーや医療分野，農林業，教育，
経済，その他の各種の分野で、非常に広範囲な利用，応
用が期待できる。

【０１９８】

【発明の効果】本発明によれば、ニューラルネットワー
ク等のようなシステムにおいて、結合係数を精度良く、
また、容易に得ることができ、中間層の層数やニューロ
ン数を容易に決定することができる。

【図面の簡単な説明】

【図１】本発明の一実施例を示す図である。

【図２】従来例を示す図である。

【図３】教師データの変化１回の例を示す図である。

【図４】教師データの変化１回の場合を示す図である。

【図５】教師データの変化２回と合成法を示す図であ
る。

【図６】教師データの変化２回の場合を示す図である。

【図７】教師データの変化３回と合成法を示す図であ
る。

【図８】教師データの変化３回の場合を示す図である。

【図９】教師データの変化１回の例（その２）を示す図
である。

【図１０】教師データの変化２回と合成法（その２）を
示す図である。

【図１１】教師データの変化３回と合成法（その２）を
示す図である。

【図１２】演算実行中の値と入力，出力の換算例を示す
図である。

【図１３】学習データ分類例を示す図である。

【図１４】ばらつきを考慮した学習データを示す図であ
る。

【図１５】教師データの変化１回の例を示す図である。

【図１６】教師データの変化１回のニューラルネットを
示す図である。

【図１７】大部分重なった学習データの実施例を示す図
である。

【図１８】大部分重なった学習データの実施例を示す図
である。

【図１９】特定のデータは逆数を使用する方法（その
１）を示す図である。

【図２０】特定のデータは逆数を使用する方法（その
２）を示す図である。

【図２１】ばらつきのある４ケースのデータ例を示す図
である。

【図２２】教師データの変化３回と合成法（その１）を
示す図である。

【図２３】教師データの変化３回と合成法（その２）を
示す図である。

【図２４】ニューラルネットワークの構成例（教師デー
タの変化３回の場合）を示す図である。

【図２５】診断データとその正解を学習データに取り込
む例を示す図である。

【図２６】学習データと診断データを示す図である。

【図２７】ばらつきを考慮した学習データと診断データ
を示す図である。

【図２８】第二出力を求める際の入力に対する結合係数
例を示す図である。

【符号の説明】

Ｘ₁，Ｘ₂，Ｘ₃，Ｘ₄，Ｘ₅，Ｘ_n…入力、Ｗ₁，Ｗ₂，
Ｗ₃，Ｗ₄…重み(結合係数)、Ｋｉ，Ｗａ，Ｗｂ…重み
（結合係数）、Ｕ₁…第１中間層への入力、Ｖ₁…第１中
間層からの出力、Ｓ₁，Ｓ₂，Ｓ₃，Ｓ₄，Ｓ₅，Ｓ_n…各ケ
ースの入力総和。

Claims

【特許請求の範囲】

【請求項１】入力層，中間層及び出力層とを有するニュ
ーラルネットワークを用いた認識又は診断方法におい
て、前記入力層に入力される学習データをその特徴に着目し
て複数の型に分類し、前記各型毎に学習データを入力し、各ケース毎について
総和を求め、前記出力層の各出力毎に対応する教師デー
タと前記各総和をその大きさの順に対応させ、前記総和
が最大のケースに対応する教師データと、教師データが
変化する前後の総和及びその教師データとに着目して各
部の結合係数を求めることを特徴とした認識又は診断方
法。
【請求項２】入力層，中間層及び出力層とを有するニュ
ーラルネットワークを用いた認識又は診断方法におい
て、前記入力層に入力される各ケース毎の入力データの上限
値及び下限値に着目して、各ケースについて各値毎に入
力データを入力し、各ケース毎について総和を求め、前
記出力層の各出力毎に対応する教師データと前記各総和
をその大きさの順に対応させ、前記総和が最大のケース
に対応する教師データと、教師データが変化する前後の
総和及びその教師データとに着目して各部の結合係数を
求めることを特徴とした認識又は診断方法。
【請求項３】請求項２記載の認識又は診断方法におい
て、前記入力層に入力される入力データは、前記上限値
及び下限値に同一の結合係数を乗じた値であることを特
徴とした認識又は診断方法。
【請求項４】入力層，中間層及び出力層とを有するニュ
ーラルネットワークを用いた認識又は診断方法におい
て、前記入力層に入力される特定ケースの入力データの上限
値及び下限値から求めた２つの入力和の間に、前記特定
ケースとは異なるケースから求めた入力和が入らないよ
うに結合係数を選定し入力和を求め、前記入力和を入力データとして入力し、各ケース毎につ
いて入力総和を求め、前記出力層の各出力毎に対応する
教師データと前記各入力総和をその大きさの順に対応さ
せ、前記入力総和が最大のケースに対応する教師データ
と、教師データが変化する前後の入力総和及びその教師
データとに着目して各部の結合係数を求めることを特徴
とした認識又は診断方法。
【請求項５】請求項４記載の認識又は診断方法におい
て、前記特定ケースの教師データと前記特定ケースとは
異なるケースの教師データとは異なることを特徴とした
認識又は診断方法。
【請求項６】請求項１記載の認識又は診断方法におい
て、前記中間層が２つあり、前記総和が最大のケースに
対応する教師データが０である場合に、第２の中間層が
ＡＮＤ回路として、前記出力層がＯＲ回路として機能す
る様に結合係数を選定したことを特徴とした認識又は診
断方法。
【請求項７】請求項１記載の認識又は診断方法におい
て、前記中間層が２つあり、前記総和が最大のケースに
対応する教師データが１である場合に、第２の中間層が
ＯＲ回路として、前記出力層がＡＮＤ回路として機能す
る様に結合係数を選定したことを特徴とした認識又は診
断方法。
【請求項８】請求項１記載の認識又は診断方法におい
て、前記入力データは、各ケースについて、その逆数の
数値を用い前記入力データの大小関係を逆転させる演算
を施すことを特徴とした認識又は診断方法。
【請求項９】請求項１記載の認識又は診断方法におい
て、ニューラルネットワークの主要部を構成する結合係
数の算出に逆伝搬の繰り返し学習法を用いたことを特徴
とした認識又は診断方法。
【請求項１０】入力層，中間層及び出力層とを有するニ
ューラルネットワークを用いた認識又は診断方法におい
て、前記入力層に各ケース毎に学習データを入力し、各ケー
ス毎について総和を求め、前記出力層の各出力毎に対応
する教師データと前記各総和をその大きさの順に対応さ
せ、前記総和が最大のケースに対応する教師データと、
教師データが変化する前後の総和及びその教師データと
に着目して各部の結合係数を求め、診断用データが入力された際、前記学習データとして指
定したばらつきの範囲から外れた場合にはその事実を表
示することを特徴とした認識又は診断方法。
【請求項１１】入力層，中間層及び出力層とを有するニ
ューラルネットワークを用いた認識又は診断方法におい
て、前記入力層に各ケース毎に学習データを入力し、各ケー
ス毎について総和を求め、前記出力層の各出力毎に対応
する教師データと前記各総和をその大きさの順に対応さ
せ、前記総和が最大のケースに対応する教師データと、
教師データが変化する前後の総和及びその教師データと
に着目して各部の結合係数を求め、診断用データを入力する場合、診断用データに対する正
解が判明している時には、診断後に診断用データと対応
する正解を学習データの一部として転送することを特徴
とした認識又は診断方法。
【請求項１２】入力層，中間層及び出力層とを有するニ
ューラルネットワークを用いた認識又は診断方法におい
て、前記入力層に各ケース毎に学習データを入力し、各ケー
ス毎について総和を求め、前記出力層の各出力毎に対応
する教師データと前記各総和をその大きさの順に対応さ
せ、前記総和が最大のケースに対応する教師データと、
教師データが変化する前後の総和及びその教師データと
に着目して各部の結合係数を求め、診断用データが入力された後、診断用データに対する出
力を計算し、その出力から確からしい少なくとも一つの
学習データを推定し、診断用データとその学習データと
を比較し、その結果を表示することを特徴とした認識又
は診断方法。
【請求項１３】請求項１２記載の認識又は診断方法にお
いて、前記推定された学習データがばらつきを有するも
のであって、前記診断用データと前記ばらつき範囲を有
する学習データとを比較し、その結果を表示することを
特徴とした認識又は診断方法。
【請求項１４】請求項１記載の認識又は診断方法におい
て、前記入力層の各入力データに乗ずる最初の結合係数
とその他の結合係数とを異なる値に選定したことを特徴
とした認識又は診断方法。
【請求項１５】診断用データと学習データとを直接比較
し、診断用データと特定ケースの学習データとが全て一
致しているか，部分的に一致しているか、又は全く一致
していないかを分類する機能を有し、その結果を表示す
ることを特徴とした認識又は診断方法。
【請求項１６】診断用データとばらつき範囲を有する学
習データとを直接比較し、診断用データが、全て前記範
囲内にあるか，部分的に前記範囲内にあるか、又は全く
前記範囲内にないかを分類する機能を有し、その結果を
表示することを特徴とした認識又は診断方法。
【請求項１７】ばらつき範囲を有する入力データの上限
値及び下限値に着目し、この上限値及び下限値について
ニューロンへの入力の計算式を用いて連立方程式を作成
し、この連立方程式を解くことにより結合係数を求め、
この結合係数に基づきニューラルネットワークを利用す
ることを特徴とする認識又は診断方法。
【請求項１８】入力層，中間層及び出力層を有し、各層
間が結合係数によって重み付けされているニューラルネ
ットワークを用いた認識又は診断方法において、前記結合係数を決定するための教師データを自ら評価す
る能力を有することを特徴とした認識又は診断方法。
【請求項１９】複数の条件下で使用される電気回路を有
し、前記回路の診断をニューラルネットワークを用いて
行う装置であって、前記複数の条件を学習データとして
取り込み、前記ニューラルネットワークを構成する結合
係数を決定することを特徴とした装置。