JPH0793160A - 推論装置 - Google Patents

推論装置

Info

Publication number
JPH0793160A
JPH0793160A JP5256531A JP25653193A JPH0793160A JP H0793160 A JPH0793160 A JP H0793160A JP 5256531 A JP5256531 A JP 5256531A JP 25653193 A JP25653193 A JP 25653193A JP H0793160 A JPH0793160 A JP H0793160A
Authority
JP
Japan
Prior art keywords
inference
learning
neural network
module
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP5256531A
Other languages
English (en)
Inventor
Masaya Ono
雅也 小野
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Toshiba Corp
Original Assignee
Toshiba Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Toshiba Corp filed Critical Toshiba Corp
Priority to JP5256531A priority Critical patent/JPH0793160A/ja
Publication of JPH0793160A publication Critical patent/JPH0793160A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Image Analysis (AREA)

Abstract

(57)【要約】 【目的】 推論装置において、対象系の構造的な変化へ
の適応性と、推論結果の多様性の保持による、解の探索
範囲の適切な拡大及び解の正確な記述を可能とする。 【構成】 与えられたデータを解釈し、これらのデータ
を推論ルールに適用して推論結果を得る推論装置におい
て、データ取り込み手段とニューラルネットワークから
なる複数の推論ルールを有するルールモジュールセット
と推論格納手段とからなる推論部と、前記推論部で使用
する各モジュールを変更操作して構成を最適化すると共
に、各ニューラルネットワークの学習を行ない、かつこ
れらの最適なルールモジュールを自動探索する構成探索
部とを備えた。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は推論装置、特に学習能力
を持った知識ベースシステムの推論装置に関する。
【0002】
【従来の技術】近年、知識ベースをもとに観測又は与え
られたデータを解釈し、結論,結果を推論,推測する推
論装置の開発が、各種診断,認識,制御,意志決定など
の分野で盛んに行なわれている。これら従来の推論装置
は、対象分野の専門家が持つ経験的知識をプロダクショ
ンルールで表現し、知識ベースに蓄積することで、専門
的な問題解決を可能としている。ところがこれらの推論
装置は、専門家からの知識の獲得及び知識の更新に多大
の時間と労力を要するという問題があった。
【0003】一方、学習データから自動的に入出力関係
を実現するニューラルネットワークが脚光を浴び、パタ
ーン認識,制御など様々な分野への適用が検討されてい
る。ニューラルネットワークは、対象分野に対する知識
を予め必要としないという長所を持っている。
【0004】
【発明が解決しようとする課題】ところが、従来のニュ
ーラルネットワークは予め入力変数と出力変数が決めら
れているので、対象となる系の変化への対応を図る場
合、例え、これらの変数間の関係を学習により更新する
ことはできても、用いる入出力変数を切替えることは不
可能であり、対象系の変化への対応に限界があった。更
に、従来のニューラルネットワークは、いわゆる1:1
の関係が成立する変数間の関係づけのみ可能であるが、
推論装置では後向き推論の実行時などに同じ入力変数に
対し出力変数が異なるという状況も発生する。
【0005】この場合可能な出力を複数提示できること
が、推論の解候補数を増加させ、推論結果の正確な表現
及び広範囲の解の探索を行なう上で望ましいが、従来の
ニューラルネットワークを推論装置に適用する場合、上
記の理由によりこれは不可能である。即ち、従来のニュ
ーラルネットワークでは、可能な出力変数の統計的な平
均値を出力してしまい、いずれの学習データとも十分に
一致しない場合が発生する可能性がある。本発明は上記
事情に鑑みてなされたものであり、対象系の構造的な変
化への適応性を有するばかりか、推論結果の多様性の保
持による、解の探索範囲の適切な拡大及び解の正確な記
述の可能な推論装置を提供することを目的としている。
【0006】
【課題を解決するための手段】本発明の[請求項1]に
係る推論装置は、与えられたデータを解釈し、これらの
データを推論ルールに適用して推論結果を得る推論装置
において、データ取り込み手段とニューラルネットワー
クからなる複数の推論ルールを有するルールモジュール
セットと推論格納手段とからなる推論部と、前記推論部
で使用する各モジュールを変更操作して構成を最適化す
ると共に、各ニューラルネットワークの学習を行ない、
かつこれらの最適なルールモジュールを自動探索する構
成探索部とを備えたこ。
【0007】本発明の[請求項2]に係る推論装置は、
[請求項1]において、構成探索部での自動探索を、ジ
ェネティックアルゴリズムによって行なうようにした。
【0008】本発明の[請求項3]に係る推論装置は、
[請求項1]において、推論ルールの実現要素であるニ
ューラルネットワークの学習に際し、学習時に期待され
る精度で学習されなかった場合、当該学習データを分別
し、これを別のニューラルネットワークに分割して学習
させるようにした。
【0009】
【作用】本発明の[請求項1]に係る推論装置は、動作
において以下に示す3つのモードを有している。先ず、
第1は推論実行モードであり、この場合は推論に必要な
ルールモジュールの構成、及び構成要素であるニューラ
ルネットワークの調整が既に完了した後における推論部
Aの動作である、したがって、この場合は構成探索部B
は関係せず、取り込まれたデータをルールモジュールセ
ット2の夫々に適用して推論し、その結果を推論結果格
納手段3に格納する。
【0010】第2はモジュール構成探索モードであり、
この場合は推論部Aのルールモジュールセットを複数の
ニューラルネットワークにより構成するに際し、これら
のニューラルネットワークの最適化を行なうものであ
る。そしてルールモジュールセットの構成は記号列にて
表現されているため、この記号列に対する変更操作によ
り構成が最適化される。又、構成要素であるニューラル
ネットワークの学習はモジュール調整モードにて行なわ
れる。なお、[請求項2]では構成探索部での自動探索
をジェネティックアルゴリズムとして精度向上を図り、
[請求項3]では学習時に期待される精度で学習されな
かった場合に、学習データを分別して他のニューラルネ
ットワークにて分割して処理させるようにした。
【0011】
【実施例】以下図面を参照して実施例を説明する。図1
は本発明の[請求項1]に係る推論装置の一実施例の構
成図である。そして、この推論装置は一例として、医療
診断に供され、患者の年齢,性別,身長,体重,体温,
血圧,脈拍数,血液の各成分、その他疾患に伴なう咳な
どの症状から、異常の診断及び疾患の原因推定を行な
う。ここでの診断過程の特徴としては、推論が多段階に
行なわれることである。即ち、入力データから一旦、中
間推論結果が出力され、これをもとに推論を繰り返して
最終的な診断結果を示す。又、動物の診断などにおいて
は、新たな動物の診断のために推論装置の構成を再編成
する必要が生じる。
【0012】この推論装置の構成は大きく分けて、推論
部Aと構成探索部Bとで構成されている。推論部Aは、
データ取り込み手段1、複数ニューラルネットワークの
組合せにより構成されるルールモジュールセット2、推
論結果格納手段3とで構成されている。構成探索部B
は、学習データベース4、複数のニューラルネットワー
クの組合せにより構成されるルールモジュールセットを
複数格納するモジュールセット格納部5、出力格納器
6、ニューラルネットワーク学習器7、誤差値格納器
8、荷重値修正器9、エンコーダ10、デコーダ11、モジ
ュールコードテーブル12、モジュール評価値算出手段1
3、モジュール変更手段14、モジュール呼び出し・書込
み手段15、モジュールコードデータベース16、最適モジ
ュール選択手段17、学習制御器18、切替えスイッチ19,
20,21とで構成されている。
【0013】このように構成された装置は、以下に示す
3つのモードで動作する。推論実行モード、モジュ
ール構成探索モード、モジュール調整モード。そし
て、これらの切替えは学習制御器18によって行なわれ
る。以下、各部の機能モード毎に説明する。
【0014】1.推論実行モード この推論実行モードは、推論に必要なルールモジュール
セットの構成及び構成要素であるニューラルネットワー
クの調整が既に終了した後での推論部Aの動作である。
したがって、この動作では構成探索部Bは関係しない。
この切離しは、学習制御器18からの信号により、切替え
スイッチ19が(1)で示す端子側に切り替わることによ
って行なわれる。このモードでは、データ取り込み手段
1から与えられた入力データに対して、ルールモジュー
ルセット2が予め定められたルールに従って推論を行な
う。このルールモジュールセット2は複数のニューラル
ネットワークにより構成される。この構成の一例が図2
に示されている。
【0015】この例では、年齢,性別,身長,体重,体
温,血圧,脈拍数,赤血球数,白血球数,ヘマトクリッ
ト,アルブミン,血清タンパク量,血糖,血清総脂肪
量,尿酸,扁桃腺の炎症,咳の17項の入力項目から、
中間推論結果として体力の消耗,呼吸器系の異常,循環
器系の異常,消化器系の異常の4項目の診断結果を出力
し、更にこれらの中間推論結果と入力項目の一部の値と
から異常なし,過労,風邪,心臓疾患,糖尿病,肝臓障
害,腎臓障害,動脈硬化の8項目に関する診断結果を最
終的に出力する。
【0016】入力項目から中間推論結果を導出する処理
はニューラルネットワーク1(NN1),ニューラルネ
ットワーク2(NN2),ニューラルネットワーク3
(NN3),ニューラルネットワーク4(NN4)によ
って行なわれる。中間推論結果と入力項目の一部の値か
ら最終的な診断結果を導出する処理は、ニューラルネッ
トワーク5(NN5),ニューラルネットワーク6(N
N6),ニューラルネットワーク7(NN7)によって
行なわれる。これらの各ニューラルネットワークは入力
層,1層又は多層からなる中間層及び出力層から構成さ
れ、予め学習データとして与えられる入力データと出力
データとの関係づけを行ない、入出力データとの間に望
ましい1:1の関係が実現されている。
【0017】2.モジュール構成探索モード このモードでは、推論部Aのルールモジュールセットを
複数のニューラルネットワークにより構成する方法の最
適化が構成探索部Bより実行される。ここでの構成と
は、ニューラルネットワークの入力変数と出力変数、及
び各ニューラルネットワークの接続を意味している。各
ルールモジュールセットの構成は後述する記号列により
表現され、この記号列に対する変更操作により構成が最
適化される。構成要素であるニューラルネットワークの
学習は、後述するモジュール調整モードで行なわれる。
構成探索部Bの作用は以下の通りである。
【0018】(a)学習制御器18からの信号により切替
えスイッチ19が(2)で示す端子側に切り替わり、推論
部Aと構成探索部Bとが接続する。 (b)同じく切替えスイッチ20,21が(2)で示す端子
側に切り替わることにより、複数のルールモジュールセ
ットからなるルールモジュールセット群が後述するエン
コーダ10,デコーダ11に接続する。 (c)学習制御器18からの信号により、後述するニュー
ラルネットワーク学習器7が停止状態になる。 (d)モジュールセット格納部5に格納されている複数
のルールモジュールセット各々の構成が、エンコーダ10
により記号列として表現され、モジュールコードテーブ
ル12に格納される。
【0019】記号列の表現方法は以下の通りである。 ・入力項目,診断結果,中間推論結果の各々の項目に通
して番号をつける。図2の例では、入力項目が1から1
7,診断結果が18から25,中間推論結果が26から
29と番号づけされている。 ・1つのニューラルネットワークは、その入力項目と出
力項目との組合せにより表現される。各項目はまとめて
()により記述され、夫々の()の組により1つのニュ
ーラルネットワークが表される。図2のニューラルネッ
トワーク1(NN1)は、{(1,2,3,4,5,
6,7,13),(26)}と表現される。
【0020】・複数のニューラルネットワークの接続方
法には並列と直列があり、それらは各々//,+で表され
る。図2の例では、ニューラルネットワーク1,2,
3,4(NN1,NN2,NN3,NN4)が並列接続
し、ニューラルネットワーク5,6,7(NN5,NN
6,NN7)が並列接続し、そしてそれらが直列に接続
しているため、{NN1//NN2//NN3//NN4}+
{NN5//NN6//NN7}と表現される。なお、これ
らのニューラルネットワークの接続は多重に組合せるこ
とが可能である。例:{{A//{B+C}}+D}。
【0021】(e)又、エンコーダ10は、後述する誤差
値格納器8に格納されている各ルールモジュールセット
の学習データに対する誤差値を取り込み、モジュールコ
ードテーブル12に格納する。
【0022】(f)モジュール評価値算出手段13は、学
習制御器18からの信号により、モジュールコードテーブ
ル12に格納されている各記号列の評価値(以下、モジュ
ール評価値と記述)を計算する。学習データへの学習精
度と、ルールモジュールセット構成の単純性を以下の項
目により評価する。 ・ルールモジュールセットの学習データに対する誤差値
E。 ・ルールモジュールセットを構成するニューラルネット
ワークの数N。 ・ルールモジュールセットを構成する各ニューラルネッ
トワークのユニット数U。とすると、
【数1】 ただし、α,β,γは各項目の重みづけ係数である。
又、上の例では評価値は大きい程良好であることを示し
ている。
【0023】(g)モジュール変更器14は、算出された
モジュール評価値をもとに、モジュールコードテーブル
12に格納されている記号列の書き替えを行ない、更に良
好なモジュール構成を探索する。この例では、この探索
にジェネティックアルゴリズムを用いており、これが
[請求項2]に示される。これは以下のように行なわれ
る。 i.モジュールコードテーブル12からモジュール評価値
に比例した確率で記号列を選択する。これによって、評
価値の高い記号列の選択される確率が増す。
【0024】ii.選択された記号列に対して、遺伝オペ
レータを作用させ、新しい記号列を作成する。ジェネテ
ィックアルゴリズムの基本的な遺伝オペレータとして
は、次のようなものがある。 ・Crossover (交差):2つの記号列から交差点をラン
ダムに選択し、交差点以降の文字列を入れ替える。 ・Mutation(突然変移):文字列を構成する文字をラン
ダムに入れ替える。 ・Inversion (逆転):部分列の並び方を逆転する。 ここではモジュールセットの特性を反映させ、以下のオ
ペレータを定義する。各オペレータは夫々作用する確率
が設定されており、これに応じてオペレータが作用す
る。
【0025】追加…1つのニューラルネットワークの入
力又は出力項目を追加する。例:{a,b}→{(a,
c),b}。a:もとの入力項目,b:もとの出力項
目,c:追加された出力項目。 分割…1つのニューラルネットワークの入力又は出力項
目を分割し、複数のニューラルネットワークを生成す
る。例:{(a,c),b}→{a,b}//{c,
b}。 挿入…1つのニューラルネットワークに中間推論結果の
項目を示す層を挿入し、複数のニューラルネットワーク
を生成する。例:{a,b}→{a,c}+{c,
b}。 削除…1つのニューラルネットワークの入力又は出力項
目を削除する。これは追加と逆の操作である。例:
{(a,c),b}→{a,b}。
【0026】合成…複数のニューラルネットワークの入
力又は出力項目を合わせて、1つのニューラルネットワ
ークにする。これは分割と逆の操作である。例:{a,
b}//{c,b}→{(a,c),b}。 縮約…複数のニューラルネットワークから中間推論結果
の項目を示す層を外して、1つのニューラルネットワー
クにする。これは挿入と逆の操作である。例:{a,
c}+{c,b}→{a,b}。 交差…2つのモジュールセットに共通のモジュール接続
記号以下のモジュールを交換する。このとき前後のモジ
ュールとの入出力の整合性を調べ、不整合部分の解消処
理又は交差処理の制御も行なう。例:モジュール1
{A}+{B}、モジュール2{C}+{D}→モジュ
ール1′{A}+{C}、モジュール2′{C}+
{B}。
【0027】iii.新しく作成された記号列をモジュール
コードテーブル12のモジュール評価値の低い記号列と置
き替える。なお、新しい記号列の作成時に、後述するモ
ジュールコードデータベース16から適当な記号列を呼び
出し利用することも行なわれる。これは、すべてのモジ
ュール評価値が同じ極値に捕らわれてしまうことや、最
適解に近いモジュールセットが消去されるといった、望
ましくない状態が発生することを防止するための処理で
ある。モジュール変更手段14により変更された記号列
は、デコーダ11によって解釈され、対応するルールモジ
ュールセットの更新が行なわれる。
【0028】(h)モジュール呼び出し・書込み手段15
は、モジュールコードデータベース16に貯蔵されている
記号列からランダムに、又はモジュールコードテーブル
12に格納されている記号列に応じて、記号列を取り出
す。又、モジュール変更手段14にて新しく記号列が作成
された場合に、それをモジュールコードデータベース16
に書き込む処理も行なう。
【0029】(i)最適モジュール選択手段17は、学習
制御器18の信号により最も評価値の高い記号列を取り出
す。そしてこの評価値が所定の水準に達している場合デ
コーダ11へ送る。この記号列は対応するルールモジュー
ルセットに変換され、推論部Aのルールモジュールセッ
ト2を実現する。そして学習制御器18は、切替えスイッ
チ19を(1)で示す端子側に切替えることにより、動作
モードを推論実行に切替える。ここで評価値が所定の水
準に達していない場合は、その旨を伝える信号が学習制
御器18に送られ、モジュール構成探索処理が続行され
る。
【0030】3.モジュール調整モード このモードでは、ルールモジュールセットの構成が設定
された状態で、ルールモジュールの実現要素であるニュ
ーラルネットワークが、予め用意されている入力データ
とそれに対する推論結果を学習する。学習制御器18から
の信号により、切替えスイッチ19,20,21が(3)で示
す端子側に切り替わり、モジュールセット格納部5がモ
ジュールコードテーブル12から切り離される。
【0031】ニューラルネットワーク学習器7は、学習
制御器18からの信号により作動し、学習データベース4
に格納されている入力データを、モジュールセット格納
部5に格納されている複数のルールモジュールセットに
入力する。学習データベース4は、診断に用いられる入
力項目及び中間推論結果と、それに対する推論結果とが
対になって、学習データとして格納されている。
【0032】ルールモジュールセットへ入力されたデー
タに対して、各ニューラルネットワークが推論を行な
い、その結果を出力格納器6に格納する。ニューラルネ
ットワークの学習が完了する前の時点では、正しい推論
結果が得られるとは限らない。そこで誤差値格納器8
は、学習データベース4に格納されている正しい推論結
果と、出力格納部6に格納されている結果との比較を行
ない、この差を学習誤差として誤差値格納器8に格納す
る。
【0033】ニューラルネットワーク学習器7は、この
学習誤差が所定の許容範囲を越えており、かつ学習回数
が所定回数に達していない場合、荷重値修正手段9に対
して信号を送り、この評価量をもとにルールモジュール
を構成するニューラルネットワークの荷重値を修正す
る。この評価量から荷重値修正量の計算にはバックプロ
パゲーションアルゴリズムを用いる。バックプロパゲー
ションは良く知られたニューラルネットワークの学習ア
ルゴリズムであり、これはニューラルネットワークの実
際の出力と学習データとの差である学習誤差を小さくす
るために、荷重値をどの程度修正すべきかという修正量
を与えるものである。
【0034】以上、各部の機能を分りやすくするために
モード別に説明したが、実際にはモジュール構成探索モ
ードにおいて、新しいルールモジュールセットが作成さ
れる度にモジュール調整モードに切り替わり、モジュー
ルの構成要素であるニューラルネットワークの学習が行
なわれる。そして学習終了後、再びモジュール構成探索
モードに切り替わり、モジュール構成が変更される。こ
れらの処理は終了条件が満たされるまで繰り返される。
そして終了条件が満たされると推論実行モードに切り替
えられる。
【0035】上記実施例によれば、ルールモジュールセ
ットの構成及び各ルールモジュールの調整を自動的に行
なうので、短時間かつ容易に装置を構築できる。又、ル
ールモジュールセットの構成を最適化することで、ルー
ルモジュールであるニューラルネットワークの学習のみ
では対応することのできない対象系の構造的な変化に対
応することができる。これは医療診断装置に関しては、
動物の診断装置において対象となる動物が変化した場合
に相当する。なお、本実施例は上述した実施例に限定さ
れるものではなく、入力データに基づく診断処理に適用
できる。
【0036】図3は本発明の[請求項3]に対応する実
施例であり、ニューラルネットワーク及びその学習装置
(以下、学習システムと記述)の構成図が示されてい
る。これは予め与えられている学習データの学習を行な
うものであり、上記実施例における構成探索部Bのモジ
ュール調整モードと基本的には同一である。ここでの特
徴は、ニューラルネットワークに学習させる入力データ
と出力データの関係が1:1でない場合に、学習データ
を分割し、これを別のニューラルネットワークに学習さ
せることである。これにより、同一の入力に対して複数
の出力が対応する学習データの学習を可能になる。
【0037】図3は図1の該当部分に対応してあり、図
1と同一部分については同一符号を付して説明を省略す
る。本実施例で新たに付加したものは、ニューラルネッ
トワーク複製器22と学習データ分割器23である。ニュー
ラルネットワーク学習器7は、学習データベース4に格
納されている入力データを、ニューラルネットワーク格
納部5に格納されているニューラルネットワーク1に入
力する。この時点では格納されているニューラルネット
ワークはニューラルネットワーク1のみである。学習デ
ータベース4には、入力データ及び出力データとが対に
なって、学習データとして格納されている。その入出力
関係は図4に示すように、同じ入力に対して異なる出力
が対応するものも含まれている。
【0038】ニューラルネットワーク1に入力されたデ
ータに対する出力は、出力格納器6に格納され、これと
望ましい出力データとの差が誤差値格納器8により計
算,格納される。ニューラルネットワーク学習器7は、
この誤差値が許容範囲を越えており、かつ学習回数が所
定回数に達していない場合、荷重値修正器9に対して信
号を送り、この誤差値をもとにニューラルネットワーク
の荷重値を修正する。この誤差値から荷重値修正量の計
算にはバックプロパゲーションアルゴリズムを用いる。
【0039】バックプロパゲーションは良く知られたニ
ューラルネットワークの学習アルゴリズムであり、これ
はニューラルネットワークの実際の出力と学習データと
の差である学習誤差を小さくするために、荷重値をどの
程度修正すべきかという修正量を与えるものである。し
かし、図4のようなデータを学習した場合、ニューラル
ネットワークは図5のように学習データの平均的な値を
出力し、学習の誤差はある値以下に減少しない。この場
合、以下の手順により再学習を行なう。
【0040】先ず、ニューラルネットワーク学習器7か
らの信号により、ニューラルネットワーク複製器22はニ
ューラルネットワーク1とユニット数,荷重値ともに等
しいニューラルネットワーク2を複製し、ニューラルネ
ットワーク格納部5に格納する。次に、ニューラルネッ
トワーク学習器7からの信号により、学習データ分割器
23は学習データベース4の学習データを2分割し、夫々
ニューラルネットワーク1及びニューラルネットワーク
2に学習させる。この分割は以下の方法により行なう。
学習データの中から、最も学習誤差の大きいものを分離
し、ニューラルネットワーク1の学習を行なう。再学習
の結果、最も学習誤差の大きいものを再び分離し、学習
を繰り返す。この処理を誤差値が所定の要求水準以下に
なるまで続ける。
【0041】上記実施例によれば、同一の入力に対して
複数の出力が対応する学習データの学習が可能になる。
したがって、所定の入力に対する可能な出力を提示で
き、後向き推論をニューラルネットワークにより実現す
ることが可能になると共に、推論結果の多様性の保持に
よる、解の探索範囲の適切な拡大及び解の正確な記述が
可能になる。
【0042】
【発明の効果】以上説明したように、本発明によれば対
象系の構造的な変化への適応性と推論結果の多様性の保
持による解の探索範囲の適切な拡大及び解の正確な記述
が可能となる。又、[請求項1,2]では短時間かつ容
易に装置を構築でき、ルールモジュールセットの構成を
最適化することで、ルールモジュールであるニューラル
ネットワークの学習のみでは対応することのできない対
象系の構造的な変化に対応することができる。又、[請
求項3]では所定の入力に対する可能な出力を提示で
き、後向き推論をニューラルネットワークにより実現す
ることが可能になると共に、推論結果の多様性の保持に
よる、解の探索範囲の適切な拡大及び解の正確な記述が
可能になる。
【図面の簡単な説明】
【図1】本発明の[請求項1]及び[請求項2]に係る
一実施例の推論装置の構成図。
【図2】ルールモジュールセットの例。
【図3】本発明の[請求項3]に係る一実施例の学習シ
ステム構成図。
【図4】1:1の関係にない学習データの例。
【図5】図4の学習データを従来の学習方法で学習した
結果図。
【符号の説明】
A 推論部 B 構成探索部 1 データ取り込み手段 2 ルールモジュールセット 3 推論結果格納手段 4 学習データベース 5 モジュールセット格納部 6 出力格納器 7 ニューラルネットワーク学習器 8 誤差値格納器 9 荷重値修正器 10 エンコーダ 11 デコーダ 12 モジュールコードテーブル 13 モジュール評価値算出手段 14 モジュール変更手段 15 モジュール呼び出し・書込み手段 16 モジュールコードデータベース 17 最適モジュール選択手段 18 学習制御器 19,20,21 切替えスイッチ 22 ニューラルネットワーク複製器 23 学習データ分割器

Claims (3)

    【特許請求の範囲】
  1. 【請求項1】 与えられたデータを解釈し、これらのデ
    ータを推論ルールに適用して推論結果を得る推論装置に
    おいて、データ取り込み手段とニューラルネットワーク
    からなる複数の推論ルールを有するルールモジュールセ
    ットと推論格納手段とからなる推論部と、前記推論部で
    使用する各モジュールを変更操作して構成を最適化する
    と共に、各ニューラルネットワークの学習を行ない、か
    つこれらの最適なルールモジュールを自動探索する構成
    探索部とを備えたことを特徴とする推論装置。
  2. 【請求項2】 構成探索部での自動探索は、ジェネティ
    ックアルゴリズムによって行なうことを特徴とする請求
    項1記載の推論装置。
  3. 【請求項3】 推論ルールの実現要素であるニューラル
    ネットワークの学習に際し、学習時に期待される精度で
    学習されなかった場合、当該学習データを分別し、これ
    を別のニューラルネットワークに分割して学習させるこ
    とを特徴とする請求項1記載の推論装置。
JP5256531A 1993-09-20 1993-09-20 推論装置 Pending JPH0793160A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP5256531A JPH0793160A (ja) 1993-09-20 1993-09-20 推論装置

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP5256531A JPH0793160A (ja) 1993-09-20 1993-09-20 推論装置

Publications (1)

Publication Number Publication Date
JPH0793160A true JPH0793160A (ja) 1995-04-07

Family

ID=17293922

Family Applications (1)

Application Number Title Priority Date Filing Date
JP5256531A Pending JPH0793160A (ja) 1993-09-20 1993-09-20 推論装置

Country Status (1)

Country Link
JP (1) JPH0793160A (ja)

Cited By (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7653606B2 (en) 2003-10-03 2010-01-26 Axway Inc. Dynamic message filtering
JP2017129896A (ja) * 2016-01-18 2017-07-27 富士通株式会社 機械学習装置、機械学習方法及び機械学習プログラム
JP2018533153A (ja) * 2016-06-02 2018-11-08 テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド 機械学習に基づくネットワークモデル構築方法及び装置
WO2021111788A1 (ja) * 2019-12-05 2021-06-10 日立Astemo株式会社 ニューラルネットワーク縮約装置およびその方法
CN113391810A (zh) * 2020-03-11 2021-09-14 北京灵汐科技有限公司 一种基于应用场景图的解析方法及系统
JP2023012234A (ja) * 2021-07-13 2023-01-25 巴工業株式会社 機械学習装置、データ処理システム、推論装置及び機械学習方法

Cited By (8)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US7653606B2 (en) 2003-10-03 2010-01-26 Axway Inc. Dynamic message filtering
JP2017129896A (ja) * 2016-01-18 2017-07-27 富士通株式会社 機械学習装置、機械学習方法及び機械学習プログラム
JP2018533153A (ja) * 2016-06-02 2018-11-08 テンセント・テクノロジー・(シェンジェン)・カンパニー・リミテッド 機械学習に基づくネットワークモデル構築方法及び装置
WO2021111788A1 (ja) * 2019-12-05 2021-06-10 日立Astemo株式会社 ニューラルネットワーク縮約装置およびその方法
JP2021089628A (ja) * 2019-12-05 2021-06-10 日立Astemo株式会社 ニューラルネットワーク縮約装置およびその方法
US12142030B2 (en) 2019-12-05 2024-11-12 Hitachi Astemo, Ltd. Neural network compression device and method for same
CN113391810A (zh) * 2020-03-11 2021-09-14 北京灵汐科技有限公司 一种基于应用场景图的解析方法及系统
JP2023012234A (ja) * 2021-07-13 2023-01-25 巴工業株式会社 機械学習装置、データ処理システム、推論装置及び機械学習方法

Similar Documents

Publication Publication Date Title
Ismaeel et al. Using the Extreme Learning Machine (ELM) technique for heart disease diagnosis
JPH0738186B2 (ja) 自己拡張形ニユーラル・ネットワーク
US5168549A (en) Inference rule determining method and inference device
JP2809497B2 (ja) ファジィ後向き推論装置
Chan et al. Diagnosis of hypoglycemic episodes using a neural network based rule discovery system
CN108630312A (zh) 一种高血压诊断规则库自动生成方法及装置
CN116560239B (zh) 一种多智能体强化学习方法、装置及介质
CN112185560A (zh) 一种感染covid-19患者预后风险程度的早期预测方法和系统
JPH0793160A (ja) 推論装置
WO2021134519A1 (zh) 在神经网络推理中实现数据同步的装置和方法
Garate Escamilla et al. A comparison of machine learning techniques to predict the risk of heart failure
Nie et al. Fast self-learning multivariable fuzzy controllers constructed from a modified CPN network
US5890143A (en) Apparatus for refining determination rule corresponding to probability of inference result of evaluation object, method thereof and medium thereof
Pham et al. Control chart pattern recognition using combinations of multi-layer perceptrons and learning-vector-quantization neural networks
Wang et al. An improved neural network with random weights using backtracking search algorithm
CN112262399A (zh) 行动学习设备、行动学习方法、行动学习系统、程序以及记录介质
CN118014054A (zh) 一种基于平行重组网络的机械臂多任务强化学习方法
CN117116483A (zh) 一种脓毒症呼吸衰竭概率预测方法、系统、设备及介质
Santos-Junior et al. A new approach to online training for the Fuzzy ARTMAP artificial neural network
Yu et al. On-line clustering for nonlinear system identification using fuzzy neural networks
Shankar et al. A Hybrid framework for CKD Diagnosis by Random Forest with XGBoost Classifiers
Liu et al. A new learning algorithm for feedforward neural networks
CN120706584A (zh) 基于模糊控制的视频增强推理方法、装置、设备及介质
Gupta et al. Cardiovascular Disease Detection using Artificial Immune System and other Machine Learning Models
Vefghi et al. Dynamic monitoring and control of patient anaesthetic and dose levels: time-delay, moving-average neural networks, and principal components analysis