JPH0554012A - エキスパートシステムを用いた神経回路網自動構築装置 - Google Patents

Abstract

(57)【要約】 【目的】与えられた学習データに対して、最適な神経回
路網を効率よく自動構築することのできるエキスパート
システムを用いた神経回路網自動構築装置を提供する。 【構成】構築対象神経回路網１０の学習データを蓄積す
る学習データベース１１と、学習データベース１１から
所定の学習データを選択して構築対象神経回路網１０に
教示する学習制御器１２と、構築対象神経回路網１０の
学習状態を監視し、その結果を解釈することにより予め
格納されたルールを実行して構築対象神経回路網１０を
収束させる修正を推論するエキスパートシステム１４
と、エキスパートシステム１４の推論結果に対応して構
築対象神経回路網１０の構造を修正する構造修正器１６
とを具備する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は所望の神経回路網をエ
キスパートシステムを用いて自動構築するエキスパート
システムを用いた神経回路網自動構築装置に関する。

【０００２】

【従来の技術】一般に、神経回路網を構築するには、神
経回路網のモデルおよびこのモデルに付随するパラメー
タ値などを、処理を行うべきデータを解析して決定しな
ければならない。しかし、従来、この神経回路網モデ
ル、このモデルに付随するパラメータ値などを決定する
作業は、人手によって行われており、このため神経回路
網の構築には多くの経験を必要とすると共に、多大な労
力と時間を要していた。

【０００３】また、この神経回路網の構築を自動的に行
う装置も提案されているが、これらの装置は神経回路網
の学習を効率良く行うための経験則と神経回路網の学習
制御手段とが分離されておらず、新しい経験則が得られ
る毎にその制御プログラムを作り直す必要があり、実用
に耐え得るものではなかった。

【０００４】

【発明が解決しようとする課題】上述の如く、従来、神
経回路網の構築作業は、人手によって行われていたた
め、神経回路網の構築には多くの経験を必要とすると共
に、多大な労力と時間を要し、また、神経回路網の構築
を自動的に行う装置も提案されているが、これらの装置
は神経回路網の学習を効率良く行うための経験則が得ら
れる毎にその制御プログラムを作り直す必要があり、実
用に耐え得るものではなかった。

【０００５】そこで、この発明は、与えられた学習デー
タに対して、適切な神経回路網を効率良く自動構築する
ことのできるエキスパートシステムを用いた神経回路網
自動構築装置を提供することを目的とする。

【０００６】

【課題を解決するための手段】上記目的を達成するた
め、この発明は、構築対象神経回路網の学習データを蓄
積する学習データベース手段と、前記構築対象神経回路
網の学習状態を監視し、その結果を解釈することによ
り、および前記学習データベース手段に記録されている
学習データの解析結果により、予め格納されたルールを
実行して前記構築対象神経回路網を収束させる修正を推
論するエキスパートシステムと、前記エキスパートシス
テムの推論結果に対応して、前記学習データベース手段
から所定の学習データを選択して前記構築対象神経回路
網に教示する学習制御手段と、前記エキスパートシステ
ムの推論結果に対応して前記構築対象神経回路網の構造
を修正する構造修正手段とを具備したことを特徴とす
る。

【０００７】

【作用】本発明では、構築対象神経回路網を、該構築対
象神経回路網を構築するための経験則および手順の記述
されたエキスパートシステムにより監視し、この監視結
果に対応して構築対象神経回路網を収束させる修正を推
論し、この推論にしたがって構造修正手段により構築対
象神経回路網の構造を修正し、学習制御器により学習す
るデータを学習データベース手段から選択する。これに
より神経回路網の効率良い自動構築が可能となる。

【０００８】

【実施例】以下、この発明に係わるエキスパートシステ
ムを用いた神経回路網自動構築装置の一実施例を図面を
参照して説明する。

【０００９】一般に、バックプロパゲーションネットワ
ークでは、学習を効率良く行うために、中間ユニット
（素子）の数の決定、学習データの教示順序、各ユニッ
ト間の荷重値の修正量の係数の設定などに工夫が必要で
ある。そこで以下に示す実施例ではこれらをエキスパー
トシステムに記述することでネットワーク（神経回路
網）の構築を自動化する。

【００１０】図１は、この発明のエキスパートシステム
を用いた神経回路網自動構築装置の基本構成を示したも
のである。この装置は、バックプロパゲーションネット
ワークなどからなる構築対象神経回路網１０と、構築対
象神経回路網１０の学習データを蓄積する学習データベ
ース１１と、構築対象神経回路網１０の学習状態を監視
し、その結果を解釈することにより、および学習データ
ベース１１に記録されている学習データの解析結果によ
り、予め格納されたルールを実行して構築対象神経回路
網１０を収束させる修正を推論するエキスパートシステ
ム１４と、エキスパートシステム１４の推論結果に対応
して学習データベース１１から所定の学習データを選択
して構築対象神経回路網１０に教示することにより構築
対象神経回路網１０の学習を制御する学習制御器１２
と、エキスパートシステム１４の推論結果に対応して構
築対象神経回路網１０の学習を収束させるように構築対
象神経回路網１０の構造を修正する構造修正器１６とを
具備して構成される。

【００１１】すなわち、この実施例は、構築対象神経回
路網１０の学習を効率良く行うための経験則をエキスパ
ートシステム１４に記述し、このエキスパートシステム
１４を用いて自動的に構築対象神経回路網１０を構築す
る構成を示すものである。

【００１２】構造修正器１６は、エキスパートシステム
１４からの指令により、構築対象神経回路網１０の構
造、すなわち、素子の追加や削除、素子間の連結の有
無、および素子間の連結の荷重値の変更を行い、さらに
学習パラメータの変更を行う。ここで、構造修正器１６
は、構築対象神経回路網１０が計算機上に実装されたプ
ログラムである場合には、構築対象神経回路網１０の構
造および学習パラメータに対応する計算機内の記憶領域
の内容を書き換え、構築対象神経回路網１０がスイッ
チ、可変抵抗などのハードウエアにより構成されている
場合には、スイッチのオン、オフの切り換えや抵抗値の
変更を行う。

【００１３】学習制御器１２は、エキスパートシステム
１４からの指令により、構築対象神経回路網１０に提示
する学習データとして適切なものを学習データベース１
１より選択し、選択されたデータの提示する順序を変更
する。エキスパートシステム１４は、学習データの特徴
および構築対象神経回路網１０の収束状況から、上記構
造修正器１６および学習制御器１２に与える指令を形成
する。

【００１４】図２は、この発明のエキスパートシステム
を用いた神経回路網自動構築装置の一実施例をブロック
図で示したものである。図２において、１０はこの実施
例の装置において自動構築する構築対象神経回路網であ
り、この構築対象神経回路網１０の学習データは学習デ
ータベース１１に格納されている。この実施例のシステ
ムは学習データベース１１に格納されているデータが正
しく認識できるように構築対象神経網１０を自動構築す
る。

【００１５】学習制御器１２は、学習データベース１１
に格納されている学習データから所望の学習データを選
択し、これを構築対象神経回路網１０に教示すると共
に、構築対象神経回路網１０の学習時に用いる各種パラ
メータ値の設定を行う。この学習データベース１１から
の学習データを選択およびパラメータ値の設定は後述す
るコントロール実行器１５からの制御信号により行われ
る。

【００１６】センサ解釈器１３は、構築対象神経回路網
１０の学習の進行状況および学習が遅れているデータを
監視し、その結果を後述するエキスパートシステム１４
の構成要素であるワーキングメモリ１４２に論理式で記
録する。すなわち、構築対象神経回路網１０からセンサ
解釈器１３への入力信号には学習データの収束性を表わ
す数値データが含まれており、センサ解釈器１３にはこ
の数値データを後述するエキスパートシステム１４で処
理できる論理式に変換するセンサリデータ解釈用神経回
路網１３１が組み込まれており、センサ解釈器１３は、
上記数値データをこのセンサリデータ解釈用神経回路網
１３１で論理式に変換して後述するエキスパートシステ
ム１４のワーキングメモリ１４２に記録する。

【００１７】エキスパートシステム１４は、推論エンジ
ン１４１、ワーキングメモリ１４２、プロダクションメ
モリ１４３を有し、プロダクションメモリ１４３には、
種々の状況において構築対象神経回路網１０の学習を効
率良く収束させるための経験則がＩＦ…ＴＨＥＮ…形式
のルールで記述されている。推論エンジン１４１は、常
にワーキングメモリ１４２に記録されている事項を監視
し、プロダクションメモリ１４３に記述されているルー
ルで条件部が充足しているものを検索し、そのルールを
実行する。

【００１８】コントロール制御器１５は、エキスパート
システム１４のワーキングメモリ１４２を監視し、ワー
キングメモリ１４２に予め定義された論理式が記録され
た時点でその論理式に対応した信号を形成し、この信号
を構造修正器１６および学習制御器１２に送出する。

【００１９】構造修正器１６は、構築対象神経回路網１
０を構成する素子数、各素子間の連結の有無などの構造
を編集するもので、コントロール制御器１５から送出さ
れた信号に対応して構築対象神経回路網１０の学習の収
束が容易になるように構築対象神経回路網１０の構造を
編集修正する。

【００２０】また、学習制御器１２もコントロール制御
器１５から送出された信号に対応して構築対象神経回路
網１０の学習の収束が容易になるように構築対象神経回
路網１０の学習方法を修正する。

【００２１】なお、図２において実線でしめす矢印は制
御信号の流れを示し点線でしめす矢印はデータの流れを
示す。

【００２２】このような構成によると、エキスパートシ
ステム１４に構築対象神経回路網１０から得た数値デー
タに定性的な解釈を与えてエキスパートシステム１４に
伝えることができ、神経回路網構築のための経験則をエ
キスパートシステム１４に記述することで、柔軟かつ適
応的な神経回路網の構築を自動化することが可能とな
る。

【００２３】図３は、エキスパートシステム１４におけ
る柔軟かつ適応的な解釈を更に有効に行うことができる
ように、エキスパートシステム１４における推論過程に
神経回路網を組み込んだこの発明の他の実施例を示した
ものである。この図３に示す実施例は図２に示した実施
例の構成に、ルール監視器１７および推論制御用神経回
路網１８を付加することにより構成される。

【００２４】ここで、ルール監視器１７は、エキスパー
トシステム１４のワーキングメモリ１４２およびプロダ
クションメモリ１４３を監視し、実行されたルールの番
号およびワーキングメモリ１４２の状態を推論制御用神
経回路網１８に伝達する。

【００２５】推論制御用神経回路網１８は、プロダクシ
ョンメモリ１４３に記述された各ルールに対応する複数
の素子を有し、ルール監視器１７からの伝達内容に対応
して各素子間の連結の強さを変更する。そして、ワーキ
ングメモリ１４２に記録されている事項がプロダクショ
ンメモリ１４３に記述されているルールの内で同時に２
つ以上のルールの条件部を充足する場合は、条件部が充
足されるルールの内の１つのルールを選択して、この選
択結果を推論エンジン１４１に伝える。推論エンジン１
４１は、この推論制御用神経回路網１８から伝えられた
１つのルールを実行する。

【００２６】は、ルール監視器１７が推論制御用神経回
路網１８に伝えた内容を記録するデータベースである。
条件部が充足したルールが２つ以上ある場合に、推論制
御用神経回路網１８が１つのルールＲを選択し、推論エ
ンジン１４１を通じて選択されたルールＲが実行された
結果、構築対象神経回路網１０の収束状態が悪化したと
する。この場合、センサ解釈器１３１が悪化したことを
論理式によりワーキングメモリ１４２に記録し、記録さ
れた論理式はルール解釈器１７を通じて推論制御用神経
回路網１８に伝達される。推論制御用神経回路網１８
は、収束悪化の原因となったルールＲが選択されたとき
の状況をルール実行結果記録用データベース１９より検
索し、今後同じ状況が生じてもルールＲを選択しないよ
うに、推論制御用神経回路網１８を修正する。

【００２７】このような構成によると、プロダクション
メモリ１４３に記録された神経回路網を効率良く構築す
るための経験則が不完全であっても、柔軟かつ適応的に
神経回路網の構築を自動化することが可能になる。

【００２８】図４は、図３に示したコントロール実行器
１５内に論理式解釈用神経回路網１５１を組み込んだこ
の発明の更に他の実施例を示したものである。この実施
例では、論理式解釈用神経回路網１５１によりエキスパ
ートシステム１４のワーキングメモリ１４２に記録され
た論理式を解釈して構造修正器１６および学習制御器１
２を制御する信号を形成する。

【００２９】このような構成によると、構造修正器１６
および学習制御器１２の柔軟かつ適応的制御が可能にな
る。

【００３０】

【発明の効果】以上説明したようにこの発明によれば、
神経回路網構築のための経験則をエキスパートシステム
に記述し、このエキスパートシステムからの指令により
神経回路網の構造修正、学習データの選択を制御して神
経回路網を自動構築するように構成したので、神経回路
網を効率よく自動構築することが可能になるという効果
を奏する。

【図面の簡単な説明】

【図１】この発明のエキスパートシステムを用いた神経
回路網自動構築装置の基本構成を示すブロック図。

【図２】この発明のエキスパートシステムを用いた神経
回路網自動構築装置の一実施例を示すブロック図。

【図３】この発明のエキスパートシステムを用いた神経
回路網自動構築装置の他の実施例を示すブロック図。

【図４】この発明のエキスパートシステムを用いた神経
回路網自動構築装置の更に他の実施例を示すブロック
図。

【符号の説明】

１０ 構築対象神経回路網 １１ 学習データベース １２ 学習制御器 １３ センサ解釈器 １４ エキスパートシステム １５ コントロール実行器 １６ 構造修正器 １７ ルール監視器 １８ 推論制御用神経回路網 １９ ルール実行結果記録用データベース １３１ センサリデータ解釈用神経回路網 １５１ 論理式解釈用神経回路網

Claims (1)

【特許請求の範囲】
1. 【請求項１】 構築対象神経回路網の学習データを蓄積
   する学習データベース手段と、 前記構築対象神経回路網の学習状態を監視し、その結果
   を解釈することにより、および前記学習データベース手
   段に記録されている学習データの解析結果により、予め
   格納されたルールを実行して前記構築対象神経回路網を
   収束させる修正を推論するエキスパートシステムと、 前記エキスパートシステムの推論結果に対応して、前記
   学習データベース手段から所定の学習データを選択して
   前記構築対象神経回路網に教示する学習制御手段と、 前記エキスパートシステムの推論結果に対応して前記構
   築対象神経回路網の構造を修正する構造修正手段とを具
   備したことを特徴とするエキスパートシステムを用いた
   神経回路網自動構築装置。