JPH07129534A - 現存するエキスパートシステムを１つ以上のニューラルネットワークを使用するものに変換する方法 - Google Patents

Abstract

(57)【要約】 （修正有） 【目的】 現存するエキスパートシステムに対するプロ
ダクションルールを少ない時間および資金で作成可能と
するため、現存するエキスパートシステムを少なくとも
１つのニューラルネットワークを有するものへと変換可
能にする。 【構成】 現存するエキスパートシステムを１つまたは
それ以上のニューラルネットワークを導入したものへと
変換する技術は、現存するエキスパートシステムの知識
ベースおよび推論エンジンを分離する段階、外部および
内部入力および出力を識別する段階、入力および出力か
らサブシステムを識別する段階、各サブシステムに対し
ニューラルネットワークを使用する段階、関連するサブ
システムのプロダクションルールを学習するため各ニュ
ーラルネットワークを訓練する段階、そして与えられた
一組の入力から正確なまたは補間された出力を計算する
段階を含む。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、一般的には、エキスパ
ートシステム（ｅｘｐｅｒｔ ｓｙｓｔｅｍ）に関し、
かつ、より特定的には、現存するエキスパートシステム
を１つまたはそれ以上のニューラルネットワークに変換
することに関する。

【０００２】本発明は、本発明と同じ譲受人に譲渡され
た以下の発明に関連している。 （１）１９９３年６月１４日に出願された、米国特許出
願シリアル番号第０８／０７６，６０１号、「ニューラ
ルネットワークおよびその使用方法（Ｎｅｕｒａｌ Ｎ
ｅｔｗｏｒｋ ａｎｄ Ｍｅｔｈｏｄ ｏｆ Ｕｓｉｎ
ｇ Ｓａｍｅ）」（１９９４年６月１０日出願の日本出
願、特願平６−１５２９１４に対応している）、および （２）本件出願の対応米国特許出願と同じ日に出願され
た、米国特許出願シリアル番号第０８／１２９，２７５
号、「１つ以上のニューラルネットワークを使用したエ
キスパートシステムの構築方法（Ｍｅｔｈｏｄ ｆｏｒ
Ｓｔｒｕｃｔｕｒｉｎｇ ａｎ Ｅｘｐｅｒｔ Ｓｙ
ｓｔｅｍ Ｕｔｉｌｉｚｉｎｇ Ｏｎｅｏｒ Ｍｏｒｅ
Ｎｅｕｒａｌ Ｎｅｔｗｏｒｋｓ）」。

【０００３】

【従来の技術】最近、伝統的には複雑なアルゴリズム手
法を使用して行なわれてきた数多くの用途においてエキ
スパートシステムが使用されてきている。これらの用途
は医療診断、財務分析、電子設計、原子力発電所の監視
および制御、オイル探査、その他を含む。エキスパート
システムはまた解釈、予測、計画、監視、デバッグ、修
復、および指令または命令のために使用されている。エ
キスパートシステムの人気の急上昇は主にプロダクショ
ンルール（すなわち、“ＩＦ／ＴＨＥＮ”ルール）によ
る複雑なシステムを形成する上でのそれらの単純さおよ
び推論（またはサーチ）による適切な行動の推薦能力に
よる。

【０００４】図１は、２つのモジュールを備えた伝統的
なエキスパートシステム１を示す概念図である。第１の
モジュール２は知識ベース（Ｋｎｏｗｌｅｄｇｅ Ｂａ
ｓｅ）であり、一群のプロダクションルール（これらは
典型的にはＩＦ／ＴＨＥＮステートメントである）およ
び事実（Ｆａｃｔｓ）を有する。第２のモジュール３は
前記プロダクションルールおよび前記与えられた事実を
使用して判断を行なう推論エンジンである。このエキス
パートシステムは入力を受信しかつ前記知識ベース２お
よび推論エンジン３を使用して出力を発生する。

【０００５】しかしながら、現在まで、知られた現存す
るエキスパートシステムの成功はいくらか減少している
が、それは次の理由による。第１に知られたエキスパー
トシステムはノイズの多いかつ不確定な現実の世界（ｒ
ｅａｌ−ｗｏｒｌｄ）の用途にとっては余りにも「脆弱
な（ｂｒｉｔｔｌｅ）」ものである。特に、エキスパー
トシステムの性能は入力の値が入力の境界（Ｉｎｐｕｔ
ｂｏｕｎｄｓ）に近い場合に急速に低下する。

【０００６】明らかに、このような脆弱さは多くの用途
（例えば、株式市場の投資、医療診断、その他）にとっ
て不適切である。もちろん、エキスパートシステムの頑
健さ（ｒｏｂｕｓｔｎｅｓｓ）をプロダクションルール
の数を増大することにより改善することが知られている
が、これは判断生成プロセスを低速にしかつ（追跡され
るべきプロダクションルールの著しい数のため）メンテ
ナンスの問題をさらに悪化させる。

【０００７】第２に、現存するエキスパートシステムは
通常高速度の動的システムにとっては判断生成の上であ
まりにも低速すぎる。これは、推論エンジンが判断を行
なうために事実をプロダクションルールと整合させる必
要があるためである。このパターンのサーチは非常に疲
弊的であり、反復的であり、かつ極めて時間のかかるも
のとなり得る。これは、例えば、“Ｇｕｉｄｅ ｔｏ
Ｅｘｐｅｒｔ Ｓｙｓｔｅｍｓ”，Ｄｏｎａｌｄ Ａ．
Ｗａｔｅｒｍａｎ，Ｅｄｉｓｏｎ−Ｗｅｓｌｅｙ，１９
８６年，第７章、６６〜６９頁、に述べられているよう
に、必要とされる大規模な後向きおよび／または前向き
連鎖（ｃｈａｉｎｉｎｇ）動作において示されている。
前向き連鎖の例は以下に説明する図３〜図７に示されて
いる。

【０００８】前向き連鎖（Ｆｏｒｗａｒｄ−ｃｈａｉｎ
ｉｎｇ）は非常に低速であり、それは該前向き連鎖が全
てのルールを調べる必要があるからである。後向き連鎖
（ｂａｃｋｗａｒｄ−ｃｈａｉｎｉｎｇ）がより効率的
であるが、より込み入った推論エンジンを含むことがわ
かる。

【０００９】

【発明が解決しようとする課題】知られたエキスパート
システムは脆弱さを有しかつ比較的低速であるから、こ
れらはめったに実時間の用途には使用されない。

【００１０】１つまたはそれ以上のニューラルネットワ
ークを使用したエキスパートシステムを構築する方法に
向けられた、前記関連発明（２）（米国特許出願シリア
ル番号第０８／１２９，２７５号）は現存するエキスパ
ートシステムの上に述べた２つの問題に対する卓越した
代りの解決方法を提供する。しかしながら、現存するエ
キスパートシステムはしばしば開発するのに非常に多く
の時間および資金を必要としており、したがって多くの
場合それらをすぐさま捨てるのは軽率であろう。

【００１１】したがって、現存するエキスパートシステ
ムを、広い範囲のビジネスおよび実時間の用途を処理す
るのに充分高性能かつ頑健であり（ｒｏｂｕｓｔ）およ
び充分高速な１つまたはそれ以上のニューラルネットワ
ークを備えたエキスパートシステムへと容易に変換でき
ることが必要とされる。

【００１２】

【課題を解決するための手段および作用】したがって、
本発明は現存するエキスパートシステムを１つまたはそ
れ以上のニューラルネットワークを使用したものへと変
換する方法に関する。始めに、現存するエキスパートシ
ステムの知識ベースがその推論エンジンから分離され
る。次に、現存するエキスパートシステムの外部および
内部入力および出力が識別される。いったん、外部およ
び内部入力および出力が識別されると、１つまたはそれ
以上のサブシステムが識別され、該サブシステムの各々
は一群の入力（これもまた内部または外部のいずれでも
良い）から少なくとも１つの出力（これも内部または外
部のいずれでも良い）を生成する。前記サブシステムの
時間的（ｔｅｍｐｏｒａｌ）または論理的（ｌｏｇｉｃ
ａｌ）シーケンスが次に識別される。ニューラルネット
ワークが次に各々のサブシステムに対し与えられる。

【００１３】次に、各々のニューラルネットワークが訓
練（トレーニング）される（ｔｒａｉｎｅｄ）、すなわ
ち、各ニューラルネットワークがその関係するサブシス
テムと関連するプロダクションルールを学習する。各々
のニューラルネットワークは反復的なトレーニングを必
要とせずかつ各々の与えられた１組の入力変数に対し大
域的最小（ｇｌｏｂａｌ ｍｉｎｉｍｕｍ）を生み出す
トレーニングアルゴリズムを使用する。

【００１４】いったんニューラルネットワークがトレー
ニングされると、本システムは生成（ｐｒｏｄｕｃｔｉ
ｏｎ）の用意ができる。入力に応答して、該システム
は、実時間の用途においてあるいは時間的にクリティカ
ルでない用途において、１つまたはそれ以上の正確なお
よび／または補間された出力を生成する。

【００１５】本発明のエキスパートシステムにおいて
は、非ファジー化（ｄｅｆｕｚｚｉｆｉｃａｔｉｏｎ）
のために一群のプロダクションルールを学習する、各々
のニューラルネットワークは卓越した補間出力を生成
し、それによって変換されたエキスパートシステムの頑
健さを大幅に増強する。

【００１６】したがって、本発明の１つの利点は現存す
るエキスパートシステムを１つまたはそれ以上のニュー
ラルネットワークを使用するものへと変換する方法を提
供することである。該ニューラルネットワークはソフト
ウェアまたはハードウェアのいずれによっても実施でき
る。

【００１７】また、現存するエキスパートシステムのサ
ブシステムの一群のプロダクションルールを学習するた
めにニューラルネットワークを使用する方法を提供する
ことも同様に本発明の利点である。

【００１８】さらに、与えられた組の入力から正確なお
よび／または補間された出力を生成する変換されたエキ
スパートシステムを生成する方法を提供することも本発
明の利点である。

【００１９】また、暗黙的に（ｉｍｐｌｉｃｉｔｌｙ）
複数のプロダクションルールを並列に処理する１つまた
はそれ以上のニューラルネットワークを有する変換され
たエキスパートシステムを提供することも本発明の利点
である。

【００２０】さらに、非常に高性能かつ頑健な（ｒｏｂ
ｕｓｔ）変換されたエキスパートシステムを提供するこ
とは本発明の他の利点である。

【００２１】さらに、通常チューニングすべき１つの変
数のみを有するため、チューニングするのが極めて容易
な変換されたエキスパートシステムを提供することも本
発明の利点である。

【００２２】さらに、大量の並列処理により大きな／複
雑なシステムを制御できる変換されたエキスパートシス
テムを提供することも本発明のさらなる利点である。

【００２３】本発明の１つの態様によれば、現存するエ
キスパートシステムを１つまたはそれ以上のニューラル
ネットワークを有するエキスパートシステムへと変換す
る方法が提供される。前記現存するエキスパートシステ
ムは複数の外部入力、複数の内部入力、複数の内部出
力、少なくとも１つの外部出力、知識ベース、および推
論エンジンを具備する。前記方法は、（ａ）前記知識ベ
ースを現存するエキスパートシステムの推論エンジンか
ら分離する段階、（ｂ）現存するエキスパートシステム
の前記外部入力および前記外部出力（単数または複数）
を識別する段階、（ｃ）前記現存するエキスパートシス
テムの内部入力および内部出力を識別する段階、（ｄ）
前記段階（ｂ）および（ｃ）において識別された前記入
力および出力を前記現存するエキスパートシステムの関
連するサブシステムへとグループ分けする段階、そして
（ｅ）前記サブシステムの各々に対しニューラルネット
ワークを提供する段階、を具備する。

【００２４】本発明は添付の特許請求の範囲において特
定的に指摘されている。しかしながら、本発明の他の特
徴は図面とともに以下の詳細な説明を参照することによ
りさらに明らかになりかつもっとも良く理解されるであ
ろう。

【００２５】

【実施例】図２は、本発明にしたがって、変換されるべ
きエキスパートシステムを構成する、プロダクションル
ール、またはサブシステムのグループが１つまたはそれ
以上のニューラルネットワークによってどのように構成
されるかを示す概念図である。

【００２６】図２において、現存するエキスパートシス
テム１０は３つの外部入力ｘ_１，ｘ_２，およびｘ_３そし
て１つの外部出力ｙを有するものとして示されている。
現存するエキスパートシステム１０はまた２つのサブシ
ステム１１および１２を具備するものとして概念的に示
されている。サブシステム１１は外部入力ｘ_１およびｘ
_２を受信しかつ内部出力ｚ_１を発生する。サブシステム
１２は内部入力ｚ_１および外部入力ｘ_３を受信し、かつ
外部出力ｙを発生する。

【００２７】現存するエキスパートシステムをニューラ
ルネットワークに変換するためには、まず前記与えられ
たプロダクションルールを使用して、前記エキスパート
システムのサブシステムを識別する必要がある。

【００２８】これは次の段階によって行なわれる。 （ａ）現存するエキスパートシステムの外部の入力およ
び出力が識別される。これらの入力および出力は、前記
与えられたプロダクションルールを参照することなしに
も、通常知られることに注目すべきである。（例えば、
上に述べた、図２に示される現存するエキスパートシス
テムにおいては、外部入力はｘ_１〜ｘ_３であり、かつ外
部出力はｙである。） （ｂ）現存するエキスパートシステムの内部の入力およ
び出力が、現存するエキスパートシステム内の全ての入
力および出力変数の間での時間的または論理的関係を提
供する前記与えられたプロダクションルールを使用し
て、識別される。

【００２９】内部入力／出力を識別するためのガイドラ
インは、（１）それらは、上記段階（ａ）においてすで
に識別されている外部入力／出力ではないこと、（２）
内部入力は通常プロダクションルールの前提部（すなわ
ち、“ＩＦ”部分）に見られること、そして（３）内部
出力は通常プロダクションルールの結果部（すなわち、
“ＴＨＥＮ”部分）に見られることである。また、
（４）１つのサブシステムの内部出力は他のサブシステ
ムへの内部入力とすることができること（例えば、図２
において、ｚ_１は内部出力でもありかつ内部入力でもあ
る）、（５）サブシステムは充分に規定された（ｗｅｌ
ｌ−ｄｅｆｉｎｅｄ）入力／出力の組または集合を有す
ること、そして（６）サブシステムは１つのルールのみ
を持つことができることにも注目すべきである。

【００３０】前記段階（ａ）および（ｂ）から、前記現
存するエキスパートシステムを構成する複数のサブシス
テム（例えば、図２におけるサブシステム１１および１
２によって示されるような）を識別することができる。

【００３１】現存するエキスパートシステムは大きな束
のプロダクションルールを含むことが理解できるであろ
う。本発明の方法により、これらのルールは規則正しく
あるいは整然と（ｏｒｄｅｒｌｙ）複数のサブシステム
へとグループ分けされ、該サブシステムの各々は選択さ
れた１組の与えられたプロダクションルールによって管
理される。

【００３２】図２に関して、上に述べた方法を使用する
ことにより、我々は次に現存するエキスパートシステム
の各々のサブシステムをニューラルネットワークによっ
て表わす。好ましい実施例においては、各ニューラルネ
ットワークは前記関連発明Ｎｏ．１（特願平６−１５２
９１４）において開示された形式のものであり、その動
作は多項式展開に基いている。与えられた一組の外部入
力に対し、各々のネットワークの入力をその対応する多
項式展開に代入しかつ対応する出力について解くことに
より各々のニューラルネットワークに対し少なくとも１
つの出力が計算される。少なくとも１つのそのような解
かれた出力は前記変換されたエキスパートシステムの外
部出力を表わすことになる。変換プロセス全体は図３を
参照して以下に説明する。

【００３３】図３は、現存するエキスパートシステムを
本発明に係わる１つまたはそれ以上のニューラルネット
ワークを有するエキスパートシステムへと変換する方法
の流れ図を示す。始めに、ボックス２１を参照すると、
現存するエキスパートシステムの知識ベースがその推論
エンジンから分離される。通常、知識ベースは、データ
ファイルの形式で提供され、一方推論エンジンはロジッ
クの形式で提供される点で、それらはすでに分離されて
いる。

【００３４】次に、ボックス２３において、現存するエ
キスパートシステムの外部入力および出力が識別され
る。通常、入力および出力が外部のものかあるいは内部
のものかはプロダクションルールを調べることにより明
白に（ｅｘｐｌｉｃｉｔｌｙ）判定できる。

【００３５】次に、ボックス２５において、現存するエ
キスパートシステムの内部入力および内部出力が、前に
述べたガイドラインを使用して、識別される。

【００３６】次に、ボックス２７において、関連する入
力および出力がグループ分けされる。関連する入力およ
び出力の各グループは現存するエキスパートシステムの
関連するサブシステムに対応している。例えば、図２に
関し、外部入力ｘ_１およびｘ_２と内部出力ｚ_１が関連し
ていることは容易に判定できるが、それは出力ｚ_１は現
存するエキスパートシステムに対するプロダクションル
ールにしたがって入力ｘ_１およびｘ_２に依存しているか
らである。したがって、外部入力ｘ_１およびｘ_２と内部
出力ｚ_１はサブシステムによって表わされる。

【００３７】次に、ボックス２９において、各サブシス
テムの間の時間的（ｔｅｍｐｏｒａｌ）または論理的
（ｌｏｇｉｃａｌ）関係が判定される。これは前に識別
された内部および外部入力および出力から容易に決定で
きる。例えば、図２のサブシステム１１および１２に関
し、サブシステム１１はサブシステム１２の前に計算さ
れなければならず、それはサブシステム１１からの内部
出力ｚ_１がサブシステム１２への入力であるためであ
る。

【００３８】次に、ボックス３１において、各々のサブ
システムに関連するプロダクションルールが識別され
る。

【００３９】次に、ボックス３３において、各々の組の
プロダクションルールに対しニューラルネットワークが
規定される。ボックス３５に示されるように、各サブシ
ステムのニューラルネットワークは多項式展開の形式で
表現される。

【００４０】次に、ボックス３７において、各ニューラ
ルネットワークがそのそれぞれのサブシステムに関連す
る前記１組のプロダクションルールを学習するためにト
レーニングされる。これはその与えられた入力および出
力変数に対する各ニューラルネットワークの荷重（ｗｅ
ｉｇｈｔｓ）を計算する段階を含む。

【００４１】最後に、ボックス３９において、少なくと
も１つの出力が、少なくとも１つの入力を対応する多項
式展開へと代入することにより各ニューラルネットワー
クから計算される。該出力は正確な値でも良くあるいは
補間された値でも良い。

【００４２】図４は、図２に示された現存するエキスパ
ートシステムのサブシステム１１のためのプロダクショ
ンルールを示す図表であり、かつ図６は図２に示される
現存するエキスパートシステムのサブシステム１２に対
するプロダクションルールを示す図表である。

【００４３】図４および図６において、表現ＰＬ，Ｐ
Ｍ，ＺＯ，ＮＭ，およびＮＬは与えられた入力または出
力に対するＮの可能な値の任意の組または集合を表わ
す。図４において、Ｎは５となるよう選択され、したが
って、前記値ＰＬ，ＰＭ，ＺＯ，ＮＭ，およびＮＬで表
わされる、与えられた入力または出力に対する５個の可
能な値がある。特定の応用にしたがって、与えられた入
力または出力に対し５より多くのまたは少ない可能な値
が有り得ることが理解できるであろう。

【００４４】図４において、ＮＬは前記変数の通常の値
に関し「負の大きな（ｎｅｇａｔｉｖｅ ｌａｒｇ
ｅ）」値を表わし、ＮＳは「負の小さな（ｎｅｇａｔｉ
ｖｅ ｓｍａｌｌ）」値であり、ＺＯはゼロの値であ
り、ＰＳは「正の小さな（ｐｏｓｉｔｉｖｅ ｓｍａｌ
ｌ）」値であり、そしてＰＬは「正の大きな（ｐｏｓｉ
ｔｉｖｅ ｌａｒｇｅ）」値である。

【００４５】図４にはｎ_１のプロダクションルールまた
は例が示されている。例えば、第１の例は次の通りであ
る。もし（ＩＦ）ｘ_１＝ＰＬ，ｘ_２＝ＺＯであれば、そ
の場合は（ＴＨＥＮ）ｚ_１＝ＰＬ。

【００４６】図５は、図４に示されるテーブルに対する
量化された（ｑｕａｎｔｉｆｉｅｄ）値を示す。例え
ば、ＰＬ＝＋１，ＰＭ＝＋０．５，ＺＯ＝０，ＮＭ＝−
０．５，およびＮＬ＝−１．０である。

【００４７】同様にして、図６は図２に示される現存す
るエキスパートシステムのサブシステム１２に対するプ
ロダクションルールまたは例を示すテーブルまたは図表
である。同様にして、図７は図６に示されるテーブルに
対する量化された値を示す。

【００４８】プロダクションルールに関しては、前記入
力と出力との間の関係を表現するために任意の所望の論
理的関係が使用できることが理解されるであろう。図５
および図７を参照すると、ｘ′からｘ（これはｆ
（ｘ′）に等しい）への変換の一般的なプロセスは正規
化と称され、ｘの絶対値が０と１との間にあることを意
味する。

【００４９】図８は、入力値ｘ′を−１と＋１との間の
値を有する正規化された値ｘへ正規化する場合を示す概
念図である。正規化は適切な、良く知られた手段４０に
よって行なわれる。

【００５０】例えば、図２に示される入力ｘ_ｉに関して
は、もしそのような入力が正規化される必要があれば、
適切な手段によって正規化が行なわれることが理解でき
るであろう。好ましい実施例においては、前記関数ｆ
（ｘ′）は次の式で与えられる直線である。

【式１】ｘ＝ｆ（ｘ′）

【式２】ｘ＝ａｘ′＋ｂ 好ましい実施例においては、｜ｘ｜≦１である。｜ｘ｜
は他の構成では１より大きくすることが可能なことも理
解されるであろう。

【００５１】また、正規化は推奨できる一般的なプロセ
スであるが、特別の場合には必要とされないことも理解
できるであろう。

【００５２】好ましい実施例においては、前記関数ｆ
（ｘ′）は連続的なものであるが、不連続な関数も使用
できることも理解できるであろう。

【００５３】［好ましい実施例の動作］本発明において
は、与えられたサブシステムまたはグループのプロダク
ションルールに対し、入力から出力を発生することは次
の３段階プロセスとされる。すなわち、（１）図８に関
して説明したように入力を正規化する段階、（２）前記
ネットワークを訓練する段階、そして（３）そのような
サブシステムに関連するニューラルネットワークから補
間された出力を計算する段階、である。この３段階プロ
セスにつき以下に説明する。

【００５４】［入力の正規化］図９は現存するエキスパ
ートシステムによって制御されるプロセス制御問題のた
めのプロダクションルールをテーブル形式で示す。この
問題は２つの入力および１つの出力を有する。２つの与
えられた変数ｘ_１およびｘ_２に対し、所望の出力応答ｙ
が図９のテーブルによって示されている。

【００５５】図９においては、ＮＬは変数ｘ_１およびｘ
_２のそれぞれの平均値、中間値（ｍｅａｎ）、または他
の選択された中心点の値の付近の通常の値に関し「負の
大きな（ｎｅｇａｔｉｖｅ ｌａｒｇｅ）」値を表わ
し、ＮＳは「負の小さな（ｎｅｇａｔｉｖｅ ｓｍａｌ
ｌ）」値であり、ＺＯは０の値であり、ＰＳは「正の小
さな（ｐｏｓｉｔｉｖｅ ｓｍａｌｌ）」値であり、か
つＰＬは「正の大きな（ｐｏｓｉｔｉｖｅ ｌａｒｇ
ｅ）」値である。

【００５６】このテーブルは２５のプロダクションルー
ルを示している。例えば、図９の上部左側コーナを参照
すると、対応するプロダクションルールは次のようにな
る。

【式３】もし（ＩＦ）ｘ_１＝ＮＬおよびｘ_２＝ＮＬであ
れば、その場合は（ＴＨＥＮ）ｙ＝ＰＬ

【００５７】他も同様である。現存するエキスパートシ
ステムに対しては、前記プロダクションルールはすでに
決定されておりかつ知られていることが理解される。一
般に、プロダクションルールは解決されるべき問題に関
する専門家または実務家（ｐｒａｃｔｉｔｉｏｎｅｒ）
の経験および／または知識から得られる。ある問題に取
り組むためにプロダクションルールを使用することは有
利であるが、現存するエキスパートシステムに対するプ
ロダクションルールはしばしば非常に脆弱である（ｂｒ
ｉｔｔｌｅ）（すなわち、出力は補間することができず
ある特定の値でなければならない）ことに注目すべきで
ある。プロダクションルールの数を増大することにより
計算機的な複雑さおよびメンテナンスの困難性を犠牲に
してエキスパートシステムの頑健さ（ｒｏｂｕｓｔｎｅ
ｓｓ）を改善することができる。

【００５８】図１０は、図９に対する量化された（ｑｕ
ａｎｔｉｆｉｅｄ）値を示す。変数ｘ_１は、図２に示さ
れるようにｆ（ｘ_１′）である。同じことがｘ_２および
ｘ_２′の間の関係にも当てはまり、異なる関数を、それ
ぞれ、ｘ_１およびｘ_２に適用できることも理解されるで
あろう。

【００５９】入力変数ｘ_１およびｘ_２に対し、我々はＰ
Ｌ，ＰＳ，ＺＯ，ＮＳ，およびＮＬに対する値を−１と
＋１との間に選択する。この用途においては、我々はＰ
Ｌ＝＋１．０；ＰＳ＝＋０．５；ＺＯ＝０；ＮＳ＝−
０．５；およびＮＬ＝−１．０を選択する。他の適切な
値をＰＬに対し（例えば、＋０．９８または＋０．９
５）、ＰＳに対し（例えば、＋０．５１または＋０．４
８）、ＺＯ、ＮＳ、およびＮＬに対し選択することがで
き、かつ与えられた入力または出力変数に対し５つの可
能な値より多いかあるいは少ない値とすることが可能な
ことも理解できるであろう。

【００６０】所望の出力応答ｙに対し、我々はＰＬ＝＋
１．０；ＰＳ＝＋０．５；ＺＯ＝０；ＮＳ＝−０．５；
およびＮＬ＝−１．０に選択する。この場合、前記出力
応答ｙは入力値の正規化に関して説明したのと同様のプ
ロセスを使用して、正規化され、それによって該出力応
答ｙがニューラルネットワークを使用する他のサブシス
テムへと入力変数として供給することができるが、一般
的にはニューラルネットワークの出力は正規化される必
要がないことが理解できるであろう。

【００６１】図１０に示された２５のプロダクションル
ールがいまや量化される。例えば、式３におけるｘ_１に
対しＮＬの値を、ｘ_２に対しＮＬの値を、そしてｙに対
しＰＬを代入することにより、次の式を得ることができ
る。

【式４】もし（ＩＦ）ｘ_１＝−１およびｘ_２＝−１であ
れば、その場合（ＴＨＥＮ）ｙ＝＋１ もちろん、これらの値は、用途に応じて、チューニング
することができる。

【００６２】［ニューラルネットワークの訓練（ｔｒａ
ｉｎｉｎｇ）］与えられたサブシステムまたはグループ
のプロダクションルールに関連するニューラルネットワ
ークをトレーニングまたは訓練する段階は次の２つの段
階からなる。すなわち、（１）ネットワークにおけるニ
ューロンの数をそのようなシステムのプロダクションル
ールの数より小さいかあるいは等しくなるよう規定する
段階、もちろん本発明が関連するサブシステムにおける
プロダクションルールの数よりも大きな数のニューロン
によって実施できることも理解される、（２）前記関連
発明Ｎｏ．１（特願平６−１５２９１４）において述べ
たようにしてニューラルネットワークの荷重を計算する
段階、である。トレーニングが完了した後、ネットワー
クは実施の用意ができている。

【００６３】［出力の補間］図１１は、本発明の変換さ
れたエキスパートシステムにおいて使用されるネットワ
ークからの出力を補間する例を示す。図１１において、
各々の交点、例えば、交点６１，６２，６３または６
４、は「例（ｅｘａｍｐｌｅ）」を表わす（すなわち、
図１０におけるｘ_１＝−０．５，ｘ_２＝＋０．５，ｙ＝
０のような、入力／出力の組または集合）。

【００６４】もし入力値ｘ_１およびｘ_２が前記２５の例
の内の１つの入力に等しければ、ネットワークの出力ｙ
は前記例の出力と同じであるかあるいは非常に近いであ
ろう。例えば、もしｘ_１＝−０．５およびｘ_２＝＋０．
５であれば、ネットワーク出力ｙはゼロに等しいかまた
は非常に近い。

【００６５】もし入力値ｘ_１およびｘ_２が例６１および
６２の中間（すなわち、ポイント６５）にあれば、ネッ
トワークの出力ｙは例６１または６２に対応する出力の
平均に等しいかまたは非常に近くなるであろう。例え
ば、もしｘ_１＝−０．２５およびｘ_２＝＋０．５であれ
ば、ネットワーク出力ｙは（０＋（−０．５））／２＝
−０．２５に等しいかあるいは非常に近くなる。

【００６６】同様に、入力値ｘ_１およびｘ_２が例６１〜
６４の中心（すなわち、ポイント６６）にあれば、ネッ
トワークの出力ｙは例６１〜６４に対応する出力の平均
と等しいかまたは非常に近くなるであろう。例えば、も
しｘ_１＝−０．２５およびｘ_２＝＋０．７５であれば、
ネットワーク出力ｙは（０＋（−０．５）＋（−０．
５）＋（−１．０））／４＝−０．５と等しいかまたは
非常に近くなるであろう。

【００６７】したがって、本ニューラルネットワークは
与えられた組の入力値に対し実際の出力または補間され
た出力のいずれかを生成する。

【００６８】［ネットワークを利用したエキスパートシ
ステムの実現］好ましい実施例においては、前記出力を
計算しまたは補間するために２つの段階がある。すなわ
ち、（１）前記入力を正規化する段階、および（２）前
記正規化された入力をネットワークに提供することによ
り出力を発生する段階、である。

【００６９】出力の計算に関する詳細については、前記
関連発明Ｎｏ．１（特願平６−１５２９１４）および以
下の説明を参照されたい。

【００７０】［ニューラルネットワークの好ましい実施
例］図１２は、本発明に従って現存するエキスパートシ
ステムから変換されたエキスパートシステムにおいて計
算を行なうためのニューラルネットワークの概念図を示
す。複数の入力ｘ_１，ｘ_２，……，ｘ_ｎは入力層の入力
ノード１０１，１０２，……，１０４に供給される。

【００７１】該入力層の各々の入力ノード１０１，１０
２および１０４の出力は隠れ層（Ｈｉｄｄｅｎ Ｌａｙ
ｅｒ）の各々のニューロン回路に結合されている（該ニ
ューロン回路の内ニューロン回路Ｎ_１，Ｎ_２，Ｎ_３，Ｎ
_ｎ＋１，Ｎ_ｎ＋２，Ｎ_２ｎ＋１，およびＮ_Ｎのみが示さ
れている）。例えば、入力ノード１０１の出力は各々の
ニューロン回路Ｎ_１，Ｎ_２，Ｎ_３，Ｎ_ｎ＋１，
Ｎ_ｎ＋２，Ｎ_２ｎ＋１，およびＮ_Ｎに結合され、かつ前
記隠れ層の（図示しない）全ての他のニューロン回路に
結合されている。

【００７２】同じ接続は前記入力層の入力ノード１０
２，１０４および全ての他の入力ノード（図示せず）の
出力に関して行なわれている。

【００７３】前記関連発明Ｎｏ．１（特願平６−１５２
９１４）において述べたように、前記ゲーテッド入力は
まずニューロン回路によって生成されかつ次に該ニュー
ロン回路の乗算器によって乗算されてニューロン出力を
発生する。

【００７４】ニューロン回路Ｎ_１，Ｎ_２，Ｎ_３，Ｎ
_ｎ＋１，Ｎ_ｎ＋２，Ｎ_２ｎ＋１，およびＮ_Ｎは加算回路
１１０によって加算されてネットワーク出力ｙを発生す
る。

【００７５】前記関連発明Ｎｏ．１（特願平６−１５２
９１４）においてさらに説明したように、本発明におい
て使用されるタイプのニューラルネットワークの動作は
多項式展開の使用に基いておりかつ、おおざっぱな意味
では、正弦、余弦、指数／対数、フーリエ変換、ルジャ
ンドル多項式、放射基底（ｒａｄｉａｌ ｂａｓｉｓ）
関数、その他のような、直交関数、あるいは多項式展開
および直交関数の組合わせの使用に基いている。

【００７６】好ましい実施例は多項式展開を使用してお
り、該多項式展開の一般的な場合は次の式５によって表
わされる。

【式５】 ∞ ｙ ＝Σ Ｗ_ｉ−１ ｘ_１ ^ｇ１ｉ ｘ_２ ^ｇ２ｉ …… ｘ_ｎ ^ｇｎｉ ｉ＝１

【００７７】この場合、ｘ_ｉはネットワーク入力を表わ
しかつｘ_ｉ＝ｆ_ｉ（ｚ_ｊ）のような関数とすることがで
き、この場合ｚ_ｊは任意の変数であり、かつ上式におい
て指数ｉおよびｊは任意の正の整数であり、ｙはニュー
ラルネットワークの出力を表わし、ｗ_ｉ−１はｉ番目の
ニューロンに対する荷重（ｗｅｉｇｈｔ）を表わし、^ｇ
１ｉ，……，^ｇｎｉはｉ番目のニューロンに対するゲー
ティング関数を表わしかつ整数であり、好ましい実施例
では０またはそれ以上であり、そしてｎはネットワーク
入力の数である。このニューラルネットワークの実際の
応用に対しては、ｉは有限の数でありかつ、前に述べた
発明Ｎｏ．１（特願平６−１５２９１４）に記載された
ようにして、「例（ｅｘａｍｐｌｅｓ）」の数から決定
できる。

【００７８】式５の各々の項はそのようなニューロンに
関連するニューロン出力および荷重そしてゲーティング
関数を表わしている。ニューラルネットワークにおいて
使用されるべき前記多項式展開の項の数は、利用可能な
ニューロンの数、トレーニング例の数、その他を含む、
数多くの要因に基いている。式５は、あるいは、前記関
連発明Ｎｏ．１（特願平６−１５２９１４）において開
示されているように表現することもできる。

【００７９】式５の各項はニューロンまたはニューロン
回路の出力によって生成される。例えば、図１２に関し
ては、ニューロン回路Ｎ_１は前記項ｗ_０を生成する。ニ
ューロン回路Ｎ_２は前記項ｗ_１ｘ_１を生成する。以下同
様である。

【００８０】本発明の好ましい実施例を使用する上で、
ニューラルネットワークのニューロンの数はネットワー
クに提供される例の数に等しいかあるいはそれより小さ
くなるよう選択される。「例」は一組の与えられた入力
およびその結果として得られる出力と定義される。

【００８１】ニューラルネットワークを有用なものにす
るためには、各々のニューロン回路の荷重を決定しなけ
ればならない。これは、前記関連発明Ｎｏ．１（特願平
６−１５２９１４）において述べたような、適切な学習
アルゴリズムの使用によって達成できる。

【００８２】図１２は出力層における１つの加算回路の
みを示しているが、当業者にはもしある特定のエキスパ
ートシステムの応用が複数の出力を必要とする場合には
２つまたはそれ以上の加算回路を使用できることが理解
されるであろう。

【００８３】［エキスパートシステムの出力のデコー
ド］図２に関して上に述べたように、ニューラルネット
ワークによって表わされるサブシステムの出力の値は＋
１と−１との間にある。したがって、これらはこれらの
実際の値を表わすためにデコードされる必要があるかも
しれない。

【００８４】図１３は、適切なデコード手段１２０によ
って正規化された出力値ｙ_ｉ′を実際の値ｙ_ｉにデコー
ドする概念図を示す。

【００８５】例えば、図２に示された出力ｙのような出
力に関し、もしそのような出力が正規化される必要があ
れば、正規化は適切な手段によって行なうことが可能で
あることが理解できるであろう。正規化は全ての場合に
必要とされるものではないことも理解されるであろう。

【００８６】好ましい実施例においては、実際の出力ｙ
は次の式によって計算される。

【式６】ｙ＝ａｙ′＋ｂ 上の式はｙおよびｙ′の間の線形方程式であるが、ｙと
ｙ′との間の非線形の関係も使用できることが理解され
る。

【００８７】現存するエキスパートシステムはプロダク
ションルールの大きな束を備えていることが理解され
る。本発明の方法により、これらのルールは複数のサブ
システムへと規則的にグループ分けされ、該サブシステ
ムの各々は、「もし／その場合は（ＩＦ／ＴＨＥＮ）」
ルールによって表わすことができる、前記与えられたプ
ロダクションルールのある選択されたグループ、または
入力と出力との間の関係を提供するテーブル、その他に
よって管理される。上に述べた方法を使用することによ
り、図２の例に示されるように、各システムは図１２に
示される形式のニューラルネットワークによって表わす
ことができる。各々のサブシステムに対するプロダクシ
ョンルールは多項式展開（例えば、式５）によって表わ
され、かつ、正確な出力または補間された出力とするこ
とができる、少なくとも１つの出力が少なくとも１つの
入力を前記多項式展開に代入しかつ上に説明したように
解くことによって前記多項式展開から計算される。

【００８８】［結論］したがって、現存するエキスパー
トシステムを少なくとも１つのニューラルネットワーク
を有するものに変換するための技術が開示された。変換
されたエキスパートシステムは現存するエキスパートシ
ステムのためのプロダクションルールを作成する上での
時間および資金の投資を節約する。変換されたエキスパ
ートシステムは極めて高性能かつ頑健（ｒｏｂｕｓｔ）
でありそして高速であり、また数多くの時間的にクリテ
ィカルな用途および時間的にクリティカルでない用途に
使用できる。

【００８９】ここに開示されかつ説明されたニューラル
ネットワークはソフトウェアまたはハードウェアのいず
れによっても実施できることが理解できるであろう。

【００９０】さらに、当業者には、開示された発明は種
々の方法によって修正できかつ上に特に説明しかつ述べ
た好ましい形態以外の数多くの実施例が可能なことも理
解されるであろう。

【００９１】したがって、添付の特許請求の範囲により
本発明の真の精神および範囲内にある発明の全ての変形
をカバーするものと考える。

【００９２】次に、本件出願に対応する米国特許出願の
請求の範囲の一部を開示のため以下に記載しておく。 ５．前記出力は補間された値である、請求項４に記載の
方法。

【００９３】７．さらに、（ｈ）前記入力の内少なくと
も１つを前記多項式展開へと代入することにより各々の
ニューラルネットワークから少なくとも１つの出力を計
算する段階（３９）、を具備する、請求項６に記載の方
法。

【００９４】８．前記出力は補間された値である、請求
項７に記載の方法。

【００９５】９．さらに、（ｆ）前記段階（ｄ）におい
て識別された前記サブシステムの間での時間的または論
理的関係を識別する段階（２９）、を具備する、請求項
１に記載の方法。

【００９６】１０．前記段階（ｈ）はさらに前記入力を
正規化するサブステップを具備する、請求項４に記載の
方法。

【００９７】１１．前記正規化サブステップは前記入力
を−１と＋１との間の値に変換することによって行なわ
れる、請求項１０に記載の方法。

【００９８】１２．前記正規化サブステップは前記入力
を０と１との間の絶対値に変換することによって行なわ
れる、請求項１０に記載の方法。

【００９９】１３．前記段階（ｈ）はさらに前記出力の
内の少なくとも１つを正規化するサブステップを具備す
る、請求項４に記載の方法。

【０１００】１４．前記正規化サブステップは前記少な
くとも１つの出力を−１と＋１との間の値に変換するこ
とによって行なわれる、請求項１３に記載の方法。

【０１０１】１５．前記正規化サブステップは前記少な
くとも１つの出力を０と１との間の絶対値に変換するこ
とによって達成される、請求項１３に記載の方法。

【０１０２】１６．前記プロダクションルールの組の内
の少なくとも１はテーブルの形式で与えられる、請求項
２に記載の方法。

【０１０３】１７．現存するエキスパートシステムを１
つまたはそれ以上のニューラルネットワークを有するエ
キスパートシステムへと変換する方法であって、前記現
存するエキスパートシステムは複数の外部入力、複数の
内部入力、複数の内部出力、少なくとも１つの外部出
力、知識ベース、および推論エンジンを具備し、前記方
法は、（ａ）前記現存するエキスパートシステムの前記
推論エンジンから前記知識ベースを分離する段階、
（ｂ）前記現存するエキスパートシステムの前記外部入
力および前記少なくとも１つの外部出力を識別する段
階、（ｃ）前記現存するエキスパートシステムの前記内
部入力および前記内部出力を識別する段階、（ｄ）前記
段階（ｂ）および（ｃ）において識別された前記入力お
よび出力を前記現存するエキスパートシステムの関連す
るサブシステムへとグループ分けする段階、（ｅ）前記
サブシステムの各々に対しニューラルネットワークを提
供する段階、（ｆ）前記段階（ｄ）において識別された
前記サブシステムの各々に対し一組の現存するプロダク
ションルールを識別する段階、そして（ｇ）前記ニュー
ラルネットワークの各々をそのそれぞれのサブシステム
に関連する前記一組のプロダクションルールを学習させ
るためにトレーニングを行なう段階、を具備する現存す
るエキスパートシステムを１つまたはそれ以上のニュー
ラルネットワークを有するエキスパートシステムへと変
換する方法。

【０１０４】１８．さらに、（ｈ）与えられた一組の外
部入力に応答して、各々のニューラルネットワークから
少なくとも１つの出力を計算する段階、を具備する、請
求項１７に記載の方法。

【０１０５】１９．前記出力は補間された値である、請
求項１８に記載の方法。

【０１０６】２０．さらに、（ｈ）前記各々のサブシス
テムのニューラルネットワークを多項式展開により表現
する段階、を具備する、請求項１７に記載の方法。

【０１０７】２１．さらに、（ｉ）前記入力の内の少な
くとも１つを多項式展開に代入することにより各々のニ
ューラルネットワークから少なくとも１つの出力を計算
する段階、を具備する、請求項２０に記載の方法。

【０１０８】２２．前記出力は補間された値である、請
求項２１に記載の方法。

【０１０９】２３．さらに、（ｈ）前記段階（ｄ）にお
いて識別された前記サブシステムの間での時間的または
論理的関係を識別する段階、を具備する、請求項１７に
記載の方法。

【０１１０】２４．前記段階（ｈ）はさらに前記入力を
正規化するサブステップを具備する、請求項１８に記載
の方法。

【０１１１】２５．前記正規化サブステップは前記入力
を−１と＋１との間の値に変換することによって行なわ
れる、請求項２４に記載の方法。

【０１１２】２６．前記正規化サブステップは前記入力
を０と１との間の絶対値に変換することによって行なわ
れる、請求項２４に記載の方法。

【０１１３】２７．前記段階（ｈ）はさらに前記出力の
内の少なくとも１つを正規化するサブステップを具備す
る、請求項１８に記載の方法。

【０１１４】２８．前記正規化サブステップは前記少な
くとも１つの出力を−１と＋１との間の値に変換するこ
とによって行なわれる、請求項２７に記載の方法。

【０１１５】２９．前記正規化サブステップは前記少な
くとも１つの出力を０と１との間の絶対値に変換するこ
とによって達成される、請求項２７に記載の方法。

【０１１６】３０．前記プロダクションルールの組の内
の少なくとも１つはテーブルの形で提供される、請求項
１７に記載の方法。

【０１１７】３１．現存するエキスパートシステムを１
つまたはそれ以上のニューラルネットワークを有するエ
キスパートシステムへと変換する方法であって、前記現
存するエキスパートシステムは複数の外部入力、複数の
内部入力、複数の内部出力、少なくとも１つの外部出
力、知識ベース、および推論エンジンを具備し、前記方
法は、（ａ）前記現存するエキスパートシステムの前記
推論エンジンから前記知識ベースを分離する段階、
（ｂ）前記現存するエキスパートシステムの前記外部入
力および前記少なくとも１つの外部出力を識別する段
階、（ｃ）前記現存するエキスパートシステムの前記内
部入力および前記内部出力を識別する段階、（ｄ）前記
段階（ｂ）および（ｃ）において識別された前記入力お
よび出力を前記現存するエキスパートシステムの関連す
るサブシステムへとグループ分けする段階、（ｅ）前記
段階（ｄ）において識別された前記サブシステムの間に
おける時間的または論理的関係を識別する段階、（ｆ）
前記サブシステムの各々に対しニューラルネットワーク
を提供する段階、（ｇ）前記段階（ｄ）において識別さ
れた前記サブシステムの各々に対する一組の現存するプ
ロダクションルールを識別する段階、（ｈ）前記各々の
サブシステムのニューラルネットワークを多項式展開に
より表現する段階、（ｉ）前記ニューラルネットワーク
の各々をそのそれぞれのサブシステムに関連する前記一
組のプロダクションルールを学習するためにトレーニン
グする段階、そして（ｊ）前記入力の内の少なくとも１
つを前記多項式展開に代入することにより各々のニュー
ラルネットワークから少なくとも１つの出力を計算する
段階、を具備する現存するエキスパートシステムを１つ
またはそれ以上のニューラルネットワークを有するエキ
スパートシステムへと変換する方法。

【０１１８】３２．前記少なくとも１つの出力は補間さ
れた値である、請求項３１に記載の方法。

【０１１９】３３．前記段階（ｊ）はさらに前記少なく
とも１つの入力を正規化するサブステップを具備する、
請求項３１に記載の方法。

【０１２０】３４．前記正規化サブステップは前記少な
くとも１つの入力を−１と＋１との間の値に変換するこ
とによって行なわれる、請求項３３に記載の方法。

【０１２１】３５．前記正規化サブステップは前記少な
くとも１つの入力を０と１との間の絶対値に変換するこ
とによって行なわれる、請求項３３に記載の方法。

【０１２２】３６．前記段階（ｊ）はさらに前記少なく
とも１つの出力を正規化するサブステップを具備する、
請求項３２に記載の方法。

【０１２３】３７．前記正規化サブステップは前記少な
くとも１つの出力を−１と＋１との間の値に変換するこ
とによって達成される、請求項３６に記載の方法。

【０１２４】３８．前記正規化サブステップは前記少な
くとも１つの出力を０と１との間の絶対値に変換するこ
とによって行なわれる、請求項３６に記載の方法。

【０１２５】３９．前記プロダクションルールの組の内
の少なくとも１つはテーブルの形式で与えられる、請求
項３１に記載の方法。

【０１２６】

【発明の効果】以上のように、本発明によれば、現存す
るエキスパートシステムを少なくとも１つのニューラル
ネットワークを有するものへと変換する技術が提供さ
れ、変換されたエキスパートシステムは現存するエキス
パートシステムに対するプロダクションルールを作成す
る上での時間および資金の投資を節約させる。変換され
たエキスパートシステムは極めて頑健であり（ｒｏｂｕ
ｓｔ）かつ高速であり、そして数多くの時間的にクリテ
ィカルな用途および時間的にクリティカルでない用途に
も適切に使用できる。

【図面の簡単な説明】

【図１】伝統的なエキスパートシステムを示す概念図で
ある。

【図２】変換されるべきエキスパートシステムを構成す
る、プロダクションルール、またはサブシステム、のグ
ループが、本発明にしたがい、どのようにして１つまた
はそれ以上のニューラルネットワークによって実現され
るかを示す概念図である。

【図３】現存するエキスパートシステムを本発明に係わ
る１つまたはそれ以上のニューラルネットワークを有す
るエキスパートシステムへと変換するための方法を示す
流れ図である。

【図４】図２に示される現存するエキスパートシステム
のサブシステム１１に対するプロダクションルールを示
すテーブルの説明図である。

【図５】図４に示されるテーブルに対する量化された値
を示す説明図である。

【図６】図２に示される現存するエキスパートシステム
のサブシステム１２に対するプロダクションルールを示
すテーブルの説明図である。

【図７】図６に示されるテーブルに対する量化された値
を示す説明図である。

【図８】入力値ｘ′の−１と＋１との間の値を有する正
規化された値ｘへの正規化を示す概念図である。

【図９】エキスパートシステムによって制御されるプロ
セス制御問題に対するプロダクションルールをテーブル
形式で示す説明図である。

【図１０】図９に示されるテーブルに対する量化された
値を示す説明図である。

【図１１】本発明の変換されたエキスパートシステムに
おいて使用されるニューラルネットワークからの出力の
補間の例を示す説明図である。

【図１２】本発明に係わるエキスパートシステムの計算
を行なうためのニューラルネットワークを示す概念図で
ある。

【図１３】正規化された出力値ｙ′の実際の値ｙへのデ
コードを示す概念図である。

【符号の説明】

１ エキスパートシステム ２ 知識ベース ３ 推論エンジン １０ エキスパートシステム １１，１２ サブシステム ４０ 正規化手段 １０１，１０２，……，１０４ 入力ノード １１０ 加算回路 １２０ デコード手段 Ｎ_１，Ｎ_２，Ｎ_３，……，Ｎ_ｎ＋１，Ｎ_ｎ＋２，……，
Ｎ_２ｎ＋１，……，Ｎ_Ｎ ニューロン回路

Claims (5)

【特許請求の範囲】
1. 【請求項１】 現存するエキスパートシステムを１つま
   たはそれ以上のニューラルネットワークを有するエキス
   パートシステムへと変換する方法であって、前記現存す
   るエキスパートシステムは複数の外部入力、複数の内部
   入力、複数の内部出力、少なくとも１つの外部出力、知
   識ベース、および推論エンジンを具備し、前記方法は、 （ａ）前記現存するエキスパートシステムの前記推論エ
   ンジンから前記知識ベースを分離する段階（２１，図
   ３）、 （ｂ）前記現存するエキスパートシステムの前記外部入
   力および前記少なくとも１つの外部出力を識別する段階
   （２３）、 （ｃ）前記現存するエキスパートシステムの前記内部入
   力および前記内部出力を識別する段階（２５）、 （ｄ）前記段階（ｂ）および（ｃ）において識別された
   前記入力および出力を前記現存するエキスパートシステ
   ムの関連するサブシステムへとグループ分けする段階
   （２７）、そして （ｅ）前記サブシステムの各々に対しニューラルネット
   ワークを提供する段階（３３）、 を具備することを特徴とする現存するエキスパートシス
   テムを１つまたはそれ以上のニューラルネットワークを
   有するエキスパートシステムへと変換する方法。
2. 【請求項２】 さらに、 （ｆ）前記段階（ｄ）において識別された前記サブシス
   テムの各々に対し一組の現存するプロダクションルール
   を識別する段階（３３）、 を具備することを特徴とする請求項１に記載の方法。
3. 【請求項３】 さらに、 （ｇ）前記ニューラルネットワークの各々をそのそれぞ
   れのサブシステムに関連する前記一組のプロダクション
   ルールを学習させるためにトレーニングする段階（３
   ７）、 を具備することを特徴とする、請求項２に記載の方法。
4. 【請求項４】 さらに、 （ｈ）与えられた一組の外部入力に応答して、各々のニ
   ューラルネットワークから少なくとも１つの出力を計算
   する段階（３９）、 を具備することを特徴とする請求項３に記載の方法。
5. 【請求項５】 さらに、 （ｇ）前記各々のサブシステムのニューラルネットワー
   クを多項式展開により表現する段階（３５）、 を具備することを特徴とする、請求項２に記載の方法。