JPH0464134A - ルール部全結合ニューロの学習方法 - Google Patents
ルール部全結合ニューロの学習方法Info
- Publication number
- JPH0464134A JPH0464134A JP2174608A JP17460890A JPH0464134A JP H0464134 A JPH0464134 A JP H0464134A JP 2174608 A JP2174608 A JP 2174608A JP 17460890 A JP17460890 A JP 17460890A JP H0464134 A JPH0464134 A JP H0464134A
- Authority
- JP
- Japan
- Prior art keywords
- learning
- unit
- rule
- value
- membership function
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Devices For Executing Special Programs (AREA)
Abstract
(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。
め要約のデータは記録されません。
Description
【発明の詳細な説明】
〔概 要]
前件部メンバシップ関数実現部、ルール部および後件部
メンバシップ関数実現部で成るファジィ制御ルールを実
現する階層ネットワーク構造に従って入力に対応する制
御出力を生ずるルール部全結合ニューロの学習方法に関
し、 対象システムに適合した制御を行なうための学習を効率
良(行なうことを目的とし、 前件部メンバシップ関数実現部、ルール部および後件部
メンバシップ関数実現部の各々に、予め持っている知識
の導入または乱数の利用またはその併用で重みおよび閾
値の初期値を設定した後、予め準備されたシステム学習
データを使用してルール部の重みを学習させた後、ルー
ル部と前件部メンバシップ関数実現部の重みを同時に学
習させるように構成する。
メンバシップ関数実現部で成るファジィ制御ルールを実
現する階層ネットワーク構造に従って入力に対応する制
御出力を生ずるルール部全結合ニューロの学習方法に関
し、 対象システムに適合した制御を行なうための学習を効率
良(行なうことを目的とし、 前件部メンバシップ関数実現部、ルール部および後件部
メンバシップ関数実現部の各々に、予め持っている知識
の導入または乱数の利用またはその併用で重みおよび閾
値の初期値を設定した後、予め準備されたシステム学習
データを使用してルール部の重みを学習させた後、ルー
ル部と前件部メンバシップ関数実現部の重みを同時に学
習させるように構成する。
〔産業上の利用分野]
本発明は、ファジィ制御とニューラルネットワークを融
合させたルール部全結合ニューロの学習方法に関する。
合させたルール部全結合ニューロの学習方法に関する。
ニューロを用いた情報処理にあっては、対象とするシス
テムの入カバターンと、その入カバターンに対する望ま
しい出カバターンとの組でなる学習データを階層型ニュ
ーラルネットワークに提示して学習させ適応的な処理を
行なわせる。この学習処理には特にバックプロパゲーシ
ョン法と呼ばれる処理方式が、その実用性の高さから注
目されている。
テムの入カバターンと、その入カバターンに対する望ま
しい出カバターンとの組でなる学習データを階層型ニュ
ーラルネットワークに提示して学習させ適応的な処理を
行なわせる。この学習処理には特にバックプロパゲーシ
ョン法と呼ばれる処理方式が、その実用性の高さから注
目されている。
一方、ファジィ理論は、1960年にZadehにより
提案され、温度が「低い」とか「高い」といった人間が
行なっている曖昧さに基づく思考や判断の過程をモデル
化する理論である。このファジィ理論では曖昧さを表わ
すためにメンバシップ関数を導入したファジィ集合論を
数学的基礎としている。
提案され、温度が「低い」とか「高い」といった人間が
行なっている曖昧さに基づく思考や判断の過程をモデル
化する理論である。このファジィ理論では曖昧さを表わ
すためにメンバシップ関数を導入したファジィ集合論を
数学的基礎としている。
ファジィ理論の応用としては、1974年にMaqmd
an iがスチームエンジンの制御に用いたのを最初に
、各種のファジィ制御が行なわれている。
an iがスチームエンジンの制御に用いたのを最初に
、各種のファジィ制御が行なわれている。
このファジィ制御を実行するシステムは不確定なものを
扱うものであることから、制御アルゴリズムの調整や変
更等に対して適応的に対応できるような構成にしていく
必要がある。
扱うものであることから、制御アルゴリズムの調整や変
更等に対して適応的に対応できるような構成にしていく
必要がある。
[従来の技術]
一般に、ファジィ制御システムを構築するには、以下の
ような手続きを取る。
ような手続きを取る。
■熟練操作員の持つ「もし温度が高ければ、火を小さく
する」等の曖昧な制御規則を得る。
する」等の曖昧な制御規則を得る。
■制御規則の中の言葉(命題)の意味をメンバシップ関
数という形で定量化し、制御規則をrlF−THEN〜
」 型のルール表現で記述する。
数という形で定量化し、制御規則をrlF−THEN〜
」 型のルール表現で記述する。
■シミュレーションや現地テストによる検査を行なう。
■検査結果を評価し、メンバシップ関数や規則の改良を
行なう。
行なう。
さらに詳細に説明すると、ファジィ制御ルールは、例え
ば、 rif x、 is big and X2 is s
mall thenV+ is big」 と記述される。
ば、 rif x、 is big and X2 is s
mall thenV+ is big」 と記述される。
ここでIF部は前件部と呼ばれ、温度等の制御状態量(
制御入力)についての条件を記述する部分である。また
、THEN部は後件部と呼ばれ、操作端等の制御操作量
(制御出力)についての条件を記述する部分である。
制御入力)についての条件を記述する部分である。また
、THEN部は後件部と呼ばれ、操作端等の制御操作量
(制御出力)についての条件を記述する部分である。
ファジィ制御では、対象システムの制御論理として用意
される複数のファジィ制御ルールを管理すると共に、各
ファジィ制御ルール中に記述される「大きい」とか「小
さい」とかいうような曖昧な言語表現の意味をメンバシ
ップ関数として定量化して管理する。
される複数のファジィ制御ルールを管理すると共に、各
ファジィ制御ルール中に記述される「大きい」とか「小
さい」とかいうような曖昧な言語表現の意味をメンバシ
ップ関数として定量化して管理する。
完成したファジィ制御システムの制御手順は次のように
なる。
なる。
■制御対象から温度等の制御状Lq量が入力されると、
設定している前件部のメンバシップ関数に従って真理値
を算出する。
設定している前件部のメンバシップ関数に従って真理値
を算出する。
■次に、最小値を選択する等の前件部演算に従って、各
ファジィ制御ルールにおける後件部に対しての適用値を
決定する処理を実行する。
ファジィ制御ルールにおける後件部に対しての適用値を
決定する処理を実行する。
例えば、
r x、 is big」 の真理値=0.8’ X
2 is small Jの真理値=0.5である場合
には、最小値を選択する前件部演算ニ従って、真理値=
0.5をそのファジィ制御ルールの後件部に対しての適
用値として出力するように処理する。
2 is small Jの真理値=0.5である場合
には、最小値を選択する前件部演算ニ従って、真理値=
0.5をそのファジィ制御ルールの後件部に対しての適
用値として出力するように処理する。
■続いて、同一の制御操作量となる後件部のメンバーシ
ップ関数に対する前件部からの入力値(適用値)から出
力適用値を決定する処理を実行する。
ップ関数に対する前件部からの入力値(適用値)から出
力適用値を決定する処理を実行する。
例えば、2つのファジィ制御ルールにより、r yl
is bigJの適用値=0.5’ V+ is bi
g」の通用値−0,6が得られた場合、最大値を選択す
る後件部演算に従って、適用値−0,6を選択決定する
。
is bigJの適用値=0.5’ V+ is bi
g」の通用値−0,6が得られた場合、最大値を選択す
る後件部演算に従って、適用値−0,6を選択決定する
。
■続いて、決定された適用値に従って制御操作量のメン
バーシップ関数を縮小(または拡大)すると共に、同一
の制御操作量についてのメンバーシップ関数の関数和の
図形の重心を求める等の処理を行なってファジィ推論値
である制御操作量を算出して出力する。
バーシップ関数を縮小(または拡大)すると共に、同一
の制御操作量についてのメンバーシップ関数の関数和の
図形の重心を求める等の処理を行なってファジィ推論値
である制御操作量を算出して出力する。
ところで、ファジィ制御ルールは、熟練操作員の持つ知
識に従って生成されることを予定しており、最初から最
適制御を実現できるファジィ制御ルールを確立すること
は困難である。従って、生成したファジィ制御ルールを
シミュレーションや現地テストにより評価しながら、試
行錯誤的に改良していくという手順をとらざるを得ない
。
識に従って生成されることを予定しており、最初から最
適制御を実現できるファジィ制御ルールを確立すること
は困難である。従って、生成したファジィ制御ルールを
シミュレーションや現地テストにより評価しながら、試
行錯誤的に改良していくという手順をとらざるを得ない
。
そこで、本願発明者等にあっては、ニューロの適用によ
りファジィ制御ルールを実現する階層ネットワーク構造
、すなわちルール部ブリワイヤニューロを使用した適用
型のファジィ制御システムを提案している(特願平2−
60256号「階層ネットワーク構成データ処理装置お
よびデータ処理システム」)。すなわち、ルール部プリ
ワイヤニューロは、前件部メンバシップ関数実現部、ル
ール部および後件部メンバシップ関数で成るファジィ制
御ルールを実現する階層ネットワーク構成をもつ。
りファジィ制御ルールを実現する階層ネットワーク構造
、すなわちルール部ブリワイヤニューロを使用した適用
型のファジィ制御システムを提案している(特願平2−
60256号「階層ネットワーク構成データ処理装置お
よびデータ処理システム」)。すなわち、ルール部プリ
ワイヤニューロは、前件部メンバシップ関数実現部、ル
ール部および後件部メンバシップ関数で成るファジィ制
御ルールを実現する階層ネットワーク構成をもつ。
このルール部ブリワイヤニューロによるファジィ制御ル
ールの自動抽出を考えると、以下のような手続きを取れ
ばよい。
ールの自動抽出を考えると、以下のような手続きを取れ
ばよい。
■ルール部プリワイヤニューロのメンバシップ関数を設
定する。
定する。
■ルール部ブリワイヤニューロに、対象システムの入カ
バターンとその入カバターンに対する望ましい出カバタ
ーンの組とを提示して学習させる。
バターンとその入カバターンに対する望ましい出カバタ
ーンの組とを提示して学習させる。
■ルール部の結線の重みを解析することにより対象シス
テムについての最適ファジィ制御ルールを抽出する。
テムについての最適ファジィ制御ルールを抽出する。
しかしながら、ルール部全結合ニューロについてファジ
ィ制御ルールを抽出させるために行なわれる学習は、前
件部メンバシップ関数部、ルール部および後件部メンハ
シツブ関数実現部の重みを含め、どのようにして学習を
行なわせるかの学習方法が決まっておらず、ルール部全
結合ニューロの性能を最大限に引き出すことのできる効
率の良い学習法の構築が必要となっている。
ィ制御ルールを抽出させるために行なわれる学習は、前
件部メンバシップ関数部、ルール部および後件部メンハ
シツブ関数実現部の重みを含め、どのようにして学習を
行なわせるかの学習方法が決まっておらず、ルール部全
結合ニューロの性能を最大限に引き出すことのできる効
率の良い学習法の構築が必要となっている。
本発明は、このような状況に鑑みてなされたもので、対
象システムに適合した制御を行なうための学習を効率良
く行なうことのできるルール部全結合ニューロの学習方
法を提供することを目的としている。
象システムに適合した制御を行なうための学習を効率良
く行なうことのできるルール部全結合ニューロの学習方
法を提供することを目的としている。
第1図は本発明の原理説明図である。
本発明は、前件部メンバシップ関数実現部10.1また
は複数階層でなるルール部12および後件部メンバシッ
プ関数実現部14でなる階層ネットワーク構造を有し、
ルール部12の内部の層同士の間および、前段の前件部
メンハシノブ関数実現部10および後段の後件部メンハ
シノブ関数実現部14との間で全ユニット間を内部結合
して成り、入力される制御状態量(X+ 、Xz 、
・・・X、、)に対応する1または複数の制御操作量
(Y)を出力するルール部全結合ニューロを対象とする
。
は複数階層でなるルール部12および後件部メンバシッ
プ関数実現部14でなる階層ネットワーク構造を有し、
ルール部12の内部の層同士の間および、前段の前件部
メンハシノブ関数実現部10および後段の後件部メンハ
シノブ関数実現部14との間で全ユニット間を内部結合
して成り、入力される制御状態量(X+ 、Xz 、
・・・X、、)に対応する1または複数の制御操作量
(Y)を出力するルール部全結合ニューロを対象とする
。
このようなルール部全結合ニューロの学習方法として本
発明にあっては、 〈第1過程〉 前件部メンバシップ関数実現部10、ルール部12およ
び後件部メンバシップ関数実現部14の各々に重みおよ
び閾値の初期値を設定する。
発明にあっては、 〈第1過程〉 前件部メンバシップ関数実現部10、ルール部12およ
び後件部メンバシップ関数実現部14の各々に重みおよ
び閾値の初期値を設定する。
〈第2過程〉
予め準備された学習データを使用してルール部12の重
みを学習させた後、前件部メン/Nシ・ノブ関数実現部
10とルール部12の重みを学習させる。
みを学習させた後、前件部メン/Nシ・ノブ関数実現部
10とルール部12の重みを学習させる。
〈第3過程〉
予め準備された学習データを使用してルール部12の重
みと前件部メンバシップ関数実現部10とを同時に学習
させる。
みと前件部メンバシップ関数実現部10とを同時に学習
させる。
とする処理過程を備えた学習方法を構成する。
ここで第1過程の重みおよび閾値の初期値の設定方法と
しては、予め持っている知識(図中は「先験的知fla
jとして示す)に基づいて作成された初期値を設定する
。
しては、予め持っている知識(図中は「先験的知fla
jとして示す)に基づいて作成された初期値を設定する
。
また、第1過程の重みおよび閾値の初期値の他の設定方
法としては、乱数を用いて作成された初期値を設定する
。
法としては、乱数を用いて作成された初期値を設定する
。
さらに第1過程の重みおよび閾値の初期値の設定は、予
め持っている知識で設定可能なものは該知識で初期設定
し、その他は乱数を用いて初期値を設定する場合もある
。
め持っている知識で設定可能なものは該知識で初期設定
し、その他は乱数を用いて初期値を設定する場合もある
。
さらにまた、第2過程および第3過程の学習開始時には
、前件部メンバシップ関数実現部10、ルール部12で
なる階層ネットワーク構造の結線毎に学習の有無を決め
る学習フラグを設定し、結線に設定された学習フラグに
基づいて重み値を学習処理により最適化する。
、前件部メンバシップ関数実現部10、ルール部12で
なる階層ネットワーク構造の結線毎に学習の有無を決め
る学習フラグを設定し、結線に設定された学習フラグに
基づいて重み値を学習処理により最適化する。
このような構成を備え第3図によって定義されるような
ルール部全結合ニューロについての本発明発明による学
習方法によれば、次の作用が得られる。
ルール部全結合ニューロについての本発明発明による学
習方法によれば、次の作用が得られる。
まず、対象システムのファジィ制御ルールを実現する前
件部メンバシップ関数実現部、ルール部および後件部メ
ンバシップ関数実現部で成る階層ネットワーク構成のル
ール部全結合ニューロに対し、予め持っている知識に基
づいた重みおよび閾値の初期値の設定または乱数に基づ
いた重みおよび閾値の初期値の設定あるいは両者の併用
を行なつ。
件部メンバシップ関数実現部、ルール部および後件部メ
ンバシップ関数実現部で成る階層ネットワーク構成のル
ール部全結合ニューロに対し、予め持っている知識に基
づいた重みおよび閾値の初期値の設定または乱数に基づ
いた重みおよび閾値の初期値の設定あるいは両者の併用
を行なつ。
続いて、学習処理を起動し、学習用の入カバターンをル
ール部全結合ニューロに提示し、ルール部全結合ニュー
ロからの出カバターンが、入カバターンに対し望ましい
出カバターンとなる学習出カバターン(教師信号)に略
一致するように初期設定した重み値を修正する、例えば
バックプロパゲーション法による学習を行なう。
ール部全結合ニューロに提示し、ルール部全結合ニュー
ロからの出カバターンが、入カバターンに対し望ましい
出カバターンとなる学習出カバターン(教師信号)に略
一致するように初期設定した重み値を修正する、例えば
バックプロパゲーション法による学習を行なう。
また、予め持っている知識を導入した前件部メンバシッ
プ関数実現部、および後件部メンバシップ関数実現部の
重みおよび閾値の初期設定により、学習効率を高めるこ
とができる。
プ関数実現部、および後件部メンバシップ関数実現部の
重みおよび閾値の初期設定により、学習効率を高めるこ
とができる。
さらに、乱数を利用した前件部メンバシップ関数実現部
、ルール部および後件部メンバシップ関数実現部の重み
および閾値の初期設定により、ネットワークの性能を最
大限引き出すことができる。
、ルール部および後件部メンバシップ関数実現部の重み
および閾値の初期設定により、ネットワークの性能を最
大限引き出すことができる。
〔実施例]
第2図は本発明によるルール部全結合ニューロの学習方
法の第1の実施例としての処理手順を示した学習動作フ
ロー図である。この第2図の手順による学習方法の対象
となるルール部全結合ニューロは、例えば第5図に示す
ような前件部メンバシップ関数実現部10、ルール部1
2、および後件部メンバシップ関数実現部14(重心計
算実現部18を含む)で成るファジィ制御ルールを実現
するための階層ネットワーク構造を有する。
法の第1の実施例としての処理手順を示した学習動作フ
ロー図である。この第2図の手順による学習方法の対象
となるルール部全結合ニューロは、例えば第5図に示す
ような前件部メンバシップ関数実現部10、ルール部1
2、および後件部メンバシップ関数実現部14(重心計
算実現部18を含む)で成るファジィ制御ルールを実現
するための階層ネットワーク構造を有する。
第2図の学習処理にあっては、次のステップS1〜S6
から成る処理を行なう。
から成る処理を行なう。
〈ステップSl>
前件部メンバシップ関数実現部10の重みCab。
Cbcを与えられたメンバシップ関数を実現するように
予め持っている知識を導入して初期設定する。
予め持っている知識を導入して初期設定する。
くステップ32>
ルール部12の重みCcd 、 Cdeを乱数を用い
て初期設定する。
て初期設定する。
〈ステップS3>
後件部メンバシップ関数実現部14の重みCefを与え
られたメンバシップ関数を実現するように予め持ってい
る知識を導入して初期設定する。
られたメンバシップ関数を実現するように予め持ってい
る知識を導入して初期設定する。
〈ステップ34>
重心計算実現部18の重みCfgを、重心計算を実現す
るように初期設定する。尚、第5図では後件部メンバシ
ップ関数実現部14に含まれている。
るように初期設定する。尚、第5図では後件部メンバシ
ップ関数実現部14に含まれている。
くステップS5>
学習処理を行なうフェーズ毎のグループ対応表(学習対
象となるニューロンのグループ、すなわち階層を指定す
るテーブル)および各グループの結線対応表(ユニット
のグループに入力する結線のグループを示すテーブル)
の設定を行なう。
象となるニューロンのグループ、すなわち階層を指定す
るテーブル)および各グループの結線対応表(ユニット
のグループに入力する結線のグループを示すテーブル)
の設定を行なう。
〈ステップ36>
学習スケジューラを起動してパックプロパゲーション法
により学習処理を行なう。
により学習処理を行なう。
以下、第2図の動作フローに示したステップS1〜S6
をそれぞれに分けて詳細に説明する。
をそれぞれに分けて詳細に説明する。
(ルール部全結合ニューロの構成)
本発明の対象となるルール部全結合ニューロは、例えば
、第5図に示すファジィ制御ルールの実現可能な階層ネ
ットワーク構成を有する。
、第5図に示すファジィ制御ルールの実現可能な階層ネ
ットワーク構成を有する。
第5図において、各部に示したノードは1つの基本ユニ
ットを構成しており、基本ユニットは黒丸で示すシグモ
イド関数ユニットと、白丸で示す線形関数ユニットの2
種が使用されている。
ットを構成しており、基本ユニットは黒丸で示すシグモ
イド関数ユニットと、白丸で示す線形関数ユニットの2
種が使用されている。
第4図は第5図のルール部全結合ニューロにおける基本
ユニットの構成を取り出して示したものである。
ユニットの構成を取り出して示したものである。
第4図において、基本ユニット20は多大力1出力系を
構成しており、複数の入力に対し各々の内部結合の重み
値を乗算する乗算部22と、乗算部22の乗算結果を加
算する加算部24と、加算部24の出力に閾値処理を施
す閾値処理部26とで構成される。
構成しており、複数の入力に対し各々の内部結合の重み
値を乗算する乗算部22と、乗算部22の乗算結果を加
算する加算部24と、加算部24の出力に閾値処理を施
す閾値処理部26とで構成される。
ここで前段層をh層、後段層をi層とすると、乗算部2
2と加算部24は下記の(1)式の演算を実行し、また
閾値処理部26では下記の(2)式のの演算を実行する
。
2と加算部24は下記の(1)式の演算を実行し、また
閾値処理部26では下記の(2)式のの演算を実行する
。
Xpi−ΣyDhW1h (1
)但し、 h : h層のユニット番号 i : 1層のユニット番号 p :入力信号のパターン番号 θ1: i層の1番ユニットの閾値 Wih: h s層間の内部結合の重み値x、i:
h層の各ユニットからi層の1番ユニットへの入力
の積和 3’phi P番目パターンの入力信号に対するh層
の1番ユニットからの出力 ypi: I’番目パターンの入力信号に対するi層の
1番ユニットからの出力 ここで前記(2)式はシグモイド関数として知られてお
り、第5図のルール部全結合ニューロに示した黒丸の基
本ユニットの閾値処理部26が前記(2)式のシグモイ
ド関数に従った閾値処理を行なう。
)但し、 h : h層のユニット番号 i : 1層のユニット番号 p :入力信号のパターン番号 θ1: i層の1番ユニットの閾値 Wih: h s層間の内部結合の重み値x、i:
h層の各ユニットからi層の1番ユニットへの入力
の積和 3’phi P番目パターンの入力信号に対するh層
の1番ユニットからの出力 ypi: I’番目パターンの入力信号に対するi層の
1番ユニットからの出力 ここで前記(2)式はシグモイド関数として知られてお
り、第5図のルール部全結合ニューロに示した黒丸の基
本ユニットの閾値処理部26が前記(2)式のシグモイ
ド関数に従った閾値処理を行なう。
これに対し閾値処理部26に
)’pi=Xpi
となる線形関数を設定したものが第5図における白丸の
線形関数ユニットとなる。但し、前件部メンバシップ関
数実現部10の最初のユニットとなる入力部は除(。こ
の第4図の基本ユニットを構成するハードウェアとして
は特願昭63−216865号の「ネットワーク構成デ
ータ処理装置Jが使用できる。
線形関数ユニットとなる。但し、前件部メンバシップ関
数実現部10の最初のユニットとなる入力部は除(。こ
の第4図の基本ユニットを構成するハードウェアとして
は特願昭63−216865号の「ネットワーク構成デ
ータ処理装置Jが使用できる。
再び第5図を参照してルール部全結合ニューロの各部の
構成を説明する。
構成を説明する。
まず、前件部メンバシップ関数実現部10は、各入力変
数X、 、X2を入力とし、入力変数X〜X、、のメン
バシップ関数のグレード値を出力する。図では簡単のた
め各メンバシップ関数は1変数関数としているが、多変
数関数であってもよい。
数X、 、X2を入力とし、入力変数X〜X、、のメン
バシップ関数のグレード値を出力する。図では簡単のた
め各メンバシップ関数は1変数関数としているが、多変
数関数であってもよい。
つまり変数XIとX2を入力として、
X1&Xz (SA)
というメンバシップ関数であっても良い。
ルール部は階層型ニューラルネットワークである。入力
変数X、、X2のメンバシップ関数のグレード値を入力
として、出力変数Yのメンバシップ関数のグレード値を
出力とする。
変数X、、X2のメンバシップ関数のグレード値を入力
として、出力変数Yのメンバシップ関数のグレード値を
出力とする。
後件部メンバシップ関数実現部14(重心決定部を含む
)は、出力変数のメンバシップ関数y(SA)〜y (
LA)のグレード値を入力して、出力変数Yの値を出力
する。
)は、出力変数のメンバシップ関数y(SA)〜y (
LA)のグレード値を入力して、出力変数Yの値を出力
する。
また第5図では各ユニットを1つのニューロンとして説
明しているが、ルール部以外の部についてユニットの機
能が特定できているものはニューロンとせずにユニット
機能を実現するゲート回路、演算器等としてもよい。
明しているが、ルール部以外の部についてユニットの機
能が特定できているものはニューロンとせずにユニット
機能を実現するゲート回路、演算器等としてもよい。
第5図においては入力X、、X2の2つを与えて制御出
力Yを得る場合を例にとっており、同図を参照して各部
の構成を詳細に説明すると次のようになる。
力Yを得る場合を例にとっており、同図を参照して各部
の構成を詳細に説明すると次のようになる。
入力部16は分離ユニット28−1.28−2で構成さ
れ、入力Xr、Xzを2つに分けて前件部メンバシップ
関数実現部10に与える。前件部メンバシップ関数実現
部10は4つのシグモイド関数ユニット30−1〜30
−4と各シグモイド間数ユニッ)30−1〜30−4の
出力を入力した同じく4つの線形関数ユニット32−1
〜32−3で構成される。
れ、入力Xr、Xzを2つに分けて前件部メンバシップ
関数実現部10に与える。前件部メンバシップ関数実現
部10は4つのシグモイド関数ユニット30−1〜30
−4と各シグモイド間数ユニッ)30−1〜30−4の
出力を入力した同じく4つの線形関数ユニット32−1
〜32−3で構成される。
ルール部12はシグモイド関数ユニット34−1〜34
−5を備え、各シグモイド関数ユニット34−1〜34
−5に対する前件部メンバシップ関数実現部10からは
総てのユニットに対して結線が行なわれている。シグモ
イド関数ユニット34−1〜34−5の出力は後件部演
算を行なう線形関数ユニッ)36−1〜36−2との間
で各ユニット間が総て結線されている。
−5を備え、各シグモイド関数ユニット34−1〜34
−5に対する前件部メンバシップ関数実現部10からは
総てのユニットに対して結線が行なわれている。シグモ
イド関数ユニット34−1〜34−5の出力は後件部演
算を行なう線形関数ユニッ)36−1〜36−2との間
で各ユニット間が総て結線されている。
後件部メンバシップ関数実現部14は9つの線形関数ユ
ニッ)38−1〜38−9で構成されており、ルール部
12から出力される2種の出力値(グレード値)に基づ
いてメンバシップ関数を縮小(または拡大)すると共に
縮小した2種のメンバシップ関数の関数和を算出する。
ニッ)38−1〜38−9で構成されており、ルール部
12から出力される2種の出力値(グレード値)に基づ
いてメンバシップ関数を縮小(または拡大)すると共に
縮小した2種のメンバシップ関数の関数和を算出する。
さらに重心計算実現部18は重心決定要素出力装置40
と重心算出装置42で構成され、後件部メンバシップ関
数実現部14からの出力の重み付は総和を重心決定要素
出力装置40に設けられた2つの線形関数ユニッl−4
0−1,40−2のそれぞれで演算して2つの重心算出
要素Y、、Y。
と重心算出装置42で構成され、後件部メンバシップ関
数実現部14からの出力の重み付は総和を重心決定要素
出力装置40に設けられた2つの線形関数ユニッl−4
0−1,40−2のそれぞれで演算して2つの重心算出
要素Y、、Y。
を求め、最終的に重心算出装置42で2つの重心算出要
素YI、Yzから重心を算出して制御出力Yを生ずる。
素YI、Yzから重心を算出して制御出力Yを生ずる。
第6図は、第5図のルール部全結合ニューロについて、
本発明による学習方法を実現するためのニューロングル
ープと結線グループを示す。
本発明による学習方法を実現するためのニューロングル
ープと結線グループを示す。
第6図において、ニューロングループはGa−Ggの7
つであるが、この内、入力部のニューロングループGa
と重心計算実現部18のニューロングループGgの2つ
については単なる分離および加算合成を行なうにすぎな
いことから、学習対象からは除いており、また、本発明
がルール部と前件部メンバシップ関数実現部を学習させ
るものであることから、本発明の学習対象に入るニュー
ロングループはGb、Gc、Gd、Geの4つとなる。
つであるが、この内、入力部のニューロングループGa
と重心計算実現部18のニューロングループGgの2つ
については単なる分離および加算合成を行なうにすぎな
いことから、学習対象からは除いており、また、本発明
がルール部と前件部メンバシップ関数実現部を学習させ
るものであることから、本発明の学習対象に入るニュー
ロングループはGb、Gc、Gd、Geの4つとなる。
一方、各ニューロングループを結ぶ結線グループはCa
t+−Cfgの6つであり、学習対象となるニューロン
グループの前段に位置する入力結線の重み値をパックプ
ロパゲーション法により修正する学習を行なうことから
、結線グループCab−Cdeが本発明による学習処理
の対象となる。
t+−Cfgの6つであり、学習対象となるニューロン
グループの前段に位置する入力結線の重み値をパックプ
ロパゲーション法により修正する学習を行なうことから
、結線グループCab−Cdeが本発明による学習処理
の対象となる。
この第5.6図に示した構成のルール部全結合ニューロ
を対象とした第2図の動作フローによる学習処理につき
、まず各部に対する重み値の初期設定を説明すると次の
ようになる。
を対象とした第2図の動作フローによる学習処理につき
、まず各部に対する重み値の初期設定を説明すると次の
ようになる。
(前件部メンバシップ関数実現部の初期設定)この前件
部メンバシップ関数実現部10に対する重み値の初期設
定は第6図に示す前件部メンバシップ関数実現部の結線
グループCabおよびCbcにおける各結線の重みを、
与えられたメンバシップ関数を実現するように初期設定
する。
部メンバシップ関数実現部10に対する重み値の初期設
定は第6図に示す前件部メンバシップ関数実現部の結線
グループCabおよびCbcにおける各結線の重みを、
与えられたメンバシップ関数を実現するように初期設定
する。
第7図は第5図の前件部メンバシップ関数実現部10に
おける制御入力X、側を取り出して示したものである。
おける制御入力X、側を取り出して示したものである。
第7図において、シグモイド関数ユニット301.30
−2より出力される出力値yはy−1/ (1+e−(
W”−”) (3)で表わされる。
−2より出力される出力値yはy−1/ (1+e−(
W”−”) (3)で表わされる。
本発明の前件部メンバシップ関数実現部10に対する重
み値の初期設定にあっては、予め持っている知識に基づ
き、例えばシグモイド関数ユニット30−1の入力結線
に重み値Wとして、Wな−20 を設定し、且つシグモイド関数ユニット30−1に閾値
θとして、θ=−10を設定する。
み値の初期設定にあっては、予め持っている知識に基づ
き、例えばシグモイド関数ユニット30−1の入力結線
に重み値Wとして、Wな−20 を設定し、且つシグモイド関数ユニット30−1に閾値
θとして、θ=−10を設定する。
またもう1つのシグモイド関数ユニット30−2の入力
結線には重み値Wとして、 を設定し、同時にシグモイド関数ユニット302に閾値
θとして、 θ=10 を設定する。尚、線形関数ユニッ)32−L32−2の
入力結線の重み値は重み初期値lを設定している。
結線には重み値Wとして、 を設定し、同時にシグモイド関数ユニット302に閾値
θとして、 θ=10 を設定する。尚、線形関数ユニッ)32−L32−2の
入力結線の重み値は重み初期値lを設定している。
このようにシグモイド関数ユニット30−1に、W〈0
θ〈0 となる重み値および閾値を初期設定した場合には、第8
図の特性曲線44に示す制御入力X1に対するユニット
出力値X、(SS)、すなわち制御入力Xが大きくなる
とユニット出力値X、(SS)が小さくなるという関数
形状のメンバシップ関数の真理値算出機能を設定するこ
とができる。
θ〈0 となる重み値および閾値を初期設定した場合には、第8
図の特性曲線44に示す制御入力X1に対するユニット
出力値X、(SS)、すなわち制御入力Xが大きくなる
とユニット出力値X、(SS)が小さくなるという関数
形状のメンバシップ関数の真理値算出機能を設定するこ
とができる。
またシグモイド関数ユニット30−2に、W〉0
θ〉0 となる重み値および閾値を初期設定することで第7図の
特性曲線46に示す制御入力X、に対するユニット出力
値X、(LA) 、すなわち制御入力Xが大きい程ユニ
ット出力値X、(LA)が大きくなるという関数形状の
メンバシップ関数の真理値を算出する機能が実現できる
。
θ〉0 となる重み値および閾値を初期設定することで第7図の
特性曲線46に示す制御入力X、に対するユニット出力
値X、(LA) 、すなわち制御入力Xが大きい程ユニ
ット出力値X、(LA)が大きくなるという関数形状の
メンバシップ関数の真理値を算出する機能が実現できる
。
この第7図に示すシグモイド関数ユニット301.30
−2に対する重み値および閾値の初期設定は、前件部メ
ンバシップ関数実現部10における残りのシグモイド間
数ユニッl−30−2,304側についても所望の前件
部メンバシップ関数を実現するように予め持っている知
識に基づいて初期設定する。
−2に対する重み値および閾値の初期設定は、前件部メ
ンバシップ関数実現部10における残りのシグモイド間
数ユニッl−30−2,304側についても所望の前件
部メンバシップ関数を実現するように予め持っている知
識に基づいて初期設定する。
(ルール部の初期設定)
第3図のルール部12に対する重み値の初期設定は、第
6図に示すルール部に含まれる結線グループCcdおよ
びCdeに属する各結線の重み値を、予め持っている知
識を導入して一定の条件の基で発生した乱数(例えば+
1〜−1の範囲)を用いて初期設定する。
6図に示すルール部に含まれる結線グループCcdおよ
びCdeに属する各結線の重み値を、予め持っている知
識を導入して一定の条件の基で発生した乱数(例えば+
1〜−1の範囲)を用いて初期設定する。
ルール部12におけるシグモイド関数ユニット34−1
〜34−8の入力結線に初期設定する重み値とユニット
自体に設定する閾値に基づくファシイ論理演算の関数を
説明すると次のようになる。
〜34−8の入力結線に初期設定する重み値とユニット
自体に設定する閾値に基づくファシイ論理演算の関数を
説明すると次のようになる。
第9図はルール部12に設けられる1つのシグモイド関
数ユニット34を取り出して示したもので、前段に位置
する前件部メンバシップ関数実現部10よりグレード値
X、(SS)〜X2 (LA)が入力し、積和演算およ
び閾値処理により出力値yのグレード値y (SS)〜
y (LA)を生ずる。
数ユニット34を取り出して示したもので、前段に位置
する前件部メンバシップ関数実現部10よりグレード値
X、(SS)〜X2 (LA)が入力し、積和演算およ
び閾値処理により出力値yのグレード値y (SS)〜
y (LA)を生ずる。
上記 X+(33)=)[、、L (LA)=xzx
z (SS)=X3 、Xz (LA)=X4とし
たとき第9図のシグモイド関数ユニット34より出力さ
れる出力値yは、 S = WXI−X I+ Wxz・x2+WX、・X
3+Wx4・x3−θ (4)y=1
/ (1+e−”) (5)として
算出される。この(5)式で与えられるユニット出力値
yは、入力結線の重み値WX、〜WX4および閾値θを
任意に設定することで適宜の関数形状を実現することが
できる。
z (SS)=X3 、Xz (LA)=X4とし
たとき第9図のシグモイド関数ユニット34より出力さ
れる出力値yは、 S = WXI−X I+ Wxz・x2+WX、・X
3+Wx4・x3−θ (4)y=1
/ (1+e−”) (5)として
算出される。この(5)式で与えられるユニット出力値
yは、入力結線の重み値WX、〜WX4および閾値θを
任意に設定することで適宜の関数形状を実現することが
できる。
尚、ルール部の最終段に設けられた線形関数ユニット3
6−1.36−2に対する結線の重み値は1に初期設定
されており、また閾値処理については線形関数であり、
閾値θ−0が設定される。
6−1.36−2に対する結線の重み値は1に初期設定
されており、また閾値処理については線形関数であり、
閾値θ−0が設定される。
(後件部メンバシップ関数実現部の初期設定)第5図の
後件部メンバシップ関数実現部14に対する重み値の初
期設定は、第6図の結線グループCefに属する結線の
重み値を予め持っている知識に基づき、与えられたメン
バシップ関数を実現するように初期設定する。
後件部メンバシップ関数実現部14に対する重み値の初
期設定は、第6図の結線グループCefに属する結線の
重み値を予め持っている知識に基づき、与えられたメン
バシップ関数を実現するように初期設定する。
第10図は後件部メンバシップ関数実現部14に対する
重み値の初期設定を具体的に示した説明図である。
重み値の初期設定を具体的に示した説明図である。
第10図において、後件部メンバシップ関数実現部14
に設けられた9つの線形関数ユニット38−1〜38−
9に対しては、前段のルール部12の線型関数ユニット
36−1〜36−2より図に示すように結線入力が行な
われている。この9つノユニッ)38−1〜38−9は
、制御出力Yの練直線上のO〜1の範囲の点に等間隔に
対応している。
に設けられた9つの線形関数ユニット38−1〜38−
9に対しては、前段のルール部12の線型関数ユニット
36−1〜36−2より図に示すように結線入力が行な
われている。この9つノユニッ)38−1〜38−9は
、制御出力Yの練直線上のO〜1の範囲の点に等間隔に
対応している。
この線形関数ユニット38−1〜38−9に対する入力
結線に対する重み値の初期設定は、ルール部12のユニ
ッ)36−1からの出力y (SS)の結線重み値につ
いては、右側に示す横軸を制御出力Y、縦軸をユニット
出力値としたグラフの特性曲線46に従ってユニット3
8−1側からユニット38−9側に重み値、 1、 1. 1.0.75.0.5.0.25. O
,0,0を初期設定する。
結線に対する重み値の初期設定は、ルール部12のユニ
ッ)36−1からの出力y (SS)の結線重み値につ
いては、右側に示す横軸を制御出力Y、縦軸をユニット
出力値としたグラフの特性曲線46に従ってユニット3
8−1側からユニット38−9側に重み値、 1、 1. 1.0.75.0.5.0.25. O
,0,0を初期設定する。
逆にユニット出力y (LA)を生ずるルール部12の
線形関数ユニッl−36−2からの結線については、特
性曲線48に従ってユニッ)38−1から38−9に向
けて重み値、 0、 0. 0.0.25.0.5. 0.75. 1
. 1. 1を初期設定する。
線形関数ユニッl−36−2からの結線については、特
性曲線48に従ってユニッ)38−1から38−9に向
けて重み値、 0、 0. 0.0.25.0.5. 0.75. 1
. 1. 1を初期設定する。
さらに、線形関数ユニット38−1〜38−9は非線形
閾値処理を行なわず、閾値θはθ−0に設定する。
閾値処理を行なわず、閾値θはθ−0に設定する。
このような後件部メンバシップ関数実現部14における
重み値の初期設定により、ルール部の線形関数ユニット
36−1.36−2から出力されたユニット出力値)’
(SS)およびy (LA)は、重み初期値の乗算に
より縮小された後に加算され、次の重心計算実現部18
に出力される。
重み値の初期設定により、ルール部の線形関数ユニット
36−1.36−2から出力されたユニット出力値)’
(SS)およびy (LA)は、重み初期値の乗算に
より縮小された後に加算され、次の重心計算実現部18
に出力される。
尚、第1O図にあっては、ユニット出力を縮小するよう
に1以下の重み値を初期設定しているが、1以上の重み
値を設定して拡大することも有り得る。
に1以下の重み値を初期設定しているが、1以上の重み
値を設定して拡大することも有り得る。
(重心計算実現部の初期設定)
第5図の重心計算実現部18に対する重み値の初期設定
は、第6図に示す結線グループCfgに対し重心計算を
実現するように初期設定する。
は、第6図に示す結線グループCfgに対し重心計算を
実現するように初期設定する。
第11図は重心計算実現部18の重心決定要素出力装置
40に対して行なわれる重心計算を実現するための重み
値の初期設定の具体例を示す。
40に対して行なわれる重心計算を実現するための重み
値の初期設定の具体例を示す。
重心決定要素出力装置40に設けられた2つの線形関数
ユニッ)40−1.40−2に対しては、前段の後件部
メンバシップ関数実現部14に設けられた9つの線形関
数ユニット38−1〜38−9のそれぞれが結線される
。そして、この入力結線に対し図に示すように重心計算
に使用する2つの重心導出値Y、、Y2を算出するだめ
の重み値が設定される。
ユニッ)40−1.40−2に対しては、前段の後件部
メンバシップ関数実現部14に設けられた9つの線形関
数ユニット38−1〜38−9のそれぞれが結線される
。そして、この入力結線に対し図に示すように重心計算
に使用する2つの重心導出値Y、、Y2を算出するだめ
の重み値が設定される。
ファジィ制御にあっては、次式に従って同一制御出力に
ついての縮小されたメンバシップ関数の関数和の図形の
重心を求めることでファジィ推論値である制御出力Yを
算出する方法を採用することが多い。
ついての縮小されたメンバシップ関数の関数和の図形の
重心を求めることでファジィ推論値である制御出力Yを
算出する方法を採用することが多い。
Y −S grade (y)ydy/ S grad
e(y)dy (6)この(6)式を実現するた
め、線形関数ユニット40−1に対する後件部メンバシ
ップ関数実現部14に設けた線形関数ユニット3日−1
〜389からの結線に対する重み値として、制御出力Y
の最小値Y=Oを起点に最大(!Y=1まで等間隔をも
ってOから増加する重み値を割り付ける。
e(y)dy (6)この(6)式を実現するた
め、線形関数ユニット40−1に対する後件部メンバシ
ップ関数実現部14に設けた線形関数ユニット3日−1
〜389からの結線に対する重み値として、制御出力Y
の最小値Y=Oを起点に最大(!Y=1まで等間隔をも
ってOから増加する重み値を割り付ける。
一方、線形関数ユニッ)40−2に対しては、制御出力
Yの最大値Y=1を起点に最小値Y=0までの間に0か
ら上記と同じ等間隔をもって、例えば−1に減少する重
み値を割り付ける。
Yの最大値Y=1を起点に最小値Y=0までの間に0か
ら上記と同じ等間隔をもって、例えば−1に減少する重
み値を割り付ける。
このような線形関数ユニット40−1.40−2に対す
る入力結線の重み付けにより、前段の線形関数ユニット
38−1〜38−9のユニント出力値をC1〜C1とす
ると、線形関数ユニット401は、 Y+ = I C,+〇、875C2+0.75C3+
0.625C,+0.5 C3+0.375C6十〇、
25C,+O,125(、+OC,(7)を出力し、ま
た線形関数ユニット40−2は、YZ = OC1−0
,125C2−0,25C30,375C4−0,5C
6−0,625C。
る入力結線の重み付けにより、前段の線形関数ユニット
38−1〜38−9のユニント出力値をC1〜C1とす
ると、線形関数ユニット401は、 Y+ = I C,+〇、875C2+0.75C3+
0.625C,+0.5 C3+0.375C6十〇、
25C,+O,125(、+OC,(7)を出力し、ま
た線形関数ユニット40−2は、YZ = OC1−0
,125C2−0,25C30,375C4−0,5C
6−0,625C。
−0,75C,−0,875c8−zC,(8)を出力
する。
する。
線形関数ユニッ)40−1.40−2から出力される重
心導出値Y+ 、Yzは重心算出装置42に与えられ、 Y−Yz / (Yz Y+ ) (
9)を使用して重心、すなわちファジィ推論値である制
御出力Yが算出される。
心導出値Y+ 、Yzは重心算出装置42に与えられ、 Y−Yz / (Yz Y+ ) (
9)を使用して重心、すなわちファジィ推論値である制
御出力Yが算出される。
前記(9)式に前記(7ン式および(8)式を代入する
と、(9)式のYは、(6)式のYと一致することがわ
かる。
と、(9)式のYは、(6)式のYと一致することがわ
かる。
以上の処理で第2図の5l−34に示したルール部全結
合ニューロに対する重み値の初期設定が終了し、ステッ
プS5に進む。
合ニューロに対する重み値の初期設定が終了し、ステッ
プS5に進む。
(学習スケジュールの設定)
第2図のステップS5にあっては、初期設定の終了に続
いてルール部全結合ニューロに学習処理を行なわせるた
めの学習計画、すなわち、学習スケジュールの設定を行
なう。この学習スケジュールの設定は第12図(a)に
示すフェーズ・グループ対応表の設定と、同図(b)に
示すグループ・結線対応表の設定の2つを行なう。
いてルール部全結合ニューロに学習処理を行なわせるた
めの学習計画、すなわち、学習スケジュールの設定を行
なう。この学習スケジュールの設定は第12図(a)に
示すフェーズ・グループ対応表の設定と、同図(b)に
示すグループ・結線対応表の設定の2つを行なう。
まず、フェーズ・グループ対応表は学習フェーズの進行
に対し各フェーズで学習対象となるニューロングループ
を指定する。本発明にあっては、重み初期値の設定後に
先ずルール部12の重みを、次いで前件部メンバシップ
関数実現部10とルール部120重みの学習を同時に行
なうことから、第12図(a)に示すように、フェーズ
1に学習対象グループとして第6図に示すニューロング
ループGd、Geの2つを設定し、さらにフェーズ2に
Gb、Gc、Cd、Geの4つを設定する。
に対し各フェーズで学習対象となるニューロングループ
を指定する。本発明にあっては、重み初期値の設定後に
先ずルール部12の重みを、次いで前件部メンバシップ
関数実現部10とルール部120重みの学習を同時に行
なうことから、第12図(a)に示すように、フェーズ
1に学習対象グループとして第6図に示すニューロング
ループGd、Geの2つを設定し、さらにフェーズ2に
Gb、Gc、Cd、Geの4つを設定する。
一方、グループ・結線対応表は、ルール部全結合ニュー
ロにおけるニューロングループGa−Ggと入力結線グ
ループの対応関係を設定するもので、第12図(b)に
示すようにニューロングループGb〜cgに対し入力結
線グループCab−Cgfのそれぞれが対応付けられる
(第6図参照)。
ロにおけるニューロングループGa−Ggと入力結線グ
ループの対応関係を設定するもので、第12図(b)に
示すようにニューロングループGb〜cgに対し入力結
線グループCab−Cgfのそれぞれが対応付けられる
(第6図参照)。
このようなフェーズ・グループ対応表およびグループ・
結線対応表の設定が終了すると、第2図の86に進んで
学習スケジューラを起動し、実際にルール部全結合ニュ
ーロに対し学習データを与えて、パックプロパゲーショ
ン法により入力結線の重み値を変更する学習を行なわせ
る。
結線対応表の設定が終了すると、第2図の86に進んで
学習スケジューラを起動し、実際にルール部全結合ニュ
ーロに対し学習データを与えて、パックプロパゲーショ
ン法により入力結線の重み値を変更する学習を行なわせ
る。
(学習スケジューラの処理と構成)
第13図は本発明のルール部全結合ニューロの学習処理
フロー図を示す。この動作フロー図は例えば第14図に
示す装置構成により実現することができる。
フロー図を示す。この動作フロー図は例えば第14図に
示す装置構成により実現することができる。
まず、学習処理のための装置構成を説明すると、第14
図において、ルール部全結合ニューロ1(10に対して
は学習指示ユニット50と学習ユニット70が設けられ
る。
図において、ルール部全結合ニューロ1(10に対して
は学習指示ユニット50と学習ユニット70が設けられ
る。
学習指示ユニット50は学習スケジューラ52を有し、
学習スケジューラ52に対しては制御入力とその制御入
力に対する望ましい制御出力との対でなる学習信号を格
納した学習信号格納部54、第12図に示したフェーズ
・グループ対応表を格納したフェーズ・グループ対応テ
ーブル56、およびグループ・結線対応表を格納したグ
ループ・結線対応テーブル58が接続される。また、学
習スケジューラ52に対しては学習収束判定部60が設
けられる。
学習スケジューラ52に対しては制御入力とその制御入
力に対する望ましい制御出力との対でなる学習信号を格
納した学習信号格納部54、第12図に示したフェーズ
・グループ対応表を格納したフェーズ・グループ対応テ
ーブル56、およびグループ・結線対応表を格納したグ
ループ・結線対応テーブル58が接続される。また、学
習スケジューラ52に対しては学習収束判定部60が設
けられる。
一方、学習ユニット70には学習指示読取部72、学習
フラグ設定部74およびハックプロパゲーション法によ
り重み値を変更する重み変更部76が設けられる。
フラグ設定部74およびハックプロパゲーション法によ
り重み値を変更する重み変更部76が設けられる。
さらに、第14図における装置構成の特徴は、ルール部
全結合ニューロ1(10における各ユニットを結ぶ結線
に学習調整器80が設けられている点である。
全結合ニューロ1(10における各ユニットを結ぶ結線
に学習調整器80が設けられている点である。
学習調整器80は第15図に示す構成を有する。
尚、学習調整器80と共に重み変更部76を示している
。
。
学習調整器80にはフラグ保存部82、重み変更情報読
取部84および重み変更量調整部86が設けられる。
取部84および重み変更量調整部86が設けられる。
一方、重み変更部76にはパックプロパゲーション法に
よる重み演算を実行する重み演算部88、重み保存部9
0および重み変更量保存部92が設けられる。
よる重み演算を実行する重み演算部88、重み保存部9
0および重み変更量保存部92が設けられる。
このように、ルール部全結合ニューロの結線毎に学習調
整器80を設けることで、学習指示ユニット50の学習
スケジューラ52によりルール部全結合ニューロ1(1
0に対し結線の重み値を変更するか否かを決定する学習
フラグを設定することができ、学習フラグが有効、すな
わちフラグオンとなっている結線に対してのみ重みの変
更、すなわち学習を行なうことが可能となる。
整器80を設けることで、学習指示ユニット50の学習
スケジューラ52によりルール部全結合ニューロ1(1
0に対し結線の重み値を変更するか否かを決定する学習
フラグを設定することができ、学習フラグが有効、すな
わちフラグオンとなっている結線に対してのみ重みの変
更、すなわち学習を行なうことが可能となる。
また、学習調整器80に対するフラグセットは、第2図
に示したようなファジィルールを実現可能なネットワー
ク構造をもたない一般的な階層子ットワークに対し、フ
ァジィルールを実行可能な前件部メンバシップ関数実現
部10、ルール部12および後件部メンバシップ関数実
現部14で成る階層ネットワークを特定する際にも使用
される。
に示したようなファジィルールを実現可能なネットワー
ク構造をもたない一般的な階層子ットワークに対し、フ
ァジィルールを実行可能な前件部メンバシップ関数実現
部10、ルール部12および後件部メンバシップ関数実
現部14で成る階層ネットワークを特定する際にも使用
される。
ファジィルールに適合した階層ネットワークを構成した
状態でバックプロパゲーション法により実際に学習させ
る際の重み値の調整は次のように行なわれる。
状態でバックプロパゲーション法により実際に学習させ
る際の重み値の調整は次のように行なわれる。
第15図において、学習調整器80の重み変更情報読取
部84が重み変更部76の重み変更量保存部92に対し
重み演算部88より重みの変更量が書き込まれているこ
とを監視している。重み変更情報読取部84で重みの変
更があったことを検知すると、その旨を重み変更量調整
部86に伝える。重み変更量調整部86はフラグ保存部
82の学習フラグを調べ、学習フラグがオンであれば何
もしない。
部84が重み変更部76の重み変更量保存部92に対し
重み演算部88より重みの変更量が書き込まれているこ
とを監視している。重み変更情報読取部84で重みの変
更があったことを検知すると、その旨を重み変更量調整
部86に伝える。重み変更量調整部86はフラグ保存部
82の学習フラグを調べ、学習フラグがオンであれば何
もしない。
一方、学習フラグがオフであれば、重み変更量調整部8
6は重み変更部76の重み変更量保存部92にゼロを設
定し、重み変更を無効とする。この学習スケジューラを
構成するハードウェアは特願昭63−227825号の
「ネットワーク構成データ処理装置の学習方式」に示さ
れる。
6は重み変更部76の重み変更量保存部92にゼロを設
定し、重み変更を無効とする。この学習スケジューラを
構成するハードウェアは特願昭63−227825号の
「ネットワーク構成データ処理装置の学習方式」に示さ
れる。
次に、第13図の学習処理フローを参照して、第14図
の装置構成に従ったルール部全結合ニューロの学習処理
を説明する。
の装置構成に従ったルール部全結合ニューロの学習処理
を説明する。
まず学習指示ユニット50の学習スケジューラ52が起
動されると、まずSlで学習フェーズの進行を示すフェ
ーズカウンタiをi=1にセットしてS2に進み、フェ
ーズ・グループ対応チーフル56に格納されている対応
表を参照して学習フェーズi=1に対応するニューロン
グループ番号を読み出す。本発明にあっては、フェーズ
1にルール部全結合ニューロ1(10のルール部12の
ニューロングループGd、Geが、また、フェーズ2に
、前件部メンバシップ関数実現部10、および、ルール
部12のニューロングループcb〜Geが設定されてい
る。
動されると、まずSlで学習フェーズの進行を示すフェ
ーズカウンタiをi=1にセットしてS2に進み、フェ
ーズ・グループ対応チーフル56に格納されている対応
表を参照して学習フェーズi=1に対応するニューロン
グループ番号を読み出す。本発明にあっては、フェーズ
1にルール部全結合ニューロ1(10のルール部12の
ニューロングループGd、Geが、また、フェーズ2に
、前件部メンバシップ関数実現部10、および、ルール
部12のニューロングループcb〜Geが設定されてい
る。
続いてS3に進み、ニューロングループ番号に対応した
結線番号をグループ・結線対応テーブル58を参照して
読み出す。
結線番号をグループ・結線対応テーブル58を参照して
読み出す。
続いてS4に進み、結線グループ番号を出力して結線グ
ループ番号に属する結線に設けられた学習調整器80の
学習フラグをオンする。
ループ番号に属する結線に設けられた学習調整器80の
学習フラグをオンする。
具体的には、学習指示ユニット50の学習スケジューラ
52から学習ユニット70の学習指示読取部72に対し
結線グループ番号を出力し、学習指示読取部72で結線
グループ番号を読み取って学習フラグ設定部74に与え
る。学習フラグ設定部74は学習指示を受けた結線グル
ープ番号に属する結線に設けられている学習調整器80
のフラグ保存部82に対しフラグオンを指令して学習フ
ラグをセットする。
52から学習ユニット70の学習指示読取部72に対し
結線グループ番号を出力し、学習指示読取部72で結線
グループ番号を読み取って学習フラグ設定部74に与え
る。学習フラグ設定部74は学習指示を受けた結線グル
ープ番号に属する結線に設けられている学習調整器80
のフラグ保存部82に対しフラグオンを指令して学習フ
ラグをセットする。
続いてS5に進んで、学習スケジューラ52は学習実行
指令を出して学習処理を開始させる。この学習処理は学
習指示ユニット50の学習信号格納部54に準備されて
いる制御入力Xと、制御入力Xに対する望ましい制御出
力となる教師信号dを読み出し、制御入力Xをルール部
全結合ニューロ1(10に与え、教師信号dは重み変更
部76および学習収束判定部60に与える。そして、学
習入力Xによりルール部全結合ニューロ1(10から出
力される制御出力Yを重み変更部76および学習収束判
定部60に取り込み、重み変更部76にあってはハック
プロパゲーション法に従って重み値の変更を行ない、学
習収束判定部60で教師信号dに対する制御出力Yの誤
差が規定値以下となったとき学習終了を判定して学習処
理を終了する。
指令を出して学習処理を開始させる。この学習処理は学
習指示ユニット50の学習信号格納部54に準備されて
いる制御入力Xと、制御入力Xに対する望ましい制御出
力となる教師信号dを読み出し、制御入力Xをルール部
全結合ニューロ1(10に与え、教師信号dは重み変更
部76および学習収束判定部60に与える。そして、学
習入力Xによりルール部全結合ニューロ1(10から出
力される制御出力Yを重み変更部76および学習収束判
定部60に取り込み、重み変更部76にあってはハック
プロパゲーション法に従って重み値の変更を行ない、学
習収束判定部60で教師信号dに対する制御出力Yの誤
差が規定値以下となったとき学習終了を判定して学習処
理を終了する。
S5の学習実行指令に基づいて学習処理が終了すると、
S6でフェーズカウンタiを1つインクリメントし、S
7で学習フェーズの終わりをチエツクする。本発明の学
習処理にあっては、フェーズ1で終了することから、そ
のまま一連の処理を終了する。
S6でフェーズカウンタiを1つインクリメントし、S
7で学習フェーズの終わりをチエツクする。本発明の学
習処理にあっては、フェーズ1で終了することから、そ
のまま一連の処理を終了する。
(バックプロパゲーション法による学習原理)次に本発
明のバンクプロパゲーション法による学習原理を階層型
ネットワークと共に説明する。
明のバンクプロパゲーション法による学習原理を階層型
ネットワークと共に説明する。
第16図は一般的な階層型ニューラルネットワークを示
したもので、ユニットと呼ばれる一種のノートと重みを
もつ内部結合とから構成される。
したもので、ユニットと呼ばれる一種のノートと重みを
もつ内部結合とから構成される。
第16図では入力装置としてのh層、中間層としてのi
層、出力層としてのj層を示している。ここでは、中間
層としてのi層は1層であるが、複数の中間層があって
も同じである。各ユニットは第4図に示したように複数
の各々の入力に対し各々の内部結合の重みを乗する乗算
部22と、乗算部22の全乗算結果を加算する加算部2
4と、加算結果に閾値処理を施して1つの出力を出す閾
値処理部26とをもっている。このユニットで行なわれ
る演算は基本ユニット20について示した前記(1)
(2)式となる。パックプロパゲーション法では階層ネ
ットワークの重み値Wihと閾値θiとを誤差のフィー
ドバックにより適応的に自動調整して学習する。前記(
1) (2)式から明らかなように、重み値Wihと閾
値θiとの調節は同時に実行される必要があるが、この
作業は相互に干渉する難しい作業となる。そこで、本願
出願人にあっては通常のユニット以外に、入力側のh層
に常に出力値が1であるユニットを設け、この出力値1
のユニットの出力に対し閾値θ1を重み値として割り付
けることで、閾値θiを重み値W i hの中に組み込
んで閾値θiを重み値として扱うことができるハックプ
ロパゲーション法を提案している(特願昭62−333
484号)。
層、出力層としてのj層を示している。ここでは、中間
層としてのi層は1層であるが、複数の中間層があって
も同じである。各ユニットは第4図に示したように複数
の各々の入力に対し各々の内部結合の重みを乗する乗算
部22と、乗算部22の全乗算結果を加算する加算部2
4と、加算結果に閾値処理を施して1つの出力を出す閾
値処理部26とをもっている。このユニットで行なわれ
る演算は基本ユニット20について示した前記(1)
(2)式となる。パックプロパゲーション法では階層ネ
ットワークの重み値Wihと閾値θiとを誤差のフィー
ドバックにより適応的に自動調整して学習する。前記(
1) (2)式から明らかなように、重み値Wihと閾
値θiとの調節は同時に実行される必要があるが、この
作業は相互に干渉する難しい作業となる。そこで、本願
出願人にあっては通常のユニット以外に、入力側のh層
に常に出力値が1であるユニットを設け、この出力値1
のユニットの出力に対し閾値θ1を重み値として割り付
けることで、閾値θiを重み値W i hの中に組み込
んで閾値θiを重み値として扱うことができるハックプ
ロパゲーション法を提案している(特願昭62−333
484号)。
このようにすることで、前記(1) (2)式はXpJ
=Σypl、W、h(11) Vp;= 1 / (1+exp(xpi))
(12)で表わされることとなり、閾値θiは表わ
れてこない。
=Σypl、W、h(11) Vp;= 1 / (1+exp(xpi))
(12)で表わされることとなり、閾値θiは表わ
れてこない。
前記(11) (12)式からの展開によって次の(1
3)(14)式が得られる。
3)(14)式が得られる。
Xpj””ΣypiWj□
(13)y pi = 1 / (1+exp(−x
pJ)) (14)但し、 j : j層のユニット番号 W7H:i−j層間の内部結合の重み値X、j: i
層の各ユニットからj層の1番ユニットへの入力の積和 ypj:I’番目のパターンの入力信号に対するj層の
5番ユニットからの出力 第14図の重み変更部76では学習用の入カバターンX
が提示されたときに出力層jから出力される出カバター
ン3’pjと出カバターンypjのとるべき信号である
教師パターンd pjを受けると、両者の差分値 (dpJ−yt+i) を算出し、次に δpj=)’p、N−yp、) (dpi−yp;)
(15)を算出する。続いて、 但し、ε:学習定数 ζ:モーメンタム t:学習回数 に従ってi層とj層間の重み値の更新量△W、1(t)
を算出する。ここで、前記(16)式右辺第2項で、前
回の更新サイクル時に決定された重み値の更新量を加算
するのは、学習の高速化を図るためである。
(13)y pi = 1 / (1+exp(−x
pJ)) (14)但し、 j : j層のユニット番号 W7H:i−j層間の内部結合の重み値X、j: i
層の各ユニットからj層の1番ユニットへの入力の積和 ypj:I’番目のパターンの入力信号に対するj層の
5番ユニットからの出力 第14図の重み変更部76では学習用の入カバターンX
が提示されたときに出力層jから出力される出カバター
ン3’pjと出カバターンypjのとるべき信号である
教師パターンd pjを受けると、両者の差分値 (dpJ−yt+i) を算出し、次に δpj=)’p、N−yp、) (dpi−yp;)
(15)を算出する。続いて、 但し、ε:学習定数 ζ:モーメンタム t:学習回数 に従ってi層とj層間の重み値の更新量△W、1(t)
を算出する。ここで、前記(16)式右辺第2項で、前
回の更新サイクル時に決定された重み値の更新量を加算
するのは、学習の高速化を図るためである。
続いて、重み値変更部76は前記(15)弐で算出した
dpJを用いて δ9、=Vp;(I Vp、)Σδ、jWji(t−
1)(17)を算出し、次に に従ってh層とi層の重み値の更新量△W=t、(t)
を算出する。
dpJを用いて δ9、=Vp;(I Vp、)Σδ、jWji(t−
1)(17)を算出し、次に に従ってh層とi層の重み値の更新量△W=t、(t)
を算出する。
続いて重み変更部76は前記(16)式および(18)
式で算出した更新量に従って次の更新サイクルのための
重み値を Wji(t) =WJ、(t−1)+ΔWji(t)
(19)W = h (t) ’= W = h
(t 1)+Δw i 1.(t)として決定する
。
式で算出した更新量に従って次の更新サイクルのための
重み値を Wji(t) =WJ、(t−1)+ΔWji(t)
(19)W = h (t) ’= W = h
(t 1)+Δw i 1.(t)として決定する
。
以上の重み値の更新を学習用の入カバターンに対する出
カバターンypjが教師パターンd 9、に−致する重
み値が得られるように学習処理を繰り返す。
カバターンypjが教師パターンd 9、に−致する重
み値が得られるように学習処理を繰り返す。
一方、第16図の階層ネットワークを構成するユニット
が線形ユニットであった場合には、前記(14)式は y p== x pJ(20) と表わされる。この線形関数ユニットにおける前記(1
5)式および(17)式は δpJ= d pJ−y pj
(21)δ2、=Σδ、;Wに(t−1)
(22)と表わされる。
が線形ユニットであった場合には、前記(14)式は y p== x pJ(20) と表わされる。この線形関数ユニットにおける前記(1
5)式および(17)式は δpJ= d pJ−y pj
(21)δ2、=Σδ、;Wに(t−1)
(22)と表わされる。
(本発明の重み学習処理)
第17図は第5図に示した本発明のルール部全結合ニュ
ーロに対しパックプロパゲーション法により行なう重み
学習の処理フロー図である。
ーロに対しパックプロパゲーション法により行なう重み
学習の処理フロー図である。
この学習処理フローにおける各部のパラメータは第18
図に示すように定めている。
図に示すように定めている。
第18図は第5図のルール部全結合ニューロの階層構造
を概略的に示したもので、図示のように第1層から第6
層までの6層構造をもっており、第1層および第3層が
シグモイド関数ユニットで構成され、残りは線形関数ユ
ニットで構成されている。また、学習対象となるのは第
1層から第4層までであり、最終段の重心計算実現部1
日における第6層は重み学習の対象から外される。
を概略的に示したもので、図示のように第1層から第6
層までの6層構造をもっており、第1層および第3層が
シグモイド関数ユニットで構成され、残りは線形関数ユ
ニットで構成されている。また、学習対象となるのは第
1層から第4層までであり、最終段の重心計算実現部1
日における第6層は重み学習の対象から外される。
ここで、ルール部全結合ニューロによるファジィルール
の実現で出力されるファジィ制御値、すなわち制御出力
値をy6としており、学習処理は第6層から第5層、第
4層、第3層、第2層、第1層というように順次行なう
。この階層毎の学習の進行はiカウンタで示される。す
なわち、初期状態でiカウンタはi層6にセットされて
いる。
の実現で出力されるファジィ制御値、すなわち制御出力
値をy6としており、学習処理は第6層から第5層、第
4層、第3層、第2層、第1層というように順次行なう
。この階層毎の学習の進行はiカウンタで示される。す
なわち、初期状態でiカウンタはi層6にセットされて
いる。
さらに説明を簡単にするため、Wi、i−1とΔWi+
i−1はマトリックスを示し、大きさは(i層目のニュ
ーロン数)X(i−1層目のニューロン数)となる。さ
らにまたδiとyiはベクトルを示し、大きさはi番目
の層のニューロン数と同じになる。
i−1はマトリックスを示し、大きさは(i層目のニュ
ーロン数)X(i−1層目のニューロン数)となる。さ
らにまたδiとyiはベクトルを示し、大きさはi番目
の層のニューロン数と同じになる。
この第18図に示す各部のパラメータを前提に第17図
の重み学習処理フローを説明すると次のようになる。
の重み学習処理フローを説明すると次のようになる。
まず、ステップSl(以下「ステップ」は省略して単に
31として記述する)で学習対象層を設定するカウンタ
iをイニシャライズする。具体的には第18図に示した
ように6層構成であることから、カウンタiを1−6に
初期設定する。この初期設定により第6層目が学習対象
として指定される。
31として記述する)で学習対象層を設定するカウンタ
iをイニシャライズする。具体的には第18図に示した
ように6層構成であることから、カウンタiを1−6に
初期設定する。この初期設定により第6層目が学習対象
として指定される。
次にS2に進み、シグモイド関数ユニットか否か判定す
る。この場合、線形関数ユニットであることから314
に進み最終段の階層か否か判定し、6層目が最終段であ
ることから315に進み、そのとき得られている教師信
号dと制御出力y6を使用して差分値δ6を求める。
る。この場合、線形関数ユニットであることから314
に進み最終段の階層か否か判定し、6層目が最終段であ
ることから315に進み、そのとき得られている教師信
号dと制御出力y6を使用して差分値δ6を求める。
次に36に進み、重みを学習するユニットか否か判定す
る。このとき第6層は学習対象から外されているため(
具体的には結線に設けられた学習調整器80の学習フラ
グがオフとなっているため)、S8に進んで重み値更新
量△wbsを△W b s = OとしてS9に進み、
この場合、△W6S−〇であることから重み値W6Sの
更新は行なわない。続いてS12に進んでカウンタi=
1か否か、すなわち全ての階層の学習が終了したか否か
判定し、このときi=6であることから313に進んで
カウンタiを1つデクリメントしてi=5とし、S2に
戻って次の第5層の学習に進む。
る。このとき第6層は学習対象から外されているため(
具体的には結線に設けられた学習調整器80の学習フラ
グがオフとなっているため)、S8に進んで重み値更新
量△wbsを△W b s = OとしてS9に進み、
この場合、△W6S−〇であることから重み値W6Sの
更新は行なわない。続いてS12に進んでカウンタi=
1か否か、すなわち全ての階層の学習が終了したか否か
判定し、このときi=6であることから313に進んで
カウンタiを1つデクリメントしてi=5とし、S2に
戻って次の第5層の学習に進む。
第5層についても線形関数ユニットであることから82
から314に進むが、最終段階層でないことから316
に進み、1つ前の6層の学習処理で得られた差分値δ6
と重み値W65とから前記(22)式と同様の式に従っ
て差分値δ5を求める。
から314に進むが、最終段階層でないことから316
に進み、1つ前の6層の学習処理で得られた差分値δ6
と重み値W65とから前記(22)式と同様の式に従っ
て差分値δ5を求める。
次に86に進んで学習対象となっているか否か判定し、
第5層は本発明にあっては学習対象となっていないから
、重み値W6.を更新しない(38→S9→S12→5
13)。
第5層は本発明にあっては学習対象となっていないから
、重み値W6.を更新しない(38→S9→S12→5
13)。
4層の全ユニットについて処理しくS 16→S6→S
7→S9→S12→513)、4層の処理が終了すると
3層に進む。
7→S9→S12→513)、4層の処理が終了すると
3層に進む。
第3層の処理に進むと、第3層にシグモイド関数ユニッ
トを使用していることから32から33に進み、最終段
の階層ユニットでないことから、S5でシグモイド関数
ユニット固有の差分値δ3を前記(17)式と同様の演
算式により求める。この第3層も学習対象となっている
ことから36から87に進んでS5で算出した差分値δ
3を使用して重み更新量△W、2を算出し、S9で更新
する。
トを使用していることから32から33に進み、最終段
の階層ユニットでないことから、S5でシグモイド関数
ユニット固有の差分値δ3を前記(17)式と同様の演
算式により求める。この第3層も学習対象となっている
ことから36から87に進んでS5で算出した差分値δ
3を使用して重み更新量△W、2を算出し、S9で更新
する。
この3層の最終ユニットまで同様な処理を繰り返し、2
層に進んで線形関数ユニットに関する学習、さらに第1
層に進んでシグモイド関数ユニットに関する学習を行な
うことになるが、ここではルール部のみを学習させるの
で第2層、第1層の学習処理は行なわれない。そして、
第1層の最終ユニットの処理が終了して310から81
2に進むと、このときカウンタiはi=1となっている
ことから全ての階層の学習が終了したことを判定して一
連の処理を終了する。
層に進んで線形関数ユニットに関する学習、さらに第1
層に進んでシグモイド関数ユニットに関する学習を行な
うことになるが、ここではルール部のみを学習させるの
で第2層、第1層の学習処理は行なわれない。そして、
第1層の最終ユニットの処理が終了して310から81
2に進むと、このときカウンタiはi=1となっている
ことから全ての階層の学習が終了したことを判定して一
連の処理を終了する。
フェーズ1での学習は、以上で終了するが、次にフェー
ズ2の学習を行なうため、再びカウンタiをi=6にセ
ットして、上述の処理を繰り返す。
ズ2の学習を行なうため、再びカウンタiをi=6にセ
ットして、上述の処理を繰り返す。
このフェーズ2では第4層〜第1層についての学習処理
が行なわれる。
が行なわれる。
(乱数を用いた重み初期設定)
次に、第19図の動作フロー図を参照して本発明の学習
方法の他の実施例を説明する。
方法の他の実施例を説明する。
第19図の動作フロー図に示す学習処理にあっては、3
1.S2.S3で行なうルール部全結合ニューロの前件
部メンバシップ関数実現部10、ルール部12および後
件部メンバシップ関数実現部14に対する重み値(閾値
を含む)の初期設定として、乱数を使用したことを特徴
とする。それ以外の34.35.36の処理は第2図の
第1の実施例と同じである。
1.S2.S3で行なうルール部全結合ニューロの前件
部メンバシップ関数実現部10、ルール部12および後
件部メンバシップ関数実現部14に対する重み値(閾値
を含む)の初期設定として、乱数を使用したことを特徴
とする。それ以外の34.35.36の処理は第2図の
第1の実施例と同じである。
また部分的に予め持っている知識があるときには、この
知識に基づいた設定を行なってもよい。
知識に基づいた設定を行なってもよい。
(その他)
尚、上記の具体的な実施例は第5図に示したように2つ
の制御入力X+、Xzを対象としたファジィルールを実
現するルール部全結合ニューロを例にとるものであった
が、制御入力は1または3以上の適宜の入力数としても
よいことは勿論である。
の制御入力X+、Xzを対象としたファジィルールを実
現するルール部全結合ニューロを例にとるものであった
が、制御入力は1または3以上の適宜の入力数としても
よいことは勿論である。
また、上記の実施例にあっては第7.8図に示した
y= 1/ (1+e−′X”) (23
)となるメンバシップ関数を例にとるものであったが、
第20図に示すように2つのシグモイド関数ユニット9
11.94−2のユニット出力を減算ユニット96に与
えて同図(b)のシグモイド関数を実現するようにして
もよい。この場合のユニット出力yは、 Y = 1 /(1−e−””” )−1/(1−e−
12””) (24)と表現することができる。
)となるメンバシップ関数を例にとるものであったが、
第20図に示すように2つのシグモイド関数ユニット9
11.94−2のユニット出力を減算ユニット96に与
えて同図(b)のシグモイド関数を実現するようにして
もよい。この場合のユニット出力yは、 Y = 1 /(1−e−””” )−1/(1−e−
12””) (24)と表現することができる。
[発明の効果]
以上説明したように本発明によれば、前件部メンバシッ
プ関数実現部、ルール部、後件部メンバシップ関数実現
部のそれぞれに予め持っている知識に基づく初期設定ま
たは乱数を用いた初期設定またはその複合設定を行なっ
た後にルール部全結合ニューロのルール部を学習させた
後、前件部メンバシップ関数実現部とルール部とを同時
に学習させることで、効率の良い学習が可能となり、任
意のファジィ制御適応システムに使用するファジィルー
ル実現のためのより効率的な結線の重み解析を実現する
ことができる。
プ関数実現部、ルール部、後件部メンバシップ関数実現
部のそれぞれに予め持っている知識に基づく初期設定ま
たは乱数を用いた初期設定またはその複合設定を行なっ
た後にルール部全結合ニューロのルール部を学習させた
後、前件部メンバシップ関数実現部とルール部とを同時
に学習させることで、効率の良い学習が可能となり、任
意のファジィ制御適応システムに使用するファジィルー
ル実現のためのより効率的な結線の重み解析を実現する
ことができる。
第1図は本発明の原理説明図、 第2図は本発明の学習
動作フロー図、 第3図はルール部全結合ニューロの定
義の説明図、 第4図は基本ユニット説明図・ 第
5図は本発明のルール部全結合ニューロの具体的実施例
を示巳た構成図、第6図はニューロングループおよび結
線グループの説明図、 第7図は本発明の前件部メン
バシップ関数実現部の初期設定説明図、 第8図は前件部のメンバシップ関数説明図、第9図は本
発明のルール部ユニット説明図、第10図は本発明の後
件部メンバシップ関数実現部の初期設定説明図、第11
図は本発明の重心計算実現部の初期設定説明図、第12
図は本発明のフェーズ・グループ対応表およびグループ
・結線対応表の設定説明図、第13図は本発明の学習処
理フロー図、第14図は本発明による学習処理の装置構
成図、第15図は第14回の結線毎に設けた学習調整器
構成図、第16図は一般的な階層ニューラル・ネットワ
ーク説明図、第17図は本発明の重み学習処理フロー図
、第18図は第17図の各部のパラメータ説明図、第1
9図は本発明の他の実施例を示した動作フロー図、第2
0図は本発明に用いる他のメンバシップ関数の説明図で
ある。 10・・・・・・前件部メンバシップ関数実現部、12
・・・・・・ルール部、14・・・・・・後件部メンバ
シップ関数実現部、16・・・・・・入力部、18・・
・・・・重心計算実現部、20・・・・・・基本ユニッ
ト、22・・・・・・乗算部、24・・・・・・加算部
、26・・・・・・閾値処理部、28−128−2.3
2−1〜31−4.38−1〜389.40−1.40
−2・・・・・・線形関数ユニット、30−1〜30−
2.3/11〜34−5,941.94−2・・・・・
・シグモイド関数ユニット、40・・・・・・重心決定
要素出力装置、42・・・・・・重心算出装置、50・
・・・・・学習指示ユニット、52・・・・・・学習ス
ケジューラ、54・・・・・・学習信号格納部、56・
・・・・・フェーズ・グループ対応テーブル、58・・
・・・・グループ・フェーズ対応テーブル、60・・・
・・・学習収束判定部、70・・・・・・学習ユニット
、72・・・・・・学習指示読取部、74・・・・・・
学習フラグ設定部、76・・・・・・重み変更部、80
・・・・・・学習調整器、82・・・・・・フラグ保存
部、84・・・・・・重み変更情報読取部、86・・・
・・・重み変更量調整部、88・・・・・・重み演算部
、90・・・・・・重み保存部、92・・・・・・重み
変更量保存部、96・・・・・・減算ユニット、1(1
0・・・・・・ルール部全結合ニューロ。
動作フロー図、 第3図はルール部全結合ニューロの定
義の説明図、 第4図は基本ユニット説明図・ 第
5図は本発明のルール部全結合ニューロの具体的実施例
を示巳た構成図、第6図はニューロングループおよび結
線グループの説明図、 第7図は本発明の前件部メン
バシップ関数実現部の初期設定説明図、 第8図は前件部のメンバシップ関数説明図、第9図は本
発明のルール部ユニット説明図、第10図は本発明の後
件部メンバシップ関数実現部の初期設定説明図、第11
図は本発明の重心計算実現部の初期設定説明図、第12
図は本発明のフェーズ・グループ対応表およびグループ
・結線対応表の設定説明図、第13図は本発明の学習処
理フロー図、第14図は本発明による学習処理の装置構
成図、第15図は第14回の結線毎に設けた学習調整器
構成図、第16図は一般的な階層ニューラル・ネットワ
ーク説明図、第17図は本発明の重み学習処理フロー図
、第18図は第17図の各部のパラメータ説明図、第1
9図は本発明の他の実施例を示した動作フロー図、第2
0図は本発明に用いる他のメンバシップ関数の説明図で
ある。 10・・・・・・前件部メンバシップ関数実現部、12
・・・・・・ルール部、14・・・・・・後件部メンバ
シップ関数実現部、16・・・・・・入力部、18・・
・・・・重心計算実現部、20・・・・・・基本ユニッ
ト、22・・・・・・乗算部、24・・・・・・加算部
、26・・・・・・閾値処理部、28−128−2.3
2−1〜31−4.38−1〜389.40−1.40
−2・・・・・・線形関数ユニット、30−1〜30−
2.3/11〜34−5,941.94−2・・・・・
・シグモイド関数ユニット、40・・・・・・重心決定
要素出力装置、42・・・・・・重心算出装置、50・
・・・・・学習指示ユニット、52・・・・・・学習ス
ケジューラ、54・・・・・・学習信号格納部、56・
・・・・・フェーズ・グループ対応テーブル、58・・
・・・・グループ・フェーズ対応テーブル、60・・・
・・・学習収束判定部、70・・・・・・学習ユニット
、72・・・・・・学習指示読取部、74・・・・・・
学習フラグ設定部、76・・・・・・重み変更部、80
・・・・・・学習調整器、82・・・・・・フラグ保存
部、84・・・・・・重み変更情報読取部、86・・・
・・・重み変更量調整部、88・・・・・・重み演算部
、90・・・・・・重み保存部、92・・・・・・重み
変更量保存部、96・・・・・・減算ユニット、1(1
0・・・・・・ルール部全結合ニューロ。
Claims (5)
- 1.入力信号の持つメンバーシップ関数値を算出して
出力する基本ユニットを複数設けることににより構成さ
れる前件部メンバシップ関数実現部(10)と、 前段の処理層の出力する演算結果値と該演算結果値に対
応付けられる内部結合の重み値との乗算値を入力として
、割り付けられる演算に従って演算結果値を算出して出
力する少なくとも一つの基本ユニットにより構成される
処理層を1段または複数段備え、かつ、隣接する前後段
の処理層の基本ユニットの間と、最前段の処理層の基本
ユニットと上記前件部メンバシップ関数実現部(10)
の基本ユニットとの間で相互に内部結合する構成を採る
ことにより構成されるルール部(12)のと、該ルール
部(12)の最後段の処理層の対応する基本ユニットの
出力する演算結果値を入力として、出力信号のメンバー
シップ関数値に応じて導出される出力信号値を算出して
出力する少なくとも一つの基本ユニットにより構成され
る後件部メンバシップ関数実現部(14)とより成る階
層ネットワークを有し、入力される制御状態量(X_1
〜X_n)に対応する制御操作量(Y_1〜Y_m)を
出力するルール部全結合ニューロにおいて、 前記前件部メンバシップ関数実現部(10)、ルール部
(12)、および後件部メンバシップ関数実現部(14
)の各々に重みおよび閾値初期値を設定する第1過程と
、 予め準備された学習データを使用して前記ルール部(1
2)の重みを学習させる第2過程と、前件部メンバシッ
プ関数実現部(10)、およびルール部(12)の重み
を同時に学習させる第3過程仁、を備えたことを特徴と
するルール部全結合ニューロの学習方法。 - 2.前記第1過程の前件部メンバシップ関数実現部お
よび後件部メンバシップ関数実現部の重みおよび閾値の
初期値の設定は、予め持っている知識に基づいて作成さ
れた重みおよび閾値の初期値を設定することにより行な
い、ルール部の重みおよび閾値は乱数を用いて設定する
ことを特徴とする請求項1記載のルール部全結合ニュー
ロの学習方法。 - 3.前記第1過程の重みおよび閾値の初期値の設定は
、乱数を用いて作成された初期値を設定することを特徴
とする請求項1記載のルール部全結合ニューロの学習方
法。 - 4.前記第1過程の重みおよび閾値の初期値の設定は
、予め持っている知識で設定可能な重みおよび閾値は該
知識で初期設定し、その他は乱数を用いて重みおよび閾
値の初期値を設定することを特徴とする請求項1記載の
ルール部全結合ニューロの学習方法。 - 5.前記第2過程による学習開始時に、前記前件部メ
ンバシップ関数実現部(10)、ルール部(12)、の
階層ネットワークの結線毎に学習の有無を決める学習フ
ラグを設定し、該結線に設定された学習フラグに基づい
て重み値を学習処理により最適化することを特徴とする
請求項1記載のルール部全結合ニューロの学習方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2174608A JPH0464134A (ja) | 1990-07-03 | 1990-07-03 | ルール部全結合ニューロの学習方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2174608A JPH0464134A (ja) | 1990-07-03 | 1990-07-03 | ルール部全結合ニューロの学習方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0464134A true JPH0464134A (ja) | 1992-02-28 |
Family
ID=15981564
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2174608A Pending JPH0464134A (ja) | 1990-07-03 | 1990-07-03 | ルール部全結合ニューロの学習方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0464134A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008296572A (ja) * | 2007-05-29 | 2008-12-11 | Samsung Electronics Co Ltd | インクジェットプリントヘッド及びその製造方法 |
| JP2010503236A (ja) * | 2006-09-06 | 2010-01-28 | 東京エレクトロン株式会社 | 基板洗浄方法及び基板洗浄装置 |
-
1990
- 1990-07-03 JP JP2174608A patent/JPH0464134A/ja active Pending
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2010503236A (ja) * | 2006-09-06 | 2010-01-28 | 東京エレクトロン株式会社 | 基板洗浄方法及び基板洗浄装置 |
| JP2008296572A (ja) * | 2007-05-29 | 2008-12-11 | Samsung Electronics Co Ltd | インクジェットプリントヘッド及びその製造方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5579439A (en) | Fuzzy logic design generator using a neural network to generate fuzzy logic rules and membership functions for use in intelligent systems | |
| US5828812A (en) | Recurrent neural network-based fuzzy logic system and method | |
| Chiang et al. | A self-learning fuzzy logic controller using genetic algorithms with reinforcements | |
| US5524176A (en) | Fuzzy expert system learning network | |
| Jang et al. | Neuro-fuzzy modeling and control | |
| Gudise et al. | Comparison of particle swarm optimization and backpropagation as training algorithms for neural networks | |
| Lin et al. | A neural fuzzy system with linguistic teaching signals | |
| Khan et al. | Neufuz: Neural network based fuzzy logic design algorithms | |
| WO1991014226A1 (en) | Neuro-fuzzy fusion data processing system | |
| Duan et al. | Application of reinforcement learning in robot soccer | |
| Aliev et al. | Soft computing based multi-agent marketing decision support system | |
| JPH0464134A (ja) | ルール部全結合ニューロの学習方法 | |
| JPH0464135A (ja) | ルール部全結合ニューロの学習方法 | |
| JPH0464132A (ja) | ルール部全結合ニューロの学習方法 | |
| JP2501932B2 (ja) | ニュ―ラルネットワ―クによる重心決定要素出力装置 | |
| JPH0464136A (ja) | ルール部全結合ニューロの学習方法 | |
| JPH0464137A (ja) | ルール部全結合ニューロの学習方法 | |
| JPH0424737A (ja) | ルール部プリワイヤニューロの学習方法 | |
| JPH0424740A (ja) | ルール部プリワイヤニューロの学習方法 | |
| JPH0464133A (ja) | ルール部全結合ニューロの学習方法 | |
| Ismael et al. | Fuzzy neural network implementation of self tuning PID control systems | |
| JPH0424739A (ja) | ルール部プリワイヤニューロの学習方法 | |
| JPH0424738A (ja) | ルール部プリワイヤニューロの学習方法 | |
| JPH0424742A (ja) | ルール部プリワイヤニューロの学習方法 | |
| JPH0424736A (ja) | ルール部プリワイヤニューロの学習方法 |