JPH0424736A - ルール部プリワイヤニューロの学習方法 - Google Patents

ルール部プリワイヤニューロの学習方法

Info

Publication number
JPH0424736A
JPH0424736A JP2124707A JP12470790A JPH0424736A JP H0424736 A JPH0424736 A JP H0424736A JP 2124707 A JP2124707 A JP 2124707A JP 12470790 A JP12470790 A JP 12470790A JP H0424736 A JPH0424736 A JP H0424736A
Authority
JP
Japan
Prior art keywords
learning
membership function
unit
rule
function realization
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP2124707A
Other languages
English (en)
Inventor
Akira Kawamura
旭 川村
Kazuo Asakawa
浅川 和雄
Nobuo Watabe
信雄 渡部
Ryusuke Masuoka
竜介 益岡
Yuri Oowada
大和田 有理
Shigenori Matsuoka
松岡 成典
Hiroyuki Okada
浩之 岡田
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Fujitsu Ltd
Fuji Facom Corp
Original Assignee
Fujitsu Ltd
Fuji Facom Corp
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Fujitsu Ltd, Fuji Facom Corp filed Critical Fujitsu Ltd
Priority to JP2124707A priority Critical patent/JPH0424736A/ja
Publication of JPH0424736A publication Critical patent/JPH0424736A/ja
Pending legal-status Critical Current

Links

Landscapes

  • Devices For Executing Special Programs (AREA)
  • Feedback Control In General (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 [概要] 前件部メンバシップ関数実現部、ルール部及び後件部メ
ンバシップ関数実現部で成るファジィ制御ルールを実現
する階層ネットワーク構造に従って入力に対応する制御
出力を生ずるルール部プリワイヤニューロの学習方法に
関し、 対象システムに適合した制御を行うための学習を効率良
く行なうことを目的とし、 前件部メンバシップ関数実現部、ルール部及び後件部メ
ンバシップ関数実現部の各々に、予め持っている知識を
導入した重み初期値を設定した後、まず前件部メンバシ
ップ関数実現部とルール部のいずれか一方又は両方の重
みを学習し、最終的に後件部メンバシップ関数実現部の
重みを学習するように構成する。尚、前件部メンバシッ
プ関数実現部及びルール部の重み値の初期設定は、乱数
を利用して行っても良し、予め持っている知識と乱数の
併用でも良い。
[産業上の利用分野] 本発明は、ファジィ制御とニューラルネットワークを融
合させたルール部プリワイヤニューロの学習方法に関す
る。
ニューロを用いた情報処理にあっては、対象とするシス
テムの入カバターンと、その入カバターンに対する望ま
しい出カバターンとの組でなる学習データを階層型二−
ラルネットワークに提示して学習させ適応的な処理を行
わせる。この学習処理には特にパックプロパゲーション
法と呼ばれる処理方式が、その実用性の高さから注目さ
れている。
一方、ファジィ理論は、1960年にZadehにより
提案され、温度が「低い」とか「高い」といった人間が
行っている曖昧さに基づく思考や判断の過程をモデル化
する理論である。このファジィ理論では曖昧さを現わす
ためにメンバシップ関数を導入したファジィ集合論を数
学的基礎としている。
ファジィ理論の応用としては1974年にMaqmd+
+niがスチームエンジンの制御に用いたのを最初に、
各種のファジィ制御が行われている。
このファジィ制御を実行するシステムは不確定なものを
扱うものであることから、制御アルゴリズムの調整や変
更等に対して適応的に対応できるような構成にしていく
必要がある。
[従来の技術] 一般に、ファジィ制御システムを構築するには、以下の
ような手続きを取る。
■熟練操作員の持つ[もし温度が高ければ、火を小さく
する」等の曖昧な制御規則を得る。
■制御規則の中の言葉(命題)の意味をメンバシップ関
数という形で定量化し、制御規則をrIF−THEN部
」 型のルール表現で記述する。
■シミュレーションや現地テストによる検査を行う。
■検査結果を評価し、メンバシップ関数や規則の改良を
行う。
更に詳細に説明すると、ファジィ制御ルールは、例えば
、 rif I、 is big and x2is sm
all theny、  is  bigJ と記述される。ここでIF部は前件部と呼ばれ、温度等
の制御状態量(制御入力)についての条件を記述する部
分である。またTHEN部は後件部と呼ばれ、操作端等
の制御操作量(制御出力)についての条件を記述する部
分である。
ファジィ制御では、対象システムの制御論理として用意
される複数のファジィ制御ルールを管理すると共に、各
ファジィ制御ルール中に記述される「大きい」とか「小
さい」とかいうような曖昧な言語表現の意味をメンバシ
ップ関数として定量化して管理する。
完成したファジィ制御システムの制御手順は次のように
なる。
■制御対象から温度等の制御状態量が入力されると、設
定している前件部のメンバシップ関数に従って真理値を
算出する。
■次に、最小値を選択する等の前件部演算に従って、各
ファジィ制御ルールにおける後件部に対しての適用値を
決定する処理を実行する。例えば、r x、 is b
igJ  の真理値=0.8r x2 ia 5m1l
lJの真理値=0.5である場合には、最小値を選択す
る前件部演算に従って、真理値=0.5をそのファジィ
制御ルールの後件部に対しての適用値として出力するよ
うに処理する。
■続いて、同一の制御操作量となる後件部のメンバーシ
ップ関数に対する前件部からの入力値(適用値)から出
力適用値を決定する処理を実行する。
例えば、2つのファジィ制御ルールにより、r 7. 
is bigJの適用値=0.5「7. is big
Jの適用値=0.6が得られた場合、最大値を選択する
後件部演算に従って、適用値=0.6を選択決定する。
■続いて、決定された適用値に従って制御操作量のメン
バーシップ関数を縮小(又は拡大)すると共に、同一の
制御操作量についてのメンバーシップ関数の関数和の図
形の重心を求める等の処理を行ってファジィ推論値であ
る制御操作量を算出して出力する。
ところで、ファジィ制御ルールは、熟練操作員の持つ知
識に従って生成されることを予定しており、最初から最
適制御を実現できるファジィ制御ルールを確立すること
は困難である。従って、生成したファジィ制御ルールを
シミュレーションや現地テストにより評価しながら試行
錯誤的に改良していくという手順をとらざるを得ない。
そこで本願発明者等にあっては、ニューロの適用により
ファジィ制御ルールを実現する階層ネットワーク構造、
即ちルール部プリワイヤニューロを使用した適応型のフ
ァジィ制御システムを提案している(特願平2−602
56号の「階層ネットワーク構成データ処理装置及びデ
ータ処理システム」参照)。即ち、ルール部プリワイヤ
ニューロは、前件部メンバシップ関数実現部、ルール部
及び後件部メンバシップ関数で成るファジィ制御ルール
を実現する階層ネットワーク構成をもつ。
このルール部プリワイヤニューロによるファジィ制御ル
ールの自動抽出を考えると、以下のような手続きを取れ
ばよい。
■ルール部プリワイヤニューロのメンバシップ関数を設
定する。
■ルール部プリワイヤニューロに、対象システムの入カ
バターンとその入カバターンに対する望ましい出カバタ
ーンの組とを提示して学習させる。
■ルール部の結線の重みを解析することにより対象シス
テムについての最適ファジィ制御ルールを抽出する。
[発明が解決しようとする課題] しかしながら、ルール部プリワイヤニューロについてフ
ァジィ制御ルールを抽出させるために行われる学習は、
前件部メンバシップ関数部、ルール部及び後件部メンバ
シップ関数実現部の重みを含め、どのようにして学習を
行わせるかの学習方法が決っておらず、ロール部プリワ
イヤニューロの性能を最大限に引き出すことのできる効
率の良い学習法の構築が必要となっている。
本発明は、このような状況に鑑みてなされたもので、対
象システムに適合した制御を行うための学習を効率良く
行なうことのできるルール部プリワイヤニューロの学習
方法を提供することを目的とする。
[課題を解決するための手段] 第1図は本発明の原理説明図である。
まず本発明は、前件部メンバシップ関数実現部10.1
又は複数階層でなるルール部12及び後件部メンバシッ
プ関数実現部14でなるファジィ制御ルールを実現する
階層ネットワーク構造を有し、ルール部12は前段の前
件メンバシップ関数実現部10及び又は後段の後件部メ
ンバシ・ツブ関数実現部14との間で全ユニット間を内
部結合せずに制御ルールに従って一部を内部結合して成
り、入力される制御状態量(Xl、X2.・・・Xゎ)
に対応する1又は複数の制御操作量(Y)を出力するル
ール部プリワイヤニューロ100を対象とする。
このようなルール部プリワイヤニューロ100の学習方
法として本発明にあっては、次の5つの学習方法を行な
う。
■請求項1; [第1過程コ 前件部メンバシップ関数実現部10に予め持っている知
識(図中は「先験的知識」として示す)に基づき又は乱
数を用いて重み値を初期設定すると共に、ルール部12
及び後件部メンバシップ関数実現部14に予め持ってい
る知識に基づいて重み値を初期設定する; [第2過程コ 学習データを使用して前件部メンバシップ関数実現部1
0の重みを学習させる; [第3過程] 学習データを使用して後件部メンバシップ関数実現部1
4の重みを学習させる第3過程と:ように構成する。
■請求項2 [第1過程コ ルール部12に予め持っている知識に基づき又は乱数を
用いて重み値を初期設定すると共に、前件部メンバシッ
プ関数実現部10及び後件部メンバシップ関数実現部1
4に予め持っている知識に基づいて重み値を初期設定す
る; [第2過程] 学習データを使用してルール部12の重みを学習させる
; [第3過程コ 学習データを使用して後件部メンバシップ関数実現部1
4の重みを学習させる: ように構成する。
■請求項3 [第1過程コ ルール部12に予め持っている知識に基づき又は乱数を
用いて重み値を初期設定すると共に、前件部メンバシッ
プ関数実現部10及び後件部メンバシップ関数実現部1
4に予め持っている知識に基づいて重み値を初期設定す
る; [第2過程コ 学習データを使用してルール部12の重みを学習させる
; [第3過程] 学習データを使用して前件部メンバシップ関数実現部1
0の重みを学習させると; [第4過程コ 学習データを使用して後件部メンバシップ関数実現部1
4の重みを学習させる第4過程と;ように構成する。
■請求項4 [第1過程] 前件部メンバシップ関数実現部10に予め持っている知
識に基づき又は乱数を用いて重み値を初期設定すると共
に、ルール部12及び後件部メンバシップ関数実現部1
4に予め持っている知識に基づいて重み値を初期設定す
る; [第2過程コ 学習データを使用して前件部メンバシップ関数実現部1
0の重みを学習させる; [第3過程] 学習データを使用してルール部12の重みを学習させる
; [第4過程コ 学習データを使用して後件部メンバシップ関数実現部1
4の重みを学習させる; ように構成する。
■請求項5 [第1過程コ 前件部メンバシップ関数実現部10及びルール部12に
予め持っている知識に基づき又は乱数を用いて重み値を
初期設定すると共に、後件部メンバシップ関数実現部1
4に予め持っている知識に基づいて重み値を初期設定す
る; [第2過程] 学習データを使用して前記前件部メンバシップ関数実現
部10及びルール部12のの重みを同時に学習させる; [第3過程] 学習データを使用して後件部メンバシップ関数実現部1
4の重みを学習させる; ように構成する。
■請求項6 最初に重みを学習する部分の第1過程における重み初期
値の設定は、予め持っている知識で設定可能な重みは該
知識で初期設定し、その他は乱数を用いて初期設定する
■請求項7 第1過程の重み値の初期設定後に行う各過程の学習開始
時に、前件部メンバシップ関数実現部10、ルール部1
2及び後件部メンバシップ関数実現部14の内、学習対
象となっている部分の結線毎に設けられた学習フラグを
オンすると共に、学習対象となっていない部分の結線毎
に設けられた学習フラグをオフし、オン状態にある学習
フラグを有する結線の重み値のみを学習処理により最適
化する。
[作用] このような構成を備えた本発明のルール部プリワイヤニ
ューロの学習方法によれば次の作用が得られる。
まず、ルール部プリワイヤニューロの前件部メンバシッ
プ関数実現部及び又はルール部に対し予め持っている知
識に基づいた重み値の初期設定又は乱数を用いた重み値
の初期設定あるいは両者を併用した設定を行ない、後件
部メンバシップ関数実現部に対しては予め持っている知
識に基づいた重み値の初期設定を行なう。
続いて、学習処理を起動し、学習用の入カバターンをル
ール部プリワイヤニューロに提示し、ルール部プリワイ
ヤニューロからの出カバターンがが、入カバターンに対
し望ましい出力バター゛となる学習比カバターン(教師
信号)に略一致するように初期設定した重み値を修正す
る例えばパックプロパゲーション法による重みの学習を
■前件部メンバシップ関数実現部及び又はルール部 ■後件部メンバシップ関数実現部 の順に行う。
このようにルール部プリワイヤニューロの内の前件部メ
ンバシップ関数実現部とルール部のいずれか一方又は両
方の重み学習後に、後件部メンバシップ関数実現部の重
みを学習させることにより、前件部メンバシップ関数実
現部とルール部のいずれか一方又は両方の重みの学習結
果に合わせた後件部メンバシップ関数実現部の重み調整
が可能となる。
また予め持っている知識を導入した重みの初期設定によ
り、学習が容易にでき学習効率を高めることができる。
更に、乱数を利用した重みの初期設定により、ニューロ
による学習機能を最大限に引き出すことができる。
[実施例] 第2A〜第2E図は本発明によるルール部プリワイヤニ
ューロの学習方法の第1実施例から第5実施例の処理手
順を示した学習動作フロー図である。この第1〜第5実
施例の手順による学習方法の対象となるルール部プリワ
イヤニューロは、例えば第3図に示す前件部メンバシッ
プ関数実現部10、ルール部12、後件部メンバシップ
関数実現部14(重心計算実現部18を含む)で成るフ
ァジィ制御ルールを実現するための階層ネットワーク構
造を有する。
ここでルール部プリワイヤニューロとは、ルール部12
が前段の前件メンバシップ関数実現部10及び又は後段
の後件部メンバシップ関数実現部14との間で全ユニッ
ト間を内部結合せずに制御ルールに従って一部を内部結
合したネットワーク構造をもち、階層ユニット間の全て
を内部結合したルール部全結合ニューロに対比される。
第2A〜第2E図に示した第1〜第5実施例の各学習処
理にあっては、次のステップ81〜S6から成る処理を
行なう。
[ステップSL] 前件部メンバシップ関数実現部10の重みCab。
Cbcを、与えられたメンバシップ関数を実現するよう
に初期設定する。尚、Cab、  Cbcは後述するよ
うに、重みを設定する結線の結線グループ番号を示して
いる。
[ステップS2] ルール部12の重みCcd、  Cdeを、与えられた
ファジィルールを実現するように初期設定する。
[ステップS3コ 後件部メンバシップ関数実現部14の重みCefを、与
えられたメンバシップ関数を実現するように初期設定す
る。
[ステップS4コ 重心計算実現部18の重みC1gを、重心計算を実現す
るように初期設定する。
[ステップS5] 学習処理を行なうフェーズ毎のニューロングループを示
すフェーズ・グループ対応表及び各二ニーロングループ
に属する結線グループを示すグループ・結線対応表の設
定を行なう。
[ステップS6] 学習スケジューラを起動してパックプロパゲーション法
により学習処理を行なう。
このようなステップS1〜S6から成る学習処理におい
て、ステップ81〜S3の前件部メンバシップ関数実現
部10、ルール部12及び後件部メンバシップ関数実現
部14に対する重み値の初期設定は各実施例毎に異なる
が、いずれの実施例にあってもステップS6で最初に、
即ちフェーズ1で重み学習を行なう部分については予め
持っている知識の導入に基づく重み値の初期設定、また
は乱数を用いたランダムな重み値の初期設定を行ない、
2回目以降に重み値を学習する部分、即ちフェーズ2以
降に重み値を学習する部分については予め持っている知
識の導入に基づいた重み値の初期設定のみを行なってい
る。
ステップS4の重心計算実現部18に対する重み値の初
期設定は全ての実施例について同じである。また、ステ
ップS5のフェーズ・グループ対応表の設定は、各実施
例毎に固有のニューロングループを設定するが、グルー
プ・結線対応表については共通に設定される。更に、ス
テップS6の学習スケジューラの起動による重み学習に
あっては、全ての実施例において最終段階の重み学習を
後件部メンバシップ関数実現部14に対し行なう点は共
通しているが、後件部メンバシップ関数実現部14の重
み学習に先立って行なう前段階の重み学習の対象が各実
施例毎に異なっている。
以下、第2A図の第1実施例を例にとって本発明のルー
ル部プリワイヤニューロの学習方法の具体例を詳細に説
明する。
[第1実施例] 第2A図の第1実施例にあっては、ステップ81〜S3
で前件部メンバシップ関数実現部10、ルール部12及
び後件部メンバシップ関数実現所・14の重み値を、与
えられたメンバシップ関数を実現するように初期設定し
、ステップS4で重心計算実現部18の重み値を初期設
定した後、ステップS5のフェーズ・グループ対応表及
びグループ・結線対応表の設定を経てステップS6でま
ずフェーズ1で前件部メンバシップ関数実現部10の重
み学習を行ない、その後にフェーズ2で後件部メンバシ
ップ関数実現部14の重み学習を行なうようにしたこと
を特徴とする。
ステップS6のフェーズ1で最初に重み学習を行なうの
は、前件部メンバシップ関数実現部10であることから
、ステップS1の前件部メンバシップ関数実現部の重み
値の初期設定にあっては、重み値を予め持っている知識
の導入に基づいて初期設定するか、あるいは乱数を用い
てランダムに重み値を初期設定する。これに対し学習を
行なわないルール部12については、ステップS2に示
すように予め持っている知識の導入に基づいて重み値の
初期設定を行なっており、またフェーズ2となる最終段
階で学習を行なう後件部メンバシップ関数実現部14に
ついては、ステップS3に示すようにルール部12と同
様、予め持っている知識の導入に基づいて重み値を初期
設定している。
このような第1実施例の学習動作フローに示したステッ
プS1〜S6のそれぞれの処理を詳細に説明すると次の
ようになる。
[ルール部プリワイヤニューロの構成]本発明の対象と
なるルール部プリワイヤニューロは、例えば第3図に示
すファジィ制御ルールを実現可能な階層ネットワーク構
造を有する。
第3図において、各部に示したノードは1つの基本ユニ
ットを示しており、基本ユニットは黒丸で示すシグモイ
ド関数ユニットと、白丸で示す線形関数ユニットの2種
が使用されている。
第4図は第3図の基本ユニットの構成を取り出して示す
第4図において、基本ユニット201;L多入力1出力
系を構成しており、複数の入力に対し各々の内部結合の
重み値を乗算する乗算部22と、乗算部22の全乗算結
果を加算する加算部24と、加算部24の出力に閾値処
理を施す閾値処理部26とで構成される。
ここで前段層をh層、後段層をi層とすると乗算部22
と加算部24は下記の(1)式の演算を実行し、また閾
値処理部26では下記の(2)式の演算を実行する。
x、、=Σ’J jhw l h          
  (1)れ yp+=1/ (1+e−′x”−”’  )    
  (2)但し、 h :h層のユニット番号 i :i層のユニット番号 p :入力信号のパターン番号 θ1 :i層の1番ユニットの閾値 Wlh:h−i層間の内部結合の重み値x、I:h層の
各ユニットからi層の1番ユニットへの入力の積和 Tab:p番目パターンの入力信号に対するh層の6番
ユニットからの出力 y2□:p番目パターンの入力信号に対するi層の1番
ユニットからの出力 ここで前記(2)式はシグモイド関数として知られてお
り、第3図に示した黒丸の基本ユニットの閾値処理とな
る。
これに対し閾値処理部26に y pl= x 。
となる線形関数を設定したものが第3図における白丸の
線形関数ユニットとなる。但し、前件部メンバシップ関
数実現部10の最初のユニットである入力部は必ずしも
線形関数ユニットでなくて良い。この第4図の基本ユニ
ットのハードウェアは特願昭63−216865号の[
ネットワーク構成データ処理装置」に示される。
再び第3図を参照してルール部プリワイヤニューロの各
部の構成を説明する。
まず前件部メンバシップ関数実現部10は、各入力変数
Xn、X2.  ・・・Xnを入力とし、入力変数Xn
〜Xnのメンバシップ関数のグレード値を出力する。図
では簡単のため各メンバシップ関数は1変数関数として
いるが、多変数関数であってもよい。つまり変数X1と
X2を入力としてXI &X2  (SA) というメンバシップ関数であっても良い。
ルール部12は前件部ルール部12−1と後件部ルール
部12−2で構成される。前件部ルール部12−1は、
入力変数X1〜Xnのメンバシップ関数X 1(S A
 ) 〜X n (L A )のグレード値を入力とし
て、各ルールのグレード値を出力する。
また後件部ルール部12−2は、ルールのグレード値L
H8−1〜LH3−nを入力として出力変数のメンバシ
ップ関数y (SA)〜y (LA)のグレード値を出
力する。
更に後件部メンバシップ関数実現部14(重心計算実現
部16を含む)は、出力変数のメンバシップ関数y (
SA)〜y (LA)のグレード値を入力して、出力変
数Yの値を出力する。
ここで、前件部ルール部12−1と後件部ルール部12
−2を合わせたルール部12は、入力も出力もメンバシ
ップ関数のグレード値であるので、これをカスケード結
合することができ、多段推論が可能である。
また、各モジュール10.12−1.12−2゜14間
を結ぶニューロンは共用できる。例えば前件部メンバシ
ップ関数実現部10の出力ニューロンと前件部ルール部
12−1の入力ニューロンは実際には同じものでよい。
更に第3図では各ユニットを1つのニューロとして説明
しているが、ユニットの機能が特定できているものにつ
いてはニューロとせずにユニット機能を実現するゲート
回路、演算器等としても良い。
第5A図は本発明のルール部プリワイヤニューロの具体
的実施例を示したもので、入力Xn、X2の2つを与え
て制御出力Yを得る場合を例にとっており、この第5A
図を参照して各部の構成を詳細に説明すると次のように
なる。
入力部16は分離ユニット28−1.28−2で構成さ
れ、入力Xn、X2を2つに分けて前件部メンバシップ
関数実現部10に与える。前件部メンバシップ関数実現
部10は4つのシグモイド関数ユニット30−1〜30
−4及び同じく4つの線形関数ユニット32−1〜32
−3で構成される。
ルール部12は例えば8つのファジィルールを実現する
シグモイド関数ユニット34−1〜34−8を備え、前
件部メンバシップ関数実現部10からは各ファジィルー
ルL1〜L8の記述に従った結線が行なわれている。シ
グモイド関数ユニット34−1〜34−8の出力はファ
ジィルールに従って後件部演算を行なう2つの線形関数
ユニット36−1.36−2にファジィルールに従って
結線されている。
後件部メンバシップ関数実現部14は例えば9つの線形
関数ユニット38−1〜38−9で構成されており、ル
ール部12から出力される2つのユニット出力値(グレ
ード値)に基づいてメンバシップ関数を縮小(または拡
大)すると共に縮小(または拡大)した2つのメンバシ
ップ関数の関数和を算出する。
更に重心計算実現部18は重心決定要素出力装置40と
重心算出装置42で構成される。重心決定要素出力装置
40の線形関数ユニツ) 40−1. 。
40−2は、後件部メンバシップ関数実現部]4からの
ユニット出力の重付は総和を演算して2つの重心算出要
素Y、、Y2を求め、最終的に重心算出装置42で2つ
の重心算出要素Y、、Y2から重心を算出してファジィ
推論値としての制御出力Yを生ずる。
第5B図は第5A図のルール部プリワイヤニューロにつ
いて本発明による学習方法を実現するためのニューロン
グループと結線グループを示す。
第5B図において、ニューロングループはGa−Ggの
7つであるが、この内、入力部のニューロングループG
aと重心計算実現部18のニューロングループGgの2
つについては単なる分離及び加算合成を行なうにすぎな
いことから、バックプロパゲーション法による重みの学
習対象からは除いている。従ってパックプロパゲーショ
ン法による重みの学習対象に入るニューロングループは
Gb、Gc、Gd、Ge及びGfの5つとなる。
一方、各二ニーロングループの入力結線を示す結線グル
ープはCab〜Cjgの6っであり、学習対象となるニ
ューロングループの前段に位置する入力結線の重み値を
パックプロパゲーション法により学習する。
このjI5A、5B図に示した構造のルール部プリワイ
ヤニューロを対象とした第2図の学習動作フローにつき
、まず各部に対する重み値の初期設定を説明すると次の
ようになる。
[前件部メンバシップ関数実現部の初期設定]この前件
部メンバシップ関数実現部10に対する重み値の初期設
定は結線グループCab及びCbcに含まれる各結線の
重みを、与えられたメンバシップ関数を実現するように
初期設定する。
第6図は第5A図の前件部メンバシップ関数実現部10
における制御人力x1側を取り出して示す。 第6図に
おいて、シグモイド関数ユニット30−1.30−2よ
り出力される出力値yはy=1/ (1+e−””“−
′) )       (3)で表わされる。
本発明の前件部メンバシップ関数実現部10に対する重
み値の初期設定にあっては、予め持っている知識に基づ
き、例えばシグモイド関数ユニッ)30−1の入力結線
の重み値Wとして、W=−20 を設定し、且つシグモイド関数ユニット3o−1に閾値
θとして、 θ=−10 を設定する。
またもう1つのシグモイド関数ユニット30−2の入力
結線の重み値Wとして、 W=20 を設定し、同時にシグモイド関数ユニット3゜2に閾値
θとして、 θ=10 を設定する。尚、線形関数ユニット32−1. 32−
2の入力結線の重み値は重み初期値=1を設定している
このようにシグモイド関数ユニット30−1に、W<Q
    θ〈0 となる重み値及び閾値を初期設定した場合には、第7図
の特性曲線44に示す制御出力Xnに対するユニット出
力値Xn(SS)、即ち制御人力Xが大きくなるとユニ
ット出力値Xn(SS)が小さくなるという関数形状の
メンバシップ関数の真理値算出機能を設定することがで
きる。
またシグモイド関数ユニット30−2に、W>Q   
 θ〉0 となる重み値及び閾値を初期設定することで第7図の特
性曲線46に示す制御人力Xnに対するユニット出力値
X+(LA)、即ち制御人力Xが大きい程ユニット出力
値Xn(LA)が大きくなるという関数形状のメンバシ
ップ関数の真理値を算出する機能が実現できる。
この第6図に示すシグモイド関数ユニット301.30
−2に対する重み値及び閾値の初期設定は、前件部メン
バシップ関数実現部10における残りのシグモイド関数
ユニット30−3.304側についても所望の前件部メ
ンバシップ関数を実現するように予め持っている知識に
基づいて初期設定する。
[ルール部の初期設定] 第5A図のルール部12に対する重み値の初期設定は、
第5B図に示す結線グループCc+I及びCdeに属す
る各結線の重み値を、与えられたファジィルールを実現
するように予め持っている知識を導入して初期設定する
第8図はルール部12に対する重み値の初期膜・定の具
体例をファジィルールと共に示した説明図である。
第8図において、8つのシグモイド関数ユニット34−
1〜34−8は、右側に取り出して示すファジィルール
L1〜L8のそれぞれに対応している。シグモイド関数
ユニット34−1〜34−8のそれぞれに対しては前段
に位置する前件部メンバシップ関数実現部10の線形関
数ユニット32−1〜32−4からファジィルールし1
〜L8に従った入力結線が行なわれている。また8つの
シグモイド関数ユニット34−1〜34−8に続いて設
けられた2つの線形関数ユニット36−1゜36−2に
対してもファジィルールし1〜L8の後件部(T HE
 N)に従った結線が行なわれている。
ここで第8図のルール部12におけるシグモイド関数ユ
ニット34−1〜34−8の入力結線に初期設定する重
み値とユニット自体に設定する閾値に基づくファジィ論
理演算の関数形状を説明すると次のようになる。
第9図はルール部1201つのシグモイド関数ユニット
34を示したもので、前段に位置する前件部メンバシッ
プ関数実現部10より真理値X1゜X2が入力し、積和
演算及び閾値処理により出力値yを生ずる。
第9図のシグモイド関数ユニット34より出力される出
力値yは、 5=Wx1・Xn+Wx1・X2−θ   (4)y=
1/ (1+e−s)          (5)とし
て算出される。この前記(5)式で与えられるユニット
出力値yは、入力結線の重み値Wx1゜Wx7及び閾値
θを任意に設定することで適宜の関数形状を実現するこ
とができる。
具体的には第8図のシグモイド関数ユニット34−1〜
34−8の入力結線に示す数値か重み初期値として設定
され、またシグモイド関数ユニット34−1〜34−8
の下側に示す数値が閾値θを示す。
例えばファジィルールL1を実現するシグモイド関数ユ
ニット34−1にあっては、 が設定されており、これら初期値の設定によりファジィ
ルールL1を実現するシグモイド関数ユニット34−1
は第10図の三次元座標で示される関数形状の閾値処理
を行なうことになる。
以下、同様にシグモイド関数ユニット34−2〜34−
8の各ファジィルールし2〜L8に対する重み値及び閾
値の初期設定により第11〜17図に示す関数形状を得
ることができる。
尚、第8図の出力段に設けられた線形関数ユニット36
−1.36−2に対する結線の重み値は1に初期設定さ
れており、また閾値処理については線形関数であり、θ
=0が設定される。
[後件部メンバシップ関数実現部の初期設定]第5A図
の後件部メンバシップ関数実現部14に対する重み値の
初期設定は、第5B図の結線グループCelに属する結
線の重み値を予め持っている知識に基づき、与えられた
メンバシップ関数を実現するように初期設定する。
第18図は後件部メンバシップ関数実現部14に対する
重み値の初期設定を具体的に示した説明図である。
第18図において、後件部メンバシップ関数実現部14
に設けられた9つの線形関数ユニット38−1〜38−
9に対しては、前段のルール部12の線形関数ユニッ)
36−1.36−2より図示のように結線入力が行なわ
れている。この9つのユニットは、38−1〜38−9
の順番に制御出力yの練直線上のO〜1の範囲の点に等
間隔に対応している。
この線形関数ユニット38−1〜38−9に対する入力
結線の重み値の初期設定は、ルール部12のユニット3
6−1からの出力y(SS)の結線の重み値については
、右側に示す横軸を制御出力Y1縦軸をユニット出力値
としたグラフの特性曲線46に従ってユニツ)38−1
側からユニット38−9側に重み値、 1、 1. 1.  G、75.  Q、5. 0.2
5. 0.  CI、  0を初期設定する。
またルール部12のユニット出力y (LA)からの入
力結線の重み値については、特性曲線48に従ってユニ
ット38−1側からユニット38−9側に向けて重み値
、 0、 0. 0. G、25. Q、5. G、’75
. 1.  ]、、  ■を初期設定する。
更に線形関数ユニット38−1〜38−9の閾値θはθ
=0に設定する。
このような後件部メンバシップ関数実現部14における
重み値の初期設定により、ルール部12の線形関数ユニ
ッ)36−1.36−2から出力されたユニット出力値
y(SS)及びy (LA)は、重み初期値の乗算によ
り縮小された後に加算され、次の重心計算実現部18に
出力される。
尚、第18図にあっては、ユニット出力を縮小するよう
に1以下の重み値を初期設定しているが、1以上の重み
値を設定して拡大することも有り得る。
[重心計算実現部の初期設定] 第5A図の重心計算実現部18に対する重み値の初期設
定は、第5B図の結線グループCfgに対し重心計算を
実現するように初期設定する。
第19図は重心計算実現部18の重心決定要素出力装置
40に対して行なわれる重心計算を実現するための重み
値の初期設定の具体例を示す。
重心決定要素出力装置40に設けられた2つの線形関数
ユニット40−1.40−2に対しては、前段の後件部
メンバシップ関数実現部14に設けられた9つの線形関
数ユニット38−1〜38−9のそれぞれが結線される
。そして、この入力結線に対し図示のように重心計算に
使用する2つの重心導出値y、、Y2を算出するための
重み値が設定される。
ファジィ制御にあっては一般的に次式に従って同一制御
出力位置についての縮小されたメンバシップ関数の関数
和で成る図形の重心を求めることでファジィ推論値であ
る制御出力Yを算出する方法を採用する。
Y= f grade(y)ydy / f gr3d
e(y)dy    (6)この(6)式を実現するた
め、後件部メンバシップ関数実現部14の線形関数ユニ
ット38〜1〜38−9から線形関数ユニッ)40−1
に対する結線の重み値として、制御出力Yの最小値Y=
0を起点に最大値Y=1まで等間隔をもって0から増加
する重み値を割り付ける。一方、線形関数ユニット40
−2の入力結線に対しては、制御出力Yの最大値Y=1
を起点に最小値Y=0までの間に0から上記と同じ等間
隔をもって、例えば0から−1に減少する重み値を割り
付ける。
このような線形関数ユニット40−1.40−2に対す
る入力結線の重み付けにより、前段の線形関数ユニット
38−1〜38−9のユニット出力値を01〜C9とす
ると、線形関数ユニット40−1は、 Yl=IC+ +〇、875 C2+0.75C3十〇
、625 C4+0.5 C5+[1,375C6十0
.25C,+0.125 C8+OC9(7)を出力し
、また線形関数ユニット40−2は、Yl”OC+  
0.125 C20,25C3−0,375C4−0,
5C5−0,625C6−0,75C7−0,875C
8+IC3(8)を出力する。
線形関数ユニッ)40−1.40−2から出力される重
心導出値Y、、Y2は重心算出装置42に与えられ、 Y=Y2 / (Y2−Y、)       (9)を
使用して重心、即ちファジィ推論値である制御出力Yが
算出される。
前記(9)式に前記(7)式及び(8)式を代入すると
、前記(9)式のYは、前記(6)式のYと一致するこ
とがわかる。
以上の処理で第2図のステップ81〜S4に示したルー
ル部プリワイヤニューロに対する重み値の初期設定が終
了し、ステップS5に進む。
[学習スケジュールの設定コ 第2A図のステップS5にあっては、初期設定の終了に
続いてルール部プリワイヤニューロに学習処理を行なわ
せるための学習計画、即ち学習スケジュールの設定を行
なう。この学習スケジュールの設定は、第20図(a)
に示すフェーズ・グループ対応表の設定と、同図(f)
に示すグループ・結線対応表の2つを行なう。尚、第2
0図(b)〜(e)のフェーズ・グループ対応表は第2
B〜2E図の第2〜第5実施例について示している。
まずフェーズ・グループ対応表は学習フェー;の進行に
対し各フェーズで学習対象となるニューロングループを
指定する。本発明の第1実施例(:あっては、重み値の
初期設定後に前件部メンバ已ツブ関数実現部10の重み
を学習し、その後に彷件部メンバシップ関数実現部14
の重みを学習することがら、第20図(a)に示すよう
にフェーズ1に学習対象グループとして前件部メンバシ
・)プ関数実現部10に属する第5図の二ニーロン多ル
ープGb、Gcの2つを設定し、またフエ−22には学
習対象グループとして後件部メンバ已ツブ関数実現部1
4に属する第5B図のニューロジグループGfを設定す
る。
一方、グループ結線対応表はルール部プリワイヤニュー
ロにおける各二ニーロングループGa〜Ggと入力結線
グループCab−ClHの対応関係苓第20図(f)に
示すように設定しており、グ)L−プ・結線対応表は全
ての実施例において共通に設定される。
このようなフェーズ・グループ対応表及びグループ・結
線対応表の設定が終了すると、第2A図のステップS6
に進んで学習スケジューラを起動し、実際にルール部プ
リワイヤニューロに対し学習データを与えて、パックプ
ロパゲーション法により重みの学習を実行する。
[学習スケジューラの処理と構成コ 第21図は本発明のルール部プリワイヤニューロの学習
処理フロー図を示す。この処理フロー図は例えば第22
図に示す装置構成により実現することができる まず、学習処理のための装置構成を説明すると、第22
図において、ルール部プリワイヤニューロ100に対し
ては学習指示ユニット50と学習ユニット70が設けら
れる。
学習指示ユニット50は学習スケジューラ52を有し、
学習スケジューラ52に対しては制御入力とその制御入
力に対する望ましい制御出力との対でなる学習信号を格
納した学習信号格納部54、第20図に示したフェーズ
・グループ対応表を格納したフェーズ・グループ対応テ
ープ56、及びグループ・結線対応表を格納したグルー
プ・結線対応テーブル58、更に学習収束判定部60が
設けられる。
一方、学習ユニット70には学習指示読取部72、学習
フラグ設定部74及びパックプロパゲーション法により
重み値を変更する重み変更部76が設けられる。
更に、第22図における装置構成の特徴は、ルール部プ
リワイヤニューロ100における各ユニットを結ぶ結線
に学習調整器80が設けられている点である。
学習調整器80は第23図に示す構成を有する。
尚、学習調整器80と共に重み変更部76を示している
学習調整器80にはフラグ保存部82、重み変更情報読
取部84及び重み変更量調整部86が設けられる。
一方、重み変更部76にはパックプロパゲーション法に
よる重み演算を実行する重み演算部88、重み保存部9
0及び重み変更量保存部92が設けられる。
このように、ルール部プリワイヤニューロ100の結線
毎に学習調整器80を設けることで、学習指示ユニット
50の学習スケジューラ52によりルール部プリワイヤ
ニューロ100に対し結線の重み値を変更するか否かを
決定する学習フラグを設定することができ、学習フラグ
か有効、即ちフラグオンとなっている結線に対してのみ
重みの学習を行なうことが可能となる。
また、学習調整器80に対するフラグセットは、第2図
に示したようなファジィルールを実現可能なネットワー
ク構造をもたない一般的な階層ネットワークに対し、フ
ァジィルールを実行可能な前件部メンバシップ関数実現
部、ルール部及び後件部メンバシップ関数実現部で成る
階層ネットワーク構造を特定する際にも使用される。
ファジィルールに適合した階層ネットワークを構成した
状態でパックプロパゲーション方により実際に学習させ
る際の重み値の調整は次のように行なわれる。
第23図において、学習調整器80の重み変更情報読取
部84が重み変更部76の重み変更量保存部92に対し
重み演算部88より重みの変更量が書き込まれているか
否かを監視している。重み変更情報読取部84で重みの
変更があったことを検知すると、その旨を重み変更量調
整部86に伝える。重み変更量調整部86はフラグ保存
部82の学習フラグを調べ、学習フラグがオンであれば
何もしない。即ち、重み変更量保存部92への書込みを
有効とする。一方、学習フラグがオフであれば、重み変
更量調整部86は重み変更部76の重み変更量保存部9
2にゼロを設定し、重み変更を無効とする。この学習ス
ケジューラのハードウェアは特願昭63−227825
号の「ネットワーク構成データ処理装置の学習方式」に
示される。
[学習スケジューラの処理内容] 次に第21図の処理フロー図を参照して第22゜23図
の装置構成に従った本発明の第1実施例におけるルール
部プリワイヤニューロの学習処理を説明する。
まず学習指示ユニット50の学習スケジューラ52が起
動されると、ステップSL(以下「ステップ」は省略)
で学習フェーズの進行を示すフェーズカウンタiをi=
1にセットしてS2に進み、フェーズ・グループ対応テ
ーブル56を参照して学習フェーズi=1に対応するニ
ューロングループ番号Gb、Gcを読み出す。即ち、最
初に重み学習を行なう前件部メンバシップ関数実現部1
0に属するニューロングループ番号Gb、Gcを読み出
す。
続いてS3に進み、ニューロングループ番号Gb、Gc
に対応した結線グループ番号Cab、  Cbcをグル
ープ・結線対応テーブル58を参照して読み出す。次に
84に進み、結線グループ番号Cab。
Cbcを出力して結線グループ番号Cah、  Cbe
に属する結線に設けられた学習調整器80の学習フラグ
をオンする。具体的には、学習指示ユニット50の学習
スケジューラ52から学習ユニット70の学習指示読取
部72に対し結線グループ番号Cab、  Cbcを出
力して読み取らせる。学習指示読取部72の読取結果を
受けた学習フラグ設定部74は、結線グループ番号Ca
b、  Cbcに属する結線に設けられている学習調整
器80のフラグ保存部82に対しフラグオンを指令して
学習フラグをセットする。これにより前件部メンバシッ
プ関数実現部10の重み学習の指定が行なわれる。
次に85に進んで、学習スケジューラ52は学習実行指
令を出して学習処理を開始させる。この学習処理は学習
信号格納部54に準備されている制御人力Xと、制御人
力Xに対する望ましい制御出力となる教師信号dを読み
出し、制御入力をルール部プリワイヤニューロ100に
与え、教師信号dは重み変更部76及び学習収束判定部
60に与える。そして、学習入力を受けたルール部プリ
ワイヤニューロ100から出力される制御出力Yを重み
変更部76及び学習収束判定部60に取り込み、重み変
更部76にあってはパックプロパゲーション法に従って
重み値の変更を行ない、学習収束判定部60で教師信号
dに対する制御出力Yとの誤差が規定値以下となったと
き学習終了を判定して第1フエーズの学習処理を終了す
る。
ステップS5の学習実行指令に基づいてフェーズ1の学
習処理が終了すると86でフェーズカウンタiを1つイ
ンクリメントし、S7で学習フェーズの終わりをチエツ
クした後に再びS2に戻り、学習フェーズ2に対応した
後件部メンバシップ関数実現部14のニューロングルー
プ番号Gfをフェーズ・グループ対応テーブル56から
読み出す。
続いてS3でグループ・結線対応テーブル58からニュ
ーロングループGfに対応する結線グループ番号Cel
を読み出し、S4で結線グループ番号Cefを出力して
後件部メンバシップ関数実現部14の結線に設けた学習
調整器80に学習フラグをセットする。続いてS5で学
習実行指令を出すことにより学習信号を用いてパックプ
ロパゲーション法により後件部メンバシップ関数実現部
14の重み学習を実行する。
フェーズ2による後件部メンバシップ関数実現部14の
重み学習か終了すると、S6でフェーズカウンタiを1
つインクリメントし、S7で学習フェーズの終わりを判
定し一連の処理を終了する。
[パックプロパゲーション法による学習原理1次に本発
明のパックプロパゲーション法による重み学習原理を階
層型ネットワークと共に説明する。
第24図は一般的な階層型ニューラルネットワークを示
したもので、ユニットと呼ばれる一種のノードと重みを
もつ内部結合とから構成される。
第24図では入力装置としてのh層、中間層としてのi
層、出力層としてのj層を示している。勿論、中間層と
してのi層は1層であるが、複数の中間層があっても同
じである。各ユニットは第4図に示した構成をもち、ユ
ニットで行なわれる演算は基本ユニット20について示
した前記(1)(2)式となる。パックプロパゲーショ
ン法では階層ネットワークの重み値Wihと閾値θiと
を誤差のフィードバックにより適応的に自動調整して学
習する。前記(1,)  (2)式から明らかなように
、重み値W篩と閾値θiとの調節は同時に実行される必
要があるが、この作業は相互に干渉する難しい作業とな
る。そこで、本願出願人にあっては通常のユニット以外
に、入力側のh層に常に出力値が1であるユニットを設
け、この出力値1のユニットからの入力結線に対し閾値
θiを重み値として割り付けることで、閾値θiを重み
値Wihの中に組み込んで閾値θiを重み値として扱う
ことができるパックプロパゲーション法を提案している
(特願昭62−333484号)。
このようにすることで、前記(1)(2)式はy、+=
1/ (1+exp(−Xp+) )     (12
)で表わされることとなり、閾値θiは表われてこない
前記(11)(12)式からの展開によって次の(13
)(14)式が得られる。
)(、、=写VDIW+1            (
I3)yp+=1/ (1+exp(xp+) )  
   (14)但し、 j 21層のユニット番号 W、、:i−j層間の内部結合の重み値x、、:i層の
各ユニットからj層の3番ユニットへの入力の積和 3’p+’p番目パターンの入力信号に対するj層の3
番ユニットからの出力 第22図の重み変更部76では学習用の入カバターンX
が提示されたときに出力層jから出力される出カバター
ンy、、と出カバターン’jp+のとるべき信号である
教師パターンaplを受けると、両者の差分値 (apr−yp+) を算出し、次に δp+=]/p+ (1yp+)  (apr  yp
+)    (15)を算出する。続いて、 但し、ε:学習定数 ζ:モーメンタム t・学習回数 に従ってi層とj層間の重み値の更新量ΔW。
(1)を算出する。ここで、前記(16)式右辺第2項
で前回の更新サイクル時に決定された重み値の更新量に
かかるものを加算するのは、学習の高速化を図るためで
ある。
続いて、重み値変更部76は前記(15)式で算出した
Δδ□を用いて δ、、=y、、 (1−yp+)Σδ、、w I l 
(+−1)   (17)を算出し、次に に従ってh層とi層の重み値の更新量Δwth(+)を
算出する。
続いて重み変更部76は前記(16)式及び(18)式
で算出した更新量に従って次の更新サイクルのための重
み値を として決定する。以上の重み値の更新を学習用の入カバ
ターンに対する出カバターンy+++か教師パターンd
piに一致する重み値が得られるように学習処理を繰り
返す。
一方、第24図の階層ネットワークを構成するユニット
が線形関数ユニットであった場合には、前記(14)式
は y口+=Xp+             (20)と
表わされる。この線形関数ユニットにおける前記(15
)式及び(17)式は δp+= d pl  y pl          
 (21)δ0.=写δ、、w、、 (t  1 ) 
      (22)と現わされる。
[第1実施例の重み学習処理コ 第25図は第5A図に示した本発明のプリワイヤニュー
ロに対し、パックプロパゲーション法による重み学習の
処理フロー図である。
この学習処理フローにおける各部のパラメータは第26
図に示すように定めている。
第26図は第5A図のルール部プリワイヤニューロの階
層構造を概略的に示したもので、図示のように第1層か
ら第6層までの6層構造をもっており、第1層及び第3
層がシグモイド関数ユニットで構成され、残りは線形関
数ユニットで構成されている。本発明の第1実施例にあ
っては、)ニーズ1で前件部メンバシップ関数実現部1
0が重みの学習対象層となり、また次のフェーズ2で後
件部メンバシップ関数実現部14が重みの学習対象とな
り、それ以外のルール部12及び重心計算実現部18の
重みは学習対象から除外されている。
ここで、ルール部プリワイヤニューロによるファジィル
ールの実現で出力されるファジィ推論値、即ち制御出力
値をy6としており、1つのフェーズにおける学習処理
は第6層から第5層、第4層、第3層、第2層、第1層
というように順次行なう。
勿論、フェーズ2のように後件部メンバシップ関数実現
部14に属する第5層が学習対象層であった場合には第
5層の処理で終了する。
1つのフェーズにおける階層毎の学習の進行はiカウン
タで示される。即ち、初期状態でiカウンタは1=6に
セットされている。
更に説明を簡単にするため、Wl、l−1とΔW、はマ
トリックスを示し、その大きさ(1層目のニューロン数
)X (i−1層目のニューロン数)となる。更にまた
、δ1とyiはベクトルを示し、大きさはi番目の層の
ニューロン数と同じになる。
この第26図に示す各部のパラメータを前提に第25図
の重み学習フローを本発明の第1実施例について説明す
ると、次のようになる。
まずSlで学習対象層を設定するカウンタを1をイニシ
ャライズする。具体的には第26図に示したように6層
構造であることがらカウンタiをi=6に初期設定する
。この初期設定により第6層目のユニットが学習対象と
して指定される。
次に32に進み、シグモイド関数ユニットか否か判定す
る。この場合、線形関数ユニットであることから814
に進み、最終段の階層か否か判定し、第6層目は最終段
であることから315に進み、そのとき得られている教
師信号dと制御出力y6を使用して前記(21)式と同
様な式に従つて差分値δ6を求める。
次に86に進み、重みを学習するユニットか否か判定す
る。第6層は学習対象から除外されているため、具体的
には結線に設けられた学習調整器80の学習フラグがオ
フとなっているため、S8に進んで重み値更新量ΔW6
5−0としてS9に進み、重み値W65の更新を無効と
する。続いてS12に進んで、カウンタjがフェーズ1
の学習終了層E=1か否か判定し、このときi=6であ
ることから313に進んでカウンタiを1つデクリメン
トしてi=5としてS2に戻って次の第5層の学習に入
る。
第5層についても線形関数ユニットであることから82
から814に進むが、最終段の階層でないことから31
6に進み、前記(22)式と同様な式に従って差分値δ
、を算出する。次に86に進んで学習対象となっている
か否か判定し、フェーズ1で第5層は学習対象となって
いないことからS8に進んで、重み値更新量ΔW 54
 = OとしてS9の重み更新を無効とする。以下同様
に、第5層の最終ユニットまで同じ処理を繰り返し、第
5層の処理が終わると第4層に進む。第4層も線形関数
ユニットであり、且つフェーズ1の学習対象から除外さ
れているため、第5層と同じ処理を繰り返す。
更に第3層の処理に進むと第3層はシグモイド関数ユニ
ットを使用していることから82からS3に進み、最終
段の階層ユニットでないことから85でシグモイド関数
ユニット固有の差分値δ3を前記(17)式と同様の演
算式により求める。
この第3層もフェーズ1では学習対象となっていないた
め、S6から88で重み値更新量ΔW320とした後、
S9の重み更新を無効とする。以下、第3層の最終ユニ
ットまで同様な処理を繰り返して第2層の処理に進む。
第2層はシグモイド関数ユニットであり、且つフェーズ
1で学習対象となっていることから82゜S4を介して
S16で前記(22)式と同様な式に従って差分値δ2
を算出した後、S6から87に進み、重み値更新量ΔW
21を前記(16)(18)式と同様な式に従って算出
し、S9て重み値ΔW21を前記(19)式と同様な式
に従って更新する。以下同様に、第2層の最終ユニット
まで同じ処理を繰り返し、第2層の処理が終了すると第
1層の処理に進む。
第1層はシグモイド関数ユニットであり、フェーズ1の
学習対象となっていることから82から83を経てS5
に進み、シグモイド関数ユニット固有の差分値δ1を算
出し、S6から87に進んで重み値更新量ΔW10を求
め、S9で重み値更新量ΔW、。を加算して重み値W1
0を更新する。以下、第1層の最終ユニットまで同じ処
理を繰り返し、第1層の最終ユニットの処理が終了して
SIOから812に進むと、このときカウンタiはi=
1と終了層E=1に一致していることから、全ての学習
が終了したことを判定してフェーズ1の処理を終了する
次にフェーズ2の重み学習処理を説明する。第1実施例
のフェーズ2にあっては、後件部メンバシップ関数実現
部14に属する第5層を学習対象としている。このため
第25図の312における学習終了層EはE=5にセッ
トされる。
フェーズ2の重み学習が起動されるとフェーズ1の場合
と同様、第6層からの学習処理が開始され、第6層を終
了して第5層に進むと、第5層は学習対象となっており
、且つ線形関数ユニットであることから816で求めた
差分値δ、に基づきS7で重み値更新量ΔW、4を算出
し、S9で重み値W、4の更新を行なう。以下同様に、
第5層の最終ユニットまで処理を行なうとSIOから8
12に進み、このときE=5にセットされていることか
ら、カウンタi=5と一致することでフェーズ2におけ
る全ての階層の学習が終了したことを判定して一連の処
理を終了する。
次に本発明の第2〜第5実施例を説明する。
[第2実施例の学習処理] 第2実施例は第2B図のステップS6に示すように、 ■ルール部12 ■後件部メンバシップ関数実現部14 の順番に重みを学習する。この重み学習に対応して、最
初に重みを学習するルール部12については、ステップ
S2に示すように、予め持っている知識の導入に基づい
た重み値の初期設定、または乱数を用いてランダムに重
み値を初期設定、或いは両者を併用して重み値を初期設
定する。これに対し重みを学習しない前件部メンバシッ
プ関数実現部10及び2回目に重みを学習する後件部メ
ンバシップ関数14については、ステップSL、S3に
示すように予め持っている知識の導入に基づいて重み値
を初期設定している。
ステップS5のフェーズ・グループ対応表の設定は第2
0図(b)に示すようにフェーズ1でルール部12に属
するニューロングループ番号Gd。
Geを設定し、フェーズ2で後件部メンバシップ関数実
現部14に属するニューロングループ番号Gfを設定し
ている。尚、グループ・結線対応表は第1実施例と同様
、第20図(f)に示すようになる。
以上の第2実施例の学習処理の詳細は前述した第1実施
例の説明から直ちに類推することができる。
この第2実施例によれば、ルール部12の重みの学習後
に後件部メンバシップ関数実現部14の重みを学習させ
ることにより、ルール部12の重み学習の結果に合わせ
た後件部メンバシップ関数実現部14の重み調整が可能
となる。
[第3実施例の学習処理] 本発明の第3実施例にあっては、第2C図のステップS
6に示すように、 ■ルール部12 ■前件部メンバシップ関数実現部10 ■後件部メンバシップ関数実現部14 の順番に重み学習を行なう。この重み学習の順番に対応
して、最初に重みを学習するルール部12についてはス
テップS2に示すように、予め持っている知識の導入に
基づいて初期値を重み設定するか、または乱数を用いて
ランダムに重み値を初期設定するか、或いは両者を併用
して重み値を初期設定する。一方、2回目以降に重みを
学習する前件部メンバシップ関数実現部10及び後件部
メンバシップ関数実現部14についてはステップS1、
S3に示すように、予め持っている知識の導入に基づい
て重み値を初期設定する。
ステップS5で設定するフェーズ・グループ対応表は第
20図(C)に示すように、フェーズ1でルール部12
に属するニューロングループ番号Gd、Geが設定され
、フェーズ2で前件部メンバシップ関数実現部10に属
するニューロングループ番号Gb、Gcが設定され、更
にフェーズ3で後件部メンバシップ関数実現部14に属
するニューロングループ番号Gfが設定される。
この第3実施例によれば、ルール部12及び前件部メン
バシップ関数実現部10の重みの学習後、後件部メンバ
シップ関数実現部14の重みを学習させることにより、
前件部メンバシップ関数実現部10とルール部12の重
み学習の結果に合わせた後件部メンバシップ関数実現部
14の重み調整がてきる。
[第4実施例の学習処理] 本発明の第4実施例にあっては、第2D図のステップS
6に示すように、 ■前件部メンバシップ関数実現部10 ■ルール部12 ■後件部メンバシップ関数実現部14 の順番に重みを学習する。この重み学習の順番に対応し
て最初に重みを学習する前件部メンバシップ関数実現部
10につき、ステップS1に示すように予め持っている
知識の導入に基づいて重み値を初期設定するか、または
乱数を用いてランダムに重み値を初期設定するか、或い
は両者を併用して重み値を初期設定する。また2回目以
降に重みを学習するルール部12及び後件部メンバシッ
プ関数実現部14については、ステップS2.S3に示
すように予め持っている知識の導入に基づいて重み値を
初期設定する。更にステップS5のフェーズ・グループ
対応表の設定は第20図(d)に示すようにフェーズ1
で前件部メンバシップ関数実現部10に属するニューロ
ングループGb。
Gcを設定し、フェーズ2でルール部12に属するニュ
ーロングループCyd、Geを設定し、更にフェーズ3
で後件部メンバシップ関数実現部14に属するニューロ
ングループGfを設定する。
このような第4実施例の学習処理によれば、前件部メン
バシップ関数実現部10とルール部12の重みの学習後
に後件部メンバシップ関数実現部14の重みを学習させ
ることにより、前件部メンバシップ関数実現部10とル
ール部12の両方の重み学習の結果を合せた後件部メン
バシップ関数実現部14の重み調整ができる。
[第5実施例の学習処理] 本発明の第5実施例は第2E図のステップS6に示すよ
うに、 ■前件部メンバシップ関数実現部10とルール部■後件
部メンバシップ関数実現部14 の順番に重みを学習する。この重み学習の順番に対応し
て最初に重みを学習する前件部メンバシップ関数実現部
10及びルール部12についてステップ31.82に示
すように予め持っている知識の導入に基づいた重み値の
初期設定するか、乱数を用いてランダムに重み値を初期
設定するか、さらには両者を併用して重み値を初期設定
する。−方、2回目の重み学習となる後件部メンバシッ
プ関数実現部14についてはステップS3に示すように
予め持っている知識の導入に基づいて重み値を設定する
。更に、ステップS5のフェーズ・グループ対応表の設
定は第20図(e)に示すように、フェーズ1で前件部
メンバシップ関数実現部10に属するニューロングルー
プGb、Gcとルール部12に属するニューロングルー
プGd、Geを設定し、フェーズ2で後件部メンバシッ
プ関数実現部14に属するニューロングループGfを設
定する。
[その他コ 尚、上記の具体的な実施例は第5A図に示したように2
つの制御入力Xn、X2を対象としたファジィルールを
実現するルール部プリワイヤニューロを例にとるもので
あったが、制御入力は1または3以上の適宜の入力数と
しても良いことは勿論である。また上記の実施例にあっ
ては、第6゜7図に示した y=1/ (1+e−”” )       (23)
となるメンバシップ関数を例にとるものであったが、第
27図に示すように2つのシグモイド関数ユニット94
−1.94−2のユニット出力を減算ユニット96に与
えて同図(b)の関数形状を実現するようにしても良い
。この場合のユニット出力yは y=1/(1−e−””” ) −1/(1−e−w2
”#2)と表現することができる。
[発明の効果] 以上説明してきたように本発明によれば、前件部メンバ
シップ関数実現部とルール部のいずれか一方または両方
の重みを学習した後に後件部メンバシップ関数実現部の
重みを学習させることにより、前件部メンバシップ関数
実現部とルール部のいずれか一方または両方の重み学習
の結果に合せた後件部メンバシップ関数実現部の最適な
重み調整が達成できる。
また予め持っている知識の導入に基づいた重み値の初期
設定により重み学習を容易に行なうことができる。
更に乱数を用いた重み値の初期設定又は予め持っている
知識と併用した重み値の初期設定によりニューロンネッ
トワークの機能を最大限に引き出した学習を行なうこと
ができる。
4、 II!J面の簡単な説明 第1A、IB、IC,ID、IE図は本発明の原理説明
図; 第2A、2B、2C,2D、2E図は本発明の学習動作
フロー図; 第3図は本発明のルール部プリワイヤニューロの実施例
構成図; 第4図は基本ユニット説明図: 第5A図は本発明のルール部プリワイヤニューロの具体
的な実施例構成図; 第5B図は第5A図のニューロングループ及び結線グル
ープの説明図; 第6図は本発明の前件部メンバシップ関数実現部の初期
設定説明図; 第7図は前件部のメンバシップ関数説明図;第8図は本
発明のルール部初期設定説明図;第9図は本発明のルー
ル部ユニット説明図;第10図は第9図のファジィルー
ル上1説明図;第11図は第9図のファジィルール上2
説明図第12図は第9図のファジィルール上3説明図;
第13図は第9図のファジィルール上4説明図;第14
図は第9図のファジィルール上5説明図;第15図は第
9図のファジィルール上6説明図;第16図は第9図の
ファジィルールヒフ説明図;第17図は第9図のファジ
ィルールL8説明図;第18図は本発明の後件部メンバ
シップ関数実現部の初期設定説明図; 第19図は本発明の重心計算実現部の初期設定説明図: 第20図は本発明のフェーズ・グループ対応表及びグル
ープ・結線対応表の設定説明図;第21図は本発明の学
習処理フロー図;第22図は本発明による学習処理の装
置構成図2第23図は第22図の結線毎に設けた学習調
整器構成図; 第24図は一般的な階層ニューラル・ネットワーク説明
図; 第25図は本発明の重み学習処理フロー図;第26図は
第25図の各部のパラメータ説明図;第27図本発明に
用いる他のメンバシップ関数の説明図である。
図中、 10:前件部メンバシップ関数実現部 12、ルール部 14:後件部メンバシラ 16:入力部 18:重心計算実現部 20:基本ユニット 22:乗算部 24:加算部 26:閾値処理部 プ関数実現部 28−L 2g−2,32−1〜32−4.38−1 
〜3g−940−140−2+線形関数ユニット 30−1〜3Q−2,34−1〜34−1194−19
4−2 :シグモイド関数ユニット 40:重心決定要素出力装置 42:重心算出装置 50:学習指示ユニット 52:学習スケジューラ 54:学習信号格納部 56:フェーズ・グループ対応テーブル58ニゲループ
・フェーズ対応テーブル60:学習収束判定部 70:学習ユニット 72・学習指示読取部 74:学習フラグ設定部 76二重み変更部 80:学習調整器 82:フラグ保存部 84:重み変更情報読取部 86二重み変更量調整部 88二重み演算部 90:重み保存部 92:重み変更量保存部 96二減算ユニツト 100:ルール部プリワイヤニューロ

Claims (7)

    【特許請求の範囲】
  1. (1)前件部メンバシップ関数実現部(10)、1又は
    複数階層でなるルール部(12)、及び後件部メンバシ
    ップ関数実現部(14)でなる階層ネットワークを有し
    、前記ルール部(12)は前段の前件メンバシップ関数
    実現部(10)及び又は後段の後件部メンバシップ関数
    実現部(14)との間で全ユニット間を内部結合せずに
    制御ルールに従って一部を内部結合して成り、入力され
    る制御状態量(X_1,X_2,・・・X_n)に対応
    する1又は複数の制御操作量(Y)を出力するルール部
    プリワイヤニューロの学習方法に於いて、 前記前件部メンバシップ関数実現部(10)に予め持っ
    ている知識に基づき又は乱数を用いて重み値を初期設定
    すると共に、前記ルール部(12)及び後件部メンバシ
    ップ関数実現部(14)に予め持っている知識に基づい
    て重み値を初期設定する第1過程と; 学習データを使用して前記前件部メンバシップ関数実現
    部(10)の重みを学習させる第2過程と;学習データ
    を使用して前記後件部メンバシップ関数実現部(14)
    の重みを学習させる第3過程と;を備えたことを特徴と
    するルール部プリワイヤニューロの学習方法。
  2. (2)前件部メンバシップ関数実現部(10)、1又は
    複数階層でなるルール部(12)、及び後件部メンバシ
    ップ関数実現部(14)でなる階層ネットワークを有し
    、前記ルール部(12)は前段の前件メンバシップ関数
    実現部(10)及び又は後段の後件部メンバシップ関数
    実現部(14)との間で全ユニット間を内部結合せずに
    制御ルールに従って一部を内部結合して成り、入力され
    る制御状態量(X_1,X_2,・・・X_n)に対応
    する1又は複数の制御操作量(Y)を出力するルール部
    プリワイヤニューロの学習方法に於いて、 前記ルール部(12)に予め持っている知識に基づき又
    は乱数を用いて重み値を初期設定すると共に、前記前件
    部メンバシップ関数実現部(10)及び後件部メンバシ
    ップ関数実現部(14)に予め持っている知識に基づい
    て重み値を初期設定する第1過程と;学習データを使用
    して前記ルール部(12)の重みを学習させる第2過程
    と; 学習データを使用して前記後件部メンバシップ関数実現
    部(14)の重みを学習させる第3過程と;を備えたこ
    とを特徴とするルール部プリワイヤニューロの学習方法
  3. (3)前件部メンバシップ関数実現部(10)、1又は
    複数階層でなるルール部(12)、及び後件部メンバシ
    ップ関数実現部(14)でなる階層ネットワークを有し
    、前記ルール部(12)は前段の前件メンバシップ関数
    実現部(10)及び又は後段の後件部メンバシップ関数
    実現部(14)との間で全ユニット間を内部結合せずに
    制御ルールに従って一部を内部結合して成り、入力され
    る制御状態量(X_1,X_2,・・・X_n)に対応
    する1又は複数の制御操作量(Y)を出力するルール部
    プリワイヤニューロの学習方法に於いて、 前記ルール部(12)に予め持っている知識に基づき又
    は乱数を用いて重み値を初期設定すると共に、前記前件
    部メンバシップ関数実現部(10)及び後件部メンバシ
    ップ関数実現部(14)に予め持っている知識に基づい
    て重み値を初期設定する第1過程と;学習データを使用
    して前記ルール部(12)の重みを学習させる第2過程
    と; 学習データを使用して前記前件部メンバシップ関数実現
    部(10)の重みを学習させる第3過程と;学習データ
    を使用して前記後件部メンバシップ関数実現部(14)
    の重みを学習させる第4過程と;を備えたことを特徴と
    するルール部プリワイヤニューロの学習方法。
  4. (4)前件部メンバシップ関数実現部(10)、1又は
    複数階層でなるルール部(12)、及び後件部メンバシ
    ップ関数実現部(14)でなる階層ネットワークを有し
    、前記ルール部(12)は前段の前件メンバシップ関数
    実現部(10)及び又は後段の後件部メンバシップ関数
    実現部(14)との間で全ユニット間を内部結合せずに
    制御ルールに従って一部を内部結合して成り、入力され
    る制御状態量(X_1,x_2,・・・X_n)に対応
    する1又は複数の制御操作量(Y)を出力するルール部
    プリワイヤニューロの学習方法に於いて、 前記前件部メンバシップ関数実現部(10)に予め持っ
    ている知識に基づき又は乱数を用いて重み値を初期設定
    すると共に、前記ルール部(12)及び後件部メンバシ
    ップ関数実現部(14)に予め持っている知識に基づい
    て重み値を初期設定する第1過程と; 学習データを使用して前記前件部メンバシップ関数実現
    部(10)の重みを学習させる第2過程と;学習データ
    を使用して前記ルール部(12)の重みを学習させる第
    3過程と; 学習データを使用して前記後件部メンバシップ関数実現
    部(14)の重みを学習させる第4過程と;を備えたこ
    とを特徴とするルール部プリワイヤニューロの学習方法
  5. (5)前件部メンバシップ関数実現部(10)、1又は
    複数階層でなるルール部(12)、及び後件部メンバシ
    ップ関数実現部(14)でなる階層ネットワークを有し
    、前記ルール部(12)は前段の前件メンバシップ関数
    実現部(10)及び又は後段の後件部メンバシップ関数
    実現部(14)との間で全ユニット間を内部結合せずに
    制御ルールに従って一部を内部結合して成り、入力され
    る制御状態量(X_1,X_2,・・・X_n)に対応
    する1又は複数の制御操作量(Y)を出力するルール部
    プリワイヤニューロの学習方法に於いて、 前記前件部メンバシップ関数実現部(10)及びルール
    部(12)に予め持っている知識に基づき又は乱数を用
    いて重み値を初期設定すると共に、前記後件部メンバシ
    ップ関数実現部(14)に予め持っている知識に基づい
    て重み値を初期設定する第1過程と; 学習データを使用して前記前件部メンバシップ関数実現
    部(10)及びルール部(12)の重みを同時に学習さ
    せる第2過程と; 学習データを使用して前記後件部メンバシップ関数実現
    部(14)の重みを学習させる第3過程と;を備えたこ
    とを特徴とするルール部プリワイヤニューロの学習方法
  6. (6)最初に重みを学習する部分の前記第1過程におけ
    る重み初期値の設定は、予め持っている知識で設定可能
    な重みは該知識で初期設定し、その他は乱数を用いて初
    期設定することを特徴とする請求項1乃至5記載のルー
    ル部プリワイヤニューロの学習方法。
  7. (7)前記第1過程の重み値の初期設定後に行う各過程
    の学習開始時に、前記前件部メンバシップ関数実現部(
    10)、ルール部(12)及び後件部メンバシップ関数
    実現部(14)の内、学習対象となっている部分の結線
    毎に設けられた学習フラグをオンすると共に、学習対象
    となっていない部分の結線毎に設けられた学習フラグを
    オフし、オン状態にある学習フラグを有する結線の重み
    値のみを学習処理により最適化することを特徴とする請
    求項1乃至5記載のルール部プリワイヤニューロの学習
    方法。
JP2124707A 1990-05-15 1990-05-15 ルール部プリワイヤニューロの学習方法 Pending JPH0424736A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP2124707A JPH0424736A (ja) 1990-05-15 1990-05-15 ルール部プリワイヤニューロの学習方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP2124707A JPH0424736A (ja) 1990-05-15 1990-05-15 ルール部プリワイヤニューロの学習方法

Publications (1)

Publication Number Publication Date
JPH0424736A true JPH0424736A (ja) 1992-01-28

Family

ID=14892110

Family Applications (1)

Application Number Title Priority Date Filing Date
JP2124707A Pending JPH0424736A (ja) 1990-05-15 1990-05-15 ルール部プリワイヤニューロの学習方法

Country Status (1)

Country Link
JP (1) JPH0424736A (ja)

Similar Documents

Publication Publication Date Title
Jang et al. Neuro-fuzzy modeling and control
WO1991014226A1 (en) Neuro-fuzzy fusion data processing system
Zhou et al. Learning modular language-conditioned robot policies through attention
Takagi et al. Neural networks and genetic algorithm approaches to auto-design of fuzzy systems
Zuo et al. SOAR improved artificial neural network for multistep decision-making tasks
Zhou et al. TransNav: spatial sequential transformer network for visual navigation
Saxena et al. Advancement of industrial automation in integration with robotics
JPH0424736A (ja) ルール部プリワイヤニューロの学習方法
CN109117946A (zh) 神经网络计算处理模型
JPH0424742A (ja) ルール部プリワイヤニューロの学習方法
JPH0424740A (ja) ルール部プリワイヤニューロの学習方法
JP2501932B2 (ja) ニュ―ラルネットワ―クによる重心決定要素出力装置
JPH0424741A (ja) ルール部プリワイヤニューロの学習方法
JPH0424739A (ja) ルール部プリワイヤニューロの学習方法
JPH0424744A (ja) ルール部プリワイヤニューロの学習方法
JPH0424738A (ja) ルール部プリワイヤニューロの学習方法
JPH0424743A (ja) ルール部プリワイヤニューロの学習方法
JPH0424737A (ja) ルール部プリワイヤニューロの学習方法
JPH0464134A (ja) ルール部全結合ニューロの学習方法
JPH0464135A (ja) ルール部全結合ニューロの学習方法
JPH0464137A (ja) ルール部全結合ニューロの学習方法
JPH0464136A (ja) ルール部全結合ニューロの学習方法
JPH0464132A (ja) ルール部全結合ニューロの学習方法
JPH0464133A (ja) ルール部全結合ニューロの学習方法
JPH03260806A (ja) 階層ネットワーク構成ファジィ制御器