JPH0424741A - Learning method for prewired neuro of rule part - Google Patents
Learning method for prewired neuro of rule partInfo
- Publication number
- JPH0424741A JPH0424741A JP2124705A JP12470590A JPH0424741A JP H0424741 A JPH0424741 A JP H0424741A JP 2124705 A JP2124705 A JP 2124705A JP 12470590 A JP12470590 A JP 12470590A JP H0424741 A JPH0424741 A JP H0424741A
- Authority
- JP
- Japan
- Prior art keywords
- learning
- unit
- rule
- membership function
- weight
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Landscapes
- Devices For Executing Special Programs (AREA)
- Feedback Control In General (AREA)
Abstract
Description
【発明の詳細な説明】
[概要]
前件部メンバシップ関数実現部、ルール部及び後件部メ
ンバシップ関数実現部で成るファジィ制御ルールを実現
する階層ネットワーク構造に従って入力に対応する制御
出力を生ずるルール部プリワイヤニューロの学習方法に
関し、
対象システムに適合した制御を行うための学習を効率良
く行なうことを目的とし、
前件部メンバシップ関数実現部、ルール部及び後件部メ
ンバシップ関数実現部の各々に、予め持っている知識を
導入した重み初期値を設定した後、学習データを使用し
てまず前件部メンバシップ関数実現部の重みを学習させ
、前件部メンバシップ関数実現部の重み学習が済んだ後
にルール部の重みを学習させるように構成する。尚、前
件部メンバシップ関数実現部の重み値の初期設定は、乱
数を利用して行っても良し、予め持っている知識と乱数
を併用しても良い。[Detailed Description of the Invention] [Summary] A control output corresponding to an input is generated according to a hierarchical network structure that realizes a fuzzy control rule, which is composed of an antecedent membership function implementation unit, a rule unit, and a consequent membership function implementation unit. Regarding the learning method of the rule part pre-wired neuro, we have developed an antecedent membership function realization part, a rule part and a consequent part membership function realization part, with the aim of efficiently learning to perform control suitable for the target system. After setting an initial weight value that introduces pre-existing knowledge for each of The configuration is such that the weights of the rule section are learned after the weight learning is completed. Note that the initial setting of the weight value of the antecedent membership function realization unit may be performed using random numbers, or may be performed using a combination of knowledge held in advance and random numbers.
[産業上の利用分野コ
本発明は、ファジィ制御とニューラルネットワークを融
合させたルール部プリワイヤニューロの学習方法に関す
る。[Industrial Application Field] The present invention relates to a learning method for a rule section prewired neuron that combines fuzzy control and a neural network.
ニューロを用いた情報処理にあっては、対象とするシス
テムの入カバターンと、その入カバターンに対する望ま
しい出カバターンとの組でなる学習データを階層型二−
ラルネットワークに提示して学習させ適応的な処理を行
わせる。この学習処理には特にパックプロパゲーション
法と呼ばれる処理方式が、その実用性の高さから注目さ
れている。In information processing using neurons, learning data consisting of a set of input patterns of the target system and desired output patterns for that input pattern is used in a hierarchical format.
It is presented to the physical network to learn and perform adaptive processing. In particular, a processing method called pack propagation method is attracting attention due to its high practicality in this learning process.
一方、ファジィ理論は、1960年に2adehにより
提案され、温度が「低い」とか「高い」といった人間が
行っている曖昧さに基づく思考や判断の過程をモデル化
する理論である。このファジィ理論では曖昧さを現わす
ためにメンバシップ関数を導入したファジィ集合論を数
学的基礎としている。On the other hand, fuzzy theory was proposed by 2adeh in 1960, and is a theory that models the process of thinking and judgment based on ambiguity that humans make, such as whether the temperature is "low" or "high." This fuzzy theory is mathematically based on fuzzy set theory, which introduces membership functions to represent ambiguity.
ファジィ理論の応用としては1974年にMaqmda
niがスチームエンジンの制御に用いたのを最初に、各
種のファジィ制御が行われている。As an application of fuzzy theory, in 1974 Maqmda
Various types of fuzzy control have been used since ni was first used to control steam engines.
このファジィ制御を実行するシステムは不確定なものを
扱うものであることから、制御アルゴリズムの調整や変
更等に対して適応的に対応できるような構成にしていく
必要がある。Since the system that performs this fuzzy control handles uncertain things, it is necessary to have a configuration that can adaptively respond to adjustments and changes in the control algorithm.
[従来の技術]
一般に、ファジィ制御システムを構築するには、以下の
ような手続きを取る。[Prior Art] Generally, the following procedure is taken to construct a fuzzy control system.
■熟練操作員の持つ「もし温度が高ければ、火を小さく
する」等の曖昧な制御規則を得る。■Obtain ambiguous control rules such as ``If the temperature is high, reduce the fire'' held by experienced operators.
■制御規則の中の言葉(命題)の意味をメンバシップ関
数という形で定量化し、制御規則をrlF−THEN部
」
型のルール表現で記述する。■The meaning of the words (propositions) in the control rule is quantified in the form of a membership function, and the control rule is described in a rule expression of the type ``rlF-THEN part''.
■シミュレーションや現地テストによる検査を行う。■Conduct inspections through simulations and on-site tests.
■検査結果を評価し、メンバシップ関数や規則の改良を
行う。■Evaluate inspection results and improve membership functions and rules.
更に詳細に説明すると、ファジィ制御ルールは、例えば
、
lit x、 is big and xlis sm
all then7、 is bigJ
と記述される。ここでIF部は前件部と呼ばれ、温度等
の制御状態量(制御入力)についての条件を記述する部
分である。またTHEN部は後件部と呼ばれ、操作端等
の制御操作量(制御出力)についての条件を記述する部
分である。To explain in more detail, the fuzzy control rules are, for example, lit x, is big and xlis sm
It is written as all then7, is bigJ. Here, the IF section is called an antecedent section, and is a section that describes conditions regarding control state quantities (control inputs) such as temperature. Further, the THEN section is called a consequent section, and is a section that describes the conditions regarding the control operation amount (control output) of the operating terminal, etc.
ファジィ制御では、対象システムの制御論理として用意
される複数のファジィ制御ルールを管理すると共に、各
ファジィ制御ルール中に記述される「大きい」とか「小
さい」とかいうような曖昧な言語表現の意味をメンバシ
ップ関数として定量化して管理する。Fuzzy control manages multiple fuzzy control rules prepared as the control logic of the target system, and also manages the meaning of ambiguous linguistic expressions such as "large" or "small" written in each fuzzy control rule. Quantify and manage it as a ship function.
完成したファジィ制御システムの制御手順は次のように
なる。The control procedure of the completed fuzzy control system is as follows.
■制御対象から温度等の制御状態量が入力されると、設
定している前件部のメンバシップ関数に従って真理値を
算出する。■When a controlled state quantity such as temperature is input from the controlled object, the truth value is calculated according to the membership function of the antecedent part that has been set.
■次に、最小値を選択する等の前件部演算に従って、各
ファジィ制御ルールにおける後件部に対しての適用値を
決定する処理を実行する。例えば、「xlis big
J の真理値=0.8「X2目smallJの真理値
=0.5である場合には、最小値を選択する前件部演算
に従って、真理値=0.5をそのファジィ制御ルールの
後件部に対しての適用値として出力するように処理する
。(2) Next, in accordance with the antecedent computation such as selecting the minimum value, a process is executed to determine the value to be applied to the consequent in each fuzzy control rule. For example, "xlis big
The truth value of J = 0.8 "If the truth value of the Process so that it is output as an applied value for the part.
■続いて、同一の制御操作量となる後件部のメンバーシ
ップ関数に対する前件部からの入力値(適用値)から出
力適用値を決定する処理を実行する。(2) Next, a process is executed to determine an output application value from the input value (applied value) from the antecedent part to the membership function of the consequent part, which has the same amount of control operation.
例えば、2つのファジィ制御ルールにより、[yl i
s b+gJの適用値=0.5「y、 is bigJ
の適用値=0.6が得られた場合、最大値を選択する後
件部演算に従って、適用値=0.6を選択決定する。For example, with two fuzzy control rules, [yl i
s b + gJ applied value = 0.5 "y, is bigJ
When the applied value=0.6 is obtained, the applied value=0.6 is selected and determined according to the consequent operation that selects the maximum value.
■続いて、決定された適用値に従って制御操作量のメン
バーシップ関数を縮小(又は拡大)すると共に、同一の
制御操作量についてのメンバーシップ関数の関数和の図
形の重心を求める等の処理を行ってファジィ推論値であ
る制御操作量を算出して出力する。■Subsequently, the membership function of the control operation amount is reduced (or expanded) according to the determined applied value, and the center of gravity of the figure of the sum of the membership functions for the same control operation amount is calculated. The control operation amount, which is a fuzzy inference value, is calculated and output.
ところで、ファジィ制御ルールは、熟練操作員の持つ知
識に従って生成されることを予定しており、最初から最
適制御を実現できるファジィ制御ルールを確立すること
は困難である。従って、生成したファジィ制御ルールを
シミュレーションや現地テストにより評価しながら試行
錯誤的に改良していくという手順をとらざるを得ない。By the way, fuzzy control rules are planned to be generated according to the knowledge possessed by a skilled operator, and it is difficult to establish fuzzy control rules that can realize optimal control from the beginning. Therefore, it is necessary to improve the generated fuzzy control rules through trial and error while evaluating them through simulations and field tests.
そこで本願発明者等にあっては、ニューロの適用により
ファジィ制御ルールを実現する階層ネットワーク構造、
即ちルール部プリワイヤニューロを使用した適応型のフ
ァジィ制御システムを提案している(特願平2−602
56号の「階層ネットワーク構成データ処理装置及びデ
ータ処理システL、」参照)。即ち、ルール部プリワイ
ヤニューロは、前件部メンバシップ関数実現部、ルール
部及び後件部メンバシップ関数で成るファジィ制御ルー
ルを実現する階層ネットワーク構成をもつ。Therefore, the inventors of the present application developed a hierarchical network structure that realizes fuzzy control rules by applying neurology.
That is, we have proposed an adaptive fuzzy control system using prewired neuro in the rule section (Patent Application No. 2-602).
(See "Hierarchical Network Configuration Data Processing Device and Data Processing System L," No. 56). That is, the rule part prewire neuro has a hierarchical network configuration that realizes a fuzzy control rule consisting of an antecedent part membership function realization part, a rule part, and a consequent part membership function.
このルール部プリワイヤニューロによるファジィ制御ル
ールの自動抽出を考えると、以下のような手続きを取れ
ばよい。Considering the automatic extraction of fuzzy control rules by the pre-wired neuron of the rule section, the following procedure may be taken.
■ルール部プリワイヤニューロのメンバシップ関数を設
定する。■Set the membership function of the rule section prewire neuro.
■ルール部プリワイヤニューロに、対象システムの入カ
バターンとその入カバターンに対する望ましい出カバタ
ーンの組とを提示して学習させる。■The rule section prewire neuro is presented with the input pattern of the target system and a set of desirable output patterns for that input pattern, and is made to learn.
■ルール部の結線の重みを解析することにより対象シス
テムについての最適ファジィ制御ルールを抽出する。■Extract the optimal fuzzy control rule for the target system by analyzing the weights of connections in the rule section.
[発明が解決しようとする課題]
しかしながら、ルール部プリワイヤニューロについてフ
ァジィ制御ルールを抽出させるために行われる学習は、
前件部メンバシップ関数部、ルール部及び後件部メンバ
シップ関数実現部の重みを含め、どのようにして学習を
行わせるかの学習方法が決っておらず、ロール部プリワ
イヤニューロの性能を最大限に引き出すことのできる効
率の良い学習法の構築が必要となっている。[Problems to be Solved by the Invention] However, the learning performed for extracting fuzzy control rules for the rule section pre-wired neuron is
The learning method for learning, including the weights of the antecedent membership function part, rule part, and consequent part membership function realization part, has not been determined, and the performance of the roll part prewire neuron has not yet been determined. There is a need to develop efficient learning methods that can bring out the best in students.
本発明は、このような状況に鑑みてなされたもので、対
象システムに適合した制御を行うための学習を効率良く
行なうことのできるルール部プリワイヤニューロの学習
方法を提供することを目的とする。The present invention has been made in view of the above situation, and an object of the present invention is to provide a learning method for a rule section pre-wired neuron that can efficiently perform learning for controlling a target system. .
[課題を解決するための手段] 第1図は本発明の原理説明図である。[Means to solve the problem] FIG. 1 is a diagram explaining the principle of the present invention.
まず本発明は、前件部メンバシップ関数実現部10.1
又は複数階層でなるルール部12及び後件部メンバシッ
プ関数実現部14でなる階層ネットワーク構造を有し、
ルール部12は前段の前件メンバシップ関数実現部10
及び又は後段の後件部メンバシップ関数実現部14との
間で全ユニット間を内部結合せずに制御ルールに従って
一部を内部結合して成り、入力される制御状態量(Xl
。First, the present invention provides antecedent membership function realization unit 10.1
Or it has a hierarchical network structure consisting of a rule part 12 and a consequent part membership function realization part 14 which are made up of multiple hierarchies,
The rule section 12 is an antecedent membership function realization section 10 in the previous stage.
and/or with the consequent membership function realization unit 14 in the subsequent stage, without internally connecting all the units, some of them are internally combined according to the control rule, and the input control state quantity (Xl
.
X2+ ・・・Xo)に対応する1又は複数の制御操
作量(Y)を出力するルール部プリワイヤニューロ10
0を対象とする。Rule section pre-wire neuro 10 that outputs one or more control operation amounts (Y) corresponding to X2+...Xo)
Target 0.
このようなルール部プリワイヤニューロ100の学習方
法として本発明にあっては、
[第1過程]
前件部メンバシップ関数実現部10、ルール部12及び
後件部メンバシップ関数実現部14の各々に重み値を初
期設定する;
[第2過程コ
予め準備された学習データを使用して前件部メンバシッ
プ関数実現部10の重みのみを学習させる;
[第3過程]
次に予め準備された学習データを使用してルール部12
の重みのみを学習させる;
とする処理過程を備えた学習方法を構成する。In the present invention, as a learning method for such a rule part pre-wired neuron 100, [First process] Each of the antecedent part membership function realization part 10, the rule part 12, and the consequent part membership function realization part 14 Initialize the weight values for; [Second process: learn only the weights of the antecedent membership function realizing unit 10 using the training data prepared in advance; [Third process] Rule part 12 using learning data
A learning method is constructed that includes a processing process in which only the weights of are learned;
ここで第1過程の重み値の初期設定としては、前件部メ
ンバシップ関数実現部10、ルール部12及び後件部メ
シバシップ関数実現部14の各々に予め持っている知識
(図中は「先験的知識」として示す)に基づいて作成さ
れた重み値を初期設定する。Here, as the initial setting of the weight value of the first process, the knowledge (in the figure, "first" is Initialize weight values created based on "experimental knowledge").
また第1過程の重み値の他の初期設定としては、前件部
メンバシップ関数実現部10に乱数を用いて作成された
重み値を初期設定し、ルール部12及び後件部メンバシ
ップ関数実現部14には予め持っている知識に基づいて
作成された重み値を初期設定する。In addition, as another initial setting of the weight value in the first process, a weight value created using random numbers is initially set in the antecedent membership function realization unit 10, and the rule unit 12 and the consequent membership function realization unit 10 are initialized with weight values created using random numbers. The unit 14 is initially set with weight values created based on knowledge held in advance.
更に第1過程における前件部メンバシップ関数実現部1
0の重み初期値の他の設定方法は、予め持っている知識
で設定可能な重みは該知識で初期設定し、その他は乱数
を用いて初期設定するようにしてもよい。Furthermore, the antecedent membership function realization unit 1 in the first process
Another method for setting the initial weight value of 0 may be to initialize weights that can be set using knowledge held in advance, and initialize other weights using random numbers.
一方、第2過程による学習開始時に、前件部メンバシッ
プ関数実現部10の結線毎に設けられた学習フラグをオ
ンすると共に、ルール部12及び後件部メンバシップ関
数実現部14の結線毎に設けられた学習フラグをオフし
、オン状態にある学習フラグを有する結線の重み値のみ
を学習処理により最適化する。On the other hand, at the start of learning in the second process, the learning flag provided for each connection of the antecedent membership function realization unit 10 is turned on, and the learning flag provided for each connection of the rule unit 12 and the consequent membership function realization unit 14 is turned on. The provided learning flag is turned off, and only the weight values of the connections having the learning flag in the on state are optimized through learning processing.
また第3過程による学習開始時には、ルール部12の結
線毎に設けられた学習フラグをオンすると共に、前件部
メンバシップ関数実現部10及び後件部メンバシップ関
数実現部14の結線毎に設けられた学習フラグをオフし
、オン状態にある学習フラグを有する結線の重み値のみ
を学習処理により最適化する。Furthermore, at the start of learning in the third process, a learning flag provided for each connection of the rule section 12 is turned on, and a learning flag provided for each connection of the antecedent membership function realization section 10 and the consequent membership function realization section 14 is turned on. The learning flag that has been set is turned off, and only the weight values of the connections that have the learning flag that is on are optimized through learning processing.
[作用コ
このような構成を備えた本発明のルール部プリワイヤニ
ューロの学習方法によれば次の作用が得られる。[Operations] According to the learning method of the rule section pre-wired neuron of the present invention having such a configuration, the following effects can be obtained.
まず、ルール部プリワイヤニューロの前件部メンバシッ
プ関数実現部に対し予め持っている知識に基づいた重み
値の初期設定又は乱数を用いた重み値の初期設定あるい
は両者を併用した設定を行ない、ルール部及び後件部メ
ンバシップ関数実現部に対しては予め持っている知識に
基づいた重み値の初期設定を行なう。First, the antecedent membership function realization unit of the rule unit prewire neuro is initialized with weight values based on prior knowledge, weight values using random numbers, or a combination of both. For the rule part and the consequent part membership function realization part, initial setting of weight values is performed based on knowledge held in advance.
続いて、学習処理を起動し、学習用の入カバターンをル
ール部プリワイヤニューロに提示し、ルール部プリワイ
ヤニューロからの出カバターンがが、入カバターンに対
し望ましい出カバターンとなる学習比カバターン(教師
信号)に略一致するように初期設定した重み値を修正す
る例えばパックプロパゲーション法による重みの学習を
前件部メンバシップ関数実現部に対してのみ行う。Next, the learning process is started, the input cover turn for learning is presented to the rule unit pre-wire neuron, and the output cover turn from the rule unit pre-wire neuron is a learning ratio cover turn (the teacher For example, learning of weights by a pack propagation method is performed only for the antecedent membership function realization unit, in which the initially set weight values are corrected so as to substantially match the signal).
前件部メンバシップ関数実現部の重み学習が済んだなら
ば、次にルール部に対し同じくバックプロパゲーション
法による重み学習を行なう。After the weight learning of the antecedent membership function realizing section is completed, next weight learning is performed on the rule section using the same backpropagation method.
このようにルール部プリワイヤニューロの内の前件部メ
ンバシップ関数実現部の重みを学習させた後でルール部
の重みを学習させることで、予め持っている知識を導入
して初期設定を行ったルール部及び後件部メンバシップ
関数実現部の重みを有効に活かしながら、前件部メンバ
シラj関数実現部の重み調整を行い、且つルール部の重
み調整が可能となる。In this way, by learning the weights of the antecedent membership function realization part of the rule part prewire neuron and then learning the weights of the rule part, pre-existing knowledge can be introduced and initial settings can be made. While effectively utilizing the weights of the rule part and the membership function realization part of the consequent part, it is possible to adjust the weight of the antecedent part membership function realization part, and also to adjust the weight of the rule part.
また予め持っている知識を導入した前件部メンバシップ
関数実現部の重みの初期設定により、学習が容易にでき
学習効率を高めることができる。In addition, the initial setting of the weights of the antecedent membership function realization unit into which pre-existing knowledge is introduced facilitates learning and improves learning efficiency.
更に、乱数を利用した前件部メンバシップ関数実現部の
重みの初期設定により、ニューロによる学習機能を最大
限に引き出すことができる。Furthermore, by initializing the weights of the antecedent membership function realization unit using random numbers, it is possible to maximize the neuro-based learning function.
[実施例]
第2図は本発明によるルール部プリワイヤニューロの学
習方法の第1実施例としての処理手順を示した学習動作
フロー図である。[Embodiment] FIG. 2 is a learning operation flowchart showing a processing procedure as a first embodiment of the learning method for the rule section pre-wire neuro according to the present invention.
この第2図の手順による学習方法の対象となるルール部
プリワイヤニューロは、例えば第3図に示す前件部メン
バシップ関数実現部10、ルール部12、及び後件部メ
ンバシップ関数実現部14(重心計算実現部18を含む
)で成るファジィ制御ルールを実現するための階層ネッ
トワーク構造を有する。The rule section pre-wired neurons that are the targets of the learning method according to the procedure of FIG. 2 are, for example, the antecedent membership function realization section 10, the rule section 12, and the consequent membership function realization section 14 shown in FIG. (including the centroid calculation implementation unit 18) has a hierarchical network structure for realizing fuzzy control rules.
ここでルール部プリワイヤニューロとは、ルール部12
か前段の前件メンバシップ関数実現部10及び又は後段
の後件部メンバシップ関数実現部14との間で全ユニッ
ト間を内部結合せずに制御ルールに従って・一部を内部
結合したネットワーク構造をもち、階層ユニット間の全
てを内部結合したルール部全結合ニューロに対比される
。Here, the rule section pre-wire neuro means the rule section 12.
A network structure is created between the antecedent membership function realization unit 10 in the previous stage and/or the consequent membership function realization unit 14 in the subsequent stage, in which all units are not internally connected, but some are internally connected according to control rules. This is compared to a rule-based fully connected neuron that internally connects everything between hierarchical units.
第2図の学習処理にあっては、次のステップ81〜S6
から成る処理を行なう。In the learning process of FIG. 2, the following steps 81 to S6
Performs processing consisting of.
[ステップS1コ 前件部メンバシップ関数実現部10の重みCab。[Step S1 Weight Cab of the antecedent membership function realization unit 10.
Cbcを、与えられたメンバシップ関数を実現するよう
に予め持っている知識の導入に基づいて初期設定する。Cbc is initialized based on the introduction of prior knowledge to realize a given membership function.
[ステップS2コ
ルール部12の重みCcd、 Cdeを、与えられた
ファジィルールを実現するように予め持っている知識の
導入に基づいて初期設定する。[Step S2: Initialize the weights Ccd and Cde of the co-rule unit 12 based on the introduction of pre-existing knowledge so as to realize the given fuzzy rule.
[ステップS3]
後件部メンバシップ関数実現部14の重みCejを、与
えられたメンバシップ関数を実現するように予め持って
いる知識の導入に基づいて初期設定する。[Step S3] The weight Cej of the consequent membership function realization unit 14 is initialized based on the introduction of knowledge held in advance so as to realize the given membership function.
[ステップS4]
重心計算実現部18の重みCfgを、重心計算を実現す
るように初期設定する。[Step S4] The weight Cfg of the center of gravity calculation implementation unit 18 is initialized to realize center of gravity calculation.
[ステップS5]
学習処理を行なうフェーズ毎のニューロングループを示
すフェーズ・グループ対応表及び各ニューロングループ
に属する結線グループを示すグループ・結線対応表の設
定を行なう。本発明にあってはフェーズ1で前件部メン
バシップ関数実現部10の重み学習を行ない、フェーズ
2でルール部12の重み学習を行なうことから、フェー
ズ1゜2の学習対象部分に属するニューロングループに
ついてフェーズ・グループ対応表を作成する。[Step S5] A phase/group correspondence table indicating neuron groups for each phase in which learning processing is performed and a group/connection correspondence table indicating connection groups belonging to each neuron group are set. In the present invention, the weight learning of the antecedent membership function realizing unit 10 is performed in phase 1, and the weight learning of the rule unit 12 is performed in phase 2, so that the neuron groups belonging to the learning target part of phase 1.2 Create a phase/group correspondence table for
[ステップS6]
学習スケジューラを起動してパックプロパゲージョン法
により学習処理を行なう。この学習処理は、フェーズ1
で前件部メンバシップ関数実現部10のみの重み学習を
行ない、フェーズ2でルール部12のみの重み学習を行
なう。[Step S6] Start the learning scheduler and perform learning processing using the pack propagation method. This learning process is phase 1
In phase 2, weight learning is performed only for the antecedent membership function realization unit 10, and in phase 2, weight learning is performed only for the rule unit 12.
以下、第2図の学習動作フローに示したステップ81〜
S6のそれぞれに分けて詳細に説明する。Hereinafter, steps 81 to 81 shown in the learning operation flow of FIG.
Each of S6 will be explained in detail.
[ルール部プリワイヤニューロの構成j本発明の対象と
なるルール部プリワイヤニューロは、例えば第3図に示
すファジィ制御ルールを実現可能な階層ネットワーク構
造を有する。[Configuration of Rule Section Prewire Neuroj The rule section prewire neuron to which the present invention is applied has a hierarchical network structure capable of realizing the fuzzy control rules shown in FIG. 3, for example.
第3図において、各部に示したノードは1つの基本ユニ
ットを示しており、基本ユニットは黒丸で示すシグモイ
ド関数ユニットと、白丸で示す線形関数ユニットの2種
が使用されている。In FIG. 3, each node shown in each part represents one basic unit, and two types of basic units are used: a sigmoid function unit shown by a black circle, and a linear function unit shown by a white circle.
第4図は第3図の基本ユニットの構成を取り出して示す
。FIG. 4 shows the configuration of the basic unit shown in FIG. 3.
第4図において、基本ユニット20は多大力1出力系を
構成しており、複数の入力に対し各々の内部結合の重み
値を乗算する乗算部22と、乗算部22の全乗算結果を
加算する加算部24と、加算部24の出力に閾値処理を
施す閾値処理部26とで構成される。In FIG. 4, the basic unit 20 constitutes a multi-power single output system, and includes a multiplication section 22 that multiplies a plurality of inputs by the weight value of each internal connection, and a multiplication section 22 that adds all the multiplication results of the multiplication section 22. It is composed of an adding section 24 and a threshold processing section 26 that performs threshold processing on the output of the adding section 24.
ここで前段層をh層、後段層をi層とすると乗算部22
と加算部24は下記の(1)式の演算を実行し、また閾
値処理部26では下記の(2)式の演算を実行する。Here, if the first layer is the h layer and the second layer is the i layer, the multiplier 22
The addition unit 24 executes the calculation of equation (1) below, and the threshold processing unit 26 executes the calculation of equation (2) below.
X p l=ΣyphW+h
(1)に
yp、= 1/ (1+ e−Lx”−” )
(2)但し、
h :h層のユニット番号
i :i層のユニット番号
p :入力信号のパターン番号
θl :i層の1番ユニットの閾値
W+h:h i層間の内部結合の重み値x、、:h層の
各ユニットからi層の1番ユニットへの入力の積和
yph=p番目パターンの入力信号に対するh層の6番
ユニットからの出力
ypl:p番目パターンの入力信号に対するi層の1番
ユニットからの出力
ここで前記(2)式はシグモイド関数として知られてお
り、第3図に示した黒丸の基本ユニットの閾値処理とな
る。X p l=ΣyphW+h
(1) yp, = 1/ (1+ e-Lx"-")
(2) However, h: unit number of the h layer i: unit number of the i layer p: pattern number of the input signal θl: threshold W of the first unit of the i layer + h: h: weight value x of the internal connection between the i layers, : Sum of products yph of inputs from each unit of the h layer to the 1st unit of the i layer = Output ypl from the 6th unit of the h layer for the input signal of the pth pattern: 1 of the i layer for the input signal of the pth pattern Output from the number unit Here, the above equation (2) is known as a sigmoid function, and is the threshold value processing of the basic unit indicated by the black circle shown in FIG.
これに対し閾値処理部26に
yい、=Xp
となる線形関数を設定したものが第3図における白丸の
線形関数ユニットとなる。但し、前件部メンバシップ関
数実現部10の最初のユニットである入力部は必ずしも
線形関数ユニットでなくて良い。この第4図の基本ユニ
ットのハードウェア構成は特願昭63−216865号
の「ネットワーク構成データ処理装置」に示される。On the other hand, a linear function unit in which y=Xp is set in the threshold value processing section 26 becomes a linear function unit indicated by a white circle in FIG. However, the input section, which is the first unit of the antecedent membership function realization section 10, does not necessarily have to be a linear function unit. The hardware configuration of the basic unit shown in FIG. 4 is shown in Japanese Patent Application No. 63-216865 titled ``Network Configuration Data Processing Apparatus.''
まず前件部メンバシップ関数実現部10は、各入力変数
Xl+X2+ ・・・Xnを入力とし、入力変数Xn
〜Xnのメンバシップ関数のグレード値を出力する。図
では簡単のため各メンバシップ関数は1変数関数として
いるが、多変数関数であってもよい。つまり変数Xnと
X2を入力としてXI &X2 (SA)というメン
バシップ関数であっても良い。First, the antecedent membership function realization unit 10 takes each input variable Xl+X2+...Xn as input, and inputs the input variable Xn
Output the grade value of the membership function of ~Xn. In the figure, each membership function is a one-variable function for simplicity, but it may be a multi-variable function. In other words, it may be a membership function XI &X2 (SA) with variables Xn and X2 as inputs.
ルール部12は前件部ルール部12−1と後件部ルール
部12−2で構成される。前件部ルール部12−1は、
入力変数X1〜Xnのメンバシップ関数X + (S
A ) 〜X n (L A )のグレード値を入力
として、各ルールのグレード値を出力する。The rule section 12 includes an antecedent section rule section 12-1 and a consequent section rule section 12-2. The antecedent part rule part 12-1 is
Membership function X + (S
The grade values of A) to Xn(LA) are input, and the grade values of each rule are output.
また後件部ルール部12−2は、ルールのグレード値L
H3−1〜LH8−nを入力として出力変数のメンバシ
ップ関数y(SA)〜y (LA)のグレード値を出力
する。Further, the consequent part rule part 12-2 contains the grade value L of the rule.
It inputs H3-1 to LH8-n and outputs grade values of membership functions y(SA) to y(LA) of output variables.
更に後件部メンバシップ関数実現部14(重心計算実現
部16を含む)は、出力変数のメンバシップ関数y (
SA)〜y (LA)のグレード値を入力して、出力変
数Yの値を出力する。Further, the consequent membership function realization unit 14 (including the centroid calculation realization unit 16) calculates the membership function y (
Input the grade values of SA) to y (LA) and output the value of the output variable Y.
ここで、前件部ルール部12−1と後件部ルール部12
−2を合わせたルール部12は、入力も出力もメンバシ
ップ関数のグレード値であるので、これをカスケード結
合することができ、多段推論が可能である。Here, the antecedent part rule part 12-1 and the consequent part rule part 12
Since both the input and output of the rule unit 12 including -2 are the grade values of the membership function, these can be cascaded and multi-stage inference is possible.
また、各モジュール10.12−1.12−2゜14間
を結ぶニューロンは共用できる。例えば前件部メンバシ
ップ関数実現部10の出力ニューロンと前件部ルール部
12−1の入力ニューロンは実際には同じものでよい。Further, the neurons connecting each module 10.12-1.12-2.14 can be shared. For example, the output neuron of the antecedent membership function implementation unit 10 and the input neuron of the antecedent rule unit 12-1 may actually be the same.
更に第3図では各ユニットを1つのニューロとして説明
しているが、ユニットの機能が特定できているものにつ
いてはニューロとせずにユニット機能を実現するゲート
回路、演算器等としても良い。Further, in FIG. 3, each unit is described as one neuron, but if the function of the unit can be specified, it may be used as a gate circuit, an arithmetic unit, etc. that realizes the unit function instead of a neuron.
第5A図は本発明のルール部プリワイヤニューロの具体
的実施例を示したもので、入力Xn、X2の2つを与え
て制御出力Yを得る場合を例にとっており、この第5A
図を参照して各部の構成を詳細に説明すると次のように
なる。FIG. 5A shows a specific embodiment of the rule section pre-wired neuron of the present invention, taking as an example a case where two inputs, Xn and X2, are given to obtain a control output Y.
The configuration of each part will be explained in detail with reference to the drawings as follows.
入力部16は分離ユニット28−1.28−2で構成さ
れ、入力Xn、X2を2つに分けて前件部メンバシップ
関数実現部10に与える。前件部メンバシップ関数実現
部10は4つのシグモイド関数ユニット30−1〜30
−4及び同じく4つの線形関数ユニット32−1〜32
−3で構成される。The input section 16 is composed of separation units 28-1 and 28-2, which divides the inputs Xn and X2 into two and supplies them to the antecedent membership function realization section 10. The antecedent membership function realization unit 10 includes four sigmoid function units 30-1 to 30.
-4 and the same four linear function units 32-1 to 32
-3.
ルール部12は例えば8つのファジィルールを実現する
シグモイド関数ユニット34−1〜34−8を備え、前
件部メンバシップ関数実現部10からは各ファジィルー
ルし1〜L8の記述に従った結線が行なわれている。シ
グモイド関数ユニッ)34−1〜34−8の出力はファ
ジィルールに従って後件部演算を行なう2つの線形関数
ユニッ)36−1.36−2にファジィルールに従って
結線されている。The rule section 12 includes, for example, sigmoid function units 34-1 to 34-8 that realize eight fuzzy rules, and the antecedent membership function realization section 10 connects each fuzzy rule according to the descriptions 1 to L8. It is being done. The outputs of the sigmoid function units) 34-1 to 34-8 are connected according to the fuzzy rules to two linear function units) 36-1 and 36-2 which perform consequent operations according to the fuzzy rules.
後件部メンバシップ関数実現部14は例えば9つの線形
関数ユニッ)38−1〜38−9で構成されており、ル
ール部12から出力される2つのユニット出力値(グレ
ード値)に基づいてメンバシップ関数を縮小(または拡
大)すると共に縮小(または拡大)した2つのメンバシ
ップ関数の関数和を各同一操作量位置毎に算出する。The consequent membership function realization section 14 is composed of, for example, nine linear function units) 38-1 to 38-9, and determines the membership function based on the two unit output values (grade values) output from the rule section 12. The ship function is reduced (or enlarged) and the function sum of the two reduced (or enlarged) membership functions is calculated for each identical manipulated variable position.
更に重心計算実現部18は重心決定要素出力装置40と
重心算出装置42で構成される。重心決定要素出力装置
40の線形関数ユニッ)40−1゜40−2は、後件部
メンバシップ関数実現部14からのユニット出力の重付
は総和を演算して2つの重心算出要素Y、、Y2を求め
、最終的に重心算出装置42で2つの重心算出要素Y+
、Y2から重心を算出してファジィ推論値としての制
御出力Yを生ずる。Furthermore, the center of gravity calculation implementation unit 18 is composed of a center of gravity determining element output device 40 and a center of gravity calculation device 42. The linear function units 40-1 and 40-2 of the center-of-gravity determining element output device 40 calculate the weighting of the unit output from the consequent membership function realization unit 14 by calculating the sum and calculating the two center-of-gravity calculation elements Y,... Y2 is calculated, and finally the center of gravity calculation device 42 calculates the two center of gravity calculation elements Y+
, Y2, and generates a control output Y as a fuzzy inference value.
第5B図は第5A図のルール部プリワイヤニューロにつ
いて本発明による学習方法を実現するために使用される
ニューロングループと結線グループを示す。FIG. 5B shows neuron groups and connection groups used to implement the learning method according to the present invention for the rule section pre-wired neuron of FIG. 5A.
第5B図において、ニューロングループはGa−Ggの
7つであるが、この内、入力部のニューロングループG
aと重心計算実現部18のニューロングループGgの2
つについては単なる分離及び加算合成を行なうにすぎな
いことから、パックプロパゲーション法による重みの学
習対象からは除いている。従ってパックプロパゲーショ
ン法による重みの学習対象に入るニューロングループは
Gb、Gc、Gd、Ge及びGfの5つとなる。In FIG. 5B, there are seven neuron groups, Ga-Gg, among which neuron group G in the input section
a and 2 of neuron group Gg of center of gravity calculation realization unit 18
As for the first one, it is excluded from the weight learning target by the pack propagation method because it merely performs separation and addition/synthesis. Therefore, there are five neuron groups that are subject to weight learning by the pack propagation method: Gb, Gc, Gd, Ge, and Gf.
一方、各二ニーロングループの入力結線を示す結線グル
ープはCab−ClHの6つであり、学習対象となるニ
ューロングループの前段に位置する入力結線の重み値を
パックプロパゲーション法により学習する。On the other hand, there are six connection groups, Cab-ClH, representing the input connections of each two-neelon group, and the weight values of the input connections located in the previous stage of the neuron group to be learned are learned by the pack propagation method.
この第5A、5B図に示した構造のルール部プリワイヤ
ニューロを対象とした第2図の学習動作フローにつき、
まず各部に対する重み値の初期設定を説明すると次のよ
うになる。Regarding the learning operation flow shown in Fig. 2, which targets the rule section pre-wired neuron having the structure shown in Figs. 5A and 5B,
First, the initial setting of weight values for each part will be explained as follows.
[前件部メンバシップ関数実現部の初期設定]この前件
部メンバシップ関数実現部10に対する重み値の初期設
定は結線グループCab及びCbcに含まれる各結線の
重みを、与えられたメンバシップ関数を実現するように
初期設定する。[Initial setting of the antecedent membership function realizing unit] The initial setting of the weight value for the antecedent membership function realizing unit 10 is to set the weight of each connection included in the connection groups Cab and Cbc to the given membership function. Initial settings are made to achieve this.
第6図は第5A図の前件部メンバシップ関数実現部10
における制御人力X1側を取り出して示す。 第6図に
おいて、シグモイド関数ユニット30−1.30−2よ
り出力される出力値yはy=1/ (1+e−”x−”
) (3)で表わされる。FIG. 6 shows the antecedent membership function realization unit 10 of FIG. 5A.
The control human power X1 side is extracted and shown. In FIG. 6, the output value y output from the sigmoid function unit 30-1.30-2 is y=1/(1+e-"x-"
) (3).
本発明の前件部メンバシップ関数実現部10に対する重
み値の初期設定にあっては、予め持っている知識に基づ
き、例えばシグモイド関数ユニット30−1の入力結線
の重み値Wとして、W=−20
を設定し、且つシグモイド関数ユニット30−1に閾値
θとして、
θ=−10
を設定する。In the initial setting of the weight value for the antecedent membership function realizing unit 10 of the present invention, based on the knowledge that is held in advance, for example, as the weight value W of the input connection of the sigmoid function unit 30-1, W=- 20 is set, and θ=-10 is set as the threshold value θ in the sigmoid function unit 30-1.
またもう1つのシグモイド関数ユニット3〇−2の入力
結線の重み値Wとして、
W=20
を設定し、同時にシグモイド関数ユニット302に閾値
θとして、
θ=10
を設定する。尚、線形関数ユニット32−1..32−
2の入力結線の重み値は重み初期値=1を設定している
。Further, the weight value W of the input connection of the other sigmoid function unit 30-2 is set to W=20, and at the same time, the threshold value θ of the sigmoid function unit 302 is set to θ=10. Note that the linear function unit 32-1. .. 32-
The weight value of the input connection No. 2 is set to the initial weight value=1.
このようにシグモイド関数ユニット30−1.に、W〈
0 θ〈0
となる重み値及び閾値を初期設定した場合には、第7図
の特性曲線44に示す制御出力Xnに対するユニット出
力値Xn(SS)、即ち制御人力Xが大きくなるとユニ
ット出力値Xn(SS)が小さくなるという関数形状の
メンバシップ関数の真理値算出機能を設定することがで
きる。In this way, the sigmoid function unit 30-1. In, W〈
When the weight value and threshold value are initially set such that 0 θ<0, the unit output value Xn (SS) for the control output Xn shown in the characteristic curve 44 in FIG. It is possible to set a truth value calculation function for a membership function having a function shape such that (SS) becomes small.
またシグモイド関数ユニット30−2に、W〉0
θ〉0
となる重み値及び閾値を初期設定することで第7図の特
性曲線46に示す制御人力X1に対するユニット出力値
X1 (LA)、即ち制御人力Xが大きい程ユニット出
力値Xn(LA)が大きくなるという関数形状のメンバ
シップ関数の真理値を算出する機能が実現できる。Also, in the sigmoid function unit 30-2, W>0
By initially setting the weight value and threshold value such that θ〉0, the unit output value X1 (LA) for the control human power X1 shown in the characteristic curve 46 in FIG. It is possible to realize a function that calculates the truth value of a membership function whose function shape is such that .
この第6図に示すシグモイド関数ユニット30−1.3
0−2に対する重み値及び閾値の初期設定は、前件部メ
ンバシップ関数実現部10における残りのシグモイド関
数ユニット30−3.30=4側についても所望の前件
部メンバシップ関数を実現するように予め持っている知
識に基づいて初期設定する。Sigmoid function unit 30-1.3 shown in FIG.
The initial setting of the weight value and threshold for 0-2 is such that the desired antecedent membership function is also realized for the remaining sigmoid function unit 30-3.30=4 side in the antecedent membership function realization unit 10. Initial settings are made based on prior knowledge.
[ルール部の初期設定]
第5A図のルール部1−2に対する重み値の初期設定は
、第5B図に示す結線グループCcd及びCdeに属す
る各結線の重み値を、与えられたファジィルールを実現
するように予め持っている知識を導入して初期設定する
。[Initial Setting of Rule Section] The initial setting of the weight value for the rule section 1-2 in FIG. 5A is to set the weight value of each connection belonging to the connection groups Ccd and Cde shown in FIG. 5B to realize the given fuzzy rule. Introduce the knowledge you already have and make the initial settings.
第8図はルール部12に対する重み値の初期設定の具体
例をファジィルールと共に示した説明図である。FIG. 8 is an explanatory diagram showing a specific example of initial setting of weight values for the rule section 12 together with fuzzy rules.
第8図において、8つのシグモイド関数ユニット34−
1〜34−8は、右側に取り出して示すファジィルール
し1〜L8のそれぞれに対応している。シグモイド関数
ユニット34−1〜34−8のそれぞれに対しては前段
に位置する前件部メンバシップ関数実現部10の線形関
数ユニット32−1〜32−4からファジィルールし1
〜L8に従った入力結線が行なわれている。また8つの
シグモイド関数ユニット34−1〜34−8に続いて設
けられた2つの線形関数ユニット36−1゜36−2に
対してもファジィルールし1〜L8の後件部(T HE
N)に従った結線が行なわれている。In FIG. 8, eight sigmoid function units 34-
1 to 34-8 correspond to fuzzy rules 1 to L8 shown on the right side, respectively. For each of the sigmoid function units 34-1 to 34-8, fuzzy rules are calculated from the linear function units 32-1 to 32-4 of the antecedent membership function realization section 10 located at the previous stage.
Input connections are made in accordance with ~L8. Furthermore, fuzzy rules are applied to the two linear function units 36-1 and 36-2 provided following the eight sigmoid function units 34-1 to 34-8, and the consequent parts of 1 to L8 (T HE
Connections are made in accordance with N).
ここで第8図のルール部J−2におけるシグモイド関数
ユニッl−34−1〜34−8の入力結線に初期設定す
る重み値とユニット自体に設定する閾値に基づくファジ
ィ論理演算の関数形状を説明すると次のようになる。Here, we will explain the function shape of the fuzzy logic operation based on the weight values initially set for the input connections of the sigmoid function units l-34-1 to 34-8 in the rule part J-2 of FIG. 8 and the threshold values set for the units themselves. Then it becomes as follows.
第9図はルール部12の1つのシグモイド関数ユニット
34を示したもので、前段に位置する前件部メンバシッ
プ関数実現部10より真理値X+。FIG. 9 shows one sigmoid function unit 34 of the rule section 12, in which the truth value X+ is obtained from the antecedent membership function realization section 10 located at the previous stage.
X2が入力し、積和演算及び閾値処理により出力値yを
生ずる。X2 is input, and output value y is generated by product-sum calculation and threshold processing.
第9図のシグモイド関数ユニット34より出力される出
力値yは、
S =Wx+ ’ X + +WXl ’ X 2−θ
(4)y=1/ (1+e’−s)
(5)として算出される。この前記(5)式で
与えられるユニット出力値yは、入力結線の重み値W、
、。The output value y output from the sigmoid function unit 34 in FIG. 9 is: S = Wx+ 'X + +WXl' X 2-θ
(4) y=1/ (1+e'-s)
It is calculated as (5). The unit output value y given by the above equation (5) is the weight value W of the input connection,
,.
WX2及び閾値θを任意に設定することで適宜の関数形
状を実現することができる。By arbitrarily setting WX2 and threshold value θ, an appropriate function shape can be realized.
具体的には第8図のシグモイド関数ユニット34−1〜
34−8の入力結線に示す数値が重み初期値として設定
され、またシグモイド関数ユニット34−1〜34−8
の下側に示す数値が閾値θを示す。Specifically, the sigmoid function units 34-1 to 34-1 in FIG.
The numerical value shown in the input connection of 34-8 is set as the initial weight value, and the sigmoid function units 34-1 to 34-8
The numerical value shown below indicates the threshold value θ.
例えばファジィルールL1を実現するシグモイド関数ユ
ニット34−1にあっては、w、、=12、Wx2=1
2、θ=6が設定されており、これら初期値の設定によ
りファジィルールL1を実現するシグモイド関数ユニッ
ト34−1は第10図の三次元座標で示される関数形状
の閾値処理を行なうことになる。For example, in the sigmoid function unit 34-1 that realizes the fuzzy rule L1, w, , = 12, Wx2 = 1
2, θ=6 is set, and by setting these initial values, the sigmoid function unit 34-1 that realizes the fuzzy rule L1 performs threshold processing of the function shape shown by the three-dimensional coordinates in FIG. .
以下、同様にシグモイド関数ユニット34−2〜34−
8の各ファジィルールし2〜L8に対する重み値及び閾
値の初期設定により第11〜17図に示す関数形状を得
ることができる。Hereinafter, similarly, sigmoid function units 34-2 to 34-
By initializing the weight values and threshold values for each of the 8 fuzzy rules 2 to L8, the function shapes shown in FIGS. 11 to 17 can be obtained.
尚、第8図の出力段に設けられた線形関数ユニット36
−1.36−2に対する結線の重み値は1に初期設定さ
れており、また閾値処理については線形関数であり、θ
=0が設定される。Note that the linear function unit 36 provided at the output stage in FIG.
The weight value of the connection for -1.36-2 is initially set to 1, and the threshold processing is a linear function, and θ
=0 is set.
[後件部メンバシップ関数実現部の初期設定]第5A図
の後件部メンバシップ関数実現部14に対する重み値の
初期設定は、第5B図の結線グループCelに属する結
線の重み値を予め持っている知識に基づき、与えられた
メンバシップ関数を実現するように初期設定する。[Initial settings of the consequent membership function realizing unit] The initial setting of the weight values for the consequent membership function realizing unit 14 in FIG. 5A is as follows: The weight values of the connections belonging to the connection group Cel in FIG. 5B are preset. Initial settings are made to realize the given membership function based on the knowledge of the given membership function.
第18図は後件部メンバシップ関数実現部14に対する
重み値の初期設定を具体的に示した説明図である。FIG. 18 is an explanatory diagram specifically showing the initial setting of weight values for the consequent membership function realization unit 14.
第18図において、後件部メンバシップ関数実現部14
に設けられた9つの線形関数ユニット38−1〜38−
9に対しては、前段のルール部12の線形関数ユニット
36−1.36−2より図示のように結線入力が行なわ
れている。この9つのユニットは、38−1〜38−9
の順番に練直線上の0〜1の範囲の点に等間隔に対応し
ている。In FIG. 18, the consequent membership function realization unit 14
Nine linear function units 38-1 to 38- provided in
9, a connection input is performed from the linear function unit 36-1, 36-2 of the rule section 12 at the previous stage as shown in the figure. These nine units are 38-1 to 38-9
correspond to points in the range of 0 to 1 on the training line at equal intervals.
線形関数ユニット38−1〜38−9に対する入力結線
の重み値の初期設定は、ルール部12のユニット36−
1からの出力y(SS)の結線の重み値については、右
側に示す横軸を制御比カY1縦軸をユニット出力値とし
たグラフの特性曲線46に従ってユニット38−1側か
らユニット389側に重み値、
1、 1. 1.0.75.0.5 、0.25. 0
. 0. 0を初期設定する。The initial setting of the weight values of the input connections for the linear function units 38-1 to 38-9 is performed by the unit 36- of the rule section 12.
Regarding the weight value of the connection of the output y (SS) from 1, the horizontal axis is the control ratio Y1 and the vertical axis is the unit output value. Weight value, 1, 1. 1.0.75.0.5, 0.25. 0
.. 0. Initialize 0.
またルール部12のユニット出力y (LA)からの入
力結線の重み値については、特性曲線48に従ってユニ
ット38−1側からユニット38−9側に向けて重み値
、
0、 0. 0.0.25.0.5 、0.75. 1
. 1. 1を初期設定する。Further, regarding the weight values of the input connections from the unit output y (LA) of the rule section 12, the weight values are changed from 0 to 0 from the unit 38-1 side to the unit 38-9 side according to the characteristic curve 48. 0.0.25.0.5, 0.75. 1
.. 1. Initialize 1.
更に線形関数ユニット38−1〜38−9の閾値θはθ
=0を設定する。Furthermore, the threshold value θ of the linear function units 38-1 to 38-9 is θ
=0.
このような後件部メンバシップ関数実現部14における
重み値の初期設定により、ルール部12の線形関数ユニ
ット36−1.36−2から出方されたユニット出力値
y(SS)及びy (LA)は、重み初期値の乗算によ
り縮小された後に加算され、次の重心計算実現部18に
出力される。Due to the initial setting of the weight values in the consequent membership function realization section 14, the unit output values y(SS) and y(LA ) is reduced by multiplication by the initial weight value, added, and output to the next center of gravity calculation implementation unit 18.
尚、第18図にあっては、ユニット出力を縮小するよう
に1以下の重み値を初期設定しているが、1以上の重み
値を設定して拡大することも有り得る。In FIG. 18, a weight value of 1 or less is initially set so as to reduce the unit output, but it is also possible to set a weight value of 1 or more to enlarge it.
[重心計算実現部の初期設定コ
第5A図の重心計算実現部18に対する重み値の初期設
定は、第5B図の結線グループClHに対し重心計算を
実現するように初期設定する。[Initial Setting of Center of Gravity Calculation Implementation Section] The initial settings of weight values for the center of gravity calculation implementation section 18 shown in FIG. 5A are initialized so as to realize center of gravity calculation for the connection group ClH of FIG. 5B.
第19図は重心計算実現部18の重心決定要素出力装置
40に対して行なわれる重心計算を実現するための重み
値の初期設定の具体例を示す。FIG. 19 shows a specific example of initial setting of weight values for realizing the center of gravity calculation performed on the center of gravity determining element output device 40 of the center of gravity calculation implementation unit 18.
重心決定要素出力装置4oに設けられた2つの線形関数
ユニット40−1.40−2に対しては、前段の後件部
メンバシップ関数実現部14に設けられた9つの線形関
数ユニット38−1〜38−9のそれぞれが結線される
。そして、この入力結線に対し図示のように重心計算に
使用する2つの重心導出値Y、、Y2を算出するための
重み値が設定される。For the two linear function units 40-1 and 40-2 provided in the center-of-gravity determining element output device 4o, the nine linear function units 38-1 provided in the consequent membership function realization unit 14 of the preceding stage are ~38-9 are connected. Then, as shown in the figure, weight values for calculating two gravity center derived values Y, , Y2 used in the gravity center calculation are set for this input connection.
ファジィ制御にあっては一般的に次式に従って同一制御
出力位置についての縮小されたメンバシップ関数の関数
和で成る図形の重心を求めることでファジィ推論値であ
る制御出力Yを算出する方法を採用する。In fuzzy control, a method is generally adopted in which the control output Y, which is a fuzzy inference value, is calculated by finding the center of gravity of a figure consisting of the sum of functions of reduced membership functions for the same control output position according to the following formula: do.
Y= f grade(y)tdr / f grad
e(Y)dy (6)この(6)式を実現するた
め、後件部メンバシップ関数実現部14の線形関数ユニ
ット38−1〜38−9から線形関数ユニット40−1
に対する結線の重み値として、制御出力Yの最小値Y−
〇を起点に最大値Y=1まで等間隔をもって0から増加
する重み値を割り付ける。一方、線形関数ユニット40
−2の入力結線に対しては、制御出力Yの最大値Y=1
を起点に最小値Y=0までの間に0から上記と同じ等間
隔をもって、例えば0から−1に減少する重み値を割り
付ける。Y= f grade (y) tdr / f grade
e(Y)dy (6) In order to realize this equation (6), the linear function unit 40-1 is converted from the linear function units 38-1 to 38-9 of the consequent membership function realization unit 14.
The minimum value Y- of the control output Y is used as the weight value of the connection for
Assign weight values that increase from 0 at equal intervals up to the maximum value Y=1 starting from ○. On the other hand, the linear function unit 40
-2 input connection, maximum value of control output Y = 1
From 0 to the minimum value Y=0, weight values that decrease from 0 to -1, for example, are assigned at the same equal intervals as above.
このような線形関数ユニット40−1,402に対する
入力結線の重み付けにより、前段の線形関数ユニット3
8−1〜38−9のユニット出力値を01〜C9とする
と、線形関数ユニット40−1は、
Y1=IC+ +0.875 C2+0.75C3+0
.625 C4+0.5 C6+0.375 C6+(
1,25c7+LI25c8+OC9(7)を出力し、
また線形関数ユニット40−2は、Y1=OCI −0
,125C2−0,25C30,375C40,5C6
0,625C6−0,75C,−0,875C8+IC
9(8)を出力する。By weighting the input connections to the linear function units 40-1 and 402, the linear function unit 3 in the previous stage
When the unit output values of 8-1 to 38-9 are 01 to C9, the linear function unit 40-1 is as follows: Y1=IC+ +0.875 C2+0.75C3+0
.. 625 C4+0.5 C6+0.375 C6+(
Output 1,25c7+LI25c8+OC9(7),
Moreover, the linear function unit 40-2 has Y1=OCI −0
, 125C2-0, 25C30, 375C40, 5C6
0,625C6-0,75C,-0,875C8+IC
Outputs 9(8).
線形関数ユニット40−1.40−2から出力される重
心導出値y、、y2は重心算出装置42に与えられ、
Y=Y2 / (Y2−Yl > (9)
を使用して重心、即ちファジィ推論値である制御出力Y
が算出される。The centroid derived values y, y2 output from the linear function unit 40-1, 40-2 are given to the centroid calculation device 42, and Y=Y2/(Y2-Yl>(9)
using the control output Y, which is the center of gravity, that is, the fuzzy inference value
is calculated.
前記(9)式に前記(7)式及び(8)式を代入すると
、前記(9)式のYは前記(6)式のYと一致すること
がわかる。By substituting the above equations (7) and (8) into the above equation (9), it can be seen that Y in the above equation (9) matches Y in the above equation (6).
以上の処理で第2図のステップ81〜S4に示したルー
ル部プリワイヤニューロに対する重み値の初期設定が終
了し、ステップS5に進む。With the above processing, the initial setting of the weight value for the rule section prewire neuron shown in steps 81 to S4 in FIG. 2 is completed, and the process proceeds to step S5.
[学習スケジュールの設定コ
第2図のステップS5にあっては、重み値の初期設定の
終了に続いてルール部プリワイヤニューロに学習処理を
行なわせるための学習計画、即ち学習スケジュールの設
定を行なう。この学習スケジュールの設定は、第20図
(a)に示すフェーズ・グループ対応表の設定と同図(
b)に示すグループ・結線対応表の設定の2つを行なう
。[Learning schedule setting] In step S5 of FIG. 2, following the completion of the initial setting of the weight values, a learning plan, that is, a learning schedule, is set for causing the rule section prewire neuro to perform learning processing. . The setting of this learning schedule is the same as the setting of the phase/group correspondence table shown in Fig. 20(a).
Perform the two settings of the group/connection correspondence table shown in b).
まずフェーズ・グループ対応表は学習フェーズの進行に
対し各フェーズで学習対象となるニューロングループを
指定する。本発明にあってはフェーズ1で前件部メンバ
シップ関数実現部10の重みのみを学習した後に、フェ
ーズ2でルール部12の重みのみの学習を行なうことか
ら、第20図(a)に示すようにフェーズ1に前件部メ
ンバシップ関数実現部10に属するニューロングループ
Gb、Gcを設定し、フェーズ2にルール部12に属す
るニューロングループGd、Geを設定する。一方、グ
ループ・結線対応表はルール部プリワイヤニューロにお
ける各二ニーロングループGa −G gと入力結線グ
ループCab、 CIHの対応関係を第20図(b)
に示すように設定する。First, the phase-group correspondence table specifies the neuron groups to be learned in each phase as the learning phase progresses. In the present invention, after learning only the weights of the antecedent membership function realization unit 10 in phase 1, only the weights of the rule unit 12 are learned in phase 2, as shown in FIG. 20(a). In this way, neuron groups Gb and Gc belonging to the antecedent membership function realizing section 10 are set in phase 1, and neuron groups Gd and Ge belonging to the rule section 12 are set in phase 2. On the other hand, the group/connection correspondence table shows the correspondence between each two-knee long group Ga-Gg in the rule section pre-wire neuron and the input connection groups Cab and CIH as shown in Figure 20(b).
Set as shown.
このようなフェーズ・グループ対応表及びグループ・結
線対応表の設定が終了すると、第2図のステップS6に
進んで学習スケジューラを起動し、実際にルール部プリ
ワイヤニューロに対し学習データを与えてパックプロパ
ゲーション法により重み値の学習を実行する。When the settings of the phase/group correspondence table and the group/connection correspondence table are completed, the process proceeds to step S6 in Fig. 2, where the learning scheduler is activated and the learning data is actually given to the rule section prewire neuron to pack it. Learning of weight values is performed using the propagation method.
[学習スケジューラの処理と構成コ
第21図は本発明のルール部プリワイヤニューロの学習
処理フロー図を示す。この処理フロー図は例えば第22
図に示す装置構成により実現することができる
まず、学習処理のための装置構成を説明すると、第22
図において、ルール部プリワイヤニューロ100に対し
ては学習指示ユニット50と学習ユニット70が設けら
れる。[Processing and Configuration of Learning Scheduler] FIG. 21 shows a flowchart of the learning process of the rule section pre-wired neuron of the present invention. This processing flow diagram is, for example, the 22nd
First, the device configuration for learning processing that can be realized by the device configuration shown in the figure will be explained.
In the figure, a learning instruction unit 50 and a learning unit 70 are provided for the rule section pre-wired neuron 100.
学習指示ユニット50は学習スケジューラ52を有し、
学習スケジューラ52に対しては制御入力とその制御入
力に対する望ましい制御出力との対でなる学習信号を格
納した学習信号格納部54、第20図に示したフェーズ
・グループ対応表を格納したフェーズ・グループ対応テ
ープ56、及びグループ・結線対応表を格納したグルー
プ・結線対応テーブル58、更に学習収束判定部60が
設けられる。The learning instruction unit 50 has a learning scheduler 52,
For the learning scheduler 52, there is a learning signal storage unit 54 that stores learning signals consisting of pairs of control inputs and desired control outputs for the control inputs, and a phase group storage unit 54 that stores the phase group correspondence table shown in FIG. A correspondence tape 56, a group/connection correspondence table 58 storing a group/connection correspondence table, and a learning convergence determination section 60 are provided.
一方、学習ユニット70には学習指示読取部72、学習
フラグ設定部74及びパックプロパゲーション法により
重み値を変更する重み変更部76が設けられる。On the other hand, the learning unit 70 is provided with a learning instruction reading section 72, a learning flag setting section 74, and a weight changing section 76 that changes weight values using the pack propagation method.
更に、第22図における装置構成の特徴は、ルール部プ
リワイヤニューロ100における各ユニットを結ぶ結線
に学習調整器80が設けられている点である。学習調整
器80は第23図に示す構成を有する。尚、学習調整器
80と共に重み変更部76を示している。学習調整器8
0にはフラグ保存部82、重み変更情報読取部84及び
重み変更量調整部86が設けられる。Furthermore, a feature of the device configuration in FIG. 22 is that a learning adjuster 80 is provided in the connection connecting each unit in the rule section prewire neuron 100. The learning adjuster 80 has the configuration shown in FIG. Note that the weight change unit 76 is shown together with the learning adjuster 80. Learning regulator 8
0 is provided with a flag storage section 82, a weight change information reading section 84, and a weight change amount adjustment section 86.
一方、重み変更部76にはバックプロパ’f −ジョン
法による重み演算を実行する重み演算部88、重み保存
部90及び重み変更量保存部92が設けられる。On the other hand, the weight change unit 76 is provided with a weight calculation unit 88 that performs weight calculation using the back propagation method, a weight storage unit 90, and a weight change amount storage unit 92.
このように、ルール部プリワイヤニューロ100の結線
毎に学習調整器80を設けることで、学習指示ユニット
50の学習スケジューラ52によりルール部プリワイヤ
ニューロ100に対し結線の重み値を変更するか否かを
決定する学習フラグを設定することができ、学習フラグ
が有効、即ちフラグオンとなっている結線に対してのみ
重みの学習を行なうことが可能となる。In this way, by providing the learning adjuster 80 for each connection of the rule section pre-wire neuro 100, it is possible to determine whether or not the learning scheduler 52 of the learning instruction unit 50 changes the weight value of the connection for the rule section pre-wire neuro 100. It is possible to set a learning flag that determines the weight, and it is possible to perform weight learning only for connections for which the learning flag is valid, that is, the flag is turned on.
また、学習調整器80に対するフラグセットは、第2図
に示したようなファジィルールを実現可能なネットワー
ク構造をもたない一般的な階層ネットワークに対し、フ
ァジィルールを実行可能な前件部メンバシップ関数実現
部、ルール部及び後件部メンバシップ関数実現部で成る
階層ネットワーク構造を特定する際にも使用される。Furthermore, the flag set for the learning coordinator 80 sets the antecedent membership that can execute fuzzy rules for a general hierarchical network that does not have a network structure that can implement fuzzy rules as shown in FIG. It is also used when specifying a hierarchical network structure consisting of a function realization section, a rule section, and a consequent membership function realization section.
ファジィルールに適合した階層ネットワークを構成した
状態でパックプロパゲーション方により実際に学習させ
る際の重み値の調整は次のように行なわれる。When a hierarchical network conforming to fuzzy rules is configured, the weight values are adjusted as follows when actually learning is performed by the pack propagation method.
第23図において、学習調整器80の重み変更情報読取
部84が重み変更部76の重み変更量保存部92に対し
重み演算部88より重みの変更量が書き込まれているか
否かを監視している。重み変更情報読取部84で重みの
変更があったことを検知すると、その旨を重み変更量調
整部86に伝える。重み変更量調整部86はフラグ保存
部82の学習フラグを調べ、学習フラグがオンであれば
何もしない。即ち、重み変更量保存部92への書込みを
有効とする。一方、学習フラグがオフであれば、重み変
更量調整部86は重み変更部76の重み変更量保存部9
2にゼロを設定し、重み変更を無効とする。この学習ス
ケジューラのハードウェア構成は特願昭63−2278
25号の「ネットワーク構成データ処理装置の学習方式
」に示される。In FIG. 23, the weight change information reading unit 84 of the learning adjuster 80 monitors whether the weight change amount has been written by the weight calculation unit 88 to the weight change amount storage unit 92 of the weight change unit 76. There is. When the weight change information reading unit 84 detects that the weight has changed, it notifies the weight change amount adjustment unit 86 of the fact. The weight change amount adjustment unit 86 checks the learning flag in the flag storage unit 82, and does nothing if the learning flag is on. That is, writing to the weight change amount storage section 92 is made valid. On the other hand, if the learning flag is off, the weight change amount adjustment section 86 changes the weight change amount storage section 9 of the weight change section 76.
2 is set to zero to disable the weight change. The hardware configuration of this learning scheduler is disclosed in Japanese Patent Application No. 63-2278.
No. 25, “Learning method for network configuration data processing device”.
[学習スケジューラの処理内容]
次に第21図の学習処理フローを参照して第22.23
図の装置構成に従ったルール部プリワイヤニューロの学
習処理を説明する。[Processing contents of learning scheduler] Next, referring to the learning processing flow in Fig. 21,
The learning process of the rule section pre-wired neuron according to the device configuration shown in the figure will be explained.
まず学習指示ユニット50の学習スケジューラ52が起
動されると、ステップSl(以下、「ステップ」は省略
)で学習フェーズの進行を示すフェーズカウンタiをi
=1にセットしてS2に進み、フェーズ・グループ対応
テーブル56を参照して学習フェーズi=1のニューロ
ングループ番号Gb、Gcを読出す。続いてS3に進み
ニューロングループ番号Gb、Gcに対応した結線グル
ープ番号Cab、 Cbcをグループ−結線対応テー
ブル58を参照して読出す。続いてS4に進み、結線グ
ループ番号Cab、 Cbcを出力して学習調整器8
0の学習フラグをオンする。具体的には学習指示ユニッ
ト50の学習スケジューラ52から学習ユニット70の
学習指示読取部72に対し結線グループ番号Cab、
Cbeを出力して読み取らせる。First, when the learning scheduler 52 of the learning instruction unit 50 is started, in step Sl (hereinafter, "step" is omitted), the phase counter i indicating the progress of the learning phase is set to i.
= 1, the process proceeds to S2, and the neuron group numbers Gb and Gc of the learning phase i=1 are read out with reference to the phase/group correspondence table 56. Next, the process proceeds to S3, and the connection group numbers Cab and Cbc corresponding to the neuron group numbers Gb and Gc are read out with reference to the group-connection correspondence table 58. Next, the process proceeds to S4, where the connection group numbers Cab and Cbc are output and the learning adjuster 8
Turn on the learning flag of 0. Specifically, the learning scheduler 52 of the learning instruction unit 50 sends the connection group number Cab,
Output and read Cbe.
学習指示読取部72は読取結果を学習フラグ設定部74
に通知し、学習フラグ設定部74は学習指示を受けた結
線グループ番号Cab、 Cbcに属する結線、即ち
前件部メンバシップ関数実現部10のユニットの入力結
線に設けられた学習調整器80のフラグ保存部82に対
しフラグオンを指令して学習フラグをセットする。The learning instruction reading section 72 sends the reading result to the learning flag setting section 74.
The learning flag setting unit 74 sets the flag of the learning adjuster 80 provided on the connections belonging to the connection group numbers Cab and Cbc that received the learning instruction, that is, the input connections of the units of the antecedent membership function realization unit 10. The learning flag is set by instructing the storage unit 82 to turn on the flag.
続いてS5に進んで学習スケジューラ52は学習指令を
出して学習処理を開始させる。この学習処理は学習信号
格納部54に準備されている制御人力Xと、制御人力X
に対する望ましい制御出力となる教師信号dを読出し、
制御人力Xをルール部プリワイヤニューロ100に与え
、教師信号dは重み変更部76及び学習収束判定部60
に与える。そして制御人力Xを受けたルール部プリワイ
ヤニューロ100から出力される制御出力Yを重み変更
部76及び学習収束判定部60に取込み、重み変更部7
6にあってはパックプロパゲーション法に従ってフェー
ズ1て学習対象として指定された前件部メンバシップ関
数実現部10の重み値の変更を行ない、学習収束判定部
60で教師信号dに対する制御出力Yの誤差が規定値以
下になったことを判定して学習処理を終了する。Next, the process proceeds to S5, where the learning scheduler 52 issues a learning command to start learning processing. This learning process uses the control human power X prepared in the learning signal storage unit 54 and the control human power
Read out the teacher signal d that is the desired control output for
The control human power X is given to the rule section prewire neuro 100, and the teacher signal d is given to the weight change section 76 and the learning convergence determination section 60.
give to Then, the control output Y output from the rule unit prewire neuro 100 that receives the control human power X is taken into the weight change unit 76 and the learning convergence determination unit 60, and the weight change unit 7
In step 6, the weight value of the antecedent membership function realization unit 10 designated as the learning target in phase 1 is changed according to the pack propagation method, and the learning convergence determination unit 60 changes the control output Y for the teacher signal d. It is determined that the error has become equal to or less than the specified value, and the learning process is terminated.
ステップS5の学習実行指令に基づいてフェーズ1の学
習処理が終了すると、S6でフェーズカウンタiを1つ
インクリメントしてフェーズ2とし、S7で学習フェー
ズのチエツクした後に再びS2に戻り、学習フェーズi
=2に入る。When the learning process of phase 1 is completed based on the learning execution command in step S5, the phase counter i is incremented by one in S6 to become phase 2, and after checking the learning phase in S7, the process returns to S2 again, and the learning phase i is
= enters 2.
このフェーズ2の学習処理にあっては、S2で学習フェ
ーズi=2に対応するニューロングループ番号Gd、G
eを読出すと共に、S3でニューロングループ番号Gd
、Geに対応した結線グループ番号Ccd、 Cde
を読出し、S4で結線グループ番号Ccd、 Cde
に属する結線、即ちルール部の結線に設けた学習調整器
80の学習フラグをセットする。続いてS5で学習実行
指令を出してフェーズ2によるルール部12の重み値の
学習をパックプロパゲーション法に従って実行する。フ
ェーズ2の学習が終了すると86でフェーズカウンタi
を1つインクリメントし、S7で学習フェーズが終わっ
たことを判定して一連の処理を終了する。In this phase 2 learning process, neuron group numbers Gd, G corresponding to learning phase i=2 are set in S2.
At the same time, the neuron group number Gd is read out in S3.
, connection group numbers Ccd, Cde corresponding to Ge
Read out the wiring group numbers Ccd, Cde in S4.
The learning flag of the learning adjuster 80 provided in the connection belonging to the rule section, that is, the connection in the rule section, is set. Subsequently, in S5, a learning execution command is issued, and learning of the weight values of the rule section 12 in Phase 2 is executed according to the pack propagation method. When phase 2 learning is completed, the phase counter i is counted at 86.
is incremented by one, and in S7 it is determined that the learning phase has ended, and the series of processing ends.
[パックプロパゲーション法による学習原理コ次に本発
明のパックプロパゲーション法による重み学習原理を階
層型ネットワークと共に説明する。[Principle of learning by pack propagation method] Next, the principle of weight learning by the pack propagation method of the present invention will be explained together with the hierarchical network.
第24図は一般的な階層型ニューラルネットワークを示
したもので、ユニットと呼ばれる一種のノードと重みを
もつ内部結合とから構成される。FIG. 24 shows a general hierarchical neural network, which is composed of a type of node called a unit and internal connections with weights.
第24図では入力装置としてのh層、中間層としてのi
層、出力層としてのj層を示している。勿論、中間層と
してのi層は1層であるが、複数の中間層があっても同
じである。各ユニットは第4図に示した構成をもち、ユ
ニットで行なわれる演算は基本ユニット20について示
した前記(1)(2)式となる。パックプロパゲーショ
ン法では階層ネットワークの重み値Wihと閾値θiと
を誤差のフィードバックにより適応的に自動調整して学
習する。前記(1)(2)式から明らかなように、重み
値Wihと閾値θiとの調節は同時に実行される必要が
あるが、この作業は相互に干渉する難しい作業となる。In Figure 24, the h layer is the input device, and the i layer is the intermediate layer.
layer, and the j layer as the output layer. Of course, there is only one i-layer as the intermediate layer, but the same is true even if there are a plurality of intermediate layers. Each unit has the configuration shown in FIG. 4, and the calculations performed in the unit are as shown in equations (1) and (2) above for the basic unit 20. In the pack propagation method, the weight value Wih and threshold value θi of the hierarchical network are adaptively and automatically adjusted and learned using error feedback. As is clear from equations (1) and (2) above, it is necessary to adjust the weight value Wih and the threshold value θi at the same time, but this work is a difficult work that interferes with each other.
そこで、本願出願人にあっては通常のユニット以外に、
入力側のh層に常に出力値が1であるユニットを設け、
この出力値1のユニットからの入力結線に対し閾値θj
を重み値として割り付けることで、閾値θiを重み値W
i hの中に組み込んで閾値θiを重み値として扱う
ことができるパックプロパゲーション法を提案している
(特願昭62−333484号)。Therefore, in addition to the normal unit, the applicant of this application has
A unit whose output value is always 1 is provided in the h layer on the input side,
For the input connection from this unit with an output value of 1, the threshold value θj
By assigning as a weight value, the threshold θi becomes the weight value W
A pack propagation method has been proposed in which the threshold value θi can be treated as a weight value by incorporating it into i h (Japanese Patent Application No. 62-333484).
このようにすることで、前記(1,) (2)式はX
n+=Σy ahWIh (II
)yp+=1/ (1+exp(−Xp+) )
(12)で表わされることとなり、閾値θiは表われ
てこない。By doing this, the above equations (1,) and (2) become
n+=Σy ahWIh (II
)yp+=1/ (1+exp(-Xp+))
(12), and the threshold value θi does not appear.
前記(11)(12)式からの展開によって次の(13
)(14)式が得られる。By expanding from equations (11) and (12) above, we get the following (13)
) (14) is obtained.
x、汗@ y 、1w、l
(13)y、、+1/ (1+exp(−xpI) )
(14)但し、
j :j層のユニット番号
W、、:i−j層間の内部結合の重み値X+、+:i層
の各ユニットからj層の3番ユニットへの入力の積和
y□:p番目パターンの入力信号に対するj層の3番ユ
ニットからの出力
第22図の重み変更部76では学習用の入カバターンX
が提示されたときに出力層jから出力される出カバター
ンVp+と出カバターンVp+のとるべき信号である教
師パターンaplを受けると、両者の差分値
(dp+ Vp+)
を算出し、次に
δp+=yp+(1−yp+) (dp+−yp+)
(15)を算出する。続いて、
Δw、、m =εΣδp + V D l+ζΔWz
(+−+) (16)但し、ε:学習定数
ζ:モーメンタム
t:学習回数
に従ってi層とj層間の重み値の更新量ΔW。x, sweat @ y, 1w, l
(13)y,,+1/(1+exp(-xpI))
(14) However, j: unit number W of the j layer, ,: weight value X+ of the internal connection between the i-j layers, +: sum of products y□ of inputs from each unit of the i layer to the 3rd unit of the j layer : Output from the 3rd unit of the j layer for the input signal of the p-th pattern The weight changing unit 76 in FIG.
When receiving the output cover turn Vp+ output from the output layer j and the teacher pattern apl, which is the signal to be taken by the output cover turn Vp+ when is presented, the difference value (dp+ Vp+) between the two is calculated, and then δp+=yp+ (1-yp+) (dp+-yp+)
(15) is calculated. Subsequently, Δw,, m = εΣδp + V D l + ζΔWz
(+-+) (16) However, ε: Learning constant ζ: Momentum t: Update amount ΔW of the weight value between the i layer and the j layer according to the number of learning times.
(1)を算出する。ここで、前記(16)式右辺第2項
で前回の更新サイクル時に決定された重み値の更新量に
かかるものを加算するのは、学習の高速化を図るためで
ある。Calculate (1). Here, the reason for adding the weight value update amount determined in the previous update cycle in the second term on the right side of equation (16) is to speed up learning.
続いて、重み値変更部76は前記(15)式で算出した
Δδ21を用いて
δ、、=7p、 (1y□)苓δp+W++(f−1)
(17)を算出し、次に
Δw+h(+) =εΣδpi)’ph+ζΔWlh(
+−1)(I8)
に従ってh層とi層の重み値の更新量Δw+h(+)を
算出する。Subsequently, the weight value changing unit 76 uses Δδ21 calculated by the above equation (15) to calculate δ, , = 7p, (1y□)蓓δp+W++(f−1)
(17), then Δw+h(+) =εΣδpi)'ph+ζΔWlh(
+-1) (I8) The update amount Δw+h(+) of the weight values of the h layer and the i layer is calculated according to the following.
続いて重み変更部76は前記(16)式及び(18)式
で算出した更新量に従って次の更新サイクルのための重
み値を
として決定する。以上の重み値の更新を学習用の入カバ
ターンに対する出カバターンy□が教師パターンapl
に一致する重み値が得られるように学習処理を繰り返す
。Subsequently, the weight change unit 76 determines the weight value for the next update cycle according to the update amounts calculated by the equations (16) and (18). The output pattern y□ for the input pattern for learning the update of the above weight values is the teacher pattern apl.
The learning process is repeated so that a weight value that matches is obtained.
一方、第24図の階層ネットワークを構成するユニット
が線形関数ユニットであった場合には、前記(14)式
は
y。、=xp、 (20)
と表わされる。この線形関数ユニットにおける前記(1
5)式及び(17)式は
δpI= d p+ V p+
(21)δ、l=写δp、w、、 (t −D 、
(22)と現わされる。On the other hand, when the units constituting the hierarchical network in FIG. 24 are linear function units, the equation (14) is y. ,=xp, (20)
It is expressed as The above (1
Equations 5) and (17) are δpI= d p+ V p+
(21) δ, l = copy δp, w,, (t −D,
It appears as (22).
[本発明の重み学習処理コ
第25図は第5A図に示した本発明のルール部プリワイ
ヤニューロに対しパックプロパゲーション法により行な
う重み学習の処理フロー図である。[Weight Learning Process of the Present Invention] FIG. 25 is a process flow diagram of weight learning performed by the pack propagation method for the rule section pre-wire neuro of the present invention shown in FIG. 5A.
この学習処理フローにおける各部のパラメータは、第2
6図に示すように定めている。The parameters of each part in this learning processing flow are
It is defined as shown in Figure 6.
第26図は第5A図のルール部プリワイヤニューロの階
層構造を概略的に示したもので、図示のように第1層か
ら第6層までの6層構造をもっており、第1層及び第3
層がシグモイド関数ユニットで構成され、残りは線形関
数ユニットで構成されている。FIG. 26 schematically shows the hierarchical structure of the rule section pre-wire neuron in FIG. 5A. As shown, it has a six-layer structure from the first layer to the sixth layer.
The layer is made up of sigmoid function units, and the rest are made up of linear function units.
ここでルール部プリワイヤニューロによるファジィルー
ルの実現で出力されるファジィ推論値、即ち制御出力値
をy6としており、1つのフェーズにおける学習処理は
第6層から第5層、第4層、第3層、第2層、第1層と
いうように順次行なう。Here, the fuzzy inference value output by the realization of the fuzzy rule by the pre-wired neuron in the rule section, that is, the control output value, is y6, and the learning process in one phase is performed from the 6th layer to the 5th layer, the 4th layer, and the 3rd layer. Layer, second layer, first layer, and so on.
この階層毎の学習の進行はiカウンタで示される。The progress of learning for each layer is indicated by an i counter.
即ち、各フェーズの初期状態でiカウンタはi層6にセ
ットされている。That is, the i counter is set in the i layer 6 in the initial state of each phase.
更に説明を簡単にするため、Wl、l−1とΔW11は
マトリックスを示し、その大きさ(i層目のニューロン
数) X (i−1層目のニューロン数)となる。更に
また、δiとyiはベクトルを示し、大きさはi番目の
層のニューロン数と同じになる。To further simplify the explanation, Wl, l-1 and ΔW11 represent a matrix, the size of which is (number of neurons in the i-th layer) x (number of neurons in the i-1th layer). Furthermore, δi and yi represent vectors whose size is the same as the number of neurons in the i-th layer.
この第26図に示す各部のパラメータを前提に第2図の
重み学習処理をフェーズ1とフェーズ2に分けて説明す
る。Based on the parameters of each part shown in FIG. 26, the weight learning process shown in FIG. 2 will be explained by dividing it into phase 1 and phase 2.
■フェーズ1
フェーズ1にあっては前件部メンバシップ関数実現部1
0の重みのみを学習する。即ち、第26図の前件部メン
バシップ関数実現部10に属する第1層及び第2層の学
習フラグはオンにセットされ、一方、残りの第3層から
第6層の結線の学習フラグはオフにリセットされている
。■Phase 1 In Phase 1, the antecedent membership function realization part 1
Only learn weights of 0. That is, the learning flags of the first and second layers belonging to the antecedent membership function realizing unit 10 in FIG. It has been reset to off.
まずSlで学習対象層を設定するカウンタiをイニシャ
ライズする。具体的にはカウンタiをi=6に初期設定
する。この初期設定により第6層目が学習対象として指
定される。次に82に進み、シグモイド関数ユニットか
否か判定する。第6層は線形関数ユニットであることか
ら814に進み、最終段の階層か否か判定し、第6層目
は最終段であることから315に進み、その時得られて
いる教師信号dと制御出力yを使用して前記(21)式
と同様の式に従って差分値δ6を求める。First, a counter i for setting a learning target layer is initialized using Sl. Specifically, a counter i is initialized to i=6. With this initial setting, the sixth layer is designated as the learning target. Next, the process proceeds to 82, where it is determined whether the unit is a sigmoid function unit. Since the 6th layer is a linear function unit, the process proceeds to 814, where it is determined whether or not it is the final layer.Since the 6th layer is the final layer, the process proceeds to 315, where the teacher signal d obtained at that time and the control Using the output y, the difference value δ6 is determined according to a formula similar to the formula (21) above.
次にS6に進み、重みを学習するユニットか否か判定す
る。この時、第6層は学習対象から外されているため、
具体的には結線に設けられた学習調整器80の学習フラ
グがオフとなっているため、S8に進んで重み更新量Δ
W65=0としてS9に進み、この場合、重み値の更新
は行なわない。続いて812に進んでカウンタiが学習
最終層、即ちE−第1層か否か判定し、この時、i=6
であることから、S13に進んでカウンタiを1つデク
リメントしてi=5としてS2に戻り、次の第5層の学
習に入る。Next, the process proceeds to S6, where it is determined whether the unit is to learn weights. At this time, the 6th layer is excluded from the learning target, so
Specifically, since the learning flag of the learning adjuster 80 provided in the connection is off, the process proceeds to S8 and the weight update amount Δ
The process advances to S9 with W65=0, and in this case, the weight value is not updated. Next, the process proceeds to 812, where it is determined whether the counter i is the final learning layer, that is, the E-1st layer, and at this time, i=6.
Therefore, the process proceeds to S13, decrements the counter i by one, sets i=5, returns to S2, and starts learning the next fifth layer.
第5層についても線形関数ユニットであることから82
から84に進むが、最終段の階層でないことから816
に進み、前記(22)式と同様の式に従って差分値δ5
よ算出する。Since the fifth layer is also a linear function unit, 82
Proceeds to 84, but since it is not the final level, it goes to 816.
Then, the difference value δ5 is calculated according to a formula similar to the formula (22) above.
Calculate it.
次に86に進んで学習対象となっているか否か判定し、
後件部メンバシップ関数実現部14に属する第5層は学
習対象から外されているため、S8に進んで重み更新量
ΔW 54 = 0とし、従って89での重み更新は行
なわない。以上の第5層の処理を最終ユニットまで繰り
返し、第4層の処理に進む。第4層はルール部12に属
する線形関数ユニットであり、且つ学習対象から除外さ
れているため、第5層と同様にして816で差分値δ4
のみを求める。Next, proceed to 86 to determine whether it is a learning target,
Since the fifth layer belonging to the consequent membership function realization unit 14 is excluded from the learning target, the process proceeds to S8 and sets the weight update amount ΔW 54 = 0, and therefore the weight update at 89 is not performed. The above processing for the fifth layer is repeated until the final unit, and the process proceeds to the fourth layer. Since the fourth layer is a linear function unit belonging to the rule section 12 and is excluded from the learning target, the difference value δ4 is calculated at 816 in the same way as the fifth layer.
Ask for only.
第4層の処理が終了すると第3層目の処理に進む。第3
層目はシグモイド関数ユニットであることからS2から
83に進み、最終段ではないことから85に進んでシグ
モイド関数ユニット固有の差分値δ3を前記(17)式
と同様の演算式により求める。このルール部12に属す
る第3層も学習対象から除外されているため、S6から
88に進んで重み更新量ΔW3□=0とし、S9での重
み更新は行なわない。When the fourth layer processing is completed, the process proceeds to the third layer. Third
Since the layer is a sigmoid function unit, the process proceeds from S2 to 83, and since it is not the final stage, the process proceeds to 85, where the difference value δ3 unique to the sigmoid function unit is determined using the same calculation formula as the above equation (17). Since the third layer belonging to this rule section 12 is also excluded from the learning target, the process proceeds from S6 to 88, where the weight update amount ΔW3□=0, and the weight update in S9 is not performed.
第3層の処理が終了すると第2層の処理に進む。When the third layer processing is completed, the process proceeds to the second layer.
第2層はフェーズ1で学習対象となっている前件部メン
バシップ関数実現部10に属し、且つ線形関数ユニット
である。The second layer belongs to the antecedent membership function realizing unit 10 that is the learning target in Phase 1, and is a linear function unit.
このためS2から814に進み、最終段ではないことか
らS16で差分値δ2を算出し、S6で重み学習を行な
うことを判別してS7に進み、前記(16)(18)式
と同様の式に従って重み更新量ΔW21を算出する。続
いてS9で前記(19)式と同様の式に従って重み値W
2+を更新する。以下同様に第2層の最終ユニットまで
処理を繰り返して第1層の処理に進む。Therefore, the process proceeds from S2 to 814, and since it is not the final stage, the difference value δ2 is calculated in S16. In S6, it is determined that weight learning is to be performed, and the process proceeds to S7. The weight update amount ΔW21 is calculated according to the following. Next, in S9, the weight value W is calculated according to a formula similar to the formula (19) above.
Update 2+. Thereafter, the process is repeated in the same manner up to the final unit of the second layer, and then the process proceeds to the first layer.
第1層は前件部メンバシップ関数実現部10に属するこ
とから学習対象となっており、且つシグモイド関数ユニ
ットで構成されている。従って82から83を経由して
S5で差分値δ1を算出し、S6で学習対象にあること
を判別してS7で重み更新量ΔWIOを求めたS9で重
みを更新する。この処理を第1層の最終ユニットまで繰
り返し、S10で最終ユニットを判別すると312に進
み、この時、カウンタiは学習終了層E=1に一致する
ことから一連の処理を終了する。The first layer belongs to the antecedent membership function realizing unit 10 and is therefore a learning target, and is composed of sigmoid function units. Therefore, the difference value δ1 is calculated in S5 via steps 82 and 83, it is determined that it is a learning target in S6, the weight update amount ΔWIO is calculated in S7, and the weight is updated in S9. This process is repeated until the final unit of the first layer, and when the final unit is determined in S10, the process proceeds to 312, and at this time, the counter i matches the learning end layer E=1, so the series of processes ends.
■フェーズ2
このフェーズ2はルール部12の重みを学習する。この
ため第26図のルール部12に属する第3層と第4層の
結線に設けた学習調整器80の学習フラグがオンにセッ
トされており、それ以外の第1層、第2層及び第5〜6
層の学習フラグはオフにリセットされている。■Phase 2 In this phase 2, the weights of the rule section 12 are learned. For this reason, the learning flag of the learning adjuster 80 provided at the connection between the third layer and the fourth layer belonging to the rule section 12 in FIG. 5-6
The layer's training flag has been reset to off.
このフェーズ2における重み学習は第25図の812に
おける学習最終層Eの値がルール部12に属する第3層
の値E=3にセットした状態で実行される。Weight learning in this phase 2 is executed with the value of the learning final layer E at 812 in FIG. 25 set to the value E of the third layer belonging to the rule section 12 = 3.
第6層、第5層についてはフェーズ1と同じである。ル
ール部12に属する第4層の処理に入ると89の重み更
新が有効に行なわれる。第3層についても同様に重み更
新を行ない第3層を終了するとiカウンタがi=3と学
習終了層E=3に一致することから、一連の処理を終了
する。The sixth and fifth layers are the same as Phase 1. When the processing of the fourth layer belonging to the rule section 12 is entered, the weight update of 89 is effectively performed. The weights are updated in the same way for the third layer, and when the third layer is completed, the i counter matches i=3 and the learning end layer E=3, so the series of processing ends.
[乱数を用いた重みの初期設定]
次に第27図の学習動作フロー図を参照して本発明の学
習方法の他の実施例を説明する。[Initial Setting of Weights Using Random Numbers] Next, another embodiment of the learning method of the present invention will be described with reference to the learning operation flow diagram of FIG. 27.
第2図の学習処理にあっては、ステップS1で行なう前
件部メンバシップ関数実現部10の重みCab、 C
bcの初期設定について、乱数を用いてランダムに重み
値を初期設定するようにしたことを特徴とする。この場
合、部分的に予め持っている知識があるときには、その
知識に基づいた設定を行ってもよい。In the learning process shown in FIG. 2, the weights Cab, C of the antecedent membership function realizing unit 10 performed in step S1 are
Regarding the initial setting of bc, the present invention is characterized in that weight values are initially set randomly using random numbers. In this case, if there is some knowledge that is previously held, settings may be made based on that knowledge.
ステップS2及びS3のルール部12及び後件部メンバ
シップ関数実現部14に対する重み値の初期設定は、第
2図の実施例と同様、予め持っている知識の導入に基づ
いて行なわれる。The initial setting of the weight values for the rule section 12 and the consequent membership function realization section 14 in steps S2 and S3 is performed based on the introduction of previously held knowledge, as in the embodiment of FIG.
このようにステップS6において、フェーズ1で最終的
に重みの学習が行なわれる前件部メンバシップ関数実現
部10の重み値の初期設定を乱数を用いてランダムに行
なうことで、ニューロネットワークの機能を最大限に引
き出した効率の良い学習処理が期待できる。In this way, in step S6, the function of the neural network is improved by randomly initializing the weight values of the antecedent membership function realizing unit 10, where the weights are finally learned in phase 1, using random numbers. You can expect efficient learning processing that brings out the best possible results.
[その他コ
尚、上記の実施例は第5A図に示したように2つの制御
人力Xn、Xnを対象としたファジィルールを実現する
ルール部プリワイヤニューロを例にとるものであったが
、制御入力は1または3以上の適宜の入力数としても良
いことは勿論である。[Other Notes: The above embodiment takes as an example the rule section pre-wire neuron that realizes fuzzy rules targeting two control human forces Xn and Xn, as shown in FIG. 5A, but the control Of course, the number of inputs may be 1 or 3 or more as appropriate.
また上記の実施例にあっては、第6.7図に示した
y=1/ (1+e−wx″’ )
(23)となるメンバシップ関数を例にとるものであっ
たが、第28図に示すように2つのシグモイド関数ユニ
ッ)94−1.94−2のユニット出力を減算ユニット
96に与えて同図(b)の関数形状を実現するようにし
ても良い。この場合のユニット出力yは、
y== 1/(1−e−WIX″11 ) 1/(+
−e−W2X″#2 )と表現することができる。In addition, in the above embodiment, y=1/ (1+e-wx'') shown in Figure 6.7.
(23) was taken as an example, but as shown in FIG. 28, the unit outputs of two sigmoid function units The function shape of (b) may also be realized. The unit output y in this case is y== 1/(1-e-WIX″11) 1/(+
-e-W2X″#2).
更に本発明の後件部メンバシップ関数実現部14につい
ては、予め持っている知識の導入により重み値を初期設
定した後、パックプロパゲーション法による学習は行な
わないことから、第5A図に示したようなニューロネッ
トワークで必ずしも構成する必要はなく、ハードウェア
構成としても良い。この点は重心決定要素出力装置40
についても同じである。Furthermore, regarding the consequent membership function realization unit 14 of the present invention, after the weight values are initially set by introducing knowledge that is held in advance, learning by the pack propagation method is not performed. It does not necessarily need to be configured with a neuronetwork such as this, but may be a hardware configuration. This point is determined by the center of gravity determining element output device 40
The same applies to
[発明の効果コ
以上説明してきたように本発明によれば、前件部メンバ
シップ関数実現部、ルール部及び後件部メンバシップ関
数実現部のそれぞれに予め持っている知識により重み値
の初期設定を行なった後、前件部メンバシップ関数実現
部のみの重み学習を行なうことでルール部及び後件部メ
ンバシップ関数実現部の重みを有効に生かしながら効率
良く前件部メンバシップ関数実現部の重み調整を行なう
ことができる。また前件部メンバシップ関数実現部の重
み学習の終了後にルール部の重み学習を行なうことで、
学習済みの前件部メンバシップ関数実現部と初期設定さ
れた後件部メンバシップ関数実現部の重みを有効に活用
した効率の良い重み学習ができる。[Effects of the Invention] As explained above, according to the present invention, the initial value of the weight value is After making the settings, by performing weight learning only for the antecedent membership function realization part, the antecedent membership function realization part can be efficiently utilized while effectively utilizing the weights of the rule part and the consequent membership function realization part. The weights can be adjusted. In addition, by learning the weights of the rule part after completing the weight learning of the antecedent part membership function realization part,
Efficient weight learning can be performed by effectively utilizing the weights of the learned antecedent membership function realization unit and the initialized consequent membership function realization unit.
更に前件部メンバシップ関数実現部に乱数を使用した重
みの初期設定または予め持っている知識と乱数を併用し
た重みの初期設定を行なったことでニュートラルネット
ワークの学習機能を最大限に引き出すことができる。Furthermore, by initializing the weights using random numbers in the antecedent membership function realization part or using a combination of pre-existing knowledge and random numbers, it is possible to maximize the learning function of the neutral network. can.
第1図は本発明の原理説明図;
第2図は本発明の学習動作フロー図;
第3図は本発明のルール部プリワイヤニューロの実施例
構成図;
第4図は基本ユニット説明図;
第5A図は本発明のルール部プリワイヤニューロの具体
的な実施例構成図;
第5B図は第5A図のニューロングループ及び結線グル
ープの説明図;
第6図は本発明の前件部メンバシップ関数実現部の初期
設定説明図;
第7図は前件部のメンバシップ関数説明図;第8図は本
発明のルール部初期設定説明図;第9図は本発明のルー
ル部ユニット説明図;第10図は第9図のファジィルー
ルL1説明図;第11図は第9図のファジィルールL2
説明図;第12図は第9図のファジィルールL3説明図
;第13図は第9図のファジィルールL4説明図;第1
4図は第9図のファンづルールL5説明図;第15図は
第9図のファジィルールL6説明図;第16図は第9図
のファジィルールヒフ説明図;第17図は第9図のファ
ジィルールL8説明図;第18図は本発明の後件部メン
バシップ関数実現部の初期設定説明図;
第19図は本発明の重心計算実現部の初期設定説明図;
第20図は本発明のフェーズ・グループ対応表及びグル
ープ・結線対応表の設定説明図;第21図は本発明の学
習処理フロー図;第22図は本発明による学習処理の装
置構成図;第23図は第22図の結線毎に設けた学習調
整器構成図;
第24図は一般的な階層ニューラル・ネットワーク説明
図;
第25図は本発明の重み学習処理フロー図;第26図は
第25図の各部のパラメータ説明図;第27図は本発明
の他の実施例を示した動作フロー図;
第28図は本発明に用いる他のメンバシップ関数の説明
図である。
図中、
10:前件部メンバシップ関数実現部
12:ルール部
14 後件部メンバシップ関数実現部
16、入力部
18:重心計算実現部
20:基本ユニット
22:乗算部
24:加算部
26:閾値処理部
2B−128−232−1〜32−4.38−1〜38
−9.40−1.40−2 :線形関数ユニット
30−1〜3G−234−1〜34−8.94−1.9
4−2 :シグモイド関数ユニット
40:重心決定要素出力装置
42:重心算出装置
50:学習指示ユニット
52:学習スケジューラ
54:学習信号格納部
56:フェーズ・グループ対応テーブル58ニゲループ
・フェーズ対応テーブル60:学習収束判定部
70:学習ユニット
72:学習指示読取部
74:学習フラグ設定部
76:重み変更部
80:学習調整器
82:フラグ保存部
84:重み変更情報読取部
86:重み変更量調整部
88:重み演算部
90:重み保存部
92:重み変更量保存部
96:減算ユニット
100:ルール部プリワイヤニューロ
第1図
不発明の)t”il′f名下77ノ\ンップ関饗叉災玉
1名下の子刀期ろヌJ丁2渥U汽図ユニットの出力値
F11千訃7ン1<ンップ間饗又轟1tBFI起第7図
今売明のルール静ユニットら充明囮
第9図
(a)
不究明のル
;。
ファジィルール
Ll、正XfSS) 0RX2ISS) THEN Y
(SS)L2:IF Xl(S S) ANDX2(S
S) THEN Y(LA)L3:TFX[LA) A
NDX2(S s> THEN y<5s)L4:TF
X1(LA) O歇ZSS)鉗EN Y(LA)L5:
rFXl(SS) 0Rx2(LA) T HEN y
(ss)L6:rF XI(S s> AND !2
(LA) TT(EN y (LA)L7:IFXl(
LA) ANDXILA) TT(EN y(SS)L
8:W XI(LA) ORXza−A) TT(EN
Y(LA)(b)
一ル訃i刑耶幻笑貌明図
58図
c′J(’J ■
II II II
−一一)−一一一
C%JC’J
αコ
ゝ−−−Y−−−)
面
区
ゝ−−−■−−−′
囚
一一一)−一−J
C%JC’%JOO
一一一)−一−J
(’J(’J ■
1I II 1
一一−i−−−J
O〕
?トイ←叩の重りしるTX叉玉見旬下の季刀其ハ副えま
、にを明ト4第19図
フェーズ:グループ対応表
(a)
(b)
第題図Fig. 1 is an explanatory diagram of the principle of the present invention; Fig. 2 is a learning operation flow diagram of the present invention; Fig. 3 is a configuration diagram of an embodiment of the rule section pre-wired neuron of the present invention; Fig. 4 is an explanatory diagram of the basic unit; FIG. 5A is a specific example configuration diagram of the rule section prewire neuron of the present invention; FIG. 5B is an explanatory diagram of the neuron group and connection group of FIG. 5A; FIG. 6 is an antecedent section membership of the present invention. FIG. 7 is an explanatory diagram of the membership function of the antecedent part; FIG. 8 is an explanatory diagram of the initial setting of the rule section of the present invention; FIG. 9 is an explanatory diagram of the rule section unit of the present invention; Figure 10 is an explanatory diagram of fuzzy rule L1 in Figure 9; Figure 11 is an explanatory diagram of fuzzy rule L2 in Figure 9.
Explanatory diagram; FIG. 12 is an explanatory diagram of fuzzy rule L3 in FIG. 9; FIG. 13 is an explanatory diagram of fuzzy rule L4 in FIG. 9;
Figure 4 is an explanatory diagram of fanz rule L5 in Figure 9; Figure 15 is an explanatory diagram of fuzzy rule L6 in Figure 9; Figure 16 is an explanatory diagram of fuzzy rule Hiff in Figure 9; An explanatory diagram of fuzzy rule L8; FIG. 18 is an explanatory diagram of the initial settings of the consequent membership function implementation unit of the present invention; FIG. 19 is an explanatory diagram of the initial settings of the center of gravity calculation implementation unit of the invention; An explanatory diagram of the settings of the phase/group correspondence table and the group/connection correspondence table; Fig. 21 is a flowchart of the learning process of the present invention; Fig. 22 is a diagram of the device configuration of the learning process of the present invention; Fig. 23 is a diagram of the configuration of the learning process of the present invention; Fig. 24 is an explanatory diagram of a general hierarchical neural network; Fig. 25 is a weight learning process flow diagram of the present invention; Fig. 26 shows the parameters of each part in Fig. 25. Explanatory diagram; FIG. 27 is an operation flow diagram showing another embodiment of the present invention; FIG. 28 is an explanatory diagram of another membership function used in the present invention. In the figure, 10: Antecedent membership function implementation unit 12: Rule unit 14 Consequent membership function implementation unit 16, input unit 18: Center of gravity calculation implementation unit 20: Basic unit 22: Multiplication unit 24: Addition unit 26: Threshold processing unit 2B-128-232-1~32-4.38-1~38
-9.40-1.40-2: Linear function unit 30-1 to 3G-234-1 to 34-8.94-1.9
4-2: Sigmoid function unit 40: Center of gravity determining element output device 42: Center of gravity calculation device 50: Learning instruction unit 52: Learning scheduler 54: Learning signal storage unit 56: Phase/group correspondence table 58 Niger loop/phase correspondence table 60: Learning Convergence determination section 70: Learning unit 72: Learning instruction reading section 74: Learning flag setting section 76: Weight changing section 80: Learning adjuster 82: Flag storage section 84: Weight change information reading section 86: Weight change amount adjustment section 88: Weight calculation section 90: Weight storage section 92: Weight change amount storage section 96: Subtraction unit 100: Rule section Pre-wire neuro Figure 1 Output value of the name child sword period Ronu J Ding 2 A U steam map unit F11 1000 7 N 1 <Nup between Yoshimata Todoroki 1t BFI origin Fig. 7 Imauri Ming's rules static unit et al. Charming decoy Fig. 9 (a) Unknown Ru; Fuzzy rule Ll, normal XfSS) 0RX2ISS) THEN Y
(SS) L2:IF Xl(S S) ANDX2(S
S) THEN Y(LA)L3:TFX[LA) A
NDX2 (S s> THEN y<5s) L4:TF
X1 (LA) Omen ZSS) Forceps EN Y (LA) L5:
rFXl(SS) 0Rx2(LA) T HEN y
(ss)L6:rF XI(S s> AND !2
(LA) TT(EN y (LA)L7:IFXl(
LA) ANDXILA) TT(EN y(SS)L
8:W XI(LA) ORXza-A) TT(EN
Y (LA) (b) 1RU 訃 i 連 Ga Gan Gan 明 fig. 58 c'J ('J ■ II II II -11)-111C%JC'J αこゝ---Y- --) Menkuゝ---■---' Prisoner 111)-1-J C%JC'%JOO 111)-1-J ('J('J ■ 1I II 1 11- i---J O〕 ?Toy ← Toi ← The weight of the attack TX Kartamami Shunka's Kito Ki Ha Vice Ema, Niwo Akito 4 Figure 19 Phase: Group correspondence table (a) (b) Title figure
Claims (6)
複数階層でなるルール部(12)、及び後件部メンバシ
ップ関数実現部(14)でなる階層ネットワークを有し
、前記ルール部(12)は前段の前件メンバシップ関数
実現部(10)及び又は後段の後件部メンバシップ関数
実現部(14)との間で全ユニット間を内部結合せずに
制御ルールに従って一部を内部結合して成り、入力され
る制御状態量(X_1、X_2、・・・X_n)に対応
する1又は複数の制御操作量(Y)を出力するルール部
プリワイヤニューロの学習方法に於いて、 前記前件部メンバシップ関数実現部(10)、ルール部
(12)、及び後件部メンバシップ関数実現部(14)
の各々に重み値を初期設定する第1過程と;学習データ
を使用して前記前件部メンバシップ関数実現部(10)
の重みのみを学習させる第2過程と; 該第2過程終了後に学習データを使用して前記ルール部
(12)の重みのみを学習させる第3過程と;を備えた
ことを特徴とするルール部プリワイヤニューロの学習方
法。(1) It has a hierarchical network consisting of an antecedent part membership function realization part (10), a rule part (12) consisting of one or more layers, and a consequent part membership function realization part (14), and the rule part (12) does not internally connect all units with the antecedent membership function realization unit (10) in the previous stage and/or the consequent membership function realization unit (14) in the subsequent stage, but only some parts according to the control rule. In a learning method of a rule section pre-wired neuro that is internally coupled and outputs one or more control operation quantities (Y) corresponding to input control state quantities (X_1, X_2,...X_n), The antecedent membership function realization unit (10), the rule unit (12), and the consequent membership function realization unit (14)
a first step of initially setting weight values for each of; the antecedent membership function realization unit (10) using learning data;
A second step of learning only the weights of the rule section (12); and a third step of learning only the weights of the rule section (12) using learning data after the second step is completed. How to learn pre-wired neuro.
いる知識に基づいて作成された重み値を前記前件部メン
バシップ関数実現部(10)、ルール部(12)、及び
後件部メンバシップ関数実現部(14)の各々に初期設
定することを特徴とする請求項1記載のルール部プリワ
イヤニューロの学習方法。(2) Initial setting of the weight values in the first process is performed by using the weight values created based on knowledge held in advance by the antecedent membership function realization unit (10), the rule unit (12), and the 2. A learning method for a rule part prewired neuron according to claim 1, characterized in that initial settings are made in each of the subject membership function realization units (14).
メンバシップ関数実現部(10)に乱数を用いて作成さ
れた重み初期値を設定し、前記ルール部(12)及び後
件部メンバシップ関数実現部(14)には予め持ってい
る知識に基づいて作成された重み値を初期設定すること
を特徴とする請求項1記載のルール部プリワイヤニュー
ロの学習方法。(3) The initial setting of the weight value in the first step is to set an initial weight value created using random numbers in the antecedent membership function realization unit (10), and to 2. A learning method for a rule section prewire neuron according to claim 1, wherein the subject membership function realizing section (14) is initially set with weight values created based on knowledge held in advance.
現部(10)の重み初期値の設定は、予め持っている知
識で設定可能な重みは該知識で初期設定し、その他は乱
数を用いて初期設定することを特徴とする請求項1記載
のルール部プリワイヤニューロの学習方法。(4) In setting the initial weight values of the antecedent membership function realization unit (10) in the first step, weights that can be set based on knowledge held in advance are initialized using this knowledge, and other weights are set using random numbers. 2. The method of learning a rule section pre-wired neuron according to claim 1, wherein the initial setting is performed using a pre-wired neuron.
シップ関数実現部(10)の結線毎に設けられた学習フ
ラグをオンすると共に、前記ルール部(12)及び後件
部メンバシップ関数実現部(14)の結線毎に設けられ
た学習フラグをオフし、オン状態にある学習フラグを有
する結線の重み値のみを学習処理により最適化すること
を特徴とする請求項1記載のルール部プリワイヤニュー
ロの学習方法。(5) At the start of learning in the second process, a learning flag provided for each connection of the antecedent membership function realization unit (10) is turned on, and the rule unit (12) and the consequent membership The rule according to claim 1, characterized in that a learning flag provided for each connection of the function realization unit (14) is turned off, and only the weight value of a connection having a learning flag in an on state is optimized by a learning process. How to learn part prewire neuro.
2)の結線毎に設けられた学習フラグをオンすると共に
、前記前件部メンバシップ関数実現部(10)及び後件
部メンバシップ関数実現部(14)の結線毎に設けられ
た学習フラグをオフし、オン状態にある学習フラグを有
する結線の重み値のみを学習処理により最適化すること
を特徴とする請求項1記載のルール部プリワイヤニュー
ロの学習方法。(6) At the start of learning in the third process, the rule section (1
In addition to turning on the learning flag provided for each connection in 2), the learning flag provided for each connection of the antecedent membership function realization unit (10) and the consequent membership function realization unit (14) is turned on. 2. A learning method for a rule section pre-wired neuron according to claim 1, wherein only the weight values of connections having learning flags that are turned off and turned on are optimized through learning processing.
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2124705A JPH0424741A (en) | 1990-05-15 | 1990-05-15 | Learning method for prewired neuro of rule part |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP2124705A JPH0424741A (en) | 1990-05-15 | 1990-05-15 | Learning method for prewired neuro of rule part |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0424741A true JPH0424741A (en) | 1992-01-28 |
Family
ID=14892062
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP2124705A Pending JPH0424741A (en) | 1990-05-15 | 1990-05-15 | Learning method for prewired neuro of rule part |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0424741A (en) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS62174857A (en) * | 1986-01-28 | 1987-07-31 | Sharp Corp | Data transmission equipment |
-
1990
- 1990-05-15 JP JP2124705A patent/JPH0424741A/en active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPS62174857A (en) * | 1986-01-28 | 1987-07-31 | Sharp Corp | Data transmission equipment |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| Nelson | Innovation and economic development theoretical reprospect and prospect | |
| Chiang et al. | A self-learning fuzzy logic controller using genetic algorithms with reinforcements | |
| Mls et al. | Interactive evolutionary optimization of fuzzy cognitive maps | |
| Duan et al. | Application of reinforcement learning in robot soccer | |
| Krichen | Deep reinforcement learning | |
| Ugur et al. | Refining discovered symbols with multi-step interaction experience | |
| CN117518907A (en) | Control methods, devices, equipment and storage media of intelligent agents | |
| Kim et al. | Area-wide traffic signal control based on a deep graph Q-Network (DGQN) trained in an asynchronous manner | |
| Coyne et al. | Spatial applications of neural networks in computer-aided design | |
| JPH0424741A (en) | Learning method for prewired neuro of rule part | |
| Kimura et al. | Evolving soft robots to execute multiple tasks with combined-cppn-neat | |
| JP2002251601A (en) | Neural network processing device | |
| CN109117946A (en) | Neural computing handles model | |
| JPH0424740A (en) | Learning method for prewired neuro of rule part | |
| JPH0424744A (en) | Learning method for prewire neuro of rule part | |
| JPH0424736A (en) | Learning method for prewired neuro of rule part | |
| JPH0424739A (en) | Learning method for prewired neuro of rule part | |
| JPH0424738A (en) | Learning method for prewired neuro of rule part | |
| JPH0424742A (en) | Learning method for prewired neuro of rule part | |
| JPH0424743A (en) | Learning method for prewire neuro of rule part | |
| JPH0424737A (en) | Learning method for prewired neuro of rule part | |
| JPH0464132A (en) | Learning method for neural unit with fully coupled rule part | |
| JPH03268077A (en) | Centroid deciding element output device using neural network | |
| JPH0464134A (en) | Learning method for neural unit with fully coupled rule part | |
| JPH0395666A (en) | Pattern learning system |