JPH0498378A - 図形分類を行うニューラルネットワーク - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 〔概　　　要〕 例えばプラント図面から抽出される図形シンボルに対し
て図形分類を行うニューラルネットワークに関し、 外部から教師信号を与えることなく図形シンボルを分類
する矛ノドワークを従供することを目的とし、 図形シンボルの分類を行うニューラルネットワークにお
いて、入力される図形シンボルを複数の代表シンボルの
いずれかに分類し、該分類結果の代表シンボルに対応す
る教師信号を生成する教師信号生成手段と、該教師信号
生成手段の出力する教師信号を用いて学習を行った後に
、未知の入力Ｖ形シンボルを前記複数の代表シンボルの
いずれかに分類する図形分類手段を有するように構成す
る。

〔産業上の利用分野〕

本発明は図形シンボルの分類方式に係り、さらに詳しく
は、例えばプラント図面から抽出される図形シンボルに
対して図形分類を行うニューラルネットワークに関する
。

現在様々な分野で機械図、回路図、論理図等の図面が使
用されており、管理の効率化などのために図面の計算機
入力の動きが活発となっている。

この図面の計算機入力作業を自動化するものが図面の認
識シンボルであり、その要素技術として重要な図形の分
類技術の確立が望まれている。

〔従来の技術及び発明が解決しようとする課題〕従来図
形分類を行う方法としては、例えば２次元状に配置され
たセンサからの入力に対して図形分類を行うアルゴリズ
ムを人間が考案し、それをコーディングしたプログラム
を用いることによって図形分類を行ったり、またはセン
サからの入力を階層型ニューラルネットワークの入力層
のユニットに与えて図形分類を行うなどの方法がとられ
ていた。

しかしながら、図形分類を行うアルゴリズムをプログラ
ムとして用いる場合には、認識対象となる図面が変わる
とアルゴリズムをもう１度考え直す必要があり、プログ
ラムの開発工数がかかるという問題点があった。また階
層型ニューラルネットワークを用いて図形分類を行う場
合には、ネットワークの学習時に用いられる分類用の教
師信号を人手で与えなければならず、手数がかかるとい
う問題点があった。

本発明は、外部から教師信号を与えることなく図形シン
ボルを分類するネットワークを提供することを目的とす
る。

［課題を解決するための手段］ 第１図は本発明の原理ブロック図である。同図は図形シ
ンボルの分類を行うニューラルネットワークの原理ブロ
ック図であり、教師信号生成手段１は例えば入力層と出
力層の２つの層から構成される自己組織化ネットワーク
と、自己組織化ネットワークの出力を用いて教師信号を
生成する教師信号生成部から成る。

自己ｍ感化ネットワークは入力層内のユニット、すなわ
ち入力層ユニットに入力される図形シンボルを表す入力
信号（入力パターン）を用いて入力図形シンボルを複数
の代表シンボルのいずれかに分類し、その分類結果の代
表シンボルに対応する信号を出力層内のユニット、すな
わち出力ユニットから出力する。教師信号生成部は前述
の入力パターンと自己組織化ネットワークの出力パター
ンを対応させて教師信号を生成する。

図形分類手段２は、例えば３層のニューラルネットワー
クであり、教師信号生成手段ｌが出力する教師信号を用
いて、例えばハックプロパゲーション法による学習を行
った後に、入力される未知の図形ソンボルを前述の複数
の代表シンボルのいずれ内温こ分類する。

〔作　　　用］ 第１図において、図面から抽出された図形シンボルの特
徴を示す複数の入力信号の個数に一致する教師信号生成
手段１内の自己組織化ネットワークの入力層ユニットに
入力された図形シンボル（入力パターン）は前述の代表
シンボルのいずれかに分類され、代表シンボルの個数と
一致する出カニニットのいずれかから代表シンボルを示
す信号が出力される。

教師信号生成部により入力信号パターンに対する教師信
号としての出力パターン、すなわち出カニニットのうち
のいずれか１つの出力が１、他が全て０であるパターン
が図形分類手段２に与えられ、図形分類手段２はこの教
師信号を用いて、例えばハックプロパゲーション法によ
る学習を行う。

その後未知の入力図形シンボルが図形分類手段２として
の階層型ネットワークに入力され、代表シンボルの個数
と一致する出力層ユニットのいずれかから例えば１が出
力されることにより、未知入力凹形シンボルの分類が行
われる。

以上のように、本発明によれば外部から分類用の教師信
号を与えることなく、未知の入力口形シンボルを分類す
るネットワークが自動的に構築されることになる。

〔実　　施　　例］ 第２図は本発明の図形分類を行うニューラルネットワー
クの実施例の構成ブロック図である。同図において自己
組織化ネットワーク１１と教師信号生成部１２とが第１
図の教師信号生成手段１に相当し、また階層型ネットワ
ーク１３が図形分類手段２に相当する。

自己組織化ネットワーク１１は、後述するように入力図
形シンボル１０を複数の代表シンボルのうちのいずれか
に分類し、その代表シンボルに対応する出カニニットか
ら最大の値、例えば０．５を出力する。教師信号生成部
１２は入力図形シンボルの入力パターンと自己組織化ネ
ットワーク１１の出力パターンとを対応させて、教師信
号として階層型ネットワーク１３に与える。

階層型ネ７）ワーク１３は与えられた教師信号を用いて
学習を行い、その学習が終了した後に未知の入力図形シ
ンボル１００代表図形シンボルへの分類を行い、分類結
果１４を出力する。

第３図は自己組織化ネットワークの実施例の構成図であ
る。この名ットワークは外部からの教師信号を用いるこ
となく学習を行うネットワークである。同図に示すよう
に、自己組織化ネットワークは入力層と出力層の２層で
構成されており、出力層の各ユニットには入力層の全て
のユニットの出力が入力される形式となっている。入力
層のユニット数は入力となる図形シンボルの特徴を表す
入力信号の個数と一致する。例えば入力図形の特徴を表
す信号が１２Ｘ１２ドツトの形式で与えられる場合には
、入力層のユニット数は１４４個となる。また出力層の
ユニット数は入力した図形を分類したい個数、すなわち
代表シンボルの個数に一致するように設定される。

第３図においてｙｌは出力層の１番目のユニ。

トの出力値を示し、結合係数ｍｉｊは入力層のｊ番目の
ユニットと出力層ｉ番目のユニットの間の結合の結合係
数を表し、またχ、は入力層のｊ番目のユニットへの入
力、すなわちｊ番目の入力信号の値を表す。そして、出
力層のｊ番目のユニットの出力ｙｉは、このユニットに
結合されている全ての入力ユニットへの入力信号とそれ
ぞれ該当する結合の結合係数との積の総和として次式で
与えられる。

ｙえ　＝Σｍ＋ｊ　ＸＪ　　　　　　　　　　　　　　
（１）次に自己組織化ネットワークの学習について、第
３図の入力層のｊ番目のユニットと出力層のｉ番目のユ
ニットとの結合係数ｍ１ｊ（ｔ）を例として説明する。

ここでｔは結合係数の更新回数を表す。

学習時にはまず第１のステップとして結合係数ｍＩｊ（
ｔ）を乱数で初期化し、ｍＬＪ（０）とする。

学習の第２のステップを第４図の入力信号ベクトルと重
みベクトルの先端の配置の実施例を用いて説明する。前
述のように、入力層のユニット数は図形シンボルの特徴
を表す入力信号の個数に一致するが、この入力信号値を
要素とする入力ユニット数次元の超空間ヘクトルを入力
信号ベクトルとして定義する。

一方出力層のユニット数は前述のように代表図形シンボ
ルの個数に一致するが、それぞれの出力ユニノ）４こ対
応して重みベクトルを定義する。重みベクトルＭはある
出カニニットに入力される結合の結合係数を要素とする
入力ユニット数次元の超空間ヘクトルである。第４図は
簡単のために入力ユニット数が２個の場合の入力信号ベ
クトルＸの先端と９個の出カニニットにそれぞれ対応す
る重みベクトルＭ１〜Ｍ９の先端の配置を示している。

自己組織化ネットワークの学習の第２ステツプにおいて
は、まず学習回数【がＬ÷１とされ、次式を満足する重
みベクトルＭ（に対応する出カニニットが最適整合ユニ
ットｃとして抽出される。

Ｘ−Ｍｃｉ　＝ｍｉ、、Ｎ　Ｘ−Ｍｌ　（ｔ）ｌ　＋　
　　（２）すなわち、第４図において入力信号ベクトル
Ｘの先端に先端が最も近い重みベクトルに対応する出カ
ニニットが最適ユニットとして抽出されることになる。

ここでは入力信号ベクトルＸがら１番距離が近い重みベ
クトルはＭ６であり、出力層の６番目のユニットが最適
整合ユニットとされる。

学習の第３ステツプにおいては、第２ステツプで決定さ
れた最適整合ユニットから半径Ｎ　（ｔ）以内に位置す
る出力層ユニットの重みベクトルを対象として、次式を
用いて結合係数Ｍｌｊの更新が行われる。

ｍ＋ｒ（ｔ”ｌ）−ｍＬＪ（ｔ）十α（ｔ）（Ｘｒ　　
　ｍ＋＞（ｔ））（３）第４図において最適整合ユニッ
トから半径Ｎ　（ｔ）以内にある出力層ユニ、トの重み
ベクトルをＭ５゜Ｍ７．及びＭ８とする場合には、これ
らの重みへクトルに対して結合係数の更新が行われる。

この半径Ｎ　（ｔ）の外側にある出力層ユニットの重み
ヘクトルに対しては結合係数の更新は行われない。ここ
でα（１）は学習係数、Ｎ　（ｔ）は整合半径であり、
共に結合係数の更新回数の増加につれて単調減少する関
数が選ばれる。そして学習係数、または整合半径のいず
れかが０に達した時点で学習が終了する。

学習係数α（１）と整合半径Ｎ　（ｔ）は例えば次式の
ように設定される。

α（ｔ）＝α。（１−ｔ／ｌｓ、ｘ　）　　　　　　　
　　（４）Ｎ（ｔ）＝Ｎ、（１−ｔ　／　ｔ　、、、　
）　　　　　　　　　（５）ここでα。及びＮ。は共に
初期値であり、ｔｌ、８は結合係数の更新回数である。

このように設定することによりｔ　ＩａＩＩＸ回だけ結
合係数の更新が行われると、学習係数及び整合半径は共
に０となり、学習が終了する。ｔ　＊ｍｘとしては最大
１００程度が選ばれる。

以上のような自己組織化ネットワークの学習が終了した
時点において、入力された図形シンボルに対して出力層
のユニットのうちで最大の出力値、例えば０．７を持つ
ものが選び出される。それが第３図において出力層のｉ
番目のユニットであった場合には、第２図の教師信号生
成部Ｉ２によって入力層ユニットへの入力信号のパター
ンに対応してｙｉだけを１、他の出力層のユニットの出
力を０とする出力パターンが作成され、これが教師信号
として階層型ネットワーク１３に与えられることになる
。

第５図は自己組織化ネットワークの学習の実施例である
。同図は出力層のユニットがｙ１〜ｙ４の４個であり、
入力層のユニット数、すなわち入力信号の数が３個であ
る場合の学習経過を、簡単のために入力信号ベクトルと
重みベクトルの長さを１に正規化した場合について示す
。なお、ここでは第４図における重みベクトルＭ１〜Ｍ
４の代わりに、出カニニットの出力ｙ１〜ｙ４をそのま
ま用いて重みベクトルの名称としている。また学習時に
与えられる入力信号ベクトルはｘ＋＝（１゜０、Ｏ）、
およびｘｚ　＝　（０，１，０）の２個であり、この２
個の入力信号ベクトルに対して同時に学習が行われるも
のとする。さらに（４）および（５）式における学習係
数と整合半径の初期値はそれぞれ０．５．１．３とし、
学習回数ｔ　ｍａｙを２０と設定した場合の学習例であ
る。

第５図において、まず最初に重みベクトルの初期値ｙ１
〜ｙ４が与えられた後に学習が開始される。ループカウ
ント１は結合係数の更新回Ｉｔが１であることを示し、
この時の学習係数及び整合半径は（４）および（５）式
を用いてそれぞれ０．４７５及び１．２３５となる。そ
して、入力信号ベクトルＸ１の先端から各重みベクトル
の先端までの距離が計算され、ｙｌからｙｉの１＠序で
横に示されている結果から重みベクトルｙ３が最も近い
ことが判定される。そして整合半径に基づいて重みベク
トルｙ１、ｙ３およびｙｉが更新される。重みベクトル
ｙ２は更新されず、初期値のままである。

次に入力信号ベクトルＸ２と各重みベクトルの先端の間
の距離が求められ、重みベクトルｙ２が最も近いことが
判定され、重みベクトルｙｌ、ｙ２、およびｙｉの更新
が行われる。この場合には重みベクトルｙ３の更新は行
われず、ｙ３の値は前述の更新後の値そのままとなる。

以下同様に結合係数の更新が行われ、ループカウント２
０、すなわち２０回目の更新時には学習回数および整合
半径の値は共に０となる。そして入力信号ベクトルＸ、
と最も近い重みベクトルはｙ３と判定され、この重みベ
クトルの更新だけが行われる。また入力信号ベクトルｘ
２と最も近い重みベクトルはｙ２であり、この重みベク
トルに対してのみ結合係数の更新が行われる。

以上のようにして、２０回の結合係数更新が行われた後
には、初期状態において入力信号ベクトルＸ２に最も近
かった重みベクトルｙ２がほぼ入力信号ベクトル×２と
同じ値を持ち、また入力信号ベクトルＸ、に最も近かっ
た重みベクトルｙ３がほぼＸ、と同様の値を持ったこと
になる。このような状態でＸｌに近い入力信号が入力さ
れた場合には、出力ｙ３を持つ出カニニットが強く発火
し、またＸ２に近い入力信号が入力された場合には出力
ｙ２を持つ出カニニットが強く発火することになる。

第６図は階層型ネットワーク１３の実施例である。同図
において、入力層のユニット数は自己組織化ネットワー
クと同様に入力図形シンボルの特徴を示す入力信号の個
数と一致し、また出力層のユニット数は図形の分類個数
、すなわち代表シンボルの個数と一致する。中間層のユ
ニット数は例えば入力層のユニット数と出力層のユニッ
ト数の平均値を目安として適当に設定される。

第６図の階層型ネットワークは、第２図の教師信号生成
部１２によって生成される教師信号を用いてパンクプロ
パゲーション法によって学習を行う。第６図において入
力層のに番目のユニットの出力値をｄｋ、中間層のｊ番
目のユニットの出力をり１、出力層のｉ番目のユニット
の出力をＯ１入力層のに番目のユニットと中間層のｊ番
目のユニットとの間の結合係数をＷｊｋ、中間層のｊ番
目のユニットと出力層のｉ番目のユニットとの間の結合
係数をＷｉＪとすると、入力層と中間層の間の入出力関
係、および中間層と出力層の間の入出力関係は次式によ
って与えられる。

ｈｒ　　＝１／　（１＋ｅ　ｘｐ　　（−ΣＷＪｋｄｋ
　　）　　）　　　（６）ｏ１＝１／（１＋ｅｘｐ　（
−ΣＷｔ＞ｈＪ））　　（７）バックプロパゲーション
法による学習、すなわち重みの更新は出力層への結合に
対してはΔＷｉＪ　（ｎ＋１）　＝７７　ＣＣｘ　　（
１０１）　〕（ｔｔ　　Ｏｔ　）ｈＪ十（ＩΔｗ＋ｊ（
ｎ）　　　（８）また中間層への結合に対しては ΔＷｊｋ（ｎ＋１） ＝η　〔ｈ、　（１ｈＪ　）　　Σδｉ　ＷＩＪ〕　ｄ
ｋ＋αΔＷｊｋ（ｎ　）　　　　　　　　　　　　　　
　　（９）ただしδｔ＝（ｏｌ（１−ｏ、）〕（ｔｌ　
−ｏｉ　）を用いて行われる。ここでｔ、は教師信号で
あり、自己組織化ネットワーク１１の出力を用いて教師
信号生成部１２によって作成されるものである。

またここでの学習係数αは自己組織化ふットワーク１１
の学習時ムこおける学習係数αとは異なるものである。

〔発明の効果〕

以上説明したように、本発明によれば外部から図形分類
用の教師信号を与えることなく、入力される図形シンボ
ルの分類を行うネットワークが自動的に構築されること
になり、システム開発の工数削減に寄与するところが大
きい。

２　・ １１　・ １２　・ １３　・ ・凹形分類手段、 ・自己Ｍｉ織化ネットワーク、 ・教師信号生成部、 ・階層型名ントワーク。

【図面の簡単な説明】

第１図は本発明の原理ブロフク図、 第２回は本発明の図形分類を行うニューラル名ットワー
クの実施例の構成を示すブロック図、第３図は自己組織
化ネットワークの実施例を示す図、 第４図；よ入力信号ベクトルと重みベクトルとの先端の
配置実施例を示す図、 第５図は自己組織化ネットワークの学習の実施例を示す
図、 第６図は階層型１ントワークの実施例の構成を示す図で
ある。 １・・・教師信号生成手段、

Claims (1)

1. 【特許請求の範囲】 １）図形シンボルの分類を行うニューラルネットワーク
   において、 入力される図形シンボルを複数の代表シンボルのいずれ
   かに分類し、該分類結果の代表シンボルに対応する教師
   信号を生成する教師信号生成手段（１）と、 該教師信号生成手段（１）の出力する教師信号を用いて
   学習を行った後に、未知の入力図形シンボルを前記複数
   の代表シンボルのいずれかに分類する図形分類手段（２
   ）を有することを特徴とする図形分類を行うニューラル
   ネットワーク。 ２）前記教師信号生成手段（１）が、１つの入力図形シ
   ンボルの特徴を示す複数の入力信号の個数と一致する入
   力層ユニットと、前記代表シンボルの個数と一致し、該
   入力層ユニットの全てと結合され、該各入力層ユニット
   への入力信号と該各入力層ユニットとの間の結合の結合
   係数との積の総和を出力信号として出力する出力層ユニ
   ットとから構成される自己組織化ネットワークと、該自
   己組織化ネットワークへの入力パターンと自己組織化ネ
   ットワークの出力パターンとを用いて教師信号を生成す
   る教師信号生成部とを有することを特徴とする請求項１
   記載の図形分類を行うニューラルネットワーク。 ３）前記教師信号生成手段（１）が、図形シンボルの入
   力パターンが入力される入力層ユニットと該図形シンボ
   ルの分類結果としての代表シンボルを示す出力パターン
   を出力する出力層ユニットとで構成される自己組織化ネ
   ットワークと、該入力パターンと自己組織化ネットワー
   クの出力パターンとを対応づけた教師信号を生成する教
   師信号生成部とから成り、 該自己組織化ネットワークが図形シンボルの入力に対し
   て正しい出力パターンを出力するための学習を行い、 該学習後に該教師信号生成部が生成する教師信号を用い
   て前記図形分類手段（２）が学習を行うことを特徴とす
   る請求項１記載の図形分類を行うニューラルネットワー
   ク。 ４）前記教師信号生成手段（１）内の自己組織化ネット
   ワークの学習時に、前記各入力層ユニットと各出力層ユ
   ニットとの間の全ての結合の結合係数を乱数で初期化し
   、 前記出力層ユニットへの各結合の結合係数を入力層ユニ
   ット数次元の要素とし、長さが１に正規化され、各出力
   層ユニットとそれぞれ対応する重みベクトルのそれぞれ
   と、入力ユニットへの各入力値を入力ユニット数次元の
   要素とし、長さが１に正規化されている入力信号ベクト
   ルとを、該重みベクトルに対しては各結合の結合係数を
   座標値、入力信号ベクトルに対しては各入力値を座標値
   とし、座標軸を共通とする平面上で比較し、該入力信号
   ベクトルの先端に最も近い先端を持つ重みベクトルに対
   応する出力層ユニットを最適ユニットとして決定し、 該最適ユニットからあらかじめ定められた半径内に存在
   する出力層ユニットの重みベクトルに対して該重みベク
   トルの要素としての結合係数の更新を行うことを特徴と
   する請求項３記載の図形分類を行うニューラルネットワ
   ーク。 ５）前記自己組織化ネットワークの学習時における結合
   係数の更新時に、前記半径を更新回数をの増加と共に単
   調減少する関数Ｎ（ｔ）とし、該Ｎ（ｔ）内に先端が存
   在する重みベクトルの要素しての結合係数に対して、前
   記入力信号ベクトルの要素のうちで該結合係数に対応す
   る要素と該結合係数との差と、更新回数をの増加と共に
   単調減少する関数である学習係数α（ｔ）との積を、該
   結合係数に加算して更新後の結合係数とすることを特徴
   とする請求項４記載の図形分類を行うニューラルネット
   ワーク。 ６）前記半径Ｎ（ｔ）、もしくは学習係数α（ｔ）が０
   となった時に前記自己組織化ネットワークの学習を終了
   することを特徴とする請求項５記載の図形分類を行うニ
   ューラルネットワーク。 ７）前記図形分類手段（２）が、入力層、１層以上の中
   間層、および出力層を有する階層型ネットワークであり
   、 前記教師信号生成手段（１）が出力する教師信号を用い
   てバックプロパゲーション法による学習を行うことを特
   徴とする請求項１記載の図形分類を行うニューラルネッ
   トワーク。