JPH0589247A - パターン空間からの特定パターンの分離方法およびその分離装置 - Google Patents

Abstract

(57)【要約】 【目的】 簡単な計算処理によって、ｎ次元パターン空
間に存在する複数にグループ化された複数パターンか
ら、特定グループのパターンを分離することができ、例
えば文字や画像の認識等に応用可能なパターン分離装置
を提供する。 【構成】 ●のパターン集合の平均Ｘ_avを求め、Ｘ_avに
最も近い点のベクトルをＸ_key とおく。Ｘ_key は●のパ
ターン集合の中心付近にあると考えられる。このＸ_key
を中心とたｎ次元空間を想定し、●のパターンが、○の
パターンよりも多く含まれるメイン平面を算出する。そ
して、メイン平面内に○のパターンが含まれる場合、こ
の他のパターンをメイン平面内のパターンから排除する
サブ平面を算出し、メイン平面外に●のパターンが含ま
れる場合、この●のパターンを他の○のパターンから分
離して取り込むサブ平面を算出する。これら各平面か
ら、特定パターン●を分離する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は、パターン空間からの
特定パターンの分離方法および分離装置に係り、例え
ば、階層型ニューラルネットワークにおける各ニューロ
ン素子結合重みを学習パターンから決定するための、分
離方法およびその分離装置に関する。

【０００２】

【従来の技術】例えば、文字や画像の認識を行う場合の
ように、ｎ次元のパターン空間を想定し、このパターン
空間に存在する複数にグループ化された複数のパターン
から、特定グループのパターンを分離する場合がある。
このような、特定のパターンを分離し、文字等の認識等
を行う場合、人間の脳神経系の仕組みを工学的に実現
し、情報処理を行おうとするニューラルネットワークが
注目されている。このニューラルネットワークは、複数
のニューロン素子から構成されており、所定の学習を行
うことにより、文字や図形等のパターン認識、音声の分
析や合成処理、連続的アナログデータの処理、多量デー
タの並列処理が効率的に行われる。ニューラルネットワ
ークは、データの伝搬を行う複数のニューロン素子から
成るニューロン素子網とその学習を制御する学習制御部
から構成されている。このニューロン素子網は、データ
が入力される入力層と、入力されたデータに対してデー
タが出力される出力層、およびこの両層間に配置された
１または複数の中間層から構成されている。そして、ニ
ューロン素子網の各層間におけるニューロン素子は、他
のニューロン素子に対して所定の強さ（結合重み）で結
合されており、この結合重みの値の違いにより出力信号
が変化するようになっている。

【０００３】このような階層構造に構成された従来のニ
ューラルネットワークでは、各ニューロン素子相互間の
結合重みを学習制御部により変化させることによって
「学習」という処理が行われる。学習は、入力層と出力
層の入出力数に対応して与えられる、アナログまたは２
値のデータ（パターン）によって行われる。いま、入力
データが入力層から学習パターンとして入力され、この
学習パターンの入力に対して出力層からある出力信号が
出力される。この出力信号に対する正解が一般に教師信
号と呼ばれている。そして、出力信号と教師信号との誤
差が小さくなるように、または一致するように各ニュー
ロン素子の結合重みを修正する処理を、複数の学習パタ
ーンに対して実行することによって学習が行われる。

【０００４】このような、教師信号に出力信号が一致す
るように、ニューロン素子網における各ニューロン素子
間の結合重みを修正する具体的方法として、従来から誤
差逆伝播法（以下、ＢＰ法という。）が用いられてい
る。ＢＰ法は、出力層での出力値と教師信号との２乗誤
差を最小にするために、このニューラルネットワークを
構成する全ての層間における各ニューロン素子相互間の
結合重みを修正するものである。すなわち、出力層にお
ける誤差は、各中間層のニューロン素子で生じる個々の
誤差が積算されたものであると判断し、単に出力層から
の誤差だけでなく、その原因となっている各中間層のニ
ューロン素子の誤差も最小となるように結合重みを修正
する。そのために出力層、各中間層のニューロン素子毎
の全ての誤差を計算処理する。この計算処理は、出力層
のニューロン素子の個々の誤差値を初期条件として与え
て、ｎ番目の中間層の各ニューロン素子の誤差値、（ｎ
−１）番目の中間層の誤差、……、といったように、逆
の方向に計算処理を行う。このようにして求めた各ニュ
ーロン素子の持つ誤差値と、その時点での結合重みを用
いて、結合重みの修正値を算出する。以上の学習処理
を、教師信号との誤差が一定値以下となるまで、または
所定回数だけ、全ての学習パターンについて繰り返すこ
とにより、学習が終了する。

【０００５】

【発明が解決しようとする課題】しかし、従来から行わ
れているＢＰ法による階層型ニューラルネットワークの
学習は、修正値を算出するための誤差の計算処理が複雑
であった。このため、ＢＰ法は、学習が終了するまでに
時間がかかるという問題があった。また、ＢＰ法では、
局所的最小値に陥る可能性があるという欠点があった。

【０００６】そこで本発明の目的は、簡単な計算処理に
よって、ｎ次元のパターン空間に存在する複数にグルー
プ化された複数のパターンから、特定グループのパター
ンを分離することができ、例えば文字や画像の認識等に
応用可能なパターン空間からの特定パターンの分離方法
およびパターン分離装置を提供することにある。

【０００７】

【課題を解決するための手段】請求項１記載の発明で
は、ｎ次元のパターン空間を想定し、このパターン空間
に存在する複数にグループ化された複数のパターンか
ら、特定グループのパターンが他のパターンよりも多く
含まれるメイン平面を算出する第１のステップと、この
第１のステップで算出したメイン平面内に他のパターン
が含まれる場合、この他のパターンをメイン平面内のパ
ターンから排除するサブ平面を算出する第２のステップ
と、前記第１のステップで算出したメイン平面外に特定
グループのパターンが含まれる場合、このパターンを他
のパターンから分離し取り込むサブ平面を算出する第３
のステップと、これらの各ステップで算出された各平面
により特定パターンを分離する第４ステップにより、ｎ
次元パターン空間から特定パターンを分離する。

【０００８】請求項２記載の発明では、ｎ次元のパター
ン空間を想定し、このパターン空間に存在する複数にグ
ループ化された複数のパターンから、特定グループのパ
ターンが他のパターンよりも多く含まれるメイン平面を
算出する第１の算出手段と、この第１の算出手段で算出
したメイン平面内に他のパターンが存在する場合、この
他のパターンをメイン平面内のパターンから排除するサ
ブ平面を算出する第２の算出手段と、前記第１の算出手
段で算出したメイン平面外に特定グループのパターンが
存在する場合、このパターンを他のパターンから分離し
て取り込むサブ平面を算出する第３の算出手段と、これ
ら第１から第３の算出手段で算出した各平面により特定
パターンを分離する分離手段とをパターン空間からの特
定パターン分離装置に具備させる。

【０００９】

【実施例】以下、本発明のパターン空間からの特定パタ
ーンの分離方法およびその分離装置において、ニューラ
ルネットワークの結合重みを決定する場合の実施例につ
いて図面を用参照して詳細に説明する。図１は、本実施
例における特定パターンの分離装置によって結合重みが
決定されるニューラルネットワークの構成を表したもの
である。このニューラルネットワークは、入力層がＬ
個、中間層がＭ個、出力層がＮ個のニューロン素子によ
って、それぞれ構成されている。図１では、一部を省略
したが、中間層の各ニューロン素子（中間ニューロン素
子）は入力層の全てのニューロン素子（入力ニューロン
素子、Ｌ個）と結合しており、また、出力層の各ニュー
ロン素子（出力ニューロン素子）は全ての中間ニューロ
ン素子（Ｍ個）と結合している。そして、各中間ニュー
ロン素子は、後述のようにして算出されるメイン平面お
よびサブ平面のそれぞれに対応して選定され、使用され
る。また、出力ニューロン素子は、特定の中間ニューロ
ン素子とのみ、結合重み“１”で結合されている。そし
て他の中間ニューロン素子とは結合重み“０”で結合さ
れ、実質的に結合されていない状態となる。各ニューロ
ン素子は、専用のハードウェアで構成されるが、ノイマ
ン型コンピュータのソフトウェアによって構成してもよ
い。

【００１０】図２は、このようなニューラルネットワー
クの各結合重みを決定するための、特定パターンの分離
装置の構成を表したものである。この特定パターンの分
離装置は、ニューラルネットワークの各学習データをｎ
次元のパターン空間上に想定して、特定の学習パターン
を、パターン空間からメイン平面、サブ平面により分離
することによって、各ニューロン素子間の結合重みを算
出する等の各種の制御を行うＣＰＵ（中央処理装置）１
１を備えており、このＣＰＵ１１は、データバス等のバ
スライン１２によって次の各部と接続されている。すな
わち、ニューラルネットワークの各ニューロン素子間の
結合重みの決定等をＣＰＵ１１で行うための各種プログ
ラムを格納したＲＯＭ（リード・オンリ・メモリ）１３
が接続されている。

【００１１】またバスライン１２には、学習パターン、
その他各種データを格納するＲＡＭ（ランダム・アクセ
ス・メモリ）１４、認識する入力データとしての文字や
図形を読み取るイメージリーダ１７、各種制御の開始や
終了等を指示する入力装置としてのキーボード１８、ニ
ューラルネットワークの各ニューロン素子に対して決定
した結合重みを供給する結合重みＩ／Ｏ（入出力ポー
ト）１９、中間層の活性化状態や出力層からの各出力値
が供給される出力信号Ｉ／Ｏ２０、学習パターン等の各
種データが入出力されるデータＩ／Ｏ２１等の各種Ｉ／
Ｏが接続されている。さらに、バスライン１２には、図
示しない音声認識のための音声入力装置等が必要に応じ
て接続されている。

【００１２】このように構成された結合重み決定装置に
よる結合重みの決定方法について、次に説明する。な
お、本実施例では、動作の理解をおよび説明の簡単のた
めに、入力層、中間層および出力層の３層ネットワーク
に対するアルゴリズムについて説明することとする。１．パターン分離アルゴリズムの概要 まず、学習パターンに対して、図３のようなパターン空
間を考える。この図において、パターン空間上に存在す
る複数の点○と●が、それぞれ学習パターンを示してい
る。ニューラルネットワークによる文字や図形等の認識
とは、あるパターンの集合を、他のパターンの集合と分
離することである。このパターン分離は、出力層におけ
る１つのニューロン素子から見ると、中間ニューロン素
子が、パターン空間を分ける超平面を形成することであ
る。

【００１３】ここで、文字認識では、図３に示されるよ
うに、同じ種類のパターンは、近くに集まっていると考
えられる。このパターン分離アルゴリズムは、●のパタ
ーンと○のパターンを完全に分離する超平面を構成す
る。この場合、簡単な問題であれば、適切な平面を作成
することによって、１つの分離平面でパターンを分離す
ることが可能となる。しかし、複雑な問題に対しては、
平面で単純に分離しても、分離した領域の中に異なるパ
ターンの○が入り、１つの分離平面では充分に分けるこ
とができない集合がある。そこで、メイン平面とサブ平
面を考え、最初にメイン平面で大局的な分離を行い、分
離できなかった領域をサブ平面で分離する。

【００１４】２．パターン分離アルゴリズムの詳細 （１）定義 ●のパターン集合の平均を求め、これをＸ_avとし、Ｘ_av
に最も近い点のベクトルをキーポイントとし、Ｘ_key と
おく。Ｘ_key は●のパターン集合の中心付近にあると考
えられる。ここで、Ｘ_ye,dis、Ｘ_no,clo、Ｈａｍ〔Ｘ，
Ｙ〕を以下のように定義する。 Ｘ_ye,dis：“１”出力となる入力ベクトルで、Ｘ_keyか
ら最も遠い点 Ｘ_no,clo：“０”出力となる入力ベクトルで、Ｘ_key か
ら最も近い点 Ｈａｍ〔Ｘ，Ｙ〕：ベクトルＸ、Ｙ間のハミング距離

【００１５】このような各定義により各結合重みの決定
動作について説明する。 条件１：Ｈａｍ〔Ｘ_key ，Ｘ_ye,dis〕＜Ｈａｍ〔Ｘ
_key ，Ｘ_no,clo〕 この条件を満足する場合にはＫ＝Ｈａｍ〔Ｘ_key ，Ｘ
_no,clo〕−１としてに移行する。この条件を満足市し
ない場合には、Ｋ＝１としてに移行する。 Ｘ_key からのハミング距離Ｋの点で、 条件２：（●の個数＜○の個数）ｏｒ（Ｋ＞Ｈａｍ〔Ｘ
_key ，Ｘ_ye,dis〕） この条件を満足する場合には、に移行する。この条件
を満足しない場合には、Ｋ＝Ｋ＋１としてに移行す
る。 Ｋの値からメイン平面およびサブ平面を以下の手順に
よって作成する。

【００１６】先ずメイン平面の作成について説明する。
いま、ｎ個の学習パターンからＡ〜Ｚのグループにニュ
ーラルネットワークで認識させる場合を考える。図３に
示したように、Ａグループを認識することは、Ａグルー
プに対応する出力ニューロン素子から信号“１”が出力
され（以下、この明細書において、ニューロン素子から
“１”の出力信号が出力されることを「発火する」とい
う。）、これ以外のニューロン素子が発火しなければよ
い。Ａグループに対応する出力ニューロン素子から見る
と、Ａのパターンに発火し、Ａグループ以外のパターン
に発火しなければよい。そのためには、Ａのみを囲む平
面を作成する。１つの平面が１つの中間ニューロン素子
に相当し、囲む平面に相当する中間ニューロン素子のみ
が、Ａに対応する出力ニューロン素子と結合する。つま
り、そのグループを幾つの平面で囲むかによって使用さ
れる中間ニューロン素子の数が決定される。

【００１７】ここで、入力層と中間層の結合重みの決定
について説明する。Ｘ_key ＝｛０，０，０，…，０｝の
場合、Ｘ_key のハミング距離Ｋ以内と（Ｋ＋１）以上の
領域は、次の平面の方程式（１１）で作成され分離され
る（図４）。この式（１１）において、Σの範囲は、ｋ
について１からｎまでであり、ｎは整数である。 Σｘ_k ＝｛Ｋ＋（Ｋ＋１）｝／２ ……（１１） Ｘ_key が原点以外である場合には、次の式（１２）の座
標変換により、平面を変換して、式（１１）を適用す
る。 ｘ_k → １−ｘ_k ……（１２）

【００１８】式（１１）において、ｘ_k の係数が、平面
に対応して選定された中間ニューロン素子における、各
入力ニューロン素子との結合重みとなる。従って、結合
重みは、“１”または“−１”の値を取るとこととな
る。そして、右辺の値が、その中間ニューロン素子のし
きい値となる。

【００１９】ここで、平面の“表”と“裏”を次の式
（１３）と式（１４）により定義する。このΣの範囲も
式（１１）と同じである。 Σｘ_k −｛Ｋ＋（Ｋ＋１）｝／２ ＜ ０ ……（１３） Σｘ_k −｛Ｋ＋（Ｋ＋１）｝／２ ＞ ０ ……（１４） この式（１３）を満たす領域をその平面の“表”とし、
式（１４）を満たす領域をその平面の“裏”定義する。
そして、中間ニューロン素子の特性関数は、式（１３）
を満足する場合に発火し、式（１４）を満足する場合に
発火しないように設定する。つまり、対象とするグルー
プをメイン平面とサブ平面の“表”で囲むようにする。
あるパターンが入力されたとき、そのパターンが“表”
平面に対応する中間ニューロン素子が発火することとな
る。

【００２０】一方、サブ平面の作成は、図３において、
メイン平面内の○の点、およびメイン平面外の●の点に
ついて、上記のアルゴリズムを繰り返す。すなわち、メ
イン平面内の○を排除するようにサブ平面を作成すると
共に、メイン平面外の●を取り込むようにサブ平面を作
成する。このサブ平面の作成は、全ての●を取り込み、
全ての○を排除するまで作成する。

【００２１】次に中間層と出力層の結合重みの決定につ
いて説明する。図５は、特定のグループをメイン平面と
サブ平面を囲んだ状態を表したものである。この図に示
すように、●のグループ（Ａグループとする）の囲み方
には、次の２種類存在している。すなわち、メイン平面
と複数のサブ平面とで囲む方法（ａ方法）と１つのサブ
平面で囲む方法（ｂ方法）である。そして、ａ方法によ
る領域は１か所に存在し、ｂ方法による領域は複数箇所
に存在する。ここで、ａ方法で囲む平面に対応する中間
ニューロン素子とＡグループに対応する出力ニューロン
素子との結合重みを“１”とし、そのしきい値は、「ａ
方法で囲む平面の個数−０．５」とする。すると、ある
パターンが入力されたとき、ａ方法の囲む平面が全て表
である領域内のパターンであれば、出力ニューロン素子
は発火する。つまり、ａ方法で囲まれた領域内のパター
ンのみに発火することとなる。一方、ｂ方法で囲む領域
は、メイン平面の裏側であり、ａ方法で形成される全て
のサブ平面の表側である。従って、メイン平面の裏側の
領域では、出力ニューロン素子が発火するには、結合重
みが１だけ足りないこととなる。そこで、ｂ方法で囲む
平面に対応する中間ニューロン素子と、Ａグループに対
応する出力ニューロン素子の結合重みを“１”とする
と、ｂ方法による領域内に対して、結合重みが、しきい
値を越えるため、出力ニューロン素子は発火することと
なる。

【００２２】次に簡単な具体例をもとに、結合重み決定
動作を説明する。いま、入力ニューロン素子が４個のと
き、図６のように分離するネットワークを作成する。こ
のとき“１”を出力するパターンは、Ｘ_key ＝（０，
０，０，０）となる。図７は、このＸ_key を基準にした
パターン空間を表したものである。この図７からも理解
されるように、メイン平面は、ハミング距離が１と２の
領域を分けるように作られ、平面の表側は、Ｘ_key の方
向を向く。そして、サブ平面は（０，０，１，０）、
（０，１，１，１）、（１，０，１，１）を分けるよう
に、３個作成され、合計４個の分離平面、つまり中間ニ
ューロン素子が必要となる。（ｘ_1,ｘ_2,ｘ_3,ｘ_4,）とす
ると、各平面は次の式（１５）、（１６）、（１７）、
（１８）となる。 ｘ₁ ＋ｘ₂ ＋ｘ₃ ＋ｘ₄ ＝１．５ ……（１５） ｘ₁ ＋ｘ₂ ＋（１−ｘ₃ ）＋（１−ｘ₄ ）＝０．５ ……（１６） ｘ₁ ＋（１−ｘ₂ ）＋（１−ｘ₃ ）＋（１−ｘ₄ ）＝０．５ ……（１７） （１−ｘ₁ ）＋ｘ₂ ＋（１−ｘ₃ ）＋（１−ｘ₄ ）＝０．５ ……（１８） これらの式のうち、式（１５）で表される平面がメイン
平面で、他の平面がサブ平面である。

【００２３】この例では、ａ方法による領域を、２つの
平面で囲むことになるから、出力ニューロン素子のしき
い値は、１．５となる。従って、式（１５）、（１
６）、（１７）、（１８）から、中間ニューロン素子の
発火の条件は、次のようになる。 １．５−ｘ₁ −ｘ₂ −ｘ₃ −ｘ₄ ＞０ ０．５＋ｘ₁ ＋ｘ₂ −ｘ₃ ＋ｘ₄ ＞０ −２．５−ｘ₁ ＋ｘ₂ ＋ｘ₃ ＋ｘ₄ ＞０ −２．５＋ｘ₁ −ｘ₂ ＋ｘ₃ ＋ｘ₄ ＞０

【００２４】図８は、このようにして作成されたニュー
ラルネットワークを表したものである。この図８におい
て、入力ニューロン素子、入力値が“０”のとき値
“０”を出力し、入力値が“１”のとき“１”を出力す
る。そしてニューロン素子は入力値と、しきい値の総和
が０以上であれば、“１”を出力し、それ以外は“０”
を出力するものとする。

【００２５】３．計算機シュミレーション。 入力ニューロン素子３２４個（１８×１８）、中間ニュ
ーロン素子９６個、出力ニューロン素子２６個のニュー
ラルネットワークでシュミレーションを行った。学習パ
ターンは、英字ａ〜ｚの各文字に対して、それぞれ５個
のパターンを作り、合計２６×５＝１３０個とする。こ
れをイメージリーダ１７から、印刷された文書として読
み込んで、結合重みを決定する実験を行った。ＢＰ法に
よる学習では、結合重みを決定するまでに、数時間の学
習時間を必要とするが、本実施例により結合重みを決定
した場合には、約１分で終了した。なお、構成されたニ
ューラルネットワークの汎化能力を調べるため、提示パ
ターンにノイズを加えたものを認識させたが、図９に示
すように、パターンのノイズによる認識率の低下は穏や
かなものであった。なお、イメージリーダ１７から英字
を読み込む場合、読み込んだデータを図示しないビット
マップメモリに展開し、これを各入力ニューロン素子と
対応する１８×１８に区分する。そして、区分内のドッ
ト情報について、多数決によってデータの有無を判定
し、各入力ニューロン素子への入力データとした。

【００２６】以上説明したように、本実施例によれば、
計算により、ニューラルネットワークの各入力ニューロ
ン素子間の結合重みを直接算出するので、学習に要する
時間を大幅に短縮することが可能となるまた、学習の結
果、局所的極小値に陥ることなく、結合重みを決定する
ことができる。さらに、結合重みは、“１”と“−１”
の２値のみを取るので、ニューラルネットワークのハー
ドウェア化が容易になる。あるいは、ソフトウェアシュ
ミレーションによるニューラルネットワークに用いた場
合でも、簡単な整数演算で結合重みを決定するので、高
速処理が可能となる。

【００２７】

【発明の効果】本発明によれば、簡単な計算処理によっ
て、ｎ次元のパターン空間に存在する複数にグループ化
された複数のパターンから、特定グループのパターンを
分離するすることができ、例えば文字や画像の認識等に
容易に応用することが可能となる。

【図面の簡単な説明】

【図１】本発明の実施例における特定パターンの分離装
置によって結合重みが決定されるニューラルネットワー
クの構成図である。

【図２】同上、ニューラルネットワークの各結合重みを
決定するための、特定パターンの分離装置の構成図であ
る。

【図３】まず、学習パターンに対するパターン空間を説
明するための説明図である。

【図４】Ｘ_key ＝｛０，０，０，…，０｝の場合、Ｘ
_key のハミング距離Ｋ以内と（Ｋ＋１）以上の領域を分
離する状態を説明する説明図である。

【図５】特定のグループをメイン平面とサブ平面を囲ん
だ状態を示す説明図である。

【図６】あるニューラルネットワークを作成するための
学習パターンの例を示す図である。

【図７】図６において、Ｘ_key を基準にしたパターン空
間を表した説明図である。

【図８】図６の学習パターンにより作成されたたニュー
ラルネットワークを示す図である。

【図９】提示パターンのノイズと認識率の関係を示す説
明図である。

【符号の説明】

１１ ＣＰＵ １３ ＲＯＭ １４ ＲＡＭ １７ イメージリーダ １６ 修正値テーブル １９ 結合重みＩ／Ｏ ２０ 出力信号Ｉ／Ｏ ２１ データＩ／Ｏ

Claims (2)

【特許請求の範囲】
1. 【請求項１】 ｎ次元のパターン空間を想定し、このパ
   ターン空間に存在する複数にグループ化された複数のパ
   ターンから、特定グループのパターンが他のパターンよ
   りも多く含まれるメイン平面を算出する第１のステップ
   と、 この第１のステップで算出したメイン平面内に他のパタ
   ーンが含まれる場合、この他のパターンをメイン平面内
   のパターンから排除するサブ平面を算出する第２のステ
   ップと、 前記第１のステップで算出したメイン平面外に特定グル
   ープのパターンが含まれる場合、このパターンを他のパ
   ターンから分離し取り込むサブ平面を算出する第３のス
   テップと、 これらの各ステップで算出された各平面により特定パタ
   ーンを分離する第４ステップとを備えたことを特徴とす
   るパターン空間からの特定パターンの分離方法。
2. 【請求項２】 ｎ次元のパターン空間を想定し、このパ
   ターン空間に存在する複数にグループ化された複数のパ
   ターンから、特定グループのパターンが他のパターンよ
   りも多く含まれるメイン平面を算出する第１の算出手段
   と、 この第１の算出手段で算出したメイン平面内に他のパタ
   ーンが存在する場合、この他のパターンをメイン平面内
   のパターンから排除するサブ平面を算出する第２の算出
   手段と、 前記第１の算出手段で算出したメイン平面外に特定グル
   ープのパターンが存在する場合、このパターンを他のパ
   ターンから分離して取り込むサブ平面を算出する第３の
   算出手段と、 これら第１から第３の算出手段で算出した各平面により
   特定パターンを分離する分離手段とを具備することを特
   徴とするパターン空間からの特定パターン分離装置。