JP2003228706A - データ分類装置 - Google Patents

Abstract

(57)【要約】 【課題】 自律的に動作し、かつマップ上のプロトタイ
プの数に配慮したデータ分類装置を提供する。 【解決手段】 複数の学習条件パラメータの下で、ＳＯ
Ｍ学習部３１が複数のマップを生成し、量子化誤差及び
ＴＰを用いてマップ選択部３２が当該複数のマップから
好適なものを選択し、当該選択されたマップの学習条件
により、再帰的に学習条件パラメータが調整され、学習
結果として出力されたマップに対して、当該マップ上の
プロトタイプの隣接関係及び重みベクトルの距離等に基
づきクラスタ境界決定部２２によりクラスタ境界が設定
され、当該境界部にプロトタイプが追加されて、再度学
習、クラスタ境界の設定が行われる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、画像、音声を含む
感覚データ等、種々のデータを分類するデータ分類装置
に関する。

【０００２】

【従来の技術】近年、情報機器の普及・発展に伴い、人
々が受取る情報量はますます増加している。このような
背景の下では、必要な情報を選びやすくするため、人間
の介入なしに情報を認識し分類する技術の開発が要望さ
れている。

【０００３】こうした要望に対し、分類対象のデータに
ついて比較して類似性のあるもの同士を一群のデータと
して分類する、クラスタリング方法が考えられている。
ここで類似性の判断に際しては、最尤度推定法、K-mean
s法、併合法、MDS（Multi-Dimensional Scaling）法な
どが知られている。

【０００４】

【発明が解決しようとする課題】しかしながら、上記従
来のクラスタリング方法は、パラメータの設定等、人間
の介入が不可欠で、自律的にクラスタリング処理を実行
できないという問題点があった。

【０００５】［関連技術］一方、比較的自律的にクラス
タリング処理を行うための方法として、入力画像データ
を格子空間マップ上で分類整理するものがある。この分
類整理のためには、例えば自己組織化特徴マッピング
（以下、ＳＯＭと略す）（T. コホーネン Self-organiz
ing formation of topologically correct feature map
s. Biological Cybernetics, 1982）を利用している。
このＳＯＭは、データが入力される入力層と、格子空間
マップの競合層とからなる２階層のネットワークで、入
力はある重みづけがされ、各格子に入力される。入力各
成分についての重みづけをまとめたものを重みベクトル
と称する。

【０００６】当初、重みベクトルは次の方法で初期化さ
れる。すなわち、上記コホーネンの文献に示されるよう
に、学習の対象となる複数の入力ベクトル（ここでの特
徴量セットに相当する）の中からプロトタイプ数と同数
の入力ベクトルＩをランダムに選び出し、各格子の重み
ベクトルの初期化を行う。また、同じく、コホーネンに
よれば、各重みベクトルに乱数で初期値を設定すること
としても構わない。

【０００７】次に、重みベクトルの学習を行う。この学
習課程においては、学習用の特徴量セットが生成され、
当該学習用特徴量セットと格子空間上の各格子の重みベ
クトルとの所定測度（例えばユークリッド距離）が演算
される。そして各格子のうち、関係が最大（測度が最
小）となる格子（勝利ノード）を見いだす。そして格子
空間上、その格子（勝利ノード）に対し近傍に存在する
各格子について、学習用特徴量セットとの測度が小さく
なるように、その重みベクトルを補正する。このような
重みベクトルの補正を行いつつ学習を繰り返すことで、
互いに類似する特徴量からなる特徴量セットに対し、最
小測度を有する格子が特定の領域に集中するようにな
り、データの分類に適用可能な状態となる。ここで、重
みベクトルを補正する対象となる格子を選ぶにあたり、
勝利ノードからのマップ上の距離を用いる。また、補正
量は、勝利ノードｃからの距離に応じて変化させること
が好ましく、補正量の大きさも変更可能としておくこと
が好ましい。一般的には、次の（１）式のように近隣の
ノードの重みベクトルＩに近づくよう重みベクトルwを
補正する。

【０００８】

【数１】 なお、

【数２】 ここで、α（ｔ）は、補正量の大きさを支配する量で、
学習係数と呼ばれる。また、σ（ｔ）は、重みベクトル
を修正する範囲の変化を決定する関数であり、近傍関数
と呼ばれる。これらは時間ｔに対し、ともに単調減少す
る関数である。勝者ノードを中心にマップ上のノード間
距離Ｒmaxが、

【数３】 の範囲に属する格子について（１）式による補正が行わ
れるが、学習の繰り返しの中で、Ｒmaxはσ（ｔ）によ
って減少する。近傍関数σ（ｔ）としては、トライアン
グル型、レクトアングル型（四角）、メキシカンハット
型等の関数を用いる。この近傍関数σ（ｔ）の選択によ
っても、学習結果に影響があることが知られている。な
お、ｔは、「時刻」であり、特徴量セットが入力される
ごとにインクリメントされる。また、||rc-rj||は、勝
利ノードと、重みベクトルの補正対象ノードの間のノル
ム（距離）である。

【０００９】しかし、上記技術をそのまま適用したので
は、直ちに自律的なデータ分類を行うことはできない。
自律的なデータ分類を実現するには、まず、学習後の格
子空間マップが適切なものであるかの判断が必要であ
る。すなわち、（１）最適な格子空間マップを獲得する
方法が必要である。また、当該学習後の格子空間マップ
を利用してデータ分類を行うときには、分類の基準とな
る境界線を上記格子空間上に形成し、分類対象として与
えられたデータについての特徴量セットに対して最小測
度を有する格子が、どの境界線内に属するか（この境界
線で区切られた格子空間上の領域を以下、クラスタと呼
ぶ）に基づき、当該データを分類することが適切であ
る。すなわち、（２）クラスタの境界を決定する方法も
求められる。

【００１０】このうち、（１）最適な格子空間マップを
獲得する方法として、コホーネンは、平均量子化誤差が
最小となるマップを選択するという方法を提案してい
る。つまり、学習条件を互いに異ならせて形成した複数
の格子空間マップのうち、平均量子化誤差が最小のもの
を選択し、これを近似的に最適な格子空間マップとする
のである。この方法によると、入力される特徴量セット
の空間のトポロジーがマップのトポロジーに反映されな
い。いわば、トポロジーの保存度が低い。これは、クラ
スタリングの方法によっては誤分類に結びつくこともあ
る。

【００１１】トポロジーの保存に配慮したものとして、
トポロジー関数（topographic function）と呼ばれる所
定の指標を学習中にモニタし、これにより学習条件を制
御して適切なマップを形成する技術（Auto-SOM法）も開
発されている。しかし、トポロジー関数の演算自体が負
荷の高い処理であるため、学習時間が長くなる問題点が
ある。

【００１２】次に（２）クラスタの境界を自律的に決定
する方法としては、U-Matrix（Unified Distance Matri
x Methods）法と呼ばれる方法や、ポテンシャル法と呼
ばれる方法が研究されている。ここで、U-Matrix法につ
いては、A.Ultsch et. al.,"Knowledge Extraction fro
m Artificial Neural Networks and Applications",Pro
c.Transputer Anwender Treffen/ World Transputer Co
ngress TAT/WTC 93Aachen, Springer 1993に詳しく開示
されている。U-Matrixでは、マップ上で隣接する２つの
格子間の距離を次のように定義する。すなわち、当該２
つの格子の各重みベクトルの成分毎の差について、その
絶対値を総和したものや、当該差の二乗平均などを距離
として定義するのである。すると、類似性の高い特徴量
セットにそれぞれ強く結合（重みベクトルが特徴量セッ
トに近い値を持つもの、このようなものを以下、「特徴
量セットにプロトタイピングされている」と表現する）
している隣接格子間、つまり、類似性の高い２つの特徴
量セットのそれぞれにプロトタイピングされている隣接
格子間の上記距離は小さくなり、類似性の低い２つの特
徴量セットのそれぞれにプロトタイピングされている隣
接格子間の距離は大きくなる。そこでこの距離の大きさ
を高さとした３次元的な面を考えると、互いに類似する
特徴量セットにプロトタイピングされた格子間に対応す
る面の高さは低くなり「谷」を形成するのに対し、互い
に異なる特徴量セットにプロトタイピングされた格子間
に対応する面の高さは高くなり「山」を形成する。従っ
てこの「山」に沿って境界線を形成すれば、類似性の高
い特徴量セットにプロトタイピングされている格子の集
合（クラスタ）を規定できる。U-Matrixは、いわば、自
己組織化マップでは入力空間での距離が保存されない点
を補強したものであるということができる。

【００１３】しかしU-Matrixは、「山」と「谷」との高
低差が明瞭であれば境界を規定できるものの、現実の情
報処理では「山」と「谷」との高低差は期待されるほど
明瞭にならず、３次元面の高さはゆるやかに変化するこ
とも多い。この場合には、人為的に境界線を設定する必
要があって、必ずしも自律的に境界が決定できるわけで
はない。

【００１４】一方のポテンシャル法は、D.Coomans, D.
L.Massart,Anal.Chem.Acta.,5-3,225-239(1981)に開示
されているもので、事前に定めたポテンシャル関数を用
いて、入力データに対する関数の値を重ね合わせて入力
データを近似的に表現する母集団の確率密度関数を推定
し、重なりあいの少ない部分を境界として決定するとい
うものである。ポテンシャル関数としてはガウシアン型
の関数とすることが多い。具体的には、Ｎ個の入力ベク
トルからなる入力データ群があるとき、それぞれＫ次元
の大きさを持つとするとｌ番目の入力データが他の入力
データから受ける平均的なポテンシャル（ｌ番目入力が
全体の入力集合に対する寄与率）Ψｌを次の（２），
（３）式によって定義する。

【００１５】

【数４】 尚、ｘklはｌ番目入力のｋ番目の成分を意味する。ま
た、αはスムージングパラメータで分類されるクラスタ
の数に影響を与える。従って、ポテンシャル法では、そ
の分布形状を仮定する分布関数の最適化や、各種パラメ
ータの最適化が入力ベクトル集合ごとに求められ、要す
るに分類対象となるデータの特性について事前に知識が
必要であるうえ、人為的調整が不可欠となる。また、こ
のポテンシャル法では、入力データから得られる特徴量
セットが高次元になると、それについて適切な確率密度
分布を求めるにはサンプルが多数なければならず、少数
の格子からなるマップに対しての適用が困難であるとい
う問題点がある。つまり、ポテンシャル法についても、
必ずしも自律的に境界が決定できるわけではない。

【００１６】これらの問題点を解決するため、例えば特
開平７−２３４８５４号公報、特開平８−３６５５７号
公報、「自己組織化特徴マップ上のデータ密度ヒストグ
ラムを用いた教師無しクラスタ分類法」，電子情報通信
学会論文誌D-II Vol.J79-DIINo.7 pp.1280-1290, 1996
年７月などに開示された技術が研究されている。しかし
ながら、どの技術においても、入力されるデータの構成
自体や、マッピングの結果において、分類に使いたい特
徴が十分な距離をあけて各格子にプロトタイピングされ
ることを前提としており、画像データの分類において例
えば見られるような、分類してほしい特徴毎の分布形状
の差異や重なり、その特徴にプロトタイピングされてい
る格子のマップ上の位置の重心間の距離にばらつきがあ
る場合などでは、マップ上でクラスタの境界が複雑に入
り組むため、適切なクラスタリングができなくなる。

【００１７】さらに、関連技術においては、マップ上の
格子の数については研究の過程で経験的に決定するだけ
で、実際の用途に適合した適切な格子の数を決定すると
いったことは配慮されていなかった。しかしながら、適
切な数よりも格子の数が少ない場合、クラスタ境界部の
格子と、別のクラスタに属するべき特徴量セットが強く
結合されてしまう場合があり、この場合は分類誤りが多
くなる。この点について、格子の数を追加／削減して平
均量子化誤差が所定量を下回るようにするという技術
が、James S. Kirk et. al. "A Self-Organized Map wi
th Dynamic Architecture for Efficient Color Quanti
zation", IJCNN'01, 2128-2132に開示されている。尤
も、この技術では、入力データに対応する特徴量セット
の空間でのデータ分布を写像した格子が追加等されるだ
けなので、データ分類において重要となる、クラスタ境
界付近の格子の数を増大させるというようなことには配
慮されていない。そこで例えば当初から格子の数を多く
しておくこととしてもよいが、この場合、計算時間が長
くなって実用的でない。

【００１８】本発明は、上記実情に鑑みて為されたもの
で、自律的に動作し、かつマップ上のプロトタイプの数
に配慮したデータ分類装置を提供することを目的とす
る。

【００１９】

【課題を解決するための手段】上記従来例の問題点を解
決するための本発明は、入力されるデータに基づく学習
を、自己組織化マップを用いて行い、その学習の結果を
利用してデータを分類するデータ分類装置であって、複
数の学習用パラメータのそれぞれに対応する複数の自己
組織化マップを学習形成する手段と、前記学習形成され
た複数の自己組織化マップのそれぞれを評価し、当該評
価の結果に基づき、前記学習用パラメータを調整する手
段と、を有し、調整後の学習用パラメータにより、自己
組織化マップの学習形成が再度行われることを特徴とし
ている。

【００２０】また、上記従来例の問題点を解決するため
の本発明は、入力される複数のデータにより、マップ空
間内の複数のプロトタイプの結合重みを調整し、プロト
タイプマップを学習形成するマッピング手段と、各プロ
トタイプ間で定義される所定測度を演算し、前記測度に
基づいて各プロトタイプを複数のクラスタに分類するク
ラスタリング手段と、を含み、クラスタに分類されたプ
ロトタイプマップが、データの分類処理に供されること
を特徴としている。ここで前記測度は、プロトタイプ間
の類似度の低下に伴ってその値が所定の微分値より急速
に０に漸近する関数を用い、当該関数の値として演算さ
れ、当該関数の値としての測度を用いて前記注目プロト
タイプの属するべきクラスタを決定することも好まし
い。

【００２１】ここで、前記クラスタリング手段は、各プ
ロトタイプの属するクラスタを仮に決定し、各クラスタ
ごとに、各クラスタに属している少なくとも１つのプロ
トタイプと、クラスタに分類する対象となった注目プロ
トタイプとの間の測度を演算し、前記演算された測度に
基づき、前記注目プロトタイプの属するべきクラスタを
決定することとするのも好ましい。

【００２２】また、前記クラスタリング手段は、（ａ）
各プロトタイプの属するクラスタを仮に決定し、（ｂ）
各プロトタイプを順次、クラスタに分類する対象となる
べき注目プロトタイプとして選択し、（ｃ）各クラスタ
ごとに、各クラスタに属している少なくとも１つのプロ
トタイプと、前記注目プロトタイプとの間の測度を演算
し、（ｄ）前記演算された測度に基づき、前記注目プロ
トタイプの属するべきクラスタを必要に応じて変更し、
前記（ｂ）、（ｃ）、（ｄ）の処理を、各プロトタイプ
の属するべきクラスタの変更がなくなるまで繰返して行
って、各プロトタイプをクラスタに分類することとする
のも好ましい。この場合、測度演算に用いるパラメータ
をプロトタイプ間の類似度の出現頻度分布に基づき決定
することとするのも好ましい。

【００２３】また、前記プロトタイプマップの学習形成
は、自己組織化マッピングによることとするのも好適で
ある。この場合、複数の学習用パラメータを用い、各学
習用パラメータに対応した複数の自己組織化マップを学
習形成する手段と、前記学習形成された複数の自己組織
化マップのそれぞれを評価し、当該評価の結果に基づ
き、前記学習用パラメータを調整する手段と、を有し、
調整後の学習用パラメータにより、自己組織化マップの
学習形成が再度行われることとしても好適である。さら
に、前記自己組織化マップの評価は、入力されたデータ
に対する特徴量空間とプロトタイプマップの空間との位
相関係、並びにプロトタイプマップの平均量子化誤差に
より行われることとしても好適である。

【００２４】また、各プロトタイプをクラスタに分類し
た後、各クラスタの境界に少なくとも１つの新規プロト
タイプを形成する手段を含むこととするのも好ましい。
このとき、当該新規プロトタイプのクラスタへの分類処
理がさらに行われてもよい。この場合、前記新規プロト
タイプが形成されたときには、当該新規プロトタイプに
対する追加的な学習が行われることとするのも好適であ
る。さらに、前記新規プロトタイプは、境界近傍に存在
するプロトタイプに対する統計演算に基づいて形成され
ることとしても好ましい。さらに、前記新規プロトタイ
プは、プロトタイプが参照する入力データ密度が所定し
きい値よりも低い部分に形成されることとするのも好ま
しい。さらに、前記新規プロトタイプは、クラスタの境
界部分であって、当該部分に存在するプロトタイプが参
照する入力データ密度が所定しきい値よりも低い部分に
形成されることとするのも好ましい。

【００２５】また、上記従来例の問題点を解決するため
の本発明は、入力されるデータに基づく学習を、自己組
織化マップを用いて行い、その学習の結果を利用してデ
ータを分類するデータ分類方法であって、複数の学習用
パラメータのそれぞれに対応する複数の自己組織化マッ
プを学習形成する工程と、前記学習形成された複数の自
己組織化マップのそれぞれを評価し、当該評価の結果に
基づき、前記学習用パラメータを調整する工程と、を有
し、調整後の学習用パラメータにより、自己組織化マッ
プの学習形成が再度行われることを特徴としている。

【００２６】さらに、上記従来例の問題点を解決するた
めの本発明は、複数のデータの入力により、マップ空間
内の複数のプロトタイプの結合重みを調整し、プロトタ
イプマップを学習形成するマッピング工程と、各プロト
タイプ間で定義される所定測度を演算し、前記測度に基
づいて各プロトタイプを複数のクラスタに分類するクラ
スタリング工程と、を含み、クラスタに分類されたプロ
トタイプマップが、データの分類処理に供されることを
特徴としている。

【００２７】ここで、各プロトタイプをクラスタに分類
した後、各クラスタの境界に少なくとも１つの新規プロ
トタイプを形成する工程を含むことも好ましい。また、
前記マッピング工程は、複数の学習用パラメータを用
い、各学習用パラメータに対応した複数のプロトタイプ
マップを学習形成し、前記学習形成された複数のプロト
タイプマップのそれぞれを評価し、当該評価の結果に基
づき、前記学習用パラメータを調整して、調整後の学習
用パラメータにより、プロトタイプマップの学習形成が
再度行われることとしても好適である。この場合、前記
マップの評価は、入力されたデータに対する特徴量空間
とプロトタイプマップの空間との位相関係、並びにプロ
トタイプマップの平均量子化誤差により行われることも
好ましい。

【００２８】さらに、上記従来例の問題点を解決するた
めの本発明は、コンピュータに、入力されるデータに基
づく学習を、自己組織化マップを用いて行い、その学習
の結果を利用してデータを分類する処理を行わせるデー
タ分類プログラムであって、複数の学習用パラメータの
それぞれに対応する複数の自己組織化マップを学習形成
する工程と、前記学習形成された複数の自己組織化マッ
プのそれぞれを評価し、当該評価の結果に基づき、前記
学習用パラメータを調整する工程と、をコンピュータに
実行させ、調整後の学習用パラメータにより、自己組織
化マップの学習形成が再度行われることを特徴とする。

【００２９】また、上記従来例の問題点を解決するため
の本発明は、コンピュータに、入力される複数のデータ
により、マップ空間内の複数のプロトタイプの結合重み
を調整し、プロトタイプマップを学習形成するマッピン
グ手順と、各プロトタイプ間で定義される所定測度を演
算し、前記測度に基づいて各プロトタイプを複数のクラ
スタに分類するクラスタリング手順と、を実行させ、ク
ラスタに分類されたプロトタイプマップが、データの分
類処理に供されることを特徴とする。

【００３０】さらに、ここで各プロトタイプをクラスタ
に分類した後、各クラスタの境界に少なくとも１つの新
規プロトタイプを形成する手順をさらにコンピュータに
実行させることも好ましい。また、前記マッピング手順
では、複数の学習用パラメータを用い、各学習用パラメ
ータに対応した複数のプロトタイプマップを学習形成
し、前記学習形成された複数のプロトタイプマップのそ
れぞれを評価し、当該評価の結果に基づき、前記学習用
パラメータを調整して、調整後の学習用パラメータによ
り、プロトタイプマップの学習形成が再度行われること
とするのも好ましい。また、前記マップの評価は、入力
されたデータに対する特徴量空間とプロトタイプマップ
の空間との位相関係、並びにプロトタイプマップの平均
量子化誤差により行われることとしても好適である。

【００３１】

【発明の実施の形態】本発明の実施の形態について図面
を参照しながら説明する。なお、以下の説明では画像デ
ータの分類を行う場合を例として説明するが、実際の利
用においては、画像データのみならず、味覚データなど
他の感覚器データであってもよいし、さらに実験結果な
どの測定データであっても構わない。

【００３２】本実施の形態に係るデータ分類装置１は、
図１に示すように、ＣＰＵ１１と、ＲＡＭ１２と、ＲＯ
Ｍ１３と、ハードディスク１４と、画像入力用インタフ
ェース１５と、ディスプレイ１６と、外部記憶部１７と
から基本的に構成され、これら各部はバス接続されてい
る。すなわち、本実施の形態のデータ分類装置１は、一
般的なパーソナルコンピュータによってソフトウエア的
に実現される。このソフトウエアは、一般的にはＣＤ−
ＲＯＭやＤＶＤ−ＲＯＭなどの記録媒体に格納された状
態で頒布され、またはネットワークを介してダウンロー
ドされる（ネットワークに対する接続インタフェースは
図示を省略した）。そして、当該記録媒体によって頒布
される場合には外部記憶部１７にて読み出されて、所定
のインストール処理により、ハードディスク１４に格納
される。また、ネットワークを介してダウンロードされ
た場合も同様に、ハードディスク１４にインストールさ
れる。

【００３３】ＣＰＵ１１は、このハードディスク１４に
格納されているプログラムに従って動作し、基本的には
Ｗｉｎｄｏｗｓ（商標）等のオペレーティングシステム
の管理下で本実施の形態のデータ分類装置１を具現化す
るデータ分類プログラム等を実行する。具体的に、本実
施の形態のデータ分類プログラムは、マップ生成部２１
と、クラスタ境界決定部２２とを含み、マップ生成部２
１は、ＳＯＭ学習部３１と、マップ選択部３２と、学習
条件設定部３３と、プロトタイプ追加部３４とを備え
る。ここでは、これらの各部が、それぞれソフトウエア
モジュールとして実現されることとしているが、ハード
ウエア的に論理回路によって構成されても構わない。こ
のＣＰＵ１１における処理については後に詳しく述べ
る。

【００３４】ＲＡＭ１２は、ＣＰＵ１１のワークメモリ
として利用されるもので、ＣＰＵ１１の処理中に各種パ
ラメータやデータを記憶するために用いられる。ＲＯＭ
１３は、主としてオペレーティングシステムの読み込み
の処理など、データ分類装置１が起動する際に必要とな
るプログラムが格納されている。この起動用プログラム
の内容は広く知られているので、その説明を省略する。

【００３５】ハードディスク１４は、オペレーティング
システムの本体や、種々のプログラムがインストールさ
れている。また、本実施の形態においては、このハード
ディスク１４には、既に説明したように、データ分類プ
ログラムがインストールされている。尚、ここではハー
ドディスク内に格納されている場合について例示した
が、例えばＳＲＡＭ（Static Random Access Memory）
や、ＥＥＰＲＯＭ等の不揮発性メモリにインストールし
ても構わないし、図１に示したように、ＣＰＵ１１と同
一筐体に含まなくても、図示しないネットワークインタ
フェースを介して接続される別のコンピュータ内にイン
ストールされていてもよい。

【００３６】画像入力用インタフェース１５には、スキ
ャナ等の画像入力装置が接続され、当該画像入力装置か
ら画像データの入力を受けて、ＣＰＵ１１に出力する。
ディスプレイ１６は、ＣＰＵ１１からの指示に従って、
画像を表示する。

【００３７】［処理の詳細］ここでＣＰＵ１１が実行す
るデータ分類プログラムの詳細について、図２を参照し
ながら説明する。マップ生成部２１は、例えば既に説明
した自己組織化マッピング（ＳＯＭ）により、プロトタ
イプマップを形成し、形成したプロトタイプマップの情
報をクラスタ境界決定部２２に出力する。クラスタ境界
決定部２２は、マップ生成部２１から入力されるプロト
タイプマップに対し、各プロトタイプをクラスタに分類
する。以下、これらの各部についての動作を分けて詳し
く述べる。

【００３８】［マップ生成］まず、マップ生成部２１の
ＳＯＭ学習部３１は、学習条件設定部３３から入力され
る複数（例えばＭセット（Ｍは２以上の整数））の学習
条件のセットの各々に対応するＭ個のプロトタイプマッ
プ候補を生成する。各マップ候補は、各プロトタイプを
特定する情報に対して、そのプロトタイプと特徴量セッ
トの成分の各々との関係重みの情報を関連づけたもので
ある。本実施の形態においては、マップを構成するプロ
トタイプは必ずしも格子点状に配列されている必要はな
い（この場合、プロトタイプを特定する情報にプロトタ
イプのマップ上の座標情報が含まれてもよい）が、以下
の説明では簡単のため、格子点状に配列されているもの
として説明する。

【００３９】マップ選択部３２は、各マップ候補を量子
化誤差（ＱＥ）と、トポロジカル・プロダクト（以下、
ＴＰと呼ぶ）とを演算して、これらに基づき、クラスタ
決定に適したマップを一つ、チャンピオンマップとして
選択する。ここで、量子化誤差は、次の（４）式で演算
される。

【００４０】

【数５】 （４）式において、Ｐはマップ学習に用いる特徴量セッ
トの数（つまり学習パターン数）であり、Ｅjは、ｊ番
目の特徴量セットベクトルであり、Ｗcは、ｊ番目の特
徴量セットベクトルに対しての勝利ノードの重みベクト
ルである。なお、この量子化誤差については、コホーネ
ンらにより広く知られたものであるので、その詳細な説
明を省略する。

【００４１】また、ＴＰは、次の（５）式で演算され
る。

【００４２】

【数６】 このＴＰは、入力層での空間（特徴量セットの空間）
と、競合層での空間（プロトタイプの空間）との相対的
位置関係が一致するほど小さい値となるもので、バウア
ー（Bauer）らによって、Bauer, H.U., and Pawelzik,
K.R.,(1992), "Quantifying the neighborhood preserv
ation of self-organizing feature maps." IEEE Tran
s. Neural Networks, 3, 570-579などの論文で提案され
ているものである。

【００４３】マップ選択部３２は、これらＱＥとＴＰと
の値を用いて、次の（６）式にて演算されるスコア値が
小さいものをチャンピオンマップＭＡＰcとして選択
し、その選択結果を出力する。

【００４４】

【数７】 つまり、

【数８】 である。

【００４５】また、マップ選択部３２は、当初は、この
チャンピオンマップの選択結果を後段のクラスタ境界決
定部２２には出力せず、少なくとも一度、学習条件設定
部３３に出力する。そして事前に設定された回数だけ繰
返してチャンピオンマップの選択を行った後に、その時
点での選択結果をクラスタ境界決定部２２に出力する。

【００４６】学習条件設定部３３は、学習条件として例
えば学習用の入力データの数（学習の回数）Ｎと、近傍
距離σ（ｔ）と、学習係数α（ｔ）とのセットをＭセッ
ト出力する。この学習条件設定部３３は、当初はこれら
の値や関数（Ｎ，σ（ｔ），α（ｔ））をランダムなパ
ラメータに基づいて決定するか、事前に定められたセッ
ト（プリセット）として決定する。また、この学習条件
設定部３３は、マップ選択部３２からチャンピオンマッ
プの選択結果の入力を受けて、当該選択結果のマップ候
補に対応する学習条件のセットを取出す。そして、この
取出した学習条件のセットを基準として、さらにＭ個の
学習条件のセットを生成して設定し、ＳＯＭ学習部３１
に出力する。

【００４７】なお、プロトタイプ追加部３４は、クラス
タ境界決定がされた後に、プロトタイプマップの所定の
位置にプロトタイプを追加してさらに学習を行わせるも
のであるが、クラスタ境界決定部２２の動作に関係する
ので、後に詳しく説明する。

【００４８】ここで、マップ生成部２１における学習の
動作について説明する。当初、学習条件設定部３３がラ
ンダムな、又は事前に定められたパラメータを用いて学
習条件のセットを複数（例えばＭセット）生成して出力
する。ＳＯＭ学習部３１は、学習条件設定部３３が出力
する各学習条件のセットに応じてＭ個のプロトタイプマ
ップの候補（マップ候補）を生成し、マップ選択部３２
に出力する。マップ選択部３２は、これらのマップ候補
の中から、量子化誤差とＴＰとの双方を用いて学習状態
がクラスタリングに対して好適となっているマップ（チ
ャンピオンマップ）を選択し、その選択結果を学習条件
設定部３３に出力する。すると、学習条件設定部３３が
当該チャンピオンマップの生成に用いられた学習条件に
基づき、新たな学習条件のセットを複数生成し、再度Ｓ
ＯＭ学習部３１に出力して複数のマップ候補を生成させ
る。

【００４９】このようにして、マップ候補の生成、チャ
ンピオンマップの選択、学習条件の再設定という動作を
所定の回数だけ繰返し、その結果得られたチャンピオン
マップがクラスタの境界設定対象マップとしてクラスタ
境界決定部２２に出力される。

【００５０】［クラスタ境界決定］クラスタ境界決定部
２２は、マップ生成部２１から入力される境界設定対象
となったマップについて、図３に示すような処理を実行
する。具体的にクラスタ境界決定部２２は、入力された
マップに含まれるプロトタイプの各々に固有の番号を割
当てて、仮のクラスタリング結果を生成する（Ｓ１）。
この番号は、所定の順序に「１」から順に「Ｐ」（プロ
トタイプの数をＰとする）まで番号を振ったものでよ
い。この番号が仮のクラスタ番号となる。すなわち、当
初は、各プロトタイプが互いに異なるクラスタに分類さ
れる。

【００５１】次に、クラスタ境界決定部２２は、プロト
タイプペアを抽出し、抽出したプロトタイプペアに係る
各プロトタイプの重みベクトル間の類似度を計算する
（Ｓ２）。この計算の結果は、類似度テーブルとしてＲ
ＡＭ１２に格納される。ここでプロトタイプペアという
のは、各プロトタイプを順次注目プロトタイプとして選
択し、注目プロトタイプと、他のプロトタイプとのすべ
ての組み合せを採ったもの、すなわち２つのプロトタイ
プの組み合せ（combination）のすべてをいっている。
またここで類似度とは、各重みベクトルの成分ごとの差
の二乗和（距離）を用いる。

【００５２】この類似度をクラス（所定の数値範囲ご
と）に分類して、各クラスごとの出現頻度の情報を生成
し（図４）、この出現頻度が最大となった距離をＣｄと
し、所定の「０」に近い微小量δを決定しておく。ある
いは、出現頻度が最大となる距離より短くかつ頻度が減
少から増加に転じる最大の距離をＣｄとしてもよい。

【００５３】次に、クラスタ番号の更新処理を開始する
（Ｓ３）。このクラスタ番号更新処理は、図５に示すよ
うなものであるが、ここでは簡単のため、クラスタの境
界を決定しようとするプロトタイプマップとして３×３
の格子マップがあるとして説明する。当初プロトタイプ
マップに対しては処理Ｓ１にて、３×３＝９個のプロト
タイプにそれぞれ図６（ａ）に示すような「１」〜
「９」の固有の番号を割当ててある。

【００５４】クラスタ境界決定部２２は、各プロトタイ
プを順次、注目プロトタイプとして選択する（Ｓ１
１）。そして、当該注目プロトタイプに隣接する（仮に
クラスタリングされたプロトタイプマップ上で所定距離
内の）プロトタイプの属しているクラスタを選択し（Ｓ
１２）、当該選択したクラスタに属するプロトタイプを
抽出する（Ｓ１３）。

【００５５】図６の例では例えば左下側の「１」を注目
プロトタイプとして、それに隣接するクラスタの番号
「１」，「４」，「５」，「２」のそれぞれについて、
各クラスタに属するプロトタイプを選択することにな
る。そして、クラスタ境界決定部２２は、処理Ｓ１２に
て選択したクラスタに属する各プロトタイプと注目プロ
トタイプとの測度としての相関量を次の（７）式（類似
度の低下に伴い、所定微分値より急速に「０」に漸近す
る関数）を用いて演算し（Ｓ１４）、この相関量に基づ
き注目プロトタイプの属するクラスタを決定する。

【００５６】

【数９】 ここで、y*は、注目プロトタイプの重みベクトルであ
り、yiは、i番目のプロトタイプの重みベクトルであ
る。また、χは、プロトタイプベクトルの集合であり、
χ(c)は、クラスタ番号ｃのプロトタイプベクトルの集
合である。また、αの決定に用いられるＣｄ，δは、処
理Ｓ２にて得たものであり、Lnは、自然対数を表す。す
なわち、（７）式は、注目プロトタイプと、クラスタ番
号ｃに属するプロトタイプとの距離の総和を全体平均で
除したもので、注目プロトタイプと、クラスタｃの相関
量を表し、クラスタｃの中に注目プロトタイプとの重み
ベクトル間の相関量の大きいプロトタイプが多いほど
（７）式は、大きい値となる。

【００５７】クラスタ境界決定部２２は、（７）式が最
も大きい値となるクラスタの番号を、注目プロトタイプ
のクラスタ番号として仮決定し（Ｓ１５）、この仮決定
の内容を記憶する（Ｓ１６）。

【００５８】ここで図６（ａ）に示したクラスタ「１」
に分類されたプロトタイプが注目プロトタイプである場
合、隣接プロトタイプとして「１」に属するプロトタイ
プについては、当初は他のプロトタイプがないので、演
算されず、「４」に属するプロトタイプ、「５」に属す
るプロトタイプ、「２」に属するプロトタイプとの間の
相関量が演算され、例えば「４」に属するプロトタイプ
との距離が最も短い場合、注目プロトタイプの属するク
ラスタを「１」から「４」に変更する（図６（ｂ））。
ここで隣接するプロトタイプだけでなく、全プロトタイ
プとの演算を行ってもよい。そのようにすると、プロト
タイプマップ上は距離があるが、重みベクトル間の距離
は小さいというようなプロトタイプを同一クラスタにま
とめることができる。しかしながら、このようにする
と、計算時間が大きくなるので、ここでは事前にＴＰを
用いた評価を加味してプロトタイプマップ上の距離と、
重みベクトル間の距離とが大きく違わないようなマップ
を選択したのである。

【００５９】そしてクラスタ境界決定部２２は、すべて
のプロトタイプを注目プロトタイプとして選択したか否
かを調べ（Ｓ１７）、まだ選択されていないプロトタイ
プがあれば（Ｎｏならば）、処理Ｓ１１に戻って処理を
続ける。また、処理Ｓ１７において、すべてのプロトタ
イプが選択されているならば（Ｙｅｓならば）、クラス
タ番号更新の処理を終了する。

【００６０】クラスタ境界決定部２２は、図３に示す処
理に戻り、このようにして仮決定した内容と、更新処理
前のクラスタ番号とを比較し、クラスタ番号に変化があ
ったか（クラスタ番号がまだ収束していないか）を調べ
（Ｓ４）、変化があった場合には（Ｙｅｓならば）、当
該仮決定した内容を新たに仮のクラスタリング結果と
し、処理Ｓ３を繰返して実行する。また、処理Ｓ４にて
変化がなければ（Ｎｏならば）、すなわち収束したなら
ば、現在のクラスタリング結果を出力する。

【００６１】［プロトタイプの追加］本実施の形態にお
いて特徴的なことは、クラスタ境界決定部２２がクラス
タリング結果を直ちに最終的な結果として出力せず、少
なくとも１度、マップ生成部２１のプロトタイプ追加部
３４に戻して出力できることである。プロトタイプ追加
部３４は、クラスタリング結果を参照して、クラスタの
境界部に新規プロトタイプを生成して、再度学習を行わ
せるべく、ＳＯＭ学習部３１に当該新規プロトタイプ追
加後のプロトタイプマップを出力する。この際の学習
は、微調整を目的とするものなので、例えばクラスタリ
ング前の学習ではα（ｔ）＝０．２、σ（ｔ）＝２．０
と初期設定して、７００パターンを１００００回学習す
るよう学習条件パラメータが設定されていた場合でも、
新規プロトタイプ追加後の学習では、α（ｔ）＝０．０
０２、σ（ｔ）＝１．０、パターンの繰返し入力が１０
０といった学習条件パラメータで構わない。

【００６２】具体的に、図６（ａ）のように当初仮にク
ラスタリングされていたプロトタイプマップに対して、
クラスタ境界決定部２２が、クラスタ図６（ｃ）のよう
なクラスタリング結果を出力したとすると、この「４」
と「６」との境界に新規プロトタイプを形成する（図６
（ｄ））。ここで図６（ｄ）では、理解のために先のク
ラスタリング結果を括弧つきで示したが、このようにプ
ロトタイプを追加した後は、先のクラスタリング結果は
無意味なものである。

【００６３】なお、新規プロトタイプは、必ずしもクラ
スタ境界に沿って全体的に追加しなければならないもの
ではなく、その少なくとも一部に追加するものであって
も構わない。この場合において、追加する部分として
は、学習入力ベクトル（パターン）に対して最も距離の
短い、最近接プロトタイプとなった回数（パターンの
数）に基づいて決定することが好ましい。ＳＯＭ学習や
ＶＱ学習といった学習方法では、U-Matrix法が利用する
ように、クラスタの中心部ではプロトタイプの密度が大
きくなり、クラスタ境界部ではプロトタイプの密度が小
さくなる。従って、学習入力パターンに対して最近接プ
ロトタイプとなる機会が少なく、所定の閾値以下の場
合、つまりプロトタイプの密度が所定のしきい値よりも
低い部分は、クラスタ境界近傍のプロトタイプとみなす
ことができる。そこで、当該部分に新規プロトタイプを
追加するようにすれば、境界全体に沿って追加すること
がなくなり、再度の学習や、再度のクラスタリングにか
かる効率を向上できる。

【００６４】また、追加する新規プロトタイプの重みベ
クトルを決定するには、追加しようとする位置（例えば
境界部分）近傍の既存プロトタイプの重みベクトルに対
する所定の統計演算結果（例えば算術平均値）により重
みベクトルを決定する。

【００６５】［動作］次に、本実施の形態に係るデータ
分類装置１の動作について説明する。まず、学習条件設
定部３３が複数の学習条件パラメータのセットＳ1，Ｓ
2，…ＳMを出力して、ＳＯＭ学習部３１において当該学
習条件パラメータのセットの数に対応した（Ｍ個の）プ
ロトタイプマップが生成される。ＳＯＭ学習部３１は、
外部から入力される学習画像データに基づき所定の特徴
量ベクトルを生成し、各プロトタイプマップの各プロト
タイプと当該特徴量ベクトルの各成分との結合重みを調
整する。ＳＯＭ学習部３１のこの動作は、コホーネンら
の記述により広く知られたものである。学習画像データ
としては、例えば「目」に関する画像データや、「鼻」
に関する画像データなど、後に分類の対象としようとす
る画像データとする。

【００６６】ＳＯＭ学習部３１により生成された複数の
プロトタイプマップは、マップ選択部３２に出力され、
マップ選択部３２が各マップに含まれるプロトタイプに
関する演算から、量子化誤差（ＱＥ）及びトポロジカル
・プロダクト（ＴＰ）に基づき、量子化誤差が低く、Ｔ
Ｐにより示される入力層での空間（特徴量セットの空
間）と、競合層での空間（プロトタイプの空間）との相
対的位置関係の一致度、すなわち、重みベクトル間の距
離と、競合層での距離との一致度が高いマップを選択す
る。これにより、類似する画像データに反応するプロト
タイプ間のマップ上の距離が小さくなる。

【００６７】そして選択されたマップの学習に用いられ
た学習条件パラメータのセットに基づき、学習条件設定
部３３が再度学習条件パラメータのセットを複数生成し
てＳＯＭ学習部３１に出力し、複数のマップが再度生成
され、その中から、ＱＥ及びＴＰに基づくマップ選択が
行われる。こうして、学習条件パラメータが再帰的に調
整され、マップの学習形成が再帰的に行われる。

【００６８】このような再帰的学習の結果得られたマッ
プについて、クラスタ境界決定部２２が、マップ上のプ
ロトタイプを順次選択し、その選択したプロトタイプと
それに隣接するプロトタイプとの間の相関量が大きいも
の同士を一つのクラスタにまとめる。つまり、プロトタ
イプのマップ上での隣接関係及び相関量によって各プロ
トタイプの属するクラスタが決定される。そして、この
処理を繰返し実行して、クラスタリングの結果が収束し
たところで、そのクラスタリングの結果をプロトタイプ
追加部３４に出力する。

【００６９】プロトタイプ追加部３４がクラスタの境界
部分に新規プロトタイプを追加したマップを生成して、
このマップをＳＯＭ学習部３１に出力し、所定の学習条
件を設定して再度学習を行わせる。この際は学習条件パ
ラメータのセットは１つだけでよく、従ってマップは一
つだけで構わない。そこで、この一つのマップの学習処
理が完了すると、当該マップを（マップ選択部３２を介
することなく）そのままクラスタ境界決定部２２に出力
し、クラスタ境界決定部２２が改めてクラスタリングの
処理を行う。

【００７０】そしてこのクラスタリングの処理の結果と
して得られたマップが分類処理に供される。すなわち、
分類対象として入力された画像データに対して特徴量ベ
クトルを生成し、この特徴量ベクトルに対して最も結合
重みの大きいプロトタイプ（入力された画像データに反
応するプロトタイプ）を見いだす。そして当該プロトタ
イプの属するクラスタの番号が、当該画像データの分類
番号となる。これにより、互いに類似する画像データ
（例えば「目」の画像データ）に対して特定の分類番号
が決定され、互いに異なる画像データ（例えば「目」と
「鼻」との画像データの各々）に対しては、異なる分類
番号が決定されて出力され、その結果は、ディスプレイ
１６に表示され、また図示しないプリンタ等により印字
される。

【００７１】このように本実施の形態によると、人間が
介入してパラメータを設定することなく、自律的に学習
とクラスタリングとが行われる。また、プロトタイプの
数が不足していれば、自律的にクラスタ境界部分にプロ
トタイプが追加され、適切な数のプロトタイプでの学
習、分類処理が実行される。

【００７２】［具体的実施例］ここで、本実施の形態に
おける、新規プロトタイプを追加することについての実
施例について説明する。まず、「目」と「口」の２つに
分類されるべき画像データを７００個用意し、プロトタ
イプ数が３×３＝９個のプロトタイプマップを用いて学
習をさせることとする。ここでは簡単のため、学習条件
パラメータは、１つのセットのみ（従ってマップは１つ
だけ）とし、α（ｔ）＝０．２、σ（ｔ）＝２．０、７
００パターンを１００００回繰返して入力してＳＯＭ学
習させる。この結果得られたプロトタイプマップに対し
てクラスタ境界決定を行った結果、図７に示すようにク
ラスタ境界が形成された。そして、このマップを用いて
データ分類を実行したところ、７００のうち１５のパタ
ーンが誤って分類されることが実験的に確認された。

【００７３】そこで、クラスタ境界に図８（ａ）に示す
ような新規プロトタイプ（図面上、「New」と示したも
の）を追加し、改めてα（ｔ）＝０．００２、σ（ｔ）
＝１．０、パターン繰返し入力回数１００として追加的
な学習を行わせ、再度クラスタ境界決定を実行したとこ
ろ、図８（ｂ）に示すようなクラスタリング結果が得ら
れた。これによるデータ分類の結果、誤って分類された
データの数は０となった。そこで、境界部分のプロトタ
イプの重みベクトルを検証したところ、分類対象となる
「目」と「口」との双方に対して最近接プロトタイプと
なるものがなくなっていることがわかった。

【００７４】これに対し、始めから３×４＝１２のプロ
トタイプを配置したマップを用いて、学習条件パラメー
タをα（ｔ）＝０．２、σ（ｔ）＝２．０とし、７００
パターンを１００００回繰返して入力してＳＯＭ学習さ
せ、クラスタリングしたものを用いてデータ分類を行わ
せると、「目」と「口」との双方に対して最近接プロト
タイプとなるものが、クラスタ境界部分に存在し、若干
の分類誤りが発生することが実験的にわかった。これ
は、一旦クラスタ境界が形成された部分の解像度を高め
るべくプロトタイプが追加される本実施の形態のものに
対し、予めプロトタイプの数を多くしておく方法では、
入力空間でのパターン分布を写像するようにプロトタイ
プの学習が行われてしまうので、クラスタ境界部分での
データ分類の精度を高めるようにはならないためであ
る。さらに、本実施の形態では、当初は少ない数のプロ
トタイプで学習が行われるために、初期の学習にかかる
時間を短縮できる。再学習は、上に述べたように学習条
件パラメータを変更し、微調整程度の学習を行えば済む
ので、再学習の時間を加えても、最初からプロトタイプ
の数を多くした場合よりも短い学習時間で済む。

【００７５】［変形例］なお、ここまでの説明では、学
習条件パラメータを再帰的に調整して学習し、プロトタ
イプ間の相関度を用いてクラスタを決定し、クラスタ決
定後にプロトタイプを追加して再学習、再度のクラスタ
決定を行うこととしているが、プロトタイプを追加する
技術については、既に用いられているプロトタイプマッ
プの学習形成と、クラスタリング技術に独立して適用し
てもよい。この場合、プロトタイプマップの学習には、
ＳＯＭだけでなく、ＶＱ学習なども用いてもよい。

【００７６】さらに、ここまでの説明では、画像データ
の分類について説明したが、その他のデータの分類につ
いても本実施の形態のデータ分類装置を用いることがで
きる。

【図面の簡単な説明】

【図１】 本発明の実施の形態に係るデータ分類装置の
構成ブロック図である。

【図２】 本発明の実施の形態に係るデータ分類装置の
構成ブロック図である。

【図３】 クラスタリングの処理を表すフローチャート
図である。

【図４】 プロトタイプ間の距離のヒストグラムの検出
例を表す説明図である。

【図５】 クラスタリングの処理におけるクラスタ更新
処理の一例を表すフローチャート図である。

【図６】 クラスタリングの処理の動作例を表す説明図
である。

【図７】 プロトタイプマップのクラスタリング結果の
一例を表す説明図である。

【図８】 プロトタイプの追加状態とその後のクラスタ
リング結果の一例を表す説明図である。

【符号の説明】

１ データ分類装置、１１ ＣＰＵ、１２ ＲＡＭ、１
３ ＲＯＭ、１４ ハードディスク、１５ 画像入力用
インタフェース、１６ ディスプレイ、１７外部記憶
部、２１ マップ生成部、２２ クラスタ境界決定部、
３１ ＳＯＭ学習部、３２ マップ選択部、３３ 学習
条件設定部、３４ プロトタイプ追加部。

─────────────────────────────────────────────────────

【手続補正書】

【提出日】平成１５年１月２９日（２００３．１．２
９）

【手続補正１】

【補正対象書類名】明細書

【補正対象項目名】特許請求の範囲

【補正方法】変更

【補正内容】

【特許請求の範囲】

───────────────────────────────────────────────────── フロントページの続き (72)発明者 鹿志村 洋次 神奈川県足柄上郡中井町境430 グリーン テクなかい 富士ゼロックス株式会社内 Ｆターム(参考） 5B075 NR12 5D015 GG01 5L096 FA00 KA04 KA13 MA07

Claims (24)

【特許請求の範囲】
1. 【請求項１】 入力されるデータに基づく学習を、自己
   組織化マップを用いて行い、その学習の結果を利用して
   データを分類するデータ分類装置であって、 複数の学習用パラメータのそれぞれに対応する複数の自
   己組織化マップを学習形成する手段と、 前記学習形成された複数の自己組織化マップのそれぞれ
   を評価し、当該評価の結果に基づき、前記学習用パラメ
   ータを調整する手段と、 を有し、 調整後の学習用パラメータにより、自己組織化マップの
   学習形成が再度行われることを特徴とするデータ分類装
   置。
2. 【請求項２】 入力される複数のデータにより、マップ
   空間内の複数のプロトタイプの結合重みを調整し、プロ
   トタイプマップを学習形成するマッピング手段と、 各プロトタイプ間で定義される所定測度を演算し、前記
   測度に基づいて各プロトタイプを複数のクラスタに分類
   するクラスタリング手段と、 を含み、 クラスタに分類されたプロトタイプマップが、データの
   分類処理に供されることを特徴とするデータ分類装置。
3. 【請求項３】 請求項２に記載のデータ分類装置におい
   て、 前記クラスタリング手段は、 各プロトタイプの属するクラスタを仮に決定し、 各クラスタごとに、各クラスタに属している少なくとも
   １つのプロトタイプと、クラスタに分類する対象となっ
   た注目プロトタイプとの間の測度を演算し、 前記演算された測度に基づき、前記注目プロトタイプの
   属するべきクラスタを決定することを特徴とするデータ
   分類装置。
4. 【請求項４】 請求項２に記載のデータ分類装置におい
   て、 前記クラスタリング手段は、 （ａ）各プロトタイプの属するクラスタを仮に決定し、 （ｂ）各プロトタイプを順次、クラスタに分類する対象
   となるべき注目プロトタイプとして選択し、 （ｃ）各クラスタごとに、各クラスタに属している少な
   くとも１つのプロトタイプと、前記注目プロトタイプと
   の間の測度を演算し、 （ｄ）前記演算された測度に基づき、前記注目プロトタ
   イプの属するべきクラスタを必要に応じて変更し、 前記（ｂ）、（ｃ）、（ｄ）の処理を、各プロトタイプ
   の属するべきクラスタの変更がなくなるまで繰返して行
   って、各プロトタイプをクラスタに分類することを特徴
   とするデータ分類装置。
5. 【請求項５】 請求項３に記載のデータ分類装置におい
   て、 測度演算に用いるパラメータをプロトタイプ間の類似度
   の出現頻度分布に基づき決定することを特徴とするデー
   タ分類装置。
6. 【請求項６】 請求項２に記載のデータ分類装置におい
   て、 前記プロトタイプマップの学習形成は、自己組織化マッ
   ピングによることを特徴とするデータ分類装置。
7. 【請求項７】 請求項１に記載のデータ分類装置におい
   て、 複数の学習用パラメータを用い、各学習用パラメータに
   対応した複数の自己組織化マップを学習形成する手段
   と、 前記学習形成された複数の自己組織化マップのそれぞれ
   を評価し、当該評価の結果に基づき、前記学習用パラメ
   ータを調整する手段と、 を有し、 調整後の学習用パラメータにより、自己組織化マップの
   学習形成が再度行われることを特徴とするデータ分類装
   置。
8. 【請求項８】 請求項７に記載のデータ分類装置におい
   て、 前記自己組織化マップの評価は、入力されたデータに対
   する特徴量空間とプロトタイプマップの空間との位相関
   係、並びにプロトタイプマップの平均量子化誤差により
   行われることを特徴とするデータ分類装置。
9. 【請求項９】 請求項１または２に記載のデータ分類装
   置において、 各プロトタイプをクラスタに分類した後、各クラスタの
   境界に少なくとも１つの新規プロトタイプを形成する手
   段を含み、 当該新規プロトタイプのクラスタへの分類処理のさらな
   る実行を可能とすることを特徴とするデータ分類装置。
10. 【請求項１０】 請求項９に記載のデータ分類装置にお
    いて、 前記新規プロトタイプが形成されたときには、当該新規
    プロトタイプに対する追加的な学習が行われることを特
    徴とするデータ分類装置。
11. 【請求項１１】 請求項９に記載のデータ分類装置にお
    いて、 前記新規プロトタイプは、境界近傍に存在するプロトタ
    イプに対する統計演算に基づいて形成されることを特徴
    とするデータ分類装置。
12. 【請求項１２】 請求項９に記載のデータ分類装置にお
    いて、 前記新規プロトタイプは、プロトタイプが参照する入力
    データの密度が所定しきい値よりも低い部分に形成され
    ることを特徴とするデータ分類装置。
13. 【請求項１３】 請求項９に記載のデータ分類装置にお
    いて、 前記新規プロトタイプは、クラスタの境界部分であっ
    て、当該部分に存在するプロトタイプが参照する入力デ
    ータの密度が所定しきい値よりも低い部分に形成される
    ことを特徴とするデータ分類装置。
14. 【請求項１４】 請求項２に記載のデータ分類装置にお
    いて、 前記測度は、プロトタイプ間の類似度の低下に伴ってそ
    の値が所定の微分値より急速に０に漸近する関数を用
    い、当該関数の値として演算され、当該関数の値として
    の測度を用いて前記注目プロトタイプの属するべきクラ
    スタを決定することを特徴とするデータ分類装置。
15. 【請求項１５】 入力されるデータに基づく学習を、自
    己組織化マップを用いて行い、その学習の結果を利用し
    てデータを分類するデータ分類方法であって、 複数の学習用パラメータのそれぞれに対応する複数の自
    己組織化マップを学習形成する工程と、 前記学習形成された複数の自己組織化マップのそれぞれ
    を評価し、当該評価の結果に基づき、前記学習用パラメ
    ータを調整する工程と、 を有し、 調整後の学習用パラメータにより、自己組織化マップの
    学習形成が再度行われることを特徴とするデータ分類方
    法。
16. 【請求項１６】 複数のデータの入力により、マップ空
    間内の複数のプロトタイプの結合重みを調整し、プロト
    タイプマップを学習形成するマッピング工程と、 各プロトタイプ間で定義される所定測度を演算し、前記
    測度に基づいて各プロトタイプを複数のクラスタに分類
    するクラスタリング工程と、 を含み、 クラスタに分類されたプロトタイプマップが、データの
    分類処理に供されることを特徴とするデータ分類方法。
17. 【請求項１７】 請求項１６に記載のデータ分類方法に
    おいて、 各プロトタイプをクラスタに分類した後、各クラスタの
    境界に少なくとも１つの新規プロトタイプを形成する工
    程を含むことを特徴とするデータ分類方法。
18. 【請求項１８】 請求項１６に記載のデータ分類方法で
    あって、 前記マッピング工程は、複数の学習用パラメータを用
    い、各学習用パラメータに対応した複数のプロトタイプ
    マップを学習形成し、前記学習形成された複数のプロト
    タイプマップのそれぞれを評価し、当該評価の結果に基
    づき、前記学習用パラメータを調整して、調整後の学習
    用パラメータにより、プロトタイプマップの学習形成が
    再度行われることを特徴とするデータ分類方法。
19. 【請求項１９】 請求項１８に記載のデータ分類方法に
    おいて、 前記マップの評価は、入力されたデータに対する特徴量
    空間とプロトタイプマップの空間との位相関係、並びに
    プロトタイプマップの平均量子化誤差により行われるこ
    とを特徴とするデータ分類方法。
20. 【請求項２０】 コンピュータに、 入力されるデータに基づく学習を、自己組織化マップを
    用いて行い、その学習の結果を利用してデータを分類す
    る処理を行わせるデータ分類プログラムであって、 複数の学習用パラメータのそれぞれに対応する複数の自
    己組織化マップを学習形成する工程と、 前記学習形成された複数の自己組織化マップのそれぞれ
    を評価し、当該評価の結果に基づき、前記学習用パラメ
    ータを調整する工程と、 をコンピュータに実行させ、 調整後の学習用パラメータにより、自己組織化マップの
    学習形成が再度行われることを特徴とするデータ分類プ
    ログラム。
21. 【請求項２１】 コンピュータに、 入力される複数のデータにより、マップ空間内の複数の
    プロトタイプの結合重みを調整し、プロトタイプマップ
    を学習形成するマッピング手順と、 各プロトタイプ間で定義される所定測度を演算し、前記
    測度に基づいて各プロトタイプを複数のクラスタに分類
    するクラスタリング手順と、 を実行させ、 クラスタに分類されたプロトタイプマップが、データの
    分類処理に供されることを特徴とするデータ分類プログ
    ラム。
22. 【請求項２２】 請求項２１に記載のデータ分類プログ
    ラムにおいて、 各プロトタイプをクラスタに分類した後、各クラスタの
    境界に少なくとも１つの新規プロトタイプを形成する手
    順をさらにコンピュータに実行させることを特徴とする
    データ分類プログラム。
23. 【請求項２３】 請求項２１に記載のデータ分類プログ
    ラムであって、 前記マッピング手順では、複数の学習用パラメータを用
    い、各学習用パラメータに対応した複数のプロトタイプ
    マップを学習形成し、前記学習形成された複数のプロト
    タイプマップのそれぞれを評価し、当該評価の結果に基
    づき、前記学習用パラメータを調整して、調整後の学習
    用パラメータにより、プロトタイプマップの学習形成が
    再度行われることを特徴とするデータ分類プログラム。
24. 【請求項２４】 請求項２３に記載のデータ分類プログ
    ラムにおいて、 前記マップの評価は、入力されたデータに対する特徴量
    空間とプロトタイプマップの空間との位相関係、並びに
    プロトタイプマップの平均量子化誤差により行われるこ
    とを特徴とするデータ分類プログラム。