JPH05197811A - パターン認識装置 - Google Patents

Abstract

(57)【要約】 【目的】特徴量の冗長性を切り捨て、パラメータを記憶
するメモリ容量を小さくする。 【構成】主成分軸計算装置１は、サンプルデータの特徴
量ベクトルから平均ベクトルと主成分軸方向への単位ベ
クトルとを求めてメモリ２に保存する。特徴量変換装置
３ａ，３ｂは、各々上記サンプルデータと識別対象デー
タとの特徴量ベクトルを圧縮された特徴量ベクトルに変
換する。テンプレート作成装置４は上記特徴量変換装置
３ａの出力からテンプレート及びテンプレート補助デー
タを作成して上記メモリ２に保存し、データ選別装置５
は上記特徴量変換装置３ｂの出力と上記メモリ２に保存
されたデータから上記識別対象データの正常／異常を判
断する。正常データの変換された特徴量ベクトルと上記
メモリ２に保存されたデータから、マッチング度計算装
置６及びクラス判定装置７は識別結果を出力する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は、画像及び信号の識別
装置に適用されるパターン認識装置に関する。

【０００２】

【従来の技術】従来のパターン認識装置では、認識に使
用するパラメータとして、サンプルデータから、クラス
毎の平均ベクトル（テンプレート）と、平均に関する共
分散行列の固有値及び固有ベクトル（テンプレート補助
データ）を計算し、装置内に設けられたメモリに記憶し
ていた。

【０００３】

【発明が解決しようとする課題】しかし、上記従来の方
法では、例えば特徴量をｆ、クラス数をｓ、最大矯正回
数をｔとすると、各パラメータの数は、 平均ベクトル ｆ＊ｓ 固有ベクトル ｆ＊ｓ＊ｔ 固有値 ｓ＊ｔ

【０００４】となる。このため、上記パターン認識装置
のメモリには、上記パラメータ数の合計である（ｆ＊ｓ
＋ｆ＊ｓ＊ｔ＋ｓ＊ｔ）個のパラメータを保持するため
の容量が必要とされる。この発明は上記実情に鑑みてな
されたもので、必要なパラメータを記憶するメモリの容
量を小さくし得るパターン認識装置を提供することを目
的とする。

【０００５】

【課題を解決するための手段】この発明に係るパターン
認識装置は、複数個の特徴量ベクトルで表現されるデー
タ群で特徴量と正しいクラスが分かっている十分な個数
のサンプルデータが与えられた時、処理上発生するデー
タを記憶する記憶手段と、上記複数個のサンプルデータ
に対する平均ベクトルを計算し、主成分分析を用いて主
成分軸方向への単位ベクトルを求め、その中から予め定
められた数だけ主成分軸方向への単位ベクトルを選択す
る主成分軸計算装置と、上記主成分軸計算装置により選
択された主成分軸方向への単位ベクトルを用いて上記サ
ンプルデータ及び識別対象データの特徴量ベクトルを変
換する特徴量変換装置と、この特徴量変換装置により求
められたサンプルデータの特徴量ベクトル及び上記サン
プルデータの正しいクラスから各クラスのテンプレート
及びテンプレート補助データを作成するテンプレート作
成装置と、上記主成分軸計算装置により求められた上記
サンプルデータの平均ベクトル及び主成分軸方向への単
位ベクトルと上記特徴量変換装置により変換された上記
識別対象データの特徴量ベクトルと上記識別対象データ
の変換前の特徴量ベクトルとから上記識別対象データが
異常データか正常データかを判断するデータ選別装置
と、このデータ選別装置により正常データと判断された
識別対象データに対して上記テンプレート及びテンプレ
ート補助データを用いて各クラスとのマッチング度を求
めるマッチング度計算装置と、このマッチング度計算装
置により求められたマッチング度から上記識別対象デー
タの属するクラスを判定するクラス判定装置とを具備す
ることを特徴とする。

【０００６】

【作用】特徴量には、２値画像の隅点のピクセル値のよ
うに常に一定値になる特徴量や、車高と車重のように相
関のある特徴量のように冗長なものが含まれている。特
徴量のこのような冗長性を切り捨てることで取り扱う特
徴量を圧縮できれば、認識に使用するパラメータの数も
減少する。この際、特徴量圧縮のために増加するパラメ
ータ数が、認識に使用するパラメータの減少数よりも少
ない場合、パターン認識装置において必要なパラメータ
を保持するメモリの容量を小さくできる。

【０００７】複数個の特徴量ベクトルで表現されるデー
タ群で特徴量と正しいクラスが分かっている十分な個数
のサンプルデータが与えられた時、主成分軸計算装置で
は、サンプルデータの平均ベクトル（データ選別装置で
使用）を計算し、更に以下の手順で特徴量変換パラメー
タとなる主成分軸方向への単位ベクトルを求める。

【０００８】まず、サンプルデータ全体に対して主成分
分析を行ない、主成分軸方向への単位ベクトルを求め
る。次にｆ次元の特徴量ベクトルで表されるデータに対
する主成分分析では、序列化された主成分軸がｆ個得ら
れるが、そのうちの上位ｋ（ｋ＜ｆ）個を選ぶことで特
徴量空間次元数の圧縮を行なう。この上位ｋ個の主成分
軸方向への単位ベクトルを特徴量変換パラメータとす
る。

【０００９】特徴量変換装置では、上記主成分軸計算装
置で得られた変換パラメータ（主成分軸方向への単位ベ
クトル）を使って、各サンプルデータのｆ次元の特徴量
ベクトルを変換し、新しいｋ次元の特徴量ベクトルを求
める。新しい特徴量ベクトルは、変換前の特徴量ベクト
ルを主成分軸方向へ射影した値である。変換式は、

【００１０】

【数１】 となる。

【００１１】テンプレート作成装置では、上記特徴量変
換装置で得られる新しい特徴量ベクトルから、テンプレ
ートとテンプレート補助データを計算する。クラス数を
ｓ、最大矯正回数をｔとすると、新しい特徴量ベクトル
はｋ次元であるから、パラメータは以下に示す数にな
る。 平均ベクトル ｋ＊ｓ 固有ベクトル ｋ＊ｓ＊ｔ 固有値 ｓ＊ｔ 保持しておく必要のあるパラメータは、 特徴量変換パラメータ（主成分軸方向への単位ベクト
ル） ｆ＊ｋ 特徴量変換前の全サンプルデータの平均ベクトル
ｆ 及び上記テンプレート作成装置で得られるパラメータで
あるから、合わせて、 ｋ＊ｓ＋ｋ＊ｓ＊ｔ＋ｓ＊ｔ＋ｆ＊ｋ＋ｆ のパラメータを記憶するメモリ容量が必要になる。ここ
で、従来手法において保持する必要があったパラメータ
数との差を以下に示す。

【００１２】

【数２】

【００１３】上記の比較から、（ｆ−ｋ）＊ｓ＊（ｔ＋
１）がｆ＊（ｋ＋１）に比べて大きい場合、メモリが節
約できる。特徴量ベクトル次元数ｆが多いデータで、圧
縮率ｋ／ｆが良いとき、又、同じ圧縮率でもクラス数ｓ
が多いものほど節約効果が高い。

【００１４】識別対象データの特徴量ベクトルが与えら
れた時は、予めメモリに記憶しておいた上記変換パラメ
ータを用い、上記特徴量変換装置で識別対象データの特
徴量ベクトルを変換し、新しいｋ次元の特徴量ベクトル
を求める。

【００１５】しかし、識別対象データが、切り捨てられ
た主成分軸方向に大きな成分を持つ、即ちサンプルデー
タの分布から外れているデータの場合、変換後の特徴量
ベクトルではその成分が消えてしまい、誤識別につなが
ることがある。この誤識別を事前に防ぐため、データ選
別装置は、以下の手順で誤識別の可能性があるデータを
異常データとして検出する。

【００１６】まず、識別対象データの変換前の特徴量ベ
クトル、上記主成分軸計算装置で求めたサンプルデータ
の平均ベクトル及び主成分軸方向への単位ベクトル、更
に上記特徴量変換装置で求めた新しいｋ次元の特徴量ベ
クトルを使って、下式に示される成分Ｄを計算する。こ
のＤは変換によって消えてしまう特徴量成分の大きさで
ある。そこで、Ｄが予め定められたしきい値以上の場合
に、そのデータを異常データとする。

【００１７】

【数３】

【００１８】上述した手法において識別対象データが異
常でなかった場合には、マッチング度計算装置で各クラ
スとのマッチング度を計算する。そして、クラス判定装
置では、上記マッチング度計算装置で求めたマッチング
度が最も高いクラスを、識別対象データの属するクラス
と判断する。

【００１９】

【実施例】以下、図面を参照してこの発明の一実施例を
説明する。

【００２０】この発明に係るパターン認識装置の構成を
図１に示す。主成分軸計算装置１は、複数個の特徴量ベ
クトルで表現されるデータ群で、特徴量値が分かってい
る十分な個数のサンプルデータが与えられる時、全サン
プルデータの平均ベクトルを計算し、更に主成分軸方向
への単位ベクトルを計算してそのうち上位のものを選択
し、これらをメモリ２に保存する。特徴量変換装置３ａ
は、上記メモリ２に保存された主成分軸方向への単位ベ
クトルを用いて、全サンプルデータの特徴量ベクトルを
変換し、圧縮された特徴量ベクトルを生成し、この新し
い特徴量ベクトルと上記サンプルデータの正解クラスと
をテンプレート作成装置４に送る。テンプレート作成装
置４は、マッチング度計算の基本となる各クラスのテン
プレートと、マッチング度計算の過程に必要なテンプレ
ート補助データを作成してこれらを上記メモリ２に保存
する。

【００２１】識別対象データの特徴量ベクトルが与えら
れた時、上記特徴量変換装置３ａと同様な構成を有する
特徴量変換装置３ｂは、メモリ２に保存された主成分軸
方向への単位ベクトルを用いて上記識別対象データの特
徴量ベクトルを変換し、圧縮された特徴量ベクトルをデ
ータ選別装置５に送る。データ選別装置５は、上記識別
対象データの特徴量変換により消えてしまう特徴量成分
の大きさを計算し、その値が予め定められた値より大き
い場合、上記識別対象データを異常データとして出力す
る。データ選別装置５は、異常データ以外は正常データ
とし、正常データである場合、上記特徴量変換装置３ｂ
から送られた上記識別対象データの圧縮された特徴量ベ
クトルを、マッチング度計算装置６に出力する。

【００２２】マッチング度計算装置６は、上記メモリ２
に保存されたテンプレート及びテンプレート補助データ
を用い、上記データ選別装置５で正常データと判断され
た識別対象データについて、各クラスとのマッチング度
を計算してクラス判定装置７に出力する。クラス判定装
置７は、上記マッチング度計算装置６で計算されたマッ
チング度の最も高いクラスを識別対象データの属するク
ラスと判断する。次に同実施例における動作を説明す
る。

【００２３】複数個の特徴量ベクトルで表現されるデー
タ群で、特徴量値が分かっている十分な個数のサンプル
データが与えられると、主成分軸計算装置１は、全サン
プルデータの平均ベクトルを計算し、更に主成分軸方向
への単位ベクトルを計算してそのうち上位のものを選択
する。これによって生成される平均ベクトルと主成分軸
方向への単位ベクトルとはメモリ２に送られ、各々保存
される。

【００２４】又、上記サンプルデータの特徴量ベクトル
は、特徴量変換装置３ａにおいて、全て新しいベクト
ル、即ち圧縮された特徴量ベクトルに変換される。この
際、特徴量変換装置３ａは、上記メモリ２に保存されて
いる主成分軸方向への単位ベクトルを適用する。上記圧
縮された特徴量ベクトルは、正解クラスコードと共にテ
ンプレート作成装置４に送られる。これによりテンプレ
ート作成装置４にて、マッチング度計算の基本となる各
クラスのテンプレートとマッチング度計算の過程に必要
なテンプレート補助データが生成される。これらのテン
プレート及びテンプレート補助データは上記メモリ２に
保存される。

【００２５】そして、識別対象データの特徴量ベクトル
が与えられると、この識別対象データの特徴量ベクトル
は、特徴量変換装置３ｂにて圧縮された特徴量ベクトル
に変換される。この際、上記メモリ２に格納されている
主成分軸方向への単位ベクトルが適用される。しかし、
識別対象データが、例えば図２に示されるように切り捨
てられた主成分軸方向に大きな成分を持つ、即ちサンプ
ルデータの分布から外れているデータの場合、変換後の
特徴量ベクトルではその成分が消えてしまい、誤識別が
生じる場合がある。

【００２６】そこで、上記生成された上記識別対象デー
タの圧縮された特徴量ベクトルは、データ選別装置５に
送られ、上記変換により消えてしまう識別対象データの
特徴量成分の大きさが計算される。これにより算出され
た値が、予め定められた値より大きい場合、上記識別対
象データは異常データとしてデータ選別装置５から出力
される。上記算出された値が予め定められた値より小さ
い場合、上記識別対象データは正常データと判断され、
上記圧縮された特徴量ベクトルがマッチング度計算装置
６に出力される。

【００２７】マッチング度計算装置６は、正常データと
判断した識別対象データについて各クラスとのマッチン
グ度を計算する。この計算結果よりクラス判定装置７
は、最もマッチング度の高いクラスを識別対象データの
属するクラスと判断し、識別結果として出力する。

【００２８】次に上記主成分軸計算装置１において選択
される主成分軸の数を決める方法を、１２８次元の特徴
量ベクトルで表わされるデータを使った例を用いて具体
的に説明する。

【００２９】予め正解クラスが分かっているサンプルデ
ータが約１０００件ある。主成分軸計算装置１で選択す
る主成分軸の数ｋを、上位１０個から１２８個まで変化
させて、サンプルデータから認識に使用するパラメータ
（テンプレート、テンプレート補助データ）を作成した
後、サンプルデータを識別対象として識別を行なう。上
記サンプルデータは予め正解クラスが分かっているの
で、その識別結果から識別率を計算し、その識別率をみ
てｋを決定する。

【００３０】図３にｋと識別率の関係をグラフ（縦軸：
識別率、横軸：ｋ）で示す。図３においては、ｋ≧３０
のとき識別率が高い状態で安定している。従って、この
例の場合はｋ＝３０と設定する。クラス数ｓ＝４３、最
大矯正回数ｔ＝１０であるから、この例で記憶しておく
パラメータ数は以下の値になる。（変換前の特徴量次元
数ｆ＝１２８） ｋ＊ｓ＋ｋ＊ｓ＊ｔ＋ｓ＊ｔ＋ｆ＊ｋ＋ｆ＝１８５８８ 又、この例のデータを従来手法で認識する場合、パラメ
ータ数は以下の値になる。 ｆ＊ｓ＋ｆ＊ｓ＊ｔ＋ｓ＊ｔ＝６０９７４ 認識に使用するパラメータの減少数は （ｆ−ｋ）＊ｓ＊（ｔ＋１）＝４６３５４ 圧縮のために増加するパラメータ数は ｆ＊（ｋ＋１） ＝３９６８ であり、認識に使用するパラメータの減少数＞圧縮のた
めに増加するパラメータ数、となっている。従ってこの
例の場合は、メモリ容量が従来の約３０％（１８５８８
／６０９７４）に節約できる。

【００３１】

【発明の効果】以上詳記したようにこの発明によれば、
あらゆるテンプレート・マッチングにおいて、主成分分
析を用いて特徴量の冗長性を切り捨てることにより、よ
り少ない特徴量でデータの特徴を記述することが可能と
なる。そのため、必要なパラメータを記憶しておくメモ
リの容量を小さくすることができる。又、特徴量の冗長
性を切り捨てたことによる誤識別は、データ選別装置に
より防止できる。

【図面の簡単な説明】

【図１】この発明の一実施例に係るパターン認識装置の
構成を示すブロック図。

【図２】同実施例におけるデータ識別装置で異常データ
と判断されるデータ例を示すグラフ。

【図３】同実施例における選択した主成分軸の数と識別
率の関係を示すグラフ。

【符号の説明】

１…主成分軸計算装置、２…メモリ、３ａ，３ｂ…特徴
量変換装置、４…テンプレート作成装置、５…データ選
別装置、６…マッチング度計算装置、７…クラス判定装
置。

Claims (1)

【特許請求の範囲】
1. 【請求項１】 複数個の特徴量ベクトルで表現されるデ
   ータ群で特徴量と正しいクラスが分かっている十分な個
   数のサンプルデータが与えられた時、 処理上発生するデータを記憶する記憶手段と、 上記複数個のサンプルデータに対する平均ベクトルを計
   算し、主成分分析を用いて主成分軸方向への単位ベクト
   ルを求め、その中から予め定められた数だけ主成分軸方
   向への単位ベクトルを選択する主成分軸計算装置と、 上記主成分軸計算装置により選択された主成分軸方向へ
   の単位ベクトルを用いて上記サンプルデータ及び識別対
   象データの特徴量ベクトルを変換する特徴量変換装置
   と、 この特徴量変換装置により求められたサンプルデータの
   特徴量ベクトル及び上記サンプルデータの正しいクラス
   から各クラスのテンプレート及びテンプレート補助デー
   タを作成するテンプレート作成装置と、 上記主成分軸計算装置により求められた上記サンプルデ
   ータの平均ベクトル及び主成分軸方向への単位ベクトル
   と上記特徴量変換装置により変換された上記識別対象デ
   ータの特徴量ベクトルと上記識別対象データの変換前の
   特徴量ベクトルとから上記識別対象データが異常データ
   か正常データかを判断するデータ選別装置と、 このデータ選別装置により正常データと判断された識別
   対象データに対して上記テンプレート及びテンプレート
   補助データを用いて各クラスとのマッチング度を求める
   マッチング度計算装置と、 このマッチング度計算装置により求められたマッチング
   度から上記識別対象データの属するクラスを判定するク
   ラス判定装置とを具備することを特徴とするパターン認
   識装置。