JPH09245125A - パターン認識装置及び同装置における辞書修正方法 - Google Patents
パターン認識装置及び同装置における辞書修正方法Info
- Publication number
- JPH09245125A JPH09245125A JP8049035A JP4903596A JPH09245125A JP H09245125 A JPH09245125 A JP H09245125A JP 8049035 A JP8049035 A JP 8049035A JP 4903596 A JP4903596 A JP 4903596A JP H09245125 A JPH09245125 A JP H09245125A
- Authority
- JP
- Japan
- Prior art keywords
- recognition
- dictionary
- feature vector
- pattern
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Landscapes
- Character Discrimination (AREA)
Abstract
(57)【要約】
【課題】認識辞書のためのメモリ容量が小さく、且つ認
識のための計算量が小さくて済み、しかも従来と同等の
認識性能を達成できるようにする。 【解決手段】辞書学習モード時に、多数の学習パターン
をデータ入力部１１により順次入力して、その都度、そ
の学習パターンから特徴抽出部１２によりｎ次元特徴ベ
クトルを抽出し、更にそのｎ次元特徴ベクトルから特徴
選択部１３により特徴選択辞書１６を用いてｍ次元の特
徴ベクトル（ｍ＜ｎ）を選択し、その選択特徴ベクトル
と認識辞書１７（内の各参照ベクトル）とを識別部１４
にて照合することで評価値を算出し、その算出結果に基
づく順番で認識候補を出力する認識処理を行い、その認
識処理の結果をもとに認識辞書修正部１８にて誤認識の
度合いを検出し、その誤認識の度合いが小さくなるよう
に認識辞書１７を修正する一連の処理を、予め定められ
た回数だけ繰り返す構成とする。
識のための計算量が小さくて済み、しかも従来と同等の
認識性能を達成できるようにする。 【解決手段】辞書学習モード時に、多数の学習パターン
をデータ入力部１１により順次入力して、その都度、そ
の学習パターンから特徴抽出部１２によりｎ次元特徴ベ
クトルを抽出し、更にそのｎ次元特徴ベクトルから特徴
選択部１３により特徴選択辞書１６を用いてｍ次元の特
徴ベクトル（ｍ＜ｎ）を選択し、その選択特徴ベクトル
と認識辞書１７（内の各参照ベクトル）とを識別部１４
にて照合することで評価値を算出し、その算出結果に基
づく順番で認識候補を出力する認識処理を行い、その認
識処理の結果をもとに認識辞書修正部１８にて誤認識の
度合いを検出し、その誤認識の度合いが小さくなるよう
に認識辞書１７を修正する一連の処理を、予め定められ
た回数だけ繰り返す構成とする。
Description
【０００１】
【発明の属する技術分野】本発明は、文字認識、音声認
識等に用いて好適なパターン認識装置及び同装置におけ
る辞書修正方法に関する。
識等に用いて好適なパターン認識装置及び同装置におけ
る辞書修正方法に関する。
【０００２】
【従来の技術】従来から様々なパターン認識手法が提案
されている。この従来から提案されているパターン認識
の手法は、各パターンの違いを記述された識別ルールと
いう知識を利用して識別する手法と、多量のサンプルデ
ータから、人手を介さずに、統計的に処理することによ
り作成した認識用の辞書を使用して認識を行う、統計的
パターン認識手法とに大別される。
されている。この従来から提案されているパターン認識
の手法は、各パターンの違いを記述された識別ルールと
いう知識を利用して識別する手法と、多量のサンプルデ
ータから、人手を介さずに、統計的に処理することによ
り作成した認識用の辞書を使用して認識を行う、統計的
パターン認識手法とに大別される。
【０００３】統計的パターン認識手法では、入力された
パターンから様々な特徴値を抽出して、それを並べてｎ
次元の特徴ベクトルとして扱い、そのｎ次元特徴空間の
中での特徴ベクトルの分布を統計的に調べることによ
り、カテゴリ毎に作成された認識辞書を使用し、入力パ
ターンから抽出された特徴ベクトルと各カテゴリの辞書
との照合結果の評価値に基づいて認識結果を出力するも
のである。
パターンから様々な特徴値を抽出して、それを並べてｎ
次元の特徴ベクトルとして扱い、そのｎ次元特徴空間の
中での特徴ベクトルの分布を統計的に調べることによ
り、カテゴリ毎に作成された認識辞書を使用し、入力パ
ターンから抽出された特徴ベクトルと各カテゴリの辞書
との照合結果の評価値に基づいて認識結果を出力するも
のである。
【０００４】このような統計的パターン認識手法の代表
的なものとして、部分空間法、疑似ベイズ識別法などが
知られている（電子通信情報学会論文誌、1995年11月
Vol.J78-D-II No.11 pp.1627-1638 ）。
的なものとして、部分空間法、疑似ベイズ識別法などが
知られている（電子通信情報学会論文誌、1995年11月
Vol.J78-D-II No.11 pp.1627-1638 ）。
【０００５】例えば部分空間法は、各カテゴリのｎ次元
特徴ベクトルの分布をｍ次元部分空間（ｍ＜ｎ）で記述
し、その部分空間の正規直交基底ベクトルをもって辞書
（認識辞書）とし、入力特徴ベクトルの各カテゴリ部分
空間への射影値を評価値として、その評価値の高い順に
認識結果を出力する手法である。この手法は、統計的手
法によりパターンの変動をうまく記述でき、高い認識性
能を達成できるため、文字認識、音声認識などのパター
ン認識の分野で広く適用されている。
特徴ベクトルの分布をｍ次元部分空間（ｍ＜ｎ）で記述
し、その部分空間の正規直交基底ベクトルをもって辞書
（認識辞書）とし、入力特徴ベクトルの各カテゴリ部分
空間への射影値を評価値として、その評価値の高い順に
認識結果を出力する手法である。この手法は、統計的手
法によりパターンの変動をうまく記述でき、高い認識性
能を達成できるため、文字認識、音声認識などのパター
ン認識の分野で広く適用されている。
【０００６】
【発明が解決しようとする課題】ところで最近は、高性
能のパーソナルコンピュータの普及に伴い、ソフトウェ
ア処理によって、小さいメモリ容量で、高速に且つ高性
能なパターン認識が可能な手法に対する要求が高まって
いる。
能のパーソナルコンピュータの普及に伴い、ソフトウェ
ア処理によって、小さいメモリ容量で、高速に且つ高性
能なパターン認識が可能な手法に対する要求が高まって
いる。
【０００７】しかしながら、上記した従来の認識手法で
は、認識辞書のためのメモリ容量、認識処理計算量が共
に大きい。例えば、日本語文字認識に部分空間法を適用
する場合の計算量について考えてみる。まず、識別カテ
ゴリ数をＪＩＳ第１水準文字として約３０００カテゴ
リ、識別に使用する特徴量として２５６次元特徴、部分
空間の次元数として１６次元とする。この場合、入力特
徴ベクトルと１つのカテゴリの辞書との評価値、即ち入
力特徴ベクトルの部分空間への射影量を求めるには、１
６次元部分空間を表す１６個の正規直交基底ベクトルへ
の射影の値を計算する必要があることから、２５６×１
６回の積和演算が必要となる。識別には、各カテゴリの
辞書との評価値を計算する必要があるため、合計では２
５６×１６×３０００＝１２２８８０００回の積和演算
が必要となる。
は、認識辞書のためのメモリ容量、認識処理計算量が共
に大きい。例えば、日本語文字認識に部分空間法を適用
する場合の計算量について考えてみる。まず、識別カテ
ゴリ数をＪＩＳ第１水準文字として約３０００カテゴ
リ、識別に使用する特徴量として２５６次元特徴、部分
空間の次元数として１６次元とする。この場合、入力特
徴ベクトルと１つのカテゴリの辞書との評価値、即ち入
力特徴ベクトルの部分空間への射影量を求めるには、１
６次元部分空間を表す１６個の正規直交基底ベクトルへ
の射影の値を計算する必要があることから、２５６×１
６回の積和演算が必要となる。識別には、各カテゴリの
辞書との評価値を計算する必要があるため、合計では２
５６×１６×３０００＝１２２８８０００回の積和演算
が必要となる。
【０００８】次に、上記の例における認識辞書容量につ
いて考えてみる。ここでは、各カテゴリの各正規直交基
底ベクトルを表現する必要があるため、ベクトルの１要
素を例えば１バイトで表現した場合には、認識辞書容量
は、２５６×１６×３０００×１ｂｙｔｅ（バイト）＝
１２２８８０００ｂｙｔｅ（バイト）＝１１．７Ｍｂｙ
ｔｅ（メガバイト）となる。
いて考えてみる。ここでは、各カテゴリの各正規直交基
底ベクトルを表現する必要があるため、ベクトルの１要
素を例えば１バイトで表現した場合には、認識辞書容量
は、２５６×１６×３０００×１ｂｙｔｅ（バイト）＝
１２２８８０００ｂｙｔｅ（バイト）＝１１．７Ｍｂｙ
ｔｅ（メガバイト）となる。
【０００９】このように、従来手法では、認識処理計算
量が大きいため、専用のハードウェアなしでは高速な実
行ができないという問題があった。また、認識辞書に必
要なメモリ容量も巨大であり、コストが高くなるという
問題もあった。
量が大きいため、専用のハードウェアなしでは高速な実
行ができないという問題があった。また、認識辞書に必
要なメモリ容量も巨大であり、コストが高くなるという
問題もあった。
【００１０】そこで、このような問題を解決するため
に、特徴選択により特徴次元数を削減してから部分空間
法や疑似ベイズ識別法を適用するという手法も知られて
いる（電子通信情報学会論文誌、1995年11月 Vol.J78-
D-II No.11 pp.1627-1638 ）。
に、特徴選択により特徴次元数を削減してから部分空間
法や疑似ベイズ識別法を適用するという手法も知られて
いる（電子通信情報学会論文誌、1995年11月 Vol.J78-
D-II No.11 pp.1627-1638 ）。
【００１１】しかし、その場合には、計算量、辞書容量
の削減に伴い、認識性能も低下するという問題があっ
た。本発明は上記事情を考慮してなされたものでその目
的は、認識辞書等のためのメモリ容量が小さく、且つ認
識のための計算量が小さくて済み、しかも従来と同等の
認識性能を達成できるパターン認識装置及び同装置にお
ける辞書修正方法を提供することにある。
の削減に伴い、認識性能も低下するという問題があっ
た。本発明は上記事情を考慮してなされたものでその目
的は、認識辞書等のためのメモリ容量が小さく、且つ認
識のための計算量が小さくて済み、しかも従来と同等の
認識性能を達成できるパターン認識装置及び同装置にお
ける辞書修正方法を提供することにある。
【００１２】
【課題を解決するための手段】本発明は、入力パターン
からｎ次元の特徴ベクトルを抽出し、この抽出したｎ次
元特徴ベクトルから特徴選択辞書（例えば多数の学習パ
ターンの特徴ベクトルの集合を対象とする主成分分析に
より作成された特徴選択辞書）を用いて認識に有効なｍ
次元特徴ベクトル（ｍ＜ｎ）を選択し、この選択したｍ
次元特徴ベクトルとｍ次元参照ベクトルの集合からなる
認識辞書とを照合することで評価値を算出して、その算
出結果に基づく順番で認識候補を出力する認識処理を行
うパターン認識装置において、辞書学習モード時に、多
数の学習パターンを順次入力して、その都度その学習パ
ターンを対象として上記の認識処理を行い、その認識処
理の結果をもとに誤認識の度合いを検出して、その誤認
識の度合いが小さくなるように上記認識辞書を修正する
一連の処理（競合学習処理）を、予め定められた回数だ
け繰り返すようにしたことを特徴とする。
からｎ次元の特徴ベクトルを抽出し、この抽出したｎ次
元特徴ベクトルから特徴選択辞書（例えば多数の学習パ
ターンの特徴ベクトルの集合を対象とする主成分分析に
より作成された特徴選択辞書）を用いて認識に有効なｍ
次元特徴ベクトル（ｍ＜ｎ）を選択し、この選択したｍ
次元特徴ベクトルとｍ次元参照ベクトルの集合からなる
認識辞書とを照合することで評価値を算出して、その算
出結果に基づく順番で認識候補を出力する認識処理を行
うパターン認識装置において、辞書学習モード時に、多
数の学習パターンを順次入力して、その都度その学習パ
ターンを対象として上記の認識処理を行い、その認識処
理の結果をもとに誤認識の度合いを検出して、その誤認
識の度合いが小さくなるように上記認識辞書を修正する
一連の処理（競合学習処理）を、予め定められた回数だ
け繰り返すようにしたことを特徴とする。
【００１３】また本発明は、認識辞書の修正時に、当該
認識辞書の修正と同様にして特徴選択辞書も修正するよ
うにしたことを特徴とする。ここで、認識辞書修正の対
象となる参照ベクトルとして、認識の対象となった学習
パターンと同一カテゴリである正解カテゴリの参照ベク
トルのうち最も上位候補であった参照ベクトルと、その
学習パターンと異なるカテゴリである不正解カテゴリの
参照ベクトルのうち最も上位候補であった参照ベクトル
を、その学習パターンに対する認識処理の結果から選択
すればよい。
認識辞書の修正と同様にして特徴選択辞書も修正するよ
うにしたことを特徴とする。ここで、認識辞書修正の対
象となる参照ベクトルとして、認識の対象となった学習
パターンと同一カテゴリである正解カテゴリの参照ベク
トルのうち最も上位候補であった参照ベクトルと、その
学習パターンと異なるカテゴリである不正解カテゴリの
参照ベクトルのうち最も上位候補であった参照ベクトル
を、その学習パターンに対する認識処理の結果から選択
すればよい。
【００１４】また、誤認識の度合いを表すのに、学習パ
ターンから抽出されたｎ次元特徴ベクトルより選択され
たｍ次元特徴ベクトルと正解カテゴリの参照ベクトルと
の一致度（距離）が、不正解カテゴリの参照ベクトルと
の一致度（距離）よりも大きい（短い）ほど第１の境界
値（例えば０）に近づき、逆に小さい（長い）ほど第１
の境界値とは異なる第２の境界値（例えば１）に近づく
損失関数を用いるとよい。
ターンから抽出されたｎ次元特徴ベクトルより選択され
たｍ次元特徴ベクトルと正解カテゴリの参照ベクトルと
の一致度（距離）が、不正解カテゴリの参照ベクトルと
の一致度（距離）よりも大きい（短い）ほど第１の境界
値（例えば０）に近づき、逆に小さい（長い）ほど第１
の境界値とは異なる第２の境界値（例えば１）に近づく
損失関数を用いるとよい。
【００１５】本発明においては、特徴選択により識別に
使用する特徴量を削減するようにしているため、認識辞
書容量及び認識計算量を低く抑えることができ、しかも
辞書学習モードで学習パターンに対する認識結果に基づ
いて競合学習により認識辞書を修正することで、その修
正された認識辞書を使用した認識処理が可能となるた
め、高精度の認識性能を実現することが可能となる。
使用する特徴量を削減するようにしているため、認識辞
書容量及び認識計算量を低く抑えることができ、しかも
辞書学習モードで学習パターンに対する認識結果に基づ
いて競合学習により認識辞書を修正することで、その修
正された認識辞書を使用した認識処理が可能となるた
め、高精度の認識性能を実現することが可能となる。
【００１６】また本発明においては、認識辞書だけでな
く、特徴選択辞書も学習パターンに対する認識結果に基
づいて修正することで、その修正された特徴選択辞書を
用いた特徴選択が可能となるため、識別に有効な特徴を
選択できるようになり、一層高精度の認識性能を実現す
ることが可能となる。
く、特徴選択辞書も学習パターンに対する認識結果に基
づいて修正することで、その修正された特徴選択辞書を
用いた特徴選択が可能となるため、識別に有効な特徴を
選択できるようになり、一層高精度の認識性能を実現す
ることが可能となる。
【００１７】
【発明の実施の形態】以下、本発明の実施の形態につき
図面を参照して説明する。 ［第１の実施形態］図１は本発明の第１の実施形態に係
るパターン認識装置の概略構成を示すブロック図であ
る。図１に示すパターン認識装置は、パターン認識のた
めのソフトウェア処理を実行するパーソナルコンピュー
タ等を用いて実現されるもので、データ入力部１１、特
徴抽出部１２、特徴選択部１３、識別部１４、認識結果
出力部１５、特徴選択辞書１６、認識辞書１７、及び認
識辞書修正部１８の機能要素から構成される。なお、装
置全体を制御する制御部等は省略されている。
図面を参照して説明する。 ［第１の実施形態］図１は本発明の第１の実施形態に係
るパターン認識装置の概略構成を示すブロック図であ
る。図１に示すパターン認識装置は、パターン認識のた
めのソフトウェア処理を実行するパーソナルコンピュー
タ等を用いて実現されるもので、データ入力部１１、特
徴抽出部１２、特徴選択部１３、識別部１４、認識結果
出力部１５、特徴選択辞書１６、認識辞書１７、及び認
識辞書修正部１８の機能要素から構成される。なお、装
置全体を制御する制御部等は省略されている。
【００１８】データ入力部１１は、認識の対象となる
（文字パターン、音声パターン等の）データ（パターン
データ）を入力する。特徴抽出部１２は、データ入力部
１１により入力されたデータ（入力パターン）からｎ次
元の特徴ベクトルを抽出する。
（文字パターン、音声パターン等の）データ（パターン
データ）を入力する。特徴抽出部１２は、データ入力部
１１により入力されたデータ（入力パターン）からｎ次
元の特徴ベクトルを抽出する。
【００１９】特徴選択部１３は、特徴抽出部１２により
抽出されたｎ次元特徴ベクトルから特徴選択辞書１６を
用いて認識に有効なｍ次元特徴ベクトル（ｍ＜ｎ）を選
択する。
抽出されたｎ次元特徴ベクトルから特徴選択辞書１６を
用いて認識に有効なｍ次元特徴ベクトル（ｍ＜ｎ）を選
択する。
【００２０】識別部１４は、特徴選択部１３により選択
されたｍ次元特徴ベクトルと認識辞書１７とを照合する
ことで評価値を算出し、その算出結果に基づく順番で
（ここでは、評価値の高い順に）認識候補を出力する。
されたｍ次元特徴ベクトルと認識辞書１７とを照合する
ことで評価値を算出し、その算出結果に基づく順番で
（ここでは、評価値の高い順に）認識候補を出力する。
【００２１】認識結果出力部１５は、識別部１４から出
力された認識候補を例えば表示装置（図示せず）に表示
する。特徴選択辞書１６は、ｎ次元特徴ベクトルからｍ
次元特徴ベクトル（ｍ＜ｎ）を選択するのに用いられ
る。
力された認識候補を例えば表示装置（図示せず）に表示
する。特徴選択辞書１６は、ｎ次元特徴ベクトルからｍ
次元特徴ベクトル（ｍ＜ｎ）を選択するのに用いられ
る。
【００２２】認識辞書１７は、ｍ次元特徴ベクトルの認
識に用いられるｍ次元参照ベクトルの集合からなる。認
識辞書修正部１８は、識別部１４の認識結果に基づいて
誤認識の度合いを検出し、その誤認識の度合いが小さく
なるように認識辞書１７を修正する。
識に用いられるｍ次元参照ベクトルの集合からなる。認
識辞書修正部１８は、識別部１４の認識結果に基づいて
誤認識の度合いを検出し、その誤認識の度合いが小さく
なるように認識辞書１７を修正する。
【００２３】次に、図１の構成の動作を図２乃至図６を
適宜参照して説明する。本実施形態では、キーボード、
マウス、スイッチ等の入力手段を用いて実現される図示
せぬモード指定部により、パターン認識処理を実行する
認識モードと、認識辞書１７を学習（修正）するための
学習処理（認識辞書修正処理）を実行する辞書学習モー
ドが選択指定できるようになっている。
適宜参照して説明する。本実施形態では、キーボード、
マウス、スイッチ等の入力手段を用いて実現される図示
せぬモード指定部により、パターン認識処理を実行する
認識モードと、認識辞書１７を学習（修正）するための
学習処理（認識辞書修正処理）を実行する辞書学習モー
ドが選択指定できるようになっている。
【００２４】以下、（ａ）認識モードでの認識処理、
（ｂ）辞書学習モードでの学習処理（認識辞書修正処
理）について、順に説明する。 （ａ）認識モードでの認識処理 まず、図１の装置が認識モードに設定された場合におけ
る認識処理について、図２のフローチャートを参照して
説明する。
（ｂ）辞書学習モードでの学習処理（認識辞書修正処
理）について、順に説明する。 （ａ）認識モードでの認識処理 まず、図１の装置が認識モードに設定された場合におけ
る認識処理について、図２のフローチャートを参照して
説明する。
【００２５】データ入力部１１は、文字パターンあるい
は音声パターン等のパターン認識の対象となるパターン
を入力する。特徴抽出部１２は、データ入力部１１によ
り入力されたパターンから特徴を抽出する（ステップＳ
１）。文字認識を例にとると、例えば図３に示すように
１５×１５画素の２値文字パターンが入力された場合に
は、その白画素を“０”、黒画素を“１”として、左上
端から右下端まで順に走査して得られるベクトル（０，
０，…，１，１，…，０）を抽出、それを特徴ベクトル
とする。
は音声パターン等のパターン認識の対象となるパターン
を入力する。特徴抽出部１２は、データ入力部１１によ
り入力されたパターンから特徴を抽出する（ステップＳ
１）。文字認識を例にとると、例えば図３に示すように
１５×１５画素の２値文字パターンが入力された場合に
は、その白画素を“０”、黒画素を“１”として、左上
端から右下端まで順に走査して得られるベクトル（０，
０，…，１，１，…，０）を抽出、それを特徴ベクトル
とする。
【００２６】特徴選択部１３は、特徴抽出部１２により
抽出されたｎ次元特徴（上記の文字パターンの例では、
ｎ＝１５×１５＝２２５）から、識別に必要となるｍ次
元特徴（ｍ＜ｎ）を選択する（ステップＳ２）。このス
テップＳ２では、「選択」という名称を使用している
が、ｎ個の特徴ベクトルの要素の中からｍ個を選び出す
という操作ではなく、特徴選択辞書１６を用いて次のよ
うな演算が行われる。
抽出されたｎ次元特徴（上記の文字パターンの例では、
ｎ＝１５×１５＝２２５）から、識別に必要となるｍ次
元特徴（ｍ＜ｎ）を選択する（ステップＳ２）。このス
テップＳ２では、「選択」という名称を使用している
が、ｎ個の特徴ベクトルの要素の中からｍ個を選び出す
という操作ではなく、特徴選択辞書１６を用いて次のよ
うな演算が行われる。
【００２７】即ち、入力特徴（特徴抽出部１２により抽
出されたｎ次元特徴）をｎ次元のベクトルＸ＝（ｘ1 ，
ｘ2 ，…，ｘn ）T （但し、Ｔは転置を表す記号）で表
現し、特徴選択辞書１６をｍ×ｎ行列でＰで表現するも
のとすると、ステップＳ２では、次式 Ｘ′＝ＰＸ …（１） に従って、ｎ次元特徴Ｘからｍ次元特徴Ｘ′が選択され
る。
出されたｎ次元特徴）をｎ次元のベクトルＸ＝（ｘ1 ，
ｘ2 ，…，ｘn ）T （但し、Ｔは転置を表す記号）で表
現し、特徴選択辞書１６をｍ×ｎ行列でＰで表現するも
のとすると、ステップＳ２では、次式 Ｘ′＝ＰＸ …（１） に従って、ｎ次元特徴Ｘからｍ次元特徴Ｘ′が選択され
る。
【００２８】この特徴選択辞書１６（＝Ｐ）は、多数の
学習パターンから抽出した特徴ベクトルを用いて、例え
ば以下の手順で設計される。まず、辞書作成に使用する
ｎ次元特徴ベクトル集合を｛Ｘ1 ，Ｘ2 ，…，ＸN｝と
する。これから、次式（２）に従ってｎ×ｎ行列Ｋを計
算する。
学習パターンから抽出した特徴ベクトルを用いて、例え
ば以下の手順で設計される。まず、辞書作成に使用する
ｎ次元特徴ベクトル集合を｛Ｘ1 ，Ｘ2 ，…，ＸN｝と
する。これから、次式（２）に従ってｎ×ｎ行列Ｋを計
算する。
【００２９】
【数１】
【００３０】次に、この行列Ｋの固有ベクトルを対応す
る固有値の大きい順にφ1 ，φ2 ，…として、 Ｐ＝（φ1 φ2 …φm ）T …（３） で定義されるｍ×ｎ行列Ｐを特徴選択辞書１６とする。
上記行列Ｋの固有ベクトルは、対応する固有値の大きい
順に、特徴ベクトル集合の分布の第１軸、第２軸、…を
表現している。
る固有値の大きい順にφ1 ，φ2 ，…として、 Ｐ＝（φ1 φ2 …φm ）T …（３） で定義されるｍ×ｎ行列Ｐを特徴選択辞書１６とする。
上記行列Ｋの固有ベクトルは、対応する固有値の大きい
順に、特徴ベクトル集合の分布の第１軸、第２軸、…を
表現している。
【００３１】ここで、上記式（１）より、Ｘ′＝（ｘ′
1 ，ｘ′2 ，…，ｘ′n ）T とした場合に、 ｘ′i ＝（Ｘ，φi ） …（４） であるから、即ちｘ′i はＸとφi との内積であるか
ら、上記のようにして求められた特徴選択辞書１６（＝
Ｐ）による特徴選択は、学習特徴ベクトル集合の主成分
空間への射影という意味を持つ。なお、固有値φi に対
応する固有値をλi とした場合に、ｍ×ｎ行列Ｐ（特徴
選択辞書１６）を次式のようにしてもよい。
1 ，ｘ′2 ，…，ｘ′n ）T とした場合に、 ｘ′i ＝（Ｘ，φi ） …（４） であるから、即ちｘ′i はＸとφi との内積であるか
ら、上記のようにして求められた特徴選択辞書１６（＝
Ｐ）による特徴選択は、学習特徴ベクトル集合の主成分
空間への射影という意味を持つ。なお、固有値φi に対
応する固有値をλi とした場合に、ｍ×ｎ行列Ｐ（特徴
選択辞書１６）を次式のようにしてもよい。
【００３２】
【数２】
【００３３】このｍ×ｎ行列Ｐ（特徴選択辞書１６）
は、各主軸への学習パターンの射影値の分散を正規化し
たものである。さて、特徴選択部１３により上記（１）
式に従って選択されたｍ次元特徴（特徴ベクトル）Ｘ′
は識別部１４に渡される。識別部１４は、この選択され
た特徴ベクトルＸ′を認識辞書１７と照合し、カテゴリ
に分類することで、認識候補を出力する識別処理を行う
（ステップＳ３）。このステップＳ３の詳細は次の通り
である。
は、各主軸への学習パターンの射影値の分散を正規化し
たものである。さて、特徴選択部１３により上記（１）
式に従って選択されたｍ次元特徴（特徴ベクトル）Ｘ′
は識別部１４に渡される。識別部１４は、この選択され
た特徴ベクトルＸ′を認識辞書１７と照合し、カテゴリ
に分類することで、認識候補を出力する識別処理を行う
（ステップＳ３）。このステップＳ３の詳細は次の通り
である。
【００３４】まず、認識辞書１７は、カテゴリ毎に参照
ベクトルと呼ぶ、そのカテゴリを代表するベクトルを１
つ以上有し、全カテゴリで合計Ｍ個（Ｍはカテゴリ数以
上）のｍ次元参照ベクトル集合｛Ｒ1 ，Ｒ2 ，…，ＲM
｝からなる。
ベクトルと呼ぶ、そのカテゴリを代表するベクトルを１
つ以上有し、全カテゴリで合計Ｍ個（Ｍはカテゴリ数以
上）のｍ次元参照ベクトル集合｛Ｒ1 ，Ｒ2 ，…，ＲM
｝からなる。
【００３５】このような認識辞書１７の構造の場合、識
別部１４は、特徴選択部１３により選択されたｍ次元の
特徴ベクトルＸ′と認識辞書１７を構成する各参照ベク
トルＲi （ｉ＝１〜Ｍ）との距離ｄ（Ｘ′，Ｒi ）を次
式に従って計算する。
別部１４は、特徴選択部１３により選択されたｍ次元の
特徴ベクトルＸ′と認識辞書１７を構成する各参照ベク
トルＲi （ｉ＝１〜Ｍ）との距離ｄ（Ｘ′，Ｒi ）を次
式に従って計算する。
【００３６】 ｄ（Ｘ′，Ｒi ）＝（Ｘ′−Ｒi ）2 …（６） 次に識別部１４は、上記（６）式に従って算出した距離
の小さい順に（即ち両ベクトルＸ′，Ｒi の一致度を示
す評価値の大きい順に）、対応する参照ベクトルＲi の
属するカテゴリを、認識候補として認識結果出力部１５
に出力する。
の小さい順に（即ち両ベクトルＸ′，Ｒi の一致度を示
す評価値の大きい順に）、対応する参照ベクトルＲi の
属するカテゴリを、認識候補として認識結果出力部１５
に出力する。
【００３７】認識結果出力部１５は、これを受けて識別
部１４から出力される認識候補を図示せぬ表示装置に表
示出力する。以上が、認識処理の手順である。この認識
処理から明らかなように、特徴選択辞書１６の容量は選
択特徴ベクトルＸ′の次元数に比例する。また、参照ベ
クトルＲi の次元数は、選択特徴ベクトルＸ′の次元数
に一致するので、認識辞書１７の容量も選択特徴ベクト
ルＸ′の次元数に比例する。
部１４から出力される認識候補を図示せぬ表示装置に表
示出力する。以上が、認識処理の手順である。この認識
処理から明らかなように、特徴選択辞書１６の容量は選
択特徴ベクトルＸ′の次元数に比例する。また、参照ベ
クトルＲi の次元数は、選択特徴ベクトルＸ′の次元数
に一致するので、認識辞書１７の容量も選択特徴ベクト
ルＸ′の次元数に比例する。
【００３８】一方、認識処理に要する計算量（積和の演
算回数）は、特徴選択部１３と識別部１４とで、 特徴選択部１３：（特徴ベクトル次元数）×（選択特徴
ベクトルの次元数）回 識別部１４：（全参照ベクトル数）×（選択特徴ベクト
ルの次元数）回 のようになり、やはり選択特徴ベクトルの次元数に比例
する。
算回数）は、特徴選択部１３と識別部１４とで、 特徴選択部１３：（特徴ベクトル次元数）×（選択特徴
ベクトルの次元数）回 識別部１４：（全参照ベクトル数）×（選択特徴ベクト
ルの次元数）回 のようになり、やはり選択特徴ベクトルの次元数に比例
する。
【００３９】以上のことから、選択特徴ベクトルの次元
数を低くするほど、認識辞書１７の容量（辞書容量）を
小さくでき、少ない演算量（計算量）で認識処理を実行
できることになる。ここで、実際の選択特徴ベクトルの
次元数は、本装置に要求される辞書容量と、計算量の制
約により決定される。
数を低くするほど、認識辞書１７の容量（辞書容量）を
小さくでき、少ない演算量（計算量）で認識処理を実行
できることになる。ここで、実際の選択特徴ベクトルの
次元数は、本装置に要求される辞書容量と、計算量の制
約により決定される。
【００４０】明らかなように、選択特徴ベクトルの次元
数を低くするほど、辞書容量、計算量の面からは有利に
なるが、その反面、認識辞書１７の情報量は落ちるた
め、認識性能の低下が予想される。
数を低くするほど、辞書容量、計算量の面からは有利に
なるが、その反面、認識辞書１７の情報量は落ちるた
め、認識性能の低下が予想される。
【００４１】そこで本装置では、実際に学習パターンを
認識させてみて、誤認識をできるだけ少なくするよう
に、以下に述べる認識辞書１７を修正するという競合学
習を導入することにより、認識性能の向上を図ってい
る。 （ｂ）辞書学習モードでの学習処理（認識辞書修正処
理） 以下、図１の装置が辞書学習モードに設定された場合に
おける学習処理について、図４のフローチャートを参照
して説明する。
認識させてみて、誤認識をできるだけ少なくするよう
に、以下に述べる認識辞書１７を修正するという競合学
習を導入することにより、認識性能の向上を図ってい
る。 （ｂ）辞書学習モードでの学習処理（認識辞書修正処
理） 以下、図１の装置が辞書学習モードに設定された場合に
おける学習処理について、図４のフローチャートを参照
して説明する。
【００４２】まず、前記したような、カテゴリ毎に参照
ベクトルと呼ぶ、そのカテゴリを代表するベクトルを１
つ以上有し、全カテゴリで合計Ｍ個のｍ次元参照ベクト
ル集合｛Ｒ1 ，Ｒ2 ，…，ＲM ｝からなる、初期状態の
認識辞書１７を作成しておく。この初期状態の認識辞書
１７を構成する各参照ベクトルは、例えば、カテゴリ毎
にそのカテゴリに属する複数の学習パターンの選択特徴
ベクトルの平均ベクトルとして設計されたものである。
各カテゴリの参照ベクトルの個数は１つ以上であれば幾
つでもよく、複数の場合には、初期値は全て平均ベクト
ルと同じにすればよい。
ベクトルと呼ぶ、そのカテゴリを代表するベクトルを１
つ以上有し、全カテゴリで合計Ｍ個のｍ次元参照ベクト
ル集合｛Ｒ1 ，Ｒ2 ，…，ＲM ｝からなる、初期状態の
認識辞書１７を作成しておく。この初期状態の認識辞書
１７を構成する各参照ベクトルは、例えば、カテゴリ毎
にそのカテゴリに属する複数の学習パターンの選択特徴
ベクトルの平均ベクトルとして設計されたものである。
各カテゴリの参照ベクトルの個数は１つ以上であれば幾
つでもよく、複数の場合には、初期値は全て平均ベクト
ルと同じにすればよい。
【００４３】さて、図１の装置において辞書学習モード
が設定された場合、制御部は、例えば磁気ディスク装置
等の外部記憶装置に予め登録されている全ての学習パタ
ーンをデータ入力部１１により順次入力させ、その都
度、その学習パターンを（図２のフローチャートで示さ
れる手順で）実際に認識させて、その認識結果をもとに
認識辞書１７を修正するという一連の操作を、図４のフ
ローチャートに従って目標とする学習回数（目標学習回
数）だけ繰り返し行う。
が設定された場合、制御部は、例えば磁気ディスク装置
等の外部記憶装置に予め登録されている全ての学習パタ
ーンをデータ入力部１１により順次入力させ、その都
度、その学習パターンを（図２のフローチャートで示さ
れる手順で）実際に認識させて、その認識結果をもとに
認識辞書１７を修正するという一連の操作を、図４のフ
ローチャートに従って目標とする学習回数（目標学習回
数）だけ繰り返し行う。
【００４４】即ち、学習回数をカウントするカウンタ値
ｔを初期値０に設定した後（ステップＳ１１）、そのカ
ウンタ値ｔが目標学習回数（指定の学習回数）に達して
いないならば（ステップＳ１２）、認識の対象とする学
習パターンをカウントするカウンタ値ｉを初期値０に設
定する（ステップＳ１３）。そして、カウンタ値ｉが予
め定められた（指定の）学習パターン数に達していない
ことから（ステップＳ１４）、ｉ番目の学習パターン
（第ｉ学習パターン）を図１の装置に与えて、図２のフ
ローチャートで示される手順で認識させ（ステップＳ１
５）、その認識結果をもとに、認識辞書修正部１８によ
り、認識辞書１７を修正させる（ステップＳ１６）。こ
のステップＳ１６での修正処理の詳細は後述する。
ｔを初期値０に設定した後（ステップＳ１１）、そのカ
ウンタ値ｔが目標学習回数（指定の学習回数）に達して
いないならば（ステップＳ１２）、認識の対象とする学
習パターンをカウントするカウンタ値ｉを初期値０に設
定する（ステップＳ１３）。そして、カウンタ値ｉが予
め定められた（指定の）学習パターン数に達していない
ことから（ステップＳ１４）、ｉ番目の学習パターン
（第ｉ学習パターン）を図１の装置に与えて、図２のフ
ローチャートで示される手順で認識させ（ステップＳ１
５）、その認識結果をもとに、認識辞書修正部１８によ
り、認識辞書１７を修正させる（ステップＳ１６）。こ
のステップＳ１６での修正処理の詳細は後述する。
【００４５】ステップＳ１６が終了すると、カウンタ値
ｉが＋１され（ステップＳ１７）、しかる後、上記ステ
ップＳ１４以降の処理、即ち次の学習パターンについて
の認識処理と、その認識処理の結果を用いた認識辞書１
７の修正処理が行われる。
ｉが＋１され（ステップＳ１７）、しかる後、上記ステ
ップＳ１４以降の処理、即ち次の学習パターンについて
の認識処理と、その認識処理の結果を用いた認識辞書１
７の修正処理が行われる。
【００４６】やがて、予め定められた学習パターン数分
の学習パターンについての認識処理と、その認識処理の
結果を用いた認識辞書１７の修正処理が全て実行される
と、ステップＳ１４からステップＳ１８に進み、カウン
タ値ｔが＋１される。そして、この＋１後のカウンタ値
ｔ（実際に行われた学習回数ｔ）が目標学習回数に達し
ていないならば（ステップＳ１２）、上記ステップＳ１
３以降の処理が再び行われる。
の学習パターンについての認識処理と、その認識処理の
結果を用いた認識辞書１７の修正処理が全て実行される
と、ステップＳ１４からステップＳ１８に進み、カウン
タ値ｔが＋１される。そして、この＋１後のカウンタ値
ｔ（実際に行われた学習回数ｔ）が目標学習回数に達し
ていないならば（ステップＳ１２）、上記ステップＳ１
３以降の処理が再び行われる。
【００４７】やがて、カウンタ値ｔが目標学習回数に達
すると、図４のフローチャートに従う一連の学習処理は
終了となる。ここで、認識辞書修正部１８による上記ス
テップＳ１６での認識辞書修正処理は、ステップＳ１５
で学習パターンを認識させたときの誤認識による損失を
定義して、その損失を小さくする方向に参照ベクトルを
修正していくことにより行われ、その詳細は次の通りで
ある。
すると、図４のフローチャートに従う一連の学習処理は
終了となる。ここで、認識辞書修正部１８による上記ス
テップＳ１６での認識辞書修正処理は、ステップＳ１５
で学習パターンを認識させたときの誤認識による損失を
定義して、その損失を小さくする方向に参照ベクトルを
修正していくことにより行われ、その詳細は次の通りで
ある。
【００４８】まず本実施形態では、ある学習パターンの
選択特徴ベクトルＸ′k を認識させた場合に、その学習
パターンと同一カテゴリ（正解カテゴリ）の参照ベクト
ルのうち最も上位候補であった参照ベクトルをＲi 、そ
の学習パターンと異なるカテゴリ（不正解カテゴリ）の
参照ベクトルのうち最も上位候補であった参照ベクトル
をＲj とした場合に、Ｘ′k を認識させたときの損失関
数ｈ（Ｘ′k ）を次のように定義する。
選択特徴ベクトルＸ′k を認識させた場合に、その学習
パターンと同一カテゴリ（正解カテゴリ）の参照ベクト
ルのうち最も上位候補であった参照ベクトルをＲi 、そ
の学習パターンと異なるカテゴリ（不正解カテゴリ）の
参照ベクトルのうち最も上位候補であった参照ベクトル
をＲj とした場合に、Ｘ′k を認識させたときの損失関
数ｈ（Ｘ′k ）を次のように定義する。
【００４９】 ｈ（Ｘ′k ）＝ｆ（ｇ（Ｘ′k ）） …（７） ｇ（Ｘ′k ）＝ｄ（Ｘ′k ，Ｒi ）−ｄ（Ｘ′k ，Ｒj ） …（８） ｆ（ｘ）＝１／｛１＋ｅｘｐ（−αｘ）｝ （α＞０）…（９） ここで、関数ｄ（Ｘ′k ，Ｒi ），ｄ（Ｘ′k ，Ｒj ）
は前記（６）式で定義した距離関数であり、前者は、学
習パターンと同一カテゴリの参照ベクトルのうち最上位
候補との一致度（距離が大きいほど一致度は低くなる）
を表し、後者は学習パターンと異なるカテゴリの参照ベ
クトルのうち最上位候補との一致度を表す。また、関数
ｆ（ｘ）は図５に示すようなシグモイド関数である。
は前記（６）式で定義した距離関数であり、前者は、学
習パターンと同一カテゴリの参照ベクトルのうち最上位
候補との一致度（距離が大きいほど一致度は低くなる）
を表し、後者は学習パターンと異なるカテゴリの参照ベ
クトルのうち最上位候補との一致度を表す。また、関数
ｆ（ｘ）は図５に示すようなシグモイド関数である。
【００５０】以上のように定義された損失関数ｈ（Ｘ′
k ）は、学習パターンの選択特徴ベクトルＸ′k と正解
カテゴリの参照ベクトルとの距離が、不正解カテゴリと
の距離よりも小さいほど小さい値（ここでは０に近い
値）となり、逆に大きいほど大きい値（ここでは１に近
い値）となることから、誤認識の度合いを表す評価関数
となっていることは明らかである。
k ）は、学習パターンの選択特徴ベクトルＸ′k と正解
カテゴリの参照ベクトルとの距離が、不正解カテゴリと
の距離よりも小さいほど小さい値（ここでは０に近い
値）となり、逆に大きいほど大きい値（ここでは１に近
い値）となることから、誤認識の度合いを表す評価関数
となっていることは明らかである。
【００５１】これにより、全ての学習パターンの選択特
徴ベクトル｛Ｘ′k ｜ｋ＝１，…，Ｎ｝についての、損
失関数ｈ（Ｘ′k ）の平均Ｌを、次式（１０）のように
定めると、この値Ｌが小さいほど良い識別系であるとい
える。
徴ベクトル｛Ｘ′k ｜ｋ＝１，…，Ｎ｝についての、損
失関数ｈ（Ｘ′k ）の平均Ｌを、次式（１０）のように
定めると、この値Ｌが小さいほど良い識別系であるとい
える。
【００５２】
【数３】
【００５３】しかし、上記式（１０）に示すＬ（関数
Ｌ）を最小とするような参照ベクトルを解析的に求める
ことは困難である。そこで本実施形態では、認識辞書修
正部１８での認識辞書修正処理に周知の最急勾配法（最
急降下法）を用いることにより、少しずつ参照ベクトル
を修正（更新）していき、極小解を求めるようにしてい
る。
Ｌ）を最小とするような参照ベクトルを解析的に求める
ことは困難である。そこで本実施形態では、認識辞書修
正部１８での認識辞書修正処理に周知の最急勾配法（最
急降下法）を用いることにより、少しずつ参照ベクトル
を修正（更新）していき、極小解を求めるようにしてい
る。
【００５４】具体的には、学習パターンの選択特徴ベク
トルＸ′k を識別部１４により認識させ、その学習パタ
ーンと同一カテゴリ（正解カテゴリ）の参照ベクトルの
うち最も上位候補であった参照ベクトルＲi と、学習パ
ターンと異なるカテゴリ（不正解カテゴリ）の参照ベク
トルのうち最も上位候補であった参照ベクトルＲj と
を、損失関数ｈ（Ｘ′k ）を参照ベクトルＲi ，Ｒj で
微分した値、即ち参照ベクトル空間における損失関数ｈ
（Ｘ′k ）の勾配を用いて、次のようなルールに従い損
失関数ｈ（Ｘ′k ）が減少する方向に認識辞書修正部１
８にて少しずつ修正（更新）する。
トルＸ′k を識別部１４により認識させ、その学習パタ
ーンと同一カテゴリ（正解カテゴリ）の参照ベクトルの
うち最も上位候補であった参照ベクトルＲi と、学習パ
ターンと異なるカテゴリ（不正解カテゴリ）の参照ベク
トルのうち最も上位候補であった参照ベクトルＲj と
を、損失関数ｈ（Ｘ′k ）を参照ベクトルＲi ，Ｒj で
微分した値、即ち参照ベクトル空間における損失関数ｈ
（Ｘ′k ）の勾配を用いて、次のようなルールに従い損
失関数ｈ（Ｘ′k ）が減少する方向に認識辞書修正部１
８にて少しずつ修正（更新）する。
【００５５】
【数４】
【００５６】なお、上記のルール中のε（ｔ）は学習の
速度を決めるためのもので、正の値をとるカウンタ値ｔ
（学習パターン提示回数ｔ）の減少関数であり、例え
ば、ε（ｔ）＝１／（ｔ＋１０）が用いられる。
速度を決めるためのもので、正の値をとるカウンタ値ｔ
（学習パターン提示回数ｔ）の減少関数であり、例え
ば、ε（ｔ）＝１／（ｔ＋１０）が用いられる。
【００５７】このようなルールで認識辞書１７の修正を
指定回数繰り返すことにより、誤認識による損失が小さ
い認識辞書１７、即ち誤認識の少ない認識性能の良い認
識辞書１７に修正することができる。
指定回数繰り返すことにより、誤認識による損失が小さ
い認識辞書１７、即ち誤認識の少ない認識性能の良い認
識辞書１７に修正することができる。
【００５８】図１の装置で、上記のようにして修正され
た認識辞書１７を用いて手書き文字認識を行った場合
の、計算量（認識辞書容量）に対する認識性能（認識
率）を表す折れ線グラフを、従来手法である部分空間法
と対比させて図６に示す。なお、ここでの認識対象は片
仮名文字である。
た認識辞書１７を用いて手書き文字認識を行った場合
の、計算量（認識辞書容量）に対する認識性能（認識
率）を表す折れ線グラフを、従来手法である部分空間法
と対比させて図６に示す。なお、ここでの認識対象は片
仮名文字である。
【００５９】図６中、横軸は、（従来から知られてい
る）２５６次元特徴の１６次元部分空間による部分空間
法の積和演算量を１とした場合の積和演算量の比を表し
ており、対数スケールとなっている。この積和演算量の
比は認識辞書容量の比と考えても同じである。一方、縦
軸は、認識率を表している。
る）２５６次元特徴の１６次元部分空間による部分空間
法の積和演算量を１とした場合の積和演算量の比を表し
ており、対数スケールとなっている。この積和演算量の
比は認識辞書容量の比と考えても同じである。一方、縦
軸は、認識率を表している。
【００６０】さて、図６中、符号６１で示される折れ線
グラフは、本実施形態の装置における認識性能を表して
おり、２５６次元特徴からそれぞれ１６次元特徴、３２
次元特徴、６４次元特徴、１２８次元特徴を選択した場
合に、参照ベクトルを各カテゴリにつき１つとして認識
した場合の認識結果（認識率）を線でつないだものであ
る。
グラフは、本実施形態の装置における認識性能を表して
おり、２５６次元特徴からそれぞれ１６次元特徴、３２
次元特徴、６４次元特徴、１２８次元特徴を選択した場
合に、参照ベクトルを各カテゴリにつき１つとして認識
した場合の認識結果（認識率）を線でつないだものであ
る。
【００６１】次に、符号６２で示される折れ線グラフ
は、特徴選択をしていない２５６次元特徴をそのまま使
用して、その２５６次元特徴に対して部分空間法を適用
した手法の認識性能を示しており、部分空間次元数を１
次元、２次元、４次元、８次元、１６次元にした場合の
認識結果を線でつないだものである。
は、特徴選択をしていない２５６次元特徴をそのまま使
用して、その２５６次元特徴に対して部分空間法を適用
した手法の認識性能を示しており、部分空間次元数を１
次元、２次元、４次元、８次元、１６次元にした場合の
認識結果を線でつないだものである。
【００６２】同様に、符号６３，６４，６５，６６で示
される折れ線グラフは、それぞれ１６次元特徴、３２次
元特徴、６４次元特徴、１２８次元特徴を選択し、その
選択した特徴に対して部分空間法を適用した手法（特徴
選択＋部分空間法）の認識性能を示しており、いずれも
部分空間次元数を１次元、２次元、４次元、８次元、１
６次元にした場合の認識結果を線でつないだものであ
る。このグラフ６３〜６６の例では、特徴選択を行うこ
とで、グラフ６２の例と比べて積和演算量及び認識辞書
容量を減らしてはいるが、本実施形態のように認識辞書
修正を行っていないため、認識性能は劣る。
される折れ線グラフは、それぞれ１６次元特徴、３２次
元特徴、６４次元特徴、１２８次元特徴を選択し、その
選択した特徴に対して部分空間法を適用した手法（特徴
選択＋部分空間法）の認識性能を示しており、いずれも
部分空間次元数を１次元、２次元、４次元、８次元、１
６次元にした場合の認識結果を線でつないだものであ
る。このグラフ６３〜６６の例では、特徴選択を行うこ
とで、グラフ６２の例と比べて積和演算量及び認識辞書
容量を減らしてはいるが、本実施形態のように認識辞書
修正を行っていないため、認識性能は劣る。
【００６３】即ち、従来から知られている、部分空間法
と、特徴選択＋部分空間法とを比較すると、特徴選択＋
部分空間法では、例えば６４次元特徴を選択して積和演
算量を１／４にしても、部分空間法と同程度の認識性能
が得られることが分かる。しかし、それ以上選択次元数
を下げると、認識性能が著しく低下する。
と、特徴選択＋部分空間法とを比較すると、特徴選択＋
部分空間法では、例えば６４次元特徴を選択して積和演
算量を１／４にしても、部分空間法と同程度の認識性能
が得られることが分かる。しかし、それ以上選択次元数
を下げると、認識性能が著しく低下する。
【００６４】次に、部分空間法と本実施形態での手法と
を比較すると、本実施形態での手法では、積和演算量を
約１／３０にしても、部分空間法と同程度の認識性能が
得られることが分かる。
を比較すると、本実施形態での手法では、積和演算量を
約１／３０にしても、部分空間法と同程度の認識性能が
得られることが分かる。
【００６５】このように、図６からは、本実施形態での
手法は、特徴選択によって認識処理に必要な計算量を低
く押さえると共に、認識辞書１７を学習により修正する
ことで、高い認識精度を維持できることが読み取れ、本
実施形態での手法の効果が確認できる。 ［第２の実施形態］図７は本発明の第２の実施形態に係
るパターン認識装置の概略構成を示すブロック図であ
る。この図７の構成の特徴は、図１の構成に、識別部１
４の認識結果に基づいて誤認識の度合いを検出し、その
誤認識の度合いが小さくなるように特徴選択辞書１６を
修正する特徴選択辞書修正部１９を追加した点にあり、
辞書学習モードにおいて、認識辞書１７だけでなく特徴
選択辞書１６も修正する点で、図１の構成と異なってい
る。即ち、図１の構成では、主成分分析により作成した
特徴選択辞書１６をそのまま使用していたが、図７の構
成では、当該特徴選択辞書１６を学習により修正するこ
とで、更に識別に有利な特徴選択を可能とし、認識性能
の一層の向上を図るようにしている。なお、認識モード
での認識処理は、前記第１の実施形態と同様に図２のフ
ローチャートに従って行われる。
手法は、特徴選択によって認識処理に必要な計算量を低
く押さえると共に、認識辞書１７を学習により修正する
ことで、高い認識精度を維持できることが読み取れ、本
実施形態での手法の効果が確認できる。 ［第２の実施形態］図７は本発明の第２の実施形態に係
るパターン認識装置の概略構成を示すブロック図であ
る。この図７の構成の特徴は、図１の構成に、識別部１
４の認識結果に基づいて誤認識の度合いを検出し、その
誤認識の度合いが小さくなるように特徴選択辞書１６を
修正する特徴選択辞書修正部１９を追加した点にあり、
辞書学習モードにおいて、認識辞書１７だけでなく特徴
選択辞書１６も修正する点で、図１の構成と異なってい
る。即ち、図１の構成では、主成分分析により作成した
特徴選択辞書１６をそのまま使用していたが、図７の構
成では、当該特徴選択辞書１６を学習により修正するこ
とで、更に識別に有利な特徴選択を可能とし、認識性能
の一層の向上を図るようにしている。なお、認識モード
での認識処理は、前記第１の実施形態と同様に図２のフ
ローチャートに従って行われる。
【００６６】以下、辞書学習モード時の動作（学習処
理）を特徴選択辞書修正部１９による特徴選択辞書修正
処理を中心に図８のフローチャートを参照して説明す
る。図７の装置において辞書学習モードが設定された場
合、制御部は、外部記憶装置に予め登録されている全て
の学習パターンをデータ入力部１１により順次入力さ
せ、その都度、その学習パターンを（図２のフローチャ
ートで示される手順で）実際に認識させ、その認識結果
をもとに認識辞書１７及び特徴選択辞書１６を修正する
という操作を、図８のフローチャートに従って目標とす
る学習回数だけ繰り返し行う（ステップＳ２１〜Ｓ２
７）。前記第１の実施形態との違いは、第１の実施形態
におけるステップＳ１６に相当する修正処理ステップＳ
２６で、認識辞書１７だけでなく特徴選択辞書１６も修
正する点である。
理）を特徴選択辞書修正部１９による特徴選択辞書修正
処理を中心に図８のフローチャートを参照して説明す
る。図７の装置において辞書学習モードが設定された場
合、制御部は、外部記憶装置に予め登録されている全て
の学習パターンをデータ入力部１１により順次入力さ
せ、その都度、その学習パターンを（図２のフローチャ
ートで示される手順で）実際に認識させ、その認識結果
をもとに認識辞書１７及び特徴選択辞書１６を修正する
という操作を、図８のフローチャートに従って目標とす
る学習回数だけ繰り返し行う（ステップＳ２１〜Ｓ２
７）。前記第１の実施形態との違いは、第１の実施形態
におけるステップＳ１６に相当する修正処理ステップＳ
２６で、認識辞書１７だけでなく特徴選択辞書１６も修
正する点である。
【００６７】このステップＳ２６における認識辞書１７
及び特徴選択辞書１６の修正は、前記第１の実施形態と
同様な損失関数ｈ（Ｘ′k ）＝ｈ（ＰＸk ）を定義し
て、これを小さくする方向に最急勾配法（最急降下法）
で特徴選択辞書１６を修正していくことにより次のよう
に行われる。但し、本実施形態で適用される初期状態の
特徴選択辞書１６（＝Ｐ）は、前記第１の実施形態の場
合と同様に主成分分析により作成されたものであるとす
る。また。初期状態の認識辞書１７は、この初期状態の
特徴選択辞書１６を用いて前記第１の実施形態の場合と
同様に主成分分析により作成されたものであるとする。
及び特徴選択辞書１６の修正は、前記第１の実施形態と
同様な損失関数ｈ（Ｘ′k ）＝ｈ（ＰＸk ）を定義し
て、これを小さくする方向に最急勾配法（最急降下法）
で特徴選択辞書１６を修正していくことにより次のよう
に行われる。但し、本実施形態で適用される初期状態の
特徴選択辞書１６（＝Ｐ）は、前記第１の実施形態の場
合と同様に主成分分析により作成されたものであるとす
る。また。初期状態の認識辞書１７は、この初期状態の
特徴選択辞書１６を用いて前記第１の実施形態の場合と
同様に主成分分析により作成されたものであるとする。
【００６８】
【数５】
【００６９】ここでは、式（１５）、式（１８）によ
り、損失関数ｈ（Ｘ′k ）＝ｈ（ＰＸk ）を特徴選択辞
書（特徴選択辞書行列）Ｐで微分した値、即ち特徴選択
辞書参照パラメータ空間における損失関数ｈ（Ｘ′k ）
＝ｈ（ＰＸk ）の勾配を用いて、特徴選択辞書Ｐ、即ち
特徴選択辞書１６が修正される。
り、損失関数ｈ（Ｘ′k ）＝ｈ（ＰＸk ）を特徴選択辞
書（特徴選択辞書行列）Ｐで微分した値、即ち特徴選択
辞書参照パラメータ空間における損失関数ｈ（Ｘ′k ）
＝ｈ（ＰＸk ）の勾配を用いて、特徴選択辞書Ｐ、即ち
特徴選択辞書１６が修正される。
【００７０】一方、参照ベクトルＲi の修正（式（１
６）、式（１９））と参照ベクトルＲj の修正（式（１
７）、式（２０））は、前記第１の実施形態における参
照ベクトルＲi の修正（式（１１）、式（１３））と参
照ベクトルＲj の修正（（式（１２）、式（１４））と
同様である。
６）、式（１９））と参照ベクトルＲj の修正（式（１
７）、式（２０））は、前記第１の実施形態における参
照ベクトルＲi の修正（式（１１）、式（１３））と参
照ベクトルＲj の修正（（式（１２）、式（１４））と
同様である。
【００７１】このようなルールで認識辞書１７及び特徴
選択辞書１６の修正を指定回数繰り返すことにより、誤
認識による損失が小さい認識辞書１７及び特徴選択辞書
１６に修正することができる。
選択辞書１６の修正を指定回数繰り返すことにより、誤
認識による損失が小さい認識辞書１７及び特徴選択辞書
１６に修正することができる。
【００７２】図７の装置（本実施形態の認識手法）で、
上記のようにして修正された認識辞書１７及び特徴選択
辞書１６を用いて類似文字の認識（識別）を行った場合
の認識性能を、図１の装置（第１の実施形態の認識手
法）での認識性能及び従来の手法である特徴選択＋部分
空間法での認識性能と対比させて図９に示す。この例で
は、特徴選択により６４次元特徴を選択しているものと
する。また、部分空間法では３次元の部分空間を利用
し、前記第１の実施形態及び本実施形態（第２の実施形
態）では、参照ベクトル数を各カテゴリ３つとして、同
じ計算量で比較している。
上記のようにして修正された認識辞書１７及び特徴選択
辞書１６を用いて類似文字の認識（識別）を行った場合
の認識性能を、図１の装置（第１の実施形態の認識手
法）での認識性能及び従来の手法である特徴選択＋部分
空間法での認識性能と対比させて図９に示す。この例で
は、特徴選択により６４次元特徴を選択しているものと
する。また、部分空間法では３次元の部分空間を利用
し、前記第１の実施形態及び本実施形態（第２の実施形
態）では、参照ベクトル数を各カテゴリ３つとして、同
じ計算量で比較している。
【００７３】図９から明らかなように、第２の実施形態
の認識手法は、従来手法は勿論、前記第１の実施形態よ
り高い認識性能が実現できる。なお、前記実施形態（第
１及び第２の実施形態）における辞書学習モードでは、
予め用意されている複数の学習パターンを１パターンず
つ入力し、その都度、その学習パターンを実際に認識さ
せて、その認識結果をもとに辞書（認識辞書１７、或い
は認識辞書１７と特徴選択辞書１６）を修正するという
一連の操作を、目標学習回数だけ繰り返すものとした
が、これに限るものではない。例えば、１つの学習パタ
ーンについて、その学習パターンを入力して実際に認識
させ、その認識結果をもとに辞書を修正するという操作
を目標学習回数だけ繰り返すと、次の学習パターンに切
り替えるようにしても構わない。但し、この方式では、
１つの学習パターンを用いた辞書の学習処理が目標学習
回数繰り返されないと、次の学習パターンに切り替えら
れないため、一連の学習処理の終了後の辞書（認識辞書
１７、或いは認識辞書１７と特徴選択辞書１６）には、
一連の学習処理の早い段階で用いられた学習パターン
（のカテゴリ）についての学習結果は反映されなくなる
虞がある。したがって、前記実施形態で適用した手順で
学習処理を行った方が学習効果を高めることができる。
の認識手法は、従来手法は勿論、前記第１の実施形態よ
り高い認識性能が実現できる。なお、前記実施形態（第
１及び第２の実施形態）における辞書学習モードでは、
予め用意されている複数の学習パターンを１パターンず
つ入力し、その都度、その学習パターンを実際に認識さ
せて、その認識結果をもとに辞書（認識辞書１７、或い
は認識辞書１７と特徴選択辞書１６）を修正するという
一連の操作を、目標学習回数だけ繰り返すものとした
が、これに限るものではない。例えば、１つの学習パタ
ーンについて、その学習パターンを入力して実際に認識
させ、その認識結果をもとに辞書を修正するという操作
を目標学習回数だけ繰り返すと、次の学習パターンに切
り替えるようにしても構わない。但し、この方式では、
１つの学習パターンを用いた辞書の学習処理が目標学習
回数繰り返されないと、次の学習パターンに切り替えら
れないため、一連の学習処理の終了後の辞書（認識辞書
１７、或いは認識辞書１７と特徴選択辞書１６）には、
一連の学習処理の早い段階で用いられた学習パターン
（のカテゴリ）についての学習結果は反映されなくなる
虞がある。したがって、前記実施形態で適用した手順で
学習処理を行った方が学習効果を高めることができる。
【００７４】
【発明の効果】以上詳述したように本発明によれば、特
徴選択により識別に使用する特徴量を削減するようにし
たので、認識辞書容量及び認識計算量を低く抑えること
ができ、しかも学習パターンに対する認識結果に基づい
て競合学習により認識辞書を修正するようにしたので、
その修正された認識辞書を使用した認識処理が可能とな
り、高精度の認識性能を実現できる。
徴選択により識別に使用する特徴量を削減するようにし
たので、認識辞書容量及び認識計算量を低く抑えること
ができ、しかも学習パターンに対する認識結果に基づい
て競合学習により認識辞書を修正するようにしたので、
その修正された認識辞書を使用した認識処理が可能とな
り、高精度の認識性能を実現できる。
【００７５】また本発明によれば、認識辞書だけでな
く、特徴選択辞書も学習パターンに対する認識結果に基
づいて修正することで、その修正された特徴選択辞書を
用いた特徴選択が可能となって、識別に有効な特徴を選
択できるようになり、一層高精度の認識性能を実現でき
る。
く、特徴選択辞書も学習パターンに対する認識結果に基
づいて修正することで、その修正された特徴選択辞書を
用いた特徴選択が可能となって、識別に有効な特徴を選
択できるようになり、一層高精度の認識性能を実現でき
る。
【図１】本発明の第１の実施形態に係るパターン認識装
置の概略構成を示すブロック図。
置の概略構成を示すブロック図。
【図２】図１の装置が認識モードに設定された場合にお
ける認識処理を説明するためのフローチャート。
ける認識処理を説明するためのフローチャート。
【図３】入力文字パターンからの特徴ベクトル抽出を説
明するための図。
明するための図。
【図４】図１の装置が辞書学習モードに設定された場合
における認識辞書の学習処理を説明するためのフローチ
ャート。
における認識辞書の学習処理を説明するためのフローチ
ャート。
【図５】損失関数を定義するのに用いられるシグモイド
関数を示す図。
関数を示す図。
【図６】図１の装置における学習処理で修正された認識
辞書１７を用いて手書き文字認識を行った場合の、計算
量（認識辞書容量）に対する認識性能（認識率）を表す
折れ線グラフを、従来手法である部分空間法と対比させ
て示す図。
辞書１７を用いて手書き文字認識を行った場合の、計算
量（認識辞書容量）に対する認識性能（認識率）を表す
折れ線グラフを、従来手法である部分空間法と対比させ
て示す図。
【図７】本発明の第２の実施形態に係るパターン認識装
置の概略構成を示すブロック図。
置の概略構成を示すブロック図。
【図８】図７の装置が辞書学習モードに設定された場合
における認識辞書及び特徴選択辞書の学習処理を説明す
るためのフローチャート。
における認識辞書及び特徴選択辞書の学習処理を説明す
るためのフローチャート。
【図９】図７の装置における学習処理で修正された認識
辞書１７及び特徴選択辞書１６を用いて類似文字の認識
（識別）を行った場合の認識性能を、図１の装置（第１
の実施形態の認識手法）での認識性能及び従来の手法で
ある特徴選択＋部分空間法での認識性能と対比させて示
す図。
辞書１７及び特徴選択辞書１６を用いて類似文字の認識
（識別）を行った場合の認識性能を、図１の装置（第１
の実施形態の認識手法）での認識性能及び従来の手法で
ある特徴選択＋部分空間法での認識性能と対比させて示
す図。
１１…データ入力部、 １２…特徴抽出部、 １３…特徴選択部、 １４…識別部、 １５…認識結果出力部、 １６…特徴選択辞書、 １７…認識辞書、 １８…認識辞書修正部、 １９…特徴選択辞書修正部。
Claims (6)
- 【請求項１】 入力パターンからｎ次元の特徴ベクトル
を抽出する特徴ベクトル抽出手段と、 ｎ次元特徴ベクトルからｍ次元特徴ベクトル（ｍ＜ｎ）
を選択するのに用いられる特徴選択辞書と、 ｍ次元特徴ベクトルの認識に用いられるｍ次元参照ベク
トルの集合からなる認識辞書と、 前記特徴ベクトル抽出手段により抽出されたｎ次元特徴
ベクトルから前記特徴選択辞書を用いて認識に有効なｍ
次元特徴ベクトルを選択する特徴選択手段と、 前記特徴選択手段により選択されたｍ次元特徴ベクトル
と前記認識辞書とを照合することで評価値を算出し、そ
の算出結果に基づく順番で認識候補を出力する識別手段
と、 辞書学習モード時に、前記識別手段の出力結果に基づい
て誤認識の度合いを検出し、その誤認識の度合いが小さ
くなるように前記認識辞書を修正する認識辞書修正手段
とを具備することを特徴とするパターン認識装置。 - 【請求項２】 入力パターンからｎ次元の特徴ベクトル
を抽出する特徴ベクトル抽出手段と、 ｎ次元特徴ベクトルからｍ次元特徴ベクトル（ｍ＜ｎ）
を選択するのに用いられる特徴選択辞書と、 ｍ次元特徴ベクトルの認識に用いられるｍ次元参照ベク
トルの集合からなる認識辞書と、 前記特徴ベクトル抽出手段により抽出されたｎ次元特徴
ベクトルから前記特徴選択辞書を用いて認識に有効なｍ
次元特徴ベクトルを選択する特徴選択手段と、 前記特徴選択手段により選択されたｍ次元特徴ベクトル
と前記認識辞書とを照合することで評価値を算出し、そ
の算出結果に基づく順番で認識候補を出力する識別手段
と、 辞書学習モード時に、前記識別手段の出力結果に基づい
て誤認識の度合いを検出し、その誤認識の度合いが小さ
くなるように前記特徴選択辞書を修正する特徴選択辞書
修正手段と、 辞書学習モード時に、前記識別手段の出力結果に基づい
て誤認識の度合いを検出し、その誤認識の度合いが小さ
くなるように前記認識辞書を修正する認識辞書修正手段
とを具備することを特徴とするパターン認識装置。 - 【請求項３】 入力パターンからｎ次元の特徴ベクトル
を抽出し、この抽出したｎ次元特徴ベクトルから特徴選
択辞書を用いて認識に有効なｍ次元特徴ベクトル（ｍ＜
ｎ）を選択し、この選択したｍ次元特徴ベクトルとｍ次
元参照ベクトルの集合からなる認識辞書とを照合するこ
とで評価値を算出して、その算出結果に基づく順番で認
識候補を出力する認識処理を行うパターン認識装置にお
ける辞書修正方法であって、 辞書学習モード時に、多数の学習パターンを順次入力し
て、その都度その学習パターンを対象として前記認識処
理を行い、その認識処理の結果をもとに誤認識の度合い
を検出して、その誤認識の度合いが小さくなるように前
記認識辞書を修正する一連の処理を、予め定められた回
数だけ繰り返すようにしたことを特徴とするパターン認
識装置における辞書修正方法。 - 【請求項４】 入力パターンからｎ次元の特徴ベクトル
を抽出し、この抽出したｎ次元特徴ベクトルから特徴選
択辞書を用いて認識に有効なｍ次元特徴ベクトル（ｍ＜
ｎ）を選択し、この選択したｍ次元特徴ベクトルとｍ次
元参照ベクトルの集合からなる認識辞書とを照合するこ
とで評価値を算出して、その算出結果に基づく順番で認
識候補を出力する認識処理を行うパターン認識装置にお
ける辞書修正方法であって、 辞書学習モード時に、多数の学習パターンを順次入力し
て、その都度その学習パターンを対象として前記認識処
理を行い、その認識処理の結果をもとに誤認識の度合い
を検出して、その誤認識の度合いが小さくなるように前
記特徴選択辞書及び前記認識辞書を修正する一連の処理
を、予め定められた回数だけ繰り返すようにしたことを
特徴とするパターン認識装置における辞書修正方法。 - 【請求項５】 前記認識辞書の修正処理では、認識の対
象となった学習パターンと同一カテゴリである正解カテ
ゴリの参照ベクトルのうち最も上位候補であった参照ベ
クトルと、その学習パターンと異なるカテゴリである不
正解カテゴリの参照ベクトルのうち最も上位候補であっ
た参照ベクトルについて修正がなされることを特徴とす
る請求項３または請求項４記載のパターン認識装置にお
ける辞書修正方法。 - 【請求項６】 前記誤認識の度合いを表すのに、学習パ
ターンから抽出されたｎ次元特徴ベクトルより選択され
たｍ次元特徴ベクトルと正解カテゴリの参照ベクトルと
の一致度が、不正解カテゴリの参照ベクトルとの一致度
よりも大きいほど第１の境界値に近づき、逆に小さいほ
ど前記第１の境界値とは異なる第２の境界値に近づく損
失関数を用いるようにしたことを特徴とする請求項５記
載のパターン認識装置における辞書修正方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP04903596A JP3537949B2 (ja) | 1996-03-06 | 1996-03-06 | パターン認識装置及び同装置における辞書修正方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP04903596A JP3537949B2 (ja) | 1996-03-06 | 1996-03-06 | パターン認識装置及び同装置における辞書修正方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH09245125A true JPH09245125A (ja) | 1997-09-19 |
| JP3537949B2 JP3537949B2 (ja) | 2004-06-14 |
Family
ID=12819839
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP04903596A Expired - Lifetime JP3537949B2 (ja) | 1996-03-06 | 1996-03-06 | パターン認識装置及び同装置における辞書修正方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP3537949B2 (ja) |
Cited By (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000250576A (ja) * | 1999-02-23 | 2000-09-14 | Motorola Inc | 音声認識システムにおいて特徴を抽出する方法 |
| JP2002259911A (ja) * | 2001-03-02 | 2002-09-13 | Nec Corp | パターン認識装置、パターン認識方法及びプログラム |
| US7031923B1 (en) | 2000-03-06 | 2006-04-18 | International Business Machines Corporation | Verbal utterance rejection using a labeller with grammatical constraints |
| JP2006201553A (ja) * | 2005-01-21 | 2006-08-03 | Nippon Telegr & Teleph Corp <Ntt> | 識別的学習方法、装置、プログラム、音声認識装置、プログラム、これらのプログラムを記録した記録媒体 |
| JP2007114413A (ja) * | 2005-10-19 | 2007-05-10 | Toshiba Corp | 音声非音声判別装置、音声区間検出装置、音声非音声判別方法、音声区間検出方法、音声非音声判別プログラムおよび音声区間検出プログラム |
| JP2010182013A (ja) * | 2009-02-04 | 2010-08-19 | Toshiba Corp | 線形変換行列算出装置、その方法、及び、そのプログラム |
| US8099277B2 (en) | 2006-09-27 | 2012-01-17 | Kabushiki Kaisha Toshiba | Speech-duration detector and computer program product therefor |
| US8380500B2 (en) | 2008-04-03 | 2013-02-19 | Kabushiki Kaisha Toshiba | Apparatus, method, and computer program product for judging speech/non-speech |
| WO2015025472A1 (ja) * | 2013-08-22 | 2015-02-26 | 日本電気株式会社 | 特徴変換学習装置、特徴変換学習方法およびプログラム記憶媒体 |
-
1996
- 1996-03-06 JP JP04903596A patent/JP3537949B2/ja not_active Expired - Lifetime
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2000250576A (ja) * | 1999-02-23 | 2000-09-14 | Motorola Inc | 音声認識システムにおいて特徴を抽出する方法 |
| US7031923B1 (en) | 2000-03-06 | 2006-04-18 | International Business Machines Corporation | Verbal utterance rejection using a labeller with grammatical constraints |
| JP2002259911A (ja) * | 2001-03-02 | 2002-09-13 | Nec Corp | パターン認識装置、パターン認識方法及びプログラム |
| JP2006201553A (ja) * | 2005-01-21 | 2006-08-03 | Nippon Telegr & Teleph Corp <Ntt> | 識別的学習方法、装置、プログラム、音声認識装置、プログラム、これらのプログラムを記録した記録媒体 |
| JP2007114413A (ja) * | 2005-10-19 | 2007-05-10 | Toshiba Corp | 音声非音声判別装置、音声区間検出装置、音声非音声判別方法、音声区間検出方法、音声非音声判別プログラムおよび音声区間検出プログラム |
| US8099277B2 (en) | 2006-09-27 | 2012-01-17 | Kabushiki Kaisha Toshiba | Speech-duration detector and computer program product therefor |
| US8380500B2 (en) | 2008-04-03 | 2013-02-19 | Kabushiki Kaisha Toshiba | Apparatus, method, and computer program product for judging speech/non-speech |
| JP2010182013A (ja) * | 2009-02-04 | 2010-08-19 | Toshiba Corp | 線形変換行列算出装置、その方法、及び、そのプログラム |
| WO2015025472A1 (ja) * | 2013-08-22 | 2015-02-26 | 日本電気株式会社 | 特徴変換学習装置、特徴変換学習方法およびプログラム記憶媒体 |
| JPWO2015025472A1 (ja) * | 2013-08-22 | 2017-03-02 | 日本電気株式会社 | 特徴変換学習装置、特徴変換学習方法およびコンピュータプログラム |
Also Published As
| Publication number | Publication date |
|---|---|
| JP3537949B2 (ja) | 2004-06-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN101097564B (zh) | 参数学习方法及设备、模式识别方法及设备 | |
| US8842883B2 (en) | Global classifier with local adaption for objection detection | |
| Hoai et al. | Discriminative sub-categorization | |
| US5005205A (en) | Handwriting recognition employing pairwise discriminant measures | |
| JP6532190B2 (ja) | 画像検索装置、画像検索方法 | |
| CN101937513A (zh) | 信息处理设备、信息处理方法和程序 | |
| JP2000099632A (ja) | 検索装置、検索方法及び検索プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
| US12524498B2 (en) | Multi-object detection with single detection per object | |
| CN110689044A (zh) | 一种结合目标间关系的目标检测方法及系统 | |
| Boranbayev et al. | Analyzing methods of recognition, classification and development of a software system | |
| JP5989576B2 (ja) | パターン識別装置、パターン識別方法、プログラム、学習装置および学習方法 | |
| JP3537949B2 (ja) | パターン認識装置及び同装置における辞書修正方法 | |
| JP3903613B2 (ja) | 検索装置及び検索プログラムを記録したコンピュータ読み取り可能な記録媒体 | |
| JP2001184509A (ja) | パターン認識装置及び方法並びに記録媒体 | |
| JPH10143613A (ja) | パタン認識方法 | |
| Weng et al. | Online image classification using IHDR | |
| CN115457320B (zh) | 一种相似商品的检测方法及装置 | |
| CN112990145B (zh) | 一种基于组稀疏年龄估计方法及电子设备 | |
| KR100571800B1 (ko) | 계층적 주요 성분 분석에 기반한 얼굴 인식 방법 및 장치 | |
| JP2001014465A (ja) | 物体認識方法及び物体認識装置 | |
| Kowlagi et al. | YOLOv7 based face extraction and novel Eye feature extraction with EYENET | |
| Krishnan et al. | Similarity measure between two gestures using triplets | |
| JP3925011B2 (ja) | パターン認識装置及び認識方法 | |
| CN112507805A (zh) | 一种场景识别方法及设备 | |
| CN118447340B (zh) | 基于原型网络对图像类关系进行空间建模的方法和设备 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A521 | Request for written amendment filed |
Free format text: JAPANESE INTERMEDIATE CODE: A523 Effective date: 20031219 |
|
| TRDD | Decision of grant or rejection written | ||
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 20040316 |
|
| A61 | First payment of annual fees (during grant procedure) |
Free format text: JAPANESE INTERMEDIATE CODE: A61 Effective date: 20040318 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080326 Year of fee payment: 4 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090326 Year of fee payment: 5 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100326 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100326 Year of fee payment: 6 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110326 Year of fee payment: 7 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20120326 Year of fee payment: 8 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130326 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20130326 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20140326 Year of fee payment: 10 |
|
| EXPY | Cancellation because of completion of term |