JPH0512449A - パターン認識用辞書作成方法 - Google Patents

Abstract

(57)【要約】 【目的】 認識精度の高い認識辞書を効率よく作成する
ことが可能な技術を提供する。 【構成】 認識用辞書作成方法であって、カテゴリごと
に１個の参照パターンを持つ初期の認識辞書の作成し、
参照パターンの移動により認識辞書の更新を行い、参照
パターンの不足を表す関数を評価した上でその参照パタ
ーンのコピーを認識辞書に新たに追加し、前記処理を学
習パターンの誤読がなくなるか、あるいは設定した学習
回数に達するまで繰り返す。また、前記不足を表す関数
として参照パターンの移動回数を用い、移動回数が所定
の回数を越えたらその参照パターンのコピーを認識辞書
に新たに追加する。 【効果】 参照パターンの位置の最適化を行いつつ、カ
テゴリによっては参照パターンの追加を行うので、認識
精度の高い認識辞書を作成することができる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、文字や音声などのパタ
ーン認識用の辞書作成方法に関し、特に、認識精度が高
い認識辞書を効率良く作成することが可能な技術に関す
るものである。

【０００２】

【従来の技術】従来の文字や音声のパターン認識方法に
おいては、あらかじめ各カテゴリの標準的なパターンで
ある参照パターンを認識辞書として用意しておき、認識
させたいパターンと各カテゴリの参照パターンとの類似
性をユークリッド距離，重み付きユークリッド距離等の
評価関数を用いて計算した上で、最も類似性の高いカテ
ゴリを認識結果として出力する。

【０００３】あらかじめ用意しておく認識辞書として
は、参照パターンの数がカテゴリごとに一つであるシン
グルテンプレート辞書と、カテゴリごとの参照パターン
の数が複数であるマルチテンプレート辞書の２種類があ
り、それぞれの認識辞書に対して以下に挙げるような作
成方法が提案されている。

【０００４】１．シングルテンプレート辞書作成方法 １−．カテゴリごとにいくつかのパターンの相加平均
を求め、それを参照パターンとする方法がある。この方
法は、パターン認識技術の初期に使用されたごく単純な
方法である。

【０００５】１−．前記１−の方法で認識辞書を求
めた後に、この認識辞書で学習パターンを認識させ、誤
認識が最少になるように参照パターンの位置を最適化す
るという処理を繰り返し行う方法である。最適化の方法
として、ＬＳＩ（大規模半導体集積回路）のレイアウト
設計などで適用されているシミュレーティドアニーリン
グ法を採用したものが提案されている〔松永,阿部,木
田：“シミュレーテッドアニーリング法を用いた文字認
識辞書の最適化”,信学技法，PRU90-39(1990)〕。

【０００６】２．マルチテンプレート辞書作成方法 ２−．前記１−の方法で、認識辞書を求めた後に、
この認識辞書で学習パターンを認識させ、正しく読めな
かったパターンをそのまま認識辞書に新規追加すること
によって辞書を作成する方法である。類似した方法で、
辞書サイズをできる限り小さくするために、誤読パター
ン１つに対して１つの参照パターンを設けるのではな
く、複数の誤読パターンの平均を追加する方法も提案さ
れている〔井出，若原：“文字認識におけるサブカテゴ
リ生成法の一検討”，1990年電子情報通信学会秋季全国
大会論文集，D-348, p.6-350(1990)〕。

【０００７】２−．各カテゴリのパターン分布を忠実
に表現するために、カテゴリごとに学習パターンのクラ
スタリングを行って、各グループでパターンの相加平均
をとってそれを参照パターンとして認識辞書を作成する
方法である。クラスタリング手法としてＷａｒｄ法など
を使った辞書作成方法が提案されている〔大倉，塩野：
“カテゴリー内クラスタリング多重辞書類似度法の辞書
パターン作成の一検討”，信学論Ｄ−II，Vol.J72-D-I
I, No.4, pp.499-506(1989)〕。

【０００８】２−．前記２−の方法で認識辞書を作
成した後に、誤認識が最少となるように参照パターンの
移動による認識辞書の最適化を行う方法である。代表的
な最適化の方法としてこの認識辞書で学習パターンを認
識させて正しく読めなかった場合には、正しく読まれる
べきカテゴリで最も距離の近い参照パターンをその学習
パターンに近づけ、誤って読まれたカテゴリの参照パタ
ーンを遠ざける処理を繰り返し行うことによって誤読が
最少になるように認識辞書を作成するＬＶＱ法（学習ベ
クトル量子化法）が提案されている〔T. Kohonen, G. B
arna and R. Chrisley : “Statistical pattern recog
nition with newral networks”, benchmarking studie
s, IEEE, Proc. of ICNN, Vol.1, pp.61-68(1988)〕。

【０００９】

【発明が解決しようとする課題】前記１−のように単
に平均パターンを参照パターンにする従来方法では、辞
書サイズは、コンパクトであるという利点があるもの
の、カテゴリ間のパターン分布が異なる場合には認識精
度が著しく低下するという問題がある。その点、１−
の方法では、辞書サイズが小さいという利点を維持しつ
つ、カテゴリ間のパターン分布の違いを考慮して認識精
度が高くなるように辞書を最適化しているという点です
ぐれている。しかしながら、パターン分布が複雑でカテ
ゴリ間で入り組み合っている場合や、連続でなく分離し
ているような場合は、１つの参照パターンでは対処でき
ず、やはり認識精度の低下を招いてしまうという問題が
ある。

【００１０】一方、前記２の方法は、カテゴリごとに複
数の参照パターンを持つことができるので、前記１の方
法のような問題点を解決することが可能である。しか
し、前記２−の方法については、基本的に各誤読パタ
ーンごとに参照パターンを追加しなければならず、十分
な認識精度を得るためには非常に多くの参照パターンが
必要である。また、同様の理由で作成された認識辞書の
サイズは非常に大きくなってしまうという問題がある。
前記２−の方法では、クラスタリング手法を用いて複
数の参照パターンによって、複雑なパターン分布を表現
することを可能にしているものの、カテゴリ間のパター
ン分布は考慮していないために必ずしも認識精度の向上
につながらない。また、参照パターンの数は、カテゴリ
内及びカテゴリ間のパターン分布を考慮して決定すべき
ものであるにもかかわらず、カテゴリごとであらかじめ
設定しておかなければならないために、適度な参照パタ
ーン数を得るには、試行錯誤的に決定するしかないの
で、辞書作成に膨大な時間を要するという問題がある。
また、前記２−の方法では、誤読パターンを正しく認
識できるように参照パターンの位置の最適化を行ってお
り、カテゴリ間のパターン分布を意識した方法となって
いるものの、この方法は、初期辞書を前記２−の方法
で求め、かつ参照パターンの数はアルゴリズム中で不変
であるので、前記２−の方法と同様に参照パターン数
の設定において問題がある。

【００１１】本発明は、前記問題点を解決するためにな
されたものであり、本発明の目的は、認識精度の高い認
識辞書を効率よく作成することが可能な技術を提供する
ことにある。

【００１２】本発明の他の目的は、カテゴリ内だけでな
くカテゴリ間のパターン分布をも考慮しながら、参照パ
ターンの位置の最適化とカテゴリごとの参照パターン数
の設定を自動で行うことが可能な技術を提供することに
ある。

【００１３】本発明の前記ならびにその他の目的と新規
な特徴は、本明細書の記述及び添付図面によって明らか
にする。

【００１４】

【課題を解決するための手段】前記目的を達成するため
に、本発明の（１）の手段は、文字や音声などのパター
ンを認識する際に用いる、各カテゴリの参照パターンの
集合である認識用辞書作成方法であって、あらかじめカ
テゴリごとに１個の参照パターンを持つ初期の認識辞書
の作成する第１段階と、その後誤認識ができる限り少な
くなるように参照パターンの移動を行うことによって認
識辞書の更新を行う第２段階と、参照パターンの不足を
表す関数を評価した上でその参照パターンのコピーを認
識辞書に新たに追加する第３段階とを有し、前記第２段
階と第３段階を学習パターンの誤読がなくなるか、ある
いは設定した学習回数に達するまで繰り返すことを最も
主要な特徴とする。

【００１５】また、（２）の手段は、前記パターン認識
用辞書作成方法において、参照パターンの不足を表す関
数として参照パターンの移動回数を用い、移動回数があ
らかじめ決められている所定の回数を越えたならばその
参照パターンのコピーを認識辞書に新たに追加すること
を特徴とする。

【００１６】

【作用】前述の（１）の手段によれば、カテゴリごとに
１個の参照パターンをもつ認識辞書を初期辞書として学
習を行い、参照パターンが不足している部分（カテゴ
リ）にのみ参照パターンを追加していくことによって、
カテゴリ内及びカテゴリ間のパターン分布を考慮した上
でカテゴリごとの適度な参照パターン数を自動で設定で
きる。このことは認識辞書の作成を効率よく行うことが
可能であることを意味するとともに、カテゴリ内のパタ
ーンが分離しているような複雑な分布も表現できること
を意味している。また、参照パターンの位置は、誤認識
ができる限り少なくなるような位置に最適化するので、
認識精度の大幅な向上も期待できる。

【００１７】（２）の手段によれば、前記記載の作用に
加えて、参照パターンが不足しているカテゴリは、その
カテゴリの参照パターンの移動回数が多いと考えられて
いるので、移動回数の多さを評価関数にすることによっ
て、参照パターンが不足している部分（カテゴリ）を的
確にかつ自動で設定することができる。また、参照パタ
ーンの移動回数は、移動するごとにその回数を加算する
だけでよいので手間はかからず、更に参照パターン数が
不足しているかどうかも、移動回数＞ｋ（ｋはあらかじ
め決められている、参照パターン数が不足していると判
断される基準値）を評価するだけでよいので辞書作成時
間を短縮することができる。

【００１８】

【実施例】以下、図面を参照して、本発明の実施例を詳
細に説明する。

【００１９】図１は、本発明のパターン認識用辞書作成
方法の実施例の機能構成を示すブロック図、図２は、本
実施例のパターン認識用辞書作成方法の処理手順を示す
フローチャート、図３Ａは、本実施例のパターン認識用
辞書作成方法が適用されるパターン情報処理装置の概略
ハード構成を示すブロック図、図３Ｂは、本実施例のパ
ターン認識用辞書作成方法を用いたパターン認識処理の
機能構成を示すブロック図である。

【００２０】本実施例のパターン認識用辞書作成方法が
適用されるパターン情報処理装置は、図３Ａに示すよう
に、パターン入力装置１０、情報処理・制御装置２０、
ファイル用記憶装置３０、ディスプレイ装置，プリン
タ，ディスク等の出力装置４０で構成されている。そし
て、前記情報処理・制御装置２０としては、例えば、コ
ンピュータが使用され、中央処理装置（ＣＰＵ）２０
１、主メモリ２０２で構成されている。この情報処理・
制御装置２０を使用してパターン認識処理を行う場合の
機能構成は、図３Ｂに示すように、前処理部２０３、特
徴抽出部２０４、辞書作成部２０５、認識部２０６で構
成される。

【００２１】本実施例である前記の辞書作成部２０５の
機能構成は、図１に示すように、初期辞書作成部１、学
習パターン選択部２、パターン認識部３、参照パターン
移動判定部４、参照パターン移動実行部５、参照パター
ン追加判定部６、参照パターン追加実行部７、制御部８
で構成されている。制御部８は、各部を制御するととも
に、処理終了判定及びデータ出力を行う。

【００２２】次に、本実施例のパターン認識用辞書作成
方法を、図１及び図２を参照して説明する。

【００２３】認識辞書の最適化の方法としてはいくつか
考えられるが、ここではＬＶＱ法で行われている方法を
用いることとする。ＬＶＱ法はパターン認識におけるマ
ルチテンプレート辞書を作成するのに用いられる方法
で、クラスタリング手法で初期辞書を作成した後に、学
習パターンを認識させ、正しく認識できず、かつその学
習パターンが正読側参照パターンと誤読側参照パターン
との識別境界付近に存在する場合に、正しく認識される
べきカテゴリの参照パターンの中で最も距離が近い参照
パターンを近づけ、誤って認識されたカテゴリの参照パ
ターンを遠ざけるという手段を繰り返し行うことによっ
て認識辞書の位置の最適化を行う方法である。参照パタ
ーンの具体的な移動は、以下の及び式によって行わ
れる。なお、この式はパターンを表現している特徴ベク
トルの１次元での移動式であるから、各特徴軸ごとでこ
の移動式を実行する必要がある。 〔正読側〕ｍ(t)＝ｍ(ｔ−1)＋α(ｔ)*(ｘ−ｍ(ｔ−1)) ・・・ 〔誤読側〕ｍ(t)＝ｍ(ｔ−1)−α(ｔ)*(ｘ−ｍ(ｔ−1)) ・・・ ｍ(ｔ) ：時刻ｔの参照パターン ｍ(ｔ−１)：時刻ｔ−１の参照パターン ｘ ：学習パターン α(ｔ) ：減少関数〔０＜α(ｔ)＜１〕 上記条件の下における本実施例の処理フローを図２に示
し、そのアルゴリズムを以下に説明する。

【００２４】初期辞書作成部１では、カテゴリごとに１
個の参照パターンを作成し（１０１）、これが初期の認
識辞書Ｍ₀となる（１０２）。学習パターン選択部２で
は、認識辞書Ｍを学習するための学習パターンｘを１個
選択し（１０３）、パターン認識部３において選択した
学習パターンｘの認識を行う（１０４）。この学習パタ
ーンｘの認識を正しく認識したか否かをチェックし（１
０５）、正しく認識されていれば（ＹＥＳ）、処理終了
かをチェックし（１１２）、処理終了であれば、認識辞
書Ｍを登録して終了する。前記ステップ１０５におい
て、正しく認識されていなければ（ＮＯ）、移動の対象
となる参照パターンｍ₁，ｍ₂・・・ｍi・・・ｍnの各々
に対して以下の処理を行う。すなわち、参照パターン移
動判定部４は、選択した学習パターンｘの認識結果及び
パターンとの位置関係により、参照パターンを移動する
条件が満たされているか否かの判定を行い（１０６）、
条件を満たしたものについては、参照パターン移動実行
部５において当該参照パターンの移動を実行する。ま
た、参照パターン移動実行部５においては、各参照パタ
ーンの移動回数を記憶しておく。参照パターン追加判定
部６では、参照パターン移動実行部５において移動が行
われた参照パターンｍiに対してそれまでの移動回数が
ｋ回を超えたかどうかを判定し（１０７）、条件を満た
したものについては、参照パターン追加実行部７におい
て参照パターンの追加を行う（１０８）。条件を満たし
ていないものについては、前記参照パターン移動実行部
５により参照パターンｍiの移動のみを行い（１０
９）、参照パターンｍiの移動回数をインクリメントす
る（１１０）。次に、移動対象の参照パターンｍiが存
在しないか否かをチェックし（１１１）、存在しなけれ
ば（ＹＥＳ）、処理終了かをチェックし（１１２）、処
理終了であれば、認識辞書Ｍを登録して終了する。存在
すれば（ＮＯ）、ステップ１０６に戻して学習パターン
の誤読がなくなるか、あるいは設定した学習回数ｋ（ｋ
はあらかじめ決められている、参照パターン数が不足し
ていると判断される基準値）に達するまで繰り返す。

【００２５】制御部８では、学習回数がｋ回に達した
か、もしくは学習パターンの誤読がなくなったかの認識
辞書の学習を終了し、その時点での認識辞書を登録す
る。

【００２６】次に、本実施例による手書き文字認識にお
ける具体例を示す。

【００２７】カテゴリは「因国困固回図囲囚団田」の１
０種類で、文字特徴についてはストローク構造集積法
〔赤松，川谷，塩，飯田：“手書き漢字用文字読み取り
装置”，研究実用化報告，Vol.36, No.4(1987).〕を用
いた。図４は認識辞書の学習につれて変化した学習パタ
ーンの認識精度を表しており、学習が進むにつれて誤読
数が少なくなっており、最終的にはすべての学習パター
ンを正しく認識していることがわかる。図５は、学習終
了時の認識辞書における各カテゴリの参照パターン数を
表しており、カテゴリごとに適度な参照パターン数が自
動設定されていることがわかる。

【００２８】以上、本発明を実施例にもとづき具体的に
説明したが、本発明は、前記実施例に限定されるもので
はなく、その要旨を逸脱しない範囲において種々変更可
能であることは言うまでもない。

【００２９】

【発明の効果】以上、説明したように、本発明によれ
ば、入力したパターンがパターン空間上でどの参照パタ
ーンと近いかによってカテゴリを認識するパターン認識
方式において、参照パターンの位置の最適化を行いつ
つ、カテゴリによっては参照パターンの追加を行うの
で、認識精度の高い認識辞書を作成することができる。
また、参照パターンの追加は、参照パターンの不足を表
す関数を評価することにより自動で行うので、従来のマ
ルチテンプレート辞書作成方式のように参照パターン数
を試行錯誤的に決定する必要はなく、辞書作成の時間を
大幅に削減することができる。

【００３０】また、参照パターンの不足を表す関数とし
てそれまでの各参照パターンの移動回数を用いることに
より、参照パターンが不足した部分（カテゴリ）を的確
にかつ自動で高速に見つけることができる。

【図面の簡単な説明】

【図１】 本発明のパターン認識用辞書作成方法の実施
例の機能構成を示すブロック図、

【図２】 本実施例のパターン認識用辞書作成方法の処
理手順を示すフローチャート、

【図３Ａ】 本実施例のパターン認識用辞書作成方法が
適用されるパターン情報処理装置の概略構成を示すブロ
ック図、

【図３Ｂ】 本実施例のパターン認識用辞書作成方法を
用いたパターン認識処理の機能構成を示すブロック図、

【図４】 本実施例による学習パターン認識精度を示す
グラフ、

【図５】 本実施例によるカテゴリごとのテンプレート
数を示すグラフ。

【符号の説明】

１…初期辞書作成部、２…学習パターン選択部、３…パ
ターン認識部、４…参照パターン移動判定部、５…参照
パターン移動実行部、６…参照パターン追加判定部、７
…参照パターン追加実行部、８…制御部、１０…パター
ン入力装置、２０…情報処理・制御装置、３０…ファイ
ル用記憶装置、４０…出力装置、２０１…中央処理装置
（ＣＰＵ）、２０２…主メモリ、２０３…前処理部、２
０４…特徴抽出部、２０５…辞書作成部、２０６…認識
部。

Claims (2)

【特許請求の範囲】
1. 【請求項１】 文字や音声などのパターンを認識する際
   に用いる、各カテゴリの参照パターンの集合である認識
   用辞書作成方法であって、あらかじめカテゴリごとに１
   個の参照パターンを有する初期の認識辞書を作成する第
   １段階と、参照パターンの移動を行うことによって認識
   辞書の更新を行う第２段階と、参照パターンの不足を表
   す関数を評価した上でその参照パターンのコピーを認識
   辞書に新たに追加する第３段階とを有し、前記第２段階
   と第３段階を学習パターンの誤読がなくなるか、あるい
   は設定した学習回数に達するまで繰り返すことを特徴と
   するパターン認識用辞書作成方法。
2. 【請求項２】 前記請求項１に記載のパターン認識用辞
   書作成方法において、参照パターンの不足を表す関数と
   して参照パターンの移動回数を用い、移動回数があらか
   じめ決められている所定の回数を越えたならばその参照
   パターンのコピーを認識辞書に新たに追加することを特
   徴とするパターン認識用辞書作成方法。