JPH0638276B2

JPH0638276B2 - パターン識別装置

Info

Publication number: JPH0638276B2
Application number: JP58234251A
Authority: JP
Inventors: 浩道藤沢; 康雄黒須; 修国崎
Original assignee: Hitachi Ltd
Current assignee: Hitachi Ltd
Priority date: 1983-12-14
Filing date: 1983-12-14
Publication date: 1994-05-18
Anticipated expiration: 2009-05-18
Also published as: JPS60126784A

Description

【発明の詳細な説明】〔発明の利用分野〕本発明はパターン整合法を用いるパターン識別装置の辞
書（標準パターンの集合）を作成する装置に関する。

〔発明の背景〕

従来、文字認識の手法には、パターン整合的手法と構造
解析的手法とがあり、前者は主に活字に、後者は手書文
字に用いられてきた。しかし、認識対象が英数字から漢
字にまで拡張されると、手書文字にもパターン整合的手
法が要求される。そこでパターン整合的手法は、手書文
字にも耐えられるように、単なるぼかし処理（例えば複
合類似度法；階層的パターン整合法がある。詳細は「文
字認識概論」，橋本編著，電気通信協会，ｐ．３５およ
びｐ８８を参照）から、パターンの方向性などの特徴抽
出を行うパターン整合法（例えば、特開昭56−65275号
「パターン認識方式」）へ発展しつつある。

一方、パターン整合法においては辞書をどのように作る
か、あるいは辞書の中身をどのように改良して行けば認
識精度が逐次向上していくかという問題がある。十分な
認識精度をもつ文字認識装置などのパターン識別装置を
実用化するには、上記の問題の方が、特徴抽出の細かな
内容よりも実際上は重要である。より具体的に述べる
と、原理的な認識方式で、ある一定のサンプルパターン
集合から認識シミュレーション実験により、例えば９５
％の精度が得られても、実用化するためには同精度を例
えば９９．９％にまで上げる必要がある。ここに３つの
問題がある。

第一の問題は認識精度が識別に用いる特徴とともに辞書
にも依存することである。特徴の優劣は必ずしも容易に
判断できない。特に手書文字の場合には、特徴抽出の改
良のみでは実用レベルに達せず、各カテゴリに対し複数
個の標準パターンを用意することが不可欠になる。文字
形状に対し変形をかなり許容しようとすると、カテゴリ
という抽象概念に対し複数のパターン概念（パターンク
ラスタを形成する）が存在することは明らかである。す
なわち、第一の問題は特徴抽出の改良のみでは実用レベ
ルに達しないことである。

第二の問題は、実験で用いるサンプルパターンは限定さ
れており、そこに含まれていないパターンに関しての保
証はない。実際に文字認識装置の実用化で費やされる大
部分の時間は、新しい入力パターンに対しても十分な認
識精度を保持するように辞書の中を改良することに費や
される。その大きな原因は、新規入力パターンに対する
精度向上の対策が、以前に行つた対策と背反することが
あり、しかもその事実が検知できないことが多いことで
ある。したがつて、精度向上の対策後にすべてのサンプ
ルパターンを認識させて、効果の確認をする必要があ
り、結局、対策と確認の繰返しが必要であつた。

第三の問題はパターン整合法を前提とした辞書の作り方
であり、しかも第二の問題を解決するような作り方の問
題である。

従来、一カテゴリに対する標準パターンを増やしていく
と、その数に対して指数的に認識精度が向上していくこ
とが分つている。その際、複数標準パターンを得るため
にはクラスタリングという処理が用いられている。しか
しながら、通常的に行うところのカテゴリ内クラスタリ
ングでは、十分な精度に達するに必要な標準パターン数
が多すぎる、カテゴリ毎に独立にクラスタリングを行う
ためクラスタ数のバランスが必ずしもよくない、という
欠点がある。更に、一般的に、新規入力パターンが得ら
れ辞書の改良が求められたときに、クラスタリングの全
過程をやり直さねばならないという欠点がある。

〔発明の目的〕

本発明の目的は上記のような問題点を解決し、短期間で
パターン識別用辞書を信頼度高く作成し得るパターン識
別装置を提供することである。

〔発明の概要〕

本発明は、パターン整合法を前提としたパターン識別用
辞書を備えたパターン識別装置において、サンプルパタ
ーンより特徴抽出を行なって特徴パターンを抽出する手
段と、上記特徴パターンを蓄積する手段と、蓄積した特
徴パターンに対して、夫々の大きさのクラスタで階層的
クラスタリングを施し、その際に、少なくとも、最下位
の階層は１クラスタに属する特徴パターンが単一のカテ
ゴリで構成されるように、所定の大きさのクラスタでク
ラスタリングし、各階層のクラスタ構成を階層構造で表
現し、上記階層構造に従って各階層のクラスタ構成に応
じた標準パターンを作成する手段と、上記各階層のクラ
スタ構成に応じた標準パターンを上記パターン識別用辞
書として蓄積する手段と、上記各階層のクラスタ構成に
応じて作成された標準パターンのうち、上位の階層のク
ラスタ構成に応じて作成された標準パターンから、入力
パターンと標準パターンとの間の距離または類似度を順
次求め、求められた距離または類似度を評価して標準パ
ターンの候補を絞り、上記入力パターンの識別を行う手
段と、未知の入力パターンに対して、上記階層的クラス
タリングが施された上記最下位の階層より上位の階層に
対して階層毎に上記未知の入力パターンの特徴パターン
を加えて順次再クラスタリングを施していき、上記再ク
ラスタリングした結果、上記未知の入力パターンの特徴
パターンの属するクラスタ以外のクラスタに変化が生じ
ない階層まで再クラスタリングを行ない、上記階層構造
を変更して上記各階層のクラスタ構成に応じた上記標準
パターンを修正し、上記パターン識別用辞書としての蓄
積手段に蓄積する手段とを具備することを特徴とする。

まず本発明の原理図を第１図〜第３図を用いて説明す
る。いま簡単化のため３カテゴリ（Ａ，Ｂ，Ｃとする）
が２次元空間に散在しているとする。

第１図は各カテゴリに１個の標準パターンを設ける場合
の模式図である。破線１００，２００，３００は各標準
パターンを中心とする超円（単純類似度法のとき）また
は超楕円体（複合類似度法のとき）である。同図の如く
単一標準パターンでは各標準パターンの張る領域はオー
バーラツプし、手書文字の場合は変形が大きいためオー
バーラツプする領域は大きい。すなわち認識不能が多発
する。

第２図は各カテゴリ単位でそれぞれ独立にクラスタリン
グを適用した場合の模式図である。クラスタリングに際
しては、各クラスタの大きさを指定するパラメータがあ
る。一般に、クラスタの定義は存在せず、全体を１つの
クラスタと見倣す場合と、それぞれのサンプルを１つの
クラスタと見倣す場合のどの中間点を求めるクラスタと
するかは、人間が決定するパラメータに依存する。第２
図はあるパラメータでクラスタリングした結果であると
する。

同図で示す如く、カテゴリ毎独立にクラスタリングする
ので一般にはオーバーラツプする領域（標準パターン）
が残る。従つて、認識精度を高くするためには更に細か
なクラスタリングをするように指定し、全体のクラスタ
リングをやり直す必要がある。また、全体の再クラスタ
リングを行うと、オーバーラツプしている標準パターン
以外のクラスタも細分化されてしまい、全体として余分
な標準パターンが生成されてしまう。すなわち、高精度
を達成するのに不必要に多くの標準パターンが必要とな
る。更に、辞書が構築された後に、正しく認識できない
新規入力パターンが現われたときに、クラスタリングを
再実行しなればならないという問題点がある。

第３図は本発明方式の原理を説明するための図である。
本発明による階層クラスタリングでカテゴリの境界は意
識せずに、全サンプルについてクラスタリングする。こ
のクラスタリング手法自体は第２図で説明した方式の各
カテゴリ単位に適用するところのクラスタリング手法と
同一であつてもよい。あるパラメータでクラスタリング
した結果が第３図(a)であつたとする。一般に粗いクラ
スタを指定すると、クラスタを構成するサンプルパター
ンは同一カテゴリで占められるとは限らない。第３図
(a)の例では２つのクラスタが、それぞれＡとＢ、Ｂと
Ｃなるカテゴリから成つている。

上記のようなカテゴリの混在するクラスタは更にその内
部についてクラスタリングを適用する。LEVEL-2の層で
ある。この処理は回帰的な処理であり、すべてのクラス
タが唯一のカテゴリに属すサンプルパターンから成るよ
うになるまで繰返えす。第３図の例ではLEVEL-3（第３
層）までで、すべてのクラスタが単一カテゴリになつて
いる。

第４図は第３図のクラスタ構成を階層木で表現したもの
である。第４図においてＳはサンプル集合を意味する。
階層木の「葉」の部分がクラスタであり、そこの記号は
クラスタを構成するメンバであるサンプルパターンを表
わしている。パターン認識用の辞書を構成する標準パタ
ーンは各クラスタのメンバから作られる。一般的に行わ
れる方法はメンバであるサンプルパターン（数学的には
ベクトル）の平均を求める方法である。第４図における
_１〜_２３は各クラスタの平均ベクトルを表わす。も
ちろん、特徴抽出を行うパターン整合法では特徴ベクト
ルがサンプルパターンを表現する。

さて、新規なパターンが入力された場合について説明す
る。まず、この入力パターンが正しく識別されない場合
について、第５図を用いて説明する。

第５図(a)(b)で示す初期クラスタがあり、そこへ新規パ
ターンＣ_３が入力されたとすると、識別結果から新規パ
ターンＣ_３はクラスタ_３に最も近いと判断される。と
ころがクラスタ_３はカテゴリＢのクラスタであるので
誤識別ということになる。ここで、本方式では以下のよ
うな部分的再クラスタリングを行う。

まずＣ_３はクラスタ_３に属すと判断されたのでメンバ
｛Ｂ_３，Ｂ_４，Ｃ_３｝に対して階層クラスタリングを適
用し、この場合、結果的に第６図に示すクラスタ木を得
る。ここで明らかにクラスタ_３の中心ベクトルは
_３′へ、_５は_５′へ、_０は_０′へそれぞれ移
動する。従つて、変動の割合が大きいクラスタをもつレ
ベルのサンプルは正しく識別されない可能性がある。そ
こでレベルの低い方から正しく識別できるか否かを検定
し、できない場合は同レベル以降の階層クラスタリング
をやり直す。

第６図の例では、‖_３−_３′‖が所定の閾値よりも
大きいかどうかを比較する。いま、大きいと仮定する
と、クラスタ_３′の位置するレベル以下の階層木のサ
ンプル｛Ａ_１，Ａ_２，Ｂ_１，Ｂ_２，Ｂ_３，Ｂ_４，Ｃ_３｝
について正しく識別が成されるか否かを検定する。この
検定はクラスタ_１，_２，_３′について行う。も
し、正しく認識されれば｛Ｂ_３，Ｂ_４，Ｃ_３｝がクラス
タ_７，_８に対して正しく認識されるはずであるの
で、同レベルの検定を終了する。もし、正しく識別され
ないサンプルが有る場合は、クラスタ_１，_２，
_３′のレベル以降の階層クラスタリングをやり直す。

同レベルの検定と修正が終了すると、その上のレベル
（クラスタ_５′，_６′）に対し同じことを行う。す
なわち、クラスタ中心ベクトルの移動量‖_５−_５′
‖を閾値εと比較し、小さいときは再クラスタリングを
終了し、大きいときはサンプル｛Ａ_１，Ａ_２，Ｂ_１，Ｂ
_２，Ｂ_３，Ｂ_４，Ｃ_３，Ｃ_１，Ｃ_２｝について正しく識
別されるか否かをクラスタ_５′と_６′について検定
する。もしすべて正しく識別されれば再クラスタリング
を終了し、正しくない場合は全サンプルに対する階層ク
ラスタリングをやり直す。

再クラスタリングの終了条件として、隣接するクラスタ
内のサンプルの配置が変化しなくなる条件としてもよ
い。

新規パターンが第５図の場合とは異なり、第７図(a)の
如く正しく識別される場合について説明する。この場合
はクラスタ_３は中心ベクトルを_３′に移動し、メン
バ｛Ｂ_３，Ｂ_４，Ｂ_５｝を含むように修正される。更に
クラスタ中心ベクトル_５は_５′へ移動する。クラス
タ中心ベクトルが移動すれば一般にサンプルパターンの
正しい識別は保証されないので、先に説明した再クラス
タリングの処理を全く同様に行う。

新規パターンが正しく修正される場合には何も修正をし
ないという変形アルゴリズムもあり得るが、今まで正し
く識別されていたパターンが後の他の原因による再クラ
スタリングによつて正識別されなくなるという危険があ
り、望ましくない。

〔発明の実施例〕

以下、本発明のパターン識別装置を実施例にもとづいて
詳細に説明する。第８図は本発明の一実施例の構成を示
す系統図である。第８図において帳票１は光電変換装置
２によつて電気信号に変換される。この光電変換の像は
走査制御回路３によつて走査を受ける。この走査出力は
しきい値回路４により２値化される。このしきい値回路
４に濃度分布に応じて可変しきい値を設け、シエーデイ
ングを補正することは有効である。２値化された文字群
は文字切り出し回路５に送られ、一文字ずつ切り出され
る。切り出された文字は前処理部６において雑音の除
去、大きさの正規化等の処理が施される。前処理が施さ
れた文字は特徴抽出部７において、分類に必要なストロ
ーク等の情報が抽出される。なお、抽出する特徴はその
種類を問わずに本方式に適用可能なことは自明である。
次に、抽出された特徴はキーボードから入力されるその
属性を表わす情報と共に一文字記憶部８を経由して特徴
記憶部１０に送られる。これら一連の処理分類対象文字
すべてについて繰り返し、カウンター９は所定の文字数
だけカウントすると、パターン作成操作を終了する。か
くして、一括して処理すべき特徴パターンの集合が特徴
記憶部１０に蓄積される。ここで、特徴の属性を表わす
情報とは、文字の種類を表わすコードとそのコード内の
順番などを表わす。また前述の各回路は専用の論理回路
である必然性はなく、処理の手順を記憶したマイクロコ
ンピュータであつてもなんら差しつかえない。

特徴記憶部１０に貯えられた特徴パターンは後述する階
層クラスタ作成装置１１に取り出され、順次クラスタリ
ングの処理が施される。特徴記憶部１０に貯えられた全
特徴パターンに対する処理が終了すると、第４図に示し
た階層的なデータ構造を階層構造記憶部１２に送出す
る。次に、後述する標準パターン作成装置１３は、階層
構造記憶部の情報に従つて、第４図に示した各ノードに
対応する標準パターンを特徴記憶部１０の特徴から合成
する。順次、合成された標準パターンは標準パターン記
憶部１４に送出され、蓄積される。ただし、標準パター
ン記憶部１４の記憶容量を削減する観点に立つて、標準
パターンを作成するノードを間引いても差しつかえな
い。かくして、一括処理による標準パターンが構築され
る。この様にして構成された標準パターンを用いて、第
４図に示した階層木の上から順次、整合を取る分類方式
を採用すれば、少なくとも学習した文字に対しては、全
て正解となることは自明である。

次に、逐次処理による標準パターンの修正法を説明す
る。あらかじめ学習した入力文字に対しては必ず正解に
分類し得ることは明らかであるが、未学習の入力文字に
対しては、この限りではない。したがつて、未学習の入
力文字を学習する必要性が生じることになる。一方、一
括処理による標準パターンを構成する方式は、全ての入
力に対して階層的クラスタリングを施し、階層木の各ノ
ード毎に標準パターンを作成しなければならない。この
様な膨大な処理を未学習文字が入力される毎に実行する
ことは実用的見地に立つと望ましくない。そこで、学習
した文字に対して、全て正解になるという特性を損なう
ことなく、局所的なクラスタリングを実行することによ
り、わずかな処理量で標準パターンを修正する方法が逐
次学習による標準パターンの修正法であり、本発明の主
眼の一つである。

逐次学習の手順を第８図に従つて説明する。

帳票１は光電変換装置２によつて電気信号に変換され
る。この光電変換の像は走査制御回路３によつて走査を
受ける。この走査出力はしきい値回路４により２値化さ
れる。２値化された文字群は文字切り出し回路５に送ら
れ、一文字ずつ切り出される。切り出された文字は前処
理部６において雑音の除去、大きさの正規化等の処理が
施される。前処理が施された文字は特徴抽出部７におい
て、あらかじめ定められた特徴が抽出される。抽出され
た特徴はその属性を表わす情報と共に一文字記憶部８に
送られる。一文字記憶部８に送られた学習すべき未知入
力文字は、第４図に示した階層木中の、いずれのクラス
タに属するか検証するため、整合部１５に転送される。
整合部１５では、階層構造記憶部１２に保持されている
階層木に従つて、標準パターン記憶部に貯えられた標準
パターンとの間で距離を求め、階層木の上から順次、同
一の層内で最も距離の小さなノードを選択してゆき、階
層木の最下層において、いずれのクラスタに属するか検
証する。次に判定部１６で、未知入力文字が正しく分類
されたか否かを判定する。正しく分類されなかつた場合
は制御部１７を介して階層クラスタ作成装置１１に起動
が掛けられる。階層クラスタ作成装置１１は階層構造記
憶部１２から階層木を読み出し、未知入力文字を含む最
下層から数えて一層上のクラスタの特徴を特徴記憶部１
０から読み出し、クラスタリングを施す。部分クラスタ
の階層的クラスタリングが終了すると、階層構造記憶部
１２に蓄積された階層木と比較する。未知入力文字が入
つたクラスタ以外に変化が生じなかつたら、処理を終了
する。変化が生じた場合は一層上のクラスタを含め同様
の処理を施し、変化が生じなくなるまで繰り返す。廻り
のクラスタに変化が生じなくなつたら、階層構造記憶部
１２に新らたな階層木を書き込む。クラスタリング処理
が終了すると、制御部１７を介して標準パターン作成装
置１３に起動が掛けられる。標準パターン作成装置１３
は、更新された階層構造記憶部１２の情報に従つて、合
成すべき標準パターンを特徴記憶部１０の特徴から作成
する。かくして、未知入力文字が正しく分類されなかつ
た場合の逐次学習が終了する。正しく分類された場合
も、クラスタの中心ベクトルが移動するので、正しく分
類されない処理と同様の処理を施す。ただし、前述の如
く正しく分類された場合は修正操作を施さないという変
形処理も可能である。

次に、分類装置について第８図を用いて説明する。帳票
１は光電変換装置２によつて電気信号に変換される。こ
の光電変換の像は走査制御回路３によつて走査を受け
る。この走査出力はしきい値回路４によつて２値化され
る。２値化された文字群は文字切り出し回路５に送ら
れ、一文字ずつ切り出される。切り出された文字は前処
理部６において雑音の除去、大きさの正規化等の処理が
施される。前処理が施された文字は特徴抽出部７におい
て、あらかじめ定められた特徴が抽出される。抽出され
た特徴は一文字記憶部８を介して整合部１５に転送され
る。整合部１５では、階層構造記憶部１２に保持されて
いる階層木に従つて、標準パターン記憶部に貯えられた
標準パターンとの間で距離を求め、階層木の上から順
次、同一の層内で最も距離の小さなノードを選択し候補
を絞つてゆき、最下層のノードで最も距離の小さなカテ
ゴリを候補として、判定部１６に送出する。判定部１６
では、最下層のクラスタリングに用いた閾値を判定閾値
として用い、候補の距離が閾値以内であれば、正解と
し、逆に閾値よりも大きければリジエクトとする。ただ
し、判定部１６において閾値を用いない方法あるいは複
数の候補を入力して相対閾値を用いる方法など考えられ
るが、いずれの方式を採用しても本発明の原理と関係が
ないので差しつかえない。

第９図は階層クラスタ作成装置の構成を示す系統図であ
る。レジスタ１１１は特徴記憶部１０より特徴パターン
を１文字分ずつ取り込む。また、レジスタ１１２には、
レジスタ１１１に特徴パターンが一文字分取り込まれる
と、クラスタ・フアイル１１８にある各クラスタの中心
パターンを順調に取り込み距離計算回路１１３でレジス
タ１１１とレジスタ１１２の両特徴パターン間の距離を
求める。求まられた距離は、定められたしきい値と比較
するため、比較器１１４へ送られる。レジスタ１１５に
は、各層ごとに定めたしきい値がしきい値フアイル１１
６より取り出され、保持されている。しきい値を変更す
るタイミングは、カウンター１１９により制御される。
カウンター１１９は特徴記憶部１０より特徴パターンが
取り出される毎にカウントアツプし、所定のパターン数
だけカウントすると、レジスタ１１５のしきい値を変更
する。比較器１１４は、レジスタ１１５のしきい値と距
離計算回路１１３で求めた距離とを比較し、しきい値以
下ならば、レジスタ１１１に保持された特徴がレジスタ
１１２に保持されたクラスタに所属するとして、演算回
路１１７に対して、実行の指令を送出する。演算回路１
１７は、比較器１１４の指令に基づき、レジスタ１１１
の特徴パターンを該当クラスタの構成数で除算し、レジ
スタ１１２に保持されているクラスタ中心との間で加算
し、新らたなクラスタ中心とする。かくして求まつた新
クラスタ中心をレジスタ１１１に保持されている特徴パ
ターンの属性と共に、クラスタ・フアイル１１８に転送
する。また、比較器１１４において、距離がしきい値以
上であるならばレジスタ１１１の特徴パターンは、レジ
スタ１１２のクラスタに所属しないものと判断され、ク
ラスタ・フアイル１１８からの別のクラスタ中心をレジ
スタ１１２に送出し、しきい値以下になるまで、この処
理を繰り返す。さらに、レジスタ１１１に保持されてい
る特徴パターンがクラスタ・フアイル１１８のいずれの
クラスタ中心にも捕らえられなかつた場合は、新らたに
クラスタ中心を新設する。すなわち、演算回路１１７
は、レジスタ１１１の特徴パターンを１で除算し、レジ
スタ１１２に保持されている０のパターンとの間で加算
し、クラスタ・フアイル１１８に転送する。

この処理をレジスタ１１１に全特徴パターンが入力され
るまで行なうと、クラスタ・フアイル１１８には各クラ
スタ中心と一層分のクラスタの構成表が作成される。一
層分の構成表が作成されると、レジスタ１２２を介し
て、階層構造記憶部１２に転送される。この時、クラス
タ・フアイル１１８に保持されている各クラスタ中心を
標準パターンとして用いるため標準パターン記憶部１４
（第８図）に転送しても差しつえない。一層分の処理が
終了すると、カウンター１１９が検知し、レジスタ１１
５のしきい値が更新される。更新されたしきい値に基づ
いて、更に下段のクラスタリングが開始され、各クラス
タを構成する特徴パターンがすべて同一の字種になると
クラスタリングを完了する。

逐次学習の場合は、必要な部分階層木が階層クラスタ記
憶部１２からレジスタ１２１に転送される。このレジス
タ１２１の情報に基づいて、特徴記憶部１０から特徴パ
ターンが取り出され、上述と同様のクラスタリング処理
が施される。

以上の制御は制御回路１２３で処理される。なお上記実
施例は、いわゆるシンプル法のアルゴリズムに基づいて
構成されたものであるが、他の方式に基づいたものでも
差しつえない。

第１０図は標準パターン作成装置１３の構成を示す系統
図である。レジスタ１３２は階層構造記憶部１２より階
層木中の１クラスタの属性情報を取り出す。またレジス
タ１３１には、レジスタ１３２に１つのクラスタの情報
が取り込まれると、特徴記憶部１０に格納されてる特徴
パターンとその属性情報を順々に取り込み、比較器１３
３でレジスタ１３１と１３２の属性情報を比較する。レ
ジスタ１３１に保持されている属性情報がレジスタ１３
２のクラスタと一致するとラツチ１３４を開き、レジス
タ１３１の特徴パターンを加算器１３６に送出する。加
算器１３６は入力された特徴パターンとレジスタ１３５
に保持されている結果を加算し、その結果をレジスタ１
３５に格納する。カウンター１３７は、レジスタ１３２
に保持されているクラスタに所属する個数をカウント
し、レジスタ１３８で所定の文字数のカウントが終了す
ると、除算器１３９に個数を送出する。除算器１３９は
レジスタ１３５の加算結果とカウンター１３７の個数を
用い、クラスタの平均値を求め、レジスタ１４１を介し
て、標準パターン記憶部１４に送出する。かくして階層
木のノードに対応する一標準パターンが求まる。この操
作をノード全部に対して行なうと標準パターン作成処理
は終了する。

以上、本発明の一実施例を説明したが、本発明はこの実
施例に限定されるものではないことは勿論である。ま
た、上述の説明では距離が最小になるカテゴリを認識す
る方式について述べたが、類似度が最大になるカテゴリ
を認識する方式でもよい。

本実施例によれば、誤読文字あるいは誤認識した音声を
局所的演算によつて学習することができるので、従来演
算量の制約で実用上不可能であつた逐次学習が可能とな
る。さらに、階層的パターンマツチング法に適している
ので、認識装置の速度を大幅に向上し得る効果がある。

〔発明の効果〕

本発明によれば、誤読文字あるいは誤認識した音声を局
所的演算によつて学習することができるので、従来演算
量の制約で実用上不可能であつた逐次学習が可能とな
り、認識装置の分類性能の向上に大きく寄与できる。さ
らに、派生効果として、階層的パターン整合法を容易に
採用することができ、認識装置の速度向上に大きく寄与
できる。したがつて、本発明のような、学習・分類法を
用いれば、パターン認識とくに漢字および大語り音声の
認識に有用な装置が容易に実現できる。

【図面の簡単な説明】

第１図及び第２図はクラスタリングの原理を示す図、第
３図は本発明による階層的クラスタリングの原理を説明
するための図、第４図は本発明による階層木表現の一例
を示す模式図、第５図は逐次学習前におけるパターンの
配置図とその階層木の模式図、第６図は逐次学習におい
て誤識別された場合の修正法を説明するための図、第７
図は逐次学習において正解となつた場合の修正法の説明
図、第８〜１０図は本発明の一実施例の構成を示す系統
図である。１００，２００，３００…クラスタ、１…帳票、２…光
電変換装置、３…走査制御回路、４…しきい値回路、５
…文字切り出し回路、６…前処理部、７…特徴抽出部、
８…一文字記憶部、９…カウンター、１０…特徴記憶
部、１１…階層クラスタ作成装置、１２…階層構造記憶
部、１３…標準パターン作成装置、１４…標準パターン
記憶部、１５…整合部、１６…判定部、１７…制御部、
１１１，１１２，１１５，１２１，１２２…レジスタ、
１１３…距離計算回路、１１４…比較器、１１６…しき
い値フアイル、１１７…演算回路、１１８…クラスタ・
フアイル、１１９…カウンター、１２３…制御回路、１
３１，１３２，１３５，１４１…レジスタ、１３３…比
較器、１３４…ラツチ、１３６…加算器、１３７，１３
８…カウンター、１３９…除算器、１４２…制御回路。

Claims

【特許請求の範囲】

【請求項１】入力パターンとパターン識別用辞書に蓄積
された標準パターンとの間の距離または類似度を求め、
求められた距離または類似度に従って上記入力パターン
の識別を行うパターン識別装置において、サンプルパターンより特徴抽出を行なって特徴パターン
を抽出する手段と、上記特徴パターンを蓄積する手段と、蓄積した特徴パターンに対して、夫々の大きさのクラス
タで階層的クラスタリングを施し、その際に、少なくと
も、最下位の階層は１クラスタに属する特徴パターンが
単一のカテゴリで構成されるように、所定の大きさのク
ラスタでクラスタリングし、各階層のクラスタ構成を階
層構造で表現し、上記階層構造に従って各階層のクラス
タ構成に応じた標準パターンを作成する手段と、上記各階層のクラスタ構成に応じた標準パターンを上記
パターン識別用辞書として蓄積する手段と、上記各階層のクラスタ構成に応じて作成された標準パタ
ーンのうち、上位の階層のクラスタ構成に応じて作成さ
れた標準パターンから、上記入力パターンと標準パター
ンとの間の距離または類似度を順次求め、求められた距
離または類似度を評価して標準パターンの候補を絞り、
上記入力パターンの識別を行う手段と、未知の入力パターンに対して、上記階層的クラスタリン
グが施された上記最下位の階層より上位の階層に対して
階層毎に上記未知の入力パターンの特徴パターンを加え
て順次再クラスタリングを施していき、上記再クラスタ
リングした結果、上記未知の入力パターンの特徴パター
ンの属するクラスタ以外のクラスタに変化が生じない階
層まで再クラスタリングを行ない、上記階層構造を変更
して上記各階層のクラスタ構成に応じた上記標準パター
ンを修正し、上記パターン識別用辞書としての蓄積手段
に蓄積する手段と、を具備することを特徴とするパターン識別装置。