JP2000515991A - パターン認識 - Google Patents

Abstract

(57)【要約】 パターン認識、とくに言語認識で使用する認識参照データを引き出すための方法が提供される。本発明にしたがって、認識参照データとして、言語または非言語音の有効な項目を表す第１の部分、および認識エラーが生じるのが分かっている入力信号の部分から求められる第２の部分とを含む認識参照データが提供される。とくに、モデル挿入エラーおよび代入エラーは、認識結果に現れることが分かっており、これらにに対して参照データが与えられる。

Description

【発明の詳細な説明】 パターン認識 本発明はパターン認識、とくに言語認識を処理する方法に関する。 パターン認識の１つの周知の方法は、入力信号から引き出した認識特徴データ を所定の参照データと比較し、この比較結果に依存してパターン認識の判断を行 うことを含む。 例えば言語認識の１つの周知の方法では、認識特徴データをデジタル形式の言 語信号から引き出し、発話を表すモデル内に保持されている参照データと比較し 、比較結果を解析して、認識判断に到達する。 言語認識で知られている難しいことが起こるのは、入力信号の一部を誤って、 例えば入力信号内に存在する発話以外の有効な発話として、あるいは入力信号内 に存在する発話に代わる有効な発話として認識する場合である。入力信号内に存 在する項目以外で、言語認識器によって認識される付加的な項目は挿入エラーと して知られている。入力信号に存在する項目に代わって認識される項目は、挿入 エラーとして知られている。代入(substitution)には、認識の結果として、周知 の非言語項目を伴う有効な発話との置換を含むことができる。 ここで本発明にしたがって、パターン認識で使用する参照データを引き出す方 法であり、認識特徴データを入力信号から引き出して、参照データと比較し、前 記比較に依存してパターン認識が示され、次の段階： （ａ）認識される１組のパターンを表す第１の組の参照データを信号の組か ら引き出す段階と； （ｂ）該１組の信号から認識特徴データを引き出し、前記認識特徴データを 第１の組の参照データと比較する段階と； （ｃ）該１組の信号の一部を、段階（ｂ）における比較に依存して何れのパ ターンが誤って認識されたかを識別する段階と； （ｄ）段階（ｃ）で識別した信号の一部から、参照データの第２の組の参照 データを引き出す段階にしたがって、パターン認識で使用する参照データを引き 出す方法を提供する。 本発明は、とくに挿入エラーおよび代入エラーを生成する可能性の高い入力信 号の部分を認識して、モデルを作り、パターン認識器、とくに言語認識器の全体 的な認識機能を向上するすることに関する。 好ましくは、第１の組の参照データを信号の組の第１の一部分から引き出し、 認識特徴データを信号の組の第２の相互に相容れない排他的な一部分(mutually exclusive paart)から引き出す。第２の一部分から識別された信号の部分は、認 識されるべきパターンの組から付加的に発生されたパターンとして、パターンが 誤って認識される部分であるのが好ましい。 さらに、最大の利用可能なトレーニング信号の組についてモデルをトレーニン グする（学習させる）のが有益であることが分かっている。したがって、第１の 組の参照データは全トレーニング信号の組から後に再生されるのが好ましい。 パターン認識方法として： （ｉ）入力信号から認識特徴データを引き出すことと； （ii）前記特徴データを所定の参照データと比較することと； （iii）比較に依存してパターン認識を示すこととを含み： 所定の参照データが、比較によって認識されることになる１組のパターンか らのパターンを表すことが知られている信号から求められる第１の組の参照デー タと、パターンが誤って認識されることが分かっている信号から求められる第２ の組の参照データとを含んでいるパターン認識方法をさらに提案している。 挿入エラーを表す第２の組の参照データの部分は以下では挿入モデルとし、代 入エラーを表す部分は以下では代入モデルとする。 挿入モデルの使用して、例えば言語認識に応用するときに、アメリカ人アクセ ントの英語のディジット認識器（１，２，３…などの数字が続けて話されたとき の認識器）ではエラー率を３０％低減した。 ここで本発明を添付の図面を引用して例示的に記載することにする。 図１は、従来の技術の言語認識器の主な特徴を示す図である。 図２は、一連の発話のディジットの１つを認識するための一般的な認識ネット ワークを示す。 図３は、言語認識で生じる挿入エラーと代入エラーの例を示す図である。 図４は、本発明にしたがって挿入モデルを付加した図２の認識ネットワークの 変形を示す。 図５は、本発明にしたがって代入モデルを付加した図４の認識ネットワークの 変形を示す。 図６は、本発明にしたがって挿入および代入モデルを引き出す段階を示す。 図１を参照すると、既知の形態の言語認識器は構成要素として、信号捕捉１、 特徴抽出２、モデル４を参照して行うパーシング（解剖とか解析とも言う）また はパターン整合３、およびパース結果処理５を含む。トレーニング要素６も準備 されている。 ここで本発明の挿入モデルおよび代入モデルを使用する、言語認識器の動作を 記載することにする。挿入モデルおよび代入モデルを引き出すための好ましい方 法を次に記載する。 言語認識器への入力は、マイクロフォンによって捕捉される物理的言語信号で あるか、または電話に関係する応用では、言語認識器は遠隔通信ネットワークに 接続されて、アナログまたはディジタル表示の元の言語信号を受信することがで きる。 言語捕捉素子１の出力は、所定のフォーマットにしたがいサンプリングされた ディジタル表示の元の言語信号である。物理的なサンプリングレートは８KHzで あり、各サンプルが８ビットの数で表されるときには、６４，０００ビット／ｓ のディジタルデータが出力される。 言語認識は通常は言語サンプルについて直接には行われない。その理由は、大 量の重複する情報を含んでいるからである。その代りに、言語サンプルは最初に 特徴抽出素子２で解析され、特徴抽出素子２は、特徴フレームのシーケンスを含 み、よりコンパクトで、知覚上より重要な組のデータを言語サンプルから抽出す る。言語サンプルは通常３２msの継続時間のパケットにアセンブルされ、抽出さ れる特徴は各３２msのパケット内から周波数帯域を選定するときの信号電力に基 づく。言語信号から特徴を抽出する一般的な方法は、文献（"Fundamentals of S peech Recognition"，Chapter 3，Lawrence Rabiner & BiingHwang Juang，Pren tice Hall，1993年）に記載されている。 次に抽出された特徴フレームから、認識器は参照パターンの組からのパターン の対応するシーケンスを識別しようとする。言語認識器では、参照パターンの組 は単語、句（フレーズ）、またはフォニームのような言語ユニットを含み、例え ば１または複数のモデル４、例えば隠れたマルコフモデル（ＨＭＭ）として保持 される参照データによって表される。しかし、どんな認識参照データの適切な形 態をも使用することができる。パターン整合素子３は、抽出した特徴フレームを 参照データモデル４と比較して、出力として、捕捉されたデータに最もよく整合 するモデルの１または複数のシーケンスを識別する。とくに複数のモデルシーケ ンスが捕捉したデータについての可能な表示であると最初に識別されるときには 、パターン整合結果に別の処理５を行って、認識判断に到達してもよい。 言語認識器用の参照データは、“トレーニング”として知られている別の期間 中に求められる。トレーニングにはトレーニング素子６が必要である。トレーニ ング期間中に、信号として、認識器のパターンの組を形成するのに必要な言語ユ ニットまたは他の音の例であることが分かっている信号を通常の方法で捕捉し、 ディジタル形式のサンプルを解析し、適切な特徴をフレームとして抽出する。参 照データはこれらのフレームからトレーニング素子６によって求められ、１また は複数のモデル４として記憶される。１または複数のモデルは通常、言語認識器 のパターンの組を表し、該または各モデルはパターンの組の中に言語または他の 音のユニットを表す。認識される言語ユニットを表す通常のモデルはボキャブラ リモデルとして知られている。ボキャブラリ以外の音(out-of-vocabulary sound )または非言語音のモデル、例えばパターンの組に含まれるノイズまたは無音(si lence)はノイズモデルとして知られている。 例示的に、上述の言語認識器は、発話ディジット(spoken digit)のシーケンス の認識に応用することができる。入力信号から抽出した特徴フレームから、言語 認識器は図２のネットワーク内に示した解析の認識シーケンスに類似したものを 行う。この解析において、認識器は、ノイズモデル10を含む参照データを参照す ることによって、無音を含むノイズの期間によって分割されている発話ディジッ トを明確に識別しようとする。 しかしながら、ディジットの発話シーケンスを認識しようとするとき、例えば 図３に示されているような状況が生じることがある。すなわち８のみのディジッ トが話されるときに言語認識器は９つのディジットを認識し、６番目に認識した ディジット、この例では“１”を背景ノイズの期間から誤って認識し、８番目に 認識したディジット、この例では“５”を入力信号の一部から“３”と誤って認 識することがある。追加の“１”は挿入エラーの例である。“５”は代入エラー の例である。 挿入エラーを避ける試みでは、図４に示したように、本発明の好ましい実施形 態にしたがって挿入モデル12を使用する。ここではノイズモデル10によって表さ れるノイズの例に入力信号を整合させようとすることに加えて、これと並行して 言語認識器は入力信号を挿入モデル12に整合させようとする。 代入エラーを避ける試みでは、図５に示したように、本発明の好ましい実施形 態にしたがって、代入モデル13を使用する。ここではボキャブラリモデル11によ って表されるボキャブラリに入力信号を整合させようとすることに加えて、これ と並行して言語認識器は入力信号を代入モデル13へ整合させようとする。 ここでパターン認識で使用する参照データの引き出しを、挿入モデルおよび代 入モデルのために参照データの引き出しと共に、入力信号および参照データが言 語信号を表す本発明の好ましい応用にしたがって記載することにする。 言語認識器を生成するとき、最初に、認識器によって後で認識されることを期 待されている言語または非言語音の要素を表す周知の信号例から参照データを求 めなければならない。この目的のために１組のトレーニング信号を選択して、通 常ボキャブラリおよびノイズモデル用のデータを求めるが、本発明にしたがって 、さらに対応する挿入および代入モデル用のデータを求める。 参照データを求める好ましい方法を図６に示す。図６および図１を参照すると 、この方法にしたがった、既知の発話を含むトレーニング信号の組を選定し、２ つの部分、すなわち第１の部分と第２の部分に分け、各部分が全ての言語の発話 の例を含む。段階（１）では、入力信号として第１の部分を使用して言語モデル とノイズモデルを分ける。第１の部分からの信号は、言語認識器の言語捕捉素子 １および特徴抽出素子２によって処理する。抽出して生成された特徴フレームは 言語またはノイズの既知の要素に対応しており、トレーニング素子６に入力され る。トレーニング素子６は特徴フレームから参照データを引き出し、これらのデ ータ を使用して、各周知の言語およびノイズ要素を表すモデル４を生成する。上述の 段階は当業者によく知られており、ここではさらに記載しないことにする。 段階（２）では、次に段階（１）から引き出したボキャブラリおよびノイズモ デルを使用して、トレーニング信号の組の第２の部分を入力して言語認識器を試 験する。これらの試験の結果、第１の部分のデータから引き出したモデル４に基 づいて認識判断をする。標準ダイナミックプログラミング（ＤＰ）アラインメン トソフトウエアを使用して、データの第２の部分の認識結果とデータの周知の言 語内容との間のアラインメントエラーを検出する。適切なソフトウエアの例は、 US National Institute of Standards and Technology（NIST）Speech Recognit ion Scoring Package（SCORE）バージョン3.6.2.である。このソフトウエアのコ ピーはＮＩＳＴから、とくにパブディレクトリにおいて匿名のFTP://jaguar.ncs l.nist.govによってＷＷＷを介して得られる。同じくＮＩＳＴから得られる別の ソフトウエアは、scliteバージョン1.3である。生成された挿入エラーおよび代 入エラーは、対応する認識特徴フレームと共に識別される。 所定の挿入および代入エラーと対応する特徴フレームを得ると、トレーニング 素子６は段階（３）で対応する特徴フレームに基づいて１または複数の挿入モデ ルおよび１または複数の代入モデルを引き出す。これらのフレームを上記のよう に次の認識で使用する。 挿入モデルおよび代入モデルのパターン認識の使用は、言語認識器に制限する 必要はないことが当業者には明白であろう。実際パターン認識の応用では、信号 の特性的特徴はパターンの必要とされる既知の例からモデルを作った対応する特 徴と比較され、このようなモデルをさらに使用することにより、認識エラーを低 減することができる。例えば、画像解析応用で生じる挿入または代入エラーを同 様のやり方でモデルを作り、例えばフリーハンドの手書きまたは絵の認識応用に おける認識機能を向上することができる。

───────────────────────────────────────────────────── フロントページの続き (81)指定国 ＥＰ(ＡＴ，ＢＥ，ＣＨ，ＤＥ， ＤＫ，ＥＳ，ＦＩ，ＦＲ，ＧＢ，ＧＲ，ＩＥ，ＩＴ，Ｌ Ｕ，ＭＣ，ＮＬ，ＰＴ，ＳＥ)，ＯＡ(ＢＦ，ＢＪ，ＣＦ ，ＣＧ，ＣＩ，ＣＭ，ＧＡ，ＧＮ，ＭＬ，ＭＲ，ＮＥ， ＳＮ，ＴＤ，ＴＧ)，ＡＰ(ＧＨ，ＫＥ，ＬＳ，ＭＷ，Ｓ Ｄ，ＳＺ，ＵＧ，ＺＷ)，ＥＡ(ＡＭ，ＡＺ，ＢＹ，ＫＧ ，ＫＺ，ＭＤ，ＲＵ，ＴＪ，ＴＭ)，ＡＬ，ＡＭ，ＡＴ ，ＡＵ，ＡＺ，ＢＡ，ＢＢ，ＢＧ，ＢＲ，ＢＹ，ＣＡ， ＣＨ，ＣＮ，ＣＵ，ＣＺ，ＤＥ，ＤＫ，ＥＥ，ＥＳ，Ｆ Ｉ，ＧＢ，ＧＥ，ＧＨ，ＨＵ，ＩＬ，ＩＳ，ＪＰ，ＫＥ ，ＫＧ，ＫＰ，ＫＲ，ＫＺ，ＬＣ，ＬＫ，ＬＲ，ＬＳ， ＬＴ，ＬＵ，ＬＶ，ＭＤ，ＭＧ，ＭＫ，ＭＮ，ＭＷ，Ｍ Ｘ，ＮＯ，ＮＺ，ＰＬ，ＰＴ，ＲＯ，ＲＵ，ＳＤ，ＳＥ ，ＳＧ，ＳＩ，ＳＫ，ＳＬ，ＴＪ，ＴＭ，ＴＲ，ＴＴ， ＵＡ，ＵＧ，ＵＳ，ＵＺ，ＶＮ，ＹＵ，ＺＷ (72)発明者 タリンタイアー、ジョン・エドワード イギリス国、シーエム15・８キューイー、 エセックス、シェンフィールド、アレキサ ンダー・レーン（番地なし）、ポンティダ

Claims (1)

1. 【特許請求の範囲】 １．パターン認識で使用する参照データを引き出す方法であり、認識特徴データ を入力信号から引き出して、参照データと比較し、前記比較に依存してパターン 認識が示され、次の段階： （ａ）認識される１組のパターンを表す第１の組の参照データを信号の組か ら引き出す段階と； （ｂ）該１組の信号から認識特徴データを引き出し、前記認識特徴データを 第１の組の参照データと比較する段階と； （ｃ）該１組の信号の一部を、段階（ｂ）における比較に依存して何れのパ ターンが誤って認識されたかを識別する段階と； （ｄ）段階（ｃ）で識別した信号の一部から、参照データの第２の組の参照 データを引き出す段階にしたがって、パターン認識で使用する参照データを引き 出す方法。 ２．段階（ｃ）で、識別される信号の部分が、パターンが、認識されるパターン の組からパターンが付加的に生成したと誤って認識した信号である請求項１記載 の参照データを引き出す方法。 ３．参照データの第１の組が信号の該組の一部から引き出され、認識特徴データ が信号の該組の第２の相互に異なる部分から引き出される請求項１または２記載 の方法。 ４．次の段階（ｄ）において、該信号の組の第１の部分と第２の部分の両方を使 用して、参照データの第１の組を再び引き出す請求項３記載の参照データを引き 出す方法。 ５．入力信号が言語信号を表す請求項１乃至４の何れか１項記載の方法。 ６．（ｉ）入力信号から認識特徴データを引き出すことと； （ii）前記特徴データを所定の参照データと比較することと； （iii）比較に依存してパターン認識を示すこととを含み： 所定の参照データが、比較によって認識されることになる１組のパターンか らのパターンを表すことが知られている信号から求められる第１の組の参照デー タと、パターンが誤って認識されることが分かっている信号から求められる第２ の組の参照データとを含んでいるパターン認識方法。 ７．第２の組の参照データが、認識される１組のパターンからパターンが付加的 に生成されたと誤って認識される請求項６記載の方法。 ８．所定の参照データを１組の信号から引き出し、この引き出し方法が、次の段 階： （ａ）信号の組を第１部分と第２の部分とに分ける段階と； （ｂ）第１の部分から、認識される１組のパターンを表す第１の組の参照デ ータを引き出す段階と； （ｃ）入力信号として第２の部分を使用して、段階（ｉ）乃至(iii)を実行 し、段階(ii)で、第１の組の参照データを所定の参照データとして使用する段階 と； （ｄ）第２の部分から、段階(iii)でパターンが誤って認識された信号の部 分を識別する段階と； （ｅ）段階（ｄ）で識別された信号の部分から第２の組の参照データを引き 出す段階とを含む請求項６または７記載のパターン認識方法。 ９．（ｉ）入力信号から認識特徴データを引き出す段階と； （ii）前記特徴データを所定の参照データと比較する段階と； （iii）比較値に依存してパターンの認識を示す段階とを含み： 所定の参照データが、比較によって認識される１組の発話から発話を表すこ とが知られている信号から求められる第１の組の参照データと、発話を誤って認 識されたことが分かっている信号から求められる第２の組の参照データとを含む 言語認識方法。