JPH10501078A - 音声認識システムの言語モデルのサイズを適応させるための方法および装置 - Google Patents
音声認識システムの言語モデルのサイズを適応させるための方法および装置Info
- Publication number
- JPH10501078A JPH10501078A JP9517770A JP51777097A JPH10501078A JP H10501078 A JPH10501078 A JP H10501078A JP 9517770 A JP9517770 A JP 9517770A JP 51777097 A JP51777097 A JP 51777097A JP H10501078 A JPH10501078 A JP H10501078A
- Authority
- JP
- Japan
- Prior art keywords
- acoustic
- word
- language model
- words
- threshold
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/18—Speech classification or search using natural language modelling
- G10L15/183—Speech classification or search using natural language modelling using context dependencies, e.g. language models
- G10L15/19—Grammatical context, e.g. disambiguation of the recognition hypotheses based on word sequence rules
- G10L15/197—Probabilistic grammars, e.g. word n-grams
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/18—Speech classification or search using natural language modelling
- G10L15/183—Speech classification or search using natural language modelling using context dependencies, e.g. language models
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Artificial Intelligence (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Machine Translation (AREA)
Abstract
(57)【要約】
音声認識システムにおいて、単語nグラムを含む言語モデルのサイズを適合、具体的には縮小するための、方法および装置を開示する。本発明は、システムの音響部分が、正しく認識するために言語モデルからの支援をさほど必要としないnグラムを破棄する機構を提供する。提案される方法は、システムの作成中に破棄の目的で言語モデル内のトライグラムを識別するのに適する。また、精度を維持しながら言語モデルの圧縮を可能にする、もう1つの単語自動分類方式も提供する。さらに、この方法によれば、役に立つ時にはシングルトン・トライグラムであっても使用されるので、数少ない使用可能なテキスト・コーパスの効率的な使用が可能になる。主要なツールである高速突合せスコアリングは、既知の認識機構自体で簡単に使用可能なモジュールであるから、追加のソフトウェア・ツールを開発する必要はない。音響的に単語が互いに区別される限り、単語が発生する共通テキストに従う単語の分類によって、この方法はさらに改善される。本発明によって、低コスト・パーソナル・コンピュータ(PC)でも、ラップトップなどの可搬型コンピュータであっても、音声認識を使用可能にする可能性が開かれる。
Description
【発明の詳細な説明】
音声認識システムの言語モデルのサイズを適応させるための方法および装置
本発明は、ディジタル・コンピュータで実施される音声認識システムまたは速
記用口述録音機や電話設備の翻訳装置などの音声認識装置に関する。具体的に言
うと、本発明は、記憶要件など、音声認識システムの処理に必要な資源を減らす
ため、そのようなシステムの統計的言語モデルのサイズを減らすための機構に関
する。言語モデルのサイズも、システム環境条件またはユーザ固有の音声特性に
適合させることができる。
知識ベースではなく統計的言語モデル手法に基づく音声認識システム、たとえ
ば、米国ヨークタウン・ハイツ(Yorktown Heights)のIBM Thomas J.Watson R
esearch CenterでF.ジェリネッタ(Jelinek)他によって開発され、「The deve
lopment of an experimental discrete dictation recognizer」Proceedings of
IEEE 73(1985)11、1616〜1624ページで公表された英語音声認識システ
ムTANGORAでは、認識処理を複数のステップに分割することができる。第
1図(K.ウォシュケ(Wothke)、U.バンダラ(Bandara)、J.ケンプ(Kempf
)、E.ケッペル(Keppel)、K.モーア(Mohr)、G.ワルチ(Walch)(IBM Sc
ientific Center He
idelberg)著「The SPRING Speech Recognition System for German」、Proceed
ings of Eurospeech 89,Paris 26.-28.IX.1989の論文から引用)に示されたこ
れらのステップの作業は、次のとおりである。
・信号プロセッサによる、音声信号からのいわゆる音響ラベルのシーケンスの抽
出と、
・観察されたラベル・シーケンスを生じる確度が最も高い単語群を見つけるため
の高速で詳細な音響突合せと、
・単語のシーケンスに関する、統計的言語モデルによるその言語にその単語のシ
ーケンスが出現する確立の計算。
このシステム全体は、たとえばパーソナル・コンピュータ(PC)などのディ
ジタル・コンピュータ上で実施するか、可搬型速記用口述録音機または電話装置
上で実施することができる。音声信号は、増幅され、ディジタル化され、その後
、ディジタル化されたデータが、たとえば信号プロセッサ内に含まれる緩衝記憶
に読み取られる。結果の振動数スペクトルから、複数の要素のベクトルが取られ
、スペクトルは、耳モデルを考慮に入れて調節される。
各ベクトルは、多数の(たとえば200人)話者依存原型ベクトルと比較され
る。最も類似している原型ベクトルの、音響ラベルと称する識別番号が、採用さ
れ、後続の処理段階に送られる。話者依存原型ベクトルは、そのシステムの、音
声サンプルを用いるトレーニング段階中に、言語固有原型ベクトルから生成され
る。話者独立システムでの1例として、
ラベルは、話者依存原型なしで、長い固有の方法を用いて生成される。
高速音響突合せによって、基準語彙のすべての単語について、音声信号から観
察された音響ラベルのシーケンスを生じる確率が判定される。単語の確率は、単
語の終りに達するか、確率があらかじめ指定されたレベル未満に低下するかのい
ずれかになるまで計算される。高速突合せでは、この確率の判定の基準単位とし
て、関連発音変形を含む基準語彙内の各単語のいわゆる音声学的音声表記と、音
声学的音声表記に使用される異音のそれぞれに隠れマルコフ(hidden Markov)
モデルを使用する。音声学的音声表記は、1組の表音式綴りの規則(l.c.)
を使用することによって生成される。
異音の隠れマルコフ・モデルとは、音響ラベルのシーケンスの部分列が異音に
対応する確率を表すモデルである。マルコフ・モデルは、言語固有であり、出力
確率と遷移確率は、個々の話者に合わせてトレーニングされる。ある単語の音声
学的音声表記のマルコフ・モデルは、その異音のマルコフ・モデルの連鎖である
。
統計学的言語モデルは、音声認識装置または音声認識システム(以下では、こ
の両者をまとめて音声認識機構と呼称する)の最も本質的な部分の1つである。
これは、音響モデル側によって提案された単語仮説に関連する不確実性を解決す
るために、システムに追加の言語ベース情報を供給するという点で、音響モデル
に対して相補的である。実際には、音響
モデル側は、可能な単語候補の組を提案し、各候補には確率が付加される。その
一方で、言語モデルは、対応する確率を用いて可能な候補を予測する。システム
は、最尤技法を適用して、これら2組の候補から最も確率の高い候補を見つける
。
この言語ベース情報を供給する目的のため、言語モデルでは、単語シーケンス
の先験的に計算された相対頻度を使用するが、実用上の理由から、この単語シー
ケンスは通常は長さ3すなわち、3つ組みの単語「w1 w2 w3」というトライ
グラムである。この結果、「w3」が発生する確率は、所与のテキスト・コーパ
ス内での「w3」(ユニグラム)、「w2 w3」(バイグラム)および「w1 w2
w3」(トライグラム)の相対頻度に依存すると仮定される。これらの頻度の計
算のため、たとえば実際の放射線医学のレポートや商業通信など、応用領域から
の非常に大量の典拠のあるテキスト・コーパスが引用される。
言語モデルは、高速音響突合せから、1組の単語候補を受け取る。これらの候
補のそれぞれについて、言語モデルでは、その候補がすでに認識されている単語
に続く確率を判定する。この目的のために、言語モデルでは、単一の単語の確率
、単語対の確率および3つ組み単語の確率を使用する。これらの確率は、大量の
テキスト・コーパスを使用して、語彙内のすべての単語について推定される。高
速突合せと言語モデルによって供給される、最も高い組合せ確率を有する単語候
補が選択され、詳細突合せに渡される。
詳細音響突合せでは、言語モデルから受け取った単語のそれぞれについて、そ
の単語が観察された音響ラベル・シーケンスをもたらす確率を計算する。高速音
響突合せとは異なり、詳細突合せでは、この処理を、基準語彙の全単語について
実行するのではなく、言語モデルから受け取った単語だけについて実行し、音声
学的音声表記や基準単位としての異音の隠れマルコフ・モデルは使用しない。そ
の代わりに、詳細突合せでは、通常は1つの音響ラベルに対応する人工的な音響
単位である、いわゆるフェネミック音の隠れマルコフ・モデルを使用する。
ここで、フェネミックとは、人工的音響ラベルであるフェネム(feneme)に関
連するものであり、このフェネムは単音(phone)と対照される。IBM社の音声認
識システムにおいては、その特別の機能として、音声入力信号をコード化された
表現に変換する機能をもつものがある。このようなプロシージャは、A.Nadas他
による「Continuous Speech Recognition with Automatically Selected Acoust
ic Prototypes ...」、Proceedings ICASSP 1981,pp.1153-55において説明され
ている。ここでは、音声入力はセンチ秒(100分の1秒)の間隔に分割されて
各間隔についてスペクトル分析がなされる。ここでフェネムは、予定のパターン
の多くが音声入力に最も適合するようなスペクトル・パターンを指す。各フェネ
ムは、順に別個のラベルや複数のラベルからなるストリングとして表され、この
ことによって、(順に単語を形成することにな
る)音声の連続したセンチ秒を表す。フェネムは、アルファベットの母音や子音
を表す一般の単音(phoneme)よりは短い。
その後、高速突合せ、言語モデルおよび詳細突合せの3つの確率を組み合わせ
て、最尤シーケンスを求める。各仮説の最後に、高速突合せ、言語モデルおよび
詳細突合せを、もう一度開始する。
現場では、前述の手法で約20000語を使用して、発生される単語の少なく
とも95%をカバーする。領域からの大きいテキスト・コーパスを分析して、発
生するユニグラム、バイグラムおよびトライグラムのすべての相対頻度を得る。
20000語の語彙について理論的に可能なトライグラムの数は、200003
=9×1012(統計的計算による結果)である。実際には、このうちのごく一部
だけが観察される。その場合であっても、すべてのトライグラムおよび対応する
頻度を含む言語モデル・ファイルを記憶するために、音声認識機構は、約170
MBのディスク容量を必要とする。このファイルは、実行中に使用される。
言語モデル・ファイルのサイズが大きいことから生じる悪影響が3つある。
1.必要なディスク容量が大きく、したがって、認識装置のハードウェア・コス
トが高価になる。
2.大きいファイルでの検索には長い検索遅延が伴うので、認識機構の速度性能
がますます低くなる。
3.比較的低速のプロセッサを有する小型で安価な、ラップ
トップなどのコンピュータに音声認識ソフトウェアを移植することが困難になる
。
上記の理由から、これら従来技術の音声認識技術に使用された言語モデルのサ
イズが、検索遅延と認識精度の間のトレードオフになる。この種の手法によれば
、言語モデル・ファイルは、所与の閾値未満の頻度、たとえば3回未満しか発生
しないトライグラムを破棄することによって、圧縮される。これによって、特定
のトライグラムがコーパス内でほとんど発生しない場合に、このトライグラムは
話者によって発話される確度が非常に低いと仮定される。この手法は、高い処理
速度を達成するための言語モデルのサイズの圧縮をもたらすが、認識精度が失わ
れる可能性がある。
実際の現場での応用の間には、上の仮定が現実的でないことが観察される。多
くの場合に、滅多にないのではなく、評価されたテキスト・コーパスのサイズが
非常に限られていたので1回しか観察されないトライグラムがある。しかし、話
者は、これらのいわゆるシングルトン・トライグラムを実際に発話する。
このほかにも従来技術の技法があり、たとえば、IBM Technical Disclosure B
ulletin(TDB)、No.l、1991年6月、第427ページないし429ページに
記載のニシムラ(M.Nishimura)著、表題「Method for Compressing a Fast Ma
tch Table」に記載されている、記憶空間を節約するために高速突合せテーブル
を圧縮する方法がある。さらに、IBM TDB、N
o.2、1988年2月、第388ページないし389ページでクレピィ(H.Crep
y)によって公表された、音声認識システムの大量のモデル発話を含むライブラ
リを圧縮する方法に関連する手法がある。第1の論文では、2進木符号化アルゴ
リズムを使用することによる解決が開示され、第2の論文には、共通データ圧縮
技法を使用することによる解決が開示されている。具体的に言うと、両者の手法
は、音声認識機構の音響部分の圧縮に関し、言語モデルのサイズの圧縮に関する
ものではない。
言語モデル・ファイルの圧縮に関する上記の手法は、過去においてはコンパク
トなモデルをもたらしたが、ユーザが、破棄され、言語モデルによってサポート
されないトライグラムを発話したので、結果の誤認識率はかなり高かった。これ
らのシステムでは、音響モデル側だけに頼る必要があった。そのことから、たと
えば英語の「right」と「write」やドイツ語の「daβ(βはドイツ
語のエス・ツェット)」と「das」など、音響的に同一または類似の単語の誤
認識が生じた。
したがって、本発明の基礎となる問題は、言語モデルのサイズの大幅な減少を
可能にしながら、前に述べた短所を回避する、上記の特性を有する音声認識機構
のための機構を提供することである。
本発明の基礎となる問題および長所は、システムの音響部分がそれを正しく認
識するために言語モデルからの支援をあ
まり必要としないトライグラムを破棄する機構によって達成される。提案される
方法は、システムの作成中または実行中に破棄する目的で、言語モデル内のトラ
イグラムを識別するのに適する。また、精度を維持しながら言語モデルの圧縮を
可能にする、もう1つの単語自動分類方式も提供する。
単語間の意図的に定義された音響距離が、非効率的なトライグラムを破棄する
ための判断基準として使用される。提案される方法を用いると、認識精度のかな
りの損失なしに、言語モデルのサイズを圧縮することができる。さらに、この方
法によれば、役に立つ時にはシングルトン・トライグラムであっても使用される
ので、数少ない使用可能なテキスト・コーパスの効率的な使用が可能になる。主
要なツールである高速突合せスコアリングは、既知の認識機構自体で簡単に使用
可能なモジュールであるから、追加のソフトウェア・ツールを開発する必要はな
い。
提案される方法の効率は、音響的に単語が互いに区別される限り、単語が発生
する共通テキストに従う単語の分類によって、さらに改善することができる。
縮小のほかに、言語モデルのサイズを、記憶域サイズやプロセッサ速度などの
システム環境条件または、発話される単語の音響距離に直接に影響するユーザ固
有の発音に適合させることができる。
これらすべての理由のために、提案される方法によって、低コスト・パーソナ
ル・コンピュータ(PC)でも、ラップ
トップなどの可搬型コンピュータであっても、音声認識を使用可能にする可能性
が開かれる。
本発明の上記および他の目的、特徴および長所は、添付図面を参照すればより
完全に諒解される。
第1図は、音響部分と統計的認識部分が、互いに独立に実行される、技術的現
状の音声認識システムを表すブロック図である。
第2図は、システムの作成中に言語モデル・サイズが適合される、本発明によ
る音声認識システムの第1の実施例のブロック図である。
第3図は、認識システムの実行中に言語モデル・サイズの適合が達成される、
本発明の第2の実施例を示す図である。
第4図は、言語モデル・サイズの適合のための、提案される方式を示す流れ図
である。
第1図は、技術的現状による音声認識システムを示す図である。このようなシ
ステムは、導入部ですでに説明した。
発話された音声信号は、マイクロフォン1によって記録され、結果のアナログ
信号は、音響信号プロセッサ2に供給される。その代わりに、発話された音声信
号を、まず速記用口述録音機によって記録し、その後、速記用口述録音機からコ
ンピュータへオフラインで転送することができる。
メモリ3に記憶された原型ベクトルを使用することによって、音響信号プロセ
ッサ2は、音響ラベルのシーケンスを生成する。アナログ・ディジタル変換器4
によってアナログ・
データ・フォーマットからディジタル・データ・フォーマットに変換されたこの
シーケンスは、デコーダ5によって達成されるより完全な分析の開始点となる。
デコーダ5には、認識の3段階すなわち、高速音響突合せ段6、言語モデル段7
および詳細音響突合せ段8が含まれる。アナログ・ディジタル変換器4および言
語モデル段7のそれぞれが、単語候補を供給する。
3つの認識段すなわち高速音響突合せ段6、言語モデル段7および詳細音響突
合せ段8のそれぞれが、記憶装置9、10および11から入力を得る。高速音響
突合せ段6には記憶装置9から供給され、記憶装置9には、基準単位としてマル
コフ・モデルに従う異音のシーケンスとして表された語彙が含まれる。語前の供
給源は、音響辞書12である。
ところが、詳細音響突合せ段8では、いわゆるフェネミッタ音のマルコフ・モ
デルとしての異音の(人工的な)副次単位が使用され、これらのフェネミック音
のシーケンスとして表される語彙が供給される。基礎となる音は、複数の基準話
者14によって提供される。
記憶装置10には、上で述べた文書に広範囲に記載されている、従来技術の認
識システムによるテキスト・コーパス13の使用によって作成される単語シーケ
ンスのnグラム統計が含まれる。
高速音響突合せ段6、言語モデル段7および詳細音響突合せ段8は、デコーダ
5によって完了する認識相の間に協力す
ることに留意されたい。
デコーダ5の出力15には、ディジタル・フォーマットの単語のシーケンスが
供給され、そのフォーマットは、関係するアプリケーションに依存する。たとえ
ば、単語のシーケンスは、テキスト処理システムによって読取り可能な正字法テ
キストとすることができ、また、機械可読フォーマットで供給することができる
。
第2図は、第1図と同様の音声認識システム20を示す図であるが、この音声
認識システム20には、本発明の第1実施例によるもう1つの機能ユニット21
が含まれる。機能ユニット21は、本明細書に開示される方法によって音響距離
を計算し、記憶装置9および11に記憶されたデータを与えられる。その代わり
に、機能ユニット21をデコーダ5内で実施することができる。後者の場合、高
速音響突合せ段6および詳細音響突合せ段8によって計算される頻度は、基礎と
して直接に採用される。
本明細書に開示され、機能ユニット21内で実施される方法の結果は、単語シ
ーケンスのnグラム統計を含む記憶装置10の内容を減らすのに使用される。こ
れに関して、上の結果は、経路22を介して記憶装置10に供給される。言語モ
デルのサイズは、音響距離に関して、すなわち、たとえば言語パターンなどを共
用するが、音響距離によって簡単に分離可能な単語の新しいクラスを構成するこ
となどによって削減される。
第3図には、本発明のもう1つの実施例が示されており、この実施例では、言
語モデル・サイズの適合が、音声認識システム20の実行中に動的に達成される
。この結果、機能ユニット30は、記憶装置9に記憶された語彙に基づいて、ユ
ーザ固有の音響距離を計算する。この情報を使用することによって、装置31に
記憶されるユーザ固有言語モデルが作成される。その言語モデルのサイズは、類
似した音色の単語の弁別性であり、ユーザの特徴を表す発話品質に依存して縮小
または拡大されるという点で、記憶装置10に記憶されたモデルのサイズとは異
なる。
以下で、本発明による言語モデルのサイズを変更する方法を、好ましい実施例
に関してより詳細に説明する。
トライグラムの音響距離係数をaと定義するものとする。これを決定する方法
の例を、以下に示す。さらに、トライグラムの予測パワーfを、そのトライグラ
ムの相対頻度であるものとして定義する。aとfに関する各トライグラムの重み
づけ関数gを、次式のように定義する。
g=ka/f (1)
ここで、kは重みづけ係数であり、試行錯誤によって決定される。この方法によ
れば、重みづけ関数gは、トライグラムごとに計算される。gの閾値は、やはり
試行錯誤によって決定される。所与のトライグラムのgが閾値を超える場合、そ
のトライグラムは破棄される。
この手順には、第4図に示された下記のステップが含まれ
る。
・トライグラムを取り出す
・w1とw2が同一であるすべてのw3を取り出す
・w1とw3が同一であるすべてのw2を取り出す
・w2とw3が同一であるすべてのw1を取り出す
・式2に示されたaの正規化された値を計算する
・ステップ1のトライグラムの正規化された頻度を使用して、式1のgを計算す
る
・計算値が閾値gtを超える場合には、言語モデルからそのトライグラムを破棄
する
・ステップ1に進んで次のトライグラムを処理する
もう1つの実施例では、前もって定義された単語の組Wの単語は、対応する単
語が所与の閾値を超えるg(式1)の値をもたらす限り、単一のクラスに置かれ
る。この場合、1つの単語は、文脈クラスで発生することが許容され、また、そ
れが発生する文脈に依存する個々の単語であることが許容される。このような分
類によって、たとえばクラスのすべてのメンバのために必要な記憶容量がさらに
削減され、文脈情報のためには同一の記憶域が使用される。したがって、平均す
ると、節約は次のようになる。
1単語あたりk、1クラス内にN単語で、(N−1)×kの記憶域が節約さ
れる
所与のトライグラムw1w2w3の音響距離係数aは、以下の方法によって計
算できる。Wは、単語w3が所与の文脈
w1 w2に関して観察される、単語の組w1w2w3であるものとする。これ
によって、単語を、たとえば音節やダイフォンなど、形態素または字句単位と同
様の単語要素とすることができる。その場合、音響距離aは、組Wに関する単語
wkについて、次のように定義される。
a(wk,W)=min P(u(wk)|p(wi)) (2)
wiW
ここで、P(u(wk)|p(wi))は、単語wkの音響と共に提示された時に
単語wiの高速突合せ音響モデルによって作られるスコアとみなすことができる
。したがって、a(wk,W)は、組Wを用いて構築された高速突合せ木内で観
察される最小スコアである。この項は、組Wを用いて高速突合せ木を作成し、単
語wkの音響信号をとり、高速突合せ木に対してその音響信号を評価することに
よって評価される。これによって観察される最小スコアを、a(wk,W)とし
て採用する。
値a(wk,W)の計算は、次の3ステップによって達成できる。
1.トライグラムw1w2w3を取り出す
2.一定のw1w2について、すべてのw3の組を決定する
3.このw3の組をWとみなし、特定のw3をWkとみなして、上で述べたよう
にa(wk,W)を評価する
このaの値で式1を置換して、重みづけ関数gを計算する。
上の手順では、一定のw1w2を用いてw3が予測される場合だけを検討した
。これと同様に、一定のw2w3を用い
てw1を予測する場合について、次のように考えることができる。
一般化された項a(wk,W)は、すべての特定の場合について、a(w3k,
W3w1w2)、a(w2k,W2)およびa(w1k,W1w2w3)と記述す
ることができる。実際の距離係数aは、上の3つの項の最小項すなわち次式であ
る。
a=min{a(w3k,W3w1w2),
a(w2k,W2w1w3),
a(w1k,(W)1w2w3)) (3)
本発明による音響距離係数aは、言語モデル内のトライグラムw1w2w3を
削除するためにこれを検査し、したがって、言語モデル・ファイルを圧縮するの
に使用できる。音響距離と言語モデル内のトライグラムの相対頻度の提案された
組合せによって、どのトライグラムを破棄するかを決定するための判断基準を、
自動的に、すなわち、ユーザによる介入を全く必要とせずに、計算することがで
きる。
─────────────────────────────────────────────────────
フロントページの続き
(72)発明者 バンダラ、ウパリ
ドイツ国ライマン、リードヴィービンヴェ
ーク 2エー
(72)発明者 ルイス、バーン、エル.
アメリカ合衆国ニューヨーク州オシニン
グ、シャデイーン・ロード 275
【要約の続き】
ピュータであっても、音声認識を使用可能にする可能性
が開かれる。
Claims (1)
- 【特許請求の範囲】 1.・音響音声信号を分析し、それぞれの単語候補を供給するための第1認識手 段と、 ・単語候補のそれぞれについて、その単語がすでに認識された単語に続く可能 性の、言語モデルに基づく確率を判定するための第2認識手段と を含む音声認識装置または音声認識システムにおいて、 ・言語モデルに含まれる単語の音響距離値を判定するステップと、 ・音響距離値の閾値を定義するステップと、 ・言語モデル内で、音響距離が閾値を超える単語を識別するステップと、 ・言語モデル内のこれらの単語を破棄するステップと を特徴とする、言語モデルのサイズを変更するための方法。 2.音響距離値が、第1認識手段の音響認識結果からとられることを特徴とする 、請求項1に記載の方法。 3.閾値が、それぞれのユーザの特定の音響音声特性によって定義されることを 特徴とする、請求項1または2に記載の方法。 4.音響距離値が閾値を超える単語の破棄が、装置またはシステムの作成中に行 われることを特徴とする、請求項1ないし3のいずれか一項に記載の方法。 5.音響距離値が閾値を超える単語の破棄が、装置またはシ ステムの実行中に動的に行われることを特徴とする、請求項1ないし3のいずれ か一項に記載の方法。 6.音響距離値が閾値を超える単語のクラスを設けることを特徴とする、請求項 1ないし5のいずれか一項に記載の方法。 7.・音響音声信号を記録するための手段と、 ・音響音声信号をディジタル化するための手段と、 ・ディジタル化された音声信号の音響ラベルを生成するための手段と、 ・基準語彙の単語について、それが音響ラベルのシーケンスをもたらす確率を 判定し、それぞれの単語候補を供給するための、少なくとも1つの音響突合せ手 段と、 ・単語候補のそれぞれについて、大きいテキスト・コーパスを使用することに よる語彙内の単語のnグラム統計に基づいて、その単語候補がすでに認識された 単語に続く確率を判定するための言語モデル手段と を含む音声認識装置または音声認識システムにおいて、 ・言語モデルに含まれる単語の音響距離を判定するステップと、 ・環境条件に関して音響距離の閾値を定義するステップと、 ・音響距離が閾値を超えるnグラムのタイプを判定するステップと、 ・言語モデル内のこれらのnグラムを破棄するステップと を特徴とする、それぞれの装置環境条件またはシステム環境条件に合わせて言 語モデルのサイズを調節するための方法。 8.音響距離が、音響突合せ手段の音響認識結果からとられることを特徴とする 、請求項7に記載の方法。 9.音響距離が、それぞれのユーザの特定の音声特性によって決定されることを 特徴とする、請求項7または8に記載の方法。 10.nグラムの調節が、装置またはシステムの導入段階中に達成されることを 特徴とする、請求項7ないし9のいずれか一項に記載の方法。 11.nグラムの調節が、装置またはシステムの実行中に動的に達成されること を特徴とする、請求項7ないし9のいずれか一項に記載の方法。 12.音響距離値が閾値を越える単語の文脈クラスを設けることを特徴とする、 請求項7ないし11のいずれか一項に記載の方法。 13.所与の文脈について観察されるすべての単語である単語の組Wに関する単 語wkの音響距離が、単語wkの音響と共に提示された時の単語wiの音響モデル の高速突合せ木で観察される最小スコアによって決定されることを特徴とする、 請求項7ないし12のいずれか一項に記載の方法。 14.トライグラムw1w2w3をとり、一定のw1w2についてすべてのw3 の組を見つけ、w3の組をWとみなし、特定のw3をwkとみなし、具体的な事 例のすべてについてa(w3k,W3w1w2)、a(w2k,W2w1w3)およびa( w1k,W1w2w3)として音響距離係数aを評価することを特徴 とする、請求項13に記載の方法。 15.重みづけ係数の使用によって、各トライグラムw1w2w3の重みづけ関 数を、そのトライグラムの音響距離係数をそのトライグラムの相対頻度の予測パ ワーで割った商として定義し、装置環境またはシステム環境に依存する閾値を決 定することを特徴とする、請求項7ないし14のいずれか一項に記載の方法。 16.どのnグラムを破棄するかを決定する判断基準を計算するための基礎とし て、音響距離と単語nグラムの相対頻度の組合せを採用することを特徴とする、 請求項7ないし15のいずれか一項に記載の方法。 17.・音響音声信号を分析し、それぞれの単語候補を供給するための第1認識 手段と、 ・単語候補のそれぞれについて、その単語候補がすでに認識された単語に続く 可能性の、言語モデルに基づく確率を判定するための第2認識手段と、 ・言語モデルに含まれる単語の間の音響距離を判定するための手段と、 ・音響距離値の閾値を定義するための手段と、 ・言語モデル内で、音響距離が閾値を超える単語を識別するための手段と、 ・言語モデル内のこれらの単語を破棄するための手段と を含む、音声認識装置または音声認識システム。
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| PCT/EP1995/004337 WO1997017694A1 (en) | 1995-11-04 | 1995-11-04 | Method and apparatus for adapting the language model's size in a speech recognition system |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH10501078A true JPH10501078A (ja) | 1998-01-27 |
| JP3126985B2 JP3126985B2 (ja) | 2001-01-22 |
Family
ID=8166119
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP09517770A Expired - Fee Related JP3126985B2 (ja) | 1995-11-04 | 1995-11-04 | 音声認識システムの言語モデルのサイズを適応させるための方法および装置 |
Country Status (6)
| Country | Link |
|---|---|
| US (1) | US5899973A (ja) |
| EP (1) | EP0801786B1 (ja) |
| JP (1) | JP3126985B2 (ja) |
| CA (1) | CA2203132C (ja) |
| DE (1) | DE69517705T2 (ja) |
| WO (1) | WO1997017694A1 (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002510076A (ja) * | 1998-03-30 | 2002-04-02 | マイクロソフト コーポレイション | 言語モデルに基づく情報検索および音声認識 |
| JP2006126730A (ja) * | 2004-11-01 | 2006-05-18 | Advanced Telecommunication Research Institute International | 音素単位セットを最適化する方法及びシステム |
Families Citing this family (56)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP3126985B2 (ja) | 1995-11-04 | 2001-01-22 | インターナシヨナル・ビジネス・マシーンズ・コーポレーション | 音声認識システムの言語モデルのサイズを適応させるための方法および装置 |
| WO1998013822A1 (en) * | 1996-09-27 | 1998-04-02 | Philips Electronics N.V. | Method of and system for recognizing a spoken text |
| US7072476B2 (en) * | 1997-02-18 | 2006-07-04 | Matech, Inc. | Audio headset |
| US20020186858A1 (en) * | 2001-06-07 | 2002-12-12 | Masahisa Masuda | Loopdown and looparound headsets |
| DE19708183A1 (de) * | 1997-02-28 | 1998-09-03 | Philips Patentverwaltung | Verfahren zur Spracherkennung mit Sprachmodellanpassung |
| EP1031140B1 (de) * | 1997-11-21 | 2001-10-10 | Siemens Aktiengesellschaft | Verfahren und vorrichtung zur spracherkennung |
| DE19754957A1 (de) * | 1997-12-11 | 1999-06-17 | Daimler Chrysler Ag | Verfahren zur Spracherkennung |
| US6504520B1 (en) | 1998-03-19 | 2003-01-07 | Denso Corporation | Electroluminescent display device having equalized luminance |
| US6141641A (en) * | 1998-04-15 | 2000-10-31 | Microsoft Corporation | Dynamically configurable acoustic model for speech recognition system |
| US6188976B1 (en) * | 1998-10-23 | 2001-02-13 | International Business Machines Corporation | Apparatus and method for building domain-specific language models |
| US6253175B1 (en) * | 1998-11-30 | 2001-06-26 | International Business Machines Corporation | Wavelet-based energy binning cepstal features for automatic speech recognition |
| US6577999B1 (en) * | 1999-03-08 | 2003-06-10 | International Business Machines Corporation | Method and apparatus for intelligently managing multiple pronunciations for a speech recognition vocabulary |
| DE10014337A1 (de) * | 2000-03-24 | 2001-09-27 | Philips Corp Intellectual Pty | Verfahren zum Erzeugen eines Sprachmodells und eines akustischen Modells für ein Spracherkennungssystem |
| US7031908B1 (en) * | 2000-06-01 | 2006-04-18 | Microsoft Corporation | Creating a language model for a language processing system |
| US6865528B1 (en) * | 2000-06-01 | 2005-03-08 | Microsoft Corporation | Use of a unified language model |
| US7292678B2 (en) * | 2000-08-31 | 2007-11-06 | Lamson Holdings Llc | Voice activated, voice responsive product locator system, including product location method utilizing product bar code and aisle-situated, aisle-identifying bar code |
| US6813341B1 (en) * | 2000-08-31 | 2004-11-02 | Ivoice, Inc. | Voice activated/voice responsive item locator |
| US7472064B1 (en) * | 2000-09-30 | 2008-12-30 | Intel Corporation | Method and system to scale down a decision tree-based hidden markov model (HMM) for speech recognition |
| DE10100725C1 (de) * | 2001-01-10 | 2002-01-24 | Philips Corp Intellectual Pty | Automatisches Dialogsystem mit Datenbanksprachmodell |
| WO2003019320A2 (en) * | 2001-08-27 | 2003-03-06 | E-Base, Ltd. | Method for defining and optimizing criteria used to detect a contextualy specific concept within a paragraph |
| US7711570B2 (en) * | 2001-10-21 | 2010-05-04 | Microsoft Corporation | Application abstraction with dialog purpose |
| US8229753B2 (en) * | 2001-10-21 | 2012-07-24 | Microsoft Corporation | Web server controls for web enabled recognition and/or audible prompting |
| US7181392B2 (en) * | 2002-07-16 | 2007-02-20 | International Business Machines Corporation | Determining speech recognition accuracy |
| DE10304460B3 (de) * | 2003-02-04 | 2004-03-11 | Siemens Ag | Generieren und Löschen von Aussprachevarianten zur Verringerung der Wortfehlerrate in der Spracherkennung |
| US7533023B2 (en) * | 2003-02-12 | 2009-05-12 | Panasonic Corporation | Intermediary speech processor in network environments transforming customized speech parameters |
| US7200559B2 (en) * | 2003-05-29 | 2007-04-03 | Microsoft Corporation | Semantic object synchronous understanding implemented with speech application language tags |
| US8301436B2 (en) * | 2003-05-29 | 2012-10-30 | Microsoft Corporation | Semantic object synchronous understanding for highly interactive interface |
| US7826805B2 (en) * | 2003-11-11 | 2010-11-02 | Matech, Inc. | Automatic-switching wireless communication device |
| KR100851286B1 (ko) * | 2003-11-11 | 2008-08-08 | 마테크, 인코포레이티드 | 단일 트랜스듀서를 갖는 쌍방향 통신 장치 |
| US8160883B2 (en) * | 2004-01-10 | 2012-04-17 | Microsoft Corporation | Focus tracking in dialogs |
| US8315379B2 (en) * | 2004-11-10 | 2012-11-20 | Matech, Inc. | Single transducer full duplex talking circuit |
| US7983914B2 (en) * | 2005-08-10 | 2011-07-19 | Nuance Communications, Inc. | Method and system for improved speech recognition by degrading utterance pronunciations |
| US20070078653A1 (en) * | 2005-10-03 | 2007-04-05 | Nokia Corporation | Language model compression |
| EP2024863B1 (en) | 2006-05-07 | 2018-01-10 | Varcode Ltd. | A system and method for improved quality management in a product logistic chain |
| US7562811B2 (en) | 2007-01-18 | 2009-07-21 | Varcode Ltd. | System and method for improved quality management in a product logistic chain |
| US8069032B2 (en) * | 2006-07-27 | 2011-11-29 | Microsoft Corporation | Lightweight windowing method for screening harvested data for novelty |
| US20080091427A1 (en) * | 2006-10-11 | 2008-04-17 | Nokia Corporation | Hierarchical word indexes used for efficient N-gram storage |
| US8433576B2 (en) * | 2007-01-19 | 2013-04-30 | Microsoft Corporation | Automatic reading tutoring with parallel polarized language modeling |
| KR100897554B1 (ko) * | 2007-02-21 | 2009-05-15 | 삼성전자주식회사 | 분산 음성인식시스템 및 방법과 분산 음성인식을 위한 단말기 |
| CN101622660A (zh) * | 2007-02-28 | 2010-01-06 | 日本电气株式会社 | 语音识别装置、语音识别方法及语音识别程序 |
| US8528808B2 (en) | 2007-05-06 | 2013-09-10 | Varcode Ltd. | System and method for quality management utilizing barcode indicators |
| CN105045777A (zh) * | 2007-08-01 | 2015-11-11 | 金格软件有限公司 | 使用互联网语料库的自动的上下文相关的语言校正和增强 |
| US8306822B2 (en) * | 2007-09-11 | 2012-11-06 | Microsoft Corporation | Automatic reading tutoring using dynamically built language model |
| US8540156B2 (en) | 2007-11-14 | 2013-09-24 | Varcode Ltd. | System and method for quality management utilizing barcode indicators |
| US11704526B2 (en) | 2008-06-10 | 2023-07-18 | Varcode Ltd. | Barcoded indicators for quality management |
| JP5752150B2 (ja) | 2010-02-01 | 2015-07-22 | ジンジャー ソフトウェア、インコーポレイティッド | 特に小型キーボード装置向けのインターネットコーパスを用いた文脈感応型自動言語訂正 |
| EP2700071B1 (en) * | 2011-04-20 | 2014-12-24 | Robert Bosch GmbH | Speech recognition using multiple language models |
| US8807422B2 (en) | 2012-10-22 | 2014-08-19 | Varcode Ltd. | Tamper-proof quality management barcode indicators |
| WO2014189399A1 (en) | 2013-05-22 | 2014-11-27 | Axon Doo | A mixed-structure n-gram language model |
| US9135911B2 (en) * | 2014-02-07 | 2015-09-15 | NexGen Flight LLC | Automated generation of phonemic lexicon for voice activated cockpit management systems |
| CN103915092B (zh) * | 2014-04-01 | 2019-01-25 | 百度在线网络技术(北京)有限公司 | 语音识别方法和装置 |
| CN107615027B (zh) | 2015-05-18 | 2020-03-27 | 发可有限公司 | 用于可激活质量标签的热致变色墨水标记 |
| US10697837B2 (en) | 2015-07-07 | 2020-06-30 | Varcode Ltd. | Electronic quality indicator |
| US10013974B1 (en) * | 2016-02-29 | 2018-07-03 | Amazon Technologies, Inc. | Compact HCLG FST |
| KR102691541B1 (ko) * | 2016-12-19 | 2024-08-02 | 삼성전자주식회사 | 음성 인식 방법 및 장치 |
| US20220328039A1 (en) * | 2019-09-04 | 2022-10-13 | Telepathy Labs, Inc. | Speech recognition systems and methods |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4831550A (en) * | 1986-03-27 | 1989-05-16 | International Business Machines Corporation | Apparatus and method for estimating, from sparse data, the probability that a particular one of a set of events is the next event in a string of events |
| US5072452A (en) * | 1987-10-30 | 1991-12-10 | International Business Machines Corporation | Automatic determination of labels and Markov word models in a speech recognition system |
| US5127043A (en) * | 1990-05-15 | 1992-06-30 | Vcs Industries, Inc. | Simultaneous speaker-independent voice recognition and verification over a telephone network |
| EP0602296A1 (en) * | 1992-12-17 | 1994-06-22 | International Business Machines Corporation | Adaptive method for generating field dependant models for intelligent systems |
| US5710866A (en) * | 1995-05-26 | 1998-01-20 | Microsoft Corporation | System and method for speech recognition using dynamically adjusted confidence measure |
| US5680511A (en) * | 1995-06-07 | 1997-10-21 | Dragon Systems, Inc. | Systems and methods for word recognition |
| JP3126985B2 (ja) | 1995-11-04 | 2001-01-22 | インターナシヨナル・ビジネス・マシーンズ・コーポレーション | 音声認識システムの言語モデルのサイズを適応させるための方法および装置 |
-
1995
- 1995-11-04 JP JP09517770A patent/JP3126985B2/ja not_active Expired - Fee Related
- 1995-11-04 WO PCT/EP1995/004337 patent/WO1997017694A1/en not_active Ceased
- 1995-11-04 CA CA002203132A patent/CA2203132C/en not_active Expired - Fee Related
- 1995-11-04 EP EP95938410A patent/EP0801786B1/en not_active Expired - Lifetime
- 1995-11-04 DE DE69517705T patent/DE69517705T2/de not_active Expired - Fee Related
- 1995-11-04 US US08/860,192 patent/US5899973A/en not_active Expired - Fee Related
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2002510076A (ja) * | 1998-03-30 | 2002-04-02 | マイクロソフト コーポレイション | 言語モデルに基づく情報検索および音声認識 |
| JP2006126730A (ja) * | 2004-11-01 | 2006-05-18 | Advanced Telecommunication Research Institute International | 音素単位セットを最適化する方法及びシステム |
Also Published As
| Publication number | Publication date |
|---|---|
| EP0801786A1 (en) | 1997-10-22 |
| US5899973A (en) | 1999-05-04 |
| CA2203132A1 (en) | 1997-05-05 |
| WO1997017694A1 (en) | 1997-05-15 |
| CA2203132C (en) | 2004-11-16 |
| JP3126985B2 (ja) | 2001-01-22 |
| DE69517705T2 (de) | 2000-11-23 |
| DE69517705D1 (de) | 2000-08-03 |
| EP0801786B1 (en) | 2000-06-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP3126985B2 (ja) | 音声認識システムの言語モデルのサイズを適応させるための方法および装置 | |
| Zissman et al. | Automatic language identification | |
| US6243680B1 (en) | Method and apparatus for obtaining a transcription of phrases through text and spoken utterances | |
| US7162423B2 (en) | Method and apparatus for generating and displaying N-Best alternatives in a speech recognition system | |
| US10176809B1 (en) | Customized compression and decompression of audio data | |
| US7424427B2 (en) | Systems and methods for classifying audio into broad phoneme classes | |
| US5865626A (en) | Multi-dialect speech recognition method and apparatus | |
| US6694296B1 (en) | Method and apparatus for the recognition of spelled spoken words | |
| US8532993B2 (en) | Speech recognition based on pronunciation modeling | |
| US7181398B2 (en) | Vocabulary independent speech recognition system and method using subword units | |
| US7275034B2 (en) | Word-specific acoustic models in a speech recognition system | |
| JPH06214587A (ja) | 事前指定ワードスポッティングサブシステム及び事前ワードスポッティング方法 | |
| KR100480790B1 (ko) | 양방향 n-그램 언어모델을 이용한 연속 음성인식방법 및장치 | |
| WO2000031723A1 (en) | Method and apparatus for very large vocabulary isolated word recognition in a parameter sharing speech recognition system | |
| Kadambe et al. | Language identification with phonological and lexical models | |
| US6963832B2 (en) | Meaning token dictionary for automatic speech recognition | |
| Nga et al. | A survey of vietnamese automatic speech recognition | |
| Lee et al. | Cantonese syllable recognition using neural networks | |
| Mabokela et al. | An integrated language identification for code-switched speech using decoded-phonemes and support vector machine | |
| KR100474253B1 (ko) | 단어의 첫 자음 발성을 이용한 음성인식 방법 및 이를 저장한 기록 매체 | |
| JP2003099086A (ja) | 言語・音響モデル作成方法および言語・音響モデル作成装置ならびに言語・音響モデル作成プログラム | |
| JP4790956B2 (ja) | 音声認識器における綴りモード | |
| Ouellet et al. | Heuristic syllabification and statistical syllable-based modeling for speech-input topic identification | |
| JPH0695684A (ja) | 音声認識システム | |
| JP2002278584A (ja) | 言語モデル生成装置及びこれを用いた音声認識装置、並びにこれらの方法、これらのプログラムを記録したコンピュータ読み取り可能な記録媒体 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |