JPH0355837B2 - - Google Patents
Info
- Publication number
- JPH0355837B2 JPH0355837B2 JP61065030A JP6503086A JPH0355837B2 JP H0355837 B2 JPH0355837 B2 JP H0355837B2 JP 61065030 A JP61065030 A JP 61065030A JP 6503086 A JP6503086 A JP 6503086A JP H0355837 B2 JPH0355837 B2 JP H0355837B2
- Authority
- JP
- Japan
- Prior art keywords
- frequency
- probability
- labels
- input
- adaptation
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired
Links
- 230000006978 adaptation Effects 0.000 claims description 33
- 230000007704 transition Effects 0.000 claims description 21
- 238000000034 method Methods 0.000 claims description 17
- 238000012549 training Methods 0.000 claims description 4
- 238000012545 processing Methods 0.000 claims description 2
- 238000009499 grossing Methods 0.000 claims 1
- 238000004364 calculation method Methods 0.000 description 10
- 230000008569 process Effects 0.000 description 8
- 238000002372 labelling Methods 0.000 description 6
- 238000010586 diagram Methods 0.000 description 5
- 230000004048 modification Effects 0.000 description 4
- 238000012986 modification Methods 0.000 description 4
- 238000004422 calculation algorithm Methods 0.000 description 2
- 238000000605 extraction Methods 0.000 description 2
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 230000008901 benefit Effects 0.000 description 1
- 230000001419 dependent effect Effects 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000002349 favourable effect Effects 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000005457 optimization Methods 0.000 description 1
- 230000000717 retained effect Effects 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/06—Creation of reference templates; Training of speech recognition systems, e.g. adaptation to the characteristics of the speaker's voice
- G10L15/065—Adaptation
- G10L15/07—Adaptation to the speaker
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
- G10L15/142—Hidden Markov Models [HMMs]
- G10L15/144—Training of HMMs
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Health & Medical Sciences (AREA)
- Computational Linguistics (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Artificial Intelligence (AREA)
- Probability & Statistics with Applications (AREA)
- Measurement Of Mechanical Vibrations Or Ultrasonic Waves (AREA)
- Machine Translation (AREA)
- Complex Calculations (AREA)
- Telephonic Communication Services (AREA)
Description
【発明の詳細な説明】
A 産業上の利用分野
この発明はマルコフ・モデルを利用した音声認
識方法に関し、とくに話者適応を簡易に行えるよ
うにしたものである。
識方法に関し、とくに話者適応を簡易に行えるよ
うにしたものである。
B 従来の技術
マルコフ・モデルを利用した音声認識は確率的
な観点から音声の認識を行おうとするものであ
る。たとえばそのうちの1つの手法では単語ごと
にマルコフ・モデルが設定される。通常このマル
コフ・モデルには複数の状態と、これら状態の間
の遷移が規定され、これら遷移にはその生起確率
と、その遷移においてラベル(シンボル)を出力
する確率とが割り当てられる。未知入力音声はラ
ベルの系列に変換され、こののち単語マルコフ・
モデルの各々がこのラベル系列を生成する確率
を、上述の遷移生起確率およびラベル出力確率
(以下これらをパラメータと呼ぶ)に基づいて決
定し、ラベル生成確率が最大となる単語マルコ
フ・モデルを求める。そしてこの結果に基づいて
認識を行う。このマルコフ・モデルを利用した音
声認識では、パラメータを統計的に推定すること
ができ、このため認識精度を向上させることがで
きる。
な観点から音声の認識を行おうとするものであ
る。たとえばそのうちの1つの手法では単語ごと
にマルコフ・モデルが設定される。通常このマル
コフ・モデルには複数の状態と、これら状態の間
の遷移が規定され、これら遷移にはその生起確率
と、その遷移においてラベル(シンボル)を出力
する確率とが割り当てられる。未知入力音声はラ
ベルの系列に変換され、こののち単語マルコフ・
モデルの各々がこのラベル系列を生成する確率
を、上述の遷移生起確率およびラベル出力確率
(以下これらをパラメータと呼ぶ)に基づいて決
定し、ラベル生成確率が最大となる単語マルコ
フ・モデルを求める。そしてこの結果に基づいて
認識を行う。このマルコフ・モデルを利用した音
声認識では、パラメータを統計的に推定すること
ができ、このため認識精度を向上させることがで
きる。
なお、この認識手法については以下の論文に詳
細が記載されている。
細が記載されている。
(1) “A Maximum Likelihood Approach to
Continuous Speech Recognition”(IEEE
Transactions on Pattern Analysis and
Machine Intelligence、PAMI−5巻、2号、
pp.179−190、1983、Lalit R Bahl、
Frederick JelinekおよびRobert L.Mercer) (2) “Continuous Speech Recognition by
Statistical Methods”(Proceedings of the
IEEE 64巻、1976、pp.532−556、Frederick
Jelinek) (3) “An Introduction to the Application of
the Theory of Probabilistic Functions of
a Markov Process to Automatic Speech
Recognition”(The Bell System Technical
Journal 64巻、4号、1983、4月、S.E.
Levinson、L.R.RabinerおよびM.M.Sondhi) ところでマルコフ・モデルを利用した音声認識
では学習用に膨大な量の音声データが必要であ
り、また学習を行うのにも多くの時間を必要とす
る。しかも所定の話者の音声データで学習を行つ
たシステムでは他の話者の認識精度が十分でない
場合が多い。また、同一話者であつても、学習時
と認識時との間にかなりの時間を置き、そのため
環境が異なつてしまうと、認識精度が低下する。
Continuous Speech Recognition”(IEEE
Transactions on Pattern Analysis and
Machine Intelligence、PAMI−5巻、2号、
pp.179−190、1983、Lalit R Bahl、
Frederick JelinekおよびRobert L.Mercer) (2) “Continuous Speech Recognition by
Statistical Methods”(Proceedings of the
IEEE 64巻、1976、pp.532−556、Frederick
Jelinek) (3) “An Introduction to the Application of
the Theory of Probabilistic Functions of
a Markov Process to Automatic Speech
Recognition”(The Bell System Technical
Journal 64巻、4号、1983、4月、S.E.
Levinson、L.R.RabinerおよびM.M.Sondhi) ところでマルコフ・モデルを利用した音声認識
では学習用に膨大な量の音声データが必要であ
り、また学習を行うのにも多くの時間を必要とす
る。しかも所定の話者の音声データで学習を行つ
たシステムでは他の話者の認識精度が十分でない
場合が多い。また、同一話者であつても、学習時
と認識時との間にかなりの時間を置き、そのため
環境が異なつてしまうと、認識精度が低下する。
C 発明が解決しようとする問題点
この発明は以上の事情を考慮してなされたもの
であり、一旦学習を行つたシステムを、学習時と
異なる環境に適応化させることができ、しかもそ
の適応化を比較的簡易に行うことができる音声認
識方法を提供することを目的としている。
であり、一旦学習を行つたシステムを、学習時と
異なる環境に適応化させることができ、しかもそ
の適応化を比較的簡易に行うことができる音声認
識方法を提供することを目的としている。
D 問題点を解決するための手段
この発明では、以上の目的を達成するために、
初期の学習時にマルコフ・モデルのパラメータを
推定するのに用いたイベントの頻度を保持してお
く。つぎに適応化用データについてマルコフ・モ
デルのパラメータを参照して適応化用データのイ
ベントの頻度を求める。そして以上の2種類のイ
ベントの頻度の双方を利用して新しいパラメータ
を推定するようにしている。
初期の学習時にマルコフ・モデルのパラメータを
推定するのに用いたイベントの頻度を保持してお
く。つぎに適応化用データについてマルコフ・モ
デルのパラメータを参照して適応化用データのイ
ベントの頻度を求める。そして以上の2種類のイ
ベントの頻度の双方を利用して新しいパラメータ
を推定するようにしている。
一例として第2図に示すトレリスを考えよう。
第2図においては横軸は時間経過を示し、縦軸は
マルコフ・モデルの状態を示す。入力ラベル系列
は時間軸に沿うw1、w2……wlである。マルコ
フ・モデルの状態は時間の経過にともなつて初期
状態Iから最終状態Fへと種々のパスに沿つて変
化していく。図の破線はパスの全体を示す。この
場合iからjへ状態が遷移し、しかもこの際ラベ
ルkを出力する頻度C*(i、j、k)、すなわち
第2図の矢印で示すパスを通つてkを出力する頻
度をパラメータP(i、j、k)から求めること
ができる。ただしP(i、j、k)はiからjへ
遷移し、しかもkを出力する確率である。他方マ
ルコフ・モデルが状態iにある頻度S*(i)すなわ
ち括孤で示す時点で状態iにある頻度はC*(i、
j、k)の和をjおよびkについて求めれば得る
ことができる。そして頻度C*(i、j、k)およ
びS*(i)の性質から、新たなパラメータP′(i、
j、k)を P′(i、j、k)=C*(i、j、k)/S*(i) の推定式から得ることができる。
第2図においては横軸は時間経過を示し、縦軸は
マルコフ・モデルの状態を示す。入力ラベル系列
は時間軸に沿うw1、w2……wlである。マルコ
フ・モデルの状態は時間の経過にともなつて初期
状態Iから最終状態Fへと種々のパスに沿つて変
化していく。図の破線はパスの全体を示す。この
場合iからjへ状態が遷移し、しかもこの際ラベ
ルkを出力する頻度C*(i、j、k)、すなわち
第2図の矢印で示すパスを通つてkを出力する頻
度をパラメータP(i、j、k)から求めること
ができる。ただしP(i、j、k)はiからjへ
遷移し、しかもkを出力する確率である。他方マ
ルコフ・モデルが状態iにある頻度S*(i)すなわ
ち括孤で示す時点で状態iにある頻度はC*(i、
j、k)の和をjおよびkについて求めれば得る
ことができる。そして頻度C*(i、j、k)およ
びS*(i)の性質から、新たなパラメータP′(i、
j、k)を P′(i、j、k)=C*(i、j、k)/S*(i) の推定式から得ることができる。
このような推定を繰り返していけば、学習デー
タを正確に反映したパラメータP0(i、j、k)
を得ることができる。なおゼロのサフイツクスは
学習完了時の値であることを示す。したがつて
S0 *、C0 *は学習完了時の頻度を表わす。
タを正確に反映したパラメータP0(i、j、k)
を得ることができる。なおゼロのサフイツクスは
学習完了時の値であることを示す。したがつて
S0 *、C0 *は学習完了時の頻度を表わす。
この発明では適応化を行うのに、パラメータ
P0(i、j、k)を用いて適応化用音声データに
関する頻度C1 *(i、j、k)およびS1 *(i)を求め
る。そしてつぎの式を用いて適応化後の新たなパ
ラメータP1(i、j、k)を得るようにする。
P0(i、j、k)を用いて適応化用音声データに
関する頻度C1 *(i、j、k)およびS1 *(i)を求め
る。そしてつぎの式を用いて適応化後の新たなパ
ラメータP1(i、j、k)を得るようにする。
P1(i、j、k)=(1−λ)C0 *(i、
j、k)+λC1 *(i、j、k)/(1−λ)S0 *(i)+
λS1 * ただし0λ1 すなわち推定を行うのに必要な頻度を補間によ
り求めているのである。このようにすると初期学
習で得たパラメータP0(i、j、k)を異なる環
境下の認識に適応化させることができる。
j、k)+λC1 *(i、j、k)/(1−λ)S0 *(i)+
λS1 * ただし0λ1 すなわち推定を行うのに必要な頻度を補間によ
り求めているのである。このようにすると初期学
習で得たパラメータP0(i、j、k)を異なる環
境下の認識に適応化させることができる。
またこの発明ではC0☆
(i、j、k)=P0(i、
j、k)・S0☆ (i)であることを利用して P1(i、j、k)=(1−λ)P0(i、j、k
)・S0☆ (i)+λC1☆ (i、j、k)/(1−λ)S0 *(i)+λS1☆ (i) の推定を行うようにしてもよい。この場合頻度
C0 *(i、j、k)を保持しておく必要がなくな
る。
j、k)・S0☆ (i)であることを利用して P1(i、j、k)=(1−λ)P0(i、j、k
)・S0☆ (i)+λC1☆ (i、j、k)/(1−λ)S0 *(i)+λS1☆ (i) の推定を行うようにしてもよい。この場合頻度
C0 *(i、j、k)を保持しておく必要がなくな
る。
また初期学習データと適応化用データとが大幅
に異なる場合にはP0(i、j、k)にかえてつぎ
のものを利用するとよい。
に異なる場合にはP0(i、j、k)にかえてつぎ
のものを利用するとよい。
(1−μ)P0(i、j、k)+μe 0≦μ≦1
ここでeは所定の小さな定数であり、実際は
1/(ラベルの数)×(分岐の数)である。
1/(ラベルの数)×(分岐の数)である。
なお以下の実施例ではマルコフ・モデルの確率
パラメータとして1の状態から1の状態に遷移す
るときに1のラベルを出力する確率を用いる場合
につき説明するが、状態遷移生起確率と、ラベル
出力確率とを個別のパラメータとして用いる場合
にもこの発明を適用できる。
パラメータとして1の状態から1の状態に遷移す
るときに1のラベルを出力する確率を用いる場合
につき説明するが、状態遷移生起確率と、ラベル
出力確率とを個別のパラメータとして用いる場合
にもこの発明を適用できる。
E 実施例
以下この発明を単語音声認識に適用した一実施
例について図面を参照しながら説明しよう。
例について図面を参照しながら説明しよう。
第1図はこの実施例を全体として示すものであ
り、この第1図において、入力音声データはマイ
クロホン1および増幅器2を介してアナログ・デ
ジタル(A/D)変換器3に供給され、ここでデ
ジタル・データとされる。デジタル化された音声
データは特徴量抽出装置4に供給される。特徴量
抽出装置4はたとえばフローテイング・ポイン
ト・システムズ社製のアレイプロセスサとするこ
とができる。この特徴量抽出装置4においては、
まず音声データが離散10m秒ごとに20m秒のウイ
ンドウを介してフーリエ変換されたのち20チヤネ
ル分のバンド・パス・フイルタのそれぞれの出力
として取り出される。この出力は次段のラベル付
け装置5に送出される。ラベル付け装置5はラベ
ル・プロトタイプ辞書6を参照して順次ラベル付
けを行つていく。なお辞書6のラベル・プロトタ
イプはクラスタリングにより生成されたものであ
り、その個数は128である。
り、この第1図において、入力音声データはマイ
クロホン1および増幅器2を介してアナログ・デ
ジタル(A/D)変換器3に供給され、ここでデ
ジタル・データとされる。デジタル化された音声
データは特徴量抽出装置4に供給される。特徴量
抽出装置4はたとえばフローテイング・ポイン
ト・システムズ社製のアレイプロセスサとするこ
とができる。この特徴量抽出装置4においては、
まず音声データが離散10m秒ごとに20m秒のウイ
ンドウを介してフーリエ変換されたのち20チヤネ
ル分のバンド・パス・フイルタのそれぞれの出力
として取り出される。この出力は次段のラベル付
け装置5に送出される。ラベル付け装置5はラベ
ル・プロトタイプ辞書6を参照して順次ラベル付
けを行つていく。なお辞書6のラベル・プロトタ
イプはクラスタリングにより生成されたものであ
り、その個数は128である。
ラベル付けはたとえば第3図に示すように行わ
れる。第3図においてXは入力の特徴量、Yiは第
i番目のプロトタイプの特徴量、Nはプロトタイ
プの個数(=128)、dist(X、Yi)はXとYiとの
ユークリツド距離、mは各時点までのdist(X、
Yi)の最小値である。なおmは非常に大きな値V
に最初設定される。図から明らかなように入力の
特徴量Xはプロトタイプの特徴量と各々と順次比
較されていき、最も似ている、すなわち距離の小
さいものが観測されたラベル(ラベル番号)Pと
して出力されていく。
れる。第3図においてXは入力の特徴量、Yiは第
i番目のプロトタイプの特徴量、Nはプロトタイ
プの個数(=128)、dist(X、Yi)はXとYiとの
ユークリツド距離、mは各時点までのdist(X、
Yi)の最小値である。なおmは非常に大きな値V
に最初設定される。図から明らかなように入力の
特徴量Xはプロトタイプの特徴量と各々と順次比
較されていき、最も似ている、すなわち距離の小
さいものが観測されたラベル(ラベル番号)Pと
して出力されていく。
このようにしてラベル付け装置5からは、ラベ
ル間の間隔が10m秒のラベル系列が出力されてい
く。
ル間の間隔が10m秒のラベル系列が出力されてい
く。
ラベル付け装置5からのラベル系列は切換装置
7を介して学習装置8、適応化装置9および認識
装置10のいずれか1つに供給される。学習装置
8および適応化装置9の動作の詳細についてはの
ちに第4図以降の図を参照して説明する。初期学
習時には切化装置7が学習装置8がわに切り換わ
つてラベル系列を学習装置8に供給する。学習装
置8はラベル系列を利用してマルコフ・モデルの
学習を行いパラメータ・テーブル11のパラメー
タ値を決定する。適応化を行う際には切換装置7
が適応化装置9がわに切り換わり、適応化装置9
がラベル系列を利用してパラメータ・テーブル1
1のパラメータ値を適応化する。認識を行う際に
は切換装置7が認識装置10がわに切り換わり、
認識装置10はラベル系列とパラメータ・テーブ
ルとに基づいて入力音声の認識を行う。この認識
装置10はフオワード計算またはビタービ・アル
ゴリズムに基づくものとすることができる。これ
らアルゴリズム詳細については前述の論文(2)を参
照されたい。
7を介して学習装置8、適応化装置9および認識
装置10のいずれか1つに供給される。学習装置
8および適応化装置9の動作の詳細についてはの
ちに第4図以降の図を参照して説明する。初期学
習時には切化装置7が学習装置8がわに切り換わ
つてラベル系列を学習装置8に供給する。学習装
置8はラベル系列を利用してマルコフ・モデルの
学習を行いパラメータ・テーブル11のパラメー
タ値を決定する。適応化を行う際には切換装置7
が適応化装置9がわに切り換わり、適応化装置9
がラベル系列を利用してパラメータ・テーブル1
1のパラメータ値を適応化する。認識を行う際に
は切換装置7が認識装置10がわに切り換わり、
認識装置10はラベル系列とパラメータ・テーブ
ルとに基づいて入力音声の認識を行う。この認識
装置10はフオワード計算またはビタービ・アル
ゴリズムに基づくものとすることができる。これ
らアルゴリズム詳細については前述の論文(2)を参
照されたい。
認識装置10の出力はワークステーシヨン12
に供給され、たとえばその表示装置に表示され
る。
に供給され、たとえばその表示装置に表示され
る。
なお第1図において破線のブロツクで囲まれた
部分は実際にはホストコンピユータ上にソフトウ
エアとして実現されている。ホストコンピユータ
としてはIBM社の3083処理装置、オペレーシヨ
ン・システムとしてはCMS、言語としてはPL/
1を用いた。もちろん、ハードウエアで実現して
もよい。
部分は実際にはホストコンピユータ上にソフトウ
エアとして実現されている。ホストコンピユータ
としてはIBM社の3083処理装置、オペレーシヨ
ン・システムとしてはCMS、言語としてはPL/
1を用いた。もちろん、ハードウエアで実現して
もよい。
つぎに学習装置8の動作の詳細について説明す
る。
る。
第4図は初期学習の手順を示すものであり、こ
の図において、まず単語マルコフ・モデルの各々
について規定を行う(ステツプ13)。この例では
単語の個数を200としている。単語マルコフ・モ
デルは第5図に示すようなものである。この図で
は黒のドツトが状態の各々を示し、矢印が遷移の
各々を示している。状態の個数は初期状態Iおよ
び最終状態Fを含めて8である。遷移の種類とし
ては、隣りの状態への遷移tN、1つ状態をスキ
ツプする遷移tSおよび同一の状態をループする遷
移tLの3つがある。単語のラベル数は約40〜50
個であり、単語のラベル系列はループやスキツプ
を加味しながら初期状態Iから最終状態Fへとマ
ツチングさせられていく。
の図において、まず単語マルコフ・モデルの各々
について規定を行う(ステツプ13)。この例では
単語の個数を200としている。単語マルコフ・モ
デルは第5図に示すようなものである。この図で
は黒のドツトが状態の各々を示し、矢印が遷移の
各々を示している。状態の個数は初期状態Iおよ
び最終状態Fを含めて8である。遷移の種類とし
ては、隣りの状態への遷移tN、1つ状態をスキ
ツプする遷移tSおよび同一の状態をループする遷
移tLの3つがある。単語のラベル数は約40〜50
個であり、単語のラベル系列はループやスキツプ
を加味しながら初期状態Iから最終状態Fへとマ
ツチングさせられていく。
単語マルコフ・モデルの規定は第1図のパラメ
ータ・テーブルを暫定的に確立することである。
具体的には第6図に示すようなテーブル・フオー
マツトを各単語ごとに割り当て、そののちパラメ
ータP(i、j、k)の初期設定を行う。なおパ
ラメータP(i、j、k)はマルコフ・モデルに
おいて状態iからjへの遷移が起こり、かつこの
遷移時にラベルkが出力される確率を表わす。ま
た初期設定では隣りへの遷移、ループ遷移および
スキツプ遷移がそれぞれ0.9:0.05:0.05で起こ
り、かつ各遷移でラベルは均等にすなわち1/
128の割合で出力されるものとして、各パラメー
タを設定している。
ータ・テーブルを暫定的に確立することである。
具体的には第6図に示すようなテーブル・フオー
マツトを各単語ごとに割り当て、そののちパラメ
ータP(i、j、k)の初期設定を行う。なおパ
ラメータP(i、j、k)はマルコフ・モデルに
おいて状態iからjへの遷移が起こり、かつこの
遷移時にラベルkが出力される確率を表わす。ま
た初期設定では隣りへの遷移、ループ遷移および
スキツプ遷移がそれぞれ0.9:0.05:0.05で起こ
り、かつ各遷移でラベルは均等にすなわち1/
128の割合で出力されるものとして、各パラメー
タを設定している。
単語マルコフ・モデルの規定ののち、初期学習
用データを入力する(ステツプ14)。この初期学
習用データは認識対象語彙の200個の単語をそれ
ぞれ5回ずつ発声して得たものである。同一の単
語についての5回の発声は1まとめにされてお
り、かつ発声の各々はどの単語の何番目のものか
がわかるようにされている。ここでは具体的な1
つの単語の発声の集合をU={u1、u2、…、u5}
で表わし、発声の各々uoをuo=wo1、wo2…woloで
表わすことにしよう。なおwo1…は観測ラベルを
表わす。
用データを入力する(ステツプ14)。この初期学
習用データは認識対象語彙の200個の単語をそれ
ぞれ5回ずつ発声して得たものである。同一の単
語についての5回の発声は1まとめにされてお
り、かつ発声の各々はどの単語の何番目のものか
がわかるようにされている。ここでは具体的な1
つの単語の発声の集合をU={u1、u2、…、u5}
で表わし、発声の各々uoをuo=wo1、wo2…woloで
表わすことにしよう。なおwo1…は観測ラベルを
表わす。
初期学習用データの入力が終了すると、つぎに
フオワード計算およびバツクワード計算を行う
(ステツプ15)。以下の手順はすべての単語につい
て行われるが、ここでは便宜上1つの単語の発声
の集合Uについてのみ考えることとする。フオワ
ード計算およびバツクワード計算はつぎのような
フオワード値f(i、x、n)およびバツクワー
ド値b(i、x、n)を計算するものである。
フオワード計算およびバツクワード計算を行う
(ステツプ15)。以下の手順はすべての単語につい
て行われるが、ここでは便宜上1つの単語の発声
の集合Uについてのみ考えることとする。フオワ
ード計算およびバツクワード計算はつぎのような
フオワード値f(i、x、n)およびバツクワー
ド値b(i、x、n)を計算するものである。
f(i、x、n):ラベル系列uoに対し時刻0で初
期状態Iから始まつて時刻xに状態iに到る頻
度 b(i、x、n):ラベル系列uoに対し時刻loで最
終状態Fから始まつて時刻xに状態iに戻る頻
度 フオワード計算およびバツクワード計算はつぎ
のような式により順次簡易に求めることができ
る。
期状態Iから始まつて時刻xに状態iに到る頻
度 b(i、x、n):ラベル系列uoに対し時刻loで最
終状態Fから始まつて時刻xに状態iに戻る頻
度 フオワード計算およびバツクワード計算はつぎ
のような式により順次簡易に求めることができ
る。
フオワード計算
x=0の場合
f(i、o、n)={i=1のとき1 その他の
とき0 1≦x≦loの場合 f(i、x、n)=2 〓 〓k=0 {f(i−k、x−1、n)・Pt-1(i−k、i、w
ox)} ただし、Pt-1はそのときパラメータ・テーブル
にストアされているパラメータであり、kはマル
コフ・モデルにより決まり、ここではk=0、
1、2である。
とき0 1≦x≦loの場合 f(i、x、n)=2 〓 〓k=0 {f(i−k、x−1、n)・Pt-1(i−k、i、w
ox)} ただし、Pt-1はそのときパラメータ・テーブル
にストアされているパラメータであり、kはマル
コフ・モデルにより決まり、ここではk=0、
1、2である。
バツクワード計算
x=loの場合
b(i、lo、n)={i=E(この例では8)のと
き1 その他のとき0 0≦x<loの場合 b(i、x、n)=2 〓 〓k=0 {b(i+k、x+1、n)・Pt-1(i、i+k、w
ox+1)} ただしEはマルコフ・モデルの状態数である。
き1 その他のとき0 0≦x<loの場合 b(i、x、n)=2 〓 〓k=0 {b(i+k、x+1、n)・Pt-1(i、i+k、w
ox+1)} ただしEはマルコフ・モデルの状態数である。
フオワード計算およびバツクワード計算が終了
すると、つぎにラベル列uoのフオワード値f(i、
x、n)およびバツクワード値b(i、x、n)
に基づいてラベル列uoにおいて状態iからjに遷
移して、しかもラベルkを出力する頻度count
(i、j、k、n)を求める(ステツプ16)。頻度
count(i、j、k、n)はつぎの式から求める
ことができる。
すると、つぎにラベル列uoのフオワード値f(i、
x、n)およびバツクワード値b(i、x、n)
に基づいてラベル列uoにおいて状態iからjに遷
移して、しかもラベルkを出力する頻度count
(i、j、k、n)を求める(ステツプ16)。頻度
count(i、j、k、n)はつぎの式から求める
ことができる。
count(i、j、k、n)=2
〓k=0
(δ(wox、k)・f(i、x−1、n)
・b(j、x、n)・Pt-1(i、j、wox))
ただしδ(wox、k)={wox=kのとき1 wox
≠kのとき 0 上式は第7図を参照して容易に理解することが
できる。第7図はこの実施例の単語マルコフ・モ
デルにラベル列uo(=wo1wo2…wolo)をマツチン
グさせた際のトレリスを示す。時間に沿つてuo
(wox)も表示されている。丸で囲まれたwoxは
wox=kすなわちδ(wox、k)=1の場合を示す。
そして矢印の付されたラベルwoxの観測時点x
で、状態i(第7図では状態3)からj(同4)に
遷移するパスを考えることにする。第7図ではこ
のパスpの両端の格子点を黒丸で示した。この場
合パスpでマルコフ・モデルがk=woxを出力す
る確率はPt-1(i、j、wox)である。また破線f
で示すように初期状態Iから状態i、時刻(x−
1)の黒丸の格子点まで到る頻度はフオワード値
f(i、x−1、n)で表わされ、他方破線bで
示すように最終状態Fから状態j、時刻xの黒丸
の格子まで戻る頻度はバツクワード値b(j、x、
n)で表わされる。したがつてパスpでk=wox
を出力する頻度は f(i、x−1、n)・b(j、x、n
)・Pt-1(i、j、wox) である。count(i、j、k、n)は丸印の付さ
れたラベルについて頻度の和をとつたものであり
(δ(wox、k)の操作がこれに対応する)、上述
の式で表わされることがわかる。すなわち count(i、j、k、n)=1o 〓x=0 (δ(wox、k)・f(i、x−1、n) ・b(j、x、n)・Pt-1(i、j、wox)) である。
≠kのとき 0 上式は第7図を参照して容易に理解することが
できる。第7図はこの実施例の単語マルコフ・モ
デルにラベル列uo(=wo1wo2…wolo)をマツチン
グさせた際のトレリスを示す。時間に沿つてuo
(wox)も表示されている。丸で囲まれたwoxは
wox=kすなわちδ(wox、k)=1の場合を示す。
そして矢印の付されたラベルwoxの観測時点x
で、状態i(第7図では状態3)からj(同4)に
遷移するパスを考えることにする。第7図ではこ
のパスpの両端の格子点を黒丸で示した。この場
合パスpでマルコフ・モデルがk=woxを出力す
る確率はPt-1(i、j、wox)である。また破線f
で示すように初期状態Iから状態i、時刻(x−
1)の黒丸の格子点まで到る頻度はフオワード値
f(i、x−1、n)で表わされ、他方破線bで
示すように最終状態Fから状態j、時刻xの黒丸
の格子まで戻る頻度はバツクワード値b(j、x、
n)で表わされる。したがつてパスpでk=wox
を出力する頻度は f(i、x−1、n)・b(j、x、n
)・Pt-1(i、j、wox) である。count(i、j、k、n)は丸印の付さ
れたラベルについて頻度の和をとつたものであり
(δ(wox、k)の操作がこれに対応する)、上述
の式で表わされることがわかる。すなわち count(i、j、k、n)=1o 〓x=0 (δ(wox、k)・f(i、x−1、n) ・b(j、x、n)・Pt-1(i、j、wox)) である。
ラベル系列uo(n=1〜5)のそれぞれの頻度
count(i、j、k、n)を得たら、つぎにラベ
ル系列の集合Uすなわち所定単語の学習用データ
全体にわたる頻度Ct(i、j、k)を求める(ス
テツプ17)。なお、ラベル系列uoはそれぞれ異な
り、ラベル系列uoの各々が生起する頻度(総合確
率To)も異なる。したがつて頻度count(i、j、
k、n)を総合確率Toで正規化しておく必要が
ある。なおTo=f(E、lo、n)である(ただし
E=8)。
count(i、j、k、n)を得たら、つぎにラベ
ル系列の集合Uすなわち所定単語の学習用データ
全体にわたる頻度Ct(i、j、k)を求める(ス
テツプ17)。なお、ラベル系列uoはそれぞれ異な
り、ラベル系列uoの各々が生起する頻度(総合確
率To)も異なる。したがつて頻度count(i、j、
k、n)を総合確率Toで正規化しておく必要が
ある。なおTo=f(E、lo、n)である(ただし
E=8)。
対象単語の学習用データにわたる頻度Ct(i、
j、k)は 5 〓n=0 1/Tocount(i、j、k、n) で求める。
j、k)は 5 〓n=0 1/Tocount(i、j、k、n) で求める。
つぎに頻度count(i、j、k、n)に基づい
て、対象単語の学習用データにわたつて状態iに
ある頻度St(i)を、同様にして求める(ステツプ
18) St(i)=5 〓n=0 1/To( 〓f 〓k count(i、j、k、n)) 頻度Ct(i、j、k)およびSt(i)からつぎのパ
ラメータPt+1(i、j、k)をつぎのように推定
する(ステツプ19)。
て、対象単語の学習用データにわたつて状態iに
ある頻度St(i)を、同様にして求める(ステツプ
18) St(i)=5 〓n=0 1/To( 〓f 〓k count(i、j、k、n)) 頻度Ct(i、j、k)およびSt(i)からつぎのパ
ラメータPt+1(i、j、k)をつぎのように推定
する(ステツプ19)。
Pt(i、j、k)=Ct(i、j、k)/St(i)
以上の推定プロセスすなわちステツプ14〜19ま
では予定回数たとえば5回繰り返して対象単語の
学習を終了する(ステツプ20)。他の単語につい
ても同様の学習が行われる。
では予定回数たとえば5回繰り返して対象単語の
学習を終了する(ステツプ20)。他の単語につい
ても同様の学習が行われる。
学習が終了すると、以降の音声認識用に最終的
なパラメータP0(i、j、k)がパラメータ・テ
ーブル(第1図)に確定され、また最終回の推定
に用いた頻度S0(i)もストアされる。この頻度S0(i)
は以下述べる適応化に用いるものである。
なパラメータP0(i、j、k)がパラメータ・テ
ーブル(第1図)に確定され、また最終回の推定
に用いた頻度S0(i)もストアされる。この頻度S0(i)
は以下述べる適応化に用いるものである。
つぎに適応化装置9の動作について第8図を参
照しながら説明しよう。なお第8図において第4
図と対応する箇所には対応する符号を付してそれ
ぞれの詳細に説明は省略することにする。
照しながら説明しよう。なお第8図において第4
図と対応する箇所には対応する符号を付してそれ
ぞれの詳細に説明は省略することにする。
第8図においては、まず適応化用のデータを入
力する(ステツプ14A)。この適応化用データは、
これから音声を入力しようとしている話者が認識
対象語彙について1語に1回発生を行つて得たも
のである。こののちステツプ15A〜18Aに示すよ
うに前述の学習時と同様の操作を行つていく。そ
して最後に、推定に用いる2つの頻度をそれぞれ
補間により求め、つぎのようにして新たなパラメ
ータP1(i、j、k)を得る(ステツプ21)。
力する(ステツプ14A)。この適応化用データは、
これから音声を入力しようとしている話者が認識
対象語彙について1語に1回発生を行つて得たも
のである。こののちステツプ15A〜18Aに示すよ
うに前述の学習時と同様の操作を行つていく。そ
して最後に、推定に用いる2つの頻度をそれぞれ
補間により求め、つぎのようにして新たなパラメ
ータP1(i、j、k)を得る(ステツプ21)。
P1(i、j、k)=(1−λ)C0(i
、j、k)+λC1(i、j、k)/(1−λ)S0(i)+
λS1(i) ただし0≦λ≦1 この例では適応化のための推定のプロセスを一
度としたが複数回行つてもよい。なお、実際には
C0(i、j、k)=P0(i、j、k)・S0(i)である
からP1(i、j、k)の推定にはつぎの式を用い
る。
、j、k)+λC1(i、j、k)/(1−λ)S0(i)+
λS1(i) ただし0≦λ≦1 この例では適応化のための推定のプロセスを一
度としたが複数回行つてもよい。なお、実際には
C0(i、j、k)=P0(i、j、k)・S0(i)である
からP1(i、j、k)の推定にはつぎの式を用い
る。
P1(i、j、k)=(1−λ)P(i、j、k
)・S0(i)+λC1(i、j、k)/(1−λ)S0(i)+λ
S1(i) なお第8図のcount(i、j、k、a)のaは
適応化用データのラベル系列に関するものである
ことを示す。
)・S0(i)+λC1(i、j、k)/(1−λ)S0(i)+λ
S1(i) なお第8図のcount(i、j、k、a)のaは
適応化用データのラベル系列に関するものである
ことを示す。
以上で適応化を終了する。こののち適応化の対
象となつた話者の音声は高精度に認識される。
象となつた話者の音声は高精度に認識される。
この実施例によれば少ないデータのみでしかも
短かい学習時間でシステムを異なる環境に適応化
させることができる。
短かい学習時間でシステムを異なる環境に適応化
させることができる。
また適応化用のデータの性質(信頼度等)に応
じて補間の内分比λを調整することにより、シス
テム最適化を実現することができる。
じて補間の内分比λを調整することにより、シス
テム最適化を実現することができる。
なお、マルコフ・モデルの状態数をX、分岐数
をY、ラベル数をZとするとS(i)によるデータの
増加量はX個である。他方P0(i、j、k)のデ
ータの量はXYZである。したがつてこの適応化
によるデータ量の増加はX/XYZ=1/YZと極めて小 さい。
をY、ラベル数をZとするとS(i)によるデータの
増加量はX個である。他方P0(i、j、k)のデ
ータの量はXYZである。したがつてこの適応化
によるデータ量の増加はX/XYZ=1/YZと極めて小 さい。
また適応化のプロセスは初期学習のプロセスと
同一の部分が多いのでプログラムまたはハードウ
エアの一部を両プロセスで共用できる利点があ
る。
同一の部分が多いのでプログラムまたはハードウ
エアの一部を両プロセスで共用できる利点があ
る。
また単語単位に適応化を行うことができるの
で、たとえば誤認識のあつた単語について再度適
応化を行うようにできる。もちろん誤認識があつ
てはじめてその単語の適応化を行うようにしても
よい。
で、たとえば誤認識のあつた単語について再度適
応化を行うようにできる。もちろん誤認識があつ
てはじめてその単語の適応化を行うようにしても
よい。
つぎに上述実施例の変形例について説明しよ
う。この変形では初期学習用データと適応化用デ
ータの性質が大幅に異なる場合に対処することが
できる。
う。この変形では初期学習用データと適応化用デ
ータの性質が大幅に異なる場合に対処することが
できる。
第9図はこの変形例における適応化プロセスを
示すものである。なお、この図において第8図と
対応する箇所には対応する番号を付してそれぞれ
の詳細な説明を省略する。
示すものである。なお、この図において第8図と
対応する箇所には対応する番号を付してそれぞれ
の詳細な説明を省略する。
第9図の変形例では、適応化用データで新たな
頻度C1(i、j、k)およびS1(i)を求める際にパ
ラメータP0(i、j、k)をつぎのように補間す
るようにしている(ステツプ22)。
頻度C1(i、j、k)およびS1(i)を求める際にパ
ラメータP0(i、j、k)をつぎのように補間す
るようにしている(ステツプ22)。
P^0(i、j、k)=C(1−μ)P0(i、j、k)+
μe すなわちパラメータP0(i、j、k)と小さな
値eと内分比μで補間したものを用いている。適
応化の際の学習プロセスでも、パラメータが実際
の値にどの程度良好に収束するかは、初期値に大
きく依存する。初期学習時に起こることが少なか
つたパスが、適応化用データでは多数起こること
もあり得る。このような場合小さな値eをパラメ
ータP0(i、j、k)に加算しておけば、より好
ましい収束が起こる。
μe すなわちパラメータP0(i、j、k)と小さな
値eと内分比μで補間したものを用いている。適
応化の際の学習プロセスでも、パラメータが実際
の値にどの程度良好に収束するかは、初期値に大
きく依存する。初期学習時に起こることが少なか
つたパスが、適応化用データでは多数起こること
もあり得る。このような場合小さな値eをパラメ
ータP0(i、j、k)に加算しておけば、より好
ましい収束が起こる。
F 発明の効果
以上説明したように、この発明によれば少ない
データで、しかも短かい時間で音声認識システム
の適応化を行うことができる。またそのための記
憶容量や、プログラムのステツプ数およびハード
ウエア構造の増加は極めて小さい。また適応化の
データの性質に応じて補間の内分比を変化させる
ことによりシステムを最適化させることができ
る。
データで、しかも短かい時間で音声認識システム
の適応化を行うことができる。またそのための記
憶容量や、プログラムのステツプ数およびハード
ウエア構造の増加は極めて小さい。また適応化の
データの性質に応じて補間の内分比を変化させる
ことによりシステムを最適化させることができ
る。
第1図はこの発明の一実施例を示すブロツク
図、第2図はこの発明を説明するための図、第3
図は第1図例のラベル付け装置5を説明するフロ
ーチヤート、第4図は第1図例の学習装置8の動
作を説明するフローチヤート、第5図、第6図お
よび第7図は第4図の動作の流れを説明するため
の図、第8図は第1図例の適応化装置の動作を説
明するための図、第9図は第1図例の変形例を説
明するフローチヤートである。 8……学習装置、9……適応化装置。
図、第2図はこの発明を説明するための図、第3
図は第1図例のラベル付け装置5を説明するフロ
ーチヤート、第4図は第1図例の学習装置8の動
作を説明するフローチヤート、第5図、第6図お
よび第7図は第4図の動作の流れを説明するため
の図、第8図は第1図例の適応化装置の動作を説
明するための図、第9図は第1図例の変形例を説
明するフローチヤートである。 8……学習装置、9……適応化装置。
Claims (1)
- 【特許請求の範囲】 1 複数の状態、これら状態の1つから同一また
は他の状態の1つへの遷移およびこれら遷移の
各々についてラベルの各々を出力する確率を有す
る確率モデルを、認識単位ごとに設定するステツ
プと、 上記認識単位ごとに、対応する初期トレーニン
グ用音声データを入力して第1のラベルの系列を
生成するステツプと、 上記第1のラベルの系列を、対応する上記確率
モデルに繰り返し入力して上記確率を順次更新す
るステツプであつて、つぎのサブ・ステツプ(a)、
(b)および(c)を含むものと、 (a) 上記第1のラベルの系列を、対応する上記確
率モデルに入力したときに上記遷移の各々にお
いて上記ラベルの各々が出力される第1の頻度
を求めるサブ・ステツプ、 (b) 上記第1のラベルの系列を、対応する上記確
率モデルに入力したとき上記状態の各々がとら
れる第2の頻度を求めるサブ・ステツプ、 (c) 上記第1の頻度を第2の頻度で割つて新たな
確率を得るステツプ、 上記確率を順次更新するステツプで最後に得ら
れた上記第1の頻度および第2の頻度を保持する
ステツプと、 上記認識単位ごとに、対応する適応化用音声デ
ータを入力して第2のラベルの系列を、対応する
上記確率モデルに入力したときに上記遷移の各々
において上記ラベルの各々が出力される第3の頻
度を求めるステツプと、 上記第2のラベルの系列を、対応する上記確率
モデルに入力したときに上記状態の各々がとられ
る第4の頻度を求めるステツプと、 上記第1の頻度および第3の頻度を補間して第
5の頻度を得るステツプと、 上記第2の頻度および第4の頻度を補間して第
6の頻度を得るステツプと、 上記第5の頻度を第6の頻度で割つて適応化用
音声データに適応化された確率を得るステツプと
を有する音声認識方法。 2 上記第1の頻度は上記確率および第2の頻度
の積として間接的に保持される特許請求の範囲第
1項記載の音声認識方法。 3 上記適応化用音声データが入力する上記確率
モデルの確率は平滑化処理が行われている特許請
求の範囲第1項または第2項記載の音声認識方
法。
Priority Applications (5)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP61065030A JPS62231993A (ja) | 1986-03-25 | 1986-03-25 | 音声認識方法 |
| CA000528993A CA1256562A (en) | 1986-03-25 | 1987-02-04 | Speech recognition method |
| US07/025,257 US4829577A (en) | 1986-03-25 | 1987-03-12 | Speech recognition method |
| EP87302603A EP0243009B1 (en) | 1986-03-25 | 1987-03-25 | Speech recognition system using markov models |
| DE8787302603T DE3773039D1 (de) | 1986-03-25 | 1987-03-25 | Spracherkennungssystem unter verwendung von markov-modellen. |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP61065030A JPS62231993A (ja) | 1986-03-25 | 1986-03-25 | 音声認識方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPS62231993A JPS62231993A (ja) | 1987-10-12 |
| JPH0355837B2 true JPH0355837B2 (ja) | 1991-08-26 |
Family
ID=13275169
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP61065030A Granted JPS62231993A (ja) | 1986-03-25 | 1986-03-25 | 音声認識方法 |
Country Status (5)
| Country | Link |
|---|---|
| US (1) | US4829577A (ja) |
| EP (1) | EP0243009B1 (ja) |
| JP (1) | JPS62231993A (ja) |
| CA (1) | CA1256562A (ja) |
| DE (1) | DE3773039D1 (ja) |
Families Citing this family (63)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH01102599A (ja) * | 1987-10-12 | 1989-04-20 | Internatl Business Mach Corp <Ibm> | 音声認識方法 |
| DE3876379T2 (de) * | 1987-10-30 | 1993-06-09 | Ibm | Automatische bestimmung von kennzeichen und markov-wortmodellen in einem spracherkennungssystem. |
| US5072452A (en) * | 1987-10-30 | 1991-12-10 | International Business Machines Corporation | Automatic determination of labels and Markov word models in a speech recognition system |
| JP2545914B2 (ja) * | 1988-02-09 | 1996-10-23 | 日本電気株式会社 | 音声認識方法 |
| JP2733955B2 (ja) * | 1988-05-18 | 1998-03-30 | 日本電気株式会社 | 適応型音声認識装置 |
| JPH0293597A (ja) * | 1988-09-30 | 1990-04-04 | Nippon I B M Kk | 音声認識装置 |
| US5027406A (en) * | 1988-12-06 | 1991-06-25 | Dragon Systems, Inc. | Method for interactive speech recognition and training |
| JPH067348B2 (ja) * | 1989-04-13 | 1994-01-26 | 株式会社東芝 | パタン認識装置 |
| CA2015410C (en) * | 1989-05-17 | 1996-04-02 | Chin H. Lee | Speech recognition employing key word modeling and non-key word modeling |
| US5509104A (en) * | 1989-05-17 | 1996-04-16 | At&T Corp. | Speech recognition employing key word modeling and non-key word modeling |
| US5220639A (en) * | 1989-12-01 | 1993-06-15 | National Science Council | Mandarin speech input method for Chinese computers and a mandarin speech recognition machine |
| US5129001A (en) * | 1990-04-25 | 1992-07-07 | International Business Machines Corporation | Method and apparatus for modeling words with multi-arc markov models |
| DE4024890A1 (de) * | 1990-08-06 | 1992-02-13 | Standard Elektrik Lorenz Ag | Anpassung von referenzsprachmustern an umgebungsbedingte aussprachevarianten |
| US5182773A (en) * | 1991-03-22 | 1993-01-26 | International Business Machines Corporation | Speaker-independent label coding apparatus |
| US5278942A (en) * | 1991-12-05 | 1994-01-11 | International Business Machines Corporation | Speech coding apparatus having speaker dependent prototypes generated from nonuser reference data |
| US5544257A (en) * | 1992-01-08 | 1996-08-06 | International Business Machines Corporation | Continuous parameter hidden Markov model approach to automatic handwriting recognition |
| JP2795058B2 (ja) * | 1992-06-03 | 1998-09-10 | 松下電器産業株式会社 | 時系列信号処理装置 |
| US5502774A (en) * | 1992-06-09 | 1996-03-26 | International Business Machines Corporation | Automatic recognition of a consistent message using multiple complimentary sources of information |
| WO1994015330A1 (en) * | 1992-12-18 | 1994-07-07 | Sri International | Method and apparatus for automatic evaluation of pronunciation |
| JPH0776880B2 (ja) * | 1993-01-13 | 1995-08-16 | 日本電気株式会社 | パターン認識方法および装置 |
| US5627939A (en) * | 1993-09-03 | 1997-05-06 | Microsoft Corporation | Speech recognition system and method employing data compression |
| US5602963A (en) * | 1993-10-12 | 1997-02-11 | Voice Powered Technology International, Inc. | Voice activated personal organizer |
| US5794197A (en) * | 1994-01-21 | 1998-08-11 | Micrsoft Corporation | Senone tree representation and evaluation |
| KR100324988B1 (ko) * | 1994-06-13 | 2002-08-27 | 마츠시타 덴끼 산교 가부시키가이샤 | 신호해석장치 |
| US5805771A (en) * | 1994-06-22 | 1998-09-08 | Texas Instruments Incorporated | Automatic language identification method and system |
| US5805772A (en) * | 1994-12-30 | 1998-09-08 | Lucent Technologies Inc. | Systems, methods and articles of manufacture for performing high resolution N-best string hypothesization |
| US5864810A (en) * | 1995-01-20 | 1999-01-26 | Sri International | Method and apparatus for speech recognition adapted to an individual speaker |
| US5710866A (en) * | 1995-05-26 | 1998-01-20 | Microsoft Corporation | System and method for speech recognition using dynamically adjusted confidence measure |
| US5913193A (en) * | 1996-04-30 | 1999-06-15 | Microsoft Corporation | Method and system of runtime acoustic unit selection for speech synthesis |
| US5937384A (en) * | 1996-05-01 | 1999-08-10 | Microsoft Corporation | Method and system for speech recognition using continuous density hidden Markov models |
| US5806030A (en) * | 1996-05-06 | 1998-09-08 | Matsushita Electric Industrial Co Ltd | Low complexity, high accuracy clustering method for speech recognizer |
| US5835890A (en) * | 1996-08-02 | 1998-11-10 | Nippon Telegraph And Telephone Corporation | Method for speaker adaptation of speech models recognition scheme using the method and recording medium having the speech recognition method recorded thereon |
| US6151575A (en) * | 1996-10-28 | 2000-11-21 | Dragon Systems, Inc. | Rapid adaptation of speech models |
| US6349281B1 (en) * | 1997-01-30 | 2002-02-19 | Seiko Epson Corporation | Voice model learning data creation method and its apparatus |
| US6212498B1 (en) | 1997-03-28 | 2001-04-03 | Dragon Systems, Inc. | Enrollment in speech recognition |
| US6223156B1 (en) * | 1998-04-07 | 2001-04-24 | At&T Corp. | Speech recognition of caller identifiers using location information |
| US6343267B1 (en) | 1998-04-30 | 2002-01-29 | Matsushita Electric Industrial Co., Ltd. | Dimensionality reduction for speaker normalization and speaker and environment adaptation using eigenvoice techniques |
| US6263309B1 (en) | 1998-04-30 | 2001-07-17 | Matsushita Electric Industrial Co., Ltd. | Maximum likelihood method for finding an adapted speaker model in eigenvoice space |
| US6163768A (en) | 1998-06-15 | 2000-12-19 | Dragon Systems, Inc. | Non-interactive enrollment in speech recognition |
| US6233557B1 (en) | 1999-02-23 | 2001-05-15 | Motorola, Inc. | Method of selectively assigning a penalty to a probability associated with a voice recognition system |
| US6463413B1 (en) * | 1999-04-20 | 2002-10-08 | Matsushita Electrical Industrial Co., Ltd. | Speech recognition training for small hardware devices |
| US6571208B1 (en) | 1999-11-29 | 2003-05-27 | Matsushita Electric Industrial Co., Ltd. | Context-dependent acoustic models for medium and large vocabulary speech recognition with eigenvoice training |
| US6526379B1 (en) | 1999-11-29 | 2003-02-25 | Matsushita Electric Industrial Co., Ltd. | Discriminative clustering methods for automatic speech recognition |
| US7216077B1 (en) * | 2000-09-26 | 2007-05-08 | International Business Machines Corporation | Lattice-based unsupervised maximum likelihood linear regression for speaker adaptation |
| CA2397451A1 (en) | 2001-08-15 | 2003-02-15 | At&T Corp. | Systems and methods for classifying and representing gestural inputs |
| US7257575B1 (en) | 2002-10-24 | 2007-08-14 | At&T Corp. | Systems and methods for generating markup-language based expressions from multi-modal and unimodal inputs |
| US7362892B2 (en) * | 2003-07-02 | 2008-04-22 | Lockheed Martin Corporation | Self-optimizing classifier |
| JP4366652B2 (ja) * | 2004-04-23 | 2009-11-18 | 横河電機株式会社 | 伝送器及びその二重化方法 |
| WO2009078256A1 (ja) * | 2007-12-18 | 2009-06-25 | Nec Corporation | 発音変動規則抽出装置、発音変動規則抽出方法、および発音変動規則抽出用プログラム |
| WO2010019831A1 (en) * | 2008-08-14 | 2010-02-18 | 21Ct, Inc. | Hidden markov model for speech processing with training method |
| US8473293B1 (en) * | 2012-04-17 | 2013-06-25 | Google Inc. | Dictionary filtering using market data |
| EP2713367B1 (en) * | 2012-09-28 | 2016-11-09 | Agnitio, S.L. | Speaker recognition |
| US10141009B2 (en) | 2016-06-28 | 2018-11-27 | Pindrop Security, Inc. | System and method for cluster-based audio event detection |
| US9824692B1 (en) | 2016-09-12 | 2017-11-21 | Pindrop Security, Inc. | End-to-end speaker recognition using deep neural network |
| US10325601B2 (en) | 2016-09-19 | 2019-06-18 | Pindrop Security, Inc. | Speaker recognition in the call center |
| WO2018053531A1 (en) * | 2016-09-19 | 2018-03-22 | Pindrop Security, Inc. | Dimensionality reduction of baum-welch statistics for speaker recognition |
| US10347256B2 (en) | 2016-09-19 | 2019-07-09 | Pindrop Security, Inc. | Channel-compensated low-level features for speaker recognition |
| US10397398B2 (en) | 2017-01-17 | 2019-08-27 | Pindrop Security, Inc. | Authentication using DTMF tones |
| CN112585620A (zh) * | 2018-09-28 | 2021-03-30 | 苹果公司 | 用于监督式学习的分布式标记 |
| WO2020159917A1 (en) | 2019-01-28 | 2020-08-06 | Pindrop Security, Inc. | Unsupervised keyword spotting and word discovery for fraud analytics |
| WO2020163624A1 (en) | 2019-02-06 | 2020-08-13 | Pindrop Security, Inc. | Systems and methods of gateway detection in a telephone network |
| US11646018B2 (en) | 2019-03-25 | 2023-05-09 | Pindrop Security, Inc. | Detection of calls from voice assistants |
| US12015637B2 (en) | 2019-04-08 | 2024-06-18 | Pindrop Security, Inc. | Systems and methods for end-to-end architectures for voice spoofing detection |
Family Cites Families (7)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4587670A (en) * | 1982-10-15 | 1986-05-06 | At&T Bell Laboratories | Hidden Markov model speech recognition arrangement |
| US4593367A (en) * | 1984-01-16 | 1986-06-03 | Itt Corporation | Probabilistic learning element |
| US4718094A (en) * | 1984-11-19 | 1988-01-05 | International Business Machines Corp. | Speech recognition system |
| US4741036A (en) * | 1985-01-31 | 1988-04-26 | International Business Machines Corporation | Determination of phone weights for markov models in a speech recognition system |
| US4748670A (en) * | 1985-05-29 | 1988-05-31 | International Business Machines Corporation | Apparatus and method for determining a likely word sequence from labels generated by an acoustic processor |
| US4759068A (en) * | 1985-05-29 | 1988-07-19 | International Business Machines Corporation | Constructing Markov models of words from multiple utterances |
| US4783803A (en) * | 1985-11-12 | 1988-11-08 | Dragon Systems, Inc. | Speech recognition apparatus and method |
-
1986
- 1986-03-25 JP JP61065030A patent/JPS62231993A/ja active Granted
-
1987
- 1987-02-04 CA CA000528993A patent/CA1256562A/en not_active Expired
- 1987-03-12 US US07/025,257 patent/US4829577A/en not_active Expired - Fee Related
- 1987-03-25 EP EP87302603A patent/EP0243009B1/en not_active Expired
- 1987-03-25 DE DE8787302603T patent/DE3773039D1/de not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| JPS62231993A (ja) | 1987-10-12 |
| EP0243009A1 (en) | 1987-10-28 |
| EP0243009B1 (en) | 1991-09-18 |
| US4829577A (en) | 1989-05-09 |
| CA1256562A (en) | 1989-06-27 |
| DE3773039D1 (de) | 1991-10-24 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CA1256562A (en) | Speech recognition method | |
| US5050215A (en) | Speech recognition method | |
| JP3581401B2 (ja) | 音声認識方法 | |
| JP3453456B2 (ja) | 状態共有モデルの設計方法及び装置ならびにその状態共有モデルを用いた音声認識方法および装置 | |
| US8494847B2 (en) | Weighting factor learning system and audio recognition system | |
| JPS62231995A (ja) | 音声認識方法 | |
| JPH0581917B2 (ja) | ||
| JP2002268675A (ja) | 音声認識装置 | |
| JPH0934486A (ja) | 音声認識方法、情報形成方法、音声認識装置および記録媒体 | |
| JP3092491B2 (ja) | 記述長最小基準を用いたパターン適応化方式 | |
| JPH0372999B2 (ja) | ||
| CN118176537A (zh) | 用于长形式语音识别的训练 | |
| CN112767921A (zh) | 一种基于缓存语言模型的语音识别自适应方法和系统 | |
| EP0241183B1 (en) | Speech recognition system | |
| Hori et al. | Generalized fast on-the-fly composition algorithm for WFST-based speech recognition. | |
| Li et al. | Solving large-margin hidden Markov model estimation via semidefinite programming | |
| JP2013182261A (ja) | 適応化装置、音声認識装置、およびそのプログラム | |
| JP3589044B2 (ja) | 話者適応化装置 | |
| JP2003005785A (ja) | 音源の分離方法および分離装置 | |
| JPH0486899A (ja) | 標準パターン適応化方式 | |
| JP2001188557A (ja) | 最大エントロピ音声モデルの生成方法 | |
| JP2996925B2 (ja) | 音素境界検出装置及び音声認識装置 | |
| JPH01202798A (ja) | 音声認識方法 | |
| JP3029803B2 (ja) | 音声認識のための単語モデル生成装置及び音声認識装置 | |
| JP3873418B2 (ja) | 音声スポッティング装置 |