JPH0968996A - 音声認識方法 - Google Patents
音声認識方法Info
- Publication number
- JPH0968996A JPH0968996A JP7225224A JP22522495A JPH0968996A JP H0968996 A JPH0968996 A JP H0968996A JP 7225224 A JP7225224 A JP 7225224A JP 22522495 A JP22522495 A JP 22522495A JP H0968996 A JPH0968996 A JP H0968996A
- Authority
- JP
- Japan
- Prior art keywords
- ijm
- normal distribution
- logarithmic value
- feature vector
- maximum
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
- 238000000034 method Methods 0.000 title claims description 26
- 238000009826 distribution Methods 0.000 claims abstract description 146
- 239000013598 vector Substances 0.000 claims abstract description 116
- 238000004364 calculation method Methods 0.000 claims abstract description 65
- 230000000875 corresponding effect Effects 0.000 claims description 20
- 239000011159 matrix material Substances 0.000 claims description 13
- 238000007476 Maximum Likelihood Methods 0.000 claims description 6
- 230000002596 correlated effect Effects 0.000 claims description 3
- 239000000203 mixture Substances 0.000 abstract description 8
- 230000007704 transition Effects 0.000 description 19
- 238000001514 detection method Methods 0.000 description 6
- 239000000284 extract Substances 0.000 description 5
- 230000014509 gene expression Effects 0.000 description 5
- 230000005236 sound signal Effects 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 230000007423 decrease Effects 0.000 description 3
- 239000006185 dispersion Substances 0.000 description 3
- 238000004422 calculation algorithm Methods 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 230000002123 temporal effect Effects 0.000 description 1
Abstract
(57)【要約】
【課題】 隠れマルコフモデルを標準パタンに用いた音
声認識において認識速度を向上する。 【解決手段】 無相関混合正規分布を備える隠れマルコ
フモデルから入力音声特徴ベクトルの出力確率を求める
場合に、無相関混合正規分布の各正規分布から求まる出
力確率のうち最大の出力確率を、入力音声特徴ベクトル
の出力確率とする。各正規分布から求まる出力確率を算
出する際に、直前のフレームにおいて無相関混合正規分
布の第Ｑ番目の正規分布から求めた出力確率が最大とな
った場合には、次のフレームにおいても第Ｑ番目の正規
分布から求めた出力確率が最大となる可能性が高い。従
ってこの第Ｑ番目の正規分布から求めた出力確率を最大
値候補として、各正規分布から求める出力確率を算出途
上で最大値候補と比較し、その比較結果に応じて出力確
率の算出を打ち切ることにより目的を達成できる。
声認識において認識速度を向上する。 【解決手段】 無相関混合正規分布を備える隠れマルコ
フモデルから入力音声特徴ベクトルの出力確率を求める
場合に、無相関混合正規分布の各正規分布から求まる出
力確率のうち最大の出力確率を、入力音声特徴ベクトル
の出力確率とする。各正規分布から求まる出力確率を算
出する際に、直前のフレームにおいて無相関混合正規分
布の第Ｑ番目の正規分布から求めた出力確率が最大とな
った場合には、次のフレームにおいても第Ｑ番目の正規
分布から求めた出力確率が最大となる可能性が高い。従
ってこの第Ｑ番目の正規分布から求めた出力確率を最大
値候補として、各正規分布から求める出力確率を算出途
上で最大値候補と比較し、その比較結果に応じて出力確
率の算出を打ち切ることにより目的を達成できる。
Description
【０００１】
【発明の属する技術分野】この発明は、隠れマルコフモ
デルを用いた音声認識方法に関する。
デルを用いた音声認識方法に関する。
【０００２】
例えば文献：中川聖一”確率モデルによる音声認識”
電子情報通信学会（１９８８） ＩＳＢＮ−４−８８５
５２−０７２−Ｘにも開示されているように、音声認識
では、音声標準パタンとして、隠れマルコフ・モデル
（ＨｉｄｄｅｎＭａｒｋｏｖ Ｍｏｄｅｌ。以下、ＨＭ
Ｍと呼ぶ）を広く用いている。音声標準パタンとなるＨ
ＭＭは、いくつかの状態例えばＳ0 〜Ｓ3 と、状態Ｓi
からＳjに遷移する確率ａij及びその遷移の際にある音
声シンボルベクトルＶt が出力される確率ｂij(Vt)とで
表される。出力確率ｂij(Vt)は、一般に、複数個の正規
分布から成る無相関混合正規分布により表される。
電子情報通信学会（１９８８） ＩＳＢＮ−４−８８５
５２−０７２−Ｘにも開示されているように、音声認識
では、音声標準パタンとして、隠れマルコフ・モデル
（ＨｉｄｄｅｎＭａｒｋｏｖ Ｍｏｄｅｌ。以下、ＨＭ
Ｍと呼ぶ）を広く用いている。音声標準パタンとなるＨ
ＭＭは、いくつかの状態例えばＳ0 〜Ｓ3 と、状態Ｓi
からＳjに遷移する確率ａij及びその遷移の際にある音
声シンボルベクトルＶt が出力される確率ｂij(Vt)とで
表される。出力確率ｂij(Vt)は、一般に、複数個の正規
分布から成る無相関混合正規分布により表される。
【０００３】ＨＭＭを用いた音声認識では、入力音声信
号から、音声区間の各フレーム毎に入力音声特徴ベクト
ルｘt を抽出する。次いでＨＭＭの無相関混合正規分布
を用いて、入力音声特徴ベクトルｘt の出力確率ｂij(x
t)＝Σ｛λijm ｂijm(xt) ｝を算出する。ここで、λ
ijm は無相関混合正規分布における第ｍ番目の正規分布
の重み、ｂijm は無相関混合正規分布における第ｍ番目
の正規分布から求めた入力音声特徴ベクトルｘt の重み
無し確率を示す。
号から、音声区間の各フレーム毎に入力音声特徴ベクト
ルｘt を抽出する。次いでＨＭＭの無相関混合正規分布
を用いて、入力音声特徴ベクトルｘt の出力確率ｂij(x
t)＝Σ｛λijm ｂijm(xt) ｝を算出する。ここで、λ
ijm は無相関混合正規分布における第ｍ番目の正規分布
の重み、ｂijm は無相関混合正規分布における第ｍ番目
の正規分布から求めた入力音声特徴ベクトルｘt の重み
無し確率を示す。
【０００４】次いで音声区間の始端フレームから終端フ
レームまでに抽出された入力音声特徴ベクトルｘt の時
系列とＨＭＭとの間の尤度を、これら各入力音声特徴ベ
クトルｘt の出力確率ｂij(xt)を用いて求める。各ＨＭ
Ｍ毎に尤度を求め、最大の尤度を得たＨＭＭに付与され
ているカテゴリ名を、その入力音声信号の認識結果とす
る。
レームまでに抽出された入力音声特徴ベクトルｘt の時
系列とＨＭＭとの間の尤度を、これら各入力音声特徴ベ
クトルｘt の出力確率ｂij(xt)を用いて求める。各ＨＭ
Ｍ毎に尤度を求め、最大の尤度を得たＨＭＭに付与され
ているカテゴリ名を、その入力音声信号の認識結果とす
る。
【０００５】
【発明が解決しようとする課題】しかしながら入力音声
特徴ベクトルｘt の出力確率ｂij(xt)として、Σ｛λ
ijm ｂijm(xt) ｝を求めるのでは、計算量が増大するた
め、入力音声特徴ベクトルｘt の時系列とＨＭＭとの間
の尤度を高速に計算することが難しい。従って出力確率
ｂij(xt)を、精度の低下を抑えつつ、より簡略に求める
ことが望まれていた。
特徴ベクトルｘt の出力確率ｂij(xt)として、Σ｛λ
ijm ｂijm(xt) ｝を求めるのでは、計算量が増大するた
め、入力音声特徴ベクトルｘt の時系列とＨＭＭとの間
の尤度を高速に計算することが難しい。従って出力確率
ｂij(xt)を、精度の低下を抑えつつ、より簡略に求める
ことが望まれていた。
【０００６】
【課題を解決するための手段】前述の課題を解決するた
め、この発明の音声認識方法は、隠れマルコフモデルを
音声標準パタンとし、この隠れマルコフモデルは、互い
に無相関な複数個の正規分布を有し当該モデルから出力
される音声シンボルベクトルの出力確率を表す無相関混
合正規分布を備え、音声区間内の始端フレームから終端
フレームまでに抽出された入力音声特徴ベクトルの時系
列と隠れマルコフモデルとの間の尤度を、各入力音声特
徴ベクトルの出力確率の対数値を用いて計算し、最大の
尤度を得た隠れマルコフモデルに付与されているカテゴ
リ名を、当該音声区間の入力音声信号に対する認識結果
とする音声認識方法において、 ｂij(xt)：総個数Ｍ個の正規分布を有する無相関混合正
規分布を備えた隠れマルコフモデルから、第ｔ番目のフ
レームで抽出された入力音声特徴ベクトルｘt が出力さ
れる出力確率（１≦ｔ≦Ｔ。第１番目のフレームは音声
区間の始端フレーム、及び、第Ｔ番目のフレームは音声
区間の終端フレームを表す。）、 ｇijm(xt) ：総個数Ｍ個の正規分布において第ｍ番目
（１≦ｍ≦Ｍ。）の正規分布から算出される入力音声特
徴ベクトルｘt の重み付け確率 （但し、ｇijm(xt) ＝λijm ｂijm(xt) 、ｂijm(xt) ＝
（２π）-p/2｜ρijm ｜-1/2exp ｛−Ｄijmt 2 ／２｝、
Ｄijmt 2 ＝（ｘt −μijm ）’ρijm -1 （ｘt −μ
ijm ）、 λijm ：第ｍ番目の正規分布の重み、 ｂijm(xt) ：第ｍ番目の正規分布から算出される入力音
声特徴ベクトルｘt の重み無し確率、 ｐ：入力音声特徴ベクトルｘt の次数、 ρijm ：第ｍ番目の正規分布の分散・供分散行列、 μijm ：第ｍ番目の正規分布の平均ベクトル、 Ｄijmt：入力音声特徴ベクトルｘt と第ｍ番目の正規分
布との間の距離を表すマハラビスの汎距離。）、 Ｇijm(xt) ：重み付け確率ｇijm(xt) の対数値 （但し、Ｇijm(xt) ＝Ｅijm −Ｄijmt 2 ／２、 Ｅijm ＝ln（λijm ）＋ln｛（２π）-p/2｜ρijm ｜
-1/2｝。） とするとき、総個数Ｍ個の各正規分布から算出される重
み付け確率ｇijm(xt) の対数値Ｇijm(xt) のなかで最大
の対数値Ｇijm(xt) を、入力音声特徴ベクトルｘt の出
力確率ｂij(xt)の対数値に用いて、隠れマルコフモデル
との間の尤度を計算するに当り、ｔ≧２のときに第ｔ番
目のフレームにおいて最大の対数値Ｇijm(xt) を検出す
るための最大値候補と、ｔ≧２のときに第ｔ−１番目の
フレームにおいて最大の対数値Ｇijm(xt) を得た正規分
布がいずれであるかを表すインデックスとを格納する参
照情報記憶部を設け、ｔ＝１では、総個数Ｍ個の全正規
分布について各正規分布毎に対数値Ｇijm(xt) を算出し
て、最大の対数値Ｇijm(xt) を検出し、該最大の対数値
Ｇijm(xt) を第１番目のフレームにおける入力音声特徴
ベクトルｘt の出力確率ｂij(xt)の対数値とすると共に
該最大の対数値Ｇijm(xt) を得た正規分布に対応するイ
ンデックスを格納し、ｔ≧２では、（１）まずインデッ
クスに対応する正規分布を用いて算出した対数値Ｇ
ijm(xt) を最大値候補として格納し、（２）総個数Ｍ個
の正規分布のうちインデックスに対応しない残りの正規
分布を用いた対数値Ｇijm(xt) の算出では、−Ｄijmt 2
／２の項を算出するための演算の一又は複数の演算間隔
毎に、算出途上の対数値Ｇijm(xt) を、最大値候補と比
較し、（３−Ａ）算出途上の対数値Ｇijm(xt) が最大値
候補より小さくなったら、当該対数値Ｇijm(xt) の算出
を終了し、然る後、残りの次の正規分布につき対数値Ｇ
ijm (xt)の算出を開始し、（３−Ｂ）算出途上の対数値
Ｇijm(xt) が最大値候補より小さくなることなく、当該
対数値Ｇijm(xt) の算出を終了したら、最大値候補を当
該対数値Ｇijm (xt)に書き換え、然る後、残りの次の正
規分布につき対数値Ｇijm(xt) の算出を開始し、（４）
総個数Ｍ個の全正規分布について対数値Ｇijm(xt) の算
出を終了したら、このとき格納されている最大値候補を
得た正規分布に対応するインデックスに、参照情報記憶
部のインデックスを書換えると共に、当該最大値候補
を、出力確率ｂij(xt)の対数値に用いて、隠れマルコフ
モデルとの間の尤度を計算することを特徴とする。
め、この発明の音声認識方法は、隠れマルコフモデルを
音声標準パタンとし、この隠れマルコフモデルは、互い
に無相関な複数個の正規分布を有し当該モデルから出力
される音声シンボルベクトルの出力確率を表す無相関混
合正規分布を備え、音声区間内の始端フレームから終端
フレームまでに抽出された入力音声特徴ベクトルの時系
列と隠れマルコフモデルとの間の尤度を、各入力音声特
徴ベクトルの出力確率の対数値を用いて計算し、最大の
尤度を得た隠れマルコフモデルに付与されているカテゴ
リ名を、当該音声区間の入力音声信号に対する認識結果
とする音声認識方法において、 ｂij(xt)：総個数Ｍ個の正規分布を有する無相関混合正
規分布を備えた隠れマルコフモデルから、第ｔ番目のフ
レームで抽出された入力音声特徴ベクトルｘt が出力さ
れる出力確率（１≦ｔ≦Ｔ。第１番目のフレームは音声
区間の始端フレーム、及び、第Ｔ番目のフレームは音声
区間の終端フレームを表す。）、 ｇijm(xt) ：総個数Ｍ個の正規分布において第ｍ番目
（１≦ｍ≦Ｍ。）の正規分布から算出される入力音声特
徴ベクトルｘt の重み付け確率 （但し、ｇijm(xt) ＝λijm ｂijm(xt) 、ｂijm(xt) ＝
（２π）-p/2｜ρijm ｜-1/2exp ｛−Ｄijmt 2 ／２｝、
Ｄijmt 2 ＝（ｘt −μijm ）’ρijm -1 （ｘt −μ
ijm ）、 λijm ：第ｍ番目の正規分布の重み、 ｂijm(xt) ：第ｍ番目の正規分布から算出される入力音
声特徴ベクトルｘt の重み無し確率、 ｐ：入力音声特徴ベクトルｘt の次数、 ρijm ：第ｍ番目の正規分布の分散・供分散行列、 μijm ：第ｍ番目の正規分布の平均ベクトル、 Ｄijmt：入力音声特徴ベクトルｘt と第ｍ番目の正規分
布との間の距離を表すマハラビスの汎距離。）、 Ｇijm(xt) ：重み付け確率ｇijm(xt) の対数値 （但し、Ｇijm(xt) ＝Ｅijm −Ｄijmt 2 ／２、 Ｅijm ＝ln（λijm ）＋ln｛（２π）-p/2｜ρijm ｜
-1/2｝。） とするとき、総個数Ｍ個の各正規分布から算出される重
み付け確率ｇijm(xt) の対数値Ｇijm(xt) のなかで最大
の対数値Ｇijm(xt) を、入力音声特徴ベクトルｘt の出
力確率ｂij(xt)の対数値に用いて、隠れマルコフモデル
との間の尤度を計算するに当り、ｔ≧２のときに第ｔ番
目のフレームにおいて最大の対数値Ｇijm(xt) を検出す
るための最大値候補と、ｔ≧２のときに第ｔ−１番目の
フレームにおいて最大の対数値Ｇijm(xt) を得た正規分
布がいずれであるかを表すインデックスとを格納する参
照情報記憶部を設け、ｔ＝１では、総個数Ｍ個の全正規
分布について各正規分布毎に対数値Ｇijm(xt) を算出し
て、最大の対数値Ｇijm(xt) を検出し、該最大の対数値
Ｇijm(xt) を第１番目のフレームにおける入力音声特徴
ベクトルｘt の出力確率ｂij(xt)の対数値とすると共に
該最大の対数値Ｇijm(xt) を得た正規分布に対応するイ
ンデックスを格納し、ｔ≧２では、（１）まずインデッ
クスに対応する正規分布を用いて算出した対数値Ｇ
ijm(xt) を最大値候補として格納し、（２）総個数Ｍ個
の正規分布のうちインデックスに対応しない残りの正規
分布を用いた対数値Ｇijm(xt) の算出では、−Ｄijmt 2
／２の項を算出するための演算の一又は複数の演算間隔
毎に、算出途上の対数値Ｇijm(xt) を、最大値候補と比
較し、（３−Ａ）算出途上の対数値Ｇijm(xt) が最大値
候補より小さくなったら、当該対数値Ｇijm(xt) の算出
を終了し、然る後、残りの次の正規分布につき対数値Ｇ
ijm (xt)の算出を開始し、（３−Ｂ）算出途上の対数値
Ｇijm(xt) が最大値候補より小さくなることなく、当該
対数値Ｇijm(xt) の算出を終了したら、最大値候補を当
該対数値Ｇijm (xt)に書き換え、然る後、残りの次の正
規分布につき対数値Ｇijm(xt) の算出を開始し、（４）
総個数Ｍ個の全正規分布について対数値Ｇijm(xt) の算
出を終了したら、このとき格納されている最大値候補を
得た正規分布に対応するインデックスに、参照情報記憶
部のインデックスを書換えると共に、当該最大値候補
を、出力確率ｂij(xt)の対数値に用いて、隠れマルコフ
モデルとの間の尤度を計算することを特徴とする。
【０００７】このような発明によれば、総個数Ｍ個の各
正規分布から算出される重み付け確率ｇijm(xt) の対数
値のなかで最大の対数値Ｇijm(xt) を、入力音声特徴ベ
クトルｘt の出力確率ｂij(xt)の対数値に用いて、隠れ
マルコフモデルとの間の尤度を計算する。これは、総個
数Ｍ個の各正規分布から算出される重み付け確率ｇ
ijm(xt) のなかで最大の重み付け確率ｇijm(xt) を、入
力音声特徴ベクトルｘt の出力確率ｂij(xt)に用いるこ
とに、他ならない。
正規分布から算出される重み付け確率ｇijm(xt) の対数
値のなかで最大の対数値Ｇijm(xt) を、入力音声特徴ベ
クトルｘt の出力確率ｂij(xt)の対数値に用いて、隠れ
マルコフモデルとの間の尤度を計算する。これは、総個
数Ｍ個の各正規分布から算出される重み付け確率ｇ
ijm(xt) のなかで最大の重み付け確率ｇijm(xt) を、入
力音声特徴ベクトルｘt の出力確率ｂij(xt)に用いるこ
とに、他ならない。
【０００８】これに対し、従来において典型的に用いら
れていた音声特徴ベクトルｘt の出力確率ｂij(xt)は、
無相関混合正規分布の各正規分布から求めた重み付け確
率ｇijm(xt) ＝λijm ｂijm(xt) の線形和Σ｛λijm ｂ
ijm(xt) ｝である。
れていた音声特徴ベクトルｘt の出力確率ｂij(xt)は、
無相関混合正規分布の各正規分布から求めた重み付け確
率ｇijm(xt) ＝λijm ｂijm(xt) の線形和Σ｛λijm ｂ
ijm(xt) ｝である。
【０００９】ところで隠れマルコフモデルが備える総個
数Ｍ個の正規分布は互いに無相関であるので、重み付け
確率ｇijm(xt) が最大とならない正規分布と入力音声特
徴ベクトルｘt との間の距離は、重み付け確率ｇ
ijm(xt) が最大となる正規分布との距離よりも長くな
る。
数Ｍ個の正規分布は互いに無相関であるので、重み付け
確率ｇijm(xt) が最大とならない正規分布と入力音声特
徴ベクトルｘt との間の距離は、重み付け確率ｇ
ijm(xt) が最大となる正規分布との距離よりも長くな
る。
【００１０】これがため最大とならない重み付け確率ｇ
ijm(xt) は、最大の重み付け確率ｇijm(xt) に対して無
視し得る程に微小となるので、この発明において最大の
重み付け出力確率ｇijm(xt) を入力音声特徴ベクトルｘ
t の出力確率ｂij(xt)としても、従来と近似的に等しい
出力確率ｂij(xt)を得ることができる。
ijm(xt) は、最大の重み付け確率ｇijm(xt) に対して無
視し得る程に微小となるので、この発明において最大の
重み付け出力確率ｇijm(xt) を入力音声特徴ベクトルｘ
t の出力確率ｂij(xt)としても、従来と近似的に等しい
出力確率ｂij(xt)を得ることができる。
【００１１】また重み付け確率ｇijm(xt) の対数値Ｇ
ijm(xt) はＧijm(xt) ＝Ｅijm −Ｄijmt 2 ／２と表さ
れ、そして第ｍ番目の正規分布において、λijm 及び｜
ρijm ｜は一定であり従ってＥijm は一定であるので、
算出途上の対数値Ｇijm(xt) はＥijm をピークとして−
Ｄijmt 2 ／２の演算の一演算間隔毎に減少してゆく。こ
こで−Ｄijm 2／２の演算の一演算間隔とは、−Ｄijmt 2
／２の算出過程において、入力音声特徴ベクトルｘt の
一ベクトル成分について行なわれる演算の開始から終了
までの間隔を表す。
ijm(xt) はＧijm(xt) ＝Ｅijm −Ｄijmt 2 ／２と表さ
れ、そして第ｍ番目の正規分布において、λijm 及び｜
ρijm ｜は一定であり従ってＥijm は一定であるので、
算出途上の対数値Ｇijm(xt) はＥijm をピークとして−
Ｄijmt 2 ／２の演算の一演算間隔毎に減少してゆく。こ
こで−Ｄijm 2／２の演算の一演算間隔とは、−Ｄijmt 2
／２の算出過程において、入力音声特徴ベクトルｘt の
一ベクトル成分について行なわれる演算の開始から終了
までの間隔を表す。
【００１２】これがため、−Ｄijm 2／２の演算の、一又
は複数の演算間隔毎に、算出途上の対数値Ｇijm(xt) を
最大値候補と比較し（上記（２）の処理）、算出途上の
対数値Ｇijm(xt) が最大値候補よりも小さくなったら、
当該対数値Ｇijm(xt) の算出を算出途上で終了すること
により（上記（３−Ａ）の処理）、最大の対数値Ｇ
ijm(xt) 検出に要する計算量を減少させることができ
る。
は複数の演算間隔毎に、算出途上の対数値Ｇijm(xt) を
最大値候補と比較し（上記（２）の処理）、算出途上の
対数値Ｇijm(xt) が最大値候補よりも小さくなったら、
当該対数値Ｇijm(xt) の算出を算出途上で終了すること
により（上記（３−Ａ）の処理）、最大の対数値Ｇ
ijm(xt) 検出に要する計算量を減少させることができ
る。
【００１３】しかも第ｔ−１番目のフレームの入力音声
特徴ベクトルｘt-1 と第ｔ番目のフレームの入力音声特
徴ベクトルｘt とは、時間的に近接しているので、これ
らベクトルｘt 及びｘt-1 の成分は互いに類似する可能
性が高い。
特徴ベクトルｘt-1 と第ｔ番目のフレームの入力音声特
徴ベクトルｘt とは、時間的に近接しているので、これ
らベクトルｘt 及びｘt-1 の成分は互いに類似する可能
性が高い。
【００１４】従って第ｔ−１番目のフレームにおいて第
Ｉ番目の正規分布から求めた重み付け確率ｇijI(xt-1)
の対数値ＧijI(xt-1) が最大の対数値Ｇijm(xt-1) とな
った場合、次の第ｔ番目のフレームにおいても第Ｉ番目
の正規分布から求めた重み付け確率ｇijI(xt) の対数値
ＧijI(xt) が最大の対数値Ｇijm(xt) となる可能性が高
い。
Ｉ番目の正規分布から求めた重み付け確率ｇijI(xt-1)
の対数値ＧijI(xt-1) が最大の対数値Ｇijm(xt-1) とな
った場合、次の第ｔ番目のフレームにおいても第Ｉ番目
の正規分布から求めた重み付け確率ｇijI(xt) の対数値
ＧijI(xt) が最大の対数値Ｇijm(xt) となる可能性が高
い。
【００１５】これがため、この第Ｉ番目の正規分布から
求めた対数値ＧijI(xt) を最大値候補の初期値として
（上記（１）の処理）、算出途上の対数値Ｇijm(xt) が
最大値候補よりも小さくなったら、当該対数値Ｇ
ijm(xt) の算出を算出途上で終了することにより（上記
（３−Ａ）の処理）、最大の対数値Ｇijm(xt) 検出に要
する計算量を減少させることができる。
求めた対数値ＧijI(xt) を最大値候補の初期値として
（上記（１）の処理）、算出途上の対数値Ｇijm(xt) が
最大値候補よりも小さくなったら、当該対数値Ｇ
ijm(xt) の算出を算出途上で終了することにより（上記
（３−Ａ）の処理）、最大の対数値Ｇijm(xt) 検出に要
する計算量を減少させることができる。
【００１６】
【発明の実施の形態】図１はこの発明の音声認識方法の
実施に用いて好適な音声認識装置の一構成例を概略的に
示す機能ブロック図である。
実施に用いて好適な音声認識装置の一構成例を概略的に
示す機能ブロック図である。
【００１７】同図に示す音声認識装置１０は、辞書部１
２、音響処理部１４、音声区間検出部１６、ＨＭＭ照合
部１８及び参照情報記憶部２０を備える。
２、音響処理部１４、音声区間検出部１６、ＨＭＭ照合
部１８及び参照情報記憶部２０を備える。
【００１８】辞書部１２は、音声標準パタンとして隠れ
マルコフモデルを格納する。隠れマルコフモデルは、互
いに無相関な複数個の正規分布を有し当該モデルから出
力される音声シンボルベクトルの出力確率を表す無相関
混合正規分布を備える。
マルコフモデルを格納する。隠れマルコフモデルは、互
いに無相関な複数個の正規分布を有し当該モデルから出
力される音声シンボルベクトルの出力確率を表す無相関
混合正規分布を備える。
【００１９】音響処理部１４は、一定時間幅のフレーム
毎に、入力音声信号から入力音声特徴ベクトルを抽出す
る。音声区間検出部１６は、入力音声信号から音声区間
を検出する。
毎に、入力音声信号から入力音声特徴ベクトルを抽出す
る。音声区間検出部１６は、入力音声信号から音声区間
を検出する。
【００２０】ＨＭＭ照合部１８は、音声区間の始端フレ
ームから終端フレームまでに抽出された入力音声特徴ベ
クトルの時系列と隠れマルコフモデルとの間の尤度を、
各入力音声特徴ベクトルの出力確率を用いて計算し、最
大の尤度を得た隠れマルコフモデルに付与されているカ
テゴリ名を、当該音声区間の入力音声信号に対する認識
結果とする。
ームから終端フレームまでに抽出された入力音声特徴ベ
クトルの時系列と隠れマルコフモデルとの間の尤度を、
各入力音声特徴ベクトルの出力確率を用いて計算し、最
大の尤度を得た隠れマルコフモデルに付与されているカ
テゴリ名を、当該音声区間の入力音声信号に対する認識
結果とする。
【００２１】ここで、 ｂij(xt)：総個数Ｍ個の正規分布を有する無相関混合正
規分布を備えた隠れマルコフモデルから、第ｔ番目のフ
レームで抽出された入力音声特徴ベクトルｘt が出力さ
れる出力確率（１≦ｔ≦Ｔ。第１番目のフレームは音声
区間の始端フレーム、及び、第Ｔ番目のフレームは音声
区間の終端フレームを表す。）、 ｇijm(xt) ：総個数Ｍ個の正規分布において第ｍ番目
（１≦ｍ≦Ｍ。）の正規分布から算出される入力音声特
徴ベクトルｘt の重み付け確率 （但し、ｇijm(xt) ＝λijm ｂijm(xt) 、ｂijm(xt) ＝
（２π）-p/2｜ρijm ｜-1/2exp ｛−Ｄijmt 2 ／２｝、
Ｄijmt 2 ＝（ｘt −μijm ）’ρijm -1 （ｘt −μ
ijm ）、 λijm ：第ｍ番目の正規分布の重み、 ｂijm(xt) ：第ｍ番目の正規分布から算出される入力音
声特徴ベクトルｘt の重み無し確率、 ｐ：入力音声特徴ベクトルｘt の次数、 ρijm ：第ｍ番目の正規分布の分散・供分散行列、 μijm ：第ｍ番目の正規分布の平均ベクトル、 Ｄijmt：入力音声特徴ベクトルｘt と第ｍ番目の正規分
布との間の距離を表すマハラビスの汎距離。）、 （ｘt −μijm ）’：（ｘt −μijm ）’は（ｘt −μ
ijm ）の転置行列を表す、 Ｇijm(xt) ：重み付け確率ｇijm(xt) の対数値 （但し、Ｇijm(xt) ＝Ｅijm −Ｄijmt 2 ／２、 Ｅijm ＝ln（λijm ）＋ln｛（２π）-p/2｜ρijm ｜
-1/2｝。） とするとき、隠れマルコフモデルとの間の尤度計算に用
いる入力音声特徴ベクトルｘt の出力確率ｂij(xt)の対
数値として、総個数Ｍ個の各正規分布から算出される重
み付け確率ｇijm(xt) の対数値Ｇijm(xt) のなかで最大
の対数値Ｇijm(xt) を用いる。
規分布を備えた隠れマルコフモデルから、第ｔ番目のフ
レームで抽出された入力音声特徴ベクトルｘt が出力さ
れる出力確率（１≦ｔ≦Ｔ。第１番目のフレームは音声
区間の始端フレーム、及び、第Ｔ番目のフレームは音声
区間の終端フレームを表す。）、 ｇijm(xt) ：総個数Ｍ個の正規分布において第ｍ番目
（１≦ｍ≦Ｍ。）の正規分布から算出される入力音声特
徴ベクトルｘt の重み付け確率 （但し、ｇijm(xt) ＝λijm ｂijm(xt) 、ｂijm(xt) ＝
（２π）-p/2｜ρijm ｜-1/2exp ｛−Ｄijmt 2 ／２｝、
Ｄijmt 2 ＝（ｘt −μijm ）’ρijm -1 （ｘt −μ
ijm ）、 λijm ：第ｍ番目の正規分布の重み、 ｂijm(xt) ：第ｍ番目の正規分布から算出される入力音
声特徴ベクトルｘt の重み無し確率、 ｐ：入力音声特徴ベクトルｘt の次数、 ρijm ：第ｍ番目の正規分布の分散・供分散行列、 μijm ：第ｍ番目の正規分布の平均ベクトル、 Ｄijmt：入力音声特徴ベクトルｘt と第ｍ番目の正規分
布との間の距離を表すマハラビスの汎距離。）、 （ｘt −μijm ）’：（ｘt −μijm ）’は（ｘt −μ
ijm ）の転置行列を表す、 Ｇijm(xt) ：重み付け確率ｇijm(xt) の対数値 （但し、Ｇijm(xt) ＝Ｅijm −Ｄijmt 2 ／２、 Ｅijm ＝ln（λijm ）＋ln｛（２π）-p/2｜ρijm ｜
-1/2｝。） とするとき、隠れマルコフモデルとの間の尤度計算に用
いる入力音声特徴ベクトルｘt の出力確率ｂij(xt)の対
数値として、総個数Ｍ個の各正規分布から算出される重
み付け確率ｇijm(xt) の対数値Ｇijm(xt) のなかで最大
の対数値Ｇijm(xt) を用いる。
【００２２】参照情報記憶部２０は、ｔ≧２のときに第
ｔ番目のフレームにおいて最大の対数値Ｇijm(xt) を検
出するための最大値候補と、ｔ≧２のときに第ｔ−１番
目のフレームにおいて最大の対数値Ｇijm(xt) を得た正
規分布がいずれであるかを表すインデックスとを格納す
る。
ｔ番目のフレームにおいて最大の対数値Ｇijm(xt) を検
出するための最大値候補と、ｔ≧２のときに第ｔ−１番
目のフレームにおいて最大の対数値Ｇijm(xt) を得た正
規分布がいずれであるかを表すインデックスとを格納す
る。
【００２３】そしてＨＭＭ照合部１８は、始端フレーム
から終端フレームまでに出力された入力音声特徴ベクト
ルｘt の時系列と隠れマルコフモデルとの間の尤度を、
次の如くして行なう。
から終端フレームまでに出力された入力音声特徴ベクト
ルｘt の時系列と隠れマルコフモデルとの間の尤度を、
次の如くして行なう。
【００２４】すなわちｔ＝１の場合は、総個数Ｍ個の全
正規分布について各正規分布毎に対数値Ｇijm(xt) を算
出して、最大の対数値Ｇijm(xt) を検出し、この最大の
対数値Ｇijm(xt) を第１番目のフレームにおける入力音
声特徴ベクトルｘt の出力確率ｂij(xt)の対数値とする
と共にこの最大の対数値Ｇijm(xt) を得た正規分布に対
応するインデックスを格納する。
正規分布について各正規分布毎に対数値Ｇijm(xt) を算
出して、最大の対数値Ｇijm(xt) を検出し、この最大の
対数値Ｇijm(xt) を第１番目のフレームにおける入力音
声特徴ベクトルｘt の出力確率ｂij(xt)の対数値とする
と共にこの最大の対数値Ｇijm(xt) を得た正規分布に対
応するインデックスを格納する。
【００２５】そしてｔ≧２の場合には、（１）まずイン
デックスに対応する正規分布を用いて算出した対数値Ｇ
ijm(xt) を最大値候補として格納し、（２）総個数Ｍ個
の正規分布のうちインデックスに対応しない残りの正規
分布を用いた対数値Ｇijm(xt) の算出では、−Ｄijmt 2
／２の項を算出するための演算の一又は複数の演算間隔
毎に、算出途上の対数値Ｇijm(xt) を、最大値候補と比
較し、（３−Ａ）算出途上の対数値Ｇijm(xt) が最大値
候補より小さくなったら、当該対数値Ｇijm(xt) の算出
を終了し、然る後、残りの次の正規分布につき対数値Ｇ
ijm (xt)の算出を開始し、（３−Ｂ）算出途上の対数値
Ｇijm(xt) が最大値候補より小さくなることなく、当該
対数値Ｇijm(xt) の算出を終了したら、最大値候補を当
該対数値Ｇijm (xt)に書き換え、然る後、残りの次の正
規分布につき対数値Ｇijm(xt) の算出を開始し、（４）
総個数Ｍ個の全正規分布について対数値Ｇijm(xt) の算
出を終了したら、このとき格納されている最大値候補を
得た正規分布に対応するインデックスに、参照情報記憶
部２０のインデックスを書換えると共に、当該最大値候
補を、出力確率ｂij(xt)の対数値に用いて、隠れマルコ
フモデルとの間の尤度を計算する。
デックスに対応する正規分布を用いて算出した対数値Ｇ
ijm(xt) を最大値候補として格納し、（２）総個数Ｍ個
の正規分布のうちインデックスに対応しない残りの正規
分布を用いた対数値Ｇijm(xt) の算出では、−Ｄijmt 2
／２の項を算出するための演算の一又は複数の演算間隔
毎に、算出途上の対数値Ｇijm(xt) を、最大値候補と比
較し、（３−Ａ）算出途上の対数値Ｇijm(xt) が最大値
候補より小さくなったら、当該対数値Ｇijm(xt) の算出
を終了し、然る後、残りの次の正規分布につき対数値Ｇ
ijm (xt)の算出を開始し、（３−Ｂ）算出途上の対数値
Ｇijm(xt) が最大値候補より小さくなることなく、当該
対数値Ｇijm(xt) の算出を終了したら、最大値候補を当
該対数値Ｇijm (xt)に書き換え、然る後、残りの次の正
規分布につき対数値Ｇijm(xt) の算出を開始し、（４）
総個数Ｍ個の全正規分布について対数値Ｇijm(xt) の算
出を終了したら、このとき格納されている最大値候補を
得た正規分布に対応するインデックスに、参照情報記憶
部２０のインデックスを書換えると共に、当該最大値候
補を、出力確率ｂij(xt)の対数値に用いて、隠れマルコ
フモデルとの間の尤度を計算する。
【００２６】図２は音声標準パタンに用いる隠れマルコ
フモデルの説明に供する図である。音声標準パタンに用
いる隠れマルコフモデル（以下、ＨＭＭ）は、音声認識
一単位分ここでは単語１個分の音声信号であって、カテ
ゴリｚを付与されている音声信号を表現している。各カ
テゴリ毎に個別に複数のＨＭＭを用意し、ＨＭＭとカテ
ゴリｚとを、相対応付けて辞書部１２に格納する。
フモデルの説明に供する図である。音声標準パタンに用
いる隠れマルコフモデル（以下、ＨＭＭ）は、音声認識
一単位分ここでは単語１個分の音声信号であって、カテ
ゴリｚを付与されている音声信号を表現している。各カ
テゴリ毎に個別に複数のＨＭＭを用意し、ＨＭＭとカテ
ゴリｚとを、相対応付けて辞書部１２に格納する。
【００２７】ＨＭＭは、総個数Ｉ個の状態Ｓ1 〜ＳI か
ら成る状態の集合１と、音声シンボルベクトルｘの集合
２と、状態遷移確率ａijの集合３と、出力確率ｂij(x)
の集合４と、初期状態確率Фi の集合５と、最終状態Ｆ
の集合６とにより定義される。
ら成る状態の集合１と、音声シンボルベクトルｘの集合
２と、状態遷移確率ａijの集合３と、出力確率ｂij(x)
の集合４と、初期状態確率Фi の集合５と、最終状態Ｆ
の集合６とにより定義される。
【００２８】
【数１】
【００２９】例えば図２の例において、ａ12は状態Ｓ1
から状態Ｓ2 に遷移する確率及びｂ12(x) は状態Ｓ1 か
ら状態Ｓ2 に遷移したとき音声シンボルベクトルｘが出
力される確率、またａ22は状態Ｓ2 から状態Ｓ2 に遷移
する確率及びｂ22(x) は状態Ｓ2 から状態Ｓ2 に遷移し
たとき音声シンボルベクトルｘが出力される確率を表
す。
から状態Ｓ2 に遷移する確率及びｂ12(x) は状態Ｓ1 か
ら状態Ｓ2 に遷移したとき音声シンボルベクトルｘが出
力される確率、またａ22は状態Ｓ2 から状態Ｓ2 に遷移
する確率及びｂ22(x) は状態Ｓ2 から状態Ｓ2 に遷移し
たとき音声シンボルベクトルｘが出力される確率を表
す。
【００３０】ＨＭＭを定義するための集合１〜６は、統
計的手法によって、各カテゴリｚ毎に個別に求められ
る。すなわちカテゴリｚに対応する音声信号として種々
の音声信号を集め、例えば年齢別にもしくは性別毎に音
声信号を集め、或は、発生法の異なる音声信号を集め、
これら音声信号の統計的性質を表現する集合１〜６を求
める。
計的手法によって、各カテゴリｚ毎に個別に求められ
る。すなわちカテゴリｚに対応する音声信号として種々
の音声信号を集め、例えば年齢別にもしくは性別毎に音
声信号を集め、或は、発生法の異なる音声信号を集め、
これら音声信号の統計的性質を表現する集合１〜６を求
める。
【００３１】出力確率ｂij(x) は、互いに無相関であり
かつそれぞれ音声シンボルベクトルｘの関数である複数
個の正規分布から成る無相関混合正規分布（無相関連続
確率密度分布）により表現される。無相関混合正規分布
は、数学的取り扱いが簡単でしかも表現能力が高いとい
う利点を有する。
かつそれぞれ音声シンボルベクトルｘの関数である複数
個の正規分布から成る無相関混合正規分布（無相関連続
確率密度分布）により表現される。無相関混合正規分布
は、数学的取り扱いが簡単でしかも表現能力が高いとい
う利点を有する。
【００３２】次に音声認識装置１０の動作説明ととも
に、この実施例の音声認識方法の処理の流れにつき具体
的に説明する。
に、この実施例の音声認識方法の処理の流れにつき具体
的に説明する。
【００３３】音響処理部１４は、入力音声信号から、各
フレーム毎に入力音声特徴ベクトルｘt を抽出する。こ
の時点で入力音声特徴ベクトルｘt に付与されるフレー
ム番号ｔは、音響処理開始時点のフレームを第ｔ＝１番
目のフレームとして、順次に付与された番号であり、こ
のフレーム番号ｔは、後述するＨＭＭ照合部１８におい
て、音声区間の始端フレームを第１番目（ｔ＝１）のフ
レームとして、音声区間の始端フレームから終端フレー
ムまで順次に付与された番号に書き改められる。
フレーム毎に入力音声特徴ベクトルｘt を抽出する。こ
の時点で入力音声特徴ベクトルｘt に付与されるフレー
ム番号ｔは、音響処理開始時点のフレームを第ｔ＝１番
目のフレームとして、順次に付与された番号であり、こ
のフレーム番号ｔは、後述するＨＭＭ照合部１８におい
て、音声区間の始端フレームを第１番目（ｔ＝１）のフ
レームとして、音声区間の始端フレームから終端フレー
ムまで順次に付与された番号に書き改められる。
【００３４】入力音声特徴ベクトルｘt は、ｘt ＝（ｘ
t1、ｘt2、……、ｘtp）と表せる。ｐは入力音声特徴ベ
クトルｘt の次数、及びｘt1〜ｘtpは入力音声特徴ベク
トルｘt のベクトル成分を表す。
t1、ｘt2、……、ｘtp）と表せる。ｐは入力音声特徴ベ
クトルｘt の次数、及びｘt1〜ｘtpは入力音声特徴ベク
トルｘt のベクトル成分を表す。
【００３５】入力音声特徴ベクトルｘt のベクトル成分
としては、例えば、中心周波数が異なる複数のバンドパ
スフィルタから成る帯域フィルタ群に入力音声信号を入
力したときの各フィルタ出力から得たものや、入力音声
信号をフーリエ解析して得られるパワースペクトル成分
や、或は、入力音声信号の線形予測分析すなわちＬＰＣ
分析により求められるＬＰＣケプストラム係数を、用い
ることができる。ここでは帯域フィルタ群を用いて入力
音声特徴ベクトルｘt を抽出する例につき説明する。
としては、例えば、中心周波数が異なる複数のバンドパ
スフィルタから成る帯域フィルタ群に入力音声信号を入
力したときの各フィルタ出力から得たものや、入力音声
信号をフーリエ解析して得られるパワースペクトル成分
や、或は、入力音声信号の線形予測分析すなわちＬＰＣ
分析により求められるＬＰＣケプストラム係数を、用い
ることができる。ここでは帯域フィルタ群を用いて入力
音声特徴ベクトルｘt を抽出する例につき説明する。
【００３６】音響処理部１４は、入力音声信号をアナロ
グ信号からデジタル信号に変換し、変換後の入力音声信
号を、帯域フィルタ群を介して、各バンドパスフィルタ
に対応した周波数帯（チャネル）の信号成分に分離し、
それぞれ周波数帯が異なる総個数ｐ個の信号成分ｘ1 〜
ｘp を得る。次いで音響処理部１４は、信号成分ｘ1を
整流し、フレーム単位に、整流した信号成分ｘ1 （信号
成分ｘ1 の絶対値）の平均値を得る。この平均値は、整
流した信号成分ｘ1 を１フレーム分の時間幅で除して得
られる。第ｔ番目のフレームにおいて得られる信号成分
ｘ1 の平均値を、入力音声特徴ベクトルｘt の成分ｘt1
として抽出する。同様にして、残りの信号成分ｘ2 〜ｘ
p から、入力音声特徴ベクトルｘt の成分ｘt2〜ｘtpを
抽出する。
グ信号からデジタル信号に変換し、変換後の入力音声信
号を、帯域フィルタ群を介して、各バンドパスフィルタ
に対応した周波数帯（チャネル）の信号成分に分離し、
それぞれ周波数帯が異なる総個数ｐ個の信号成分ｘ1 〜
ｘp を得る。次いで音響処理部１４は、信号成分ｘ1を
整流し、フレーム単位に、整流した信号成分ｘ1 （信号
成分ｘ1 の絶対値）の平均値を得る。この平均値は、整
流した信号成分ｘ1 を１フレーム分の時間幅で除して得
られる。第ｔ番目のフレームにおいて得られる信号成分
ｘ1 の平均値を、入力音声特徴ベクトルｘt の成分ｘt1
として抽出する。同様にして、残りの信号成分ｘ2 〜ｘ
p から、入力音声特徴ベクトルｘt の成分ｘt2〜ｘtpを
抽出する。
【００３７】次に音声区間検出部１６は、音響処理部１
４からの入力音声特徴ベクトルｘtに基づいて、音声区
間の始端フレーム及び終端フレームを検出し、どのフレ
ームが音声区間の始端フレーム及び終端フレームである
かを表す区間情報を生成する。音声区間は、音声認識一
単位分の音声信号が含まれる区間である。音声認識の一
単位は、単語単位、音素単位或はそのほかとすることが
できるが、ここでは単語単位とする。
４からの入力音声特徴ベクトルｘtに基づいて、音声区
間の始端フレーム及び終端フレームを検出し、どのフレ
ームが音声区間の始端フレーム及び終端フレームである
かを表す区間情報を生成する。音声区間は、音声認識一
単位分の音声信号が含まれる区間である。音声認識の一
単位は、単語単位、音素単位或はそのほかとすることが
できるが、ここでは単語単位とする。
【００３８】ＨＭＭ照合部１８は、区間情報と入力音声
特徴ベクトルｘt とを音声区間検出部１６から入力し
て、音声区間の始端フレームから終端フレームまでに抽
出された入力音声特徴ベクトルｘt の時系列ｘ1 〜ｘT
を生成する。ここで、フレーム番号ｔは、音声区間の始
端フレームを第１番目（ｔ＝１）のフレームとして、音
声区間の始端フレームから終端フレームまで順次に付与
された番号に書き改められる。
特徴ベクトルｘt とを音声区間検出部１６から入力し
て、音声区間の始端フレームから終端フレームまでに抽
出された入力音声特徴ベクトルｘt の時系列ｘ1 〜ｘT
を生成する。ここで、フレーム番号ｔは、音声区間の始
端フレームを第１番目（ｔ＝１）のフレームとして、音
声区間の始端フレームから終端フレームまで順次に付与
された番号に書き改められる。
【００３９】そしてＨＭＭ照合部１８はベクトル時系列
ｘ1 〜ｘT と辞書部１２に格納されているＨＭＭとの間
の尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を求め、最大の尤度を得
たＨＭＭに対し付与されているカテゴリｚを、認識結果
として出力する。
ｘ1 〜ｘT と辞書部１２に格納されているＨＭＭとの間
の尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を求め、最大の尤度を得
たＨＭＭに対し付与されているカテゴリｚを、認識結果
として出力する。
【００４０】ここで、Ｐ（ｘ1 〜ｘT ）はＨＭＭにおい
てベクトル時系列ｘ1 〜ｘT が出現する確率であって、
次式（１）の如く表される。
てベクトル時系列ｘ1 〜ｘT が出現する確率であって、
次式（１）の如く表される。
【００４１】
【数２】
【００４２】（１）式において、＊ｉはＳi ∈Ｆを満た
すｉ（最終状態Ｆに属する状態Ｓiに付与されている番
号ｉ）であって、従ってｉ＝＊ｉとなる前向き確率ｃiT
のなかで最大の前向き確率ｃiTを、出現確率Ｐ（ｘ1 〜
ｘT ）とするものである。
すｉ（最終状態Ｆに属する状態Ｓiに付与されている番
号ｉ）であって、従ってｉ＝＊ｉとなる前向き確率ｃiT
のなかで最大の前向き確率ｃiTを、出現確率Ｐ（ｘ1 〜
ｘT ）とするものである。
【００４３】前向き確率ｃiTは、ビタビアルゴリズムに
より、次式（２）〜（３）に示す漸化式を用いて近似的
に求められる。
より、次式（２）〜（３）に示す漸化式を用いて近似的
に求められる。
【００４４】
【数３】
【００４５】ここで、ln（ａij）＝Ａij、ln｛ｂ
ij(xt)｝＝Ｂij(xt)、ln（ｃit）＝Ｃitと表せば（以
下、遷移対数値Ａij、出力対数値Ｂij、前向き対数値Ｃ
iTと称する）、式（１）〜（３）を変形して、尤度ln
｛Ｐ（ｘ1 〜ｘt ）｝の算出に関する（４）〜（６）式
が得られる。
ij(xt)｝＝Ｂij(xt)、ln（ｃit）＝Ｃitと表せば（以
下、遷移対数値Ａij、出力対数値Ｂij、前向き対数値Ｃ
iTと称する）、式（１）〜（３）を変形して、尤度ln
｛Ｐ（ｘ1 〜ｘt ）｝の算出に関する（４）〜（６）式
が得られる。
【００４６】
【数４】
【００４７】（５）〜（６）式はｔの漸化式であるか
ら、ｔ＝１、２、……、Ｔとなる場合の各前向き対数値
ＣiTを、次式の如く順次に計算できる。
ら、ｔ＝１、２、……、Ｔとなる場合の各前向き対数値
ＣiTを、次式の如く順次に計算できる。
【００４８】
【数５】
【００４９】ＨＭＭにおいて、初期状態からベクトル系
列ｘ1 〜ｘt を生成して状態Ｓi に至る遷移パスは一つ
又は複数存在し、ほとんどの場合に複数の遷移パスが存
在する。複数の遷移パスが存在する場合、各遷移パス毎
に前向き対数値ＣiTが求められ、従って各遷移パスに対
応した複数の前向き対数値ＣiTを得ることとなる。
列ｘ1 〜ｘt を生成して状態Ｓi に至る遷移パスは一つ
又は複数存在し、ほとんどの場合に複数の遷移パスが存
在する。複数の遷移パスが存在する場合、各遷移パス毎
に前向き対数値ＣiTが求められ、従って各遷移パスに対
応した複数の前向き対数値ＣiTを得ることとなる。
【００５０】ＨＭＭ照合部１８は、カテゴリｚを付与さ
れたＨＭＭにおいて、前向き対数値ＣiTを求め、ｉ＝＊
ｉとなる前向き対数値ＣiTのなかで最大の前向き対数値
ＣiTを、ベクトル時系列ｘ1 〜ｘT と当該ＨＭＭとの間
の尤度ln｛Ｐ（ｘ1 〜ｘT ）｝として得る。そして辞書
部１２に格納されているすべてのＨＭＭについて、各Ｈ
ＭＭ毎に、尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を求め、最大の
尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を得たＨＭＭに付与されて
いるカテゴリｚを、ベクトル時系列ｘ1 〜ｘTを得た入
力音声信号の認識結果として出力する。
れたＨＭＭにおいて、前向き対数値ＣiTを求め、ｉ＝＊
ｉとなる前向き対数値ＣiTのなかで最大の前向き対数値
ＣiTを、ベクトル時系列ｘ1 〜ｘT と当該ＨＭＭとの間
の尤度ln｛Ｐ（ｘ1 〜ｘT ）｝として得る。そして辞書
部１２に格納されているすべてのＨＭＭについて、各Ｈ
ＭＭ毎に、尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を求め、最大の
尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を得たＨＭＭに付与されて
いるカテゴリｚを、ベクトル時系列ｘ1 〜ｘTを得た入
力音声信号の認識結果として出力する。
【００５１】上述の尤度ln｛Ｐ（ｘ1 〜ｘT ）｝を算出
する過程において、最も複雑な演算は、出力対数値Ｂij
(xt)を求める演算である。この演算を高速に行なうた
め、出力確率ｂij(xt)を次式（１２）の如く定義する。
出力確率ｂij(xt)は、総個数Ｍ個の正規分布を有する無
相関混合正規分布を備えた隠れマルコフモデルから、入
力音声特徴ベクトルｘt が出力される確率である。
する過程において、最も複雑な演算は、出力対数値Ｂij
(xt)を求める演算である。この演算を高速に行なうた
め、出力確率ｂij(xt)を次式（１２）の如く定義する。
出力確率ｂij(xt)は、総個数Ｍ個の正規分布を有する無
相関混合正規分布を備えた隠れマルコフモデルから、入
力音声特徴ベクトルｘt が出力される確率である。
【００５２】
【数６】
【００５３】（１２）式中のｇijm(xt) は、総個数Ｍ個
の正規分布から成る無相関混合正規分布において第ｍ番
目の正規分布から算出される入力音声特徴ベクトルｘt
の重み付け確率であって、次式（１３）〜（１５）を用
いて表すことができる。
の正規分布から成る無相関混合正規分布において第ｍ番
目の正規分布から算出される入力音声特徴ベクトルｘt
の重み付け確率であって、次式（１３）〜（１５）を用
いて表すことができる。
【００５４】
【数７】
【００５５】（１３）式中のλijm は第ｍ番目の正規分
布の重み、及びｂijm(xt) は第ｍ番目の正規分布から算
出される入力音声特徴ベクトルｘt の重み無し確率であ
る。重み無し確率ｂijm(xt) は式（１４）で表され、式
（１４）中のｐは入力音声特徴ベクトルｘt の次数、ρ
ijm は第ｍ番目の正規分布の分散・供分散行列、及びＤ
ijmtは入力音声特徴ベクトルｘt と第ｍ番目の正規分布
との間の距離を表すマハラビスの汎距離である。マハラ
ビスの汎距離Ｄijmtは式（１５）で表され、式（１５）
中のμijm は第ｍ番目の正規分布の平均ベクトル、（ｘ
t −μijm ）’は（ｘt −μijm ）の転置行列である。
布の重み、及びｂijm(xt) は第ｍ番目の正規分布から算
出される入力音声特徴ベクトルｘt の重み無し確率であ
る。重み無し確率ｂijm(xt) は式（１４）で表され、式
（１４）中のｐは入力音声特徴ベクトルｘt の次数、ρ
ijm は第ｍ番目の正規分布の分散・供分散行列、及びＤ
ijmtは入力音声特徴ベクトルｘt と第ｍ番目の正規分布
との間の距離を表すマハラビスの汎距離である。マハラ
ビスの汎距離Ｄijmtは式（１５）で表され、式（１５）
中のμijm は第ｍ番目の正規分布の平均ベクトル、（ｘ
t −μijm ）’は（ｘt −μijm ）の転置行列である。
【００５６】（１２）式は、総個数Ｍ個の正規分布から
成る無相関混合正規分布において個々の正規分布から得
られる重み付け確率ｇijm(xt) のうち最大となる重み付
け確率ｇijm(xt) を、入力音声特徴ベクトルｘt の出力
確率ｂij(xt)として検出することを表す。
成る無相関混合正規分布において個々の正規分布から得
られる重み付け確率ｇijm(xt) のうち最大となる重み付
け確率ｇijm(xt) を、入力音声特徴ベクトルｘt の出力
確率ｂij(xt)として検出することを表す。
【００５７】従来における典型的な出力確率ｂij(xt)は
重み付け確率ｇijm(xt) の線形和として表されるが、
（１２）式の如く出力確率ｂij(xt)として最大の重み付
け確率ｇijm(xt) を用いても、従来の出力確率ｂij(xt)
と近似的に等しい出力確率ｂij(xt)を得ることができ
る。無相関混合正規分布においては総個数Ｍ個の正規分
布は互いに無相関であるので、最大とならなかった重み
付け確率ｇijm(xt) は最大の重み付け確率ｇijm(xt) に
比して微小な値となると考えられるからである。
重み付け確率ｇijm(xt) の線形和として表されるが、
（１２）式の如く出力確率ｂij(xt)として最大の重み付
け確率ｇijm(xt) を用いても、従来の出力確率ｂij(xt)
と近似的に等しい出力確率ｂij(xt)を得ることができ
る。無相関混合正規分布においては総個数Ｍ個の正規分
布は互いに無相関であるので、最大とならなかった重み
付け確率ｇijm(xt) は最大の重み付け確率ｇijm(xt) に
比して微小な値となると考えられるからである。
【００５８】そして出力確率ｂij(xt)の対数値Ｂij(xt)
（以下、出力対数値Ｂij(xt)）は、式（１２）を用い
て、次式（１６）の如く表せる。
（以下、出力対数値Ｂij(xt)）は、式（１２）を用い
て、次式（１６）の如く表せる。
【００５９】
【数８】
【００６０】（１６）式中の重み付け対数値Ｇijm(xt)
は、重み付け確率ｇijm(xt) の対数値であって、式（１
３）〜（１５）を用いて次式（１７）の如く表せる。
は、重み付け確率ｇijm(xt) の対数値であって、式（１
３）〜（１５）を用いて次式（１７）の如く表せる。
【００６１】
【数９】
【００６２】ここで重み付け対数値Ｇijm(xt) に着目す
る。ＨＭＭの無相関混合正規分布を構成する総個数Ｍ個
の正規分布は、全て無相関であるので、各正規分布の分
散・供分散行列ρijm は対角行列となる。
る。ＨＭＭの無相関混合正規分布を構成する総個数Ｍ個
の正規分布は、全て無相関であるので、各正規分布の分
散・供分散行列ρijm は対角行列となる。
【００６３】分散・供分散行列ρijm （無相関混合正規
分布の第ｍ番目のρijm ）の第ｒ行第ｓ列の要素をＡ
ijmrs 、入力音声特徴ベクトルｘt の第ｒ番目の成分を
Ｂr 、及び、平均ベクトルμijm （無相関混合正規分布
の第ｍ番目のμijm ）の第ｒ番目の成分をＣijmrと表せ
ば、（１５）式は次式（１８）の如く変形できる。
分布の第ｍ番目のρijm ）の第ｒ行第ｓ列の要素をＡ
ijmrs 、入力音声特徴ベクトルｘt の第ｒ番目の成分を
Ｂr 、及び、平均ベクトルμijm （無相関混合正規分布
の第ｍ番目のμijm ）の第ｒ番目の成分をＣijmrと表せ
ば、（１５）式は次式（１８）の如く変形できる。
【００６４】
【数１０】
【００６５】分散・供分散行列ρijm は対角行列である
からｒ≠ｓではＡijmrs ＝０であり従って（１８）式は
次式（１９）の如く変形できる。
からｒ≠ｓではＡijmrs ＝０であり従って（１８）式は
次式（１９）の如く変形できる。
【００６６】
【数１１】
【００６７】しかも分散・供分散行列ρijm は逆相関行
列であるから、Ａijmrr ≧０が成り立つので、（１９）
式中のＡijmrr ・（Ｂr −Ｃijmr）2 の各項は非負であ
り従ってＤijmt 2 ≧０である。
列であるから、Ａijmrr ≧０が成り立つので、（１９）
式中のＡijmrr ・（Ｂr −Ｃijmr）2 の各項は非負であ
り従ってＤijmt 2 ≧０である。
【００６８】従って（１７）式において、Ｅijm は各正
規分布毎に定まる一定の値でありかつＤijmt 2 ≧０であ
るので、算出途上の重み付け対数値Ｇijm(xt) は、Ｅ
ijm から（１９）式中のＡijmrr ・（Ｂr −Ｃijmr）2
の各項を順次に減じた値なる。換言すれば、算出途上の
Ｇijm(xt) の値は、Ｅijm をピークとして、入力音声特
徴ベクトルｘt の一成分について行なわれるＡijmrr ・
（Ｂr −Ｃijmr）2 の演算の、一演算間隔毎に、減少し
てゆく。
規分布毎に定まる一定の値でありかつＤijmt 2 ≧０であ
るので、算出途上の重み付け対数値Ｇijm(xt) は、Ｅ
ijm から（１９）式中のＡijmrr ・（Ｂr −Ｃijmr）2
の各項を順次に減じた値なる。換言すれば、算出途上の
Ｇijm(xt) の値は、Ｅijm をピークとして、入力音声特
徴ベクトルｘt の一成分について行なわれるＡijmrr ・
（Ｂr −Ｃijmr）2 の演算の、一演算間隔毎に、減少し
てゆく。
【００６９】次に図３及び図４を参照して、ＨＭＭ照合
部１８が行なう尤度計算の流れについて説明する。図３
はｔ＝１のとき最大の重み付け対数値Ｇijm(xt) を算出
する場合の動作フロー及び図４はｔ≧２のとき最大の重
み付け対数値Ｇijm(xt) を算出する場合の動作フローを
示す。
部１８が行なう尤度計算の流れについて説明する。図３
はｔ＝１のとき最大の重み付け対数値Ｇijm(xt) を算出
する場合の動作フロー及び図４はｔ≧２のとき最大の重
み付け対数値Ｇijm(xt) を算出する場合の動作フローを
示す。
【００７０】まずＨＭＭ照合部１８は、前向き対数値の
初期値Ｃi0を設定する。次にＨＭＭ照合部１８は、ｔ＝
１のときの前向き対数値Ｃit、すなわち始端フレーム
（第１番目のフレーム）の入力音声特徴ベクトルｘt に
ついて、前向き対数値Ｃitを求める。
初期値Ｃi0を設定する。次にＨＭＭ照合部１８は、ｔ＝
１のときの前向き対数値Ｃit、すなわち始端フレーム
（第１番目のフレーム）の入力音声特徴ベクトルｘt に
ついて、前向き対数値Ｃitを求める。
【００７１】このためＨＭＭ照合部１８は、ＨＭＭにお
いて入力音声特徴ベクトルｘt に対応する音声シンボル
ベクトルを検索する。そして対応する音声シンボルベク
トルの出力確率を表す無相関混合正規分布を、入力音声
特徴ベクトルｘt の出力確率ｂij(xt)を表す無相関混合
正規分布として用いて、この無相関混合正規分布の各正
規分布から重み付け対数値Ｇijm(xt) を算出し、最大の
重み付け対数値Ｇijm(xt) を検出し（図３のＳ１）、そ
して最大の重み付け対数値Ｇijm(xt) を入力音声特徴ベ
クトルｘt の出力対数値Ｂij(xt)として格納すると共
に、当該最大の重み付け対数値Ｇijm(xt) を得た正規分
布の番号ｍをインデックスＱijとして格納する（図３の
Ｓ２）。対応する音声シンボルベクトルを出力する状態
遷移が複数存在する場合には、各状態遷移毎に、音声シ
ンボルベクトルの出力確率を表す無相関混合正規分布が
存在するので、これら各無相関混合正規分布をそれぞれ
入力音声特徴ベクトルｘt の無相関混合正規分布に用い
て、各状態遷移毎に個別の出力対数値Ｂij(xt)及びイン
デックスＱijを得て格納する。
いて入力音声特徴ベクトルｘt に対応する音声シンボル
ベクトルを検索する。そして対応する音声シンボルベク
トルの出力確率を表す無相関混合正規分布を、入力音声
特徴ベクトルｘt の出力確率ｂij(xt)を表す無相関混合
正規分布として用いて、この無相関混合正規分布の各正
規分布から重み付け対数値Ｇijm(xt) を算出し、最大の
重み付け対数値Ｇijm(xt) を検出し（図３のＳ１）、そ
して最大の重み付け対数値Ｇijm(xt) を入力音声特徴ベ
クトルｘt の出力対数値Ｂij(xt)として格納すると共
に、当該最大の重み付け対数値Ｇijm(xt) を得た正規分
布の番号ｍをインデックスＱijとして格納する（図３の
Ｓ２）。対応する音声シンボルベクトルを出力する状態
遷移が複数存在する場合には、各状態遷移毎に、音声シ
ンボルベクトルの出力確率を表す無相関混合正規分布が
存在するので、これら各無相関混合正規分布をそれぞれ
入力音声特徴ベクトルｘt の無相関混合正規分布に用い
て、各状態遷移毎に個別の出力対数値Ｂij(xt)及びイン
デックスＱijを得て格納する。
【００７２】次いでＨＭＭ照合部１８は、算出し終えた
出力対数値Ｂij(xt)を用いて、ｔ＝１のときの前向き対
数値Ｃitを算出する。
出力対数値Ｂij(xt)を用いて、ｔ＝１のときの前向き対
数値Ｃitを算出する。
【００７３】次にＨＭＭ照合部１８は、ｔ≧２のときの
入力音声特徴ベクトルｘt の前向き対数値Ｃitを算出す
る。
入力音声特徴ベクトルｘt の前向き対数値Ｃitを算出す
る。
【００７４】このためＨＭＭ照合部１８は、ＨＭＭにお
いて入力音声特徴ベクトルｘt に対応する音声シンボル
ベクトルを検索する。そして対応する音声シンボルベク
トルの出力確率を表す無相関混合正規分布を、入力音声
特徴ベクトルｘt の出力確率ｂij(xt)を表す無相関混合
正規分布として用いて、この無相関混合正規分布の正規
分布のなかからインデックスＱijに対応する第Ｑij番目
の正規分布を検索し、この正規分布から重み付け対数値
Ｇijm(xt) を算出する。そして算出した重み付け対数値
Ｇijm(xt) を最大値候補ＧijQ(xt) として格納し、然る
後、正規分布の番号ｍをｍ＝１に初期化する（図４のＳ
１）。
いて入力音声特徴ベクトルｘt に対応する音声シンボル
ベクトルを検索する。そして対応する音声シンボルベク
トルの出力確率を表す無相関混合正規分布を、入力音声
特徴ベクトルｘt の出力確率ｂij(xt)を表す無相関混合
正規分布として用いて、この無相関混合正規分布の正規
分布のなかからインデックスＱijに対応する第Ｑij番目
の正規分布を検索し、この正規分布から重み付け対数値
Ｇijm(xt) を算出する。そして算出した重み付け対数値
Ｇijm(xt) を最大値候補ＧijQ(xt) として格納し、然る
後、正規分布の番号ｍをｍ＝１に初期化する（図４のＳ
１）。
【００７５】次いで正規分布の番号ｍがインデックスＱ
ijと等しいか否かを判定する（図４のＳ２）。
ijと等しいか否かを判定する（図４のＳ２）。
【００７６】図４のＳ２で番号ｍがインデックスＱijで
ない場合には、第ｍ番目の正規分布を用いて、重み付け
対数値Ｇijm(xt) の算出を開始し（図４のＳ３）、まず
Ｇijm(xt) のＥijm の項を算出し（図４のＳ４）、然る
後、Ｇijm(xt) のＤijmt 2 の項の演算を、一演算間隔又
は複数演算間隔だけ、行なう（図４のＳ５）。一演算間
隔は入力音声特徴ベクトルｘt の成分１個分について行
なわれる演算間隔である。次いで算出途上の重み付け対
数値Ｇijm(xt) が、最大値候補ＧijQ(xt) より大きいか
否かを判定する（図４のＳ６）。
ない場合には、第ｍ番目の正規分布を用いて、重み付け
対数値Ｇijm(xt) の算出を開始し（図４のＳ３）、まず
Ｇijm(xt) のＥijm の項を算出し（図４のＳ４）、然る
後、Ｇijm(xt) のＤijmt 2 の項の演算を、一演算間隔又
は複数演算間隔だけ、行なう（図４のＳ５）。一演算間
隔は入力音声特徴ベクトルｘt の成分１個分について行
なわれる演算間隔である。次いで算出途上の重み付け対
数値Ｇijm(xt) が、最大値候補ＧijQ(xt) より大きいか
否かを判定する（図４のＳ６）。
【００７７】図４のＳ６でＧijm(xt) ＞ＧijQ(xt) であ
れば、Ｄijmt 2 の演算を入力音声特徴ベクトルｘt のす
べての成分について終了したか否かを判定し（図４のＳ
７）、Ｄijmt 2 の演算を終了していなければＳ５の演算
に戻る。Ｄijmt 2 の演算を終了したならば、当該演算を
終了した重み付け対数値Ｇijm(xt) を、最大値候補Ｇ
ijQ(xt) として書換えると共に、当該演算を終了した重
み付け対数値Ｇijm(xt)を得た正規分布の番号ｍをイン
デックスＱijとして書き換える（Ｓ８）。然る後、総個
数Ｍ個の正規分布すべてについて処理を終了したか否か
を判定し（Ｓ９）、終了していなければ正規分布の番号
ｍに１を加算し（Ｓ１１）、然る後、Ｓ２の処理に戻
り、終了していればこのとき格納されている最大値候補
ＧijQ(xt) を入力音声信号ｘt の出力対数値Ｂij(xt)と
して格納する（Ｓ１０）。図４のＳ６でＧijm(xt) ≦Ｇ
ijQ(xt) であれば、Ｓ７〜Ｓ８の処理を行なわずに、Ｓ
９の処理を行なう。
れば、Ｄijmt 2 の演算を入力音声特徴ベクトルｘt のす
べての成分について終了したか否かを判定し（図４のＳ
７）、Ｄijmt 2 の演算を終了していなければＳ５の演算
に戻る。Ｄijmt 2 の演算を終了したならば、当該演算を
終了した重み付け対数値Ｇijm(xt) を、最大値候補Ｇ
ijQ(xt) として書換えると共に、当該演算を終了した重
み付け対数値Ｇijm(xt)を得た正規分布の番号ｍをイン
デックスＱijとして書き換える（Ｓ８）。然る後、総個
数Ｍ個の正規分布すべてについて処理を終了したか否か
を判定し（Ｓ９）、終了していなければ正規分布の番号
ｍに１を加算し（Ｓ１１）、然る後、Ｓ２の処理に戻
り、終了していればこのとき格納されている最大値候補
ＧijQ(xt) を入力音声信号ｘt の出力対数値Ｂij(xt)と
して格納する（Ｓ１０）。図４のＳ６でＧijm(xt) ≦Ｇ
ijQ(xt) であれば、Ｓ７〜Ｓ８の処理を行なわずに、Ｓ
９の処理を行なう。
【００７８】またＳ２でｍ＝Ｑijであれば、Ｓ３〜Ｓ８
の処理を行なわずに、Ｓ９の処理を行なう。
の処理を行なわずに、Ｓ９の処理を行なう。
【００７９】対応する音声シンボルベクトルを出力する
状態遷移が複数存在する場合には、各状態遷移毎に、音
声シンボルベクトルの出力確率を表す無相関混合正規分
布が存在するので、これら各無相関混合正規分布をそれ
ぞれ入力音声特徴ベクトルｘt の無相関混合正規分布に
用いて、各状態遷移毎に個別に、図４のＳ１〜Ｓ１１の
処理を行なう。
状態遷移が複数存在する場合には、各状態遷移毎に、音
声シンボルベクトルの出力確率を表す無相関混合正規分
布が存在するので、これら各無相関混合正規分布をそれ
ぞれ入力音声特徴ベクトルｘt の無相関混合正規分布に
用いて、各状態遷移毎に個別に、図４のＳ１〜Ｓ１１の
処理を行なう。
【００８０】ｔ＝２〜Ｔの各入力音声特徴ベクトルｘt
につき出力対数値Ｂij(xt)を得る毎に、前向き対数値Ｃ
itを求め、最終的に得た前向き対数値ＣiTを、入力音声
特徴ベクトルｘ1 〜ｘT とＨＭＭとの間の尤度として得
る。
につき出力対数値Ｂij(xt)を得る毎に、前向き対数値Ｃ
itを求め、最終的に得た前向き対数値ＣiTを、入力音声
特徴ベクトルｘ1 〜ｘT とＨＭＭとの間の尤度として得
る。
【００８１】既に説明したように、算出途上のＧ
ijm(xt) の値は、Ｅijm をピークとして、入力音声特徴
ベクトルｘt の一成分について行なわれるＡijmrr ・
（Ｂr −Ｃijmr）2 の演算の、一演算間隔毎に、減少し
てゆくので、図４のＳ６の判定においてＧijm(xt) ＞Ｇ
ijQ(xt) となる場合に、当該算出途上のＧijm(xt) の算
出を終了することにより、無駄な演算を省略して演算速
度を向上できる。
ijm(xt) の値は、Ｅijm をピークとして、入力音声特徴
ベクトルｘt の一成分について行なわれるＡijmrr ・
（Ｂr −Ｃijmr）2 の演算の、一演算間隔毎に、減少し
てゆくので、図４のＳ６の判定においてＧijm(xt) ＞Ｇ
ijQ(xt) となる場合に、当該算出途上のＧijm(xt) の算
出を終了することにより、無駄な演算を省略して演算速
度を向上できる。
【００８２】また直前のフレームで最大の重み付け対数
値Ｇijm(xt) を得た正規分布の番号ｍすなわちインデッ
クスＱijを格納し、次のフレームにおいてインデックス
Ｑijに対応する正規分布から求めた重み付け対数値Ｇ
ijm(xt) を最大値候補とすることにより、無駄な演算を
省略して演算速度を向上できる。これは直前のフレーム
と次のフレームとで入力音声特徴ベクトルｘt は類似し
ているので、次のフレームにおいてもインデックスＱij
に対応する正規分布から求めた重み付け対数値Ｇ
ijm(xt) が最大となる可能性が高いからである。
値Ｇijm(xt) を得た正規分布の番号ｍすなわちインデッ
クスＱijを格納し、次のフレームにおいてインデックス
Ｑijに対応する正規分布から求めた重み付け対数値Ｇ
ijm(xt) を最大値候補とすることにより、無駄な演算を
省略して演算速度を向上できる。これは直前のフレーム
と次のフレームとで入力音声特徴ベクトルｘt は類似し
ているので、次のフレームにおいてもインデックスＱij
に対応する正規分布から求めた重み付け対数値Ｇ
ijm(xt) が最大となる可能性が高いからである。
【００８３】
【発明の効果】上述した説明からも明らかなように、こ
の発明の音声認識方法によれば、隠れマルコフモデルが
備える総個数Ｍ個の正規分布は互いに無相関であるの
で、重み付け確率ｇijm(xt) が最大とならない正規分布
と入力音声特徴ベクトルｘt との間の距離は、重み付け
確率ｇijm(xt) が最大となる正規分布との距離よりも長
くなる。これがため最大とならない重み付け確率ｇ
ijm(xt) は、最大の重み付け確率ｇijm(xt) に対して無
視し得る程に微小となるので、この発明において最大の
重み付け出力確率ｇijm(xt) を入力音声特徴ベクトルｘ
t の出力確率ｂij(xt)としても、従来と近似的に等しい
出力確率ｂij(xt)を得ることができる。
の発明の音声認識方法によれば、隠れマルコフモデルが
備える総個数Ｍ個の正規分布は互いに無相関であるの
で、重み付け確率ｇijm(xt) が最大とならない正規分布
と入力音声特徴ベクトルｘt との間の距離は、重み付け
確率ｇijm(xt) が最大となる正規分布との距離よりも長
くなる。これがため最大とならない重み付け確率ｇ
ijm(xt) は、最大の重み付け確率ｇijm(xt) に対して無
視し得る程に微小となるので、この発明において最大の
重み付け出力確率ｇijm(xt) を入力音声特徴ベクトルｘ
t の出力確率ｂij(xt)としても、従来と近似的に等しい
出力確率ｂij(xt)を得ることができる。
【００８４】また重み付け確率ｇijm(xt) の対数値Ｇ
ijm(xt) はＧijm(xt) ＝Ｅijm −Ｄijmt 2 ／２と表さ
れ、そして第ｍ番目の正規分布において、Ｅijm は一定
であるので、算出途上の対数値Ｇijm(xt) はＥijm をピ
ークとして−Ｄijmt 2 ／２の演算の一演算間隔毎に減少
してゆく。
ijm(xt) はＧijm(xt) ＝Ｅijm −Ｄijmt 2 ／２と表さ
れ、そして第ｍ番目の正規分布において、Ｅijm は一定
であるので、算出途上の対数値Ｇijm(xt) はＥijm をピ
ークとして−Ｄijmt 2 ／２の演算の一演算間隔毎に減少
してゆく。
【００８５】これがため、−Ｄijm 2／２の演算の、一又
は複数の演算間隔毎に、算出途上の対数値Ｇijm(xt) を
最大値候補と比較し、算出途上の対数値Ｇijm(xt) が最
大値候補よりも小さくなったら、当該対数値Ｇijm(xt)
の算出を算出途上で終了することにより、最大の対数値
Ｇijm(xt) 検出に要する計算量を減少させることができ
る。
は複数の演算間隔毎に、算出途上の対数値Ｇijm(xt) を
最大値候補と比較し、算出途上の対数値Ｇijm(xt) が最
大値候補よりも小さくなったら、当該対数値Ｇijm(xt)
の算出を算出途上で終了することにより、最大の対数値
Ｇijm(xt) 検出に要する計算量を減少させることができ
る。
【００８６】しかも直前のフレームの入力音声特徴ベク
トルｘt-1 と次のフレームの入力音声特徴ベクトルｘt
とは、時間的に近接しているので、これらベクトルｘt
及びｘt-1 の成分は互いに類似する可能性が高い。従っ
て第ｔ−１番目のフレームにおいて第Ｉ番目の正規分布
から求めた重み付け確率ｇijI(xt-1) の対数値ＧijI(x
t-1) が最大の対数値Ｇijm(xt-1) となった場合、次の
第ｔ番目のフレームにおいても第Ｉ番目の正規分布から
求めた重み付け確率ｇijI(xt) の対数値ＧijI(xt) が最
大の対数値Ｇijm(xt) となる可能性が高い。
トルｘt-1 と次のフレームの入力音声特徴ベクトルｘt
とは、時間的に近接しているので、これらベクトルｘt
及びｘt-1 の成分は互いに類似する可能性が高い。従っ
て第ｔ−１番目のフレームにおいて第Ｉ番目の正規分布
から求めた重み付け確率ｇijI(xt-1) の対数値ＧijI(x
t-1) が最大の対数値Ｇijm(xt-1) となった場合、次の
第ｔ番目のフレームにおいても第Ｉ番目の正規分布から
求めた重み付け確率ｇijI(xt) の対数値ＧijI(xt) が最
大の対数値Ｇijm(xt) となる可能性が高い。
【００８７】これがため、この第Ｉ番目の正規分布から
求めた対数値ＧijI(xt) を最大値候補の初期値として、
算出途上の対数値Ｇijm(xt) が最大値候補よりも小さく
なったら、当該対数値Ｇijm(xt) の算出を算出途上で終
了することにより、最大の対数値Ｇijm(xt) 検出に要す
る計算量を減少させることができる。
求めた対数値ＧijI(xt) を最大値候補の初期値として、
算出途上の対数値Ｇijm(xt) が最大値候補よりも小さく
なったら、当該対数値Ｇijm(xt) の算出を算出途上で終
了することにより、最大の対数値Ｇijm(xt) 検出に要す
る計算量を減少させることができる。
【図１】この発明の実施に用いて好適な音声認識装置の
構成を概略的に示す図である。
構成を概略的に示す図である。
【図２】ＨＭＭの説明に供する図である。
【図３】ｔ＝１のときの重み付け対数値Ｇijm(xt) を算
出する場合の動作フローである。
出する場合の動作フローである。
【図４】ｔ≧２のときの重み付け対数値Ｇijm(xt) を算
出する場合の動作フローである。
出する場合の動作フローである。
１０：音声認識装置 １２：辞書部 １４：音響処理部 １６：音声区間検出部 １８：ＨＭＭ照合部 ２０：参照情報記憶部
Claims (1)
- 【請求項１】 隠れマルコフモデルを音声標準パタンと
し、該隠れマルコフモデルは、互いに無相関な複数個の
正規分布を有し当該モデルから出力される音声シンボル
ベクトルの出力確率を表す無相関混合正規分布を備え、
音声区間内の始端フレームから終端フレームまでに抽出
された入力音声特徴ベクトルの時系列と隠れマルコフモ
デルとの間の尤度を、各入力音声特徴ベクトルの出力確
率の対数値を用いて、計算し、最大の尤度を得た隠れマ
ルコフモデルに付与されているカテゴリ名を、当該音声
区間の入力音声信号に対する認識結果とする音声認識方
法において、 ｂij(xt)：総個数Ｍ個の正規分布を有する無相関混合正
規分布を備えた隠れマルコフモデルから、第ｔ番目のフ
レームで抽出された入力音声特徴ベクトルｘt が出力さ
れる出力確率（１≦ｔ≦Ｔ。第１番目のフレームは音声
区間の始端フレーム、及び、第Ｔ番目のフレームは音声
区間の終端フレームを表す。）、 ｇijm(xt) ：総個数Ｍ個の正規分布において第ｍ番目
（１≦ｍ≦Ｍ。）の正規分布から算出される入力音声特
徴ベクトルｘt の重み付け確率 （但し、ｇijm(xt) ＝λijm ｂijm(xt) 、 ｂijm(xt) ＝（２π）-p/2｜ρijm ｜-1/2exp ｛−Ｄ
ijmt 2 ／２｝、 Ｄijmt 2 ＝（ｘt −μijm ）’ρijm -1 （ｘt −μ
ijm ）、 λijm ：第ｍ番目の正規分布の重み、 ｂijm(xt) ：第ｍ番目の正規分布から算出される入力音
声特徴ベクトルｘt の重み無し確率、 ｐ：入力音声特徴ベクトルｘt の次数、 ρijm ：第ｍ番目の正規分布の分散・供分散行列、 μijm ：第ｍ番目の正規分布の平均ベクトル、 Ｄijmt：入力音声特徴ベクトルｘt と第ｍ番目の正規分
布との間の距離を表すマハラビスの汎距離。）、 Ｇijm(xt) ：重み付け確率ｇijm(xt) の対数値 （但し、Ｇijm(xt) ＝Ｅijm −Ｄijmt 2 ／２、 Ｅijm ＝ln（λijm ）＋ln｛（２π）-p/2｜ρijm ｜
-1/2｝。）とするとき、総個数Ｍ個の各正規分布から算
出される重み付け確率ｇijm(xt) の対数値Ｇijm(xt) の
なかで最大の対数値Ｇijm(xt) を、入力音声特徴ベクト
ルｘt の出力確率ｂij(xt)の対数値に用いて、隠れマル
コフモデルとの間の尤度を計算するに当り、 ｔ≧２のときに第ｔ番目のフレームにおいて最大の対数
値Ｇijm(xt) を検出するための最大値候補と、ｔ≧２の
ときに第ｔ−１番目のフレームにおいて最大の対数値Ｇ
ijm(xt) を得た正規分布がいずれであるかを表すインデ
ックスとを格納する参照情報記憶部を設け、 ｔ＝１では、 総個数Ｍ個の全正規分布について各正規分布毎に対数値
Ｇijm(xt) を算出して、最大の対数値Ｇijm(xt) を検出
し、該最大の対数値Ｇijm(xt) を第１番目のフレームに
おける入力音声特徴ベクトルｘt の出力確率ｂij(xt)の
対数値とすると共に該最大の対数値Ｇijm(xt) を得た正
規分布に対応するインデックスを格納し、 ｔ≧２では、（１）まずインデックスに対応する正規分
布を用いて算出した対数値Ｇijm(xt)を最大値候補とし
て格納し、（２）総個数Ｍ個の正規分布のうちインデッ
クスに対応しない残りの正規分布を用いた対数値Ｇ
ijm(xt) の算出では、−Ｄijmt 2 ／２の項を算出するた
めの演算の一又は複数の演算間隔毎に、算出途上の対数
値Ｇijm(xt) を、最大値候補と比較し、（３−Ａ）算出
途上の対数値Ｇijm(xt) が最大値候補より小さくなった
ら、当該対数値Ｇijm(xt) の算出を終了し、然る後、残
りの次の正規分布につき対数値Ｇijm (xt)の算出を開始
し、（３−Ｂ）算出途上の対数値Ｇijm(xt) が最大値候
補より小さくなることなく、当該対数値Ｇijm(xt) の算
出を終了したら、最大値候補を当該対数値Ｇｉｊｍ
（ｘｔ）に書き換え、然る後、残りの次の正規分布につ
き対数値Ｇｉｊｍ（ｘｔ） の算出を開始し、（４）総
個数Ｍ個の全正規分布について対数値Ｇijm(xt) の算出
を終了したら、このとき格納されている最大値候補を得
た正規分布に対応するインデックスに、参照情報記憶部
のインデックスを書換えると共に、当該最大値候補を、
出力確率ｂij(xt)の対数値に用いて、隠れマルコフモデ
ルとの間の尤度を計算することを特徴とする音声認識方
法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7225224A JPH0968996A (ja) | 1995-09-01 | 1995-09-01 | 音声認識方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7225224A JPH0968996A (ja) | 1995-09-01 | 1995-09-01 | 音声認識方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH0968996A true JPH0968996A (ja) | 1997-03-11 |
Family
ID=16825938
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP7225224A Withdrawn JPH0968996A (ja) | 1995-09-01 | 1995-09-01 | 音声認識方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0968996A (ja) |
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007011027A (ja) * | 2005-06-30 | 2007-01-18 | Canon Inc | 音声認識方法及び音声認識装置 |
| JP2015152704A (ja) * | 2014-02-13 | 2015-08-24 | 日本電信電話株式会社 | 信号処理装置、方法及びプログラム |
| JP2015152705A (ja) * | 2014-02-13 | 2015-08-24 | 日本電信電話株式会社 | 信号処理装置、方法及びプログラム |
-
1995
- 1995-09-01 JP JP7225224A patent/JPH0968996A/ja not_active Withdrawn
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2007011027A (ja) * | 2005-06-30 | 2007-01-18 | Canon Inc | 音声認識方法及び音声認識装置 |
| JP2015152704A (ja) * | 2014-02-13 | 2015-08-24 | 日本電信電話株式会社 | 信号処理装置、方法及びプログラム |
| JP2015152705A (ja) * | 2014-02-13 | 2015-08-24 | 日本電信電話株式会社 | 信号処理装置、方法及びプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US5167004A (en) | Temporal decorrelation method for robust speaker verification | |
| US6278970B1 (en) | Speech transformation using log energy and orthogonal matrix | |
| US5072452A (en) | Automatic determination of labels and Markov word models in a speech recognition system | |
| EP0314908B1 (en) | Automatic determination of labels and markov word models in a speech recognition system | |
| AU665745B2 (en) | Methods and apparatus for verifying the originator of a sequence of operations | |
| EP0617827B1 (en) | Composite expert | |
| EP0715298B1 (en) | Reduction of search space in speech recognition using phone boundaries and phone ranking | |
| EP0921519B1 (en) | Technique for adaptation of hidden Markov Models for speech recognition | |
| JPH0372998B2 (ja) | ||
| JP2002500779A (ja) | 識別訓練されたモデルを用いる音声認識システム | |
| JPH05216490A (ja) | 音声コード化装置及び方法並びに音声認識装置及び方法 | |
| JP2011065120A (ja) | すべての言語の音声識別及び音声識別を利用した単字入力の方法 | |
| JPH06274200A (ja) | 音声コード化装置及び方法 | |
| JP3298858B2 (ja) | 低複雑性スピーチ認識器の区分ベースの類似性方法 | |
| JP2000099080A (ja) | 信頼性尺度の評価を用いる音声認識方法 | |
| EP0453649A2 (en) | Method and apparatus for modeling words with composite Markov models | |
| Altınçay et al. | An information theoretic framework for weight estimation in the combination of probabilistic classifiers for speaker identification | |
| Kumar et al. | Comparative analysis of different feature extraction and classifier techniques for speaker identification systems: A review | |
| US6393397B1 (en) | Cohort model selection apparatus and method | |
| WO2002029785A1 (en) | Method, apparatus, and system for speaker verification based on orthogonal gaussian mixture model (gmm) | |
| JPH11143486A (ja) | 話者適応装置および方法 | |
| JP5091202B2 (ja) | サンプルを用いずあらゆる言語を識別可能な識別方法 | |
| JPH0968996A (ja) | 音声認識方法 | |
| US20020133343A1 (en) | Method for speech recognition, apparatus for the same, and voice controller | |
| EP0435336B1 (en) | Reference pattern learning system |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20021105 |