JPH11184494A - 音声認識方法及び装置 - Google Patents
音声認識方法及び装置Info
- Publication number
- JPH11184494A JPH11184494A JP9355273A JP35527397A JPH11184494A JP H11184494 A JPH11184494 A JP H11184494A JP 9355273 A JP9355273 A JP 9355273A JP 35527397 A JP35527397 A JP 35527397A JP H11184494 A JPH11184494 A JP H11184494A
- Authority
- JP
- Japan
- Prior art keywords
- state
- likelihood
- transition
- hidden markov
- markov model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 238000000034 method Methods 0.000 title claims abstract description 72
- 230000007704 transition Effects 0.000 claims abstract description 228
- 230000008569 process Effects 0.000 claims abstract description 25
- 238000004364 calculation method Methods 0.000 claims description 56
- 230000001186 cumulative effect Effects 0.000 claims description 50
- 238000009826 distribution Methods 0.000 claims description 20
- 230000008451 emotion Effects 0.000 claims description 5
- 230000006870 function Effects 0.000 description 18
- 238000004458 analytical method Methods 0.000 description 10
- 238000010586 diagram Methods 0.000 description 9
- 230000001419 dependent effect Effects 0.000 description 7
- 238000007476 Maximum Likelihood Methods 0.000 description 6
- 230000000694 effects Effects 0.000 description 6
- 239000013598 vector Substances 0.000 description 6
- 230000002123 temporal effect Effects 0.000 description 4
- 240000000220 Panda oleosa Species 0.000 description 3
- 235000016496 Panda oleosa Nutrition 0.000 description 3
- 230000014509 gene expression Effects 0.000 description 3
- 230000008859 change Effects 0.000 description 2
- 238000001228 spectrum Methods 0.000 description 2
- 230000000699 topical effect Effects 0.000 description 2
- 206010048669 Terminal state Diseases 0.000 description 1
- 230000002159 abnormal effect Effects 0.000 description 1
- 239000000470 constituent Substances 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 230000010485 coping Effects 0.000 description 1
- 230000002354 daily effect Effects 0.000 description 1
- 238000001514 detection method Methods 0.000 description 1
- 230000003203 everyday effect Effects 0.000 description 1
- 230000006872 improvement Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
Abstract
(57)【要約】
【課題】 処理量を増加させることなく、リジェクト精
度を向上させる。 【解決手段】 隠れマルコフモデルネットワークでなる
音響モデルを利用して音声認識を行う音声認識方法及び
装置に関する。音響モデルを構成する隠れマルコフモデ
ルネットワークの任意の状態間の状態遷移の起こりやす
さを表す状態遷移制約情報をあらかじめ作成して格納し
ておく。認識処理により得られた局所ゆう度と格納され
ている状態遷移制約情報との加重和を、入力音声データ
の各フレーム毎に、隠れマルコフモデルネットワークの
各状態に対して算出し、これを全フレームにわたって累
積加算した値の最大値を参照ゆう度として算出し、認識
処理により得られた認識ゆう度と、参照ゆう度の比較に
より、入力音声データの棄却判定を行う。
度を向上させる。 【解決手段】 隠れマルコフモデルネットワークでなる
音響モデルを利用して音声認識を行う音声認識方法及び
装置に関する。音響モデルを構成する隠れマルコフモデ
ルネットワークの任意の状態間の状態遷移の起こりやす
さを表す状態遷移制約情報をあらかじめ作成して格納し
ておく。認識処理により得られた局所ゆう度と格納され
ている状態遷移制約情報との加重和を、入力音声データ
の各フレーム毎に、隠れマルコフモデルネットワークの
各状態に対して算出し、これを全フレームにわたって累
積加算した値の最大値を参照ゆう度として算出し、認識
処理により得られた認識ゆう度と、参照ゆう度の比較に
より、入力音声データの棄却判定を行う。
Description
【0001】
【発明の属する技術分野】本発明は、音声認識方法及び
音声認識装置に関し、特に、HMM(隠れマルコフモデ
ル;Hidden Markov Model)ネット
ワークを音声認識に利用しているものに適用して好適な
ものである。
音声認識装置に関し、特に、HMM(隠れマルコフモデ
ル;Hidden Markov Model)ネット
ワークを音声認識に利用しているものに適用して好適な
ものである。
【0002】
【従来の技術】文献1:渡辺他,”音節認識を用いたゆ
う度補正による未知発話のリジェクション”,電子情報
通信学会論文誌,Vo1.J75−D−II,No.12
(1992) 文献2:大河内,”Hidden Markov Mo
de1に基づいた音声認識”,日本音響学会誌42巻1
2号(1986) 音声認識装置では高い認識精度とリアルタイム処理を実
現するため、あらかじめ装置が受理できる単語や文法規
則等を規定することによって、認識対象を制約して認識
処理を行う。しかし、利用者が実際に装置を使用する場
合は、認識対象外の発話や言い誤り、言い直しといった
ことは避けられない。そこで、ある発話に対する認識結
果の信頼性が低い場合に発話を棄却するリジェクト機能
が必要になる。リジェクト機能を付加するための方法と
して、従来、上記文献1に開示される方法がある。
う度補正による未知発話のリジェクション”,電子情報
通信学会論文誌,Vo1.J75−D−II,No.12
(1992) 文献2:大河内,”Hidden Markov Mo
de1に基づいた音声認識”,日本音響学会誌42巻1
2号(1986) 音声認識装置では高い認識精度とリアルタイム処理を実
現するため、あらかじめ装置が受理できる単語や文法規
則等を規定することによって、認識対象を制約して認識
処理を行う。しかし、利用者が実際に装置を使用する場
合は、認識対象外の発話や言い誤り、言い直しといった
ことは避けられない。そこで、ある発話に対する認識結
果の信頼性が低い場合に発話を棄却するリジェクト機能
が必要になる。リジェクト機能を付加するための方法と
して、従来、上記文献1に開示される方法がある。
【0003】この方法では、音声を表現するモデル(一
般に、音響モデルと呼ばれる)として、音素や音節など
のサブワード単位のHMMを用いることを前提としてい
る。HMMを用いた音声認識方法の詳細については、上
記文献2に開示されている。サブワードモデルを連結す
ることによって、認識対象として規定された単語や文な
どの発話内容の仮説に対するモデルを構成し、各仮説に
対するモデルが入力音声データを生成する確率(ゆう
度)を計算する。最大ゆう度を与えるモデルに対応する
仮説を認識結果とする。
般に、音響モデルと呼ばれる)として、音素や音節など
のサブワード単位のHMMを用いることを前提としてい
る。HMMを用いた音声認識方法の詳細については、上
記文献2に開示されている。サブワードモデルを連結す
ることによって、認識対象として規定された単語や文な
どの発話内容の仮説に対するモデルを構成し、各仮説に
対するモデルが入力音声データを生成する確率(ゆう
度)を計算する。最大ゆう度を与えるモデルに対応する
仮説を認識結果とする。
【0004】これにリジェクト機能を付加するために
は、以上のような認識対象を制約して行うゆう度計算
(認識処理)の他に、入力音声を任意の音素列あるいは
音節列として認識するためのゆう度計算を行う。それぞ
れのゆう度計算の結果得られた最大ゆう度の差を求め、
閾値判定により入力発話のリジェクト判定を行う。
は、以上のような認識対象を制約して行うゆう度計算
(認識処理)の他に、入力音声を任意の音素列あるいは
音節列として認識するためのゆう度計算を行う。それぞ
れのゆう度計算の結果得られた最大ゆう度の差を求め、
閾値判定により入力発話のリジェクト判定を行う。
【0005】
【発明が解決しようとする課題】しかしながら、以上述
べた従来の音声認識方法及び装置におけるリジェクト方
法は、以下の問題がある。
べた従来の音声認識方法及び装置におけるリジェクト方
法は、以下の問題がある。
【0006】(a)音響モデルとして、トライフォンモ
デル等のコンテキスト依存音素(あるいは音節)モデル
を用いる場合、リジェクト機能を付加すると処理量が大
幅に増加する。
デル等のコンテキスト依存音素(あるいは音節)モデル
を用いる場合、リジェクト機能を付加すると処理量が大
幅に増加する。
【0007】(b)認識対象外発話のリジェクト精度
が、まだ十分といえるレベルではない。
が、まだ十分といえるレベルではない。
【0008】(c)入力音声を任意の音素列あるいは音
節列として認識するので、「うわっ」、「あれっ」、
「ひゃー」などの通常の言語発声とはやや異なる感情を
表現する発声に対して、十分なリジェクト精度を期待す
ることができない。
節列として認識するので、「うわっ」、「あれっ」、
「ひゃー」などの通常の言語発声とはやや異なる感情を
表現する発声に対して、十分なリジェクト精度を期待す
ることができない。
【0009】(d)入力発話の一部に不要語や未知語を
含む場合に、認識のための処理量の増加を抑えつつ、効
果的に不要語や未知語部分を検出し、それ以外の発話部
分を精度良く認識することが困難である。上記(a)と
同様に、音響モデルとしてコンテキスト依存音素(ある
いは音節)モデルを用いる場合は、特に処理量が大幅に
増加する。
含む場合に、認識のための処理量の増加を抑えつつ、効
果的に不要語や未知語部分を検出し、それ以外の発話部
分を精度良く認識することが困難である。上記(a)と
同様に、音響モデルとしてコンテキスト依存音素(ある
いは音節)モデルを用いる場合は、特に処理量が大幅に
増加する。
【0010】トライフォンモデル等のコンテキスト依存
音素モデルは、音素コンテキストに依存した異音を表現
でき、比較的高い認識精度が得られるため音響モデルと
して一般によく用いられる。しかし、上記(a)、
(b)及び(c)の問題のため、リジェクト機能を付加
することが困難であった。また、自然な発話に対する音
声認識装置の頑健性を向上させるには、入力発話中の不
要語や未知語に対処する必要があるが、認識に対する処
理量と精度において十分な性能を得ることは困難であっ
た。
音素モデルは、音素コンテキストに依存した異音を表現
でき、比較的高い認識精度が得られるため音響モデルと
して一般によく用いられる。しかし、上記(a)、
(b)及び(c)の問題のため、リジェクト機能を付加
することが困難であった。また、自然な発話に対する音
声認識装置の頑健性を向上させるには、入力発話中の不
要語や未知語に対処する必要があるが、認識に対する処
理量と精度において十分な性能を得ることは困難であっ
た。
【0011】
【課題を解決するための手段】第1の本発明は、隠れマ
ルコフモデルネットワークでなる音響モデルを利用して
音声認識を行う音声認識方法であって、音響モデルを構
成する隠れマルコフモデルネットワークの任意の状態間
の状態遷移の起こりやすさを表す状態遷移制約情報をあ
らかじめ作成して格納しておき、認識処理により得られ
た局所ゆう度と格納されている状態遷移制約情報とに基
づいて、入力音声データの棄却判定に用いる参照ゆう度
を算出し、認識処理により得られた認識ゆう度と、上記
参照ゆう度の比較により、入力音声データの棄却判定を
行う音声認識方法において、あらかじめ作成して格納し
ておく状態遷移制約情報が、以下のステップa1〜ステ
ップa2で作成されたものであることを特徴とする。
ルコフモデルネットワークでなる音響モデルを利用して
音声認識を行う音声認識方法であって、音響モデルを構
成する隠れマルコフモデルネットワークの任意の状態間
の状態遷移の起こりやすさを表す状態遷移制約情報をあ
らかじめ作成して格納しておき、認識処理により得られ
た局所ゆう度と格納されている状態遷移制約情報とに基
づいて、入力音声データの棄却判定に用いる参照ゆう度
を算出し、認識処理により得られた認識ゆう度と、上記
参照ゆう度の比較により、入力音声データの棄却判定を
行う音声認識方法において、あらかじめ作成して格納し
ておく状態遷移制約情報が、以下のステップa1〜ステ
ップa2で作成されたものであることを特徴とする。
【0012】(ステップa1)音響モデルを構成する隠
れマルコフモデルネットワークの全状態に対するクラス
タリングを行い、生成された状態クラスタにおける各状
態間の遷移接続に基づいて、状態クラスタ間の遷移の起
こりやすさを表わす尺度である状態クラスタ間の遷移確
率の初期値を算出する。
れマルコフモデルネットワークの全状態に対するクラス
タリングを行い、生成された状態クラスタにおける各状
態間の遷移接続に基づいて、状態クラスタ間の遷移の起
こりやすさを表わす尺度である状態クラスタ間の遷移確
率の初期値を算出する。
【0013】(ステップa2)状態クラスタ数と同数の
状態を有する、任意の状態間に遷移接続を有する隠れマ
ルコフモデルネットワークであるエルゴディック隠れマ
ルコフモデルネットワークを構成し、その状態遷移確率
パラメータに上記状態クラスタ間の遷移確率の初期値
を、また、出力確率分布パラメータに各状態クラスタを
代表する状態の出力確率分布をそれぞれ対応させ、この
ようにして作成したエルゴディック隠れマルコフモデル
ネットワークを、音声データを用いて学習することによ
って得られる状態遷移確率を、状態クラスタ間の遷移確
率の推定値とし、隠れマルコフモデルネットワークの各
状態がどの状態クラスタに属するかを示す情報を付加し
て状態遷移制約情報とする。
状態を有する、任意の状態間に遷移接続を有する隠れマ
ルコフモデルネットワークであるエルゴディック隠れマ
ルコフモデルネットワークを構成し、その状態遷移確率
パラメータに上記状態クラスタ間の遷移確率の初期値
を、また、出力確率分布パラメータに各状態クラスタを
代表する状態の出力確率分布をそれぞれ対応させ、この
ようにして作成したエルゴディック隠れマルコフモデル
ネットワークを、音声データを用いて学習することによ
って得られる状態遷移確率を、状態クラスタ間の遷移確
率の推定値とし、隠れマルコフモデルネットワークの各
状態がどの状態クラスタに属するかを示す情報を付加し
て状態遷移制約情報とする。
【0014】第2の本発明は、隠れマルコフモデルネッ
トワークでなる音響モデルを利用して音声認識を行う音
声認識方法において、(1)音響モデルを構成する隠れ
マルコフモデルネットワークの任意の状態間の状態遷移
の起こりやすさを表す状態遷移制約情報をあらかじめ作
成して格納しておき、(2)認識処理により得られた局
所ゆう度と格納されている状態遷移制約情報との加重和
を、入力音声データの各フレーム毎に、隠れマルコフモ
デルネットワークの各状態に対して算出し、これを全フ
レームにわたって累積加算した値の最大値を上記参照ゆ
う度として算出し、(3)認識処理により得られた認識
ゆう度と、上記参照ゆう度の比較により、入力音声デー
タの棄却判定を行うことを特徴とする。
トワークでなる音響モデルを利用して音声認識を行う音
声認識方法において、(1)音響モデルを構成する隠れ
マルコフモデルネットワークの任意の状態間の状態遷移
の起こりやすさを表す状態遷移制約情報をあらかじめ作
成して格納しておき、(2)認識処理により得られた局
所ゆう度と格納されている状態遷移制約情報との加重和
を、入力音声データの各フレーム毎に、隠れマルコフモ
デルネットワークの各状態に対して算出し、これを全フ
レームにわたって累積加算した値の最大値を上記参照ゆ
う度として算出し、(3)認識処理により得られた認識
ゆう度と、上記参照ゆう度の比較により、入力音声デー
タの棄却判定を行うことを特徴とする。
【0015】第3の本発明は、隠れマルコフモデルネッ
トワークでなる音響モデルを利用して音声認識を行う音
声認識方法において、(1)音響モデルを構成する隠れ
マルコフモデルネットワークの任意の状態間の状態遷移
の起こりやすさを表す状態遷移制約情報をあらかじめ作
成して格納しておき、(2)認識処理により得られた局
所ゆう度及び部分仮説累積ゆう度と、上記状態遷移制約
情報とから、入力音声データ中の不要語あるいは未知語
を処理するために用いる不要語仮説累積ゆう度を算出
し、(3)この不要語仮説累積ゆう度を認識処理で用い
て、入力音声データ中の不要語あるいは未知語部分の検
出と、それ以外の部分の認識を行うことを特徴とする。
トワークでなる音響モデルを利用して音声認識を行う音
声認識方法において、(1)音響モデルを構成する隠れ
マルコフモデルネットワークの任意の状態間の状態遷移
の起こりやすさを表す状態遷移制約情報をあらかじめ作
成して格納しておき、(2)認識処理により得られた局
所ゆう度及び部分仮説累積ゆう度と、上記状態遷移制約
情報とから、入力音声データ中の不要語あるいは未知語
を処理するために用いる不要語仮説累積ゆう度を算出
し、(3)この不要語仮説累積ゆう度を認識処理で用い
て、入力音声データ中の不要語あるいは未知語部分の検
出と、それ以外の部分の認識を行うことを特徴とする。
【0016】第4の本発明は、隠れマルコフモデルネッ
トワークでなる音響モデルを利用して音声認識を行う音
声認識装置において、(1)あらかじめ作成された、音
響モデルを構成する隠れマルコフモデルネットワークの
任意の状態間の状態遷移の起こりやすさを表す状態遷移
制約情報を格納している状態遷移制約情報格納手段と、
(2)入力音声データに対する認識結果を算出する認識
処理手段と、(3)認識処理により得られた局所ゆう度
と格納されている状態遷移制約情報とに基づいて、参照
ゆう度を算出する参照ゆう度算出手段と、(4)認識処
理により得られた認識ゆう度と、上記参照ゆう度の比較
により、入力音声データの棄却判定を行うリジェクト判
定手段とを有し、(5)上記状態遷移制約情報格納手段
に格納されている状態遷移制約情報が、以下のステップ
c1〜ステップc2で作成されたものであることを特徴
とする。
トワークでなる音響モデルを利用して音声認識を行う音
声認識装置において、(1)あらかじめ作成された、音
響モデルを構成する隠れマルコフモデルネットワークの
任意の状態間の状態遷移の起こりやすさを表す状態遷移
制約情報を格納している状態遷移制約情報格納手段と、
(2)入力音声データに対する認識結果を算出する認識
処理手段と、(3)認識処理により得られた局所ゆう度
と格納されている状態遷移制約情報とに基づいて、参照
ゆう度を算出する参照ゆう度算出手段と、(4)認識処
理により得られた認識ゆう度と、上記参照ゆう度の比較
により、入力音声データの棄却判定を行うリジェクト判
定手段とを有し、(5)上記状態遷移制約情報格納手段
に格納されている状態遷移制約情報が、以下のステップ
c1〜ステップc2で作成されたものであることを特徴
とする。
【0017】(ステップc1)音響モデルを構成する隠
れマルコフモデルネットワークの全状態に対するクラス
タリングを行い、生成された状態クラスタにおける各状
態間の遷移接続に基づいて、状態クラスタ間の遷移の起
こりやすさを表わす尺度である状態クラスタ間の遷移確
率の初期値を算出する。
れマルコフモデルネットワークの全状態に対するクラス
タリングを行い、生成された状態クラスタにおける各状
態間の遷移接続に基づいて、状態クラスタ間の遷移の起
こりやすさを表わす尺度である状態クラスタ間の遷移確
率の初期値を算出する。
【0018】(ステップc2)状態クラスタ数と同数の
状態を有する、任意の状態間に遷移接続を有する隠れマ
ルコフモデルネットワークであるエルゴディック隠れマ
ルコフモデルネットワークを構成し、その状態遷移確率
パラメータに上記状態クラスタ間の遷移確率の初期値
を、また、出力確率分布パラメータに各状態クラスタを
代表する状態の出力確率分布をそれぞれ対応させ、この
ようにして作成したエルゴディック隠れマルコフモデル
ネットワークを、音声データを用いて学習することによ
って得られる状態遷移確率を、状態クラスタ間の遷移確
率の推定値とし、隠れマルコフモデルネットワークの各
状態がどの状態クラスタに属するかを示す情報を付加し
て状態遷移制約情報とする。
状態を有する、任意の状態間に遷移接続を有する隠れマ
ルコフモデルネットワークであるエルゴディック隠れマ
ルコフモデルネットワークを構成し、その状態遷移確率
パラメータに上記状態クラスタ間の遷移確率の初期値
を、また、出力確率分布パラメータに各状態クラスタを
代表する状態の出力確率分布をそれぞれ対応させ、この
ようにして作成したエルゴディック隠れマルコフモデル
ネットワークを、音声データを用いて学習することによ
って得られる状態遷移確率を、状態クラスタ間の遷移確
率の推定値とし、隠れマルコフモデルネットワークの各
状態がどの状態クラスタに属するかを示す情報を付加し
て状態遷移制約情報とする。
【0019】第5の本発明は、隠れマルコフモデルネッ
トワークでなる音響モデルを利用して音声認識を行う音
声認識装置において、(1)あらかじめ作成された、音
響モデルを構成する隠れマルコフモデルネットワークの
任意の状態間の状態遷移の起こりやすさを表す状態遷移
制約情報を格納している状態遷移制約情報格納手段と、
(2)入力音声データに対する認識結果を算出する認識
処理手段と、(3)認識処理により得られた局所ゆう度
と格納されている状態遷移制約情報との加重和を、入力
音声データの各フレーム毎に、隠れマルコフモデルネッ
トワークの各状態に対して算出し、これを全フレームに
わたって累積加算した値の最大値を上記参照ゆう度とし
て算出する参照ゆう度算出手段と、(4)認識処理によ
り得られた認識ゆう度と、上記参照ゆう度の比較によ
り、入力音声データの棄却判定を行うリジェクト判定手
段とを有することを特徴とする。
トワークでなる音響モデルを利用して音声認識を行う音
声認識装置において、(1)あらかじめ作成された、音
響モデルを構成する隠れマルコフモデルネットワークの
任意の状態間の状態遷移の起こりやすさを表す状態遷移
制約情報を格納している状態遷移制約情報格納手段と、
(2)入力音声データに対する認識結果を算出する認識
処理手段と、(3)認識処理により得られた局所ゆう度
と格納されている状態遷移制約情報との加重和を、入力
音声データの各フレーム毎に、隠れマルコフモデルネッ
トワークの各状態に対して算出し、これを全フレームに
わたって累積加算した値の最大値を上記参照ゆう度とし
て算出する参照ゆう度算出手段と、(4)認識処理によ
り得られた認識ゆう度と、上記参照ゆう度の比較によ
り、入力音声データの棄却判定を行うリジェクト判定手
段とを有することを特徴とする。
【0020】第6の本発明は、隠れマルコフモデルネッ
トワークでなる音響モデルを利用して音声認識を行う音
声認識装置において、(1)あらかじめ作成された、音
響モデルを構成する隠れマルコフモデルネットワークの
任意の状態間の状態遷移の起こりやすさを表す状態遷移
制約情報を格納している状態遷移制約情報格納手段と、
(2)入力音声データに対する認識結果を算出すると共
に、その際、不要語仮説累積ゆう度を認識処理で用い
て、入力音声データ中の不要語あるいは未知語部分の検
出と、それ以外の部分の認識を行う認識処理手段と、
(3)認識処理により得られた局所ゆう度及び部分仮説
累積ゆう度と、上記状態遷移制約情報とから、入力音声
データ中の不要語あるいは未知語を処理するために用い
る不要語仮説累積ゆう度を算出する不要語処理手段とを
有することを特徴とする。
トワークでなる音響モデルを利用して音声認識を行う音
声認識装置において、(1)あらかじめ作成された、音
響モデルを構成する隠れマルコフモデルネットワークの
任意の状態間の状態遷移の起こりやすさを表す状態遷移
制約情報を格納している状態遷移制約情報格納手段と、
(2)入力音声データに対する認識結果を算出すると共
に、その際、不要語仮説累積ゆう度を認識処理で用い
て、入力音声データ中の不要語あるいは未知語部分の検
出と、それ以外の部分の認識を行う認識処理手段と、
(3)認識処理により得られた局所ゆう度及び部分仮説
累積ゆう度と、上記状態遷移制約情報とから、入力音声
データ中の不要語あるいは未知語を処理するために用い
る不要語仮説累積ゆう度を算出する不要語処理手段とを
有することを特徴とする。
【0021】
【発明の実施の形態】(A)第1の実施形態 以下、本発明による音声認識方法及び装置の第1の実施
形態を図面を参照しながら詳述する。
形態を図面を参照しながら詳述する。
【0022】(A−1)第1の実施形態の全体構成及び
概略動作 まず、この第1の実施形態の音声認識装置の全体構成を
その概略動作と共に説明する。
概略動作 まず、この第1の実施形態の音声認識装置の全体構成を
その概略動作と共に説明する。
【0023】ここで、図1は、この第1の実施形態の音
声認識装置の全体構成を示すブロック図である。
声認識装置の全体構成を示すブロック図である。
【0024】図1において、第1の実施形態の音声認識
装置は、音声分析部10、音響モデル(格納部)11、
言語モデル(格納部)12、認識処理部13、参照ゆう
度算出部14、参照テーブル(状態遷移制約情報格納手
段)15及びリジェクト判定部16からなっている。
装置は、音声分析部10、音響モデル(格納部)11、
言語モデル(格納部)12、認識処理部13、参照ゆう
度算出部14、参照テーブル(状態遷移制約情報格納手
段)15及びリジェクト判定部16からなっている。
【0025】入力音声データD10は、マイクロフォン
などから入力された音声信号(アナログ信号)をディジ
タル信号に変換した信号である。音声分析部10におい
て、入力音声データD10は音響特徴パラメータ時系列
D11に変換され、認識処理部13に入力される。認識
処理部13では、音響モデル11及び言語モデル12を
用いて、入力音声データD10に対する認識結果候補D
12及び認識ゆう度(ゆう度は確からしさ)D13を求
め、リジェクト判定部16に出力する。また、参照ゆう
度算出部14では、認識処理部13で算出された局所ゆ
う度D14と、参照テーブル15に格納されている状態
遷移制約情報D15とを用いて、参照ゆう度D16を算
出する。リジェクト判定部16では、認識ゆう度D13
と参照ゆう度D16を用いてリジェクト判定を行い、認
識結果(場合によってはリジェクトという認識結果)D
17を出力する。
などから入力された音声信号(アナログ信号)をディジ
タル信号に変換した信号である。音声分析部10におい
て、入力音声データD10は音響特徴パラメータ時系列
D11に変換され、認識処理部13に入力される。認識
処理部13では、音響モデル11及び言語モデル12を
用いて、入力音声データD10に対する認識結果候補D
12及び認識ゆう度(ゆう度は確からしさ)D13を求
め、リジェクト判定部16に出力する。また、参照ゆう
度算出部14では、認識処理部13で算出された局所ゆ
う度D14と、参照テーブル15に格納されている状態
遷移制約情報D15とを用いて、参照ゆう度D16を算
出する。リジェクト判定部16では、認識ゆう度D13
と参照ゆう度D16を用いてリジェクト判定を行い、認
識結果(場合によってはリジェクトという認識結果)D
17を出力する。
【0026】次に、図1に示した音声認識装置を構成し
ている各部の機能及び動作について、詳細に説明する。
ている各部の機能及び動作について、詳細に説明する。
【0027】(A−2)音声分析部10 音声分析部10は、LPC(Linear Predi
ctive Coding)分析等の分析手法を用い
て、入力音声データD10を数ms〜数十ms程度の短
時間周期(以後、フレームと呼ぶ)毎に音響特徴パラメ
ータに変換する。ここで、音響特徴パラメータとは、音
声データのスペクトル包絡情報を表現するパラメータで
あり、例えば、ケプストラム(対数スペクトルを逆フー
リエ変換した量)やその時間変化量などである。フレー
ム単位に得られる音響特徴パラメータを音響特徴パラメ
ータ時系列D11とする。
ctive Coding)分析等の分析手法を用い
て、入力音声データD10を数ms〜数十ms程度の短
時間周期(以後、フレームと呼ぶ)毎に音響特徴パラメ
ータに変換する。ここで、音響特徴パラメータとは、音
声データのスペクトル包絡情報を表現するパラメータで
あり、例えば、ケプストラム(対数スペクトルを逆フー
リエ変換した量)やその時間変化量などである。フレー
ム単位に得られる音響特徴パラメータを音響特徴パラメ
ータ時系列D11とする。
【0028】(A−3)音響モデル11 音響モデル11は、音声を表現するモデル(HMM)の
集合である。この第1の実施形態では、音響モデル11
の言語的な単位として、音声の任意の構成要素(音素、
音節、単語、文節など)を採用することが可能である。
また、音素や音節などのサブワードを単位として採用し
た場合、コンテキスト独立/依存のどちらのモデルでも
使用することができる。つまり、リジェクト機能を付加
するために使用する音響モデルが制限されることはな
い。
集合である。この第1の実施形態では、音響モデル11
の言語的な単位として、音声の任意の構成要素(音素、
音節、単語、文節など)を採用することが可能である。
また、音素や音節などのサブワードを単位として採用し
た場合、コンテキスト独立/依存のどちらのモデルでも
使用することができる。つまり、リジェクト機能を付加
するために使用する音響モデルが制限されることはな
い。
【0029】以下の第1の実施形態の説明においては、
例として、トライフォンモデルを使用する場合について
説明する。トライフォンモデルは、コンテキスト依存音
素モデルで、各々の音素に対して、前後の音素コンテス
ト別に異なるモデルを用意するものである。
例として、トライフォンモデルを使用する場合について
説明する。トライフォンモデルは、コンテキスト依存音
素モデルで、各々の音素に対して、前後の音素コンテス
ト別に異なるモデルを用意するものである。
【0030】(A−4)言語モデル12 言語モデル12は、音声認識装置が受理可能な単語や文
法規則(構文)等を規定して、認識対象を制約するモデ
ルである。例えば、図2に示すように、有限状態オート
マトンを用いて、受理可能な単語系列を構文ネットワー
クの形で記述したものである。
法規則(構文)等を規定して、認識対象を制約するモデ
ルである。例えば、図2に示すように、有限状態オート
マトンを用いて、受理可能な単語系列を構文ネットワー
クの形で記述したものである。
【0031】(A−5)認識処理部13 認識処理部13は、音声が音声認識装置に入力される
(認識処理を開始する)以前に、音響モデル11及び言
語モデル12を用いて受理可能な発話内容の仮説を表現
するHMMネットワークをあらかじめ構成しておく。
(認識処理を開始する)以前に、音響モデル11及び言
語モデル12を用いて受理可能な発話内容の仮説を表現
するHMMネットワークをあらかじめ構成しておく。
【0032】ここで、HMMネットワークとは、単語の
音素表記や文法規則等の制約に従ってトライフォンモデ
ルを連結して作成する、文字通りHMMのネットワーク
である。例えば、図2に示したような構文ネットワーク
において、単語の部分を、トライフォンモデルの連結に
よって作成した単語モデル(HMM)に置き換えたもの
である。このようなネットワークを構成することによっ
て認識処理を効率化することができる。各々の発話内容
に仮説に対応するモデルは、HMMネットワークの一部
として表現される。
音素表記や文法規則等の制約に従ってトライフォンモデ
ルを連結して作成する、文字通りHMMのネットワーク
である。例えば、図2に示したような構文ネットワーク
において、単語の部分を、トライフォンモデルの連結に
よって作成した単語モデル(HMM)に置き換えたもの
である。このようなネットワークを構成することによっ
て認識処理を効率化することができる。各々の発話内容
に仮説に対応するモデルは、HMMネットワークの一部
として表現される。
【0033】認識処理部13は、装置に発話が入力され
ると、HMMネットワークを用いて対応するモデルが音
響特徴パラメータ時系列D11を生成する確率(ゆう
度)を計算する。認識処理部13は、HMMネットワー
ク中で最大ゆう度を与える仮説を探索し、その仮説を認
識結果候補D12とし、また、このときの最大ゆう度を
対数化した最大対数ゆう度を、認識ゆう度D13とす
る。
ると、HMMネットワークを用いて対応するモデルが音
響特徴パラメータ時系列D11を生成する確率(ゆう
度)を計算する。認識処理部13は、HMMネットワー
ク中で最大ゆう度を与える仮説を探索し、その仮説を認
識結果候補D12とし、また、このときの最大ゆう度を
対数化した最大対数ゆう度を、認識ゆう度D13とす
る。
【0034】ここで、認識処理部13は、各仮説に対す
るゆう度計算を、音響特徴パラメータ時系列D11のフ
レームに同期して並列に行う。認識処理部13は、各フ
レームについては、HMMネットワークの各状態に対す
る出力確率分布計算(当該フレームの音響特徴パラメー
タを出力する確率の計算)を行い、これを対数化して局
所ゆう度14とする。
るゆう度計算を、音響特徴パラメータ時系列D11のフ
レームに同期して並列に行う。認識処理部13は、各フ
レームについては、HMMネットワークの各状態に対す
る出力確率分布計算(当該フレームの音響特徴パラメー
タを出力する確率の計算)を行い、これを対数化して局
所ゆう度14とする。
【0035】認識処理部13は、認識ゆう度D13を、
局所ゆう度D14とHMMネットワークの状態遷移確率
を用いて、前述した文献2に開示されるビタビ(Vit
erbi)アルゴリズム等の手段により算出する。
局所ゆう度D14とHMMネットワークの状態遷移確率
を用いて、前述した文献2に開示されるビタビ(Vit
erbi)アルゴリズム等の手段により算出する。
【0036】(A−6)参照テーブル15 参照テーブル15は、参照ゆう度算出部14で用いる状
態遷移制約情報D15を格納しているテーブルである。
状態遷移制約情報D15は、あらかじめ音響モデル11
を用いて作成される。図示しない参照テーブル作成部が
行う状態遷移制約情報D15の作成方法は、以下の通り
である。
態遷移制約情報D15を格納しているテーブルである。
状態遷移制約情報D15は、あらかじめ音響モデル11
を用いて作成される。図示しない参照テーブル作成部が
行う状態遷移制約情報D15の作成方法は、以下の通り
である。
【0037】[step1]参照テーブル作成部は、ま
ず、音響モデル11を構成する全てのトライフォンモデ
ルを用いて、HMMネットワークの状態に対するクラス
タリングを行う。
ず、音響モデル11を構成する全てのトライフォンモデ
ルを用いて、HMMネットワークの状態に対するクラス
タリングを行う。
【0038】クラスタリングにより生成される各クラス
タを、以後、状態クラスタと呼ぶ。クラスタリングにお
ける距離尺度は、各状態を表現するパラメータを用いて
定義する。例えば、各状態の出力確率分布が多次元正規
分布で表されている場合には、多次元正規分布の平均ベ
クトル(あるいは、さらに分散ベクトルを付加したベク
トル)を用いて、例えば、以下のように定義すればよ
い。
タを、以後、状態クラスタと呼ぶ。クラスタリングにお
ける距離尺度は、各状態を表現するパラメータを用いて
定義する。例えば、各状態の出力確率分布が多次元正規
分布で表されている場合には、多次元正規分布の平均ベ
クトル(あるいは、さらに分散ベクトルを付加したベク
トル)を用いて、例えば、以下のように定義すればよ
い。
【0039】2つの平均ベクトル(あるいは、さらに分
散ベクトルを付加したベクトル) x=[a1,a2,…,an] y=[b1,b2,…,bn] に対する、距離尺度Dを、 D=(a1−b1)2 +(a2−b2)2 +…+(an
−bn)2 で定義する。
散ベクトルを付加したベクトル) x=[a1,a2,…,an] y=[b1,b2,…,bn] に対する、距離尺度Dを、 D=(a1−b1)2 +(a2−b2)2 +…+(an
−bn)2 で定義する。
【0040】クラスタリング方法には、LBGアルゴリ
ズム等の一般的なクラスタリングアルゴリズムを用いる
ことができるが、ここでは、より簡易な方法を、一例と
して以下に示す。
ズム等の一般的なクラスタリングアルゴリズムを用いる
ことができるが、ここでは、より簡易な方法を、一例と
して以下に示す。
【0041】M個のサンプル集合X={x1,x2,・
・・,xM}をクラスタリングする場合を考える。ま
た、閾値Thが与えられているとする。
・・,xM}をクラスタリングする場合を考える。ま
た、閾値Thが与えられているとする。
【0042】まず、任意に1個のサンプル、例えばx1
を取り出し、これをクラスタ中心z1(=x1)とす
る。
を取り出し、これをクラスタ中心z1(=x1)とす
る。
【0043】次に、他のサンプルxk(k=2,…,
M)を取り出し、既に定められたクラスタ中心z1と今
回取り出したサンプルxkとの距離D1kを計算する。
そして、D1k≦Thであれば、サンプルxkはクラス
タ中心z1を中心とするクラスタに属すると判定する。
一方、D1k>Thであれば、サンプルxkを新たなク
ラスタ中心z2とする。
M)を取り出し、既に定められたクラスタ中心z1と今
回取り出したサンプルxkとの距離D1kを計算する。
そして、D1k≦Thであれば、サンプルxkはクラス
タ中心z1を中心とするクラスタに属すると判定する。
一方、D1k>Thであれば、サンプルxkを新たなク
ラスタ中心z2とする。
【0044】また次に、残りのサンプルxkの1個を取
り出し、既に定められたクラスタ中心z1,z2との距
離D1k,D2kを計算して、距離D1k,D2kのい
ずれかが閾値Thより小さければ、今回取り出したサン
プルxkはそのクラスタに属するものとし、そうでなけ
れば、今回取り出したサンプルxkを新たなクラスタ中
心z3とする。
り出し、既に定められたクラスタ中心z1,z2との距
離D1k,D2kを計算して、距離D1k,D2kのい
ずれかが閾値Thより小さければ、今回取り出したサン
プルxkはそのクラスタに属するものとし、そうでなけ
れば、今回取り出したサンプルxkを新たなクラスタ中
心z3とする。
【0045】以上の操作を全てのサンプル{x1,x
2,・・・,xM}に対して行うことによって、クラス
タリングを終了する。ここで、閾値Thの値は、例えば
実験的に決定する。
2,・・・,xM}に対して行うことによって、クラス
タリングを終了する。ここで、閾値Thの値は、例えば
実験的に決定する。
【0046】[step2]図示しない参照テーブル作
成部は、次に、状態クラスタ間の遷移確率を算出する。
状態クラスタ間の遷移確率の算出は、例えば、以下のよ
うに行う。
成部は、次に、状態クラスタ間の遷移確率を算出する。
状態クラスタ間の遷移確率の算出は、例えば、以下のよ
うに行う。
【0047】まず、状態クラスタ間の遷移確率を定義す
る。それぞれの状態クラスタに属する各状態は、トライ
フォンモデル上では他の状態に接続させている。例え
ば、図3に示すように、状態S1 は状態S2 に、状態S
2 は状態S3 にそれぞれ接続されている。また、トライ
フォンモデルの終端状態S3 は、次に続き得るトランフ
ォンモデルの始端状態S4 ,S5 ,S6 に接続されてい
る。一般に、あるトライフォンモデルに対して、次に続
き得るトランフォンモデルは複数存在するので、トライ
フォンモデルの終端状態は複数に接続されている。状態
の接続関係には向き(図3では矢印)があり、向きは一
方の状態から他方の状態への遷移方向を表している。こ
のときの遷移の起こりやすさとして、状態遷移確率が付
与されている。また、各状態には自己ループ遷移を表す
接続も存在する。このようなトランフォンモデル上での
状態の遷移接続を、状態クラスタに属する各状態に対し
て適用する。そうすると、任意の状態クラスタ間に、構
成要素の状態が作る遷移接続の束ができる。図4はこの
様子を示した例である。図4において、状態クラスタ1
に属する状態S1 は、状態クラスタ2に属する状態S2
に接続されており、トランフォンモデルにおいて、状態
S1 から状態S2 への遷移接続(状態遷移確率a12)が
存在することを意味する。図4では状態クラスタ1に属
する状態から、他の状態クラスタに属する状態への遷移
接続だけを示した(一部、状態クラスタ1の内部におけ
る遷移接続も示した)。状態クラスタ間で同一の遷移方
向を持つ遷移接続を束ねたものが”遷移接続の束”であ
る。
る。それぞれの状態クラスタに属する各状態は、トライ
フォンモデル上では他の状態に接続させている。例え
ば、図3に示すように、状態S1 は状態S2 に、状態S
2 は状態S3 にそれぞれ接続されている。また、トライ
フォンモデルの終端状態S3 は、次に続き得るトランフ
ォンモデルの始端状態S4 ,S5 ,S6 に接続されてい
る。一般に、あるトライフォンモデルに対して、次に続
き得るトランフォンモデルは複数存在するので、トライ
フォンモデルの終端状態は複数に接続されている。状態
の接続関係には向き(図3では矢印)があり、向きは一
方の状態から他方の状態への遷移方向を表している。こ
のときの遷移の起こりやすさとして、状態遷移確率が付
与されている。また、各状態には自己ループ遷移を表す
接続も存在する。このようなトランフォンモデル上での
状態の遷移接続を、状態クラスタに属する各状態に対し
て適用する。そうすると、任意の状態クラスタ間に、構
成要素の状態が作る遷移接続の束ができる。図4はこの
様子を示した例である。図4において、状態クラスタ1
に属する状態S1 は、状態クラスタ2に属する状態S2
に接続されており、トランフォンモデルにおいて、状態
S1 から状態S2 への遷移接続(状態遷移確率a12)が
存在することを意味する。図4では状態クラスタ1に属
する状態から、他の状態クラスタに属する状態への遷移
接続だけを示した(一部、状態クラスタ1の内部におけ
る遷移接続も示した)。状態クラスタ間で同一の遷移方
向を持つ遷移接続を束ねたものが”遷移接続の束”であ
る。
【0048】この遷移接続の束を用いて状態クラスタ間
の遷移確率を、次の(1)式〜(3)式により定義す
る。
の遷移確率を、次の(1)式〜(3)式により定義す
る。
【0049】
【数1】 Pij:状態クラスタhから状態クラスタiへの遷移確率 N:状態クラスタの総数 M:状態の総数 auv:状態Su から状態Sv への状態遷移確率 auu:状態Su の自己ループ遷移確率 ri :ともに状態クラスタiに属する異なる状態間にお
ける遷移接続の個数(自己ループ遷移接続は対象外) zi :状態クラスタiから他の状態クラスタへの”遷移
接続の束”の個数 qu :ある状態クラスタに属する状態Su から他の状態
クラスタに属する状態への遷移接続の個数 上式において、fij(i≠j)は、状態クラスタiから
状態クラスタjへの遷移接続の束に対する状態遷移確率
の総和を表している。ただし、遷移接続が存在しない状
態クラスタ間においてはfij=0である。また、f
iiは、状態クラスタiの内部における遷移接続に対する
状態遷移確率の総和を、状態クラスタiから他の状態ク
ラスタへの”遷移接続の束”の個数で割った値を表して
いる。
ける遷移接続の個数(自己ループ遷移接続は対象外) zi :状態クラスタiから他の状態クラスタへの”遷移
接続の束”の個数 qu :ある状態クラスタに属する状態Su から他の状態
クラスタに属する状態への遷移接続の個数 上式において、fij(i≠j)は、状態クラスタiから
状態クラスタjへの遷移接続の束に対する状態遷移確率
の総和を表している。ただし、遷移接続が存在しない状
態クラスタ間においてはfij=0である。また、f
iiは、状態クラスタiの内部における遷移接続に対する
状態遷移確率の総和を、状態クラスタiから他の状態ク
ラスタへの”遷移接続の束”の個数で割った値を表して
いる。
【0050】状態クラスタ間の遷移確率の初期値の算出
は、状態クラスタ間の遷移接続に基づいて算出するので
あれば、上記以外の式を用いて行っても構わない。
は、状態クラスタ間の遷移接続に基づいて算出するので
あれば、上記以外の式を用いて行っても構わない。
【0051】[step3]図示しない参照テーブル作
成部は、次に、状態クラスタ間の遷移確率の推定を行
う。状態クラスタ間の遷移確率の推定は、例えば、以下
のように行う。
成部は、次に、状態クラスタ間の遷移確率の推定を行
う。状態クラスタ間の遷移確率の推定は、例えば、以下
のように行う。
【0052】状態クラスタ数と同数の状態を有するエル
ゴディックHMM(任意の状態間に遷移接続を有するH
MM)を構成し、状態遷移確率パラメータには上記[s
tep2]で算出した状態クラスタ間の遷移確率の初期
値を、出力確率分布パラメータには各状態クラスタのセ
ントロイド(クラスタ中心)に対応する状態の出力確率
分布をそれぞれ対応させる。このようにして作成したエ
ルゴディックHMMを、音声データを用いて学習する。
得られた状態遷移確率を、状態クラスタ間の遷移確率の
推定値とする。
ゴディックHMM(任意の状態間に遷移接続を有するH
MM)を構成し、状態遷移確率パラメータには上記[s
tep2]で算出した状態クラスタ間の遷移確率の初期
値を、出力確率分布パラメータには各状態クラスタのセ
ントロイド(クラスタ中心)に対応する状態の出力確率
分布をそれぞれ対応させる。このようにして作成したエ
ルゴディックHMMを、音声データを用いて学習する。
得られた状態遷移確率を、状態クラスタ間の遷移確率の
推定値とする。
【0053】ここで、学習とは、用いるデータの生成確
率が最大になるように、HMMのパラメータを推定する
ことで、上記文献2に開示されるBaum−Welch
アルゴリズム等の方法により実行することができる。B
aum−Welchアルゴリズム等の一般に知られてい
るHWの学習方法は、データの生成確率が局所的に最大
になるようにしかパラメータを推定することができない
ため、パラメータの初期値がきわめて重要になる。エル
ゴディックHMMのパラメータの初期値に、上記の値を
対応させることにより、比較的高い精度でパラメータを
推定することができる。
率が最大になるように、HMMのパラメータを推定する
ことで、上記文献2に開示されるBaum−Welch
アルゴリズム等の方法により実行することができる。B
aum−Welchアルゴリズム等の一般に知られてい
るHWの学習方法は、データの生成確率が局所的に最大
になるようにしかパラメータを推定することができない
ため、パラメータの初期値がきわめて重要になる。エル
ゴディックHMMのパラメータの初期値に、上記の値を
対応させることにより、比較的高い精度でパラメータを
推定することができる。
【0054】なお、学習に際しては、出力確率分布パラ
メータを固定化して、状態遷移確率パラメータのみ推定
することも可能である。また、上記の学習に用いる音声
データには、音響モデル11のHMMを作成(学習)す
る際に用いた音声データのみならず、「うわっ」、「あ
れっ」などの通常の言語発声とはやや異なる”感情を表
現する発声の音声データ”を併用する。このようにする
ことによって、上記のような発声に特有な音声の時間構
造を状態クラスタ間の遷移確率の推定値に反映させるこ
とができる。従って、上記のような発声に対するリジェ
クト精度の向上を期待することができる。
メータを固定化して、状態遷移確率パラメータのみ推定
することも可能である。また、上記の学習に用いる音声
データには、音響モデル11のHMMを作成(学習)す
る際に用いた音声データのみならず、「うわっ」、「あ
れっ」などの通常の言語発声とはやや異なる”感情を表
現する発声の音声データ”を併用する。このようにする
ことによって、上記のような発声に特有な音声の時間構
造を状態クラスタ間の遷移確率の推定値に反映させるこ
とができる。従って、上記のような発声に対するリジェ
クト精度の向上を期待することができる。
【0055】[step4]推定した状態クラスタ間の
遷移確率Pijを対数化して、重み係数(定数)Wを乗じ
る。ここで、状態クラスタ間の遷移確率の記号には、初
期値に用いた記号と特に区別することなくPijを用い
た。また、重み係数Wについては後述する参照ゆう度算
出部14で説明する。このようにして得られた値W・l
og Pijに、トライフォンモデルの各状態がどの状態
クラスタに属するかを示すヘッダ情報を付加して状態遷
移制約情報D15とする。
遷移確率Pijを対数化して、重み係数(定数)Wを乗じ
る。ここで、状態クラスタ間の遷移確率の記号には、初
期値に用いた記号と特に区別することなくPijを用い
た。また、重み係数Wについては後述する参照ゆう度算
出部14で説明する。このようにして得られた値W・l
og Pijに、トライフォンモデルの各状態がどの状態
クラスタに属するかを示すヘッダ情報を付加して状態遷
移制約情報D15とする。
【0056】(A−7)参照ゆう度算出部14 参照ゆう度算出部14では、次の(4)、(5)式に従
って参照ゆう度D16を算出する。
って参照ゆう度D16を算出する。
【0057】
【数2】 LG :参照ゆう度D16 T:フレーム総数 W:状態遷移制約情報に対する重み係数 u:フレーム番号(t−1)において、(5)式の右辺
の最大値を与える状態番号 v:任意の状態番号 Pij:状態クラスタhから状態クラスタiへの遷移確率 i,j:任意の状態クラスタ番号 Vt :認識処理部13において、フレーム番号tに出力
確率分布計算を行う状態全体の集合 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレームtにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 上記(5)式において、log bv (Xt )は認識処
理部13より局所ゆう度D14として与えられ、W・l
og cuvは参照テーブル15より状態遷移制約情報D
15として与えられる。従って、参照ゆう度算出部14
で行う演算は、加算と大小比較のみである。
の最大値を与える状態番号 v:任意の状態番号 Pij:状態クラスタhから状態クラスタiへの遷移確率 i,j:任意の状態クラスタ番号 Vt :認識処理部13において、フレーム番号tに出力
確率分布計算を行う状態全体の集合 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレームtにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 上記(5)式において、log bv (Xt )は認識処
理部13より局所ゆう度D14として与えられ、W・l
og cuvは参照テーブル15より状態遷移制約情報D
15として与えられる。従って、参照ゆう度算出部14
で行う演算は、加算と大小比較のみである。
【0058】また、(4)式において、状態遷移制約情
報に対する重み係数Wは、logcuvとlog b
v (Xt )のLg (t)に寄与する割合を調節するため
のパラメータ(定数)であり、定数INHは状態クラス
タ間の遷移確率を対数化した値の下限値を設定するため
のパラメータ(定数)で、クラスタ別に設定することも
可能である。ともに、その値は実験的に決定する。参照
ゆう度LG は任意の発話内容を表現するモデルに対する
累積対数ゆう度を表す。また、Lg (t)は任意の発話
内容を表現するモデルに対する各フレームにおける局所
的な対数ゆう度を表す。
報に対する重み係数Wは、logcuvとlog b
v (Xt )のLg (t)に寄与する割合を調節するため
のパラメータ(定数)であり、定数INHは状態クラス
タ間の遷移確率を対数化した値の下限値を設定するため
のパラメータ(定数)で、クラスタ別に設定することも
可能である。ともに、その値は実験的に決定する。参照
ゆう度LG は任意の発話内容を表現するモデルに対する
累積対数ゆう度を表す。また、Lg (t)は任意の発話
内容を表現するモデルに対する各フレームにおける局所
的な対数ゆう度を表す。
【0059】次に、Lg (t)を定義する(5)式にお
けるlog cuvの働きについて説明する。フレーム番
号(t−1)において(5)式の右辺の最大値を与える
状態番号をuとする。log cuvは状態番号uが何で
あるかによって、次フレーム番号tにおいて(5)式の
右辺の最大値を与える状態番号の候補を制約する。状態
番号uの状態から状態番号vの状態への遷移の起こりや
すさを制約として用いている。このような状態遷移制約
によって、トライフォンモデルが有する音声の時間構造
を考慮した参照ゆう度の算出を可能にしている。
けるlog cuvの働きについて説明する。フレーム番
号(t−1)において(5)式の右辺の最大値を与える
状態番号をuとする。log cuvは状態番号uが何で
あるかによって、次フレーム番号tにおいて(5)式の
右辺の最大値を与える状態番号の候補を制約する。状態
番号uの状態から状態番号vの状態への遷移の起こりや
すさを制約として用いている。このような状態遷移制約
によって、トライフォンモデルが有する音声の時間構造
を考慮した参照ゆう度の算出を可能にしている。
【0060】(A−8)リジェクト判定部16 リジェクト判定部16は、次の(6)式により、認識ゆ
う度LR と参照ゆう度LG との差をフレーム総数で正規
化した値LM を求め、この値LM を閾値θと比較して入
力音声データD10のリジェクト判定を行う。なお、
(6)式における認識ゆう度LR (=D13)は、認識
処理部13から与えられ、参照ゆう度LG(=D16)
は、参照ゆう度算出部14から与えられる。
う度LR と参照ゆう度LG との差をフレーム総数で正規
化した値LM を求め、この値LM を閾値θと比較して入
力音声データD10のリジェクト判定を行う。なお、
(6)式における認識ゆう度LR (=D13)は、認識
処理部13から与えられ、参照ゆう度LG(=D16)
は、参照ゆう度算出部14から与えられる。
【0061】
【数3】 LR :認識ゆう度D13 LG :参照ゆう度D16 T:フレーム総数 θ:リジェクト判定の閾値 (6)式において、リジェクト判定の閾値θは、例えば
実験的に決定される。閾値θの値によって、入力が認識
対象である場合の認識率と、認識対象外である場合のリ
ジェクト率が変化する。一般に、両者にはトレードオフ
の関係にあるので、所望の性能に合わせて閾値θの値を
決定する。
実験的に決定される。閾値θの値によって、入力が認識
対象である場合の認識率と、認識対象外である場合のリ
ジェクト率が変化する。一般に、両者にはトレードオフ
の関係にあるので、所望の性能に合わせて閾値θの値を
決定する。
【0062】リジェクト判定部16は、値LM が閾値θ
より大きければ、入力がリジェクトされたことを表す情
報を認識結果D17として出力し、一方、値LM が閾値
θ以下であれば、認識処理部13から与えられた認識結
果候補D12を認識結果D17として出力する。
より大きければ、入力がリジェクトされたことを表す情
報を認識結果D17として出力し、一方、値LM が閾値
θ以下であれば、認識処理部13から与えられた認識結
果候補D12を認識結果D17として出力する。
【0063】(A−9)第1の実施形態の効果 第1の実施形態では、入力発話のリジェクト判定に用い
る参照ゆう度D16を、認識ゆう度D13の算出過程で
得られる局所ゆう度D14と、あらかじめ作成した状態
遷移制約情報D15を用いて算出する。入力音声データ
の各フレーム毎に、加算と最大値選択を行なうだけで参
照ゆう度D16を算出するため、リジェクト機能の付加
による処理量の増加をきわめて小さくすることができ
る。
る参照ゆう度D16を、認識ゆう度D13の算出過程で
得られる局所ゆう度D14と、あらかじめ作成した状態
遷移制約情報D15を用いて算出する。入力音声データ
の各フレーム毎に、加算と最大値選択を行なうだけで参
照ゆう度D16を算出するため、リジェクト機能の付加
による処理量の増加をきわめて小さくすることができ
る。
【0064】また、参照ゆう度D16の算出において、
以下の点を考慮しているため、様々な入力に対して、従
来法と同等、あるいはそれを越えるリジェクト精度を期
待することがができる。
以下の点を考慮しているため、様々な入力に対して、従
来法と同等、あるいはそれを越えるリジェクト精度を期
待することがができる。
【0065】(1)音声の時間構造を表現するパラメー
タとして、音声データを用いて任意の状態間の遷移の起
りやすさを、状態クラスタレベルで推定した値を使用し
ている。こうすることにより、参照ゆう度D16の算出
において、音声の時間構造を比較的高い精度で考慮する
ことを可能にしている、また、パラメータ推定の際に、
通常の言語発声の音声データのみならず、「うわっ」、
「あれっ」などの感情を表現する発声の音声データを併
用することにより、このような発声に特有な音声の時間
構造を推定パラメータに反映させることができる。
タとして、音声データを用いて任意の状態間の遷移の起
りやすさを、状態クラスタレベルで推定した値を使用し
ている。こうすることにより、参照ゆう度D16の算出
において、音声の時間構造を比較的高い精度で考慮する
ことを可能にしている、また、パラメータ推定の際に、
通常の言語発声の音声データのみならず、「うわっ」、
「あれっ」などの感情を表現する発声の音声データを併
用することにより、このような発声に特有な音声の時間
構造を推定パラメータに反映させることができる。
【0066】(2)認識処理部13で計算されるHMM
の各状態に対する局所ゆう度D14を用いて、音声の種
々の音響的事象に対処可能にしている。
の各状態に対する局所ゆう度D14を用いて、音声の種
々の音響的事象に対処可能にしている。
【0067】従って、認識対象外の発話(認識対象語以
外の語、あるいは文法外の発話)が装置に入力された場
合に、認識のための処理量をほとんど増加させることな
く、効果的に入力を棄却することが可能になる。
外の語、あるいは文法外の発話)が装置に入力された場
合に、認識のための処理量をほとんど増加させることな
く、効果的に入力を棄却することが可能になる。
【0068】(B)第2の実施形態 以下、本発明による音声認識方法及び装置の第2の実施
形態を図面を参照しながら詳述する。
形態を図面を参照しながら詳述する。
【0069】第1の実施形態では、認識対象語以外の語
や文法外の入力発話を、全体として棄却する方法につい
て説明した。第2の実施形態では、入力発話の一部に
「あのー」、「えーと」等に代表される間投詞や、「○
○かな」、「○○とか」等の不要な語尾、あるいは
「(じょ)情報」といったような言いよどみなどを含む
場合に対処するものである。以後、間投詞、不要な語、
言いよどみ等をまとめて不要語と呼ぶ。
や文法外の入力発話を、全体として棄却する方法につい
て説明した。第2の実施形態では、入力発話の一部に
「あのー」、「えーと」等に代表される間投詞や、「○
○かな」、「○○とか」等の不要な語尾、あるいは
「(じょ)情報」といったような言いよどみなどを含む
場合に対処するものである。以後、間投詞、不要な語、
言いよどみ等をまとめて不要語と呼ぶ。
【0070】(B−1)第2の実施形態の全体構成及び
概略動作 まず、この第2の実施形態の音声認識装置の全体構成を
その概略動作と共に説明する。
概略動作 まず、この第2の実施形態の音声認識装置の全体構成を
その概略動作と共に説明する。
【0071】ここで、図5は、この第2の実施形態の音
声認識装置の全体構成を示すブロック図である。
声認識装置の全体構成を示すブロック図である。
【0072】図5において、第2の実施形態の音声認識
装置は、音声分析部20、音響モデル(格納部)21、
言語モデル(格納部)22、認識処理部23、不要語処
理部24及び参照テーブル25からなっている。
装置は、音声分析部20、音響モデル(格納部)21、
言語モデル(格納部)22、認識処理部23、不要語処
理部24及び参照テーブル25からなっている。
【0073】入力音声データD20は、マイクロフォン
などから入力された音声(アナログ信号)をディジタル
信号に変換した信号である。入力音声データD20は、
音声分析部20により音響特徴パラメータ時系列D21
に変換され、認識処理部23に入力される。認識処理部
23では音響モデル21及び言語モデル22を用いて、
入力音声データD20に対する認識結果D26を出力す
る。また、不要語処理部24では認識処理部23で算出
される局所ゆう度D22と部分仮説累積ゆう度D23、
さらに参照テーブル25に格納されている状態遷移制約
情報D24を用いて不要語仮説累積ゆう度D25を算出
する。不要語仮説累積ゆう度D25は認識処理部23に
出力され、認識結果D26の算出に用いられる。
などから入力された音声(アナログ信号)をディジタル
信号に変換した信号である。入力音声データD20は、
音声分析部20により音響特徴パラメータ時系列D21
に変換され、認識処理部23に入力される。認識処理部
23では音響モデル21及び言語モデル22を用いて、
入力音声データD20に対する認識結果D26を出力す
る。また、不要語処理部24では認識処理部23で算出
される局所ゆう度D22と部分仮説累積ゆう度D23、
さらに参照テーブル25に格納されている状態遷移制約
情報D24を用いて不要語仮説累積ゆう度D25を算出
する。不要語仮説累積ゆう度D25は認識処理部23に
出力され、認識結果D26の算出に用いられる。
【0074】次に、図5に示した音声認識装置を構成し
ている各部の機能及び動作について、詳細に説明する。
なお、音声分析部20、音響モデル21については、第
1の実施形態のもの(10、11)と同一であるのでそ
の説明を省略する。
ている各部の機能及び動作について、詳細に説明する。
なお、音声分析部20、音響モデル21については、第
1の実施形態のもの(10、11)と同一であるのでそ
の説明を省略する。
【0075】(B−2)参照テーブル25 参照テーブル25は不要語処理部24で用いる状態遷移
制約情報D24を格納しているテーブルである。状態遷
移制約情報D24は、第1の実施形態と同様の方法であ
らかじめ作成しておく。ただし、第1の実施形態で述べ
たエルゴディックHMMの学習に用いる音声データに
は、音響モデル22のHMMを作成(学習)する際に用
いた音声データだけでなく、「あのー」、「えーと」等
の間投詞や、「○○かな」、「○○とか」等の不要な語
尾など、日常的な発話でよく用いられる不要語の音声デ
ータを併用する。このようにすることによって、上記の
ような発声に特有な音声の時間構造を状態遷移制約情報
D24に反映させることができる。従って、比較的よく
用いられる不要語の発声に対する検出精度の向上を期待
することができる、 (B−3)言語モデル22 言語モデル22は、音声認識装置が受理可能な単語や文
法規則(構文)等を規定して、認識対象を制約するモデ
ルである。例えば、図6に示すように有限状態オートマ
トンを用いて、受理可能な単語系列を構文ネットワーク
の形で記述したものである。この第2の実施形態では、
入力発話中の不要語に対処するため、構文ネットワーク
の各ノードに自己遷移として不要語を表現するアークを
付加する。このようにすることによって、任意の単語間
において不要語を受理することが可能になる。
制約情報D24を格納しているテーブルである。状態遷
移制約情報D24は、第1の実施形態と同様の方法であ
らかじめ作成しておく。ただし、第1の実施形態で述べ
たエルゴディックHMMの学習に用いる音声データに
は、音響モデル22のHMMを作成(学習)する際に用
いた音声データだけでなく、「あのー」、「えーと」等
の間投詞や、「○○かな」、「○○とか」等の不要な語
尾など、日常的な発話でよく用いられる不要語の音声デ
ータを併用する。このようにすることによって、上記の
ような発声に特有な音声の時間構造を状態遷移制約情報
D24に反映させることができる。従って、比較的よく
用いられる不要語の発声に対する検出精度の向上を期待
することができる、 (B−3)言語モデル22 言語モデル22は、音声認識装置が受理可能な単語や文
法規則(構文)等を規定して、認識対象を制約するモデ
ルである。例えば、図6に示すように有限状態オートマ
トンを用いて、受理可能な単語系列を構文ネットワーク
の形で記述したものである。この第2の実施形態では、
入力発話中の不要語に対処するため、構文ネットワーク
の各ノードに自己遷移として不要語を表現するアークを
付加する。このようにすることによって、任意の単語間
において不要語を受理することが可能になる。
【0076】(B−4)認識処理部23 認識処理部23ではあらかじめ音声が装置に入力される
(認識処理を開始する)以前に、音響モデル21及び言
語モデル22を用いて受理可能な発話内容の仮説を表現
するHMMネットワークを構成しておく。HMMネット
ワークとは、単語の音素表記や文法規則等の制約に従っ
てトライフォンモデルを連結して作成する、文字通りH
MMのネットワークである。例えば、図6に示したよう
な構文ネットワークにおいて、単語の部分をトライフォ
ンモデルの連結によって作成した単語モデル(HMM)
に置き換えたものである。
(認識処理を開始する)以前に、音響モデル21及び言
語モデル22を用いて受理可能な発話内容の仮説を表現
するHMMネットワークを構成しておく。HMMネット
ワークとは、単語の音素表記や文法規則等の制約に従っ
てトライフォンモデルを連結して作成する、文字通りH
MMのネットワークである。例えば、図6に示したよう
な構文ネットワークにおいて、単語の部分をトライフォ
ンモデルの連結によって作成した単語モデル(HMM)
に置き換えたものである。
【0077】ただし、不要語の部分については、HMM
による明示的な不要語モデルを用意せず、後述する不要
語処理部24を介して各ノードに自己遷移させる。つま
り、不要語処理部24を不要語モデルとして用いる。こ
のようなネットワークを構成することによって認識処
理、及び不要語処理を効率的に行うことができる。
による明示的な不要語モデルを用意せず、後述する不要
語処理部24を介して各ノードに自己遷移させる。つま
り、不要語処理部24を不要語モデルとして用いる。こ
のようなネットワークを構成することによって認識処
理、及び不要語処理を効率的に行うことができる。
【0078】各々の発話内容の仮説に対応するモデル
は、仮説の任意の単語間において不要語を受理可能な形
で、HMMネットワークの一部として表現される。装置
に発話が入力されると、HMMネットワークを用いて各
仮説に対応するモデルが音響特徴パラメータ時系列D2
1を生成する確率(ゆう度)を計算する。HMMネット
ワーク中で最大ゆう度を与える仮説を探索し、認識結果
D26とする。入力発話の一部に不要語が含まれる場合
の認識結果D26は、例えば次のようになる。
は、仮説の任意の単語間において不要語を受理可能な形
で、HMMネットワークの一部として表現される。装置
に発話が入力されると、HMMネットワークを用いて各
仮説に対応するモデルが音響特徴パラメータ時系列D2
1を生成する確率(ゆう度)を計算する。HMMネット
ワーク中で最大ゆう度を与える仮説を探索し、認識結果
D26とする。入力発話の一部に不要語が含まれる場合
の認識結果D26は、例えば次のようになる。
【0079】(例)図6の言語モデルを用いた場合 入力発話:「それじゃあー 東京の(こ)交通情報」 認識結果D26:「#東京#交通情報」(#は不要語を
表す記号) 認識結果D26に対応する最大ゆう度を対数化した最大
対数ゆう度を、以後、認識ゆう度と呼ぶ。ここで、各仮
説に対するゆう度計算は、音響特徴パラメータ時系列D
21のフレームに同期して並列に行う。各フレームでは
HMMの各状態に対する出力確率分布計算(当該フレー
ムの音響特徴パラメータを出力する確率の計算)を行
い、これを対数化して局所ゆう度D22とする。認識ゆ
う度は局所ゆう度D22とHMMの状態遷移確率を用い
て、上記文献2に開示されるViterbiアルゴリズ
ム等の手段により算出する。
表す記号) 認識結果D26に対応する最大ゆう度を対数化した最大
対数ゆう度を、以後、認識ゆう度と呼ぶ。ここで、各仮
説に対するゆう度計算は、音響特徴パラメータ時系列D
21のフレームに同期して並列に行う。各フレームでは
HMMの各状態に対する出力確率分布計算(当該フレー
ムの音響特徴パラメータを出力する確率の計算)を行
い、これを対数化して局所ゆう度D22とする。認識ゆ
う度は局所ゆう度D22とHMMの状態遷移確率を用い
て、上記文献2に開示されるViterbiアルゴリズ
ム等の手段により算出する。
【0080】ただし、不要語の部分は不要語処理部24
によりゆう度計算を行う。不要語処理部24におけるゆ
う度計算方法については次項で説明する。認識ゆう度を
算出する上での不要語処理部24の扱いは、他の単語モ
デルと同様である。音響パラメータ時系列D21のフレ
ーム番号1から任意のフレーム番号までの”発話内容の
部分仮説”に対する累積対数ゆう度を、部分仮説累積ゆ
う度D23とする。部分仮説累積ゆう度D23は、その
部分仮説の終端フレーム番号を付加して不要語処理部2
4に出力される。
によりゆう度計算を行う。不要語処理部24におけるゆ
う度計算方法については次項で説明する。認識ゆう度を
算出する上での不要語処理部24の扱いは、他の単語モ
デルと同様である。音響パラメータ時系列D21のフレ
ーム番号1から任意のフレーム番号までの”発話内容の
部分仮説”に対する累積対数ゆう度を、部分仮説累積ゆ
う度D23とする。部分仮説累積ゆう度D23は、その
部分仮説の終端フレーム番号を付加して不要語処理部2
4に出力される。
【0081】(B−5)不要語処理部24 不要語処理部24では、次の(7)〜(9)式に従って
不要語仮説累積ゆう度D25を算出する。以下では、不
要語を表す発話内容の部分仮説を不要語仮説、不要語仮
説に対する対数ゆう度を不要語仮説ゆう度と呼ぶ。
不要語仮説累積ゆう度D25を算出する。以下では、不
要語を表す発話内容の部分仮説を不要語仮説、不要語仮
説に対する対数ゆう度を不要語仮説ゆう度と呼ぶ。
【0082】
【数4】 LB (t1):フレーム番号t1における不要語仮説累
積ゆう度D25 LF (t0−1):フレーム番号(t0−1)における
部分仮説累積ゆう度D23 LG (t1):フレーム番号t1における不要語仮説ゆ
う度 t0:不要語仮説ゆう度の算出における始端フレーム番
号 t1:不要語仮説ゆう度の算出における終端フレーム番
号 Tmin:不要語仮説ゆう度の算出に用いる(最小フレ
ーム数−1) Tdel:不要語仮説ゆう度の算出に用いる最大フレー
ム数と最小フレーム数の差 R:補正定数 T:フレーム総数 W:状態遷移制約情報に対する重み係数 u:フレーム番号(t−1)において、(9)式の右辺
の最大値を与える状態番号 v:任意の状態の番号 i,j:任意の状態クラスタ番号 Vt :認識処理部23において、フレーム番号tに局所
ゆう度D22の計算が行われた状態全体の集合 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレーム番号tにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 不要語仮説ゆう度の算出における始端フレーム番号及び
終端フレーム番号をそれぞれt0、t1とし、このとき
の不要語仮説ゆう度をLG (t1)で表す。不要語仮説
累積ゆう度D25はフレーム番号(t0−1)における
部分仮説累積ゆう度D23と、不要語仮説ゆう度L
G (t1)の和として定義する。従って、不要語仮説累
積ゆう度D25はフレーム番号1からフレーム番号t1
(不要語仮説ゆう度の算出における終端フレーム番号)
までの発話内容の部分仮説に対する累積対数ゆう度を表
している。
積ゆう度D25 LF (t0−1):フレーム番号(t0−1)における
部分仮説累積ゆう度D23 LG (t1):フレーム番号t1における不要語仮説ゆ
う度 t0:不要語仮説ゆう度の算出における始端フレーム番
号 t1:不要語仮説ゆう度の算出における終端フレーム番
号 Tmin:不要語仮説ゆう度の算出に用いる(最小フレ
ーム数−1) Tdel:不要語仮説ゆう度の算出に用いる最大フレー
ム数と最小フレーム数の差 R:補正定数 T:フレーム総数 W:状態遷移制約情報に対する重み係数 u:フレーム番号(t−1)において、(9)式の右辺
の最大値を与える状態番号 v:任意の状態の番号 i,j:任意の状態クラスタ番号 Vt :認識処理部23において、フレーム番号tに局所
ゆう度D22の計算が行われた状態全体の集合 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレーム番号tにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 不要語仮説ゆう度の算出における始端フレーム番号及び
終端フレーム番号をそれぞれt0、t1とし、このとき
の不要語仮説ゆう度をLG (t1)で表す。不要語仮説
累積ゆう度D25はフレーム番号(t0−1)における
部分仮説累積ゆう度D23と、不要語仮説ゆう度L
G (t1)の和として定義する。従って、不要語仮説累
積ゆう度D25はフレーム番号1からフレーム番号t1
(不要語仮説ゆう度の算出における終端フレーム番号)
までの発話内容の部分仮説に対する累積対数ゆう度を表
している。
【0083】次に、不要語仮説ゆう度LG (t1)につ
いて説明する。(8)式は任意の始端フレーム番号t0
に対して、異なる(Tdel+1)個の終端フレーム番
号t1(=t0+Tmin,t0+Tmin+1,…,
t0+Tmin+Tdel)における不要語仮説ゆう度
LG (t1)を算出することを表している。(8)式に
おいて、Lg (t)は各フレームにおける不要語仮説に
対する局所的な対数ゆう度を表す。また、補正定数Rは
不要語仮説ゆう度の変域を調節するためのパラメータ
(定数)で、値は実験的に決定する。不要語仮説ゆう度
LG (t1)は{Lg (t)+R}を始端フレーム番号
t0から終端フレーム番号t1まで累積加算したものと
して定義する。不要語仮説ゆう度LG (t1)の算出に
用いる(最小フレーム数−1)Tmin、及び最大フレ
ーム数と最小フレーム数の差Tdelの値は実験的に決
定する。
いて説明する。(8)式は任意の始端フレーム番号t0
に対して、異なる(Tdel+1)個の終端フレーム番
号t1(=t0+Tmin,t0+Tmin+1,…,
t0+Tmin+Tdel)における不要語仮説ゆう度
LG (t1)を算出することを表している。(8)式に
おいて、Lg (t)は各フレームにおける不要語仮説に
対する局所的な対数ゆう度を表す。また、補正定数Rは
不要語仮説ゆう度の変域を調節するためのパラメータ
(定数)で、値は実験的に決定する。不要語仮説ゆう度
LG (t1)は{Lg (t)+R}を始端フレーム番号
t0から終端フレーム番号t1まで累積加算したものと
して定義する。不要語仮説ゆう度LG (t1)の算出に
用いる(最小フレーム数−1)Tmin、及び最大フレ
ーム数と最小フレーム数の差Tdelの値は実験的に決
定する。
【0084】Lg (t)を定義する(9)式において、
log bv (Xt )は認識処理部23より局所ゆう度
D22として与えられ、W・log cuvは参照テーブ
ル25より状態遷移制約情報D24として与えられる。
従って、不要語処理部24で行う演算は、加算と大小比
較のみである。また、(9)式において、状態遷移制約
情報に対する重み係数Wは、log cuvとlog b
v (Xt )のLg (t)に寄与する割合を調節するため
のパラメータ(定数)であり、定数INHは状態クラス
タ間の遷移確率を対数化した値の下限値を設定するため
のパラメータ(定数)で、クラスタ別に設定することも
可能である。ともに、その値は実験的に決定する。
log bv (Xt )は認識処理部23より局所ゆう度
D22として与えられ、W・log cuvは参照テーブ
ル25より状態遷移制約情報D24として与えられる。
従って、不要語処理部24で行う演算は、加算と大小比
較のみである。また、(9)式において、状態遷移制約
情報に対する重み係数Wは、log cuvとlog b
v (Xt )のLg (t)に寄与する割合を調節するため
のパラメータ(定数)であり、定数INHは状態クラス
タ間の遷移確率を対数化した値の下限値を設定するため
のパラメータ(定数)で、クラスタ別に設定することも
可能である。ともに、その値は実験的に決定する。
【0085】次に、(9)式におけるlog cuvの働
きについて説明する。フレーム番号(t−1)におい
て、(9)式の右辺の最大値を与える状態番号をuとす
る。log cuvは状態番号uが何であるかによって、
次フレーム番号tにおいて(9)式の右辺の最大値を与
える状態番号の候補を制約する。状態番号uの状態から
状態番号vの状態への遷移の起こりやすさを制約として
用いている。このような状態遷移制約によって、トライ
フォンモデルが有する音声の時間構造を考慮した不要語
仮説ゆう度の算出を可能にしている。
きについて説明する。フレーム番号(t−1)におい
て、(9)式の右辺の最大値を与える状態番号をuとす
る。log cuvは状態番号uが何であるかによって、
次フレーム番号tにおいて(9)式の右辺の最大値を与
える状態番号の候補を制約する。状態番号uの状態から
状態番号vの状態への遷移の起こりやすさを制約として
用いている。このような状態遷移制約によって、トライ
フォンモデルが有する音声の時間構造を考慮した不要語
仮説ゆう度の算出を可能にしている。
【0086】不要語処理部24で算出されたフレーム番
号t1における不要語仮説累積ゆう度D25は、認識処
理部23に出力される。認識処理部23では、不要語仮
説に後続する発話内容の部分仮説に対するゆう度計算
を、不要語仮説累積ゆう度D25を初期値とし、フレー
ム番号(t1+1)を始端フレーム番号として行う。こ
のようにすることによって、認識処理部23における認
識ゆう度の計算は、単語仮説(単語を表す発話内容の部
分仮説)に対するゆう度と不要語仮説に対するゆう度を
同様に扱って行うことができる。
号t1における不要語仮説累積ゆう度D25は、認識処
理部23に出力される。認識処理部23では、不要語仮
説に後続する発話内容の部分仮説に対するゆう度計算
を、不要語仮説累積ゆう度D25を初期値とし、フレー
ム番号(t1+1)を始端フレーム番号として行う。こ
のようにすることによって、認識処理部23における認
識ゆう度の計算は、単語仮説(単語を表す発話内容の部
分仮説)に対するゆう度と不要語仮説に対するゆう度を
同様に扱って行うことができる。
【0087】(B−6)第2の実施形態の効果 第2の実施形態では、入力発話の一部に不要語を含む場
合に対処するため、不要語仮説に対するゆう度(不要語
仮説ゆう度)を、認識ゆう度算出過程で得られる局所ゆ
う度D22と、あらかじめ作成した状態遷移制約情報D
24を用いて算出する。入力音声データの各フレーム毎
に、加算と最大値選択を行うだけで不要語仮説ゆう度を
算出するため、不要語処理の付加による処理量の増加を
きわめて小さくすることができる。不要語処理の付加に
よる処理量の増加は、HMMによる明示的な不要語モデ
ル(一般に、garbageモデルと呼ばれ、種々の不
要語を1種類のHMMでモデル化する)を用いる方法よ
り小さい。
合に対処するため、不要語仮説に対するゆう度(不要語
仮説ゆう度)を、認識ゆう度算出過程で得られる局所ゆ
う度D22と、あらかじめ作成した状態遷移制約情報D
24を用いて算出する。入力音声データの各フレーム毎
に、加算と最大値選択を行うだけで不要語仮説ゆう度を
算出するため、不要語処理の付加による処理量の増加を
きわめて小さくすることができる。不要語処理の付加に
よる処理量の増加は、HMMによる明示的な不要語モデ
ル(一般に、garbageモデルと呼ばれ、種々の不
要語を1種類のHMMでモデル化する)を用いる方法よ
り小さい。
【0088】また、不要語仮説ゆう度の算出において、
以下の点を考慮しているため、入力発話の一部に不要語
を含む場合に、認識のための処理量の増加を小さく抑え
つつ、効果的に不要語を検出し、不要語以外の部分の認
識率を向上させることが可能になる。しかも、不要語が
入力発話の先頭、末尾、任意の単語間において複数含ま
れていても対処可能である。
以下の点を考慮しているため、入力発話の一部に不要語
を含む場合に、認識のための処理量の増加を小さく抑え
つつ、効果的に不要語を検出し、不要語以外の部分の認
識率を向上させることが可能になる。しかも、不要語が
入力発話の先頭、末尾、任意の単語間において複数含ま
れていても対処可能である。
【0089】(1)音声の時間構造を表現するパラメー
タとして、音声データを用いて任意の状態間の遷移の起
りやすさを、状態クラスタレベルで推定した値を使用し
ている。これにより、不要語仮説ゆう度の算出におい
て、音声の時間構造を比較的高い精度で考慮することを
可能にしている。
タとして、音声データを用いて任意の状態間の遷移の起
りやすさを、状態クラスタレベルで推定した値を使用し
ている。これにより、不要語仮説ゆう度の算出におい
て、音声の時間構造を比較的高い精度で考慮することを
可能にしている。
【0090】また、パラメータ推定の際に、音響モデル
22のHMMの作成(学習)に用いた音声データのみな
らず、「あのー」、「えーと」等の間投詞や、「○○か
な」、「○○とか」等の不要な語尾など、日常的な発話
でよく用いられる不要語の音声データを併用することに
より、このような発声に特有な音声の時間構造を推定パ
ラメータに反映させることができる。
22のHMMの作成(学習)に用いた音声データのみな
らず、「あのー」、「えーと」等の間投詞や、「○○か
な」、「○○とか」等の不要な語尾など、日常的な発話
でよく用いられる不要語の音声データを併用することに
より、このような発声に特有な音声の時間構造を推定パ
ラメータに反映させることができる。
【0091】(2)認識処理部23で計算されるHMM
の各状態に対する局所ゆう度D22を用いて、音声の種
々の音響的事象に対処可能にしている。従って、入力発
話の一部に不要語を含む場合に、認識のための処理量の
増加を小さく抑えつつ効果的に不要語を検出し、不要語
以外の部分の認識率を向上させることが可能になる。し
かも、不要語が入力発話の先頭、末尾、任意の単語間に
おいて複数含まれていても対処可能である。
の各状態に対する局所ゆう度D22を用いて、音声の種
々の音響的事象に対処可能にしている。従って、入力発
話の一部に不要語を含む場合に、認識のための処理量の
増加を小さく抑えつつ効果的に不要語を検出し、不要語
以外の部分の認識率を向上させることが可能になる。し
かも、不要語が入力発話の先頭、末尾、任意の単語間に
おいて複数含まれていても対処可能である。
【0092】また、第2の実施形態では、以下に示すよ
うな効果も得られる。
うな効果も得られる。
【0093】(a)音響モデルとして、音素や音節など
のサブワードに対するコンテキスト依存モデルを用いて
も、不要語処理の付加による処理量の増加は非常に小さ
くて済む。
のサブワードに対するコンテキスト依存モデルを用いて
も、不要語処理の付加による処理量の増加は非常に小さ
くて済む。
【0094】(b)garbageモデルを用いる場合
に比べて、不要語を表現するモデルの音響的分解能が高
い。従って、種々の不要語の音響的バリエーションに対
処することが可能である。
に比べて、不要語を表現するモデルの音響的分解能が高
い。従って、種々の不要語の音響的バリエーションに対
処することが可能である。
【0095】(C)第3の実施形態 以下、本発明による音声認識方法及び装置の第3の実施
形態を図面を参照しながら詳述する。
形態を図面を参照しながら詳述する。
【0096】(C−1)第3の実施形態の全体構成及び
概略動作 第3の実施形態の音声認識装置の全体構成は、上述した
第1の実施形態で説明した図1で表すことができ、その
ため、第3の実施形態の音声認識装置の全体構成を改め
て図示することを行わず、以下では、図1での符号を適
宜用いて説明を行う。
概略動作 第3の実施形態の音声認識装置の全体構成は、上述した
第1の実施形態で説明した図1で表すことができ、その
ため、第3の実施形態の音声認識装置の全体構成を改め
て図示することを行わず、以下では、図1での符号を適
宜用いて説明を行う。
【0097】また、第3の実施形態の音声認識装置の概
略動作も、第1の実施形態と同様であり、その説明は省
略する。
略動作も、第1の実施形態と同様であり、その説明は省
略する。
【0098】しかし、参照ゆう度算出部14の機能、動
作が第1の実施形態のものと異なっており、また、参照
ゆう度算出部14が処理において適宜参照する参照テー
ブル15の格納内容(状態遷移制約情報D15)が第1
の実施形態とは異なっている。そこで、以下では、この
第3の実施形態の参照テーブル15及び参照ゆう度算出
部14の機能、動作についてのみ説明する。
作が第1の実施形態のものと異なっており、また、参照
ゆう度算出部14が処理において適宜参照する参照テー
ブル15の格納内容(状態遷移制約情報D15)が第1
の実施形態とは異なっている。そこで、以下では、この
第3の実施形態の参照テーブル15及び参照ゆう度算出
部14の機能、動作についてのみ説明する。
【0099】(C−2)参照テーブル15 この第3の実施形態でも、参照テーブル15は参照ゆう
度算出部14で用いる状態遷移制約情報D15を格納し
ているテーブルである。しかしながら、状態遷移制約情
報D15を、あらかじめ音響モデル11、音声データを
用いて作成しておく方法が、従って、状態遷移制約情報
D15が第1の実施形態とは異なっている。そこで、以
下では、この第3の実施形態における状態遷移制約情報
D15の作成方法を説明する。
度算出部14で用いる状態遷移制約情報D15を格納し
ているテーブルである。しかしながら、状態遷移制約情
報D15を、あらかじめ音響モデル11、音声データを
用いて作成しておく方法が、従って、状態遷移制約情報
D15が第1の実施形態とは異なっている。そこで、以
下では、この第3の実施形態における状態遷移制約情報
D15の作成方法を説明する。
【0100】[step1]音響モデル11を構成する
すべてのトライフォンモデルを用いて、HMMの状態に
対するクラスタリングを行う。この処理は、第1の実施
形態と同様であるので、その説明は省略する。
すべてのトライフォンモデルを用いて、HMMの状態に
対するクラスタリングを行う。この処理は、第1の実施
形態と同様であるので、その説明は省略する。
【0101】[step2]まず、状態クラスタ間の遷
移確率Pijを算出する。第1の実施形態においては、上
記(1)式〜(3)式で定義された状態クラスタ間の遷
移確率Pijを初期値として、step3において状態ク
ラスタ間の遷移確率Pijに対する推定動作を実行して状
態クラスタ間の遷移確率Pijを最終的に定めるものを示
したが、この第3の実施形態では、上記(1)式〜
(3)式で定義された状態クラスタ間の遷移確率Pijを
そのまま最終的な状態クラスタ間の遷移確率Pijとす
る。
移確率Pijを算出する。第1の実施形態においては、上
記(1)式〜(3)式で定義された状態クラスタ間の遷
移確率Pijを初期値として、step3において状態ク
ラスタ間の遷移確率Pijに対する推定動作を実行して状
態クラスタ間の遷移確率Pijを最終的に定めるものを示
したが、この第3の実施形態では、上記(1)式〜
(3)式で定義された状態クラスタ間の遷移確率Pijを
そのまま最終的な状態クラスタ間の遷移確率Pijとす
る。
【0102】上記(1)式〜(3)式に従って算出され
た状態クラスタ間の遷移確率Pijを、対数化して重み係
数(定数)Wを乗じる。このようにして得られたW・l
ogPijに、トライフォンモデルの各状態がどの状態
クラスタに属するかを示すヘッダ情報を付加して状態遷
移制約情報D15とする。
た状態クラスタ間の遷移確率Pijを、対数化して重み係
数(定数)Wを乗じる。このようにして得られたW・l
ogPijに、トライフォンモデルの各状態がどの状態
クラスタに属するかを示すヘッダ情報を付加して状態遷
移制約情報D15とする。
【0103】(C−3)参照ゆう度算出部14 参照ゆう度算出部14では、次の(10)、(11)式
に従って参照ゆう度D16を算出する。
に従って参照ゆう度D16を算出する。
【0104】
【数5】 LG :参照ゆう度D16 t:フレーム番号 T:フレーム総数 u:認識処理部13において、フレーム番号(t−1)
に局所ゆう度D14の計算が行われた状態の番号 v:認識処理部13において、フレーム番号tに局所ゆ
う度D14の計算が行われた状態の番号 Vt :認識処理部13において、フレーム番号tに局所
ゆう度D14の計算が行われた状態全体の集合 W:状態遷移制約情報に対する重み係数 Pij:状態クラスタiから状態クラスタjへの遷移確率 i,j:任意の状態クラスタ番号 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレームtにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 (11)式において、log bv (Xt )は認識処理
部13より局所ゆう度D14として与えられ、W・lo
g cuvは参照テーブル15より状態遷移制約情報D1
5として与えられる。従って、参照ゆう度算出部14で
行う演算は、累積加算と最大値選択のみである。また、
(11)式の計算は同一の状態クラスタに属する全状態
に対して行う必要はなく、各状態クラスタでlog b
v (Xt)の値が最大である状態vについてのみ行えば
よい。
に局所ゆう度D14の計算が行われた状態の番号 v:認識処理部13において、フレーム番号tに局所ゆ
う度D14の計算が行われた状態の番号 Vt :認識処理部13において、フレーム番号tに局所
ゆう度D14の計算が行われた状態全体の集合 W:状態遷移制約情報に対する重み係数 Pij:状態クラスタiから状態クラスタjへの遷移確率 i,j:任意の状態クラスタ番号 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレームtにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 (11)式において、log bv (Xt )は認識処理
部13より局所ゆう度D14として与えられ、W・lo
g cuvは参照テーブル15より状態遷移制約情報D1
5として与えられる。従って、参照ゆう度算出部14で
行う演算は、累積加算と最大値選択のみである。また、
(11)式の計算は同一の状態クラスタに属する全状態
に対して行う必要はなく、各状態クラスタでlog b
v (Xt)の値が最大である状態vについてのみ行えば
よい。
【0105】ここで、状態遷移制約情報に対する重み係
数Wは、log cuvとlog bv (Xt )の参照ゆ
う度LG に寄与する割合を調節するためのパラメータ
(定数)である。また、定数INHは状態クラスタ間の
遷移確率を対数化した値の下限値を設定するためのパラ
メータ(定数)で、クラスタ別に設定することも可能で
ある。ともに、その値は実験的に決定する。
数Wは、log cuvとlog bv (Xt )の参照ゆ
う度LG に寄与する割合を調節するためのパラメータ
(定数)である。また、定数INHは状態クラスタ間の
遷移確率を対数化した値の下限値を設定するためのパラ
メータ(定数)で、クラスタ別に設定することも可能で
ある。ともに、その値は実験的に決定する。
【0106】参照ゆう度LG は任意の発話内容を表現す
るモデルに対する累積対数ゆう度を表す。(11)式で
定義されるLuv(t)は、フレーム番号(t−1)に状
態u、フレーム番号tに状態vをそれぞれ選択した場合
の、フレーム番号tにおける局所的な対数ゆう度を表
す。認識処理部13で局所ゆう度D14が計算された状
態を、フレーム番号に沿って任意に組合せた状態系列
(状態u,vの時系列)の中で、累積対数ゆう度が最大
の系列に対応するゆう度が参照ゆう度LG である。この
とき、任意の状態間の遷移の起りやすさを、状態遷移制
約情報D15により考慮している。これは、入力音声デ
ータに最もマッチする状態系列を、認識処理部13の処
理過程で得られる局所ゆう度D14と、音声の時間構造
を表現する状態遷移制約情報D15を用いて探索するこ
とに相当する。(10)、(11)式で表わされる参照
ゆう度LG の計算は、文献2に開示されるViterb
iアルゴリズム等の手段を用いることにより、より効率
的に行うことができる。しかし、通常のViterbi
アルゴリスムの計算とは、上述のように次の点で異な
る。
るモデルに対する累積対数ゆう度を表す。(11)式で
定義されるLuv(t)は、フレーム番号(t−1)に状
態u、フレーム番号tに状態vをそれぞれ選択した場合
の、フレーム番号tにおける局所的な対数ゆう度を表
す。認識処理部13で局所ゆう度D14が計算された状
態を、フレーム番号に沿って任意に組合せた状態系列
(状態u,vの時系列)の中で、累積対数ゆう度が最大
の系列に対応するゆう度が参照ゆう度LG である。この
とき、任意の状態間の遷移の起りやすさを、状態遷移制
約情報D15により考慮している。これは、入力音声デ
ータに最もマッチする状態系列を、認識処理部13の処
理過程で得られる局所ゆう度D14と、音声の時間構造
を表現する状態遷移制約情報D15を用いて探索するこ
とに相当する。(10)、(11)式で表わされる参照
ゆう度LG の計算は、文献2に開示されるViterb
iアルゴリズム等の手段を用いることにより、より効率
的に行うことができる。しかし、通常のViterbi
アルゴリスムの計算とは、上述のように次の点で異な
る。
【0107】・参照ゆう度計算は局所ゆう度D14と状
態遷移制約情報D15を用いて行う。
態遷移制約情報D15を用いて行う。
【0108】・参照ゆう度計算は各状態クラスタでlo
g bv (Xt )の値が最大である状態vについてのみ
行う(ここで、状態vは認識処理部13において、フレ
ーム番号tに局所ゆう度D14の計算が行われた状態を
表わす)。
g bv (Xt )の値が最大である状態vについてのみ
行う(ここで、状態vは認識処理部13において、フレ
ーム番号tに局所ゆう度D14の計算が行われた状態を
表わす)。
【0109】従って、通常のViterbiアルゴリズ
ムの計算に比べて、きわめて少ない処理量でゆう度計算
を行うことができる。このようにして、トライフォンモ
デルが有する音声の時間構造を考慮した参照ゆう度を、
効率的かつ高精度に算出することを可能にしている。
ムの計算に比べて、きわめて少ない処理量でゆう度計算
を行うことができる。このようにして、トライフォンモ
デルが有する音声の時間構造を考慮した参照ゆう度を、
効率的かつ高精度に算出することを可能にしている。
【0110】(C−4)第3の実施形態の効果 第3の実施形態では、入力発話のリジェクト判定に用い
る参照ゆう度D16を、認識ゆう度D13の算出過程で
得られる局所ゆう度D14と、あらかじめ作成した状態
遷移制約情報D15を用いて、Viterbiアルゴリ
ズム等のゆう度計算方法を実行することによって算出す
る。これにより、入力音声データに最もマッチする状態
遷移系列を、音声の時間構造を考慮しつつ、少ない処理
量で探索することが可能になり、参照ゆう度を効率的、
かつ、高精度に算出することができる。
る参照ゆう度D16を、認識ゆう度D13の算出過程で
得られる局所ゆう度D14と、あらかじめ作成した状態
遷移制約情報D15を用いて、Viterbiアルゴリ
ズム等のゆう度計算方法を実行することによって算出す
る。これにより、入力音声データに最もマッチする状態
遷移系列を、音声の時間構造を考慮しつつ、少ない処理
量で探索することが可能になり、参照ゆう度を効率的、
かつ、高精度に算出することができる。
【0111】従って、リジェクト機能の付加による処理
量の増加を小さく抑えつつ、高精度に認識対象外発話を
リジェクトすることが可能になる。
量の増加を小さく抑えつつ、高精度に認識対象外発話を
リジェクトすることが可能になる。
【0112】(D)第4の実施形態 以下、本発明による音声認識方法及び装置の第4の実施
形態を図面を参照しながら詳述する。
形態を図面を参照しながら詳述する。
【0113】この第4の実施形態と第3の実施形態の関
係は、第2の実施形態と第1の実施形態の関係と同様で
ある。すなわち、第3の実施形態では、認識対象語以外
の語や文法外の入力発話を、全体として棄却する方法で
あったが、この第4の実施形態は、不要語に対処できる
ようにしたものであり、その際に利用する参照テーブル
は、第3の実施形態と同一のものである。
係は、第2の実施形態と第1の実施形態の関係と同様で
ある。すなわち、第3の実施形態では、認識対象語以外
の語や文法外の入力発話を、全体として棄却する方法で
あったが、この第4の実施形態は、不要語に対処できる
ようにしたものであり、その際に利用する参照テーブル
は、第3の実施形態と同一のものである。
【0114】(D−1)第4の実施形態の全体構成及び
概略動作 第4の実施形態の音声認識装置の全体構成は、上述した
第2の実施形態で説明した図5で表すことができ、その
ため、第4の実施形態の音声認識装置の全体構成を改め
て図示することを行わず、以下では、図5での符号を適
宜用いて説明を行う。
概略動作 第4の実施形態の音声認識装置の全体構成は、上述した
第2の実施形態で説明した図5で表すことができ、その
ため、第4の実施形態の音声認識装置の全体構成を改め
て図示することを行わず、以下では、図5での符号を適
宜用いて説明を行う。
【0115】また、第4の実施形態の音声認識装置の概
略動作も、第2の実施形態と同様であり、その説明は省
略する。
略動作も、第2の実施形態と同様であり、その説明は省
略する。
【0116】しかし、参照テーブル25の格納内容(状
態遷移制約情報D24)が第2の実施形態とは異なって
おり、それに関連して、不要語処理部24の機能、動作
が第2の実施形態のものと異なっている。また、参照テ
ーブル25(の格納内容)は、上述した第3の実施形態
の参照テーブル15と同一である。
態遷移制約情報D24)が第2の実施形態とは異なって
おり、それに関連して、不要語処理部24の機能、動作
が第2の実施形態のものと異なっている。また、参照テ
ーブル25(の格納内容)は、上述した第3の実施形態
の参照テーブル15と同一である。
【0117】そこで、以下では、この第4の実施形態の
不要語処理部24の機能、動作についてのみ説明する。
他の構成要素の機能については、既述した第2又は第3
の実施形態を参照されたい。
不要語処理部24の機能、動作についてのみ説明する。
他の構成要素の機能については、既述した第2又は第3
の実施形態を参照されたい。
【0118】(D−2)不要語処理部24 不要語処理部24では、次の(12)〜(14)式に従
って不要語仮説累積ゆう度D25を算出する。この実施
形態でも、不要語に対応する発話内容の部分仮説を不要
語仮説、不要語仮説に対する対数ゆう度を不要語仮説ゆ
う度と呼ぶ。
って不要語仮説累積ゆう度D25を算出する。この実施
形態でも、不要語に対応する発話内容の部分仮説を不要
語仮説、不要語仮説に対する対数ゆう度を不要語仮説ゆ
う度と呼ぶ。
【0119】
【数6】 LB (t1):フレーム番号t1における不要語仮説累
積ゆう度D25 LF (t0−1):フレーム番号(t0−1)における
部分仮説累積ゆう度D23 LG (t1):フレーム番号t1における不要語仮説ゆ
う度 t0:不要語仮説ゆう度の算出における始端フレーム番
号 t1:不要語仮説ゆう度の算出における終端フレーム番
号 Tmin:不要語仮説ゆう度の算出に用いる(最小フレ
ーム数−1) Tdel:不要語仮説ゆう度の算出に用いる最大フレー
ム数と最小フレーム数の差 R:補正定数 T:フレーム総数 u:認識処理部23において、フレーム番号(t−1)
に局所ゆう度D22の計算が行われた状態の番号 v:認識処理部23において、フレーム番号tに局所ゆ
う度D22の計算が行われた状態の番号 Vt :認識処理部23において、フレーム番号tに局所
ゆう度D22の計算が行われた状態全体の集合 W:状態遷移制約情報に対する重み係数 i,j:任意の状態クラスタ番号 Vt :認識処理部23において、フレーム番号tに局所
ゆう度D22の計算が行われた状態全体の集合 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレーム番号tにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 不要語仮説ゆう度の算出における始端フレーム番号及び
終端フレーム番号をそれぞれt0、t1とし、このとき
の不要語仮説ゆう度をLG (t1)で表す。不要語仮説
累積ゆう度D25はフレーム番号(t0−1)における
部分仮説累積ゆう度D23と、不要語仮説ゆう度L
G (t1)の和として定義する。従って、不要語仮説累
積ゆう度D25は、フレーム番号1からフレーム番号t
1(不要語仮説ゆう度の算出における終端フレーム番
号)までの”不要語を含む発話内容の部分仮説”に対す
る累積対数ゆう度を表している。
積ゆう度D25 LF (t0−1):フレーム番号(t0−1)における
部分仮説累積ゆう度D23 LG (t1):フレーム番号t1における不要語仮説ゆ
う度 t0:不要語仮説ゆう度の算出における始端フレーム番
号 t1:不要語仮説ゆう度の算出における終端フレーム番
号 Tmin:不要語仮説ゆう度の算出に用いる(最小フレ
ーム数−1) Tdel:不要語仮説ゆう度の算出に用いる最大フレー
ム数と最小フレーム数の差 R:補正定数 T:フレーム総数 u:認識処理部23において、フレーム番号(t−1)
に局所ゆう度D22の計算が行われた状態の番号 v:認識処理部23において、フレーム番号tに局所ゆ
う度D22の計算が行われた状態の番号 Vt :認識処理部23において、フレーム番号tに局所
ゆう度D22の計算が行われた状態全体の集合 W:状態遷移制約情報に対する重み係数 i,j:任意の状態クラスタ番号 Vt :認識処理部23において、フレーム番号tに局所
ゆう度D22の計算が行われた状態全体の集合 bv (Xt ):状態vにおける音響特徴パラメータXt
の出力確率(密度) Xt :フレーム番号tにおける音響特徴パラメータ INH:状態クラスタ間の遷移確率を対数化した値の下
限値 不要語仮説ゆう度の算出における始端フレーム番号及び
終端フレーム番号をそれぞれt0、t1とし、このとき
の不要語仮説ゆう度をLG (t1)で表す。不要語仮説
累積ゆう度D25はフレーム番号(t0−1)における
部分仮説累積ゆう度D23と、不要語仮説ゆう度L
G (t1)の和として定義する。従って、不要語仮説累
積ゆう度D25は、フレーム番号1からフレーム番号t
1(不要語仮説ゆう度の算出における終端フレーム番
号)までの”不要語を含む発話内容の部分仮説”に対す
る累積対数ゆう度を表している。
【0120】次に、不要語仮説ゆう度LG (t1)につ
いて説明する。(13)式は、任意の始端フレーム番号
t0に対して、異なる(Tdel+1)個の終端フレー
ム番号t1(=t0+Tmin,t0+Tmin+1,
…,t0+Tmin+Tdel)における不要語仮説ゆ
う度LG (t1)を算出することを表している。ここ
で、不要語仮説ゆう度LG (t1)の算出に用いる定数
パラメータTmin(最小フレーム数−1)、及びTd
el(最大フレーム数と最小フレーム数の差)の値は実
験的に決定する。不要語仮説ゆう度LG (t1)はフレ
ーム番号tにおける局所的な対数ゆう度Luv(t)を、
始端フレーム番号t0から終端フレーム番号t1まで累
積加算した値の状態番号u,vの時系列に関する最大値
として定義する。
いて説明する。(13)式は、任意の始端フレーム番号
t0に対して、異なる(Tdel+1)個の終端フレー
ム番号t1(=t0+Tmin,t0+Tmin+1,
…,t0+Tmin+Tdel)における不要語仮説ゆ
う度LG (t1)を算出することを表している。ここ
で、不要語仮説ゆう度LG (t1)の算出に用いる定数
パラメータTmin(最小フレーム数−1)、及びTd
el(最大フレーム数と最小フレーム数の差)の値は実
験的に決定する。不要語仮説ゆう度LG (t1)はフレ
ーム番号tにおける局所的な対数ゆう度Luv(t)を、
始端フレーム番号t0から終端フレーム番号t1まで累
積加算した値の状態番号u,vの時系列に関する最大値
として定義する。
【0121】(14)式で定義されるLuv(t)につい
て、さらに詳しく説明する。(14)式において、lo
g bv (Xt )は認識処理部23より局所ゆう度D2
2として与えられ、W・log cuvは参照テーブル2
5より状態遷移制約情報D24として与えられる、従っ
て、(13)、(14)式で行う演算は、累積加算と最
大値選択のみである。さらに、(13)、(14)式の
計算は同一の状態クラスタに属する全状態に対して行う
必要はなく、各状態クラスタでlog bv (Xt )の
値が最大である状態vについてのみ行えばよい。(1
4)式において、状態遷移制約情報に対する重み係数W
は、log cuvとlog bv (Xt )のLuv(t)
に寄与する割合を調節するための定数パラメータであ
る。また、定数INHは状態クラスタ間の遷移確率を対
数化した値の下限値を設定するための定数パラメータ
で、クラスタ別に設定することも可能である。さらに、
補正定数Rは不要語仮説ゆう度の変域を調節するための
定数パラメータである。これらのパラメータ値は実験的
に決定する。
て、さらに詳しく説明する。(14)式において、lo
g bv (Xt )は認識処理部23より局所ゆう度D2
2として与えられ、W・log cuvは参照テーブル2
5より状態遷移制約情報D24として与えられる、従っ
て、(13)、(14)式で行う演算は、累積加算と最
大値選択のみである。さらに、(13)、(14)式の
計算は同一の状態クラスタに属する全状態に対して行う
必要はなく、各状態クラスタでlog bv (Xt )の
値が最大である状態vについてのみ行えばよい。(1
4)式において、状態遷移制約情報に対する重み係数W
は、log cuvとlog bv (Xt )のLuv(t)
に寄与する割合を調節するための定数パラメータであ
る。また、定数INHは状態クラスタ間の遷移確率を対
数化した値の下限値を設定するための定数パラメータ
で、クラスタ別に設定することも可能である。さらに、
補正定数Rは不要語仮説ゆう度の変域を調節するための
定数パラメータである。これらのパラメータ値は実験的
に決定する。
【0122】(14)式で定義されるLuv(t)は、フ
レーム番号(t−1)に状態u、フレーム番号tに状態
vをそれぞれ選択した場合のフレーム番号tにおける不
要語仮説に対する局所的な対数ゆう度を表す。認識処理
部23で局所ゆう度D22が計算された状態を、フレー
ム番号に沿って任意に組合せた状態系列(状態番号u,
vの時系列)の中で、累積対数ゆう度が最大の系列に対
応する対数ゆう度が不要語仮説ゆう度LG (t1)であ
る。このとき、任意の状態間の遷移の起りやすさを、状
態遷移制約情報D24により考慮している。これは、フ
レーム番号t0〜t1までの入力音声データに最もマッ
チする状態系列を、認識処理部23の処理過程で得られ
る局所ゆう度D22と、音声の時間構造を表現する状態
遷移制約情報D24を用いて探索することに相当する。
レーム番号(t−1)に状態u、フレーム番号tに状態
vをそれぞれ選択した場合のフレーム番号tにおける不
要語仮説に対する局所的な対数ゆう度を表す。認識処理
部23で局所ゆう度D22が計算された状態を、フレー
ム番号に沿って任意に組合せた状態系列(状態番号u,
vの時系列)の中で、累積対数ゆう度が最大の系列に対
応する対数ゆう度が不要語仮説ゆう度LG (t1)であ
る。このとき、任意の状態間の遷移の起りやすさを、状
態遷移制約情報D24により考慮している。これは、フ
レーム番号t0〜t1までの入力音声データに最もマッ
チする状態系列を、認識処理部23の処理過程で得られ
る局所ゆう度D22と、音声の時間構造を表現する状態
遷移制約情報D24を用いて探索することに相当する。
【0123】(13)、(14)式で表わされる不要語
仮説ゆう度LG (t1)の計算は、文献2に開示される
Viterbiアルゴリズム等の手段を用いることによ
り、より効率的に行うことができる。しかし、通常のV
iterbiアルゴリズムの計算とは、次の点で異な
る。
仮説ゆう度LG (t1)の計算は、文献2に開示される
Viterbiアルゴリズム等の手段を用いることによ
り、より効率的に行うことができる。しかし、通常のV
iterbiアルゴリズムの計算とは、次の点で異な
る。
【0124】・不要語仮説ゆう度の計算は局所ゆう度D
22と状態遷移制約情報D24を用いて行う。
22と状態遷移制約情報D24を用いて行う。
【0125】・不要語仮説ゆう度の計算は各状態クラス
タでlog bv (Xt )の値が最大である状態vにつ
いてのみ行う(ここで、状態vは認識処理部23におい
て、フレーム番号tに局所ゆう度D22の計算が行われ
た状態を表わす)。
タでlog bv (Xt )の値が最大である状態vにつ
いてのみ行う(ここで、状態vは認識処理部23におい
て、フレーム番号tに局所ゆう度D22の計算が行われ
た状態を表わす)。
【0126】従って、通常のViterbiアルゴリズ
ムの計算に比べて、きわめて少ない処理量でゆう度計算
を行うことができる。このようにして、トライフォンモ
デルが有する音声の時間構造を考慮した不要語仮説ゆう
度を、効率的かつ高精度に算出することを可能にしてい
る。
ムの計算に比べて、きわめて少ない処理量でゆう度計算
を行うことができる。このようにして、トライフォンモ
デルが有する音声の時間構造を考慮した不要語仮説ゆう
度を、効率的かつ高精度に算出することを可能にしてい
る。
【0127】以上のようにして算出したフレーム番号t
1における不要語仮説累積ゆう度D25は、認識処理部
23に出力される。認識処理部23では、不要語仮説累
積ゆう度D25を初期値とし、フレーム番号(t1+
1)を始端フレーム番号として、不要語仮説に後続する
発話内容の部分仮説に対するゆう度計算を行う。このよ
うにすることによって、認識処理部23における認識ゆ
う度の計算は、単語仮説(単語を表す発話内容の部分仮
説)に対するゆう度と不要語仮説に対するゆう度を同様
に扱って行うことができる。
1における不要語仮説累積ゆう度D25は、認識処理部
23に出力される。認識処理部23では、不要語仮説累
積ゆう度D25を初期値とし、フレーム番号(t1+
1)を始端フレーム番号として、不要語仮説に後続する
発話内容の部分仮説に対するゆう度計算を行う。このよ
うにすることによって、認識処理部23における認識ゆ
う度の計算は、単語仮説(単語を表す発話内容の部分仮
説)に対するゆう度と不要語仮説に対するゆう度を同様
に扱って行うことができる。
【0128】(D−3)第4の実施形態の効果 第4の実施形態では、入力発話の一部に不要語を含む場
合に対処するため、不要語仮説に対するゆう度(不要語
仮説ゆう度)を、認識ゆう度算出過程で得られる局所ゆ
う度D22と、あらかじめ作成した状態遷移制約情報D
24を用いて、Viterbiアルゴリズム等のゆう度
計算方法を実行することによって算出する。これによ
り、入力音声データの各部分に最もマッチする状態系列
を、音声の時間構造を考慮しつつ、少ない処理量で探索
することが可能になり、不要語仮説ゆう度を効率的かつ
高精度に算出することができる。
合に対処するため、不要語仮説に対するゆう度(不要語
仮説ゆう度)を、認識ゆう度算出過程で得られる局所ゆ
う度D22と、あらかじめ作成した状態遷移制約情報D
24を用いて、Viterbiアルゴリズム等のゆう度
計算方法を実行することによって算出する。これによ
り、入力音声データの各部分に最もマッチする状態系列
を、音声の時間構造を考慮しつつ、少ない処理量で探索
することが可能になり、不要語仮説ゆう度を効率的かつ
高精度に算出することができる。
【0129】従って、入力発話の一部に不要語を含む場
合に、認識のための処理量の増加を小さく抑えつつ、効
果的に不要語を検出し、不要語以外の部分の認識率を向
上させることが可能になる。しかも、不要語が入力発話
の先頭、末尾、任意の単語間において複数含まれていて
も対処可能である。
合に、認識のための処理量の増加を小さく抑えつつ、効
果的に不要語を検出し、不要語以外の部分の認識率を向
上させることが可能になる。しかも、不要語が入力発話
の先頭、末尾、任意の単語間において複数含まれていて
も対処可能である。
【0130】また、第4の実施形態では、以下に示すよ
うな効果も得られる。
うな効果も得られる。
【0131】(a)音響モデルとして、音素や音節など
のサブワードに対するコンテキスト依存モデルを用いて
も、不要語処理の付加による処理量の増加をごく小さく
抑えることができる。
のサブワードに対するコンテキスト依存モデルを用いて
も、不要語処理の付加による処理量の増加をごく小さく
抑えることができる。
【0132】(b)HMMによる明示的な不要語モデル
(garbageモデル)を用いる場合に比べて、不要
語を表現するモデルの音響的分解能が高い。従って、種
々の不要語の音響的バリエーションに対処することが可
能である。
(garbageモデル)を用いる場合に比べて、不要
語を表現するモデルの音響的分解能が高い。従って、種
々の不要語の音響的バリエーションに対処することが可
能である。
【0133】(E)他の実施形態 上記第2及び第4の実施形態では、入力発話の一部に不
要語が含まれる場合に対処する方法について説明した
が、この方法は入力発話の一部に未知語(認識対象語以
外の語)が含まれる場合に対処する方法としても使用可
能である。その場合、図5における言語モデル22を、
例えば図7に示すように記述する。このようにすること
によって、入力発話全体を棄却するのではなく、入力発
話中の未知語部分を効果的に検出し、未知語以外の部分
の認識率を向上させることができる。例えば、図7に示
した言語モデルを用いた場合において、「ニューヨーク
観光情報」と発声されたときを考える。”ニューヨー
ク”が未知語である場合に、「@観光情報」(@は未知
語を表す記号)という認識結果を出力することが可能に
なる。
要語が含まれる場合に対処する方法について説明した
が、この方法は入力発話の一部に未知語(認識対象語以
外の語)が含まれる場合に対処する方法としても使用可
能である。その場合、図5における言語モデル22を、
例えば図7に示すように記述する。このようにすること
によって、入力発話全体を棄却するのではなく、入力発
話中の未知語部分を効果的に検出し、未知語以外の部分
の認識率を向上させることができる。例えば、図7に示
した言語モデルを用いた場合において、「ニューヨーク
観光情報」と発声されたときを考える。”ニューヨー
ク”が未知語である場合に、「@観光情報」(@は未知
語を表す記号)という認識結果を出力することが可能に
なる。
【0134】
【発明の効果】以上のように、本発明によれば、処理量
を増加させることなく、リジェクト機能を付加すること
ができ、又は、不要語や未知語を含む入力発話に対して
も処理量と精度において十分な性能を得ることができ
る。
を増加させることなく、リジェクト機能を付加すること
ができ、又は、不要語や未知語を含む入力発話に対して
も処理量と精度において十分な性能を得ることができ
る。
【図1】第1(及び第3)の実施形態の全体構成を示す
ブロック図である。
ブロック図である。
【図2】第1の実施形態の言語モデルの構成例を示す説
明図である。
明図である。
【図3】第1の実施形態の音響モデル(トライフォンモ
デル)の構成例を示す説明図である。
デル)の構成例を示す説明図である。
【図4】第1の実施形態の状態遷移制約情報の作成方法
の説明に用いた状態クラスタ間の遷移接続を示す図面で
ある。
の説明に用いた状態クラスタ間の遷移接続を示す図面で
ある。
【図5】第2(及び第4)の実施形態の全体構成を示す
ブロック図である。
ブロック図である。
【図6】第2の実施形態の言語モデルの構成例を示す説
明図である。
明図である。
【図7】第2(又は第4)の実施形態の変形実施形態の
言語モデルの構成例を示す説明図である。
言語モデルの構成例を示す説明図である。
10、20…音声分析部、11、21…音響モデル、1
2、22…言語モデル、13、23…認識処理部、14
…参照ゆう度算出部、15、25…参照テーブル(状態
遷移制約情報格納手段)、16…リジェクト判定部、2
4…不要語処理部。
2、22…言語モデル、13、23…認識処理部、14
…参照ゆう度算出部、15、25…参照テーブル(状態
遷移制約情報格納手段)、16…リジェクト判定部、2
4…不要語処理部。
Claims (16)
- 【請求項1】 隠れマルコフモデルネットワークでなる
音響モデルを利用して音声認識を行う音声認識方法であ
って、音響モデルを構成する隠れマルコフモデルネット
ワークの任意の状態間の状態遷移の起こりやすさを表す
状態遷移制約情報をあらかじめ作成して格納しておき、
認識処理により得られた局所ゆう度と格納されている状
態遷移制約情報とに基づいて、入力音声データの棄却判
定に用いる参照ゆう度を算出し、認識処理により得られ
た認識ゆう度と、上記参照ゆう度の比較により、入力音
声データの棄却判定を行う音声認識方法において、 あらかじめ作成して格納しておく状態遷移制約情報が、
以下のステップa1〜ステップa2で作成されたもので
あることを特徴とする音声認識方法。 (ステップa1)音響モデルを構成する隠れマルコフモ
デルネットワークの全状態に対するクラスタリングを行
い、生成された状態クラスタにおける各状態間の遷移接
続に基づいて、状態クラスタ間の遷移の起こりやすさを
表わす尺度である状態クラスタ間の遷移確率の初期値を
算出する。 (ステップa2)状態クラスタ数と同数の状態を有す
る、任意の状態間に遷移接続を有する隠れマルコフモデ
ルネットワークであるエルゴディック隠れマルコフモデ
ルネットワークを構成し、その状態遷移確率パラメータ
に上記状態クラスタ間の遷移確率の初期値を、また、出
力確率分布パラメータに各状態クラスタを代表する状態
の出力確率分布をそれぞれ対応させ、このようにして作
成したエルゴディック隠れマルコフモデルネットワーク
を、音声データを用いて学習することによって得られる
状態遷移確率を、状態クラスタ間の遷移確率の推定値と
し、隠れマルコフモデルネットワークの各状態がどの状
態クラスタに属するかを示す情報を付加して状態遷移制
約情報とする。 - 【請求項2】 隠れマルコフモデルネットワークでなる
音響モデルを利用して音声認識を行う音声認識方法にお
いて、 音響モデルを構成する隠れマルコフモデルネットワーク
の任意の状態間の状態遷移の起こりやすさを表す状態遷
移制約情報をあらかじめ作成して、格納しておき、 認識処理により得られた局所ゆう度と格納されている状
態遷移制約情報との加重和を、入力音声データの各フレ
ーム毎に、隠れマルコフモデルネットワークの各状態に
対して算出し、これを全フレームにわたって累積加算し
た値の最大値を上記参照ゆう度として算出し、 認識処理により得られた認識ゆう度と、上記参照ゆう度
の比較により、入力音声データの棄却判定を行うことを
特徴とする音声認識方法。 - 【請求項3】 上記状態遷移制約情報の表現に用いる、
類似した音響的特徴を有する隠れマルコフモデルネット
ワークの状態のグループである各状態クラスタで、上記
局所ゆう度の値が最大である状態に対してのみ、上記加
重和及び上記累積加算の計算を行うことによって、上記
参照ゆう度を算出することを特徴とする請求項2に記載
の音声認識方法。 - 【請求項4】 隠れマルコフモデルネットワークでなる
音響モデルを利用して音声認識を行う音声認識方法にお
いて、 音響モデルを構成する隠れマルコフモデルネットワーク
の任意の状態間の状態遷移の起こりやすさを表す状態遷
移制約情報をあらかじめ作成して、格納しておき、 認識処理により得られた局所ゆう度及び部分仮説累積ゆ
う度と、上記状態遷移制約情報とから、入力音声データ
中の不要語あるいは未知語を処理するために用いる不要
語仮説累積ゆう度を算出し、 この不要語仮説累積ゆう度を認識処理で用いて、入力音
声データ中の不要語あるいは未知語部分の検出と、それ
以外の部分の認識を行うことを特徴とする音声認識方
法。 - 【請求項5】 上記認識処理により得られた局所ゆう度
の加重和に補正定数を加算した値を、入力音声データの
各フレーム毎に、隠れマルコフモデルネットワークの各
状態に対して算出し、これを入力音声デー夕の部分区間
フレームにわたって累積加算した値の最大値を不要語仮
説ゆう度とし、認識処理により得られた部分仮説累積ゆ
う度に、上記不要語仮説ゆう度を加算して上記不要語仮
説累積ゆう度を算出することを特徴とする請求項4に記
載の音声認識方法。 - 【請求項6】 上記状態遷移制約情報の表現に用いる、
類似した音響的特徴を有する隠れマルコフモデルネット
ワークの状態のグループである各状態クラスタで、上記
局所ゆう度の値が最大である状態に対してのみ、上記加
重和及び上記累積加算の計算を行うことによって、上記
不要語仮説ゆう度を算出することを特徴とする請求項5
に記載の音声認識方法。 - 【請求項7】 あらかじめ作成して格納しておく上記状
態遷移制約情報が、以下のステップb1〜ステップb2
で作成されたものであることを特徴とする請求項4に記
載の音声認識方法。 (ステップb1)音響モデルを構成する隠れマルコフモ
デルネットワークの全状態に対するクラスタリングを行
い、生成された状態クラスタにおける各状態間の遷移接
続に基づいて、状態クラスタ間の遷移の起こりやすさを
表わす尺度である状態クラスタ間の遷移確率の初期値を
算出する。 (ステップb2)状態クラスタ数と同数の状態を有す
る、任意の状態間に遷移接続を有する隠れマルコフモデ
ルネットワークであるエルゴディック隠れマルコフモデ
ルネットワークを構成し、その状態遷移確率パラメータ
に上記状態クラスタ間の遷移確率の初期値を、また、出
力確率分布パラメータに各状態クラスタを代表する状態
の出力確率分布をそれぞれ対応させ、このようにして作
成したエルゴディック隠れマルコフモデルネットワーク
を、音声データを用いて学習することによって得られる
状態遷移確率を、状態クラスタ間の遷移確率の推定値と
し、隠れマルコフモデルネットワークの各状態がどの状
態クラスタに属するかを示す情報を付加して状態遷移制
約情報とする。 - 【請求項8】 上記ステップa2又はb2による状態ク
ラスタ間の遷移確率の算出における、上記エルゴディッ
ク隠れマルコフモデルネットワークの学習の際に、音響
モデルの隠れマルコフモデルネットワークを作成する際
に用いた通常の言語発声の音声データだけでなく、感情
を表現する発声の音声データ、間投詞、あるいは不要な
語尾など、日常的な発話でよく用いられる不要語の音声
データを併用することにより、このような発声に特有な
音声の時間構造を上記状態クラスタ間の遷移確率に反映
させることを特徴とする請求項1又は7に記載の音声認
識方法。 - 【請求項9】 隠れマルコフモデルネットワークでなる
音響モデルを利用して音声認識を行う音声認識装置にお
いて、 あらかじめ作成された、音響モデルを構成する隠れマル
コフモデルネットワークの任意の状態間の状態遷移の起
こりやすさを表す状態遷移制約情報を格納している状態
遷移制約情報格納手段と、 入力音声データに対する認識結果を算出する認識処理手
段と、 認識処理により得られた局所ゆう度と格納されている状
態遷移制約情報とに基づいて、参照ゆう度を算出する参
照ゆう度算出手段と、 認識処理により得られた認識ゆう度と、上記参照ゆう度
の比較により、入力音声データの棄却判定を行うリジェ
クト判定手段とを有し、 上記状態遷移制約情報格納手段に格納されている状態遷
移制約情報が、以下のステップc1〜ステップc2で作
成されたものであることを特徴とする音声認識装置。 (ステップc1)音響モデルを構成する隠れマルコフモ
デルネットワークの全状態に対するクラスタリングを行
い、生成された状態クラスタにおける各状態間の遷移接
続に基づいて、状態クラスタ間の遷移の起こりやすさを
表わす尺度である状態クラスタ間の遷移確率の初期値を
算出する。 (ステップc2)状態クラスタ数と同数の状態を有す
る、任意の状態間に遷移接続を有する隠れマルコフモデ
ルネットワークであるエルゴディック隠れマルコフモデ
ルネットワークを構成し、その状態遷移確率パラメータ
に上記状態クラスタ間の遷移確率の初期値を、また、出
力確率分布パラメータに各状態クラスタを代表する状態
の出力確率分布をそれぞれ対応させ、このようにして作
成したエルゴディック隠れマルコフモデルネットワーク
を、音声データを用いて学習することによって得られる
状態遷移確率を、状態クラスタ間の遷移確率の推定値と
し、隠れマルコフモデルネットワークの各状態がどの状
態クラスタに属するかを示す情報を付加して状態遷移制
約情報とする。 - 【請求項10】 隠れマルコフモデルネットワークでな
る音響モデルを利用して音声認識を行う音声認識装置に
おいて、 あらかじめ作成された、音響モデルを構成する隠れマル
コフモデルネットワークの任意の状態間の状態遷移の起
こりやすさを表す状態遷移制約情報を格納している状態
遷移制約情報格納手段と、 入力音声データに対する認識結果を算出する認識処理手
段と、 認識処理により得られた局所ゆう度と格納されている状
態遷移制約情報との加重和を、入力音声データの各フレ
ーム毎に、隠れマルコフモデルネットワークの各状態に
対して算出し、これを全フレームにわたって累積加算し
た値の最大値を上記参照ゆう度として算出する参照ゆう
度算出手段と、 認識処理により得られた認識ゆう度と、上記参照ゆう度
の比較により、入力音声データの棄却判定を行うリジェ
クト判定手段とを有することを特徴とする音声認識装
置。 - 【請求項11】 上記参照ゆう度算出手段は、状態遷移
制約情報の表現に用いる、類似した音響的特徴を有する
隠れマルコフモデルネットワークの状態のグループであ
る各状態クラスタで、上記局所ゆう度の値が最大である
状態に対してのみ、上記加重和及び上記累積加算の計算
を行うことによって、上記参照ゆう度を算出することを
特徴とする請求項10に記載の音声認識装置。 - 【請求項12】 隠れマルコフモデルネットワークでな
る音響モデルを利用して音声認識を行う音声認識装置に
おいて、 あらかじめ作成された、音響モデルを構成する隠れマル
コフモデルネットワークの任意の状態間の状態遷移の起
こりやすさを表す状態遷移制約情報を格納している状態
遷移制約情報格納手段と、 入力音声データに対する認識結果を算出すると共に、そ
の際、不要語仮説累積ゆう度を認識処理で用いて、入力
音声データ中の不要語あるいは未知語部分の検出と、そ
れ以外の部分の認識を行う認識処理手段と、 認識処理により得られた局所ゆう度及び部分仮説累積ゆ
う度と、上記状態遷移制約情報とから、入力音声データ
中の不要語あるいは未知語を処理するために用いる不要
語仮説累積ゆう度を算出する不要語処理手段とを有する
ことを特徴とする音声認識装置。 - 【請求項13】 上記不要語処理手段は、認識処理によ
り得られた局所ゆう度の加重和に補正定数を加算した値
を、入力音声データの各フレーム毎に、隠れマルコフモ
デルネットワークの各状態に対して算出し、これを入力
音声デー夕の部分区間フレームにわたって累積加算した
値の最大値を不要語仮説ゆう度とし、認識処理により得
られた部分仮説累積ゆう度に、上記不要語仮説ゆう度を
加算して上記不要語仮説累積ゆう度を算出することを特
徴とする請求項12に記載の音声認識装置。 - 【請求項14】 上記不要語処理手段は、上記状態遷移
制約情報の表現に用いる、類似した音響的特徴を有する
隠れマルコフモデルネットワークの状態のグループであ
る各状態クラスタで、上記局所ゆう度の値が最大である
状態に対してのみ、上記加重和及び上記累積加算の計算
を行うことによって、上記不要語仮説ゆう度を算出する
ことを特徴とする請求項13に記載の音声認識装置。 - 【請求項15】 上記状態遷移制約情報格納手段に格納
されている上記状態遷移制約情報が、以下のステップd
1〜ステップd2で作成されたものであることを特徴と
する請求項12に記載の音声認識装置。 (ステップd1)音響モデルを構成する隠れマルコフモ
デルネットワークの全状態に対するクラスタリングを行
い、生成された状態クラスタにおける各状態間の遷移接
続に基づいて、状態クラスタ間の遷移の起こりやすさを
表わす尺度である状態クラスタ間の遷移確率の初期値を
算出する。 (ステップd2)状態クラスタ数と同数の状態を有す
る、任意の状態間に遷移接続を有する隠れマルコフモデ
ルネットワークであるエルゴディック隠れマルコフモデ
ルネットワークを構成し、その状態遷移確率パラメータ
に上記状態クラスタ間の遷移確率の初期値を、また、出
力確率分布パラメータに各状態クラスタを代表する状態
の出力確率分布をそれぞれ対応させ、このようにして作
成したエルゴディック隠れマルコフモデルネットワーク
を、音声データを用いて学習することによって得られる
状態遷移確率を、状態クラスタ間の遷移確率の推定値と
し、隠れマルコフモデルネットワークの各状態がどの状
態クラスタに属するかを示す情報を付加して状態遷移制
約情報とする。 - 【請求項16】 上記ステップc2又はd2による状態
クラスタ間の遷移確率の算出における、上記エルゴディ
ック隠れマルコフモデルネットワークの学習の際に、音
響モデルの隠れマルコフモデルネットワークを作成する
際に用いた通常の言語発声の音声データだけでなく、感
情を表現する発声の音声データ、間投詞、あるいは不要
な語尾など、日常的な発話でよく用いられる不要語の音
声データを併用することにより、このような発声に特有
な音声の時間構造を上記状態クラスタ間の遷移確率に反
映させることを特徴とする請求項8又は15に記載の音
声認識装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP9355273A JPH11184494A (ja) | 1997-12-24 | 1997-12-24 | 音声認識方法及び装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP9355273A JPH11184494A (ja) | 1997-12-24 | 1997-12-24 | 音声認識方法及び装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH11184494A true JPH11184494A (ja) | 1999-07-09 |
Family
ID=18442976
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP9355273A Pending JPH11184494A (ja) | 1997-12-24 | 1997-12-24 | 音声認識方法及び装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH11184494A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008076905A (ja) * | 2006-09-22 | 2008-04-03 | Univ Of Tokyo | 感情判別方法 |
-
1997
- 1997-12-24 JP JP9355273A patent/JPH11184494A/ja active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2008076905A (ja) * | 2006-09-22 | 2008-04-03 | Univ Of Tokyo | 感情判別方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4301102B2 (ja) | 音声処理装置および音声処理方法、プログラム、並びに記録媒体 | |
| US6125345A (en) | Method and apparatus for discriminative utterance verification using multiple confidence measures | |
| US11158307B1 (en) | Alternate utterance generation | |
| Chen et al. | Advances in speech transcription at IBM under the DARPA EARS program | |
| EP0966736B1 (en) | Method for discriminative training of speech recognition models | |
| EP1128361B1 (en) | Language models for speech recognition | |
| CN101548313B (zh) | 话音活动检测系统和方法 | |
| WO2009044931A1 (en) | Automatic speech recognition method and apparatus | |
| US10013974B1 (en) | Compact HCLG FST | |
| WO1997008686A2 (en) | Method and system for pattern recognition based on tree organised probability densities | |
| JP2001503154A (ja) | 音声認識システムにおける隠れマルコフ音声モデルの適合方法 | |
| CN101118745B (zh) | 语音识别系统中的置信度快速求取方法 | |
| US11705116B2 (en) | Language and grammar model adaptation using model weight data | |
| KR20180038707A (ko) | 동적 가중치 값과 토픽 정보를 이용하는 음성인식 방법 | |
| KR101014086B1 (ko) | 음성 처리 장치 및 방법, 및 기록 매체 | |
| Renals et al. | Start-synchronous search for large vocabulary continuous speech recognition | |
| JP5274191B2 (ja) | 音声認識装置 | |
| Williams | Knowing what you don't know: roles for confidence measures in automatic speech recognition | |
| JP2002358097A (ja) | 音声認識装置 | |
| Fosler-Lussier et al. | On the road to improved lexical confusability metrics | |
| JP2007240589A (ja) | 音声認識信頼度推定装置、その方法、およびプログラム | |
| JPH09134192A (ja) | 統計的言語モデル生成装置及び音声認識装置 | |
| JP3644797B2 (ja) | 音声認識方法及び音声認識装置 | |
| JP3868798B2 (ja) | 音声認識装置 | |
| JP3698511B2 (ja) | 音声認識方法 |