JPH09179580A - ヒドン・マルコフ・モデルの学習方法 - Google Patents
ヒドン・マルコフ・モデルの学習方法Info
- Publication number
- JPH09179580A JPH09179580A JP7340624A JP34062495A JPH09179580A JP H09179580 A JPH09179580 A JP H09179580A JP 7340624 A JP7340624 A JP 7340624A JP 34062495 A JP34062495 A JP 34062495A JP H09179580 A JPH09179580 A JP H09179580A
- Authority
- JP
- Japan
- Prior art keywords
- states
- hmm
- state
- representative
- learning
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Withdrawn
Links
Abstract
(57)【要約】
【課題】 クラスタリングによりトライフォン・ヒドン
・マルコフ・モデル（以下、「ＨＭＭ」という）を学習
する際に、特定の代表状態に偏らず、精密な状態表現の
可能なＨＭＭの学習方法を提供する。 【解決手段】 ステップ１４でＨＭＭを学習した後、ス
テップ１５でそのＨＭＭを構成する状態ｓｉに分解す
る。ステップ１６では、分解された状態ｓｉを類似する
状態毎にクラスタリングし、各クラスタの代表状態Ｓｉ
を定め、基底状態セット｛Ｓ｝を生成する。ステップ１
７で、状態ｓｉ毎に各代表状態Ｓｉとの類似度を計算し
て類似度の高い順に一定数の代表状態ＳＳijを選択し、
状態ｓｉを各代表状態ＳＳijとの類似度に応じた結合係
数γijを用いて共有関係を持たせる。そして、基底状態
セット｛Ｓ｝との共有関係を有する状態ｓｉを使用して
ＨＭＭを再構成する。
・マルコフ・モデル（以下、「ＨＭＭ」という）を学習
する際に、特定の代表状態に偏らず、精密な状態表現の
可能なＨＭＭの学習方法を提供する。 【解決手段】 ステップ１４でＨＭＭを学習した後、ス
テップ１５でそのＨＭＭを構成する状態ｓｉに分解す
る。ステップ１６では、分解された状態ｓｉを類似する
状態毎にクラスタリングし、各クラスタの代表状態Ｓｉ
を定め、基底状態セット｛Ｓ｝を生成する。ステップ１
７で、状態ｓｉ毎に各代表状態Ｓｉとの類似度を計算し
て類似度の高い順に一定数の代表状態ＳＳijを選択し、
状態ｓｉを各代表状態ＳＳijとの類似度に応じた結合係
数γijを用いて共有関係を持たせる。そして、基底状態
セット｛Ｓ｝との共有関係を有する状態ｓｉを使用して
ＨＭＭを再構成する。
Description
【０００１】
【発明の属する技術分野】本発明は、音声認識方法等に
用いられるヒドン・マルコフ・モデル（以下、「ＨＭ
Ｍ」という）の学習方法に関するものである。
用いられるヒドン・マルコフ・モデル（以下、「ＨＭ
Ｍ」という）の学習方法に関するものである。
【０００２】
【従来の技術】従来、このような分野の技術としては、
例えば次のような文献に記載されるものがあった。 文献１；ザ・ベル・システム・テクニカル・ジャーナル
（The Bell System Technical Journal ）、６２「４」
（１９８３−４） AmericanTelephone and Telegrap
h Company、（米）、エス・イー・レビンソン（S.E.Levi
nson）、エル・アール・ラビナー（L.R.Rabiner ）、エ
ム・エム・ソンディ（M.M.Sondhi）共著「An Introduct
ion to theApplication of the Theory of Probabilist
ic Function of aMarkov Process to Automatic Speech
Recognition」p.1035-1074 文献２；中川聖一著「確率モデルによる音声認識」（昭
６３−７）、電子情報通信学会、p.27-28,p.55-61,p.69
-71 文献３；電子情報通信学会技術研究報告、ＳＰ９５−２
１（１９９５−６）小森他著「Top-Down Clistering に
基づく効率的なShared-StateTriphone ＨＭＭ」p.23-3
0 音声認識技術には、古典的なパターン・マッチング手法
と統計的な手法とがあり、近年では後者が主流になりつ
つある。後者の統計的な手法では、確率的な有限状態を
持つマルコフ・モデルが提案されており、通常、ＨＭＭ
と呼ばれる。一般に、ＨＭＭは、複数の状態（例えば、
音声の特徴等）と状態間の遷移からなる。さらに、ＨＭ
Ｍは状態間の遷移を表す遷移確率と、遷移する際に伴う
特徴ベクトル（音声の特徴パラメータの典型的なもの
で、通常数十から数千種類がある）を出力する出力確率
分布を有している。この出力確率分布は、平均値μと分
散σを有するガウス分布を用いて表すことが一般的であ
る。このようなＨＭＭを用いた音声認識方法が前記文献
１に記載されており、その単語音声認識の例を図２に示
す。
例えば次のような文献に記載されるものがあった。 文献１；ザ・ベル・システム・テクニカル・ジャーナル
（The Bell System Technical Journal ）、６２「４」
（１９８３−４） AmericanTelephone and Telegrap
h Company、（米）、エス・イー・レビンソン（S.E.Levi
nson）、エル・アール・ラビナー（L.R.Rabiner ）、エ
ム・エム・ソンディ（M.M.Sondhi）共著「An Introduct
ion to theApplication of the Theory of Probabilist
ic Function of aMarkov Process to Automatic Speech
Recognition」p.1035-1074 文献２；中川聖一著「確率モデルによる音声認識」（昭
６３−７）、電子情報通信学会、p.27-28,p.55-61,p.69
-71 文献３；電子情報通信学会技術研究報告、ＳＰ９５−２
１（１９９５−６）小森他著「Top-Down Clistering に
基づく効率的なShared-StateTriphone ＨＭＭ」p.23-3
0 音声認識技術には、古典的なパターン・マッチング手法
と統計的な手法とがあり、近年では後者が主流になりつ
つある。後者の統計的な手法では、確率的な有限状態を
持つマルコフ・モデルが提案されており、通常、ＨＭＭ
と呼ばれる。一般に、ＨＭＭは、複数の状態（例えば、
音声の特徴等）と状態間の遷移からなる。さらに、ＨＭ
Ｍは状態間の遷移を表す遷移確率と、遷移する際に伴う
特徴ベクトル（音声の特徴パラメータの典型的なもの
で、通常数十から数千種類がある）を出力する出力確率
分布を有している。この出力確率分布は、平均値μと分
散σを有するガウス分布を用いて表すことが一般的であ
る。このようなＨＭＭを用いた音声認識方法が前記文献
１に記載されており、その単語音声認識の例を図２に示
す。
【０００３】図２は、従来の音声認識方法に用いられる
ＨＭＭの構造例を示す図である。図２のｓ1 ，ｓ2 ，ｓ
3 ，ｓ4 はＨＭＭにおける音声の特徴等の状態を、
ａ11，ａ12，ａ22，ａ23，ａ33，ａ34，ａ44，ａ45は状
態遷移確率を、（μ1 ，σ1），（μ2 ，σ2 ），（μ
3 ，σ3 ），（μ4 ，σ4 ）は各状態における出力確率
分布を、それぞれ表している。ＨＭＭでは、状態遷移確
率ａij（但し、ｉ＝１，・・，４、ｊ＝１，・・，５）
で状態遷移が行われる際、各状態ｉに対する出力確率分
布（μi ，σi ）のベクトルを出力する。発声された単
語をＨＭＭを用いて認識するには、まず、各単語に対し
て用意された学習データを用いて、その単語のベクトル
列を最も高い確率で出力するようにＨＭＭを学習する。
次に、発声された未知単語のベクトル列を入力し、最も
高い出力確率を与えた単語ＨＭＭを認識結果とする。こ
の種の音声認識方法では、発声された単語そのものにＨ
ＭＭを与えて学習し、尤度（即ち、ベクトル列の出力確
率）によって認識結果を判断している。このような単語
ＨＭＭは、優れた認識精度を保証するが、認識語彙数が
増大することによって、膨大な学習データが必要とな
る。また、学習対象語以外の音声が全く認識できない等
の欠点もある。一方、音声学では通常、音素と呼ばれる
声学的要素の系列で単語を表している。従って、音素ご
とにＨＭＭを用意し、これらのＨＭＭを連結して単語Ｈ
ＭＭを生成し、単語認識を行う方法もある。しかし、実
際に発声された単語音声においては、各々の音素は隣同
士の音素の影響を受け、特徴パラメータ（例えば、スペ
クトル）が、かなり変形してしまう。このような調音結
合によるスペクトルの変形は、音素ＨＭＭで表現しきれ
ないことがある。そのため、このような単純に音素ＨＭ
Ｍを連結して単語を認識する方法では、認識率の低下が
免れない。
ＨＭＭの構造例を示す図である。図２のｓ1 ，ｓ2 ，ｓ
3 ，ｓ4 はＨＭＭにおける音声の特徴等の状態を、
ａ11，ａ12，ａ22，ａ23，ａ33，ａ34，ａ44，ａ45は状
態遷移確率を、（μ1 ，σ1），（μ2 ，σ2 ），（μ
3 ，σ3 ），（μ4 ，σ4 ）は各状態における出力確率
分布を、それぞれ表している。ＨＭＭでは、状態遷移確
率ａij（但し、ｉ＝１，・・，４、ｊ＝１，・・，５）
で状態遷移が行われる際、各状態ｉに対する出力確率分
布（μi ，σi ）のベクトルを出力する。発声された単
語をＨＭＭを用いて認識するには、まず、各単語に対し
て用意された学習データを用いて、その単語のベクトル
列を最も高い確率で出力するようにＨＭＭを学習する。
次に、発声された未知単語のベクトル列を入力し、最も
高い出力確率を与えた単語ＨＭＭを認識結果とする。こ
の種の音声認識方法では、発声された単語そのものにＨ
ＭＭを与えて学習し、尤度（即ち、ベクトル列の出力確
率）によって認識結果を判断している。このような単語
ＨＭＭは、優れた認識精度を保証するが、認識語彙数が
増大することによって、膨大な学習データが必要とな
る。また、学習対象語以外の音声が全く認識できない等
の欠点もある。一方、音声学では通常、音素と呼ばれる
声学的要素の系列で単語を表している。従って、音素ご
とにＨＭＭを用意し、これらのＨＭＭを連結して単語Ｈ
ＭＭを生成し、単語認識を行う方法もある。しかし、実
際に発声された単語音声においては、各々の音素は隣同
士の音素の影響を受け、特徴パラメータ（例えば、スペ
クトル）が、かなり変形してしまう。このような調音結
合によるスペクトルの変形は、音素ＨＭＭで表現しきれ
ないことがある。そのため、このような単純に音素ＨＭ
Ｍを連結して単語を認識する方法では、認識率の低下が
免れない。
【０００４】このような調音結合による影響を除去する
ため、前後の音韻環境に依存する環境依存型音素モデ
ル、つまり、片側環境依存型音素（diphone 、以下「ダ
イフォン」という）と両側環境依存型音素（triphone、
以下「トライフォン」という）が提案されている。ここ
でダイフォンとは、対象音素に対して、先行音素若しく
は後続音素のどちらかが既知である音素を指し、トライ
フォンは先行音素と後続音素の両方が既知である音素を
指す。音声認識を行う際、ダイフォンあるいはトライフ
ォンＨＭＭを用意し、これらのＨＭＭの連接によって単
語ＨＭＭを構成し、単語認識を行うようにしている。ト
ライフォンＨＭＭは、音素ＨＭＭに比べ、調音結合によ
るスペクトル変形に伴う認識率の低下が回避できるが、
モデル数が約１万種と非常に多いため、トライフォンＨ
ＭＭを学習するには大量の学習データを用意しなければ
ならなかった。そこで、より少ない学習データでトライ
フォンＨＭＭを精度良く学習する方法が、前記文献３に
提案されている。この方法は、図３の状態共有の概念図
に示すように、トライフォンＨＭＭの状態ｓa1，ｓa2，
・・，ｓan，ｓb1，ｓb2等をクラスタ（cluster:群）
Ａ，Ｂ，Ｃ等に集約し、クラスタ毎に代表状態ＳＡ，Ｓ
Ｂ，ＳＣ等を選定し、同一クラスタに属するトライフォ
ンＨＭＭの状態はすべてその代表状態で表す方法であ
る。この様に、クラスタリングで代表状態を共有するこ
とにより、トライフォンＨＭＭのモデル数を減少させて
トライフォンＨＭＭの学習を行っていた。
ため、前後の音韻環境に依存する環境依存型音素モデ
ル、つまり、片側環境依存型音素（diphone 、以下「ダ
イフォン」という）と両側環境依存型音素（triphone、
以下「トライフォン」という）が提案されている。ここ
でダイフォンとは、対象音素に対して、先行音素若しく
は後続音素のどちらかが既知である音素を指し、トライ
フォンは先行音素と後続音素の両方が既知である音素を
指す。音声認識を行う際、ダイフォンあるいはトライフ
ォンＨＭＭを用意し、これらのＨＭＭの連接によって単
語ＨＭＭを構成し、単語認識を行うようにしている。ト
ライフォンＨＭＭは、音素ＨＭＭに比べ、調音結合によ
るスペクトル変形に伴う認識率の低下が回避できるが、
モデル数が約１万種と非常に多いため、トライフォンＨ
ＭＭを学習するには大量の学習データを用意しなければ
ならなかった。そこで、より少ない学習データでトライ
フォンＨＭＭを精度良く学習する方法が、前記文献３に
提案されている。この方法は、図３の状態共有の概念図
に示すように、トライフォンＨＭＭの状態ｓa1，ｓa2，
・・，ｓan，ｓb1，ｓb2等をクラスタ（cluster:群）
Ａ，Ｂ，Ｃ等に集約し、クラスタ毎に代表状態ＳＡ，Ｓ
Ｂ，ＳＣ等を選定し、同一クラスタに属するトライフォ
ンＨＭＭの状態はすべてその代表状態で表す方法であ
る。この様に、クラスタリングで代表状態を共有するこ
とにより、トライフォンＨＭＭのモデル数を減少させて
トライフォンＨＭＭの学習を行っていた。
【０００５】
【発明が解決しようとする課題】しかしながら、従来の
状態共有によるトライフォンＨＭＭ学習方法では、次の
ような課題があった。図３において、クラスタＡに属す
る状態ｓa1，ｓa2，・・，ｓanは、代表状態ＳＡを共有
している。このため、個々の状態ｓaiは、代表状態ＳＡ
との類似度には無関係に代表状態ＳＡと同一と見なされ
る。しかし、実際にはクラスタＢの代表状態ＳＢにも近
い場合、単純に代表状態ＳＡと見なすことは、トライフ
ォンＨＭＭの精度を低下させることになる。本発明は、
前記従来技術が持っていた課題として、状態のクラスタ
リングによるトライフォンＨＭＭの精度低下を防止し、
かつ比較的少量の学習データにより精度の高いトライフ
ォンＨＭＭの学習方法を提供するものである。
状態共有によるトライフォンＨＭＭ学習方法では、次の
ような課題があった。図３において、クラスタＡに属す
る状態ｓa1，ｓa2，・・，ｓanは、代表状態ＳＡを共有
している。このため、個々の状態ｓaiは、代表状態ＳＡ
との類似度には無関係に代表状態ＳＡと同一と見なされ
る。しかし、実際にはクラスタＢの代表状態ＳＢにも近
い場合、単純に代表状態ＳＡと見なすことは、トライフ
ォンＨＭＭの精度を低下させることになる。本発明は、
前記従来技術が持っていた課題として、状態のクラスタ
リングによるトライフォンＨＭＭの精度低下を防止し、
かつ比較的少量の学習データにより精度の高いトライフ
ォンＨＭＭの学習方法を提供するものである。
【０００６】
【課題を解決するための手段】前記課題を解決するため
に、本発明は、音声信号を分析して環境依存型音素ＨＭ
Ｍを学習するＨＭＭの学習方法において、図４に示すよ
うな状態共有の概念を用いて、次のような処理を行って
いる。図４では、１つの状態ｓaiは、その属するクラス
タＡの代表状態ＳＡだけではなく、他の類似する代表状
態ＳＢ，ＳＣ，・・とも、それぞれの類似度に応じた結
合係数γia，γib，γic，・・をもって共有関係を有し
ていることを例示している。この様な状態共有の概念を
用い、本発明では、まず、前記学習で得た環境依存型音
素ＨＭＭを構成する状態に分解する分解処理と、前記状
態を類似する状態毎に群に集約して各群の代表状態
ＳＡ，ＳＢ，ＳＣ，・・を定める集約処理を行う。次
に、前記状態と前記各代表状態との類似度を計算して類
似度の高い順に該状態が共有する一定数の代表状態を選
択する選択処理を行う。更に、前記状態の前記選択処理
で選択した各代表状態との共有関係を、該状態と該各代
表状態との類似度に応じた結合係数γia，γib，γic，
・・を用いて表現する状態共有処理を行う。そして、前
記共有関係を有する状態によって前記環境依存型音素Ｈ
ＭＭを再構成する再構成処理を行って、前記環境依存型
音素ＨＭＭを学習するようにしている。
に、本発明は、音声信号を分析して環境依存型音素ＨＭ
Ｍを学習するＨＭＭの学習方法において、図４に示すよ
うな状態共有の概念を用いて、次のような処理を行って
いる。図４では、１つの状態ｓaiは、その属するクラス
タＡの代表状態ＳＡだけではなく、他の類似する代表状
態ＳＢ，ＳＣ，・・とも、それぞれの類似度に応じた結
合係数γia，γib，γic，・・をもって共有関係を有し
ていることを例示している。この様な状態共有の概念を
用い、本発明では、まず、前記学習で得た環境依存型音
素ＨＭＭを構成する状態に分解する分解処理と、前記状
態を類似する状態毎に群に集約して各群の代表状態
ＳＡ，ＳＢ，ＳＣ，・・を定める集約処理を行う。次
に、前記状態と前記各代表状態との類似度を計算して類
似度の高い順に該状態が共有する一定数の代表状態を選
択する選択処理を行う。更に、前記状態の前記選択処理
で選択した各代表状態との共有関係を、該状態と該各代
表状態との類似度に応じた結合係数γia，γib，γic，
・・を用いて表現する状態共有処理を行う。そして、前
記共有関係を有する状態によって前記環境依存型音素Ｈ
ＭＭを再構成する再構成処理を行って、前記環境依存型
音素ＨＭＭを学習するようにしている。
【０００７】本発明によれば、以上のようにＨＭＭの学
習方法を構成したので、多数の環境依存型音素ＨＭＭを
学習した後、それらのＨＭＭは、それぞれのＨＭＭを構
成している複数の状態に分解される。この分解で得られ
た多数の状態は、今度は類似する状態毎の群に集約さ
れ、各群毎にその代表状態ＳＡ，ＳＢ，ＳＣ，・・が定
められる。次に、個々の状態毎に、各代表状態との類似
度が計算され、類似度の高い順に一定数の代表状態が共
有関係を有する代表状態として選択される。そして、個
々の状態は、それぞれの状態に対して選択された代表状
態とその類似度に応じた結合係数γia，γib，γic，・
・を用いて、共有状態が表現される。
習方法を構成したので、多数の環境依存型音素ＨＭＭを
学習した後、それらのＨＭＭは、それぞれのＨＭＭを構
成している複数の状態に分解される。この分解で得られ
た多数の状態は、今度は類似する状態毎の群に集約さ
れ、各群毎にその代表状態ＳＡ，ＳＢ，ＳＣ，・・が定
められる。次に、個々の状態毎に、各代表状態との類似
度が計算され、類似度の高い順に一定数の代表状態が共
有関係を有する代表状態として選択される。そして、個
々の状態は、それぞれの状態に対して選択された代表状
態とその類似度に応じた結合係数γia，γib，γic，・
・を用いて、共有状態が表現される。
【０００８】
【発明の実施の形態】図５は、本発明の実施形態を示す
ＨＭＭの学習及び音声認識装置の概略の機能ブロック図
である。この学習及び音声認識装置は、例えば電話回線
を通してアナログ音声信号ＩＮが入力されるアナログ／
ディジタル（以下、「Ａ／Ｄ」という）変換部１を有し
ている。Ａ／Ｄ変換部１のディジタルの出力側は、ケプ
ストラムの抽出等を行うＬＰＣ（Linear Predictive Co
ding；線形予測符号化）分析部２に接続され、このＬＰ
Ｃ分析部２の出力側は、ＨＭＭ学習モードＭ３ａと音声
認識モードＭ３ｂの切替えを行う切替部３に接続されて
いる。切替部３のＨＭＭ学習モードＭ３ａは、ＨＭＭパ
ラメータの学習を行って、その学習結果をＨＭＭ辞書５
に格納するＨＭＭパラメータ学習部４に接続されてい
る。また切替部３の音声認識モードＭ３ｂは、入力され
た信号をＨＭＭ辞書５を照合しながら音声認識する照合
部６に接続されている。照合部６の照合結果は、認識結
果ＯＵＴとして出力される。この学習及び音声認識装置
は、例えば、プログラム制御される中央処理装置（ＣＰ
Ｕ）と、Ａ／Ｄ変換器と、プログラム及びＨＭＭ辞書５
等を格納する記憶装置等とを有するコンピュータによっ
て構成されている。
ＨＭＭの学習及び音声認識装置の概略の機能ブロック図
である。この学習及び音声認識装置は、例えば電話回線
を通してアナログ音声信号ＩＮが入力されるアナログ／
ディジタル（以下、「Ａ／Ｄ」という）変換部１を有し
ている。Ａ／Ｄ変換部１のディジタルの出力側は、ケプ
ストラムの抽出等を行うＬＰＣ（Linear Predictive Co
ding；線形予測符号化）分析部２に接続され、このＬＰ
Ｃ分析部２の出力側は、ＨＭＭ学習モードＭ３ａと音声
認識モードＭ３ｂの切替えを行う切替部３に接続されて
いる。切替部３のＨＭＭ学習モードＭ３ａは、ＨＭＭパ
ラメータの学習を行って、その学習結果をＨＭＭ辞書５
に格納するＨＭＭパラメータ学習部４に接続されてい
る。また切替部３の音声認識モードＭ３ｂは、入力され
た信号をＨＭＭ辞書５を照合しながら音声認識する照合
部６に接続されている。照合部６の照合結果は、認識結
果ＯＵＴとして出力される。この学習及び音声認識装置
は、例えば、プログラム制御される中央処理装置（ＣＰ
Ｕ）と、Ａ／Ｄ変換器と、プログラム及びＨＭＭ辞書５
等を格納する記憶装置等とを有するコンピュータによっ
て構成されている。
【０００９】図１は、本発明の実施形態を示すもので、
図５の装置を用いたＨＭＭの学習方法の処理内容を表す
フローチャートである。以下、この図１を参照して、本
実施形態の学習方法を説明する。まず、ステップ１１で
学習が開始されると、ステップ１２において、学習デー
タの音声信号（例えば、単語音声）ＩＮが入力され、ス
テップ１３の前処理へ進む。ステップ１３の前処理で
は、例えば入力されたアナログ音声信号ＩＮは図５のＡ
／Ｄ変換部１でディジタル信号に変換され、ＬＰＣ分析
部２でのＬＰＣ分析によるケプストラムの抽出等によ
り、図２に示すようなＨＭＭの各状態ｓi （ｉ＝１，・
・，４）に対応する音声特徴パラメータを抽出する。図
５の切替部３は、ＬＰＣ分析部２で抽出された音声特徴
パラメータを，ＨＭＭ学習モードＭ３ａ側のＨＭＭパラ
メータ学習部４へ伝達する。ＨＭＭパラメータ学習部４
は、トライフォンＨＭＭ辞書５ａ及び基底状態辞書５ｂ
を有するＨＭＭ辞書５を用いて、ステップ１４〜１９の
ＨＭＭ学習処理を行う。トライフォンＨＭＭ辞書５ａに
は、約１万種類のトライフォンＨＭＭのパラメータ（状
態遷移確率ａij，出力確率分布μj ，σj 等）の初期値
が格納されている。
図５の装置を用いたＨＭＭの学習方法の処理内容を表す
フローチャートである。以下、この図１を参照して、本
実施形態の学習方法を説明する。まず、ステップ１１で
学習が開始されると、ステップ１２において、学習デー
タの音声信号（例えば、単語音声）ＩＮが入力され、ス
テップ１３の前処理へ進む。ステップ１３の前処理で
は、例えば入力されたアナログ音声信号ＩＮは図５のＡ
／Ｄ変換部１でディジタル信号に変換され、ＬＰＣ分析
部２でのＬＰＣ分析によるケプストラムの抽出等によ
り、図２に示すようなＨＭＭの各状態ｓi （ｉ＝１，・
・，４）に対応する音声特徴パラメータを抽出する。図
５の切替部３は、ＬＰＣ分析部２で抽出された音声特徴
パラメータを，ＨＭＭ学習モードＭ３ａ側のＨＭＭパラ
メータ学習部４へ伝達する。ＨＭＭパラメータ学習部４
は、トライフォンＨＭＭ辞書５ａ及び基底状態辞書５ｂ
を有するＨＭＭ辞書５を用いて、ステップ１４〜１９の
ＨＭＭ学習処理を行う。トライフォンＨＭＭ辞書５ａに
は、約１万種類のトライフォンＨＭＭのパラメータ（状
態遷移確率ａij，出力確率分布μj ，σj 等）の初期値
が格納されている。
【００１０】ステップ１４では、ステップ１３の前処理
で得られたトライフォンの音声特徴パラメータとトライ
フォンＨＭＭ辞書５ａとを用いて、このトライフォンＨ
ＭＭのパラメータを推定する（ＨＭＭの学習）。ＨＭＭ
パラメータの推定には、例えば前記文献２に記載された
Baum-Welch（Ｂ−Ｗ）アルゴリズムを用いる。このＢ−
Ｗアルゴリズムでは、例えば観測ラベル系列Ｏ＝ｏ1 ，
ｏ2 ，・・，ｏT 及び状態系列Ｉ＝ｉ1 ，ｉ2 ，・・，
ｉT に対して、次式のように、前向き変数αt（ｉ）と
後向き変数βt （ｉ）を定義する。 αt （ｉ）＝Ｐｒ（ｏ1 ，ｏ2 ，・・，ｏt ，ｉt ＝Ｓi ） βt （ｉ）＝Ｐｒ（ｏt+1 ，ｏt+2 ，・・，ｏT ｜ｉt ＝Ｓi ） ・・・（１） そして、状態遷移確率ａijと出力確率分布（μj ，
σj ）を次式のように推定する。
で得られたトライフォンの音声特徴パラメータとトライ
フォンＨＭＭ辞書５ａとを用いて、このトライフォンＨ
ＭＭのパラメータを推定する（ＨＭＭの学習）。ＨＭＭ
パラメータの推定には、例えば前記文献２に記載された
Baum-Welch（Ｂ−Ｗ）アルゴリズムを用いる。このＢ−
Ｗアルゴリズムでは、例えば観測ラベル系列Ｏ＝ｏ1 ，
ｏ2 ，・・，ｏT 及び状態系列Ｉ＝ｉ1 ，ｉ2 ，・・，
ｉT に対して、次式のように、前向き変数αt（ｉ）と
後向き変数βt （ｉ）を定義する。 αt （ｉ）＝Ｐｒ（ｏ1 ，ｏ2 ，・・，ｏt ，ｉt ＝Ｓi ） βt （ｉ）＝Ｐｒ（ｏt+1 ，ｏt+2 ，・・，ｏT ｜ｉt ＝Ｓi ） ・・・（１） そして、状態遷移確率ａijと出力確率分布（μj ，
σj ）を次式のように推定する。
【００１１】
【数１】 このように学習されたトライフォンＨＭＭのパラメータ
によって、トライフォンＨＭＭ辞書５ａを更新し、ステ
ップ１５へ進む。ステップ１５では、ステップ１４で得
られたトライフォンＨＭＭを、それを構成する状態に分
解し、ステップ１６へ進む。
によって、トライフォンＨＭＭ辞書５ａを更新し、ステ
ップ１５へ進む。ステップ１５では、ステップ１４で得
られたトライフォンＨＭＭを、それを構成する状態に分
解し、ステップ１６へ進む。
【００１２】ステップ１６では、ステップ１５で分解さ
れた状態を約１０００個のクラスタにクラスタリングす
る。クラスタリングでは、まず任意の２つの状態ｓｉと
ｓｊの距離（即ち、類似度）ｄijを、すべての組み合わ
せについて計算する。距離ｄijの計算には、２つの状態
ｓｉとｓｊの平均ベクトルμｉとμｊとの間のユークリ
ッド距離を用いる方法や、状態間のバハタラヤ（Bhatta
chryya；人名）距離を用いる方法がある。例えば、バハ
タラヤ距離を用いる場合、距離ｄijは次式で定義され
る。 ｄij＝0.125 ［μｉ−μｊ］t ｛（σｉ＋σｊ）／２｝-1［μｉ−μｊ］ ＋0.5 ln（｜（σｉ＋σｊ）／２｜／（｜σｉ｜1/2 ｜σｊ｜1/2 ）） 但し、［μｉ−μｊ］t ：［μｉ−μｊ］の転置行列 ・・・（３） 次に、すべての状態間の距離ｄijを使用し、例えば、文
献２に記載されたＬＢＧ法により、状態のクラスタリン
グを行う。このクラスタリングにより、各クラスタの代
表状態Ｓｊ（ｊ＝１，２，・・・，Ｎ）が決められ、代
表状態Ｓｊの集合である基底状態セット｛Ｓ｝が生成さ
れる。この基底状態セット｛Ｓ｝は、基底状態セット辞
書５ｂに格納され、ステップ１７へ進む。
れた状態を約１０００個のクラスタにクラスタリングす
る。クラスタリングでは、まず任意の２つの状態ｓｉと
ｓｊの距離（即ち、類似度）ｄijを、すべての組み合わ
せについて計算する。距離ｄijの計算には、２つの状態
ｓｉとｓｊの平均ベクトルμｉとμｊとの間のユークリ
ッド距離を用いる方法や、状態間のバハタラヤ（Bhatta
chryya；人名）距離を用いる方法がある。例えば、バハ
タラヤ距離を用いる場合、距離ｄijは次式で定義され
る。 ｄij＝0.125 ［μｉ−μｊ］t ｛（σｉ＋σｊ）／２｝-1［μｉ−μｊ］ ＋0.5 ln（｜（σｉ＋σｊ）／２｜／（｜σｉ｜1/2 ｜σｊ｜1/2 ）） 但し、［μｉ−μｊ］t ：［μｉ−μｊ］の転置行列 ・・・（３） 次に、すべての状態間の距離ｄijを使用し、例えば、文
献２に記載されたＬＢＧ法により、状態のクラスタリン
グを行う。このクラスタリングにより、各クラスタの代
表状態Ｓｊ（ｊ＝１，２，・・・，Ｎ）が決められ、代
表状態Ｓｊの集合である基底状態セット｛Ｓ｝が生成さ
れる。この基底状態セット｛Ｓ｝は、基底状態セット辞
書５ｂに格納され、ステップ１７へ進む。
【００１３】ステップ１７では、基底状態セット｛Ｓ｝
を用いてトライフォンＨＭＭの再構成を行う。ここで
は、まず任意の状態ｓｉに対して、基底状態セット
｛Ｓ｝の各代表状態Ｓｊ（ｊ＝１，２，・・・，Ｎ）と
の距離ｄij（ｊ＝１，２，・・・，Ｎ）を計算する。次
に、距離ｄijの小さい（即ち、類似度の大きい）順に上
位Ｍ個（例えば、Ｍ＝１０）の代表状態ＳＳij（ｊ＝
１，２，・・，Ｍ）を選択し、基底状態サブセット｛Ｓ
Ｓｉ｝とする。そして、各トライフォンＨＭＭを構成す
る状態ｓｉと，対応する基底状態サブセット｛ＳＳｉ｝
を構成する代表状態ＳＳij（ｊ＝１，２，・・，Ｍ）と
を次式に示すように、結合係数γijを使用し、共有状態
を関係付けてトライフォンＨＭＭを再構成する。
を用いてトライフォンＨＭＭの再構成を行う。ここで
は、まず任意の状態ｓｉに対して、基底状態セット
｛Ｓ｝の各代表状態Ｓｊ（ｊ＝１，２，・・・，Ｎ）と
の距離ｄij（ｊ＝１，２，・・・，Ｎ）を計算する。次
に、距離ｄijの小さい（即ち、類似度の大きい）順に上
位Ｍ個（例えば、Ｍ＝１０）の代表状態ＳＳij（ｊ＝
１，２，・・，Ｍ）を選択し、基底状態サブセット｛Ｓ
Ｓｉ｝とする。そして、各トライフォンＨＭＭを構成す
る状態ｓｉと，対応する基底状態サブセット｛ＳＳｉ｝
を構成する代表状態ＳＳij（ｊ＝１，２，・・，Ｍ）と
を次式に示すように、結合係数γijを使用し、共有状態
を関係付けてトライフォンＨＭＭを再構成する。
【００１４】
【数２】 このように再構成されたトライフォンＨＭＭのパラメー
タによって、トライフォンＨＭＭ辞書５ａを更新し、ス
テップ１８へ進む。
タによって、トライフォンＨＭＭ辞書５ａを更新し、ス
テップ１８へ進む。
【００１５】ステップ１８では、トライフォンＨＭＭの
学習が所定回数行われたか否かを判定する。もし、予め
決められた回数に達していないときはステップ１４へ戻
り、ステップ１４〜１７の処理を繰り返す。この繰り返
し学習により、トライフォンＨＭＭ辞書５ａの内容は、
初期値から漸進的に更新され、最適化される。ステップ
１８での判定結果、トライフォンＨＭＭの学習が所定回
数に達しているときは、ステップ１９でトライフォンＨ
ＭＭの学習を終了する。そして、トライフォンＨＭＭ辞
書５ａ及び基底状態セット辞書５ｂ内の最終値がＨＭＭ
の学習結果となる。以上のように、本実施形態では次の
（ｉ），（ii）のような利点がある。
学習が所定回数行われたか否かを判定する。もし、予め
決められた回数に達していないときはステップ１４へ戻
り、ステップ１４〜１７の処理を繰り返す。この繰り返
し学習により、トライフォンＨＭＭ辞書５ａの内容は、
初期値から漸進的に更新され、最適化される。ステップ
１８での判定結果、トライフォンＨＭＭの学習が所定回
数に達しているときは、ステップ１９でトライフォンＨ
ＭＭの学習を終了する。そして、トライフォンＨＭＭ辞
書５ａ及び基底状態セット辞書５ｂ内の最終値がＨＭＭ
の学習結果となる。以上のように、本実施形態では次の
（ｉ），（ii）のような利点がある。
【００１６】（ｉ）図１のステップ１６において、クラ
スタリングにより基底状態セット｛Ｓ｝を生成し、ステ
ップ１７で各状態ｓｉ毎に類似度の高い代表状態を選択
して基底状態サブセット｛ＳＳｉ｝を定めている。そし
て、各状態ｓｉは、基底状態サブセット｛ＳＳｉ｝を構
成する各代表状態ＳＳij（ｊ＝１，２，・・，Ｍ）との
類似度に応じた結合係数γijをもって、代表状態ＳＳij
の共有状態が関係付けられる。即ち、クラスタリングで
代表状態を共有することにより、トライフォンＨＭＭの
モデル数を減少させて、比較的少量の学習データでトラ
イフォンＨＭＭの学習を可能とするというクラスタリン
グの利点をそのまま生かしている。しかも、複数の代表
状態ＳＳijとの類似度に応じた結合係数γijを用いて共
有関係を表現することにより、特定の代表状態に偏らな
い精密な状態表現が可能となるという利点がある。 （ii）ステップ１８で学習回数を判定し、ステップ１４
〜１７の学習を所定の回数繰り返しているので、トライ
フォンＨＭＭのパラメータは、初期値から開始し、漸進
的に最適化されるという利点がある。従って、本実施形
態の学習方法では、トライフォンＨＭＭの状態を精密に
表現することが可能であり、この方法で学習されたトラ
イフォンＨＭＭを使用することにより、高精度の音声認
識を提供できるという利点がある。
スタリングにより基底状態セット｛Ｓ｝を生成し、ステ
ップ１７で各状態ｓｉ毎に類似度の高い代表状態を選択
して基底状態サブセット｛ＳＳｉ｝を定めている。そし
て、各状態ｓｉは、基底状態サブセット｛ＳＳｉ｝を構
成する各代表状態ＳＳij（ｊ＝１，２，・・，Ｍ）との
類似度に応じた結合係数γijをもって、代表状態ＳＳij
の共有状態が関係付けられる。即ち、クラスタリングで
代表状態を共有することにより、トライフォンＨＭＭの
モデル数を減少させて、比較的少量の学習データでトラ
イフォンＨＭＭの学習を可能とするというクラスタリン
グの利点をそのまま生かしている。しかも、複数の代表
状態ＳＳijとの類似度に応じた結合係数γijを用いて共
有関係を表現することにより、特定の代表状態に偏らな
い精密な状態表現が可能となるという利点がある。 （ii）ステップ１８で学習回数を判定し、ステップ１４
〜１７の学習を所定の回数繰り返しているので、トライ
フォンＨＭＭのパラメータは、初期値から開始し、漸進
的に最適化されるという利点がある。従って、本実施形
態の学習方法では、トライフォンＨＭＭの状態を精密に
表現することが可能であり、この方法で学習されたトラ
イフォンＨＭＭを使用することにより、高精度の音声認
識を提供できるという利点がある。
【００１７】なお、本発明は、前記実施形態に限定され
ず、種々の変形が可能である。この変形例としては、例
えば、次の（ａ）〜（ｃ）のようなものがある。 （ａ）前記実施形態では、図２に示す４状態ＨＭＭを例
として、トライフォンＨＭＭの学習方法を説明している
が、その他の状態数のトライフォンＨＭＭについても同
様に適用可能である。 （ｂ）前記実施形態では、トラオフォンＨＭＭの学習方
法について説明しているが、ダイフォンＨＭＭの場合に
も、同様にして学習をすることができる。 （ｃ）図１のフローチャートでは、ステップ１８で学習
回数の判定を行い、所定回数に達するまでステップ１４
〜１７の繰り返し学習を行っている。しかし、この繰り
返し学習は必ずしも必要ではなく、ステップ１７でトラ
イフォンＨＭＭの再構成処理を行った後、直ちにトライ
フォンＨＭＭの学習を終了しても良い。繰り返し学習を
行わない場合、繰り返しを行った場合に比べ若干の精度
劣化を生ずるが、学習処理時間の大幅な削減が可能とな
る。
ず、種々の変形が可能である。この変形例としては、例
えば、次の（ａ）〜（ｃ）のようなものがある。 （ａ）前記実施形態では、図２に示す４状態ＨＭＭを例
として、トライフォンＨＭＭの学習方法を説明している
が、その他の状態数のトライフォンＨＭＭについても同
様に適用可能である。 （ｂ）前記実施形態では、トラオフォンＨＭＭの学習方
法について説明しているが、ダイフォンＨＭＭの場合に
も、同様にして学習をすることができる。 （ｃ）図１のフローチャートでは、ステップ１８で学習
回数の判定を行い、所定回数に達するまでステップ１４
〜１７の繰り返し学習を行っている。しかし、この繰り
返し学習は必ずしも必要ではなく、ステップ１７でトラ
イフォンＨＭＭの再構成処理を行った後、直ちにトライ
フォンＨＭＭの学習を終了しても良い。繰り返し学習を
行わない場合、繰り返しを行った場合に比べ若干の精度
劣化を生ずるが、学習処理時間の大幅な削減が可能とな
る。
【００１８】
【発明の効果】以上詳細に説明したように、本発明によ
れば、環境依存型音素ＨＭＭの状態共有を行う際、各状
態を代表状態と１対１に関係付けるのではなく、各状態
を複数の代表状態との類似度に応じた結合係数を用いて
関係付けているので、環境依存型音素ＨＭＭの状態をよ
り精密に表現することが可能となる。更に、状態共有に
よりモデル数の制限が可能であるというクラスタリング
の特徴をそのまま保持できるため、処理速度が速くかつ
高精度の音声認識を提供可能な環境依存型音素ＨＭＭを
生成することが可能となる。
れば、環境依存型音素ＨＭＭの状態共有を行う際、各状
態を代表状態と１対１に関係付けるのではなく、各状態
を複数の代表状態との類似度に応じた結合係数を用いて
関係付けているので、環境依存型音素ＨＭＭの状態をよ
り精密に表現することが可能となる。更に、状態共有に
よりモデル数の制限が可能であるというクラスタリング
の特徴をそのまま保持できるため、処理速度が速くかつ
高精度の音声認識を提供可能な環境依存型音素ＨＭＭを
生成することが可能となる。
【図１】本発明の実施形態を示すＨＭＭの学習方法の処
理内容のフローチャートである。
理内容のフローチャートである。
【図２】従来の音声認識方法に用いられるＨＭＭの構造
例を示す図である。
例を示す図である。
【図３】従来のＨＭＭの状態共有の概念図である。
【図４】本発明のＨＭＭの状態共有の概念図である。
【図５】本発明の実施形態のＨＭＭ学習及び音声認識装
置の機能ブロック図である。
置の機能ブロック図である。
５ａ トライフォンＨＭＭ辞書 ５ｂ 基底状態セット辞書 １４ トライフォンＨＭＭの学習処理のステップ １５ トライフォンＨＭＭの状態への分解処理のステ
ップ １６ クラスタリング及び基底状態セット生成のステ
ップ １７ 基底状態セットによるトライフォン再構成のス
テップ
ップ １６ クラスタリング及び基底状態セット生成のステ
ップ １７ 基底状態セットによるトライフォン再構成のス
テップ
Claims (1)
- 【請求項１】 音声信号を分析して環境依存型音素ヒド
ン・マルコフ・モデルを学習するヒドン・マルコフ・モ
デルの学習方法において、 前記学習で得た環境依存型音素ヒドン・マルコフ・モデ
ルを構成する状態に分解する分解処理と、 前記状態を類似する状態毎に群に集約して各群の代表状
態を定める集約処理と、 前記状態と前記各代表状態との類似度を計算して類似度
の高い順に該状態が共有する一定数の代表状態を選択す
る選択処理と、 前記状態の前記選択処理で選択した各代表状態との共有
関係を、該状態と該各代表状態との類似度に応じた結合
係数を用いて表現する状態共有処理と、 前記共有関係を有する状態によって前記環境依存型音素
ヒドン・マルコフ・モデルを再構成する再構成処理と
を、 行うことを特徴とするヒドン・マルコフ・モデルの学習
方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7340624A JPH09179580A (ja) | 1995-12-27 | 1995-12-27 | ヒドン・マルコフ・モデルの学習方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP7340624A JPH09179580A (ja) | 1995-12-27 | 1995-12-27 | ヒドン・マルコフ・モデルの学習方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH09179580A true JPH09179580A (ja) | 1997-07-11 |
Family
ID=18338764
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP7340624A Withdrawn JPH09179580A (ja) | 1995-12-27 | 1995-12-27 | ヒドン・マルコフ・モデルの学習方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH09179580A (ja) |
Cited By (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107240396A (zh) * | 2017-06-16 | 2017-10-10 | 百度在线网络技术（北京）有限公司 | 说话人自适应方法、装置、设备及存储介质 |
| CN108827458A (zh) * | 2018-06-15 | 2018-11-16 | 西安交通大学 | 一种风力发电机叶片固有频率在线识别方法 |
-
1995
- 1995-12-27 JP JP7340624A patent/JPH09179580A/ja not_active Withdrawn
Cited By (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| CN107240396A (zh) * | 2017-06-16 | 2017-10-10 | 百度在线网络技术（北京）有限公司 | 说话人自适应方法、装置、设备及存储介质 |
| US10665225B2 (en) | 2017-06-16 | 2020-05-26 | Baidu Online Network Technology (Beijing) Co., Ltd. | Speaker adaption method and apparatus, and storage medium |
| CN108827458A (zh) * | 2018-06-15 | 2018-11-16 | 西安交通大学 | 一种风力发电机叶片固有频率在线识别方法 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US8126717B1 (en) | System and method for predicting prosodic parameters | |
| JP4141495B2 (ja) | 最適化された部分的確率混合共通化を用いる音声認識のための方法および装置 | |
| CA2507999C (en) | Sensor based speech recognizer selection, adaptation and combination | |
| US5165007A (en) | Feneme-based Markov models for words | |
| EP0966736B1 (en) | Method for discriminative training of speech recognition models | |
| US5050215A (en) | Speech recognition method | |
| US5862519A (en) | Blind clustering of data with application to speech processing systems | |
| US5835890A (en) | Method for speaker adaptation of speech models recognition scheme using the method and recording medium having the speech recognition method recorded thereon | |
| JPH09152886A (ja) | 不特定話者モデル生成装置及び音声認識装置 | |
| US6173076B1 (en) | Speech recognition pattern adaptation system using tree scheme | |
| JP3302266B2 (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| EP1074019B1 (en) | Adaptation of a speech recognizer for dialectal and linguistic domain variations | |
| JP3589044B2 (ja) | 話者適応化装置 | |
| JP2938866B1 (ja) | 統計的言語モデル生成装置及び音声認識装置 | |
| Walter et al. | An evaluation of unsupervised acoustic model training for a dysarthric speech interface | |
| JPH09179580A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| EP0238693B1 (en) | Speech recognition system and method using statistical models for words | |
| JP3216565B2 (ja) | 音声モデルの話者適応化方法及びその方法を用いた音声認識方法及びその方法を記録した記録媒体 | |
| JPH09160586A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| Deng et al. | Hierarchical partition of the articulatory state space for overlapping-feature based speech recognition | |
| JPH06175678A (ja) | 音声認識装置 | |
| JP3589508B2 (ja) | 話者適応音声認識方法および話者適応音声認識装置 | |
| JP3105708B2 (ja) | 音声認識装置 | |
| JPH10207485A (ja) | 音声認識装置及び話者適応方法 | |
| JPH05173588A (ja) | 音声認識方法 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A300 | Application deemed to be withdrawn because no request for examination was validly filed |
Free format text: JAPANESE INTERMEDIATE CODE: A300 Effective date: 20030304 |