JPH08328582A - ヒドン・マルコフ・モデルの学習方法 - Google Patents

Abstract

(57)【要約】 【目的】 環境依存型音素ＨＭＭ（ヒドン・マルコフ
・モデル）の利点を維持ながら、学習データに偏りが少
なく、平滑化された環境依存型音素ＨＭＭの学習方法を
提供する。 【構成】 ステップ６で単語ＨＭＭを学習した後、それ
らをステップ７で環境依存型音素ＨＭＭに分解し、それ
ら環境依存型音素ＨＭＭをステップ９で再連結して単語
ＨＭＭを作る。このような学習、分解、連結学習を繰り
返すことによって環境依存型音素ＨＭＭを学習する。そ
の後、ステップ１１で、環境依存型音素ＨＭＭでの学習
サンプル数が十分あったか否かを判定し、不十分だと判
定されたときのみ、ステップ１２で、環境依存型音素Ｈ
ＭＭの中心部分のとそれに対応する環境独立型音素ＨＭ
Ｍの相同部分のパラメータとを重み付き平均したパラメ
ータを求め、それを環境依存型音素ＨＭＭの中心部分の
パラメータに置換える。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】本発明は、音声認識方法等に用い
られるヒドン・マルコフ・モデル（以下、ＨＭＭとい
う）の学習方法に関するものである。

【０００２】

【従来の技術】従来、このような分野の技術としては、
例えば次のような文献に記載されるものがあった。 文献１；ザ・ベル・システム・テクニカル・ジャーナル
（The Bell System Technical Journal)、６２「４」
（１９８３−４）American Telephoneand Telegraph Co
mpany，（米）、エス・イー・レビンソン(S．E ．Levin
son）、エル・アール・ラビナー(L．R ．Rabiner)、エ
ム・エム・ソンディ(M．M ．Sondhi）共著「An Introdu
ction to the Application of the Theory of Probabil
istic Functions of a Markov Process to Automatic S
peech Recognition 」Ｐ．１０３５−１０７４ 文献２；中川聖一著「確率モデルによる音声認識」（昭
６３−７）、電子情報通信学会、Ｐ．５５−６１ 音声認識技術には、古典的なパターン・マッチング手法
と統計的な手法とがあり、近年では後者が主流になりつ
つある。後者の統計的な手法では、確率的な有限状態を
持つマルコフ・モデルが提案されており、通常、ＨＭＭ
と呼ばれている。一般に、ＨＭＭは、複数の状態（例え
ば、音声の特徴等）と状態間の遷移からなる。さらに、
ＨＭＭは、状態間の遷移を表す遷移確率と、遷移する際
に伴うラベル（音声の特徴パラメータの典型的なもの
で、通常数十から数千種類がある）を出力する出力確率
を有している。このようなＨＭＭを用いた音声認識方法
が前記文献１に記載されており、その単語音声認識の例
を図２に示す。

【０００３】図２は、従来の音声認識方法に用いられる
単語ＨＭＭの構造例を示す図である。図２のＳ₁ ，
Ｓ₂ ，Ｓ₃ ，Ｓ₄ は、ＨＭＭにおける音声の特徴等の状
態を表し、ａ₁₁，ａ₁₂，ａ₂₂，ａ₂₃，ａ₃₃，ａ₃₄，
ａ₄₄，ａ₄₅は状態遷移確率、ｂ₁ （ｋ），ｂ₂ （ｋ），
ｂ₃ （ｋ），ｂ₄ （ｋ）はラベル出力確率を表してい
る。ＨＭＭでは、状態遷移確率ａ_ij（但し、ｉ＝１，
…，４、ｊ＝１，…，５）で状態遷移が行われる際、ラ
ベル出力確率ｂ_j （ｋ）でラベルを出力する。発声され
た単語をＨＭＭを用いて認識するには、まず、各単語に
対して用意された学習データを用いて、その単語のラベ
ル列を最も高い確率で出力するようにＨＭＭを学習す
る。次に、発声された未知単語のラベル列を入力し、最
も高い出力確率を与えた単語ＨＭＭを認識結果とする。
この種の音声認識方法では、発声された単語そのものに
ＨＭＭを与えて学習し、尤度（即ち、ラベル列の出力確
率）によって認識結果を判断している。このような単語
ＨＭＭは優れた認識精度を保証するが、認識語彙数が増
大することによって、膨大な学習データが必要となる。
また、学習対象語以外の音声が全く認識できない等の欠
点もある。

【０００４】一方、音声学では通常、音素と呼ばれる声
学的要素の系列で単語を表している。従って、音素ごと
にＨＭＭを用意し、これらのＨＭＭを連結して単語ＨＭ
Ｍを生成し、単語認識を行う方法もある。しかし、実際
に発声された単語音声においては、各々の音素は隣同士
の音素の影響を受け、特徴パラメータ（例えば、スペク
トル）が、かなり変形してしまう。このような調音結合
によるスペクトルの変形は、音素ＨＭＭで表現しきれな
いことがある。そのため、このような単純に音素ＨＭＭ
を連結して単語を認識する方法では、認識率の低下が免
れない。このような調音結合による影響を除去するた
め、前後の音韻環境に依存する音素モデル、つまり、ダ
イフォン（diphone)とトライフォン(triphoen)が提案さ
れている。ここで言うダイフォンは、対象音素に対し
て、先行音素もしくは後続音素のどれかが既知である音
素を指し、トライフォンは先行音素と後続音素両方とも
既知である音素を指す。音声認識を行う際、ダイフォン
あるいはトライフォンＨＭＭを用意し、これらのＨＭＭ
の連接によって単語ＨＭＭを構成し、単語認識を行うよ
うにしている。

【０００５】音韻環境依存型音素ＨＭＭは、音韻環境独
立型音素ＨＭＭに比べ、調音結合によるスペクトル変形
に伴う認識率の低下が回避できるが、モデル数が多いた
め、ＨＭＭを学習するには大量な学習データを用意しな
ければならない。その上、学習データに各々のトライフ
ォンあるいはダイフォンが存在する区間を示す情報（即
ち、ラベル情報）も用意しなければならない。しかも、
ラベル付け作業を行う場合、例えばコンピュータによる
自動作業では、満足のゆく精度が得られず、ほとんど手
作業でラベル付けを行っている。そこで、従来、ラベル
情報を要しない学習法が提案されている。この方法で
は、まず学習しやすい環境独立型音素ＨＭＭを用意す
る。そして、発声内容が既知でラベルが付かない単語
（又は文節もしくは文、以下同様）発声の学習データに
対して、先の環境独立型音素ＨＭＭを連結して単語ＨＭ
Ｍを構築し、これらの単語ＨＭＭを学習する。単語ＨＭ
Ｍの学習なので、単語境界（即ち、単語の始端と終端）
が分かれば、学習プロセスが実現できる。さらに、連結
と逆の手続きで、これらの単語ＨＭＭを分解し、環境依
存型音素ＨＭＭを生成する。学習精度を良くするため、
上述の連結学習、及び分解生成を繰り返すことによっ
て、近似的に環境依存型音素ＨＭＭを生成する。

【０００６】

【発明が解決しようとする課題】しかしながら、従来の
環境依存型音素ＨＭＭ学習法では、次のような問題点が
あった。ある特定の環境依存型音素ＨＭＭに対して、そ
れに対応する音声データの数が場合によっては非常に限
られるため、上述のように学習して得た環境依存型音素
ＨＭＭは、性質が学習データに左右されやすい。即ち、
学習データに偏るおそれがある。前記の学習方法で環境
依存型音素ＨＭＭを学習し、特に少量の学習サンプルか
ら学習されたＨＭＭに対して、環境依存型音素ＨＭＭの
中心部分のパラメータをそれに対応する環境独立型音素
ＨＭＭの中心部分のパラメータで置換えることも考えら
れる。これは、環境独立型音素ＨＭＭが大量の学習デー
タから学習しやすく、学習データへの偏りが少ないから
である。ところが、前記の置換え処理は、異なるＨＭＭ
から切り取った状態をそのまま連結するため、一部のモ
デルに見られるＨＭＭパラメータに不連続が生じる現象
があり、ＨＭＭの精度が低下する恐れがある。本発明
は、前記従来技術が持っていた課題として、置換え処理
の利点を維持しながらパラメータの不連続を防ぐ、環境
依存型音素ＨＭＭの学習方法を提供するものである。

【０００７】

【課題を解決するための手段】第１の発明は、環境依存
型音素ＨＭＭを学習するに際して、予め用意しておいた
環境独立型音素ＨＭＭを連結して単語（又は文節もしく
は文）ＨＭＭを構築する。そして前記単語（又は文節も
しくは文）ＨＭＭを学習する学習処理と、前記学習処理
後にその学習結果を環境依存型音素ＨＭＭに分解する分
解処理と、前記分解された環境依存型音素ＨＭＭを再連
結して単語（又は文節もしくは文）ＨＭＭを作る連結処
理とを用い、前記学習処理、分解処理及び連結処理を繰
り返すことによって前記環境依存型音素ＨＭＭを学習す
るＨＭＭの学習方法において、次の手段を講じている。
即ち、この第１の発明は、前記環境依存型音素ＨＭＭの
学習に使われた学習サンプルの数を計数し、学習サンプ
ル数が不十分だと判断されたときのみ、前記繰り返しで
最後に分解された環境依存型音素ＨＭＭの中心部分のパ
ラメータを、該中心部分の環境依存型音素ＨＭＭのパラ
メータとそれに対応する前記環境独立型音素ＨＭＭの相
同部分のパラメータとを重み付き平均したパラメータで
置換え、偏りが無く且つ平滑化された前記環境依存型音
素ＨＭＭを学習するようにしている。

【０００８】第２の発明は、第１の発明のＨＭＭの学習
方法において、前記環境依存型音素ヒドン・マルコフ・
モデルの学習に使われた学習サンプルの数を計数し、学
習サンプル数が不十分だと判断されたときのみ、前記繰
り返しで最後に分解された環境依存型音素ヒドン・マル
コフ・モデルの周辺部分のパラメータを、該周辺部分の
環境依存型音素ヒドン・マルコフ・モデルのパラメータ
とそれに対応する前記環境独立型音素ヒドン・マルコフ
・モデルの相同部分のパラメータとを前記中心部分のパ
ラメータとは独立の重み係数で重み付き平均したパラメ
ータで置換え、偏りが無く且つ平滑化された前記環境依
存型音素ＨＭＭを学習するようにしている。

【０００９】

【作用】第１の発明によれば、以上のように、ＨＭＭの
学習方法を構成しているので、環境依存型音素ＨＭＭを
学習し終えた後、その環境依存型音素ＨＭＭの学習に使
われた学習サンプルの数が計数され、その数が十分でな
いと判断されると、最後に分解された環境依存型音素Ｈ
ＭＭの中心部分のパラメータが、該中心部分の環境依存
型音素ＨＭＭのパラメータとそれに対応する環境独立型
音素ＨＭＭの相同部分のパラメータとを重み付き平均し
たパラメータで置換えられる。学習サンプルの数が十分
ある場合には、置換え処理が行われない。このように、
十分に学習されていない環境依存型音素ＨＭＭのみに対
して、中心部分のパラメータが置換えられるので、効率
の良い環境依存型音素ＨＭＭの学習が行えると共に、音
素定常部分の性質が保たれて学習データへの偏りが低減
する。また、中心部分の環境依存型音素ＨＭＭのパラメ
ータとそれに対応する環境独立型音素ＨＭＭの相同部分
のパラメータとを重み付き平均したパラメータで置換え
るので、環境依存型音素ＨＭＭの平滑化をすることがで
きる。

【００１０】第２の発明によれば、第１の発明のＨＭＭ
の学習方法で実施される環境依存型音素ＨＭＭの中心部
分の置換えに加え、環境依存型音素ＨＭＭの周辺部分の
パラメータについても、置換えが行われる。周辺部分の
環境依存型音素ＨＭＭのパラメータとそれに対応する環
境独立型音素ＨＭＭの相同部分のパラメータとを重み付
き平均したパラメータが求められ、環境依存型音素ＨＭ
Ｍの周辺部分のパラメータが置換えられる。ここで、中
心部分のパラメータに対する重み係数と周辺部分のパラ
メータに対する重み係数は独立であり、各重み付き平均
を自由に制御することができる。よって、環境依存型音
素ＨＭＭの学習データへの偏りを取り除きながら、中心
部分と周辺部分のパラメータにおける不連続を平滑化で
きる。従って、前記課題を解決できるのである。

【００１１】

【実施例】第１の実施例 図１は本発明の第１の実施例を示すＨＭＭの学習方法の
処理内容のフローチャート、図３（ａ），（ｂ）は図１
中のステップ１２の処理説明図である。これらの図を参
照しつつ、本実施例のＨＭＭの学習方法を説明する。本
実施例のＨＭＭ学習方法では、例えば、プログラム制御
されるコンピュータを用いて、図１のステップ１〜１３
の処理が実行される。先ず、ステップ１で学習が開始さ
れると、ステップ２において、学習データの音声信号
（例えば、単語音声として単語akaiとsakae)が入力さ
れ、ステップ３の前処理へ進む。ステップ３の前処理で
は、例えば、入力されたアナログ音声信号をアナログ／
デジタル変換（以下、Ａ／Ｄ変換という）によってデジ
タル信号に変換し、ＬＰＣ（Linear Predictive Codin
g、線形予測符号化）分析によるＬＰＣケプストラムの
抽出等により、音声特徴パラメータを抽出し、ステップ
５へ進む。

【００１２】環境独立型音素ＨＭＭ辞書４には、例え
ば、日本語音素（約３０〜４０種類）のＨＭＭが格納さ
れている。いわゆる環境独立型というのは、その音素の
前後の音素が未知であることを指す。これを、例えば次
のように表す。 （＊）ａ（＊） （＊）ｉ（＊） （＊）ｕ（＊） （＊）ｅ（＊） （＊）ｏ（＊） （＊）ｋ（＊） （＊）ｓ（＊） （＊）ｔ（＊）_・ ・^・ ステップ５では、入力された単語の音素列表現と、環境
独立型音素ＨＭＭ辞書４を参照しながら、上述の環境独
立型音素ＨＭＭを、例えば次式（１）のように連結して
単語ＨＭＭを生成する。 _連結 ^{単語akaiのＨＭＭ ← ( ＊) ａ( ＊) ＋( ＊) ｋ( ＊) ＋( ＊) ａ( ＊) ＋( ＊) ｉ( ＊)} _連結 ^{単語sakae のＨＭＭ ← ( ＊) ｓ( ＊) ＋( ＊) ａ( ＊) ＋( ＊) ｋ( ＊) ＋( ＊) ａ( ＊) ＋( ＊) ｅ( ＊) ・・・（１）} 但し、“十”；ＨＭＭの連結を意味する。

【００１３】次に、ステップ６では、ステップ２で入力
された単語音声を用いて上述の単語ＨＭＭのパラメータ
を推定する（ＨＭＭの学習）。ＨＭＭパラメータの推定
には、例えば前記文献２に記載されたBaum-Welch(B-W）
アルゴリズムを用いる。このＢ−Ｗアルゴリズムでは、
例えば、観測ラベル系列Ｏ＝ｏ₁ ，ｏ₂ ，…，ｏ_T 及び
状態系列Ｉ＝ｉ₁ ，ｉ₂ ，…，ｉ_T に対して、次式
（２）のように、前向き変数α_t （ｉ）と後向き変数β
_t （ｉ）を定義する。 α_t （ｉ）＝Ｐｒ（ｏ₁ ，ｏ₂ ，…，ｏ_t ｜ｉ_t ＝ｓ_i ） β_t （ｉ）＝Ｐｒ（ｏ_t+1 ，ｏ_t+2 ，…，ｏ_T ｜ｉ_t ＝ｓ_i ） ・・・（２） そして、状態遷移確率ａ_ijとラベル出力確率ｂ_j （ｋ）
を次式（３）のように推定する。

【００１４】

【数１】 このように単語ＨＭＭを学習し終えると、ステップ７で
は、例えば次式（４）のように、単語ＨＭＭを環境依存
型音素ＨＭＭに分解する。 _分解 ^{単語ＨＭＭ akai → ( ０) ａ( ｋ) ；( ａ) ｋ( ａ) ；( ｋ) ａ( ｉ) ；( ａ) ｉ( ０)} _分解 ^{単語ＨＭＭ sakae → ( ０) ｓ( ａ) ；( ｓ) ａ( ｋ) ；( ａ) ｋ( ａ) ；( ｋ) ａ( ｅ) ；( ａ) ｅ( ０)} ・・・（４） これらの環境依存型音素ＨＭＭを環境依存型音素ＨＭＭ
辞書８に保存する。このとき、（ａ）ｋ（ａ）というＨ
ＭＭが２つあるので、次式（５）のように、その平均を
取り、環境依存型音素ＨＭＭ辞書８に保存する。

【００１５】

【数２】 ステップ１０では、ある基準で上述の環境依存型音素Ｈ
ＭＭが収束したかどうかを判別し、もし収束していなけ
れば、ステップ９で次式（６）のように、ステップ７で
分解した環境依存型音素ＨＭＭを連結して単語ＨＭＭを
再構成し、ステップ６の単語ＨＭＭの学習へ戻り、上述
の学習処理と分解処理を繰り返す。

【００１６】 _連結 ^{単語akaiのＨＭＭ ← ( ０) ａ( ｋ) ＋( ａ) ｋ( ａ) ＋( ｋ) ａ( ｉ) ＋( ａ) ｉ( ０)} _連結 ^{単語sakae のＨＭＭ ← ( ０) ｓ( ａ) ＋( ｓ) ａ( ｋ) ＋( ａ) ｋ( ａ) ＋( ｋ) ａ( ｅ) ＋( ａ) ｅ( ０) ・・・（６）} これに対し、ステップ１０の判別の結果、もし収束して
いたら（即ち、環境依存型音素ＨＭＭパラメータの前回
の値と今回の値との差が充分に小さければ）、学習ルー
プを終え、ステップ１１で、該当する環境依存型音素Ｈ
ＭＭの学習に使われた学習サンプル数が十分であるか否
かを判別する。学習サンプル数が十分であれば、そのま
まステップ１３で学習を終了する。学習サンプル数が十
分でなければ、ステップ１２で、環境依存型音素ＨＭＭ
の中心部分のパラメータに対する置換を行う。例えば、
ステップ１２において、環境依存型音素ＨＭＭの各状態
のパラメータはａ_ij（ｉ＝１、・・・、４４；ｊ＝１、
・・・、５）とし、ｂ_j （ｋ）（ｊ＝１、・・・、４）
とし、環境独立型音素ＨＭＭの各状態のパラメータはａ
_ij ⁰⁽ｉ＝１、・・・、４；ｊ＝１、・・・、５）、ｂ_j0
（ｋ）（ｊ＝１、・・・、４）とすると、新しい環境依
存型音素ＨＭＭの各状態のパラメータにおいて、ａ₁₁，
ａ₁₂，ａ₄₄，ａ₄₅とｂ₁ （ｋ），ｂ₄（ｋ）は変化しな
い。そして、パラメータａ₂₂，ａ₂₃，ａ₃₃，ａ₃₄とｂ₂
（ｋ），ｂ₃ （ｋ）は、次式（７）〜（１２）で重み付
き平均されたパラメータａ₂₂ ，ａ₂₃ ，ａ₃₃ ，ａ₃₄ とｂ₂
（ｋ），ｂ₃ （ｋ）と置換えられる。なお、式（７）〜
（１２）におけるαは重み係数であり、０と１の間の値
をとる。αの値は、実験的に求められた最適値が使用さ
れてもよいし、また、学習サンプル数に基づいて、クラ
ス分けした値を用いてもよい。 ａ₂₂ ＝α×ａ₂₂＋（１−α）×ａ₂₂ ⁰ ・・・（７） ａ₂₃ ＝α×ａ₂₃＋（１−α）×ａ₂₃ ⁰ ・・・（８） ａ₃₃ ＝α×ａ₃₃＋（１−α）×ａ₃₃ ⁰ ・・・（９） ａ₃₄ ＝α×ａ₃₄＋（１−α）×ａ₃₄ ⁰ ・・・（１０） ｂ₂ （ｋ）＝α×ｂ₂ （ｋ）＋（１−α）×ｂ₂ ⁰ （ｋ）・・・（１１） ｂ₃ （ｋ）＝α×ｂ₃ （ｋ）＋（１−α）×ｂ₃ ⁰ （ｋ）・・・（１２） 以上のように、この第１の実施例では、次のような利点
がある。

【００１７】本実施例では、図１のステップ１０で、環
境依存型音素ＨＭＭを学習し終えた後、ステップ１１
で、該当する環境依存型音素ＨＭＭの学習に使われた学
習サンプルの数が十分あったか否かを判別し、その学習
サンプル数が少なければ、ステップ１２において、中心
部分のパラメータａ₂₂，ａ₂₃，ａ₃₃，ａ₃₄とｂ
₂ （ｋ），ｂ₃ （ｋ）を、それら中心部分の環境依存型
音素ＨＭＭの各パラメータとそれに対応する前記環境独
立型音素ＨＭＭの相同部分のパラメータａ₂₂ ⁰ ，
ａ₂₃ ⁰ ，ａ₃₃ ⁰ ，ａ₃₄ ⁰ とｂ₂ ⁰ （ｋ），ｂ₃ ⁰ （ｋ）
とを重み付き平均したパラメータａ₂₂ ，ａ₂₃ ，ａ₃₃ ，ａ
₃₄ とｂ₂ （ｋ），ｂ₃ （ｋ）を求めて置換える。一方ス
テップ１２で、学習サンプル数が十分あったと判定され
れば、学習した環境依存型音素ＨＭＭをそのまま利用す
る。よって、従来の環境依存型音素ＨＭＭの長所を損な
うことなく、学習データへの偏りを低減でき、かつパラ
メータの平滑化を図ることが可能となり、高精度の音声
認識が可能となる。

【００１８】第２の実施例 図４は、本発明の第２の実施例を示すＨＭＭの学習方法
の処理内容のフローチャートであり、図１と共通する処
理については、共通の符号が付されている。本実施例の
ＨＭＭ学習方法では、例えば、プログラム制御されるコ
ンピュータを用いて、図４のステップ１〜１３及びステ
ップ２０の処理が実行される。即ち、環境依存型音素Ｈ
ＭＭの学習に使用された学習サンプル数が、十分である
か否かの判別するまでの処理は、第１の実施例と同様の
ステップ１〜１１で行われる。学習サンプル数が十分で
あれば、そのまま、ステップ１３で学習を終了する。学
習サンプル数が不十分の場合、処理はステップ２０に進
む。ステップ２０において、環境依存型音素ＨＭＭの中
心部分のパラメータと周辺部分のパラメータに対する置
換を行う。置換前の環境依存型音素ＨＭＭの各状態のパ
ラメータはａ_ij（ｉ＝１、・・・、４４；ｊ＝１、・・
・、５）、ｂ_j （ｋ）（ｊ＝１、・・・、４）とし、環
境独立型音素ＨＭＭの各状態のパラメータをａ_ij ⁰⁽ｉ＝
１、・・・、４；ｊ＝１、・・・、５）、ｂ_j0（ｋ）
（ｊ＝１、・・・、４）とすると、新しい環境依存型音
素ＨＭＭの各状態のパラメータは、それぞれ次式（１
３）〜（２４）で求められ、これらがａ_ij及びｂ
_j （ｋ）とそれぞれ置換えられて、ステップ１３で学習
を終了する。

【００１９】環境依存型音素ＨＭＭの中心部分のパラメ
ータａ₂₂，ａ₂₃，ａ₃₃，ａ₃₄とｂ₂（ｋ），ｂ₃ （ｋ）
は、（１３）〜（１８）で求められた重み付き平均され
たパラメータａ₂₂ ，ａ₂₃ ，ａ₃₃ ，ａ₃₄ とｂ₂ （ｋ），ｂ
₃ （ｋ）と置換えられる。 ａ₂₂ ＝α×ａ₂₂＋（１−α）×ａ₂₂ ⁰ ・・・（１３） ａ₂₃ ＝α×ａ₂₃＋（１−α）×ａ₂₃ ⁰ ・・・（１４） ａ₃₃ ＝α×ａ₃₃＋（１−α）×ａ₃₃ ⁰ ・・・（１５） ａ₃₄ ＝α×ａ₃₄＋（１−α）×ａ₃₄ ⁰ ・・・（１６） ｂ₂ （ｋ）＝α×ｂ₂ （ｋ）＋（１−α）×ｂ₂ ⁰ （ｋ）・・・（１７） ｂ₃ （ｋ）＝α×ｂ₃ （ｋ）＋（１−α）×ｂ₃ ⁰ （ｋ）・・・（１８） 環境依存型音素ＨＭＭの周辺部分のパラメータａ₁₁，ａ
₁₂，ａ₄₄，ａ₄₅とｂ₁（ｋ），ｂ₄ （ｋ）は、（１９）
〜（２４）で求められた重み付き平均されたパラメータ
ａ₁₁ ，ａ₁₂ ，ａ₄₄ ，ａ₄₅ とｂ₁ （ｋ），ｂ₄ （ｋ）と置
換えられる。 ａ₁₁ ＝β×ａ₁₁＋（１−β）×ａ₁₁ ⁰ ・・・（１９） ａ₁₂ ＝β×ａ₁₂＋（１−β）×ａ₁₂ ⁰ ・・・（２０） ａ₄₄ ＝β×ａ₄₄＋（１−β）×ａ₄₄ ⁰ ・・・（２１） ａ₄₅ ＝β×ａ₄₅＋（１−β）×ａ₄₅ ⁰ ・・・（２２） ｂ₁ （ｋ）＝β×ｂ₁ （ｋ）＋（１−β）×ｂ₁ ⁰ （ｋ）・・・（２３） ｂ₄ （ｋ）＝β×ｂ₄ （ｋ）＋（１−β）×ｂ₄ ⁰ （ｋ）・・・（２４） （１３）〜（２４）におけるαとβは、重み係数であ
り、互いに独立して０から１の間の値をとる。α及びβ
の値は、実験的に求められた最適値が使用されてもよい
し、また、学習サンプル数に基づいて、クラス分けした
値を用いるようにしてもよい。

【００２０】以上のように、この第２の実施例では、環
境依存型音素ＨＭＭの中心部分だけでなく、周辺部分の
パラメータａ₁₁，ａ₁₂，ａ₄₄，ａ₄₅とｂ₁ （ｋ），ｂ₄
（ｋ）も、重み付き平均されたパラメータａ₁₁ ，ａ₁₂ ，
ａ₄₄ ，ａ₄₅ とｂ₁ （ｋ），ｂ ₄ （ｋ）と置換えられるよ
うにしているので、第１の実施例と同様に環境依存型音
素ＨＭＭの長所を損なうことなく、学習データへの偏り
を低減できると共に、周辺部分のパラメータと中心部分
のパラメータの間の平滑化を図ることが可能となり、さ
らに高精度の音声認識が可能となる。なお、本発明は、
上記実施例に限定されず種々の変形が可能である。例え
ば、上記第１及び第２の実施例では、図３に示す４状態
ＨＭＭを例として、ＨＭＭの学習方法を説明している
が、その他の状態数のＨＭＭについても同様に適応可能
である。また、入力された単語音声に対するＨＭＭの学
習方法について説明しているが、文節や文の音声が入力
された場合にも、同様にして環境依存型音素ＨＭＭの学
習することができる。

【００２１】

【発明の効果】以上詳細に説明したように、第１の発明
によれば、環境依存型音素ＨＭＭを学習し終えた後、該
当する環境依存型音素ＨＭＭの学習に使われた学習サン
プルの数が十分あったか否かを判別し、その学習サンプ
ル数が少ないときのみ、環境依存型音素ＨＭＭの中心部
分のパラメータを、その中心部分の各パラメータとそれ
に対応する環境独立型音素ＨＭＭの相同部分のパラメー
タとを重み付き平均したパラメータで置換える。そのた
め、従来の環境依存型音素ＨＭＭの長所を損なうことな
く、学習データへの偏りを低減でき、かつパラメータの
平滑化を図ることが可能となり、高精度の音声認識が可
能となる。第２の発明によれば、第１の発明における置
換えに加え、さらに、環境依存型音素ＨＭＭの周辺部分
のパラメータを、該周辺部分のパラメータとそれに対応
する環境独立型音素ＨＭＭの相同部分のパラメータとを
重み付き平均したパラメータで置換える。これにより、
環境依存型音素ＨＭＭの周辺部分のパラメータと中心部
分のパラメータの間の不連続を解消することが可能とな
り、さらに高精度の音声認識が可能となる。

【図面の簡単な説明】

【図１】本発明の第１の実施例を示すＨＭＭの学習方法
の処理内容のフローチャートである。

【図２】従来の音声認識方法に用いられる単語ＨＭＭの
構造例を示す図である。

【図３】図１中のステップ１２の処理説明図である。

【図４】本発明の第２の実施例を示すＨＭＭの学習方法
の処理内容のフローチャートである。

【符号の説明】

４ 環境独立型音素ＨＭＭ辞書 ５ 単語ＨＭＭの構成処理のステップ ６ 単語ＨＭＭの学習処理のステップ ７ 単語ＨＭＭを環境依存型音素ＨＭＭに分解する
分解処理のステップ ８ 環境依存型音素ＨＭＭ辞書 ９ 環境依存型音素ＨＭＭを連結して単語ＨＭＭを
再構成する連結学習処理のステップ １０ 環境依存型音素ＨＭＭの収束判定処理のステッ
プ １１ 学習サンプル数の判定処理のステップ １２ 中心部分のパラメータの置換え処理のステップ ２０ ＨＭＭのパラメータ（中心部分と周辺部分）の
置換え処理のステップ

Claims (2)

【特許請求の範囲】
1. 【請求項１】 環境依存型音素ヒドン・マルコフ・モデ
   ルを学習するに際して、予め用意しておいた環境独立型
   音素ヒドン・マルコフ・モデルを連結して単語、文節又
   は文のうちのいずれか１つのヒドン・マルコフ・モデル
   を構築し、 前記いずれか１つのヒドン・マルコフ・モデルを学習す
   る学習処理と、前記学習処理後にその学習結果を環境依
   存型音素ヒドン・マルコフ・モデルに分解する分解処理
   と、前記分解された環境依存型音素ヒドン・マルコフ・
   モデルを再連結して単語、文節又は文のうちのいずれか
   １つのヒドン・マルコフ・モデルを作る連結処理とを用
   い、前記学習処理、分解処理及び連結処理を繰り返すこ
   とによって前記環境依存型音素ヒドン・マルコフ・モデ
   ルを学習するヒドン・マルコフ・モデルの学習方法にお
   いて、 前記環境依存型音素ヒドン・マルコフ・モデルの学習に
   使われた学習サンプルの数を計数し、学習サンプル数が
   不十分だと判断されたときのみ、前記繰り返しで最後に
   分解された環境依存型音素ヒドン・マルコフ・モデルの
   中心部分のパラメータを、該中心部分の環境依存型音素
   ヒドン・マルコフ・モデルのパラメータとそれに対応す
   る前記環境独立型音素ヒドン・マルコフ・モデルの相同
   部分のパラメータとを重み付き平均したパラメータで置
   換え、前記環境依存型音素ヒドン・マルコフ・モデルを
   学習することを特徴とするヒドン・マルコフ・モデルの
   学習方法。
2. 【請求項２】 前記環境依存型音素ヒドン・マルコフ・
   モデルの学習に使われた学習サンプルの数を計数し、学
   習サンプル数が不十分だと判断されたときのみ、前記繰
   り返しで最後に分解された環境依存型音素ヒドン・マル
   コフ・モデルの周辺部分のパラメータを、該周辺部分の
   環境依存型音素ヒドン・マルコフ・モデルのパラメータ
   とそれに対応する前記環境独立型音素ヒドン・マルコフ
   ・モデルの相同部分のパラメータとを前記中心部分のパ
   ラメータとは独立の重み係数で重み付き平均したパラメ
   ータで置換え、前記環境依存型音素ヒドン・マルコフ・
   モデルを学習することを特徴とする請求項１記載のヒド
   ン・マルコフ・モデルの学習方法。