JPH064094A - Ｈｍｍ作成装置、ｈｍｍ記憶装置、尤度計算装置及び、認識装置 - Google Patents

Abstract

(57)【要約】 【目的】精度良く、しかも計算量が少なくてすむＨＭＭ
を利用した認識装置の提供。 【構成】連続確率分布ＨＭＭを作成する連続確率分布Ｈ
ＭＭ作成手段１０４と、学習ベクトルのファジィクラス
タリングを行うファジィクラスタリング手段１０６と、
ＨＭＭの各状態における各クラスタの発生度合を連続型
ＨＭＭの各状態における確率密度関数から算出する発生
度合算出手段１０８を備え、その発生度合を各クラスタ
ラベルの各状態における発生度合として離散確率分布Ｈ
ＭＭを作成する。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】音声認識等のパターン認識に適用
可能な新しいＨＭＭ（ヒト゛ン マルコフ モテ゛ル(Hidden Markov
Model)）のＨＭＭ作成装置、ＨＭＭ記憶装置、尤度計
算装置及び、認識装置に関するものである。

【０００２】

【従来の技術】ＨＭＭは一般の時系列信号処理分野に適
用可能なものであるが、説明の便宜のために、以下、音
声認識を例にとって説明する。

【０００３】先ずＨＭＭを用いた音声認識装置について
説明する。

【０００４】図５は、ＨＭＭを用いた音声認識装置のブ
ロック図である。音声分析部２０１は、入力音声信号を
フィルタバンク、フーリエ変換、ＬＰＣ分析等の周知の
方法により、一定時間間隔（フレームと呼ぶ）例えば１
０msec毎に特徴ベクトルに変換する。従って、入力音声
信号は特徴ベクトルの系列Ｙ＝(ｙ(１),ｙ(２),・・・,ｙ
(Ｔ))に変換される。Ｔはフレーム数である。コードブ
ック２０２は、ラベル付けされた代表ベクトルを保持し
ている。ベクトル量子化部２０３は、前記ベクトル系列
Ｙのそれぞれのベクトルをそれに最も近い前記コードブ
ック２０２に登録されている代表ベクトルに対応するラ
ベルに置き換えるものである。ＨＭＭ作成部２０４は、
訓練データから認識語彙たる各単語に対応するＨＭＭを
作成するものである。即ち、単語ｖに対応するＨＭＭを
作るには、先ず、ＨＭＭの構造（状態数やそれら状態の
間に許される遷移規則）を適当に定め、然る後に前記の
如くして単語ｖを多数回発声して得られたラベル系列か
ら、それらラベル系列の発生確率が出来るだけ高くなる
ように、前記モデルにおける状態遷移確率や状態の遷移
に伴って発生するラベルの発生確率を求めるものであ
る。ＨＭＭ記憶部２０５は、このようにして得られたＨ
ＭＭを各単語毎に記憶するものである。尤度計算部２０
６は、認識すべき未知入力音声のラベル系列に対し、前
記ＨＭＭ記憶部２０５に記憶されているそれぞれのモデ
ルのそのラベル系列に対する尤度を計算するものであ
る。比較判定部２０７は尤度計算部２０６で得られた前
記それぞれのモデルの尤度の最大値を与えるモデルに対
応する単語を認識結果として判定するものである。

【０００５】ＨＭＭによる認識は具体的には次のように
して行われる。即ち、未知入力に対して得られたラベル
系列をＯ＝(ｏ(１),ｏ(２),・・・,ｏ(Ｔ))、単語ｗに対応
したモデルをλ^wとし、モデルλ^wにより発生される長さ
Ｔの任意の状態系列をＸ＝(ｘ(１),ｘ(２),・・・,ｘ(Ｔ))
とするとき、λ^wのラベル系列Ｏに対する尤度は 〔厳密解〕

【０００６】

【数１】

【０００７】〔近似解〕

【０００８】

【数２】

【０００９】または、対数をとって

【００１０】

【数３】

【００１１】で定義される。ここで、Ｐ(ｘ,ｙ|λ^w)
は、モデルλ^wにおけるｘ,ｙの同時確率である。

【００１２】従って、例えば、（数１）を用いれば

【００１３】

【数４】

【００１４】とするとき、ｗ^が認識結果となる。（数
２），（数３）を用いるときも同様である。

【００１５】Ｐ(Ｏ,Ｘ|λ) は次のようにして求められ
る。

【００１６】いま、ＨＭＭλの状態ｑ_i(ｉ＝１〜Ｉ)に
対して、状態ｑ_i毎に、ラベルｏの発生確率ｂ_i(ｏ)と状
態ｑ_i(ｉ＝１〜Ｉ)から状態ｑ_j(ｊ＝１〜Ｉ＋１)への遷
移確率ａ_ijが与えられているとき、状態系列Ｘ＝(ｘ
(１),ｘ(２),・・・,ｘ(Ｔ＋１))とラベル系列Ｏ＝(ｏ
(１),ｏ(２),・・・,ｏ(Ｔ))のＨＭＭλから発生する同時
確率は

【００１７】

【数５】

【００１８】と定義出来る。ここでπ_x(1)は状態ｘ(１)
の初期確率である。また、ｘ(Ｔ＋１)＝Ｉ＋１は最終状
態であって、如何なるラベルも発生しないとする。

【００１９】この例では入力の特徴ベクトルｙをラベル
に変換したが、各状態におけるラベルの発生確率の代り
に特徴ベクトルｙをそのまま用い、各状態において特徴
ベクトルｙの確率密度関数を与える方法もある。このと
きは（数５）における前記ラベルｏの状態ｑ_iにおける
発生確率ｂ_i(ｏ) の代わりに特徴ベクトルｙの確率密度
ｂ_i(ｙ)を用いることになる（以後、ｚがラベルのとき
はｂ_i(ｚ)はｚが状態ｉにおいて生じる確率、ｚがベク
トルのときはｂ_i(ｚ)はｚの確率密度を意味するものと
する）。このときは、前記（数１）、（数２）、（数
３）は次のようになる。 〔厳密解〕

【００２０】

【数６】

【００２１】〔近似解〕

【００２２】

【数７】

【００２３】または、対数をとれば次式が得られる。

【００２４】

【数８】

【００２５】以上、何れの方式を用いるにしても最終的
な認識結果は、それぞれの単語ｗに対してＨＭＭλ^wを
ｗ＝１〜Ｗについて準備しておけば、入力音声信号Ｙに
対して

【００２６】

【数９】

【００２７】あるいは

【００２８】

【数１０】

【００２９】がＹの認識結果となる。勿論、ここでのＹ
は前記それぞれ方法に応じて、入力されたラベル系列、
特徴ベクトル系列等である。

【００３０】

【発明が解決しようとする課題】このような従来例にお
いて、入力特徴ベクトルをラベルに変換するものを離散
確率分布ＨＭＭ、入力特徴ベクトルをそのまま用いるも
のを連続確率分布ＨＭＭと呼ぶことにする。このとき、
これら両者の特徴は次のようである。

【００３１】離散確率分布ＨＭＭは、入力ラベル系列に
対するモデルの尤度の計算において、各状態での各ラベ
ルの発生度合ｂ_i(Ｃ_m)はラベルに関連して予め記憶され
ている記憶装置から読み出すことで実行できるから計算
量が非常に少ないと言う利点がある反面、量子化に伴う
誤差のため、認識精度が悪くなると言う課題がある。こ
れを避けるためにラベル数（クラスタ数）を多くする必
要があるが、その増加に伴ってモデルを学習するために
必要な学習パターン数が膨大になる。ここで、学習パタ
ーン数が不十分な場合は、前記ｂ_i(Ｃ_m)が頻繁に０にな
ることがあり、正しい推定が出来なくなる。例えば、次
のようなことが生じる。

【００３２】コードブックの作成は、認識すべき全ての
単語について多数の話者の発声音声を特徴ベクトル系列
に変換し、この特徴ベクトルの集合をクラスタリング
し、それぞれのクラスタにラベリングすることによって
行われる。それぞれのクラスタは、セントロイドと呼ば
れるそのクラスタの代表ベクトルを持ち、通常これは各
々のクラスタに分類されたベクトルの期待値である。コ
ードブックは、これらセントロイドを前記ラベルで検索
可能な形で記憶したものである。

【００３３】いま、前記認識語彙の中に、例えば「大
阪」と言う単語があって、これに対応するモデルを作る
場合を考える。多数話者が発声した単語「大阪」に対応
する音声サンプルが特徴ベクトル列に変換され、各々の
特徴ベクトルが前記セントロイドと比較され、最近隣の
セントロイドに対応するラベルがその特徴ベクトルの量
子化されたものとなる。このようにして、前記「大阪」
に対する各々の音声サンプルは、ラベル系列に変換され
る。得られたラベル系列から、それらラベル系列に対す
る尤度が最大になるようにＨＭＭのパラメータを推定す
ることにより、単語「大阪」に対応するモデルが出来上
がる。この推定には周知のホ゛ーム・ウェルチ(Baum-Welch)法等
が用いられ得る。

【００３４】この場合、前記コードブックにあるラベル
の中で、単語「大阪」に対応する学習ラベル系列の中に
は含まれていないものが有り得る。この含まれていない
ラベルの発生確率は学習の過程で“０”と推定されてし
まう。従って、認識の時に発声される「大阪」と言う単
語が変換されたラベル系列の中に、前記「大阪」のモデ
ルの作成に用いたラベル系列には含まれていないラベル
が存在することは十分有り得る。この場合は、この認識
時に発声された「大阪」のラベル系列が前記「大阪」の
モデルから発生する確率は“０”になってしまう。しか
し、このような場合でも、ラベルとしては異なっていて
も、ラベルに変換される前の特徴ベクトルの段階ではモ
デルの学習に用いた音声サンプルとかなり近く、ベクト
ルの段階で見れば十分「大阪」と認識されても良い場合
がある。もともと同じ単語を発声しているのであるから
ベクトルのレベルでは似通っているにも関わらず、ラベ
ルのレベルでは僅かの差で全く異なったラベルに変換さ
れてしまうということは十分起こり得るのであって、こ
のようなことが認識精度に悪影響を及ぼすことは容易に
想像がつく。クラスタ数が増加する程、訓練データ数が
少ない程このような問題は頻繁に生じることになる。

【００３５】この課題を除去するためには、訓練集合に
は現れてこない（含まれていない）ラベルに対して、平
滑化や補完を行う等の工夫が必要となる。「結び」と呼
ばれる概念を用いてパラメータ数を減少させる工夫をは
じめとして、０確率が推定される場合はそれを０にせず
に微小量に置き換えたり、ファジイベクトル量子化等の
ようにクラスタの境界をぼかしたりする方法等、平滑化
や補完を行う方法が種々提案されているが、何れも上記
問題を根本的に解決するものではない。また、場合に応
じて経験的に決めなければならない要素があって、それ
らの要素を決める理論的な指標はない。

【００３６】他方、連続確率分布ＨＭＭは、分布形状は
正規分布等と予め関数の形で与えておき、学習データか
らこの関数を規定するパラメータを推定するものであ
る。従って、推定すべきパラメータ数は少なく、前記離
散型のものに比べて少ない学習パターンで精度良くパラ
メータの推定が出来、平滑化や補完を考える必要もなく
なり、一般に離散型よりも高い認識率の得られることが
報告されている。

【００３７】因に、離散型と連続型とで、図６のような
４状態３ループのＨＭＭにおけるパラメータ数を比較す
れば例えば次のようになる。離散型の場合は用いられる
ラベルの種類を２５６とすれば、ラベルの発生確率は２
５６×３=７６８、遷移確率は６の計８７４が１モデル
当り必要である。連続型の場合は１０次元の正規分布と
すれば、平均ベクトルは１０×３=３０、分散共分散行
列は５５×３=１６５（対称行列）、遷移確率は６の計
２０１となり、推定すべきパラメータの値は、連続型は
離散型の１／４以下となる。

【００３８】しかしながら、連続型は認識精度の点で優
れているが計算量は離散型に比べて非常に多くなるとい
う問題がある。即ち、入力特徴ベクトルｙ(ｔ)が、状態
ｉで平均ベクトルμ_i、分散共分散行列Σ_iの正規分布を
するとするき、状態ｉにおけるｙ(ｔ)の発生確率（密
度）の計算には(ｙ(ｔ)−μ_i)^TΣ_i ^-1(ｙ(ｔ)−μ_i)なる
計算を必要とし、例えば、１０次元の連続型のＨＭＭで
は、この計算だけでも１１０回のかけ算が必要であり、
１つのモデルに対しては、これの（状態数×入力フレー
ム数）倍になる。従って、入力フレーム数が５０フレー
ムの場合で前記モデルを想定すれば、１つのモデル当り
必要とされる(ｙ(ｔ)−μ_i)^TΣ_i ^-1(ｙ(ｔ)−μ_i)の計算
における掛算の回数は、１１０×３×５０＝１６５００
となり、単語数が５００であるとさらにこれが５００倍
される。即ち、その場合はこの部分の掛け算のみで８２
５万回が必要となる。

【００３９】離散型の場合は、ベクトル量子化の計算を
完了すれば、前記のようにラベルに従って記憶装置から
そのラベルの発生確率を読み出すのみでよい。また、ｙ
(ｔ)をベクトル量子化するのに必要な計算は、前記の例
では、２５６個の代表ベクトルとｙ(ｔ)との距離あるい
は類似度の計算である。いま距離を(ユークリッド距離)
²とする場合は、ｙ(ｔ)をラベル付けするのに必要な計
算は、１０回の引算と１０回の掛算と１０回の足算の２
５６倍である。従って５０フレームでは、掛算のみで考
えれば、１０×２５６×５０＝１２８０００回と言うこ
とになる。もし、バイナリサーチと呼ばれる方法でベク
トル量子化する場合は、前記２５６は、２log₂２５６＝
１６でおきかえて、１０×１６×５０＝８０００回と言
うことになる。

【００４０】以上のように離散型とすることにより計算
量が著しく減少し、連続型の場合は認識単語数が増える
と計算量もそれに比例して増大するが、離散型の場合
は、入力音声信号を一旦ベクトル量子化するときのみこ
の計算が必要なのであって、認識単語数が増えてもこの
計算量は不変である。

【００４１】要するに、離散型の場合は計算量は少ない
が認識精度的に課題があり、連続型の場合は認識精度は
よいが計算量に課題がある。

【００４２】本発明は、このような従来のＨＭＭの課題
を考慮し、認識精度が高く、しかも計算量を少なくでき
るＨＭＭ作成装置、ＨＭＭ記憶装置、尤度計算装置及
び、認識装置を提供することを目的とする。

【００４３】

【課題を解決するための手段】本発明は、連続確率密度
分布ＨＭＭ作成手段と、訓練ベクトル集合をファジィク
ラスタリングし各々のクラスタにラベルを付与するクラ
スタリング手段と、ＨＭＭの各状態における各クラスタ
従ってラベルの発生度合を、各クラスタに含まれる訓練
ベクトルと、連続確率密度分布ＨＭＭの各状態における
確率密度関数から算出するラベル発生度合算出手段とを
備え、ＨＭＭの各状態におけるラベルの発生度合をラベ
ル発生度合算出手段の出力として得ることにより離散確
率分布ＨＭＭを作成する構成である。

【００４４】

【作用】本発明では、連続確率分布ＨＭＭ作成手段によ
り、該ＨＭＭの各状態における確率密度関数を得、ファ
ジィクラスタリング手段により訓練ベクトル集合をクラ
スタリングし各々のクラスタにラベルを付与し、ラベル
発生度合算出手段によりＨＭＭの各状態における前記各
クラスタ従ってラベルの発生度合を、各クラスタに含ま
れる訓練ベクトルと、連続確率密度分布ＨＭＭの各状態
における確率密度関数から算出することにより、離散確
率分布ＨＭＭを作成する。

【００４５】

【実施例】以下、本発明の実施例について図面を参照し
て説明する。

【００４６】ここで、以後用いるべき記号の定義をまと
めて説明する。簡単のために、誤解を生じない限り、状
態ｑ_i，ｑ_j等は単にｉ，ｊ等と表記することにする。ま
た、モデルの学習は１つの単語について行う場合を述べ
ることとし、モデル間で区別する必要のある場合は、モ
デルに対応する番号をパラメータの右肩に添字として付
加することとし、通常はこれを省くものとする。定義は
次の通りである。

【００４７】ｉ＝１,２,・・・,Ｉ＋１：第ｉ番の状態 [ａ_ij]：遷移マトリクス ａ_ij：状態ｉから状態ｊへの遷移確率 ｒ：作成すべきモデルに対する訓練パターン番号(ｒ＝
１,・・・,Ｒ) ｙ^(r)(ｔ)：訓練パターンｒの第ｔフレームにおける観
測ベクトル ｏ^(r)(ｔ)：訓練パターンｒの第ｔフレームにおける観
測ラベル ｂ_i(ｙ^(r)(ｔ))：訓練パターンｒのフレームｔの観測ベ
クトルｙ^(r)(ｔ)の状態ｉにおける確率密度 ｂ_i(ｏ^(r)(ｔ))：訓練パターンｒのフレームｔの観測ラ
ベルｏ^(r)(ｔ)の状態ｉにおける発生度合（確率、確率
密度、等） ｙ^(r)＝(ｙ^(r)(１),ｙ^(r)(２),・・・,ｙ^(r)(Ｔ^(r)))：訓
練パターンｒのベクトル系列(ただし、ｒ＝１,２,・・・,
Ｒ) Ｏ^(r)＝(ｏ^(r)(１),ｏ^(r)(２),・・・,ｏ^(r)(Ｔ^(r)))：単
語ｗに対する第ｒ番のラベル系列(ただし、ｒ＝１,２,・
・・,Ｒ) Ｘ^(r)＝(ｘ^(r)(１),ｘ^(r)(２),・・・,ｘ^(r)(Ｔ^(r)),ｘ^(r)
(Ｔ^(r)＋１))：X^(r)またはＯ^(r)に対応する状態系列 ｘ^(r)(ｔ)：単語ｗに対する第ｒ番の訓練パターンの第
ｔフレームにおける状態 Ｔ^(r)：単語ｗに対する第ｒ番の訓練パターンのフレー
ム数 μ_i：ｂ_i(ｙ)の平均ベクトル Σ_i：ｂ_i(ｙ)の分散共分散行列 ξ_i：状態ｉにおける観測ベクトルの確率分布を規定す
るパラメータの集合 (ξ_i＝{ μ_i,Σ_i}) λ_i＝［ξ_i,{ａ_ij}_{j=1,・・・,I+1} ]：状態ｉのパラメー
タの集合 λ＝{λ_i}：全パラメータの集合(λをパラメータとする
モデルをモデルλとも呼ぶ) Ｐ(Ｙ|λ)：観測ベクトル系列Ｙがモデルλから発生す
る確率密度 Ｐ(Ｏ|λ)：観測ラベル系列Ｏがモデルλから発生する
確率 π_i：状態ｉがｔ＝１で生じる確率 先ず、連続確率分布ＨＭＭを学習する方法について述べ
る。

【００４８】問題は、準備されたｒ＝１〜Ｒの訓練パタ
ーンに対して、尤度関数Ｐ(Ｙ⁽¹⁾,Ｙ⁽²⁾,^・・・,Ｙ^(R)|λ)
を最大にするパラメータλを推定することである。

【００４９】Ｙ^(r)が互いに独立であるとすれば

【００５０】

【数１１】

【００５１】で与えられる。ここで、次の補助関数Q
(λ,λ')を定義する。

【００５２】

【数１２】

【００５３】このとき、次のことが言える。Ｑ(λ,λ')
≧Ｑ(λ,λ)なら、Ｐ(Ｙ⁽¹⁾,…,Ｙ^(R)|λ')≧Ｐ(Ｙ⁽¹⁾,
…,Ｙ^(R)|λ)であって、等号はλ'＝λの時に成り立
つ。故に、

【００５４】

【数１３】

【００５５】を求めることが出来れば、λ^*→λとして
（数１３）を繰り返し適用することによって、λはＰ
(Ｙ⁽¹⁾,…,Ｙ^(R)|λ)の停留点、即ち、Ｐ(Ｙ⁽¹⁾,…,Ｙ
^(R)|λ)の極大値または鞍点を与える点に収束すること
になり、Ｐ(Ｙ⁽¹⁾,…,Ｙ^(R)|λ)の変化率が予め定めた
閾値以下になるまでこの操作を繰り返すことにより局所
最適解が得られる。

【００５６】次にＱ(λ,λ')を用いてパラメータを推定
する方法について説明する。

【００５７】（数１２）を変形すれば、次式が得られ
る。

【００５８】

【数１４】

【００５９】前述の説明から、Ｑ(λ,λ')をλ'の関数
と見なしてＱ(λ,λ')＞Ｑ(λ,λ)なるλ'を見出せば、
それはλの更新されたものとなり、Ｐ(Ｙ⁽¹⁾,・・・,Ｙ^(R)
|λ)はλ'に関しては一定値となるから、これを取り除
いて

【００６０】

【数４１】

【００６１】とするとき、Ｑ'(λ,λ')＞Ｑ'(λ,λ)な
るλ'を見出すことと同様である。ただし、ここで

【００６２】

【数１５】

【００６３】とおいている。

【００６４】（数１４）はさらに次のようになる。

【００６５】

【数１６】

【００６６】右辺第１項からπ_i'について最大化すれば
π_iの再推定値π_i ^*は

【００６７】

【数１７】

【００６８】右辺第２項からａ_ij'について最大化すれ
ばａ_ijの再推定値ａ_ij ^*は

【００６９】

【数１８】

【００７０】右辺第３項からμ_i'，Σ_i'について最大化
すれば、μ_i，Σ_i各々の再推定値μ_i ^*，Σ_i ^*は

【００７１】

【数１９】

【００７２】

【数２０】

【００７３】ここで、ξ^(r) _ij(ｔ)は次のように計算さ
れる。即ち、

【００７４】

【数２１】

【００７５】とおけば、

【００７６】

【数２２】

【００７７】である。

【００７８】このとき

【００７９】

【数２３】

【００８０】

【数２４】

【００８１】なる漸化式が成り立つ。従って、α
^(r) ₁(１)＝１としてパラメータλに適当な初期値を与
え、ｔ＝１〜Ｔ^(r)＋１，ｊ＝１〜Ｉ＋１について（数
２３）に従って、α^(r) _j(ｔ)を、β^(r) _I+1(Ｔ^(r)＋１)
＝１としてｔ＝Ｔ^(r)＋１〜１、ｉ＝Ｉ〜１について
（数２４）に従ってβ^(r) _i(ｔ)をそれぞれ順次計算して
行けば、（数１５）が計算できる。

【００８２】パラメータ推定の実際の計算手順は次のよ
うになる。

【００８３】（１）Ｌ₁＝∞ （２）ｉ,ｊ＝１〜Iについてλ_i={(a_ij)_{j=1,・・・,I+1},μ
_i,Σ_i} に適当な初期値を与える。

【００８４】（３）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^(r), ｉ＝
１〜Ｉ＋１についてα^(r) _i(ｔ)をλ＝{λ_i}として（数
２３）に従って計算する。

【００８５】（４）ｒ＝１〜Ｒ, ｔ＝２〜Ｔ^(r), ｉ＝
１〜Ｉ＋１についてβ^(r) _i(ｔ)とξ^(r) _ij(ｔ)をλ＝{λ
_i}としてそれぞれ（数２４）（数２２）に従って計算す
る。

【００８６】（５）ｒ＝１〜Ｒ，ｉ，ｊ＝１〜Ｉ＋１に
ついて、（数１８）（数１９）（数２０）の 分子：ａ_ij,num(ｒ), μ_i,num(ｒ), Σ_i,num(ｒ) と、 分母：Den_i(ｒ)＝ａ_ij,denom(ｒ)＝ μ_i,denom(ｒ)＝Σ
_i,denom(r) を計算する。

【００８７】（６）ａ_ij,μ_i,Σ_iの再推定値ａ_ij ^*, μ_i
^*, Σ_i ^*を次の(数)に従って計算する。

【００８８】

【数２５】

【００８９】（７）ｉ,ｊ＝１〜Ｉ＋１についてａ_ij＝
ａ_ij ^*, μ_i＝μ_i ^*, Σ_i＝Σ_i ^*なる代入を行うことによ
って、再推定されたパラメータ集合λ＝{λ_i}を得る。

【００９０】（８）ｒ＝１〜Ｒ，ｔ＝２〜Ｔ^(r), ｉ＝
１〜Ｉ＋１に対してstep（７）で得たパラメータ集合λ
に対して

【００９１】

【数２６】

【００９２】を計算する。

【００９３】（９）|Ｌ₁−Ｌ₂|／Ｌ₁＞εならば、Ｌ₂＝
Ｌ₁とおいてステップ（４）へ、そうでなければ終了。

【００９４】前記ステップ（９）におけるεは収束の幅
を決める適当に小さな正の数であって、その値は状況に
よって実用的な値が選ばれる。

【００９５】以上のようにして、連続確率分布ＨＭＭが
得られるが、本発明ではこれをもとにしてファジィクラ
スタリングによる離散確率分布ＨＭＭを得るものであっ
て、次の手順による。

【００９６】（１）学習ベクトルのファジィクラスタリ
ング行い、Ｍ個のクラスタを算出する。クラスタ名をＣ
₁,Ｃ₂,・・・,Ｃ_m,・・・,Ｃ_Mとする。

【００９７】（２）前記連続型ＨＭＭを用いて該ＨＭＭ
の各状態におけるＣ_m（ｍ＝１,・・・,Ｍ）の発生度合を求
める。

【００９８】ここで、各ラベルの発生度合を定義する方
法は種々考えられる。即ち、(ａ)訓練ベクトルの確率密
度の、該訓練ベクトルのＣ_mに対する帰属度による荷重
平均、(ｂ)状態ｉにおけるＣ_mのセントロイドの発生確
率密度、(ａ)(ｂ)においてそれらのクラスタの各状態に
おける発生度合の総和が１になるように正規化したもの
等が考えられる。ここでは本発明の一実施例として
(ａ)、(ｂ)の方法で、前記正規化はしない場合を例にと
って説明する。次式で用いるｂ_i(ｙ)は前記連続型ＨＭ
Ｍの推定パラメータから得られたものである。この場合
は、単語ｗの状態ｉにおけるクラスタＣ_mの発生度合ｂ^w
_imは次式で与えられる。

【００９９】

【数２７】

【０１００】ただし、

【０１０１】

【数２８】

【０１０２】であって、ｕ^v(r) _m(ｔ)は、ベクトルｙ
^v(r)(ｔ)のクラスタＣ_mへの帰属度である。ｙ^v(r)(ｔ)
は、単語ｖの第ｒ番の第ｔフレームの訓練ベクトルであ
る。また、ｂ^w _i(ｙ^v(r)(ｔ))は単語ｗに対応する連続確
率分布モデルの状態ｉにおけるベクトルｙ^v(r)(ｔ)の確
率密度である。

【０１０３】前記ステップ（１）におけるクラスタリン
グの方法は周知のファジィクラスタリング法が用いられ
得る。クラスタリングするデータとしては、前記ＨＭＭ
の学習に用いたｗ＝１〜Ｗの単語音声に対応するパター
ンを構成する特徴ベクトルの全集合を用いることが出来
る。

【０１０４】ファジィクラスタリングは例えば次のよう
にして行われる。表記の簡単のために、学習に用いる全
ての単語音声を構成するベクトルについて通し番号をつ
け、ｙ₁,・・・,ｙ_Nとし、ｙ_nのクラスタＣ_mへの帰属度
（メンバシップ関数）をｕ_mnとする。通常のクラスタリ
ング法では、あるベクトルｙ_nがクラスタＣ_mに属してい
る（ｕ_mn＝１）か、属していないか（ｕ_mn＝０）だけを
認めるのに対して、ファジィクラスタリング法では、ｙ
_nがいくつかのクラスタに異なる度合で帰属することを
認めると言うものである。

【０１０５】具体的な方法の１つは、各クラスタＣ_mの
セントロイド（中心ベクトル、平均ベクトル）をｙ
_0m（ｍ＝1，・・・,Ｍ)とし、ｙ_nとセントロイドｙ_0mの非
類似度をｄ_mn＝ｄ(ｙ_n,ｙ_0m)とするとき、

【０１０６】

【数２９】

【０１０７】を最小にするｕ_mnとｙ_0mを見出すものがあ
る。目的関数Ｊ_mをｙ_0mとｕ_mnに関して変微分し、条件

【０１０８】

【数３０】

【０１０９】を用いれば、Ｊ_mを局所的に最小化するた
めの必要条件が次の（数３１）、（数３２）のように示
される。

【０１１０】

【数３１】

【０１１１】

【数３２】

【０１１２】ここで、Ｆはいわゆるファジィネスを表
し、１＜Ｆである。Ｆ→∞のときは、ｍ＝１,・・・,Ｍに
ついて、ｕ_mn→１／Ｍになり、Ｆ→１のときは、

【０１１３】

【数３３】

【０１１４】であるから、

【０１１５】

【数３４】

【０１１６】となる。即ち、Ｆが増加するにつれてｙ_n
が何れのクラスタに属するかと言うことの曖昧性が増大
し、Ｆが１に近づくにつれて、ｙ_nの属するクラスタを
一意に決定するいわゆるハードクラスタリングに近づ
く。

【０１１７】ファジィクラスタリングの実際の手順は次
のようになる。 （１）訓練ベクトル集合を適当にＣ₁,・・・,Ｃ_Mに分割
し、初期クラスタとする。

【０１１８】ｕ_mnを適当に初期化する。 （２）各クラスタの平均ベクトルｙ_0mを（数３１）に従
って求める。 （３）ｙ_n≠ｙ_0mのとき、（数３２）によってステップ
（２）の結果を用いてｕ_mnを更新する。ｙ_n＝ｙ_0mのと
きは、ｍ＝ｎのときｕ_mn＝１,ｍ≠ｎのときｕ_mn＝０と
おく。 （４）収束条件を満足すれば処理を終了、そうでなけれ
ばステップ（２）へ戻る。

【０１１９】ステップ（４）における収束条件として
は、上記繰り返し計算において、更新される前のｕ_mnと
更新された後のｕ_mnとの変化量をｅ_mnとするとき、ｅ_mn
²のｍ，ｎに関する総和が予め定めた収束判定値ε以下
になった場合を収束、それに達しない場合を非収束とす
る等が考えられる。

【０１２０】図１、図２は、本発明のＨＭＭ作成装置の
一実施例であって、その構成及び動作を同時に説明す
る。

【０１２１】特徴抽出部１０１は、周知の方法によっ
て、単語ｗ（=1,…,Ｗ）に対応するモデル作成のために
準備された訓練単語ｒ＝１〜Ｒ^wの音声信号を特徴ベク
トルの系列

【０１２２】

【数３５】

【０１２３】に変換する。

【０１２４】単語パターン記憶部１０２はＲＡＭ，ＲＯ
Ｍ、各種ディスクであって、モデルλ^wを作成するため
の学習用単語を前記特徴ベクトル系列の形でＲ^w個記憶
する。

【０１２５】バッファメモリ１０３は、単語パターン記
憶部１０２に記憶されているｗに対する単語パターンを
Ｒ^w個取り出して一時的に記憶する。

【０１２６】パラメータ推定部１０４は、前記モデルλ
^wを作成するステップ（１）〜（９）を実行し、単語ｗ
に対応するモデルλ^wを推定する。

【０１２７】第１のパラメータ記憶部１０５は、前記ス
テップ（６）で得られたパラメータの再推定値を一次的
に記憶する。パラメータ推定部１０４はこのパラメータ
記憶部１０５の値を用いて再推定を行う。

【０１２８】ファジィクラスタリング部１０６は、単語
パターン記憶部１０２に記憶されている

【０１２９】

【数３６】

【０１３０】個の特徴ベクトル集合をＭ個のクラスタに
ファジィクラスタリングする。Ｔ^w(r)は単語ｗの第ｒの
訓練パターンのフレーム数である。第ｍクラスタのラベ
ルをＣ_m，セントロイドをｙ_0mとする。

【０１３１】ベクトル帰属度記憶部１０７は、ファジィ
クラスタリング部１０６で求められたｙ^w(r)(ｔ)の各ク
ラスタへの帰属度Ｕ^w(r)(ｔ)＝(ｕ^w(r) ₁(ｔ),・・・,ｕ
^w(r) _M(ｔ))^Tをｗ，ｒ，ｔの組合せで参照可能な形で記
憶する。ここで、Ｕ^w(r)(ｔ)をｙ^w(r)(ｔ)の帰属度ベク
トルと呼ぶことにする。

【０１３２】ラベル発生度合計算部１０８は、パラメー
タ記憶部１０５に記憶されているモデルλ^wの確率密度
関数から、ベクトル帰属度記憶部１０７に記憶されてい
る帰属度Ｕ^w(r)(ｔ)と単語パターン記憶部１０２に記憶
されているベクトルｙ^w(r)(ｔ)から、（数２７）に従っ
て単語ｗのＨＭＭの状態ｉにおけるＣ_mの発生度合ｂ^w _im
を計算する。

【０１３３】第２のパラメータ記憶部１０９は単語ｗ＝
１〜Ｗに対応するパラメータを記憶する手段であって、
前記それぞれの単語ｗ＝１,・・・,Ｗに対応するパラメー
タが、パラメータ記憶部１,・・・,パラメータ記憶部Ｗに
それぞれ記憶される。即ち、それぞれの単語の各状態に
対応する遷移確率は、第１のパラメータ記憶部１０５か
ら読み出され、ｗ,ｉ,ｊで参照可能な形で記憶される。
また、それぞれの単語の各状態におけるラベルの発生度
合はラベル発生度合算出部１０８から読み出され、ｗ,
ｉ，ｍで参照可能な形で記憶される。

【０１３４】図３、図４は他の実施例で、図１、図２の
ベクトル帰属度記憶部１０７をセントロイドを記憶する
セントロイド記憶部に変更し、ラベル発生度合算出部１
０８において、ｂ^w _imをｂ^w _im＝ｂ^w _i(ｙ_0m)として算出す
るようにしたものである。

【０１３５】以上のようにして、離散確率分布ＨＭＭが
作成される。

【０１３６】このように、連続確率密度分布ＨＭＭを先
ず作成し、学習に用いたパターン集合を形成するベクト
ルの集合をファジィクラスタリングし、クラスタｍの前
記ＨＭＭの状態ｉにおける発生度合ｂ_imを連続確率分布
型ＨＭＭとして求められた確率密度を用いて求め、離散
確率分布型ＨＭＭに変換するものである。

【０１３７】次に、以上のようなモデルを用いて実際の
入力音声を認識する装置について、その構成及び動作を
同時に説明する。

【０１３８】図７はその認識装置のブロック図である。

【０１３９】特徴抽出部４０１は、図１、図２、図３、
図４の特徴抽出部１０１と全く同様の構成、機能を有す
るものである。

【０１４０】コードブック４０３は、図１、図２、図
３、図４のＨＭＭ作成装置のクラスタベクトル記憶部に
記憶されている各クラスタのセントロイドが記憶されて
いる。

【０１４１】ファジィベクトル量子化部４０２は、特徴
抽出部４０１の出力の特徴ベクトルｙ(ｔ)とコードブッ
クに記憶されている前記それぞれのクラスタの代表ベク
トルｙ_0m（ｍ＝１,…,Ｍ）から、ｙ(ｔ)をファジィベク
トル量子化するものである。即ち、上記数式からｙ(ｔ)
のクラスタＣ_mに対する帰属度ｕ_m(t)（ｍ＝１,・・・,Ｍ）
を算出する。即ち、ｙ(ｔ)は帰属度ベクトル（ｕ₁(t),・
・・,ｕ_M(t)）^Tに変換される。

【０１４２】パラメータ記憶部４０４は、図１、図２、
図３、図４のパラメータ記憶部１０９と全く同様の構
成、機能を有するものであって、パラメータ記憶部ｗに
は、単語ｗ（=１,・・・,Ｗ）に対応するモデルのパラメー
タが記憶されている。

【０１４３】尤度計算部４０５は、ファジィベクトル量
子化部４０２の出力に得られる帰属度ベクトル列に対す
る各モデルの尤度をパラメータ記憶部４０４の内容を用
いて計算するものである。即ち、尤度計算部ｗではパラ
メータ記憶部ｗの内容が用いられる。尤度の計算は、状
態ｉにおけるｙ(ｔ)の発生度合ｆ^w _i(ｙ(ｔ))を

【０１４４】

【数３７】

【０１４５】で与え、（数５）におけるｂ_i(ｏ(ｔ))を
ｆ^w _i(ｙ(ｔ))、ａ_ijをａ^w _ijとして、（数１）、（数
２）、（数３）等の何れかを用いて実行される。（数
１）を計算する場合は、（数２６）におけるＹ^(r)に対
する

【０１４６】

【数３８】

【０１４７】の計算と全く同様に、入力パターンＹに対
するα_I+1(Ｔ＋１)を計算することになる。ＴはＹのフ
レーム数である。

【０１４８】（数２）、（数３）を用いる場合は、周知
のハ゛イターヒ゛(Viterbi)法によって尤度を求めることが出来
る。（数３）を用いる場合は次のようになる。 （１）初期値設定 単語ｗの状態ｉの初期確率をπ^w _iとし、ｉ＝１,・・・,Ｉ
について（数３９）を実行

【０１４９】

【数３９】

【０１５０】（２）漸化式の計算 ｔ＝２,・・・,Ｔ，ｊ＝１,・・・,Ｉについて（数４０）を実
行

【０１５１】

【数４０】

【０１５２】（３）

【０１５３】

【数４２】

【０１５４】ステップ（３）におけるφ_I+1(Ｔ＋１)が
Ｙに対するモデルｗ（単語ｗ）の尤度である。

【０１５５】比較判定部４０６は、尤度計算部４０５に
含まれる尤度計算部１,・・・，Ｗの何れの出力が最大であ
るかを比較判定し、それに対応する単語を認識結果とし
て出力するもので、（数４）に相当する計算を実行する
ものである。

【０１５６】なお、本実施例においては、単語を認識す
るとして述べたが、本発明は、単語を音韻や音節等に置
き換えても勿論よく、また、音声以外のパターンにも適
用出来るものである。

【０１５７】さらに、本実施例では特徴ベクトルの分布
は、各状態において単一の正規分布に従うとして説明し
たが、本発明では、いわゆる混合分布を用いることによ
り、より精密なラベルの発生度合を得ることも勿論可能
である。

【０１５８】また、本発明は、音声認識装置にかぎら
ず、他の時系列信号処理分野に適用可能である。

【０１５９】なお、本発明の各手段は、コンピュータを
用いてソフトウェア的に実現し、あるいはそれら各機能
を有する専用のハード回路を用いて実現してもかまわな
い。

【０１６０】

【発明の効果】以上述べたところから明らかなように、
本発明は、連続確率密度分布ＨＭＭを作成するＨＭＭ作
成手段と、訓練ベクトル集合をファジィクラスタリング
し各々のクラスタにラベルを付与するクラスタリング手
段と、ＨＭＭの各状態における各クラスタの従って各ラ
ベルの発生度合を、各クラスタに属する訓練ベクトル
と、連続確率密度分布ＨＭＭの各状態における確率密度
関数から算出するラベル発生度合算出手段とを備えてい
るので、離散型ＨＭＭにおける課題である訓練データの
不足やその偏りによる推定誤差を解消し、離散型ＨＭＭ
のもつ計算量が少ないという利点を活かしたモデルの実
現を可能とする。

【０１６１】また、クラスタリングをファジィクラスタ
リングとすることによりクラスタ数を減少でき、推定精
度を向上させることが出来る。

【図面の簡単な説明】

【図１】本発明によるＨＭＭ作成装置の一実施例の一部
を示すブロック図である。

【図２】本発明によるＨＭＭ作成装置の一実施例の残部
を示すブロック図である。

【図３】本発明によるＨＭＭ作成装置の一実施例の一部
を示すブロック図である。

【図４】本発明によるＨＭＭ作成装置の一実施例の残部
を示すブロック図である。

【図５】ＨＭＭを用いた音声認識装置の従来例を説明す
るブロック図である。

【図６】連続確率分布型ＨＭＭの構成を示すＨＭＭの構
成図である。

【図７】本発明により構成されたＨＭＭを用いた音声認
識装置の一実施例を示すブロック図である。

【符号の説明】

１０１・・・・特徴抽出部 １０２・・・・単語パターン記憶部 １０３・・・・バッファメモリ １０４・・・・パラメータ推定部 １０５・・・・パラメータ記憶部 １０６・・・・ファジィクラスタリング部 １０７・・・・ベクトル帰属度記憶部 １０８・・・・ラベル発生度合計算部 １０９・・・・パラメータ記憶部

Claims (7)

【特許請求の範囲】
1. 【請求項１】連続確率密度分布ＨＭＭを作成するＨＭＭ
   作成手段と、訓練ベクトル集合をファジィクラスタリン
   グし各々のクラスタにラベルを付与するクラスタリング
   手段と、前記ＨＭＭの各状態における前記各クラスタの
   従って前記各ラベルの発生度合を、前記各クラスタに属
   する前記訓練ベクトルと、前記連続確率密度分布ＨＭＭ
   の各状態における確率密度関数から算出するラベル発生
   度合算出手段とを備えたことを特徴とするＨＭＭ作成装
   置。
2. 【請求項２】請求項１記載のＨＭＭ作成装置によって得
   られた状態遷移確率を記憶する状態遷移確率記憶手段
   と、各状態における各ラベルの発生度合を記憶するラベ
   ル発生度合記憶手段とを備えたことを特徴とするＨＭＭ
   記憶装置。
3. 【請求項３】入力パターンを構成する特徴ベクトル系列
   の各ベクトルの請求項１記載のクラスタに属する帰属度
   を計算するファジィベクトル量子化手段と、請求項２記
   載のＨＭＭ記憶装置に記憶されている状態遷移確率、各
   状態におけるラベルの発生度合から、前記ＨＭＭ記憶装
   置に記憶されているパラメータで記述されるＨＭＭの、
   前記入力パターンに対する尤度を計算する尤度計算手段
   とを備えたことを特徴とする尤度計算装置。
4. 【請求項４】認識単位毎に請求項３記載の尤度計算装置
   を備え、入力信号に対する前記各々の認識単位モデル毎
   の尤度を計算し、該尤度の値から前記入力信号が前記認
   識単位の何れであるかを判定することを特徴とする認識
   装置。
5. 【請求項５】ラベル発生度合算出手段は、前記クラスタ
   をＣ_m（ｍ＝１,・・・,Ｍ）とするとき、前記連続確率密度
   分布ＨＭＭの状態ｉの確率密度関数から訓練ベクトル各
   々の確率密度を求め、該確率密度の前記訓練ベクトルの
   Ｃ_mに対する帰属度による荷重平均を算出し、該荷重平
   均を状態ｉにおけるＣ_mの発生度合ｂ_imとすることを特
   徴とする請求項１記載のＨＭＭ作成装置。
6. 【請求項６】ラベル発生度合算出手段は、前記クラスタ
   をＣ_m（ｍ＝１,・・・,Ｍ）とするとき、前記連続確率密度
   分布ＨＭＭの状態ｉの確率密度関数からＣ_mを代表する
   ベクトルの確率密度を求め、その確率密度を状態ｉにお
   けるＣ_mの発生度合 ｂ_imとすることを特徴とする請求
   項１記載のＨＭＭ作成装置。
7. 【請求項７】ラベル発生度合算出手段は、前記ｂ_imから
   更に、ｂ_im'＝ｂ_im／(ｂ_i1＋・・・＋ｂ_iM)を算出する発生
   度合正規化手段を含み、該正規化発生度合ｂ_im'を状態
   ｉにおけるＣ_mの発生度合とすることを特徴とする請求
   項５あるいは請求項６記載のＨＭＭ作成装置。