JPH0642155B2 - 隠れマルコフモデル学習方式 - Google Patents
隠れマルコフモデル学習方式Info
- Publication number
- JPH0642155B2 JPH0642155B2 JP1326989A JP32698989A JPH0642155B2 JP H0642155 B2 JPH0642155 B2 JP H0642155B2 JP 1326989 A JP1326989 A JP 1326989A JP 32698989 A JP32698989 A JP 32698989A JP H0642155 B2 JPH0642155 B2 JP H0642155B2
- Authority
- JP
- Japan
- Prior art keywords
- learning
- speaker
- hidden markov
- speakers
- markov model
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired - Fee Related
Links
Description
【発明の詳細な説明】 ［産業上の利用分野］ この発明は隠れマルコフモデル学習方式に関し、特に、
隠れマルコフモデルを用いて音声認識を行なうような隠
れマルコフモデル学習方式に関する。
隠れマルコフモデルを用いて音声認識を行なうような隠
れマルコフモデル学習方式に関する。
［従来の技術］ 近年、隠れマルコフモデルによる音声認識方式がたとえ
ば(1)Ｓ．Ｅ．，Ｌｅｖｉｎｓｏｎ，ｅｔ ａｌ，“Ａ
ｎ ｉｎｔｒｏｄｕｃｔｉｏｎ ｔｏ ｔｈｅ ａｐｐ
ｌｉｃａｔｉｏｎ ｏｆ ｔｈｅ ｔｈｅｏｒｙ ｏｆ
ｐｒｏｂａｂｉｌｉｓｔｉｃ ｆｕｎｃｔｉｏｎ ｏ
ｆ ａ Ｍａｒｋｏｖ ｐｒｏｃｅｓｓ ｔｏ ａｕｔ
ｏｍ ａｔｉｃ ｓｐｅｅｃｃｈ ｒｅｃｏｇｎｉｔｉ
ｏｎ”，Ｂｅｌｌ Ｓｙｓｔｅｍ Ｔｅｃｈｎｉｃａ
ｌ Ｊｏｕｒｎａｌ，６２，４（１９８３）および(2)
大河内、“Ｈｉｄｄｅｎ Ｍａｒｋ ｏｖ ｍｏｄｅｌ
に基づいた音声認識”，音響学会誌、４２、１２（１９
８６）において提案されている。隠れマルコフモデルに
よる音声認識方式は、音声を統計的，確率的モデルで表
現するものであり、音声の持つ揺らぎを確率として表現
できるという利点がある。しかし、精度の良いモデルを
得るためには、非常に多くの学習用音声を必要とする。
このため、話者に対する負担が大きい。
ば(1)Ｓ．Ｅ．，Ｌｅｖｉｎｓｏｎ，ｅｔ ａｌ，“Ａ
ｎ ｉｎｔｒｏｄｕｃｔｉｏｎ ｔｏ ｔｈｅ ａｐｐ
ｌｉｃａｔｉｏｎ ｏｆ ｔｈｅ ｔｈｅｏｒｙ ｏｆ
ｐｒｏｂａｂｉｌｉｓｔｉｃ ｆｕｎｃｔｉｏｎ ｏ
ｆ ａ Ｍａｒｋｏｖ ｐｒｏｃｅｓｓ ｔｏ ａｕｔ
ｏｍ ａｔｉｃ ｓｐｅｅｃｃｈ ｒｅｃｏｇｎｉｔｉ
ｏｎ”，Ｂｅｌｌ Ｓｙｓｔｅｍ Ｔｅｃｈｎｉｃａ
ｌ Ｊｏｕｒｎａｌ，６２，４（１９８３）および(2)
大河内、“Ｈｉｄｄｅｎ Ｍａｒｋ ｏｖ ｍｏｄｅｌ
に基づいた音声認識”，音響学会誌、４２、１２（１９
８６）において提案されている。隠れマルコフモデルに
よる音声認識方式は、音声を統計的，確率的モデルで表
現するものであり、音声の持つ揺らぎを確率として表現
できるという利点がある。しかし、精度の良いモデルを
得るためには、非常に多くの学習用音声を必要とする。
このため、話者に対する負担が大きい。
これを解決するための方法の１つとして、未知話者を少
数の適応用音声を用いて標準話者に適応化し、標準話者
の音声を用いて学習したモデルを用いて認識する方法が
たとえば（３）中村他、“ベクトル量子化話者適応アル
ゴリズムのＨＭＭ音韻認識による評価”，電子情報通信
学会技術研究報告、ＳＰ８８−１０６（１９８９）およ
び（４）古井、“マルチテンプレートと教師なし話者適
応化による音声認識”，電子情報通信学会技術研究報
告、ＳＰ８９−１７（１９８９）において提案されてい
る。話者間の音声の特徴の違いは、スペクトル形状の違
いによる静的なものと、調音様式の違いによる動的なも
のに大別される。
数の適応用音声を用いて標準話者に適応化し、標準話者
の音声を用いて学習したモデルを用いて認識する方法が
たとえば（３）中村他、“ベクトル量子化話者適応アル
ゴリズムのＨＭＭ音韻認識による評価”，電子情報通信
学会技術研究報告、ＳＰ８８−１０６（１９８９）およ
び（４）古井、“マルチテンプレートと教師なし話者適
応化による音声認識”，電子情報通信学会技術研究報
告、ＳＰ８９−１７（１９８９）において提案されてい
る。話者間の音声の特徴の違いは、スペクトル形状の違
いによる静的なものと、調音様式の違いによる動的なも
のに大別される。
［発明が解決しようとする課題］ しかしながら、上述の文献（３）による方法は、音声の
静的な特徴に関してのみ適応化を行なう方法であり、話
者間の動的な特徴に関しては不十分であった。また、文
献（４）においては、この問題を解決するためにマルチ
テンプレートを用いている。そして、マルチテンプレー
トを用いることは認識時の処理量を増加させるという問
題点があった。
静的な特徴に関してのみ適応化を行なう方法であり、話
者間の動的な特徴に関しては不十分であった。また、文
献（４）においては、この問題を解決するためにマルチ
テンプレートを用いている。そして、マルチテンプレー
トを用いることは認識時の処理量を増加させるという問
題点があった。
それゆえに、この発明の主たる目的は、複数の学習用話
者を標準話者の特徴空間に写像し、写像された音声を用
いて学習を行なうことにより、認識時の処理を増加させ
ることなく、話者間の動的な特徴の違いを吸収できる隠
れマルコフモデル学習方式を提供することである。
者を標準話者の特徴空間に写像し、写像された音声を用
いて学習を行なうことにより、認識時の処理を増加させ
ることなく、話者間の動的な特徴の違いを吸収できる隠
れマルコフモデル学習方式を提供することである。
［課題を解決するための手段］ この発明はファジィベクトル量子化を用いた隠れマルコ
フモデル学習方式であって、複数の学習用話者の学習用
単語と標準話者の単語を動的計画法により対応付け、コ
ードブックの対応付けのヒストグラムを各学習用話者ご
とに作成するステップと、作成されたヒストグラムを用
いて、複数の学習用話者の音声を標準話者の特徴空間に
それぞれ写像するステップと、写像された複数話者の学
習用音声を用いて学習を行なうステップを含む。
フモデル学習方式であって、複数の学習用話者の学習用
単語と標準話者の単語を動的計画法により対応付け、コ
ードブックの対応付けのヒストグラムを各学習用話者ご
とに作成するステップと、作成されたヒストグラムを用
いて、複数の学習用話者の音声を標準話者の特徴空間に
それぞれ写像するステップと、写像された複数話者の学
習用音声を用いて学習を行なうステップを含む。
［作用］ この発明に係る隠れマルコフモデル学習方式は、多の学
習用話者の学習用単語と標準話者の単語を動的計画法に
より対応付け、コードブックの対応付けのヒストグラム
を各学習用話者ごとに作成し、作成されたヒストグラム
を用いて複数の学習用話者の音声を標準話者の特徴空間
にそれぞれ写像し、写像された複数話者の学習用音声を
用いて学習を行なうことにより、学習話者の様々な動的
な揺らぎを標準話者のモデルに取込むことができ、高精
度の音声認識を実現できる。
習用話者の学習用単語と標準話者の単語を動的計画法に
より対応付け、コードブックの対応付けのヒストグラム
を各学習用話者ごとに作成し、作成されたヒストグラム
を用いて複数の学習用話者の音声を標準話者の特徴空間
にそれぞれ写像し、写像された複数話者の学習用音声を
用いて学習を行なうことにより、学習話者の様々な動的
な揺らぎを標準話者のモデルに取込むことができ、高精
度の音声認識を実現できる。
［発明の実施例］ 第６図はこの発明の一実施例の電気的構成を説明するた
めの概略ブロック図である。
めの概略ブロック図である。
第６図を参照して、この発明による隠れマルコフモデル
学習方式を実行するために、アンプ１とローパスフィル
タ２とＡ／Ｄ変器３と処理装置４とが設けられる。アン
プ１は入力された音声信号を増幅し、ローパスフイルタ
２は増幅された音声信号から繰返し雑音を除去する。Ａ
／Ｄ変換器３は音声信号を１２ｋＨｚのサンプリング信
号により、１６ビットのディジタル信号に変換する。処
理装置４はコンピュータ５と磁気ディスク６と端末類７
とプリンタ８とを含む。コンピュータ５はＡ／Ｄ変換器
３から入力された音声のディジタル信号に基づいて、後
述の第１図ないし第５図に示した手法を用いて隠れマル
コフモデルの学習を行なう。
学習方式を実行するために、アンプ１とローパスフィル
タ２とＡ／Ｄ変器３と処理装置４とが設けられる。アン
プ１は入力された音声信号を増幅し、ローパスフイルタ
２は増幅された音声信号から繰返し雑音を除去する。Ａ
／Ｄ変換器３は音声信号を１２ｋＨｚのサンプリング信
号により、１６ビットのディジタル信号に変換する。処
理装置４はコンピュータ５と磁気ディスク６と端末類７
とプリンタ８とを含む。コンピュータ５はＡ／Ｄ変換器
３から入力された音声のディジタル信号に基づいて、後
述の第１図ないし第５図に示した手法を用いて隠れマル
コフモデルの学習を行なう。
第１図はこの発明の一実施例の動作を説明するためのフ
ロー図である。学習用話者の入力音声は第６図に示した
アンプ１で増幅され、ローパスフィルタ２によって増幅
された音声信号から繰返し雑音が除去され、ステップ
（図示ではＳＰと略称する）ＳＰ１においてＡ／Ｄ変換
器３でディジタル化され、処理装置４に与えられる。処
理装置４はステップＳＰ２においてＬＰＣ分析などの音
声の特徴抽出を行なう。ステップＳＰ３においてコード
ブックの作成であるか否かが判別され、コードブックの
作成であることが判別されると、分析結果に基づいて話
者ごとにクラスタリングが行なわれてコードブックが生
成され、ステップＳＰ５において生成されたコードブッ
クが記憶される。
ロー図である。学習用話者の入力音声は第６図に示した
アンプ１で増幅され、ローパスフィルタ２によって増幅
された音声信号から繰返し雑音が除去され、ステップ
（図示ではＳＰと略称する）ＳＰ１においてＡ／Ｄ変換
器３でディジタル化され、処理装置４に与えられる。処
理装置４はステップＳＰ２においてＬＰＣ分析などの音
声の特徴抽出を行なう。ステップＳＰ３においてコード
ブックの作成であるか否かが判別され、コードブックの
作成であることが判別されると、分析結果に基づいて話
者ごとにクラスタリングが行なわれてコードブックが生
成され、ステップＳＰ５において生成されたコードブッ
クが記憶される。
上述のステップＳＰ３においてコードブック作成ではな
く量子化であることが判別されたときには、ステップＳ
Ｐ６においてファジィベクトル量子化行なわれる。すな
わち、前述のステップＳＰ５において記憶されたコード
ブックを用いて、特徴抽出された音声の量子化が行なわ
れる。ステップＳＰ７においてヒストグラムの作成であ
るか否かが判別され、ヒストグラムの作成であれば、ス
テップＳＰ８において、予め記憶されている標準話者の
学習用標準パターンとステップＳＰ６で量子化された学
習用話者の音声とをＤＴＷを用いてマッチングが行なわ
れ、対応づけられたコードブックのヒストグラムが作成
される。作成されたヒストグラムはステップＳＰ９にお
いて記憶される。
く量子化であることが判別されたときには、ステップＳ
Ｐ６においてファジィベクトル量子化行なわれる。すな
わち、前述のステップＳＰ５において記憶されたコード
ブックを用いて、特徴抽出された音声の量子化が行なわ
れる。ステップＳＰ７においてヒストグラムの作成であ
るか否かが判別され、ヒストグラムの作成であれば、ス
テップＳＰ８において、予め記憶されている標準話者の
学習用標準パターンとステップＳＰ６で量子化された学
習用話者の音声とをＤＴＷを用いてマッチングが行なわ
れ、対応づけられたコードブックのヒストグラムが作成
される。作成されたヒストグラムはステップＳＰ９にお
いて記憶される。
上述のステップＳＰ７においてヒストグラム作成ではな
く隠れマルコフモデル学習であることが判別されると、
ステップＳＰ１０において、ステップＳＰ９で記憶され
た各話者のヒストグラムを参照して、学習用話者の音声
を標準話者の特徴空間へ写像する。ステップＳＰ１１に
おいて、写像されたすべての学習用話者の音声が蓄えら
れる。
く隠れマルコフモデル学習であることが判別されると、
ステップＳＰ１０において、ステップＳＰ９で記憶され
た各話者のヒストグラムを参照して、学習用話者の音声
を標準話者の特徴空間へ写像する。ステップＳＰ１１に
おいて、写像されたすべての学習用話者の音声が蓄えら
れる。
そして、ステップＳＰ１２において、前述のステップＳ
Ｐ１１で蓄えられたすべての音声を用いて、隠れマルコ
フモデルの学習が行なわれる。
Ｐ１１で蓄えられたすべての音声を用いて、隠れマルコ
フモデルの学習が行なわれる。
次に、第１図に示した各ステップＳＰ１〜ステップＳＰ
１２のより具体的な動作について説明する。ステップＳ
Ｐ１では、１２ｋＨｚの１６ビットで入力音声のサンプ
リングを行ない、音声信号がディジタル化される。この
サンプリング周波数およびビット数は要求されるタスク
の難易度などによってその他の値をとり得ることができ
る。ステップＳＰ２においては、ディジタル化された音
声信号が分析され、特徴ベクトルが抽出される。特徴ベ
クトルとしては、たとえばフィルタバンクの出力および
ＬＰＣケプストラム係数が用いられる。このような音声
の分析方法に関しては、古井，“ディジタル信号処
理”，東海大学出版に詳細に述べられている。
１２のより具体的な動作について説明する。ステップＳ
Ｐ１では、１２ｋＨｚの１６ビットで入力音声のサンプ
リングを行ない、音声信号がディジタル化される。この
サンプリング周波数およびビット数は要求されるタスク
の難易度などによってその他の値をとり得ることができ
る。ステップＳＰ２においては、ディジタル化された音
声信号が分析され、特徴ベクトルが抽出される。特徴ベ
クトルとしては、たとえばフィルタバンクの出力および
ＬＰＣケプストラム係数が用いられる。このような音声
の分析方法に関しては、古井，“ディジタル信号処
理”，東海大学出版に詳細に述べられている。
ステップＳＰ４において、特徴ベクトル系列が受取ら
れ、ＬＢＧアルゴリズムによってクラスタリングが行な
われてコードブックが生成され、ステップＳＰ５におい
て求められたコードブックが蓄えられる。
れ、ＬＢＧアルゴリズムによってクラスタリングが行な
われてコードブックが生成され、ステップＳＰ５におい
て求められたコードブックが蓄えられる。
第２図および第３図は第１図に示したファジィベクトル
量子化を詳細に説明するためのフロー図である。次に、
第２図を参照して、ファジィベクトル量子化についてよ
り具体的に説明する。ステップＳＰ２において得られた
特徴ベクトルをステップＳＰ５において蓄えられたコー
ドブックを参照してファジィベクトル量子化を行なう。
ファジィ集合は一般の集合と異なり、要素の属性ｕＡが
２値でなく０から１の連続値で表現されるため、曖昧
さ，確信度を含むクラスタリングを行なうことができ
る。ファジィＣ−Ｍｅａｎｓ Ｃｌｕｓｔｅｒｉｎｇア
ルゴリズムが用いられる。このアルゴリズムはＥ．Ｒｕ
ｓｐｉｎｉ，“Ｎｕｍｅｒｉｃａｌ Ｍｅｔｈｏｄｓ
ｆｏｒ Ｆｕｚｚｙ Ｃｌｕｓｔｅｒｉｎｇ”，Ｉｎ
ｆ．Ｓｃｉ．，Ｖｏ１２（１９７０）およびＪ．Ｃ．Ｄ
ｕｎｎ，“Ａ Ｆｕｚｚｙ Ｒｅｌａｔｉｖｅ ｏｆ
ｔｈｅ ＩＳＯＤＡＴＡ Ｐｒｏｃｅｓｓ ａｎｄ ｉ
ｔｓ Ｕｓｅ ｉｎ Ｄｅｔｅｃｔｉｎｇ Ｃｏｍｐａ
ｃｅ，Ｗｅｌｌ Ｓｅｐａｒａｔｅ Ｃｌｕｓｔｅｒ
ｓ”，Ｊｏｕｒｎａｌ ｏｆ Ｃｙｂｅｒｎｅｔｉｃｓ
Ｖｏ１３（１９７４）が用いられる。２乗誤差最小の
規範のもとで、クラスタリングが行なわれる。このファ
ジィ−Ｃ−Ｍｅａｎｓ Ｃｌｕｓｔｅｒｉｎｇは次のよ
うに定義されている。入力ベククトルの要素数をｎと
し、クラスタ数をｃとし、入力ベクトルｘｋのセントロ
イドｖｉに対する級関数をｕｉｋとするとき、目的関数
Ｊｍは次のように定義される。
量子化を詳細に説明するためのフロー図である。次に、
第２図を参照して、ファジィベクトル量子化についてよ
り具体的に説明する。ステップＳＰ２において得られた
特徴ベクトルをステップＳＰ５において蓄えられたコー
ドブックを参照してファジィベクトル量子化を行なう。
ファジィ集合は一般の集合と異なり、要素の属性ｕＡが
２値でなく０から１の連続値で表現されるため、曖昧
さ，確信度を含むクラスタリングを行なうことができ
る。ファジィＣ−Ｍｅａｎｓ Ｃｌｕｓｔｅｒｉｎｇア
ルゴリズムが用いられる。このアルゴリズムはＥ．Ｒｕ
ｓｐｉｎｉ，“Ｎｕｍｅｒｉｃａｌ Ｍｅｔｈｏｄｓ
ｆｏｒ Ｆｕｚｚｙ Ｃｌｕｓｔｅｒｉｎｇ”，Ｉｎ
ｆ．Ｓｃｉ．，Ｖｏ１２（１９７０）およびＪ．Ｃ．Ｄ
ｕｎｎ，“Ａ Ｆｕｚｚｙ Ｒｅｌａｔｉｖｅ ｏｆ
ｔｈｅ ＩＳＯＤＡＴＡ Ｐｒｏｃｅｓｓ ａｎｄ ｉ
ｔｓ Ｕｓｅ ｉｎ Ｄｅｔｅｃｔｉｎｇ Ｃｏｍｐａ
ｃｅ，Ｗｅｌｌ Ｓｅｐａｒａｔｅ Ｃｌｕｓｔｅｒ
ｓ”，Ｊｏｕｒｎａｌ ｏｆ Ｃｙｂｅｒｎｅｔｉｃｓ
Ｖｏ１３（１９７４）が用いられる。２乗誤差最小の
規範のもとで、クラスタリングが行なわれる。このファ
ジィ−Ｃ−Ｍｅａｎｓ Ｃｌｕｓｔｅｒｉｎｇは次のよ
うに定義されている。入力ベククトルの要素数をｎと
し、クラスタ数をｃとし、入力ベクトルｘｋのセントロ
イドｖｉに対する級関数をｕｉｋとするとき、目的関数
Ｊｍは次のように定義される。
Ｊｍ＝ΣΣ（ｕｉｋ）ｍｄｉｋ ｄｉｋ＝｜｜ｘｉｘ−ｖｉ｜｜：｜｜．｜｜はＥｕｃｌ
ｉｄ ｎｏｒｍ． ｎ：重み係数：ｍ∈（１，∞） Ｖ＝（ｖ１，…，ｖｃ）：ｃ個のクラスタの初期セント
ロイド この目的関数Ｊｍ最小化するようにｕｉｋが決定され
る。ファジィ級関数の定義から、 Σｕｉｊ＝１ のもとで、Ｊｍが最小化される。これは、ラグランジュ
の未定定数λを用いて、 Ｄ＝Ｊｍ−λ（Σｕｉｊ−１） の最小化から求めることができ、次の結果が得られる。
ｉｄ ｎｏｒｍ． ｎ：重み係数：ｍ∈（１，∞） Ｖ＝（ｖ１，…，ｖｃ）：ｃ個のクラスタの初期セント
ロイド この目的関数Ｊｍ最小化するようにｕｉｋが決定され
る。ファジィ級関数の定義から、 Σｕｉｊ＝１ のもとで、Ｊｍが最小化される。これは、ラグランジュ
の未定定数λを用いて、 Ｄ＝Ｊｍ−λ（Σｕｉｊ−１） の最小化から求めることができ、次の結果が得られる。
＋ｍをｍ∈（１，∞），ｘはｃ＜ｎなる要素を持つもの
とし、任意のｋに対してＩｋを次のように決めるとき、 Ｉｋ＝｛ｉ／１≦１≦ｃ；ｄｉｋ＝｜ｘｋ−ｖｉ｜＝
０｝ Ｉｋ＝｛１，２，…，ｃ｝−Ｉｋ ｕｉｋがＪｍを最小化する条件は、次のようになる。
とし、任意のｋに対してＩｋを次のように決めるとき、 Ｉｋ＝｛ｉ／１≦１≦ｃ；ｄｉｋ＝｜ｘｋ−ｖｉ｜＝
０｝ Ｉｋ＝｛１，２，…，ｃ｝−Ｉｋ ｕｉｋがＪｍを最小化する条件は、次のようになる。
Ｉｋ＝０→ｕｉｋ＝１／［Σ（ｄｉｋ／
ｄｊｋ）1/m-1］または、Ｉｋ≠０→ｕｉｋ＝０ ∀ｉ
∈Ｉｋ，Σｕｉｋ＝１…(1) ここで、ｍをｆｕｚｉｎｅｓｓと呼び、ｎ→∞のとき、
ｕｉｊ→１／ｃで、ｓｏｆｔ ｄｅｃｉｓｏｉｎ、ｍ→
１のとき、従来のｈａｒｄ ｄｅｃｉｓｏｉｎによるク
ラスタリングとなる。したがって、ｎ＝１のときに限
り、２乗誤差最小に基づく本クラスタリングはベクトル
量子化と一致する。ここでは、ｍ∈［１，∞）に拡張し
た場合も含めてファジィベクトル量子化と呼ぶことにす
る。
ｄｊｋ）1/m-1］または、Ｉｋ≠０→ｕｉｋ＝０ ∀ｉ
∈Ｉｋ，Σｕｉｋ＝１…(1) ここで、ｍをｆｕｚｉｎｅｓｓと呼び、ｎ→∞のとき、
ｕｉｊ→１／ｃで、ｓｏｆｔ ｄｅｃｉｓｏｉｎ、ｍ→
１のとき、従来のｈａｒｄ ｄｅｃｉｓｏｉｎによるク
ラスタリングとなる。したがって、ｎ＝１のときに限
り、２乗誤差最小に基づく本クラスタリングはベクトル
量子化と一致する。ここでは、ｍ∈［１，∞）に拡張し
た場合も含めてファジィベクトル量子化と呼ぶことにす
る。
セントロイドについては、目的関数Ｊｍをクラスタ固定
で求めればよいが、逆に入力ベクトルについて解いたと
きは次の第(2)式が求まる。
で求めればよいが、逆に入力ベクトルについて解いたと
きは次の第(2)式が求まる。
ｘ′ｊ＝Σ［（ｕｉｊ）ｍｖｉ］／Σ（ｕｉｊ）ｍ…
(2) したがって、セントロイド｛ｖ０，…，ｖｃ｝の線形結
合で新しいセントロイドを合成することができ、近似的
にコードブックサイズを増加させることになる。さら
に、セントロイド｛ｖ０，…，ｖｃ｝を特徴空間がｃｏ
ｎｖｅｘになるように選んでおけば、入力ベクトルは上
述の式のように分解でき、ベクトル量子化の意味でも、
わずかな歪で量子化できる。しかし、ファジィベクトル
量子化の方法では、入力ｘｉに対してすべてのセントロ
イドに対して級関数を計算し、記憶しなければならな
い。この発明では音声認識にファジィベクトル量子化を
適用しているため、記憶容量はさほど問題とはならな
い。しかし、すべてのセントロイドに関する級関数の計
算は膨大なものとなる。
(2) したがって、セントロイド｛ｖ０，…，ｖｃ｝の線形結
合で新しいセントロイドを合成することができ、近似的
にコードブックサイズを増加させることになる。さら
に、セントロイド｛ｖ０，…，ｖｃ｝を特徴空間がｃｏ
ｎｖｅｘになるように選んでおけば、入力ベクトルは上
述の式のように分解でき、ベクトル量子化の意味でも、
わずかな歪で量子化できる。しかし、ファジィベクトル
量子化の方法では、入力ｘｉに対してすべてのセントロ
イドに対して級関数を計算し、記憶しなければならな
い。この発明では音声認識にファジィベクトル量子化を
適用しているため、記憶容量はさほど問題とはならな
い。しかし、すべてのセントロイドに関する級関数の計
算は膨大なものとなる。
そこで、この発明ではこの問題を解決するために、ｋ近
傍則を導入する。これは、入力ｘｉに対して最も距離の
小さかったセントロイドからｋ番目までに対してのみ級
関数を計算するものである。これにより、級関数の計算
がｋ個のセントロイドに対してのみで済み、スペクトル
歪を小さくできる。これはファジィクラスタリング理論
におけるα−ｃｏｒｅ集合｛ｕ／ｕ＞α｝に非常に近い
ものといえ、さらに高速化を図った方法である。ところ
が、一般にｋの値とｆｕｚｚｉｎｅｓｓの値は無相関で
はない。このため、スペクトル歪が最小になるように繰
返しアルゴリズムを構成して最適なｋとｆｕｚｚｉｎｅ
ｓｓを求める。すると、ｋ＝６，ｆｕｚｚｉｎｅｓｓが
１．６のときに量子化歪が最小であった。
傍則を導入する。これは、入力ｘｉに対して最も距離の
小さかったセントロイドからｋ番目までに対してのみ級
関数を計算するものである。これにより、級関数の計算
がｋ個のセントロイドに対してのみで済み、スペクトル
歪を小さくできる。これはファジィクラスタリング理論
におけるα−ｃｏｒｅ集合｛ｕ／ｕ＞α｝に非常に近い
ものといえ、さらに高速化を図った方法である。ところ
が、一般にｋの値とｆｕｚｚｉｎｅｓｓの値は無相関で
はない。このため、スペクトル歪が最小になるように繰
返しアルゴリズムを構成して最適なｋとｆｕｚｚｉｎｅ
ｓｓを求める。すると、ｋ＝６，ｆｕｚｚｉｎｅｓｓが
１．６のときに量子化歪が最小であった。
次に、第３図を参照して、ファジィベクトル量子化につ
いてより詳細に説明する。入力ベクトルｘｋに対して、
ステップＳＰ５で蓄えられたコードブックを参照して、
ステップＳＰ６１においてすべてのコードベクトルと距
離計算が行なわれる。その後、ステップＳＰ６２におい
て、距離の最も近いものからｋ個のソーティングを行な
う。既存のコードベクトルと一致する入力はほとんど生
起しないが、計算語長の関係上発生し得るのでステップ
ＳＰ６３においてｋ個の距離が判定され、０になるもの
がなければステップＳＰ６４においてｋ個に対する級関
数の値ｕｉｋが求められる。０になるものがあればステ
ップＳＰ６５において０でないコードベクトルに対する
級関数の値を０とし、０のものをΣｕｉｋ＝１になるよ
うにｕ＝ｉｋを決定する。これれにより、ｋ個のコード
ベクトルのインデックスと級関数の値を出力する。
いてより詳細に説明する。入力ベクトルｘｋに対して、
ステップＳＰ５で蓄えられたコードブックを参照して、
ステップＳＰ６１においてすべてのコードベクトルと距
離計算が行なわれる。その後、ステップＳＰ６２におい
て、距離の最も近いものからｋ個のソーティングを行な
う。既存のコードベクトルと一致する入力はほとんど生
起しないが、計算語長の関係上発生し得るのでステップ
ＳＰ６３においてｋ個の距離が判定され、０になるもの
がなければステップＳＰ６４においてｋ個に対する級関
数の値ｕｉｋが求められる。０になるものがあればステ
ップＳＰ６５において０でないコードベクトルに対する
級関数の値を０とし、０のものをΣｕｉｋ＝１になるよ
うにｕ＝ｉｋを決定する。これれにより、ｋ個のコード
ベクトルのインデックスと級関数の値を出力する。
第４図はヒストグラム計算を説明するためのフロー図で
ある。前述のごとくしてファジィベクトル量子化によっ
て各フレームごとにｋ個のコード列とｋ個の級関数値が
出力される。ステップＳＰ７１では、標準パターンから
コード列と級関数を呼出し、ステップＳＰ５で蓄えられ
たコードブックを参照して、上述の第(2)式により特徴
ベクトルを再合成し、ＤＴＷによるマッチングを行なっ
て最適な対応づけを与えるマッチングパスを求める。最
適パスを辿ることにより、学習用話者と標準話者の音声
のフレームの対応ずけが求められ、それらのフレームに
属するコードおよび級関数からヒストグラムを求めるこ
とができる。
ある。前述のごとくしてファジィベクトル量子化によっ
て各フレームごとにｋ個のコード列とｋ個の級関数値が
出力される。ステップＳＰ７１では、標準パターンから
コード列と級関数を呼出し、ステップＳＰ５で蓄えられ
たコードブックを参照して、上述の第(2)式により特徴
ベクトルを再合成し、ＤＴＷによるマッチングを行なっ
て最適な対応づけを与えるマッチングパスを求める。最
適パスを辿ることにより、学習用話者と標準話者の音声
のフレームの対応ずけが求められ、それらのフレームに
属するコードおよび級関数からヒストグラムを求めるこ
とができる。
第５図はファジィベクトルを用いたヒストグラム積算方
式を説明するための図である。対応づけられたフレーム
には、それぞれｋ個のコードベクトルのインデックスと
級関数の値とが定められている。したがって、１フレー
ムの対応づけにより、ｋの２乗個のコードベクトルの対
応づけを求めることができる。話者Ａの級関数ｕｊであ
るコードベクトルｉと、標準話者の級関数ｕｊを持つコ
ードベクトルｊが対応づけられる場合、コードベクトル
ｉとｊのヒストグラムは、 ｈｉｊ＝ｈｉｊ＋ｕｉ×ｕｊ…(3) と、級関数の値を乗じたものが加算して求められる。求
められたヒストグラムは第１図に示したステップＳＰ９
において各学習用話者ごとにヒストグラム記憶部に蓄え
られる。また、第１図に示したステップＳＰ１０におい
ては、ステップＳＰ６でファジィベクトル量子化された
複数の学習用話者のコードベクトル系列および級関数値
列が受取られ、ステップＳＰ９で蓄えられたそれぞれの
話者の変換ヒストグラムを参照して、次の第（４）式に
よ標準話者の特徴空間へ写像される。
式を説明するための図である。対応づけられたフレーム
には、それぞれｋ個のコードベクトルのインデックスと
級関数の値とが定められている。したがって、１フレー
ムの対応づけにより、ｋの２乗個のコードベクトルの対
応づけを求めることができる。話者Ａの級関数ｕｊであ
るコードベクトルｉと、標準話者の級関数ｕｊを持つコ
ードベクトルｊが対応づけられる場合、コードベクトル
ｉとｊのヒストグラムは、 ｈｉｊ＝ｈｉｊ＋ｕｉ×ｕｊ…(3) と、級関数の値を乗じたものが加算して求められる。求
められたヒストグラムは第１図に示したステップＳＰ９
において各学習用話者ごとにヒストグラム記憶部に蓄え
られる。また、第１図に示したステップＳＰ１０におい
ては、ステップＳＰ６でファジィベクトル量子化された
複数の学習用話者のコードベクトル系列および級関数値
列が受取られ、ステップＳＰ９で蓄えられたそれぞれの
話者の変換ヒストグラムを参照して、次の第（４）式に
よ標準話者の特徴空間へ写像される。
写像された音声はステップＳＰ１１で蓄えられ、すべて
の学習用話者について処理が行なわれる。ステップＳＰ
１２において、写像された複数の学習用話者の音声から
隠れマルコフモデルを上述の方法により、様々な話者の
動的な特徴を含んだ隠れマルコフモデルを学習すること
ができ、従来の静的な話者適用で問題となった動的な特
徴による誤認識を改善することができる。
の学習用話者について処理が行なわれる。ステップＳＰ
１２において、写像された複数の学習用話者の音声から
隠れマルコフモデルを上述の方法により、様々な話者の
動的な特徴を含んだ隠れマルコフモデルを学習すること
ができ、従来の静的な話者適用で問題となった動的な特
徴による誤認識を改善することができる。
［発明の効果］ 以上のように、この発明によれば、様々な話者の動的な
特徴を含んだ隠れマルコフモデルを学習することができ
るので、静的な話者適応方法と組合わせることにより、
高い認識率を与える話者適応が実現できる。また、多数
の話者の音声を標準話者の特徴空間に写像することによ
り、標準話者の音声を増加させるのと同様の効果を得る
ことができ、標準話者の学習用音声が少ない場合のモデ
ルの推定精度の低下を防ぐことができ、高精度の音声認
識を実現できる。
特徴を含んだ隠れマルコフモデルを学習することができ
るので、静的な話者適応方法と組合わせることにより、
高い認識率を与える話者適応が実現できる。また、多数
の話者の音声を標準話者の特徴空間に写像することによ
り、標準話者の音声を増加させるのと同様の効果を得る
ことができ、標準話者の学習用音声が少ない場合のモデ
ルの推定精度の低下を防ぐことができ、高精度の音声認
識を実現できる。
第１図はこの発明の一実施例の動作を説明するための全
体のフロー図である。第２図はファジィベクトル量子化
を用いたコード列と級関数値を求める動作を説明するた
めのフロー図である。第３図はファジィベクトル量子化
のより具体的なフロー図である。第４図はヒストグラム
計算を説明するためのフロー図である。第５図はファジ
ィベクトルを用いたヒストグラム積算方式を説明するた
めの図である。第６図はこの発明の一実施例の電気的構
成を説明するための概略ブロック図である。 図において、１はアンプ、２はローパスフィルタ、３は
Ａ／Ｄ変換器、４は処理装置、５はコンピュータを示
す。
体のフロー図である。第２図はファジィベクトル量子化
を用いたコード列と級関数値を求める動作を説明するた
めのフロー図である。第３図はファジィベクトル量子化
のより具体的なフロー図である。第４図はヒストグラム
計算を説明するためのフロー図である。第５図はファジ
ィベクトルを用いたヒストグラム積算方式を説明するた
めの図である。第６図はこの発明の一実施例の電気的構
成を説明するための概略ブロック図である。 図において、１はアンプ、２はローパスフィルタ、３は
Ａ／Ｄ変換器、４は処理装置、５はコンピュータを示
す。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 鹿野 清宏 京都府相楽郡精華町大字乾谷小字三平谷５ 番地 株式会社エイ・ティ・アール自動翻 訳電話研究所内 (56)参考文献 電子情報通信学会技術研究報告 ＳＰ88 −106 Ｐ．１−８（1988−12−16)
Claims (1)
- 【請求項１】ファジィベクトル量子化を用いた隠れマル
コフモデル学習方式において、 複数の学習用話者の学習用単語と標準話者の単語とを動
的計画法により対応付け、コードブックの対応付けのヒ
ストグラムを各学習用話者ごとに作成するステップ、 前記作成されたヒストグラムを用いて、前記複数の学習
用話者の音声を前記標準話者の特徴空間にそれぞれ写像
するステップ、および 前記写像された複数話者の学習用音声を用いて学習を行
なうステップを含む、隠れマルコフモデル学習方式。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1326989A JPH0642155B2 (ja) | 1989-12-16 | 1989-12-16 | 隠れマルコフモデル学習方式 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP1326989A JPH0642155B2 (ja) | 1989-12-16 | 1989-12-16 | 隠れマルコフモデル学習方式 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH03186899A JPH03186899A (ja) | 1991-08-14 |
| JPH0642155B2 true JPH0642155B2 (ja) | 1994-06-01 |
Family
ID=18194062
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP1326989A Expired - Fee Related JPH0642155B2 (ja) | 1989-12-16 | 1989-12-16 | 隠れマルコフモデル学習方式 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH0642155B2 (ja) |
Families Citing this family (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH0752356B2 (ja) * | 1991-08-28 | 1995-06-05 | 株式会社エイ・ティ・アール自動翻訳電話研究所 | 話者適応化方式 |
-
1989
- 1989-12-16 JP JP1326989A patent/JPH0642155B2/ja not_active Expired - Fee Related
Non-Patent Citations (1)
| Title |
|---|
| 電子情報通信学会技術研究報告ＳＰ８８−１０６Ｐ．１−８（１９８８−１２−１６） |
Also Published As
| Publication number | Publication date |
|---|---|
| JPH03186899A (ja) | 1991-08-14 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6125345A (en) | Method and apparatus for discriminative utterance verification using multiple confidence measures | |
| US6347297B1 (en) | Matrix quantization with vector quantization error compensation and neural network postprocessing for robust speech recognition | |
| US5903863A (en) | Method of partitioning a sequence of data frames | |
| AU684214B2 (en) | System for recognizing spoken sounds from continuous speech and method of using same | |
| KR20010102549A (ko) | 화자 인식 방법 및 장치 | |
| JP2000099080A (ja) | 信頼性尺度の評価を用いる音声認識方法 | |
| JPH07110695A (ja) | 音声符号化装置および方法 | |
| KR101026632B1 (ko) | 포먼트 트랙킹 방법 및 컴퓨터 판독가능 기록 매체 | |
| JPWO2019171457A1 (ja) | 音源分離装置、音源分離方法およびプログラム | |
| US5832181A (en) | Speech-recognition system utilizing neural networks and method of using same | |
| Al-Haddad et al. | Robust speech recognition using fusion techniques and adaptive filtering | |
| Chaudhari et al. | Multigrained modeling with pattern specific maximum likelihood transformations for text-independent speaker recognition | |
| Devi et al. | A novel approach for speech feature extraction by cubic-log compression in MFCC | |
| JP2852298B2 (ja) | 標準パターン適応化方式 | |
| Soni et al. | Text-dependent speaker verification using classical LBG, adaptive LBG and FCM vector quantization | |
| JP3536471B2 (ja) | 識別装置および識別方法、並びに音声認識装置および音声認識方法 | |
| Ananthakrishna et al. | Kannada word recognition system using HTK | |
| JPH10254473A (ja) | 音声変換方法及び音声変換装置 | |
| Nijhawan et al. | Real time speaker recognition system for hindi words | |
| JPH0642155B2 (ja) | 隠れマルコフモデル学習方式 | |
| Paul et al. | Isolated Bangla spoken digit and word recognition using MFCC and DTW | |
| Li | Speech recognition of mandarin monosyllables | |
| Niyozmatova et al. | MFCC-GMM Method for Speaker Identification by Voice | |
| JPH10149190A (ja) | 音声認識方法及び音声認識装置 | |
| Raghudathesh et al. | Analysis and classification of spoken utterance using feature vector statistics and machine learning algorithms |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| LAPS | Cancellation because of no payment of annual fees |