JPH11143486A - 話者適応装置および方法 - Google Patents
話者適応装置および方法Info
- Publication number
- JPH11143486A JPH11143486A JP9306887A JP30688797A JPH11143486A JP H11143486 A JPH11143486 A JP H11143486A JP 9306887 A JP9306887 A JP 9306887A JP 30688797 A JP30688797 A JP 30688797A JP H11143486 A JPH11143486 A JP H11143486A
- Authority
- JP
- Japan
- Prior art keywords
- speaker
- model
- adaptation
- models
- distance
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Abstract
(57)【要約】
【課題】 最大事後確率推定法を用いた話者適応におい
て、精度の高い話者適応の能力を実現する。 【解決手段】 音響解析部１０と同等の音響解析手段を
使って、適応対象話者と独立した多数の話者モデルの集
合１７を用意する。次に、適応対象の話者の音声を入力
し、音響解析部１０で分析して適応対象話者の特徴パラ
メータベクトルの分布を求め、適応用サンプル・データ
１６として保存する。適応モデル作成部１５では、適応
用サンプル・データ１６として保存されている適応対象
の話者モデルと話者モデルの集合１７として保存されて
いる多数（Ｎ個）の話者モデルとの間の距離を測定し、
適応対象の話者モデルとの距離が近い順にＭ個の話者モ
デルを選ぶ。そして、選択したＭ個の話者モデルの重み
付き加算値を行い初期のモデルを決定する。
て、精度の高い話者適応の能力を実現する。 【解決手段】 音響解析部１０と同等の音響解析手段を
使って、適応対象話者と独立した多数の話者モデルの集
合１７を用意する。次に、適応対象の話者の音声を入力
し、音響解析部１０で分析して適応対象話者の特徴パラ
メータベクトルの分布を求め、適応用サンプル・データ
１６として保存する。適応モデル作成部１５では、適応
用サンプル・データ１６として保存されている適応対象
の話者モデルと話者モデルの集合１７として保存されて
いる多数（Ｎ個）の話者モデルとの間の距離を測定し、
適応対象の話者モデルとの距離が近い順にＭ個の話者モ
デルを選ぶ。そして、選択したＭ個の話者モデルの重み
付き加算値を行い初期のモデルを決定する。
Description
【０００１】
【発明の属する技術分野】本発明は、適応対象話者が発
声した音声を学習用データとして、初期の音声モデルを
修正し、話者に適応させた音声モデルを作成する、話者
適応技術に関する。
声した音声を学習用データとして、初期の音声モデルを
修正し、話者に適応させた音声モデルを作成する、話者
適応技術に関する。
【０００２】
【従来技術】隠れマルコフモデル（Ｈｉｄｄｅｎ Ｍａ
ｒｋｏｖ Ｍｏｄｅｌ、以降ＨＭＭと略する）は、音声
のスペクトル的、時間的な変動に対処しやすく、高い認
識精度を実現できることから、音声認識において広く用
いられている。ＨＭＭは、状態間の遷移確率、状態遷移
に伴うシンボルの出力確率を持った状態遷移モデルであ
り、音声信号のような時間とともに連続的に変化する信
号をモデル化するには、左から右に状態が遷移する、所
謂ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型モデルが適当である。
図１に状態数４の場合のｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型
のＨＭＭの例を示す。ここで、１，２，３，４は状態を
表し、ａij（ｉ，ｊ＝１，…４）は、状態ｉから状態ｊ
に遷移する確率を示している。また、ｂj（ｏ）は、状
態遷移に伴って状態ｊにおいてシンボルｏが観測される
確率を示している。音声認識の場合、このシンボルとし
ては、通常、特徴パラメータ・ベクトルが使われる。
ｒｋｏｖ Ｍｏｄｅｌ、以降ＨＭＭと略する）は、音声
のスペクトル的、時間的な変動に対処しやすく、高い認
識精度を実現できることから、音声認識において広く用
いられている。ＨＭＭは、状態間の遷移確率、状態遷移
に伴うシンボルの出力確率を持った状態遷移モデルであ
り、音声信号のような時間とともに連続的に変化する信
号をモデル化するには、左から右に状態が遷移する、所
謂ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型モデルが適当である。
図１に状態数４の場合のｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型
のＨＭＭの例を示す。ここで、１，２，３，４は状態を
表し、ａij（ｉ，ｊ＝１，…４）は、状態ｉから状態ｊ
に遷移する確率を示している。また、ｂj（ｏ）は、状
態遷移に伴って状態ｊにおいてシンボルｏが観測される
確率を示している。音声認識の場合、このシンボルとし
ては、通常、特徴パラメータ・ベクトルが使われる。
【０００３】ＨＭＭを使った音声認識では、認識の対象
となる音声の単位（例えば、音素、音韻、音節、単語）
ごとに、ＨＭＭによる音声モデルを用意し、事前に訓練
用の音声データを用いて、状態遷移確率ａij、特徴パラ
メータベクトルの出力確率ｂj（ｏ）といったモデル・
パラメータを決定しておく。そして、認識時には、入力
された音声を分析し、特徴パラメータベクトルの系列に
変換し、そのパラメータベクトルの系列を観測する可能
性が最も高くなるモデルに対応する音声単位の列を決定
し、それを認識結果とする。
となる音声の単位（例えば、音素、音韻、音節、単語）
ごとに、ＨＭＭによる音声モデルを用意し、事前に訓練
用の音声データを用いて、状態遷移確率ａij、特徴パラ
メータベクトルの出力確率ｂj（ｏ）といったモデル・
パラメータを決定しておく。そして、認識時には、入力
された音声を分析し、特徴パラメータベクトルの系列に
変換し、そのパラメータベクトルの系列を観測する可能
性が最も高くなるモデルに対応する音声単位の列を決定
し、それを認識結果とする。
【０００４】ＨＭＭのような統計モデルでは、一般に、
学習用のデータを増やすことにより、モデルの精度を高
めることができる。そこで、対象となる話者が発声した
大量のデータを用いることによって、その話者のための
精度の高いモデルを作成することができる。しかし、そ
のためには、使用に先立って大量の音声データを収集す
る必要があり、そのために話者に大量の発声を要求する
ことになり、実用上の障害になっていた。
学習用のデータを増やすことにより、モデルの精度を高
めることができる。そこで、対象となる話者が発声した
大量のデータを用いることによって、その話者のための
精度の高いモデルを作成することができる。しかし、そ
のためには、使用に先立って大量の音声データを収集す
る必要があり、そのために話者に大量の発声を要求する
ことになり、実用上の障害になっていた。
【０００５】一方、事前に不特定多数の話者の音声デー
タを収集し、それに基づいて、話者に依存しない標準的
な話者モデルを作ることが考えられる。この不特定話者
を対象としたモデルを用いれば、使用者が使用に先立っ
て話者モデルを訓練するために大量の発声を行う必要が
なく、すぐに使用を開始できるという利点がある。しか
し、話者ごとに適合させたモデルではないので、認識精
度が十分ではない。一般に、音声認識では、個人に即し
た音声モデルを用意することにより、認識の精度を高め
ることができるが、その音声モデルを作成するためには
多数の発話を事前に用意する必要があり、認識精度と手
間がトレードオフの関係になっている。
タを収集し、それに基づいて、話者に依存しない標準的
な話者モデルを作ることが考えられる。この不特定話者
を対象としたモデルを用いれば、使用者が使用に先立っ
て話者モデルを訓練するために大量の発声を行う必要が
なく、すぐに使用を開始できるという利点がある。しか
し、話者ごとに適合させたモデルではないので、認識精
度が十分ではない。一般に、音声認識では、個人に即し
た音声モデルを用意することにより、認識の精度を高め
ることができるが、その音声モデルを作成するためには
多数の発話を事前に用意する必要があり、認識精度と手
間がトレードオフの関係になっている。
【０００６】こうしたことから、少量の話者固有の発声
データだけで、使用を開始することができ、さらに話者
固有の発声データを追加することによって逐次的に認識
精度を向上させる事を狙った「話者適応」が、音声認識
を応用するある局面では注目されている。例えばディク
テーションのような、ある程度個人的に使用されるもの
では、簡単な手続きで使用することができ、また、使用
につれて、逐次、認識の精度が向上していくことが望ま
しく、この話者適応が有効であろう。
データだけで、使用を開始することができ、さらに話者
固有の発声データを追加することによって逐次的に認識
精度を向上させる事を狙った「話者適応」が、音声認識
を応用するある局面では注目されている。例えばディク
テーションのような、ある程度個人的に使用されるもの
では、簡単な手続きで使用することができ、また、使用
につれて、逐次、認識の精度が向上していくことが望ま
しく、この話者適応が有効であろう。
【０００７】「話者適応」の手法の一つとして、予め求
めておいた初期の音声モデルを、実際の話者や使用環境
の特徴を取り込んで、修正することによって実現する手
法があり、その中でも、ベイズ推定に基づいた音声モデ
ルのパラメータの再推定が試みられ、効果をあげてい
る。ベイズ推定は、ベイズの定理に基づいて、パラメー
タを決定するものであり、以下の考え方による。
めておいた初期の音声モデルを、実際の話者や使用環境
の特徴を取り込んで、修正することによって実現する手
法があり、その中でも、ベイズ推定に基づいた音声モデ
ルのパラメータの再推定が試みられ、効果をあげてい
る。ベイズ推定は、ベイズの定理に基づいて、パラメー
タを決定するものであり、以下の考え方による。
【０００８】ある事象Ａという結果を生じさせた原因Ｈ
iの可能性Ｐ（Ｈi｜Ａ）は、ベイズの定理により、原因
の確率Ｐ（Ｈi）に、その原因からある事象が発生する
確率Ｐ（Ａ｜Ｈi）をかけたものによって計算される。
この時、Ｐ（Ｈi）は事前確率とよばれ、Ｐ（Ｈi｜Ａ）
は事後確率と呼ばれる。つまり、事前に予測した事前確
率Ｐ（Ｈi）とサンプルの確率Ｐ（Ａ｜Ｈi）によって事
後確率が決定すると考える。
iの可能性Ｐ（Ｈi｜Ａ）は、ベイズの定理により、原因
の確率Ｐ（Ｈi）に、その原因からある事象が発生する
確率Ｐ（Ａ｜Ｈi）をかけたものによって計算される。
この時、Ｐ（Ｈi）は事前確率とよばれ、Ｐ（Ｈi｜Ａ）
は事後確率と呼ばれる。つまり、事前に予測した事前確
率Ｐ（Ｈi）とサンプルの確率Ｐ（Ａ｜Ｈi）によって事
後確率が決定すると考える。
【０００９】原因として分布のパラメータをとり、結果
としてサンプルされるデータをとる。そうすると、分布
のパラメータの事後確率は、分布のパラメータの予測値
である事前確率とサンプルデータから得られる結果の確
率から得られることになる。そこで、モデルのパラメー
タについての正しい予測があれば、事後確率の決定にそ
れを効果的に取り込むことができる。
としてサンプルされるデータをとる。そうすると、分布
のパラメータの事後確率は、分布のパラメータの予測値
である事前確率とサンプルデータから得られる結果の確
率から得られることになる。そこで、モデルのパラメー
タについての正しい予測があれば、事後確率の決定にそ
れを効果的に取り込むことができる。
【００１０】一般に、結果の確率に対して、事前確率と
事後確率が同一の分布族に属していれば、サンプルは分
布族内の変換を起こすだけであり、数学的な取り扱いが
容易になる。このときの事前確率と事後確率の分布族
は、自然な共役分布と呼ばれるが、ガウス分布Ｎ（θ，
σ2）の平均のパラメータθについて、ガウス分布Ｎ
（λ，τ2）は自然な共役分布であることが知られてい
る。
事後確率が同一の分布族に属していれば、サンプルは分
布族内の変換を起こすだけであり、数学的な取り扱いが
容易になる。このときの事前確率と事後確率の分布族
は、自然な共役分布と呼ばれるが、ガウス分布Ｎ（θ，
σ2）の平均のパラメータθについて、ガウス分布Ｎ
（λ，τ2）は自然な共役分布であることが知られてい
る。
【００１１】ベイズの定理に基づく枠組みの中で、パラ
メータを推定し話者適応を行う方法が、最大事後確率推
定法として、例えば、Ｃｈｉｎ−Ｈｕｉ Ｌｅｅ，Ｃｈ
ｉｈ−Ｈｅｎｇ Ｌｉｎ ａｎｄ Ｂｉｉｎｇ−Ｈｗａ
ｎｇ Ｊｕａｎｇ，”Ａ Ｓｔｕｄｙ ｏｎ Ｓｐｅａ
ｋｅｒ Ａｄａｐｔａｔｉｏｎ ｏｆ ｔｈｅ Ｐａｒ
ａｍｅｔｅｒｓ ｏｆ Ｃｏｎｔｉｎｕｏｕｓ Ｄｅｎ
ｓｉｔｙ Ｈｉｄｄｅｎ Ｍａｒｋｏｖ Ｍｏｄｅｌ
ｓ”，ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｓ
ｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ，Ｖｏｌ．３９，Ｎ
ｏ．４，Ａｐｒｉｌ，１９９１（以後文献１とする）
で、開示されている。これによれば、平均値パラメータ
μが事前確率Ｐo（μ）に従い、その分散σ2が既知で固
定とすると、μの共役な事前分布は、平均値ν、分散τ
2を持ったガウス分布であり、これを使うと、パラメー
タの最大事後確率推定値は、
メータを推定し話者適応を行う方法が、最大事後確率推
定法として、例えば、Ｃｈｉｎ−Ｈｕｉ Ｌｅｅ，Ｃｈ
ｉｈ−Ｈｅｎｇ Ｌｉｎ ａｎｄ Ｂｉｉｎｇ−Ｈｗａ
ｎｇ Ｊｕａｎｇ，”Ａ Ｓｔｕｄｙ ｏｎ Ｓｐｅａ
ｋｅｒ Ａｄａｐｔａｔｉｏｎ ｏｆ ｔｈｅ Ｐａｒ
ａｍｅｔｅｒｓ ｏｆ Ｃｏｎｔｉｎｕｏｕｓ Ｄｅｎ
ｓｉｔｙ Ｈｉｄｄｅｎ Ｍａｒｋｏｖ Ｍｏｄｅｌ
ｓ”，ＩＥＥＥ Ｔｒａｎｓａｃｔｉｏｎｓ ｏｎ Ｓ
ｉｇｎａｌ Ｐｒｏｃｅｓｓｉｎｇ，Ｖｏｌ．３９，Ｎ
ｏ．４，Ａｐｒｉｌ，１９９１（以後文献１とする）
で、開示されている。これによれば、平均値パラメータ
μが事前確率Ｐo（μ）に従い、その分散σ2が既知で固
定とすると、μの共役な事前分布は、平均値ν、分散τ
2を持ったガウス分布であり、これを使うと、パラメー
タの最大事後確率推定値は、
【００１２】
【数１】 で与えられる。ここで、ｎは対応するＨＭＭの状態にお
いて観測される訓練用サンプルの個数、ｏはサンプルの
平均である。つまり、平均値の最大事後確率推定法によ
る推定値は、事前分布の平均値νとサンプルの平均ｏの
重み付き平均で与えられる。（１）から明らかに、ｎが
０のとき、つまりサンプルが全くない場合には、推定値
は事前分布の平均値νのままである。また、ｎが十分大
きいとき、つまり、サンプル数が十分多いときは、推定
値はサンプルの平均ｏに近づく。このように、最大事後
確率推定法では、事前に予測した分布を取り込んで、サ
ンプルデータの個数に応じてモデルのパラメータを訓練
用サンプルの特性に漸近的に近づけることができるの
で、使用に応じて逐次話者モデルの精度向上を図ること
ができ、理想的な話者適応を実現できる。
いて観測される訓練用サンプルの個数、ｏはサンプルの
平均である。つまり、平均値の最大事後確率推定法によ
る推定値は、事前分布の平均値νとサンプルの平均ｏの
重み付き平均で与えられる。（１）から明らかに、ｎが
０のとき、つまりサンプルが全くない場合には、推定値
は事前分布の平均値νのままである。また、ｎが十分大
きいとき、つまり、サンプル数が十分多いときは、推定
値はサンプルの平均ｏに近づく。このように、最大事後
確率推定法では、事前に予測した分布を取り込んで、サ
ンプルデータの個数に応じてモデルのパラメータを訓練
用サンプルの特性に漸近的に近づけることができるの
で、使用に応じて逐次話者モデルの精度向上を図ること
ができ、理想的な話者適応を実現できる。
【００１３】文献１では、ベイズ推定による他のパラメ
ータに対する話者適応例として、分散の場合と平均と分
散双方の場合についても述べられているが、平均値の話
者適応が認識性能に対して効果が高いことが示されてい
る。
ータに対する話者適応例として、分散の場合と平均と分
散双方の場合についても述べられているが、平均値の話
者適応が認識性能に対して効果が高いことが示されてい
る。
【００１４】
【発明が解決しようとする課題】この最大事後確率推定
法によるパラメータ推定を使った話者適応方式が、これ
までに開示されている。特開平８−９５５９２号公報で
開示されている従来例１では、標準的音素モデルを用い
て、ある特定の話者に音素モデルを合わせ込む話者適応
を行っているが、標準的な初期音声モデルとしては、老
若男女いろいろな話者が発声した音声データを用いて予
め学習しておいた、不特定多数の話者の音声を認識対象
とした不特定話者モデルを用いるとしている。この従来
例１で示している不特定話者モデルを用いた適応方式で
は、事前分布として用いる標準的な初期音声モデルの分
布が広がっており、少量の学習データで、それを十分に
補償し、適応対象の話者に適応するようパラメータを補
正することは困難である。
法によるパラメータ推定を使った話者適応方式が、これ
までに開示されている。特開平８−９５５９２号公報で
開示されている従来例１では、標準的音素モデルを用い
て、ある特定の話者に音素モデルを合わせ込む話者適応
を行っているが、標準的な初期音声モデルとしては、老
若男女いろいろな話者が発声した音声データを用いて予
め学習しておいた、不特定多数の話者の音声を認識対象
とした不特定話者モデルを用いるとしている。この従来
例１で示している不特定話者モデルを用いた適応方式で
は、事前分布として用いる標準的な初期音声モデルの分
布が広がっており、少量の学習データで、それを十分に
補償し、適応対象の話者に適応するようパラメータを補
正することは困難である。
【００１５】また、特開平８−１１０７９２号公報で開
示されている従来例２では、木構造クラスタリングモデ
ルにより作成した話者クラスタを用いて初期話者モデル
を作成するとしている。この方法では、初期話者モデル
の分布をある程度絞る事ができるが、クラスタの中心が
適応対象となる話者モデルのベクトルの中から、大きく
ずれている場合には、補正の効果が小さく、十分な適応
ができない恐れがある。
示されている従来例２では、木構造クラスタリングモデ
ルにより作成した話者クラスタを用いて初期話者モデル
を作成するとしている。この方法では、初期話者モデル
の分布をある程度絞る事ができるが、クラスタの中心が
適応対象となる話者モデルのベクトルの中から、大きく
ずれている場合には、補正の効果が小さく、十分な適応
ができない恐れがある。
【００１６】最大事後確率推定法は、前述したように、
話者の発声サンプルデータを用いて、初期話者モデルの
パラメータを修正し、話者に適応させていくもので、サ
ンプルデータの数に応じて漸次モデルの精度を向上させ
ることができるが、この初期の話者モデルをどう選ぶか
が、適応の能力に大きく影響する。本発明は、こうした
点に鑑みなされたもので、最大事後確率推定法を用いた
話者適応において、精度の高い話者適応の能力を実現す
るための手段を与えるものである。本発明は、最適な初
期の話者モデルを選択することにより、適応対象の特定
の話者からの少量の発声データを用いて、その話者に対
する精度の高い音声モデルを作成する話者適応装置を実
現することを目的とするものであり、その話者適応装置
を用いることにより、精度の高い話者適応の能力を持っ
た音声認識装置を実現することができる。
話者の発声サンプルデータを用いて、初期話者モデルの
パラメータを修正し、話者に適応させていくもので、サ
ンプルデータの数に応じて漸次モデルの精度を向上させ
ることができるが、この初期の話者モデルをどう選ぶか
が、適応の能力に大きく影響する。本発明は、こうした
点に鑑みなされたもので、最大事後確率推定法を用いた
話者適応において、精度の高い話者適応の能力を実現す
るための手段を与えるものである。本発明は、最適な初
期の話者モデルを選択することにより、適応対象の特定
の話者からの少量の発声データを用いて、その話者に対
する精度の高い音声モデルを作成する話者適応装置を実
現することを目的とするものであり、その話者適応装置
を用いることにより、精度の高い話者適応の能力を持っ
た音声認識装置を実現することができる。
【００１７】
【課題を解決するための手段】本発明は、初期話者モデ
ルと適応学習用データを用いて、最大事後確率推定法に
よって話者モデルのパラメータを再推定し、話者適応を
行う装置において、多数の話者から作成した多数（Ｎ
個）の話者モデルを事前に用意し、それらの多数の話者
モデルの中から、適応対象の話者に距離的に近いＭ個の
話者モデルを選択し、そうして選択されたＭ個の話者モ
デルを混合して初期の話者モデルを構成することを特徴
とする。また、そのとき、個数Ｍ（Ｍ＜＜Ｎ）を適応対
象話者と事前に用意されたＮ個の個々の話者モデルとの
距離の関係に基づいて決定する。これにより、分布に応
じた精度の高い初期モデルを決定することができるとと
もに、不必要なパラメータの増加を押さえることができ
る。
ルと適応学習用データを用いて、最大事後確率推定法に
よって話者モデルのパラメータを再推定し、話者適応を
行う装置において、多数の話者から作成した多数（Ｎ
個）の話者モデルを事前に用意し、それらの多数の話者
モデルの中から、適応対象の話者に距離的に近いＭ個の
話者モデルを選択し、そうして選択されたＭ個の話者モ
デルを混合して初期の話者モデルを構成することを特徴
とする。また、そのとき、個数Ｍ（Ｍ＜＜Ｎ）を適応対
象話者と事前に用意されたＮ個の個々の話者モデルとの
距離の関係に基づいて決定する。これにより、分布に応
じた精度の高い初期モデルを決定することができるとと
もに、不必要なパラメータの増加を押さえることができ
る。
【００１８】この構成においては、混合するＮ個の話者
モデルは、適応対象話者の特徴ベクトルとの距離に応じ
て、重み付けされるようにしてもよい。
モデルは、適応対象話者の特徴ベクトルとの距離に応じ
て、重み付けされるようにしてもよい。
【００１９】また、適応対象の話者と距離的に最も近い
話者モデルとの距離を基底距離とするとき、適応対象の
話者との距離が前記基底距離と比較して一定範囲以内で
ある話者モデルを選択することにより、混合する話者モ
デルの個数Ｎを可変とするようにしてもよい。
話者モデルとの距離を基底距離とするとき、適応対象の
話者との距離が前記基底距離と比較して一定範囲以内で
ある話者モデルを選択することにより、混合する話者モ
デルの個数Ｎを可変とするようにしてもよい。
【００２０】また、本発明は方法としても実現でき、ま
た少なくともその一部をコンピュータプログラム製品と
しても実現できる。
た少なくともその一部をコンピュータプログラム製品と
しても実現できる。
【００２１】
【発明の実施の態様】以下、本発明の実施例について説
明する。
明する。
【００２２】図２は、本発明による話者適応装置とそれ
を用いた音声認識システムの実施例をブロック図で示し
たものである。音声認識システムは、入力された音声を
音響解析部１０で分析し、特徴パラメータ・ベクトルの
系列を抽出する。抽出した特徴パラメータ・ベクトルの
系列を、音韻照合部１１において、言語モデル１４から
の粗い情報を参照しながら、音声モデル１３と照合し、
複数の音韻系列の候補を作成する。こうしてできた複数
の音韻系列の候補を、言語認識部１２で言語モデル１４
からの細かい情報を使って再評価し、最終的な認識結果
を確定する。上記の話者に適応した音声モデル１３を作
る手段が本発明による話者適応化装置であり、その方法
と構成を以下に述べる。
を用いた音声認識システムの実施例をブロック図で示し
たものである。音声認識システムは、入力された音声を
音響解析部１０で分析し、特徴パラメータ・ベクトルの
系列を抽出する。抽出した特徴パラメータ・ベクトルの
系列を、音韻照合部１１において、言語モデル１４から
の粗い情報を参照しながら、音声モデル１３と照合し、
複数の音韻系列の候補を作成する。こうしてできた複数
の音韻系列の候補を、言語認識部１２で言語モデル１４
からの細かい情報を使って再評価し、最終的な認識結果
を確定する。上記の話者に適応した音声モデル１３を作
る手段が本発明による話者適応化装置であり、その方法
と構成を以下に述べる。
【００２３】この実施例では、まず、事前に多数の話者
の音声を収集し、図示していない、音響解析部１０と同
等の音響解析手段を使って、適応対象話者と独立した多
数の話者モデルの集合１７を用意しておく。つまり、Ｎ
人の話者の音声を収集することにより、Ｎ個の分布を予
め計算して用意しておく。図３は、これらの多数の話者
モデルの特徴パラメータベクトルの出力確率分布を模式
的に破線で示したものである。説明の都合上、特徴パラ
メータベクトルを２次元として表示しているが、この特
徴パラメータベクトルは、実際には３０次元程度の多次
元ベクトルとするのが普通である。各話者モデルは、図
３に示すように、相互に重なり合いながら、多次元空間
内に分布している。次に、話者適応のために、適応対象
の話者の音声を入力し、音響解析部１０で分析して適応
対象話者の特徴パラメータベクトルの分布を求め、適応
用サンプル・データ１６として保存する。図４は、この
適応用サンプル・データから得られた適応対象話者の特
徴パラメータベクトルの出力確率の分布の様子の例を実
線で示したもので、先に求めた多数の特定話者モデルの
分布との関係を示したものである。以上のようにして適
応対象の話者モデルと多数（Ｎ個）の話者モデルとを決
定しておき、適応モデル作成部１５において、適応化し
た音声モデル１３を作成する。それは次の手順で行う。
適応モデル作成部１５では、まず適応用サンプル・デー
タ１６として保存されている適応対象の話者モデルと話
者モデルの集合１７として保存されている多数（Ｎ個）
の話者モデルとの間の距離を測定する。話者モデルとし
て、多変量のガウス分布を仮定すると、この距離として
は、適応対象の話者モデルの中心ベクトルと特定話者モ
デルとのマハラノビス距離を用いることができる。この
距離を使って、適応対象の話者モデルとの距離が近い順
にＭ個の話者モデルを選ぶ。図４は、Ｍを３とした場合
について、適応対象の話者モデルの最近傍にある、ｎ番
目、ｎ＋１番目とｎ＋２番目のモデルが選ばれる様子を
説明している。こうして、Ｍ個の話者モデルが選択でき
ると、それらの重み付き加算値として初期のモデルを決
定する。
の音声を収集し、図示していない、音響解析部１０と同
等の音響解析手段を使って、適応対象話者と独立した多
数の話者モデルの集合１７を用意しておく。つまり、Ｎ
人の話者の音声を収集することにより、Ｎ個の分布を予
め計算して用意しておく。図３は、これらの多数の話者
モデルの特徴パラメータベクトルの出力確率分布を模式
的に破線で示したものである。説明の都合上、特徴パラ
メータベクトルを２次元として表示しているが、この特
徴パラメータベクトルは、実際には３０次元程度の多次
元ベクトルとするのが普通である。各話者モデルは、図
３に示すように、相互に重なり合いながら、多次元空間
内に分布している。次に、話者適応のために、適応対象
の話者の音声を入力し、音響解析部１０で分析して適応
対象話者の特徴パラメータベクトルの分布を求め、適応
用サンプル・データ１６として保存する。図４は、この
適応用サンプル・データから得られた適応対象話者の特
徴パラメータベクトルの出力確率の分布の様子の例を実
線で示したもので、先に求めた多数の特定話者モデルの
分布との関係を示したものである。以上のようにして適
応対象の話者モデルと多数（Ｎ個）の話者モデルとを決
定しておき、適応モデル作成部１５において、適応化し
た音声モデル１３を作成する。それは次の手順で行う。
適応モデル作成部１５では、まず適応用サンプル・デー
タ１６として保存されている適応対象の話者モデルと話
者モデルの集合１７として保存されている多数（Ｎ個）
の話者モデルとの間の距離を測定する。話者モデルとし
て、多変量のガウス分布を仮定すると、この距離として
は、適応対象の話者モデルの中心ベクトルと特定話者モ
デルとのマハラノビス距離を用いることができる。この
距離を使って、適応対象の話者モデルとの距離が近い順
にＭ個の話者モデルを選ぶ。図４は、Ｍを３とした場合
について、適応対象の話者モデルの最近傍にある、ｎ番
目、ｎ＋１番目とｎ＋２番目のモデルが選ばれる様子を
説明している。こうして、Ｍ個の話者モデルが選択でき
ると、それらの重み付き加算値として初期のモデルを決
定する。
【００２４】なお、この時の重みをこれらの距離に基づ
いて決定することができる。
いて決定することができる。
【００２５】また、混合するモデルの個数Ｍを固定値と
せず、分布に応じて変化させるようにしてもよい。初期
モデルの候補として選択するモデルが不確かな場合は、
混合するモデルの個数Ｍを多くし、確かな場合は混合す
るモデルの個数Ｍを少なくする。そのために、適応対象
の話者モデルの中心ベクトルとＮ個の特定話者モデルと
のマハラノビス距離を測定し、その距離が、全モデルに
対する距離の中で最も短いものと比べてある一定範囲内
であるモデルを選ぶ。そうして選ばれたモデルの個数を
Ｍ 個であるとき、先の例と同様にしてＭ 個のモデル
の重み付き加算による混合で初期のモデルを作成する。
このときも、先の例と同様に、重みはこれらの距離に基
づいて決定することができる。こうすることによって、
曖昧性が強い、不確かな初期モデルの候補に関しては、
混合数を多くして細かいモデルを作成し、逆に、曖昧性
が低く、確度の高い初期モデルの候補に関しては、混合
数を少なくして計算量を削減したモデルを作ることがで
きる。上記の一定範囲内としては、適応対象の話者モデ
ルの中心ベクトルと全モデルに対する距離の中で最も短
いものをＤminとするとき、その距離とＤminの比が一定
値以下のもの、或いは、その距離とＤminの差が一定値
以下のものを選べばよい。
せず、分布に応じて変化させるようにしてもよい。初期
モデルの候補として選択するモデルが不確かな場合は、
混合するモデルの個数Ｍを多くし、確かな場合は混合す
るモデルの個数Ｍを少なくする。そのために、適応対象
の話者モデルの中心ベクトルとＮ個の特定話者モデルと
のマハラノビス距離を測定し、その距離が、全モデルに
対する距離の中で最も短いものと比べてある一定範囲内
であるモデルを選ぶ。そうして選ばれたモデルの個数を
Ｍ 個であるとき、先の例と同様にしてＭ 個のモデル
の重み付き加算による混合で初期のモデルを作成する。
このときも、先の例と同様に、重みはこれらの距離に基
づいて決定することができる。こうすることによって、
曖昧性が強い、不確かな初期モデルの候補に関しては、
混合数を多くして細かいモデルを作成し、逆に、曖昧性
が低く、確度の高い初期モデルの候補に関しては、混合
数を少なくして計算量を削減したモデルを作ることがで
きる。上記の一定範囲内としては、適応対象の話者モデ
ルの中心ベクトルと全モデルに対する距離の中で最も短
いものをＤminとするとき、その距離とＤminの比が一定
値以下のもの、或いは、その距離とＤminの差が一定値
以下のものを選べばよい。
【００２６】以下に具体例について詳しく述べる。
【００２７】［具体例１］ここでは、連続音声認識に対
応した話者適応方式を例として示す。連続音声認識のた
めには、認識の単位となる音声の単位を音素レベルとす
るのが適当である。そこで、ここでは、音素毎にＨＭＭ
を作成する。ＨＭＭの作成は、音声データを使ってＨＭ
Ｍのパラメータを決定する訓練と呼ばれる手続きを実行
することにより行われる。連続的に発声された発声デー
タを用いて音素レベルのＨＭＭを訓練するには、発声さ
れた音素列に関して、先行する音素のＨＭＭの最終状態
を後続する音素のＨＭＭの初期状態につなげて訓練を行
う。
応した話者適応方式を例として示す。連続音声認識のた
めには、認識の単位となる音声の単位を音素レベルとす
るのが適当である。そこで、ここでは、音素毎にＨＭＭ
を作成する。ＨＭＭの作成は、音声データを使ってＨＭ
Ｍのパラメータを決定する訓練と呼ばれる手続きを実行
することにより行われる。連続的に発声された発声デー
タを用いて音素レベルのＨＭＭを訓練するには、発声さ
れた音素列に関して、先行する音素のＨＭＭの最終状態
を後続する音素のＨＭＭの初期状態につなげて訓練を行
う。
【００２８】本発明を実施するためには、事前に多数の
話者からの発声データを収集し、認識単位となる音声単
位毎にＨＭＭを作成する必要がある。音声信号のような
時間とともに連続的に変化する信号をモデル化するに
は、前述したように、左から右に状態が遷移する、所謂
ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型のＨＭＭが適当であるの
で、図１のような、例えば４状態のＨＭＭを使用する。
図１において、１，２，３，４は状態を表し、ａ
ij（ｉ，ｊ＝１，…４）は、状態ｉから状態ｊに遷移す
る確率を示している。状態ｊにおいて、モデルから観測
される事象をｂj（ｏ）であらわす。この観測事象の対
象である音声の特徴パラメータベクトルは、連続信号で
あるので、ｂj（ｏ）は以下のような連続確率密度関数
で表すことができる。
話者からの発声データを収集し、認識単位となる音声単
位毎にＨＭＭを作成する必要がある。音声信号のような
時間とともに連続的に変化する信号をモデル化するに
は、前述したように、左から右に状態が遷移する、所謂
ｌｅｆｔ−ｔｏ−ｒｉｇｈｔ型のＨＭＭが適当であるの
で、図１のような、例えば４状態のＨＭＭを使用する。
図１において、１，２，３，４は状態を表し、ａ
ij（ｉ，ｊ＝１，…４）は、状態ｉから状態ｊに遷移す
る確率を示している。状態ｊにおいて、モデルから観測
される事象をｂj（ｏ）であらわす。この観測事象の対
象である音声の特徴パラメータベクトルは、連続信号で
あるので、ｂj（ｏ）は以下のような連続確率密度関数
で表すことができる。
【００２９】
【数２】 ここで、ｏは観測ベクトル、Ｎ［…］は、平均値ベクト
ルμj、分散・共分散行列Σjのガウス分布関数である。
ルμj、分散・共分散行列Σjのガウス分布関数である。
【００３０】個々のモデルにおけるパラメータ、ａ
ij（ｉ，ｊ＝１，…４）やｂj（ｏ）（ｊ＝１，…４）
は、公知のＢａｕｍ−Ｗｅｌｃｈ法を使った繰り返し計
算により求めることができる。このＢａｕｍ−Ｗｅｌｃ
ｈ法による再推定については、例えば、文献、Ｌａｗｒ
ｅｎｃｅ Ｒａｂｉｎｅｒ，Ｂｉｉｎｇ−Ｈｗａｎｇ
Ｊｕａｎｇ，”Ｆｕｎｄａｍｅｎｔａｌｓ ｏｆ Ｓｐ
ｅｅｃｈ Ｒｅｃｏｇｎｉｔｉｏｎ”，Ｐｒｅｎｔｉｃ
ｅ Ｈａｌｌ ＰＴＲ９３で詳しく述べられている。そ
の概要を示すと以下の通りである。Ｂａｕｍ−Ｗｅｌｃ
ｈ法では、
ij（ｉ，ｊ＝１，…４）やｂj（ｏ）（ｊ＝１，…４）
は、公知のＢａｕｍ−Ｗｅｌｃｈ法を使った繰り返し計
算により求めることができる。このＢａｕｍ−Ｗｅｌｃ
ｈ法による再推定については、例えば、文献、Ｌａｗｒ
ｅｎｃｅ Ｒａｂｉｎｅｒ，Ｂｉｉｎｇ−Ｈｗａｎｇ
Ｊｕａｎｇ，”Ｆｕｎｄａｍｅｎｔａｌｓ ｏｆ Ｓｐ
ｅｅｃｈ Ｒｅｃｏｇｎｉｔｉｏｎ”，Ｐｒｅｎｔｉｃ
ｅ Ｈａｌｌ ＰＴＲ９３で詳しく述べられている。そ
の概要を示すと以下の通りである。Ｂａｕｍ−Ｗｅｌｃ
ｈ法では、
【００３１】
【数３】 として、パラメータを再推定し、推定されたパラメータ
を入れ替えて推定の計算を繰り返しすることにより、ｏ
が観測される確率が極大となるようなモデルを作成する
ことができる。
を入れ替えて推定の計算を繰り返しすることにより、ｏ
が観測される確率が極大となるようなモデルを作成する
ことができる。
【００３２】このとき、ｂj（ｏ）として、式（２）の
ようなガウス分布を仮定すると、μj、Σjに対する再推
定の式は、
ようなガウス分布を仮定すると、μj、Σjに対する再推
定の式は、
【００３３】
【数４】 となる。ここで、γt（ｊ）は、観測系列ｏとモデルが
与えられたとき、時刻ｔにおいて状態ｊに存在する確率
である。以上のようにして、事前に作成しておく、複数
の話者のモデルが決定する。
与えられたとき、時刻ｔにおいて状態ｊに存在する確率
である。以上のようにして、事前に作成しておく、複数
の話者のモデルが決定する。
【００３４】適応は、以下のステップで行う。まず、適
応対象話者から適応学習用の音声データを収集する。そ
して、これらの適応用学習データに含まれる各音素のＨ
ＭＭについて、上述した方法に従い、パラメータを決定
する。そのとき、ビタビ・セグメンテーションにより、
音素のＨＭＭの各状態に対応するフレームが決まってい
るので、それによって、適応学習用データのサンプル数
が求められる。
応対象話者から適応学習用の音声データを収集する。そ
して、これらの適応用学習データに含まれる各音素のＨ
ＭＭについて、上述した方法に従い、パラメータを決定
する。そのとき、ビタビ・セグメンテーションにより、
音素のＨＭＭの各状態に対応するフレームが決まってい
るので、それによって、適応学習用データのサンプル数
が求められる。
【００３５】次に、学習データから得られた、適応対象
話者のモデルと、事前に得られている多数の話者モデル
との距離を計算する。この距離としては、平均値ベクト
ルと話者モデルとのマハラノビス距離を使う。
話者のモデルと、事前に得られている多数の話者モデル
との距離を計算する。この距離としては、平均値ベクト
ルと話者モデルとのマハラノビス距離を使う。
【００３６】あるｋ番目の話者モデルのｊ番目の状態の
分布の平均値ベクトルがμkj、分散・共分散行列がΣkj
であるとし、適応対象話者のｊ番目の状態の平均値ベク
トルμjとこのｋ番目のモデルのマハラノビス距離をＤ
kjとするとき、Ｄkjの二乗は
分布の平均値ベクトルがμkj、分散・共分散行列がΣkj
であるとし、適応対象話者のｊ番目の状態の平均値ベク
トルμjとこのｋ番目のモデルのマハラノビス距離をＤ
kjとするとき、Ｄkjの二乗は
【００３７】
【数５】 で求められる。ここで、Σkj -1は、分散・共分散行列
Σkjの逆行列、（μkj−μj）tはベクトル（μkj−
μj）の転置ベクトルである。
Σkjの逆行列、（μkj−μj）tはベクトル（μkj−
μj）の転置ベクトルである。
【００３８】すべての話者モデルに対してマハラノビス
距離Ｄkjを計算し、距離の近い方からＭ個の話者のモデ
ルを選択する。図４は、これを説明するために、Ｍが３
のときの様子を示したもので、距離の近い方から３つの
モデル、ｎ、ｎ＋１、ｎ＋２が選ばれている。但し、状
態に関する添字は省略している。
距離Ｄkjを計算し、距離の近い方からＭ個の話者のモデ
ルを選択する。図４は、これを説明するために、Ｍが３
のときの様子を示したもので、距離の近い方から３つの
モデル、ｎ、ｎ＋１、ｎ＋２が選ばれている。但し、状
態に関する添字は省略している。
【００３９】さて、この選択されたＭ個の話者モデルの
中の、ｍ（１≦ｍ≦Ｍ）番目の話者モデルの特徴ベクト
ルを考える。そしてその特徴ベクトルのある要素の平均
をμmj、その分散をτmj 2とする。 今、特徴ベクト
ルの要素の平均μjが、事前分布Ｐ0（μ）を持ち、その
分散σj 2が既知の固定値であるとする。そうすると、
μjに対する共役な事前分布は、ガウス分布となる。そ
こで、ｍ（１≦ｍ≦Ｍ）番目の話者モデルを平均に対す
る共役事前分布とすると、最大事後確率推定法により、
平均の推定値μmj MAPは、
中の、ｍ（１≦ｍ≦Ｍ）番目の話者モデルの特徴ベクト
ルを考える。そしてその特徴ベクトルのある要素の平均
をμmj、その分散をτmj 2とする。 今、特徴ベクト
ルの要素の平均μjが、事前分布Ｐ0（μ）を持ち、その
分散σj 2が既知の固定値であるとする。そうすると、
μjに対する共役な事前分布は、ガウス分布となる。そ
こで、ｍ（１≦ｍ≦Ｍ）番目の話者モデルを平均に対す
る共役事前分布とすると、最大事後確率推定法により、
平均の推定値μmj MAPは、
【００４０】
【数６】 で与えられる。ここで、ｎはサンプルの個数である。
【００４１】つまり、ｍ（１≦ｍ≦Ｍ）番目の話者モデ
ルを初期モデルとした、特徴ベクトルのある要素の平均
の推定値はμmj MAP、事前分布の平均値μmjと、適応
学習において観測されたサンプルの平均ｏmの重み付き
平均となる。
ルを初期モデルとした、特徴ベクトルのある要素の平均
の推定値はμmj MAP、事前分布の平均値μmjと、適応
学習において観測されたサンプルの平均ｏmの重み付き
平均となる。
【００４２】そこで、ｍ番目の話者モデルに対して得ら
れた推定値を用いて、適応対象話者に対するモデルは、
次の形で与えられる。
れた推定値を用いて、適応対象話者に対するモデルは、
次の形で与えられる。
【００４３】
【数７】 ここで、ｃmjは、話者モデルのｊ番目の状態における、
ｍ番目の話者に対する重みの係数で、これは、前記の過
程の中で計算されている距離に基づいて決定することが
できる。つまり、
ｍ番目の話者に対する重みの係数で、これは、前記の過
程の中で計算されている距離に基づいて決定することが
できる。つまり、
【００４４】
【数８】 とすればよい。このとき、あきらかに
【００４５】
【数９】 であり、（９）のは統計的制約を満足するように決定さ
れている。
れている。
【００４６】［具体例２］具体例１では、モデルの混合
数Ｍを固定したが、このＭの値をモデルの分布に応じて
変化させることにより、計算コストに対して適応能力が
高い、効率的なモデルを作成する事ができる。つまり、
適応対象の話者モデルの中心ベクトルと事前に用意され
ている多数の特定話者モデルとの距離の分布が、状態ご
とに違い、一様ではないときには、その確からしさに応
じて、Ｍの値を変化させるのである。例えば、適応対象
の話者モデルの中心ベクトルと事前に用意されている多
数の話者モデルとの距離が、それぞれの話者モデル間で
大きく異なり、少数の話者モデルのみに近いときには、
それらのモデルのみを混合する分布として利用すれば十
分であり、そうすることにより、無駄なパラメータの増
加を防ぐことができるからである。
数Ｍを固定したが、このＭの値をモデルの分布に応じて
変化させることにより、計算コストに対して適応能力が
高い、効率的なモデルを作成する事ができる。つまり、
適応対象の話者モデルの中心ベクトルと事前に用意され
ている多数の特定話者モデルとの距離の分布が、状態ご
とに違い、一様ではないときには、その確からしさに応
じて、Ｍの値を変化させるのである。例えば、適応対象
の話者モデルの中心ベクトルと事前に用意されている多
数の話者モデルとの距離が、それぞれの話者モデル間で
大きく異なり、少数の話者モデルのみに近いときには、
それらのモデルのみを混合する分布として利用すれば十
分であり、そうすることにより、無駄なパラメータの増
加を防ぐことができるからである。
【００４７】具体例２では、適応対象話者のモデルと事
前に得られている多数の話者モデルとのマハラノビス距
離Ｄkをとり、それに基づいて混合数を決定する。本発
明を実施するためには、まず、具体例１と同様にして、
事前に多数の話者からの発声データを収集し、認識単位
となる音声単位毎に多数の話者のＨＭＭを作成する。次
に、適応対象話者から適応用学習用の音声データを収集
し、適応用学習データに含まれる各音素のＨＭＭについ
て、モデルのパラメータを決定する。そうして、こうし
て得られた適応対象話者のモデルと、多数の話者モデル
との距離を計算する。距離としては、マハラノビス距離
を使う。この具体例２では、適応対象話者のモデルと、
多数の話者モデルとの距離のうち最少のものを
前に得られている多数の話者モデルとのマハラノビス距
離Ｄkをとり、それに基づいて混合数を決定する。本発
明を実施するためには、まず、具体例１と同様にして、
事前に多数の話者からの発声データを収集し、認識単位
となる音声単位毎に多数の話者のＨＭＭを作成する。次
に、適応対象話者から適応用学習用の音声データを収集
し、適応用学習データに含まれる各音素のＨＭＭについ
て、モデルのパラメータを決定する。そうして、こうし
て得られた適応対象話者のモデルと、多数の話者モデル
との距離を計算する。距離としては、マハラノビス距離
を使う。この具体例２では、適応対象話者のモデルと、
多数の話者モデルとの距離のうち最少のものを
【００４８】
【数１０】 とするとき、Ｄminと比較して規定の範囲の距離Ｄkをも
つモデルｋのみを混合する要素として選択する。
つモデルｋのみを混合する要素として選択する。
【００４９】この様子を図で説明すると以下のようにな
る。例えば、図５のように、モデルｎに対する距離Ｄn
が最少であり、モデルｎ＋１、モデルｎ＋２に対する距
離Ｄn+1、Ｄn+2がその最少距離と比較してある範囲以内
であれば、モデルｎ、モデルｎ＋１、モデルｎ＋２の３
つのモデルが、混合するモデルとして選ばれる。また、
例えば、図６のように、モデルｎに対する距離が最少で
あり、モデルｎ＋１に対する距離はと比較してある範囲
以内あるが、その次に近いモデルｎ＋２に対する距離が
と比較してある範囲以内になければ、モデルｎとモデル
ｎ＋１の２つのモデルのみが混合するモデルとして選択
される。
る。例えば、図５のように、モデルｎに対する距離Ｄn
が最少であり、モデルｎ＋１、モデルｎ＋２に対する距
離Ｄn+1、Ｄn+2がその最少距離と比較してある範囲以内
であれば、モデルｎ、モデルｎ＋１、モデルｎ＋２の３
つのモデルが、混合するモデルとして選ばれる。また、
例えば、図６のように、モデルｎに対する距離が最少で
あり、モデルｎ＋１に対する距離はと比較してある範囲
以内あるが、その次に近いモデルｎ＋２に対する距離が
と比較してある範囲以内になければ、モデルｎとモデル
ｎ＋１の２つのモデルのみが混合するモデルとして選択
される。
【００５０】この最少距離と比較してある範囲を決定す
る方法としては、モデルｋとの距離Ｄkと最少距離Ｄmin
との比が、一定値δ以下である、つまり
る方法としては、モデルｋとの距離Ｄkと最少距離Ｄmin
との比が、一定値δ以下である、つまり
【００５１】
【数１１】 なるｋ番目のモデルを選択するのが一つの方法である。
【００５２】また、モデルｋとの距離Ｄkと最少距離Ｄ
minとの差が一定値δ’以下である、つまり
minとの差が一定値δ’以下である、つまり
【００５３】
【数１２】 なるｋ番目のモデルを選択する事もできる。
【００５４】いずれかの方法で、選択されたモデルの個
数をＭ’とするとき、それらの選択された話者モデルに
対して得られた推定値を用いて、適応対象話者に対する
モデルは、具体例１の場合と同様にして次の形で与えら
れる。
数をＭ’とするとき、それらの選択された話者モデルに
対して得られた推定値を用いて、適応対象話者に対する
モデルは、具体例１の場合と同様にして次の形で与えら
れる。
【００５５】
【数１３】 ここで、ｃmjは、話者モデルのｊ番目の状態における、
番目の話者に対する重みの係数で、これは、前記の過程
の中で計算されている距離に基づいて決定することがで
きる。つまり、
番目の話者に対する重みの係数で、これは、前記の過程
の中で計算されている距離に基づいて決定することがで
きる。つまり、
【００５６】
【数１４】 とすればよい。
【００５７】
【発明の効果】本発明は、事前に仮定した初期話者モデ
ルと適応学習用データを用いて、最大事後確率推定法に
よって話者モデルのパラメータを再推定し、話者適応を
行う装置において、初期話者モデルとして適応対象の話
者の特性にできるだけ近いと考えられる予測分布を仮定
しようとするものである。初期話者モデルに適応対象の
話者の特性にできるだけ近い予測分布を用いることによ
り、少量の適応学習用データで精度の高いモデルのパラ
メータ推定が行われ、良好な話者適応が実現する。本発
明では、事前に得られている多数の特定話者モデルと適
応対象話者の距離を測定し、距離的に近いＮ個のモデル
を選択的に用いることによりこの作用を効果的に発現さ
せる方法を開示しており、これにより高い適応性を実現
する事ができる。
ルと適応学習用データを用いて、最大事後確率推定法に
よって話者モデルのパラメータを再推定し、話者適応を
行う装置において、初期話者モデルとして適応対象の話
者の特性にできるだけ近いと考えられる予測分布を仮定
しようとするものである。初期話者モデルに適応対象の
話者の特性にできるだけ近い予測分布を用いることによ
り、少量の適応学習用データで精度の高いモデルのパラ
メータ推定が行われ、良好な話者適応が実現する。本発
明では、事前に得られている多数の特定話者モデルと適
応対象話者の距離を測定し、距離的に近いＮ個のモデル
を選択的に用いることによりこの作用を効果的に発現さ
せる方法を開示しており、これにより高い適応性を実現
する事ができる。
【００５８】また、本発明では、距離的に近いＭ個のモ
デルを選択するときに、モデルとの距離の相対的な関係
により、選択するモデルの個数Ｍを変化させる方法を開
示している。これは、仮定する予測分布の分布に応じて
最適な混合モデルを選択するもので、これにより、最良
の適応能力が発揮されるとともに、計算処理量も減少す
るという効果もある。
デルを選択するときに、モデルとの距離の相対的な関係
により、選択するモデルの個数Ｍを変化させる方法を開
示している。これは、仮定する予測分布の分布に応じて
最適な混合モデルを選択するもので、これにより、最良
の適応能力が発揮されるとともに、計算処理量も減少す
るという効果もある。
【図１】 ＨＭＭの例を示す模式図である。
【図２】 本発明の実施例を示すブロック図である。
【図３】 多数の特定話者モデルの分布の例を示す図で
ある。
ある。
【図４】 学習データから得られる適応対象話者の分布
の例を示す図である。
の例を示す図である。
【図５】 適応対象話者モデルの最近傍にある特定話者
モデルの分布の例を示す図である。
モデルの分布の例を示す図である。
【図６】 適応対象話者モデルの最近傍にある特定話者
モデルの分布の他の例を示す図である。
モデルの分布の他の例を示す図である。
１〜４ ＨＭＭの状態 １０ 音響解析部 １１ 音韻照合部 １２ 言語認識部 １３ 音声モデル １４ 言語モデル １５ 適応モデル作成部 １６ 適応用サンプル・データ １７ 特定話者モデルの集合 ２０ 多数の話者の特徴ベクトルの分布 ２１ 適応対象話者の特徴ベクトルの分布
Claims (4)
- 【請求項１】 初期話者モデルと適応学習用データとを
用いて、最大事後確率推定法によって話者モデルのパラ
メータを再推定し、話者適応を行う話者適応装置におい
て、事前に、多数の話者から多数の初期話者モデルを作
成し、適応対象の話者が発声した適応用学習データか
ら、その適応対象話者の特徴を抽出し、前記多数の初期
話者モデルの中から、前記適応対象話者の特徴に距離的
に最も近い方からＮ個の話者モデルを選択し、選択され
たＮ個の話者モデルの各々を事前に仮定された分布とし
て、適応用学習データを使って話者モデルのパラメータ
を推定し、その推定されたパラメータを持つＮ個の話者
モデルを混合加算することにより適応対象話者の音声モ
デルを作成することを特徴とする話者適応装置。 - 【請求項２】 混合するＮ個の話者モデルは、適応対象
話者の特徴ベクトルとの距離に応じて、重み付けされる
ことを特徴とする請求項１記載の話者適応装置。 - 【請求項３】 適応対象の話者と距離的に最も近い話者
モデルとの距離を基底距離とするとき、適応対象の話者
との距離が前記基底距離と比較して一定範囲以内である
話者モデルを選択することにより、混合する話者モデル
の個数Ｎを可変とすることを特徴とする請求項１または
２記載の話者適応装置。 - 【請求項４】 初期話者モデルと適応学習用データとを
用いて、最大事後確率推定法によって話者モデルのパラ
メータを再推定し、話者適応を行う話者適応方法におい
て、事前に、多数の話者から多数の初期話者モデルを作
成し、適応対象の話者が発声した適応用学習データか
ら、その適応対象話者の特徴を抽出し、前記多数の初期
話者モデルの中から、前記適応対象話者の特徴に距離的
に最も近い方からＮ個の話者モデルを選択し、選択され
たＮ個の話者モデルの各々を事前に仮定された分布とし
て、適応用学習データを使って話者モデルのパラメータ
を推定し、その推定されたパラメータを持つＮ個の話者
モデルを混合加算することにより適応対象話者の音声モ
デルを作成することを特徴とする話者適応方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP9306887A JPH11143486A (ja) | 1997-11-10 | 1997-11-10 | 話者適応装置および方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP9306887A JPH11143486A (ja) | 1997-11-10 | 1997-11-10 | 話者適応装置および方法 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH11143486A true JPH11143486A (ja) | 1999-05-28 |
Family
ID=17962457
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP9306887A Pending JPH11143486A (ja) | 1997-11-10 | 1997-11-10 | 話者適応装置および方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH11143486A (ja) |
Cited By (10)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| WO2004047076A1 (ja) * | 2002-11-21 | 2004-06-03 | Matsushita Electric Industrial Co., Ltd. | 標準モデル作成装置及び標準モデル作成方法 |
| JP2004317845A (ja) * | 2003-04-17 | 2004-11-11 | Nagoya Industrial Science Research Inst | モデルデータ生成装置、モデルデータ生成方法、およびこれらの方法 |
| WO2005048239A1 (ja) * | 2003-11-12 | 2005-05-26 | Honda Motor Co., Ltd. | 音声認識装置 |
| JP2006031716A (ja) * | 2004-07-21 | 2006-02-02 | Microsoft Corp | 指数モデルの適合 |
| US7437288B2 (en) | 2001-03-13 | 2008-10-14 | Nec Corporation | Speech recognition apparatus |
| WO2009057739A1 (ja) * | 2007-10-31 | 2009-05-07 | Nec Corporation | 話者選択装置、話者適応モデル作成装置、話者選択方法および話者選択用プログラム |
| JP2009300716A (ja) * | 2008-06-13 | 2009-12-24 | Nippon Telegr & Teleph Corp <Ntt> | 音声認識装置とその方法と、プログラムとその記録媒体 |
| JP2011048163A (ja) * | 2009-08-27 | 2011-03-10 | National Institute Of Information & Communication Technology | 音響モデルの話者適応装置及びそのためのコンピュータプログラム |
| JP2014517602A (ja) * | 2011-05-16 | 2014-07-17 | タッチタイプ リミテッド | ユーザ入力予測 |
| CN111243574A (zh) * | 2020-01-13 | 2020-06-05 | 苏州奇梦者网络科技有限公司 | 一种语音模型自适应训练方法、系统、装置及存储介质 |
-
1997
- 1997-11-10 JP JP9306887A patent/JPH11143486A/ja active Pending
Cited By (17)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US7437288B2 (en) | 2001-03-13 | 2008-10-14 | Nec Corporation | Speech recognition apparatus |
| US7603276B2 (en) | 2002-11-21 | 2009-10-13 | Panasonic Corporation | Standard-model generation for speech recognition using a reference model |
| WO2004047076A1 (ja) * | 2002-11-21 | 2004-06-03 | Matsushita Electric Industrial Co., Ltd. | 標準モデル作成装置及び標準モデル作成方法 |
| JP2004317845A (ja) * | 2003-04-17 | 2004-11-11 | Nagoya Industrial Science Research Inst | モデルデータ生成装置、モデルデータ生成方法、およびこれらの方法 |
| WO2005048239A1 (ja) * | 2003-11-12 | 2005-05-26 | Honda Motor Co., Ltd. | 音声認識装置 |
| JPWO2005048239A1 (ja) * | 2003-11-12 | 2007-11-29 | 本田技研工業株式会社 | 音声認識装置 |
| JP4516527B2 (ja) * | 2003-11-12 | 2010-08-04 | 本田技研工業株式会社 | 音声認識装置 |
| JP2006031716A (ja) * | 2004-07-21 | 2006-02-02 | Microsoft Corp | 指数モデルの適合 |
| JPWO2009057739A1 (ja) * | 2007-10-31 | 2011-03-10 | 日本電気株式会社 | 話者選択装置、話者適応モデル作成装置、話者選択方法および話者選択用プログラム |
| WO2009057739A1 (ja) * | 2007-10-31 | 2009-05-07 | Nec Corporation | 話者選択装置、話者適応モデル作成装置、話者選択方法および話者選択用プログラム |
| JP2009300716A (ja) * | 2008-06-13 | 2009-12-24 | Nippon Telegr & Teleph Corp <Ntt> | 音声認識装置とその方法と、プログラムとその記録媒体 |
| JP2011048163A (ja) * | 2009-08-27 | 2011-03-10 | National Institute Of Information & Communication Technology | 音響モデルの話者適応装置及びそのためのコンピュータプログラム |
| JP2014517602A (ja) * | 2011-05-16 | 2014-07-17 | タッチタイプ リミテッド | ユーザ入力予測 |
| US9639266B2 (en) | 2011-05-16 | 2017-05-02 | Touchtype Limited | User input prediction |
| US10416885B2 (en) | 2011-05-16 | 2019-09-17 | Touchtype Limited | User input prediction |
| CN111243574A (zh) * | 2020-01-13 | 2020-06-05 | 苏州奇梦者网络科技有限公司 | 一种语音模型自适应训练方法、系统、装置及存储介质 |
| CN111243574B (zh) * | 2020-01-13 | 2023-01-03 | 苏州奇梦者网络科技有限公司 | 一种语音模型自适应训练方法、系统、装置及存储介质 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| US6697778B1 (en) | Speaker verification and speaker identification based on a priori knowledge | |
| KR100612840B1 (ko) | 모델 변이 기반의 화자 클러스터링 방법, 화자 적응 방법및 이들을 이용한 음성 인식 장치 | |
| JP2871561B2 (ja) | 不特定話者モデル生成装置及び音声認識装置 | |
| US6493667B1 (en) | Enhanced likelihood computation using regression in a speech recognition system | |
| JP4109063B2 (ja) | 音声認識装置及び音声認識方法 | |
| JP4141495B2 (ja) | 最適化された部分的確率混合共通化を用いる音声認識のための方法および装置 | |
| EP0617827B1 (en) | Composite expert | |
| Huo et al. | On-line adaptive learning of the correlated continuous density hidden Markov models for speech recognition | |
| EP0706171A1 (en) | Speech recognition method and apparatus | |
| US5956676A (en) | Pattern adapting apparatus using minimum description length criterion in pattern recognition processing and speech recognition system | |
| EP0862162A2 (en) | Speech recognition using nonparametric speech models | |
| Hazen | A comparison of novel techniques for rapid speaker adaptation | |
| Diakoloukas et al. | Maximum-likelihood stochastic-transformation adaptation of hidden Markov models | |
| US20040122672A1 (en) | Gaussian model-based dynamic time warping system and method for speech processing | |
| JP2751856B2 (ja) | 木構造を用いたパターン適応化方式 | |
| JPH11143486A (ja) | 話者適応装置および方法 | |
| EP1178467B1 (en) | Speaker verification and identification | |
| JP3525082B2 (ja) | 統計モデル作成方法 | |
| Hochberg et al. | Connectionist model combination for large vocabulary speech recognition | |
| Siu et al. | Parametric trajectory mixtures for LVCSR. | |
| Ming et al. | A Bayesian approach for building triphone models for continuous speech recognition | |
| JP2003271185A (ja) | 音声認識用情報作成装置及びその方法と、音声認識装置及びその方法と、音声認識用情報作成プログラム及びそのプログラムを記録した記録媒体と、音声認識プログラム及びそのプログラムを記録した記録媒体 | |
| JPH10116091A (ja) | 音素辞書作成方法及び音声認識装置 | |
| JPH10254485A (ja) | 話者正規化装置、話者適応化装置及び音声認識装置 | |
| JP3871774B2 (ja) | 音声認識装置および音声認識方法ならびに音声認識プログラムを記録した記録媒体 |