JPH06186995A - ヒドン・マルコフ・モデルの学習方法 - Google Patents
ヒドン・マルコフ・モデルの学習方法Info
- Publication number
- JPH06186995A JPH06186995A JP4339171A JP33917192A JPH06186995A JP H06186995 A JPH06186995 A JP H06186995A JP 4339171 A JP4339171 A JP 4339171A JP 33917192 A JP33917192 A JP 33917192A JP H06186995 A JPH06186995 A JP H06186995A
- Authority
- JP
- Japan
- Prior art keywords
- hmm
- learning
- environment
- word
- phoneme
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Granted
Links
- 238000000034 method Methods 0.000 title claims abstract description 63
- 230000001419 dependent effect Effects 0.000 claims abstract description 39
- 238000000354 decomposition reaction Methods 0.000 claims abstract description 13
- 230000008569 process Effects 0.000 claims description 33
- 238000002360 preparation method Methods 0.000 abstract 1
- 230000007704 transition Effects 0.000 description 8
- MQJKPEGWNLWLTK-UHFFFAOYSA-N Dapsone Chemical compound C1=CC(N)=CC=C1S(=O)(=O)C1=CC=C(N)C=C1 MQJKPEGWNLWLTK-UHFFFAOYSA-N 0.000 description 4
- 238000010586 diagram Methods 0.000 description 4
- 238000001228 spectrum Methods 0.000 description 3
- 230000008878 coupling Effects 0.000 description 2
- 238000010168 coupling process Methods 0.000 description 2
- 238000005859 coupling reaction Methods 0.000 description 2
- 238000002372 labelling Methods 0.000 description 2
- 238000007781 pre-processing Methods 0.000 description 2
- 238000007619 statistical method Methods 0.000 description 2
- 230000009466 transformation Effects 0.000 description 2
- 238000006243 chemical reaction Methods 0.000 description 1
- 238000007796 conventional method Methods 0.000 description 1
- 238000005516 engineering process Methods 0.000 description 1
- 230000006870 function Effects 0.000 description 1
- 238000007689 inspection Methods 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 230000001755 vocal effect Effects 0.000 description 1
Abstract
音素HMM辞書を要しない、環境依存型音素HMMの学
習方法を提供する。 【構成】 連結学習における最初の連結では、環境独立
型音素HMM(ヒドン・マルコフ・モデル)を使わず、
ステップ5で、直接に環境依存型音素HMMの状態数か
ら単語(又は文節もしくは文)HMMの状態数を計算す
る。ステップ6で、ダミーの単語(又葉文節もしくは
文)HMMを生成して学習を行い、ステップ7での分解
生成と、ステップ9での連結学習を繰り返すことによっ
て環境依存型音素HMMを学習する。
Description
れるヒドン・マルコフ・モデル(以下、HMMという)
の学習方法に関するものである。
例えば次のような文献に記載されるものがあった。 文献1;ザ・ベル・システム・テクニカル・ジャーナル
(The Bell System Technical Journal)、62「4」
(1983−4)American Telephoneand Telegraph Co
mpany,(米)、エス・イー・レビンソン(S.E .Levin
son)、エル・アール・ラビナー(L.R .Rabiner)、エ
ム・エム・ソンディ(M.M .Sondhi)共著「An Introdu
ction to the Application of the Theory of Probabil
istic Functions of a Markov Process to Automatic S
peech Recognition 」P.1035−1074 文献2;中川聖一著「確率モデルによる音声認識」(昭
63−7)、電子情報通信学会、P.55−61 音声認識技術として、古典的なパターン・マッチング手
法から、近年では統計的な手法に変わり、後者が主流に
なりつつある。後者の統計的な手法では、確率的な有限
状態を持つマルコフ・モデルが提案されており、通常、
HMMと呼ぶ。一般に、HMMは、複数の状態(例え
ば、音声の特徴等)と状態間の遷移からなる。さらに、
HMMは、状態間の遷移を表す遷移確率と、遷移する際
に伴うラベル(音声の特徴パラメータの典型的なもの
で、通常数十から数千種類がある)を出力する出力確率
を有している。このようなHMMを用いた音声認識方法
が前記文献1に記載されており、その単語音声認識の例
を図2に示す。図2は、従来の音声認識方法に用いられ
る単語HMMの構造例を示す図である。
HMMにおける音声の特徴等の状態を表す。a11,
a12,a22,a23,a33,a34,a44は状態遷移確率、
b1 (k),b2 (k),b3 (k),b4 (k)はラ
ベル出力確率を表す。HMMでは、状態遷移確率a
ij(但し、i=1,…,4、j=1,…,4)で状態遷
移が行われる際、ラベル出力確率bj (k)でラベルを
出力する。発声された単語をHMMを用いて認識するに
は、まず、各単語に対して用意された学習データを用い
て、その単語のラベル列を最も高い確率で出力するよう
にHMMを学習する。次に、発声された未知単語のラベ
ル列を入力し、最も高い出力確率を与えた単語HMMを
認識結果とする。
語そのものにHMMを与えて学習し、尤度(即ち、ラベ
ル列の出力確率)によって認識結果を判断している。こ
のような単語HMMは、優れた認識精度を保証するが、
認識語い数が増大することによって膨大な学習データが
必要となることや、学習対象語以外の音声が全く認識で
きないことなどの欠点がある。一方、音声学では通常、
音素と呼ばれる声学的要素の系列で単語を表している。
従って、音素ごとにHMMを用意し、これらのHMMを
連結して単語HMMを生成し、単語認識を行う方法もあ
る。しかし、実際に発声された単語音声においては、各
々の音素は隣同士の音素の影響を受け、特徴パラメータ
(例えば、スペクトル)がかなり変形してしまう。この
ような調音結合によるスペクトルの変形は、音素HMM
で表現しきれないことがある。そのため、このような単
純に音素HMMを連結して単語を認識する方法では、認
識率の低下が免れない。
ため、前後の音韻環境に依存する音素モデル、つまり、
ダイフォン(diphone)とトライフォン(triphoen)が提案
されている。ここで言うダイフォンは、対象音素に対し
て、先行音素もしくは後続音素のどれかが既知である音
素を指し、トライフォンは先行音素と後続音素両方とも
既知である音素を指す。音声認識を行う際、ダイフォン
あるいはトライフォンHMMを用意し、これらのHMM
の連接によって単語HMMを構成し、単語認識を行うよ
うにしている。音韻環境依存型音素HMMは、音韻環境
独立型音素HMMに比べ、調音結合によるスペクトル変
形に伴う認識率の低下が回避できるが、モデル数が多い
ため、HMMを学習するには大量な学習データを用意し
なければならない。その上、学習データに各々のトライ
フォンあるいはダイフォンが存在する区間を示す情報、
即ちラベル情報も用意しなければならない。しかし、ラ
ベル付け作業を行う場合、例えばコンピュータによる自
動作業は満足のゆく精度が得られず、ほとんど手作業で
ラベル付けを行っている。
法が提案されている。この方法では、まず学習しやすい
環境独立型音素HMMを用意する。そして、発声内容が
既知でラベルが付かない単語(又は文節もしくは文、以
下同様)発声の学習データに対して、先の環境独立型音
素HMMを連結して単語HMMを構築し、これらの単語
HMMを学習する。単語HMMの学習なので、単語境
界、即ち単語の始端と終端が分かれば、学習プロセスが
実現できる。さらに、連結と逆の手続きで、これらの単
語HMMを分解し、環境依存型音素HMMを生成する。
学習精度を良くするため、前記の連結学習、及び分解生
成を繰り返すことによって、近似的に環境依存型音素H
MMを生成する。この方法は連結学習法とも言う。
連結学習法では、次のような問題があった。最初に単語
HMMを構築する際、環境独立型音素HMMを用いるこ
ととしているが、実際に学習の過程では、常に環境独立
型音素HMM辞書を用意しなければならず、それはかな
り面倒なことである。即ち、アプリケーションの学習プ
ログラムには、環境独立型音素HMM辞書というデータ
ファイルを作ることが必須である。しかも、学習データ
が発声様式、収録環境、発話者によって性質が変化する
ので、予め学習データの性質にあった環境独立型音素H
MM辞書を用意するのが難しい。本発明は、前記従来技
術が持っていた課題として、連結学習の利点を維持しな
がら、環境独立型音素HMM辞書を要しない学習方法を
得ることが困難な点について解決し、環境依存型音素H
MMの学習方法を提供するものである。
決するために、環境依存音素HMMを学習するに際し
て、予め用意しておいた環境独立音素HMMを連結して
単語(又は文節もしくは文)HMMを構築する。そし
て、前記単語(又は文節もしくは文)HMMを学習する
学習処理と、前記学習処理後にその学習結果を環境依存
音素HMMに分解する分解処理と、前記分解された環境
依存音素HMMを再連結して単語(又は文節もしくは
文)HMMを作る連結処理とを用い、前記学習処理、分
解処理及び連結処理を繰り返すことによって前記環境依
存音素HMMを学習するHMMの学習方法において、次
のような手段を講じている。即ち、本発明では、前記環
境独立音素HMMを用意せず、直接、単語(又は文節も
しくは文)HMMを学習し、前記学習処理、分解処理及
び連結処理を繰り返すことによって前記環境依存音素H
MMを学習するようにしている。
法を構成したので、例えば、個々の環境依存型音素HM
Mの状態数を予め決めておいて、単語(又は文節もしく
は文)HMMを構成する個々の環境依存型音素HMMの
状態数から前記単語HMMの状態数を計算し、ダミーの
前記単語HMMを生成する。そして、このダミーの前記
単語HMMを学習データで学習し、分解して環境依存型
音素HMMを生成する。さらに、連結学習、分解生成の
過程を繰り返して精度良く環境依存型音素HMMの学習
が行われる。これにより、予め環境独立型音素HMM辞
書を用意する手間が省け、学習データのみから環境依存
型音素HMMの学習が行え、かつ環境独立型音素HMM
の性質に左右されることなく、精度の良い環境依存型音
素HMMの学習が行える。従って、前記課題を解決でき
るのである。
法の処理内容のフローチャート、及び図3は図1におけ
る単語HMMの状態数決定の様子を示す図であり、これ
らの図を参照しつつ、本実施例のHMMの学習方法を説
明する。本実施例のHMM学習方法では、例えば、プロ
グラム制御されるコンピュータを用いて図1のステップ
1〜11の処理が実行される。先ず、図1のステップ1
において、学習が開始されると、ステップ2で、学習デ
ータの音声信号(例えば、単語音声)が入力され、ステ
ップ3の前処理へ進む。
れたアナログ音声信号をアナログ/デジタル変換(A/
D変換という)によってデジタル信号に変換し、LPC
(Linear Predictive Coding、線形予測符号化)分析に
よるLPCケプストラムの抽出等により、音声特徴パラ
メータを抽出し、ステップ5へ進む。ステップ5では、
入力された単語の音素列表現と、予め決めておいた環境
依存型音素HMMの状態数テーブル4を参照しながら、
単語HMMの状態数を決定する。図3には、その一例と
して単語akai(赤い)が入力された場合の単語HM
Mの状態数決定の様子が示されている。図3において、
入力単語akaiに対するトライフォンの連結による表
現は、( )a(k)+(a)k(a)+(k)a
(i)+(a)i( )となる。環境依存型音素HMM
の状態数テーブル4を参照して、( )a(K)は状態
数が4、(a)k(a)は状態数が3、(k)a(i)
は状態数が4、(a)i()は状態数が4であるから、
それらの状態数を合計すると、単語akaiのHMMの
状態数が15となる。
の状態数の決定後、ステップ6において、入力された単
語音声を使用してその単語のHMMパラメータを推定す
る。HMMパラメータの推定には、例えば、前記文献2
に記載されたBaum-Welch(B-W)アルゴリズムを用いる。
このB−Wアルゴリズムでは、例えば、観測ラベル系列
O=o1 ,o2 ,…,oT 及び状態系列I=i1 ,
i2 ,…,iT に対して、次式(1)のような前向き変
数αt (i)と後向き変数βt (i)を定義する。 αt (i)=Pr(o1 ,o2 ,…,oT ,iT =si ) ・・・(1) βt (i)=Pr(ot+1 ,ot+2 ,…,oT |it =si ) そして、状態遷移確率aijとラベル出力確率bj (k)
を次式(2)のように推定する。
おいて、各環境依存型音素HMMの状態数に従って、単
語HMMを環境依存型音素HMMに分解し、環境依存型
音素HMM辞書8を生成する。そして、ステップ10に
おいて、環境依存型音素HMMが収束したかどうかを検
査し、もし収束しておれば(即ち、環境依存型音素HM
Mパラメータの前回の値と今回の値との差が充分に小さ
ければ)、ステップ11で学習を終了する。これに対
し、ステップ10の検査の結果、収束していなければ、
ステップ9において、ステップ7で分解した環境依存型
音素HMMを連結して単語HMMを再構成し、ステップ
6の単語HMMの学習へ戻り、前記の学習処理と分解処
理を繰り返す。
利点がある。連結学習における最初の連結では、環境独
立型音素HMMを使わず、ステップ5において、直接に
環境依存型音素HMMの状態数から単語HMMの状態数
を計算し、ステップ6で、ダミーの単語HMMを生成し
て学習を行う。そして、ステップ7の分解生成とステッ
プ9の連結学習を繰り返すことにより、環境依存型音素
HMMを学習する。そのため、環境独立型音素HMM辞
書を用いないで、学習データのみで学習ができ、その
上、環境独立型音素HMMに影響されずに、精度の良い
環境依存型音素HMMを学習することができる。なお、
上記実施例では、入力された単語音声に対するHMMの
学習方法について説明したが、文節や文の音声が入力さ
れた場合にも、上記実施例と同様にして環境依存型音素
HMMの学習が行える。
れば、連結学習処理における最初の連結では、環境独立
音素HMMを使わず、直接に、例えば環境依存音素HM
Mの状態数から単語HMMの状態数を計算し、ダミーの
単語(又は文節もしくは文)HMMを生成して学習を行
い、分解処理と連結学習処理を繰り返すことによって環
境依存音素HMMを学習するようにしている。そのた
め、環境独立音素HMM辞書を用いることなく、学習デ
ータのみで、環境依存音素HMMが学習でき、その上、
環境独立音素HMMに影響されずに、精度の良い環境独
立音素HMMを学習することができる。
内容のフローチャートである。
構造例を示す図である。
態数の決定の様子を示す図である。
分解処理のステップ 8 環境依存型音素HMM辞書 9 環境依存型音素HMMを連結して単語HMMを
再構成する連結学習処理のステップ
Claims (1)
- 【請求項1】 環境依存音素ヒドン・マルコフ・モデル
を学習するに際して、予め用意しておいた環境独立音素
ヒドン・マルコフ・モデルを連結して単語、文節又は文
のうちのいずれか1つのヒドン・マルコフ・モデルを構
築し、 前記いずれか1つのヒドン・マルコフ・モデルを学習す
る学習処理と、前記学習処理後にその学習結果を環境依
存音素ヒドン・マルコフ・モデルに分解する分解処理
と、前記分解された環境依存音素ヒドン・マルコフ・モ
デルを再連結して単語、文節又は文のうちのいずれか1
つのヒドン・マルコフ・モデルを作る連結処理とを用
い、前記学習処理、分解処理及び連結処理を繰り返すこ
とによって前記環境依存音素ヒドン・マルコフ・モデル
を学習するヒドン・マルコフ・モデルの学習方法におい
て、 前記環境独立音素ヒドン・マルコフ・モデルを用意せ
ず、直接、単語、文節又は文のうちのいずれか1つのヒ
ドン・マルコフ・モデルを学習し、前記学習処理、分解
処理及び連結処理を繰り返すことによって前記環境依存
音素ヒドン・マルコフ・モデルを学習することを特徴と
するヒドン・マルコフ・モデルの学習方法。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP4339171A JP2912513B2 (ja) | 1992-12-18 | 1992-12-18 | ヒドン・マルコフ・モデルの学習方法 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP4339171A JP2912513B2 (ja) | 1992-12-18 | 1992-12-18 | ヒドン・マルコフ・モデルの学習方法 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPH06186995A true JPH06186995A (ja) | 1994-07-08 |
| JP2912513B2 JP2912513B2 (ja) | 1999-06-28 |
Family
ID=18324915
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP4339171A Expired - Fee Related JP2912513B2 (ja) | 1992-12-18 | 1992-12-18 | ヒドン・マルコフ・モデルの学習方法 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JP2912513B2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6868382B2 (en) | 1998-09-09 | 2005-03-15 | Asahi Kasei Kabushiki Kaisha | Speech recognizer |
-
1992
- 1992-12-18 JP JP4339171A patent/JP2912513B2/ja not_active Expired - Fee Related
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US6868382B2 (en) | 1998-09-09 | 2005-03-15 | Asahi Kasei Kabushiki Kaisha | Speech recognizer |
Also Published As
| Publication number | Publication date |
|---|---|
| JP2912513B2 (ja) | 1999-06-28 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JP4301102B2 (ja) | 音声処理装置および音声処理方法、プログラム、並びに記録媒体 | |
| JP4176169B2 (ja) | 言語合成のためのランタイムアコースティックユニット選択方法及び装置 | |
| US6910012B2 (en) | Method and system for speech recognition using phonetically similar word alternatives | |
| EP1557822B1 (en) | Automatic speech recognition adaptation using user corrections | |
| Al-Qatab et al. | Arabic speech recognition using hidden Markov model toolkit (HTK) | |
| JPH06110493A (ja) | 音声モデルの構成方法及び音声認識装置 | |
| JPH11504734A (ja) | 擬音素ユニットに自動音声分節するための方法及び装置 | |
| KR101014086B1 (ko) | 음성 처리 장치 및 방법, 및 기록 매체 | |
| US6148284A (en) | Method and apparatus for automatic speech recognition using Markov processes on curves | |
| JPH08202385A (ja) | 音声適応化装置,単語音声認識装置,連続音声認識装置およびワードスポッティング装置 | |
| JP2955297B2 (ja) | 音声認識システム | |
| JPH1039893A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| Rahmatullah et al. | Performance evaluation of Indonesian language forced alignment using Montreal forced aligner | |
| JPH09160586A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JP2912513B2 (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| El Ouahabi et al. | Amazigh speech recognition using triphone modeling and clustering tree decision | |
| JPH0229799A (ja) | 音素を単位とした音声認識装置 | |
| JPH0713588A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JPH0713589A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JPH08211891A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JPH0981182A (ja) | 隠れマルコフモデルの学習装置及び音声認識装置 | |
| JP3091623B2 (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JPH07121192A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JPH08328582A (ja) | ヒドン・マルコフ・モデルの学習方法 | |
| JPH08211893A (ja) | 音声認識装置 |
Legal Events
| Date | Code | Title | Description |
|---|---|---|---|
| A01 | Written decision to grant a patent or to grant a registration (utility model) |
Free format text: JAPANESE INTERMEDIATE CODE: A01 Effective date: 19990330 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20080409 Year of fee payment: 9 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20090409 Year of fee payment: 10 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100409 Year of fee payment: 11 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20100409 Year of fee payment: 11 |
|
| FPAY | Renewal fee payment (event date is renewal date of database) |
Free format text: PAYMENT UNTIL: 20110409 Year of fee payment: 12 |
|
| LAPS | Cancellation because of no payment of annual fees |