JPH06186995A - ヒドン・マルコフ・モデルの学習方法 - Google Patents

ヒドン・マルコフ・モデルの学習方法

Info

Publication number
JPH06186995A
JPH06186995A JP4339171A JP33917192A JPH06186995A JP H06186995 A JPH06186995 A JP H06186995A JP 4339171 A JP4339171 A JP 4339171A JP 33917192 A JP33917192 A JP 33917192A JP H06186995 A JPH06186995 A JP H06186995A
Authority
JP
Japan
Prior art keywords
hmm
learning
environment
word
phoneme
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP4339171A
Other languages
English (en)
Other versions
JP2912513B2 (ja
Inventor
Takashi I
傑 易
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP4339171A priority Critical patent/JP2912513B2/ja
Publication of JPH06186995A publication Critical patent/JPH06186995A/ja
Application granted granted Critical
Publication of JP2912513B2 publication Critical patent/JP2912513B2/ja
Anticipated expiration legal-status Critical
Expired - Fee Related legal-status Critical Current

Links

Abstract

(57)【要約】 【目的】 連結学習の利点を維持しながら、環境独立型
音素HMM辞書を要しない、環境依存型音素HMMの学
習方法を提供する。 【構成】 連結学習における最初の連結では、環境独立
型音素HMM(ヒドン・マルコフ・モデル)を使わず、
ステップ5で、直接に環境依存型音素HMMの状態数か
ら単語(又は文節もしくは文)HMMの状態数を計算す
る。ステップ6で、ダミーの単語(又葉文節もしくは
文)HMMを生成して学習を行い、ステップ7での分解
生成と、ステップ9での連結学習を繰り返すことによっ
て環境依存型音素HMMを学習する。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、音声認識方法に用いら
れるヒドン・マルコフ・モデル(以下、HMMという)
の学習方法に関するものである。
【0002】
【従来の技術】従来、このような分野の技術としては、
例えば次のような文献に記載されるものがあった。 文献1;ザ・ベル・システム・テクニカル・ジャーナル
(The Bell System Technical Journal)、62「4」
(1983−4)American Telephoneand Telegraph Co
mpany,(米)、エス・イー・レビンソン(S.E .Levin
son)、エル・アール・ラビナー(L.R .Rabiner)、エ
ム・エム・ソンディ(M.M .Sondhi)共著「An Introdu
ction to the Application of the Theory of Probabil
istic Functions of a Markov Process to Automatic S
peech Recognition 」P.1035−1074 文献2;中川聖一著「確率モデルによる音声認識」(昭
63−7)、電子情報通信学会、P.55−61 音声認識技術として、古典的なパターン・マッチング手
法から、近年では統計的な手法に変わり、後者が主流に
なりつつある。後者の統計的な手法では、確率的な有限
状態を持つマルコフ・モデルが提案されており、通常、
HMMと呼ぶ。一般に、HMMは、複数の状態(例え
ば、音声の特徴等)と状態間の遷移からなる。さらに、
HMMは、状態間の遷移を表す遷移確率と、遷移する際
に伴うラベル(音声の特徴パラメータの典型的なもの
で、通常数十から数千種類がある)を出力する出力確率
を有している。このようなHMMを用いた音声認識方法
が前記文献1に記載されており、その単語音声認識の例
を図2に示す。図2は、従来の音声認識方法に用いられ
る単語HMMの構造例を示す図である。
【0003】図2において、S1 ,S2 ,S3 ,S4
HMMにおける音声の特徴等の状態を表す。a11
12,a22,a23,a33,a34,a44は状態遷移確率、
1 (k),b2 (k),b3 (k),b4 (k)はラ
ベル出力確率を表す。HMMでは、状態遷移確率a
ij(但し、i=1,…,4、j=1,…,4)で状態遷
移が行われる際、ラベル出力確率bj (k)でラベルを
出力する。発声された単語をHMMを用いて認識するに
は、まず、各単語に対して用意された学習データを用い
て、その単語のラベル列を最も高い確率で出力するよう
にHMMを学習する。次に、発声された未知単語のラベ
ル列を入力し、最も高い出力確率を与えた単語HMMを
認識結果とする。
【0004】この種の音声認識方法では、発声された単
語そのものにHMMを与えて学習し、尤度(即ち、ラベ
ル列の出力確率)によって認識結果を判断している。こ
のような単語HMMは、優れた認識精度を保証するが、
認識語い数が増大することによって膨大な学習データが
必要となることや、学習対象語以外の音声が全く認識で
きないことなどの欠点がある。一方、音声学では通常、
音素と呼ばれる声学的要素の系列で単語を表している。
従って、音素ごとにHMMを用意し、これらのHMMを
連結して単語HMMを生成し、単語認識を行う方法もあ
る。しかし、実際に発声された単語音声においては、各
々の音素は隣同士の音素の影響を受け、特徴パラメータ
(例えば、スペクトル)がかなり変形してしまう。この
ような調音結合によるスペクトルの変形は、音素HMM
で表現しきれないことがある。そのため、このような単
純に音素HMMを連結して単語を認識する方法では、認
識率の低下が免れない。
【0005】このような調音結合による影響を除去する
ため、前後の音韻環境に依存する音素モデル、つまり、
ダイフォン(diphone)とトライフォン(triphoen)が提案
されている。ここで言うダイフォンは、対象音素に対し
て、先行音素もしくは後続音素のどれかが既知である音
素を指し、トライフォンは先行音素と後続音素両方とも
既知である音素を指す。音声認識を行う際、ダイフォン
あるいはトライフォンHMMを用意し、これらのHMM
の連接によって単語HMMを構成し、単語認識を行うよ
うにしている。音韻環境依存型音素HMMは、音韻環境
独立型音素HMMに比べ、調音結合によるスペクトル変
形に伴う認識率の低下が回避できるが、モデル数が多い
ため、HMMを学習するには大量な学習データを用意し
なければならない。その上、学習データに各々のトライ
フォンあるいはダイフォンが存在する区間を示す情報、
即ちラベル情報も用意しなければならない。しかし、ラ
ベル付け作業を行う場合、例えばコンピュータによる自
動作業は満足のゆく精度が得られず、ほとんど手作業で
ラベル付けを行っている。
【0006】そこで、従来、ラベル情報を要しない学習
法が提案されている。この方法では、まず学習しやすい
環境独立型音素HMMを用意する。そして、発声内容が
既知でラベルが付かない単語(又は文節もしくは文、以
下同様)発声の学習データに対して、先の環境独立型音
素HMMを連結して単語HMMを構築し、これらの単語
HMMを学習する。単語HMMの学習なので、単語境
界、即ち単語の始端と終端が分かれば、学習プロセスが
実現できる。さらに、連結と逆の手続きで、これらの単
語HMMを分解し、環境依存型音素HMMを生成する。
学習精度を良くするため、前記の連結学習、及び分解生
成を繰り返すことによって、近似的に環境依存型音素H
MMを生成する。この方法は連結学習法とも言う。
【0007】
【発明が解決しようとする課題】しかしながら、従来の
連結学習法では、次のような問題があった。最初に単語
HMMを構築する際、環境独立型音素HMMを用いるこ
ととしているが、実際に学習の過程では、常に環境独立
型音素HMM辞書を用意しなければならず、それはかな
り面倒なことである。即ち、アプリケーションの学習プ
ログラムには、環境独立型音素HMM辞書というデータ
ファイルを作ることが必須である。しかも、学習データ
が発声様式、収録環境、発話者によって性質が変化する
ので、予め学習データの性質にあった環境独立型音素H
MM辞書を用意するのが難しい。本発明は、前記従来技
術が持っていた課題として、連結学習の利点を維持しな
がら、環境独立型音素HMM辞書を要しない学習方法を
得ることが困難な点について解決し、環境依存型音素H
MMの学習方法を提供するものである。
【0008】
【課題を解決するための手段】本発明は、前記課題を解
決するために、環境依存音素HMMを学習するに際し
て、予め用意しておいた環境独立音素HMMを連結して
単語(又は文節もしくは文)HMMを構築する。そし
て、前記単語(又は文節もしくは文)HMMを学習する
学習処理と、前記学習処理後にその学習結果を環境依存
音素HMMに分解する分解処理と、前記分解された環境
依存音素HMMを再連結して単語(又は文節もしくは
文)HMMを作る連結処理とを用い、前記学習処理、分
解処理及び連結処理を繰り返すことによって前記環境依
存音素HMMを学習するHMMの学習方法において、次
のような手段を講じている。即ち、本発明では、前記環
境独立音素HMMを用意せず、直接、単語(又は文節も
しくは文)HMMを学習し、前記学習処理、分解処理及
び連結処理を繰り返すことによって前記環境依存音素H
MMを学習するようにしている。
【0009】
【作用】本発明によれば、以上のようにHMMの学習方
法を構成したので、例えば、個々の環境依存型音素HM
Mの状態数を予め決めておいて、単語(又は文節もしく
は文)HMMを構成する個々の環境依存型音素HMMの
状態数から前記単語HMMの状態数を計算し、ダミーの
前記単語HMMを生成する。そして、このダミーの前記
単語HMMを学習データで学習し、分解して環境依存型
音素HMMを生成する。さらに、連結学習、分解生成の
過程を繰り返して精度良く環境依存型音素HMMの学習
が行われる。これにより、予め環境独立型音素HMM辞
書を用意する手間が省け、学習データのみから環境依存
型音素HMMの学習が行え、かつ環境独立型音素HMM
の性質に左右されることなく、精度の良い環境依存型音
素HMMの学習が行える。従って、前記課題を解決でき
るのである。
【0010】
【実施例】図1は本発明の実施例を示すHMMの学習方
法の処理内容のフローチャート、及び図3は図1におけ
る単語HMMの状態数決定の様子を示す図であり、これ
らの図を参照しつつ、本実施例のHMMの学習方法を説
明する。本実施例のHMM学習方法では、例えば、プロ
グラム制御されるコンピュータを用いて図1のステップ
1〜11の処理が実行される。先ず、図1のステップ1
において、学習が開始されると、ステップ2で、学習デ
ータの音声信号(例えば、単語音声)が入力され、ステ
ップ3の前処理へ進む。
【0011】ステップ3の前処理では、例えば、入力さ
れたアナログ音声信号をアナログ/デジタル変換(A/
D変換という)によってデジタル信号に変換し、LPC
(Linear Predictive Coding、線形予測符号化)分析に
よるLPCケプストラムの抽出等により、音声特徴パラ
メータを抽出し、ステップ5へ進む。ステップ5では、
入力された単語の音素列表現と、予め決めておいた環境
依存型音素HMMの状態数テーブル4を参照しながら、
単語HMMの状態数を決定する。図3には、その一例と
して単語akai(赤い)が入力された場合の単語HM
Mの状態数決定の様子が示されている。図3において、
入力単語akaiに対するトライフォンの連結による表
現は、( )a(k)+(a)k(a)+(k)a
(i)+(a)i( )となる。環境依存型音素HMM
の状態数テーブル4を参照して、( )a(K)は状態
数が4、(a)k(a)は状態数が3、(k)a(i)
は状態数が4、(a)i()は状態数が4であるから、
それらの状態数を合計すると、単語akaiのHMMの
状態数が15となる。
【0012】このようなステップ5における単語HMM
の状態数の決定後、ステップ6において、入力された単
語音声を使用してその単語のHMMパラメータを推定す
る。HMMパラメータの推定には、例えば、前記文献2
に記載されたBaum-Welch(B-W)アルゴリズムを用いる。
このB−Wアルゴリズムでは、例えば、観測ラベル系列
O=o1 ,o2 ,…,oT 及び状態系列I=i1
2 ,…,iT に対して、次式(1)のような前向き変
数αt (i)と後向き変数βt (i)を定義する。 αt (i)=Pr(o1 ,o2 ,…,oT ,iT =si ) ・・・(1) βt (i)=Pr(ot+1 ,ot+2 ,…,oT |it =si ) そして、状態遷移確率aijとラベル出力確率bj (k)
を次式(2)のように推定する。
【0013】
【数1】 このように単語HMMを学習し終えると、ステップ7に
おいて、各環境依存型音素HMMの状態数に従って、単
語HMMを環境依存型音素HMMに分解し、環境依存型
音素HMM辞書8を生成する。そして、ステップ10に
おいて、環境依存型音素HMMが収束したかどうかを検
査し、もし収束しておれば(即ち、環境依存型音素HM
Mパラメータの前回の値と今回の値との差が充分に小さ
ければ)、ステップ11で学習を終了する。これに対
し、ステップ10の検査の結果、収束していなければ、
ステップ9において、ステップ7で分解した環境依存型
音素HMMを連結して単語HMMを再構成し、ステップ
6の単語HMMの学習へ戻り、前記の学習処理と分解処
理を繰り返す。
【0014】以上のように、本実施例では、次のような
利点がある。連結学習における最初の連結では、環境独
立型音素HMMを使わず、ステップ5において、直接に
環境依存型音素HMMの状態数から単語HMMの状態数
を計算し、ステップ6で、ダミーの単語HMMを生成し
て学習を行う。そして、ステップ7の分解生成とステッ
プ9の連結学習を繰り返すことにより、環境依存型音素
HMMを学習する。そのため、環境独立型音素HMM辞
書を用いないで、学習データのみで学習ができ、その
上、環境独立型音素HMMに影響されずに、精度の良い
環境依存型音素HMMを学習することができる。なお、
上記実施例では、入力された単語音声に対するHMMの
学習方法について説明したが、文節や文の音声が入力さ
れた場合にも、上記実施例と同様にして環境依存型音素
HMMの学習が行える。
【0015】
【発明の効果】以上詳細に説明したように、本発明によ
れば、連結学習処理における最初の連結では、環境独立
音素HMMを使わず、直接に、例えば環境依存音素HM
Mの状態数から単語HMMの状態数を計算し、ダミーの
単語(又は文節もしくは文)HMMを生成して学習を行
い、分解処理と連結学習処理を繰り返すことによって環
境依存音素HMMを学習するようにしている。そのた
め、環境独立音素HMM辞書を用いることなく、学習デ
ータのみで、環境依存音素HMMが学習でき、その上、
環境独立音素HMMに影響されずに、精度の良い環境独
立音素HMMを学習することができる。
【図面の簡単な説明】
【図1】本発明の実施例を示すHMMの学習方法の処理
内容のフローチャートである。
【図2】従来の音声認識方法に用いられる単語HMMの
構造例を示す図である。
【図3】図1のHMMの学習方法における単語HMM状
態数の決定の様子を示す図である。
【符号の説明】
4 環境依存型音素HMMの状態数テーブル 5 単語HMMの状態数の決定処理のステップ 6 単語HMMの学習処理のステップ 7 単語HMMを環境依存型音素HMMに分解する
分解処理のステップ 8 環境依存型音素HMM辞書 9 環境依存型音素HMMを連結して単語HMMを
再構成する連結学習処理のステップ

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 環境依存音素ヒドン・マルコフ・モデル
    を学習するに際して、予め用意しておいた環境独立音素
    ヒドン・マルコフ・モデルを連結して単語、文節又は文
    のうちのいずれか1つのヒドン・マルコフ・モデルを構
    築し、 前記いずれか1つのヒドン・マルコフ・モデルを学習す
    る学習処理と、前記学習処理後にその学習結果を環境依
    存音素ヒドン・マルコフ・モデルに分解する分解処理
    と、前記分解された環境依存音素ヒドン・マルコフ・モ
    デルを再連結して単語、文節又は文のうちのいずれか1
    つのヒドン・マルコフ・モデルを作る連結処理とを用
    い、前記学習処理、分解処理及び連結処理を繰り返すこ
    とによって前記環境依存音素ヒドン・マルコフ・モデル
    を学習するヒドン・マルコフ・モデルの学習方法におい
    て、 前記環境独立音素ヒドン・マルコフ・モデルを用意せ
    ず、直接、単語、文節又は文のうちのいずれか1つのヒ
    ドン・マルコフ・モデルを学習し、前記学習処理、分解
    処理及び連結処理を繰り返すことによって前記環境依存
    音素ヒドン・マルコフ・モデルを学習することを特徴と
    するヒドン・マルコフ・モデルの学習方法。
JP4339171A 1992-12-18 1992-12-18 ヒドン・マルコフ・モデルの学習方法 Expired - Fee Related JP2912513B2 (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4339171A JP2912513B2 (ja) 1992-12-18 1992-12-18 ヒドン・マルコフ・モデルの学習方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4339171A JP2912513B2 (ja) 1992-12-18 1992-12-18 ヒドン・マルコフ・モデルの学習方法

Publications (2)

Publication Number Publication Date
JPH06186995A true JPH06186995A (ja) 1994-07-08
JP2912513B2 JP2912513B2 (ja) 1999-06-28

Family

ID=18324915

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4339171A Expired - Fee Related JP2912513B2 (ja) 1992-12-18 1992-12-18 ヒドン・マルコフ・モデルの学習方法

Country Status (1)

Country Link
JP (1) JP2912513B2 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6868382B2 (en) 1998-09-09 2005-03-15 Asahi Kasei Kabushiki Kaisha Speech recognizer

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6868382B2 (en) 1998-09-09 2005-03-15 Asahi Kasei Kabushiki Kaisha Speech recognizer

Also Published As

Publication number Publication date
JP2912513B2 (ja) 1999-06-28

Similar Documents

Publication Publication Date Title
JP4301102B2 (ja) 音声処理装置および音声処理方法、プログラム、並びに記録媒体
JP4176169B2 (ja) 言語合成のためのランタイムアコースティックユニット選択方法及び装置
US6910012B2 (en) Method and system for speech recognition using phonetically similar word alternatives
EP1557822B1 (en) Automatic speech recognition adaptation using user corrections
Al-Qatab et al. Arabic speech recognition using hidden Markov model toolkit (HTK)
JPH06110493A (ja) 音声モデルの構成方法及び音声認識装置
JPH11504734A (ja) 擬音素ユニットに自動音声分節するための方法及び装置
KR101014086B1 (ko) 음성 처리 장치 및 방법, 및 기록 매체
US6148284A (en) Method and apparatus for automatic speech recognition using Markov processes on curves
JPH08202385A (ja) 音声適応化装置,単語音声認識装置,連続音声認識装置およびワードスポッティング装置
JP2955297B2 (ja) 音声認識システム
JPH1039893A (ja) ヒドン・マルコフ・モデルの学習方法
Rahmatullah et al. Performance evaluation of Indonesian language forced alignment using Montreal forced aligner
JPH09160586A (ja) ヒドン・マルコフ・モデルの学習方法
JP2912513B2 (ja) ヒドン・マルコフ・モデルの学習方法
El Ouahabi et al. Amazigh speech recognition using triphone modeling and clustering tree decision
JPH0229799A (ja) 音素を単位とした音声認識装置
JPH0713588A (ja) ヒドン・マルコフ・モデルの学習方法
JPH0713589A (ja) ヒドン・マルコフ・モデルの学習方法
JPH08211891A (ja) ヒドン・マルコフ・モデルの学習方法
JPH0981182A (ja) 隠れマルコフモデルの学習装置及び音声認識装置
JP3091623B2 (ja) ヒドン・マルコフ・モデルの学習方法
JPH07121192A (ja) ヒドン・マルコフ・モデルの学習方法
JPH08328582A (ja) ヒドン・マルコフ・モデルの学習方法
JPH08211893A (ja) 音声認識装置

Legal Events

Date Code Title Description
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 19990330

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20080409

Year of fee payment: 9

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20090409

Year of fee payment: 10

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100409

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100409

Year of fee payment: 11

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20110409

Year of fee payment: 12

LAPS Cancellation because of no payment of annual fees