JPH05241594A - 音声認識方法 - Google Patents

音声認識方法

Info

Publication number
JPH05241594A
JPH05241594A JP4041773A JP4177392A JPH05241594A JP H05241594 A JPH05241594 A JP H05241594A JP 4041773 A JP4041773 A JP 4041773A JP 4177392 A JP4177392 A JP 4177392A JP H05241594 A JPH05241594 A JP H05241594A
Authority
JP
Japan
Prior art keywords
hmm
learning
recognition
word
voice
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP4041773A
Other languages
English (en)
Inventor
Takashi I
傑 易
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Oki Electric Industry Co Ltd
Original Assignee
Oki Electric Industry Co Ltd
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Oki Electric Industry Co Ltd filed Critical Oki Electric Industry Co Ltd
Priority to JP4041773A priority Critical patent/JPH05241594A/ja
Publication of JPH05241594A publication Critical patent/JPH05241594A/ja
Pending legal-status Critical Current

Links

Abstract

(57)【要約】 【目的】 HMM学習過程に着目し、少ない学習データ
量で、学習及び認識音声データの違いに起因する認識率
の低下を防ぐ。 【構成】 音声統計学の知識に基づき、出現頻度の高い
トライフォンやダイフォン、それに全ての音素を含むよ
うに学習音声データを予め選択する。この選択された学
習音声データで、トライフォン、ダイフォン及び音素の
HMMを学習し(18)、HMM辞書を作成する(2
0)。認識の際には、HMM辞書に含まれたモデルのみ
用い、そのモデルを連結して単語HMMを構築する(1
9),(21)。認識する音声データに対して各単語H
MMの尤度を計算し(22)、最も大きいものを認識結
果とする。

Description

【発明の詳細な説明】
【0001】
【産業上の利用分野】本発明は、ヒドン・マルコフ・モ
デル(以下、HMMという)を用いた音声認識方法、特
にそのHMM辞書の作成方法に関するものである。
【0002】
【従来の技術】従来、このような分野の技術としては、
例えば次のような文献に記載されるものがあった。 文献1:ザ・ベル・システム・テクニカル・ジャーナル
(The Bell System Technical Journal)62[4](1
983−4)American Telephone and Telegraph Compa
ny,(米)、エス・イー・レビンソン(S.E.Levinso
n)、エル・アル・ラビナー(L.R.Rabiner)、及びエム
・エム・ソンディ(M.M.Sondhi)共著「An Introductio
n to the Application of the Theory of Probabilisti
c Functions of a Markov Process toAutomatic Speech
Recognition 」P.1035−1074 文献2:中川聖一著「確率モデルによる音声認識」(昭
63−7)電子情報通信学会、P.55−61 音声認識技術として、古典的なパターン・マッチング手
法から、近年では統計的な手法に変わり、後者が主流に
なりつつある。後者の統計的な手法では、確率的な有限
状態を持つマルコフ・モデルが提案されており、通常、
HMMと呼ぶ。一般に、HMMは、複数の状態(例え
ば、音声の特徴等)と状態間の遷移からなる。さらに、
HMMは状態間の遷移を表す遷移確率と、遷移する際に
伴うラベル(音声の特徴パラメータの典型的なもので、
通常数十から数千種類がある)を出力する出力確率を有
している。このようなHMMを用いた音声認識方法が前
記文献1に記載されており、その単語音声認識の例を図
2に示す。
【0003】図2は、音声認識方法に用いられる単語H
MMの構造例を示す図である。図2のs1 ,s2 ,
s3 ,s4 はHMMにおける音声の特徴等の状態を表
す。a11,a12,a22,a23,a33,a34,a44は状態
遷移確率、b1 (k),b2(k),b3 (k),b4
(k)はラベル出力確率を表す。HMMでは、状態遷移
確率aij(i=1,…,4、j=1,…,4)で状態遷
移が行われる際、ラベル出力確率bj (k)でラベルを
出力する。発声された単語をHMMを用いて認識するに
は、まず、各単語に対して用意された学習データを用い
て、その単語のラベル列を最も高い確率で出力するよう
にHMMを学習する。次に、発声された未知単語のラベ
ル列を入力し、最も高い出力確率を与えた単語HMMを
認識結果とする。
【0004】この種の音声認識方法では、発声された単
語そのものにHMMを与えて学習し、尤度(即ち、ラベ
ル列の出力確率)によって認識結果を判断するものであ
る。このような単語HMMは、優れた認識精度を保証す
るが、認識語い数が増大することによって膨大な学習デ
ータが必要となることや、学習対象語以外の音声が全く
認識できない等の欠点がある。
【0005】一方、音声学では通常、音素と呼ばれる声
学的要素の系列で単語を表している。従って、音素毎に
HMMを用意し、これらのHMMを連結して単語HMM
を生成し、単語認識を行う方法もある。しかし、実際に
発声された単語音声においては、各々の音素は隣同士の
音素の影響を受け、特徴パラメータ(例えば、スペクト
ル)がかなり変形してしまう。このような調音結合によ
るスペクトルの変形は、音素HMMで表現しきれないこ
とがある。そのため、このような単純に音素HMMを連
結して単語を認識する方法では、認識率の低下を免れな
い。
【0006】そこで、従来の他の音声認識方法では、調
音結合による影響を除去するため、より大きな単位、例
えば2音素組(これをダイフォン(diphone)と
呼ぶ)、あるいは3音素組(これをトライフォン(tr
iphone)と呼ぶ)にHMMを与え、これらのモデ
ルの連結によって単語HMMを構成し、単語認識を行う
ようにしている。図3は、音素、ダイフォンまたはトラ
イフォンで単語“meguro(目黒)”を分割した例
を示す図である。単語“meguro(目黒)”は6つ
の音素HMM、3つのダイフォンHMM、あるいは2つ
のトライフォンHMMからなることがわかる。
【0007】
【発明が解決しようとする課題】しかしながら、従来の
音声認識方法では、次のような問題があった。 (a) トライフォンモデルをベースとする単語音声認
識方法では、音素モデルをベースとする単語音声認識方
法に比べ、調音結合によるスペクトル変形に伴う認識率
の低下がある程度回避できるが、トライフォンHMMを
学習するには膨大な学習データを用意しなければならな
い。その理由は、例えば日本語にはトライフォンの数が
6000種類以上あるといわれており、それら全てのトライ
フォンを含む音声資料を作成し、多数の話者によって発
声した学習音声データベースを作ることが不可能に近
い。一方、音素の数が少ないため、音素HMMが簡単に
学習できるが、前述したように調音結合の影響によって
認識精度が制限されてしまう。
【0008】(b) そこで、本願出願人等は前記
(a)の問題を解決して学習量の削減及び認識精度の向
上を図るため、先に特願平3−341235号明細書に
おいて音声認識方法の提案を行った。この音声認識方法
では、トライフォン、ダイフォン及び音素を混在してH
MMを学習し、これらのモデルのみ用いて音声認識を行
う。ところが、このようなトライフォン、ダイフォン及
び音素を混在してHMMを学習する方法では、高認識精
度を保ちながら学習データ量を削減できるものの、学習
音声データベースにはどのようなトライフォンまたはダ
イフォンを含有するかを言及していない。そのため、学
習音声データと認識音声データの違いによって、せっか
く学習しておいたトライフォンまたはダイフォンを認識
時にほとんど使わなかったり、認識音声データによく現
れるトライフォンやダイフォンがHMM辞書になかった
りする問題が生じ、認識率低下を招くおそれがある。従
って、未だ技術的に充分満足のゆく音声認識方法を得る
ことが困難であった。本発明は、前記従来技術が持って
いた課題として、本願出願人等の先の提案における少な
い学習量の利点を維持しながら、学習及び認識音声デー
タの違いに起因する認識率の低下を防ぐ音声認識方法を
提供するものである。
【0009】
【課題を解決するための手段】本発明は、前記課題を解
決するために、学習音声データベースに含まれたトライ
フォン、ダイフォン及び音素を計数し、これらのモデル
を混在してHMMの学習を行い、HMM辞書を作成し、
前記HMMに含まれたモデルのみ用い、そのモデルを連
結して単語HMMをそれぞれ構築し、認識する音声デー
タに対して前記各単語HMMの尤度を演算して最も大き
いものを認識結果とする音声認識方法において、前記学
習音声データを、HMM学習過程に着目して、次のよう
に選択する。即ち、音声統計学の知識により、出現頻度
の高い順から採ったトライフォンとダイフォン及び全て
の音素を含むような学習音声データベースを選択する。
そして、選択された学習音声データでHMM辞書を作成
する。
【0010】
【作用】本発明によれば、以上のように音声認識方法を
構成したので、HMMを用いた音声認識を行う際に、音
声統計学の知識に基づき、出現頻度の高いトライフォン
やダイフォン、それに全ての音素を含むように学習音声
データが選定される。そして、このように選定された学
習音声データで、トライフォン、ダイフォン及び音素の
HMMを学習し、HMM辞書が作成される。認識すると
き、HMM辞書に含まれたモデルのみ用い、連結して単
語HMMを構築する。認識する音声データに対して、各
単語HMMの尤度を計算し、最も大きいものは認識結果
とする。
【0011】これにより、学習と認識音声データの違い
に起因する認識精度の低下が回避され、かつ少ない学習
量という先の提案の利点をそのまま継承しながら、効率
的な学習が行えるばかりか、認識精度の向上が図れる。
従って、前記課題を解決できるのである。
【0012】
【実施例】図4は、本発明の実施例の音声認識方法に用
いられる音声認識装置の機能ブロック図である。この音
声認識装置は、例えば、集積回路等による個別回路、あ
るいはプロセッサを用いたプログラム制御等により構成
されるもので、装置全体を制御する中央制御部1を有
し、それには、アナログ音声信号をアナログ/ディジタ
ル変換(以下、A/D変換という)でディジタル信号に
変換した後に音声分析の前処理等を行う音声分析部2、
及びデータを記憶する記憶部3が接続されている。さら
に、中央制御部1には、音声分析部2の出力に対してベ
クトル量子化を行うベクトル量子化部4、学習音声に含
まれたトライフォン等を計数(カウント)してテーブル
等を生成する文字情報処理演算部5、HMMの学習を行
ってトライフォン等のHMMを生成し、これらのHMM
を連結して単語HMMを生成するHMM学習部6、及び
単語HMMを用いて単語認識を行うHMM認識部7が接
続されている。図1は本発明の実施例を示すもので、図
4の音声認識装置を用いた音声認識方法の処理のフロー
チャート、図5は図1中のトライフォン等のテーブルの
一例を示す図である。これらの図を参照しつつ、本実施
例の音声認識方法を説明する。図1において、アナログ
信号である音声が入力されると(ステップ11)、図4
の音声分析部2では、入力されたアナログ音声信号をA
/D変換によってディジタル信号に変換し(ステップ1
2)、前処理13を行う(ステップ13)。ステップ1
3の前処理では、例えばLPC(Linear Predictive Co
ding,線形予測符号化)分析によるLPCケプストラム
の抽出等により、音声特徴パラメータを抽出する。そし
て、ベクトル量子化部4では、抽出された音声特徴パラ
メータのベクトル量子化を行い(ステップ14)、ステ
ップ15で、学習処理または認識処理へと分かれてい
く。
【0013】学習経路に入ると、図4の文字情報処理演
算部5では、予め選択された学習音声に含まれる全ての
トライフォン、ダイフォン及び音素をカウントし(ステ
ップ16)、それらのトライフォン等を順番にファイル
に書き込み、トライフォン等のテーブルを生成し(ステ
ップ17)、図4の記憶部3に保存する。このステップ
17のテーブルの一例が図5に示されている。図3に示
すように、図5の/a/、/b/、/c/、…は音素、
/aa/、/ab/、/ac/、…はダイフォン、/a
aa/、/aab/、/aac/、…はトライフォンで
ある。
【0014】次に、図4のHMM学習部6は、記憶部3
に保存されたトライフォン等のテーブルを参照しなが
ら、入力音声からトライフォン等に対応する音声データ
(即ち、コードベクトルの系列)を取り込み、トライフ
ォン等のHMMパラメータを推定する(ステップ1
8)。このステップ18の推定には、例えば前記文献2
に記載されたBaum−Welch(B−W)アルゴリ
ズムを用いる。
【0015】即ち、観測ラベル系列O=o1 ,o2 ,
…,oT 及び状態系列I=i1 ,i2,…,iT に対し
て、次式のように前向き変数αt (i)と後向き変数β
t (i)を定義する。 αt (i)=Pr(o1 ,o2 ,…,ot ,it =si ) βt (i)=Pr(ot+1 ,ot+2 ,…,oT |it =si ) そして、状態遷移確率aijとラベル出力確率bj (k)
を次式のように推定する。
【0016】
【数1】 HMM学習部6では、ステップ18でHMMの推定を行
ってトライフォン等のHMM辞書を作り(ステップ2
0)、それを記憶部3に保存する。最後に、HMM学習
部6では、単語HMMを生成するため、トライフォン等
のHMM辞書より該当するHMMを取り出し、それを連
結して単語HMMを生成し(ステップ19)、その生成
された単語HMMを単語HMM辞書の形で記憶部3に保
存し(ステップ21)、学習を終了させる。学習処理が
終わると、ステップ15によって単語認識処理へ移る。
図4のHMM認識部7は、ステップ21で生成された単
語HMM辞書を用いて、ステップ14でベクトル量子化
された入力音声の尤度を計算する(ステップ22)。そ
して、得られた尤度を基にして認識結果を出力し(ステ
ップ23)、認識処理を終了する。
【0017】以上のように、本実施例では、学習処理の
際に、予め学習音声データを選択することによって、H
MM辞書に含まれるトライフォンやダイフォンが出現頻
度の高いものであるため、認識処理を行う際、最も効率
よくトライフォンやダイフォンを利用でき、高精度の音
声認識結果を得ることができる。なお、本発明は図示の
実施例に限定されず、例えば、図1の処理内容を他の内
容に変更したり、あるいはこの音声認識方法を実施する
音声認識装置を、図4以外の構成に変更する等、種々の
変形が可能である。
【0018】
【発明の効果】以上詳細に説明したように、本発明によ
れば、トライフォン、ダイフォン及び音素を混在してH
MMを学習することによる学習量の減少等という効果を
維持しつつ、予め学習音声データを選択することによっ
て、HMM辞書に含まれるトライフォンやダイフォンが
出現頻度の高いものであるため、認識処理を行う際、最
も効率よくトライフォンやダイフォンを利用でき、高精
度の音声認識結果を得ることができる。従って、種々の
応用分野に適用できる。
【図面の簡単な説明】
【図1】本発明の実施例の音声認識方法を示す処理のフ
ローチャートである。
【図2】単語HMMの構造例を示す図である。
【図3】単語“meguro(目黒)”が音素、ダイフ
ォン及びトライフォンに分割された分割例を示す図であ
る。
【図4】本発明の実施例の音声認識方法を実施するため
の音声認識装置の機能ブロック図である。
【図5】図1中のトライフォン等のテーブルの一例を示
す図である。
【符号の説明】
1 中央制御部 2 音声分析部 3 記憶部 4 ベクトル量子化部 5 文字情報処理演算部 6 HMM学習部 7 HMM認識部 16 トライフォン等の計数処理 17 トライフォン等のテーブル 18 トライフォン等のHMMの推定処理 19 単語HMMの生成処理 20 トライフォン等のHMM辞書 21 単語HMM辞書 22 HMM尤度の計算処理

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】 学習音声データベースに含まれたトライ
    フォン、ダイフォン及び音素を計数し、これらのモデル
    を混在してヒドン・マルコフ・モデルの学習を行い、ヒ
    ドン・マルコフ・モデル辞書を作成し、 前記ヒドン・マルコフ・モデルに含まれたモデルのみ用
    い、そのモデルを連結して単語ヒドン・マルコフ・モデ
    ルをそれぞれ構築し、認識する音声データに対して前記
    各単語ヒドン・マルコフ・モデルの尤度を演算して最も
    大きいものを認識結果とする音声認識方法において、 前記トライフォン、ダイフォン及び音素を含む前記学習
    音声データベースの選択に当たって、音声統計学の知識
    により、出現頻度の高い順から採ったトライフォンとダ
    イフォン及び全ての音素を含むような学習音声データベ
    ースを選び、前記ヒドン・マルコフ・モデル辞書を作成
    することを特徴とする音声認識方法。
JP4041773A 1992-02-28 1992-02-28 音声認識方法 Pending JPH05241594A (ja)

Priority Applications (1)

Application Number Priority Date Filing Date Title
JP4041773A JPH05241594A (ja) 1992-02-28 1992-02-28 音声認識方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
JP4041773A JPH05241594A (ja) 1992-02-28 1992-02-28 音声認識方法

Publications (1)

Publication Number Publication Date
JPH05241594A true JPH05241594A (ja) 1993-09-21

Family

ID=12617705

Family Applications (1)

Application Number Title Priority Date Filing Date
JP4041773A Pending JPH05241594A (ja) 1992-02-28 1992-02-28 音声認識方法

Country Status (1)

Country Link
JP (1) JPH05241594A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6895380B2 (en) * 2000-03-02 2005-05-17 Electro Standards Laboratories Voice actuation with contextual learning for intelligent machine control

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6895380B2 (en) * 2000-03-02 2005-05-17 Electro Standards Laboratories Voice actuation with contextual learning for intelligent machine control

Similar Documents

Publication Publication Date Title
US5050215A (en) Speech recognition method
Makhoul et al. State of the art in continuous speech recognition.
US5268990A (en) Method for recognizing speech using linguistically-motivated hidden Markov models
US5165007A (en) Feneme-based Markov models for words
JPH0772840B2 (ja) 音声モデルの構成方法、音声認識方法、音声認識装置及び音声モデルの訓練方法
US5806034A (en) Speaker independent speech recognition method utilizing multiple training iterations
JP2002500779A (ja) 識別訓練されたモデルを用いる音声認識システム
EP0771461A1 (en) Method and apparatus for speech recognition using optimised partial probability mixture tying
KR101014086B1 (ko) 음성 처리 장치 및 방법, 및 기록 매체
US6148284A (en) Method and apparatus for automatic speech recognition using Markov processes on curves
Dupont et al. Hybrid HMM/ANN systems for training independent tasks: Experiments on phonebook and related improvements
US4876720A (en) Speech recognition system
US5960396A (en) Standard pattern production system employing information criterion
EP0238693B1 (en) Speech recognition system and method using statistical models for words
JP2005156593A (ja) 音響モデル作成方法、音響モデル作成装置、音響モデル作成プログラムおよび音声認識装置
Jiang et al. A robust compensation strategy for extraneous acoustic variations in spontaneous speech recognition
JPH09160586A (ja) ヒドン・マルコフ・モデルの学習方法
JPH05232989A (ja) 音響モデルの話者適応化法
JP2976795B2 (ja) 話者適応化方式
JPH05173588A (ja) 音声認識方法
JP3144341B2 (ja) 音声認識装置
JPH05188990A (ja) 音声認識方法
JPH05188989A (ja) 音声認識方法
JPH0786758B2 (ja) 音声認識装置
JP2912513B2 (ja) ヒドン・マルコフ・モデルの学習方法

Legal Events

Date Code Title Description
A02 Decision of refusal

Free format text: JAPANESE INTERMEDIATE CODE: A02

Effective date: 20000704