CN104064183A - 一种基于动态hmm观察符号数的提高语音识别准确率的方法 - Google Patents

一种基于动态hmm观察符号数的提高语音识别准确率的方法 Download PDF

Info

Publication number
CN104064183A
CN104064183A CN201410279788.4A CN201410279788A CN104064183A CN 104064183 A CN104064183 A CN 104064183A CN 201410279788 A CN201410279788 A CN 201410279788A CN 104064183 A CN104064183 A CN 104064183A
Authority
CN
China
Prior art keywords
hmm
observation
recognition
words
symbols
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
CN201410279788.4A
Other languages
English (en)
Other versions
CN104064183B (zh
Inventor
刘明
王明江
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Harbin Institute of Technology Shenzhen
Original Assignee
Harbin Institute of Technology Shenzhen
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Harbin Institute of Technology Shenzhen filed Critical Harbin Institute of Technology Shenzhen
Priority to CN201410279788.4A priority Critical patent/CN104064183B/zh
Publication of CN104064183A publication Critical patent/CN104064183A/zh
Application granted granted Critical
Publication of CN104064183B publication Critical patent/CN104064183B/zh
Expired - Fee Related legal-status Critical Current
Anticipated expiration legal-status Critical

Links

Landscapes

  • Machine Translation (AREA)
  • Information Retrieval, Db Structures And Fs Structures Therefor (AREA)

Abstract

本发明为大规模孤立词语音识别提供了一种提高识别准确率的方法，本发明的方法针对不同的孤立词动态的建立了隐马尔科夫模型观察符号数，解决了不同的孤立词因观察符号数相同而识别准确率低的问题。实验结果表明，本发明的方法在稍许增加识别计算量的前提下，有效地提高了大规模孤立词语音识别的准确率。本发明的方法可以动态调整识别模型的参数，相比于传统的基于统计概率的静态模型的语音识别，采用本发明方法的优势在于针对不同用户自适应的调整识别模型的参数，从而提高识别的准确率。待识别孤立词为10240词，实验结果表明，本发明的方法将总的识别率的平均值由96.3%提高到了99.2%。

Description

一种基于动态HMM观察符号数的提高语音识别准确率的方法
技术领域
本发明涉及孤立词语音识别领域，具体涉及一种提高大规模孤立词语音识别的准确率的方法。
背景技术
隐马尔科夫(HMM)模型是一种反映事件跳转概率、观察样本出现概率的非常好的数学模型，因此将语音特征参数按照一定的算法进行处理，得到HMM概率模型。HMM模型由马尔可夫链演变而来，在语音处理的各个领域获得广泛应用。语音的HMM概率模板的建立，需要语音的特征参数向量的聚类编码，语音向量编码，概率模板训练过程进行前向、后向概率计算，直到得到一个收敛的概率模型。
声学模型通常是将获取的语音特征参数使用特定的概率算法进行训练后产生。在基于HMM的语音识别中，一个声学模型就是一个HMM模型，通常是将获取的语音特征参数使用HMM概率跳转算法进行训练后产生HMM模型集合。待识别语音经过提取和HMM模型一致的特征参数，采用后向贝叶斯概率算法，计算出后验概率，产生最大的后验概率的HMM概率模板所代表的语音样本即为待识别语音。
对语音数据而言，主要是时频采样和频谱变换，有略微时频特性差异的语音都可以建立相应的HMM模型。其次，模型训练就是利用现有的样本对HMM的参数进行调整，使之能够准确描述不同语音对应的语音概率特征。建立模型的过程实际上是对语音做数学建模，并且假定相应的语音特识别概率由这些数学模型计算得到，并且有一个极值。对HMM来说，主要是确定模型的基本拓扑结构，包括事件数目、事件的跳转模式和跳转概率、观察序列概率等。
每个汉语孤立词的HMM观察符号数目是不相同的。孤立词的数量越大，数学模型中概率统计的状态越多，对应到HMM参数中，即不同的词汇其对应的HMM符号数目越多。随着孤立词个数的增加，若使用同一个HMM符号数来代表语音帧向量的内在联系，显然会使识别的准确率下降。
发明内容
为解决现有技术中存在的问题，本发明提出了一种通过动态改变HMM模型的观察符号数目来提高大规模孤立词语音识别准确率的方法，解决了随着识别孤立词数量的增加而识别准确率下降的问题。
本发明通过以下技术方案实现：
一种基于动态HMM观察符号数的提高大规模孤立词语音识别准确率的方法，包括以下步骤：
A.给出初始的HMM模型的事件数和观察符号数，并对模型进行训练，经语音识别过程后，得到一个初始的HMM模型；其中，初始事件数为40，观察符号数目为32，观察序列个数为20，HMM事件跳转概率矩阵为40×20，由观察序列的个数和观察符号数目可以得到一个20×32的观察序列概率矩阵；初始事件概率矢量是一个1×20的行矩阵；
B.初始的事件数N取40，动态地改变N值，步长为2，训练过程中改变HMM事件数来观察每个词汇的识别准确率并进行记录，每个词汇识别准确率百分比最高的HMM事件数N作为该词汇的最优HMM事件数；
C.对于训练所用词库中的每一个词汇，固定步骤B中的HMM的事件数N；动态的改变HMM观察符号数M，步长为2，继续训练得到新的HMM模型，并用训练所用词库中的语音进行孤立词语音识别，待所有词都识别完成后，统计每次改变HMM观察符号数所得到的识别准确率；重复该步骤，找到准确率最大时所对应的HMM观察符号数M；
D.用户的语音录入后经过特征参数提取，结合步骤C得到的HMM模型参数，经过前向概率计算并给出识别结果；然后，自动将该用户录入的词汇的语音结合词库中对应词汇的语音进行训练，重新改变HMM的观察符号数M，并计算得到针对特定人的最佳HMM观察符号数。
本发明的有益效果是：根据初始HMM事件数和符号数训练得到的HMM模型进行孤立词语音识别，观察识别的准确率；在固定HMM事件数的情况下，改变HMM观察符号数，继续训练得到新的HMM模型并进行孤立词语音识别，重复上述过程，对比每次不同观察符号数时的识别率，最大值所对应的观察符号数既是最优的；用户通过输入非标准语音词汇，算法通过学习，自适应改变HMM的观察符号数这一参数来使识别的准确率最大。相比于传统的基于统计概率的静态模型的语音识别，采用本发明方法的优势在于针对不同用户自适应的调整识别模型的参数，从而提高识别的准确率。待识别孤立词为10240词，实验结果表明，本发明的方法将总的识别率的平均值由96.3％提高到了99.2％。
附图说明
图1是本发明的基于动态HMM观察符号数的提高语音识别准确率的方法的流程图。
具体实施方式
下面结合附图说明及具体实施方式对本发明进一步说明。
本发明使用的隐马尔可夫HMM模型概率参数如下：
(1)N，HMM模型中的事件数。HMM模型中事件数是隐含的，在以后的表述中，标记模型中的各个事件为{S1,S2,...,SN}，在t时刻所处的事件为qt。
(2)M，HMM模型中每个事件下可以观察到序列中的元素的数目，即观察符号数。标记各个观察符号为V＝{v1,v2,L,vM}，观察序列为O＝{o1,o2,L,oT}，其中ot为集合V中的一种观察符号，T为观察序列长度。
(3)事件转移概率分布A＝[aij]，其中
aij＝p[qt+1＝Sj|qt＝Si] 1≤i≤N,1≤j≤.。
(4)观察序列概率分布B＝[bj(k)]，其中
bj(k)＝p[ot＝vk|qt＝Sj]1≤k≤M,1≤j≤.。
(5)初始事件概率分布π＝[πi]，其中
πi＝P[q1＝Si] 1≤i≤N。
待识别孤立词中识别正确的词的数目除以所有的待识别孤立词，得到的百分比结果用于表示识别的准确率。
根据Baum-Welch算法由语音特征参数经过聚类计算后得到的编码来计算HMM模型参数时，初始事件概率分布不重要，只要满足概率的和为1即可，只会对计算过程中的迭代次数有轻微影响。因此本发明的初始事件概率分布πi＝1/N。
在具体的计算实现过程中，本发明采用的算法为贝叶斯前向、后向概率计算和Baum-welch算法，附图1是本发明的方法的实现的流程图，详述如下：
1.首先给出初始的HMM模型的事件数和观察符号数；然后，开始对模型进行训练。经语音识别过程后，得到一个初始的HMM模型，此时，该概率模型对不同的词汇不是最优的。模型的参数包括事件数N，每个事件对应的观察符号数M。对离散HMM，观察符号数原则上由样本空间决定，但受计算量的限制，一般可取16～64，经实验，除了某些词，大部分词的M在24～50之间识别的准确率不会有太大波动。
本发明采用HMM的初始事件数为40，观察符号数目为32，观察序列个数为20，HMM事件跳转概率矩阵为40×20维，由观察序列的个数和观察符号数目可以得到一个20×32的观察序列概率矩阵；初始事件概率矢量是一个1×20的行矩阵。
2.获得语音识别结果的准确率，用待识别孤立词中识别正确的词的数目除以所有的待识别孤立词，得到的结果以百分比来标识所述准确率。初始的事件数N取40，动态改变中步长为2。训练过程中改变HMM事件数来观察每个词汇的识别准确率并进行记录。每个词汇识别准曲率百分比最高的HMM事件数作为该词汇的最优HMM事件数。
3.对于每个词汇，固定步骤2中的HMM模型的事件数，动态的改变HMM观察符号数M，M的值的改变步长为2。继续训练得到新的HMM模型，并用训练所用词库中的语音进行孤立词语音识别。待所有词都识别完成后，统计每次改变HMM观察符号数所得到的识别准确率。重复该步骤，找到准确率最大时所对应的HMM观察符号数。
实验表明，在固定了每个词汇最优的HMM事件数目后，通过改变HMM观察符号数，待识别孤立词为10240词时，多次识别准确率的最大值为99.2％；此时，每个词所对应的HMM的观察符号数就是最优的，若继续变化HMM的观察符号数，不论增大还是减小，准确率都会低于99.2％。
4.用户输入语音词汇实现自适应学习，用户的语音录入后，经过参数提取后，结合步骤3得到的词库中的每个词汇的HMM模型参数，经前向概率计算后，得到所有的概率，经过排序，找出最大的概率值，那么此时用户录入的词汇就是最大概率值所对应的那个词库中的词汇。之后，系统使用该用户录入的词汇的语音结合词库中的这个词汇的语音，重新训练得到该词汇的新的HMM模型，即新的观察符号数。
至此，本发明的方法实现了语音识别算法自适应地学习调整模型参数。
以上内容是结合具体的优选实施方式对本发明所作的进一步详细说明，不能认定本发明的具体实施只局限于这些说明。对于本发明所属技术领域的普通技术人员来说，在不脱离本发明构思的前提下，还可以做出若干简单推演或替换，都应当视为属于本发明的保护范围。

Claims (3)

1.一种基于动态HMM观察符号数的提高语音识别准确率的方法，其特征在于，所述方法包括以下步骤：
A.给出初始的HMM模型的参数，所述参数包括事件数和观察符号数，并对模型进行训练，经语音识别过程后，得到一个初始的HMM模型；其中，初始事件数为40，观察符号数目为32，观察序列个数为20，HMM事件跳转概率矩阵为40×20，由观察序列的个数和观察符号数目可以得到一个20×32的观察序列概率矩阵；初始事件概率矢量是一个1×20的行矩阵；
B.初始的事件数N取40，动态地改变N值，步长为2，训练过程中改变HMM事件数来观察每个词汇的识别准确率并进行记录，每个词汇识别准曲率百分比最高的HMM事件数N作为该词汇的最优HMM事件数；
C.对于训练所用词库中的每一个词汇，固定步骤B中的HMM的事件数N；动态的改变HMM观察符号数M，步长为2，继续训练得到新的HMM模型，并用训练所用词库中的语音进行孤立词语音识别，待所有词都识别完成后，统计每次改变HMM观察符号数所得到的识别准确率；重复该步骤，找到准确率最大时所对应的HMM观察符号数M；
D.用户的语音录入后经过特征参数提取，结合步骤C得到的HMM模型参数，经过前向概率计算并给出识别结果后；然后，自动将该用户录入的词汇的语音结合词库中对应词汇的语音进行训练，重新改变HMM的观察符号数M，并计算得到针对特定人的最佳HMM观察符号数。
2.根据权利要求1所述的方法，其特征在于：用待识别孤立词中识别正确的词的数目除以所有的待识别孤立词，得到的结果以百分比来表示所述准确率。
3.根据权利要求1所述的方法，其特征在于：所述步骤C中，找到准确率最大时所对应的HMM观察符号数M，具体为：待识别孤立词为10240词时，多次识别准确率的最大值为99.2％。
CN201410279788.4A 2014-06-20 2014-06-20 一种基于动态hmm观察符号数的提高语音识别准确率的方法 Expired - Fee Related CN104064183B (zh)

Priority Applications (1)

Application Number Priority Date Filing Date Title
CN201410279788.4A CN104064183B (zh) 2014-06-20 2014-06-20 一种基于动态hmm观察符号数的提高语音识别准确率的方法

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
CN201410279788.4A CN104064183B (zh) 2014-06-20 2014-06-20 一种基于动态hmm观察符号数的提高语音识别准确率的方法

Publications (2)

Publication Number Publication Date
CN104064183A true CN104064183A (zh) 2014-09-24
CN104064183B CN104064183B (zh) 2017-12-08

Family

ID=51551862

Family Applications (1)

Application Number Title Priority Date Filing Date
CN201410279788.4A Expired - Fee Related CN104064183B (zh) 2014-06-20 2014-06-20 一种基于动态hmm观察符号数的提高语音识别准确率的方法

Country Status (1)

Country Link
CN (1) CN104064183B (zh)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106384587A (zh) * 2015-07-24 2017-02-08 科大讯飞股份有限公司 一种语音识别方法及系统

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPH0776880B2 (ja) * 1993-01-13 1995-08-16 日本電気株式会社 パターン認識方法および装置
CN101030369B (zh) * 2007-03-30 2011-06-29 清华大学 基于子词隐含马尔可夫模型的嵌入式语音识别方法
JP2011243088A (ja) * 2010-05-20 2011-12-01 Sony Corp データ処理装置、データ処理方法、及び、プログラム

Non-Patent Citations (2)

* Cited by examiner, † Cited by third party
Title
刘德: "孤立词语音识别算法优化的研究和实现", 《中国优秀硕士学位论文全文数据库 信息科技辑》 *
胡磊等: "一种改进的隐马尔可夫模型在语音识别中的应用", 《信息与控制》 *

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
CN106384587A (zh) * 2015-07-24 2017-02-08 科大讯飞股份有限公司 一种语音识别方法及系统

Also Published As

Publication number Publication date
CN104064183B (zh) 2017-12-08

Similar Documents

Publication Publication Date Title
Wang et al. Vqmivc: Vector quantization and mutual information-based unsupervised speech representation disentanglement for one-shot voice conversion
CN102074234B (zh) 语音变异模型建立装置、方法及语音辨识系统和方法
CN109326277B (zh) 半监督的音素强制对齐模型建立方法及系统
CN101989424B (zh) 语音处理设备和方法
CN104681036B (zh) 一种语言音频的检测系统及方法
Zhang et al. Boosted deep neural networks and multi-resolution cochleagram features for voice activity detection.
CN108319666A (zh) 一种基于多模态舆情分析的供电服务评估方法
CN110085215B (zh) 一种基于生成对抗网络的语言模型数据增强方法
CN108492820A (zh) 基于循环神经网络语言模型和深度神经网络声学模型的中文语音识别方法
JP5752060B2 (ja) 情報処理装置、大語彙連続音声認識方法及びプログラム
CN101645269A (zh) 一种语种识别系统及方法
CN104240706B (zh) 一种基于GMM Token配比相似度校正得分的说话人识别方法
CN107808660A (zh) 训练神经网络语言模型的方法和装置及语音识别方法和装置
WO2015134579A1 (en) System and method to correct for packet loss in asr systems
CN106897265A (zh) 词向量训练方法及装置
CN116303966A (zh) 基于提示学习的对话行为识别系统
CN111091809A (zh) 一种深度特征融合的地域性口音识别方法及装置
CN110136699A (zh) 一种基于文本相似度的意图识别方法
Rao et al. Deterministically annealed design of hidden Markov model speech recognizers
CN111179918B (zh) 联结主义时间分类和截断式注意力联合在线语音识别技术
CN1298533A (zh) 用于特殊领域或方言的语音识别器
CN104064179B (zh) 一种基于动态hmm事件数的提高语音识别准确率的方法
Zhou et al. Discriminative training of the hidden vector state model for semantic parsing
CN104064183B (zh) 一种基于动态hmm观察符号数的提高语音识别准确率的方法
CN118522278A (zh) 一种语音识别方法、装置及电子设备

Legal Events

Date Code Title Description
C06 Publication
PB01 Publication
C10 Entry into substantive examination
SE01 Entry into force of request for substantive examination
GR01 Patent grant
GR01 Patent grant
CF01 Termination of patent right due to non-payment of annual fee

Granted publication date: 20171208

Termination date: 20210620

CF01 Termination of patent right due to non-payment of annual fee