JPH0372999B2 - - Google Patents
Info
- Publication number
- JPH0372999B2 JPH0372999B2 JP62053232A JP5323287A JPH0372999B2 JP H0372999 B2 JPH0372999 B2 JP H0372999B2 JP 62053232 A JP62053232 A JP 62053232A JP 5323287 A JP5323287 A JP 5323287A JP H0372999 B2 JPH0372999 B2 JP H0372999B2
- Authority
- JP
- Japan
- Prior art keywords
- word
- phonetic
- model
- models
- markov
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Expired
Links
- 230000002194 synthesizing effect Effects 0.000 claims abstract description 8
- 230000015572 biosynthetic process Effects 0.000 claims description 8
- 238000003786 synthesis reaction Methods 0.000 claims description 8
- 238000003860 storage Methods 0.000 claims description 7
- 238000012549 training Methods 0.000 abstract description 50
- 238000000034 method Methods 0.000 abstract description 42
- 230000007704 transition Effects 0.000 description 50
- 230000000875 corresponding effect Effects 0.000 description 36
- 238000012545 processing Methods 0.000 description 21
- 239000013598 vector Substances 0.000 description 14
- 230000001186 cumulative effect Effects 0.000 description 11
- 238000010586 diagram Methods 0.000 description 10
- 238000004422 calculation algorithm Methods 0.000 description 7
- 230000002596 correlated effect Effects 0.000 description 6
- 230000004044 response Effects 0.000 description 5
- 238000013515 script Methods 0.000 description 5
- 238000010276 construction Methods 0.000 description 4
- 238000009826 distribution Methods 0.000 description 4
- 239000002131 composite material Substances 0.000 description 3
- 230000000694 effects Effects 0.000 description 2
- 230000006870 function Effects 0.000 description 2
- 238000005259 measurement Methods 0.000 description 2
- 238000001308 synthesis method Methods 0.000 description 2
- 238000012935 Averaging Methods 0.000 description 1
- 238000007476 Maximum Likelihood Methods 0.000 description 1
- 238000004458 analytical method Methods 0.000 description 1
- 230000003466 anti-cipated effect Effects 0.000 description 1
- 238000013459 approach Methods 0.000 description 1
- 238000004364 calculation method Methods 0.000 description 1
- 238000010304 firing Methods 0.000 description 1
- 238000007429 general method Methods 0.000 description 1
- 238000004519 manufacturing process Methods 0.000 description 1
- 238000000691 measurement method Methods 0.000 description 1
- 230000001537 neural effect Effects 0.000 description 1
- 230000005236 sound signal Effects 0.000 description 1
- 238000001228 spectrum Methods 0.000 description 1
- 238000007619 statistical method Methods 0.000 description 1
- 238000012360 testing method Methods 0.000 description 1
Classifications
-
- G—PHYSICS
- G10—MUSICAL INSTRUMENTS; ACOUSTICS
- G10L—SPEECH ANALYSIS TECHNIQUES OR SPEECH SYNTHESIS; SPEECH RECOGNITION; SPEECH OR VOICE PROCESSING TECHNIQUES; SPEECH OR AUDIO CODING OR DECODING
- G10L15/00—Speech recognition
- G10L15/08—Speech classification or search
- G10L15/14—Speech classification or search using statistical models, e.g. Hidden Markov Models [HMMs]
Landscapes
- Engineering & Computer Science (AREA)
- Physics & Mathematics (AREA)
- Probability & Statistics with Applications (AREA)
- Computational Linguistics (AREA)
- Health & Medical Sciences (AREA)
- Audiology, Speech & Language Pathology (AREA)
- Human Computer Interaction (AREA)
- Acoustics & Sound (AREA)
- Multimedia (AREA)
- Machine Translation (AREA)
Description
この発明の説明はつぎのとおり行う。
A 産業上の利用分野
B 従来技術
C 発明が解決しようとする問題点
D 問題点を解決するための手段
E 実施例
E1 音声認識システムの環境
E11 一般説明
E12 音声学的ベースフオームの構築
E13 フイーニーム・ベースフオームの構築
E14 単語モデルのトレーニング
E2 発声されない単語のベースフオームの合
成 F 発明の効果 A 産業上の利用分野 本発明は、一般に音声認識に関するものであ
り、具体的には、所定の単語モデルを既知の他の
単語モデルから合成することに関するものであ
る。 B 従来技術 ある種の音声認識方法では、語彙中の単語を単
語モデルで表わしている。この単語モデルを単語
のベースフオームと呼ぶことがある。たとえば
IBM(株)では、実験的音声認識装置で各単語をマ
ルコフ・モデルのシーケンスとして表わしてい
る。各シーケンスがそれ自体マルコフ・モデルで
あることに留意すべきである。 単語モデルを、音声入力に応答して生成された
出力と一緒に使うことにより、音声入力が語彙中
の語と突き合わされる。 ある方法では一組のモデルが定義される。語彙
中のすべての単語のベースフオームが、定義済み
の一組のモデルのうちから選んだ複数のモデルか
ら構築される。 しかし、別の方法では単語を複数のベースフオ
ームで表わすが、それも根拠があると思われる。
この場合、各ベースフオームをそれぞれ対応する
一組のモデルのうちから選んだモデルから構築す
る。すなわち、第1のモデル群に含まれるモデル
から構築されたベースフオームをある目的で音声
認識装置に使用し、第2のモデル群に含まれるモ
デルから構築されたベースフオームを別の目的に
使用することができる。さらに、音響の突き合せ
その他の目的を実施する過程で、いくつかのベー
スフオームを一緒に使用することもできる。 大部分の大語彙(たとえば5000語以上)音声認
識システムでは、単語のベースフオームを、音声
認識装置の各ユーザに合わせて修正する。すなわ
ち、各ベースフオームに関連するある種の変数の
値を決定するために、ユーザが既知の単語からな
る(トレーニング用)テキストを発声する。普
通、各単語ベースフオームは、トレーニング中に
生成されたデータから直接にその変数が設定され
る。単語を(それぞれのモデル群に含まれるモデ
ルから構築された)多重ベースフオームで表わす
場合、すべての単語ベースフオームを「トレーニ
ング」するのに、すなわちその変数値を設定する
のに充分なデータをもたらすのに、長いトレーニ
ング期間が必要であつた。 トレーニング期間が長くかかるのは望ましくな
い。したがつて、ある語彙中のすべての語につい
て多重ベースフオームを構築するのに充分なデー
タを生成しなければならないことは、克服すべき
問題であると考えられるようになつた。 さらに、場合によつては、第2のモデル群に含
まれるモデルから構築されたベースフオームが、
既に存在しているか、または第1のモデル群のモ
デルから構築されたベースフオームと比較して容
易に形成できるものであることがある。さらに、
音声認識体系で必要なベースフオームが、第2の
モデル群のベースフオームではなくて、第1のモ
デル群のうちから選んだモデルのベースフオーム
であることもある。従来は、第2群のベースフオ
ームが知られているか否かにかかわらず、第1の
モデル群からすべてのベースフオームを構築する
には、そのためのトレーニング・データが必要で
あつた。 C 発明が解決しようとする問題点 したがつて、トレーニング期間中に発声されな
かつた単語のベースフオームを合成する手法を提
供することが、本発明の目的である。 D 問題点を解決するための手段 具体的に言うと、本発明では、既知のある種の
単語が、それぞれ(a)第1のモデル群に含まれる単
語モデルから構築されたベースフオームと、(b)第
2のモデル群に含まれる単語モデルから構築され
たベースフオームで表わされるものと仮定する。
また、既知の単語ではこの2つのベースフオーム
を互いに位置合わせすることができるものと仮定
する。さらに、他の単語は、第2のモデル群に含
まれるモデルから構築されたベースフオームで初
めから表わされており、またはすぐに表わせるも
のと仮定する。本発明は、トレーニング期間後に
かかる他の単語に対する(第1のモデル群のうち
から選んだモデルから構築された)ベースフオー
ムを合成するための手法を教示するものである。 すなわち、トレーニング中に生成されたベース
フオームから、第1のモデル群のモデルと所与の
文脈中の第2のモデル群の所与の各モデルとの間
で相関を行こう。所与の文脈中の所与のモデル
が、トレーニング中に発声されなかつた「新」単
語中に現われると、それに対応する「新」単語の
切片が、第1のモデル群中に相関されたモデルで
現わされる。「新」単語の各切片を第1のモデル
群の相関されたモデルで表わし、「新」単語の連
続する切片に対する相関されたモデルを連結する
ことによつて、第1のモデル群に含まれるモデル
から構築されたベースフオームが合成される。 本発明は、上記のことによつて、それ以上のト
レーニングを必要とせずに、既知のベースフオー
ムにもとづいて第1のモデル群に含まれるモデル
から構築されたある種のベースフオームを合成す
るという目的を達成する。 また、本発明は、各ベースフオームを独立にト
レーニングせずに、同じ語に対する異なるベース
フオームを生成するという目的を達成する。 また、本発明は、場合によつては、生成または
形成するのは容易かもしれないが計算上の効率が
低いと思われるベースフオームから、音声認識計
算で使用するのが好ましいモデルのベースフオー
ムを導き出すという目的をも実現する。 さらに、語彙中の単語については音声学に基づ
いく第2のモデル群のベースフオームが既に知ら
れているかまたはすぐに決定できるが、音響処理
装置の出力に関係するモデルのベースフオームを
使うと、認識の精度または速度あるいはその両者
が向上する場合、本発明は、トレーニングの必要
なしにある種の単語の出力に関係するモデルのベ
ースフオームを合成するための手法を提供する。 E 実施例 E1 音声認識システムの環境 E11 一般説明 第1図に、音声認識システム1000の一般的
ブロツク図を示す。システム1000は、スタツ
ク・デコーダ1002と、それに接続されている
音響処理装置1004、音響マツチング要素10
06(好ましくはアレイ処理装置)、および言語
モデル処理装置1010を含んでいる。言語モデ
ル処理送置1010は、何らかの好ましくは文脈
上の基準にもとづいて単語の尤度を決定する。音
響マツチング技術と言語モデルについては、様々
な論文に記載されている。たとえば、下記の論文
で、音声認識の様々な側面とモデル化法が考察さ
れており、ここにそれらの論文を引用する。L.R.
Bahl F.Jelinek R.L.Mercerの、“continuous
Speech Recognition by Statistical Methods”、
Proceedings of the IEEE、Voi.64、PP.532〜
556、(1976);“A Maximum Likelihood Approach to Continuous Speech
Recognition”、IEEE Transactions on pattern
Analysis and Machine Intelligence、Vol.
PAMI−5、NO.2、1983年3月。 音響処理装置1004は、音声波形を出力スト
リングに変換するように設計されている。音声
は、処理装置1004により、選択された諸特徴
に対応するベクトル成分をもつベクトル「空間」
によつて特徴づけられる。従来、かかる特徴に
は、音声スペクトルの様々な周波数におけるエネ
ルギ振幅が含まれていた。音響処理装置1004
は複数の原型ベクトルを記憶する。各原型ベクト
ルは、各成分毎に所定の値をもつ。音声信号入力
が、音響処理装置1004に入るが、これは継続
する時間間隔に分割することが好ましい。各時間
間隔には、かかる間隔中の各種の特徴の値にもと
づいて出力ベクトルを割り当てる。各時間間隔の
出力ベクトルを各原型ベクトルと比較し、各原型
ベクトルについて距離測定を行なう。距離測定
は、通常のベクトル距離測定法で行なうことがで
きる。次に各時間間隔を、特定の原型ベクトルま
たはその他の何らかの出力に関係する関数と関連
づける。 たとえば、各原型ベクトルを、ラベルまたは記
号で識別することができる。それを「フイーニー
ム(feneme)」と呼ぶ。これはフロント・エン
ド・プロセツサ(FE)で得られる微小音系に由
来する名称である。かかる場合、音響処理装置1
004は、各時間間隔ごとにフイーニームを出力
する。したがつて、ある音声入力に対して、音響
処理装置1004はフイーニームのストリングを
生成する。あるアルフアベツト中に200個程度の
異なるフイーニーム(またはラベル)があること
が好ましい。その場合、各時間間隔について、
200個のフイーニームのうちの1つが選択される。 特定の種類の音響処理装置が特開昭61−126600
号公報に記載されている。この公開公報の発明で
は、ベクトル成分に対して選択された特徴が、人
の耳の独自のモデルから導き出される。各ベクト
ル成分は、各周波数帯域の推定神経発火率に対応
する。 音響処理装置1004から出たフイーニーム
は、スタツク・デコーダ1002に入る。スタツ
ク・デコーダ1002は、1本または複数本の見
込みのある単語経路を定義し、見込みのある次の
単語を使つて見込みのある各単語経路を拡張す
る。見込みのある単語経路と見込みのある次の単
語は、部分的に、音響処理装置1004で生成さ
れるラベルにもとづいて決定される。ある新規な
型式のスタツク・デコーダが、特願昭61−32049
号明細書に開示されている。 見込みのある次の単語、あるいはもつと具体的
にいえば、ある経路上で次にくる公算が比較的大
きい候補語のリストを決定する際、音響処理装置
1004からきたフイーニームが、音響マツチン
グ要素1006に送られる。各種の型式の音響マ
ツチングが、特願昭60−255205号明細書に記載さ
れている。 音響マツチング要素1006は、単語モデルに
もとづいて動作する。具体的にいうと、直前に引
用した特許出願に記載されているように、音響マ
ツチングは、単語を確率的有限状態マシンのシー
ケンスとして特徴づけることによつて実施され
る。この有限状態マシンをマルコフ・モデルとも
呼ぶ。 一般に、各マルコフ・モデルがそれぞれある音
声カテゴリに対応しているような1組のマルコ
フ・モデルがある。たとえば、各マルコフ・モデ
ルを、国際音声字冊のある要素に対応させること
ができる。音声文字AAOはそれに対応する音声
マルコフ・モデルをもつことになり、AEO,
AEIもそうであり以下ZXまで同様に続く。 音声学的マルコフ・モデルを用いる場合、各単
語は、まず音声学的要素列によつて定義される。
その語の音声学的要素に対応する音声学的モデル
を連結して、語の音声学的ベースフオームが構築
される。 各音声学的マルコフ・モデルは、第2図に示す
ような構造で表わすのが好ましい。具体的に言う
と、第2図の音声学的マルコフ・モデルは、(a)7
つの状態S1〜S7;(b) 13の遷移tr1〜tr13;(c)各
遷移の確率P〔tr1〕〜P〔tr13〕(図にはP〔tr1〕
だけを示してある);(d)遷移tr1〜tr10でのラベル
出力確率を含んでいる。各ラベル出力確率は、音
声学的マルコフ・モデルの所与の遷移で所与のラ
ベルが生成される尤度に対応する。この尤度はト
レーニング期間中に決定される。たとえば、規定
された音声学的要素列に対応する既知のテキスト
の発声にもとづいて、特定の音声学的モデル(た
とえばAAOの音声モデル)に対する遷移tr1でラ
ベル1が生成される尤度が決定され、P1〔1〕と
して識別される。遷移tr3でラベル200が生成
される尤度も決定され、P3〔200〕として識別さ
れる。同様にトレーニング・データにもとづい
て、各音声学的モデルについて各遷移tr1〜tr10
での各ラベルのラベル出力確率が決定され、識別
される。 遷移tr11〜tr13は、空遷移である。空白遷移で
はラベルは生成されない。したがつて、それには
ラベル出力確率は割り当てられない。 すべての遷移tr1〜tr13の遷移確率も、トレー
ニング中に生成されたデータから、周知のフオワ
ード・バツクワード・アルゴリズムを適用して導
き出される。 簡単な説明として、第2図はAAOなどの音声
要素を示し、AAO音の発声が状態S1から状態S7
に向つて種々の経路をとり得る様子を示す。遷移
tr11に従うなら、AAO音声要素はラベルを生成
しない。その代りに、状態S1から状態S2または
状態S4に向う経路に従うこともできる。このど
ちらかの経路をとる場合は、ラベルが生成され
る。これらの代替経路を第3図に示す。 第3図で、水平軸はラベルが生成される時間間
隔を表わす。実線は、ラベル間隔中にモデル内で
起こり得る遷移を示す。点線は、従うことのでき
る空遷移を示す。 第4図に、開始時間t0から始まる連続するラベ
ル間隔でのマルコフ音声学的モデルを描いた格子
を示す。時間t0は、音響処理装置1004によつ
てストリング中の最初のラベルが生成される時間
に対応する。t0が状態S1に対応するとして、例と
して、最終状態S7に至る様々な経路を図示して
ある。ある経路では、状態S1から状態S2に至り、
そこから状態S3に至る。すなわち2つの非空遷
移に従う。状態S3から状態S7へは、ラベルが生
成されない経路と、非空遷移に従う経路とがあ
る。あるラベル列について、1つまたは複数の音
声学的モデルの遷移に沿つた様々な経路があるこ
とが認められる。 音声学的マルコフ単語モデルを第5図に示す。
第5図aに、“THE”の語を、そのある発音にも
とづいて、順に並んだ3つの音声要素として示
す。この音声要素は、DH、UH1、およびXXで
ある。第5図bでは、DH、UH1、およびXXに
対する音声学的マルコフ・モデルを連結して、語
“THE”の音声学的単語ベースフオームを形成す
る。 第4図のような格子を、ある音声入力(たとえ
ば、単語“THE”)に応じて生成されるすべての
ラベルを含むように拡張することができる。拡張
格子では、状態間の遷移には確率が割り当てら
れ、またラベル出力確率も遷移に割り当てられる
ことに留意すべきである。 単語の尤度を評価する過程には、どの単語モデ
ルが、時間t0,t1等々で(音声入力に応じて音響
処理装置1004によつて)レベルが生成される
尤度が最大であるかを決定することが含まれる。
音響マツチング要素をどのように使つて単語の尤
度を決定するかの詳細な説明は、音響マツチング
要素に関する前述の特許出願に記されている。 音声学的ベースフオームを構築するのに使われ
ている音声学的モデルの他に、音響マツチング要
素にはフイーニーム型マルコフ・モデルも使われ
てきた。具体的にいうと、第2図のような比較的
複雑な音声モデルの代りに、フイーニームにもと
づく1組のマルコフ・モデルが使われてきた。フ
イーニーム型マルコフ・モデルを第6図に示す。
フイーニーム型マルコフ・モデルは、2つの状態
S1,S2と3つの遷移を含む簡単な構造であるこ
とが認められる。1つの非空遷移は、S1からS2
へ延び、第2の非空遷移は状態S1から自分自身
に戻る自己ループとなつている。空遷移は状態
S1から状態S2へ延びている。この3つの遷移に
はそれぞれ確率が割り当てられ、2つの非空遷移
それぞれに、トレーニング期間中に生成されたデ
ータから導き出されたラベル出力確率がある。フ
イーニーム型モデルにもとづく格子を第7図に示
す。第8図では、単語のフイーニーム型ベースフ
オームを形成する場合のように、複数のフイーニ
ーム型マルコフ・モデルが連結されている。 第8図の表記法について簡単に考察する。
FP200は、通常200個の異なるフイーニームを含
むフイーニーム・アルフアベツト(フイーニーム
集合)の200番目のフイーニームに対応するフイ
ーニーム型音声を指す。同様に、FP10はフイー
ニーム・アルフアベツトの10番目のフイーニーム
に対応する。FP200、FP10等々を連結すると、
単語のフイーニーム型ベースフオームとなる。各
フイーニームは、通常0.01秒継続し、通常の発音
された語の長さはフイーニーム数でいうと平均80
〜100である。さらに、各フイーニーム型モデル
は平均約1つのフイーニームを生成するため、通
常のフイーニーム型ベースフオームの長さをフイ
ーニーム型モデル約80−100個である。FP200の
第2の遷移の確率を、P〔tr2F200〕で表わす。
FP200のモデルがその第2遷移でラベル1を生成
する確率はP″F200〔1〕で表わす。FP200モデル
は、実際には200番目のフイーニームを生成する
ようにスキユーすることもできる。だが、発音の
変動のために、FP200モデルが他のフイーニーム
を生成する確率もある。 下記の2節では、それぞれ音声学的マルコフ・
モデルとフイーニーム型マルコフ・モデルから単
語ベースフオームを構築するための方法の概要を
説明する。この2種のベースフオームを検討する
と、音声学的ベースフオームの方がそれに含まれ
る連結されたモデルの数が少ないが、音声学的モ
デルで必要な計算は、フイーニーム型モデルで必
要な計算よりも著しく多いことが認められる。ま
た、音声学的ベースフオームは音声学的の手で規
定されるが、フイーニーム型基本形式は、E13節
に引用する特許出願に記載されているように音声
学者の手を煩わさずに自動的に構築されてきた。 E12 音声学的ベースフオームの構築 各単語ごとに、音声学的サウンド列があり、そ
のそれぞれがそれに対応する音声学的モデル(音
声学的“単音”マシンとも呼ぶ)を有する。好ま
しくは、各非空遷移で、各フイーニームの生成に
何らかの確率が付随している(フイーニーム・ア
ルフアベツトを第1表に示す)。各種の音声学的
単音マシンにおける遷移確率およびフイーニーム
確率は、トレーニング中に、既知の音声が少くと
も1度発声されたときに生成されるフイーニー
ム・ストリングを記録し、周知のフオワード・バ
ツクワード・アルゴリズムを適用することによつ
て、決定される。
成 F 発明の効果 A 産業上の利用分野 本発明は、一般に音声認識に関するものであ
り、具体的には、所定の単語モデルを既知の他の
単語モデルから合成することに関するものであ
る。 B 従来技術 ある種の音声認識方法では、語彙中の単語を単
語モデルで表わしている。この単語モデルを単語
のベースフオームと呼ぶことがある。たとえば
IBM(株)では、実験的音声認識装置で各単語をマ
ルコフ・モデルのシーケンスとして表わしてい
る。各シーケンスがそれ自体マルコフ・モデルで
あることに留意すべきである。 単語モデルを、音声入力に応答して生成された
出力と一緒に使うことにより、音声入力が語彙中
の語と突き合わされる。 ある方法では一組のモデルが定義される。語彙
中のすべての単語のベースフオームが、定義済み
の一組のモデルのうちから選んだ複数のモデルか
ら構築される。 しかし、別の方法では単語を複数のベースフオ
ームで表わすが、それも根拠があると思われる。
この場合、各ベースフオームをそれぞれ対応する
一組のモデルのうちから選んだモデルから構築す
る。すなわち、第1のモデル群に含まれるモデル
から構築されたベースフオームをある目的で音声
認識装置に使用し、第2のモデル群に含まれるモ
デルから構築されたベースフオームを別の目的に
使用することができる。さらに、音響の突き合せ
その他の目的を実施する過程で、いくつかのベー
スフオームを一緒に使用することもできる。 大部分の大語彙(たとえば5000語以上)音声認
識システムでは、単語のベースフオームを、音声
認識装置の各ユーザに合わせて修正する。すなわ
ち、各ベースフオームに関連するある種の変数の
値を決定するために、ユーザが既知の単語からな
る(トレーニング用)テキストを発声する。普
通、各単語ベースフオームは、トレーニング中に
生成されたデータから直接にその変数が設定され
る。単語を(それぞれのモデル群に含まれるモデ
ルから構築された)多重ベースフオームで表わす
場合、すべての単語ベースフオームを「トレーニ
ング」するのに、すなわちその変数値を設定する
のに充分なデータをもたらすのに、長いトレーニ
ング期間が必要であつた。 トレーニング期間が長くかかるのは望ましくな
い。したがつて、ある語彙中のすべての語につい
て多重ベースフオームを構築するのに充分なデー
タを生成しなければならないことは、克服すべき
問題であると考えられるようになつた。 さらに、場合によつては、第2のモデル群に含
まれるモデルから構築されたベースフオームが、
既に存在しているか、または第1のモデル群のモ
デルから構築されたベースフオームと比較して容
易に形成できるものであることがある。さらに、
音声認識体系で必要なベースフオームが、第2の
モデル群のベースフオームではなくて、第1のモ
デル群のうちから選んだモデルのベースフオーム
であることもある。従来は、第2群のベースフオ
ームが知られているか否かにかかわらず、第1の
モデル群からすべてのベースフオームを構築する
には、そのためのトレーニング・データが必要で
あつた。 C 発明が解決しようとする問題点 したがつて、トレーニング期間中に発声されな
かつた単語のベースフオームを合成する手法を提
供することが、本発明の目的である。 D 問題点を解決するための手段 具体的に言うと、本発明では、既知のある種の
単語が、それぞれ(a)第1のモデル群に含まれる単
語モデルから構築されたベースフオームと、(b)第
2のモデル群に含まれる単語モデルから構築され
たベースフオームで表わされるものと仮定する。
また、既知の単語ではこの2つのベースフオーム
を互いに位置合わせすることができるものと仮定
する。さらに、他の単語は、第2のモデル群に含
まれるモデルから構築されたベースフオームで初
めから表わされており、またはすぐに表わせるも
のと仮定する。本発明は、トレーニング期間後に
かかる他の単語に対する(第1のモデル群のうち
から選んだモデルから構築された)ベースフオー
ムを合成するための手法を教示するものである。 すなわち、トレーニング中に生成されたベース
フオームから、第1のモデル群のモデルと所与の
文脈中の第2のモデル群の所与の各モデルとの間
で相関を行こう。所与の文脈中の所与のモデル
が、トレーニング中に発声されなかつた「新」単
語中に現われると、それに対応する「新」単語の
切片が、第1のモデル群中に相関されたモデルで
現わされる。「新」単語の各切片を第1のモデル
群の相関されたモデルで表わし、「新」単語の連
続する切片に対する相関されたモデルを連結する
ことによつて、第1のモデル群に含まれるモデル
から構築されたベースフオームが合成される。 本発明は、上記のことによつて、それ以上のト
レーニングを必要とせずに、既知のベースフオー
ムにもとづいて第1のモデル群に含まれるモデル
から構築されたある種のベースフオームを合成す
るという目的を達成する。 また、本発明は、各ベースフオームを独立にト
レーニングせずに、同じ語に対する異なるベース
フオームを生成するという目的を達成する。 また、本発明は、場合によつては、生成または
形成するのは容易かもしれないが計算上の効率が
低いと思われるベースフオームから、音声認識計
算で使用するのが好ましいモデルのベースフオー
ムを導き出すという目的をも実現する。 さらに、語彙中の単語については音声学に基づ
いく第2のモデル群のベースフオームが既に知ら
れているかまたはすぐに決定できるが、音響処理
装置の出力に関係するモデルのベースフオームを
使うと、認識の精度または速度あるいはその両者
が向上する場合、本発明は、トレーニングの必要
なしにある種の単語の出力に関係するモデルのベ
ースフオームを合成するための手法を提供する。 E 実施例 E1 音声認識システムの環境 E11 一般説明 第1図に、音声認識システム1000の一般的
ブロツク図を示す。システム1000は、スタツ
ク・デコーダ1002と、それに接続されている
音響処理装置1004、音響マツチング要素10
06(好ましくはアレイ処理装置)、および言語
モデル処理装置1010を含んでいる。言語モデ
ル処理送置1010は、何らかの好ましくは文脈
上の基準にもとづいて単語の尤度を決定する。音
響マツチング技術と言語モデルについては、様々
な論文に記載されている。たとえば、下記の論文
で、音声認識の様々な側面とモデル化法が考察さ
れており、ここにそれらの論文を引用する。L.R.
Bahl F.Jelinek R.L.Mercerの、“continuous
Speech Recognition by Statistical Methods”、
Proceedings of the IEEE、Voi.64、PP.532〜
556、(1976);“A Maximum Likelihood Approach to Continuous Speech
Recognition”、IEEE Transactions on pattern
Analysis and Machine Intelligence、Vol.
PAMI−5、NO.2、1983年3月。 音響処理装置1004は、音声波形を出力スト
リングに変換するように設計されている。音声
は、処理装置1004により、選択された諸特徴
に対応するベクトル成分をもつベクトル「空間」
によつて特徴づけられる。従来、かかる特徴に
は、音声スペクトルの様々な周波数におけるエネ
ルギ振幅が含まれていた。音響処理装置1004
は複数の原型ベクトルを記憶する。各原型ベクト
ルは、各成分毎に所定の値をもつ。音声信号入力
が、音響処理装置1004に入るが、これは継続
する時間間隔に分割することが好ましい。各時間
間隔には、かかる間隔中の各種の特徴の値にもと
づいて出力ベクトルを割り当てる。各時間間隔の
出力ベクトルを各原型ベクトルと比較し、各原型
ベクトルについて距離測定を行なう。距離測定
は、通常のベクトル距離測定法で行なうことがで
きる。次に各時間間隔を、特定の原型ベクトルま
たはその他の何らかの出力に関係する関数と関連
づける。 たとえば、各原型ベクトルを、ラベルまたは記
号で識別することができる。それを「フイーニー
ム(feneme)」と呼ぶ。これはフロント・エン
ド・プロセツサ(FE)で得られる微小音系に由
来する名称である。かかる場合、音響処理装置1
004は、各時間間隔ごとにフイーニームを出力
する。したがつて、ある音声入力に対して、音響
処理装置1004はフイーニームのストリングを
生成する。あるアルフアベツト中に200個程度の
異なるフイーニーム(またはラベル)があること
が好ましい。その場合、各時間間隔について、
200個のフイーニームのうちの1つが選択される。 特定の種類の音響処理装置が特開昭61−126600
号公報に記載されている。この公開公報の発明で
は、ベクトル成分に対して選択された特徴が、人
の耳の独自のモデルから導き出される。各ベクト
ル成分は、各周波数帯域の推定神経発火率に対応
する。 音響処理装置1004から出たフイーニーム
は、スタツク・デコーダ1002に入る。スタツ
ク・デコーダ1002は、1本または複数本の見
込みのある単語経路を定義し、見込みのある次の
単語を使つて見込みのある各単語経路を拡張す
る。見込みのある単語経路と見込みのある次の単
語は、部分的に、音響処理装置1004で生成さ
れるラベルにもとづいて決定される。ある新規な
型式のスタツク・デコーダが、特願昭61−32049
号明細書に開示されている。 見込みのある次の単語、あるいはもつと具体的
にいえば、ある経路上で次にくる公算が比較的大
きい候補語のリストを決定する際、音響処理装置
1004からきたフイーニームが、音響マツチン
グ要素1006に送られる。各種の型式の音響マ
ツチングが、特願昭60−255205号明細書に記載さ
れている。 音響マツチング要素1006は、単語モデルに
もとづいて動作する。具体的にいうと、直前に引
用した特許出願に記載されているように、音響マ
ツチングは、単語を確率的有限状態マシンのシー
ケンスとして特徴づけることによつて実施され
る。この有限状態マシンをマルコフ・モデルとも
呼ぶ。 一般に、各マルコフ・モデルがそれぞれある音
声カテゴリに対応しているような1組のマルコ
フ・モデルがある。たとえば、各マルコフ・モデ
ルを、国際音声字冊のある要素に対応させること
ができる。音声文字AAOはそれに対応する音声
マルコフ・モデルをもつことになり、AEO,
AEIもそうであり以下ZXまで同様に続く。 音声学的マルコフ・モデルを用いる場合、各単
語は、まず音声学的要素列によつて定義される。
その語の音声学的要素に対応する音声学的モデル
を連結して、語の音声学的ベースフオームが構築
される。 各音声学的マルコフ・モデルは、第2図に示す
ような構造で表わすのが好ましい。具体的に言う
と、第2図の音声学的マルコフ・モデルは、(a)7
つの状態S1〜S7;(b) 13の遷移tr1〜tr13;(c)各
遷移の確率P〔tr1〕〜P〔tr13〕(図にはP〔tr1〕
だけを示してある);(d)遷移tr1〜tr10でのラベル
出力確率を含んでいる。各ラベル出力確率は、音
声学的マルコフ・モデルの所与の遷移で所与のラ
ベルが生成される尤度に対応する。この尤度はト
レーニング期間中に決定される。たとえば、規定
された音声学的要素列に対応する既知のテキスト
の発声にもとづいて、特定の音声学的モデル(た
とえばAAOの音声モデル)に対する遷移tr1でラ
ベル1が生成される尤度が決定され、P1〔1〕と
して識別される。遷移tr3でラベル200が生成
される尤度も決定され、P3〔200〕として識別さ
れる。同様にトレーニング・データにもとづい
て、各音声学的モデルについて各遷移tr1〜tr10
での各ラベルのラベル出力確率が決定され、識別
される。 遷移tr11〜tr13は、空遷移である。空白遷移で
はラベルは生成されない。したがつて、それには
ラベル出力確率は割り当てられない。 すべての遷移tr1〜tr13の遷移確率も、トレー
ニング中に生成されたデータから、周知のフオワ
ード・バツクワード・アルゴリズムを適用して導
き出される。 簡単な説明として、第2図はAAOなどの音声
要素を示し、AAO音の発声が状態S1から状態S7
に向つて種々の経路をとり得る様子を示す。遷移
tr11に従うなら、AAO音声要素はラベルを生成
しない。その代りに、状態S1から状態S2または
状態S4に向う経路に従うこともできる。このど
ちらかの経路をとる場合は、ラベルが生成され
る。これらの代替経路を第3図に示す。 第3図で、水平軸はラベルが生成される時間間
隔を表わす。実線は、ラベル間隔中にモデル内で
起こり得る遷移を示す。点線は、従うことのでき
る空遷移を示す。 第4図に、開始時間t0から始まる連続するラベ
ル間隔でのマルコフ音声学的モデルを描いた格子
を示す。時間t0は、音響処理装置1004によつ
てストリング中の最初のラベルが生成される時間
に対応する。t0が状態S1に対応するとして、例と
して、最終状態S7に至る様々な経路を図示して
ある。ある経路では、状態S1から状態S2に至り、
そこから状態S3に至る。すなわち2つの非空遷
移に従う。状態S3から状態S7へは、ラベルが生
成されない経路と、非空遷移に従う経路とがあ
る。あるラベル列について、1つまたは複数の音
声学的モデルの遷移に沿つた様々な経路があるこ
とが認められる。 音声学的マルコフ単語モデルを第5図に示す。
第5図aに、“THE”の語を、そのある発音にも
とづいて、順に並んだ3つの音声要素として示
す。この音声要素は、DH、UH1、およびXXで
ある。第5図bでは、DH、UH1、およびXXに
対する音声学的マルコフ・モデルを連結して、語
“THE”の音声学的単語ベースフオームを形成す
る。 第4図のような格子を、ある音声入力(たとえ
ば、単語“THE”)に応じて生成されるすべての
ラベルを含むように拡張することができる。拡張
格子では、状態間の遷移には確率が割り当てら
れ、またラベル出力確率も遷移に割り当てられる
ことに留意すべきである。 単語の尤度を評価する過程には、どの単語モデ
ルが、時間t0,t1等々で(音声入力に応じて音響
処理装置1004によつて)レベルが生成される
尤度が最大であるかを決定することが含まれる。
音響マツチング要素をどのように使つて単語の尤
度を決定するかの詳細な説明は、音響マツチング
要素に関する前述の特許出願に記されている。 音声学的ベースフオームを構築するのに使われ
ている音声学的モデルの他に、音響マツチング要
素にはフイーニーム型マルコフ・モデルも使われ
てきた。具体的にいうと、第2図のような比較的
複雑な音声モデルの代りに、フイーニームにもと
づく1組のマルコフ・モデルが使われてきた。フ
イーニーム型マルコフ・モデルを第6図に示す。
フイーニーム型マルコフ・モデルは、2つの状態
S1,S2と3つの遷移を含む簡単な構造であるこ
とが認められる。1つの非空遷移は、S1からS2
へ延び、第2の非空遷移は状態S1から自分自身
に戻る自己ループとなつている。空遷移は状態
S1から状態S2へ延びている。この3つの遷移に
はそれぞれ確率が割り当てられ、2つの非空遷移
それぞれに、トレーニング期間中に生成されたデ
ータから導き出されたラベル出力確率がある。フ
イーニーム型モデルにもとづく格子を第7図に示
す。第8図では、単語のフイーニーム型ベースフ
オームを形成する場合のように、複数のフイーニ
ーム型マルコフ・モデルが連結されている。 第8図の表記法について簡単に考察する。
FP200は、通常200個の異なるフイーニームを含
むフイーニーム・アルフアベツト(フイーニーム
集合)の200番目のフイーニームに対応するフイ
ーニーム型音声を指す。同様に、FP10はフイー
ニーム・アルフアベツトの10番目のフイーニーム
に対応する。FP200、FP10等々を連結すると、
単語のフイーニーム型ベースフオームとなる。各
フイーニームは、通常0.01秒継続し、通常の発音
された語の長さはフイーニーム数でいうと平均80
〜100である。さらに、各フイーニーム型モデル
は平均約1つのフイーニームを生成するため、通
常のフイーニーム型ベースフオームの長さをフイ
ーニーム型モデル約80−100個である。FP200の
第2の遷移の確率を、P〔tr2F200〕で表わす。
FP200のモデルがその第2遷移でラベル1を生成
する確率はP″F200〔1〕で表わす。FP200モデル
は、実際には200番目のフイーニームを生成する
ようにスキユーすることもできる。だが、発音の
変動のために、FP200モデルが他のフイーニーム
を生成する確率もある。 下記の2節では、それぞれ音声学的マルコフ・
モデルとフイーニーム型マルコフ・モデルから単
語ベースフオームを構築するための方法の概要を
説明する。この2種のベースフオームを検討する
と、音声学的ベースフオームの方がそれに含まれ
る連結されたモデルの数が少ないが、音声学的モ
デルで必要な計算は、フイーニーム型モデルで必
要な計算よりも著しく多いことが認められる。ま
た、音声学的ベースフオームは音声学的の手で規
定されるが、フイーニーム型基本形式は、E13節
に引用する特許出願に記載されているように音声
学者の手を煩わさずに自動的に構築されてきた。 E12 音声学的ベースフオームの構築 各単語ごとに、音声学的サウンド列があり、そ
のそれぞれがそれに対応する音声学的モデル(音
声学的“単音”マシンとも呼ぶ)を有する。好ま
しくは、各非空遷移で、各フイーニームの生成に
何らかの確率が付随している(フイーニーム・ア
ルフアベツトを第1表に示す)。各種の音声学的
単音マシンにおける遷移確率およびフイーニーム
確率は、トレーニング中に、既知の音声が少くと
も1度発声されたときに生成されるフイーニー
ム・ストリングを記録し、周知のフオワード・バ
ツクワード・アルゴリズムを適用することによつ
て、決定される。
【表】
例として、音DHの統計のサンプルを第2表に
示す。近似的に、第2図の単音マシンの遷移tr1,
tr2,tr8に対するラベル出力確率分布を1つの分
布で表わし、遷移tr3,tr4,tr5,tr9を1つの分
布で表わし、遷移tr6,tr7,tr10を1つの分布で
表わす。これを、弧(すなわち遷移)をそれぞれ
の欄4,5、または6に割り当てる形で、第2表
に示す。第2表は各遷移の確率および、あるラベ
ル(すなわちフイーニーム)が音声学的要素(す
なわち「音」)DHの始め、中間、または終りで
生成される確率を示したものである。たとえば音
DHでは、状態S1から状態S2への遷移の確率は
0.07243とカウントされる。状態S1から状態S4へ
の遷移の確率は0.92757である(この場合、この
2つだけが初期状態からの可能な遷移であり、そ
の合計が1となる)。ラベル出力確率については、
音DHは、その終りの部分、すなわち第2表の第
6欄でフイーニームAE13(第1表参照)を生成す
る確率が0.091である。また第2表では、各ノー
ド(または状態)にカウントが関連している。ノ
ード・カウントは、トレーニング中に音がそれに
対応する状態になつた回数を示すものである。各
音声学的モデル、または音声学的単音マシンごと
に第2表のような統計が見出される。 音声学的単音マシンを単語ベースフオームのシ
ーケンスに配列する過程は、通常音声学者の手で
実施され、通常は自動的には行なわれない。
示す。近似的に、第2図の単音マシンの遷移tr1,
tr2,tr8に対するラベル出力確率分布を1つの分
布で表わし、遷移tr3,tr4,tr5,tr9を1つの分
布で表わし、遷移tr6,tr7,tr10を1つの分布で
表わす。これを、弧(すなわち遷移)をそれぞれ
の欄4,5、または6に割り当てる形で、第2表
に示す。第2表は各遷移の確率および、あるラベ
ル(すなわちフイーニーム)が音声学的要素(す
なわち「音」)DHの始め、中間、または終りで
生成される確率を示したものである。たとえば音
DHでは、状態S1から状態S2への遷移の確率は
0.07243とカウントされる。状態S1から状態S4へ
の遷移の確率は0.92757である(この場合、この
2つだけが初期状態からの可能な遷移であり、そ
の合計が1となる)。ラベル出力確率については、
音DHは、その終りの部分、すなわち第2表の第
6欄でフイーニームAE13(第1表参照)を生成す
る確率が0.091である。また第2表では、各ノー
ド(または状態)にカウントが関連している。ノ
ード・カウントは、トレーニング中に音がそれに
対応する状態になつた回数を示すものである。各
音声学的モデル、または音声学的単音マシンごと
に第2表のような統計が見出される。 音声学的単音マシンを単語ベースフオームのシ
ーケンスに配列する過程は、通常音声学者の手で
実施され、通常は自動的には行なわれない。
【表】
【表】
E13 フイーニーム・ベースフオームの構築
各遷移に関連する確率、および第6図に示した
ようなあるフイーニーム・モデルの遷移で各ラベ
ルに関連する確率は、トレーニング期間中に、音
声学的ベースフオームで音声学的モデルをトレー
ニングする場合と類似のやり方で決定される。 フイーニーム型単語ベースフオームは、フイー
ニーム型単音を連結して構築される。その1つの
方法が、1985年2月1日出願の米国特許出願S.
N.697174号に記載されている。単語のフイーニ
ーム・ベースフオームは、当該の単語の複数回の
発声から成長させることが好ましい。このこと
は、米国特許出願S.N.06/738933号に記載され
ている。この開示を、本発明の充分な開示に必要
な範囲でここに引用する。簡単に言うと、複数回
の発声から語の基本形式を成長させる1つの方法
は、下記の各ステツプを含むものである。 (a) 単語セグメントの複数回の発声を、それぞれ
フイーニーム・ストリングに変形する。 (b) 一組のフイーニーム型マルコフ・モデル単音
マシンを定義する。 (c) 多重フイーニーム・ストリングを生成するの
に最良の1つの単音マシンP1を決定する。 (d) 多重フイーニーム・ストリングを生成するた
めの、P1P2またはP2P1の形の最良の二音ベー
スフオームを決定する。 (e) 各フイーニーム・ストリングに対して、最良
の二音ベースフオームを位置合せする。 (f) 各フイーニーム・ストリングを、二音ベース
フオームの第1の単音マシンに対応すう左部分
と、二音ベースフオームの第2の単音マシンに
対応する右部分に分割する。 (g) 各左部分を左サブストリングと名づけ、各右
部分を右サブストリングと名づける。 (h) 複数回の発声に対応する一組のフイーニー
ム・ストリングと同じやり方で一組の左サブス
トリングを処理するが、さらに単音ベースフオ
ームの方が最良の二音ベースフオームよりも所
定のサブストリングを生成する確率が高いと
き、そのサブストリングの再分割を禁止するス
テツプを含む。 (j) 複数回の発声に対応する一組のフイーニー
ム・ストリングと同じやり方で一組の右サブス
トリングを処理するが、さらに単音ベースフオ
ームの方が最良の二音ベースフオームよりも所
定のサブストリングを生成する確率が高いと
き、そのサブストリングの再分割を禁止するス
テツプを含む。 (k) 分割されなかつた単一の単音をそれらに対応
するフイーニーム・サブストリングの順序と同
じ順序で連結する。 ベースフオーム・モデルは、既知の発声を音響
処理装置に声を出して入力することにより、さら
にそこでそれに応じたラベルのストリングを生成
させることによつて、トレーニング(または統計
で充填)される。既知の発声と生成されたラベル
にもとづいて、上記に引用した諸論文で考察され
ているフオワード・バツクワード・アルゴリズム
によつて、語モデルの統計が導き出される。 第7図に、フイーニーム型単音に対応する格子
を示す。この格子は、音声学的モデル体系に関係
する第4図の格子に比べて、ずつと簡単である。 音声学的ベースフオームとフイーニーム・ベー
スフオームとは、どららも音響マツチング要素中
で、また他の音声認識の目的に使用できる。 E14 単語モデルのトレーニング 良好なトレーニングの方法は、L.R.Bahl、P.
F.Brown、P.V.Desouza、およびR.L.Mercerが
発明し、IBM(株)に譲渡された、“音声認識システ
ムで使用されるマルコフ・モデルのトレーニング
の改良(Improving the Training of Markov
Models Used in a Speech Recognition
System)”と題する同時係属の米国特許出願で教
示されている。この開示をここに引用する。この
開示では、トレーニングは、他の単語に関連する
確率に比べて正しい単語の確率を向上させる形
で、各単語のベースフオームの統計を決定するこ
とを含んでいる。他の方法のようにラベルにスク
リプトが与えられる確率を最大にするのではな
く、発声された単語の正しいスクリプトにラベル
出力が与えられる確率と他の(正しくない)スク
リプトの確率と差を最大にするというのが、その
考え方である。 かかる方法によると、(語彙中の各単語が少な
くも1つの確率的有限状態モデルのあるベースフ
オームで表わされ、かつ各確率的有限状態モデル
が遷移確率項目と出力確率項目を有する、コミユ
ニケートされた音声入力に応答して出力のアルフ
アベツトのうちから選択された出力から語彙中の
ある単語をデコードするためのシステムにおい
て)既知の単語のコミユニケートに応答して生成
される出力が既知の単語のベースフオームによつ
て生成される尤度が、生成される出力が他の少く
とも1つの単語のベースフオームによつて生成さ
れる尤度に比べて高くなるように、記憶済みの確
率項目の値の少くとも一部分をバイアスさせるス
テツプを含む、確率項目の値を決定する方法が提
供される。 各単語(または語のはつきりした発音、これを
“語彙素”と呼ぶ)は、列となつた1つまたは複
数の確率的有限状態マシン(またはモデル)で表
わすことが好ましい。各マシンは、一組の音声の
うちのある“音声”に対応する。各音声は、音声
的要素、ラベル(またはフイーニーム)、あるい
はマルコフ・モデルまたは類似のモデルを指定で
きる他の何らかの事前に定義された音声の特性と
相関する。 トレーニング・スクリプトは、通常一連の既知
の語から構成される。 ここに記載するトレーニング方法によれば、確
率項目に付随する確率値は、下記のようにして評
価される。 各確率項目について、推定値0′が設定される。
推定値0′とトレーニング中に生成されたラベル
が与えられているものとすると、“単一カウント”
と呼ばれる値が決定される。“単一カウント”は、
一般に訓練データにもとづいて、ある事象が発生
する(予想)回数に関係する。“単一カウント”
のある特定の定義は、(a)あるラベルのストリング
Y、(b)定義された推定値0′、および(c)特定の時
間tが与えられているものとして、特定の遷移τi
および状態Sjの確率である。 上記の単一カウントは、周知のフオワード・バ
ツクワード・アルゴリズム、またはバウム・ヴエ
ルヒ・アルゴリズムを適用して決定する。 上記の定義によれば、単一カウントは、次式で
表わすことができる。 Pr(Sj、τi―Y、O、τ) 各時間tで特定のSj、τi、Y、O′に対する単一
カウントを合計すると、それに対応する遷移確率
項目について、“遷移累積カウント”が決定され
る。遷移累積カウントは確率の和なので、その値
は1を越えることもある。各遷移確率について、
それぞれの遷移確率項目を記憶しておくことが好
ましい。所与の遷移から得られたこの累積カウン
トを、状態Sjから取り得るすべての遷移の累積カ
ウントの和で割つて、それぞれの遷移確率項目に
対する現在の確率値が決定される。現在の確率値
は、その当該の遷移確率項目に関連させて記憶し
ておくことが好ましい。 ラベル出力確率項目に関して、単一カウントを
再度合計する。これらの各確率項目について、対
応する生成されたそのストリング中のラベルがラ
ベル出力確率項目に対応するラベルとなるすべて
のラベル時間について、特定のSj、τi、Y、O′に
対する単一カウントを合計する。この場合の合計
は、“ラベル出力累積カウント”であり、それに
対応するラベル出力確率項目と関連させて記憶し
ておくことが好ましい。この累積カウントを、特
定のSj、f、τi、Y、O′についてすべてのラベル
時間にわたる単一カウントの合計で割つて、それ
ぞれのラベル出力確率項目に対する現在の確率値
を決定する。 上記に引用した特許出願の方法によれば、発声
された既知の単語のトレーニング・スクリプト、
各確率項目の初期確率値、トレーニング中に発声
された各語に対する候補語のリストが規定され
る。候補語のリストは、迅速近似音響マツチング
などの手順によつて定義される。発音された既知
のどの単語についても、“正しい”既知の単語と
“正しくない”単語がある(正しくない単語とは、
誤まつて既知の単語として復号される尤度が最高
であることが好ましい)。 確率項目の現在の確率値は、まず正しい単語の
ベースフオームまたは正しくない単語のベースフ
オームによる各確率項目の“プラス・カウント
値”と“マイナス・カウント値”を計算して決定
する。このプラス・カウント値を(各確率項目ご
とに)対応する確率項目の累積値に加え、次にそ
の累積値からマイナス・カウント値を差し引く。 プラス・カウント値は、周知のフオワード・バ
ツクワード・アルゴリズムを適用し、好ましくは
それから得られる統計をスケーリングすることに
よつて、正しい(すなわち既知の)単語のベース
フオームで各確率項目ごとに計算する。プラス・
カウント値を加えると、カウント値(およびそれ
から導かれる確率項目)がストリングYに近づく
方向にバイアスされ、Yが、相対的に正しい単語
モデルである尤度がより高い出力にみえるように
なる。 所与の確率項目のマイナスのカウント値は、正
しくない単語が発音されてラベルのストリングを
生成した場合のように、フオワード・バツクワー
ド・アルゴリズムを適用して計算する。既知の語
の1回の発音から導かれたマイナス・カウント値
を、(プラス・カウント値と足す前または後で)
それに対応する累積カウントの最近の値から差し
引く。この減算によつて、正しくない後のベース
フオームで確率項目を計算するのに使われた累積
カウントが、ストリングYから離れる方向にバイ
アスされる。 これらの調整された累積カウントにもとづい
て、復号精度が高まるように、カウントに対する
確率値記憶値およびおよび確率値が調整される。 語彙中の各単語ごとに上記のステツプに従つ
て、復号精度が高まるように、カウントに対する
確率値が調整される。 上記に考察した方法は、音声を語彙中の認識さ
れた単語に復号する際の精度を向上させるために
他の方法で決定されたカウント値を改善するのに
役立つ。 E2 発声されない単語のベースフオームの合成 第9図において、本発明の一般的方法が図示さ
れている。ステツプ2002で、トレーニング・テキ
スト中の単語が音声学的ベースフオームで表わさ
れる。具体的に言うと、トレーニング期間中に発
声される各単語た、通常は音声学者の手で、国際
音標文字で定義される音声学的要素の列として特
徴づけられる。各音声学的要素が、それに対応す
る音声学的モデルで表わされる。したがつて、各
単語について、先にE12段で説明したようなそれ
に対応する音声学的モデルの列がある。この列が
音声学的ベースフオームを表わす。 先にE13段で説明したように、単語は一連のフ
イーニーム・モデルから構築されるフイーニー
ム・ベースフオームでも表わすことができる。ス
テツプ2004で、トレーニング・テキスト中の単語
が、フイーニーム・ベースフオームで表わされ
る。 フイーニームは、“出力に関係”することが認
められる。すなわち、フイーニームは、音響処理
装置、たとえば処理装置1004によつて生成さ
れる出力である。したがつて、フイーニーム型モ
デルは、“出力に関係するモデル”である。この
点に関して、さらに代りに他の出力に関係するモ
デルを使うこともできることに留意すべきであ
る。たとえば、“出力に関係するモデル”を、簡
単な出力ベクトル、または音響処理装置が出力と
してもたらす音声の他の選択可能な特徴的出力に
もとづいて定義することもできる。 トレーニング・テキスト中で発生する音声学的
モデルは、様々な音声学的モデルの文脈中で発生
する。現在説明している実施例では、“音声学的
モデルの文脈”は、主題となる音声学的モデルの
直前の音声学的モデルおよび直後の音声学的モデ
ルによつて定義される。すなわち、ある音声の列
について、位置Piにある主題の音声学的モデルの
文脈が、位置P(i−1)とP(i+1)にある音
声学的モデルによつて決定される。特定の主題の
音声学的モデルは、複数の文脈のどの中ででも発
生し得る。一組の音声学的要素(本出願での考察
では、沈黙に対応する要素を1つ含む)中に70個
の音声学的要素があるものと仮定すると、(沈黙
でない)任意の音声学的モデルの前に70個の音声
学的モデルのうちのどれでもくることができ、ま
たその後にも70個の音声学的モデルのうちのどれ
でもくることができると考えられる。したがつ
て、所与の音声学的モデルに対して、70×70=
4900の文脈が可能である。 本発明の1つの実施例によれば、各音声学的モ
デルに対する多数の可能な文脈のそれぞれに、記
憶装置内のある位置が割り当てられる。 しかし、下記で考察する良好な実施例では、選
択された文脈だけが記憶装置に入る。どちらの場
合でも、その一組の音声学的モデルのうちのm番
目の音声学的モデルΠmについて、複数の文脈が
識別できる。記憶装置内では、音声学的モデルと
その文脈は、ステツプ2006でΠm、cとして記録
される。 トレーニング・テキスト中の発声されたすべて
の単語に対して、フイーニーム型単語ベースフオ
ームと音声学的単語ベースフオームとがあること
が好ましい。ステツプ2008で、周知のビタービ位
置合せ手順が適用される。すなわち所与の単語の
音声学的ベースフオームによる連続する各音声学
的モデルが、所与の単語のフイーニーム・ベース
フオームによる対応するフイーニーム型モデルの
列と相関される。ビタービ位置合せ手順は、上記
に引用したF.Jelinekも論文に詳細に記載されて
いる。 所与の文脈中の音声学的モデルが1回だけ発声
される場合は、それに対して1つのフイーニー
ム・モデルの列が位置合せされる。しかし、本実
施例で選んだように、所与の文脈中の音声学的モ
デルがトレーニング期間中に何度か発声される場
合、同じ音声学的モデルに対して異なるフイーニ
ーム・モデルの列が位置合せされる公算がある。
同じ文脈中の同じ音声学的モデルの発声に異なる
列が対応するのは、発音が異なるためである。す
なわち、音響処理装置(第1図の)1004によ
つて発音が異なるものとして解釈されて、異なる
ラベル出力(すなわちフイーニーム)が生成さ
れ、したがつて異なるフイーニーム・ストリング
が生成される。 複数回の発声から異なるフイーニーム・ストリ
ングが生じることを補償するため、平均または合
成フイーニーム・ベースフオームが構築される。
複数の発声から合成フイーニーム・ベースフオー
ムを構築する方法は、E14段およびそこに引用し
た後の方の特許出願をみるとすぐに理解できる。 文脈化された音声学的モデル(Πm,c)が1
回発生されようと何度か発声されようと、それぞ
れのフイーニーム型モデルのストリングがΠm,
cに関連づけられる。フイーニーム・ストリング
をテキスト中の当該の音声学的モデル(Πm,
c)と関連づける過程は、ステツプ2010で行なわ
れる。 上段で指摘したように、各音声学的モデルが可
能なあらゆる文脈中で発声される場合、各音声学
的モデルについて4900の項目が記憶されるこ
とになる。70個の音声学的モデルでは、記憶装置
中に4900×70=343000の項目ができることにな
る。下段で指摘するように、項目数がこのように
多いため、トレーニングに要する時間が増加する
が、これは通常の音声認識環境では望ましいこと
ではない。 したがつて、好ましいモードは、可能な各文脈
とそれに関連するフイーニーム型モデル・ストリ
ングを与えるのではなく、可能な343000通りの組
合せの一部だけについてフイーニーム型モデルを
もたらすものである。選択された文脈のみが訓練
期間中に発声され、それに対するフイーニーム型
モデル列のみがそれと関連づけられる。文脈化さ
れた音声学的モデル(Πm,c)と関連するフイ
ーニーム型モデル・ストリングが、テーブル項目
として記憶される(ステツプ2012参照)。 トレーニング期間中に発声されなかつた“新”
単語のフイーニーム・ベースフオームを構築する
には、ステツプ2014,2016,2018を実行する。ス
テツプ2014で、新単語が、それぞれ定義された文
脈中の音声学的モデルのストリングとして表わさ
れる。次に、各新単語の音声学的モデル(Π′m,
c)が、文脈化された記憶済みの音声学的モデル
(Πm,c)と相関される。343000通りの文脈の
組合せがすべて項目が記憶されている場合、1対
1の相関がある。選択された項目だけが記憶され
ている場合、ステツプ2014の相関は下段でより詳
しく考察するように、密接マツチング過程であ
る。 ステツプ2016で、各新単語の音声学的モデル
(Π′m,c)が相関された音声学的モデルΠm,c
と関連するフイーニーム・ストリングで表わされ
る。 各新単語の音声学的モデル(Πm,c)ごとに
上記の手順を実施し、その結果得られた様々なフ
イーニーム・ストリングがステツプ2018で連結さ
れて、その新単語のフイーニーム・ベースフオー
ムが与えられる。 フイーニーム・ベースフオームを(第9図の各
ステツプで必要とされるような)音声学的要素の
サイズの切片に分解する具体的な方法が、第10
図に示してある。 第10図で、最初の単語(I←1)が取り上げ
られる(ステツプ2100)。最初の単語の音声学的
ベースフオームPBIが知られており、トレーニン
グ中に、1つまたは複数のフイーニーム・ベース
フオームFBIが生成される。最初の単語の各フイ
ーニーム・ベースフオームに関して、音声学的ベ
ースフオームに周知のビタービ位置合せ手順が適
用される(ステツプ2101)。ステツプ2104で、最
初のフイーニーム要素j←1が取り上げられる。
その単語に対して複数のフイーニーム・ベースフ
オームがある場合、ステツプ2106で、j番目の音
声学的要素に対する単一の代表的なフイーニー
ム・ストリングを決定することが必要である(ス
テツプ2108参照)。1つのフイーニーム・ベース
フオームから形成されたものであれ複数のフイー
ニーム・ベースフオームから形成されたものであ
れ、j番目の音声学的要素に対応する単語の切片
(Pj)に、フイーニーム・ストリングF(Pj)が関
連づけられる。F(Pj)は、当該のフイーニーム
型モデル・ストリングに対応する数字または他の
識別子で表わすことが好ましい。これは、ステツ
プ2110で実行される。ステツプ2112でjの値が増
分される。jが音声学的ベースフオーム中の音声
学的要素の数を上回つた場合(ステツプ2114)、
ステツプ2116にもとづいて次の単語が選択され、
ステツプ2102から手順が再開される。jが音声学
的要素の数を越えない場合は、音声学的ベースフ
オーム中の次の音声学的要素についてステツプ
2106〜2114が繰り返される。 第11図に音声学的要素のストリングとして表
わされたサンプル語“CAT”を示す。これは、
標準的国際標音文字に含まれる記号をコンピユー
タに可読な形で表わしたものである。本開示で
は、単語“CAT”が訓練期間中に発声されず、
また“CAT”のフイーニーム・ベースフオーム
を探索しているものと仮定する。下段で、単語
“CAT”のフイーニーム・ベースフオームが本発
明にもとづいてどのように合成されるかについて
考察する。 単語“CAT”中に各音声学的要素に対して、
第2図に示した一組のモデルのような、それに対
応する音声学的モデルがある。様々な遷移および
ラベル出力に割り当てられる確率が、E14段で概
略を述べたように、トレーニング期間中に生成さ
れる統計から導き出される。 第12図は、4欄を含む記憶テーブルの一部分
を示したものである。最初の欄は、Πmと名づけ
られる主題の音声学的要素である。ただし、mは
(70個の音声学的要素のアルフアベツト中の)1
〜70である。各音声学的要素に対して、識別済み
の文脈が複数個ある。本実施例では、位置Piにあ
る音声学的要素の文脈は、前の位置P(i−1)
にある音声学的要素と次の位置P(i+1)にあ
る音声学的要素にもとづいている。第2欄は、主
題の音声学的要素の前にある記憶済み音声学的要
素である。第3欄は、主題の音声学的要素の後に
くる記憶済み音声学的要素である。 “CAT”の音声学的要素AEIを例にとると、
最初の文脈はAA0−AE1−AA0と名づけること
ができる。この場合、AE1の前と後にフイーニー
ム・アルフアベツトの最初の音声学的要素がく
る。第2の文脈は、AA0−AE1−AE0として示
される。AE1の前に最初の音声学的要素があり、
またAE1の後に第2の音声学的要素がくる。前に
くる音声学的要素としてAA0を含む様々な文脈
をリフトした後、後にくる音声学的要素として
AE0を含む文脈をリストしてある。このリスト
は、AE1を主題の(中間の)音声学的要素とする
様々な3要素の組合せを含んでいる。 AE1に対応する音声学的要素のリスト項目を検
討すると、(破線で囲んだ)ある文脈Πm,cは、
その前にある音声学的要素がKQ、その後にくる
音声学的要素がTXである。この文脈は、語
“CAT”中に見られる文脈と一致する。トレーニ
ング中に得られたデータにもとづいて、KQ−
AE1−TXの文脈に、fと名づけたフイーニー
ム・ストリングが関連づけられる。上段で指摘し
たように、ストリングfは、トレーニング中に
KQ−AE1−TX文脈が1回発声された結果であ
ることも何度か発声された結果であることもあ
る。ストリングfは、KQ−AE1−TX文脈中で
発生する音声学的要素AE1に対応する。 単語“CAT”のフイーニーム・ベースフオー
ムを形成する際、fストリングが、単語“CAT”
の音声学的要素AE1に対応する切片に関連づけら
れる。 単語“CAT”中の他の音声学的要素に対して、
それに対応するフイーニーム・モデル・ストリン
グが導き出される。すなわち、SILENCE−KQ
−AE1に関連するフイーニーム・モデル・ストリ
ングが記録される。また、AE1とTQに挟まれた
TXに対するフイーニーム・モデル・ストリング
が記録され、以下同様である。単語“CAT”中
の音声学的要素に対して導き出された様々なフイ
ーニーム・モデル・ストリングが、その単語中で
それぞれの音声学的要素が発生する順に連結され
る。連結されたフイーニーム・モデル・ストリン
グが、単語“CAT”に対する合成されたフイー
ニーム・ベースフオームとなる。 この良好な実施例では、それに関連するフイー
ニーム・モデル・ストリングが記憶されていない
“新単語”の文脈中で、ある音声学的要素が発生
することがある。音声学的モデル・ストリングと
3要素の音声学的文脈の間の省略された対応リス
トが使用できるようにするため、第13図の方法
を使用する。 第13図によれば、各“新”単語は音声学的要
素のストリングとして表わされ、各音声学的要素
は“新”単語のある切片を表わす。次に各語の切
片に対応する音声学的要素が。その文脈Π′m,c
中で識別される。ステツプ2400の最初の単語の切
片i←1から出発して、ステツプ2402で、位置Pi
にあるΠ′m,cが、関連するフイーニーム・モデ
ル・ストリングを有する文脈化された音声学的要
素(Πm,c)に完全に対応するかどうか判断が
下される。イエスの場合、関連するフイーニー
ム・モデル・ストリングの全体が、ステツプ2404
でフイーニーム・ベースフオームに含まれる。 ステツプ2404(および下記の各ステツプ)で使
用する表記法は、簡単な説明のためのものであ
る。2重の垂線は、連結演算子を表わす。その右
側にある“切片”が、以前に構築されたベースフ
オームのその部分にタグとして付加される。連結
演算子の右側にある“切片”は、3つのパラメー
タを含んでいる。一番左のパラメータは、現在行
なわれている判断を示す。次のパラメータは、関
連するフイーニーム・ストリング中の始めのフイ
ーニーム・モデルを示す。最後のバラメータは、
連結に含まれるべき関連するフイーニーム・モデ
ル中の最後のフイーニーム・モデルを示す。した
がつて、“切片(g1,1,l(gi)”は、(ステツプ
2402の)g1判断に関連する最初から最後までの
フイーニーム・モデルを指す。すなわち、g1の
判断が“イエス”であれば、“新”単語の主題の
音声学的要素Π′m,cが(同じ3要素の音声学的
文脈をもつ)記憶済みのΠm,cと一致し、かつ
それに関連する(モデル1から始まりモデルl
(g1)で終わる)フイーニーム・モデル・ストリ
ングがあることを示す。ステツプ2404でg1の判
断がイエスであれば、そのフイーニーム・モデ
ル・ストリングに全体が、“新単語”の以前に切
片に対して構築されたベースフオームにタグとし
て付加される。ステツプ2404の後、ステツプ2406
で次の単語の切片が検査される。 “新”単語中の音声学的要素Πm,cが、それ
と同じ3要素の音声学的文脈を有する記憶済みの
ある音声学的要素に写像されない場合、類似する
2要素の音声学的文脈があるかどうか判断が下さ
れる。ステツプ1410で、“新”単語の音声学的要
素とその前の音声学的要素が、判断g2で取り上
げられる。類似する先行要素−主題要素の文脈が
記憶リスト中にあるいずれかの3要素の文脈に含
まれている場合、そのフイーニーム・モデル・ス
トリングが検索される。次にステツプ2412でフイ
ーニーム・モデル・ストリングの前半が抽出さ
れ、構築中のフイーニーム・ベースフオーム
(bsf)に連結される。 主題の音声学的要素とその後にくる音声学的要
素が記憶済のおそれに対応する文脈を有するかど
うか判断を下すために、同様の検査が実施され
る。これは、g4判断と呼ばれ、ステツプ2414で
実施される。この判断では、リスト中に、その最
後の2つの音声学的要素が、取り上げられている
“新”単語の切片中の主題の音声学的要素および
その後の音声学的要素と同じである3要素の文脈
が含まれているかどうかが示される。含まれてい
る場合、フイーニーム・モデル・ストリングの後
半(最初の音素的モデルは省略)が、構築中のベ
ースフオーム(bsf)にタグとして付加される
(ステツプ2416参照)。そうでない場合は、ステツ
プ2418で、ステツプ2420にもとづいて決定された
フイーニーム・ストリングの後半部分が、構築中
のベースフオーム(bsf)に連結される。 ステツプ2420で、取り上げられている“新”単
語切片中のものと同じ音声学的要素P(i−1)
Piを有する音声学的要素の文脈が記憶されていな
いかどうか判断が下される。記憶されていない場
合、主題の音声学的要素(すなわち、取り上げら
れている“新”単語切片のPi位置にある音声学的
要素)を含む、任意の記憶済みの音声学的文脈
が、その関連するフイーニーム・モデル・ストリ
ングとして記載される(複数のストリングが記録
されている場合、1つのストリングを任意に選択
できる)。ステツプ2422で、記録されたフイーニ
ーム・モデル・ストリングの半分が、構築中のベ
ースフオームに連結される。ステツプ2422の次
に、ステツプ2414に進む。 ステツプ2404,2416で、ベースフオームの前に
構築された部分にフイーニーム・モデル・ストリ
ングが加えられた後、“新”単語のすべての切片
が取り上げられるまで、次の切片が取り上げられ
る。これは、ステツプ2406と2424で実施される。
各切片については導き出された音声学的モデル
は、連結されて“新”単語のフイーニーム・モデ
ルのベースフオームとなる。 本発明によれば、音声学的要素の文脈にもとづ
くフイーニーム型単語ベースフオームの合成が、
フイーニーム・ベースフオームをトレーニングし
ていないすべての単語またはその一部分に使用で
きる。(それぞれ既知のフイーニーム・ベースフ
オームを有する)2つの単語が結合されて単一の
単語を形成する場合には、それぞれのベースフオ
ームが結合されてその単一の単語の複合ベースフ
オームとなる。たとえば、語HOUSEBOATを結
合して単一語HOUSEBOATを形成すると仮定す
る。単一語HOUSEとBOATのフイーニーム・ベ
ースフオームは、単に単語HOUSEのフイーニー
ム・ベースフオームと単語BOATのフイーニー
ム・ベースフオームを結合することにより形成さ
れる。したがつて、音声学的文脈法をかかる語に
使つてもよいが、必ずしもそうする必要ではな
い。 本発明をその良好な実施例に関して説明してき
たが、本発明の範囲から外れることなく形状およ
び細部に様々な変更を加えられることは、当業者
なら理解できるはずである。たとえば、依拠する
音声学的文脈が上記の3要素文脈でなくてもよ
い。隣接する2つの要素の代りに、最高位の文脈
が任意の数n個(1≦n)の隣接する音声学的要
素を含むこともできる。また、文脈中の音声学的
要素は位置が隣接している必要はなく、1個また
は複数の音声学的要素で分離されていてもよい。 さらに、音声学的マルコフ・モデルとフイーニ
ーム・マルコフ・モデルに関して説明してきた
が、本発明では他の型式のモデルの使用も企図さ
れている。すなわち、本発明は、単語を第1のモ
デル群に含まれるモデルのベースフオームと第2
のモデル群に含まれるモデルのベースフオームに
よつて表わすことができ、その2つのベースフオ
ームを位置合せすることができる場合、一般に適
用されることを予定している。 さらに、本特許出願で使用する“単語”は、広
義の意味で使用し、辞書の単語、語彙素(すなわ
ち上記のように辞書の単語の特定の発音)、およ
び(音節など)認識すべき音声を定義するのに使
用できる単語の部分を指すことに留意すべきであ
る。 また、希望する場合、第13図の方法を変える
こともできる。たとえば、フイーニーム・モデ
ル・ストリングの、構築中のベースフオームの事
前に存在するフイーニーム・モデルに連結される
部分を、半分ではない値にしてもよい。 さらに、フイーニーム・ベースフオームを、い
くつかの方法で音声学的要素サイズの単語切片に
分割できることに留意すべきである。上記の(合
成されたベースフオームで重なり合う音素列が生
じてもよい)Nグラム合成法以外に、最長最良合
成も使用できる。後者の方法では、(a)利用される
切片の数が最小となり、かつ(b)使用される最長の
切片の長さが最となるように、音声シーケンスが
分割される。 たとえば、最長最良体系では、語彙中の可能な
すべての単音声ストリング群に対応する可能なす
べてのフイーニーム型切片を計算することができ
る。次に、判定基準関数を下記のように定義でき
る。 f=l1 2+l2 2+l3 2……ln2 ただし、l1=音声列lの長さ;l2=音声列2つ
の長さ;以下同様である。したがつて、 l1+l2……+ln=L=所期の新しい語に対応す
る音声列の長さ。 次にfが最大となるような1組の切片を選ぶ。
これは理想的な場合、次式に対応するはずである
ことに留意すること。 l1=L l2=l3……、=φ この場合には、拘束条件l1+l2……+ln=Lの
もとでfが最大になる。 本発明は、IBM3084計算機で、Nグラム合成
法と最長最良法の両者を具体化したPL/1言語
で実施された。どちらの場合にも、有用なフイー
ニーム・ベースフオームが合成された。 合成されたベースフオームは、認識タスクで少
なくともそれに対応する音声学的ベースフオーム
と同程度の性能をもたらす。たとえば、標準タス
クでの音声学的エラー発生率が4%の場合、すべ
ての音声学的ベースフオームを合成されたフイー
ニーム・ベースフオームで置き換えると、エラー
発生率は4%より下がるはずである。 本発明は、最も頻繁に発生する2000語のベース
フオームを記録し、それほど頻用されない3000語
を合成することにより、トレーニング時間が少な
くとも150%(2/3に)節約できた。 F 発明の効果 以上説明したように、本発明によれば、トレー
ニング期間後に、第1のモデル群に含まれるモデ
ルから構築された、かかる他の単語に対するベー
スフオームを合成するための手法が提供される。
ようなあるフイーニーム・モデルの遷移で各ラベ
ルに関連する確率は、トレーニング期間中に、音
声学的ベースフオームで音声学的モデルをトレー
ニングする場合と類似のやり方で決定される。 フイーニーム型単語ベースフオームは、フイー
ニーム型単音を連結して構築される。その1つの
方法が、1985年2月1日出願の米国特許出願S.
N.697174号に記載されている。単語のフイーニ
ーム・ベースフオームは、当該の単語の複数回の
発声から成長させることが好ましい。このこと
は、米国特許出願S.N.06/738933号に記載され
ている。この開示を、本発明の充分な開示に必要
な範囲でここに引用する。簡単に言うと、複数回
の発声から語の基本形式を成長させる1つの方法
は、下記の各ステツプを含むものである。 (a) 単語セグメントの複数回の発声を、それぞれ
フイーニーム・ストリングに変形する。 (b) 一組のフイーニーム型マルコフ・モデル単音
マシンを定義する。 (c) 多重フイーニーム・ストリングを生成するの
に最良の1つの単音マシンP1を決定する。 (d) 多重フイーニーム・ストリングを生成するた
めの、P1P2またはP2P1の形の最良の二音ベー
スフオームを決定する。 (e) 各フイーニーム・ストリングに対して、最良
の二音ベースフオームを位置合せする。 (f) 各フイーニーム・ストリングを、二音ベース
フオームの第1の単音マシンに対応すう左部分
と、二音ベースフオームの第2の単音マシンに
対応する右部分に分割する。 (g) 各左部分を左サブストリングと名づけ、各右
部分を右サブストリングと名づける。 (h) 複数回の発声に対応する一組のフイーニー
ム・ストリングと同じやり方で一組の左サブス
トリングを処理するが、さらに単音ベースフオ
ームの方が最良の二音ベースフオームよりも所
定のサブストリングを生成する確率が高いと
き、そのサブストリングの再分割を禁止するス
テツプを含む。 (j) 複数回の発声に対応する一組のフイーニー
ム・ストリングと同じやり方で一組の右サブス
トリングを処理するが、さらに単音ベースフオ
ームの方が最良の二音ベースフオームよりも所
定のサブストリングを生成する確率が高いと
き、そのサブストリングの再分割を禁止するス
テツプを含む。 (k) 分割されなかつた単一の単音をそれらに対応
するフイーニーム・サブストリングの順序と同
じ順序で連結する。 ベースフオーム・モデルは、既知の発声を音響
処理装置に声を出して入力することにより、さら
にそこでそれに応じたラベルのストリングを生成
させることによつて、トレーニング(または統計
で充填)される。既知の発声と生成されたラベル
にもとづいて、上記に引用した諸論文で考察され
ているフオワード・バツクワード・アルゴリズム
によつて、語モデルの統計が導き出される。 第7図に、フイーニーム型単音に対応する格子
を示す。この格子は、音声学的モデル体系に関係
する第4図の格子に比べて、ずつと簡単である。 音声学的ベースフオームとフイーニーム・ベー
スフオームとは、どららも音響マツチング要素中
で、また他の音声認識の目的に使用できる。 E14 単語モデルのトレーニング 良好なトレーニングの方法は、L.R.Bahl、P.
F.Brown、P.V.Desouza、およびR.L.Mercerが
発明し、IBM(株)に譲渡された、“音声認識システ
ムで使用されるマルコフ・モデルのトレーニング
の改良(Improving the Training of Markov
Models Used in a Speech Recognition
System)”と題する同時係属の米国特許出願で教
示されている。この開示をここに引用する。この
開示では、トレーニングは、他の単語に関連する
確率に比べて正しい単語の確率を向上させる形
で、各単語のベースフオームの統計を決定するこ
とを含んでいる。他の方法のようにラベルにスク
リプトが与えられる確率を最大にするのではな
く、発声された単語の正しいスクリプトにラベル
出力が与えられる確率と他の(正しくない)スク
リプトの確率と差を最大にするというのが、その
考え方である。 かかる方法によると、(語彙中の各単語が少な
くも1つの確率的有限状態モデルのあるベースフ
オームで表わされ、かつ各確率的有限状態モデル
が遷移確率項目と出力確率項目を有する、コミユ
ニケートされた音声入力に応答して出力のアルフ
アベツトのうちから選択された出力から語彙中の
ある単語をデコードするためのシステムにおい
て)既知の単語のコミユニケートに応答して生成
される出力が既知の単語のベースフオームによつ
て生成される尤度が、生成される出力が他の少く
とも1つの単語のベースフオームによつて生成さ
れる尤度に比べて高くなるように、記憶済みの確
率項目の値の少くとも一部分をバイアスさせるス
テツプを含む、確率項目の値を決定する方法が提
供される。 各単語(または語のはつきりした発音、これを
“語彙素”と呼ぶ)は、列となつた1つまたは複
数の確率的有限状態マシン(またはモデル)で表
わすことが好ましい。各マシンは、一組の音声の
うちのある“音声”に対応する。各音声は、音声
的要素、ラベル(またはフイーニーム)、あるい
はマルコフ・モデルまたは類似のモデルを指定で
きる他の何らかの事前に定義された音声の特性と
相関する。 トレーニング・スクリプトは、通常一連の既知
の語から構成される。 ここに記載するトレーニング方法によれば、確
率項目に付随する確率値は、下記のようにして評
価される。 各確率項目について、推定値0′が設定される。
推定値0′とトレーニング中に生成されたラベル
が与えられているものとすると、“単一カウント”
と呼ばれる値が決定される。“単一カウント”は、
一般に訓練データにもとづいて、ある事象が発生
する(予想)回数に関係する。“単一カウント”
のある特定の定義は、(a)あるラベルのストリング
Y、(b)定義された推定値0′、および(c)特定の時
間tが与えられているものとして、特定の遷移τi
および状態Sjの確率である。 上記の単一カウントは、周知のフオワード・バ
ツクワード・アルゴリズム、またはバウム・ヴエ
ルヒ・アルゴリズムを適用して決定する。 上記の定義によれば、単一カウントは、次式で
表わすことができる。 Pr(Sj、τi―Y、O、τ) 各時間tで特定のSj、τi、Y、O′に対する単一
カウントを合計すると、それに対応する遷移確率
項目について、“遷移累積カウント”が決定され
る。遷移累積カウントは確率の和なので、その値
は1を越えることもある。各遷移確率について、
それぞれの遷移確率項目を記憶しておくことが好
ましい。所与の遷移から得られたこの累積カウン
トを、状態Sjから取り得るすべての遷移の累積カ
ウントの和で割つて、それぞれの遷移確率項目に
対する現在の確率値が決定される。現在の確率値
は、その当該の遷移確率項目に関連させて記憶し
ておくことが好ましい。 ラベル出力確率項目に関して、単一カウントを
再度合計する。これらの各確率項目について、対
応する生成されたそのストリング中のラベルがラ
ベル出力確率項目に対応するラベルとなるすべて
のラベル時間について、特定のSj、τi、Y、O′に
対する単一カウントを合計する。この場合の合計
は、“ラベル出力累積カウント”であり、それに
対応するラベル出力確率項目と関連させて記憶し
ておくことが好ましい。この累積カウントを、特
定のSj、f、τi、Y、O′についてすべてのラベル
時間にわたる単一カウントの合計で割つて、それ
ぞれのラベル出力確率項目に対する現在の確率値
を決定する。 上記に引用した特許出願の方法によれば、発声
された既知の単語のトレーニング・スクリプト、
各確率項目の初期確率値、トレーニング中に発声
された各語に対する候補語のリストが規定され
る。候補語のリストは、迅速近似音響マツチング
などの手順によつて定義される。発音された既知
のどの単語についても、“正しい”既知の単語と
“正しくない”単語がある(正しくない単語とは、
誤まつて既知の単語として復号される尤度が最高
であることが好ましい)。 確率項目の現在の確率値は、まず正しい単語の
ベースフオームまたは正しくない単語のベースフ
オームによる各確率項目の“プラス・カウント
値”と“マイナス・カウント値”を計算して決定
する。このプラス・カウント値を(各確率項目ご
とに)対応する確率項目の累積値に加え、次にそ
の累積値からマイナス・カウント値を差し引く。 プラス・カウント値は、周知のフオワード・バ
ツクワード・アルゴリズムを適用し、好ましくは
それから得られる統計をスケーリングすることに
よつて、正しい(すなわち既知の)単語のベース
フオームで各確率項目ごとに計算する。プラス・
カウント値を加えると、カウント値(およびそれ
から導かれる確率項目)がストリングYに近づく
方向にバイアスされ、Yが、相対的に正しい単語
モデルである尤度がより高い出力にみえるように
なる。 所与の確率項目のマイナスのカウント値は、正
しくない単語が発音されてラベルのストリングを
生成した場合のように、フオワード・バツクワー
ド・アルゴリズムを適用して計算する。既知の語
の1回の発音から導かれたマイナス・カウント値
を、(プラス・カウント値と足す前または後で)
それに対応する累積カウントの最近の値から差し
引く。この減算によつて、正しくない後のベース
フオームで確率項目を計算するのに使われた累積
カウントが、ストリングYから離れる方向にバイ
アスされる。 これらの調整された累積カウントにもとづい
て、復号精度が高まるように、カウントに対する
確率値記憶値およびおよび確率値が調整される。 語彙中の各単語ごとに上記のステツプに従つ
て、復号精度が高まるように、カウントに対する
確率値が調整される。 上記に考察した方法は、音声を語彙中の認識さ
れた単語に復号する際の精度を向上させるために
他の方法で決定されたカウント値を改善するのに
役立つ。 E2 発声されない単語のベースフオームの合成 第9図において、本発明の一般的方法が図示さ
れている。ステツプ2002で、トレーニング・テキ
スト中の単語が音声学的ベースフオームで表わさ
れる。具体的に言うと、トレーニング期間中に発
声される各単語た、通常は音声学者の手で、国際
音標文字で定義される音声学的要素の列として特
徴づけられる。各音声学的要素が、それに対応す
る音声学的モデルで表わされる。したがつて、各
単語について、先にE12段で説明したようなそれ
に対応する音声学的モデルの列がある。この列が
音声学的ベースフオームを表わす。 先にE13段で説明したように、単語は一連のフ
イーニーム・モデルから構築されるフイーニー
ム・ベースフオームでも表わすことができる。ス
テツプ2004で、トレーニング・テキスト中の単語
が、フイーニーム・ベースフオームで表わされ
る。 フイーニームは、“出力に関係”することが認
められる。すなわち、フイーニームは、音響処理
装置、たとえば処理装置1004によつて生成さ
れる出力である。したがつて、フイーニーム型モ
デルは、“出力に関係するモデル”である。この
点に関して、さらに代りに他の出力に関係するモ
デルを使うこともできることに留意すべきであ
る。たとえば、“出力に関係するモデル”を、簡
単な出力ベクトル、または音響処理装置が出力と
してもたらす音声の他の選択可能な特徴的出力に
もとづいて定義することもできる。 トレーニング・テキスト中で発生する音声学的
モデルは、様々な音声学的モデルの文脈中で発生
する。現在説明している実施例では、“音声学的
モデルの文脈”は、主題となる音声学的モデルの
直前の音声学的モデルおよび直後の音声学的モデ
ルによつて定義される。すなわち、ある音声の列
について、位置Piにある主題の音声学的モデルの
文脈が、位置P(i−1)とP(i+1)にある音
声学的モデルによつて決定される。特定の主題の
音声学的モデルは、複数の文脈のどの中ででも発
生し得る。一組の音声学的要素(本出願での考察
では、沈黙に対応する要素を1つ含む)中に70個
の音声学的要素があるものと仮定すると、(沈黙
でない)任意の音声学的モデルの前に70個の音声
学的モデルのうちのどれでもくることができ、ま
たその後にも70個の音声学的モデルのうちのどれ
でもくることができると考えられる。したがつ
て、所与の音声学的モデルに対して、70×70=
4900の文脈が可能である。 本発明の1つの実施例によれば、各音声学的モ
デルに対する多数の可能な文脈のそれぞれに、記
憶装置内のある位置が割り当てられる。 しかし、下記で考察する良好な実施例では、選
択された文脈だけが記憶装置に入る。どちらの場
合でも、その一組の音声学的モデルのうちのm番
目の音声学的モデルΠmについて、複数の文脈が
識別できる。記憶装置内では、音声学的モデルと
その文脈は、ステツプ2006でΠm、cとして記録
される。 トレーニング・テキスト中の発声されたすべて
の単語に対して、フイーニーム型単語ベースフオ
ームと音声学的単語ベースフオームとがあること
が好ましい。ステツプ2008で、周知のビタービ位
置合せ手順が適用される。すなわち所与の単語の
音声学的ベースフオームによる連続する各音声学
的モデルが、所与の単語のフイーニーム・ベース
フオームによる対応するフイーニーム型モデルの
列と相関される。ビタービ位置合せ手順は、上記
に引用したF.Jelinekも論文に詳細に記載されて
いる。 所与の文脈中の音声学的モデルが1回だけ発声
される場合は、それに対して1つのフイーニー
ム・モデルの列が位置合せされる。しかし、本実
施例で選んだように、所与の文脈中の音声学的モ
デルがトレーニング期間中に何度か発声される場
合、同じ音声学的モデルに対して異なるフイーニ
ーム・モデルの列が位置合せされる公算がある。
同じ文脈中の同じ音声学的モデルの発声に異なる
列が対応するのは、発音が異なるためである。す
なわち、音響処理装置(第1図の)1004によ
つて発音が異なるものとして解釈されて、異なる
ラベル出力(すなわちフイーニーム)が生成さ
れ、したがつて異なるフイーニーム・ストリング
が生成される。 複数回の発声から異なるフイーニーム・ストリ
ングが生じることを補償するため、平均または合
成フイーニーム・ベースフオームが構築される。
複数の発声から合成フイーニーム・ベースフオー
ムを構築する方法は、E14段およびそこに引用し
た後の方の特許出願をみるとすぐに理解できる。 文脈化された音声学的モデル(Πm,c)が1
回発生されようと何度か発声されようと、それぞ
れのフイーニーム型モデルのストリングがΠm,
cに関連づけられる。フイーニーム・ストリング
をテキスト中の当該の音声学的モデル(Πm,
c)と関連づける過程は、ステツプ2010で行なわ
れる。 上段で指摘したように、各音声学的モデルが可
能なあらゆる文脈中で発声される場合、各音声学
的モデルについて4900の項目が記憶されるこ
とになる。70個の音声学的モデルでは、記憶装置
中に4900×70=343000の項目ができることにな
る。下段で指摘するように、項目数がこのように
多いため、トレーニングに要する時間が増加する
が、これは通常の音声認識環境では望ましいこと
ではない。 したがつて、好ましいモードは、可能な各文脈
とそれに関連するフイーニーム型モデル・ストリ
ングを与えるのではなく、可能な343000通りの組
合せの一部だけについてフイーニーム型モデルを
もたらすものである。選択された文脈のみが訓練
期間中に発声され、それに対するフイーニーム型
モデル列のみがそれと関連づけられる。文脈化さ
れた音声学的モデル(Πm,c)と関連するフイ
ーニーム型モデル・ストリングが、テーブル項目
として記憶される(ステツプ2012参照)。 トレーニング期間中に発声されなかつた“新”
単語のフイーニーム・ベースフオームを構築する
には、ステツプ2014,2016,2018を実行する。ス
テツプ2014で、新単語が、それぞれ定義された文
脈中の音声学的モデルのストリングとして表わさ
れる。次に、各新単語の音声学的モデル(Π′m,
c)が、文脈化された記憶済みの音声学的モデル
(Πm,c)と相関される。343000通りの文脈の
組合せがすべて項目が記憶されている場合、1対
1の相関がある。選択された項目だけが記憶され
ている場合、ステツプ2014の相関は下段でより詳
しく考察するように、密接マツチング過程であ
る。 ステツプ2016で、各新単語の音声学的モデル
(Π′m,c)が相関された音声学的モデルΠm,c
と関連するフイーニーム・ストリングで表わされ
る。 各新単語の音声学的モデル(Πm,c)ごとに
上記の手順を実施し、その結果得られた様々なフ
イーニーム・ストリングがステツプ2018で連結さ
れて、その新単語のフイーニーム・ベースフオー
ムが与えられる。 フイーニーム・ベースフオームを(第9図の各
ステツプで必要とされるような)音声学的要素の
サイズの切片に分解する具体的な方法が、第10
図に示してある。 第10図で、最初の単語(I←1)が取り上げ
られる(ステツプ2100)。最初の単語の音声学的
ベースフオームPBIが知られており、トレーニン
グ中に、1つまたは複数のフイーニーム・ベース
フオームFBIが生成される。最初の単語の各フイ
ーニーム・ベースフオームに関して、音声学的ベ
ースフオームに周知のビタービ位置合せ手順が適
用される(ステツプ2101)。ステツプ2104で、最
初のフイーニーム要素j←1が取り上げられる。
その単語に対して複数のフイーニーム・ベースフ
オームがある場合、ステツプ2106で、j番目の音
声学的要素に対する単一の代表的なフイーニー
ム・ストリングを決定することが必要である(ス
テツプ2108参照)。1つのフイーニーム・ベース
フオームから形成されたものであれ複数のフイー
ニーム・ベースフオームから形成されたものであ
れ、j番目の音声学的要素に対応する単語の切片
(Pj)に、フイーニーム・ストリングF(Pj)が関
連づけられる。F(Pj)は、当該のフイーニーム
型モデル・ストリングに対応する数字または他の
識別子で表わすことが好ましい。これは、ステツ
プ2110で実行される。ステツプ2112でjの値が増
分される。jが音声学的ベースフオーム中の音声
学的要素の数を上回つた場合(ステツプ2114)、
ステツプ2116にもとづいて次の単語が選択され、
ステツプ2102から手順が再開される。jが音声学
的要素の数を越えない場合は、音声学的ベースフ
オーム中の次の音声学的要素についてステツプ
2106〜2114が繰り返される。 第11図に音声学的要素のストリングとして表
わされたサンプル語“CAT”を示す。これは、
標準的国際標音文字に含まれる記号をコンピユー
タに可読な形で表わしたものである。本開示で
は、単語“CAT”が訓練期間中に発声されず、
また“CAT”のフイーニーム・ベースフオーム
を探索しているものと仮定する。下段で、単語
“CAT”のフイーニーム・ベースフオームが本発
明にもとづいてどのように合成されるかについて
考察する。 単語“CAT”中に各音声学的要素に対して、
第2図に示した一組のモデルのような、それに対
応する音声学的モデルがある。様々な遷移および
ラベル出力に割り当てられる確率が、E14段で概
略を述べたように、トレーニング期間中に生成さ
れる統計から導き出される。 第12図は、4欄を含む記憶テーブルの一部分
を示したものである。最初の欄は、Πmと名づけ
られる主題の音声学的要素である。ただし、mは
(70個の音声学的要素のアルフアベツト中の)1
〜70である。各音声学的要素に対して、識別済み
の文脈が複数個ある。本実施例では、位置Piにあ
る音声学的要素の文脈は、前の位置P(i−1)
にある音声学的要素と次の位置P(i+1)にあ
る音声学的要素にもとづいている。第2欄は、主
題の音声学的要素の前にある記憶済み音声学的要
素である。第3欄は、主題の音声学的要素の後に
くる記憶済み音声学的要素である。 “CAT”の音声学的要素AEIを例にとると、
最初の文脈はAA0−AE1−AA0と名づけること
ができる。この場合、AE1の前と後にフイーニー
ム・アルフアベツトの最初の音声学的要素がく
る。第2の文脈は、AA0−AE1−AE0として示
される。AE1の前に最初の音声学的要素があり、
またAE1の後に第2の音声学的要素がくる。前に
くる音声学的要素としてAA0を含む様々な文脈
をリフトした後、後にくる音声学的要素として
AE0を含む文脈をリストしてある。このリスト
は、AE1を主題の(中間の)音声学的要素とする
様々な3要素の組合せを含んでいる。 AE1に対応する音声学的要素のリスト項目を検
討すると、(破線で囲んだ)ある文脈Πm,cは、
その前にある音声学的要素がKQ、その後にくる
音声学的要素がTXである。この文脈は、語
“CAT”中に見られる文脈と一致する。トレーニ
ング中に得られたデータにもとづいて、KQ−
AE1−TXの文脈に、fと名づけたフイーニー
ム・ストリングが関連づけられる。上段で指摘し
たように、ストリングfは、トレーニング中に
KQ−AE1−TX文脈が1回発声された結果であ
ることも何度か発声された結果であることもあ
る。ストリングfは、KQ−AE1−TX文脈中で
発生する音声学的要素AE1に対応する。 単語“CAT”のフイーニーム・ベースフオー
ムを形成する際、fストリングが、単語“CAT”
の音声学的要素AE1に対応する切片に関連づけら
れる。 単語“CAT”中の他の音声学的要素に対して、
それに対応するフイーニーム・モデル・ストリン
グが導き出される。すなわち、SILENCE−KQ
−AE1に関連するフイーニーム・モデル・ストリ
ングが記録される。また、AE1とTQに挟まれた
TXに対するフイーニーム・モデル・ストリング
が記録され、以下同様である。単語“CAT”中
の音声学的要素に対して導き出された様々なフイ
ーニーム・モデル・ストリングが、その単語中で
それぞれの音声学的要素が発生する順に連結され
る。連結されたフイーニーム・モデル・ストリン
グが、単語“CAT”に対する合成されたフイー
ニーム・ベースフオームとなる。 この良好な実施例では、それに関連するフイー
ニーム・モデル・ストリングが記憶されていない
“新単語”の文脈中で、ある音声学的要素が発生
することがある。音声学的モデル・ストリングと
3要素の音声学的文脈の間の省略された対応リス
トが使用できるようにするため、第13図の方法
を使用する。 第13図によれば、各“新”単語は音声学的要
素のストリングとして表わされ、各音声学的要素
は“新”単語のある切片を表わす。次に各語の切
片に対応する音声学的要素が。その文脈Π′m,c
中で識別される。ステツプ2400の最初の単語の切
片i←1から出発して、ステツプ2402で、位置Pi
にあるΠ′m,cが、関連するフイーニーム・モデ
ル・ストリングを有する文脈化された音声学的要
素(Πm,c)に完全に対応するかどうか判断が
下される。イエスの場合、関連するフイーニー
ム・モデル・ストリングの全体が、ステツプ2404
でフイーニーム・ベースフオームに含まれる。 ステツプ2404(および下記の各ステツプ)で使
用する表記法は、簡単な説明のためのものであ
る。2重の垂線は、連結演算子を表わす。その右
側にある“切片”が、以前に構築されたベースフ
オームのその部分にタグとして付加される。連結
演算子の右側にある“切片”は、3つのパラメー
タを含んでいる。一番左のパラメータは、現在行
なわれている判断を示す。次のパラメータは、関
連するフイーニーム・ストリング中の始めのフイ
ーニーム・モデルを示す。最後のバラメータは、
連結に含まれるべき関連するフイーニーム・モデ
ル中の最後のフイーニーム・モデルを示す。した
がつて、“切片(g1,1,l(gi)”は、(ステツプ
2402の)g1判断に関連する最初から最後までの
フイーニーム・モデルを指す。すなわち、g1の
判断が“イエス”であれば、“新”単語の主題の
音声学的要素Π′m,cが(同じ3要素の音声学的
文脈をもつ)記憶済みのΠm,cと一致し、かつ
それに関連する(モデル1から始まりモデルl
(g1)で終わる)フイーニーム・モデル・ストリ
ングがあることを示す。ステツプ2404でg1の判
断がイエスであれば、そのフイーニーム・モデ
ル・ストリングに全体が、“新単語”の以前に切
片に対して構築されたベースフオームにタグとし
て付加される。ステツプ2404の後、ステツプ2406
で次の単語の切片が検査される。 “新”単語中の音声学的要素Πm,cが、それ
と同じ3要素の音声学的文脈を有する記憶済みの
ある音声学的要素に写像されない場合、類似する
2要素の音声学的文脈があるかどうか判断が下さ
れる。ステツプ1410で、“新”単語の音声学的要
素とその前の音声学的要素が、判断g2で取り上
げられる。類似する先行要素−主題要素の文脈が
記憶リスト中にあるいずれかの3要素の文脈に含
まれている場合、そのフイーニーム・モデル・ス
トリングが検索される。次にステツプ2412でフイ
ーニーム・モデル・ストリングの前半が抽出さ
れ、構築中のフイーニーム・ベースフオーム
(bsf)に連結される。 主題の音声学的要素とその後にくる音声学的要
素が記憶済のおそれに対応する文脈を有するかど
うか判断を下すために、同様の検査が実施され
る。これは、g4判断と呼ばれ、ステツプ2414で
実施される。この判断では、リスト中に、その最
後の2つの音声学的要素が、取り上げられている
“新”単語の切片中の主題の音声学的要素および
その後の音声学的要素と同じである3要素の文脈
が含まれているかどうかが示される。含まれてい
る場合、フイーニーム・モデル・ストリングの後
半(最初の音素的モデルは省略)が、構築中のベ
ースフオーム(bsf)にタグとして付加される
(ステツプ2416参照)。そうでない場合は、ステツ
プ2418で、ステツプ2420にもとづいて決定された
フイーニーム・ストリングの後半部分が、構築中
のベースフオーム(bsf)に連結される。 ステツプ2420で、取り上げられている“新”単
語切片中のものと同じ音声学的要素P(i−1)
Piを有する音声学的要素の文脈が記憶されていな
いかどうか判断が下される。記憶されていない場
合、主題の音声学的要素(すなわち、取り上げら
れている“新”単語切片のPi位置にある音声学的
要素)を含む、任意の記憶済みの音声学的文脈
が、その関連するフイーニーム・モデル・ストリ
ングとして記載される(複数のストリングが記録
されている場合、1つのストリングを任意に選択
できる)。ステツプ2422で、記録されたフイーニ
ーム・モデル・ストリングの半分が、構築中のベ
ースフオームに連結される。ステツプ2422の次
に、ステツプ2414に進む。 ステツプ2404,2416で、ベースフオームの前に
構築された部分にフイーニーム・モデル・ストリ
ングが加えられた後、“新”単語のすべての切片
が取り上げられるまで、次の切片が取り上げられ
る。これは、ステツプ2406と2424で実施される。
各切片については導き出された音声学的モデル
は、連結されて“新”単語のフイーニーム・モデ
ルのベースフオームとなる。 本発明によれば、音声学的要素の文脈にもとづ
くフイーニーム型単語ベースフオームの合成が、
フイーニーム・ベースフオームをトレーニングし
ていないすべての単語またはその一部分に使用で
きる。(それぞれ既知のフイーニーム・ベースフ
オームを有する)2つの単語が結合されて単一の
単語を形成する場合には、それぞれのベースフオ
ームが結合されてその単一の単語の複合ベースフ
オームとなる。たとえば、語HOUSEBOATを結
合して単一語HOUSEBOATを形成すると仮定す
る。単一語HOUSEとBOATのフイーニーム・ベ
ースフオームは、単に単語HOUSEのフイーニー
ム・ベースフオームと単語BOATのフイーニー
ム・ベースフオームを結合することにより形成さ
れる。したがつて、音声学的文脈法をかかる語に
使つてもよいが、必ずしもそうする必要ではな
い。 本発明をその良好な実施例に関して説明してき
たが、本発明の範囲から外れることなく形状およ
び細部に様々な変更を加えられることは、当業者
なら理解できるはずである。たとえば、依拠する
音声学的文脈が上記の3要素文脈でなくてもよ
い。隣接する2つの要素の代りに、最高位の文脈
が任意の数n個(1≦n)の隣接する音声学的要
素を含むこともできる。また、文脈中の音声学的
要素は位置が隣接している必要はなく、1個また
は複数の音声学的要素で分離されていてもよい。 さらに、音声学的マルコフ・モデルとフイーニ
ーム・マルコフ・モデルに関して説明してきた
が、本発明では他の型式のモデルの使用も企図さ
れている。すなわち、本発明は、単語を第1のモ
デル群に含まれるモデルのベースフオームと第2
のモデル群に含まれるモデルのベースフオームに
よつて表わすことができ、その2つのベースフオ
ームを位置合せすることができる場合、一般に適
用されることを予定している。 さらに、本特許出願で使用する“単語”は、広
義の意味で使用し、辞書の単語、語彙素(すなわ
ち上記のように辞書の単語の特定の発音)、およ
び(音節など)認識すべき音声を定義するのに使
用できる単語の部分を指すことに留意すべきであ
る。 また、希望する場合、第13図の方法を変える
こともできる。たとえば、フイーニーム・モデ
ル・ストリングの、構築中のベースフオームの事
前に存在するフイーニーム・モデルに連結される
部分を、半分ではない値にしてもよい。 さらに、フイーニーム・ベースフオームを、い
くつかの方法で音声学的要素サイズの単語切片に
分割できることに留意すべきである。上記の(合
成されたベースフオームで重なり合う音素列が生
じてもよい)Nグラム合成法以外に、最長最良合
成も使用できる。後者の方法では、(a)利用される
切片の数が最小となり、かつ(b)使用される最長の
切片の長さが最となるように、音声シーケンスが
分割される。 たとえば、最長最良体系では、語彙中の可能な
すべての単音声ストリング群に対応する可能なす
べてのフイーニーム型切片を計算することができ
る。次に、判定基準関数を下記のように定義でき
る。 f=l1 2+l2 2+l3 2……ln2 ただし、l1=音声列lの長さ;l2=音声列2つ
の長さ;以下同様である。したがつて、 l1+l2……+ln=L=所期の新しい語に対応す
る音声列の長さ。 次にfが最大となるような1組の切片を選ぶ。
これは理想的な場合、次式に対応するはずである
ことに留意すること。 l1=L l2=l3……、=φ この場合には、拘束条件l1+l2……+ln=Lの
もとでfが最大になる。 本発明は、IBM3084計算機で、Nグラム合成
法と最長最良法の両者を具体化したPL/1言語
で実施された。どちらの場合にも、有用なフイー
ニーム・ベースフオームが合成された。 合成されたベースフオームは、認識タスクで少
なくともそれに対応する音声学的ベースフオーム
と同程度の性能をもたらす。たとえば、標準タス
クでの音声学的エラー発生率が4%の場合、すべ
ての音声学的ベースフオームを合成されたフイー
ニーム・ベースフオームで置き換えると、エラー
発生率は4%より下がるはずである。 本発明は、最も頻繁に発生する2000語のベース
フオームを記録し、それほど頻用されない3000語
を合成することにより、トレーニング時間が少な
くとも150%(2/3に)節約できた。 F 発明の効果 以上説明したように、本発明によれば、トレー
ニング期間後に、第1のモデル群に含まれるモデ
ルから構築された、かかる他の単語に対するベー
スフオームを合成するための手法が提供される。
第1図は、本発明を適用できる音声認識システ
ムの概略図、第2図は、音声学的マルコフ・モデ
ルを示す概略図、第3図は、第2図の音声学的マ
ルコフ・モデルに対するラベル間隔を示す格子ま
たはトレリス構造を示す概略図、第4図は、音声
処理装置で生成されたラベルのストリング中の最
初のラベルから始まるいくつかのラベル出力間隔
にわたつて測定した、第3図と同様の格子または
トレリス構造を示す概略図、第5図は、単語
“THE”の所定の発音の音声学的表現と、単語
“THE”の音声学的ベースフオームを形成する、
3つの連結された音声学的マルコフ・モデルとを
示す図、第6図は、フイーニーム・マルコフ・モ
デルを示す図、第7図は、フイーニーム・マルコ
フ・モデルに対応する数ラベル出力間隔の間の格
子またはトレリス構造を示す説明図、第8図は、
単語を形成するように連結されたフイーニーム・
マルコフ・モデルを示す図、第9図は、本発明の
方法を一般的に示した構成図、第10図は、フイ
ーニーム・ベースフオームをどのように分割して
音声学的要素のサイズに対応する切片に分割する
のかを示す流れ図、第11図は、単語“CAT”
を音声学的に表現した図、第12図は、各フイー
ニーム・ストリングと所与の文脈中のそれに対応
する音声学的モデルの関連を示す記憶テーブルの
説明図、第13図は、第12図のリストに可能な
音声学的文脈のすべてではなくてそのいくつかが
示されている、フイーニーム・ベースフオームの
合成を示す流れ図である。
ムの概略図、第2図は、音声学的マルコフ・モデ
ルを示す概略図、第3図は、第2図の音声学的マ
ルコフ・モデルに対するラベル間隔を示す格子ま
たはトレリス構造を示す概略図、第4図は、音声
処理装置で生成されたラベルのストリング中の最
初のラベルから始まるいくつかのラベル出力間隔
にわたつて測定した、第3図と同様の格子または
トレリス構造を示す概略図、第5図は、単語
“THE”の所定の発音の音声学的表現と、単語
“THE”の音声学的ベースフオームを形成する、
3つの連結された音声学的マルコフ・モデルとを
示す図、第6図は、フイーニーム・マルコフ・モ
デルを示す図、第7図は、フイーニーム・マルコ
フ・モデルに対応する数ラベル出力間隔の間の格
子またはトレリス構造を示す説明図、第8図は、
単語を形成するように連結されたフイーニーム・
マルコフ・モデルを示す図、第9図は、本発明の
方法を一般的に示した構成図、第10図は、フイ
ーニーム・ベースフオームをどのように分割して
音声学的要素のサイズに対応する切片に分割する
のかを示す流れ図、第11図は、単語“CAT”
を音声学的に表現した図、第12図は、各フイー
ニーム・ストリングと所与の文脈中のそれに対応
する音声学的モデルの関連を示す記憶テーブルの
説明図、第13図は、第12図のリストに可能な
音声学的文脈のすべてではなくてそのいくつかが
示されている、フイーニーム・ベースフオームの
合成を示す流れ図である。
Claims (1)
- 【特許請求の範囲】 1 第1の組の部分単語マルコフ・モデルの連鎖
で表される第1の単語マルコフ・モデルを、第2
の組の部分単語マルコフ・モデルの連鎖で表され
る第2の単語マルコフ・モデルから合成する、下
記の手段a〜dを有する音声認識のための単語マ
ルコフ・モデル合成装置。 (a) 第2の組の部分単語マルコフ・モデルの各々
に対応する第1の組の部分単語マルコフ・モデ
ルの連鎖を、当該第2の組の部分単語マルコ
フ・モデルに文脈上先行する第2の組の部分単
語マルコフ・モデルおよび当該第2の組の部分
単語マルコフ・モデルに文脈上後続する第2の
組の部分単語マルコフ・モデルとともに記憶す
る記憶手段。 (b) 合成対象の単語について、対応する第2の単
語マルコフ・モデルを構成する第2の組の部分
単語マルコフ・モデルの各々と、各々に文脈上
先行する第2の組の部分単語マルコフ・モデル
および各々に文脈上後続する第2組のの部分単
語マルコフ・モデルとを順次判別する手段。 (c) 上記のようにして判別された、第2の組の部
分単語マルコフ・モデルと、この第2の組の部
分単語マルコフ・モデルに文脈上先行する第2
の組の部分単語マルコフ・モデルおよびこの第
2の組の部分単語マルコフ・モデルに文脈上後
続する第2の組の部分単語マルコフ・モデルと
に基づいて、対応する第1の組の部分単語マル
コフ・モデルの連鎖を上記記憶手段から取り出
す手段。 (d) 上記のようにして取り出された第1の組の部
分単語マルコフ・モデルの連鎖を結合して上記
合成対象の単語について第1の単語マルコフ・
モデルを合成する手段。 2 上記第1の組の部分単語マルコフ・モデル
は、それぞれが微小な時間間隔に割当て可能な音
響タイプを表す一組のラベルの各々に対応し、上
記第2の組の部分単語マルコフ・モデルは音響学
的な音素に対応する特許請求の範囲第1項記載の
音声認識のための単語マルコフ・モデル合成装
置。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US06/853,525 US4882759A (en) | 1986-04-18 | 1986-04-18 | Synthesizing word baseforms used in speech recognition |
| US853525 | 1986-04-18 |
Publications (2)
| Publication Number | Publication Date |
|---|---|
| JPS62246097A JPS62246097A (ja) | 1987-10-27 |
| JPH0372999B2 true JPH0372999B2 (ja) | 1991-11-20 |
Family
ID=25316266
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP62053232A Granted JPS62246097A (ja) | 1986-04-18 | 1987-03-10 | 音声認識のための単語マルコフ・モデル合成装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US4882759A (ja) |
| EP (1) | EP0241768B1 (ja) |
| JP (1) | JPS62246097A (ja) |
| DE (1) | DE3779170D1 (ja) |
Families Citing this family (28)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| EP0481107B1 (en) * | 1990-10-16 | 1995-09-06 | International Business Machines Corporation | A phonetic Hidden Markov Model speech synthesizer |
| JP2768561B2 (ja) * | 1990-12-19 | 1998-06-25 | 富士通株式会社 | ネットワーク変形装置および作成装置 |
| US5477451A (en) * | 1991-07-25 | 1995-12-19 | International Business Machines Corp. | Method and system for natural language translation |
| US5502790A (en) * | 1991-12-24 | 1996-03-26 | Oki Electric Industry Co., Ltd. | Speech recognition method and system using triphones, diphones, and phonemes |
| US5349645A (en) * | 1991-12-31 | 1994-09-20 | Matsushita Electric Industrial Co., Ltd. | Word hypothesizer for continuous speech decoding using stressed-vowel centered bidirectional tree searches |
| US5606645A (en) * | 1992-02-28 | 1997-02-25 | Kabushiki Kaisha Toshiba | Speech pattern recognition apparatus utilizing multiple independent sequences of phonetic segments |
| JPH0782348B2 (ja) * | 1992-03-21 | 1995-09-06 | 株式会社エイ・ティ・アール自動翻訳電話研究所 | 音声認識用サブワードモデル生成方法 |
| CA2088080C (en) * | 1992-04-02 | 1997-10-07 | Enrico Luigi Bocchieri | Automatic speech recognizer |
| EP0590173A1 (de) * | 1992-09-28 | 1994-04-06 | International Business Machines Corporation | Computersystem zur Spracherkennung |
| CA2126380C (en) * | 1993-07-22 | 1998-07-07 | Wu Chou | Minimum error rate training of combined string models |
| US5510981A (en) * | 1993-10-28 | 1996-04-23 | International Business Machines Corporation | Language translation apparatus and method using context-based translation models |
| GB2296846A (en) * | 1995-01-07 | 1996-07-10 | Ibm | Synthesising speech from text |
| IT1279171B1 (it) * | 1995-03-17 | 1997-12-04 | Ist Trentino Di Cultura | Sistema di riconoscimento di parlato continuo |
| US5835888A (en) * | 1996-06-10 | 1998-11-10 | International Business Machines Corporation | Statistical language model for inflected languages |
| US6151575A (en) * | 1996-10-28 | 2000-11-21 | Dragon Systems, Inc. | Rapid adaptation of speech models |
| US6349281B1 (en) * | 1997-01-30 | 2002-02-19 | Seiko Epson Corporation | Voice model learning data creation method and its apparatus |
| US6041300A (en) * | 1997-03-21 | 2000-03-21 | International Business Machines Corporation | System and method of using pre-enrolled speech sub-units for efficient speech synthesis |
| US6212498B1 (en) | 1997-03-28 | 2001-04-03 | Dragon Systems, Inc. | Enrollment in speech recognition |
| US6163768A (en) * | 1998-06-15 | 2000-12-19 | Dragon Systems, Inc. | Non-interactive enrollment in speech recognition |
| US6266637B1 (en) * | 1998-09-11 | 2001-07-24 | International Business Machines Corporation | Phrase splicing and variable substitution using a trainable speech synthesizer |
| US7286984B1 (en) | 1999-11-05 | 2007-10-23 | At&T Corp. | Method and system for automatically detecting morphemes in a task classification system using lattices |
| US20030191625A1 (en) * | 1999-11-05 | 2003-10-09 | Gorin Allen Louis | Method and system for creating a named entity language model |
| US8392188B1 (en) | 1999-11-05 | 2013-03-05 | At&T Intellectual Property Ii, L.P. | Method and system for building a phonotactic model for domain independent speech recognition |
| US7181395B1 (en) * | 2000-10-27 | 2007-02-20 | International Business Machines Corporation | Methods and apparatus for automatic generation of multiple pronunciations from acoustic data |
| US7206738B2 (en) * | 2002-08-14 | 2007-04-17 | International Business Machines Corporation | Hybrid baseform generation |
| TWI224771B (en) * | 2003-04-10 | 2004-12-01 | Delta Electronics Inc | Speech recognition device and method using di-phone model to realize the mixed-multi-lingual global phoneme |
| US20050108013A1 (en) * | 2003-11-13 | 2005-05-19 | International Business Machines Corporation | Phonetic coverage interactive tool |
| US7853451B1 (en) * | 2003-12-18 | 2010-12-14 | At&T Intellectual Property Ii, L.P. | System and method of exploiting human-human data for spoken language understanding systems |
Family Cites Families (6)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4181821A (en) * | 1978-10-31 | 1980-01-01 | Bell Telephone Laboratories, Incorporated | Multiple template speech recognition system |
| US4297528A (en) * | 1979-09-10 | 1981-10-27 | Interstate Electronics Corp. | Training circuit for audio signal recognition computer |
| US4383135A (en) * | 1980-01-23 | 1983-05-10 | Scott Instruments Corporation | Method and apparatus for speech recognition |
| US4513436A (en) * | 1980-09-16 | 1985-04-23 | Oki Electric Industry, Co., Ltd. | Speech recognition system |
| US4587670A (en) * | 1982-10-15 | 1986-05-06 | At&T Bell Laboratories | Hidden Markov model speech recognition arrangement |
| US4593367A (en) * | 1984-01-16 | 1986-06-03 | Itt Corporation | Probabilistic learning element |
-
1986
- 1986-04-18 US US06/853,525 patent/US4882759A/en not_active Expired - Lifetime
-
1987
- 1987-03-10 JP JP62053232A patent/JPS62246097A/ja active Granted
- 1987-03-24 EP EP87104309A patent/EP0241768B1/en not_active Expired
- 1987-03-24 DE DE8787104309T patent/DE3779170D1/de not_active Expired - Lifetime
Also Published As
| Publication number | Publication date |
|---|---|
| JPS62246097A (ja) | 1987-10-27 |
| US4882759A (en) | 1989-11-21 |
| EP0241768B1 (en) | 1992-05-20 |
| EP0241768A2 (en) | 1987-10-21 |
| EP0241768A3 (en) | 1988-02-10 |
| DE3779170D1 (de) | 1992-06-25 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| JPH0372999B2 (ja) | ||
| JP3672595B2 (ja) | 結合されたストリングモデルの最小誤認率訓練 | |
| US10176802B1 (en) | Lattice encoding using recurrent neural networks | |
| JP4141495B2 (ja) | 最適化された部分的確率混合共通化を用いる音声認識のための方法および装置 | |
| Zenkel et al. | Comparison of decoding strategies for ctc acoustic models | |
| US6963837B1 (en) | Attribute-based word modeling | |
| US20140025379A1 (en) | Method and System for Real-Time Keyword Spotting for Speech Analytics | |
| JPS62231995A (ja) | 音声認識方法 | |
| JPH0772840B2 (ja) | 音声モデルの構成方法、音声認識方法、音声認識装置及び音声モデルの訓練方法 | |
| US20030055640A1 (en) | System and method for parameter estimation for pattern recognition | |
| JPH0581918B2 (ja) | ||
| Lin et al. | OOV detection by joint word/phone lattice alignment | |
| US20080059168A1 (en) | Speech recognition using discriminant features | |
| Hain et al. | The cu-htk march 2000 hub5e transcription system | |
| US8185393B2 (en) | Human speech recognition apparatus and method | |
| US5764851A (en) | Fast speech recognition method for mandarin words | |
| Lee et al. | Improved acoustic modeling for continuous speech recognition | |
| WO2014014478A1 (en) | Method and system for real-time keyword spotting for speech analytics | |
| JP6027754B2 (ja) | 適応化装置、音声認識装置、およびそのプログラム | |
| Sukkar | Subword-based minimum verification error (SB-MVE) training for task independent utterance verification | |
| JP5184467B2 (ja) | 適応化音響モデル生成装置及びプログラム | |
| JP2886118B2 (ja) | 隠れマルコフモデルの学習装置及び音声認識装置 | |
| JP3571821B2 (ja) | 音声認識装置および単語構成要素の辞書並びに隠れマルコフモデルの学習方法 | |
| Wu et al. | Application of simultaneous decoding algorithms to automatic transcription of known and unknown words | |
| JPH0822296A (ja) | パターン認識方法 |