JPH0566796A - 音声認識装置および音声パターン正規化装置 - Google Patents

Abstract

(57)【要約】 【構成】 学習モードで逆誤差伝播法を用い前向き演算
部３６および学習処理部２８によってネットワーク結合
記憶部３８の記憶内容を更新した後、認識モードではコ
ネクタ部４８ａ〜４８ｆによって学習処理部２８を分離
して認識動作を行う。また、準備された記憶媒体に記憶
された情報をネットワーク結合記憶部３８に書き込み認
識動作を行う。さらに、周波数パラメータ群の各周波数
パラメータから最小自乗近似直線成分を除き、測定され
た音声のパワーに相当する値を加え正規化された周波数
パラメータ群を生成する。 【効果】 消費電力を節約でき、また、高い音声認識性
能を確保できる。

Description

【発明の詳細な説明】

【０００１】

【産業上の利用分野】この発明は音声認識装置および音
声パターン正規化装置に関し、特にたとえば神経回路網
モデルを用いた音声認識装置およびそのような音声認識
装置に付属的に用いられる音声パターン正規化装置に関
する。

【０００２】

【従来の技術】図７に示すように、神経回路網モデルを
用いた従来の音声認識装置１では、学習モードでのみ使
用され認識モードでは不要な学習用パターンメモリ２，
ターゲット信号発生部３および後向き誤差演算部４など
を含む学習処理部５が存在していた。

【０００３】また、従来より、音声認識では、スペクト
ル全体の情報を用いたパターンがよく使用されるが、シ
ステムの周波数特性が登録モードおよび学習モードと認
識モードとで異なる場合、入力スペクトルが変形し、認
識性能が劣化する。このような周波数特性の違いに対し
て最小自乗近似直線による正規化が有効であることが文
献１（金，青木，牧野，城戸「ローカルピークを用いた
不特定話者母音認識における伝達系の周波数特性の影
響」、日本音響学会講演論文集、昭和５９年３月）に示
されている。

【０００４】最小自乗近似直線による正規化方法の一例
を以下に示す。たとえば１２ｋＨｚでディジタル化され
た音声波形において時間ｔを中心とした２５６点の窓を
かける。音声処理においてはたとえばハニング窓などが
一般的に用いられる。この窓内の点に対して公知の技術
であるディジタル・フーリエ変換（ＤＦＴ）を用いるこ
とでたとえば時間ｔにおける１６次の周波数パラメータ
群Ａ_tが数１のように得られる。

【０００５】

【数１】Ａ_t ＝｛ａ_ti｝ （ｉ＝１，…，１６） 音声パターンは一般に、数２の周波数パラメータ群の時
系列で表される。

【０００６】

【数２】Ａ ＝｛Ａ_t ｝ （ｔ＝１，…，ｔ，…Ｔ） 以下、この周波数パラメータ群Ａ_t を最小自乗近似直線
で正規化するための処理について図６を参照して説明す
る。なお、周波数軸上の目盛りとして周波数，対数周波
数，周波数次数などが考えられるが、ここでは簡単のた
め周波数次数を用いることにする。図６に示す線Ａは周
波数軸上に表された周波数パラメータ群Ａ_t の各周波数
パラメータａ_tiで、これに対する最小自乗近似直線Ｂは
数３で表すことができる。

【０００７】

【数３】Ｌ_t （ｉ）＝αｉ＋β ここでα，βは比例定数でこの値を求める方法は直線回
帰分析としてよく知られているのでここでは省略する。
この最小自乗近似直線による正規化を施した周波数パラ
メータ群Ｂ_t は数４で表される。

【０００８】

【数４】Ｂ_t ＝｛ｂ_ti｝ （ｉ＝１，…，１６） ここでｂ_tiは数５で与えられる。

【０００９】

【数５】 ｂ_ti＝ａ_ti−Ｌ_t （ｉ） （ｉ＝１，…，１６） このような正規化を施すことにより、システムの周波数
特性の違いによる周波数パラメータの変形を受けにくい
音声パターンを得ることができる。

【００１０】

【発明が解決しようとする課題】従来の音声認識装置１
では、１度学習が終了すればもはや学習処理部５は必要
ないにも拘わらず、常に学習処理部５が存在するため、
この学習処理部に無駄な電力が供給されるという問題点
があった。また、従来の正規化方法では、周波数パラメ
ータ群Ａ_t が図６の線Ａでこれに対する最小自乗近似直
線Ｂを差し引いて正規化した場合と、周波数パラメータ
群Ａ_t が図６の線Ｃでこれに対する最小自乗近似直線Ｄ
を差し引いて正規化した場合とは、正規化された周波数
パラメータ群Ｂ_t はまったく同じ値になる。すなわち、
従来技術による正規化は、周波数パラメータ群Ａ_t 内の
各周波数パラメータａ_tiの相対的な大きさに依存し、絶
対的な大きさすなわち周波数パラメータ群Ａ _t に対応す
る音声のパワー値Ｐ_t がパラメータに反映されず、音声
のパワー情報の欠落による音声認識性能の劣化の恐れが
あった。

【００１１】それゆえに、この発明の主たる目的は、消
費電力を節約できる、音声認識装置を提供することであ
る。また、この発明の他の目的は、高い音声認識性能を
確保できる、音声パターン正規化装置を提供することで
ある。

【００１２】

【課題を解決するための手段】第１の発明は、複数のユ
ニットおよびユニット間の結合状況を記憶するネットワ
ーク結合記憶手段、ネットワーク結合記憶手段に記憶さ
れた内容を基に入力信号に対して演算処理を施しネット
ワーク出力信号を出力する前向き演算手段、ならびに入
力信号に対応してターゲット信号を発生するターゲット
信号発生手段およびネットワーク出力信号とターゲット
信号との誤差を評価しその結果に基づいてネットワーク
結合記憶手段の記憶内容を更新する後向き演算手段を含
む学習処理手段を備え、学習モードでは前向き演算手段
と学習処理手段とによって入力信号に基づいてネットワ
ーク結合記憶手段の記憶内容を更新することにより学習
処理を行い、認識モードでは学習処理手段を分離するこ
とによって学習処理手段の機能を停止させる、音声認識
装置である。

【００１３】第２の発明は、複数のユニットおよびユニ
ット間の結合状況を記憶するネットワーク結合記憶手
段、およびネットワーク結合記憶手段に記憶された内容
を基に入力信号に対して演算処理を施しネットワーク出
力信号を出力するネットワーク演算手段を備える音声認
識装置であって、ネットワーク結合記憶手段はさらに記
憶媒体に記憶された少なくともユニット間の結合の強さ
を表す情報を読み出す記憶媒体読み出し手段を含み、認
識モードにおいて記憶媒体読み出し手段によって読み出
された情報を含むネットワーク結合記憶手段の内容を基
に認識処理を行う、音声認識装置である。

【００１４】第３の発明は、音声信号を分析し所定の次
数の周波数パラメータからなる周波数パラメータ群を作
成する手段、或る時間における周波数パラメータ群の最
小自乗近似直線を導出する手段、周波数パラメータ群に
対応して音声のパワーを測定する手段、および周波数パ
ラメータ群の各周波数パラメータから最小自乗近似直線
成分を除きかつ音声のパワーに相当する値を加えること
によって正規化された周波数パラメータ群を生成する手
段を備える、音声パターン正規化装置である。

【００１５】

【作用】第１の発明では、まず学習モードにおいて、逆
誤差伝播法を用い前向き演算手段および学習処理手段に
よってネットワーク結合記憶手段の記憶内容を更新す
る。次いで、認識モードにおいて、予め学習処理手段を
電気的または物理的に分離し、前向き演算手段およびネ
ットワーク結合記憶手段によって認識動作を行う。

【００１６】第２の発明では、記憶媒体に記憶された情
報を記憶媒体読み出し手段によって読み出しネットワー
ク結合記憶手段に書き込む。書き込まれた情報を含んだ
ネットワーク結合記憶手段および前向き演算手段によっ
て認識動作を行う。第３の発明では、作成された周波数
パラメータ群の各周波数パラメータから、導出された最
小自乗近似直線成分を除き、さらに測定された音声のパ
ワーに相当する値を加えることによって周波数パラメー
タ値を正規化する。

【００１７】

【発明の効果】第１の発明によれば、認識モードでは、
学習処理部を分離するので、消費電力を節約できる。第
２の発明によれば、記憶媒体の情報を読み出す記憶媒体
読み出し手段を有し、学習処理手段を構成しないので、
消費電力を節約できるとともに、装置容積を小さくで
き、さらに部品点数を減らすこともできる。

【００１８】第３の発明によれば、システム毎に周波数
特性が異なることによる周波数パラメータの変形を補正
できるとともに、音声のパワー情報が保存された正規化
周波数パラメータ群が得られるので、種々のシステムを
経て入力される音声に対しても高い音声認識性能を確保
できる。この発明の上述の目的，その他の目的，特徴お
よび利点は、図面を参照して行う以下の実施例の詳細な
説明から一層明らかとなろう。

【００１９】

【実施例】図１に示すこの実施例の音声認識装置１０
は、図２に示すような神経回路網モデル１２を実現する
ものである。図２に示す神経回路網モデル１２は、ここ
では日本語の６つの破裂性子音ｂ，ｄ，ｇ，ｐ，ｔ，ｋ
を識別するものが示されている。神経回路網モデル１２
は入力層１４，隠れ層１６および出力層１８を含む。入
力層１４および隠れ層１６には、それぞれ適当な数のユ
ニット１４ａおよび１６ａを含み、出力層１８は、識別
対象である６つの子音カテゴリに対応するユニット１８
ａ，１８ｂ，１８ｃ，１８ｄ，１８ｅ，１８ｆを含む。
そして、入力層１４の各ユニット１４ａと隠れ層１６の
各ユニット１６ａとの間、および隠れ層１６の各ユニッ
ト１６ａと出力層１８の各ユニット１８ａ〜１８ｆとの
間は、それぞれ異なった強さ（以下「ウェイト値」とい
う）で結合される。そして、入力層１４の各ユニット１
４ａに、音声特徴パターンを構成する音声特徴パターン
群が順次入力されると、ウェイト値に応じて順次隠れ層
１６内の各ユニット１６ａおよび出力層１８内の各ユニ
ット１８ａ〜１８ｆに情報が伝達され、識別結果として
出力される。

【００２０】図１に戻って、音声認識装置１０は、特徴
抽出部２２を含む。特徴抽出部２２では、入力された音
声信号から音声の特徴パラメータ群を抽出し、音声特徴
パターンを作成する。特徴抽出部２２は、スイッチ２４
によって、認識用パターンメモリ２６または学習処理部
２８の学習用パターンメモリ３０のいずれかに択一的に
接続される。したがって、特徴抽出部２２で作成された
音声特徴パターンは、認識モードでは認識用音声特徴パ
ターンとして認識用パターンメモリ２６に格納され、学
習モードでは学習用音声特徴パターンとして学習用パタ
ーンメモリ３０にカテゴリ別に格納される。学習用パタ
ーンメモリ３０からは音声特徴パターンがターゲット信
号発生部３２に出力され、ターゲット信号発生部３２で
は入力された学習用音声特徴パターンに応じたターゲッ
ト信号（当該学習用音声特徴パターンを入力層１４に与
えたときの出力層１８からの出力の理想値）を発生さ
せ、後向き誤差演算部３４に出力する。認識用パターン
メモリ２６および学習用パターンメモリ３０からの音声
特徴パターンは、前向き演算部３６に出力される。ま
た、前向き演算部３６には、ネットワーク結合記憶部３
８に含まれるネットワーク構造メモリ４０およびウェイ
ト値メモリ４２からの情報が入力される。すなわち、前
向き演算部３６には、神経回路網モデル１２に従って、
各ユニットの配置やユニット間の結合等のネットワーク
構造を定義したネットワーク構造メモリ４０と各ユニッ
ト間のウェイト値を記憶させたウェイト値メモリ４２と
に記憶された情報が入力され、この情報を用いて入力層
１４に与えられた音声特徴パターンに対する出力層１８
からの出力値を計算する。そして、前向き演算部３６の
出力は、スイッチ４４を介して、後向き誤差演算部３４
または判定部４６のいずれかに択一的に接続される。す
なわち、前向き演算部３６は、学習モードでは後向き誤
差演算部３４に接続され、認識モードでは判定部４６に
接続される。判定部４６では、前向き演算部３６からの
出力を用いて入力音声に対する認識結果を図示しない外
部装置に出力する。また、後向き誤差演算部３４では、
ターゲット信号発生部３２からのターゲット信号と前向
き演算部３６からの出力値との誤差を計算し、公知の逆
誤差伝播法によってウェイト値メモリ４２内のウェイト
値を更新する。そして、学習処理部２８と音声認識装置
１０を構成する他の構成部材とは、コネクタ４８ａ，４
８ｂ，４８ｃ，４８ｄ，４８ｅおよび４８ｆによって結
合される。

【００２１】動作において、まず学習モードでは、スイ
ッチ２４および４４が、それぞれ学習用パターンメモリ
３０および後向き誤差演算部３４側に接続される。学習
モードにおいては、発生されたあるいは予め収録された
学習用音声の音声信号が特徴抽出部２２に順次入力さ
れ、特徴抽出部２２によって特徴パラメータが抽出さ
れ、学習用音声特徴パターンが作成される。学習用音声
特徴パターンは、順次学習用パターンメモリ３０に各子
音カテゴリ毎に格納される。所定の個数のパターンが格
納されると、逆誤差伝播法により学習される。すなわ
ち、学習用パターンメモリ３０内に格納された学習用音
声特徴パターンが、所定の順序で順次前向き演算部３６
に送られる。前向き演算部３６では、学習用音声特徴パ
ターンとさらに入力されるネットワーク構造メモリ４０
およびウェイト値メモリ４２からの情報とを用いて出力
値が計算される。すなわち、図２に示す神経回路網モデ
ル１２でいえば、学習用音声特徴パターンが入力層１４
に与えられ、前向き演算部３６で処理された出力値が出
力層１８から出力される。なお、学習を始めるに当たっ
ては、予めウェイト値メモリ４２内のウェイト値を乱数
を用いるなどの方法で適度にばらつかせるとよい。

【００２２】一方、ターゲット信号発生部３２からは、
学習用パターンメモリ３０から入力された学習用音声特
徴パターンが属するカテゴリに対応してターゲット信号
が出力される。たとえば、この学習用音声特徴パターン
が、図２に示す子音ｂのカテゴリに属しているとすれ
ば、このカテゴリに対応する出力層１８のユニット１８
ａに対するターゲット信号は「１」、それ以外のユニッ
ト１８ｂ〜１８ｆに対するターゲット信号は「０」にな
る。同様に、学習用音声特徴パターンが子音ｄのカテゴ
リに属しているとすれば、このカテゴリに対応する出力
層１８のユニット１８ｂに対するターゲット信号は
「１」、それ以外のユニット１８ａ，１８ｃ〜１８ｆに
対するターゲット信号は「０」になる。すなわち、子音
のカテゴリに対応する出力層１８のユニットに対するタ
ーゲット信号だけが「１」となる。また、後向き誤差演
算部３４では、前向き演算部３６によって計算された出
力値とターゲット信号発生部３２から入力されたターゲ
ット信号との誤差を求め、この誤差が小さくなるように
逆誤差伝播法に従ってウェイト値メモリ４２内のウェイ
ト値を更新する。以上の手順を所定の回数もしくは所定
の状態になるまで繰り返す。なお、ウェイト値の更新
は、学習用音声特徴パターンを１つ入力層に与える毎に
行う方法のほか、所定の個数毎に行う方法もある。ウェ
イト値メモリ４２内のウェイト値の更新が終了すれば、
認識モードにする。

【００２３】認識モードにおいては、コネクタ４８ａ〜
４８ｆによって学習処理部２８を電気的または物理的に
分離し、スイッチ２４および４４を、それぞれ認識用パ
ターンメモリ２６および判定部４６側に切り換える。こ
のように、学習処理部２８以外の構成部材によって認識
動作を行う。すなわち、認識モードにおいては、入力さ
れた音声は特徴抽出部２２によって特徴パラメータが抽
出され、認識用音声特徴パターンが作成され、認識用パ
ターンメモリ２６に格納される。認識用パターンメモリ
２６内の認識用音声特徴パターンは、学習モードと同
様、前向き演算部３６に入力され、前向き演算部３６で
はさらにネットワーク構造メモリ４０およびウェイト値
メモリ４２から入力される情報を用いて、図２に示す出
力層１８の各ユニット１８ａ〜１８ｆからの出力値が計
算される。そして、判定部４６では、これらの出力値を
基に、認識結果を図示しない外部装置に出力する。

【００２４】このように、認識モードでは、学習処理部
２８を分離して、それ以外の構成部材だけで認識動作を
行えるので、消費電力を節約できる。図３を参照して、
他の実施例の音声認識装置１０´は、認識専用装置とし
て構成されたものである。音声認識装置１０´は、学習
処理部が存在せず、ウェイト値メモリ４２に接続される
ＲＯＭソケット５０を有する点以外については音声認識
装置１０と同様に構成されるので重複する説明は省略す
る。音声認識装置１０´では、ＲＯＭソケット５０に学
習専用装置５２（後述）で作成された読み出し専用メモ
リ（以下「ＲＯＭ」という）（図示せず）を差込み、学
習専用装置５２によって学習されたウェイト値を用いて
上述と同様の認識動作を行う。

【００２５】ここで、ＲＯＭソケット５０に差し込まれ
るＲＯＭは、図４に示す学習専用装置５２によってその
ウェイト値が学習される。学習専用装置５２は、音声認
識装置１０と比較して、認識用パターンメモリ２６，ス
イッチ２４，４４，判定部４６およびソケット４８ａ〜
４８ｆを除いた学習モードに必要な構成部材とＲＯＭ書
き込み装置５４とによって構成されるので、重複する説
明は省略する。学習専用装置５２では、学習モードにお
いて更新されたウェイト値メモリ４２内のウェイト値を
ＲＯＭ書き込み装置５４にセットされたＲＯＭに書き込
む。そして、このＲＯＭは、音声認識装置１０´のＲＯ
Ｍソケット５０に差し込まれ、学習されたウェイト値を
用いて音声認識装置１０´の認識動作が行われる。

【００２６】音声認識装置１０´では、学習処理部が存
在しないので、消費電力を節約できるのみならず、装置
容積および部品点数を減らすことができる。すなわち、
従来に比べ、小型・省電力・および低価格化が図れる。
なお、音声認識装置１０´には、学習専用装置５２が必
要となるが、両者は必ずしも一対として準備される必要
はなく、たとえば学習専用装置５２が１台あれば、音声
認識装置１０´が大量に存在しても十分対応できる。し
たがって、学習専用装置５２を準備することが、上述の
効果を低めることにはならず、特に音声認識装置１０´
を大量に用いる場合に効果が大きい。

【００２７】なお、音声認識装置１０´では、ＲＯＭを
用いているが、ＩＣカードのようなカード状の記憶媒体
など、他の任意の記憶媒体を用いることができる。ま
た、ウェイト値だけでなくネットワーク構造の情報も併
せて記憶媒体に記憶させることにより、より汎用的な音
声認識装置を実現できる。また、上述の実施例では、図
２に示す神経回路網モデル１２のネットワークの形状と
して、入力層１４，隠れ層１６および出力層１８の３層
の階層構造を用いたが、その他の種々の形状が用いられ
得る。また、学習の手法として逆誤差伝播法を挙げた
が、神経回路網モデルのそれぞれの形状に適した学習法
があり、この発明は逆誤差伝播法に限定されるものでは
ない。

【００２８】図５を参照して、その他の実施例の音声パ
ターン正規化装置６０は、入力された音声をアナログの
電気信号に変換するマイクロフォン６２を含む。マイク
ロフォン６２から出力される電気信号は、Ａ／Ｄ変換器
６４で、たとえば１２ｋＨｚ間隔で１６ビットの量子化
を行うことによりディジタル化される。ディジタル化さ
れた音声はディジタル・フーリエ変換演算器（以下「Ｄ
ＦＴ」という）６６に入力される。ＤＦＴ６６では、デ
ィジタル化された音声にたとえば時間ｔの点を中心に２
５６点のハニング窓をかけ、窓内の点に対してディジタ
ル・フーリエ変換を施してたとえば１６次の周波数パラ
メータａ_ti（ｉ＝１〜１６）からなる周波数パラメータ
群Ａ_t が生成される。周波数パラメータ群Ａ_t は、最小
自乗近似直線演算器６８，加減算器７０および平均値算
出器７２にそれぞれ出力される。最小自乗近似直線演算
器６８では、時間ｔにおける周波数パラメータ群Ａ_t に
対する最小自乗近似直線Ｌ_t （ｉ）を算出する。また、
平均値算出器７２では、音声のパワーとされる、周波数
パラメータ群Ａ_t の各周波数パラメータａ_tiの平均値Ｐ
_t を算出する。そして、加減算器７０では以下に示す数
６に基づき、正規化された周波数パラメータ群Ｂ_t ＝
｛ｂ_ti｝（ｉ＝１〜１６）が生成され、パターンメモリ
７４に出力する。

【００２９】

【数６】ｂ_ti＝ａ_ti−Ｌ_t （ｉ）＋Ｐ_t そして、パターンメモリ７４では、順次作成される正規
化された周波数パラメータ群Ｂ_t の時系列Ｂ＝｛Ｂ_t ｝
（ｔ＝１〜Ｔ）にセグメンテーションや時間軸伸縮など
の所定の処理を施しまたは処理をせずにそのままで、音
声パターンとして蓄積する。そして、必要に応じて、外
部の音声認識装置に出力する。

【図面の簡単な説明】

【図１】この発明の一実施例を示すブロック図である。

【図２】神経回路網モデルの構造を示す図解図である。

【図３】この発明の他の実施例を示すブロック図であ
る。

【図４】図３の実施例と併せて用いられる学習専用装置
を示すブロック図である。

【図５】この発明のその他の実施例を示すブロック図で
ある。

【図６】１６次の周波数パラメータ群および最小自乗近
似直線を示すグラフである。

【図７】従来技術を示すブロック図である。

【符号の説明】

１０，１０´ …音声認識装置 ２８ …学習処理部 ３２ …ターゲット信号発生部 ３４ …後向き誤差演算部 ３６ …前向き演算部 ３８ …ネットワーク結合記憶部 ５０ …ＲＯＭソケット ６０ …音声パターン正規化装置 ６６ …ＤＦＴ ６８ …最小自乗近似直線演算器 ７０ …加減算器 ７２ …平均値算出器 ７４ …パターンメモリ

Claims (3)

【特許請求の範囲】
1. 【請求項１】複数のユニットおよび前記ユニット間の結
   合状況を記憶するネットワーク結合記憶手段、 前記ネットワーク結合記憶手段に記憶された内容を基に
   入力信号に対して演算処理を施しネットワーク出力信号
   を出力する前向き演算手段、ならびに前記入力信号に対
   応してターゲット信号を発生するターゲット信号発生手
   段および前記ネットワーク出力信号と前記ターゲット信
   号との誤差を評価しその結果に基づいてネットワーク結
   合記憶手段の記憶内容を更新する後向き演算手段を含む
   学習処理手段を備え、 学習モードでは前記前向き演算手段と前記学習処理手段
   とによって入力信号に基づいて前記ネットワーク結合記
   憶手段の記憶内容を更新することにより学習処理を行
   い、 認識モードでは前記学習処理手段を分離することによっ
   て前記学習処理手段の機能を停止させる、音声認識装
   置。
2. 【請求項２】複数のユニットおよび前記ユニット間の結
   合状況を記憶するネットワーク結合記憶手段、および前
   記ネットワーク結合記憶手段に記憶された内容を基に入
   力信号に対して演算処理を施しネットワーク出力信号を
   出力するネットワーク演算手段を備える音声認識装置で
   あって、 前記ネットワーク結合記憶手段はさらに記憶媒体に記憶
   された少なくとも前記ユニット間の結合の強さを表す情
   報を読み出す記憶媒体読み出し手段を含み、 認識モードにおいて前記記憶媒体読み出し手段によって
   読み出された情報を含む前記ネットワーク結合記憶手段
   の内容を基に認識処理を行う、音声認識装置。
3. 【請求項３】音声信号を分析し所定の次数の周波数パラ
   メータからなる周波数パラメータ群を作成する手段、 或る時間における前記周波数パラメータ群の最小自乗近
   似直線を導出する手段、 前記周波数パラメータ群に対応して音声のパワーを測定
   する手段、および前記周波数パラメータ群の前記各周波
   数パラメータから最小自乗近似直線成分を除きかつ前記
   音声のパワーに相当する値を加えることによって正規化
   された周波数パラメータ群を生成する手段を備える、音
   声パターン正規化装置。