JPH0519337B2 - - Google Patents

Description

【発明の詳細な説明】 ［産業上の利用分野］ この発明は神経回路網モデルを用いた雑音除去
装置に関し、特に、神経回路網モデルを用いて、
通信、情報処理および音声認識などの分野におい
て雑音除去やノイズリダクシヨンをするような雑
音除去装置に関する。

［従来の技術］ 従来より、雑音除去システムを構築するにあた
り、雑音除去の方式は、雑音に汚染された信号の
例と、信号成分のみの例から両者の情報をいわば
直感的に読取り、その違いに基づいて雑音除去す
るように構成されている。たとえば、スペクトラ
ムの振幅に着目したものとして、S.F.Boll
“Suppression of Acoustic Noise in Speech
Using Spectral Subtraction、”IEEE Trans.on
Acoustics、Speech and Signal Processing.、
vol.ASSP−29pp113−120、April1979がある。

このスペクトラムサブトラクシヨン方式は、雑
音のスペクトラム振幅が明瞭なピークを持たず、
全周波数帯域に広がつている場合は、信号のスペ
クトラム振幅の山の部分は、もともとエネルギが
大きいため、信号のスペクトラムの谷に比較して
あまり雑音の影響を受けない。しかも、人間の聴
覚では、スペクトラム振幅の山の部分の方が重要
な意味を持つ。このようなことを考えて、雑音に
汚染された信号のスペクトラムの振幅から、推定
した雑音のスペクトラム振幅を引き去ることで雑
音除去が行なわれる。

［発明が解決しようとする課題］ 一般に、雑音に汚染された信号または信号成分
のみの信号は、共に非常に大量の情報を有し、ま
た両者の違いも複雑多枝、広範囲にわたり、その
すべてを人間が読取ることは不可能に近い。たと
えば、雑音に汚染された信号と信号成分のみの信
号の位相情報について考えてみると、明らかに両
者を区別する情報があるにもかかわらず、大変に
複雑であるために、従来技術のアプローチでは、
その情報を雑音除去に利用することが困難であ
る。つまり、雑音を除去するには、雑音に汚染さ
れた信号と信号成分のみの信号との情報を可能な
限り利用することが望ましいにもかかわらず、従
来の直感的なアプローチでは、そのごく一部を利
用していたにずぎなかつた。すなわち、雑音除去
には、雑音に汚染された信号と信号成分のみの信
号との間の情報を可能な限り利用することが望ま
しいにもかかわらず、従来技術はそのうちのわず
かな情報を利用していたにすぎなかつた。

それゆえに、この発明の主たる目的は、神経回
路網モデルを雑音に汚染された信号の空間から信
号成分のみの信号の空間への写像モデルとして用
い、雑音に汚染された信号と信号成分のみの信号
との間の情報を可能な限り利用できる高性能な神
経回路網モデルを用いた雑音除去装置を提供する
ことである。

［課題を解決するための手段］ この発明は神経回路網モデルを用いて雑音に汚
染された入力信号からその信号成分のみを抽出す
る雑音除去装置であつて、神経回路網が教師信号
に基づいて雑音抑圧の写像を学習する学習モード
と、入力信号から雑音を抑圧する雑音抑圧モード
とを切換えるためのモード切換手段を含み、神経
回路網は、乗算器を含み、雑音に汚染された入力
信号が与えられる入力層と、乗算器を含み、入力
層に接続される中間層と、乗算器を含み、中間層
に接続される出力層と、モード切換手段が学習モ
ードに切換られていることに応じて、出力層の出
力信号と教師信号との２乗誤差が十分に小さくな
るように入力層と中間層と出力層の各乗算器のパ
ラメータを設定するパラメータ設定手段とを含
み、神経回路網はモード切換手段によつて雑音抑
圧モードに切換られていることに応じて、パラメ
ータ設定手段によつて設定されたパラメータで入
力信号から雑音の抑圧された信号成分のみを抽出
するように構成される。

［作用］ この発明に係る神経回路網モデルを用いた雑音
除去装置は、学習モードにおいて、出力層の出力
信号と教師信号との２乗誤差が十分に小さくなる
ように入力層と中間層と出力層の各乗算器にパラ
メータを設定し、雑音抑圧モードにおいて、神経
回路網は設定されたパラメータで入力信号から雑
音の抑圧された信号成分のみを抽出する。したが
つて、入力空間として雑音に汚染された信号の空
間を考え、それに対応する信号成分のみの空間を
出力空間として、神経回路網のモデルにいくつか
の入出力の対応例を提示することにより、神経回
路網モデルは自動的に雑音に汚染された信号と信
号成分の有無の信号との間の情報に基づいて写像
を実現する。

［発明の実施例］ 第１図はこの発明の一実施例の全体構成を示す
概略ブロツク図であり、第２図は第１図に示した
神経回路網モデルの具体的なブロツク図である。

まず、第１図および第２図を参照して、この発
明の一実施例の構成について説明する。教師信号
はＡ／Ｄ変換器１に入力され、入力信号はＡ／Ｄ
変換器２に入力され、それぞれデイジタル信号に
変換されて神経回路網モデル３に与えられる。こ
こで、入力信号は雑音を抑圧すべき、雑音に汚れ
たアナログ信号の例であり、教師信号は入力信号
に対応する雑音のないアナログ信号である。デイ
ジタル信号に変換された教師信号は神経回路網モ
デル３の出力デイジタル信号の参照信号となる。

神経回路網モデル３の出力にはスイツチ４が接
続されていて、このスイツチ４はａ側に切換えら
れると学習モードとなり、ｂ側に切換えられると
雑音抑圧モードになる。学習モードとは、神経回
路網モデル３が雑音抑圧の写像を学習するモード
であり、入力信号と教師信号が必要とされる。神
経回路網モデル３はこの入力信号に基づいて、自
身の動作原理に従つて出力デイジタル信号を計算
する。そして、神経回路網モデル３は自身の出力
信号と、参照信号としての教師信号との２乗誤差
が最小となるように自分のパラメータを調節し、
この２乗誤差が十分に少なくなるまで学習モード
が繰返される。

一方、雑音抑制モードは、実際にシステムが雑
音を抑圧するモードであり、入力信号のみが必要
とされる。神経回路網モデル３はデイジタル化さ
れた入力信号に基づいて、自身の動作原理に従つ
て、予め学習してある自身のパラメータを使つて
出力信号を計算する。システムは予め十分に学習
していれば、この出力信号は十分に雑音の抑圧さ
れた信号となつている。このデイジタル信号は
Ｄ／Ａ変換器５によつてアナログ信号に変換され
て出力される。

次に、第２図を参照して、神経回路網モデル３
の構成と動作について説明する。まず、雑音抑圧
モードでの動作について述べる。デイジタル化さ
れた入力信号は遅延回路DL１と乗算器Ｍ１，Ｍ
３に与えられる。遅延回路DL１は入力信号を１
単位時間だけ遅延して乗算器Ｍ２，Ｍ４に与え
る。一方、パラメータコントロール装置３１はス
カラーパラメータを各乗算器Ｍ１〜Ｍ４に与え
る。

乗算器Ｍ１，Ｍ３は入力信号とスカラーパラメ
ータとの積を計算し、乗算器Ｍ２，Ｍ４は１単位
時間だけ前の入力信号とスカラーパラメータとの
積を計算する。乗算器Ｍ１，Ｍ２の計算結果は非
線形ユニツトＮ１に与えられ、乗算器Ｍ３，Ｍ４
の計算結果は非線形ユニツトＮ２に与えられる。
これらの非線形ユニツトＮ１，Ｎ２は隠れ層を構
成している。非線形ユニツトＮ１，Ｎ２はそれぞ
れ関数１／（１＋exp（−ｘ））の計算を行なうた
めのテーブルルツクアツプ（図示せず）を含む。
そして、非線形ユニツトＮ１，Ｎ２はまず自身へ
のすべての入力値と自身が有しているしきい値の
和を計算し、この和をテーブルルツクアツプを参
照して関数１／（１＋exp（−ｘ））の出力に変形
する。

非線形ユニツトＮ１の計算結果は乗算器Ｍ５，
Ｍ７に与えられ、非線形ユニツトＮ２の計算結果
はＭ６，Ｍ８に与えられる。パラメータコントロ
ール装置３１から与えられるスカラーパラメータ
と非線形ユニツトＮ１，Ｎ２の計算結果とを乗算
し、非線形ユニツトＮ３，Ｎ４に与える。これら
の非線形ユニツトＮ３，Ｎ４は隠れ層を構成して
いる。非線形ユニツトＮ３，Ｎ４は前述の非線形
ユニツトＮ１，Ｎ２と同様の計算を行ない、その
結果を乗算器Ｍ９〜Ｍ１２に与える。乗算器Ｍ９
〜Ｍ１２は前述の乗算器Ｍ１〜Ｍ４、Ｍ５〜Ｍ８
と同様の計算を行なつて、その計算結果を線形ユ
ニツトＬ１，Ｌ２に与える。線形ユニツトＬ１は
自身へのすべての入力値と自身が持つしきい値の
和を計算し、この和を遅延回路DL２を介して線
形ユニツトＬ２に出力する。線形ユニツトＬ２は
自身へのすべての入力値と自身が持つしきい値の
和を計算し、その出力が神経回路網モデル３の出
力となる。

次に、学習モードについて説明する。学習モー
ドでは、まず神経回路網モデル３は上述の操作に
よつてモデルの出力を計算する。このデイジタル
出力信号はパラメータコントロール装置３１に与
えられる。パラメータコントロール装置３１で
は、現在のモデル出力信号とそれに対応する教師
信号との差の２乗および１単位時間だけ前のモデ
ル出力信号とそれに対応する１単位時間前の教師
信号との差の２乗を計算し、その２つの和を神経
回路網モデル３の誤差とする。

神経回路網モデル３の出力計算の説明からわか
るように、この誤差はパラメータコントロール装
置３１が乗算器Ｍ１〜Ｍ１２のそれぞれに供給す
るスカラーパラメータの関数になつている。パラ
メータコントロール装置３１は誤差が小さくなる
ように、供給すべきそれぞれのスカラーパラメー
タを調整する。より具体的には、gradient
descent数値計算法を用いる。つまり、パラメー
タコントロール装置３１はそれぞれの乗算器Ｍ１
〜Ｍ１２に供給するスカラーパラメータについて
のそれぞれの誤差の偏微分を差分法を使つてデイ
ジタル的に計算する。そして、神経回路網モデル
３の出力を計算するのに使つたそれぞれのスカラ
ーパラメータの値に、偏微分値にあるマイナスの
定数（たとえば、−0.2）を乗じた値を加えて、新
たなスカラーパラメータの値とする。神経回路網
モデル３は誤差の値が予め与えられた値よりも小
さくなるまでこの動作を繰返す。

第３Ａ図〜第６Ｂ図はこの発明による雑音除去
装置の実験結果を示す図である。この実験では隠
れ層を２つ有し、それぞれの隠れ層が60個の非線
形ユニツトを有する神経回路網モデルを用いた。

第３Ａ図は男性話者が“イキオイ”と発音し、
その音声にコンピユータルームノイズが混入した
ときのスペクトル図であり、そのようなノイズが
混入した音声をこの発明による雑音除去装置で学
習し、雑音を除去すると、第３Ｂ図に示すような
スペクトルが得られた。この第３Ａ図と第３Ｂ図
とを対比すれば明らかなように、雑音成分の大部
分が除去されていることが明らかである。

第４Ａ図は男性話者が“カクリツ”と発音し、
その音声にコンピユータルームノイズが混入した
ときのスペクトル図である。この場合、“カクリ
ツ”は学習単語に入つていない。このような場合
でも、第４Ｂ図に示すように、大部分の雑音を除
去することができた。

第５Ａ図は女性話者が“イキオイ”と発音し、
その音声にホワイトノイズが混入したときのスペ
クトル図である。但し、この場合女性音声および
ホワイトノイズは学習データに含まれていない
が、“イキオイ”の言葉自体は学習単語として入
つている。この例においても、第５Ｂ図に示すよ
うに、大部分の雑音を除去することができた。

第６Ａ図は女性話者が“カメラ”と発音し、そ
の音声にホワイトノイズが混入したときのスペク
トル図である。この場合、“カメラ”の言葉や女
性話者およびホワイトノイズについてすべて学習
していないという最も厳しい条件である。このよ
うな例においても、第６Ｂ図に示すように、大部
分の雑音を除去することができた。

［発明の効果］ 以上のように、この発明によれば、学習モード
において、出力層の出力信号と教師信号との２乗
誤差が十分に小さくなるように各乗算器にパラメ
ータを設定し、雑音抑圧モードにおいて、設定さ
れたパラメータで神経回路網が入力信号から雑音
の抑圧された信号成分のみを抽出する。

【図面の簡単な説明】

第１図はこの発明の一実施例の概略ブロツク図
である。第２図は第１図に示した神経回路網モデ
ルの具体的なブロツク図である。第３Ａ図、第３
Ｂ図、第４Ａ図、第４Ｂ図、第５Ａ図、第５Ｂ
図、第６Ａ図および第６Ｂ図はこの発明による雑
音除去装置の実験結果を示すスペクトル図であ
る。 図において、１，２はＡ／Ｄ変換器、３は神経
回路網モデル、４はスイツチ、５はＤ／Ａ変換
器、３１はパラメータコントロール装置、DL１，
DL２は遅延回路、Ｍ１〜Ｍ１２は乗算回路、Ｎ
１〜Ｎ４は非線形ユニツト、Ｌ１〜Ｌ２は線形ユ
ニツトを示す。

Claims (1)

1. 【特許請求の範囲】 １ 神経回路網モデルを用いて雑音に汚染された
   入力信号からその信号成分のみを抽出する雑音除
   去装置であつて、 前記神経回路網が教師信号に基づいて雑音抑圧
   の写像を学習する学習モードと、前記入力信号か
   ら雑音を抑圧する雑音抑圧モードとを切換るため
   のモード切換手段を含み、 前記神経回路網は、 それぞれが乗算器を含み、前記雑音に汚染され
   た入力信号が与えられる入力層と、 それぞれが乗算器を含み、前記入力層に接続さ
   れる中間層と、 それぞれが乗算器を含み、前記中間層に接続さ
   れる出力層と、 前記モード切換手段が学習モードに切換られて
   いることに応じて、前記出力層の出力信号と前記
   教師信号との２乗誤差が十分に小さくなるように
   前記入力層と中間層と出力層の各乗算器のパラメ
   ータを設定するパラメータ設定手段を含み、 前記神経回路網は、前記モード切換手段が前記
   雑音抑圧モードに切換えられていることに応じ
   て、前記パラメータ設定手段によつて設定された
   パラメータで前記入力信号から雑音の抑圧された
   信号成分のみを抽出することを特徴とする、神経
   回路網モデルを用いた雑音除去装置。