JPH09244696A - 神経回路網モデルの学習方法、形成方法および信号処理装置 - Google Patents

Abstract

(57)【要約】 【課題】 学習が容易であり、実行モード時にユニット
が増加しない神経回路網モデルを組み込んだ信号処理装
置の提供。 【解決手段】 高標本化周波数法にて時系列信号を入出
力する階層型神経回路網モデル１２の出力ユニットを２
倍に増加させ、かつ教師信号の標本化周波数を要求標本
化周波数ｆ0の２倍としているので、結合荷重の学習が
容易になるとともに、出力波形に含まれる高域成分につ
いても、より正確に望ましい波形に追従させることがで
きる。また学習完了後には追加出力ユニット５４ｂおよ
びそれに接続する結合を除去することができる。したが
って実行時における階層型神経回路網モデル６０の計算
量およびメモリ使用量を従来法と同一にでき、従来より
も学習が容易で、波形追従特性が従来よりも高域成分に
も良好に対応しているにもかかわらず、従来通り高速で
かつ安価な信号処理装置とすることができる。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、神経回路網モデル
の学習方法、形成方法および信号処理装置に関する。

【０００２】

【従来の技術】環境騒音に影響されない音声認識、ある
いは高騒音化での音声通信を実現するために、雑音の重
畳した音声信号から音声信号だけを取り出す雑音抑圧手
法を適用する技術が知られている。雑音抑圧手法の一つ
としてスペクトラムサブトラクションが広く用いられて
いるが、この手法は非定常雑音が除去できないという欠
点があった。

【０００３】この欠点を解消する方法として、人間の脳
をモデルとする神経回路網モデルを用いた雑音抑圧手法
（特公平５−１９３３７号，特開平２−７２３９８号
等）が提案されている。特公平５−１９３３７号公報記
載の「神経回路網モデルを用いた雑音除去装置」では、
雑音重畳音声から音声信号を抽出して出力するよう階層
型神経回路網モデルを学習させ、学習完了後、当該神経
回路網モデルを用いて入力信号から雑音を除去してい
る。

【０００４】この特公平５−１９３３７号公報における
学習モード時の構成を図１７に示す。階層型神経回路網
モデル２０００への入力は、雑音重畳音声を音声切り出
し区間の幅で切り出し、その区間の波形をある標本化周
波数で標本化した入力信号Ｉ1，Ｉ2，Ｉ3，…，ＩPを入
力層２００１へ入力することでなされている。

【０００５】また、この入力の結果、出力層２００３か
ら出力される出力信号Ｓ1，Ｓ2，…，ＳPと比較される
教師信号Ｔ1，Ｔ2，…，ＴPは入力信号に含まれる音声
信号を標本化周波数で標本化したものである。この出力
信号と教師信号との比較に基づいて、階層型神経回路網
モデル２０００を構成している各ユニット（図に○で示
す）間の結合荷重を更新することにより学習させてい
る。実際には、出力信号と教師信号との２乗誤差が十分
に小さくなるように乗算器のパラメータを調節すること
により学習させている。

【０００６】学習が完了すると、雑音抑圧モード、すな
わち実行モードに切り替えて、階層型神経回路網モデル
２０００に実際の雑音重畳音声を入力し、出力信号を標
本化周波数でＤ／Ａ変換することで音声信号を復元して
いる。すなわち神経回路網モデル２０００は外部の装置
に対し、ある定められた標本化周波数にて出力信号を出
力することが要求される。出力信号に対して要求される
標本化周波数を要求標本化周波数ｆ0と呼ぶことにす
る。前記従来例では、教師信号および出力信号の各標本
化周波数は要求標本化周波数ｆ0と等しい。尚、標準入
力信号の標本化周波数についても、雑音重畳音声波形を
直接入力とする雑音抑圧神経回路網モデルでは、要求標
本化周波数ｆ0と等しく取るのが普通である。 教師信
号および出力信号の標本化周波数が要求標本化周波数ｆ
0に等しいという点は、他の従来例、例えば特開平２−
７２３９８号公報等においても同じである。

【０００７】このように従来の神経回路網モデルを用い
た雑音抑圧手法では、要求標本化周波数ｆ0と同一の標
本化周波数で標本化した音声を教師信号としていた。

【０００８】

【発明が解決しようとする課題】しかし、第１８図
（ａ）に示すように神経回路網モデル３０００はＰ個の
標本値からなる標準入力信号Ｉ1，Ｉ2，Ｉ3，…，ＩPか
らＰ個の標本値からなる教師信号Ｔ1，Ｔ2，…，ＴPを
対応づける写像、すなわちＴi＝Ｓi（i＝1,2,…,P)を実
現しなければならない。そのために神経回路網モデルは
教師信号Ｔ1，Ｔ2，…，ＴPから望ましい出力波形を推
定する必要がある。第１８図（ｂ）に示すように望まし
い出力波形が周波数において主に低域成分から構成さ
れ、標本化周波数に対して出力波形がゆっくり変化する
場合、望ましい出力波形の推定は容易であり、神経回路
網モデルの推定する出力波形は望ましい出力波形とほぼ
一致する。

【０００９】しかしながら第１８図（ｃ）に示すように
望ましい出力波形の高域成分が大きい場合、換言すれば
波形が複雑な形状をとる場合、望ましい出力波形の推定
は困難となり神経回路網モデルの学習が難しくなる。そ
の影響は具体的には、神経回路網モデルの推定する出力
波形に含まれる高域成分が望ましい出力波形の高域に追
従できず、高域成分が欠落し易いという現象となって現
われた。

【００１０】神経回路網を応用する場合、学習が正しく
完了したものを多数用意し、その中で最良の性能を示す
ものを選択して使用する。しかし、上述の例のように学
習が困難な場合、このような手順をとることができず、
応用の際の大きな支障となっていた。

【００１１】学習を容易にして、望ましい出力波形の推
定ができる神経回路網モデルを得るには、標本化周波数
を高く、すなわち標本数を増大させれば良いが、そのた
めには、神経回路網モデルにおいて、少なくとも入力層
２００１および出力層２００３のユニット数を増加させ
なくてはならない。

【００１２】ユニット数の増加は、神経回路網モデルが
最終的に適用される装置におけるメモリの増加を招く。
更に多数のユニット間の結合荷重に応じた計算量が膨大
なものとなり、このことに伴い高速な処理回路が必要と
なる。このことから、神経回路網モデルを組み込んだ装
置が極めて高価なものとならざるを得なかった。

【００１３】本発明は、学習が容易であり、学習の結
果、比較的多数の好適な神経回路網モデルが得られ、し
かも、従来に比較して、まったくユニットが増加しない
かあるいは少ない増加で、各種装置に組み込むことがで
きる神経回路網モデルの学習方法、形成方法および、そ
の神経回路網モデルを組み込んだ信号処理装置の提供を
目的とするものである。

【００１４】

【課題を解決するための手段及び発明の効果】本発明で
は、教師信号と神経回路網モデルからの出力信号との比
較に応じてユニット間またはユニット自身への結合荷重
を調節する学習モードでは、学習が完了した後に前記結
合荷重を固定して実際の信号を処理する実行モードより
も、多数の出力ユニットとこの出力ユニットの数に対応
した教師信号とを用いて学習を行っている。

【００１５】すなわち、実行モード時よりも、学習モー
ド時においては、出力信号の詳細な検討が、出力ユニッ
トの数とこれに対応して詳細化されている教師信号との
比較により行われている。したがって、神経回路網モデ
ルの学習自体は、標本化周波数を高くして、標本数を増
大させているので、処理対象の入力信号波形が複雑な形
状をとる場合でも望ましい出力波形の推定が容易とな
り、容易に学習することができる。その結果、比較的多
数の好ましい神経回路網モデルを得ることができ、この
内から処理対象に応じた最適の神経回路網モデルを選択
することができ、高性能の神経回路網モデルを得ること
ができる。

【００１６】しかも、学習モードによる学習が完了した
後に結合荷重を固定して実際の信号を処理する実行モー
ドでは、学習モード時の出力ユニットの数よりも用いる
出力ユニットを少数にした神経回路網モデルを形成して
いる。そして、信号処理装置にはこのように、学習モー
ド時よりも用いる出力ユニットを少数にした神経回路網
モデルを組み込んでいる。

【００１７】この実行モードの神経回路網モデルは、使
用できる出力ユニットを削減しているとはいえ、前記詳
細な学習によって複雑な形状の信号からも抽出したい信
号を十分に抽出することができる。また実行モードでは
使用しない出力ユニットについては、削除しても実行モ
ード時の処理に影響が無い場合には、実行モード時には
削除することができる。したがって、このような出力ユ
ニットを削除した場合には、神経回路網モデルの信号処
理装置への適用において、従来よりもユニット数の増加
を招くこと無い。例え、使用しない出力ユニットを削除
できないとしても、出力ユニット数の増加のみで済み、
信号処理装置において大きなメモリの増加を招くことが
無い。

【００１８】また、このように出力ユニットがまったく
増加しなかったり、少ない増加で済むことから、他のユ
ニットあるいは同一ユニット自身への結合荷重に応じた
計算量が膨大なものとなることを防止でき、高速な処理
回路は不要となり、神経回路網モデルを組み込んだ装置
のコストアップを抑制できる。

【００１９】尚、神経回路網モデルは、階層型神経回路
網モデルとして構成しても良く、リカレントニューラル
ネットワークとして構成しても良い。例えば、神経回路
網モデルを階層型神経回路網モデルとして構成した場
合、入力ユニットが複数設けられ、この入力ユニットと
同数の入力信号が各入力ユニットに並列に入力される神
経回路網モデルとし、学習モード時には、入力ユニット
よりも多数の出力ユニットから並列に出力される出力信
号が教師信号と比較され、学習の終了後の実行モードで
は、使用する出力ユニットを減少させる構成としても良
い。この使用出力ユニットの減少は、例えば実際に出力
ユニットを削除して入力ユニットと同じ数にするという
方法で行っても良いし、出力ユニットはそのままで、単
に使用する出力ユニットを減少して、入力ユニットと同
じ数にするという方法で行っても良い。実際に出力ユニ
ットを削除した方が、信号処理装置においてメモリが一
層節約できる。

【００２０】使用する出力ユニットを減少させる方法と
して、例えば、学習モード時の出力ユニットの内から、
所定間隔で抽出した出力ユニットを、実行モード時に用
いる出力ユニットとしても良い。また、神経回路網モデ
ルをリカレントニューラルネットワークとして構成した
場合、入力ユニットに対して入力信号が時系列的に順次
入力される神経回路網モデルとし、学習モード時には、
入力ユニットよりも多数の出力ユニットのそれぞれから
時系列的に順次出力される出力信号が教師信号と比較さ
れ、学習の終了後の実行モードでは、出力ユニットを減
少させる構成としても良い。この出力ユニットの減少
は、例えば出力ユニットを入力ユニットと同じ数にする
という方法で行っても良いし、出力ユニットはそのまま
で、単に使用する出力ユニットを減少して、入力ユニッ
トと同じ数にするという方法で行っても良い。実際に出
力ユニットを削除した方が、信号処理装置においてメモ
リが一層節約できる。

【００２１】学習モード時に用いる出力ユニット数とし
ては、例えば、実行モード時に用いる出力ユニット数の
２以上の整数倍としても良い。教師信号としては、例え
ば、時系列信号から形成される。この時系列信号は例え
ば音声信号が挙げられる。

【００２２】学習モード時に用いる出力ユニットは、単
に全出力ユニットが、抽出対象の信号の変化パターンを
出力するもの（後述する実施の形態１，２に示す高標本
化周波数法に該当する）とする以外に、出力ユニット
を、教師信号と比較する出力ユニットと、教師信号の周
波数帯域に含まれる所定周波数帯域成分の追加教師信号
と比較する出力ユニットとに分割しても良い（後述する
実施の形態３，４に示す帯域分割法に該当する）。すな
わち抽出対象の信号の変化パターンを出力する出力ユニ
ットと、教師信号の内、ある周波数帯域成分の信号の変
化パターンを出力する出力ユニットに分けて、学習して
も良く、単に全出力ユニットが、抽出対象の信号の変化
パターンを出力するものである場合と同様に、上述した
効果を生じる。

【００２３】更に、所定周波数帯域成分も１つでなく、
複数であっても良い。すなわち、各周波数帯域成分毎に
出力ユニットを設けても良い。このような教師信号の周
波数帯域に含まれる所定周波数帯域成分の追加教師信号
と比較する出力ユニットは、実行モードでの削除対象と
される。

【００２４】特に、神経回路網モデルが階層型神経回路
網モデルとして構成されている場合には、前述のごとく
形成された階層型神経回路網モデルと、音を入力し、ア
ナログ信号として出力する音波受信手段と、前記マイク
からのアナログ信号をデジタル信号に変換するＡ／Ｄ変
換器と、前記Ａ／Ｄ変換器からのデジタル信号を前記神
経回路網モデルの入力ユニットの数毎に並列に前記神経
回路網モデルの各入力ユニットへ出力する入力バッファ
と、前記神経回路網モデルの出力ユニットから並列に出
力されるデジタル信号を直列のデジタル信号として出力
する出力バッファと、前記出力バッファからの直列のデ
ジタル信号をアナログ信号に変換するＤ／Ａ変換器と、
前記Ｄ／Ａ変換器からのアナログ信号を音として出力す
る音波出力手段と、を備えることにより、音波を受信し
てその音波から特定の音波のみを取り出す処理を行う際
に前述の効果を有する信号処理装置を実現することがで
きる。

【００２５】また、特に神経回路網モデルがリカレント
ニューラルネットワークとして構成されている場合に
は、前述のごとく形成された階層型神経回路網モデル
と、音を入力し、アナログ信号として出力する音波受信
手段と、前記マイクからのアナログ信号をデジタル信号
に変換し前記神経回路網モデルの入力ユニットへ出力す
るＡ／Ｄ変換器と、前記神経回路網モデルの出力ユニッ
トから出力されるデジタル信号をアナログ信号に変換す
るＤ／Ａ変換器と、前記Ｄ／Ａ変換器からのアナログ信
号を音として出力する音波出力手段と、を備えることに
より、音波を受信してその音波から特定の音波のみを取
り出す処理を行う際に前述の効果を有する信号処理装置
を実現することができる。

【００２６】尚、神経回路網モデルを帯域拡張として用
いる構成、すなわち、学習モード時に用いる出力ユニッ
トが、教師信号と比較する出力ユニットと、実行モード
時に入力信号の周波数帯域を拡張して出力信号として出
力するために教師信号の周波数帯域に含まれない所定周
波数帯域成分の追加教師信号と比較する出力ユニットと
が存在する構成の場合（後述する実施の形態５に該当）
には、実行モード時においても、入力ユニットよりも出
力ユニットの方が多い。したがって、このような帯域拡
張の場合の学習モード時には、更に多くの出力ユニット
を用いて学習することにより、より正確な出力帯域の波
形を学習することができる。前述した効果と共に、実行
モード時に、より高品質な帯域拡張波形が得られる。

【００２７】

【発明の実施の形態】

［実施の形態１］図１は、本発明の一実施の形態とし
て、高標本化周波数法にて入力音声信号から雑音を取り
除く音声フィルタを実現している階層型神経回路網モデ
ルを組み込んだ信号処理装置２の構成図である。

【００２８】本信号処理装置２は、音波受信手段として
のマイク４、Ａ／Ｄ変換器６、入力バッファ８、切替ス
イッチ１０，１１、階層型神経回路網モデル１２、学習
制御部１４、比較部１６、標準パターン格納部１８、出
力バッファ２２、Ｄ／Ａ変換器２４、音波出力手段とし
てのスピーカ２６を備える。尚、マイク４およびスピー
カ２６には図示していないが増幅器が設けられている。
また、階層型神経回路網モデル１２はＲＡＭやＥＥＰＲ
ＯＭ等の書換え可能なメモリが用いられる。更に、学習
制御部１４、比較部１６および標準パターン格納部１８
は、コンピュータ装置として構成することができる。

【００２９】本信号処理装置２は学習モード、実行モー
ドの２つのモードにより動作する。学習モードは、切替
スイッチ１０により、階層型神経回路網モデル１２の入
力側を学習制御部１４に切り替え、切替スイッチ１１に
より、階層型神経回路網モデル１２の出力側を比較部１
６へ切り替えた状態で行われる。

【００３０】学習モードでは、学習制御部１４は標準入
力信号を階層型神経回路網モデル１２へ出力する。比較
部１６は、標準入力信号の入力に伴う階層型神経回路網
モデル１２からの出力を、学習制御部１４からの教師信
号と比較する。この比較結果を比較信号として受けた学
習制御部１４は、結合荷重更新指令信号を階層型神経回
路網モデル１２へ出力する。この結合荷重更新指令信号
を受けて階層型神経回路網モデル１２ではユニットの結
合荷重が調整される。このことにより、階層型神経回路
網モデル１２にては、マイク４から入力された雑音重畳
音声信号から音声信号を抽出する入出力特性の学習が行
われる。

【００３１】学習制御部１４が学習データとして使用す
るためのＡ／Ｄ変換された音声信号は、標準パターン格
納部１８に格納されている。この音声信号を標準パター
ンと呼ぶ。各標準パターンは、標準入力信号と教師信号
との組み合わせからなる。ここで標準入力信号は、ある
時間幅の雑音重畳音声を標本化周波数ｆ0で標本化した
ものであり、教師信号はそこに含まれる音声を標本化周
波数２ｆ0で標本化したものである。本実施の形態１で
は、教師信号の標本化周波数が、要求標本化周波数ｆ0
の２倍となっているので、図１７で示した従来法におけ
る教師信号を構成する標本値の個数をＰとすると、本実
施の形態１における高標本化周波数法による教師信号を
構成する標本値の個数は２Ｐとなる。

【００３２】図２に本実施の形態１の高標本化周波数法
における学習制御部１４からの標準パターンの出力形態
を示す。尚、図１９に従来法の場合を比較のために示
す。ここで、標準入力信号の標本値をＩ、教師信号の標
本値をＴとおくと、高標本化周波数法による標準パター
ンは、標準入力信号：Ｉ1，Ｉ2，Ｉ3，…，ＩP、教師信
号：Ｔ1，Ｔ1'，Ｔ2，Ｔ2'，Ｔ3，Ｔ3'，…，ＴP，ＴP'
（標本値２Ｐ個）で表される。尚、従来法による標準パ
ターンは、標準入力信号：Ｉ1，Ｉ2，Ｉ3，…，ＩP、教
師信号：Ｔ1，Ｔ2，Ｔ3，…，ＴP（標本値Ｐ個）で表さ
れる。

【００３３】高標本化周波数法の標準パターン出力法で
は、所定周期Ｔ0（＝１／ｆ0）に定められた標準入力信
号Ｉ1，Ｉ2，Ｉ3，…，ＩPの各出力時刻に教師信号Ｔ
1，Ｔ2，Ｔ3，…，ＴPの出力時刻が対応する。信号Ｔ
1'，Ｔ2'，Ｔ3'，…，ＴP'は音声標本化周波数２ｆ0の
標本化により追加された教師信号であり、各教師信号Ｔ
1，Ｔ2，Ｔ3，…，ＴPの中間の時刻に出力時刻が設定さ
れている。特に断わらない限り信号Ｔ1，Ｔ1'，Ｔ2，Ｔ
2'，Ｔ3，Ｔ3'，…，ＴP，ＴP'をまとめて教師信号と総
称する。また、信号Ｔ1'，Ｔ2'，Ｔ3'，…，ＴP'を特に
区別する必要がある場合は追加教師信号と呼ぶことにす
る。

【００３４】学習制御部１４から標準入力信号Ｉ1，Ｉ
2，Ｉ3，…，ＩPを入力する階層型神経回路網モデル１
２の機能的構成を図３に示す。なお、階層型神経回路網
モデル１２の動作および学習方法は文献"Parallel Dist
ributed Processing",Vol.1,chapter 8,PP.318-362,MIT
press(1986)に記載されている。

【００３５】階層型神経回路網モデル１２はユニット
（ニューロンに該当）を備えた４層から構成され、１層
の入力層５０、２層の中間層５２、１層の出力層５４か
らなる。入力層５０の入力ユニット５０ａの数はＰ、出
力層５４の出力ユニット５４ａの数は２Ｐである。追加
教師信号Ｔ1'，Ｔ2'，Ｔ3'，…，ＴP'が増えたことによ
り、出力層５４のユニット数が図１７の従来の出力層２
００３に比べ、追加教師信号Ｔ1'，Ｔ2'，Ｔ3'，…，Ｔ
P'と比較される追加出力ユニット５４ｂ分のＰ個増えて
いる。以下特に断わらない限り通常の出力ユニット５４
ａと追加出力ユニット５４ｂとをまとめて出力ユニット
と総称する。尚、中間層５２の中間ユニット５２ａの数
は適当に決める。

【００３６】本信号処理装置２において最初に行われる
学習モードの全体の手順を説明する。標準パターンの個
数をＭ個とすると、学習制御部１４はＭ個の標準パター
ンを標準パターン格納部１８から順に取り出し、各標準
パターンのＰ個の標準入力信号Ｉ1，Ｉ2，Ｉ3，…，ＩP
を階層型神経回路網モデル１２の入力層５０のＰ個の各
入力ユニット５０ａへ入力する。この結果、階層型神経
回路網モデル１２は、出力層５４の２Ｐ個の出力ユニッ
ト５４ａ，５４ｂから２Ｐ個の出力信号Ｓ1，Ｓ1'，
…，ＳP，ＳP'を出力する。

【００３７】この２Ｐ個の出力信号Ｓ1，Ｓ1'，…，Ｓ
P，ＳP'を比較部１６が学習制御部１４から与えられる
２Ｐ個の教師信号Ｔ1，Ｔ1'，…，ＴP，Ｔp'と個々に比
較して、その比較結果を比較信号として学習制御部１４
に出力する。学習制御部１４はこの比較信号の結果に基
づいて、階層型神経回路網モデル１２の出力層５４から
の２Ｐ個の出力信号Ｓ1，Ｓ1'，…，ＳP，ＳP'の各々
が、２Ｐ個の教師信号Ｔ1，Ｔ1'，…，ＴP，Ｔp'の各々
と一致するように、各層５０，５２，５４間のユニット
５０ａ，５２ａ，５４ａ，５４ｂ同士の結合荷重を調節
する。このようにして階層型神経回路網モデル１２に学
習させる。

【００３８】以上述べた学習を、Ｍ個の標準パターンに
対して行い、全ての標準パターンに対して出力信号Ｓ
1，Ｓ1'，…，ＳP，ＳP'と教師信号Ｔ1，Ｔ1'，…，Ｔ
P，Ｔp'とがそれぞれ一致するまで繰り返して、学習モ
ードを終了する。以上の学習により、階層型神経回路網
モデル１２は入力信号の雑音を抑圧し、音声信号だけを
選択的に取り出して出力する写像を獲得する。

【００３９】学習完了後、実行モード時に階層型神経回
路網モデル１２を使用するために、階層型神経回路網モ
デル１２の出力層５４から追加出力ユニット５４ｂおよ
びそれらに接続するユニット間の結合を除去して、入力
層５０の入力ユニット５０ａと出力層５４の出力ユニッ
ト５４ａとの数が同一（Ｐ個）の階層型神経回路網モデ
ル１２を形成する。

【００４０】図４（ａ）に追加出力ユニット５４ｂの除
去前（学習モード時）の階層型神経回路網モデル１２
を、図４（ｂ）に追加出力ユニット５４ｂの除去後（実
行モード時）の階層型神経回路網モデル６０の構成を示
す。実行モード時の階層型神経回路網モデル６０は学習
モード時の階層型神経回路網モデル１２に比較して、出
力ユニット５４ａ，５４ｂの数は、追加出力ユニット５
４ｂが除去されたため２Ｐ個からＰ個に減り、入力ユニ
ット５０ａの数と同じになる。したがって階層型神経回
路網モデル６０はＰ入力Ｐ出力となる。この時点で階層
型神経回路網モデル６０は、ユニット５０ａ，５２ａ，
５４ａ間の結合荷重の状態を除いては図１７の従来の階
層型神経回路網モデル２０００と同一の構造となる。

【００４１】実行モードでは、学習モードで得られたＰ
入力Ｐ出力の階層型神経回路網モデル６０の結合荷重を
固定したままで、切替スイッチ１０，１１により階層型
神経回路網モデル６０の入出力を外部入出力に切り替え
る。すなわち、階層型神経回路網モデル６０は、学習制
御部１４に代って入力バッファ８側から入力信号を入力
し、比較部１６に代って出力バッファ２２側へ出力信号
を出力する。

【００４２】この実行モード状態の信号処理装置２にて
実際の雑音重畳音声を処理すると、まず、入力音声およ
び環境雑音とが重畳した音波が、マイク４により取り込
まれ、アナログ入力信号としてＡ／Ｄ変換器６へ出力さ
れる。Ａ／Ｄ変換器６はアナログ入力信号を標本化周波
数ｆ0で離散化し、デジタル入力信号として出力する。
入力バッファ８はデジタル入力信号を順次受け取り、Ｐ
個信号が溜まった時点で階層型神経回路網モデル６０に
Ｐ個の並列な入力信号からなるバッファ化入力信号を出
力する。階層型神経回路網モデル６０はバッファ化入力
信号を入力して音声信号だけを抽出し、出力ユニット５
４ａからのＰ個の並列な出力信号をバッファ化出力信号
として出力バッファ２２に出力する。出力バッファ２２
は受信したＰ個の出力信号をディジタル出力信号として
１個ずつ順にＤ／Ａ変換器２４へ送る。Ｄ／Ａ変換器２
４は受信した音声信号を標本化周波数ｆ0でアナログ出
力信号に変換し、スピーカ２６により音声として出力す
る。

【００４３】尚、本実施の形態１の信号処理装置２は、
学習後の実行モード時には、学習に必要な切替スイッチ
１０，１１、学習制御部１４、比較部１６および標準パ
ターン格納部１８を取り外し、音声フィルタ専用型の構
成としても良い。上述したごとく、本信号処理装置２が
実行している高標本化周波数法では時系列信号（ここで
は音声信号）を入出力する階層型神経回路網モデル１２
の出力ユニットを２倍に増加させ、かつ学習時に与える
教師信号の標本化周波数を要求標本化周波数ｆ0の２倍
とすることで望ましい出力波形の情報を増やしている。
このため、階層型神経回路網モデル１２は結合荷重の学
習が容易になるとともに、更に、出力波形に含まれる高
域成分についても、より正確に望ましい波形に追従させ
ることができる結合荷重を実現できる。

【００４４】また、特に神経回路網モデルとして階層型
を用いているので、学習完了後に追加出力ユニット５４
ｂおよびそれに接続される結合を除去し、実行モード時
には従来の神経回路網モデルの構造と結合荷重以外は同
一とすることができる。これは実行時における階層型神
経回路網モデル６０の計算量、およびメモリ使用量を従
来法と同一にできることを示しており、従来よりも学習
が容易で、波形追従特性が従来よりも高域成分にも良好
に対応しているにもかかわらず、従来通り高速でかつ安
価な信号処理装置２とすることができる。

【００４５】また、上述した実施の形態１は、望ましい
出力波形の標本化周波数を要求標本化周波数ｆ0の２倍
にすることに限定するものではなく、２以上の任意の整
数倍の標本化周波数を用いることが可能である。一般に
教師信号の標本化周波数をｋ倍（ｋは２以上の整数）す
れば、階層型神経回路網モデルをＰ入力ｋ×Ｐ出力（Ｐ
個の出力ユニット＋（ｋ−１）×Ｐ個の追加出力ユニッ
ト)とすれば良い。学習完了後は（ｋ−１）×Ｐ個の追
加出力ユニットとそれらに接続する結合を取り除き、階
層型神経回路網モデルをＰ入力Ｐ出力として、実際の信
号を処理すれば良く、前述よりも更に高域成分に良好に
対応できる。

【００４６】また、標本化周波数の倍数を２以上の整数
値に限定する必要もなく、「教師信号の標本化周波数＞
要求標本化周波数」なる関係を満たす教師信号の標本化
周波数を用いれば、波形情報を増やすことができるた
め、同様の効果が得られる。 ［実施の形態２］本実施の形態２が、実施の形態１と大
きく異なる点は、階層型神経回路網モデルの代りに、リ
カレントニューラルネットワーク１１２を用いたことで
ある。

【００４７】図５に実施の形態２の信号処理装置１０２
の構成図を示す。この構成は、リカレントニューラルネ
ットワーク１１２以外は、実施の形態１の構成から入力
バッファ８および出力バッファ２２を取り除いた構成と
同じである。本信号処理装置１０２は前記実施の形態１
の信号処理装置２と同様に学習モードと実行モードとの
２つのモードで動作する。

【００４８】尚、リカレントニューラルネットワークの
動作、学習方法の詳細については、例えば、Sato,M.:"A
learning algorithm to teach spatio-temporal patte
rnsto recurrent neural networks",Biol.Cybern.,62,p
p.259-263(1990)、特開平６−２８８７４７号公報等に
記載されている。

【００４９】リカレントニューラルネットワークは時系
列信号を、入力バッファ８を用いてバッファ化すること
なく処理できる神経回路網モデルである。従来のリカレ
ントニューラルネットワーク８０００を用いた雑音抑圧
方法の一例を図２０に示す。図２０は、雑音重畳音声か
ら音声を抽出して出力するようリカレントニューラルネ
ットワーク８０００を予め学習させ、学習完了後、この
リカレントニューラルネットワーク８０００を用いて入
力信号から雑音を除去する内容を示している。リカレン
トニューラルネットワーク８０００は１個の入力ユニッ
ト８００１、１個の出力ユニット８００３、その他のユ
ニットとしての中間ユニット（隠れユニット）８００２
から構成される。中間ユニット８００２の個数は適当に
決める。雑音重畳音声を要求標本化周期ｆ0でＡ／Ｄ変
換した標本値Ｉt，Ｉt+1，Ｉt+2，…をリカレントニュ
ーラルネットワーク８０００に順次入力すると、リカレ
ントニューラルネットワーク８０００はその標本値に含
まれる音声成分を取りだし、標本値Ｓt，Ｓt+1，Ｓt+
2，…として順次出力する。この標本値Ｓt，Ｓt+1，Ｓt
+2，…を要求標本化周波数ｆ0でＤ／Ａ変換すれば音声
が得られる。

【００５０】この従来法によるリカレントニューラルネ
ットワーク８０００の学習法は次のようにして行われて
いた。従来法では標準パターンとして図２１に示すよう
に、雑音重畳音声およびこの雑音重畳音声に含まれる音
声を、要求標本化周波数ｆ0（標本化周期Ｔ0＝１／ｆ
0）でそれぞれ標本化したものを標準入力信号および教
師信号とする。すなわち、標準入力信号、教師信号を構
成する標本値の個数は同一である。その個数をＬとす
る。

【００５１】標準パターン格納部における標準パターン
の個数をＭとすると、学習制御部・比較部８００５は以
下の操作をＭ個のパターン各々につき実施する。すなわ
ち、時刻点ｔ＝１，２，…，Ｌにおける標準入力信号、
教師信号をそれぞれＩｔ，Ｔtとすると、学習制御部・
比較部８００５はｔ＝１，２，…，Ｌの順に標準入力信
号Ｉtをリカレントニューラルネットワーク８０００に
入力し出力信号Ｓtを得る。そして出力信号Ｓtと教師信
号Ｔtとの比較を行う。その後、その結果に基づき結合
荷重更新指令信号をリカレントニューラルネットワーク
８０００に出力する。リカレントニューラルネットワー
ク８０００はその結合荷重更新指令に基づき、出力信号
Ｓtと教師信号Ｔtとを一致させるように結合荷重を更新
する。学習制御部・比較部８００５は出力信号Ｓtと教
師信号Ｔｔが一致するまで上述の操作を繰り返す。

【００５２】次に、本実施の形態２における高標本化周
波数法によるリカレントニューラルネットワークの学習
法を図６により説明する。本実施の形態２のリカレント
ニューラルネットワーク１１２と図２１に示した従来の
リカレントニューラルネットワーク８０００との違い
は、リカレントニューラルネットワーク１１２には、入
力ユニット１１２ａ、中間ユニット１１２ｂおよび出力
ユニット１１２ｃの他に、追加出力ユニット１１２ｄが
設けられており、１入力２出力とされている点である。

【００５３】学習モードにおいては、切替スイッチ１１
０，１１１により、学習制御部１４から入力ユニット１
１２ａに標準入力信号が入力され、出力ユニット１１２
ｃ，１１２ｄからの出力信号は比較部１１６へ出力さ
れ、教師信号および追加教師信号と比較される。標準入
力信号としては、標準パターンとして雑音重畳音声を要
求標本化周波数ｆ0（標本化周期Ｔ0）で標本化したもの
を用い、教師信号および追加教師信号としては、標準パ
ターンに含まれる音声を標本化周波数２ｆ0（標本化周
期Ｔ0／２）で標本化したものを用いる。標準パターン
格納部１１８における標準パターンの個数をＭとする
と、学習制御部１１４および比較部１１６は以下の操作
をＭ個のパターン各々につき実施する。

【００５４】ここで標準入力信号の標本値個数をＬとす
る。そして時刻点ｔ＝１，２，…，Ｌにおける標準入力
信号をＩt、教師信号、追加教師信号をそれぞれＴt，Ｔ
t'とすると、学習制御部１１４はｔ＝１，２，…，Ｌの
順に標準入力信号Ｉtをリカレントニューラルネットワ
ーク１１２の入力ユニット１１２ａに入力し、出力ユニ
ット１１２ｃから出力信号Ｓt、追加出力ユニット１１
２ｄから出力信号Ｓt'を得る。そして比較部１１６がこ
の出力信号Ｓt，Ｓt'と教師信号Ｔt、追加教師信号Ｔt'
とをそれぞれ比較する。その後、比較信号でその比較結
果を受けた学習制御部１１４が、比較結果に基づいて結
合荷重更新指令信号をリカレントニューラルネットワー
ク１１２に出力する。リカレントニューラルネットワー
ク１１２はその指令によりユニット１１２ａ，１１２
ｂ，１１２ｃ，１１２ｄ間あるいはユニット１１２ａ，
１１２ｂ，１１２ｃ，１１２ｄ自身に帰還する結合荷重
が更新される。

【００５５】学習制御部１１４と比較部１１６とは出力
信号Ｓt，Ｓt'と教師信号Ｔt，Ｔt'が一致するまで上述
の操作を繰り返す。上述のごとくの学習モードが終了す
ると、次に、実行モードとするために、学習モードで得
られた１入力２出力のリカレントニューラルネットワー
ク１１２の結合荷重を固定して、図５に示す切替スイッ
チ１１０，１１１を切り替えることにより、信号処理装
置１０２を、Ａ／Ｄ変換器１０６を介してマイク１０４
からの信号をリカレントニューラルネットワーク１１２
の入力ユニット１１２ａへ入力し、リカレントニューラ
ルネットワーク１１２の出力ユニット１１２ｃから出力
される信号をＤ／Ａ変換器１２４を介してスピーカ１２
６ヘ出力する構成とする。

【００５６】なお、追加出力ユニット１１２ｄは出力ユ
ニットとしては用いない。すなわち、追加出力ユニット
１１２ｄの出力は外部には出力しない。この実行モード
状態の信号処理装置１０２で実際の雑音重畳音声を処理
すると、まず、入力音声、環境雑音がマイク１０４によ
り取り込まれ、アナログ入力信号として出力される。Ａ
／Ｄ変換器１０６はアナログ入力信号を要求標本化周波
数ｆ0で離散化してデジタル入力信号として、リカレン
トニューラルネットワーク１１２の入力ユニット１１２
ａへ出力する。

【００５７】リカレントニューラルネットワーク１１２
ではデジタル入力信号を受けると、そこから音声信号だ
けを抽出し、出力ユニット１１２ｃの出力信号をディジ
タル出力信号として順にＤ／Ａ変換器１２４へ送る。Ｄ
／Ａ変換器１２４は受信したディジタル出力信号を要求
標本化周波数ｆ0でＤ／Ａ変換し、アナログ出力信号に
変換後、スピーカ１２６により出力音声として出力す
る。

【００５８】上述したごとく、本実施の形態２では、高
標本化周波数法により、時系列信号を出力するリカレン
トニューラルネットワークにおいて、学習時に与える標
準パターンとして、教師信号の標本化周波数を要求標本
化周波数ｆ0の２倍とすることで望ましい出力波形の情
報を増やているので、前記実施の形態１と同様に、リカ
レントニューラルネットワークの学習を容易とすること
ができる。更に、リカレントニューラルネットワークの
出力は、その出力に含まれる高域成分も、望ましい出力
波形の高域成分に、一層正確に追従するという効果をも
たらす。

【００５９】ただし、神経回路網モデルとしてリカレン
トニューラルネットワークを用いているので、前記実施
の形態１の階層型神経回路網モデルとは異なり学習完了
後に追加出力ユニット１１２ｄおよびそれに接続される
結合を無条件に除去することはできない。除去は追加出
力ユニット１１２ｄが他のユニット１１２ａ，１１２
ｂ，１１２ｃに対し信号を送らない構造を採用した場合
には可能である。

【００６０】追加出力ユニット１１２ｄとそれに接続さ
れる結合とが、実行モード時に除去できない構成であっ
たとしても、入力ユニット１１２ａは従来のまま１つで
良いことから、メモリ的にも、その結合荷重に基づく計
算量的にも、得られた効果に比較して大きな不利とはな
らない。また、追加出力ユニット１１２ｄが他のユニッ
ト１１２ａ，１１２ｂ，１１２ｃに対し信号を送らない
構造であれば、追加出力ユニット１１２ｄとこの追加出
力ユニット１１２ｄへの結合は除去できるので、前記実
施の形態１と同じく、学習完了後に追加出力ユニット１
１２ｄおよびそれに接続される結合を除去し、実行モー
ド時には従来の神経回路網モデルの構造と結合荷重以外
は同一とすることができる。したがって、実行時におけ
る神経回路網モデルの計算量、およびメモリ使用量を従
来法と同一にでき、従来よりも学習が容易で、波形追従
特性も従来よりも高域成分にも良好に対応しているにも
かかわらず、従来通り高速でかつ安価な信号処理装置１
０２とすることができる。

【００６１】また、教師信号の標本化周波数を要求標本
化周波数の２倍に限定する必要はなく、要求標本化周波
数の２以上の任意の整数倍の標本化周波数を用いること
が可能である。一般に教師信号の標本化周波数をｋ倍
（ｋは２以上の整数）とすれば、リカレントニューラル
ネットワークを１入力ｋ出力（１個の出力ユニット ＋
ｋ−１個の追加出力ユニット）とすれば良い。

【００６２】更に、標本化周波数の倍数を整数値に限定
する必要はなく、「教師信号の標本化周波数＞要求標本
化周波数」を満たす教師信号の標本化周波数を用いれ
ば、望ましい出力波形の情報を増やすことができるた
め、同様の効果が得られる。 ［実施の形態３］本実施の形態３は、帯域分割法を利用
した雑音除去用信号処理装置であり、その基本的構成は
図１に示した実施の形態１の構成と同じである。

【００６３】実施の形態１と異なるのは、図７に示すご
とく階層型神経回路網モデル２１２が、実施の形態１の
追加出力ユニット５４ｂに比較して２倍の追加出力ユニ
ット２５４ｂが学習モード時には備えられている点であ
る。まず、実施の形態３の信号処理装置は、学習モード
では、階層型神経回路網モデル２１２の結合荷重を調整
し、入力された雑音重畳音声信号から音声信号を抽出す
る入出力特性を学習させる。

【００６４】実施の形態１と同じく、標準パターン格納
部には、学習データとして使用するＡ／Ｄ変換された音
声信号が格納されている。各標準パターンは、標準入力
信号と教師信号との組み合わせからなり、標準入力信号
はある時間幅の雑音重畳音声を標本化周波数ｆ0で標本
化したものである。教師信号は、図８に示すように、標
準入力信号に含まれる音声を標本化周波数ｆ0で標本化
した原教師信号、およびその標本化した信号を２つの帯
域に分割した低域成分の追加教師信号と高域成分の追加
教師信号とから構成されている。低域、高域を分ける力
ツトオフ周波数は例えば２ｋＨｚとする。尚、原教師信
号に加え、帯域に分割した２つの追加教師信号をまとめ
て教師信号と総称する。

【００６５】図１７に示した従来法における教師信号を
構成する標本値の個数をＰとすると、本実施の形態３の
帯域分割法による教師信号を構成する標本値の個数は３
Ｐとなる。標準入力信号の標本値をＩ、原教師信号の標
本値をＴ、またその低域成分および高域成分にそれぞれ
対応する追加教師信号をＴl，Ｔhとおくと、帯域分割法
による標準パターンは、標準入力信号：Ｉ1，Ｉ2，Ｉ
3，…，ＩP、教師信号：Ｔ1，Ｔl1，Ｔh1，Ｔ2，Ｔl2，
Ｔh2，Ｔ3，Ｔl3，Ｔh3…，ＴP，ＴlP，ＴhP（標本値３
Ｐ個）で表される。尚、従来法による標準パターンは、
標準入力信号：Ｉ1，Ｉ2，Ｉ3，…，ＩP、教師信号：Ｔ
1，Ｔ2，Ｔ3，…，ＴP（標本値Ｐ個）で表される。

【００６６】図７に示すごとく、実施の形態３の階層型
神経回路網モデル２１２は４層で構成され、入力層２５
０、中間層２５２、出力層２５４からなる。入力層２５
０の入力ユニット２５０ａの数はＰ個、出力層２５４の
出力ユニットの数は、出力ユニット２５４ａがＰ個、追
加出力ユニット２５４ｂが２Ｐ個の合計３Ｐ個である。
追加教師信号Ｔl，Ｔhが増えたことにより、出力層２５
４の出力ユニット２５４ａ，２５４ｂの数が図１７の出
力層２００３に比べ、追加出力ユニット２５４ｂ分の２
Ｐ個増えている。特に断わらない限り通常の出力ユニッ
ト２５４ａと追加出力ユニット２５４ｂをまとめて出力
ユニットと総称する。なお、中間層２５２の中間ユニッ
ト２５２ａの数は適当に決める。

【００６７】学習時には標準入力信号Ｉを入力し、出力
信号Ｓ，Ｓl，Ｓhと教師信号Ｔ，Ｔl，Ｔhとが一致する
よう結合荷重を更新する。すなわち、実施の形態１と同
じく、標準パターンの個数をＭ個とすると、学習制御部
・比較部はＭ個の標準パターンを順に取り出し、各標準
パターンのＰ個の標準入力信号Ｉを階層型神経回路網モ
デル２１２の入力ユニット２５０ａに入力したとき、対
応する教師信号Ｔ，Ｔl，Ｔhとおなじ出力信号Ｓ，Ｓ
l，Ｓhを、出力ユニット２５４ａおよび追加出力ユニッ
ト２５４ｂが出力するよう学習を行う。

【００６８】そして、この学習をＭ個の標準パターンに
つき行い、全ての出力信号Ｓ，Ｓl，Ｓhと教師信号Ｔ，
Ｔl，Ｔhとが一致するまで学習を繰り返す。以上の操作
により、階層型神経回路網モデル２１２は入力信号の雑
音を抑圧し、音声信号だけを選択的に取り出して出力す
る写像を獲得する。学習完了後、追加出力ユニット２５
４ｂおよびそれらに接続する結合は不要となるので除去
する。このため、出力ユニットの数は３Ｐ個からＰ個に
減る。

【００６９】したがって、学習モード時には図９（ａ）
に示すごとくであった階層型神経回路網モデル２１２
は、実行モード時には図９（ｂ）に示すごとくＰ入力Ｐ
出力の階層型神経回路網モデル２６０となる。すなわ
ち、この時点で階層型神経回路網モデル２６０は、ユニ
ット２５０ａ，２５２ａ，２５４ａ間の結合荷重を除い
ては、実施の形態１の実行モード時の階層型神経回路網
モデル６０および図１７の階層型神経回路網モデル２０
００と同一の構造となる。

【００７０】そして、実行モードにおいては、前記実施
の形態１と同じく、階層型神経回路網モデル２６０は学
習モードで得られたユニット２５０ａ，２５２ａ，２５
４ａ間の結合荷重を固定し、切替スイッチを切り替える
ことにより、入力音声と環境雑音とがマイクにより取り
込まれてアナログ入力信号として出力され、このアナロ
グ入力信号をＡ／Ｄ変換器が標本化周波数ｆ0で離散化
し、デジタル入力信号として出力する。このデジタル入
力信号を入力バッファが受け取り、Ｐ個信号が溜まった
時点で階層型神経回路網モデル２６０にバッファ化入力
信号を出力する。階層型神経回路網モデル２６０はバッ
ファ化入力信号から音声信号だけを抽出し、Ｐ個の出力
ユニットの出力をバッファ化出力信号として出力バッフ
ァに出力する。出力バッファは受信したＰ個の音声信号
をディジタル出力信号として１個ずつ順にＤ／Ａ変換器
へ送り、Ｄ／Ａ変換器は音声信号標本化周波数ｆ0でア
ナログ出力信号に変換し、スピーカにより出力音声とし
て出力する。

【００７１】尚、本実施の形態３の信号処理装置は、実
施の形態１と同じく、学習後の実行モード時には、学習
に必要な切替スイッチ、学習制御部、比較部および標準
パターン格納部を取り外し、音声フィルタ専用型の構成
としても良い。以上説明したように、本実施の形態３の
帯域分割法を利用した信号処理装置では、時系列信号を
入出力する階層型神経回路網モデルにおいて、学習時に
与える標準パターンとして、原教師信号の他に帯域分割
により生成した追加教師信号の低域成分および高域成分
も合わせて教師信号として与えることにより、望ましい
出力波形の情報を増やし階層型神経回路網モデル２１２
の学習を容易としている。

【００７２】このことにより、階層型神経回路網モデル
２６０の出力が、その出力に含まれる高域成分において
も、望ましい出力波形の高域成分に、より正確に追従す
るという効果をもたらす。特に神経回路網モデルが階層
型であるので、学習完了後に追加出力ユニット２５４ｂ
およびそれに接続される結合を除去し、従来の階層型神
経回路網モデル２０００の構造と同一とすることができ
る。これは実行時における階層型神経回路網モデル６０
の計算量、およびメモリ使用量を従来法の階層型神経回
路網モデル２０００と同一にできるので、従来に比較し
て処理速度的にも製造コスト的にも不利にならずに、従
来よりも高性能の信号処理装置を実現できる。

【００７３】また、教師信号の帯域数を低域、高域の２
つに限定する必要はなく、２以上の任意の帯域数を用い
ることが可能である。また教師信号の帯域数を低域、高
域のいずれかに１つにしても良い。一般に帯域数をｋ
（ｋは１以上の整数）とすれば、階層型神経回路網モデ
ルをＰ入力（ｋ＋１）×Ｐ出力（Ｐ個の出力ユニット＋
ｋ×Ｐ個の追加出力ユニット）とすれば良い。学習完了
後はｋ×Ｐ個の追加出力ユニットとそれらに接続する結
合を取り除き、階層型神経回路網モデルをＰ入力Ｐ出力
とすることができる。

【００７４】［実施の形態４］実施の形態４は、リカレ
ントニューラルネットワークにて、帯域分割法を利用す
る雑音除去用信号処理装置であり、その基本的構成は図
５に示した実施の形態２の構成と同じである。

【００７５】実施の形態２と異なるのは、図１０に示す
ごとく実施の形態４のリカレントニューラルネットワー
ク３１２は、実施の形態２が１つの追加出力ユニット１
１２ｄであったのに比較して２つの追加出力ユニット３
１２ｄ，３１２ｅが学習モード時には出力ユニットとし
て用いられる点である。

【００７６】帯域分割法によるリカレントニューラルネ
ットワーク３１２の学習法を、図１０により説明する。
実施の形態３と同様に、原教師信号Ｔの他に帯域分割に
より生成した教師信号の低域成分の追加教師信号Ｔl、
教師信号の高域成分の追加教師信号Ｔhも合わせて教師
信号としている。

【００７７】実施の形態３と同様に、雑音重畳音声を要
求標本化周波数ｆ0（標本化周期Ｔ0）で標本化したもの
を標準入力信号とし、そこに含まれる音声を標本化周波
数ｆ0（標本化周期Ｔ0）で標本化したものを原教師信号
Ｔとする。また原教師信号Ｔの低減成分および高域成分
をそれぞれ追加教師信号Ｔl，Ｔhとする。標準パターン
格納部における標準パターンの個数をＭとすると、学習
制御部３１４および比較部３１６は以下の操作をＭ個の
パターン各々につき実施する。ここで、標準入力信号Ｉ
と教師信号Ｔとを構成する標本値の個数は、標準入力信
号ＩがＬ個とすると、教師信号Ｔはその３倍の３×Ｌ個
となる。

【００７８】そして時刻点ｔ＝１，２，…，Ｌにおける
標準入力信号をＩt、原教師信号をＴt、低域成分の追加
教師信号をＴlt、高域成分の追加教師信号をＴhtで表
す。学習モード時には、学習制御部３１４はｔ＝１，
２，…，Ｌの順に標準入力信号Ｉtをリカレントニュー
ラルネットワーク３１２の１つの入力ユニット３１２ａ
に入力し、比較部３１６はリカレントニューラルネット
ワーク３１２の３つの出力ユニット３１２ｃ，３１２
ｄ，３１２ｅからそれぞれ出力信号Ｓt，Ｓlt，Ｓhtを
得て、教師信号Ｔt，Ｔlt，Ｔhtと比較を行う。

【００７９】この比較結果に基づき学習制御部３１４は
結合荷重更新指令信号をリカレントニューラルネットワ
ーク３１２に出力する。リカレントニューラルネットワ
ーク３１２はその結合荷重更新指令信号に基づいて結合
荷重が更新される。学習制御部３１４および比較部３１
６は出力信号Ｓt，Ｓlt，Ｓhtと教師信号Ｔt，Ｔlt，Ｔ
htとが一致するまで上述の操作を繰り返す。

【００８０】こうして学習モードが終了すると、学習モ
ードで得られた１入力３出力のリカレントニューラルネ
ットワーク３１２の結合荷重を固定して、実行モードに
使用する。なお、実行モードでは追加出力ユニット３１
２ｄ，３１２ｅの出力は外部には出力させない。

【００８１】実行モードにおいては、実施の形態２と同
様に切替スイッチによりリカレントニューラルネットワ
ーク３１２の入出力を外部入出力に切り替える。このこ
とにより、実際の入力音声および環境雑音がマイクによ
り取り込まれると、アナログ入力信号としてＡ／Ｄ変換
器に出力される。Ａ／Ｄ変換器は、このアナログ入力信
号を要求標本化周波数ｆ0で離散化しデジタル入力信号
としてリカレントニューラルネットワーク３１２の入力
ユニット３１２ａへ出力する。リカレントニューラルネ
ットワーク３１２はデジタル入力信号から音声信号だけ
を抽出し、出力ユニット３１２ｃからディジタル出力信
号を順にＤ／Ａ変換器へ送る。Ｄ／Ａ変換器は受信した
ディジタル出力信号を要求標本化周波数ｆ0でＤ／Ａ変
換し、アナログ出力信号に変換後、スピーカへ出力し
て、スピーカから出力音声として出力させる。

【００８２】以上説明したように、本実施の形態４では
原教師信号Ｔの他に帯域分割により生成した原教師信号
Ｔの低域成分の追加教師信号Ｔl、原教師信号Ｔの高域
成分の追加教師信号Ｔhも合わせて教師信号として、リ
カレントニューラルネットワーク３１２に与えることに
より、望ましい出力波形の情報を増やしリカレントニュ
ーラルネットワーク３１２の学習を容易としている。そ
してリカレントニューラルネットワーク３１２の出力
が、その出力に含まれる高域成分も望ましい出力波形の
高域成分に、より正確に追従するという効果をもたら
す。

【００８３】ただし、リカレントニューラルネットワー
クを用いるので、階層型神経回路網モデルとは異なり学
習完了後に追加出力ユニット３１２ｄ，３１２ｅおよび
それに接続される結合を無条件に除去することはできな
いが、追加出力ユニット３１２ｄ，３１２ｅが他のユニ
ット３１２ａ，３１２ｂ，３１２ｃに対し信号を送らな
い構造を取った場合は、追加出力ユニット３１２ｄ，３
１２ｅは削除することは可能である。

【００８４】追加出力ユニット３１２ｄ，３１２ｅとそ
れに接続される結合とが、実行モード時に除去できない
構成であったとしても、入力ユニット３１２ａは従来の
まま１つで良いことから、メモリ的にも、その結合荷重
に基づく計算量的にも、得られた効果に比較して大きな
不利とはならない。また、追加出力ユニット３１２ｄ，
３１２ｅが他のユニット３１２ａ，３１２ｂ，３１２ｃ
に対し信号を送らない構造であれば、追加出力ユニット
３１２ｄ，３１２ｅとこの追加出力ユニット３１２ｄ，
３１２ｅへの結合は除去できるので、前記実施の形態３
と同じく、学習完了後に追加出力ユニット３１２ｄ，３
１２ｅおよびそれに接続される結合を除去し、実行モー
ド時には従来の神経回路網モデルの構造と結合荷重以外
は同一とすることができる。したがって、実行時におけ
る神経回路網モデルの計算量、およびメモリ使用量を従
来法と同一にでき、従来よりも学習が容易で、波形追従
特性も従来よりも高域成分にも良好に対応しているにも
かかわらず、従来通り高速でかつ安価な信号処理装置と
することができる。

【００８５】また、教師信号の帯減数を低域高域の２つ
に限定する必要はなく、２以上の任意の帯域数を用いる
ことが可能である。また教師信号の帯域数を低域、高域
のいずれかに１つにしても良い。一般に帯域数をｋ（ｋ
は１以上の整数）とすれば、リカレントニューラルネッ
トワークは１入力（ｋ＋１）出力（１個の出力ユニット
＋ｋ個の追加出力ユニット）とすれば良い。

【００８６】［実施の形態５］前記実施の形態１〜４の
高標本化周波数法あるいは帯域分割法による信号処理装
置は雑音抑圧に用いられているが、これ以外に、音声の
帯域拡張として、例えば合成音声の音質改善として使用
することもできる。これは合成音声を入力した時、より
音質の高い音声を出力するよう神経回路網モデルを学習
させることにより可能となる。

【００８７】実施の形態５として、この帯域拡張法につ
いて説明する。図１１は音声をＡ／Ｄ変換し、デジタル
の音声標本値に変換する手順を示したものである。標本
化周波数をｆＨｚとする。標本化周波数がｆＨｚである
場合、Ａ／Ｄ変換する音声はｆ／２Ｈｚより高域の周波
数成分を含んではならない（さもないと標本化は正しく
行われない）。この条件を満たすため、原音声は遮断周
波数ｆ／２Ｈｚの低域アナログフィルタ４０２により帯
域制限音声に変換後、Ａ／Ｄ変換器４０４により音声標
本値に変換される。

【００８８】帯域拡張とは、ある標本化周波数ｆＨｚで
標本化された音声信号からｆ／２Ｈｚ以上の周波数成分
を推定し、ｆ'＞ｆを満たす、より高い標本化周波数ｆ'
の音声信号に変換することである。本実施の形態５で
は、０〜４ｋＨｚに帯域制限されている電話音声に高域
成分を追加することで、より高品質な音声に変換して聴
感を改良する帯域拡張装置４０６を示す。

【００８９】図１２（ａ）は同一の原音声から標本化周
波数ｆＨｚで標本化を行う例であり、図１２（ｂ）は２
ｆＨｚで標本化を行う例である。単位時間あたりの標本
値の数は後者が前者の２倍となる。前者の帯域制限音声
は０〜ｆ／２Ｈｚ、後者の帯域制限音声は０〜ｆＨｚの
周波数成分を含む。したがって両者の波形は一般には異
なる。時間軸では標本値ｘt+iとｙt+iとが対応するが、
その値は等しいとは限らない。

【００９０】帯域拡張は時系列信号ｘt，ｘt+2，ｘt+
4，…から時系列信号ｙt，ｙt+1，ｙt+2，ｙt+3，ｙt+
5，…を推定する問題と捕えることができる。この間題
では、帯域拡張装置４０６の出力として要求される標本
化周波数ｆ0＝２ｆである。図１２（ｃ）に帯域拡張装
置４０６を示す。これは標本化周波数ｆＨｚの音声標本
値を３個入力し、標本化周波数２ｆＨｚの音声標本値を
６個出力する装置の例である。

【００９１】帯域拡張機能を階層型神経回路網モデルで
学習させて実現した従来例を図２２に示す。この従来例
の階層型神経回路網モデル９０００は入力層９００２に
入力ユニット３個、出力層９００６に出力ユニット６個
であり、標本化周波数２ｆＨｚの音声標本値を教師信号
として学習を行っている。

【００９２】実施の形態５として、帯域拡張装置４０６
を高標本化周波数法による階層型神経回路網モデル４１
２で学習させる例を図１３に示す。この階層型神経回路
網モデル４１２は出力層４５４の出力ユニット数を、出
力ユニット４５４ａと追加出力ユニット４５４ｂとの１
２個とし、帯域音声信号を要求標本化周波数ｆ0の２倍
の標本化周波数２ｆ0で標本化して得られる標本値を教
師信号ｙt，ｙt+1，…および追加教師信号ｙt'，ｙt+
1'，…として与える。すなわち、図１２（ｄ）で△で示
す標本値が追加されることになる。尚、入力層４５０お
よび中間層４５２のユニット数は、従来例の入力層９０
０２および中間層９００４と同じである。

【００９３】学習完了後は追加教師信号に対応する追加
出力ユニット４５４ｂを除去し、帯域拡張装置４０６と
して用いる。この帯域拡張装置４０６を電話装置に組み
込めば、０〜４ｋＨｚに帯域制限されている電話音声に
４ｋＨｚを越える高域成分を追加することができ、受信
する音声は帯域制限されているにもかかわらず高品質な
受話音声を出力することができる。

【００９４】なお図１２（ｃ），（ｄ）では階層型神経
回路網モデルを３入力６出力としたが、これ以外の入出
力データ数であっても良い。 ［その他］尚、前述の各実施の形態では、実行モード状
態の階層型神経回路網モデルおよびリカレントニューラ
ルネットワークは最初から信号処理装置に組み込まれて
いて、切替スイッチにて学習モードと実行モードとを切
り替えていたが、学習モード時は学習装置で学習させる
ことにより、信号処理フィルタとして階層型神経回路網
モデルおよびリカレントニューラルネットワークを完成
して、信号処理フィルタを保存し、その後、必要に応じ
て、信号処理装置に組み込んで用いても良い。

【００９５】更に、学習モードにて階層型神経回路網モ
デルあるいはリカレントニューラルネットワークを完成
した後、単にデータとしてユニットの構成および結合荷
重を記録しておき、このデータを用いて、学習済みの階
層型神経回路網モデルやリカレントニューラルネットワ
ークを、実行モード用の階層型神経回路網モデルやリカ
レントニューラルネットワークとしてＲＯＭやバックア
ップＲＡＭ上に実現し、必要に応じて信号処理装置に組
み込んで用いても良い。

【００９６】［従来法と本発明の実施の形態との比較実
験］本発明の実施の形態の効果を、シミュレーションに
より、図２０，２１に示したリカレントニューラルネ
ットワークを用いた従来法による信号処理装置、実施
の形態として図１５（ａ）に示すリカレントニューラル
ネットワークを用いた高標本化周波数法による信号処理
装置、および実施の形態として図１５（ｂ）に示すリ
カレントニューラルネットワークを用いた帯域分割法に
よる信号処理装置の比較実験を行った。

【００９７】前記の信号処理装置のリカレントニ
ューラルネットワークに対して以下の例題を学習させ、
学習成功回数を比較した。 （例題）次式のごとく、２つのsin波形を合成した波形
を入力とし、その波形をそのまま出力するという例題で
ある。その入力波形を図１４（ａ）に示し、望ましい出
力波形を図１４（ｂ）に示す。

【００９８】

【数１】

【００９９】の各信号処理装置における違いは下
に述べるごとく教師信号の与え方である。標準入力信号
は同一のものを与える。標準入力信号Ｉtは次式で示さ
れる。Ｉtは２０ステップで１周期となる。すなわちＩt
＝Ｉt+20である。

【０１００】

【数２】

【０１０１】（従来法による） 従来法では教師信号として下式のごとく標準入力信号Ｉ
tをそのまま再生するよう教師信号Ｔtを与えた。任意の
時刻点ｔでＴt＝Ｉtが成立する。リカレントニューラル
ネットワークとして図２０，２１に示した入力ユニット
１個、出力ユニット１個のものを用いた。尚、中間ユニ
ットについては図２０，２１と同じとは限らない。

【０１０２】

【数３】

【０１０３】（高標本化周波数法による実施の形態） 高標本化周波数法では教師信号の標本化周波数を４倍と
し、標準入力信号Ｉtに対し教師信号を次式のごとく与
えた。リカレントニューラルネットワークとして図１５
（ａ）に示した入力ユニット１個、出力ユニット４個の
ものを用いた。尚、中間ユニットについては図１５
（ａ）と同じとは限らない。

【０１０４】

【数４】

【０１０５】（帯域分割法による実施の形態） 帯域分割法では標準入力信号Ｉtに対し教師信号として
Ｉtをそのまま再生するＴtおよびその低域成分Ｔlt、高
域成分Ｔhtの３つを次式のごとく与えた。リカレントニ
ューラルネットワークとして図１５（ｂ）に示した入力
ユニット１個、出力ユニット３個のものを用いた。尚、
中間ユニットについては図１５（ｂ）と同じとは限らな
い。

【０１０６】

【数５】

【０１０７】本比較実験ではの各信号処理装置そ
れぞれを用いて、全ユニット数が１０〜１４の各リカレ
ントニューラルネットワークについて、初期値を変えて
５回の学習を行った。そしてリカレントニューラルネッ
トワークの出力が低域sinl(t)、高域sinh(t)のパワーを
８０％以上再生した場合に学習が成功したとみなした。
学習時間は各試行それぞれ１０分とした。

【０１０８】（実験結果）表１に実験結果を示す。で
は計２５試行でただ１度しか学習が成功しなかった。
では成功回数が増加しており、特にが優れているこ
とが分かる。これより、本発明によれば、容易に学習が
できることが判明した。しかも、多数得られたリカレン
トニューラルネットワークの中から実行モードとして実
際に適用して図１６に示すごとく十分な性能を発揮し
た。

【０１０９】

【表１】

【０１１０】図１６はリカレントニューラルネットワー
ク出力の結果を示す。これはユニット数１０個の同一初
期値を持つリカレントニューラルネットワークを従来法
と、本発明の実施の形態としての帯域分割法で学習させ
た後の出力を比較したものである。図１６（ａ）に示す
従来法ではリカレントニューラルネットワーク出力が望
ましい出力に追従していない。一方、図１６（ｂ）に示
す実施の形態としての帯域分割法では、ほぼ正確に追従
していることが分かる。したがって、本発明の実施の形
態であるの効果を確認できた。

【図面の簡単な説明】

【図１】 実施の形態１としての高標本化周波数法の階
層型神経回路網モデルを組み込んだ信号処理装置の構成
図である。

【図２】 実施の形態１の学習制御部からの標準パター
ンの出力形態説明図である。

【図３】 実施の形態１の階層型神経回路網モデルの機
能的構成説明図である。

【図４】 実施の形態１の追加出力ユニット除去前（学
習モード時）および除去後（実行モード時）の階層型神
経回路網モデルの構成説明図である。

【図５】 実施の形態２としての高標本化周波数法のリ
カレントニューラルネットワークを組み込んだ信号処理
装置の構成図である。

【図６】 実施の形態２のリカレントニューラルネット
ワークの機能的構成説明図である。

【図７】 実施の形態３としての帯域分割法の階層型神
経回路網モデルの機能的構成説明図である。

【図８】 実施の形態３の教師信号と追加教師信号との
波形説明図である。

【図９】 実施の形態３の追加出力ユニット除去前（学
習モード時）および除去後（実行モード時）の階層型神
経回路網モデルの構成説明図である。

【図１０】 実施の形態４としての帯域分割法のリカレ
ントニューラルネットワークの機能的構成説明図であ
る。

【図１１】 実施の形態５としての帯域拡張法の処理説
明図である。

【図１２】 実施の形態５の音声標本化および追加教師
信号生成の説明図である。

【図１３】 実施の形態５の階層型神経回路網モデルの
構成説明図である。

【図１４】 実施の形態の性能を示す実験結果説明図で
ある。

【図１５】 実験に用いられた実施の形態のリカレント
ニューラルネットワークの構成説明図である。

【図１６】 実施の形態の性能を示す実験結果説明図で
ある。

【図１７】 従来法の階層型神経回路網モデルの機能的
構成説明図である。

【図１８】 従来法の階層型神経回路網モデルの処理説
明図である。

【図１９】 従来法の階層型神経回路網モデルの信号説
明図である。

【図２０】 従来法のリカレントニューラルネットワー
クの処理説明図である。

【図２１】 従来法のリカレントニューラルネットワー
クの機能的構成説明図である。

【図２２】 従来法の帯域拡張の階層型神経回路網モデ
ルの構成説明図である。

【符号の説明】

２…信号処理装置 ４…マイク ６…Ａ／Ｄ変
換器 ８…入力バッファ １０，１１…切替スイッチ １２…階層型神経回路網モデル １４…学習制御部
１６…比較部 １８…標準パターン格納部 ２２…出力バッファ ２４…Ｄ／Ａ変換器 ２６…スピーカ ５０…入力
層 ５０ａ…入力ユニット ５２…中間層 ５２ａ…中
間ユニット ５４…出力層 ５４ａ…出力ユニット ５４ｂ…追
加出力ユニット ６０…階層型神経回路網モデル １０２…信号処理装置
１０４…マイク １０６…Ａ／Ｄ変換器 １１０，１１１…切替スイッチ １１２…リカレントニューラルネットワーク １１２ａ
…入力ユニット １１２ｂ…中間ユニット １１２ｃ…出力ユニット １１２ｄ…追加出力ユニット １１４…学習制御部 １
１６…比較部 １１８…標準パターン格納部 １２４…Ｄ／Ａ変換器
１２６…スピーカ ２１２…階層型神経回路網モデル ２５０…入力層 ２５０ａ…入力ユニット ２５２…中間層 ２５２ａ…
中間ユニット ２５４…出力層 ２５４ａ…出力ユニット ２５４ｂ…
追加出力ユニット ２６０…階層型神経回路網モデル ３１２…リカレントニューラルネットワーク ３１２ａ
…入力ユニット ３１２ｃ…出力ユニット ３１２ｄ，３１２ｅ…追加出
力ユニット ３１４…学習制御部 ３１６…比較部 ４０２…低域ア
ナログフィルタ ４０４…Ａ／Ｄ変換器 ４０６…帯域拡張装置 ４１２…階層型神経回路網モデル ４５０…入力層 ４
５２…中間層 ４５４…出力層 ４５４ａ…出力ユニット ４５４ｂ…
追加出力ユニット

Claims (24)

【特許請求の範囲】
1. 【請求項１】入力ユニットから出力ユニットにわたっ
   て、ユニットのネットワークが形成され、前記入力ユニ
   ットに入力される入力信号を、前記ユニット間または同
   一の前記ユニット自身への結合荷重に応じて他のユニッ
   トまたは同一のユニット自身に伝達させて、前記出力ユ
   ニットから出力信号として出力する神経回路網モデルの
   学習方法であって、 前記入力信号から抽出したい信号に対応して設定されて
   いる教師信号と前記出力信号との比較に応じて前記結合
   荷重を調節する学習モードでは、学習が完了した後に前
   記結合荷重を固定して実際の信号を処理する実行モード
   よりも多数の出力ユニットと、この出力ユニットの数に
   対応した教師信号とを用いて学習を行うことを特徴とす
   る神経回路網モデルの学習方法。
2. 【請求項２】前記神経回路網モデルが階層型神経回路網
   モデルとして構成されていることを特徴とする請求項１
   記載の神経回路網モデルの学習方法。
3. 【請求項３】前記学習モード時には、前記入力ユニット
   よりも多数の前記出力ユニットから並列に出力される出
   力信号が前記教師信号と比較され、 前記実行モード時には、前記入力ユニットと前記出力ユ
   ニットとの数が同数とされることを特徴とする請求項２
   記載の神経回路網モデルの学習方法。
4. 【請求項４】前記神経回路網モデルがリカレントニュー
   ラルネットワークとして構成されていることを特徴とす
   る請求項１記載の神経回路網モデルの学習方法。
5. 【請求項５】前記学習モード時には、前記入力ユニット
   よりも多数の前記出力ユニットのそれぞれから時系列的
   に順次出力される出力信号が前記教師信号と比較され、 前記実行モード時には、前記入力ユニットと前記出力ユ
   ニットとの数が同数とされることを特徴とする請求項４
   記載の神経回路網モデルの学習方法。
6. 【請求項６】前記学習モード時に用いる出力ユニット数
   が、前記実行モード時に用いる出力ユニット数の２以上
   の整数倍であることを特徴とする請求項１〜５のいずれ
   か記載の神経回路網モデルの学習方法。
7. 【請求項７】前記教師信号が、時系列信号から形成され
   ていることを特徴とする請求項１〜６のいずれか記載の
   神経回路網モデルの学習方法。
8. 【請求項８】前記時系列信号が音声信号であることを特
   徴とする請求項７記載の神経回路網モデルの学習方法。
9. 【請求項９】前記学習モード時に用いる出力ユニット
   が、前記教師信号と比較する出力ユニットと、前記教師
   信号の周波数帯域に含まれる所定周波数帯域成分の追加
   教師信号と比較する出力ユニットとが存在することを特
   徴とする請求項１〜８のいずれか記載の神経回路網モデ
   ルの学習方法。
10. 【請求項１０】前記学習モード時に用いる出力ユニット
    が、前記教師信号と比較する出力ユニットと、前記実行
    モード時に入力信号の周波数帯域を拡張して出力信号と
    して出力するために前記教師信号の周波数帯域に含まれ
    ない所定周波数帯域成分の追加教師信号と比較する出力
    ユニットとが存在することを特徴とする請求項１〜８の
    いずれか記載の神経回路網モデルの学習方法。
11. 【請求項１１】入力ユニットから出力ユニットにわたっ
    て、ユニットのネットワークが形成され、前記入力ユニ
    ットに入力される入力信号を、前記ユニット間または同
    一の前記ユニット自身への結合荷重に応じて他のユニッ
    トまたは同一のユニット自身に伝達させて、前記出力ユ
    ニットから出力信号として出力する神経回路網モデルに
    対して、学習モードとして、前記入力信号から抽出した
    い信号に対応して設定されている教師信号と前記出力信
    号との比較に応じて前記結合荷重を調節する学習を行
    い、前記学習モードによる学習が完了した後に、実行モ
    ードとして、前記結合荷重を固定して実際の信号を処理
    する構成にする神経回路網モデルの形成方法であって、 前記学習モードでは、前記実行モードよりも多数の出力
    ユニットと、この出力ユニットの数に対応した教師信号
    とを用いて学習を行うことを特徴とする神経回路網モデ
    ルの形成方法。
12. 【請求項１２】前記神経回路網モデルが階層型神経回路
    網モデルとして構成されていることを特徴とする請求項
    １１記載の神経回路網モデルの形成方法。
13. 【請求項１３】前記学習モード時には、前記入力ユニッ
    トよりも多数の前記出力ユニットから並列に出力される
    出力信号が前記教師信号と比較され、 前記実行モード時には、前記入力ユニットと同数の前記
    出力ユニットから並列に出力される出力信号が用いられ
    ることを特徴とする請求項１２記載の神経回路網モデル
    の形成方法。
14. 【請求項１４】前記学習モード時に用いられた出力ユニ
    ットの内から、所定間隔で抽出した出力ユニットを、前
    記実行モード時に用いる出力ユニットとすることを特徴
    とする請求項１２または１３記載の神経回路網モデルの
    形成方法。
15. 【請求項１５】前記神経回路網モデルがリカレントニュ
    ーラルネットワークとして構成されていることを特徴と
    する請求項１１記載の神経回路網モデルの形成方法。
16. 【請求項１６】前記学習モード時には、前記入力ユニッ
    トよりも多数の前記出力ユニットのそれぞれから時系列
    的に順次出力される出力信号が前記教師信号と比較さ
    れ、 前記実行モード時には、前記入力ユニットと同数の前記
    出力ユニットから時系列的に順次出力される出力信号が
    用いられることを特徴とする請求項１５記載の神経回路
    網モデルの形成方法。
17. 【請求項１７】前記学習モード時に用いる出力ユニット
    数が、前記実行モード時に用いる出力ユニット数の２以
    上の整数倍であることを特徴とする請求項１１〜１６の
    いずれか記載の神経回路網モデルの形成方法。
18. 【請求項１８】前記教師信号が、時系列信号から形成さ
    れていることを特徴とする請求項１１〜１７のいずれか
    記載の神経回路網モデルの形成方法。
19. 【請求項１９】前記時系列信号が音声信号であることを
    特徴とする請求項１８記載の神経回路網モデルの形成方
    法。
20. 【請求項２０】前記学習モード時に用いる出力ユニット
    が、前記教師信号と比較する出力ユニットと、前記教師
    信号の周波数帯域に含まれる所定周波数帯域成分の追加
    教師信号と比較する出力ユニットとが存在することを特
    徴とする請求項１１〜１９のいずれか記載の神経回路網
    モデルの形成方法。
21. 【請求項２１】前記学習モード時に用いる出力ユニット
    が、前記教師信号と比較する出力ユニットと、前記実行
    モード時に入力信号の周波数帯域を拡張して出力信号と
    して出力するために前記教師信号の周波数帯域に含まれ
    ない所定周波数帯域成分の追加教師信号と比較する出力
    ユニットとが存在することを特徴とする請求項１１〜１
    ９のいずれか記載の神経回路網モデルの形成方法。
22. 【請求項２２】請求項１１〜２１のいずれかの形成方法
    にて形成された神経回路網モデルを組み込んだことを特
    徴とする信号処理装置。
23. 【請求項２３】請求項１２〜１４のいずれかの形成方法
    にて形成された神経回路網モデルと、 音を入力し、アナログ信号として出力する音波受信手段
    と、 前記マイクからのアナログ信号をデジタル信号に変換す
    るＡ／Ｄ変換器と、 前記Ａ／Ｄ変換器からのデジタル信号を前記神経回路網
    モデルの入力ユニットの数毎に並列に前記神経回路網モ
    デルの各入力ユニットへ出力する入力バッファと、 前記神経回路網モデルの出力ユニットから並列に出力さ
    れるデジタル信号を直列のデジタル信号として出力する
    出力バッファと、 前記出力バッファからの直列のデジタル信号をアナログ
    信号に変換するＤ／Ａ変換器と、 前記Ｄ／Ａ変換器からのアナログ信号を音として出力す
    る音波出力手段と、 を備えたことを特徴とする信号処理装置。
24. 【請求項２４】請求項１５または１６の形成方法にて形
    成された神経回路網モデルと、 音を入力し、アナログ信号として出力する音波受信手段
    と、 前記マイクからのアナログ信号をデジタル信号に変換し
    前記神経回路網モデルの入力ユニットへ出力するＡ／Ｄ
    変換器と、 前記神経回路網モデルの出力ユニットから出力されるデ
    ジタル信号をアナログ信号に変換するＤ／Ａ変換器と、 前記Ｄ／Ａ変換器からのアナログ信号を音として出力す
    る音波出力手段と、 を備えたことを特徴とする信号処理装置。