JPH05335948A - ニューラルネットワーク量子化装置 - Google Patents
ニューラルネットワーク量子化装置Info
- Publication number
- JPH05335948A JPH05335948A JP4116255A JP11625592A JPH05335948A JP H05335948 A JPH05335948 A JP H05335948A JP 4116255 A JP4116255 A JP 4116255A JP 11625592 A JP11625592 A JP 11625592A JP H05335948 A JPH05335948 A JP H05335948A
- Authority
- JP
- Japan
- Prior art keywords
- signal
- valued
- output
- neural network
- analog signal
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
Classifications
-
- H—ELECTRICITY
- H03—ELECTRONIC CIRCUITRY
- H03M—CODING; DECODING; CODE CONVERSION IN GENERAL
- H03M1/00—Analogue/digital conversion; Digital/analogue conversion
- H03M1/12—Analogue/digital converters
- H03M1/34—Analogue value compared with reference values
- H03M1/38—Analogue value compared with reference values sequentially only, e.g. successive approximation type
- H03M1/42—Sequential comparisons in series-connected stages with no change in value of analogue signal
Landscapes
- Engineering & Computer Science (AREA)
- Theoretical Computer Science (AREA)
- Compression, Expansion, Code Conversion, And Decoders (AREA)
- Analogue/Digital Conversion (AREA)
Abstract
(57)【要約】
【目的】 新規な多値ニューラルネットワークの概念を
用いてアナログ信号の量子化を行う。 【構成】 入力端子１からの入力アナログ信号がサンプ
リング手段２0 〜２N-1に供給されると共に、順次サン
プリングパルスが供給され、Ｎ個のサンプル値が抽出さ
れる。これらのサンプル値がそれぞれ多値ニューロン３
0 〜３N-1 に一方の入力に供給される。これらの多値ニ
ューロン３0 〜３N-1 の出力値（アナログ）が重み付け
用の抵抗器４0,0 …４N-1,0 〜４N-1,0 …４N-1,N-1 を
介してそれぞれ自己及び他の多値ニューロン３0 〜３
N-1 に他方の入力に供給される。また多値ニューロン３
0 〜３N-1 の出力値（ディジタル）がそれぞれラッチ回
路５0〜５N-1 に供給され、演算が収束した時点の出力
値がラッチされる。そしてこれらのラッチされた値が順
次出力端子６に取り出される。
用いてアナログ信号の量子化を行う。 【構成】 入力端子１からの入力アナログ信号がサンプ
リング手段２0 〜２N-1に供給されると共に、順次サン
プリングパルスが供給され、Ｎ個のサンプル値が抽出さ
れる。これらのサンプル値がそれぞれ多値ニューロン３
0 〜３N-1 に一方の入力に供給される。これらの多値ニ
ューロン３0 〜３N-1 の出力値（アナログ）が重み付け
用の抵抗器４0,0 …４N-1,0 〜４N-1,0 …４N-1,N-1 を
介してそれぞれ自己及び他の多値ニューロン３0 〜３
N-1 に他方の入力に供給される。また多値ニューロン３
0 〜３N-1 の出力値（ディジタル）がそれぞれラッチ回
路５0〜５N-1 に供給され、演算が収束した時点の出力
値がラッチされる。そしてこれらのラッチされた値が順
次出力端子６に取り出される。
Description
【０００１】
【産業上の利用分野】本発明は量子化装置に関し、新規
な多値ニューラルネットワークの概念を用いて処理を行
うことにより、アナログ信号の量子化が良好に行われる
ようにするものである。
な多値ニューラルネットワークの概念を用いて処理を行
うことにより、アナログ信号の量子化が良好に行われる
ようにするものである。
【０００２】
【従来の技術】アナログ信号を量子化（ディジタル化）
する場合において、従来は唯一Ａ／Ｄ変換による方法が
実用化されている。すなわちこのＡ／Ｄ変換による方法
は、入力アナログ信号を任意の瞬間ごとにサンプリング
し、この瞬間ごとの値をその振幅に応じてクラス分け
し、このクラスに対応した数字を出力するというもので
ある。
する場合において、従来は唯一Ａ／Ｄ変換による方法が
実用化されている。すなわちこのＡ／Ｄ変換による方法
は、入力アナログ信号を任意の瞬間ごとにサンプリング
し、この瞬間ごとの値をその振幅に応じてクラス分け
し、このクラスに対応した数字を出力するというもので
ある。
【０００３】この方法は各瞬間ごとに値が確定するの
で、装置が簡単であるという利点がある。しかしながら
その反面で、周波数領域での特性が全く考えられていな
いために、量子化によって発生したノイズが特定の周波
数に集中してしまうなどの欠点がある。なお従来の装置
では集中したノイズを目立たなくするために、意図的に
ホワイトノイズを加えるなどの処置が取られていた。
で、装置が簡単であるという利点がある。しかしながら
その反面で、周波数領域での特性が全く考えられていな
いために、量子化によって発生したノイズが特定の周波
数に集中してしまうなどの欠点がある。なお従来の装置
では集中したノイズを目立たなくするために、意図的に
ホワイトノイズを加えるなどの処置が取られていた。
【０００４】また従来のＡ／Ｄ変換による方法では、通
常は直流からサンプリング周波数の１／２までの周波数
を均一の重み付けで変換するため、必要な信号が一部の
周波数帯域にのみ存在しているような場合には符号化効
率が良くないものであった。
常は直流からサンプリング周波数の１／２までの周波数
を均一の重み付けで変換するため、必要な信号が一部の
周波数帯域にのみ存在しているような場合には符号化効
率が良くないものであった。
【０００５】
【発明が解決しようとする課題】解決しようとする問題
点は、従来のＡ／Ｄ変換による方法では、必要な信号が
一部の周波数帯域にのみ存在しているような場合には符
号化効率が良くないというものである。
点は、従来のＡ／Ｄ変換による方法では、必要な信号が
一部の周波数帯域にのみ存在しているような場合には符
号化効率が良くないというものである。
【０００６】
【課題を解決するための手段】本発明による第１の手段
は、ニューラルネットワーク量子化装置において、複数
の多値ニューロン３0 〜３N-1 を有し、それぞれサンプ
リングされた入力アナログ信号を上記多値ニューロンの
それぞれに供給する手段（サンプリング手段２ 0 〜２
N-1 ）と、上記多値ニューロンの出力値をアナログ値に
変換する手段と、上記入力アナログ信号を構成する少な
くとも一つの周波数の周波数帯に従って相互に有効に決
定される重み付けによって上記アナログ値に対して重み
付けを行う手段（抵抗器４0,0 …４N-1,0 〜４N-1,0 …
４N-1,N-1 ）と、これらの重み付けされたアナログ値の
それぞれを上記多値ニューロンのそれぞれから全ての上
記多値ニューロンに帰還する手段と、これらの帰還され
た上記重み付けされたアナログ値と上記サンプリングさ
れた入力アナログ信号のそれぞれとを比較して一致する
比較結果を供給する手段と、この比較結果に応じて上記
多値ニューロンの出力値を改定する手段とが設けられ、
上記比較結果が所定の範囲内に収束したときの上記多値
ニューロンの出力値を取り出す（ラッチ回路５0 〜５
N-1 ）ことによって上記入力アナログ信号の量子化が行
われるようにしたニューラルネットワーク量子化装置で
ある。
は、ニューラルネットワーク量子化装置において、複数
の多値ニューロン３0 〜３N-1 を有し、それぞれサンプ
リングされた入力アナログ信号を上記多値ニューロンの
それぞれに供給する手段（サンプリング手段２ 0 〜２
N-1 ）と、上記多値ニューロンの出力値をアナログ値に
変換する手段と、上記入力アナログ信号を構成する少な
くとも一つの周波数の周波数帯に従って相互に有効に決
定される重み付けによって上記アナログ値に対して重み
付けを行う手段（抵抗器４0,0 …４N-1,0 〜４N-1,0 …
４N-1,N-1 ）と、これらの重み付けされたアナログ値の
それぞれを上記多値ニューロンのそれぞれから全ての上
記多値ニューロンに帰還する手段と、これらの帰還され
た上記重み付けされたアナログ値と上記サンプリングさ
れた入力アナログ信号のそれぞれとを比較して一致する
比較結果を供給する手段と、この比較結果に応じて上記
多値ニューロンの出力値を改定する手段とが設けられ、
上記比較結果が所定の範囲内に収束したときの上記多値
ニューロンの出力値を取り出す（ラッチ回路５0 〜５
N-1 ）ことによって上記入力アナログ信号の量子化が行
われるようにしたニューラルネットワーク量子化装置で
ある。
【０００７】本発明による第２の手段は、それぞれの周
波数を有する少なくとも一つの構成信号からなるアナロ
グ信号を量子化するニューラルネットワーク量子化装置
において、上記アナログ信号を受信すると共にサンプリ
ングしてそれぞれのサンプリングされたアナログ信号を
形成する複数のサンプリング手段２0 〜２N-1 と、それ
ぞれの上記構成信号の上記それぞれの周波数を含む周波
数帯の中に存在する処理信号によって得られる相互に有
効な重み付けによって複数のそれぞれ重み付けされたア
ナログ信号を形成する重み付け手段（抵抗器４0,0 …４
N-1,0 〜４N-1, 0 …４N-1,N-1 ）と、上記重み付けされ
たアナログ信号と上記サンプリングされたアナログ信号
を比較して比較信号を形成する比較手段（コンパレータ
３４、３５）と、それぞれの出力信号を形成するように
この比較信号を処理する手段（アップダウンカウンタ３
６）と、それぞれの出力信号を他の多値ニューロンから
の出力信号と共に上記それぞれの重み付けされたアナロ
グ信号を形成するように上記重み付け手段に供給するた
めの出力アナログ信号に変換する手段（Ｄ／Ａ変換器３
７）とを有して、それぞれの出力信号を発生する複数の
多値ニューロン３0〜３N-1 と、上記比較結果が所定の
範囲内に存在する量に収束したときに上記多値ニューロ
ンの出力信号から量子化されたアナログ信号を得る手段
（ラッチ回路５0 〜５N-1 ）とが設けられてなるニュー
ラルネットワーク量子化装置である。
波数を有する少なくとも一つの構成信号からなるアナロ
グ信号を量子化するニューラルネットワーク量子化装置
において、上記アナログ信号を受信すると共にサンプリ
ングしてそれぞれのサンプリングされたアナログ信号を
形成する複数のサンプリング手段２0 〜２N-1 と、それ
ぞれの上記構成信号の上記それぞれの周波数を含む周波
数帯の中に存在する処理信号によって得られる相互に有
効な重み付けによって複数のそれぞれ重み付けされたア
ナログ信号を形成する重み付け手段（抵抗器４0,0 …４
N-1,0 〜４N-1, 0 …４N-1,N-1 ）と、上記重み付けされ
たアナログ信号と上記サンプリングされたアナログ信号
を比較して比較信号を形成する比較手段（コンパレータ
３４、３５）と、それぞれの出力信号を形成するように
この比較信号を処理する手段（アップダウンカウンタ３
６）と、それぞれの出力信号を他の多値ニューロンから
の出力信号と共に上記それぞれの重み付けされたアナロ
グ信号を形成するように上記重み付け手段に供給するた
めの出力アナログ信号に変換する手段（Ｄ／Ａ変換器３
７）とを有して、それぞれの出力信号を発生する複数の
多値ニューロン３0〜３N-1 と、上記比較結果が所定の
範囲内に存在する量に収束したときに上記多値ニューロ
ンの出力信号から量子化されたアナログ信号を得る手段
（ラッチ回路５0 〜５N-1 ）とが設けられてなるニュー
ラルネットワーク量子化装置である。
【０００８】本発明による第３の手段は、それぞれの上
記変換する手段（Ｄ／Ａ変換器３７）からのそれぞれの
出力信号が上記重み付け手段（抵抗器４0,0 …４N-1,0
〜４ N-1,0 …４N-1,N-1 ）を通じてそれぞれ重み付けさ
れたアナログ信号を形成して上記多値ニューロン３0 〜
３N-1 のそれぞれに帰還されると共に、他の残りの上記
多値ニューロンに帰還されるようにした請求項２に記載
のニューラルネットワーク量子化装置である。
記変換する手段（Ｄ／Ａ変換器３７）からのそれぞれの
出力信号が上記重み付け手段（抵抗器４0,0 …４N-1,0
〜４ N-1,0 …４N-1,N-1 ）を通じてそれぞれ重み付けさ
れたアナログ信号を形成して上記多値ニューロン３0 〜
３N-1 のそれぞれに帰還されると共に、他の残りの上記
多値ニューロンに帰還されるようにした請求項２に記載
のニューラルネットワーク量子化装置である。
【０００９】本発明による第４の手段は、上記量子化さ
れたアナログ信号を得る手段（ラッチ回路５0 〜
５N-1 ）には、上記出力信号をラッチし、サンプリング
パルスに従ってラッチされた出力信号を供給する複数の
手段を含むようにした請求項３に記載のニューラルネッ
トワーク量子化装置である。
れたアナログ信号を得る手段（ラッチ回路５0 〜
５N-1 ）には、上記出力信号をラッチし、サンプリング
パルスに従ってラッチされた出力信号を供給する複数の
手段を含むようにした請求項３に記載のニューラルネッ
トワーク量子化装置である。
【００１０】本発明による第５の手段は、上記比較手段
（コンパレータ３４、３５）には、それぞれの重み付け
されたアナログ信号からそれぞれのサンプリングされた
アナログ信号を減算する減算手段（減算器３２）を含む
ようにした請求項３に記載のニューラルネットワーク量
子化装置である。
（コンパレータ３４、３５）には、それぞれの重み付け
されたアナログ信号からそれぞれのサンプリングされた
アナログ信号を減算する減算手段（減算器３２）を含む
ようにした請求項３に記載のニューラルネットワーク量
子化装置である。
【００１１】本発明による第６の手段は、上記比較信号
を処理する手段には、それぞれの出力信号を増幅及び減
衰するためのアップダウンカウンタ３６を含むようにし
た請求項３に記載のニューラルネットワーク量子化装置
である。
を処理する手段には、それぞれの出力信号を増幅及び減
衰するためのアップダウンカウンタ３６を含むようにし
た請求項３に記載のニューラルネットワーク量子化装置
である。
【００１２】
【作用】これによれば、新規な多値ニューラルネットワ
ークの概念を用いて処理を行うことにより、アナログ信
号の量子化が良好に行われるようにすることができる。
ークの概念を用いて処理を行うことにより、アナログ信
号の量子化が良好に行われるようにすることができる。
【００１３】
【実施例】図１は装置の全体の構成を示す機能ブロック
図である。
図である。
【００１４】この図において、１はアナログ信号の入力
端子である。この入力端子１からの入力アナログ信号が
サンプリング手段２0 〜２N-1 に供給されると共に、こ
のサンプリング手段２0 〜２N-1 に順次サンプリングパ
ルスが供給されることによって、Ｎ個のサンプル値がサ
ンプリング手段２0 〜２N-1 に抽出される。これらのサ
ンプリング手段２0 〜２N-1 で抽出された入力アナログ
信号のサンプル値が、それぞれ後述する多値ニューロン
３0 〜３N-1 に一方の入力に供給される。
端子である。この入力端子１からの入力アナログ信号が
サンプリング手段２0 〜２N-1 に供給されると共に、こ
のサンプリング手段２0 〜２N-1 に順次サンプリングパ
ルスが供給されることによって、Ｎ個のサンプル値がサ
ンプリング手段２0 〜２N-1 に抽出される。これらのサ
ンプリング手段２0 〜２N-1 で抽出された入力アナログ
信号のサンプル値が、それぞれ後述する多値ニューロン
３0 〜３N-1 に一方の入力に供給される。
【００１５】これらの多値ニューロン３0 〜３N-1 の出
力値（アナログ）が、重み付け用の抵抗器４0,0 …４
N-1,0 〜４N-1,0 …４N-1,N-1 を介してそれぞれ自己及
び他の多値ニューロン３0 〜３N-1 に他方の入力に供給
される。また多値ニューロン３ 0 〜３N-1 の出力値（デ
ィジタル）がそれぞれラッチ回路５0 〜５N-1 に供給さ
れ、多値ニューロン３0 〜３N-1 の演算が収束した時点
の出力値がラッチされる。そしてこれらのラッチ回路５
0 〜５N-1 に上述のサンプリングパルスが供給され、ラ
ッチされた値が順次出力端子６に取り出される。
力値（アナログ）が、重み付け用の抵抗器４0,0 …４
N-1,0 〜４N-1,0 …４N-1,N-1 を介してそれぞれ自己及
び他の多値ニューロン３0 〜３N-1 に他方の入力に供給
される。また多値ニューロン３ 0 〜３N-1 の出力値（デ
ィジタル）がそれぞれラッチ回路５0 〜５N-1 に供給さ
れ、多値ニューロン３0 〜３N-1 の演算が収束した時点
の出力値がラッチされる。そしてこれらのラッチ回路５
0 〜５N-1 に上述のサンプリングパルスが供給され、ラ
ッチされた値が順次出力端子６に取り出される。
【００１６】また図２は多値ニューロンの構成を示す機
能ブロック図である。
能ブロック図である。
【００１７】この図において、一方の入力３１に供給さ
れた信号が減算器３２の減算入力に供給され、他方の入
力３３に供給された信号が減算器３２の被減算入力に供
給される。この減算器３２の出力が−λ以下及び＋λ以
上を判別するコンパレータ３４、３５に供給され、これ
らのコンパレータ３４、３５の出力がそれぞれアップダ
ウンカウンタ３６のアップ入力及びダウン入力に供給さ
れる。
れた信号が減算器３２の減算入力に供給され、他方の入
力３３に供給された信号が減算器３２の被減算入力に供
給される。この減算器３２の出力が−λ以下及び＋λ以
上を判別するコンパレータ３４、３５に供給され、これ
らのコンパレータ３４、３５の出力がそれぞれアップダ
ウンカウンタ３６のアップ入力及びダウン入力に供給さ
れる。
【００１８】このアップダウンカウンタ３６に任意のク
ロック信号が供給され、このアップダウンカウンタ３６
のカウント値がＤ／Ａ変換器３７に供給される。このＤ
／Ａ変換された値が×Δのアンプ３８を通じて出力値
（アナログ）として出力３９に取り出される。またアッ
プダウンカウンタ３６のカウント値が出力値（ディジタ
ル）として取り出される。
ロック信号が供給され、このアップダウンカウンタ３６
のカウント値がＤ／Ａ変換器３７に供給される。このＤ
／Ａ変換された値が×Δのアンプ３８を通じて出力値
（アナログ）として出力３９に取り出される。またアッ
プダウンカウンタ３６のカウント値が出力値（ディジタ
ル）として取り出される。
【００１９】従ってこの回路において、図３に示すよう
に減算器３２の出力が−λ以下のとき出力値がΔ減少さ
れ、＋λ以上のとき出力値がΔ増加される。そして全て
の多値ニューロン３0 〜３N-1 において減算器３２の出
力が±λ以内になったときに、演算が収束される。
に減算器３２の出力が−λ以下のとき出力値がΔ減少さ
れ、＋λ以上のとき出力値がΔ増加される。そして全て
の多値ニューロン３0 〜３N-1 において減算器３２の出
力が±λ以内になったときに、演算が収束される。
【００２０】さらに上述の装置において、抵抗器４0,0
…４N-1,0 〜４N-1,0 …４N-1,N-1での重み付けは次の
ようにして定められる。
…４N-1,0 〜４N-1,0 …４N-1,N-1での重み付けは次の
ようにして定められる。
【００２１】例えば入力アナログ信号として図４に示す
ような信号の量子化を行う場合に、この信号は図５に示
すように４つの周波数の信号からなっている。そこで図
６に示すように、これらの４つの周波数を含む帯域を
１、それ以外を０としたウィンドウを定める。そしてこ
のウィンドウに対してこれをフーリエ変換することによ
って、図７に示すような重み付け（結合関数）が求めら
れる。なお図の横軸は多値ニューロン３0 〜３N-1 間の
距離（供給先の添数字から自己の添数字を差し引いた
値）である。また負の重み付けは、その抵抗器４0,0 …
４N-1,0 〜４N-1,0…４N-1,N-1 を多値ニューロン３0
〜３N-1 の一方の入力３１側に接続することによって実
現される。これによって抵抗器４0,0 …４N-1,0 〜４
N-1,0 …４N-1, N-1 の重み付けが定められ、入力アナロ
グ信号の量子化が行われる。
ような信号の量子化を行う場合に、この信号は図５に示
すように４つの周波数の信号からなっている。そこで図
６に示すように、これらの４つの周波数を含む帯域を
１、それ以外を０としたウィンドウを定める。そしてこ
のウィンドウに対してこれをフーリエ変換することによ
って、図７に示すような重み付け（結合関数）が求めら
れる。なお図の横軸は多値ニューロン３0 〜３N-1 間の
距離（供給先の添数字から自己の添数字を差し引いた
値）である。また負の重み付けは、その抵抗器４0,0 …
４N-1,0 〜４N-1,0…４N-1,N-1 を多値ニューロン３0
〜３N-1 の一方の入力３１側に接続することによって実
現される。これによって抵抗器４0,0 …４N-1,0 〜４
N-1,0 …４N-1, N-1 の重み付けが定められ、入力アナロ
グ信号の量子化が行われる。
【００２２】なお上述の入力アナログ信号の量子化を行
った場合に、従来のＡ／Ｄ変換では図８に示すようにな
り、これをＤ／Ａ変換してスペクトラムを求めると図９
に示すように全体にＡ／Ｄ変換によるノイズが発生して
いる。これに対して、上述の装置で量子化を行うと量子
化の値は図１０に示すように、元の波形からは大幅に変
形されたものになる。しかしこれをＤ／Ａ変換してスペ
クトラムを求めると図１１に示すようになり、元の４つ
の周波数が得られると共に、ウィンドウを定めた帯域の
ノイズが低減されている。なお図１２はウィンドウの全
帯域に対する割合に応じたウィンドウ内のノイズパワー
の低減の様子を示したもので、例えばウィンドウの幅を
全体の１／８にした場合には、ノイズパワーを０．１程
度に低減させることができる。また１／２でも０．３５
程度の低減の効果がある。
った場合に、従来のＡ／Ｄ変換では図８に示すようにな
り、これをＤ／Ａ変換してスペクトラムを求めると図９
に示すように全体にＡ／Ｄ変換によるノイズが発生して
いる。これに対して、上述の装置で量子化を行うと量子
化の値は図１０に示すように、元の波形からは大幅に変
形されたものになる。しかしこれをＤ／Ａ変換してスペ
クトラムを求めると図１１に示すようになり、元の４つ
の周波数が得られると共に、ウィンドウを定めた帯域の
ノイズが低減されている。なお図１２はウィンドウの全
帯域に対する割合に応じたウィンドウ内のノイズパワー
の低減の様子を示したもので、例えばウィンドウの幅を
全体の１／８にした場合には、ノイズパワーを０．１程
度に低減させることができる。また１／２でも０．３５
程度の低減の効果がある。
【００２３】こうして入力端子１に供給された入力アナ
ログ信号が量子化されて出力端子６に取り出される訳で
あるが、上述の装置によればＤ／Ａ変換した際にウィン
ドウとして定めた帯域のノイズが低減され、極めて良好
な量子化を行うことができる。
ログ信号が量子化されて出力端子６に取り出される訳で
あるが、上述の装置によればＤ／Ａ変換した際にウィン
ドウとして定めた帯域のノイズが低減され、極めて良好
な量子化を行うことができる。
【００２４】すなわち上述の装置において、入力信号を
ｇ(t) 、これを充分に高いサンプリング周波数でサンプ
リングした結果をｇ(n) （ｎ＝０、１……Ｎ−１）とす
る。なおｇ(n) はサンプルホールド回路に蓄えられたア
ナログ信号、あるいは高精度のＡ／Ｄ変換器により充分
な精度で量子化されたディジタル信号であってもよい。
ｇ(t) 、これを充分に高いサンプリング周波数でサンプ
リングした結果をｇ(n) （ｎ＝０、１……Ｎ−１）とす
る。なおｇ(n) はサンプルホールド回路に蓄えられたア
ナログ信号、あるいは高精度のＡ／Ｄ変換器により充分
な精度で量子化されたディジタル信号であってもよい。
【００２５】これに対して、量子化された信号をｂ(n)
とする。但しｂ(n) は、−Ｍから＋Ｍまでの２Ｍ種の離
散的な値しか取ることができないものである。
とする。但しｂ(n) は、−Ｍから＋Ｍまでの２Ｍ種の離
散的な値しか取ることができないものである。
【００２６】ここで装置に要求されているのは、上述の
オリジナルの信号ｇ(n) と信号ｂ(n) との差が、周波数
ウィンドウＷ(k) を掛けた後で観察すると最も小さくな
るように、信号ｂ(n) を定めることである。
オリジナルの信号ｇ(n) と信号ｂ(n) との差が、周波数
ウィンドウＷ(k) を掛けた後で観察すると最も小さくな
るように、信号ｂ(n) を定めることである。
【００２７】そこで装置で定まるスケーリング・ファク
タをαとして、エネルギー関数Ｅを定義すると、
タをαとして、エネルギー関数Ｅを定義すると、
【数１】 となり、このエネルギー関数Ｅが最小になるようにｂ
(n) を設定する問題であると言い換えることができる。
なおＧ(k) 、Ｂ(k) はそれぞれｇ(n) 、ｂ(n) のフーリ
エ変換である。
(n) を設定する問題であると言い換えることができる。
なおＧ(k) 、Ｂ(k) はそれぞれｇ(n) 、ｂ(n) のフーリ
エ変換である。
【００２８】またＷ(k) はノイズを除去したい周波数領
域を指定するウィンドウ関数であって、例えば
域を指定するウィンドウ関数であって、例えば
【数２】 としてＷ(k) の値を定めることができる。
【００２９】一方、パーセバルの定理により、〔数１〕
を時間領域での定義に変換すると、Ｗ(k) のフーリエ変
換をｗ(n) と置いて、
を時間領域での定義に変換すると、Ｗ(k) のフーリエ変
換をｗ(n) と置いて、
【数３】 となる。
【００３０】また〔∧：ｇ〕(n) （〔○：□〕は○□が
上下に表記されるものとする）をｇ(n) とウィンドウ関
数とのコンボリューションを表すものと定義すると、
上下に表記されるものとする）をｇ(n) とウィンドウ関
数とのコンボリューションを表すものと定義すると、
【数４】 となる。
【００３１】これにより
【数５】 となる。なおＣはｂ(n) の取り方に無関係な部分をまと
めたものである。
めたものである。
【００３２】さらに積分順序及び変数名を交換して、
【数６】 となる。
【００３３】ここで
【数７】 とおく。
【００３４】なおここでＰ(m,n) はウィンドウ関数の自
己相関関数にスケーリング・ファクタαを乗じたもので
あって、スケーリング・ファクタαは常に正であること
及び自己相関関数の性質から、 Ｐ(n,n) ≦０ Ｐ(m,n) ＝Ｐ(n,m) の関係が得られる。
己相関関数にスケーリング・ファクタαを乗じたもので
あって、スケーリング・ファクタαは常に正であること
及び自己相関関数の性質から、 Ｐ(n,n) ≦０ Ｐ(m,n) ＝Ｐ(n,m) の関係が得られる。
【００３５】さらに〔数７〕の関係を〔数６〕に代入す
ると、
ると、
【数８】 となる。
【００３６】ここでＣの部分は最小化には関係ないの
で、結局
で、結局
【数９】 が最小になるようにｂ(n) を定めればよい。
【００３７】これを多値ニューロンを用いた多値ニュー
ラル・ネットワークで実現するものである。
ラル・ネットワークで実現するものである。
【００３８】すなわち上述の装置において、各ニューロ
ンは−Ｍから＋Ｍまでの離散的な値を出力することが可
能で、互いに重み付けＰ(m,n) で結合されて多値ニュー
ラル・ネットワークを構成している。
ンは−Ｍから＋Ｍまでの離散的な値を出力することが可
能で、互いに重み付けＰ(m,n) で結合されて多値ニュー
ラル・ネットワークを構成している。
【００３９】ここで、ｋ番目のニューロンの入力ｕ(k)
は、ネットワークからの入力の総和と、各ニューロン特
有の閾値ｓ(k) によって、
は、ネットワークからの入力の総和と、各ニューロン特
有の閾値ｓ(k) によって、
【数１０】 で与えられ、上述の第３図に示したように、ｕ(k) の値
が不感帯λよりも大きければ、ニューロンはその出力を
Δだけ変化させる。
が不感帯λよりも大きければ、ニューロンはその出力を
Δだけ変化させる。
【００４０】数学的には、時刻ｔ＋１における出力の変
化は、
化は、
【数１１】 と表すことができる。
【００４１】ここで変化のステップΔ及び不感帯の幅λ
は、
は、
【数１２】 によって定められる。
【００４２】但し、各ニューロンの出力は−Ｍから＋Ｍ
までの値で飽和してしまうので、実際のｋ番目のニュー
ロンの時刻ｔ＋１における出力は、
までの値で飽和してしまうので、実際のｋ番目のニュー
ロンの時刻ｔ＋１における出力は、
【数１３】 となる。
【００４３】さらに以上のように定義された多値ニュー
ラル・ネットワークが、エネルギーＥ′を低下させるよ
うに動作することを証明する。
ラル・ネットワークが、エネルギーＥ′を低下させるよ
うに動作することを証明する。
【００４４】まず時刻ｔにおけるエネルギーは、
【数１４】 である。
【００４５】これに対し、時刻ｔ＋１においてｋ番目の
ニューロンがその出力を上述の定義に従って変化させた
とする。すなわち、
ニューロンがその出力を上述の定義に従って変化させた
とする。すなわち、
【数１５】 とする。
【００４６】このとき自己相関関数の特徴であるＰ(m,
n) ＝Ｐ(n,m) を使って、時刻ｔ＋１におけるエネルギ
ーを求めると、
n) ＝Ｐ(n,m) を使って、時刻ｔ＋１におけるエネルギ
ーを求めると、
【数１６】 となる。
【００４７】従って時刻ｔ＋１と時刻ｔとのエネルギー
の差は、
の差は、
【数１７】 となる。
【００４８】ここでΔ＝０であった場合には、エネルギ
ーが変化しないことは明らかであるので、Δ＝１または
Δ＝−１であった場合に関してエネルギーの変化を求め
る。そこでΔ＝１とすると、〔数１０〕より
ーが変化しないことは明らかであるので、Δ＝１または
Δ＝−１であった場合に関してエネルギーの変化を求め
る。そこでΔ＝１とすると、〔数１０〕より
【数１８】 である。
【００４９】この関係を〔数１７〕に代入して、
【数１９】 となり、結局、 Ｅ′(t+1) −Ｅ′(t) ＜０ となる。
【００５０】またΔ＝−１であった場合にも全く同様に
して証明することが可能で、すなわちこの多値ニューラ
ル・ネットワークは常にエネルギーを低下させるように
動作することが証明される。従って上述の装置におい
て、Ｎ個の多値ニューロンに初期値として適当な値を入
れ、ネットワークを動作させることにより、このネット
ワークは求めるｂ(n) へ収束して行くことになる。
して証明することが可能で、すなわちこの多値ニューラ
ル・ネットワークは常にエネルギーを低下させるように
動作することが証明される。従って上述の装置におい
て、Ｎ個の多値ニューロンに初期値として適当な値を入
れ、ネットワークを動作させることにより、このネット
ワークは求めるｂ(n) へ収束して行くことになる。
【００５１】なお以上の説明は、入力アナログ信号とし
て、例えば音声信号のような１次元の信号について行っ
たが、装置を２次元に拡張することによって画像の処理
にも応用することができる。
て、例えば音声信号のような１次元の信号について行っ
たが、装置を２次元に拡張することによって画像の処理
にも応用することができる。
【００５２】すなわち本発明は量子化装置に関し、サン
プリングされた入力アナログ信号がそれぞれ多値ニュー
ロンに供給されると共に、これらの多値ニューロンの出
力値がそれぞれアナログ化されウィンドウに応じた所定
の重み付けで自己及び他の多値ニューロンに帰還される
ように構成され、これらの帰還された値とサンプリング
された入力アナログ信号とが比較され、この比較結果に
応じて多値ニューロンの出力値が改定され、比較結果が
所定の範囲内に収束したときの多値ニューロンの出力値
が取り出されることによって入力アナログ信号の量子化
が行われるものであって、ウィンドウ内のノイズパワー
を良好に低下させることができるようにしたものであ
る。
プリングされた入力アナログ信号がそれぞれ多値ニュー
ロンに供給されると共に、これらの多値ニューロンの出
力値がそれぞれアナログ化されウィンドウに応じた所定
の重み付けで自己及び他の多値ニューロンに帰還される
ように構成され、これらの帰還された値とサンプリング
された入力アナログ信号とが比較され、この比較結果に
応じて多値ニューロンの出力値が改定され、比較結果が
所定の範囲内に収束したときの多値ニューロンの出力値
が取り出されることによって入力アナログ信号の量子化
が行われるものであって、ウィンドウ内のノイズパワー
を良好に低下させることができるようにしたものであ
る。
【００５３】
【発明の効果】この発明によれば、新規な多値ニューラ
ルネットワークの概念を用いて処理を行うことにより、
アナログ信号の量子化が良好に行われるようにすること
ができるようになった。
ルネットワークの概念を用いて処理を行うことにより、
アナログ信号の量子化が良好に行われるようにすること
ができるようになった。
【図１】装置の全体の構成を示す機能ブロック図であ
る。
る。
【図２】多値ニューロンの構成を示す機能ブロック図で
ある。
ある。
【図３】多値ニューロンの説明に用いる線図である。
【図４】実験に用いた入力アナログ信号の波形図であ
る。
る。
【図５】その周波数スペクトラムを示す図である。
【図６】実験に用いたウィンドウを示す図である。
【図７】ウィンドウから求めた重み付け関数を示す図で
ある。
ある。
【図８】Ａ／Ｄ変換による量子化の値を示す図である。
【図９】その周波数スペクトラムを示す図である。
【図１０】本発明による量子化の値を示す図である。
【図１１】その周波数スペクトラムを示す図である。
【図１２】ノイズパワーの変化を示す図である。
１ アナログ信号の入力端子 ２0 〜２N-1 サンプリング手段 ３0 〜３N-1 多値ニューロン ４0,0 …４N-1,0 〜４N-1,0 …４N-1,N-1 重み付け用
の抵抗器 ５0 〜５N-1 ラッチ回路 ６ 出力端子
の抵抗器 ５0 〜５N-1 ラッチ回路 ６ 出力端子
───────────────────────────────────────────────────── フロントページの続き (72)発明者 小林 誠治 東京都品川区北品川６丁目７番35号 ソニ ー株式会社内 (72)発明者 デメトリ・ソルティス アメリカ合衆国 カリフォルニア州 91125 パサデナ イースト カリフォル ニア ブールヴァード 1201 カリフォル ニア インスティテュート オブ テクノ ロジー内
Claims (6)
- 【請求項１】 ニューラルネットワーク量子化装置にお
いて、 複数の多値ニューロンを有し、 それぞれサンプリングされた入力アナログ信号を上記多
値ニューロンのそれぞれに供給する手段と、 上記多値ニューロンの出力値をアナログ値に変換する手
段と、 上記入力アナログ信号を構成する少なくとも一つの周波
数の周波数帯に従って相互に有効に決定される重み付け
によって上記アナログ値に対して重み付けを行う手段
と、 これらの重み付けされたアナログ値のそれぞれを上記多
値ニューロンのそれぞれから全ての上記多値ニューロン
に帰還する手段と、 これらの帰還された上記重み付けされたアナログ値と上
記サンプリングされた入力アナログ信号のそれぞれとを
比較して一致する比較結果を供給する手段と、 この比較結果に応じて上記多値ニューロンの出力値を改
定する手段とが設けられ、 上記比較結果が所定の範囲内に収束したときの上記多値
ニューロンの出力値を取り出すことによって上記入力ア
ナログ信号の量子化が行われるようにしたニューラルネ
ットワーク量子化装置。 - 【請求項２】 それぞれの周波数を有する少なくとも一
つの構成信号からなるアナログ信号を量子化するニュー
ラルネットワーク量子化装置において、 上記アナログ信号を受信すると共にサンプリングしてそ
れぞれのサンプリングされたアナログ信号を形成する複
数のサンプリング手段と、 それぞれの上記構成信号の上記それぞれの周波数を含む
周波数帯の中に存在する処理信号によって得られる相互
に有効な重み付けによって複数のそれぞれ重み付けされ
たアナログ信号を形成する重み付け手段と、 上記重み付けされたアナログ信号と上記サンプリングさ
れたアナログ信号を比較して比較信号を形成する比較手
段と、それぞれの出力信号を形成するようにこの比較信
号を処理する手段と、それぞれの出力信号を他の多値ニ
ューロンからの出力信号と共に上記それぞれの重み付け
されたアナログ信号を形成するように上記重み付け手段
に供給するための出力アナログ信号に変換する手段とを
有して、それぞれの出力信号を発生する複数の多値ニュ
ーロンと、 上記比較結果が所定の範囲内に存在する量に収束したと
きに上記多値ニューロンの出力信号から量子化されたア
ナログ信号を得る手段とが設けられてなるニューラルネ
ットワーク量子化装置。 - 【請求項３】 それぞれの上記変換する手段からのそれ
ぞれの出力信号が上記重み付け手段を通じてそれぞれ重
み付けされたアナログ信号を形成して上記多値ニューロ
ンのそれぞれに帰還されると共に、他の残りの上記多値
ニューロンに帰還されるようにした請求項２に記載のニ
ューラルネットワーク量子化装置。 - 【請求項４】 上記量子化されたアナログ信号を得る手
段には、上記出力信号をラッチし、サンプリングパルス
に従ってラッチされた出力信号を供給する複数の手段を
含むようにした請求項３に記載のニューラルネットワー
ク量子化装置。 - 【請求項５】 上記比較手段には、それぞれの重み付け
されたアナログ信号からそれぞれのサンプリングされた
アナログ信号を減算する減算手段を含むようにした請求
項３に記載のニューラルネットワーク量子化装置。 - 【請求項６】 上記比較信号を処理する手段には、それ
ぞれの出力信号を増幅及び減衰するためのアップダウン
カウンタを含むようにした請求項３に記載のニューラル
ネットワーク量子化装置。
Applications Claiming Priority (2)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| US07/744,115 US5157399A (en) | 1991-08-15 | 1991-08-15 | Neural network quantizer |
| US744115 | 1996-11-05 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH05335948A true JPH05335948A (ja) | 1993-12-17 |
Family
ID=24991492
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP4116255A Pending JPH05335948A (ja) | 1991-08-15 | 1992-05-08 | ニューラルネットワーク量子化装置 |
Country Status (4)
| Country | Link |
|---|---|
| US (1) | US5157399A (ja) |
| EP (1) | EP0528511B1 (ja) |
| JP (1) | JPH05335948A (ja) |
| DE (1) | DE69225931T2 (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013090298A (ja) * | 2011-10-21 | 2013-05-13 | Fujitsu Ltd | 半導体集積回路、閾値設定方法、及び通信装置 |
Families Citing this family (9)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US5636327A (en) * | 1991-09-18 | 1997-06-03 | Matsushita Electric Industrial Co., Ltd. | Neural network circuit |
| US5479169A (en) * | 1994-06-07 | 1995-12-26 | Louisiana Simchip Technologies, Inc. | Multiple neural network analog to digital converter for simultaneously processing multiple samples |
| KR0139154B1 (ko) * | 1994-07-08 | 1998-06-15 | 김광호 | 신경망을 이용한 부호화방법 및 그 장치 |
| KR20180136202A (ko) * | 2017-06-14 | 2018-12-24 | 에스케이하이닉스 주식회사 | 컨볼루션 신경망 및 컨볼루션 신경망을 가진 신경망 시스템 |
| WO2019076095A1 (zh) * | 2017-10-20 | 2019-04-25 | 上海寒武纪信息科技有限公司 | 处理方法及装置 |
| KR102434729B1 (ko) * | 2017-10-20 | 2022-08-19 | 상하이 캠브리콘 인포메이션 테크놀로지 컴퍼니 리미티드 | 처리방법 및 장치 |
| US10657439B2 (en) | 2017-10-24 | 2020-05-19 | Shanghai Cambricon Information Technology Co., Ltd | Processing method and device, operation method and device |
| CN111753975B (zh) * | 2020-07-01 | 2024-03-05 | 复旦大学 | 一种面向物联网的自然模拟信号的类脑处理方法 |
| KR102911856B1 (ko) | 2021-02-08 | 2026-01-15 | 삼성전자주식회사 | 프로세서, 프로세서의 동작 방법 및 이를 포함한 전자 장치 |
Family Cites Families (2)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| US4926180A (en) * | 1988-03-25 | 1990-05-15 | Trustees Of Columbia University In The City Of New York | Analog to digital conversion using correlated quantization and collective optimization |
| US4965579A (en) * | 1988-11-28 | 1990-10-23 | The Board Of Governors Of Wayne State University | N-bit A/D converter utilizing N comparators |
-
1991
- 1991-08-15 US US07/744,115 patent/US5157399A/en not_active Expired - Lifetime
-
1992
- 1992-04-23 EP EP92303634A patent/EP0528511B1/en not_active Expired - Lifetime
- 1992-04-23 DE DE69225931T patent/DE69225931T2/de not_active Expired - Lifetime
- 1992-05-08 JP JP4116255A patent/JPH05335948A/ja active Pending
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2013090298A (ja) * | 2011-10-21 | 2013-05-13 | Fujitsu Ltd | 半導体集積回路、閾値設定方法、及び通信装置 |
Also Published As
| Publication number | Publication date |
|---|---|
| EP0528511A3 (ja) | 1994-08-31 |
| EP0528511B1 (en) | 1998-06-17 |
| US5157399A (en) | 1992-10-20 |
| DE69225931D1 (de) | 1998-07-23 |
| EP0528511A2 (en) | 1993-02-24 |
| DE69225931T2 (de) | 1998-10-15 |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| McDonald | Signal-to-noise and idle channel performance of differential pulse code modulation systems–particular applications to voice signals | |
| DE112005000786B4 (de) | Verfahren und System zur Analog-zu-Digital-Wandlung unter Verwendung digitaler Pulsbreitenmodulation (PWM) | |
| JPH05335948A (ja) | ニューラルネットワーク量子化装置 | |
| JP2643593B2 (ja) | 音声・モデム信号識別回路 | |
| DE4330243A1 (de) | Sprachverarbeitungseinrichtung | |
| DE69213063T2 (de) | Sigma-Delta Digital/Analog Wandlersystem mit reduziertem Quantisierungsgeräusch | |
| US4809331A (en) | Apparatus and methods for speech analysis | |
| Cheng et al. | CRB analysis for Mod-ADC with known folding-count | |
| Bidegaray-Fesquet et al. | Levels, peaks, slopes… which sampling for which purpose? | |
| JPH07162312A (ja) | ノイズシェイパ | |
| US6255968B1 (en) | Data compression method and apparatus | |
| DE102014117457A1 (de) | Stochastische codierung bei analog-digital-umsetzung | |
| US20040263375A1 (en) | Continuous-time digital signal generation, transmission, storage and processing | |
| JPH114166A (ja) | 逐次比較型ａ／ｄ変換器 | |
| Francesconi et al. | A low power logarithmic A/D converter | |
| Levy | A propagation analysis of residual distributions in pipeline ADCs | |
| DE3212103C2 (ja) | ||
| CA2298833A1 (en) | Method and apparatus for noise floor estimation | |
| JP2002049399A (ja) | ディジタル信号処理方法、学習方法及びそれらの装置並びにプログラム格納媒体 | |
| True et al. | Implementation of an AI-based Compression Method for Current Waveforms of Partial Discharges in AC and DC High Voltage Systems | |
| RU2821216C1 (ru) | Способ определения наличия в сигнале гармоник, длительность которых превышает установленное значение | |
| JPS6037658B2 (ja) | 時系列波形符号化装置 | |
| KR100468817B1 (ko) | 잡음 처리 기능을 갖춘 음성 인식 장치 및 음성 인식 방법 | |
| JPH0774646A (ja) | △σモジュレーター | |
| Atlas et al. | Complex Clipping for Improved Generalization in Machine Learning |