JPH02189671A - 感度調節機能付き神経疑似素子 - Google Patents

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 産業上の利用分野 この発明は、′神経回路網”にエーラルネット）を構成
する素子、すなわち、神経疑似素子であって、入力信号
の総和の強度に対する感度調節が可能な機能を備えた同
素子に関し、とりわけ、抵抗結合によって入力信号の総
和を求める方式の神経回路網を実現するだめの感度調節
機能付き神経疑似素子に関するものである。

従来の技術 近年、従来の逐次処理型のコンピュータとは異なる原理
による情報処理が試みられており、その一つが、上記神
経回路網と呼ばれる超並列処理回路網である。この神経
回路網には、オペアンプを使用したもの、ＭＰＵ　（マ
イクロプロセッサ−ユニット）を多数組み合わせたもの
などが存在している。この場合、個々の入力信号には重
み付けを行ってその総和を求め、得られた総和に基づい
て次に送る出力信号を得るようにしているが、この総和
を求めるためには、抵抗結合によるもの、ＲＡＭ（ラン
ダムアクセスメモリー）に重み付けの値をメモリーさせ
て行うものなどが考え出されている。

たとえば、ジョン・ジエイ・ホブフィールド（Ｊｏｈｎ
　Ｊ、Ｈｏｐｆｉｅｌｄ）およびデビット・ダブリュー
・タンク（Ｄａｖｉｄ　Ｗ、Ｔａｎｋ）により提案され
た神経回路網は、巡回セールスマン問題、すなわち、複
数の都市をすべて１回ずつ訪れるための最短経路を求め
る問題に対し、一つの解法を与えたことで注目されてい
る。

上記ホブフィールドらのモデルによる１個の神経素子の
構造（回路）は、第４図のように考えられる。すなわち
、この回路は、信号入力手段１゜感度調節手段２．およ
びオペアンプ等の信号処理手段（あるいは後部増幅素子
）３を備えており、上記信号入力手段１において、素子
への複数の入力電位（Ｘｊ）信号を、個々の重み付け（
ＷｉＤのために、抵抗Ｒ１ｊを通したのち結合させるよ
うにしている。そして、同抵抗結合により生じた総和電
位：口Ｗｉｊ　ｘ　Ｘｊ を、上記感度調節手段２により線形的に調節したのち、
得られた電位ダを信号処理手段３の入力電位とし、最終
的に、出力Ｚｉ： Ｚｉ＝　ｆ　（ｐｉ　Ｗｉｊ　ｘ　Ｘｊ　−ｈ　）が得
られるようになっている。この最終出力Ｚｉは、次の素
子に対する複数の入力電位（ＸＤの一つとなる。なお、
この場合、上記Ｚｉのうちのｚｉ４−ｆ（−ｈ）の機能
は、オペアンプ以降の回路構成で実現させている。また
、Ｗｉｊ（Ｑとするためには、−ｚｊを入力すればよく
、その際、オペアンプの利点として、十と−の出力が得
られる点を活かしている。

このように、ホブフィールドらのモデルでは、ある素子
の入力Ｘｊに他の素子の出力Ｚｊを用いており、回路の
出力電位がダイナミカルに変化していって、安定解にた
どりつくまで動作を繰り返すようになっている。

上記モデルは、エネルギー関数Ｅを定義することができ
る。以下に、Ｅが極小値に向かう傾向を統計的に示す。

Ｅ＝　−０，５ｘＤＷｉｊｘＸｉｘＸｊ　−ｈｐｘｉこ
のことが、神経回路網の統計的挙動を考えるのに有効な
“物理”量を提出して、着目すべき量を明快にしだので
ある〔ホブフィールド、タンク（Ｈｏｐｆｉｅｌｄ　＆
　Ｔａｎｋ）、　ｆ”神経回路を使ったコンビニ−タモ
デル」日経マイクロデバイス１９８７年４月号参照〕。

発明が解決しようとする課題 上記モデルをさらに発展させていくことを考えたとぎ、
ＷｉｊＯ値が何らかの学習により変化できることが望ま
れる。そのためには、たとえば、可変の抵抗素子を用い
ることが考えられる。このためには、たとえば、いくつ
かの抵抗をマルチプレクサを用いて切り換えて読み取り
電位を変える構成が考えられるし、他にも、スイソチド
・レジスター回路を利用した可変抵抗が試作されている
（秋山泰ら）。いずれにしても、実在の素子を用いる限
り、Ｗｉｊはある有限の最大値と最小値を有するように
なる。

一方、神経回路網の学習理論では、通常、Ｗｉｊに何ら
上限下限を設定していない。このことは、実用に際し、
ある入力信号が微弱ではあるが出力を判断するために重
要な信号である場合に、その意味ある信号に対して充分
に大きな重み付けを与えることができずに、この重要な
信号を拾いきれなくなる危険性を孕んでいる。したがっ
て、そのような危険を生じさせないためには、入力信号
を前処理しておくか、あるいは、入力信号の強度に対し
感度調節ができる回路構成の神経素子を作る必要がある
。

これに対し、生体の感覚認識においては、つ工−バ（Ｗ
ｅｂｅｒ）の法則が成り立ち、扱いうる入力信号の強度
範囲が広くなっている。これは、興奮の強度が信号の対
数関数に比例するようになっているためであるが、上記
ホブフィールドらのモデルにおいて、単純に、 ｐｉＷｆｊｘＸｊ を線形に扱い、そのままオペアンプなどの入力信号とし
た場合は、オペアンプに対し、広い電圧範囲において高
いリニアリティーを要求することになる。と同時に、広
範囲でＷｉｊが変化しきれることが必要とされることに
もなるのである。

ところが、以下の理由により、Ｗｉｊを広範囲で変化さ
せることは実現されていない。すなわち、上述の第４図
にみるように、ホブフィールドらのモデルによれば、オ
ペアンプの入力電位φは、下式％式％） （１／ｒ＋ｐｉ　（１／Ｒｉｊ）　） で示される（Ｒｉｊ：それぞれの入力電位Ｘｊに対する
重み付けのための抵抗値、ｒ：感度調節用固定抵抗値）
。ここで、入力電位φは、Ｄ　ｉ　Ｗｉｊ　Ｘ　Ｘｊに
比例しているので、定数倍除いて同じと見なすことがで
きるため、 Ｗｉｊ　ｌ　＝　１　／Ｒｉｊ と仮定できることとする。この両者の関係から、ある有
限の範囲内で抵抗値Ｒ１ｊが変化したときの結合の重み
付けＷｉｊの変化しうる幅は、非常に狭いものになって
しまう。そのため、信号のレベルが桁違いになった時に
、そのままオペアンプの入力レベルが桁違いになってし
まい、オペアンプがそれに追随できずに素子は充分に機
能しないことになるのである。

以上の事情に鑑み、この発明は、有限の値でしか変化で
きない抵抗値により結合の重み付けの変化しうる幅が少
なくなることで、信号のレベルが桁違いに変化した時に
その変化を素子が拾いきれなくなることを防ぎ、入力信
号が桁違いであっても、充分に扱いやすい範囲の出力信
号が得られるような感度調節機能を備えた、感度調節機
能付き神経疑似素子を提供することを課題とする。

課題を解決するための手段 上記課題を解決するためζ発明者は、生体で行われてい
る、信号強度に対する広範囲での処理を可能としている
機能、すなわち、上記ウェーバの法則に相当する機能を
、神経疑似素子に持ち込むことを検討し、非線形抵抗を
用いることにより、後部増幅素子への入力電位を調節す
ることの有効性を見出して、この発明を完成させるに至
った。

したがって、この発明にかかる感度調節機能付き神経疑
似素子は、個々に重み付けがなされた複数の入力信号の
総和を出す信号入力手段と、同信号入力手段から出され
た信号を非線形的に調節する感度調節手段とを備え、同
手段により感度調節された信号をもとに出力信号を出す
ようになっている。

上記複数の入力信号の重み付けの総和をとるためには、
たとえば、抵抗結合を用いることができる。

作用 上述のように、第４図に示した、非線形抵抗を用いない
（固定抵抗ｒを用いた）構成における回路特性では、 Ｚｉ＝　ｆ　（ｐｉＷｉｊｘＸｊ　−ｈ）φ＝　（ｐｉ
Ｘｊ／Ｒｉｊ）　／ （１／ｒ＋ｐｉ　（ｔ／Ｒｉｊ）） と示され、鎖はｐｉ　ＷｉｊｘＸｊに比例している。

他方、この発明にかかる感度調節機能付き神経疑似素子
は、第１図にみるように、感度調節手段２において非線
形対抗ｒ′を用いた回路構成になっている。ここで、後
部増幅素子３への入力電位をφ′とすると、 Ｚｉ　　＝　ｆ　　（：Ｏｉ　Ｗ’１ｊｘＸｊ−ｈ）１
２１’　＝　（Ｘ：ｌ：ｉ　Ｘｊ／Ｒ１Ｄ／（１７ｒ’
　＋ｐｉ　（１／ＲｉＤ） となる。すなわち、ｒ′は定数ではなく、ｒ′にがかる
電圧によって変化するため、φ′は、もはやＤｉ　Ｗ’
　ｉｊ　ｘ　Ｘｊに比例しなくなっている。しかし、上
記ホブフィールドモデルでのｆ（−ｈ）の代わりに別の
ｆ′（−ｈ′）を用いて記述すれば、ホブフィールドモ
デルでの素子との対応を損なうものではない。換言する
と、ｆ（−ｈ）の形を変えたという以外の理論上の変更
は存在しないのである。そして、ウェーバの法則と類似
した振舞いというのは、このｆ（−ｈ）の形を変えたと
いう点に集約される。

以上のことから、この発明にかかる感度調節機能付き神
経疑似素子は、ホブフィールドモデルとの数学的対応を
保ちながら、抵抗値を可変にして拡張されたホブフィー
ルドモデルを作ろうとする場合に生じうる問題点、すな
わち、信号の重み付は総和をとるときの重み付けの可変
性への要求の一部を、非線形抵抗に肩代わりさせ、重み
付けの可変性の条件を緩和することができる。

実施例 以下に、図面を参照しつつ、この発明の詳細な説明する
。

第１図にみるように、この発明にかかる感度調節機能付
き神経疑似素子は、信号入力手段１、感度調節手段２、
および信号処理手段３を備えており、以下に示すように
入力信号が処理される。

まず、上記信号入力手段１において、複数の入力信号に
対し個々に重み付けがなされ、それらの総和が出力され
る。ここで、この重み付けの総和をとるために、同図に
みるように、可変抵抗Ｒ１ｊによる抵抗結合が用いられ
ることが好ましいが、これに限定されることはない。

次に、上記感度調節手段２において、上記信号入力手段
からの出力信号が非線形的に調節され、信号処理手段３
への入力信号φ′が得られる。同感度調節手段２として
は、たとえば、同図にみるように、重み付けに対応する
可変抵抗Ｒ１ｊと直列につながれた非線形抵抗ｒ′を用
い、その中点から電位を得るようにすることができる。

この非線形抵抗ｒ′としては、たとえば、金属フタロシ
アニン蒸着膜等を好ましく使用できるが、非線形的な電
流電圧特性が得られるものであればよく、これに限定さ
れることはない。

上記感度調節手段２において感度調節がなされた信号φ
′は、信号処理手段３へ入力される。この信号処理手段
３としては、たとえば、オペアンプやＣＭＯ３（シーモ
ス）等を用いて構成される後部増幅素子が利用できる。

これらの後部増幅素子は、入力インピーダンスが極めて
犬ぎいため、この後部増幅素子をつなぐことにより入力
電位が変化することはない。最終的に得られる出力信号
Ｚｉは、通常、Ｏかも１の間の連続電位もしくは０゜１
の離散電位として検知されるが、その他、たとえば３値
以上の階段的な信号として出力されてもよく、特に限定
されることはない。

ここで、上記信号入力手段１における可変抵抗Ｒ１ｊの
値は、学巡の方法〔たとえばヘプ（Ｈｅｂｂ）の学習則
、誤り訂正学習、相関学習等〕によって決まるものであ
り、入力の電圧刈自体によっては変動しない。一方、上
記感度調節手段２として、非線形の電圧電流特定を持つ
非線形抵抗ｒ′が用いられていると、以下に示すように
、信号処理手段３への入力電位にウェーバの法則に似た
振る舞いをさせることができる。

すなわち、非線形抵抗ｒ′は、たとえば、第２図に示さ
れたように、 Ｉ＝ＡＸＶ　　（Ｐ＞１） 〔ただし、■：電圧、■＝電流、Ａ：比例定数〕という
電圧電流特性を持つ。つまり、電位差が大きくなると抵
抗値が小さくなって、電流が流れやすくなる。したがっ
て、これを第１図に示した神経疑似素子に適用すると、
第３図にみるように、同非線形抵抗にかかる電位差（感
度調節された総和信号）が比例抵抗の場合に比べて小さ
くなるのである。ただし、正確には、上述のように、つ
工−バの法則では興奮の強度が信号の対数関数に比例し
ていることに対し、この例では信号のべぎ乗に比例して
いる。また、非線形の形が変わっても定性的な傾向は一
致する。

以上のことから、重み付けの変化が桁違いになることの
要求の一部を、非線形抵抗素子に肩代わりさせることが
でき、信号処理手段への入力信号の総和が大きくなって
も、桁違いの変化を生じにくくなるのである。

次に、この発明のさらに詳しい実施例について説明する
が、この発明が、下記一実施例に限定されるものではな
いことは言うまでもない。

実施例 信号入力手段１の重み付けとして、簡略化のだめ、可変
抵抗を固定抵抗で置き換え、信号処理手段３としてはオ
ペアンプを用い、１０本の入力線を上記固定抵抗Ｒ１ｊ
で結線し、かつ、非線形抵抗ｒ′を介して接地（ＧＮＤ
）して、第１図に示したような回路構成の感度調節機能
付き神経疑似素子を作製した。上記オペアンプとしては
、入力インピーダンスが約ＩＭΩであるＬ　Ｍ　６０７
を電源電圧±１５Ｖで用いるようにした。また、非線形
抵抗ｒ′には、鉛フタロシアニン蒸着膜の両面に電極を
設けた素子を利用した。同非線形抵抗ｒ′の電圧電流特
性を第２図に示すが、これは、Ｖ＝５　（Ｖ）で■＝０
．０２　（ｍＡ）、Ｖ＝１０（Ｖ）でＩ　＝　０．１６
　（ｍＡ）程度というように、電圧と共にコンダクタン
スＩ／Ｖが大きくなる、すなわち電圧と共に抵抗値Ｖ／
Ｉが小さくなる特性を持っており、非線形抵抗ｒ′にか
かる電圧がＩＯＶ程度の時に、Ｖ／Ｉは６３にΩの抵抗
値を示した。なお、入力信号電位はＯ〜１５Ｖとした。

上記感度調節機能付き神経疑似素子において、簡単のた
め、入力信号の重み付けの総和に相当する、ｐｉ　（Ｘ
ｊ／Ｒｉｊ）に対する、オペアンプへの入力電位φ′を
求め、結果を第３図に示す。

第３図にみるように、上記実施例の神経疑似素子は、感
度調節手段により、入力信号の重み付けの総和の１乗よ
りは低いべき乗に比例する出力信号が得られるように構
成されており、感度調節に類する機能を持たせることが
できた。

発明の効果 以上のように、この発明にかかる感度調節機能付き神経
疑似素子は、非線形的な調節が可能な感度調節手段を用
い、ホブフィールドモデルを若干変更した回路構成とな
っており、重み付けの変化の幅に対する要求を過大にす
ることなく、上記非線形的感度調節手段に肩代わりさせ
ることができる。したがって、信号のレベルが桁違いに
変化した時にその変化を素子が拾いきれなくなることを
防ぎ、入力信号が桁逸いであっても、充分に扱いやすい
範囲の出力信号が得られるようになっている。

【図面の簡単な説明】

第１図はこの発明にかかる感度調節機能付き神経疑似素
子の一実施例の構成を表す回路図、第２図は実施例で用
いた非線形抵抗の電圧電流特性を表す図、第３図は実施
例で得られた、入力電位の重み付けの総和とオペアンプ
への入力電位との関係を表す図、第４図はホブフィール
ドモデルによる従来の神経疑似素子の一構成を表す回路
図である。 １・・・信号入力手段、２・・・感度調節手段、３・・
・信号処理手段、ｒ′・・・非線形抵抗。 特許出願人　工業技術院長　飯　塚　幸　三１図 第２図 Ｏ ７５，０ ｔ　ｖ 第 図 し〜ｎ４１％＋１’；ｈｉｑ＋丁ａａ・ｘｒ第 図

Claims (2)

【特許請求の範囲】
1. （１）個々に重み付けがなされた複数の入力信号の総和
   を出す信号入力手段と、同信号入力手段から出された信
   号を非線形的に調節する感度調節手段とを備え、同手段
   により感度調節された信号をもとに出力信号を出すよう
   になっている感度調節機能付き神経疑似素子。
2. （２）複数の入力信号の重み付けの総和をとるために抵
   抗結合が用いられている請求項１記載の感度調節機能付
   き神経疑似素子。