JPH02236768A - 人工神経装置 - Google Patents

人工神経装置

Info

Publication number
JPH02236768A
JPH02236768A JP1217171A JP21717189A JPH02236768A JP H02236768 A JPH02236768 A JP H02236768A JP 1217171 A JP1217171 A JP 1217171A JP 21717189 A JP21717189 A JP 21717189A JP H02236768 A JPH02236768 A JP H02236768A
Authority
JP
Japan
Prior art keywords
stimulus
response
signal
pattern
data
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Pending
Application number
JP1217171A
Other languages
English (en)
Inventor
John G Sutherland
ジョン ジー サザーランド
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
Individual
Original Assignee
Individual
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Individual filed Critical Individual
Publication of JPH02236768A publication Critical patent/JPH02236768A/ja
Pending legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/045—Combinations of networks
    • G06N3/0455—Auto-encoder networks; Encoder-decoder networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0495—Quantised networks; Sparse networks; Compressed networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/04—Architecture, e.g. interconnection topology
    • G06N3/0499—Feedforward networks
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/09—Supervised learning
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06N—COMPUTING ARRANGEMENTS BASED ON SPECIFIC COMPUTATIONAL MODELS
    • G06N3/00—Computing arrangements based on biological models
    • G06N3/02—Neural networks
    • G06N3/08—Learning methods
    • G06N3/098—Distributed learning, e.g. federated learning
    • H—ELECTRICITY
    • H04—ELECTRIC COMMUNICATION TECHNIQUE
    • H04R—LOUDSPEAKERS, MICROPHONES, GRAMOPHONE PICK-UPS OR LIKE ACOUSTIC ELECTROMECHANICAL TRANSDUCERS; ELECTRIC HEARING AIDS; PUBLIC ADDRESS SYSTEMS
    • H04R25/00—Electric hearing aids
    • H04R25/50—Customised settings for obtaining desired overall acoustical characteristics
    • H04R25/505—Customised settings for obtaining desired overall acoustical characteristics using digital signal processing
    • H04R25/507—Customised settings for obtaining desired overall acoustical characteristics using digital signal processing implemented by neural network or fuzzy logic

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Health & Medical Sciences (AREA)
  • Computing Systems (AREA)
  • Biomedical Technology (AREA)
  • Biophysics (AREA)
  • Computational Linguistics (AREA)
  • Data Mining & Analysis (AREA)
  • Evolutionary Computation (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Molecular Biology (AREA)
  • Artificial Intelligence (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Mathematical Physics (AREA)
  • Software Systems (AREA)
  • Health & Medical Sciences (AREA)
  • Image Analysis (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Supplying Of Containers To The Packaging Station (AREA)
  • Magnetic Resonance Imaging Apparatus (AREA)
  • Electrotherapy Devices (AREA)

Abstract

(57)【要約】本公報は電子出願前の出願データであるた
め要約のデータは記録されません。

Description

【発明の詳細な説明】 (産業上の利用分野) 本発明は、人工神経装置に関するものであり、特に記憶
及び処理能力の増大された人工神経装置に関連するもの
である。
(従来の技術) 人工神経システムは生物学的ノイロン或いは、ノイロン
のグループが情報を処理する方法と匹敵する人工知性(
力)の形態を具象的に表現します.人工神経システム(
ANS)は、情報を処理・記憶する能力のあるコンピュ
ーターのハードウエアー或いは、ソフトウエアーに統合
する事も出来るであろう. ANS装置は、特定の刺激入力情報に刺激されると早急
に特定の反応を現出する事が出来るように比較的大量の
パターンを記憶する事が可能です。
Von Newsan設計及び構成プログラム方法を応
用している従来のコンピューターのハードウエアー/ソ
フトウエアーと異なり、ANS装置は入力パターンを直
ちに最も近接する記憶パターンに作図します。
一般に、ANS装置は次ぎの二種類に分かれます。即ち
、 (al  一方向だけに作用するモデルで、刺激反応パ
ターンは、各刺激に記憶され、ANS装置はネットワー
クを通じて、一方向に情報処理を伝播する。
(b)  両指向性のモデルで、ANS装置は両方向に
情報を処理し、刺激入力(情報)に反応して特定の反応
パターンに集中する。
先述の各技術モデルは、多大な処理段階が必要な為、或
いは要望する刺激応答動作を引き起こすのに必要な相互
作用そして限られた情報記憶能力等の為限度ある処理能
力を提示します。
更に、先述のANS装置は、パターン認識系統又は装置
に使用された場合、作図構成が割合に複雑で比較的不十
分な結果を現出します.(発明が解決しようとする課題
) そこで、本発明の目的は、先述の技術的水準を凌駕する
改良された処理能力を有する改善された人工神経システ
ムを創作する事にあります。
(発明の構成) 此処に述べる装置は、情報記憶及び処理能力に斬新な方
法を使用しており、本発明により実現された有利な点及
び操作上の特色等の大要を以下に記述します。
i)このANS装置は、同じ記憶メジューム上に複合の
刺激反応パターンを重ね合わす事を可能にし、一般に用
いられている従来のデータ記憶装置又は方法よりもはる
かに優れた情報記憶密度を創造する事が出来ます. ii)このANS装置が上記の刺激によって刺激された
時、与えられた刺激と関連する反応の解読を促進します
.この利点としては、応答が相互作用のない一つのバス
により発せられる事により実現します.第二に同一記憶
メジュームに重ね合わされる方法の結果により、どちら
か一つの記憶エレメント上で行われた解読変換は、この
記憶エレメントで表示された象徴的な形態の全情報を変
換します.故に、処理速度は現存する人工神経システム
をしのぎ大幅に増加されます。
iii )上記のANS装置は一般的に一形態をしてお
り、事実上、いかなる形態の刺激反応パターンの記号化
及び解読にも適用出来る様、属特有の様式に適用する事
が出来る。例えば、刺激反応パターンは、知覚様式物理
的パラメーター(補助変換)或いは、上記の抽象的表現
を表示する事が出来ます。ANS装置は、−tU又は複
合の組の刺激応答パターンの影響を受ける事により属特
有の様式に記号化されます。同様に、記のANS装置が
解読された刺激反応パターンと関連する刺激と類似した
刺激の影響を受ける事により、解読は属特有の様式に促
進されこのANS装置は、前述の関連反応出力の生成に
より応答します。
iv)この刺激パターンは、二進数値のみに制限される
ものでなく、又、換算法(例:対数)上のいかなる数字
基本方式による表示のみに制限されるものでもない.上
記のANS装置は定義された数値の範囲内で継続的に変
化をするエレメントを持つ上記の刺激応答パターンの記
号化及び解読を可能にします. V)与えられた範囲の刺激分野と関連している上記の刺
激反゜応パターンの大量の組の記号化及び解読にも適用
可能なように、上記ANS装置を修正する事も出来ます
.上記の刺激分野の範囲は、この刺激分野内のエレメン
ト数(情報の要素)として定義されます.この装置内の
記憶能力の増加は、必要とされるデータ記憶装置の増加
分を犠牲にして実現する事が出来ます。
vi)上記項目iii )で参照されている反応出力は
、変数規模の決定論的誤差を含んでいます。ここでいう
決定論的誤差は、反応出力内の不鮮明要素あるいは貢献
で特色ずける事が出来ます。反応出力内での上記の決定
論的誤差の蓋然性的変異度は、記号化されたANS装置
に入力された反応パターンの数と比例します。応答出力
内の決定論的誤差は、複合セットの刺激反応パターンを
上記のANS装置に記号化又は、重ね合わせる(スーパ
ーインポーズ)事を可能にするのに十分小さな規模であ
る。
vi)上記ANS装置の効率は、上記ANS装置内のデ
ータ記憶エレメント数と上記のANS装置内に抽象的形
態で記憶されている情報エレメント数との比率によって
表される。このANS装置の効率特性とは、効率は上記
刺激分野内のエレメント数(情報エレメント)と比例す
る事である. vi)上記ANS装置の機能的特性の一般的形態は、神
経生理学的システムの情報処理に関する機能的特性に類
似している。上記ANS装置は、確立されたヘップ(H
ebb)仮説に類似した形態で情報を記憶します. ヘップ仮説は一般的に認められている生物学的ノイロン
の情報記憶メカニズムを定義している,ANS装置内の
個々の処理エレメントは、生物学的ノイロン同様に、S
字状の関数関係で入力刺激を処理します。ANS装置は
神経生理学的システム同様に、刺激反応関係形式に情報
を処理します。ANS装置は、神経生理学的システム同
様、刺激反応パターンに影響される事によって刺激反応
関係を記号化あるいは記憶します.ANS装置は、神経
生理学的システム同様、入力刺激に刺激されると即時出
力反応(非相互作用メカニズム)を発する。ANS装置
は、神経生理学的システム同様、本来備わっている不鮮
明な(ファジー)メモリーあるいは不鮮明な論理を提示
します.ANS装置は神経生理学的同様、記憶、認識及
び広大な組の刺激パターンえ記号化あるいは記憶した反
応を発する能力を有します. 本発明の最も広範な特長は人工神経装置に関するもので
あり下記を包含する: 刺激反応パターンを表す抽象形式にデータを記憶・処理
するユニット;関連する刺激及び反応パターンのエレメ
ントを、ベクトル方位及びマグニチュード成分で表され
た情報と関連する複素数あるいはベクトルに翻訳する事
により、上記データ記憶・処理ユニットにデータを記号
化する装置で、エレメントが複素数あるいは上記の複合
刺激反応ハターンヲ記号化するベクトルのマトリックス
(行列)を生成し、そこで上記各々の刺激反応ノ々ター
ンは、上記記憶ユニットにスーパーインポーズ(重ね合
わせる)されるもの;上記データ記憶ユニットに記号化
されたマトリックスが刺激シグナルに刺激された時記号
化された刺激反応パターンと関連する反応を解読する上
記ユニット。
本願の他の特徴は、人工神経装置の記憶及び算定能力を
高める方法であり、下記のステップを包含する:複数セ
ットの関連刺激反応シグナルをベクトル位相角及びマグ
ニチュードで表される複素数に翻訳する事によりデータ
を記号化する:各セットの関連刺激反応シグナルの刺激
反応ノ々ターンをあらわすマトリックス(行列)を生成
し、それによって、各刺激反応はデータ記憶処理ユニッ
トにスーパーインポーズされる:この刺激シグナノレと
関連する反応シグナルを生成する為に、反応シグナルを
この記憶ユニットに記号化されている刺激反応パターン
に適用して、刺激シグナノレに関連する反応シグナルを
解読する. 本願の他の特徴は、刺激シグナルに反応して反応シグナ
ルを生成する為のパターン認識装置に関係し、下記を包
含する。:刺激シグナルを読み取りあるいは、入力する
装置:この刺激シグナルの要素をベクトル位相角又はベ
クトル方位及びマグニチュード成分で表された情報と関
連する複素数あるいはベクトルに翻訳する装置:この翻
訳された刺激シグナルを記憶する装置:各セットの翻訳
、関連刺激及び反応シグナルの刺激反応パターンを表す
マトリックスを生成及び記憶する装置で、それにより、
各刺激反応パターンをこの記憶装置にスーパーインポー
ズするもの:上記のマトリックス記憶及び解読変換を遂
行する装置が上記反応シグナルと関連する刺激シグナル
に刺激された時、反応シグナルを生成する装置: 本願の他の特徴は、人工神経装置内のパターン認識を高
める方法であり、下記のステップを包含する:刺激シグ
ナルの発生:処理装置により、この刺激シグナルをベク
トル位相角及びマグニチュ一ドで表される複素数に翻訳
する〜この翻訳された刺激シグナルを記憶装置に記憶さ
せて、上記処理装置により、刺激シグナルと関連する反
応シグナルをベクトル位相角及びマグニチュードで表さ
れる複素数に生成する:この反応シグナルを上記処理装
置で翻訳し、この翻訳された反応シグナルを上記記憶装
置に記憶させる:各セットの関連刺激・反応シグナルの
刺激反応パターンを表すマトリックスを生成し、この各
々の刺激反応パターンを上記記憶装置に記憶させる:こ
の刺激反応パターンのマトリックスが、上記反応シグナ
ルと関連する刺激シグナルにより刺激された時、反応シ
グナルを生成する。
本願の他の特徴は、視覚刺激シグナルに反応して視覚反
応シグナルを生成する視覚認ra装置に関係し、下記を
包含する:操作可能状態に活性化されると刺激シグナル
を発する視界人力装置又はカメラ:デー夕を記憶させる
記憶装W:この視覚刺激シグナルの要素を、ベクトル位
相角及びマグニチュード成分で表された情報と関連する
ベクトルに翻訳し、この翻訳されたキャラクター・ワー
ド(文字言葉)反応シグナルを上記記憶装置に記憶させ
る装置:各セットの関連視覚刺激・視覚反応シグナルの
刺激反応パターンを表すマトリックス(行列)を生成す
る変換遂行能力のある処理処置で、この各々の刺激反応
パターンを上記記憶装置にスーパーインポーズする:記
号化された刺激反応パターンの行列をアクセス(利用)
している処理処置が、上記視覚反応シグナルと関連する
上記視覚刺激シグナルに刺激された時、反応シグナルを
生成する変換遂行能力のある処理処置:複素数あるいは
ベクトルで表されたこの反応シグナルを視覚出力に変換
する装置。
本願の更に別の特徴は、視覚刺激シグナルに反応して、
人工神経装置により視覚反応を生成する方法であり、下
記のステップを包含する;ビデオ・カメラ装置を通じて
視覚刺激シグナルを発生させ、それから:ベクトル位相
角及びマグニチュードで表される複素数に翻訳し、この
翻訳された視覚反応シグナルを上記記憶装置に記憶させ
る:各セットの関連視覚刺激シグナル及び視覚反応シグ
ナル刺激反応パターンを表すマトリックスを生成及び記
憶させ、その刺激反応パターンを上記記憶装置に記憶さ
せる:この刺激反応パターンのマトリックスが上記視覚
反応シグナルと関連する上記視覚刺激シグナルに刺激さ
れた時、聴覚反応を生成する。
本願の他の特徴は、口頭による視覚刺激シグナルに反応
して、キャラクターワード(文字言葉)あるいはローマ
数字を記号化する出力シグナルを生成するスピーチ認識
装置に関係し、下記を包含する:操作可能状態に活性化
されると、視覚刺激シグナルを生成する視覚入力あるい
はマイクロホン装t:データを記憶する記憶装置:この
視覚刺激シグナルの要素をベクトル位相角及びマグニチ
ュード成分で表される関連情報を以てベクトルに翻訳す
る装置で、この翻訳された視覚刺激シグナルを上記記憶
装置に記憶させるもの:視覚刺激シグナルと関連するキ
ャラクター・ワードを読み取りあるいは入力する装置:
このキャラクター・ワード反応シグナルをベクトル位相
角及びマグニチュード成分で表される関連情報を以てベ
クトルに翻訳する装置で、この翻訳されたキャラクター
・ワード反応シグナルを上記記憶装置に記憶させるもの
:関連視覚刺激及びキャラクター・ワード反応シグナル
各セントの刺激反応パターンを表すマトリックスを生成
する変換遂行能力のある処理装置で、この各々の刺激反
応パターンを上記記憶装置にスーパーインポーズするも
の:記号化された刺激反応パタージのマトリックスをア
クセス(利用)するこの処理処置が、上記視覚反応シグ
ナルと関連する視覚刺激シグナルに刺激された時、反応
シグナルを生成する変換遂行能力のある処理処置:複素
数あるいはベクトルで表されたこの反応シグナルをキャ
ラクター・ワード表現に変換する装置。
本願の更に別の特徴は、軸方向の位置、軸方向の移動率
、視覚入力データ、触知情報その他を記号化する刺激シ
グナルに反応して軸方向の位置あるいは軸方向の移動率
を記号化する出力シグナルを生成するロボット装置に関
係しシステムは下記を包含する:位置:移動率刺激シグ
ナルを生成する位置読み取り(センシング)装置:視覚
刺激シグナルを生成する視覚入力装置:触知刺激シグナ
ルを生成する圧力センサー装置又は複数の同装置:デー
タを記憶させる記憶装W:上記の軸方向の位置、軸方向
の移動率、視覚・触知刺激シグナルの要素を、ベクトル
位相角及びマグニチュード成分で表された関連情報を以
て複素数に翻訳する装置で、この翻訳された刺激シグナ
ルを上記記憶装置に記憶させるもの;上記の(ロボット
)軸方向の位1、軸方向の移動率、視覚・触知刺激シグ
ナルと関連する、ロボットの軸方向位置あるいは軸方向
の移動率反応シグナルを読み取りあるいは入力する装置
;このロボット反応シグナルを、ベクトル位相角及びマ
グニチュード成分で表された関連情報を以て複素数ある
いはベクトルに翻訳する装置で、この!羽訳されたロボ
ットの反応シグナルを上記記憶装置に記憶させる;各セ
ントの関連するロボット刺激・ロボット反応シグナルの
刺激反応パターンを表現する1つ又は数個のマトリック
スを生成する変換遂行能力のある処理装置で、この各々
のロボット刺激反応パターンを前述の記憶装置にスーパ
ーインポーズする;記号化されたロボット刺激反応パタ
ーンの1つ又は数個のマトリックスをアクセス(利用)
するこの処理装置が上記ロボット反応シグナルと関連す
るロボット刺激シグナルに刺激された時、ロボット反応
シグナルを生成する変換遂行能力のある装置;複素数あ
るいはベクトルで表されたこのロボット反応シグナルを
、実際のロボット軸方向移動あるいは移動率に変換する
装置。
本願の更に別の特徴は、知覚様式、測定されたパラメー
ター、具体的あるいは抽象的概念その他種々の異なった
はっきり認識出来る形態を表す刺激シグナルに反応して
、決定あるいは一見インテリゼント又はそうでないにし
ろインテリゼント出力を生成するエキスパート・システ
ムあるいはオートメーシッン化された推論装置に関する
ものである。この出力反応はどのような形態の知覚様式
(即ち、視覚、聴覚)に形象化されてもよいが、スピー
チの出力モードがこの実施に使用されるものとする。前
述のエクスパート・システムあるいはオートメーション
化された推論装置は下記を含む:刺激シグナルを生成す
る為の前述の知覚様式、測定されたパラメーター、具体
的又は抽象的概念その他種々の異なったはっきり認識出
来る形態を読み取りあるいは入力する1セットの装置;
データを記憶する記憶装置;この多発性刺激シグナル要
素を、ベクトル位相角及びマグニチュード成分で表され
る情報と関連する複素数に翻訳する装置で、この翻訳さ
れた視覚刺激シグナルを上記記憶装置に記憶させる;多
発性刺激シグナルと関連する聴覚反応シグナルを読み取
りあるいは入力する装1;この聴覚反応シグナルを、複
素数又はベクトル位相角及びマグニチュード成分で表さ
れた除法と関連するベクトルに畦訳する装置で、この翻
訳されたキャラクター・ワード反応シグナルを上記記憶
装置に記憶させる装置;各セットの関連する多発性刺激
及び聴覚反応シグナルの刺激反応パターンを表す1つ又
は数個のマトリックスを生成する変換遂行能力のある処
理装置で、この刺激反応パターンを上記記憶装置にスー
パーインポーズするもの;記号化された刺激反応パター
ンのマトリックスをアクセス(利用)するこの処理処置
が上記聴覚反応シグナルと関連する上記多発性刺激シグ
ナルに刺激された時、反応シグナルを発生する変換遂行
能力のある処理装置;複素数あるいはベクトルで表現さ
れたこの反応シグナルを聴覚出力に変換する装置。この
装置は、数層の変換グループ及びシグナル・フィードバ
ックのメカニズムを最適な形で有している。この変換グ
ループは、マトリックスの部分集合(サブレフト)に記
号化された刺激反応パターンの部分集合から成り、そこ
で、刺激は上層の変換グループから発生するマトリック
スの部分集合に入力される;マトリックスの部分集合か
らの出力反応は直接的又は間接的に下層の変換グループ
にフィードバックされる。
このフィードバックのメカニズムは、環境に供給された
聴覚反応から成る;この聴覚反応は、環境内の反応を誘
導する。:この環境内の反応は、あらゆる形態(即ち、
音波伝播、外部装置又は有機体の反応、その他)に形象
化される:この環境内の反応は、刺激シグナルとして上
記のエキスパート・システムあるいはオートメーシッン
化された推論装置にフィードバックのメカニズムは、第
二の形態から成り、そこで、上層の変換グループからの
反応出力は刺激入力として同層あるいは下層の変換グル
ープに直接フィードバックされる。
同時に、本願の別の特徴として、本書に述べられている
処理(プロセス)に基ずき下記のどちらかを用いて、人
工神経装置の記憶と性能を増大する事も含まれます; (al  上記の刺激反応パターンを上記のデータ記憶
・処理装置に記号化する前そして、データ記憶・処理装
置からの反応を解読する前に、エルミ−ト方弐を用いて
刺激反応パターンを前もって処理する。
(b)  神経エレメント(要素)を組み合わせて変換
グループから成るシステムを構成し、そこで、この変換
グループは、各入力刺激パターンと関連する反応分野内
の1つ又はそれ以上のエレメントを記号化、解読する。
この変換グループは、シグナル・モジュラーANS装置
あるいは電気機械的ベース、マイクロ電子ベース、光学
ベース、生物学的ベースその他に形成される。
(C)  入力刺激パターンが2〜3の変換グループに
フィードされるように前記の変換グループのグループを
平行配列に組み合わせる。それによりはっきりと認識出
来る個別の反応はこの入力刺激反応パターンに準じて各
変換グループから発生される。
(dl  低層の出力反応エレメントが、より高い層の
入力刺激分野にフィードされる様、前記変換グループの
グループを有層配列に組み合わせる。
(8)  有層・平行ネットワークのグループを一緒に
して、あらゆる形態に組み合わせる。
(f)  高層の変換グループからの出力反応要素が、
直接あるいは環境を通じて、低層の変換グループの入力
刺激分野にフィードバックされる様に、シグナル・フィ
ードバック・メカニズムを用いる。
(匍 染色体接合を表示する記号化された情報の力学的
時間変喚崩壊(ダイナミック・タイム・バリアプル・デ
ィケイ)を用いて前記のマトリックス(X)により抽象
的形態に表現する。このテクニックの目的は、記号化さ
れた情報が永久あるいは長期メモリーから超短期メモリ
ー間のどの範囲に対してでも優位に立つ事を決定するメ
モリー・プロフィールを確立する事にある。
(h)  染色体接合の抑制励起関係を確立する。
同時に、本願の別の特徴として、本書に述べられている
人工神経装置は下記を含めた多岐に亙る分野に適用する
事が出来よう; +al  視覚入力刺激を認識あるいは同刺激に反応す
る機能を有するあらゆる組織あるいは副組織えの人工神
経システムの編入。
(bl  聴覚入力刺激を認識あるいは同刺激に反応す
る機能を有するあらゆる組織あるいは副m織えの人工神
経システムの編入。
(C)  あらゆる形態の知覚様式あるいはその抽象的
表現を表す入力刺激を認識又は同刺激に反応する機能を
有する、あらゆる形態の組織あるいは副組織えの人工神
経システムの編入。
(d)  あらゆる物理的パラメーターあるいはその抽
象的表現を表す入力刺激を認識あるいは同刺激に反応す
る機能を有するシステムあるいはサブシステムえの人工
神経システムの編入。
(e)  あらゆる制御システムあるいは制御サブシス
テムえの人工神経システムの編入。この適用は、あらゆ
る形態の製法制御、機械的制御、生物学的制御、輸送機
関の制御、ロボット制御を包含するが、これ等の範囲内
のみに限定されるものではない。
(f)  あらゆる通信システムあるいは通信サブシス
テムえの人工神経システムの編入。
(a 人工インテリゼンス概念を応用するあらゆるシス
テムえの人工神経システムの編入。この適用は、専門シ
ステム及びオートメーション化された推論システムを包
含するが、これ等の範囲内に限定されるものではない。
(h)  算定性能を増加あるいは高める為コンピュー
ター装置えの人工神経処理あるいは装置の編入.(1)
  あらゆる神経生理学的あるいは生物学的補欠装置え
の人工神経システムの編入。この適用は、義足(義手)
、補聴器、ペースメーカー(脈拍調整器)を包含するが
その範囲内に限定されるものではない. (実施例) これ等の図の始めから終わりまで、同一部品(パーツ)
は同一構成要素(メンバー)を示す。
理一一論 ANS理論に対する徹底的に新しいアプローチを本願中
に説明する。本願を効果的に説明する為に、数学的説明
の前に、一般的な概念に関する説明を付加してある。A
NS研究分野の主要な目標は、大量の情報を与えられた
データ記憶メジューム(媒介)に記号化又はスーパーイ
ンポーズするメカニズムを開発し、反応出力を生成する
為一記号化された情報を媒介してーこの刺激入力を解読
する手段を促進する事にあります。光学ホログラムは、
上記とほぼ類似するシステムを供給します.光学ホログ
ラム内の上記を記号化するメカニズムは、容易に分かる
次元の寸法を効果的に折り込みあるいは、消失させた二
次元の写真平面上から再構成し、視覚によって認められ
る三次元の物体として記憶させる。このレーザー写真の
記号化、解読メカニズムで二次元平面内の情報記憶密度
は大幅に増大される。
本願中のANS処理にも同様な類似性を提示してありま
す.しかし、この処理は刺激反応パターン形態の情報と
関係し、この情報を抽象的な数学上の変域内に記憶させ
る。これ等の刺激反応パターンは、あらゆる形態の知覚
様式を表現し、外部環境的感受器官(リセプター)を通
して読み取られるか、又は(複合神経システムの場合)
類似したノイロン間の染色体接合の媒介でそのシステム
を通して伝播される。この処理はこれらの刺激反応パタ
ーンを同じメモリー又は記憶メジュームにスーパーイン
ポーズする。理論上の根拠は、時間指数(タイム・イン
デックス)が折り込み又は消失された容易に分かる次元
であるという主要な例外を除いて、光学ホログラムと、
ほぼ類似している. 刺激パターンによるシステムの始動に於いて(解読作用
)、ほとんど即時的な反応を発生する為に刺激は集積さ
れた情報(全て記号化された刺激反応パターン)を媒介
として処理される。反応出力の特質は、解読に関する項
で説明されている.物理的な類似性を示す為、一見努力
を要しない顔を認識する人間の動作を想起していただき
ます.空間内で2〜3の変形、回転により複雑化すると
、この認識作業は、現代のコンピューターを用いての、
一般的方法論による算定能力では不可能である。しかし
、本願に述べられているタイプのシステムはそれぞれ異
なる回転、変形の置換における膨大なイメージのセット
をスーパーインポーズ及び記憶する事が出来、記憶され
たパターンの数に関係なく、要望する反応をほぼ即時的
に発生する.本願に略述された原理は、膨大な量の知覚
情報を記憶する人間の能力を説明する根拠を潜在的に提
示しておりほぼ即時的且つ集積された情報量と無関係な
比率で知覚様式の、あらゆる形態に反応する.(即ち、
年齢4才と40才では、ほぼ同じ速さで反応する)。
本願中に使われている文脈『パターン』は、データのセ
ントに関係し、この用語は同一物を指す。
刺激、反応パターン両方に含まれているデータ値は、あ
らゆる形態あるいはタイプの情報を表す.例ば、刺激あ
るいは反応パターン内のデータのセットは、視界内のピ
ックセル値、ロボット装置内の軸位置あるいは移動率、
あるいは聴覚入方用のフーリエ(Fourier)変換
エレメントを表す。その結果、刺激、反応分野両方共、
あらゆる形態の知覚様式、可測パラメーターを表示する
データ、あるいは上記の抽象的表現を表す。
明確にする為、刺激シグナルあるいは分野は下記のデー
タ・セント(S)’で表され、IXNのマトリンクスと
して表される。例えば、マトリックスrSJ ” は、
リンゴの様な物体を見てぃる際のビデオディジタル装置
によって発生される数字データを表す。
(S)”” CS1,S!+  Sz,・・・SS)方
程式(1) 即ち、S,からSNは数値あるいはスカラー値である。
同様に、刺激入力分野と関連する反応分野〔R〕 ′は
下記によって表される:(R)’=(r,,rZ+  
r3+・・’rM)方程式(2) 即ち、r,からr.4は数値である。例えば、この数値
はリンゴという言葉の文字表現を表す事も出来る。
この処理は、二次元あるいは複数(アルガン)平面上の
ベクトル方位に位相角が合致した時、上記両方に含まれ
ている情報、つまり、刺激シグナルあるいは分野(S)
” そして反応シグナルあるいは(R)”を表す事を包
含する。これは、上記のデータ・セットを下記のベクト
ル・マトリックス(1×N又はM)に翻訳する事による
遂行され、そこで、S,及びrlIは常態に復し、ある
いは2π又は360と一致する円弧範囲内で測定され、
それにより、下記にθ7φ,で示されたそれぞれの比例
位相角表示を生成する。
方程式(3) 上記の複素数値を実数値、虚数成分に分類する2〜3の
テクニックがもちいられるが、その内の最も共通する方
法は、ド モアブル(De?1oives)の定理であ
る。即ち: 上記の複体指数関数は、2〜3の他の形B(即ち、Zs
 Inz s a” ib、その他)に表現出来るが、
便宜上指数形を用いてある。マグニチュード成分は、刺
激(S)及び反応(R)分野内の各エレメントあるいは
ベクトルと関連するが一般的に説明及びテクニックを平
易にする為、ベクトル・マグニチュードは単位元と同等
であると仮定する。
記一」L一化 ネットワートの記号化は、刺激入力分野(S)の総ての
エレメント(又はエレメントのサブセント)と出力反応
分野(R)の総てのエレメント(又はエレメントのサブ
セット)間の、ベクトル方位又は位相角の間の相違を決
定する事により達成される。上記の一対の刺激/反応パ
ターン(S)、(R)の記号化関数は、下記ベクトル・
マトリックス演算で示される。
T (M)= C丁『・ (R)    ・・・方程式(5
)T 即ち、〔TYは(S)の共役転置行列である。
転置行列は、J列目でK行目にあるマトリックス・エレ
メントが(aJ,i+)で示されている。あらゆるマト
リックス(A)に下記の演算を適用する事により決定さ
れる。
(A)− (ai.i+)ならば、 T (A)− (ak,、)   ・・・・方程式(6)換
言すれば、(A)の転置は、(A)の列と行を取り換え
る事により達成される。
複体共役行列は、マトリックス・エレメントaJamに
下記の演算を通用する事により達成される。
(A) = (az.i+ )ならば、〔一人−〕=(
丁j,m)     ・・・・方程式(7)即ちa=e
   ならば、a=e 又、a=x+iyならば、丁=x−iy即ち、x”’c
os θ y=sin θ最初のマトリックス(A)の
行数が2番目の列数と同一であるマトリックス(A)(
B)の乗法も達成されよう。この適用に於いて、CM)
のJ列目の各エレメント(R)のK行目の合致するエレ
メントを掛け、その結果生じた積の項を加算する事によ
り決定され゛る。この演算は、下記の通り一つのパター
ン用に説明される。
mJ* j+  ” S In J  ” In kl
(φ、一〇,) {又はe       }  ・・・方程式(8)rl
,1,=6 エレメントmj,l丁1+J及び’I+jlは、ベクト
ルであり複素数で表されよう。上記の例の場合、一つの
パターン丈が解読されているので、方程式(3)により
(S)はIXNマトリックス、〔R〕はIXMマトリッ
クスである。下記の標準複素数加乗演算し、m、,,の
実数(Re)及び虚数成分(1m)を決定する。
Re(n+t.m )  =Re (S r.= ) 
 XRe(r+.m )−Is (S I+J )  
Xlm(r+.m )・・・方程式(9) In+(sj,m )  =Re (S I+j ) 
 xlm(r+,m )+I一 (S  I+j  )
  xRe(r+,m  )・・・方程式(10) エレメントmJ,iをベクトルとして位相角φjm  
l並びにマグニチュード(λ,,k)と共に下記の指数
の形に表す事も出来る: 下記の標準演算を行なって、位相及びマグニチュード成
分の数値を求める。
λjam  =  {Re(m1m )”+Im(o+
>,k)”)  ””・・方程式(12) 留意して頂たく点としてarctan関数は、一π/2
とπ/2の間の値を生み出すので、φJrkは正しい主
要角(プリンシパル・アングル)に調整されなくてはい
けない。
上記のマトリックスCM)のエレメントは、一つの刺激
反応パターンの解読された乗法を表している.(M1)
はこのパターン1の相関行列を示す.上記のテクニック
を拡大して、大量の刺激反応パターンを同じメモリー・
スペースに記号化する事も出来る。この概念を説明する
のに、刺激反応パターン1からP迄の記号化されたマト
リックスを下記で示す: CytN .  (M2)...  (Mp)〔M2〕
は第2の刺激反応パターンの記号化されたマトリックス
(行列)を示し、そこでは、例えば(S)が西洋ナシ(
PEAR)のような物体を見ている際にビデオ・ディジ
タル(化)装置から得られるデータを表すと(R)はA
SCII表現による言葉PEARを数字的に表します。
上記総ての刺激反応パターンは、下記のマトリックス加
法演算を行う事により、同じベクトル・マトリックス上
に記号化される。
(X)= (旧) + (M2) + (M3)+・・
・+(Mp)・・・方程式(14) マトリックス加法演算(+)は、下記の規則に従う。
(A) − (aj.m )なら(B)= (bj,k
)・・・方程式(15) (A)  +  CB) →(aj.i+  + bJ
.m )再度述べますが、即ち、a),k及びbj+I
+は複素数値を表す。
明確に説明すると、上記の演算は複合パターンp=tか
らP迄の刺激反応パターン(s..j及びrp.m)エ
レメントを抽象的に信号化する相関行列(X)を生み出
し、その結果は下記のマトリックスの形に表される。
再度述べますが、即ち、θp+Jは刺激分野(S)のパ
ターンP内にあるエレメントJの翻訳されたベクトル方
位と一致する。
−φ9+kは、反応分野(R)のパターン内にあるエレ
メントkの翻訳されたベクトル方位と一致する。
−そして、p=1からP迄のパターンは記号化される。
(X)、(Xj.i+)内の各エレメントは、総ての記
号化されたパターンの刺激内のエレメントjと反応分野
内のエレメントKのベクトル相違を合計する。例えば、
p=1からP迄の全パターンのベクトル相違の合計され
た値に、マトリックス・エレメントX2,は、刺激分野
のエレメント2と反応分野のエレメント1のベクトル相
違を合計する。
上記の方法は、記憶されたパターンに関連する情報が同
じ数値、メモリー位置又は空間上にスーパーインボーズ
及び記憶された状態を実現する。
■一時 解読操作は、『記憶』反応に記号化された適切物(アブ
ロブリエイト)あるいは記憶された反応の結合的想起に
関連する。この操作は、入力刺激と一致するデータを入
手又は読み取る事から成る。
換言すれば、ビデオ・ディジタル化装置をリンゴのイメ
ージ上に焦点を合わせ、視覚イメージを表現する関連数
字データを生成する。このデータは、数値のセット(集
合)として表される。即ち=(s)’= (s,,sz
,S3,・・・SN)・・・方程式(l7〕 前述した様に、マトリックス〔S〕 ′のエレメントは
、そこで複素数あるいは二次元平面上で方され、それか
ら下記の様なベクトル・マトリソクス(IXN)を生み
出す。
・・・方程式(18) 又、明確にする為に、各エレメントのマグニチュード成
分は、単位元と同等であるという単純化する為の仮設を
たてる。
解読操作は、下記の様なマトリックス(R)で表された
反応値の集合を生成する為に、下記のベクトル・マトリ
ックス乗法演算を行なう事から成る. 〔R〕 = 〔S*〕 ・ (X)  ・・・方程式(19)C 即ち、C−は、正常化因数(即ち、入力刺激分野内のエ
レメント数Nとして指定されるかあるいはS,X,,う
エレメントそれ自体のあらゆる形の関数であろう。) 上記のベクトル・マトリックス演算は反応分野(R)内
のエレメントrkの解答を出す。rkの位相成分は情報
を表し、r,のマグニチュード成分は刺激パターン(S
)とp=1からP上に記号化された、あらゆるパターン
との認識あるいは一致の度合いと統計的に比例する。上
記マトリックスのエレメントを (’S)” = (s”j).(R)= (ri+)で
表すと、方程式(19)は下記の総和の形に表す事が出
来よう。
で、通常複素数で表す 一〇は正常化因数 方程式(20)で定められた、ベクトル・マトリックス
演算の許す範囲内で行なわれた数学的演算は、方程式(
8)から(13)の範囲内で定められたものと類似して
いる. この演算は反応分野(R)内の各エレメントrkと関連
する位相及びマグニチュード成分を生み出す. 上記マトリックス演算を指数の形に表すと、反応ベクト
ル・マトリックス(R)の各エレメントは、下記の方程
式により決定される。
・・・方程式(21) 即ち、一Nは刺激分野内のエレメント数一エレメントr
kr  SJr 及びXJ,,ベクトル入力刺激分野〔
S)0が先に記号化された刺激パターンと同等又は類似
している。(即ち、(S)は、あらゆるパターンp0用
である)という条件にすると、生成された出力反応内の
位相角はパターンp8の記号化あるいは記憶された反応
位相角に相当するが、但し決定的誤差貢献も含む。誤差
貢献は、記憶されたパターン数に準じて増大し、方程式
(21)で説明されたベクトル総和特性は、非相関パタ
ーンに関するブラウン運動の特性にほぼ類似している。
刺激分野(N)内のエレメント数、記憶されたパターン
(P)および0.25以下のP/N比率関数としての決
定論的誤差貢献は下記により概算する事が出来よう。
5%の相対誤差が生じる。
記号化された刺激反応パターンは、完全に非線形並びに
独立関数を表す事に注意して下さい。前述の如く、出力
反応内の誤差項は決定論的である.この誤差項における
特性及び記号化された反応エレメン}(rk)の一般的
記述形態は、下記で理論的に正しい形式に解説してあり
ます。
明確にする為に、パターン分散の項(パリアンス・ター
ム)は、マトリックス(X)内で記号化された刺激パタ
ーンと入力刺激パターン〔S1〕間の相似度として定め
る。このパターン分散は、下記の様に数学的に定められ
るであろう。
ほぼ相似が得られると仮定すると、上記は決定的誤差成
分の標準偏差を表す(即ち、例えば、翻訳された任意の
非関連パターン内で生じている複素数平面に関するベク
トルの一様な蓋然論的配列).表1に説明されている様
に刺激分野(N)内のパターン(P)とエレメントの比
率.25では、約記号化演算中、入力刺激(低パターン
分散δpりと類似する数々の記号化されたパターンがあ
るでしょうが、しかし、それは変化の伴う相似度として
生じる。刺激解読上生成される出力反応は、相関行列(
X)内の一つの記号化された刺激反応パターン(p =
 1からPまで)を通して、刺激変換から生じる各反応
ベクトルの総和として表す事が出来る.ただ一つのエレ
メントのみが反応分野内に存在する(k指数を消去する
)という単純化を用いて方程式(21)を適用すると、
下記出力反応ベクトルの拡大公式が得られよう。
る記号化されたパターンが、生成反応出力(r)内で、
より支配的貢献をする。
方程式(21)を代入すると、反応総和法(方程式24
)内の各項は次ぎの様にして求める事が出来よう。
即ち、λpは記号化されたパターン(p)を通遇する刺
激変換と一致する反応ベクトル部分のマグニチュードで
あり、 rpは記号化されたパターン(p)を通過する刺激変換
と一致する反応ベクトル部分の位相角である。
方程式(24)における総和の各項は、変化する優位(
バリーイング・ドミナスあるいはマグニチュード(λp
)を表示し、それは、統計的にパターン分散(方程式(
23)と反比例する。換言すれば、入力刺激パターン〔
S)1と最も類似すC         J ・・・方程式(25) 上記の指数関数により、反応総和法(方程式24)のマ
グニチュード及び位相成分は、下記の通り求める事が出
来よう。
・・・方程式(26) ・・・方程式(27) 留意して頂きたい点として、arctan関数は−π/
2+π/2間の値を生み出すのでrpは主要角(ブリン
シパル・アングル)に調整されなくてはいけない。
上記の反応総和の特性は更に明確にする為に、下記の極
限定理を提示する。刺激分野内の項(ξj)は、記号化
されたパターン(方程式24内のp1で表示)と酷似し
ているものと仮定する.j=1からNまでに関して  
・・・方程式(28)即ち、ε′一任意誤差項 方程式26及び27に再代入すると ・・・方程式(29) 及び ・・・方程式(30) (更に留意して頂きたい点として、γ 8は主要角に調
整されなくてはいけない). 刺激分野のエレメントは記号化された刺激パターン(p
0)に向かう傾向かあるので:εr−Oすると、 N λ  0 → ・・・方程式(31) C そして、γ 0−φp N 一値は、方程式(24)内のパターンのマグニC チュード成分を提供し、完全に相関関係にあるパターン
・マッチの最も支配的なベクトルを表す。
位相角T,“は、パターンp0の記号化された反応(φ
p“》と一致する. 同様の説明を用いると、刺激パターン(ξj)のエレメ
ントが記号化されたパターンp0から任意に発散すると
限度を呈し、そこでεrの蓋然論的分布がアルガン平面
内に表示される.刺激分野と記号化されたパターン間の
総合的な非相関の限度内ニ於いて、パターンp1のベク
トル合計項は(方程式25で一般的な形に規定された様
に)ブラウン運動(Brownian motion)
と類似する乱歩パス進路(ランダム・ウオーク・パス)
に従う。
ブラウン運動シナリオの特性が適用され、よってマグニ
チュード関数(方程式26)は、下記で示された標準偏
差と共に原点(即ちλp=o)について集中する正常な
蓋然論的分布にアプローチする事を示す。
N σ λ = C その上、入力刺激〔S)′″と記号化されたパターン(
p0)間の完全な非相関関係の限度内に於いて生成され
た反応位相角γ,。は結論的であるが、記号化された反
応(φpl1 )について大部分は独立しているか非相
関関係にある。
上記の特性は、一つのシステムを展開し、そこで入力刺
激(S)”と最も類似する記号化されたパターンは出力
反応に支配的影響を及ぼし、非相関関係のパターンは決
定論的誤差として表される。
最初のポイントを繰り返して述べると、情報は一連のフ
レーム(通常時間に関して)上に刺激反応パターンの形
態で記憶され、刺激分野は刺激分野の各エレメントを列
あるいは水平方向に、そして、パターン指数又はr時間
』を行、あるいは垂直方向にそれぞれ表すベクトルの集
合(複素数即ち・マトリックス(S)として表される。
即ち: は、行あるいは垂直方向にそっている。即ち:・・・方
程式(33) ベクトル・マトリックスはベクトルをエレメントに持つ
マトリックス(行列)として規定する(即ち、アルガン
平面上で特定の方位を持つ複素数). 上記の刺激パターンと一致する反応分野(R)も同様な
形態に表す事が出来るが、明確にする為に、それは単一
エレメントしか持っていないものと仮定する。その上、
パターンあるいは時間指数前述したように、上記(刺激
反応パターン)と一致するデータを単一ベクトル・マト
リックス(X)に記号化する為に下記のマトリックス演
算が必要である。
T (X)= (TT・ (R)    ・・・方程式(3
5A)T 即ち〔丁『は(S)の転置行列である。
上記演算の結果に於いて、非相関マトリックス(X)は
NXIマトリックスであり、そこでNは刺激分野のエレ
メント数である.この記号化演算(方程式35A)は、
下記の形のマトリックス(行列)を生み出す。
・・・方程式(35B) 上記演算の結果生じる影響は、時間と一致する寸法が消
去された事である。
本質的にいって、処理操作の方法として、記憶されたあ
らゆる刺激反応パターンと一致する反応値は、以前に記
号化された刺激パターン装置に入力すると、いつでも再
生する事が出来る(刺激,<ターンは)写真あるいは話
された言葉、その他補助変数であり、反応はそれぞれ関
連する言葉、制御動作であった事を思い返してください
)。この反応記号化操作は方程式(19)で遂行され、
方程式(22)で概算された様に、関連する決定論的誤
差を含んでいる。
生   システム ゛ この装置の操作特性及び密接な関係を完全に理解する為
に、本願に述べられているANS装置と神経生理学的系
統の類似性を提示する事が適切であると考えられる。
最近の見積もりによると、人間の脳は1000億〜10
0兆のノイロンを有しているとされている。総ての動物
細胞の様に、各ノイロンは細胞薄膜で包まれており細胞
核を含有する。このノイロンの大きさや形状は様々であ
るが、1図に示された如く構造的平面は、一定のエレメ
ントを含有している:細胞体あるいは体細胞そして、こ
の細胞体から軸索突起(ノイライト)そして通常2〜3
の樹技状突起等の隆起が出ている。軸索突起及び2〜3
の樹技状突起に関してのノイロン的隆起は機能に基づい
て類別されている。
軸索突起は神経核を他の核と連結する。他の核の軸索突
起は、樹技状突起及び体細胞で終結する.軸索突起及び
樹枝状突起は、体細胞から出て通常様々な数の枝に分か
れる。軸索突起と他の核が終結する接触点は、シナプス
(連結)と呼ばれる.ノイロンは機能によって数千のシ
ナプス結合を有するであろう。
ノイロン内の情報伝播は下記の様な一般的形態で起こる
:パルス変調波形の形で中断されたシグナル(信号)、
樹技状突起及び体細胞を通して受け取られ、シナプス結
合を通して伝播される。逆に、ノイロンは上記の通り受
け取られた入力シグナルに反応して、出力パルス変調波
形を生成し、それは軸索突起を通してノイロン層に順次
移動する.シグナル進路に関するノイロンの一般的構造
は2図に示されている。
前項で説明された処理(プロセス)は、生理学的ノイロ
ン内で起こりうる情報処理のメカニズムとして下記の文
脈中で繰り返し記述される。生物学的ノイロンは情報を
刺激反応パターンの形態で記憶し、理論の項で規定され
た記号化/解読(エンコーディング/ディコーディング
)と類似するメカニズムに従うものである事を提案しま
す。
上記の如くノイロンの樹技状突起構造内のシナプス結合
は、2図に示されたパルス変調波形特性を受ける。これ
らの波形は、ベクトル位相角を表すパルス周波数及びベ
クトル・マグニチュードを表すパルス・マグニチュード
で一般的及び抽象的な形に表されるであろう。故に、シ
ナプス結合を表して受け取られた刺激シグナルは、下記
の抽象的数学上の形で表す事が出来るであろう。
・・・方程式(36) 即ち、λj一エレメントjのマグニチュード成分をあら
わす。
θj一エレメントjの位相角成分をあらわす。
同様に、体細胞を通して中継された出力あるいは反応波
形は、ベクトル位相角及びベクトルメマグニチュード成
分を有する単一エレメントで表す事が出来るであろう. R一λout e       ・− ・方程式(37
)ヘップ(■ebb)の仮説を適用すると、ノイロン自
体の情報内容はシナプス結合内あるいは近くに含まれて
いる。この情報が記憶されている生物学的メカニズムに
ついての主張あるいは説明は提示されていないので、情
報は前に規定し、且つ下記に示した様に、一般的変換の
変差(バリエーション)を通して記号化あるいは記憶さ
れるものであると提案する。
T (X)= (丁Y・ (R)・・・方程式(35A)と
同じ更に、(X)をベクトル位相角及びマグニチュード
成分を有する各エレメントで複合指数の形で表すと: 方程式(38) 即ち、pはパターン指数であり、p=tからPパターン
は記号化されている。
操作理論の項で指摘した様に(X)は刺激反応パターン
の記号化されたセント(S合)を有し、抽象形式に表さ
れている(複素数あるいはベクトル).一致する情報は
同一人カメジューム、即ち、シナプスあるいはシナプス
結合面にスーパーインポーズされている.解読操作は、
外部より発生されたパルス変調波形により樹技状シナプ
ス結合を刺激するので(2図参照)下記の変換が核の体
内で行なわれているという類似性を見出す事が出来る。
C 〔S)9一樹技状シナブス結合を通して受信された刺激
シグナル C  一正常化因数(即ち、入力刺激分野または全関数
内のエレメント数N)。
R  一位相角及びマグニチュード成分が生成波形を表
すベクトル出力エレメント ー神経軸索突起及びコラテラル(付随)を通してノイロ
ン層に順次移動する。
前述のプロセスに従って単一の仮定的ノイロンの操作特
性は理論的に決定され、小型システムのコンピューター
・シミューレーション(i[[)により実証され、以下
に記述されている。
本説明上のモデルは、小脳に位置するプルキンエ核にほ
ぼ類似した形に基づいている.最近の研究によると、こ
のタイプのノイロンは機能的にメモリーと関連しており
、250, 000樹技状の染色体結合を有していると
指摘されている。ブルキンエ核と構造的に類似する単一
の仮説的ノイロンに記?化されていると考えられる刺激
反応数は、下記の仮説を適用して決定された。
1) 記号化された刺激反応パターンは以前に記号化さ
れたパターンについて任意であり非相関関係にある(即
ち、複素平面を中心に対象分布)2) 出力反応の位相
角成分内の相対誤差R″−5%3) シナブス結合数(
N)は250.000誤差方程式(22)を適用すると
、単一ノイロンに記憶されているであろう刺激反応パタ
ーン(p)は: P=(Nta■(.。s rcJ”;;;>〕− − 
一方程式(4o,= 56,000パターン 各刺激反応パターンは250,000の情報エレメント
(N)に相当し、この理由で一連の記号化されたパター
ンで表された情報総量(Ω)は、下記によって与えられ
る。
Ω一P X N = 14. 156, 000. 0
00・・・方程式(41)1.4 XIO”エレメント その結果、約14兆の情報エレメントが仮説上のノイロ
ンに記号化されているであろうと指摘される.樹枝状シ
ナプスを通して刺激される際の、上記仮説上のノイロン
の特性は次ぎの通りである.即ち、上記の処理が1秒間
に数回遂行されて、入力シグナルは上記の全集積情報を
通過して変換され、ほぼ即時的な形態で反応波形を発す
る。もし、ノイロンが事実上記と匹敵する処理を行なう
なら一単一及び分離存在として生物学的ノイロンは一非
常に強力なコンピューターのエレメントとなる事を上記
の類似性は示唆している。
上記のプロセスを適用した場合は、複合神経システム内
で各神経細胞(ニューロン)は独立に、あるいは、非同
期的に作動する事が出来る。介在神経(インターニュー
ロン)のシナブス結合はあらゆる形式の知覚様式にまで
拡張することによって非常に結合しやすい記憶能力を生
み出すように構成されることができる. 最も重要なことは、上記のプロセスが、あらゆる形式の
知覚様相から引き出された、人間の生涯に蓄積される刺
激データにほぼ等しい莫大な量の情報の記憶メカニズム
を規定することである。複号化プロセス(デコーディン
グ・プロセス)は、上記の蓄積された生涯のコード化さ
れた情報によって、神経生物学システムが、ほぼ瞬間的
に応答を行なう為に入って来る知覚刺激物を処理するこ
とのできる機構を示している。
*壮 の        なモー゛ル  3)本書に記
載されているプロセスについては、数え切れない程様々
な物理的構成または、ハードウエア実施例を考えること
ができるであろう。本書の目的はANS (人工神経シ
ステム)プロセスを取り入れた人工神経装置の実施態様
の1例を示すことにある。しかしながら、ANS装置の
ハードウエアの実施C.様は特定の種類の装置構成、情
報記憶、あるいは処理媒体に限定されることはない.ハ
ードウエアの実施態様を図3に示す。この例では、16
の刺激インプットが示されている。刺激フィード(S)
内のエレメント数に増加させるためにアナログ信号多重
化技術が採用されることになるであろう。入力信号は振
動波形で、周波数で表されたベクトル位相情報、及び信
号振幅で表されたベクトル振幅で構成されている。この
図は神経生物学の波形信号と類似している.また情報伝
達用に上記の機構(振動波、または、パルス変調信号)
を採用することによって、信号の位相角度及び振幅素子
両方を伝達するのに1本の回線のみで行なえるという利
点が実現可能となる。
符号化(エンコーディング)中は、入力刺激フィールド
・エレメント(1−16)は、復調回路(A)によって
位相角度及び振幅のデイジタル表示の形に変えられる。
各々の入力刺激エレメントに対して別個の位相及び振幅
素子が決定される。
符号化を行なうために関連した出力応答が復調回路(E
)の中で読み取られ、同じ用に位相角度及び振幅素子の
ディジタル表示に変換される。デイジタル符号化装置(
F)は、刺激・応答パターンを記憶装置(C)の中にエ
ンコードするために式35Aに示されているように複雑
なベクトル変換を行なう。この記憶装置(C)は符号化
された情報を記憶し、軸策樹状シナプス類似体を表す。
複号(デコーディング)作業中は、入力刺激信号エレメ
ントは復調回路(A)によって位相角度、及び振幅のデ
ィジタル表示に変換される。上述のように各入力刺激フ
ィールド・エレメントを決定するために別個の位相及び
振幅素子、が決定される。
複合装置(B)は入力刺激信号の2進表示を読み取ると
共に装置(C)からの対応する符号化されたベクトルエ
レメントを読み取る。外部ロジックによって制御される
アドレス・イネーブルINバスによって適切なエレメン
ト(X)が決定されることになるであろう。装置(B)
は装置(A)からの入力刺激エレメント〔S〕、及び装
置(C)からの符号化されたエレメント(X)を用いて
弐19に示されているような複号作業を行なう。出力応
答は周波数変調器(D)に送られる。この変調器はベク
トル、または複素数の2進表示をベクトル位相角度の周
波数表示及びベクトル振幅の信号振幅表示を伴った波形
に変換する。
これらの神経エレメントのいくつかは、同時または並列
的な方法で神経エレメントの配列(アレイ)を形成する
ために統合することができる.* エ  システムのア
ブリ ーション前述のプロセスから得られると思われる
6つのANS (人工神経システム)装置について下記
に説明する.実際には無制限の装置及びアプリケーショ
ンを考えることができるが、ここでは本書に示されてい
る採用される可能性のある装置に対するアプリケーショ
ンの範囲のみを示す。
*”に するパ ーン(  切 ) 上述の考案を取り入れた視覚認識装置の概要図を図4に
示す。視覚認識装置は収集用の通常のハードウェアと、
システムによる符号化/複号化のための視覚データ入力
装置とから構成されている。
この装置(1)は視覚的情報に変換するために単一変換
グループ(TG)を採用している。
この装置(1)のハードウエア要件は下記のとおりであ
る: (A)標準アナログ・ビテオ出力を生成することのでき
るビデオカメラ: (B)アナログ・ビデオ信号入力を受信することのでき
るビデオ信号ディジタイザ(3)等の変換器。この変換
器(3)はビデオ考査線入力を“ビクセル” (画素)
配列に分ける。あるアプリケーションでは、64x64
のピクセル・フィールド内の考査線の平均強度に比例し
た数値によって表される: (C)データ、あるいは信号情報を記憶、ならびに処理
することのできるANSプロセッサ。人工神経システム
は、前述の必要な処理を実行するために、あらゆるハー
ドウェア実施態様(特定の目的、あるいは一般的な目的
)で具体化することができる。
(D)視覚出力(11)は1台のデイジタル/アナログ
変換器と一連の電圧制御発振器から構成されることにな
るであろう。基本的には出力装置(11)は出力応答の
2進表示をスピーカー(12)で希望する音を変換する
。
この例を単純化するには、出力応答から構成されている
一連の音素が符号化され、ノ\−ドウエアが音素を口語
出力に翻訳すると仮定してみればよい。それぞれの話し
言葉は音素のリストから構成されている。大半の英語の
句を言葉で表すには約36の音素が必要である。
本書で説明されている人工神経システムを用いると、ビ
テオ信号ディジタルザ(3) (一連のビクセル値)に
よって生成された視覚データの流れがスピーカー(l2
)において言葉による出力音素表に変換される。
プロセス内で実行される符号化/複号化の手順を下記に
示す: *    (エラコーディング) ビデオ変換器(2)は、例えば、視覚入力に対して64
X64ビクセル・フィールドを表現する一連の4096
の文字を生成する。このアプリケーションに対しては、
ビクセル入力値は0−2πまでの範囲内に入ることがで
きるようにベクトル位置角度(5)に変換されなければ
ならない。視覚入力フィールドは(S)として表現され
なければならない。
この視覚刺激に対応する出力応答(10)は話し言葉に
対するスペクトルの調和表現、または、各々の数字表現
によって定義された音素の等価リストのいずれかになる
:後者は平易に表さなければならない。例えば、ビデオ
・カメラ(2)が家の写真に焦点を当てているとすると
、応答は“H o u s e ”という語り発話とな
る。この言葉は次ぎの4つの音素によって復元すること
ができる:h,o,u,s,eゆこれら4つの音素の表
現はメモリー及びANSプロセッサ(1)の中に符号化
されなければならない。合計36個の音素(表2参照)
を音声を形成するために選択することができるため、選
択機構を決定しなければならない。
便宜上、音素の選択を表すために6の基数として2が選
択されたく即ち、6”=36の可能性)。
それぞれの6の基数は出力応答フィールド(R)内の2
個のエレメントによって表される。4つの音素を符号化
するには、出力応答フィールド(R)内に8個のエレメ
ントが必要となる。
ANSシステム内で処理される情報は(5および6)、
その単位と同じ振幅セットを有する位相角度素子で表さ
れる.6桁の基数を表現する場合には、複素平面は、各
々の部分が60度となる6個のセクションに分けられな
ければならない.例えば、′0”を符号化するには、π
/3という角度が割り当てなければならない。同様に:
1−2π/3 2−π 3−4π/3 4−5π/3 5−2π 従って、h,o,u,s,eの応答については、符号化
された出力は下記から構成されることになる: (Y)=(ππ/3,π/3,4π/3,2π,π/3
,5π/3,π/3)71       o     
     u        S一一式 42 実際の音素応答はキーボード(13)によって入力され
、一連の複素数値に変換される(位相角度0−2π)、
単位5及び6によってベクトルに変換された入力刺激〔
S〕、及び、符号化応答(Y)はプロセッサ(9)を符
号化している人工神経システムに送られたデータの秘密
を漏洩する(cowproa+ise?).対応するマ
トリックス(X)が生成され、”ANS複号化/符号化
プロセッサ7及び9にアクセス可能な非持久記憶装置に
記憶される.刺激/応答パターンが下記の作業を実行す
るANSプロセッサ(9)によって対応するマトリック
ス(X)内に符号化される。これらのステップは対応す
るマトリックス(X)内で各エレメント(XJ.−)に
対して行なわれる:1.  (Xj.k)の各エレメン
トの位相(Ph)及び振幅(Mag)素子を読み取り、
これらを実数部( Re)及び、虚数部(Is)に変換
する。変換された数値をANS符号化プロセッサ(9)
内のデータ・バッファに記憶する。
2. 入力刺激アレイ (S)からエレメント(SJ)
の位相角度(Ph)素子を、また、符号化対応アレイ 
(Y)からエレメント (ym )を読み取る.これら
の数値をANS符号化プロセッサ(9)内のバッファに
入れる。
3.ANSプロセッサ(9)内で下記の論理演算を行な
う: Re(xj.m)=cos (Ph(yk)−Ph(s
i)) +Re(xj.m)一一式43 1m(xj.m)−sin (Ph(yi+)−Ph(
sj)) +Im(x=,m)一一式44 4.下記の演算を用いて(X)のj.k素子の位相角度
(ph)及び振幅(Mag )を決定する。
Ph(x4.i+ )は正しい象限に合わせなければな
らない。
Mag (xj.lI)  =  (Re(xj.*)
”+Ita (x7,*)”)  1′:一一式46 上記の(X)のエレメントの位相及び振幅素子を非持久
記憶装置(8)に記憶する。
上記はこのプロセスの符号化部分を示している。
このプロセスはネットワーク内えのあらゆる刺激/応答
パターン数を符号化するのに反復されることになる。A
NSプロセンサ(9)は、変換(ステップ3から5)を
できる限り平行に行なうためにもっとも望ましい形に構
成されねばならないことを念頭に入れて置かねばならな
い。従って、マトリックス処理装置やANSプロセッサ
内の構成が望ましい。当然ながら、上記の演算は通常の
汎用コンピューター装置と同様に連続的に行なわれるが
、処理時間が抑止要因となるかもしれない。
*    (デコーディング) 刺激入力を応答に複号するには、符号化(エンコーディ
ング)と同様の演算を実施する。ビデオ信号はビデオ・
カメラ(2)によって生成され、画像を64X64のビ
クセル・アレイに複号するビデオ信号ディジタイザ(3
)に送られる。ここでもピクセル値はグレイ・スケール
または、輝度に比例している。同様に、これらのピクセ
ル値はベクトル5に変換される(Bち、0から2πまで
の位相角度で表される)。刺激フィルドは〔S)*とし
て表され、位相角度を表す(S)”のエレメントがAN
S複号プロセッサ(7)にアクセス可能な非持久記憶装
置内に読み込まれる.相関マトリックス(X)内の複素
数、及び、刺激フィールド〔S)1内のエレメントにつ
いて下記の操作が行なわれる: 1.相関マトリックス(X)の複素子(XJ,−)の位
相(Ph)及び振幅(Mag )が読み取られる。
上記の数値がANS複号プロセッサ(7)内のデータバ
ッファに記憶される。
2. 刺激入力フィールド〔S)1がらエレメント(S
,)の位相角度素子を読み取り、その値をANS複号プ
ロセッサ(7)のデータ・バッファに入れる。
3.下記の演算を行なうことによって出力応答フィール
ド(R)内の各エレメント(rk)がANS複号プロセ
ッサ(7)内で評価される。
下記の演算はX j − k及び3Jのj=1からNま
でのエレメントの合計であることに注意せよ。
一一式 47 一一式 48 上記のステップは応答フィールド(R)(k=1−8)
内の各々の出力エレメントに対して行なわれなければな
らない(即ち、ステップ1から3まで). 4.上記の合計演算の後、出力応答フィールド(R)の
各エレメントはANSプロセッサによって次ぎのように
対応する位相及び振幅値に変換される: 基本角度に対して調整を行わなければならないことに注
意せよ。
Mag (rm)  =  (Ira(r,)”+Re
(rk)”}  ””一一式50 位相素子Ph(rk)は出力情報(音素識別)を含んで
いるのに対し、振幅素子は、認識の度合いに比例した数
値を提供する。ANS複号プロセッサによって評価され
た出力応答エレメント(rk)に対する上記の位相及び
振幅素子は出力段階10に引き渡される。
(R)に対する上記の出力応答エレメントは、各々の位
相値Ph(r*)を下記の変換式を用いる6の基数に変
換する出力段階10によって読み取られる。: スカラの刺戟及び応答信号正規化及び、位相角度えの、
または位相角度からの変換に関した上記の例はシステム
の実現または機能の詳細であり、機能に従って完全に修
正可能であることに注意せよ。上記の例は考え得るほぼ
無限にある変換または正規化方法の1例を示したもので
ある。
6.出力音素を識別する6の基数値は2桁の数字で構成
されている(出力エレメント)。これらの応答値は聴覚
スピーチ出力生成用の通常のハードウエア装置(11)
を用いて対応する聴覚応答に変換される。
上記はひとつの変換グループのみを用いたANS装置の
非常に単純なアプリケーションを示したものである。こ
のアプリケーションは視覚の入力知覚様式をスピーチの
出力様式に変換する。
これらの視覚パターンはあらゆる形式のもの、あるいは
、複雑なものとなることができる(例:顔、一般的な風
景等)。視覚対象物が理想的な配置ではないために、確
定的エラー基準に基づいた刺戟/応答記憶能力は任意に
生成されたパターンに関しては理想的な配置に比べて若
干少なくなる。
記憶装置容量に関するこの後の実施態様は、(ステップ
2)に対する入力刺戟フィールド(S)に対する前処理
、及び、複号化(ステップ2)に対する前処理(S)“
を行うことによってエルミートのマトリックス形式に変
換することによって実施される。エルミート・マトリッ
クスは下記の演算によってANSプロセッサ内で構成さ
れることになるであろう: T (H) = (S)・(S)    −−一式 52T ここでは〔エ〕は(S)の複素共役である。
上記のエルミート演算から得られる効果は、視覚的な刺
戟/応答パターン記憶容量が過剰な誤分類が開始される
前に100万を超えることができるということである。
上記の演算はANSプロセフサ装置内の専用マトリック
ス処理ハードウエアによって最適に実施されることにな
るであろう。
このANS装置は現在の認識体系に比べ大きな利点を持
つものと思われる。最も大きな利点はパターン記憶容量
が大きいという点である。このシステムは複数の画像に
対応する情報が同一のデータ記憶媒体(X)上の抽象的
な(複雑なベクトル)表現で符号化されるような状況を
作り出す。この“ホログラフ”的な情報記憶技術は物理
的なデータ記憶要件(即ち、記憶装置のサイズ)、なら
びに、応答出力えの複号化に対する処理時間要件双方に
大きな利点をもたらす。
*” 1゛−キストえの 1 音声からテキストえの翻訳は入力知覚様式のひとつの形
式(即ち、ヒアリング)からの他の形式(即ち、視覚翻
訳)えの変換のべつの例である。
この装置は音声入力刺戟から視覚的出力、または、タイ
プされた出力えの符号化及び複号化を含むことになるで
あろう。このアプリケーションでは、入力刺戟フィール
ドはディジタル化されたソノグラムから構成されること
になるであろう。ソノグラムは聴覚データを表現するひ
とつの方法であり、一定の時間軸に対して高周波成分の
強度を示す。
図6にソノグラムの1例を示す。ディジタル化された聴
覚入力フィールドとほぼ同様に、ソノダラムは縦軸の周
波数及び横軸の時間内でビクセル・フィールドに分割さ
れる。
この例に対しては、周波数32及び時間ステップ32と
いう聴覚入力に対する分解を推定してみよう.出力フィ
ールドはl2の数字から構成されることになるであろう
。これらの数字は、当然のことながら前述の例の中で示
されたのと同じ方法で表される(6の基数として2)。
従って、入力は話し言葉となり、出力はタイプされた応
答となる。上記に示された種類の装置を設計し、理想的
な配置を想定するために、過剰な誤分類エラーに先駆け
て符号化されると思われる音声刺戟/タイプされた応答
のパターン数を下記の式から求める: P = N (jan ( ErrtJi ) )  
一一一弐53=1 8 0 P=記憶されたパターンの数 N=刺戟フィールド内のエレメントの数Er=応答エラ
ー(この場合では5%と推定された) ここでも構成を事前に処理する二次エルミート式が用い
られた場合には(この考案の増進に関するセクションを
参照)符号化することができるパターンの数は20万以
上となる。この数値は英語の通常の語法数をはるかに上
回っている。従って、各語の様々な変化が符号化され、
各々が異なったトーンと語形変化を有するという大きな
利点がマルチューザ・システムにおいて実現されること
になる。この能力は話し手の個々の音声認識システムの
性能を大幅に高めることになるであろう。
現在の音声認識システムは相当なユーザ訓練を必要とす
るが(即ち、音声サムブリング)本書に示されている原
理に基づいたシステムは、一旦十分なサンプルが符号化
されると、特定の個人に対してそれ以上のプログラミン
グや訓練をする必要はなくなるものと予測されている。
さらに、情報がこの設計を採用する同一のデータ媒体上
に符号化されるという性質のため、複雑な(連続的なス
ピーチ)リアル・タイムの音声認識システムを促進する
ための処理時間が大幅に削減されることになるものと予
測されている。
*ロボットエ  “ ロボット工学装置やサイバネティクス(人工頭脳学)装
置は、もちろん上記の変換以上に複雑な装置である。ロ
ボット工学、あるいはサイバネティクスによる制御につ
いては、様々なフイドバック形式を用いた変換グループ
(TG)のアレイが必要になるものと考えられている。
図7にフィードバックを有する可能な多重変換グループ
(マルチTG)の一例を示す。
本書に示されているプロセスに基づ<ANS装置の実施
は現在のシステム以上の能力を有する制御システムを作
り出す可能性を持っている。本書に示されたANS装置
のアプリケーション及び、ロボット工学的制御の範囲内
のアブリケーションとしては次ぎのようなものが含まれ
る:*ロボ ト・アーム ここに示されているANS制御装置はIO本の回転軸と
視覚入力装置を備えたロボット工学的アセンブリ装置と
共に利用することができる。フィードバック機構は視覚
的刺戟及び軸ジョイント・ポジション/転送速度によっ
て行われる。この装置はTGI及びTG2という2つの
変換グループから構成されている。
変換グループ(TGI)は軸上の位置(10のエレメン
ト)及び転送速度(10のエレメント)を表す入力を受
け取ることになる。この変換グループはパターン記憶容
量を大幅に増加させるのに刺戟フィールドのエルミート
前処理(考案の促進のセクションを参照)を採用するこ
とができるであろう。4次エルミート前処理をもちいる
と、入力フィールドは16万エレメントにまで拡張する
ことが可能になるであろう(即ち、2o4)。次ぎに、
この拡張された刺戟フィールドが、視覚フィールド(2
 5 6 X 2 5 6ピクセル・フィールド)から
も刺戟を受け取る2つ目の変換グループに供給されるこ
とになる。上記のモデルは刺戟/応答の符号化及び複号
化に対してTG2の刺戟フィールド内に合計24万40
00のエレメントを供給する(即ち、6万4000の視
覚、及びl6万の軸位置/速度)。符号化されたパター
ンの数に対してN/4規則を用いることによって、ロボ
ット工学的制御が学習できる特定の刺戟/応答パターン
の数は6万以上となるであろう。しかしながら、相対的
な確定エラーが多くなるため、(5−15%)、実施可
能なロボット工学的制御システムを助長するためには固
有のフィードバック制御が必要になるということを念頭
に入れておかねばならない。
ロボット・アームに対する動的制御応答動作の符号化あ
るいは学習についての方法は簡単に言えば次ぎのように
なる.複雑な動きは、視覚的入力、軸位置、及び、転送
速度を表す一連のパターンとして決定されることになる
。これらのパターンは、図8に示されているように、一
定の時間フレームに対するプロセスの各々の増分速度に
対応する。
これらの刺戟パターン・フレームは、ロボット工学装置
に対する次ぎの(時間)増分された軸位置、あるいは、
転送速度に対応する出力応答パターンを有するネットワ
ーク内に符号化されることになる。
符号化及び制御についてのこのような比較的単純な機構
が、現在の制御装置や技術を用いて獲得できる能力以上
の能力を有するロボット工学制御模範を生み出すものと
見られている。
*            ゛ より複雑な制御装置の例として、ANS装置制御車両の
可能なアプリケーションを考えてみよう。
車両は厳密な意味から言うとロボットではないが、わか
りやすい例を視覚的に示してくれる。
ANS装置は下記のような入力装置としての働きを行う
ことができるであろう: 1.人間のオペレータの音声 2.視覚的インプット 3. レーダー追跡 4.車両制御パラメータ(即ち、速度、加速、ステアリ
ング、トランスポート・ドライブ表示等)5.ナビゲー
ションのための経度、緯度及び標高出力応答フィールド
は下記のもので構成されるであろう: 1、音声出力 2.加速 3. ステアリング この種のアプリケーションは、膨大な量の入力刺戟エレ
メントと比較的少量の出力応答エレメントを備えている
ため、ANS装置には理想的である。このような複雑な
作業には、いくつかの変換グループが必要になるものと
考えられている。例えば、ひとつのTGは音声入力に応
答するために符号化され、2番目のTGは視覚刺戟用、
3番目は位置センサやレーダーとして用いられる。これ
らの変換グループは図7に示されているようにTGの次
ぎの層の中に送られ、最終的には最後の層が制御作動命
令を発行する(即ち、加速やステアリング)。
入力データの量が膨大であるため(視覚、レーダー、音
声)、入力エレメント数は多くなるものと見られている
。(例えば20万のエレメント).ここでも、このパタ
ーン分散にN/4規則を用いると仮定すると符号化され
得る刺戟/応答パターンの数は5万になるものと思われ
る。刺戟入力に対して2次エルミート式を用いると、パ
ターン記憶容量は10億以上になる可能性がある。この
記憶容量はあらゆる可能な事故状況や防衛手段を相当に
カバーすることができる十分な制御応答行動を符号化し
、このアブリケーシッンを実現可能にするものと予測さ
れている。
*エキスパート・システム(    )現在の人工知能
アプリケーションの主流は発見的(ヒューリステイック
)技術に基づいたものである。発見的という言葉は規則
ベースのプログラミングの概念を定義するのに用いられ
る。一般に、この方法は知的と思われる応答を発するた
めに入力状態に対して複数の決定規則を適用することを
含んでいる.発見的という言葉は、最初はゲームの分野
で用いられ(チェス)、非常にめざましい結果を生み出
した。
規則ベースのプログラムは人工知能研究の主流となり、
エキスパート・システムの分野においてより実践的なア
ブリケーションが発見されるようになった。この分野で
の研究の多くは、規則ベースの決定樹(ディシジョン・
ツリー)を考察するためのより効率的な探索及び構文機
構の開発に向けられている.通常の発見的方法における
主な欠点は、決定樹を応答や結果にたどり着く前に連続
的に適応ならびに試験しなければならないという点であ
る。ある程度の複雑さを含んだ定義域内で稼働するエキ
スパート・システムに対しては、数多くの規則があり、
そのために、探索に要する時間が非常に長くなるため、
規則ベース方法の能力が制約されてしまう。ANSプロ
セスと発見的技術の機能上の側面間の単純で直接的な分
析を行なわなければならない。発見的方法における決定
樹の一般的な概念を下記に説明する。
決定樹の形式を図9に示す。最上部のイベントがひとつ
の可能なアウトプットとして定義され、その下にある分
岐ネットワークがこの最上部イベントに到達する論理関
係を記述する.論理樹はAND又はOR関係においてト
ップ決定イベントにつながるあらゆる条件着きインプッ
トを記述する(最も単純なケース)。多重決定樹はあら
ゆるエキスパート・システム内に用いられる。
1例を示す。
イベントAは次ぎの場合には真である.(B+ (CO
DOR) } 十 cco  (B+H))  + (F+K (1 0J) )    一一一式54上記
の例で与えられて決定樹に論理切断集合を適用すること
によって下記のような結果が得られる。
1.  BOGOHOF+ 2.  CODoEoGol{oF+ 3.  BoGoloF+ 4.  CODORIGOIOF+ 5.  BOGOHOL+ 12.  CODOEOGO  IOJOK上記の各々
の積項(1−12)は、一連の“論理積”の条件、即ち
、同時に起こる条件から構成されている.上記の最小の
切断集合、あるいは、“入力パターン”は、別個の刺戟
/応答パターン、つまり、決定樹のトップ・イベントと
なっている応答行動の形でANS装置内に直接に符号化
される。上記の各々の積項は、実際に別個の刺戟/応答
パターンを現わしており、すべてのパターンはANSネ
ットワーク内に連続的に符号化される。
本書で説明されているANS装置は刺戟/応答パターン
に対して膨大な記憶容量を提供し、非常に大きな発見的
規則ベースシステムの構築機構を可能にする。
情報はデータの重ね合わせによってANSネット内に記
憶され、入力刺戟に対し最も相関関係の強い応答が並列
的方法かち得られる。この固有の並列技術は処理速度、
及び、情報記憶容量双方に関して現在の発見的方法以上
に大きな利点をもたらすものと考えられている。
発見的技術に対する大きな利点はまた、ANSの操作特
性が論理的な2進(合格/失敗)ではなく、連続的で閉
領域のものとなることによって実現されるものと考えら
れている。さらに、符号化された各シナリオやパターン
.・フレームは、計算面での効率を損なわずに、他の全
ての符号化されたパターン・フレームとは完全に独立し
たものとなることができるであろう。この特性は論理還
元技術や発見的方法に馴染みにくい大規模で複雑なエキ
スパート・システムを可能にするものと思われる.上記
の概念を示すには次ぎのような単純な例を用いることが
できる.1000個の入力バラメーターから構成されて
いるエキスパート規則ベース・システムを想定する。こ
れらの入力はエキスパート・システム・ベースの決定あ
るいは出力を誘導するために1オプザーバブル” (可
観測性)に関連した情報を提供する。これらの入力の2
次エルミート展開式を用いることで、1oo万個のエレ
メントの入力刺戟フィールドに応答するANS装置を作
り出すことができる。N/4規則を用いると、このシス
テムによって記憶することのできる完全な刺戟/応答パ
ターンの数は25万以上となるであろう。
従って、このANSベースのエキスパート・システムは
各々が1000個の入力バラメーターから構成されてい
る25万のシナリオに対して符号化された応答を記憶す
ることができる。この例では、階2のベース・システム
は出力応答の生′成用に使用されるため、25万の異な
ったシナリオを識別するのに18個2進数字が必要とな
る(Iogz 250,000)。ベクトル相関マトリ
ックス(X)内のエレメント数(即ち、必要な変換数)
は次ぎの式によって求められる。
10” Xlogz(M) =18X10’   −−
一式 56Mは可能な結果数である(即ち、250. 
000)各ベクトル変換は1秒当たりtoooo万の命
令速度でANS内で実行されると考えることができる(
IOMIPSは現在のマイクロコンピュータで行なえる
計算速度である)。従って、このANSプロセスに基づ
いたエキスパート・システムは、各々が1000個の変
数から構成された25万のシナリオに基づいて約6秒間
で最も高い相関出力決定ができるものと考えることがで
きる。
ここでも、このような装置の能力が通常の方法を用いて
いるエキスパート・システムの能力を超えるものとなる
ことが予測される。
3潜a置 補欠制御分野は本書に示されているANS装置のアプリ
ケーションから相当な恩典を得ることになるであろう。
この装置の目的、ならびに意図は、生物的神経システム
が情報を記憶し処理していると思われる機構のエミュレ
ーションによってより効果的な情報記憶装置、及び、処
理能力を提供することになる。本書に示されている特別
なANS装置は多くの利点において神経内の情報処理特
性の形式をエミュレートすることが判明した。これらの
類似性を下記に概略する: ■)周波数変調パルス 2)分岐ネットワーク構成 3)刺戟/応答パターンの形式での情報表示4)大容量
情報記憶 5)出力応答のほぼ瞬間的なシグナル・パス生成上記の
生物学的特性に非常に類似した合成システムは補欠装置
制御を神経生物学回路にインターフェイスされる領域に
おいては非常に大きな利点を提供することは間違いない
ものと思われる。
このANS装置は人工手足の制御の分野に大きな利点を
もたらすとともに、より高次の機能に対する補欠につい
ても進歩をもたらすことは間違いない。
考JJl劇人 本書の記述されているANS装置は拡大、ならびに、改
良された操作特性を提供できるようにいくつかの分野で
変更されることになるであろう。
これらの拡大はエルミート、及び、S字状の前処理方法
の適用、層状ネットワーク、刺戟/応答パターン・エレ
メントの振幅素子の修正、スバース・マトリックス技術
、記憶プロファイルの確立方法。及び、刺戟性及び、抑
止性のシナプス結合において実現されることになるであ
ろう。当然のことながら、これらは可能な拡大について
の限定された部分集合であるにすぎない。これらについ
ての概略を下記に示す。
*    のエルミート 下記のプロセスは、特に入力刺戟フィールドが比較的少
数のエレメントから構成されてし)る場合には、ANS
装置の特性を大幅に向上させる。このプロセスは刺戟フ
ィールド内の一定のエレメント数に対して人工神経装置
内に記憶することのできる刺戟/応答パターン数を著し
く向上させる。
このプロセスには刺戟パターン(S)のエルミート形成
マトリックスえの変換が含まれている。このプロセスの
結果、ベクトルのマトリックス、あるいは、刺戟パター
ン内の全てのエレメントをベクトル・オリエンテーショ
ンの差異として他の全ての刺戟パターン内のエレメント
に関係させる複素数が形成される。エルミート・マトリ
ックス(H)はパターン(s)に対して下記の演算を行
なうことで求められる: T (H)=T’S)  ・ (S)または、T (H) = (S)T’S)       −−一式 
57実例を示す為に、刺戟パターン(S)に対してIX
Nのアレイを想定する: (S)に対する移項共役は下記の弐から求められる: 上記の式45で示されたマトリソクス乗法を行なうこと
によって、エルミート入力フィールド(H)が求められ
る: ー−一式 上記のエルミート・マトリックスのエレメントはANS
装置に対し、符号化及び複号化操作双方の入力刺戟フィ
ールドを提供している.〔H〕の対角線に沿ったエレメ
ントは実軸に沿って向きを付けられたベクトルであり、
システムには乗法を提供しない(H)の対角線に沿った
エレメント(j=k)に対するエレメント(S)を置換
することによってより以上の最適化が可能になるであろ
う。エルミート・マトリックス(.H )内で形成され
たエレメントのすべての部分集合も利用することができ
る。1例としては、中央の対角線に隣接している2つの
対角線が形成されるようなシステムが挙げられる。この
システムは次ぎのようになる。
一一一弐 61 応答フィールド内の小さなエラーについては、(10パ
ーセント以下のエラー)シミュレーション結果は、出力
エラー特性が式22の中で得られた関係に現在も従って
いることを示す。今、入力刺戟フィールドがNtのエレ
メントを含んでいると想定すると、出力応答フィールド
のエラー特性は下記の関係式に従う: 上記のエルミート処理技術を用いてパターン記憶容量の
増加の可能性を示すために、4o96ピクセル(64X
64ビクセルの視覚フィールド)から構成されている入
力刺戟フィールドを想定してみる。無作為で非相関のパ
ターンを想定して、出力応答内の確定的なエラーに対し
て5バーセントという相対値を達成するには、符号化さ
れ得るパターン数(各パターンは4096個のエレメン
トから構成されている)は1000以下に制限される。
入力刺戟フィールドが式57を用いてエルミート形弐で
前処理されている場合には、符号化され得る刺戟/応答
パターン数は360万個に達する。
上記は2次のエルミート式を説明しているが、システム
のパターン記憶容量をさらに増加させるために2次以上
の式も用いることができる。
*  ネー  −ク 図10はTGが変換グループを表し、単一の入力刺戟フ
ィールド(S)から単一の出力応答フィールド(R)ま
での単純な変換作業を行なうひとつ、または複数の装置
を示した層状ネットワークをしめしたものである。層状
ネットワークはTGI.TG2,TG3という一連の変
換グループから構成されており、このグループ内では、
ひとつの変換グループ、または層(TGI)がらの出力
応答フィールドがより高次の層(TG2)の入力刺戟フ
ィールドに送られる。より複雑なネットワーク層を形成
するのにあらゆる数量の層をもちいることができる。
*並1ネットワーク 図11に示されているように、並列ネットワークはネッ
トワーク内の層が並列に作動する多重変換グループから
構成された様式で構成されることになるであろう。この
場合、出力応答フィールドはあらゆる構成、あるいは配
列で次ぎの層の入力刺戟フィールドのいずれかに送られ
る。非常に複雑なネットワーク・アレイを形成するため
に層状および並列双方の変換グループのあらゆる構成を
用いることができる。
*フィードバ・ク・ネットワーク 図12は高位の層内の神経エレメントの出力応答フィー
ルドが下位、または前の層内の神経エレメントの入力刺
戟フィールドに結果をフィードバックするシステムを示
したものである。あらゆる構成、または配置のフィード
バックシステムを用いることができるものと思われる。
ANS装置は出力応答が入力刺戟を供給している局部環
境を処理、あるいは修正するあらゆる状況に対して固有
にフィードバック制御を提供する(即ち、環境によるフ
ィールドバック)。この概念は入力刺戟が軸位置にあり
、速度センサー、及び、出力応答が電動制御作動体とな
っているロボット工学的制御装置内で見ることができる
。応答出力のあらゆる変化(軸運動)が入力刺戟パター
ンを変更させ、それによって、次ぎ次ぎと出力応答に影
響を与える。上記のフィードバック機構はANS装置の
大半のアプリケーションにおける制御能力を大幅に向上
させるものと考えられている。
*    の    たは、 前述の式は主として、単位に等しく設定された刺戟フィ
ールド内のエレメントに対する振幅素子を有する位相角
度を扱っている。しかしながら、振幅素子はこれらの刺
戟エレメントの各々にIPJ’)当てることができるで
あろう。これは効果的に“重み係数”を割り当て、出力
応答の生成に際し、刺戟フィールド内のそのエレメント
の有効優先度を決定する。
*スパース・マトリックス アプリケーションによっては、相関マトリックス〔X〕
 (式16)内の変換エレメントのいくつかを除去する
ことが望ましいと思われる。これらによって、そのエレ
メントのい《つかが0となる。
本書中ではスパース・マトリックスと称されるマトリッ
クスが効果的に生成される。この技術は出力応答フィー
ルド内の分解を削減させるが、(確定的エラー、あるい
はファジ一部分を増加させる)、必要となる変換作業数
減少させる(即ち、応答時間や実行時間を削減する)。
*”qプロフ ィル 記憶プロファイルの開発は、時間の関数としての符号化
された、あるいは学習された刺戟/応答パターンの相関
優先度を確立するための機構に関連している。記憶プロ
ファイルを構築するために相関マトリックス(X)内の
あらゆるエレメントに対して、あらゆる時間可変関数、
あるいは、変換関数(即ち、1次遅れ、あるいは、減衰
時間)を適用することができる。1例として、1次指数
関係を有する(X)遅れの素子を想定することが示され
る。
符号化されたエレメント(X)の値を出すために、式3
5Bから1次遅れについての数学的関係を得ることがで
きる: 一一一式 63 Tは現在の時間フレームであり、グは減衰時間の定数で
ある。
例えば、過去の一瞬の時間(即ち、1時間)に学習した
刺戟/応答パターンは現在の時間フレーム(T)内に符
号化、または、学習されたパターンに比較して0.36
8の相対優先度を持つことになる. ANS装置に上記の方法を適用することで、永久的な、
あるいは、長期的な記憶から、非常に短期的な記憶に至
るまでのあらゆる期間に符号化、または、学習された情
報の卓越性を決定する記憶プロファイルを確立できる。
*−−3= 方法論に関したセクションで述べたように、ネットワー
クに符号化された刺戟、及び応答情報は、複素平面状の
2πまでの円周域に対応する多くの物理的パラメータは
、アプリケーションが遭遇し得るという点に関しては類
似した閉域、及び、限界内では換算に直接的に従うこと
はない。1例としては、閉域の実施(即ち、複素平面内
の位相角度)によって、最低および最高の強度(輝度)
が数字的に等しい、または、類似したものとなるような
、スカラ場強度の表示が挙げられる。一般的に換算フィ
ールドは有界、または、無界範囲のいずれかに拡張され
た数値によって定義される.この例としてはOから無限
大まで拡張されるフィールド強度、または位置が挙げら
れる。刺戟/応答スカラ場に対して同様な範囲を確立す
るには、相関マトリックス(X)エレメントに対して+
/一位相角度変換を行なう。神経生物学研究から生物神
経丙に刺戟的/抑止的グループ構造が存在していること
、また、特定の種類の神経はシナブス・アレイ内に刺戟
的、および、抑止的結合の両者を保有しているというこ
とが証明されている点に注意しなければならない。
これらの抑止的/刺戟的割り当ては、数値プロセス内に
シンメトリー(対称を構築できるような方法で行なわれ
なければならない。この場合のシンメトリーは複素平面
に関する相関マトリックス(X)エレメントに対して生
成されたベクトルの一様な分布を示している(即ち、2
πまでの範囲の一様な分布).最大パターン記憶容量は
、刺戟、及び、応答ベクトル双方の分布が複素平面に関
して一様か、シンメトリーとなる場合に得られるという
ことを繰り返しておく。シンメトリーを構築するひとつ
の方法は、抑止的/刺戟的シナブス割り当ての均衡のと
れた分布の作成を含むことになるであろう。
上記の抑止的/刺戟的割り当ての概念、および、前処理
変喚としてのS字状関数は次ぎのように示される有界、
または、無界の信号範囲のアプリケーションに間接的に
関連している。例えば、パターン認識アプリケーション
に関して、刺戟信号が光りの強度を示すと仮定すること
ができる。一般的に、この種の入力は、物理的システム
内の数量を表す大規模なスカラ場と同様に、下記のよう
な確立論的分布関数(p. d. f.)によって求め
られ、大きなガウス分布をしめず σは分布の標準偏差、μは分布の平均値、Xはスカラ場
の量である。
刺戟フィールド内のスカラ量を0からπまでのほぼ一様
な確立論的分布に変換するのにS字状関数、または変動
を用いることができるものと思われる。S字状関数は一
般的には制御理論アプリケーションの中で用いられてい
るがより重要なことは、これが受容体神経が図3に示さ
れているように人力刺戟に応答する機能的関係として経
験論的に決定されてきたことである。刺戟入力の処理の
関数は下記の一般式によって求められる;または 2π S,:刺1フィールド・エレメントi f (σ,S..μ):σ,S五,およびμのあらゆる
関数(即ち、f(σ,S五,μ)(Si一μ)/σ特定
のアプリケーションの性能を最適なものとするために上
記の一般化されたS字関数の様々なバリエーシシンを用
いる事0可能を特筆しておく。
前述のように、刺戟/応答信号に対する開放された無界
範囲を確立し、オペレーションのシンメトリーを維持す
るために神経細胞、あるいは、信号の抑止的/刺戟的分
類が必要となる。刺戟的神経細胞の場合には、入力刺戟
値(上記の式65で定義されたように0からπまで範囲
)は正数のままであり抑止神経細胞に対しては、符号が
反対、負数(0−π)となり、これによって、一πまた
は+πまでの望ましいシンメトリー、あるいは、一様な
分布が得られる。
上記の抑止的/刺戟的割り当ては、それ自体の中に包み
込まれている間接的に閉ざされた領域(即ち、複素平面
)が遭遇する固有の問題を取り除き、複素平面について
の最適で一様な確立論的分布状のS字状関数によって自
然に発生する分布(即ち、ガウス分布)がマップされる
ことができるような方法を示す。さらに、この改良によ
り、神経の物理的抑止/刺戟シナプス構造に対する類似
性も示されることになる. *装置の実施態様一一一アドバンスド・モデル( 13
 び14) このハードウエア実施態様例は本書に示されたプロセス
を用いた可能な次世代コンピュータのプロトタイブに対
する概念的基盤となるものである。
この装置はニューロ・コンピュータと呼ばれることにな
るであろう。ニューロ・コンピュータは再びプログラミ
ング・ユティリティを用いることで、操作特性に関して
は汎用コンピュータとなる事を意図している。プログラ
ム方法は通常のプログラム言語や技術とは相当に異なっ
たものとなるであロウ。ニューロ・コンピュータのプロ
グラム・ユティリティーにおいては、下記のような修正
可能な、または、プログラマプルな特性についての基本
的なカテゴリーが必要となる。
1)類似神経間のシナブス結合、または、相互接続マト
リックスの仕様 2)シナブス結合に対する刺戟/抑止状態の仕様3)相
関マトリックス(X)内の符号化されたデータ値の仕様
(類似シナブス情報) 4)相関マトリックス(X)内の減衰係数、または、エ
レメントの減衰速度の仕様。このプログラマブル特性は
記憶プロファイルを確立する(即ち短期記憶対長期記憶
)。
5)符号化速度の仕様。このプログラマブル特性は学習
速度を修正する。
6)外部環境に対する入力/出力装置の仕様。応答出力
(図13の90)の外部装置えのマソビング、及び、外
部刺戟入力(図13の88)の類似神経細胞(シナブス
)入力装置えのマッピングを修正する。
上記は汎用ニューロ・コンピュータ装置に必要な基本的
なプログラマブル特性であり、能力を一層高めるために
概念的に拡張することができる。
この例では、シングルチップ・マイクロコンピュータ(
70)と、記憶装置(72)という2つの主要ハードウ
エア構成部分が示されている。シグナルチップ・マイク
ロコンピュータは現在市場で入手できる代表的な装置で
ある、下記のような機構をもっている: 1)プロセッサ装置 2)4個の直列データ入力リンク 3)4個の直列データ出力リンク 4)記憶インタフェイス装置 上記の機能ブロックはあらゆる方法で相互作用を行なう
ことができる;しかしながら、図13は規定されたAN
Sプロセスに必要な、または、関連したデータフロー・
バスのみを示している。プロセッサ装置(84)は分か
りやすくするために3つの機能ブロックに分けられてい
る;これらの機能ブロックは下記のとおりであり、詳細
については下記に説明する。
1)復号化(デコーディング) 2)符号化(エンコーディング) 3)その他の機能78 この例では、入力刺戟フィールド(S)および出力応答
フィールド(R)は2進数として、各々の実数部、およ
び虚数部によって伝送されている.この概念を刺戟フィ
ールドの(S)内のエレメントs,に対して代表例とし
て下記に示す:合には、 Sj=−36+i64 この式は下記のように2進の2の補数として表すことが
できる: Sj (実数)=11011100 Sj(虚数)=01000000 上記の実数部および虚数部双方に対して8ビットの分解
が用いられるものと思われる。刺戟、および応答フィー
ルドのエレメントは直列データリンク(80または82
)によって伝送されるか、あるいは、外部記憶装置(8
0および90)にマップすることができる.図13は直
列データリンク82による刺戟パターン(S)のひとつ
のエレメントの伝送を示したものである。
13の 符号化過程中、刺戟パターンのエレメント(sj)は4
つの直列入力リンクの内のひとつ、もしくは、記憶域割
り当て済み入力を提供する外部記憶装置(88)によっ
て読み込まれる。同様に、応答パターンのエレメントも
直列リンク、または、外部記憶装置(88)によって符
号化装置(76)内に読み込まれる。刺戟および応答エ
レメント各々に対しては、複素数、あるいはベクトルの
位相、および、振幅素子から導き出された実数部が符号
化装置(76)内に読み取られるということを繰り返し
ておく。
相関マトリックス(X)に対応するエレメント(Xj)
の実数および虚数部分は外部記憶装置(86冫から読み
取られる。符号化装置(76)は一般的に下記のベクト
ル・マトリックス変換に示されているように符号化変換
を行なう:T (X)= (S丁・ (R)    −−一式35と同
じ上記の演算は学習された刺戟/応答パターンを相関マ
トリックス(X)の上に重ね合わせる。符号化の詳細に
ついては『理論』というタイトルを付けられたセクショ
ンにて扱う。ここで示されているハードウェア構成、お
よび、汎用プロセッサの機能特性が上記のマトリックス
変換の連続的な実施を必要としていることを念頭に入れ
て置かなければならない。相関マトリックス(X)の符
号化されたエレメントは、軸策突起一樹状突起シナブス
結合と類似した機能を行なうものと考えられている記憶
装置(86)の中に記憶される。
*′       1 3  の      )復号化
の過程中、刺戟フィールドのエレメント(aj)は4つ
の直列入力リンク(82)、もしくは、記憶域割り当て
済み入力に対する外部記憶装置(88)によって読み込
まれる。刺戟エレメントについては、複素数、または、
ベクトル(S、)の位相、および振幅素子から導き出さ
れた実数部および虚数部が復号化装置(74)の中に読
み込まれる.相関マトリックス(X)内の対応する複素
数または、ベクトル・エレメントの実数部および虚数部
が外部記憶装置(86)から読み取られる。復号化装置
(74)は一般的には下記のベクトル・マトリックス変
換に示されているように復号変換を行なう: C ここに示されているハードウェア構成、および、汎用プ
ロセッサの機能は、上記のマトリックス変換が連続的に
行なわれることを必要としていることを再び特記してお
く。復号化の詳細については、『理論』と言うタイトル
が付けられたセクションで取り扱う. 生成された応答(R)は、直列出力リンク(80)、ま
たは、記憶域割り当て済み出力のための外部記憶装置(
90)によって出力される.ここでも、応答出力信号が
前述の式53に示されているように実数部および虚数部
によって表されることを特筆しておく。
*その の 2(欠13) プロセッサの機能ブロック(78)の中で定義されてい
る3番目の機能ブロックのこの過程の他の機能、または
、拡張に関連している.この機能ブロック(78)は直
列人力/出力リンク(80および82)、および、外部
記憶装置(72)双方えのデータアクセスを有している
。汎用プロセッサえのANSプロセスの採用は、基本的
プロセスについての広範な拡大およびバリエーションが
簡単に実現されるという利点をもたらす。可能な拡大例
としては、理論の拡大に関する項、ならびに、『装置の
実施態様一一アドバンスド・モデルj(図13および1
4)というタイトルのセクションに示されているすべて
のプログラマプル機能の中で示されているような刺戟入
力フィールド〔S)1のエルミート、または、S字状前
処理が挙げられる. 処理ノードのいくつかは、図13に示されているように
、非同期的および並列的に作動する神経エレメント・ア
レイを形勢するためにあらゆる配置に組み会わされるこ
とができる。16個の処理ノードを有する可能な並列構
成を図14に示す。
各処理ノード(92)は図13に示されているハードウ
ェア構成を含んでいる。この図にしめされている相互接
続配置は通常、プール・ハイパーキューブと呼ばれてい
る。この配置では、各処理ノードは自らのローカノレ・
メモリーのアクセスし、高速双方向連続通信装置によっ
て4つの最も近いノードと通信を行なう。
規定のANS装置を採用した上記の装置の計算能力を示
すために、現存する利用可能な装置についての機能仕様
を用いてひとつのシステムを評価する(図14に示され
ているシステム)。構成要素に対する機能仕様は下記の
とおりである:ローカル・メモリー/ノード=2メガバ
イト伝送達度/リンク=20メガバイト/秒処理速度/
ノード=2000万の命令/秒各処理ノードは、いくつ
かの明確で独立した神経類似性を示すために内部的に構
成することができる.この例については、各類似神経が
自己の刺戟フィールド内に8000のエレメントを受り
取り (即ち、(S)= (St,S2,..S800
)ひとつの応答出力を生成すると考えられる。
8000の類似したシナプス入力装置内に記憶された情
報は相関関数(X)に複素数、もしくは、ベクトル・エ
レメントの形で表示される。この例の各エレメント(X
)に対する記憶要件は4バイトである。相関マトリック
ス(X)内の実数および虚数エレメントに対しては4バ
イトを用いた16ビットの分解が想定される。各処理ノ
ード(Nu)内に含まれ得る類似したニューロンの数は
下記の式から求められる: 本書に述べられているように、刺戟/応答パターンは同
一記憶媒体上に重ね合わせることができる。パターン数
が増加するにつれ、復号化された出力応答における確定
的エラーの平均絶対値が増加する。前述のように、任意
の視覚パターンの符号化によって生成された場合のよう
な非理想的分布については、刺戟/応答パターンの符号
化能力は理想的なランダムケースよりも劣るということ
が予測される。この例における記憶容量は、刺戟フィー
ルド(S)内のエレメント数がN個である場合にはN/
4となると推定されている(即ち、刺戟エレメント数N
=8000であり、刺戟/応答パターンの符号化能力は
N/4、または、2000となる)。ランダム・データ
上に生成される理想的な対称分布については、パターン
記憶能力が大きくなることを特筆しておきたい。ここで
概略した推定に基づ《単一の類似した神経内の上述の刺
戟/応答パターンの符号化は下記の情報量(Ω)と一致
する: Ω−2000パターンx soooエレメント/パター
ン= 1600万エレメント (バイト)上記の情報量
は仮想情報記憶容量と呼ばれるであろう。各処理ノード
(90)は64個の類似したニューロンを含んでいる。
下、神経エレメント数に比例した仮想情報容量は次ぎの
ように求められる: = 16 X 10bエレメント×64ニューロン7ノ
ード=10億エレメント (バイト)/ノード16個の
ノードで構成されているシステムに対しては、仮想情報
容量は160億バイトに相応する. *几 ゛  (欠14糸 ) この実施態様についての効果的な処理能力を示すために
、通常の処理方法とANSを用いた場合の処理方法とを
比較してみる。
パターン認識および、大規模な独立した非線形パターン
の頷域では、パターン照合を最も広範に利用することが
できる。2番目の類似したシステムは、制御理論の中で
示されているような状態空間解析となると思われるが、
この方法は実際には、パターンのグループが線形関数関
係の中で最も簡単に定義されるような小規模なシステム
に限定されている。状態空間解析は自己の機能領域内に
限られているため、潜在的に適用不能である。
パターン照合技術は記憶された参照パターン各々に対応
するエレメントと刺戟フィールドの各エレメントとの比
較を含むことになる.これらのパターンは、非圧縮形式
や、好ましい場合には、圧縮データ形式、あるいはその
他のあらゆる形式で表されることができる(例えば、周
波数領域に変換されたデータ)。
計算能力の向上を示すために、通常のパターン照合技術
の一般的な説明を行ない、これを、ANS処理と比較す
る。パターン照合の中では、次ぎのように各々の参照パ
ターン(p)に対してパターン変動値が求められる: aj  :ilaフィールドのエレメントjk’J,p
:記憶されたパターンpのエレメントj一連のパターン
変動項は次ぎのようにして作られる: (σ,′,σ2′,σ,′,  ・ ・ ・ ・σ,!
)また、これらの値は出力応答を決定、もしくは生成す
るためにいくつかの方法で用いられる。
この図では、各数類似神経に対する刺戟フィ−ルド数は
8000、符号化されるパターン数は2000と推定さ
れている。パターン照合プロセスでは下記のような数多
くの比較を行なうことが必要となる: 8000エレメント/パターンX 2000パターン=
 1600万の比較 各々の比較は入力刺戟パターン内のエレメントと記憶さ
れた参照パターン内の対応するエレメントとの相違の評
価、および、相関値の調整(即ち、パターン変動、また
は、標準偏差値の評価)を含んでいる。上記の単一比較
に対する一連のステップは仮想演算と呼ばれる。
本書に示されたANSプロセスは大体類似した機能を果
たすが、機能特性は格段に洗練されており、計算効率が
高い。理論についてのセクションで述べたように、出力
応答は復号化変換から直接的に導かれ、次ぎの式によっ
て求められるすべての符号化済みのパターンの関数であ
る:cp (λ1,λ2,λ,, ・ ・ ・λ3):パターン(
p=1−P)に対する一連のパターン対応値 (γII T2l T.,.・・・T,):パターン(
p=1−P)に対する一連の生成された出力応答値 上記のANSプロセスの特性として、スカラ応答情報、
および、刺戟パターンと符号化されたパターンとの間の
対応度の統計学的に比例する絶対値を表す位相角度を有
するベクトル量として出力応答が直接的に発せられる。
ANS゛復号化プロセスによって行なわれる単一の変換
は次ぎの式によって、求められる:一一一式68 上記の演算が応答出力の決定、または、評価において通
常のパターン照合プロセス内で行なわれる2000の仮
想演算に類似しているという保存原理(conserv
atis+++)を適用することができる。
式66によって記述されているように、単一の変換マト
リックス(S)内の抽象的な形式で重ね合わされている
すべての符号化されたパターン(この例では2 0 0
 0)に対応するエレメントを用いて刺戟フィールド内
のひとつのエレメントを変換する。従って、必要となる
器械的ステップ数は比例する数量に従って減じられる(
即ち、この例では1/2000倍減少する)。
図における実施態様に対する効率的な処理速度を示すた
めに、符号化/復号化変換の速度が各処理ノードに対す
る直列データ・リンク変換速度によって制限されるとい
う単純化された推定を行なう.上記の装置特性を用いる
と、4つの入力リンクに対する合計伝送速度は次ぎのよ
うになる:2000万ビット/秒×4リンク =sooo万ビット/秒 ひとつの入力刺戟アレイ (S)のエレメントを伝送す
るために、次ぎのによって必要なビット数が(8ビット
は1バイトから構成されている)求められる: 8(実数部)+(虚数部)+24(宛先ゴーF)・40
とフトれI15バイト上記の宛先コードはシナプス相互
接続配列を構成するのに用いられる。シナプス相互接続
を指定するのにいくつかの配列を使用することができる
。
特定の方決についてはこの一般図には当てはまらない。
補足的レベルの保存則(conservation)を
適用するために、次ぎのような2番目の推定を考える:
平均的には受領された伝送の2分の1のみが復号化作業
(応答の発行)を行なうためにノードによって処理され
、残りの半分は代替えの処理ノードに再ルートされるか
、符号化に用いられるか、あるいは、その他の支援機能
内で用いられるかのいずれかとなる。
上記の2つの制限された推定を適用することによって(
直列データ伝送速度によって制限された変換:および、
伝送の半分のみが利用可能)、各処理ノード内で実行す
ることのでぎる変換数が次ぎの式によって求められる二 前述のように、単一の復号化作業(式19)は2000
の刺戟/応答パターンに対して仮想復号化を行なう。各
パターンは抽象的表現の中に符号化され、相関マトリッ
クス(X)上に重ね合わされた2000の刺戟/応答パ
ターンのひとつを表す。比較推定に対しては、本書で定
義されたように仮想運用類推を用いることによって、ひ
とつの処理ノードに対する仮想処理速度が次ぎのように
求められる: 図14の16個の処理ノードから構成されているシステ
ムに対する処理速度は320億仮想運用/秒になるもの
と考えられている。従って、本書に記述されているハー
ドウェア実施態様は符号化された刺戟/応答パターンの
形式で160億の情報の仮想エレメントを記憶し、上記
の蓄積された情報によって入力感覚刺戟を1秒当たり3
20億の仮想運用速度で処理する能力を生み出す。様々
な形式の知覚様式(即ち、視覚、聴覚、触覚)から刺戟
を受領するこのタイプのシステムは、もっとも原始的な
昆虫の神経生物学的システムに見られるような形式の創
発的なインテリジェンス特性を促進し、引き出すための
適切な情報処理基盤を提供するものと思われる。
ここで述べられているハードウェア実施態様はひとつの
可能な例を示しており、また、記憶容量、処理ノード数
、ノード当たりのデータ・リンク数、リンク伝送速度、
及び、ノード当たりの処理速度等を含むあらゆる領域に
拡大されるものと思われる。これらの増加した機能は高
次のインテリジェンスをエミュレートする装置を作成す
るのに用いられるであろう. 好ましい実施態様、ならびに、運用と使用については図
に関連して特別に記述されているが、好ましい実施態様
のバリエーションは創造の才のある熟練者によって簡単
に行なえるということを特記しておきたい。従って、考
案は図に示されているのと全く同じ形式に制約されるも
のではないということを理解しておくべきである。
表    1 : 比率P/Nの関数としての応答 フィールド内の相対エラーの推定 0.05 0.1 0.15 0. 2 0.25 0.3 0.35 0.4 0.45 0.5 2.5 3.4 4.2 4.7 5.2 5.6 6.0 6.3 6.6 6.9 表 音素コード一覧
【図面の簡単な説明】
第1図は生物学的神経のコンポーネント(構成要素)の
概略図、 第2図は生物学的神経のS字形反応特性及びシクナル処
理特性を示す概略図、 第3図は単一神経要素(エレメント)を解説する人工神
経装置用のハードウェアー(機械装置)配列を具体的に
示すブロック図、 第4図は視覚から聴覚人工神経装置えのハードウェアー
配列の一つの例を一般的に示すブロック図、 第5図は視界内のビックセル(pixels)で表現さ
れたディジタル化された視覚イメージを示す図、第6図
は聴覚入力用のディジタル化されたソナグラム(音響分
析器)を示す図、 第7図は自動制御輸送車両内での人工神経装置の適用を
示すブロック図、 第8図は与えられた時間内でのロボット装置の漸増移動
に一敗するパターンを示す図、第9図は決断系統を示す
ブロック図、 第10図は多層ネットワークを示すブロック図、第11
図は有層ネットワークを示すブロック図、第12図はフ
ィードバック・ネットワークを示すブロック図、 第13図は単一処理節点の人工装置のハードウエアー配
列を具体的に示すブロック図、及び第14図は処理節点
間のリンク・コミュニケーション用の16節点のハイパ
ーキューブ(双立法体)形態を具体的に示す斜視図であ
る。 A・・・・・・復調回路、  B・・・・・・複合装置
、C・・・・・・記憶装置、  D・・・・・・周波数
変調器、E・・・・・・復調回路、 F・・・・・・ディジタル符号化装置、S・・・・・・
入力刺戟エレメント。 y面の浄書(内容に変更なし) 第 図 2.発明の名称 人 工 神 経 装 置 3,補正をする者 事件との関係 出 願 人 氏 名 ジョン ソー サザーランド 4.代 理 人 5.補正命令の日付 平成1年11月28日

Claims (1)

  1. 【特許請求の範囲】 1、下記のものから構成されている人工神経装置(AN
    S): a)データを記録、ならびに処理するための装置、 b)当該のデータ記憶装置上データを符号化する装置、
    および、関連した一連の刺激および応答信号に対する刺
    激/応答パターンを表すマトリックスを生成し、それに
    よって各々の当該の刺激/応答パターンをデータ記憶装
    置上に重ね合わせる処理装置、 c)データ記憶装置内に符号化された刺激/応答パター
    ンのマトリックスが刺激信号によって刺激された場合に
    刺激信号に関係した応答を復号する装置。 2、データ記憶装置が記憶装置と上記の装置から構成さ
    れている請求項1記載の人工神経装置において、 a)刺激信号を装置に入力するための装置と、b)刺激
    信号に関連した応答信号を入力、及び生成するための装
    置と、から成り、 c)上記の処理装置は下記のものを含む、ことを特徴と
    する装置。 1)刺激信号から処理装置へのデータ入力装置、 2)関連した刺激信号に応じて上記の処理装置から得ら
    れた応答信号を通信するための データ出力装置、 3)データ入力装置からの刺激信号のベクトル素子を読
    み取り、刺激信号に関連した応 答信号のベクトル素子を読み取り、刺激/ 応答信号に対する刺激/応答パターンを表 すベクトル素子のマトリックスを生成する ための符号化装置、 4)データ入力装置からの刺激信号のベクトル素子を読
    み取り、記憶装置からマトリッ クスのベクトル素子を読み取り、データ出 力装置によってベクトル素子の応答信号を 生成する復号装置、及び 5)上記の処理装置を記憶装置とインターフェイスさせ
    るための記憶インターフェイス 装置。 3、請求項1記載の人工神経装置において、a)視覚画
    像の刺激信号表示を生成するための視覚記憶装置と、 b)上記の視覚画像の刺激信号表示に関連した聴覚応答
    信号を生成するための装置と、をさらに含み、 c)上記のデータ上にデータを符号化し、処理する装置
    は、 1)上記の視覚刺激信号をベクトル位相角度で表される
    複素数に変換し変換された視覚 刺激信号をデータ記憶装置に記憶するため の装置、 2)上記の聴覚応答信号をベクトル位相角度で表される
    複素数に変換し、変換された聴 覚応答信号をデータ記憶装置に記憶するた めの装置、及び 3)関連した各視覚刺激信号、および聴覚刺激信号に対
    する刺激/応答パターンで表さ れるマトリックスを生成、ならびに記憶し、それぞれの
    刺激/応答パターンをデータ記 憶装置に記憶させるための装置、 を含み、さらに、 d)刺激信号に関連した応答を復号するための装置は、
    刺激/応答パターンが聴覚応答信号に関連した視覚刺激
    信号によって刺激された場合に聴覚応答信号を生成する
    装置、 を含み、これによって、上記の装置は関連した視覚刺激
    信号に応じて聴覚応答信号を生成することを特徴とする
    装置。 4、a)記憶装置にマップされたデータを記憶する構内
    記憶装置と、 b)1)プロセッサ装置、 2)刺激信号を受信するための複数データ入力装置、 3)応答信号を送信するための複数データ出力装置、及
    び 4)マイクロプロセッサを構内記憶装置とインターフェ
    イスさせるための記憶インター フェイス装置、を含むマイクロプロセッシ ング装置と、を含み、 c)上記のプロセッシング装置は、 1)データ入力装置によって受信された、または、構内
    記憶装置上にマップされた一連 の関連した刺激/応答をベクトル位相角度、及び振幅値
    で表される複素数に変換し、そ れぞれの刺激/応答パターンが構内記憶装 置上で重ね合わされるように関連した刺激 /応答信号に対する刺激/応答パターンを 表すマトリックスを生成することによって データを処理装置、および構内記憶装置上 に符号化するための装置、及び 2)構内記憶装置上に符号化された刺激/応答パターン
    のマトリックスが、データ出力 装置によって、または、構内記憶装置に対 して刺激信号に関連した応答信号を生成す るために刺激された場合に、データ入力装 置によって受信された、または、構内記憶 装置上にマップされた刺激信号に関連した 応答を復号化するための装置、 を含むことを特徴とする計算ノード。 5、請求項4に記載されている複数計算ノードにおいて
    、各計算ノードが自己の構内記憶装置にアクセスし、双
    方向通信装置によって請求項4に記載されているように
    他の複数の計算ノードと通信することを特徴とする計算
    ノード。 6、人工神経装置の記憶および計算能力を高めるための
    方法において、 a)一連の関連した刺激、および応答信号をベクトル位
    相角度、および振幅値で表される複素数に変換すること
    でデータを符号化する、b)各刺激/応答がデータ記憶
    装置、および処理装置上に重なり合う様に一連の関連し
    た刺激/応答信号に対する刺激/応答パターンを表すマ
    トリックスを生成する、及び c)刺激信号に関連した応答信号を生成するために、刺
    激信号をデータ記憶装置上に符号化されている刺激/信
    号パターンに適用することによって刺激信号に関連した
    応答信号を復号する、 ステップを含む方法。 7、請求項6に記載されている方法において、a)刺激
    信号の生成と、 b)刺激信号に関連した応答信号の生成と、を含み、 c)上記の符号化ステップは、 1)処理装置によって生成された刺激信号をベクトル位
    相角度および振幅値で表される 複素数に変換する、 2)上記の変換された刺激信号を記憶装置に記憶する、 3)処理装置によって生成された刺激信号に関連した応
    答信号をベクトル位相角度およ び振幅値で表される複素数に変換する、及 び 4)上記の変換された応答信号を記憶装置に記憶する、
    ステップを含むことを特徴とす る方法。 8、請求項7に記載されている方法において、刺激/応
    答パターンのマトリックスが聴覚応答信号に関連した視
    覚刺激信号によって刺激された場合に聴覚応答信号を生
    成するために、 a)視覚記録装置によって視覚刺激信号を生成する、及
    び b)上記の視覚刺激信号に関連した聴覚応答信号を生成
    する、 ステップを含むことを特徴とする方法。 9、人工神経装置の記憶容量を高める方法において、 a)刺激/応答パターンをデータおよび処理装置上に符
    号化する前、および、データ、および処理装置からの応
    答を復号化する前に刺激/応答パターンのエルミート前
    処理を用いる、b)変換グループから構成されるシステ
    ムを作り、そのグループが各入力刺激パターンに関連し
    た応答フィールド内で1つ、または、それ以上のエレメ
    ントを符号化および復号化することができるように神経
    エレメントのグループを組み合わせる、変換グループは
    、単一のモジューラANS装置、電気・機械ベースの装
    置、マイクロ・エレクトロニック・ベースの装置、光学
    ベースの装置、生物学ベースの装置等に構成することが
    できる、 c)上記の変換グループを入力刺激パターンが複数の変
    換グループに送られ、入力刺激パターンに従って各変換
    グループから明確な応答信号が発せられるような並列配
    置に組み合わせる、 d)上記の変換グループを下位層の出力応答エレメント
    が高位層の入力刺激フィールドに送られるような層状配
    列に組み合わせる、 e)層状、および並列ネットワークをあらゆる構成方法
    で組み合わせる、 f)高位層内の変換グループからの出力応答エレメント
    が直接、もしくは環境によって、下位層内の変換グルー
    プの入力刺激フィールドにフィードバックされるような
    信号フィードバック機構を採用する、 g)刺激、または応答エレメントに対し効率的な重み係
    数を割り当てるために刺激フィールドおよび応答フィー
    ルド双方内に振幅値を変更するための方法を採用する、 h)シナプス結合の符号化された情報表示内にスパース
    マトリックス技術を採用し、マトリックス(X)によっ
    て抽象的な形式で示す、この技術は計算時間、および必
    要な記憶エレメント数を削減する一方で、出力応答の精
    度を高める、 i)シナプス結合の符号化された情報表示の動的時間可
    変減衰を採用しマトリックス(X)によって抽象的な形
    式で示す、この技術の目的は永久的、あるいは、長期的
    な記憶から非常に短期的な記憶に到るまでのあらゆる範
    囲に対して符号化された情報の卓越性を決定する記憶プ
    ロファイルを確立することになる、j)シナプス結合に
    対する抑止/刺激関係を確立する、及び k)刺激/応答パターンをデータ、および処理装置上に
    符号化する前、および、データ、および処理装置からの
    応答を復号化する前に刺激/応答パターンのS字状前処
    理を採用する、ステップを含むことを特徴とする方法。 10、a)人工神経システムを視覚入力刺激を認識、あ
    るいは、それに応答する機能を有するあらゆるシステム
    もしくはサブシステムに組み込む、 b)人工神経システムを聴覚入力刺激を認識、あるいは
    、それに応答する機能を有するあらゆるシステムもしく
    はサブシステムに組み込む、 c)人工神経システムをあらゆる形式の感覚様式、また
    は抽象的表示を表す入力刺激を認識、あるいは、それに
    応答する機能を持つあらゆるシステム、もしくはサブシ
    ステムに組み込む、 d)人工神経システムをあらゆる物理的パラメータ、ま
    たは抽象的表示を表す入力刺激を認識、あるいは、それ
    に応答する機能を持つあらゆるシステム、もしくはサブ
    システムに組み込む、 e)人工神経システムをあらゆる制御システム、もしく
    は制御サブシステムに組み込む、このアプリケーション
    にはあらゆる形式のプロセス制御、機械的制御、電気的
    制御、生物学的制御、車両制御、ロボット工学制御等が
    含まれるが、これらに限定されることはない、 f)人工神経システムをあらゆる通信システム、もしく
    は、通信サブシステムに組み込む、 g)人工神経システムを人工知能の概念を取り入れてい
    るあらゆるシステムに組み込む。このアプリケーション
    にはエキスパート・システム、および、自動推論システ
    ム等が含まれるが、これらに限定される、ことはない、 h)人工神経プロセス、または装置を計算能率を増加、
    または向上させるためにあらゆる計算装置に組み込む、 i)人工神経システムをあらゆる神経生物学的、または
    、生物学的補欠装置に組み込む、このアプリケーション
    には人工義肢、補聴器、ペースメーカー等が含まれるが
    、これらに限定されることはない、 ことから成るアプリケーションを有する人工神経システ
    ム。
JP1217171A 1988-08-23 1989-08-23 人工神経装置 Pending JPH02236768A (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
CA575483 1988-08-23
CA575483 1988-08-23

Publications (1)

Publication Number Publication Date
JPH02236768A true JPH02236768A (ja) 1990-09-19

Family

ID=4138600

Family Applications (1)

Application Number Title Priority Date Filing Date
JP1217171A Pending JPH02236768A (ja) 1988-08-23 1989-08-23 人工神経装置

Country Status (4)

Country Link
EP (1) EP0357212B1 (ja)
JP (1) JPH02236768A (ja)
AT (1) ATE165680T1 (ja)
DE (1) DE68928656D1 (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014524630A (ja) * 2011-08-25 2014-09-22 コーネル ユニヴァーシティー 機械視覚のための網膜符号化器

Families Citing this family (23)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
ES2103310T3 (es) * 1990-04-26 1997-09-16 John Sutherland Dispositivo neural artificial.
CA2040903C (en) * 1991-04-22 2003-10-07 John G. Sutherland Neural networks
US7442212B2 (en) 2001-01-12 2008-10-28 The United States Of America As Represented By The Department Of Health And Human Services Decoding algorithm for neuronal responses
RU2271570C2 (ru) * 2003-05-26 2006-03-10 Николай Иванович Червяков Нейронная сеть для округления и масштабирования чисел, представленных в системе остаточных классов
RU2271569C2 (ru) * 2003-05-26 2006-03-10 Николай Иванович Червяков Нейронная сеть для вычисления позиционной характеристики ранга числа, представленного в системе остаточных классов
RU2258257C2 (ru) * 2003-05-26 2005-08-10 Червяков Николай Иванович Нейронная сеть для преобразования полиадического кода в код системы остаточных классов
RU2257615C2 (ru) * 2003-06-24 2005-07-27 Ставропольский государственный университет Нейронная сеть для вычисления позиционных характеристик непозиционного кода
RU2256226C2 (ru) * 2003-07-30 2005-07-10 Ставропольский государственный университет Нейронная сеть для расширения кортежа числовой системы вычетов
RU2256213C2 (ru) * 2003-09-15 2005-07-10 Ставропольский государственный университет Нейронная сеть для коррекции ошибок в модулярных нейрокомпьютерах
RU2258956C1 (ru) * 2004-03-22 2005-08-20 Северо-Кавказский государственный технический университет НЕЙРОННАЯ СЕТЬ ДЛЯ ВЫЧИСЛЕНИЯ КОЭФФИЦИЕНТОВ ОБОБЩЕННОЙ ПОЛИАДИЧЕСКОЙ СИСТЕМЫ, ПРЕДСТАВЛЕННЫХ В РАСШИРЕННЫХ ПОЛЯХ ГАЛУА GF(2v)
RU2317584C1 (ru) * 2006-06-20 2008-02-20 Ставропольский государственный университет Конвейерная нейронная сеть конечного кольца
RU2318238C1 (ru) * 2006-07-05 2008-02-27 Ставропольский военный институт связи ракетных войск Нейронная сеть для преобразования остаточного кода в двоичный позиционный код
RU2380751C1 (ru) * 2008-05-30 2010-01-27 Ставропольский военный институт связи ракетных войск НЕЙРОННАЯ СЕТЬ С ПОРОГОВОЙ (k, t) СТРУКТУРОЙ ДЛЯ ПРЕОБРАЗОВАНИЯ ОСТАТОЧНОГО КОДА В ДВОИЧНЫЙ ПОЗИЦИОННЫЙ КОД
US12323769B1 (en) 2021-10-25 2025-06-03 Chromatic Inc. Ear-worn device configured for over-the-counter and prescription use
US11950056B2 (en) 2022-01-14 2024-04-02 Chromatic Inc. Method, apparatus and system for neural network hearing aid
US12075215B2 (en) 2022-01-14 2024-08-27 Chromatic Inc. Method, apparatus and system for neural network hearing aid
US11818547B2 (en) * 2022-01-14 2023-11-14 Chromatic Inc. Method, apparatus and system for neural network hearing aid
US12418756B2 (en) 2022-01-14 2025-09-16 Chromatic Inc. System and method for enhancing speech of target speaker from audio signal in an ear-worn device using voice signatures
US11832061B2 (en) 2022-01-14 2023-11-28 Chromatic Inc. Method, apparatus and system for neural network hearing aid
US12616417B1 (en) 2022-01-24 2026-05-05 Fortell Research Inc. Method, apparatus and system for monitoring health through audio data
US12231851B1 (en) 2022-01-24 2025-02-18 Chromatic Inc. Method, apparatus and system for low latency audio enhancement
US12598434B1 (en) 2022-02-23 2026-04-07 Fortell Research Inc. Constant improvement of hearing aids by retraining with selected data collected in use
US11902747B1 (en) 2022-08-09 2024-02-13 Chromatic Inc. Hearing loss amplification that amplifies speech and noise subsignals differently

Family Cites Families (3)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US4366551A (en) * 1977-06-24 1982-12-28 Holtz Klaus E Associative memory search system
JPS58129684A (ja) * 1982-01-29 1983-08-02 Toshiba Corp パタ−ン認識装置
US4523331A (en) * 1982-09-27 1985-06-11 Asija Satya P Automated image input, storage and output system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JP2014524630A (ja) * 2011-08-25 2014-09-22 コーネル ユニヴァーシティー 機械視覚のための網膜符号化器

Also Published As

Publication number Publication date
EP0357212A3 (en) 1991-07-03
EP0357212B1 (en) 1998-04-29
EP0357212A2 (en) 1990-03-07
DE68928656D1 (de) 1998-06-04
ATE165680T1 (de) 1998-05-15

Similar Documents

Publication Publication Date Title
US5214745A (en) Artificial neural device utilizing phase orientation in the complex number domain to encode and decode stimulus response patterns
EP0526504B1 (en) Artificial neural device
EP0357212A2 (en) Artificial neural device
O'Brien et al. Radical connectionism: Thinking with (not in) language
JP2001523366A (ja) ニューラルネットワークにおける信号処理用ダイナミックシナプス
Irie Robust sound localization: An application of an auditory perception system for a humanoid robot
Goebel The mathematics of mental rotations
Cohen et al. Speech perception and production by a self-organizing neural network
Liaw et al. Dynamic synapse: Harnessing the computing power of synaptic dynamics
Valle-Lisboa et al. Multiplicative processing in the modeling of cognitive activities in large neural networks
Wisniewski et al. Predicting shifts in generalization gradients with perceptrons
Basegmez The next generation neural networks: Deep learning and spiking neural networks
Feldman Energy and the Behavior of Connectionist Models.
Hammer Compositionality in neural systems
Anderson et al. Experiments with representation in neural networks: Object motion, speech, and arithmetic
Macera et al. Remote-neocortex control of robotic search and threat identification
Kühn et al. Modelling memory functions with recurrent neural networks consisting of input compensation units: I. Static situations
Mainolfi Simulated EEG-Driven Audio Information Mapping Using Inner Hair-Cell Model and Spiking Neural Network
Peng et al. FGS-Net: A Mutual Feature Fusion Residual Network Based on FBank and Gabor-Sinc Spectrogram for Birdsong Classification
Simpson A Survey of Artificial Neural Systems.
Speidel Neural adaptive sensory processing for undersea sonar
Namarvar et al. The Gauss-Newton learning method for a generalized dynamic synapse neural network
Gupta Efficient and scalable biologically plausible spiking neural networks with learning applied to vision
Erenshteyn et al. Is designing a neural network application an art or a science?
Papliński et al. Bimodal incremental self-organizing network (BiSON) with application to learning Chinese characters