JPS6355106B2 - - Google Patents

Info

Publication number
JPS6355106B2
JPS6355106B2 JP56036412A JP3641281A JPS6355106B2 JP S6355106 B2 JPS6355106 B2 JP S6355106B2 JP 56036412 A JP56036412 A JP 56036412A JP 3641281 A JP3641281 A JP 3641281A JP S6355106 B2 JPS6355106 B2 JP S6355106B2
Authority
JP
Japan
Prior art keywords
output
type
signal
threshold
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired
Application number
JP56036412A
Other languages
English (en)
Other versions
JPS56152086A (en
Inventor
Enu Kuupaa Reon
Erubaumu Chaarusu
Eru Rairii Dagurasu
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
NESUTAA Inc
Original Assignee
NESUTAA Inc
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by NESUTAA Inc filed Critical NESUTAA Inc
Publication of JPS56152086A publication Critical patent/JPS56152086A/ja
Publication of JPS6355106B2 publication Critical patent/JPS6355106B2/ja
Granted legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G06F18/24143—Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Artificial Intelligence (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Image Analysis (AREA)
  • Complex Calculations (AREA)

Description

【発明の詳細な説明】 情報の種類を分類及び認識する様に働くリニア
な入出力装置は、線、面又は超平面を構成するこ
とによつてパターン空間を２つ以上の領域に分割
する。この様な装置を直列及び／又は並列に組み
合わせて正しく調整すれば、断片的にリニアな形
態で種類を分類することができる。然し乍ら、汎
用の学習法がない場合には、色々な種類を分類す
る正しい調整法を各々の場合ごとに関発しなけれ
ばならない。
そこで、本発明の重要な目的は、任意な次元の
空間において任意な個数の種類を分類及び認識す
る様に自分で編成を行なうことのできる情報処理
システムを提供することである。
本発明の別の目的は、リニアに分類できない様
な種類を分類及び認識することができ且ついかに
多くの種類が集まつているかに左右されない様な
自己編成型の情報処理システムを提供することで
ある。
本発明の更に別の目的は、各々の場合ごとにソ
フトウエアプログラムを書く必要のない前記自己
編成型情報処理システムを提供することである。
要約すれば、信号S1，S2………Sj………SNより
成る信号ベクトルで各々表わされた事象の種類を
分類及び認識するシステムが本発明によつて提供
される。このシステムは、これらの信号ベクトル
を受け取る複数個の入力端子と、これに接続され
た複数個の組立体とを備えている。各組立体は複
数個の結合素子を備え、各素子は上記入力端子に
接続され、そしてこの入力ｊに現われる信号Sj並
びにこの素子の伝達関数Aijに基いて情報伝達を
行なう。これら結合素子により伝達された情報を
加算するため加算装置が各組立体に含まれてい
る。
本発明によるシステムの訓練作動モードにおい
ては、上記加算装置の出力が上記結合素子へ入力
としてフイードバツクされ、これら素子の伝達関
数を変える。
本発明は、訓練モードでシステムを作動した時
に上記加算手段の出力を修正する手段を設けたこ
とを特徴とする。特に、加算手段の出力は、或る
選択されたスカラー係数をこれに乗算するが如き
によつて修正され、このスカラー係数は訓練作動
モード中に観察される事象に基いて変える様にさ
れる。この修正手段によつて作り出された出力
は、この出力が規定の値に達するかどうかを確か
めるためスレツシユホールド決定段でテストさ
れ、そしてこのスレツシユホールド段は規定値に
達した時に出力を発生する様に作動される。この
スレツシユホールド段から出力が得られると、シ
ステムによつて事象が認識されたことが指示され
る。
システムの認識部は、本質的に、種々のスレツ
シユホールド段の出力に応答して、別々の種類を
示す事象群を表わす出力を発生する手段を備えて
いる。この手段は複数個の種類出力手段を備え、
１つの種類の中に入る事象の発生を指示する出力
を発生する様に各々の種類出力手段を選択でき
る。各々の種類出力手段には、種類出力手段を選
択的に作動する手段が関連される。スレツシユホ
ールド段からの出力並びにこの選択作動手段の同
時作動に応答して、作動された種類出力手段から
出力を発生させる手段が設けられている。
各々の種類出力手段に各々関連され、或る選択
された種類出力手段からの出力の発生に応答し
て、それに関連した作動手段を作動する必要なし
に、この選択された種類出力手段を作動状態へと
スイツチできる様にする手段が設けられている。
この構成により、作動されたことはあるが現在の
ところ不作動になつている種類出力手段でも出力
を発生することができる。
前記した様に、加算装置の出力修正手段は本発
明を特徴付ける要素である。このため、システム
の訓練作動モード中に、現在作動されている種類
出力手段からの出力として所望されない出力が発
生されたことに応答して、この所望されない出力
を発生したスレツシユホールド手段に関連した修
正手段へこの所望されない出力を選択的にフイー
ドバツクし、この修正手段の修正係数の値を変え
る手段がシステムに含まれている。
上記修正手段はスカラー乗算器であり、そして
上記フイードバツクによつてその倍率の値が減少
されるのが適当である。この様な値の減少はアナ
ログ型式のものであつてもよいし、又はフイード
バツクが生じるたびに或る選択された値だけ倍率
が減少されてもよい。
前記した様に、訓練作動モード中には、各加算
装置の出力から結合素子の入力へもフイードバツ
クが与えられる。ここに示す実施例では、結合素
子の伝達関数がAijSjであり、Sjはその入力に印
加される信号である。このフイードバツクによつ
てこの伝達関数の値が修正される。
以上を要約すれば、訓練作動モード中に、シス
テムは事象の種類を分類及び認識する様に訓練さ
れ、且つ分類及び認識のエラーを実質的になくす
様な点へとその値を修正する様に訓練され、然し
て上記エラーをなくすことは、結合素子の伝達関
数の値並びに修正手段の倍率の値を修正するフイ
ードバツク構成体によつて行なわれる。
事象の当該種類の特定群を認識する様にシステ
ムをいつたん訓練してしまうと、システムを“訓
練済み”の作動モードで使用することができる。
このモードにおいては、加算装置の出力とそれに
関連した結合素子の入力との間からフイードバツ
クが除去され、従つて伝達関数はもはや修正され
ない。
更に、各組立体内の修正手段も除去されるか又
は不作動にされ、そしてそれに関連したスレツシ
ユホールド段の規定のスレツシユホールド値は
各々の加算装置の同じ出力値だけスレツシユホー
ルドを越える様に調整される。従つて、事象の当
該種類の特定群を認識及び分類する“訓練済み”
作動モードにおいては、当該回路パラメータは訓
練中に得た最終的な値に相当する一定値となる。
更に、この訓練済み作動モードにおいては、種類
出力手段から修正手段へのフイードバツク構成体
が使用されず、種類出力手段を全て同時に作動す
ることができる。
以下、添付図面を参照して本発明を詳細に説明
する。
さて、第１図を参照すれば、“パターン種類分
類装置”と称するブロツク１０は、Ｎ個の入力信
号S1，S2………Sj………SNを受け取る複数個の入
力端子、Ｍ個の出力応答P1，P2………Pi………
PMを与える複数個の出力端子とを備えている。
この装置は入つて来るパターンをそれらの各々の
種類に分類する様に働く。これは後述する様に多
様の“原型”を作り出すことによつて達成され
る。
本発明によれば、このパターン種類分類装置は
原型を形成して修正する“訓練モード”と、訓練
修正を行なわない“訓練済みモード”とで作動さ
れる。
このパターン種類分類装置の作動中には、外部
から入るＫ個の種類を分類しそしと当然のことで
あるがその後それを認識するという状態を考える
ことができる。例えば、Ｋ個の種類はアラビア数
字の０から９と、26個のローマ字アルフアベツト
のＡからＺの大文字とで構成され、各々の数字又
は文字が個々の種類を構成する様にされる。然し
乍ら、容易に明らかな様に、特定の文字又は数字
には互いに相当に異なる様な多数の書き表わし方
もあるが、それらが同じ文字又は数字を表わして
いることが人間の判断力で容易に分かろう。従つ
てアラビア数字の“７”の様な簡単な表示構造で
も多数のやり方で書き表わすことはできるが、読
者によつて正しく認識できよう。
第１図のパターン種類分類装置は種々の色々な
種類の表示体を入力として受け取る。これらの表
示体は、パターン種類分類装置へ送られる前に、
先ず、初期コード化機構によつて信号S1，S2……
…Sj………SNにコード化される。このコード化機
構は情報は保持するが明らかに無関係なものは除
去する様に設計されている。この点については、
コード化が良好な程、種類の分類が容易であるこ
とは明らかであるが、本発明によれば、大まかな
コード化が行なわれる。
外部からのＫ個の種類の表示体は、信号空間Ｓ
でコード化された後、Ｎ次元の正規化された（単
位）ベクトルをＮ次元の超空間に構成し、そこで
これらベクトルは任意の非リニアな境界を持つた
集積体（cluster）を形成する。実際には、パタ
ーン種類分類装置１０では、これら境界の認識が
行なわれ、それによりこれらの種類がどこに位置
されるかが明確に分らなくてもこれら種類が分類
される。その結果、、出力P1，P2………Pi………
PMが発生される。Ｎ次元空間にある集積体の数
及び出力の数Ｍは通常Ｋより大きい。なぜなら
ば、各種類にはこの様な集積体が複数個ありそし
て各集積体は２つ以上の出力を必要とするからで
ある。
第２図を参照すれば、“パターン種類認識装置”
と称するブロツク１２に出力P1，P2………PJ…
……PMが印加されて示されている。パターン種
類認識装置の出力r1，r2………rl………rKは個々
の種類の認識を示している。従つて、例えば、ア
ラビア数字の０から９で構成される10個の種類を
分類及び認識する場合には、例えば出力r1はアラ
ビア数字の０の全表示体を構成する種類の群とな
る。
パターン種類分類装置の各出力P1，P2………Pi
………PMは原型の存在を指示する。従つてアラ
ビア数字０ないし９を用いた例をもう一度を考
え、そして各数字即ち各種類に対する多数の表示
体を第２図に示した構成体に与えたと仮定すれ
ば、パターン種類分類装置１０を作動した結果と
して各数字ごとに多数の原型が与えられる。（そ
の個数は与えられた表示体の個数より大きくなる
ことはなく、一般に非常に小さなものである。） パターン種類認識装置１２の機能成分が示され
た第３図を参照すれば、原型P1が多入力オア回
路１４へ与えられ、原型P2が多入力オア回路１
６へ与えられ、原型Piが多入力オア回路１８へ与
えられそして原型PMが多入力オア回路２０へ与
えられることが明らかである。これらの回路１
８，１４，２０及び１６の出力は各々r1，r2，rl
及びrKである。従つてこれらｒ出力の各々は、ア
ラビア数字０ないし９で10個の種類を構成する場
合の１つの種類に属する全ての表示即ち原型を含
むことによつて、１つの種類を認識する。
パターン種類分類装置の訓練モード中に、或る
正規化されたベクトルの形態のパターンが入力さ
れてこれが認識されない時、即ち既に記憶された
原型と“同様”又は“ほゞ同様”と判断されない
時には、このパターンが新たな原型とされる。こ
の場合は、そのパターンを表わすベクトル（最初
は単位長さである）が正の係数λ（λ＞１）で乗
算されて“延ばされ”、従つて１より大きい長さ
が与えられる。情報はこの原型の大きさに含まれ
る。
有用な例として三次元空間について考える。こ
の場合、入つて来るパターンは共通の原点から延
びる単位長さの三次元ベクトルによつて表わされ
る。上記原点は単位半径の球の中心でもある。各
パターンはこの球上の点、即ち半径の終点即ちこ
のパターンを表わすベクトルで認識される。又、
各原型は上記球の或る半径に沿つた或るベクトル
でもあるが、その長さは１よりも大きく、従つて
原型ベクトルは上記球の面よりも延びる。又、こ
の様な原型はこの球の表面上の円によつても表わ
される。これらの円はそれぞれ各原型ベクトルが
この球から出て来る点に中心を置き、そしてこれ
ら円の直径はベクトルの大きさに比例する。或る
原型を初めに確立する時には、その単位長さの入
りパターンに正の係数λ゜を乗算することによつて
最大の長さが与えられる。
所与の原型の円内に入る全ての入りパターンが
この原型の種類に属する時には、それ以上の修正
を行なう必要がない。異なつた種類の入りパター
ンがこの円内に入つた場合には、原型ベクトルの
長さが減少され、そしてその円の直径が次第に減
少されてその入りパターンがもはやその円内に入
らない様にされる。次いでこの入りパターンはそ
れ自身の作用円を持つた新たな原型となる。この
円は最初は最大の大きさであり（λ゜で与えられ
る）、そして最終的には別の種類の他の入りパタ
ーンによつて減少される。
このプロセスは、訓練に使用される全パターン
集団がシステムに与えられてしまうまで行なわれ
る（通常は数回）。その結果、原型の作用領域を
各々表わす色々な直径の円でカバーされた単位半
径の球の幾何学的相似体について考えればよくな
る。より高次元の空間においても、これと相似の
状態が展開される。
従つてパターンの各種類は１つ以上の原型によ
つて表わされる。色々な種類への分類は固有に行
なわれ、そして種類間の境界の形状に拘りなく行
なわれる。特に、境界の形状は任意であるからリ
ニアな要素（即ち、直線、面、超平面）によつて
種類を分類できることは不要である。
原型の適当な“ライブラリ”（記憶体）を形成
した後、このライブラリで表わされる種類に属す
る全ての入りパターンは、原型と一致させること
によつて認識される。このプロセスは、システム
をそれ以上修正することなく、いわゆる“訓練済
みのモード”で行なうことができる。入りパター
ンを認識する様に試みるプロセスは、このパター
ンと全ての原型との内積（スカラー積）を形成す
ることより成る（これは原理的には並列に行なわ
れる）。この内積が所定値（スレツシユホールド）
に等しいか又はそれより大きい場合には、その入
りパターンはそれに対応する原型の種類で認識さ
れる。
訓練モード即ち学習段階中には、“認識”の後
に、パターン（既知の）種類のチエツクが行なわ
れる。その認識が正しなければ、それ以上の作動
は行なわれない。その認識が正しくなければ、原
型の大きさが前記した様に減少される。全く認識
されない場合には、後述する様に新たな原型が追
加される。
認識のスレツシユホールド（内積の最小値）
は、原型の最大長さを決定するλ゜の値に関連され
る。例えば三次元の場合は、λ゜は原型の作用円の
最大直径を決定するか、又はそれと同等のことで
あるが、原型に中心を置いた円錐の最大角度を決
定し、ひいては、原型から最も離れているがこの
原型でなおも認識できる様な入りパターンを決定
する。
さて第５図を参照すれば、パターン種類分類装
置１０を構成する構造体が示されており、特に、
ブロツク２２，２４，２６及び２８は各々組立体
１、組立体２、組立体ｉ及び組立体Ｍを示してい
る。１つのパターンの信号コードであるベクトル
S1，S2………Sj………SNは全ての組立体に共通に
与えられるものとして示されている。第５図に示
された様に、組立体１，２………ｉ………Ｍは
各々出力P1，P2，………Pi………PMを発生する。
さて第７図を参照すれば、訓練作動モードの際
に本発明によつて用いられる第５図の組立体ｉの
適当な実施例が示されている。第７図では、入力
ベクトルS1，S2………Sj………SMの信号が重み付
け段Ai1，Ai2………Aij………AiMのマトリクスへ
印加されて示されている。段Ａの右下に付いてい
る第１の字はその組立体に付いている字と同じで
ある。段Ａの右下に付いている第２の字は所与の
組立体内の特定の段Ａを表わす字である。Ａマト
リクスの各成分は結合素子であり、各素子はその
段の“伝達関数”Aij及び信号Sjに基いてその入
力端子ｊからの情報の伝達を行なう。例えば、伝
達関数は記憶された重み付け係数で単純に乗算さ
れてもよい。伝達関数例えば重み付け係数のマト
リクスは特定のアルゴリズムに基いて修正されて
もよい。
Nestor Associatesに譲渡されたLeon N.
Cooper及びCharles Elbaum氏の米国特許第
3950733号及び第4044243号には、第７図に示され
た第５図の組立体ｉに用いられるＡマトリクスの
適当な実施例が開示されている。又、上記特許に
は、ニユーモンダ（mnemonder）と称するＡマ
トリクスの所与の段の適当な実施例も開示されて
いる。Ａマトリクスの作動理論は上記特許に充分
に説明されており、この説明を参考として本明細
書に引用する。
Ａマトリクスの出力はブロツク３０即ち加算器
ｉに印加され、この加算器はこれら出力の加算を
行ないそしてライン３１に中間出力P′iを発生す
る。この加算器はアナログの実施例の場合には加
算回路として接続された演算増巾器であり、或い
は信号がデジタル形態で与えられる場合にはデジ
タル加算器である。
前記特許に説明された様に、Ａマトリクス及び
加算器の入力を組合わせたものを便宜上“ナベロ
ン（nouveron）”回路網と称する。このナベロン
の１部が前記米国特許第3950733号の第１２図に
示されており、その作動の説明を参考として本細
明書に引用する。
第７図を参照すれば、加算器ｉの出力P′iは制
御素子３５を経てＡマトリクスの成分へフイード
バツクされることが明らかである。この制御素子
３５は演算増巾型のものであるのが適当であり、
そしてこの制御素子は禁止入力を有しており、こ
の入力には後述する様に段３４の出力即ちθPiが
印加され、それにより伝達関数が修正される。制
御素子３５はアンドゲートの様なゲートの後にイ
ンバータを伴なつたものであつてもよい。制御素
子の作動は前記特許に開示されており、この開示
に関連した説明を参考として本明細書に引用す
る。伝達関数は次の様なアルゴリズムに基いて修
正されるということを述べれば充分であろう。
Aij（ｔ）＝Aij（ｔ−１）＋δAij（ｔ） 但し、δAij（ｔ）は次の様に表わされる。
δAij（ｔ）＝ηP′iSj 但し、ηは学習パラメータである。
加算器ｉの出力P′iはライン３１を経てλiと示さ
れた段３２へ与えられ、この段はスカラー乗算ユ
ニツトであるのが適当である。このλユニツトに
おいて、加算器の出力は或る選択された係数が乗
算される。この乗算結果はθPiと示されたその次
の段へ与えられる。
θPi段はスレツシユホールド装置として働く。
換言すれば、λ段の出力が或る選択されたレベル
に等しいか或いはそれより大きい場合に、このθ
段が作動される。この点については、θ段は、ア
ナログ実施例ではシユミツトトリガの様な回路素
子であるのが適当であるが、それに対応するデジ
タル素子でもよく、そしてこのθ段はこれに印加
された入力が前記レベルに達した場合に出力を発
生する。
λ段及びθ段の結合体の作動を説明する際に以
下で述べる様に、本発明によれば、λ段はシステ
ムを訓練モードで作動する時に用いられる。
前記した様に、段θPiの出力は素子３５へ禁止
入力として与えられる。素子３５は、スレツシユ
ホールド段θPiの作動によつて生じるPi出力が発生
されない時にその入力から出力へ信号P′iを通す
様に構成される。この構造は原型の形成が完了し
た後に段θPiが作動された時Ａマトリクスの伝達
関数を修正しない様にするために設けられてい
る。
さて第８図を参照すれば、本発明の原理によつ
て構成されたシステムの実施例が示されている。
このシステムにおいては、第８図の左側に組立体
１………組立体ｉ………組立体Ｍが示されてお
り、各組立体は第７図に示された組立体２６の構
造を有している。従つて第８図の最上部に示され
た組立体はＡマトリクスA11………A1j………A1M
と、加算器Σ1と、λ段λ1と、スレツシユホール
ド段θP1とを備えている。それに対応して、中央
部に示された組立体は右下に字ｉを付して示され
た同様の段を備え、そして最下部に示された組立
体は右下に字Ｍを付して示された同様の段を備え
ている。
第８図においては、信号ベクトルS1………Sj…
……SNが全組立体に与えられることが明らかで
あろう。ベクトルを構成する信号は事象を特徴付
けるものである。これは或るパターンが見えると
いう様な光学的事象であつてもよいし、音が聞こ
えるという様な可聴事象であつてもよいし、或い
はその他のものでもよい。事象にとつて必要とさ
れることは、分類及び認識を行なうことができる
に充分な程のデイテールを保持した複数個の入力
信号へ変換できるということだけである。ベクト
ルを構成する信号は、或る形式の事象分析を行な
つてこの分析に応答して信号を発生する様な変換
器によつて作り出される。例えば、（前記特許第
3950733号に開示された様に）この変換器は可視
的なシーンをラスタ画素に分割し、可聴情報のフ
ーリエ解析等を行なう。この様な変換器は公知で
あり、その詳細な説明は不要であると考えられ
る。
従つて、与えられた信号ベクトルは、第７図の
組立体の構造体及び作動に関して前記した様に各
組立体で処理される。
第８図に示されたシステムを用いて10個のアラ
ビア数字０ないし９を認識することが所望される
と仮定しよう。便宜上、更に、これら数字を認識
する様にシステムを訓練する目的で、各数字ごと
に多数の色々な書き表わし方が用いられ、その
各々の人間の判断力でその特定の数字として認識
できるものと仮定しよう。従つて、多数の色々な
書き表わし方の１つの数字で各種類が構成される
様な10個の種類を分類及び認識する様にシステム
を訓練することが所望されるものとする。
更に、訓練作動モード中に、システムの組立体
へ与えられる第１信号ベクトルは数字形態“０”
を変換することにより生じると仮定する。前記し
た様に、この初めの作動時点においては、Ａマト
リクスの素子Aijの（初期）値がランダムであり、
従つて、加算器に出力Piが生じてこれがλi min（最
初に即ち訓練作動の前に全てのλがセツトされた
スカラー乗算器の最小値）で乗算されてこれがス
レツシユホールドθPiを越えるという確率は小さ
なものである。原型を確立するプロセスは、入り
パターンを繰り返し付与して各付与ごとにネスタ
修正 δAij＝ηP′iSj に基いてマトリクス素子Aijを修正することより
成る。結局、Ｐバンクの１つのユニツト（入力１
ないしＮ、Ａの修正素子及び加算器を含む）がス
レツシユホールドθPiを越えるに充分な出力を発
生する。従つてこのユニツトは入りパターンの種
類（この場合は“０”）に対して指定されたこと
になり、“０”に対する原型を表わす。この原型
確立が終了すると、フイードバツクライン３３
（第７図）は禁止入力を持つた素子３５によつて
出力P′iから遮断され、そして乗算器λはその最
大値λ゜にセツトされる。第７図の組立体の作動に
ついて前記した様にこの第１信号ベクトルが与え
られて処理された時には、Ｐ加算器の２つ以上が
それらの関連スレツシユホールド（θ）段を作動
するに充分な高出力を発生することが考えられる
が、上記修正を行なうにはこれらのうちの１つが
選択されるだけでよい。
訓練作動モード中には、所与の種類を認識する
ために特定の出力段Ｒを選択することが必要とさ
れる。この様な選択は操作者によつて行なうこと
もできるし、自動的に行なうこともできる。従つ
て、先ず初めに“０”の種類を分類及び認識する
ことが所望される様な例においては、番号３６で
示された段Ｒが出力として選択されるものと仮定
する。このために、制御ライン３８が作動され
る。乗算器段４０即ちλ1の出力がスレツシユホー
ルド段４２即ちθP1を作動して出力P1を発生する
に充分なレベルであると仮定すれば、３個の入力
のうちのいずれか２つに信号が現われることによ
つて可能化される。３入力マジヨリテイ（多数
決）回路４４には、(1)作動された制御ライン３８
の信号並びに(2)スレツシユホールド段θP1からの
P1出力が印加される。従つてこの回路４４は出
力を発生し、この出力はR1段３６へ送られて出
力r1を発生し、この段３６は多入力オア回路であ
るのが適当である。又、回路４４の出力はフリツ
プ−フロツプ４６もセツトし、このフリツプ−フ
ロツプ４６の常時セツトされた出力はマジヨリテ
イ回路４４へ入力としてフイードバツクされる。
説明を簡単にするため、各種類が与えられて
個々に学習されるシーケンスを以下に述べる。実
際の作動においては、この様なことが必要とされ
ないし、又望まれることもない。このシステムは
色々な種類の表示体が混合して与えられた場合に
最も良く機能する。
色々な種類の各成分を示す信号ベクトルを連続
的に供給することによつて訓練作動が適当に続け
られ、この例では種類が数字“０”である。この
作動中に、組立体のＡマトリクスの伝達関数は、
この種類の各成分に対して成る組立体のλ段の出
力がその関連θ段をトリガするのに充分なものと
なつて段R1から出力を発生するまで修正される。
この種類が分類されると、この種類に対して指
定されたＰバンクの各ユニツトとそれに対応する
Ｒユニツトとの間に永久的な接続が確立されてい
るので、制御ライン３８が不作動にされる。
さて、数字“６”の種類の成分がシステムへ供
給されそしてこの種類を分類するために出力段４
８即ちRlが選択されたと仮定する。このため、制
御ライン５０が作動される。これらの信号ベクト
ルがシステムへ供給された際には、まだ指定され
ていない充分な数の組立体がそれらの各々のλ段
に出力を発生せしめてそれに関連したθ段をトリ
ガし、それにより数字“６”の種類を構成する全
ての成分を認識する。第８図の中央部に示された
組立体がこれら組立体の１つであれば、λ1で乗算
を行なつた結果として、スレツシユホールド段
θPiが作動される。
従つてPi出力及びライン５０上の信号はマジヨ
リテイ回路５２を可能化し、このマジヨリテイ回
路はマジヨリテイ回路４４と同じ型式のものであ
る。フリツプ−フロツプ５４は入力を受け取ると
セツトされそしてその出力はマジヨリテイ回路５
２へ入力としてフイードバツクされる。マジヨリ
テイ回路５２の出力は出力段４８にも供給され、
出力rlが現われる。
種類“６”の成分を表わす信号ベクトルは、別
の種類に既に指定された段、例えばλ1段40から、
スレツシユホールド段４２即ち段θP1（０の原型に
対して既に指定されている）を作動するに充分な
出力を発生させることもあると考えられる。この
場合、段θP1からの出力P1及びフリツプ−フロツ
プ４６からのセツト出力がマジヨリテイ回路４４
を可能化し、それにより出力段３６即ちR1の出
力r1に信号が現われるが、この出力段はこの例で
は“０”種類の成分を認識する様に専用になつて
いる。これは種類の分類及び認識をまぎらわしい
ものにするから望ましくないことは明らかであ
る。
上記した様に不所望なr1出力がある時には、入
力端子５６に電圧を印加してこれを作動しそして
それによつてアンド回路５８を可能化する。アン
ド回路５８の出力及びθP1段のP1出力は各々アン
ド回路６０に印加され、従つてこのアンド回路は
可能化される。このアンド回路６０の出力は段λ1
に印加される。段λ1にこの出力が印加されると、
或る規定量だけ段λ1の倍率の値を下げる様に働
き、それによりその出力の値が減少される。この
点において、上記不所望な出力r1を生じさせた種
類“６”の成分の信号ベクトルをもう１度システ
ムに与え、端子５６及びアンド回路５８は不作動
にする。もし出力r1が再び生じた場合には、訓練
プロセスを繰り返し、即ちアンド回路５８を可能
化し、倍率λ1の値を更に減少する。出力r1がもは
や現われなくなるまでこの手順を続ける。説明
上、種類の分類及び認識のあいまいさをなくすた
めにλ1の値だけを減少する例を用いたことを理解
されたい。然し乍ら、実際には、別の種類の処理
中にフリツプ−フロツプがセツトされたいかなる
組立体のλ段も、それらの関連θ段が入りパター
ンによつて不当に作動された場合には、それらの
倍率値が減少される。
種類“６”の処理が終了し、そしてこの処理中
に不所望な出力r1が生じなくなれば、次の種類が
処理される。該次の種類は数字“９”の表示体よ
り成るものと仮定する。この目的のため、制御ラ
イン５０は不作動にされ、そして制御ライン６２
が作動される。第８図の下部に示された組立体
は、種類“９”の成分を表わす記号ベクトルをシ
ステムへ与えた際にそのスレツシユホールド段
θPMから出力が発生される組立体の１つであると
仮定する。この状態においては、マジヨリテイ回
路４４及び５２と同じ型式のものであるマジヨリ
テイ回路６３が、信号PM及びライン６２の信号
の印加によつて不能化される。それにより、多入
力オア段６４に信号が通されて、出力rKとして現
われる。それと同時に、フリツプ−フロツプ６６
がセツトされ、このフリツプ−フロツプ６６のセ
ツト出力はマジヨリテイ回路６３へ入力として印
加される。
システムを訓練する際のこの点において、通常
種類“０”の成分によつてスレツシユホールド段
が作動される組立体は、それらの関連フリツプ−
フロツプがセツトされて、それらの関連３入力マ
ジヨリテイ回路に１つの入力を与えることが明ら
かであろう。θ段が種類“６”の成分によつて作
動される組立体の場合にもこれらの条件が適用さ
れる。さて、種類“９”の成分を認識する様にシ
ステムを訓練する場合にも、不所望なr1及びri出
力が得られることがある。不所望なr1出力の場合
には、操作者は端子５６を作動して、種類“０”
の成分を認識する様に訓練された組立体に関連し
たλ段の倍率値を下げる様に一連の操作を行な
う。不所望なrl出力がある場合には、操作者は端
子６８を作動してアンド回路７０を可能化する。
従つてPi出力及びアンド回路７０の出力によつて
アンド回路７２が可能化される。アンド回路７２
の出力は段λiへフイードバツクされて、その倍率
値を下げる様にし、この操作は必要なだけ繰り返
される。この様にして種類“９”を認識するシス
テムの訓練の終りには、制御ライン６２を作動状
態にしても、出力r1及びrlはもはや現われず、そ
して種類“９”の成分を表わす信号ベクトルを受
け取ると、それがrK出力として現われる様にな
る。それ故、訓練のこの段階においては、種類
“０”及び“６”の成分を認識する組立体は、必
要に応じて、それらのλ段の倍率を、認識のあい
まいさが生じない様な点まで減少されしまつてい
る。
前記した様にして、他の全ての種類がシステム
に与えられて分類及び認識する様に訓練される。
この例においては、数字“１”、“２”、“３”、
“４”、“５”、“７”、“８”の種類がある。前記し
た様に、各種類の処理が行なわれる時には、処理
が完了した種類の不所望なｒ出力全部が注目さ
れ、そしてそれに応答してその関連λ段の倍率値
が減少される。
全種類の処理、即ちシステムの訓練が完了した
時には、Ａマトリクスの値及びλ段の倍率は、
個々の種類間で実質的に矛盾した分類及び認識が
生じない様なレベルにある。この点については、
数字“０”ないし“９”で10個の種類が構成され
る例を考えそして各種類に10個の成分があると仮
定すれば、適切且つ完全に作動を行なうためには
少なくとも100個の組立体が必要であることは明
らかである。実際には、100個以上の組立体が必
要とされる。というのは、或る場合の訓練中に
は、或るλ段の倍率が使用できないレベルまで減
少されるからである。又、同様に、Ａマトリクス
の或る値もこの様なレベルまで修正されることが
ある。然し乍ら、大規模集積技術によれば、充分
な組立体及びそれに関連した論理及び回路素子
（第８図の１つの列）が容易に且つ安く提供され
る。
当該種類群の種類を分類及び認識するためのシ
ステムの訓練が終了すると、訓練済みの作動モー
ドでこのシステムを用いてこれらの種類を分類及
び認識することができる。このシステムを別の当
該種類群の訓練モードに用いるべき時には、作動
中に全てのフリツプ−フロツプが先ずリセツトさ
れ、そして制御ラインが前記した様に１つづつ不
作動にされる。
“訓練モード”の作動について前記した本発明
のシステムは、入力即ち信号バンクＳ（S1………
SN）と、第１スレツシユホールドバンクＰ（P1…
……PM）と、第２スレツシユホールド即ち応答
バンクＲ（r1………rK）とを備えた３レベルシス
テムとして考えるのが便利である。入力バンクＳ
は初期コード化信号を受け入れる。第１スレツシ
ユホールドバンクＰは原型を記憶し、一方応答バ
ンクＲは別々のＫ個の種類を認識する適当な応答
を発生する。
従つて第８図を参照すれば、Ｐバンクの第１番
目の加算器の出力P′iは次式で与えられる。
P′i＝N 〓j=1 Aijsj (1) スカラー乗算ユニトλiはその倍率の値をP′iに乗
算する。λiの値は最大値λ゜と１との間で変化し、
即ち１〓λi〓λ゜である。Ｐバンクの第ｉ番目のユ
ニツトの出力はスレツシユホールドユニツトを通
つた後（組立体ｉの出力）次の様になる。
Pi＝θ（λiP′i） (2) 但し、スレツシユホールド関数は次式で定めら
れる。
θ（ｘ）＝１×〓１ ＝０×＜１ Ｒバンクについては、第８図に示された様に、
訓練モード作動中に、４６，５４及び６６の如き
フリツプ−フロツプをセツト状態へスイツチする
ことによつてＰバンクとＲバンクとの接続が確立
される。システムの作動を一般化するため、Ｍ個
の加算器及びＭ×Ｋ個の“Ｂ”素子を含むものと
してＲバンクを考ることができる。この一般化の
考え方においては、Ｒバンクの第Ｋ番目の加算器
の出力が一般に次式で与えられる。
r′K＝M 〓l=1 BKlPl (3) 一方、第Ｋ番目の応答ユニツト（第８図の出力
段３６，４８及び６４の如き段）の出力は次式で
表わされる。
rK＝θ（r′K） (4) 第８図に示されたフリツプ−フロツプを含む実
施例は、Ｒバンクの種々な簡単化形態のうちの１
つの特定例である。この実施例は、式(3)のBKl項
に対して“オン−オフ”素子を用いた簡単化形態
を示している。これらの素子はパターン種類の様
な事象の種類の原型が作り出された時にＰバンク
の出力とＲバンクとの接続を確立する。
変型態様として次のものを使用することができ
る。
初めの形態においては、Ａ及びＢマトリクスの
値をゼロに等しくセツトすることができ、従つて
ＰバンクもＲバンクも入りパターンに対して応答
を生じない。第１の入りパターンSi(1)（例えば種
類１の中の１つ）はＰバンクに応答を発生せず、
それ故Ｒバンク内の適当なユニツトriにも応答を
発生しない。従つてＰバンクの第１ユニツトがこ
のパターンに対して指定される。この指定プロセ
スは正式にはＡマトリクスの値に次のものを加え
ることによつて表わすことができる。
δA＝P1×Si(1) 但し、P1はＰバンクの単位ベクトル Pi j＝δij であり、λ1の値をその最大値λ゜にセツトしそして
θ1とriとの間の要素B1iを１にセツトしたものであ
る。
“訓練”モード、即ち学習及び自己編成モード
でのシステムの作動について一般に考えると、Ａ
マトリクスの要素Aijの初期値はランダムであり、
そしておそらくこの初期値は、Ｐバンクの加算器
から出力P′iが発生されてこれがλ゜iで乗算された
後にスレツシユホールドθPiより大きくなるとい
う確率を適度なものにするに充分な程小さな値で
ある。本発明による原型確立プロセスは、第１の
入り事象即ちパターンSi(1)を繰り返し付与して、
各付与ごとにネスタ修正アルゴリズム（前記米国
特許第3950733号に開示された） δAij＝ηP′iSj (5) に基いてマトリクス要素の値Aijを修正すること
より成る。結局、入力１ないしＮ、要素Ａ及び加
算器を含むＰバンクのユニツト（組立体）の１つ
が、スレツシユホールド値θPiを得るのに又はそ
れを越えるのに充分な出力を発生する。従つてこ
の入力がこのパターンに指定されそしてその出力
が原型Piを表わすことになる。この訓練及び指定
プロセスが終了すると、選択された最終出力ユニ
ツトＲ（例えば出力段３６，４８及び６４の１つ）
に属する要素Ｂ（第８図に示した実施例のフリツ
プ−フロツプ及びそれに関連した３入力マジヨリ
テイ回路）が閉ざされ、即ちセツトされる。従つ
て原型を含むＰバンクのユニツト（組立体）と最
終出力ユニツトＲとの間に接続が確立され、今や
これらのユニツトはこの原型により表わされた種
類に属する入りパターンに応答する様になる。
原型の確立の直後に全く同じパターンSi(1)が再
び入力された場合には、ＰバンクのP1ユニツト
の応答が次の様になる。
P1＝θ（λ゜Si(1)・Si(1)）＝λ゜ (6) 今や、適当な出力段Ｒへの接続が存在するので
（第８図に示されたフリツプ−フロツプ４６及び
それに関連したマジヨリテイ回路４４の如きＢ要
素を介して）、応答riが得られる。従つて、事象
即ちパターンは種類ｉに属するものとして正しく
認識される。種類ｉの第２のパターン即ちSi(2)が
現われそして Si(2)・Si(1)＞１／λ゜ (7) であれば、このパターンは原型P1を発生した組
立体によつて正しく認識され、それにより適当な
Ｒバンク出力段に正の応答riを発生する。この組
立体内の値にこれ以上の変化は生じない。
種類ｉの事象即ちパターン、例えばSi(3)が現わ
れて、 Si(1)・Si(3)＜１／λ1゜ (8) である場合には、このパターンは上記P1ユニツ
トに応答を与えず且つ応答riも与えず、従つて認
識されない。
新たな種類のパターンSj(1)が入力されたが、原
型に対して既に指定されているいかなるｉユニツ
トにも応答を生じない場合には、新たな原型が作
り出される。
式(8)で示される様な場合には、Ｐバンクの別の
ユニツトがそのスレツシユホールドを越えるに充
分な出力を発生して新たな原型が形成されるまで
パターンが繰り返し付与される。次いでこの原型
により表わされたパターンを認識するため別の出
力段Ｒが選択される。この原型に対して今指定さ
れたＰユニツトとＲユニツトとの間には、適当な
要素Ｂを閉じる（第８図に示された実施例の適当
なフリツプ−フロツプをセツトする）ことによつ
て接続が確立される。
この作動プロセスは、Ｐバンクのユニツト（組
立体）当たり１つの原型という様に充分な数の原
型が記憶されるまで続けられる。然し乍ら、Ｐバ
ンクのＭ個のユニツト（組立体）全部が指定され
る必要はない。
然し乍ら、学習（訓練）中に事象即ちパターン
Sj例えばP1に応答を生じ（例えばS1(1)・Sj(1)＞
１／λ゜であり）、それ故出力r1に応答を生じ、誤つた 認識を生じる場合には、この入りパターンに対し
てP1に応答が生じなくなるまでλ1の値が次式に
基いて減少される。
λ1＜（S1(1)・Sj(1)）-1 (9) 多数の原型がＰバンクに指定されてしまうと、
その後の入りパターンは以下に述べる状態の１つ
或いはそれ以上を生じさせ、それにより、指示さ
れた修正が行なわれる。
(1) 新たなパターンがその種類の原型の作用領域
内に入つて認識される。この状態においては、
修正は不要である。
(2) 或るパターンが、その種類のそれまでのどの
原型の作用領域にも入らない。この場合は、新
たなＰスレツシユホールドユニツトが指定され
る。このユニツト（組立体）のスカラー乗算器
即ちλ段の値はパターンの指定後にその最大値
λ゜にセツトされる。更に、そのＰユニツトと適
当な応答ユニツトＲとの間のリンクが作動され
る（１に等しくセツトされる）。これは、その
入りパターンの種類の原型がそれまでに確立さ
れていない場合、或いはその入りパターンが、
適当な種類の既に確立された原型の作用領域内
に入らない場合に生じる。その時存在するどの
原型によつても未知のパターンが認識されない
場合には、新たな原型としてシステムのＰバン
クへ自動的に受け入れられそして最大の初期ス
カラー乗算λ゜が与えられる。その時存在する原
型のスカラー乗算値が、その未知のパターンを
包含する様に増大されることはない。なぜなら
ば、多数のこれら原型に対しては、若干大きな
作用領域ですら不適切な認識を生じるからであ
る。
(3) 入りパターンが、別の種類に属する１つ或い
はそれ以上の原型の作用領域内に入る。この場
合、これら原型の作用領域は、この入りパター
ンが認識スレツシユホールド以上の出力をスレ
ツシユホールドユニツトからもはや発生しなく
なるまで減少されねばならない（これはスカラ
ー係数λの値を適当に減少することによつて行
なわれる）。“作用領域内に入る”という語は、
入りパターンがその対応Ｐユニツトに認識スレ
ツシユホールド以上の応答を生じさせることを
意味することを理解されたい。従つて、或る入
力が同じ種類のもの以外の原型Ｐをその作動ス
レツシユホールド以上に励起する場合には、そ
の原型に関連した乗算器λの倍率が減少され
て、この原型がもはや作動されない様にされ
る。もちろん、対応スレツシユホールドθを増
加しても同じ作用を達成できる。
Ｋ個の種類の各々が非常に多数の事象即ちパ
ターンで構成される様な１組の特定の入力が少
なくとも２回付与されるのが好ましい（Ｋ個の
種類の各々に対してパターンの数は必ずしも同
じでない）。その理由は、上記入力の第１回目
の付与の終り付近で確立された原型は、それら
の大きさを全入力の性質（特性）と同等の値ま
で減少するに充分な入力でテスト（試用）され
ないからである。
さて、システムの全作動を以下に説明する。
或るパターンが入力されてこれが認識されなか
つたり或いは正しく認識されなかつたりした場
合には、これが原型となつて、Ａマトリクスに
記憶され、そしてＰバンクの特定のユニツト並
びにその種類に対して正しいＲバンクの応答ユ
ニツトを作動する。Ｐバンクの各原型はそのス
カラー乗算ユニツトに記憶されたλの値によつ
て決定された或る作用超球を有している。原型
が不適当な種類の信号に不適当に応答するたび
にλの値が減少される。従つて所与の原型に中
心を置く作用超球の半径を短縮する様な認識は
不適切なものである。
同じ種類の色々な境界即ち領域を別の種類の
領域で分離してマツプするたためには、多数の
原型が必要とされる。必要とされる原型の数
は、もちろん、充分に分離された集積体を作る
際の初めのコードの有効性に左右される。然し
乍ら、領域の分離が悪くても結局は本システム
によつてその領域が分類及び認識される。
上記の説明においては、原型が過多であるとこ
ろもあつたが、互いの作用球内にある原型を平均
化して原型の数を減少し満足な作動に必要な最適
数又は最小数に近ずけることができる様な色々な
変形態様を用いてもよいことは当業者に明らかで
あろう。同様の種類の原型を禁止したり、異なつ
た種類の原型をあみ出したり、そして異なつた種
類及び同様の種類の原型を除外又は取り込むとい
う様な技術を導入することもできる。これらの技
術はどれも、種類と種類との間の境界を定めたり
原型の所要数を減らしたりする上で助けとなる。
ここに述べたシステムでは、その基本的な原理が
最も簡単に示されている。
所望の標準機能を充分に果たす様に本発明によ
るシステムを学習してしまうと、学習即ち訓練モ
ードが終了され（それ以上の修正は行なわれな
い）、次いでシステムは種類を分類及び認識する
様に訓練済みモードで作動される。従つて、パタ
ーンの種類を分類してこれら種類を認識する様に
システムが訓練されて訓練作動モードが終了する
と、システムを訓練済みモードで用いることがで
きる。このため、組立体は第６図に示された構造
構成にされる。
第６図の組立体の構造と第７図の組立体の構造
とを比較すると、第６図において、加算段３０の
出力はもはや素子３５を経てＡマトリクスの結合
素子へ入力としてフイードバツクされないことが
明らかであろう。なぜならば、この作動モード中
には、Ａマトリクスの伝達関数が訓練モードでの
システムの作動によつてその最終値になつている
からである。又、第６図においては、第７図とは
異なり、加算器の出力の値をもはや修正する必要
がないので、λ段も除去されている。
従つて、“訓練済み”作動モードにおいて必要
とされる第８図の構造体は、段３６，４８及び６
４の様な出力段（オア回路１）と、これら各々の
出力段と出力P1………Pi………PMとの間の直接
的な接続だけである。λ段へのフイードバツク構
造体例えばアンド回路５８及び６０はもちろん除
去されるか或いは使用されない。フリツプ−フロ
ツプ４６，５４及び６６並びにそれに関連したマ
ジヨリテイ回路４４．５２及び６３もこの訓練済
み作動モードにおいては不要である。というの
は、種類認識における不所望な出力即ちエラーを
調査する必要がないからである。
第４図は、前記した米国特許第3950733号の第
３図に示された如きネスタ適応モジユール７４へ
パターン種類分類装置１０を接続した構造体を示
している。第４図においては、パターン種類分類
装置１０の組立体は第６図に示された形態を有
し、即ち訓練済み作動モードで用いられる構造を
有している。この組立体出力P1，P2………Pi……
…PMはネスタ適応モジユールへ入力として印加
される。換言すれば、パターン種類分類装置１０
の出力P1，P2………Pi………PMは、前記特許の
第３図に示されたネスタTMモジユールの入力
S1，S2……Sj………SNに相当する。前記特許の第
３図は、第４Ａ図として図示したが、この第４Ａ
図に見られるように、モジユールはＭ個の入力端
子７６と、Ｋ個の加算素子７８、各入力端子と各
加算素子とをそれぞれ相互接続するＭ×Ｋ個の結
合素子８０とを備えている。ネスタ適応モジユー
ルの作動についての詳細な説明は前記特許を参照
されたい。
以上に述べた情報処理システムの作動について
考えると、相当の融通性が与えられることが理解
されよう。従つて、例えば、アラビア数字の０か
ら９或いはローマアルフアベツト文字のＡからＺ
の様な一群の当該種類を認識する様にシステムを
訓練すると、Ａマトリクスの結合素子の最終的な
値及びλ段の倍率を記憶することができる。従つ
て、既に訓練された一群の種類に対してシステム
を“訓練済み”モードで使用することが所望され
る時には、再訓練を行なう必要がなく、Ａマトリ
クスの素子及びλ段の当該記憶値を挿入すること
が必要とされない。
又、或る選択された種類の成分をどの組立体で
認識せねばならないかを予め決定する様に信号ベ
クトルを特定の組立体へと向けることも本発明の
範囲内である。このため、Ａマトリクスの素子の
初期値を予め選択して訓練の過程を制御すること
ができる。
かくて、全ての目的及び効果を満足するパター
ン分類及び認識システムが開示された。然し乍
ら、本発明の好ましい実施例を開始した前記説明
及び添付図面を考慮すれば、本発明の多数の変
更、修正、及びその他の使用目的が当業者に明ら
かとなろう。例えば、個別のλ乗算段並びに固定
のスレツシユホールド値を持つたθ（スレツシユ
ホールド）段を備えるものとして本システムを説
明したが、これら２つの段を結合して、変更可能
なスレツシユホールド値を持つたスレツシユホー
ルド段にすることができることは明らかである。
又、以上に述べたシステムは、上記した目的を最
も効果的に達成する様に並列及び／又は直列で作
動することもできる。本発明の範囲内に入るこの
様な全ての変更、修正及びその他の適用は本発明
の特許請求の範囲によつて包含されるものとす
る。
【図面の簡単な説明】
第１図は本発明の原理によつて構成されたパタ
ーン種類分類装置の概念図、第２図は本発明によ
るパターン種類分類装置とパターン種類認識装置
とを結合して示した概念図、第３図は第２図のパ
ターン種類認識装置の入力、出力及び内部接続を
示す図、第４図は本発明によるパターン種類分類
装置と、米国特許第3950733号に開示されたネス
タTMモジユールとを結合して示した概念図、第
４Ａ図は、第４図に示されたネスタTMモジユー
ルのブロツク図、第５図は第１図、第２図及び第
４図に示されたパターン種類分類装置の入力、出
力及び内部構造を示す図、第６図はパターン種類
分類装置を訓練済み作動モードで作動した時の、
第５図に示した組立体の入力、出力及び内部構造
を示す図、第７図はパターン種類分類装置を訓練
作動モードで作動した時の、第５図の入力、出力
及び内部構造を示した図、そして第８図は第２図
に示したパターン種類分類装置及びパターン種類
認識装置の結合体を訓練作動モードで作動した時
の図である。 １０……パターン種類分類装置、１２……パタ
ーン種類認識装置、１４，１６，１８，２０……
オア回路、２２，２４，２６，２８……組立体、
３０……加算器、３２……λ段（スカラー乗算ユ
ニツト）、３４……θ段（スレツシユホールドユ
ニツト）、３５……制御素子、３６，４８，６４
……出力段。

Claims (1)

  1. 【特許請求の範囲】 １ Ｎ個（複数個）の入力信号S1，S2………Sj…
    ……SNによつてそれぞれ表わされたリニアにも
    非リニアにも分類可能な各パターンの種類を分類
    する情報処理システムであつて、 (a) 各入力端子ｊがそれぞれＮ個（複数個）の入
    力信号の１個（Sj）を受け取るに適したＮ個の
    入力端子と、 (b) 各加算手段ｉがそれぞれＮ個の入力と１個の
    出力とを有していて各入力に供給された信号表
    示の和を表わす信号P′iをその出力に発生する
    Ｍ個（複数個）の加算手段と、 (c) 各結合素子ijがそれぞれ上記入力端子の１個
    (j)を上記加算手段の１個(i)に結合して各入力端
    子に現われる入力信号Sjおよび各結合素子の伝
    達関数Aijに基いて各入力端子ｊから各加算手
    段ｉにそれぞれ情報を伝達するＮ×Ｍ個（複数
    個）の結合素子と、 (d) 各スレツシユホールド手段ｉがそれぞれ上記
    加算手段の１個(i)の出力に接続されていて各加
    算手段によつて発生された出力信号P′iが所与
    のスレツシユホールド値（θPi）を超えた時に
    出力信号Piを発生するＭ個のスレツシユホール
    ド手段と、 を備えていて、上記各スレツシユホールド手段の
    出力信号P1，P2………Pi………PMによつてそれ
    ぞれ表わされる出力信号Ｐが上記各入力信号S1，
    S2………Sj………SNによつて表わされ各パターン
    の種類の分類を与える、ことを特徴とする情報処
    理システム。 ２ 各出力信号r1，r2………rl………rkによつて
    表わされた出力信号Ｒを発生するために上記各ス
    レツシユホールド手段の出力信号P1，P2………Pi
    ………PMを受け入れるように接続されたネスタ
    適応モジユールを更に備えている、特許請求の範
    囲第１項に記載のシステム。 ３ 上記各スレツシユホールド手段は、それぞれ
    上記加算手段の各出力信号P′iをそれぞれ選択さ
    れた係数で修正する手段、上記修正手段によつて
    修正された出力を上記スレツシユホールド値と比
    較しそれに応答して上記出力信号Piを発生する手
    段とを含む、特許請求の範囲第１項に記載のシス
    テム。 ４ 上記各信号修正手段は、上記各出力信号P′i
    をそれぞれのスカラー係数λiで乗算するスカラー
    乗算手段である、特許請求の範囲第３項に記載の
    システム。 ５ 訓練モードの際に、入りパターンがその関連
    スレツシユホールド手段の出力Piの発生によつて
    正しく認識されるか否かに基いて上記スカラー係
    数λiを選択的に調整する手段を更に備えている、
    特許請求の範囲第４項に記載のシステム。 ６ 上記スカラー係数調整手段は、入りパターン
    が特定のスカラー係数λiに関連したスレツシユホ
    ールド手段によつて原型に対して正しく認識され
    なかつた時にその係数λiを減少する手段を含んで
    いる、特許請求の範囲第５項に記載のシステム。 ７ 上記スカラー係数減少手段は、入りパターン
    が正しく認識されなかつたたび毎に規定の量だけ
    上記スカラー係数を減少させる、特許請求の範囲
    第６項に記載のシステム。 ８ 各スカラー係数λiをその最大値λo iにセツトす
    ることによつて、確立された原型を最大値のスカ
    ラ係数に関連させる手段を更に備えている、特許
    請求の範囲第４項ないし第７項のいずれかに記載
    のシステム。 ９ 訓練モードの際に、入りパターンがスレツシ
    ユホールド手段の出力信号Piの発生によつて正し
    く認識されたかされなかつたかに基いて、各スレ
    ツシユホールド手段のスレツシユホールド値θPi
    を選択的に調整する手段を更に備えている特許請
    求の範囲第１項に記載のシステム。 １０ 上記各スレツシユホールド値調整手段は、
    入りパターンが特定のスレツシユホールド値θPi
    に関連したスレツシユホールド手段によつて原型
    に対し正しく認識されなかつた時にそのスレツシ
    ユホールド値θPiを増加させる手段を含んでいる、
    特許請求の範囲第９項に記載のシステム。 １１ 各スレツシユホールド値θPiをその最小値
    にセツトすることによつて、最小のスレツシユホ
    ールド値を用いて訓練を開始する手段を更に備え
    ている、特許請求の範囲第９項および第１０項の
    いずれかに記載のシステム。 １２ 上記スレツシユホールド手段は、少なくと
    も所与のスレツシユホールド値を有する入力に応
    答して作動されるトリガ回路である、特許請求の
    範囲第１項ないし第１０項のいずれかに記載のシ
    ステム。 １３ 上記スレツシユホールド手段の出力信号
    P1，P2………Pi………PMに応答して、それぞれ
    システムに与えられた各特定パターンの特定の種
    類を表わす各出力信号r1，r2………rl………rkで
    表わされた出力信号Ｒを発生する種類認識手段を
    更に備えている、特許請求の範囲第１項ないし第
    １０項のいずれかに記載のシステム。 １４ 上記種類認識手段はＫ個（複数個）のオア
    回路を含み、認識さるべき種類ごとに少なくとも
    １つのオア回路があり、各オア回路はそれぞれ特
    定の種類に関連した出力信号Piを受け取るように
    接続され、１個またはそれ以上の出力信号Piを受
    けた際に上記種類を表わす出力信号rlを発生す
    る、特許請求の範囲第１３項に記載のシステム。 １５ 上記種類認識手段は、 (a) １つの種類の事象を示す出力を発生するよう
    にそれぞれ選択される複数個の種類出力手段
    と、 (b) 上記各種類出力手段をそれぞれ選択的に作動
    させるため上記各種類出力手段にそれぞれ関連
    させられた手段と、 (c) 作動させられた種類出力手段から発生さるべ
    き出力と選択作動手段との同時作動に応答する
    手段と、 を含んでいる、特許請求の範囲第１３項に記載の
    システム。 １６ 前記各種類出力手段はそれぞれオア回路で
    ある、特許請求の範囲第１５項に記載のシステ
    ム。 １７ 上記種類認識手段は、更に (d) 上記各種類出力手段にそれぞれ関連させられ
    上記選択された種類出力手段からの出力の発生
    に応答して作動させられて、それに関連する作
    動手段を作動させないで上記種類出力手段を作
    動状態にスイツチすることができ、それにより
    この種類出力手段がその後その関連作動手段を
    作動させることなしに出力を発生することを可
    能にする手段と、 (e) 同時に作動させられた種類出力手段からの出
    力として意図されていない上記スレツシユホー
    ルド手段からの出力、および可能化手段のその
    前の作動によつて作動状態にスイツチし得る種
    類出力手段からの出力の発生に応答して、上記
    種類出力手段から出力を発生させる手段と、 (f) 上記種類出力手段からの上記出力に応答し
    て、上記意図されていない出力を発生したスレ
    ツシユホールド手段に関連した修正手段に上記
    出力を選択的にフイードバツクし、これら修正
    手段の修正係数の値を変化させる手段と、 を含んでいる特許請求の範囲第１５項に記載のシ
    ステム。 １８ 上記各種類出力手段は、それぞれオア回路
    である、特許請求の範囲第１７項に記載のシステ
    ム。 １９ 作動させられた種類出力手段から出力を発
    生させる上記手段は、その２個の入力の信号が同
    時に現われることによつて可能化される３入力ア
    ンド回路を含み、選択作動手段の信号がその第１
    の入力に印加され、スレツシユホールド手段の出
    力がその第２の入力に印加され、このアンド回路
    の出力は上記種類出力手段に入力として与えられ
    る、特許請求の範囲第１７項に記載のシステム。 ２０ 上記スイツチング可能化手段は、可能化の
    際、すなわち上記アンド回路から出力が発生され
    る際にセツト状態にスイツチされる双安定回路を
    含み、この双安定回路のセツト出力が上記アンド
    回路の第３の入力に印加される、特許請求の範囲
    第１９項に記載のシステム。 ２１ 上記各結合素子の出力は、それぞれその伝
    達関数Aijと結合素子に印加された信号Sjとの積
    に等しい、特許請求の範囲第１項に記載のシステ
    ム。 ２２ 訓練モードの際に、上記各結合素子の少な
    くとも１個に印加される入り信号Sjと、この結合
    素子に関連した加算手段ｉの出力信号P′iとに基
    いて、この結合素子の伝達関係Aijを修正する手
    段を更に備えている、特許請求の範囲第１項、第
    １０項および第２１項のいずれかに記載のシステ
    ム。 ２３ 上記伝達関数修正手段は、上記伝達関数の
    全てを修正するように働く、特許請求の範囲第２
    ２項に記載のシステム。 ２４ 上記伝達関数修正手段は、新たな伝達関数
    をAij（ｔ）とし、修正前の伝達関数をAij（ｔ−
    １）とし、減衰定数をγとしてその範囲を０≦γ
    ≦１とし、そして調整可能な学習パラメータをη
    として、次式 Aij（ｔ）＝γAij（ｔ−１）＋ηSiP′i に基いて伝達関数Aijを修正する、特許請求の範
    囲第２２項に記載のシステム。 ２５ 上記伝達関数修正手段は、各加算手段の出
    力P′iをその加算手段に関連した結合素子にフイ
    ードバツクする手段を含んでいる、特許請求の範
    囲第２２項に記載のシステム。 ２６ 更に、出力バンクＲを備えていて、この出
    力バンクは、 (e) 各第２入力端子ｌがそれぞれＭ個（複数個）
    の入力信号の１個（Pi）を受け取るに適したＭ
    個の第２入力端子と、 (f) 各加算手段ｋがそれぞれＭ個の入力と１個の
    出力とを有していてその各入力に印加された信
    号表示の和を表わす信号（r′k）をその出力に
    発生するように作動するＫ個（複数個）の加算
    手段と、 (g) 各結合素子Klがそれぞれ上記第２入力端子ｌ
    の１個を上記加算手段Ｋの１個に結合して第２
    入力端子に表われる信号Piおよび結合素子の伝
    達関数Bklに基いて各第２入力端子ｌから各加
    算手段ｋに情報を伝達するＭ×Ｋ（複数個）の
    結合素子と、 を含んでいる、特許請求の範囲第２２項に記載の
    システム。 ２７ 訓練モードの際に、上記出力バンクＲの結
    合素子の少くとも１個に供給された入り信号Piと
    この結合素子に関連した加算手段Ｋの出力信号rk
    とに基いて、この結合素子の伝達関数Bklを修正
    する手段を更に備えている、特許請求の範囲第２
    ６項に記載のシステム。 ２８ 原型バンクの単位ベクトルPiのｊ番目の成
    分Pi jが、 ｊ≠ｉの場合はPi j＝０、 ｊ＝ｉの場合はPi j＝１、 であり、従つて、 δAij＝Pi jSj であるとして、訓練モードの際に、上記結合素子
    の少くとも１個に供給された入り信号Piと原型バ
    ンクの単位ベクトルPiとに基いて、この結合素子
    の伝達関連エレメントAijを修正する手段を更に
    備えている、特許請求の範囲第１項、第１０項、
    第２１項および第２４項のいずれかに記載のシス
    テム。
JP3641281A 1980-03-27 1981-03-13 Self editing device for sorting and recognizing type of general pattern Granted JPS56152086A (en)

Applications Claiming Priority (1)

Application Number Priority Date Filing Date Title
US06/134,571 US4326259A (en) 1980-03-27 1980-03-27 Self organizing general pattern class separator and identifier

Publications (2)

Publication Number Publication Date
JPS56152086A JPS56152086A (en) 1981-11-25
JPS6355106B2 true JPS6355106B2 (ja) 1988-11-01

Family

ID=22463966

Family Applications (1)

Application Number Title Priority Date Filing Date
JP3641281A Granted JPS56152086A (en) 1980-03-27 1981-03-13 Self editing device for sorting and recognizing type of general pattern

Country Status (7)

Country Link
US (1) US4326259A (ja)
EP (1) EP0037164B1 (ja)
JP (1) JPS56152086A (ja)
CA (1) CA1157159A (ja)
DE (1) DE3175363D1 (ja)
ES (1) ES500677A0 (ja)
MX (1) MX151653A (ja)

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2010050334A1 (ja) * 2008-10-30 2012-03-29 コニカミノルタエムジー株式会社 情報処理装置

Families Citing this family (121)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE3026055C2 (de) * 1980-07-09 1984-01-12 Computer Gesellschaft Konstanz Mbh, 7750 Konstanz Schaltungsanordnung zur maschinellen Zeichererkennung
JPS5987581A (ja) * 1982-11-06 1984-05-21 ブル−ス・シヨ−ン・バクリ 自動パタ−ン認識自己組織化回路およびそれを実施するシステム
US4658372A (en) * 1983-05-13 1987-04-14 Fairchild Camera And Instrument Corporation Scale-space filtering
US4803641A (en) * 1984-06-06 1989-02-07 Tecknowledge, Inc. Basic expert system tool
US4648044A (en) * 1984-06-06 1987-03-03 Teknowledge, Inc. Basic expert system tool
US4658370A (en) * 1984-06-07 1987-04-14 Teknowledge, Inc. Knowledge engineering tool
US4660166A (en) * 1985-01-22 1987-04-21 Bell Telephone Laboratories, Incorporated Electronic network for collective decision based on large number of connections between signals
US4760604A (en) * 1985-02-15 1988-07-26 Nestor, Inc. Parallel, multi-unit, adaptive, nonlinear pattern class separator and identifier
US5060277A (en) * 1985-10-10 1991-10-22 Palantir Corporation Pattern classification means using feature vector regions preconstructed from reference data
US5077807A (en) * 1985-10-10 1991-12-31 Palantir Corp. Preprocessing means for use in a pattern classification system
US4719591A (en) * 1985-11-07 1988-01-12 American Telephone And Telegraph Company, At&T Bell Labs. Optimization network for the decomposition of signals
WO1987003411A1 (en) * 1985-11-27 1987-06-04 The Trustees Of Boston University Pattern encoding system
EP0244483B1 (en) * 1985-11-27 1992-07-15 Trustees Of Boston University Pattern recognition system
US4852018A (en) * 1987-01-07 1989-07-25 Trustees Of Boston University Massively parellel real-time network architectures for robots capable of self-calibrating their operating parameters through associative learning
US4807168A (en) * 1987-06-10 1989-02-21 The United States Of America As Represented By The Administrator, National Aeronautics And Space Administration Hybrid analog-digital associative neural network
US5014327A (en) * 1987-06-15 1991-05-07 Digital Equipment Corporation Parallel associative memory having improved selection and decision mechanisms for recognizing and sorting relevant patterns
US4914708A (en) * 1987-06-19 1990-04-03 Boston University System for self-organization of stable category recognition codes for analog input patterns
EP0327817B1 (en) * 1988-01-11 1996-08-28 Yozan Inc. Associative pattern conversion system and adaptation method thereof
US4958375A (en) * 1988-02-17 1990-09-18 Nestor, Inc. Parallel, multi-unit, adaptive pattern classification system using inter-unit correlations and an intra-unit class separator methodology
US4931868A (en) * 1988-05-31 1990-06-05 Grumman Aerospace Corporation Method and apparatus for detecting innovations in a scene
US5050095A (en) * 1988-05-31 1991-09-17 Honeywell Inc. Neural network auto-associative memory with two rules for varying the weights
US4979124A (en) * 1988-10-05 1990-12-18 Cornell Research Foundation Adaptive, neural-based signal processor
US5093781A (en) * 1988-10-07 1992-03-03 Hughes Aircraft Company Cellular network assignment processor using minimum/maximum convergence technique
US4914604A (en) * 1988-10-07 1990-04-03 Hughes Aircraft Company Processor for analyzing angle-only data
US5001631A (en) * 1988-10-07 1991-03-19 Hughes Aircraft Company Cellular network assignment processor using randomly triggered adaptive cell thresholds
US5003490A (en) * 1988-10-07 1991-03-26 Hughes Aircraft Company Neural network signal processor
US4930099A (en) * 1988-10-07 1990-05-29 Hughes Aircraft Company Wavefront vector correlation processor and method
US4920506A (en) * 1988-10-07 1990-04-24 Hughes Aircraft Company Ultra-high speed two-dimensional coordinate transform processor
US5083285A (en) * 1988-10-11 1992-01-21 Kabushiki Kaisha Toshiba Matrix-structured neural network with learning circuitry
US5008833A (en) * 1988-11-18 1991-04-16 California Institute Of Technology Parallel optoelectronic neural network processors
FR2639739B1 (fr) * 1988-11-25 1991-03-15 Labo Electronique Physique Procede et dispositif de compression de donnees d'image utilisant un reseau de neurones
US4912652A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Fast neural network training
US4912653A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Trainable neural network
US4912655A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Adjusting neural networks
US4912647A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Neural network training tool
US4912649A (en) * 1988-12-14 1990-03-27 Gte Government Systems Corporation Accelerating learning in neural networks
US4914603A (en) * 1988-12-14 1990-04-03 Gte Laboratories Incorporated Training neural networks
US4912654A (en) * 1988-12-14 1990-03-27 Government Systems Corporation Gte Neural networks learning method
US4912651A (en) * 1988-12-14 1990-03-27 Gte Laboratories Incorporated Speeding learning in neural networks
US5048100A (en) * 1988-12-15 1991-09-10 Michael Kuperstein Self organizing neural network method and system for general classification of patterns
US4941122A (en) * 1989-01-12 1990-07-10 Recognition Equipment Incorp. Neural network image processing system
US4974169A (en) * 1989-01-18 1990-11-27 Grumman Aerospace Corporation Neural network with memory cycling
US5033020A (en) * 1989-02-08 1991-07-16 Grumman Aerospace Corporation Optically controlled information processing system
FR2646575A1 (fr) * 1989-04-26 1990-11-02 Labo Electronique Physique Procede et structure pour la compression de donnees
US5119469A (en) * 1989-05-17 1992-06-02 United States Of America Neural network with weight adjustment based on prior history of input signals
US5222195A (en) * 1989-05-17 1993-06-22 United States Of America Dynamically stable associative learning neural system with one fixed weight
US5041976A (en) * 1989-05-18 1991-08-20 Ford Motor Company Diagnostic system using pattern recognition for electronic automotive control systems
JP2940933B2 (ja) * 1989-05-20 1999-08-25 株式会社リコー パターン認識方式
US5339818A (en) * 1989-09-20 1994-08-23 University Of Utah Research Foundation Method for determining blood pressure utilizing a neural network
US5361328A (en) * 1989-09-28 1994-11-01 Ezel, Inc. Data processing system using a neural network
US5136687A (en) * 1989-10-10 1992-08-04 Edelman Gerald M Categorization automata employing neuronal group selection with reentry
JP2724374B2 (ja) * 1989-10-11 1998-03-09 株式会社鷹山 データ処理装置
GB2245401A (en) * 1989-11-01 1992-01-02 Hughes Aircraft Co Neural network signal processor
JP2763182B2 (ja) * 1990-06-28 1998-06-11 株式会社東芝 ニューラル・ネットワークの学習方法
US5181259A (en) * 1990-09-25 1993-01-19 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration General method of pattern classification using the two domain theory
US5194864A (en) * 1990-10-03 1993-03-16 Olympus Optical Co., Ltd. Vector quantization method and apparatus
US5239594A (en) * 1991-02-12 1993-08-24 Mitsubishi Denki Kabushiki Kaisha Self-organizing pattern classification neural network system
JP3088171B2 (ja) * 1991-02-12 2000-09-18 三菱電機株式会社 自己組織型パタ−ン分類システム及び分類方法
JPH06509670A (ja) * 1991-04-29 1994-10-27 インテル・コーポレーション 差分ニューロンを包含したニューラルネットワーク
US5263120A (en) * 1991-04-29 1993-11-16 Bickel Michael A Adaptive fast fuzzy clustering system
US5357597A (en) * 1991-06-24 1994-10-18 International Business Machines Corporation Convolutional expert neural system (ConExNS)
US5963930A (en) * 1991-06-26 1999-10-05 Ricoh Company Ltd. Apparatus and method for enhancing transfer function non-linearities in pulse frequency encoded neurons
DE4133965A1 (de) * 1991-10-14 1993-04-15 Standard Elektrik Lorenz Ag Abstraktor
US10361802B1 (en) 1999-02-01 2019-07-23 Blanding Hovenweep, Llc Adaptive pattern recognition based control system and method
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US5253329A (en) * 1991-12-26 1993-10-12 The United States Of America As Represented By The Administrator Of The National Aeronautics And Space Administration Neural network for processing both spatial and temporal data with time based back-propagation
US5276771A (en) * 1991-12-27 1994-01-04 R & D Associates Rapidly converging projective neural network
US5649066A (en) * 1992-01-03 1997-07-15 The Florida State University For And On Behalf Of The Florida Board Of Regents Method and apparatus for refinement of learning in expert networks
US5438629A (en) * 1992-06-19 1995-08-01 United Parcel Service Of America, Inc. Method and apparatus for input classification using non-spherical neurons
DE69329218T2 (de) * 1992-06-19 2001-04-05 United Parcel Service Of America, Inc. Verfahren und Vorrichtung zur Eingabeklassifizierung mit einem neuronalen Netzwerk
GB9214514D0 (en) * 1992-07-08 1992-08-19 Massachusetts Inst Technology Information processing
US5479574A (en) * 1993-04-01 1995-12-26 Nestor, Inc. Method and apparatus for adaptive classification
US5537488A (en) * 1993-09-16 1996-07-16 Massachusetts Institute Of Technology Pattern recognition system with statistical classification
US5524176A (en) * 1993-10-19 1996-06-04 Daido Steel Co., Ltd. Fuzzy expert system learning network
US6167390A (en) * 1993-12-08 2000-12-26 3M Innovative Properties Company Facet classification neural network
US5557514A (en) 1994-06-23 1996-09-17 Medicode, Inc. Method and system for generating statistically-based medical provider utilization profiles
US7222079B1 (en) 1994-06-23 2007-05-22 Ingenix, Inc. Method and system for generating statistically-based medical provider utilization profiles
EP0694853B1 (en) * 1994-07-28 2002-05-02 International Business Machines Corporation Circuit for pre-charging the input vector components in a free neuron circuit during the recognition phase
EP0694852B1 (en) * 1994-07-28 2002-06-26 International Business Machines Corporation Innovative neuron circuit architectures
EP0694854B1 (en) * 1994-07-28 2002-06-05 International Business Machines Corporation Improved neural semiconductor chip architectures and neural networks incorporated therein
NZ331511A (en) * 1996-02-02 1999-07-29 Rodney Michael John Cotterill A method of processing data flows in a neural network, and a neural network
US6726684B1 (en) * 1996-07-16 2004-04-27 Arthrocare Corporation Methods for electrosurgical spine surgery
US5742741A (en) * 1996-07-18 1998-04-21 Industrial Technology Research Institute Reconfigurable neural network
US5751913A (en) * 1996-07-29 1998-05-12 Industrial Technology Research Institute Reconfigurable neural network and difference-square neuron
GB2321362A (en) * 1997-01-21 1998-07-22 Northern Telecom Ltd Generic processing capability
US6018723A (en) * 1997-05-27 2000-01-25 Visa International Service Association Method and apparatus for pattern generation
US6119103A (en) 1997-05-27 2000-09-12 Visa International Service Association Financial risk prediction systems and methods therefor
US6097834A (en) * 1997-06-13 2000-08-01 Paystation America Inc. Financial transaction processing systems and methods
US7403922B1 (en) * 1997-07-28 2008-07-22 Cybersource Corporation Method and apparatus for evaluating fraud risk in an electronic commerce transaction
US7096192B1 (en) * 1997-07-28 2006-08-22 Cybersource Corporation Method and system for detecting fraud in a credit card transaction over a computer network
US6052679A (en) * 1997-09-11 2000-04-18 International Business Machines Corporation Artificial neural networks including Boolean-complete compartments
US6560360B1 (en) * 1999-01-28 2003-05-06 Nestor, Inc. Feed forward feed back multiple neural network with context driven recognition
US8364136B2 (en) 1999-02-01 2013-01-29 Steven M Hoffberg Mobile system, a method of operating mobile system and a non-transitory computer readable medium for a programmable control of a mobile system
US7904187B2 (en) 1999-02-01 2011-03-08 Hoffberg Steven M Internet appliance system and method
RU2189078C2 (ru) * 1999-10-01 2002-09-10 Дальневосточный государственный технический университет Способ обработки сигналов
US6999943B1 (en) 2000-03-10 2006-02-14 Doublecredit.Com, Inc. Routing methods and systems for increasing payment transaction volume and profitability
US6904408B1 (en) * 2000-10-19 2005-06-07 Mccarthy John Bionet method, system and personalized web content manager responsive to browser viewers' psychological preferences, behavioral responses and physiological stress indicators
US7958027B2 (en) * 2001-03-20 2011-06-07 Goldman, Sachs & Co. Systems and methods for managing risk associated with a geo-political area
US7548883B2 (en) * 2001-03-20 2009-06-16 Goldman Sachs & Co Construction industry risk management clearinghouse
US8285615B2 (en) 2001-03-20 2012-10-09 Goldman, Sachs & Co. Construction industry risk management clearinghouse
US7904361B2 (en) * 2001-03-20 2011-03-08 Goldman Sachs & Co. Risk management customer registry
US8140415B2 (en) 2001-03-20 2012-03-20 Goldman Sachs & Co. Automated global risk management
US8209246B2 (en) 2001-03-20 2012-06-26 Goldman, Sachs & Co. Proprietary risk management clearinghouse
US20020138417A1 (en) * 2001-03-20 2002-09-26 David Lawrence Risk management clearinghouse
US8069105B2 (en) * 2001-03-20 2011-11-29 Goldman Sachs & Co. Hedge fund risk management
US8121937B2 (en) * 2001-03-20 2012-02-21 Goldman Sachs & Co. Gaming industry risk management clearinghouse
US20040006532A1 (en) * 2001-03-20 2004-01-08 David Lawrence Network access risk management
US7899722B1 (en) 2001-03-20 2011-03-01 Goldman Sachs & Co. Correspondent bank registry
US7865427B2 (en) 2001-05-30 2011-01-04 Cybersource Corporation Method and apparatus for evaluating fraud risk in an electronic commerce transaction
US6975996B2 (en) * 2001-10-09 2005-12-13 Goldman, Sachs & Co. Electronic subpoena service
AU2002367595A1 (en) * 2001-11-28 2003-09-22 Goldman, Sachs And Co. Transaction surveillance
WO2004047082A2 (en) 2002-11-14 2004-06-03 Goldman, Sachs & Co. Independent research consensus earnings estimates and methods of determining such
US8340981B1 (en) 2004-03-02 2012-12-25 Cave Consulting Group, Inc. Method, system, and computer program product for physician efficiency measurement and patient health risk stratification utilizing variable windows for episode creation
US8082207B2 (en) * 2004-06-17 2011-12-20 Certegy Check Services, Inc. Scored negative file system and method
US8442953B2 (en) 2004-07-02 2013-05-14 Goldman, Sachs & Co. Method, system, apparatus, program code and means for determining a redundancy of information
US8996481B2 (en) 2004-07-02 2015-03-31 Goldman, Sach & Co. Method, system, apparatus, program code and means for identifying and extracting information
US8762191B2 (en) 2004-07-02 2014-06-24 Goldman, Sachs & Co. Systems, methods, apparatus, and schema for storing, managing and retrieving information
US8510300B2 (en) 2004-07-02 2013-08-13 Goldman, Sachs & Co. Systems and methods for managing information associated with legal, compliance and regulatory risk
US8683620B1 (en) * 2009-04-29 2014-04-01 John F. Krumme Pool covers
US9965208B1 (en) * 2012-02-23 2018-05-08 Micron Technology, Inc. Memory device having a controller to enable and disable mode control circuitry of the controller
US10133151B2 (en) 2017-02-23 2018-11-20 International Business Machines Corporation Media-defined optical logic circuitry design

Family Cites Families (6)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
DE1549923A1 (de) * 1967-08-04 1971-05-13 Telefunken Patent Auswerteeinrichtung fuer zeichenlesende Maschinen
US3601811A (en) * 1967-12-18 1971-08-24 Matsushita Electric Industrial Co Ltd Learning machine
FR2051725B1 (ja) * 1969-07-14 1973-04-27 Matsushita Electric Industrial Co Ltd
US3810162A (en) * 1970-06-01 1974-05-07 Texas Instruments Inc Nonlinear classification recognition system
US3950733A (en) * 1974-06-06 1976-04-13 Nestor Associates Information processing system
US4044243A (en) * 1976-07-23 1977-08-23 Nestor Associates Information processing system

Cited By (1)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPWO2010050334A1 (ja) * 2008-10-30 2012-03-29 コニカミノルタエムジー株式会社 情報処理装置

Also Published As

Publication number Publication date
EP0037164A2 (en) 1981-10-07
US4326259A (en) 1982-04-20
ES8202967A1 (es) 1982-03-01
DE3175363D1 (en) 1986-10-30
EP0037164B1 (en) 1986-09-24
JPS56152086A (en) 1981-11-25
ES500677A0 (es) 1982-03-01
MX151653A (es) 1985-01-25
EP0037164A3 (en) 1982-08-04
CA1157159A (en) 1983-11-15

Similar Documents

Publication Publication Date Title
JPS6355106B2 (ja)
Sietsma et al. Creating artificial neural networks that generalize
Liu et al. Sparsely interconnected neural networks for associative memories with applications to cellular neural networks
US10853738B1 (en) Inference circuit for improving online learning
US20210334621A1 (en) Arithmetic processing system using hierarchical network
EP0450522B1 (en) A learning method for a data processing system
KR101563569B1 (ko) 학습형 다이내믹 시각 이미지 패턴 인식 시스템 및 방법
US6560582B1 (en) Dynamic memory processor
US5479569A (en) Intelligence information processing method
EP0444878B1 (en) Neural network
Aria et al. Generalized cooccurrence matrix to classify IRS-1D images using neural network
CN111783064B (zh) 图形验证码生成方法、装置、计算机设备及存储介质
EP0453939A2 (en) Learning method for data processing system
Ritter et al. A new auto-associative memory based on lattice algebra
JP3171897B2 (ja) 知識情報処理装置
JPH0535710A (ja) ニユーラルネツトワークの学習方法および学習装置
EP0450521B1 (en) A learning method for a data processing system
Vlontzos The rnn-elm classifier
Sona et al. A constructive learning algorithm for discriminant tangent models
Ueda et al. Competitive and selective learning method for vector quantizer design—Equidistortion principle and its algorithm
Garcia et al. An extended Hamming neural network for non binary pattern recognition
Voigt et al. Design of artificial neural networks with a stochastic graph-L-system
JPH0484282A (ja) 追記学習型パターン認識装置
JPH11353296A (ja) ニューラルネットワークの学習方法および文字認識装置
JP3018465B2 (ja) 疎な符号表現を用いたパターン認識方式