JPH0823863B2 - パターンを分類及び識別する装置と方法 - Google Patents

パターンを分類及び識別する装置と方法

Info

Publication number
JPH0823863B2
JPH0823863B2 JP61030604A JP3060486A JPH0823863B2 JP H0823863 B2 JPH0823863 B2 JP H0823863B2 JP 61030604 A JP61030604 A JP 61030604A JP 3060486 A JP3060486 A JP 3060486A JP H0823863 B2 JPH0823863 B2 JP H0823863B2
Authority
JP
Japan
Prior art keywords
pattern
type
prototype
signal
input
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Expired - Lifetime
Application number
JP61030604A
Other languages
English (en)
Other versions
JPS61193279A (ja
Inventor
エヌ クーパー レオン
エルバウム チヤールズ
エル ライリー ダグラス
エル スコフイールド クリストフアー
Original Assignee
ネスター インコーポレーテツド
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by ネスター インコーポレーテツド filed Critical ネスター インコーポレーテツド
Publication of JPS61193279A publication Critical patent/JPS61193279A/ja
Publication of JPH0823863B2 publication Critical patent/JPH0823863B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/24—Classification techniques
    • G06F18/241—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches
    • G06F18/2413—Classification techniques relating to the classification model, e.g. parametric or non-parametric approaches based on distances to training or reference patterns
    • G06F18/24133—Distances to prototypes
    • G06F18/24143—Distances to neighbourhood prototypes, e.g. restricted Coulomb energy networks [RCEN]
    • G—PHYSICS
    • G06—COMPUTING OR CALCULATING; COUNTING
    • G06F—ELECTRIC DIGITAL DATA PROCESSING
    • G06F18/00—Pattern recognition
    • G06F18/20—Analysing
    • G06F18/25—Fusion techniques
    • G06F18/254—Fusion techniques of classification results, e.g. of results related to same input data

Landscapes

  • Engineering & Computer Science (AREA)
  • Data Mining & Analysis (AREA)
  • Theoretical Computer Science (AREA)
  • General Engineering & Computer Science (AREA)
  • Life Sciences & Earth Sciences (AREA)
  • Bioinformatics & Computational Biology (AREA)
  • Computer Vision & Pattern Recognition (AREA)
  • Evolutionary Biology (AREA)
  • Evolutionary Computation (AREA)
  • Physics & Mathematics (AREA)
  • Artificial Intelligence (AREA)
  • General Physics & Mathematics (AREA)
  • Bioinformatics & Cheminformatics (AREA)
  • Image Analysis (AREA)
  • Compression Of Band Width Or Redundancy In Fax (AREA)
  • Compression, Expansion, Code Conversion, And Decoders (AREA)
  • Image Processing (AREA)
  • Testing Of Coins (AREA)
  • Inspection Of Paper Currency And Valuable Securities (AREA)
  • Error Detection And Correction (AREA)
  • Investigating Or Analysing Biological Materials (AREA)
  • Radar Systems Or Details Thereof (AREA)

Description

【発明の詳細な説明】 産業上の利用分野 本発明は適応情報処理システムに関する。具体的に
は、本発明は必ずしも線形に分離できないパターンの種
類（もしくはクラス）を分離し、識別するように機能す
る自己編成型の入力・出力装置に関する。
従来の技術 本出願は、1985年２月15日付で出願され、現在は破棄
されているL.N.Cooper,C.Elbaum,D.L.Reilly及びC.L.Sc
ofieldの米国特許出願第702,188号“並列、多重ユニッ
ト、適応、非線形パターン種類分離・識別装置”の部分
継続である。
本出願は、Cooperらの米国特許第3,950,733号、第4,0
44,243号、第4,254,474号、及び第4,326,259号に関連し
ている。
上述したCooperらの米国特許には、線形に分離するこ
とができない“パターン”もしくは実世界“事象”を分
離し、分類することができる方法及び装置（システム）
が開示されている。この世界外のパターンもしくは事象
は、１組の測定によって検出して記述することができ、
その結果は個々の信号s1、s2・・・skからなる入力信号
Ｓで表される。信号Ｓは、例えば画面（パターン）を登
録するカメラから、もしくはある任意の音響（パター
ン）を検出するマイクロホンから到来する信号であるこ
とができる。
上述した特許に開示されているネスタ（商標）適応モ
ジュールを備えているシステムでは、同一の種類に属す
る入力信号Ｓ（以後これら自体を“パターン”と呼ぶ）
が印加された場合、それらのすべてに対してそのシステ
ムから同一の最終応答が導出されるべきである。例えば
文字認識の応用において、どのように手書きされた“2"
に対しても、システムは、ビデオ画面、プリントアウト
等のような出力装置上に“2"の文字フォトメンバーを表
示せしめる出力信号を発生すべきである。
この型のシステム、即ちいわゆるネスタシステム（商
標）は極めて強力なパターン種類分離・識別装置であ
る。例えば操作員は、パターンの種類の分離・識別が遂
行される多次元空間の複雑な構成を知る必要なく、学習
手順を使用してこのシステムを訓練することができる。
このようなシステムは入力信号Ｓを前処理して元のパタ
ーンの若干の規定された特徴のみを表す中間信号Ｆを求
める必要がある。入力信号Ｓは、通常はネスタシステム
がパターンを認識するのに有効な情報とは無関係な情報
を含み過ぎる。
入力信号Ｓ（パターンを表している）をこの前処理段
階（エンコーディング）で処理する場合、パターンを互
いに区別できるように十分な情報は残すべきである。あ
る種類を学習するのには無関係な情報であっても、他の
種類を区別するためには重要であるかも知れない。この
理由から、若干の種類を区別する能力を危うくすること
なくすべての無関係な情報を排除する単一の前処理戦略
を選択することは困難である。
本明細書において後述するシステムは、ある意味で
は、多数のこれらネスタシステムを互いに連結する１つ
の手法であると考えることができる。各成分ネスタシス
テムは、それ自体の前処理及びエンコーディング手順を
含む完全なユニットを見做すことができる。パターン
は、これらの成分ユニットの間に発生する応答によって
識別される。各ユニットは、他のどのユニットとも異な
るそれ自体のエンコーディング手順を有している。従っ
て、そのユニットは入力信号内の若干の型に感応する。
ユニットが登録する特定の特徴の集合は、若干の型のパ
ターンの種類を学習する特別の才能をユニットに与える
ことができるが、他の型のパターンに関してはそのよう
なことはない。１つの種類は、それを学習するための最
善の才能を有するユニットによって自動的に学習され
る。同時に、他のパターンの種類を学習するには、幾つ
かの成分ユニット（その前処理及びエンコーディング特
性が原因で、単独では、これらの種類を区別するにはス
キルを十分に区別しない）の認識能力を結合する必要が
ある。これらの場合、システムはユニットの集合の応答
を相関させることによって、この種類を識別する。
この例として、再度手書き文字を識別する作業を考え
よう。一つのユニットによって登録されるパターン特性
は、それらの文字の若干の面を強調するが、他の面に関
してはそうではない。詳述すれば、抽出された特徴が
“A"、“H"、“K"、“N"等のような直線的な形状の文字
の間を十分に区別するのに役立つとしても、“B"、
“C"、“Q"等のような円形の形状を有する文字の間を良
好に分離することはできない。従って、このユニットは
直線的な形状を区別するが、円形の特徴をエンコードす
るユニットは、円形の特徴が存在し、それが特徴である
ようなパターンの種類を分離するように学習することが
できる。
手書き文字、可聴音響、及び他の多くの型のパターン
のためのエンコード（特徴抽出）計画は当分野において
は公知であり、文献に記述されている。手書き文字のた
めのこの技術の概要が1980年４月のProceedings IEEE,V
ol.68.No.4の469-487頁に所載のC.Y.Suen,M.Berthod及
びS.Moriの論文“手書き文字の自動識別−技術的現状”
に記述されている。
ネスタシステムのすべてのユニットがすべての種類を
学習する訳ではない。更に、各ユニットは、システムに
よって「全体として」登録されたすべての可能性のある
パターン特性の一部を調べるだけである。従ってパター
ンの種類の学習は、システム内のすべての個々のユニッ
トの前処理及びエンコーディングを組合わせた単一のユ
ニットからなるシステムよりは、より迅速に、またより
経済的に（システムメモリの大きさに関して）行われ
る。このシステム及びそのアーキテクチャの別の長所及
び新規な特徴は、訓練の途中で新しいユニットをシステ
ム内に組み入れる可能性を与えることである。システム
が処理することが期待されるこの種のパターンの種類が
実質的に時間と共に変化する場合には、これは特に有用
な特性である。一般的に言えば、システムが既に学習し
たパターンの種類にシステムを保持しておくことを必要
とせずに、システムの動作の途中で付加的なユニットを
組み入れることができる。
有利なことに各ネスタ適用モジュールは、若干の型の
パターンを分類するために極めて精密に、且つ正確に訓
練することができる。この巧緻さによってモジュールは
（そのユニットがパターン間の微妙な差を感知するのに
必要な前処理及びエンコーディングを有していることを
条件として）これらのパターン間の微妙な差に基づいて
分類することができる。１つの基準に基づいてパターン
を分類する高レベルの能力は、（別のモジュールもしく
はモジュールの集合からの）別の基準の集合を使用し、
その異なる集合に基づいてパターンを分類する能力を排
除するものではない。
ネスタ適応モジュール自体はパターンの分類及び識別
のための公知の装置である。具体的には、この装置は前
述したCooperらの米国特許第3,950,733号、第4,044,243
号、第4,254,474号、及び第4,326,259号に開示されてい
る。
「ネスタ適応モジュール」、もしくは「ネスタシステ
ム」は周知の「人造神経回路網」であって、生物学的な
ニューロン（神経単位）の機能を模擬した人造的な「ニ
ューロン」の入力層、少なくとも１つの隠された層、そ
して出力層を備えている。これら３つのニューロンがど
のように接続されているかを第13図に示す。
発明の概要 本発明の主たる目的は、種々様々な顕著な特徴を有す
るパターンの種類を分離し、識別することができるパタ
ーン種類分離・識別装置を提供することである。
本発明の別の目的は、小さく且つ微妙な差だけしか有
していない可能性があるパターンの種類を分離し、識別
することができるパターン種類分離・識別装置を提供す
ることである。
本発明の更に別の目的は、上述した目的を達成するこ
とができる本発明の特定のソフトウェアで実現される実
施例を提供することである。
以下の説明から明白になるであろう本発明のこれらの
目的、並びにさらなる目的は、本発明によれば、（ａ）
並列に接続され、各パターンを表す入力信号Ｓを受信す
る複数の分類ユニットと、（ｂ）分類ユニットが発生し
た出力信号に応答して、各関連パターンの種類を表す信
号出力応答Ｒを発生する種類選択装置とからなるパター
ン分類・識別システムを設けることによって達成され
る。
本発明の第１の好ましい実施例では、各分類ユニット
は、（１）入力信号Ｓに応答して、パターンに含まれる
特徴を表す中間信号Fi（F1、F2・・・Fi・・Fk）を発生
するパターン特徴エンコード装置と、（２）信号Fiに応
答して、特徴エンコード装置によってエンコードされた
特徴によって識別されるパターンの各々の種類を表す出
力信号Ri（R1、R2・・・Ri・・Rk）を発生するパターン
分類装置の両者を含む。
本発明の第２の好ましい実施例では、各分類ユニット
は上述した型ではあるが、すべてのエンコード装置の中
間信号F1、F2・・・Fi・・Fkが共通のパターン分類装置
へ供給されるパターン特徴エンコード装置を含み、この
共通のパターン分類装置があるパターンのそれぞれの種
類を表す出力信号RNを発生するようになっている。この
出力信号RNは、選択された種類を認識し、識別する種類
選択装置へ転送される。
本発明の第３の好ましい実施例では、入力信号Ｓは単
一のパターン特徴エンコード装置へ供給され、パターン
特徴エンコード装置は中間信号Ｆを発生する。この場
合、各分類ユニットはこの中間信号Ｆに応答してパター
ンの各々の種類を表す出力信号Ri（R1、R2・・・Ri・・
Rk）を発生する分離したパターン分類装置を含む。
以上のように本発明によるパターン種類分離・識別装
置は、種々様々な特徴に基づいて特定のパターンを分類
できるようにするために、この特定のパターンの特徴の
異なる集合をエンコードする可能性を利用する。パター
ン分類装置は、パターンの種々の面を“見る”ことがで
きるので、そのパターンを分類する能力は実質的に高ま
る。
同様に、単一のパターン特徴エンコード装置だけを設
けても差し支えないが、多数のパターン分類装置を設け
てエンコード装置出力の異なる面を調べることができ、
また各々を僅かに異なる手法で訓練することによってパ
ターンを多数の可能性のある種類の一つに分離すること
が可能になる。極めて多くの可能性のある種類が含まれ
る場合、パターン分類装置はそれが“見る”パターンの
微妙な差を区別することができる。
本発明をより良く理解するために、米国特許第4,326,
259号に開示されている型のｋ個のユニットU1・・・UK
が並列に（もしくは順番に）機能することを考える。各
ユニットは、入力信号Ｓを入手する手段と、信号をパタ
ーンベクトルFi（１≦ｉ≦ｋ）にエンコードする手段Ci
と、パターンベクトルと出力応答Riを学習及び登録プロ
セス中に生成される１組の原形（もしくはプロトタイ
ブ）〔Ｐ（ｊ）、（ｊ＝１・・・Ni）〕iとを比較する
手段とからなる。これらのユニットは自律的に動作する
装置である。ある外部事象（パターン）の発生により得
られた信号Ｓは、c1・・・ckとして識別されるｋ個の異
なる各コードによって中間信号F1・・・FKにエンコード
される。これらの信号は複数の種類に分離され、各ユニ
ットU1・・・UKは出力応答R1・・・RKをそれぞれ発生す
る。
以上のようにｋ個のコードは、各々が外部事象の異な
る面（もしくは特徴）を表すｋ個の信号F1・・・FKを生
成する。１つの極端な例として、コードを直交させるこ
とができる。この場合には、ある事象の所与の表現は１
つの、そして１つだけの信号Fjにエンコードされ、その
他は０にされる。（手書き文字をエンコードする例で
は、１つの字画を有するすべてのエントリがc1に入れら
れ、２つの字画を有するすべてのエントリがc2に入れら
れ、等々のようなエンコードによって、このような分割
を達成することができる。）これによりｋ個のユニット
における処理は完全に独立する。
別の極端な例では、c1＝c2＝・・・ckのようにコード
を同一にすることができる。この状況では、単一のユニ
ット以上のものは何も得られない。
ここでは、ｋ個のコードが直交しているかも知れない
し、そうではないかも知れないが、それらは同一ではな
いものとする。外部パターンの所与の表現は、一般にｋ
個のコードc1・・・ckの若干、もしくはすべてによって
非０信号にエンコードされる。これらの各コードは到来
する事象の異なる面もしくは特徴を強調することができ
る。若干のコードからの情報がパターンの若干の種類を
分離するのに役立つ一方で、他のコードからの情報はパ
ターンの更に他の種類を分離するのにより良く適し得
る。２もしくはそれ以上のコードからもたされた信号の
間を相関させることによって、パターンを最良に識別で
きることもある。
ｋ個の中間信号F1・・・FKは、パターン分類装置N1、
N2・・・Ni・・NKへ供給され、パターン分類装置はそれ
ぞれ出力応答R1・・・RKを発生する。各パターン分類装
置は、前述したCooperらの米国特許第3,950,733号、第
4,044,243号、第4,254,474号、及び第4,326,259号に開
示されている型のネスタ適応モジュールであることが好
ましい。この適応モジュールは、各々が中間信号Fiの１
つのスカラ成分ｆ（f1i、f2i・・・fMi）を受信するよ
うに結合されているＭ個の入力端子と、各々がＭ個の入
力と１つの出力とを備えその入力に印加される信号表現
の合計を表すスカラ成分信号ｒ（r1i、r2i・・・rNi）
をその出力に供給するように動作するＮ個の加算器と、
各々が加算器の１つに結合され第２のスカラ成分信号λ
ri（λは乗算器係数）を発生する少なくともＮ個のスカ
ラ乗算器と、各々がスカラ乗算器の１つに結合され第２
のスカラ成分信号が規定のしきい値レベルθiを超えた
時にスカラ出力応答pi（p1、p2・・・pi・・pN）を発生
する少なくともＮ個のしきい値装置と、そして各々が入
力端子の１つを加算器の１つに結合し各々の入力端子に
現れる信号と接合要素の伝達関数とに依存して各々の入
力端子からの情報を各々の加算器へ伝達するＭ×Ｎ個の
接合要素とを備えている。パターンを認識するために装
置が学習する訓練モード中に、接合要素に印加される到
来信号と、各々の接合要素が関連している加算器の出力
信号とに依存して、少なくとも１つの接合要素の伝達関
数が変更される。更に、関連する原形の応答がパターン
の単一の種類に限定されるように、少なくとも１つのス
カラ乗数λが変更される。
ネスタ適応モジュールは、到来したパターンベクトル
Fiと原形の集合Pj（ｊ＝１・・・Ｎ）とを比較し、パタ
ーンベクトルFiに応答する、もしくは整合する１もしく
は複数の原形（もしあれば）を表す出力応答Riを発生す
るように動作する。各ネスタ適応モジュールは訓練され
ているので、到来するパターンを分類するための独自の
原形の集合を開発する。（システムが認識するように訓
練されている種類から）パターンを表す入力ベクトルFi
が与えられ、且つ特定の原形の集合が与えられると、そ
のパターンがその種類の１もしくはそれ以上の分類の分
野に入る確率が高くなる。
各ネスタ適応モジュールNiにおいて原形が開発される
ことによって、各ネスタ適応モジュールは到来するパタ
ーンに対するそれ自体の分類戦略を展開し、実現するこ
とが可能になる。各ネスタ適応モジュールが開発する戦
略は、その関連エンコード装置Ciが独自に登録したパタ
ーン特性を調べることに基づくことができる。更に、た
とえ２もしくはそれ以上の適応モジュールが、同一の、
もしくは等価なエンコーダからそれらの入力を導出する
としても、モジュールの原形集合の開発を制御するパラ
メタに差がある可能性があるので、モジュールは同一の
入力パターンに対して異なる分類戦略を効果的に適用す
るようになる。従って本発明によるシステムは、並列に
（もしくは順番に）動作する分類ユニットの数がどのよ
うであっても、あるパターンのための最良コードと、コ
ード間の相関とを選択するようにそれら自体で編成する
ことを可能にする手段を提供し、従って種々のパターン
を分離し、分類する高度に効率的な手段が得られる。
好ましい実施例を以下に詳細に説明するが、本発明の
要旨について要約して再度述べる。
本発明のパターンの分類・識別装置は、複数の分類ユ
ニットU1、U2・・・Ui・・Ukと種類選択手段とを備え、
各分類ユニットUiは、ａ）入力信号Ｓに応答して、入力
信号Ｓが表しているパターンに含まれる特徴を表し、そ
れぞれが複数の信号成分（f1i、f2i・・・fii・・fMi）
からなる中間信号Fi（F1、F2・・・Fi・・Fk）を発生す
るパターン特徴エンコード手段と、ｂ）上記中間信号Fi
に応答して、上記入力新語Ｓが表し、中間信号Fiが表す
特徴によって識別されるパターンの可能性としての１つ
の種類を表す出力信号Ri（R1、R2・・・Ri・・Rk）を発
生するパターン分類手段とを備え、上記種類選択手段は
上記分類ユニットUiが発生する出力信号Riのすべてに応
答して上記パターンの種類を表す単一出力応答Ｒを発生
することを特徴とする。
複数の相互に独立した分類ユニットU1、U2・・・Ukす
べてが１つの共通の入力信号Ｓを受け取る。各分類ユニ
ットはこの共通の入力信号Ｓに応答して独自の出力信号
R1、R2・・・Rkを発生する。この出力信号は、入力信号
Ｓが表しているパターンのクラス即ち種類の、その個々
の分類ユニットにとってできるだけの、「最善の推定」
を表している。
１つもしくはそれ以上の分類ユニットがパターンの種
類を確かさをもって決定することがある。その場合、こ
の種類は「種類選択手段」即ちパターン分類手段によっ
て選択され、そして１つの最終出力信号で表される。し
かしながら、どの分類ユニットもパターンの種類を決定
できないこともある。その場合、パターン分類手段はそ
れが受ける種々の入力R1、R2・・・Rkに基づいて判断を
する。例えば、もし３つの入力がパターンの種類Ｘを表
しており、そして１つの入力がパターンの種類Ｙを表し
ていると、その場合はパターン分類手段は「投票」を数
えてパターンの種類Ｘを選択する。
種々の分類ユニットは、それらがそれぞれに異なる、
独自の「パターン特徴エンコード手段」（C1、C2・・・
Ck）を有しているので、相互に区別できる。各パターン
特徴エンコード手段は入力パターンの選択された特徴の
部分集合もしくはサブ・セットを表す中間信号F1、F2・
・・Fkを発生する。このような特徴の例としては次のも
のがある。
（１） パターンの限界 パターンの幅と高さ （２） パターンの湾曲 各曲線の長さ（円の程度） 曲線の半径 正もしくは負の曲線（凹か凸か） （３） パターンの隅 各隅の象限 正もしくは負の隅（凹か凸か） 前処理段階（エンコーディング）はパターンを相互か
ら区別できるようにするに足るだけの情報を保持すべき
である。しかしながら、１つの種類の学習にとって不適
切な情報が他のものを区別するには重要なこともあり、
この理由で他の種類を区別する能力を危うくすることな
くすべての不適切な情報を取り除く単一の前処理（エン
コーディング）計画を選択するということは困難であ
る。
本発明の基本思想は、入力新語Ｓを前処理して元のパ
ターンのある規定の特徴だけを表す中間信号F1にするこ
とにある。それから（例えば、ネスタモジュールによ
り）パターン分類をその中間信号F1に加えて、パターン
の種類についてできるだけ最善としての判定を出す、即
ち、試験されているパターンが属する可能性のある１つ
の特定の種類を提案する。
幾つもの可能性として提案された応答R1、R2・・・Rk
を関連させ、処理して最終の、決定的な応答Ｒを作る。
実施例 第１図乃至第９図を参照して本発明及びその好ましい
実施例を説明する。
本発明の第１の好ましい実施例を第１図に示す。この
実施例について、本発明を理解するのに十分な程度にそ
の概要を説明する。この実施例の詳細に関しては第４図
乃至第９図に基づいて説明する。
第１図に示すように、システムは世界外のパターンも
しくは“事象”を表す個々のスカラ成分信号s1、s2・・
・sMからなる信号ベクトルＳを発生する検出器10を含ん
でいる。検出器10は、各々が出力信号s1、s2・・・sMの
１つを発生する光センサのアレイのような普通の装置で
ある。
信号ベクトルＳは、ｋ個のパターン分類“ユニット"1
2、即ちユニット１、ユニット２、・・・ユニットｉ、
・・ユニットｋに並列に印加される。各ユニット（例え
ばユニットｉ）はパターン特徴エンコード装置14（Ci）
及びパターン分類装置16（Ni）からなっている。各エン
コード装置C1、C2・・・Ci・・Ckは、入力信号Ｓが表し
ているパターン内の特徴の異なる集合を、独自のコード
ci（c1、c2・・・ci・・ck）によってエンコードするこ
とが好ましい。このようにすると、それぞれのエンコー
ド装置が発生する中間信号F1、F2・・・Fi・・Fkは異な
る情報を担持することになる。
個々のパターン分類装置16（例えば装置Ni）は、前述
した米国特許第3,950,733号、第4,044,243号、第4,254,
474号、及び第4,326,259号に開示されている型のネスタ
適応モジュールからなることが好ましい。この適応モジ
ュールはエンコードされたパターンベクトルFiと、その
モジュールが訓練を通して学習したパターンの種類のた
めの“原形（もしくはプロトタイプ）”の集合とを比較
するように動作する。パターンベクトルを分類すること
が可能なネスタ適応モジュールは、パターンベクトルを
その原形の集合に対して試験することによって、出力応
答Riを発生する。各分類装置16は（訓練した結果とし
て）パターンベクトルFiを試験するための異なる原形の
集合を供給するから、分類装置の１つがエンコードされ
たパターンを分類できる確率は高くなる。
もし分類装置がＭ個の入力及びＮ個の出力を有するよ
うに、中間信号FiがＭ個のスカラ信号（f1、f2・・・
fM）からなり、また分類装置Ni16の出力応答RiがＮ個の
スカラ信号（r1、r2・・・rN）からなるものとすれば、
この分類装置16を形成しているネスタ適応モジュール
は、 （１） 各々がスカラ中間信号f1、f2・・・fMの１つを
受信するように結合されているＭ個の入力端子と、 （２） 各々がＭ個の入力と１つの出力とを有し、その
入力に印加される信号表現の合計を表すスカラ成分信号
ｒをその出力に供給するように動作する複数の加算器
と、 （３） 各々が加算器の１つに結合され、第２のスカラ
成分信号λri（λは乗算器係数）を発生するＮ個のスカ
ラ乗算器と、 （４） 各々がスカラ乗算器の１つに結合され、第２の
スカラ成分信号が規定されたしきい値レベルθiを超え
た時にスカラ出力応答pi（p1、p2・・・pi・・pN）を発
生するＮ個のしきい値装置と、 （５） 各々が入力端子の１つを１つの加算器へ結合
し、各々の入力端子に現れる信号と接合要素の“伝達関
数”とに依存して、情報を各々の入力端子から各々の加
算器へ伝達するＭ×Ｎ個の接合要素と を備えている。
ネスタ適応モジュールは、訓練中に（１）それに印加
される到来信号と各々の接合要素が関連している加算器
の出力信号とに依存して若干の接合要素の伝達関数と、
（２）スカラ乗数λと、（３）しきい値θとを変更する
適当な制御装置をも含む。
すべての分類ユニット12の出力R1、R2・・・Ri・・Rk
は共通のパターン分類装置22へ供給され、パターン分類
装置22は最終的な認識機能を遂行して共通出力応答Ｒ
（スカラ信号r1、r2・・・rNからなる）を発生する。こ
のパターン種類識別装置はどのような形状のものであっ
てもよく、例えば第３図、第４図及び第８図に示してあ
るのは前述した米国特許第4,326,259号に開示されてい
る形状のものである。識別装置22も前述した米国特許第
3,950,733号、第4,044,243号、第4,254,474号、及び第
4,326,259号に開示され、概要を説明した型のネスタ適
応モジュールによって実現することができる。識別装置
22の代替実施例に関しては後述する。
第１図が本発明の好ましい実施例を示しているのに対
して、第２図及び第３図はそれぞれ第２及び第３の実施
例を示すものであり、第２及び第３の実施例も極めて強
力なパターン種類分離・識別を行う。第２図に示す実施
例では、検出器30が発生した信号Ｓはｋ個のエンコード
装置32（C1、C2・・・Ck）へ並列に供給される。各エン
コード装置はそれぞれ中間信号F1、F2・・・Fkを発生
し、これらの中間信号は共通のパターン分類装置34へ印
加される。上述したように、この分類装置はネスタ適応
モジュールであることが好ましい。
パターン分類装置34はすべてのエンコード装置からパ
ターンベクトルを受けており、従ってエンコード装置に
よって種々にエンコードされているパターンのすべての
特徴を“見て”いるから、その分類能力は、エンコード
された特徴の単一の集合だけを通してパターン“見る”
分類ユニットに対して実質的に高められている。
この場合、１つの分類ユニット34は１つの出力応答RN
を発生し、この応答はパターン種類識別装置36へ送られ
て特定の種類が選択される。
第３図に示す本発明の第３の好ましい実施例では逆の
動作が行われる。即ち、単一のエンコード装置42が検出
器40から入力信号Ｓを受信して共通の中間信号Ｆを発生
し、それを複数のパターン分類装置44へ並列に供給す
る。これらの分類装置44の各々の出力信号R1、R2・・・
Rkは共通のパターン種類識別装置46へ供給され、種類識
別装置46は出力応答Ｒを発生する。
第１図に示す第１の実施例でも述べたように、パター
ン分類装置44及びパターン種類識別装置46の両者もしく
は何れか一方がネスタ適応モジュールであることが好ま
しい。
第２図に示す実施例は複数のエンコード装置によって
エンコードされる種々の特徴の集合によってパターンを
分類する能力が高められているのに対して、第３図に示
す実施例は複数の分類装置44によって与えられる複数の
原形の集合によって分類能力が高められている。パター
ンベクトルＦは複数の異なる、そして独自の原形の集合
と比較されるから、パターンベクトルＦがこれらの原形
の１つの範囲内に入る機会は実質的に大きくなる。
第４図は、第１図の好ましい実施例をより詳細に示し
ている。前述した米国特許第4,326,259号に開示されて
いるように、システムは多数のデジタル信号成分s1、s2
・・・sNからなる入力信号Ｓに応答する。代替として、
信号Ｓは１もしくはそれ以上のアナログ信号からなるこ
ともできる。この信号ベクトルＳは、分類して識別すべ
き実世界“パターン”もしくは“事象”に応答する検出
器110によって生成される。例えば、検出器110は手書き
文字の形状を検出する文字スキャナであることができ
る。別の例として、検出器110は可聴音響に応答して単
一のアナログ信号を発生するマイクロホンであることも
できる。
入力信号Ｓはユニット１、ユニット２・・・ユニット
ｋで示されているｋ個の“分類ユニット"112へ並列に供
給される。これらの各ユニットは、入力信号Ｓを受けて
入力信号Ｓによって表されるパターンに含まれる若干の
特徴を表す中間信号Fi（即ちF1、F2・・・Fkの１つ）を
発生するパターン特徴エンコード装置114からなってい
る。エンコード装置が発生する信号Fiのすべてが明確で
且つ互いに異なる情報を担持するように、各エンコード
装置114がパターン内の特徴の異なる集合に応答してそ
れらをエンコードすると有利である。
各分類ユニット112は、中間信号Fiに応答して入力信
号Ｓが表しているパターンの種類もしくは種類である可
能性を表す出力信号Ri（即ちR1、R2・・・Rkの１つ）を
発生し、このパターンはエンコード装置114によってエ
ンコードされる特徴によって識別される。パターン分類
装置116は、前述した米国特許第4,326,259号に開示され
ている型のパターン種類分類・識別装置であることが好
ましい。第４図に示すようにこの分類装置は、“原形”
と呼ぶ複数のアセンブリもしくは組立体118を備えてい
る。これらのアセンブリは前述した米国特許第4,326,25
9号の第７図に示されているアセンブリと類似もしくは
同一であってよい。アセンブリ118は出力p1、p2・・・p
Mを発生し、これらの出力は装置120へ送られる。装置12
0はアセンブリ118の応答をアセンブルし、もし可能であ
れば、パターン種類もしくはパターンの種類の可能性が
ある集合を識別する応答Riを発生する。例えば、このパ
ターン種類識別装置は前述した米国特許第4,326,259号
の第８図に示されている型のものであってよい。
以下に説明する本発明の好ましい実施例では、分類ユ
ニット116は、汎用デジタルコンピュータ内のシステム
ソフトウェアによって実現されており、それぞれが変数
LEVRSP、NUMCAT及びCATLEVからなる応答R1、R2・・・Rk
を報告する。これらの変数の重要度及び定義に関しては
後述する。ここでは、ｋ個の分類ユニット112が発生し
た応答Riは種類選択装置122へ並列に供給され、装置122
は入力信号Ｓが表しているパターンの種類を表す単一の
出力応答Ｒを発生すると言うに留めておく。以下に説明
する好ましい実施例では、応答Ｒは変数CERTAN、NLIM及
びCLASSLからなる。
前述した米国特許第3,950,733号、第4,044,243号、及
び第4,326,259号に開示されているように、システムは
２つのモードで動作させることができる。即ち（１）シ
ステムがそれまで“見た”ことがない新しいパターンを
認識することを学習し、それまでに見たことがあるパタ
ーンについての認識を改善するように、パターン分類装
置116内の重み付け係数、乗数及びしきい値レベルを変
更する学習もしくは訓練モードと、（２）重み付け係
数、乗数及びしきい値レベルを一定に保つ通常もしくは
訓練済モードである。訓練モード中に限り、システムは
メモリ変更制御装置124を呼出し、制御装置124は前述し
た特許に記載されている手法で重み付け係数、乗数及び
しきい値レベルを変更する。
第４図に示すパターン種類分離・識別装置は、ハード
ウェアもしくはソフトウェアの何れかで実現することが
できる。前述したように、パターン特徴エンコード装置
は、前述したC.Y.Suenらの論文“手書き文字の自動識別
−技術的現状”に記述されている手法で実現することが
できる。
各分類ユニット112内のパターン分類装置116並びに種
類選択装置122に関して、以下に第５図乃至第９図を参
照して説明する。これらの図は、これらの装置をソフト
ウェアで実現する本発明によるアルゴリズムを示してい
る。この説明では、若干の用語には独自のそして精密な
意味を与えてあるが、それらに関しては文末の「用語の
説明」に解説してある。
I.メモリ A.“原形” 前述した米国特許第4,326,259号に開示されているよ
うに、ネスタ適応モジュール内のメモリは“原形”から
なっている。各原形は若干数の入力ラインと、１つの出
力経路とを有し、この出力経路を通してシステム内の他
の要素と通信する。各原形には重み付け係数の集合（各
入力ラインに１つ）と、原形ベクトルと、原形が“オ
ン”であるか“オフ”であるかを支配するしきい値とが
組合わされている。原形の“作用領域”を限定するしき
い値は、適応モジュールが訓練モードにある時に変更可
能である。各原形は特定の種類に関連付けられている。
最後に、各原形はシステム内の特定のユニット（ユニッ
ト１、ユニット２・・・ユニットｋ）に属している。
B.P1及びP2原形 ネスタ適応モジュールのメモリ内の原形には２つの異
なる型、即ち相１（P1）原形及び相２（P2）原形があ
る。ある原形に関連するラベルの中に、その“相”を指
示する１つのラベルがある。２つの型の原形の間の区別
は、主として、それらがシステムの所与のユニット内の
パターンの分類に影響を与えることができる程度によ
る。P1原形はシステムの応答を「あいまいでなく」導く
ことができるのに対して、P2原形は、それが活動にされ
た時に、信号Ｓが表している到来パターンが複数の種類
の中の指定された１つ内に入る「かも知れない」ことを
指示するだけでしかない。
C.パターン・原形比較 あるパターンの種類を識別するために、パターンはメ
モリ内の原形群と比較される。パターンは原形にとっ
て、そのＮ入力ライン上に現れる信号の集合に見える。
パターンと原形との比較動作は幾つかの形状の何れかで
行うことができる。一つの方法では、各原形ライン
（fj）上の信号に、そのラインに割当てられている重み
（Pj）が乗ぜられ、得られたＮ個の積が合計されて原形
が見る全総合信号が求められる。
この信号ｄは原形しきい値θと比較される。もし信号ｄ
が原形しきい値θを超えれば、その原形は“活動（fir
e）”であると言われ、もしそうでなければ、原形は沈
黙（Silent）である。
ｄ＞θ（原形は活動） もし原形入力ラインに到着する信号が２進値であり、
各ラインが正もしくは負の何れかのスパイク、即ち鋭い
応答信号を運んでいれば、別の比較方法が有用である。
この場合、そのラインに割当てられている原形重み付け
係数自体も２進数である。この方法では、全原形アクテ
ィブティは、パターン信号の符号が重み付け係数の符号
と一致しない入力ラインの数の計数である。即ち、 符号（fj）≠符号（Pj）である時はuj＝１、 符号（fj）＝符号（Pj）である時はuj＝０ として、 この符号不一致の合計数が原形しきい値と比較される。
もし符号不一致計数がしきい値よりも少なければパター
ンは活動であり、もし符号不一致計数がしきい値よりも
多ければ沈黙である。従って、この方法では、 ｄ＜θ（原形は活動） になる。
D.ネスタ適応モジュールにおける平行処理 ネスタ適応モジュールの重要な特徴は、パターンと各
関連原形との比較（ある部分集合でも、もしくは全メモ
リでも）を同時に行い得ることにある。また、パターン
と所与の原形との比較では、所与の入力ライン上で遂行
される演算（乗算もしくは符号比較の何れか）を、すべ
ての入力ラインと同時に遂行することができる。この豊
富な平行処理はネスタ適応モジュールに固有の特徴であ
る。
II.応答の合成 システムの種々ユニットにおけるパターンと原形との
比較の結果は、異なるユニットにわたって分布している
活動原形の集合である。あるユニット内の活動原形はそ
のユニットから応答を放出させ、種々のｋ個のユニット
の応答が相互に作用してシステムの最終出力を発生させ
る。
A.分類ユニットの応答 ｊ番目の分類ユニット112の出力Rjは分類のリスト（C
ATLEV）と、そのリスト内の種類の数（NUMCAT）と、そ
のユニットからの応答の型を特徴付けるフラグLEVRSPと
からなる。もしそのユニットがそのパターンに対してあ
いまいでなく分類を割当てることができれば、ユニット
応答の型はLEVRSP＝“確認”になる。もしそのユニット
が分類したらしいことを示唆するだけであるか、もしく
は幾つかのそれらしい候補種類の中から決定しかねてい
る場合には、応答の型はLEVRSP＝“不確実”になる。最
後に、もしそのユニットがそのパターンに対して如何な
る分類も行うことができなければ、応答の型はLEVRSP＝
“未確認”になる。
P1及びP2原形が活動であることによってユニットの応
答にどのように異なる影響を与えるかを示すために、ユ
ニットが活動原形を１つしか有していない場合を考え
る。その原形がP1であれば、ユニットの応答はパターン
に対するこの原形の種類をあいまいでなく割当てる（LE
VRSP＝“確認”）。もしその原形がP2であれば、ユニッ
トはそのパターンに対して識別の可能性があるものとし
てこの種類を示唆するに過ぎない。ユニットの応答は未
確認になる（LEVRSP＝“不確実”）。この種類に対し、
そのユニット内においてどれ程多くのP2原形が活動であ
ろうとも、ユニットの応答は依然“不確実”である。ユ
ニット応答を組合わせてシステム分類を発生するプロセ
スでは、あいまいでない割当てを発生するユニットが不
確実な割当てを発生するユニットに優先する。
一般的には、あるユニット内の活動原形は、次のよう
な規則に従ってそのユニットの応答を決定する。もしあ
るユニット内に活動原形が存在すれば、それらによって
表される種類がCATLEV内に挿入され、NUMCAT＞０にな
る。もし少なくとも若干の活動原形がP1であり、またこ
れらP1原形に関連する種類の集合が１つの種類だけから
なっていれば、この種類が先ずCATLEV内に挿入され、ユ
ニットの応答の型はLEVRSP＝“確認”になる。活動原形
が存在しているそれ以外の如何なる環境においても、ユ
ニットの応答の型はLEVRSP＝“不確実”になる。もし活
動原形が存在しなければNUMCAT＝０であり、LVERSP＝
“未確認”になる。
B.システムの応答 システムの種類選択装置122の応答は、カテゴリCLASS
Lのリストと、このリスト内の要素の数NLIMと、論理フ
ラグCERTANとからなる。もしCERTANの値が真であれば、
システムはパターンをCLASSL内にリストされている第１
の種類に属しているものとして識別したのである（シス
テム応答は、“確認”）。もしCERTANの値が偽であり、
NLIM＞０であれば、パターンの識別に関してはシステム
は“不確実”であるが、可能性の範囲はCLASSL内にリス
トされているNLIM要素までに狭められる。これらは「最
もそれらしい」から、殆ど「それらしくない」まで順序
付けられる。（CLASSL内に１つの種類だけしか存在して
いないにも拘わらず、ソシテムが不確実になり得ること
に注目されたい。システムはこの種類を「それらしい」
ものとするが、確実な分類ではない。）もしNLIM＝０で
あれば、システム応答は“未確認”になる。
個々の分類ユニット出力からシステム応答を合成する
ために、ユニット応答を評価する順序を決定する優先順
位をユニットに割当てることができる。これはユニット
間に階層をもたらし、ユニットはこの優先順位番号で参
照される。例えば、U1に最高の優先順位を割当て、Ukに
最低の優先順位を割当てることができる。
システム応答を組織するために、個々のユニットは１
からｋまで順番に探索され、LEVRSPが“未確認”である
最初のユニットにおいて停止する。このユニットの優先
順位指標をIDNLEV（１≦IDNLEV≦ｋ）としよう。IDNLEV
ユニットに関してCATLEV内にリストされている第１の種
類がCLASSLの第１の位置に挿入される。更に、ユニット
１乃至（IDNLEV−１）に関してCATLEV内にリストされて
いる種類が、例えばユニット間の発生頻度、その種類に
関して応答するユニットの平均優先順位値のような多分
多くの方法で順序付けられ、CLASSL内の位置２を開始点
として挿入される。CERTANは真にセットされ、システム
応答は“確認”になる。
ユニットを探索した時にLEVRSPが“確認”であるユニ
ットを見出すことができなければ、それはすべてのユニ
ットのLEVRSPが“未確認”であるか、もしくは少なくと
も一つのユニットがLEVRSP＝“不確実”の何れかである
ことを意味している。もしすべてのユニットがLEVRSP＝
“未確認”であればNLIM＝０であり、システム応答は
“未確認”になる。
システム分類が得られるまでに“ポーリング”、即ち
順番に問い合わされるユニットの平均数（従って遂行さ
れる計算の平均数）を減少させるために、ユニットの階
層配列を利用することができる。この思想によれば、計
算が各ユニット内で遂行され、あいまいではない分類が
得られるユニットまで優先順位に従って下って行く。一
方、ユニットの優先順位はユニット毎に独自のものであ
る必要はない。同一の優先順位をユニットの集合に割当
てることができる。同一の優先順位にあるすべてのユニ
ットは並列に機能する。所与の優先順位にある一つのユ
ニットによって処理されるパターンは、同一優先順位を
有する何れかの、そしてすべての他のユニットにおいて
も処理されなければならない。これによって、各ユニッ
トには、システム応答に同じように貢献する機会が与え
られる。
C.投票の計数 もしすべての分類ユニットがLEVRSP＝“不確実”を有
していれば、１つのユニットの種類出力と他の複数のユ
ニットの種類出力とを相関させるように、投票とその計
数が行われる。この相関の例としてU1の種類出力が（a,
b）であり、U2の種類出力が（b,c）であるものとする。
種類ａ、ｂ、ｃに関して投票するユニットを計数する投
票の計数計画では、これらに投票１、２、１をそれぞれ
割当てることができる。システムは、ｂをパターンのカ
テゴリとして選択することになる。投票を数えるため
に、ユニットはそれらの優先順位の順番に探索され、各
ユニットを探索した後に種類投票が更新される。優先順
位ｊにおいて、ｊより少ないか、または等しい優先順位
番号を有し、そしてそれらの種類出力が与えられた種類
を含んでいるユニットの数の関数として、ある種類の投
票の計数が確定される。もしすべての最高優先順位ユニ
ットの間で１つの種類が他の何れの種類よりも多くの投
票を得ていれば、この種類が勝者を宣言して投票の計数
が終了する。もし勝者を見出せなければ、次の最高の優
先順位にあるすべてのユニットをポーリングし、勝者と
なる種類を探すことによって投票の計数が更新される。
（ここで、「投票」、「勝者」とはパターン認識の分野
において通常使用される用語で、異なるユニットの出力
について投票を数える過程とその結果とを意味してい
る。）ある優先順位まで下がって投票を計数した後に勝
者が見出されたものとすれば、ポーリングされたユニッ
トの種類出力は最高投票から最低投票までの順序でCLAS
SL内へ入れられる。もし他の何れの種類よりも多くの投
票を得た単一の種類が存在すればCERTANは真にセットさ
れ、システム応答は“未確認”になる。もし投票を計数
した後に単一の種類が他の何れの種類よりも多くの投票
を得なければ、CERTANは偽にセットされ、システム応答
は“不確実”になる。
III.メモリの変更 ネスタ適応モジュールのメモリに対する変更は、訓練
中に、パターン及びその種類（この種類は、典型的には
ユーザによって供給される）の提示に応答して行われ
る。モジュールメモリの変更に含まれる基本的な動作は
（１）P1原形の委任（commitment）、（２）P1原形のし
きい値の縮小、（３）P1原形からP2原形への変換、及び
（４）P2原形の委任である。
A.P1原形の委任 分類ユニット内のP1原形の委任のプロセスは、前述し
た米国特許第4,326,259号に開示されている原形委任手
順に基づいている。もしP1原形をUj内に委任するのであ
れば、このユニット内のパターンコードベクトルFjがUj
内の新しい原形ベクトルＰ（ｍ）になり、そのパターン
の種類は新しく作られた原形の種類になる。前述したよ
うに、ある原形のしきい値はその原形ベクトルが配置さ
れた多次元パターン空間内の“作用領域”の半径であ
り、“作用領域”を決める。（これは、パターン・原形
比較の特定の詳細には無関係に真である。）作用領域は
原形上に中心を定められており、それを取り囲んである
距離にわたって伸びている。この距離はしきい値によっ
て決定される。新しく委任された原形のしきい値は、異
なる種類の（P1もしくはP2型の）最も近い原形までの距
離より短いか、もしくは等しい値に、もしくはある省略
時の値、即ち欠落値（他のパターンの作用領域に抵触す
ることのない小さい選択値）に初期化される。
原形はある最小しきい値を有していなければならな
い。もし新しく委任されたP1原形に割当てるべきしきい
値がこの最小しきい値よりも小さければP1に委任する企
ては失敗であり、そのP1原形をそのベクトル及び種類と
共にこのユニットのメモリに追加することはできない。
B.原形しきい値の縮小 ある原形のしきい値の縮小は、後刻、このパターンと
その原形とを比較する際にその原形が活動にならないよ
うに、その原形のしきい値を変更するのである。一般に
これは、そのパターンとその原形との間の距離より短い
か、もしくは等しいある数に原形のしきい値をセットす
ることを含む。
C.P1原形からP2原形への変換 もしP1原形のしきい値の大きさを縮小する途中で、そ
れをP1しきい値の最小値以下に縮小させる必要を生じた
場合には、P1原形をP2原形に変換することができる。こ
のような事態が発生した場合には、その原形にはP2原形
のフラグが立てられ、そのしきい値はP1最小値と最も近
いP1までの距離との間のある数にセットされる。
D.P2原形の委任 もしP2原形をあるユニットに委任したければ、入力パ
ターンのコードベクトル及び種類が、その与えられたユ
ニットにおける原形ベクトル及び種類になる。その原形
にはP2原形のフラグが立てられる。そのしきい値は、最
も近いP1原形までの距離か、または空間の大きさのある
パーセンテージの何れか小さい方にセットされる。
E.学習のアルゴリズム 学習の途中でこれらの異なるメカニズムを如何に調和
させて編成するかを記述するアルゴリズムには、多くの
バリエーションがある。一般的に言えば、以下のように
要約することができる。種類が入力パターンの種類とは
異なる原形が、不適切な原形として既知であるものとす
る。種類が到来するパターンの種類と整合する原形を適
切な原形と呼ぶことにする。
メモリを変更する最初の段階は、すべての活動である
不適切なP1原形のしきい値を縮小し、それらが現在出現
中のパターンに応答しないようにすることである。（こ
のアルゴリズムの別のバージョンでは、活動P1原形のこ
のしきい値変更は、そのパターンを識別したユニットの
優先順位より低い優先順位のユニットに対してのみ行わ
れる。）これを行った後に、もしそのパターンが適切に
識別されなければ、システムは、新しいP1原形を受け入
れることができ、そして考え得る最高の優先順位を有す
るユニット内にこのパターンをP1原形として委任するこ
とを試みる。
もしどのユニットもこのパターンをP1原形として委任
されることができなければ、適切なP2原形が既に活動で
ない限り、システムは最高優先順位のユニットU1から開
始して、このパターンをP2原形として委任する。投票の
計数が繰り返される。これでもしシステム応答がCERTAN
＝真になりそしてCLASSLの第１要素が適切な分類になれ
ば、このパターンはメモリのさらなる変更を生じさせな
い。代替として、もしシステム応答がパターンの適切な
分類の１つでなければ、次に最高の優先順位のユニット
U2に対してP2委任が試みられ、投票の計数が繰り返され
る。適切な種類があいまいではなくシステム応答となる
か、もしくは最低優先順位を有するすべてのユニットを
処理した後に、プロセスは終了する。後者の場合には、
不確実ではあっても、システムは種類の集合をそのパタ
ーンの識別のための最も「それらしい」候補として供給
し、この集合は必然的に適切なパターン種類を含むこと
になる。
IV.システムの動作例 A.事例I.−分離用コードの選択（第10図参照） システムの機能を説明するために、２つのコードc1及
びc2が存在し、パターン種類“a"の種々の表現がc1によ
って十分に分離されてはいるが、c2によっては別のパタ
ーンの種類“b"と見分けがつかないようになっているこ
とを考える。従ってc1及びc2の空間において、c1では
“a"の境界を“b"の境界から完全に分離させることがで
きるが、c2では“a"の一部が“b"の一部と同一の領域を
占めている。明らかに、c1ではａとｂとを容易に分離
し、分類するのに対して、c2ではそれらを分離すること
は非常に困難である。（実際に、c2に基づく装置はａ及
びｂを信頼できるように分類することはできない。）こ
れら２つのコードを実現している２つのユニットに優先
順位を割当てる方法とは無関係に、これら２つのパター
ン種類を分離する原形を開発するためのコードとして、
システムはc1を選択することができよう。
c1をU1によって、またc2をU2によって実現しているも
のとする。
c1→U1 c2→U2 （U1の方が優先順位が高い。）この場合U1はP1原形を入
手し、これらの原形の作用領域が標準の手法で調整さ
れ、システムのメモリはU1内のａ及びｂテリトリを確実
にカバーするように収斂する。
今度は、c2をU1によって、またc1をU2によって実現し
ているものとする。
c2→U1 c1→U2 この場合も、U1はP1原形を入手し始める。しかしなが
ら、訓練の途中でそれらはP2原形に縮小される。という
のは、P1の作用フィールドがP2の作用フィールドに侵入
する程大きいと分類エラーが生じるからである。このよ
うになると、U2がP1原形を入手し始める。それらの作用
フィールドの大きさは、２つの種類領域をカバーし、分
離するように変更される。U2が到来事象を適切に分類し
始めると、U1における原形委任が止む。訓練の途中で、
U1の不適切な応答が排除され、その残りの原形はすべて
P2に変換される。従ってU1の応答型は“未確認”もしく
は“不確実”になる。その結果、システムの応答は専ら
U2によって決定されることになる（種類領域が適切に分
離されるようなコードc1）。
最後に、U1及びU2に同じ優先順位が割当てられている
事例を考える。
c1→U1 c2→U2 優先順位（U1）＝優先順位（U2） この場合、両ユニットは同時にP1原形を入手し始める。
しかしながらこの場合も不適切な原形がそれらの作用フ
ィールドを縮小するにつれてU2内の原形はP2原形に変換
され、一方U1においてはａ及びｂ種類テリトリを分離し
てカバーするようになる。U1の応答があいまいではなく
適切になる頻度が増し、両ユニットにおけるP1原形の委
任は止む。結局、システムの応答はU1の出力だけに基づ
くようになる。
B.事例II.−コード間の相関（第11図参照） 別の例として、２つのコードと３つの種類ａ、ｂ及び
ｅが存在するような状況を考える。コードc1内では、種
類ａは十分に分離されているが、種類ｂ及びｅは同一の
領域を占めている。しかしながらコードc2内では、種類
ｂは隣接する種類から十分に分離されているが、種類ａ
及びｅは重なり合っている。
上述した事例I.の説明から、これらのコードを実現し
ているユニットにどのような優先順位が割当てられてい
るかには関係なく、システムはP1原形をc1に委任して種
類ａを分離して限定させ、また、同様に、c2にP1原形を
委任して種類ｂを限定させることが可能である。更にc1
に実現しているユニットは、型ａのパターンに対するシ
ステム応答に関して優勢であり、一方c2を実現している
ユニットは、ｂパターンに対するシステム応答を制御す
る。しかしながら、システムはその入力の中から種類ｅ
の例を弁別することをどのようにして学習するのであろ
うか？ その答は、P2原形の貢献にある。c1のためのユニット
は、領域（b,e）内のｂもしくはｅに関してP1原形を保
持することはできない。同様にc2のためのユニットは、
領域（a,e）内のａもしくはｅに関してP1原形を保持す
ることはできない。コードc1及びc2を実現しているユニ
ットにどのような優先順位が割当てられていようとも、
c1内の（b,e）及びc2内の（a,e）の両領域はｅのための
P2原形によってカバーされ始める。これらのカバーリン
グは、少なくとも次のような意味において相補的であ
る。説明の都合上、c1のためのユニットの方が優先順位
が高いものとする。システムの訓練は、ｅが提示された
時にU1の応答がｅにおいて“不確実”になるか、もしく
はｂまたはｅにおいて“不確実”になるの何れかである
ような（b,e）領域をカバーするように行われる。前述
したように、c2の領域（a,e）においてはP1原形が生き
延びることはないから、U2がシステム出力に優勢となる
ことはできない。投票の計数によるｅのシステム分類と
して、U1応答をｅは“不確実”にする。一方、もしｂも
しくはｅにおけるU1の応答が“不確実”であれば、c2に
おいて開発される写像の相補性のために、U1の応答はｅ
において“不確実”、もしくはａまたはｅにおいて“不
確実”の何れかにされる。何れの場合も、投票の計数に
よって両ユニットからの応答は分類応答ｅに組合わされ
る。この例では、どのようにしてシステムは幾つかのユ
ニットの応答を相関させ、どのコードでも分離されるこ
とがないパターンカテゴリを分離し、分類するかを学習
したのである。
C.文字認識における問題例（第12図参照） 最後に、文字認識におけるある問題に対してこのシス
テムを適用する簡単な例を考える。３つのブロック体の
文字Ｈ、Ｉ及び□を認識するようにシステムを訓練した
いものとする。エンコードユニットのために極めて簡単
なコードの集合を選択する。c1を、１つの次元において
はパターン内の水平線セグメントの数を計数し、別の次
元においては水平セグメントの平均長と最長セグメント
との比を記録するコードであると定義する。またc2は、
パターン内の垂直セグメントに対して同じ情報を記録す
るコードであるとする。
これらの３つの文字の場合に明らかなように、ブロッ
ク体で書かれた時にc1内のパターン種類テリトリ（水平
セグメント）は、Ｈ（１セグメント）と、Ｉ及び□（２
セグメント）とを区別するように選択してある。c2内の
パターン種類テリトリ（垂直セグメント）は、Ｉ（１セ
グメント）と、Ｈ及び□（２セグメント）とを区別す
る。
これは上述の事例II.の１つの例であって、Ｈが種類
ａであり、Ｉが種類ｂであり、そして□が種類ｅであ
る。ここでは、c1内のａ領域は１つの点であり、（b,
e）領域は１本の線内の点の集合である。c2コード内で
は、ｂ領域は１つの点であり、（a,e）領域は１本の線
である。事例II.の説明では、種類テリトリのジオメト
リには何等の制約も課せられていなかったことに注目さ
れたい。
どのユニットがどのコードを実現しているかには無関
係に、システムメモリはc1内のＨのための点をP1原形で
カバーするように展開する。同様に、訓練によって、c2
内のＩを表す点をP1がカバーとするようになる。c1及び
c2内の２つの線領域は□のための相補P2写像によってカ
バーされる。結果として、そしてそのようにする特定の
命令の援助なしで、システムはＨ及びＩのための個々の
分離用コードを選択することを学習し、文字種類□を学
習するために両コードからの情報を相関させることを学
習する。
用語の説明 種類： あるパターンの種類分離・識別装置から同一の応答を
引き出すパターンの群の概念的な定義。この群内のパタ
ーンを表すすべてのベクトル信号Ｓは、同一の出力応答
Ｒを発生する。訓練される前のネスタ適応モジュール
は、プリセットされた、もしくは先入された如何なる種
類をも有していない。
分類ユニット： 概念的に（もしくは物理的に）分離したシステムの複
数のユニットの一つ。これらのユニットは並列に、もし
くは順番に動作し、各ユニットはエンコード部分と分類
部分の両方を備えている。エンコード部分はベクトル信
号Ｓをエンコードされたベクトル信号Ｆに変換し、分類
部分はこのベクトル信号Ｆをベクトル信号Ｓが表す入力
パターンの種類を識別する独自の出力応答Ｒに変換しよ
うとする。各分類ユニットは、システム内のそれ自体の
階層レベル、もしくは“優先順位”によって指定され
る。
見分けがつかないゾーン １より多いパターン種類に関連している多次元パター
ン空間内の領域。典型的にはこれらの領域は、各々が異
なる種類に関連する相２原形の少なくとも２つの重なり
合った相でカバーされている。ある場合には、これらの
ゾーンは異なる種類のための相１原形の重なり合った作
用フィールドによってもカバーされる。
相関： 複数のネスタ適応モジュールの幾つかの出力応答の中
からの適切な種類の選択。これらの各ネスタ適応モジュ
ールには、同一入力パターンを表しているエンコードさ
れたベクトル信号Ｆが提示されている。
エンコード： 入力パターンを表している到来ベクトル信号Ｓの、コ
ード“c"を使用してエンコードされたベクトル信号Ｆへ
の変換。この変換は、パターン内の特定の特徴の存否に
依存する。この変換の目的は、信号Ｓ内に含まれる無関
係情報を排除することにある。
事象： ベクトル信号Ｓによって検出し、表すことができる実
世界の出現。例えば事象は、カメラによって検出可能な
視覚パターンであっても、もしくはマイクロホンによっ
て検出可能な音響パターンであってもよい。“事象”と
いう語は、“パターン”と同義に使用して差し支えな
い。
原形の作用フィールド： ある原形上に中心を定められている多次元パターン空
間内の可変の大きさの領域もしくはテリトリ。提示され
ると、このテリトリ内に入る入力パターンがその原形を
活動にする。
隣接探索： 多次元パターン空間において、ある入力パターンを表
す点からある距離内で隣接する原形に関するネスタ適応
モジュール内の探索。
ネスタ適応モジュール： 米国特許第3,950,733号、第4,044,243号、第4,254,47
4号、及び第4,326,259号の１もしくはそれ以上に開示さ
れている装置、もしくは方法。
パターン： 実世界“事象”によってもたらされ、ベクトル信号Ｓ
によって表され、そしてパターン種類分離・識別装置に
よって分類さるべきデータの特定の集合。パターン種類
分離・識別装置に提示された各パターンは、先に提示さ
れた他のすべてのパターンとは少なくとも僅かに異なる
ことがあり得るが、任意数の種類の１つにグループ化す
ることができる。
パターン信号： パターン種類分離・識別装置への入力パターンを表す
個々のスカラ信号s1、s2・・・skからなるベクトル信号
Ｓ。
相１原形： “活動”時に、ネスタ適応モジュールの応答を導き、
特定の出力応答を発生させる原形の１つの型。
相２原形： “活動”時に、到来パターンが複数の種類の中の指定
された１つに入り得ることだけを指示できる原形の１つ
の型。
原形： ネスタ適応モジュールのメモリ内に記憶されるパター
ンのプロトタイプ的表現。各原形は、（１）多次元パタ
ーン空間内のベクトルと、（２）そのパターン空間内の
“作用領域”と、（３）その原形が関連している特定の
パターン種類と、（４）その原形の相を指定するラベル
によってメモリ内に限定される。
原形“委任": ある入力パターンに関連する、及びそれが提示された
結果とする、ネスタ適応モジュール内に新しい原形（相
１原形もしくは相２原形の何れか）の確立。訓練中、入
力パターンが提示されると、すべての入力パターンは既
存原形の作用フィールド内に入るか、もしくは新しい原
形を形成させる。
原形の“活動": ある原形は、ベクトル信号Ｓによって表される入力パ
ターンがその原形の作用フィールド内に入ると、“活
動”になったと言う。活動になると、その原形が存在し
ているネスタ適応モジュールに出力応答を発生させる。
システムレベル： 同一の優先順位を有する分類ユニットの集まり。
投票の計数： 入力パターンが多次元パターン空間内の“見分けがつ
かないゾーン”内に入ると使用される相関技術。
以上に、前述したすべての目的を満足させるような新
しい並列、多重ユニット、適応非線形パターン種類分離
・識別装置を説明した。しかしながら、当分野に精通し
ていれば、上述した説明から本発明の多くの変化、変
更、用途、及び応用は明白であろう。これらの変化、変
更、用途、及び応用は本発明の思想及び範囲から逸脱す
るものではないことを理解されたい。
【図面の簡単な説明】 第１図は、本発明の第１の好ましい実施例によるパター
ン種類分離・識別装置のブロック線図である。 第２図は、本発明の第２の好ましい実施例によるパター
ン種類分離・識別装置のブロック線図である。 第３図は、本発明の第３の好ましい実施例によるパター
ン種類分離・識別装置のブロック線図である。 第４図は、第１図に示したパターン種類分離・識別装置
の第１の好ましい実施例の詳細なブロック線図である。 第５図は、第４図に示したパターン種類分離・識別装置
を実現するソフトウェアシステム（ネスタシステム（商
標））のためのアルゴリズムを示す流れ図である。 第６図は、第５図に示したパターン分類ユニット内のパ
ターン・原形比較のためのアルゴリズムを示す流れ図で
ある。 第７図は、第５図のシステム内の分類ユニットの応答を
アセンブルするアルゴリズムを示す流れ図である。 第８図は、第５図のシステムの応答をアセンブルするア
ルゴリズムを示す流れ図である。 第９図は、第５図のシステム内の分類ユニットのメモリ
を変更するための学習アルゴリズムを示す流れ図であ
る。 第10図は、分離用コードの選択を説明する図である。 第11図は、コード間の相関を説明する図である。 第12図は、例として取り上げた３つの文字についてのパ
ターン種類テリトリを示す図である。 第13図は、ネスタ適応モジュールを説明するために、そ
の中の３つのニューロンがどのように接続されているか
を示す図である。 10……検出器、12……分類ユニット、14……パターン特
徴エンコード装置、16……パターン分類装置、22……共
通のパターン種類識別装置、30……検出器 32……エンコード装置、34……パターン分類装置、36…
…パターン種類識別装置、40……検出器、42……エンコ
ード装置、44……パターン分類装置、46……パターン種
類識別装置。
───────────────────────────────────────────────────── フロントページの続き (72)発明者 ダグラス エル ライリー アメリカ合衆国 ロード アイランド州 02906 プロヴイデンス イースト マニ ング ストリート 69 (72)発明者 クリストフアー エル スコフイールド アメリカ合衆国 ロード アイランド州 02906 プロヴイデンス モーリス アベ ニユー 478 (56)参考文献 特開 昭51−21749（ＪＰ，Ａ) 特開 昭51−60122（ＪＰ，Ａ) 特開 昭56−152086（ＪＰ，Ａ)

Claims (36)

    【特許請求の範囲】
  1. 【請求項１】入力信号Ｓが表すパターンを分類し、識別
    する装置において、 複数の分類ユニットU1、U2・・・Ui・・Ukと種類選択手
    段とを備え、 （ａ） 各分類ユニットは、 （１） 前記の入力信号Ｓに応答して、その入力信号Ｓ
    が表しているパターンに含まれる特徴を表す中間信号Fi
    （F1、F2・・・Fi・・Fk）を発生するパターン特徴エン
    コード手段と、 （２） 前記の中間信号Fiに応答して、その中間信号Fi
    が表す特徴によって識別された、入力信号Ｓが表してい
    るパターンの可能性としての１つの種類を表している出
    力信号Ri（R1、R2・・・Ri・・Rk）を発生するパターン
    分類手段と を備え、 （ｂ） 前記の種類選択手段は、 前記のパターン分類手段が発生する出力信号Riのすべて
    に応答して、前記のパターンの種類を表す単一の出力応
    答Ｒを発生することを特徴とするパターン分類・識別装
    置。
  2. 【請求項２】前記の各パターン特徴エンコード手段は、
    それが生成する前記の中間信号Fiのすべてが独自で、且
    つ互いに異なるように前記のパターン内の特徴の異なる
    集合をエンコードする特許請求の範囲１項に記載の装
    置。
  3. 【請求項３】前記の各パターン分類手段は、それが生成
    する前記の中間信号Riのすべてが独自で、且つ互いに異
    なるように前記のパターンを前記の種類の異なる集合毎
    に分類する特許請求の範囲１項に記載の装置。
  4. 【請求項４】前記の種類選択手段は、識別可能なパター
    ンの種類を最良に表している出力信号Riを選択する手段
    を含む特許請求の範囲１項に記載の装置。
  5. 【請求項５】前記のパターン分類手段は、ネスタ適応モ
    ジュールである特許請求の範囲１項に記載の装置。
  6. 【請求項６】前記のネスタ適応モジュールは、 （１） 各々が中間信号Ｆの１つのスカラ成分fi（f1、
    f2・・・fi・・fM）を受信するように結合されているＭ
    個の入力端子と、 （２） 各々がＭ個の入力と、１つの出力とを有し、そ
    の入力に印加される信号の合計を表す１つのスカラ成分
    信号rj（r1、r2・・・rj・・rN）をその出力に発生する
    ように動作するＮ個の加算手段と、 （３） 各々が前記の加算手段の１つに結合され、各々
    に印加されるスカラ成分信号が規定されたしきい値レベ
    ルθiを超えるとスカラ出力応答pi（p1、p2・・・pi・
    ・pN）を発生するＮ個のしきい値装置と、 （４） 各々が前記の入力端子の１つと前記加算手段の
    １つとを連結し、各々の入力端子に現れる信号と、接合
    要素の伝達関数とに依存して、各々の入力端子からそれ
    ぞれの加算手段へ情報を伝達するＭ×Ｎ個の接合要素と を備え、それにより各々のスカラ出力応答p1、p2・・・
    pNが前記のモジュールの出力応答Ｒの成分になるように
    した特許請求の範囲５項に記載の装置。
  7. 【請求項７】前記のネスタ適応モジュールは、各々が前
    記の加算手段の１つと、その関連するしきい値装置との
    間に結合され、λを乗数として、スカラ成分信号λriを
    発生するＮ個のスカラ乗算器をも備えている特許請求の
    範囲６項に記載の装置。
  8. 【請求項８】パターンを認識するために装置が学習する
    訓練モード中に、各々に印加される到来信号と、前記の
    各々の接合要素が関連している前記の加算手段の出力信
    号とに依存して、少なくとも１つの前記の接合要素の伝
    達関数を変更する手段をも備えている特許請求の範囲６
    項に記載の装置。
  9. 【請求項９】パターンを認識するために装置が学習する
    訓練モード中に、少なくとも１つの前記のスカラ乗算器
    の前記の乗数λを変更してあいまいな種類分離及び識別
    を回避する手段をも備えている特許請求の範囲７項に記
    載の装置。
  10. 【請求項１０】パターンを認識するために装置が学習す
    る訓練モード中に、前記のしきい値レベルθを変更して
    あいまいな種類分離及び識別を回避する手段をも備えて
    いる特許請求の範囲６項に記載の装置。
  11. 【請求項１１】前記の種類選択手段は、ネスタ適応モジ
    ュールである特許請求の範囲１項に記載の装置。
  12. 【請求項１２】前記のネスタ適応モジュールは、 （１） 各々が中間信号Fiの１つのスカラ成分fi（f1、
    f2・・・fi・・fM）を受信するように結合されているＭ
    個の入力端子と、 （２） 各々がＭ個の入力と、１つの出力とを有し、そ
    の入力に印加される信号の合計を表す第１のスカラ成分
    信号rj（r1、r2・・・rj・・rN）をその出力に発生する
    ように動作するＮ個の加算手段と、 （３） 各々が前記の加算手段の１つに結合され、各々
    に印加されるスカラ成分信号が規定されたしきい値レベ
    ルθiを超えるとスカラ出力応答pi（p1、p2・・・pi・
    ・pN）を発生するＮ個のしきい値装置と、 （４） 各々が前記の入力端子の１つと前記加算手段の
    １つとを連結し、各々の入力端子に現れる信号と、接合
    要素の伝達関数とに依存して、各々の入力端子から各々
    の加算手段へ情報を伝達するＭ×Ｎ個の接合要素と を備え、それにより各々のスカラ出力応答p1、p2・・・
    pNが前記のモジュールの出力応答Ｒの成分になるように
    した特許請求の範囲11項に記載の装置。
  13. 【請求項１３】前記のネスタ適応モジュールは、各々が
    前記の加算手段の１つと、その関連するしきい値装置と
    の間に結合され、λを乗数として、スカラ成分信号λri
    を発生するＮ個のスカラ乗算器をも備えている特許請求
    の範囲12項に記載の装置。
  14. 【請求項１４】パターンを認識するために装置が学習す
    る訓練モード中に、各々に印加される到来信号と、前記
    の各々の接合要素が関連している前記の加算手段の出力
    信号とに依存して、少なくとも１つの前記の接合要素の
    伝達関数を変更する手段をも備えている特許請求の範囲
    12項に記載の装置。
  15. 【請求項１５】パターンを認識するために装置が学習す
    る訓練モード中に、少なくとも１つの前記のスカラ乗算
    器の前記の乗数λを変更してあいまいな種類分離及び識
    別を回避する手段をも備えている特許請求の範囲13項に
    記載の装置。
  16. 【請求項１６】パターンを認識するために装置が学習す
    る訓練モード中に、前記のしきい値レベルθを変更して
    あいまいな種類分離及び識別を回避する手段をも備えて
    いる特許請求の範囲12項に記載の装置。
  17. 【請求項１７】前記のパターン分類手段は、多次元パタ
    ーン空間内の複数の原形を記憶する手段と、前記の中間
    信号Ｆが表している入力パターンと前記のメモリ手段内
    に記憶されている前記の各原形とを比較して前記の入力
    パターンが少なくとも１つの上記原形の作用領域内に入
    るか、否かを決定する手段とを含む特許請求の範囲１項
    に記載の装置。
  18. 【請求項１８】前記の各原形は、前記の多次元パターン
    空間内のベクトル位置と、前記のパターン空間内のベク
    トル位置に関して作用領域の大きさを限定するスカラ距
    離と、前記の原形が関連している１つの特定の種類とを
    前記のメモリ手段内に記憶されている原形情報として含
    み、前記の比較手段は、前記のパターン空間内の前記の
    入力パターンの位置が１またはそれ以上の前記の原形の
    作用領域内に入るか、否かを決定し、もし前記の入力パ
    ターンの位置が前記の原形の作用領域内に入ればその原
    形に関連している種類を表す応答を発生する手段を含む
    特許請求の範囲17項に記載の装置。
  19. 【請求項１９】前記の各原形は少なくとも２つの型の１
    つによって指定され、前記の指定される型はその関連し
    ている原形のための前記のメモリ手段内に前記の原形情
    報の一部として記憶されており、第１の型の原形は入力
    パターンの種類がその作用領域内に入ることを確実に認
    識したことを表す第１の出力信号１Riを発生し、第２の
    型の原形は入力パターンの種類がその作用領域内に入る
    可能性はあるが確実には認識していないことを表す第２
    の出力信号２Riを発生する特許請求の範囲18項に記載の
    装置。
  20. 【請求項２０】前記のパターン分類手段は、パターンを
    認識するために装置が学習する訓練モード中に、入力パ
    ターンの受信に応答して前記のメモリ手段内の前記の原
    形情報を変更する手段をも含む特許請求の範囲18項に記
    載の装置。
  21. 【請求項２１】前記の原形情報を変更する手段は、もし
    入力パターンがある原形の作用領域内に入ればその原形
    の前記のスカラ距離を縮小してその原形に関連している
    種類を表す応答Riを発生し、その種類が適切でない場合
    には前記の入力パターンがその原形の作用領域外に出る
    ように前記のスカラ距離を十分に縮小する特許請求の範
    囲20項に記載の装置。
  22. 【請求項２２】前記のスカラ距離は、前記の原形の前記
    のパターン空間内のベクトル位置と前記の入力パターン
    との間の距離に実質的に等しいが、その距離よりは小さ
    い値まで縮小される特許請求の範囲21項に記載の装置。
  23. 【請求項２３】前記の各原形は少なくとも２つの型の１
    つによって指定され、前記の指定される型はその関連し
    ている原形のための前記のメモリ手段内に前記の原形情
    報の一部として記憶されており、第１の型の原形は入力
    パターンの種類がその作用領域内に入ることを確実に認
    識したことを表す第１の出力信号１Riを発生し、第２の
    型の原形は入力パターンの種類がその作用領域内に入る
    可能性はあるが確実には認識していないことを表す第２
    の出力信号２Riを発生し、前記の原形情報を変更する手
    段はある原形の前記のスカラ距離が規定されたしきい値
    以下に縮小された場合にはその原形の指定された型を第
    １の型から第２の型へ変化させる特許請求の範囲21項に
    記載の装置。
  24. 【請求項２４】前記の原形情報を変更する手段は、所与
    の原形の指定された型が第１の型から第２の型へ変化さ
    せられた場合には何時でも前記の与えられた原形の前記
    のスカラ距離を最も近い前記の第１の型の原形の作用領
    域まで拡張させる特許請求の範囲23項に記載の装置。
  25. 【請求項２５】前記の種類選択手段は、前記のパターン
    分類手段が発生した複数の出力信号の１つを前記の出力
    応答Ｒとして選択する手段を含む特許請求の範囲19項に
    記載の装置。
  26. 【請求項２６】前記の各パターン分類手段には階層レベ
    ルを表す規定された優先順位が割当てられており、前記
    の選択手段は最高の優先順位を有する前記の分類手段が
    発生した第１の出力信号１Riを前記の出力応答Ｒとして
    選択し、前記の第１の出力信号は前記の分類手段が確実
    に認識した特定の種類を表している特許請求の範囲25項
    に記載の装置。
  27. 【請求項２７】前記の選択手段は、（１）どの分類手段
    も第１の出力信号１Riを発生しない場合には何時でも、
    優先順位の順序で連続する前記の各分類手段が発生する
    前記の第２の出力信号２Riによって指示される各種類の
    数を、１つの種類が多数計数になるまで計数し、そして
    （２）前記の多数種類を表す前記の出力応答Ｒを発生す
    る手段を含む特許請求の範囲26項に記載の装置。
  28. 【請求項２８】前記の種類選択手段は、前記のパターン
    分類手段が発生した複数の出力信号の１つを前記の出力
    応答Ｒとして選択する手段を含む特許請求の範囲１項に
    記載の装置。
  29. 【請求項２９】前記の各パターン分類手段には階層レベ
    ルを表す規定された優先順位が割当てられており、前記
    の選択手段は最高の優先順位を有する前記の分類手段が
    発生した出力信号を前記の出力応答Ｒとして選択する特
    許請求の範囲28に記載の装置。
  30. 【請求項３０】各入力パターンを多次元パターンクロッ
    ク内の位置として表す入力信号を受け取る手段と、情報
    を記憶するメモリ手段と、前記の入力手段とメモリ手段
    とに接続されたコンピュータ手段とを備えた装置におい
    てパターンを分類し、識別する方法において、 （ａ） 前記の多次元パターン空間内にあって、それぞ
    れが特定のパターンの種類と関連している複数の原形を
    前記のメモリ手段内に記憶させる段階と、 （ｂ） 前記の入力信号が表す入力パターンを前記のメ
    モリ手段内に記憶させた原形のそれぞれと比較して、少
    なくとも１つの原形の作用領域内に前記の入力パターン
    が入るか、否かを決定する段階と、 （ｃ） そのような入力パターンが既に記憶されている
    原形の作用領域内に入らないときには前記のメモリ手段
    に新しい原形を記憶させる段階と、 （ｄ） 入力パターンの受信に応答して、前記のメモリ
    手段内の前記の原形の１つ、もしくはそれ以上を変更し
    て、前記の入力パターンとは異なるパターンの種類と関
    連した原形の作用領域内に前記の入力パターンが入り込
    まないようにする段階と を備え、それにより到来するそれぞれの入力パターン
    が、その入力パターンと同じ種類と関連した原形の作用
    領域内にのみ入るようにパターン空間をつくるようにし
    たことを特徴とするパターン分類・識別方法。
  31. 【請求項３１】前記の各原形は、前記の多次元パターン
    空間内のベクトル位置と、前記のパターン空間内のベク
    トル位置に関して作用領域の大きさを限定するスカラ距
    離と、前記の原形が関連している１つの特定の種類とを
    前記のメモリ手段内に記憶されている原形情報として含
    み、前記の比較段階は、（１）前記のパターン空間内の
    前記の入力パターンの位置が１またはそれ以上の前記の
    原形の作用領域内に入るか、否かを決定する段階と、
    （２）もし前記の入力パターンが前記の原形の作用領域
    内に入ればその原形に関連している種類を表す応答を発
    生する段階を含む特許請求の範囲30項に記載の方法。
  32. 【請求項３２】前記の各原形は少なくとも２つの型の１
    つによって指定され、前記の指定される型はその関連し
    ている原形のための前記のメモリ手段内に前記の原形情
    報の一部として記憶されており、第１の型の原形は入力
    パターンの種類がその作用領域内に入ることを確実に認
    識したことを表す第１の出力信号１Riを発生し、第２の
    型の原形は入力パターンの種類がその作用領域内に入る
    可能性はあるが確実には認識していないことを表す第２
    の出力信号２Riを発生する特許請求の範囲31項に記載の
    方法。
  33. 【請求項３３】前記の原形情報を変更する段階は、もし
    入力パターンがある原形の作用領域内に入ればその原形
    の前記のスカラ距離を縮小してその原形に関連している
    種類を表す応答Riを発生し、その種類が適切でない場合
    には前記の入力パターンがその原形の作用領域外に出る
    ように前記のスカラ距離を十分に縮小する特許請求の範
    囲31項に記載の方法。
  34. 【請求項３４】前記のスカラ距離は、前記の原形の前記
    のパターン空間内のベクトル位置と前記の入力パターン
    との間の距離に実質的に等しいが、その距離よりは小さ
    い値まで縮小される特許請求の範囲33項に記載の方法。
  35. 【請求項３５】前記の各原形は少なくとも２つの型の１
    つによって指定され、前記の指定される型はその関連し
    ている原形のための前記のメモリ手段内に前記の原形情
    報の一部として記憶されており、第１の型の原形は入力
    パターンの種類がその作用領域内に入ることを確実に認
    識したことを表す第１の出力信号１Riを発生し、第２の
    型の原形は入力パターンの種類がその作用領域内に入る
    可能性はあるが確実には認識していないことを表す第２
    の出力信号２Riを発生し、前記の原形情報を変更する段
    階はある原形の前記のスカラ距離が規定されたしきい値
    以下に縮小された場合にはその原形の指定された型を第
    １の型から第２の型へ変化させる段階を含む特許請求の
    範囲33項に記載の方法。
  36. 【請求項３６】前記の原形情報を変更する段階は、所与
    の原形の指定された型が第１の型から第２の型へ変化さ
    せられた場合には何時でも前記の与えられた原形の前記
    のスカラ距離を最も近い前記の第１の型の原形の作用領
    域まで拡張させる段階を含む特許請求の範囲35項に記載
    の方法。
JP61030604A 1985-02-15 1986-02-14 パターンを分類及び識別する装置と方法 Expired - Lifetime JPH0823863B2 (ja)

Applications Claiming Priority (4)

Application Number Priority Date Filing Date Title
US70218885A 1985-02-15 1985-02-15
US702188 1985-02-15
US06/775,144 US4760604A (en) 1985-02-15 1985-09-12 Parallel, multi-unit, adaptive, nonlinear pattern class separator and identifier
US775144 1985-09-12

Publications (2)

Publication Number Publication Date
JPS61193279A JPS61193279A (ja) 1986-08-27
JPH0823863B2 true JPH0823863B2 (ja) 1996-03-06

Family

ID=27106926

Family Applications (1)

Application Number Title Priority Date Filing Date
JP61030604A Expired - Lifetime JPH0823863B2 (ja) 1985-02-15 1986-02-14 パターンを分類及び識別する装置と方法

Country Status (8)

Country Link
US (1) US4760604A (ja)
EP (1) EP0191407B1 (ja)
JP (1) JPH0823863B2 (ja)
AT (1) ATE131295T1 (ja)
CA (1) CA1244946A (ja)
DE (1) DE3650446T2 (ja)
ES (2) ES8800462A1 (ja)
MX (1) MX166402B (ja)

Families Citing this family (128)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US5077807A (en) * 1985-10-10 1991-12-31 Palantir Corp. Preprocessing means for use in a pattern classification system
US5060277A (en) * 1985-10-10 1991-10-22 Palantir Corporation Pattern classification means using feature vector regions preconstructed from reference data
US5163133A (en) * 1987-02-17 1992-11-10 Sam Technology, Inc. Parallel processing system having a broadcast, result, and instruction bus for transmitting, receiving and controlling the computation of data
US5133021A (en) * 1987-06-19 1992-07-21 Boston University System for self-organization of stable category recognition codes for analog input patterns
GB8716194D0 (en) * 1987-07-09 1987-08-12 British Telecomm Speech recognition
US4975961A (en) * 1987-10-28 1990-12-04 Nec Corporation Multi-layer neural network to which dynamic programming techniques are applicable
US5285522A (en) * 1987-12-03 1994-02-08 The Trustees Of The University Of Pennsylvania Neural networks for acoustical pattern recognition
JP2553608B2 (ja) * 1988-01-04 1996-11-13 住友電気工業 株式会社 光学文字読取装置
US5040230A (en) * 1988-01-11 1991-08-13 Ezel Incorporated Associative pattern conversion system and adaptation method thereof
US4958375A (en) * 1988-02-17 1990-09-18 Nestor, Inc. Parallel, multi-unit, adaptive pattern classification system using inter-unit correlations and an intra-unit class separator methodology
EP0362840B1 (en) * 1988-10-06 1995-05-10 Kabushiki Kaisha Toshiba Neural network system
US5095443A (en) * 1988-10-07 1992-03-10 Ricoh Company, Ltd. Plural neural network system having a successive approximation learning method
EP0363828B1 (en) * 1988-10-11 1999-01-07 Kabushiki Kaisha Ouyo Keisoku Kenkyusho Method and apparatus for adaptive learning type general purpose image measurement and recognition
US5048100A (en) * 1988-12-15 1991-09-10 Michael Kuperstein Self organizing neural network method and system for general classification of patterns
US4933871A (en) * 1988-12-21 1990-06-12 Desieno Duane Graded learning device and method
US5175793A (en) * 1989-02-01 1992-12-29 Sharp Kabushiki Kaisha Recognition apparatus using articulation positions for recognizing a voice
JPH02214987A (ja) * 1989-02-16 1990-08-27 Matsushita Electric Ind Co Ltd 彩色装置
JPH0821065B2 (ja) * 1989-03-13 1996-03-04 シャープ株式会社 文字認識装置
US5041976A (en) * 1989-05-18 1991-08-20 Ford Motor Company Diagnostic system using pattern recognition for electronic automotive control systems
JP2940933B2 (ja) * 1989-05-20 1999-08-25 株式会社リコー パターン認識方式
US5361328A (en) * 1989-09-28 1994-11-01 Ezel, Inc. Data processing system using a neural network
US5138695A (en) * 1989-10-10 1992-08-11 Hnc, Inc. Systolic array image processing system
JP2724374B2 (ja) * 1989-10-11 1998-03-09 株式会社鷹山 データ処理装置
US5063521A (en) * 1989-11-03 1991-11-05 Motorola, Inc. Neuram: neural network with ram
US5067164A (en) * 1989-11-30 1991-11-19 At&T Bell Laboratories Hierarchical constrained automatic learning neural network for character recognition
JPH03196277A (ja) * 1989-12-25 1991-08-27 Takayama:Kk データ処理装置のための特徴データ選択方法
US5151951A (en) * 1990-03-15 1992-09-29 Sharp Kabushiki Kaisha Character recognition device which divides a single character region into subregions to obtain a character code
US5299284A (en) * 1990-04-09 1994-03-29 Arizona Board Of Regents, Acting On Behalf Of Arizona State University Pattern classification using linear programming
KR910020571A (ko) * 1990-05-21 1991-12-20 다카도리 수나오 데이터 처리장치
US5274714A (en) * 1990-06-04 1993-12-28 Neuristics, Inc. Method and apparatus for determining and organizing feature vectors for neural network recognition
JPH0438587A (ja) * 1990-06-04 1992-02-07 Nec Corp 入力領域適応型ニューラルネットワーク文字認識装置
JP2991779B2 (ja) * 1990-06-11 1999-12-20 株式会社リコー 文字認識方法及び装置
US5155801A (en) * 1990-10-09 1992-10-13 Hughes Aircraft Company Clustered neural networks
DE4100500A1 (de) * 1991-01-10 1992-07-16 Bodenseewerk Geraetetech Signalverarbeitungsanordnung zur klassifizierung von objekten aufgrund der signale von sensoren
US5613039A (en) * 1991-01-31 1997-03-18 Ail Systems, Inc. Apparatus and method for motion detection and tracking of objects in a region for collision avoidance utilizing a real-time adaptive probabilistic neural network
US5263107A (en) * 1991-01-31 1993-11-16 Sharp Kabushiki Kaisha Receptive field neural network with shift-invariant pattern recognition
US5276772A (en) * 1991-01-31 1994-01-04 Ail Systems, Inc. Real time adaptive probabilistic neural network system and method for data sorting
US5638281A (en) * 1991-01-31 1997-06-10 Ail Systems, Inc. Target prediction and collision warning system
US5563982A (en) * 1991-01-31 1996-10-08 Ail Systems, Inc. Apparatus and method for detection of molecular vapors in an atmospheric region
US5239594A (en) * 1991-02-12 1993-08-24 Mitsubishi Denki Kabushiki Kaisha Self-organizing pattern classification neural network system
JP3088171B2 (ja) * 1991-02-12 2000-09-18 三菱電機株式会社 自己組織型パタ−ン分類システム及び分類方法
WO1992020029A1 (en) * 1991-04-29 1992-11-12 Intel Corporation Neural network incorporating difference neurons
US5321795A (en) * 1991-05-24 1994-06-14 Alvarez De Toledo Santiago Pattern association central subsystem and a perception learning system
US5357597A (en) * 1991-06-24 1994-10-18 International Business Machines Corporation Convolutional expert neural system (ConExNS)
DE4133590A1 (de) * 1991-07-03 1993-01-14 Bosch Gmbh Robert Verfahren zur klassifikation von signalen
US5337371A (en) * 1991-08-09 1994-08-09 Matsushita Electric Industrial Co., Ltd. Pattern classification system
US6128409A (en) * 1991-11-12 2000-10-03 Texas Instruments Incorporated Systems and methods for handprint recognition acceleration
US6400996B1 (en) 1999-02-01 2002-06-04 Steven M. Hoffberg Adaptive pattern recognition based control system and method
US6850252B1 (en) 1999-10-05 2005-02-01 Steven M. Hoffberg Intelligent electronic appliance system and method
US8352400B2 (en) 1991-12-23 2013-01-08 Hoffberg Steven M Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US7242988B1 (en) 1991-12-23 2007-07-10 Linda Irene Hoffberg Adaptive pattern recognition based controller apparatus and method and human-factored interface therefore
US10361802B1 (en) 1999-02-01 2019-07-23 Blanding Hovenweep, Llc Adaptive pattern recognition based control system and method
US6418424B1 (en) 1991-12-23 2002-07-09 Steven M. Hoffberg Ergonomic man-machine interface incorporating adaptive pattern recognition based control system
US5903454A (en) 1991-12-23 1999-05-11 Hoffberg; Linda Irene Human-factored interface corporating adaptive pattern recognition based controller apparatus
US5276771A (en) * 1991-12-27 1994-01-04 R & D Associates Rapidly converging projective neural network
US5359673A (en) * 1991-12-27 1994-10-25 Xerox Corporation Method and apparatus for converting bitmap image documents to editable coded data using a standard notation to record document recognition ambiguities
US5371809A (en) * 1992-03-30 1994-12-06 Desieno; Duane D. Neural network for improved classification of patterns which adds a best performing trial branch node to the network
GB9214514D0 (en) * 1992-07-08 1992-08-19 Massachusetts Inst Technology Information processing
DE4241812A1 (de) * 1992-12-11 1994-06-16 Bosch Gmbh Robert Verfahren zur adaptiven Quantisierung eines Eingangswertebereiches
US5479574A (en) * 1993-04-01 1995-12-26 Nestor, Inc. Method and apparatus for adaptive classification
RU2037203C1 (ru) * 1993-07-16 1995-06-09 Ольга Олеговна Веровенко Способ идентификации объектов
US5875264A (en) * 1993-12-03 1999-02-23 Kaman Sciences Corporation Pixel hashing image recognition system
US6167390A (en) * 1993-12-08 2000-12-26 3M Innovative Properties Company Facet classification neural network
DE69430744T2 (de) * 1994-07-28 2003-01-30 International Business Machines Corp., Armonk Verbesserte Neuronalhalbleiterchipsarchitekturen und Neuronalnetzwerke darin
US5519786A (en) * 1994-08-09 1996-05-21 Trw Inc. Method and apparatus for implementing a weighted voting scheme for multiple optical character recognition systems
JP3761937B2 (ja) * 1995-09-18 2006-03-29 キヤノン株式会社 パターン認識方法及び装置及びコンピュータ制御装置
US5822741A (en) * 1996-02-05 1998-10-13 Lockheed Martin Corporation Neural network/conceptual clustering fraud detection architecture
US5909681A (en) * 1996-03-25 1999-06-01 Torrent Systems, Inc. Computer system and computerized method for partitioning data for parallel processing
US5918196A (en) * 1996-11-29 1999-06-29 Cognex Corporation Vision system for analyzing solid-of-revolution radius profile
US6092059A (en) * 1996-12-27 2000-07-18 Cognex Corporation Automatic classifier for real time inspection and classification
US6018723A (en) 1997-05-27 2000-01-25 Visa International Service Association Method and apparatus for pattern generation
US6097834A (en) * 1997-06-13 2000-08-01 Paystation America Inc. Financial transaction processing systems and methods
US6249775B1 (en) * 1997-07-11 2001-06-19 The Chase Manhattan Bank Method for mortgage and closed end loan portfolio management
US7403922B1 (en) 1997-07-28 2008-07-22 Cybersource Corporation Method and apparatus for evaluating fraud risk in an electronic commerce transaction
US7096192B1 (en) * 1997-07-28 2006-08-22 Cybersource Corporation Method and system for detecting fraud in a credit card transaction over a computer network
US6052679A (en) * 1997-09-11 2000-04-18 International Business Machines Corporation Artificial neural networks including Boolean-complete compartments
US6175652B1 (en) 1997-12-31 2001-01-16 Cognex Corporation Machine vision system for analyzing features based on multiple object images
JPH10306744A (ja) * 1998-04-06 1998-11-17 Hitachi Ltd 制御装置
US6175644B1 (en) 1998-05-01 2001-01-16 Cognex Corporation Machine vision system for object feature analysis and validation based on multiple object images
US6032136A (en) 1998-11-17 2000-02-29 First Usa Bank, N.A. Customer activated multi-value (CAM) card
US6606402B2 (en) 1998-12-18 2003-08-12 Cognex Corporation System and method for in-line inspection of stencil aperture blockage
US7966078B2 (en) 1999-02-01 2011-06-21 Steven Hoffberg Network media appliance system and method
US6366897B1 (en) 1999-07-26 2002-04-02 Hnc Software, Inc. Cortronic neural networks with distributed processing
US7062462B1 (en) 1999-07-26 2006-06-13 The Chase Manhattan Bank On-line higher education financing system
US6505168B1 (en) 1999-08-16 2003-01-07 First Usa Bank, Na System and method for gathering and standardizing customer purchase information for target marketing
US7542921B1 (en) 1999-09-30 2009-06-02 Jpmorgan Chase Bank, N.A. Network-based financial planning system and method
US6999943B1 (en) 2000-03-10 2006-02-14 Doublecredit.Com, Inc. Routing methods and systems for increasing payment transaction volume and profitability
US7599879B2 (en) * 2000-03-24 2009-10-06 Jpmorgan Chase Bank, National Association Syndication loan administration and processing system
US7212996B1 (en) 2000-04-20 2007-05-01 Jpmorgan Chase Bank, N.A. System and method for dynamic, multivariable comparison of financial products
US7031935B1 (en) 2000-07-31 2006-04-18 J.P. Morgan Advisory Services Inc. Method and system for computing path dependent probabilities of attaining financial goals
US7831467B1 (en) 2000-10-17 2010-11-09 Jpmorgan Chase Bank, N.A. Method and system for retaining customer loyalty
US7295999B1 (en) 2000-12-20 2007-11-13 Jpmorgan Chase Bank, N.A. System and method for determining eligibility and enrolling members in various programs
US7472088B2 (en) * 2001-01-19 2008-12-30 Jpmorgan Chase Bank N.A. System and method for offering a financial product
US7895098B2 (en) 2001-03-01 2011-02-22 Jpmorgan Chase Bank, N.A. System and method for measuring and utilizing pooling analytics
US7095875B2 (en) * 2001-05-15 2006-08-22 Lockheed Martin Corporation Method and system for address result arbitration
US7865427B2 (en) 2001-05-30 2011-01-04 Cybersource Corporation Method and apparatus for evaluating fraud risk in an electronic commerce transaction
US7756896B1 (en) 2002-03-11 2010-07-13 Jp Morgan Chase Bank System and method for multi-dimensional risk analysis
AU2003230751A1 (en) 2002-03-29 2003-10-13 Bank One, Delaware, N.A. System and process for performing purchase transaction using tokens
US7606756B2 (en) 2002-08-02 2009-10-20 Jpmorgan Chase Bank, N.A. Synthetic funds having structured notes
US7305122B2 (en) * 2002-08-13 2007-12-04 Lockheed Martin Corporation Method and computer program product for identifying and correcting systematic noise in a pattern recognition system
US7181062B2 (en) * 2002-08-30 2007-02-20 Lockheed Martin Corporation Modular classification architecture for a pattern recognition application
US20040148241A1 (en) * 2003-01-24 2004-07-29 Qi Thomas J. Method of evaluating a portfolio of leased items
US20040236647A1 (en) * 2003-05-23 2004-11-25 Ravi Acharya Electronic checkbook register
WO2005013057A2 (en) 2003-07-25 2005-02-10 Jp Morgan Chase Bank Financial network-based payment card
US7624068B1 (en) 2003-08-18 2009-11-24 Jpmorgan Chase Bank, N.A. Method and system for dynamically adjusting discount rates for a card transaction
US8175908B1 (en) 2003-09-04 2012-05-08 Jpmorgan Chase Bank, N.A. Systems and methods for constructing and utilizing a merchant database derived from customer purchase transactions data
US7953663B1 (en) 2003-09-04 2011-05-31 Jpmorgan Chase Bank, N.A. System and method for financial instrument pre-qualification and offering
US20050182713A1 (en) * 2003-10-01 2005-08-18 Giancarlo Marchesi Methods and systems for the auto reconsideration of credit card applications
US20050094861A1 (en) * 2003-10-31 2005-05-05 International Business Machines Corporation Positional synchronization in a multivoting character recognition environment
US7702767B2 (en) * 2004-03-09 2010-04-20 Jp Morgan Chase Bank User connectivity process management system
US8429006B1 (en) 2004-06-18 2013-04-23 Jpmorgan Chase Bank, N.A. System and method for offer targeting
US7974895B1 (en) 2004-07-16 2011-07-05 Jp Morgan Chase Bank System and method for developing finance rate information
US8533030B1 (en) 2004-08-30 2013-09-10 Jpmorgan Chase Bank, N.A. In-bound telemarketing system for processing customer offers
US7685064B1 (en) 2004-11-30 2010-03-23 Jp Morgan Chase Bank Method and apparatus for evaluating a financial transaction
US7480631B1 (en) 2004-12-15 2009-01-20 Jpmorgan Chase Bank, N.A. System and method for detecting and processing fraud and credit abuse
US7890343B1 (en) 2005-01-11 2011-02-15 Jp Morgan Chase Bank System and method for generating risk management curves
US7680307B2 (en) * 2005-04-05 2010-03-16 Scimed Life Systems, Inc. Systems and methods for image segmentation with a multi-stage classifier
US7925578B1 (en) 2005-08-26 2011-04-12 Jpmorgan Chase Bank, N.A. Systems and methods for performing scoring optimization
US8489497B1 (en) 2006-01-27 2013-07-16 Jpmorgan Chase Bank, N.A. Online interactive and partner-enhanced credit card
US7962396B1 (en) 2006-02-03 2011-06-14 Jpmorgan Chase Bank, N.A. System and method for managing risk
US7707192B1 (en) 2006-05-23 2010-04-27 Jp Morgan Chase Bank, N.A. Confidence index for assets
US7817857B2 (en) * 2006-05-31 2010-10-19 Microsoft Corporation Combiner for improving handwriting recognition
US7953279B2 (en) 2007-06-28 2011-05-31 Microsoft Corporation Combining online and offline recognizers in a handwriting recognition system
TWI489394B (zh) 2008-03-03 2015-06-21 Videoiq Inc 用於追蹤、索引及搜尋之物件匹配
US8478637B1 (en) 2008-04-08 2013-07-02 Jpmorgan Chase Bank, N.A. Index for assessing discount potential
CN101593270B (zh) * 2008-05-29 2012-01-25 汉王科技股份有限公司 一种手绘形状识别的方法及装置
US8287055B2 (en) * 2010-09-28 2012-10-16 Robert Bosch Gmbh Brake control of a vehicle based on driver behavior
US11494644B2 (en) * 2019-11-20 2022-11-08 Rakuten Group, Inc. System, method, and computer program for recommending items using a direct neural network structure

Family Cites Families (13)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US3601811A (en) * 1967-12-18 1971-08-24 Matsushita Electric Industrial Co Ltd Learning machine
US3950733A (en) * 1974-06-06 1976-04-13 Nestor Associates Information processing system
JPS5160122A (ja) * 1974-11-22 1976-05-25 Hitachi Ltd
US4030068A (en) * 1976-01-12 1977-06-14 Decision Data Computer Corporation Optical character recognition system
US4044243A (en) * 1976-07-23 1977-08-23 Nestor Associates Information processing system
US4307376A (en) * 1976-12-09 1981-12-22 Geometric Data Corporation Pattern recognition system for generating hematology profile
GB2002159B (en) * 1977-07-07 1982-01-13 Sumitomo Electric Industries Character reading system
US4177448A (en) * 1978-06-26 1979-12-04 International Business Machines Corporation Character recognition system and method multi-bit curve vector processing
JPS5819109B2 (ja) * 1978-11-10 1983-04-16 肇産業株式会社 パタ−ン判別方法
US4254474A (en) * 1979-08-02 1981-03-03 Nestor Associates Information processing system using threshold passive modification
US4319331A (en) * 1980-01-28 1982-03-09 Nestor Associates Curve follower
US4326259A (en) * 1980-03-27 1982-04-20 Nestor Associates Self organizing general pattern class separator and identifier
US4611347A (en) * 1984-09-24 1986-09-09 At&T Bell Laboratories Video recognition system

Also Published As

Publication number Publication date
DE3650446T2 (de) 1996-06-13
ATE131295T1 (de) 1995-12-15
ES8801451A1 (es) 1988-01-01
DE3650446D1 (de) 1996-01-18
EP0191407A2 (en) 1986-08-20
EP0191407B1 (en) 1995-12-06
MX166402B (es) 1993-01-07
JPS61193279A (ja) 1986-08-27
CA1244946A (en) 1988-11-15
ES8800462A1 (es) 1987-11-01
ES557565A0 (es) 1988-01-01
EP0191407A3 (en) 1989-11-08
US4760604A (en) 1988-07-26
ES548992A0 (es) 1987-11-01

Similar Documents

Publication Publication Date Title
JPH0823863B2 (ja) パターンを分類及び識別する装置と方法
US5054093A (en) Parallel, multi-unit, adaptive, nonlinear pattern class separator and identifier
US4958375A (en) Parallel, multi-unit, adaptive pattern classification system using inter-unit correlations and an intra-unit class separator methodology
Endres et al. Category-independent object proposals with diverse ranking
Torralba et al. Sharing features: efficient boosting procedures for multiclass object detection
JP2940933B2 (ja) パターン認識方式
Tan et al. Fingerprint classification based on learned features
CN101271515B (zh) 能识别多角度目标的图像检测装置
US20050256820A1 (en) Cognitive arbitration system
CN111181939A (zh) 一种基于集成学习的网络入侵检测方法及装置
Rahman et al. An evaluation of multi-expert configurations for the recognition of handwritten numerals
KR20190031126A (ko) 물체 묘사를 위한 후보가 되는 하나 이상의 후보 디지털 이미지를 위치 결정하는 방법
Fenoeux et al. Induction of decision trees from partially classified data using belief functions
CN100463001C (zh) 一种类球形果蔬的识别方法
Bazell et al. A comparison of neural network algorithms and preprocessing methods for star-galaxy discrimination
CN110009038A (zh) 筛查模型的训练方法、装置及存储介质
CN117893413B (zh) 基于图像增强的车载终端人机交互方法
Tomczyk Active hypercontours and contextual classification
Verikas et al. Colour classification by neural networks in graphic arts
Sagoolmuang Power-weighted kNN classification for handling class imbalanced problem
Nguyen Adaptive classifier construction: An approach to handwritten digit recognition
Rahman et al. A Novel Confidence-Based Framework for Multiple Expert Decision Fusion.
Hill et al. Train it, extend it, retrain it: Iterative concept discovery
Schwenker et al. 3d object recognition for autonomous mobile robots utilizing support vector classifiers
Lange et al. Recognition of objects given by collections of multichannel images