JPH07306845A - 神経系学習装置用の並列処理装置 - Google Patents
神経系学習装置用の並列処理装置Info
- Publication number
- JPH07306845A JPH07306845A JP6098623A JP9862394A JPH07306845A JP H07306845 A JPH07306845 A JP H07306845A JP 6098623 A JP6098623 A JP 6098623A JP 9862394 A JP9862394 A JP 9862394A JP H07306845 A JPH07306845 A JP H07306845A
- Authority
- JP
- Japan
- Prior art keywords
- arithmetic
- pattern
- weight vector
- data
- arithmetic unit
- Prior art date
- Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
- Pending
Links
- 230000001537 neural effect Effects 0.000 title claims abstract description 58
- 238000012545 processing Methods 0.000 claims abstract description 48
- 238000004891 communication Methods 0.000 claims abstract description 43
- 230000007246 mechanism Effects 0.000 claims abstract description 40
- 238000004364 calculation method Methods 0.000 claims description 40
- 210000000653 nervous system Anatomy 0.000 claims description 19
- 230000008878 coupling Effects 0.000 claims description 15
- 238000010168 coupling process Methods 0.000 claims description 15
- 238000005859 coupling reaction Methods 0.000 claims description 15
- 230000006870 function Effects 0.000 claims description 14
- 238000012937 correction Methods 0.000 claims description 8
- 238000012546 transfer Methods 0.000 abstract description 5
- 230000005540 biological transmission Effects 0.000 abstract description 3
- 238000000034 method Methods 0.000 description 16
- 230000008569 process Effects 0.000 description 7
- 238000002474 experimental method Methods 0.000 description 5
- 238000010586 diagram Methods 0.000 description 4
- 238000013507 mapping Methods 0.000 description 4
- 230000015654 memory Effects 0.000 description 3
- 230000002776 aggregation Effects 0.000 description 2
- 238000004220 aggregation Methods 0.000 description 2
- 238000013528 artificial neural network Methods 0.000 description 2
- 230000009977 dual effect Effects 0.000 description 2
- 238000013459 approach Methods 0.000 description 1
- 238000006243 chemical reaction Methods 0.000 description 1
- 230000000694 effects Effects 0.000 description 1
- 230000010365 information processing Effects 0.000 description 1
- 238000012986 modification Methods 0.000 description 1
- 230000004048 modification Effects 0.000 description 1
- 229920006395 saturated elastomer Polymers 0.000 description 1
Landscapes
- Multi Processors (AREA)
Abstract
(57)【要約】
【目的】 データの授受に費やす処理時間が少ない。
【構成】 神経回路が構築された第１、第２、第３、第
４演算装置２、３、４、５と各演算装置のデータ通信を
行う放送通信機構６とを備える。この放送通信機構６
は、第１演算装置２に接続されるデータ送信装置６１お
よび、第２演算装置３ないし第４演算装置５にそれぞれ
接続される第１、第２、第３データ受信装置６２、６
３、６４を有する。第１演算装置２には入出力用のホス
トコンピュータ７が接続される。また各演算装置は第
１、第２、第３、第４データ交信機構８１、８２、８
３、８４と交互に且つ直列に接続されている。第１、第
２、第３、第４演算装置２、３、４、５には入力パター
ンと教師パターンとの対の第１、第２、第３、第４集合
ｎ１、ｎ２、ｎ３、ｎ４が配される。第１演算装置２は
重みベクトルの初期値Ｗ0 を元に第１集合ｎ１の第１の
入力パターンについて神経系計算手段により第１の出力
パターンを計算し、重みベクトルの更新を行う。
４演算装置２、３、４、５と各演算装置のデータ通信を
行う放送通信機構６とを備える。この放送通信機構６
は、第１演算装置２に接続されるデータ送信装置６１お
よび、第２演算装置３ないし第４演算装置５にそれぞれ
接続される第１、第２、第３データ受信装置６２、６
３、６４を有する。第１演算装置２には入出力用のホス
トコンピュータ７が接続される。また各演算装置は第
１、第２、第３、第４データ交信機構８１、８２、８
３、８４と交互に且つ直列に接続されている。第１、第
２、第３、第４演算装置２、３、４、５には入力パター
ンと教師パターンとの対の第１、第２、第３、第４集合
ｎ１、ｎ２、ｎ３、ｎ４が配される。第１演算装置２は
重みベクトルの初期値Ｗ0 を元に第１集合ｎ１の第１の
入力パターンについて神経系計算手段により第１の出力
パターンを計算し、重みベクトルの更新を行う。
Description
【０００１】
【産業上の利用分野】本発明は、神経系学習装置に用い
複数の演算装置を並列に接続して計算時間を短縮する神
経系学習装置用の並列処理装置に関する。
複数の演算装置を並列に接続して計算時間を短縮する神
経系学習装置用の並列処理装置に関する。
【０００２】
【従来の技術】従来、生物の神経系の仕組みを工学的に
実現し、情報処理を行う神経系学習装置用の並列処理装
置は複数の演算装置を有し、神経回路を演算装置の台数
に分割しその一つずつを各演算装置に割り当てている。
これにより、複数の演算装置が神経回路への入力パター
ンに対する出力パターンを計算する神経系計算手段を分
担している。また上記複数の演算装置が神経回路の個々
の結合部分の結合効率を表わす重み係数を要素とする重
みベクトルを更新する重みベクトル更新手段を分担し、
神経系計算手段および重みベクトル更新手段により計算
を行っている。
実現し、情報処理を行う神経系学習装置用の並列処理装
置は複数の演算装置を有し、神経回路を演算装置の台数
に分割しその一つずつを各演算装置に割り当てている。
これにより、複数の演算装置が神経回路への入力パター
ンに対する出力パターンを計算する神経系計算手段を分
担している。また上記複数の演算装置が神経回路の個々
の結合部分の結合効率を表わす重み係数を要素とする重
みベクトルを更新する重みベクトル更新手段を分担し、
神経系計算手段および重みベクトル更新手段により計算
を行っている。
【０００３】図４に一例として３台の演算装置を用いた
神経系学習装置用の並列処理装置１００を示す。図４の
破線は演算装置間の境界を表し、実線は計算によるデー
タの流れを表す。入力パターンｘ１〜ｘ３が、神経素子
ｈと重みベクトルＷを有する神経回路１０１に入力さ
れ、神経系計算手段により出力パターンｙ１〜ｙ３を生
ずる。そして重みベクトルＷが、入力パターンｘ１〜ｘ
３の学習目標である教師パターンｔ１〜ｔ３の出力パタ
ーンｙ１〜ｙ３に対する差Ｅに応じて、重みベクトル更
新手段によって更新される。
神経系学習装置用の並列処理装置１００を示す。図４の
破線は演算装置間の境界を表し、実線は計算によるデー
タの流れを表す。入力パターンｘ１〜ｘ３が、神経素子
ｈと重みベクトルＷを有する神経回路１０１に入力さ
れ、神経系計算手段により出力パターンｙ１〜ｙ３を生
ずる。そして重みベクトルＷが、入力パターンｘ１〜ｘ
３の学習目標である教師パターンｔ１〜ｔ３の出力パタ
ーンｙ１〜ｙ３に対する差Ｅに応じて、重みベクトル更
新手段によって更新される。
【０００４】そして個々の演算装置間のデータ授受は、
（１）２台の演算装置間で相互にデータ授受を行う通信
機構により、各演算装置を連鎖的に接続することによっ
て、順々に演算装置間を経由してデータを受け渡す第１
の方法、（２）全ての演算装置が共有する共有記憶機構
に対して全ての演算装置を並列に接続し、各演算装置が
交互に共有記憶機構に対して情報の書き込みおよび読み
出しを行う第２の方法の何れかによって行われていた。
（１）２台の演算装置間で相互にデータ授受を行う通信
機構により、各演算装置を連鎖的に接続することによっ
て、順々に演算装置間を経由してデータを受け渡す第１
の方法、（２）全ての演算装置が共有する共有記憶機構
に対して全ての演算装置を並列に接続し、各演算装置が
交互に共有記憶機構に対して情報の書き込みおよび読み
出しを行う第２の方法の何れかによって行われていた。
【０００５】
【発明が解決しようとする課題】しかるにデータ授受の
第１の方法によるとデータは個々の演算装置を順々に伝
わって行き、その際に各演算装置が逐一データの受渡し
に関与することが処理の負担となり、総合的に見てデー
タの授受の速度および処理能力が低下していた。
第１の方法によるとデータは個々の演算装置を順々に伝
わって行き、その際に各演算装置が逐一データの受渡し
に関与することが処理の負担となり、総合的に見てデー
タの授受の速度および処理能力が低下していた。
【０００６】またデータ授受の第２の方法によると、共
有記憶機構に対して一度に一つの演算装置しか情報の読
み書きが行えず、現在読み書きしている演算装置の処理
が完了するまで他の演算装置は処理を中断しなければな
らなかった。このため演算装置を多くするに伴い待機中
の演算装置が増し、総合的な処理能力の低下を招いてい
た。本発明の目的は、データの授受に費やす処理時間の
少ない神経系学習装置用の並列処理装置の提供にある。
有記憶機構に対して一度に一つの演算装置しか情報の読
み書きが行えず、現在読み書きしている演算装置の処理
が完了するまで他の演算装置は処理を中断しなければな
らなかった。このため演算装置を多くするに伴い待機中
の演算装置が増し、総合的な処理能力の低下を招いてい
た。本発明の目的は、データの授受に費やす処理時間の
少ない神経系学習装置用の並列処理装置の提供にある。
【０００７】
【課題を解決するための手段】本発明は、神経系学習用
の神経回路が構築され、前記神経回路の個々の結合部分
の結合効率を表わす重み係数を要素とする重みベクトル
から前記神経回路への入力パターンに対する出力パター
ンを算出する神経系計算手段および、前記出力パターン
を前記入力パターンの学習目標である教師パターンと比
較して前記重みベクトルを更新する重みベクトル更新手
段を有する複数の演算装置と、前記演算装置のうちの一
つの演算装置に接続されるデータ送信装置および前記演
算装置のうちの残りの演算装置にそれぞれ接続されるデ
ータ受信装置を有する放送通信機構と、前記各演算装置
と交互に直列に接続され、２台の演算装置の間で相互に
データの授受を行わせる機能を有する前記演算装置と同
数のデータ交信機構と、前記一つの演算装置に接続さ
れ、前記入力パターンと前記教師パターンとの対を外部
から与えたり、学習の結果を表示するホストコンピュー
タとを備える神経系学習装置用の並列処理装置を技術的
手段として採用する。
の神経回路が構築され、前記神経回路の個々の結合部分
の結合効率を表わす重み係数を要素とする重みベクトル
から前記神経回路への入力パターンに対する出力パター
ンを算出する神経系計算手段および、前記出力パターン
を前記入力パターンの学習目標である教師パターンと比
較して前記重みベクトルを更新する重みベクトル更新手
段を有する複数の演算装置と、前記演算装置のうちの一
つの演算装置に接続されるデータ送信装置および前記演
算装置のうちの残りの演算装置にそれぞれ接続されるデ
ータ受信装置を有する放送通信機構と、前記各演算装置
と交互に直列に接続され、２台の演算装置の間で相互に
データの授受を行わせる機能を有する前記演算装置と同
数のデータ交信機構と、前記一つの演算装置に接続さ
れ、前記入力パターンと前記教師パターンとの対を外部
から与えたり、学習の結果を表示するホストコンピュー
タとを備える神経系学習装置用の並列処理装置を技術的
手段として採用する。
【０００８】本発明は、技術的手段の神経系学習装置用
の並列処理装置において、前記各演算装置はそれぞれ入
力パターンと教師パターンとの対の集合が割り当てら
れ、前記集合の入力パターンについて逐次前記重みベク
トル更新手段によって更新した前記重みベクトルを用い
て前記神経系計算手段によって出力パターンを算出する
神経系学習装置用の並列処理装置を第１の実施態様とし
て採用する。
の並列処理装置において、前記各演算装置はそれぞれ入
力パターンと教師パターンとの対の集合が割り当てら
れ、前記集合の入力パターンについて逐次前記重みベク
トル更新手段によって更新した前記重みベクトルを用い
て前記神経系計算手段によって出力パターンを算出する
神経系学習装置用の並列処理装置を第１の実施態様とし
て採用する。
【０００９】本発明は、技術的手段の神経系学習装置用
の並列処理装置において、前記各演算装置はそれぞれ入
力パターンと教師パターンとの対の集合が割り当てら
れ、前記集合の全ての入力パターンについて同一の重み
ベクトルで神経系計算手段によって出力パターンを計算
すると共に重みベクトル更新手段によって重みベクトル
の修正量を計算し、この修正量を用いて重みベクトルを
更新する神経系学習装置用の並列処理装置を第２の実施
態様として採用する。
の並列処理装置において、前記各演算装置はそれぞれ入
力パターンと教師パターンとの対の集合が割り当てら
れ、前記集合の全ての入力パターンについて同一の重み
ベクトルで神経系計算手段によって出力パターンを計算
すると共に重みベクトル更新手段によって重みベクトル
の修正量を計算し、この修正量を用いて重みベクトルを
更新する神経系学習装置用の並列処理装置を第２の実施
態様として採用する。
【００１０】
【作用および発明の効果】本発明の神経系学習装置用の
並列処理装置は、全ての演算装置が各々割当られた計算
処理を行う際に、放送通信機構のテータ送信装置が接続
された演算装置がどの演算装置も等しく必要とするデー
タを出力し、放送通信機構のデータ受信装置が接続され
た各演算装置に一度に送ることができる。
並列処理装置は、全ての演算装置が各々割当られた計算
処理を行う際に、放送通信機構のテータ送信装置が接続
された演算装置がどの演算装置も等しく必要とするデー
タを出力し、放送通信機構のデータ受信装置が接続され
た各演算装置に一度に送ることができる。
【００１１】
【実施例】次に、本発明の神経系学習装置用の並列処理
装置を図１および図２に示す第一実施例に基づき説明す
る。
装置を図１および図２に示す第一実施例に基づき説明す
る。
【００１２】〔第一実施例の構成〕本実施例は、本発明
の神経系学習装置用の並列処理装置を非線形マッピング
の学習に適用する。本実施例の神経系学習装置用の並列
処理装置１は、図１に示すように、重み係数によって個
々の結合部分の結合効率が表される神経回路が構築され
た第１、第２、第３、第４演算装置２、３、４、５と第
１、第２、第３、第４演算装置２、３、４、５のデータ
通信を行う放送通信機構６とを備える。この放送通信機
構６は、第１演算装置２に接続されるデータ送信装置６
１および第２演算装置３ないし第４演算装置５にそれぞ
れ接続される第１、第２、第３データ受信装置６２、６
３、６４を有する。
の神経系学習装置用の並列処理装置を非線形マッピング
の学習に適用する。本実施例の神経系学習装置用の並列
処理装置１は、図１に示すように、重み係数によって個
々の結合部分の結合効率が表される神経回路が構築され
た第１、第２、第３、第４演算装置２、３、４、５と第
１、第２、第３、第４演算装置２、３、４、５のデータ
通信を行う放送通信機構６とを備える。この放送通信機
構６は、第１演算装置２に接続されるデータ送信装置６
１および第２演算装置３ないし第４演算装置５にそれぞ
れ接続される第１、第２、第３データ受信装置６２、６
３、６４を有する。
【００１３】第１演算装置２には、入力パターンと入力
パターンの学習目標である教師パターンとの対を外部か
ら与えたり、学習の結果を表示する為のホストコンピュ
ータ７が接続されている。また各演算装置は、データ交
信機構である第１、第２、第３、第４データ交信機構８
１、８２、８３、８４を有する。
パターンの学習目標である教師パターンとの対を外部か
ら与えたり、学習の結果を表示する為のホストコンピュ
ータ７が接続されている。また各演算装置は、データ交
信機構である第１、第２、第３、第４データ交信機構８
１、８２、８３、８４を有する。
【００１４】第１演算装置２に第１データ交信機構８１
と第２データ交信機構８２とが接続し、第２データ交信
機構８２に第２演算装置３が接続している。そして第２
演算装置３に第３データ交信機構８３が接続し、第３デ
ータ交信機構８３に第３演算装置４が接続している。さ
らに第３演算装置４に第４データ交信機構８４が接続
し、第４データ交信機構８４に第４演算装置５が接続し
ている。これにより第１、第２、第３、第４演算装置
２、３、４、５は鎖状の接続が施される。放送通信機構
６は、ＲＳ４２２規格のシリアル通信のものである。第
１、第２、第３、第４データ交信機構８１、８２、８
３、８４はデュアルポートメモリを備える。デュアルポ
ートメモリは、２台の演算装置を接続し相互にデータの
授受を行わせることが可能なメモリである。
と第２データ交信機構８２とが接続し、第２データ交信
機構８２に第２演算装置３が接続している。そして第２
演算装置３に第３データ交信機構８３が接続し、第３デ
ータ交信機構８３に第３演算装置４が接続している。さ
らに第３演算装置４に第４データ交信機構８４が接続
し、第４データ交信機構８４に第４演算装置５が接続し
ている。これにより第１、第２、第３、第４演算装置
２、３、４、５は鎖状の接続が施される。放送通信機構
６は、ＲＳ４２２規格のシリアル通信のものである。第
１、第２、第３、第４データ交信機構８１、８２、８
３、８４はデュアルポートメモリを備える。デュアルポ
ートメモリは、２台の演算装置を接続し相互にデータの
授受を行わせることが可能なメモリである。
【００１５】入力パターンと教師パターンとの対は図２
に示すように第１集合ｎ１〜第４集合ｎ４に分割されて
いる。そして各演算装置は予め全データを有し、第１集
合ｎ１〜第４集合ｎ４の内の一つを受け持つよう割り当
てられている。これにより各演算装置は全学習データの
４分の１の量の学習データを受け持つことになり、か
つ、全体として見ると、与えられたデータのうち演算に
使用されないデータはない。
に示すように第１集合ｎ１〜第４集合ｎ４に分割されて
いる。そして各演算装置は予め全データを有し、第１集
合ｎ１〜第４集合ｎ４の内の一つを受け持つよう割り当
てられている。これにより各演算装置は全学習データの
４分の１の量の学習データを受け持つことになり、か
つ、全体として見ると、与えられたデータのうち演算に
使用されないデータはない。
【００１６】また各演算装置は次の神経系計算手段と重
みベクトル更新手段とを備える。神経系計算手段はｙ＝
ｆ（ＷＸ）で与えられる。ここでｙは神経回路からの出
力素子ｙｉを要素とする出力パターンベクトルであり、
ｆは飽和特性および単調増加特性等を持つ非線形変換関
数であり、ｙi ＝ｆ（ｕi ＋θi ）を満たす。ここでｕ
i は入力素子ｘj から出力素子ｙi への結合効率を表す
重み係数ｗijとｘ j の積ｗij・ｘj をｊについて０から
ｎ−１まで（ｎは入力層の素子の数を表す）加算したも
のである。θi はｙがｙi の値をとる際のしきい値であ
る。またＷはＷ＝｜ｗθ｜で与えられる結合荷重係数、
ｗはｗijを要素とする重みベクトル、θはθi を要素と
するしきい値ベクトルである。
みベクトル更新手段とを備える。神経系計算手段はｙ＝
ｆ（ＷＸ）で与えられる。ここでｙは神経回路からの出
力素子ｙｉを要素とする出力パターンベクトルであり、
ｆは飽和特性および単調増加特性等を持つ非線形変換関
数であり、ｙi ＝ｆ（ｕi ＋θi ）を満たす。ここでｕ
i は入力素子ｘj から出力素子ｙi への結合効率を表す
重み係数ｗijとｘ j の積ｗij・ｘj をｊについて０から
ｎ−１まで（ｎは入力層の素子の数を表す）加算したも
のである。θi はｙがｙi の値をとる際のしきい値であ
る。またＷはＷ＝｜ｗθ｜で与えられる結合荷重係数、
ｗはｗijを要素とする重みベクトル、θはθi を要素と
するしきい値ベクトルである。
【００１７】そしてＸは、列ベクトル（ｘ１）T の絶対
値で与えられる。ここでｘは入力素子ｘj を要素とする
入力パターンベクトルである。重みベクトル更新手段
は、入力パターンベクトルｘの学習目標である教師パタ
ーンベクトルｔと出力パターンベクトルｙとの差を表す
Ｅ＝（１／２）・‖ｙ−ｔ‖2 を用いて、Ｗを修正量Δ
Ｗ＝−δＥ／δＷに基づいて順次修正していく手段であ
る。ΔＷはΔＷ＝−δ・ｙと解かれ、δ＝（ｙ−ｔ）・
ｆ’（ｘ）となる。ここでｆ’はｆの導関数である。そ
して重みベクトル更新手段は、ΔＷに学習係数ε（１以
下の正の定数）をかけたΔＷ＝−δ・ｙ・εを用いてＷ
k ＝Ｗk-1−δ・ｙ・εで与えられる。ここでＷk の添
字ｋは神経系計算の反復回数を表す。
値で与えられる。ここでｘは入力素子ｘj を要素とする
入力パターンベクトルである。重みベクトル更新手段
は、入力パターンベクトルｘの学習目標である教師パタ
ーンベクトルｔと出力パターンベクトルｙとの差を表す
Ｅ＝（１／２）・‖ｙ−ｔ‖2 を用いて、Ｗを修正量Δ
Ｗ＝−δＥ／δＷに基づいて順次修正していく手段であ
る。ΔＷはΔＷ＝−δ・ｙと解かれ、δ＝（ｙ−ｔ）・
ｆ’（ｘ）となる。ここでｆ’はｆの導関数である。そ
して重みベクトル更新手段は、ΔＷに学習係数ε（１以
下の正の定数）をかけたΔＷ＝−δ・ｙ・εを用いてＷ
k ＝Ｗk-1−δ・ｙ・εで与えられる。ここでＷk の添
字ｋは神経系計算の反復回数を表す。
【００１８】〔第一実施例の作動〕本実施例の神経系学
習装置用の並列処理装置１は、次のように動作する（図
２参照）。 １）重みベクトルの初期値Ｗ0 を第１、第２、第３、第
４演算装置に渡す。 ２）第１演算装置２が割り当てられた第１集合ｎ１の入
力パターンと教師パターンとの対をテーブルルックアッ
プの手法で抽出する。 そして第１演算装置２は、初期値Ｗ0 を元に第１集合ｎ
１の第１の入力パターンについて神経系計算手段により
第１の出力パターンを計算する。さらに第１演算装置２
は、計算した第１の出力パターンを第１の入力パターン
と対をなす第１の教師パターンと比較して重みベクトル
更新の計算を行う。
習装置用の並列処理装置１は、次のように動作する（図
２参照）。 １）重みベクトルの初期値Ｗ0 を第１、第２、第３、第
４演算装置に渡す。 ２）第１演算装置２が割り当てられた第１集合ｎ１の入
力パターンと教師パターンとの対をテーブルルックアッ
プの手法で抽出する。 そして第１演算装置２は、初期値Ｗ0 を元に第１集合ｎ
１の第１の入力パターンについて神経系計算手段により
第１の出力パターンを計算する。さらに第１演算装置２
は、計算した第１の出力パターンを第１の入力パターン
と対をなす第１の教師パターンと比較して重みベクトル
更新の計算を行う。
【００１９】つぎに第１演算装置２は、更新された重み
ベクトルを用いて第１集合ｎ１の第２の入力パターンに
ついて神経系計算手段により第２の出力パターンを計算
する。さらに第１演算装置２は、計算した第２の出力パ
ターンを第２の入力パターンと対をなす第２の教師パタ
ーンと比較して重みベクトル更新の計算を行う。このよ
うにして逐次出力パターンの計算と重みベクトルの更新
とを行う。これにより第１演算装置２は結合荷重係数を
更新した結果Ｗ11を生ずる。
ベクトルを用いて第１集合ｎ１の第２の入力パターンに
ついて神経系計算手段により第２の出力パターンを計算
する。さらに第１演算装置２は、計算した第２の出力パ
ターンを第２の入力パターンと対をなす第２の教師パタ
ーンと比較して重みベクトル更新の計算を行う。このよ
うにして逐次出力パターンの計算と重みベクトルの更新
とを行う。これにより第１演算装置２は結合荷重係数を
更新した結果Ｗ11を生ずる。
【００２０】また第２、第３、第４演算装置３、４、５
が、第１演算装置２と同様に第２集合ｎ２、第３集合ｎ
３、第４集合ｎ４の入力パターンと教師パターンとの対
をテーブルルックアップの手法で抽出する。そして第
２、第３、第４演算装置３、４、５は、逐次神経系計算
手段による計算と重みベクトル更新の計算とを行う。こ
れにより第２、第３、第４演算装置３、４、５は、それ
ぞれ結合荷重係数を更新した結果Ｗ12、Ｗ13、Ｗ14を生
ずる。この際第２演算装置３、第３演算装置４、第４演
算装置５は、独立して第１演算装置２と同時に、それぞ
れＷ11、Ｗ12、Ｗ13の決定を待たずに第１演算装置２と
同じＷ0 から計算を開始する。
が、第１演算装置２と同様に第２集合ｎ２、第３集合ｎ
３、第４集合ｎ４の入力パターンと教師パターンとの対
をテーブルルックアップの手法で抽出する。そして第
２、第３、第４演算装置３、４、５は、逐次神経系計算
手段による計算と重みベクトル更新の計算とを行う。こ
れにより第２、第３、第４演算装置３、４、５は、それ
ぞれ結合荷重係数を更新した結果Ｗ12、Ｗ13、Ｗ14を生
ずる。この際第２演算装置３、第３演算装置４、第４演
算装置５は、独立して第１演算装置２と同時に、それぞ
れＷ11、Ｗ12、Ｗ13の決定を待たずに第１演算装置２と
同じＷ0 から計算を開始する。
【００２１】３）そして学習係数εが十分に小さい場合
にはＷ0 ≒Ｗ11≒Ｗ12≒Ｗ13とみることができ、次の学
習過程の結合荷重係数Ｗ1 が、 Ｗ1 ＝（Ｗ11＋Ｗ12＋Ｗ13＋Ｗ14）−Ｗ0 ・（４−１） ≒Ｗ14 により求められる。ここでＷ11＋Ｗ12＋Ｗ13＋Ｗ14は次
の集計の機能により求められる。
にはＷ0 ≒Ｗ11≒Ｗ12≒Ｗ13とみることができ、次の学
習過程の結合荷重係数Ｗ1 が、 Ｗ1 ＝（Ｗ11＋Ｗ12＋Ｗ13＋Ｗ14）−Ｗ0 ・（４−１） ≒Ｗ14 により求められる。ここでＷ11＋Ｗ12＋Ｗ13＋Ｗ14は次
の集計の機能により求められる。
【００２２】最初に第４演算装置５がＷ14を第３演算装
置４に送り、第３演算装置４がＷ14にＷ13を加えて第２
演算装置３に送る。第２演算装置３は受け取ったＷ13＋
Ｗ14にＷ12を加えて第１演算装置２に送る。第１演算装
置２は受け取ったＷ12＋Ｗ13＋Ｗ14にＷ11を加え、第１
演算装置２の内部にＷ11＋Ｗ12＋Ｗ13＋Ｗ14が生ずる。
４）Ｗ1 は放送通信機構６により全ての演算装置に配布
される。以上の１）〜４）の処理を学習過程の反復回数
だけ反復する。
置４に送り、第３演算装置４がＷ14にＷ13を加えて第２
演算装置３に送る。第２演算装置３は受け取ったＷ13＋
Ｗ14にＷ12を加えて第１演算装置２に送る。第１演算装
置２は受け取ったＷ12＋Ｗ13＋Ｗ14にＷ11を加え、第１
演算装置２の内部にＷ11＋Ｗ12＋Ｗ13＋Ｗ14が生ずる。
４）Ｗ1 は放送通信機構６により全ての演算装置に配布
される。以上の１）〜４）の処理を学習過程の反復回数
だけ反復する。
【００２３】このように、与えられた全ての入力パター
ンと教師パターンとの対のうち任意の一部分だけについ
て神経系計算手段による計算と重みベクトルを更新する
計算を実施できる手段を用いる。そして各演算装置に対
して異なる入力パターンと教師パターンとの対を指示す
る。これにより全ての入力パターンと教師パターンとの
対は、漏れなく何れかの演算装置により神経系計算手段
による計算と重みベクトルを更新する計算が実施され、
かつ何れの入力パターンと教師パターンとの対も複数の
演算装置により重複して神経系計算手段による計算と重
みベクトルを更新する計算とが行われることがない。
ンと教師パターンとの対のうち任意の一部分だけについ
て神経系計算手段による計算と重みベクトルを更新する
計算を実施できる手段を用いる。そして各演算装置に対
して異なる入力パターンと教師パターンとの対を指示す
る。これにより全ての入力パターンと教師パターンとの
対は、漏れなく何れかの演算装置により神経系計算手段
による計算と重みベクトルを更新する計算が実施され、
かつ何れの入力パターンと教師パターンとの対も複数の
演算装置により重複して神経系計算手段による計算と重
みベクトルを更新する計算とが行われることがない。
【００２４】〔数値実験〕５００５点のデータを用いた
非線形マッピングのモデルを用いて学習させる。神経回
路は４層モデルで、各層の装置数は入力から順に、１、
５、５、１個である。そして第１演算装置２ないし第４
演算装置５で各５０回学習させた。実験結果を表１に示
す。
非線形マッピングのモデルを用いて学習させる。神経回
路は４層モデルで、各層の装置数は入力から順に、１、
５、５、１個である。そして第１演算装置２ないし第４
演算装置５で各５０回学習させた。実験結果を表１に示
す。
【表１】
【００２５】データ点数が極めて多いため、演算装置の
複数化に伴う各演算装置間でのデータ通信に費やされる
時間の実行時間に対する比率を意味するオーバヘッドが
極めて少なく、装置全体としての処理速度の向上の倍率
を意味する速度倍率を総合した総合速度倍率は装置数倍
に近い。また誤差の収束速度は、演算装置が一台の場合
と殆ど差がない。
複数化に伴う各演算装置間でのデータ通信に費やされる
時間の実行時間に対する比率を意味するオーバヘッドが
極めて少なく、装置全体としての処理速度の向上の倍率
を意味する速度倍率を総合した総合速度倍率は装置数倍
に近い。また誤差の収束速度は、演算装置が一台の場合
と殆ど差がない。
【００２６】〔第一実施例の効果〕全ての演算装置が、
神経回路と、入力パターンと教師パターンとの対と、重
みベクトルとを有するので、各演算装置は神経系計算手
段や重みベクトル更新手段の計算を、他の演算装置と完
全に無関係に行うことができる。このため演算途中結果
を演算装置間で互いに交換する必要が無く、それだけ処
理時間が短い。各演算装置はテーブルルックアップの手
法によりオーバーヘッドが殆ど無く任意のデータについ
て学習できる。
神経回路と、入力パターンと教師パターンとの対と、重
みベクトルとを有するので、各演算装置は神経系計算手
段や重みベクトル更新手段の計算を、他の演算装置と完
全に無関係に行うことができる。このため演算途中結果
を演算装置間で互いに交換する必要が無く、それだけ処
理時間が短い。各演算装置はテーブルルックアップの手
法によりオーバーヘッドが殆ど無く任意のデータについ
て学習できる。
【００２７】第１演算装置が放送通信機構を通じて演算
開始を意味する開始データを送信し、第２演算装置ない
し第４演算装置は開始データを受信すると同時に演算処
理を開始するため演算装置間の同期が容易に取れる。全
演算装置への同一データの配布がし易い。
開始を意味する開始データを送信し、第２演算装置ない
し第４演算装置は開始データを受信すると同時に演算処
理を開始するため演算装置間の同期が容易に取れる。全
演算装置への同一データの配布がし易い。
【００２８】〔変形例〕本実施例では放送通信機構はＲ
Ｓ４２２規格のシリアル通信であるが、同等の通信機能
が実現可能であれば特にＲＳ４２２規格である必要はな
い。第４演算装置の第３演算装置と反対側に更に演算装
置とデータ交信機構とを並列に接続することにより４台
より多くの演算装置を使用してもよい。
Ｓ４２２規格のシリアル通信であるが、同等の通信機能
が実現可能であれば特にＲＳ４２２規格である必要はな
い。第４演算装置の第３演算装置と反対側に更に演算装
置とデータ交信機構とを並列に接続することにより４台
より多くの演算装置を使用してもよい。
【００２９】〔第二実施例〕次に、本発明の神経系学習
装置用の並列処理装置を図１および図３に示す第二実施
例に基づき説明する。
装置用の並列処理装置を図１および図３に示す第二実施
例に基づき説明する。
【００３０】〔第二実施例の構成〕本実施例は、本発明
の神経系学習装置用の並列処理装置を第一実施例と同じ
非線形マッピングの学習に適用する。本実施例の神経系
学習装置用の並列処理装置は第一実施例（図１参照）と
同様の構成を有する。
の神経系学習装置用の並列処理装置を第一実施例と同じ
非線形マッピングの学習に適用する。本実施例の神経系
学習装置用の並列処理装置は第一実施例（図１参照）と
同様の構成を有する。
【００３１】入力パターンと教師パターンとの対は図３
に示すように第１集合ｎ１〜第４集合ｎ４に分割されて
いる。そして各演算装置は予め全データを有し、第１集
合ｎ１〜第４集合ｎ４のうちの一つを受け持つよう割り
当てられている。これにより各演算装置は全学習データ
の４分の１の量の学習データを受け持つことになり、か
つ、全体として見ると、与えられたデータのうち演算に
使用されていないデータはない。そして各演算装置は次
の神経系計算手段と重みベクトル更新手段とを備える。
神経系計算手段はｙ＝ｆ（ＷＸ）で与えられる。重みベ
クトル更新手段は、修正量ΔＷ＝−δ・ｙで与えられ
る。
に示すように第１集合ｎ１〜第４集合ｎ４に分割されて
いる。そして各演算装置は予め全データを有し、第１集
合ｎ１〜第４集合ｎ４のうちの一つを受け持つよう割り
当てられている。これにより各演算装置は全学習データ
の４分の１の量の学習データを受け持つことになり、か
つ、全体として見ると、与えられたデータのうち演算に
使用されていないデータはない。そして各演算装置は次
の神経系計算手段と重みベクトル更新手段とを備える。
神経系計算手段はｙ＝ｆ（ＷＸ）で与えられる。重みベ
クトル更新手段は、修正量ΔＷ＝−δ・ｙで与えられ
る。
【００３２】〔第二実施例の作動〕本実施例の神経系学
習装置用の並列処理装置は、次のように動作する（図３
参照）。 １）重みベクトルの初期値Ｗ0 が全演算装置に渡され
る。 ２）第１演算装置が割り当てられた第１集合ｎ１の入力
パターンと教師パターンとの対をテーブルルックアップ
の手法で使用し、全て同じ初期値Ｗ0 を元に一括して神
経系計算手段による計算と重みベクトル更新の計算とを
行う。そして第１演算装置は第１集合ｎ１の入力パター
ンと教師パターンとの各対について結合荷重係数の修正
量を合計したΔＷ1 を生ずる。
習装置用の並列処理装置は、次のように動作する（図３
参照）。 １）重みベクトルの初期値Ｗ0 が全演算装置に渡され
る。 ２）第１演算装置が割り当てられた第１集合ｎ１の入力
パターンと教師パターンとの対をテーブルルックアップ
の手法で使用し、全て同じ初期値Ｗ0 を元に一括して神
経系計算手段による計算と重みベクトル更新の計算とを
行う。そして第１演算装置は第１集合ｎ１の入力パター
ンと教師パターンとの各対について結合荷重係数の修正
量を合計したΔＷ1 を生ずる。
【００３３】また第２、第３、第４演算装置が、第１演
算装置と同様にそれぞれ第２集合ｎ２、第３集合ｎ３、
第４集合ｎ４をテーブルルックアップの手法で使用し、
全て同じ初期値Ｗ0 を元に一括して神経系計算手段によ
る計算と重みベクトル更新の計算とを行う。これにより
第２、第３、第４演算装置は、それぞれ第２集合ｎ２、
第３集合ｎ３、第４集合ｎ４の入力パターンと教師パタ
ーンとの各対について結合荷重係数の修正量を合計した
ΔＷ2 、ΔＷ3 、ΔＷ4 を生ずる。 ３）そして次の学習過程の結合荷重係数Ｗ1 が、 Ｗ1 ＝Ｗ0 ＋ΔＷＡＬＬ により求められる。ΔＷＡＬＬはΔＷＡＬＬ＝ΔＷ1 ＋
ΔＷ2 ＋ΔＷ3 ＋ΔＷ4である。
算装置と同様にそれぞれ第２集合ｎ２、第３集合ｎ３、
第４集合ｎ４をテーブルルックアップの手法で使用し、
全て同じ初期値Ｗ0 を元に一括して神経系計算手段によ
る計算と重みベクトル更新の計算とを行う。これにより
第２、第３、第４演算装置は、それぞれ第２集合ｎ２、
第３集合ｎ３、第４集合ｎ４の入力パターンと教師パタ
ーンとの各対について結合荷重係数の修正量を合計した
ΔＷ2 、ΔＷ3 、ΔＷ4 を生ずる。 ３）そして次の学習過程の結合荷重係数Ｗ1 が、 Ｗ1 ＝Ｗ0 ＋ΔＷＡＬＬ により求められる。ΔＷＡＬＬはΔＷＡＬＬ＝ΔＷ1 ＋
ΔＷ2 ＋ΔＷ3 ＋ΔＷ4である。
【００３４】ここでΔＷ1 ＋ΔＷ2 ＋ΔＷ3 ＋ΔＷ4 は
次の集計の機能により求められる。最初に第４演算装置
がΔＷ4 を第３演算装置に送り、第３演算装置がΔＷ4
にΔＷ3 を加えて第２演算装置に送る。第２演算装置は
受け取ったΔＷ3 ＋ΔＷ4にΔＷ2 を加えて第１演算装
置に送る。第１演算装置は受け取ったΔＷ2 ＋ΔＷ 3 ＋
ΔＷ4 にΔＷ1 を加え、第１演算装置の内部にΔＷ1 ＋
ΔＷ2 ＋ΔＷ3 ＋ΔＷ4 が生ずる。 ４）Ｗ1 は放送通信機構により全ての演算装置に配布さ
れる。 以上の１）〜４）の処理を学習過程の反復回数だけ反復
する。
次の集計の機能により求められる。最初に第４演算装置
がΔＷ4 を第３演算装置に送り、第３演算装置がΔＷ4
にΔＷ3 を加えて第２演算装置に送る。第２演算装置は
受け取ったΔＷ3 ＋ΔＷ4にΔＷ2 を加えて第１演算装
置に送る。第１演算装置は受け取ったΔＷ2 ＋ΔＷ 3 ＋
ΔＷ4 にΔＷ1 を加え、第１演算装置の内部にΔＷ1 ＋
ΔＷ2 ＋ΔＷ3 ＋ΔＷ4 が生ずる。 ４）Ｗ1 は放送通信機構により全ての演算装置に配布さ
れる。 以上の１）〜４）の処理を学習過程の反復回数だけ反復
する。
【００３５】〔数値実験〕第一実施例と同様、５００５
点のデータを用いた非線形マッピングのモデルを用いて
学習させる。神経回路は４層モデルで、各層の装置数は
入力から順に、１、５、５、１個である。そして第１演
算装置ないし第４演算装置で各５０回学習させた。実験
結果を表２に示す。
点のデータを用いた非線形マッピングのモデルを用いて
学習させる。神経回路は４層モデルで、各層の装置数は
入力から順に、１、５、５、１個である。そして第１演
算装置ないし第４演算装置で各５０回学習させた。実験
結果を表２に示す。
【表２】
【００３６】誤差の収束速度は、演算装置が一台の場合
と殆ど差がなく、浮動小数点数の計算誤差の程度しか差
は見受けられない。次に、本発明の神経系学習装置用の
並列処理装置を図１および図２に示す第三実施例に基づ
き説明する。
と殆ど差がなく、浮動小数点数の計算誤差の程度しか差
は見受けられない。次に、本発明の神経系学習装置用の
並列処理装置を図１および図２に示す第三実施例に基づ
き説明する。
【００３７】〔第三実施例〕本実施例は、本発明の神経
系学習装置用の並列処理装置を関数近似のモデルの学習
に適用する。本実施例の神経系学習装置用の並列処理装
置は、第一実施例と同様の構成を有し、第一実施例と同
様に作動する。
系学習装置用の並列処理装置を関数近似のモデルの学習
に適用する。本実施例の神経系学習装置用の並列処理装
置は、第一実施例と同様の構成を有し、第一実施例と同
様に作動する。
【００３８】〔数値実験〕１０００点のデータを用いた
関数近似のモデルを用いて学習させる。神経回路は３層
モデルで、各層の装置数は入力層から順に、１、１０、
１個である。各装置の伝達関数は両極性のシグモイド関
数ｙ＝ｔａｎｈ（ｘ／２．０）とした。入力へは−１＜
ｘ＜１を１０００等分して与え、出力がｙ＝ｓｉｎ（ｘ
π＋π）となるように各２００回学習させた。実験結果
を表３に示す。
関数近似のモデルを用いて学習させる。神経回路は３層
モデルで、各層の装置数は入力層から順に、１、１０、
１個である。各装置の伝達関数は両極性のシグモイド関
数ｙ＝ｔａｎｈ（ｘ／２．０）とした。入力へは−１＜
ｘ＜１を１０００等分して与え、出力がｙ＝ｓｉｎ（ｘ
π＋π）となるように各２００回学習させた。実験結果
を表３に示す。
【表３】
【００３９】１０００点のデータでも速度倍率はかなり
高い。台数が増すに従って速度倍率が飽和傾向にあるの
は、データが第４演算装置から第１演算装置へ伝わるパ
イプラインによる遅延時間が無視できなくなり台数に比
例してオーバーヘッドが増加している為と思われる。し
かしながら速度倍率は並列処理装置では整数倍以上には
なり得ず、何れも速度倍率は整数倍（理想値）に近いこ
とから処理速度の向上は著しい。次に、本発明の神経系
学習装置用の並列処理装置を図１および図３に示す第四
実施例に基づき説明する。
高い。台数が増すに従って速度倍率が飽和傾向にあるの
は、データが第４演算装置から第１演算装置へ伝わるパ
イプラインによる遅延時間が無視できなくなり台数に比
例してオーバーヘッドが増加している為と思われる。し
かしながら速度倍率は並列処理装置では整数倍以上には
なり得ず、何れも速度倍率は整数倍（理想値）に近いこ
とから処理速度の向上は著しい。次に、本発明の神経系
学習装置用の並列処理装置を図１および図３に示す第四
実施例に基づき説明する。
【００４０】〔第四実施例〕本実施例は、本発明の神経
系学習装置用の並列処理装置を関数近似のモデルの学習
に適用する。本実施例の神経系学習装置用の並列処理装
置は、第二実施例と同様の構成を有し、第二実施例と同
様に作動する。
系学習装置用の並列処理装置を関数近似のモデルの学習
に適用する。本実施例の神経系学習装置用の並列処理装
置は、第二実施例と同様の構成を有し、第二実施例と同
様に作動する。
【００４１】〔数値実験〕第三実施例と同様、１０００
点のデータを用いた関数近似のモデルを用いて学習させ
る。神経回路は３層モデルで、各層の装置数は入力層か
ら順に、１、１０、１個である。各装置の伝達関数は両
極性のシグモイド関数ｙ＝ｔａｎｈ（ｘ／２．０）とし
た。入力へは−１＜ｘ＜１を１０００等分して与え、出
力がｙ＝ｓｉｎ（ｘπ＋π）となるように各２００回学
習させた。実験結果を表４に示す。
点のデータを用いた関数近似のモデルを用いて学習させ
る。神経回路は３層モデルで、各層の装置数は入力層か
ら順に、１、１０、１個である。各装置の伝達関数は両
極性のシグモイド関数ｙ＝ｔａｎｈ（ｘ／２．０）とし
た。入力へは−１＜ｘ＜１を１０００等分して与え、出
力がｙ＝ｓｉｎ（ｘπ＋π）となるように各２００回学
習させた。実験結果を表４に示す。
【表４】
【００４２】第三実施例の数値実験と同様、１０００点
のデータでも速度倍率はかなり高く、台数が増すに従っ
て速度倍率が飽和傾向にある。しかしながら速度倍率は
並列処理装置では整数倍以上にはなり得ず、何れも速度
倍率は整数倍（理想値）に近いことから処理速度の向上
は著しい。
のデータでも速度倍率はかなり高く、台数が増すに従っ
て速度倍率が飽和傾向にある。しかしながら速度倍率は
並列処理装置では整数倍以上にはなり得ず、何れも速度
倍率は整数倍（理想値）に近いことから処理速度の向上
は著しい。
【図１】４台の演算装置を使用した場合の神経系学習装
置用の並列処理装置の構成図である。
置用の並列処理装置の構成図である。
【図２】第一および第三実施例にかかる演算処理の流れ
を示す図である。
を示す図である。
【図３】第二および第四実施例にかかる演算処理の流れ
を示す図である。
を示す図である。
【図４】従来の神経系学習装置に於ける並列処理の応用
手法を示す図である。
手法を示す図である。
１ 神経系学習装置用の並列処理装置 ２ 第１演算装置（演算装置） ３ 第２演算装置（演算装置） ４ 第３演算装置（演算装置） ５ 第４演算装置（演算装置） ６ 放送通信機構 ７ ホストコンピュータ ６１ データ送信装置 ６２、６３、６４ データ受信装置 ８１ 第１データ交信機構（データ交信機構） ８２ 第２データ交信機構（データ交信機構） ８３ 第３データ交信機構（データ交信機構） ８４ 第４データ交信機構（データ交信機構）
Claims (3)
- 【請求項１】（ａ）神経系学習用の神経回路が構築さ
れ、前記神経回路の個々の結合部分の結合効率を表わす
重み係数を要素とする重みベクトルから前記神経回路へ
の入力パターンに対する出力パターンを算出する神経系
計算手段および、前記出力パターンを前記入力パターン
の学習目標である教師パターンと比較して前記重みベク
トルを更新する重みベクトル更新手段を有する複数の演
算装置と、（ｂ）前記演算装置のうちの一つの演算装置
に接続されるデータ送信装置および前記演算装置のうち
の残りの演算装置にそれぞれ接続されるデータ受信装置
を有する放送通信機構と、（ｃ）前記各演算装置と交互
に直列に接続され、２台の演算装置の間で相互にデータ
の授受を行わせる機能を有する前記演算装置と同数のデ
ータ交信機構と、（ｄ）前記一つの演算装置に接続さ
れ、前記入力パターンと前記教師パターンとの対を外部
から与えたり、学習の結果を表示するホストコンピュー
タとを備える神経系学習装置用の並列処理装置。 - 【請求項２】 請求項１の神経系学習装置用の並列処理
装置において、前記各演算装置はそれぞれ入力パターン
と教師パターンとの対の集合が割り当てられ、前記集合
の入力パターンについて逐次前記重みベクトル更新手段
によって更新した前記重みベクトルを用いて前記神経系
計算手段によって出力パターンを算出する神経系学習装
置用の並列処理装置。 - 【請求項３】 請求項１の神経系学習装置用の並列処理
装置において、前記各演算装置はそれぞれ入力パターン
と教師パターンとの対の集合が割り当てられ、前記集合
の全ての入力パターンについて同一の重みベクトルで神
経系計算手段によって出力パターンを計算すると共に重
みベクトル更新手段によって重みベクトルの修正量を計
算し、この修正量を用いて重みベクトルを更新する神経
系学習装置用の並列処理装置。
Priority Applications (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6098623A JPH07306845A (ja) | 1994-05-12 | 1994-05-12 | 神経系学習装置用の並列処理装置 |
Applications Claiming Priority (1)
| Application Number | Priority Date | Filing Date | Title |
|---|---|---|---|
| JP6098623A JPH07306845A (ja) | 1994-05-12 | 1994-05-12 | 神経系学習装置用の並列処理装置 |
Publications (1)
| Publication Number | Publication Date |
|---|---|
| JPH07306845A true JPH07306845A (ja) | 1995-11-21 |
Family
ID=14224672
Family Applications (1)
| Application Number | Title | Priority Date | Filing Date |
|---|---|---|---|
| JP6098623A Pending JPH07306845A (ja) | 1994-05-12 | 1994-05-12 | 神経系学習装置用の並列処理装置 |
Country Status (1)
| Country | Link |
|---|---|
| JP (1) | JPH07306845A (ja) |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018018220A (ja) * | 2016-07-26 | 2018-02-01 | 富士通株式会社 | 並列情報処理装置、情報処理方法、およびプログラム |
Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH02181257A (ja) * | 1989-01-06 | 1990-07-16 | Hitachi Ltd | 情報処理装置 |
| JPH04287153A (ja) * | 1991-03-18 | 1992-10-12 | Fujitsu Ltd | 並列計算機システム |
| JPH05342172A (ja) * | 1992-06-08 | 1993-12-24 | Toshiba Corp | マルチプロセッサシステム |
-
1994
- 1994-05-12 JP JP6098623A patent/JPH07306845A/ja active Pending
Patent Citations (3)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JPH02181257A (ja) * | 1989-01-06 | 1990-07-16 | Hitachi Ltd | 情報処理装置 |
| JPH04287153A (ja) * | 1991-03-18 | 1992-10-12 | Fujitsu Ltd | 並列計算機システム |
| JPH05342172A (ja) * | 1992-06-08 | 1993-12-24 | Toshiba Corp | マルチプロセッサシステム |
Cited By (1)
| Publication number | Priority date | Publication date | Assignee | Title |
|---|---|---|---|---|
| JP2018018220A (ja) * | 2016-07-26 | 2018-02-01 | 富士通株式会社 | 並列情報処理装置、情報処理方法、およびプログラム |
Similar Documents
| Publication | Publication Date | Title |
|---|---|---|
| CN109522052B (zh) | 一种计算装置及板卡 | |
| EP3451242A1 (en) | Device and method for performing reversetraining of fully connected layers of neural network | |
| EP0421639B1 (en) | Parallel data processing system | |
| CN107886167A (zh) | 神经网络运算装置及方法 | |
| JPH04290155A (ja) | 並列データ処理方式 | |
| JPH04293151A (ja) | 並列データ処理方式 | |
| CN111045728B (zh) | 一种计算装置及相关产品 | |
| CN111047022A (zh) | 一种计算装置及相关产品 | |
| JPH0567060A (ja) | ニユーロデバイス | |
| CN111930681A (zh) | 一种计算装置及相关产品 | |
| JPH07306845A (ja) | 神経系学習装置用の並列処理装置 | |
| JPH076146A (ja) | 並列データ処理システム | |
| CN111198714B (zh) | 重训练方法及相关产品 | |
| JPH04229362A (ja) | 学習機械 | |
| GB2206428A (en) | Computer | |
| WO2023214609A1 (ko) | 상태 벡터를 효율적으로 계산하는 양자 회로 연산 방법 | |
| JP2679731B2 (ja) | パイプライン処理を用いたニューラルアーキテクチュア | |
| CN119398122B (zh) | 基于通用LoRA和领域专用LoRA多任务混合专家模型微调方法 | |
| CN114723032B (zh) | 一种长短期记忆神经网络硬件加速方法与计算系统 | |
| CN111222632A (zh) | 计算装置、计算方法及相关产品 | |
| CN111367567A (zh) | 一种神经网络计算装置和方法 | |
| JPH05197702A (ja) | 神経回路網シミュレータ装置 | |
| JP2765903B2 (ja) | 情報処理装置 | |
| JPH0451386A (ja) | ニューラルネットワーク及びその構築方法 | |
| JPH0471063A (ja) | 神経回路網型計算装置 |