JPH10161984A - Sci相互接続を用いたtocカウンタの同期 - Google Patents

Sci相互接続を用いたtocカウンタの同期

Info

Publication number
JPH10161984A
JPH10161984A JP9264326A JP26432697A JPH10161984A JP H10161984 A JPH10161984 A JP H10161984A JP 9264326 A JP9264326 A JP 9264326A JP 26432697 A JP26432697 A JP 26432697A JP H10161984 A JPH10161984 A JP H10161984A
Authority
JP
Japan
Prior art keywords
sci
node
packet
nodes
toc
Prior art date
Legal status (The legal status is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the status listed.)
Granted
Application number
JP9264326A
Other languages
English (en)
Other versions
JP3981192B2 (ja
JPH10161984A5 (ja
Inventor
D Hoonang Brian
ブライアン・ディー・ホーナング
M Blewer Tonny
トニー・エム・ブレワー
Current Assignee (The listed assignees may be inaccurate. Google has not performed a legal analysis and makes no representation or warranty as to the accuracy of the list.)
HP Inc
Original Assignee
Hewlett Packard Co
Priority date (The priority date is an assumption and is not a legal conclusion. Google has not performed a legal analysis and makes no representation as to the accuracy of the date listed.)
Filing date
Publication date
Application filed by Hewlett Packard Co filed Critical Hewlett Packard Co
Publication of JPH10161984A publication Critical patent/JPH10161984A/ja
Publication of JPH10161984A5 publication Critical patent/JPH10161984A5/ja
Application granted granted Critical
Publication of JP3981192B2 publication Critical patent/JP3981192B2/ja
Anticipated expiration legal-status Critical
Expired - Lifetime legal-status Critical Current

Links

Classifications

    • GPHYSICS
    • G06COMPUTING OR CALCULATING; COUNTING
    • G06FELECTRIC DIGITAL DATA PROCESSING
    • G06F1/00Details not covered by groups G06F3/00 - G06F13/00 and G06F21/00
    • G06F1/04Generating or distributing clock signals or signals derived directly therefrom
    • G06F1/14Time supervision arrangements, e.g. real time clock

Landscapes

  • Engineering & Computer Science (AREA)
  • Theoretical Computer Science (AREA)
  • Physics & Mathematics (AREA)
  • General Engineering & Computer Science (AREA)
  • General Physics & Mathematics (AREA)
  • Multi Processors (AREA)
  • Computer And Data Communications (AREA)
  • Synchronisation In Digital Transmission Systems (AREA)
  • Data Exchanges In Wide-Area Networks (AREA)

Abstract

(57)【要約】 【課題】 互いに同期された異なるノート゛上の低スキュークロック
へのアクセスを提供するためのシステムおよび方法を提供するこ
と。 【解決手段】 処理イヘ゛ントを同期させるために低スキュークロッ
クにアクセスするマルチフ゜ロセッサ・マルチノート゛システム。該システムは、SC
Iネットワーク16,18を用いて低スキュー信号を配信して、異なるノ
ート゛24上のタイム・オフ゛・センチュリー・クロックを同期させる。これ
らのカウンタは、選択されたマスタカウンタ13からの信号と周期的
に同期され、これにより全ノート゛がほぼ等しいカウンタ値を維
持するようになる。送信ハ゜ケット、エコーハ゜ケット、またはアイト゛ル
ハ゜ケットのSCIヘッタ゛における単一ヒ゛ット41が、SCIリンク゛1
6,18を介して全ノート゛へ経路指定される。該ヒ゛ットが既存の
ハ゜ケットに挿入されるため、特殊な同期ハ゜ケットを作成する必
要がなくなる。更に、該ヒ゛ットが既存のラインを介して搬送
されるため、新たな信号経路又は余剰ワイヤを追加する必
要がなくなる。

Description

【発明の詳細な説明】
【0001】
【発明の属する技術分野】本発明は一般にマルチプロセ
ッサシステムに関し、特にマルチプロセッサシステムの
同期をとる方法およびシステムに関する。
【0002】
【従来の技術】マルチノード・マルチプロセッサシステ
ムの同期をとるには、システム内の各プロセッサのクロ
ックを他のプロセッサのクロックに相対的に同期させな
ければならない。これを行うには、一定の処理ポイント
における概略時間が分からなければならず、システム全
体にわたって時間がほぼ同じである必要がある。
【0003】かかるシステムでは、各ノードがクロック
カウンタを有し、該ノード上の各プロセッサが該クロッ
クカウンタを読み取る。残念ながら、かかるシステム内
の各カウンタクロックひいては各ノードは、僅かに異な
るクロック周波数で動作する。このクロック周波数の差
は、各カウンタ内のクリスタルが厳密に同一でないこと
によるものである。この異なるクリスタル周波数のた
め、カウンタの時間値がドリフトすることになる。クリ
スタルの物理的な差を制御することはできない。
【0004】既知の従来技術は、各ノード間に接続され
た余剰ワイヤを使用することによりこのドリフトの問題
を解決している。かかるワイヤは、同期信号を搬送する
別々の信号経路を形成する。ハードウェアにより画定さ
れる一定時間の経過後に、該ワイヤを介して同期パケッ
トが配信され、次いで各ノードが該同期パケットを受信
して、そのカウンタ時間を適切に変更する。
【0005】この従来技術の解決策に関する問題は、余
剰信号経路のために、この解決策がコスト/パフォーマ
ンスの点で高価になることにある。この従来技術の解決
策はまた、システムの複雑さを増大させるものとなる。
これは、回路に(特に接続部間の接地に関して)より多
くの問題および誤りを生じさせる恐れのある追加的な接
続をワイヤが必要とするからである。
【0006】
【発明が解決しようとする課題】したがって、当業界で
は、互いに同期された異なるノード上の低スキュークロ
ックへのアクセスを提供するためのシステムおよび方法
が必要とされている。
【0007】また、当業界では、同期中に待ち時間を生
じさせることなく異なるノード上のクロックを同期させ
るためのシステムおよび方法も必要とされている。
【0008】更に、当業界では、システム性能を低下さ
せることなく異なるノード上のクロックを同期させるた
めのシステムおよび方法も必要とされている。
【0009】
【課題を解決するための手段】上述その他の必要性は、
マルチプロセッサシステムが低スキュークロックにアク
セスして処理イベントを同期させるシステムおよび方法
によって満たされる。本発明は、SCI又はスケーリン
グ可能なコヒーレント相互接続ネットワーク等の既存の
ハードウェアを用いて低スキュー信号を配信して、異な
るノード上のタイム・オブ・センチュリー・クロック(t
ime of century clock:百年制クロック)を同期させ
る。これらのカウンタを、選択されたマスタカウンタか
らの信号と周期的に同期させることにより、全てのノー
ドがほぼ等しいカウンタ値を維持することになる。送信
パケット、エコーパケット、及びアイドルパケットのS
CIヘッダ中の単一のビットが、SCIリングを介して
全てのノードに経路指定される。該ビットが既存のパケ
ットまたはルーチンパケットに挿入されるので、特殊な
同期パケットを作成する必要がない。更に、該ビット
は、既存の線を介して移動するので、追加的な信号経路
または余剰ワイヤが不要となる。
【0010】本発明の技術的な利点は、SCIを使用し
てシステム上の全てのクロックへ同期パルスを送信する
ことにある。
【0011】本発明の別の技術的な利点は、既存のデー
タパケットを使用して同期パルスを伝送することにあ
る。
【0012】本発明の更に別の技術的な利点は、既存の
データパケットのヘッダに同期パルスを配置することに
ある。
【0013】上記説明は、下記の本発明の詳細な説明が
一層良好に理解されるように本発明の特徴および技術的
な利点をかなり広範に概説したものである。特許請求の
範囲に記載の本発明の要旨を形成する本発明の他の特徴
および利点について以下で説明する。当業者であれば、
本発明と同一の目的を達成するために、本開示の概念お
よび特定の実施形態を、修正あるいは別構造の設計のた
めの基礎として容易に利用可能であることが理解されよ
う。当業者であれば、そのような等価的な構成が、特許
請求の範囲に記載の本発明の思想および範囲から逸脱し
ないものであることもまた理解されよう。
【0014】
【発明の実施の形態】図1は、システム中の合計112個
の考え得るノードのうちの2つのノード、具体的にはノ
ード0およびノード1を概略的に示すブロック図である。
また、図2は、単一のノードの構成要素を示すブロック
図である。それぞれの異なるノードをクラスタ状に区画
してシステムの耐久生存性(survivability)を向上させ
ることができる。これについては、1996年9月27日出願
の「ERROR CONTAINMENT CLUSTEROF NODES」と題する同
時係属中の米国特許出願第08/720368号に記載されてい
る。なお、本引用をもってその開示内容を本明細書中に
包含させたものとし、その詳細な説明は省略する。
【0015】マルチプロセッサコンピュータシステム
は、2つのノードを有することができ、また最大で112
個のノードを有することができる。図3に示すように、
112ノードシステムにおいて、ノード24は、壁23を形成
する7つのX次元リング26×4つのY次元リング27とし
て構成される。かかる4つの壁が4つのZ次元リング28
によって相互接続される。Y次元リング27をZ次元リン
グ28に接続するためにブリッジノードが使用される。
【0016】プロセッサエージェントチップを表すPA
Cと記した1つのプロセッサエージェント11には、最大
2つのプロセッサ10を接続することができる。単一のノ
ードは、最大で8つのPAC11を有することができる。
多数の同一要素が存在することに留意されたい。説明を
明瞭にするため、本明細書では同一要素を単一の符号で
示すこととする。なお、2つ以上の同一要素を区別する
場合には、異なる要素に新たな符号を付することとす
る。
【0017】プロセッサ10は、HEWLETT-PACKARD PA-800
0プロセッサであることが好ましい。しかしながら、本
発明はプロセッサタイプやアーキテクチャにより制限さ
れるものではない。プロセッサ10は、ランウェイバスを
介してPAC11に接続される。PAC11は、入出力(I
/O)サブシステムを有し、クロスバー12およびコア論
理アクセスバスに接続される。コア論理アクセスバスは
主としてシステムブート動作に使用される。このバス
は、全てのPACを、消去可能なプログラマブル読出し
専用メモリ(EPROM)、同期ダイナミックランダム
アクセスメモリ(SDRAM)、リアルタイムクロッ
ク、RS-232インタフェース、及びEthernetインタフェー
スに結合させる、低帯域幅マルチドロップバスである。
更に、プロセッサは、バスを使用してアクセスされる制
御状態レジスタ(CSR)に書込みを行って、クロスバ
ーの初期設定及び構成を行うことができる。
【0018】PAC11の機能は、要求をプロセッサ10か
らクロスバー12を介してメモリアクセスシステム14へ送
信し、次いでその応答を要求側プロセッサ10へ送り返す
ことである。各PAC11内には、TOCと記したタイム
・オブ・センチュリー・カウンタ13がある。各PACが
2つのプロセッサを処理し、1ノード内に最大で8つの
PACがあるので、各ノードは最大で16個のプロセッサ
を有することができる。図2は、4つのクロスバー12を
示しているが、各PACは、そのうちの2つのクロスバ
ーと通信する。
【0019】PACは、4つの一方向データ経路を用い
てクロスバー12を介してメモリコントローラ14と通信す
る。RAC(routing attachment chip:経路指定接続チ
ップ)と記したクロスバー12は、エージェント11からパ
ケットを受信し、次いで該パケットをMACと記したメ
モリアクセスコントローラ14に経路指定する経路指定手
段である。各RACは16個の32ビット幅の一方向相互接
続手段を有しており、その各RACは4つのPACおよ
び4つのMACに接続される。クロスバーは、それ自体
のCSRを有さず、その代わりに、コアアクセス論理バ
ス上にあるCSRへの書込みによって初期設定される。
それらのCSRは、どのポートをアクティブにするかを
制御すると共にエラー検出をイネーブルにする。
【0020】MAC14は、コヒーレントメモリへのアク
セスを制御する。メモリアクセスコントローラは、2の
倍数で2から8までの番号付けを行うことができ、各M
ACは、4つのバンクの最大2Gbyte(各バンク29が512
Mバイトを有する)までサポートする。したがって、各
ノードは最大16Gbyteまでアクセスすることができ、28
ノードシステムは最大448Gバイトまでにアクセスする
ことができる。メモリバンクは、同期DRAMまたはS
DRAMからなるSIMMを備える。図2は、図示の簡
素化のために2つのメモリバンク29のみを示したもので
ある。該メモリは、ノードローカルメモリ、ネットワー
クキャッシング、及びメッセージングに使用される。キ
ャッシュのコヒーレンシーを維持する方法については、
1996年9月27日出願の「METHOD AND SYSTEM FOR MAINTAI
NING STRONG ORDERING IN A COHERENT MEMORY SYSTEM」
と題する同時係属中の米国特許出願第08/720330号で論
じられている。なお、本引用を持ってその開示内容を本
明細書中に包含させたものとし、その詳細な説明は省略
する。
【0021】プロセッサ10がメモリその他のリソースに
アクセスするための要求を生成すると、PAC11は、要
求されたアドレスを調べて、該要求の処理に適当なMA
Cを決定し、次いで該要求をRAC12を介して適当なM
AC14へと送信する。MAC14は、ノードIDがローカ
ルメモリアドレスに対するものでないと判定した場合に
は、該要求をTACと記したリングインタフェースコン
トローラ15へ送る。また、MAC14は、要求されたアド
レスがローカルノードについてのものであると判定した
場合には、そのMAC14に接続されているメモリ29にア
クセスする。
【0022】TAC15は、トロイダルアクセスチップま
たはSCIコントローラとしても知られるものである。
TACは、ノードからSCIリングへのインタフェース
として働く。TACは、2つの一方向データ経路を使用
してMACと通信する。各TACは、2つのSCIリン
グ、即ち、X次元リングおよびY次元リングとのインタ
フェースをとる。図1は、図示の簡素化のため単一の次
元のみを示している。図1はまた、リング16とのインタ
フェースをとる1つのTAC15と、リング18とのインタ
フェースをとるもう1つのTAC17とを示している。
【0023】TAC15は、別々のリング16を操作するこ
とが可能なものである。最大8つのMAC/TAC対が
存在できるので、ノードの各セクションを接続する合計
で最大8つのSCIリング(即ち、8つのX次元リング
および8つのY次元リング)が単一の次元に存在するこ
とができる。SCIインタフェースリングについては、
「IEEE Standard for Scalable Coherent Interface (S
CI)」(IEEE Std.1596-1992 ISBN 1-55937-222-2)で規
定されている。尚、本引用をもってその内容を本書中に
包含させたものとし、その詳細な説明は省略する。TA
C15は、MAC14から非ローカルメモリアクセス要求を
受信し、その要求をSCIリング16に送る。図1におい
て、受信側TAC19は、送信側TAC15からの要求を受
信し、次いで該要求をそのローカルMAC20へ送る。メ
モリアクセスが該要求を満たす場合には、その応答が、
TAC19、リング16、TAC15、MAC14、RAC12、
及びPAC11を介してプロセッサ10に返される。
【0024】各PACプロセッサエージェント内には、
TOC13またはタイム・オブ・センチュリー・カウンタ
と呼ばれる論理構成がある。このカウンタは、ローカル
クロック周波数に応じてカウントを行う。PACに取り
付けられた各プロセッサは、その2つの異なるプロセッ
サがほぼ同時にTOCを読み出す場合に各プロセッサが
ほぼ同じ値に設定され又は少なくとも許容可能な公差限
界内に設定されるように、それらのプロセッサ間におけ
る比較的等しい待ち時間で該カウンタにアクセスする。
各ノードはクリスタルクロックを1つずつ有し、該クロ
ックにより同一ノード上のTOCが動作する。
【0025】各ノードが異なるクリスタルを有している
ため、異なるノード上で動作するタイム・オブ・センチ
ュリー・カウンタが僅かに異なる周波数で動作するとい
う問題が生じる。TOCによるカウントの同期を周期的
にとり、これにより、異なるノード上のリモートプロセ
ッサがローカルノード上のメモリその他のデバイスに対
して読み出しまたはアクセスを行うとき各プロセッサ
(ローカルプロセッサおよびリモートプロセッサ)がそ
れ自体のTOCに対して読み出しを行う際にほぼ同じ値
を読み出すようにする必要がある。
【0026】各ノードには8つのPACがあり、各PA
Cは、それ自体のタイム・オブ・センチュリー・カウン
タすなわちTOCを有している。ノード内のこれら8つ
のPACの全てがワイヤ21によって接続される。周期的
に、ワイヤ21に沿って同期パルスが送信され、これによ
り、各PACがそのTOCに同期される。同一ノード上
の全てのTOCは同一のクリスタルで動作するので、同
一ノード上のTOC間にドリフトは存在しない。
【0027】ノード内の全てのPACの接続を行うワイ
ヤ21はまた、同ノード内の全てのTACにも接続され
る。1つのノード内の1つのTACはTOCマスタとし
て選択される。TOCマスタのタスクは、同期パルスを
SCIリングを介してそのSCIリングに接続された全
てのノードへ送信することである。同期パルスは、既存
のデータパケットのアイドル記号またはヘッダ記号に挿
入されるので、該同期パルスを送信するという目的だけ
のためにデータパケットを作成する場合よりも他のノー
ドに一層高速に到達することができる。更に、同期パル
スは、パケットのヘッダ内にあるので、該同期パルス
は、パケット内のデータの残りの部分よりも前に作用を
受ける。したがって、プロセッサが他のノード上のTO
Cの読み出しを行う場合、TOC同期信号が他のパケッ
トよりも高速であるため、それぞれの異なるTOC間の
ドリフトは知覚されない。
【0028】図4に示すように、単一のノード30(通常
はノード0)がマスタとして指定され、このマスタノー
ドがTOC同期信号を生成し、該TOC同期信号が残り
のノードまたはスレーブノード31へ送信される。マスタ
ノード上のPACのうちの1つがマスタPAC11として
指定され、該マスタPAC11がTOC同期信号を生成し
て該TOC同期信号をマスタノード30上の他の非マスタ
PACへ送信する。これと同時に該TOC同期信号がT
AC15を介してSCIリング16へ送られ、次いでスレー
ブノード31へと送られる。TAC19は、該スレーブノー
ド31上でTOC同期信号を受信し、次いでそのスレーブ
ノード31上の全てのPACに接続されたワイヤ22上にそ
のパルスを送る。したがって、スレーブノード上の全て
のPACがほぼ同時にTOC同期信号を受信することに
なる。
【0029】同期ワイヤ21は、TOC同期信号がマスタ
ノード内の8つのTAC全てに実際に送信されるように
全てのPAC及び全てのTACを接続する。実際には複
数のTACのうちの1つだけを使用して他のスレーブノ
ードへ同期信号を送信するが、使用すべきTACをソフ
トウェアが選択することが可能であるため、ハードウェ
アが故障した場合には、異なるリングを使用するバック
アップ用TACを選択することが可能であり、したがっ
て故障の修理のために停止させることなく動作を継続さ
せることが可能である。
【0030】図5は、TOC用のハードウェアを示すも
のである。TOCは、システム全体の同期クロックに非
常に短い待ち時間でアクセスするための機構を備えてい
る。TOCを使用して、タイムスタンプ付きトレースデ
ータを後の分析のために生成することができる。各ノー
ドから得たタイムスタンプ付きのトレースデータを後の
処理ステップでマージして、5〜10μsecの範囲のイベ
ントシーケンスを有する正確な大域ピクチャを提供する
ことが可能である。TOCはまた、送信されたメッセー
ジのタイムスタンプも提供する。受信側は、現在時刻か
らタイムスタンプを減算することによって送信時間を求
めることができる。
【0031】システム内の各PACはTOC同期パルス
生成器32を有する。該TOC同期パルス生成器32は、そ
れがマスタノード上のマスタPACでしか使用されない
場合であっても設けられる。マスタTOC同期パルス生
成器は、TOC同期マスタセレクタ33によって作動され
る。全ての残りのPAC内のTOC同期セレクタは、そ
れらの個々のTOC同期パルス生成器の選択解除を行
い、またはTOC同期パルス生成器をオフにセットす
る。したがって、1つのPACだけがパルスを生成して
そのパルスをシステム内の他の全てのPACに配信する
ことになる。TOC同期パルス生成器32は、ワイヤ21を
含む配信論理回路34へその信号を送信する。TOC同期
信号は、全てのローカルPACへ送られ、また全てのロ
ーカルTACに送られる。該TOC同期信号をSCIリ
ングを介して全てのリモートPACへ送信するために、
1つのTAC、即ちマスタTACが選択される。受信側
TAC19は、TOC同期パルスを受信し、該TOC同期
パルスをそのノード上の全ての8つのPACに配信す
る。次いで、各PACが該TOC同期パルスを受信し、
該TOC同期パルスを使用してそのTOCの再同期を行
う。
【0032】各ノード上のクリスタルクロック35及びク
ロック生成器36は、各PAC上のTOC用の16MHzクロ
ックを生成する。PACは、7つまたは8つのTOCク
ロック毎にクリスタルクロックをそのPAC自体のTO
Cに同期させる。マスタPACは、256クロックまたは1
6μsec毎にTOC同期パルスを生成する。
【0033】一般に、16MHzクロック35が、プレスケー
ル/シンクロナイザ37によりスケールダウンされて、タ
イムオブセンチュリーレジスタ38となる。これは、この
特定のPAC上に配設されたローカルプロセッサにより
読み出しが行われるレジスタである。チェック論理回路
39は、TOCカウンタレジスタが特定の分解能内に同期
を維持することを確実にする。配信論理回路34は、同期
パルス間の時間が、同期周期に対して同期分解能の1/
2を加算又は減算した範囲内であることを確実にするた
めに検査を行う。該分解能は、TOC同期分解能論理回
路40により設定される。次の表1は、サポートされる幾
つかの分解能についての検査範囲を示すものである。
【0034】
【表1】
【0035】チェック論理回路が、進んだパルスまたは
遅れたパルスを検出した場合には、そのPACに接続さ
れたプロセッサのうちの1つに割り込みが送信される。
【0036】プリスケール論理回路37は、クロック35の
16による除算を実行し、その結果、1μsecの周期信号が
得られる。該周期信号は、TOCカウンタレジスタ38の
インクリメントを可能にするために使用される。レジス
タ38の同期は、同期パルスの到着時にプリスケール値を
切り上げあるいは切り捨てることにより実行される。そ
の丸め量は、TOC分解能40の関数となる。
【0037】SCIは、パケットベースのプロトコルで
ある。各パケットは、基本的に、ヘッダと、それに続
く、パケットのタイプに応じた0〜8個のデータ記号と
を備える。前記ヘッダは、CLKと記す更なるビットを
有する。該ビットはTOC同期ビットである。図6は、
ヘッダにCLKビット41を有する典型的なSCIパケッ
トを示すものである。PACは、マスタPACからTO
C同期信号を受信すると、修正することができる最初の
使用可能なヘッダを見つけて、CLKビットをセットす
る。リング上の他のあらゆるTACは、そのパケットを
CLKビットと共に受信した際に、該CLKビットを取
り出し、該ビットをローカルPACへ送り、及びリング
を介して次のTACへ送る。最後に、CLKビットは、
リングを介して当初のTACまたはマスタTACへと戻
され、該マスタTACが、該CLKビットをヘッダから
取り出すことになるが、該CLKビットをローカルPA
Cへ送ることも次のTACに渡すこともしない。
【0038】CLKは、各パケットに含まれるサイクル
冗長コードまたはCRCコードの計算には使用されな
い。このため、CRCを再計算することなく直ちにCL
Kビットを変更することが可能となる。CRCはSCI
の仕様で規定される。CRCは、本質的には、パケット
内の全てのビットの大きなXORであり、最後のパケッ
ト内に保存されたものであり、各TACでパケットが受
信される際に、新たなCRCが計算されて、送信された
CRCと比較される。2つのCRCが異なる場合にはエ
ラーが発生している。CLKビットはあらゆるヘッダに
追加される。このため、TACは、長くとも現在のパケ
ットが終了するのを待った後に次のパケットのヘッダを
見つけ、したがって極めて短い待ち時間しか生じない。
それ故、新しいパケットを作成する必要はなく、CLK
ビットに関してリングにパケットが追加されることはな
い。
【0039】各TACは、システム全体にわたり同期パ
ルスを如何に伝搬させるかを制御する制御状況レジスタ
CSRを有する。CSRは、到来する同期パルスについ
てのソースを指定する。CSRはまた、同期パルスをS
CI X次元リングに伝搬させるかSCI Y次元リング
に伝搬させるかを指定する。
【0040】図7に示すように、TAC TOC構成レ
ジスタは3つのフィールドを有する。ソースフィールド
42は、2ビットフィールドであり、イネーブルされた同
期パルス出力にどの同期パルス入力(同期信号、または
X到来リンク、またはY到来リンク)を伝搬させるべき
かを指定する。該2ビットにより、4つの選択肢、即
ち、値0(解決策をとらず、あるいは何も行わない)、
値1(PACから信号を取り出して配信する)、値2
(二次元リング構造のX入力から信号を取り出して配信
する)、及び値3(Y入力から信号を取り出して配信す
る)が与えられる。最後の2つのフィールド43,44は、
ビットを如何に配信するかを指示するものである。Xリ
ングビットまたはYリングビットに1がある場合には、
そのリング上の最初の使用可能なヘッダにTOC同期信
号が配信される。このX−Yレイアウトについては、19
96年9月27日出願の「ROUTING METHODS FOR A MULTINODE
SCI COMPUTER SYSTEM」と題する同時係属中の米国特許
出願第08/720331号に記載されている。
【0041】本発明およびその利点について詳細に説明
したが、特許請求の範囲に記載の本発明の思想および範
囲から逸脱することなく、本開示内容に対して様々な変
更、置換、及び修正を加えることが可能であることが理
解されよう。
【0042】以下においては、本発明の種々の構成要件
の組み合わせからなる例示的な実施態様を示す。
【0043】1.複数のSCIリングによって相互接続
された複数のノードを備えた、同期処理イベントに関す
る低スキュー時間カウンタを有するマルチプロセッサコ
ンピュータシステムであって、前記ノードの各々が、時
間値を生成する時間カウンタと、前記ノードと前記SC
IリングとのインタフェースをとるSCIコントローラ
と、前記SCIコントローラと前記時間カウンタとの間
で同期信号を搬送する同期信号配信経路とを備えてお
り、前記複数のノードのうちの1つがマスタノードとし
て指定され、該マスタノードが同期信号を生成する手段
を備えており、該同期信号が、前記同期信号配信経路お
よび前記SCIリングを介して該コンピュータシステム
の残りのノードへと配信されて該コンピュータシステム
内の前記時間カウンタの各々の時間値が変更されること
を特徴とする、コンピュータシステム。
【0044】2.前記ノードの各々が、データを処理す
る少なくとも1つのプロセッサと、データを記憶するメ
モリと、時間カウンタを有し、ターゲットメモリとのト
ランザクションを求める前記プロセッサからの要求のデ
ィスパッチを行い、及び前記プロセッサに応答を経路指
定する、少なくとも1つのプロセッサエージェントと、
該プロセッサエージェントからの要求を受信してターゲ
ットメモリの位置を判定する、前記メモリに対するアク
セスを制御する少なくとも1つのメモリエージェント
と、前記要求および前記応答の経路指定を前記プロセッ
サエージェントと前記メモリエージェントとの間で行う
少なくとも1つのクロスバーとを備えており、前記メモ
リエージェントが、前記ターゲットメモリが前記メモリ
であると判定した場合に、前記メモリにアクセスして前
記プロセッサに応答し、前記メモリエージェントが、前
記ターゲットメモリがリモートノード上に位置している
と判定した場合に、前記要求を前記SCIコントローラ
へ転送し、該SCIコントローラが前記要求を前記SC
Iリングを介して前記リモートノードへ送信する、前項
1に記載のコンピュータシステム。
【0045】3.前記ノードの各々が、8つの時間カウ
ンタを有する8つのプロセッサエージェントと、16個の
プロセッサと、8つのSCIコントローラとを備えてお
り、前記プロセッサエージェントの各々が2つの前記プ
ロセッサに接続されている、前項2に記載のコンピュー
タシステム。
【0046】4.前記マスタノード内の前記プロセッサ
エージェントのうちの1つが、マスタプロセッサエージ
ェントとして指定されており、前記マスタノード内の前
記SCIコントローラのうちの1つが、マスタSCIコ
ントローラとして指定されており、同期信号を生成する
前記手段が、前記マスタ処理エージェントに存在し、前
記同期信号配信経路が、各ノード上の全ての前記SCI
コントローラと全ての前記時間カウンタとの間で同期信
号を搬送し、前記マスタ処理エージェントが、前記同期
信号を前記同期信号配信経路を介して前記マスタノード
内の残りの処理エージェントへ配信し、前記同期信号に
より前記マスタノード内の前記時間カウンタの各々の時
間値を変更し、前記マスタSCIコントローラが、前記
同期信号を前記SCIリングを介して該コンピュータシ
ステムの残りのノードへ配信し、前記残りのノードの前
記SCIコントローラが、前記同期信号を受信して該同
期信号を残りの各ノード内の配信経路を介して該残りの
ノード内の処理エージェントへ配信し、該同期信号によ
り残りの各ノード内の各時間カウンタの時間値を変更す
る、前項3に記載のコンピュータシステム。
【0047】5.前記複数のノードが二次元アレイとし
て構成され、該二次元アレイが、その個々の行における
各ノードを接続する少なくとも1つの個々のSCIリン
グと、前記二次元アレイの個々の列における各ノードを
接続する少なくとも1つの個々のSCIリングとを有し
ている、前項4に記載のコンピュータシステム。
【0048】6.前記各ノードが8つのSCIコントロ
ーラをそれぞれ備えており、前記二次元アレイが、前記
各行におけるノードを接続する8つのSCIリングと、
前記各列におけるノードを接続する8つのSCIリング
とを有するようになっている、前項5に記載のコンピュ
ータシステム。
【0049】7.同期信号を生成する前記手段が、前記
同期信号配信経路を介して前記マスタノード上の前記時
間カウンタおよび前記SCIコントローラへ配信される
信号を生成するパルス同期信号生成器を更に備えてお
り、前記SCIコントローラが、前記信号を受信して利
用可能なデータパケットを見つけ、データパケット中の
時間カウンタ同期ビットをセットし、セットされた該ビ
ットを含むデータパケットが、前記SCIリングを介し
て該コンピュータシステムの残りのノードへ配信され
る、前項1ないし前項6の何れか1つに記載のコンピュ
ータシステム。
【0050】8.前記時間カウンタ同期ビットが前記デ
ータパケットのヘッダにある、前項1ないし前項6の何
れか1つに記載のコンピュータシステム。
【0051】9.送信パケット、エコーパケット、また
はアイドルパケットからなる群から前記データパケット
が選択される、前項8に記載のコンピュータシステム。
【0052】10.前記時間カウンタがタイム・オブ・
センチュリー・カウンタである、前項1ないし前項6の
何れか1つに記載のコンピュータシステム。
【図面の簡単な説明】
【図1】本発明の同期構成を有するSCI相互接続を用
いたマルチノード・マルチプロセッサシステムの概要を
示すブロック図である。
【図2】信号ノードを示す図1のシステムの概要を一層
詳細に示すブロック図である。
【図3】112ノードシステムの概要を示す説明図であ
る。
【図4】同期パルス配信構成の概要を示すブロック図で
ある。
【図5】タイム・オブ・センチュリー・クロック・ハー
ドウェアを示すブロック図である。
【図6】典型的なSCIデータパケットのレイアウトを
示す説明図である。
【図7】TAC TOC構成レジスタを示す説明図であ
る。
【符号の説明】
10 プロセッサ 11 プロセッサエージェント 12 クロスバー 13 タイム・オブ・センチュリー・カウンタ 14,20 メモリアクセスコントローラ 15,19 トロイダルアクセスチップ 16,18 SCIリング 21,22 ワイヤ 29 メモリバンク

Claims (1)

    【特許請求の範囲】
  1. 【請求項1】複数のSCIリングによって相互接続され
    た複数のノードを備えた、同期処理イベントに関する低
    スキュー時間カウンタを有するマルチプロセッサコンピ
    ュータシステムであって、前記ノードの各々が、 時間値を生成する時間カウンタと、 前記ノードと前記SCIリングとのインタフェースをと
    るSCIコントローラと、 前記SCIコントローラと前記時間カウンタとの間で同
    期信号を搬送する同期信号配信経路とを備えており、 前記複数のノードのうちの1つがマスタノードとして指
    定され、該マスタノードが同期信号を生成する手段を備
    えており、該同期信号が、前記同期信号配信経路および
    前記SCIリングを介して該コンピュータシステムの残
    りのノードへと配信されて該コンピュータシステム内の
    前記時間カウンタの各々の時間値が変更されることを特
    徴とする、コンピュータシステム。
JP26432697A 1996-09-27 1997-09-29 Sci相互接続を用いたtocカウンタの同期 Expired - Lifetime JP3981192B2 (ja)

Applications Claiming Priority (2)

Application Number Priority Date Filing Date Title
US08/720,332 US5905869A (en) 1996-09-27 1996-09-27 Time of century counter synchronization using a SCI interconnect
US720332 1996-09-27

Publications (3)

Publication Number Publication Date
JPH10161984A true JPH10161984A (ja) 1998-06-19
JPH10161984A5 JPH10161984A5 (ja) 2005-06-23
JP3981192B2 JP3981192B2 (ja) 2007-09-26

Family

ID=24893605

Family Applications (1)

Application Number Title Priority Date Filing Date
JP26432697A Expired - Lifetime JP3981192B2 (ja) 1996-09-27 1997-09-29 Sci相互接続を用いたtocカウンタの同期

Country Status (2)

Country Link
US (2) US5905869A (ja)
JP (1) JP3981192B2 (ja)

Families Citing this family (15)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
US6134234A (en) * 1996-07-19 2000-10-17 Nokia Telecommunications Oy Master-slave synchronization
FR2774784B1 (fr) * 1998-02-12 2004-09-24 Inside Technologies Microprocesseur comportant un systeme de synchronisation avec un evenement asynchrone attendu
US20040208158A1 (en) * 1998-08-19 2004-10-21 Fellman Ronald D. Methods and apparatus for providing quality-of-service guarantees in computer networks
US6215797B1 (en) 1998-08-19 2001-04-10 Path 1 Technologies, Inc. Methods and apparatus for providing quality of service guarantees in computer networks
US6246702B1 (en) * 1998-08-19 2001-06-12 Path 1 Network Technologies, Inc. Methods and apparatus for providing quality-of-service guarantees in computer networks
DE19844562B4 (de) * 1998-09-29 2006-06-01 Dr. Johannes Heidenhain Gmbh Verfahren zur sicheren Überwachung von Taktraten in einem redundanten System
US6377650B1 (en) 1999-08-26 2002-04-23 Texas Instruments Incorporated Counter register monitor and update circuit for dual-clock system
US6789258B1 (en) * 2000-05-11 2004-09-07 Sun Microsystems, Inc. System and method for performing a synchronization operation for multiple devices in a computer system
US6687756B1 (en) * 2000-05-25 2004-02-03 International Business Machines Corporation Switched-based time synchronization protocol for a NUMA system
US7136395B2 (en) * 2000-11-30 2006-11-14 Telefonaktiebolaget L M Ericsson (Publ) Method and system for transmission of headerless data packets over a wireless link
FI113113B (fi) * 2001-11-20 2004-02-27 Nokia Corp Menetelmä ja laite integroitujen piirien ajan synkronoimiseksi
US7769942B2 (en) 2006-07-27 2010-08-03 Rambus, Inc. Cross-threaded memory system
US9568944B2 (en) * 2014-11-14 2017-02-14 Cavium, Inc. Distributed timer subsystem across multiple devices
US11080132B2 (en) * 2019-07-12 2021-08-03 Micron Technology, Inc. Generating error checking data for error detection during modification of data in a memory sub-system
US11520640B2 (en) * 2020-01-30 2022-12-06 Alibaba Group Holding Limited Efficient and more advanced implementation of ring-AllReduce algorithm for distributed parallel deep learning

Family Cites Families (11)

* Cited by examiner, † Cited by third party
Publication number Priority date Publication date Assignee Title
JPS5922464A (ja) * 1982-07-29 1984-02-04 Fuji Xerox Co Ltd タイミング同期回路
US4677614A (en) * 1983-02-15 1987-06-30 Emc Controls, Inc. Data communication system and method and communication controller and method therefor, having a data/clock synchronizer and method
FR2546691B1 (fr) * 1983-05-27 1985-07-05 Cit Alcatel Base de temps asservie
SE452231B (sv) * 1986-03-07 1987-11-16 Philips Norden Ab Forfarande for synkronisering av klockor ingaende i ett lokalt netverk av busstyp
US4746920A (en) * 1986-03-28 1988-05-24 Tandem Computers Incorporated Method and apparatus for clock management
AU616213B2 (en) * 1987-11-09 1991-10-24 Tandem Computers Incorporated Method and apparatus for synchronizing a plurality of processors
CA1301261C (en) * 1988-04-27 1992-05-19 Wayne D. Grover Method and apparatus for clock distribution and for distributed clock synchronization
US4939753A (en) * 1989-02-24 1990-07-03 Rosemount Inc. Time synchronization of control networks
US5164619A (en) * 1990-11-21 1992-11-17 Hewlett-Packard Company Low skew clocking system for VLSI integrated circuits
CA2091962A1 (en) * 1992-03-31 1993-10-01 Mark L. Witsaman Clock synchronization system
US5560027A (en) * 1993-12-15 1996-09-24 Convex Computer Corporation Scalable parallel processing systems wherein each hypernode has plural processing modules interconnected by crossbar and each processing module has SCI circuitry for forming multi-dimensional network with other hypernodes

Also Published As

Publication number Publication date
JP3981192B2 (ja) 2007-09-26
US5832254A (en) 1998-11-03
US5905869A (en) 1999-05-18

Similar Documents

Publication Publication Date Title
JP3981192B2 (ja) Sci相互接続を用いたtocカウンタの同期
JP3645281B2 (ja) 共用メモリを有するマルチプロセッサ・システム
Nowatzyk et al. The S3. mp scalable shared memory multiprocessor
US4591977A (en) Plurality of processors where access to the common memory requires only a single clock interval
US7761726B2 (en) Method and apparatus for fault tolerant time synchronization mechanism in a scaleable multi-processor computer
JP3552250B2 (ja) 複数のデータ処理装置間に情報を転送する方法および装置
US6965952B2 (en) Bus framer
JPH0778773B2 (ja) 通信装置及び通信装置を使用する方法
JP2003510721A (ja) マルチプロセッサノードコントローラ回路及び方法
TW200813740A (en) Data processing system and method of data processing supporting ticket-based operation tracking
US8095740B2 (en) Method and apparatus for accessing data of a message memory of a communication module
US7769906B2 (en) FlexRay communication module
EP1132818B1 (en) Method and data processing system for access arbitration of a plurality of processors to a time multiplex shared memory in a real time system
CN101133597A (zh) 用于仲裁共享资源的电子设备和方法
US8484390B2 (en) Message handler and method for controlling access to data of a message memory of a communications module
CN120448331B (zh) 一致性互连控制设备、方法、电子设备、产品及计算系统
US8019961B2 (en) Method for storing messages in a message memory and message memory
JP2008187711A (ja) 2つのエンティティ間の通信ゲートウェイ
US7480832B2 (en) Centralized error signaling and logging
JPH11120157A (ja) 並列コンピュータシステム内の高速通信のための方法及びこの方法によって操作される並列コンピュータシステム
Noronha et al. Can high performance software DSM systems designed with InfiniBand features benefit from PCI-Express?
d'Auriol et al. A parameterized linear array with a reconfigurable pipelined bus system: LARPBS (p)
US20230026622A1 (en) Tracing Activity from Multiple Components of a Device
US20230024224A1 (en) Tracing Synchronisation Activity of a Processing Unit
US20040193836A1 (en) Electronic systems comprising a system bus

Legal Events

Date Code Title Description
A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20040927

A621 Written request for application examination

Free format text: JAPANESE INTERMEDIATE CODE: A621

Effective date: 20040927

A977 Report on retrieval

Free format text: JAPANESE INTERMEDIATE CODE: A971007

Effective date: 20061018

A131 Notification of reasons for refusal

Free format text: JAPANESE INTERMEDIATE CODE: A131

Effective date: 20061024

A601 Written request for extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A601

Effective date: 20070124

A602 Written permission of extension of time

Free format text: JAPANESE INTERMEDIATE CODE: A602

Effective date: 20070129

A521 Request for written amendment filed

Free format text: JAPANESE INTERMEDIATE CODE: A523

Effective date: 20070419

TRDD Decision of grant or rejection written
A01 Written decision to grant a patent or to grant a registration (utility model)

Free format text: JAPANESE INTERMEDIATE CODE: A01

Effective date: 20070619

A61 First payment of annual fees (during grant procedure)

Free format text: JAPANESE INTERMEDIATE CODE: A61

Effective date: 20070629

R150 Certificate of patent or registration of utility model

Free format text: JAPANESE INTERMEDIATE CODE: R150

FPAY Renewal fee payment (event date is renewal date of database)

Free format text: PAYMENT UNTIL: 20100706

Year of fee payment: 3