JPH09282226A - 登録資格フラグ付きキャッシュメモリ - Google Patents

Abstract

(57)【要約】 【課題】優先順位の高いプロセスが使用する主記憶デー
タを優先順位の低いプロセスよりも優先的にキャッシュ
メモリに登録して主記憶アクセス時間を小さく抑え優先
順位の高いプロセスの処理速度を高速とし、優先順位の
高いプロセスがキャッシュメモリを占有し優先順位の低
いプロセスの処理速度が遅くなることを防ぐ。 【解決手段】キャッシュメモリ２のコンパートメント
（２−ｘ）毎に登録を許可する優先順位を保持する登録
資格フラグ（３−ｘ）を設け、プロセスの優先順位と各
コンパートメントの登録資格フラグが保持している優先
順位とを比較してどのコンパートメントに登録すること
ができるかを登録許可判定手段５が判定し、登録が許可
されたコンパートメントのうちでどのコンパートメント
に登録するかをコンパートメント選択手段６が選択す
る。

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、キャッシュメモリ
を持つ情報処理装置に関し、特にアクセスした主記憶の
データがキャッシュメモリに登録されていなかった場合
のキャッシュメモリへの登録制御方式に関する。

【０００２】

【従来の技術】従来、情報処理装置では、主記憶アクセ
スを高速化するためにプロセッサと主記憶との間に小容
量で高速のＲＡＭ（ランダムアクセスメモリ）で構成さ
れるキャッシュメモリを設け、頻度が高いデータや最近
使用したデータを格納し、これらのデータのアクセスが
速く実行できるようにすることにより、遅い主記憶への
アクセスを少なくして、情報処理装置の性能を向上させ
ている。

【０００３】キャッシュメモリのデータの登録方式とし
ては、従来様々なものが存在するが、その一つに、図２
に示すようなセットアソシアティブ方式がある。

【０００４】この方式においては、キャッシュメモリ２
を複数に分割して（図２に示した例では４つに分割し、
この分割した一つ一つが、コンパートメント２−１，２
−２，２−３，２−４である）、主記憶のアドレス１の
一部１０１がそれぞれのコンパートメントのＲＡＭのア
ドレスと対応するようになっている。

【０００５】キャッシュメモリ２にデータを登録する場
合は、主記憶アドレス１の一部１０１でそれぞれのコン
パートメント２−１，２−２，２−３，２−４のＲＡＭ
のアドレスを指定し、コンパートメント選択手段６が所
定の方法で選択したコンパートメントにのみ、アクセス
した主記憶データを登録する。

【０００６】この時、コンパートメントのＲＡＭのアド
レス指定に使用しなかった主記憶アドレス部分１００を
主記憶データと共に格納し、キャッシュメモリ２の内容
が主記憶データと１対１で対応できるようになってい
る。

【０００７】キャッシュメモリ２のデータを格納する部
分を「データアレイ」（図２のキャッシュメモリ２の
ｂ）と呼び、主記憶アクセスアドレスでコンパートメン
トのアドレス指定に使用しなかったものを格納する部分
を「アドレスアレイ」（図２のキャッシュメモリ２の
ａ）と呼ぶ。

【０００８】主記憶データが登録された後において、そ
の主記憶アドレスをアクセスした時は、主記憶アドレス
１の一部１０１で各コンパートメントのＲＡＭを指定し
てアドレスアレイａの内容を取り出し、その内容と主記
憶アドレス１の一部１００とを比較器８−１，８−２，
８−３，８−４でそれぞれ比較し、一致したコンパート
メントのデータアレイｂに登録されていたデータが、該
当する主記憶アドレスのデータとしてセレクタ７を通し
てプロセッサに渡される。

【０００９】この場合、主記憶を直接アクセスせずに高
速なキャッシュメモリ２のみを使用するので、主記憶ア
クセス時間が大幅に改善されることになる。

【００１０】図２に示す例では、コンパートメントは、
２−１，２−２，２−３，２−４と４個存在するので、
主記憶アドレスの一部１０１が同じデータは４個までキ
ャッシュメモリ２に登録することができる。

【００１１】以上は、キャッシュメモリの一例である
が、主記憶アドレスの一部１０１が同じで残りのアドレ
ス１００が異なる主記憶データを５以上は登録できず、
既に登録されたデータのうちいずれかを無効化する必要
がある。

【００１２】キャッシュメモリへのデータ登録に際し
て、使用頻度の高いデータまたは最近に使用したデータ
を、優先的に残すのが一般的とされ、使用頻度の少ない
データまたは最も古いデータはキャッシュメモリから追
い出されて無効化される。

【００１３】このように、使用頻度の少ない、または最
も古い、データは、キャッシュメモリから追い出されて
しまうが、このようなデータでも、優先順位の高いプロ
セスが使用するもので、高速にアクセスが行える方が好
ましい場合もある。

【００１４】しかし、上記したような従来のキャッシュ
メモリでは、たとえ優先順位が高くとも、使用頻度が低
い場合には、主記憶に戻されている可能性が高くなり、
このためデータアクセスに時間がかかり、プロセスが高
速に処理されないことがある。

【００１５】このような問題に対処すべく、例えば特開
平４−８４８８７号公報には、データに優先度を与え、
主記憶からデータを読み出した際に、既にキャッシュメ
モリにデータが登録されている場合には、それぞれのデ
ータの優先度を比較して、優先度が高い方のデータをキ
ャッシュメモリに登録し、優先度の低い方のデータは主
記憶に戻すというキャッシュメモリ入れ換え制御方式が
提案されている。

【００１６】また、特開平５−７３４２０号公報には、
ソフトウェアがプロセスの優先順位をもとにキャッシュ
メモリ登録の制御できるようにし、主記憶からデータを
読み出した際に、既にキャッシュメモリにデータが登録
されている場合には、ソフトウェアがデータの優先順位
を比較して優先順位の最も低いものを主記憶に戻すよう
にすることにより、優先順位の高いプロセスの処理速度
を向上させるようにした方法が提案されている。

【００１７】

【発明が解決しようとする課題】上記したように、従来
のキャッシュメモリでは、主記憶アクセスするプロセス
の優先順位に拘らず、使用頻度の低い、あるいは最も古
いデータはキャッシュメモリから主記憶へ追い出される
可能性が高く、その主記憶データが高速処理を必要とす
る、優先順位が高いプロセスが使用するデータである場
合には、遅い主記憶から読み出されなくてはならないた
め、優先順位が高いプロセスの処理速度が低下するとい
った問題がある。

【００１８】そして、この問題を解決する方法として、
上記したように、特開平７−８４８８７号公報、あるい
は特開平５−７３４２０号公報等に提案される方式ある
が、これらの方式においては、優先順位のよりも高いも
のがキャッシュメモリに残るため、優先順位の低い主記
憶データはキャッシュメモリに登録される機会が少なく
なる。

【００１９】このため、優先順位の高い主記憶データが
キャッシュメモリ中にある場合は、これよりも低い優先
順位のデータがキャッシュに登録されず、これらを使用
するプロセスは主記憶アクセスに時間がかかり処理が遅
くなる。

【００２０】キャッシュメモリにデータが無い場合（キ
ャッシュミス時）のプロセスの処理時間は、データが有
る場合（キャッシュヒット時）と比較して、通常、数倍
以上遅くなり、優先順位が低いとはいえ、キャッシュメ
モリにデータが無い場合にはプロセスの処理速度が非常
に遅くなり、処理時間が数倍以上も長くなってしまうこ
とは問題である。

【００２１】従って、本発明は、上記問題点に鑑みて為
されたものであって、その目的は、優先順位の高いプロ
セスが使用する主記憶データを優先順位の低いプロセス
が使用するものよりも優先的にキャッシュメモリに登録
するようにすることで、主記憶アクセス時間を小さく抑
え、優先順位の高いプロセスの処理速度を高速にするキ
ャッシュメモリを提供することにある。

【００２２】

【課題を解決するための手段】前記目的を達成するた
め、本発明は、キャッシュメモリを備えた情報処理装置
において、前記キャッシュメモリが、複数のコンパート
メントを含むセットアソシアティブ方式として構成さ
れ、前記キャッシュメモリのコンパートメント毎に該コ
ンパートメントへの主記憶データの登録が許可されるプ
ロセスの優先順位の範囲を保持する登録資格判定フラグ
と、主記憶アクセスを実行しようとするプロセスの優先
順位と、前記コンパートメント毎の前記登録資格判定フ
ラグに保持されている優先順位と、を比較する優先順位
比較手段と、プロセスがアクセスしようとする主記憶デ
ータが前記キャッシュメモリに登録されていない時に、
前記優先順位比較手段で比較した結果からプロセスがア
クセスしようとする主記憶データをいずれのコンパート
メントに登録することが許可されるかを判定する登録資
格判定手段と、前記登録資格判定手段にて登録を許可す
ると判定されたコンパートメントのうちのいずれのコン
パートメントにプロセスがアクセスした主記憶データを
登録するかを選択するコンパートメント選択手段と、を
備え、前記コンパートメント選択手段で選択されたコン
パートメントにプロセスがアクセスした主記憶データを
登録することを特徴とする登録資格フラグ付きキャッシ
ュメモリを提供する。

【００２３】本発明は、優先順位の高いプロセスがキャ
ッシュメモリを占有して優先順位の低いプロセスがキャ
ッシュメモリを利用することができず、非常に処理速度
が遅くなるという事態の発生を回避するようにしたキャ
ッシュメモリを提供するものである。

【００２４】

【発明の実施の形態】本発明の実施の形態を以下に説明
する。本発明の実施の形態においては、キャッシュメモ
リ２のコンパートメント（図１の２−１〜２−４）毎に
登録を許可する優先順位を示すフラグ（図１の３−１〜
３−４）を設け、各コンパートメントではそのフラグが
示す優先順位以上のプロセスが使用する主記憶データし
か登録しないようにすることによって、優先順位の低い
プロセスが使用する主記憶データが優先順位の高いプロ
セスが使用する主記憶データをキャッシュメモリから追
い出すことを少なくして優先順位の高いプロセスの主記
憶アクセスに対するキャッシュメモリのヒット率を向上
させ、高速な処理を行うことを可能としたものである。

【００２５】さらに、優先順位の高いプロセスが使用す
る主記憶データのみがキャッシュメモリに多く登録され
ると優先順位の低いプロセスが登録できなくなり、優先
順位が低いとはいえキャッシュメモリにヒットしないと
処理速度が数倍程度遅くなるという問題に対しても、本
発明の実施の形態においては、コンパートメント毎に優
先順位を指定可能とすることで、いくつかのコンパート
メントは優先順位の低いプロセスに対しても登録許可す
るように設定しておくことにより、優先順位の高いプロ
セスで使用する主記憶データがキャッシュメモリを占有
してしまい、優先順位の低いプロセスがキャッシュメモ
リにほとんど登録できないといった事態を避けることが
でき、優先順位の低いプロセスの処理速度が非常に遅く
なることはない。

【００２６】このように、本発明の実施の形態は、情報
処理装置において、プロセスの優先順位によって登録が
許可されるか否かをキャッシュメモリのコンパートメン
ト毎に設定可能としている。このため、優先順位の高い
プロセスが使用する主記憶データが、優先順位の低いプ
ロセスが使用する主記憶データによりキャッシュメモリ
から追い出されることを少なくすることが可能とされ、
優先順位の高いプロセスの処理速度が低下するのを抑え
ることを可能としている。そして、キャッシュメモリに
登録が許可される優先順位をコンパートメント毎に設定
できるようにしたことから、優先順位の高いプロセスが
使用するデータがキャッシュメモリを占有し、優先順位
の低いプロセスが使用するデータを登録できないという
状態を回避している。このため、優先順位が低いとはい
え、キャッシュメモリを使用できず、処理速度が非常に
遅くなるということを回避することができる。

【００２７】

【実施例】上記した本発明の実施の形態をより詳細に説
明すべく、本発明の実施例について図面を参照して説明
する。図１は本発明に係る登録資格フラグ付きキャッシ
ュメモリの一実施例の構成をブロック図にて示したもの
である。図１において、図２の要素と同一又は同等の機
能を有する要素には同一の参照符号が付されている。

【００２８】図１を参照して、本実施例は、プロセッサ
から送られてくる主記憶アドレス１の一部１０１を使っ
てキャッシュメモリ２の各コンパートメント２−１，２
−２，２−３，２−４を索引するアドレスとし、各コン
パートメント２−１，２−２，２−３，２−４のアドレ
スアレイａから索引された内容と、主記憶アドレス１の
残りの部分１００と、を比較し、これらが互いに一致す
るか否かを比較する比較器８−１，８−２，８−３，８
−４を備え、比較器８−１，８−２，８−３，８−４に
て一致したものがあれば、そのコンパートメントにアク
セスしようとした主記憶データが登録されているため
（キャッシュメモリがヒット）、セレクタ７で当該コン
パートメントのデータアレイｂに格納されているデータ
を選択して、プロセッサに渡す。

【００２９】そして、図１に示すように、本実施例にお
いては、各コンパートメント２−１，２−２，２−３，
２−４毎にそれぞれのコンパートメントへの登録が許可
される優先順位を保持する登録資格フラグ３−１，３−
２，３−３，３−４を設け、プロセッサから送られてく
るプロセスの優先順位（又は資格）を、各コンパートメ
ントの登録資格フラグ３−１，３−２，３−３，３−４
が保持している優先順位と比較し、どのコンパートメン
トに主記憶データを登録することができるかを判定する
登録許可判定手段５と、登録許可判定手段５が登録した
登録が許可されたコンパートメントの中でどのコンパー
トメントに登録するかを選択するコンパートメント選択
手段６と、を備えている。なお、プロセッサは、実行中
のプロセスの優先順位をプロセス制御用のブロック（レ
ジスタ）等に保持し、この情報が登録許可判定手段５に
入力される。

【００３０】次に本発明の一実施例の動作について説明
する。

【００３１】図１において、登録を許可する優先順位を
示す登録資格フラグ３−１，３−２，３−３，３−４に
それぞれ登録許可優先順位を、仮に、「０」，「２」，
「５」，「７」と設定した場合について説明する。ここ
で、数字の小さい方が優先順位が高いものとする
（「０」が最も優先順位が高い）。

【００３２】本実施例においても、主記憶アクセスデー
タがキャッシュメモリ２に登録されている場合（キャッ
シュヒット時）には、上記した従来技術と同様に、キャ
ッシュメモリ２からデータが取り出されてプロセッサに
渡されるので、説明は省略する。

【００３３】また、以下のキャッシュメモリ２の動作説
明では、キャッシュメモリ２の全てのコンパートメント
２−１〜２−４には既にデータが登録されており、新た
にデータを登録するには、既に登録されているデータを
無効化しなければならない状態にあるものとする。

【００３４】優先順位が「０」のプロセスが主記憶アド
レスをアクセスをし、その主記憶アドレスのデータがキ
ャッシュメモリ２を索引した結果、キャッシュメモリ２
内に登録されていないことが判り、キャッシュメモリ２
にデータを登録する際、登録資格フラグ３−１，３−
２，３−３，３−４にそれぞれ保持されている登録許可
優先順位「０」，「２」，「５」，「７」と、プロセス
優先順位「０」とが、登録資格判定手段５で比較される
が、優先順位「０」はどの登録許可優先順位よりも低く
ないので、アクセスした主記憶データは、コンパートメ
ント２−１〜２−４のいずれのコンパートメントにも登
録することが許可される。

【００３５】登録資格判定手段５は、この判定結果を、
コンパートメント選択手段６に出力し、コンパートメン
ト選択手段６は、登録許可されたコンパートメント（こ
の場合は全てのコンパートメント）の中から登録するコ
ンパートメントを選択する。

【００３６】コンパートメント選択手段６におけるコン
パートメント選択の方法としては、従来から採用されて
きた、最も昔に使用されたデータや最も使用頻度が低い
データを主記憶に追い出して、その代りに登録するとい
った方法を取ってもよい。

【００３７】コンパートメント選択手段６にて選択され
たコンパートメントはキャッシュメモリ２に選択信号２
０１を介して通知され、該当するコンパートメントの該
当するアドレスのデータを無効化して、プロセスがアク
セスした主記憶データが登録される。

【００３８】次に、優先順位「３」のプロセスが主記憶
アクセスして、その主記憶アドレスのデータがキャッシ
ュメモリに登録されていない場合、登録資格フラグ３−
１，３−２，３−３，３−４に保持されている登録許可
優先順位「０」，「２」，「５」，「７」と、プロセス
優先順位「３」とが登録資格判定手段５により比較され
るが、優先順位「３」は登録資格フラグ３−１と３−２
に保持されている優先順位「０」，「２」よりも低いの
で、コンパートメント２−１，２−２には登録すること
ができない。一方、優先順位「３」は、登録資格フラグ
３−３，３−４に保持されている優先順位「５」，
「７」よりは高いことから、このプロセスがアクセスし
たデータはコンパートメント２−３，２−４にのみ登録
することができる。同様にして、優先順位「７」のプロ
セスは、コンパートメント２−４にしか登録することが
できない。

【００３９】優先順位の高いプロセスは登録することの
できるコンパートメントが多く、また、優先順位の低い
プロセスがアクセスする主記憶データにより追い出され
ることがないコンパートメントが存在することから、優
先順位の高いプロセスは、そのキャッシュメモリのヒッ
ト率が向上し、処理も高速に実行されることになる。

【００４０】また、本実施例においては、全てのコンパ
ートメント２−１〜２−４が、優先順位の高いプロセス
が使用する主記憶データに占められた場合においても、
登録許可優先順位が低く設定されたコンパートメントに
は優先順位の低いプロセスが使用する主記憶データを登
録することが可能とされているため、優先順位の低いプ
ロセスがキャッシュメモリ２を使用することができず、
非常に処理が遅くなってしまうという事態を回避するこ
とができる。

【００４１】本実施例においては、コンパートメント毎
に設定する登録許可優先順位は個々に設定可能で、オペ
レータから設定する機構やソフトウェアから設定す機構
を設ければ、各プロセスの実行処理時間状況を見ながら
最適な状況となるようにコンパートメント毎の登録許可
優先順位を設定することもできる。

【００４２】上記実施例では、登録資格フラグ３−１〜
３−４には優先順位の下限を設定する構成を説明した
が、本発明はこれに限定されるものでないことは勿論で
ある。例えば、登録資格フラグに優先順位の上限及び下
限からなる範囲を設定するような構成としてもよい。

【００４３】

【発明の効果】以上説明したように、本発明によれば、
下記記載の各種効果を奏する。

【００４４】本発明の第１の効果として、優先順位の高
いプロセスがアクセスする主記憶データは、優先順位の
低いプロセスに比べて、キャッシュメモリに優先的に登
録されるので、キャッシュメモリのヒット率を向上さ
せ、主記憶アクセスに要する時間を短縮することが可能
となり、その結果、優先順位の高いプロセスの処理速度
を高速にすることが可能となる。

【００４５】これは、本発明においては、キャッシュメ
モリのコンパートメント毎に登録許可する優先順位を設
定できるため、一定の優先順位の高さを有しないプロセ
スがアクセスする主記憶データを登録許可しないコンパ
ートメントを存在させることにより、優先順位の低いプ
ロセスによって、優先順位の高いプロセスのデータがキ
ャッシュメモリから追い出されるという確率を低減した
ことによる。

【００４６】本発明の第２の効果として、上記した第１
の効果を得るために、優先順位の高いプロセスがキャッ
シュメモリを占有して優先順位の低いプロセスがアクセ
スする主記憶データがキャッシュメモリに登録できず、
処理速度が非常に遅くなることを回避することができ
る。

【００４７】すなわち、優先順位が低いとはいえ、キャ
ッシュメモリに使用するデータを登録することができな
いための、数倍以上処理速度が遅くなるというのは全体
の処理性能の点で問題であり、本発明はこの問題の発生
を回避している。本発明においては、登録許可する優先
順位がコンパートメント毎に設定できるため、いくつか
のコンパートメントには優先順位の低いプロセスでも登
録許可するように設定しておくことにより、優先順位の
低いプロセスであっても当該コンパートメントにはデー
タを登録することができる。

【００４８】そして、本発明によれば、情報処理装置の
オペレータやソフトウェアからコンパートメント毎の登
録を許可する優先順位を設定できる手段を備えた場合、
各プロセスの実行処理時間状況を見ながら最適な状況と
なるようにコンパートメント毎の登録許可優先順位を設
定することもできる。

【図面の簡単な説明】

【図１】本発明の一実施例の構成を示すブロック図であ
る。

【図２】従来のキャッシュメモリの一例を示すブロック
図である。

【符号の説明】

１ プロセッサからの主記憶アクセスアドレス ２ キャッシュメモリ ２−１，２−２，２−３，２−４ キャッシュメモリの
コンパートメント ３−１，３−２，３−３，３−４ 登録資格フラグ ５ 登録資格判定手段 ６ コンパートメント選択手段 ７ セレクタ ８−１，８−２，８−３−８−４ 比較器

Claims (4)

【特許請求の範囲】
1. 【請求項１】キャッシュメモリを備えた情報処理装置に
   おいて、 前記キャッシュメモリが、複数のコンパートメントを含
   むセットアソシアティブ方式として構成され、 前記キャッシュメモリのコンパートメント毎に該コンパ
   ートメントへの主記憶データの登録が許可されるプロセ
   スの優先順位の範囲を保持する登録資格判定フラグと、 主記憶アクセスを実行しようとするプロセスの優先順位
   と、前記コンパートメント毎の前記登録資格判定フラグ
   に保持されている優先順位と、を比較する優先順位比較
   手段と、 プロセスがアクセスしようとする主記憶データが前記キ
   ャッシュメモリに登録されていない時に、前記優先順位
   比較手段で比較した結果からプロセスがアクセスしよう
   とする主記憶データをいずれのコンパートメントに登録
   することが許可されるかを判定する登録資格判定手段
   と、 前記登録資格判定手段にて登録を許可すると判定された
   コンパートメントのうちのいずれのコンパートメントに
   プロセスがアクセスした主記憶データを登録するかを選
   択するコンパートメント選択手段と、 を備え、 前記コンパートメント選択手段で選択されたコンパート
   メントにプロセスがアクセスした主記憶データを登録す
   ることを特徴とする登録資格フラグ付きキャッシュメモ
   リ。
2. 【請求項２】前記登録資格判定フラグが、前記コンパー
   トメントへの主記憶データの登録が許可されるプロセス
   の優先順位の下限値を保持し、前記下限値に等しいか又
   は上回る優先順位を有するプロセスのみが、前記コンパ
   ートメントへの主記憶データの登録が可能とされたこと
   を特徴とする請求項１記載の登録資格フラグ付きキャッ
   シュメモリ。
3. 【請求項３】前記登録資格判定フラグが、前記コンパー
   トメント毎にその値が可変に設定可能とされたことを特
   徴とする請求項１記載の登録資格フラグ付きキャッシュ
   メモリ。
4. 【請求項４】複数のコンパートメントからなるセットア
   ソシアティブ方式のキャッシュメモリにおいて、 前記コンパートメント毎に該コンパートメントへの主記
   憶データの登録が許可されるプロセスの優先順位の範囲
   を保持する記憶手段を備え、更に、 プロセスからアクセスされるデータがヒットしない時
   に、該プロセスの優先順位と、前記コンパートメントの
   各々において前記記憶手段に保持されている優先順位
   と、を比較し、前記プロセスの優先順位と各コンパート
   メントの許可範囲との比較結果に基づき、いずれのコン
   パートメントに主記憶からのデータを登録することが許
   可されるかを判定し、データ登録が許可された一又は複
   数のコンパートメントのうちのいずれかのコンパートメ
   ントに前記プロセスがアクセスした主記憶のデータを登
   録することを特徴とする登録資格フラグ付きキャッシュ
   メモリ。