JP2002007178A - バッファサイズ設定装置及びバッファサイズ設定方法 - Google Patents

Abstract

(57)【要約】 【課題】 バッファサイズを設定するとき、対象となる
データをバッファサイズ単位で書込み読出すときに発生
する合計のオーバヘッドタイムと、各階層の記憶装置の
間でのデータの授受のときに発生するオーバヘットタイ
ムとを考慮する必要があるが、従来はその双方を考慮し
た設定がなされていなかったため、データ処理性能が向
上しなかった。また従来は、システムでバッファサイズ
が固定されていたため、プログラムの処理単位でバッフ
ァサイズの設定を行うことができなかった。 【解決手段】 対象となるデータをバッファサイズ単位
で書込み読出すときに発生する合計のオーバヘッドタイ
ムと各階層の記憶装置間でのデータの授受のときに発生
するオーバヘットタイムとの変化の経緯により、複数の
変化点を見出し、その複数の変化点での合算したオーバ
ヘッドタイムを算出し、合算したオーバヘッドタイムが
最小になる変化点でのバッファサイズにバッファを設定
することで、記憶装置を使用するプログラムの処理単位
で最適なバッファサイズを設定し、データ処理性能向上
を行うことができる

Description

【発明の詳細な説明】

【０００１】

【発明の属する技術分野】本発明は、アクセス時間が異
なる多階層からなる記憶装置を有するシステムにおい
て、記憶装置を使用する処理単位で最適なバッファサイ
ズにバッファを設定するバッファサイズ設定装置に関す
るものである。

【０００２】

【従来の技術】特開平７−１７５７２３には、従来のソ
フトウェアキャッシュ制御方式が示されている。図１０
は、従来のソフトウェアキャッシュ制御方式を示すブロ
ック図であるが、履歴情報採取手段６６は、ソフトウェ
アキャッシュ６１〜６１ｎの各々のキャッシュサイズを
変化させ、ファイル６２〜６２ｎにアクセスがある際の
キャッシュサイズとアクセス速度の対応を履歴情報格納
部６４に格納する。キャッシュサイズ決定手段６７は、
履歴情報格納部６４の情報により各キャッシュサイズに
対応する平均アクセス速度を算出し、最速の平均アクセ
ス速度となるキャッシュサイズをキャッシュサイズ格納
部６３に格納し、それを運用時のキャッシュサイズとし
ている。

【０００３】また、従来の記憶装置を使用するプログラ
ムの処理単位でのバッファサイズ調整方法を図９にて説
明する。図９は、従来の記憶装置を使用するデータ処理
のブロック図を示している。図９において、書込手段５
２はデータをバッファ５３に書き、読出し手段５４はバ
ッファ５３からデータを読む。書込手段５２と読出し手
段５４はバッファ５３を介してデータを受け渡し、この
バッファ５３のサイズによって、１回に処理できるデー
タ量が決まる。処理切り換え手段５１はバッファサイズ
単位での処理の切り換えを制御する。

【０００４】バッファ５３のバッファサイズをＳとし、
対象データ量がＫだとすると、対象データを処理するの
に処理切り換え手段５１は、データ処理をＫ／Ｓ回切り
換えることになる。バッファサイズＳが大きいほどＫ／
Ｓは小さくなるため、バッファ５３に格納して処理する
データを切り換えるときに発生するオーバヘッドタイム
は少なくなる。

【０００５】また、バッファ５３内のデータに対するア
クセス性能は、キャッシュメモリ５５の構成、記憶装置
への論理アドレスから物理アドレスへのアドレス変換の
高速化を図る装置であるＴＬＢ（Translation Look-as
ide Buffer）の構成、バッファサイズおよびそのアク
セス性能によって、段階的に変化する。

【０００６】バッファ５３は主記憶上に領域が確保され
るが、主記憶に格納されているデータの中で、アクセス
頻度が高いデータをキャッシュメモリ５５に格納するこ
とでデータアクセスの性能を向上させることができる。
これは、データに対する「アクセスの局所性」という特
性を前提にし、あるデータがアクセスされたら、そのデ
ータが再びアクセスされる可能性が高いとき、あるいは
あるデータがアクセスされたら、その近辺にあるデータ
がアクセスされる可能性が高いときに効果が得られる。

【０００７】キャッシュメモリ５５の構成や方式にも依
存するが、一般に、バッファサイズがキャッシュメモリ
５５のサイズと同じかそれより小さければ、読出し手段
５４での処理が始まったとき、書込手段５２がバッファ
５３に書込んだデータと同じものがキャッシュメモリ５
５に残っているため、バッファ５３をアクセスする代り
にキャッシュメモリ５５をアクセスすることができ短い
アクセス時間でデータアクセスすることができる。しか
し、バッファサイズがキャッシュメモリ５５のサイズに
比べて大きければ、読出し手段５４での処理が始まった
とき、書込手段５２がバッファ５３に書込んだデータは
キャッシュメモリ５５に残っていないため、バッファ５
３をアクセスするかバッファ５３とキャッシュメモリ５
５の両方をアクセスすることになり、そのデータアクセ
スに長い時間が必要になる。つまり、バッファ５３のサ
イズが小さいほど、キャッシュメモリ５５の効果による
データアクセスのオーバーヘッドタイムが減り、バッフ
ァ５３のサイズが大きいほど、記憶装置の階層間でデー
タをやりとりしたり、階層が異なる記憶装置を同時にア
クセスしたりするため、データアクセスのオーバヘッド
タイムが増える。図１１はある構成でのバッファサイズ
とデータアクセスのオーバヘッドの関係を示している
が、この段階的に変化している直線が示すように、デー
タアクセス時に記憶装置の階層間でデータをやりとりす
るために発生するオーバヘッドタイムは、バッファサイ
ズとキャッシュメモリのサイズとの関係に依存してい
て、バッファサイズがキャッシュメモリのサイズを超え
る地点が変化点となる。つまり、バッファサイズが小さ
い場合は、バッファ切り換え時に発生するオーバヘッド
が大きくなるがデータアクセス時に発生するオーバヘッ
ドタイムは小さくなる。逆に、バッファサイズが大きい
場合は、バッファ切り換え時に発生するオーバヘッドは
小さくなるがデータアクセス時に発生するオーバヘッド
は大きくなる。

【０００８】

【発明が解決しようとする課題】上述したように、一概
にバッファサイズを大きくする、もしくは逆に小さくす
るという方法では、データ処理性能に関して最適なバッ
ファサイズを設定することができないという問題点があ
った。

【０００９】本発明の目的は、データ処理で発生するオ
ーバヘッドタイムを考慮し、データ処理ごとにキャッシ
ュサイズに応じたバッファサイズを調整することによっ
て、処理性能を向上することにある。

【００１０】

【課題を解決するための手段】この発明に係るバッファ
サイズ設定装置は、多階層からなる記憶装置、これらの
記憶装置に保存されたデータを格納するバッファ、上記
記憶装置の上位に位置する第１の階層の記憶装置と同一
サイズのバッファサイズと上記第１の階層の記憶装置の
下位に位置する第２の階層の記憶装置と同一サイズのバ
ッファサイズとにより対象となる同一データをそれぞれ
のバッファサイズ単位で書込み読出すときに発生する合
計のオーバーヘッドタイムと、上記各階層の記憶装置間
でのデータの授受のときに発生するオーバーヘッドタイ
ムとを算出し合算するオーバーヘッド算出手段、このオ
ーバーヘッド算出手段により合算された上記オーバーヘ
ツドタイムの中でオーバーヘツドタイムが最小になるバ
ッファサイズに上記バッファを設定する設定手段を備え
ているものである。

【００１１】また、上記第１の階層の記憶装置及び第２
の階層の記憶装置のいずれよりも大きなサイズのバッフ
ァサイズに基き得られたオーバーヘッドタイムを上記第
１の階層の記憶装置及び第２の階層の記憶装置と同一サ
イズのバッファサイズに基き得られたオーバーヘッドタ
イムに含めてオーバーヘツドタイムが最小になるバッフ
ァサイズに上記バッファを設定するものである。

【００１２】この発明に係るバッファサイズ設定方法
は、記憶装置の上位に位置する第１の階層の記憶装置の
サイズがバッファサイズと同一になるとき対象となるデ
ータをバッファサイズ単位で書込み読出すときに発生す
る合計のオーバヘッドタイムと各階層の記憶装置間でデ
ータの授受のときに発生するオーバヘッドタイムとを合
算して算出するステップ、上記第１の階層の記憶装置の
下位に位置する第２の階層の記憶装置のサイズが上記バ
ッファサイズと同一になるとき対象となるデータをバッ
ファサイズ単位で書込み読出すときに発生する合計のオ
ーバヘッドタイムと各階層の記憶装置間でデータの授受
のときに発生するオーバヘッドタイムとを合算して算出
するステップ、上記第１の階層及び第２の階層のいずれ
よりもバッファサイズが大きくなるとき対象となるデー
タをバッファサイズ単位で書込み読出すときに発生する
合計のオーバヘッドタイムと各階層の記憶装置間でデー
タの授受のときに発生するオーバヘッドタイムとを合算
して算出するステップ、これらのステップで算出した複
数の合算された上記オーバヘットタイムの中でオーバヘ
ッドタイムが最小になるバッファサイズに上記バッファ
を設定するステップからなるものである。

【００１３】

【発明の実施の形態】実施の形態１.本発明の実施の形
態１について図を参照して説明する。

【００１４】図１は、本発明のバッファサイズ設定装置
の構成図である。同図において、１は記憶装置に保存さ
れたデータを格納するバッファ、２はバッファ１にデー
タを書き込む書込手段、３はバッファ１からデータを読
み出す読出し手段、４は処理を切り換える処理切り換え
手段、５はオーバヘッドタイムを算出するオーバヘッド
算出手段、６はオーバヘッド算出手段５が算出したオー
バヘッドタイムに基づきバッファサイズを設定する設定
手段、７は記憶装置の上位に位置するキャッシュメモリ
である。書込手段２は多階層からなる記憶装置に保存さ
れているデータから必要となるデータをバッファ１に書
く処理であり、読出し手段３はバッファ１からデータを
読出す処理である。書込手段２と読出し手段３は、バッ
ファ１を介してデータを授受しているが、バッファ１と
キャッシュメモリ７の関係は前述したとおりであり、バ
ッファ１のデータでアクセス頻度が高いデータがキャッ
シュメモリ７に格納される。処理切り換え手段４は、バ
ッファサイズ単位での処理の切り換えを制御し、バッフ
ァ１のサイズによって、１回に処理できるデータ量が決
まる。オーバヘッド算出手段５は、いくつかの想定され
る事例でのオーバヘッドタイムを算出し、設定手段６
は、オーバヘット算出手段５が算出したオーバヘッドタ
イムの中で最小になる事例でのバッファサイズにバッフ
ァを設定する。図２は、実施の形態１に係わるアクセス
時間が異なる多階層からなる記憶装置のブロック図であ
る。記憶装置１５は、第１の階層の１次キャッシュメモ
リ１２、第２の階層の２次キャッシュメモリ１３、第３
の階層の主記憶１４からなっていて上位の方が処理装置
１１に近い。また、図１におけるキャッシュメモリ７
が、記憶装置の階層で見ると図２における１次キャッシ
ュメモリ１２、２次キャッシュメモリ１３に該当する。

【００１５】通常、多階層からなる記憶装置は、データ
アクセス速度が速い順に上位から積み重ねられ、上位に
あるデータアクセス速度が速い記憶装置ほど処理装置の
近くで用いられ、下位にあるデータアクセス速度が遅い
記憶装置ほどバックアップ的な用途で用いられる。ま
た、上位にある記憶装置ほどサイズ（記憶容量）当たり
の価格が高く、下位にある記憶装置ほどサイズ（記憶容
量）当たりの価格が安くなるため、下位の記憶装置にな
るほどサイズ（記憶容量）が大きくなるのが一般的であ
る。

【００１６】図３は、記憶装置を使用するデータ処理の
フローチャートであるが、これを用いて、データをバッ
ファサイズ単位で書込み読出すときに発生する合計のオ
ーバヘッドタイムであるバッファ切り換えオーバヘッド
タイムについて説明する。バッファ１のバッファサイズ
をＳとしＳに格納できるＮ個ずつのデータを処理すると
したとき、対象データ量がＫだとすると、対象データを
処理するのにＫ／Ｓ回のバッファに格納するデータの切
り換えが行われ、図３に示すデータ処理をＫ／Ｓ回繰り
返すことになる。処理を切り換えるには、図３のステッ
プＳ１における書込処理の準備、ステップＳ３における
読出し処理の準備、ステップＳ５における終了判定に相
当する処理が必要となり、その処理時間の合算が１回の
データ処理で発生するオーバヘッドタイムとなる。その
１回当たりのオーバヘッドタイムがＵであるとすると、
全体として、Ｕ×Ｋ／Ｓがバッファ切り換えオーバヘッ
ドタイムとなる。つまり、バッファ１のサイズが大きい
ほどＳの値が大きくなるので、Ｕ×Ｋ／Ｓの値は小さく
なり、このバッファ切り換えオーバヘッドタイムは減
る。ここで対象データ量Ｋは十分に大きな値であるの
で、Ｕ×Ｋは、Ｕの値によらずともＳに対して十分に大
きな値となる。Ｃ＝Ｕ×Ｋとすると、バッファ切り換え
オーバヘッドタイムはバッファサイズに反比例するＣ／
Ｓで示せる。

【００１７】一例として、１回当たりのオーバヘッドタ
イムＵを２μsec、対象データ量Ｋを５１２ＭＢ、バッ
ファサイズＳを６４ＫＢとすると、Ｕ×Ｋ／Ｓは、２×
１０ ^-6 ×５１２×１０⁶ ／（６４×１０³ ）＝０．０
１６secとなり、データ処理全体でのバッファ切り換え
オーバヘッドタイムを算出することができる。

【００１８】次に、各階層の記憶装置間でのデータ授受
のときに発生するオーバヘッドタイムであるデータアク
セスオーバヘッドタイムについて説明する。データアク
セス時に記憶装置の階層間でデータをやりとりするとき
に発生するデータアクセスオーバヘッドタイムは、この
多階層キャッシュメモリの設計値がわかっていればその
値を使用する。不明の場合は、実測により、バッファサ
イズに対応するデータアクセス時に発生するオーバヘッ
ドタイムを求めてもよい。

【００１９】図４は、バッファ切り換えオーバヘッドタ
イム１６、データアクセスオーバヘッドタイム１７、上
記を合算したオーバヘッドタイム１８とバッファサイズ
との関係を示すグラフであり、グラフ上からオーバヘッ
ド算出手段５が算出するときに用いる複数の変化点を見
出すことができる。

【００２０】データアクセスオーバヘッドタイムが変化
するときのバッファサイズをＳi、そのときのデータア
クセスオーバヘッドタイムをＴiとする。また、Ｃを十
分に大きな値とする。このある変化点を（Ｓi、Ｔi）と
すると、バッファ切り換えオーバヘッドタイムとデータ
アクセスオーバヘッドタイムの合計は、Ｔi ＋Ｃ／Ｓi
となる。また、バッファサイズは主記憶１４のサイズの
上限などの制限から最大値が制限されるため、この最大
値以下の範囲内でバッファ切り換えオーバヘッドタイム
とデータアクセスオーバヘッドタイムの合計が最小とな
る値を求め、最適なバッファサイズを決める。このバッ
ファサイズが最大値をとるときの地点も変化点として考
えると、変化点でのバッファ切り換えオーバヘッドタイ
ムとデータアクセスオーバヘッドタイムの合計が最小、
つまり、min(Ｔi ＋Ｃ／Ｓi)となる地点のＳiがバッフ
ァサイズの最適値である。ここで、min(x)は、xの取り
うる値の最小値を意味する。

【００２１】次に、この変化点の決め方について説明す
る。図４の合計オーバヘッドタイム１８の曲線が示すよ
うに、min(Ｔi ＋Ｃ／Ｓi)となる地点は、バッファサイ
ズが１次キャッシュサイズと同一のとき（変化点１）、
バッファサイズが２次キャッシュと同一のとき（変化点
２）、もしくはバッファサイズが最大値となるとき（変
化点３）のうちのどれかである。図４の(1)が変化点
１、図４の(2)が変化点２、図４の(3)が変化点３とな
る。つまり、変化点１ではデータアクセスオーバヘッド
タイムが少ないことにより合計のオーバヘッドタイムが
最小になる可能性があり、変化点２では２つのオーバヘ
ッドタイムが３つの変化点の中では中庸になるため合計
したときに最小になる可能性がある。また、変化点３で
はバッファ切り換えオーバヘッドタイムが少ないことに
より合計のオーバヘッドタイムが最小になる可能性があ
る。このことにより、変化点を変化点１〜変化点３の３
つとし、３つの変化点でのオーバヘッドタイムを算出す
る。

【００２２】図５は、バッファサイズ設定方法の処理を
示すフローチャートである。ステップＳ１１において、
図４の(1)に示した変化点１での合計オーバヘッドタイ
ムを算出し、ステップＳ１２において、図４の(２)に示
した変化点２の合計オーバヘッドタイムを算出し、また
ステップＳ１３において図４の(３)に示したバッファサ
イズが上限値となる変化点３の合計オーバヘッドタイム
を算出する。ステップＳ１４において、ステップＳ１１
〜ステップＳ１３で算出したオーバヘッドタイムの中で
オーバヘッドタイムが最小となるバッファサイズに決定
し、バッファを設定する。

【００２３】ステップＳ１１〜ステップＳ１３でmin(Ｔ
i ＋Ｃ／Ｓi)を算出するとき、図１に示すオーバヘッド
算出手段５に、それに必要となるデータを設計者が与え
る。つまり、設計値あるいは実測値より求められたデー
タアクセスオーバヘッドタイムＴi、バッファ切り換え
時に発生する１回当たりのオーバヘッドタイムＵ、バッ
ファサイズＳi、対象データ量Ｋが必要となるデータと
なる。

【００２４】上記では、バッファサイズが最大値のとき
以外の変化点はバッファサイズが１次キャッシュ、２次
キャッシュと同一の地点で説明したが、キャッシュはシ
ステム内の他処理からも使用されていることを考慮にい
れ、変化点は、キャッシュのサイズと全く同一にしない
ことも可能である。このときは、多階層キャッシュメモ
リの設計値や実測などから変化点を定める。

【００２５】また、実施の形態１では１次キャッシュ、
２次キャッシュ、主メモリの３階層からなる記憶装置に
て説明したが、それより階層が少ないときは変化点が少
なくなり、それより階層が多いときは変化点が多くな
る。階層がいくつでも対応することができる。

【００２６】記憶装置の階層の１例としては、図６に示
すように記憶装置２１が１次キャッシュ、２次キャッシ
ュ、主記憶、ディスクの４階層からなるもの、また図７
に示すように記憶装置３１が１次キャッシュ、２次キャ
ッシュ、主記憶、ディスク、２次媒体となるテープの５
階層からなるもの、また図８に示すように記憶装置４１
が１次キャッシュ、２次キャッシュ、主記憶、ネットワ
ーク経由で接続されたディスクの４層からなるものが考
えられる。

【００２７】

【発明の効果】上記オーバヘッドタイムの変化の経緯に
より複数の変化点を見出し、その複数の変化点でのオー
バヘッドタイムを算出しそのオーバヘッドタイムが最小
になる変化点でのバッファサイズにバッファを設定する
ことで、記憶装置を使用するプログラムの処理単位で最
適なバッファサイズを設定し、データ処理性能向上を行
うことができる。

【図面の簡単な説明】

【図１】この発明の実施の形態１の全体構成を示すブロ
ック図である。

【図２】この発明の実施の形態１に係わる多階層からな
る記憶装置のブロック図である。

【図３】この発明の実施の形態１の中で記憶装置を使用
するデータ処理のフローチャートである。

【図４】この発明の実施の形態１の中でバッファ切り換
えオーバヘッドタイム、データアクセスオーバヘッドタ
イム、上記を合算したオーバヘッドタイムとバッファサ
イズとの関係を示すグラフである。

【図５】この発明の実施の形態１の中でバッファサイズ
設定方法の処理を示すフローチャートである。

【図６】この発明の実施の形態１の中で多階層からなる
記憶装置の一例を示すブロック図である。

【図７】この発明の実施の形態１の中で多階層からなる
記憶装置の一例を示すブロック図である。

【図８】この発明の実施の形態１の中で多階層からなる
記憶装置の一例を示すブロック図である。

【図９】従来技術の記憶装置を使用するデータ処理を示
すブロック図である。

【図１０】従来技術のソフトウェアキャッシュ制御方式
を示すブロック図である。

【図１１】ある構成においてデータアクセス時に発生す
るオーバヘッドタイムとバッファサイズとの関係を示す
グラフである。

【符号の説明】

１５ 記憶装置 １ バッファ ５ オーバヘッド算出手段 ６ 設定手段

Claims (3)

【特許請求の範囲】
1. 【請求項１】多階層からなる記憶装置、これらの記憶装
   置に保存されたデータを格納するバッファ、上記記憶装
   置の上位に位置する第１の階層の記憶装置と同一サイズ
   のバッファサイズと上記第１の階層の記憶装置の下位に
   位置する第２の階層の記憶装置と同一サイズのバッファ
   サイズとにより対象となる同一データをそれぞれのバッ
   ファサイズ単位で書込み読出すときに発生する合計のオ
   ーバーヘッドタイムと、上記各階層の記憶装置間でのデ
   ータの授受のときに発生するオーバーヘッドタイムとを
   算出し合算するオーバーヘッド算出手段、このオーバー
   ヘッド算出手段により合算された上記オーバーヘツドタ
   イムの中でオーバーヘツドタイムが最小になるバッファ
   サイズに上記バッファを設定する設定手段を備えたこと
   を特徴とするバッファサイズ設定装置。
2. 【請求項２】上記第１の階層の記憶装置及び第２の階層
   の記憶装置のいずれよりも大きなサイズのバッファサイ
   ズに基き得られたオーバーヘッドタイムを上記第１の階
   層の記憶装置及び第２の階層の記憶装置と同一サイズの
   バッファサイズに基き得られたオーバーヘッドタイムに
   含めてオーバーヘツドタイムが最小になるバッファサイ
   ズに上記バッファを設定することを特徴とする請求項１
   記載のバッファサイズ設定装置。
3. 【請求項３】記憶装置の上位に位置する第１の階層の記
   憶装置のサイズがバッファサイズと同一になるとき対象
   となるデータをバッファサイズ単位で書込み読出すとき
   に発生する合計のオーバヘッドタイムと各階層の記憶装
   置間でデータの授受のときに発生するオーバヘッドタイ
   ムとを合算して算出するステップ、上記第１の階層の記
   憶装置の下位に位置する第２の階層の記憶装置のサイズ
   が上記バッファサイズと同一になるとき対象となるデー
   タをバッファサイズ単位で書込み読出すときに発生する
   合計のオーバヘッドタイムと各階層の記憶装置間でデー
   タの授受のときに発生するオーバヘッドタイムとを合算
   して算出するステップ、上記第１の階層及び第２の階層
   のいずれよりもバッファサイズが大きくなるとき対象と
   なるデータをバッファサイズ単位で書込み読出すときに
   発生する合計のオーバヘッドタイムと各階層の記憶装置
   間でデータの授受のときに発生するオーバヘッドタイム
   とを合算して算出するステップ、これらのステップで算
   出した複数の合算された上記オーバヘットタイムの中で
   オーバヘッドタイムが最小になるバッファサイズに上記
   バッファを設定するステップを備えたことを特徴とする
   バッファサイズ設定方法。