JPH05173785A - 命令先取り装置 - Google Patents

Abstract

(57)【要約】 【目的】 パイプライン方式の情報処理装置における命
令先取り方式において、分岐Ｇｏ予測失敗時の分岐命令
実行の高速化を図ると共に、メモリ索引効率を向上させ
て命令供給能力の向上を図る。 【構成】 分岐Ｇｏ予測ワードに連続する分岐ＮｏＧｏ
ワードを、捨てることなくレジスタ１８に格納する。分
岐Ｇｏ予測失敗時に、このレジスタ１８の分岐ＮｏＧｏ
ワードを次ステージ（命令解読ステージ）へ供給するこ
とにより、分岐Ｇｏ予測失敗時の分岐命令の実行を高速
化できると共に、メモリ索引のやり直しをすることがな
いので、メモリ索引効率も向上する。

Description

【発明の詳細な説明】

【０００１】

【技術分野】本発明は命令先取り装置に関し、特に分岐
予測手段を用いて命令先取りを行うパイプライン処理方
式を採用した情報処理装置の命令先取り方式に関する。

【０００２】

【従来技術】従来、この種の分岐予測手段による命令先
取り機能を有するパイプライン処理方式の情報処理装置
では、分岐予測テーブル等による分岐予測手段によっ
て、命令の先取りを行い、結果的に分岐命令を高速に実
行するようになっている。

【０００３】この様な方式は、特公昭５０−２２３８４
号公報，特開昭５５−９９６５５号公報，特開昭５７−
５９２５３号公報等において提案されており、既にいく
つかの情報処理装置で実施されている。

【０００４】これ等の方式では、分岐命令について、そ
の実行の度に実行結果の履歴を保持しておき、次にその
分岐命令が実行されようとするときには、その履歴情報
（分岐成立／不成立，分岐先アドレス）を反映させて、
命令先取りを効果的に実行するようになっている。

【０００５】すなわち、この様な方式では、命令先取り
の予測が適中する限りにおいては、分岐命令を高速に実
行できる効果がある。

【０００６】一般にパイプライン制御方式による情報処
理装置は、命令の実行フェーズを以下に述べる各ステー
ジに分割し、その各ステージの機能を果すためのハード
ウェアを設け、各ステージサイクルを各命令が逐次くま
なく実行するようにして見かけ上１命令当り１ステージ
サイクルで実行ができるように制御されている。

【０００７】ＩＦステージ（命令先取りステージ） 命令取出しアドレスにより、メモリから命令を取出すス
テージ。

【０００８】ＤＣステージ（命令解読ステージ） 命令レジスタに命令が読出されその命令の種類を解読す
るステージ。

【０００９】ＡＤステージ（アドレス生成ステージ） その命令が必要とするアドレスを生成するステージであ
り、分岐命令であるならば、その分岐命令が実際に分岐
する分岐先アドレスが生成される。

【００１０】ＯＦステージ（オペランド取出しステー
ジ） 演算に使用するオペランドを取出すステージ。

【００１１】ＥＸステージ（演算ステージ） 演算を実行するステージであり、分岐命令の場合、この
ステージで分岐成立か否かが確定する。

【００１２】更に、本発明に特に関係するＩＦ（命令取
出し）ステージは複数ステージからなり、一般には以下
のステージに分割されている（尚、更に細いステージに
分割されていることもある）。

【００１３】ＩＦＡステージ（命令アクセスステー
ジ） 命令取出しアドレスにより、メモリから命令を取出して
命令バッファに格納するステージであり、同時に命令取
出しアドレスにより分岐予測機能を索引し、分岐予測先
アドレスを生成するステージ。

【００１４】ＩＦＢステージ（命令供給ステージ） 命令バッファの命令を、次段のＤＣステージの命令レジ
スタへ供給すると同時に、分岐予測機能により生成され
た分岐予測先アドレスをＩＦＡステージへ供給するステ
ージ。

【００１５】図２に従来のＩＦステージの構成を示す。
命令取出しレジスタ１１は先取りする命令のアドレスを
保持し、このアドレスにより命令メモリ１２と分岐予測
機能１３とを同時に索引する。それと同時に、カウンタ
１７により後続命令のアドレスを生成して命令取出しア
ドレスレジスタ１１へセットする。

【００１６】命令メモリ１２（このメモリは主記憶でも
キャッシュメモリでも可）からの命令は命令先取りバッ
ファ１４に格納されてＤＣステージへの命令供給がなさ
れる。同時に分岐予測機能１３により分岐予測が行われ
て分岐予測先アドレスが生成され、これが分岐予測先ア
ドレスレジスタ１５にセットされる。

【００１７】分岐Ｇｏ予測の場合、分岐予測先アドレス
レジスタ１５から命令取出しアドレスレジスタ１１に分
岐予測先アドレスがセットされ、予測先の命令取出しが
行われる。アドレスリカバリ機能１６は分岐予測失敗時
に命令を取出すための新しいアドレスを命令取出しレジ
スタ１１にセットする。

【００１８】図２に示した従来の命令先取り方式では、
図３に示す命令列を実行する場合、図４に示す様に、分
岐命令Ｄの分岐予測がＩＦＢステージで行われ、このＩ
ＦＢステージで生成された分岐予測先アドレス100 の命
令Ｌ，Ｍを取出すまでの間に、既に命令取出しを行って
いる分岐Ｇｏ側の命令Ｅ，Ｆは無効な命令として捨てら
れている。従って、メモリの索引効率が低下し、命令供
給能力が低下する原因になるという欠点がある。

【００１９】更に、図３で示す命令列の分岐命令Ｄが分
岐Ｇｏ予測され、分岐予測失敗して分岐ＮｏＧｏと判定
された場合、図４に示す如く、分岐命令Ｄの実行は６Ｔ
となり、ＮｏＧｏ側の命令Ｅに関しては、タイミングＴ
3 において、メモリ１２から取出されているにもかかわ
らず、ＮｏＧｏ側の命令であるために捨てられている。

【００２０】分岐命令Ｄの実行によりＮｏＧｏと判定さ
れたとき、再びＮｏＧｏ側の命令Ｅを取出しているの
で、命令取出し動作が同一命令に対して２回実行される
ことになり、命令取出しのメモリ索引効率が低下し、命
令供給能力が低下するという欠点がある。

【００２１】図４に示した分岐命令の実行Ｔ数（６Ｔ）
を削減する方式としては、図５に示す様にＡＤステージ
で分岐命令Ｄの分岐先アドレスが確定するときに、予測
と反対方向の命令取出しに起動をかける方式がある。

【００２２】分岐命令Ｄの実行Ｔ数は４Ｔになるが、分
岐命令Ｄの実行結果を待たずして予測と反対方向の命令
取出しを行うために、分岐命令Ｄに関する予測が成功す
る場合は、予測と反対方向の命令取出し動作は中止さ
れ、予測方向の先取りが継続される。

【００２３】しかしながら、予測と反対方向の命令取出
し動作によって予測方向の先取りが中断されることにな
り、メモリの索引効率が低下し、命令供給能力が低下す
る。また、前述した如く、ＮｏＧｏ側の命令Ｅに対して
は、命令取出し動作が２回実行され、メモリの索引効率
が同様に低下し、命令供給能力が低下するという欠点が
ある。

【００２４】

【発明の目的】本発明の目的は、分岐Ｇｏ予測失敗時の
分岐命令実行の高速化を図ると共に、メモリ索引効率を
向上させて命令供給能力を向上可能とした命令先取り装
置を提供することである。

【００２５】

【発明の構成】本発明による命令先取り装置は、命令取
出しアドレスレジスタのアドレスによりメモリから命令
を取出して命令先取りバッファに格納すると同時に前記
アドレスにより分岐予測手段を索引して分岐予測アドレ
スを生成する第１のステージと、前記命令先取りバッフ
ァの命令を次段の命令解読ステージへ供給すると同時に
前記分岐予測先アドレスを前記命令取出しアドレスレジ
スタに供給する第２のステージとからなる命令先取りス
テージを有するパイプライン処理方式の情報処理装置に
おける命令先取り装置であって、分岐命令のＮｏＧｏ方
向の命令を格納する分岐ＮｏＧｏワード保持レジスタ
と、前記メモリから読出された分岐命令を含む命令ワー
ドを前記命令先取りバッファに格納する際に、前記分岐
予測手段により分岐Ｇｏ予測された第１〜第Ｎ（Ｎは２
以上の整数）分岐命令を含む命令ワードを前記命令先取
りバッファに夫々格納し、これ等命令ワードの各々に続
いて前記第１〜第Ｎの分岐命令の分岐ＮｏＧｏ方向の命
令を含む命令ワードを分岐ＮｏＧｏワードとして前記分
岐ＮｏＧｏワード保持レジスタに夫々格納制御する手段
と、前記分岐Ｇｏ予測された分岐命令が実行されて分岐
予測失敗して分岐ＮｏＧｏと判定された場合に、前記分
岐ＮｏＧｏワード保持レジスタに格納されている前記分
岐ＮｏＧｏワードの命令を前記命令解読ステージへ供給
し、その後の命令先取りは前記分岐ＮｏＧｏワードの後
続ワードから開始するよう制御する手段とを含むことを
特徴とする。

【００２６】

【実施例】以下、図面を用いて本発明の実施例について
説明する。

【００２７】図１は本発明の実施例のブロック図であ
り、図２と同等部分は同一符号により示す。本例では、
分岐ＮｏＧｏワード保持レジスタ群１８と、このレジス
タ群１８と命令先取りバッファ１４との出力を選択して
次のＤＣステージへ供給する選択回路１Ａと、分岐Ｎｏ
Ｇｏワードの分岐予測先アドレスを格納するレジスタ群
１９と、このレジスタ群１９とレジスタ１５との出力を
選択して命令取出しアドレスレジスタ１１へ供給する選
択回路１Ｂとが付加されている。

【００２８】命令取出しアドレスレジスタ１１には、メ
モリ１２から読出す命令のアドレスが保持されており、
メモリ１２、分岐予測機能１３、カウンタ１７に夫々保
持アドレス２が供給される。

【００２９】命令メモリ１２から命令ワード単位（例え
ば、１命令を４バイトとし、１ワードを８バイトとする
と、１回の命令メモリからの読出し動作で２命令取出せ
る）で読出され、命令先取りバッファ１４に格納され
る。同じサイクルに分岐予測機能１３が索引され、分岐
Ｇｏ予測の場合、分岐予測先アドレスが生成されると、
分岐予測先アドレスレジスタ１５にセットされる。

【００３０】同じサイクルで、カウンタ１７によって命
令取出しアドレスは後続のワードを取出すために８バイ
ト分加算され、命令取出しアドレスレジスタ１１にセッ
トされる。

【００３１】上記動作により分岐Ｇｏ予測として動作し
た場合、命令先取りバッファ１４には、分岐命令を含む
ワードの命令列が格納されており、分岐予測先アドレス
レジスタ１５には、分岐Ｇｏ予測された分岐命令に対す
る分岐予測先アドレスがセットされており、命令取出し
アドレスレジスタ１１には、分岐Ｇｏ予測された分岐命
令を含むワードの後続ワード、すなわち、分岐命令のＮ
ｏＧｏ方向の命令を含むワードのアドレスがセットされ
ている。次のサイクルで、命令先取りバッファ１４に格
納されている命令は選択回路１Ａを経てＤＣステージに
供給される。

【００３２】同じサイクルで分岐予測先アドレスレジス
タ１５にセットされている分岐予測先アドレスは、選択
回路１Ｂを経て命令取出しアドレスレジスタ１１にセッ
トされる。同じサイクルで、命令取出しアドレスレジス
タ１１にセットされていた分岐ＮｏＧｏワードのアドレ
スにより、命令メモリ１２から分岐ＮｏＧｏワードが読
出され、分岐ＮｏＧｏワード保持レジスタ群１８に保持
される。次のサイクル以降は、命令取出しアドレスレジ
スタ１１にセットされている分岐予測先アドレスから命
令の取出しが続けられ、命令先取りバッファ１４からは
予測に従った命令がＤＣステージへ供給される。

【００３３】分岐命令が実行され、分岐予測が失敗し分
岐ＮｏＧｏと判定された場合に、分岐ＮｏＧｏワード保
持レジスタ群１８に保持されている分岐ＮｏＧｏ側の命
令が、選択回路１Ａに与えられ、選択回路１Ａにより分
岐ＮｏＧｏ側の命令はＤＣステージに供給される。

【００３４】同じサイクルで、アドレスリカバリ機能１
６は分岐ＮｏＧｏワードに後続するアドレスを生成し、
命令取出しアドレスレジスタ１１にセットする。次のサ
イクル以降は、命令取出しアドレスレジスタ１１にセッ
トされた分岐ＮｏＧｏワードに後続するアドレスから命
令の取出しが続けられ、命令先取りバッファ１４に格納
される。

【００３５】選択回路１Ａは、分岐ＮｏＧｏワード保持
レジスタ群１８に供給可能な命令が残っている場合は、
レジスタ群１８の出力を選択し、供給可能な命令がなく
なった場合には、命令先取りバッファ１４から分岐Ｎｏ
Ｇｏワードの後続のワードに含まれている命令を供給す
る

【００３６】上記動作により、図３に示される命令列を
実行した場合、図６に示されるようになる。図６におい
て、タイミングＴ2 において分岐命令Ｄが分岐Ｇｏ予測
され、分岐予測先アドレスが生成された場合、タイミン
グＴ3 において、従来捨てられていた分岐ＮｏＧｏ側の
命令Ｅ，Ｆは図１の分岐ＮｏＧｏワード保持レジスタ群
１８に保持される。

【００３７】タイミングＴ8 において、分岐Ｇｏ予測失
敗と判定された場合、タイミングＴ9 において、ＤＣス
テージに対して分岐ＮｏＧｏワード保持レジスタ群１８
に保持されていた命令Ｅが供給され、ＩＦＡステージの
アドレスは図１のアドレスリカバリ機能１６によって、
分岐ＮｏＧｏワードの後続のワードのアドレス２４が生
成され、命令取出しアドレスレジスタ１１にセットされ
る。

【００３８】従って、図６に示すように、分岐命令Ｄの
実行Ｔ数は４Ｔとなり、分岐ＮｏＧｏ側の命令Ｅ，Ｆに
対するメモリアクセスも１回で済む。また、図５を用い
て前述した分岐命令がＡＤステージで分岐先アドレスが
確定する時に予測と反対方向の命令取出しに起動をかけ
る方式を用いなくても、分岐命令の実行Ｔ数が高速化さ
れ、しかも、不用な命令取出し動作も必要なくなり、メ
モリ索引効率が向上する。

【００３９】次に、図１の分岐ＮｏＧｏワードの分岐予
測先アドレス保持レジスタ群１９を用いた動作につい
て、先述の動作例と相違している部分についてのみ詳細
に説明する。

【００４０】図１を参照すると、分岐Ｇｏ予測が行わ
れ、分岐ＮｏＧｏワード保持レジスタ群１８に分岐Ｎｏ
Ｇｏワードがセットされるのと同じサイクルにおいて、
分岐ＮｏＧｏワードに対しても分岐予測機能１３によっ
て分岐予測が行われている。従って、分岐ＮｏＧｏワー
ド内に分岐命令が存在し、分岐Ｇｏ予測された場合に、
分岐予測機能１３からは、分岐ＮｏＧｏ側ワード内の分
岐命令に対する分岐予測先アドレスが生成される。その
分岐予測先アドレスは分岐ＮｏＧｏワードの分岐予測先
アドレス保持レジスタ群１９に保持される。

【００４１】分岐予測が失敗し分岐ＮｏＧｏと判定され
た場合に、分岐ＮｏＧｏ側の命令が分岐ＮｏＧｏワード
保持レジスタ群１８から供給される。同じサイクルで、
分岐ＮｏＧｏワードの分岐予測先アドレス保持レジスタ
群１９から、分岐ＮｏＧｏワードの分岐命令に対する分
岐予測先アドレスが選択回路１Ｂに与えられ、選択回路
１Ｂにより命令取出しアドレスレジスタ１１にセットさ
れ、分岐ＮｏＧｏワード内の分岐命令に対する分岐予測
先アドレスの命令の先取りが開始される。

【００４２】従って、分岐ＮｏＧｏワード内に存在する
分岐命令に対しても分岐予測が有効となり、分岐予測率
が向上し、命令先取りに関する機能の有効利用が図れ
る。

【００４３】図７に示す命令列を、第１の実施例で実行
した結果を図８に、第２の実施例で実行した結果を図９
に夫々示す。

【００４４】図７の分岐命令Ｂが分岐Ｇｏ予測され、分
岐命令ＢのＮｏＧｏ側の命令である分岐命令Ｄに対して
も、分岐予測機能により分岐予測先アドレスの生成が可
能な状態で、分岐命令Ｂは分岐予測失敗し、結果ＮｏＧ
ｏとなり分岐命令Ｄは、結果Ｇｏとなる場合について説
明する。

【００４５】図７に示される命令が前記のような実行状
態で実行された場合、第１の実施例では、図８で示すよ
うに、タイミングＴ2 において、分岐ＮｏＧｏワード内
の分岐命令Ｄに対する分岐予測先アドレスが生成されて
いるにもかかわらず、保持する手段を持たないために捨
てられてしまう。従って分岐命令Ｂが分岐予測失敗し、
結果ＮｏＧｏとなった場合、タイミングＴ11において、
分岐命令Ｄは、分岐予測先アドレスが存在しないため、
分岐ＮｏＧｏ予測として扱われ、分岐ＮｏＧｏ予測失敗
となり、実行に６Ｔを要してしまう。

【００４６】上記の問題点を解決したのが第２の実施例
であり、図９で示すように、タイミングＴ2 において、
分岐ＮｏＧｏワード内の分岐命令Ｄに対する分岐予測先
アドレスを捨てることなく分岐ＮｏＧｏワードの分岐予
測先アドレス保持レジスタ群１９に保持することによ
り、分岐ＮｏＧｏワード内の分岐命令Ｄに対する分岐予
測を可能としている。

【００４７】タイミングＴ6 において、分岐命令Ｂが分
岐Ｇｏ予測失敗と判定された場合に、タイミングＴ7 に
おいて、分岐ＮｏＧｏワードの分岐予測先アドレスレジ
スタ群１９に保持されていた分岐ＮｏＧｏワード内の分
岐命令Ｄに対する分岐予測先アドレスが、選択回路１Ｂ
に与えられ、選択回路により命令先取アドレスレジスタ
１１にセットされる。

【００４８】従って、ＮｏＧｏワード内の分岐命令Ｄに
対する分岐予測が有効になり、タイミングＴ11におい
て、分岐Ｇｏ予測成功となり分岐命令Ｄの実行は１Ｔで
行われる。

【００４９】上記動作の説明では、分岐Ｇｏ予測が１つ
だけの場合であるが、命令の先取りが進行し、先行する
分岐Ｇｏ予測が実行される前にさらに分岐Ｇｏ予測が行
われる場合がある。その場合分岐Ｇｏ予測が行われる毎
に、前記動作に従って、分岐ＮｏＧｏワードは分岐Ｎｏ
Ｇｏワード保持レジスタ群１８に順次格納され、分岐Ｎ
ｏＧｏワードに対する分岐予測先アドレスは分岐ＮｏＧ
ｏワードの分岐予測先アドレス保持レジスタ群１９に順
次格納される。

【００５０】分岐Ｇｏ予測命令が実行された時に、分岐
Ｇｏ予測成功の場合は、実行された分岐Ｇｏ予測命令に
対応する分岐ＮｏＧｏワード保持レジスタ群１８の内容
と分岐ＮｏＧｏワードの分岐予測先アドレス保持レジス
タ群１９の内容とが捨てられ、分岐Ｇｏ予測失敗の場合
は、前述した動作に従って、実行された分岐Ｇｏ予測命
令に対応する分岐ＮｏＧｏワード保持レジスタ群１８の
内容と分岐ＮｏＧｏワードの分岐予測先アドレス保持レ
ジスタ群１９の内容とが読出され、命令先取り動作が実
行される。従って、複数個の分岐Ｇｏ予測に対応できる
のである。

【００５１】

【発明の効果】本発明によれば、分岐予測が失敗した場
合に、分岐命令の実行の高速化を図ることが可能になる
と共に、メモリ索引効率を向上させて命令供給能力を向
上させるという効果がある。また、複数の分岐Ｇｏ予測
に対応できるという効果もある。

【図面の簡単な説明】

【図１】本発明の実施例のブロック図である。

【図２】従来の命令先取り装置のブロック図である。

【図３】分岐命令を有する命令列の一例を示す図であ
る。

【図４】従来方式による分岐Ｇｏ予測が予測失敗したと
きの実行経過の一例を示すタイムチャートである。

【図５】従来方式による分岐Ｇｏ予測が予測失敗したと
きの実行過程の他の例を示すタイムチャートである。

【図６】本発明の第１の実施例による分岐Ｇｏ予測が予
測失敗したときの実行過程を示すタイムチャートであ
る。

【図７】本発明の実施例に用いる命令列を示す図であ
る。

【図８】第１の実施例により図７の命令列を実行する過
程を示すタイムチャートである。

【図９】第２の実施例により図８の命令列を実行する過
程を示すタイムチャートである。

【符号の説明】

１Ａ，１Ｂ 選択回路 １１ 命令取出しアドレスレジスタ １２ 命令メモリ １３ 分岐予測機能 １４ 命令先取りバッファ １５ 分岐予測先アドレスレジスタ １６ アドレスリカバリ機能 １７ カウンタ １８ 分岐ＮｏＧｏワード保持レジスタ群 １９ 分岐ＮｏＧｏワードの分岐予測先アドレスレジス
タ群

Claims (2)

【特許請求の範囲】
1. 【請求項１】 命令取出しアドレスレジスタのアドレス
   によりメモリから命令を取出して命令先取りバッファに
   格納すると同時に前記アドレスにより分岐予測手段を索
   引して分岐予測アドレスを生成する第１のステージと、
   前記命令先取りバッファの命令を次段の命令解読ステー
   ジへ供給すると同時に前記分岐予測先アドレスを前記命
   令取出しアドレスレジスタに供給する第２のステージと
   からなる命令先取りステージを有するパイプライン処理
   方式の情報処理装置における命令先取り装置であって、
   分岐命令のＮｏＧｏ方向の命令を格納する分岐ＮｏＧｏ
   ワード保持レジスタと、前記メモリから読出された分岐
   命令を含む命令ワードを前記命令先取りバッファに格納
   する際に、前記分岐予測手段により分岐Ｇｏ予測された
   第１〜第Ｎ（Ｎは２以上の整数）分岐命令を含む命令ワ
   ードを前記命令先取りバッファに夫々格納し、これ等命
   令ワードの各々に続いて前記第１〜第Ｎの分岐命令の分
   岐ＮｏＧｏ方向の命令を含む命令ワードを分岐ＮｏＧｏ
   ワードとして前記分岐ＮｏＧｏワード保持レジスタに夫
   々格納制御する手段と、前記分岐Ｇｏ予測された分岐命
   令が実行されて分岐予測失敗して分岐ＮｏＧｏと判定さ
   れた場合に、前記分岐ＮｏＧｏワード保持レジスタに格
   納されている前記分岐ＮｏＧｏワードの命令を前記命令
   解読ステージへ供給し、その後の命令先取りは前記分岐
   ＮｏＧｏワードの後続ワードから開始するよう制御する
   手段とを含むことを特徴とする命令先取り装置。
2. 【請求項２】 前記分岐予測手段により分岐Ｇｏ予測さ
   れた前記第１〜第Ｎの分岐命令の各分岐先アドレスを格
   納する分岐予測先アドレスレジスタと、前記分岐予測手
   段により予測が行われた第１〜第Ｎの前記分岐ＮｏＧｏ
   ワード内に含まれている分岐命令に対する各分岐予測先
   アドレスを保持する分岐ＮｏＧｏワード分岐予測先アド
   レスレジスタと、これ等両レジスタの出力を選択して前
   記命令取出しレジスタへ格納制御する手段とを含むこと
   を特徴とする請求項１記載の命令先取り装置。