▶ アドバンスト・マイクロ・ディバイシズ・インコーポレイテッドの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2022-12-27
(54)【発明の名称】スケジューラキュー割り当てバーストモード
(51)【国際特許分類】
G06F 9/38 20060101AFI20221220BHJP
G06F 9/318 20060101ALI20221220BHJP
【ＦＩ】
G06F9/38 310E
G06F9/318 A
G06F9/38 370A
【審査請求】有
【予備審査請求】未請求
(21)【出願番号】P 2022534256
(86)(22)【出願日】2020-12-08
(85)【翻訳文提出日】2022-07-26
(86)【国際出願番号】 US2020063765
(87)【国際公開番号】W WO2021118989
(87)【国際公開日】2021-06-17
(31)【優先権主張番号】16/709,527
(32)【優先日】2019-12-10
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
【公序良俗違反の表示】
（特許庁注：以下のものは登録商標）
１．ＶＥＲＩＬＯＧ
(71)【出願人】
【識別番号】591016172
【氏名又は名称】アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド
【氏名又は名称原語表記】ＡＤＶＡＮＣＥＤ ＭＩＣＲＯ ＤＥＶＩＣＥＳ ＩＮＣＯＲＰＯＲＡＴＥＤ
(74)【代理人】
【識別番号】100108833
【弁理士】
【氏名又は名称】早川 裕司
(74)【代理人】
【識別番号】100111615
【弁理士】
【氏名又は名称】佐野 良太
(74)【代理人】
【識別番号】100162156
【弁理士】
【氏名又は名称】村雨 圭介
(72)【発明者】
【氏名】アロック ガーグ
(72)【発明者】
【氏名】スコット アンドリュー マクレランド
(72)【発明者】
【氏名】マリウス エバーズ
(72)【発明者】
【氏名】マシュー ティー． ソベル
【テーマコード（参考）】
5B013
5B033
【Ｆターム（参考）】
5B013AA11
5B013DD01
5B013DD04
5B033BB02
(57)【要約】
スケジューラキュー割り当てバーストモードを実装するシステム、装置及び方法が開示される。スケジューラキュー割り当てユニットは、各クロックサイクルにおいて、デコードユニットから、複数の動作を含むディスパッチパケットを受信する。スケジューラキュー割り当てユニットは、任意のクラスの動作のディスパッチパケット内の動作の数が、単一サイクルでスケジューラキューにディスパッチするための対応する閾値よりも大きいかどうかを判定する。所定のクラスの動作の数が対応する閾値よりも多く、バーストモードカウンタがバーストモードウィンドウの閾値よりも小さい場合、スケジューラキュー割り当てユニットは、所定のクラスの追加の数の動作を単一サイクルでディスパッチする。少数のサイクルで所定の動作クラスに対してバーストモードで動作することにより、他の動作クラスのプロセッサを枯渇させることなく、プロセッサスループットを向上させることができる。
【選択図】図５
【選択図】図５
【特許請求の範囲】
【請求項1】
システムであって、複数のスケジューラキューと、
デコードユニットと、
スケジューラキュー割り当てユニットと、を備え、
前記スケジューラキュー割り当てユニットは、
前記デコードユニットから複数の動作を含むディスパッチパケットを受信することと、
前記ディスパッチパケットが、対応する閾値を超える第１の数の単一クラスの動作を含むかどうかを判定することと、
前記第１の数の動作が前記対応する閾値を超えていることと、前記単一クラスの動作に対してバーストモードウィンドウを超えていないことと、を判定したことに応じて、前記対応する閾値よりも大きい第２の数の前記単一クラスの動作を前記複数のスケジューラキューにディスパッチすることと、
を行うように構成されている、
システム。
【請求項2】
前記対応する閾値は、前記単一クラスの動作を実行可能な実行ユニットの数に等しい、請求項１のシステム。
【請求項3】
前記スケジューラキュー割り当てユニットは、前記対応する閾値を超える前記第１の数の前記単一クラスの動作を検出したことに応じて、有効ビットをバーストモードシフトカウンタにシフトするように構成されている、請求項１のシステム。
【請求項4】
所定のクラスの動作に対してバーストモードウィンドウを超えていないと判定することは、前記バーストモードシフトカウンタの有効なビット数がバーストモードウィンドウの閾値未満であると判定することを含む、請求項３のシステム。
【請求項5】
前記スケジューラキュー割り当てユニットは、前記ディスパッチパケットが、前記対応する閾値を超えて単一クラスの動作を含んでいないと判定したことに応じて、非有効ビットを前記バーストモードシフトカウンタにシフトするように構成されている、請求項３のシステム。
【請求項6】
前記スケジューラキュー割り当てユニットは、スケジューラキュー占有率が占有率の閾値未満であると判定したことに応じて、及び、前記単一クラスの動作について前記バーストモードウィンドウを超えていないと判定したことに応じて、前記単一クラスの動作について前記対応する閾値よりも大きい前記第２の数の動作を、前記複数のスケジューラキューにディスパッチするように構成されている、請求項１のシステム。
【請求項7】
第１のクラスの動作は第１の閾値を有し、第２のクラスの動作は第２の閾値を有し、
前記第２の閾値は前記第１の閾値と異なる、
請求項１のシステム。
【請求項8】
方法であって、スケジューラキュー割り当てユニットが、所定のサイクルでデコードユニットから複数の動作を含むディスパッチパケットを受信することと、
前記ディスパッチパケットが、対応する閾値を超える第１の数の単一クラスの動作を含むかどうかを判定することと、
前記第１の数の動作が前記対応する閾値を超えていることと、前記単一クラスの動作に対してバーストモードウィンドウを超えていないことと、を判定したことに応じて、前記対応する閾値よりも大きい第２の数の前記単一クラスの動作を前記複数のスケジューラキューにディスパッチすることと、を含む、
方法。
【請求項9】
前記対応する閾値は、前記単一クラスの動作を実行可能な実行ユニットの数に等しい、請求項８の方法。
【請求項10】
前記対応する閾値を超える前記第１の数の前記単一クラスの動作を検出したことに応じて、有効ビットをバーストモードシフトカウンタにシフトすることをさらに含む、請求項８の方法。
【請求項11】
所定のクラスの動作に対してバーストモードウィンドウを超えていないと判定することは、バーストモードシフトカウンタの有効なビット数がバーストモードウィンドウの閾値未満であると判定することを含む、請求項１０の方法。
【請求項12】
前記ディスパッチパケットが、前記対応する閾値を超えて単一クラスの動作を含んでいないと判定したことに応じて、非有効ビットを前記バーストモードシフトカウンタにシフトすることをさらに含む、請求項１０の方法。
【請求項13】
スケジューラキュー占有率が占有率の閾値未満であると判定したことに応じて、及び、前記単一クラスの動作について前記バーストモードウィンドウを超えていないと判定したことに応じて、前記単一クラスの動作について前記対応する閾値よりも大きい前記第２の数の動作をディスパッチすることをさらに含む、請求項８の方法。
【請求項14】
第１のクラスの動作は第１の閾値を有し、第２のクラスの動作は第２の閾値を有し、
前記第２の閾値は前記第１の閾値と異なる、
請求項８の方法。
【請求項15】
装置であって、メモリと、
前記メモリに結合されたプロセッサと、を備え、
前記プロセッサは、
デコードユニットが、所定のサイクルで複数の動作を含むディスパッチパケットを生成することと、
前記ディスパッチパケットが、対応する閾値を超える第１の数の単一クラスの動作を含むかどうかを判定することと、
前記第１の数の動作が前記対応する閾値を超えていることと、前記単一クラスの動作に対してバーストモードウィンドウを超えていないことと、を判定したことに応じて、前記対応する閾値よりも大きい第２の数の前記単一クラスの動作を前記複数のスケジューラキューにディスパッチすることと、
を行うように構成されている、
装置。
【請求項16】
前記対応する閾値は、前記単一クラスの動作を実行可能な実行ユニットの数に等しい、請求項１５の装置。
【請求項17】
前記プロセッサは、前記対応する閾値を超える前記第１の数の前記単一クラスの動作を検出したことに応じて、有効ビットをバーストモードシフトカウンタにシフトするように構成されている、請求項１５の装置。
【請求項18】
前記単一クラスの動作に対してバーストモードウィンドウを超えていないと判定することは、前記バーストモードシフトカウンタの有効ビット数がバーストモードウィンドウの閾値未満であると判定することを含む、請求項１７の装置。
【請求項19】
前記プロセッサは、前記ディスパッチパケットが、前記対応する閾値を超えて単一クラスの動作を含んでいないと判定したことに応じて、非有効ビットを前記バーストモードシフトカウンタにシフトするように構成されている、請求項１７の装置。
【請求項20】
前記プロセッサは、スケジューラキュー占有率が占有率の閾値未満であると判定したことに応じて、及び、前記単一クラスの動作について前記バーストモードウィンドウを超えていないと判定したことに応じて、前記単一クラスの動作について前記対応する閾値よりも大きい前記第２の数の動作を、前記複数のスケジューラキューにディスパッチするように構成されている、請求項１５の装置。
【発明の詳細な説明】
【背景技術】
【0001】
プロセッサパイプラインは、実行中の命令により動作する多くの様々なユニットを含む。これらのユニットには、デコードユニット、スケジューラ、スケジューラキュー、ピッカー及び実行ユニットが含まれる。デコードユニットは、フェッチされた命令を命令動作へとデコードする。命令動作は、本明細書中で「ｏｐ」とも呼ばれる。一般的に、ｏｐは、実行ユニットに含まれるハードウェアが実行することが可能な動作である。様々な実施形態において、各命令は、実行されると命令セットアーキテクチャにしたがってその命令に対して定義された動作のパフォーマンスをもたらす１つ以上のｏｐに変換される。スケジューラがデコードされたｏｐをスケジューラキューにディスパッチした後、ピッカーは実行ユニットによって実行されるスケジューラキューからｏｐを選択する。
【0002】
一般的なスケジューラは、全体的なパフォーマンスの向上を優先して、各クラスのｏｐで使用可能なディスパッチ帯域幅の分量をプロビジョニングする。一般的なスケジューラの場合、ｏｐの各クラスに割り当てられたディスパッチ帯域幅は、このクラスのｏｐの実行ユニットの数と一致する。このアプローチは、プログラムが全てのサイクルでｏｐの安定した正しい組み合わせを順守する場合にうまく機能する。ただし、１つのクラスのｏｐが短いバーストで表示される場合、これにより、通常のスケジューラのプロセッサのパフォーマンスが低下する可能性がある。
【0003】
添付図面と共に以下の説明を参照することによって、本明細書で説明する方法及びメカニズムの利点をより良好に理解することができる。
【図面の簡単な説明】
【0004】
【図1】コンピューティングシステムの一実施形態のブロック図である。
【図2】プロセッサパイプラインの一実施形態のブロック図である。
【図3】プロセッサパイプラインの一部の一実施形態のブロック図である。
【図4】スケジューラキュー割り当てバーストモードにいつ入るかを判定する方法の一実施形態を例示する、一般化されたフロー図である。
【図5】バーストモードに入るスケジューラキュー割り当てユニットのための方法の一実施形態を例示する、一般化されたフロー図である。
【図6】スケジューラキュー割り当てバーストモードに入るかどうかを判定するための方法の一実施形態を例示する、一般化されたフロー図である。
【図7】バーストモードウィンドウを追跡するための方法の一実施形態を例示する、一般化されたフロー図である。
【発明を実施するための形態】
【0005】
以下の説明では、本明細書で提示される方法及びメカニズムの十分な理解をもたらすために、多数の特定の詳細が示されている。しかしながら、当業者は、これらの特定の詳細を用いないで、様々な実施形態を実施し得ることを認識するはずである。いくつかの例では、本明細書で説明する手法を不明瞭にすることを回避するために、周知の構造、構成要素、信号、コンピュータプログラム命令、及び、技術が詳細に示されていない。説明を簡潔及び明瞭にするために、図面に示す要素は必ずしも縮尺通りに描かれていないことを理解されたい。例えば、いくつかの要素の寸法は、他の要素に対して誇張される場合がある。
【0006】
スケジューラキュー割り当てバーストモードを実装する様々なシステム、装置及び方法が本明細書に開示される。システムは、１つ以上のメモリに結合された１つ以上のプロセッサを含む。各プロセッサは、命令をフェッチ、処理及び実行する複数のパイプラインステージを有するプロセッサパイプラインを含む。一実施形態では、プロセッサは、命令のアウトオブオーダー実行を用いる。命令は、フェッチされ、次いで、デコードユニットによって命令動作（すなわち「ｏｐ」）へとデコードされる。デコードユニットは、デコードされたｏｐのディスパッチパケットを各クロックサイクルでスケジューラキュー割り当てユニットに転送する。
【0007】
一実施形態では、スケジューラキュー割り当てユニットがディスパッチパケットを受信すると、スケジューラキュー割り当てユニットは、任意のクラスのｏｐのディスパッチパケットのｏｐの数が、単一サイクルでのその特定のクラスに対するスケジューラキューに発行するための最大許容ｏｐ数よりも大きいかどうかを判定する。一実施形態では、動作の各クラスは、異なるタイプの実行ユニットによって実行可能な異なるタイプのｏｐを指す。例えば、様々なタイプのｏｐには、算術論理演算装置（ＡＬＵ）ｏｐ、アドレス生成ユニット（ＡＧＵ）ｏｐ、浮動小数点ｏｐ、整数ｏｐ、ロード／ストアｏｐ等の１つ以上が含まれる。所定のクラスのｏｐ数が許容できる数よりも多く、バーストモードカウンタが閾値よりも小さい場合、スケジューラキュー割り当てユニットは、所定のクラスの追加のｏｐ数を単一サイクルでディスパッチし、バーストモードカウンタをインクリメントする。少数のサイクルで所定のｏｐクラスに対してバーストモードで動作することにより、他のタイプのｏｐクラスのプロセッサを枯渇させることなく、プロセッサスループットを向上させることができる。
【0008】
図１を参照すると、コンピューティングシステム１００の一実施形態のブロック図が示されている。一実施形態では、コンピューティングシステム１００は、少なくともプロセッサ１０５Ａ～１０５Ｎと、入出力（Ｉ／Ｏ）インターフェース１２０と、バス１２５と、メモリコントローラ（複数可）１３０と、ネットワークインターフェース１３５と、メモリデバイス（複数可）１４０と、を含む。他の実施形態では、コンピューティングシステム１００は他のコンポーネントを含み、及び／又は、コンピューティングシステム１００は異なる構成とされる。プロセッサ１０５Ａ～１０５Ｎは、システム１００に含まれる任意の数のプロセッサを表す。
【0009】
一実施形態では、プロセッサ１０５Ａは、中央処理装置（ＣＰＵ）等の汎用プロセッサである。一実施形態では、プロセッサ１０５Ｎは、高並列アーキテクチャを有するデータ並列プロセッサである。データ並列プロセッサには、グラフィックスプロセッシングユニット（ＧＰＵ）、デジタルシグナルプロセッサ（ＤＳＰ）、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、特定用途向け集積回路（ＡＳＩＣ）等が含まれる。いくつかの実施形態では、プロセッサ１０５Ａ～１０５Ｎは、複数のデータ並列プロセッサを含む。
【0010】
メモリコントローラ（複数可）１３０は、Ｉ／Ｏインターフェース１２０に結合されたプロセッサ１０５Ａ～Ｎ及びＩ／Ｏデバイス（図示省略）によってアクセス可能な任意の数及びタイプのメモリコントローラを表す。メモリコントローラ（複数可）１３０は、任意の数及びタイプのメモリデバイス（複数可）１４０に結合されている。メモリデバイス（複数可）１４０は、任意の数及びタイプのメモリデバイスを表す。例えば、メモリデバイス（複数可）１４０内のメモリのタイプとしては、ダイナミックランダムアクセスメモリ（ＤＲＡＭ）、スタティックランダムアクセスメモリ（ＳＲＡＭ）、ＮＡＮＤフラッシュメモリ、ＮＯＲフラッシュメモリ、強誘電体ランダムアクセスメモリ（ＦｅＲＡＭ）、又は、他のメモリが挙げられる。
【0011】
Ｉ／Ｏインターフェース１２０は、任意の数及びタイプのＩ／Ｏインターフェース（例えば、ペリフェラルコンポーネントインターコネクト（ＰＣＩ）バス、ＰＣＩエクステンデッド（ＰＣＩ－Ｘ）、ＰＣＩＥ（ＰＣＩ Ｅｘｐｒｅｓｓ）バス、ギガビットイーサネット（登録商標）（ＧＢＥ）バス、ユニバーサルシリアルバス（ＵＳＢ））を表す。各種の周辺装置（図示省略）がＩ／Ｏインターフェース１２０に結合されている。そのような周辺装置は、ディスプレイ、キーボード、マウス、プリンタ、スキャナ、ジョイスティック又は他のタイプのゲームコントローラ、メディア記録デバイス、外部ストレージデバイス、ネットワークインターフェースカード等を含む（が、これらに限定されない）。ネットワークインターフェース１３５は、ネットワーク上でネットワークメッセージを送受信するために使用される。
【0012】
様々な実施形態において、コンピューティングシステム１００は、コンピュータ、ラップトップ、モバイルデバイス、ゲームコンソール、サーバ、ストリーミングデバイス、ウェアラブルデバイス、又は、他の様々なタイプの任意のコンピューティングシステム若しくはデバイスである。コンピューティングシステム１００のコンポーネントの数は、実装ごとに異なることに留意されたい。例えば、他の実施形態では、図１に示す数よりも多い又は少ない各コンポーネントが存在する。他の実施形態では、コンピューティングシステム１００は、図１に示されていない他のコンポーネントを含むことにも留意されたい。加えて、他の実施形態では、コンピューティングシステム１００は、図１に示す以外の方法で構成される。
【0013】
図２を参照すると、プロセッサパイプライン２００の一実施形態のブロック図が示されている。様々な実施形態では、（図１の）プロセッサ１０５Ａ～１０５Ｎが、プロセッサパイプライン２００の１つ以上のインスタンスを含む。一実施形態では、プロセッサパイプライン２００は、少なくともフェッチユニット２１０と、デコードユニット２１５と、スケジューラキュー割り当てユニット２２０と、キュー２３５Ａ～２３５Ｎと、実行ユニット２４０Ａ～２４０Ｎと、を含む。キュー２３５Ａ～２３５Ｎは、本明細書でスケジューラキューとも呼ばれることに留意されたい。また、プロセッサパイプライン２００は、図を分かりづらくしないために図示されていない他のコンポーネント（例えば、分岐予測ユニット、命令キャッシュ）も含むことも理解されたい。他の実施形態では、プロセッサパイプライン２００は、他の適切な方法で構成される。
【0014】
一実施形態では、フェッチユニット２１０は、メモリ及び／又は命令キャッシュからプログラムストリームの命令をフェッチし、フェッチユニット２１０は、フェッチされた命令をデコードユニット２１５に伝達する。デコードユニット２１５は、フェッチされた命令を命令動作（すなわち、略してｏｐ）へとデコードする。ｏｐは動作（operation）、マイクロ－ｏｐ又はｕｏｐとも呼ばれることに留意されたい。一般に、命令動作は、実行ユニット２４０Ａ～２４０Ｎに含まれるハードウェアが実行可能な動作である。様々な実施形態では、各命令は、実行されると命令セットアーキテクチャにしたがってその命令に対して定義された動作の実行をもたらす１つ以上のｏｐに変換される。あらゆるタイプの命令セットアーキテクチャ（ＩＳＡ）がプロセッサパイプライン２００によって採用されており、ＩＳＡのタイプは実装ごとに異なる。
【0015】
デコードユニット２１５は、命令のタイプ、ソースオペランド等を特定し、各デコードされたｏｐは、デコード情報の一部と併せて命令を含む。各命令が単一のｏｐに変換される実施形態では、各ｏｐは、対応する命令又はその一部（例えば、ｏｐコードフィールド又は命令のフィールド）である。一部の実施形態では、デコードユニット２１５は、命令に対するｏｐを生成する回路及び／又はマイクロコードの任意の組み合わせを含む。例えば、一実施形態では、比較的単純なｏｐ生成（例えば命令あたり１個又は２個のｏｐ）はハードウェアで対処され、一方でより広範なｏｐ生成（例えば命令に対して３個より多いｏｐ）はマイクロコードで対処される。
【0016】
デコードユニット２１５からのｏｐは、ディスパッチパケットにおいてスケジューラキュー割り当てユニット２２０に提供される。スケジューラキュー割り当てユニット２２０は、ｏｐをスケジューラキュー２３５Ａ～２３５Ｎにどのように割り当てるかを判定する。本明細書で使用される場合、「ディスパッチパケット」は、デコードユニット２１５によって単一のクロックサイクルでデコードされるｏｐのグループとして定義される。ｏｐがスケジューラキュー割り当てユニット２２０からスケジューラキュー２３５Ａ～２３５Ｎに転送されると、ｏｐはパイプライン２００の正常部分からパイプライン２００の異常部分に移行した。パイプライン２００の異常部分に安定したｏｐの流れを提供することは、許容可能なパフォーマンスのレベルがプロセッサによって維持されることを確実にするのに役立つ。
【0017】
通常の非バーストモードでは、スケジューラキュー割り当てユニット２２０は、単一のクロックサイクルでスケジューラキュー２３５Ａ～２３５Ｎにディスパッチできるクラスごとのｏｐの数に制限を課す。しかしながら、特定の条件が満たされる場合、スケジューラキュー割り当てユニット２２０は、所定のクラスのｏｐに対して許容数を超えるｏｐが受信された場合、サイクルの小さなウィンドウでこの制限を超えることを可能にする。これは、パイプライン２００の正常部分を別のクラスのｏｐにすばやく移動しながら、依然として実行ユニット２４０Ａ～２４０Ｎがバックグラウンドでバーストを処理できるようにすることで、プロセッサのパフォーマンスを向上させるのに役立ち得る。
【0018】
一実施形態では、スケジューラキュー割り当てユニット２２０は、カウンタ２３０～２３２に結合された制御ロジック２２５を含む。クラスごとのカウンタ２３０は、デコードユニット２１５からスケジューラキュー割り当てユニット２２０に転送されるディスパッチパケットに含まれる異なる数のｏｐをカウントするための任意の数のカウンタを表す。バーストモードカウンタ２３２は、スケジューラキュー割り当てユニット２２０がバーストモードにあったサイクル数を追跡する。一実施形態では、異なるクラスのｏｐごとに個別のバーストモードカウンタがある。一実施形態では、任意のサイクル中に１つのクラスのｏｐのみをバーストモードにすることができる。あるいは、別の実施形態では、２つの別々のクラスのｏｐを単一のサイクルでバーストモードにすることができる。バーストモードカウンタ２３２が閾値に達すると、バーストの最中にスケジューラキューにｏｐを均等に分散することが困難になるため、スケジューラキュー割り当てユニット２２０はバーストモードに入ることが妨げられる。これにより、スケジューラキューの相対的な占有率は、単一クラスのｏｐに対して合理的にバランスが保たれ続けることが確実になる。
【0019】
一実施形態では、スケジューラキュー割り当てユニット２２０は、プロセッサパイプライン２００に対して実行スループットを最大化するように、ディスパッチパケットｏｐに対して割当順列を選択しようとする。また、スケジューラキュー割り当てユニット２２０は、ｏｐが、特定のタイプのｏｐを実際に実行可能な実行ユニット２４０Ａ～２４０Ｎに結合されたキュー２３５Ａ～２３５Ｎに割り当てられるように、割当順列を選択する。プロセッサパイプライン２００に示すように、各キュー２３５Ａ～２３５Ｎは、対応する実行ユニット２４０Ａ～２４０Ｎに結合されている。しかしながら、他の実施形態では、１つ以上のキュー２３５Ａ～２３５Ｎは、複数の実行ユニット２４０Ａ～２４０Ｎに結合されている。
【0020】
ディスパッチパケットを受信した後、スケジューラキュー割り当てユニット２２０は、所定のクロックサイクルでキュー２３５Ａ～２３５Ｎに割り当てるためのｏｐを選択する。依存関係が解決されｏｐの実行準備ができると、ピッカー（図示省略）は、実行ユニット２４０Ａ～２４０Ｎで実行するために、キュー２３５Ａ～２３５Ｎからｏｐを選択する。一実施形態では、個々の実行ユニット２４０Ａ～２４０Ｎは、典型的なプログラムシーケンスで遭遇する様々なタイプのｏｐの全てのサブセットしか実行できない。したがって、スケジューラキュー割り当てユニット２２０は、これらのｏｐがこれらの具体的なタイプのｏｐを実行可能な実行ユニット２４０Ａ～２４０Ｎによって実行されるように、ｏｐを適切なキュー２３５Ａ～２３５Ｎに割り当てる。
【0021】
図３を参照すると、プロセッサパイプライン３００の一部の一実施形態のブロック図が示されている。一実施形態では、プロセッサパイプライン３００の一部は、（図１の）プロセッサ１０５Ａ～１０５Ｎの１つ以上に含まれる。スケジューラキュー割り当てユニット３０２は、デコードユニット（図示省略）からディスパッチパケットを受信し、スケジューラキュー割り当てユニット３０２は、ディスパッチパケットからキュー３０５Ａ～３０５Ｎ及び３１０Ａ～３１０Ｎにｏｐをディスパッチする方法を決定する。キュー３０５Ａ～３０５Ｎ及び３１０Ａ～３１０Ｎは、任意の数の異なるスケジューラキューのセットを表す。実施形態に応じて、プロセッサは、任意の数の様々なｏｐタイプ（例えば、ＡＬＵ ｏｐ、アドレス生成ｏｐ、浮動小数点ｏｐ、固定小数点ｏｐ、分岐ｏｐ、乗算ｏｐ、除算ｏｐ）を処理する。スケジューラキュー３０５Ａ～３０５Ｎ及び３１０Ａ～３１０Ｎの各セットは、ｏｐの実行のために供給する実行ユニット３３５Ａ～３３５Ｎ、３４０Ａ～３４０Ｎ、３４５Ａ～３４５Ｎ、及び、３５０Ａ～３５０Ｎの機能に基づいて、これらの異なるｏｐタイプのいくつかのサブセットを処理する。
【0022】
一実施形態では、各キュー３０５Ａ～３０５Ｎは第１のタイプのｏｐを格納するが、各キュー３１０Ａ～３１０Ｎは第２のタイプのｏｐを格納する。例えば、一実施形態では、スケジューラキュー割り当てユニット３０２は、ＡＬＵ ｏｐをキュー３０５Ａ～３０５Ｎに割り当て、スケジューラキュー割り当てユニット３０２は、アドレス生成ｏｐをキュー３１０Ａ～３１０Ｎに割り当てる等である。他の実施形態では、スケジューラキュー割り当てユニット３０２は、他のタイプのｏｐを対応するキューに割り当てる。各キュー３０５Ａ～３０５Ｎは、対応する実行ユニット３３５Ａ～３３５Ｎ又は３４０Ａ～３４０Ｎで実行するためにｏｐを選択する任意の数のピッカー３１５Ａ～３１５Ｎ及び３２０Ａ～３２０Ｎを有する。同様に、各キュー３１０Ａ～３１０Ｎは、対応する実行ユニット３４５Ａ～３４５Ｎ又は３５０Ａ～３５０Ｎで実行するためにｏｐを選択する任意の数のピッカー３２５Ａ～３２５Ｎ及び３３０Ａ～３３０Ｎを有する。一実施形態では、キュー３０５Ａに格納可能な異なるタイプのｏｐごとに、キュー３０５Ａに対する個々のピッカー３１５Ａ～３１５Ｎが存在する。それぞれ異なるタイプのｏｐは、異なるタイプの実行ユニットで実行され、実行ユニット３３５Ａ～３３５Ｎは、異なるタイプのｏｐを実行する任意の数の異なる実行ユニットを表す。一実施形態では、いくつかの実行ユニットは、１つより多いタイプのｏｐを実行可能であることに留意されたい。
【0023】
他のキューにおいて、各ピッカーは、ピッカーに結合されている実行ユニットで実行されるｏｐをキューから選択する。例えば、ピッカー３２０Ａ～３２０Ｎは、それぞれ実行ユニット３４０Ａ～３４０Ｎで実行されるｏｐをキュー３０５Ｎから選択し、ピッカー３２５Ａ～３２５Ｎは、それぞれ実行ユニット３４５Ａ～３４５Ｎで実行されるｏｐをキュー３１０Ａから選択し、ピッカー３３０Ａ～３３０Ｎは、それぞれ実行ユニット３５０Ａ～３５０Ｎで実行されるｏｐをキュー３１０Ｎから選択する。一実施形態では、プロセッサパイプラインによってサポートされている異なるタイプのｏｐごとに、（ピッカーを介して）各キューに結合されている異なる実行ユニットが存在する。しかしながら、一部の実施形態では、一部のキューは、プロセッサパイプラインによって実行されている様々なタイプのｏｐ全てのサブセットしか格納しない。例えば、プロセッサが２種類のｏｐ（ＡＬＵ及びアドレス生成のｏｐ）を実行する実施形態では、一部のキューはＡＬＵ ｏｐのみを格納し、他のキューはアドレス生成ｏｐのみを格納する。
【0024】
様々なｏｐタイプのためのスケジューラキュー及び実行ユニットの数は実装ごとに異なることを理解されたい。本開示を通して説明する例は、実装の非限定的な例を例示することを意図している。他の実施形態では、他の数のスケジューラキュー、実行ユニット及び他の関連構造を用いるプロセッサが可能であり、企図される。
【0025】
図４に移ると、スケジューラキュー割り当てバーストモードにいつ入るかを決定するための方法４００の一実施形態が示されている。説明のために、本実施形態のステップ及び図５～図７のステップは、順番に示されている。しかしながら、説明する方法の様々な実施形態では、説明する要素の１つ以上が同時に実行されてもよいし、図示した順序と異なる順序で実行されてもよいし、完全に省略されてもよいことに留意されたい。他の追加の要素も必要に応じて実行される。本明細書に説明する多様なシステム又は装置の何れも、方法４００を実施するように構成されている。
【0026】
スケジューラキュー割り当てユニット（例えば、図２のスケジューラキュー割り当てユニット２２０）は、デコードユニットによって生成された各ディスパッチパケットにおけるクラスごとのｏｐの数を追跡する（ブロック４０５）。一実施形態では、スケジューラキュー割り当てユニットは、クラスごとのカウンタを使用して、各ディスパッチパケット内のクラスごとのｏｐの数を追跡する。次に、スケジューラキュー割り当てユニットは、ディスパッチパケット内の任意のクラスのｏｐの数が特定のクラスの最大許容数よりも大きいかどうかを判定する（条件付きブロック４１０）。一実施形態では、特定のクラスの最大許容数は、特定のクラスのｏｐを実行できる実行ユニットの数に等しい。ｏｐのクラスが異なれば、最大許容数も異なる可能性があることに留意されたい。例えば、あるシナリオでは、ＡＬＵ ｏｐの最大許容数はディスパッチパケットあたり４ｏｐ、ＡＧＵ ｏｐの最大許容数はディスパッチパケットあたり３ｏｐ、浮動小数点ｏｐの最大許容数はディスパッチパケットあたり２ｏｐ等である。
【0027】
ディスパッチパケット内の各クラスのｏｐ数が特定のクラスの最大許容数以下の場合（条件付きブロック４１０：「はい」）、スケジューラキュー割り当てユニットは、ディスパッチパケット内のｏｐを通常の方法で処理して、バーストモードカウンタ（例えば、図２のバーストモードカウンタ２３２）をデクリメントする（ブロック４１５）。バーストモードカウンタがゼロに等しい場合、バーストモードカウンタはブロック４１５でゼロのままである。ブロック４１５の後、方法４００は、次のディスパッチパケットのためにブロック４０５に戻る。
【0028】
ディスパッチパケットの任意のクラスのｏｐ数が特定のクラスの最大許容数よりも大きい場合（条件付きブロック４１０：「いいえ」）、スケジューラキュー割り当てユニットは、バーストモードに入るための１つ以上の条件が適合しているかどうかを判定する（条件付きブロック４２０）。一実施形態では、バーストモードに入るための第１の条件は、対応するスケジューラキューの現在の占有率が占有率閾値以下であることである。一実施形態では、スケジューラキュー割り当てユニットは、現在のディスパッチパケットに最大許容ｏｐ数を超えるクラスのｏｐを格納するスケジューラキューの占有率をチェックする。別の実施形態では、スケジューラキュー割り当てユニットは、プロセッサパイプライン内の全てのスケジューラキューの占有率をチェックする。一実施形態では、バーストモードに入る第２の条件は、様々なスケジューラキュー及びピッカーの制約に基づいて、特定のクラスの最大許容数を超えるｏｐをディスパッチするための有効な割当順列が存在するかどうかを確認することである。他の実施形態では、他の条件をチェックして、バーストモードに入るかどうかを判断できる。
【0029】
バーストモードに入るための１つ以上の条件が満たされない場合（条件付きブロック４２０：「いいえ」）、スケジューラキュー割り当てユニットは、通常の方法でディスパッチパケット内のｏｐを処理し、バーストモードカウンタをデクリメントする（ブロック４１５）。そうでなければ、バーストモードに入るための１つ以上の条件が満たされる場合（条件付きブロック４２０：「はい」）、スケジューラキュー割り当てユニットは、対応するクラスのｏｐについてバーストモードウィンドウを超えたかどうかを判定する（条件付きブロック４２５）。一実施形態では、スケジューラキュー割り当てユニットは、バーストモードカウンタをチェックし、バーストモードカウンタをバーストモードウィンドウ閾値と比較することによって、バーストモードウィンドウを超えたかどうかを判定する。
【0030】
バーストモードウィンドウを対応するクラスのｏｐで超えた場合（条件付きブロック４２５：「はい」）、スケジューラキュー割り当てユニットは、通常の方法でディスパッチパケット内のｏｐを処理し、バーストモードカウンタをデクリメントする（ブロック４１５）。それ以外の場合、所定のクラスのｏｐでバーストモードウィンドウを超えていない場合（条件付きブロック４２５：「いいえ」）、スケジューラキュー割り当てユニットは、対応するクラスのｏｐの閾値数を超えるｏｐをスケジューラキューにディスパッチする（ブロック４３０）。また、スケジューラキュー割り当てユニットは、バーストモードカウンタをインクリメントする（ブロック４３５）。ブロック４３５の後に、方法４００はブロック４０５に戻る。
【0031】
図５を参照すると、スケジューラキュー割り当てユニットがバーストモードに入る方法５００の一実施形態が示されている。スケジューラキュー割り当てユニット（例えば、図２のスケジューラキュー割り当てユニット２２０）は、ディスパッチパケットを受信し、ディスパッチパケット内の所定のクラスのｏｐの閾値数を超えるｏｐを検出する（ブロック５０５）。次に、スケジューラキュー割り当てユニットは、バーストモードに入るための条件が満たされているかどうかを判定する（条件付きブロック５１０）。一実施形態では、バーストモードに入るための条件は、スケジューラキュー占有率が第１の閾値未満であり、バーストモードカウンタが第２の閾値未満であることを含む。他の実施形態では、バーストモードに入るための他の条件を使用することができる。
【0032】
バーストモードに入る条件が満たされた場合（条件付きブロック５１０：「はい」）、所定のクラスのｏｐの閾値を超える数が単一サイクルでスケジューラキューにディスパッチされる（ブロック５１５）。さもなければ、バーストモードに入る条件が満たされない場合（条件付きブロック５１０：「いいえ」）、閾値の数の所定のクラスのｏｐのみが第１のサイクルでスケジューラキューにディスパッチされる（ブロック５２０）。場合によっては、スケジューラキュー割り当てユニットは、第１のサイクルで、所定のクラスのｏｐの閾値数より少ない数をスケジューラキューにディスパッチすることを決定できる。次に、所定のクラスの残りのｏｐは、第２のサイクルでスケジューラキューにディスパッチされる（ブロック５２５）。後続のディスパッチパケットからの所定のクラスのｏｐの１つ以上のｏｐを、第２のサイクルの前のディスパッチパケットからの残りのｏｐとともにディスパッチできることに留意されたい。ブロック５１５及び５２５の後、方法５００は終了する。
【0033】
図６に移ると、スケジューラキュー割り当てバーストモードに入るか否かを決定するための方法６００の一実施形態が示されている。制御ロジックは、所定のクラスのｏｐに対してスケジューラキュー割り当てバーストモードに入る要求を検出する（ブロック６０５）。要求の検出に応じて、制御ロジックは、所定のクラスのｏｐについてバーストモードカウンタをチェックする（ブロック６１０）。バーストモードカウンタが閾値以下である場合（条件付きブロック６１５：「いいえ」）、制御ロジックは、スケジューラキュー割り当てユニット（例えば、図２のスケジューラキュー割り当てユニット２２０）がバーストモードに入るのを可能にする（ブロック６２０）。そうではなく、バーストモードカウンタが閾値よりも大きい場合（条件付きブロック６１５：「はい」）、制御ロジックは、スケジューラキュー割り当てユニットがバーストモードに入るのを防ぐ（ブロック６２５）。ブロック６２０及び６２５の後、方法６００は終了する。また、方法６００は、スケジューラキュー割り当てバーストモードに入るために他の条件（例えば、スケジューラキュー占有）が満たされるかどうかをチェックする他の方法と並行して実行され得ることに留意されたい。
【0034】
図７を参照すると、バーストモードウィンドウを追跡する方法７００の１つの実施形態が示されている。スケジューラキュー割り当てユニット（例えば、図２のスケジューラキュー割り当てユニット２２０）は、ディスパッチパケットを受信する（ブロック７０５）。スケジューラキュー割り当てユニットが、ディスパッチパケット内の任意の所定のクラスのｏｐの閾値を超える数のｏｐを検出した場合（条件付きブロック７１０：「はい」）、スケジューラキュー割り当てユニットは、バーストモードシフトカウンタにおいて入力ビットを「１」に設定し、カウンタのビットを１ビット前方にシフトする（ブロック７１５）。スケジューラキュー割り当てユニットが、ディスパッチパケット内の任意の所定のクラスのｏｐの閾値を超える数のｏｐを検出しなかった場合（条件付きブロック７１０：「いいえ」）、スケジューラキュー割り当てユニットは、バーストモードシフトカウンタにおいて入力ビットを「０」に設定し、カウンタのビットを１ビット前方にシフトする（ブロック７２０）。また、スケジューラキュー割り当てユニットは、通常モードを使用して、ディスパッチパケットのｏｐをディスパッチする（ブロック７２５）。ブロック７２５の後、方法７００は終了する。
【0035】
ブロック７１５の後、バーストモードシフトカウンタの１の数がバーストモードウィンドウの閾値以下である場合（条件付きブロック７３０：「いいえ」）、スケジューラキュー割り当てユニットは、バーストモードに入るための１つ以上の他の条件をチェックする。（条件付きブロック７３５）。それ以外の場合、バーストモードシフトカウンタの１の数がバーストモードウィンドウの閾値より大きい場合（条件付きブロック７３０：「はい」）、スケジューラキュー割り当てユニットは、通常モードを使用してディスパッチパケットのｏｐをディスパッチする（ブロック７２５）。バーストモードに入るための１つ以上の条件が満たされる場合（条件付きブロック７３５：「はい」）、スケジューラキュー割り当てユニットは、ディスパッチパケットのｏｐをディスパッチするためバーストモード使用する（ブロック７４０）。そうではなく、バーストモードに入るための１つ以上の条件が満たされない場合（条件付きブロック７３５：「いいえ」）、スケジューラキュー割り当てユニットは、ディスパッチパケットのｏｐをディスパッチするため通常モード使用する（ブロック７２５）。ブロック７４０の後、方法７００は終了する。
【0036】
一実施形態では、バーストモードは、最後の「Ｎ」サイクルの移動ウィンドウで追跡され、この場合、Ｎは正の整数である。この実施形態では、バーストモードシフトカウンタは「Ｎ」ビットシフトカウンタである。一実施形態では、カウンタはサイクルごとに１ビット左にシフトし、右端の新しいビットはブロック７１５で「１」に設定される。別の実施形態では、カウンタはサイクルごとに１ビット右にシフトし、左端の新しいビットがブロック７１５で「１」に設定される。別の実施形態では、新しいビットは、ブロック７１５で「１」ではなく「０」に設定でき、新しいビットは、ブロック７２０で「０」ではなく「１」に設定できることを理解されたい。この実施形態では、スケジューラキュー割り当てユニットは、カウンタの０の数をカウントして、バーストモードウィンドウの閾値を超えたかどうかを判断する。概して、スケジューラキュー割り当てユニットは、カウンタの有効ビット数をカウントして、バーストモードウィンドウの閾値を超えたかどうかを判断する。バーストモードシフトカウンタを実装するための他の技術が可能であり、企図されている。
【0037】
様々な実施形態では、ソフトウェアアプリケーションのプログラム命令は、本明細書で説明する方法及び／又はメカニズムを実施するために使用される。例えば、汎用又は専用プロセッサによって実行可能なプログラム命令が企図される。様々な実施形態において、そのようなプログラム命令は、高水準のプログラミング言語によって表現される。他の実施形態では、プログラム命令は、高レベルプログラミング言語からバイナリ形式、中間形式又は他の形式にコンパイルされる。或いは、プログラム命令は、ハードウェアの動作又は設計を記述するように書かれる。このようなプログラム命令は、Ｃ等の高水準のプログラミング言語によって表現される。或いは、Ｖｅｒｉｌｏｇ等のハードウェア設計言語（ＨＤＬ）が使用される。様々な実施形態では、プログラム命令は、様々な非一時的なコンピュータ可読記憶媒体のうち何れかに記憶される。記憶媒体は、プログラム実行のためにプログラム命令をコンピューティングシステムに提供するために、使用中にコンピューティングシステムによってアクセス可能である。一般的に、そのようなコンピューティングシステムは、少なくとも１つ以上のメモリと、プログラム命令を実行するように構成された１つ以上のプロセッサと、を含む。
【0038】
上述した実施形態が、実施形態の非限定的な例に過ぎないことを強調しておきたい。上記の開示が十分に理解されれば、多くの変形及び修正が当業者に明らかになるであろう。以下の特許請求の範囲は、全てのそのような変形及び修正を包含するように解釈されることが意図される。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【手続補正書】
【提出日】2022-11-30
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
システムであって、回路を含む制御ロジックを備え、
前記回路は、
デコードユニットから複数の動作を含むディスパッチパケットを受信することと、
対応する閾値を超える第１の数の単一クラスの動作を前記ディスパッチパケットが含むバーストモードが示されているかどうかを判定することと、
前記第１の数の動作が前記対応する閾値を超えていることと、前記単一クラスの動作に対して、期間を示すバーストモードウィンドウを超えていないことと、を判定したことに応じて、前記対応する閾値よりも大きい第２の数の前記単一クラスの動作を複数のスケジューラキューにディスパッチすることと、
を行うように構成されている、
システム。
【請求項2】
前記対応する閾値は、前記単一クラスの動作を実行可能な実行ユニットの数に等しい、請求項１のシステム。
【請求項3】
前記回路は、前記対応する閾値を超える前記第１の数の前記単一クラスの動作を検出したことに応じて、有効ビットをバーストモードシフトカウンタにシフトするように構成されている、請求項１のシステム。
【請求項4】
所定のクラスの動作に対してバーストモードウィンドウを超えていないと判定することは、前記バーストモードシフトカウンタの有効なビット数がバーストモードウィンドウの閾値未満であると判定することを含む、請求項３のシステム。
【請求項5】
前記回路は、前記ディスパッチパケットが、前記対応する閾値を超えて単一クラスの動作を含んでいないと判定したことに応じて、非有効ビットを前記バーストモードシフトカウンタにシフトするように構成されている、請求項３のシステム。
【請求項6】
前記回路は、スケジューラキュー占有率が占有率の閾値未満であると判定したことに応じて、及び、前記単一クラスの動作について前記バーストモードウィンドウを超えていないと判定したことに応じて、前記単一クラスの動作について前記対応する閾値よりも大きい前記第２の数の動作を、前記複数のスケジューラキューにディスパッチするように構成されている、請求項１のシステム。
【請求項7】
第１のクラスの動作は第１の閾値を有し、第２のクラスの動作は第２の閾値を有し、
前記第２の閾値は前記第１の閾値と異なる、
請求項１のシステム。
【請求項8】
方法であって、スケジューラキュー割り当てユニットが、所定のサイクルでデコードユニットから複数の動作を含むディスパッチパケットを受信することと、
対応する閾値を超える第１の数の単一クラスの動作を前記ディスパッチパケットが含むバーストモードが示されているかどうかを判定することと、
前記第１の数の動作が前記対応する閾値を超えていることと、前記単一クラスの動作に対して、期間を示すバーストモードウィンドウを超えていないことと、を判定したことに応じて、前記対応する閾値よりも大きい第２の数の前記単一クラスの動作を前記複数のスケジューラキューにディスパッチすることと、を含む、
方法。
【請求項9】
前記対応する閾値は、前記単一クラスの動作を実行可能な実行ユニットの数に等しい、請求項８の方法。
【請求項10】
前記対応する閾値を超える前記第１の数の前記単一クラスの動作を検出したことに応じて、有効ビットをバーストモードシフトカウンタにシフトすることをさらに含む、請求項８の方法。
【請求項11】
所定のクラスの動作に対してバーストモードウィンドウを超えていないと判定することは、バーストモードシフトカウンタの有効なビット数がバーストモードウィンドウの閾値未満であると判定することを含む、請求項１０の方法。
【請求項12】
前記ディスパッチパケットが、前記対応する閾値を超えて単一クラスの動作を含んでいないと判定したことに応じて、非有効ビットを前記バーストモードシフトカウンタにシフトすることをさらに含む、請求項１０の方法。
【請求項13】
スケジューラキュー占有率が占有率の閾値未満であると判定したことに応じて、及び、前記単一クラスの動作について前記バーストモードウィンドウを超えていないと判定したことに応じて、前記単一クラスの動作について前記対応する閾値よりも大きい前記第２の数の動作をディスパッチすることをさらに含む、請求項８の方法。
【請求項14】
第１のクラスの動作は第１の閾値を有し、第２のクラスの動作は第２の閾値を有し、
前記第２の閾値は前記第１の閾値と異なる、
請求項８の方法。
【請求項15】
装置であって、メモリと、
前記メモリに結合されたプロセッサと、を備え、
前記プロセッサは、
デコードユニットが、所定のサイクルで複数の動作を含むディスパッチパケットを生成することと、
対応する閾値を超える第１の数の単一クラスの動作を前記ディスパッチパケットが含むバーストモードが示されているかどうかを判定することと、
前記第１の数の動作が前記対応する閾値を超えていることと、前記単一クラスの動作に対して、期間を示すバーストモードウィンドウを超えていないことと、を判定したことに応じて、前記対応する閾値よりも大きい第２の数の前記単一クラスの動作を複数のスケジューラキューにディスパッチすることと、
を行うように構成されている、
装置。
【請求項16】
前記対応する閾値は、前記単一クラスの動作を実行可能な実行ユニットの数に等しい、請求項１５の装置。
【請求項17】
前記プロセッサは、前記対応する閾値を超える前記第１の数の前記単一クラスの動作を検出したことに応じて、有効ビットをバーストモードシフトカウンタにシフトするように構成されている、請求項１５の装置。
【請求項18】
前記単一クラスの動作に対してバーストモードウィンドウを超えていないと判定することは、前記バーストモードシフトカウンタの有効ビット数がバーストモードウィンドウの閾値未満であると判定することを含む、請求項１７の装置。
【請求項19】
前記プロセッサは、前記ディスパッチパケットが、前記対応する閾値を超えて単一クラスの動作を含んでいないと判定したことに応じて、非有効ビットを前記バーストモードシフトカウンタにシフトするように構成されている、請求項１７の装置。
【請求項20】
前記プロセッサは、スケジューラキュー占有率が占有率の閾値未満であると判定したことに応じて、及び、前記単一クラスの動作について前記バーストモードウィンドウを超えていないと判定したことに応じて、前記単一クラスの動作について前記対応する閾値よりも大きい前記第２の数の動作を、前記複数のスケジューラキューにディスパッチするように構成されている、請求項１５の装置。
【国際調査報告】