特表 2022-547863 実行パイプ均衡をもたらす分散スケジューラ

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】公表特許公報(A)

(11)【公表番号】

(43)【公表日】2022-11-16

(54)【発明の名称】実行パイプ均衡をもたらす分散スケジューラ

(51)【国際特許分類】

   G06F 9/38 20060101AFI20221109BHJP

   G06F 9/48 20060101ALI20221109BHJP

【ＦＩ】

G06F9/38 310X

G06F9/48 300C

G06F9/48 300G

【審査請求】未請求

【予備審査請求】未請求

(21)【出願番号】P 2022514530

(86)(22)【出願日】2020-09-09

(85)【翻訳文提出日】2022-04-27

(86)【国際出願番号】 US2020049918

(87)【国際公開番号】W WO2021050530

(87)【国際公開日】2021-03-18

(31)【優先権主張番号】16/568,038

(32)【優先日】2019-09-11

(33)【優先権主張国・地域又は機関】US

(81)【指定国・地域】

(71)【出願人】

【識別番号】591016172

【氏名又は名称】アドバンスト・マイクロ・ディバイシズ・インコーポレイテッド

【氏名又は名称原語表記】ＡＤＶＡＮＣＥＤ ＭＩＣＲＯ ＤＥＶＩＣＥＳ ＩＮＣＯＲＰＯＲＡＴＥＤ

(71)【出願人】

【識別番号】508301087

【氏名又は名称】エーティーアイ・テクノロジーズ・ユーエルシー

【氏名又は名称原語表記】ＡＴＩ ＴＥＣＨＮＯＬＯＧＩＥＳ ＵＬＣ

【住所又は居所原語表記】Ｏｎｅ Ｃｏｍｍｅｒｃｅ Ｖａｌｌｅｙ Ｄｒｉｖｅ Ｅａｓｔ， Ｍａｒｋｈａｍ， Ｏｎｔａｒｉｏ， Ｌ３Ｔ ７Ｘ６ Ｃａｎａｄａ

(74)【代理人】

【識別番号】100108833

【弁理士】

【氏名又は名称】早川 裕司

(74)【代理人】

【識別番号】100111615

【弁理士】

【氏名又は名称】佐野 良太

(74)【代理人】

【識別番号】100162156

【弁理士】

【氏名又は名称】村雨 圭介

(72)【発明者】

【氏名】スネハ ヴィー． デサイ

(72)【発明者】

【氏名】マイケル エストリック

(72)【発明者】

【氏名】エリック スワンソン

(72)【発明者】

【氏名】アニルクマール ランガナゴウドラ

【テーマコード（参考）】

5B013

【Ｆターム（参考）】

5B013AA20

5B013DD01

(57)【要約】

プロセッサは、複数の実行パイプと、複数の実行パイプに結合された分散スケジューラと、を含む。分散スケジューラは、プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファする第１のキュー及び複数の第２のキューを含み、各第２のキューは、複数の実行パイプのうち対応する実行パイプの別のサブセットに対して第１のキューから割り当てられた命令動作をバッファする。分散スケジューラは、分散スケジューラにおける不均衡の少なくとも１つのインジケータが検出されたかどうかに基づいて、複数の割り当てモードの中から割り当てモードを選択し、分散スケジューラを、選択された割り当てモードに従って、第１のキューからの命令動作を複数の第２のキュー間で割り当てるように制御する、キューコントローラをさらに含む。
【選択図】図１

【特許請求の範囲】

【請求項1】

命令動作をプロセッサの分散スケジューラの第１のキューにバッファすることと、
前記分散スケジューラにおける不均衡の少なくとも１つのインジケータが検出されたかどうかに基づいて、前記分散スケジューラの複数の割り当てモードの中から割り当てモードを選択することと、
選択された割り当てモードに従って、前記第１のキューの命令動作を複数の第２のキュー間で割り当てることと、
各第２のキューにおいて、前記第２のキューに関連する実行パイプによる実行のために、前記第２のキューにバッファされた命令動作を選択することと、を含む、
方法。

【請求項2】

前記複数の割り当てモードは、
命令動作が前記複数の第２のキュー間で実質的に等しく割り当てられるキュー優先割り当てモードと、
前記第２のキューに関連する前記実行パイプのパイプ占有率に基づいて、命令動作が前記複数の第２のキュー間で割り当てられるパイプ優先割り当てモードと、を含む、
請求項１の方法。

【請求項3】

前記不均衡の少なくとも１つのインジケータは、
前記第２のキューのうち少なくとも１つの第２のキューが第１の閾値を上回る現在の占有率を有することを表す第１のインジケータと、
２つの第２のキュー間の現在の占有率の差が第２の閾値を上回ることを表す第２のインジケータと、
のうち少なくとも１つを含む、
請求項２の方法。

【請求項4】

前記複数の割り当てモードの中から割り当てモードを選択することは、
前記第１のインジケータ及び前記第２のインジケータの何れも検出されないことに応じて、前記キュー優先割り当てモードを選択することと、
前記第１のインジケータ及び前記第２のインジケータのうち少なくとも１つが検出されたことに応じて、前記パイプ優先割り当てモードを選択することと、を含む、
請求項３の方法。

【請求項5】

前記複数の割り当てモードの中から割り当てモードを選択することは、
前記第１のインジケータ及び前記第２のインジケータのうち何れかが検出されたことに応じて、前記キュー優先割り当てモードを選択することと、
前記第１のインジケータ及び前記第２のインジケータの両方が検出されたことに応じて、前記パイプ優先割り当てモードを選択することと、を含む、
請求項３の方法。

【請求項6】

前記複数の割り当てモードは、命令動作のセットの各命令動作のコピーが前記複数の第２のキューの各々に割り当てられ、前記命令動作を実行可能な前記実行パイプのパイプ占有率の分析に基づいて、前記セットの各命令動作のコピーが何れかの第２のキュー以外の全ての第２のキューにおいて無効化される、投機的割り当てモードをさらに含む、
請求項２の方法。

【請求項7】

前記複数の割り当てモードの中から割り当てモードを選択することは、
対応する実行パイプによる実行のために命令動作が前記第２のキューから選択される現在のピックレートが閾値を下回ることに応じて、前記投機的割り当てモードを選択することを含む、
請求項６の方法。

【請求項8】

前記不均衡の少なくとも１つのインジケータは、
前記第２のキューのうち少なくとも１つの第２のキューが第１の閾値を上回る現在の占有率を有することを表す第１のインジケータと、
２つの第２のキュー間の現在の占有率の差が第２の閾値を上回ることを表す第２のインジケータと、
対応する実行パイプに割り当てられるために命令動作が前記第２のキューから選択される現在のピックレートが閾値を下回ることを表す第３のインジケータと、を含み、
前記複数の割り当てモードの中から割り当てモードを選択することは、
前記第１のインジケータ及び前記第２のインジケータのうち何れかが存在することに応じて、前記キュー優先割り当てモードを選択することと、
前記第１のインジケータ及び前記第２のインジケータの両方が存在することに応じて、前記パイプ優先割り当てモードを選択することと、
前記第３のインジケータが存在することに応じて、前記投機的割り当てモードを選択することと、を含む、
請求項６の方法。

【請求項9】

前記投機的割り当てモードの間、前記セットの各命令動作は、事前に割り当てられた実行パイプを有し、前記事前に割り当てられた実行パイプに関連する前記第２のキューは、前記事前に割り当てられた実行パイプのパイプ占有率と別の第２のキューに関連する同じタイプの別の実行パイプのパイプ占有率との差が閾値を上回らない限り、前記命令動作の有効なコピーを保持する、
請求項６の方法。

【請求項10】

前記複数の割り当てモードは、命令動作の複数のセット毎に、前記セットの命令動作が、インターリーブパターンを使用して前記複数の第２のキュー間で割り当てられるキュー優先割り当てモードを含み、
所定のセットについて前記インターリーブパターンで最初の命令動作を受信する前記第２のキューは、固定された選択シーケンス又は疑似ランダムの何れかに従って選択される、
請求項１～９の何れかの方法。

【請求項11】

プロセッサであって、
複数の実行パイプと、
前記複数の実行パイプに結合された分散スケジューラと、を備え、
前記分散スケジューラは、
前記プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファするように構成された第１のキューと、
複数の第２のキューであって、各第２のキューは、前記複数の実行パイプのうち対応する実行パイプの別のサブセットに対して前記第１のキューから割り当てられた命令動作をバッファするように構成されている、複数の第２のキューと、
キューコントローラと、を含み、
前記キューコントローラは、
前記分散スケジューラにおける不均衡の少なくとも１つのインジケータが検出されたかどうかに基づいて、複数の割り当てモードの中から割り当てモードを選択することと、
前記分散スケジューラを、選択された割り当てモードに従って、前記第１のキューの命令動作を複数の第２のキュー間で割り当てるように制御することと、
を行うように構成されている、
プロセッサ。

【請求項12】

前記複数の割り当てモードは、
命令動作が前記複数の第２のキュー間で実質的に等しく割り当てられるキュー優先割り当てモードと、
前記第２のキューに関連する前記実行パイプのパイプ占有率に基づいて、命令動作が前記複数の第２のキュー間で割り当てられるパイプ優先割り当てモードと、を含む、
請求項１１のプロセッサ。

【請求項13】

前記不均衡の少なくとも１つのインジケータは、
前記第２のキューのうち少なくとも１つの第２のキューが第１の閾値を上回る現在の占有率を有することを表す第１のインジケータと、
２つの第２のキュー間の現在の占有率の差が第２の閾値を上回ることを表す第２のインジケータと、
のうち少なくとも１つを含む、
請求項１２のプロセッサ。

【請求項14】

前記キューコントローラは、
前記第１のインジケータ及び前記第２のインジケータの何れも検出されないことに応じて、前記キュー優先割り当てモードを選択することと、
前記第１のインジケータ及び前記第２のインジケータのうち少なくとも１つが検出されたことに応じて、前記パイプ優先割り当てモードを選択することと、
によって、前記複数の割り当てモードの中から割り当てモードを選択するように構成されている、
請求項１３のプロセッサ。

【請求項15】

前記キューコントローラは、
前記第１のインジケータ及び前記第２のインジケータのうち何れかが検出されたことに応じて、前記キュー優先割り当てモードを選択することと、
前記第１のインジケータ及び前記第２のインジケータの両方が検出されたことに応じて、前記パイプ優先割り当てモードを選択することと、
によって、前記複数の割り当てモードの中から割り当てモードを選択するように構成されている、
請求項１３のプロセッサ。

【請求項16】

前記複数の割り当てモードは、命令動作のセットの各命令動作のコピーが前記複数の第２のキューの各々に割り当てられ、前記命令動作を実行可能な前記実行パイプのパイプ占有率の分析に基づいて、前記セットの各命令動作のコピーが何れかの第２のキュー以外の全ての第２のキューにおいて無効化される、投機的割り当てモードをさらに含む、
請求項１２～１５の何れかのプロセッサ。

【請求項17】

前記キューコントローラは、
対応する実行パイプによる実行のために命令動作が前記第２のキューから選択される現在のピックレートが閾値を下回ることに応じて、前記投機的割り当てモードを選択することによって、前記複数の割り当てモードの中から割り当てモードを選択するように構成されている、
請求項１６のプロセッサ。

【請求項18】

前記不均衡の少なくとも１つのインジケータは、
前記第２のキューのうち少なくとも１つの第２のキューが第１の閾値を上回る現在の占有率を有することを表す第１のインジケータと、
２つの第２のキュー間の現在の占有率の差が第２の閾値を上回ることを表す第２のインジケータと、
対応する実行パイプに割り当てられるために命令動作が前記第２のキューから選択される現在のピックレートが閾値を下回ることを表す第３のインジケータと、を含み、
前記キューコントローラは、
前記第１のインジケータ及び前記第２のインジケータのうち何れかが存在することに応じて、前記キュー優先割り当てモードを選択することと、
前記第１のインジケータ及び前記第２のインジケータの両方が存在することに応じて、前記パイプ優先割り当てモードを選択することと、
前記第３のインジケータが存在することに応じて、前記投機的割り当てモードを選択することと、
によって、前記複数の割り当てモードの中から割り当てモードを選択するように構成されている、
請求項１６のプロセッサ。

【請求項19】

前記投機的割り当てモードの間、前記セットの各命令動作は、事前に割り当てられた実行パイプを有し、前記事前に割り当てられた実行パイプに関連する前記第２のキューは、前記事前に割り当てられた実行パイプのパイプ占有率と別の第２のキューに関連する同じタイプの別の実行パイプのパイプ占有率との差が閾値を上回らない限り、前記命令動作の有効なコピーを保持する、
請求項１６のプロセッサ。

【請求項20】

前記複数の割り当てモードは、命令動作の複数のセット毎に、前記セットの命令動作が、インターリーブパターンを使用して前記複数の第２のキュー間で割り当てられるキュー優先割り当てモードを含み、
前記キューコントローラは、固定された選択シーケンス又は疑似ランダムの何れかに従って、所定のセットについて前記インターリーブパターンで最初の命令動作を受信する前記第２のキューを選択する、
請求項１１のプロセッサ。

【請求項21】

プロセッサであって、
複数の実行パイプと、
前記複数の実行パイプに結合された分散スケジューラと、を備え、
前記分散スケジューラは、
前記プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファするように構成された第１のキューと、
複数の第２のキューであって、各第２のキューは、前記複数の実行パイプのうち対応する実行パイプの別のサブセットに対して前記第１のキューから割り当てられた命令動作をバッファするように構成されている、複数の第２のキューと、
キューコントローラと、を含み、
前記キューコントローラは、
前記第１のキューにおける命令動作のサブセットの命令動作毎に、
前記命令動作のコピーを前記第１のキューから各第２のキューに投機的に割り当てることと、
前記命令動作を実行可能な実行パイプの現在のパイプ占有率に基づいて、何れかの第２のキュー以外の全ての第２のキューにおいて前記命令動作のコピーを無効化することと、
を行うように構成されている、
プロセッサ。

【請求項22】

前記命令動作は、前記複数の実行パイプのうち所定の実行パイプに事前に割り当てられており、
前記キューコントローラは、
前記所定の実行パイプの現在のパイプ占有率が、前記命令動作を実行可能な他の実行パイプの現在のパイプ占有率の閾値内にあることに応じて、前記所定の実行パイプに関連する前記第２のキューにおける前記命令動作のコピーを前記命令動作の有効なコピーとして維持することと、
前記所定の実行パイプの現在のパイプ占有率が、異なる第２のキューに関連する前記実行パイプの現在のパイプ占有率を少なくとも閾値だけ上回ることに応じて、前記所定の実行パイプに関連する前記第２のキューにおける前記命令動作のコピーを無効化し、前記異なる第２のキューにおける前記命令動作のコピーを維持することと、
を行うように構成されている、
請求項２１のプロセッサ。

【請求項23】

プロセッサであって、
複数の実行パイプと、
前記複数の実行パイプに結合された分散スケジューラと、を備え、
前記分散スケジューラは、
前記プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファするように構成された第１のキューと、
複数の第２のキューであって、各第２のキューは、前記複数の実行パイプのうち対応する実行パイプの別のサブセットに対して前記第１のキューから割り当てられた命令動作をバッファするように構成されている、複数の第２のキューと、
キューコントローラと、を含み、
前記キューコントローラは、
前記第１のキューからの命令動作のセットを、インターリーブパターンで前記複数の第２のキュー間で割り当てることと、
セット毎に、所定のシーケンス又は疑似ランダムの何れかに基づいて、前記インターリーブパターンで前記セットの最初の命令動作が割り当てられる前記第２のキューを選択することと、
を行うように構成されている、
プロセッサ。

【請求項24】

前記キューコントローラは、所定のシーケンスに基づいて、前記インターリービングパターンで前記セットの最初の命令動作が割り当てられる前記第２のキューを選択するように構成されており、前記所定のシーケンスは交互シーケンスである、
請求項２３のプロセッサ。

【請求項25】

疑似乱数ジェネレータを備え、
前記キューコントローラは、前記疑似乱数ジェネレータの出力に基づいて疑似ランダムに、前記インターリーブパターンで前記セットの最初の命令動作が割り当てられる前記第２のキューを選択するように構成されている、
請求項２３のプロセッサ。

【発明の詳細な説明】

【背景技術】

【0001】

分散スケジューラは、少なくとも２つのレベルのスケジューラキューを採用しており、第１のレベルは、ピック不可能（non-pickable）なスケジューラキューを有し、第２のレベルは、２つ以上のピック可能（pickable）スケジューラキューを有し、ピック可能スケジューラキューの各々は、複数の実行パイプの対応するサブセットについての命令動作を記憶するように動作する。ピック可能スケジューラキューは、命令動作がピック可能スケジューラキューに割り当てられる前に、命令パイプラインフロントエンドからの命令動作を一時的にバッファする役割を果たす。

【0002】

各々のピック可能スケジューラキューが実行パイプのそれ自身のサブセットを排他的に供給するので、異なるピック可能スケジューラキューの間、異なる実行パイプの間又はこれらの組み合わせにおいて、性能を抑制する不均衡（imbalance）の可能性がよく存在する。説明すると、プログラムが構築若しくはコンパイルされる特定の方法の結果として、又は、キュー割り当ての同時発生にもかかわらず、１つのピック可能スケジューラキューは、負荷動作に依存した動作等のように、各々がかなりの数のサイクルを必要とする多数の命令動作に負荷をかけることがあると共に、別のピック可能スケジューラキューは、そのような遅延を生じさせる動作を小さい割合で有することがある。別の例として、１つのピック可能スケジューラキューは、同様の実行パイプを有する別のピック可能スケジューラキューよりも、そのキューに関連する特定の実行パイプのみによって実行可能な動作を多く割り当てることができる。結果として、１つのピック可能スケジューラキューに関連する実行パイプが過剰に占有される一方で、他の同様の実行パイプが不必要にアイドルである。そのようなスキューされたキュー／パイプ占有率は、典型的には、サイクル毎にピックされる動作の数が少なくなると共に、実行パイプが十分に利用されないことにつながり、その何れかは、分散スケジューラを有する命令パイプラインを実装するプロセッサコアにおでの実行性能に悪影響を与える。

【発明の概要】

【発明が解決しようとする課題】

【0003】

１つの態様によれば、方法は、プロセッサの分散スケジューラの第１のキューにおいて命令動作をバッファすることと、分散スケジューラにおいて不均衡の少なくとも１つのインジケータが検出されるかどうかに基づいて、分散スケジューラの複数の割り当てモードの中から割り当てモードを選択することと、選択した割り当てモードに従って、第１のキューからの命令動作を複数の第２のキュー間で割り当てることと、各々の第２のキューにおいて、第２のキューに関連する実行パイプによる実行のために、第２のキューにバッファされた命令動作を選択することと、を含む。複数の割り当てモードは、命令動作が複数の第２のキュー間で実質的に均等に割り当てられるキュー優先割り当てモード（queue-first allocation mode）と、第２のキューに関連する実行パイプのパイプ占有率に基づいて、命令動作が複数の第２のキュー間で割り当てられるパイプ優先割り当てモード（pipe-first allocation mode）と、を含んでもよい。いくつかの実施形態では、不均衡の少なくとも１つのインジケータは、第２のキューのうち少なくとも１つが第１の閾値を超える現在の占有率を有することを表す第１のインジケータと、任意の２つの第２のキュー間の現在の占有率の差が第２の閾値を超えることを表す第２のインジケータと、のうち少なくとも１つを含む。よって、複数の割り当てモードの中から割り当てモードを選択することは、第１のインジケータ及び第２のインジケータが検出されないことに応じて、キュー優先割り当てモードを選択することと、第１のインジケータ及び第２のインジケータのうち少なくとも１つが検出されたことに応じて、パイプ優先割り当てモードを選択することと、を含んでもよい。代わりに、複数の割り当てモードの中から割り当てモードを選択することは、第１のインジケータ及び第２のインジケータのうち何れかが検出されたことに応じて、キュー優先割り当てモードを選択することと、第１のインジケータ及び第２のインジケータの両方が検出されたことに応じて、パイプ優先割り当てモードを選択することと、を含んでもよい。

【0004】

いくつかの実施形態では、複数の割り当てモードは、命令動作を実行可能な実行パイプのパイプ占有率の分析に基づいて、命令動作のセットの各命令動作のコピーが複数の第２のキューの各々に割り当てられ、その後、セットの各命令動作のコピーが、１つの第２のキュー以外の全ての第２のキューにおいて無効化される、投機的割り当てモードを更に含む。したがって、複数の割り当てモードの中から割り当てモードを選択することは、対応する実行パイプによる実行のために命令動作が第２のキューから選択される現在のピックレートが閾値を下回ることに応じて、投機的割り当てモードを選択することを含んでもよい。不均衡の少なくとも１つのインジケータは、第２のキューのうち少なくとも１つが第１の閾値を上回る現在の占有率を有することを表す第１のインジケータと、任意の２つの第２のキューの現在の占有率の差が第２の閾値を上回ることを表す第２のインジケータと、対応する実行パイプへの割り当てのために命令動作が第２のキューから選択される現在のピックレートが閾値を下回ることを表す第３のインジケータと、を含んでもよく、複数の割り当てモードの中から割り当てモードを選択することは、第１のインジケータ又は第２のインジケータが存在することに応じて、キュー優先割り当てモードを選択することと、第１のインジケータ及び第２のインジケータの両方が存在することに応じて、パイプ優先割り当てモードを選択することと、第３のインジケータが存在することに応じて、投機的割り当てモードを選択することと、を含む。投機的割り当てモードの間、セットの各命令動作は、事前に割り当てられた実行パイプを有してもよく、事前に割り当てられた実行パイプに関連する第２のキューは、事前に割り当てられた実行パイプのパイプ占有率と別の第２のキューに関連する同じタイプの別の実行パイプのパイプ占有率との差が閾値を上回らない限り、命令動作の有効なコピーを保持する。

【0005】

いくつかの実施形態では、複数の割り当てモードは、複数の命令動作のセット毎に、セットの命令動作がインターリーブパターンを使用して複数の第２のキュー間で割り当てられるキュー優先割り当てモードを含み、所定のセットについてインターリーブパターンにおける最初の命令動作を受信する第２のキューは、固定された選択シーケンス又は疑似ランダムの何れかに従って選択される。

【0006】

別の態様によれば、プロセッサは、上述した方法の実施形態を実行するように構成されている。いくつかの実施形態では、プロセッサは、複数の実行パイプと、複数の実行パイプに結合された分散スケジューラと、を含み、分散スケジューラは、プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファするように構成された第１のキューと、複数の第２のキューであって、各第２のキューは、複数の実行パイプのうち実行パイプの対応する別のサブセットに対して第１のキューから割り当てられた命令動作をバッファするように構成されている、複数の第２のキューと、キューコントローラと、を含み、キューコントローラは、分散スケジューラにおいて不均衡の少なくとも１つのインジケータが検出されるかどうかに基づいて、複数の割り当てモードの中から割り当てモードを選択し、選択された割り当てモードに従って、第１のキューからの命令動作を複数の第２のキュー間で割り当てるように分散スケジューラを制御する、ように構成されている。

【0007】

別の態様によれば、プロセッサは、複数の実行パイプと、複数の実行パイプに結合された分散スケジューラと、を含み、分散スケジューラは、プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファするように構成された第１のキューと、複数の第２のキューであって、各第２のキューは、複数の実行パイプのうち実行パイプの対応する別のサブセットに対して第１のキューから割り当てられた命令動作をバッファするように構成されている、複数の第２のキューと、キューコントローラと、を含み、キューコントローラは、第１のキューの命令動作のサブセットの命令動作毎に、第１のキューから各第２のキューに命令動作のコピーを投機的に割り当て、命令動作を実行可能な実行パイプの現在のパイプ占有率に基づいて、１つの第２のキュー以外の全ての第２のキューの命令動作のコピーを無効化する、ように構成されている。いくつかの実施形態では、命令動作は、複数の実行パイプのうち所定の実行パイプに事前に割り当てられており、キューコントローラは、所定の実行パイプの現在のパイプ占有率が、命令動作を実行可能な他の実行パイプの現在のパイプ占有率の閾値内にあることに応じて、所定の実行パイプに関連する第２のキューの命令動作のコピーを、命令動作の有効なコピーとして維持し、所定の実行パイプの現在のパイプ占有率が、異なる第２のキューに関連する実行パイプの現在のパイプ占有率を少なくとも閾値だけ上回ることに応じて、所定の実行パイプに関連する第２のキューの命令動作のコピーを無効化し、異なる第２のキューの命令動作のコピーを維持する、ように更に構成されている。

【0008】

更なる別の態様によれば、プロセッサは、複数の実行パイプと、複数の実行パイプに結合された分散スケジューラと、を含み、分散スケジューラは、プロセッサの命令パイプラインのフロントエンドからの命令動作をバッファするように構成された第１のキューと、複数の第２のキューであって、各第２のキューは、複数の実行パイプのうち実行パイプの対応する別のサブセットに対して第１のキューから割り当てられた命令動作をバッファするように構成されている、複数の第２のキューと、キューコントローラと、を含み、キューコントローラは、インターリーブパターンで第１のキューからの命令動作のセットを複数の第２のキュー間で割り当て、セット毎に、インターリーブパターンでセットの最初の命令動作が割り当てられる第２のキューを、所定のシーケンス又は疑似ランダムのうち何れかに基づいて選択する、ように構成されている。いくつかの実施形態では、キューコントローラは、所定のシーケンスに基づいて、インターリーブパターンでセットの最初の命令動作が割り当てられる第２のキューを選択するように更に構成されており、所定のシーケンスは、交互シーケンスである。プロセッサは、疑似乱数ジェネレータを更に含んでもよく、キューコントローラは、疑似乱数ジェネレータの出力に基づいて疑似ランダムに、インターリーブパターンでセットの最初の命令動作が割り当てられる第２のキューを選択するように更に構成されている。

【0009】

添付の図面を参照することにより、本開示をより良く理解することができ、その多くの特徴及び利点が当業者に明らかとなる。異なる図面で同一の符号が使用されている場合には、類似又は同一のアイテムを示している。

【図面の簡単な説明】

【0010】

【図1】いくつかの実施形態による、マルチモーダル分散スケジューラを実装するプロセッサを示すブロック図である。

【図2】いくつかの実施形態による、図１のマルチモーダル分散スケジューラを更に詳細に示すブロック図である。

【図3】いくつかの実施形態による、マルチモーダル分散スケジューラのキュー優先割り当てモードを示すフローチャートである。

【図4】いくつかの実施形態による、図３の方法の例示的な実施形態を示す図である。

【図5】いくつかの実施形態による、マルチモーダル分散スケジューラのパイプ優先割り当てモードを示すフローチャートである。

【図6】いくつかの実施形態による、マルチモーダル分散スケジューラの投機的割り当てモードを示すフローチャートである。

【図7】いくつかの実施形態による、図６の方法の例示的な実施形態を示す図である。

【図8】いくつかの実施形態による、様々な不均衡インジケータに基づくマルチモーダル分散スケジューラの異なる割り当てモードの選択的な活性化のための方法を示すフローチャートである。

【発明を実施するための形態】

【0011】

図１～図８は、命令動作実行スケジューリングのためのマルチモーダル分散スケジューラを採用したプロセシングシステムにおけるキュー不均衡及びパイプ不均衡を軽減する実施例の技術を例示する。少なくとも１つの実施形態では、分散スケジューラは、プロセッサの命令フロントエンドから命令動作を一時的にバッファするための非ピック可能スケジューラキューと、非ピック可能スケジューラキューから命令動作を受信するための２つ以上のピック可能スケジューラキューとを含み、ピック可能スケジューラキューの各々は、分散スケジューラによって供給される実行パイプのセットの関連する、別個のサブセットについての命令動作をバッファするように動作する。分散スケジューラは更に、分散スケジューラによってサポートされる複数の割り当てモードの選択割り当てモードに従って、非ピック可能スケジューラキューからピック可能スケジューラキューの間で命令動作を割り当てるよう分散スケジューラを構成するためのキューコントローラを含む。少なくとも１つの実施形態では、キューコントローラは、同一または類似の能力のピック可能スケジューラキューの間または実行パイプの間の不均衡の１つ以上のインジケータの存在または不存在に応答して実装されることになる割り当てモードを選択する。そのようなインジケータは、例えば、閾値を上回るキュー占有率、閾値を上回るパイプ占有率、閾値を上回る２つ以上のキューの占有率の間の差、閾値を上回る同一または類似のタイプの２つ以上の実行パイプのパイプ占有率の間の差、及び閾値を下回って降下する実行のために命令動作がピックされるレートなどを含む。

【0012】

いくつかの実施形態では、マルチモーダル分散スケジューラによってサポートされる複数の割り当てモードは、キュー優先割り当てモードを含み、キュー優先割り当てモードでは、所与の割り当てサイクル内にピック可能スケジューラキューに割り当てられることになる命令動作のサブセットが、インターリービングパターンを介してなど、ピック可能スケジューラキューの間で実質的に等しく割り当てられる。命令動作の衡平な分散を更に保証するために、いくつかの実施形態では、インターリービングパターンは、割り当てサイクルごとに異なるピック可能スケジューラキューにより開始し、線形フィードバックシフトレジスタ（ＬＦＳＲ）または他の疑似乱数ジェネレータの出力値を使用することによってなど、例えば、規定済みの、固定選択シーケンス（例えば、交互シーケンスもしくは「ピンポン」シーケンス）に従って、または疑似ランダムに、所与の割り当てサイクルの間にインターリービングパターンにおいて初期命令動作を受信するピック可能スケジューラキューが選択される。更に、いくつかの実施形態では、複数の割り当てモードはまた、パイプ優先割り当てモードを含み、パイプ優先割り当てモードでは、割り当てられることになる命令動作を実行するように適合された実行パイプの各々のパイプ占有率が考慮され、命令動作を実行するために選択された実行パイプ及び対応する関連するピック可能キューは、それらのパイプ占有率の比較及び評価に基づいている。

【0013】

いくつかの実施形態では、マルチモーダル分散スケジューラによってサポートされる複数の割り当てモードは、投機的割り当てモードを含み、投機的割り当てモードでは、所与の割り当てサイクルに対し、同一の命令動作のコピーが、非ピック可能スケジューラキューから複数のピック可能スケジューラキューの各々に投機的に割り当てられる。その後、キューコントローラは、命令動作を実行するための適切な実行パイプを選択し、よって、選択済み実行パイプと関連付けられたピック可能スケジューラキューにおいて有効であるとして命令動作のコピーを維持すると共に、他のピック可能スケジューラキューにおける命令動作のコピーを無効化する。

【0014】

図１は、いくつかの実施形態による、キュー及び実行パイプ均衡のためのマルチモーダル分散スケジューラ１０２を実装するプロセッサ１００を示す図である。プロセッサ１００は、命令フロントエンド１０４と、整数ユニット１０６及び浮動小数点／単一命令多重データ（ＳＩＭＤ）ユニット１０８等の命令実行ユニットと、キャッシュ／メモリインタフェースサブシステム１１０と、を含む。命令フロントエンド１０４は、命令ストリームの一部として命令をフェッチし、命令を１つ以上の命令動作（例えば、マイクロ演算又はｕｏｐｓ）に復号し、次に、各命令動作を実行のために実行ユニット１０６，１０８の何れかにディスパッチするように動作する。命令動作を実行する際に、実行ユニットは、キャッシュ／メモリインタフェースサブシステム１１０において実装された１つ以上のキャッシュを頻繁に利用し、或いは、キャッシュ／メモリインタフェースサブシステム１１０のロード／ストアユニット（ＬＳＵ）、メモリコントローラ又はＩ／Ｏコントローラ（図示省略）を介して、外部メモリ（例えば、ランダムアクセスメモリ、ＲＡＭ）若しくは外部入力／出力（Ｉ／Ｏ）デバイスからのデータにアクセスし、又は、記憶のために外部メモリ若しくは外部Ｉ／Ｏデバイスにデータを提供する。

【0015】

プロセッサ１００は、プロセッサ１００の１つ以上の実行ユニットの各々においてマルチモーダル分散スケジューラ１０２を実装する。説明のために、マルチモーダル分散スケジューラ１０２が浮動小数点／ＳＩＭＤユニット１０８に実装される実施形態が本明細書で説明される。しかしながら、他の実施形態では、プロセッサ１００の整数ユニット１０６又は他の実行ユニットは、本明細書で提供されるガイドラインを使用して、浮動小数点／ＳＩＭＤユニット１０８によって実装されるものに加えて又はその代わりに、マルチモーダル分散スケジューラを実装する。

【0016】

浮動小数点／ＳＩＭＤユニット１０８は、リネームモジュール１１２と、物理レジスタファイル１１４と、図示された実施形態では６個の実行パイプ１１６－１～１１６－６等の複数の実行パイプ１１６と、マルチモーダル分散スケジューラ１０２と、を含む。リネームモジュール１１２は、設計されたレジスタ（architected registers）から物理レジスタファイル１１４内の物理レジスタにリネームすることを含む、命令フロントエンド１０４から受信した命令動作についての動作をリネームすることを実行し、リネームした命令動作を、実行パイプ１１６間でのバッファリング及び割り当てのためにマルチモーダル分散スケジューラ１０２に出力する。少なくとも１つの実施形態では、マルチモーダル分散スケジューラ１０２は、第１のスケジューラキュー１１８と、マルチプレクサ（ｍｕｘ）ネットワーク１２０と、図示した例では２つの第２のスケジューラキュー１２２－１，１２２－２及び対応するピッカ１２４－１，１２４－２等のように、第２のスケジューラキュー１２２毎の複数の第２のスケジューラキュー１２２及びピッカ１２４と、キューコントローラ１２６と、を含む。第２のスケジューラキュー１２２の各々は、複数の実行パイプ１１６の対応する別のサブセットについての命令動作をバッファする役割を果たす。例えば、例示した実施形態では、第２のスケジューラキュー１２２－１は、実行パイプ１１６－１，１１６－２，１１６－３から構成されるサブセットについての命令動作をバッファし、一方で、第２のスケジューラキュー１２２－２は、実行パイプ１１６－４，１１６－５，１１６－６から構成される別のサブセットについての命令動作をバッファする。

【0017】

マルチモーダル分散スケジューラ１０２は、２つのレベルのキューイング処理を実施し、それによって、第１のスケジューラキュー１１８は、命令動作を一時的にバッファし、次に、命令動作は、ｍｕｘネットワーク１２０を介して複数の第２のスケジューラキュー１２２間に割り当てられる。次に、第２のスケジューラキュー１２２毎のピッカ１２４は、対応する第２のスケジューラキュー１２２に関連するサブセットの実行パイプへの割り当て又は他の割り当てのために、対応する第２のスケジューラキュー１２２にバッファされた命令動作をピックする。命令動作が直接実行のために第１のスケジューラキュー１１８からピック可能ではないので、第１のスケジューラキュー１１８は、本明細書において「ピック不可能スケジューラキュー１１８」又は「ＮＳＱ１１８」と呼ばれる。逆に、命令動作が実行のために第２のスケジューラキュー１２２からピック可能であるので、第２のスケジューラキュー１２２の各々は、「ピック可能スケジューラキュー１２２」又は「ＳＱ１２２」と呼ばれる。

【0018】

少なくとも１つの実施形態では、マルチモーダル分散スケジューラ１０２は、複数の割り当てモードをサポートし、各々の割り当てモードは、所定の割り当てサイクル中に、ＮＳＱ１１８からＳＱ１２２に命令動作を割り当てる特定の処理を表す。各々の割り当てモードは、典型的には、現在又は予測された実行非効率性に対処し、よって、キュー制御１２６は、一実施形態では、選択された割り当てモードによって潜在的に対処される不均衡又は実行非効率の１つ以上のインジケータの存在又は不存在に基づいて、次の１つ以上の割り当てサイクルの間に実施される特定の割り当てモードを選択し、次に、選択された割り当てモードを実施するようにｍｕｘネットワーク１２０及びピッカ１２４を構成する。マルチモーダル分散スケジューラ１０２によってサポートされる割り当てモードの例、及び、実装のために特定の割り当てモードを選択する例示的な処理は、以下に詳細に説明する。

【0019】

図２は、いくつかの実施形態による、マルチモーダル分散スケジューラ１０２の実施形態を更に詳細に示す図である。この例では、ＮＳＱ１１８は、複数のキューエントリ２０２を含み、各々のキューエントリ２０２は、命令フロントエンド１０４から受信した命令動作２０４を記憶することが可能である。ＮＳＱ１１８は、ファーストインファーストアウト（ＦＩＦＯ）キューとして動作し、複数の出力ポート２０６を含み、各々の出力ポートは、割り当てサイクル中に、対応するバッファ済み命令動作２０４をＮＳＱ１１８から出力することが可能である。したがって、ＮＳＱ１１８は、割り当てサイクル毎にＮ個の命令動作を出力する機能を有し、Ｎは、出力ポート２０６の数を表す。ＳＱ１２２－１，１２２－２の各々は、複数のキューエントリ２０８を含み、各々のキューエントリ２０８は、ＮＳＱ１１８から対応するＳＱ１２２に割り当てられた命令動作２０４をバッファすることが可能である。このため、各々のＳＱ１２２は、複数の入力ポート２１０を含み、その各々は、受信した命令動作を、受信側のＳＱ１２２の対応するキューエントリ２０８に書き込むことが可能である。少なくとも１つの実施形態では、全てのＳＱ１２２の入力ポート２１０の総数は、ＮＳＱ１１８の出力ポート２０６の数Ｎに等しい。よって、各々のＳＱ１２２がＫ個の入力ポート２１０を含む場合、Ｎ＝Ｋ＊Ｊであり、Ｊは、ＳＱ１２２の数である。説明するために、例示した実施形態では、ＮＳＱ１１８は、６個の出力ポート２０６（Ｎ＝６）を含み、ＳＱ１２２－１，ＳＱ１２２－２（Ｊ＝２）の各々は、３個の入力ポート（Ｋ＝３）を含む。よって、この実施形態では、所定の割り当てサイクル中に、最大で６個の（６）命令動作をＮＳＱ１１８からＳＱ１２２－１，１２２－２に割り当てることが可能であり、ＳＱ１２２－１，１２２－２の各々は、割り当てサイクル中に、最大で３個の（３）命令動作を受信することが可能である。

【0020】

ｍｕｘネットワーク１２０は、特定の割り当てモードに基づいて、ＮＳＱ１１８からの命令動作２０４をＳＱ１２２－１，１２２－２間で割り当てるように動作する。この目的のために、ｍｕｘネットワーク１２０は、ＮＳＱ１１８の出力ポートをＳＱ１２２－１，１２２－２の入力ポート２１０に接続する１つ以上のレベルのマルチプレクサを含み、その結果、各々の出力ポート２０６は、何れかの入力ポート２１０に接続可能である。キューコントローラ１２６は、ＮＳＱ１１８から割り当てられる各命令動作２０４を、関連する出力ポート２０６の間で、命令動作２０４が割り当てられているＳＱ１２２の対応する入力ポート２１０に向けるように、制御シグナリング２１２を介してｍｕｘネットワーク１２０を制御するように動作する。

【0021】

ＳＱ１２２－１，１２２－２の各々のキューエントリ２０８は、関連するピッカ１２４による実行のために命令動作２０４がピックされる前に、ＮＳＱ１１８から割り当てられた命令動作２０４をバッファしてもよい。例示した実施形態では、キューエントリ２０８は、実行される命令動作のタイプのオペコード又は他の識別子を記憶するためのオペコードフィールド２１４と、命令動作２０４の実行の間に使用されるソース若しくはディスティネーションレジスタについてのレジスタ識別子、又は、この実行の間に使用される即時値若しくは変位値を記憶するための１つ以上のオペランドフィールド２１６と、を含む、バッファ済み命令動作２０４に関連するいくつかのフィールドを含む。更に、以下に説明するように、いくつかの実施形態では、命令動作は、特定の実行パイプに事前に割り当てられ、よって、キューエントリ２０８は、対応する命令動作に事前に割り当てられた実行パイプの識別子を記憶するための割り当てフィールド２１８を含む。その上、命令動作の無効化及びフラッシングを促進するために、少なくとも１つの実施形態では、キューエントリ２０８は、対応する命令動作がそのＳＱ１２２に対して有効又は無効であるかどうかを示す有効（ｖ）ビットを記憶するための有効フィールド２２０を含む。キューエントリ２０８は、いくつかの実施形態では、例えば、命令動作が実行のためにピックされる準備ができているかどうかを示すステータスフィールド、及び、命令動作と他の命令動作との間の依存性を識別する依存性フィールド等の追加のフィールド（図示省略）を含む。

【0022】

ピッカ１２４－１，１２４－２は、ＳＱ１２２と関連付けられた選択済み実行パイプによる実行のために各々のＳＱ１２２から命令動作を選択又は「ピックする」ように動作する。この選択処理は、典型的には、そのポイントにおいて実行される所定の命令動作の可用性と共に、命令動作を実行する能力を有するＳＱ１２２と関連付けられた１つ以上の実行パイプ１１６の現在能力に基づいている。よって、ピッカ１２４は、実行パイプ１１６の対応するサブセットに割り当てられた、又は、他の方法で割り当てられた命令動作を追跡し、選択処理の一部として、実行パイプ１１６のサブセットの状態を追跡する。

【0023】

実行パイプ１１６－１～１１６－６の各々は、１つ以上の命令動作タイプを実行するロジック及び他の回路を含む。いくつかの実施形態では、各々の実行パイプは、浮動小数点乗算（ＦＭＵＬ）演算を実行するための実行パイプ、浮動小数点加算（ＦＡＤＤ）演算を実行するための実行パイプ、及び、融合乗算－加算（ＦＭＵ）演算を実行するための実行パイプ等の特殊化関数を有する。更に、いくつかの実施形態では、各々のＳＱ１２２がそれらと関連付けられた実行パイプの同一の構成を有する点で、実行パイプのＳＱ１２２及びそれらの関連するサブセットは、「対称的」である。すなわち、ＳＱ１２２－１についての実行パイプ構成は、ＳＱ１２２－２についての実行パイプ構成と同一であり、その結果、実行パイプ１１６－１（ＥＸ０）及び実行パイプ１１６－４（ＥＸ１）は、同一のタイプの実行パイプであり、実行パイプ１１６－２（ＥＸ２）及び実行パイプ１１６－５（ＥＸ３）は、同一のタイプの実行パイプであり、実行パイプ１１６－３（ＥＸ４）及び実行パイプ１１６－６（ＥＸ５）は、同一のタイプの実行パイプである。したがって、実行パイプＥＸ０における実行に適切な命令動作２０４は、実行パイプペアＥＸ２／ＥＸ３及びＥＸ４／ＥＸ５についての同一の能力関係により、パイプＥＸ１における実行にも適切であり、逆も同様である。

【0024】

キューコントローラ１２６は、割り当てコンポーネント２２２と、モード制御コンポーネント２２４と、キュー更新コンポーネント２２６と、キューステータスコンポーネント２２８と、パイプステータスコンポーネント２３０と、ピックレートコンポーネント２３２と、インタリーブ選択コンポーネント２３６と、を含む、様々なコンポーネントを含む。それらのコンポーネントの各々は、ハードウェアロジック及び関連する回路として、プログラム可能ロジック及び関連する回路として、対応する機能を表すソフトウェア命令を実行するプロセッサコアとして、又は、それらの組み合わせとして実装される。パイプステータスコンポーネント２３０は、実行パイプ１１６を監視して、実行パイプ１１６毎の現在のパイプ占有率を判定するように動作する。同様に、キューステータスコンポーネント２２８は、ＮＳＱ１１８及びＳＱ１２２を監視して、それらの現在のキュー占有率及び占有率変化のレート等を判定するように動作する。ピックレートコンポーネント２３２は、ピッカ１２４－１，１２４－２によって行われた命令動作ピックを監視し、ピッカ１２４－１，１２４－２についての現在のピックレート統計を判定するように動作する。キュー更新コンポーネント２２６は、以下に詳細に説明するように、分散スケジューラ１０２の動作に基づいて、ＳＱ１２２－１，１２２－２のキューエントリ２０８及びＮＳＱ１１８のキューエントリ２０２の様々なフィールドを更新するように動作する。インタリーブ選択コンポーネント２３６は、以下に説明するように、インタリーブ済み割り当てパターンにおいて命令動作を受信する初期ＳＱ（最初のＳＱ）１２２を選択するように動作する。

【0025】

本明細書で説明するように、少なくとも１つの実施形態では、マルチモーダル分散スケジューラ１０２は、ＮＳＱ１１８とＳＱ１２２－１，１２２－２との間の命令動作割り当て処理の動的な適合を促進して、同一のタイプのＳＱ１２２－１，１２２－２間又は実行パイプ１１６間の不均衡に起因した性能劣化を軽減するように、複数の割り当てモードをサポートする。以下に説明するように、この複数の割り当てモードは、一実施形態では、キュー優先割り当てモード２４０を含み、キュー優先割り当てモード２４０では、命令動作がＮＳＱ１１８からＳＱ１２２に最初に割り当てられ、次に、命令動作がそれらの各々のＳＱ１２２内にあると、命令動作についてのパイプ割り当てが続く。別の割り当てモードは、パイプ優先割り当てモード２４２を含み、パイプ優先割り当てモード２４２では、命令動作がＮＳＱ１１８にバッファされる間に対応する実行パイプ１１６に最初に割り当てられ、次に、命令動作は、ＮＳＱ－ＳＱ割り当てサイクルの間に割り当てられた実行パイプに関連するＳＱ１２２に割り当てられる。更なる別の例として、マルチモーダル分散スケジューラ１０２によってサポートされる複数の割り当てモードは、投機的割り当てモード２４４を含み、投機的割り当てモード２４４では、命令動作のサブセットの各々の命令動作のコピーは、同一の割り当てサイクル内にＮＳＱ１１８からＳＱ１２２－１，１２２－２の各々に投機的に割り当てられ、次に、パイプ割り当てがその後完了すると共に、割り当てられた実行パイプに関連するＳＱ１２２における命令サイクルのコピーのみが維持されると共に、他のＳＱ１２２における他のコピーが無効化され、その後、フラッシュされる。それらの様々な割り当てモードは、図３～図７を参照して以下に更に詳細に説明する。

【0026】

モード制御コンポーネント２２４は、ピックレートコンポーネント２３２からのピックレート統計、パイプステータスコンポーネント２３０からの現在のパイプ占有率、及び、キューステータスコンポーネント２２８からの現在のキュー占有率等のように、キューコントローラ１２６の他のコンポーネントによって提供される情報から判定されるように、ＳＱ１２２間又は実行パイプ間の不均衡の１つ以上のインジケータの存在又は不存在を検出したことに応じて、１つ以上の割り当てサイクル間に実施する特定の割り当てモードを選択するように動作する。割り当てモードを選択する例示的な処理は、図８を参照して以下に説明する。割り当てコンポーネント２２２は、選択された割り当てモードに基づいて、並びに、様々なキュー及び実行パイプステータス情報に基づいて、ＮＳＱ１１８からＳＱ１２２の命令動作の割り当て（例えば、制御シグナリング２１２の構成を介した）及び実行パイプ１１６への命令動作の割り当てを制御するように動作する。

【0027】

図３は、いくつかの実施形態による、マルチモーダル分散スケジューラ１０２のキュー優先割り当てモード２４０についての命令動作割り当ての例示的な方法を示す図である。上述したように、キュー優先割り当てモード２４０は、キュー能力均衡の目的でＮＳＱ１１８からＳＱ１２２－１，１２２－２への命令動作２０４の割り当てをもたらし、命令動作のパイプ割り当ては、命令動作がＳＱ１２２－１，１２２－２に割り当てられた後に生じる。各々のＳＱ１２２がＫ個の入力ポート２１０を有するように（図２の実施例ではＫ＝３）、各々のＳＱ１２２は、所定の割り当てサイクル内に最大でＫ個の命令動作を受信する。よって、１つのとり得るアプローチは、割り当てサイクル中に、ＮＳＱ１１８における第１のＫ個の命令動作をＳＱ１２２－１に割り当て、ＮＳＱ１１８における次のＫ個の命令動作をＳＱ１２２－２に割り当てる。しかしながら、例えば、負荷動作、記憶動作、又は、完了するのに考慮可能なクロックサイクルを必要とする他の動作に依存した命令動作をＫ個の命令動作の１つのブロックが含むと共に、Ｋ個の命令動作の他のブロックがそのような命令動作をあまり有しない又は全く有しない場合に、このブロックスタイル割り当てアプローチは、不均衡につながることがある。これを軽減する１つのアプローチは、１つのＳＱ１２２が１つの命令動作を取得し、他のＳＱ１２２が次の命令動作を取得する等のように、割り当てサイクル中にＳＱ１２２間の命令の割り当てのためにインターリーブパターンを採用することである。このようにして、各々のＳＱ１２２は、１つの命令動作を順に取得し、次いで、現在の割り当てサイクルについて全ての命令動作が割り当てられるまで、全てのＳＱ１２２を通じてシーケンスが再度繰り返される。しかしながら、同一のＳＱ１２２が、割り当てサイクル毎のインターリーブパターンにおいて、命令動作を受信する最初のＳＱとして機能する場合、状況によっては、ＳＱ１２２間の占有率が不均衡になることがある。例示すると、実行されるプログラムが、［ＡＤＤ、ＭＵＬ、ＡＤＤ、ＭＵＬ、ＡＤＤ、ＭＵＬ、ＡＤＤ、ＭＵＬ、ＡＤＤ、ＭＵＬ、ＡＤＤ、ＭＵＬ］等のように、加算と乗算を交互に実行する演算を有する場合、各々の割り当てサイクル内に同一のＳＱ１２２に第１の命令動作又は最初の命令動作を提供する２つのＳＱ１２２間の割り当てのインターリーブパターンは、６個のＡＤＤ演算がそのＳＱ１２２に割り当てられ、６個のＭＵＬ演算（実行するのにＡＤＤ演算よりも大幅に時間がかかる）が他のＳＱ１２２に割り当てられる。よって、そのような潜在的なキュー不均衡を回避するために、少なくとも１つの実施形態では、インターリーブパターンを使用するキュー優先割り当てモード２４０において、キューコントローラ１２６は、所定のサイクル内に割り当てられる命令動作のサブセットにおける第１の命令動作又は最初の命令動作を受信するＳＱ１２２を選択するための選択処理を実行し、この選択処理は、例えば、交互選択若しくはピンポン選択に基づいており、又は、疑似ランダムな選択に基づいている。割り当てサイクルの間で最初の受信ＳＱ１２２を順次又は疑似ランダムに変更することによって、命令動作のストリームがＳＱ１２２とそれらの対応する実行パイプ１１６との間で不均衡な動作割り当てを結果としてもたらす確率は、典型的に、同一のＳＱ１２２が割り当てサイクル毎に最初の受信ＳＱとして選択される実施形態と比較して低減する。

【0028】

よって、割り当てサイクルの開始に応じて、ブロック３０２において、インタリーブ選択コンポーネント２３６は、割り当てサイクルの間にＮＳＱ１１８から割り当てられた最初の命令動作を受信するＳＱ１２２－１，１２２－２の何れかを選択する。すなわち、インタリーブ選択コンポーネント２３６は、インターリービングパターンにおいて「最初の」ＳＱ１２２としてＳＱ１２２－１，１２２－２の何れかを選択する。一実施形態では、インタリーブ選択コンポーネント２３６は、２つのＳＱ１２２に対して１－２－１－２－１－２－１．．．シーケンス（すなわち、ピンポンシーケンス）若しくは１－１－２－２－１－１－２－２シーケンス、又は、３個のＳＱ１２２を利用した実施形態では、１－２－３－１－２－３－１－２－３－１．．．．シーケンス若しくは１－２－３－２－３－１．．．シーケンス等のように、所定の固定選択シーケンスを利用する。他の実施形態では、インタリーブ選択コンポーネント２３６は、割り当てサイクル毎に疑似乱数を生成する線形フィードバックシフトレジスタ（ＬＦＳＲ）等の疑似乱数ジェネレータを実装し、次に、現在の割り当てサイクルの間に採用されるインターリーブパターンについての最初の受信ＳＱ１２２を選択するために、疑似乱数ジェネレータによって出力された１つ以上のビットを使用する。選択された最初の受信ＳＱ１２２により、ブロック３０４において、割り当てコンポーネント２２２は、出力ポート２０６及び入力ポート２１０を介して、選択された最初の受信ＳＱ１２２により開始して、インターリーブパターンに従って、ＮＳＱ１１８からＳＱ１２２－１，１２２－２に命令動作のサブセットを分散させるように、ｍｕｘネットワーク１２０を制御する。

【0029】

図４は、ピンポン型の最初の受信ＳＱ選択シーケンスを使用して、インターリーブパターンにおいて２つのＳＱ１２２－１，１２２－２間でＮＳＱ１１８からの６個の命令動作が割り当てられる実施形態における処理の一例を示す。最初に、ＮＳＱ１１８は、１２個の命令動作（ＯＰ１～ＯＰ１２）をバッファし、ＯＰ１は、最古の命令動作である（よって、最初に割り当てられる）。割り当てサイクル４０１の間に、６個の命令動作（ＯＰ１～ＯＰ６）のサブセットが割り当てられる。この割り当てサイクルの間、ＳＱ１２２－１が最初の受信ＳＱとして選択され、よって、インタリーブ割り当てパターンは、ＳＱ１２２－１への動作ＯＰ１，ＯＰ３，ＯＰ５の割り当て、及び、ＳＱ１２２－２への動作ＯＰ２，ＯＰ４，ＯＰ６の割り当てを結果としてもたらす。次の割り当てサイクル４０２の間、６個の命令動作ＯＰ７～ＯＰ１２のサブセットが割り当てられることになり、この割り当てサイクルの間、ＳＱ１２２－２は、ピンポン選択パターンを使用して最初の受信ＳＱとして選択される。したがって、割り当てサイクル４０２の間、インタリーブ割り当てパターンは、命令動作ＯＰ７，ＯＰ９，ＯＰ１１がＳＱ１２１－２に割り当てられ、ＯＰ８，ＯＰ１０，ＯＰ１２がＳＱ１２１－１に割り当てられることを結果としてもたらす。

【0030】

図５は、いくつかの実施形態による、マルチモーダル分散スケジューラ１０２のパイプ優先割り当てモード２４２についての命令動作割り当ての例示的な方法を示す図である。上述したキュー優先割り当てモード２４０は、割り当てサイクル内に出力ポート２０６の全てが利用されることを可能にし、よって、割り当てサイクル内にＮＳＱ１１８からＳＱ１２２に割り当てられた命令動作の数を最大にする利点を有するが、欠点としては、命令動作のストリームにおける状況が、パイプ利用における不均衡を生じる可能性があることが挙げられる。例示すると、キュー優先割り当ては、他のＳＱ１２２と比較して１つのＳＱ１２２における不釣り合いな数のＡＤＤ演算を結果としてもたらすと共に、他のＳＱ１２２では、不釣り合いな数のＭＵＬ演算で終わる可能性がある。そのようなシナリオでは、ＡＤＤ演算に対して採用された第１のＳＱ１２２の実行パイプ１１６がバックアップ（backed up）される一方で、ＭＵＬ演算に対して採用された第１のＳＱ１２２の実行パイプ１１６がアイドルになり、第２のＳＱ１２２については、そのＡＤＤタイプの実行パイプ１１６がアイドルになる一方で、そのＭＵＬタイプの実行パイプ１１６が過負荷になるという逆の状態が発生する可能性がある。パイプ優先割り当てモード２４２は、分散スケジューラ１０２における実行パイプ１１６の全てのパイプ占有率を評価し、次いで、現在の割り当てサイクルで割り当てられる命令動作のサブセットの各々の命令動作を、最低のパイプ占有率を有し、命令動作によって表されるタイプの動作を実行可能な実行パイプに割り当てることによって、このような不均衡を軽減する。

【0031】

よって、所定の割り当てサイクルの間、ブロック５０２において、モード制御コンポーネント２２４は、例えば、パイプステータスコンポーネント２３０によって維持されたメモリ、レジスタファイル又は他の記憶コンポーネントのパイプ占有率データにアクセスすることによって、分散スケジューラ１０２の実行パイプ１１６のセットの現在のパイプ占有率を評価する。概して、パイプ占有率データは、実行パイプ１１６の各々に現在割り当てられている命令動作の数を示し、よって、各々の実行パイプ１１６に既にコミットされた動作可能「ワーク（work）」の総数を表す。この情報により、ブロック５０４において、割り当てコンポーネント２２２は、現在の割り当てサイクル内に割り当てられるＮＳＱ１１８における次の命令動作を選択し、選択された命令動作を実行可能な実行パイプ１１６を識別し、次に、選択された命令動作を、識別されたサブセット内で最低のパイプ占有率を有する実行パイプ１１６に割り当てる。この割り当ては、例えば、選択された命令動作を記憶するＮＳＱ１１８のキューエントリ２０２の割り当てフィールドに対して、選択された実行パイプを識別する値を書き込むことによって行われる。命令動作が、ＳＱ１２２への割り当てのために利用可能である場合（例えば、命令動作が、現在の割り当てサイクル内で割り当てられる命令動作のサブセットに含まれている場合）、ブロック５０６において、割り当てコンポーネント２２２は、事前に割り当てられた実行パイプ１１６を判別するために、命令動作を記憶するキューエントリ２０２の割り当てフィールドにアクセスし、命令動作を、ＮＳＱ１１８から、割り当てられた実行パイプ１１６に関連するＳＱ１２２のエントリ２０８にルーティングするように、ｍｕｘネットワーク１２０を制御する。ブロック５０２，５０４，５０６の処理は、所定の割り当てサイクル内で割り当てられる命令動作のサブセットの命令動作毎に実行される。

【0032】

パイプ優先割り当てモード２４２においてパイプ占有率を重視することは、典型的には、分散スケジューラ１０２内のパイプ占有率の均衡を維持することにおいて効果的である。しかしながら、ＮＳＱ－ＳＱ割り当てスループットが最大化されるキュー優先割り当てモード２４０とは異なり、ＮＳＱ１１８における命令動作のシーケンスが１つの特定のＳＱ１２２に割り当てられ、その結果、ＮＳＱ１１８の出力ポート２０６の総数と比較して、所定のＳＱ１２２における入力ポート２１０の数が少ないため、対応する割り当てサイクル内に割り当てられる命令動作の数が制限されるという状況が生じ得る。例示すると、図２のＮＳＱ１１８における次の６個の命令動作がＳＱ１２２－２に関連する実行パイプ１１６に事前に割り当てられる場合、図２のＳＱ１２２－２が３個の入力ポート２１０のみ有するので、次の割り当てサイクルの間、可能な６個の総数のうち３個の命令動作のみ割り当てることが可能である。これに対して、キュー優先割り当てモード２４０は、同じ状況において（ＳＱ１２２における十分な能力を想定して）６個の命令動作を割り当てるように、全ての６個の出力ポート２０６が利用されることを可能にする。図８を参照して以下に更に詳細に説明するように、マルチモーダル分散スケジューラ１０２は、ＳＱ１２２間の不均衡又は実行パイプ１１６間の不均衡の様々なインジケータを検出したことに応じて、それらの割り当てモードを切り替えることによって、キュー優先割り当てモード２４０及びパイプ優先割り当てモード２４２の各々の利点を活用する。

【0033】

図６は、いくつかの実施形態による、マルチモーダル分散スケジューラ１０２によって提供される投機的割り当てモード２４４についての命令割り当て動作のための例示的な方法を示す図である。典型的には、分散スケジューラ１０２は、命令動作が１つのＳＱ１２２に割り当てられると、その命令動作を他のＳＱ１２２に移動することができないように設計及び製造される。したがって、分散スケジューラ１０２は、キュー優先割り当てモード２４０又はパイプ優先割り当てモード２４２の何れかを使用して、ＳＱ１２２に対して既にコミットされた命令動作によって生じる不均衡を是正するためのリソースを殆ど有していない。しかしながら、実行パイプ１１６の現在ピックレートが十分に低く、ＳＱ１２２のアンダーフローが著しいリスクでない場合、分散スケジューラ１０２は、投機的割り当てモード２４４を採用して、ＳＱ１２２において命令動作間の均衡を提供することを可能にする方法で、命令動作をＳＱ１２２に割り当てる。

【0034】

投機的割り当てモード２４４における投機的割り当ての処理のために、ブロック６０２において、モード制御コンポーネント２２４は、例えば、上述したようにパイプ占有率データにアクセスすることによって、分散スケジューラ１０２の実行パイプ１１６のセットの現在のパイプ占有率を評価する。ブロック６０４において、割り当てコンポーネント２２２は、ＮＳＱ１１８内の割り当てられていない命令動作を識別し、そのタイプの命令動作を実行可能な実行パイプ１１６の現在パイプの占有率に基づいて、識別された命令動作を特定の実行パイプ１１６に事前に割り当てる。この事前割り当ては、例えば、ＮＳＱ１１８の命令動作を記憶するキューエントリ２０２の割り当てフィールドに対して、事前に割り当てられた実行パイプの識別子を記憶することによって反映される。この事前割り当て処理は、ＮＳＱ１１８内の任意の数の割り当てられていない命令動作に対して繰り返される。

【0035】

事前に割り当てられた命令動作がＳＱ１２２への割り当てのために利用可能である場合（例えば、現在の割り当てサイクル内で割り当てられる命令動作のサブセットに命令動作が含まれている場合）、単一のＳＱ１２２に命令動作を割り当てるのではなく、代わりにブロック６０６において、何れのＳＱ１２２が、命令動作に対して事前に割り当てられた命令パイプ１１６と関連するかに関わらず、割り当てコンポーネント２２２は、ＳＱ１２２の各々に命令動作のコピーをルーティングする（例えば、命令動作のコピーをＳＱ１２２－１にルーティングし、別のコピーをＳＱ１２２－２にルーティングする）。この処理は、現在の割り当てサイクル中に割り当てられるサブセットの事前に割り当てられた命令動作毎に繰り返される。

【0036】

その後、ブロック６０８において、割り当てコンポーネント２２２は、ＳＱ１２２において次に投機的に割り当てられた命令動作を順に選択し、事前に割り当てられた実行パイプ１１６、及び、他のＳＱ１２２に関連する同一又は類似のタイプの実行パイプ１１６の現在のパイプ占有率が不均衡であるかどうかを判別する。例示すると、ＳＱ１２２－１に関連する実行パイプ１１６－２（ＥＸ２）に命令動作が事前に割り当てられている場合、実行パイプ１１６－２（ＥＸ２）のパイプ占有率は、ＳＱ１２２－２に関連する実行パイプ１１６－５（ＥＸ３）の現在のパイプ占有率と比較される。この処理のために、事前に割り当てられた実行パイプ１１６と、他のＳＱ１２２における他の類似の実行パイプと、の間のパイプ占有率の不均衡は、例えば、事前に割り当てられた実行パイプ１１６のパイプ占有率が、他のＳＱ１２２の同一のタイプの実行パイプ１１６のパイプ占有率を少なくとも閾値だけ超えることによって示されてもよい。例えば、閾値が３個の動作に設定されていることを想定すると、事前に割り当てられた実行パイプ１１６がインフライトで８個の命令動作を有し、他の同一のタイプの実行パイプ１１６が６個の命令動作を有する場合、又は、他の同一のタイプの実行パイプ１１６が、インフライトで、事前に割り当てられた実行パイプ１１６よりも多くの命令動作を有する場合には、不均衡が想定されず、その一方で、事前に割り当てられた実行パイプ１１６がインフライトで１２個の命令動作を有し、他の同一のタイプの実行パイプ１１６がインフライトで５個の命令動作を有する場合には、不均衡が検出される。

【0037】

ブロック６０８においてパイプ占有率の十分な不均衡が検出されない場合、ブロック６１０において、割り当てコンポーネント２２２は、事前に割り当てられた実行パイプ１１６に関連するＳＱ１２２における命令動作のコピーの有効ステータスを維持し、他のＳＱ１２２における命令動作のコピーを無効化するように、キュー更新コンポーネント２２６に指示する。すなわち、十分な不均衡が検出されない場合、キューコントローラ１２６は、事前に割り当てられた実行パイプ１１６に関連するＳＱ１２２における命令動作のコピーを維持することによって命令動作の事前割り当てを維持すると共に、他のＳＱ１２２における命令動作の全ての他のコピーを無効化する。少なくとも１つの実施形態では、無効化は、無効化される命令動作のコピーを記憶するキューエントリ２０８の有効フィールド２２０の有効ビットを消去することによって達成される。そうすることで、エントリ２０８は、異なる命令動作を記憶するためにエントリ２０８を利用可能にするように、命令動作の無効なコピーをフラッシュするために利用可能になる。

【0038】

そうではなく、ブロック６０８においてパイプ占有率の十分な不均衡が検出された場合、ブロック６１２において、割り当てコンポーネント２２２は、命令動作が最終的に割り当てられる適切な実行パイプ１１６を動的に選択するために、現在のパイプ占有率、命令動作を実行可能なタイプの実行パイプ１１６の各々に事前に割り当てられた後続の命令動作の数等の様々なパラメータを評価する。いくつかの状況では、選択された実行パイプ１１６は、命令動作が事前に割り当てられた実行パイプと同じである。他の状況では、同じ又は類似の能力の別の実行パイプ１１６は、命令動作のタイムリーな実行をもたらすように良好に配置されており、よって、命令動作の割り当ては、この別の実行パイプに切り替わる。何れの場合においても、割り当てコンポーネント２２２は、選択された実行パイプ１１６に関連するＳＱ１２２における命令動作のコピーの有効ステータスを維持し、他のＳＱ１２２における命令動作のコピーを無効化するように、キュー更新コンポーネント２２６に指示する。ブロック６１０，６１２について、２つよりも多いＳＱ１２２が実装される場合、命令動作の単一のコピーのみが有効として維持され（すなわち、命令動作に最終的に割り当てられる実行パイプに関連するＳＱ内のコピー）、他のＳＱ１２２における全ての他のコピーが無効化される。

【0039】

投機的割り当てモード２４４は、キューコントローラ１２６が、ピック不可能スケジューラキューレベルにおいて実行パイプ割り当てを必要とするのではなく、命令動作がピック可能スケジューラキューレベルに割り当てられた後まで各々の命令動作の最終割り当てを遅延させることによって、パイプ占有率をより細かく調整し、よって、改善したパイプ均衡及びパイプスループットを達成することを可能にする。この遅延は、キューコントローラ１２６が、命令動作が実行のためにピックされる時点により近い、互換性のある実行パイプ１１６のパイプ占有率を評価するための追加の時間を可能にし、よって、キューコントローラ１２６は、より正確な割り当て決定を行うことが可能である。しかしながら、投機的割り当てモード２４４は、ＮＳＱ１１８からＳＱ１２２に割り当てられた命令動作毎に２つの出力ポート２０６（割り当てられる命令動作のコピー毎に１つの出力ポート２０６）の使用を必要とし、よって、割り当てサイクル毎の命令動作の効果的な割り当てレートは、最大ＮＳＱ対ＳＱ割り当てレートの２分の１に過ぎない。よって、図８を参照して以下に更に詳細に説明するように、投機的割り当てモード２４４によってもたらされる比較的遅い入力レートに起因するキューアンダーフローの可能性を低減又は除去するように、実行パイプ１１６の現在のピックレートが十分に低い場合には、投機的割り当てモード２４４がより効果的に実施される。

【0040】

図７は、３個の命令動作（ＯＰ１，ＯＰ２，ＯＰ３）のコピーがＮＳＱ１１８から２つのＳＱ１２２－１，１２２－２の各々に投機的に割り当てられる実施形態における投機的割り当て処理の例を示す図である。事前割り当て処理の間（ブロック６０４）、ＯＰ１は、実行パイプ１１６－１（ＥＸ０）に事前に割り当てられ、ＯＰ２は、実行パイプ１１６－５（ＥＸ３）に事前に割り当てられ、ＯＰ３は、実行パイプ１１６－３（ＥＸ４）に事前に割り当てられる。ステージ７０１によって示すように、投機的割り当て処理の間（ブロック６０６）、命令動作ＯＰ１，ＯＰ２，ＯＰ３の各々のコピーは、ＳＱ１２２－１及びＳＱ１２２－２の両方に割り当てられる。このポイントにおいて、それらの動作の有効性ステータスは、命令動作のそれらのコピーの有効性がこのポイントにおいて適切でないことを示すために、対応するキューエントリ２０８の有効フィールド（図２）において「Ｘ」でマーク付けされる。したがって、いくつかの実施形態では、コピーは、最初に有効状態に設定され、他の実施形態では、コピーは、最初に無効状態に設定される。

【0041】

ステージ７０２によって表されるように、最初の割り当ての後、割り当てコンポーネント２２２は、命令動作ＯＰ１を実行可能な実行パイプ１１６の現在のパイプ占有率を判別し、この例では、実行パイプ１１６－１（ＥＸ０）が１０個の保留中の命令動作を有しており、実行パイプ１１６－４（ＥＸ１）が１つのみの保留中の命令動作を有していることを明らかにする。よって、パイプ占有率の差は、９個の動作である。この特定の例では、パイプ不均衡を示すための閾値は、６個の動作である。したがって、パイプ占有率の差がこの閾値を上回るので、パイプ不均衡をシグナリングすることになる。したがって、ＯＰ１がＳＱ１２２－１に関連する実行パイプ１１６－１（ＥＸ０）に事前に割り当てられているが、割り当てコンポーネント２２２は、識別されたパイプ不均衡に起因して、命令動作ＯＰ１を実行するのに最も適したＳＱ１２２及び対応する実行パイプを動的に選択するために、ＳＱ１２２－１とＳＱ１２２－２との間のキュー占有率の差等の他の条件を考慮して、このパイプ占有率の不均衡を評価する。この例では、割り当てコンポーネント２２２は、実行パイプ１１６－４（ＥＸ１）に命令動作ＯＰ１を割り当てるべきと判別し、よって、ＳＱ１２２－２に関連する実行パイプ１１６－４に命令動作ＯＰ１を再度割り当てる。したがって、ステージ７０３において表されるように、キュー更新コンポーネント２２６は、ＳＱ１２２－１についての命令動作ＯＰ１の対応するコピーを記憶するＳＱ１２２－１のエントリ２０８の有効フィールドを消去する（例えば、「０」に設定）ことによって、及び、ＳＱ１２２－２についての命令動作ＯＰ１の対応するコピーを記憶するＳＱ１２２－２のエントリ２０８の有効フィールドをアサートする（例えば、「１」に設定）ことによって、この最終割り当てをシグナリングする。

【0042】

次に、ステージ７０４によって表されるように、割り当てコンポーネント２２２は、命令動作ＯＰ２を実行可能な実行パイプ１１６の現在のパイプ占有率を判別し、この例では、実行パイプ１１６－２（ＥＸ２）が８個の保留中の命令動作を有しており、実行パイプ１１６－５（ＥＸ３）が３個の保留中の命令動作を有していることを明らかにする。事前に割り当てられた実行パイプ（ＥＸ３）の現在のパイプ占有率が、他のＳＱ１２２における代替実行パイプ（ＥＸ２）の現在のパイプ占有率よりも低いので、パイプ不均衡がシグナリングされない。したがって、ＯＰ２が、ＳＱ１２２－２に関連する実行パイプ１１６－５（ＥＸ３）に事前に割り当てられているので、割り当てコンポーネント２２２は、この割り当てを最終割り当てとして維持する。よって、ステージ７０５によって表されるように、キュー更新コンポーネント２２６は、ＳＱ１２２－１についての命令動作ＯＰ２の対応するコピーを記憶するＳＱ１２２－１のエントリ２０８の有効フィールドを消去することによって、及び、ＳＱ１２２－２についての命令動作ＯＰ２の対応するコピーを記憶するＳＱ１２２－２のエントリ２０８の有効フィールドをアサートすることによって、この最終割り当てをシグナリングする。

【0043】

その後、ステージ７０６によって表されるように、割り当てコンポーネント２２２は、命令動作ＯＰ３を実行可能な実行パイプ１１６の現在のパイプ占有率を判別し、この例では、実行パイプ１１６－３（ＥＸ４）が９個の保留中の命令動作を有しており、実行パイプ１１６－５（ＥＸ３）が６個の保留中の命令動作を有していることを明らかにする。事前に割り当てられた実行パイプ（ＥＸ４）の現在のパイプ占有率が、他のＳＱ１２２における代替実行パイプ（ＥＸ５）の現在のパイプ占有率を６個の動作の閾値以上上回っていないので、パイプ不均衡がシグナリングされない。したがって、ＯＰ３が、ＳＱ１２２－１に関連する実行パイプ１１６－３（ＥＸ４）に事前に割り当てられているので、割り当てコンポーネント２２２は、この割り当てを最終割り当てとして維持する。よって、ステージ７０７によって表されるように、キュー更新コンポーネント２２６は、ＳＱ１２２－２についての命令動作ＯＰ３の対応するコピーを記憶するＳＱ１２２－２のエントリ２０８の有効フィールドを消去することによって、及び、ＳＱ１２２－１についての命令動作ＯＰ３の対応するコピーを記憶するＳＱ１２２－１のエントリ２０８の有効フィールドをアサートすることによって、この最終割り当てをシグナリングする。

【0044】

図８は、いくつかの実施形態による、分散スケジューラ１０２についての割り当てモード選択のための例示的な方法８００を示す図である。上述したように、キュー優先割り当てモード２４０、パイプ優先割り当てモード２４２、及び、投機的割り当てモード２４４の各々は、いくつかの状況では、不均衡を効果的に軽減するが、他の状況では、不均衡を助長する（又は、少なくとも実質的に是正しない）ことがある。したがって、方法８００によって示すように、少なくとも１つの実施形態では、分散スケジューラ１０２は、実際の又は予想された不均衡の特定のインジケータに応じて、２つ以上の割り当てモード間を切り替えるように動作する。このようにして、分散スケジューラ１０２は、検出された不均衡に対処するために、又は、予想された不均衡を生じさせないために、特に適した割り当てモードを選択する。

【0045】

一実施形態では、方法８００の反復は、ブロック８０２において、モード制御コンポーネント２２４が、パイプ不均衡、キュー不均衡、又は、両方の不均衡があるかどうかを判別するために、キューステータスコンポーネント２２８及びパイプステータスコンポーネント２３０の各々によって取得されたキューステータス情報及びパイプステータス情報を評価することによって開始する。例示すると、いくつかの実施形態では、同じ又は類似のタイプの２つの実行パイプ間のパイプ占有率の差が所定の閾値を上回るというインジケータが存在する場合、アクショナブルな不均衡がシグナリングされる。他の実施形態では、ＳＱ１２２間のキュー占有率の差が所定の閾値を上回るというインジケータが存在する場合、アクショナブルな不均衡がシグナリングされる。更なる他の実施形態では、パイプ不均衡インジケータ及びキュー不均衡インジケータの両方が存在する場合にのみ、アクショナブルな不均衡がシグナリングされる。例示すると、いくつかの実施形態では、１つのＳＱ１２２のキュー占有率が他のＳＱ１２２のキュー占有率を少なくとも第１の閾値量だけ上回り、１つの実行パイプ１１６のパイプ占有率が同一のタイプの他の実行パイプ１１６のパイプ占有率を少なくとも第２の閾値量だけ上回る場合にのみ、分散スケジューラ１０２における不均衡がシグナリングされる。そうでなければ、この実施形態では、２つの閾値のうち何れかを上回ったとしても、不均衡がシグナリングされない。

【0046】

ブロック８０２においてキュー／パイプ不均衡の存在が検出された場合、ブロック８０４において、モード制御コンポーネント２２４は、割り当てモードが変更されるまで、後続の割り当てサイクルの間にパイプ優先割り当てモード２４２を実施するようにキューコントローラ１２６を構成する。そうではなく、ブロック８０２においてキュー／パイプ不均衡が存在しない見なされた場合、ブロック８０６において、モード制御コンポーネント２２４は、実行パイプ１１６の現在のピックレートを判定するようにピックレートコンポーネント２３２にクエリし、この平均ピックレートを所定の最小ピックレート閾値と比較する。一実施形態では、現在のピックレートは、スライドする時間ウインドウについての平均ピックレートを表し、平均は、例えば、スライドするウインドウ内の全ての実行パイプ１１６のピックレートの平均、スライドするウインドウ内の特定のタイプの実行パイプ１１６のピックレートの平均、及び、個々の実行パイプ１１６のピックレートの平均等である。平均ピックレートが十分でない場合（すなわち、この最小ピックレート閾値を上回らない場合）、ブロック８０８において、モード制御コンポーネント２２４は、平均ピックレートが所定の閾値を上回って上昇するまで、後続の割り当てサイクルの間の分散スケジューラ１０２における実施のために投機的割り当てモード２４４を選択し、所定の閾値は、分散スケジューラ１０２を投機的割り当てモード２４４に置くために使用されるのと同じ閾値又は異なる閾値である。一例として、サイクル毎に２．５個の動作の閾値ピックレートは、投機的割り当てモードに移行することをトリガするために使用され、一方で、サイクル毎に２．６５個の動作の閾値ピックレートは、投機的割り当てモード２４４から出ることをトリガするために使用される。よって、平均ピックレートが十分である場合（すなわち、最小ピックレート閾値を上回る場合）、ブロック８１０において、モード制御コンポーネント２２４は、後続の割り当てサイクルの間の分散スケジューラ１０２による実施のためにキュー優先割り当てモード２４０を選択する。次に、方法８００は、ブロック８０２に戻り、ブロック８０２において、モード制御コンポーネント２２４は、その間に生じたパイプ／キュー不均衡又はピックレート減少を検出するために、対応する監視／ポーリングサイクルにおいてキューステータスコンポーネント２２８及びパイプステータスコンポーネント２３０を監視又はポーリングする。

【0047】

方法８００は、所定の分析サイクルの間に、パイプ／キュー不均衡が最初にチェックされ、次に、ピックレートが分析されるフローを表しているが、他の実施形態では、ピックレートが最初に分析され、十分であることが分かった場合に、パイプ／キュー不均衡が評価される。更に、少なくともいくつかの実施形態では、方法８００によって表される割り当てモード選択処理は、ハードウェア状態機械として実装され、ハードウェア状態機械では、パイプ／キュー不均衡の存在は、キュー優先割り当てモード２４０からパイプ優先割り当てモード２４２へのモード変更をトリガし、不十分なピックレートの検出は、現在実施されているあらゆる割り当てモードから投機的割り当てモード２４４への変更をトリガする。

【0048】

いくつかの実施形態では、上記の装置及び技術は、図１～図８を参照して上述したマルチモーダル分散スケジューラ１０２を実装するプロセッサ１００等のように、１つ以上の集積回路（ＩＣ）デバイス（集積回路パッケージ又はマイクロチップとも呼ばれる）を含むシステムに実装される。これらのＩＣデバイスの設計及び製造には、電子設計自動化（ＥＤＡ）及びコンピュータ支援設計（ＣＡＤ）ソフトウェアツールが使用される。これらの設計ツールは、通常、１つ以上のソフトウェアプログラムとして表される。１つ以上のソフトウェアプログラムは、回路を製造するための製造システムを設計又は適合するための処理の少なくとも一部を実行するように１つ以上のＩＣデバイスの回路を表すコードで動作するようにコンピュータシステムを操作する、コンピュータシステムによって実行可能なコードを含む。このコードは、命令、データ、又は、命令及びデータの組み合わせを含むことができる。設計ツール又は製造ツールを表すソフトウェア命令は、通常、コンピューティングシステムがアクセス可能なコンピュータ可読記憶媒体に記憶される。同様に、ＩＣデバイスの設計又は製造の１つ以上のフェーズを表すコードは、同じコンピュータ可読記憶媒体又は異なるコンピュータ可読記憶媒体に記憶されてもよいし、同じコンピュータ可読記憶媒体又は異なるコンピュータ可読記憶媒体からアクセスされてもよい。

【0049】

コンピュータ可読記憶媒体は、命令及び／又はデータをコンピュータシステムに提供するために、使用中にコンピュータシステムによってアクセス可能な任意の非一時的な記憶媒体又は非一時的な記憶媒体の組み合わせを含む。このような記憶媒体には、限定されないが、光学媒体（例えば、コンパクトディスク（ＣＤ）、デジタル多用途ディスク（ＤＶＤ）、ブルーレイ（登録商標）ディスク）、磁気媒体（例えば、フロッピー（登録商標）ディスク、磁気テープ、磁気ハードドライブ）、揮発性メモリ（例えば、ランダムアクセスメモリ（ＲＡＭ）若しくはキャッシュ）、不揮発性メモリ（例えば、読取専用メモリ（ＲＯＭ）若しくはフラッシュメモリ）、又は、微小電気機械システム（ＭＥＭＳ）ベースの記憶媒体が含まれ得る。コンピュータ可読記憶媒体（例えば、システムＲＡＭ又はＲＯＭ）はコンピューティングシステムに内蔵されてもよいし、コンピュータ可読記憶媒体（例えば、磁気ハードドライブ）はコンピューティングシステムに固定的に取り付けられてもよいし、コンピュータ可読記憶媒体（例えば、光学ディスク又はユニバーサルシリアルバス（ＵＳＢ）ベースのフラッシュメモリ）はコンピューティングシステムに着脱可能に取り付けられてもよいし、コンピュータ可読記憶媒体（例えば、ネットワークアクセス可能ストレージ（ＮＡＳ））は有線又は無線ネットワークを介してコンピュータシステムに結合されてもよい。

【0050】

いくつかの実施形態では、上記の技術のいくつかの態様は、ソフトウェアを実行するプロセッシングシステムの１つ以上のプロセッサによって実装されてもよい。ソフトウェアは、非一時的なコンピュータ可読記憶媒体に記憶され、又は、非一時的なコンピュータ可読記憶媒体上で有形に具現化された実行可能命令の１つ以上のセットを含む。ソフトウェアは、１つ以上のプロセッサによって実行されると、上記の技術の１つ以上の態様を実行するように１つ以上のプロセッサを操作する命令及び特定のデータを含むことができる。非一時的なコンピュータ可読記憶媒体は、例えば、磁気若しくは光ディスク記憶デバイス、例えばフラッシュメモリ、キャッシュ、ランダムアクセスメモリ（ＲＡＭ）等のソリッドステート記憶デバイス、又は、他の１つ以上の不揮発性メモリデバイス等を含むことができる。非一時的なコンピュータ可読記憶媒体に記憶された実行可能命令は、ソースコード、アセンブリ言語コード、オブジェクトコード、又は、１つ以上のプロセッサによって解釈若しくは実行可能な他の命令フォーマットであってもよい。

【0051】

上述したものに加えて、概要説明において説明した全てのアクティビティ又は要素が必要とされているわけではなく、特定のアクティビティ又はデバイスの一部が必要とされない場合があり、１つ以上のさらなるアクティビティが実行される場合があり、１つ以上のさらなる要素が含まれる場合があることに留意されたい。さらに、アクティビティが列挙された順序は、必ずしもそれらが実行される順序ではない。また、概念は、特定の実施形態を参照して説明された。しかしながら、当業者であれば、特許請求の範囲に記載されているような本発明の範囲から逸脱することなく、様々な変更及び変形を行うことができるのを理解するであろう。したがって、明細書及び図面は、限定的な意味ではなく例示的な意味で考慮されるべきであり、これらの変更形態の全ては、本発明の範囲内に含まれることが意図される。

【0052】

利益、他の利点及び問題に対する解決手段を、特定の実施形態に関して上述した。しかし、利益、利点、問題に対する解決手段、及び、何かしらの利益、利点若しくは解決手段が発生又は顕在化する可能性のある特徴は、何れか若しくは全ての請求項に重要な、必須の、又は、不可欠な特徴と解釈されない。さらに、開示された発明は、本明細書の教示の利益を有する当業者には明らかな方法であって、異なっているが同様の方法で修正され実施され得ることから、上述した特定の実施形態は例示にすぎない。添付の特許請求の範囲に記載されている以外に本明細書に示されている構成又は設計の詳細については限定がない。したがって、上述した特定の実施形態は、変更又は修正されてもよく、かかる変更形態の全ては、開示された発明の範囲内にあると考えられることが明らかである。したがって、ここで要求される保護は、添付の特許請求の範囲に記載されている。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【国際調査報告】