▶ インターナショナル・ビジネス・マシーンズ・コーポレーションの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公表特許公報(A)
(11)【公表番号】
(43)【公表日】2023-11-29
(54)【発明の名称】負荷分散ワークスティーリングの低減
(51)【国際特許分類】
G06F 9/50 20060101AFI20231121BHJP
【ＦＩ】
G06F9/50 150Z
【審査請求】未請求
【予備審査請求】未請求
(21)【出願番号】P 2023526851
(86)(22)【出願日】2021-11-08
(85)【翻訳文提出日】2023-05-01
(86)【国際出願番号】 CN2021129290
(87)【国際公開番号】W WO2022111264
(87)【国際公開日】2022-06-02
(31)【優先権主張番号】17/102,696
(32)【優先日】2020-11-24
(33)【優先権主張国・地域又は機関】US
(81)【指定国・地域】
(71)【出願人】
【識別番号】390009531
【氏名又は名称】インターナショナル・ビジネス・マシーンズ・コーポレーション
【氏名又は名称原語表記】ＩＮＴＥＲＮＡＴＩＯＮＡＬ ＢＵＳＩＮＥＳＳ ＭＡＣＨＩＮＥＳ ＣＯＲＰＯＲＡＴＩＯＮ
【住所又は居所原語表記】Ｎｅｗ Ｏｒｃｈａｒｄ Ｒｏａｄ， Ａｒｍｏｎｋ， Ｎｅｗ Ｙｏｒｋ １０５０４， Ｕｎｉｔｅｄ Ｓｔａｔｅｓ ｏｆ Ａｍｅｒｉｃａ
(74)【代理人】
【識別番号】100112690
【弁理士】
【氏名又は名称】太佐 種一
(74)【代理人】
【識別番号】100120710
【弁理士】
【氏名又は名称】片岡 忠彦
(74)【復代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人ＲＹＵＫＡ国際特許事務所
(72)【発明者】
【氏名】堀江 倫大
(72)【発明者】
【氏名】緒方 一則
(72)【発明者】
【氏名】竹内 幹雄
(57)【要約】
シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する段階を備える方法が提供される。加えて、本方法は、ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する段階を備える。更に、本方法は、ＧＣオーナーキューが重量級タスクを有すると判断する段階を備える。本方法はまた、重量級タスクをＧＣオーナーキューの先頭位置に移動させる段階を備える。
【特許請求の範囲】
【請求項1】
シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する段階；前記ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する段階；
前記ＧＣオーナーキューが重量級タスクを有すると判断する段階；
前記重量級タスクを前記ＧＣオーナーキューの先頭位置に移動させる段階
を備える、コンピュータ実装方法。
【請求項2】
前記重量級タスクを移動させる段階は：前記ＧＣオーナーキューの前記先頭位置へのローカルポインタをデクリメントする段階；及び
前記先頭位置への前記デクリメントされたローカルポインタで、前記重量級タスクを記憶する段階
を有する、請求項１に記載のコンピュータ実装方法。
【請求項3】
前記重量級タスクを移動させる段階は：前記ＧＣオーナーキューの前記先頭位置への前記デクリメントされたローカルポインタ及びグローバルポインタに対してコンペア・アンド・スワップを実行する段階；
前記重量級タスクがヒープスペースのトゥスペースにコピーされないと判断する段階；及び
前記グローバルポインタを前記デクリメントされたローカルポインタにアップデートする段階
を更に有する、請求項２に記載のコンピュータ実装方法。
【請求項4】
前記重量級タスクは、参照配列を含むアプリケーションオブジェクトのためのガベージコレクションタスクを有する、請求項１に記載のコンピュータ実装方法。
【請求項5】
前記重量級タスクは、所定のタスク参照閾値を超過する他のアプリケーションオブジェクトへの参照の数を有する、請求項１に記載のコンピュータ実装方法。
【請求項6】
前記ＧＣオーナーキューは、両端キューを有する、請求項１に記載のコンピュータ実装方法。
【請求項7】
前記ＧＣオーナーキューは、ラストイン・ファーストアウトキューを有する、請求項６に記載のコンピュータ実装方法。
【請求項8】
１つ又は複数のコンピュータ可読記憶媒体、及び前記１つ又は複数のコンピュータ可読記憶媒体上で集合的に記憶されたプログラム命令を備え、前記プログラム命令は、１つ又は複数のプロセッサに：シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する手順；
前記ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する手順；
前記ＧＣオーナーキューが重量級タスクを含むと判断する手順；及び
前記重量級タスクを前記ＧＣオーナーキューの先頭位置に移動させる手順
を含む方法を実行させるように構成された命令を有する
コンピュータプログラム製品。
【請求項9】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置へのローカルポインタをデクリメントする手順；及び
前記先頭位置への前記デクリメントされたローカルポインタで、前記重量級タスクを記憶する手順
を有する、請求項８に記載のコンピュータプログラム製品。
【請求項10】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置への前記デクリメントされたローカルポインタ及びグローバルポインタに対してコンペア・アンド・スワップを実行する手順；
前記コンペア・アンド・スワップが成功したと判断する手順；及び
前記グローバルポインタを前記デクリメントされたローカルポインタにアップデートする手順
を更に有する、請求項９に記載のコンピュータプログラム製品。
【請求項11】
前記重量級タスクは、参照配列を有するアプリケーションオブジェクトのためのガベージコレクションタスクを有する、請求項８に記載のコンピュータプログラム製品。
【請求項12】
前記重量級タスクは、所定のタスク参照閾値を超過する他のアプリケーションオブジェクトへの参照の数を有する、請求項８に記載のコンピュータプログラム製品。
【請求項13】
前記ＧＣオーナーキューは、両端キューを備える、請求項８に記載のコンピュータプログラム製品。
【請求項14】
前記ＧＣオーナーキューは、ラストイン・ファーストアウトキューを備える、請求項１３に記載のコンピュータプログラム製品。
【請求項15】
１つ又は複数のコンピュータ処理回路；及び前記１つ又は複数のコンピュータ処理回路により実行されると、前記１つ又は複数のコンピュータ処理回路に：
シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する段階；
前記ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する段階；
前記ＧＣオーナーキューが重量級タスクを含むと判断する段階；及び
前記重量級タスクを前記ＧＣオーナーキューの先頭位置に移動させる段階
を有する方法を実行させるように構成されたプログラム命令を記憶する、１つ又は複数のコンピュータ可読記憶媒体
を備える、システム。
【請求項16】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置へのローカルポインタをデクリメントする手順；及び
前記先頭位置への前記デクリメントされたローカルポインタで、前記重量級タスクを記憶する手順
を有する、請求項１５に記載のシステム。
【請求項17】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置への前記デクリメントされたローカルポインタ及びグローバルポインタに対してコンペア・アンド・スワップを実行する手順；
前記コンペア・アンド・スワップが成功したと判断する手順；及び
前記グローバルポインタを前記デクリメントされたローカルポインタにアップデートする手順
を更に有する、請求項１６に記載のシステム。
【請求項18】
前記重量級タスクは、参照配列を有するアプリケーションオブジェクトのためのガベージコレクションタスクを有する、請求項１５に記載のシステム。
【請求項19】
前記重量級タスクは、所定のタスク参照閾値を超過する他のアプリケーションオブジェクトへの参照の数を有する、請求項１５に記載のシステム。
【請求項20】
前記ＧＣオーナーキューは、両端キュー及びラストイン・ファーストアウトキューを有する、請求項１５に記載のシステム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、負荷分散ワークスティーリングに関し、より具体的には、負荷分散ワークスティーリングの低減に関する。
【0002】
負荷分散は、複数のプロセスの間で関連する作業をコンピュータシステムが分担する方法を指す。このように、負荷分散は、負荷分散を伴うことなくコンピュータシステムを動作させる場合に比べ、これらのシステムをより効率的に動作させる上で有用であり得る。
【発明の概要】
【0003】
方法について実施形態が開示される。本方法は、シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する段階を備える。加えて、本方法は、ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する段階を備える。更に、本方法は、ＧＣオーナーキューが重量級タスクを有すると判断する段階を備える。本方法はまた、重量級タスクをＧＣオーナーキューの先頭位置に移動させる段階を備える。
【0004】
更に、本開示の態様は、コンピュータ実装方法に関する上述の機能と類似する機能を有するシステム及びコンピュータプログラム製品を対象とする。本発明の概要は、本開示の各態様、全ての実装、及び／又は全ての実施形態を示すようには意図されていない。
【図面の簡単な説明】
【0005】
本出願に含まれる図面は、本明細書に組み込まれ、本明細書の一部を形成する。これらは、本開示の実施形態を示し、この説明と共に、本開示の原理を説明する役割を果たす。図面は、特定の実施形態の例示に過ぎず、本開示を限定しない。
【0006】
【図1】本開示のいくつかの実施形態に係る、負荷分散ワークスティーリング低減のための例示的なコンピューティングシステムのブロック図である。
【0007】
【図2A】本開示のいくつかの実施形態に係る、例示的なＧＣオーナーキュー及びＧＣシーフキューのブロック図である。
【図2B】本開示のいくつかの実施形態に係る、例示的なＧＣオーナーキュー及びＧＣシーフキューのブロック図である。
【0008】
【図3】本開示のいくつかの実施形態に係る、負荷分散ワークスティーリング低減のための例示的なメモリである。
【0009】
【図4】本開示のいくつかの実施形態に係る、負荷分散ワークスティーリング低減のための例示的な方法のプロセスフロー図である。
【0010】
【図5】本開示のいくつかの実施形態に係る、例示的なガベージコレクションマネジャのブロック図である。
【0011】
本開示は様々な修正形態及び代替形態に適しているが、その具体的内容は、図面において例として示されており、詳細に説明される。しかしながら、説明される特定の実施形態に本開示を限定するようには意図されていないことが理解されるべきである。反対に、本開示の範囲内に入る全ての修正形態、均等形態、及び代替形態を包含するように意図されている。
【発明を実施するための形態】
【0012】
前述の通り、負荷分散は、コンピュータシステムをより効率的に動作させるために有用な方法となり得る。例えば、負荷分散は、ガベージコレクション技術であるワークスティーリングにおいて有用である。ガベージコレクションとは、古い、及び／又はそうでなければ未使用のデータをコンピュータメモリから除去することを指す。ガベージコレクションを伴わない場合、コンピュータストレージは乱雑になり得る、及び／又はコンピュータアプリケーションの実行方法やメモリそのものの動作方法に非効率性がもたらされ得る。ガベージコレクションは、複数のスレッドが並行して実行されることを伴い、例えばコンピュータメモリにおける未使用のデータを効果的に削除することで、乱雑になることや、その他の潜在的な非効率性を低減し得る。
【0013】
ガベージコレクション（ＧＣ）スレッドは、ガベージコレクションスレッドがメモリを探索する際に構築するタスクのキューを用いて、自らの作業を追跡することができる。しかしながら、ガベージコレクションスレッドのタスクがなくなると、そのガベージコレクションスレッド、例えばシーフスレッドは、そのそれぞれのキューにおいて未処理のタスクを有するオーナーのガベージコレクションスレッドから「作業を盗む」ことができる。換言すれば、ガベージコレクションスレッドのタスクがなくなると、このシーフスレッドは、オーナースレッドのキューからタスクを盗む。このように、ＧＣシステムは、ガベージコレクションスレッド間でガベージコレクションの負荷を分散させる。しかしながら、このようにしてワークスティーリングを実行する場合、メモリの整合性の維持に関して計算コストが生じる。
【0014】
従って、本開示の実施形態は、シーフスレッドが他のガベージコレクションスレッドからタスクを盗む頻度を低下させるような方法で、ガベージコレクションキューを構築することができる。いくつかの実施形態において、ガベージコレクションスレッドは、それらのキューにおける重量級タスクを、シーフスレッドが盗むように配置することができる。重量級タスクは、比較的軽量級のタスクに比べて実行のための計算コストが相対的により高いガベージコレクションタスクであり得る。従って、シーフスレッドは、より軽量級のタスクの完了に伴う時間よりも多くの時間を盗まれた重量級タスクの完了に費やす可能性があり、そのため、スティール間の時間に遅延が生じる。このように、本開示の実施形態は、スティールの試みの頻度を低減し、負荷分散ワークスティーリングの効率を改善することができる。
【0015】
図１は、本開示のいくつかの実施形態に係る、負荷分散ワークスティーリング低減のための例示的なコンピューティングシステム１００のブロック図である。コンピューティングシステム１００は、メモリ１０２及びランタイム環境（ランタイム）１０４を含む。メモリ１０２は、コンピュータアプリケーションのデータ及びコンピュータ命令を記憶するコンピュータメモリであり得る。メモリ１０２は、コンピュータシステム１００上で現在実行中の、又は実行を完了したコンピュータアプリケーションのデータ及びコンピュータ命令を表し得るアプリケーションオブジェクト１０６を含み得る。いくつかのシナリオにおいて、アプリケーションオブジェクト１０６は、図２Ａおよび図２Ｂに関してより詳細に説明されるツリーグラフとして表され得る。
【0016】
再び図１を参照すると、ランタイム１０４は、コンピュータアプリケーションが実行されるコンピューティング環境であり得る。更に、ランタイム１０４は、メモリ１０２、アプリケーションがどのようにして変数にアクセスし、アプリケーション間でパラメータを渡すためのメカニズムを提供し、オペレーティングシステム（図示せず）とインタフェースするかを管理し得る。ランタイム１０４は、Ｊａｖａ Ｖｉｒｔｕａｌ Ｍａｃｈｉｎｅ（登録商標）などのエンタープライズ及び／又はオープンソースプラットフォームにおける仮想マシンを含み得る。
【0017】
本開示のいくつかの実施形態によれば、ランタイム１０４は、ガベージコレクションマネジャ１０８及びガベージコレクションスレッド１１０を含み得る。ランタイム１０４は、ガベージコレクションマネジャ１０８及びガベージコレクションスレッド１１０を用いて、メモリにおける残余のアプリケーションオブジェクト１０６をクリーンアップすることにより、メモリ１０２を管理することができる。このように、ランタイム１０４は、メモリ１０２が乱雑になり、コンピュータシステム１００上で実行されているアプリケーションのパフォーマンスを妨げることを防ぐための助けとなる。このように、ガベージコレクションマネジャ１０８は、ガベージコレクションスレッド１１０を用いてメモリ１０２における「ごみを収集」することができる。更に、ガベージコレクションスレッド１１０は、ワークスティーリングを実行することにより、ガベージコレクションの作業を負荷分散することができる。
【0018】
ガベージコレクション処理中、ガベージコレクションスレッド１１０は、ガベージコレクション（ＧＣ）オーナースレッド１１０－１及びＧＣシーフスレッド１１０－２を含み得る。前述の通り、ガベージコレクションスレッド１１０のうち１つがそのキュー１１２におけるタスクを完了すると、このスレッドは、別のスレッド、例えばＧＣオーナースレッド１１０－１のＧＣオーナーキュー１１２－１からタスクを「盗み」、盗まれたタスクを実行して、ガベージコレクションの負荷の分散を助けることができる。タスクを盗むガベージコレクションスレッド１１０は、そのため、ＧＣシーフスレッド１１０－２と称される。
【0019】
前述の通り、ワークスティーリングは、計算コストが高く、コンピュータシステム１００の効率を低下させ得る。従って、本開示のいくつかの実施形態において、ガベージコレクションマネジャ１０８は、ＧＣシーフスレッド１１０－２が他のタスクよりも実行するのに相対的により長い時間を要する盗まれた作業、例えばタスクを提供することにより、ワークスティーリングの頻度及びその関連コストを低減することができる。例えば、ＧＣシーフスレッド１１０－２がＧＣオーナースレッド１１０－１からタスクを盗むことを試みると、ガベージコレクションマネジャ１０８は、重量級タスクを、ＧＣシーフスレッド１１０－２が盗むようにキューの先頭に置くことができる。従って、ＧＣシーフスレッド１１０－２は、比較的より軽量級のタスクよりも、重量級タスクの実行により多くの時間を費やし得る。こうして、ＧＣシーフスレッド１１０－２が盗まれたタスクを完了する場合、ＧＣシーフスレッド１１０－２がＧＣオーナースレッド１１０－１から別のタスクを盗むまでにより長い遅延が生じる。このように、ガベージコレクションマネジャ１０８は、ＧＣシーフスレッド１１０－２が実行する負荷分散ワークスティールの数を低減することができる。こうして、ガベージコレクションマネジャ１０８は、本開示の実施形態における負荷分散ワークスティーリングのパフォーマンスを改善することができる。
【0020】
図２Ａは、本開示のいくつかの実施形態に係る、例示的なＧＣオーナーキュー２０２－１及びＧＣシーフキュー２０２－２のブロック図である。ＧＣオーナーキュー２０２－１及びＧＣシーフキュー２０２－２はまた、ＧＣキュー２０２と総称される。キュー２０２は、それぞれ名称を付されたアプリケーションオブジェクトに対するタスクを各々表す、アルファベット順にラベル付けされた円を含むシリンダとして表される。これらのアプリケーションオブジェクトは、図１に関して説明されるアプリケーションオブジェクト１０６の例であり得る。再び図２Ａを参照すると、ＧＣオーナーキュー２０２－１は、それぞれのアプリケーションオブジェクトに対するタスク、「ｂ」、「ｃ」、「ｄ」、及び「ａ」を含む。加えて、キュー２０２は、キューの末尾（Ｂ）及び先頭（Ｔ）に対するポインタを示す矢印を有する。加えて、「プッシュ」及び「ポップ」操作は、それぞれタスク「ｂ」を指し示す、及びタスク「b」から指し示す線で表されている。プッシュ操作は、キューに新たなエントリを追加する。これに対し、ポップ操作は、キューからアイテムを除去する。この例において、キュー２０２は、例示的なラストイン・ファーストアウト（ＬＩＦＯ）両端キューを表す。従って、末尾のタスクは、キュー２０２上でプッシュされた最後のタスクである。従って、タスク「ｂ」はキューの末尾にあり、そのため、ＧＣオーナーキュー２０２－１から読み取られ、除去される次のタスクである。更に、タスク「ｂ」は、ＧＣオーナースレッド１１０－１が実行する次のタスクである。これに対し、タスク「ａ」はキューの先頭にある。
【0021】
ＧＣオーナーキュー２０２－１とは対照的に、ＧＣシーフキュー２０２－２はタスクを有しない。それぞれＢ及びＴの矢印は、明確にするために別々に表されている。しかしながら、ＧＣシーフキュー２０２－２の末尾及び先頭は、同じ空のエントリを示している。この例は、ＧＣシーフスレッド１１０－２がＧＣオーナーキュー２０２－１からタスクを「盗む」ことを試み得る時間を表している。この盗みの試みは、ＧＣキュー２０２間の線によって示されている。キューの先頭で行われるポップ操作とは対照的に、ワークスティールは、キューの先頭にあるエントリ、例えばタスクａを伴う。本開示のいくつかの実施形態によれば、ガベージコレクションは、追加の基準が満たされる場合、ワークスティールの試みに応答してタスク「ａ」を配置することができる。例えば、ガベージコレクションマネジャ１０８は、ＧＣオーナーキュー２０２－１におけるエントリの数が所定の閾値を満たし、且つそのタスク「ａ」が重量級タスクである場合に、タスク「ａ」をキューの先頭に移動させる。
【0022】
図２Ｂは、本開示のいくつかの実施形態に係る、例示的なＧＣキュー２０２のブロック図である。この例において、ＧＣシーフスレッド１１０－２は、ワークスティールを完了している。従って、タスク「ａ」はＧＣオーナーキュー２０２－１から除去され、ＧＣシーフキュー２０２－２にコピーされる。更に、ＧＣオーナーキュー２０２－１の末尾が依然としてタスク「Ｂ」にある一方で、ＧＣオーナーキュー２０２－１の先頭は現在タスク「ｄ」にある。ＧＣシーフキュー２０２－２に関し、末尾及び先頭の矢印は、明確にするために別々に配置されているが、同じエントリへのポインタを表している。従って、タスク「ａ」はＧＣシーフキュー２０２－２の先頭及び末尾にある。
【0023】
図３は、本開示のいくつかの実施形態に係る、負荷分散ワークスティーリング低減のための例示的なメモリ３００のブロック図である。前述の通り、図１に関して説明されるガベージコレクションスレッド１１０は、ガベージコレクションタスクを実行する。場合によっては、ガベージコレクションタスクは、並行コピーガベージコレクション（並行コピーＧＣ）を伴い得る。並行コピーＧＣは、例えばエンタープライズ及びオープンソースＪＶＭＳの両方において用いられる。並行コピーＧＣは、ライブアプリケーションオブジェクトをメモリ内の新たなスペースにコピーすることを伴い得る。ライブアプリケーションオブジェクトは、コンピュータアプリケーションによって依然として使用されているアプリケーションオブジェクト１０６であり得る。これに対し、非アクティブアプリケーションオブジェクトは、新たなメモリスペースにコピーされない。非アクティブアプリケーションオブジェクトは、コンピュータアプリケーションによってもはや使用されていないアプリケーションオブジェクト１０６であり得る。非アクティブアプリケーションオブジェクトは、並行コピーＧＣ中に新たなメモリスペースにコピーされないため、これらの非アクティブアプリケーションオブジェクトは、メモリ１０２から実質的に削除される。
【0024】
再び図３を参照すると、メモリ３００は、メモリスタック３０２、ヒープスペース３０４、ＧＣオーナースレッドキュー３０６－１、及びＧＣシーフスレッドキュー３０６－２を含み得る。メモリスタック３０２は、アクティブアプリケーションオブジェクトへのポインタを有する、ランタイム１０４などのランタイムによって維持されるディレクトリであり得る。この例において、アプリケーションオブジェクト１０６は、「ａ」から「ｎ」までのアルファベット順にラベル付けされている。スタック３０２からの矢印は、アプリケーションオブジェクトａ及びｂへのポインタを示している。アプリケーションオブジェクト１０６は、ツリー構造を用いて表され得る。ツリー構造は、個々のアプリケーションオブジェクト間の関係を示し得る。例えば、アプリケーションオブジェクトａは、アプリケーションオブジェクトｄ、ｅ、及びｆに関連している。アプリケーションオブジェクトａからアプリケーションオブジェクトｄ、ｅ、及びｆへの線は、アプリケーションオブジェクトａがアプリケーションオブジェクトｄ、ｅ、及びｆへのポインタを含むことを示し得る。これらの関係は、あるアプリケーションオブジェクト１０６から別のアプリケーションオブジェクトへの実行呼び出し、あるアプリケーションオブジェクトに記憶されたデータの、別のアプリケーションオブジェクトのコンピュータ命令による使用などを示し得る。
【0025】
ヒープスペース３０４は、ランタイム１０４がコンピュータアプリケーションのアプリケーションオブジェクト１０６を維持し得るメモリ３００の領域であり得る。ＧＣオーナースレッドキュー３０６－１及びＧＣシーフスレッドキュー３０６－２は、図１に関して説明されたＧＣオーナースレッド１１０－１のＧＣオーナーキュー１１２－１及びＧＣシーフスレッド１１０－２のＧＣシーフキュー１１２－２と同様であり得る。再び図３を参照すると、３０６－先頭及び３０６－末尾は、ＧＣオーナーキュー及びＧＣシーフキューのそれぞれ先頭及び末尾のインデックスを表し得る。加えて、ヒープスペース３０４は、フロムスペース３０８及びトゥスペース３１０を含み得る。フロムスペース３０８は、ランタイム１０４がアプリケーションオブジェクト１０６のために使用している現在のメモリスペースであり得る。トゥスペース３１０は、ガベージコレクションスレッド１１０がライブアプリケーションオブジェクトをコピーしている新たなメモリスペースを表し得る。
【0026】
図示の通り、スタック３０２からも、任意の他のアプリケーションオブジェクトからも、アプリケーションオブジェクトｋ及びｎへのポインタは存在しない。ポインタの欠如は、これらのアプリケーションオブジェクトが非アクティブアプリケーションオブジェクトであることを示し得る。従って、ガベージコレクションスレッド１１０は、アプリケーションオブジェクトｋ及びｎをトゥスペース３１０にコピーせず、実質的にこれらのオブジェクトを削除し得る。
【0027】
より具体的には、並行コピーＧＣにおいて、ランタイム１０４は、ＧＣ時間中、すなわちガベージコレクションスレッド１１０の実行時に、コンピュータアプリケーションスレッドを一時停止することができる。更に、ガベージコレクションスレッド１１０は、１）トゥスペース３１０においてスペースを取得すること、２）アプリケーションオブジェクトをトゥスペース３１０において取得されたスペースにコピーすること、３）フロムスペース３０８における元のアプリケーションオブジェクトのヘッダ内のフォワーディングポインタを、トゥスペース３１０においてコピーされたオブジェクトを指し示すように設定すること、４）コピーされたオブジェクトＡ'におけるポインタを、元のオブジェクトがＡによって参照されたオブジェクトである、別のコピーされたオブジェクトＢ'を指し示すように設定し、元のＢに向けてコピーされたオブジェクトＡ'におけるポインタを除去すること、及び５）コピーされたアプリケーションオブジェクトをスキャンすることにより、他のアプリケーションオブジェクト１０６への参照を見つけること、によって、アプリケーションオブジェクトをコピーすることができる。アプリケーションオブジェクト１０６は、いくつかのアプリケーションオブジェクト１０６から参照され得るため、複数のガベージコレクションスレッド１１０は、コピー手順中に同じアプリケーションオブジェクトに到達し得る。このように、ガベージコレクションスレッド１１０は、アプリケーションオブジェクト１０６をアトミックにコピーする。１つのガベージコレクションスレッド１１０だけがアプリケーションオブジェクト１０６を首尾よくコピーできるため、フォワーディングポインタは、コンペア・アンド・スワップ操作を用いてアトミックに設定される。コンペア・アンド・スワップ操作に失敗するスレッドは、こうして、アプリケーションオブジェクト１０６のそのコピーを削除することができる。
【0028】
図４は、本開示のいくつかの実施形態に係る、負荷分散ワークスティーリング低減のための方法４００の例示的なプロセスフロー図のブロック図である。ガベージコレクションマネジャ１０８などのガベージコレクションマネジャは、方法４００を実行し得る。
【0029】
操作４０２において、ガベージコレクションマネジャ１０８は、ＧＣシーフスレッド１１０－２などのシーフスレッドがワークスティールを試みたと判断することができる。ガベージコレクションマネジャ１０８は、ＧＣシーフキュー１１２－２の先頭に対するローカルインデックスがグローバルインデックスと合致するかどうかに基づき、試みが発生したと判断することができる。合致しない場合は、ＧＣシーフスレッド１１０－２がワークスティールを試みた。
【0030】
操作４０４において、ガベージコレクションマネジャ１０８は、オーナーキューにおけるタスクの数が所定の閾値を満たす、又は超過すると判断することができる。ＧＣオーナーキュー１１２－１におけるタスクの数が相対的に少ない場合、ワークスティーリングを低減することは有用でない可能性がある。そのため、所定の閾値は、ワークスティールの低減が効率を改善するように、タスクの最小数を示し得る。
【0031】
操作４０６において、ガベージコレクションマネジャ１０８は、ＧＣオーナーキュー１１２－１が、待ち行列に入れられた重量級タスクを有すると判断することができる。重量級タスクは、参照配列などの重量級アプリケーションオブジェクトのためのタスクであり得る。本開示のいくつかの実施形態において、アプリケーションオブジェクトが所定数より多いタスクを含む場合、アプリケーションオブジェクトは重量級タスクを表し得る。
【0032】
操作４０８において、ガベージコレクションマネジャ１０８は、重量級タスクをＧＣオーナーキュー１１２－１の先頭にプッシュすることができる。ガベージコレクションマネジャ１０８は、１）先頭ポインタへのインデックスをローカルにデクリメントすること、２）デクリメントされた先頭で重量級タスクのためのエントリを記憶すること、及び３）コンペア・アンド・スワップ（ＣＡＳ）命令を用いて先頭ポインタをグローバルにアップデートすることにより、重量級タスクをＧＣオーナーキュー１１２－１の先頭にプッシュすることができる。ＣＡＳ命令は、重量級タスクが既にトゥスペースにコピーされたかを判断することができる。そうでない場合、ガベージコレクションマネジャ１０８は、先頭ポインタをアップデートすることができる。
【0033】
図５は、本開示のいくつかの実施形態に係る、例示的なガベージコレクションマネジャ５００のブロック図である。様々な実施形態において、ガベージコレクションマネジャ５００は、ガベージコレクションマネジャ１０８と類似しており、図４において説明された方法及び／又は図１～図３において論述された機能を実行することができる。いくつかの実施形態において、ガベージコレクションマネジャ５００は、前述の方法及び／又は機能のための命令をクライアントマシンに提供し、これにより、クライアントマシンは、ガベージコレクションマネジャ５００によって提供された命令に基づき、方法、又は方法の一部分を実行する。いくつかの実施形態において、ガベージコレクションマネジャ５００は、複数のデバイスに組み込まれたハードウェア上で実行されるソフトウェアを含み得る。
【0034】
ガベージコレクションマネジャ５００は、メモリ５２５、ストレージ５３０、相互接続（例えば、ＢＵＳ）５２０、１つ又は複数のＣＰＵ５０５（本明細書においてプロセッサ５０５とも称される）、Ｉ／Ｏデバイスインタフェース５１０、Ｉ／Ｏデバイス５１２、及びネットワークインタフェース５１５を含む。
【0035】
各ＣＰＵ５０５は、メモリ５２５又はストレージ５３０に格納されたプログラミング命令を取得及び実行する。相互接続５２０は、ＣＰＵ５０５、Ｉ／Ｏデバイスインタフェース５１０、ストレージ５３０、ネットワークインタフェース５１５、及びメモリ５２５との間でプログラミング命令などのデータを移動させるために用いられる。相互接続５２０は、１つ又は複数のバスを用いて実装され得る。ＣＰＵ５０５は、様々な実施形態において、単一のＣＰＵ、複数のＣＰＵ、又は複数の処理コアを有する単一のＣＰＵであり得る。いくつかの実施形態において、ＣＰＵ５０５は、デジタル信号プロセッサ（ＤＳＰ）であり得る。いくつかの実施形態において、ＣＰＵ５０５は、１つ又は複数の３Ｄ集積回路（３ＤＩＣ）（例えば、３Ｄウェハレベルパッケージ（３ＤＷＬＰ）、３Ｄインターポーザベースインテグレーション、３Ｄ積層ＩＣ（３Ｄ－ＳＩＣ）、モノリシック３Ｄ ＩＣ、３Ｄ異種インテグレーション、３Ｄシステムインパッケージ（３ＤＳｉＰ）、及び／又はパッケージオンパッケージ（ＰｏＰ）のＣＰＵ構成）を含む。メモリ５２５は概して、ランダムアクセスメモリ（例えば、スタティックランダムアクセスメモリ（ＳＲＡＭ）、ダイナミックランダムアクセスメモリ（ＤＲＡＭ）又はフラッシュ）を代表するように含まれる。ストレージ５３０は概して、ハードディスクドライブ、ソリッドステートデバイス（ＳＳＤ）、取り外し可能メモリカード、光ストレージ、及び／又はフラッシュメモリデバイスなどの不揮発性メモリを代表するように含まれる。加えて、ストレージ５３０は、ストレージ領域ネットワーク（ＳＡＮ）デバイス、クラウド、又はＩ／Ｏデバイスインタフェース５１０を介してガベージコレクションマネジャ５００に、又はネットワークインタフェース５１５を介してネットワーク５５０に接続された他のデバイスを含み得る。
【0036】
いくつかの実施形態において、メモリ５２５は、命令５６０を格納する。しかしながら、様々な実施形態において、命令５６０は、部分的にメモリ５２５に、かつ、部分的にストレージ５３０に格納されるか、全体的にメモリ５２５に、又は全体的にストレージ５３０に格納されるか、ネットワークインタフェース５１５を介してネットワーク５５０上でアクセスされる。
【0037】
【0038】
様々な実施形態において、Ｉ／Ｏデバイス５１２は、情報の提示及び入力の受信ができるインタフェースを含む。例えば、Ｉ／Ｏデバイス５１２は、ガベージコレクションマネジャ５００とインタラクトするリスナーに情報を提示し、リスナーからの入力を受信することができる。
【0039】
ガベージコレクションマネジャ５００は、ネットワークインタフェース５１５を介してネットワーク５５０に接続される。ネットワーク５５０は、物理ネットワーク、無線ネットワーク、セルラネットワーク又は異なるネットワークを備え得る。
【0040】
いくつかの実施形態において、ガベージコレクションマネジャ５００は、マルチユーザメインフレームコンピュータシステム、シングルユーザシステム、又はサーバコンピュータ、又は、ダイレクトユーザインタフェースを殆ど又は全く有しないものの、他のコンピュータシステム（クライアント）からのリクエストを受信する類似のデバイスであり得る。更に、いくつかの実施形態において、ガベージコレクションマネジャ５００は、デスクトップコンピュータ、ポータブルコンピュータ、ラップトップ又はノートブックコンピュータ、タブレットコンピュータ、ポケットコンピュータ、電話、スマートフォン、ネットワークスイッチ又はルータ、又は任意の他の適切なタイプの電子デバイスとして実装され得る。
【0041】
図５は例示的なガベージコレクションマネジャ５００の代表的な主要コンポーネントを示すことを意図していることに留意されたい。しかしながら、いくつかの実施形態において、個々のコンポーネントは、図５に表されるよりも高いか低い複雑度を有する可能性があり、図５に示されるもの以外の、又は図５に示されるものとは他のコンポーネントが存在する可能性があり、そのようなコンポーネントの数、タイプ及び構成は、変わる可能性がある。
【0042】
本発明は、任意の考えられる技術詳細レベルで統合化されたシステム、方法、及び／又はコンピュータプログラム製品であり得る。コンピュータプログラム製品は、プロセッサに本発明の態様を実行させるためのコンピュータ可読プログラム命令を有するコンピュータ可読記憶媒体（又は複数のコンピュータ可読記憶媒体）を含み得る。
【0043】
コンピュータ可読記憶媒体は、命令実行デバイスにより使用される命令を保持及び記憶可能な有形デバイスであり得る。コンピュータ可読記憶媒体は、例えば、電子記憶デバイス、磁気記憶デバイス、光学記憶デバイス、電磁記憶デバイス、半導体記憶デバイス、又は、上述のものの任意の好適な組み合わせであり得るが、これらに限定されない。コンピュータ可読記憶媒体のより具体的な例の非包括的なリストは、ポータブルコンピュータディスケット、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ＥＰＲＯＭ又はフラッシュメモリ）、スタティックランダムアクセスメモリ（ＳＲＡＭ）、ポータブルコンパクトディスクリードオンリメモリ（ＣＤ－ＲＯＭ）、デジタル多用途ディスク（ＤＶＤ）、メモリスティック、フロッピディスク、パンチカード又は命令が記録されている溝内の隆起構造などの機械的に符号化されたデバイス、及び、上述のものの任意の好適な組み合わせを含む。本明細書において使用されるコンピュータ可読記憶媒体は、電波又は他の自由に伝播する電磁波、導波路又は他の伝送媒体を通って伝播する電磁波（例えば、光ファイバケーブルを通過する光パルス）、又はワイヤを通じて伝送される電気信号等、それ自体が一時的な信号であると解釈されるべきではない。
【0044】
本明細書で説明されるコンピュータ可読プログラム命令は、コンピュータ可読記憶媒体からそれぞれのコンピューティング／処理デバイスにダウンロードされてもよく、又は、ネットワーク、例えば、インターネット、ローカルエリアネットワーク、ワイドエリアネットワーク、及び／又は無線ネットワークを介して、外部コンピュータ又は外部記憶デバイスにダウンロードされてもよい。ネットワークは、銅伝送ケーブル、光伝送ファイバ、無線伝送、ルータ、ファイアウォール、スイッチ、ゲートウェイコンピュータ、及び／又はエッジサーバを備え得る。各コンピューティング／処理デバイス内のネットワークアダプタカード又はネットワークインタフェースは、ネットワークからコンピュータ可読プログラム命令を受信し、当該コンピュータ可読プログラム命令を、それぞれのコンピューティング／処理デバイス内のコンピュータ可読記憶媒体に記憶するために転送する。
【0045】
本発明の動作を実行するコンピュータ可読プログラム命令は、アセンブラ命令、命令セットアーキテクチャ（ＩＳＡ）命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、集積回路の構成データであってもよく、Ｓｍａｌｌｔａｌｋ（登録商標）又はＣ＋＋等のようなオブジェクト指向プログラミング言語、及び「Ｃ」プログラミング言語又は同様のプログラミング言語のような手続き型プログラミング言語を含む１つ又は複数のプログラミング言語の任意の組み合わせで記述したソースコード又はオブジェクトコードであってもよい。コンピュータ可読プログラム命令は、スタンドアロンのソフトウェアパッケージとして、ユーザのコンピュータ上で全体を実行すること、ユーザのコンピュータ上で一部分を実行することができ、ユーザのコンピュータ上で一部分を、リモートコンピュータ上で一部分を実行すること、又は、リモートコンピュータ又はサーバ上で全体を実行することができる。後者のシナリオでは、リモートコンピュータは、ローカルエリアネットワーク（ＬＡＮ）又はワイドエリアネットワーク（ＷＡＮ）を含む任意のタイプのネットワークを介してユーザのコンピュータに接続されてもよく、又は、その接続は、外部コンピュータに対して（例えば、インターネットサービスプロバイダを使用してインターネットを介して）行われてもよい。いくつかの実施形態において、例えば、プログラマブルロジック回路、フィールドプログラマブルゲートアレイ（ＦＰＧＡ）、又はプログラマブルロジックアレイ（ＰＬＡ）を含む電子回路は、本発明の態様を実行するために、コンピュータ可読プログラム命令の状態情報を利用することによってコンピュータ可読プログラム命令を実行して、電子回路をパーソナライズしてよい。
【0046】
本発明の態様は、本明細書において、本発明の実施形態による方法、装置（システム）、及び、コンピュータプログラム製品のフローチャート図及び／又はブロック図を参照して説明されている。フローチャート図及び／又はブロック図の各々のブロック及び、フローチャート図及び／又はブロック図におけるブロックの組み合わせが、コンピュータ可読プログラム命令によって実装できることが理解されよう。
【0047】
これらのコンピュータ可読プログラム命令をコンピュータ、又は他のプログラマブルデータ処理装置のプロセッサに提供してマシンを生み出してよく、それにより、コンピュータ又は他のプログラマブルデータ処理装置のプロセッサを介して実行される命令が、フローチャート及び／又はブロック図の１つ又は複数のブロックで指定された機能／動作を実装する手段を作成するようになる。また、これらのコンピュータ可読プログラム命令は、コンピュータ、プログラマブルデータ処理装置、及び／又は他のデバイスに特定の様式で機能するように指示することが可能なコンピュータ可読記憶媒体にも記憶することができ、これにより、命令を記憶したコンピュータ可読記憶媒体が、フローチャート及び／又はブロック図の１つ又は複数のブロックで指定される機能／動作の態様を実装する命令を含む製品を含むようになる。
【0048】
また、コンピュータ可読プログラム命令は、コンピュータ、他のプログラマブルデータ処理装置、又は、他のデバイスにロードして、コンピュータ、他のプログラマブル装置、又は、他のデバイス上で一連の動作ステップを実行させることでコンピュータ実装プロセスを作成することもでき、これにより、コンピュータ、他のプログラマブル装置、又は、他のデバイス上で実行される命令が、フローチャート及び／又はブロック図の１つ又は複数のブロックで指定される機能／動作を実装するようになる。
【0049】
図面におけるフローチャート及びブロック図は、本発明の様々な実施形態に係るシステム、方法、及びコンピュータプログラム製品の考えられる実装形態のアーキテクチャ、機能、及び動作を示している。これに関して、フローチャート又はブロック図における各ブロックは、指定された論理機能を実装するための１つ又は複数の実行可能命令を含む命令のモジュール、セグメント、又は、一部分を表し得る。いくつかの代替的な実装形態において、ブロックに記されている機能は、図面に記されている順序とは異なる順序で行われ得る。例えば、連続して示されている２つのブロックは、実際には、１つの段階として達成されても、同時に、実質的に同時に、部分的に若しくは全体的に時間重複する形で実行されてもよいし、ブロックは、関与する機能に依存して逆の順序で実行される場合もあり得る。ブロック図及び／又はフローチャート図の各ブロック、及び、ブロック図及び／又はフローチャート図におけるブロックの組み合わせが、指定された機能又は動作を実行する、又は特定用途向けハードウェア及びコンピュータ命令の組み合わせを実行する、特定用途向けのハードウェアベースのシステムによって実装され得ることにも留意されたい。
【図1】
【図2A】
【図2B】
【図3】
【図4】
【図5】
【手続補正書】
【提出日】2023-06-02
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する段階；前記ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する段階；
前記ＧＣオーナーキューが重量級タスクを有すると判断する段階；
前記重量級タスクを前記ＧＣオーナーキューの先頭位置に移動させる段階
を備える、コンピュータ実装方法。
【請求項2】
前記重量級タスクを移動させる段階は：前記ＧＣオーナーキューの前記先頭位置へのローカルポインタをデクリメントする段階；及び
前記先頭位置への前記デクリメントされたローカルポインタで、前記重量級タスクを記憶する段階
を有する、請求項１に記載のコンピュータ実装方法。
【請求項3】
前記重量級タスクを移動させる段階は：前記ＧＣオーナーキューの前記先頭位置への前記デクリメントされたローカルポインタ及びグローバルポインタに対してコンペア・アンド・スワップを実行する段階；
前記重量級タスクがヒープスペースのトゥスペースにコピーされないと判断する段階；及び
前記グローバルポインタを前記デクリメントされたローカルポインタにアップデートする段階
を更に有する、請求項２に記載のコンピュータ実装方法。
【請求項4】
前記重量級タスクは、参照配列を含むアプリケーションオブジェクトのためのガベージコレクションタスクを有する、請求項１から３のいずれか一項に記載のコンピュータ実装方法。
【請求項5】
前記重量級タスクは、所定のタスク参照閾値を超過する他のアプリケーションオブジェクトへの参照の数を有する、請求項１から４のいずれか一項に記載のコンピュータ実装方法。
【請求項6】
前記ＧＣオーナーキューは、両端キューを有する、請求項１から５のいずれか一項に記載のコンピュータ実装方法。
【請求項7】
前記ＧＣオーナーキューは、ラストイン・ファーストアウトキューを有する、請求項６に記載のコンピュータ実装方法。
【請求項8】
プログラム命令を備え、前記プログラム命令は、１つ又は複数のプロセッサに：シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する手順；
前記ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する手順；
前記ＧＣオーナーキューが重量級タスクを含むと判断する手順；及び
前記重量級タスクを前記ＧＣオーナーキューの先頭位置に移動させる手順
を含む方法を実行させるように構成された命令を有する
コンピュータプログラム。
【請求項9】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置へのローカルポインタをデクリメントする手順；及び
前記先頭位置への前記デクリメントされたローカルポインタで、前記重量級タスクを記憶する手順
を有する、請求項８に記載のコンピュータプログラム。
【請求項10】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置への前記デクリメントされたローカルポインタ及びグローバルポインタに対してコンペア・アンド・スワップを実行する手順；
前記コンペア・アンド・スワップが成功したと判断する手順；及び
前記グローバルポインタを前記デクリメントされたローカルポインタにアップデートする手順
を更に有する、請求項９に記載のコンピュータプログラム。
【請求項11】
前記重量級タスクは、参照配列を有するアプリケーションオブジェクトのためのガベージコレクションタスクを有する、請求項８から１０のいずれか一項に記載のコンピュータプログラム。
【請求項12】
前記重量級タスクは、所定のタスク参照閾値を超過する他のアプリケーションオブジェクトへの参照の数を有する、請求項８から１１のいずれか一項に記載のコンピュータプログラム。
【請求項13】
前記ＧＣオーナーキューは、両端キューを備える、請求項８から１２のいずれか一項に記載のコンピュータプログラム。
【請求項14】
前記ＧＣオーナーキューは、ラストイン・ファーストアウトキューを備える、請求項１３に記載のコンピュータプログラム。
【請求項15】
１つ又は複数のコンピュータ処理回路；及び前記１つ又は複数のコンピュータ処理回路により実行されると、前記１つ又は複数のコンピュータ処理回路に：
シーフスレッドがガベージコレクション（ＧＣ）オーナーキューからのワークスティールを試みたと判断する段階；
前記ＧＣオーナーキューにおけるタスクの数が所定の閾値を満たすと判断する段階；
前記ＧＣオーナーキューが重量級タスクを含むと判断する段階；及び
前記重量級タスクを前記ＧＣオーナーキューの先頭位置に移動させる段階
を有する方法を実行させるように構成されたプログラム命令を記憶する、１つ又は複数のコンピュータ可読記憶媒体
を備える、システム。
【請求項16】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置へのローカルポインタをデクリメントする手順；及び
前記先頭位置への前記デクリメントされたローカルポインタで、前記重量級タスクを記憶する手順
を有する、請求項１５に記載のシステム。
【請求項17】
前記重量級タスクを移動させる手順は：前記ＧＣオーナーキューの前記先頭位置への前記デクリメントされたローカルポインタ及びグローバルポインタに対してコンペア・アンド・スワップを実行する手順；
前記コンペア・アンド・スワップが成功したと判断する手順；及び
前記グローバルポインタを前記デクリメントされたローカルポインタにアップデートする手順
を更に有する、請求項１６に記載のシステム。
【請求項18】
前記重量級タスクは、参照配列を有するアプリケーションオブジェクトのためのガベージコレクションタスクを有する、請求項１５から１７のいずれか一項に記載のシステム。
【請求項19】
前記重量級タスクは、所定のタスク参照閾値を超過する他のアプリケーションオブジェクトへの参照の数を有する、請求項１５から１８のいずれか一項に記載のシステム。
【請求項20】
前記ＧＣオーナーキューは、両端キュー及びラストイン・ファーストアウトキューを有する、請求項１５から１９のいずれか一項に記載のシステム。
【国際調査報告】