特許7932949IP Force 特許公報全文掲載

技術分野

米国陸軍研究所から授与されたN911NF-16-3-0001の下で政府の支援を受けて行われたものである。本発明に対して、政府は一定の権利を有する。

発明が解決しようとする課題[発明の詳細な説明]から抜粋

Jiら(Dynamic Sampling and Selective Masking for Communication-Efficient Federated Learning, IEEE Intelligent Systems, 2021)は、それぞれのローカルの訓練におけるモデルパラメータの重要性を考慮して、上位k個の選択的マスキングを提案している。モデルパラメータの割合に静的なマスキングレートが選択基準として与えられると、最大絶対差を持つモデルパラメータのみが、比例して連合集約およびモデル更新に選択される。Jiの開示では、選択的マスキング方法は静的なものであり、全てのエージェントにわたって同じである。Sundaresanら(米国特許公開第20220036194 A1号)は、パラメータのクラスを作成して、リソース制約のあるアプリケーションに適した効率的な人工知能または機械学習モデルを計算するための、スパース性抽出型フレームワークを開示している。スパース性抽出型フレームワークは同時に、計算重視の教師モデルから知識を抽出すると共に、単一パスの訓練において生徒モデルのプルーニングも行うことにより、訓練回数および調整回数を大幅に低減する。Sundaresanの開示では、連合学習設定におけるリソース制約が考慮されず、さらに、小規模のマスクされたモデルが異なるエージェントによって毎回更新されず、更新された小規模のマスクされたモデルをサーバでの大規模モデルの訓練に結びつけていない。

課題を解決するための手段[発明の詳細な説明]から抜粋

1つの態様では、動的なマスキングを用いたリソース制限のある連合学習のためのコンピュータ実装方法が提供される。本コンピュータ実装方法は、連合機械学習におけるサーバが、連合機械学習におけるそれぞれのエージェントのリソースを評価して、それぞれのエージェントによるモデル訓練の能力を判定する段階を含む。本コンピュータ実装方法はさらに、サーバが能力に基づき、完全版機械学習モデルの重みをマスクして、マ・・・ 続きを知財ポータルサイト IP Force にログインして見る

この特許の権利範囲[特許請求の範囲]

知財ポータルサイト IP Force にログインして確認する (無料)

この特許公報に記載されている図面[図面の簡単な説明]から抜粋

【図1】 本発明の1つの実施形態による、動的なマスキングを用いたリソース制限のある連合学習のシステムを例示した系統図である。
【図2】 本発明の1つの実施形態による、動的なマスキングを用いたリソース制限のある連合学習の動作段階を示すフローチャートである。
【図3】 本発明の1つの実施形態による、コンピューティングデバイスまたはサーバの各コンポーネントを例示した図である。
【図4】 本発明の1つの実施形態による、クラウドコンピューティング環境を描いた図である。
【図5】 本発明の1つの実施形態による、クラウド環境の各抽象化モデル層を描いた図である。

代表図 図1本件の代表的な図

全ての図面はログインすると無料で閲覧できます。ログイン・ユーザー登録

[広告欄]

ログインすれば広告は減ります

ログインすれば広告は減ります