特許 7680075 分散学習方法及び装置

(19)【発行国】日本国特許庁(JP)

(12)【公報種別】特許公報(B2)

(11)【特許番号】

(24)【登録日】2025-05-12

(45)【発行日】2025-05-20

(54)【発明の名称】分散学習方法及び装置

(51)【国際特許分類】

   H04W 24/02 20090101AFI20250513BHJP

   H04W 28/18 20090101ALI20250513BHJP

   G06N 3/098 20230101ALI20250513BHJP

【ＦＩ】

H04W24/02

H04W28/18 110

G06N3/098

【請求項の数】 50

(21)【出願番号】P 2023563159

(86)(22)【出願日】2022-04-14

(65)【公表番号】

(43)【公表日】2024-04-02

(86)【国際出願番号】 CN2022086900

(87)【国際公開番号】W WO2022218386

(87)【国際公開日】2022-10-20

【審査請求日】2023-11-21

(31)【優先権主張番号】202110413617.6

(32)【優先日】2021-04-16

(33)【優先権主張国・地域又は機関】CN

(73)【特許権者】

【識別番号】504161984

【氏名又は名称】ホアウェイ・テクノロジーズ・カンパニー・リミテッド

(74)【代理人】

【識別番号】110000877

【氏名又は名称】弁理士法人ＲＹＵＫＡ国際特許事務所

(72)【発明者】

【氏名】ジャン、ゴンジェン

(72)【発明者】

【氏名】シュ、チェン

(72)【発明者】

【氏名】リ、ロン

(72)【発明者】

【氏名】ワン、ジアン

(72)【発明者】

【氏名】ワン、ジュン

【審査官】三枝 保裕

(56)【参考文献】

【文献】Deep Learning Based Communication Over the Air，IEEE JOURNAL OF SELECTED TOPICS IN SIGNAL PROCESSING, VOL. 12, NO. 1，2018年02月

【文献】OPPO，FS_AMMT - New use case- Distributed learning based on model parallelism，3GPP TSG SA WG1 #93e S1-210057，Internet<URL:https://www.3gpp.org/ftp/tsg_sa/WG1_Serv/TSGS1_93e_Electronic_Meeting/Docs/S1-210057.zip>，2021年03月04日

(58)【調査した分野】(Int.Cl.，ＤＢ名)

Ｈ０４Ｂ ７／２４－ ７／２６

Ｈ０４Ｗ ４／００－９９／００

Ｇ０６Ｎ ３／０９８

３ＧＰＰ ＴＳＧ ＲＡＮ ＷＧ１－４

ＳＡ ＷＧ１－４

ＣＴ ＷＧ１、４

(57)【特許請求の範囲】

【請求項1】

第１のノードに適用される分散学習方法であって、前記第１のノードがデータモデルの第１のデータモデルを有し、前記分散学習方法が：
前記第１のデータモデルを使用することによって第１のデータを処理して、第１の中間データを取得する段階；及び
第１のチャネルを通して第２のノードへと前記第１の中間データを送信する段階、ここで前記第１のチャネルは、第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第２の中間データは、前記第１のチャネルを通した前記第２のノードへの前記第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第１のノード及び前記第２のノードの間のチャネルである
を備え、
前記第１のチャネルを通して前記第２のノードへと前記第１の中間データを前記送信する段階は：
前記第１の中間データをシンボルへと変調し、前記第１のチャネルを通して前記第２のノードへと前記シンボルを送信する段階を含み、
前記変調されたシンボルの数は、前記データモデルの中間層の次元と同じである、又は、前記変調されたシンボルの数は、前記データモデルの前記中間層の前記次元の半分である、分散学習方法。

【請求項2】

前記第１のチャネルが第２のチャネル及び第３のチャネルを有し、前記分散学習方法が：
前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する段階
を更に備える、請求項１に記載の分散学習方法。

【請求項3】

前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する前記段階が：
前記第２のノードによって送信された第１の情報を受信する段階、ここで前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される；及び
前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新する段階
を有する、請求項２に記載の分散学習方法。

【請求項4】

前記第２のノードによって送信された第１の情報を受信する前記段階が：
前記第２のノードによって送信された前記第１の情報を、第４のチャネルを通して受信する段階を有する
請求項３に記載の分散学習方法。

【請求項5】

前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する前記段階が：
前記第１のチャネルを通して前記第２のノードから第３の信号を受信する段階、ここで前記第３の信号は、前記第１のチャネルを通して第４の信号が前記第１のノードへと伝送された後に取得される信号であり、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む；
前記第３の信号に基づいて第１の情報を取得する段階、ここで前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される；及び
前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新する段階
を有する、請求項２に記載の分散学習方法。

【請求項6】

前記分散学習方法が：
前記第１のチャネルを通して前記第２のノードへと第１の信号を送信する段階、ここで前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである
を更に備える、請求項１に記載の分散学習方法。

【請求項7】

前記分散学習方法が：
前記第１のチャネルを通して前記第２のノードへと第５の信号を送信する段階、ここで前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成された信号を有し、前記第３の中間データは、前記第１のチャネルを更新するためのものである
を更に備える、請求項１に記載の分散学習方法。

【請求項8】

前記分散学習方法が：
前記第１の中間データの誤差情報に基づいて前記第１のデータモデルを更新して、新しい第１のデータモデルを取得する段階
を更に備える、請求項１に記載の分散学習方法。

【請求項9】

前記分散学習方法が：
前記第２のノードによって送信された第２の情報を受信する段階、ここで前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである
を更に備える、請求項８に記載の分散学習方法。

【請求項10】

前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
請求項９に記載の分散学習方法。

【請求項11】

前記分散学習方法が；
前記第２のノードから第８の信号を受信する段階、ここで前記第８の信号は、チャネルを通して第７の信号が前記第１のノードへと伝送された後に取得される信号であり、前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を有する；及び
前記第８の信号に基づいて前記第１の中間データの前記誤差情報を取得する段階
を更に備える、請求項１に記載の分散学習方法。

【請求項12】

第２のノードに適用される分散学習方法であって、前記第２のノードがデータモデルの第２のデータモデルを有し、前記分散学習方法が：
第１のチャネルを通して第２の中間データを受信する段階、ここで前記第２の中間データは、第１のノードによって前記第１のチャネルを通して前記第２のノードへと送信された第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第１のチャネルは、前記第１のノード及び前記第２のノードの間のチャネルである；及び
前記第２のデータモデルを使用することによって前記第２の中間データを処理して、出力データを取得する段階
を備え、
前記第１のチャネルを通して前記第１のノードから前記第２の中間データを前記受信する段階は：
前記受信した第２の中間データのシンボルに対して次元照合を実行する段階を含み、
復調されたシンボルの数が、前記データモデルの中間層の次元と同じである、又は、前記第２の中間データの１つの複素数値シンボルは、２つの実数に拡張される、分散学習方法。

【請求項13】

前記第１のチャネルが第２のチャネル及び第３のチャネルを有し、前記分散学習方法が：
前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する段階
を更に備える、請求項１２に記載の分散学習方法。

【請求項14】

前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する前記段階が：
第１の情報を前記第１のノードへと送信する段階、ここで前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される
を有する、請求項１３に記載の分散学習方法。

【請求項15】

前記第１の情報を前記第１のノードへと送信する前記段階が：
第４のチャネルを通して前記第１の情報を前記第１のノードへと送信する段階
を有する、請求項１４に記載の分散学習方法。

【請求項16】

前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する前記段階が：
前記第１のチャネルを通して第４の信号を前記第１のノードへと送信する段階、ここで前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む
を有する、請求項１３に記載の分散学習方法。

【請求項17】

前記分散学習方法が：
前記第１のチャネルを通して前記第１のノードから第２の信号を受信する段階、ここで前記第２の信号は第１の信号が前記第１のチャネルを通して前記第２のノードへと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである；及び
前記第２の信号に基づいて前記第１のチャネルについての前記情報を取得する段階
を更に備える、請求項１２に記載の分散学習方法。

【請求項18】

前記分散学習方法が：
前記第１のチャネルを通して前記第１のノードから第６の信号を受信する段階、ここで前記第６の信号は、第５の信号が前記第１のチャネルを通して前記第２のノードへと伝送された後に取得される信号であり、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を有し、前記第３の中間データは、前記第１のチャネルを更新するためのものである；
前記第６の信号に基づいて第３の情報を取得する段階、ここで前記第３の情報は、前記第３の中間データ及び前記第３のチャネルについての前記情報に基づいて決定される；及び
前記第３の情報及び前記第２の中間データの前記誤差情報に基づいて前記第２のチャネルを更新する段階
を更に備える、請求項１３に記載の分散学習方法。

【請求項19】

前記分散学習方法が：
第２の情報を前記第１のノードへと送信する段階、ここで前記第２の情報は、前記第１の中間データの誤差情報を取得するためのものである
を更に備える、請求項１２に記載の分散学習方法。

【請求項20】

前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
請求項１９に記載の分散学習方法。

【請求項21】

前記分散学習方法が：
前記出力データに基づいて前記第２のデータモデルを更新して、新しい第２のデータモデルを取得する段階
を更に備える、請求項１２に記載の分散学習方法。

【請求項22】

前記分散学習方法が：
第７の信号を前記第１のノードへと送信する段階、ここで前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を有する
を更に備える、請求項１２に記載の分散学習方法。

【請求項23】

分散学習装置であって、前記分散学習装置がデータモデルの第１のデータモデルを備え、前記分散学習装置が処理モジュール及び送受信モジュールを備え、
前記処理モジュールが、前記第１のデータモデルを使用することによって第１のデータを処理して第１の中間データを取得するように構成されており；
前記送受信モジュールが、第１のチャネルを通して前記第１の中間データを第２のノードへと送信するように構成されており、前記第１のチャネルは、第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第２の中間データは、前記第１のチャネルを通した前記第２のノードへの前記第１の中間データの伝送の結果であり、前記第１のチャネルは、前記分散学習装置及び前記第２のノードの間のチャネルであり、
前記第１のチャネルを通して前記第２のノードへと前記第１の中間データを前記送信することは：
前記第１の中間データをシンボルへと変調し、前記第１のチャネルを通して前記第２のノードへと前記シンボルを送信することを含み、
前記変調されたシンボルの数は、前記データモデルの中間層の次元と同じである、又は、前記変調されたシンボルの数は、前記データモデルの前記中間層の前記次元の半分である、分散学習装置。

【請求項24】

前記第１のチャネルが第２のチャネル及び第３のチャネルを有し；
前記処理モジュールが、前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている
請求項２３に記載の分散学習装置。

【請求項25】

前記送受信モジュールが、前記第２のノードによって送信された第１の情報を受信するように更に構成されており、前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定され；
前記処理モジュールが、前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている
請求項２４に記載の分散学習装置。

【請求項26】

前記送受信モジュールが、前記第２のノードによって送信された前記第１の情報を、第４のチャネルを通して受信するように更に構成されている
請求項２５に記載の分散学習装置。

【請求項27】

前記送受信モジュールが、前記第１のチャネルを通して前記第２のノードから第３の信号を受信するように更に構成されており、前記第３の信号は、前記第１のチャネルを通して第４の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含み；
前記処理モジュールが、前記第３の信号に基づいて第１の情報を取得するように更に構成されており、前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定され；
前記処理モジュールが、前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている
請求項２４に記載の分散学習装置。

【請求項28】

前記送受信モジュールが、前記第１のチャネルを通して第１の信号を前記第２のノードへと送信するように更に構成されており、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである
請求項２３に記載の分散学習装置。

【請求項29】

前記送受信モジュールが、前記第１のチャネルを通して第５の信号を前記第２のノードへと送信するように更に構成されており、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、前記第３の中間データは前記第１のチャネルを更新するためのものである
請求項２３に記載の分散学習装置。

【請求項30】

前記処理モジュールが、前記第１の中間データの誤差情報に基づいて前記第１のデータモデルを更新して、新しい第１のデータモデルを取得するように更に構成されている
請求項２３に記載の分散学習装置。

【請求項31】

前記送受信モジュールが、前記第２のノードによって送信された第２の情報を受信するように更に構成されており、前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである
請求項３０に記載の分散学習装置。

【請求項32】

前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
請求項３１に記載の分散学習装置。

【請求項33】

前記送受信モジュールが、前記第２のノードから第８の信号を受信するように更に構成されており、前記第８の信号は、第７の信号がチャネルを通して前記分散学習装置へと伝送された後に取得される信号であり、前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含み；
前記処理モジュールが、前記第８の信号に基づいて前記第１の中間データの前記誤差情報を取得するように更に構成されている
請求項２３に記載の分散学習装置。

【請求項34】

分散学習装置であって、前記分散学習装置がデータモデルの第２のデータモデルを備え、前記分散学習装置が処理モジュール及び送受信モジュールを備え、
前記送受信モジュールが、第１のチャネルを通して第２の中間データを受信するように構成されており、前記第２の中間データは、第１のノードによって前記第１のチャネルを通して前記分散学習装置へと送信された第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第１のチャネルは、前記第１のノード及び前記分散学習装置の間のチャネルであり；
前記処理モジュールが、前記第２のデータモデルを使用することによって前記第２の中間データを処理して出力データを取得するように構成されており、
前記第１のチャネルを通して前記第１のノードから前記第２の中間データを前記受信することは：
前記受信した第２の中間データのシンボルに対して次元照合を実行することを含み、
復調されたシンボルの数が、前記データモデルの中間層の次元と同じである、又は、前記第２の中間データの１つの複素数値シンボルは、２つの実数に拡張される、分散学習装置。

【請求項35】

前記第１のチャネルが第２のチャネル及び第３のチャネルを有し、前記送受信モジュールが、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信するように更に構成されている、請求項３４に記載の分散学習装置。

【請求項36】

前記送受信モジュールが、第１の情報を前記第１のノードへと送信するように更に構成されており、前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される
請求項３５に記載の分散学習装置。

【請求項37】

前記送受信モジュールが、第４のチャネルを通して前記第１の情報を前記第１のノードへと送信するように更に構成されている
請求項３６に記載の分散学習装置。

【請求項38】

前記送受信モジュールが、前記第１のチャネルを通して第４の信号を前記第１のノードへと送信するように更に構成されており、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む
請求項３５に記載の分散学習装置。

【請求項39】

前記送受信モジュールが、前記第１のチャネルを通して第２の信号を前記第１のノードから受信するように更に構成されており、前記第２の信号は、前記第１のチャネルを通して第１の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものであり；
前記処理モジュールは、前記第２の信号に基づいて、前記第１のチャネルについての前記情報を取得するように更に構成されている
請求項３４に記載の分散学習装置。

【請求項40】

前記送受信モジュールが、前記第１のチャネルを通して前記第１のノードから第６の信号を受信するように更に構成されており、前記第６の信号は、第５の信号が前記第１のチャネルを通して前記分散学習装置へと伝送された後に取得される信号であり、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、前記第３の中間データは、前記第１のチャネルを更新するためのものであり；
前記処理モジュールが、前記第６の信号に基づいて第３の情報を取得するように更に構成されており、前記第３の情報は、前記第３の中間データ及び前記第３のチャネルについての前記情報に基づいて決定され；
前記処理モジュールが、前記第３の情報及び前記第２の中間データの前記誤差情報に基づいて前記第２のチャネルを更新するように更に構成されている
請求項３５に記載の分散学習装置。

【請求項41】

前記送受信モジュールが、第２の情報を前記第１のノードへと送信するように更に構成されており、前記第２の情報は、前記第１の中間データの誤差情報を取得するためのものである
請求項３４に記載の分散学習装置。

【請求項42】

前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
請求項４１に記載の分散学習装置。

【請求項43】

前記処理モジュールが、前記出力データに基づいて前記第２のデータモデルを更新して、新しい第２のデータモデルを取得するように更に構成されている
請求項３４に記載の分散学習装置。

【請求項44】

前記送受信モジュールが、前記第１のチャネルを通して第２の信号を前記第１のノードから受信するように更に構成されており、前記第２の信号は、前記第１のチャネルを通して第１の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものであり；
前記処理モジュールは、前記第２の信号に基づいて、前記第１のチャネルについての前記情報を取得するように更に構成されている
請求項３４に記載の分散学習装置。

【請求項45】

分散学習装置であって、前記分散学習装置がプロセッサを備え、前記プロセッサがメモリに結合されており；
前記メモリがコンピュータプログラムを記憶するように構成されており；
前記プロセッサが、前記メモリに記憶された前記コンピュータプログラムを実行して、前記分散学習装置が請求項１又は１２に記載の分散学習方法を実行することを可能にするように構成されている
分散学習装置。

【請求項46】

コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体がコンピュータプログラム又は命令を備え、前記コンピュータプログラム又は前記命令がコンピュータ上で実行されると、請求項１又は１２に記載の分散学習方法が実行される、コンピュータ可読記憶媒体。

【請求項47】

請求項１又は１２に記載の分散学習方法を実行するように構成された、通信装置。

【請求項48】

コンピュータプログラムであって、前記コンピュータプログラムがコンピュータ上で実行されると、請求項１又は１２に記載の分散学習方法が実行される、コンピュータプログラム。

【請求項49】

請求項２３に記載の分散学習装置、及び、請求項３４に記載の分散学習装置を備える、通信システム。

【請求項50】

チップシステムであって、前記チップシステムがプロセッサを備え、前記プロセッサが、請求項１又は１２に記載の分散学習方法を実装するよう、前記チップシステムが搭載されている装置を制御するように構成されている、チップシステム。

【発明の詳細な説明】

【技術分野】

【0001】

本願は、２０２１年４月１６日に中国国家知識産権局に出願された、「ＤＩＳＴＲＩＢＵＴＥＤ ＬＥＡＲＮＩＮＧ ＭＥＴＨＯＤ ＡＮＤ ＡＰＰＡＲＡＴＵＳ」と題される中国特許出願第２０２１１０４１３６１７．６号の優先権を主張し、これはその全体が参照により本明細書に組み込まれている。

【0002】

本願は、通信分野に関し、特に、分散学習方法及び装置に関する。

【背景技術】

【0003】

近年、人工知能（ａｒｔｉｆｉｃｉａｌ ｉｎｔｅｌｌｉｇｅｎｃｅ，ＡＩ）技術は、マシンビジョン及び自然言語処理などの分野において顕著な発展を遂げており、様々なデバイスに適用され得るが、デバイスの能力に対して高い要件も有する。ニューラルネットワーク（ｎｅｕｒａｌ ｎｅｔｗｏｒｋ，ＮＮ）モデルが一例として用いられる。ＮＮモデルでの訓練及び推論を実装するために、デバイスは、強力な計算パワーを有する必要があり、これは一部のデバイスにとっては大きな課題である。

【0004】

デバイスの能力の要件を下げるために、ＮＮモデルは、ＮＮモデルの特定の層又は複数の特定の層における中間ノードにおいてセグメント化されてよく、取得された複数のＮＮサブモデルが、訓練及び推論のために複数デバイス上に展開される。現在、順方向伝搬の中間層情報（テンソル又はベクトル）及び逆伝搬の中間層勾配情報に対してチャネルコーディングなどの操作を実行する必要があり、チャネルを通してデバイス間での伝送が実行される。この場合、エンコード及びデコード処理がリソースの大部分を占め、これによりリソースが浪費される。加えて、現在、分散学習の性能を高めることができる技術的解決手段が存在しない。

【発明の概要】

【0005】

本願は、無線通信を分散学習と組み合わせるための分散学習方法及び装置を提供し、これにより、リソースを節約することができ、無線環境における分散学習の性能を高めることができる。

【0006】

前述の目的を実現するために、以下の技術的解決手段が本願において用いられる。

【0007】

第１の態様によれば、分散学習方法が提供される。分散学習方法は第１のノードに適用され得る。前記第１のノードは第１のデータモデルを含む。分散学習方法は：前記第１のデータモデルを使用することによって第１のデータを処理して、第１の中間データを取得する段階、及び第１のチャネルを通して第２のノードへと前記第１の中間データを送信する段階を含む。前記第１のチャネルは、第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新される。前記第２の中間データは、前記第１のチャネルを通した前記第２のノードへの前記第１の中間データの伝送の結果である。前記第１のチャネルは、前記第１のノード及び前記第２のノードの間のチャネルである。

【0008】

第１の態様による分散学習方法に基づき、チャネルはデータモデルと組み合わされ、第１のノード及び第２のノードの間でデータを伝送するための第１のチャネルは、データモデルの中間層として使用され、第１のチャネルは、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて最適化される。このように、第１のチャネルの訓練により、分散学習の性能を高めることができる。加えて、通信及びコンピューティングの統合を実装するために、分散学習に対して直接機能するために無線伝送が可能となり、これにより、処理の複雑性を低下させ、リソースを更に節約することができる。

【0009】

可能な設計方式において、第１の態様による分散学習方法では、前記第１のチャネルが第２のチャネル及び第３のチャネルを含み、前記方法が、前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する段階を更に含んでよい。

【0010】

このように、第１のノード及び第２のノードの間の第１のチャネルが第２のチャネル及び第３のチャネルへと分割される。第２のチャネルは、制御可能な部分又は制御可能な環境であり得る。第１のチャネルにおける制御可能な部分（すなわち、第２のチャネル）を更新することにより、分散学習の性能を高めることができる。

【0011】

可能な設計方式において、前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する前記段階が：前記第２のノードによって送信された第１の情報を受信する段階、及び前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新する段階を含む。前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される。

【0012】

このように、分散学習の性能を高めるために、第１のチャネルの制御可能な部分（すなわち、第２のチャネル）は、第１の情報及び第１の中間データに基づいて更新される。

【0013】

任意選択で、第１のノードは、第２のノードによって送信された第１の情報を、第４のチャネルを通して受信してよい。これに応じて、第２のノードは、第４のチャネルを通して第１の情報を第１のノードへと送信してよい。すなわち、逆訓練プロセスにおける第１のノード及び第２のノードの間のチャネルは、例えば周波数ポイント又は伝送メカニズムの点で、順方向訓練プロセスにおける第１のノード及び第２のノードの間のチャネルとは異なり得る。

【0014】

例えば、第１の情報は、従来のデータ／制御チャネル上で伝送されてよく、又は、ＮＮ訓練専用の別の物理／論理チャネル上で伝送されてよい。伝送プロセスは、スパース性、量子化、及び／又はエントロピコーディングなどのデータ量を低下させる操作を含んでよく、又は、チャネルコーディングなどの伝送エラーを低下させる操作を含んでよい。

【0015】

可能な設計方式において、第１の態様による分散学習方法は、前記第１のチャネルを通して前記第２のノードへと第１の信号を送信する段階を更に含んでよい。前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである。

【0016】

任意選択で、第１の信号はパイロット信号であってよく、第２のノードがチャネル推定を実行してチャネル情報を取得することを可能にするために、第１のノードは、パイロットを送信し、チャネルの制御可能な部分のパラメータを設定してよく、それにより、分散学習の性能を高めるために、チャネル又は第１のデータモデルを更新することができる。

【0017】

可能な設計方式において、前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する前記段階が：前記第１のチャネルを通して前記第２のノードから第３の信号を受信する段階；前記第３の信号に基づいて第１の情報を取得する段階；及び前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新する段階を含んでよい。前記第３の信号は、前記第１のチャネルを通して第４の信号が前記第１のノードへと伝送された後に取得される信号であり、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される。

【0018】

このように、第１の情報は、エアインターフェースリソース上の信号の伝搬特性を使用することによって、無線による計算を通して取得され、それにより、第１のチャネル及び第１の中間データに基づいて第２のチャネルが更新され、これにより分散学習の性能を高めて、パイロットオーバヘッドを低下させることができる。

【0019】

可能な設計方式において、第１の態様による分散学習方法は、前記第１のチャネルを通して前記第２のノードへと第５の信号を送信する段階を更に含んでよい。前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成された信号を含み、前記第３の中間データは前記第１のチャネルを更新するためのものである。

【0020】

このように、チャネルの相互関係に基づき、エアインターフェースリソース上の信号の伝搬特性を用いることによって、チャネル推定を回避するために、第２のノードは、無線による計算を通して、第３の中間データ及びチャネル情報を取得することが可能になり、これによりパイロットオーバヘッドを低下させることができる。

【0021】

可能な設計方式において、第１の態様による分散学習方法は、前記第１の中間データの誤差情報に基づいて前記第１のデータモデルを更新して、新しい第１のデータモデルを取得する段階を更に含んでよい。このように、分散学習の性能を高めるために、第１のノードが第１のデータモデルを更新してよい。

【0022】

可能な設計方式において、第１の態様による分散学習方法は、前記第２のノードによって送信された第２の情報を受信する段階を更に含んでよい。前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである。このように、分散学習の性能を高めるために、第１のノードは、第１の中間データの誤差情報に基づいて第１のデータモデルを更新してよい。

【0023】

可能な設計方式において、前記第２の情報は前記第１の中間データの前記誤差情報を含む。代替的には、前記第２の情報は前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである。言い換えれば、第２の情報は、第２のノードによって決定されてよい。代替的には、第２の情報は無線による計算を通して取得されてよく、これによりリソースを節約することができる。

【0024】

可能な設計方式において、第１の態様による分散学習方法は：前記第２のノードから第８の信号を受信する段階；及び前記第８の信号に基づいて前記第１の中間データの前記誤差情報を取得する段階を更に含んでよい。任意選択で、前記第８の信号は、第７の信号がチャネルを通して前記第１のノードへと伝送された後に取得される信号であり、前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0025】

このように、第１のデータモデルにおける中間層の勾配の無線による計算は、無線での信号の伝搬の処理を通して実装され、これによりパイロットオーバヘッドを低下させることができる。

【0026】

第２の態様によれば、分散学習方法が提供される。分散学習方法は第２のノードに適用されてよい。第２のノードは第２のデータモデルを含む。分散学習方法は：第１のチャネルを通して第２の中間データを受信する段階；及び前記第２のデータモデルを使用することによって前記第２の中間データを処理して、出力データを取得する段階を含んでよい。前記第２の中間データは、第１のノードによって前記第１のチャネルを通して第２のノードへと送信された前記第１の中間データの伝送の結果である。前記第１のチャネルは、前記第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新される。前記第１のチャネルは、前記第１のノード及び前記第２のノードの間のチャネルである。

【0027】

任意選択で、第２のノードは、第２の中間データの誤差情報、チャネルのチャネル情報、及び第１の中間データに基づいて、新しいチャネルを決定してよい。

【0028】

可能な設計方式において、第２の態様による分散学習方法では、前記第１のチャネルが第２のチャネル及び第３のチャネルを含み、前記方法は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する段階を更に含んでよい。

【0029】

可能な設計方式において、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する前記段階は、第１の情報を是kに第１のノードへと送信する段階を含む。前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される。

【0030】

可能な設計方式において、第２の態様による分散学習方法は：前記第１のチャネルを通して前記第１のノードから第２の信号を受信する段階；及び前記第２の信号に基づいて前記第１のチャネルについての前記情報を取得する段階を更に含んでよい。前記第２の信号は、第１の信号が前記第１のチャネルを通して前記第２のノードへと伝送された後に取得される信号である。前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである。

【0031】

可能な設計方式において、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する前記段階が、前記第１のチャネルを通して第４の信号を前記第１のノードへと送信する段階を含む。前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0032】

可能な設計方式において、第２の態様による分散学習方法は：前記第１のチャネルを通して前記第１のノードから第６の信号を受信する段階；前記第６の信号に基づいて第３の情報を取得する段階；及び前記第３の情報及び前記第２の中間データの前記誤差情報に基づいて前記第２のチャネルを更新する段階を更に含んでよい。前記第６の信号は、第５の信号が前記第１のチャネルを通して前記第２のノードへと伝送された後に取得される信号である。前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含む。前記第３の中間データは、前記第１のチャネルを更新するためのものである。前記第３の情報は、前記第３の中間データ及び前記第３のチャネルについての前記情報に基づいて決定される。

【0033】

可能な設計方式において、第２の態様による分散学習方法は、第２の情報を前記第１のノードへと送信する段階を更に含んでよい。前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである。

【0034】

可能な設計方式において、前記第２の情報は前記第１の中間データの前記誤差情報を含む。代替的には、前記第２の情報は前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである。

【0035】

可能な設計方式において、第２の態様による分散学習方法は、前記出力データに基づいて前記第２のデータモデルを更新して、新しい第２のデータモデルを取得する段階を更に含んでよい。

【0036】

可能な設計方式において、第２の態様による分散学習方法は、第７の信号を前記第１のノードへと送信する段階を更に含んでよい。任意選択で、前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0037】

第３の態様によれば、分散学習装置が提供される。分散学習装置は、第１のデータモデルを含む。装置は、処理モジュール及び送受信モジュールを含む。

【0038】

前記処理モジュールは、第１のデータモデルを使用することによって第１のデータを処理して、第１の中間データを取得するように構成されている。前記送受信モジュールは、第１のチャネルを通して前記第１の中間データを第２のノードへと送信するように構成されている。前記第１のチャネルは、第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第２の中間データは、前記第１のチャネルを通した前記第２のノードへの前記第１の中間データの伝送の結果であり、前記第１のチャネルは、前記分散学習装置及び前記第２のノードの間のチャネルである。

【0039】

可能な設計方式において、前記処理モジュールは、前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている。

【0040】

可能な設計方式において、前記送受信モジュールは、前記第２のノードによって送信された第１の情報を受信するように更に構成されている。前記処理モジュールは、前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている。前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される。

【0041】

可能な設計方式において、前記送受信モジュールは、記第１のチャネルを通して前記第２のノードから第３の信号を受信するように更に構成されている。前記第３の信号は、前記第１のチャネルを通して第４の信号が前記分散学習装置へと伝送された後に取得される信号である。前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0042】

前記処理モジュールは、前記第３の信号に基づいて第１の情報を取得するように更に構成されている。前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される。

【0043】

前記処理モジュールは、前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている。

【0044】

可能な設計方式において、前記送受信モジュールは、前記第１のチャネルを通して第１の信号を前記第２のノードへと送信するように更に構成されている。前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである。

【0045】

可能な設計方式において、前記送受信モジュールは、前記第１のチャネルを通して前記第５の信号を前記第２のノードへと送信するように更に構成されている。前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、前記第３の中間データは前記第１のチャネルを更新するためのものである。

【0046】

可能な設計方式において、前記処理モジュールは、前記第１の中間データの誤差情報に基づいて前記第１のデータモデルを更新して、新しい第１のデータモデルを取得するように更に構成されている。

【0047】

可能な設計方式において、前記送受信モジュールは、前記第２のノードによって送信された第２の情報を受信するように更に構成されている。前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである。

【0048】

可能な設計方式において、前記第２の情報は前記第１の中間データの前記誤差情報を含む。代替的には、前記第２の情報は前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである。

【0049】

第３の態様における送受信モジュールは、受信モジュール及び送信モジュールを含み得ることに留意されたい。受信モジュールは、第２のノードからデータ及び／又はシグナリングを受信するように構成されている。送信モジュールは、データ及び／又はシグナリングを第２のノードへと送信するように構成されている。送受信モジュールの具体的な実装形態は本願において具体的に限定されない。

【0050】

任意選択で、第３の態様による分散学習装置は記憶モジュールを更に含んでよい。前記記憶モジュールは、プログラム又は命令を記憶する。前記処理モジュールが前記プログラム又は前記命令を実行すると、第３の態様による分散学習装置は、第１の態様による方法を実行することが可能になる。

【0051】

第３の態様による分散学習装置は、第１のノードであってよく、又は、例えば、第１のノード内に配置され得るチップ（システム）又は別のコンポーネント又はアセンブリであってよいことに留意されたい。これは、本願において限定されるものではない。

【0052】

加えて、第３の態様による分散学習装置の技術的効果について、第１の態様における任意の実行可能な実装形態による分散学習方法の技術的効果を参照されたい。詳細は、本明細書において再度説明されない。

【0053】

第４の態様によれば、分散学習装置が提供される。分散学習装置は、第２のデータモデルを含む。装置は、処理モジュール及び送受信モジュールを含む。

【0054】

前記送受信モジュールは、第１のチャネルを通して第２の中間データを受信するように構成されている。前記第２の中間データは、第１のノードによって前記第１のチャネルを通して前記分散学習装置へと送信された第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第１のチャネルは、前記第１のノード及び前記分散学習装置の間のチャネルである。

【0055】

前記処理モジュールは、前記第２のデータモデルを使用することによって前記第２の中間データを処理して出力データを取得するように構成されている。

【0056】

可能な設計方式において、前記第１のチャネルは第２のチャネル及び第３のチャネルを含む。前記送受信モジュールは、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信するように更に構成されている。

【0057】

可能な設計方式において、前記送受信モジュールは、第１の情報を前記第１のノードへと送信するように更に構成されている。前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される。

【0058】

可能な設計方式において、前記送受信モジュールは、前記第１のチャネルを通して第２の信号を前記第１のノードから受信するように更に構成されており、前記第２の信号は、前記第１のチャネルを通して第１の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである。前記処理モジュールは、前記第２の信号に基づいて、前記第１のチャネルについての前記情報を取得するように更に構成されている。

【0059】

可能な設計方式において、前記送受信モジュールは、前記第１のチャネルを通して第４の信号を前記第１のノードへと送信するように更に構成されている。前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0060】

可能な設計方式において、前記送受信モジュールは、前記第１のチャネルを通して前記第１のノードから第６の信号を受信するように更に構成されている。前記第６の信号は、第５の信号が前記第１のチャネルを通して前記分散学習装置へと伝送された後に取得される信号であり、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、前記第３の中間データは、前記第１のチャネルを更新するためのものである。

【0061】

前記処理モジュールは、前記第６の信号に基づいて第３の情報を取得するように更に構成されている。前記第３の情報は、前記第３の中間データ及び前記第３のチャネルについての前記情報に基づいて決定される。

【0062】

前記処理モジュールは、前記第３の情報及び前記第２の中間データの前記誤差情報に基づいて前記第２のチャネルを更新するように更に構成されている。

【0063】

可能な設計方式において、前記送受信モジュールは、第２の情報を前記第１のノードへと送信するように更に構成されている。前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである。

【0064】

可能な設計方式において、前記第２の情報は前記第１の中間データの前記誤差情報を含む。代替的には、前記第２の情報は前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである。

【0065】

可能な設計方式において、前記処理モジュールは、前記出力データに基づいて前記第２のデータモデルを更新して、新しい第２のデータモデルを取得するように更に構成されている。

【0066】

第４の態様における送受信モジュールは、受信モジュール及び送信モジュールを含み得ることに留意されたい。受信モジュールは、第１のノードからデータ及び／又はシグナリングを受信するように構成されている。送信モジュールは、データ及び／又はシグナリングを第１のノードへと送信するように構成されている。送受信モジュールの具体的な実装形態は本願において具体的に限定されない。

【0067】

任意選択で、第４の態様による分散学習装置は、記憶モジュールを更に含んでよい。前記記憶モジュールは、プログラム又は命令を記憶する。前記処理モジュールが前記プログラム又は前記命令を実行すると、第４の態様による分散学習装置は、第２の態様による方法を実行することが可能になる。

【0068】

第４の態様による分散学習装置は、第２のノードであってよく、又は、例えば、第２のノード内に配置され得るチップ（システム）又は別のコンポーネント又はアセンブリであってよいことに留意されたい。これは、本願において限定されるものではない。

【0069】

加えて、第４の態様による分散学習装置の技術的効果について、第１の態様における任意の実行可能な実装形態による分散学習方法の技術的効果を参照されたい。詳細は、本明細書において再度説明されない。

【0070】

第５の態様によれば、分散学習装置が提供される。分散学習装置は、プロセッサを含む。前記プロセッサはメモリに結合されており、前記メモリは、コンピュータプログラムを記憶するように構成されている。

【0071】

前記プロセッサは、前記メモリに記憶された前記コンピュータプログラムを実行して、前記分散学習装置が第１の態様及び第２の態様における実行可能な実装形態による分散学習方法を実行することを可能にするように構成されている。

【0072】

可能な設計において、第５の態様による分散学習装置は、送受信機を更に含んでよい。送受信機は、送受信回路又は入力／出力ポートであってよい。送受信機は、分散学習装置が別のデバイスと通信するために構成されてよい。

【0073】

入力ポートは、第１の態様及び第２の態様に含まれる受信機能を実装するように構成されてよく、出力ポートは、第１の態様及び第２の態様に含まれる送信機能を実装するように構成されてよいことに留意されたい。

【0074】

本願において、第５の態様による分散学習装置は、第１のノード又は第２のノード、又は、第１のノード又は第２のノードの内側に配置されたチップ又はチップシステムであってよい。

【0075】

加えて、第５の態様による分散学習装置の技術的効果について、第１の態様及び第２の態様における任意の実装形態による分散学習方法の技術的効果を参照されたい。詳細は、本明細書において再度説明されない。

【0076】

第６の態様によれば、通信システムが提供される。通信システムは、第１のノード及び第２のノードを含む。

【0077】

第７の態様によれば、チップシステムが提供される。チップシステムは、プロセッサ及び入力／出力ポートを含む。プロセッサは、第１の態様及び第２の態様における処理機能を実装するように構成されており、入力／出力ポートは、第１の態様及び第２の態様における送受信機能を実装するように構成されている。具体的には、入力ポートは、第１の態様及び第２の態様に含まれる受信機能を実装するように構成されてよく、出力ポートは、第１の態様及び第２の態様に含まれる送信機能を実装するように構成されてよい。

【0078】

可能な設計において、チップシステムはメモリを更に含み、メモリは、第１の態様及び第２の態様における機能を実装するためのプログラム命令及びデータを記憶するように構成されている。

【0079】

チップシステムは、チップを含み得る、又は、チップ及び別のディスクリートコンポーネントを含み得る。

【0080】

第８の態様によれば、コンピュータプログラム又は命令を含むコンピュータ可読記憶媒体が提供される。コンピュータプログラム又は命令がコンピュータ上で実行されると、第１の態様及び第２の態様における実行可能な実装形態による分散学習方法が実行される。

【0081】

第９の態様によれば、コンピュータプログラム又は命令を含むコンピュータプログラム製品が提供される。コンピュータプログラム又は命令がコンピュータ上で実行されると、第１の態様及び第２の態様における実行可能な実装形態による分散学習方法が実行される。

【0082】

第１０の態様によれば、コンピュータプログラムが提供される。コンピュータプログラムがコンピュータ上で実行されると、第１の態様及び第２の態様における任意の実装形態による方法が実行される。

【図面の簡単な説明】

【0083】

【図1】本願の一実施形態による通信システムのアーキテクチャの概略図である。

【0084】

【図2】本願の一実施形態による完全接続されたニューラルネットワークの概略図である。

【0085】

【図3】本願の一実施形態による勾配降下の概略図である。

【0086】

【図4】本願の一実施形態によるニューラルネットワーク訓練の概略図である。

【0087】

【図5】本願の一実施形態によるあるタイプのニューラルネットワークのセグメント化の概略図である。

【0088】

【図6】本願の一実施形態による別のタイプのニューラルネットワークのセグメント化の概略図である。

【0089】

【図7】本願の一実施形態による更に別のタイプのニューラルネットワークのセグメント化の概略図である。

【0090】

【図8】本願の一実施形態による分散学習方法のインタラクションの概略図である。

【0091】

【図9A】本願の一実施形態による分散学習方法の適用の概略図である。

【図9B】本願の一実施形態による分散学習方法の適用の概略図である。

【0092】

【図10A】本願の一実施形態による別の分散学習方法の適用の概略図である。

【図10B】本願の一実施形態による別の分散学習方法の適用の概略図である。

【0093】

【図11A】本願の一実施形態による更に別の分散学習方法の適用の概略図である。

【図11B】本願の一実施形態による更に別の分散学習方法の適用の概略図である。

【0094】

【図12(a)】本願の一実施形態による別の分散学習方法のインタラクションの概略図である。

【図12(b)】本願の一実施形態による別の分散学習方法のインタラクションの概略図である。

【図12(c)】本願の一実施形態による別の分散学習方法のインタラクションの概略図である。

【0095】

【図13】本願尾一実施形態による分散学習装置の構造の概略図である。

【0096】

【図14】本願の一実施形態による別の分散学習装置の構造の概略図である。

【発明を実施するための形態】

【0097】

以下では、添付図面を参照して本願の技術的解決手段を説明する。

【0098】

本願の実施形態における技術的解決手段は、様々な通信システム、例えば、ワイヤレスフィディリティ（ｗｉｒｅｌｅｓｓ ｆｉｄｅｌｉｔｙ，Ｗｉ－Ｆｉ（登録商標））システム、ビークルツーエヴリシング（ｖｅｈｉｃｌｅ ｔｏ ｅｖｅｒｙｔｈｉｎｇ，Ｖ２Ｘ）通信システム、デバイスツーデバイス（ｄｅｖｉｃｅ－ｔｏ－ｄｅｖｉｃｅ，Ｄ２Ｄ）通信システム、車両のインターネット（Ｉｎｔｅｒｎｅｔ ｏｆ ｖｅｈｉｃｌｅｓ）通信システム、短距離無線通信システム、衛星通信システム、狭帯域のモノのインターネット（ＮａｒｒｏｗＢａｎｄ－Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ，ＮＢ－ＩｏＴ）システム、ロングタームエボリューション（ｌｏｎｇ－ｔｅｒｍ ｅｖｏｌｕｔｉｏｎ，ＬＴＥ）システム、第５世代（５ｔｈ ｇｅｎｅｒａｔｉｏｎ，５Ｇ）モバイル通信システム、例えば新無線（ｎｅｗ ｒａｄｉｏ，ＮＲ）システム、及び将来の通信システム、例えば第６世代（６ｔｈ ｇｅｎｅｒａｔｉｏｎ，６Ｇ）モバイル通信システムに適用され得る。本願の実施形態における技術的解決手段は、以下の適用シナリオに適用され得る：エンハンスドモバイルブロードバンド（ｅｎｈａｎｃｅｄ ｍｏｂｉｌｅ ｂｒｏａｄｂａｎｄ，ｅＭＢＢ）、ＵＲＬＬＣ（超高信頼低遅延通信、ｕｌｔｒａ－ｒｅｌｉａｂｌｅ ｌｏｗ－ｌａｔｅｎｃｙ ｃｏｍｍｕｎｉｃａｔｉｏｎ，ＵＲＬＬＣ）、及びエンハンスドマシンタイプ通信（ｅｎｈａｎｃｅｄ ｍａｃｈｉｎｅ－ｔａｉｐｕ ｃｏｍｍｕｎｉｃａｔｉｏｎ，ｅＭＴＣ）。

【0099】

全ての態様、実施形態、又は特徴は、本願において、複数のデバイス、コンポーネント、モジュール等を含んでよいシステムを説明することによって提示される。各システムは、別のデバイス、コンポーネント、モジュール等を含んでよい、及び／又は、添付図面を参照して説明される全てのデバイス、コンポーネント、モジュール等を含まなくてよいことが明白に理解されよう。加えて、これらの解決手段の組み合わせが用いられてよい。

【0100】

加えて、本願の実施形態において、「例」及び「例えば」などの用語は、一例、例示、又は説明を与えることを表す。本願において「例」として説明されたどの実施形態又は設計方式も、別の実施形態又は設計方式より好ましい、又はより多くの利点を有していると説明されるべきではない。厳密には、「例」という用語の使用は、具体的な様式で概念を提示することを意図している。

【0101】

本願の実施形態において説明されるネットワークアーキテクチャ及びサービスのシナリオは、本願の実施形態における技術的解決手段をより明確に説明することを意図しているが、本願の実施形態において提供される技術的解決手段に対していかなる限定も構成するものではない。当業者は、本願の実施形態において提供される技術的解決手段が、ネットワークアーキテクチャが深化し、新しいサービスシナリオが出現するにつれて、同様の技術的課題にも適用できることを学習し得る。

【0102】

本願の実施形態の理解を容易にするために、以下では、図１に示される通信システムを一例として用いることによって、本願の実施形態に適用できる通信システムについて詳細に説明する。例えば、図１は、本願の一実施形態による分散学習方法を適用できる通信システムのアーキテクチャの概略図である。

【0103】

通信システムは、第１のノード及び第２のノードを含む。第１のノードは端末デバイスであってよく、第２のノードはネットワークデバイスであってよい。代替的には、第１のノードがネットワークデバイスであってよく、第２のノードが端末デバイスであってよい。代替的には、第１のノードが端末デバイスであってよく、第２のノードが端末デバイスであってよい。図１に示されるように、通信システムは端末デバイスを含み、１つ又は複数の端末デバイスがあってよい。通信システムは、ネットワークデバイスを更に含んでよい。

【0104】

ネットワークデバイスは、通信システムのネットワーク側に位置して無線送受信機能を有するデバイス、又は、デバイス内に配置され得るチップ又はチップシステムである。ネットワークデバイスは、ワイヤレスフィディリティ（ｗｉｒｅｌｅｓｓ ｆｉｄｅｌｉｔｙ，Ｗｉ－Ｆｉ）システムにおけるアクセスポイント（ａｃｃｅｓｓ ｐｏｉｎｔ，ＡＰ）、例えば、ホームゲートウェイ、ルータ、サーバ、スイッチ、又はブリッジ、進化型ノードＢ（ｅｖｏｌｖｅｄ ＮｏｄｅＢ，ｅＮＢ）、無線ネットワークコントローラ（ｒａｄｉｏ ｎｅｔｗｏｒｋ ｃｏｎｔｒｏｌｌｅｒ，ＲＮＣ）、ホーム基地局（例えば、ホーム進化型ノードＢ又はホームノードＢ（ｈｏｍｅ ＮｏｄｅＢ，ＨＮＢ））、無線中継ノード、無線バックホールノード、又は伝送ポイント（送受信ポイント（ｔｒａｎｓｍｉｓｓｉｏｎ ａｎｄ ｒｅｃｅｐｔｉｏｎ ｐｏｉｎｔ，ＴＲＰ）又はｔｒａｎｓｍｉｓｓｉｏｎ ｐｏｉｎｔ，ＴＰ）を含むがこれらに限定されない、又は、５ＧにおけるｇＮＢ又は伝送ポイント（ＴＲＰ又はＴＰ）、例えば、ＮＲシステム、又は、５Ｇシステムにおける基地局の１アンテナパネル又はアンテナパネルのグループ（複数のアンテナパネルを含む）であってよく、又は、ｇＮＢ又は伝送ポイントを形成するネットワークノード、例えば、基地局機能などを有するベースバンドユニット（ｂａｓｅ ｂａｎｄ ｕｎｉｔ，ＢＢＵ）、分散ユニット（ｄｉｓｔｒｉｂｕｔｅｄ ｕｎｉｔ，ＤＵ）、路側ユニット（ｒｏａｄ ｓｉｄｅ ｕｎｉｔ，ＲＳＵ）であってよい。ネットワークデバイスは、代替的には、クラウド型無線アクセスネットワーク（ｃｌｏｕｄ ｒａｄｉｏ ａｃｃｅｓｓ ｎｅｔｗｏｒｋ，ＣＲＡＮ）シナリオにおける無線コントローラ、又は将来の進化型公衆陸上移動体ネットワーク（ｐｕｂｌｉｃ ｌａｎｄ ｍｏｂｉｌｅ ｎｅｔｗｏｒｋ，ＰＬＭＮ）におけるネットワークデバイス、又はウェアラブルデバイス又は車載デバイスであってよく、デバイスツーデバイス（ｄｅｖｉｃｅ－ｔｏ－ｄｅｖｉｃｅ，Ｄ２Ｄ）、ビークルツーエヴリシング（ｖｅｈｉｃｌｅ－ｔｏ－ｅｖｅｒｙｔｈｉｎｇ，Ｖ２Ｘ）、マシンツーマシン（ｍａｃｈｉｎｅ－ｔｏ－ｍａｃｈｉｎｅ，Ｍ２Ｍ）通信、又はモノのインターネット（Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ）通信における基地局として機能するデバイスを更に含む。

【0105】

端末デバイスは、通信システムにアクセスし、無線送受信機能を有する端末、又は、端末内に配置され得るチップ又はチップシステムである。端末デバイスはまた、ユーザ機器（Ｕｓｅｒ Ｅｑｕｉｐｍｅｎｔ，ＵＥ）、ユーザ装置、アクセス端末、加入者ユニット、加入者局、モバイルコンソール、移動局（ｍｏｂｉｌｅ ｓｔａｔｉｏｎ，ＭＳ）、リモート局、リモート端末、モバイルデバイス、ユーザ端末、端末、端末ユニット、端末局、端末装置、無線通信デバイス、ユーザエージェント、又はユーザ装置と称され得る。例えば、本願の実施形態における端末デバイスは、携帯電話（ｍｏｂｉｌｅ ｐｈｏｎｅ）、無線データカード、パーソナルデジタルアシスタント（ｐｅｒｓｏｎａｌ ｄｉｇｉｔａｌ ａｓｓｉｓｔａｎｔ，ＰＤＡ）コンピュータ、ラップトップコンピュータ（ｌａｐｔｏｐ ｃｏｍｐｕｔｅｒ）、タブレットコンピュータ（Ｐａｄ）、無線送受信機能を有するコンピュータ、マシンタイプ通信（ｍａｃｈｉｎｅ－ｔｙｐｅ ｃｏｍｍｕｎｉｃａｔｉｏｎ，ＭＴＣ）端末、仮想現実（ｖｉｒｔｕａｌ ｒｅａｌｉｔｙ，ＶＲ）端末デバイス、拡張現実（ａｕｇｍｅｎｔｅｄ ｒｅａｌｉｔｙ，ＡＲ）端末デバイス、モノのインターネット（Ｉｎｔｅｒｎｅｔ ｏｆ Ｔｈｉｎｇｓ，ＩｏＴ）端末デバイス、産業用制御（ｉｎｄｕｓｔｒｉａｌ ｃｏｎｔｒｏｌ）における無線端末、無人運転（自己運転）における無線端末、遠隔医療（ｒｅｍｏｔｅ ｍｅｄｉｃａｌ）における無線端末、スマートグリッド（ｓｍａｒｔ ｇｒｉｄ）における無線端末、輸送安全性（ｔｒａｎｓｐｏｔａｔｉｏｎ ｓａｆｅｔｙ）における無線端末、スマートシティ（ｓｍａｒｔ ｃｉｔｙ）における無線端末、スマートホーム（ｓｍａｒｔ ｈｏｍｅ）における無線端末（例えば、ゲームコンソール、スマートテレビ、スマートスピーカー、スマート冷蔵庫、及びフィットネス装置）、車載端末、又は、端末機能を有するＲＳＵであってよい。アクセス端末は、携帯電話（ｃｅｌｌｕｌａｒ ｐｈｏｎｅ）、コードレス電話、セッション開始プロトコル（ｓｅｓｓｉｏｎ ｉｎｉｔｉａｔｉｏｎ ｐｒｏｔｏｃｏｌ，ＳＩＰ）電話、無線ローカルループ（ｗｉｒｅｌｅｓｓ ｌｏｃａｌ ｌｏｏｐ，ＷＬＬ）局、パーソナルデジタルアシスタント（ｐｅｒｓｏｎａｌ ｄｉｇｉｔａｌ ａｓｓｉｓｔａｎｔ、ＰＤＡ）、無線通信機能を有するハンドヘルドデバイス（ハンドセット）、コンピューティングデバイス、無線モデムに接続された別の処理デバイス、又はウェアラブルデバイスなどであってよい。別の例として、本願の実施形態における端末デバイスは、スマート物流における速達端末（例えば、物品を運搬している車両の位置を監視することができるデバイス、又は物品の温度及び湿度を監視することができるデバイス）、スマート農業における無線端末（例えば、家畜及び家禽類の関連データを収集することができるウェアラブルデバイス）、スマートビルにおける無線端末（例えば、スマートエレベータ、火災監視デバイス、及びスマートメーター）、スマート医療における無線端末（例えば、人又は動物の生理学的ステータスを監視することができるウェアラブルデバイス）、インテリジェント輸送における無線端末（例えば、スマートバス、スマート車両、シェア自転車、充電パイル監視デバイス、スマート信号機、スマート監視デバイス、及びスマート駐車デバイス）、又はスマート小売業における無線端末（例えば、自動販売機、セルフレジ機、及び無人コンビニエンスストア）であってよい。別の例として、本願における端末デバイスは、車載モジュール、車載モジュール、車載コンポーネント、車載チップ、又は、１つ又は複数のコンポーネント又はユニットとして車両内に構築された車載用ユニットであってよい。車両は、車載モジュール、車載モジュール、車載コンポーネント、車載チップ、又は車載用ユニットを通して、本願において提供される分散学習方法を実装し得る。

【0106】

本願の実施形態において提供される分散学習方法は、図１に示されるいずれか２つのノード間で、例えば、端末デバイス間、及び端末デバイス及びネットワークデバイスの間に適用され得ることに留意されたい。具体的な実装については、以下の方法の実施形態を参照されたい。詳細は、本明細書において再度説明されない。

【0107】

本願の実施形態における解決手段は、別の通信システムに更に適用されてよく、対応する名称も、別の通信システムにおける対応する機能の名称で置き換えられ得ることに留意されたい。

【0108】

図１は、理解を容易するための一例の簡略化された概略図に過ぎないことが理解されるべきである。通信システムは、図１に示されていない別のデバイスを更に含んでよい。

【0109】

加えて、当業者は、ネットワークアーキテクチャの進化及び新しいサービスシナリオの出現に伴い、本願の実施形態において提供される技術的解決手段が、同様の技術的課題にも適用できることを学習し得る。

【0110】

本願の実施形態をより明確にするために、以下では、本願の実施形態に関連する一部のコンテンツ及び概念を併せて説明する。

【0111】

１．ニューラルネットワーク

【0112】

ニューラルネットワークは、学習、要約、及び結論を実行することができるアルゴリズムネットワークであり、ニューラルネットワークソフトウェア又はハードウェア、例えば、ニューラルネットワークの訓練プログラム又は実行可能スクリプトの形態でコンピューティングノード内に構築され得る。一般的に、ディープニューラルネットワーク（ｄｅｅｐ ｎｅｕｒａｌ ｎｅｔｗｏｒｋ，ＤＮＮ）モデルを一例として用いる。ＤＮＮモデルは、ニューロン（オペレータ）の複数の層を含む。各層は、複数の入力及び複数の出力を有する。入力又は出力は、多次元アレイであり、テンソル（ｔｅｎｓｏｒ）とも称される。各層は、１つ又は複数の、重みと称される重み付け値を有する。固有値とも称される、特定の層の出力結果は、入力及び層の重みの乗算などの数学演算の結果に等しく、通常、行列の乗算演算に関連する。

【0113】

完全接続されたニューラルネットワークはニューラルネットワークであり、完全接続されたニューラルネットワークは、多層パーセプトロン（ｍｕｌｔｉ－ｌａｙｅｒ ｐｅｒｃｅｐｔｒｏｎ，ＭＬＰ）とも称される。１つのＭＬＰは１つの入力層、１つの出力層、及び複数の隠れ層（中間層とも称される）を含み、各層は複数のニューロンを含む。ニューロンの２つの隣接する層に含まれるニューロンは、図２に示されるように、対になって接続される。

【0114】

ニューロンの２つの隣接する層について、下位層におけるニューロンの出力ｈは、下位層におけるニューロンに接続される上位層にある全てのニューロンｘの加重和であり、活性化関数を通過する。行列は、以下の式：ｈ＝ｆ（ｗ×ｘ＋ｂ）として表され得、ここで、ｗは重み行列であり、ｂは偏位ベクトルであり、ｆ（）は活性化関数である。その後、ニューラルネットワークの出力ｙは、ｙ＝ｆ_ｔ（ｗ_ｔ×ｆ_ｔ－１（...）＋ｂ_ｔ）として再帰的に表され得、ここで、ｔは、完全接続されたニューラルネットワークに含まれるニューロンの層の数である。

【0115】

２．ニューラルネットワーク訓練

【0116】

ニューラルネットワークは、入力データのセット及び出力データのセットの間のマッピング関係として理解されてよい。一般的に、ニューラルネットワークは、ランダムに初期化されてよく、既存のデータを使用することによって乱数ｗ及び乱数ｂに基づくマッピング関係を取得するプロセスは、ニューラルネットワーク訓練と称され得る。

【0117】

例えば、訓練様式は、損失関数（ｌｏｓｓ ｆｕｎｃｔｉｏｎ）を使用することによってニューラルネットワークの出力データを評価して、誤差情報を取得し、逆伝搬することを含む。図３に示されるように、重み行列ｗ及び偏位ベクトルｂは、勾配降下方法によって反復的に最適化され得、最適ｗ及び最適ｂは、損失関数の値が最小値に達したときに取得され得る。

【0118】

例えば、勾配降下プロセスは、式（１）として表現され得る。

【数1】

【0119】

パラメータ（例えば、重みｗ及び偏位ｂ）は、前述の式（１）を使用することによって最適化され得る。前述の式（１）において、θ′は、最適化の後のパラメータの値（更新された値とも称され得る）であり、θは、最適化の前のパラメータの値であり、Ｌは損失関数であり、ηは、学習率であり、勾配降下のストライドを制御するためのものであってよく、数学的シンボル←は、右側から左側に割り当てることを示す。

【0120】

図４を参照すると、逆伝搬プロセスにおいて、偏導関数を取得するための連鎖律が使用されてよく、具体的には、前の層（層ｊ）におけるニューロンのパラメータの勾配は、次の層におけるニューロン（層ｉ）のパラメータの勾配から再帰によって、以下の式（２）のように計算され得る。

【数2】

【0121】

前述の式（２）において、Lは損失関数であり、は、ｗ_ｉｊは、ニューロンｉ及びニューロンｊの結合の重みであり、ｓ_ｉは、ニューロンｉに対する入力の加重和であり、すなわち、

【数3】

であり、

【数4】

は、層ｊの次の層（層ｉ）から層ｊへと移行された勾配

【数4】

であり、

【数4】

は、中間層勾配と称されてよく、すなわち、層ｉは中間層としてみなされてよい。

【0122】

３．ニューラルネットワークのセグメント化

【0123】

ニューラルネットワークのセグメント化：ニューラルネットワークは、ノードの計算パワー及び通信能力に基づいて特定の中間層において複数のサブニューラルネットワークへとセグメント化され、サブニューラルネットワークは、複数のノード上でそれぞれ展開される。

【0124】

図５を参照すると、第１のデータモデル及び第２のデータモデルは、中間層においてデータモデルがセグメント化された後に取得される。訓練又は推論の順方向プロセスにおいて、第１のノードは、第１のデータモデルを使用することによって入力データを処理して中間データを取得し、チャネルを通して中間データを第２のノードへと伝送する。その後、第２のノードは、第２のデータモデルを使用することによって中間データを処理して、出力データを取得する。訓練の逆方向プロセスにおいて、第２のノードは、出力データに基づいて第２のデータモデルの誤差情報を決定し、第２のデータモデルのパラメータを更新し、第２のデータモデルの誤差情報を第１のノードへと送信する。第１のノードは、第２のデータモデルの誤差情報に基づいて第１のデータモデルの誤差情報を決定し、第１のデータモデルのパラメータを更新する。

【0125】

４．第１のデータモデルのパラメータ、第２のデータモデルのパラメータ、第１のチャネルのパラメータ、及び第１のチャネルについての情報

【0126】

第１のデータモデルのパラメータ：第１のデータモデルのパラメータθ_１は、第１のデータモデルに対応する重み及び／又は偏位であり得る。

【0127】

第２のデータモデルのパラメータ：第２のデータモデルのパラメータθ_２は、第２のデータモデルに対応する重み及び／又は偏位であり得る。

【0128】

本願の本実施形態において、第１のチャネルは制御可能な部分を含んでよく、制御不能な部分を更に含んでよい。制御可能な部分は制御可能な環境を含んでよく、制御不能な部分は、２つのノード間の制御不能な環境を含んでよい。代替的には、第１のチャネルは、制御可能な部分によって影響を受けた訓練可能なチャネルを含んでよく、制御不能な部分によって形成された直通チャネルを更に含んでよい。

【0129】

制御可能な環境：無線チャネル環境を調整するために、制御可能ユニットが環境内に展開される。

【0130】

例えば、制御可能ユニットは、中継、分散アンテナ、又は能動的なインテリジェント反射面などの能動デバイスを含んでよい。代替的には、制御可能ユニットは、受動的案インテリジェント反射面などの受動デバイスを含んでよい。

【0131】

図６又は図７を参照すると、第１のチャネルは第２のチャネルを含んでよく、第３のチャネルを更に含んでよい。本願の実施形態において、制御可能な部分、又は制御可能な部分によって影響を受けた訓練可能なチャネルは、第２のチャネルと称され、制御不能な部分、又制御不能な部分によって形成されたチャネルは、第３のチャネルと称される。

【0132】

図６は、本願の一実施形態による分散学習方法の適用の概略図である。図７は、本願の一実施形態による別の分散学習方法の適用の概略図である。図６又は図７に示されるように、第１のノードは第１のデータモデルを含み、第２のノードは第２のデータモデルを含み、第１のノードは第１のチャネルを通して第２のノードと通信する。図６は、主に、第１のチャネルの表示形態が異なっている点で図７と異なる。

【0133】

例えば、第１のチャネルは、制御可能な部分及び制御不能な部分を含み、又は、第１のチャネルは、制御可能な部分によって影響を受けた訓練可能なチャネル及び制御不能な部分によって形成されたチャネルを含む。図６及び図７を参照すると、第１のノード及び第２のノードの間の第１のチャネルは、ｇ_１×Φ×ｇ_２＋ｈ又は

【数5】

として表されてよく、ここで、ｇ_１、ｇ_２、及びｈは、制御不能な部分の関連情報又は制御不能な部分によって形成されたチャネルの関連情報であり、ｇ_１は、第１のノードから制御可能な部分までのチャネル（又は、制御可能な環境又は制御可能な部分によって影響を受けた訓練可能なチャネルと称される）、ｇ_２は、第２のノードから制御可能な部分までのチャネル（制御可能な環境又は制御可能な部分によって影響を受けた訓練可能なチャネルと称される）であり、ｈは、第１のノードから第２のノードまでの直通チャネルである。Ｎは、次元、例えば、中間層として機能する第１のチャネルの制御可能ユニット（例えば、制御可能な環境又は制御可能な部分）の数である。Φは、制御可能な部分のパラメータ又は制御可能な部分によって影響を受けた訓練可能なチャネルのパラメータであり、Φは、制御可能な部分の応答であり得る（又は、制御可能な環境又は制御可能な部分によって影響を受けた訓練可能なチャネルと称される）。例えば、Φは、振幅及び位相効果などを含んでよい。

【0134】

例えば、制御可能な部分の応答Φのｎ番目の要素は、式（３）として表され得る。

【数6】

ここで、β_ｎは応答の振幅であり、ｅは自然数の定数であり、ｅは、２．７１８２８におおよそ等しく、ψ_ｎは、応答の位相であり、ｊは虚数単位であり、ｊ^２＝－１である。

【0135】

本願の実施形態において、第１のチャネルのパラメータは、以下の、ｇ_１、ｇ_２、ｈ、及びΦのうちの１つ又は複数を含んでよい。第２のチャネルのパラメータは、Φを含んでよい。第１のチャネルについての情報は、ｇ_１、ｇ_２、ｈ、及びΦのうちの１つ又は複数に基づいて取得された情報を含んでよい。第３のチャネルについての情報は、ｇ_１、ｇ_２、及びｈのうちの１つ又は複数に基づいて取得された情報を含んでよい。

【0136】

従来技術において、通信伝送は、無損失伝送のために設計されている。情報誤差のない伝送を確実にするために、順方向プロセス及び逆方向プロセスにおいて、第１のノード及び第２のノードの間で伝送される情報に対してチャネルのエンコードを実行する必要があり、受信した情報をデコードする必要がある。

【0137】

研究を通して出願者は、ニューラルネットワークのランダムな勾配降下によって表される、ニューラルネットワーク及び訓練方法の過剰パラメータ（すなわち、パラメータの数が訓練サンプルの数より大きいこと）の特性により、ニューラルネットワークが良好な誤差耐性能力を有することを可能にすることを発見した。したがって、分散学習プロセスにおいて、情報の無損失伝送のための要件は低い。しかしながら、エンコード及びデコード処理がリソースの大部分を占め、これによりリソースが浪費される。通信からニューラルネットワークの学習を分離させる設計により、無線リソース利用の冗長性がもたらされる。加えて、この解決手段は、分散学習の性能を高めることができない。

【0138】

リソースを節約することができるように、及び、分散学習の性能を高めることができるように、本願は、チャネルを分散学習と組み合わせ、チャネルをニューラルネットワークの一部として扱うことによってチャネル及びニューラルネットワークに対して共同訓練を実行することを提案する。

【0139】

本願の実施形態において提供される分散学習方法は、複数の波形システム、例えば、シングルキャリア、離散フーリエ変換拡散直交周波数分割多重化（ｄｉｓｃｒｅｔｅ Ｆｏｕｒｉｅｒ ｔｒａｎｓｆｏｒｍ ｓｐｒｅａｄ ＯＦＤＭ，ＤＦＴ－ｓ－ＯＦＤＭ）システム、サイクリックプレフィックス直交周波数分割多重化（ｃｙｃｌｉｃ ｐｒｅｆｉｘ ＯＦＤＭ，ＳＣ－ＯＦＤＭ）システム、及び直交時間－周波数空間（ｏｒｔｈｏｇｏｎａｌ ｔｉｍｅ－ｆｒｅｑｕｅｎｃｙ ｓｐａｃｅ，ＯＴＦＳ）システムに適用され得る。システムの無線チャネル応答は、線形システムとしてモデル化されてよい。システム間の主な違いは、リソースが異なることである。例えば、シングルキャリアは、時間ドメインにおけるシンボルを定義し、ＯＴＦＳなどは、シンボルに対して更なる線形変換を実行するものとみなされ得る。

【0140】

本願の実施形態において提供される分散学習方法は、１つ又は複数のアンテナを有するシナリオに適用でき、ニューロン及びアンテナの間のマッピング（すなわち、プレコード）も線形変換である。

【0141】

本願の実施形態において提供される分散学習方法は、単一のＡＩタスク及びマルチタスクマルチビューシナリオに適用できる。マルチタスクシナリオにおいて、複数の推論タスクのために構成された複数の第２のデータモデルがあってよい。複数の第２のデータモデルは、別々に更新される。第１のデータモデル及び制御可能な環境は、複数の第２のデータモデルの中間層誤差情報を統合する（例えば、重み付けする）ことによって更新される必要がある。マルチビューシナリオにおいて、第２のデータモデルの後続の推論のための異なるビューのデータを処理するように構成された複数の第１のデータモデルがあってよい。制御可能な環境の更新は、複数の第１のデータモデルの中間層推論出力の伝送方式に関連する。例えば、直交／非直交多元接続が用いられる場合、複数の第１のデータモデルが別々に更新されてよい。本願の実施形態において提供される分散学習方法は、分散学習方法が単一のＡＩタスクに適用されている一例を用いることによって説明される。

【0142】

この解決手段の技術的解決手段は、マルチホップネットワークシナリオ、すなわち、ニューラルネットワークが３つ以上にセグメント化されている場合に適用されてよい。

【0143】

以下では、図８～図１２（ａ）及び図１２（ｂ）を参照して、本願の実施形態において提供される分散学習方法について詳しく説明する。図９Ａ～図１１Ｂは、本願の一実施形態による分散学習方法の適用の概略図である。図８、図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される方法が説明されるとき、図９Ａ～図１１Ｂのコンテンツが例として説明される。

【0144】

例えば、図８は、本願の一実施形態による分散学習方法のインタラクションの概略図である。ＯＦＤＭシステムが説明のための一例として用いられている。分散学習方法は、図１に示される任意の２つのノード間の通信に適用されてよい。

【0145】

図８に示されるように、分散学習方法は以下の段階を含む。

【0146】

Ｓ８０１：第１のノードが、第１のデータモデルを使用することによって第１のデータを処理して、第１の中間データを取得する。

【0147】

例えば、第１のノードは第１のデータモデルを含み、第１のデータモデルは、第１のノード内に構築される。

【0148】

例えば、第１のデータモデルはニューラルネットワークソフトウェアであってよい。第１のデータモデルは、ニューラルネットワークソフトウェア又はハードウェア、例えば、ニューラルネットワークの訓練プログラム又は実行可能スクリプトの形態で第１のノード内に構築されてよい。

【0149】

任意選択で、第１のデータは、訓練サンプルにおけるデータ又は推論中のデータであってよい。Ｓ８０１は、訓練プロセス又は推論プロセスに適用されてよい。

【0150】

図６又は図７を参照すると、第１のノードは、第１のデータモデルに基づいて第１のデータｘを処理して、第１の中間データｚを出力する。

【0151】

図９Ａ～図１１Ｂにおける段階（ａ）を参照すると、第１のデータはｘであり、第１のノードは、パラメータがθ_１である第１のデータモデルを使用することによってｘを処理して、

【数7】

を取得し、ここで、

【数8】

は、パラメータがθ_１であるニューラルネットワークモデルである。

【0152】

Ｓ８０２：第１のノードが、第１のチャネルを通して第１の中間データを第２のノードへと送信する。これに応じて、第２のノードが、第１のチャネルを通して第２の中間データを第１のノードから受信する。

【0153】

例えば、第２の中間データは、第１のチャネルを通した第２のノードへの第１の中間データの伝送の結果である。

【0154】

図６又は図７を参照すると、第１のノードは、第１のチャネルを通して第１の中間データｚを送信し、第１の中間データｚが第１のチャネルを通過した後に、第２の中間データｃが出力され、第２のノードが第２の中間データｃを受信する。

【0155】

いくつかの実施形態において第２のノードは、第１のチャネル（例えば、ｇ_２×Φ×ｇ_１＋ｈ）を通して第１のノードから第１の中間データ（例えば、

【数9】

）を受信して、第２の中間データ

【数10】

を取得し、ここで、ｋはノイズである。他のシンボルの意味については、第１のチャネルのパラメータの前述の説明を参照されたい。詳細は、本明細書において再度説明されない。

【0156】

図９Ａ～図１１Ｂにおける段階（ｂ）を参照すると、第２のノードは、第１のチャネル（例えば、

【数5】

）を通して第１のノードから第１の中間データ（例えば、

【数9】

）を受信して、第２の中間データ

【数11】

を取得し、ここで、ｋはノイズであり、Ｎは、中間層として機能する第１のチャネルの次元（例えば、チャネルの制御可能な環境、チャネルの制御可能な部分、又はチャネルの制御可能な部分によって影響を受けた訓練可能なチャネル）である。他のシンボルの意味については、第１のチャネルのパラメータの前述の説明を参照されたい。詳細は、本明細書において再度説明されない。

【0157】

例えば、第１のチャネルは、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて更新される。

【0158】

任意選択で、第２の中間データの誤差情報は、第２の中間データの勾配、又は第２の中間データの勾配の規格化値を含んでよい。

【0159】

任意選択で、第１のチャネルについての情報は、以下の：ｇ_１、ｇ_２、ｈ、及びΦのうちの１つ又は複数を含んでよい。

【0160】

第１のチャネルを更新する具体的な実装形態については、図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示されるＳ１２０２ａ及びＳ１２０２ｂを参照されたい。詳細は、本明細書において再度説明されない。

【0161】

本願の本実施形態において、第１のノード及び第２のノードの間のチャネル（すなわち、第１のチャネル）が訓練され、ＤＮＮにより要求されるフィルタリング又は特徴抽出などの機能を無線伝送プロセスにおいて実装することができるように、チャネルは、訓練及び推論に関与するデータモデルの中間層（例えば、残留層）として使用され、これにより、分散学習の性能を高めることができる。加えて、分散学習に対して直接機能するために無線伝送が可能となり、これにより、処理の複雑性を低下させ、リソースを更に節約することができる。

【0162】

任意選択で、第１のデータモデルのパラメータの値は、以前の訓練の後に取得された値である。第１のチャネルのパラメータの値は、以前の訓練の後に取得された値である。

【0163】

すなわち、順方向訓練プロセス又は推論プロセスにおいて、第１のデータモデルのパラメータの値は、以前の訓練の後に更新された値又は初期値（例えば、第１のデータモデルが訓練されていない）であってよく、第１のチャネルのパラメータの値は、以前の訓練の後に更新された値又は初期値（例えば、第１のチャネルが訓練されていない）であってよい。

【0164】

いくつかの実施形態において、Ｓ８０２では、第１のノードが第１のチャネルを通して第１の中間データを第２のノードへと送信することは：第１のノードが第１の中間データをシンボルへと変調し、第１のチャネルを通してシンボルを第２のノードへと送信することを含んでよい。

【0165】

例えば、第１のノードは、第１の中間データをエアインターフェースリソースにマッピングし、第１の中間データを第２のノードへと送信してよい。このように、チャネルのエンコード及びデコードがデータ伝送プロセスでは要求されず、リソースを節約することができる。

【0166】

例えば、変調されたシンボルの数がデータモデルの中間層の次元と同じである。

【0167】

例えば、シンボルの値及び中間層の値は、以下の式：ｓ＝ｚ又はｓ＝Ｗ×ｚを満たしてよく、すなわち、シンボルの値及び中間層の値の間で特定の線形変換が満たされ、ここで、ｓはシンボルの値であり、ｚは中間層の値であり、Ｗは線形変換行列である。これは、データモデルが複雑なデータモデルである、すなわち、ニューラルネットワークが複雑なニューラルネットワークである場合に対応し得る。以下では、説明のための一例としてｓ＝ｚを用いる。

【0168】

図６又は図７を参照すると、データモデルの中間層の次元が４である場合、シンボルの数も４である。

【0169】

別の例として、変調されたシンボルの数は、データモデルの中間層の次元の半分である。言い換えれば、２つのニューロンの出力が複素数値シンボルを形成する、又は、シンボルの値及び中間層の値の間で特定の線形変換が満たされ得る。

【0170】

例えば、シンボルの値及び中間層の値の間で以下の式：

【数12】

が満たされてよく、ここで、ｓ_ｉはシンボルｉの値であり、ｉ_１及びｉ_２は、中間層におけるｉ_１番目の要素及びｉ_２番目の要素を表し、ｊは定数であり、ｊ^２＝－１である。

【0171】

いくつかの実施形態において、Ｓ８０２で第２のノードが第１のチャネルを通して第２の中間データを第１のノードから受信することは：第２のノードが、受信した第２の中間データのシンボルに対して次元照合を実行することを含んでよい。

【0172】

このように、第２のノードは、データを受信するプロセスにおいてデコードを実行する必要がなく、これによりリソースを節約することができる。

【0173】

任意選択で、第２のノードは、データモデルが複雑なデータモデルであるかどうかに応じて次元照合を実行してよい。

【0174】

例えば、復調されたシンボルの数が、データモデルの中間層の次元と同じである。これは、データモデルが複雑なデータモデルである場合に対応する。

【0175】

別の例として、第２の中間データの１つの複素数値シンボルは、２つの実数に拡張される。これは、データモデルが現実のデータモデルである場合に対応する。

【0176】

データモデルが複雑なデータモデルであるかどうかに応じて第２のノードが次元照合を実行する具体的な実装形態は、第１のノードが第１の中間データをシンボルに変調し、第１のチャネルを通してシンボルを第２のノードへと送信する、対応する実装形態と同様であり、詳細は、本明細書において再度説明されないことに留意されたい。

【0177】

第２のノードが、受信した第２の中間データのシンボルに対して次元照合を実行することは、第２のノードの第２のデータモデルが第２の中間データを処理する前に実行され、例えば、Ｓ８０３の前に実行され得ることに留意されたい。

【0178】

Ｓ８０３：第２のノードが、第２のデータモデルを使用することによって第２の中間データを処理して、出力データを取得する。

【0179】

例えば、第２のノードは第２のデータモデルを含む。第１のデータモデルと同様に、第２のデータモデルは第２のノード内に構築されてよい。

【0180】

例えば、第２のデータモデルは、ニューラルネットワークソフトウェアであってよく、ニューラルネットワークソフトウェア又はハードウェア、例えば、ニューラルネットワークの訓練プログラム又は実行可能スクリプトの形態で第２のノード内に構築されてよい。

【0181】

いくつかの実施形態において、第２のノードは、パラメータがθ_２である第２のデータモデルを使用することによって第２の中間データ

【数10】

を処理して、出力データ

【数13】

を取得し、ここで、

【数14】

は、パラメータがθ_２であるニューラルネットワークモデルであり、ｋはノイズである。他のシンボルの意味については、第１のチャネルのパラメータの前述の説明を参照されたい。詳細は、本明細書において再度説明されない。

【0182】

図９Ａ～図１１Ｂにおける段階（ｃ）を参照すると、一例として第２のノードのアンテナを使用して、第２のノードは、パラメータがθ_２である第２の中間データを使用することによって第２のデータモデル

【数15】

を処理し、取得した出力データは、

【数16】

であり得、ここで、Ｎは、中間層として機能する第１のチャネル（例えば、チャネルの制御可能な環境、チャネルの制御可能な部分、又はチャネルの制御可能な部分によって影響を受けた訓練可能なチャネル）の次元であり、Ｎは、０より大きい整数である。

【0183】

いくつかの実施形態において、パラメータがθ_２である第２のデータモデルを使用することによって、第２のノードのＭ個のアンテナが第２の中間データ

【数17】

を処理し、取得した出力データは、

【数18】

であり得、ここで、Ｎは、中間層として機能するチャネル（例えば、チャネルの制御可能な環境、チャネルの制御可能な部分、又はチャネルの制御可能な部分によって影響を受けた訓練可能なチャネル）の次元であり、ここで、Ｎは、０より大きい整数であり、Ｍは、第２のノードに含まれるアンテナの数であり、ｍは、１より大きい又はそれに等しい整数である。

【0184】

任意選択で、第２のノードの第２のデータモデルのパラメータθ_２の値は、以前の訓練の後に更新された値であってよい。

【0185】

すなわち、順方向訓練プロセス又は推論プロセスにおいて、第２のデータモデルのパラメータの値は、以前の訓練の後に更新された値又は初期値（例えば、第２のデータモデルが訓練されていない）であってよい。

【0186】

前述の分散学習方法を使用することによって、チャネルはデータモデルと組み合わされ、第１のノード及び第２のノードの間でデータを伝送するための第１のチャネルは、データモデルの中間層として使用され、第１のチャネルは訓練される。第１のチャネルは、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて最適化され、これにより分散学習の性能を高めることができる。加えて、通信及びコンピューティングの統合を実装するために、分散学習に対して直接機能するために無線伝送が可能となり、これにより、処理の複雑性を低下させ、リソースを更に節約することができる。

【0187】

Ｓ８０１～Ｓ８０３は、順方向訓練プロセス又は推論プロセスであり得ることに留意されたい。任意選択で、推論プロセスにおいて、第２のノードは、取得した出力データを第１のノードにフィードバックしてよい。

【0188】

任意選択で、第２のノードは、出力結果に基づいて損失関数を決定してよい。

【0189】

例えば、損失関数は、以下の式：

【数19】

として表され得、ここで、ｙ_{ｌａｂｅｌ}は、第１のデータｘに対応するラベルであり、ｙは出力結果であり、ｅｒｒｏｒは損失関数であり、ｅｒｒｏｒは、分散ＤＮＮのタスクに関連する。例えば、分類タスクとの対応関係において、ｅｒｒｏｒは交差エントロピーであってよく；回帰タスクとの対応関係において、ｅｒｒｏｒは平均二乗誤差であってよい。

【0190】

可能な設計方式において、本願の実施形態において提供される分散学習方法は、Ｓ１２０１、Ｓ１２０２ａ、Ｓ１２０２ｂ、及びＳ１２０３～Ｓ１２０７を含む、図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示されるような逆訓練プロセスを更に含んでよい。図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される分散学習方法は、図８に示される分散学習方法と組み合わせて使用されてよい。

【0191】

Ｓ１２０１：第２のノードが、出力データに基づいて第２のデータモデルを更新して、新しい第２のデータモデルを取得する。

【0192】

いくつかの実施形態において、Ｓ１２０１は、以下の段階１及び段階２を含んでよい。

【0193】

段階１：第２のノードが第２のデータモデルのパラメータの更新された値を取得する。

【0194】

任意選択で、第２のノードは、第２のデータモデルのパラメータの誤差情報を使用することによって第２のデータモデルのパラメータの更新された値を取得してよい。例えば、誤差情報は、勾配、又は勾配の規格化値を含んでよい。

【0195】

例えば、第２のデータモデルのパラメータの誤差情報は、第２の中間データ及び損失関数に基づいて第２のノードによって決定されてよい。

【0196】

図９Ａ～図１１Ｂにおける段階（ｄ）を参照すると、誤差情報が勾配である一例を使用して、第２のノードは、第２の中間データ（例えば、

【数11】

）及び損失関数Ｌに基づいて、第２のデータモデルのパラメータθ_２の勾配が、

【数20】

であり、その後、パラメータθ_２の更新された値が、

【数21】

であると決定してよく、ここで、Ｌは損失関数であり、ｙは出力データであり、ηは学習率であり、θ_２′はパラメータθ_２の更新された値であり、θ_２は、第２のデータモデルのパラメータの現在の値である。例えば、θ_２は、以前の訓練の後に取得された値であってよい。

【0197】

段階２：第２のノードが、第２のデータモデルのパラメータの更新された値に基づいて第２のデータモデルを更新する。

【0198】

例えば、第２のノードは、θ_２′を使用することによって第２のデータモデルを更新してよい。例えば、第２のデータモデルのパラメータの値は、

【数22】

に設定される。

【0199】

Ｓ１２０２ａ及びＳ１２０２ｂは、第１のチャネルを更新する段階である。任意選択で、第１のチャネルは、第１のノード（Ｓ１２０２ａ）又は第２のノード（Ｓ１２０２ｂ）によって更新されてよい。

【0200】

Ｓ１２０２ａ：第１のノードが、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて新しい第１のチャネルを取得する。

【0201】

任意選択で、第１のチャネルは第２のチャネル及び第３のチャネルを含む。Ｓ１２０２ａは：第１のノードが、第２の中間データの誤差情報、第３のチャネルについての情報、及び第１の中間データに基づいて第２のチャネルを更新し得ることを含んでよい。

【0202】

Ｓ１２０２ｂ：第２のノードが、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて新しい第１のチャネルを取得する。

【0203】

任意選択で、第１のチャネルは第２のチャネル及び第３のチャネルを含む。Ｓ１２０２ｂは：第２のノードが、第２の中間データの誤差情報、第３のチャネルについての情報、及び第１の中間データに基づいて第２のチャネルを更新し得ることを含んでよい。

【0204】

任意選択で、第１のチャネルは、第１のノード又は第２のノードによって更新されてよい。

【0205】

第１のチャネルについての情報の具体的な実装形態については、図６及び図７を参照した、第１のチャネルについての情報の前述の説明を参照されたい。詳細は、本明細書において再度説明されない。

【0206】

可能な設計方式において、本願本実施形態において提供される分散学習方法は：第２のノードが、第２の中間データの誤差情報及び第３のチャネルについての情報を第１のノードへと送信することを更に含んでよい。これに応じて、第１のノードは、第２の中間データの誤差情報及び第３のチャネルについての情報を取得する。

【0207】

いくつかの実施形態において第２のノードが第２の中間データの誤差情報及び第３のチャネルについての情報を第１のノードへと送信することは、図１２（ａ）に示されるＳ１２０４：第２のノードが第１の情報を第１のノードへと送信することを含んでよい。これに応じて、第１のノードが、第２の中間データの誤差情報及び第３のチャネルについての情報を取得することは：第１のノードが、第２のノードによって送信された第１の情報を受信することを含んでよい。

【0208】

任意選択で、第１の情報は、第２の中間データの誤差情報及び第３のチャネルについての情報に基づいて第２のノードによって決定されてよい。

【0209】

例えば、図９Ａ～図１１Ｂにおける段階（ｅ）を参照すると、第２のノードは、出力データｙ、損失関数、及び第２の中間データｃに基づいて、第２の中間データの誤差情報が、

【数23】

であることを決定する。

【0210】

例えば、図９Ａ及び図９Ｂにおける段階（ｆ）を参照すると、第２の中間データの誤差情報が、

【数23】

であり、第３のチャネルについての情報が、ｇ_2，ｎ×ｇ_１，ｎであり、第２の中間データの誤差情報及び第３のチャネルについての情報に基づいて第２のノードによって決定される第１の情報が、

【数24】

であると仮定される。図９Ａ及び図９Ｂにおける段階（ｇ）を参照すると、第２のノードは、第１の情報

【数24】

を第１のノードへと送信する。

【0211】

任意選択で、第１のノードは、第２のノードによって送信された第１の情報を、第４のチャネルを通して受信してよい。これに応じて、第２のノードは、第４のチャネルを通して第１の情報を第１のノードへと送信してよい。

【0212】

例えば、第４のチャネルは、逆訓練プロセスにおいて第１のノード及び第２のノードの間のチャネルであってよい。例えば、第４のチャネルは制御チャネルであってよい。

【0213】

すなわち、逆訓練プロセスにおける第１のノード及び第２のノードの間のチャネルは、例えば周波数ポイント又は伝送メカニズムの点で、順方向訓練プロセスにおける第１のノード及び第２のノードの間のチャネルとは異なり得る。

【0214】

任意選択で、逆訓練プロセスにおける第１のノード及び第２のノードの間のチャネルは、順方向訓練プロセスにおける第１のノード及び第２のノードの間のチャネルと同じであってよい。

【0215】

例えば、第１の情報は、従来のデータ／制御チャネル上で伝送されてよく、又は、ＤＮＮ訓練専用の別の物理／論理チャネル上で伝送されてよい。伝送プロセスは、スパース性、量子化、及び／又はエントロピコーディングなどのデータ量を低下させる操作を含んでよく、又は、チャネルコーディングなどの伝送エラーを低下させる操作を含んでよい。

【0216】

任意選択で、第２のノードは、第２の中間データの誤差情報及び第３のチャネルについての情報を第１のノードへと別々に送信してよい。例えば、第２のノードは、第２の中間データの誤差情報を第１のノードへと送信し、第２のノードは、第３のチャネルについての情報を第１のノードへと送信する。順序は限定されない。これに応じて、第１のノードは、第２のノードから第２の中間データの誤差情報を受信し、第１のノードは、第２のノードから第３のチャネルの情報を受信する。

【0217】

本願の本実施形態において、逆訓練プロセスにおける第１のノード及び第２のノードの間のチャネルが、順方向訓練プロセスにおける第１のノード及び第２のノードの間のチャネルと異なる場合、順方向訓練プロセスにおける第１のノード及び第２のノードの間のチャネルが第１のチャネルと称され、逆訓練プロセスにおける第１のノード及び第２のノードの間のチャネルが第４のチャネルと称される。逆訓練プロセスにおける第１のノード及び第２のノードの間のチャネルが順方向訓練プロセスにおける第１のノード及び第２のノードの間のチャネルと同じである場合、順方向プロセス及び逆方向プロセスの両方において第１のノード及び第２のノードの間のチャネルが第１のチャネルと称される。

【0218】

いくつかの他の実施形態において、第２のノードが第２の中間データの誤差情報及び第３のチャネルについての情報を第１のノードへと送信することは、図１２（ｂ）に示されるＳ１２０５：第２のノードが第１のチャネルを通して第４の信号を第１のノードへと送信することを含んでよい。

【0219】

これに応じて、Ｓ１２０５において、第１のノードが、第１のチャネルを通して第２のノードから第３の信号を受信する。

【0220】

任意選択で、第４の信号は、第２の中間データの誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0221】

例えば、第２のノードは、第２の中間データの誤差情報

【数23】

を含む第４の信号を送信し、制御可能な部分のパラメータφを設定する。

【0222】

例えば、第２のノードは、第４の信号を繰り返し送信し、第４の信号を送信する度に、制御可能な部分のパラメータφを調整してよい。

【0223】

例えば、図１０Ａ及び図１０Ｂにおける段階（ｘ）を参照すると、

【数23】

を含む第４の信号を初めて送信するとき、第２のノードは、φ_１からφ_Ｎをそれぞれ、［０，０，...，０］に設定する。その後、第４の信号が２回目から（Ｎ＋１）回目に送信されるとき、φ_１からφ_Ｎの値は順次調整される。例えば、φ_１からφ_Ｎはそれぞれ、

【数25】

に設定され、すなわち、φ_１からφ_Ｎにおける１つのパラメータが１に設定され、他のパラメータは０に設定される。例えば、第４の信号が２回目に送信されるとき、φ_１からφ_Ｎはそれぞれ、

【数26】

に設定され、すなわち、φ_１＝１が設定され、φ_２からφ_Ｎは全て０に設定される。同様に、第４の信号が（Ｎ＋１）回目に送信されるとき、φ_１からφ_Ｎはそれぞれ、

【数27】

に設定される。

【0224】

制御可能な部分のパラメータφを調整する順序は本願の本実施形態において限定されず、前述のものは、第１のノードが第３の信号に基づいて第１の中間データの誤差情報を取得することができることを前提に、説明を容易にするために本願において起案された一例に過ぎないことに留意されたい。

【0225】

これに応じて、いくつかの他の実施形態において、第１のノードが第２の中間データの誤差情報及び第３のチャネルについての情報を取得することは：第１のノードが第１のチャネルを通して第２のノードから第３の信号を受信すること、及び第１のノードが第３の信号に基づいて第１の情報を取得することを含んでよい。

【0226】

任意選択で、第３の信号は、第４の信号が第１のチャネルを通して第１のノードへと伝送された後に取得される信号である。

【0227】

例えば、図１０Ａ及び図１０Ｂにおける段階（ｘ）を参照すると、第１のノードによって受信される第３の信号は、

【数28】

又は

【数29】

を含んでよい。

【0228】

任意選択で、第１の情報は、第２の中間データの誤差情報及び第３のチャネルについての情報に基づいて第１のノードによって決定されてよい。

【0229】

例えば、図１０Ａ及び図１０Ｂにおける段階（ｘ）を参照すると、第１のノードは、

【数28】

及び

【数30】

に基づいて第１の情報

【数31】

を取得してよい。

【0230】

このように、チャネルの相互関係に基づいて、エアインターフェースリソース上での信号の伝搬特性を使用することによって、第１の情報（すなわち、第２の中間データの誤差情報及び第３のチャネルについての情報）は、チャネル推定を回避するために、無線による計算を通して取得され、これによりパイロットオーバヘッドを低下させることができる。

【0231】

可能な設計方式において、本願の本実施形態において提供される分散学習方法は、図１２（ｃ）に示されるＳ１２０６：第１のノードが第１のチャネルを通して第５の信号を第２のノードへと送信することを更に含んでよい。これに応じて、第２のノードが、第１のチャネルを通して第１のノードから第６の信号を受信する。

【0232】

任意選択で、第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、第３の中間データは第１のチャネルを更新するためのものである。

【0233】

例えば、第３の中間データは、第１のノードによる第１のデータの処理の結果であってよい。第１のノードは、第３の中間データ

【数32】

を含む第５の信号を送信し、制御可能な部分のパラメータφを設定する。

【0234】

例えば、第１のノードは、第５の信号を繰り返し送信し、第５の信号を送信する度に、制御可能な部分のパラメータφを調整してよい。

【0235】

例えば、図１１Ａ及び図１１Ｂにおける段階（ｙ）を参照すると、

【数32】

を含む第５の信号を初めて送信するとき、第１のノードは、φ_１からφ_Ｎをそれぞれ、［０，０，...，０］に設定する。その後、第５の信号が２回目から（Ｎ＋１）回目に送信されるとき、φ_１からφ_Ｎの値は順次調整される。例えば、φ_１からφ_Ｎはそれぞれ、

【数25】

に設定され、すなわち、φ_１からφ_Ｎにおける１つのパラメータが１に設定され、他のパラメータは０に設定される。例えば、第５の信号が２回目に送信されるとき、φ_１からφ_Ｎはそれぞれ、

【数26】

に設定され、すなわち、φ_１＝１が設定され、φ_２からφ_Ｎは全て０に設定される。同様に、第５の信号が（Ｎ＋１）回目に送信されるとき、φ_１からφ_Ｎはそれぞれ、

【数27】

に設定される。

【0236】

制御可能な部分のパラメータφを調整する順序は本願の本実施形態において限定されず、前述のものは、説明を容易にするために本願において起案された一例に過ぎないことに留意されたい。

【0237】

任意選択で、第６の信号は、第５の信号が第１のチャネルを通して第２のノードへと伝送された後に取得される信号である。

【0238】

任意選択で、第１のノードは、第６の信号に基づいて第３の情報を取得してよい。

【0239】

例えば、第３の情報は、第３の中間データ及び第３のチャネルについての情報に基づいて決定されてよい。

【0240】

例えば、図１１Ａ及び図１１Ｂにおける段階（ｙ）を参照すると、第２のノードによって受信される第６の信号は、

【数33】

又は

【数34】

を含んでよい。第２のノードは、

【数33】

及び

【数34】

に基づいて第３の情報

【数35】

を取得してよい。

【0241】

このように、チャネルの相互関係に基づいて、エアインターフェースリソース上での信号の伝搬特性を使用することによって、第３のチャネルについての情報及び第３の中間データは、チャネル推定を回避するために、無線による計算を通して取得され、これによりパイロットオーバヘッドを低下させることができる。

【0242】

いくつかの実施形態において、第１のノード又は第２のノードは、第１の情報及び第１の中間データに基づいて新しい第１のチャネルを取得してよい。

【0243】

以下では、例１～例４を参照して、第１のチャネルを更新する（新しい第１のチャネルを取得する）ことについて具体的に説明する。

【0244】

例１：第１のチャネルを更新する方式は、以下の段階１．１～段階１．３を含んでよい。

【0245】

段階１．１：第１のノードが、第１の情報及び第１の中間データに基づいて第１のチャネルのパラメータの誤差情報を決定する。

【0246】

任意選択で、第１のチャネルのパラメータの誤差情報は、第１のチャネルのパラメータの勾配又は第１のチャネルのパラメータの勾配の規格化値を含んでよい。

【0247】

例えば、第１のチャネルのパラメータは、第１のチャネルの制御可能な部分のパラメータφであってよい。制御可能な部分のパラメータφの具体的な実装形態については、第１のチャネルのパラメータの前述の説明を参照されたい。詳細は、本明細書において再度説明されない。

【0248】

任意選択で、第１のノードは、第１の情報及び第１の中間データに基づいて、第２のチャネルのパラメータの誤差情報を決定してよい。

【0249】

図９Ａ及び図９Ｂ又は図１０Ａ及び図１０Ｂにおける段階（ｈ）を参照すると、第１のノードは、第１の情報

【数24】

及び第１の中間データ

【数32】

に基づいて、第２のチャネルのパラメータの勾配が、

【数36】

であると決定してよく、ここで、シンボル＊は共役演算である。

【0250】

段階１．２：第１のノードが、第２のチャネルのパラメータの誤差情報に基づいて、第２のチャネルのパラメータの更新された値を決定する。

【0251】

図９Ａ及び図９Ｂ又は図１０Ａ及び図１０Ｂにおける段階（ｉ）を参照すると、第１のノードは、第２のチャネルのパラメータφの勾配

【数37】

を使用することによって、第２のチャネルのパラメータを更新してよい。第２のチャネルのパラメータの更新された値

【数38】

は、以下の式

【数39】

によって表されてよく、又は、

【数38】

は、以下の式

【数40】

によって表されてよく、ここで、

【数38】

は、第２のチャネルのパラメータの更新された値を表し、φ_ｎは、第２のチャネルのパラメータの現在の値を表す。例えば、φ_ｎは、以前の訓練の後に取得された値であってよい。

【0252】

段階１．３：第１のノードが、第２のチャネルのパラメータの更新された値に基づいて第２のチャネルを更新する。

【0253】

図９Ａ及び図９Ｂ又は図１０Ａ及び図１０Ｂにおける段階（ｊ）を参照すると、第１のノードは、

【数41】

を使用することによって第２のチャネルのパラメータφ_ｎ、β_ｎ、及びψ_ｎを更新して、新しい第１のチャネルを取得してよい。

【0254】

任意選択で、第１のノードは、第２のチャネルのパラメータを調整するように構成されてよい。

【0255】

例えば、第１のノードは、第２のチャネルのパラメータを調整する機能を有する。例えば、第１のノードはコントローラを含む。コントローラは、制御可能な部分のパラメータを調整するように構成されてよい。

【0256】

いくつかの実施形態において、前述の段階１．１を実行した後、第１のノードは、第２のノードが第１のチャネルを更新することを可能にするために、以下の段階２．１を実行してよい。

【0257】

例２：第１のチャネルを更新する方式は、前述の段階１．１及び以下の段階２．１～段階２．３を含んでよい。段階１．１が最初に実行されてよく、その後、段階２．１～段階２．３が実行される。

【0258】

段階２．１：第１のノードが、第２のチャネルのパラメータの誤差情報を第２のノードへと送信する。これに応じて、第２のノードが、第１のノードから第２のチャネルのパラメータの誤差情報を受信する。

【0259】

第２のチャネルのパラメータの誤差情報の具体的な実装形態については、前述の段階１．１を参照されたい。詳細は、本明細書において再度説明されない。

【0260】

図９Ａ及び図９Ｂにおける段階（ｋ）を参照すると、第１のノードは、

【数42】

を第２のノードへと送信する。

【0261】

任意選択で、第１のノードは、第４のチャネルを通して第２のチャネルのパラメータの誤差情報を第２のノードへと送信する。これに応じて、第２のノードは、第４のチャネルを通して第１のノードから第２のチャネルのパラメータの誤差情報を受信する。

【0262】

段階２．２：第２のノードが、第２のチャネルのパラメータの誤差情報に基づいて、第２のチャネルのパラメータの更新された値を決定する。

【0263】

段階２．２の実装形態は、前述の段階１．２と同様であり、主な違いは、第１のノードが第２のノードで置き換えられており、詳細は本明細書において再度説明されないことに留意されたい。

【0264】

段階２．３：第２のノードが、第２のチャネルのパラメータの更新された値に基づいて第２のチャネルを更新する。

【0265】

図９Ａ及び図９Ｂにおける段階（ｌ）を参照すると、第２のノードは、

【数43】

を使用することによって、第２のチャネルのパラメータφ_ｎ、β_ｎ、及びψ_ｎを更新して、新しい第１のチャネルを取得してよい。

【0266】

例えば、第２のノードは、第２のチャネルのパラメータを調整する機能を有する。例えば、第２のノードはコントローラを含む。コントローラは、制御可能な部分のパラメータを調整するように構成されてよい。

【0267】

このように、第１のノードが第２のチャネルのパラメータを調整する機能を有さず、第２のノードが第２のチャネルのパラメータを調整する機能を有する場合、第１のノードは、第２のチャネルのパラメータの誤差情報を第２のノードへと送信して、第２のノードが第２のチャネルを更新することを可能にしてよい。

【0268】

いくつかの実施形態において、前述の段階１．２を実行した後、第１のノードは、段階１．３を実行することなく以下の段階３．１を実行して、第２のノードが第２のチャネルを更新することを可能にしてよい。

【0269】

例３：第２のチャネルを更新する方式は、前述の段階１．１及び段階１．２、及び以下の段階３．１及び段階３．２を含んでよい。

【0270】

段階３．１：第１のノードが、第２のチャネルのパラメータの更新された値を第２のノードへと送信する。これに応じて、第２のノードが、第１のノードから第２のチャネルのパラメータの更新された値を受信する。

【0271】

図９Ａ及び図９Ｂにおける段階（ｋ）を参照すると、第１のノードは、第２のチャネルのパラメータの更新された値

【数43】

を第２のノードへと送信してよい。

【0272】

段階３．２：第２のノードが、第２のチャネルのパラメータの更新された値に基づいて第２のチャネルを更新する。

【0273】

段階３．２の実装形態について、段階２．３を参照し得ることに留意されたい。詳細は、本明細書において再度説明されない。

【0274】

例えば、第２のノードは、第２のチャネルのパラメータを調整する機能を有する。例えば、第２のノードはコントローラを含む。コントローラは、制御可能な部分のパラメータを調整するように構成されてよい。

【0275】

このように、第１のノードが第２のチャネルのパラメータを調整する機能を有さず、第２のノードが第２のチャネルのパラメータを調整する機能を有する場合、第１のノードは、第２のチャネルのパラメータの更新された値を第２のノードへと送信して、第２のノードが第２のチャネルを更新することを可能にしてよい。

【0276】

例４：第１のチャネルを更新する方式は、以下の段階４．１～段階４．３を含んでよい。

【0277】

段階４．１：第２のノードが、第２の中間データの誤差情報、第３のチャネルについての情報、及び第１の中間データに基づいて、第２のチャネルのパラメータの誤差情報を決定する。

【0278】

例えば、第２のノードは、第３の情報及び第２の中間データの誤差情報に基づいて第２のチャネルを更新してよい。

【0279】

任意選択で、第２のチャネルのパラメータの誤差情報は、第２のチャネルのパラメータの勾配又は第２のチャネルのパラメータの勾配の規格化値を含んでよい。

【0280】

例えば、第２のチャネルのパラメータは、第２のチャネルの制御可能な部分のパラメータφであってよい。制御可能な部分のパラメータφの具体的な実装形態については、第１のチャネルのパラメータの前述の説明を参照されたい。詳細は、本明細書において再度説明されない。

【0281】

任意選択で、第２のノードは、第２の中間データの誤差情報、第３のチャネルについての情報、及び第１の中間データに基づいて、第２のチャネルのパラメータの誤差情報を決定してよい。

【0282】

例えば、第２のノードは、第３の情報及び第２の中間データの誤差情報に基づいて、第２のチャネルのパラメータの誤差情報を決定してよい。

【0283】

図１１Ａ及び図１１Ｂにおける段階（ｕ）を参照すると、第２のノードは、第３の情報

【数35】

及び第２の中間データの誤差情報

【数23】

に基づいて、第２のチャネルのパラメータφの勾配が、

【数42】

であると決定する。

【0284】

段階４．２：第２のノードが、第２のチャネルのパラメータの誤差情報に基づいて、第２のチャネルのパラメータの更新された値を決定する。

【0285】

図１１Ａ及び図１１Ｂにおける段階（ｖ）を参照すると、第２のノードは、第２のチャネルのパラメータφの勾配

【数37】

を使用することによって、第２のチャネルのパラメータを更新してよい。第２のチャネルのパラメータの更新された値

【数38】

は、以下の式

【数39】

によって表されてよく、又は、

【数38】

は、

【数40】

以下の式によって表されてよい。

【0286】

段階４．３：第２のノードが、第２のチャネルのパラメータの更新された値に基づいて第２のチャネルを更新する。

【0287】

図１１Ａ及び図１１Ｂにおける段階（ｗ）を参照すると、第２のノードは、

【数43】

を使用することによって、第２のチャネルのパラメータφ_ｎ、β_ｎ、及びψ_ｎを更新して、新しい第１のチャネルを取得してよい。

【0288】

例えば、第２のノードは、第２のチャネルのパラメータを調整する機能を有する。例えば、第２のノードはコントローラを含む。コントローラは、制御可能な部分のパラメータを調整するように構成されてよい。

【0289】

例１～例４に記録される、第１のチャネルを更新する方式は、第１のノード及び第２のノードの両方がチャネルのパラメータを調整する機能する場合に更に適用され得ることに留意されたい。

【0290】

可能な設計方式において、本願の本実施形態において提供される分散学習方法は：第１のノードが第１のチャネルを通して第１の信号を第２のノードへと送信することを含んでよい。これに応じて、第２のノードが、第１のチャネルを通して第１のノードから第２の信号を受信する。

【0291】

例えば、第２の信号は、第１の信号が第１のチャネルを通して第２のノードへと伝送された後に取得される信号である。

【0292】

任意選択で、第１の信号は、第３のチャネルについての情報を決定するためのものである。

【0293】

例えば、第１の信号はパイロット信号であってよく、第１のノードは、パイロットを送信し、制御可能な部分のパラメータφを設定してよい。

【0294】

例えば、図９Ａ及び図９Ｂにおける段階（ｍ）を参照すると、第１のノードは、パイロットを第２のノードへと送信し、第１のノードは、φ_１からφ_Ｎをそれぞれ、［０，０，...，０］に設定し、φ_１からφ_Ｎをそれぞれ、

【数25】

に設定し、すなわち、φ_１からφ_Ｎにおける１つのパラメータを１に設定し、他のパラメータを０に設定する。例えば、ｎ＝１の場合、φ_１からφ_Ｎはそれぞれ、

【数26】

に設定され、すなわち、φ_１＝１が設定され、φ_２からφ_Ｎは全て、０に設定される。

【0295】

任意選択で、第２のノードは、第２の信号に基づいて、第１のチャネルについての情報を取得してよい。

【0296】

このように、分散学習の性能を高めるために、第２のノードは、チャネル推定を実行して、チャネルについての情報を取得し、チャネル又は第１のデータモデルを更新してよい。

【0297】

例えば、図９Ａ及び図９Ｂにおける段階（ｎ）を参照すると、第１のノードが、φ_１からφ_Ｎをそれぞれ、［０，０，...，０］に設定し、パイロット信号を第２のノードへと送信すると仮定される。チャネルの式

【数5】

に基づいて、第２のノードは、第１のチャネル（例えば、第３のチャネル）についての情報ｈを取得してよい。

【0298】

第１のノードは、φ_１からφ_Ｎをそれぞれ、

【数44】

に設定する、すなわち、φ_１からφ_Ｎにおける１つのパラメータを１に設定し、他のパラメータを０に設定する。チャネルの式

【数5】

に基づいて、第２のノードは、第１のチャネル（例えば、第３のチャネル）についての情報ｈ＋ｇ_２，ｎ×ｇ_１，ｎを取得してよい。例えば、ｎ＝１の場合、φ_１からφ_Ｎはそれぞれ、

【数26】

に設定される、すなわち、φ_１＝１が設定され、φ_２からφ_Ｎは全て、０に設定され、それにより、第１のチャネル（例えば、第３のチャネル）についての情報ｈ＋ｇ_２，１×ｇ_１，１を取得することができる。

【0299】

第１のチャネル（例えば、第３のチャネル）についての、取得した情報ｈ及び第１のチャネル（例えば、第３のチャネル）についての、取得した情報ｈ＋ｇ_２，ｎ×ｇ_１，ｎに基づいて、第２のノードは、第１のチャネル（例えば、第３のチャネル）についての情報ｇ_２，ｎ×ｇ_１，ｎを取得してよい。

【0300】

例えば、図９Ａ及び図９Ｂ及び図７における段階（ｊ）において、第１のノードは、φ_１からφ_Ｎをそれぞれ、以前の訓練の後に取得された値に設定し、第２のノードは、第１のチャネルについての情報

【数5】

を取得してよい。

【0301】

Ｎの値は、制御可能ユニットの実際の個数、例えば、分散アンテナの数又はインテリジェント反射面の要素の数に等しくてよいことに留意されたい。代替的には、Ｎの値は、制御可能ユニットの実際の個数より少なくてよい。例えば、超大規模アンテナアレイ又はインテリジェント反射板の場合、オーバヘッドを低下させるために、複数の制御可能ユニットがグループとして制御されてよい。

【0302】

段階（ｍ）～段階（ｎ）、及び第２のノードが第１の情報を第１のノードへと送信することの順序は、本願の本実施形態において限定されないことに留意されたい。例えば、段階（ｍ）～段階（ｎ）は、第２のノードが第１の情報を第１のノードへと送信する前に実行されてよい。すなわち、推定によって第１のチャネル（例えば、第３のチャネル）についての情報を取得した後、第２のノードが、第１の情報を第１のノードへと送信して、第１のチャネルを更新してよい。

【0303】

Ｓ１２０３：第１のノードが、第１の中間データの誤差情報に基づいて第１のデータモデルを更新して、新しい第１のデータモデルを取得する。

【0304】

いくつかの実施形態において、Ｓ１２０３は、以下の段階３～段階５を含んでよい。

【0305】

段階３：第１のノードが、第１の中間データの誤差情報に基づいて第１のデータモデルのパラメータの誤差情報を取得する。

【0306】

図９Ａ～図１１Ｂにおける段階（ｏ）を参照すると、第１のノードは、第１の中間データの誤差情報

【数45】

に基づいて、第１のデータモデルのパラメータθ_１の勾配

【数46】

を取得してよい。

【0307】

段階４：第１のノードが、第１のデータモデルのパラメータの誤差情報に基づいて第１のデータモデルのパラメータの更新された値を取得する。

【0308】

図９Ａ～図１１Ｂにおける段階（ｏ）を参照すると、第１のノードは、第１のデータモデルのパラメータの誤差情報

【数47】

に基づいて、第１のデータモデルのパラメータθ_１の更新された値

【数48】

を取得してよい。

【0309】

段階５：第１のノードが、第１のデータモデルのパラメータの更新された値に基づいて第１のデータモデルを更新する。

【0310】

図９Ａ～図１１Ｂにおける段階（ｏ）を参照すると、第１のノードは、θ_１′を使用することによって第１のデータモデルを更新してよい。例えば、第１のデータモデルのパラメータの値は、

【数49】

に設定される。

【0311】

可能な設計方式において、本願の本実施形態において提供される分散学習方法は、図１２（ａ）に示されるＳ１２０７：第２のノードが第２の情報を第１のノードへと送信することを更に含んでよい。これに応じて、第１のノードが、第２のノードによって送信された第２の情報を受信する。

【0312】

任意選択で、第２の情報は、第１の中間データの誤差情報を取得するためのものであってよい。

【0313】

いくつかの実施形態において、第２の情報は、第１の中間データの誤差情報を含んでよい。例えば、第２の情報は、第１の中間データの誤差情報

【数50】

を含んでよい。

【0314】

例えば、図９Ａ及び図９Ｂにおける段階（ｐ）を参照すると、第２のノードは、第１の中間データの誤差情報

【数50】

を第１のノードへと送信する。

【0315】

任意選択で、第２のノードは、第４のチャネルを通して第２の情報を第１のノードへと送信してよい。これに応じて、第１のノードは、第４のチャネルを通して、第２のノードによって送信された第２の情報を受信する。言い換えれば、第２のノードは、制御チャネルを通して第２の情報を第１のノードへと送信してよい。

【0316】

いくつかの実施形態において、第２のノードが第２の情報を第１のノードへと送信する前に、本願の本実施形態において提供される分散学習方法は：第２のノードが、第２の中間データの誤差情報及び第１のチャネルについての情報に基づいて第１の中間データの誤差情報を取得することを更に含んでよい。

【0317】

例えば、図９Ａ及び図９Ｂにおける段階（ｑ）を参照すると、第２のノードは、第２の中間データの誤差情報

【数23】

及び第１のチャネルについての情報

【数5】

に基づいて、第１の中間データの誤差情報が、

【数45】

であることを決定し、ここで、

【数51】

は、第１のチャネルの関数であり、線形の複雑なチャネルの場合、

【数52】

であり、シンボル＊は共役演算である。

【0318】

すなわち、第１の中間データの誤差情報を取得した後、第２のノードは、第１の中間データの誤差情報を含む第２の情報を第１のノードへと送信してよく、それにより、第１のノードは第１のデータモデルを更新してよく、これにより分散学習の性能が高められる。

【0319】

いくつかの他の実施形態において、第２の情報は、第２の中間データの誤差情報及び第１のチャネルについての情報を含んでよく、第２の中間データの誤差情報及び第１のチャネルについての情報は、第１の中間データの誤差情報を決定するためのものである。

【0320】

すなわち、第２のノードは、第２の中間データの誤差情報及び第１のチャネルについての情報を第１のノードへと送信してよい。これに応じて、第１のノードは、第２のノードによって送信された、第２の中間データの誤差情報及び第１のチャネルについての情報を受信する。

【0321】

可能な設計方式において、本願の本実施形態において提供される分散学習方法は、図１２（ｂ）又は図１２（ｃ）に示されるＳ１２０７：第２のノードが第７の信号を第１のノードへと送信することを更に含んでよい。これに応じて、第１のノードは、第２のノードから第８の信号を受信し、第８の信号に基づいて第１の中間データの誤差情報を取得する。

【0322】

任意選択で、第８の信号は、第７の信号が第１のチャネルを通して第１のノードへと伝送された後に取得される信号であり、第７の信号は、第２の中間データの誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む。

【0323】

例えば、第２のノードは、第２の中間データの誤差情報を送信し、制御可能な部分のパラメータを設定してよい。

【0324】

例えば、第２のノードは、次元照合に基づいて第２の中間データの誤差情報

【数23】

を、変調されたシンボルに形成し、変調されたシンボルを送信のための波形に変調し、制御可能な部分のパラメータφを調整してよく、それにより、第１のノードが、異な無線による計算の結果を受信する。

【0325】

例えば、図１０Ａ～図１１Ｂにおける段階（ｐ）を参照すると、第２のノードは、第２の中間データの誤差情報

【数23】

の共役

【数53】

を送信し、φ_１からφ_Ｎをそれぞれ、以前の訓練の後に取得された値に設定し、それにより、第１のノードは、第２の情報

【数54】

を取得してよい。第１のノードによって取得された第１の中間データの誤差情報は、以下の式

【数55】

を満たし、これは、

【数56】

に等しい。

【0326】

このように、第１のノードのニューラルネットワークの中間層の勾配の無線による計算は、無線による信号の伝搬のプロセスを通して実装され、これによりパイロットオーバヘッドを低下させることができる。

【0327】

任意選択で、本願の本実施形態において提供される分散学習方法は、伝送波形のピーク対平均比を低下させる、信号対ノイズ比を改善するなどのために、第１のデータモデルのパラメータの誤差情報、チャネルのパラメータの誤差情報、及び第２のデータモデルのパラメータの誤差情報に対して、正規化、振幅制限、スパース性、及び／又は動力制御などの処理を実行することを更に含んでよい。

【0328】

逆訓練が実装され得ることを前提に、Ｓ１２０１～Ｓ１２０８の順序は、本願の本実施形態において限定されないことに留意されたい。

【0329】

前述の分散学習方法を使用することによって、第１のノード及び第２のノードの間のチャネルが訓練され、チャネルはデータモデルの中間層（例えば、残留層）として使用され、第１のデータモデル、チャネル、及び第２のデータモデルが訓練された、推論に関与することが可能となり、これにより分散学習の性能を高めることができる。加えて、分散学習に対して直接機能するために無線伝送が可能となり、これにより、処理の複雑性を低下させ、リソースを更に節約することができる。

【0330】

本願の実施形態において提供される分散学習方法は、図８～図１２（ｃ）を参照して上で詳細に説明されている。本願の実施形態において提供される分散学習装置は、図１３～図１４を参照して以下で詳細に説明する。

【0331】

図１３は、本願尾一実施形態による分散学習方法を実行するように構成された分散学習装置の構造の概略図である。分散学習装置１３００は、第１のノード又は第２のノードであってよく、又は、第１のノード又は第２のノードにおいて使用される対応する機能を有するチップ又は別のコンポーネントであってよい。図１３に示されるように、分散学習装置１３００は、プロセッサ１３０１及び送受信機１３０３を含んでよく、メモリ１３０２を更に含んでよい。プロセッサ１３０１は、メモリ１３０２及び送受信機１３０３に結合されている。例えば、プロセッサ１３０１は、通信バスによってメモリ１３０２及び送受信機１３０３に接続されてよい。代替的には、プロセッサ１３０１は別個に使用されてよい。

【0332】

以下では、図１３を参照して、分散学習装置１３００のコンポーネントについて詳細に説明する。

【0333】

プロセッサ１３０１は、分散学習装置１３００の制御センターであり、１つのプロセッサであってよく、又は、複数の処理要素の全般的な用語であってよい。

【0334】

プロセッサ１３０１は、メモリ１３０２に記憶されたソフトウェアプログラムをラン又は実行し、メモリ１３０２に記憶されたデータを呼び出すことによって、分散学習装置１３００の様々な機能を実行してよい。

【0335】

具体的な実装形態では、一実施形態において、プロセッサ１３０１は、１つ又は複数のＣＰＵ、例えば、図１３に示されるＣＰＵ０及びＣＰＵ１を含んでよい。

【0336】

具体的な実装形態では、一実施形態において、分散学習装置１３００は、複数のプロセッサ、例えば、図１３に示されるプロセッサ１３０１及びプロセッサ１３０４を含んでよい。プロセッサの各々は、シングルコアプロセッサ（ｓｉｎｇｌｅ－ＣＰＵ）又はマルチコアプロセッサ（ｍｕｌｔｉ－ＣＰＵ）であってよい。本明細書におけるプロセッサは、データ（例えばコンピュータプログラム命令）を処理するように構成される１つ又は複数の通信デバイス、回路、及び／又は、処理コアであり得る。

【0337】

メモリ１３０２は、プロセッサ１３０１と統合されてよく、又は別個に存在してよく、分散学習装置１３００の入力／出力ポート（図１３では図示せず）を通してプロセッサ１３０１に結合されている。本願の本実施形態では、これについて特に限定しない。

【0338】

例えば、入力ポートは、前述の方法の実施形態のいずれか１つにおいて第１のノード又は第２のノードによって実行される受信機能を実装するように構成されてよく、出力ポートは、前述の方法の実施形態のいずれか１つにおいて第１のノード又は第２のノードによって実行される送信機能を実装するように構成されてよい。

【0339】

メモリ１３０２は、本願の解決手段を実行するためのソフトウェアプログラムを記憶するように構成されており、プロセッサ１３０１は実行を制御する。具体的な実装については、前述の方法の実施形態を参照されたい。詳細は、本明細書において再度説明されない。

【0340】

送受信機１３０３は、別の装置と通信するように構成されている。例えば、分散学習装置１３００が第１のノードである場合、送受信機１３０３は、第２のノードと通信するように構成されてよい。別の例として、分散学習装置１３００が第２のノードである場合、送受信機１３０３は、第１のノードと通信するように構成されてよい。加えて、送受信機１３０３は、受信機及び送信機（図１３では別々に示されていない）を含んでよい。受信機は受信機能を実装するように構成されており、送信機は送信機能を実装するように構成されている。送受信機１３０３は、プロセッサ１３０１と統合されてよく、又は別個に存在してよく、分散学習装置１３００の入力／出力ポート（図１３では図示せず）を通してプロセッサ１３０１に結合されている。本願の本実施形態では、これについて特に限定しない。

【0341】

図１３に示される分散学習装置１３００の構造は、分散学習装置に対して限定を構成するものではないことに留意されたい。実際の分散学習装置は、図において示されるよりも多い又は少ないコンポーネントを含んでよく、又は、いくつかのコンポーネントが組み合わされてよく、又は、異なるコンポーネントの配置が用いられてよい。

【0342】

前述の段階Ｓ８０１、Ｓ８０２、Ｓ１２０２ａ、Ｓ１２０３、及びＳ１２０６における第１のノードの動作は、動作を実行するよう第１のノードに示す、メモリ１３０２に記憶されたアプリケーションプログラムコードを呼び出すことによって、図１３に示される分散学習装置１３００におけるプロセッサ１３０１によって実行されてよい。

【0343】

前述の段階Ｓ８０３、Ｓ１２０１、Ｓ１２０２ｂ、Ｓ１２０４、Ｓ１２０５、Ｓ１２０７、及びＳ１２０８における第２のノードの動作は、動作を実行するよう第２のノードに示す、メモリ１３０２に記憶されたアプリケーションプログラムコードを呼び出すことによって、図１３に示される分散学習装置１３００におけるプロセッサ１３０１によって実行されてよい。本実施形態では、これについて限定しない。

【0344】

図１４は、本願の一実施形態による別の分散学習装置の構造の概略図である。説明を容易にするために、図１４は、分散学習装置の主要なコンポーネントのみを示す。

【0345】

分散学習装置１４００は、送受信モジュール１４０１及び処理モジュール１４０２を含む。分散学習装置１４００は、前述の方法の実施形態における第１のノード又は第２のノードであってよい。送受信モジュール１４０１は送受信機ユニットと称されてもよく、前述の方法の実施形態のいずれか１つにおいて第１のノード又は第２のノードによって実行される送受信機能を実装するように構成されている。

【0346】

送受信モジュール１４０１は、受信モジュール及び送信モジュール（図１４では図示せず）を含んでよいことに留意されたい。受信モジュールは、第１のノードからデータ及び／又はシグナリングを受信するように構成されている。送信モジュールは、データ及び／又はシグナリングを第１のノードへと送信するように構成されている。送受信モジュールの具体的な実装形態は本願において具体的に限定されない。送受信モジュールは、送受信回路、送受信機マシン、送受信機、又は通信インタフェースを含んでよい。

【0347】

処理モジュール１４０２は、前述の方法の実施形態のいずれか１つにおいて第１のノード又は第２のノードによって実行される処理機能を実装するように構成されてよい。処理モジュール１４０２はプロセッサであってよい。

【0348】

本実施形態において、分散学習装置１４００は、統合された方式で機能モジュールを分割した形態で提示される。本明細書における「モジュール」は、特定のＡＳＩＣ、回路、１つ又複数のソフトウェアまたはファームウェアプログラムを実行するプロセッサ、メモリ、集積論理回路、及び／又は、前述の機能を提供することができる別のコンポーネントであってよい。一実施形態において、当業者であれば、分散学習装置１４００が、図１３に示される分散学習装置１３００の形態であることが分かり得る。

【0349】

例えば、図１３に示される分散学習装置１３００におけるプロセッサ１３０１は、メモリ１３０２に記憶されたコンピュータ実行可能命令を呼び出してよく、それにより、前述の方法の実施形態における分散学習方法が実行される。

【0350】

具体的には、図１４における送受信モジュール１４０１及び処理モジュール１４０２の機能／実装プロセスは、メモリ１３０２に記憶されたコンピュータ実行可能命令を呼び出すことによって、図１３に示される分散学習装置１３００におけるプロセッサ１３０１によって実装される。代替的には、図１４における処理モジュール１４０２の機能／実装プロセスは、メモリ１３０２に記憶されたコンピュータ実行可能命令を呼び出すことによって、図１３に示される分散学習装置１３００におけるプロセッサ１３０１によって実装されてよく、図１４における送受信モジュール１４０１の機能／実装プロセスは、図１３に示される分散学習装置１３００における送受信機１３０３によって実装されてよい。

【0351】

本実施形態において提供される分散学習装置１４００は前述の分散学習方法を実行し得るため、分散学習装置１４００によって取得され得る技術的効果については、前述の方法の実施形態を参照されたい。詳細は、本明細書において再度説明されない。

【0352】

可能な設計解決手段において、図１４に示される分散学習装置１４００は、図１に示される通信システムにおいて使用されて、図８、及び／又は図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される分散学習方法における第１のノードの機能を実行してよい。

【0353】

処理モジュール１４０２は、第１のデータモデルを使用することによって第１のデータを処理して、第１の中間データを取得するように構成されている。

【0354】

送受信モジュール１４０１は、第１のチャネルを通して第１の中間データを第２のノードへと送信するように構成されており、第１のチャネルは、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて更新され、第２の中間データは、第１のチャネルを通した第２のノードへの第１の中間データの伝送の結果であり、第１のチャネルは、分散学習装置及び第２のノードの間のチャネルである。

【0355】

任意選択で、分散学習装置１４００は記憶モジュール（図１４では図示せず）を更に含んでよく、記憶モジュールは、プログラム又は命令を記憶する。処理モジュール１４０２がプログラム又は命令を実行すると、分散学習装置１４００は、図３に示される分散学習方法における第１のノードの機能を実行することが可能となる。

【0356】

分散学習装置１４００は、第１のノードであってよい、又は、例えば、第１のノード内に配置され得るチップ（システム）又は別のコンポーネント又はアセンブリであり得ることに留意されたい。これは、本願において限定されるものではない。

【0357】

加えて、分散学習装置１４００の技術的効果については、図８、図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される分散学習方法の技術的効果を参照されたい。詳細は、本明細書において再度説明されない。

【0358】

別の可能な設計解決手段において、図１４に示される分散学習装置１４００は、図１に示される通信システムにおいて使用されて、図８、及び／又は図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される分散学習方法における第２のノードの機能を実行してよい。

【0359】

送受信モジュール１４０１は、第１のチャネルを通して第２の中間データを受信するように構成されており、第２の中間データは、第１のチャネルを通して第１のノードによって分散学習装置へと送信された第１の中間データの伝送の結果であり、第１のチャネルは、第２の中間データの誤差情報、第１のチャネルについての情報、及び第１の中間データに基づいて更新され、第１のチャネルは、第１のノード及び分散学習装置の間のチャネルである。

【0360】

処理モジュール１４０２は、第２のデータモデルを使用することによって第２の中間データを処理して、出力データを取得するように構成されている。

【0361】

任意選択で、分散学習装置１４００は記憶モジュール（図１４では図示せず）を更に含んでよく、記憶モジュールは、プログラム又は命令を記憶する。処理モジュール１４０２がプログラム又は命令を実行すると、分散学習装置１４００は、図８、図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される分散学習方法における第２のノードの機能を実行することが可能となる。

【0362】

分散学習装置１４００は、第２のノードであってよい、又は、例えば、第２のノード内に配置され得るチップ（システム）又は別のコンポーネント又はアセンブリであり得ることに留意されたい。これは、本願において限定されるものではない。

【0363】

加えて、分散学習装置１４００の技術的効果については、図８、図１２（ａ）、図１２（ｂ）、及び図１２（ｃ）に示される分散学習方法の技術的効果を参照されたい。詳細は、本明細書において再度説明されない。

【0364】

本願の一実施形態は、通信システムを更に提供する。通信システムは、第１のノード及び第２のノードを含む。

【0365】

第１のノードは、前述の方法の実施形態における第１のノードの動作を実行するように構成されている。特定の実行方法及びプロセスについては、前述の方法の実施形態を参照されたい。詳細は、本明細書において再度説明されない。

【0366】

第２のノードは、前述の方法の実施形態における第２のノードの動作を実行するように構成されている。特定の実行方法及びプロセスについては、前述の方法の実施形態を参照されたい。詳細は、本明細書において再度説明されない。

【0367】

本願の一実施形態は、チップシステムを提供する。チップシステムは、プロセッサ及び入力／出力ポートを含む。プロセッサは、本願の実施形態において提供される分散学習方法に含まれる処理機能を実装するように構成されてよく、入力／出力ポートは、本願の実施形態において提供される分散学習方法に含まれる送受信機能を実行するように構成されてよい。

【0368】

例えば、入力ポートは、本願の実施形態において提供される分散学習方法に含まれる受信機能を実装するように構成されてよく、出力ポートは、本願の実施形態において提供される分散学習方法に含まれる送信機能を実装するように構成されてよい。

【0369】

可能な設計において、チップシステムはメモリを更に含んでよく、メモリは、本願の実施形態において提供される分散学習方法に含まれる機能を実装するためのプログラム命令及びデータを記憶するように構成されている。

【0370】

チップシステムは、チップを含み得る、又は、チップ及び別のディスクリートコンポーネントを含み得る。

【0371】

本願の一実施形態は、コンピュータ可読記憶媒体を提供する。コンピュータ可読記憶媒体は、コンピュータプログラム又は命令を含む。コンピュータプログラム又は命令がコンピュータ上で実行されると、本願の実施形態において提供される分散学習方法が実行される。

【0372】

本願の一実施形態は、コンピュータプログラム製品を提供する。コンピュータプログラム製品は、コンピュータプログラム又は命令を含む。コンピュータプログラム又は命令がコンピュータ上で実行されると、本願の実施形態において提供される分散学習方法が実行される。

【0373】

本願の実施形態におけるプロセッサは、中央処理装置（ｃｅｎｔｒａｌ ｐｒｏｃｅｓｓｉｎｇ ｕｎｉｔ，ＣＰＵ）であり得ることが理解されるべきである。代替的には、プロセッサは、汎用プロセッサ、デジタル信号プロセッサ（ｄｉｇｉｔａｌ ｓｉｇｎａｌ ｐｒｏｃｅｓｓｏｒ，ＤＳＰ）、特定用途向け集積回路（ａｐｐｌｉｃａｔｉｏｎ－ｓｐｅｃｉｆｉｃ ｉｎｔｅｇｒａｔｅｄ ｃｉｒｃｕｉｔ，ＡＳＩＣ）、フィールドプログラマブルゲートアレイ（ｆｉｅｌｄ ｐｒｏｇｒａｍｍａｂｌｅ ｇａｔｅ ａｒｒａｙ，ＦＰＧＡ）、又は別のプログラマブル論理デバイス、個別のゲート又はトランジスタ論理デバイス、個別のハードウェアコンポーネントなどであってよい。汎用プロセッサはマイクロプロセッサであってよく、又は、プロセッサは任意の従来型のプロセッサなどであってよい。

【0374】

本願の実施形態におけるメモリは、揮発性メモリまたは不揮発性メモリであってよく、又は、揮発性メモリ及び不揮発性メモリを含んでよいことが更に理解され得る。不揮発性メモリは、リードオンリメモリ（ｒｅａｄ－ｏｎｌｙ ｍｅｍｏｒｙ、ＲＯＭ）、プログラマブルリードオンリメモリ（ｐｒｏｇｒａｍｍａｂｌｅ ＲＯＭ、ＰＲＯＭ）、消去可能プログラマブルリードオンリメモリ（ｅｒａｓａｂｌｅ ＰＲＯＭ、ＥＰＲＯＭ）、電気的消去可能プログラマブルリードオンリメモリ（ｅｌｅｃｔｒｉｃａｌｌｙ ＥＰＲＯＭ、ＥＥＰＲＯＭ）、又はフラッシュメモリであり得る。揮発性メモリはランダムアクセスメモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ、ＲＡＭ）であってよく、外部キャッシュとして使用される。限定的ではなく例示的な説明として、多くの形態のランダムアクセスメモリ（ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ，ＲＡＭ）、例えば、スタティックランダムアクセスメモリ（ｓｔａｔｉｃ ＲＡＭ，ＳＲＡＭ）、ダイナミックランダムアクセスメモリ（ｄｙｎａｍｉｃ ｒａｎｄｏｍ ａｃｃｅｓｓ ｍｅｍｏｒｙ，ＤＲＡＭ）、同期型ダイナミックランダムアクセスメモリ（ｓｙｎｃｈｒｏｎｏｕｓ ＤＲＡＭ，ＳＤＲＡＭ）、ダブルデータレート同期型ダイナミックランダムアクセスメモリ（ｄｏｕｂｌｅ ｄａｔａ ｒａｔｅ ＳＤＲＡＭ，ＤＤＲ ＳＤＲＡＭ）、拡張同期型ダイナミックランダムアクセスメモリ（ｅｎｈａｎｃｅｄ ＳＤＲＡＭ，ＥＳＤＲＡＭ）、シンクリンクダイナミックランダムアクセスメモリ（ｓｙｎｃｈｌｉｎｋ ＤＲＡＭ，ＳＬＤＲＡＭ）、及びダイレクトラムバスランダムアクセスメモリ（ｄｉｒｅｃｔ ｒａｍｂｕｓ ＲＡＭ，ＤＲ ＲＡＭ）が使用され得る。

【0375】

前述の実施形態は、ソフトウェア、ハードウェア（例えば、回路）、ファームウェア、又はそれらの任意の組み合わせによって完全に、又は部分的に実装されてよい。実施形態を実装するためにソフトウェアが使用される場合、前述の実施形態の全て又はいくつかは、コンピュータプログラム製品の形態で実装されてよい。コンピュータプログラム製品は、１つ又は複数のコンピュータ命令又はコンピュータプログラムを含む。コンピュータ命令又はコンピュータプログラムがコンピュータ上でロード又は実行される場合、本願の実施形態に記載の手順又は機能が全て、又は部分的に生成される。コンピュータは、汎用コンピュータ、専用コンピュータ、コンピュータネットワーク、又は、他のプログラマブル装置であり得る。コンピュータ命令は、コンピュータ可読記憶媒体上に記憶される、又は、あるコンピュータ可読記憶媒体から別のコンピュータ可読記憶媒体へと伝送されてよい。例えば、コンピュータ命令は、有線（例えば、赤外線、無線、又はマイクロ波）方式で、あるウェブサイト、コンピュータ、サーバ、又はデータセンタから別のウェブサイト、コンピュータ、サーバ、又はデータセンタに伝送されてよい。コンピュータ可読記憶媒体は、コンピュータからアクセス可能な任意の使用可能な媒体、又は、１つ又は複数の使用可能な媒体を統合するサーバ又はデータセンタなどのデータ記憶デバイスであってよい。使用可能な媒体は、磁気媒体（例えば、フロッピーディスク、ハードディスク又は磁気テープ）、光媒体（例えば、ＤＶＤ）又は半導体媒体等であってよい。半導体媒体はソリッドステートドライブであってよい。

【0376】

本明細書における「及び／又は」という用語は、関連する対象間の対応関係のみを説明し、３つの関係が存在し得ることを表すことを理解されたい。例えば、Ａ及び／又はＢは、以下の３つの場合を表し得る。すなわち、Ａのみが存在する場合、Ａ及びＢの両方が存在する場合、及び、Ｂのみが存在する場合である。Ａ及びＢは単数又は複数であってよい。加えて、本明細書における「／」という文字は通常、関連する対象の間の「又は」の関係を示すが、「及び／又は」の関係も示し得る。詳細については、理解のために文脈を参照されたい。

【0377】

本願において、少なくとも１つは、１つ又は複数を意味し、複数は、２つ又はそれよりも多くを意味する。以下の項目（品目）のうちの少なくとも１つ、又はその類似表現は、単数の項目（品目）又は複数の項目（品目）の任意の組み合わせを含んだこれらの項目の任意の組み合わせを指している。例えば、ａ、ｂ、又はｃのうち少なくとも１つとは、ａ、ｂ、ｃ、ａとｂ、ａとｃ、ｂとｃ、又はａとｂとｃを示し得る。ここで、ａ、ｂ、及びｃは単数形又は複数形であり得る。

【0378】

前述のプロセスのシーケンス番号は、本願の様々な実施形態における実行シーケンスを意味するものではないことを理解すべきである。プロセスの実行シーケンスは、プロセスの機能及び内部論理に基づいて、決定されるべきであり、本願の実施形態の実装プロセスに対するいかなる限定として解釈されるべきでない。

【0379】

当業者であれば、本明細書において開示される実施形態で説明される例と組み合わせて、電子的ハードウェア又はコンピュータソフトウェア及び電子的ハードウェアの組み合わせによってユニット及びアルゴリズム段階を実装することができることを認識し得る。これらの機能がハードウェア又はソフトウェアのどちらで実行されるかは、技術的解決手段の特定の用途及び設計上の制約で決まる。当業者であれば、説明された機能を実装するべく、それぞれの特定の用途のために異なる方法を使用し得るが、当該実装が本願の範囲を超えているとみなされるべきではない。

【0380】

簡便且つ簡潔な説明のために、前述のシステム、装置、及びユニットの詳細な作業処理については、前述の方法の実施形態における対応する処理を参照することとし、詳細は再度ここで説明しないことを、当業者であれば明確に理解するであろう。

【0381】

本願において提供されるいくつかの実施形態において、開示されるシステム、装置、及び方法は、他の方式で実装され得ることを理解すべきである。例えば、説明した装置の実施形態は、単なる一例に過ぎない。例えば、複数のユニットへの分割は、単なる論理的な機能の分割に過ぎず、実際に実装する際には、他の分割であってもよい。例えば、複数のユニット又はコンポーネントが、別のシステムへ組み合わされ、又は統合されてよく、又は、一部の特徴が、無視されてよく、又は実行されなくてよい。更に、表示又は説明された相互連結又は直接的連結又は通信接続は、いくつかのインタフェースを通じて実装されてよい。装置間又はユニット間の間接的連結又は通信接続は、電子的形態、機械的形態、又は他の形態で実装されてよい。

【0382】

別個の部品として記載されるユニットは、物理的に別個である場合とそうでない場合とがあり、ユニットとして表示される部品は、物理ユニットである場合とそうでない場合があり、１つの位置に位置している場合と複数のネットワークユニットに分散されている場合とがある。これらの実施形態の解決手段の目的を達成するために、これらのユニットのいくつか又は全てが実際の要件に基づいて選択されてよい。

【0383】

加えて、本願の実施形態における機能ユニットは、１つの処理ユニットに統合されてもよいし、又は、それらのユニットの各々が、物理的に単独で存在してもよいし、又は、２つ又はそれよりも多いユニットが１つのユニットに統合される。

【0384】

これらの機能がソフトウェア機能ユニットの形態で実装され、独立した製品として販売されるか又は使用される場合、これらの機能はコンピュータ可読記憶媒体に記憶されてよい。そのような理解に基づいて、本願の技術的解決手段は本質的に、又は従来技術に寄与する部分が、又はこれらの技術的解決手段のうちのいくつかが、ソフトウェア製品の形態で実装され得る。コンピュータソフトウェア製品は、記憶媒体に記憶され、本願の実施形態で説明された方法における段階の全て又はいくつかを実行するようコンピュータデバイス（コンピュータ、サーバ、又は第２のノードなどであってよい）に示すためのいくつかの命令を含む。前述の記憶媒体は、プログラムコードを記憶することができる任意の媒体、例えば、ＵＳＢフラッシュドライブ、取り外し可能なハードディスク、リードオンリメモリ（Ｒｅａｄ－Ｏｎｌｙ Ｍｅｍｏｒｙ．ＲＯＭ）ランダムアクセスメモリ（Ｒａｎｄｏｍ Ａｃｃｅｓｓ Ｍｅｍｏｒｙ，ＲＡＭ）、磁気ディスク、又は光ディスクを含む。

【0385】

前述の説明は、本願の単なる特定の実装形態に過ぎず、本願の保護範囲を限定することを意図するものではない。本願において開示された技術的範囲内で当業者が容易に考え出す変形又は置換はいずれも、本願の保護範囲に含まれるものとする。したがって、本願の保護範囲は、特許請求の範囲の保護範囲に従うものとする。
［項目１］
第１のノードに適用される分散学習方法であって、前記第１のノードが第１のデータモデルを有し、前記方法が：
前記第１のデータモデルを使用することによって第１のデータを処理して、第１の中間データを取得する段階；及び
第１のチャネルを通して第２のノードへと前記第１の中間データを送信する段階、ここで前記第１のチャネルは、第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第２の中間データは、前記第１のチャネルを通した前記第２のノードへの前記第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第１のノード及び前記第２のノードの間のチャネルである
を備える、分散学習方法。
［項目２］
前記第１のチャネルが第２のチャネル及び第３のチャネルを有し、前記方法が：
前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する段階
を更に備える、項目１に記載の分散学習方法。
［項目３］
前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する前記段階が：
前記第２のノードによって送信された第１の情報を受信する段階、ここで前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される；及び
前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新する段階
を有する、項目２に記載の分散学習方法。
［項目４］
前記第２のノードによって送信された第１の情報を受信する前記段階が：
前記第２のノードによって送信された前記第１の情報を、第４のチャネルを通して受信する段階を有する
項目３に記載の分散学習方法。
［項目５］
前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて、前記第２のチャネルを更新する前記段階が：
前記第１のチャネルを通して前記第２のノードから第３の信号を受信する段階、ここで前記第３の信号は、前記第１のチャネルを通して第４の信号が前記第１のノードへと伝送された後に取得される信号であり、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む；
前記第３の信号に基づいて第１の情報を取得する段階、ここで前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される；及び
前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新する段階
を有する、項目２に記載の分散学習方法。
［項目６］
前記方法が：
前記第１のチャネルを通して前記第２のノードへと第１の信号を送信する段階、ここで前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである
を更に備える、項目１から５のいずれか一項に記載の分散学習方法。
［項目７］
前記方法が：
前記第１のチャネルを通して前記第２のノードへと第５の信号を送信する段階、ここで前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成された信号を有し、前記第３の中間データは、前記第１のチャネルを更新するためのものである
を更に備える、項目１から６のいずれか一項に記載の分散学習方法。
［項目８］
前記方法が：
前記第１の中間データの誤差情報に基づいて前記第１のデータモデルを更新して、新しい第１のデータモデルを取得する段階
を更に備える、項目１から７のいずれか一項に記載の分散学習方法。
［項目９］
前記方法が：
前記第２のノードによって送信された第２の情報を受信する段階、ここで前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである
を更に備える、項目８に記載の分散学習方法。
［項目１０］
前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
項目９に記載の分散学習方法。
［項目１１］
前記方法が；
前記第２のノードから第８の信号を受信する段階、ここで前記第８の信号は、チャネルを通して第７の信号が前記第１のノードへと伝送された後に取得される信号であり、前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を有する；及び
前記第８の信号に基づいて前記第１の中間データの前記誤差情報を取得する段階
を更に備える、項目１から１０のいずれか一項に記載の分散学習方法。
［項目１２］
第２のノードに適用される分散学習方法であって、前記第２のノードが第２のデータモデルを有し、前記方法が：
第１のチャネルを通して第２の中間データを受信する段階、ここで前記第２の中間データは、第１のノードによって前記第１のチャネルを通して前記第２のノードへと送信された第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第１のチャネルは、前記第１のノード及び前記第２のノードの間のチャネルである；及び
前記第２のデータモデルを使用することによって前記第２の中間データを処理して、出力データを取得する段階
を備える、分散学習方法。
［項目１３］
前記第１のチャネルが第２のチャネル及び第３のチャネルを有し、前記方法が：
前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する段階
を更に備える、項目１２に記載の方法。
［項目１４］
前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する前記段階が：
第１の情報を前記第１のノードへと送信する段階、ここで前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される
を有する、項目１３に記載の分散学習方法。
［項目１５］
前記第１の情報を前記第１のノードへと送信する前記段階が：
第４のチャネルを通して前記第１の情報を前記第１のノードへと送信する段階
を有する、項目１４に記載の分散学習方法。
［項目１６］
前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信する前記段階が：
前記第１のチャネルを通して第４の信号を前記第１のノードへと送信する段階、ここで前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む
を有する、項目１３に記載の分散学習方法。
［項目１７］
前記方法が：
前記第１のチャネルを通して前記第１のノードから第２の信号を受信する段階、ここで前記第２の信号は第１の信号が前記第１のチャネルを通して前記第２のノードへと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである；及び
前記第２の信号に基づいて前記第１のチャネルについての前記情報を取得する段階
を更に備える、項目１２から１６のいずれか一項に記載の分散学習方法。
［項目１８］
前記方法が：
前記第１のチャネルを通して前記第１のノードから第６の信号を受信する段階、ここで前記第６の信号は、第５の信号が前記第１のチャネルを通して前記第２のノードへと伝送された後に取得される信号であり、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を有し、前記第３の中間データは、前記第１のチャネルを更新するためのものである；
前記第６の信号に基づいて第３の情報を取得する段階、ここで前記第３の情報は、前記第３の中間データ及び前記第３のチャネルについての前記情報に基づいて決定される；及び
前記第３の情報及び前記第２の中間データの前記誤差情報に基づいて前記第２のチャネルを更新する段階
を更に備える、項目１２から１７のいずれか一項に記載の分散学習方法。
［項目１９］
前記方法が：
第２の情報を前記第１のノードへと送信する段階、ここで前記第２の情報は、前記第１の中間データの誤差情報を取得するためのものである
を更に備える、項目１２から１８のいずれか一項に記載の分散学習方法。
［項目２０］
前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
項目１９に記載の分散学習方法。
［項目２１］
前記方法が：
前記出力データに基づいて前記第２のデータモデルを更新して、新しい第２のデータモデルを取得する段階
を更に備える、項目１２から２０のいずれか一項に記載の分散学習方法。
［項目２２］
前記方法が：
第７の信号を前記第１のノードへと送信する段階、ここで前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を有する
を更に備える、項目１２から２１のいずれか一項に記載の分散学習方法。
［項目２３］
分散学習装置であって、前記分散学習装置が第１のデータモデルを備え、前記装置が処理モジュール及び送受信モジュールを備え、
前記処理モジュールが、前記第１のデータモデルを使用することによって第１のデータを処理して第１の中間データを取得するように構成されており；
前記送受信モジュールが、第１のチャネルを通して前記第１の中間データを第２のノードへと送信するように構成されており、前記第１のチャネルは、第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第２の中間データは、前記第１のチャネルを通した前記第２のノードへの前記第１の中間データの伝送の結果であり、前記第１のチャネルは、前記分散学習装置及び前記第２のノードの間のチャネルである
分散学習装置。
［項目２４］
前記第１のチャネルが第２のチャネル及び第３のチャネルを有し；
前記処理モジュールが、前記第２の中間データの前記誤差情報、前記第３のチャネルについての情報、及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている
項目２３に記載の分散学習装置。
［項目２５］
前記送受信モジュールが、前記第２のノードによって送信された第１の情報を受信するように更に構成されており、前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定され；
前記処理モジュールが、前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている
項目２４に記載の分散学習装置。
［項目２６］
前記送受信モジュールが、前記第２のノードによって送信された前記第１の情報を、第４のチャネルを通して受信するように更に構成されている
項目２５に記載の分散学習装置。
［項目２７］
前記送受信モジュールが、前記第１のチャネルを通して前記第２のノードから第３の信号を受信するように更に構成されており、前記第３の信号は、前記第１のチャネルを通して第４の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含み；
前記処理モジュールが、前記第３の信号に基づいて第１の情報を取得するように更に構成されており、前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定され；
前記処理モジュールが、前記第１の情報及び前記第１の中間データに基づいて前記第２のチャネルを更新するように更に構成されている
項目２４に記載の分散学習装置。
［項目２８］
前記送受信モジュールが、前記第１のチャネルを通して第１の信号を前記第２のノードへと送信するように更に構成されており、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものである
項目２３から２７のいずれか一項に記載の分散学習装置。
［項目２９］
前記送受信モジュールが、前記第１のチャネルを通して第５の信号を前記第２のノードへと送信するように更に構成されており、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、前記第３の中間データは前記第１のチャネルを更新するためのものである
項目２３から２８のいずれか一項に記載の分散学習装置。
［項目３０］
前記処理モジュールが、前記第１の中間データの誤差情報に基づいて前記第１のデータモデルを更新して、新しい第１のデータモデルを取得するように更に構成されている
項目２３から２９のいずれか一項に記載の分散学習装置。
［項目３１］
前記送受信モジュールが、前記第２のノードによって送信された第２の情報を受信するように更に構成されており、前記第２の情報は、前記第１の中間データの前記誤差情報を取得するためのものである
項目３０に記載の分散学習装置。
［項目３２］
前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
項目３１に記載の分散学習装置。
［項目３３］
前記送受信モジュールが、前記第２のノードから第８の信号を受信するように更に構成されており、前記第８の信号は、第７の信号がチャネルを通して前記分散学習装置へと伝送された後に取得される信号であり、前記第７の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含み；
前記処理モジュールが、前記第８の信号に基づいて前記第１の中間データの前記誤差情報を取得するように更に構成されている
項目２３から３２のいずれか一項に記載の分散学習装置。
［項目３４］
分散学習装置であって、前記分散学習装置が第２のデータモデルを備え、前記装置が処理モジュール及び送受信モジュールを備え、
前記送受信モジュールが、第１のチャネルを通して第２の中間データを受信するように構成されており、前記第２の中間データは、第１のノードによって前記第１のチャネルを通して前記分散学習装置へと送信された第１の中間データの伝送の結果であり、前記第１のチャネルは、前記第２の中間データの誤差情報、前記第１のチャネルについての情報、及び前記第１の中間データに基づいて更新され、前記第１のチャネルは、前記第１のノード及び前記分散学習装置の間のチャネルであり；
前記処理モジュールが、前記第２のデータモデルを使用することによって前記第２の中間データを処理して出力データを取得するように構成されている
分散学習装置。
［項目３５］
前記第１のチャネルが第２のチャネル及び第３のチャネルを有し、前記送受信モジュールが、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての情報を前記第１のノードへと送信するように更に構成されている、項目３４に記載の装置。
［項目３６］
前記送受信モジュールが、第１の情報を前記第１のノードへと送信するように更に構成されており、前記第１の情報は、前記第２の中間データの前記誤差情報及び前記第３のチャネルについての前記情報に基づいて決定される
項目３５に記載の分散学習装置。
［項目３７］
前記送受信モジュールが、第４のチャネルを通して前記第１の情報を前記第１のノードへと送信するように更に構成されている
項目３６に記載の分散学習装置。
［項目３８］
前記送受信モジュールが、前記第１のチャネルを通して第４の信号を前記第１のノードへと送信するように更に構成されており、前記第４の信号は、前記第２の中間データの前記誤差情報をエアインターフェースリソースにマッピングすることによって生成される信号を含む
項目３５に記載の分散学習装置。
［項目３９］
前記送受信モジュールが、前記第１のチャネルを通して第２の信号を前記第１のノードから受信するように更に構成されており、前記第２の信号は、前記第１のチャネルを通して第１の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものであり；
前記処理モジュールは、前記第２の信号に基づいて、前記第１のチャネルについての前記情報を取得するように更に構成されている
項目３４から３８のいずれか一項に記載の分散学習装置。
［項目４０］
前記送受信モジュールが、前記第１のチャネルを通して前記第１のノードから第６の信号を受信するように更に構成されており、前記第６の信号は、第５の信号が前記第１のチャネルを通して前記分散学習装置へと伝送された後に取得される信号であり、前記第５の信号は、第３の中間データをエアインターフェースリソースにマッピングすることによって生成される信号を含み、前記第３の中間データは、前記第１のチャネルを更新するためのものであり；
前記処理モジュールが、前記第６の信号に基づいて第３の情報を取得するように更に構成されており、前記第３の情報は、前記第３の中間データ及び前記第３のチャネルについての前記情報に基づいて決定され；
前記処理モジュールが、前記第３の情報及び前記第２の中間データの前記誤差情報に基づいて前記第２のチャネルを更新するように更に構成されている
項目３４から３９のいずれか一項に記載の分散学習装置。
［項目４１］
前記送受信モジュールが、第２の情報を前記第１のノードへと送信するように更に構成されており、前記第２の情報は、前記第１の中間データの誤差情報を取得するためのものである
項目３４から４０のいずれか一項に記載の分散学習装置。
［項目４２］
前記第２の情報が前記第１の中間データの前記誤差情報を含む；又は
前記第２の情報が、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報を含み、前記第２の中間データの前記誤差情報及び前記第１のチャネルについての前記情報は、前記第１の中間データの前記誤差情報を決定するためのものである
項目４１に記載の分散学習装置。
［項目４３］
前記処理モジュールが、前記出力データに基づいて前記第２のデータモデルを更新して、新しい第２のデータモデルを取得するように更に構成されている
項目３４から４２のいずれか一項に記載の分散学習装置。
［項目４４］
前記送受信モジュールが、前記第１のチャネルを通して第２の信号を前記第１のノードから受信するように更に構成されており、前記第２の信号は、前記第１のチャネルを通して第１の信号が前記分散学習装置へと伝送された後に取得される信号であり、前記第１の信号は、前記第１のチャネルについての前記情報を決定するためのものであり；
前記処理モジュールは、前記第２の信号に基づいて、前記第１のチャネルについての前記情報を取得するように更に構成されている
項目３４から４３のいずれか一項に記載の分散学習装置。
［項目４５］
分散学習装置であって、前記分散学習装置がプロセッサを備え、前記プロセッサがメモリに結合されており；
前記メモリがコンピュータプログラムを記憶するように構成されており；
前記プロセッサが、前記メモリに記憶された前記コンピュータプログラムを実行して、前記分散学習装置が項目１から２２のいずれか一項に記載の分散学習方法を実行することを可能にするように構成されている
分散学習装置。
［項目４６］
コンピュータ可読記憶媒体であって、前記コンピュータ可読記憶媒体がコンピュータプログラム又は命令を備え、前記コンピュータプログラム又は前記命令がコンピュータ上で実行されると、項目１から２２のいずれか一項に記載の方法が実行される、コンピュータ可読記憶媒体。
［項目４７］
コンピュータプログラム製品であって、前記コンピュータプログラム製品がコンピュータプログラム又は命令を備え、前記コンピュータプログラム又は前記命令がコンピュータ上で実行されると、項目１から２２のいずれか一項に記載の方法が実行される、コンピュータプログラム製品。
［項目４８］
項目１から２２のいずれか一項に記載の方法を実行するように構成された、通信装置。
［項目４９］
コンピュータプログラムであって、前記コンピュータプログラムがコンピュータ上で実行されると、項目１から２２のいずれか一項に記載の方法が実行される、コンピュータプログラム。
［項目５０］
項目２３から３３のいずれか一項に記載の装置及び項目３４から４４のいずれか一項に記載の装置を備える、通信システム。
［項目５１］
チップシステムであって、前記チップシステムがプロセッサを備え、前記プロセッサが、項目１から２２のいずれか一項に記載の方法を実装するよう、前記チップシステムが搭載されている装置を制御するように構成されている、チップシステム。

【図1】

【図2】

【図3】

【図4】

【図5】

【図6】

【図7】

【図8】

【図9A】

【図9B】

【図10A】

【図10B】

【図11A】

【図11B】

【図12(a)】

【図12(b)】

【図12(c)】

【図13】

【図14】