(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-09-11
(45)【発行日】2024-09-20
(54)【発明の名称】振り分け情報生成装置、信号振り分け装置、および振り分け情報生成方法
(51)【国際特許分類】
G06F 9/50 20060101AFI20240912BHJP
G06N 3/047 20230101ALI20240912BHJP
G06N 3/094 20230101ALI20240912BHJP
H04W 28/08 20230101ALI20240912BHJP
H04W 88/14 20090101ALI20240912BHJP
H04W 92/24 20090101ALI20240912BHJP
【FI】
G06F9/50 150Z
G06N3/047
G06N3/094
H04W28/08
H04W88/14
H04W92/24
(21)【出願番号】P 2024089890
(22)【出願日】2024-06-03
【審査請求日】2024-06-03
【早期審査対象出願】
(73)【特許権者】
【識別番号】397036309
【氏名又は名称】株式会社インターネットイニシアティブ
(74)【代理人】
【識別番号】100118902
【氏名又は名称】山本 修
(74)【代理人】
【識別番号】100106208
【氏名又は名称】宮前 徹
(74)【代理人】
【識別番号】100196508
【氏名又は名称】松尾 淳一
(74)【代理人】
【識別番号】100195408
【氏名又は名称】武藤 陽子
(72)【発明者】
【氏名】柿島 純
【審査官】田中 幸雄
(56)【参考文献】
【文献】特表2022-540785(JP,A)
【文献】米国特許出願公開第2022/0330090(US,A1)
【文献】特許第7246560(JP,B1)
【文献】SAWWASHERE, Supriya S. et al.,IL2ATL: Design of a high efficiency load balancing model using augmented deep incremental transfer learning,Proceedings of 2022 10th IEEE International Conference on Emerging Trends in Engineering & Technology-Signal and Information Processing,IEEE,2022年04月29日,pages1-6,https://ieeexplore.ieee.org/document/9791754
(58)【調査した分野】(Int.Cl.,DB名)
G06N 3/094
H04W 92/24
H04W 88/14
H04W 28/08
G06N 3/047
G06F 9/50
(57)【特許請求の範囲】
【請求項1】
複数の装置の各々に対する信号の振り分けの有無を各クラスタの観測値とした混合確率モデルに対して、前記観測値の集合である観測データの分布を設定するように構成された第1設定部と、
設定された前記観測データの分布となるように前記混合確率モデルのパラメータを設定するように構成された第2設定部と、
設定された前記パラメータを有する前記混合確率モデルを、前記複数の装置の各々に対する前記信号の振り分けの有無に関する真の振り分け情報として、前記真の振り分け情報に類似する疑似振り分け情報を生成する生成器と、前記生成器によって生成された前記疑似振り分け情報と前記真の振り分け情報とを識別する識別器とを有する生成モデルの敵対的学習を行うように構成された学習部と、
前記学習部によって構築された学習済み生成器を含む信号振り分け情報を提示するように構成された提示部と
を備え
、
前記疑似振り分け情報は、前記真の振り分け情報のデータ分布との交差エントロピー誤差を最小とするデータ分布の情報である
振り分け情報生成装置。
【請求項2】
請求項1に記載の振り分け情報生成装置において、
前記混合確率モデルは、混合ベルヌーイ分布に従うモデルであり、
前記混合確率モデルのパラメータは、前記各クラスタが前記観測値を発生する確率を表す混合比率、および前記各クラスタの前記観測値が、前記信号の振り分けが有りとなる確率を含む
ことを特徴とする振り分け情報生成装置。
【請求項3】
請求項1に記載の振り分け情報生成装置において、
前記第1設定部は、クラスタごとに前記観測値が発生する確率を設定する
ことを特徴とする振り分け情報生成装置。
【請求項4】
請求項1に記載の振り分け情報生成装置において、
前記複数の装置は、所定の通信規格に準拠するコアネットワークの制御プレーン内の機能ノードであり、
前記信号は、前記制御プレーンで用いられる制御信号を含む
ことを特徴とする振り分け情報生成装置。
【請求項5】
請求項1から4のいずれか1項に記載の振り分け情報生成装置によって提示された前記信号振り分け情報に含まれる前記学習済み生成器を用いて前記疑似振り分け情報を生成するように構成された生成部と、
前記生成部によって生成された前記疑似振り分け情報に基づいて、前記複数の装置のうちから、前記信号を振り分ける対象の装置を特定するように構成された特定部と、
特定された装置に対して、前記信号を振り分けるように構成された信号振り分け部と
を備える信号振り分け装置。
【請求項6】
コンピュータにより実行される振り分け情報生成方法であって、
複数の装置の各々に対する信号の振り分けの有無を各クラスタの観測値とした混合確率モデルに対して、前記観測値の集合である観測データの分布を設定する第1設定ステップと、
設定された前記観測データの分布となるように前記混合確率モデルのパラメータを設定する第2設定ステップと、
設定された前記パラメータを有する前記混合確率モデルを、前記複数の装置の各々に対する前記信号の振り分けの有無に関する真の振り分け情報として、前記真の振り分け情報に類似する疑似振り分け情報を生成する生成器と、前記生成器によって生成された前記疑似振り分け情報と前記真の振り分け情報とを識別する識別器とを有する生成モデルの敵対的学習を行う学習ステップと、
前記学習ステップで構築された学習済み生成器を含む信号振り分け情報を提示する提示ステップと
を備え
、
前記疑似振り分け情報は、前記真の振り分け情報のデータ分布との交差エントロピー誤差を最小とするデータ分布の情報である
振り分け情報生成方法。
【請求項7】
請求項6に記載の振り分け情報生成方法において、
前記第1設定ステップは、クラスタごとに前記観測値が発生する確率を設定する
ことを特徴とする振り分け情報生成方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、振り分け情報生成装置、信号振り分け装置、および振り分け情報生成方法に関する。
【背景技術】
【0002】
従来から、信号を複数の装置に振り分けて負荷を分散する技術として、ラウンドロビン方式によるロードバランサが知られている。例えば、特許文献1は、運用系サーバ群の負荷状況に応じて、エッジルータに対して宛先サーバを予備系サーバ群への変更することを指示し、ロードバランサを用いて、変更された宛先の予備系サーバ群に信号を均等に振り分けるシステムを開示する。
【0003】
振り分けられた信号を受信する側の装置は、それぞれCPUのコア数などのハードウェアリソースの容量が異なる場合がある。このような場合には、ハードウェアリソースの容量などに応じて各装置へ振り分ける信号の数に偏りを持たせたい場合がある。しかし、特許文献1が開示するシステムでは、個々の装置へ振り分ける信号の数を調整し、所望とする偏りを持たせて各装置に信号を振り分けることは困難であった。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
このように、従来の技術によれば、各装置に振り分ける信号数の比率を調整することが困難であった。
【0006】
本発明は、上述した課題を解決するためになされたものであり、各装置に振り分ける信号数の比率を調整することを目的とする。
【課題を解決するための手段】
【0007】
上述した課題を解決するために、本発明に係る振り分け情報生成装置は、複数の装置の各々に対する信号の振り分けの有無を各クラスタの観測値とした混合確率モデルに対して、前記観測値の集合である観測データの分布を設定するように構成された第1設定部と、設定された前記観測データの分布となるように前記混合確率モデルのパラメータを設定するように構成された第2設定部と、設定された前記パラメータを有する前記混合確率モデルを、前記複数の装置の各々に対する前記信号の振り分けの有無に関する真の振り分け情報として、前記真の振り分け情報に類似する疑似振り分け情報を生成する生成器と、前記生成器によって生成された前記疑似振り分け情報と前記真の振り分け情報とを識別する識別器とを有する生成モデルの敵対的学習を行うように構成された学習部と、前記学習部によって構築された学習済み生成器を含む信号振り分け情報を提示するように構成された提示部とを備える。
【0008】
また、本発明に係る振り分け情報生成装置において、前記混合確率モデルは、混合ベルヌーイ分布に従うモデルであり、前記混合確率モデルのパラメータは、前記各クラスタが前記観測値を発生する確率を表す混合比率、および前記各クラスタの前記観測値が、前記信号の振り分けが有りとなる確率を含んでいてもよい。
【0009】
また、本発明に係る振り分け情報生成装置において、前記第1設定部は、クラスタごとに前記観測値が発生する確率を設定してもよい。
【0010】
また、本発明に係る振り分け情報生成装置において、前記複数の装置は、所定の通信規格に準拠するコアネットワークの制御プレーン内の機能ノードであり、前記信号は、前記制御プレーンで用いられる制御信号を含んでいてもよい。
【0011】
上述した課題を解決するために、本発明に係る信号振り分け装置は、上記の振り分け情報生成装置によって提示された前記信号振り分け情報に含まれる前記学習済み生成器を用いて前記疑似振り分け情報を生成するように構成された生成部と、前記生成部によって生成された前記疑似振り分け情報に基づいて、前記複数の装置のうちから、前記信号を振り分ける対象の装置を特定するように構成された特定部と、特定された装置に対して、前記信号を振り分けるように構成された信号振り分け部とを備える。
【0012】
上述した課題を解決するために、本発明に係る通信制御方法は、複数の装置の各々に対する信号の振り分けの有無を各クラスタの観測値とした混合確率モデルに対して、前記観測値の集合である観測データの分布を設定する第1設定ステップと、設定された前記観測データの分布となるように前記混合確率モデルのパラメータを設定する第2設定ステップと、設定された前記パラメータを有する前記混合確率モデルを、前記複数の装置の各々に対する前記信号の振り分けの有無に関する真の振り分け情報として、前記真の振り分け情報に類似する疑似振り分け情報を生成する生成器と、前記生成器によって生成された前記疑似振り分け情報と前記真の振り分け情報とを識別する識別器とを有する生成モデルの敵対的学習を行う学習ステップと、前記学習ステップで構築された学習済み生成器を含む信号振り分け情報を提示する提示ステップとを備える。
【0013】
また、本発明に係る通信制御方法において、前記第1設定ステップは、クラスタごとに前記観測値が発生する確率を設定してもよい。
【発明の効果】
【0014】
本発明によれば、設定されたパラメータを有する混合確率モデルを、複数の装置の各々に対する信号の振り分けの有無に関する真の振り分け情報として、真の振り分け情報に類似する疑似振り分け情報を生成する生成器と、生成器によって生成された疑似振り分け情報と真の振り分け情報とを識別する識別器とを有する生成モデルの敵対的学習を行う。そのため、各装置に振り分ける信号数の比率を調整することができる。
【図面の簡単な説明】
【0015】
【
図1】
図1は、本発明の実施の形態に係る振り分け情報生成装置および信号振り分け装置を備える信号制御システムの構成を示すブロック図である。
【
図2】
図2は、本実施の形態に係る信号制御システムの概要を説明するための図である。
【
図3】
図3は、本実施の形態に係る信号制御システムの概要を説明するための図である。
【
図4】
図4は、本実施の形態に係る振り分け情報生成装置が備える学習部を説明するための図である。
【
図5】
図5は、本実施の形態に係る振り分け情報生成装置が備える学習部を説明するための図である。
【
図6】
図6は、本実施の形態に係る振り分け情報生成装置が備える学習部を説明するための図である。
【
図7】
図7は、本実施の形態に係る振り分け情報生成装置のハードウェア構成を示すブロック図である。
【
図8】
図8は、本実施の形態に係る信号振り分け装置のハードウェア構成を示すブロック図である。
【
図9】
図9は、本実施の形態に係る信号制御システムの動作を示すシーケンス図である。
【
図10】
図10は、本実施の形態に係る振り分け情報生成装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0016】
以下、本発明の好適な実施の形態について、
図1から
図10を参照して詳細に説明する。
【0017】
[信号制御システムの構成]
まず、
図1および
図2を参照して、本発明の実施の形態に係る振り分け情報生成装置1および信号振り分け装置2を備える信号制御システムの概要について説明する。
【0018】
信号制御システムは、例えば、5G移動通信システムに設けられ、コアネットワークで接続管理、認証、移動管理などを行うための制御信号などの信号を振り分けて送信する。振り分け情報生成装置1と信号振り分け装置2とは、例えば、WANやインターネットなどのネットワークNWを介して接続されている。振り分け情報生成装置1は、信号振り分け情報を生成し、ネットワークNWを介して信号振り分け装置2に提示する。
【0019】
信号振り分け装置2は、例えば、コアネットワークが備えるAMF(Access and Mobility Management Function)により実現される。AMFは、ユーザ端末の登録や無線接続を管理する制御プレーンの機能ノードである。
図2に示すように、信号振り分け装置2は、複数の対向装置(装置)3に通信可能に接続され、振り分け情報生成装置1によって提示された信号振り分け情報に基づいて、信号を複数の対向装置3に振り分ける。
【0020】
対向装置3は、例えば、コアネットワークが備えるUDM(Unified Data Management)により実現される。UDMは、コアネットワークにおける加入者情報の管理、ユーザ端末の移動管理などを行う機能ノードである。具体的には、ユーザ端末から基地局を介して送信された位置登録要求信号をAMFが振り分けて複数のUDMに送信する。本実施の形態では、対向装置3は、D台(Dは2以上の整数。)設けられている。
【0021】
対向装置3は、プロセッサ、主記憶装置、通信インターフェース、補助記憶装置、入出力I/Oを備えるコンピュータと、これらのハードウェア資源を制御するプログラムによって実現することができる。複数の対向装置3は、それぞれが異なる容量のハードウェアリソースを備えることができる。また、各対向装置3は、対向装置ID(#1,#2,・・・,#D)で識別される。
【0022】
本実施の形態に係る信号制御システムでは、信号振り分け装置2が複数の対向装置3の各々に振り分ける信号数の偏りを混合ベルヌーイ分布によりモデル化した混合確率モデルを採用する。信号制御システムは、複数の対向装置3の各々に振り分ける、調整された信号数の比率を反映するようにパラメータが設定された混合確率モデルを敵対的学習の真のデータとして、真のデータに類似する疑似データを生成する生成器121を学習する。また、信号制御システムは、学習済み生成器121’を、信号振り分け装置2がどの対向装置3に対して信号を振り分けるかを示す信号振り分け情報として、信号振り分け装置2に提示する。そして、信号振り分け装置2は、信号振り分け情報により特定された対向装置3に信号を振り分ける。
【0023】
[振り分け情報生成装置の機能ブロック]
次に、本実施の形態に係る振り分け情報生成装置1の機能ブロックについて、
図1のブロック図を参照して説明する。
図1に示すように、振り分け情報生成装置1は、第1設定部10、第2設定部11、学習部12、第1記憶部13、および提示部14を備える。
【0024】
第1設定部10は、複数の対向装置3の各々に対する信号の振り分けの有無を各クラスタの観測値とした混合確率モデルに対して、観測値の集合である観測データの分布を設定する。本実施の形態では、混合確率モデルとして混合ベルヌーイ分布に従うモデルを採用する。観測値は、対向装置3ごとに信号を振り分けるか否かを二値データで表した値である。
【0025】
本実施の形態において採用される混合ベルヌーイ分布は、0と1とを要素とする長さDのベクトルが作るN個の観測データがあるとき、その集合をクラスタリングするモデルである。本実施の形態では、複数の対向装置3に対してどのような偏りをもって信号を振り分けるかを複数のクラスタとして考え、複数の対向装置3の各々に対して信号を振り分けるか否かを0と1で表した観測値の集合を観測データとする。また、観測値は、二値分布を有する複数の異なるクラスタから発生する。
【0026】
ここで、N個の二値ベクトルである観測値x1,x2,…,xNの集合の観測データXが、K個のクラスタのパラメータμ1,μ2,…,μKの集合すなわちパラメータデータセットMをもつ混合ベルヌーイ分布に従うものとする。すなわち、観測データXが複数のクラスタから生成されると仮定し、各クラスタには、観測値が信号の振り分けが有りとなる確率を表すパラメータμが対応付けられている。
【0027】
観測データXとパラメータデータセットMとは、それぞれ次式(1)、(2)のように表される(Tは転置記号である。)。
【数1】
【0028】
n番目の二値ベクトルの観測値x
nとk番目のパラメータベクトルμ
kの各々は、さらに、以下の式(3)、(4)に示すようにそれぞれがD個の要素をもつベクトルとして表される。
【数2】
【0029】
観測値x
nの要素x
n(i)(i=1,2,…,D)の各々は、前述したように0または1の値をとる二値変数である。本実施の形態では、要素x
n(i)を以下のように定義する。
【数3】
【0030】
信号を振り分ける確率、および信号を振り分けない確率は、それぞれ次式(6)、(7)で表される。
【数4】
【0031】
上式(6)、(7)から、観測データXの観測値x
nにクラスタkが割り当てられたときに、観測値x
nは、クラスタkのパラメータμ
kをもつ、次式(8)のベルヌーイ分布に従う。
【数5】
【0032】
ここで、各クラスタ(K個)の発生頻度のパラメータデータセットπを以下のように定義する。パラメータπは、観測値x
nがどの程度各クラスタに配分されるのかを示すパラメータである。したがって、パラメータπ
kは、観測データXの観測値x
nがクラスタkで発生する混合比率を示す。
【数6】
【0033】
また、観測値x
nにクラスタkが割り当てられたときに、観測値x
nは、μ
kをパラメータとするD個のベルヌーイ分布に従う。さらに、各観測値x
nは、次式(10)の混合ベルヌーイ分布によって独立に生成されるものとする。
【数7】
【0034】
上式(10)の混合ベルヌーイ分布の定義式により、各クラスタにおけるベルヌーイ分布の確率を示すパラメータμkと、そのクラスタの混合比率πkとを組み合わせて、全てのクラスタから、観測値xnが発生する確率を求めることができる。上式(10)は、本実施の形態における混合確率モデルであり、1~D台の対向装置3の各々に振り分ける信号数の偏りを表している。
【0035】
第1設定部10は、各クラスタの観測値xnのうち、「信号を振り分ける:1」をとる要素の個数や頻度などを、所望とされる信号の振り分けパターンに応じて設定することができる。また、第1設定部10は、複数のクラスタ1~Kの全体での、「信号を振り分ける:1」をとる観測値xnの発生確率を設定することができる。したがって、第1設定部10は、複数の異なるクラスタごとに、所望とされる信号の振り分けパターンを反映した観測データXの分布を設定することができる。クラスタごとに観測値xnの発生確率を設定することで、D台の対向装置3ごとに信号の振り分け比率を設定することが可能となる。
【0036】
図3は、第1設定部10による観測データXの分布の設定を説明するための図である。
図3に示すクラスタ1~Kは、D台の対向装置3に対する信号振り分けパターンの全体を表す。本実施の形態では、クラスタ1~Kは、それぞれID「#1」~ID「#D」の対向装置3に対応する(K=D)。各クラスタを構成する「1~D」は、1~D台の対向装置3に対して信号を振り分けるか否かを示す観測値x
nである。
図3の例では、各クラスタの1~Dの各データにおいて、信号を振り分ける対向装置3(図中の黒丸点)と、信号を振り分けない対向装置3(図中の黒丸点以外のデータ)とが設定されている。
【0037】
図3に示すクラスタ間の縦方向の対向装置IDは互いに対応しており、1~Kの各クラスタで、1~D台の対向装置3が1台ずつ信号の振り分け先として設定されている。例えば、クラスタ1では、ID「♯1」の対向装置3に対する信号の振り分けがあり、クラスタ2では、ID「#2」の対向装置3に対する信号の振り分けがある。さらに、クラスタKは、ID「#D」の対向装置3に対する信号の振り分けがあることを示している。
【0038】
第1設定部10は、負荷を均等とするために、1~D台の対向装置3で均等な比率で信号を振り分けるクラスタを設定することができる。あるいは、第1設定部10は、1~D台の対向装置3に対して、各装置のリソース容量などに応じて所望とされる信号の振り分け比率となるように、クラスタを設定することができる。例えば、クラスタ1に属するD個の観測値において、ID「#1」の対向装置3に対応する観測値の要素xn(i)の値が、信号の振り分けが有りとなるように設定することができる。また、ID「#1」の対向装置3に対応するクラスタ1が観測データXに占める割合を他のクラスタ(すなわち他の対向装置3)と比較して高く設定することができる。このように、クラスタごとの観測値のパターンに加え、複数のクラスタ全体での各クラスタの観測データXに占める割合などのパターンを設定することができる。
【0039】
図1に戻り、第2設定部11は、第1設定部10によって設定された観測データXの分布となるように混合確率モデルのパラメータを設定する。より具体的には、第2設定部11は、上式(10)の混合確率モデルに、第1設定部10により設定された観測データXの値を与えた際のパラメータμ
k、π
kの値を求める。
【0040】
例えば、
図3に示すように、第1設定部10によってクラスタ1に属するID「#1」の対向装置3に振り分ける信号数の比率が高く設定された場合、第2設定部11は上式(9)のパラメータπ
1の値を大きくし、かつ、各パラメータμ
kを均等にすることで、上式(10)の混合確率モデルにおいて、クラスタ1からx
nが発生する確率が大きくなるように設定することができる。
【0041】
このように、第2設定部11は、パラメータμk、πkを調整して設定することで、各クラスタから観測値xnが発生する確率を調整することができる。各クラスタから観測値xnが発生する確率を事前に設定した混合確率モデルは、以下の学習部12による敵対的学習の際の真のデータとして用いられる。
【0042】
学習部12は、第2設定部11により設定されたパラメータμk、πkを有する混合確率モデルを、複数の対向装置3の各々に対する信号の振り分けの有無に関する真の振り分け情報として、真の振り分け情報に類似する疑似振り分け情報を生成する生成器121と、生成器121によって生成された疑似振り分け情報と真の振り分け情報とを識別する識別器122とを有する生成モデルの敵対的学習を行う。真の振り分け情報は、所望とされる信号の振り分け比率が反映された情報である。学習部12は、混合確率モデルの1~K個のクラスタの各々について、学習済み生成器121’(学習済み生成器121’_1,・・・,121’_K)を構築することができる。学習済み生成器121’_1,・・・,121’_Kは、それぞれクラスタ1~Kに対応するID「#1」~「#D」の対向装置3に対して振り分ける信号数の比率を表す振り分け情報を示す。
【0043】
学習部12は、
図4に示すように、生成器121および識別器122を有するGAN(Generative Adversarial Network)を敵対的に学習させる。本実施の形態では、生成器121と識別器122とのペアをクラスタの数だけ(K個)設けることができる。あるいは、
図4に示すように、K個の生成器121_1,・・・,121_Kに対して1つの識別器122を設けることができる。学習部12の学習により、K個の学習済み生成器121’(学習済み生成器121’_1,・・・,121’_K)が構築される。
【0044】
図5および
図6は、学習部12が用いるGANの生成器121および識別器122のニューラルネットワーク構成を模式的に表した図である。
図5に示すように、生成器121は、入力層、隠れ層、および出力層を有するニューラルネットワークで構成される。なお、K個の生成器121_1,・・・,121_Kはそれぞれ同じネットワーク構造を有し、以下では生成器121と総称して説明する。生成器121は、ランダムな雑音から疑似振り分け情報を生成するモデルである。生成器121の入力ノードには、例えば、ガウス雑音のベクトルがランダムにm個サンプルされて入力される(z
1~z
m)。
【0045】
生成器121は、入力と重みパラメータの積和演算および活性化関数によるしきい値処理を経て出力G(z)を出力する。生成器121からの出力G(z)は、第2設定部11が設定したパラメータμ
k、π
kを有する混合確率モデルにより得られる観測データXに類似するデータである。より具体的には、生成器121は、設定されたパラメータμ
k、π
kを有する混合確率モデルにより得られる各クラスタの観測値x
nに類似するデータを生成する。
図5の各出力G(z
1)~G(z
D)は、各クラスタの観測値x
nの各々に対応する。生成器121を構成するニューラルネットワークとしてCNNやResNetを用いることができる。
【0046】
図6に示す識別器122は、入力層、隠れ層、および出力層を有するニューラルネットワークで構成される。
図6の例では、訓練データの入力として、第2設定部11により設定されたパラメータμ
k、π
kを有する混合確率モデルによって得られる、各クラスタの観測値x
nが与えられる。
【0047】
識別器122は、入力と重みパラメータの積和演算および活性化関数によるしきい値処理を経て、1または0の二値出力を出す。識別器122は、入力された真の振り分け情報に係る訓練データを正しく真の振り分け情報であると識別すると出力y=1を出力する。一方、入力された疑似振り分け情報に係る訓練データを正しく疑似振り分け情報であると識別すると出力y=0を出力する。このように、識別器122は、生成器121が生成したモデル分布を真の分布である訓練データのデータ分布から区別するモデルである。識別器122を構成するニューラルネットワークとしてCNNを用いることができる。
【0048】
図4は、学習部12によるGANの敵対的学習を説明するためのブロック図である。学習部12が採用するGANの生成器121を関数G、識別器122を関数Dと表す。また、真の振り分け情報をx、識別器122による出力である予測値はyと表し、正解ラベルをtと表す。正解ラベルtは、真の振り分け情報に対して1、生成器121で生成された疑似振り分け情報に対して0と設定される。このとき、識別器122は、二値分類問題として次式(11)の交差エントロピーE
CEで表すことができる。
【0049】
【0050】
上式(11)のブレース内の第1項が表すtnlnynにおいて、識別器122の予測値ynが、真の振り分け情報の正解ラベルtn=1の値に近づくことが望ましい。一方、ブレース内の第2項が表す(1-tn)ln(1-yn)においては、識別器122の予測値ynが、疑似振り分け情報と識別する正解ラベルの値(1-tn)=0に近づくことが望ましい。このように交差エントロピーECEは、予測値が正解ラベルの値に一致している場合に最大値となる。
【0051】
ここで、GANを構成する生成器121は、パラメータw
G,θ
Gを有し、関数G(w
G,θ
G)と表す。また、識別器122は、パラメータw
D,θ
Dを有し、関数D(w
D,θ
D)と表す。上式(11)の交差エントロピーE
CEに基づいた生成器121と識別器122とを備えるGANの目的関数Eは、次式(12)で表すことができる。
【数9】
【0052】
上式(12)の第1項が表すED(x)=1lnD(wD,θD)は、識別器122が真の振り分け情報を真の振り分け情報であると識別する期待値である。上式(12)の第2項が表すED(x)=0ln(1-D(G(wG,θG),wD,θD))は、生成器121により生成された疑似振り分け情報を識別器122が疑似振り分け情報であると識別する期待値である。GANの学習では、目的関数Eのmin-max最適化により、生成器121と識別器122とを敵対的に学習する。したがって、識別器122をだますような疑似振り分け情報を生成できるように生成器121を学習し、生成器121が生成した疑似振り分け情報を疑似振り分け情報であると識別するように識別器122を学習する。
【0053】
識別器122の学習では、真の振り分け情報が与えられた場合に、識別器122がy=1に近い出力を出すことで、上式(12)の目的関数Eの第1項を最大化する。一方、疑似振り分け情報が与えられた場合に、識別器122がy=0に近い出力を出すことで目的関数Eの第2項を最大化するように学習が行われる。
【0054】
生成器121の学習では、上式(12)のD(G(w
G,θ
G),w
D,θ
D)(
図4のD(G(z)))が1に近くなるようなG(w
G,θ
G)(
図4のG(z))を出力することで、目的関数Eを最小化する。学習部12は、生成器121のパラメータと識別器122のパラメータとを交互に更新する学習手順を用いる。なお、学習部12による生成器121および識別器122の学習手順の詳細は後述する。
【0055】
第1記憶部13は、学習部12によってGANの目的関数Eが最適化された学習済み生成器121’を記憶する。より詳細には、第1記憶部13は、クラスタ1~Kに対応するK個の学習済み生成器121’(学習済み生成器121’_1,・・・,121’_K)を記憶する。また、第1記憶部13は、パラメータμk、πkが設定された上式(10)の混合確率モデルを記憶する。
【0056】
提示部14は、学習部12によって構築された学習済み生成器121’を含む信号振り分け情報を提示する。より詳細には、提示部14は、ネットワークNWを介して、信号振り分け装置2に、信号振り分け情報を送信することができる。より詳細には、提示部14は、ネットワークNWを介して、信号振り分け装置2に、K個の学習済み生成器121’_1,・・・,121’_Kを含む信号振り分け情報を送信することができる。
【0057】
[信号振り分け装置の機能ブロック]
次に、信号振り分け装置2の機能ブロックについて説明する。
図1に示すように、信号振り分け装置2は、取得部20、第2記憶部21、生成部22、特定部23、および信号振り分け部24を備える。
【0058】
取得部20は、振り分け情報生成装置1によって提示された信号振り分け情報を取得する。具体的には、取得部20は、第2記憶部21に記憶されている信号振り分け情報の学習済み生成器121’(学習済み生成器121’_1,・・・,121’_K)を取得することができる。
【0059】
第2記憶部21は、振り分け情報生成装置1によって提示された信号振り分け情報を記憶する。具体的には、第2記憶部21は、学習済み生成器121’(学習済み生成器121’_1,・・・,121’_K)を記憶する。
【0060】
生成部22は、振り分け情報生成装置1によって提示された信号振り分け情報に含まれる学習済み生成器121’を用いて疑似振り分け情報を生成する。より具体的には、生成部22は、学習済み生成器121’_1,・・・,121’_Kの各々を用いて、疑似振分け情報を生成する。
【0061】
生成部22によって生成される疑似振り分け情報は、上式(3)の観測値xnのデータセットにあるように、1~D台の対向装置3の各々に、「信号を振り分ける:1」および「信号を振り分けない:0」のそれぞれの値が割り当てられた情報である。クラスタ1およびID「#1」の対向装置3に対応する学習済み生成器121’_1によって生成された疑似振り分け情報は、例えば、ID「#1」の対向装置3に対する信号の振り分けを許可し、ID「#2」から「#D」の対向装置3に対する信号の振り分けを許可しない(xn=[xn(1),xn(2),xn(3),・・・,xn(D)]=[1,0,0,・・・,0])ことを示す情報である。
【0062】
特定部23は、生成部22によって生成されたK個の疑似振り分け情報の各々に基づいて、信号振り分け装置2が信号を振り分ける対象の対向装置3を特定する。具体的には、特定部23は、K個の疑似振り分け情報の各々の観測値の要素xn(i)のうち、値が「1」を取る対向装置3のIDを特定する。
【0063】
信号振り分け部24は、特定された対向装置3に対して信号を振り分ける。例えば、信号振り分け部24は、全ての対向装置3をリストに登録し、K個の疑似振り分け情報の各々に基づいて特定された対向装置3のインデックスを更新する。信号振り分け部24は、新たな信号を受信した場合に、インデックスが指す対向装置3を選択し、信号を振り分けて送信する。次の信号を受信した際においても同様に、特定部23によって特定された対向装置3に対して信号を振り分ける。
【0064】
[振り分け情報生成装置のハードウェア構成]
次に、上述した機能を有する振り分け情報生成装置1を実現するハードウェア構成の一例について、
図7を用いて説明する。
【0065】
図7に示すように、振り分け情報生成装置1は、例えば、バス101を介して接続されるプロセッサ102、主記憶装置103、通信インターフェース104、補助記憶装置105、入出力I/O106を備えるコンピュータと、これらのハードウェア資源を制御するプログラムによって実現することができる。さらに、振り分け情報生成装置1は、表示装置107を備える。
【0066】
プロセッサ102は、CPU、GPU、FPGA、ASICなどによって実現される。
【0067】
主記憶装置103には、プロセッサ102が各種制御や演算を行うためのプログラムが予め格納されている。プロセッサ102と主記憶装置103とによって、
図1に示した第1設定部10、第2設定部11、学習部12、および提示部14など振り分け情報生成装置1の各機能が実現される。
【0068】
通信インターフェース104は、振り分け情報生成装置1と各種外部電子機器との間をネットワーク接続するためのインターフェース回路である。
【0069】
補助記憶装置105は、読み書き可能な記憶媒体と、その記憶媒体に対してプログラムやデータなどの各種情報を読み書きするための駆動装置とで構成されている。補助記憶装置105には、記憶媒体としてハードディスクやフラッシュメモリなどの半導体メモリを使用することができる。
【0070】
補助記憶装置105は、信号振り分け情報を生成し信号振り分け装置2に提示する信号制御プログラムを格納するプログラム格納領域を有する。また、補助記憶装置105は、振り分け情報生成装置1が実行するGANの敵対的学習を行うための学習プログラムを格納するプログラム格納領域を有する。また、補助記憶装置105は、混合ベルヌーイ分布に係る混合確率モデルの演算を行う混合確率モデル演算プログラムを格納するプログラム格納領域を有する。補助記憶装置105によって、
図1で説明した第1記憶部13が実現される。さらには、例えば、上述したデータやプログラムなどをバックアップするためのバックアップ領域などを有していてもよい。
【0071】
入出力I/O106は、外部機器からの信号を入力したり、外部機器へ信号を出力したりする入出力装置である。
【0072】
表示装置107は、有機ELディスプレイや液晶ディスプレイなどによって構成される。表示装置107は、真の振り分け情報を画面表示させることができる。
【0073】
[信号振り分け装置のハードウェア構成]
次に、上述した機能を有する信号振り分け装置2を実現するハードウェア構成の一例について、
図7を用いて説明する。
【0074】
図8に示すように、信号振り分け装置2は、振り分け情報生成装置1と同様に、バス201を介して接続されるプロセッサ202、主記憶装置203、通信インターフェース204、補助記憶装置205、入出力I/O206を備えるコンピュータと、これらのハードウェア資源を制御するプログラムによって実現することができる。さらに、信号振り分け装置2は、表示装置207を備える。
【0075】
主記憶装置203には、プロセッサ202が各種制御や演算を行うためのプログラムが予め格納されている。CPU、GPU、FPGA、ASICなどによって実現されるプロセッサ202と主記憶装置203とによって、
図1に示した取得部20、生成部22、特定部23、および信号振り分け部24など信号振り分け装置2の各機能が実現される。
【0076】
通信インターフェース204は、信号振り分け装置2と各種外部電子機器との間をネットワーク接続するためのインターフェース回路である。
【0077】
補助記憶装置205は、読み書き可能な記憶媒体と、その記憶媒体に対してプログラムやデータなどの各種情報を読み書きするための駆動装置とで構成されている。補助記憶装置205には、記憶媒体としてハードディスクやフラッシュメモリなどの半導体メモリを使用することができる。
【0078】
補助記憶装置205は、信号振り分け情報に基づいて、学習済み生成器121’の演算を行う生成プログラムを格納するプログラム格納領域を有する。また、補助記憶装置105は、特定された対向装置3に信号を振り分けるための信号制御プログラムを格納するプログラム格納領域を有する。補助記憶装置205によって、
図1で説明した第2記憶部21が実現される。さらには、例えば、上述したデータやプログラムなどをバックアップするためのバックアップ領域などを有していてもよい。
【0079】
入出力I/O206は、外部機器からの信号を入力したり、外部機器へ信号を出力したりする入出力装置である。
【0080】
表示装置207は、有機ELディスプレイや液晶ディスプレイなどによって構成される。
【0081】
[信号制御システムの動作シーケンス]
次に、上述した構成を有する振り分け情報生成装置1および信号振り分け装置2を備える信号制御システムの動作を、
図9のシーケンスを参照して説明する。
【0082】
図9に示すように、まず、振り分け情報生成装置1の第1設定部10は、混合確率モデルにおいて所望とされる観測データXの分布を設定する(ステップS1)。具体的には、第1設定部10は、意図した信号の振り分け配分が反映されるように、クラスタごとに1~D台の対向装置3のうち、各対向装置3に対して信号の振り分けを行う回数、頻度などを指定した観測データXの観測値x
n(x
n=[x
n(1),x
n(2),x
n(3),・・・,x
n(D)])を設定する。このように、ステップS1において、各クラスタから観測値x
nが発生する確率を均等とする、あるいは特定の偏りを有するように観測データXの値を設定することができる。
【0083】
次に、第2設定部11は、ステップS1で設定された観測データXの分布となるように混合確率モデルのパラメータμk、πkを設定する(ステップS2)。具体的には、第2設定部11は、上式(10)の混合確率モデルに、クラスタごとに観測値xnの発生確率が設定された観測データXを与えた際の、パラメータμk、πkを調整および決定する。パラメータμk、πkが設定された混合確率モデルは、第1記憶部13に記憶される。
【0084】
続いて、学習部12は、学習処理を行う(ステップS3)。具体的には、学習部12は、ステップS2で設定されたパラメータμk、πkを有する混合確率モデルを、D台の対向装置3の各々に対する信号の振り分けの有無に関する真の振り分け情報として、真の振り分け情報に類似する疑似振り分け情報を生成する生成器121と、生成器121によって生成された疑似振り分け情報と真の振り分け情報とを識別する識別器122とを有するGANの敵対的学習を行う。学習処理によって、クラスタ1~K、すなわちID「#1」~「#D」の対向装置3にそれぞれ対応するK個の学習済み生成器121’_1,・・・,121’_Kが構築され、第1記憶部13に記憶される。なお、ステップS3での学習処理の詳細は後述する。
【0085】
次に、提示部14は、ステップS3で学習部12によって構築された学習済み生成器121’を含む信号振り分け情報を、ネットワークNWを介して信号振り分け装置2に提示する(ステップS4)。具体的には、提示部14は、クラスタごとに構築されたK個の学習済み生成器121_1,・・・,121’_Kを、信号振り分け装置2に提示する。
【0086】
続いて、信号振り分け装置2は、振り分け情報生成装置1からの信号振り分け情報の提示があると、信号振り分け情報を含む学習済み生成器121’(学習済み生成器121_1,・・・,121’_K)を第2記憶部21に記憶する。その後、信号振り分け装置2の取得部20は、第2記憶部21から学習済み生成器121’(学習済み生成器121_1,・・・,121’_K)を読出して取得する(ステップS5)。
【0087】
次に、生成部22は、ステップS5で取得された学習済み生成器121’(学習済み生成器121_1,・・・,121’_K)を用いて疑似振り分け情報を生成する(ステップS6)。その後、特定部23は、ステップS6で生成された疑似振り分け情報に基づいて、信号振り分け装置2が信号を振り分ける対象の対向装置3を特定する(ステップS7)。次に、信号振り分け部24は、ステップS7で特定された対向装置3に対して信号を振り分ける(ステップS8)。
【0088】
このように、信号振り分け情報にしたがって特定された対向装置3に信号を振り分けることで、意図した信号数の振り分けの比率で各対向装置3に信号を振り分けることができる。
【0089】
次に、
図10を参照し、
図9で説明した振り分け情報生成装置1の学習部12による学習処理(ステップS3)を説明する。
図10に示す学習処理の例では、学習部12は、1~K個のクラスタごとの真の振り分け情報を繰り返し学習する。まず、学習部12は、真の振り分け情報を訓練データ124として識別器122に入力し、真の振り分け情報を真の振り分け情報(y=1)と識別するように、識別器122のパラメータw
D,θ
Dを学習し、更新する(ステップS20)。
【0090】
図4の学習部12のブロック図に示すように、
図9のステップS2で設定されたパラメータμ
k、π
kを有する混合確率モデルは、D台の対向装置3の各々に対する信号の振り分けの有無に関する真の振り分け情報であり、識別器122を学習する際の訓練データ124として用いられる。ステップS20では、まず、真の振り分け情報として、クラスタ1~クラスタKのうち、クラスタ1の1~D個の観測値x
nを訓練データ124として用いる。
【0091】
ステップS20において、学習部12は、例えば、誤差逆伝搬法などを用いて識別器122に真の振り分け情報を学習させることができる。ステップS20により、クラスタ1の真の振り分け情報を真の振り分け情報と識別することができる識別器122が事前に構築される。
【0092】
次に、学習部12は、ガウス雑音を発生し、発生したガウス雑音のランダムなベクトルを生成器121に入力として与える(ステップS21)。続いて、生成器121は、与えられたガウス雑音に基づいて、入力zと重みパラメータw
G,θ
Gの積和演算および活性化関数によるしきい値処理を行い、疑似振り分け情報G(z)を生成する(ステップS22)。ステップS22では、
図4に示すように、学習部12は、K個の生成器121_1,・・・,121_Kの各々で生成された1~K個の出力を合成して(
図4に示す点a)、1つの疑似振り分け情報G(z)を生成する。
【0093】
次に、学習部12は識別器122の学習を行う。識別器122の学習は、生成器121のパラメータw
D,θ
Dを固定して行われる。まず、学習部12は、
図9のステップS2で設定されたパラメータμ
k、π
kを有する混合確率モデルである、真の振り分け情報を訓練データ124として識別器122に入力として与える。そして、学習部12は、上式(12)の目的関数Eが最大となるように、誤差逆伝搬法などによりパラメータw
D,θ
Dを更新する(ステップS23)。なお、訓練データ124のラベルは1(真の振り分け情報)が設定されている。ステップS23では、まず、学習部12は、K個のクラスタ1~クラスタKのうちのクラスタ1の1~D個の観測値x
nを真の振り分け情報として用いて、識別器122を学習する。
【0094】
次に、学習部12は、ステップS22で生成器121によって生成された疑似振り分け情報を識別器122に入力として与え、上式(12)の目的関数Eが最大となるように、誤差逆伝搬法などによりパラメータwD,θDを更新する(ステップS24)。すなわち、ステップS23およびステップS24では、上式(12)の目的関数Eを最大にするために、第1項はD(wD,θD)=1が出力され、第2項はD(G(wG,θG),wD,θD)=0となるように最適化が行われる。なお、訓練データ124には、ラベルは0(疑似振り分け情報)が設定されている。ステップS24では、K個の生成器121_1,・・・,121_Kの各々で生成され、合成された1つの疑似振り分け情報G(z)を用いて、識別器122を学習する。
【0095】
ステップS23およびステップS24での識別器122の学習は、
図4に示す学習部12のブロック図において、識別器122からの出力123に基づいて、目的関数Eのブロック125で識別器誤差が算出され、その後、識別器122へ誤差逆伝搬されることを示す破線の矢印に対応する。
【0096】
次に、学習部12は生成器121(生成器121_1,・・・,121_K)の学習を行う。生成器121の学習では、識別器122のパラメータが固定されて行われる。学習部12は、ランダムなガウス雑音を生成器121に与えた際に疑似振り分け情報が生成されるように生成器121を学習する。具体的には、学習部12は、上式(12)の目的関数Eを最小とするために、誤差逆伝搬法などによりパラメータwG,θGを更新する(ステップS25)。
【0097】
ステップS25での学習は、
図4の学習部12のブロック図において、生成器121へ誤差逆伝搬されることを示す破線の矢印のフローに対応する。すなわち、ステップS25は、
図4の生成器121で生成された疑似振り分け情報が識別器122に入力され、その出力123から目的関数Eのブロック125で生成器誤差が算出され、さらには、生成器121へ誤差逆伝搬される破線矢印のフローに対応する。
【0098】
その後、目的関数Eの値がナッシュ均衡に到達して収束するまで(ステップS26:NO)、ステップS22からステップS25までの識別器122および生成器121(生成器121_1~生成器121_K)の学習が繰り返し行われる。一方、目的関数Eの値が収束した場合(ステップS26:YES)、クラスタ1~クラスタKまでのすべての真の振り分け情報のうち、クラスタ2~クラスタKまでの残りの真の振り分け情報を順番に用いて、K個の生成器121_1,・・・,121_K、および識別器122の学習が行われるまで(ステップS27:NO)、ステップS20からステップS26までの処理が繰り返される。
【0099】
その後、クラスタ2~クラスタKまでの残りのK-1個のクラスタの真の振り分け情報を用いて生成器121(生成器121_1~生成器121_K)および識別器122の学習が行われた場合(ステップS27:YES)、学習部12は、1~K個の学習済み生成器121’_1,・・・,121’_Kを第1記憶部13に記憶する(ステップS28)。以上のステップS20からステップS28までの処理によって学習済み生成器121’が構築される。さらにその後、処理は、
図9のステップS4に移行する。
【0100】
以上説明したように、本実施の形態に係る振り分け情報生成装置1によれば、信号振り分け装置2が複数の対向装置3の各々に振り分ける信号数の偏りを混合ベルヌーイ分布によりモデル化し、意図した振り分け配分を表す観測データXの分布となるようにパラメータμk、πkを設定した混合確率モデルをGANの敵対的学習での真のデータとして用いる。さらに、敵対的学習により構築された学習済み生成器121’を信号振り分け情報として信号振り分け装置2に提示するため、対向装置3ごとに振り分ける信号数の比率を調整することができる。
【0101】
また、本実施の形態に係る振り分け情報生成装置1によれば、意図した振り分け配分が反映されたパラメータμk、πkが設定された混合確率モデルを、GANの敵対的学習での真のデータである真の振り分け情報として用い、真の振り分け情報に類似する疑似振り分け情報を生成する生成器121を学習する。そのため、GANの敵対的学習を行うことにより、混合ベルヌーイ分布に従う混合確率モデルの潜在変数の学習を行うことができる。
【0102】
また、本実施の形態に係る振り分け情報生成装置1によれば、複数の対向装置3の各々に振り分ける信号数の偏りを混合ベルヌーイ分布の各クラスタの観測値とするので、クラスタごとに各対向装置3への信号の振り分け頻度やパターンを指定することができる。そのため、ハードウェアリソースの容量に応じた対向装置3ごとに振り分ける信号数の比率を詳細に設定し、より効率的な信号制御を実現することが可能となる。
【0103】
また、本実施の形態に係る振り分け情報生成装置1によれば、GANの敵対的学習によって構築された学習済み生成器121’を信号振り分け情報として、ネットワークNWを介して信号振り分け装置2に通知する。そのため、信号制御を遠隔で行うことができる。
【0104】
なお、説明した実施の形態では、信号振り分け装置2がAMFであり、対向装置3がUDMである場合について例示した。しかし、信号振り分け装置2は、例えば、基地局で、対向装置3をAMFとした構成であってもよい。あるいは、信号振り分け装置2がUPF(User Plane Function)であり、対向装置3がクラウド拠点であってもよい。
【0105】
また、説明した実施の形態では、信号は、コアネットワークで接続管理、認証、移動管理などを行うための位置登録要求信号などの制御信号を例示して説明した。しかし、信号は、ユーザプレーンで処理されるデータ信号であってもよい。
【0106】
以上、本発明の振り分け情報生成装置、信号振り分け装置、および振り分け情報生成方法における実施の形態について説明したが、本発明は説明した実施の形態に限定されるものではなく、請求項に記載した発明の範囲において当業者が想定し得る各種の変形を行うことが可能である。
【符号の説明】
【0107】
1…振り分け情報生成装置、2…信号振り分け装置、10…第1設定部、11…第2設定部、12…学習部、13…第1記憶部、14…提示部、20…取得部、21…第2記憶部、22…生成部、23…特定部、24…信号振り分け部、101、201…バス、102、202…プロセッサ、103、203…主記憶装置、104、204…通信インターフェース、105、205…補助記憶装置、106、206…入出力I/O、107、207…表示装置、121…生成器、122…識別器、123…出力、124…訓練データ、125…目的関数Eのブロック、NW…ネットワーク。
【要約】
【課題】各装置に振り分ける信号数の比率を調整することを目的とする。
【解決手段】
振り分け情報生成装置1は、複数の対向装置3の各々に対する信号の振り分けの有無を各クラスタの観測値とした混合確率モデルに対して、観測値の集合である観測データの分布を設定する第1設定部10と、設定された観測データの分布となるように混合確率モデルのパラメータを設定する第2設定部11と、設定されたパラメータを有する混合確率モデルを、複数の装置の各々に対する信号の振り分けの有無に関する真の振り分け情報として、生成モデルの敵対的学習を行う学習部12と、学習部12によって構築された学習済み生成器121’を含む信号振り分け情報を提示する提示部14とを備える。
【選択図】
図1