▶ ベイジン バイドゥ ネットコム サイエンス アンド テクノロジー カンパニー リミテッドの特許一覧
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-12-22
(45)【発行日】2024-01-05
(54)【発明の名称】マルチタスクのデプロイ方法、装置、電子機器及び記憶媒体
(51)【国際特許分類】
G06N 3/02 20060101AFI20231225BHJP
G06N 3/006 20230101ALI20231225BHJP
【ＦＩ】
G06N3/02
G06N3/006
【請求項の数】
29
(21)【出願番号】P 2022124588
(22)【出願日】2022-08-04
(65)【公開番号】P2022160570
(43)【公開日】2022-10-19
【審査請求日】2022-08-04
(31)【優先権主張番号】202110981600.0
(32)【優先日】2021-08-25
(33)【優先権主張国・地域又は機関】CN
(73)【特許権者】
【識別番号】514322098
【氏名又は名称】ベイジン バイドゥ ネットコム サイエンス テクノロジー カンパニー リミテッド
【氏名又は名称原語表記】Ｂｅｉｊｉｎｇ Ｂａｉｄｕ Ｎｅｔｃｏｍ Ｓｃｉｅｎｃｅ Ｔｅｃｈｎｏｌｏｇｙ Ｃｏ．， Ｌｔｄ．
【住所又は居所原語表記】２／Ｆ Ｂａｉｄｕ Ｃａｍｐｕｓ， Ｎｏ．１０， Ｓｈａｎｇｄｉ １０ｔｈ Ｓｔｒｅｅｔ， Ｈａｉｄｉａｎ Ｄｉｓｔｒｉｃｔ， Ｂｅｉｊｉｎｇ １０００８５， Ｃｈｉｎａ
(74)【代理人】
【識別番号】100118913
【弁理士】
【氏名又は名称】上田 邦生
(74)【代理人】
【識別番号】100142789
【弁理士】
【氏名又は名称】柳 順一郎
(74)【代理人】
【識別番号】100201466
【弁理士】
【氏名又は名称】竹内 邦彦
(72)【発明者】
【氏名】ワン， カフェン
(72)【発明者】
【氏名】シオン， ハオイ
(72)【発明者】
【氏名】シュウ， チェンツォン
(72)【発明者】
【氏名】ドウ， デジン
【審査官】多賀 実
(56)【参考文献】
【文献】特表２０１６－５１９８０７（ＪＰ，Ａ）
【文献】特表２０２１－５０８５１８（ＪＰ，Ａ）
(58)【調査した分野】(Int.Cl.，ＤＢ名)
Ｇ０６Ｎ ３／００－９９／００
Ｇ０６Ｆ ９／４６－９／５４
(57)【特許請求の範囲】
【請求項1】
Ｎ個の第１タスクとＫ個のネットワークモデルを取得するステップであって、ＮとＫが１以上の正の整数であるステップと、前記Ｎ個の第１タスクを前記Ｋ個のネットワークモデルに交替で割り当てて演算して、タスクとネットワークモデルとの少なくとも１つの候補組み合わせを取得するステップであって、各前記候補組み合わせに前記Ｎ個の第１タスクと前記Ｋ個のネットワークモデルとのマッピング関係が含まれるステップと、
前記少なくとも１つの候補組み合わせから組み合わせ演算正解率が最も大きいターゲット組み合わせを選択するステップと、
前記Ｋ個のネットワークモデルと前記ターゲット組み合わせのターゲットマッピング関係とを予測マシンにデプロイするステップと、
を含む、マルチタスクのデプロイ方法。
【請求項2】
前記Ｎ個の第１タスクを前記Ｋ個のネットワークモデルに交替で割り当てて演算して、タスクとモデルとの少なくとも１つの候補組み合わせを取得するステップが、前記Ｎ個の第１タスクの割り当てが完了するたびに、割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得するステップと、
前記代替的な組み合わせの前記消費時間がスケジューリング可能な制約パラメータを満たすことに応答して、前記代替的な組み合わせを候補組み合わせとして決定するステップと、
を含む請求項１に記載のマルチタスクのデプロイ方法。
【請求項3】
前記代替的な組み合わせの前記消費時間が前記スケジューリング可能な制約パラメータを満たしていないことに応答して、前記代替的な組み合わせを破棄し、次の前記代替的な組み合わせを再取得するステップを含む請求項２に記載のマルチタスクのデプロイ方法。
【請求項4】
前記第１タスクの数Ｎと前記ネットワークモデルの数Ｋとに基づいて、合計反復回数を決定するステップと、前記反復回数が反復回数閾値より大きいことに応答して、前の前記代替的な組み合わせの組み合わせ演算正解率に基づいて、粒子群最適化アルゴリズム（ＰＳＯ）によって次の前記代替的な組み合わせを検索するステップと、
を含む請求項２に記載のマルチタスクのデプロイ方法。
【請求項5】
前記割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得するステップが、前記代替的な組み合わせにおける前記Ｎ個の第１タスクのうちの各第１タスクが、それぞれ割り当てられているターゲットネットワークモデルで実行される時のタスク最悪実行時間（ＷＣＥＴ）を取得するステップと、
各前記第１タスクの前記ＷＣＥＴとタスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を取得するステップと、
を含む請求項２に記載のマルチタスクのデプロイ方法。
【請求項6】
前記各前記第１タスクの前記タスク最悪実行時間とタスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を取得するステップが、各前記第１タスクの前記ＷＣＥＴに基づいて、前記代替的な組み合わせの合計ＷＣＥＴを取得するステップと、
前記代替的な組み合わせの合計ＷＣＥＴと前記タスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を取得するステップと、
を含む請求項５に記載のマルチタスクのデプロイ方法。
【請求項7】
前記各前記タスクの前記ＷＣＥＴに基づいて、前記代替的な組み合わせの合計ＷＣＥＴを取得するステップが、各前記第１タスクに対して、前記第１タスクに対応する前記ターゲットネットワークモデルの複数の履歴ＷＣＥＴを取得するステップと、
前記複数の履歴ＷＣＥＴと今回の前記ＷＣＥＴとに基づいて、前記ターゲットネットワークモデルにおける前記第１タスクの平均ＷＣＥＴを取得するステップと、
前記第１タスクの平均ＷＣＥＴに基づいて、前記代替的な組み合わせの合計ＷＣＥＴを取得するステップと、
を含む請求項６に記載のマルチタスクのデプロイ方法。
【請求項8】
前記タスクの平均ＷＣＥＴに基づいて、前記代替的な組み合わせの合計ＷＣＥＴを取得するステップが、前記複数の履歴ＷＣＥＴと今回の前記ＷＣＥＴとの第１の標準偏差を取得するステップと、
前記第１タスクの平均ＷＣＥＴと前記第１の標準偏差との第１の合計値を取得するステップと、
すべての前記第１タスクの前記第１の合計値を合計して、前記代替的な組み合わせの合計ＷＣＥＴを取得するステップと、
を含む請求項７に記載のマルチタスクのデプロイ方法。
【請求項9】
前記代替的な組み合わせの合計ＷＣＥＴと前記タスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を取得するステップが、複数の履歴タスク処理サイクルを取得するステップと、
前記複数の履歴タスク処理サイクルと今回の前記タスク処理サイクルとに基づいて、平均タスク処理サイクルを取得するステップと、
前記代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を決定するステップと、
を含む請求項６に記載のマルチタスクのデプロイ方法。
【請求項10】
前記代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を決定するステップが、前記複数の履歴タスク処理サイクルと前記今回の前記タスク処理サイクルとの第２の標準偏差を取得するステップと、
前記平均タスク処理サイクルと前記第２の標準偏差との第２の合計値を取得するステップと、
前記代替的な組み合わせの合計ＷＣＥＴと前記第２の合計値との比を取得して前記代替的な組み合わせの前記消費時間とするステップと、
を含む請求項９に記載のマルチタスクのデプロイ方法。
【請求項11】
前記少なくとも１つの候補組み合わせから組み合わせ演算正解率が最も大きいターゲット組み合わせを選択するステップの前に、各前記候補組み合わせに対して、割り当てられているターゲットネットワークモデルにおける前記第１タスクのタスク組み合わせ演算正解率を取得するステップと、
すべての前記第１タスクの前記タスク組み合わせ演算正解率に基づいて、前記候補組み合わせの組み合わせ演算正解率を取得するステップと、
を含む請求項１に記載のマルチタスクのデプロイ方法。
【請求項12】
前記すべてのタスクの前記タスク組み合わせ演算正解率に基づいて、前記候補組み合わせの組み合わせ演算正解率を取得するステップが、各前記第１タスクの重みを取得するステップと、
前記第１タスクの重みに基づいて、前記第１タスクのタスク組み合わせ演算正解率を重み付けして、前記候補組み合わせの組み合わせ演算正解率を取得するステップと、
を含む請求項１１に記載のマルチタスクのデプロイ方法。
【請求項13】
前記Ｋ個のネットワークモデルと前記ターゲット組み合わせのターゲットマッピング関係とを予測マシンにデプロイするステップの後に、ターゲットタスク処理サイクル内で１つの第２タスクが受信されたことに応答して、前記ターゲットタスクサイクル内の処理対象の第２タスクを並べ替えるステップと、
前記処理対象の第２タスクに対して前記ターゲットマッピング関係のクエリを順に行って、現在クエリされた前記処理対象の第２タスクに対応するターゲットネットワークモデルを取得するステップと、
前記処理対象のタスクを前記予測マシンにおける前記ターゲットネットワークモデルに下り送信して処理するステップと、
を含む請求項１に記載のマルチタスクのデプロイ方法。
【請求項14】
Ｎ個の第１タスクとＫ個のネットワークモデルを取得するための取得モジュールであって、ＮとＫが１以上の正の整数である取得モジュールと、前記Ｎ個の第１タスクを前記Ｋ個のネットワークモデルに交替で割り当てて演算して、タスクとネットワークモデルとの少なくとも１つの候補組み合わせを取得するための演算モジュールであって、各前記候補組み合わせに前記Ｎ個の第１タスクと前記Ｋ個のネットワークモデルとのマッピング関係が含まれる演算モジュールと、
前記少なくとも１つの候補組み合わせから組み合わせ演算正解率が最も大きいターゲット組み合わせを選択するための選択モジュールと、
Ｋ個のネットワークモデルと前記ターゲット組み合わせのターゲットマッピング関係とを予測マシンにデプロイするためのデプロイモジュールと、
を備える、マルチタスクのデプロイ装置。
【請求項15】
前記演算モジュールが、前記Ｎ個の第１タスクの割り当てが完了するたびに、割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得し、
前記代替的な組み合わせの前記消費時間がスケジューリング可能な制約パラメータを満たすことに応答して、前記代替的な組み合わせを候補組み合わせとして決定する請求項１４に記載のマルチタスクのデプロイ装置。
【請求項16】
前記演算モジュールが、前記代替的な組み合わせの前記消費時間が前記スケジューリング可能な制約パラメータを満たしていないことに応答して、前記代替的な組み合わせを破棄し、次の前記代替的な組み合わせを再取得する請求項１５に記載のマルチタスクのデプロイ装置。
【請求項17】
前記演算モジュールが、前記第１タスクの数Ｎと前記ネットワークモデルの数Ｋとに基づいて、合計反復回数を決定し、
前記反復回数が反復回数閾値より大きいことに応答して、前の前記代替的な組み合わせの組み合わせ演算正解率に基づいて、粒子群最適化アルゴリズム（ＰＳＯ）によって次の前記代替的な組み合わせを検索する請求項１５または１６に記載のマルチタスクのデプロイ装置。
【請求項18】
前記演算モジュールが、前記代替的な組み合わせにおける前記Ｎ個の第１タスクのうちの各第１タスクが、それぞれ割り当てられているターゲットネットワークモデルで実行される時のタスク最悪実行時間（ＷＣＥＴ）を取得し、
各前記第１タスクの前記ＷＣＥＴとタスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を取得する請求項１５に記載のマルチタスクのデプロイ装置。
【請求項19】
前記演算モジュールが、各前記第１タスクの前記ＷＣＥＴに基づいて、前記代替的な組み合わせの合計ＷＣＥＴを取得し、
前記代替的な組み合わせの合計ＷＣＥＴと前記タスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を取得する請求項１８に記載のマルチタスクのデプロイ装置。
【請求項20】
前記演算モジュールが、各前記第１タスクに対して、前記第１タスクに対応する前記ターゲットネットワークモデルの複数の履歴ＷＣＥＴを取得し、
前記複数の履歴ＷＣＥＴと今回の前記ＷＣＥＴに基づいて、前記ターゲットネットワークモデルにおける前記第１タスクの平均ＷＣＥＴを取得し、
前記第１タスクの平均ＷＣＥＴに基づいて、前記代替的な組み合わせの合計ＷＣＥＴを取得する請求項１９に記載のマルチタスクのデプロイ装置。
【請求項21】
前記演算モジュールが、前記複数の履歴ＷＣＥＴと今回の前記ＷＣＥＴとの第１の標準偏差を取得し、
前記第１タスクの平均ＷＣＥＴと前記第１の標準偏差との第１の合計値を取得し、
すべての前記第１タスクの前記第１の合計値を合計して、前記代替的な組み合わせの合計ＷＣＥＴを取得する請求項２０に記載のマルチタスクのデプロイ装置。
【請求項22】
前記演算モジュールが、複数の履歴タスク処理サイクルを取得し、
前記複数の履歴タスク処理サイクルと今回の前記タスク処理サイクルとに基づいて、平均タスク処理サイクルを取得し、
前記代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、前記代替的な組み合わせの前記消費時間を決定する請求項１９～２１のいずれかに記載のマルチタスクのデプロイ装置。
【請求項23】
前記演算モジュールが、前記複数の履歴タスク処理サイクルと前記今回の前記タスク処理サイクルとの第２の標準偏差を取得し、
前記平均タスク処理サイクルと前記第２の標準偏差との第２の合計値を取得し、
前記代替的な組み合わせの合計ＷＣＥＴと前記第２の合計値との比を取得して前記代替的な組み合わせの前記消費時間とする請求項２２に記載のマルチタスクのデプロイ装置。
【請求項24】
前記選択モジュールが、前記少なくとも１つの候補組み合わせから組み合わせ演算正解率が最も大きいターゲット組み合わせを選択する前に、
各前記候補組み合わせに対して、割り当てられているターゲットネットワークモデルにおける前記第１タスクのタスク組み合わせ演算正解率を取得し、
すべての前記第１タスクの前記タスク組み合わせ演算正解率に基づいて、前記候補組み合わせの組み合わせ演算正解率を取得する請求項１４から１６または１８から２１のいずれか一項に記載のマルチタスクのデプロイ装置。
【請求項25】
前記選択モジュールが、各前記第１タスクの重みを取得し、
前記第１タスクの重みに基づいて、前記第１タスクのタスク組み合わせ演算正解率を重み付けして、前記候補組み合わせの組み合わせ演算正解率を取得する請求項２４に記載のマルチタスクのデプロイ装置。
【請求項26】
前記デプロイモジュールが、前記Ｋ個のネットワークモデルと前記ターゲット組み合わせのターゲットマッピング関係とを予測マシンにデプロイした後、
ターゲットタスク処理サイクル内で１つの第２タスクが受信されたことに応答して、前記ターゲットタスクサイクル内の処理対象の第２タスクを並べ替え、
前記処理対象の第２タスクに対して前記ターゲットマッピング関係のクエリを順に行って、現在クエリされた前記処理対象の第２タスクに対応するターゲットネットワークモデルを取得し、
前記処理対象のタスクを前記予測マシンにおける前記ターゲットネットワークモデルに下り送信して処理する請求項１４から１６または１８から２１のいずれか一項に記載のマルチタスクのデプロイ装置。
【請求項27】
少なくとも１つのプロセッサと、該少なくとも１つのプロセッサと通信可能に接続されるメモリと、
を備え、
前記メモリには、前記少なくとも１つのプロセッサによって実行可能な命令が記憶されており、前記命令が、前記少なくとも１つのプロセッサが請求項１から１３のいずれか一項に記載のマルチタスクのデプロイ方法を実行できるように、前記少なくとも１つのプロセッサによって実行される電子機器。
【請求項28】
コンピュータ命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体であって、前記コンピュータ命令が、コンピュータに請求項１から１３のいずれか一項に記載のマルチタスクのデプロイ方法を実行させる、非一時的なコンピュータ読み取り可能な記憶媒体。
【請求項29】
プロセッサによって実行される場合、請求項１から１３のいずれか一項に記載のマルチタスクのデプロイ方法が実現されるコンピュータプログラム。【発明の詳細な説明】
【技術分野】
【0001】
本開示は、コンピュータ技術分野に関し、具体的にビッグデータと深層学習などの人工知能技術の分野に関し、特にマルチタスクのデプロイ方法、装置、電子機器及び記憶媒体に関する。
【背景技術】
【0002】
近年、深層学習技術は、ユーザの使用の複雑さとユーザ技術の理解の難しさを低減できる特性を有するため、各業界のビジネスシーンに急速に提供されている。
【0003】
従来の深層学習システムは、一般に、経験に基づいて、１つまたは複数のトレーニングされた深層学習モデルを配置する。しかしながら、いつ、どのモデルを選択してタスクを実行するかは、正確に設計されたものではない。特に複雑なタスクが変化すると、あるタスクに深層学習モデルを経験的にマッチングさせることは、リアルタイムなスケジューリング可能性を確保することは困難である。従って、適切な深層学習モデルをどのように取得するかは現在解決すべき問題となっている。
【発明の概要】
【0004】
本開示は、マルチタスクのためのデプロイ方法、装置、電子機器及び記憶媒体を提供する。
【0005】
第一の態様によれば、Ｎ個の第１タスクとＫ個のネットワークモデルを取得するステップであって、ＮとＫが１以上の正の整数であるステップと、前記Ｎ個の第１タスクを前記Ｋ個のネットワークモデルに交替で割り当てて演算して、タスクとネットワークモデルとの少なくとも１つの候補組み合わせを取得するステップであって、各前記候補組み合わせに前記Ｎ個の第１タスクと前記Ｋ個のネットワークモデルとのマッピング関係が含まれるステップと、前記少なくとも１つの候補組み合せから組み合わせ演算正解率が最も大きいターゲット組み合わせを選択するステップと、前記Ｋ個のネットワークモデルと前記ターゲット組み合わせとのターゲットマッピング関係を予測マシンにデプロイするステップと、を含むマルチタスクのデプロイ方法を提供する。
【0006】
本開示の第２の態様によれば、Ｎ個の第１タスクとＫ個のネットワークモデルを取得する取得モジュールであって、ＮとＫが１以上の正の整数である取得モジュールと、前記Ｎ個の第１タスクを前記Ｋ個のネットワークモデルに交替で割り当てて演算して、タスクとネットワークモデルとの少なくとも１つの候補組み合わせを取得する演算モジュールであって、各前記候補組み合わせに前記Ｎ個の第１タスクと前記Ｋ個のネットワークモデルとのマッピング関係が含まれる演算モジュールと、前記少なくとも１つの候補組み合せから組み合わせ演算正解率が最も大きいターゲット組み合わせを選択する選択モジュールと、Ｋ個のネットワークモデルと前記ターゲット組み合わせとのターゲットマッピング関係を予測マシンにデプロイするデプロイモジュールと、を備えるマルチタスクのデプロイ装置を提供する。
【0007】
本開示の第３の態様によれば、電子機器を提供し、前記電子機器は、少なくとも１つのプロセッサと、該少なくとも１つのプロセッサと通信可能に接続されるメモリと、を備え、前記メモリには、前記少なくとも１つのプロセッサによって実行可能な命令が記憶されており、前記命令は、前記少なくとも１つのプロセッサが第１態様の実施例に記載のマルチタスクのデプロイ方法を実行できるように、前記少なくとも１つのプロセッサによって実行される。
【0008】
本開示の第４の様態によれば、コンピュータ命令が記憶されている非一時的なコンピュータ読み取り可能な記憶媒体を提供し、それにコンピュータプログラム／命令が記憶され、前記コンピュータ命令は、前記コンピュータに第１態様の実施例に記載のマルチタスクのデプロイ方法を実行させる。
【0009】
本開示の第５の様態によれば、コンピュータプログラムを提供し、前記コンピュータプログラムはプロセッサによって実行される場合、上記第１の態様の実施例に記載のマルチタスクのデプロイ方法を実現する。
【0010】
なお、この部分に記載の内容は、本開示の実施例の肝心または重要な特徴を特定することを意図しておらず、本開示の範囲を限定することも意図していないことを理解されたい。本開示の他の特徴は、以下の説明を通して容易に理解される。
【図面の簡単な説明】
【0011】
図面は、本技術案をよりよく理解するために使用され、本開示を限定するものではない。
【図1】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図2】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図3】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図4】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図5】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図6】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図7】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図8】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図9】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図10】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図11】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図12】本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【図13】本開示の実施例によって提供される別のマルチタスクのデプロイ方法の全体的なフローチャートである。
【図14】本開示の実施例によって提供されるマルチタスクのデプロイ装置の概略構成図である。
【図15】本開示の実施例のマルチタスクのデプロイ方法の電子機器のブロック図である。
【発明を実施するための形態】
【0012】
以下、図面と併せて本開示の例示的な実施例を説明し、理解を容易にするためにその中には本開示の実施例の様々な詳細事項が含まれており、それらは単なる例示的なものと見なされるべきである。したがって、当業者は、本開示の範囲及び精神から逸脱することなく、ここで説明される実施例に対して様々な変更と修正を行うことができることを認識されたい。同様に、明確及び簡潔にするために、以下の説明では、周知の機能及び構造の説明を省略する。
【0013】
以下、図面を参照しながら、本開示の実施例のマルチタスクのデプロイ方法、装置、及び電子機器を説明する。
【0014】
自然言語処理（Ｎａｔｕｒａｌ Ｌａｎｇｕａｇｅ Ｐｒｏｃｅｓｓｉｎｇ、ＮＬＰ）は、コンピュータ科学の分野と人工知能の分野における重要な方向である。人とコンピュータの間で自然言語を通じて効果的に通信することを実現できるさまざまな理論と方法を研究する。自然言語処理は言語学、コンピュータ科学、数学を一体化した科学である。自然言語処理は主に機械翻訳、民情モニタリング、自動要約、観点抽出、テキスト分類、問題回答、テキスト意味比較、音声認識などの面に適用されている。
【0015】
深層学習（Ｄｅｅｐ Ｌｅａｒｎｉｎｇ、ＤＬと省略する）は、機械学習（Ｍａｃｈｉｎｅ Ｌｅａｒｎｉｎｇ、ＭＬと省略する）分野における新しい研究方向であり、機械学習を最初の目標－人工知能に近づけるように導入されている。深層学習はサンプルデータの内的な規則と表示レベルを学習するものであり、これらの学習プロセスで取得された情報は文字、画像、及び音声などのデータの解釈に大きいに役立つ。その最終的な目標は、機械が人間のように分析学習能力を持ち、文字、画像、及び音声などのデータを認識できるようにすることである。深層学習は複雑な機械学習アルゴリズムであり、音声と画像認識面で収められる効果は以前の関連技術をはるかに超える。
【0016】
図１は、本開示の実施例によって提供されるマルチタスクのデプロイ方法のフローチャートである。
【0017】
図１に示すように、当該マルチタスクのデプロイ方法は、以下のステップＳ１０１～Ｓ１０４を含むことができる。
【0018】
Ｓ１０１、Ｎ個の第１タスクとＫ個のネットワークモデルを取得し、ＮとＫが１以上の正の整数である。
【0019】
本開示の実施例によって提供されるタスクデプロイ方法は、電子機器によって実行されることができ、当該電子機器は、ＰＣ（Ｐｅｒｓｏｎａｌ Ｃｏｍｐｕｔｅｒ、パーソナルコンピュータ）とサーバなどであってもよく、選択的に、当該サーバはクラウドサーバであってもよい。
【0020】
第１タスクは様々であってもよく、例えば、第１タスクは、画像検出、画像タイプ識別、及び画像切割などであってもよい。これに対応して、ネットワークモデルは、画像検出モデル、画像タイプ識別モデル、及び画像分割モデルなどであってもよい。なお、本実施例で説明したネットワークモデルは、呼び出して使用することを容易にするために、予めトレーニングされ、電子機器の記憶空間に記憶されている。
【0021】
本開示の実施例では、Ｎ個の第１タスクを取得する方法は様々であってもよい。Ｎ個の画像を選択的に収集し、各画像は１つの第１タスクに対応する。画像は、リアルタイムで収集するものであってもよく、画像ライブラリから得るものであってもよい。選択的に、Ｎ個の第１タスクを電子機器に入力することができ、当該タスクは画像処理タスクであってもよい。
【0022】
Ｓ１０２、Ｎ個の第１タスクをＫ個のネットワークモデルに交替で割り当てて演算して、タスクとネットワークモデルとの少なくとも１つの候補組み合わせを取得し、各候補組み合わせに、Ｎ個の第１タスクとＫ個のネットワークモデルとのマッピング関係が含まれる。
【0023】
本開示の実施例では、Ｎ個の第１タスクをそれぞれＫ個のネットワークモデルに割り当て演算することができ、例えば、１０個のタスク、５個のネットワークモデルがあり、タスク１とタスク２をネットワークモデル１に割り当て、タスク３とタスク４をネットワークモデル２に割り当て、タスク５とタスク６をネットワークモデル３に割り当て、タスク７とタスク８をネットワークモデル４に割り当て、タスク９とタスク１０をネットワークモデル５に割り当てる。演算が終了すると、さらにＮ個の第１タスクをＫ個のネットワークモデルに再割り当てて演算し、例えば、タスク１とタスク９をネットワークモデル１に割り当て、タスク２とタスク１０をネットワークモデル２に割り当て、タスク３とタスク７をネットワークモデル３に割り当て、タスク６とタスク８をネットワークモデル４に割り当て、タスク２とタスク５をネットワークモデル５に割り当てる。交替割り当てが終了するまで、上記のステップを繰り返し、少なくとも１つの候補組み合わせを出力する。なお、Ｎ個の第１タスクをＫ個のネットワークモデルに割り当てるたびに、形成されたタスク－ネットワークモデルの組み合わせは異なり、すなわち、毎回形成された組み合わせにおけるタスクとネットワークモデルとのマッピング関係は異なる。
【0024】
なお、本実施例で説明したマッピング関係は当該Ｎ個の第１タスクと候補組み合わせにおけるＫ個のネットワークモデルとの間の対応関係である。上記の例に基づいてマッピング関係を引き続き説明し、当該マッピング関係には、タスク１およびタスク９とネットワークモデル１とのマッピング、タスク２およびタスク１０とネットワークモデル２とのマッピング、タスク３およびタスク７とネットワークモデル３とのマッピング、タスク６およびタスク８とネットワークモデル４とのマッピング、タスク２およびタスク５とネットワークモデル５とのマッピングが含まれる。
【0025】
Ｓ１０３、少なくとも１つの候補組み合わせから、組み合わせ演算正解率が最も大きいターゲット組み合わせを選択する。
【0026】
Ｎ個の第１タスクをＫ個のネットワークモデルに交替で割り当てて演算した後、少なくとも１つの候補組み合わせを生成し、候補組み合わせの組み合わせ演算正解率を算出することができる。なお、候補組み合わせの最大正解率が大きいほど、Ｎ個の第１タスクに対する当該候補組み合わせの計算正解率と効率が高いため、組み合わせ演算正解率の最も大きい候補組み合わせをターゲット組み合わせとして決定することができる。
【0027】
選択的に、候補組み合わせが１つである場合、当該候補組み合わせはターゲット組み合わせである。
【0028】
選択的に、当該候組み合わせが複数である場合、複数の候補組み合わせの組み合わせ演算正解率に対して比較することにより、組み合わせ演算正解率の最も大きい候補組み合わせをターゲット組み合わせとして選択することができる。
【0029】
本開示の実施例では、複数の候補組み合わせの組み合わせ演算正解率を生成するために、組み合わせ演算正解率アルゴリズムで候補組み合わせを処理することができる。当該アルゴリズムは、必要に応じて呼び出して使用することを容易するために、予め設定され、電子機器の記憶空間に記憶されているものであってもよい。
【0030】
Ｓ１０４、Ｋ個のネットワークモデルとターゲット組み合わせのターゲットマッピング関係を予測マシンにデプロイする。
【0031】
本開示の実施例では、予測マシンは、デプロイされたネットワークモデルを介してタスクを予測し、予測結果を出力することができる直接予測を行う装置である。
【0032】
予測マシンは、Ｋ個のネットワークモデルとターゲット組み合わせとのターゲットとのマッピング関係をデプロイした後、第１タスクが受信された場合、ターゲットマッピング関係によってＫ個のネットワークモデルにおける対応するネットワークモデルを呼び出し、対応するネットワークモデルを介して第１タスクを演算することができる。タスクとネットワークモデルとをマッチングさせるによって、タスク－ネットワークモデルの最適な組み合わせを取得し、これにより、タスク処理の時効性と正解率を向上させることができる。
【0033】
上記の実施例では、Ｎ個の第１タスクをＫ個のネットワークモデルに交替で割り当てて演算して、タスクとモデルとの少なくとも１つの候補組み合わせを取得することは、図２と併せてさらに説明することができ、図に示すように、これは以下のステップＳ２０１～Ｓ２０２を含む。
【0034】
Ｓ２０１、Ｎ個の第１タスクの割り当てが完了するたびに、割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得する。
【0035】
本開示の実施例では、異なる第１タスクは、異なるネットワークモデルを介して処理され、必要とされる消費時間は異なってもよい。
【0036】
選択的に、同じ第１タスクは、異なるネットワークモデルを介して処理され、タスクの実行に必要な消費時間は異なってもよい。
【0037】
選択的に、異なる第１タスクは、同じネットワークモデルを介して処理され、タスクの実行に必要な消費時間は異なってもよい。
【0038】
Ｓ２０２、代替的な組み合わせの消費時間がスケジューリング可能な制約パラメータを満たすことに応答して、代替的な組み合わせを候補組み合わせとして決定する。
【0039】
本開示の実施例では、代替的な組み合わせの消費時間がスケジューリング制約パラメータより小さい場合、代替的な組み合わせがスケジューリング可能な範囲内であると考えられ、当該代替的な組み合わせを候補組み合わせとして決定することができる。
【0040】
なお、異なるスケジューリングアルゴリズムを使用すると、スケジューリング制約パラメータは異なってもよい。例えば、システムが最早締め切り優先（Ｅａｒｌｉｅｓｔ Ｄｅａｄｌｉｎｅ Ｆｉｒｓｔ、ＥＤＦ）スケジューリングアルゴリズムを使用する場合、そのシステム利用率制約値は１００％であってもよく、そのスケジューリング可能性を保証することができる。システムが応答時刻（ｒｅｓｐｏｎｓｅ ｔｉｍｅ、ＲＭ）アルゴリズムを使用する場合、そのシステム利用率制約値は７０％であってもよい。
【0041】
Ｎ個の第１タスクの割り当てが完了するたびに、割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得し、代替的な組み合わせの消費時間がスケジューリング可能な制約パラメータを満たすことに応答して、代替的な組み合わせを候補組み合わせとして決定する。これにより、スケジューリング制約パラメータにより、代替的な組み合わせにおけるスケジューリング可能性の悪い組み合わせをフィルタリングすることにより、ターゲット組み合わせを決定する範囲を低減し、効率を向上させ、コストを削減し、スケジューリング可能性を向上させることができる。
【0042】
選択的に、代替的な組み合わせの消費時間がスケジューリング可能な制約パラメータを満たしていないことに応答して、代替的な組み合わせを破棄し、次の代替的な組み合わせを再取得する。これにより、代替的な組み合わせをトラバースし、スケジューリング可能な制約パラメータに適合する候補組み合わせを選択し、候補組み合わせからターゲット組み合わせを決定するための基礎を提供することができる。
【0043】
【0044】
Ｓ３０１、第１タスクの数Ｎとネットワークモデルの数Ｋとに基づいて、合計反復回数を決定する。
【0045】
本開示の実施例では、ＥＤＦスケジューリングアルゴリズムを使用して、第１タスクの数がＮ個であり、ネットワークモデルの数がＫ個である場合、合計反復回数がＫＮ回であるように設計することができる。
【0046】
Ｓ３０２、反復回数が反復回数閾値より大きいことに応答して、前の代替的な組み合わせの組み合わせ演算正解率に基づいて、粒子群最適化アルゴリズム（ＰＳＯ）によって次の代替的な組み合わせを検索する。
【0047】
実現では、合計反復回数が大きすぎると、システムの計算能力を超える可能性があり、この場合、Ｎ個の第１タスクをＫ個のネットワークモデルに交替で割り当てて演算し、コストが高い、そのため、粒子群最適化アルゴリズム（ＰＳＯ）によってＫ個のネットワークモデルから次の使用可能なモデルの組み合わせを検索し、当該モデルの組み合わせでＮ個の第１タスクを処理することができる。
【0048】
具体的に、ＰＳＯは、すべての可能な組み合わせを粒子として、すべての粒子が検索空間を構成し、前の代替的な組み合わせの組み合わせ演算正解率に基づいて、各粒子の適応値を取得し、適応値に基づいてグローバル最適位置（Ｐｂｅｓｔ）とグローバル極値（Ｇｂｅｓｔ）に更新し、粒子の位置と速度を更新した後、Ｇｂｅｓｔが最大反復回数またはグローバル最適位置Ｐｂｅｓｔが最小限界を満たすか否かを判断し、満たされていない場合、１つの粒子を再検索して上記のステップを繰り返す。上記の１つの条件を満たす場合、ＰＳＯは当該粒子をネットワークモデルに送信して演算する。なお、当該実施例で説明した最小限界は、予め設定されたものであり、必要に応じて変更可能である。
【0049】
なお、反復回数閾値は一意ではなく、電子機器の計算能力や消費時間に応じて設定することができ、ここではいずれも限定しない。
【0050】
本開示の実施例では、まず、第１タスクの数Ｎとネットワークモデルの数Ｋとに基づいて、合計反復回数を決定し、その後、反復回数が反復回数閾値より大きいことに応答して、前の代替的な組み合わせの組み合わせ演算正解率に基づいて、粒子群最適化アルゴリズム（ＰＳＯ）によって次の代替的な組み合わせを検索する。これにより、いくつかのデータ量が比較的大きい場合に対して、ＰＳＯアルゴリズムによって代替的な組み合わせをフィルタリングすることができ、演算データ量を減少させ、コストを削減する。
【0051】
上記の実施例では、割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得することは、図４でさらに説明することができ、図４に示すように、当該方法は、以下のステップＳ４０１～Ｓ４０２を含む。
【0052】
Ｓ４０１、代替的な組み合わせにおけるＮ個の第１タスクのうちの各第１タスクが、それぞれ割り当てられているターゲットネットワークモデルで実行される時のタスク最悪実行時間（ＷＣＥＴ）取得する。
【0053】
実現では、各ネットワークモデルの計算時間のジッタを考えると、第１タスクがターゲットネットワークモデルで処理される時間も一意ではなく、タスク最悪実行時間（Ｗｏｒｓｔ Ｃａｓｅ Ｅｘｅｃｕｔｉｏｎ Ｔｉｍｅ、ＷＣＥＴ）は、第１タスクがターゲットモデル上において実行される時の最も長い時間である。
【0054】
本開示の実施例では、ＷＣＥＴ生成アルゴリズムにより、第１タスクのＷＣＥＴを算出することができる。なお、計算時間のジッタがターゲットネットワークモデルに存在するため、ＷＣＥＴの値は一定ではなく、一定の値の間で揺動する。
【0055】
Ｓ４０２、各第１タスクのＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得する。
【0056】
本開示の実施例では、ＥＤＦアルゴリズムに基づいてスケジューリングを行う場合、式（１）で代替的な組み合わせの消費時間を取得することができる、当該式（１）は以下通りであってもよい。
ｔｉ
ｊは、ｉ番目の第１タスクをｊ番目のネットワークモデルで演算するＷＣＥＴであり、Ｔはタスク処理サイクルである。なお、タスク処理サイクル内ですべてのタスクを完成する必要があり、すなわち、Ｋ個のネットワークモデルは、タスク処理サイクルＴ内に、Ｎ個の第１タスクの処理を完成する必要がある。
【数1】
【0057】
本実施例では、まず、代替的な組み合わせにおけるＮ個の第１タスクのうちの各第１タスクが、それぞれ割り当てられているターゲットネットワークモデルで実行される時のタスク最悪実行時間（ＷＣＥＴ）取得し、各第１タスクのＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得する。これにより、タスクのＷＣＥＴによって代替的な組み合わせをフィルタリングすることにより、代替的なタスクの範囲を縮小し、ターゲット組み合わせの精度を向上させることができる。
【0058】
上記の実施例では、各第１タスクのタスク最悪実行時間に基づいて、代替的な組み合わせの消費時間を取得することは、図５でさらに説明することができ、図５に示すように、当該方法は以下のステップＳ５０１～Ｓ５０２を含む。
【0059】
Ｓ５０１、各第１タスクのＷＣＥＴに基づいて、代替的な組み合わせの合計ＷＣＥＴを取得する。
【0060】
選択的に、式（１）に示すように、ＥＤＦアルゴリズムに基づいて代替的な組み合わせの消費時間を取得する時、合計ＷＣＥＴは
として表すことができる。
【数2】
【0061】
Ｎが大きいほど、すなわち、第１タスク数が大きいほど、合計ＷＣＥＴの値が大きくなると分かる。第１タスクが多いほど、それに対応して第１タスクを処理する時間が長くなる。
【0062】
Ｓ５０２、代替的な組み合わせの合計ＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得する。
【0063】
選択的に、式（１）に示すように、代替的な組み合わせの合計ＷＣＥＴを取得し、各第１タスクのＷＣＥＴを合計して、代替的な組み合わせの合計ＷＣＥＴを得る。さらに、合計ＷＣＥＴとタスク処理サイクルとの比を求めて、代替的な組み合わせの消費時間を得る。
【0064】
本開示の実施例では、各第１タスクのＷＣＥＴに基づいて、代替的な組み合わせの合計ＷＣＥＴを取得し、その後に代替的な組み合わせの合計ＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得する。これにより、代替的な組み合わせのサイクル内の消費時間を取得し、さらに当該消費時間に基づいて代替的な組み合わせがスケジューリング可能なパラメータを満たすか否かを判断して、代替的な組み合わせをフィルタリングすることができる。
【0065】
【0066】
Ｓ６０１、各第１タスクに対して、第１タスクに対応するターゲットネットワークモデルの複数の履歴ＷＣＥＴを取得する。
【0067】
選択的に、データベースに接続することにより、第１タスクに対応するターゲットネットワークモデルの複数の履歴ＷＣＥＴを取得することができ、なお、当該データベースには、履歴ＷＣＥＴと第１タスクとのマッピング関係が記憶されることができる。当該データベースは、電子機器の記憶区間に記憶されてもよく、サーバに記憶されてもよい。
【0068】
選択的に、履歴ＷＣＥＴ生成アルゴリズムに第１タスクを入力することによって、複数の履歴ＷＣＥＴを取得することができる。
【0069】
Ｓ６０２、複数の履歴ＷＣＥＴと今回のＷＣＥＴに基づいて、ターゲットネットワークモデルにおける第１タスクの平均ＷＣＥＴを取得する。
【0070】
本開示の実施例では、各ネットワークモデルの計算時間のジッタのため、複数の履歴ＷＣＥＴは異なってもよく、複数の履歴ＷＣＥＴと今回のＷＣＥＴによって平均値を求めて平均ＷＣＥＴを取得することができる。
【0071】
Ｓ６０３、第１タスクの平均ＷＣＥＴに基づいて、代替的な組み合わせの合計ＷＣＥＴを取得する。
【0072】
本開示の実施例では、ＥＤＦアルゴリズムに基づいて合計ＷＣＥＴを算出することができ、当該式は
であってもよい。
【数3】
【0073】
本開示の実施例では、まず各第１タスクに対して、第１タスクに対応するターゲットネットワークモデルの複数の履歴ＷＣＥＴを取得し、その後に複数の履歴ＷＣＥＴと今回のＷＣＥＴに基づいて、ターゲットネットワークモデルにおける第１タスクの平均ＷＣＥＴを取得し、最後に第１タスクの平均ＷＣＥＴに基づいて、代替的な組み合わせの合計ＷＣＥＴを取得する。これにより、ＷＣＥＴ平均値を求めることにより、モデル計算時間のジッタが演算結果に及ぼす影響を低減し、システムの安定性を向上させることができる。
【0074】
【0075】
Ｓ７０１、複数の履歴ＷＣＥＴと今回のＷＣＥＴとの第１の標準偏差を取得する。
【0076】
本開示の実施例では、ＷＣＥＴの第１の標準偏差δは履歴ＷＣＥＴと平均ＷＣＥＴとの差である。
【0077】
Ｓ７０２、第１タスクの平均ＷＣＥＴと第１の標準偏差との第１の合計値を取得する。
【0078】
Ｓ７０３、すべての第１タスクの第１の合計値を合計して、代替的な組み合わせの合計ＷＣＥＴを取得する。
【0079】
本開示の実施例では、各ネットワークモデルの計算時間のジッタを考えると、ＷＣＥＴの平均値
にその第１の標準偏差δの３倍の時間を加算することができ、このようにしてシステムの安定性はより良い。
【数4】
【0080】
選択的に、ＥＤＦアルゴリズムに基づいて合計ＷＣＥＴを算出することができ、当該式は
であってもよい。
【数5】
【0081】
上記の実施例によれば、まず複数の履歴ＷＣＥＴと今回のＷＣＥＴとの第１の標準偏差を取得し、その後に第１タスクの平均ＷＣＥＴと第１の標準偏差との第１の合計値を取得し、すべての第１タスクの第１の合計値を合計して、代替的な組み合わせの合計ＷＣＥＴを取得する。これにより、平均ＷＣＥＴと第１の標準偏差との第１の合計値により、システムの安定性を向上させ、ＷＣＥＴジッタがシステムに及ぼす影響を減少させることができる。
【0082】
上記の実施例では、代替的な組み合わせの合計ＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得することは、図８と併せてさらに説明することができ、図８に示すように、当該方法はＳ８０１～Ｓ８０３を含む。
【0083】
Ｓ８０１、複数の履歴タスク処理サイクルを取得する。
【0084】
本開示の実施例では、各ネットワークモデルの計算時間のジッタにより、複数の履歴タスク処理サイクルＴの値は異なってもよい。
【0085】
Ｓ８０２、複数の履歴タスク処理サイクルと今回のタスク処理サイクルとに基づいて、平均タスク処理サイクルを取得する。
【0086】
本開示の実施例では、各ネットワークモデルの計算時間のジッタにより、複数の履歴タスク処理サイクルと今回のタスク処理サイクルは、平均値を求めることで取得することができる。
【0087】
Ｓ８０３、代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を決定する。
【0088】
ＥＤＦアルゴリズムに基づいて代替的な組み合わせの消費時間を取得し、当該消費時間は式（２）で表すことができる。
【数6】
【0089】
式（２）から分かるように、式（１）に比べて、平均タスク処理サイクル
により、タスク処理サイクルのジッタがシステムに及ぼす影響を低減し、システムをよりバランスよくし、これによってより正確な候補組み合わせを取得ことができる。
【数7】
【0090】
上記の実施例では、代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を決定することは、図９と併せてさらに説明することができ、図９に示すように、当該方法は以下のステップＳ９０１～Ｓ９０３を含む。
【0091】
Ｓ９０１、複数の履歴タスク処理サイクルと今回のタスク処理サイクルとの第２の標準差を取得する。
【0092】
本開示の実施例では、第２の標準偏差μは履歴タスク処理サイクルと今回のタスク処理サイクルとを、それぞれ平均タスク処理サイクルと差を求めて取得することができる。
【0093】
Ｓ９０２、平均タスク処理サイクルと第２の標準偏差との第２の合計値を取得する。
【0094】
本開示の実施例では、各ネットワークモデルの計算時間のジッタにより、平均タスク処理サイクルと３倍の第２の標準偏差を合計することによって、第２の合計値を生成することができる。このようにすることで、システムの安定性を強化することができる。
【0095】
Ｓ９０３、代替的な組み合わせの合計ＷＣＥＴと第２の合計値との比を取得して代替的な組み合わせの消費時間とする。
【0096】
ＥＤＦアルゴリズムに基づいて代替的な組み合わせを取得し、当該消費時間は式（３）で表すことができる。
式（２）に比べて、タスク処理サイクルと３倍の第２の標準偏差を合計することにより、タスク処理サイクルの変動がシステムに及ぼす影響を低減し、システムをより安定させることができると分かる。
【数8】
【0097】
上記の実施例では、少なくとも１つの候補組み合わせから、組み合わせ演算正解率が最も大きいターゲット組み合わせを選択する前に、図１０と併せてさらに説明することができ、図１０に示すように、当該方法はＳ１００１～Ｓ１００２を含む。
【0098】
Ｓ１００１、各候補組み合わせに対して、割り当てられているターゲットネットワークモデルにおける第１タスクのタスク組み合わせ演算正解率を取得する。
【0099】
ｉ番目のタスクをｊ番目のネットワークで計算して得られたタスク組み合わせ演算正解率をＡｊ
ｉで表すことができる。本開示の実施例では、タスク組み合わせ演算正解率は、タスク組み合わせ演算正解率処理アルゴリズムによって計算して得ることができる。
【0100】
なお、当該タスクのタスク組み合わせ演算正解率値が大きいほど、モデルが当該タスクを処理する結果の正解率が大きい。
【0101】
Ｓ１００２、すべての第１タスクのタスク組み合わせ演算正解率に基づいて、候補組み合わせの組み合わせ演算正解率を取得する。
【0102】
選択的に、式（４）で候補組み合わせの組み合わせ演算正解率を取得する。
【数9】
【0103】
本開示の実施例では、まず各候補組み合わせに対して、割り当てられているターゲットネットワークモデルにおける第１タスクのタスク組み合わせ演算正解率を取得し、その後にすべての第１タスクのタスク組み合わせ演算正解率に基づいて、候補組み合わせの組み合わせ演算正解率を取得する。これにより、第１タスクが各ネットワークモデルに割り当てられた正解率を取得することにより、第１タスクの最適なネットワークモデルを見つけ、これによって候補組み合わせからターゲット組み合わせを決定することができる。
【0104】
上記の実施例では、すべてのタスクのタスク組み合わせ演算正解率に基づいて、候補組み合わせの組み合わせ演算正解率を取得することは、図１１と併せてさらに説明することができ、図１１に示すように、当該方法は以下のステップＳ１１０１～Ｓ１１０２を含む。
【0105】
Ｓ１１０１、各第１タスクの重みを取得する。
【0106】
実現では、各第１のタスクの重みｗがそれぞれ異なり、システムの安定性と正確性を向上させるために、第１タスクの重みをシステムに加える必要がある。
【0107】
選択的に、各第１タスクの重みｗは、必要に応じて呼び出して使用するために、予め設定され、電子機器の記憶空間に予め記憶されたものであってもよい。
【0108】
選択的に、第１タスクの重みデータベースに接続することにより、データベースにおける第１タスクと重みとのマッピング関係によって第１タスクの重みを取得することができる。なお、当該第１タスクの重みデータベースは、電子機器の記憶区間に記憶されてもよく、サーバに存在してもよい。
【0109】
Ｓ１１０２、第１タスクの重みに基づいて、第１タスクのタスク組み合わせ演算正解率を重み付けして、候補組み合わせの組み合わせ演算正解率を取得する。
【0110】
選択的に、式（５）で候補組み合わせの組み合わせ演算正解率を取得することができる。
【数10】
【0111】
式（５）は、式（４）に比べて、第１タスクの重みｗが加わり、第１タスクの重みが大きいほど、当該タスクの正解率の割合が大きくなると分かる。これにより、データの重要性を高め、計算結果がより正確になるようにすることができる。
【0112】
上記の実施例では、Ｋ個のネットワークモデルとターゲット組み合わせのターゲットマッピング関係を予測マシンにデプロイした後、図１２と併せて後続のステップをさらに示すことができ、図１２に示すように、当該方法は以下のステップＳ１２０１～Ｓ１２０３を含む。
【0113】
Ｓ１２０１、ターゲットタスク処理サイクル内で１つの第２タスクが受信されたことに応答して、ターゲットタスクサイクル内の処理対象の第２タスクを並べ替える。
【0114】
本開示の実施例では、ターゲットタスク処理サイクル内で１つの第２タスクが受信されたことに応答して、まず当該第２タスクを先に分類し、あるカテゴリのタスクに分けることができる。
【0115】
なお、当該カテゴリのタスクは、ターゲットマッピング関係に当該カテゴリのマッピング関係があることを確保するために、ある第１タスクのカテゴリと同じカテゴリである必要がある。
【0116】
Ｓ１２０２、処理対象の第２タスクに対してターゲットマッピング関係のクエリを順に行って、現在クエリされた処理対象の第２タスクに対応するターゲットネットワークモデルを取得する。
【0117】
本開示の実施例では、第２タスクのカテゴリにより、ターゲットマッピング関係に基づいて、当該カテゴリに対応するターゲットネットワークモデルをターゲット組み合わせから取得することができる。
【0118】
Ｓ１２０３、処理対象のタスクを予測マシンにおけるターゲットネットワークモデルに下り送信して処理する。
【0119】
本開示の実施例では、まずターゲットタスク処理サイクル内で１つの第２タスクが受信されたことに応答して、ターゲットタスクサイクル内の処理対象の第２タスクを並べ替え、その後に処理対象の第２タスクに対してターゲットマッピング関係のクエリを順に行って、現在クエリされた処理対象の第２タスクに対応するターゲットネットワークモデルを取得し、最後に処理対象のタスクを予測マシンにおけるターゲットネットワークモデルに下り送信して処理する。これにより、タスクカテゴリを決定し、ターゲットマッピング関係に基づいて準備されたターゲットネットワークモデルを取得することができ、この方法は正解率が高く、スケジューリング可能性が強い。
【0120】
本開示の実施例では、図１３はマルチタスクのデプロイ方法の全体的なフローチャートであり、図１３に示すように、Ｎ個のタスクを取得して異なるネットワークモデルの組み合わせに割り当てて計算し、組み合わせ演算正解率と組み合わせの消費時間を統計し、消費時間がスケジューリング可能性を満たすか否かを判断し、スケジューリング可能性を満たす場合、現在のタスク－ネットワークモデルの組み合わせを保持し、次のタスク－ネットワークモデルの組み合せを検索し続け、スケジューリング可能性を満たさない場合、当該組み合わせを破棄して検索し続け、ｋｎが検索をトラバースできるか否かを判断し、検索をトラバースできる場合、反復し続けて合計でｋｎ回検索し、検査をトラバースできない場合、ＰＳＯなどの検索アルゴリズムを用いて、ネットワークモデル組み合わせから使用可能なネットワークモデル組み合わせを取得することができ、検索をトラバースするまで、上記のステップを繰り返し、最後に、上記の保持された組み合わせから、組み合わせ演算正解率が最も大きい組み合わせを選択して予測マシンにデプロイする。
【0121】
上記のいくつかの実施例によって提供されるマルチタスクのデプロイ方法に対応して、本開示の一実施例はマルチタスクのデプロイ装置を提供し、本開示の実施例によって提供されるマルチタスクのデプロイ装置は、上記のいくつかの実施例によって提供されるマルチタスクのデプロイ方法に対応するため、上記マルチタスクのデプロイ方法の実施形態は、本開示の実施例によって提供されマルチタスクのデプロイ装置にも適用されるため、以下の実施例では詳細には説明しない。
【0122】
図１４は本開示の実施例によって提供されるマルチタスクのデプロイ装置の概略構成図である。
【0123】
図１４に示すように、当該マルチタスクのデプロイ装置１４００は、取得モジュール１４０１、演算モジュール１４０２、選択モジュール１４０３、デプロイモジュール１４０４を備えることができる。
【0124】
取得モジュール１４０１は、Ｎ個の第１タスクとＫ個のネットワークモデルを取得し、ＮとＫが１以上の正の整数である。
【0125】
演算モジュール１４０２は、Ｎ個の第１タスクをＫ個のネットワークモデルに交替で割り当てて演算して、タスクとネットワークモデルとの少なくとも１つの候補組み合わせを取得し、各候補組み合わせに、Ｎ個の第１タスクとＫ個のネットワークモデルとのマッピング関係が含まれる。
【0126】
選択モジュール１４０３は、少なくとも１つの候補組み合わせから、組み合わせ演算正解率が最も大きいターゲット組み合わせを選択する。
【0127】
デプロイモジュール１４０４は、Ｋ個のネットワークモデルとターゲット組み合わせのターゲットマッピング関係を予測マシンにデプロイする。
【0128】
本開示の一実施例では、演算モジュール１４０２は、さらに、Ｎ個の第１タスクの割り当てが完了するたびに、割り当てによって形成されたタスクとネットワークモデルとの代替的な組み合わせのタスク実行に必要な消費時間を取得し、代替的な組み合わせの消費時間がスケジューリング可能な制約パラメータを満たすことに応答して、代替的な組み合わせを候補組み合わせとして決定する。
【0129】
本開示の一実施例では、演算モジュール１４０２は、さらに、代替的な組み合わせの消費時間がスケジューリング可能な制約パラメータを満たさないことに応答して、代替的な組み合わせを破棄し、次の代替的な組み合わせを再取得する。
【0130】
本開示の一実施例では、演算モジュール１４０２は、さらに、第１タスクの数Ｎとネットワークモデルの数Ｍに基づいて、合計反復回数を決定し、反復回数が反復回数閾値より大きいことに応答して、前の代替的な組み合わせの組み合わせ演算正解率に基づいて、粒子群最適化アルゴリズム（ＰＳＯ）によって次の代替的な組み合わせを検索する。
【0131】
本開示の一実施例では、演算モジュール１４０２は、さらに、代替的な組み合わせにおけるＮ個の第１タスクのうちの各第１タスクが、それぞれ割り当てられているターゲットネットワークモデルで実行される時のタスク最悪実行時間（ＷＣＥＴ）取得し、各第１タスクのＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得する。
【0132】
本開示の一実施例では、演算モジュール１４０２は、さらに、各第１タスクのＷＣＥＴに基づいて、代替的な組み合わせの合計ＷＣＥＴを取得し、代替的な組み合わせの合計ＷＣＥＴとタスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を取得する。
【0133】
本開示の一実施例では、演算モジュール１４０２は、さらに、各第１タスクに対して、第１タスクに対応するターゲットネットワークモデルの複数の履歴ＷＣＥＴを取得し、複数の履歴ＷＣＥＴと今回のＷＣＥＴに基づいて、ターゲットネットワークモデルにおける第１タスクの平均ＷＣＥＴを取得し、第１タスクの平均ＷＣＥＴに基づいて、代替的な組み合わせの合計ＷＣＥＴを取得する。
【0134】
本開示の一実施例では、演算モジュール１４０２は、さらに複数の履歴ＷＣＥＴと今回のＷＣＥＴとの第１の標準偏差を取得し、第１タスクの平均ＷＣＥＴと第１の標準偏差との第１の合計値を取得し、すべての第１タスクの第１の合計値を合計して、代替的な組み合わせの合計ＷＣＥＴを取得する。
【0135】
本開示の一実施例では、演算モジュール１４０２は、さらに、複数の履歴タスク処理サイクルを取得し、複数の履歴タスク処理サイクルと今回のタスク処理サイクルとに基づいて、平均タスク処理サイクルを取得し、代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を決定する。
【0136】
本開示の一実施例では、演算モジュール１４０２は、さらに、複数の履歴タスク処理サイクルと今回のタスク処理サイクルとの第２の標準差を取得し、平均タスク処理サイクルと第２の標準偏差との第２の合計値を取得し、代替的な組み合わせの合計ＷＣＥＴと第２の合計値との比を取得して代替的な組み合わせの消費時間とする。
【0137】
本開示の一実施例では、演算モジュール１４０２は、さらに、複数の履歴ＷＣＥＴと今回のＷＣＥＴとの第１の標準偏差を取得し、第１タスクの平均ＷＣＥＴと第１の標準偏差との第１の合計値を取得し、すべての第１タスクの第１の合計値を合計して、代替的な組み合わせの合計ＷＣＥＴを取得する。
【0138】
本開示の一実施例では、演算モジュール１４０２は、さらに、複数の履歴タスク処理サイクルを取得し、複数の履歴タスク処理サイクルと今回のタスク処理サイクルとに基づいて、平均タスク処理サイクルを取得し、代替的な組み合わせの合計ＷＣＥＴと平均タスク処理サイクルとに基づいて、代替的な組み合わせの消費時間を決定する。
【0139】
本開示の一実施例では、演算モジュール１４０２は、さらに、複数の履歴タスク処理サイクルと今回のタスク処理サイクルとの第２の標準差を取得し、平均タスク処理サイクルと第２の標準偏差との第２の合計値を取得し、代替的な組み合わせの合計ＷＣＥＴと第２の合計値との比を取得して代替的な組み合わせの消費時間とする。
【0140】
本開示の一実施例では、選択モジュール１４０３は、さらに、少なくとも１つの候補組み合わせから、組み合わせ演算正解率が最も大きいターゲット組み合わせを選択する前に、各候補組み合わせに対して、割り当てられているターゲットネットワークモデルにおける第１タスクのタスク組み合わせ演算正解率を取得し、すべての第１タスクのタスク組み合わせ演算正解率に基づいて、候補組み合わせの組み合わせ演算正解率を取得する。
【0141】
本開示の一実施例では、選択モジュール１４０３は、さらに、各第１タスクの重みを取得し、第１タスクの重みに基づいて、第１タスクのタスク組み合わせ演算正解率を重み付けして、候補組み合わせの組み合わせ演算正解率を取得する。
【0142】
本開示の一実施例では、デプロイモジュール１４０４は、さらに、Ｋ個のネットワークモデルとターゲット組み合わせのターゲットマッピング関係を予測マシンにデプロイした後、ターゲットタスク処理サイクル内で１つの第２タスクが受信されたことに応答して、ターゲットタスクサイクル内の処理対象の第２タスクを並べ替え、処理対象の第２タスクに対してターゲットマッピング関係のクエリを順に行って、現在クエリされた処理対象の第２タスクに対応するターゲットネットワークモデルを取得し、処理対象のタスクを予測マシンにおけるターゲットネットワークモデルに下り送信して処理する。
【0143】
本開示の実施例によれば、本開示は、電子機器、及び読み取り可能な記憶媒体をさらに提供する。
本開示の実施例によれば、本開示は、コンピュータプログラムをさらに提供し、コンピュータプログラムはプロセッサによって実行される場合、本開示によって提供されるマルチタスクのデプロイ方法を実現する。
本開示の実施例によれば、本開示は、コンピュータプログラムをさらに提供し、コンピュータプログラムはプロセッサによって実行される場合、本開示によって提供されるマルチタスクのデプロイ方法を実現する。
【0144】
図１５は、本開示の実施例を実行するための例示的な電子機器１５００の概略ブロック図である。電子機器は、ラップトップコンピュータ、デスクトップコンピュータ、ワークステーション、パーソナルデジタルアシスタント、サーバ、ブレードサーバ、メインフレームコンピュータ、および他の適切なコンピュータなどの様々な形態のデジタルコンピュータを表すことを目的とする。電子機器は、パーソナルデジタル処理、携帯電話、スマートフォン、ウェアラブルデバイス、および他の同様のコンピューティングデバイスなどの様々な形態のモバイルデバイスを表すこともできる。本明細書で示される部品、それらの接続と関係、およびそれらの機能は、単なる例であり、本明細書の説明および／または求められる本開示の実現を制限することを意図したものではない。
【0145】
図１５に示すように、電子機器１５００は、読み取り専用メモリ（ＲＯＭ）１５０２に記憶されているコンピュータプログラム／命令または記憶ユニット１５０６からランダムアクセスメモリ（ＲＡＭ）１５０３にロードされたコンピュータプログラム／命令に従って、様々な適切な動作および処理を実行する計算ユニット１５０１を備える。ＲＡＭ １５０３には、電子機器１５００の動作に必要な各種のプログラムやデータも記憶されてもよい。計算ユニット１５０１、ＲＯＭ １５０２、およびＲＡＭ １５０３は、バス１５０４を介して互いに接続されておる。パス１５０４には、入力／出力（Ｉ／Ｏ）インターフェース１５０５も接続されている。
【0146】
電子機器１５００の複数のコンポーネントはＩ／Ｏインターフェース１５０５に接続され、キーボード、マウスなどの入力ユニット１５０６、各タイプのディスプレイ、スピーカなどの出力ユニット１５０７、磁気ディスク、光ディスクなどの記憶ユニット１５０８、およびネットワークカード、モデム、無線通信トランシーバなどの通信ユニット１５０９を備える。通信ユニット１５０９は、電子機器１５００が、インターネットなどのコンピュータネットワークおよび／または各種の電信ネットワークを介して他のデバイスと情報／データを交換することを可能にする。
【0147】
計算ユニット１５０１は、処理および計算能力を有する様々な汎用および／または専用の処理コンポーネントであってもよい。計算ユニット１５０１のいくつかの例は、中央処理ユニット（ＣＰＵ）、グラフィック処理ユニット（ＧＰＵ）、各種の専用の人工知能（ＡＩ）計算チップ、各種のマシン運転学習モデルアルゴリズムの計算ユニット、デジタル信号プロセッサ（ＤＳＰ）、およびいずれかの適切なプロセッサ、コントローラ、マイクロコントローラなどを含むが、これらに限定されない。計算ユニット１５０１は、前文に記載の各方法及び処理、例えば、マルチタスクのデプロイ方法を実行する。例えば、いくつかの実施例では、マルチタスクのデプロイ方法は、記憶ユニット１５０６などの機械読み取り可能な媒体に有形に含まれるコンピュータソフトウェアプログラムとして実現することができ、コンピュータプログラム／命令の一部または全部がＲＯＭ １５０２および／または通信ユニット１５０９を介して電子機器１５００にロードおよび／またはインストールされてもよい。コンピュータプログラム／命令がＲＡＭ １５０３にロードされ、計算ユニット１５０１によって実行される場合、前文に記載のマルチタスクのデプロイ方法の１つのまたは複数のステップが実行されてもよい。代替的に、他の実施例では、計算ユニット１５０１はマルチタスクのデプロイ方法を実行するように、他の任意の適切な方式（例えば、ファームウェアを介して）によって構成されてもよい。
【0148】
これらの様々な実施形態は、１つ又は複数のコンピュータプログラム／命令で実施されることを含むことができ、当該１つ又は複数のコンピュータプログラム／命令は、少なくとも１つのプログラマブルプロセッサを備えるプログラム可能なシステムで実行および／または解釈されることができ、当該プログラマブルプロセッサは、特定用途向け又は汎用プログラマブルプロセッサであってもよく、ストレージシステム、少なくとも１つの入力装置、および少なくとも１つの出力装置からデータおよび命令を受信し、データおよび命令を当該ストレージシステム、当該少なくとも１つの入力装置、および当該少なくとも１つの出力装置に伝送することができる。
【0149】
本開示の方法を実行するためのプログラムコードは、１つ又は複数のプログラミング言語の任意の組み合わせで書くことができる。これらのプログラムコードは、プロセッサ又はコントローラによって実行された際に、フローチャートおよび／またはブロック図に規定された機能／操作が実施されるように、汎用コンピュータ、専用コンピュータ、又は他のプログラマブルデータ処理装置のプロセッサ又はコントローラに提供されてもよい。プログラムコードは、完全に機械上で実行されるか、部分的に機械上で実行されるか、スタンドアロンソフトウェアパッケージとして、部分的に機械上で実行され、部分的にリモート機械上で実行され又は完全にリモート機械又はサーバ上で実行されてもよい。
【0150】
本開示のコンテクストでは、機械読み取り可能な媒体は、命令実行システム、装置、またはデバイスによって使用されるために、又は命令実行システム、装置、またはデバイスと組み合わせて使用するためのプログラムを含むか、又は記憶することができる有形の媒体であってもよい。機械読み取り可能な媒体は、機械読み取り可能な信号媒体または機械読み取り可能な記憶媒体であってもよい。機械読み取り可能な媒体は、電子的、磁気的、光学的、電磁気的、赤外線的、又は半導体システム、装置又はデバイス、または上記コンテンツの任意の適切な組み合わせを含むことができるが、これらに限定されない。機械読み取り可能な記憶媒体のより具体的な例は、１つ又は複数のラインに基づく電気的接続、ポータブルコンピュータディスク、ハードディスク、ランダムアクセスメモリ（ＲＡＭ）、リードオンリーメモリ（ＲＯＭ）、消去可能プログラマブルリードオンリーメモリ（ＥＰＲＯＭ又はフラッシュメモリ）、光ファイバ、ポータブルコンパクトディスクリードオンリーメモリ（ＣＤ－ＲＯＭ）、光学記憶装置、磁気記憶装置、または上記コンテンツの任意の適切な組み合わせを含む。
【0151】
ユーザとのインタラクションを提供するために、ここで説明されるシステム及び技術をコンピュータ上で実施することができ、当該コンピュータは、ユーザに情報を表示するためのディスプレイ装置（例えば、ＣＲＴ（陰極線管）又はＬＣＤ（液晶ディスプレイ）モニタ）と、キーボード及びポインティングデバイス（例えば、マウス又はトラックボール）とを有し、ユーザは、当該キーボード及び当該ポインティングデバイスによって入力をコンピュータに提供することができる。他の種類の装置も、ユーザとのインタラクションを提供することができ、例えば、ユーザに提供されるフィードバックは、任意の形式のセンシングフィードバック（例えば、ビジョンフィードバック、聴覚フィードバック、又は触覚フィードバック）であってもよく、任意の形式（音響入力と、音声入力、または、触覚入力とを含む）でユーザからの入力を受信することができる。
【0152】
ここで説明されるシステムおよび技術は、バックエンドコンポーネントを備えるコンピューティングシステム（例えば、データサーバとする）、又はミドルウェアコンポーネントを備えるコンピューティングシステム（例えば、アプリケーションサーバ）、又はフロントエンドコンポーネントを備えるコンピューティングシステム（例えば、グラフィカルユーザインターフェース又はウェブブラウザを有するユーザコンピュータ、ユーザは、当該グラフィカルユーザインターフェース又は当該ウェブブラウザによってここで説明されるシステムおよび技術の実施形態とインタラクションできる）、又はこのようなバックエンドコンポーネントと、ミドルウェアコンポーネントと、フロントエンドコンポーネントの任意の組み合わせを備えるコンピューティングシステムで実行することができる。任意の形態又は媒体のデジタルデータ通信（例えば、通信ネットワーク）によってシステムのコンポーネントを相互に接続することができる。通信ネットワークの例は、ローカルエリアネットワーク（ＬＡＮ）と、ワイドエリアネットワーク（ＷＡＮ）と、インターネットと、ブロックチェーンネットワークを含む。
【0153】
コンピュータシステムは、クライアントとサーバを備えることができる。クライアントとサーバは、一般に、互いに離れており、通常に通信ネットワークを介してインタラクションする。対応するコンピュータ上で実行され、互いにクライアント－サーバ関係を有するコンピュータプログラム／命令によってクライアントとサーバとの関係が生成される。サーバはクラウドサーバであってもよく、分散システムのサーバであってもよく、ブロックチェーンを組み込んだサーバであってもよい。
【0154】
なお、上記に示される様々な形式のフローを使用して、ステップを並べ替え、追加、又は削除することができると理解されたい。例えば、本開示に記載の各ステップは、並列に実行されてもよいし、順次実行されてもよいし、異なる順序で実行されてもよいが、本開示で開示されている技術案の所望の結果を実現することができれば、本明細書では限定されない。
【0155】
上記具体的な実施形態は、本開示の保護範囲を制限するものではない。当業者は、設計要件と他の要因に応じて、様々な修正、組み合わせ、サブコンビネーション、及び代替を行うことができることを理解されたい。任意の本開示の精神と原則内で行われる修正、同等の置換、及び改善などは、いずれも本開示の保護範囲内に含まれるべきである。
【図1】
【図2】
【図3】
【図4】
【図5】
【図6】
【図7】
【図8】
【図9】
【図10】
【図11】
【図12】
【図13】
【図14】
【図15】
