(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-01-14
(45)【発行日】2025-01-22
(54)【発明の名称】管理装置、プログラム及び処理システム
(51)【国際特許分類】
H04L 45/28 20220101AFI20250115BHJP
G06F 9/50 20060101ALI20250115BHJP
G06F 9/455 20180101ALI20250115BHJP
G16Y 30/00 20200101ALI20250115BHJP
【FI】
H04L45/28
G06F9/50 120A
G06F9/455 150
G16Y30/00
(21)【出願番号】P 2021028949
(22)【出願日】2021-02-25
【審査請求日】2023-11-09
(73)【特許権者】
【識別番号】000000295
【氏名又は名称】沖電気工業株式会社
(74)【代理人】
【識別番号】100174104
【氏名又は名称】奥田 康一
(72)【発明者】
【氏名】鹿内 政孝
(72)【発明者】
【氏名】島田 貴光
【審査官】吉田 歩
(56)【参考文献】
【文献】特表2013-516665(JP,A)
【文献】国際公開第2019/150565(WO,A1)
【文献】国際公開第2020/250319(WO,A1)
【文献】米国特許出願公開第2023/0021036(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04L 45/28
G06F 9/50
G06F 9/455
G16Y 30/00
(57)【特許請求の範囲】
【請求項1】
センサ装置から供給されるデータを基にAI(Artificial Intelligence)処理を実行する複数のAIエッジ装置
を管理する管理装置
であって、
前記AIエッジ装置それぞれの状態を表す情報を取得する取得
部と、
前記AIエッジ装置の異常を検出する検出
部と、
前記異常が検出された前記AIエッジ装置である切替元AIエッジ装置において実行されていた前記AI処理である対象AI処理を実行させるべき他の前記AIエッジ装置である切替先AIエッジ装置を選定する選定
部と、
前記切替先AIエッジ装置
に対し、当該切替先AIエッジ装置において前記対象AI処理
を実行するように指示を送信する送信部と
を
具え、
前記検出部は、前記切替元AIエッジ装置から、前記対象AI処理を他の前記AIエッジ装置に切り替えるよう要求する切替要求を受信することにより、当該切替元AIエッジ装置の前記異常を検出する
ことを特徴とする
管理装置。
【請求項2】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置
を管理する管理装置
であって、
前記AIエッジ装置それぞれの状態を表す情報を取得する取得部と、
前記AIエッジ装置で実行されるアプリケーションを仮想化したコンテナを管理する管理部と、
前記AIエッジ装置の異常を検出する検出部と、
前記異常が検出された前記AIエッジ装置である切替元AIエッジ装置において実行されていた前記AI処理である対象AI処理を実行させるべき他の前記AIエッジ装置である切替先AIエッジ装置を選定する選定部と、
前記切替先AIエッジ装置
に対し、当該切替先AIエッジ装置において前記対象AI処理
を実行するように指示を送信する送信部と
を具え
、
前記送信部は、前記切替先AIエッジ装置が前記対象AI処理を実行するための前記コンテナを有していない場合、前記切替先AIエッジ装置において、前記アプリケーションを仮想化した前記コンテナがデプロイされて実行されるように、前記切替先AIエッジ装置へ当該コンテナを送信する
ことを特徴とする
管理装置。
【請求項3】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置
を管理する管理装置
であって、
前記AIエッジ装置それぞれの状態を表す情報を取得する取得部と、
前記AIエッジ装置の異常を検出する検出部と、
前記異常が検出された前記AIエッジ装置である切替元AIエッジ装置において実行されていた前記AI処理である対象AI処理を実行させるべき他の前記AIエッジ装置である切替先AIエッジ装置を選定する選定部と、
前記切替先AIエッジ装置
に対し、当該切替先AIエッジ装置において前記対象AI処理
を実行するように指示を送信する送信部と
を具え
、
前記選定部は、2台以上を1組として予め対応付けられた前記AIエッジ装置であり、前記切替元AIエッジ装置と予め対応付けられた残りの前記AIエッジ装置のうち1台を、前記切替先AIエッジ装置として選定する
ことを特徴とする
管理装置。
【請求項4】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置
を管理する管理装置
であって、
前記AIエッジ装置それぞれの状態を表す情報を取得する取得部と、
前記AIエッジ装置の異常を検出する検出部と、
前記異常が検出された前記AIエッジ装置である切替元AIエッジ装置において実行されていた前記AI処理である対象AI処理を実行させるべき他の前記AIエッジ装置である切替先AIエッジ装置を選定する選定部と、
前記切替先AIエッジ装置
に対し、当該切替先AIエッジ装置において前記対象AI処理
を実行するように指示を送信する送信部と
を具え
、
前記選定部は、前記対象AI処理に必要な前記データを取得可能な他の前記AIエッジ装置を、前記切替先AIエッジ装置として選定する
ことを特徴とする
管理装置。
【請求項5】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置
を管理する管理装置
であって、
前記AIエッジ装置それぞれの状態を表す情報を取得する取得部と、
前記AIエッジ装置において前記AI処理の実行に必要なストレージの容量を当該AI処理と対応付けて記憶する記憶部と、
前記AIエッジ装置の異常を検出する検出部と、
前記異常が検出された前記AIエッジ装置である切替元AIエッジ装置において実行されていた前記AI処理である対象AI処理を実行させるべき他の前記AIエッジ装置である切替先AIエッジ装置を選定する選定部と、
前記切替先AIエッジ装置
に対し、当該切替先AIエッジ装置において前記対象AI処理
を実行するように指示を送信する送信部と
を具え
、
前記取得部は、前記AIエッジ装置それぞれにおいて実行されている前記AI処理の情報に加えて、当該AIエッジ装置それぞれにおける前記ストレージの空容量を表す情報を取得し、
前記選定部は、前記ストレージの前記空容量が前記対象AI処理の実行に必要な前記ストレージの前記容量よりも大きい他の前記AIエッジ装置を、前記切替先AIエッジ装置として選定する
ことを特徴とする
管理装置。
【請求項6】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置
を管理する管理装置
であって、
前記AIエッジ装置それぞれの状態を表す情報を取得する取得部と、
前記AIエッジ装置の異常を検出する検出部と、
前記異常が検出された前記AIエッジ装置である切替元AIエッジ装置において実行されていた前記AI処理である対象AI処理を実行させるべき他の前記AIエッジ装置である切替先AIエッジ装置を選定する選定部と、
前記切替先AIエッジ装置
に対し、当該切替先AIエッジ装置において前記対象AI処理
を実行するように指示を送信する送信部と
を具え
、
前記取得部は、前記AIエッジ装置それぞれにおけるリソースの使用状態を表す情報を取得し、
前記検出部は、前記AIエッジ装置の前記異常に加えて、前記AIエッジ装置におけるリソース不足を検出し、
前記選定部は、前記リソース不足が検出された場合、前記対象AI処理を、当該リソース不足を検出した前記AIエッジ装置である割当元AIエッジ装置及び当該対象AI処理を割り当てるべき1台以上の他の前記AIエッジ装置である割当先AIエッジ装置により分散して実行すべきであるか、或いは前記割当先AIエッジ装置のみにより一括して実行すべきであるかを判定して、当該判定の結果に基づいた台数の前記割当先AIエッジ装置を選定し、
前記送信部は、前記対象AI処理を分散して実行すべきと判定された場合、当該対象AI処理を前記割当元AIエッジ装置及び前記割当先AIエッジ装置により分散して実行し、前記対象AI処理を一括して実行すべきと判定された場合、当該対象AI処理を1台の前記割当先AIエッジ装置により一括して実行するよう前記指示を送信する
ことを特徴とする
管理装置。
【請求項7】
情報処理装置を、請求項1乃至請求項6の何れか一項に記載の管理装置として動作させるためのプログラムであって、前記情報処理装置を前記管理装置が備える各部として機能させるためのプログラム。
【請求項8】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置と、前記AIエッジ装置を管理する管理装置とが接続された処理システムであって、
前記管理装置は、請求項1乃至請求項6の何れか一項に記載の管理装置である
ことを特徴とする処理システム。
【請求項9】
センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置と、前記AIエッジ装置を管理する管理装置とが接続された処理システムであって、
前記管理装置は、請求項7に記載のプログラムが動作し、前記管理装置が備える各部として機能するための情報処理装置である
ことを特徴とする処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は管理装置、プログラム及び処理システムに関し、例えばAI(Artificial Intelligence)処理を行う複数のAIエッジ装置を管理装置により管理する処理システムに適用して好適なものである。
【背景技術】
【0002】
近年、IoT(Internet of Things)と呼ばれる技術により、種々のセンサや家庭電化製品等をネットワークに接続して多種多様なデータを収集し、これらのデータを基に新たな知見を獲得し、さらなる技術の発展につなげることが考えられている。例えば、このようにして収集されたデータは、例えばAI処理を利用したディープラーニング(深層学習)を行うことにより、高度な分析や解析等を行うことができる。
【0003】
しかしながら、このように収集されるデータは、極めて膨大な数となり、また例えば高解像度の映像や音声等が含まれる場合等には、それぞれのデータも極めて大容量となる。このため、仮にこれらのデータをそのままネットワーク上のクラウド等に収集した場合、通信の際に膨大なトラフィックを発生させ、また保存する際に膨大な記憶領域を必要としてしまう。また、クラウド側に膨大なAI処理を行うための計算機資源を用意する必要が生じてしまう。
【0004】
そこで、エッジコンピューティングと呼ばれる技術を用い、センサ等とネットワークとの間にAIエッジ装置を配置した処理システムを構築することが考えられる。この処理システムでは、AIエッジ装置がセンサから取得したデータに対してAI処理を行うことにより分析データを生成し、この分析データをネットワークによりクラウド側へ送信する。これにより、この処理システムでは、全てのデータをクラウド側へ直接送信する場合と比較して、ネットワーク上の通信容量やクラウド側の演算処理量、及び記憶容量等を大幅に削減することができる(例えば、非特許文献1参照)。
【先行技術文献】
【非特許文献】
【0005】
【文献】沖電気工業株式会社、”AIエッジコンピューティングで切り開く未来”、[online]、令和1年10月3日、沖電気工業株式会社、[令和3年2月9日検索]、インターネット<URL:https://www.oki.com/jp/AIedge/img/AIedgeComputing_WhitePaper.pdf>
【発明の概要】
【発明が解決しようとする課題】
【0006】
ところで、かかる構成の処理システムでは、複数のAIエッジ装置がネットワークに接続された場合に、専用の管理サーバを該ネットワークに接続し、該管理サーバにより各AIエッジ装置を管理することが考えられる。この場合、管理サーバでは、例えば各AIエッジ装置の動作状態を監視し、該AIエッジ装置において異常が発生したことを検出した場合、該AIエッジ装置における各種プログラムの再実行や、該AIエッジ装置の再起動等を指示することができる。
【0007】
しかしながらこの処理システムでは、再起動等によってAIエッジ装置の異常が解消しなかった場合、保守作業者等により該AIエッジ装置の修理や交換等の保守作業が必要となる。このような場合、処理システムでは、保守作業者の手配や保守作業に時間を要するため、この保守作業が完了するまでの間、クラウド側に分析データを送信できない、或いはセンサからのデータを取りこぼす等の問題が生じる可能性があった。
【0008】
本発明は以上の点を考慮してなされたもので、データの取得や分析処理を安定的に行い得る管理装置、プログラム及び処理システムを提案しようとするものである。
【課題を解決するための手段】
【0009】
かかる課題を解決するため本発明の管理装置においては、センサ装置から供給されるデータを基にAI(Artificial Intelligence)処理を実行する複数のAIエッジ装置を管理する管理装置であって、AIエッジ装置それぞれの状態を表す情報を取得する取得部と、AIエッジ装置の異常を検出する検出部と、異常が検出されたAIエッジ装置である切替元AIエッジ装置において実行されていたAI処理である対象AI処理を実行させるべき他のAIエッジ装置である切替先AIエッジ装置を選定する選定部と、切替先AIエッジ装置に対し、当該切替先AIエッジ装置において対象AI処理を実行するように指示を送信する送信部とを設け、検出部は、切替元AIエッジ装置から、対象AI処理を他のAIエッジ装置に切り替えるよう要求する切替要求を受信することにより、当該切替元AIエッジ装置の異常を検出するようにした。
また本発明の管理装置においては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置を管理する管理装置であって、AIエッジ装置それぞれの状態を表す情報を取得する取得部と、AIエッジ装置で実行されるアプリケーションを仮想化したコンテナを管理する管理部と、AIエッジ装置の異常を検出する検出部と、異常が検出されたAIエッジ装置である切替元AIエッジ装置において実行されていたAI処理である対象AI処理を実行させるべき他のAIエッジ装置である切替先AIエッジ装置を選定する選定部と、切替先AIエッジ装置に対し、当該切替先AIエッジ装置において対象AI処理を実行するように指示を送信する送信部とを設け、送信部は、切替先AIエッジ装置が対象AI処理を実行するためのコンテナを有していない場合、切替先AIエッジ装置において、アプリケーションを仮想化したコンテナがデプロイされて実行されるように、切替先AIエッジ装置へ当該コンテナを送信するようにした。
さらに本発明の管理装置においては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置を管理する管理装置であって、AIエッジ装置それぞれの状態を表す情報を取得する取得部と、AIエッジ装置の異常を検出する検出部と、異常が検出されたAIエッジ装置である切替元AIエッジ装置において実行されていたAI処理である対象AI処理を実行させるべき他のAIエッジ装置である切替先AIエッジ装置を選定する選定部と、切替先AIエッジ装置に対し、当該切替先AIエッジ装置において対象AI処理を実行するように指示を送信する送信部とを設け、選定部は、2台以上を1組として予め対応付けられたAIエッジ装置であり、切替元AIエッジ装置と予め対応付けられた残りのAIエッジ装置のうち1台を、切替先AIエッジ装置として選定するようにした。
さらに本発明の管理装置においては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置を管理する管理装置であって、AIエッジ装置それぞれの状態を表す情報を取得する取得部と、AIエッジ装置の異常を検出する検出部と、異常が検出されたAIエッジ装置である切替元AIエッジ装置において実行されていたAI処理である対象AI処理を実行させるべき他のAIエッジ装置である切替先AIエッジ装置を選定する選定部と、切替先AIエッジ装置に対し、当該切替先AIエッジ装置において対象AI処理を実行するように指示を送信する送信部とを設け、選定部は、対象AI処理に必要なデータを取得可能な他のAIエッジ装置を、切替先AIエッジ装置として選定するようにした。
さらに本発明の管理装置においては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置を管理する管理装置であって、AIエッジ装置それぞれの状態を表す情報を取得する取得部と、AIエッジ装置においてAI処理の実行に必要なストレージの容量を当該AI処理と対応付けて記憶する記憶部と、AIエッジ装置の異常を検出する検出部と、異常が検出されたAIエッジ装置である切替元AIエッジ装置において実行されていたAI処理である対象AI処理を実行させるべき他のAIエッジ装置である切替先AIエッジ装置を選定する選定部と、切替先AIエッジ装置に対し、当該切替先AIエッジ装置において対象AI処理を実行するように指示を送信する送信部とを設け、取得部は、AIエッジ装置それぞれにおいて実行されているAI処理の情報に加えて、当該AIエッジ装置それぞれにおけるストレージの空容量を表す情報を取得し、選定部は、ストレージの空容量が対象AI処理の実行に必要なストレージの容量よりも大きい他のAIエッジ装置を、切替先AIエッジ装置として選定するようにした。
さらに本発明の管理装置においては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置を管理する管理装置であって、AIエッジ装置それぞれの状態を表す情報を取得する取得部と、AIエッジ装置の異常を検出する検出部と、異常が検出されたAIエッジ装置である切替元AIエッジ装置において実行されていたAI処理である対象AI処理を実行させるべき他のAIエッジ装置である切替先AIエッジ装置を選定する選定部と、切替先AIエッジ装置に対し、当該切替先AIエッジ装置において対象AI処理を実行するように指示を送信する送信部とを設け、取得部は、AIエッジ装置それぞれにおけるリソースの使用状態を表す情報を取得し、検出部は、AIエッジ装置の異常に加えて、AIエッジ装置におけるリソース不足を検出し、選定部は、リソース不足が検出された場合、対象AI処理を、当該リソース不足を検出したAIエッジ装置である割当元AIエッジ装置及び当該対象AI処理を割り当てるべき1台以上の他のAIエッジ装置である割当先AIエッジ装置により分散して実行すべきであるか、或いは割当先AIエッジ装置のみにより一括して実行すべきであるかを判定して、当該判定の結果に基づいた台数の割当先AIエッジ装置を選定し、送信部は、対象AI処理を分散して実行すべきと判定された場合、当該対象AI処理を割当元AIエッジ装置及び割当先AIエッジ装置により分散して実行し、対象AI処理を一括して実行すべきと判定された場合、当該対象AI処理を1台の割当先AIエッジ装置により一括して実行するよう指示を送信するようにした。
【0010】
さらに本発明のプログラムにおいては、情報処理装置を、上述した何れかの管理装置として動作させるためのプログラムであって、情報処理装置を管理装置が備える各部として機能させるようにした。
【0011】
さらに本発明の処理システムにおいては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置と、AIエッジ装置を管理する管理装置とが接続された処理システムであって、当該管理装置が、上述した何れかの管理装置であるようにした。
さらに本発明の処理システムにおいては、センサ装置から供給されるデータを基にAI処理を実行する複数のAIエッジ装置と、AIエッジ装置を管理する管理装置とが接続された処理システムであって、当該管理装置は、上述したプログラムが動作し、管理装置が備える各部として機能するための情報処理装置であるようにした。
【0012】
本発明は、AI処理を実行するAIエッジ装置から切替要求を受信し、当該AIエッジ装置において異常が検出された場合、管理装置が他のAIエッジ装置を選定して当該AI処理を実行させること、すなわちAIエッジ装置を切り替えて当該AI処理を継続することができる。これにより本発明では、センサ装置から得られるデータに対するAI処理を継続でき、その結果として分析データの生成を継続できる。
【発明の効果】
【0013】
本発明によれば、データの取得や分析処理を安定的に行い得る管理装置、プログラム及び処理システムを実現できる。
【図面の簡単な説明】
【0014】
【
図1】第1の実施の形態による処理システムの構成を示す略線的ブロック図である。
【
図2】AIエッジ装置の構成を示す略線的ブロック図である。
【
図3】AIエッジ装置におけるソフトウェアの階層構成を示す略線図である。
【
図4】第1の実施の形態による管理サーバの構成を示す略線的ブロック図である。
【
図5】第1の実施の形態による状態管理テーブルの構成を示す略線図である。
【
図6】テーブル更新処理を示すシーケンスチャートである。
【
図7】第1の実施の形態による状態切替処理を示すシーケンスチャートである。
【
図8】第1の実施の形態による更新後の状態管理テーブルの構成を示す略線図である。
【
図9】第2の実施の形態による処理システムの構成を示す略線的ブロック図である。
【
図10】第2の実施の形態による管理サーバの構成を示す略線的ブロック図である。
【
図11】第2の実施の形態による状態管理テーブルの構成を示す略線図である。
【
図12】第2の実施の形態による割当変更処理を示すシーケンスチャートである。
【
図13】第3の実施の形態による処理システムの構成を示す略線的ブロック図である。
【
図14】第3の実施の形態による管理サーバの構成を示す略線的ブロック図である。
【
図15】第3の実施の形態による状態管理テーブルの構成を示す略線図である。
【
図16】第3の実施の形態による切替割当要求処理手順を示すフローチャートである。
【
図17】第3の実施の形態による切替割当管理処理手順を示すフローチャートである。
【
図18】第4の実施の形態による状態管理テーブルの構成を示す略線図である。
【
図19】第4の実施の形態による一括割当処理を示すシーケンスチャートである。
【
図20】第4の実施の形態による切替割当要求処理手順を示すフローチャートである。
【
図21】第4の実施の形態による切替割当管理処理手順を示すフローチャートである。
【発明を実施するための形態】
【0015】
以下、発明を実施するための形態(以下実施の形態とする)について、図面を用いて説明する。
【0016】
[1.第1の実施の形態]
[1-1.処理システムの構成]
図1に示すように、第1の実施の形態による処理システム1は、設置現場2及び管理センター3に、複数のAIエッジ装置11や管理サーバ31のような複数の情報処理装置がそれぞれ設置されており、各情報処理装置が広域ネットワーク4を介して相互に接続されている。
【0017】
設置現場2には、ネットワーク10、複数のAIエッジ装置11(11A、11B、11C及び11D)、複数のセンサ装置12(12A及び12B)並びにルータ13が設けられている。ネットワーク10は、例えばIEEE(Institute of Electrical and Electronics Engineers)802.3(IEEE802.3u/ab/an/ae)等の規格に準拠した有線LAN(Local Area Network)により、各AIエッジ装置11及びルータ13を接続している。
【0018】
また設置現場2では、2台のAIエッジ装置11A及び11Bが1組を形成しており、同一のセンサ装置12Aと接続されている。また設置現場2では、2台のAIエッジ装置11C及び11Cも1組を形成しており、やはり同一のセンサ装置12Bと接続されている。
【0019】
AIエッジ装置11は、
図2に模式的なブロック図を示すように、バス20に制御部21、記憶部22、通信部23及びセンサ接続部24が接続された構成となっている。制御部21は、図示しないCPU(Central Processing Unit)、VPU(Visual Processing Unit)、ROM(Read Only Memory)及びRAM(Random Access Memory)等を有している。この制御部21は、RAMをワークエリアとして使用しながら、ROMや記憶部22等から読み出したプログラムをCPUやVPUによって実行することにより、様々な処理を行うことができる。
【0020】
また制御部21は、図示しない自己管理回路を有しており、各部の動作状態や接続状態、或いは温度等の情報を基に、AIエッジ装置11に異常が発生した場合に、このことを検出し得るようになっている。例えば制御部21は、CPUやVPU等の温度を監視しており、これらの温度が所定の閾値を超えた場合に、異常の発生として検出することができる。
【0021】
記憶部22は、例えばSSD(Solid State Drive)やハードディスクドライブ等のような不揮発性の記憶媒体を有しており、ストレージとも呼ばれる。この記憶部22は、各種プログラムや設定情報等を記憶するほか、センサ装置12から取得した種々のデータや、該データを基に生成された分析データ等を記憶する。通信部23は、例えばIEEE802.3等の規格に準拠した有線LAN等のインタフェースである。この通信部23は、所定のプロトコルに従い、ネットワーク10との間で種々の情報を送受信する。センサ接続部24は、例えばUSB(Universal Serial Bus)やBluetooth(登録商標)等の有線又は無線の通信規格に準拠したインタフェースである。
【0022】
また、AIエッジ装置11における各種ハードウェア及びソフトウェアは、
図3に示すような階層構造を形成している。すなわちAIエッジ装置11は、最下層のハードウェア41上にホストOS(Operating System)42が実行されている。このホストOS上では、コンテナプラットフォーム43、IoT Edgeランタイム44及び設定/運用WebUI/SDK(Web User Interface/Software Development Kit)45がそれぞれ実行されており、さらにその上でコンテナ46が実行されている。
【0023】
コンテナ46は、仮想マシンを構築した上で各種アプリケーションを実行するための仕組みであり、ゲストOS51を実行し、その上にライブラリ52や学習済モデル53が配置されると共に、アプリケーション54が実行されるようになっている。因みにAIエッジ装置11では、様々なコンテナ46が実行可能であり、また複数のコンテナ46を並列して実行することも可能となっている。
【0024】
このAIエッジ装置11は、センサ装置12から供給されるデータの種類や内容等に適したコンテナ46を実行することにより、いわゆるAI処理として、当該データに対する適切な分析等の演算処理を行い、その結果として分析データを生成することができる。その後、AIエッジ装置11は、このようにして生成した分析データを広域ネットワーク4に接続された所定のデータサーバ装置(図示せず)へ送信して蓄積させるようになっている。
【0025】
またAIエッジ装置11は、稼働状態として、動作状態と待機状態とを切り替え得るようになっている。動作状態は、コンテナ46を実行することにより、センサ装置12から供給されるデータに対する分析処理等を行う状態である。待機状態は、コンテナ46を直ちに実行可能であるものの、実際には分析処理を行わない状態である。
【0026】
センサ装置12(
図1)は、例えば温度センサ、湿度センサ、照度センサ、超音波センサ、傾きセンサ、圧力センサ、人感センサ、煙センサ、静電気センサ等、1種類又は2種類以上の各種センサ(図示せず)を有しており、この各種センサにより検知した結果を基にデータを生成する。
【0027】
またセンサ装置12は、例えばUSBやBluetooth(登録商標)等の有線又は無線の通信規格に準拠したインタフェースを有すると共にAIエッジ装置11に接続されている。このためセンサ装置12は、接続されているAIエッジ装置11に対し、これらの通信規格に準拠した通信処理により、生成したデータを送信することができる。
【0028】
ルータ13は、広域ネットワーク4と設置現場2内のネットワーク10との間でアドレスの変換処理やパケットの変換処理等を行うことにより、広域ネットワーク4に接続された各機器と、ネットワーク10に接続された各機器との間で相互に情報を送受信させる。
【0029】
管理センター3には、ネットワーク30、管理サーバ31、管理端末装置32及びルータ33が設けられている。ネットワーク30は、設置現場2のネットワーク10と同様、例えばIEEE802.3等の規格に準拠した有線LANにより、管理サーバ31、管理端末装置32及びルータ33を接続している。
【0030】
管理装置としての管理サーバ31は、
図4に模式的なブロック図を示すように、バス60に制御部61、記憶部62及び通信部63が接続された構成となっている。制御部61は、図示しないCPU、ROM及びRAM等を有している。この制御部61は、RAMをワークエリアとして使用しながら、ROMや記憶部62等から読み出したプログラムをCPUによって実行することにより、様々な処理を行うことができる。
【0031】
また制御部61は、記憶部62から所定のプログラムを読み出して実行することにより、その内部に状態管理部71及び切替管理部72といった複数の機能ブロックを形成する。状態管理部71は、設置現場2に設置された各AIエッジ装置11の状態を管理する(詳しくは後述する)。切替管理部72は、設置現場2に設置された各AIエッジ装置11の稼働状態を切り替えさせるよう管理する(詳しくは後述する)。
【0032】
記憶部62は、例えばSSDやハードディスクドライブ等のような不揮発性の記憶媒体を有しており、各種プログラムや設定情報等を記憶する。この記憶部62には、状態管理テーブル81及びコンテナ記憶部82が設けられている。状態管理テーブル81は、
図5に示すように、各AIエッジ装置11の状態等に関し、IPアドレス、稼働状態、センサ(接続されているセンサ装置12)及びコンテナ(実行されているコンテナ46)といった項目ごとに、それぞれ情報が格納されている。コンテナ記憶部82は、各AIエッジ装置11により実行されるコンテナ46を記憶する。
【0033】
管理端末装置32(
図1)は、一般的なコンピュータ装置と同様、制御部、記憶部、通信部、表示部及び操作部(何れも図示せず)等を有している。この管理端末装置32は、例えば状態管理テーブル81の情報を基に各AIエッジ装置11の動作状態等を表示部に表示し、或いは管理センター3の職員等による操作指示に従って各AIエッジ装置11の稼働状態を切り替えさせる、といった処理を行う。
【0034】
ルータ33は、設置現場2のルータ13と同様に構成されており、広域ネットワーク4と管理センター3内のネットワーク30との間でアドレスの変換処理やパケットの変換処理等を行うことにより、広域ネットワーク4に接続された各機器と、ネットワーク30に接続された各機器との間で相互に情報を送受信させる。
【0035】
広域ネットワーク4は、例えばインターネットのように広域に渡って展開されたネットワークであり、設置現場2及び管理センター3の他、図示しない各種サーバ装置等も接続されている。この広域ネットワーク4は、例えばIEEE802.3等の規格に準拠した有線LANや、例えばIEEE802.11(IEEE802.11a/b/g/n/ac/ax)等の規格に準拠した無線LAN、或いは第5世代移動通信システム(5G:5th Generation)等、種々の通信方式が適宜組み合わされることにより構成されている。
【0036】
[1-2.テーブル更新処理]
ところで処理システム1では、各AIエッジ装置11において状態等が変化すると、このことを状態管理テーブル81(
図5)に反映させるよう更新し、該状態管理テーブル81に最新の情報を保持するようになっている。以下では、AIエッジ装置11において状態等が変更された場合を例に、処理システム1におけるテーブル更新処理の様子を、
図6のシーケンスチャートを参照しながら説明する。
【0037】
AIエッジ装置11では、例えば新たなコンテナ46の実行を開始した場合や、接続されているセンサ装置12が変更された場合のように、何らかの変化が生じたことが、情報送信条件として設定され、記憶部22に記憶されている。AIエッジ装置11Aの制御部21(
図2)は、この情報送信条件が満たされると、記憶部22から所定の情報送信プログラムを読み出して実行することにより、情報送信処理手順RT11を開始して最初のステップSP11に移る。
【0038】
ステップSP11において制御部21は、管理サーバ31に対して状態情報を送信する。この状態情報は、AIエッジ装置11Aにおける稼働状態、実行しているコンテナ46や接続されているセンサ装置12に関する情報が含まれている。
【0039】
一方、管理サーバ31の制御部61は、記憶部62から所定のテーブル更新プログラムを読み出して実行することにより、テーブル更新処理手順RT12を予め起動しており、AIエッジ装置11Aから状態情報を受信すると、最初のステップSP21に移る。
【0040】
ステップSP21において制御部61は、取得した状態情報を基に、状態管理部71(
図4)により、記憶部62の状態管理テーブル81(
図5)を更新し、次のステップSP22に移る。ステップSP22において制御部61は、状態管理部71により、AIエッジ装置11Aに対し、状態情報を受信して状態管理テーブル81を更新したことを通知する状態情報確認通知を送信する。その後、制御部61は、最初のステップSP21に戻り、一連の処理を繰り返す。
【0041】
AIエッジ装置11Aの制御部21は、管理サーバ31から状態情報確認通知を受信すると、次のステップSP12に移り、情報送信処理手順RT11を終了する。因みに制御部21は、所定の時間間隔ごとに、又はAIエッジ装置11Aの状態が変化する度に、情報送信処理手順RT11を実行する。
【0042】
[1-3.状態切替処理]
ところで処理システム1では、状態管理テーブル81(
図5)に示されているように、設置現場2に設置されている複数のAIエッジ装置11のうち、一部が動作状態であり、残りが待機状態となっている。この処理システム1では、動作状態であり所定のコンテナ46を実行しているAIエッジ装置11に異常が発生した場合、管理サーバ31の管理により、同じ1組に属し、且つ待機状態である他のAIエッジ装置11を動作状態に切り替えると共に、実行されていたAI処理(以下これを対象AI処理とも呼ぶ)を引き継がせるようになっている。
【0043】
以下では、動作状態のAIエッジ装置11AにおいてVPUの温度が閾値を超えたことにより異常が発生し、待機状態であったAIエッジ装置11Bがその処理を引き継いで実行する場合を例に、処理システム1における動作切替処理の様子を、
図7のシーケンスチャートを参照しながら説明する。また以下では、AIエッジ装置11Aを切替元とも呼び、AIエッジ装置11Bを切替先とも呼ぶ。
【0044】
切替元のAIエッジ装置11Aの制御部21(
図2、以下これを切替元制御部21Aとも呼ぶ)は、異常の発生を検出すると、記憶部22から所定の切替元プログラムを読み出して実行することにより、切替元処理手順RT13(
図7)を開始して最初のステップSP31に移る。ステップSP31において切替元制御部21Aは、管理サーバ31に対して切替要求を送信する。
【0045】
一方、管理サーバ31の制御部61(
図4)は、記憶部62から所定の切替管理プログラムを読み出して実行することにより、切替管理処理手順RT14(
図7)を予め起動しており、AIエッジ装置11Aから切替要求を受信すると、最初のステップSP41に移る。
【0046】
ステップSP41において制御部61は、切替管理部72(
図4)により、記憶部62の状態管理テーブル81(
図5)を参照し、切替先となるAIエッジ装置11を選定して、次のステップSP42に移る。具体的に切替管理部72は、状態管理テーブル81において、稼働状態が待機状態であり、且つ切替元のAIエッジ装置11Aと同一のセンサ装置12(すなわちセンサ装置12A)と接続されているAIエッジ装置11Bを、切替先のAIエッジ装置11として選定する。
【0047】
ステップSP42において制御部61は、切替管理部72により、AIエッジ装置11Aに対し、状態切替指示を送信する。この状態切替指示は、切替先となる適切なAIエッジ装置11を選定できたことを通知すると共に、稼働状態を動作状態から待機状態に切り替える指示等が含まれている。
【0048】
AIエッジ装置11Aの切替元制御部21Aは、この状態切替指示を受信すると、次のステップSP32に移り、稼働状態を動作状態から待機状態に切り替え、次のステップSP33に移る。ステップSP33において切替元制御部21Aは、管理サーバ31に対し、動作状態の切替を完了したことを通知する状態切替完了通知を送信すると、次のステップSP34に移って切替元処理手順RT13を終了する。
【0049】
管理サーバ31の制御部61は、AIエッジ装置11Aから状態切替完了通知を受信すると、次のステップSP43に移り、切替管理部72(
図4)により、切替元のAIエッジ装置11Aにおいて実行されていたものと同じコンテナ46Aを記憶部62のコンテナ記憶部82から読み出し、これを切替先のAIエッジ装置11Bへ送信する。
【0050】
切替先となるAIエッジ装置11Bの制御部21(以下これを切替先制御部21Bとも呼ぶ)は、予め記憶部22から切替先プログラムを読み出して実行することにより、切替先処理手順RT15を開始しており、管理サーバ31からコンテナ46Aを受信すると、ステップSP51に移る。
【0051】
ステップSP51において切替先制御部21Bは、受信したコンテナ46Aを実行可能な状態とし、すなわちいわゆるデプロイを行い、次のステップSP52に移る。ステップSP52において切替先制御部21Bは、管理サーバ31に対してデプロイを完了したことを通知するデプロイ完了通知を送信する。
【0052】
管理サーバ31の制御部61は、AIエッジ装置11Bからデプロイ完了通知を受信すると、次のステップSP44に移り、切替管理部72(
図4)により、該AIエッジ装置11Bに対し、稼働状態を待機状態から動作状態に切り替えさせるための状態切替指示を送信する。
【0053】
AIエッジ装置11Bの切替先制御部21Bは、管理サーバ31から状態切替指示を受信すると、次のステップSP53に移り、稼働状態を待機状態から動作状態に切り替えて、次のステップSP54に移る。これによりAIエッジ装置11Bは、センサ装置12Aから供給されるデータを基に、コンテナ46AによるAI処理の実行を開始する。
【0054】
ステップSP54において切替先制御部21Bは、動作状態の切替を完了したことを通知する状態切替完了通知を管理サーバ31へ送信すると、次のステップSP55に移り、切替先処理手順RT15を終了する。その後、AIエッジ装置11Bは、センサ装置12Aから供給されるデータを基に、コンテナ46AによるAI処理を継続して実行する。
【0055】
管理サーバ31の制御部61は、AIエッジ装置11Bから状態切替完了通知を受信すると、次のステップSP45に移り、状態管理部71(
図4)により、状態管理テーブル81(
図5)を更新する。具体的に状態管理部71は、
図8に示すように、状態管理テーブル81において、AIエッジ装置11Aに関して、稼働状態を待機状態に切り替えると共に、AIエッジ装置11Bに関して、稼働状態を動作状態に切り替え、コンテナの項目をコンテナ46Aに更新する。その後、制御部61は次のステップSP46に移り、切替管理処理手順RT14を終了する。
【0056】
[1-4.効果等]
以上の構成において、第1の実施の形態による処理システム1では、動作状態であるAIエッジ装置11Aが異常を検出した場合、該AIエッジ装置11Aから切替要求を受信した管理サーバ31が、待機状態であるAIエッジ装置11Bを切替先として選定し、AI処理を引き継いで実行させる。
【0057】
すなわち管理サーバ31は、切替元のAIエッジ装置11Aを待機状態に切り替えさせると共に、該AIエッジ装置11Aにおいて実行されていたコンテナ46Aを切替先のAIエッジ装置11Bへ送信し、デプロイが完了すると、該AIエッジ装置11Bを動作状態に切り替えさせる。これにより処理システム1では、AIエッジ装置11Aにおいて異常が発生した場合に、切替先に選定されたAIエッジ装置11Bにより、直ちにコンテナ46Aをデプロイして実行できるため、センサ装置12Aにおいて生成されるデータに対するAI処理を円滑に継続することができる。
【0058】
一般に、AIエッジ装置において異常が発生し、再起動等によってもこの異常を解消できなかった場合、修理や交換等の保守作業が必要となる。この点において、本実施の形態による処理システム1では、このような場合に切替先のAIエッジ装置11Bによりコンテナ46Aを実行するよう切り替えることで、センサ装置12Aにおいて生成されるデータに対するAI処理を直ちに再開できる。このため処理システム1では、AIエッジ装置11Aの保守作業が完了するまでの間に、センサ装置12Aにおいて生成されたデータを取りこぼす恐れが殆ど無く、該AIエッジ装置11Aの保守作業に関して余裕を持ったスケジュールを設定することもできる。
【0059】
また管理サーバ31は、状態管理テーブル81(
図5)を用いて各AIエッジ装置11の稼働状態、接続されているセンサ装置12、及び動作しているコンテナ46等に関する情報を管理している。このため処理システム1では、異常が発生したAIエッジ装置11Aから切替要求を受信した際に、この状態管理テーブル81を参照することにより、極めて短い時間で、最も適切な切替先となるAIエッジ装置11Bを直ちに選定でき、該AIエッジ装置11BによるAI処理を早期に開始できる。すなわち処理システム1では、センサ装置12から供給されるデータの取りこぼしを良好に回避でき、またAI処理により得られる分析データを極力遅延無く供給することができる。
【0060】
さらに処理システム1では、切替要求を受信してから、切替先のAIエッジ装置11Bへコンテナ46を送信してデプロイさせるようにした。このため処理システム1では、コンテナ46が頻繁にアップデートされるような場合に、当該コンテナ46を実行するAIエッジ装置11及び管理サーバ31における記憶部62のコンテナ記憶部82(
図4)に最新のコンテナ46を記憶させておけば良い。すなわち処理システム1では、例えば当該コンテナ46を実行しないAIエッジ装置11に対し、当該コンテナ46がアップデートされる度に更新させる、といった無駄な処理を行わせる必要が無い。
【0061】
以上の構成によれば、第1の実施の形態による処理システム1では、動作状態であるAIエッジ装置11Aが異常を検出すると、管理サーバ31の管理の下で、該AIエッジ装置11Aを待機状態に切り替えさせ、待機状態であったAIエッジ装置11Bを切替先として選定し、コンテナ46Aをデプロイさせてから動作状態に切り替えさせる。このため処理システム1では、切替元のAIエッジ装置11AにおいてAI処理を継続できなくなったとしても、比較的短い時間で切替先のAIエッジ装置11Bへの切替処理を完了でき、直ちにAI処理を開始して分析データの生成や供給を再開できる。
【0062】
[2.第2の実施の形態]
[2-1.処理システムの構成]
図1と対応する
図9に示すように、第2の実施の形態による処理システム201は、設置現場2及び管理センター3に代わる設置現場202及び管理センター203と、広域ネットワーク4とにより構成されている。
【0063】
設置現場202は、第1の実施の形態による設置現場2(
図1)と比較して、AIエッジ装置11及びセンサ装置12に代わるAIエッジ装置211(211A、211B及び211C)並びにセンサ装置212(212A、212B及び212C)が設けられている点において相違する。また設置現場202では、1台のAIエッジ装置211に1台の各センサ装置212がそれぞれ接続されている。
【0064】
AIエッジ装置211(
図2)は、第1の実施の形態によるAIエッジ装置11と比較して、制御部21に代わる制御部221を有する点において相違するものの、他の点については同様に構成されている。制御部221は、第1の実施の形態による制御部21と同様、図示しないCPU、VPU、ROM及びRAM等を有しており、各種プログラムをCPUやVPUによって実行することにより、様々な処理を行うことができる。
【0065】
センサ装置212は、第1の実施の形態によるセンサ装置12と同様、図示しない各種センサを有しており、各種センサにより検知した結果を基にデータを生成し、AIエッジ装置211へ供給する。
【0066】
管理センター203は、第1の実施の形態による管理センター3(
図1)と比較して、管理サーバ31に代わる管理サーバ231を有する点において相違する。管理サーバ231は、
図4と対応する
図10に示すように、制御部61及び記憶部62に代わる制御部261及び記憶部262を有する点において相違するものの、他の点については同様に構成されている。
【0067】
制御部261は、第1の実施の形態による制御部61と同様、図示しないCPU、ROM及びRAM等を有している。この制御部261は、RAMをワークエリアとして使用しながら、ROMや記憶部262等から読み出したプログラムをCPUによって実行することにより、様々な処理を行うことができる。
【0068】
また制御部261は、記憶部262から所定のプログラムを読み出して実行することにより、その内部に状態管理部71及び割当管理部273といった複数の機能ブロックを形成する。状態管理部71は、第1の実施の形態と同様、設置現場202に設置された各AIエッジ装置211の状態を管理する。割当管理部273は、各AIエッジ装置311に対するAI処理の割当を管理する。(詳しくは後述する)。
【0069】
記憶部262は、第1の実施の形態による記憶部62と同様、例えばSSDやハードディスクドライブ等のような不揮発性の記憶媒体を有しており、各種プログラムや設定情報等を記憶する。この記憶部262には、状態管理テーブル281及びコンテナ記憶部82が設けられている。
【0070】
状態管理テーブル281は、
図5と対応する
図11に示すように、各AIエッジ装置211の状態等に関し、IPアドレス、各種リソース(CPU、VPU、メモリ及びストレージ)の利用率、稼働コンテナ1及び稼働コンテナ2(実行されているコンテナ46)といった項目ごとに、それぞれ情報が格納されている。コンテナ記憶部82は、第1の実施の形態と同様、各AIエッジ装置211により実行されるコンテナ46を記憶する。
【0071】
また処理システム201では、第1の実施の形態と同様に、テーブル更新処理(
図6)を行うことにより、各AIエッジ装置211から送信される状態情報を基に、状態管理テーブル281(
図11)を逐次更新するようになっている。
【0072】
[2-2.割当変更処理]
ところで処理システム201では、第1の実施の形態と異なり、何れかのAIエッジ装置211において各種リソースの使用率が高まると、当該AIエッジ装置211において実行しているAI処理を分散して他のAIエッジ装置211と共に実行するよう、割当を変更するようになっている。
【0073】
AIエッジ装置211では、リソースの使用率が高いか否かを判定するためのリソース条件が予め設定され、記憶部22(
図2)に予め記憶されている。このリソース条件は、例えば、「VPUの平均使用率が95[%]以上である」、「CPUの平均使用率が95%以上である」、又は「メモリの使用率が90[%]以上である」の何れかを満たすことが設定されている。すなわち、このリソース条件を満たすと判定することは、いわゆるリソース不足であることを検出したことになる。またAIエッジ装置211は、常に自己のリソースの使用率を監視すると共に、リソース条件を満たすか否かを判定している。
【0074】
以下では、AI処理を実行中のAIエッジ装置211Aにおいてリソースの使用率が高まってリソース条件が満たされ、AIエッジ装置211Bに該AI処理の一部を割り当てて分担させる場合を例に、処理システム201における割当変更処理の様子を、
図12のシーケンスチャートを参照しながら説明する。また以下では、AIエッジ装置211Aを割当元とも呼び、AIエッジ装置211Bを割当先とも呼ぶ。
【0075】
割当元のAIエッジ装置211Aの制御部221(
図2、以下これを割当元制御部221Aとも呼ぶ)は、リソース条件を満たすと判定すると、記憶部22から所定の割当元プログラムを読み出して実行することにより、割当元処理手順RT23を開始して最初のステップSP231に移る。ステップSP231において割当元制御部221Aは、管理サーバ231に対して割当要求を送信する。
【0076】
一方、管理サーバ231の制御部261は、記憶部262から所定の割当管理プログラムを読み出して実行することにより、割当管理処理手順RT24を予め起動しており、AIエッジ装置211Aから割当要求を受信すると、最初のステップSP241に移る。
【0077】
ステップSP241において制御部261は、割当管理部273(
図10)により、記憶部262の状態管理テーブル281(
図11)を参照し、割当先となるAIエッジ装置211を選定して、次のステップSP242に移る。具体的に割当管理部273は、状態管理テーブル281において、例えばVPUの使用率が最も低いAIエッジ装置211として、AIエッジ装置211Bを選定する。
【0078】
ステップSP242において制御部261は、割当管理部273により、AIエッジ装置211Aに対し、分散割当通知を送信して、次のステップSP243に移る。この分散割当通知は、割当先としてAIエッジ装置211Bを選定したことを通知すると共に、当該割当先へ送信すべき割当データを準備する指示等が含まれている。
【0079】
AIエッジ装置211Aの割当元制御部221Aは、この割当情報を受信すると、次のステップSP232に移り、割当先に送信すべき割当データを準備する。この割当データは、AIエッジ装置211Aが処理すべきデータのうち、割当先のAIエッジ装置211Bに分担させる部分となっている。
【0080】
ステップSP243において制御部261は、割当管理部273(
図10)により、割当元のAIエッジ装置211Aにおいて実行されているものと同じコンテナ46Aを記憶部262のコンテナ記憶部82から読み出し、これを切替先のAIエッジ装置211Bへ送信する。
【0081】
割当先となるAIエッジ装置211Bの制御部221(以下これを割当先制御部221Bとも呼ぶ)は、予め記憶部222から割当先プログラムを読み出して実行することにより、割当先処理手順RT25を開始しており、管理サーバ231からコンテナ46Aを受信すると、ステップSP251に移る。
【0082】
ステップSP251において割当先制御部221Bは、受信したコンテナ46Aを実行可能な状態とし、すなわちいわゆるデプロイを行い、次のステップSP252に移る。ステップSP252において割当先制御部221Bは、管理サーバ231に対してデプロイを完了したことを通知するデプロイ完了通知を送信する。
【0083】
管理サーバ231の制御部261は、AIエッジ装置211Bからデプロイ完了通知を受信すると、次のステップSP244に移り、割当管理部273(
図10)により、割当元のAIエッジ装置211Aに対し、分散処理を開始させるための分散割当完了通知を送信して、次のステップSP245に移る。
【0084】
ステップSP245において制御部261は、状態管理部71(
図10)により、状態管理テーブル281(
図11)を更新した後、次のステップSP246に移り、割当管理処理手順RT24を終了する。
【0085】
AIエッジ装置211Aの割当元制御部221Aは、管理サーバ231から分散割当完了通知を受信すると、ステップSP233に移り、切替先であるAIエッジ装置211Bに対し、割当データを送信する。
【0086】
AIエッジ装置211Bの割当先制御部221Bは、割当元のAIエッジ装置211Aから割当データを受信すると、ステップSP253に移り、当該割当データを基にコンテナ46AによるAI処理を行い、得られた分析データを割当元のAIエッジ装置211Aへ送信する。その後、割当先制御部221Bは、次のステップSP254に移って割当先処理手順RT25を終了する。
【0087】
AIエッジ装置211Aの割当元制御部221Aは、この分析データを受信すると、これを記憶部22(
図2)に記憶させ、或いは所定の送信先へ送信する等した後、次のステップSP234に移って割当元処理手順RT23を終了する。
【0088】
[2-3.効果等]
以上の構成において、第2の実施の形態による処理システム201では、AI処理を実行しているAIエッジ装置211Aにおいてリソースの使用率が高まってリソース条件を満たした場合、該AIエッジ装置211Aから割当要求を受信した管理サーバ231が、他のAIエッジ装置211Bを選定して当該AI処理を分散して実行させる。
【0089】
すなわち管理サーバ231は、VPUの使用率が最も低いAIエッジ装置211Bを割当先として選定し、割当元のAIエッジ装置211Aにおいて実行されていたコンテナ46Aを割当先のAIエッジ装置211Bへ送信し、デプロイさせる。続いて、割当元のAIエッジ装置211Aから割当データが送信されると、割当先のAIエッジ装置211Bは、この割当データに基づいたAI処理を実行し、得られた分析データを割当元のAIエッジ装置211Aへ送信する。
【0090】
これにより処理システム201では、AIエッジ装置211Aにおいてリソースの使用率が高まった場合に、割当先に選定されたAIエッジ装置211Bにより、直ちにコンテナ46AをデプロイしてAI処理の一部を分担して実行でき、処理を分散することができる。このため処理システム201では、AIエッジ装置211AにおけるAI処理の遅延やデータのオーバーフロー等を未然に防止でき、AI処理を円滑に進めることができる。
【0091】
また処理システム201では、管理サーバ231が記憶部262に状態管理テーブル281(
図10)を記憶し、各AIエッジ装置211から送信される状態情報を基に、該状態管理テーブル281を逐次更新するようにした。このため処理システム201では、AIエッジ装置211から割当要求を受信した管理サーバ231が、状態管理テーブル281における各リソースの状態を確認した上で、最も適切な割当先を選定することができる。
【0092】
以上の構成によれば、第2の実施の形態による処理システム201では、AIエッジ装置211Aにおいてリソースの使用率が高まって割当要求を送信すると、管理サーバ231の管理の下で、リソースの使用率が低いAIエッジ装置211Bを割当先として選定し、コンテナ46AをデプロイさせてからAI処理の一部を分担させる。このため処理システム201では、比較的短い時間で割当先の切替先のAIエッジ装置211BによるAI処理の分担を実行でき、切替元のAIエッジ装置211AにおけるAI処理の遅延やオーバーフローを防止しながら、分析データの生成を継続することができる。
【0093】
[3.第3の実施の形態]
[3-1.処理システムの構成]
図1と対応する
図13に示すように、第3の実施の形態による処理システム301は、設置現場2及び管理センター3に代わる設置現場302及び管理センター303と、広域ネットワーク4とにより構成されている。
【0094】
設置現場302は、第1の実施の形態による設置現場2(
図1)と比較して、AIエッジ装置11及びセンサ装置12に代わるAIエッジ装置311(311A、311B及び311C)並びにセンサ装置312(312A、312B及び312C)が設けられている点において相違する。また設置現場302では、各AIエッジ装置311及び各センサ装置312が、ネットワーク10とは別に構成されたネットワーク310にそれぞれ接続されている。
【0095】
このネットワーク310は、例えばIEEE802.15.4等の規格に準拠した無線ネットワークであり、例えば920[MHz]帯の無線周波数を使用し、例えば最大127バイトのように比較的小さいサイズのパケットにより種々のデータを送受信することができる。
【0096】
AIエッジ装置311(
図2)は、第1の実施の形態によるAIエッジ装置11と比較して、制御部21及びセンサ接続部24に代わる制御部321及びセンサ接続部324を有する点において相違するものの、他の点については同様に構成されている。制御部321は、第1の実施の形態による制御部21と同様、図示しないCPU、VPU、ROM及びRAM等を有しており、各種プログラムをCPUやVPUによって実行することにより、様々な処理を行うことができる。センサ接続部324は、例えばIEEE802.15.4等の規格に準拠した無線インタフェースであり、ネットワーク310との間で情報を送受信することができる。
【0097】
センサ装置312は、第1の実施の形態によるセンサ装置12と同様、図示しない各種センサを有しており、各種センサにより検知した結果を基にデータを生成し、ネットワーク310を介してこのデータをAIエッジ装置311へ送信する。
【0098】
管理センター303には、第1の実施の形態による管理センター3(
図1)と比較して、管理サーバ31に代わる管理サーバ331を有する点において相違する。管理サーバ331は、
図4と対応する
図14に示すように、制御部61及び記憶部62に代わる制御部361及び記憶部362を有する点において相違するものの、他の点については同様に構成されている。
【0099】
制御部361は、第1の実施の形態による制御部61と同様、図示しないCPU、ROM及びRAM等を有している。この制御部361は、RAMをワークエリアとして使用しながら、ROMや記憶部362等から読み出したプログラムをCPUによって実行することにより、様々な処理を行うことができる。
【0100】
また制御部361は、記憶部362から所定のプログラムを読み出して実行することにより、その内部に状態管理部71、切替管理部72及び割当管理部273といった複数の機能ブロックを形成する。状態管理部71及び切替管理部72は、それぞれ第1の実施の形態と同様に、各AIエッジ装置311の状態を管理し、また各AIエッジ装置311の稼働状態を切り替える。割当管理部273は、第2の実施の形態と同様、各AIエッジ装置311に対するAI処理の割当を管理する。
【0101】
記憶部362は、第1の実施の形態による記憶部62と同様、例えばSSDやハードディスクドライブ等のような不揮発性の記憶媒体を有しており、各種プログラムや設定情報等を記憶する。この記憶部362には、状態管理テーブル381及びコンテナ記憶部82が設けられている。
【0102】
状態管理テーブル381は、
図5及び
図11と対応する
図15に示すように、状態管理テーブル81(
図5)及び状態管理テーブル281(
図11)を統合したような構成となっている。すなわち状態管理テーブル381は、各AIエッジ装置311の状態等に関し、IPアドレス、各種リソース(CPU、VPU、メモリ及びストレージ)の利用率、稼働状態、接続されているセンサ及び稼働コンテナといった項目ごとに、それぞれ情報が格納されている。コンテナ記憶部82は、第1の実施の形態と同様、各AIエッジ装置311により実行されるコンテナ46を記憶する。
【0103】
また処理システム301では、第1及び第2の実施の形態と同様に、テーブル更新処理(
図6)を行うことにより、各AIエッジ装置311から送信される状態情報を基に、状態管理テーブル381(
図15)を逐次更新するようになっている。
【0104】
[3-2.管理処理]
ところで処理システム301では、管理サーバ331による各AIエッジ装置311の管理に関して、第1の実施の形態及び第2の実施の形態を組み合わせたような処理を行うようになっている。
【0105】
すなわち処理システム301では、動作状態のAIエッジ装置311において異常が発生した場合には、第1の実施の形態と同様に、待機状態である他のAIエッジ装置311にその処理を引き継いで実行させる。また処理システム301では、AI処理を実行中のAIエッジ装置311においてリソースの使用率が高まった場合、他のAIエッジ装置311と共に該AI処理を分散して実行させる。
【0106】
このため処理システム301では、AIエッジ装置311において
図16に示す切替割当要求処理を実行すると共に、管理サーバ331において
図17に示す切替割当管理処理を実行するようになっている。以下では、AIエッジ装置311Aを例に説明する。
【0107】
具体的にAIエッジ装置311Aの制御部321(
図2)は、記憶部22から所定のプログラムを読み出すことにより、切替割当要求処理RT36(
図16)を開始して最初のステップSP361に移る。
【0108】
ステップSP361において制御部321は、当該AIエッジ装置311Aにおいて異常の発生を検出したか否かを判定する。ここで肯定結果が得られると、このことはこれまで当該AIエッジ装置311Aにおいて実行していたAI処理を他のAIエッジ装置311によって実行させるよう切り替える必要があることを表している。このとき制御部321は、次のステップSP362に移る。
【0109】
ステップSP362において制御部321は、サブルーチンとして、第1の実施の形態と同様の切替元処理手順RT13(
図7)を実行し、次のステップSP365に移る。これにより制御部321は、後述するように、管理サーバ331の切替管理処理により、他のAIエッジ装置311(例えばAIエッジ装置311B)に切り替えてAI処理を実行させること、すなわちAI処理を引き継がせることができる。
【0110】
一方、ステップSP361において否定結果が得られると、このことはAIエッジ装置311AによるAI処理を継続すべきであることを表している。このとき制御部321は、次のステップSP363に移る。
【0111】
ステップSP363において制御部321は、該AIエッジ装置311においてリソースが不足しているか否か、具体的には第2の実施の形態におけるリソース条件を満たすか否かを判定する。ここで肯定結果が得られると、このことは該AIエッジ装置311Aにおいて実行しているAI処理の一部を他のAIエッジ装置311に割り当てて実行させる必要、すなわち当該AI処理を分散して実行する必要があることを表している。このとき制御部321は、次のステップSP364に移る。
【0112】
ステップSP364において制御部321は、サブルーチンとして、第2の実施の形態と同様の割当元処理手順RT23(
図12)を実行し、次のステップSP365に移る。これにより制御部321は、後述するように、管理サーバ331の割当管理処理により、他のAIエッジ装置311(例えばAIエッジ装置311B)にAI処理の一部を分担させることができる。
【0113】
一方、ステップSP363において否定結果が得られると、このことはAIエッジ装置311AによるAI処理を継続すべきであることを表している。このとき制御部321は、次のステップSP365に移り、切替割当要求処理RT36を終了する。ステップSP365において制御部321は、切替割当要求処理RT36を終了する。因みに制御部321は、所定の周期ごとに切替割当要求処理RT36を繰り返し実行するようになっている。
【0114】
また管理サーバ331の制御部361(
図14)は、記憶部362から所定のプログラムを読み出すことにより、切替割当管理処理RT37(
図17)を開始して最初のステップSP371に移る。
【0115】
ステップSP371において制御部361は、何れかのAIエッジ装置311から切替要求を受信したか否かを判定する。ここで肯定結果が得られると、このことは、これまで当該AIエッジ装置311(例えばAIエッジ装置311A)において実行していたAI処理を、他のAIエッジ装置311によって実行させるよう切り替える必要があることを表している。このとき制御部361は、次のステップSP372に移る。
【0116】
ステップSP372において制御部361は、サブルーチンとして、第1の実施の形態と同様の切替管理処理手順RT14(
図7)を実行し、次のステップSP365に移る。これにより制御部361は、これまでAIエッジ装置311Aにより実行していたAI処理を、他のAIエッジ装置311(例えばAIエッジ装置311B)に切り替えて実行させること、すなわち引き継がせることができる。
【0117】
一方、ステップSP371において否定結果が得られると、このことは各AIエッジ装置311によるAI処理を継続して実行させるべきであることを表している。このとき制御部321は、次のステップSP373に移る。
【0118】
ステップSP373において制御部321は、何れかのAIエッジ装置311から割当要求を受信したか否かを判定する。ここで肯定結果が得られると、このことは、これまで当該AIエッジ装置311(例えばAIエッジ装置311A)において実行しているAI処理の一部を他のAIエッジ装置311に割り当てて実行させる必要、すなわち分担させる必要があることを表している。このとき制御部361は、次のステップSP374に移る。
【0119】
ステップSP374において制御部361は、サブルーチンとして、第2の実施の形態と同様の割当管理処理手順RT24(
図12)を実行し、次のステップSP375に移る。これにより制御部361は、これまでAIエッジ装置311Aにより実行していたAI処理の一部を、他のAIエッジ装置311(例えばAIエッジ装置311B)に割り当てて実行させること、すなわち処理を分散することができる。
【0120】
一方、ステップSP373において否定結果が得られると、このことは各AIエッジ装置311によるAI処理を継続すべきであることを表している。このとき制御部361は、次のステップSP375に移る。ステップSP375において制御部361は、切替割当管理処理RT37を終了する。因みに制御部361は、所定の周期ごとに切替割当管理処理RT37を繰り返し実行するようになっている。
【0121】
[3-3.効果等]
以上の構成において、第3の実施の形態による処理システム301では、動作状態であるAIエッジ装置311Aが異常を検出した場合、管理サーバ331が、待機状態であるAIエッジ装置311Bを切替先として選定し、AI処理を引き継いで実行させる。また処理システム301では、AI処理を実行しているAIエッジ装置311Aにおいてリソースの使用率が高まった場合、管理サーバ331が他のAIエッジ装置311Bを選定して当該AI処理を分散して実行させる。
【0122】
これにより処理システム301では、AIエッジ装置311Aにおいて異常が発生した場合、切替先に選定されたAIエッジ装置311Bにより、直ちにコンテナ46Aをデプロイして実行できるため、センサ装置312において生成されるデータに対するAI処理を継続することができる。
【0123】
また処理システム301では、AIエッジ装置311Aにおいてリソースの使用率が高まった場合、割当先に選定されたAIエッジ装置311Bにより、直ちにコンテナ46AをデプロイしてAI処理の一部を分担して実行できる。このため処理システム301では、AIエッジ装置311AにおけるAI処理の遅延やデータのオーバーフロー等を未然に防止でき、AI処理を円滑に進めることができる。
【0124】
その他の点においても、処理システム301では、第1及び第2の実施の形態と同様の作用効果を奏し得る。
【0125】
以上の構成によれば、第3の実施の形態による処理システム301では、AIエッジ装置311Aが異常を検出した場合、管理サーバ331の管理の下で、他のAIエッジ装置311Bを切替先としてAI処理を実行させる。また処理システム301では、AIエッジ装置311Aにおいてリソースの使用率が高まった場合、管理サーバ331の管理の下で、他のAIエッジ装置311Bを割当先としてAI処理を分散して実行させる。このため処理システム301では、各AIエッジ装置311においてAI処理を継続できない場合に、直ちに他のAIエッジ装置311を適切に選定して切替や割当を行うことができるので、AI処理を殆ど途切れさせることなく、分析データの生成や供給を円滑に継続できる。
【0126】
[4.第4の実施の形態]
[4-1.処理システムの構成]
第4の実施の形態による処理システム401(
図13)は、第3の実施の形態と比較して、設置現場302及び管理センター303に代わる設置現場402及び管理センター403と、広域ネットワーク4とにより構成されている。
【0127】
設置現場402は、第3の実施の形態による設置現場302と比較して、AIエッジ装置311に代わるAIエッジ装置411(411A、411B及び411C)が設けられている点において相違する。
【0128】
AIエッジ装置411(
図2)は、第3の実施の形態によるAIエッジ装置311と比較して、制御部321に代わる制御部421を有する点において相違するものの、他の点については同様に構成されている。制御部421は、第1の実施の形態による制御部21等と同様、図示しないCPU、VPU、ROM及びRAM等を有しており、各種プログラムをCPUやVPUによって実行することにより、様々な処理を行うことができる。
【0129】
管理センター403には、第3の実施の形態による管理センター303と比較して、管理サーバ331に代わる管理サーバ431を有する点において相違する。管理サーバ431(
図14)は、制御部361及び記憶部362に代わる制御部461及び記憶部462を有する点において相違するものの、他の点については同様に構成されている。
【0130】
制御部461は、第3の実施の形態による制御部361と同様、図示しないCPU、ROM及びRAM等を有している。この制御部461は、RAMをワークエリアとして使用しながら、ROMや記憶部462等から読み出したプログラムをCPUによって実行することにより、様々な処理を行うことができる。
【0131】
また制御部461は、記憶部462から所定のプログラムを読み出して実行することにより、その内部に状態管理部71、切替管理部72及び割当管理部473といった複数の機能ブロックを形成する。状態管理部71及び切替管理部72は、それぞれ第1及び第3の実施の形態と同様に、各AIエッジ装置311の状態を管理し、また各AIエッジ装置311の稼働状態を切り替える。割当管理部473は、第2及び第3の実施の形態における割当管理部273と一部異なる手法により、各AIエッジ装置411に対するAI処理の割当を管理する。
【0132】
記憶部462は、第3の実施の形態による記憶部362と同様、例えばSSDやハードディスクドライブ等のような不揮発性の記憶媒体を有しており、第3の実施の形態と一部異なる各種プログラムや設定情報等を記憶する。この記憶部462には、第3の実施の形態における状態管理テーブル381に代わる状態管理テーブル481とコンテナ記憶部82と設けられている。
【0133】
このうち状態管理テーブル481は、
図15と対応する
図18に示すように、状態管理テーブル381に設けられていた各項目に加えて、処理能力の項目が設けられている。この処理能力は、各AIエッジ装置411の制御部421における演算処理能力を数値により表したものであり、この数値が大きいほど、処理能力が高いことを表している。
【0134】
また処理システム401では、第1~第3の実施の形態と同様に、テーブル更新処理(
図6)を行うことにより、各AIエッジ装置411から送信される状態情報を基に、状態管理テーブル381(
図15)を逐次更新するようになっている。
【0135】
[4-2.管理処理]
ところで処理システム401では、管理サーバ431による各AIエッジ装置411の管理に関して、第1の実施の形態及び第2の実施の形態を組み合わせたような処理を行うものの、第3の実施の形態とは一部異なる処理を行うようになっている。
【0136】
すなわち処理システム401では、動作状態のAIエッジ装置411において異常が発生した場合には、第1及び第3の実施の形態と同様に、待機状態である他のAIエッジ装置411にその処理を引き継いで実行させる。一方、処理システム401では、AI処理を実行中のAIエッジ装置411においてリソースの使用率が高まった場合、他のAIエッジ装置411に該AI処理の一部を割り当てて実行させ(以下これを分散割当処理と呼ぶ)、又は全部を割り当てて実行させる(以下これを一括割当処理と呼ぶ)ようになっている。
【0137】
このうち分散割当処理は、第2の実施の形態における割当変更処理(
図12)とほぼ同様の処理となっている。一方、一括割当処理は、第2の実施の形態における割当変更処理と一部異なる処理となっている。
【0138】
ここでは、AIエッジ装置411Aにおいてリソースの使用率が高まり、AIエッジ装置411Bに該AI処理を全部割り当てて実行させる場合、すなわち一括割当処理を行う場合を例に、
図12と対応する
図19のシーケンスチャートを参照しながら、具体的な処理を説明する。また以下では、AIエッジ装置411Aを割当元とも呼び、AIエッジ装置411Bを割当先とも呼ぶ。
【0139】
割当元のAIエッジ装置411Aの制御部421は、リソース条件を満たしたと判定した場合、記憶部22から所定の割当元プログラムを読み出して実行することにより、割当元処理手順RT43を実行する。また管理サーバ431の制御部461は、記憶部462から所定の割当管理プログラムを読み出して実行することにより、割当管理処理手順RT44を実行する。さらに割当先のAIエッジ装置411Bの制御部421は、記憶部22から所定の割当元プログラムを読み出して実行することにより、割当先処理手順RT45を実行する。
【0140】
割当元となるAIエッジ装置411Aの制御部421は、割当元処理手順RT43において、割当元処理手順RT23(
図12)と概ね同様の処理を行うものの、ステップSP432において準備する割当データ、及びステップSP433において送信する割当データが、AI処理の一部ではなく全部となっている。
【0141】
管理サーバ431の制御部461は、割当管理処理手順RT44において、割当管理処理手順RT24(
図12)と概ね同様の処理を行う。ただし制御部461は、ステップSP442において分散割当通知ではなく一括割当通知を送信し、ステップSP444において分散割当完了通知ではなく一括割当完了通知を送信するようになっている。
【0142】
割当先となるAIエッジ装置411Bの制御部421は、割当先処理手順RT45において、割当先処理手順RT25(
図12)と概ね同様の処理を行うものの、ステップSP265に相当する処理を行うことなく、割当先処理手順RT45を終了するようになっている。
【0143】
さらに処理システム401では、AIエッジ装置411において
図16と対応する
図20に示す切替割当要求処理を実行すると共に、管理サーバ431において
図17と対応する
図21に示す切替割当管理処理を実行するようになっている。以下では、AIエッジ装置411Aを例に説明する。
【0144】
具体的にAIエッジ装置411Aの制御部421(
図2)は、記憶部22から所定のプログラムを読み出すことにより、切替割当要求処理RT46(
図20)を開始して最初のステップSP461に移る。制御部421は、ステップSP461、SP462及びSP463において、切替割当要求処理RT36(
図16)のステップSP361、SP362及びSP363と同様の処理をそれぞれ行うことにより、異常が発生した場合にサブルーチンとして切替元処理手順RT13(
図7)を行い、次のステップSP468に移る。
【0145】
一方、ステップSP463において肯定結果が得られると、制御部421は、次のステップSP464に移り、割当元処理手順RT23(
図12)のステップSP231と同様、管理サーバ431に対して割当要求を送信して、その次のステップSP465に移る。これに応じて管理サーバ431では、後述するように、分割割当処理又は一括割当処理の何れを行うかを決定した上で、該AIエッジ装置411Aに対して分割割当通知又は一括割当通知を送信する。
【0146】
ステップSP465において制御部421は、管理サーバ431から分割割当通知を受信したか否かを判定する。ここで肯定結果が得られると、このことは当該AIエッジ装置411AにおいてAI処理を継続すると共に、その一部を他のAIエッジ装置411に分担させることを表している。このとき制御部421は、次のステップSP466に移る。
【0147】
ステップSP466において制御部421は、分割割当移行処理を行い、次のステップSP468に移る。具体的に制御部421は、サブルーチンとして、第2の実施の形態と同様の割当元処理手順RT23(
図12)のうち、ステップSP232以降の処理を実行する。
【0148】
一方、ステップSP465において否定結果が得られると、このことは当該AIエッジ装置411AにおけるAI処理が一括して他のAIエッジ装置411に割り当てられたこと、すなわち当該AIエッジ装置411AにおけるAI処理を終了すべきであることを表している。このとき制御部421は、次のステップSP467に移る。ステップSP467において制御部421は、一括割当移行処理を行い、次のステップSP468に移る。具体的に制御部421は、サブルーチンとして、上述した割当元処理手順RT43(
図19)のうち、ステップSP432以降の処理を実行する。
【0149】
ステップSP468において制御部421は、切替割当要求処理RT46を終了する。因みに制御部421は、第3の実施の形態と同様、所定の周期ごとに切替割当要求処理RT46を繰り返し実行するようになっている。
【0150】
また、管理サーバ431の制御部461(
図14)は、記憶部462から所定のプログラムを読み出すことにより、切替割当管理処理RT47(
図21)を開始して最初のステップSP471に移る。
【0151】
制御部461は、ステップSP471、SP472及びSP473において、切替割当管理処理RT37(
図17)のステップSP371、SP372及びSP373と同様の処理をそれぞれ行うことにより、切替要求を受信した場合にサブルーチンとして切替管理処理手順RT14(
図7)を行い、次のステップSP478に移る。
【0152】
一方、ステップSP473において肯定結果が得られると、制御部461は、次のステップSP474に移り、割当方式決定処理を行って、その次のステップSP475に移る。具体的に制御部461は、割当管理部473(
図14)により、状態管理テーブル481に格納されている各AIエッジ装置411における各リソースの使用率や処理能力等を参照し、それぞれの値を所定の計算式に当てはめた演算処理を行う。その上で割当管理部473は、割当元であるAIエッジ装置411Aにおいて実行されているAI処理について、分散割当処理及び一括割当処理の何れを採用すべきであるかを決定する。
【0153】
ステップSP475において制御部461は、分散割当処理を行うか否か、すなわち直前の割当方式決定処理による決定結果が分散割当処理であるか否かを判定する。ここで肯定結果が得られると、制御部461は次のステップSP476に移り、分散割当管理処理を行って、次のステップSP478に移る。具体的に制御部461は、サブルーチンとして、第2の実施の形態と同様の割当管理処理手順RT24(
図12)のうちステップSP242以降の処理を実行する。これにより制御部461は、これまでAIエッジ装置411Aにより実行していたAI処理の一部を、他のAIエッジ装置411(例えばAIエッジ装置411B)に割り当てて実行させること、すなわち処理を分散することができる。
【0154】
一方、ステップSP475において否定結果が得られると、制御部461は次のステップSP477に移り、一括割当管理処理を行って、次のステップSP478に移る。具体的に制御部461は、サブルーチンとして、上述した割当管理処理手順RT44(
図19)のうちステップSP442以降の処理を実行する。これにより制御部461は、これまでAIエッジ装置411Aにより実行していたAI処理の全部を、他のAIエッジ装置411(例えばAIエッジ装置411B)に割り当てて実行させること、すなわち処理を一括して実行させることができる。
【0155】
一方、ステップSP473において否定結果が得られると、このことは各AIエッジ装置411によるAI処理を継続すべきであることを表している。このとき制御部461は、次のステップSP478に移る。ステップSP478において制御部461は、切替割当管理処理RT47を終了する。因みに制御部461は、所定の周期ごとに切替割当管理処理RT47を繰り返し実行するようになっている。
【0156】
[4-3.効果等]
以上の構成において、第4の実施の形態による処理システム401では、動作状態であるAIエッジ装置411Aが異常を検出した場合、管理サーバ431が、待機状態であるAIエッジ装置411Bを切替先として選定し、AI処理を引き継いで実行させる。また処理システム401では、AI処理を実行しているAIエッジ装置411Aにおいてリソースの使用率が高まった場合、管理サーバ431が他のAIエッジ装置411Bを選定し、当該AI処理を一括して、又は分散して実行させる。
【0157】
これにより処理システム401では、AIエッジ装置411Aにおいて異常が発生した場合、切替先に選定されたAIエッジ装置411Bにより、直ちにコンテナ46Aをデプロイして実行できるため、センサ装置312において生成されるデータに対するAI処理を継続することができる。
【0158】
また処理システム401では、AIエッジ装置411Aにおいてリソースの使用率が高まった場合、割当先に選定されたAIエッジ装置411Bにより、直ちにコンテナ46AをデプロイしてAI処理の全部又は一部を実行できる。このため処理システム401では、AIエッジ装置411AにおけるAI処理の遅延やデータのオーバーフロー等を未然に防止でき、AI処理を円滑に進めることができる。
【0159】
特に処理システム401では、管理サーバ431が各AIエッジ装置411の処理能力やリソースの使用率等を参酌することにより、AI処理を複数のAIエッジ装置411により分割して実行すべきか、或いは1台のAIエッジ装置411により一括して実行すべきかを適切に判定できる。このため処理システム401では、システム全体としてAI処理を効率良く実行でき、比較的短い時間により多くの分析データを生成することができる。
【0160】
その他の点においても、処理システム401では、第1及~第3の実施の形態と同様の作用効果を奏し得る。
【0161】
以上の構成によれば、第4の実施の形態による処理システム401では、AIエッジ装置411Aが異常を検出した場合、管理サーバ431の管理の下で、他のAIエッジ装置411Bを切替先としてAI処理を実行させる。また処理システム401では、AIエッジ装置411Aにおいてリソースの使用率が高まった場合、管理サーバ431の管理の下で、他のAIエッジ装置411Bを割当先としてAI処理の一部又は全部を実行させる。このため処理システム401では、各AIエッジ装置411においてAI処理を継続できない場合に、直ちに他のAIエッジ装置411を適切に選定して切替や割当を行うことができるので、AI処理を殆ど途切れさせることなく、分析データの生成や供給を円滑に継続できる。
【0162】
[5.他の実施の形態]
なお上述した第1の実施の形態においては、状態切替処理(
図7)において、切替先としてAIエッジ装置11Bを選定した後に、管理サーバ31からAIエッジ装置11Bにコンテナ46Aを送信してデプロイさせる場合について述べた。しかし本発明はこれに限らず、例えばAIエッジ装置11Aと同一の1組に属し、且つ同一のセンサ装置12Aに接続されているAIエッジ装置11Bに、該AIエッジ装置11Aと同一のコンテナ46Aをデプロイさせておいても良い。この場合、切替先としてAIエッジ装置11Bを選定した後に、該AIエッジ装置11Bによりコンテナ46AによるAI処理を直ちに開始させることができる。第3及び第4の実施の形態についても同様である。
【0163】
また上述した実施の形態においては、状態切替処理(
図7)において、管理サーバ31が切替先を選定する際に、切替元のAIエッジ装置11Aと同一の1組に属し、同一のセンサ装置12Aに接続されていることを条件に、AIエッジ装置11Bを選定する場合について述べた。しかし本発明はこれに限らず、例えば3台以上のAIエッジ装置11により1組を構成して同一のセンサ装置12Aに接続されている場合に、第2の実施の形態と同様にそれぞれにおけるリソースの使用率を予め取得しておき、これを基に選定する等、種々の指標を基に選定しても良い。若しくは、例えば各AIエッジ装置11のストレージの空容量を予め取得しておき、コンテナ46のデプロイに必要な容量よりも空き容量が大きいAIエッジ装置11を選定しても良い。或いは、例えば切替元のAIエッジ装置11Aにおいて複数のコンテナ46が実行されていた場合に、切替先として複数のAIエッジ装置11を選定し、各コンテナ46を適宜振り分けて実行させても良い。第3及び第4の実施の形態についても同様である。
【0164】
さらに上述した第1の実施の形態においては、VPUの温度が所定の閾値を超えて異常を検出した場合に、AI処理を実行するAIエッジ装置11を、切替元のAIエッジ装置11Aから切替先のAIエッジ装置11Bに切り替える切替処理を行う場合について述べた。しかし本発明はこれに限らず、例えば制御部21から記憶部22にアクセスできなくなった場合や、センサ装置12Aとの接続が切断されて復旧しない場合等、種々の異常を検出した場合に、切替処理を行うようにしても良い。或いは、例えば管理端末装置32(
図1)を保守作業者が操作して各AIエッジ装置11の状態を確認し、故障の可能性が高いAIエッジ装置11がある場合等に、当該管理端末装置32から管理サーバ31に対し、ステップSP31(
図7)と同様の切替要求を送信し、これをトリガとしてその後の状態切替処理を行うようにしても良い。第2、第3及び第4の実施の形態についても同様である。
【0165】
さらに上述した第1の実施の形態においては、状態切替処理(
図7)において、切替元のAIエッジ装置11Aにおいて異常を検出し、該AIエッジ装置11Aから管理サーバ31へ切替要求が送信されたことをトリガとして、状態切替処理を行う場合について述べた。しかし本発明はこれに限らず、例えば管理サーバ31が各AIエッジ装置11に対して情報を送信し、これに対する応答を受信する死活監視処理を定期的に行い、該応答が得られなかったことをトリガとする等、管理サーバ31側の判断をトリガとして状態切替処理を行っても良い。また第2の実施の形態において、各AIエッジ装置211がリソース条件を満たすか否かを、管理サーバ231において判定した上で、必要に応じて割当変更処理を開始するようにしても良い。第3及び第4の実施の形態についても同様である。
【0166】
さらに上述した第2の実施の形態においては、各AIエッジ装置211におけるリソースの使用率として、CPU、VPU、メモリ及びストレージの使用率を状態管理テーブル281(
図11)に格納する場合について述べた。しかし本発明はこれに限らず、CPU、VPU、メモリ及びストレージの一部を省略しても良く、若しくは例えば通信部23における単位時間あたりの通信量等、他の種々の項目を追加しても良い。或いは、例えばAIエッジ装置211内に種々のセンサ等を設けることにより、CPU及びVPUの温度や、所定の電源回路(図示せず)から供給される電源電圧、若しくは消費電力等を状態情報に含め、状態管理テーブル281にその項目を追加しても良い。、第3及び第4の実施の形態についても同様である。
【0167】
さらに上述した第2の実施の形態においては、割当変更処理(
図12)のステップSP241において、VPUの使用率が最も低いAIエッジ装置211を割当先として選定する場合について述べた。しかし本発明はこれに限らず、例えばコンテナ46ごとに必要とするCPU、VPU、メモリ及びストレージの使用量や容量等を予め記憶しておき、新たに割り当てるコンテナ46におけるCPU、VPU、メモリ及びストレージの使用量や容量と、状態管理テーブル281に格納されている各リソースの値、例えばストレージの空容量とを基に、最適な割当先を選定しても良い。例えば、AIエッジ装置211におけるストレージの空容量が、コンテナ46の実行に必要なストレージの容量よりも大きい場合に、当該AIエッジ装置211を割当先として選定しても良い。或いは、例えば所定のシミュレーション処理を行い、当該コンテナ46を実行した場合にCPUやVPUの使用量を最も低く抑え得るAIエッジ装置211を割当先として選定しても良い。第3及び第4の実施の形態についても同様である。
【0168】
さらに上述した第2の実施の形態においては、割当変更処理(
図12)において、割当先として1台のAIエッジ装置211のみを選定する場合について述べた。しかし本発明はこれに限らず、例えば2台以上のAIエッジ装置211を割当先として選定しても良い。第3及び第4の実施の形態についても同様である。
【0169】
さらに上述した第1の実施の形態においては、AIエッジ装置11に対してセンサ装置12をUSBやBluetooth(登録商標)等の通信手段により接続する場合について述べた。しかし本発明はこれに限らず、各AIエッジ装置11と各センサ装置12とを接続するネットワークを構築しても良い。この場合、例えばIEEE802.3等の規格に準拠した有線LANや、IEEE802.11に準拠した無線LAN、或いは第3の実施の形態と同様にIEEE802.15.4等の規格に準拠した無線ネットワークを構築することができる。或いは、各センサ装置12をAIエッジ装置11やルータ13と共にネットワーク10に接続しても良い。これらの場合、各AIエッジ装置11が全てのセンサ装置12と接続可能であるため、状態管理テーブル81(
図5)からセンサの項目を省略しても良い。第3及び第4の実施の形態についても同様である。
【0170】
さらに上述した第1の実施の形態においては、センサ装置12に温度センサや湿度センサ等の各種センサを設ける場合について述べた。しかし本発明はこれに限らず、例えばレンズや撮像素子を有して動画像又は静止画像を撮像する撮像部(いわゆるカメラ)や、マイクロホン等を有して音声を録音する録音部等、種々の素子をセンサ装置12に設けることにより、種々のデータを生成しても良い。第2~第4の実施の形態についても同様である。例えば、第3の実施の形態において、ネットワーク310をIEEE802.11に準拠した無線LANとし、センサ装置312をネットワークカメラやIPカメラと呼ばれる機器、すなわちネットワーク310に接続可能であり撮像部を有する構成とすることもできる。この場合、センサ装置312の撮像部により撮像された画像(動画像や静止画像等)をデータとして、ネットワーク310を介してAIエッジ装置311に供給することができる。
【0171】
さらに上述した第1の実施の形態においては、管理サーバ31を管理センター3に設置する場合について述べた。しかし本発明はこれに限らず、例えば管理サーバ31を設置現場2に設置してネットワーク10に接続しても良い。第2~第4の実施の形態についても同様である。
【0172】
さらに上述した第1の実施の形態においては、AIエッジ装置11の記憶部22に切替元プログラムを予め記憶させておき、制御部21がこれを読み出して実行する場合について述べた。しかし本発明はこれに限らず、例えば管理サーバ31や広域ネットワーク4に接続された所定のサーバ装置(図示せず)から切替元プログラムを取得(ダウンロード)して実行しても良い。第2、第3及び第4の実施の形態についても同様である。
【0173】
さらに上述した第1の実施の形態においては、処理システム1(
図1)に1箇所の設置現場2及び1箇所の管理センター3を設ける場合について述べた。しかし本発明はこれに限らず、例えば設置現場2を2箇所以上設けても良く、また管理センター3を2箇所以上設けても良い。第2~第4の実施の形態についても同様である。
【0174】
さらに本発明は、上述した各実施の形態及び他の実施の形態に限定されるものではない。すなわち本発明は、上述した各実施の形態と上述した他の実施の形態の一部又は全部を任意に組み合わせた実施の形態や、一部を抽出した実施の形態にもその適用範囲が及ぶものである。
【0175】
さらに上述した実施の形態においては、複数のAIエッジ装置11と、管理装置としての管理サーバ31とを接続し、取得部としての状態管理部71と、検出部及び実行部としての制御部61と、選定部としての切替管理部72とによって処理システムとしての処理システム1を構成する場合について述べた。しかし本発明はこれに限らず、その他種々の構成でなる取得部と、検出部と、選定部と、実行部とによって処理システムを構成しても良い。
【産業上の利用可能性】
【0176】
本発明は、例えば複数のAIエッジ装置によりAI処理を行う処理システムで利用できる。
【符号の説明】
【0177】
1、201、301、401……処理システム、11、211、311、411……AIエッジ装置、12、212、312……センサ装置、21、221、321、421……制御部、22、222……記憶部、31、231、331、431……管理サーバ、46……コンテナ、61、261、361、461……制御部、62、262、362、462……記憶部、71……状態管理部、72……切替管理部、81、281、381、481……状態管理テーブル、82……コンテナ記憶部、273、473……割当管理部。