(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023125414
(43)【公開日】2023-09-07
(54)【発明の名称】信号処理装置、信号処理方法、データ構造、データ製造方法
(51)【国際特許分類】
H04N 23/60 20230101AFI20230831BHJP
【FI】
H04N5/232 290
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022029483
(22)【出願日】2022-02-28
(71)【出願人】
【識別番号】316005926
【氏名又は名称】ソニーセミコンダクタソリューションズ株式会社
(74)【代理人】
【識別番号】100116942
【弁理士】
【氏名又は名称】岩田 雅信
(74)【代理人】
【識別番号】100167704
【弁理士】
【氏名又は名称】中川 裕人
(72)【発明者】
【氏名】川崎 凌平
【テーマコード(参考)】
5C122
【Fターム(参考)】
5C122DA11
5C122EA07
5C122FH08
5C122FH11
5C122FH14
5C122GC14
5C122GC38
5C122HA23
5C122HA40
5C122HA46
5C122HA48
5C122HB01
(57)【要約】
【課題】AI処理機能を有さない撮像システムにAI処理機能を追加させることのできる信号処理装置を実現しつつ、該撮像システムにおいて実現可能なAI処理の自由度向上を図る。
【解決手段】本技術に係る信号処理装置は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、画像処理部が得るべき画像を指示するための画像指示データに基づき画像処理部の設定制御を行い、AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づきAI処理部に対するAIモデルの設定制御を行う制御部と、AI処理部によるAI処理結果を示す情報を外部に送信する送信部とを備えている。
【選択図】
図3
【特許請求の範囲】
【請求項1】
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、
外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、
前記画像処理部が得るべき画像を指示するための画像指示データに基づき前記画像処理部の設定制御を行い、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行う制御部と、
前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備える
信号処理装置。
【請求項2】
前記画像処理部は、前記撮像画像に対する処理として画像形式変換処理を実行可能とされた
請求項1に記載の信号処理装置。
【請求項3】
前記画像処理部は、前記撮像画像に対する処理としてデータサイズ調整処理を実行可能とされた
請求項1に記載の信号処理装置。
【請求項4】
外部装置より前記撮像画像を受信する第一受信部を備え、
前記画像処理部には、前記第一受信部を介して前記撮像画像が入力され、
前記送信部は、前記AI処理結果を示す情報を前記外部装置に送信する
請求項1に記載の信号処理装置。
【請求項5】
圧縮エンコード処理された前記撮像画像についてデコード処理を行うデコード部を備えた
請求項4に記載の信号処理装置。
【請求項6】
外部の撮像素子より前記撮像画像を受信する第二受信部を備え、
前記画像処理部には、前記第二受信部を介して前記撮像画像が入力される
請求項1に記載の信号処理装置。
【請求項7】
外部装置より前記撮像画像を受信する第一受信部と、外部の撮像素子より前記撮像画像を受信する第二受信部の双方を備えた
請求項1に記載の信号処理装置。
【請求項8】
前記AIモデル指示データ及び前記画像指示データが暗号化データとして外部装置より送信され、
前記制御部は、
前記外部装置より受信された前記暗号化データを予め定められた鍵情報を用いて復号化する
請求項1に記載の信号処理装置。
【請求項9】
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置が実行する信号処理方法であって、
前記画像処理部が得るべき画像を指示するための画像指示データに基づき前記画像処理部の設定制御を行い、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行う処理を、前記信号処理装置が実行する
信号処理方法。
【請求項10】
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータ構造であって、
前記画像処理部が得るべき画像を指示するための画像指示データと、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含み、
前記信号処理装置が、
前記画像指示データに基づき前記画像処理部の設定制御を行い、前記AIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行うために用いられる
データ構造。
【請求項11】
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータであって、
前記画像処理部が得るべき画像を指示するための画像指示データと、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含むデータを製造する
データ製造方法。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、入力画像に対してAI(Artificial Intelligence)モデルを用いた処理であるAI処理を行う信号処理装置とその方法、及び信号処理装置に用いられるデータについてのデータ構造、データ製造方法に関する。
【背景技術】
【0002】
例えば下記特許文献1等に開示されるように、DNN(Deep Neural Network)等のAI(Artificial Intelligence)モデルを用いた処理(以下「AI処理」と表記する)を行う技術がある。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ここで、AI処理機能をカメラに持たせることが考えられる。具体的には、撮像画像についてAIモデルを用いた画像認識処理を行う機能を有したカメラ等である。
例えば、AI処理機能付きのカメラを監視カメラとして複数配置し、各カメラで行われた撮像画像についての画像認識処理(例えば、人物や車両等の監視対象物の認識処理)の結果をユーザの情報処理装置に送信し、該情報処理装置において監視対象物の動き等を解析するというシステムを構築すること等が考えられる。
各カメラがAI処理機能を有していることで、監視対象物の解析を行うにあたり、情報処理装置が各カメラからの撮像画像を受信してAI処理を行うという必要がなくなり、情報処理装置の処理負担軽減を図ることができる。また、各カメラから情報処理装置に撮像画像を送信する必要を無くすことができるため、監視対象物の解析を実現する上でのデータ通信量の削減も図られる。さらに、撮像画像の送信が不要となることで、画像流出に伴う被写体のプライバイシー侵害発生防止を図ることもできる。
【0005】
ここで、上記のようなAI処理機能付きの撮像システムを管理するビジネスを考える。具体的には、例えばAI処理機能を実現するためのAIモデルの販売やAIモデルのアップデートサービス等、AI処理機能付きの撮像システムを管理するビジネスである。
このようなビジネスを考えた場合、売り上げ向上のためには、顧客となる撮像システムの所有者数を増大できることが望ましい。このとき、顧客にAI処理機能付きの撮像システムを新たに導入させることはインパクトコストが大きいため困難性を伴う。一方で、AI処理機能を有さない撮像システムの所有者は一定数存在している。そのようなAI処理機能を有さない撮像システムについて、AI処理機能を追加させることができれば、顧客数の増大化を図り易くなり、ビジネス的なメリットなる。
【0006】
本技術は上記事情に鑑み為されたものであり、AI処理機能を有さない撮像システムにAI処理機能を追加させることのできる信号処理装置を実現しつつ、該撮像システムにおいて実現可能なAI処理の自由度向上を図ることを目的とする。
【課題を解決するための手段】
【0007】
本技術に係る信号処理装置は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記画像処理部が得るべき画像を指示するための画像指示データに基づき前記画像処理部の設定制御を行い、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行う制御部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えるものである。
上記構成により、本技術に係る信号処理装置においては、外部より入力された撮像画像についてAI処理部がAI処理を行い、送信部がAI処理結果を示す情報を外部に送信可能とされる。このため、本技術に係る信号処理装置によれば、撮像画像についてのAI処理機能を有さない撮像システムを、AI処理機能を有する撮像システムとして機能させることが可能となる。その上で、上記構成の信号処理装置によれば、AIモデル指示データにより、AI処理部に実行させるAI処理の種類を選択的に設定可能となると共に、画像指示データを用いた指示により、実行するAI処理が前提とする入力画像条件に応じた適切な種類の画像をAI処理部に入力させることが可能となる。
【0008】
また、本技術に係る信号処理方法は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置が実行する信号処理方法であって、前記画像処理部が得るべき画像を指示するための画像指示データに基づき前記画像処理部の設定制御を行い、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行う処理を、前記信号処理装置が実行する信号処理方法である。
このような信号処理方法により、上記した本技術に係る信号処理装置が実現される。
【0009】
本技術に係るデータ構造は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータ構造であって、前記画像処理部が得るべき画像を指示するための画像指示データと、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含み、前記信号処理装置が、前記画像指示データに基づき前記画像処理部の設定制御を行い、前記AIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行うために用いられるものである。
上記構造によるデータを用いることで、上記した本技術に係る信号処理装置の処理を実現することが可能となる。
【0010】
本技術に係るデータ製造方法は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータであって、前記画像処理部が得るべき画像を指示するための画像指示データと、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含むデータを製造するものである。
このようなデータ製造方法により、上記した本技術に係る信号処理装置の処理を実現するためのデータが生成される。
【図面の簡単な説明】
【0011】
【
図1】第一実施形態としての情報処理システムの概要構成例を示したブロック図である。
【
図2】実施形態の情報処理システムが有する情報処理装置のハードウェア構成例を示したブロック図である。
【
図3】第一実施形態としての信号処理装置の構成例を説明するための図である。
【
図4】実施形態におけるサーバ装置が有する各種機能を説明するための機能ブロック図である。
【
図5】実施形態におけるAIモデルの入力画像条件についての説明図である。
【
図6】実施形態における信号処理装置へのデプロイデータを模式的に示した図である。
【
図7】画像指示データ、AIモデル指示データに基づく画像処理部、AI処理部の設定制御を模式化して示した図である。
【
図8】実施形態としての情報処理システムにおけるユーザのアカウント登録時に対応した処理のフローチャートである。
【
図9】実施形態としての情報処理システムにおけるAIモデルの購入からデプロイまでに対応した処理のフローチャートである。
【
図10】AI処理結果を示す情報をカメラに返信するための処理例を示したフローチャートである。
【
図11】第二実施形態としての情報処理システムの構成例を説明するための図である。
【
図12】第三実施形態としての情報処理システムの概略構成例を示したブロック図である。
【
図13】第三実施形態としての情報処理システムに設けられるカメラの内部構成例を示したブロック図である。
【
図14】第三実施形態の変形例としての信号処理装置の内部構成例を示したブロック図である。
【
図16】実施形態としての信号処理装置を対象としたAI処理に係るテストの説明図である。
【発明を実施するための形態】
【0012】
以下、添付図面を参照し、本技術に係る情報処理装置の実施の形態を次の順序で説明する。
<1.第一実施形態>
(1-1.システム全体構成)
(1-2.情報処理装置の構成)
(1-3.信号処理装置の構成)
(1-4.実施形態としての情報処理例)
<2.第二実施形態>
<3.第三実施形態>
<4.変形例>
<5.実施形態のまとめ>
<6.本技術>
【0013】
<1.第一実施形態>
(1-1.システム全体構成)
図1は、本技術に係る第一実施形態としての情報処理システム100の概略構成例を示したブロック図である。
図示のように情報処理システム100は、サーバ装置1と、一又は複数のユーザ端末2と、複数のカメラ3と、フォグサーバ4と、カメラ3ごとに設けられた信号処理装置5と、AI(Artificial Intelligence:人工知能)モデル開発者端末6とを備えている。本例において、サーバ装置1は、ユーザ端末2、フォグサーバ4、信号処理装置5、及びAIモデル開発者端末6との間で例えばインターネット等とされたネットワークNTを介した相互通信を行うことが可能に構成されている。
【0014】
サーバ装置1、ユーザ端末2、フォグサーバ4、及びAIモデル開発者端末6は、CPU(Central Processing Unit)、ROM(Read Only Memory)、及びRAM( Random Access Memory)を有するマイクロコンピュータを備えた情報処理装置として構成されている。
【0015】
ここで、ユーザ端末2は、情報処理システム100を用いたサービスの受け手であるユーザによって使用されることが想定される情報処理装置である。また、サーバ装置1は、サービスの提供者によって使用されることが想定される情報処理装置である。
【0016】
各カメラ3は、例えばCCD(Charge Coupled Device)型イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)型イメージセンサ等のイメージセンサを備え、被写体を撮像してデジタルデータとしての画像データ(撮像画像データ)を得る。
各カメラ3は、フォグサーバ4とデータ通信可能に構成され、フォグサーバ4を介して、ネットワークNTに接続された外部装置(特にサーバ装置1)との間で各種データのやりとりを行うことが可能とされる。
【0017】
また、各カメラ3は、それぞれ対応する信号処理装置5と通信可能に接続され、信号処理装置5との間でデータのやりとりを行うことが可能とされる。本例では、それぞれのカメラ3と信号処理装置5との間の接続は、USB(Universal Serial Bus)接続とされる。すなわち、カメラ3と信号処理装置5との間の接続は、USBケーブルを介した有線接続とされる。
なお、カメラ3と信号処理装置5との間は有線接続に限らず無線接続であってもよい。また、通信規格については特に限定されない。
【0018】
各信号処理装置5は、入力画像に対してAIモデル(人工知能モデル)を用いた処理であるAI処理を行う機能を有している。具体的には、カメラ3で得られた撮像画像を入力し、該撮像画像を対象として例えば画像認識処理等のAI処理を行い、AI処理結果を示す情報を得る。
そして、本実施形態における信号処理装置5は、AI処理結果を示す情報を、撮像画像の入力元となるカメラ3に対して送信する。
これにより、AI処理機能を有さないカメラ3を、あたかもAI処理機能付きのカメラのように機能させることができる。
【0019】
本実施形態では、各カメラ3は、上記のように信号処理装置5から返信されたAI処理結果を示す情報を、フォグサーバ4に送信する。これにより、フォグサーバ4は、AI処理結果を示す情報をサーバ装置1等、ネットワークNTに接続された外部装置に送信することが可能とされる。
【0020】
また、本例において信号処理装置5は、ネットワーク通信機能を有しており、ネットワークNTに接続された外部装置との間でデータ通信を行うことが可能とされる。これにより信号処理装置5は、後述するようにサーバ装置1からAIモデルのデータ等の各種データを受信したり、サーバ装置1に対し各種データを送信したりすることが可能とされる。
【0021】
ここで、
図1に示す情報処理システム100では、信号処理装置5ごと(つまりカメラ3ごと)に得られたAI処理結果を示す情報が、被写体の分析に用いられる。具体的に、情報処理システム100では、上記のように各カメラ3が送出するAI処理結果を示す情報に基づいて、サーバ装置1、又はフォグサーバ4が、被写体の分析情報を生成する。そして、本例の情報処理システム100では、このように生成された分析情報がユーザ端末2に送信され、ユーザが該分析情報を閲覧可能とされる。
【0022】
ここで、各カメラ3の用途としては、各種の監視カメラの用途が考えられる。例えば、店舗やオフィス、住宅等の屋内についての監視カメラ、駐車場や街中等の屋外を監視するための監視カメラ(交通監視カメラ等を含む)、FA(Factory Automation)やIA(Industrial Automation)における製造ラインの監視カメラ、車内や車外を監視する監視カメラ等の用途を挙げることができる。
【0023】
例えば、店舗における監視カメラの用途であれば、複数のカメラ3を店舗内の所定位置にそれぞれ配置し、ユーザが来店客の客層(性別や年齢層など)や店舗内での行動(動線)等を確認できるようにすることが考えられる。その場合、上記した分析情報としては、これら来店客の客層の情報や店舗内での動線の情報、及び精算レジにおける混雑状態の情報(例えば、精算レジの待ち時間情報)等を生成することが考えられる。
或いは、交通監視カメラの用途であれば、各カメラ3を道路近傍の各位置に配置し、ユーザが通過車両についてのナンバー(車両番号)や車の色、車種等の情報を認識できるようにすることが考えられ、その場合、上記した分析情報としては、これらナンバーや車の色、車種等の情報を生成することが考えられる。
【0024】
また、駐車場に交通監視カメラを用いた場合は、駐車されている各車両を監視できるようにカメラを配置し、不審な行動をしている不審者が各車両の周りにいないかなどを監視し、不審者がいた場合には、不審者がいることやその不審者の属性(性別や年齢層、服装等)などを通知することが考えられる。
さらに、街中や駐車場の空きスペースを監視して、ユーザに車を駐車できるスペースの場所を通知すること等も考えられる。
【0025】
なお、フォグサーバ4は、例えば上記した店舗の監視用途においては各カメラ3(及び信号処理装置5)と共に監視対象の店舗内に配置される等、監視対象ごとに配置されることが想定される。このように店舗などの監視対象ごとにフォグサーバ4を設けることで、監視対象における複数のカメラ3からの送信データをサーバ装置1が直接受信する必要がなくなり、サーバ装置1の処理負担軽減が図られる。
【0026】
なお、フォグサーバ4は、監視対象とする店舗が複数あり、それら店舗が全て同一系列に属する店舗である場合には、店舗ごとに設けるのではなく、それら複数の店舗につき一つ設けることも考えられる。すなわち、フォグサーバ4は、監視対象ごとに一つ設けることに限定されず、複数の監視対象に対して一つのフォグサーバ4を設けることも可能なものである。
【0027】
なお、サーバ装置1、又は各カメラ3や各信号処理装置5側に処理能力があるなどの理由で、フォグサーバ4の機能をサーバ装置1、各カメラ3、又は各信号処理装置5に持たせることができる場合は、情報処理システム100においてフォグサーバ4を省略し、各カメラ3を直接ネットワークNTに接続させて、複数のカメラ3からの送信データをサーバ装置1が直接受信するようにしてもよい。
【0028】
サーバ装置1は、情報処理システム100を統括的に管理する機能を有する情報処理装置とされる。
サーバ装置1は、情報処理システム100の管理に係る機能として、図示のようにライセンスオーソリ機能F1、アカウントサービス機能F2、マーケットプレイス機能F3、及びAIサービス機能F4を有する。
【0029】
ライセンスオーソリ機能F1は、各種の認証に係る処理を行う機能である。具体的に、ライセンスオーソリ機能F1では、各信号処理装置5のデバイス認証に係る処理や、各信号処理装置5で使用されるAIモデルについての認証に係る処理が行われる。
【0030】
ライセンスオーソリ機能F1において、デバイス認証については、信号処理装置5とネットワークNTを介して接続された場合に、信号処理装置5ごとにデバイスIDを発行する処理が行われる。
また、AIモデルの認証については、AIモデル開発者端末6から登録申請されたAIモデルについて固有のID(AIモデルID)を発行する処理が行われる。
また、ライセンスオーソリ機能F1では、信号処理装置5やAIモデル開発者端末6とサーバ装置1との間でセキュアな通信が行われるようにするための各種の鍵や証明書等を信号処理装置5の製造業者やAIモデル開発者に発行する処理が行われると共に、証明効力の停止や更新のための処理も行われる。
さらに、ライセンスオーソリ機能F1では、以下で説明するアカウントサービス機能F2によりユーザ登録(ユーザIDの発行を伴うアカウント情報の登録)が行われた場合に、ユーザが購入した信号処理装置5(上記デバイスID)とユーザIDとを紐付ける処理も行われる。
【0031】
アカウントサービス機能F2は、ユーザのアカウント情報の生成や管理を行う機能である。アカウントサービス機能F2では、ユーザ情報の入力を受け付け、入力されたユーザ情報に基づいてアカウント情報を生成する(少なくともユーザIDとパスワード情報とを含むアカウント情報の生成を行う)。
また、アカウントサービス機能F2では、AIモデル開発者についての登録処理(アカウント情報の登録)も行われる。
【0032】
マーケットプレイス機能F3は、AIモデルを販売するための機能である。例えばユーザは、マーケットプレイス機能F3により提供される販売用のWEBサイト(販売用サイト)を介してAIモデルを購入することが可能とされる。
【0033】
AIサービス機能F4は、AI処理結果の利用に関するサービスをユーザに提供するための機能とされる。
このAIサービス機能F4の一つとしては、例えば、前述した分析情報の生成に係る機能を挙げることができる。すなわち、AI処理結果を示す情報に基づき被写体の分析情報を生成し、生成した分析情報をユーザ端末2を介してユーザに閲覧させるための処理を行う機能である。
【0034】
ここで、上記では、サーバ装置1単体でライセンスオーソリ機能F1、アカウントサービス機能F2、マーケットプレイス機能F3、及びAIサービス機能F4を実現する構成を例示したが、これらの機能を複数の情報処理装置が分担して実現する構成とすることも可能である。例えば、上記の機能をそれぞれ1台の情報処理装置が担う構成とすることが考えられる。或いは、上記した機能のうち単一の機能を複数の情報処理装置が分担して行うといったことも可能である。
【0035】
図1において、AIモデル開発者端末6は、AIモデルの開発者が使用する情報処理装置である。
本例において、サーバ装置1には、AIによる学習を行うための学習用データセットが用意されている。AIモデル開発者は、AIモデル開発者端末6を利用してサーバ装置1と通信を行い、これらの学習用データセットをダウンロードする。このとき、学習用データセットが有料で提供されてもよい。その場合、学習用データセットは、クラウド側の機能として用意されている前述したマーケットプレイス機能F3によりAIモデル開発者に販売することが可能である。
【0036】
AIモデル開発者は、学習用データセットを用いてAIモデルの開発を行った後、AIモデル開発者端末6を用いて開発済みのAIモデルをマーケットプレイス(マーケットプレイス機能F3により提供される販売サイト)に登録する。このとき、当該AIモデルがダウンロードされたことに応じてAIモデル開発者にインセンティブが支払われるようにしてもよい。
【0037】
ユーザは、ユーザ端末2を用いて、マーケットプレイスからAIモデルを購入することができる。この購入(ダウンロード)に応じて、AIモデル開発者にインセンティブが支払われるようにしてもよい。
ユーザは、購入したAIモデルを、信号処理装置5にインストールさせることができる。すなわち、自身が購入した信号処理装置5に、購入したAIモデルを用いたAI処理を実行させることができる。
【0038】
なお、クラウド側のマーケットプレイスにおいては、ユーザごとに最適化されたAIモデルがそれぞれ登録されていてもよい。具体的には、例えば、或るユーザが管理している店舗に配置されたカメラ3で撮像された撮像画像を、適宜クラウド側にアップロードさせて蓄積し、サーバ装置1が、アップロードされた撮像画像が一定枚数溜まるごとにAIモデルの再学習処理を行って、再学習後のAIモデルをマーケットプレイスに登録し直す等である。
【0039】
また、カメラ3からサーバ装置1にアップロードされる情報(例えば画像情報)に個人情報が含まれている場合には、プライバシーの保護の観点からプライバシーに関する情報を除かれたデータがアップロードされるようにしてもよいし、プライバシーに関する情報が除かれたデータをAIモデル開発者に利用させるようにしてもよい。
【0040】
(1-2.情報処理装置の構成)
図2は、サーバ装置1のハードウェア構成例を示したブロック図である。
図示のようにサーバ装置1は、CPU11を備えている。CPU11は、これまでにサーバ装置1の処理として説明した各種の処理を行う演算処理部として機能し、ROM12や例えばEEP-ROM(Electrically Erasable Programmable Read-Only Memory)などの不揮発性メモリ部14に記憶されているプログラム、又は記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。RAM13にはまた、CPU11が各種の処理を実行する上で必要なデータなども適宜記憶される。
【0041】
CPU11、ROM12、RAM13、及び不揮発性メモリ部14は、バス23を介して相互に接続されている。このバス23にはまた、入出力インタフェース(I/F)15も接続されている。
【0042】
入出力インタフェース15には、操作子や操作デバイスよりなる入力部16が接続される。例えば、入力部16としては、キーボード、マウス、キー、ダイヤル、タッチパネル、タッチパッド、リモートコントローラ等の各種の操作子や操作デバイスが想定される。
入力部16によりユーザの操作が検知され、入力された操作に応じた信号はCPU11によって解釈される。
【0043】
また入出力インタフェース15には、LCD(Liquid Crystal Display)或いは有機EL(Electro-Luminescence)パネルなどよりなる表示部17や、スピーカなどよりなる音声出力部18が一体又は別体として接続される。
表示部17は各種の情報表示に用いられ、例えばコンピュータ装置の筐体に設けられるディスプレイデバイスや、コンピュータ装置に接続される別体のディスプレイデバイス等により構成される。
【0044】
表示部17は、CPU11の指示に基づいて表示画面上に各種の画像処理のための画像や処理対象の動画等の表示を実行する。また表示部17はCPU11の指示に基づいて、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を行う。
【0045】
入出力インタフェース15には、HDD(Hard Disk Drive)や固体メモリなどより構成される記憶部19や、モデムなどより構成される通信部20が接続される場合もある。
【0046】
通信部20は、インターネット等の伝送路を介しての通信処理や、各種機器との有線/無線通信、バス通信などによる通信を行う。
【0047】
入出力インタフェース15にはまた、必要に応じてドライブ21が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブル記憶媒体22が適宜装着される。
【0048】
ドライブ21により、リムーバブル記憶媒体22から各処理に用いられるプログラム等のデータファイルなどを読み出すことができる。読み出されたデータファイルは記憶部19に記憶されたり、データファイルに含まれる画像や音声が表示部17や音声出力部18で出力されたりする。またリムーバブル記憶媒体22から読み出されたコンピュータプログラム等は必要に応じて記憶部19にインストールされる。
【0049】
上記のようなハードウェア構成を有するコンピュータ装置では、例えば本実施形態の処理のためのソフトウェアを、通信部20によるネットワーク通信やリムーバブル記憶媒体22を介してインストールすることができる。或いは、当該ソフトウェアは予めROM12や記憶部19等に記憶されていてもよい。
【0050】
CPU11が各種のプログラムに基づいて処理動作を行うことで、前述したサーバ装置1としての必要な情報処理や通信処理が実行される。
なお、サーバ装置1は、
図2のようなコンピュータ装置が単一で構成されることに限らず、複数のコンピュータ装置がシステム化されて構成されてもよい。複数のコンピュータ装置は、LAN(Local Area Network)等によりシステム化されていてもよいし、インターネット等を利用したVPN(Virtual Private Network)等により遠隔地に配置されたものでもよい。複数のコンピュータ装置には、クラウドコンピューティングサービスによって利用可能なサーバ群(クラウド)としてのコンピュータ装置が含まれてもよい。
【0051】
(1-4.信号処理装置の構成)
図3は、信号処理装置5の構成例を説明するための図である。
図3では、信号処理装置5の内部構成例と共に、
図1に示したサーバ装置1、カメラ3(当該信号処理装置5と通信可能に接続されるカメラ3)、フォグサーバ4、及びネットワークNTを併せて示している。
【0052】
図示のように信号処理装置5は、機器間通信部51、デコーダ52、画像処理部53、AI処理部54、制御部55、メモリ部56、不揮発性メモリ部57、ネットワーク通信部58、及びバス59を備えている。信号処理装置5において、機器間通信部51、デコーダ52、画像処理部53、AI処理部54、制御部55、メモリ部56、及びネットワーク通信部58は、バス59を介して相互にデータ通信可能とされる。
【0053】
機器間通信部51は、有線又は無線により外部装置(外部機器)との間の機器間通信を行うものであり、本例ではカメラ3との間の機器間通信を行う。前述のように本例においてカメラ3と信号処理装置5との間の接続はUSB接続とされるものであり、機器間通信部51は、カメラ3との間でUSB通信規格に基づいた機器間通信を行う。
【0054】
デコーダ52は、圧縮エンコードされた動画データや静止画データについて、デコード処理を行う。具体的に、デコーダ52は、機器間通信部51を介して外部装置から入力される撮像画像データが圧縮エンコード状態の画像データである場合に対応して、制御部55の指示に基づき、該撮像画像データのデコード処理を行う。デコード処理された撮像画像データは、メモリ部56に記憶される。
【0055】
ここで、カメラ3から入力される撮像画像データとしては、RAWデータ、或いはRGBデータであることが考えられる。なお、ここで言うRGBデータとは、RAWデータに対するデモザイク処理を行って得られるR画像、G画像、B画像の各画像データを意味する。なお、カメラ3から入力される撮像画像データとしては、RAWデータやRGBデータ以外にも、YUV形式のデータ等とされる場合もあり得る。
本例では、カメラ3から信号処理装置5に対しては、圧縮エンコード処理されたRAWデータとしての撮像画像データが入力されるものとする。
【0056】
画像処理部53は、外部より入力される撮像画像について画像信号処理を行うことが可能に構成され、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされている。
画像処理部53は、制御部55による制御に基づき、機器間通信部51を介してカメラ3より入力される撮像画像データ(本例ではデコーダ52によるデコード後の撮像画像データ)に対する画像信号処理を施す。
【0057】
ここで、画像処理部53は、画像信号処理として、画像形式変換処理、データサイズ調整処理の少なくとも何れかを実行可能とされる。ここで言う画像形式変換処理とは、例えばデモザイク処理(RAW形式からRGB形式への変換処理)やモノクロ化(RGB形式からモノクロ形式への変換処理)処理等、画像の形式を変換する処理を意味する。
また、ここで言うデータサイズ調整処理とは、例えば画サイズの調整処理や輝度値のビット数調整処理等、画像データサイズが調整される処理を意味する。
本例において、画像処理部53は、上記のような画像形式変換処理、データサイズ調整処理以外にも、例えばノイズリダクション処理や歪補正処理等、画質向上のための画像信号処理も行うことが可能とされる。
【0058】
本実施形態において、画像処理部53が上記の画像形式変換処理やデータサイズ調整処理について具体的にどのような処理を実行するかは、制御部55の設定制御によって定められる。例えば、制御部55の設定制御により、画像処理部53が入力画像に対してデモザイク処理、及び画サイズ調整処理を施すように定められる。或いは、制御部55の設定制御によっては、画像処理部53が入力画像に対してデモザイク処理及びモノクロ化処理を施し、データサイズ調整処理は実行しないように定められたり、入力画像に対しデータサイズ調整処理のみを施すように定められたりする場合もある。
また、制御部55の設定制御によっては、入力されるRAWデータ(本例ではデコーダ52によるデコード後)に対し画像形式変換処理、データサイズ調整処理の何れも施さずにそのままメモリ部56に記憶させるように定められる場合もある。
また、制御部55による設定制御によっては、データサイズ調整処理について、具体的に画サイズを何れのサイズとするかや、輝度値のビット数を何ビットにするかといった設定も行うことが可能とされる。
【0059】
上記のような画像処理部53が設けられることで、AI処理部54の入力画像について、画像形式や画像データサイズを可変的に設定することが可能とされる。換言すれば、AI処理部54の入力画像の画像形式や画像データサイズを、AIモデルが要求する入力画像条件に応じて適応的に設定可能なものである。
【0060】
AI処理部54は、例えばDSP(Digital Signal Processor)やCPU、FPGA(Field Programmable Gate Array)等、プログラマブルな演算処理装置を有して構成され、入力画像に対してAIモデルを用いた処理であるAI処理を行う。ここでのAIモデルは、画像を対象としたAI処理を行うものであり、例えばCNN(Convolutional Neural Network)等のニューラルネットワーク構造を有するモデルが用いられる。なお、AIモデルはニューラルネットワーク構造を持つモデルに限定されず、例えばビジョントランスフォーマ(Vision Transformer)等、ニューラルネットワーク構造を持たないモデルを用いることも可能であり、機械学習されたAIモデルであればよい。
AI処理部54によるAI処理としては、例えば、人物や車両等の特定のターゲットとしての被写体を認識する画像認識処理等を挙げることができる。或いは、AI処理としては、被写体の種類を問わず、何らかの物体の有無を検出する物体検出処理として行われることも考えられる。
【0061】
AI処理部54によるAI処理の機能は、AIモデルを変更することにより切り替えることが可能とされる。以下では、AI処理が画像認識処理である場合の例を説明する。
具体的な画像認識の機能種別については種々考えられるが、例えば以下に例示するような種別を挙げることができる。
・クラス識別
・セマンティックセグメンテーション
・人物検出
・車両検出
・ターゲットのトラッキング
・OCR(Optical Character Recognition:光学文字認識)
【0062】
上記の機能種別のうち、クラス識別は、ターゲットのクラスを識別する機能である。ここで言う「クラス」とは、物体のカテゴリを表す情報であり、例えば「人」「自動車」「飛行機」「船」「トラック」「鳥」「猫」「犬」「鹿」「蛙」「馬」等を区別するものである。
ターゲットのトラッキングとは、ターゲットとされた被写体の追尾を行う機能であり、該被写体の位置の履歴情報を得る機能と換言できるものである。
【0063】
メモリ部56は、揮発性メモリにより構成され、信号処理装置5において処理対象とされる撮像画像の保持(一時記憶)や、AI処理部54におけるAI処理に係るデータの保持に用いられる。具体的に、本例においてメモリ部56は、機器間通信部51を介して入力された撮像画像データの保持、画像処理部53による画像処理後の撮像画像データの保持、AI処理部54がAI処理で用いるAIモデルのデータの保持、及びAI処理部54のAI処理結果を示す情報の保持に用いられる。
【0064】
ここで、メモリ部56に保持される「AIモデルのデータ」としては、本例のようにAI処理がCNNを用いたものである場合には、畳み込み演算で用いられる重み係数を少なくとも含むデータとされる。或いは、AIモデルの切り替えにより、AIモデルのニューラルネットワーク構造の切り替えも行う場合には、「AIモデルのデータ」には、上記の重み係数以外に、ニューラルネットワーク構造に係る設定情報(例えば、カーネルサイズの情報等を含む)も含まれることになる。
【0065】
ネットワーク通信部58は、ネットワークNTを介した外部装置との間のデータ通信を行う。特に本例では、ネットワーク通信部58は、ネットワークNTを介してサーバ装置1との間でデータ通信を行う。
【0066】
制御部55は、例えばCPU、ROM、及びRAMを有するマイクロコンピュータを備えて構成され、CPUがROMに記憶されているプログラム、又はRAMにロードされたプログラムに従って各種の処理を実行することで、信号処理装置5の全体制御を行う。
例えば、制御部55は、機器間通信部51を介した外部装置との間のデータの入出力制御や、デコーダ52の動作制御、及び画像処理部53についての設定制御や画像信号処理の実行制御等を行う。
【0067】
また、制御部55は、ネットワーク通信部58を介して、ネットワークNTを経由した外部装置との間のデータ通信を行う。特に、本実施形態において制御部55は、ネットワークNTを介して、サーバ装置1より後述するAIモデル指示データDa、及び画像指示データDpを受信する。
AIモデル指示データDaは、AI処理部54に設定されるべきAIモデルを指示するためのデータであり、画像指示データDpは、画像処理部53が得るべき画像を指示するためのデータである。
本例では、AIモデル指示データDaとしては、AIモデルのデータそのものがサーバ装置1より送信される。以下、サーバ装置1が信号処理装置5に対してAIモデルを所定のデータ形式により送信することを「デプロイ」と表記する。
【0068】
制御部55は、サーバ装置1から受信される上記のAIモデル指示データDa、画像指示データDpに基づき、AI処理部54、画像処理部53の設定制御を行うが、この点については改めて説明する。
【0069】
また、制御部55は、サーバ装置1から暗号化された状態で送信されてくるデータについて、復号化処理を行う。具体的に、本例では、サーバ装置1から送信されてくる上記のAIモデル指示データDa及び画像指示データDpは所定の暗号鍵に基づいて暗号化されており、制御部55は、これらAIモデル指示データDa及び画像指示データDpについての暗号化を解くための復号化処理を行う。
【0070】
制御部55には、不揮発性メモリ部57が接続されている。この不揮発性メモリ部57は、制御部55のCPUが各種の処理で用いるデータの記憶に用いられる。
本実施形態において、不揮発性メモリ部57には、鍵情報Ikが予め記憶されている。制御部55は、この鍵情報Ikを用いて上記したAIモデル指示データDa及び画像指示データDpについての復号化処理を行うが、鍵情報Ikについては後に改めて説明する。
【0071】
(1-4.実施形態としての情報処理例)
本実施形態において、サーバ装置1は、信号処理装置5が有するAI機能に係る処理として、各種の処理を行う。
図4は、サーバ装置1のCPU11が有する各種機能を説明するための機能ブロック図である。
図示のようにサーバ装置1は、使用準備処理部11a、使用開始時処理部11b、及び再デプロイ処理部11cとしての機能を有している。
【0072】
使用準備処理部11aは、ユーザが情報処理システム100によるサービスの提供を受けるための準備に係る処理を行う。
【0073】
ここで、本例においてユーザは、情報処理システム100によるサービスの提供を受けるにあたり、情報処理システム100での使用に対応する対応品としての信号処理装置5の購入を行う。このとき、対応品としての信号処理装置5には、AIモデルの暗号化及び復号化を行うための鍵生成に用いられるマスターキーとしての鍵情報Ikが例えば信号処理装置5の製造時において不揮発性メモリ部57(
図3参照)に格納される。
このようにAIモデルの暗号化/復号化に用いられるマスターキーとしての鍵情報Ikを信号処理装置5内に格納しておくことで、或るユーザが購入したAIモデルは、そのユーザが購入した対応品としての信号処理装置5でしか復号化できないようにすることができる。換言すれば、対応品でない他の信号処理装置5がAIモデルを不正に利用できてしまうことの防止を図ることができる。
【0074】
使用開始前の手続きとしてユーザは、購入した信号処理装置5やユーザアカウントについての登録手続きを行う。
具体的にユーザは、購入した使用したい全ての信号処理装置5を指定されたクラウド、つまり本例ではサーバ装置1にネットワーク接続させる。
この状態でユーザは、ユーザ端末2を用いてサーバ装置1(前述したアカウントサービス機能F2)に対し信号処理装置5やユーザアカウントの登録のための情報入力を行う。
【0075】
使用準備処理部11aは、ユーザからの入力情報に基づき、ユーザのアカウント情報を生成する。具体的には、少なくともユーザIDとパスワード情報とを含むアカウント情報の生成を行う。
【0076】
また、使用準備処理部11aは、ユーザのアカウント情報を生成すると共に、接続された信号処理装置5より、装置ID、Region情報(信号処理装置5の設置場所情報)、ハードウェアの種類情報(例えば、接続されるカメラ3が階調画像を得るカメラか距離画像を得るカメラか等)、OSバージョンの情報等を取得し、取得した情報を生成したアカウント情報に紐付ける処理を行う。
【0077】
さらに、使用準備処理部11aは、ユーザからのAIモデルの購入受け付けや購入に対応した処理を行う。すなわち、前述したマーケットプレイスにおけるAIモデルの購入受け付け処理、及びAIモデルが購入された場合に、購入されたAIモデルとユーザIDとを紐付ける処理を行う。
【0078】
また使用準備処理部11aは、ユーザが購入したAIモデルについて、該AIモデルに対応する画像処理部53の設定データを特定する処理を行う。
ここで、本例において、ユーザがマーケットプレイスにおいて購入可能なAIモデルとしては、入力画像条件が異なるものが混在している。
【0079】
図5は、AIモデルの入力画像条件についての説明図である。
図5Aから
図5Cでは、入力画像条件が異なるAIモデルとして、それぞれAIモデル(a)、AIモデル(b)、AIモデル(c)を例示している。
図5Aに示すAIモデル(a)は、RGB形式による入力画像に対応するものである。この場合、画像処理部53においては、RAW形式で入力される撮像画像データを、RGB形式の画像に変換する設定が為されればよい。
図5Bに示すAIモデル(b)は、モノクロ形式による入力画像に対応するものである。この場合、画像処理部53においては、RAW形式で入力される撮像画像データについて、RGB形式への画像変換後にモノクロ形式への画像変換を行う設定が為されればよい。
図5Cに示すAIモデル(c)は、RAW形式による入力画像に対応するものである。この場合、画像処理部53においては、RAW形式で入力される撮像画像データについて、画像形式の変換処理を行わずにそのままメモリ部56に記憶させる設定が為されればよい。
【0080】
なお、上記ではAIモデルごとの入力画像条件の例として、RGB形式やモノクロ形式等の画像形式に係る条件のみを例示したが、AIモデルごとの入力画像条件としては、前述した画サイズや輝度値のビット数等、データサイズに係る条件も含まれるものである。
【0081】
図示は省略するが、本例の情報処理システム100においては、ユーザが購入可能なAIモデルごとに、そのAIモデルの入力画像条件に対応した画像処理部53の設定(つまりどのような画像を得るかについての設定)を実現するための設定データが対応づけられたデータベース(以下「設定データDB」と表記する)が構築されている。
図4に示した使用準備処理部11aは、ユーザによりAIモデルが購入された場合は、設定データDBを参照し、購入されたAIモデルに対応する画像処理部53の設定データを特定する。
本例では、このように特定された設定データが、前述した画像指示データDp(画像処理部53が得るべき画像を指示するためのデータ)として機能する。
【0082】
また、使用準備処理部11aは、ユーザによりAIモデルが購入された場合には、購入されたAIモデルのデータと、該AIモデルに対応する画像処理部53の設定データとを暗号化する処理を行う。
本例では、この暗号化処理は、信号処理装置5ごとに異なる鍵を生成して行う。信号処理装置5ごとに異なる鍵により暗号化が行われることで、AIモデル及び画像処理部53の設定データをセキュアにデプロイすることができる。
【0083】
本例において、AIモデルの暗号化に用いる鍵は、信号処理装置5ごとに予め格納させておいた前述の鍵情報Ik(マスターキー)と、装置IDと、ユーザIDと、暗号化対象とするAIモデルのID(以下「AIモデルID」とする)とを掛け合わせて生成する。
なお、マスターキーとしての鍵情報Ikは、サーバ装置1を管理するサービス運営者が予め用意し、対応品としての信号処理装置5に格納させたものである。このため、サーバ装置1側では、何れの信号処理装置5に何れのマスターキーを格納させたかの対応関係が把握されており、上記のような信号処理装置5ごとの暗号鍵生成に用いることができる。
【0084】
使用準備処理部11aは、ユーザが購入したAIモデルと、該AIモデルに対応する画像処理部53の設定データとについて、上記のように信号処理装置5ごとに生成した暗号鍵を用いた暗号化を行う。
【0085】
使用開始時処理部11bは、信号処理装置5の使用開始時に対応した処理を行う。具体的には、ユーザが購入したAIモデルを信号処理装置5にデプロイすることを要求した場合に、該当するAIモデル及び該AIモデルに対応する画像処理部53の設定データにつての暗号化データを、該当する信号処理装置5にデプロイするための処理を行う。
【0086】
図6は、信号処理装置5にデプロイされるデータを模式的に示している。
この場合のデプロイデータとしては、AIモデル指示データDaとしてのAIモデルのデータと、画像指示データDpとしての、画像処理部53の設定データとが含まれる。具体的に、この場合のデプロイデータは、これらAIモデルのデータと画像処理部53の設定データとが暗号化されたデータとされる。
【0087】
なお、本実施形態では、信号処理装置5が有する不揮発性のメモリにAIモデルを記憶させない前提としているため、AIモデル指示データDaとしてAIモデルのデータそのものを送信するものとしているが、例えば、信号処理装置5の不揮発性メモリに複数種類のAIモデルのデータを記憶させておくことが可能な場合には、AIモデル指示データDaとしては、それら複数のAIモデルのうち何れをAI処理部54に設定すべきかを指示する情報(例えば、該当するAIモデルのIDを指示する情報等)とすることもできる。
同様に、画像指示データDpについても、画像処理部53の設定データそのものを送信する例としたが、信号処理装置5において複数の設定データを記憶させておくことが可能な場合には、画像指示データDpは、それら複数の設定データの何れを画像処理部53に設定すべきかを指示する情報(例えば、該当する設定データのIDを指示する情報等)とすることもできる。
【0088】
ここで、上記のデプロイデータとしての、AIモデル及び設定データの暗号化データを受信した信号処理装置5では、制御部55が、鍵情報Ikと、当該信号処理装置5の装置IDと、ユーザIDと、AIモデルIDとを用いて鍵を生成し、生成した鍵に基づいて受信した暗号化データを復号化する。
信号処理装置5には、少なくともAIモデルの復号化を行う前の段階で、ユーザIDが記憶された状態にある。例えば、前述したユーザのアカウント登録が行われたことに応じ、サーバ装置1から信号処理装置5側にユーザIDが通知されて、例えば不揮発性メモリ部57等の不揮発性のメモリに記憶される。或いは、ユーザが購入した信号処理装置5を使用可能とするにあたって信号処理装置5にユーザIDを入力することが条件とされている場合には、ユーザにより入力されたユーザIDが信号処理装置5に記憶される。
また、AIモデルIDに関しては、例えばデプロイ時に対応してサーバ装置1側から送信され、制御部55は、このAIモデルIDと、上記のように予め記憶されたユーザIDと、不揮発性メモリ部57に格納された鍵情報Ikとを用いて鍵の生成を行い、該鍵を用いて、受信した暗号化データの復号化を行う。
【0089】
そして、制御部55は、復号化されたAIモデルのデータ(AIモデル指示データDa)と画像処理部53の設定データ(画像指示データDp)とに基づき、AI処理部54、画像処理部53の設定制御を行う。すなわち、復号化したAIモデルのデータをメモリ部56(揮発性メモリ)に記憶させ、AI処理部54が該記憶されたAIモデルのデータに従って構築されるニューラルネットワークによるAIモデルを用いて入力画像に対するAI処理を行うようにする。
また、制御部55は、復号化された設定データを画像処理部53に設定する処理を行うことで、画像処理部53が該設定データに従った処理を行うようにする。
【0090】
図7は、上記のような画像指示データDp、AIモデル指示データDaに基づく画像処理部53、AI処理部54の設定制御を模式化して示している。
AIモデル指示データDaに基づくAI処理部54の設定制御が行われることで、信号処理装置5において、ユーザが購入したAIモデルによるAI処理が行われるようにすることができる。
また、画像指示データDpに基づく画像処理部53の設定制御が行われることで、AI処理部54の入力画像を、AI処理部54が用いるAIモデルの入力画像条件に応じた適切な画像とすることができ、AI処理が適切に行われるように図ることができる。
【0091】
図4において、再デプロイ処理部11cは、初回のデプロイ処理以降の再デプロイ処理を行う。
上述のように本例では、AI処理部54がAI処理に用いるCNNの重み係数等のAIモデルのデータは、揮発性のメモリであるメモリ部56に保持されることになる。そのため、本例の情報処理システム100では、信号処理装置5が電断された場合には、AIモデルのデータの記憶を維持することができず、信号処理装置5が再起動された場合に、AIモデルのデータを再度デプロイすることが要請される。
【0092】
再デプロイ処理部11cは、信号処理装置5が再起動した際に制御部55がサーバ装置1に対して行う再デプロイ要求に応じて、
図6で説明したデプロイデータ、具体的には、該信号処理装置5に対応するデプロイデータを該信号処理装置5にデプロイする処理を行う。
【0093】
確認のため、上記した使用準備処理部11a及び使用開始時処理部11bの処理が行われる場合に対応した情報処理システム100全体の処理の流れをフローチャートとして
図8、
図9に示す。
図8は、ユーザのアカウント登録時に対応した処理のフローチャートであり、
図9は、AIモデルの購入からデプロイ(初回デプロイ)までに対応した処理のフローチャートである。
これら
図8、
図9において、「サーバ装置」として示す処理はサーバ装置1のCPU11が実行する処理であり、「信号処理装置」として示す処理は信号処理装置5における制御部55が実行する処理である。なお、「ユーザ端末」として示す処理はユーザ端末2におけるCPUが実行する。
なお、
図8、
図9に示す処理が開始されるにあたっては、ユーザ端末2及び信号処理装置5がそれぞれサーバ装置1とネットワークNTを介して通信可能に接続された状態にあるとする。
【0094】
図8において、ユーザ端末2はステップS201でユーザ情報入力処理を行う。すなわち、アカウント登録のための情報(少なくともユーザID及びパスワードの情報)をユーザの操作入力に基づいてサーバ装置1に対して入力する処理である。
【0095】
サーバ装置1は、ユーザ端末2からの情報入力を受け付ける共に、ステップS101で、アカウント登録についての必要情報の送信を信号処理装置5に対して要求する。具体的には、ユーザIDとの紐付けが行われるべき、前述した装置ID、Region情報、ハードウェアの種類情報、OSバージョンの情報等の送信要求を行う。
【0096】
信号処理装置5は、ステップS301の要求情報送信処理として、サーバ装置1より要求された情報をサーバ装置1に対して送信する処理を行う。
【0097】
信号処理装置5より要求情報を受信したサーバ装置1は、ステップS102のユーザ登録処理として、ユーザ端末2から入力されたユーザ情報に基づくアカウント情報の生成や、ユーザIDに対し、カメラ3から受信した上記の要求情報を紐付ける処理を行う。
【0098】
続いて、
図9に示す処理を説明する。
先ず、ユーザ端末2が、ステップS210でAI商品購入処理を実行する。すなわち、前述したマーケットプレイスにおけるAIモデルの購入のための処理である。具体的にユーザ端末2は、ステップS210の処理として、ユーザの操作入力に基づきサーバ装置1に対し購入するAIモデルの指示や購入の指示等を行う。
【0099】
サーバ装置1は、ステップS110の購入対応処理として、ユーザ端末2より購入指示された商品(AIモデル)が、購入者としてのユーザに紐付けられるようにするための処理を行う。具体的には、購入指示されたAIモデルのID(AIモデルID)と、購入者としてのユーザのユーザIDとを紐付ける処理を行う。
【0100】
ステップS110に続くステップS111でサーバ装置1は、暗号鍵の生成を行う。すなわち、先の
図8の処理で信号処理装置5側から取得した装置IDと、マスターキーとしての鍵情報Ikと、購入者としてのユーザのユーザIDと、購入されたAIモデルについてのAIモデルIDとを掛け合わせた鍵を生成する。
【0101】
ステップS111に続くステップS112でサーバ装置1は、購入されたAIモデル、及び画像処理部53の設定データの暗号化を行う。具体的には、購入されたAIモデルに対応する画像処理部53の設定データを前述した設定データDBを参照して特定し、購入されたAIモデルのデータと、特定した設定データとをステップS111で生成した鍵を用いて暗号化する。
前述のように本例では、暗号化の鍵生成には鍵情報Ikが用いられるため、対象とする信号処理装置5が複数存在する場合には、鍵は信号処理装置5ごとに生成され、暗号化データとしては、それぞれが異なる鍵で暗号化された、信号処理装置5ごとの暗号化データが生成される。
【0102】
上記のようなAI商品の購入に係る処理が行われた後、ユーザは、購入したAIモデルを用いた画像処理を各信号処理装置5で開始させたいとした場合に、ユーザ端末2を用いて、サーバ装置1に対するデプロイ要求を行う(ステップS211「AIデプロイ要求」)。
【0103】
サーバ装置1では、上記したステップS112の処理を実行した後、ステップS113で、このデプロイ要求を待機する。
デプロイ要求があった場合、サーバ装置1はステップS114で、暗号化したAIモデル、及び設定データのデプロイ処理を行う。すなわち、ステップS112で得られた暗号化データを、該当する信号処理装置5に送信する処理を行う。
【0104】
サーバ装置1から送信された暗号化データを受信した信号処理装置5は、ステップS310でAIモデル、設定データの復号化処理を行う。すなわち、不揮発性メモリ部57に格納された鍵情報Ikと、装置IDと、ユーザIDと、AIモデルIDとを掛け合わせた鍵を生成し、生成した鍵を用いて暗号化データについての復号化処理を行うことで、デプロイされたAIモデルのデータ及び画像処理部53の設定データを復号化する。
【0105】
そして、ステップS310に続くステップS311で信号処理装置5は、画像処理部53及びAI処理部54の設定制御を行う。すなわち、復号化された設定データに基づく画像処理部53の設定制御と、復号化されたAIモデルのデータに基づくAI処理部54の設定制御とを行う。
【0106】
なお、ここでは再デプロイ処理部11cによる再デプロイに係る処理については図示を省略したが、前述のように再デプロイ処理に関しては、再起動した信号処理装置5における制御部55が、サーバ装置1に対して再デプロイ要求を行う。そして、この再デプロイ要求に応じて、サーバ装置1が、再デプロイ要求の要求元である信号処理装置5に対応した暗号化デプロイデータ(AIモデル指示データDa及び画像指示データDp)を生成し、該暗号化デプロイデータを該信号処理装置5に送信する。
信号処理装置5において、暗号化デプロイデータを受信した以降の処理についてはステップS310及びS311と同じであるため重複説明は避ける。
【0107】
ここで、前述のように本実施形態における信号処理装置5は、AI処理部54によるAI処理結果を示す情報を撮像画像の入力元であるカメラ3に対して送信(返信)する。
【0108】
図10は、このようにAI処理結果を示す情報をカメラ3に返信するために制御部55が実行する処理例を示したフローチャートである。
図示のように制御部55は、ステップS320でAI処理部54によるAI処理結果が得られるまで待機する処理を行い、AI処理結果が得られた場合は、ステップS321でAI処理結果を示す情報をカメラ3に対して送信するための処理を行う。すなわち、AI処理結果を示す情報を、機器間通信部51によりカメラ3に対して送信させる処理を行う。
【0109】
ここで、AI処理結果を示す情報としては、例えば、AI処理部54が出力するAI処理結果そのもの、具体的には、AI処理が画像内から特定の物体を検出する処理である場合には特定物体が検出された画像領域を示す情報、或いはAI処理がセマンティックセグメンテーションである場合には画像内の被写体ごとの識別クラスを示す情報等、画像以外のメタ情報(メタデータ)とすることが考えられる。
或いは、AI処理結果を示す情報としては、上記のようなメタデータに基づき、AI処理部54に入力した撮像画像を加工して得られた画像とすることも考えられる。例えば、撮像画像上に特定物体が検出された画像領域を示す枠を重畳した画像等である。このような加工画像としても、AI処理部54によるAI処理結果を示す情報であることに変わりはない。
なお、上記のようなメタデータに基づく撮像画像の加工処理は、制御部55のソフトウェア処理により行うことが考えられる。或いは、AI処理部54に、メタデータに基づく画像加工機能を持たせることも考えられる。
【0110】
なお、上記ではカメラ3から信号処理装置5に入力される撮像画像データが圧縮エンコード処理されたものである前提としたが、カメラ3から信号処理装置5に対して圧縮エンコード処理された撮像画像データを入力することは必須ではない。カメラ3から非圧縮の撮像画像データが入力される前提とする場合、信号処理装置5にデコーダ52は不要となる。
【0111】
また、上記では、サーバ装置1によるデプロイデータ(AIモデルのデータ及び画像処理部53の設定データ)が、ネットワーク通信部58を介して信号処理装置5に受信される構成を例示したが、該デプロイデータは、サーバ装置1からフォグサーバ4及びカメラ3を経由させて、機器間通信部51を介して信号処理装置5に受信されるようにすることもできる。その場合、信号処理装置5にネットワーク通信部58を設けることは必須ではない。
【0112】
<2.第二実施形態>
続いて、第二実施形態について説明する。
第二実施形態は、カメラ3による撮像画像をフォグサーバ経由で信号処理装置5に入力する例である。
なお、以下の説明において、既に説明済みとなった部分と同様となる部分については同一符号を付して説明を省略する。
【0113】
図11は、第二実施形態としての情報処理システム100Aの構成例を説明するための図である。なお、
図11では図示を省略しているが、第二実施形態の情報処理システム100としても、
図1に示したAIモデル開発者端末6を含む。
また、情報処理システム100Aにおいても、情報処理システム100と同様に、実際には複数のカメラ3が設けられると共に、カメラ3ごとに信号処理装置5が設けられる。また、複数のカメラ3がフォグサーバ4Aに通信可能に接続されている。
【0114】
情報処理システム100Aにおいては、フォグサーバ4に代えてフォグサーバ4Aが設けられる。フォグサーバ4Aは、機器間通信部51を介して信号処理装置5との間でデータ通信を行う機能を有する点がフォグサーバ4とは異なる。
【0115】
フォグサーバ4Aは、各カメラ3から撮像画像データを入力し、カメラ3ごとに撮像画像データをそれぞれ対応する信号処理装置5に対して送信する。
【0116】
この場合、信号処理装置5は、撮像画像データの入力元、及びAI処理部54によるAI処理結果を示す情報の送信先がカメラ3からフォグサーバ4Aに変更された点が異なるものであり、制御部55が実行する処理自体は第一実施形態で説明したものと同様となる。つまり、この場合もサーバ装置1からのデプロイデータは、ネットワークNT経由でネットワーク通信部58を介して信号処理装置5に受信される。
【0117】
この第二実施形態の場合、カメラ3に対してAI処理機能を追加するものとはならないいが、情報処理システム100Aとしての撮像システム全体で見れば、撮像システムに対し、各カメラ3の撮像画像に対するAI処理機能を追加できることに変わりはない。
【0118】
なお、第二実施形態においても、信号処理装置5に入力される撮像画像データは圧縮エンコード処理されたものであってもよいし非圧縮であってもよい。非圧縮である場合には、信号処理装置5においてデコーダ52は不要とできる。
【0119】
また、第二実施形態において、デプロイデータについては、サーバ装置1からフォグサーバ4を経由させ、機器間通信部51を介して信号処理装置5に受信されるようにすることもできる。この場合、信号処理装置5においてネットワーク通信部58は不要とできる。
また、AI処理結果を示す情報については、ネットワーク通信部58を介してフォグサーバ4Aに返信することも可能である。或いは、AI処理結果を示す情報については、ネットワーク通信部58を介してサーバ装置1に送信することも可能である。
【0120】
<3.第三実施形態>
第三実施形態は、画像処理部53、AI処理部54、及び制御部55としての機能を有する信号処理装置を、カメラに内蔵可能な形態で構成するものである。
【0121】
図12は、第三実施形態としての情報処理システム100Bの概略構成例を示したブロック図であり、
図13は、情報処理システム100Bに設けられるカメラ3Bの内部構成例を示したブロック図である。
情報処理システム100Bは、カメラ3に代えてカメラ3Bが、フォグサーバ4に代えてフォグサーバ4Bが、サーバ装置1に代えてサーバ装置1Bがそれぞれ設けられた点が情報処理システム100とは異なる。
【0122】
カメラ3Bは、イメージセンサ(後述するイメージセンサ31)が出力する撮像画像データを入力して処理する信号処理部として、画像処理部53、AI処理部54、及び制御部55としての機能を有する信号処理部5Bが内蔵された構成を採る(
図12及び
図13参照)。
【0123】
サーバ装置1Bは、デプロイデータ(AIモデル指示データDa及び画像指示データDp)をネットワークNTを介してフォグサーバ4B経由でカメラ3Bに送信する点がサーバ装置1とは異なる。
【0124】
フォグサーバ4Bは、各カメラ3Bの信号処理部5Bで得られるAI処理結果を示す情報を、
図13に示す通信部33を介して受信する処理を行う点がフォグサーバ4と異なる。
【0125】
図13において、カメラ3Bは、イメージセンサ31、信号処理部5B、カメラ制御部32、及び通信部33を備えている。
【0126】
イメージセンサ31は、例えばCCD型、CMOS型等の固体撮像素子として構成され、フォトダイオード等の光電変換素子を有する画素が二次元に配列されて形成された画素アレイ部と、画素アレイ部が備える各画素から光電変換によって得られた電気信号を読み出す読み出し回路とを備えている。
この読み出し回路では、光電変換により得られた電気信号について、例えばCDS(Correlated Double Sampling)処理、AGC(Automatic Gain Control)処理などを実行し、さらにA/D(Analog/Digital)変換処理を行う。このA/D変換処理により、デジタルデータとしての撮像画像データが得られる。
イメージセンサ31は、撮像画像データを信号処理部5Bに対して出力する。
本例では、イメージセンサ31が出力する撮像画像データはRAW形式による画像データであり、且つ、非圧縮データであるとする。
【0127】
信号処理部5Bは、画像処理部53、AI処理部54、制御部55、メモリ部56、及びバス59を備えると共に、前段側I/F(インタフェース)部61、後段側I/F部62を備えている。
なお、上記のように本例ではイメージセンサ31からの撮像画像データは非圧縮データとされるため、信号処理部5Bにおいてデコーダ52は省略されている。
【0128】
前段側I/F部61は、所定のデータ通信方式に従ってイメージセンサ31からの撮像画像データを入力する処理を行う。図示のように前段側I/F部61はバス59と接続されており、これによりイメージセンサ31から入力した撮像画像データをメモリ部56に一時保持させることが可能とされる。
本例において、前段側I/F部61としては、例えばMIPI(Mobile Industry Processor Interface)通信規格に対応したものが用いられる。
【0129】
後段側I/F部62は、信号処理部5B外部に設けられたカメラ制御部32との間でデータ通信を行うための通信インタフェース部とされる。図示のように後段側I/F部62はバス59と接続されており、これによりバス59に接続された各部との間でデータ通信を行うことが可能とされる。
本例において、後段側I/F部62としても、例えばMIPI通信規格に対応したものが用いられる。
【0130】
カメラ制御部32は、例えばCPU、ROM、及びRAMを有するマイクロコンピュータを備えて構成され、CPUがROMに記憶されているプログラム、又はRAMにロードされたプログラムに従って各種の処理を実行することで、カメラ3Bの全体制御を行う。
図示のようにカメラ制御部32には通信部33が接続されており、カメラ制御部32は、この通信部33を介して外部装置との間で各種データ通信を行うことが可能とされている。本例における通信部33は、少なくともフォグサーバ4Bとの間でのデータ通信を行うことが可能に構成されている。
【0131】
この場合、制御部55は、サーバ装置1Bからフォグサーバ4Bを経由し、通信部33及び後段側I/F部62を介して受信されたデプロイデータに基づき、画像処理部53の設定制御、及びAI処理部54の設定制御を行う。本例においてもデプロイデータは暗号化されており、制御部55は、サーバ装置1Bより受信したデプロイデータについて、不揮発性メモリ部57に格納された鍵情報Ikに基づく復号鍵の生成を行い、該復号鍵を用いて暗号化デプロイデータの復号化を行う。
【0132】
また、制御部55は、AI処理部54によるAI処理結果を示す情報を、後段側I/F部62を介してカメラ制御部32に転送し、カメラ制御部32により、該AI処理結果を示す情報を通信部33経由でフォグサーバ4Bに送信させる。
【0133】
ここで、
図13に示すカメラ3Bにおいては、画像処理部53がイメージセンサ31からの撮像画像データをnライン(nは自然数)ごとに入力し、nラインごとに画像信号処理を行う構成を採ることが考えられる。この場合、AI処理部54は、画像処理部53が処理したnラインごとの画像データを逐次入力することになる。
なお、これはあくまでも一例であり、イメージセンサ31から入力される撮像画像データの1フレーム全体をメモリ部56に記憶させてから、画像処理部53がシーケンシャルに画像信号処理を行う構成とすることも考えられる。
【0134】
なお、上記ではサーバ装置1Bからのデプロイデータがフォグサーバ4Bを経由して信号処理部5Bに受信される例としたが、デプロイデータは、フォグサーバ4Bを経由せず、サーバ装置1BからネットワークNT経由で信号処理部5Bに受信されるように構成することもできる。例えば、通信部33にネットワーク通信機能を持たせて、該通信部33を介してサーバ装置1Bからのデプロイデータが信号処理部5Bに受信されるようにすることが考えられる。或いは、
図3に示した信号処理装置5のようにネットワーク通信部58を設け、該ネットワーク通信部58を介してサーバ装置1Bからのデプロイデータが信号処理部5Bに受信されるようにすることもできる。
【0135】
また、信号処理部5Bにおいて、AI処理結果を示す情報として画像よりもデータ量が軽量なメタデータを出力する場合には、後段側I/F部62については、必ずしも高速通信対応のものを用いなくてもよい。
【0136】
図14は、第三実施形態の変形例としての信号処理装置5Cの内部構成例を示したブロック図である。
図示のように信号処理装置5Cは、第一実施形態で説明した信号処理装置5と比較して、前段側I/F部61と後段側I/F部62が追加されたものである。
ここで、機器間通信部51は、外部装置より撮像画像を受信する「第一受信部」と換言できるものである。また、前段側I/F部61は、外部の撮像素子より撮像画像を受信する「第二受信部」と換言できるものである。
【0137】
第一受信部としての機器間通信部51と共に、第二受信部としての前段側I/F部61を備えた構成としていることで、上記の信号処理装置5Cによれば、第一実施形態で例示したカメラ3に外付けとする使用形態と、
図13で例示したカメラ3Bに内蔵する使用形態との両形態に対応することができる。
【0138】
ここで、上記では、カメラ3Bが備える撮像素子としてRGBセンサとしてのイメージセンサ31を用いる例を挙げたが、
図15に示すように、イメージセンサ31とは得られる撮像画像の種別が異なる別センサ35を用いることも考えられる。
例えば、別センサ35として、画素ごとに被写体まで距離の情報を示す距離画像を得る測距センサ(デプスセンサ)を用いることが考えられる。或いは、別センサ35としては、画素ごとに入射光の偏光情報を示す偏光画像を得る偏光センサ、受光する光の波長帯が異なる複数の(少なくとも4以上の)狭帯域画像を得るマルチスペクトラムセンサ、画素ごとに温度の情報を示すサーマル画像を得るサーマルセンサ等も考えられる。
本明細書において「撮像」とは、被写体を捉えた画像データを得ることを広く意味する。ここで言う画像データは、複数の画素データで成るデータを総称したものである。
【0139】
AI処理部54を有する信号処理装置として、各種の撮像素子に対して共通に使用できるようにするためには、画像処理部53をFPGA等のプログラマブルなプロセッサとし、画像指示データDpに基づき、信号処理装置に接続する撮像素子に応じた画像信号処理を実行するように画像処理部53の設定制御を行うようにすればよい。
或いは、撮像素子の種類ごとにそれぞれ対応する画像信号処理を実行する画像処理部53を設けておき、画像指示データDpに基づき、信号処理装置に接続する撮像素子の種類に応じた画像処理部53を撮像素子からの入力画像を処理する画像処理部53として選択するようにすることが考えられる。
なお、前者の手法を採る場合、FPGA等による画像処理部53は、撮像素子と信号処理装置との間に設けることも考えられる。
【0140】
ここで、別センサ35を用いる場合、RGBセンサも用いてAI処理をセンサフュージョン処理として行うことも考えられる。その場合には、前段側I/F部61を複数設け、それぞれに対応するセンサからの撮像画像を受信させる。この場合、画像処理部53としては、センサごと(前段側I/F部61ごと)に設けることが考えられる。また、この場合、AI処理部54にはそれぞれのセンサからの画像が入力され、それぞれのセンサの画像について異なる入力画像条件が定められることが考えられる。従って、各画像処理部53の設定制御を、それぞれ対応する入力画像条件に基づき行うことが考えられる。
【0141】
<4.変形例>
なお、実施形態としては上記した具体例に限定されるものでなく、多様な変形例としての構成を採り得る。
例えば、
図16に示すように信号処理装置5をカメラ3ではなくPC(パーソナルコンピュータ)等のテスト実行装置70に接続して、AI処理に係るテストを実行することが考えられる。
この場合、信号処理装置5には、テスト実行装置70よりテスト用画像を入力する。信号処理装置5においては、テスト用画像を対象として画像処理部53の画像信号処理が必要に応じて実行されると共に、AI処理部54によるAI処理が実行される。そしてこの場合も制御部55は、AI処理部54によるAI処理結果を示す情報を、機器間通信部51を介して外部装置(この場合はテスト実行装置70)に送信する処理を行う。これによりテスト実行装置70において、AI処理結果の評価やAI処理の実行速度の測定等を行うことができる。
【0142】
なお、上記ではテスト対象に信号処理装置5を用いる例としたが、信号処理装置5C(
図14参照)を対象として同様のテストを行うことも可能である。
また、テストにおいては、機器間通信部51(第一受信部)が受信したテスト画像を画像処理部53を経由させずにそのままAI処理部54に入力してAI処理を実行させるということも考えられる。
【0143】
また、これまでの説明では、AI処理部54が、一つのAIモデルのみを用いてAI処理を行う構成を例示したが、機能が異なるAIモデルを複数段設けた構成を採ることもできる。例えば、前段のAIモデルにより人等の特定物体を検出する処理を行い、その結果を後段のAIモデルに入力すると共に、後段のAIモデルでは、前段のAIモデルによる特定物体の検出領域を対象として、例えば人の年齢や性別等、特定物体の属性認識処理を行う等といった構成が考えられる。
この場合、画像処理部53については、少なくとも前段のAIモデルの入力画像条件が満たされるように設定制御が行われればよい。
【0144】
<5.実施形態のまとめ>
以上で説明したように実施形態としての信号処理装置(同5,5C、信号処理部5B)は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部(同54)と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部(同53)と、画像処理部が得るべき画像を指示するための画像指示データに基づき画像処理部の設定制御を行い、AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づきAI処理部に対するAIモデルの設定制御を行う制御部(同55)と、AI処理部によるAI処理結果を示す情報を外部に送信する送信部(機器間通信部51又は後段側I/F部62)と、を備えるものである。
上記構成により、実施形態の信号処理装置においては、外部より入力された撮像画像についてAI処理部がAI処理を行い、送信部がAI処理結果を示す情報を外部に送信可能とされる。このため、実施形態の信号処理装置によれば、撮像画像についてのAI処理機能を有さない撮像システムを、AI処理機能を有する撮像システムとして機能させることが可能となる。その上で、上記構成の信号処理装置によれば、AIモデル指示データにより、AI処理部に実行させるAI処理の種類を選択的に設定可能となると共に、画像指示データを用いた指示により、実行するAI処理が前提とする入力画像条件に応じた適切な種類の画像をAI処理部に入力させることが可能となる。
従って、実施形態としての信号処理装置によれば、AI処理機能を有さない撮像システムにAI処理機能を追加させることのできる信号処理装置を実現しつつ、該撮像システムにおいて実現可能なAI処理の自由度向上を図ることができる。
【0145】
また、実施形態としての信号処理装置においては、画像処理部は、撮像画像に対する処理として画像形式変換処理を実行可能とされている。
上記のように画像処理部が撮像画像に対し画像形式変換処理を実行可能に構成されていることで、画像形式に係る入力画像条件の異なるAI処理であっても、それらのAI処理を選択的に実行することが可能となる。
従って、撮像システムにおいて実現可能なAI処理の自由度向上を図ることができる。
【0146】
さらに、実施形態としての信号処理装置においては、画像処理部は、撮像画像に対する処理としてデータサイズ調整処理を実行可能とされている。
上記のように画像処理部が撮像画像に対しデータサイズ調整処理を実行可能に構成されていることで、画サイズや輝度値ビット数等に係る入力画像条件の異なるAI処理であっても、それらのAI処理を選択的に実行することが可能となる。
従って、撮像システムにおいて実現可能なAI処理の自由度向上を図ることができる。
【0147】
さらにまた、実施形態としての信号処理装置においては、外部装置より撮像画像を受信する第一受信部(機器間通信部51)を備え、画像処理部には、第一受信部を介して撮像画像が入力され、送信部は、AI処理結果を示す情報を外部装置に送信している。
上記構成によれば、例えば外部の撮像装置等の外部装置から受信した撮像画像についてAI処理部がAI処理を行い、該AI処理によるAI処理結果を示す情報を該外部装置に返信することが可能とされる。
従って、AI処理機能を有さない撮像装置をAI処理機能付きの撮像装置として機能させることができる。
また、上記の外部装置としては、撮像装置ではなくフォグサーバとしての装置を接続することも可能である。つまり、
図11で例示したように、撮像装置からフォグサーバに転送された撮像画像をフォグサーバから受信してAI処理し、AI処理結果をフォグサーバに返す構成である。このような構成によっても、AI処理機能を有さない撮像システムにAI処理機能を追加することができる。
さらに、外部装置としては、
図16で例示したようにAI処理に係るテストを行うテスト実行装置を接続することも可能である。従って、AI処理の開発テスト(AI処理精度や速度等のテスト)にも対応可能な信号処理装置を提供することができる。
【0148】
また、実施形態としての信号処理装置においては、圧縮エンコード処理された撮像画像についてデコード処理を行うデコード部(デコーダ52)を備えている。
これにより、外部装置が撮像画像を圧縮エンコード状態で信号処理装置に送信する場合であっても、圧縮エンコードされた撮像画像をデコードしてAI処理部に入力させることが可能となる。
従って、AI処理部に適切な画像を入力することができる。
【0149】
さらに、実施形態としての信号処理装置においては、外部の撮像素子より撮像画像を受信する第二受信部(前段側I/F部61)を備え、画像処理部には、第二受信部を介して撮像画像が入力される。
上記構成によれば、外部の撮像素子から受信した撮像画像についてAI処理部がAI処理を行う信号処理装置が実現される。
従って、このような信号処理装置としての機能を有する信号処理チップを、AI処理機能を有さない撮像装置の内部に設ける、例えば撮像素子から出力される撮像画像に画像信号処理を施す既存の信号処理チップと入れ替えるように設けることで、AI処理機能付きの撮像装置を実現することができる。すなわち、AI処理機能を有さない撮像システムにAI処理機能を追加することができる。
【0150】
さらにまた、実施形態としての信号処理装置においては、外部装置より撮像画像を受信する第一受信部と、外部の撮像素子より撮像画像を受信する第二受信部の双方を備えている。
これにより、AI処理機能を有さない撮像装置とは別体の形態で撮像装置にAI処理機能を追加するケースと、AI処理機能を有さない撮像装置に内蔵される形態で撮像装置にAI処理機能を追加するケースの両ケースに対応可能な信号処理装置を実現することができる。
【0151】
また、実施形態としての信号処理装置においては、AIモデル指示データ及び画像指示データが暗号化データとして外部装置より送信され、制御部は、外部装置より受信された暗号化データを予め定められた鍵情報を用いて復号化している。
これにより、適切な暗号鍵を有する対応品としての信号処理装置のみが暗号化されたAIモデル指示データ及び画像指示データを復号化できるようにすることが可能とされる。
従って、例えばなりすまし品としての信号処理装置を用いて不当にサービスを享受できてしまうことの防止を図る等、セキュリティの向上を図ることができる。
【0152】
また、実施形態としての信号処理方法は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置が実行する信号処理方法であって、画像処理部が得るべき画像を指示するための画像指示データに基づき画像処理部の設定制御を行い、AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づきAI処理部に対するAIモデルの設定制御を行う処理を、信号処理装置が実行する信号処理方法である。
このような信号処理方法により、上記した実施形態としての信号処理装置が実現される。
従って、AI処理機能を有さない撮像システムにAI処理機能を追加させることのできる信号処理装置を実現しつつ、該撮像システムにおいて実現可能なAI処理の自由度向上を図ることができる。
【0153】
また、実施形態としてのデータ構造は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータ構造であって、画像処理部が得るべき画像を指示するための画像指示データと、AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含み、信号処理装置が、画像指示データに基づき画像処理部の設定制御を行い、AIモデル指示データに基づきAI処理部に対するAIモデルの設定制御を行うために用いられるものである(
図6,7,9等参照)。
上記構造によるデータを用いることで、上記した実施形態としての信号処理装置の処理を実現することが可能となる。
従って、AI処理機能を有さない撮像システムにAI処理機能を追加させることのできる信号処理装置を実現しつつ、該撮像システムにおいて実現可能なAI処理の自由度向上を図ることができる。
【0154】
また、実施形態としてのデータ製造方法は、入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータであって、画像処理部が得るべき画像を指示するための画像指示データと、AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含むデータを製造するものである(
図6,9等参照)。
このようなデータ製造方法により、上記した実施形態としての信号処理装置の処理を実現するためのデータが生成される。
従って、AI処理機能を有さない撮像システムにAI処理機能を追加させることのできる信号処理装置を実現しつつ、該撮像システムにおいて実現可能なAI処理の自由度向上を図ることができる。
【0155】
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
【0156】
<6.本技術>
本技術は以下のような構成を採ることもできる。
(1)
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、
外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、
前記画像処理部が得るべき画像を指示するための画像指示データに基づき前記画像処理部の設定制御を行い、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行う制御部と、
前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備える
信号処理装置。
(2)
前記画像処理部は、前記撮像画像に対する処理として画像形式変換処理を実行可能とされた
前記(1)に記載の信号処理装置。
(3)
前記画像処理部は、前記撮像画像に対する処理としてデータサイズ調整処理を実行可能とされた
前記(1)又は(2)に記載の信号処理装置。
(4)
外部装置より前記撮像画像を受信する第一受信部を備え、
前記画像処理部には、前記第一受信部を介して前記撮像画像が入力され、
前記送信部は、前記AI処理結果を示す情報を前記外部装置に送信する
前記(1)から(3)の何れかに記載の信号処理装置。
(5)
圧縮エンコード処理された前記撮像画像についてデコード処理を行うデコード部を備えた
前記(4)に記載の信号処理装置。
(6)
外部の撮像素子より前記撮像画像を受信する第二受信部を備え、
前記画像処理部には、前記第二受信部を介して前記撮像画像が入力される
前記(1)から(3)の何れかに記載の信号処理装置。
(7)
外部装置より前記撮像画像を受信する第一受信部と、外部の撮像素子より前記撮像画像を受信する第二受信部の双方を備えた
前記(1)から(6)の何れかに記載の信号処理装置。
(8)
前記AIモデル指示データ及び前記画像指示データが暗号化データとして外部装置より送信され、
前記制御部は、
前記外部装置より受信された前記暗号化データを予め定められた鍵情報を用いて復号化する
前記(1)から(7)の何れかに記載の信号処理装置。
(9)
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置が実行する信号処理方法であって、
前記画像処理部が得るべき画像を指示するための画像指示データに基づき前記画像処理部の設定制御を行い、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行う処理を、前記信号処理装置が実行する
信号処理方法。
(10)
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータ構造であって、
前記画像処理部が得るべき画像を指示するための画像指示データと、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含み、
前記信号処理装置が、
前記画像指示データに基づき前記画像処理部の設定制御を行い、前記AIモデル指示データに基づき前記AI処理部に対するAIモデルの設定制御を行うために用いられる
データ構造。
(11)
入力画像に対してAIモデルを用いた処理であるAI処理を行うAI処理部と、外部より入力される撮像画像に基づく画像として異なる種類の画像を選択的に得ることが可能とされた画像処理部と、前記AI処理部によるAI処理結果を示す情報を外部に送信する送信部と、を備えた信号処理装置において用いられるデータであって、
前記画像処理部が得るべき画像を指示するための画像指示データと、前記AI処理部に設定されるべきAIモデルを指示するためのAIモデル指示データと、を含むデータを製造する
データ製造方法。
【符号の説明】
【0157】
100,100A,100B 情報処理システム
1,1B サーバ装置
2 ユーザ端末
3,3B カメラ
4,4A,4B フォグサーバ
5,5C 信号処理装置
5B 信号処理部
F1 ライセンスオーソリ機能
F2 アカウントサービス機能
F3 マーケットプレイス機能
F4 AIサービス機能
31 イメージセンサ
32 カメラ制御部
33 通信部
35 別センサ
51 機器間通信部
52 デコーダ
53 画像処理部
54 AI処理部
55 制御部
56 メモリ部
57 不揮発性メモリ部
58 ネットワーク通信部
59 バス
Ik 鍵情報
Da AIモデル指示データ
Dp 画像指示データ
61 前段側I/F部
62 後段側I/F部