(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-15
(45)【発行日】2024-10-23
(54)【発明の名称】情報処理システム、情報処理方法、及び情報処理装置
(51)【国際特許分類】
H04N 21/44 20110101AFI20241016BHJP
H04N 21/438 20110101ALI20241016BHJP
H04N 21/4728 20110101ALI20241016BHJP
H04N 23/60 20230101ALI20241016BHJP
【FI】
H04N21/44
H04N21/438
H04N21/4728
H04N23/60
H04N23/60 300
(21)【出願番号】P 2023550967
(86)(22)【出願日】2021-09-30
(86)【国際出願番号】 JP2021036285
(87)【国際公開番号】W WO2023053410
(87)【国際公開日】2023-04-06
【審査請求日】2024-03-05
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100103894
【氏名又は名称】家入 健
(72)【発明者】
【氏名】大西 祥史
(72)【発明者】
【氏名】二瓶 浩一
(72)【発明者】
【氏名】岩井 孝法
【審査官】大西 宏
(56)【参考文献】
【文献】特開2004-064737(JP,A)
【文献】特開2004-179997(JP,A)
【文献】特開2011-176490(JP,A)
【文献】特開2021-068102(JP,A)
【文献】特表2020-530168(JP,A)
【文献】特許第4643766(JP,B1)
【文献】国際公開第2015/025704(WO,A1)
【文献】国際公開第2016/021147(WO,A1)
【文献】中国特許出願公開第111832345(CN,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00 -21/858
H04N 23/40 -23/76
(57)【特許請求の範囲】
【請求項1】
ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する取得手段と、
前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する推定手段と、
を有する情報処理システム。
【請求項2】
前記情報処理システムは、分析手段を有し、
前記推定手段は、前記複数の時点での符号化パラメータに基づいて、前記複数の時点を含む期間における前記信頼度を推定し、
前記分析手段は、前記推定手段により推定された前記信頼度と、前記期間の前記特定部位の領域の映像とに基づいて、前記被写体の情報を算出する、
請求項1に記載の情報処理システム。
【請求項3】
前記推定手段は、前記期間に含まれる第1時点での第1符号化パラメータと、前記期間に含まれる第2時点での第2符号化パラメータと、に基づいて、前記期間における前記信頼度を推定する、
請求項2に記載の情報処理システム。
【請求項4】
前記推定手段は、前記第1符号化パラメータと前記第2符号化パラメータとの変化量が大きいほど、前記期間における前記信頼度を小さい値に決定する、
請求項3に記載の情報処理システム。
【請求項5】
前記分析手段は、前記期間の映像に基づく被写体の情報の分析結果の値のそれぞれに対して、前記期間における前記信頼度に応じた重み付けを実施し、当該重み付けした値の合計値に基づいて、前記被写体の情報を推定する、
請求項2から4のいずれか一項に記載の情報処理システム。
【請求項6】
前記複数の時点での符号化パラメータには、符号化のビットレート、符号化のフレームレート、符号化の量子化パラメータ、及び階層符号化の各階層の領域とビットレートの少なくとも一つが含まれる、
請求項1から5のいずれか一項に記載の情報処理システム。
【請求項7】
ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する処理と、
前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する処理と、
を実行する、情報処理方法。
【請求項8】
前記情報処理方法は、分析する処理を含み、
前記推定する処理では、前記複数の時点での符号化パラメータに基づいて、前記複数の時点を含む期間における前記信頼度を推定し、
前記分析する処理では、前記推定する処理で推定した前記信頼度と、前記期間の前記特定部位の領域の映像とに基づいて、前記被写体の情報を算出する、
請求項7に記載の情報処理方法。
【請求項9】
ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する取得手段と、
前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する推定手段と、
を有する情報処理装置。
【請求項10】
前記情報処理装置は、分析手段を有し、
前記推定手段は、前記複数の時点での符号化パラメータに基づいて、前記複数の時点を含む期間における前記信頼度を推定し、
前記分析手段は、前記推定手段により推定された前記信頼度と、前記期間の前記特定部位の領域の映像とに基づいて、前記被写体の情報を算出する、
請求項
9に記載の情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理システム、情報処理方法、及び情報処理装置に関する。
【背景技術】
【0002】
センサで検出された情報を、ネットワークを介して収集し、収集した情報に基づいて対象の状況を判断する技術に関心が高まっている。
【0003】
この技術に関連し、特許文献1には、時系列データの中から異常値(外れ値)を除いて代表値から生体情報を解析し、異常を判定することで、計測された生体情報に含まれる異常の発生を把握できるようにする技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1では、符号化されて配信される映像に基づいて分析を行う場合の課題について検討されていない。そのため、特許文献1では、例えば、ネットワークの帯域の変動等により映像の画質が変動する場合に、分析の精度が低下する可能性がある。
【0006】
本開示の目的は、上述した課題を鑑み、ネットワークを介して配信される映像に基づく分析を適切に実行できる技術を提供することにある。
【課題を解決するための手段】
【0007】
本開示に係る第1の態様では、情報処理システムが、ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する取得手段と、前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する推定手段と、を有する。
【0008】
また、本開示に係る第2の態様では、ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する処理と、前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する処理と、を実行する、情報処理方法が提供される。
【0009】
また、本開示に係る第3の態様では、情報処理装置が、ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する取得手段と、前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する推定手段と、を有する。
【発明の効果】
【0010】
一側面によれば、ネットワークを介して配信される映像に基づく分析を適切に実行できる。
【図面の簡単な説明】
【0011】
【
図1A】実施形態に係る情報処理システムの構成の一例を示す図である。
【
図1B】実施形態に係る情報処理システムの構成の一例を示す図である。
【
図2】実施形態に係る情報処理システムの処理の一例を示すフローチャートである。
【
図3】実施形態に係る情報処理装置のハードウェア構成例を示す図である。
【
図4A】実施形態に係る情報処理システムの構成例を示す図である。
【
図4B】実施形態に係る情報処理システムの構成例を示す図である。
【
図5】実施形態に係る情報処理システムの処理の一例を示すシーケンス図である。
【
図6】実施形態に係る特定部位DBの一例を示す図である。
【
図7】実施形態に係る特定部位の領域の一例を示す図である。
【
図8】実施形態に係る分析精度DB801の一例を示す図である。
【
図9】実施形態に係る映像に基づく分析処理の一例を示す図である。
【発明を実施するための形態】
【0012】
本開示の原理は、いくつかの例示的な実施形態を参照して説明される。これらの実施形態は、例示のみを目的として記載されており、本開示の範囲に関する制限を示唆することなく、当業者が本開示を理解および実施するのを助けることを理解されたい。本明細書で説明される開示は、以下で説明されるもの以外の様々な方法で実装される。
以下の説明および特許請求の範囲において、他に定義されない限り、本明細書で使用されるすべての技術用語および科学用語は、本開示が属する技術分野の当業者によって一般に理解されるのと同じ意味を有する。
以下、図面を参照して、本開示の実施形態を説明する。
【0013】
<第1実施形態>
<構成>
図1Aを参照し、実施形態に係る情報処理システム1の構成について説明する。
図1Aは、実施形態に係る情報処理システム1の構成の一例を示す図である。情報処理システム1は、取得部11、及び推定部12を有する。これら各部は、情報処理装置10にインストールされた1以上のプログラムと、情報処理装置10のプロセッサ101、及びメモリ102等のハードウェアとの協働により実現されてもよい。
【0014】
取得部11は、装置内部の記憶部、または外部装置から各種の情報を受信(取得)する。取得部11は、例えば、撮影装置20で撮影されてネットワークを介して配信される映像の各時点での符号化パラメータを取得する。なお、当該符号化パラメータには、例えば、符号化のビットレート、符号化のフレームレート、符号化の量子化パラメータ(QP値)、階層符号化の各階層の領域とビットレートの少なくとも一つが含まれてもよい。
【0015】
推定部12は、各時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する。なお、当該特定部位は、例えば、分析の対象とされる項目(以下で、適宜「分析対象」とも称する。)の分析に用いられる部位である。例えば、映像における顔の領域に基づいて心拍数が分析される場合、分析対象は心拍数であり、特定部位は顔である。
【0016】
また、取得部11、及び推定部12は、
図1Bのように1つの装置に集約されてもよい。
図1Bの例では、情報処理システム1は、情報処理装置10と撮影装置20を有する。撮影装置20は、被写体を撮影する装置であり、例えば、スマートフォン、タブレット等に内蔵されたカメラでもよい。また、撮影装置20は、例えば、パーソナルコンピュータ等に外部バスで接続されるカメラでもよい。情報処理装置10は、取得部11、及び推定部12を有する。これら各部は、情報処理装置10にインストールされた1以上のプログラムと、情報処理装置10のプロセッサ101、及びメモリ102等のハードウェアとの協働により実現されてもよい。
【0017】
なお、情報処理装置10は、撮影装置20で撮影されて符号化された映像の配信先の装置でもよいし、撮影装置20で撮影されて符号化された映像の配信元の装置でもよい。
【0018】
<処理>
次に、
図2を参照し、実施形態に係る情報処理システム1の処理の一例について説明する。
図2は、実施形態に係る情報処理システム1の処理の一例を示すフローチャートである。
【0019】
ステップS1において、取得部11は、撮影装置20で撮影されてネットワークを介して配信される映像の各時点での符号化パラメータを取得する。続いて、推定部12は、各時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する(ステップS2)。
【0020】
(情報処理装置10が映像の配信先の装置である場合の処理例)
情報処理装置10が、映像の配信先の装置である場合、推定部12は、ネットワークNを介して、符号化された映像の情報を受信する。そして、推定部12は、各時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する。
【0021】
(情報処理装置10が映像の配信元の装置である場合の処理例)
情報処理装置10が、映像の配信元の装置である場合、取得部11は、情報処理装置10に内蔵された撮影装置20から内部バスを介して映像を受信してもよい。また、取得部11は、情報処理装置10にケーブル等で接続された外部の(外付けの)撮影装置20から外部バスを介して映像を受信してもよい。この場合、外部バスには、例えば、USB(Universal Serial Bus)ケーブル、HDMI(登録商標)(High-Definition Multimedia Interface)ケーブル、または、SDI(Serial Digital Interface)ケーブル等が含まれてもよい。そして、推定部12は、各時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する。
【0022】
<ハードウェア構成>
図3は、実施形態に係る情報処理装置10のハードウェア構成例を示す図である。
図3の例では、情報処理装置10(コンピュータ100)は、プロセッサ101、メモリ102、通信インターフェイス103を含む。これら各部は、バス等により接続されてもよい。メモリ102は、プログラム104の少なくとも一部を格納する。通信インターフェイス103は、他のネットワーク要素との通信に必要なインターフェイスを含む。
【0023】
プログラム104が、プロセッサ101及びメモリ102等の協働により実行されると、コンピュータ100により本開示の実施形態の少なくとも一部の処理が行われる。メモリ102は、ローカル技術ネットワークに適した任意のタイプのものであってもよい。メモリ102は、非限定的な例として、非一時的なコンピュータ可読記憶媒体でもよい。また、メモリ102は、半導体ベースのメモリデバイス、磁気メモリデバイスおよびシステム、光学メモリデバイスおよびシステム、固定メモリおよびリムーバブルメモリなどの任意の適切なデータストレージ技術を使用して実装されてもよい。コンピュータ100には1つのメモリ102のみが示されているが、コンピュータ100にはいくつかの物理的に異なるメモリモジュールが存在してもよい。プロセッサ101は、任意のタイプのものであってよい。プロセッサ101は、汎用コンピュータ、専用コンピュータ、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、および非限定的な例としてマルチコアプロセッサアーキテクチャに基づくプロセッサの1つ以上を含んでよい。コンピュータ100は、メインプロセッサを同期させるクロックに時間的に従属する特定用途向け集積回路チップなどの複数のプロセッサを有してもよい。
【0024】
本開示の実施形態は、ハードウェアまたは専用回路、ソフトウェア、ロジックまたはそれらの任意の組み合わせで実装され得る。いくつかの態様はハードウェアで実装されてもよく、一方、他の態様はコントローラ、マイクロプロセッサまたは他のコンピューティングデバイスによって実行され得るファームウェアまたはソフトウェアで実装されてもよい。
【0025】
本開示はまた、非一時的なコンピュータ可読記憶媒体に有形に記憶された少なくとも1つのコンピュータプログラム製品を提供する。コンピュータプログラム製品は、プログラムモジュールに含まれる命令などのコンピュータ実行可能命令を含み、対象の実プロセッサまたは仮想プロセッサ上のデバイスで実行され、本開示のプロセスまたは方法を実行する。プログラムモジュールには、特定のタスクを実行したり、特定の抽象データ型を実装したりするルーチン、プログラム、ライブラリ、オブジェクト、クラス、コンポーネント、データ構造などが含まれる。プログラムモジュールの機能は、様々な実施形態で望まれるようにプログラムモジュール間で結合または分割されてもよい。プログラムモジュールのマシン実行可能命令は、ローカルまたは分散デバイス内で実行できる。分散デバイスでは、プログラムモジュールはローカルとリモートの両方のストレージメディアに配置できる。
【0026】
本開示の方法を実行するためのプログラムコードは、1つ以上のプログラミング言語の任意の組み合わせで書かれてもよい。これらのプログラムコードは、汎用コンピュータ、専用コンピュータ、またはその他のプログラム可能なデータ処理装置のプロセッサまたはコントローラに提供される。プログラムコードがプロセッサまたはコントローラによって実行されると、フローチャートおよび/または実装するブロック図内の機能/動作が実行される。プログラムコードは、完全にマシン上で実行され、一部はマシン上で、スタンドアロンソフトウェアパッケージとして、一部はマシン上で、一部はリモートマシン上で、または完全にリモートマシンまたはサーバ上で実行される。
【0027】
プログラムは、様々なタイプの非一時的なコンピュータ可読媒体を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体を含む。非一時的なコンピュータ可読媒体の例には、磁気記録媒体、光磁気記録媒体、光ディスク媒体、半導体メモリ等が含まれる。磁気記録媒体には、例えば、フレキシブルディスク、磁気テープ、ハードディスクドライブ等が含まれる。光磁気記録媒体には、例えば、光磁気ディスク等が含まれる。光ディスク媒体には、例えば、ブルーレイディスク、CD(Compact Disc)-ROM(Read Only Memory)、CD-R(Recordable)、CD-RW(ReWritable)等が含まれる。半導体メモリには、例えば、ソリッドステートドライブ、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(random access memory)等が含まれる。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【0028】
<第2実施形態>
<システム構成>
次に、
図4A及び
図4Bを参照し、実施形態に係る情報処理システム1の構成の一例について説明する。
図4Aは、実施形態に係る情報処理システム1の構成例を示す図である。
図4Aの例では、情報処理システム1は、撮影装置20、及び情報処理装置10を有する。なお、撮影装置20及び情報処理装置10の数は
図4Aの例に限定されない。
【0029】
なお、本開示の技術は、例えば、医師と患者(人間、動物)とのビデオ会議(ビデオ通話、オンライン診療)における患者の映像に基づく生体情報の測定で用いられてもよい。また、本開示の技術は、例えば、監視カメラの映像に基づく人物の分析(特定)、及び行動の分析(推定)で用いられてもよい。また、本開示の技術は、例えば、工場やプラントの監視カメラの映像に基づく製品の分析(検査)で用いられてもよい。
【0030】
図4Aの例では、撮影装置20、及び情報処理装置10は、ネットワークNにより通信できるように接続されている。ネットワークNの例には、例えば、インターネット、移動通信システム、無線LAN(Local Area Network)、Wi-Fi(登録商標)、LAN、及びBLE(Bluetooth(登録商標) Low Energy)等の近距離無線通信等が含まれる。移動通信システムの例には、例えば、第5世代移動通信システム(5G)、ローカル5G、Beyond 5G(6G)、第4世代移動通信システム(4G)、LTE(Long Term Evolution)、第3世代移動通信システム(3G)等が含まれる。
【0031】
撮影装置20は、例えば、スマートフォン、タブレット、パーソナルコンピュータ等の装置でもよい。撮影装置20は、撮影した映像を任意の符号化方式により符号化し、ネットワークNを介して情報処理装置10に配信する。当該符号化方式には、例えば、H.265/HEVC(High Efficiency Video Coding)、AV1(AOMedia Video 1)、H.264/MPEG-4 AVC(Advanced Video Coding)等が含まれてもよい。
【0032】
情報処理装置10は、例えば、パーソナルコンピュータ、サーバ、クラウド、スマートフォン、タブレット等の装置でもよい。情報処理装置10は、撮影装置20から配信された映像に基づいて分析を行う。
【0033】
図4Bは、実施形態に係る情報処理装置10の構成の一例を示す図である。
図4Bの例では、
図1の例と比較して、情報処理装置10が、分析部13を有する点が異なる。分析部13は、情報処理装置10にインストールされた1以上のプログラムと、情報処理装置10のプロセッサ101、及びメモリ102等のハードウェアとの協働により実現されてもよい。分析部13は、推定部12により推定された信頼度と、特定部位の領域の映像とに基づいて、被写体の情報を算出する。なお、当該算出のための各処理のうち少なくとも一部の処理はクラウド等の外部装置で実行されてもよい。この場合、分析部13は、映像を当該外部装置に送信し、当該外部装置での処理結果を当該外部装置から取得してもよい。
【0034】
(情報処理装置10が映像の配信先の装置である場合の処理例)
情報処理装置10が、映像の配信先の装置であり、映像に基づく分析をクラウド等の外部装置で実行させる場合、分析部13は、配信された映像を当該外部装置に転送し、当該外部装置での処理結果を当該外部装置から取得してもよい。また、映像と、符号化パラメータに基づいて推定した信頼度とに基づく分析をクラウド等の外部装置で実行させる場合、分析部13は、配信された映像と、推定した信頼度とを当該外部装置に転送し、当該外部装置での処理結果を当該外部装置から取得してもよい。
【0035】
(情報処理装置10が映像の配信元の装置である場合の処理例)
情報処理装置10が、映像の配信元の装置であり、映像に基づく分析をクラウドまたは配信先の装置等の外部装置で実行させる場合、分析部13は、情報処理装置10内部の符号化処理を行うモジュール等により符号化された映像を外部装置に配信し、当該外部装置での処理結果を当該外部装置から取得してもよい。また、映像と、符号化パラメータに基づいて推定した信頼度とに基づく分析をクラウド等の外部装置で実行させる場合、分析部13は、配信された映像と、推定した信頼度とを当該外部装置に転送し、当該外部装置での処理結果を当該外部装置から取得してもよい。
【0036】
<処理>
次に、
図5から
図7を参照し、実施形態に係る情報処理システム1の処理の一例について説明する。
図5は、実施形態に係る情報処理システム1の処理の一例を示すシーケンス図である。
図6は、実施形態に係る特定部位DB(データベース)601の一例を示す図である。
図7は、実施形態に係る特定部位の領域の一例を示す図である。
図8は、実施形態に係る分析精度DB801の一例を示す図である。
図9は、実施形態に係る映像に基づく分析処理の一例を示す図である。
【0037】
以下では、一例として、医師と患者とのビデオ会議(ビデオ通話、オンライン診療)において患者の映像に基づく生体情報の測定を行う場合について説明する。また、以下では、一例として、情報処理装置10が映像の配信先の装置である医者の保持する端末である場合について説明する。患者の撮影装置20と医師の情報処理装置10との間で、ビデオ会議のセッションの確立等の処理は既に完了しているものとする。
【0038】
ステップS101において、撮影装置20は、撮影装置20で撮影された映像を符号化して、ネットワークNを介して情報処理装置10に配信(送信)する。ここで、撮影装置20は、ネットワークNで使用可能な帯域等の変動に応じて、画質を変動させて符号化させる。この場合、撮影装置20は、例えば、RTCP(RTP(Real-time Transport Protocol) Control Protocol)等を用いてロスパケット数、ジッター等の、各時点におけるネットワークNの通信品質を示す情報を情報処理装置10や撮影装置20及び情報処理装置10以外の外部の装置またはシステムから取得してもよい。そして、撮影装置20は、各時点におけるネットワークNの通信品質を示す情報に基づいて、各時点におけるビットレート等の符号化パラメータを決定してもよい。この場合、撮影装置20は、例えば、ネットワークNの通信品質が高いほど、画質が高くなる符号化パラメータを決定してもよい。
【0039】
撮影装置20は、例えば、特定のピクセル領域単位(例えば、縦16画素×横16画素)ごとに符号化の量子化パラメータ(QP値)を設定するマップ(QPマップ)を用いて、映像の各フレームを符号化してもよい。また、撮影装置20は、例えば、符号化方式として階層符号化(SVC、Scalable Video Coding)を用いて、映像の各フレームを符号化してもよい。
【0040】
続いて、情報処理装置10の推定部12は、各期間の映像における特定部位の領域の符号化パラメータに基づいて、各期間の映像に基づく分析結果の信頼度(以下で、適宜「第1信頼度」とも称する。)をそれぞれ推定(算出、決定)する(ステップS102)。なお、第1信頼度は、符号化パラメータに応じて特定されるもので、映像に基づいた分析を行った場合に得られる分析結果の確からしさを示す値である。
【0041】
ここで、情報処理装置10の推定部12は、各時点における被写体の特定部位の領域の符号化パラメータに基づいて、各期間の映像に基づく分析結果の第1信頼度を算出してもよい。この場合、情報処理装置10の推定部12は、例えば、特定部位DB601を参照し、分析対象に応じた特定部位(関心領域)の情報を抽出してもよい。なお、特定部位DB601は、情報処理装置10の内部の記憶装置に記憶(登録、設定)されていてもよいし、情報処理装置10の外部のDBサーバ等に記憶されていてもよい。
図6の例では、特定部位DB601には、分析対象に対応付けて、特定部位が記録されている。
図6の例では、例えば、心拍数が分析される場合は、被写体の顔の領域の映像が用いられること等が規定されている。なお、分析対象は、情報処理装置10の医師等により予め指定(選択、設定)されてもよい。予めとは、ステップS102が実施されるより前の時点であればよい。この場合、情報処理装置10は、分析対象である生体情報の項目の一覧の中から、医師により指定(選択)されてもよい。また、分析対象は、所定のWebサイト等により予め(患者が診察を受けるより前に)患者から入力されている問診の結果に基づいて、情報処理装置10により指定されてもよい。
図7の例では、映像のフレーム701のうち患者の顔の領域711が特定部位として推定に用いられる。
【0042】
なお、特定部位は、例えば、医師に指定されてもよい。この場合、例えば、配信先装置30は、患者の映像の表示画面上で患者の特定部位をマウス等でドラッグしながら囲う操作等で指定されてもよい。また、配信先装置30は、被写体の特定部位の一覧の中から、医者により指定(選択)されてもよい。
【0043】
そして、情報処理装置10の推定部12は、例えば、期間に含まれる各時点における特定部位の領域の画質が高いほど、第1信頼度を高く決定してもよい。なお、当該画質には、例えば、符号化のビットレート、符号化のフレームレート、及び符号化のQP値の少なくとも一つに基づく画質が含まれてもよい。また、情報処理装置10の推定部12は、例えば、期間に含まれる各時点における特定部位の領域の画質の変化が大きいほど、第1信頼度を低く決定してもよい。これは、例えば、特定部位の領域のビットレート等が、急激に増加された際、及び急激に減少された際、復号した映像にノイズが生じ、AI等による分析の精度が低下すると考えられるためである。
【0044】
この場合、情報処理装置10の推定部12は、例えば、各時点での画質に応じた分析精度の値に、各画質である時間長の重みを付加した加重平均と、画質の変化に応じた値とに基づいて、映像911に基づく分析結果の第1信頼度を算出してもよい。例えば、
図9の時刻t
cにおいて符号化パラメータの変化により特定部位の領域の画質が第1画質から第2画質に変化されたとする。この場合、映像911に基づく分析結果の第1信頼度E
1は、以下の式(1)のように算出されてもよい。
E
1={Q
1×(t
c-t
1)+Q
2×(t
1+T-t
c)}/T-Q
3 ・・・(1)
【0045】
式(1)では、第1画質に応じた値Q
1に時刻t
1から時刻t
cまでの時間長に応じた重みが付加され、第2画質に応じた値Q
2に時刻t
cから時刻t
1+Tまでの時間長に応じた重みが付加された加重平均の値から、第1画質から第2画質への変化に応じた値Q
3が減算されている。なお、第1画質に応じた値Q
1、第2画質に応じた値Q
2、及び第1画質から第2画質への変化に応じた値Q
3の値は、
図8の分析精度DB801等に予め設定(登録)されていてもよいし、AI等により算出されてもよい。なお、
図8の例では、分析精度DB801には、符号化パラメータに対応付けて分析精度の値が予め設定されている。なお、分析精度DB801は、情報処理装置10の内部の記憶装置に記憶(登録、設定)されていてもよいし、情報処理装置10の外部のDBサーバ等に記憶されていてもよい。
【0046】
続いて、情報処理装置10の分析部13は、推定した第1信頼度と、受信した各期間の映像とに基づいて、被写体の情報を分析する(ステップS103)。ここで、情報処理装置10の分析部13は、例えば、ディープラーニング等を用いるAI(Artificial Intelligence)により、第1信頼度と映像とに基づいて被写体の情報を分析してもよい。
【0047】
また、情報処理装置10の分析部13は、例えば、ディープラーニング等を用いるAIにより、映像に基づいて被写体の情報を分析し、映像に基づく分析結果と、第1信頼度とに基づいて、分析結果を補正してもよい。この場合、まず、情報処理装置10の分析部13は、例えば、受信した映像から、開始時点が異なる特定期間長の映像を複数抽出し、抽出した複数の映像に基づいて生体情報等の推定をAI等によりそれぞれ実行してもよい。なお、当該特定期間長は予め設定されていてもよい。または、当該特定期間長は、ステップS102で算出された第1信頼度に応じて決定されてもよい。この場合、当該特定期間長は、当該第1信頼度の値が低いほど、長く決定されてもよい。
図9の例では、時刻t
1から特定期間長Tまでの期間の映像911、時刻t
2から特定期間長Tまでの期間の映像912、時刻t
3から特定期間長Tまでの期間の映像913のそれぞれに基づいて、分析結果と、分析結果の第2信頼度とが算出される。なお、第2信頼度は、映像等に基づいてディープラーニング等により算出される各分析結果らしさ(確度)を示す情報である。なお、当該第2信頼度は、被写体の動き、及び色変化の周波数ピークの大きさ等に基づいて算出されてもよい。
【0048】
情報処理装置10の分析部13は、ある期間に対する第1信頼度及び第2信頼度の少なくとも一方が閾値以下である場合、当該期間の映像に基づく分析結果は使用しなくてもよい。この場合、情報処理装置10の分析部13は、当該期間の代わりに、第1信頼度及び第2信頼度の少なくとも一方が閾値以下ではない期間の映像に基づく分析を行ってもよい。この場合、例えば、時刻t1からの期間に対する第1信頼度及び第2信頼度の少なくとも一方が閾値以下の場合、情報処理装置10の分析部13は、時刻t4から特定期間長Tまでの期間の各時点の符号化パラメータに基づいて第1信頼度を算出してもよい。そして、情報処理装置10の分析部13は、時刻t4から特定期間長Tまでの期間の映像と第1信頼度とに基づいて、分析を行ってもよい。
【0049】
分析対象となる生体情報には、例えば、心拍数、呼吸数、血圧、むくみ、経皮的動脈血酸素飽和度、瞳孔の大きさ、のどの腫れ、及び歯周病の程度のうち少なくとも一つが含まれてもよい。
【0050】
情報処理装置10の分析部13は、患者の肌が露出している領域(例えば、顔の領域)の映像に基づいて、心拍数を推定してもよい。この場合、情報処理装置10の分析部13は、例えば、肌の色の変化の推移(周期)に基づいて、心拍数を推定してもよい。
【0051】
また、情報処理装置10の分析部13は、患者の胸部(上半身)の領域の映像に基づいて、呼吸数を推定してもよい。この場合、情報処理装置10の分析部13は、例えば、肩の動きの周期に基づいて、呼吸数を推定してもよい。
【0052】
また、情報処理装置10の分析部13は、患者の肌が露出している領域(例えば、顔の領域)の映像に基づいて、血圧を推定してもよい。この場合、情報処理装置10の分析部13は、例えば、顔の2ヵ所(例えば、額と頬)から推定された脈波の差及び形状に基づいて、血圧を推定してもよい。
【0053】
また、情報処理装置10の分析部13は、患者の肌が露出している領域(例えば、顔の領域)の映像に基づいて、経皮的動脈血酸素飽和度(SpO2)を推定してもよい。なお、赤はヘモグロビンと酸素が結びついていると透過しやすく、青はヘモグロビンと酸素の結びつきには影響されにくい。そのため、情報処理装置10の分析部13は、例えば、目の下のほほ骨付近等の肌の青色と赤色の変化度合の違いに基づいて、SpO2を推定してもよい。
【0054】
また、情報処理装置10の分析部13は、例えば、患者の瞼の領域の映像に基づいて、むくみの度合いを推定してもよい。また、情報処理装置10の分析部13は、例えば、患者の目の領域の映像に基づいて、瞳孔の大きさ(瞳孔径)を推定してもよい。また、情報処理装置10の分析部13は、例えば、患者の口腔内の領域の映像に基づいて、のどの腫れや歯周病の程度等を推定してもよい。
【0055】
そして、情報処理装置10の分析部13は、例えば、AI等により算出された各期間の映像に基づく分析結果の第2信頼度の値を、ステップS102で算出した第1信頼度に基づいて補正(更新、変更)してもよい。この場合、情報処理装置10の分析部13は、例えば、映像911に基づく分析結果の補正後の信頼度の値E2’は、以下の式(2)のように算出されてもよい。なお、E2は、第2信頼度の値である。
E2’=E1×E2 ・・・(2)
【0056】
そして、情報処理装置10の分析部13は、各分析結果に対して各分析結果の信頼度の重みを付加した加重平均等を、生体情報の値として決定してもよい。例えば、映像911に基づく心拍数の推定値が83、補正後の信頼度が0.8であり、映像912に基づく心拍数の推定値が85、補正後の信頼度が0.7であり、映像913に基づく心拍数の推定値が90、補正後の信頼度が0.7であるとする。この場合、例えば、心拍数は(83×0.8+85×0.7+90×0.7)/(0.8+0.7+0.7)≒86と算出される。
【0057】
続いて、情報処理装置10の分析部13は、算出した被写体の生体情報等を出力する(ステップS104)。ここで、情報処理装置10の分析部13は、患者の生体情報を表示装置に表示させてもよい。
【0058】
(監視カメラである撮影装置20の映像により人物を特定する例)
上述した例では、医師と患者とのビデオ会議において生体情報の測定を行う例について説明した。以下では、監視カメラである撮影装置20の映像により人物を特定する例について説明する。この場合、撮影装置20から情報処理装置10へ撮影装置20の映像が配信されていてもよい。
【0059】
情報処理装置10の分析部13は、各時点での人物の顔の領域の映像と当該各時点での人物の顔の領域の符号化パラメータとに基づいて、被写体である人物が誰であるか特定してもよい。また、情報処理装置10の分析部13は、各時点での人物の全身の領域の映像と当該各時点での人物の全身の領域の符号化パラメータとに基づいて、被写体である人物の行動を特定してもよい。
【0060】
(撮影装置20の映像により製品の検査(検品)を行う例)
以下では、監視カメラである撮影装置20の映像により製品の検査(検品)を行う例について説明する。この場合、撮影装置20から情報処理装置10へ撮影装置20の映像が配信されていてもよい。情報処理装置10の分析部13は、各時点での製品の領域の映像と当該各時点での製品の領域の符号化パラメータとに基づいて、製品の検査をしてもよい。
【0061】
(撮影装置20の映像により施設の点検を行う例)
以下では、ドローンや地上を自律的に移動するロボット等に搭載された撮影装置20の映像により施設の点検を行う例について説明する。この場合、ドローン等に搭載された撮影装置20から情報処理装置10へ撮影装置20の映像が配信されていてもよい。情報処理装置10の分析部13は、各時点での点検対象の部品の領域の映像と当該各時点での点検対象の部品の領域の符号化パラメータとに基づいて、点検対象の部品(例えば、碍子)の検査(例えば、破損、劣化度等の測定)をしてもよい。
【0062】
<変形例>
情報処理装置10は、一つの筐体に含まれる装置でもよいが、本開示の情報処理装置10はこれに限定されない。情報処理装置10の各部は、例えば1以上のコンピュータにより構成されるクラウドコンピューティングにより実現されていてもよい。また、情報処理装置10の少なくとも一部の処理は、例えば、他の情報処理装置10により実現されてもよい。これらのような情報処理装置10についても、本開示の「情報処理装置」の一例に含まれる。
【0063】
なお、本開示は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
【0064】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する取得手段と、
前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する推定手段と、
を有する情報処理システム。
(付記2)
前記情報処理システムは、分析手段を有し、
前記推定手段は、前記複数の時点での符号化パラメータに基づいて、前記複数の時点を含む期間における前記信頼度を推定し、
前記分析手段は、前記推定手段により推定された前記信頼度と、前記期間の前記特定部位の領域の映像とに基づいて、前記被写体の情報を算出する、
付記1に記載の情報処理システム。
(付記3)
前記推定手段は、前記期間に含まれる第1時点での第1符号化パラメータと、前記期間に含まれる第2時点での第2符号化パラメータと、に基づいて、前記期間における前記信頼度を推定する、
付記2に記載の情報処理システム。
(付記4)
前記推定手段は、前記第1符号化パラメータと前記第2符号化パラメータとの変化量が大きいほど、前記期間における前記信頼度を小さい値に決定する、
付記3に記載の情報処理システム。
(付記5)
前記分析手段は、前記期間の映像に基づく被写体の情報の分析結果の値のそれぞれに対して、前記期間における前記信頼度に応じた重み付けを実施し、当該重み付けした値の合計値に基づいて、前記被写体の情報を推定する、
付記2から4のいずれか一項に記載の情報処理システム。
(付記6)
前記複数の時点での符号化パラメータには、符号化のビットレート、符号化のフレームレート、符号化の量子化パラメータ、及び階層符号化の各階層の領域とビットレートの少なくとも一つが含まれる、
付記1から5のいずれか一項に記載の情報処理システム。
(付記7)
ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する処理と、
前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する処理と、
を実行する、情報処理方法。
(付記8)
前記情報処理方法は、分析する処理を含み、
前記推定する処理では、前記複数の時点での符号化パラメータに基づいて、前記複数の時点を含む期間における前記信頼度を推定し、
前記分析する処理では、前記推定する処理で推定した前記信頼度と、前記期間の前記特定部位の領域の映像とに基づいて、前記被写体の情報を算出する、
付記7に記載の情報処理方法。
(付記9)
前記推定する処理では、前記期間に含まれる第1時点での第1符号化パラメータと、前記期間に含まれる第2時点での第2符号化パラメータと、に基づいて、前記期間における前記信頼度を推定する、
付記8に記載の情報処理方法。
(付記10)
前記推定する処理では、前記第1符号化パラメータと前記第2符号化パラメータとの変化量が大きいほど、前記期間における前記信頼度を小さい値に決定する、
付記9に記載の情報処理方法。
(付記11)
前記分析する処理では、前記期間の映像に基づく被写体の情報の分析結果の値のそれぞれに対して、前記期間における前記信頼度に応じた重み付けを実施し、当該重み付けした値の合計値に基づいて、前記被写体の情報を推定する、
付記8から10のいずれか一項に記載の情報処理方法。
(付記12)
前記複数の時点での符号化パラメータには、符号化のビットレート、符号化のフレームレート、符号化の量子化パラメータ、及び階層符号化の各階層の領域とビットレートの少なくとも一つが含まれる、
付記7から11のいずれか一項に記載の情報処理方法。
(付記13)
ネットワークを介して配信される映像の複数の時点での符号化パラメータを取得する取得手段と、
前記複数の時点での被写体の特定部位の領域の符号化パラメータに基づいて、被写体の情報の分析結果の信頼度を推定する推定手段と、
を有する情報処理装置。
(付記14)
前記情報処理装置は、分析手段を有し、
前記推定手段は、前記複数の時点での符号化パラメータに基づいて、前記複数の時点を含む期間における前記信頼度を推定し、
前記分析手段は、前記推定手段により推定された前記信頼度と、前記期間の前記特定部位の領域の映像とに基づいて、前記被写体の情報を算出する、
付記13に記載の情報処理装置。
(付記15)
前記推定手段は、前記期間に含まれる第1時点での第1符号化パラメータと、前記期間に含まれる第2時点での第2符号化パラメータと、に基づいて、前記期間における前記信頼度を推定する、
付記14に記載の情報処理装置。
(付記16)
前記推定手段は、前記第1符号化パラメータと前記第2符号化パラメータとの変化量が大きいほど、前記期間における前記信頼度を小さい値に決定する、
付記15に記載の情報処理装置。
(付記17)
前記分析手段は、前記期間の映像に基づく被写体の情報の分析結果の値のそれぞれに対して、前記期間における前記信頼度に応じた重み付けを実施し、当該重み付けした値の合計値に基づいて、前記被写体の情報を推定する、
付記14から16のいずれか一項に記載の情報処理装置。
(付記18)
前記複数の時点での符号化パラメータには、符号化のビットレート、符号化のフレームレート、符号化の量子化パラメータ、及び階層符号化の各階層の領域とビットレートの少なくとも一つが含まれる、
付記13から17のいずれか一項に記載の情報処理装置。
【符号の説明】
【0065】
1 情報処理システム
10 情報処理装置
10A 情報処理装置
10B 情報処理装置
11 取得部
12 推定部
13 分析部
20 撮影装置
N ネットワーク