IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ダイキン工業株式会社の特許一覧 ▶ フェアリーデバイセズ株式会社の特許一覧

特開2022-100003作業者端末、動画像処理方法及び動画像処理プログラム
<>
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図1
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図2
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図3
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図4
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図5
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図6
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図7
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図8
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図9
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図10
  • 特開-作業者端末、動画像処理方法及び動画像処理プログラム 図11
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022100003
(43)【公開日】2022-07-05
(54)【発明の名称】作業者端末、動画像処理方法及び動画像処理プログラム
(51)【国際特許分類】
   H04N 21/2343 20110101AFI20220628BHJP
   H04N 21/2662 20110101ALI20220628BHJP
   H04N 7/18 20060101ALI20220628BHJP
   H04N 5/232 20060101ALI20220628BHJP
   G06F 13/00 20060101ALI20220628BHJP
   G05B 19/418 20060101ALI20220628BHJP
【FI】
H04N21/2343
H04N21/2662
H04N7/18 A
H04N7/18 K
H04N5/232 290
H04N5/232 300
G06F13/00 520B
G05B19/418 Z
【審査請求】有
【請求項の数】22
【出願形態】OL
(21)【出願番号】P 2020214111
(22)【出願日】2020-12-23
(11)【特許番号】
(45)【特許公報発行日】2022-05-27
(71)【出願人】
【識別番号】000002853
【氏名又は名称】ダイキン工業株式会社
(71)【出願人】
【識別番号】513190830
【氏名又は名称】Fairy Devices株式会社
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】黒田 悠子
【テーマコード(参考)】
3C100
5B084
5C054
5C122
5C164
【Fターム(参考)】
3C100AA53
3C100AA59
3C100AA63
3C100BB13
3C100BB34
3C100CC02
3C100CC03
3C100CC16
5B084AA02
5B084AB07
5B084AB13
5B084BB04
5B084BB11
5B084CA07
5B084CB05
5B084CB12
5B084CB22
5B084CF12
5B084DB01
5B084DC05
5C054CA04
5C054CC02
5C054EA01
5C054EA03
5C054EG01
5C122DA03
5C122DA09
5C122DA12
5C122EA12
5C122EA55
5C122FH08
5C122FH10
5C122FH11
5C122FH14
5C122FJ01
5C122FJ03
5C122FK41
5C122GC52
5C122HA13
5C122HA35
5C122HA87
5C122HA89
5C122HB01
5C122HB05
5C122HB09
5C164FA07
5C164GA03
5C164PA32
5C164PA33
5C164SA25S
5C164SA32S
5C164SB02P
5C164SB21S
5C164SB41S
5C164SC03P
5C164YA21
(57)【要約】
【課題】 作業者端末を利用して動画像を伝送する際、画質を維持しつつ、通信量を削減する。
【解決手段】 作業者端末は、作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末であって、動画像を撮影するカメラと、前記カメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定部と、前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工部とを有する。
【選択図】図3
【特許請求の範囲】
【請求項1】
作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末であって、
動画像を撮影するカメラと、
前記カメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定部と、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工部と
を有する作業者端末。
【請求項2】
前記加工部は、
前記動画像を加工するための、複数のパラメータセットのうちの1のパラメータセットであって、対象領域と対象領域以外の領域とで異なるパラメータが規定されたパラメータセットを取得し、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、パラメータを切り替えて加工する、請求項1に記載の作業者端末。
【請求項3】
前記認識処理において対象物を認識するのに用いられる情報を格納する格納部を更に有し、
前記特定部は、
前記認識処理において前記対象物を認識した場合に、前記対象物の領域を前記対象領域として特定する、請求項2に記載の作業者端末。
【請求項4】
前記格納部は、
前記認識処理において前記対象物を認識するのに用いられる情報と対応付けて、対象物の周辺領域を指定する物理量を格納し、
前記特定部は、
前記認識処理において前記対象物を認識した場合に、前記対象物と前記対象物の周辺領域とを含む領域を、前記対象領域として特定する、請求項3に記載の作業者端末。
【請求項5】
前記加工部は、
対象領域以外の領域の伝送時の単位面積当たりのデータ量が、対象領域の伝送時の単位面積当たりのデータ量よりも小さくなるように、前記動画像を加工する、請求項1乃至4のいずれか1項に記載の作業者端末。
【請求項6】
撮影モードを取得する撮影モード取得部を更に有し、
前記加工部は、
前記撮影モードに基づいて前記1のパラメータセットを取得する請求項2に記載の作業者端末。
【請求項7】
前記加工部は、
作業内容、通信時間上限値、割り当て通信量のうちの、少なくとも1つ以上に基づいて、前記1のパラメータセットを取得する、請求項6に記載の作業者端末。
【請求項8】
前記特定部は、更に、
前記動画像について、作業内容の種類を示すシーンを特定し、
前記加工部は、更に、
前記1のパラメータセットであって、シーンごとに異なるパラメータが規定されたパラメータセットを取得し、
前記動画像を、特定したシーンごとにパラメータを切り替えて加工する、請求項7に記載の作業者端末。
【請求項9】
前記特定部は、
前記動画像に基づいて各シーンを特定するために、シーンごとに予め定められた条件を参照することにより、または、各シーンを特定するための入力情報を受け付けることにより、前記動画像について、シーンを特定する、請求項8に記載の作業者端末。
【請求項10】
前記特定部は、
シーンごとに予め定められた画像情報を参照し、前記動画像にいずれかの画像情報が含まれるか否かを判定することで、前記動画像について、シーンを特定する、請求項9に記載の作業者端末。
【請求項11】
前記特定部は、
受け付けた前記入力情報が、予め定められたシーン情報のいずれに該当するかを判定することで、前記動画像について、シーンを特定する、請求項9に記載の作業者端末。
【請求項12】
前記対象領域以外の領域には、
前記動画像において対象領域が特定されたフレームの、前記対象領域以外の領域、及び、
前記動画像において対象領域が特定されなかったフレームの、全体の領域、
の少なくともいずれかが含まれる、請求項1に記載の作業者端末。
【請求項13】
前記加工部は、
前記対象領域が特定されたフレームから対象領域を抽出することで、前記動画像を加工し、あるいは、
前記対象領域が特定されたフレームのうち、対象領域以外の領域の解像度を、対象領域の解像度より下げることで、前記動画像を加工し、あるいは、
前記対象領域が特定されたフレームから対象領域を抽出し、対象領域以外の領域が所定の静止画像と結合することで、前記動画像を加工し、あるいは、
前記対象領域が特定されたフレームのうち、対象領域以外の領域の量子化値を、対象領域の量子化値よりも下げて符号化することで、前記動画像を加工する、
請求項12に記載の作業者端末。
【請求項14】
前記加工部は、
前記対象領域が特定されなかったフレームを間引くことで、前記動画像を加工し、あるいは、
前記対象領域が特定されなかったフレームの解像度を、対象領域が特定されたフレームの対象領域の解像度より下げることで、前記動画像を加工し、あるいは、
前記対象領域が特定されなかったフレームを所定の静止画像に置き換えることで、前記動画像を加工し、あるいは、
前記対象領域が特定されなかったフレームの量子化値を、対象領域が特定されたフレームの対象領域の量子化値よりも下げて符号化することで、前記動画像を加工する、
請求項12に記載の作業者端末。
【請求項15】
前記加工部は、
前記動画像を、特定したシーンごとにフレームレートを変えることで加工し、あるいは、
前記動画像を、特定したシーンごとにキーフレーム間隔を変えて符号化することで加工する、
請求項8に記載の作業者端末。
【請求項16】
前記撮影モード取得部は、
ネットワークを介して受信することにより、あるいは、作業者による入力を受け付けることにより、前記撮影モードを取得する、請求項6に記載の作業者端末。
【請求項17】
前記加工部は、
ネットワークを介して受信することにより、あるいは、作業者による選択を受け付けて、予め格納された複数のパラメータセットから抽出することにより、前記1のパラメータセットを取得する、請求項2に記載の作業者端末。
【請求項18】
前記通信時間上限値、または、前記割り当て通信量に基づいて、通信時間または通信量を監視する監視部を更に有し、
前記監視部は、
通信時間が前記通信時間上限値を超えた場合、または、通信量が前記割り当て通信量を超えた場合に、警告を出力する、または、伝送を中断し、符号化した動画像を格納するよう制御する、請求項7に記載の作業者端末。
【請求項19】
通信時間が前記通信時間上限値を超えた場合、または、通信量が前記割り当て通信量を超えた場合に、前記複数のパラメータセットを変更する変更部を更に有する、請求項18に記載の作業者端末。
【請求項20】
通信時間が前記通信時間上限値を超えた場合、または、通信量が前記割り当て通信量を超えた場合に、追加の通信時間または追加の通信量を予測する予測部を更に有する、請求項18に記載の作業者端末。
【請求項21】
作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末における動画像処理方法であって、
動画像を撮影するカメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定工程と、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工工程と
を有する動画像処理方法。
【請求項22】
作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末のコンピュータに、
動画像を撮影するカメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定工程と、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工工程と
を実行させるための動画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、作業者端末、動画像処理方法及び動画像処理プログラムに関する。
【背景技術】
【0002】
機器の据え付け、修理、点検、撤去等が行われる作業現場では、モバイル端末等の作業者端末を利用することで、作業効率の改善が進められている。例えば、作業者端末を利用して作業現場の様子を撮影し、遠隔にいる管理者に動画像を伝送することで、作業者は、遠隔からの適切な支援(例えば、音声指示)をリアルタイムに受けることが可能となり、効率的に作業を行うことができる。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2020-53760号公報
【特許文献2】特開2018-160795号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、動画像の伝送には通信コストがかかる。このため、作業者端末を利用するにあたっては、伝送時の通信量を削減することが求められる。一方で、作業現場において遠隔から適切な支援を受けるには、伝送する動画像について、一定程度の画質を維持することが必要である。
【0005】
本開示は、作業者端末を利用して動画像を伝送する際、画質を維持しつつ、通信量を削減することを目的とする。
【課題を解決するための手段】
【0006】
本開示の第1の態様における作業者端末は、
作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末であって、
動画像を撮影するカメラと、
前記カメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定部と、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工部とを有する。
【0007】
本開示の第1の態様によれば、作業者端末を利用して動画像を伝送する際、画質を維持しつつ、通信量を削減することができる。
【0008】
また、本開示の第2の態様は、第1の態様に記載の作業者端末であって、
前記加工部は、
前記動画像を加工するための、複数のパラメータセットのうちの1のパラメータセットであって、対象領域と対象領域以外の領域とで異なるパラメータが規定されたパラメータセットを取得し、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、パラメータを切り替えて加工する。
【0009】
また、本開示の第3の態様は、第2の態様に記載の作業者端末であって、
前記認識処理において対象物を認識するのに用いられる情報を格納する格納部を更に有し、
前記特定部は、
前記認識処理において前記対象物を認識した場合に、前記対象物の領域を前記対象領域として特定する。
【0010】
また、本開示の第4の態様は、第3の態様に記載の作業者端末であって、
前記格納部は、
前記認識処理において前記対象物を認識するのに用いられる情報と対応付けて、対象物の周辺領域を指定する物理量を格納し、
前記特定部は、
前記認識処理において前記対象物を認識した場合に、前記対象物と前記対象物の周辺領域とを含む領域を、前記対象領域として特定する。
【0011】
また、本開示の第5の態様は、第1乃至4のいずれかの態様に記載の作業者端末であって、
前記加工部は、
対象領域以外の領域の伝送時の単位面積当たりのデータ量が、対象領域の伝送時の単位面積当たりのデータ量よりも小さくなるように、前記動画像を加工する。
【0012】
また、本開示の第6の態様は、第2の態様に記載の作業者端末であって、
撮影モードを取得する撮影モード取得部を更に有し、
前記加工部は、
前記撮影モードに基づいて前記1のパラメータセットを取得する。
【0013】
また、本開示の第7の態様は、第6の態様に記載の作業者端末であって、
前記加工部は、
作業内容、通信時間上限値、割り当て通信量のうちの、少なくとも1つ以上に基づいて、前記1のパラメータセットを取得する。
【0014】
また、本開示の第8の態様は、第7の態様に記載の作業者端末であって、
前記特定部は、更に、
前記動画像について、作業内容の種類を示すシーンを特定し、
前記加工部は、更に、
前記1のパラメータセットであって、シーンごとに異なるパラメータが規定されたパラメータセットを取得し、
前記動画像を、特定したシーンごとにパラメータを切り替えて加工する。
【0015】
また、本開示の第9の態様は、第8の態様に記載の作業者端末であって、
前記特定部は、
前記動画像に基づいて各シーンを特定するために、シーンごとに予め定められた条件を参照することにより、または、各シーンを特定するための入力情報を受け付けることにより、前記動画像について、シーンを特定する。
【0016】
また、本開示の第10の態様は、第9の態様に記載の作業者端末であって、
前記特定部は、
シーンごとに予め定められた画像情報を参照し、前記動画像にいずれかの画像情報が含まれるか否かを判定することで、前記動画像について、シーンを特定する。
【0017】
また、本開示の第11の態様は、第9の態様に記載の作業者端末であって、
前記特定部は、
受け付けた前記入力情報が、予め定められたシーン情報のいずれに該当するかを判定することで、前記動画像について、シーンを特定する。
【0018】
また、本開示の第12の態様は、第1の態様に記載の作業者端末であって、
前記対象領域以外の領域には、
前記動画像において対象領域が特定されたフレームの、前記対象領域以外の領域、及び、
前記動画像において対象領域が特定されなかったフレームの、全体の領域、
の少なくともいずれかが含まれる。
【0019】
また、本開示の第13の態様は、第12の態様に記載の作業者端末であって、
前記加工部は、
前記対象領域が特定されたフレームから対象領域を抽出することで、前記動画像を加工し、あるいは、
前記対象領域が特定されたフレームのうち、対象領域以外の領域の解像度を、対象領域の解像度より下げることで、前記動画像を加工し、あるいは、
前記対象領域が特定されたフレームから対象領域を抽出し、対象領域以外の領域が所定の静止画像と結合することで、前記動画像を加工し、あるいは、
前記対象領域が特定されたフレームのうち、対象領域以外の領域の量子化値を、対象領域の量子化値よりも下げて符号化することで、前記動画像を加工する。
【0020】
また、本開示の第14の態様は、第12の態様に記載の作業者端末であって、
前記加工部は、
前記対象領域が特定されなかったフレームを間引くことで、前記動画像を加工し、あるいは、
前記対象領域が特定されなかったフレームの解像度を、対象領域が特定されたフレームの対象領域の解像度より下げることで、前記動画像を加工し、あるいは、
前記対象領域が特定されなかったフレームを所定の静止画像に置き換えることで、前記動画像を加工し、あるいは、
前記対象領域が特定されなかったフレームの量子化値を、対象領域が特定されたフレームの対象領域の量子化値よりも下げて符号化することで、前記動画像を加工する。
【0021】
また、本開示の第15の態様は、第8の態様に記載の作業者端末であって、
前記加工部は、
前記動画像を、特定したシーンごとにフレームレートを変えることで加工し、あるいは、
前記動画像を、特定したシーンごとにキーフレーム間隔を変えて符号化することで加工する。
【0022】
また、本開示の第16の態様は、第6の態様に記載の作業者端末であって、
前記撮影モード取得部は、
ネットワークを介して受信することにより、あるいは、作業者による入力を受け付けることにより、前記撮影モードを取得する。
【0023】
また、本開示の第17の態様は、第2の態様に記載の作業者端末であって、
前記加工部は、
ネットワークを介して受信することにより、あるいは、作業者による選択を受け付けて、予め格納された複数のパラメータセットから抽出することにより、前記1のパラメータセットを取得する。
【0024】
また、本開示の第18の態様は、第7の態様に記載の作業者端末であって、
前記通信時間上限値、または、前記割り当て通信量に基づいて、通信時間または通信量を監視する監視部を更に有し、
前記監視部は、
通信時間が前記通信時間上限値を超えた場合、または、通信量が前記割り当て通信量を超えた場合に、警告を出力する、または、伝送を中断し、符号化した動画像を格納するよう制御する。
【0025】
また、本開示の第19の態様は、第18の態様に記載の作業者端末であって、
通信時間が前記通信時間上限値を超えた場合、または、通信量が前記割り当て通信量を超えた場合に、前記複数のパラメータセットを変更する変更部を更に有する。
【0026】
また、本開示の第20の態様は、第18の態様に記載の作業者端末であって、
通信時間が前記通信時間上限値を超えた場合、または、通信量が前記割り当て通信量を超えた場合に、追加の通信時間または追加の通信量を予測する予測部を更に有する。
【0027】
また、本開示の第21の態様における動画像処理方法は、
作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末における動画像処理方法であって、
動画像を撮影するカメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定工程と、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工工程とを有する。
【0028】
本開示の第21の態様によれば、作業現場における作業に対して遠隔から支援を受けるための動画像を伝送する際、画質を維持しつつ、通信量を削減することができる。
【0029】
また、本開示の第22の態様における動画像処理プログラムは、
作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する支援装置と接続され、動画像を符号化して伝送する作業者端末のコンピュータに、
動画像を撮影するカメラが撮影した動画像に対して認識処理を行い、対象領域を特定する特定工程と、
前記動画像において対象領域が特定された場合、前記動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する加工工程と
を実行させる。
【0030】
本開示の第22の態様によれば、作業現場における作業に対して遠隔から支援を受けるための動画像を伝送する際、画質を維持しつつ、通信量を削減することができる。
【図面の簡単な説明】
【0031】
図1】遠隔支援システムのシステム構成の一例を示す図である。
図2】作業者端末のハードウェア構成の一例を示す図である。
図3】作業者端末の機能構成の一例を示す図である。
図4】パラメータ格納部に格納されたパラメータセットの一例を示す図である。
図5】加工部の機能構成の詳細を示す図である。
図6】前処理部による前処理の具体例を示す図である。
図7】エンコーダ部による符号化処理の具体例を示す図である。
図8】各ケースにおける作業者端末の動作例を示す図である。
図9】動画像処理の流れを示すフローチャートである。
図10】加工処理の流れを示すフローチャートである。
図11】通信制御処理の流れを示すフローチャートである。
【発明を実施するための形態】
【0032】
以下、各実施形態について添付の図面を参照しながら説明する。なお、本明細書及び図面において、実質的に同一の機能構成を有する構成要素については、同一の符号を付することにより重複した説明を省く。
【0033】
[第1の実施形態]
<遠隔支援システムのシステム構成>
はじめに、第1の実施形態に係る作業者端末を備える遠隔支援システムのシステム構成について説明する。図1は、遠隔支援システムのシステム構成の一例を示す図である。
【0034】
図1に示すように、遠隔支援システム100は、作業者端末110と、管理者端末120とを有する。遠隔支援システム100において、作業者端末110と管理者端末120とは、ネットワーク130を介して通信可能に接続される。
【0035】
作業者端末110は、機器の据え付け、修理、点検、撤去等が行われる作業現場において用いられるモバイル端末である。図1において、符号141は、作業現場において、作業者151が現地調査を行う際に作業者端末110を利用するケースを示している。
【0036】
符号141に示すように、作業内容=現地調査の場合、作業者151は、ビルに到着後、共有部及び私有部を移動して、機器(本実施形態では空調機)を更新する(撤去と据え付けを行う)対象エリアに向かう。このとき、作業者151は、作業者端末110を用いて撮影を行いながら、管理者153に現地調査の開始報告を行う。
【0037】
続いて、作業者151は、機器を更新する対象エリア及び機器を更新しない非対象エリアについて、管理者153からの音声指示を受けながら、作業者端末110を用いて撮影を行う。
【0038】
その後、作業者151は、私有部及び共有部を移動して、ビル外へと向かう。このとき、作業者151は、作業者端末110を用いて撮影を行いながら、管理者153に現地調査の終了報告を行う。
【0039】
このように、作業者151は、現地調査の開始から終了までの間、撮影を継続し、管理者153は、作業者151により撮影された動画像を閲覧しながら、必要に応じて作業者151に音声指示を行う。
【0040】
同様に、図1において、符号142は、作業現場において、作業者152が設備メンテナンスを行う際に作業者端末110を利用するケースを示している。
【0041】
符号142に示すように、作業内容=設備メンテナンスの場合、作業者152は、まず、メンテナンス対象の設備が設置された位置まで移動する。このとき、作業者152は、作業者端末110を用いて撮影を行いながら、管理者153に設備メンテナンスの開始報告を行う。
【0042】
続いて、作業者152は、メンテナンス対象の設備の外観及び内部のチェックを行う。このとき、作業者152は、管理者153からの音声指示を受けながら、作業者端末110を用いて、メンテナンス対象の設備の外観及び内部の撮影を行う。
【0043】
続いて、作業者152は、交換すべき部品を特定したうえで、特定した部品を倉庫等に取りに行き、再び、メンテナンス対象の設備が設置された位置まで移動する。このとき、作業者152は、作業者端末110を用いて撮影を行いながら、管理者153に作業の中間報告を行う。
【0044】
続いて、作業者152は、管理者153からの音声指示を受けながら、メンテナンス対象の設備において、特定した部品を交換するとともに、メンテナンス対象の設備の動作確認を行う。このとき、作業者152は、作業者端末110を用いて撮影を行い、部品交換及び動作確認の作業の様子を管理者153に報告する。
【0045】
その後、作業者152は、メンテナンス対象の設備から離れ、作業を終了する。このとき、作業者152は、作業者端末110を用いて撮影を行いながら、管理者153に設備メンテナンスの終了報告を行う。
【0046】
このように、作業者152は、設備メンテナンスの開始から終了までの間、撮影を継続し、管理者153は、作業者152により撮影された動画像を閲覧しながら、必要に応じて作業者152に音声指示を行う。
【0047】
一方、管理者端末120は支援装置の一例であり、作業現場において作業者151、152等が撮影した動画像の符号化データを、ネットワーク130を介して受信する。また、管理者端末120は、受信した符号化データを復号して管理者153に表示する。これにより、管理者153は、作業者151、152が撮影した動画像をリアルタイムに閲覧することができる。
【0048】
また、管理者端末120は、動画像を表示したことに応じて管理者153が入力した音声指示を取得し、ネットワーク130を介して作業者端末110に伝送する。これにより、管理者153は、作業者151、152に対して、音声指示による適切な支援を行うことができる。
【0049】
なお、図1の例では、現地調査及び設備メンテナンスを行う際に作業者151、152が作業者端末110を利用するケースについて示したが、作業者151、152等が作業者端末110を利用するケースは、これらに限定されない。例えば、作業現場において、設備点検、施工サポート等を行う際に、作業者端末110を利用してもよい。
【0050】
<作業者端末のハードウェア構成>
次に、作業者端末110のハードウェア構成について説明する。図2は、作業者端末のハードウェア構成の一例を示す図である。
【0051】
図2に示すように、作業者端末110は、プロセッサ201、メモリ202、補助記憶装置203を有する。また、作業者端末110は、操作装置204、表示装置205、撮像装置206、通信装置207、音声入力装置208、音声出力装置209を有する。なお、作業者端末110の各ハードウェアは、バス210を介して相互に接続されている。
【0052】
プロセッサ201は、CPU(Central Processing Unit)等の各種演算デバイスを有する。プロセッサ201は、各種プログラム(例えば、後述する動画像処理プログラム等)をメモリ202上に読み出して実行する。
【0053】
メモリ202は、ROM(Read Only Memory)、RAM(Random Access Memory)等の主記憶デバイスを有する。プロセッサ201とメモリ202とは、いわゆるコンピュータを形成し、プロセッサ201が、メモリ202上に読み出した各種プログラムを実行することで、作業者端末110は、各種機能を実現する。
【0054】
補助記憶装置203は、各種プログラムや、各種プログラムがプロセッサ201によって実行される際に用いられる各種データを格納する。例えば、後述するパラメータ格納部360は、補助記憶装置203において実現される。
【0055】
操作装置204は、作業者151、152等による作業者端末110に対する操作指示を受け付ける。表示装置205は、作業者端末110による各種処理の結果を、作業者151、152等に表示する。
【0056】
撮像装置206はカメラであり、作業現場を撮影することで、動画像を生成する。通信装置207は、ネットワーク130を介して管理者端末120と通信を行う。なお、補助記憶装置203にインストールされる各種プログラム及び各種データは、例えば、通信装置207を介してネットワーク130からダウンロードされることで、インストールされる。
【0057】
音声入力装置208はマイクであり、作業者151、152等の音声入力を受け付ける。音声出力装置209はスピーカであり、例えば、管理者153からの音声指示を出力する。
【0058】
<作業者端末の機能構成>
次に、作業者端末110の機能構成について説明する。図3は、作業者端末の機能構成の一例を示す図である。上述したように、作業者端末110には動画像処理プログラムがインストールされており、当該プログラムが実行されることで、作業者端末110は、カメラ制御部310、加工制御部320、加工部330、送信部340、監視部350として機能する。
【0059】
カメラ制御部310は、撮像装置206の動作を制御する。カメラ制御部310は、作業者151、152等から撮影開始の指示が入力されると、撮像装置206により撮影された動画像の取り込みを開始する。また、カメラ制御部310は、取り込んだ動画像を加工部330に通知する。また、カメラ制御部310は、作業者151、152等から撮影終了の指示が入力されると、撮像装置206からの動画像の取り込みを終了する。
【0060】
加工制御部320は撮影モード取得部の一例であり、作業者151、152等による入力を受け付けることで、あるいは、ネットワーク130を介して管理者153からの指示を受信することにより撮影モードを取得する。撮影モードは、作業者151、152等が作業現場において作業者端末110を利用するケース(現地調査、設備メンテナンス、設備点検、施工サポート等)と対応付けられている。
【0061】
また、加工制御部320は、作業者151、152による入力を受け付けることで、あるいは、ネットワーク130を介して管理者153からの指示を受信することにより通信時間の上限値及び割当通信量を取得する。
【0062】
また、加工制御部320は、取得した撮影モードに基づいて、パラメータ格納部360に予め格納された複数のパラメータセットの中から所定のパラメータセットを読み出す。なお、パラメータ格納部360に格納されたパラメータセットには、動画像に対して各種加工処理を行う際のパラメータの組み合わせが規定されている。
【0063】
撮影モードに基づいて、所定のパラメータセットを読み出す構成とすることで、作業者151、152等が作業現場において作業者端末110を利用するいずれのケースに該当するのかに応じて、パラメータセットを切り替えることが可能になる。
【0064】
なお、撮影モードに基づいて読み出される所定のパラメータセットには、通信時間上限値、割当通信量等が異なる複数のパラメータセットが含まれる。
【0065】
このため、加工制御部320は、撮影モードに基づいて読み出した所定のパラメータセットの中から、更に、取得した通信時間上限値または割当通信量等に応じた、1のパラメータセットを選択するように構成されうる。通信時間上限値または割当通信量に基づいて、パラメータセットを選択する構成とすることで、加工部330では、使用可能な通信時間または通信量に応じたパラメータセットを用いて加工処理を行うことができる。
【0066】
なお、パラメータセットには、例えば、
・動画像から対象物を認識するのに用いられる情報(作業内容の種類ごとに予め決められた撮影対象物を認識するのに用いられる対象物情報)、
・動画像について、作業内容の種類を示すシーンを特定するための予め定められた条件(シーン条件)、及び、
・パラメータ(加工処理の種類ごとのパラメータ)、
が規定されている。
【0067】
また、加工制御部320は、対象物情報、シーン条件、パラメータが規定されたパラメータセットを加工部330に通知するとともに、取得した通信時間上限値及び割当通信量を、監視部350に通知する。
【0068】
加工部330は、カメラ制御部310より通知された動画像に対して、加工制御部320より通知されたパラメータセットを用いて、各種加工処理を行い、符号化データを生成する。具体的には、加工部330は、動画像に含まれる対象物の領域(対象領域)の単位面積当たりのデータ量に対して、対象領域以外の領域の単位面積当たりのデータ量が少なくなるように、動画像に対して各種加工処理を行い、符号化データを生成する。また、加工部330は、生成した符号化データを送信部340に通知する。なお、ここでいう対象領域以外の領域には、対象領域が特定されたフレームの対象領域以外の領域と、対象領域が特定されなかったフレームの全体の領域のいずれかが含まれる。
【0069】
送信部340は、加工部330により通知された符号化データを、ネットワーク130を介して管理者端末120に伝送する。
【0070】
監視部350は、送信部340が符号化データを伝送した際の通信時間を、例えば、月ごとに監視する。また、監視部350は、送信部340が伝送した符号化データの通信量を、例えば、月ごとに監視する。また、監視部350は、監視中の通信時間及び通信量と、加工制御部320より通知された通信時間上限値及び割当通信量とを比較する。更に、監視部350は、監視中の通信時間及び通信量が所定の条件を満たす場合に、作業者151、152等への警告、あるいは、符号化データの伝送の中断等を行う。
【0071】
<パラメータセットの説明>
次に、パラメータ格納部360に格納された複数のパラメータセットについて説明する。図4は、パラメータ格納部に格納されたパラメータセットの一例を示す図である。
【0072】
図4に示すように、パラメータ格納部360には、撮影モードごと、割当通信量及び通信時間上限値ごとにパラメータセットが格納されている。
【0073】
このうち、パラメータセット410は、撮影モードとして"撮影モード1"が入力され、割当通信量として"XX1"、通信時間上限値として"YY1"がそれぞれ入力された場合に読み出されるパラメータセットである。"撮影モード1"は、設備点検を行う際に選択されるモードであり、基本的に、高解像度、低フレームレートで撮影されるモードである。
【0074】
なお、パラメータセット411は、撮影モードとして"撮影モード1"が入力され、割当通信量として"XX1'"、通信時間上限値として"YY1'"がそれぞれ入力された場合に読み出されるパラメータセットである。撮影モードが同じであっても、割当通信量、通信時間上限値が異なる場合には、異なるパラメータセットが読み出される。
【0075】
例えば、パラメータセット411は、パラメータセット410と比較して、通信量がより削減されるように各パラメータが規定されているものとする。したがって、設備点検に際して、作業者151、152等が通信量や通信時間を抑えるために、割当通信量として"XX1'"、通信時間上限値として"YY1'"を入力した場合には、パラメータセット411が読み出されることになる。
【0076】
また、パラメータセット420は、撮影モードとして"撮影モード2"が入力され、割当通信量として"XX2"、通信時間上限値として"YY2"がそれぞれ入力された場合に読み出されるパラメータセットである。"撮影モード2"は、現地調査を行う際に選択されるモードであり、基本的に、低解像度、高フレームレートで撮影されるモードである。
【0077】
なお、パラメータセット421は、撮影モードとして"撮影モード2"が入力され、割当通信量として"XX2'"、通信時間上限値として"YY2'"がそれぞれ入力された場合に読み出されるパラメータセットである。撮影モードが同じであっても、割当通信量、通信時間上限値が異なる場合には、異なるパラメータセットが読み出される。
【0078】
例えば、パラメータセット421は、パラメータセット420と比較して、通信量がより削減されるように各パラメータが規定されているものとする。したがって、現地調査に際して、作業者151、152等が通信量や通信時間を抑えるために、割当通信量として"XX2'"、通信時間上限値として"YY2'"を入力した場合には、パラメータセット421が読み出されることになる。
【0079】
また、パラメータセット430は、撮影モードとして"撮影モード3"が入力され、割当通信量として"XX2"、通信時間上限値として"YY2"がそれぞれ入力された場合に読み出されるパラメータセットである。"撮影モード3"は、施工サポートを行う際に選択されるモードであり、基本的に、高解像度、高フレームレートで撮影されるモードである。
【0080】
なお、パラメータセット431は、撮影モードとして"撮影モード3"が入力され、割当通信量として"XX3'"、通信時間上限値として"YY3'"がそれぞれ入力された場合に読み出されるパラメータセットである。撮影モードが同じであっても、割当通信量、通信時間上限値が異なる場合には、異なるパラメータセットが読み出される。
【0081】
例えば、パラメータセット431は、パラメータセット430と比較して、通信量がより削減されるように各パラメータが規定されているものとする。したがって、施工サポートに際して、作業者151、152等が通信量や通信時間を抑えるために、割当通信量として"XX3'"、通信時間上限値として"YY3'"を入力した場合には、パラメータセット431が読み出されることになる。
【0082】
また、パラメータセット440は、撮影モードとして"撮影モード4"が入力され、割当通信量として"XX4"、通信時間上限値として"YY4"がそれぞれ入力された場合に読み出されるパラメータセットである。"撮影モード4"は、設備メンテナンスを行う際に選択されるモードであり、基本的に、中解像度、中フレームレートで撮影されるモードである。
【0083】
なお、パラメータセット441は、撮影モードとして"撮影モード4"が入力され、割当通信量として"XX4'"、通信時間上限値として"YY4'"がそれぞれ入力された場合に読み出されるパラメータセットである。撮影モードが同じであっても、割当通信量、通信時間上限値が異なる場合には、異なるパラメータセットが読み出される。
【0084】
例えば、パラメータセット441は、パラメータセット440と比較して、通信量がより削減されるように各パラメータが規定されているものとする。したがって、設備メンテナンスに際して、作業者151、152等が通信量や通信時間を抑えるために、割当通信量として"XX4'"、通信時間上限値として"YY4'"を入力した場合には、パラメータセット441が読み出されることになる。
【0085】
また、図4に示すように、パラメータセット410~440、411~441には、それぞれ、情報の項目として、"シーン(作業内容の種類)"、"対象物"、"パラメータ"、"割当通信量"、"通信時間上限値"が含まれる。
【0086】
"シーン(作業内容の種類)"には、具体的なシーン(作業内容の種類)についての情報(及びシーンを特定するために予め定められた条件(シーン条件))が格納される。例えば、設備点検を行う場合の具体的な作業内容の種類には、点検対象の設備が設置された位置までの移動、点検対象の設備の点検等が含まれる。したがって、"シーン(作業内容の種類)"には、「移動中」及び「点検中」が格納される(なお、図4の例では、シーン条件については省略している)。
【0087】
"対象物"には、作業者が各シーンにおいて撮影した動画像において、対象物を認識するのに用いられる情報(対象物情報)が格納される。例えば、設備点検のための移動中に撮影される動画像には、認識されるべき対象物はないため、"対象物"の欄は空欄となる。
【0088】
一方、設備点検中に撮影される動画像については、点検対象である空調機と、点検対象ではない空調機以外の機器とが区別して認識される必要がある。したがって、「点検中」の"対象物"には、「空調機」を認識するのに用いられる情報と「空調機以外」を認識するのに用いられる情報とが格納される。
【0089】
"パラメータ"には、更に、"解像度"、"フレームレート"、"キーフレーム間隔"、"量子化値"が含まれる。
【0090】
"解像度"には、加工部330が動画像に対して行う各種加工処理のうち、解像度を変更する際に設定される解像度が格納される。図4の例は、設備点検を行う場合、解像度は、"シーン(作業内容の種類)"ごと、"対象物"ごとに切り替えて異なる値(パラメータ)が設定されることを示している。具体的には、設備点検を行う場合、「移動中」に撮影された動画像には、解像度として「R5」が設定されることを示している。また、「点検中」に撮影された動画像のうち、「空調機」の領域に対しては、解像度として「R10」が設定され、「空調機以外」の領域に対しては、解像度として「R5」が設定されることを示している。
【0091】
"フレームレート"には、加工部330が動画像に対して行う各種加工処理のうち、フレームレートを変更する際に設定されるフレームレートが格納される。図4の例は、設備点検を行う場合、フレームレートは、"シーン(作業内容の種類)"ごとに切り替えて異なる値(パラメータ)が設定されることを示している。具体的には、設備点検を行う場合、「移動中」に撮影された動画像には、フレームレートとして「Fr3」が設定され、「点検中」に撮影された動画像には、フレームレートとして、「Fr3」が設定されることを示している。
【0092】
"キーフレーム間隔"には、加工部330が動画像に対して行う各種加工処理のうち、キーフレーム間隔を変更して符号化処理を行う際に設定されるキーフレーム間隔が格納される。図4の例は、設備点検を行う場合、キーフレーム間隔は、"シーン(作業内容の種類)"ごとに切り替えて異なる値(パラメータ)が設定されることを示している。具体的には、設備点検を行う場合、「移動中」に撮影された動画像に対しては、キーフレーム間隔として「Ki2」が設定されて符号化処理が行われることを示している。また、「点検中」に撮影された動画像に対しては、キーフレーム間隔として「Ki1」が設定されて符号化処理が行われることを示している。
【0093】
"量子化値"には、加工部330が動画像に対して行う各種加工処理のうち、量子化値を変更して符号化処理を行う際に設定される量子化値が格納される。図4の例は、設備点検を行う場合、量子化値は、"シーン(作業内容の種類)"ごと、"対象物"ごとに切り替えて異なる値(パラメータ)が設定されることを示している。具体的には、設備点検を行う場合、「移動中」に撮影された動画像に対しては、量子化値として「Q5」が設定されて符号化処理が行われることを示している。また、「点検中」に撮影された動画像のうち、「空調機」の領域に対しては、量子化値として「Q1」が設定されて符号化処理が行われること、「空調機以外」の領域に対しては、量子化値として「Q3」が設定されて符号化処理が行われることを示している。
【0094】
"割当通信量"には、それぞれの撮影モードのもとで動画像を撮影して管理者端末120に伝送するにあたり、撮影モードごとに割り当てられる通信量のバリエーションが格納される。図4の例は、設備点検を行う場合の"割当通信量"には、「XX1」または「XX1'」の2種類があることを示している。
【0095】
"通信時間上限値"には、それぞれの撮影モードのもとで動画像を撮影して管理者端末120に伝送するにあたり、撮影モードごとに割り当てられる通信時間の上限値のバリエーションが格納される。図4の例は、設備点検を行う場合の"通信時間上限値"には、「YY1」または「YY1'」の2種類があることを示している。
【0096】
なお、上述したように、"パラメータ"の"解像度"、"フレームレート"、"キーフレーム間隔"、"量子化値"には、"割当通信量"及び"通信時間上限値"に応じた値が格納されているものとする。
【0097】
<加工部の機能構成の詳細>
次に、作業者端末110の加工部330の機能構成の詳細について説明する。図5は、加工部の機能構成の詳細を示す図である。
【0098】
図5に示すように、加工部330は、更に、画像認識部510、前処理部520、エンコーダ部530を有する。
【0099】
画像認識部510は、カメラ制御部310より動画像が通知されると、通知された動画像について、フレーム単位で画像認識処理を行い、動画像に対象物が含まれるか否かを判定するとともに、対象物が含まれる領域を判定する。なお、画像認識部510は、対象物情報に基づいて、動画像に対象物が含まれるか否かを判定する。また、画像認識部510は、対象物が含まれる領域を、対象領域情報として、前処理部520、エンコーダ部530に通知する。
【0100】
また、画像認識部510は、取得した動画像が表すシーン(作業内容の種類)を特定する。なお、画像認識部510は、シーン条件に基づいて、動画像が表すシーンを特定する。また、画像認識部510は、特定したシーンをシーン特定結果として、前処理部520、エンコーダ部530に通知する。
【0101】
また、画像認識部510は、取得した動画像を前処理部520に通知する。
【0102】
前処理部520は、画像認識部510より動画像を取得すると、取得した動画像について、各種前処理を行う。前処理部520は、加工制御部320から通知されたパラメータセットを参照し、対象領域情報及びシーン特定結果に応じたパラメータ(解像度、フレームレート)を特定する。また、前処理部520は、特定したパラメータを設定して前処理を行う。
【0103】
エンコーダ部530は、前処理部520により、前処理が行われた動画像を取得すると、取得した動画像について、符号化処理を行う。エンコーダ部530は、加工制御部320から通知されたパラメータセットを参照し、対象領域情報及びシーン特定結果に応じたパラメータ(キーフレーム間隔、量子化値)を特定する。また、前処理部520は、特定したパラメータを設定して符号化処理を行う。
【0104】
<前処理部による前処理の具体例>
次に、前処理部520による前処理の具体例について説明する。図6は、前処理部による前処理の具体例を示す図である。図6に示すように、前処理部520は、画像認識部510より通知された動画像について、対象領域以外の領域の単位面積当たりのデータ量が、対象領域の単位面積当たりのデータ量よりも小さくなるように前処理を行う。
【0105】
前処理部520が行う前処理には、
(1)画像認識部510において対象物が含まれると判定され、対象物が含まれる領域が対象領域情報として通知された場合に行う処理、
(2)画像認識部510において対象物が含まれないと判定され、対象領域情報が通知されなかった場合に行う処理、
(3)画像認識部510において対象物が含まれると判定されたか、含まれないと判定されたかによらずに行う共通の処理、
のいずれかが含まれる。以下、順に説明する。なお、以下に示す前処理のうち、いずれの前処理を行うかは、通知されたパラメータセットと、対象領域情報及びシーン特定結果とに基づいて決定される。
【0106】
(1)対象物が含まれると判定された場合(対象領域が特定された場合)
(1-1)抽出処理
画像認識部510において対象物が含まれると判定され、対象物が含まれる領域が対象領域情報として通知された場合、前処理部520では、動画像から対象領域を抽出する(対象領域以外の領域を削除する)抽出処理を行い、前処理後の動画像を生成する。
【0107】
図6の具体例の場合、動画像のフレーム610には、1つの対象物(ここでは、説明の便宜上、五角形の図形で表現している)と、対象物以外の2つの物体(ここでは、説明の便宜上、四角形の図形と丸の図形とで表現している)とが含まれる。なお、1つの対象物を囲む太線の矩形は、画像認識部510において、対象物として認識されたことを示している。
【0108】
図6の具体例に示すように、動画像のフレーム610に対して、前処理部520が抽出処理を行うことで、動画像のフレーム610から対象領域が抽出され、前処理後の動画像611が生成される。
【0109】
(1-2)解像度変更処理
画像認識部510において対象物が含まれると判定され、対象領域情報が通知された場合、前処理部520では、動画像を、対象領域と対象領域以外の領域とで異なる解像度に変更する解像度変更処理を行い、前処理後の動画像を生成する。具体的には、前処理部520は、「対象領域の解像度>対象領域以外の領域の解像度」となるように、解像度変更処理を行うことで、前処理後の動画像を生成する。
【0110】
図6の具体例の場合、動画像のフレーム620には、1つの対象物と、対象物以外の2つの物体とが含まれる。
【0111】
図6の具体例に示すように、動画像のフレーム620に対して、前処理部520が解像度変更処理を行うことで、対象領域と対象領域以外の領域とで異なる解像度に変更された前処理後の動画像621が生成される。前処理後の動画像621において、ハッチングされた領域(対象領域以外の領域)は、白色の領域(対象領域)よりも、解像度が低いことを表している。
【0112】
なお、図6の例では、「対象領域の解像度>対象領域以外の領域の解像度」となるように、解像度変更処理を行うことで前処理後の動画像を生成する場合について説明したが、解像度変更処理の処理方法はこれに限定されない。
【0113】
例えば、「(対象領域+周辺領域)の解像度>(対象領域+周辺領域)以外の領域の解像度」となるように、解像度変更処理を行うことで前処理後の動画像を生成してもよい。なお、当該解像度変更処理を行うにあたり、パラメータセットには、対象物を認識するのに用いられる情報と対応付けて、対象物の周辺領域を指定する物理量が規定されているものとする。これにより、前処理部520は、パラメータセットを参照することで、上記周辺領域のサイズを決定することができる。
【0114】
(1-3)結合処理
画像認識部510において対象物が含まれると判定され、対象物が含まれる領域が対象領域情報として通知された場合、前処理部520では、動画像から対象領域を抽出し、所定の静止画像と結合する結合処理を行い、前処理後の動画像を生成する。
【0115】
図6の具体例の場合、動画像のフレーム630には、1つの対象物と、対象物以外の2つの物体とが含まれる。
【0116】
図6の具体例に示すように、動画像のフレーム630に対して、前処理部520が結合処理を行うことで、動画像のフレーム630から対象領域が抽出され、静止画像(図6の例では、白色の背景画像)と結合されることで、前処理後の動画像631が生成される。
【0117】
(2)対象物が含まれないと判定された場合(対象領域が特定されなかった場合)
(2-1)間引き処理
画像認識部510において対象物が含まれないと判定され、対象領域情報が通知されなかった場合、前処理部520では、動画像から所定のフレームを削除する間引き処理を行い、前処理後の動画像を生成する。
【0118】
図6の具体例の場合、動画像のフレーム群640には、対象物以外の2つの物体(ここでは、説明の便宜上、四角形の図形と丸の図形とで表している)のみが含まれ、対象物(例えば、五角形の図形)は含まれていない。
【0119】
図6の具体例に示すように、動画像のフレーム群640に対して、前処理部520が間引き処理を行うことで、動画像のフレーム群640から、所定のフレームが削除され、前処理後の動画像のフレーム群641が生成される。
【0120】
(2-2)全体解像度変更処理
画像認識部510において対象物が含まれないと判定され、対象領域情報が通知されなかった場合、前処理部520では、動画像の各フレームについて、フレーム全体の解像度を変更する全体解像度変更処理を行い、前処理後の動画像を生成する。
【0121】
具体的には、前処理部520は、「対象物を含むフレームの対象領域の解像度>対象物を含まないフレームの解像度」となるように、解像度変更処理を行うことで、前処理後の動画像を生成する。
【0122】
図6の具体例の場合、動画像のフレーム群650には、対象物以外の2つの物体のみが含まれ、対象物が含まれていない。
【0123】
図6の具体例に示すように、動画像のフレーム群650に対して、前処理部520が全体解像度変更処理を行うことで、動画像のフレーム群650について、フレーム全体の解像度が変更され、前処理後の動画像のフレーム群651が生成される。前処理後の動画像のフレーム群651において、ハッチングされた各フレームの解像度は、対象物が含まれると判定されたフレームの対象領域の解像度よりも低いことを表している。
【0124】
(2-3)置換処理
画像認識部510において対象物が含まれないと判定され、対象領域情報が通知されなかった場合、前処理部520では、動画像の各フレームを、所定の静止画像に置き換える置換処理を行い、前処理後の動画像を生成する。
【0125】
図6の具体例の場合、動画像のフレーム群660には、対象物以外の2つの物体のみが含まれ、対象物が含まれていない。
【0126】
図6の具体例に示すように、動画像のフレーム群660に対して、前処理部520が置換処理を行うことで、動画像のフレーム群660が全て静止画像に置き換えられ、前処理後の動画像のフレーム群661が生成される。
【0127】
(3)共通の処理
画像認識部510において対象物が含まれると判定されたか否かによらず、前処理部520では、動画像から所定のフレームを削除することで、フレームレートを下げるフレームレート低下処理を行い、前処理後の動画像を生成する。
【0128】
なお、図6では、フレームレート低下処理の具体例を省略しているが、フレームレート低下処理は、例えば、動画像のフレーム群640に対する間引き処理と同様の具体例となる。
【0129】
<エンコーダ部による符号化処理の具体例>
次に、エンコーダ部530による符号化処理の具体例について説明する。図7は、エンコーダ部による符号化処理の具体例を示す図である。図7に示すように、エンコーダ部530は、取得した動画像または前処理後の動画像について、対象領域以外の領域の単位面積当たりのデータ量が、対象領域の単位面積当たりのデータ量よりも小さくなるように符号化処理を行う。
【0130】
エンコーダ部530が行う符号化処理には、
(1)画像認識部510において対象物が含まれると判定され、対象物が含まれる領域が対象領域情報として通知された場合に行う処理、
(2)画像認識部510において対象物が含まれないと判定され、対象領域情報が通知されなかった場合に行う処理、
(3)画像認識部510において対象物が含まれると判定されたか、含まれないと判定されたかによらずに行う共通の処理、
のいずれかが含まれる。以下、順に説明する(なお、以下では、説明の簡略化のため、動画像に対して処理を行う場合について説明する)。また、以下に示す符号化処理のうち、いずれの符号化処理を行うかは、通知されたパラメータセットと、対象領域情報及びシーン特定結果とに基づいて決定される。
【0131】
(1)対象物が含まれると判定された場合(対象領域が特定された場合)
画像認識部510において対象物が含まれると判定され、対象領域情報が通知された場合、エンコーダ部530では、動画像に対して、対象領域と対象領域以外の領域とで異なる量子化値を用いて符号化処理を行うことで、符号化データを生成する。
【0132】
具体的には、「対象領域の量子化値>対象領域以外の領域の量子化値」となる量子化値を用いて符号化処理を行うことで、符号化データを生成する。
【0133】
図7の具体例の場合、動画像のフレーム710には、1つの対象物と、対象物以外の2つの物体とが含まれる。
【0134】
図7の具体例に示すように、動画像のフレーム710に対して、エンコーダ部530が、対象領域と対象領域以外の領域とで異なる量子化値を用いて符号化処理を行うことで、符号化データ711を生成する。符号化データ711において、ハッチングされた領域(対象領域以外の領域)は、白色の領域(対象領域)よりも、小さい量子化値を用いて符号化処理が行われたことを表している。
【0135】
(2)対象物が含まれないと判定された場合(対象領域が特定されなかった場合)
画像認識部510において対象物が含まれないと判定され、対象領域情報が通知されなかった場合、エンコーダ部530では、動画像の各フレームについて、フレーム全体の量子化値を変更して符号化処理を行うことで、符号化データを生成する。
【0136】
具体的には、「対象物を含むフレームの対象領域の量子化値>対象物を含まないフレームの量子化値」となる量子化値を用いて符号化処理を行うことで、符号化データを生成する。
【0137】
図7の具体例の場合、動画像のフレーム720には、対象物以外の2つの物体のみが含まれ、対象物は含まれていない。
【0138】
図7の具体例に示すように、動画像のフレーム720に対して、エンコーダ部530が、フレーム全体の量子化値を変更して符号化処理を行うことで、符号化データ721を生成する。符号化データ721において、ハッチングされたフレームは、対象物を含むフレームの対象領域の量子化値よりも低い量子化値を用いて、符号化処理が行われたことを表している。
【0139】
(3)共通の処理
画像認識部510において対象物が含まれると判定されたか否かによらず、エンコーダ部530では、動画像の各フレームに対して、キーフレームの間隔を変更して符号化処理を行うことで、符号化データを生成する。
【0140】
図7の具体例において、動画像のフレーム群730、731の太線枠のフレームは、キーフレームであることを表している。
【0141】
このうち、動画像のフレーム群730は、キーフレーム間隔を変更する前のキーフレーム間隔を示している。一方、動画像のフレーム群731は、キーフレーム間隔を変更した後のキーフレーム間隔を示している。
【0142】
このように、エンコーダ部530は、動画像のフレーム群に対して、キーフレーム間隔を拡げて符号化処理を行う。
【0143】
<各ケースにおける作業者端末の動作例>
次に、作業現場において作業者端末110を利用する各ケース(ここでは、作業者端末110を利用して現地調査を行うケース、及び、設備メンテナンスを行うケース)での作業者端末110の動作例について説明する。図8は、各ケースにおける作業者端末の動作例を示す図である。
【0144】
図1において説明したように、符号141は、作業現場において、作業者151が現地調査を行う際に作業者端末110を利用するケースを示している。
【0145】
図8の例は、現地調査において、ビル到着時に作業者端末110により撮影された動画像は、解像度を下げる前処理が行われたうえで、量子化値を下げて符号化処理が行われ、中品質の符号化データとして伝送されることを示している。
【0146】
同様に、共有部の移動中に作業者端末110により撮影された動画像は、解像度を下げる前処理が行われたうえで、量子化値を下げて符号化処理が行われ、中品質の符号化データとして伝送されることを示している。
【0147】
また、私有部の移動中に作業者端末110により撮影された動画像は、各フレームを静止画像に置き換える前処理が行われたうえで、量子化値を下げて符号化処理が行われ、低品質の符号化データとして伝送されることを示している。
【0148】
また、更新対象エリアにおいて作業者端末110により撮影された動画像は、解像度を下げる前処理が行われたうえで、量子化値を下げて符号化処理が行われ、中品質の符号化データとして伝送されることを示している。
【0149】
また、非対象エリアにおいて作業者端末110により撮影された動画像は、各フレームを静止画像に置き換える前処理が行われたうえで、量子化値を下げて符号化処理が行われ、低品質の符号化データとして伝送されることを示している。
【0150】
また、私有部の移動中に作業者端末110により撮影された動画像は、各フレームを静止画像に置き換える前処理が行われたうえで、量子化値を下げて符号化処理が行われ、低品質の符号化データとして伝送されることを示している。
【0151】
また、共有部の移動中に作業者端末110により撮影された動画像は、解像度を下げる前処理が行われたうえで、量子化値を下げて符号化処理が行われ、中品質の符号化データとして伝送されることを示している。
【0152】
一方、符号142は、作業現場において、作業者152が設備メンテナンスを行う際に作業者端末110を利用するケースを示している。
【0153】
図8の例は、設備メンテナンスにおいて、移動中に作業者端末110により撮影された動画像は、フレーム全体の解像度を下げる前処理とフレームレートを下げる前処理とが行われ、低品質の符号化データとして伝送されることを示している。
【0154】
また、外観チェック中に作業者端末110により撮影された動画像は、室外機の領域以外の領域について、解像度を下げる前処理が行われたうえで、量子化値を下げて符号化処理が行われ、高品質の符号化データとして伝送されることを示している。
【0155】
また、内部チェック中に作業者端末110により撮影された動画像は、特定部品の領域を抽出して静止画像と結合する前処理が行われたうえで、背景領域について量子化値を下げて符号化処理が行われ、高品質の符号化データとして伝送されることを示している。
【0156】
また、移動中に作業者端末110により撮影された動画像は、フレーム全体の解像度を下げる前処理とフレームレートを下げる前処理とが行われ、低品質の符号化データとして伝送されることを示している。
【0157】
また、部品交換中に作業者端末110により撮影された動画像は、特定部品の領域を抽出し、静止画像と結合する前処理が行われたうえで、背景領域について量子化値を下げて符号化処理が行われ、高品質の符号化データとして伝送されることを示している。
【0158】
また、動作確認中に作業者端末110により撮影された動画像は、解像度を下げる前処理が行われ、中品質の符号化データとして伝送されることを示している。
【0159】
また、移動中に作業者端末110により撮影された動画像は、フレーム全体の解像度を下げる前処理とフレームレートを下げる前処理が行われ、低品質の符号化データとして伝送されることを示している。
【0160】
<動画像処理の流れ>
次に、作業者端末110による動画像処理の流れについて説明する。図9は、動画像処理の流れを示すフローチャートである。
【0161】
ステップS901において、加工制御部320は、作業者による撮影モードの入力を受け付ける。
【0162】
ステップS902において、加工制御部320は、作業者による割当通信量及び通信時間上限値の入力を受け付ける。
【0163】
ステップS903において、加工制御部320は、作業者により入力された撮影モード、及び、割当通信量、通信時間上限値に応じたパラメータセットを読み出し、加工部330に通知する。
【0164】
ステップS904において、カメラ制御部310は、作業者による撮影開始の指示を受け付ける。
【0165】
ステップS905において、カメラ制御部310は、動画像の取り込みを開始する。
【0166】
ステップS906において、加工部330は、取得された動画像に対して、加工処理を行い、符号化データを生成する。なお、加工処理の詳細は、図10を用いて後述する。
【0167】
ステップS907において、送信部340は、生成された符号化データを伝送する通信制御処理を行う。なお、通信制御処理の詳細は、図11を用いて後述する。
【0168】
ステップS908において、カメラ制御部310は、動画像処理を終了するか否かを判定する。ステップS908において、動画像処理を終了しないと判定した場合には(ステップS908においてNoの場合には)、ステップS905に戻る。一方、ステップS908において、動画像処理を終了すると判定した場合には(ステップS908においてYesの場合には)、動画像処理を終了する。
【0169】
<加工処理の流れ>
次に、図9のステップS906の加工処理の詳細について説明する。図10は、加工処理の流れを示すフローチャートである。
【0170】
ステップS1001において、画像認識部510は、取得された動画像に対して画像認識処理を行う。
【0171】
ステップS1002において、画像認識部510は、画像認識処理により特定された対象領域情報及びシーン特定結果を、前処理部520及びエンコーダ部530に通知する。
【0172】
ステップS1003において、前処理部520は、動画像に対して、パラメータセットと、対象領域情報及びシーン特定結果とに基づく前処理(抽出処理、解像度変更処理、結合処理、間引き処理、全体解像度変更処理、置換処理等)を行う。
【0173】
ステップS1004において、エンコーダ部530は、前処理後の動画像に対して、パラメータセットと、対象領域情報及びシーン特定結果とに基づく符号化処理を行い、符号化データを生成する。
【0174】
ステップS1005において、送信部340は、管理者端末120に符号化データを伝送する。
【0175】
<通信制御処理の流れ>
次に、図9のステップS907の通信制御処理の詳細について説明する。図11は、通信制御処理の流れを示すフローチャートである。
【0176】
ステップS1101において、監視部350は、送信部340により管理者端末120に伝送される符号化データの通信量(または通信時間)を監視する。
【0177】
ステップS1102において、監視部350は、送信部340による通信量(または通信時間)が、割当通信量(または通信時間上限値)を超えたか否かを判定する。
【0178】
ステップS1102において、送信部340による通信量が、割当通信量(または通信時間上限値)を超えていないと判定した場合には(ステップS1102においてNoの場合には)、ステップS1103に進む。
【0179】
ステップS1103において、監視部350は、送信部340による通信量(または通信時間)が、割当通信量(または通信時間上限値)の所定比率(x%)を超えたか否かを判定する。ステップS1103において、割当通信量(または通信時間上限値)の所定比率(x%)を超えていないと判定した場合には(ステップS1103においてNoの場合には)、図9のステップS908に戻る。
【0180】
一方、ステップS1103において、割当通信量(または通信時間上限値)の所定比率(x%)を超えたと判定した場合には(ステップS1103においてYesの場合には)、ステップS1104に進む。
【0181】
ステップS1104において、監視部350は、加工制御部320が加工部330に対して新たなパラメータセットを、既に通知したか否かを判定する。
【0182】
ステップS1104において、新たなパラメータセットを未だ通知していないと判定した場合には(ステップS1104においてNoの場合には)、ステップS1105に進む。
【0183】
ステップS1105において、加工制御部320は、加工部330に対して、新たなパラメータセットを通知した後、ステップS1106に進む。なお、加工制御部320では、新たな割当通信量(または新たな通信時間上限値)を指定し、指定した新たな割当通信量(または新たな通信時間上限値)に応じた新たなパラメータセットを加工部330に通知する。この場合、加工制御部320は、パラメータを変更する変更部として機能する。
【0184】
一方、ステップS1104において、新たなパラメータセットを既に通知したと判定した場合には(ステップS1104においてYesの場合には)、直接、ステップS1106に進む。
【0185】
ステップS1106において、監視部350は、作業者に対して、使用可能な通信量(または通信時間)を報知した後、図9のステップS908に戻る。
【0186】
一方、ステップS1102において、送信部340による通信量(または通信時間)が、割当通信量(または通信時間上限値)を超えたと判定した場合には(ステップS1102においてYesの場合には)、ステップS1107に進む。
【0187】
ステップS1107において、監視部350は、作業者151、152等に対して警告を出力した後に、送信部340による符号化データの伝送を中断(強制終了)し、図9のステップS908に戻る。なお、この場合、送信部340では、以降、加工部330により生成された符号化データを、管理者端末120に伝送することなく、所定の格納部に格納する。
【0188】
<まとめ>
以上の説明から明らかなように、第1の実施形態に係る作業者端末110は、
・作業者による機器の据え付け、修理、点検、撤去のいずれかを含む作業を、作業現場で撮影される動画像に基づき、遠隔から支援する管理者端末と接続され、動画像を符号化して伝送する。
・動画像を撮影するカメラを有し、カメラが撮影した動画像に対して認識処理を行うことで、対象領域を特定する。
・動画像に対して対象領域が特定された場合、動画像を、対象領域と対象領域以外の領域とで、伝送時の単位面積当たりのデータ量が異なるように加工する。
【0189】
これにより、第1の実施形態に係る作業者端末110によれば、作業者端末を利用して動画像を伝送する際、対象領域の画質を維持しつつ、通信量を削減することができる。
【0190】
[第2の実施形態]
上記第1の実施形態では、作業現場において現地調査及び設備メンテナンスを行う際の作業者端末110の動作例について説明した。しかしながら、他のケース(設備点検、施工サポート等)についても同様に作業者端末110を動作させることで、対象領域の画質を維持しつつ、通信量を減らすことができることはいうまでもない。
【0191】
また、上記第1の実施形態では、画像認識部510が画像認識処理を行う際、シーンごとに予め定められた条件(シーン条件)を参照することにより、シーン(作業内容の種類)を特定するものとして説明した。
【0192】
しかしながら、シーン(作業内容の種類)の特定方法は、これに限定されず、例えば、作業者が作業者端末110に入力した入力情報に基づいて特定してもよい。具体的には、作業者端末110は、それぞれのシーンを示すシーン情報を予め有しており、作業者により入力された入力情報がいずれのシーン情報に該当するかを判定することで、シーンを特定してもよい。
【0193】
あるいは、シーンごとに予め定められた画像情報を参照し、動画像にいずれの画像情報が含まれるかを判定することで、シーンを特定してもよい。
【0194】
また、上記第1の実施形態では、作業者端末110に監視部を配し、通信量(または通信時間)を監視する構成とした。しかしながら、作業者端末110に更に、予測部を配し、例えば、送信部による通信量(または通信時間)が割当通信量(または通信時間上限値)を超えた場合に、追加の通信時間または追加の通信量を予測するように構成してもよい。これにより、作業者151、152等は、追加で発生するコストを予め把握することができる。
【0195】
また、上記第1の実施形態では、作業者151、152等が撮影モードを入力することにより(更には、通信時間上限値または割当通信量を入力することにより)、1のパラメータセットが選択されるものとして説明した。しかしながら、1のパラメータセットは、作業者151、152等が直接選択するように構成してもよい。
【0196】
また、上記第1の実施形態では、パラメータ格納部360が、作業者端末110の補助記憶装置203において実現されるものとして説明した。しかしながら、パラメータ格納部360は、例えば、管理者端末120の補助記憶装置において実現されてもよい。この場合、作業者端末110は、ネットワーク130を介して管理者端末120よりパラメータセットを取得することになる。
【0197】
以上、実施形態を説明したが、特許請求の範囲の趣旨及び範囲から逸脱することなく、形態や詳細の多様な変更が可能なことが理解されるであろう。
【符号の説明】
【0198】
100 :遠隔支援システム
110 :作業者端末
120 :管理者端末
204 :操作装置
205 :表示装置
206 :撮像装置
207 :通信装置
208 :音声入力装置
209 :音声出力装置
310 :カメラ制御部
320 :加工制御部
330 :加工部
340 :送信部
350 :監視部
410~440 :パラメータセット
411~441 :パラメータセット
510 :画像認識部
520 :前処理部
530 :エンコーダ部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11