(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2025-03-31
(45)【発行日】2025-04-08
(54)【発明の名称】映像送信システム、映像送信装置、および映像送信方法
(51)【国際特許分類】
H04N 21/234 20110101AFI20250401BHJP
H04N 21/238 20110101ALI20250401BHJP
H04N 7/18 20060101ALI20250401BHJP
H04N 23/60 20230101ALI20250401BHJP
E02F 9/26 20060101ALI20250401BHJP
E02F 9/20 20060101ALI20250401BHJP
【FI】
H04N21/234
H04N21/238
H04N7/18
H04N7/18 J
H04N7/18 U
H04N23/60
H04N23/60 300
E02F9/26 B
E02F9/20 N
(21)【出願番号】P 2023567399
(86)(22)【出願日】2021-12-15
(86)【国際出願番号】 JP2021046315
(87)【国際公開番号】W WO2023112217
(87)【国際公開日】2023-06-22
【審査請求日】2024-06-11
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】110000338
【氏名又は名称】弁理士法人 HARAKENZO WORLD PATENT & TRADEMARK
(72)【発明者】
【氏名】松井 一生
(72)【発明者】
【氏名】岩折 崇志
(72)【発明者】
【氏名】笠原 惇希
【審査官】大西 宏
(56)【参考文献】
【文献】特開2006-150550(JP,A)
【文献】特開2012-028949(JP,A)
【文献】特開2020-022065(JP,A)
【文献】特開2020-161933(JP,A)
【文献】特開2020-200660(JP,A)
【文献】国際公開第2020/065838(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 21/00 -21/858
H04N 23/40 -23/76
H04N 7/18
E02F 9/20 - 9/22
E02F 9/24 - 9/28
(57)【特許請求の範囲】
【請求項1】
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、
前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定手段と、
前記状態特定手段による特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信手段と、を含
み、
前記取得手段、前記領域特定手段、及び前記送信手段は、映像送信装置に含まれ、
前記状態特定手段は、遠隔制御装置に含まれ、
前記送信手段は、前記遠隔制御装置に対して前記調整後映像を送信し、
前記状態特定手段は、受信した前記調整後映像に基づいて特定した前記作業の状態を、前記映像送信装置に送信し、
前記領域特定手段は、受信した前記作業の状態に基づいて、前記取得手段によって取得された新たな前記映像における新たな前記対象領域を特定する、
映像送信システム。
【請求項2】
前記状態特定手段が特定する前記作業の状態には、
前記作業機械が備える作業部位の状態が含まれる
請求項1に記載の映像送信システム。
【請求項3】
前記状態特定手段は、
前記映像の解析結果を少なくとも参照して、前記作業の状態を特定する
請求項1または2に記載の映像送信システム。
【請求項4】
前記状態特定手段は、
前記作業機械による作業フェーズを示す情報を少なくとも参照して、前記作業の状態を特定する
請求項1から3の何れか1項に記載の映像送信システム。
【請求項5】
前記作業機械の動作を予測する予測手段を更に備え、
前記領域特定手段は、前記予測手段による予測結果を更に参照して、前記対象領域を特定する
請求項1から4の何れか1項に記載の映像送信システム。
【請求項6】
前記状態特定手段が特定する前記作業の状態には、
前記作業機械の周辺に位置する他の作業機械の状態が含まれる
請求項1から5の何れか1項に記載の映像送信システム。
【請求項7】
前記取得手段は、前記送信手段が用いる伝送経路における通信状況を示す通信状況情報を更に取得し、
前記送信手段は、前記通信状況情報を参照して、前記対象領域と前記対象領域の外部との相対的な画質を特定する
請求項1から6の何れか1項に記載の映像送信システム。
【請求項8】
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、
前記作業機械による作業対象物を対象とする作業の状態
の特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を
、遠隔制御装置に対して送信する送信手段と、
を含
み、
前記領域特定手段は、前記遠隔制御装置において前記調整後映像に基づいて特定された前記作業の状態を当該遠隔制御装置から受信し、受信した作業の状態に基づいて、前記取得手段によって取得された新たな前記映像における新たな前記対象領域を特定する、
映像送信装置。
【請求項9】
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得することと、
前記作業機械による作業対象物を対象とする作業の状態を特定することと、
前記作業の状態の特定結果に応じて、前記映像において対象領域を特定することと、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信することと、
を含
み、
前記取得すること、前記対象領域を特定すること、及び前記送信することは、映像送信装置によって行われ、
前記作業の状態を特定することは、遠隔制御装置によって行われ、
前記送信することにおいて、前記映像送信装置は、前記遠隔制御装置に対して前記調整後映像を送信し、
前記作業の状態を特定することにおいて、前記遠隔制御装置は、受信した前記調整後映像に基づいて特定した前記作業の状態を、前記映像送信装置に送信し、
前記対象領域を特定することにおいて、前記映像送信装置は、受信した前記作業の状態に基づいて、前記取得することによって取得された新たな前記映像における新たな前記対象領域を特定する、
映像送信方法。
【請求項10】
コンピュータを映像送信装置として機能させるためのプログラムであって、前記コンピュータを、
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、
前記作業機械による作業対象物を対象とする作業の状態
の特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を、
遠隔制御装置に対して送信する送信手段と、
として機能させ
、
前記領域特定手段は、前記遠隔制御装置において前記調整後映像に基づいて特定された前記作業の状態を当該遠隔制御装置から受信し、受信した作業の状態に基づいて、前記取得手段によって取得された新たな前記映像における新たな前記対象領域を特定する、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像を送信する技術に関する。
【背景技術】
【0002】
特許文献1には、建設機械の作業映像を遠隔地の表示装置に表示する遠隔操作装置が記載されている。当該遠隔操作装置は、遠隔地で操作を行うオペレータの視線位置を取得し、作業映像において視線位置に関連する部分を拡大した拡大映像を生成して表示装置に表示する。
【0003】
また、特許文献2には、建設機械の周辺領域全体を第1のカメラで撮影するとともに、周辺領域のうち中央の特定領域を第2のカメラで撮影する遠隔操作通信システムが記載されている。当該遠隔操作通信システムは、第1のカメラで撮影した画像データを高圧縮率で圧縮するとともに第2のカメラで撮影した画像データを低圧縮率で圧縮して、オペレータがいる遠隔地に送信する。遠隔地では、これらの画像データを伸長して表示することにより、特定領域を周辺領域に比べて高画質で表示する。
【先行技術文献】
【特許文献】
【0004】
【文献】日本国特開2020-077173号公報
【文献】日本国特開平10-112861号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載された遠隔操作装置では、通信品質が変動する環境下では、作業映像の乱れおよび途切れ等が発生する可能性がある。また、特許文献2に記載された遠隔操作システムでは、遠隔制御にあたって注目したい領域が特定領域に含まれない可能性があり、その場合、遠隔制御時の操作性が低下する。
【0006】
本発明の一態様は、上記の問題に鑑みてなされたものであり、その目的の一例は、作業機械を遠隔操作する際の操作性を保ちながら、通信品質が変動する環境下でも作業機械周辺の映像を安定して送信する技術を提供することである。
【課題を解決するための手段】
【0007】
本発明の一側面に係る映像送信システムは、作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定手段と、前記状態特定手段による特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信手段と、を含む。
【0008】
本発明の一側面に係る映像送信装置は、作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定手段と、前記状態特定手段による特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信手段と、を含む。
【0009】
本発明の一側面に係る映像送信方法は、作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得することと、前記作業機械による作業対象物を対象とする作業の状態を特定することと、前記作業の状態の特定結果に応じて、前記映像において対象領域を特定することと、前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信することと、を含む。
【発明の効果】
【0010】
本発明の一態様によれば、作業機械を遠隔操作する際の操作性を保ちながら、通信品質が変動する環境下にあっても作業機械周辺の映像を安定して送信することができる。
【図面の簡単な説明】
【0011】
【
図1】本発明の例示的実施形態1に係る映像送信システムの構成を示すブロック図である。
【
図2】本発明の例示的実施形態1に係る映像送信方法の流れを示すフロー図である。
【
図3】本発明の例示的実施形態1に係る映像送信システムの他の態様を示すブロック図である。
【
図4】本発明の例示的実施形態1に係る映像送信システムのさらに他の態様を示すブロック図である。
【
図5】本発明の例示的実施形態1に係る映像送信システムのさらに他の態様を示すブロック図である。
【
図6】本発明の例示的実施形態2に係る映像送信システムの構成を示すブロック図である。
【
図7】
図5に示す映像送信システムを構成する各装置の配置例を示す模式図である。
【
図8】本発明の例示的実施形態2に係る映像送信方法の流れを示すフロー図である。
【
図9】掘削に関連する注目領域の一例を説明する図である。
【
図10】掘削に関連する対象領域の一例を説明する図である。
【
図11】旋回に関連する注目領域の一例を説明する図である。
【
図12】旋回に関連する対象領域の一例を説明するである。
【
図13】走行に関連する注目領域の一例を説明する図である。
【
図14】走行に関連する対象領域の一例を説明する図である。
【
図15】遠隔制御装置が表示する映像の一例を説明する図である。
【
図16】本発明の例示的実施形態3に係る映像送信システムの構成を示すブロック図である。
【
図17】本発明の例示的実施形態3に係る映像送信方法の流れを示すフロー図である。
【
図18】本発明の各例示的実施形態4に係る映像送信システムの構成を示すブロック図である。
【
図19】本発明の例示的実施形態4に係る映像送信方法の流れを示すフロー図である。
【
図20】本発明の各例示的実施形態に係る映像送信システムに含まれる装置の物理的な構成例を示すブロック図である。
【発明を実施するための形態】
【0012】
〔例示的実施形態1〕
本発明の第1の例示的実施形態について、図面を参照して詳細に説明する。本例示的実施形態は、後述する例示的実施形態の基本となる形態である。
【0013】
<映像送信システム1の構成>
本例示的実施形態に係る映像送信システム1の構成について、
図1を参照して説明する。
図1は、映像送信システム1の構成を示すブロック図である。
【0014】
図1に示すように、映像送信システム1は、取得部11と、状態特定部12と、領域特定部13と、送信部14とを含む。取得部11は、請求の範囲に記載した取得手段を実現する構成の一例である。状態特定部12は、請求の範囲に記載した状態特定手段を実現する構成の一例である。領域特定部13は、請求の範囲に記載した領域特定手段を実現する構成の一例である。送信部14は、請求の範囲に記載した送信手段を実現する構成の一例である。
【0015】
取得部11は、作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する。状態特定部12は、作業機械による作業対象物を対象とする作業の状態を特定する。領域特定部13は、状態特定部12による特定結果に応じて、当該映像において対象領域を特定する。送信部14は、当該映像における対象領域と対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する。作業の状態、対象領域、および調整後映像については、後述する「映像送信方法S1の流れ」において詳細を説明する。
【0016】
<映像送信方法S1の流れ>
以上のように構成された映像送信システム1が実行する映像送信方法S1の流れについて、
図2を参照して説明する。
図2は、映像送信方法S1の流れを説明するフロー図である。
図2に示すように、映像送信方法S1は、ステップS11~S14を含む。
【0017】
(ステップS11)
ステップS11において、取得部11は、作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する。具体的には、取得部11は、撮像装置が撮影した当該映像を、撮像装置から取得する。撮像装置は、作業機械に取り付けられていてもよいし、作業機械の周辺に設置されていてもよい。ここで、作業エリアとは、作業機械が作業をするためのエリアである。作業エリアは、例えば、作業機械が稼働し得るエリア、作業機械が移動し得るエリア、作業対象物が存在し得るエリア、または、これらの一部または全部を組み合わせたエリアであってもよい。また、作業機械の周辺とは、作業エリアが俯瞰できる位置であれば、その場所は問わない。例えば、作業機械の周辺とは、屋内であれば作業エリアの天井、柱、または、作業エリアの梁でもよい。また、作業機械の周辺とは、屋外であれば作業エリアに立てられた支柱または建物の軒、壁であってもよい。ただし、作業機械の周辺は、これらに限られない。
【0018】
(ステップS12)
ステップS12において、状態特定部12は、作業機械による作業対象物を対象とする作業の状態を特定する。ここで、作業の状態には、一例として、作業の種類が含まれる。また、作業の状態には、一例として、作業機械に含まれる作業部位の状態が含まれる。この場合、作業部位の状態には、一例として、作業部位の位置、動き、および作業部位における作業対象物の有無の少なくとも何れかが含まれる。ここで、作業部位の動きとは、例えば、目標点列(具体例として、作業部位が動作する際に経由する点の集合または動作軌跡)、加速度、または速度変化の方向であるが、これらに限られない。また、作業の状態には、一例として、作業機械の周辺に位置する他の作業機械の状態が含まれる。また、作業の状態には、一例として、作業対象物の状態、作業機械と他の作業機械との位置関係、作業機械の周辺環境等が挙げられる。周辺環境の具体例としては、映像において地面が映り込む領域の広さが挙げられる。このような領域の広さを参照することにより、作業機械がバックホウである場合に当該作業機械の作業の状態が掘削中であるか否かを判断可能である。ただし、作業の状態は、これらに限らない。
【0019】
具体的には、例えば、状態特定部12は、ステップS11で取得された映像の解析結果を少なくとも参照して、作業の状態を特定してもよい。また、例えば、状態特定部12は、作業機械による作業フェーズを示す情報を少なくとも参照して、作業の状態を特定してもよい。ここで、作業フェーズを示す情報とは、例えば、オペレータの操作に基づく作業機械への制御情報(一例として、操縦コマンド)を含む。
【0020】
(ステップS13)
ステップS13において、領域特定部13は、状態特定部12による特定結果に応じて、当該映像において対象領域を特定する。ここで、対象領域とは、映像の部分領域である。また、対象領域とは、映像における当該部分領域以外の領域との間で画質を相対的に調整する対象となる領域である。例えば、領域特定部13は、特定結果に含まれる作業の状態が第1の状態であれば、映像における第1の作業部位を含む領域を対象領域とする。また、領域特定部13は、特定結果に含まれる作業の状態が第2の状態であれば、映像における第2の作業部位を含む領域を対象領域とする。ここで、第1の状態および第2の状態は、少なくとも一部が異なる状態であり、第1の作業部位および第2の作業部位は、少なくとも一部が異なる部位である。例えば、作業機械がバックホウである場合、第1の状態「掘削中」に対して第1の作業部位「バケット」を含む領域を対象領域とする。また、例えば、第2の状態「旋回中」に対して第2の作業部位「ブーム、アーム、およびバケット」を含む領域を対象領域とする。
【0021】
ここで、作業機械による作業の状態の変化によって遠隔操作時に注目したい領域は変化する。例えば、作業機械が右回りに旋回する場合には、旋回する先である右側の領域を注目したいと考えるのに対し、作業機械が左回りに旋回する場合には、左側の領域を注目したいと考える。例えば、特許文献2に記載された遠隔操作システムは、このような注目したい領域の変化に対応できない。これに対して、本例示的実施形態は、当ステップにおいて作業の状態に応じて対象領域を特定するので、このような注目したい領域の変化に対応することができる。
【0022】
(ステップS14)
ステップS14において、送信部14は、ステップS11で取得した映像における対象領域と対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する。例えば、調整後映像は、対象領域の外部の画質が対象領域に比べて低くなるように、ステップS11で取得した映像が符号化された画像である。画質とは、例えば、ビットレート、画素数、またはこれらの組み合わせであってもよいが、これらに限られない。なお、調整後映像を生成する処理は、映像送信システム1に含まれる装置が行ってもよいし、映像送信システム1に含まれない外部の装置が行ってもよい。
【0023】
なお、本例示的実施形態に含まれる各機能ブロックは、1つの装置に集約されることに限定されず、複数の装置に分散して配置されてもよい。また、各例示的実施形態に含まれる各機能ブロックは、クラウドに配置されてもよい。これらの各機能ブロックがどのような装置またはクラウドに配置される場合であっても、これらの機能ブロック間で必要に応じて情報を送受信することにより、各機能ブロックの上述した機能が実現できればよい。
【0024】
<本例示的実施形態の効果>
本例示的実施形態においては、(i)作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得し、(ii)作業機械による作業対象物を対象とする作業の状態を特定し、(iii)特定結果に応じて、取得した映像において対象領域を特定し、(iv)当該映像における対象領域と対象領域との相対的な画質を調整することによって得られた調整後映像を送信する、との構成が採用されている。
【0025】
上記構成によれば、調整後映像を送信することにより、取得した映像を送信する場合と比べて、通信量を軽減することができる。このため、送信先との間の通信品質が低下しても、調整後映像を安定して送信することができる。また、そのような対象領域を、作業の状態に応じて変化させることができる。その結果、送信先において、作業の状態に応じた対象領域を、調整された画質で視認しながら作業機械を遠隔操作することができる。したがって、作業機械を遠隔操作する際の操作性を保ちながら、通信品質が変動する環境下にあっても作業機械周辺の映像を安定して送信することができる。
【0026】
<本例示的実施形態の他の態様1>
本例示的実施形態の他の態様1に係る映像送信システム1Aついて、
図3を参照して説明する。
図3は、他の態様1に係る映像送信システム1Aの構成を示すブロック図である。
図3に示すように、映像送信システム1Aは、映像送信装置10Aおよび遠隔制御装置20Aを含む。映像送信装置10Aおよび遠隔制御装置20Aは、ネットワークNW1を介して通信可能に接続される。ネットワークNW1は、例えば、無線LAN(Local Area Network)、WAN(Wide Area Network)、モバイルデータ通信網(3G、LTE:Long Term Evolution、4G、5G、ローカル5G等)、又は、これらのネットワークの組み合わせが挙げられる。ただし、ネットワークNW1は、これらに限定されない。
【0027】
映像送信装置10Aは、取得部11と、状態特定部12と、領域特定部13と、送信部14とを含む。各部の詳細については、上述した通りである。映像送信装置10Aは、映像送信方法S1を実行する。映像送信方法S1の詳細については、上述した通りである。なお、ステップS14における調整後映像の送信先として、遠隔制御装置20Aが適用される。
【0028】
遠隔制御装置20Aは、映像送信装置10Aから送信された調整後映像を復号し、表示装置(図示せず)に表示する。また、遠隔制御装置20Aは、オペレータが入力した操作情報に対応する遠隔制御信号を、映像送信装置10Aに送信する。映像送信装置10Aは、作業機械の動作を制御する制御装置としても機能する。
【0029】
以上の構成により、映像送信システム1Aは、上述と同様の効果を奏する。
【0030】
<本例示的実施形態の他の態様2>
本例示的実施形態の他の態様2に係る映像送信システム1Bついて、
図4を参照して説明する。
図4は、他の態様2に係る映像送信システム1Bの構成を示すブロック図である。
図4に示すように、映像送信システム1Bは、映像送信装置10Bおよび遠隔制御装置20Bを含む。映像送信装置10Bおよび遠隔制御装置20Bは、ネットワークNW1を介して通信可能に接続される。ネットワークNW1の具体例については上述した通りである。
【0031】
映像送信装置10Bは、取得部11と、領域特定部13と、送信部14とを含む。遠隔制御装置20Bは、状態特定部12と、通信部220とを含む。取得部11、状態特定部12、領域特定部13、および送信部14の詳細については、上述した通りである。通信部220は、映像送信装置10Bとの間で情報を送受信する。
【0032】
映像送信装置10Bおよび遠隔制御装置20Bは、映像送信方法S1を実行する。映像送信方法S1の詳細については、ほぼ上述した通りであるが、ステップS11およびステップS12において、以下の点が異なる。
【0033】
ステップS11において、映像送信装置10Bの取得部11は、取得した映像を遠隔制御装置20Bに送信する。ステップS12において、遠隔制御装置20Bの状態特定部12は、取得した映像に基づいて作業の状態を特定し、特定した作業の状態を、映像送信装置10Bに送信する。
【0034】
なお、ステップS11で映像送信装置10Bから遠隔制御装置20Bに映像を送信する際に通信品質が低下している場合、遠隔制御装置20Bで復号する映像は画質が低下している可能性がある。ただし、映像の画質は、オペレータの操作のために提示する観点からは充分でない場合であっても、作業の状態を特定する処理においては充分であり得る。したがって、ステップS12において、遠隔制御装置20Bに配置された状態特定部12は、作業の状態を特定することが可能である。
【0035】
なお、ステップS12において、遠隔制御装置20Bの状態特定部12は、前回の映像送信方法S1のステップS14で送信された調整後映像を参照して作業の状態を特定することも可能である。これにより、状態特定部12は、通信品質が低下した場合にステップS11で送信された低画質の映像を参照する場合と比べて、より精度よく作業の状態を特定できる。その結果、映像送信装置10Bの領域特定部13は、より精度よく対象領域を特定できる。換言すると、映像送信方法S1の繰り返しに伴い対象領域の特定精度が向上していく。したがって、オペレータは、通信品質の低下に伴い当初は低画質の映像が表示される場合も、見たい領域を徐々に充分に把握できるようになる。
【0036】
以上の構成により、映像送信システム1Bは、上述と同様の効果に加えて、作業機械側に配置される映像送信装置10Bの処理の負荷を軽減することができる。
【0037】
<本例示的実施形態の他の態様3>
本例示的実施形態の他の態様3に係る映像送信システム1Cついて、
図5を参照して説明する。
図5は、他の態様3に係る映像送信システム1Cの構成を示すブロック図である。
図5に示すように、映像送信システム1Cは、映像送信装置10Cと、遠隔制御装置20Cと、制御装置60Cとを含む。遠隔制御装置20Cは、ネットワークNW1を介して、映像送信装置10Cおよび制御装置60Cとそれぞれ通信可能に接続される。
【0038】
制御装置60Cは、作業機械の動作を制御する装置であり、例えば、作業機械に搭載される。制御装置60Cは、作業機械の各部を動作させる動作制御信号を各部に入力する装置である。例えば、作業機械が自律制御により動作する場合(オペレータが搭乗して操縦することを想定していない、もしくは作業機械の外部から動作制御信号を受信して動作することを想定して設計されている作業機械の場合)について説明する。この場合、制御装置60Cは、遠隔制御装置20Cからの遠隔制御信号に応じた動作制御信号を、作業機械の各部位に入力する。また、例えば、作業機械が、操作部(図示せず)を含み、操作部にアタッチメントを取り付けて操作部を操作することによって動作する場合について説明する。この場合、制御装置60Cは、アタッチメント(図示せず)と通信可能に接続される。アタッチメントは、遠隔制御装置20Cからの遠隔制御信号に応じて操作部を操作する装置である。例えば、操作部が、一端が支点として固定された棒状の操作レバーであれば、アタッチメントは、遠隔制御装置20Cからの遠隔制御信号に応じて操作レバーを傾ける方向および傾ける角度を制御する。また、制御装置60Cは、アタッチメントにより操作された操作部の動作に基づき動作制御信号を各部に入力する。
【0039】
映像送信装置10Cは、態様1における映像送信装置10Aとほぼ同様に構成される。ただし、態様1とは異なり、映像送信装置10Cと制御装置60Cとは、別体の装置として構成される。映像送信装置10Cは、作業機械に搭載されていてもよいし、作業機械の周辺に配置されていてもよい。遠隔制御装置20Cは、態様1における遠隔制御装置20Aとほぼ同様に構成される。ただし、態様1とは異なり、遠隔制御装置20Cは、オペレータが入力した操作情報に対応する遠隔制御信号を、制御装置60Cに送信する。
【0040】
映像送信装置10Cおよび遠隔制御装置20Cは、映像送信方法S1を実行する。映像送信方法S1の詳細については、態様1で説明した通りである。
【0041】
また、遠隔制御装置20Cは、ステップS14で送信された調整後映像を復号し、表示装置(図示せず)に表示するとともに、オペレータが入力した操作情報に対応する遠隔制御信号を、制御装置60Cに送信する。
【0042】
以上の構成により、映像送信システム1Cは、態様1と同様の効果に加えて、作業機械の動作を制御する制御装置の負荷を軽減することができる。
【0043】
<本例示的実施形態のその他の態様>
なお、本例示的実施形態は、上述した各態様に限らず、状態特定部12、および領域特定部13の一方または両方が映像送信装置10に配置されてもよいし、遠隔制御装置20に配置されてもよい。
【0044】
〔例示的実施形態2〕
本発明の第2の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態1にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
【0045】
<映像送信システム1Dの構成>
本例示的実施形態に係る映像送信システム1Dの構成について、
図6および
図7を参照して説明する。
図6は、映像送信システム1Dの構成を示すブロック図である。また、
図7は、映像送信システム1Dを構成する各装置の配置例を示す模式図である。
【0046】
図6に示すように、映像送信システム1Dは、映像送信装置10Dと、遠隔制御装置20Dと、撮像装置31と、表示装置32と、操作装置33とを含む。操作装置33は、バックホウ90を遠隔制御するための装置である。例えば、バックホウ90が自律制御により動作する場合(オペレータが搭乗して操縦することを想定していない、もしくは作業機械の外部から動作制御信号を受信して動作することを想定して設計されている作業機械の場合)、操作装置33は、バックホウ90の自律制御を遠隔から操作する装置である。また、例えば、バックホウ90が操作部(図示せず)を有し、操作部にアタッチメントを取り付けて操作部を操作することにより動作する場合、操作装置33は、当該操作部を遠隔で制御するための装置である。バックホウ90については詳細を後述する。映像送信装置10Dは、撮像装置31に接続される。また、遠隔制御装置20Dは、表示装置32と、操作装置33とに接続される。また、映像送信装置10Dと、遠隔制御装置20Dとは、ネットワークNW1を介して通信可能に接続される。
【0047】
また、
図7に示す例では、映像送信装置10Dは、バックホウ90に搭載される。この例では、映像送信装置10Dは、バックホウ90の動作を制御する制御装置と同じコンピュータを用いて実現される。遠隔制御装置20Dは、オペレータUがバックホウ90を遠隔制御するための装置である。遠隔制御装置20Dは、バックホウ90の作業エリアとは異なる場所に設置される。
【0048】
(バックホウ90)
バックホウ90の具体的な構成について説明する。バックホウ90は、土砂OBJを掘削し、ダンプトラック80に積み込む作業を行う。バックホウ90は、請求の範囲に記載した「作業機械」の一例である。土砂OBJは、請求の範囲に記載した「作業対象物」の一例である。ダンプトラック80は、請求の範囲に記載した「他の作業機械」の一例である。バックホウ90は、遠隔制御装置20Dによる制御に従って動作する。
図7に示すように、バックホウ90は、旋回部91と、可動部92と、走行部93と、を含む。
【0049】
走行部93は、バックホウ90を前進、後進、右折、左折させるよう走行する。走行部93は、例えば無限軌道ベルトを用いて走行する。
【0050】
旋回部91は、走行部93に取り付けられる。旋回部91は、旋回軸P1を中心に、図の紙面に垂直な平面内での旋回が可能である。なお、バックホウ90が水平な地面にある場合は、
図4の紙面に垂直な平面は水平面となるため、以下ではこの面を便宜的に「水平面」と称する。
【0051】
可動部92は、旋回部91に取り付けられたブーム921と、ブーム921の先端部に取り付けられたアーム922と、アーム922の先端部に取り付けられたバケット923と、を含む。ブーム921は、ブーム軸P2を中心に、水平面に略垂直な平面内で往復旋回が可能である。アーム922は、ブーム921と同じ旋回面で、アーム軸P3Aを中心に往復旋回が可能である。バケット923は、アーム922の旋回面と同じ旋回面で、バケット軸P4を中心に往復旋回が可能である。可動部92は、特許請求の範囲に記載した「作業部位」の一例である。
【0052】
(撮像装置31)
図7に示す例では、撮像装置31は、バックホウ90に搭載される。撮像装置31は、(i)可動部92(ブーム921、アーム922、およびバケット923)、ならびに旋回部91の少なくとも一部と、(ii)土砂OBJを含む作業エリアの少なくとも一部とを、画角に含むよう設置される。これにより、撮像装置31は、これらを被写体として含む映像を生成する。撮像装置31が生成する映像は、動画像である。換言すると、当該映像は、複数の静止画像の時系列を含む。なお、撮像装置31の撮像方向は固定であってもよいし、変更可能であってもよい。その場合、例えば、撮像装置31の撮像方向は、遠隔制御装置20Dからの遠隔制御信号により変更され得る。この場合、撮像装置31の撮像方向は、可動部92、旋回部91および土砂OBJを少なくとも画角に含む範囲で変更されることが望ましい。また、
図7には、1つの撮像装置31を示しているが、映像送信装置10Dは、複数の撮像装置31からそれぞれ映像を取得してもよい。
【0053】
(映像送信装置10D)
図6に示すように、映像送信装置10Dは、制御部110Dと、通信部120Dとを含む。通信部120Dは、ネットワークNW1を介して遠隔制御装置20Dとの間で情報を送受信する。制御部110Dは、取得部11Dと、状態特定部12Dと、領域特定部13Dと、送信部14Dと、調整部15Dと、を含む。
【0054】
制御部110Dは、これらの各機能ブロック11D~15Dに加えて、遠隔制御装置20Dから受信した遠隔制御信号にしたがって、バックホウ90の各部を制御する機能を有する。例えば、バックホウ90が自律制御により動作する場合について説明する。この場合、制御部110Dは、遠隔制御装置20Dから受信した遠隔制御信号に対応する動作制御信号を、バックホウ90の各部に入力する。また、例えば、バックホウ90が、オペレータが操作するための操作部を有する場合について説明する。この場合、制御部110Dは、当該遠隔制御信号にしたがってアタッチメント(図示せず)が操作した操作部(図示せず)の動作に対応する動作制御信号を、バックホウ90の各部に入力する。例えば、制御部110Dは、遠隔制御信号にしたがって、旋回部91、ブーム921、アーム922、およびバケット923の一部又は全部を旋回させることにより、バックホウ90に、掘削、旋回、放土等の作業を実施させる。また、例えば、制御部110Dは、遠隔制御信号にしたがって、走行部93を走行させることによりバックホウ90を走行させる。
【0055】
調整部15Dは、撮像装置31から取得した映像において、対象領域の外部の画質が対象領域に対して相対的に低くなるように調整した調整後映像を生成する。状態特定部12D、取得部11D、および送信部14Dについては、例示的実施形態1における同名の各機能ブロックとほぼ同様に構成される。制御部110Dが含む各機能ブロックの動作の詳細については、後述する「映像送信方法S1Dの流れ」において説明する。
【0056】
(遠隔制御装置20D)
遠隔制御装置20Dは、制御部210Dと、通信部220Dとを含む。通信部220Dは、ネットワークNW1を介して映像送信装置10Dとの間で情報を送受信する。制御部210Dは、復号部21Dと、表示部22Dと、受付部23Dとを含む。
【0057】
復号部21Dは、映像送信装置10Dから受信した調整後映像を復号する。表示部22Dは、復号部21Dが復号した映像を、表示装置32に表示する。受付部23Dは、オペレータUが操作装置33を用いて入力した操作情報を受け付ける。また、受付部23Dは、操作情報に対応する遠隔制御信号を、映像送信装置10Dに送信する。ここで、操作情報とは、例えば、操作装置33が、一端が固定された棒状の操作レバーであれば、操作レバーの傾き、加速度、および方向などによって示される各部位に対するコマンドを含む。
【0058】
<映像送信方法S1Dの流れ>
以上のように構成された映像送信システム1Dが実行する映像送信方法S1Dの流れについて、
図8を参照して説明する。
図8は、映像送信方法S1Dの流れを説明するフロー図である。
図8に示すように、映像送信方法S1Dは、ステップS11D~S19Dを含む。
【0059】
(ステップS11D)
ステップS11Dにおいて、取得部11Dは、撮像装置31が撮影した映像を取得する。
【0060】
(ステップS12D)
ステップS12Dにおいて、状態特定部12Dは、バックホウ90による土砂OBJを対象とする作業の状態を特定する。ここで、作業の状態には、バケット923の状態と、ダンプトラック80の状態とが含まれる。バケット923の状態には、バケット923の位置、動き、およびバケット923内の土砂OBJの有無が含まれる。換言すると、状態特定部12Dは、バケット923の状態とダンプトラック80の状態との一方または両方に応じた作業の状態を特定する。このような作業の状態の一例としては、「掘削中」、「旋回直前」、「旋回中」、「放土直前」、「放土中」、「走行直前」、「走行中」等があるが、これらに限られない。
【0061】
(作業の状態を特定する処理の具体例)
作業の状態を特定する処理の具体例について説明する。例えば、状態特定部12Dは、バックホウ90が現在行っている作業を把握することにより、作業の状態を特定する。また、例えば、状態特定部12Dは、バックホウ90が今後行う作業を予測することにより、作業の状態を特定してもよい。
【0062】
例えば、バックホウ90が現在行っている作業が「掘削」であれば、状態特定部12Dは、作業の状態として「掘削中」を特定する。また、バックホウ90が次に行うと予測した作業が「旋回」であれば、状態特定部12Dは、作業の状態として、「旋回直前」を特定する。
【0063】
例えば、「掘削中」とは、バケット923により掘削地点に歯を入れ、バケット923を傾けて土砂OBJをバケット923に乗せ、バケット923を持ち上げるところまでの一連の動作にあることを言う。また、「旋回直前」とは、旋回部91が旋回する直前のことを言う。
【0064】
例えば、状態特定部12Dは、ステップS11Dで取得した映像の解析結果を参照して、条件(i)「映像にバケット923が含まれ、かつ、バケット923内に土砂OBJが有るか否か」、および、条件(ii)「映像にバケット923およびダンプトラック80が含まれ、かつ、バケット923およびダンプトラック80間の距離が閾値以上離れているか否か」、をそれぞれ判断する。
【0065】
(掘削中の具体例)
状態特定部12Dは、条件(i)が満たされず(バケット923の中に土砂OBJが無い)、かつ、条件(ii)が満たされる(バケット923およびダンプトラック80が離れている)場合、作業の状態として「掘削中」であることを特定してもよい。
【0066】
(旋回直前の具体例)
状態特定部12Dは、条件(i)が満たされ(バケット923内に土砂OBJが有る)、かつ、条件(ii)が満たされる(バケット923およびダンプトラック80が離れている)場合、作業の状態として「旋回直前」であることを特定してもよい。
【0067】
(旋回中の具体例)
状態特定部12Dは、条件(i)が満たされず(バケット923内に土砂OBJが無い)、かつ、条件(ii)が満たされない(バケット923およびダンプトラック80が近い)場合、作業の状態として「旋回中」であることを特定してもよい。なお、「旋回中」とは、旋回部91が旋回していることを言う。
【0068】
(放土中の具体例)
状態特定部12Dは、条件(i)が満たされ(バケット923内に土砂OBJが有る)、かつ、条件(ii)が満たされない(バケット923およびダンプトラック80が近い)場合、作業の状態として「放土直前」、または、「放土中」であることを特定してもよい。
【0069】
(走行中の具体例)
また、状態特定部12Dは、上記の条件(i)(ii)に限らず、映像の変化、またはバックホウ90の位置情報の変化等に基づき、「走行中」であることを特定してもよい。映像の変化の一例としては、認識した土砂OBJの、映像における位置情報の変化等がある。
【0070】
なお、作業の状態を特定する条件は、上述した「掘削中の具体例」、「旋回直前の具体例」、「旋回中の具体例」、「放土中の具体例」、「走行中の具体例」には限定されない。作業の状態を特定する条件は、その他の条件を使って特定されるものであってもよい。
【0071】
(ステップS13D)
ステップS13Dにおいて、領域特定部13Dは、状態特定部12Dによる特定結果を参照して、当該映像において対象領域を特定する。
【0072】
具体的な処理の例として、領域特定部13Dは、映像においてブーム921、アーム922、バケット923の位置を特定する。また、領域特定部13Dは、特定した各部位の位置を参照して、作業の状態に応じた対象領域を特定する。対象領域の具体例について説明する。
【0073】
(掘削に関連する対象領域の具体例)
バックホウ90を用いて掘削に関連する作業を行う場合の対象領域の具体例について、
図9~
図10を参照して説明する。
【0074】
図9は、バックホウ90を用いて掘削に関連する作業を行う場合においてオペレータUの注目領域の一例を説明する図であり、バックホウ90の上面図である。
図9に示すように、掘削に関連する作業を行う場合、オペレータUは、バケット923を含むバケット923周辺の注目領域R1に注目する。領域特定部13Dは、掘削に関連する作業の状態が特定された場合、このような注目領域R1に対応するよう、対象領域を特定する。ここで、注目領域R1は、オペレータUが作業の状態に応じて注目する領域である。これに対し、後述する対象領域R1a~R1cは、映像において画質を調整する対象となる領域である。なお、注目領域R1は、対象領域の説明のために図示したものであり、必ずしも領域特定部13Dが特定する必要はない。換言すると、領域特定部13Dは、特許文献1に記載された装置とは異なり、オペレータUの視線を特定する必要はない。領域特定部13Dは、映像において以下に説明する対象領域R1a~R1cを特定する。
【0075】
図10は、掘削に関連する作業の状態が特定された場合における、対象領域の一例を説明する図である。例えば、掘削に関連する作業の状態は、「掘削直前(土砂に対してバケットの歯を入れる前の状態)」、「掘削中」、または「掘削完了(土砂OBJを乗せたバケット923を持ち上げて所定の高さまで上げた状態)」を含む。例えば、作業の状態として「掘削直前」が特定された場合には、領域特定部13Dは、映像G1aにおける対象領域R1aを特定する。対象領域R1aは、バケット923の直下にある土砂OBJを被写体として含む領域である。オペレータUは、このような対象領域R1aが鮮明に表示されることにより、土砂OBJの形状を確認し、バケット923をおろす位置を決めて操作装置33を操作することができる。
【0076】
また、作業の状態として「掘削中」が特定された場合には、領域特定部13Dは、映像G1bにおける対象領域R1bを特定する。対象領域R1bは、ブーム921、アーム922、バケット923、およびバケット923の手前にある土砂OBJを被写体として含む領域である。オペレータUは、このような対象領域R1bが鮮明に表示されることにより、バケット923手前の土砂OBJの形状、関節の位置関係を確認し、バケット923の動作を決めて操作装置33を操作することができる。
【0077】
また、作業の状態として「掘削完了」が特定された場合には、領域特定部13Dは、映像G1cにおける対象領域R1cを特定する。対象領域R1cは、バケット923およびバケット923内の土砂OBJを被写体として含む領域である。オペレータUは、このような対象領域R1cが鮮明に表示されることにより、バケット923に入れた土砂OBJがこぼれそうかどうか確認しながら、バケット923内の土砂OBJの量を調整するよう、または、バケット923を移動させるよう、操作装置33を操作することができる。
【0078】
(旋回に関連する注目領域および対象領域の具体例)
バックホウ90により旋回に関連する作業を行う場合の注目領域および対象領域の具体例について、
図11~
図12を参照して説明する。
【0079】
図11は、バックホウ90を用いて旋回に関連する作業を行う場合における、オペレータUの注目領域一例を説明する図であり、バックホウ90の上面図である。
図10に示すように、旋回に関連する作業を行う場合、オペレータUは、バケット923を含み、かつ、バケット923から左側に伸びる注目領域R2に注目する。ここでは、バケット923は、左回りの方向に旋回することを想定している。領域特定部13Dは、旋回に関連する作業の状態が特定された場合、このような注目領域R2に対応するよう、対象領域を特定する。なお、注目領域R2は、対象領域の説明のために図示した空間領域であり、必ずしも領域特定部13Dが特定する必要はない。領域特定部13Dは、映像において以下に説明する対象領域R2a~R2bを特定する。
【0080】
図12は、旋回に関連する作業の状態が特定された場合における、対象領域の一例を説明する図である。例えば、旋回に関連して特定される作業の状態は、「旋回直前」、または「旋回中」を含む。例えば、作業の状態として「旋回直前」が特定された場合には、領域特定部13Dは、映像G2aにおける対象領域R2aを特定する。対象領域R2aは、ブーム921、アーム922、バケット923、および土砂OBJを被写体として含む領域である。オペレータUは、このような対象領域R2aが鮮明に表示されることにより、ブーム921周囲の状況を確認し、安全かどうかを判断して旋回を開始するよう操作装置33を操作することができる。
【0081】
また、作業の状態として「旋回中」が特定された場合には、領域特定部13Dは、映像G2bにおける対象領域R2bを特定する。対象領域R2bは、ブーム921、アーム922、およびバケット923を被写体として含み、かつ、これらの各部から左側に伸びる領域である。オペレータUは、このような対象領域R2bが鮮明に表示されることにより、旋回方向(左回りの方向)が安全かどうかを判断しながら旋回を続けるよう操作装置33を操作することができる。
【0082】
(走行に関連する注目領域および対象領域の具体例)
走行に関連する作業を行う場合の注目領域および対象領域の具体例について、
図13~
図14を参照して説明する。
【0083】
図13は、バックホウ90を用いて走行に関連する作業を行う場合における、オペレータUの注目領域の一例を説明する図であり、バックホウ90の上面図である。
図13に示すように、走行に関連する作業を行う場合、オペレータUは、バックホウ90進行方向を含む注目領域R3に注目する。領域特定部13Dは、走行に関連する作業の状態が特定された場合、このような注目領域R3に対応するよう、対象領域を特定する。なお、注目領域R3は、対象領域の説明のために図示した空間領域であり、必ずしも領域特定部13Dが特定する必要はない。領域特定部13Dは、映像において以下に説明する対象領域R3aを特定する。
【0084】
図14は、走行に関連する作業が特定された場合における、対象領域の一例を説明する図である。例えば、走行に関連する作業の状態は、「前方への走行直前」を含む。例えば、作業の状態として「前方への走行直前」が特定された場合には、領域特定部13Dは、映像G3aにおける対象領域R3aを特定する。対象領域R3aは、ブーム921、アーム922、およびバケット923を被写体として含む領域である。オペレータUは、このような対象領域R3aが鮮明に表示されることにより、前方が安全かどうかを判断しながら走行を開始するよう操作装置33を操作することができる。
【0085】
(ステップS14D)
ステップS14Dにおいて、調整部15Dは、ステップS11Dで取得した映像において、対象領域の外部の画質が対象領域に対して相対的に低くなるように調整した調整後映像を生成する。調整する画質の具体例については、例示的実施形態1で説明した通りである。なお、対象領域と対象領域の外部との相対的な画質を調整して符号化する技術については、公知の技術を採用可能である。
【0086】
(ステップS15D)
送信部14Dは、生成された調整後映像を、遠隔制御装置20Dに送信する。このような調整後映像は、調整する前の映像に比べて送信に係る通信量を軽減できる。したがって、本ステップにおいて通信品質が変動する場合であっても、調整後映像を充分に送信することができる可能性が高まる。
【0087】
(ステップS16D)
ステップS16Dにおいて、遠隔制御装置20Dの復号部21Dは、受信した調整後映像を復号する。
【0088】
(ステップS17D)
ステップS17Dにおいて、表示部22Dは、復号された画像を表示する。ここで、表示される画像の具体例を、
図15を参照して説明する。
図15は、遠隔制御装置20Dが表示装置32に表示する映像の具体例を示す図である。
図15において、表示装置32に表示される映像G4は、対象領域R4を含む。映像G4は、対象領域R4の外部の画質が対象領域R4に対して相対的に低くなるように調整した調整後映像が復号されたものである。したがって、対象領域R4の外部の画質は、対象領域R4に比べて相対的に低い。一方で、対象領域R4の画質は、鮮明であることが期待できる。
【0089】
(ステップS18D)
ステップS18Dにおいて、受付部23Dは、オペレータUが操作装置33を用いて入力した操作情報を受け付ける。オペレータは、対象領域R4が鮮明に表示されることにより、作業の状態に応じた操作を精度よく行うことができる。また、受付部23Dは、操作情報に対応する遠隔制御信号を、映像送信装置10Dに送信する。
【0090】
(ステップS19D)
ステップS19Dにおいて、映像送信装置10Dの制御部110Dは、受信した遠隔制御信号にしたがって、バックホウ90の動作を制御する。
【0091】
<本例示的実施形態の効果>
本例示的実施形態は、例示的実施形態1と同様の効果を奏することに加えて、以下の効果を奏する。
【0092】
本例示的実施形態においては、状態特定部12Dが特定する作業の状態には、バックホウ90が備えるバケット923等の状態が含まれる、との構成が採用されている。この構成により、状態特定部12Dは、「掘削中」、「旋回直前」、「旋回中」等といったバケット923の状態を含む作業の状態をより精度よく判断することができる。その結果、バケット923等の状態に応じて対象領域をより精度よく決定することができる。
【0093】
また、本例示的実施形態においては、状態特定部12Dが特定する作業の状態には、他の作業機械であるダンプトラック80の状態が含まれる、との構成が採用されている。この構成により、状態特定部12Dは、「放土直前」、「放土中」等といったダンプトラック80の状態を含む作業の状態をより精度よく判断することができる。その結果、ダンプトラック80の状態に応じた対象領域をより精度よく決定することができる。
【0094】
また、本例示的実施形態においては、状態特定部12Dは、映像の解析結果を少なくとも参照して、作業の状態を特定する、との構成が採用されている。この構成により、状態特定部12Dは、映像から得られる情報をもとに作業の状態をより精度よく判断することができる。その結果、作業の状態に応じた対象領域をより精度よく決定することができる。
【0095】
〔例示的実施形態3〕
本発明の第3の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態1、2にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
【0096】
<映像送信システム1Eの構成>
本例示的実施形態に係る映像送信システム1Eの構成について、
図16を参照して説明する。
図16は、映像送信システム1Eの構成を示すブロック図である。
【0097】
図16に示すように、映像送信システム1Eは、例示的実施形態2に係る映像送信システム1Dとほぼ同様に構成される。ただし、映像送信装置10Dに替えて映像送信装置10Eを含む点と、遠隔制御装置20Dに替えて遠隔制御装置20Eを含む点と、が異なる。その他の点については、例示的実施形態2として説明した通りである。
【0098】
ここで、例示的実施形態2では、状態特定部12Dおよび領域特定部13Dが映像送信装置10Dに配置されていたのに対し、本例示的実施形態では、状態特定部24Eおよび領域特定部25Eが遠隔制御装置20Eに配置される。
【0099】
映像送信装置10Eは、取得部11Eと、送信部14Eと、調整部15Eとを含む。取得部11E、送信部14E、および調整部15Eは、例示的実施形態2における同名の各機能ブロックとほぼ同様に構成される。
【0100】
遠隔制御装置20Eは、復号部21Eと、表示部22Eと、受付部23Eと、状態特定部24Eと、領域特定部25Eと、物体認識部26Eと、ベクトル判定部27Eとを含む。復号部21E、表示部22E、および受付部23Eは、例示的実施形態2における同名の各機能ブロックとほぼ同様に構成される。状態特定部24Eは、例示的実施形態2における状態特定部12Dとほぼ同様に構成されるが、物体認識部26Eによる認識結果を参照する点が異なる。領域特定部25Eは、例示的実施形態2における領域特定部13Dとほぼ同様に構成されるが、ベクトル判定部27Eによる判定結果をさらに参照する点が異なる。状態特定部24E、領域特定部25E、物体認識部26E、およびベクトル判定部27Eの詳細については、後述する「映像送信方法S1Eの流れ」において説明する。
【0101】
<映像送信方法S1Eの流れ>
以上のように構成された映像送信システム1Eが実行する映像送信方法S1Eの流れについて、
図17を参照して説明する。
図17は、映像送信方法S1Eの流れを説明するフロー図である。
図17に示すように、映像送信方法S1Eは、ステップS11E~S19Eを含む。ステップS14E~S19Eの処理は、例示的実施形態2に係る映像送信方法S1DにおけるステップS14D~S19Dと同様である。ここでは、ステップS11E、ステップS12-1E、S12-2E、S12-3E、およびS13Eについて説明する。
【0102】
(ステップS11E)
ステップS11Eにおいて、取得部11Eは、撮像装置31が撮影した映像を取得する。また、取得部11Eは、取得した映像を、遠隔制御装置20Eに送信する。
【0103】
(ステップS12-1E)
ステップS12-1Eにおいて、遠隔制御装置20Eの物体認識部26Eは、ステップS11Eで取得した映像を参照し、当該映像に含まれる物体を認識する。物体認識部26Eは、映像に含まれる物体を認識するための機能ブロックである。物体認識部26Eには、映像に含まれる物体を認識する公知の技術を採用可能である。例えば、物体認識部26Eは、バックホウ90の作業部位(ブーム921、アーム922、バケット923等)、ダンプトラック80、土砂OBJ等のうち、映像に含まれる物体を認識する。
【0104】
(ステップS12-2E)
ステップS12-2Eにおいて、状態特定部24Eは、物体認識部26Eによる認識結果(すなわち、映像の解析結果)を参照して、バックホウ90による土砂OBJを対象とする作業の状態を特定する。
【0105】
例えば、状態特定部24Eは、物体認識部26Eによる認識結果が、バケット923およびバケット923内の土砂OBJを示す場合には、これから放土を行う「放土直前」との作業の状態を特定してもよい。
【0106】
(ステップS12-3E)
ステップS12-3Eにおいて、ベクトル判定部27Eは、ステップS11Eで取得した映像を参照し、当該映像において同じ被写体が映された領域が動く方向(以降、ベクトルと記載する)を判定する。ステップS11Eで取得される映像は、複数の静止画像の時系列を含み得る。そこで、ベクトル判定部27Eは、複数の静止画像において同じ被写体が映された領域を抽出し、当該領域のベクトルを判定する。また、ベクトル判定部27Eは、当該ベクトルを判定するために必要な数の静止画像の時系列を用いて、ベクトルを判定すればよい。なお、ステップS12-2EとステップS12-3Eとの実行順序は、必ずしもこの順番でなくてもよい。
【0107】
(ステップS13E)
ステップS13Eにおいて、領域特定部25Eは、状態特定部24Eによる特定結果(作業の状態)と、ベクトル判定部27Eによる判定結果(ベクトル)とを参照して、ステップS11Eで取得した映像における対象領域を特定する。また、領域特定部25Eは、特定結果を、映像送信装置10Eに送信する。
【0108】
一例として、領域特定部25Eは、作業の状態に応じた対象領域を、判定結果のベクトルに向けて広げてもよい。例えば、作業の状態が「掘削中」であり、ベクトルが映像において「上方向」である場合、
図10に示す映像G1bにおける対象領域R1bを、上方向に向けて広げた領域を、対象領域としてもよい。また、領域特定部25Eは、作業の状態に応じた対象領域を、判定結果のベクトルに基づき移動させてもよい。これにより、対象領域は、例えばバケット923の動きに追従して移動する。
【0109】
<本例示的実施形態の効果>
本例示的実施形態は、例示的実施形態1と同様の効果を奏することに加えて、次の効果を奏する。
【0110】
本例示的実施形態では、状態特定部24Eは、物体認識部26Eによる認識結果(すなわち、映像の解析結果)を参照して、バックホウ90による土砂OBJを対象とする作業の状態を特定する、との構成が採用されている。この構成により、映像から認識される物体をもとに作業の状態をより精度よく判断することができる。
【0111】
また、本例示的実施形態では、領域特定部25Eは、状態特定部24Eによる特定結果(作業の状態)と、ベクトル判定部27Eによる判定結果(ベクトル)とを参照して、ステップS11Eで取得した映像における対象領域を特定する、との構成が採用されている。この構成により、作業の状態に加えて、映像における動きを考慮するので、対象領域をより精度よく決定することができる。
【0112】
また、本例示的実施形態では、状態特定部24Eは、遠隔制御装置20Eに配置されている。これにより、状態特定部24Eを映像送信装置10Eに配置する場合と比べて、映像送信装置10Eの負荷を軽くすることができる。
【0113】
〔例示的実施形態4〕
本発明の第4の例示的実施形態について、図面を参照して詳細に説明する。なお、例示的実施形態1~3にて説明した構成要素と同じ機能を有する構成要素については、同じ符号を付し、その説明を適宜省略する。
【0114】
<映像送信システム1Fの構成>
本例示的実施形態に係る映像送信システム1Fの構成について、
図18を参照して説明する。
図18は、映像送信システム1Fの構成を示すブロック図である。
【0115】
図18に示すように、映像送信システム1Fは、例示的実施形態3に係る映像送信システム1Eとほぼ同様に構成される。ただし、映像送信装置10Eに替えて映像送信装置10Fを含む点と、遠隔制御装置20Eに替えて遠隔制御装置20Fを含む点と、が異なる。その他の点については、例示的実施形態3として説明した通りである。
【0116】
映像送信装置10Fは、取得部11Fと、送信部14Fと、調整部15Fとを含む。取得部11F、送信部14F、および調整部15Fは、例示的実施形態3における同名の各機能ブロックとほぼ同様に構成される。
【0117】
遠隔制御装置20Fは、復号部21Fと、表示部22Fと、受付部23Fと、状態特定部24Fと、領域特定部25Fと、予測部28Fとを含む。予測部28Fは、請求の範囲に記載した予測手段を実現する構成の一例である。復号部21F、表示部22F、受付部23F、状態特定部24F、および領域特定部25Fは、例示的実施形態3における同名の各機能ブロックとほぼ同様に構成される。ただし、状態特定部24Fは、バックホウ90による作業フェーズを示す情報を少なくとも参照する点が異なる。また、領域特定部25Fは、予測部28Fによる予測結果をさらに参照する点が異なる。状態特定部24F、領域特定部25F、および予測部28Fの詳細については、後述する「映像送信方法S1Fの流れ」において説明する。
【0118】
<映像送信方法S1Fの流れ>
以上のように構成された映像送信システム1Fが実行する映像送信方法S1Fの流れについて、
図19を参照して説明する。
図19は、映像送信方法S1Fの流れを説明するフロー図である。
図19に示すように、映像送信方法S1Fは、ステップS11F~S19Fを含む。ステップS11F、S14F~S19Fの処理は、例示的実施形態3に係る映像送信方法S1EにおけるステップS11E、S14E~S19Eと同様である。ここでは、ステップS12-1F、S12-2F、S12-3F、およびS13Fについて説明する。
【0119】
(ステップS12-1F)
ステップS12-1Fにおいて、状態特定部24Fは、操作情報の履歴を取得する。操作情報は、オペレータUがバックホウ90を遠隔制御するために操作装置33に入力した情報である。操作情報は、例えば、(i)バケット923の開閉、(ii)ブーム921の第一関節を折る/伸ばす、(iii)ブーム921の第二関節を折る/伸ばす、(iv)旋回、または(v)走行との情報を含む。ただし、操作情報は、これに限られない。なお、ここで取得される操作情報の履歴は、受付部23Fがこれまでに受け付けたものである。
【0120】
(ステップS12-2F)
ステップS12-2Fにおいて、状態特定部24Fは、作業フェーズを示す情報を少なくとも参照して、作業の状態を特定する。具体的には、作業フェーズを示す情報は、作業フェーズが切り替わるタイミングを示す情報を含む。例えば、状態特定部24Fは、操作情報の履歴に基づき作業フェーズが切り替わるタイミングを特定する。状態特定部24Fは、作業フェーズの切り替わりのタイミングに基づいて、バックホウ90による作業の状態を特定する。例えば、作業フェーズは、「掘削」、「旋回」、「放土」、「走行」であり、この順に作業が行われることが想定されている。
【0121】
(具体例1:掘削から旋回)
具体例として、例えば、操作情報の履歴において、上述した(i)、(ii)、(iii)の操作情報が閾値以上の頻度で出現し、その後、(iv)の操作情報が出現した場合、状態特定部24Fは、作業が掘削から旋回へ切り替わるタイミングt1であると特定する。
【0122】
(具体例2:旋回から放土)
また、操作情報の履歴において、具体例1において上述した(iv)の操作情報が出現した後、(i)、(ii)、(iii)の操作情報が閾値以上の頻度で出現する場合、状態特定部24Fは、作業が旋回から放土へ切り替わるタイミングt2であると特定する。
【0123】
(具体例3:放土から旋回)
また、操作情報の履歴において、具体例2において上述した(i)、(ii)、(iii)の操作情報が閾値以上の頻度で出現した後、(iv)の操作情報が出現した場合、状態特定部24Fは、作業が放土から旋回へ切り替わるタイミングt3であると特定する。
【0124】
(具体例4:旋回から掘削)
また、操作情報の履歴において、具体例3において上述した(iv)の操作情報が出現した後、(i)、(ii)、(iii)の操作情報が閾値以上の頻度で出現する場合、状態特定部24Fは、作業が旋回から掘削へ切り替わるタイミングt4であると特定する。
【0125】
(具体例5:走行)
また、操作情報の履歴において、具体例4に続いて上述した(v)の操作情報が出現する場合、状態特定部24Fは、作業が走行へ切り替わるタイミングt5であると特定する。
【0126】
このように、状態特定部24Fは、操作情報の履歴に基づき作業フェーズが切り替わるタイミングを特定し、特定したタイミングを参照して、作業の状態を特定する。例えば、状態特定部24Fは、上述したタイミングt1とt2の間においては、作業の状態は「旋回中」であると特定できる。また、状態特定部24Fは、特定結果を、映像送信装置10Fに送信する。
【0127】
(ステップS12-3F)
ステップS12-3Fにおいて、予測部28Fは、バックホウ90の動作を予測する。例えば、予測部28Fは、映像の解析結果を参照して、映像においてバケット923が動いた方向を取得する。また、予測部28Fは、取得した動く方向に基づいて、これからバケット923が今後動く方向(予測方向)を予測する。また、例えば、予測部28Fは、操作情報の履歴と、当該履歴に応じたバックホウ90の部位(例えば、バケット923)の動き量とを紐づけた情報を参照して、バックホウ90の動作を予測してもよい。また、例えば、予測部28Fは、映像が表示された画面においてバックホウ90の部位(例えば、バケット923)がどの程度のスピードおよび幅で動くかを特定することにより、バックホウ90の動作を予測してもよい。
【0128】
(ステップS13F)
ステップS13Fにおいて、領域特定部25Fは、状態特定部24Fによる特定結果(作業の状態)と、予測部28Fによる予測結果(予測方向)とを参照して、ステップS11Fで取得した映像における対象領域を特定する。一例として、領域特定部25Fは、作業の状態に応じた対象領域を、予測方向に向けて広げてもよい。例えば、作業の状態が「掘削中」であり、予測方向が映像において「上方向」である場合、
図10に示す映像G1bにおける対象領域R1bを、上方向に向けてバケット923の領域サイズ分だけ広げた領域を、対象領域としてもよい。また、領域特定部25Fは、作業の状態に応じた対象領域を、予測方向に基づき移動させてもよい。これにより、対象領域は、例えばバケット923に予測される動きに追従して移動する。
【0129】
なお、本例示的実施形態において、状態特定部24Fは、1人のオペレータUの操作情報の履歴に限らず、複数のオペレータによる操作情報の履歴を集約したデータベースを参照して、作業の状態を特定してもよい。複数のオペレータとは、例えば、1つのバックホウ90を異なる時期に遠隔操作するオペレータであってもよいし、複数のバックホウ90をそれぞれ遠隔操作するオペレータであってもよい。また、状態特定部24Fは、操作情報の履歴を入力として作業の状態を出力する推定モデルを用いて、作業の状態を特定してもよい。また、そのような推定モデルは、そのような複数のオペレータUによる操作情報の履歴を教師データとして機械学習により生成されたものであってもよい。
【0130】
<本例示的実施形態の効果>
本例示的実施形態は、例示的実施形態1と同様の効果を奏することに加えて、次の効果を奏する。
【0131】
本例示的実施形態では、状態特定部24Fは、バックホウ90による作業フェーズを示す情報を少なくとも参照して、作業の状態を特定する、との構成が採用されている。例えば、複数の作業フェーズが順に行われることが想定される場合に、状態特定部24Fは、作業フェーズが切り替わるタイミングを特定することにより、作業の状態を精度よく特定することができる。
【0132】
また、本例示的実施形態では、状態特定部24Fは、オペレータUによる操作情報の履歴に基づいて、作業フェーズの切り替わりを判断し、判断結果に基づいて作業の状態を特定する。映像の解析結果を参照する処理を行う場合と比べて、操作情報の履歴を参照する処理は負荷が軽い場合が多い。したがって、作業の状態を特定する処理の負荷を軽減することができる。
【0133】
また、本例示的実施形態では、予測部28Fは、バックホウ90(バケット923)の動作を予測し、領域特定部25Fは、状態特定部24Fによる特定結果(作業の状態)と、予測部28Fによる予測結果とを参照して対象領域を特定する、との構成が採用されている。この構成により、作業の状態に加えて、バックホウ90について予測される動きを考慮するので、バックホウ90がこれから行う作業に応じてオペレータUがこれから注目する領域に適合するよう、対象領域をより精度よく決定することができる。
【0134】
〔変形例1〕
なお、上述した各例示的実施形態は、以下のように変形できる。各例示的実施形態において、取得部11(11D、11E、11F)は、送信部14(14D、14E、14F)が用いる伝送経路における通信状況を示す通信状況情報を更に取得してもよい。この場合、送信部14(14D、14E、14F)は、取得された通信状況情報を参照して、対象領域と対象領域の外部との相対的な画質を特定する。例えば、送信部14(14D、14E、14F)は、相対的な画質として、対象領域と対象領域の外部との画質に差がないことを特定してもよい。この場合、送信部14(14D、14E、14F)は、取得部11(11D、11E、11F)が取得した映像をそのまま送信する。また、例えば、送信部14(14D、14E、14F)は、相対的な画質として、対象領域の画質が、対象領域の外部に比べて高画質になることを特定してもよい。相対的な画質は、例えば、画像の対象領域およびその外部のそれぞれに対する調整パラメータによって表される。この場合、送信部14(14D、14E、14F)は、調整後映像を送信する。換言すると、送信部14(14D、14E、14F)は、通信状況情報を参照して、取得部11(11D、11E、11F)が取得した映像をそのまま送信するのか、調整後映像を送信するのか、を切り替えてもよい。
【0135】
また、この場合、通信状況情報には、今後の通信状況を予測した情報が含まれていてもよい。また、この場合、通信状況情報には、これまでの通信状況の履歴が含まれていてもよい。
【0136】
このように変形することにより、各例示的実施形態は、通信状況が所定の品質を下回る場合には調整後映像により対象領域内を鮮明に提示しつつも、通信状況が所定の品質を上回る場合には、調整されていない映像全体を明瞭にオペレータUに提示することができる。その結果、オペレータの操作性がさらに向上する。
【0137】
〔変形例2〕
また、上述した各例示的実施形態において、領域特定部13(13D、13E、13F)は、通信品質に応じて対象領域の大きさを変動させてもよい。例えば、領域特定部13(13D、13E、13F)は、通信品質が悪くなるほど、対象領域の大きさを小さくしてもよい。また、領域特定部13(13D、13E、13F)は、通信品質に応じて対象領域の内外の画質を変動させてもよい。例えば、領域特定部13(13D、13E、13F)は、通信品質が悪くなるほど、対象領域の外部の画質を低くしてもよい。
【0138】
このように変形することにより、各例示的実施形態は、少なくとも対象領域を鮮明に表示するための調整後映像を、より安定的に送信することができる。
【0139】
〔変形例3〕
例示的実施形態4において、受付部23Fは、オペレータUの音声を含む操作情報を取得してもよい。この場合、状態特定部24Fは、音声を含む操作情報の履歴を参照して、バックホウ90による作業の状態を特定する。
【0140】
〔変形例4〕
上述した例示的実施形態2~4は、作業機械にバックホウ90を適用する例を中心に説明した。ただし、各例示的実施形態は、作業機械にバックホウ90以外の装置を適用しても、同様の効果を奏する。例えば、作業機械には、その他の建設機械を適用してもよい。その他の建設機械の具体例としては、クレーン、フォークリフト、ローラ、またはブルドーザ等が挙げられる。ただし、建設機械の具体例はこれに限られない。また、作業機械には、無人搬送車(AGV:Automatic Guided Vehicle)を適用してもよい。
【0141】
また、例示的実施形態2~4において、オペレータUは、必ずしも人である必要はない。例えば、オペレータUは、作業機械を操作するAI(Artificial Intelligence)機能を有するコンピュータ、ロボット等であってもよいが、これらに限られない。また、例示的実施形態2~4において、作業対象物は、土砂OBJに限られない。例えば、土、砂、土砂、雪、穀物、セメント等であってもよく、粒状、又は不定形の固形物又は液体であってもよい。例えば、作業機械がクレーンであれば、作業対象物には、クレーンに玉掛けされた荷物が適用される。
【0142】
〔変形例5〕
上述した例示的実施形態2~4は、他の作業機械にダンプトラック80を適用する例を中心に説明した。ただし、他の作業機械には、他のバックホウ、ローラ、クレーン等を適用してもよい。
【0143】
〔変形例6〕
また、上述した例示的実施形態2~4は、複数のバックホウ90にそれぞれ紐づけられた映像送信装置10D、10E、10F、および遠隔制御装置20D、20E、および20Fを含んでいてもよい。この場合、各遠隔制御装置20D、20E、および20Fは、自装置に紐づけられたバックホウ90に遠隔制御信号を送信する。また、各映像送信装置10D、10E、10Fは、自装置に紐づけられたバックホウ90に関する映像を、該当する遠隔制御装置20D、20E、および20Fに送信する。この場合、複数のバックホウ90のうち一部のバックホウ90に紐づけられた映像送信装置10D、10E、10Fは、調整後映像を送信してもよい。また、それ以外の映像送信装置10D、10E、10Fは、調整後映像を生成せずに映像をそのまま送信してもよい。例えば、サーバ(図示せず)が、複数のバックホウ90のうち、調整後映像を送信するバックホウ90を決定してもよい。このような決定は、各バックホウ90の作業の状態の重要度に基づき行われてもよい。このように変形することにより、同じ作業エリアで複数のバックホウ90が作業する場合に、複数のバックホウ90のうちより重要度の高いバックホウ90に関する映像を優先して操作性を保ちながら安定して送信することができる。
【0144】
〔変形例7〕
上述した例示的実施形態4において、状態特定部24Fは、必要に応じてさらに映像の解析結果を参照して作業の状態を特定してもよい。ここで、操作情報の履歴を参照する処理は、映像の解析処理よりも負荷が軽いと考えられる。例えば、状態特定部24Fは、操作情報の履歴を参照して作業の状態を特定できなかった場合に、映像の解析結果を参照して作業の状態を特定してもよい。映像の解析結果を参照して作業の状態を特定する処理については、例示的実施形態2、3で説明した通りである。このように変形することにより、作業の状態を特定する処理の負荷を軽減しながら、特定した作業の状態の信頼度を向上させることができる。
【0145】
〔変形例8〕
上述した例示的実施形態2~4において、各機能ブロックは、映像送信装置10D、10E、10Fに配置されてもよいし、遠隔制御装置20D、20E、20Fに配置されてもよい。
【0146】
例えば、例示的実施形態2において、状態特定部12Dおよび領域特定部13Dの一方または両方は、映像送信装置10Dに配置されてもよいし、遠隔制御装置20Dに配置されてもよい。ただし、領域特定部13Dは、状態特定部12Dによる特定結果を、ネットワークNW1を介さずに参照できることが望ましい。したがって、状態特定部12Dおよび領域特定部13Dは、両方が映像送信装置10Dに配置されるか、または、両方が遠隔制御装置20Dに配置されることが望ましい。
【0147】
また、例えば、例示的実施形態3において、状態特定部24E、領域特定部25E、物体認識部26Eおよびベクトル判定部27Eの一部または全部は、映像送信装置10Eに配置されてもよいし、遠隔制御装置20Eに配置されてもよい。ただし、状態特定部24Eは、物体認識部26Eによる認識結果を、ネットワークNW1を介さずに参照できることが望ましい。また、領域特定部25Eは、状態特定部24Eによる特定結果およびベクトル判定部27Eによる判定結果を、ネットワークNW1を介さずに参照できることが望ましい。したがって、これらの機能ブロック24E、25E、26E、および27Eは、全部が映像送信装置10Eに配置されるか、または、全部が遠隔制御装置20Eに配置されることが望ましい。
【0148】
また、例えば、例示的実施形態4において、状態特定部24F、領域特定部25F、および予測部28Fの一部または全部は、映像送信装置10Fに配置されてもよいし、遠隔制御装置20Fに配置されてもよい。ただし、領域特定部25Fは、状態特定部24Fによる特定結果および予測部28Fによる予測結果を、ネットワークNW1を介さずに参照できることが望ましい。したがって、これらの機能ブロック24F、25F、および28Fの全部が映像送信装置10Fに配置されるか、または、全部が遠隔制御装置20Fに配置されることが望ましい。さらに、状態特定部24Fは、受付部23Fが受け付けた操作情報の履歴を、ネットワークNW1を介さずに参照できることが望ましい。この場合、これらの機能ブロック24F、25F、および28Fの全部は、遠隔制御装置20Fに配置されることが望ましい。
【0149】
〔変形例9〕
また、各例示的実施形態が実行する映像送信方法S1、S1D、S1E、S1Fにおいて、当該方法に含まれるステップを実行する順序は、上述した順序に限定されない。また、当該方法に含まれる複数のステップが並行して実施されてもよい。また、各例示的実施形態は、組み合わせて実施されてもよい。また、各例示的実施形態に含まれる各機能ブロックは、1つの装置に集約されることに限定されず、複数の装置に分散して配置されてもよい。また、各例示的実施形態に含まれる各機能ブロックは、クラウドに配置されてもよい。これらの各機能ブロックがどのような装置またはクラウドに配置される場合であっても、これらの機能ブロック間で必要に応じて情報を送受信することにより、各機能ブロックの上述した機能が実現できればよい。
【0150】
〔ソフトウェアによる実現例〕
映像送信装置10、10A、10B、10C、10D、10E、10Fの一部又は全部の機能は、集積回路(ICチップ)等のハードウェアによって実現してもよいし、ソフトウェアによって実現してもよい。
【0151】
後者の場合、映像送信装置10、10A、10B、10C、10D、10E、10Fは、例えば、各機能を実現するソフトウェアであるプログラムの命令を実行するコンピュータによって実現される。このようなコンピュータの一例(以下、コンピュータCと記載する)を
図20に示す。コンピュータCは、少なくとも1つのプロセッサC1と、少なくとも1つのメモリC2と、を備えている。メモリC2には、コンピュータCを映像送信装置10、10A、10B、10C、10D、10E、10Fとして動作させるためのプログラムPが記録されている。コンピュータCにおいて、プロセッサC1は、プログラムPをメモリC2から読み取って実行することにより、映像送信装置10、10A、10B、10C、10D、10E、10Fの各機能が実現される。
【0152】
プロセッサC1としては、例えば、CPU(Central Processing Unit)、GPU(Graphic Processing Unit)、DSP(Digital Signal Processor)、MPU(Micro Processing Unit)、FPU(Floating point number Processing Unit)、PPU(Physics Processing Unit)、マイクロコントローラ、又は、これらの組み合わせなどを用いることができる。メモリC2としては、例えば、フラッシュメモリ、HDD(Hard Disk Drive)、SSD(Solid State Drive)、又は、これらの組み合わせなどを用いることができる。
【0153】
なお、コンピュータCは、プログラムPを実行時に展開したり、各種データを一時的に記憶したりするためのRAM(Random Access Memory)を更に備えていてもよい。また、コンピュータCは、他の装置との間でデータを送受信するための通信インタフェースを更に備えていてもよい。また、コンピュータCは、キーボードやマウス、ディスプレイやプリンタなどの入出力機器を接続するための入出力インタフェースを更に備えていてもよい。
【0154】
また、プログラムPは、コンピュータCが読み取り可能な、一時的でない有形の記録媒体Mに記録することができる。このような記録媒体Mとしては、例えば、テープ、ディスク、カード、半導体メモリ、又はプログラマブルな論理回路などを用いることができる。コンピュータCは、このような記録媒体Mを介してプログラムPを取得することができる。また、プログラムPは、伝送媒体を介して伝送することができる。このような伝送媒体としては、例えば、通信ネットワーク、又は放送波などを用いることができる。コンピュータCは、このような伝送媒体を介してプログラムPを取得することもできる。
【0155】
〔付記事項1〕
本発明は、上述した実施形態に限定されるものでなく、請求項に示した範囲で種々の変更が可能である。例えば、上述した実施形態に開示された技術的手段を適宜組み合わせて得られる実施形態についても、本発明の技術的範囲に含まれる。
【0156】
〔付記事項2〕
上述した実施形態の一部又は全部は、以下のようにも記載され得る。ただし、本発明は、以下の記載する態様に限定されるものではない。
【0157】
(付記1)
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、
前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定手段と、
前記状態特定手段による特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信手段と、
を含む映像送信システム。
【0158】
上記構成により、作業機械を遠隔操作する際の操作性を保ちながら、通信品質が変動する環境下でも作業機械周辺の映像を安定して送信することができる。
【0159】
(付記2)
前記状態特定手段が特定する前記作業の状態には、
前記作業機械が備える作業部位の状態が含まれる
付記1に記載の映像送信システム。
【0160】
上記の構成により、作業部位の状態に応じて対象領域をより精度よく判断することができる。
【0161】
(付記3)
前記作業部位の状態には、
前記作業部位の位置、動き、および前記作業部位における前記作業対象物の有無の少なくとも何れかが含まれる
付記2に記載の映像送信システム。
【0162】
上記の構成により、作業部位の位置、動き、および前記作業部位における作業対象物の有無の少なくとも何れかに応じて対象領域をさらに精度よく判断することができる。
【0163】
(付記4)
前記状態特定手段は、
前記映像の解析結果を少なくとも参照して、前記作業の状態を特定する
付記1から3の何れか1つに記載の映像送信システム。
【0164】
上記の構成により、映像から得られる情報をもとに作業の状態をより精度よく判断することができる。
【0165】
(付記5)
前記状態特定手段は、
前記作業機械による作業フェーズを示す情報を少なくとも参照して、前記作業の状態を特定する
付記1から4の何れか1項に記載の映像送信システム。
【0166】
上記の構成により、作業フェーズを示す情報をもとに作業の状態をより精度よく判断することができる。
【0167】
(付記6)
前記作業機械の動作を予測する予測手段を更に備え、
前記領域特定手段は、前記予測手段による予測結果を更に参照して、前記対象領域を特定する
付記1から5の何れか1項に記載の映像送信システム。
【0168】
上記の構成により、作業機械に予測される動作に応じてオペレータがこれから注目する領域に適合するよう、対象領域を特定することができる。
【0169】
(付記7)
前記状態特定手段が特定する前記作業の状態には、
前記作業機械の周辺に位置する他の作業機械の状態が含まれる
付記1から6の何れか1項に記載の映像送信システム。
【0170】
上記の構成により、他の作業機械の状態に応じて対象領域をさらに精度よく判断することができる。
【0171】
(付記8)
前記取得手段は、前記送信手段が用いる伝送経路における通信状況を示す通信状況情報を更に取得し、
前記送信手段は、前記通信状況情報を参照して、前記対象領域と前記対象領域の外部との相対的な画質を特定する
付記1から7の何れか1項に記載の映像送信システム。
【0172】
上記の構成により、送信先において、少なくとも対象領域を調整された画質で表示させるのか、映像全体を調整していない画質で表示させるのかを、通信状況に応じて柔軟に切り替えることができる。
【0173】
(付記9)
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、
前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定手段と、
前記状態特定手段による特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信手段と、
を含む映像送信装置。
【0174】
上記の構成によれば、付記1と同様の効果を奏する。
【0175】
(付記10)
前記状態特定手段が特定する前記作業の状態には、
前記作業機械が備える作業部位の状態が含まれる
付記9に記載の映像送信装置。
【0176】
上記の構成によれば、付記2と同様の効果を奏する。
【0177】
(付記11)
前記作業部位の状態には、
前記作業部位の位置、動き、および前記作業部位における前記作業対象物の有無の少なくとも何れかが含まれる
付記10に記載の映像送信装置。
【0178】
上記の構成によれば、付記3と同様の効果を奏する。
【0179】
(付記12)
前記状態特定手段は、
前記映像の解析結果を少なくとも参照して、前記作業の状態を特定する
付記9から11の何れか1つに記載の映像送信装置。
【0180】
上記の構成によれば、付記4と同様の効果を奏する。
【0181】
(付記13)
前記状態特定手段は、
前記作業機械による作業フェーズを示す情報を少なくとも参照して、前記作業の状態を特定する
付記9から12の何れか1項に記載の映像送信装置。
【0182】
上記の構成によれば、付記5と同様の効果を奏する。
【0183】
(付記14)
前記作業機械の動作を予測する予測手段を更に備え、
前記領域特定手段は、前記予測手段による予測結果を更に参照して、前記対象領域を特定する
付記9から13の何れか1項に記載の映像送信装置。
【0184】
上記の構成によれば、付記6と同様の効果を奏する。
【0185】
(付記15)
前記状態特定手段が特定する前記作業の状態には、
前記作業機械の周辺に位置する他の作業機械の状態が含まれる
付記9から14の何れか1項に記載の映像送信装置。
【0186】
上記の構成によれば、付記7と同様の効果を奏する。
【0187】
(付記16)
前記取得手段は、前記送信手段が用いる伝送経路における通信状況を示す通信状況情報を更に取得し、
前記送信手段は、前記通信状況情報を参照して、前記対象領域と前記対象領域の外部との相対的な画質を特定する
付記9から15の何れか1項に記載の映像送信装置。
【0188】
上記の構成によれば、付記8と同様の効果を奏する。
【0189】
(付記17)
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得することと、
前記作業機械による作業対象物を対象とする作業の状態を特定することと、
前記作業の状態の特定結果に応じて、前記映像において対象領域を特定することと、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信することと、
を含む映像送信方法。
【0190】
上記の構成によれば、付記1と同様の効果を奏する。
【0191】
(付記18)
前記特定する作業の状態には、
前記作業機械が備える作業部位の状態が含まれる
付記17に記載の映像送信方法。
【0192】
上記の構成によれば、付記2と同様の効果を奏する。
【0193】
(付記19)
前記作業部位の状態には、
前記作業部位の位置、動き、および前記作業部位における前記作業対象物の有無の少なくとも何れかが含まれる
付記18に記載の映像送信方法。
【0194】
上記の構成によれば、付記3と同様の効果を奏する。
【0195】
(付記20)
前記作業の状態を特定する際に、
前記映像の解析結果を少なくとも参照する
付記17から19の何れか1項に記載の映像送信方法。
【0196】
上記の構成によれば、付記4と同様の効果を奏する。
【0197】
(付記21)
前記作業の状態を特定する際に、
前記作業機械による作業フェーズを示す情報を少なくとも参照する
付記17から20の何れか1項に記載の映像送信方法。
【0198】
上記の構成によれば、付記5と同様の効果を奏する。
【0199】
(付記22)
前記作業機械の動作を予測し、
前記対象領域を特定する際に、
前記作業機械の動作の予測結果を更に参照する
付記17から21の何れか1項に記載の映像送信方法。
【0200】
上記の構成によれば、付記6と同様の効果を奏する。
【0201】
(付記23)
前記特定する作業の状態には、
前記作業機械の周辺に位置する他の作業機械の状態が含まれる
付記17から22の何れか1項に記載の映像送信方法。
【0202】
上記の構成によれば、付記7と同様の効果を奏する。
【0203】
(付記24)
前記調整後映像を送信する伝送経路における通信状況を示す通信状況情報を更に取得し、
前記通信状況情報を参照して、前記対象領域と前記対象領域の外部との相対的な画質を特定する
付記17から23の何れか1項に記載の映像送信方法。
【0204】
上記の構成によれば、付記8と同様の効果を奏する。
【0205】
(付記25)
コンピュータを映像送信装置として機能させるためのプログラムであって、前記コンピュータを、
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得手段と、
前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定手段と、
前記状態特定手段による特定結果に応じて、前記映像において対象領域を特定する領域特定手段と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信手段と、
として機能させるプログラム。
【0206】
上記の構成によれば、付記1と同様の効果を奏する。
【0207】
(付記26)
前記状態特定手段が特定する前記作業の状態には、
前記作業機械が備える作業部位の状態が含まれる
付記25に記載のプログラム。
【0208】
上記の構成によれば、付記2と同様の効果を奏する。
【0209】
(付記27)
前記作業部位の状態には、
前記作業部位の位置、動き、および前記作業部位における前記作業対象物の有無の少なくとも何れかが含まれる
付記26に記載の映像送信システム。
【0210】
上記の構成によれば、付記3と同様の効果を奏する。
【0211】
(付記28)
前記状態特定手段は、
前記映像の解析結果を少なくとも参照して、前記作業の状態を特定する
付記25から27の何れか1つに記載のプログラム。
【0212】
上記の構成によれば、付記4と同様の効果を奏する。
【0213】
(付記29)
前記状態特定手段は、
前記作業機械による作業フェーズを示す情報を少なくとも参照して、前記作業の状態を特定する
付記25から28の何れか1項に記載のプログラム。
【0214】
上記の構成によれば、付記5と同様の効果を奏する。
【0215】
(付記30)
前記作業機械の動作を予測する予測手段を更に備え、
前記領域特定手段は、前記予測手段による予測結果を更に参照して、前記対象領域を特定する
付記25から29の何れか1項に記載のプログラム。
【0216】
上記の構成によれば、付記6と同様の効果を奏する。
【0217】
(付記31)
前記状態特定手段が特定する前記作業の状態には、
前記作業機械の周辺に位置する他の作業機械の状態が含まれる
付記25から30の何れか1項に記載のプログラム。
【0218】
上記の構成によれば、付記7と同様の効果を奏する。
【0219】
(付記32)
前記取得手段は、前記送信手段が用いる伝送経路における通信状況を示す通信状況情報を更に取得し、
前記送信手段は、前記通信状況情報を参照して、前記対象領域と前記対象領域の外部との相対的な画質を特定する
付記25から31の何れか1項に記載のプログラム。
【0220】
上記の構成によれば、付記8と同様の効果を奏する。
【0221】
〔付記事項3〕
上述した実施形態の一部又は全部は、更に、以下のように表現することもできる。
【0222】
少なくとも1つのプロセッサを備え、前記プロセッサは、
作業機械の少なくとも一部と当該作業機械の作業エリアの少なくとも一部とを画角に含む映像を取得する取得処理と、
前記作業機械による作業対象物を対象とする作業の状態を特定する状態特定処理と、
前記状態特定処理による特定結果に応じて、前記映像において対象領域を特定する領域特定処理と、
前記映像における前記対象領域と前記対象領域の外部との相対的な画質を調整することによって得られた調整後映像を送信する送信処理と、を実行する映像送信装置。
【0223】
なお、この映像送信装置は、更にメモリを備えていてもよく、このメモリには、前記取得処理と、前記状態特定処理と、前記領域特定処理と、前記送信処理とを前記プロセッサに実行させるためのプログラムが記憶されていてもよい。また、このプログラムは、コンピュータ読み取り可能な一時的でない有形の記録媒体に記録されていてもよい。
【符号の説明】
【0224】
1、1A、1B、1C、1D、1E、1F 映像送信システム
2F、10D、12、12D、24E、24F 状態特定部
10、10A、10B、10C、10D、10E、10F 映像送信装置
60C 制御装置
11、11D、11E、11F 取得部
12、12D、24E、24F 状態特定部
13、13D、25E、25F 領域特定部
14、14D、14E、14F 送信部
15D、15E、15F 調整部
26E 物体認識部
27E ベクトル判定部
28F 予測部
20、20A、20B、20C、20D、20E、20F 遠隔制御装置
21D、21E、21F 復号部
22D、22E、22F 表示部
23D、23E、23F 受付部