IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社日立システムズの特許一覧

特開2023-180582撮影支援装置、撮影支援方法およびプログラム
<>
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図1
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図2
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図3
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図4
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図5
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図6
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図7
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図8
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図9
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図10
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図11
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図12
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図13
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図14
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図15
  • 特開-撮影支援装置、撮影支援方法およびプログラム 図16
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023180582
(43)【公開日】2023-12-21
(54)【発明の名称】撮影支援装置、撮影支援方法およびプログラム
(51)【国際特許分類】
   H04N 23/60 20230101AFI20231214BHJP
   H04N 23/63 20230101ALI20231214BHJP
   G06Q 50/04 20120101ALI20231214BHJP
【FI】
H04N5/232 300
H04N5/232 290
H04N5/232 945
H04N5/232 941
G06Q50/04
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022093986
(22)【出願日】2022-06-09
(71)【出願人】
【識別番号】000233491
【氏名又は名称】株式会社日立システムズ
(74)【代理人】
【識別番号】110000198
【氏名又は名称】弁理士法人湘洋特許事務所
(72)【発明者】
【氏名】勝又 大介
(72)【発明者】
【氏名】菊地 克朗
(72)【発明者】
【氏名】加畑 亮一
(72)【発明者】
【氏名】岩崎 史哉
(72)【発明者】
【氏名】成田 賀仁
(72)【発明者】
【氏名】深澤 祐介
【テーマコード(参考)】
5C122
5L049
【Fターム(参考)】
5C122DA03
5C122DA04
5C122DA42
5C122EA12
5C122EA44
5C122EA55
5C122EA61
5C122FH01
5C122FH07
5C122FH10
5C122FH11
5C122FH14
5C122FJ04
5C122FK34
5C122FK35
5C122FL08
5C122GA24
5C122GA31
5C122GA34
5C122HA04
5C122HA13
5C122HA35
5C122HB01
5C122HB05
5C122HB09
5L049CC04
(57)【要約】
【課題】 撮影すべき被写体の撮りこぼしを防止し、撮影不良が生じないように撮影を支援することができる。
【解決手段】 説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識部と、被写体を撮影する撮影部と、前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成部と、前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成部と、前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付部と、を備える。
【選択図】図2
【特許請求の範囲】
【請求項1】
説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識部と、
被写体を撮影する撮影部と、
前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成部と、
前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成部と、
前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付部と、を備える
ことを特徴とする撮影支援装置。
【請求項2】
請求項1に記載の撮影支援装置であって、
前記撮影部は、
前記撮影対象物の前記素材画像を撮影すると、当該素材画像に対応する前記キーワードおよび前記説明時画像に対応付けて前記素材撮影リストに登録し、
作業者の作業中の様子を撮影した実作業画像を撮影すると、当該実作業に対応する前記キーワードおよび前記説明時画像に対応付けて前記素材撮影リストに登録する
ことを特徴とする撮影支援装置。
【請求項3】
請求項2に記載の撮影支援装置であって、
前記素材画像を用いて、前記実作業画像中における前記撮影対象物を検知する撮影対象検知部と、
前記撮影対象検知部により前記実作業画像中における前記素材画像の前記撮影対象物に撮影画像の品質不良が検知されると報知情報を出力する報知部と、をさらに備える
ことを特徴とする撮影支援装置。
【請求項4】
請求項3に記載の撮影支援装置であって、
前記報知部は、
前記撮影対象検知部により、前記実作業画像から検知された前記素材画像の前記撮影対象物における焦点距離が合っていないという前記撮影画像の品質不良が検知された場合、報知情報を出力する
ことを特徴とする撮影支援装置。
【請求項5】
請求項3に記載の撮影支援装置であって、
前記報知部は、
前記撮影対象検知部により、前記実作業画像から検知された前記素材画像の前記撮影対象物が撮影範囲から見切れているという前記撮影画像の品質不良が検知された場合、報知情報を出力する
ことを特徴とする撮影支援装置。
【請求項6】
請求項3に記載の撮影支援装置であって、
前記報知部は、
前記撮影対象検知部により、前記実作業画像から検知された前記素材画像の前記撮影対象物の明るさ調整不良という前記撮影画像の品質不良が検知された場合、報知情報を出力する
ことを特徴とする撮影支援装置。
【請求項7】
請求項3に記載の撮影支援装置であって、
前記撮影対象検知部は、
前記実作業画像における作業者の手元領域から前記素材撮影リストに登録されていない被写体を検知した場合、当該被写体に関する情報の撮影漏れリストへの登録指示を前記撮影リスト生成部に出力し、
前記撮影リスト生成部は、
前記撮影対象検知部からの指示を受け付けた前記被写体の情報を登録した撮影漏れリストを生成する
ことを特徴とする撮影支援装置。
【請求項8】
請求項3に記載の撮影支援装置であって、
前記撮影対象検知部は、
前記実作業画像から前記素材画像の前記撮影対象物が検知されない場合、当該撮影対象物に関する情報の撮影漏れリストへの登録指示を前記撮影リスト生成部に出力し、
前記撮影リスト生成部は、
前記撮影対象検知部からの指示を受け付けた前記撮影対象物の情報を登録した撮影漏れリストを生成する
ことを特徴とする撮影支援装置。
【請求項9】
請求項7または8に記載の撮影支援装置であって、
前記表示情報生成部は、
前記撮影漏れリストに登録されている前記被写体または前記撮影対象物に関する情報と共に、当該被写体または当該撮影対象物の撮影指示を受け付ける画面情報を生成して表示する
ことを特徴とする撮影支援装置。
【請求項10】
請求項3に記載の撮影支援装置であって、
前記入力受付部は、
前記素材画像における前記撮影対象物を強調するための強調領域の設定指示を受け付け、
前記撮影部は、
前記設定指示を受け付けた範囲に含まれる前記撮影対象物を強調するための前記強調領域を前記素材画像に付加して前記素材撮影リストに登録する
ことを特徴とする撮影支援装置。
【請求項11】
撮影支援装置による撮影支援方法であって、
前記撮影支援装置は、
説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識ステップと、
被写体を撮影する撮影ステップと、
前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成ステップと、
前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成ステップと、
前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付ステップと、を行う
ことを特徴とする撮影支援方法。
【請求項12】
コンピュータを、撮影支援装置として機能させるプログラムであって、
前記コンピュータを
説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識部と、
被写体を撮影する撮影部と、
前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成部と、
前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成部と、
前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付部と、して機能させる
ことを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影支援装置、撮影支援方法およびプログラムに関するものである。
【背景技術】
【0002】
従来から、製造や保守などの作業現場では、マニュアル化していない属人化された作業熟練者の技能をどのようにして伝承するか、という課題がある。これに対する1つの対応策としては、作業熟練者からヒヤリングすることや、作業熟練者の実作業の様子を撮影することにより、作業の手順やコツについてデータを収集し、収集したデータを用いて非熟練者向けの教材やマニュアルを作成する方法などがある。
【0003】
このような方法では、作業の手順やコツなどのノウハウを漏れなくマニュアル化するために、作業熟練者が行う細かな動作や機器の状態も含めて作業現場の状況を現地で詳細に撮影し、記録することになる。
【0004】
なお、特許文献1には、保守作業の現場において動画や音声のデータを収集し、これらを利用して作業報告書を作成する技術が開示されている。具体的には、同文献には、「作業支援システムは、作業の実施中に収集される少なくとも映像を含む情報を利用して作業報告書を作成する。作業支援システムは、作業の実施中に収集される情報から作業の完了を判断し、作業の完了時刻を認識する作業完了認識部と、作業の実施中に収集される映像から、作業の完了時刻を基準にして作業の完了時映像を抽出する映像抽出部と、抽出された作業の完了時映像を用いて、作業の作業項目を認識する作業認識部と、作業完了認識部および作業認識部による認識結果に基づいて、作業の作業履歴を作業報告書に生成する作業履歴生成部と、を備える」と記載されている。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2021-114700号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
非熟練者向けのマニュアルは、現場において作業熟練者の実作業を撮影した後、持ち帰った画像データ(動画データおよび静止画データを含む)や音声データを用いて作成される。そのため、撮影した画像データにピンぼけ、手ブレ、明るさ不足、あるいは撮影すべき被写体が映っていない等の撮影不良が発見されると、再撮影の機会を設ける必要があり、手間とコストが余計にかかってしまう。したがって、撮影中に撮影不良の発生をリアルタイムで撮影者に知らせることができる撮影支援が要望されている。
【0007】
また、撮影すべき被写体は、実作業の目的や内容に応じてその都度異なるのが通常である。そのため、作業現場において作業熟練者から説明を受けた実作業の目的などに応じて撮影すべき被写体を漏れなく抽出し、その撮りこぼし(撮影漏れ)を防止することは、撮影者にとって負担が大きく難しい、という課題もある。したがって、撮影すべき被写体を漏れなく抽出して撮影者に提示する撮影支援が要望されている。
【0008】
なお、特許文献1に記載の技術では、作業の完了を表す発話に基づいて対応する作業の映像を切り出し、当該映像を用いて対象物体に対応する作業項目を推定している。また、同文献の技術では、切り出された映像が推定された作業項目の作業を表す映像として適切かどうかを判定している。しかしながら、同文献の技術は、撮影後に持ち帰った映像を用いた画像処理に関するものであり、撮影すべき被写体の撮りこぼしを防止したり、撮影中に生じた撮影不良を撮影者に知らせる、ということについては考慮されていない。
【0009】
本発明は、上記課題に鑑みてなされたものであり、撮影すべき被写体の撮りこぼしを防止し、撮影不良が生じないように撮影を支援することを目的とする。
【課題を解決するための手段】
【0010】
本願は、上記課題の少なくとも一部を解決する手段を複数含んでいるが、その例を挙げるならば、以下のとおりである。上記の課題を解決する本発明の一態様に係る撮影支援装置は、説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識部と、被写体を撮影する撮影部と、前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成部と、前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成部と、前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付部と、を備える。
【0011】
また、上記の撮影支援装置において、前記撮影部は、前記撮影対象物の前記素材画像を撮影すると、当該素材画像に対応する前記キーワードおよび前記説明時画像に対応付けて前記素材撮影リストに登録し、作業者の作業中の様子を撮影した実作業画像を撮影すると、当該実作業に対応する前記キーワードおよび前記説明時画像に対応付けて前記素材撮影リストに登録しても良い。
【0012】
また、上記の撮影支援装置において、前記素材画像を用いて、前記実作業画像中における前記撮影対象物を検知する撮影対象検知部と、前記撮影対象検知部により前記実作業画像中における前記素材画像の前記撮影対象物に撮影画像の品質不良が検知されると報知情報を出力する報知部と、をさらに備えも良い。
【0013】
また、上記の撮影支援装置において、前記報知部は、前記撮影対象検知部により、前記実作業画像から検知された前記素材画像の前記撮影対象物における焦点距離が合っていないという前記撮影画像の品質不良が検知された場合、報知情報を出力しても良い。
【0014】
また、上記の撮影支援装置において、前記報知部は、前記撮影対象検知部により、前記実作業画像から検知された前記素材画像の前記撮影対象物が撮影範囲から見切れているという前記撮影画像の品質不良が検知された場合、報知情報を出力しても良い。
【0015】
また、上記の撮影支援装置において、前記報知部は、前記撮影対象検知部により、前記実作業画像から検知された前記素材画像の前記撮影対象物の明るさ調整不良という前記撮影画像の品質不良が検知された場合、報知情報を出力しても良い。
【0016】
また、上記の撮影支援装置において、前記撮影対象検知部は、前記実作業画像における作業者の手元領域から前記素材撮影リストに登録されていない被写体を検知した場合、当該被写体に関する情報の撮影漏れリストへの登録指示を前記撮影リスト生成部に出力し、前記撮影リスト生成部は、前記撮影対象検知部からの指示を受け付けた前記被写体の情報を登録した撮影漏れリストを生成しても良い。
【0017】
また、上記の撮影支援装置において、前記撮影対象検知部は、前記実作業画像から前記素材画像の前記撮影対象物が検知されない場合、当該撮影対象物に関する情報の撮影漏れリストへの登録指示を前記撮影リスト生成部に出力し、前記撮影リスト生成部は、前記撮影対象検知部からの指示を受け付けた前記撮影対象物の情報を登録した撮影漏れリストを生成しても良い。
【0018】
また、上記の撮影支援装置において、前記表示情報生成部は、前記撮影漏れリストに登録されている前記被写体または前記撮影対象物に関する情報と共に、当該被写体または当該撮影対象物の撮影指示を受け付ける画面情報を生成して表示しても良い。
【0019】
また、上記の撮影支援装置において、前記入力受付部は、前記素材画像における前記撮影対象物を強調するための強調領域の設定指示を受け付け、前記撮影部は、前記設定指示を受け付けた範囲に含まれる前記撮影対象物を強調するための前記強調領域を前記素材画像に付加して前記素材撮影リストに登録しても良い。
【0020】
また、本発明の他の態様に係る撮影支援方法は、撮影支援装置による撮影支援方法であって、前記撮影支援装置は、説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識ステップと、被写体を撮影する撮影ステップと、前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成ステップと、前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成ステップと、前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付ステップと、を行う。
【0021】
また、本発明の他の態様に係るプログラムは、コンピュータを、撮影支援装置として機能させるプログラムであって、前記コンピュータを説明者の発話音声を音声認識し、撮影対象物を示すキーワードを抽出する音声認識部と、被写体を撮影する撮影部と、前記キーワードと、当該キーワードが示す前記撮影対象物について前記説明者が説明している説明時画像と、を対応付けて登録した素材撮影リストを生成する撮影リスト生成部と、前記キーワードおよび前記説明時画像のサムネイル画像を含む前記素材撮影リストの画面情報を生成する表示情報生成部と、前記素材撮影リストに対する操作に基づき、素材画像を撮影する前記撮影対象物の選択を受け付ける入力受付部と、して機能させる。
【発明の効果】
【0022】
本発明によれば、撮影すべき被写体の撮りこぼしを防止し、撮影不良が生じないように撮影を支援することができる。
【0023】
上記した以外の課題、構成、および効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【0024】
図1】撮影工程の一例を示した図である。
図2】撮影支援装置の概略構成の一例を示した図である。
図3】撮影支援処理の一例を示したフロー図である。
図4】素材撮影リスト生成処理の一例を示したフロー図である。
図5】素材撮影リストの一例を示す図である。
図6】更新された素材撮影リストの一例を示した図である。
図7】素材撮影処理の一例を示したフロー図である。
図8】素材画像の撮影画面の一例を示した図である。
図9】領域選択枠の一例を示した図である。
図10】素材画像が登録された素材撮影リストの一例を示した図である。
図11】実作業撮影処理の一例を示したフロー図である。
図12】撮影不良が報知されている状態の撮影画面の一例を示した図である。
図13】実作業の画像データが登録された素材撮影リストの一例を示した図である。
図14】終了状態撮影処理の一例を示したフロー図である。
図15】撮影漏れリストの一例を示した図である。
図16】撮影支援装置のハードウェア構成の一例を示した図である。
【発明を実施するための形態】
【0025】
以下、本発明の実施形態について図面を用いて説明する。
【0026】
本実施形態に係る撮影支援装置100は、作業熟練者が実際の作業(以下、「実作業」という場合がある)を行う現場において、撮影すべき被写体(以下、「撮影対象物」という場合がある)を撮りこぼすことなく撮影するための支援を行う装置である。また、撮影支援装置100は、撮影中に取得した画像(動画および静止画を含む)の品質不良を原因とする撮影不良(以下では、「撮影画像の品質不良」という場合がある)をリアルタイムに検知して、撮影不良の発生を撮影者に通知することも行う。なお、以下の説明において画像データという場合、動画データまたは静止画データの少なくともいずれか一方を含むものとする。
【0027】
このような撮影支援装置100は、被写体を撮影するためのカメラを備えたスマートフォンやタブレット端末により実現される。なお、スマートフォンやタブレット端末には、スマートフォンなどの端末装置を撮影支援装置100として機能させるためのアプリケーションソフトウェア(以下、「撮影支援アプリ」という場合がある)が予めインストールされており、当該アプリを起動することで、これらの端末装置が撮影支援装置100として機能する。以下では、撮影支援装置100がスマートフォンである場合を例に説明する。
【0028】
撮影対象物は、作業熟練者が行う作業の目的や内容に応じてその都度異なるため、撮影は、作業熟練者による説明を含む以下の撮影工程に沿って進められる。
【0029】
図1は、撮影工程の一例を示した図である。図示するように、撮影工程は、作業項目確認フェーズと、素材撮影フェーズと、実作業フェーズと、終了状態撮影フェーズと、から構成されている。また、作業項目確認フェーズでは、作業熟練者は、作業項目の説明と共に模擬動作を行い、撮影者がその様子に基づいて撮影位置や撮影アングルを確認するリハーサル撮影が行われる。
【0030】
以下、各フェーズの内容について詳細に説明する。
【0031】
作業項目確認フェーズは、作業熟練者が個別の作業項目について具体的に説明を行う工程である。具体的には、作業項目確認フェーズでは、作業項目の内容や使用する工具、機器、部品などについての説明と、実作業の模擬動作と、が作業熟練者により行われる。なお、当該フェーズにおける作業熟練者の動作は模擬動作であるため、例えば作業項目が部品の組付け作業の場合でも、実際に部品が組み付けられることはない。作業熟練者による実際の作業は、実作業フェーズにおいて行われる。
【0032】
また、作業項目確認フェーズでは、撮影者がリハーサル撮影を行う。具体的には、撮影者は、作業熟練者が作業項目の説明および模擬動作を行っている様子を撮影し、作業項目ごとに適切な撮影アングルおよび撮影位置(例えば、作業熟練者の手元が撮影可能なアングルや位置)を確認する。
【0033】
なお、作業項目確認フェーズの間、撮影者は、撮影支援装置100を用いて作業熟練者の説明している様子や模擬動作の様子を撮影し続ける。これにより、撮影支援装置100には、作業熟練者の説明している発話内容が音声データとして記憶され、使用される工具や機器などが模擬動作の様子が画像データとして記憶される。
【0034】
また、撮影支援装置100は、作業項目確認フェーズの撮影で取得した画像データおよび音声データを用いて、撮影対象物をリスト化した素材撮影リストを生成する。
【0035】
素材撮影フェーズは、撮影対象物を個別に撮影する工程である。撮影者は、素材撮影リストに基づき、作業熟練者による実作業前の状態における個々の撮影対象物を撮影する。具体的には、素材撮影フェーズでは、撮影者は、撮影支援装置100に表示された素材撮影リストを確認しながら個々の撮影対象物の画像を撮影する。これにより、撮影支援装置100には、撮影対象物を個別に撮影した画像データが記憶される。なお、素材撮影で取得された画像データは、実作業における撮影対象物の撮影漏れの検知に用いられる。
【0036】
実作業フェーズは、作業熟練者が実際に作業を行う工程である。撮影者は、作業熟練者による実作業の様子をリハーサル撮影で確認した撮影アングルや撮影位置から撮影する。これにより、撮影支援装置100には、作業熟練者の作業動作を撮影した画像データが記憶される。
【0037】
なお、実作業フェーズにおける撮影中に、ピンぼけ、手ブレおよび明るさ不足といった撮影画像の品質不良を原因とする撮影不良(以下では、「画像品質の撮影不良」という場合がある)が発生した場合、それらの撮影不良が発生したことが撮影支援装置100により撮影者に報知される。
【0038】
終了状態撮影フェーズは、実作業が終了した後の機器の状態等を撮影する工程である。また、終了状態撮影フェーズでは、撮影対象物が実作業の様子を撮影した画像に映り込んでいない場合や、素材撮影リストに登録されていない工具や機器等が検知された場合、実作業の再撮影を行うか否か、あるいは映り込んだ被写体についての素材画像を撮影するか否か、を撮影者に確認して再撮影等の指示を受け付ける画面情報が表示される。
【0039】
このような終了状態撮影フェーズにおける撮影者への確認により、撮影すべき被写体の撮りこぼしがより確実に防止されることになる。また、終了状態撮影フェーズの撮影により、撮影支援装置100には、実作業終了時における機器等の状態が画像データ(または画像データ)として記憶される。
【0040】
以上の撮影工程を経ることで、撮影者は、作業熟練者から作業の目的や作業内容などのノウハウについてヒヤリングすることができ、その音声データを撮影支援装置100に記憶することができる。
【0041】
また、撮影者は、作業熟練者からヒヤリングした内容や模擬動作の画像データを用いて生成された素材撮影リストを取得することができる。この素材撮影リストには、撮影対象物がほぼ漏れなくリストアップされていることから、撮影者は、素材撮影リストを用いて撮影を行うことで、作業現場における撮影対象物の撮りこぼしを防止することができる。
【0042】
また、撮影画像の品質不良が検知されると、撮影者にはリアルタイムで撮影不良の発生が報知される。これにより、撮影者は、例えば作業熟練者に作業を一旦止めてもらい、撮影画像の品質不良が生じたシーンを再度撮影し直すことができる。
【0043】
以下では、このような撮影に用いられる本実施形態に係る撮影支援装置100の詳細について説明する。
【0044】
図2は、撮影支援装置100の概略構成の一例を示した図である。図示するように、撮影支援装置100は、処理部110と、記憶部120と、通信部130と、を有している。
【0045】
処理部110は、撮影支援装置100で実行される様々な処理を行う機能部である。具体的には、処理部110は、入力受付部111と、音声認識部112と、撮影工程特定部113と、撮影リスト生成部114と、撮影部115と、表示情報生成部116と、撮影対象検知部117と、報知部118と、を有している。
【0046】
入力受付部111は、撮影支援装置100が有する入力装置710(例えば、タッチパネル)を介してユーザの指示や情報の入力を受け付ける機能部である。
【0047】
音声認識部112は、音声データを用いて音声認識処理を行う機能部である。具体的には、音声認識部112は、作業熟練者および撮影者が発話した際の音声データを用いて音声認識処理を行う。また、音声認識部112は、音声認識により、作業熟練者および撮影者の発話内容を示す文字列(センテンス)や、工具、機器および部品等の名称を示す名詞をキーワードとして抽出する。
【0048】
撮影工程特定部113は、撮影工程を特定する機能部である。具体的には、撮影工程特定部113は、音声認識により抽出された撮影者の発話内容を示すセンテンスと、撮影工程を特定する情報(撮影工程情報として後述する)と、に基づいて各時点における撮影工程のフェーズを特定する。また、撮影工程特定部113は、特定したフェーズを他の機能部に通知する。
【0049】
撮影リスト生成部114は、素材撮影リストを生成する機能部である。具体的には、撮影リスト生成部114は、作業項目確認フェーズにおける音声データから抽出された撮影対象物を示すキーワード(例えば、工具や機器などの名称)と、当該作業項目確認フェーズで撮影された画像データと、を対応付けた素材撮影リストを生成する。
【0050】
また、撮影リスト生成部114は、素材撮影が行われると、その画像データを素材撮影リストに登録し、当該素材撮影リストを更新する。また、撮影リスト生成部114は、実作業の様子が撮影されると、その画像データを素材撮影リストに登録し、当該素材撮影リストを更新する。
【0051】
また、撮影リスト生成部114は、撮影漏れリストを生成する。具体的には、撮影リスト生成部114は、素材撮影リストに含まれる撮影対象物が実作業を撮影した画像データから検知されない場合、撮影対象検知部117からの指示に基づき、検知できない撮影対象物の画像データを登録した撮影漏れリストを生成する。
【0052】
また、撮影リスト生成部114は、実作業を撮影した画像データから素材撮影リストに登録されていない被写体が検知された場合、撮影対象検知部117からの指示に基づき、検知された被写体が映る画像データを撮影漏れリストに登録する。
【0053】
撮影部115は、撮影支援装置100に搭載されているカメラおよびマイクロフォンを制御して被写体を撮影する機能部である。具体的には、撮影部115は、入力受付部111を介して撮影者から受け付けた指示に基づき撮影を実行する。また、撮影部115は、撮影により取得された画像データおよび音声データを記憶部120に格納する。
【0054】
表示情報生成部116は、撮影支援装置100が有する出力装置(例えば、ディスプレイ)に表示するための画面情報を生成する機能部である。具体的には、表示情報生成部116は、撮影工程の各フェーズに応じた画面情報を生成し、これをディスプレイに表示する。
【0055】
撮影対象検知部117は、撮影された画像データに映っている撮影対象物を検知する機能部である。具体的には、撮影対象検知部117は、実作業の画像データから素材撮影フェーズで撮影された撮影対象物を検知する。
【0056】
ここで、撮影対象検知部117のより詳細な処理について説明する。撮影対象検知部117は、実作業を撮影している画像データをリアルタイムに取得して、当該画像データから素材撮影フェーズで撮影された撮影対象物の検知を試行する。具体的には、撮影対象検知部117は、素材撮影フェーズで取得した撮影対象物の画像データ(以下、「素材画像」という場合がある)から複数の特徴点を抽出し、これらの特徴点と実作業の画像データに映り込んでいる被写体の特徴点とを比較する画像認識処理(例えば、パターンマッチング/特徴点マッチング)を行う。このような画像認識処理により、撮影対象検知部117は、実作業の画像データ内に映り込んだ撮影対象物を検知する。なお、パターンマッチングなどの画像認識処理には周知技術が用いられれば良い。
【0057】
なお、撮影対象検知部117は、パターンマッチングの際、例えばディープラーニング(深層学習)により生成された学習モデルを用いて人(例えば、作業熟練者)の手元領域を特定し、特定した手元領域にある被写体の特徴点と撮影対象物の特徴点と比較するようにしても良い。このような手元領域の画像認識処理を行うことで、撮影対象検知部117は、撮影対象物とは関係のない背景などを検知対象から除外することができる。また、背景などを検知対象から除外して撮影対象物の検知精度を向上させるために、例えば背景差分や動体検知などの画像認識処理と、前述の手元領域の画像認識処理と、が組み合わせられても良い。なお、このような画像認識処理についても周知技術が用いられれば良い。
【0058】
また、撮影対象検知部117は、素材撮影リストに含まれる撮影対象物が実作業を撮影した画像データから検知できない場合、検知できない撮影対象物の素材画像を撮影漏れリストに登録する指示を撮影リスト生成部114に出力する。
【0059】
また、撮影対象検知部117は、実作業の画像データにおいて、作業熟練者の手元領域に含まれる被写体の特徴点を抽出し、素材画像における撮影対象物の特徴点と比較する。これにより、撮影対象検知部117は、撮影対象物ではない被写体が実作業の画像データに映り込んでいることを検知する。なお、この場合、撮影対象検知部117は、当該被写体の画像データを撮影漏れリストに登録する指示を撮影リスト生成部114に出力する。
【0060】
また、撮影対象検知部117は、ピンぼけ、手ブレ、撮影対象物の見切れ、明るさ不足といった撮影画像の品質不良を検知する。具体的には、撮影対象検知部117は、実作業の画像データをリアルタイムに取得して、カメラから作業熟練者の手元領域に含まれる撮影対象物までの焦点距離が合っていない場合、ピンぼけまたは手ブレの発生を検知する。
【0061】
また、撮影対象検知部117は、実作業の画像データをリアルタイムに取得して、作業熟練者の手元領域に含まれる撮影対象物の一部が撮影領域(撮影フレーム)の外側に位置している場合、撮影対象物の見切れを検知する。
【0062】
また、撮影対象検知部117は、実作業の画像データをリアルタイムに取得して、作業熟練者の手元領域に含まれる撮影対象物の明度が所定の閾値未満となった場合、明るさ不足を検知する。
【0063】
また、撮影対象検知部117は、このような撮影画像の品質不良を検知した場合、撮影不良の種類(本例では、ピンぼけ、手ブレ、撮影対象物の見切れ、明るさ不足)と共に、撮影不良が発生していることを報知部118に通知する。
【0064】
報知部118は、撮影画像の品質不良が発生した場合に報知を行う機能部である。具体的には、報知部118は、ピンぼけ等の撮影画像の品質不良が発生していることを示す通知を撮影対象検知部117から取得すると、所定の手段による報知を行う。
【0065】
具体的には、報知部118は、表示情報生成部116を介して撮影不良が発生していることを撮影者に通知するための画面情報を生成し、ディスプレイに表示する。あるいは、報知部118は、予め記憶部120に記憶されているアラート音や撮影不良が発生していることを撮影者に報知するための音声ガイダンスを撮影支援装置100が有する出力装置(この場合、例えばスピーカ)から出力する。
【0066】
次に、記憶部120について説明する。記憶部120は、撮影支援装置100の各処理に用いられる様々な情報を記憶する機能部である。具体的には、記憶部120は、撮影支援アプリ121と、用語辞書122と、撮影工程情報123と、が記憶されている。また、記憶部120には、撮影によって取得された画像データおよび音声データが記憶される。また、記憶部120には、撮影支援装置100が実行した処理により生成された情報(例えば、素材撮影リストなど)が記憶される。
【0067】
撮影支援アプリ121は、スマートフォンやタブレット端末といった端末装置を撮影支援装置100として機能させるアプリケーションソフトウェアである。撮影支援アプリ121が起動されると、前述の処理部110により、撮影支援のための各処理が実行される。
【0068】
用語辞書122は、工具、機器および部品などの名称を示す専門用語が登録された辞書情報である。用語辞書122は、音声認識部112による音声認識処理に用いられる。すなわち、用語辞書122は、音声認識部112が作業熟練者や撮影者の発話内容からセンテンスやキーワードを抽出する際に参照される。
【0069】
撮影工程情報123は、撮影工程を特定する際に用いられる情報である。具体的には、撮影工程情報123には、次の撮影工程に移行する際に撮影者が発話する所定のセンテンスと、それに対応する撮影工程と、が登録されている。なお、撮影工程情報123は、撮影工程特定部113が撮影工程を特定する際に参照される。
【0070】
次に、通信部130について説明する。通信部130は、インターネットやLAN(Local Area Network)など所定の通信回線網(ネットワークN)を介して、外部装置200との間で情報通信を行う機能部である。例えば、通信部130は、撮影支援装置100に記憶された画像データおよび音声データといった各種データを外部装置200に送信したり、外部装置200から情報や指示を取得する。
【0071】
以上、撮影支援装置100の機能構成の一例について説明した。
【0072】
[動作の説明]
次に、撮影支援装置100で行われる撮影支援処理について説明する。
【0073】
図3は、撮影支援処理の一例を示したフロー図である。撮影支援処理は、例えば撮影支援アプリ121が起動され、ディスプレイに表示された画面情報内の撮影開始ボタンがタッチされると開始される。
【0074】
処理が開始されると、撮影部115は、カメラおよびマイクロフォンを制御して、画像データおよび音声データの取得を開始する(ステップS010)。この時、表示情報生成部116は、カメラによる撮影画面をディスプレイに表示する。
【0075】
なお、撮影者は、例えば作業項目について説明する作業熟練者や作業の対象である被写体の撮影を行う。
【0076】
次に、撮影工程特定部113は、現在の撮影工程が作業項目確認フェーズであるか否かを判定する(ステップS020)。具体的には、撮影工程特定部113は、音声認識部112により抽出されたセンテンスと、撮影工程情報123と、に基づき撮影工程を特定する。より具体的には、撮影工程特定部113は、撮影工程のフェーズを特定する所定のセンテンス(例えば、「最初にどのような作業項目を実施しますか?」あるいは「最初の作業項目は何ですか?」など)が音声認識部112により抽出された場合、撮影工程が作業項目確認フェーズに移行したと判定する。
【0077】
そして、撮影工程が作業項目確認フェーズであると判定した場合(ステップS020でYes)、撮影支援装置100は、素材撮影リスト生成処理を実行する(ステップS030)。なお、素材撮影リスト生成処理の詳細については後述する。一方で、撮影工程が作業項目確認フェーズではないと判定した場合(ステップS020でNo)、撮影工程特定部113は、再度、ステップS020の処理を行う。
【0078】
また、素材撮影リスト生成処理の終了後に移行するステップS040では、撮影工程特定部113は、撮影工程が素材撮影フェーズに移行したか否かを判定する。具体的には、撮影工程特定部113は、ステップS020で撮影工程を特定した方法と同様の方法により、撮影工程が素材撮影フェーズに移行したか否かを判定する。より具体的には、撮影工程特定部113は、撮影工程のフェーズを特定する所定のセンテンス(例えば、「続いて、素材撮影を行います」あるいは「次に素材撮影に移ります」など)が音声認識部112により抽出された場合、撮影工程が素材撮影フェーズに移行したと判定する。
【0079】
そして、撮影工程が素材撮影フェーズに移行したと判定した場合(ステップS040でYes)、撮影支援装置100は、素材撮影処理を実行する(ステップS050)。なお、素材撮影処理の詳細については後述する。一方で、撮影工程が素材撮影フェーズに移行していないと判定した場合(ステップS040でNo)、撮影工程特定部113は、再度、ステップS040の処理を行う。
【0080】
次に、素材撮影処理の終了後に移行するステップS060では、撮影工程特定部113は、撮影工程が実作業フェーズに移行したか否かを判定する。具体的には、撮影工程特定部113は、前述と同様の方法により、撮影工程が実作業フェーズに移行したか否かを判定する。より具体的には、撮影工程特定部113は、撮影工程のフェーズを特定する所定のセンテンス(例えば、「次に、実作業をお願いします」あるいは「それでは、実作業を開始してください」など)が音声認識部112により抽出された場合、撮影工程が実作業フェーズに移行したと判定する。
【0081】
そして、撮影工程が実作業フェーズに移行したと判定した場合(ステップS060でYes)、撮影支援装置100は、実作業撮影処理を実行する(ステップS070)。なお、実作業撮影処理の詳細については後述する。一方で、撮影工程が実作業フェーズに移行していないと判定した場合(ステップS060でNo)、撮影工程特定部113は、再度、ステップS060の処理を行う。
【0082】
次に、実作業撮影処理の終了後に移行するステップS080では、撮影工程特定部113は、撮影工程が終了状態撮影フェーズに移行したか否かを判定する。具体的には、撮影工程特定部113は、前述と同様の方法により、撮影工程が終了状態撮影フェーズに移行したか否かを判定する。より具体的には、撮影工程特定部113は、撮影工程のフェーズを特定する所定のセンテンス(例えば、「続いて、終了状態の撮影を行います」あるいは「次に、終了状態を撮影します」など)が音声認識部112により抽出された場合、撮影工程が実作業フェーズに移行したと判定する。
【0083】
そして、撮影工程が終了状態撮影フェーズに移行したと判定した場合(ステップS080でYes)、撮影支援装置100は、終了状態撮影処理を実行する(ステップS090)。なお、終了状態撮影処理の詳細については後述する。一方で、撮影工程が終了状態撮影フェーズに移行していないと判定した場合(ステップS090でNo)、撮影工程特定部113は、再度、ステップS080の処理を行う。
【0084】
また、撮影支援装置100は、終了状態撮影処理が終了すると、本フローの処理を終了する。
【0085】
以上、撮影支援処理について説明した。
【0086】
次に、素材撮影リスト生成処理(ステップS030)の詳細について説明する。
【0087】
図4は、素材撮影リスト生成処理の一例を示したフロー図である。素材撮影リスト生成処理が開始されると、音声認識部112は、作業熟練者の発話した音声データをリアルタイムに取得し、当該音声データを用いて、作業項目の説明内容を示すセンテンスと、工具や機器等の名称を示す名詞(キーワード)と、を抽出する(ステップS031)。
【0088】
具体的には、音声認識部112は、撮影によって取得された音声データと、用語辞書122と、を記憶部120から取得する。また、音声認識部112は、取得した音声データおよび用語辞書122を用いて音声認識処理を行い、作業熟練者による説明内容を示すセンテンス(例えば、「このネジ2本を外します」、「このケーブルを外します」、「このデスクトップカバーを外すためにネジを4箇所外します」など)を抽出する。また、音声認識部112は、抽出したセンテンスの中から更に工具などの名称を示す名詞(例えば、「ネジ」、「ケーブル」、「デスクトップカバー」など)をキーワードとして抽出する。
【0089】
次に、撮影リスト生成部114は、抽出されたセンテンス、キーワードおよび対応する時刻の画像データなどを対応付けた素材撮影リストを生成する(ステップS032)。具体的には、撮影リスト生成部114は、撮影によって取得された画像データ(模擬動作を撮影したリハーサル撮影の画像データ)を用いて、抽出されたキーワードの発話時刻と、その発話時刻の前後(例えば、発話時刻の前後30秒間)の画像データと、を特定する。また、撮影リスト生成部114は、作業項目Noと、シーン名と、抽出されたキーワードの発話時刻と、抽出されたセンテンスおよびキーワードと、キーワードの発話前後の画像データと、を対応付けて素材撮影リストに登録する。なお、作業項目Noは、作業項目確認フェーズにおいて、個々の作業項目の説明順に付与される識別情報である。また、作業項目の説明に対応するシーン名として、例えば「項目説明」が登録される。
【0090】
図5は、素材撮影リスト300の一例を示す図である。図示するように、素材撮影リスト300は、作業項目300aと、シーン名300bと、時刻300cと、説明内容300dと、撮影対象物の名称300eと、説明時画像300fと、素材画像300gと、実作業画像300hと、が対応付けられた複数のレコードを有している。なお、説明内容300dには、作業熟練者が発話した説明内容から抽出されたセンテンスが登録される。また、撮影対象物の名称300eには、かかるセンテンスから抽出されたキーワードが登録される。また、説明時画像300fには、抽出されたキーワードの発話時刻の前後の画像データが登録される。なお、後述の素材撮影処理において、素材撮影リスト300がディスプレイに表示される場合、説明時画像の欄300fには、説明時画像の一場面を切り取ったサムネイル画像が表示される。
【0091】
また、素材画像300gには、撮影対象物の名称により特定される被写体であって、素材撮影フェーズで撮影された撮影対象物の画像データが登録されることになる。また、実作業画像300hには、実作業フェーズで撮影された各作業項目に対応する実作業の画像データが登録されることになる。すなわち、素材画像の欄300gおよび実作業画像の欄300hには、この段階では画像データが登録されていない。
【0092】
図4に戻って説明する。次に、撮影リスト生成部114は、次の作業項目の説明に移行したか否かを判定する(ステップS033)。具体的には、撮影リスト生成部114は、次の項目説明への移行を特定する所定のセンテンス(例えば、「次にどのような作業項目を実施しますか?」あるいは「次の作業項目は何ですか?」など)が音声認識部112により抽出された場合、次の作業項目の説明に移行したと判定する。
【0093】
そして、次の作業項目の説明に移行したと判定した場合(ステップS033でYes)、撮影リスト生成部114は、処理をステップS031に移行し、前述と同様の処理を行う。一方で、次の作業項目の説明に移行していないと判定した場合(ステップS033でNo)、撮影リスト生成部114は、処理をステップS034に移行する。
【0094】
ステップS034では、撮影リスト生成部114は、作業項目確認フェーズが終了したか否かを判定する。具体的には、撮影リスト生成部114は、作業項目確認フェーズの終了を特定する所定のセンテンス(例えば、「以上で作業項目確認を終わります」あるいは「作業項目のご説明をありがとうございました」など)が音声認識部112により抽出された場合、作業項目確認フェーズが終了したと判定する。
【0095】
そして、作業項目確認フェーズが終了したと判定した場合(ステップS034でYes)、撮影リスト生成部114は、本フローの処理を終了し、ステップS040の処理に移行する。一方で、作業項目確認フェーズが終了していないと判定した場合(ステップS034でNo)、撮影リスト生成部114は、処理をステップS031に戻す。
【0096】
なお、素材撮影リスト300は、次の作業項目に移行する度に更新される。
【0097】
図6は、更新された素材撮影リスト300の一例を示した図である。図示するように、更新された素材撮影リスト300には、次の作業項目に対応する情報が登録されている。
【0098】
以上、素材撮影リスト生成処理の一例について説明した。
【0099】
次に、素材撮影処理(ステップS050)の詳細について説明する。
【0100】
図7は、素材撮影処理の一例を示したフロー図である。素材撮影処理が開始されると、表示情報生成部116は、生成された素材撮影リスト300をディスプレイに表示する(ステップS051)。なお、撮影者は、表示された素材撮影リスト300を参照し、素材撮影を行っていない撮影対象物が登録されているレコード、すなわち素材画像が未登録のレコードを選択する。
【0101】
次に、入力受付部111は、撮影対象物の素材画像が未登録のレコードについて、ユーザの選択を受け付けたか否かを判定する(ステップS052)。そして、選択を受け付けたと判定した場合(ステップS052でYes)、入力受付部111は、処理をステップS053に移行する。一方で、選択を受け付けていないと判定した場合(ステップS052でNo)、入力受付部111は、再度、ステップS052の処理を行う。
【0102】
ステップS053では、撮影部115は、表示情報生成部116を介してディスプレイの表示をカメラの撮影画面に切り替え、入力受付部111を介して素材画像の撮影指示を受け付けたか否かを判定する。なお、撮影者は、ディスプレイに表示されたカメラの撮影画面を見ながら選択したレコードに対応する撮影対象物の素材画像を撮影する。
【0103】
図8は、素材画像の撮影画面400の一例を示した図である。図示するように、撮影画面400には、カメラで撮影中の画像が表示されるカメラ画像表示領域410と、選択された素材撮影リスト300の作業項目300aおよびシーン名300bが表示される表示領域420と、キーワード表示領域430と、指示受付領域440と、が表示されている。
【0104】
なお、キーワード表示領域430には、素材撮影リスト300の選択されたレコードに登録されている説明内容300dおよび撮影対象物の名称300eが抽出されて表示される。また、指示受付領域440には、撮影指示を受け付けるボタン441と、撮影した素材画像の確認指示を受け付けるボタン442と、再撮影の指示を受け付けるボタン443と、素材画像の中で撮影対象物を強調する領域(以下、「強調領域」という場合がある)を設定する指示を受け付けるボタン444と、が表示される。
【0105】
なお、撮影指示を受け付けるボタン441がタッチされると、撮影部115により素材画像が撮影され、選択された素材撮影リスト300のレコードにおける素材画像の欄300gに登録される。また、素材画像の確認指示を受け付けるボタン442がタッチされると、表示情報生成部116により素材撮影リスト300が表示され、当該リスト300の素材画像の欄300gに登録されている素材画像がタッチされた場合、タッチされた素材画像が拡大表示される。また、再撮影の指示を受け付けるボタン443がタッチされると、撮影された画像データが撮影部115により破棄され、再度、素材撮影リスト300が表示される。
【0106】
また、撮影対象物の強調領域を設定する指示を受け付けるボタン444がタッチされると、表示情報生成部116によりカメラ画像表示領域上に領域選択枠が表示され、ユーザのタッチ操作に基づき撮影対象物を囲むように強調領域が設定される。
【0107】
図9は、領域選択枠の一例を示した図である。図示するように、領域選択枠(以下、「強調領域」という場合がある)450は、カメラ画像表示領域410に映る撮影対象物を囲むようにユーザにより設定される。なお、設定された領域選択枠450は、撮影部115により撮影された素材画像とセットで素材撮影リスト300の選択されたレコードにおける素材画像の欄300gに登録される。
【0108】
なお、このような各々の指示受付ボタンがタッチされた際の動作(特に、表示される画面情報の切り替えなど)は特に限定されるものではなく、適宜設計されれば良い。
【0109】
図7に戻って説明する。撮影部115は、入力受付部111を介して撮影指示を受け付けたと判定した場合(ステップS053でYes)、撮影対象物の素材画像を撮影し、素材撮影リスト300に登録する(ステップS054)。なお、素材画像が登録されると、表示情報生成部116は、素材撮影リスト300をディスプレイに表示する。このとき、選択されたレコードの素材画像の欄300gには、撮影された撮影対象物の画像データが表示される。
【0110】
図10は、素材画像が登録された素材撮影リスト300の一例を示した図である。図示するように、素材画像が撮影されると、素材撮影リスト300の対応する素材画像の欄300gには、撮影された素材画像の画像データが表示される。
【0111】
一方で、撮影指示を受け付けていないと判定した場合(ステップS053でNo)、撮影部115は、再度、ステップS053の処理を行う。
【0112】
次に、撮影部115は、全ての撮影対象物の素材画像が撮影されたか否かを判定する(ステップS055)。具体的には、撮影部115は、素材撮影リスト300の全てのレコードの素材画像の欄300gに画像データが登録されている場合、全ての撮影対象物の素材画像が撮影されたと判定する。
【0113】
そして、全ての撮影対象物の素材画像が撮影されたと判定した場合(ステップS055でYes)、撮影部115は、本フローの処理を終了し、ステップS060の処理に移行する。一方で、全ての撮影対象物の素材画像が撮影されていないと判定した場合(ステップS055でNo)、撮影部115は、処理をステップS051に戻す。
【0114】
なお、表示された素材撮影リスト300における説明時画像の欄300dが撮影者によりタッチされると、表示情報生成部116は、対応する説明時画像の表示画面に切り替えて、当該画像データ(この場合、動画データ)を再生する。これにより、撮影者は、対応するレコードの撮影対象物を画像により確認することができる。なお、表示情報生成部116は、画像の再生が終わると、再び素材撮影リスト300を表示する。
【0115】
以上、素材撮影処理の一例について説明した。
【0116】
次に、実作業撮影処理(ステップS070)の詳細について説明する。
【0117】
図11は、実作業撮影処理の一例を示したフロー図である。実作業撮影処理が開始されると、表示情報生成部116は、ディスプレイの表示をカメラの撮影画面に切り替える。また、撮影部は、ディスプレイに表示された画面情報内の撮影開始ボタンに対し、入力受付部111を介して撮影者のタッチ操作による撮影開始指示を受け付けると、カメラおよびマイクロフォンを制御して、実作業撮影による画像データおよび音声データの取得を開始する(ステップS071)。
【0118】
なお、撮影者は、リハーサル撮影により確認した撮影アングルや撮影位置に基づき、作業熟練者の実作業の様子を撮影する。
【0119】
次に、撮影対象検知部117は、撮影画像の品質不良を検知したか否かを判定する(ステップS072)。具体的には撮影対象検知部117は、実作業の撮影による画像データをリアルタイムで取得し、撮影対象物のピンぼけ、手ブレ、撮影対象物の見切れ、明るさ不足といった撮影画像の品質不良を検知したか否かを判定する。なお、撮影対象検知部117は、カメラから撮影対象物までの焦点距離や撮影フレームと撮影対象物との位置関係および所定の明度閾値に基づき、撮影対象物のピンぼけ、手ブレ、見切れ、明るさ不足といった撮影不良を検知する。
【0120】
そして、これらの撮影不良を検知したと判定した場合(ステップS072でYes)、撮影対象検知部117は、処理をステップS073に移行する。一方で、これらの撮影不良を検知していないと判定した場合(ステップS073でNo)、撮影対象検知部117は、処理をステップS074に移行する。
【0121】
ステップS073では、報知部118は、撮影画像の品質不良が発生したことを撮影者に報知する。具体的には、報知部118は、表示情報生成部116を介して、検知した撮影不良の種類を撮影者に通知する表示情報をディスプレイに表示したり、アラート音や音声ガイダンスをスピーカから出力する。
【0122】
このような撮影不良が報知されると、撮影者は、ディスプレイの表示やアラート音等によって撮影画像の品質不良が発生していることを認識することができる。その場合、撮影者は、例えば撮影画面を操作して撮影を一時停止したり、再撮影などの対応を取ることができる。
【0123】
図12は、撮影不良が報知されている状態の撮影画面500の一例を示した図である。図示するように、撮影画面500には、カメラで撮影中の画像が表示されるカメラ画像表示領域510と、作業項目およびシーンの表示領域520と、キーワード表示領域530と、指示受け付け領域540と、報知領域550と、が表示されている。
【0124】
作業項目およびシーンの表示領域520には、実作業に対応する素材撮影リスト300の作業項目No300aおよびシーン名300bが表示される。例えば、音声認識部112は、実作業の撮影開始後に取得した音声データを取得して音声認識処理を行い、作業熟練者の発話内容からセンテンスおよびキーワードを抽出する。また、表示情報生成部116は、抽出されたセンテンスおよびキーワードが登録されている素材撮影リスト300のレコードから作業項目No300aを特定する。また、表示情報生成部116は、特定した作業項目Noと、シーン名(本例では、「実作業」)と、を作業項目およびシーンの表示領域520に表示する。
【0125】
また、キーワード表示領域530には、音声認識部112により抽出された作業熟練者の発話内容から抽出されたセンテンスおよびキーワードが表示される。なお、当該センテンスおよびキーワードは、素材撮影リスト生成処理で抽出された対応するシーンの説明内容300dおよび撮影対象物の名称300eと略同じであるが、必ずしも完全に一致する必要はない。
【0126】
また、指示受け付け領域540には、撮影開始指示を受け付けるボタン541と、撮影終了指示を受け付けるボタン542と、撮影の一時停止や撮影した画像の確認指示を受け付けるボタン543と、再撮影の指示を受け付けるボタン544と、が表示される。
【0127】
なお、撮影開始指示を受け付けるボタン541がタッチされると、撮影部115により実作業の撮影が開始され、撮影の終了指示を受け付けるボタン542がタッチされると、撮影が終了する。この時、撮影部115は、音声認識部112により抽出されたセンテンスおよびキーワードに対応する説明内容および撮影対象物の名称が登録されている素材撮影リスト300のレコードを特定する。また、撮影部115は、撮影した画像データおよび音声データを、特定したレコードに対応付けて登録する。これにより、素材撮影リスト300の実作業画像の欄300hには、当該実作業を撮影した画像データが対応付けられて登録される。
【0128】
図13は、実作業の画像データが登録された素材撮影リスト300の一例を示した図である。図示するように、実作業の様子が撮影されると、素材撮影リスト300の対応する実作業画像の欄300hには、撮影された実作業の画像データが登録される。
【0129】
図12に戻って説明する。撮影の一時停止や撮影した画像の確認指示を受け付けるボタン543がタッチされると、撮影部115は、カメラおよびマイクロフォンを制御して、画像データおよび音声データの取得を停止する。また、表示情報生成部116は、撮影された実作業の画像データ(この場合、動画データ)を記憶部120から取得して再生表示する。また、再撮影の指示を受け付けるボタン544がタッチされると、撮影された画像データおよび音声データが撮影部115により破棄された上で、表示情報生成部116により撮影画面がディスプレイに表示される。
【0130】
また、報知領域550には、検知された撮影不良の種類を示す情報が表示される。このような表示により、撮影者は撮影不良の発生と、撮影不良の種類と、を認識することができる。なお、撮影不良の種類を示す情報が表示されている間、報知部118により、アラート音や音声ガイダンスがスピーカから出力される。
【0131】
図11に戻って説明する。次に、撮影対象検知部117は、素材撮影リスト300に登録されていない被写体を検知したか否かを判定する(ステップS074)。具体的には、撮影対象検知部117は、実作業の画像データをリアルタイムに取得し、作業熟練者の手元領域に含まれる被写体の特徴点と、素材画像における撮影対象物の特徴点と比較することで、素材撮影リスト300に登録されていない被写体を検知したか否かを判定する。
【0132】
そして、素材撮影リスト300に登録されていない被写体を検知したと判定した場合(ステップS074でYes)、撮影対象検知部117は、当該被写体の画像データを撮影漏れリストに登録する指示を撮影リスト生成部114に出力し(ステップS075)、処理をステップS076に移行する。なお、当該指示にあたり、撮影対象検知部117は、実作業を撮影した画像データから当該被写体が映っている時刻を特定し、当該時刻と共に撮影漏れリストへの登録指示を撮影リスト生成部114に出力する。また、当該指示を受け付けた撮影リスト生成部114は、撮影漏れリストの識別Noと、当該時刻と、当該時刻において被写体が映っている所定長さ(例えば、10秒程度)の画像データと、を対応付けて撮影漏れリストに登録する。
【0133】
一方で、このような被写体を検知していないと判定した場合(ステップS074でNo)、撮影対象検知部117は、処理をステップS076に移行する。
【0134】
ステップS076では、入力受付部111は、撮影終了の指示を受け付けたか否かを判定する。具体的には、入力受付部111は、ディスプレイに表示した画面情報内における撮影終了指示の受け付けボタンがタッチされた場合、撮影終了の指示を受け付けたと判定する。
【0135】
そして、撮影終了指示を受け付けたと判定された場合(ステップS076でYes)、撮影部115は、撮影した実作業の画像データおよび音声データを素材撮影リスト300の対応する作業項目300aおよびシーン名300bのレコードに対応付けて登録し、処理をステップS077に移行する。一方で、撮影終了指示を受け付けていないと判定した場合(ステップS076でNo)、入力受付部111は、処理をステップS072に戻す。
【0136】
ステップS077では、撮影対象検知部117は、実作業の画像データに映っていない撮影対象物があることを検知したか否かを判定する。具体的には、撮影対象検知部117は、実作業の撮影開始から撮影終了までに撮影された画像データを用いて、画像データに映っている被写体の特徴点と、素材画像における撮影対象物の特徴点と比較することで、実作業の画像データに映っていない撮影対象物があることを検知したか否かを判定する。
【0137】
そして、実作業の画像データに映っていない撮影対象物があることを検知していないと判定した場合(ステップS077でNo)、すなわち、全ての撮影対象物が実作業の画像データに映っていることが検知されている場合、撮影対象検知部117は、本フローの処理を終了する。
【0138】
一方で、実作業の画像データに映っていない撮影対象物があることを検知したと判定した場合(ステップS077でYes)、すなわち、実作業の撮影開始から撮影終了までの画像データに一度も映っていない撮影対象物があることを検知した場合、撮影対象検知部117は、当該画像データに映っていない撮影対象物の素材画像(または画像データ)を撮影漏れリストに登録する指示を撮影リスト生成部114に出力する(ステップS078)。なお、当該指示にあたり、撮影対象検知部117は、実作業の画像データから検知されなかった撮影対象物の素材画像を素材撮影リスト300から特定し、特定した素材画像を識別する情報(例えば、所定の素材画像IDなど)と共に撮影漏れリストへの登録指示を出力する。また、当該指示を受け付けた撮影リスト生成部114は、かかる識別情報に基づいて素材撮影リスト300から対応する素材画像を特定し、特定した素材画像と、撮影漏れリストの識別Noと、を対応付けて撮影漏れリストに登録する。
【0139】
また、撮影対象検知部117は、指示の出力後、本フローの処理を終了する。
【0140】
以上、実作業撮影処理について説明した。
【0141】
次に、終了状態撮影処理(ステップS090)の詳細について説明する。
【0142】
図14は、終了状態撮影処理の一例を示したフロー図である。終了状態撮影処理が開始されると、撮影リスト生成部114は、撮影漏れリストに登録されている情報があるか否かを判定する(ステップS091)。
【0143】
そして、撮影漏れリストに登録されている情報があると判定した場合(ステップS091でYes)、撮影リスト生成部114は、処理をステップS092に移行する。一方では、撮影漏れリストに登録されている情報がないと判定した場合(ステップS091でNo)、撮影リスト生成部114は、処理をステップS097に移行する。
【0144】
ステップS092では、撮影リスト生成部114は、表示情報生成部116を介して、撮影漏れリスト等を表示する。具体的には、撮影リスト生成部114は、表示情報生成部116を介して、撮影漏れリストと共に、所定の指示受付ボタンを表示する。
【0145】
図15は、撮影漏れリスト600の一例を示した図である。図示するように、撮影漏れリスト600には、当該リスト600の登録情報を識別するNo600aと、登録されている情報が素材撮影リスト300に無い被写体の場合は実作業の画像データにおいてその被写体が映っている時刻600bと、当該被写体の画像または撮影されていない撮影対象物の素材画像600cと、が対応付けられて登録されている。
【0146】
なお、撮影者が素材撮影リスト300に無い被写体の画像をタッチすると、表示情報生成部116は、タッチされた画像データ(この場合、動画データ)を再生表示する。また、撮影者が実作業の画像データに映っていない撮影対象物の素材画像をタッチすると、表示情報生成部116は、タッチされた素材画像を拡大表示する。これにより、撮影者は、当該被写体を素材画像として追加撮影すべきか否か、あるいは、当該撮影対象物が映るように実作業の様子を再撮影すべきか否かを判断することができる。
【0147】
また、撮影漏れリスト600の各レコードには、追加撮影の指示を受け付けるための指示受付ボタンが対応付けられて表示される。具体的には、素材撮影リスト300に無い被写体の画像データが登録されているレコードの場合、追加撮影欄600dには、当該被写体を素材画像として追加撮影する指示を受け付けるための素材画像の撮影ボタン601と、破棄ボタン602と、が対応付けられて表示される。
【0148】
また、撮影されていない撮影対象物の素材画像が登録されているレコードの場合、追加撮影欄600dには、当該撮影対象物が映るように実作業の様子を再撮影する指示を受け付けるための実作業の再撮影ボタン603と、破棄ボタン602と、が対応付けられて表示される。
【0149】
ここで、撮影者は、撮影漏れリスト600に表示されている被写体の画像データや素材画像を参照したり、作業熟練者に確認することで、当該被写体の素材画像の撮影や当該撮影対象物が映るように実作業の再撮影が必要かどうかを判断する。そして、これらの撮影(再撮影)が必要であると判断した場合、撮影者は、素材画像の撮影ボタン601または実作業の再撮影ボタン603をタッチする。一方で、これらの撮影(再撮影)が必要ないと判断した場合には、撮影者は、破棄ボタン602をタッチする。
【0150】
なお、撮影リスト生成部114は、入力受付部111を介してこれらの指示受付ボタンのいずれかがタッチされたことを検知すると、タッチされた指示ボタンが対応付けられているレコードを撮影漏れリスト600から削除する。
【0151】
図14に戻って説明する。次に、撮影部115は、撮影漏れリストの被写体について、素材画像の撮影指示を受け付けたか否かを判定する(ステップS093)。具体的には、撮影部115は、入力受付部111を介して素材画像の撮影ボタン601がタッチされたことを検知した場合、撮影漏れリスト600の被写体について、素材画像の撮影指示を受け付けたと判定する。
【0152】
そして、当該撮影指示を受け付けたと判定した場合(ステップS093でYes)、撮影部115は、処理をステップS094に移行する。一方で、当該撮影指示を受け付けていないと判定した場合(ステップS093でNo)、すなわち撮影者により破棄ボタン602がタッチされた場合、撮影部115は、処理をステップS098に移行する。なお、この時、撮影リスト生成部114は、撮影漏れリスト600から対応するレコード(タッチされた指示受付ボタンが対応付けられているレコード)を削除する。
【0153】
ステップS094では、撮影部115は、被写体を撮影する。具体的には、撮影部115は、表示情報生成部116を介してディスプレイの表示をカメラの撮影画面に切り替え、入力受付部111を介して撮影者から撮影指示を受け付けると被写体を撮影する。
【0154】
次に、撮影部115は、撮影した被写体の画像データを素材撮影リスト300に登録し(ステップS095)、撮影リスト生成部114は、撮影漏れリスト600から対応するレコード(タッチされた指示受付ボタンが対応付けられているレコード)を削除する。
【0155】
次に、撮影リスト生成部114は、撮影漏れリスト600の登録情報が全て無くなったか否かを判定する(ステップS096)。具体的には、撮影リスト生成部114は、撮影漏れリスト600の全レコードが削除された場合、当該リスト600の登録情報が全て無くなったと判定する。
【0156】
そして、撮影漏れリスト600の登録情報が全て無くなったと判定した場合(ステップS096でYes)、撮影リスト生成部114は、処理をステップS097に移行する。一方で、当該リスト600の登録情報が全て無くなっていないと判定した場合(ステップS096でNo)、撮影リスト生成部114は、処理をステップS092に戻す。
【0157】
次に、撮影部115は、実作業後における機器等の状態(終了状態)を撮影する(ステップS097)。具体的には、撮影部115は、表示情報生成部116を介してディスプレイの表示をカメラの撮影画面に切り替え、入力受付部111を介して撮影者から撮影指示を受け付けると機器等の終了状態を撮影する。この時、撮影者は、実作業終了時における機器や部品等の状態を撮影する。また、撮影部115は、入力受付部111を介して撮影終了指示を受け付けると、撮影された画像データを記憶部120に格納し、本フローの処理を終了する。
【0158】
また、ステップS098では、撮影部115は、撮影されていない撮影対象物の素材画像が撮影漏れリスト600に登録されているか否かを判定する。例えば、撮影部115は、時刻が登録されていないレコードが撮影漏れリスト600に登録されている場合、当該素材画像が撮影漏れリスト600に登録されていると判定する。
【0159】
そして、撮影されていない撮影対象物の素材画像が撮影漏れリスト600に登録されていると判定した場合(ステップS098でYes)、撮影部115は、処理をステップS099に移行する。一方で、当該素材画像が撮影漏れリスト600に登録されていないと判定した場合(ステップS098でNo)、撮影部115は、処理をステップS091に戻す。
【0160】
ステップS099では、撮影部115は、撮影されていない撮影対象物の実作業の再撮影指示を受け付けたか否かを判定する。具体的には、撮影部115は、入力受付部111を介して実作業の再撮影ボタン603がタッチされたことを検知した場合、撮影されていない撮影対象物の実作業の再撮影指示を受け付けたと判定する。
【0161】
そして、当該再撮影の指示を受け付けたと判定した場合(ステップS099でYes)、撮影部115は、処理をステップS100に移行する。一方で、当該再撮影の指示を受け付けていないと判定した場合(ステップS099でNo)、すなわち撮影者により破棄ボタン602がタッチされた場合、撮影部115は、処理をステップS096に移行する。なお、この時、撮影リスト生成部114は、撮影漏れリスト600から対応するレコード(タッチされた指示受付ボタンが対応付けられているレコード)を削除する。
【0162】
ステップS100では、撮影部115は、撮影されていない撮影対象物の実作業を再撮影する。具体的には、撮影部115は、表示情報生成部116を介してディスプレイの表示をカメラの撮影画面に切り替え、入力受付部111を介して撮影者から撮影指示を受け付けると、実作業の様子を撮影する。この時、作業熟練者は、撮影されていない撮影対象物が実作業の撮影画像に映るように実作業を行い、撮影者は、その実作業の様子を撮影する。
【0163】
次に、撮影部115は、再撮影した撮影対象物の画像データを素材撮影リスト300に登録する(ステップS101)。具体的には、撮影部115は、再撮影された撮影対象物の素材画像が登録されている素材撮影リスト300のレコードに再撮影で取得した実作業の画像データを追加登録し、処理をステップS096に移行する。なお、撮影リスト生成部114は、撮影漏れリスト600から対応するレコード(タッチされた指示受付ボタンが対応付けられているレコード)を削除する。
【0164】
以上、終了状態撮影処理と、撮影支援処理と、について説明した。
【0165】
このような撮影支援装置によれば、撮影すべき被写体の撮りこぼしを防止し、撮影不良が生じないように撮影を支援することができる。特に、撮影支援装置は、作業熟練者からヒヤリングした内容や模擬動作の画像データを用いて、撮影すべき被写体である撮影対象物を抽出した素材撮影リストを生成し、撮影者に提示することができる。この素材撮影リストには、撮影対象物がほぼ漏れなくリストアップされていることから、撮影者は、素材撮影リストを用いて撮影を行うことで、作業現場における撮影対象物の撮りこぼしを防止することができる。
【0166】
また、撮影画像の品質不良が検知されると、撮影者にはリアルタイムで撮影不良の発生が報知される。これにより、撮影者は、撮影画像の品質不良が生じたシーンを再度撮影し直すことができる。
【0167】
図16は、撮影支援装置100のハードウェア構成の一例を示した図である。図示するように、撮影支援装置100は、入力装置710と、出力装置720と、処理装置730と、主記憶装置740と、補助記憶装置750と、通信装置760と、カメラ770と、これらの各装置を電気的に接続するバス780と、を有している。
【0168】
入力装置710は、ユーザが撮影支援装置100に情報や指示を入力するための装置である。具体的には、入力装置710は、例えばタッチパネルあるいはマイクロフォンのような音声入力装置である。
【0169】
出力装置720は、撮影支援装置100により生成された画面情報(表示情報)や外部装置200から取得した情報を出力(表示)する装置である。具体的には、出力装置720は、例えばディスプレイやスピーカである。
【0170】
処理装置730は、例えば演算処理を行うCPU(Central Processing Unit)である。主記憶装置740は、読み出した各種情報を一時的に格納するRAM(Random Access Memory)やCPUで実行されるプログラムやアプリおよびその他の様々な情報等を格納するROM(Read Only Memory)などのメモリ装置である。補助記憶装置750は、デジタル情報を記憶可能なHDD(Hard Disk Drive)やSSD(Solid State Drive)あるいはフラッシュメモリなどの不揮発性記憶装置である。
【0171】
通信装置760は、外部装置200との間で無線あるいは有線による情報通信を行う装置である。また、カメラ770は、CCD(Charge Coupled Device)イメージセンサあるいはCMOS(Complementary Metal Oxide Semiconductor)イメージセンサを搭載したカメラである。また、バス780は、これらの装置を相互通信可能に接続する通信線である。
【0172】
以上、撮影支援装置100のハードウェア構成について説明した。
【0173】
なお、撮影支援装置100の処理部110は、処理装置730のCPUに処理を行わせるプログラム(撮影支援アプリを含む)によって実現される。これらのプログラムは、例えば主記憶装置740あるいは補助記憶装置750に格納されており、実行にあたって主記憶装置740上にロードされ、CPUにより実行される。また、記憶部120は、主記憶装置740あるいは補助記憶装置750によって実現されても良く、これらの組み合わせによって実現されても良い。また、通信部130は、通信装置760によって実現される。
【0174】
なお、撮影支援装置100の各機能ブロックは、本実施形態において実現される各機能を理解容易にするために、主な処理内容に応じて分類したものである。したがって、各機能の分類の仕方やその名称によって、本発明が制限されることはない。また、撮影支援装置100の各構成は、処理内容に応じて、さらに多くの構成要素に分類することもできる。また、1つの構成要素がさらに多くの処理を実行するように分類することもできる。
【0175】
また、各機能部の全部または一部は、コンピュータに実装されるハードウェア(ASICといった集積回路など)により構築されてもよい。また、各機能部の処理が1つのハードウェアで実行されてもよいし、複数のハードウェアで実行されてもよい。
【0176】
また、本発明は、上記の実施形態や変形例などに限られるものではなく、これら以外にも様々な実施形態および変形例が含まれる。例えば、上記の実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施形態の構成の一部を他の実施形態や変形例の構成に置き換えることが可能であり、ある実施形態の構成に他の実施形態の構成を加えることも可能である。また、各実施形態の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【符号の説明】
【0177】
100・・・撮影支援装置、110・・・処理部、111・・・入力受付部、112・・・音声認識部、113・・・撮影工程特定部、114・・・撮影リスト生成部、115・・・撮影部、116・・・表示情報生成部、117・・・撮影対象検知部、118・・・報知部、120・・・記憶部、121・・・撮影支援アプリ、122・・・用語辞書、123・・・撮影工程情報、124・・・取得した画像データ、音声データ、130・・・通信部、200・・・外部装置、N・・・ネットワーク、710・・・入力装置、720・・・出力装置、730・・・処理装置、740・・・主記憶装置、750・・・補助記憶装置、760・・・通信装置、770・・・カメラ、780・・・バス
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16