IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社リコーの特許一覧

特開2023-136352情報処理装置、3次元計測装置、および情報処理システム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023136352
(43)【公開日】2023-09-29
(54)【発明の名称】情報処理装置、3次元計測装置、および情報処理システム
(51)【国際特許分類】
   H04N 23/60 20230101AFI20230922BHJP
   H04N 23/698 20230101ALI20230922BHJP
   G01B 11/25 20060101ALI20230922BHJP
   G03B 7/00 20210101ALI20230922BHJP
   G03B 35/08 20210101ALI20230922BHJP
   G03B 15/00 20210101ALI20230922BHJP
   G03B 37/00 20210101ALI20230922BHJP
【FI】
H04N5/232 290
H04N5/232 380
G01B11/25 H
G03B7/00
G03B35/08
G03B15/00 W
G03B37/00 A
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022041931
(22)【出願日】2022-03-16
(71)【出願人】
【識別番号】000006747
【氏名又は名称】株式会社リコー
(74)【代理人】
【識別番号】100089118
【弁理士】
【氏名又は名称】酒井 宏明
(72)【発明者】
【氏名】植田 正裕
(72)【発明者】
【氏名】齊所 賢一郎
【テーマコード(参考)】
2F065
2H002
2H059
5C122
【Fターム(参考)】
2F065AA04
2F065AA06
2F065AA53
2F065BB05
2F065CC14
2F065DD02
2F065FF05
2F065FF11
2F065FF67
2F065GG04
2F065HH04
2F065JJ01
2F065JJ03
2F065JJ05
2F065MM06
2F065MM16
2F065QQ03
2F065QQ17
2F065QQ21
2F065QQ24
2F065QQ28
2F065QQ31
2F065UU05
2H002GA35
2H002GA66
2H059AA07
2H059AA18
2H059BA02
5C122EA42
5C122EA61
5C122FA02
5C122FB06
5C122FH09
5C122GA34
5C122HA76
5C122HA88
5C122HB01
(57)【要約】
【課題】3次元情報に含まれる削除対象領域を適切に削除する。
【解決手段】情報処理装置20は、3次元情報取得部28Aと、姿勢情報取得部28Bと、決定部28Dと、削除部28Eと、を備える。3次元情報取得部28Aは、撮影部14による撮影領域の撮影によって得られた3次元情報を取得する。姿勢情報取得部28Bは、3次元情報の撮影時の撮影部14の姿勢情報を取得する。決定部28Dは、姿勢情報に基づいて、3次元情報に含まれる削除対象領域を決定する。削除部28Eは、3次元情報に含まれる削除対象領域を削除する。
【選択図】図2
【特許請求の範囲】
【請求項1】
撮影部による撮影領域の撮影によって得られた3次元情報を取得する3次元情報取得部と、
前記3次元情報の撮影時の前記撮影部の姿勢情報を取得する姿勢情報取得部と、
前記姿勢情報に基づいて、前記3次元情報に含まれる削除対象領域を決定する決定部と、
前記3次元情報に含まれる前記削除対象領域を削除する削除部と、
を備える情報処理装置。
【請求項2】
前記決定部は、
前記撮影領域に含まれる基準削除領域と前記撮影部の基準姿勢情報とを対応付けた基準設定情報と、前記姿勢情報と、に基づいて、前記3次元情報に含まれる前記削除対象領域を決定する、
請求項1に記載の情報処理装置。
【請求項3】
前記決定部は、
前記基準姿勢情報と前記姿勢情報との差に応じて前記基準削除領域を補正した前記削除対象領域を決定する、
請求項2に記載の情報処理装置。
【請求項4】
ユーザによる操作指示を受付ける受付部を備え、
前記決定部は、
前記姿勢情報と、前記受付部で受付けた前記基準削除領域を含む前記基準設定情報と、に基づいて、前記3次元情報に含まれる前記削除対象領域を決定する、
請求項2または請求項3に記載の情報処理装置。
【請求項5】
前記3次元情報の撮影者と前記撮影部との位置関係に基づいて前記基準設定情報を設定する設定部を備え、
前記決定部は、
設定された前記基準設定情報と、前記姿勢情報と、に基づいて、前記3次元情報に含まれる前記削除対象領域を決定する、
請求項2~請求項4の何れか1項に記載の情報処理装置。
【請求項6】
前記撮影部から前記撮影領域の撮影画像を取得する撮影画像取得部を備え、
前記設定部は、
前記3次元情報および前記撮影画像の少なくとも一方を用いて特定された前記位置関係に基づいて、前記基準設定情報を設定する、
請求項5に記載の情報処理装置。
【請求項7】
前記3次元情報に関わる情報を含む画像を表示部に表示する表示制御部、
を備える請求項1~請求項6の何れか1項に記載の情報処理装置。
【請求項8】
前記表示制御部は、
前記3次元情報によって表される前記撮影領域の撮影画像と、
決定された前記削除対象領域に関わる情報と、
前記削除対象領域を削除された前記3次元情報に関わる情報と、
の少なくとも1つを含む前記画像を表示する、
請求項7に記載の情報処理装置。
【請求項9】
前記削除対象領域を削除された前記3次元情報に関わる情報を記憶部に記憶する記憶制御部、
を備える請求項1~請求項8の何れか1項に記載の情報処理装置。
【請求項10】
請求項1~請求項9の何れか1項に記載の情報処理装置と、
前記撮影部と、
前記撮影部の姿勢を検知する姿勢検知部と、
を備える3次元計測装置。
【請求項11】
請求項1~請求項9の何れか1項に記載の情報処理装置と、
前記撮影部、前記撮影部による撮影によって得られた前記3次元情報を前記情報処理装置へ出力する3次元情報出力部、前記撮影部の姿勢を検知する姿勢検知部、および前記姿勢検知部によって検知された前記姿勢を表す前記姿勢情報を前記情報処理装置へ出力する姿勢情報出力部、を有する撮影装置と、
を備える情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、3次元計測装置、および情報処理システムに関する。
【背景技術】
【0002】
近年、レーザースキャナやLiDAR等により実空間である3次元空間の3次元情報を取得することが行われている。このような3次元情報は、建設、設備保守、および不動産等の業界において、設備の寸法の計測や改修計画の立案等に利用されている。3次元情報の取得には、例えば、1回のシャッター操作で上下左右全方位の360°の撮影領域を撮影する撮影装置等が用いられている。しかし、従来技術では、360°等の広範囲を一度に撮影できるため、取得した三次元情報に撮影者等の不要物が写り込む場合があった。
【0003】
そこで、写り込んだ不要物が除去された3次元情報を得るために、三脚に固定された撮影装置を用いた複数回の撮影によって撮影範囲の異なる複数の撮影画像を取得し、特定の被写体が含まれないように複数の撮影画像を合成することで、360°の撮影範囲の合成画像を生成する技術が開示されている。
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来技術では、1つの3次元情報得るために、三脚に固定された撮影装置を用いて複数回の撮影を行う必要があり、撮影環境によっては、3次元情報に含まれる不要物を含む削除対象領域を適切に削除することが困難となる場合があった。
【0005】
本発明は、上記に鑑みてなされたものであって、3次元情報に含まれる削除対象領域を適切に削除することができる、情報処理装置、3次元計測装置、および情報処理システムを提供することを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決し、目的を達成するために、情報処理装置は、撮影部による撮影領域の撮影によって得られた3次元情報を取得する3次元情報取得部と、前記3次元情報の撮影時の前記撮影部の姿勢情報を取得する姿勢情報取得部と、前記姿勢情報に基づいて、前記3次元情報に含まれる削除対象領域を決定する決定部と、前記3次元情報に含まれる前記削除対象領域を削除する削除部と、を備える。
【発明の効果】
【0007】
本発明によれば、3次元情報に含まれる削除対象領域を適切に削除することができる、という効果を奏する。
【図面の簡単な説明】
【0008】
図1図1は、情報処理システムの一例の模式図である。
図2図2は、情報処理システムの機能的構成を表すブロック図である。
図3A図3Aは、撮影装置の使用状況の一例の説明図である。
図3B図3Bは、図3Aに示す使用状況で撮影された3次元情報の一例を示す模式図である。
図4A図4Aは、撮影装置の使用状況の一例の説明図である。
図4B図4Bは、図4Aに示す使用状況で撮影された3次元情報の一例を示す模式図である。
図5A図5Aは、削除対象領域の決定の一例の説明図である。
図5B図5Bは、削除対象領域の決定の一例の説明図である。
図6A図6Aは、削除対象領域の決定の一例の説明図である。
図6B図6Bは、削除対象領域の決定の一例の説明図である。
図7図7は、情報処理の流れの一例を示すフローチャートである。
図8図8は、情報処理システムの機能的構成を表すブロック図である。
図9図9は、情報処理の流れの一例を示すフローチャートである。
図10図10は、情報処理システムの機能的構成を表すブロック図。
図11図11は、情報処理の流れの一例を示すフローチャートである。
図12図12は、ハードウェア構成図である。
【発明を実施するための形態】
【0009】
以下に添付図面を参照して、情報処理装置、3次元計測装置、および情報処理システムの実施形態を詳細に説明する。
【0010】
(第1の実施形態)
図1は、本実施形態に係る情報処理システム1の一例の模式図である。
【0011】
情報処理システム1は、撮影装置10と、情報処理装置20と、を備える。撮影装置10と情報処理装置20とは通信可能に接続されている。
【0012】
撮影装置10は、3次元空間である撮影領域Sの3次元情報を得るための装置である。撮影装置10は、撮影によって3次元情報を得る。撮影とは、撮影装置10が撮影領域Sの3次元情報を得ることを意味する。撮影装置10は、ユーザによって操作されることで撮影を行い、3次元情報を得る。撮影装置10を操作するユーザを、撮影者と称して説明する。
【0013】
撮影装置10は、例えば、ToF(Time-of-Flight)方式のカメラ、ステレオカメラ、などである。ToF方式は、赤外線を計測対象物に照射し、その反射光が戻ってくるまでの時間から距離を求める方式である。ステレオカメラは、2台のカメラの間隔と、2台のカメラの各々で得られた画像の視差情報と、を用いて、奥行情報を距離情報として得るカメラである。
【0014】
撮影装置10は、3次元情報を得る装置であればよく、LiDAR(Light Detection and Ranging)、フォトグラメトリを利用したシステム、等であってもよい。また、撮影装置10は、レーザースキャナやLiDAR等を搭載したスマートフォンであってもよい。
【0015】
3次元情報は、撮影領域Sである3次元空間を表す情報である。3次元情報のファイル形式は限定されない。3次元情報は、例えば、撮影領域Sに含まれる3次元オブジェクトの3次元形状を表す形状データ等によって表される。3次元情報は、例えば、3次元空間を離散的な点で表現した点群形式のファイル、3次元空間を頂点と面により表現したポリゴンメッシュ形式のファイル等である。点群形式のファイルは、デプスマップ、距離画像、等と称される場合がある。
【0016】
点群形式のファイルには、例えば、「.xyz」、「.e57」、「.ply」などの拡張子で表されるファイル等が挙げられる。ポリゴンメッシュ形式のファイルには、例えば、「.obj」、「.fbx」、「.stl」などの拡張子で表されるファイル等が挙げられる。
【0017】
図1には、ToF方式のカメラを搭載した撮影装置10を一例として示す。撮影装置10は、撮影部14と、姿勢検知部15と、操作部16と、制御部17と、表示部18と、1を備える。
【0018】
撮影部14は、撮影によって3次元情報等を得る機構である。例えば、撮影部14は、画像撮影部11と、距離情報取得部13と、投射部12と、を有する。画像撮影部11、距離情報取得部13、および投射部12は、同期して動作する。
【0019】
画像撮影部11は、撮影によって360°の撮影領域Sの撮影画像データを得る機構である。撮影画像データを、以下では、撮影画像と称して説明する。例えば、画像撮影部11は、魚眼レンズ11Bと、魚眼レンズ11bと、魚眼レンズ11Bで集光した光を受光する撮像素子11Aと、魚眼レンズ11bで集光した光を受光する撮像素子11aと、を有する。なお、画像撮影部11で得られる撮影画像は、モノクロの撮影画像、RGBのカラーの撮影画像、の何れであってもよい。本実施形態では、撮影画像が、RGBのカラーの撮影画像である場合を一例として説明する。
【0020】
投射部12および距離情報取得部13は、撮影領域Sの3次元情報を得る機構である。例えば、投射部12は、距離の計測に用いるレーザ光を出射する光源部12Aおよび光源部12aと、光源部12Aおよび光源部12aの各々から出射されたレーザ光を撮影領域Sへ向かって出射するための広角レンズ12Bおよび広角レンズ12bと、を備える。
【0021】
距離情報取得部13は、広角レンズ13Bおよび広角レンズ13bと、距離センサ13Aおよび距離センサ13aと、を有する。距離センサ13Aおよび距離センサ13aは、例えば、ToFセンサである。距離センサ13Aは、投射部12から出射したレーザ光の反射光を、広角レンズ13Bを介して受光する。距離センサ13aは、投射部12から出射したレーザ光の反射光を、広角レンズ13bを介して受光する。
【0022】
操作部16は、撮影者による操作指示を受付けるためのスイッチである。例えば、操作部16は、撮影者による撮影指示信号の入力に用いられる。制御部17は、撮影装置10を制御する。撮影者によって操作部16が操作され撮影指示信号が入力されると、制御部17は、画像撮影部11、距離情報取得部13、および投射部12を同期駆動させ撮影を実行するように制御する。このため、1回の撮影指示信号の入力によって、一回の撮影が実行され、撮影領域Sの撮影画像および3次元情報が得られる。表示部18は、各種の情報を表示するディスプレイである。
【0023】
撮影装置10は、撮影者によって携帯可能に構成されている。このため、撮影者が撮影装置10を手等によって把持して操作部16を1回操作することで、撮影装置10は、撮影によって撮影画像および3次元情報を取得する。
【0024】
姿勢検知部15は、撮影部14の姿勢の姿勢情報を検知するセンサである。姿勢検知部15は、基準となる互いに直交する方向であるx軸、y軸、およびz軸の各々に対する回転角度の少なくとも一つを、姿勢情報として検知する。y軸方向は、例えば、鉛直方向に沿った方向である。x軸方向およびz軸方向は、例えば、鉛直方向に対して直交する水平面に沿った互いに直交する方向である。すなわち、姿勢情報は、水平面を形成するx軸およびz軸方向、並びに鉛直方向であるy軸方向の各々に対する、撮影部14の回転角度によって表される。
【0025】
なお、姿勢情報は、x軸方向、y軸方向、z軸方向の全ての軸に対する回転角度の情報を含む必要はない。例えば、x軸方向を回転軸とする回転角度、z軸方向を回転軸とするの回転角度の情報であっても良い。また、回転角は撮影装置10の基準姿勢(例えば水平な面に撮影装置を置いた状態)からの、x軸方向およびz軸方向を回転角とする相対的な回転角であっても良い。この場合、姿勢情報はy軸方向を回転軸とする回転角の情報を含まないが、撮影者は撮影装置10を保持して撮像する場合に、y軸方向(鉛直方向)を回転軸とする回転角を固定しやすい。一方、撮影者は、x軸方向およびz軸方向を回転軸とする回転角を安定させることが難しく、x軸方向およびz軸方向を回転軸とする回転角が安定しなくなる。従って、姿勢情報は、x軸方向およびz軸方向を回転軸とする回転角に関わる情報を含んでいればよい。
【0026】
また、姿勢情報の他の例としては、姿勢情報が広角レンズ13Bまたは13bの光軸方向と、鉛直方向の相対的な回転角であっても良い。
【0027】
姿勢検知部15としては、例えば、IMU(Inertial Measurement Unit)などの加速度センサ、GPS(Global Positioning System)、ジャイロセンサ、地磁気センサ等を用いればよい。
【0028】
ここで、姿勢検知部15としてIMUを用いた場合、姿勢検知部15は鉛直方向(重力方向)に対する撮影装置の姿勢を検知することができるので、前述のx軸方向およびz軸方向を回転軸とする回転角に対応する姿勢情報を得ることができる。なお、姿勢検知部15が、IMUに加えてジャイロセンサ、GPS、地磁気センサ等を含む場合、姿勢検知部はy軸方向を回転軸とする回転角を検知することができるので、より正確な姿勢情報を得ることができる。
【0029】
なお、撮影部14は撮影装置10に搭載されている。このため、以下では、撮影部14の姿勢情報を、撮影装置10の姿勢情報と称して説明する場合がある。すなわち、撮影部14の姿勢情報と撮影装置10の姿勢情報とは、同じ意味である。
【0030】
撮影装置10の制御部17は、撮影によって得られた3次元情報、撮影画像、および3次元情報の撮影時の撮影部14の姿勢情報を、情報処理装置20へ送信する。
【0031】
情報処理装置20は、撮影部14によって得られた3次元情報に含まれる削除対象領域を削除する処理等を行う情報処理装置である。削除対象領域の詳細は後述する。情報処理装置20は、例えば、スマートフォン、タブレット端末、パーソナルコンピュータ、等である。
【0032】
図2は、本実施形態の情報処理システム1の機能的構成を表すブロック図である。
【0033】
撮影装置10は、撮影部14と、姿勢検知部15と、操作部16と、表示部18と、通信部19と、制御部17と、を有する。撮影部14、姿勢検知部15、操作部16、表示部18、および通信部19と、制御部17とは、バス等を介して通信可能に接続されている。通信部19は、情報処理装置20とネットワークNWなどを介して通信する。
【0034】
制御部17は、3次元情報出力部17Aと、撮影画像出力部17Bと、姿勢情報出力部17Cと、出力制御部17Dと、を有する。3次元情報出力部17A、撮影画像出力部17B、姿勢情報出力部17C、および出力制御部17Dは、例えば、1または複数のプロセッサにより実現される。例えば上記各部は、CPU(Central Processing Unit)などのプロセッサにプログラムを実行させること、すなわちソフトウェアにより実現してもよい。上記各部は、専用のIC(Integrated Circuit)などのプロセッサ、すなわちハードウェアにより実現してもよい。上記各部は、ソフトウェアおよびハードウェアを併用して実現してもよい。複数のプロセッサを用いる場合、各プロセッサは、各部のうち1つを実現してもよいし、各部のうち2以上を実現してもよい。
【0035】
3次元情報出力部17Aは、撮影部14による撮影領域Sの撮影によって得られた3次元情報を情報処理装置20へ出力する。撮影画像出力部17Bは、撮影部14による撮影領域Sの撮影によって得られた撮影画像を情報処理装置20へ出力する。姿勢情報出力部17Cは、姿勢検知部15によって検知された撮影部14の姿勢情報を情報処理装置20へ出力する。詳細には、3次元情報出力部17A、撮影画像出力部17B、および姿勢情報出力部17Cは、1回の撮影ごとに、撮影によって得られた3次元情報および撮影画像と、該撮影時の撮影部14の姿勢情報と、撮影タイミングを表す撮影時刻情報と、を含む撮影情報を情報処理装置20へ出力する。すなわち、制御部17は、1回撮影が行われるごとに、通信部19を介して情報処理装置20へ撮影情報を送信する。
【0036】
情報処理装置20は、通信部22と、UI(ユーザ・インタフェース)部24と、記憶部26と、制御部28と、を備える。通信部22と、UI部24、および記憶部26と、制御部28とは通信可能に接続されている。
【0037】
通信部22は、ネットワークNWなどを介して外部の情報処理装置と通信する。本実施形態では、通信部22は、撮影装置10と通信する。UI部24は、表示部24Aと、操作部24Bと、を含む。表示部24Aは、各種の情報を表示するディスプレイである。操作部24Bは、ユーザによる操作指示を受付ける。操作部24Bは、例えば、キーボード、ポインティングデバイス、マウス、などである。表示部24Aおよび操作部24Bは、一体的に構成されたタッチパネルであってもよい。記憶部26は、各種の情報を記憶する。
【0038】
制御部28は、3次元情報取得部28Aと、姿勢情報取得部28Bと、撮影画像取得部28Cと、決定部28Dと、削除部28Eと、記憶制御部28Fと、表示制御部28Gと、を備える。3次元情報取得部28A、姿勢情報取得部28B、撮影画像取得部28C、決定部28D、削除部28E、記憶制御部28F、および表示制御部28Gは、例えば、1または複数のプロセッサにより実現される。例えば上記各部は、CPUなどのプロセッサにプログラムを実行させること、すなわちソフトウェアにより実現してもよい。上記各部は、専用のICなどのプロセッサ、すなわちハードウェアにより実現してもよい。上記各部は、ソフトウェアおよびハードウェアを併用して実現してもよい。複数のプロセッサを用いる場合、各プロセッサは、各部のうち1つを実現してもよいし、各部のうち2以上を実現してもよい。
【0039】
情報処理装置20に含まれる各部の少なくも1つを、ネットワークNWを介して接続された外部の情報処理装置であるサーバ装置等に搭載した構成としてもよい。
【0040】
3次元情報取得部28Aは、撮影部14による撮影領域Sの撮影によって得られた3次元情報を取得する。3次元情報取得部28Aは、撮影装置10から通信部22を介して受信した撮影情報に含まれる3次元情報を読取ることで、3次元情報を取得する。
【0041】
姿勢情報取得部28Bは、3次元情報取得部28Aで取得した3次元情報の撮影時の撮影部14の姿勢情報を取得する。姿勢情報取得部28Bは、撮影装置10から通信部22を介して受信した撮影情報に含まれる姿勢情報を読取ることで、姿勢情報を取得する。
【0042】
撮影画像取得部28Cは、撮影領域Sの撮影画像を取得する。撮影画像取得部28Cは、撮影装置10から通信部22を介して受信した撮影情報に含まれる撮影画像を読取ることで、撮影画像を取得する。
【0043】
決定部28Dは、姿勢情報取得部28Bで取得した姿勢情報に基づいて、3次元情報取得部28Aで取得した3次元情報に含まれる削除対象領域を決定する。削除部28Eは、3次元情報に含まれる、決定部28Dで決定した削除対象領域を削除する。
【0044】
削除対象領域とは、撮影領域Sに含まれる撮影対象以外の不要物を表す領域を示す情報である。不要物は、例えば、撮影装置10を操作する撮影者などである。本実施形態では、不要物が、撮影者である形態を一例として説明する。
【0045】
削除対象領域は、撮影領域Sに含まれる不要物を表す領域を示す情報であれば任意の情報であってよい。例えば、削除対象領域は、撮影部14を基準とした方向の範囲、撮影部14の画角の範囲、または、撮影部14からのx軸y軸およびz軸に対する回転角に対応する方向、などによって表される情報である。また、例えば、削除対象領域は、3次元情報30が距離画像である場合、距離画像に含まれる1または複数の画素の各々の座標によって表される情報であってもよい。
【0046】
ここで、撮影装置10の撮影者による使用状況を説明する。
【0047】
上述したように、撮影装置10は、撮影者によって携帯可能に構成されている。このため、撮影者は撮影装置10を手等によって把持して操作部16を操作することで、撮影指示信号を入力する。また、撮影装置10に棒状部材を取り付け、撮影者が棒状部材を把持することで、棒状部材によって支持された撮影装置10を所望の位置に調整した状態で撮影指示信号を入力することなども行われている。棒状部材は、自撮り棒と称される場合がある。撮影指示信号の入力を受付けることで、撮影装置10は、3次元情報および撮影画像を撮影する。
【0048】
撮影装置10が撮影者によって直接または棒状部材などを介して把持された状態で撮影が実行されると、3次元画像に撮影者などの不要物が写り込む場合がある。
【0049】
図3Aは、撮影装置10の使用状況の一例の説明図である。図3Aには、撮影対象OBが存在する撮影領域Sを撮影する場面を一例として示す。また、図3Aには、撮影対象OBとして、撮影対象OB1および撮影対象OB2を示す。図3Bは、図3Aに示す使用状況で撮影された3次元情報30の一例を示す模式図である。
【0050】
例えば、撮影者Bは、棒状部材9を撮影装置10に取り付け、撮影を行う。撮影者Bは棒状部材9を把持することで、棒状部材9によって支持された撮影装置10を所望の位置に調整し、棒状部材9等を介して又は直接操作部16を操作することで撮影領域Sの撮影指示信号を入力する。撮影指示信号の入力によって、撮影装置10は撮影領域Sを撮影し、3次元情報30および撮影画像を得る。
【0051】
図3Aに示すように、撮影領域Sにおける撮影装置10の死角BSに存在する物体は、図3Bに示すように3次元情報30には含まれない。図3Aおよび図3Bに示す例では、撮影者Bの腕部の一部Baが死角BS内に位置されている場合を一例として示す。この場合、図3Bに示すように、3次元情報30には、撮影者Bの腕部の一部Baを表す3次元情報が含まれないものとなる。
【0052】
しかしながら、撮影時に撮影装置10の死角BS外に存在する物体は、3次元情報30に写り込む。図3Aに示す例では、撮影者Bの腕部の一部Ba以外の領域は死角BS外に存在する。このため、図3Bに示すように3次元情報30には、撮影者Bの腕部の一部Ba以外を表す3次元情報が含まれる。この場合、3次元情報30には、撮影対象OBに加えて、撮影対象外の物体すなわち不要物である撮影者Bの一部を表す3次元情報が含まれるものとなる。
【0053】
3次元情報30に写り込んだ不要物である撮影者Bを除去する方法として、3次元情報30に含まれる撮影者Bを検出し、検出した撮影者Bの領域を除去する方法が考えられる。撮影者Bの検出は、撮影者Bに対応する3次元情報と所定のモデルをマッチング処理する方法や、3次元情報から作成した2次元画像を画像認識することで検出する方法などがある。しかしながら、3次元情報30に含まれる撮影者Bの写り込む領域が少なくなるほど、3次元情報30に含まれる撮影者Bの情報が少なくなるため、撮影者Bの検出が困難となる場合がある。
【0054】
図4Aは、撮影装置10の使用状況の他の例の説明図である。図4Bは、図4Aに示す使用状況で撮影された3次元情報30の一例を示す模式図である。
【0055】
図4Aに示す例では、図3Aに示す例に比べて、撮影者Bの身体のより多くの領域が撮影装置10の死角BS内に存在する。この場合、図4Bに示すように、3次元情報30には、図3Bに示す3次元情報30に比べて撮影者Bの写り込みが少なくなる。3次元情報30に含まれる撮影者Bの写り込みが少ないほど、3次元情報30に含まれる不要物である撮影者Bの領域の判別が困難となる。このため、撮影者Bの領域の検出が困難となり、3次元情報30から撮影者Bを除去することが困難となる。
【0056】
図2に戻り説明を続ける。
【0057】
そこで、本実施形態の決定部28Dは、3次元情報30の撮影時の撮影部14の姿勢情報に基づいて、3次元情報30に含まれる削除対象領域を決定する。
【0058】
本実施形態では、決定部28Dは、基準設定情報に含まれる基準削除領域を姿勢情報に基づいて補正した領域を、削除対象領域として決定する。
【0059】
基準設定情報とは、撮影部14の基準姿勢情報と、撮影領域Sに含まれる基準削除領域と、を対応付けた情報である。本実施形態では、記憶部26は、基準設定情報を予め記憶する。
【0060】
基準姿勢情報とは、撮影部14の基準となる姿勢を表す情報である。基準姿勢情報は、姿勢情報と同様に、上記x軸、y軸、およびz軸の各々に対する回転角度によって表される。
【0061】
基準削除領域とは、基準姿勢情報によって表される姿勢の撮影部14で撮影された3次元情報30に含まれる、削除対象領域を表す情報である。基準削除領域は、削除対象とする不要物の種類などによって予め定められる。例えば、不要物が撮影者Bである場合を想定する。この場合、撮影部14の使用形態などに応じて、撮影部14が基準姿勢情報によって表される姿勢で撮影領域Sを撮影したときに撮影者Bが写り込む推定範囲の領域が、基準削除領域として予め定められる。
【0062】
決定部28Dは、記憶部26に記憶されている基準設定情報を読取り、削除対象領域の決定処理に用いる。
【0063】
なお、本実施形態では、記憶部26には、1つの基準設定情報が予め記憶されている形態を一例として説明する。しかし、記憶部26には、複数の基準設定情報が予め記憶されていてもよい。この場合、例えば、表示制御部28Gは、記憶部26に記憶された複数の基準設定情報を選択可能に表示部24Aへ表示する。そして、ユーザによる操作部24Bの操作指示によって1つの基準設定情報が選択されると、決定部28Dは、選択された基準設定情報を削除対象領域の決定処理に用いればよい。
【0064】
制御部28は、ユーザによって予め設定された基準設定情報を予め記憶部26に記憶してもよい。また、制御部28は、撮影部14の使用状況や撮影条件等を撮影装置10から取得し、取得したこれらの情報を用いて基準設定情報を予め作成し、記憶部26へ予め記憶してもよい。
【0065】
決定部28Dは、記憶部26から読み取った基準設定情報に含まれる基準姿勢情報と、姿勢情報取得部28Bで取得した姿勢情報と、が一致する場合、基準姿勢情報に対応付けられた基準削除領域を、削除対象領域として決定する。
【0066】
上述したように、基本姿勢情報および姿勢情報は、それぞれ、x軸、y軸、およびz軸の各々に対する回転角度の少なくとも一つによって表される。このため、基本姿勢情報と姿勢情報とが一致する場合とは、基本姿勢情報および姿勢情報の各々によって表される各々の回転角度が一致する状態を意味する。言い換えると、基本姿勢情報と姿勢情報とが一致する場合とは、基本姿勢情報によって表される撮影装置10の姿勢と、姿勢情報によって表される撮影装置10の姿勢と、が同じ姿勢であることを意味する。
【0067】
ここで、基本姿勢情報および姿勢情報がx軸、y軸およびz軸の各々を回転軸にする回転角を含むことが精度の上で好ましい。図3Aに示すような撮影者Bが撮影装置10を把持する場合、基準姿勢情報および姿勢情報はx軸方向およびz軸方向を回転軸にする回転角の情報を含めば良い。
【0068】
図5Aおよび図5Bは、削除対象領域E2の決定の一例の説明図である。図5Aには、撮影装置10の使用状況の一例を示す。また、図5Aには、基準姿勢情報と、撮影時の撮影装置10の姿勢情報と、が一致する場合を一例として示す。図5Bは、図5Aに示す使用状況で撮影された3次元情報30から削除対象領域E2を除去した3次元情報30の一例を示す模式図である。
【0069】
図5Aに示すように、基準姿勢情報と、姿勢情報取得部28Bで取得した姿勢情報とが一致する場合、決定部28Dは、基準削除領域E1を削除対象領域E2として決定する。そして、削除部28Eは、3次元情報30に含まれる削除対象領域E2を削除する。このため、図5Bに示すように、削除部28Eによって削除処理された後の3次元情報30は、撮影領域Sに含まれる撮影者Bを含まない情報となる。
【0070】
削除部28Eによる削除処理は、3次元情報30に含まれる削除対象領域E2に相当する3次元情報を無効またはゼロとする処理を意味する。例えば、3次元情報30が撮影装置10からの距離を画素ごとに規定した距離画像である場合を想定する。この場合、削除部28Eは、3次元情報30に含まれる、削除対象領域E2の範囲内の画素値をゼロまたは無効とするなどの処理を行うことで、3次元情報30から削除対象領域E2を削除する。また、削除部28Eは、3次元情報30に含まれる削除対象領域E2の範囲内の画素に、無効であることを表すラベルを付与することで、削除対象領域E2を削除してもよい。
【0071】
このため、削除部28Eによって削除対象領域E2を削除された3次元情報30は、図5Bに示すように、撮影者Bを含まない情報となる。すなわち、削除対象領域E2を削除された3次元情報30は、撮影者B等の不要物の写り込みの無い3次元情報となる。
【0072】
一方、決定部28Dは、基準姿勢情報と、姿勢情報取得部28Bで取得した姿勢情報と、が不一致である場合、基準姿勢情報と姿勢情報との差に応じて、基準削除領域E1を補正した領域を削除対象領域E2として決定する。
【0073】
上述したように、撮影装置10は、撮影者Bによって把持されることで使用される。このため、撮影時の撮影装置10の姿勢は、基準姿勢情報によって表される姿勢から変動する。例えば、撮影時の撮影者Bの手首の角度などが安定せず、撮影者Bによって把持された撮影装置10の姿勢は、撮影時に変動する。撮影者Bによって把持された撮影装置10の姿勢は、x軸およびz軸の各々を回転軸とする回転方向に対して安定せず、変動しやすい。この場合、撮影時の撮影装置10の姿勢を表す姿勢情報は、基準姿勢情報とは異なるものとなる。
【0074】
そこで、決定部28Dは、基準姿勢情報と、姿勢情報取得部28Bで取得した姿勢情報と、が不一致である場合、基準姿勢情報と姿勢情報との差に応じて、基準削除領域E1を補正した領域を削除対象領域E2として決定する。
【0075】
図6Aは、削除対象領域E2の決定の一例の説明図である。図6Aには、撮影装置10の使用状況の一例を示す。また、図6Aには、基準姿勢情報と、撮影時の撮影装置10の撮影部14の姿勢情報と、が不一致である場合を一例として示す。
【0076】
図6Aは、撮影者Bに把持された撮影装置10がx軸を回転軸とする回転角を有する姿勢の例である。このように、撮影者Bに把持された撮影装置10の姿勢は、x軸を回転軸とする回転角が変動しやすい。一方、y軸(鉛直方向)を回転軸とする回転角は前述のとおり変動しづらい。以下の説明において姿勢情報および基準姿勢情報は、x軸、y軸およびz軸の各々を回転軸とする回転角度である例で説明するが、姿勢情報および基準姿勢情報はこれらの回転角度または回転角度に関する量の少なくとも一つの情報を含んでいればよく、さらに好ましくはx軸方向およびz軸方向の各々を回転軸とする回転角の情報を含んでいればよい。
【0077】
決定部28Dは、x軸、y軸、およびz軸の各々に対する回転角度によって表される基本姿勢情報と姿勢情報の、x軸、y軸、およびz軸の各々に対する回転角度の差を算出する。そして、決定部28Dは、基本姿勢情報と姿勢情報とのx軸、y軸、およびz軸の各々に対する回転角度の差を相殺するように、基準削除領域E1を補正する。
【0078】
具体的には、図6Aには、撮影装置10が、基準姿勢情報によって表される姿勢に対して、x軸を回転軸としてx軸の周方向にy軸に対して+10°傾いた状態を一例として示す。この場合、決定部28Dは、基準姿勢情報に対応する基準削除領域E1を、x軸を回転軸としてx軸の周方向にy軸に対して-10°傾けた領域となるように基準削除領域E1を補正する。そして、補正後の基準削除領域E1を削除対象領域E2として決定する。
【0079】
このように、決定部28Dは、基準姿勢情報と姿勢情報との差に応じて、基準削除領域E1を補正した領域を削除対象領域E2として決定する。
【0080】
そして、削除部28Eは、3次元情報30に含まれる削除対象領域E2を削除する。このため、図5Bに示す3次元情報30と同様に、削除部28Eによって削除処理された後の3次元情報30は、撮影領域Sに含まれる撮影者Bを含まない情報となる。すなわち、削除対象領域E2を削除された3次元情報30は、撮影者Bの写り込みの無い3次元情報となる。
【0081】
図6Bは、削除対象領域E2の決定の一例の説明図である。図6Bには、撮影装置10の使用状況の一例を示す。また、図6Bには、基準姿勢情報と、撮影時の撮影装置10の撮影部14の姿勢情報と、が不一致である場合を一例として示す。また、図6Bには、撮影装置10が、基準姿勢情報によって表される姿勢に対して、x軸を回転軸としてx軸の周方向にy軸に対して-10°傾いた状態を一例として示す。
【0082】
この場合、決定部28Dは、基準姿勢情報に対応する基準削除領域E1を、x軸を回転軸としてx軸の周方向にy軸に対して+10°傾けた領域となるように基準削除領域E1を補正する。そして、補正後の基準削除領域E1を削除対象領域E2として決定する。
【0083】
このように、決定部28Dは、基準姿勢情報と姿勢情報との差に応じて、基準削除領域E1を補正した領域を削除対象領域E2として決定する。
【0084】
そして、削除部28Eは、3次元情報30に含まれる削除対象領域E2を削除する。このため、図5Bに示す3次元情報30と同様に、削除部28Eによって削除処理された後の3次元情報30は、撮影領域Sに含まれる撮影者Bを含まない情報となる。すなわち、削除対象領域E2を削除された3次元情報30は、撮影者Bの写り込みの無い3次元情報となる。
【0085】
図2に戻り説明を続ける。記憶制御部28Fは、削除対象領域E2を削除された3次元情報30に関わる情報を記憶部26に記憶する。例えば、記憶制御部28Fは、撮影装置10から取得した撮影情報に含まれる3次元情報30と、姿勢情報と、撮影画像と、撮影時刻情報と、を対応付けて記憶部26へ記憶する。記憶制御部28Fは、更に、撮影された3次元情報30を識別可能な撮影ID等を更に付与し、対応付けて記憶部26へ記憶してもよい。
【0086】
また、記憶制御部28Fは、削除対象領域E2を削除された3次元情報30に関わる情報を、ネットワークNWを介して情報処理装置20に接続された外部の情報処理装置やストレージデバイス等に記憶してもよい。
【0087】
表示制御部28Gは、3次元情報30に関わる情報を含む画像を表示部24Aへ表示する。詳細には、表示制御部28Gは、3次元情報30によって表される撮影領域Sの撮影画像と、決定部28Dで決定された削除対象領域E2に関わる情報と、削除対象領域E2を削除された3次元情報30に関わる情報と、の少なくとも1つを含む画像を表示部24Aへ表示する。
【0088】
例えば、表示制御部28Gは、削除対象領域E2を視認可能に含む画像を表示部24Aへ表示する。具体的には、表示制御部28Gは、削除対象領域E2を削除された3次元情報30を公知の座標変換処理等によって2次元の画像に変換し、表示部24Aへ表示する。その際、表示制御部28Gは、画像中に削除対象領域E2を視認可能に重畳して表示する。画像中に削除対象領域E2を視認可能に表示することで、削除処理が適切であったか否かをユーザに対して容易に確認可能に提供することができる。
【0089】
また、表示制御部28Gは、3次元情報30と同じ撮影時刻に撮影された撮影画像における削除対象領域E2を特定し、特定した削除対象領域E2を削除した画像を表示部24Aへ表示してもよい。撮影画像における削除対象領域E2の特定には、公知の技術を用いればよい。
【0090】
上記画像を表示部24Aへ表示することで、表示制御部28Gは、削除対象領域E2に関する情報をユーザに対して確認可能に提供することができる。また、表示制御部28Gは、削除対象領域E2を削除された3次元情報30をユーザに対して確認可能に提供することができる。
【0091】
なお、表示制御部28Gは、上記画像を撮影装置10に設けられた表示部18に表示してもよい。この場合、表示制御部28Gは、上記画像を撮影装置10へ送信する。画像を受信した撮影装置10の制御部17は、受信した画像を表示部18へ表示すればよい。
【0092】
次に、本実施形態の情報処理装置20で実行される情報処理の流れを説明する。
【0093】
図7は、本実施形態の情報処理装置20で実行される情報処理の流れの一例を示すフローチャートである。
【0094】
3次元情報取得部28Aおよび姿勢情報取得部28Bは、撮影部14による撮影領域Sの撮影によって得られた3次元情報30および該3次元情報30の撮影時の撮影部14の姿勢情報を取得する(ステップS100)、3次元情報取得部28Aおよび姿勢情報取得部28Bは、撮影装置10から通信部22を介して受信した撮影情報に含まれる3次元情報30および姿勢情報を読取ることで、3次元情報30および姿勢情報を取得する。
【0095】
決定部28Dは、記憶部26から基本設定情報を読取る(ステップS102)。上述したように、基本設定情報は、基準削除領域E1と基本姿勢情報とを対応付けた情報である。
【0096】
次に、決定部28Dは、ステップS100で取得した姿勢情報と、ステップS102で読取った基準設定情報に含まれる基準姿勢情報と、が一致するか否かを判断する(ステップS104)。決定部28Dは、基本姿勢情報および姿勢情報の各々によって表されるx軸、y軸、およびz軸の各々に対する回転角度が一致するか否かを判別することで、ステップS104の判断を行う。
【0097】
基準姿勢情報と姿勢情報とが一致すると判断した場合(ステップS104、Yes)、ステップS106へ進む。ステップS106では、決定部28Dは、ステップS102で読取った基準設定情報に含まれる基準削除領域E1を、削除対象領域E2として決定する(ステップ106)。そして、後述するステップS112へ進む。
【0098】
一方、基準姿勢情報と姿勢情報とが不一致であると判断した場合(ステップS104:No)、ステップS108ヘ進む。ステップS108では、決定部28Dは、基準姿勢情報と姿勢情報との差に応じて、基準削除領域E1を補正する(ステップS108)。決定部28Dは、x軸、y軸、およびz軸の各々に対する回転角度によって表される基本姿勢情報と姿勢情報の、x軸、y軸、およびz軸の各々に対する回転角度の差を算出する。そして、決定部28Dは、基本姿勢情報と姿勢情報とのx軸、y軸、およびz軸の各々に対する回転角度の差を相殺するように、基準削除領域E1の姿勢を補正する。
【0099】
そして、決定部28Dは、ステップS108で補正した基準削除領域E1を削除対象領域E2として決定する(ステップS110)。そして、ステップS112へ進む。
【0100】
ステップS112では、削除部28Eが、ステップS110で取得した3次元情報30に含まれる削除対象領域E2を削除する(ステップS112)。ステップS112の処理によって、3次元情報30に含まれる撮影者B等の不要物を含む削除対象領域E2が3次元情報30から削除される。削除対象領域E2を削除された3次元情報30は、撮影者B等の不要物の写り込みの無い3次元情報となる。
【0101】
記憶制御部28Fは、ステップS112の削除処理によって削除対象領域E2を削除された3次元情報30に関わる情報を記憶部26に記憶する(ステップS114)。表示制御部28Gは、ステップS112の削除処理によって削除対象領域E2を削除された3次元情報30に関わる情報を含む画像を表示部24Aへ表示する(ステップS116)。
【0102】
次に、制御部28は、処理を終了するか否かを判断する(ステップS118)。
【0103】
例えば、撮影装置10が撮影によって3次元情報30を得るごとに、該3次元情報30を含む撮影情報を順次撮影装置10へ送信する場合を想定する。そして、制御部28は、撮影装置10から新たな1つの撮影情報を受信するごとに、上記ステップS100~ステップS116の処理を実行する場合を想定する。この場合、制御部28は、撮影装置10から前回撮影情報を受信してから予め定めた期間内に次の撮影情報を受信しない場合、処理を終了すると判断すればよい。
【0104】
また、制御部28は、撮影装置10から時系列に沿って受信した1または複数の撮影情報を、記憶部26に記憶してもよい。そして、制御部28は、記憶部26に記憶された撮影情報を1つずつ順次読取り、ステップS100~ステップS116の処理を行ってもよい。この場合、制御部28は、記憶部26に記憶されている1または複数の撮影情報に含まれる全ての3次元情報30についてステップS100~ステップS116の処理を実行済みであるか否かを判別する。そして、制御部28は、処理を実行済であると判別した場合、ステップS118で肯定判断する。また、制御部28は、処理を未実行の3次元情報30が記憶部26に記憶されている場合、ステップS118で否定判断すればよい。
【0105】
ステップS118で否定判断すると(ステップPS118:No)、上記ステップS100へ戻る。ステップS118で肯定判断すると(ステップS118:Yes)、本ルーチンを終了する。
【0106】
以上説明したように、本実施形態の情報処理装置20は、3次元情報取得部28Aと、姿勢情報取得部28Bと、決定部28Dと、削除部28Eと、を備える。3次元情報取得部28Aは、撮影部14による撮影領域Sの撮影によって得られた3次元情報30を取得する。姿勢情報取得部28Bは、3次元情報30の撮影時の撮影部14の姿勢情報を取得する。決定部28Dは、姿勢情報に基づいて、3次元情報30に含まれる削除対象領域E2を決定する。削除部28Eは、3次元情報30に含まれる削除対象領域E2を削除する。
【0107】
ここで、撮影部14を備えた撮影装置10の撮影者Bによる把持状況によって、撮影部14の姿勢に変動が生じる場合がある。特に、撮影者Bによって把持されることで使用される手持ち型の撮影装置10では、撮影時の撮影者Bの手首の角度などが安定せず、撮影部14の姿勢が撮影時に変動する。
【0108】
従来技術には、撮影部14の姿勢変化に拘わらず削除対象領域を固定の領域とし、該固定の削除対象領域を3次元情報30から削除する技術が開示されている。しかしながら、撮影部14の姿勢変化に拘わらず削除対象領域を固定の領域とした場合、撮影状況によっては、削除対象領域以外の領域に撮影者B等の不要物が写り込む場合がある。このため、姿勢変化に拘わらず削除対象領域を固定の領域とすると、不要物が写り込んだ削除対象領域を適切に削除できない場合がある。また、撮影状況によっては、固定の削除対象領域内に撮影対象OBが写り込み、撮影対象OBが削除されてしまう場合もある。
【0109】
一方、本実施形態の情報処理装置20では、撮影時の撮影部14の姿勢情報に基づいて3次元情報30に含まれる削除対象領域E2を決定し、3次元情報30から該削除対象領域E2を削除する。すなわち、本実施形態の情報処理装置20は、3次元情報30の撮影時の撮影部14の姿勢情報に応じて、削除対象領域E2を決定する。
【0110】
このため、撮影時に撮影部14の姿勢が変化又は変動した場合であっても、本実施形態の情報処理装置20は、3次元情報30に含まれる削除対象領域E2を適切に削除することができる。
【0111】
従って、本実施形態の情報処理装置20は、3次元情報30に含まれる削除対象領域E2を適切に削除することができる。
【0112】
(変形例)
上記実施形態では、撮影装置10と情報処理装置20とが別体として構成された形態を一例として説明した。しかし、撮影装置10と情報処理装置20とを一体的に構成してもよい。例えば、情報処理装置20の制御部28に含まれる各機能部を撮影装置10の制御部17に搭載した構成としてもよい。
【0113】
詳細には、上記実施形態の情報処理装置20と、撮影部14と、姿勢検知部15と、を備えた装置を3次元計測装置として構成してもよい。
【0114】
(第2の実施形態)
上記実施形態では、基準削除領域E1を含む基準設定情報が予め記憶部26に記憶されている形態を一例として説明した。本実施形態では、ユーザによる操作指示によって基準削除領域E1を設定する形態を一例として説明する。
【0115】
本実施形態では、上記実施形態と同様の構成部分には同じ符号を付与し、詳細な説明を省略する。
【0116】
図8は、本実施形態の情報処理システム1Bの機能的構成を表すブロック図である。
【0117】
情報処理システム1Bは、撮影装置10と、情報処理装置21と、情報端末40と、を備える。撮影装置10と、情報処理装置21と、情報端末40とは、ネットワークNWなどを介して通信可能に接続されている。
【0118】
情報端末40は、ユーザによって管理される情報処理装置である。情報端末40は、例えば、スマートフォン、タブレット端末等である。情報端末40を管理するユーザは、撮影装置10の撮影者Bと同一であっても異なっていてもよい。本実施形態では、情報端末40を管理するユーザが撮影者Bである場合を一例として説明する。
【0119】
情報端末40は、操作部42と、表示部44と、通信部46と、制御部48と、を備える。操作部42は、撮影者Bによる操作指示を受付ける。操作部42は、例えば、キーボード、ポインティングデバイス、マウス、などである。表示部44は、各種の情報を表示するディスプレイである。操作部42および表示部44は、一体的に構成されたタッチパネルであってもよい。通信部46はネットワークNWを介して撮影装置10および情報処理装置23と通信する。制御部48は、情報端末40において情報処理を実行する。制御部48は、1または複数のプロセッサにより構成される。
【0120】
情報処理装置21は、通信部22と、UI部24と、記憶部26と、制御部27と、を備える。通信部22、UI部24、および記憶部26と、制御部27とは、バス等を介して通信可能に接続されている。情報処理装置21は、制御部28に替えて制御部27を備える点以外は、上記実施形態の情報処理装置20と同様である。
【0121】
制御部27は、3次元情報取得部28Aと、姿勢情報取得部28Bと、撮影画像取得部28Cと、決定部28Dと、削除部28Eと、記憶制御部28Fと、表示制御部28Gと、受付部27Iと、出力制御部27Hと、を有する。制御部27は、受付部27Iおよび出力制御部27Hを更に有する点以外は、上記実施形態の制御部28と同様である。
【0122】
受付部27Iは、ユーザによる操作指示を受付ける。本実施形態では、受付部27Iは、撮影者Bによる情報端末40の操作部42の操作によって入力された各種の操作指示を、通信部22を介して受け付ける。
【0123】
出力制御部27Hは、補正用の3次元情報30を撮影によって取得するように、撮影装置10を制御する。補正用の3次元情報30とは、基準削除領域E1の補正に用いる3次元情報30を意味する。
【0124】
例えば、出力制御部27Hは、補正用の3次元情報30を撮影によって取得することを指示するための指示信号を撮影装置10へ送信する。撮影装置10の制御部17は、補正用の3次元情報30の撮影指示を表す情報を表示部18へ表示する。表示部18に表示された該情報を視認した撮影者Bは、撮影予定の姿勢と同じまたは類似する姿勢となるように撮影装置10の姿勢を調整し、操作部16を操作することで撮影指示信号を入力する。
【0125】
撮影者によって操作部16が操作され撮影指示信号が入力されると、制御部17は、画像撮影部11、距離情報取得部13、および投射部12を同期駆動させ撮影を実行するように制御する。このため、撮影装置10は、補正用の3次元情報30を得る。撮影装置10の制御部17は、撮影によって得られた3次元情報30と、補正用の3次元情報30であることを表す補正フラグと、を含む補正撮影情報を情報処理装置21へ送信する。また、制御部17は、撮影によって得られた3次元情報30と、補正フラグと、姿勢情報おT、撮影画像と、を含む補正撮影情報を情報処理装置21へ送信してもよい。
【0126】
なお、撮影装置10は、補正用の3次元情報30の補正撮影モードと、補正用以外である通常の3次元情報30の撮影モードと、を含む複数のモードに切り替え可能な構成であってもよい。そして、撮影者Bは、操作部16を操作することで、撮影モードから補正撮影モードに切替え、撮影予定の姿勢と同じまたは類似する姿勢となるように撮影装置10の姿勢を調整し、操作部16を操作することで撮影指示信号を入力してもよい。そして、制御部17は、補正撮影モードであるときに撮影を実行した場合、撮影によって得られた3次元情報30と、補正フラグと、を含む補正撮影情報を情報処理装置21へ送信すればよい。
【0127】
また、撮影装置10は、撮影者Bによる電源ボタン等の操作によって撮影装置10の各部に電力が供給された後の最初の撮影によって得られた3次元情報30を、補正用の3次元情報30として情報処理装置21へ送信してもよい。この場合、撮影装置10は、最初の撮影によって得られた3次元情報30と、補正フラグと、を含む補正撮影情報を情報処理装置21へ送信すればよい。
【0128】
また、撮影装置10は、時系列に沿って複数の3次元情報30を撮影したときに、該複数の3次元情報30の内の任意の1つの3次元情報30を、補正用の3次元情報30として情報処理装置21へ送信してもよい。この場合、撮影装置10は、該任意の1つの3次元情報30と、補正フラグと、を含む補正撮影情報を情報処理装置21に送信すればよい。
【0129】
情報処理装置21の出力制御部27Hは、撮影装置10から補正フラグを含む補正撮影情報を取得すると、記憶部26に記憶されている基準設定情報に含まれる基準削除領域E1を読取る。そして、出力制御部27Hは、補正撮影情報に含まれる補正用の3次元情報30、および記憶部26から読取った基準削除領域E1を、情報端末40へ送信する。
【0130】
情報端末40の制御部48は、情報処理装置21から受信した補正用の3次元情報30および基準削除領域E1を含む補正用画像を表示部44へ表示する。
【0131】
例えば、情報端末40の制御部48は、補正用の3次元情報30である距離画像に基準削除領域E1を重畳した補正用画像を表示部44へ表示する。また、例えば、情報端末40の制御部48は、補正用の3次元情報30を公知の方法により2次元の表示画像に変換し、該表示画像に基準削除領域E1を重畳した補正用画像を表示部44へ表示してもよい。また、情報処理装置21の出力制御部27Hは、補正用の3次元情報30の撮影時に撮影された撮影画像を更に情報端末40へ送信してもよい。この場合、情報端末40の制御部48は、撮影画像に基準削除領域E1を重畳した補正用画像を表示部44へ表示してもよい。
【0132】
情報端末40を操作する撮影者Bは、操作部42に表示された補正用画像を視認しながら操作部42を操作することで、所望の基準削除領域E1となるように基準削除領域E1の位置、大きさ、範囲の少なくとも一部を補正する。撮影者Bは、操作部42の一例であるマウス操作、操作部42の一例であるタッチパネル上の位置、操作部42の一例であるキーボードによる座標を表す数値入力、などの任意の入力手法によって、基準削除領域E1を補正する。
【0133】
そして、制御部48は、撮影者Bによる操作部42の操作指示によって入力された補正後の基準削除領域E1を表す情報を情報処理装置21へ送信する。
【0134】
なお、撮影者Bは、表示部44に表示された基準削除領域E1を補正無で用いる場合には、表示された基準削除領域E1を補正後の基準削除領域E1として用いることを指示するための指示入力を行えばよい。この場合、制御部48は、表示した基準削除領域E1を補正された基準削除領域E1を表す情報として情報処理装置21へ送信すればよい。
【0135】
情報処理装置21の受付部27Iは、撮影者Bによる操作部42の操作指示によって入力された補正後の基準削除領域E1を受付ける。受付部27Iは、受付けた補正後の基準削除領域E1を、記憶部26に記憶されている基準削除領域E1に上書きして記憶する。このため、決定部28Dは、撮影者Bの操作指示によって入力された基準削除領域E1を用いて、上記実施形態と同様にして、削除対象領域E2を決定する。
【0136】
すなわち、決定部28Dは、姿勢情報取得部28Bで取得した姿勢情報と、受付部27Iで情報端末40の操作部42から受付けた基準削除領域E1と、に基づいて、上記実施形態と同様にして3次元情報30に含まれる削除対象領域E2を決定すればよい。
【0137】
次に、本実施形態の情報処理装置21が実行する情報処理の流れの一例を説明する。
【0138】
図9は、本実施形態の情報処理装置21が実行する情報処理の流れの一例を示すフローチャートである。
【0139】
出力制御部27Hは、撮影装置10から補正用の3次元情報30および補正フラグを含む補正撮影情報を取得する(ステップS200)。出力制御部27Hは、例えば、補正用の3次元情報30を撮影によって取得するように撮影装置10を制御することで、撮影装置10から補正用の3次元情報30を取得する。
【0140】
次に、出力制御部27Hは、記憶部26に記憶されている基準設定情報に含まれる基準削除領域E1を読取る(ステップS202)。そして、出力制御部27Hは、ステップS200で取得した補正用の3次元情報30およびステップS202で読取った基準削除領域E1を、情報端末40へ送信する(ステップS204)。
【0141】
情報端末40の制御部48は、情報処理装置21から受信した補正用の3次元情報30および基準削除領域E1を含む補正用画像を表示部44へ表示する。情報端末40を操作する撮影者Bは、操作部42に表示された補正用画像を視認しながら操作部42を操作することで、所望の基準削除領域E1となるように、表示された基準削除領域E1の位置、大きさ、範囲の少なくとも一部を補正する。情報端末40の制御部48は、撮影者Bによる操作部42の操作指示によって入力された補正後の基準削除領域E1を表す情報を情報処理装置21へ送信する。
【0142】
情報処理装置21の受付部27Iは、撮影者Bによる操作部42の操作指示によって入力された補正後の基準削除領域E1を情報端末40から受付ける(ステップS206)。受付部27Iは、ステップS206で受付けた補正後の基準削除領域E1を、記憶部26に記憶されている基準削除領域E1に上書きして記憶する(ステップS208)。
【0143】
そして、情報処理装置21の制御部27は、上記実施形態のステップS100~ステップS118(図7参照)によって表される処理である削除処理を実行し(ステップS210)、本ルーチンを終了する。
【0144】
以上説明したように、本実施形態の情報処理装置21は、ユーザによる操作指示を受付ける受付部27Iを備える。決定部28Dは、姿勢情報と、受付部27Iで受付けた基準削除領域E1を含む基準設定情報と、に基づいて、3次元情報30に含まれる削除対象領域E2を決定する。
【0145】
すなわち、本実施形態では、決定部28Dは、撮影者Bの操作指示によって補正された基準削除領域E1と、新たに撮影された3次元情報30の撮影時の撮影部14の姿勢情報と、に基づいて、該3次元情報30の削除対象領域E2を決定する。そして、削除部28Eは、決定した削除対象領域E2を3次元情報30から削除する削除処理を実行する。
【0146】
ここで、撮影装置10と撮影者Bとの位置関係は、撮影者Bの体格、撮影者Bによって把持された撮影装置10の撮影者Bに対する高さ、等によって異なるものとなる。一方、本実施形態の情報処理装置21は、ユーザによって設定された基準削除領域E1を用いて、削除対象領域E2を決定する。そして、削除部28Eは、決定した削除対象領域E2を3次元情報30から削除する削除処理を実行する。
【0147】
従って、本実施形態の情報処理装置21は、上記実施形態の効果に加えて、3次元情報30から更に適切に削除対象領域E2を削除することができる。
【0148】
また、本実施形態の情報処理装置21は、ユーザによる操作指示の入力を受付けることによって基準削除領域E1を補正する。このため、撮影装置10の撮影者Bが異なる撮影者Bに変わったり、撮影装置10の撮影条件が変わったりした場合であっても、情報処理装置21は、適切に補正された基準削除領域E1を処理に用いることができる。
【0149】
また、本実施形態の情報処理装置21は、ユーザによる操作指示によって補正された基準削除領域E1を用いて、削除対象領域E2の決定および3次元情報30からの削除対象領域E2の削除処理を行うため、高速に且つ適切に削除処理を実行することができる。
【0150】
(第3の実施形態)
上記第2の実施形態では、記憶部26に予め記憶された基準設定情報に含まれる基準削除領域E1を情報端末40へ送信し、ユーザは、該基準削除領域E1を用いて基準削除領域E1を補正するための操作入力を行う形態を一例として説明した。
【0151】
本実施形態では、情報処理装置20が基準設定情報を設定する形態を説明する。
【0152】
本実施形態では、上記実施形態と同様の構成部分には同じ符号を付与し、詳細な説明を省略する。
【0153】
図10は、本実施形態の情報処理システム1Cの機能的構成を表すブロック図である。
【0154】
情報処理システム1Cは、撮影装置10と、情報処理装置23と、情報端末40と、を備える。撮影装置10と、情報処理装置23と、情報端末40とは、ネットワークNWなどを介して通信可能に接続されている。撮影装置10および情報端末40は上記実施形態と同様である。
【0155】
情報処理装置23は、通信部22と、UI部24と、記憶部26と、制御部29と、を備える。通信部22、UI部24、および記憶部26と、制御部29とは、バス等を介して通信可能に接続されている。情報処理装置23は、制御部27に替えて制御部29を備える点以外は、上記実施形態の情報処理装置21と同様である。
【0156】
制御部29は、3次元情報取得部28Aと、姿勢情報取得部28Bと、撮影画像取得部28Cと、決定部28Dと、削除部28Eと、記憶制御部28Fと、表示制御部28Gと、受付部27Iと、出力制御部27Hと、設定部29Jと、を有する。制御部29は、更に設定部29Jを備える点以外は、上記第2の実施形態の制御部27と同様である。
【0157】
設定部29Jは、3次元情報30の撮影者Bと撮影部14との位置関係に基づいて、基準設定情報を設定する。例えば、設定部29Jは、補正用の3次元情報30と同時に撮影された撮影画像、および、補正用の3次元情報30、の少なくとも一方を用いて、基準設定情報を設定する。
【0158】
詳細には、本実施形態では、撮影装置10は、撮影によって得られた補正用の3次元情報30と、該3次元情報30と同じ撮影によって得られた撮影画像と、姿勢情報と、補正フラグと、を含む補正撮影情報を情報処理装置23へ送信する。情報処理装置23の3次元情報取得部28A、姿勢情報取得部28B、および撮影画像取得部28Cは、撮影装置10から該補正撮影情報を受信することで、補正撮影情報に含まれる、補正用の3次元情報30と、姿勢情報と、撮影画像と、をそれぞれ取得する。
【0159】
設定部29Jは、補正撮影情報に含まれる、補正用の3次元情報30および撮影画像の少なくとも一方を用いて、該3次元情報30の撮影時の撮影部14と撮影者Bとの位置関係を特定する。設定部29Jは、補正用の3次元情報30および撮影画像の少なくとも一方を用いて、例えば、深層学習を用いたセマンティックセグメンテーション処理等により、3次元情報30または撮影画像中の撮影者Bと撮影部14との位置関係を特定する。
【0160】
そして、設定部29Jは、特定した位置関係を用いて、補正用の3次元情報30に含まれる撮影者Bを含む領域を基準削除領域E1として設定する。そして、設定部29Jは、該3次元情報30の撮影時の撮影部14の姿勢情報を基準姿勢情報とし、設定した基準削除領域E1に対応付けて基準設定情報として記憶部26へ記憶する。
【0161】
これらの処理によって、設定部29Jは、基準削除領域E1と基準姿勢情報とを対応付けた基準設定情報を設定し、記憶部26へ記憶する。そして、制御部29は、上記第2の実施形態と同様の処理を実行する。すなわち、上記第2の実施形態と同様に、撮影者Bによる該基準削除領域E1の補正が行われ、補正後の基準削除領域E1を用いた削除処理が行われる。このため、本実施形態の情報処理装置23は、上記実施形態の効果に加えて、更に適切に削除対象領域E2を削除することができる。
【0162】
また、基準削除領域E1の補正時には、上記第2の実施形態と同様に、情報端末40の制御部48は、情報処理装置23から受信した補正用の3次元情報30および基準削除領域E1を含む補正用画像を表示部44へ表示する。このため、撮影者Bは、表示部44を視認することで、情報処理装置23によって何れの領域が基準削除領域E1として設定されたかを容易に確認することができる。また、撮影者Bは、必要に応じて、上記第2の実施形態と同様にして操作部42を操作することで、表示された基準削除領域E1を補正することができる。
【0163】
次に、本実施形態の情報処理装置23が実行する情報処理の流れの一例を説明する。
【0164】
図11は、本実施形態の情報処理装置23が実行する情報処理の流れの一例を示すフローチャートである。
【0165】
出力制御部27Hは、撮影装置10から補正用の3次元情報30、撮影画像、および補正フラグを含む補正撮影情報を取得する(ステップS300)。
【0166】
次に、設定部29Jが、ステップS200で取得した3次元情報30および撮影画像の少なくとも一方を用いて、撮影者Bと撮影部14との位置関係を特定する。そして、設定部29Jは、特定した位置関係に基づいて、基準削除領域E1と基準姿勢情報とを対応付けた基準設定情報を設定し、記憶部26へ記憶する(ステップS302)。
【0167】
次に、出力制御部27Hは、ステップS302で記憶部26に記憶された基準設定情報に含まれる基準削除領域E1を読取る(ステップS304)。すなわち、出力制御部27Hは、設定部29Jで設定された基準削除領域E1を読取る。
【0168】
そして、出力制御部27Hは、ステップS300で取得した補正用の3次元情報30およびステップS304で読取った基準削除領域E1を、情報端末40へ送信する(ステップS306)。
【0169】
情報端末40の制御部48は、情報処理装置23から受信した補正用の3次元情報30および基準削除領域E1を含む補正用画像を表示部44へ表示する。情報端末40を操作する撮影者Bは、操作部42に表示された補正用画像を視認しながら操作部42を操作することで、所望の基準削除領域E1となるように、表示された基準削除領域E1の位置、大きさ、範囲の少なくとも一部を補正する。情報端末40の制御部48は、撮影者Bによる操作部42の操作指示によって入力された補正後の基準削除領域E1を表す情報を情報処理装置23へ送信する。
【0170】
情報処理装置23の受付部27Iは、撮影者Bによる操作部42の操作指示によって入力された補正後の基準削除領域E1を情報端末40から受付ける(ステップS308)。受付部27Iは、ステップS308で受付けた補正後の基準削除領域E1を、記憶部26に記憶されている基準削除領域E1に上書きして記憶する(ステップS310)。
【0171】
そして、情報処理装置23の制御部29は、上記実施形態のステップS100~ステップS118(図7参照)によって表される処理である削除処理を実行し(ステップS312)、本ルーチンを終了する。
【0172】
以上説明したように、本実施形態の情報処理装置23は、設定部29Jを備える。設定部29Jは、3次元情報30の撮影者Bと撮影部14との位置関係に基づいて基準設定情報を設定する。決定部28Dは、設定された基準設定情報と、姿勢情報と、に基づいて、3次元情報30に含まれる削除対象領域E2を決定する。
【0173】
このため、本実施形態の情報処理装置23は、上記実施形態の効果に加えて、より正確な基準設定情報を用いて、削除対象領域E2を決定することが可能となる。
【0174】
次に、上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23のハードウェア構成を説明する。
【0175】
図12は、上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23の一例のハードウェア構成図である。
【0176】
上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23は、CPU90Aなどの制御装置と、ROM(Read Only Memory)90BやRAM(Random Access Memory)90Cなどの記憶装置と、HDD(ハードディスクドライブ)と、ネットワークに接続して通信を行うI/F90Dと、各部を接続するバス90Eと、を備える。
【0177】
上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23で実行されるプログラムは、ROM90B等に予め組み込まれて提供される。
【0178】
上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23で実行されるプログラムは、インストール可能な形式又は実行可能な形式のファイルでCD-ROM(Compact Disk Read Only Memory)、フレキシブルディスク(FD)、CD-R(Compact Disk Recordable)、DVD(Digital Versatile Disk)等のコンピュータで読み取り可能な記録媒体に記録してコンピュータプログラムプロダクトとして提供されるように構成してもよい。
【0179】
さらに、上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23で実行されるプログラムを、インターネット等のネットワークに接続されたコンピュータ上に格納し、ネットワーク経由でダウンロードさせることにより提供するように構成してもよい。また、上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23で実行されるプログラムをインターネット等のネットワーク経由で提供または配布するように構成してもよい。
【0180】
上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23で実行されるプログラムは、コンピュータを上述した上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23の各部として機能させうる。このコンピュータは、CPU90Aがコンピュータで読取可能な記憶媒体からプログラムを主記憶装置上に読み出して実行することができる。
【0181】
また、上記実施形態の撮影装置10、情報端末40、情報処理装置20、情報処理装置21、および情報処理装置23は、クラウドシステム上で動作する仮想マシンとして実現されていてもよい。
【0182】
なお、上記には、本発明の実施形態および変形例を説明したが、上記実施形態および変形例は、例として提示したものであり、発明の範囲を限定することは意図していない。この新規な実施形態および変形例は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。この実施形態および変形例は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0183】
10 撮影装置
20、21、23 情報処理装置
27I 受付部
28A 3次元情報取得部
28B 姿勢情報取得部
28C 撮影画像取得部
28D 決定部
28E 削除部
28F 記憶制御部
28G 表示制御部
29J 設定部
40 情報端末
【先行技術文献】
【特許文献】
【0184】
【特許文献1】特開2020-16767号公報
図1
図2
図3A
図3B
図4A
図4B
図5A
図5B
図6A
図6B
図7
図8
図9
図10
図11
図12