(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-03-09
(45)【発行日】2023-03-17
(54)【発明の名称】三次元再構成装置、三次元再構成システム、三次元再構成方法、及び三次元再構成プログラム
(51)【国際特許分類】
G01B 11/00 20060101AFI20230310BHJP
G06T 7/579 20170101ALI20230310BHJP
H04N 23/695 20230101ALI20230310BHJP
【FI】
G01B11/00 Z
G06T7/579
H04N23/695
(21)【出願番号】P 2019004819
(22)【出願日】2019-01-16
【審査請求日】2021-06-23
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(73)【特許権者】
【識別番号】304000836
【氏名又は名称】学校法人 名古屋電気学園
(74)【代理人】
【識別番号】100116964
【氏名又は名称】山形 洋一
(74)【代理人】
【識別番号】100120477
【氏名又は名称】佐藤 賢改
(74)【代理人】
【識別番号】100135921
【氏名又は名称】篠原 昌彦
(74)【代理人】
【識別番号】100083840
【氏名又は名称】前田 実
(72)【発明者】
【氏名】山▲崎▼ 賢人
(72)【発明者】
【氏名】岡原 浩平
(72)【発明者】
【氏名】皆川 純
(72)【発明者】
【氏名】水野 慎士
(72)【発明者】
【氏名】坂田 真太郎
(72)【発明者】
【氏名】榊原 拓実
【審査官】國田 正久
(56)【参考文献】
【文献】特開2015-204512(JP,A)
【文献】特開平7-306012(JP,A)
【文献】国際公開第2005/080914(WO,A1)
【文献】国際公開第2016/111066(WO,A1)
【文献】特開2008-168372(JP,A)
【文献】国際公開第2019/211970(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01B 11/00 - 11/30
G01C 3/06
G06T 7/20 - 7/80
H04N 23/695
H04N 23/90
(57)【特許請求の範囲】
【請求項1】
予め決められた位置に配置され、動く対象物までの距離を示す深度情報を検出することで前記対象物を示す第1の三次元情報を生成する第1の
デプスカメラから、前記第1の三次元情報を取得し、
前記対象物における予め決められた大きさの範囲である注目箇所を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置によって移動可
能に備えられ、前
記注目箇所までの距離を示す深度情報を検出することで前記注目箇所を示す第2の三次元情報を生成する第2の
デプスカメラから、前記第2の三次元情報を取得する三次元情報取得部と、
前記第1の
デプスカメラに固有の特性を示す第1のセンサ情報及び前記第2の
デプスカメラに固有の特性を示す第2のセンサ情報を取得するセンサ情報取得部と、
前記第1の
デプスカメラの位置及び姿勢を示す第1の位置姿勢情報を取得し、前記第2の
デプスカメラの位置及び姿勢を示す第2の位置姿勢情報を取得する位置姿勢情報取得部と、
前記第1のセンサ情報、前記第2のセンサ情報、前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、前記第1の三次元情報及び前記第2の三次元情報から、前記注目箇所を示す三次元情報を再構成する三次元再構成部と、
を備えたことを特徴とする三次元再構成装置。
【請求項2】
前記三次元情報取得部は、前記第2の
デプスカメラから前記第2の三次元情報を実時間で取得することを特徴とする請求項1に記載の三次元再構成装置。
【請求項3】
前記位置姿勢情報取得部は、前記第2の
デプスカメラから前記第2の位置姿勢情報を実時間で取得することを特徴とする請求項1又は2に記載の三次元再構成装置。
【請求項4】
無線信号を受信する受信部をさらに備え、
前記三次元情報取得部は、前記受信部を介して、前記第2の
デプスカメラから前記第2の三次元情報を実時間で取得し、
前記位置姿勢情報取得部は、前記受信部を介して、前記第2の
デプスカメラから前記第2の位置姿勢情報を実時間で取得する
ことを特徴とする請求項1に記載の三次元再構成装置。
【請求項5】
前記位置姿勢情報取得部は、前記第2の三次元情報が示す前記注目箇所の移動情報に基づいて、前記第2の
デプスカメラの位置及び姿勢を推定することを特徴とする請求項1から4のいずれか1項に記載の三次元再構成装置。
【請求項6】
前記三次元再構成部によって再構成された前記三次元情報を記憶する記憶部をさらに有することを特徴とする請求項1から5のいずれか1項に記載の三次元再構成装置。
【請求項7】
予め決められた位置に配置され、動く対象物までの距離を示す深度情報を検出することで前記対象物を示す第1の三次元情報を生成する第1の
デプスカメラと、
前記対象物における予め決められた大きさの範囲である注目箇所を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置によって移動可
能に備えられ、前
記注目箇所までの距離を示す深度情報を検出することで前記注目箇所を示す第2の三次元情報を生成する第2の
デプスカメラと、
前記第1の三次元情報及び前記第2の三次元情報を取得する三次元情報取得部と、
前記第1の
デプスカメラに固有の特性を示す第1のセンサ情報及び前記第2の
デプスカメラに固有の特性を示す第2のセンサ情報を取得するセンサ情報取得部と、
前記第1の
デプスカメラの位置及び姿勢を示す第1の位置姿勢情報を取得し、前記第2の
デプスカメラの位置及び姿勢を示す第2の位置姿勢情報を取得する位置姿勢情報取得部と、
前記第1のセンサ情報、前記第2のセンサ情報、前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、前記第1の三次元情報及び前記第2の三次元情報から、前記注目箇所を示す三次元情報を再構成する三次元再構成部と、
を備えたことを特徴とする三次元再構成システム。
【請求項8】
前記移動装置は、前記第2の三次元情報に基づいて、前記注目箇所が前記第2の
デプスカメラの検出範囲から外れないように前記第2の
デプスカメラの位置及び姿勢を制御する
ことを特徴とする請求項7に記載の三次元再構成システム。
【請求項9】
前記移動装置は、前記第2の
デプスカメラから前記第2の三次元情報を実時間で取得することを特徴とする請求項8に記載の三次元再構成システム。
【請求項10】
前記移動装置は、前記第2の
デプスカメラから前記第2の位置姿勢情報を実時間で取得することを特徴とする請求項8又は9に記載の三次元再構成システム。
【請求項11】
前記移動装置は、前記第1の
デプスカメラの位置を考慮して前記第2の
デプスカメラの移動を制御することを特徴とする請求項8から10のいずれか1項に記載の三次元再構成システム。
【請求項12】
前記移動装置は、前記注目箇所が前記第1の
デプスカメラの検出範囲にある場合には、前記注目箇所が前記第
2の
デプスカメラの検出範囲から一時的に外れることを許容する制御を行うことを特徴とする請求項8から11のいずれか1項に記載の三次元再構成システム。
【請求項13】
前記位置姿勢情報取得部は、前記第2の三次元情報における前記注目箇所の移動に基づいて、前記第2の
デプスカメラの位置及び姿勢を推定することを特徴とする請求項7から12のいずれか1項に記載の三次元再構成システム。
【請求項14】
前記三次元情報取得部は、複数の前記第1の
デプスカメラから、複数の前記第1の三次元情報を取得し、
前記センサ情報取得部は、複数の前記第1のセンサ情報を取得し、
前記位置姿勢情報取得部は、複数の前記第1の位置姿勢情報を取得し、
前記三次元再構成部は、複数の前記第1のセンサ情報、前記第2のセンサ情報、複数の前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、複数の前記第1の三次元情報及び前記第2の三次元情報から、前記三次元情報を再構成する
ことを特徴とする請求項7から13のいずれか1項に記載の三次元再構成システム。
【請求項15】
前記三次元再構成部によって再構成された前記三次元情報を記憶する記憶部をさらに有することを特徴とする請求項7から14のいずれか1項に記載の三次元再構成システム。
【請求項16】
コンピュータによって実行される三次元再構成方法であって、
予め決められた位置に配置され、動く対象物までの距離を示す深度情報を検出することで前記対象物を示す第1の三次元情報を生成する第1の
デプスカメラから、前記第1の三次元情報を取得するステップと、
前記対象物における予め決められた大きさの範囲である注目箇所を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置によって移動可
能に備えられ、前
記注目箇所までの距離を示す深度情報を検出することで前記注目箇所を示す第2の三次元情報を生成する第2の
デプスカメラから、前記第2の三次元情報を取得するステップと、
前記第1の
デプスカメラに固有の特性を示す第1のセンサ情報及び前記第2の
デプスカメラに固有の特性を示す第2のセンサ情報を取得するステップと、
前記第1の
デプスカメラの位置及び姿勢を示す第1の位置姿勢情報を取得し、前記第2の
デプスカメラの位置及び姿勢を示す第2の位置姿勢情報を取得するステップと、
前記第1のセンサ情報、前記第2のセンサ情報、前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、前記第1の三次元情報及び前記第2の三次元情報から、前記注目箇所を示す三次元情報を再構成するステップと、
を有することを特徴とする三次元再構成方法。
【請求項17】
予め決められた位置に配置され、動く対象物までの距離を示す深度情報を検出することで前記対象物を示す第1の三次元情報を生成する第1の
デプスカメラから、前記第1の三次元情報を取得する処理と、
前記対象物における予め決められた大きさの範囲である注目箇所を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置によって移動可
能に備えられ、前
記注目箇所までの距離を示す深度情報を検出することで前記注目箇所を示す第2の三次元情報を生成する第2の
デプスカメラから、前記第2の三次元情報を取得する処理と、
前記第1の
デプスカメラに固有の特性を示す第1のセンサ情報及び前記第2の
デプスカメラに固有の特性を示す第2のセンサ情報を取得する処理と、
前記第1の
デプスカメラの位置及び姿勢を示す第1の位置姿勢情報を取得し、前記第2の
デプスカメラの位置及び姿勢を示す第2の位置姿勢情報を取得する処理と、
前記第1のセンサ情報、前記第2のセンサ情報、前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、前記第1の三次元情報及び前記第2の三次元情報から、前記注目箇所を示す三次元情報を再構成する処理と、
をコンピュータに実行させることを特徴とする三次元再構成プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、三次元再構成装置、三次元再構成システム、三次元再構成方法、及び三次元再構成プログラムに関する。
【背景技術】
【0002】
複数台のセンサによって取得された複数の現実空間情報を用いて、現実空間内に存在する対象物の三次元情報を再構成するシステムの提案がある(例えば、非特許文献1参照)。複数台のセンサは、例えば、複数台のキネクトである。キネクトは、マクロソフト社の登録商標である。キネクトは、モーションキャプチャの一例である。センサによって取得された現実空間情報は、例えば、センサから対象物までの距離を示す深度情報である。再構成された三次元情報は、センサによって取得された複数の現実空間情報を統合することによって生成された統合空間情報である。
【先行技術文献】
【非特許文献】
【0003】
【文献】Marek Kowalski、外2名、 “Livescan3D: A Fast and Inexpensive 3D Data Acquisition System for Multiple Kinect v2 Sensors”
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、現実空間内の状況を正確に把握するには、全体を大まかに、注目箇所を詳細に把握する必要がある。しかし注目箇所は移動する可能性もあるため、たとえ複数台のセンサを設置したとしても、注目箇所が検出可能範囲から外れて、もしくは分解能不足によって、把握に必要な情報が欠落するおそれがある。このような状況の発生を減らすために、注目箇所の移動経路に沿ってセンサを増設することが考えられるが、センサの増設によってシステムのコストが増加するという問題がある。
【0005】
本発明は、上記従来技術の課題を解決するためになされたものであり、注目箇所を示す三次元情報を低コストで再構成することができる三次元再構成装置及び三次元再構成システム、並びに、注目箇所を示す三次元情報を低コストで再構成するために使用される三次元再構成方法及び三次元再構成プログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の一態様に係る三次元再構成装置は、予め決められた位置に配置され、動く対象物までの距離を示す深度情報を検出することで前記対象物を示す第1の三次元情報を生成する第1のデプスカメラから、前記第1の三次元情報を取得し、前記対象物における予め決められた大きさの範囲である注目箇所を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置によって移動可能に備えられ、前記注目箇所までの距離を示す深度情報を検出することで前記注目箇所を示す第2の三次元情報を生成する第2のデプスカメラから、前記第2の三次元情報を取得する三次元情報取得部と、前記第1のデプスカメラに固有の特性を示す第1のセンサ情報及び前記第2のデプスカメラに固有の特性を示す第2のセンサ情報を取得するセンサ情報取得部と、前記第1のデプスカメラの位置及び姿勢を示す第1の位置姿勢情報を取得し、前記第2のデプスカメラの位置及び姿勢を示す第2の位置姿勢情報を取得する位置姿勢情報取得部と、前記第1のセンサ情報、前記第2のセンサ情報、前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、前記第1の三次元情報及び前記第2の三次元情報から、前記注目箇所を示す三次元情報を再構成する三次元再構成部と、を備えたことを特徴とする。
【0007】
本発明の他の態様に係る三次元再構成方法は、コンピュータによって実行される方法であって、予め決められた位置に配置され、動く対象物までの距離を示す深度情報を検出することで前記対象物を示す第1の三次元情報を生成する第1のデプスカメラから、前記第1の三次元情報を取得するステップと、前記対象物における予め決められた大きさの範囲である注目箇所を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置によって移動可能に備えられ、前記注目箇所までの距離を示す深度情報を検出することで前記注目箇所を示す第2の三次元情報を生成する第2のデプスカメラから、前記第2の三次元情報を取得するステップと、前記第1のデプスカメラに固有の特性を示す第1のセンサ情報及び前記第2のデプスカメラに固有の特性を示す第2のセンサ情報を取得するステップと、前記第1のデプスカメラの位置及び姿勢を示す第1の位置姿勢情報を取得し、前記第2のデプスカメラの位置及び姿勢を示す第2の位置姿勢情報を取得するステップと、前記第1のセンサ情報、前記第2のセンサ情報、前記第1の位置姿勢情報、及び前記第2の位置姿勢情報を用いて、前記第1の三次元情報及び前記第2の三次元情報から、前記注目箇所を示す三次元情報を再構成するステップと、を有することを特徴とする。
【発明の効果】
【0008】
本発明によれば、空間の状況把握に必要な三次元情報を低コストで再構成することができるという効果が得られる。
【図面の簡単な説明】
【0009】
【
図1】本発明の実施の形態1に係る三次元再構成装置に現実空間情報である三次元情報を提供する複数台のセンサと現実空間内に存在する対象物との配置の例を概略的に示す図である。
【
図2】実施の形態1に係る三次元再構成装置に三次元情報を提供する複数台のセンサと現実空間内に存在する対象物との配置の他の例を概略的に示す図である。
【
図3】実施の形態1に係る三次元再構成装置に三次元情報を提供する複数台のセンサと現実空間内に存在する対象物との配置の他の例を概略的に示す図である。
【
図4】実施の形態1に係る三次元再構成装置に三次元情報を提供する複数台のセンサと現実空間内に存在する対象物との配置の他の例を概略的に示す図である。
【
図5】実施の形態1に係る三次元再構成装置の構成を概略的に示す機能ブロック図である。
【
図6】実施の形態1に係る三次元再構成装置のハードウェア構成の例を示す図である。
【
図7】実施の形態1に係る三次元再構成装置の動作を示すフローチャートである。
【
図8】図
7における三次元情報の再構成の動作を示すフローチャートである。
【
図9】本発明の実施の形態2に係る三次元再構成装置に現実空間情報である三次元情報を提供する複数台のセンサと現実空間内に存在する対象物との配置の例を概略的に示す図である。
【
図10】無人移動装置の構成例を示す概略図である。
【
図11】
図10に示される無人移動装置の構成を概略的に示す機能ブロック図である。
【
図12】実施の形態2に係る三次元再構成装置の構成を概略的に示す機能ブロック図である。
【
図13】実施の形態2に係る三次元再構成装置の動作を示すフローチャートである。
【
図14】
図13における三次元情報の再構成の動作を示すフローチャートである。
【
図15】無人移動装置の他の構成例を示す概略図である。
【
図16】
図15に示される無人移動装置の構成を概略的に示す機能ブロック図である。
【発明を実施するための形態】
【0010】
以下に、本発明の実施の形態に係る三次元再構成装置、三次元再構成システム、三次元再構成方法、及び三次元再構成プログラムを、図面を参照しながら説明する。以下の実施の形態は、例にすぎず、本発明の範囲内で種々の変更が可能である。また、以下の実施の形態の構成を適宜組み合わせることが可能である。
【0011】
実施の形態1.
図1は、実施の形態1に係る三次元再構成装置60に現実空間情報である三次元情報を提供する複数台のセンサ10,20,30,40,50と現実空間内に存在する対象物A
0との配置の例を概略的に示す図である。三次元再構成装置60は、センサ10,20,30,40,50によって取得された複数の現実空間情報を統合することによって統合空間情報を生成する。すなわち、三次元再構成装置60は、センサ10,20,30,40,50によって取得された複数の三次元情報を統合することによって統合された三次元情報を再構成する。また、三次元再構成装置60とセンサ10,20,30,40,50とは、三次元再構成システム1を構成する。
【0012】
センサ10,20,30,40,50は、現実空間の情報を取得する装置である。センサ10,20,30,40,50は、センサ10,20,30,40,50から対象物A0までの距離を示す深度情報を取得することができる。センサ10,20,30,40,50は、例えば、デプスカメラである。センサ10,20,30,40,50は、モーションキャプチャとも称される。センサ10,20,30,40,50が使用する測定原理は、例えば、TOF(Time Of Flight)方式である。ただし、センサ10,20,30,40,50が使用する測定原理は、現実空間情報を示す三次元情報を生成することができるものであれば、何であってもよい。
【0013】
センサ10,20,30,40は、予め決められた位置に配置されている。センサ10,20,30,40は、「第1のセンサ」とも称される。センサ10,20,30,40は、例えば、天井、壁、他の構造物、などに固定されたセンサである。センサ10,20,30,40は、検出範囲R10,R20,R30,R40内にある物体の表面までの距離をそれぞれ計測する。センサ10,20,30,40は、例えば、対象物A0を検出することで対象物A0を示す現実空間情報である三次元情報D10,D20,D30,D40を生成する。三次元情報D10,D20,D30,D40は、「第1の三次元情報」とも称される。
図1では、対象物A0は、作業員である。ただし、対象物A0は、動く機械、移動する製品、加工途中の物品、などであってもよい。また、予め決められた位置に配置されているセンサの台数は、4台に限定されず、4台以外の台数であってもよい。
【0014】
センサ50は、移動可能に備えられている。センサ50は、「第2のセンサ」とも称される。センサ50は、自身の位置を変えることが可能なセンサ、自身の姿勢を変えることが可能なセンサ、又は自身の位置及び姿勢の両方を変えることが可能なセンサである。センサ50の位置及び姿勢は、センサの取扱者がセンサ50を保持し、センサ50を動かすことによって変更することができる。センサ50は、センサ50の位置及び姿勢を変更可能に支持する支持装置に設置され、取扱者がセンサ50の位置及び姿勢を変更してもよい。
【0015】
また、センサ50の位置又は姿勢は、センサの取扱者ではなく、センサ50の位置及び姿勢を変更する移動装置によって変更されてもよい。例えば、センサ50は、注目箇所A1を検出し続けるように、自身の位置及び姿勢を制御する自動トラッキング機能を備えた移動装置に搭載されてもよい。この移動装置は、例えば、無人走行車、「ドローン」と称される無人航空機、無人航行船舶、などであってもよい。自動トラッキング機能を備えた移動装置については、後述の実施の形態2及び3で説明される。
【0016】
センサ50は、検出範囲R50内にある物体の表面までの距離を計測する。センサ50は、例えば、対象物A0の注目箇所A1を検出することで注目箇所A1を示す現実空間情報である三次元情報D50を生成する。三次元情報D50は、「第2の三次元情報」とも称される。注目箇所A1は、センサ50によって検出され続けることが望まれている領域である。例えば、対象物A0が作業員であるとき、注目箇所A1は作業員の手によって組み立てられている製造中の物品である。
図1では、注目箇所A1は、対象物A0である作業員の前方の胸付近の予め決められた大きさの範囲として描かれている。ただし、注目箇所A1は、他の位置及び他の大きさの範囲であってもよい。
【0017】
図2は、実施の形態1に係る三次元再構成装置に現実空間情報である三次元情報を提供する複数台のセンサ10,20,30,40,50と現実空間内に存在する対象物A0との配置の他の例を概略的に示す図である。
図2において、
図1に示される構成要素と同一又は対応する構成要素には、
図1に示される符号と同じ符号が付されている。
図1では、対象物A0がセンサ10,20,30,40の中間位置付近に存在しているが、
図2では、対象物A0がセンサ30に近付き、その結果、注目箇所A1がセンサ30に近付いている。このとき、センサ50は、注目箇所A1の移動に伴って移動して、注目箇所A1の検出を継続している。注目箇所A1の検出を継続するためには、センサ50の検出範囲R
50内に注目箇所A1が存在し続けるように、センサ50の位置、姿勢、又は位置及び姿勢の両方が変更される。
【0018】
図3は、実施の形態1に係る三次元再構成装置に現実空間情報である三次元情報を提供する複数台のセンサ10,20,30,40,50と現実空間内に存在する対象物A0との配置の他の例を概略的に示す図である。
図3において、
図1に示される構成要素と同一又は対応する構成要素には、
図1に示される符号と同じ符号が付されている。
図1では、対象物A0である作業員がセンサ40に顔を向けているが、
図3では、対象物A0である作業員がセンサ30に顔を向けている。その結果、
図3では、注目箇所A1がセンサ30を向いた状態である。このとき、センサ50は、注目箇所A1の移動に伴って移動して、注目箇所A1の検出を継続している。つまり、センサ50の検出範囲R
50内に注目箇所A1が存在し続けるように、センサ50の位置、姿勢、又は位置及び姿勢の両方が変更されている。
【0019】
図4は、実施の形態1に係る三次元再構成装置に現実空間情報である三次元情報を提供する複数台のセンサ10,20,30,40,50と現実空間内に存在する対象物A0との配置の他の例を概略的に示す図である。
図4において、
図1に示される構成要素と同一又は対応する構成要素には、
図1に示される符号と同じ符号が付されている。
図1では、対象物A0の注目箇所A1とセンサ50との間に障害物は存在しないが、図
4では、対象物A0の注目箇所A1とセンサ50との間に障害物B0が入った状態を示している。このとき、センサ50は、障害物B0の位置に応じて移動して、注目箇所A1の検出を継続している。センサ50の検出範囲R
50内に注目箇所A1が存在し続けるように、センサ50の位置、姿勢、又は位置及び姿勢の両方が変更されている。
【0020】
図5は、実施の形態1に係る三次元再構成装置60の構成を概略的に示す機能ブロック図である。三次元再構成装置60は、実施の形態1に係る三次元再構成方法を実施することができる装置である。三次元再構成装置60は、例えば、コンピュータである。
【0021】
図5に示されるように、三次元再構成装置60は、位置姿勢情報取得部61と、センサ情報取得部62と、三次元情報取得部63と、三次元再構成部64とを備えている。三次元再構成装置60は、三次元情報を記憶する記憶装置である記憶部65を備えてもよい。記憶部65は、三次元再構成装置60に接続された外部の記憶装置であってもよい。
【0022】
三次元情報取得部63は、センサ10,20,30,40から、現実空間情報である三次元情報D10,D20,D30,D40を取得する。また、三次元情報取得部63は、センサ50から、注目箇所A1を示す現実空間情報である三次元情報D50を取得する。三次元情報取得部63は、注目箇所A1を示す現実空間情報である三次元情報D50を実時間で取得することが望ましい。実時間で取得するとは、三次元情報を一時的に保存する処理を行わずに、三次元情報を取得することである。
【0023】
センサ情報取得部62は、センサ10,20,30,40の各々に固有の特性を示すセンサ情報I10,I20,I30,I40を取得する。センサ情報I10,I20,I30,I40は、「第1のセンサ情報」とも称される。センサ情報取得部62は、センサ50に固有の特性を示すセンサ情報I50を取得する。センサ情報I50は、「第2のセンサ情報」とも称される。センサ情報I10,I20,I30,I40は、事前に取得される。センサ情報I10,I20,I30,I40は、ユーザ操作などによって事前に入力される。ただし、センサ情報I10,I20,I30,I40は、センサ10,20,30,40から取得されてもよい。センサ情報I50は、ユーザ操作などによって事前に入力される。ただし、センサ情報I50は、センサ50から取得されてもよい。
【0024】
センサ10,20,30,40,50が、カメラである場合には、センサ情報I10,I20,I30,I40,I50は、カメラの焦点距離などの内部パラメータを含むことができる。
【0025】
位置姿勢情報取得部61は、センサ10,20,30,40の各々の位置及び姿勢を示す位置姿勢情報E10,E20,E30,E40を取得する。位置姿勢情報E10,E20,E30,E40は、「第1の位置姿勢情報」とも称される。位置姿勢情報取得部61は、センサ50の位置及び姿勢を示す位置姿勢情報E50を取得する。位置姿勢情報取得部61は、センサ50によって取得される三次元情報が示す注目箇所の移動情報(例えば、移動方向、移動量など)に基づいて、センサ50の位置及び姿勢を推定してもよい。位置姿勢情報E50は、「第2の位置姿勢情報」とも称される。位置姿勢情報E10,E20,E30,E40,E50は、世界座標系で示される情報である。位置姿勢情報E10,E20,E30,E40は、事前に取得される。位置姿勢情報E10,E20,E30,E40は、ユーザ操作などによって事前に入力される。ただし、位置姿勢情報E10,E20,E30,E40は、センサ10,20,30,40から取得されてもよい。位置姿勢情報E50は、センサ50から取得される。位置姿勢情報取得部61は、センサ50の位置及び姿勢を示す位置姿勢情報E50を実時間で取得することが望ましい。
【0026】
センサ10,20,30,40,50の位置は世界座標系で表されることが望ましい。センサ10,20,30,40,50の姿勢は、検出方向で表される。位置姿勢情報E10,E20,E30,E40,E50とセンサ情報I10,I20,I30,I40,I50とから、センサ10,20,30,40,50の検出範囲(すなわち、検出レンジ)R10,R20,R30,R40,R50が決定される。
【0027】
三次元再構成部64は、センサ情報I10,I20,I30,I40、センサ情報I50、位置姿勢情報E10,E20,E30,E40、及び位置姿勢情報E50を用いて、三次元情報D10,D20,D30,D40及び三次元情報D50から、注目箇所A1を示す三次元情報を再構成する。記憶部65は、三次元再構成部64で再構成された三次元情報を記憶する。なお、再構成された三次元情報は、表示装置に出力されてもよい。
【0028】
図6は、実施の形態1に係る三次元再構成装置60のハードウェア構成の例を示す図である。三次元再構成装置60は、例えば、ソフトウェアとしてのプログラム、すなわち、実施の形態1に係る三次元再構成プログラムを格納する記憶装置としてのメモリ102と、メモリ102に格納されたプログラムを実行する情報処理部としてのプロセッサ101とを備える。三次元再構成装置60は、汎用のコンピュータであってもよい。プロセッサ101は、演算装置である。演算装置は、CPU(Centaral Processiong Unit)である。演算装置は、CPUに加えてGPU(Graphics Processing Unit)を有してもよい。演算装置は、時刻情報を提供する時刻提供機能を備えてもよい。
【0029】
実施の形態1に係る三次元再構成プログラムは、情報を記憶する記憶媒体から媒体読取装置(図示せず)を介して又はインターネットなどに接続可能な通信インタフェース(図示せず)を介してメモリ102に格納される。また、三次元再構成装置60は、データベースなどの各種情報を格納する記憶装置であるストレージ103を有してもよい。ストレージ103は、通信インタフェース(図示せず)を介して接続可能なクラウド上に存在する記憶装置であってもよい。また、三次元再構成装置60には、マウス及びキーボードなどのようなユーザ操作部である入力装置104が接続されてもよい。さらに、三次元再構成装置60には、画像を表示するディスプレイである表示装置105が接続されてもよい。入力装置104及び表示装置105は、三次元再構成装置60の一部であってもよい。
【0030】
図6に示される位置姿勢情報取得部61、センサ情報取得部62、三次元情報取得部63、及び三次元再構成部64は、メモリ102に格納されているプログラムを実行するプロセッサ101によって実現されることができる。また、
図5に示される記憶部65は、ストレージ103の一部であってもよい。
【0031】
図7は、実施の形態1に係る三次元再構成装置60の動作を示すフローチャートである。ただし、三次元再構成装置60の動作は、
図7の例に限定されず、種々の変更が可能である。
【0032】
ステップS11において、センサ情報取得部62は、センサ10,20,30,40のセンサ情報I10,I20,I30,I40を取得する。センサ情報I10,I20,I30,I40は、例えば、三次元計測可能なセンサにおける内部パラメータである。
【0033】
ステップS12において、位置姿勢情報取得部61は、センサ10,20,30,40の位置姿勢情報E10,E20,E30,E40を取得する。このときのセンサ10,20,30,40の位置及び姿勢は、世界座標系によって表わされる。
【0034】
ステップS13において、三次元情報取得部63は、センサ10,20,30,40,50から現実空間の三次元情報D10,D20,D30,D40,D50を取得する。
【0035】
ステップS14において、三次元再構成部64は、センサ情報I10,I20,I30,I40、センサ情報I50、位置姿勢情報E10,E20,E30,E40、及び位置姿勢情報E50を用いて、現実空間の三次元情報D10,D20,D30,D40,D50を統合することによって、三次元情報を再構成する。統合される三次元情報D10,D20,D30,D40,D50は、同時刻にサンプリングされたものであることが望ましい。
【0036】
ステップS15において、再構成された三次元情報は、記憶部65に記憶される。記憶部65に記憶された、再構成された三次元情報には時刻を示す付加情報であるタイムスタンプが付与される。タイムスタンプが付与された三次元情報は、動画像又は静止画像として、
図6に示される表示装置105に表示されることができる。
【0037】
ステップS13からS15の処理は、例えば、一定の時間間隔で、終了命令が入力されるまで繰り返される。
【0038】
図8は、
図7における三次元情報の再構成の処理であるステップS14の動作を示すフローチャートである。ただし、三次元情報の再構成の処理は、
図8の例に限定されず、種々の変更が可能である。
【0039】
ステップS141において、位置姿勢情報取得部61は、移動可能なセンサ50の位置姿勢情報E50を取得する。
【0040】
ステップS142において、センサ情報取得部62は、移動可能なセンサ50のセンサ情報I50を取得する。
【0041】
ステップS143において、三次元再構成部64は、センサ10,20,30,40,50の時刻同期を行う。時刻同期により、センサ10,20,30,40,50における時刻が、三次元再構成装置60の時刻に同期する。
【0042】
ステップS144において、三次元再構成部64は、センサ10,20,30,40,50の各々の座標系における点群(Point Cloud)で表された三次元情報を、共通の座標系である世界座標系における点群で表された三次元情報に変換するための座標変換を行う。
【0043】
ステップS145において、三次元再構成部64は、座標変換された三次元情報を統合するための処理を行う。このときに、互いに重複する三次元情報の部分で、一方の三次元情報を削除するなどの処理が行われる。この三次元情報の削除は、公知の方法で行うことができる。公知の方法の一例は、ボクセルフィルタを用いる方法である。
【0044】
以上に説明したように、実施の形態1に係る三次元再構成装置60、三次元再構成システム1、三次元再構成方法、又は三次元再構成プログラムを用いれば、注目箇所A1の情報を欠落させることなく、三次元情報を再構成して、記憶部65に格納することができる。また、注目箇所A1が検出範囲内にある場合であっても、センサから注目箇所A1までの距離が長い場合には、現実空間情報の情報量が低下する(例えば、解像度などが低下する)おそれがある。しかし、実施の形態1に係る三次元再構成装置60、三次元再構成システム1、三次元再構成方法、又は三次元再構成プログラムを用いれば、注目箇所A1の情報の欠落を生じさせないだけでなく、注目箇所A1を詳細に示す三次元情報及び注目箇所A1を含む広い空間を示す三次元情報を、継続して取得し続けることができる。
【0045】
また、実施の形態1では、対象物A0の移動経路に沿って多数のセンサを追加する必要がないので、システムのコストの増加を抑制することができる。また、注目箇所A1をより詳細に示す三次元情報、又は注目箇所A1の全体を含む空間を示す三次元情報を低コストで再構成することができる。
【0046】
実施の形態2.
上記実施の形態1では、センサ10,20,30,40,50が三次元再構成装置60に直接接続されている例を説明した。しかし、センサ10,20,30,40,50と三次元再構成装置とは、無線通信機能を有するセンサ制御装置を介して通信を行ってもよい。
【0047】
図9は、実施の形態2に係る三次元再構成装置70に現実空間情報である三次元情報を提供する複数台のセンサ10,20,30,40,50と現実空間内に存在する対象物A0との配置の例を概略的に示す図である。
図9において、
図1に示される構成要素と同一又は対応する構成要素には、
図1に示される符号と同じ符号が付されている。三次元再構成装置70は、実施の形態2に係る三次元再構成方法を実施することができる装置である。実施の形態2においては、センサ10,20,30,40,50は、それぞれセンサ制御装置11,21,31,41,51を介して、三次元再構成装置70と通信を行う。三次元再構成装置70、センサ10,20,30,40,50、及びセンサ制御装置11,21,31,41,51は、三次元再構成システム2を構成する。
【0048】
センサ制御装置11,21,31,41,51は、センサ10,20,30,40,50によって検出された三次元情報D10,D20,D30,D40,D50を三次元再構成装置70に送信する。また、センサ制御装置11,21,31,41,51は、センサ10,20,30,40,50のセンサ情報I10,I20,I30,I40,I50及び位置姿勢情報E10,E20,E30,E40,E50を、三次元再構成装置70に、送信してもよい。
【0049】
また、実施の形態2においては、センサ50及びセンサ制御装置51は、移動装置としての無人移動装置200に搭載されている。無人移動装置200は、例えば、無人走行車両、無人航空機、無人運転船、無人潜水船などを含むことができる。また、無人移動装置200は、センサ50の姿勢を変更する機構を備えてもよい。無人移動装置200は、センサ50による検出情報に基づいて、センサ50が注目箇所A1を検出し続けるように、センサ50の位置及び姿勢を制御する自動トラッキング機能を備えてもよい。
【0050】
図10は、無人移動装置200の構成例を示す概略図である。
図11は、無人移動装置200の構成を概略的に示す機能ブロック図である。無人移動装置200は、センサ50から現実空間の三次元情報D50を取得する検出情報取得部210と、三次元情報D50に基づいて、センサ50の位置及び姿勢の変更指示情報を生成する位置姿勢変更指示部220と、駆動制御部230と、位置変更部240と、姿勢変更部250とを備えている。検出情報取得部210は、三次元情報D50を実時間で取得することが望ましい。検出情報取得部210は、位置姿勢情報E50を取得してもよい。この場合、検出情報取得部210は、位置姿勢情報E50を実時間で取得することが望ましい。
【0051】
無人移動装置200の位置変更部240は、床面を、互いに直行するx方向及びy方向に走行する走行機構であるx方向駆動部241及びy方向駆動部242を有している。x方向駆動部241及びy方向駆動部242は、車輪、車輪を駆動するための駆動力を発生するモータ、モータで発生した駆動力を車輪に伝えるギヤなどの動力伝達機構、などを備える。
【0052】
また、位置変更部240は、センサ50をz方向に上下移動させる昇降機構であるz方向駆動部243を有している。z方向駆動部243は、センサ50などを支持する支持台、支持台を上下移動させるための駆動力を発生するモータ、モータで発生した駆動力を支持台に伝えるギヤなどの動力伝達機構、などを備える。
【0053】
また、無人移動装置200の姿勢変更部250は、センサ50の方位角θaを変更する方位角変更機構を含むθa方向駆動部251と、センサ50の仰角θeを変更する仰角変更機構を含むθe方向駆動部252とを有している。θa方向駆動部251及びθe方向駆動部252は、センサ50又はその支持台を水平軸線又は垂直軸線を中心にして回転動作させるための駆動力を発生するモータ、モータで発生した駆動力をセンサ50又はその支持台に伝えるギヤなどの動力伝達機構、などを備える。
【0054】
例えば、位置姿勢変更指示部220は、三次元情報D50における注目箇所A1内の特徴点を抽出し、特徴点が予め決められた検出範囲から外れないようにセンサ50の位置及び姿勢を制御するための、位置及び姿勢の変更指示情報を駆動制御部230に与える。ただし、位置姿勢変更指示部220は、センサ10,20,30,40の位置を考慮して、変更指示情報を生成してもよい。例えば、注目箇所A1が、センサ10,20,30,40の検出範囲R10,R20,R30,R40のいずれかの範囲内である場合には、位置姿勢変更指示部220は、センサ50の検出範囲R50から注目箇所A1が一時的に外れることを許容してもよい。この場合には、無人移動装置200は、センサ10,20,30,40の検出範囲R10,R20,R30,R40に関する情報を、事前の入力操作で取得している。また、無人移動装置200は、センサ10,20,30,40の検出範囲R10,R20,R30,R40に関する情報を取得するための、センサ10,20,30,40との間の通信を行う通信装置を備えてもよい。
【0055】
駆動制御部230は、受け取った変更指示情報にしたがって、位置変更部240及び姿勢変更部250を制御する。
【0056】
また、
図10及び
図11に示される構成は、実施の形態1にも適用可能である。また、
図11に示される無人移動装置200の構成を、
図6の構成と同様に、プログラムを記憶するメモリと、プログラムを実行するプロセッサとによって実現することが可能である。
【0057】
また、センサ50の位置及び姿勢の制御は、インサイドアウト方式に限定されず、アウトサイドイン方式で行われてもよい。例えば、無人移動装置200は、センサ50の位置及び姿勢を検出する外部の検出器を備え、位置姿勢変更指示部220は、この外部の検出器の検出信号に基づいて位置姿勢変更指示を出力してもよい。
【0058】
図12は、実施の形態2に係る三次元再構成装置70の構成を概略的に示す機能ブロック図である。
図12において、
図5に示される構成要素と同一又は対応する構成要素には、
図5に示される符号と同じ符号が付される。三次元再構成装置70は、受信部71を備えている点において、実施の形態1に係る三次元再構成装置60と異なる。受信部71は、センサ制御装置11,21,31,41,51を介してセンサ10,20,30,40,50から送信された情報を受信する。
【0059】
センサ制御装置11,21,31,41,51の各々は、センサによる検出情報を取得する検出情報取得部12と、情報を受信部71に無線で送信する送信部13とを備えている。
【0060】
図13は、実施の形態2に係る三次元再構成装置70の動作を示すフローチャートである。ステップS21,S22,S25における処理は、図
7におけるステップS11,S12,S15における処理と同じである。ステップS23,S24における処理は、図
7におけるステップS13,S14における処理と同様である。ただし、実施の形態2では、三次元再構成装置70は、受信部71を介して各種の情報を取得する。
【0061】
ステップS23においては、受信部71は、センサ10,20,30,40,50からセンサ制御装置11,21,31,41,51を介して、現実空間の三次元情報D10,D20,D30,D40,D50を受信する。三次元情報取得部63は、受信部71から現実空間の三次元情報D10,D20,D30,D40,D50を取得する。
【0062】
図14は、図
13における三次元情報の再構成の処理であるステップS24の動作を示すフローチャートである。ステップS241において、受信部71は、移動可能なセンサ50の位置姿勢情報E50を受信し、位置姿勢情報取得部61は、位置姿勢情報E50を受信部71から取得する。
【0063】
ステップS242において、受信部71は、移動可能なセンサ50のセンサ情報I50を受信し、センサ情報取得部62は、センサ情報I50を受信部71から取得する。
【0064】
ステップS243からS245の処理は、図8におけるステップS143からS145の処理と同じである。
【0065】
以上に説明したように、実施の形態2に係る三次元再構成装置70、三次元再構成システム2、三次元再構成方法、又は三次元再構成プログラムを用いれば、注目箇所A1の情報を欠落させることなく、三次元情報を再構成することができる。
【0066】
また、対象物A0の移動経路に沿って多数のセンサを追加する必要がないので、システムのコストの増加を抑制することができる。
【0067】
上記以外の点について、実施の形態2は、実施の形態1と同じである。
【0068】
実施の形態2の変形例.
図15は、無人移動装置300の構成例を示す概略図である。図
16は、無人移動装置300の構成を概略的に示す機能ブロック図である。無人移動装置300は、センサ50から現実空間の三次元情報D50を実時間で取得する検出情報取得部310と、三次元情報D50に基づいて、センサ50の位置及び姿勢の変更指示情報を生成する位置姿勢変更指示部320と、駆動制御部330と、位置変更部340と、姿勢変更部350とを備えている。
【0069】
無人移動装置300は、無人航空機を含む。無人移動装置300の位置変更部340は、空中を、互いに直行するx方向、y方向、z方向に移動するため飛行駆動部341を有している。飛行駆動部341は、プロペラ、プロペラを回転させる駆動力を発生するモータ、などを備える。
【0070】
また、無人移動装置300の姿勢変更部350は、センサ50の方位角θaを変更する方位角変更機構を含むθa方向駆動部351と、センサ50の仰角θeを変更する仰角変更機構を含むθe方向駆動部352とを有している。θa方向駆動部351及びθe方向駆動部352は、センサ50又はその支持台を水平軸線又は垂直軸線を中心にして回転動作させるための駆動力を発生するモータ、モータで発生した駆動力をセンサ50又はその支持台に伝えるギヤなどの動力伝達機構、などを備える。
【0071】
例えば、位置姿勢変更指示部320は、三次元情報D50における注目箇所A1内の特徴点を抽出し、特徴点が予め決められた検出範囲から外れないようにセンサ50の位置及び姿勢を制御するための、位置及び姿勢の変更指示情報を駆動制御部330に与える。駆動制御部330は、受け取った変更指示情報にしたがって、位置変更部340及び姿勢変更部350を制御する。
【0072】
また、
図15及び
図16に示される構成は、実施の形態1にも適用可能である。また、図
16に示される無人移動装置300の構成を、プログラムを記憶するメモリと、プログラムを実行するプロセッサとによって実現することが可能である。上記以外に関し、
図15及び
図16の例は、
図10及び
図11の例と同じである。
【0073】
さらに、無人移動装置300は、水上を移動する無人航行船、水中を移動する無人潜水船、予め敷設されたレール上を走行する無人走行車、などであってもよい。
【0074】
上記各実施の形態で説明した三次元再構成装置及び三次元再構成システムは、工場における作業員の作業の監視、製造途中の製品の監視、などに適用可能である。
【符号の説明】
【0075】
1,2 三次元再構成システム、 10,20,30,40 センサ、 50 センサ、 11,21,31,41,51 センサ制御装置、 12 検出情報取得部、 13 送信部、 60,70 三次元再構成装置、 61 位置姿勢情報取得部、 62 センサ情報取得部、 63 三次元情報取得部、 64 三次元再構成部、 65 記憶部、 71 受信部、 200,300 無人移動装置、 210,310 検出情報取得部、 220,320 位置姿勢変更指示部、 230,330 駆動制御部、 240,340 位置変更部、 250,350 姿勢変更部、 A0 対象物、 A1 注目箇所、 D10,D20,D30,D40 三次元情報、 D50 三次元情報、 E10,E20,E30,E40 位置姿勢情報、 E50 位置姿勢情報、 I10,I20,I30,I40 センサ情報、 I50 センサ情報、 R10,R20,R30,R40 検出範囲、 R50 検出範囲。