IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 東京電力株式会社の特許一覧 ▶ 株式会社東設土木コンサルタントの特許一覧 ▶ 株式会社構造計画研究所の特許一覧

特開2023-492873次元情報生成システム、及びプログラム
<>
  • 特開-3次元情報生成システム、及びプログラム 図1
  • 特開-3次元情報生成システム、及びプログラム 図2
  • 特開-3次元情報生成システム、及びプログラム 図3
  • 特開-3次元情報生成システム、及びプログラム 図4
  • 特開-3次元情報生成システム、及びプログラム 図5
  • 特開-3次元情報生成システム、及びプログラム 図6
  • 特開-3次元情報生成システム、及びプログラム 図7
  • 特開-3次元情報生成システム、及びプログラム 図8
  • 特開-3次元情報生成システム、及びプログラム 図9
  • 特開-3次元情報生成システム、及びプログラム 図10
  • 特開-3次元情報生成システム、及びプログラム 図11
  • 特開-3次元情報生成システム、及びプログラム 図12
  • 特開-3次元情報生成システム、及びプログラム 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023049287
(43)【公開日】2023-04-10
(54)【発明の名称】3次元情報生成システム、及びプログラム
(51)【国際特許分類】
   G01C 11/06 20060101AFI20230403BHJP
   G01C 15/00 20060101ALI20230403BHJP
   G01C 7/06 20060101ALI20230403BHJP
【FI】
G01C11/06
G01C15/00 104A
G01C7/06
【審査請求】未請求
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2021158944
(22)【出願日】2021-09-29
(71)【出願人】
【識別番号】000003687
【氏名又は名称】東京電力ホールディングス株式会社
(71)【出願人】
【識別番号】501091006
【氏名又は名称】株式会社東設土木コンサルタント
(71)【出願人】
【識別番号】591280197
【氏名又は名称】株式会社構造計画研究所
(74)【代理人】
【識別番号】100149548
【弁理士】
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100175824
【弁理士】
【氏名又は名称】小林 淳一
(74)【代理人】
【識別番号】100140774
【弁理士】
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100179833
【弁理士】
【氏名又は名称】松本 将尚
(74)【代理人】
【識別番号】100114937
【弁理士】
【氏名又は名称】松本 裕幸
(72)【発明者】
【氏名】森 文章
(72)【発明者】
【氏名】矢羽野 隆次
(72)【発明者】
【氏名】黒瀬 高秀
(72)【発明者】
【氏名】作中 隆之
(72)【発明者】
【氏名】恩知 憲正
(72)【発明者】
【氏名】梅田 雅之
(72)【発明者】
【氏名】松山 祐樹
(72)【発明者】
【氏名】茂木 正敏
(57)【要約】
【課題】対象物の3次元形状を示す3次元情報の測定精度を高めることができること。
【解決手段】3次元情報生成システムは、対象物の画像を撮像する撮像部と、対象物に所定視点から光を照射して対象物から反射された光を受光することによって取得される所定視点から対象物までの距離を測定する測距部と、演算部とを備え、撮像部と測距部との相対位置は固定されており、演算部は、測距部が測定した距離に基づく3次元点群の位置を示す3次元点群情報を生成し、撮像部が撮像した画像から検出される特徴点の異なる時刻に撮像された画像間での位置の変化に基づいてある時刻における自装置の位置及び方位を推定し、ある時刻に測距部が測定した距離に基づいて生成した3次元点群情報が示す3次元点群の位置が、ある時刻に推定された自装置の位置及び方位に基づいて補正された3次元点群の位置に基づいて対象物の3次元形状を示す3次元情報を生成する。
【選択図】図7
【特許請求の範囲】
【請求項1】
対象物の画像を撮像する撮像部と、
前記対象物に所定視点から光を照射して前記対象物から反射された光を受光することによって取得される前記所定視点から前記対象物までの距離を測定する測距部と、
演算部と
を備え、
前記撮像部と前記測距部との相対位置は固定されており、
前記演算部は、
前記測距部が測定した前記距離に基づく3次元点群の位置を示す3次元点群情報を生成し、
前記撮像部が撮像した前記画像から検出される特徴点の異なる時刻に撮像された前記画像間での位置の変化に基づいてある時刻における自装置の位置及び方位を推定し、
前記ある時刻に前記測距部が測定した前記距離に基づいて生成した前記3次元点群情報が示す3次元点群の位置を、前記ある時刻に推定された前記自装置の位置及び方位に基づいて補正し、
補正した前記3次元点群の位置に基づいて前記対象物の3次元形状を示す3次元情報を生成する
3次元情報生成システム。
【請求項2】
前記演算部は、前記撮像部が撮像した前記画像から検出される特徴点の第1時刻と第2時刻とに撮像された前記画像間での位置の変化に基づいて前記第2時刻における自装置の位置及び方位を推定し、
前記第2時刻は、前記撮像部が前記対象物の画像を撮像する複数の時刻のうち前記第1時刻の直後の時刻である
請求項1に記載の3次元情報生成システム。
【請求項3】
対象物の画像を撮像する撮像部と、
前記対象物に所定視点から光を照射して前記対象物から反射された光を受光することによって取得される前記所定視点から前記対象物までの距離を測定する測距部と
を備える3次元情報生成システムのコンピュータに、
前記測距部が測定した前記距離に基づく3次元点群の位置を示す3次元点群情報を生成する3次元点群情報生成ステップと、
前記撮像部が撮像した前記画像から検出される特徴点の異なる時刻に撮像された前記画像間での位置の変化に基づいてある時刻における自装置の位置及び方位を推定する自己位置推定ステップと、
前記ある時刻に前記測距部が測定した前記距離に基づいて生成した前記3次元点群情報が示す3次元点群の位置を、前記ある時刻に推定された前記自装置の位置及び方位に基づいて補正する補正ステップと、
補正した前記3次元点群の位置に基づいて前記対象物の3次元形状を示す3次元情報を生成する3次元情報生成ステップと、
を実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、3次元情報生成システム、及びプログラムに関する。
【背景技術】
【0002】
水力発電所の水路トンネルの点検には、トンネル内部の情報が必要となる。トンネル内部の情報には、トンネル内部の壁面の状態とトンネル内部の断面形状を確認するための3次元情報が含まれる。一般的な水路トンネルの点検では水路内部の水を抜いた後に人がトンネル内に立ち入って目視で点検を行い、目視で壁面に異常を確認した場合に断面形状を現地で計測する。
トンネル内部の情報は移動しながら取得することが効率的で望ましい。トンネル内部の壁面の状態を移動しながら取得するための方法については、カメラでトンネル内部の壁面を撮像する等による方法で取得可能である。一方、トンネル内部の断面形状を確認するための3次元情報を移動しながら取得する技術がなかった。
【0003】
水路トンネル内部の断面形状の変化(変状)が進行すると水路トンネルとしての機能が失われて発電支障を来す恐れがある。そのため、数年に1度の頻度で水路の抜水を行い、点検員が水路トンネル内を歩いて目視点検や変状調査を実施している。しかし、抜水状態での目視点検や変状調査には、時間がかかるため発電停止長期化による減益につながるといった課題が挙げられる。また、場合によっては数十キロに及ぶ長距離の水路トンネルを人の目によって短期間に網羅的に点検することは困難である。
【0004】
上記の解決策として、トンネル内部の内部情報を取得する方法として、距離情報付き画像を用いる技術(特許文献1)、レーザースキャナーが地上移動体に搭載された地上移動体搭載型レーザースキャナー、ステレオカメラを用いたSLAM(Simultaneous Localization and Mapping)を用いた技術(特許文献2)、複数のセンサを用いた自己位置推定を用いた技術(特許文献3)などが知られている。
【0005】
特許文献1に記載の距離情報付き画像を用いる技術では、水路トンネルを壁面に沿って無人で流下可能な装置(水面ドローン)に、点検距離が取得可能なレーザと、画像が取得可能なカメラとを設置することによって、水路トンネル内を移動しながらトンネル縦断方向の位置情報を取得する。
【0006】
地上移動体搭載型レーザースキャナーには、例えば、測定装置を手押しで移動しながら3次元情報の取得を行うものがある。当該技術では、移動体に搭載されたレーザースキャナーによって3次元形状を示す3次元情報を取得する。当該技術では、3次元情報の取得と同時に当該3次元情報によって自己位置を推定するが、3次元情報による自己位置推定のみでは自己位置の推定精度は十分でない。そのため、当該技術では、3次元情報によって推定された自己位置を以下の情報を元に補正しながら地図の作成を行う。当該技術では、トータルステーション(Total Station:TS)によって測定された座標を補正することによって、またはGPS(Global Positioning System)によって移動体の位置情報を取得する。当該技術では、例えば、移動体に搭載されたIMU(Inertial Measurement Unit)によって移動体の姿勢情報(位置情報、及び方位情報)を取得するものがある。
【0007】
特許文献2に記載のSLAMを用いた技術では、画像情報と3次元情報を同時に取得する。当該技術では、画像情報の特徴点に3次元情報を付加し、自己位置を推定しながら地図の作成を行う。
【0008】
特許文献3に記載の複数のセンサを用いた自己位置推定を用いた技術では、SLAMによる自己位置と、その他複数のオドメトリ用のセンサを用いた自己位置とを融合して自己位置を補正する。当該技術では、重み係数学習処理部に各自己位置推定結果を入力して自己位置を補正する。
【先行技術文献】
【特許文献】
【0009】
【特許文献1】特開2021-110695号公報
【特許文献2】特開2018-194417号公報
【特許文献3】特開2020-160594号公報
【特許文献4】特開2020-002756号公報
【発明の概要】
【発明が解決しようとする課題】
【0010】
しかしながら、特許文献1に記載の技術、地上移動体搭載型レーザースキャナー、特許文献2に記載の技術、及び特許文献3に記載の技術では、トンネルのように進行方向に形状の特徴変化が少ない空間の場合、LiDAR(Light Detection and Ranging)センサだけでは計測が失敗してしまう。またこれらの技術では、LiDARセンサと別のオドメトリを統合して自己位置を推定する手法はすでに確立されているが、各情報を統合して自己位置を推定する場合、トンネル内では誤差の要因となるLiDARセンサの重み係数に応じて誤差が大きくなる。
【0011】
特許文献1に記載の距離情報付き画像を用いる技術では、水路トンネルの断面形状が取得できない。また、当該技術では、複数台のカメラが異なる方向の画像を取得しているものの、画像の位置関係が不明確である。
地上移動体搭載型レーザースキャナーでは、3次元情報の補正のために所定位置に設置された複数のTSを用いる場合には、用いるTSを位置毎に切り替える必要がある。また、当該技術では、TSの切り替えのために、レーザースキャナーは数秒置きに停止させる必要があり、手間がかかりすぎて現実的ではない。
特許文献2に記載のSLAMを用いた技術では、既存の地図を前提としたマッピング技術となっているため、新規に自己位置推定及び地図を作成することはできない。
特許文献3に記載の複数のセンサを用いた自己位置推定を用いた技術では、画像情報と3次元情報を統合して自己位置を推定するため、進行方向に形状の特徴変化が少ないトンネル内では誤差が発生する要因となる。また、当該技術では、事前学習が必要であり、トンネルで適用できるオドメトリを学習させることが困難である。
対象物の3次元形状を示す3次元情報の測定精度を高めることが求められている。
【0012】
本発明は上記の点に鑑みてなされたものであり、対象物の3次元形状を示す3次元情報の測定精度を高めることができる3次元情報生成システム、及びプログラムを提供する。
【課題を解決するための手段】
【0013】
本発明は上記の課題を解決するためになされたものであり、本発明の一態様は、対象物の画像を撮像する撮像部と、前記対象物に所定視点から光を照射して前記対象物から反射された光を受光することによって取得される前記所定視点から前記対象物までの距離を測定する測距部と、演算部とを備え、前記撮像部と前記測距部との相対位置は固定されており、前記演算部は、前記測距部が測定した前記距離に基づく3次元点群の位置を示す3次元点群情報を生成し、前記撮像部が撮像した前記画像から検出される特徴点の異なる時刻に撮像された前記画像間での位置の変化に基づいてある時刻における自装置の位置及び方位を推定し、前記ある時刻に前記測距部が測定した前記距離に基づいて生成した前記3次元点群情報が示す3次元点群の位置を、前記ある時刻に推定された前記自装置の位置及び方位に基づいて補正し、補正した前記3次元点群の位置に基づいて前記対象物の3次元形状を示す3次元情報を生成する3次元情報生成システムである。
【0014】
また、本発明の一態様は、上記の3次元情報生成システムにおいて、前記演算部は、前記撮像部が撮像した前記画像から検出される特徴点の第1時刻と第2時刻とに撮像された前記画像間での位置の変化に基づいて前記第2時刻における自装置の位置及び方位を推定し、前記第2時刻は、前記撮像部が前記対象物の画像を撮像する複数の時刻のうち前記第1時刻の直後の時刻である。
【0015】
また、本発明の一態様は、対象物の画像を撮像する撮像部と、前記対象物に所定視点から光を照射して前記対象物から反射された光を受光することによって取得される前記所定視点から前記対象物までの距離を測定する測距部とを備える3次元情報生成システムのコンピュータに、前記測距部が測定した前記距離に基づく3次元点群の位置を示す3次元点群情報を生成する3次元点群情報生成ステップと、前記撮像部が撮像した前記画像から検出される特徴点の異なる時刻に撮像された前記画像間での位置の変化に基づいてある時刻における自装置の位置及び方位を推定する自己位置推定ステップと、前記ある時刻に前記測距部が測定した前記距離に基づいて生成した前記3次元点群情報が示す3次元点群の位置を、前記ある時刻に推定された前記自装置の位置及び方位に基づいて補正する補正ステップと、補正した前記3次元点群の位置に基づいて前記対象物の3次元形状を示す3次元情報を生成する3次元情報生成ステップと、を実行させるためのプログラムである。
【発明の効果】
【0016】
本発明によれば、対象物の3次元形状を示す3次元情報の測定精度を高めることができる。
【図面の簡単な説明】
【0017】
図1】本発明の実施形態に係る点検装置の外観の一例を示す図である。
図2】本発明の実施形態に係る水路トンネルの内部が撮像された画像の一例を示す図である。
図3】水路トンネルの内壁の画像の一例を示す図である。
図4】水路トンネルの内壁の3次元形状の一例を示す図である。
図5】本発明の実施形態に係る点検装置の構成の一例を示す図である。
図6】本発明の実施形態に係る点検装置のハードウェア構成の一例を示す図である。
図7】本発明の実施形態に係る3次元情報生成装置の機能構成の一例を示す図である。
図8】本発明の実施形態に係る3次元情報生成処理の一例を示す図である。
図9】本発明の実施形態に係る撮像部によって撮像された画像において検出された特徴点の一例を示す図である。
図10】本発明の実施形態に係る補正処理の一例を示す図である。
図11】本発明の実施形態に係る3次元画像の一例を示す図である。
図12】本発明の実施形態に係る3次元画像の一例を示す図である。
図13】本発明の実施形態の変形例に係る浮体点検装置の一例を示す図である。
【発明を実施するための形態】
【0018】
(実施形態)
以下、図面を参照しながら本発明の実施形態について詳しく説明する。図1は、本実施形態に係る点検装置1の外観の一例を示す図である。点検装置1は、水路トンネル内部を点検するための装置である。点検装置1は、一例として、作業者によって搬送されて水路トンネル内を移動する。
【0019】
点検装置1は、水路トンネル内を移動しながら、水路トンネル内の壁面の画像情報と、壁面の3次元形状を示す3次元情報とを取得する。点検装置1は、LiDAR(Light Detection and Ranging)センサによって3次元情報を取得する。
【0020】
ここで水路トンネルは、進行方向に形状の特徴変化が少ない空間である。進行方向に形状の特徴変化が少ない空間の場合、従来のようにLiDARセンサだけを用いて3次元情報を取得する場合、計測に失敗してしまう。その原因は、LiDAR SLAMに必要な形状の凹凸の変化(特徴点)が少ないためである。
【0021】
ここで図2から図4を参照し、水路トンネルの内部の特徴について説明する。図2は、本実施形態に係る水路トンネルの内部が撮像された画像の一例を示す図である。図2に示すように、目地の画像P1や水垢の画像P2などの画像情報が豊富に含まれている。
【0022】
図3に、水路トンネルの内壁の画像を示す。図3に示す内壁は、一例として側面の内壁である。図3に示すように、水路トンネルの内壁には、水垢などのコンクリート表面の汚れによる模様など、画像としての特徴が豊富に含まれている。画像としての特徴とは、色のコントラストによる特徴である。当該特徴は、3次元形状を示す特徴点として抽出するために好適である。
【0023】
一方、図4に、水路トンネルの内壁の3次元形状を示す。図4に示す内壁は、一例として天井の内壁である。図4に示すように、水路トンネルの内壁の3次元形状は、凹凸などの形状の特徴が少ない。
【0024】
点検装置1による3次元情報の取得では、水路トンネルの内壁には画像としての特徴が豊富に含まれていることに着目し、画像情報と3次元情報とを組み合わせたSLAM(Simultaneous Localization and Mapping)が利用される。ここでVisual SLAMでは、画像情報を扱うが、点群密度が低い。一方、LiDAR SLAMでは、形状情報を扱うが、点群密度が高い。点検装置1では、Visual SLAMで扱われる画像情報と、LiDAR SLAMで扱われる形状情報を示す3次元情報とを組み合わせることによって、3次元情報の精度を高める。
【0025】
点検装置1は、LiDAR SLAMによって対象の3次元形状を示す3次元情報を取得する。点検装置1は、3次元情報と同期して取得された画像情報に基づいて自己位置を推定する(Visual SLAM)。点検装置1は、取得した3次元情報を推定した自己位置に基づいて補正する。
【0026】
[点検装置の構成]
図5は、本実施形態に係る点検装置1の構成の一例を示す図である。点検装置1は、カメラ2と、LiDARセンサ3と、照明4と、PC(Personal Computer)5と、防水ケース6と、架構7とを備える。
【0027】
カメラ2は、一例として、360度カメラである。カメラ2は、水路トンネルの内壁のカラー画像を撮像する。カメラ2は、水路トンネルの内壁のカラー画像を動画として撮像する。つまり、カメラ2は、当該カラー画像を所定の周期で撮像し続ける。
なお、カメラ2の画角は、360度未満であってもよいが、所定以上の画角を有し広範囲を同時に撮像可能であることが好ましい。なお、カメラ2は、モノクロ画像を撮像してもよいが、豊富な画像情報を取得するためにはカラー画像を撮像することが好ましい。
【0028】
LiDARセンサ3は、LiDARセンサ31と、LiDARセンサ32との2つからなる。LiDARセンサ31と、LiDARセンサ32とは同等の機能を有するため、LiDARセンサ31と、LiDARセンサ32とをLiDARセンサ3に代表させて説明する。
【0029】
LiDARセンサ3は、自身から水路トンネルの内壁表面の各点までの距離を測定する。LiDARセンサ3は、TOF方式の測距センサである。つまり、LiDARセンサ3は、対象物に所定視点から光を照射して当該対象物から反射された光を受光することによって取得される当該所定視点から当該対象物までの距離を測定する。当該対象物とは、本実施形態では、水路トンネルの内壁表面の各点である。
【0030】
LiDARセンサ3は、対象物に光を照射するためのレーザ光源、対象を走査するためのスキャナ機構及び光学系、対象物から反射された光を受光するための受光素子、LiDARセンサ3が自己位置を取得するための自己位置取得機構などを備える。当該自己位置取得機構は、GPS(Global Positioning System)やIMU(Inertial Measurement Unit)などである。
【0031】
LiDARセンサ3が測定した距離は、3次元点群の生成に用いられる。なお、本実施形態では、内壁表面の同時に測定される範囲を広くするために、点検装置1がLiDARセンサ31と、LiDARセンサ32との2つのLiDARセンサ3を備える場合の一例について説明するが、点検装置1はLiDARセンサ31と、LiDARセンサ32とのうちいずれか一方のみを備えてもよい。また、点検装置1は、3つ以上のLiDARセンサ3を備えてもよい。
【0032】
照明4は、カメラ2の撮像対象を照明する。つまり、照明4は、水路トンネルの内壁を照明する。照明4によって当該内壁が照明されることによって、カメラ2が撮像する当該内壁のカラー画像の各画素の輝度が高くなる。カメラ2が撮像するカラー画像の各画素の輝度は高い方が、当該カラー画像に含まれる画像情報(画像に含まれる特徴)は豊富なものになる。
【0033】
照明4は、点検装置1の周囲の広い範囲を照明することが好ましい。本実施形態では、照明4は、一例として、互いに異なる方向(正面、斜め右前方、斜め左前方)に照明光を照射する3つの照明からなる。
なお、水路トンネル内に予め照明が設置されている場合など、点検装置1の周囲に十分な照度が得られている場合、照明4は点検装置1の構成から省略されてもよい。
【0034】
PC5は、各種演算を行う。PC5は、一例として、防水ケース6に収納されており、図5においては示されていない。PC5が行う演算には、LiDARセンサ3によって測定された距離に基づく3次元点群の生成、カメラ2によって撮像されたカラー画像に基づく自己位置の推定、推定した自己位置に基づく3次元点群の補正、補正した3次元点群に基づく3次元情報(水路トンネルの内壁の3次元形状を示す情報)の生成などが含まれる。これらの演算の詳細は後述する。
【0035】
架構7には、点検装置1が備える各機器が載置される。つまり、架構7には、カメラ2と、LiDARセンサ3と、照明4と、防水ケース6に収納されたPC5とが載置される。
ここで架構7に載置される各機器間の相対位置は固定される。したがって、カメラ2と、LiDARセンサ3との相対位置は固定される。当該相対位置には、カメラ2とLiDARセンサ3との間の距離と、カメラ2の向きとLiDARセンサ3の向きとの間の角度とが含まれる。
【0036】
架構7の所定の部位が作業者に把持され搬送されることによって、点検装置1は水路トンネル内を移動する。点検装置1は移動しながら水路トンネルの内壁の3次元情報を取得する。点検装置1の移動速度は、一例として、歩行速度程度である。
【0037】
図6は、本実施形態に係る点検装置1のハードウェア構成の一例を示す図である。LiDARセンサ31と、LiDARセンサ32とは、USBハブ8を介して信号線によってPC5に接続される。カメラ2は、信号線によってPC5に接続される。
【0038】
LiDARセンサ31とLiDARセンサ32とは、同期ケーブルC1によって接続される。これによって、LiDARセンサ31とLiDARセンサ32との間において、距離の測定が行われる時刻が同期される。
【0039】
また、LiDARセンサ31とLiDARセンサ32とのそれぞれには、バッテリ91とバッテリ92とがそれぞれ接続される。LiDARセンサ31とLiDARセンサ32とのそれぞれには、バッテリ91とバッテリ92とからそれぞれ電力が供給される。バッテリ91、及びバッテリ92は、モバイルバッテリーである。
PC5、及びカメラ2にはそれぞれ、それらに備えらえる内部バッテリ(不図示)によって電力が供給される。
【0040】
[3次元情報生成装置10の機能構成]
ここで図7を参照し、点検装置1の機能構成を3次元情報生成装置10の機能構成として説明する。
図7は、本実施形態に係る3次元情報生成装置10の機能構成の一例を示す図である。図7に示す3次元情報生成装置10は、図5に示した点検装置1に対応する。3次元情報生成装置10は、撮像部11と、測距部12と、演算部13と、記憶部14とを備える。
【0041】
撮像部11は、対象物(水路トンネルの内壁)の画像を撮像する。撮像部11は、図5に示したカメラ2を含む。
測距部12は、TOFの原理に基づいて、所定視点から当該対象物までの距離を測定する。測距部12は、図5に示したLiDARセンサ3を含む。
【0042】
演算部13は、各種の演算を行う。演算部13は、3次元点群生成部130と、自己位置推定部131と、補正部132と、3次元情報生成部133とを備える。演算部13が備える各機能部は、CPU(Central Processing Unit)がROM(Read Only Memory)からプログラムを読み込んで処理を実行することにより実現される。
【0043】
3次元点群生成部130は、3次元点群情報A1を生成する。3次元点群情報A1は、測距部12が測定した距離に基づく3次元点群の位置を示す。3次元点群情報A1では、当該3次元点群の位置は、3次元点群に含まれる点それぞれについての3次元座標によって示される。
【0044】
自己位置推定部131は、撮像部11が撮像した画像から特徴点を検出し、SLAMに基づいて自装置(3次元情報生成装置10)の位置(自己位置)を推定する。
【0045】
補正部132は、3次元点群生成部130が生成した3次元点群の位置を補正する。
3次元情報生成部133は、3次元点群の位置に基づいて3次元情報を生成する。3次元情報は、対象物の3次元形状を示す。
【0046】
記憶部14は、各種の情報を記憶する。記憶部14が記憶する情報には、3次元点群情報A1、及び画像情報A2が含まれる。記憶部14は、例えば、半導体記憶装置等の記憶装置を用いて構成される。なお、記憶部14は、防振構造を有していれば磁気ハードディスク装置によって構成されてもよい。
【0047】
[3次元情報生成処理]
ここで図8を参照し、3次元情報生成装置10が3次元情報を生成する処理である3次元情報生成処理について説明する。図8は、本実施形態に係る3次元情報生成処理の一例を示す図である。図8に示す3次元情報生成処理は、PC5(演算部13)が対象物(水路トンネルの内壁)の撮像を開始する操作を受け付けた場合に開始される。当該操作は、操作部(図5において不図示)から3次元情報生成装置10のユーザである作業者によって行われる。また、少なくともステップS10、ステップS20、及びステップS30の各処理は、3次元情報生成装置10が移動する間に実行される。
【0048】
ステップS10:測距部12は、距離情報を取得する。距離情報は、所定視点から対象物までの距離を示す情報である。ここで測距部12は、対象物に所定視点から光を照射して当該対象物から反射された光を受光することによって取得される当該所定視点から当該対象物までの距離を測定する。測距部12は、測定結果として距離情報を取得する。測距部12は、取得した距離情報を、3次元点群生成部130に供給する。ここで測距部12は、測定結果とともに、距離を測定した時刻(測定時刻)を、距離情報に含める。
【0049】
ステップS20:3次元点群生成部130は、測距部12から取得した距離情報に基づいて3次元点群情報A1を生成する。3次元点群情報A1が位置を示す3次元点群を構成する各点は、測距部12が光を照射する対象物の表面の各点に対応する。3次元点群情報A1では、3次元点群に含まれる点それぞれについての3次元座標は、例えば、3次元直交座標によって示される。ここで3次元点群生成部130は、3次元点群の位置と、距離情報が示す測定時刻とを組にして3次元点群情報A1を生成する。3次元点群生成部130は、生成した3次元点群情報A1を記憶部14に記憶させる。
【0050】
測距部12から取得した距離情報に基づいて生成された3次元点群情報A1は、LiDARセンサ3によって測定された距離に基づいて生成された3次元点群の位置を示す。つまり、本実施形態では、3次元点群情報A1は、対象物に所定視点から光を照射して当該対象物から反射された光を受光することによって取得される当該所定視点から当該対象物までの距離を測定した結果に基づいて生成された3次元点群の位置を示す情報である。
【0051】
Visual SLAMやステレオ画像から得られる点群(深度画像)は、一般的に照明やカメラによって撮像される画像のぶれの影響を受けやすく、点群がうねる傾向にある。そのため、Visual SLAMやステレオ画像から得られる点群では、当該点群が示す対象物の形状を示す3次元情報の誤差が大きくなる傾向がある。本実施形態では、3次元点群として、LiDARセンサ3によって測定された距離に基づいて生成された3次元点群を用いることによって、対象物の形状を示す3次元情報の精度を高めている。
【0052】
ステップS30:撮像部11は、対象物(水路トンネルの内壁)の画像を撮像する。撮像部11は、撮像した画像と、撮像時刻とを組にして画像情報A2を生成する。撮像部11は、生成した画像情報A2を3次元点群生成部130に記憶させる。
【0053】
ステップS40:演算部13は、対象物の画像の撮像が終了したか否かを判定する。演算部13は、当該撮像が終了したことを示す操作を受け付けた場合に、当該撮像が終了したと判定する。演算部13は、当該撮像が終了したと判定した場合(ステップS40;YES)、ステップS50の処理を実行する。一方、演算部13は、当該撮像が終了していないと判定した場合(ステップS40;NO)、ステップS10の処理を再度実行する。
【0054】
したがって、ステップS10、ステップS20、及びステップS30の各処理は、撮像が終了するまで3次元情報生成装置10が移動する間に繰り返し実行される。繰り返しの周期は、例えば、撮像部11が1枚の画像を撮像する周期である。
【0055】
ステップS50:自己位置推定部131は、SLAMに基づいて自己位置を推定する。自己位置推定部131は、記憶部14から画像情報A2を読み出す。自己位置推定部131は、読み出した画像情報A2から対象物(水路トンネルの内壁)の特徴点を検出する。ここで自己位置推定部131は、撮像時刻毎に画像から特徴点を検出する。
【0056】
図9に、撮像部11によって撮像された画像P3において検出された特徴点P4の一例を示す。撮像部11が360度カメラであるカメラ2によって画像を撮像する。図9に示す画像P3では、3次元情報生成装置10の周囲の水路トンネルの内壁が360度の画角について撮像されている。図9では、複数の特徴点P4がそれぞれ正方形のマークによって示されている。
【0057】
図8に戻って3次元情報生成処理の説明を続ける。
自己位置推定部131は、検出した特徴点からSLAMに基づいて、3次元情報生成装置10の自己位置を推定する。自己位置推定部131は、当該特徴点の異なる撮像時刻間での位置の変化に基づいてある撮像時刻における3次元情報生成装置10の位置を自己位置として推定する。ここで自己位置推定部131が推定する自己位置には、自装置の相対位置、及び相対方位が含まれる。相対位置及び相対方位とは、ある撮像時刻に撮像された画像から抽出された特徴点の位置の、別の撮像時刻に撮像された画像から抽出された特徴点の位置に対する相対位置及び相対方位である。相対位置及び相対方位は、ベクトル情報によって示される。
【0058】
ある撮像時刻とは、例えば時刻t+1であり、別の撮像時刻とは、例えば時刻tである。ここで時刻t+1は、撮像部11が対象物を撮像した複数の撮像時刻のうち時刻tの直後の時刻である。上述したように、補正部132は、撮像部11が撮像した画像から検出される特徴点の時刻tと時刻t+1とに撮像された画像間での位置の変化に基づいて時刻t+1における自装置の位置及び方位を推定する。自装置の位置及び方位をまとめて、自装置の姿勢、または自己位置などともいう。
【0059】
自己位置推定部131は、一例として、オープンソースのOpen-VSLAMをSLAMとして用いる。Open-VSLAMは、ORB(Oriented FAST and Rotated BRIEF)特徴点に基づくVisual SLAMである。なお、自己位置推定部131は、Open-VSLAM以外のVisual SLAMを用いてもよい。
【0060】
ステップS60:補正部132は、画像情報A2に基づいて3次元点群情報A1を補正する。ここで図10を参照し、補正部132による補正処理について説明する。図10は、本実施形態に係る補正処理の一例を示す図である。図10に示す各ステップは、図8に示すステップS60において実行される。
【0061】
ステップS110:補正部132は、データ取得時刻を画像情報A2と3次元点群情報A1との間で同期させる。補正部132は、画像情報A2に含まれる画像の撮像時刻と、3次元点群情報A1に含まれる測定時刻とを対応づける。
【0062】
ステップS120:補正部132は、データ取得時刻毎に3次元点群の位置を補正する処理を開始する。
【0063】
ステップS130:補正部132は、自己位置推定部131による自己位置の推定結果に基づいて3次元点群の位置を補正する。補正部132は、時刻tと時刻t+1において、時刻t+1の3次元点群情報A1が示す3次元点群の位置を、画像情報A2に基づく自己位置推定部131による自己位置の推定結果を用いて補正する。また、自己位置の推定結果とは、上述したように、時刻tから時刻t+1の間に変化した3次元情報生成装置10の相対位置と相対方位を示すベクトル情報である。
【0064】
上述したように、補正部132は、ある時刻に測距部12が測定した距離に基づいて生成した3次元点群情報A1が示す3次元点群の位置を、当該ある時刻に推定された自装置(3次元情報生成装置10)の位置に基づいて補正する。
【0065】
ステップS140:補正部132は、3次元点群情報A1が示す3次元点群の位置同士を補正する。ここで補正部132は、時刻tと時刻t+1において補正された3次元点群情報A1が示す3次元点群に対して、3次元点群の位置同士が整合するように当該3次元点群同士の位置を補正する(マッチング補正ともいう)。3次元点群同士の位置を補正することを、3次元点群同士の位置を合わせるともいう。
【0066】
補正部132は、一例としてICP (Iterative closest point)に基づいて3次元点群の位置同士を補正する。なお、補正部132は、ICP以外の位置合わせのアルゴリズムに基づいて3次元点群の位置同士を補正してもよい。
【0067】
ステップS150:補正部132は、データ取得時刻毎に3次元点群の位置を補正する処理を終了する。
以上で、補正部132は、補正処理を終了する。
【0068】
なお、本実施形態では、自己位置推定部131は、相対位置情報として、撮像部11が対象物を撮像した複数の撮像時刻のうち時刻tにおける特徴点の位置から時刻tの直後の時刻である時刻t+1における特徴点の位置への相対位置及び相対方位を用いて自己位置を推定する場合の一例について説明したが、これに限られない。自己位置推定部131は、例えば、特徴点の初期時刻における位置(初期位置)から、特徴点のある時刻における位置への相対位置及び相対方位に基づいて自装置の位置及び方位を推定してもよい。
【0069】
初期位置からの相対位置及び相対方位に基づいて自装置の位置及び方位を推定する場合、推定された自己位置には、ある時刻と当該ある時刻の直後の時刻との間の相対位置及び相対方位づいて推定する場合に比べ、誤差が多く蓄積すると考えられる。誤差が多く蓄積すると、ステップS140における3次元点群の位置同士を補正する処理(例えば、ICPによる補正)において、補正(位置合わせ)の処理が難しくなりまた補正(位置合わせ)の誤差が大きくなる。
【0070】
上述したように、自己位置推定部131は、撮像部11が撮像した画像から検出される特徴点の異なる時刻に撮像された当該画像間での位置の変化に基づいてある時刻における自装置(3次元情報生成装置10)の位置を推定する。
【0071】
図8に戻って3次元情報生成処理の説明を続ける。
ステップS70:3次元情報生成部133は、補正された3次元点群の位置に基づいて3次元情報を生成する。ここで補正された3次元点群の位置とは、ステップS130における画像情報A2に基づいて推定された自己位置に基づく補正と、ステップS140における3次元点群の位置同士の補正とによって補正された位置である。3次元情報では、補正された3次元点群の位置によって対象物の形状が示される。
【0072】
3次元情報生成部133は、生成した3次元情報を出力する。例えば、3次元情報生成部133は、当該3次元情報を表示装置に出力する。表示装置は、当該3次元情報に基づいて、対象物(水路トンネルの内壁)の形状を示す3次元画像を表示する。これによって、対象物(水路トンネルの内壁)の形状は、3次元画像として可視化される。
なお、3次元情報生成部133は、当該3次元情報を記憶部14または外部の記憶装置に出力して記憶させてもよい。
【0073】
3次元情報生成部133は、3次元画像に、対象物の形状の任意の点についての位置情報、方位情報を含めてよい。当該位置情報、方位情報は、3次元点群のデータに基づいて当該3次元画像に含められる。位置情報、方位情報は、点の位置、方向を3次元座標によって示す。これによって、3次元情報生成装置10のユーザは、表示装置によって表示される3次元画像の画像上の1点を選択すれば、3次元点群のデータに基づいて位置情報、方位情報を取得できる。
以上で、演算部13は、3次元情報生成処理を終了する。
【0074】
[3次元画像]
ここで図11及び図12を参照し、3次元情報生成装置10によって生成された3次元画像の具体例について説明する。図11は、本実施形態に係る3次元画像P5の一例を示す図である。3次元画像P5は、3次元情報生成装置10によって生成された水路トンネルの内壁の3次元画像である。3次元画像P5では、点群データによって当該内壁の形状が示されている。
【0075】
図12は、本実施形態に係る3次元画像P6の一例を示す図である。3次元画像P6は、3次元情報生成装置10が水路トンネル内を移動することによって生成された水路トンネル全体の3次元画像(鳥瞰図)である。3次元画像P6では、点群データによって当該内壁の形状が水路トンネル全体について示されている。
【0076】
なお、本実施形態では、3次元情報生成処理を行うための各機能部を演算部13が備える場合の一例について説明したが、これに限られない。3次元情報生成処理を行うための各機能部のうちいずれか1以上は、3次元情報生成装置10とは別体の演算装置に備えられてもよい。つまり、3次元点群生成部130、自己位置推定部131、補正部132、3次元情報生成部133のうちいずれか1以上は、当該演算装置に備えられてもよい。その場合、3次元情報生成装置10は、当該演算装置と通信を行うための通信部を備える。当該演算装置とは、例えば、端末装置やサーバである。
3次元情報生成処理を行うための各機能部のうちいずれか1以上が3次元情報生成装置10とは別体の1以上の演算装置に備えられる場合、それら1以上の演算装置と、3次元情報生成装置10とは、3次元情報生成システムを構成する。
【0077】
(変形例)
本実施形態では、点検装置1(3次元情報生成装置10)が作業者によって搬送される場合の一例について説明したが、これに限られない。点検装置は、浮体に載置されて、水路トンネル内を移動してもよい。
ここで図13を参照し、本実施形態の変形例として点検装置が浮体に載置される場合について説明する。図20は、本変形例に係る浮体点検装置20の一例を示す図である。浮体点検装置20は、点検装置21と、浮体22と、パラシュート23と、テール24とを備える。なお、浮体点検装置20の構成は、例えば、特許文献4に記載の構成に基づくものである。
【0078】
点検装置21は、本実施形態の点検装置1(図1)の構成と同様であるため説明を省略する。なお、架構の形状は図1に示した架構7から変更されてよい。
浮体22は、水路トンネルの水面に浮かぶ。
パラシュート23は、水路トンネル内の水から推進力を受ける。浮体点検装置20は、当該推進力によって水路トンネル内を移動する。テール24は、柱体25に対してパラシュート23とは反対側に接続されたロープ状の部材である。パラシュート23とテール24とは、柱体25を介して浮体22に接続される。浮体点検装置20では、水から受ける推進力は、テール24、浮体22、パラシュート23の順に高い。そのため、パラシュート23が浮体22を下流側に引き寄せ、テール24が浮体22を上流側に引き寄せる。これによって、浮体22の姿勢が水流に対して保たれる。
【0079】
浮体点検装置20では、水路トンネルの抜水を行うことなく、水路トンネル内を流れながら移動して水路トンネルの内壁の点検を行うことができる。浮体点検装置20では、浮体22によって水に浮かびながら移動するため、水路トンネルの内壁を撮像し、また当該内壁までの距離を測定する場合に、浮体点検装置20本体の振動の影響を少なくできる。
【0080】
なお、点検装置は、移動装置に載置されて水路トンネル内を移動してもよい。当該移動装置は、自走式であってもよいし、作業者によって牽引、または押されて移動するものであってもよい。当該移動装置は、自動運転によって走行する車両であってもよいし、作業者によって運転されてもよい。当該移動装置は、例えば、車両である。
【0081】
以上に説明したように、本実施形態に係る3次元情報生成システム(本実施形態において、3次元情報生成装置10)は、撮像部11と、測距部12と、演算部13とを備える。
撮像部11は、対象物(本実施形態において、水路トンネルの内壁)の画像を撮像する。
測距部12は、対象物(本実施形態において、水路トンネルの内壁)に所定視点から光を照射して対象物(本実施形態において、水路トンネルの内壁)から反射された光を受光することによって取得される当該所定視点から対象物(本実施形態において、水路トンネルの内壁)までの距離を測定する。
撮像部11と測距部12との相対位置は固定されている。
演算部13は、測距部12が測定した距離に基づく3次元点群の位置を示す3次元点群情報A1を生成し(3次元点群生成部130)、撮像部11が撮像した画像から検出される特徴点の異なる時刻に撮像された画像間での位置の変化に基づいてある時刻における自装置(3次元情報生成装置10)の位置及び方位を推定し(自己位置推定部131)、当該ある時刻に測距部12が測定した距離に基づいて生成した3次元点群情報A1が示す3次元点群の位置を、当該ある時刻に推定された自装置(3次元情報生成装置10)の位置及び方位に基づいて補正し(補正部132)、補正した3次元点群の位置に基づいて対象物(本実施形態において、水路トンネルの内壁)の3次元形状を示す3次元情報を生成する(3次元情報生成部133)。
【0082】
この構成により、本実施形態に係る3次元情報生成装置10では、3次元点群の位置を画像情報に基づいて推定された自装置の位置及び方位に基づいて補正できるため、対象物の3次元形状を示す3次元情報の測定精度を高めることができる。本実施形態に係る3次元情報生成装置10では、対象物の3次元形状を示す3次元情報(LiDAR SLAM)と、画像情報(Visual SLAM)とを組み合わせることによって、3次元情報の精度を高めている。
【0083】
本実施形態に係る3次元情報生成装置10は、本実施形態において説明したように水路トンネルの内壁の点検に好適に用いられる。水路トンネルの抜水中または通水中にかかわらず、移動しながら水路トンネルの点検が可能となる。3次元情報生成装置10を用いた点検では、位置情報、方位情報が付与された3次元画像が取得可能である。当該3次元画像では、画像上の1点を選択すれば、3次元点群のデータに基づいて当該1点の座標情報を取得可能である。また、3次元情報生成装置10を用いた点検では、任意地点における水路トンネルの3次元の断面形状を示す情報が取得可能である。
【0084】
また、本実施形態に係る3次元情報生成装置10では、演算部13は、撮像部11が撮像した画像から検出される特徴点の第1時刻(時刻t)と第2時刻(時刻t+1)とに撮像された画像間での位置の変化に基づいて第2時刻における自装置(3次元情報生成装置10)の位置を推定し(自己位置推定部131)、第2時刻(時刻t+1)は、撮像部11が対象物(本実施形態において、水路トンネルの内壁)の画像を撮像する複数の時刻のうち第1時刻(時刻t)の直後の時刻である。
【0085】
この構成により、本実施形態に係る3次元情報生成装置10では、ある時刻と当該ある時刻の直後の時刻との間の相対位置及び相対方位づいて自装置の位置及び方位を推定できるため、初期位置からの相対位置及び相対方位に基づいて自装置の位置及び方位を推定する場合に比べて、位置の推定する精度を高めることができる。
【0086】
なお、本実施形態では、点検装置1が水路トンネルの点検に利用される場合の一例について説明したが、これに限られない。点検装置1は、道路のトンネルの点検に用いられてもよい。また、点検装置1は、天井のない場所の点検にも用いられてよい。天井のない場所とは、河川の護岸、道路の縁石などである。
【0087】
なお、上述した実施形態における3次元情報生成装置10の一部、例えば、演算部13をコンピュータで実現するようにしてもよい。その場合、この制御機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することによって実現してもよい。なお、ここでいう「コンピュータシステム」とは、3次元情報生成装置10に内蔵されたコンピュータシステムであって、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムを送信する場合の通信線のように、短時間、動的にプログラムを保持するもの、その場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリのように、一定時間プログラムを保持しているものも含んでもよい。また上記プログラムは、前述した機能の一部を実現するためのものであってもよく、さらに前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるものであってもよい。
また、上述した実施形態における3次元情報生成装置10の一部、または全部を、LSI(Large Scale Integration)等の集積回路として実現してもよい。3次元情報生成装置10の各機能ブロックは個別にプロセッサ化してもよいし、一部、または全部を集積してプロセッサ化してもよい。また、集積回路化の手法はLSIに限らず専用回路、または汎用プロセッサで実現してもよい。また、半導体技術の進歩によりLSIに代替する集積回路化の技術が出現した場合、当該技術による集積回路を用いてもよい。
【0088】
以上、図面を参照してこの発明の一実施形態について詳しく説明してきたが、具体的な構成は上述のものに限られることはなく、この発明の要旨を逸脱しない範囲内において様々な設計変更等をすることが可能である。
【符号の説明】
【0089】
10…3次元情報生成装置、11…撮像部、12…測距部、13…演算部、130…3次元点群生成部、131…自己位置推定部、132…補正部、133…3次元情報生成部、1…点検装置、2…カメラ、3…LiDARセンサ、5…PC
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13