IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社センシンロボティクスの特許一覧

<>
  • 特開-検査システム 図1
  • 特開-検査システム 図2
  • 特開-検査システム 図3
  • 特開-検査システム 図4
  • 特開-検査システム 図5
  • 特開-検査システム 図6
  • 特開-検査システム 図7
  • 特開-検査システム 図8
  • 特開-検査システム 図9
  • 特開-検査システム 図10
  • 特開-検査システム 図11
  • 特開-検査システム 図12
  • 特開-検査システム 図13
  • 特開-検査システム 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023100642
(43)【公開日】2023-07-19
(54)【発明の名称】検査システム
(51)【国際特許分類】
   G01N 21/88 20060101AFI20230711BHJP
   G01N 21/84 20060101ALI20230711BHJP
   G06T 7/70 20170101ALI20230711BHJP
   G06T 7/55 20170101ALI20230711BHJP
   G06T 7/00 20170101ALI20230711BHJP
【FI】
G01N21/88 J
G01N21/84 B
G06T7/70 A
G06T7/55
G06T7/00 610
【審査請求】有
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2023064710
(22)【出願日】2023-04-12
(62)【分割の表示】P 2019153553の分割
【原出願日】2018-05-31
(71)【出願人】
【識別番号】518156358
【氏名又は名称】株式会社センシンロボティクス
(74)【代理人】
【識別番号】110002790
【氏名又は名称】One ip弁理士法人
(72)【発明者】
【氏名】西本 晋也
(57)【要約】      (修正有)
【課題】2次元画像から作成される3次元モデルについて、3次元モデルの座標系におけるどの座標に位置するかを特定することができるようにする。
【解決手段】検査システムは、カメラを備える飛行装置が検査物を撮像した複数の画像に基づいて、検査対象物の3次元モデル生成部と、複数の画像のそれぞれについて、3次元座標系における画像を撮影した撮影位置お
よびカメラの視点軸方向を取得する撮影情報取得部と、複数の画像のそれぞれについて、画像に基づいて検査対象物の異常を検出する異常検出部と、検出した異常について、撮影位置および視点軸方向に応じて3次元座標系における位置である異常位置を特定する異常
位置特定部と、異常位置をマッピングした3次元モデルを表示する3次元モデル表示部と
、を備える
【選択図】図1
【特許請求の範囲】
【請求項1】
検査対象物を検査する検査システムであって、
カメラを備える飛行装置が前記検査物を撮影した複数の画像に基づいて、前記検査対象
物の3次元モデルを生成する3次元モデル生成部と、
前記複数の画像のそれぞれについて、3次元座標系における前記画像を撮影した撮影位
置および前記カメラの視点軸方向を取得する撮影情報取得部と、
前記複数の画像のそれぞれについて、前記画像に基づいて前記検査対象物の異常を検出
する異常検出部と、
検出した前記異常について、前記撮影位置および前記視点軸方向に応じて前記3次元座
標系における位置である異常位置を特定する異常位置特定部と、
前記異常位置をマッピングした前記3次元モデルを表示する3次元モデル表示部と、
を備えることを特徴とする検査システム。
【請求項2】
請求項1に記載の検査システムであって、
前記異常位置特定部は、前記撮影位置および前記視点軸方向に基づいて、前記撮影位置
から前記異常箇所に向けた直線が前記3次元モデルと交差する座標を前記異常位置として
特定すること、
を特徴とする検査システム。
【請求項3】
請求項1に記載の検査システムであって、
前記異常位置に対応付けて前記画像を記憶する異常位置記憶部と、
前記3次元モデル上の位置の指定を受け付ける入力部と、
指定された前記位置に対応する前記画像を特定する画像特定部と、
を備えることを特徴とする検査システム。
【請求項4】
検査対象物を検査する検査システムであって、
カメラを備える飛行装置が前記検査物を撮影した複数の画像に基づいて、前記検査対象
物の3次元モデルを生成する3次元モデル生成部と、
前記複数の画像のそれぞれについて、3次元座標系における前記画像を撮影した撮影位
置および前記カメラの視点軸方向を取得する撮影情報取得部と、
前記複数の画像のそれぞれについて、前記撮影位置から前記視点軸方向に前記3次元モ
デルと交差する交差位置を算出する交差位置算出部と、
前記3次元モデル上の指定位置を受け付け、前記指定位置および前記交差位置の距離に
応じて、前記指定位置が撮影された前記画像を特定する画像特定部と、
を備えることを特徴とする検査システム。
【請求項5】
請求項4に記載の検査システムであって、
前記複数の画像のそれぞれについて、前記画像に基づいて前記検査対象物の異常を検出
する異常検出部と、
前記撮影位置および前記視点軸方向に基づいて、前記撮影位置から前記異常箇所に向け
た直線が前記3次元モデルと交差する座標である異常位置を特定する異常位置特定部と、
を備えることを特徴とする検査システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査システムに関する。
【背景技術】
【0002】
近年、ドローン(Drone)や無人航空機(UAV:Unmanned Aeria
l Vehicle)などの飛行体(以下、「飛行装置」と総称する。)が産業に利用さ
れ始めている。特許文献1では、ドローンに搭載したカメラで撮影した画像から3次元画
像を作成して表示することが記載されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2018-10630号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
複数の2次元画像から点群を抽出して3次元モデルを作成することが行われる。しかし
ながら、2次元画像に撮影されているものが3次元モデルのどこに位置するのかを特定す
ることは難しい。特許文献1においても、劣化位置が3次元画像におけるどの座標に位置
するかを特定することは行っていない。
【0005】
本発明はこのような背景を鑑みてなされたものであり、複数の2次元画像から作成され
る3次元モデルについて、2次元画像に撮影されているものが3次元モデルの座標系にお
けるどの座標に位置するかを特定することのできる技術を提供することを一つの目的とす
る。
【課題を解決するための手段】
【0006】
上記課題を解決するための本発明の主たる発明は、検査対象物を検査する検査システム
であって、カメラを備える飛行装置が前記検査物を撮影した複数の画像に基づいて、前記
検査対象物の3次元モデルを生成する3次元モデル生成部と、前記複数の画像のそれぞれ
について、3次元座標系における前記画像を撮影した撮影位置および前記カメラの視点軸
方向を取得する撮影情報取得部と、前記複数の画像のそれぞれについて、前記画像に基づ
いて前記検査対象物の異常を検出する異常検出部と、検出した前記異常について、前記撮
影位置および前記視点軸方向に応じて前記3次元座標系における位置である異常位置を特
定する異常位置特定部と、前記異常位置をマッピングした前記3次元モデルを表示する3
次元モデル表示部と、を備えることとする。
【0007】
その他本願が開示する課題やその解決方法については、発明の実施形態の欄および図面
により明らかにされる。
【発明の効果】
【0008】
本発明によれば、複数の2次元画像から作成される3次元モデルについて、2次元画像
に撮影されているものが3次元モデルの座標系におけるどの座標に位置するかを特定する
ことができる。
【図面の簡単な説明】
【0009】
図1】本発明の一実施形態に係る検査システムの全体構成を示す図である。
図2】飛行装置10のハードウェア構成例を示す図である。
図3】フライトコントローラ11のソフトウェア構成例を示す図である。
図4】位置姿勢情報記憶部151に記憶される位置姿勢情報の構成例を示す図である。
図5】撮影情報記憶部152に格納される撮影情報の構成例を示す図である。
図6】検査サーバ30のハードウェア構成例を示す図である。
図7】検査サーバ30のソフトウェア構成例を示す図である。
図8】3次元モデル記憶部352の構成例を示す図である。
図9】異常情報記憶部353に登録される異常情報の構成例を示す図である。
図10】検査対象物1を撮影する処理の流れを説明する図である。
図11】検査サーバ30により実行される検査処理の流れを示す図である。
図12】3次元モデル表示部315が表示する3次元投影画像を説明する図である。
図13】指定された位置の異常箇所が撮影されている撮影画像を表示する処理の流れを示す図である。
図14】3次元モデル表示部315が表示する3次元投影画像を説明する他の図である。
【発明を実施するための形態】
【0010】
本発明の実施形態の内容を列記して説明する。本発明の実施の形態による飛行装置は、
以下のような構成を備える。
【0011】
[項目1]
検査対象物を検査する検査システムであって、
カメラを備える飛行装置が前記検査物を撮影した複数の画像に基づいて、前記検査対象
物の3次元モデルを生成する3次元モデル生成部と、
前記複数の画像のそれぞれについて、3次元座標系における前記画像を撮影した撮影位
置および前記カメラの視点軸方向を取得する撮影情報取得部と、
前記複数の画像のそれぞれについて、前記画像に基づいて前記検査対象物の異常を検出
する異常検出部と、
検出した前記異常について、前記撮影位置および前記視点軸方向に応じて前記3次元座
標系における位置である異常位置を特定する異常位置特定部と、
前記異常位置をマッピングした前記3次元モデルを表示する3次元モデル表示部と、
を備えることを特徴とする検査システム。
[項目2]
項目1に記載の検査システムであって、
前記異常位置特定部は、前記撮影位置および前記視点軸方向に基づいて、前記撮影位置
から前記異常箇所に向けた直線が前記3次元モデルと交差する座標を前記異常位置として
特定すること、
を特徴とする検査システム。
[項目3]
項目1に記載の検査システムであって、
前記異常位置に対応付けて前記画像を記憶する異常位置記憶部と、
前記3次元モデル上の位置の指定を受け付ける入力部と、
指定された前記位置に対応する前記画像を特定する画像特定部と、
を備えることを特徴とする検査システム。
[項目4]
検査対象物を検査する検査システムであって、
カメラを備える飛行装置が前記検査物を撮影した複数の画像に基づいて、前記検査対象
物の3次元モデルを生成する3次元モデル生成部と、
前記複数の画像のそれぞれについて、3次元座標系における前記画像を撮影した撮影位
置および前記カメラの視点軸方向を取得する撮影情報取得部と、
前記複数の画像のそれぞれについて、前記撮影位置から前記視点軸方向に前記3次元モ
デルと交差する交差位置を算出する交差位置算出部と、
前記3次元モデル上の指定位置を受け付け、前記指定位置および前記交差位置の距離に
応じて、前記指定位置が撮影された前記画像を特定する画像特定部と、
を備えることを特徴とする検査システム。
[項目5]
項目4に記載の検査システムであって、
前記複数の画像のそれぞれについて、前記画像に基づいて前記検査対象物の異常を検出
する異常検出部と、
前記撮影位置および前記視点軸方向に基づいて、前記撮影位置から前記異常箇所に向け
た直線が前記3次元モデルと交差する座標である異常位置を特定する異常位置特定部と、
を備えることを特徴とする検査システム。
【0012】
==概要・全体構成==
図1は、本発明の一実施形態に係る検査システムの全体構成例を示す図である。本実施
形態の検査システムは、飛行装置10によって撮影された検査対象物1に関する複数の画
像に基づいて、検査対象物1の3次元モデルを作成するものである。また、本実施形態の
検査システムでは、撮影した画像を解析して異常箇所を検出し、検出した異常箇所を3次
元モデル上にマッピングする。検査対象物1は、法面やダムなどのコンクリート構造物で
あってもよいし、鉄塔や鉄橋などの鋼構造物であってもよいし、太陽光パネルや建物など
であってもよい。本実施形態では、検査対象部1として建物を想定する。なお、検査対象
物1は撮影可能な物であれば何でもよく、例えば動物や自動車などであってもよいし、災
害時の被災地域であってもよい。
【0013】
本実施形態の検査システムは、検査対象物1を撮影する飛行装置10と、飛行装置10
が撮影した画像を解析する検査サーバ30とを含んで構成される。飛行装置10と検査サ
ーバ30とは通信ネットワーク50を介して相互に通信可能に接続される。本実施形態で
は通信ネットワーク50はインターネットを想定する。通信ネットワーク50は、例えば
無線通信路、携帯電話回線網、衛星通信路、公衆電話回線網、専用回線網、イーサネット
(登録商標)などにより構築される。
【0014】
(飛行装置10)
図2は、飛行装置10のハードウェア構成例を示す図である。飛行装置10は、プロペ
ラ18と、プロペラ18にESC(Electronic Speed Controller)16を介して接続さ
れた推進機構(本実施形態ではモータ17を想定する。)と、これらを制御するフライト
コントローラ11とを備える。
【0015】
飛行装置10は検査対象物1の一部または全部を撮影するカメラ12を備える。本実施
形態では、カメラ12は機体に固定されるものとする。また、カメラ12は、鉛直方向下
向きのレンズを備え、鉛直方向に真下の画像のみを撮影するものとする。したがって、飛
行装置10の姿勢が固定される場合には、カメラ12の視点軸(光軸)121も固定され
る。本実施形態では、カメラ12は可視光線を捉えたRGB画像を撮影することを想定す
るが、赤外線を捉えたサーマル画像を撮影するようにしてもよいし、RGB画像とサーマ
ル画像の両方を同時にまたは順次撮影するようにしてもよい。また、カメラ12に代えて
、またはカメラ12に加えて、人感センサなどの各種のセンサを備えるようにしてもよい
【0016】
フライトコントローラ11は、プログラマブルプロセッサ(本実施形態では、中央演算
処理装置(CPU)を想定する。)などの1つ以上のプロセッサ101を有することがで
きる。また、フライトコントローラ11は、メモリ102を有しており、当該メモリ10
2にアクセス可能である。メモリ102は、1つ以上のステップを行うためにフライトコ
ントローラ11が実行可能であるロジック、コード、および/またはプログラム命令を記
憶する。メモリ102は、例えば、SDカードやランダムアクセスメモリ(RAM)など
の分離可能な媒体または外部の記憶装置を含んでいてもよい。カメラ12やセンサなどか
ら取得したデータは、メモリ102に直接に伝達されかつ記憶されてもよい。
【0017】
フライトコントローラ11はまた、各種のセンサ類103を備える。本実施形態におい
てセンサ類103は、例えば、慣性センサ(加速度センサ、ジャイロセンサ)、GPS(
Global Positioning System)センサ、近接センサ(例えば、ライダー)、またはビジョ
ン/イメージセンサ(例えば、カメラ)を含み得る。
【0018】
フライトコントローラ11は、1つ以上の外部のデバイス(例えば、送受信機(プロポ
)、端末、表示装置、または他の遠隔の制御器などである。)からのデータを送信および
/または受け取るように構成された送受信部14と通信可能である。送受信部14は、有
線通信または無線通信などの任意の適当な通信手段を使用することができる。本実施形態
では、送受信部14は、主に検査サーバ30と通信を行う。送受信部14は、例えば、ロ
ーカルエリアネットワーク(Local Area Network;LAN)、ワイドエリアネットワーク
(Wide Area Network;WAN)、赤外線、無線、WiFi、ポイントツーポイント(P
2P)ネットワーク、電気通信ネットワーク、クラウド通信などのうちの1つ以上を利用
することができる。送受信部14は、センサ類で取得したデータ、フライトコントローラ
が生成した処理結果、所定の制御データ、端末または遠隔の制御器からのユーザコマンド
などのうちの1つ以上を送信および/または受け取ることもできる。
【0019】
図3は、フライトコントローラ11のソフトウェア構成例を示す図である。フライトコ
ントローラ11は、指示受信部111、飛行制御部112、位置姿勢情報取得部113、
撮影処理部114、撮影情報送信部115、位置姿勢情報記憶部151、撮影情報記憶部
152、GPSセンサ104、気圧センサ105、温度センサ106および加速度センサ
107を備える。
【0020】
なお、指示受信部111、飛行制御部112、位置姿勢情報取得部113、撮影処理部
114および撮影情報送信部115は、プロセッサ101がメモリ102に格納されてい
るプログラムを実行することにより実現される。また、位置姿勢情報記憶部151および
撮影情報記憶部152は、メモリ102の提供する記憶領域として実現される。
【0021】
指示受信部111は、飛行装置10の動作を指示する各種のコマンド(以下、飛行操作
コマンドという。)を受け付ける。本実施形態では、指示受信部111は、検査サーバ3
0から飛行操作コマンドを受信することを想定するが、プロポなどの送受信機から飛行操
作コマンドを受信するようにしてもよい。
【0022】
飛行制御部112は、飛行装置10の動作を制御する。飛行制御部112は、例えば、
6自由度(並進運動x、yおよびz、並びに回転運動θx、θyおよびθz)を有する飛
行装置10の空間的配置、速度、および/または加速度を調整するために、ESC16を
経由してモータ17を制御する。モータ17によりプロペラ18が回転することで飛行装
置10の揚力を生じさせる。また、飛行制御部112は、搭載部、センサ類の状態のうち
の1つ以上を制御することができる。本実施形態では、飛行制御部112は、指示受信部
111が受信した飛行操作コマンドに応じて飛行装置10の動作を制御するものとする。
また、飛行制御部112は、自律飛行を可能とするべく、コマンドによらずに飛行装置1
0が飛行を継続するように各種の制御を行うこともできる。
【0023】
位置姿勢情報取得部113は、飛行装置10の現在位置および姿勢を示す情報(以下、
位置姿勢情報という。)を取得する。本実施形態では、位置姿勢情報には、飛行装置10
の地図上の位置(緯度経度で表される。)と、飛行装置10の飛行高度と、飛行装置10
のx、y、z軸の夫々に対する傾きが含まれるものとする。なお、飛行装置10のx、y
、z軸は夫々互いに直交する座標軸であり、機体の平面座標および鉛直方向を表すことが
できる。
【0024】
センサ類103にはGPSセンサ104が含まれ、位置姿勢情報取得部113は、GP
Sセンサ104がGPS衛星から受信した電波から、飛行装置10の地図上の位置を算出
することができる。
【0025】
また、センサ類103には気圧センサ105および温度センサ106が含まれ、位置姿
勢情報取得部113は、飛行前に気圧センサ105により測定した大気圧(以下、基準気
圧という。)と、飛行中に気圧センサ105により測定した大気圧(以下、現在気圧とい
う。)との差分と、飛行中に温度センサ106により測定した気温とに基づいて、飛行装
置10の飛行高度を計算することができる。
【0026】
さらに、センサ類103には3軸の加速度センサ107が含まれ、位置姿勢情報取得部
113は、加速度センサ107からの出力に基づいて、飛行装置10の姿勢を求めること
ができる。また、飛行装置10の姿勢からカメラ12の光軸121(視点軸)を決定する
ことができる。
【0027】
位置姿勢情報取得部113は、GPSセンサ104を用いて取得した飛行装置10の地
図上の位置(緯度経度)と、気圧センサ105および温度センサ106を用いて取得した
飛行装置10の飛行高度と、加速度センサ107を用いて取得した飛行装置10の姿勢と
を設定した位置姿勢情報を、メモリ14の位置姿勢情報記憶部151に格納する。
【0028】
図4は位置姿勢情報記憶部151に記憶される位置姿勢情報の構成例を示す図である。
図4に示すように、位置姿勢情報記憶部151には、飛行装置10の現在位置を示す緯度
経度、上記のようにして計算した飛行高度、飛行前に測定した基準気圧、飛行中に測定し
た現在気圧、飛行中に測定した気温、および加速度センサ107を用いて取得した飛行装
置10の姿勢(カメラ12の光軸121の傾き)が格納される。
【0029】
撮影処理部114は、カメラ12を制御して検査対象物1の一部または全部を撮影させ
、カメラ12が撮影した撮影画像を取得する。撮影処理部114は、事前に設定されたタ
イミングで撮影を行うものとする。例えば、撮影処理部114は、所定の時間(例えば、
5秒、30秒など任意の時間を指定することができる。)ごとに撮影を行うようにするこ
とができる。なお、撮影処理部114は、検査サーバ30からの指示に応じて撮影するよ
うにしてもよい。
【0030】
撮影処理部114は、取得した撮影画像を撮影情報記憶部152に格納する。撮影処理
部114は、撮影画像に付帯させて、撮影日時、その時点における飛行装置10の地図上
の緯度経度(撮影位置)、その時点における飛行装置10の飛行高度(撮影高度)、飛行
装置10の姿勢(カメラ12の光軸121の傾き)も撮影情報記憶部152に格納する。
なお、これらの情報が付帯された画像を撮影情報という。
【0031】
図5は撮影情報記憶部152に格納される撮影情報の構成例を示す図である。撮影情報
記憶部152に格納される撮影情報には、撮影日時、撮影位置、撮影高度、傾きおよび画
像データが含まれる。撮影情報は、例えば、ファイルシステム上のファイルとして記憶さ
せることができる。また、撮影日時、撮影位置、撮影高度および傾きは、例えば、JPE
G(Joint Photographic Experts Group)画像ファイルのExif(Exchangeable image
file format)情報として格納するようにしてもよいし、画像データをファイルとしてフ
ァイルシステムに格納し、撮影日時、撮影位置、撮影高度および傾きと、ファイル名とを
対応付けたレコードをデータベースに登録するようにしてもよい。また、撮影情報には、
焦点距離やシャッター速度などのカメラ12の特性を含めるようにしてもよい。
【0032】
撮影情報送信部115は、カメラ12が撮影した画像を検査サーバ30に送信する。本
実施形態では、撮影情報送信部115は、撮影画像に、撮影日時、撮影位置、撮影高度お
よび傾きを付帯させた撮影情報を検査サーバ30に送信するものとする。
【0033】
(検査サーバ30)
図6は、検査サーバ30のハードウェア構成例を示す図である。検査サーバ30は、C
PU301、メモリ302、記憶装置303、通信装置304、入力装置305、出力装
置306を備える。記憶装置303は、各種のデータやプログラムを記憶する、例えばハ
ードディスクドライブやソリッドステートドライブ、フラッシュメモリなどである。通信
装置304は、通信ネットワーク50を介して他の装置と通信を行う。通信装置304は
、例えばイーサネット(登録商標)に接続するためのアダプタ、公衆電話回線網に接続す
るためのモデム、無線通信を行うための無線通信機、シリアル通信のためのUSBコネク
タやRS232Cコネクタなどを含んで構成される。入力装置305は、データを入力す
る、例えばキーボードやマウス、タッチパネル、ボタン、マイクロフォンなどである。出
力装置306は、データを出力する、例えばディスプレイやプリンタ、スピーカなどであ
る。
【0034】
図7は、検査サーバ30のソフトウェア構成例を示す図である。検査サーバ30は、飛
行制御部311、撮影情報受信部312、3次元モデル作成部313、異常検出部314
、3次元モデル表示部315、撮影画像表示部316、撮影情報記憶部351、3次元モ
デル記憶部352および異常情報記憶部353を備える。
【0035】
なお、飛行制御部311、撮影情報受信部312、3次元モデル作成部313、異常検
出部314、3次元モデル表示部315および撮影画像表示部316は、検査サーバ30
が備えるCPU301が記憶装置303に記憶されているプログラムをメモリ302に読
み出して実行することにより実現され、撮影情報記憶部351、3次元モデル記憶部35
2および異常情報記憶部353は、検査サーバ30の備えるメモリ302および記憶装置
303が提供する記憶領域の一部として実現される。
【0036】
飛行制御部311は、飛行装置10を飛行させる制御を行う。本実施形態では、飛行制
御部311は、飛行装置10に対して飛行操作コマンドを送信することにより飛行装置1
0を操作する。飛行制御部311は、例えば、オペレータから地図上における飛行経路の
指定を受け付けて、受け付けた飛行経路上を飛行するように飛行操作コマンドを送信する
ことができる。また、飛行制御部311は、後述するように検査対象物1の3次元モデル
を作成するべく、飛行装置10に検査対象物1の周囲を飛行させて撮影領域の少なくとも
一部が重なるように連続させて撮影できるように飛行装置10を制御する。なお、本実施
の形態においては、飛行装置10は、検査サーバ30の飛行制御部311によって制御さ
れているが、例えば、あらかじめ保存された自動飛行のためのソフトウェア(データ)に
よって飛行装置10が自律的に制御される方法や、オペレータの手動操作によって制御(
操作)される方法や、これらの組み合わせであってもよい。
【0037】
撮影情報受信部312は、飛行装置10から送信される撮影情報を受信する。撮影情報
受信部312は、受信した撮影情報を撮影情報記憶部351に格納する。なお、本実施形
態では、撮影情報記憶部351の構成は、図5に示す飛行装置10の撮影情報記憶部15
2と同一の構成であるものとする。なお、検査サーバ30が備える撮影情報記憶部351
は、撮影情報の送信元である飛行装置10を特定する情報に対応付けて、撮影情報を記憶
するようにしてもよい。
【0038】
3次元モデル作成部313は、複数の撮影画像から3次元の構造体を表現する3次元モ
デルを作成する。3次元モデル作成部313は、いわゆるフォトグラメトリー(写真測量
)の技術を用いて3次元モデルを作成することができる。本実施形態において、3次元モ
デルのワールド座標系は、緯度、経度および高度で表されるものとする。撮影情報に含ま
れる撮影位置、撮影高度および光軸121の傾きにより、カメラ12のワールド座標系に
おける位置および視点方向を示すことができる。3次元モデル作成部313は、撮影情報
に含まれている画像データから特徴点を抽出し、撮影情報に含まれる撮影位置、撮影高度
および傾きに基づいて複数の画像データから抽出された特徴点の対応付けを行い、ワール
ド座標系における3次元点群(ポイントクラウドとも呼ばれる。)を取得する。本実施形
態では、3次元モデルは3次元点群により構成されるものとするが、3次元モデル作成部
313は、点群に基づいてポリゴン等の面データを生成することもできる。さらに、3次
元モデル作成部313は、3次元モデルと撮影画像に基づいてオルソ画像を生成すること
もできる。
【0039】
3次元モデル作成部313は、作成した3次元モデル(本実施形態では3次元点群)を
3次元モデル記憶部352に登録する。図8は3次元モデル記憶部352の構成例を示す
図である。同図に示すように、3次元モデル記憶部352には、3次元点群を構成する各
点についての座標が登録される。なお、3次元モデル作成部313が3次元点群に基づい
てポリゴン等の面データを作成した場合には、3次元モデル記憶部352は点の座標に加
えて、または点の座標に代えて、面データを記憶するようにしてもよい。
【0040】
異常検出部314は、飛行装置10からの撮影画像を解析して、検査対象物1の異常を
検出する。異常検出部314は、例えば、過去に異常が発生した検査対象物1を撮影した
画像を教師信号としてニューラルネットワーク等の機械学習を用いた学習を行っておき、
飛行装置10から受信した撮影画像を入力信号として異常を判定することができる。また
、異常検出部314は、正常時の画像をメモリ302に予め記憶しておき、正常時の画像
と撮影画像とを比較して、所定値以上の差分のある画素により構成される領域を認識し、
当該領域の面積が所定値以上となるものについて異常と判定することもできる。なお、異
常検出部314は、公知の技術を用いて画像から異常部分を検出するようにすることがで
きる。
【0041】
異常検出部314は、検出した撮影画像上の異常箇所について、ワールド座標系の位置
を特定する。異常検出部314は、たとえば、3次元点群に含まれる点のそれぞれについ
て、撮影情報に含まれている撮影位置および撮影高度に設置したカメラから、撮影情報に
含まれている傾きが示す方向に撮影した場合の画像上の位置を特定し、特定した画像上の
位置が、異常箇所として検出した領域に含まれているか否かにより、当該点が異常箇所を
構成するか否かを判定し、異常箇所を構成する点の座標を異常箇所の位置として特定する
ことができる。異常常検出部315は、検出した異常に関する情報(以下、異常情報とい
う。)を異常情報記憶部353に登録する。
【0042】
図9は異常情報記憶部353に登録される異常情報の構成例を示す図である。同図に示
すように、異常情報には、異常箇所を示すワールド座標系上の座標位置(異常位置)と、
当該異常箇所を撮影した画像に係る撮影情報を特定するための情報(例えばJPEGファ
イル名とすることができる。)と、画像上における異常が検出された位置(以下、画像異
常位置という。)とが含まれる。図8の例では、画像異常位置に矩形を示す2つの頂点の
座標が含まれた例が示されているが、画像異常位置には、例えば1つの座標のみが含まれ
るようにしてもよいし、多角形を構成する3つ以上の座標が含まれるようにしてもよいし
、楕円形を表す中心座標と2つの半径とが含まれるようにしてもよい。すなわち、画像異
常位置は、点または幾何図形を表す情報であればよい。なお、上述した例の他、例えば、
画像における異常位置に当該異常を示す箇所を直接描画することとしてもよい。この場合
、異常位置に関する座標位置は利用せず、例えば、撮影画像に関する情報と異常位置とを
直接関連付けることとしてもよい。
【0043】
3次元モデル表示部315は、3次元モデル作成部313が作成した3次元モデルを平
面に投影した画像(以下、3次元投影画像という。)を表示する。3次元モデル表示部3
15は、3次元投影画像を、ワイヤーフレームで表示するようにしてもよいし、撮影画像
を3次元モデルにマッピングしてもよい。また、3次元モデル表示部315は、3次元モ
デルを作成した各撮影画像について、カメラ12の位置および視点軸の方向を3次元モデ
ルに重畳させて表示している。本実施の形態においては、説明を容易にするためにカメラ
12の位置および視点軸の方向を表示することとしているが、表示の有無の設定、その切
替方法については、用途及びニーズに合わせて適宜変更することができる。
【0044】
==処理==
以下、本実施形態の検査システムにおける処理について説明する。
【0045】
==撮影処理==
図10は、検査対象物1を撮影する処理の流れを説明する図である。図10に示す撮影
処理は、飛行装置10が飛行している間、定期的に実行される。
【0046】
飛行装置10において、撮影処理部114は、カメラ12を制御して、カメラ12が撮
影した撮影画像を取得し(S201)、位置姿勢情報取得部113は、GPSセンサ10
4、気圧センサ105、温度センサ106および加速度センサ107からの信号に基づい
て、撮影位置、撮影高度および姿勢を求める(S202)。撮影情報送信部115は、カ
メラ12から取得した撮影画像に、現在の日時(撮影日時)、撮影位置、撮影高度および
姿勢を付帯させた撮影情報を作成して検査サーバ30に送信する(S203)。
【0047】
検査サーバ30では、撮影情報受信部312は、飛行装置10から送信される撮影情報
を受信し(S204)、受信した撮影情報を撮影情報記憶部351に登録する(S205
)。
【0048】
以上のようにして、飛行装置10において撮影された画像は、撮影日時、撮影位置、撮
影高度および飛行装置10の姿勢(光軸121の傾き)とともに、撮影情報記憶部351
に順次登録されていくことになる。
【0049】
==検査処理==
図11は検査サーバ30により実行される検査処理の流れを示す図である。本実施形態
では、図11に示す処理は、飛行装置10による撮影が全て終了した後に行われることを
想定するが、飛行装置10が撮影を続けている間に行うようにすることもできる。
【0050】
3次元モデル作成部313は、撮影情報記憶部351に登録されている撮影情報に基づ
いて3次元モデルを作成する(S211)。なお、3次元モデルの作成処理については、
一般的な写真測量(フォトグラメトリ)の手法により3次元モデルを作成するものとする
。たとえば、3次元モデル作成部313は、撮影時間の順に連続する2つの撮影情報のペ
アについて、対応点を探索し、見つかった対応点について、飛行位置および飛行高度なら
びに姿勢に応じて対応点のワールド座標系における位置を特定することができる。なお、
3次元モデルの作成は例示であり、上記のほか、種々の方法で作成することができる。
【0051】
3次元モデル作成部313は、作成した3次元モデルを3次元モデル記憶部352に登
録する(S212)。本実施形態では、3次元モデルは3次元点群により構成されるもの
とする。そこで対応点のワールド座標系における座標を3次元モデル記憶部352に登録
することができる。
【0052】
次に、異常検出部314は、撮影情報記憶部351に登録されている各撮影情報につい
て、以下の処理を行う。すなわち、異常検出部314は、撮影情報に含まれている画像デ
ータを解析して、検査対象物1の異常の有無を検査する(S213)。画像データから検
査対象物1の異常が検出された場合(S214:YES)、異常検出部314は、撮影情
報の撮影位置および撮影高度が示すワールド座標系の座標から、撮影情報の傾きが示す光
軸121(視点軸)の方向に延ばした直線と、3次元モデルとが交差する座標を異常の発
生した位置(異常位置)として特定する(S215)。なお、異常検出部314は、3次
元点群に含まれる点のいずれにも、カメラ12からの光軸121が交差しない場合、最も
近くを通り、かつ光軸121に平行な距離が最も近い点の座標を異常位置として決定して
もよい。異常検出部314は、撮影情報を特定する情報(例えばファイル名とすることが
できる。)と、画像データ上で異常を発見した箇所(画像異常位置)とを異常位置に対応
付けて異常情報記憶部353に登録する(S216)。
【0053】
以上の処理を撮影情報のそれぞれについて行った後、3次元モデル表示部315は、3
次元モデルを投影した画像を表示する(S217)。図12は、3次元モデル表示部31
5が表示する3次元投影画像を説明する図である。図12の例では、3次元モデル作成部
313が複数の撮影画像に基づいて作成した3次元モデルに対して、撮影画像をマッピン
グした3次元投影画像41が画面40に表示されている。3次元モデル表示部315は、
たとえば、3次元モデル記憶部352に登録されている点群を投影して3次元投影画像4
1を作成することができる。
【0054】
次に3次元モデル表示部315は、撮影画像を撮影したカメラ12を示す図形を3次元
投影画像41に重ねて表示する。具体的には、3次元モデル表示部315は、撮影情報記
憶部351に登録されている各撮影情報について、撮影情報に含まれている撮影位置およ
び撮影高度から傾きが示す方向に傾けたカメラ12を表す図形を3次元モデル上に重ねて
表示させるようにする。図12の例では、カメラ12の位置および視点軸の方向を示す円
錐体42を3次元投影画像41に重畳させて表示している。上述したように本実施の形態
においては、説明を容易にするためにカメラ12の位置および視点軸の方向を表示するこ
ととしているが、表示の有無の設定、その切替方法については、用途及びニーズに合わせ
て適宜変更することができる。
【0055】
3次元モデル表示部315は、異常箇所を示す図形を3次元投影画像41上に重ねて表
示する(S219)。具体的には、3次元モデル表示部315は、異常情報記憶部353
に登録されている各異常情報につて、異常位置が示す座標に所定の図形を表示させる。図
12の例では、マーク43を3次元投影画像41に重畳させて表示している。なお、図1
2の例では、マーク43は1つのみが表示されているが、異常情報記憶部353に複数の
異常箇所が登録されている場合には複数のマーク43が表示されることになる。
【0056】
以上のようにして、飛行装置10が撮影した複数の画像に基づいて3次元モデルを作成
するとともに、撮影画像から検出した異常箇所を3次元モデル上にマッピングして表示す
ることができる。
【0057】
==確認処理==
図13は、指定された位置の異常箇所が撮影されている撮影画像を表示する処理の流れ
を示す図である。画面40において、ユーザが、たとえばマーク43をクリックすること
により、詳細を確認したい異常箇所の位置を指定した場合に、撮影画像表示部316は、
当該位置の指定を受け付け(S231)、受け付けた位置に対応する異常情報を異常情報
記憶部353から検索する(S232)。撮影画像表示部316は、検索した異常情報に
含まれる画像が示す撮影情報を撮影情報記憶部351から読み出し(S233)、読み出
した撮影情報に含まれている画像データを画面40に出力する(S234)。
【0058】
以上のようにして、撮影画像表示部316は、ユーザから指示された位置を撮影した撮
影画像を画面40に表示することができる。
【0059】
==効果==
以上説明したように、本実施形態の検査システムによれば、撮影位置、撮影高度および
姿勢に基づいて、撮影画像上の位置を3次元モデル上の位置に対応付けることができる。
したがって、画像から検出した異常箇所についても、画像としてのみではなく、3次元モ
デル上に異常箇所として取り込むことが可能となる。また、3次元モデル上の位置が指定
された場合に、当該指定された位置に対応する異常情報と特定して、当該異常箇所を撮影
した画像を容易に特定することが可能となり、ユーザに対して詳細な2次元画像を迅速か
つ的確に提供することができる。
【0060】
以上、本発明の一実施形態について説明したが、上記実施形態は本発明の理解を容易に
するためのものであり、本発明を限定して解釈するためのものではない。本発明は、その
趣旨を逸脱することなく、変更、改良され得るとともに、本発明にはその等価物も含まれ
る。
【0061】
例えば、本実施形態では、カメラ12は機体の下部に固定されるものとしたが、これに
限らず、ジンバルを介して可動式に装着するようにしてもよい。この場合、撮影情報には
飛行装置10の傾きに加えて、カメラ12の撮影方向も含めるようにする。
【0062】
また、本実施形態では、気圧センサ105および温度センサ106を用いて撮影高度を
求めるものとしたが、これに限らず、公知の手法を用いて撮影高度を求めるようにしても
よい。
【0063】
また、本実施形態では、飛行装置10からの撮影情報はカメラ12で撮影が行われる都
度検査サーバ30に送信されるものとしたが、飛行装置10は撮影情報記憶部152に撮
影情報を蓄積しておき、飛行中に定期的に、あるいは、飛行終了後に一度に撮影情報記憶
部152に記憶されている撮影情報を検査サーバ30に送信するようにしてもよい。
【0064】
また、本実施形態では、ユーザは画面40において異常箇所の位置を選択し、選択した
位置に対応する異常箇所が検索され、検索された異常箇所に対応する撮影画像が表示され
るものとしたが、マーク43に異常情報を対応付けておき、選択されたマーク43から異
常情報を特定するようにしてもよい。
【0065】
また、本実施形態では、ユーザは画面40において異常箇所の位置のみが選択可能であ
るものとしたが、異常箇所以外の任意の位置(座標)を選択可能としてもよい。この場合
図14に示されるように、選択した個所(例えば、43a、43b、43c)に対応す
る画像(44a、44b、44c)が表示される。この場合、撮影画像表示部316はま
ず、撮影情報記憶部351に登録されている撮影情報のそれぞれについて、飛行位置およ
び飛行高度の座標から指定された座標に向けた直線が、飛行位置および飛行高度の座標か
ら視点軸にカメラ12を向けた場合のカメラ12の画角の中に入っているか否かにより、
当該撮影情報に係る画像データに、指定された座標が撮影されうるか否かを判断する。次
に、撮影画像表示部316は、指定された座標が撮影されうると判断した撮影情報につい
て、上記直線が3次元モデルの他の点を通る(もしくは他の点から所定の距離以下となる
)か否かにより、または3次元モデルのポリゴンを通るか否かにより、指定された座標の
撮影が妨げられるか否かを判断する。最後に撮影画像表示部316は、指定された座標の
撮影が妨げられないと判断した撮影情報について、画像データを表示するようにすること
ができる。
【符号の説明】
【0066】
10 飛行装置
11 フライトコントローラ
12 カメラ
14 送受信部
16 ESC
17 モータ
18 プロペラ
30 検査サーバ
50 通信ネットワーク
101 プロセッサ
102 メモリ
103 センサ類
104 GPSセンサ
105 気圧センサ
106 温度センサ
107 加速度センサ
111 指示受信部
112 飛行制御部
113 位置姿勢情報取得部
114 撮影処理部
115 撮影情報送信部
151 位置姿勢情報記憶部
152 撮影情報記憶部
301 CPU
302 メモリ
303 記憶装置
304 通信装置
305 入力装置
306 出力装置
311 飛行制御部
312 撮影情報受信部
313 3次元モデル作成部
314 異常検出部
315 3次元モデル表示部
316 撮影画像表示部
351 撮影情報記憶部
352 3次元モデル記憶部
353 異常情報記憶部

図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14