(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-08-14
(45)【発行日】2024-08-22
(54)【発明の名称】目標点に向かって被誘導体を誘導するためのシステム、方法、およびプログラム
(51)【国際特許分類】
G05D 1/683 20240101AFI20240815BHJP
H04N 5/222 20060101ALI20240815BHJP
H04N 23/60 20230101ALI20240815BHJP
G06T 7/70 20170101ALI20240815BHJP
F03D 17/00 20160101ALI20240815BHJP
F03D 80/30 20160101ALI20240815BHJP
G05D 1/46 20240101ALN20240815BHJP
【FI】
G05D1/683
H04N5/222 100
H04N23/60 500
G06T7/70 Z
F03D17/00
F03D80/30
G05D1/46
(21)【出願番号】P 2023146851
(22)【出願日】2023-09-11
【審査請求日】2024-02-09
【早期審査対象出願】
(73)【特許権者】
【識別番号】506301140
【氏名又は名称】公立大学法人会津大学
(73)【特許権者】
【識別番号】512118299
【氏名又は名称】株式会社東日本計算センター
(74)【代理人】
【識別番号】100078282
【氏名又は名称】山本 秀策
(74)【代理人】
【識別番号】100113413
【氏名又は名称】森下 夏樹
(74)【代理人】
【識別番号】100181674
【氏名又は名称】飯田 貴敏
(74)【代理人】
【識別番号】100181641
【氏名又は名称】石川 大輔
(74)【代理人】
【識別番号】230113332
【氏名又は名称】山本 健策
(72)【発明者】
【氏名】矢口 勇一
(72)【発明者】
【氏名】松本 美勝
(72)【発明者】
【氏名】大橋 史裕
【審査官】西井 香織
(56)【参考文献】
【文献】特開2017-151018(JP,A)
【文献】特開2016-042087(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G05D 1/00 - 1/87
H04N 5/222
H04N 23/60
G06T 7/70
F03D 17/00
F03D 80/30
(57)【特許請求の範囲】
【請求項1】
目標点に向かって被誘導体を誘導するためのシステムであって、
前記被誘導体上に搭載された複数の撮像手段と、
前記複数の撮像手段によって取得された複数の画像の各々において前記目標点を識別する識別手段と、
前記
複数の画像の各々において識別された
複数の目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御する制御手段と
を備えるシステム。
【請求項2】
前記制御手段は、前記複数の画像において生じる、前記識別された目標点に対する視差に基づいて、前記被誘導体を制御する、請求項1に記載のシステム。
【請求項3】
前記複数の撮像手段は、第1の撮像手段と、第2の撮像手段と、第3の撮像手段とを含む少なくとも3つの撮像手段であり、
前記識別手段は、前記第1の撮像手段によって取得された第1の画像中の前記目標点を第1の目標点として識別し、前記第2の撮像手段によって取得された第2の画像中の前記目標点を第2の目標点として識別し、前記第3の撮像手段によって取得された第3の画像中の前記目標点を第3の目標点として識別し、
前記制御手段は、前記第1の画像と前記第2の画像と前記第3の画像とを統合し、前記第1の目標点と前記第2の目標点と前記第3の目標点とによって形成される三角形に基づいて、前記被誘導体を制御する、請求項2に記載のシステム。
【請求項4】
前記制御手段は、前記三角形の基準位置が所定の位置に到達するように、前記被誘導体を制御する、請求項3に記載のシステム。
【請求項5】
前記制御手段は、前記三角形の面積が所定の面積となるように、前記被誘導体を制御する、請求項3または請求項4に記載のシステム。
【請求項6】
前記識別手段は、前記第1の撮像手段によって取得された第1の画像中のターゲット点を第1の点として識別し、前記第2の撮像手段によって取得された第2の画像中のターゲット点を第2の点として識別し、前記第3の撮像手段によって取得された第3の画像中のターゲット点を第3の点として識別し、
前記制御手段は、前記第1の点と前記第2の点と前記第3の点とによって形成される第2の三角形と、前記三角形とに基づいて、前記被誘導体を制御する、請求項3に記載のシステム。
【請求項7】
前記制御手段は、前記三角形の基準位置が前記第2の三角形の基準位置と重なるように、前記被誘導体を制御する、請求項6に記載のシステム。
【請求項8】
前記制御手段は、前記三角形の面積が前記第2の三角形の面積と略同一になるように、前記被誘導体を制御する、請求項6または請求項7に記載のシステム。
【請求項9】
前記基準位置は、重心位置である、請求項4または請求項7に記載のシステム。
【請求項10】
前記識別手段は、前記複数の撮像手段のうちの1つの撮像手段によって取得された時間的に連続する画像の各々から前記目標点を識別するように構成され、
前記識別手段は、
前記
連続する画像のうちの先行画像に基づいて、前記目標点を識別するためのガイド情報を作成することと、
前記
先行画像から、前記目標点が位置する物体の領域を抽出することと、
前記連続する画像のうちの後続画像において、前記領域を用いてテンプレートマッチングを行うことと、
前記テンプレートマッチングの結果に基づいて前記ガイド情報を補正し、前記補正されたガイド情報を前記後続画像に付与することと、
前記付与されたガイド情報を用いて、前記後続画像において前記目標点を識別することと
を行うように構成されている、請求項1に記載のシステム。
【請求項11】
前記識別手段は、前記複数の撮像手段のうちの第1の撮像手段によって取得された第1の画像中の前記目標点を識別し、前記複数の撮像手段のうちの第2の撮像手段によって取得された第2の画像中の前記目標点を識別し、
前記制御手段は、前記第1の撮像手段の位置と、前記第2の撮像手段の位置と、前記目標点の位置とを用いた三角比により、前記被誘導体と前記目標点との間の距離を計測し、前記距離に基づいて前記被誘導体を制御する、請求項1に記載のシステム。
【請求項12】
前記被誘導体は、飛行体であり、前記目標点は、風車のブレード上の点である、請求項1に記載のシステム。
【請求項13】
目標点に向かって被誘導体を誘導するための方法であって、
前記被誘導体上に搭載された複数の撮像手段によって取得された複数の画像を受信することと、
前記複数の画像の各々において前記目標点を識別することと、
前記
複数の画像の各々において識別された
複数の目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御することと
を含む方法。
【請求項14】
目標点に向かって被誘導体を誘導するためのプログラムであって、前記プログラムは、プロセッサを備えるコンピュータにおいて実行され、前記プログラムは、
前記被誘導体上に搭載された複数の撮像手段によって取得された複数の画像を受信することと、
前記複数の画像の各々において前記目標点を識別することと、
前記
複数の画像の各々において識別された
複数の目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御するための制御信号を出力することと
を含む処理を前記プロセッサに行わせる、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、目標点に向かって被誘導体を誘導するためのシステム、方法、およびプログラムに関し、より具体的には、風車のブレードの点検等のために、風車のブレードまで飛行体を誘導するためのシステム等に関する。
【背景技術】
【0002】
従来から、送電線の鉄柱、高層ビル、大型風力発電機のブレードといった高い建造物は、雷による被害を受けやすいため、落雷対策が施されている。例えば、風車のブレードには、雷撃電流を地面に流すための受雷部(レセプタ)および避雷導線(ダウンコンダクタ)が設けられているが、レセプタおよびダウンコンダクタが導通不良であると、ブレードは、落雷により故障してしまう。従って、このような落雷対策が施された建造物では、レセプタおよびダウンコンダクタの導通検査を定期的に行う必要がある。
【0003】
高所での導通検査作業が危険であることから、無人航空機(UAV:Unmanned Aerial Vehicle)を利用して導通検査を行う試みがなされている(例えば、特許文献1、特許文献2)。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2017-151018号公報
【文献】特開2016-42087号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明は、飛行体等の被誘導体が目標点に向かって移動するように、簡略化された制御で被誘導体を誘導することを可能にするシステム等を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明は、目標点に向かって被誘導体を誘導するためのシステム等を提供し、このシステムでは、複数の撮像手段によって取得された複数の画像から目標点を識別し、識別された目標点に基づいて、被誘導体を制御する。
【0007】
本発明は、例えば、以下の項目を提供する。
(項目1)
目標点に向かって被誘導体を誘導するためのシステムであって、
前記被誘導体上に搭載された複数の撮像手段と、
前記複数の撮像手段によって取得された複数の画像の各々において前記目標点を識別する識別手段と、
前記識別された目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御する制御手段と
を備えるシステム。
(項目2)
前記制御手段は、前記複数の画像において生じる、前記識別された目標点に対する視差に基づいて、前記被誘導体を制御する、上記項目に記載のシステム。
(項目3)
前記複数の撮像手段は、第1の撮像手段と、第2の撮像手段と、第3の撮像手段とを含む少なくとも3つの撮像手段であり、
前記識別手段は、前記第1の撮像手段によって取得された第1の画像中の前記目標点を第1の目標点として識別し、前記第2の撮像手段によって取得された第2の画像中の前記目標点を第2の目標点として識別し、前記第3の撮像手段によって取得された第3の画像中の前記目標点を第3の目標点として識別し、
前記制御手段は、前記第1の画像と前記第2の画像と前記第3の画像とを統合し、前記第1の目標点と前記第2の目標点と前記第3の目標点とによって形成される三角形に基づいて、前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目4)
前記制御手段は、前記三角形の基準位置が所定の位置に到達するように、前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目5)
前記制御手段は、前記三角形の面積が所定の面積となるように、前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目6)
前記識別手段は、前記第1の撮像手段によって取得された第1の画像中のターゲット点を第1の点として識別し、前記第2の撮像手段によって取得された第2の画像中のターゲット点を第2の点として識別し、前記第3の撮像手段によって取得された第3の画像中のターゲット点を第3の点として識別し、
前記制御手段は、前記第1の点と前記第2の点と前記第3の点とによって形成される第2の三角形と、前記三角形とに基づいて、前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目7)
前記制御手段は、前記三角形の基準位置が前記第2の三角形の基準位置と重なるように、前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目8)
前記制御手段は、前記三角形の面積が前記第2の三角形の面積と略同一になるように、前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目9)
前記基準位置は、重心位置である、上記項目のいずれか一項に記載のシステム。
(項目10)
前記識別手段は、前記複数の撮像手段のうちの1つの撮像手段によって取得された時間的に連続する画像の各々から前記目標点を識別するように構成され、
前記識別手段は、
前記先行画像に基づいて、前記目標点を識別するためのガイド情報を作成することと、
前記連続する画像のうちの先行画像から、前記目標点が位置する物体の領域を抽出することと、
前記連続する画像のうちの後続画像において、前記領域を用いてテンプレートマッチングを行うことと、
前記テンプレートマッチングの結果に基づいて前記ガイド情報を補正し、前記補正されたガイド情報を前記後続画像に付与することと、
前記付与されたガイド情報を用いて、前記後続画像において前記目標点を識別することと
を行うように構成されている、上記項目のいずれか一項に記載のシステム。
(項目11)
前記識別手段は、前記複数の撮像手段のうちの第1の撮像手段によって取得された第1の画像中の前記目標点を識別し、前記複数の撮像手段のうちの第2の撮像手段によって取得された第2の画像中の前記目標点を識別し、
前記制御手段は、前記第1の撮像手段の位置と、前記第2の撮像手段の位置と、前記目標点の位置とを用いた三角比により、前記被誘導体と前記目標点との間の距離を計測し、前記距離に基づいて前記被誘導体を制御する、上記項目のいずれか一項に記載のシステム。
(項目12)
前記被誘導体は、飛行体であり、前記目標点は、風車のブレード上の点である、上記項目のいずれか一項に記載のシステム。
(項目13)
目標点に向かって被誘導体を誘導するための方法であって、
前記被誘導体上に搭載された複数の撮像手段によって取得された複数の画像を受信することと、
前記複数の画像の各々において前記目標点を識別することと、
前記識別された目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御することと
を含む方法。
(項目13A)
上記項目のいずれか一項に記載の特徴を含む、項目13に記載の方法。
(項目14)
目標点に向かって被誘導体を誘導するためのプログラムであって、前記プログラムは、プロセッサを備えるコンピュータにおいて実行され、前記プログラムは、
前記被誘導体上に搭載された複数の撮像手段によって取得された複数の画像を受信することと、
前記複数の画像の各々において前記目標点を識別することと、
前記識別された目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御するための制御信号を出力することと
を含む処理を前記プロセッサに行わせる、プログラム。
(項目14A)
上記項目のいずれか一項に記載の特徴を含む、項目14に記載のプログラム。
(項目14B)
項目14または項目14Aに記載のプログラムを記憶するコンピュータ読み取り可能な有形記憶媒体。
【発明の効果】
【0008】
本発明によれば、簡略化された制御で被誘導体を誘導することを可能にするシステム等を提供することができる。
【図面の簡単な説明】
【0009】
【
図1】本発明の手法に従って、ドローンを利用して風車のブレードのレセプタの導通検査を行うプロセスの一例を示す図
【
図2A】ドローン21をブレード11の先端まで誘導するために、視差を用いることの例を概略的に説明する図
【
図3A】ドローン21をブレード11の先端まで誘導するために、視差を用いることの別の例を概略的に説明する図
【
図3C】プローブが重心位置にない場合の例を示す図
【
図4A】ドローン21をブレード11の先端まで誘導するために、三角比を用いることの例を概略的に説明する図
【
図4B】カメラの視線方向に歪みがある場合に、ドローン21をブレード11の先端まで誘導するために、三角比を用いることの例を概略的に説明する図
【
図4C】カメラが魚眼レンズを有するカメラである場合に、ドローン21をブレード11の先端まで誘導するために、三角比を用いることの例を概略的に説明する図
【
図5】目標点に向かって被誘導体を誘導するためのシステム1000の構成の一例を示す図
【
図6】コンピュータシステム100の構成の一例を示す図
【
図8】目標点に向かって被誘導体を誘導するためのシステム1000において行われる手順800の一例を示すフローチャート
【
図9】ドローンを利用して風車のブレードのレセプタの導通検査を行う従来のプロセスの一例を示す図
【発明を実施するための形態】
【0010】
(定義)
本明細書において、「被誘導体」とは、本発明の技術によって誘導される対象の物体をいう。被誘導体は、例えば、自律移動可能な物体であってもよいし、人間による操作を介して移動可能な物体であってもよい。被誘導体は、好ましくは、飛行体であり得、より好ましくは、人間による操作が不要な、自律飛行可能な無人飛行体(例えば、ドローン)であり得る。
【0011】
本明細書において、「目標点」とは、被誘導体が誘導されるときに目標となる点をいう。目標点は、例えば、誘導の目的地上の点であってもよいし、目的地までの経路の途中の点であってもよい。
【0012】
本明細書において、「ターゲット点」とは、被誘導体が誘導されるときに、目標点に接近させるべき点をいう。ターゲット点は、被誘導体との相対位置が変わらない点であり、被誘導体の一部上の点であってもよいし、被誘導体上には存在しない仮想的な点であってもよい。
【0013】
例えば、風車のブレードの導通検査を行う例の場合、被誘導体は、導通検査を行うためのプローブ等を備えるドローンであり得、目標点は、レセプタが存在する風車のブレード上の点(例えば、先端)であり得、ターゲット点は、プローブの先端であり得る。
【0014】
以下に本開示の好ましい実施形態を説明する。以下に提供される実施形態は、本開示のよりよい理解のために提供されるものであり、本開示の範囲は以下の記載に限定されるべきでないことが理解される。従って、当業者は、本明細書中の記載を参酌して、本開示の範囲内で適宜改変を行うことができることは明らかである。また、以下の実施形態は単独でも使用されあるいはそれらを組み合わせて使用することができることが理解される。
【0015】
以下、図面を参照しながら、本開示の好ましい実施の形態を説明する。
【0016】
(1.風車のブレードの導通検査のためのドローン誘導)
図9は、ドローンを利用して風車のブレードのレセプタの導通検査を行う従来のプロセスの一例を示す。
【0017】
この例では、導通検査を行うためのプローブを備えるドローン20が、風車10のブレード11の先端にあるレセプタまで飛行し、ドローン20がプローブをレセプタに接触させることによって導通検査が行われる。
【0018】
まず、ステップS1において、ドローン20が風車10の正面から離陸し、風車10のブレード11にアプローチする。
【0019】
ドローン20がブレード11に接近すると、ステップS2において、ドローン20は、ブレード11の形状に沿って移動する。ドローン20がレセプタの位置まで到達すると、レセプタの導通試験が行われることになる。
【0020】
このプロセスでは、ドローン20の移動のための制御数が多くなり、複雑な制御も必要とする。さらに、ドローン20の飛行時間が長くなり、これに伴い、作業時間も長くなる。
【0021】
また、ブレード11にアプローチするために、複数のカメラを用いた従来のステレオ技術によってブレード11を捉えることには、技術的な制限があった。具体的には、ブレード11が比較的に細い物体であるため、複数のカメラ間で見え方が異なってしまい、形状を適切に捉えることが困難であった。
【0022】
本発明の発明者は、制御を簡略化し、かつ、作業時間を短縮し得るプロセスの必要性を見出し、鋭意研究の結果、本発明の手法を開発した。
【0023】
図1は、本発明の手法に従って、ドローンを利用して風車のブレードのレセプタの導通検査を行うプロセスの一例を示す。
【0024】
この例では、導通検査を行うためのプローブと、複数のカメラとを備えるドローン21が、風車10のブレード11の先端にあるレセプタまで飛行し、ドローン21がプローブをレセプタに接触させることによって導通検査が行われる。ドローン21の中心には、導通検査を行うためのプローブが搭載されており、複数のカメラは、プローブ周りに搭載されている。
【0025】
ステップS11では、ドローン21は、風車10のブレード11の下方から離陸する。離陸前または離陸後に、ドローン21が備える複数のカメラを用いて、目標点であるブレード11の先端が撮像される。複数のカメラのそれぞれがブレード11の先端を撮像することにより、複数の画像が取得される。
【0026】
本発明の手法では、複数の画像の各々において、目標点であるブレード11の先端を識別し、識別された目標点に基づいて、ドローン21をブレード11の先端まで誘導するように、ブレード11の飛行を制御することになる。
【0027】
複数のカメラは、それぞれの搭載位置が相互に異なるため、取得された複数の画像には視差が生じ得る。本発明の手法では、この視差に基づいて、ドローン21をブレード11の先端まで誘導するように、ブレード11の飛行を制御することができる。
【0028】
図2Aは、ドローン21をブレード11の先端まで誘導するために、視差を用いることの例を概略的に説明する図である。
図2Aに示される例では、目標点としての先端を有するブレード11のみが描写されており、風車10の他の部分は省略されている。また、ドローン21に搭載されている3つのカメラ221、222、223のみが描写されており、ドローン21自体は省略されている。3つのカメラ221、222、223のそれぞれには、それぞれのカメラの画像面(四角錐の底面)が示されている。カメラの画像面は、x-y平面に平行な面であり、z方向は、カメラの画像面に垂直である。本明細書では、「水平方向」とは、撮像手段(カメラ)の画像面に平行な方向をいい、必ずしも地面に平行な方向を意味しないことに留意されたい。本明細書では、「垂直方向」は、「水平方向」に対して垂直な方向を意味する。
【0029】
第1のカメラ221によってブレード11の先端を撮像すると、第1のカメラ221の画像面にブレード11の先端が投影される。
図2Aでは、ブレード11の先端が中空丸で示されている。第2のカメラ222によってブレード11の先端を撮像すると、第2のカメラ222の画像面にブレード11の先端が投影される。
図2Aでは、ブレード11の先端が中実丸で示されている。第3のカメラ223によってブレード11の先端を撮像すると、第3のカメラ223の画像面にブレード11の先端が投影される。
図2Aでは、ブレード11の先端が灰色丸で示されている。
【0030】
第1のカメラ221による第1の画像と、第2のカメラ222による第2の画像と、第3のカメラ223による第3の画像とが重ね合わせられて統合されると、複合画像31が形成される。複合画像31には、第1のカメラ221によって撮像されたブレード11の先端を表す点(中空丸)と、第2のカメラ222によって撮像されたブレード11の先端を表す点(中実丸)と、第3のカメラ223によって撮像されたブレード11の先端を表す点(灰色丸)とが含まれている。視差により、中空丸の位置と中実丸の位置と灰色丸の位置とは相互にずれており、これらの3点によって三角形が形成され得る。
【0031】
【0032】
複合画像31には、第1のカメラ221によって撮像されたブレード11の先端を表す点P1(中空丸)と、第2のカメラ222によって撮像されたブレード11の先端を表す点P2(中実丸)と、第3のカメラ223によって撮像されたブレード11の先端を表す点P3(灰色丸)とが表されている。P1、P2、P3の3点によって形成される三角形Tは、重心Cを有している。
【0033】
ドローン21が水平方向(すなわち、
図2Aのx方向またはy方向)に移動すると、これに応じて、三角形Tの重心Cが移動する。ドローン21が垂直方向(すなわち、
図2Aのz方向)に移動すると、これに応じて、三角形Tの面積が変化する。ドローン21がブレード11の先端に近づくほど三角形Tの面積が大きくなり、ドローン21がブレード11の先端から遠ざかるほど三角形Tの面積が小さくなる。すなわち、三角形Tの重心Cの位置および面積は、ブレード11の先端に対するドローン21の3次元位置を表すことになる。
【0034】
従って、ステップS11では、複数のカメラで画像を取得し続け、取得された画像から得られる三角形Tの重心Cの位置および/または面積を利用して、ブレード11の先端までドローン21を誘導することになる。具体的には、三角形Tの重心Cが所定の位置に到達し、かつ、三角形Tの面積が所定の面積となるように、ドローン21を誘導する。これにより、単純な制御でドローン21を誘導することができる。さらに、ブレード11の下方からドローン21が飛行するようにすることで、ドローン21は最小距離を飛行することができ、これは作業時間の短縮につながり得る。
【0035】
図3Aは、ドローン21をブレード11の先端まで誘導するために、視差を用いることの別の例を概略的に説明する図である。
図3Aに示される例では、目標点としての先端を有するブレード11のみが描写されており、風車10の他の部分は省略されている。また、ドローン21に搭載されている3つのカメラ221、222、223のみが描写されており、ドローン21自体は省略されている。3つのカメラ221、222、223のそれぞれには、それぞれのカメラの画像面(四角錐の底面)が示されている。
図3Aに示される例では、ドローン21に搭載され得るプローブ23およびプローブ23が仮想的に破線で示されている。プローブ23は、3つのカメラ221、222、223の位置を頂点とする三角形の重心位置上に搭載され得る。ドローン21をブレード11の先端付近まで誘導する際には、プローブ23は、ドローン21内に格納されるかまたは後退位置に位置しており、ドローン21がブレード11の先端付近に到着すると、プローブ23は、
図3Aに破線で示されている位置まで延伸することにより、プローブ23の先端が、ブレード11の先端に位置するレセプタに接触することができる。従って、ドローン21を基準としたプローブの先端の空間位置が、ブレード11の先端まで誘導されるべきターゲット点24となる。
【0036】
ドローン21を誘導する前の準備段階において、例えば地上で、プローブ23を
図3Aに破線で示されている位置まで延伸させ、プローブ23の先端の空間位置(すなわち、ターゲット点24)を認識することができる。例えば、第1のカメラ221によってプローブ23の先端を撮像すると、第1のカメラ221の画像面にプローブ23の先端が投影される。
図3Aでは、第1のカメラ221の画像面において、プローブ23の先端が×で示されている。第2のカメラ222によってプローブ23の先端を撮像すると、第2のカメラ222の画像面にプローブ23の先端が投影される。
図3Aでは、第2のカメラ222の画像面において、プローブ23の先端が×で示されている。第3のカメラ223によってプローブ23の先端を撮像すると、第3のカメラ223の画像面にプローブ23の先端が投影される。
図3Aでは、第3のカメラ223の画像面において、プローブ23の先端が×で示されている。
【0037】
このようにして、プローブ23の先端の空間位置(ターゲット点24)が認識され、各カメラの画像面に投影される。ドローン21に対するターゲット点24の空間位置は不変なので、プローブ23を後退させたとしても、ターゲット点24の空間位置は、移動することはなく、ドローン21の誘導中さえも移動することはない。認識されたターゲット点24の空間位置を用いて、ドローン21の誘導が行われることになる。
【0038】
ドローン21を誘導する実行段階において、第1のカメラ221によってブレード11の先端を撮像すると、第1のカメラ221の画像面にブレード11の先端が投影される。
図3Aでは、ブレード11の先端が中空丸で示されている。第2のカメラ222によってブレード11の先端を撮像すると、第2のカメラ222の画像面にブレード11の先端が投影される。
図3Aでは、ブレード11の先端が中実丸で示されている。第3のカメラ223によってブレード11の先端を撮像すると、第3のカメラ223の画像面にブレード11の先端が投影される。
図3Aでは、ブレード11の先端が灰色丸で示されている。
【0039】
第1のカメラ221による第1の画像と、第2のカメラ222による第2の画像と、第3のカメラ223による第3の画像とが重ね合わせられて統合されると、複合画像32が形成される。複合画像32には、第1のカメラ221によって撮像されたブレード11の先端を表す点(中空丸)と、第2のカメラ222によって撮像されたブレード11の先端を表す点(中実丸)と、第3のカメラ223によって撮像されたブレード11の先端を表す点(灰色丸)とが含まれており、さらに、事前に認識された、第1のカメラ221によって撮像されたターゲット点24を表す点(×)、第2のカメラ222によって撮像されたターゲット点24を表す点(×)、第3のカメラ223によって撮像されたターゲット点24を表す点(×)も含まれている。視差により、中空丸の位置と中実丸の位置と灰色丸の位置とは相互にずれており、これらの3点によって三角形が形成され得る。また、視差により、3つの×の位置は相互にずれており、これらの3点によっても三角形が形成され得る。
【0040】
なお、上述した例では、ブレード11の先端と、プローブ23の先端(ターゲット点24)とを別々に撮像することを説明したが、これに限定されず、ブレード11の先端と、プローブ23の先端(ターゲット点24)とを同時に撮像するようにしてもよい。
【0041】
【0042】
複合画像32には、第1のカメラ221によって撮像されたブレード11の先端を表す点P1(中空丸)と、第2のカメラ222によって撮像されたブレード11の先端を表す点P2(中実丸)と、第3のカメラ223によって撮像されたブレード11の先端を表す点P3(灰色丸)とが表されている。P1、P2、P3の3点によって形成される三角形Tは、重心Cを有している。さらに、複合画像32には、第1のカメラ221によって撮像されたターゲット点24を表す点P01(中空×)と、第2のカメラ222によって撮像されたターゲット点24を表す点P02(中実×)と、第3のカメラ223によって撮像されたターゲット点24を表す点P03(灰色×)とが表されている。P01、P02、P03の3点によって形成される三角形T0は、重心C0を有している。プローブ23は、3つのカメラ221、222、223の位置を頂点とする三角形の重心位置上に搭載されているため、ターゲット点24は、三角形T0は、重心C0の位置にくることになる。
【0043】
ドローン21が水平方向(すなわち、
図3Aのx方向またはy方向)に移動すると、これに応じて、三角形Tの重心Cが移動する。このとき、ターゲット点24はドローン21と共に移動するため、三角形T
0の重心C
0は移動しない。ドローン21が垂直方向(すなわち、
図3Aのz方向)に移動すると、これに応じて、三角形Tの面積が変化する。ドローン21がブレード11の先端に近づくほど三角形Tの面積が大きくなり、ドローン21がブレード11の先端から遠ざかるほど三角形Tの面積が小さくなる。このとき、ターゲット点24はドローン21と共に移動するため、三角形T
0の面積は変化しない。
【0044】
三角形Tの重心Cと三角形T
0の重心C
0との相対的な位置関係は、ブレード11の先端とターゲット点24との相対的な水平方向(すなわち、
図3Aのx方向またはy方向)の位置関係を表すことになる。例えば、三角形Tの重心Cと三角形T
0の重心C
0とが重なることは、ブレード11の先端の(x,y)座標とターゲット点24の(x,y)座標とが同一になっていることを表す。
【0045】
三角形Tの面積と三角形T
0の面積との相対的な関係は、ブレード11の先端とターゲット点24との相対的な垂直方向(すなわち、
図3Aのz方向)の位置関係を表すことになる。例えば、三角形Tの面積と三角形T
0の面積とが同一となることは、ブレード11の先端のz座標とターゲット点24のz座標とが同一になっていることを表す。
【0046】
三角形Tの重心Cと三角形T0の重心C0とが重なり、かつ、三角形Tの面積と三角形T0の面積とが同一となった状態は、ブレード11の先端にターゲット点24が到達したことを意味する。
【0047】
従って、ステップS11では、複数のカメラで画像を取得し続け、取得された画像から得られる三角形Tの重心Cの位置および/または面積、ならびに、予め取得された画像から得られる三角形T0の重心C0の位置および/または面積を利用して、ブレード11の先端までドローン21を誘導することになる。具体的には、三角形Tの重心Cと三角形T0の重心C0とが重なり、かつ、三角形Tの面積と三角形T0の面積とが同一となるように、ドローン21を誘導する。これにより、ターゲット点24(ドローン21のプローブ23の先端がくる位置)がブレード11の先端に到達することになる。この状態で、プローブ23が延伸すると、プローブ23の先端が、ブレード11の先端(ひいては、レセプタ)に接触することになる。
【0048】
上述した例では、プローブ23が、3つのカメラ221、222、223の位置を頂点とする三角形の重心位置上に搭載され、従って、ターゲット点24も三角形の重心位置にあることを説明したが、プローブ23の位置は重心位置に限定されず、従って、ターゲット点24の位置も重心位置に限定されない。プローブ23は、ドローン21上の任意の位置に搭載されることができ、従って、ターゲット点24も対応する任意の点に位置し得る。この場合、上述した重心の位置に代えて、3つのカメラに対するターゲット点24の相対位置を三角形T0に対する関係に反映したときのターゲット点の位置(基準位置)と、3つのカメラに対するターゲット点24の相対位置を三角形Tに対する関係に反映したときのターゲット点の位置(基準位置)とを利用することになる。
【0049】
図3Cは、プローブが重心位置にない場合の例を示す。
図3Cは、ドローン21を上から見た図を示し、3つのカメラ221、222、223およびプローブ23のみが示されている。プローブ23の位置を原点(0,0)とし、第1のカメラ221の座標を(x
1,y
1)とし、第2のカメラ222の座標を(x
2,y
2)とし、第3のカメラ223の座標を(x
3,y
3)としている。プローブ23の位置は、3つのカメラ221、222、223による三角形の重心Gの位置からずれている。このとき、三角形の重心Gの座標は、
【数1】
で表される。プローブの位置(すなわち、原点(0,0))を第1のカメラ221から第2のカメラ222へのベクトルと第1のカメラ221から第3のカメラ223へのベクトルとの比の和として表すと、
【数2】
となる。このr、sを求めることにより、3つのカメラに対するプローブ23の相対位置(ひいては、ターゲット点24)が分かる。次いで、三角形T
0においても、求めたr、sを用いて、ターゲット点をP
01からP
02へのベクトルとP
01からP
03へのベクトルとの比の和で表すことにより、3つのカメラに対するターゲット点の相対位置が三角形T
0に反映され、三角形T
0におけるターゲット点の位置(基準位置)がわかる。同様に、三角形Tにおいても、求めたr、sを用いて、ターゲット点をP1からP2へのベクトルとP1からP3へのベクトルとの比の和で表すことにより、3つのカメラに対するターゲット点の相対位置が三角形Tに反映され、三角形Tにおけるターゲット点の位置(基準位置)がわかる。
【0050】
本例では、三角形Tにおける基準位置および/または三角形Tの面積、ならびに、三角形T0における基準位置および/または三角形T0の面積を利用して、ブレード11の先端までドローン21を誘導することになる。具体的には、三角形Tにおける基準位置と三角形T0における基準位置とが重なり、かつ、三角形Tの面積と三角形T0の面積とが同一となるように、ドローン21を誘導する。
【0051】
このように、プローブ23が任意の位置にある場合でも、適切にドローン21を誘導することができる。
【0052】
このように、本発明の手法では、単純な制御でドローン21を誘導することができる。さらに、ブレード11の下方からドローン21が飛行するようにすることで、ドローン21は最小距離を飛行することができ、これは作業時間の短縮につながり得る。
【0053】
本発明の手法では、複数のカメラ間の視差を利用することに代えて、または、複数のカメラ間の視差を利用することに加えて、複数のカメラの搭載位置に基づく三角比を利用して、ドローン21をブレード11の先端まで誘導するように、ブレード11の飛行を制御するようにしてもよい。
【0054】
図4Aは、ドローン21をブレード11の先端まで誘導するために、三角形を用いることの例を概略的に説明する図である。
【0055】
図4Aは、複数のカメラのうちの2つのカメラと、ブレード11の先端とを2次元平面に投影した図である。
図4Aでは、
図2Aに示されるx-z平面に投影されている。白丸aが第1のカメラの投影点であり、黒丸bが第2のカメラの投影点であり、灰色丸cがブレード11の先端の投影点である。Oは、ドローン21の中心を投影した点である。Oを原点とすると、点aの座標は、(a
x,0)で表され、点bの座標は、(b
x,0)で表され、点cの座標は、(x,h)で表される。点aと点bとは、距離d
abだけ離れており、点aと点cとは、距離d
acだけ離れており、点bと点cとは、距離d
bcだけ離れており、ここで、距離d
abは既知である。各カメラは、画像面を有するように示されており、画像面は、視野角FOVを有する三角形のFOVの対辺として表されている。画像面は、x軸方向にwの解像度(ピクセル数)を有している。点aと点cとを結んだ線と、画像面との交点P
aが、第1のカメラによるブレード11の先端の投影点であり、点bと点cとを結んだ線と、画像面との交点P
bが、第2のカメラによるブレード11の先端の投影点である。点aと点cとを結んだ線とz軸とのなす角がθ
aであり、点bと点cとを結んだ線とz軸とのなす角がθ
bであり、点aと点cとを結んだ線と、点bと点cとを結んだ線とのなす角がθ
cである。θ
a、θ
bは、時計回りを正とし、θ
a<θ
bである。
図4Aに示される例では、θ
a<0となっている。
【0056】
本手法では、三角比を利用して、cの座標(x,h)またはドローンからブレード11の先端までの高さ|h|と、ドローンの中心からブレード11の先端までの水平方向のずれ|x|とを算出し、ターゲット点がcの座標(x,h)にくるように、算出された|h|および|x|の分だけ、ドローンを移動させるように制御することになる。
【0057】
まず、画像面に写った点P
a、P
bの画素値から角度θ
a、θ
bが算出される。視野角FOVを有する三角形の高さをlとすると、画像面の解像度wと視野角FOVとの関係から、
【数3】
となり、
【数4】
が得られる。pにP
a、P
bのピクセル位置を代入すると、θ
a、θ
bがそれぞれ得られる。
【0058】
錯角の関係から、θc=θb-θaとなり、θcが得られる。
【0059】
また、三角形abcについての正弦定理から、
【数5】
となり、
【数6】
により、d
ac、d
bcがそれぞれ得られる。
【0060】
次いで、
【数7】
により、hが得られる。また、
【数8】
により、xが得られる。ここで、x、a
x、b
xは、座標値であるため、正の値も負の値も取り得る。
【0061】
なお、上述した例では、x-z平面への投影に基づく三角比を利用することを説明したが、y-z平面への投影についても同様に、cの座標(y,h)または高さ|h|および水平方向のずれ|y|が算出されることになる。そして、ターゲット点がcの座標(x,y,h)にくるように、算出された|h|、|x|、|y|の分の移動を達成するようなドローンの制御が行われ得る。
【0062】
例えば、x-z平面への投影から算出された値と、y-z平面への投影から算出された値とが相互に異なる場合は、平均値を用いてもよし、分散値を考慮して正値を判断するようにすることができる。
【0063】
図4Bは、ドローン21をブレード11の先端まで誘導するために、三角形を用いることの別の例を概略的に説明する図である。本例では、第2のカメラの視線方向が、垂直方向(z軸方向)に対してわずかに傾いていることを例に説明する。
【0064】
図4Bにおいて、
図4Aで上述した変数・定数と同じものには同一の文字を付している。第2のカメラの視線方向が、垂直方向(z軸方向)に対してわずかに傾いているが、θ
bは、依然として、点bと点cとを結んだ線とz軸とのなす角である。
【0065】
第2のカメラの視線方向が、垂直方向(z軸方向)に対してわずかに傾いているため、第2のカメラについては、
【数9】
を用いてθ
bが得られる。ここで、offsetは、視線方向と垂直方向(z軸方向)とのずれになるピクセル数である。
【0066】
第1のカメラについては、上述した(数4)を用いて、θaが得られる。その後は、上述したように、(数6)を用いて、dac、dbcがそれぞれ得られ、(数7)を用いて、hが得られ、(数8)を用いて、xが得られる。
【0067】
図4Cは、ドローン21をブレード11の先端まで誘導するために、三角形を用いることの別の例を概略的に説明する図である。本例では、第1のカメラおよび第2のカメラが魚眼レンズを有するカメラであることを例に説明する。本例でも、第2のカメラの視線方向が、垂直方向(z軸方向)に対してわずかに傾いている
【0068】
図4Cにおいて、
図4Aで上述した変数・定数と同じものには同一の文字を付している。
【0069】
第1のカメラおよび第2のカメラが魚眼レンズを有するカメラであるため、画像面が円弧状に表されており、Pa、Pbは、円弧状の画像面上に投影されている。
【0070】
魚眼レンズの場合、画像面のピクセル値を角度の比の計算に利用することができ、
【数10】
と表され得る。
【0071】
第1のカメラおよび第2のカメラの両方に対して、(数10)を用いて、θa、θbがそれぞれ得られる。その後は、上述したように、(数6)を用いて、dac、dbcがそれぞれ得られ、(数7)を用いて、hが得られ、(数8)を用いて、xが得られる。
【0072】
このように、複数のカメラの画像間の見え方の違いを敢えて利用することで、ステレオ技術を利用することでは困難であったブレード11へのアプローチを容易に行うことができる。
【0073】
なお、上述した例では、ドローン21が斜め下に延びるように角度付けられているブレード11の先端にブレード11の下方からアプローチすることを説明したが、ドローン21がブレード11にアプローチする態様は問わない。例えば、ドローン21は、ブレード11の横からブレード11にアプローチしてもよいし、ブレード11の上方からブレード11にアプローチしてもよいし、ブレード11の斜めからブレード11にアプローチしてもよい。これは、例えば、ドローン21が既に飛行またはホバリングしている場合に対応する。例えば、ドローン21は、ブレード11の側面にアプローチしてもよいし、ブレード11から所定の距離だけ離れた場所にアプローチしてもよい。例えば、ドローン21がアプローチするブレード11は、横方向に延びるように角度付けられていてもよいし、真下に延びるように角度付けられていてもよいし、斜め上に延びるように角度付けられていてもよい。
【0074】
上述した例では、風車のブレードの先端に向かって、ドローンを誘導することを説明したが、本発明の対象はこれに限定されない。本発明は、任意の目標点に向かって、任意の被誘導体(または、ターゲット点)を誘導することに適用されることができる。すなわち、複数の撮像手段によって撮像された複数の画像から目標点を識別することができさえすれば、任意の被誘導体において、上述した三角形を形成し、形成された三角形を制御に利用することができる。
【0075】
上述した手法は、例えば、後述する目標点に向かって被誘導体を誘導するためのシステム1000によって達成され得る。
【0076】
(2.目標点に向かって被誘導体を誘導するためのシステムの構成)
図5は、目標点に向かって被誘導体を誘導するためのシステム1000の構成の一例を示す。以下では、被誘導体が、ドローン等の飛行体21であることを例に説明するが、上述したように、被誘導体は、飛行体に限定されず、任意の物体であり得る。
【0077】
システム1000は、飛行体21と、コンピュータシステム100とを備える。
【0078】
飛行体21は、複数の撮像手段を備えている。複数の撮像手段の個数は、2以上の任意の数であるが、好ましくは、3またはそれより多い数であり得る。好ましくは、複数の撮像手段は、第1の撮像手段と、第2の撮像手段と、第3の撮像手段とを含む少なくとも3つの撮像手段であり得る。
【0079】
図5に示される例では、3つの撮像手段221、222、223は、飛行体21の中心周りに搭載されている。好ましくは、複数の撮像手段は、飛行体21のうちの目標点に向かわせるべき部分(例えば、風車のブレードのレセプタの導通検査のためのプローブ)を中心として飛行体21上に搭載され得る。より好ましくは、複数の撮像手段は、複数の撮像手段の配列によって形成される多角形(すなわち、複数の撮像手段の位置を頂点とする多角形)の重心が、飛行体21のうちの目標点に向かわせるべき部分(例えば、風車のブレードのレセプタの導通検査のためのプローブ)の位置となるように、飛行体21上に搭載され得る。例えば、複数の撮像手段が3つである場合、3つの撮像手段221、222、223は、3つの撮像手段221、222、223の各位置を頂点とする三角形の重心が飛行体21のプローブの位置となるような配列で飛行体21上に搭載される。
【0080】
複数の撮像手段は各々、画像を取得するように構成されており、それらの画像には、少なくとも目標点が写っている。これにより、コンピュータシステム100は、画像から、目標点を識別することができる。画像は、静止画であってもよいし、動画であってもよい。好ましくは、画像は、動画または連続する静止画であり得る。画像は、2次元画像であってもよいし、奥行き情報も含む3次元画像であってもよい。
【0081】
飛行体21は、コンピュータシステム100から送信される制御信号に従って、制御されることができる。例えば、コンピュータシステム100から送信される制御信号に従って、複数のプロペラのそれぞれを駆動するように、制御されることができる。
【0082】
コンピュータシステム100は、飛行体21と通信することができる。コンピュータシステム100は、飛行体21と有線で通信してもよいし、無線で通信してもよい。コンピュータシステム100は、複数の撮像手段によって撮像された複数の画像を飛行体21から受信することができる。また、コンピュータシステム100は、飛行体21を制御するための制御信号を飛行体21に送信することができる。
【0083】
なお、上述した例では、システム1000が飛行体21を備えることを説明したが、本発明は、これに限定されない。システム1000が複数の撮像手段を備える限り、システム1000は飛行体21自体を備えなくてもよい。すなわち、システム1000は、少なくとも、複数の撮像手段と、コンピュータシステム100とを備えることができる。
【0084】
また、上述した例では、コンピュータシステム100が飛行体21の外部に記載されているが、本発明は、これに限定されない。コンピュータシステム100は、飛行体21の内部に搭載されていてもよい。この場合、飛行体21は外部からの信号によることなく、自律的に飛行することが可能である。
【0085】
図6は、コンピュータシステム100の構成の一例を示す。
【0086】
コンピュータシステム100は、インターフェース部110と、プロセッサ部120と、メモリ130部とを備える。
【0087】
インターフェース部110は、コンピュータシステム100の外部と情報のやり取りを行う。コンピュータシステム100のプロセッサ部120は、インターフェース部110を介して、コンピュータシステム100の外部から情報を受信することが可能であり、コンピュータシステム100の外部に情報を送信することが可能である。インターフェース部110は、任意の形式で情報のやり取りを行うことができる。
【0088】
コンピュータシステム100は、例えば、インターフェース部110を介して、被誘導体に情報を送信し、かつ/または、被誘導体から情報を受信することができる。コンピュータシステム100は、例えば、インターフェース部110を介して、被誘導体から複数の画像を受信することができる。コンピュータシステム100は、例えば、インターフェース部110を介して、被誘導体に制御信号を送信することができる。
【0089】
プロセッサ部120は、コンピュータシステム100の処理を実行し、かつ、コンピュータシステム100全体の動作を制御する。プロセッサ部120は、メモリ部130に格納されているプログラムを読み出し、そのプログラムを実行する。これにより、コンピュータシステム100を所望のステップを実行するシステムとして機能させることが可能である。プロセッサ部120は、単一のプロセッサによって実装されてもよいし、複数のプロセッサによって実装されてもよい。
【0090】
メモリ部130は、コンピュータシステム100の処理を実行するために必要とされるプログラムやそのプログラムの実行に必要とされるデータ等を格納する。メモリ部130は、目標点に向かって被誘導体を誘導するための処理をプロセッサ部120に行わせるためのプログラム(例えば、後述する
図8に示される処理を実現するプログラム)を格納してもよい。ここで、プログラムをどのようにしてメモリ部130に格納するかは問わない。例えば、プログラムは、メモリ部130にプリインストールされていてもよい。あるいは、プログラムは、任意のネットワークを経由してダウンロードされることによってメモリ部130にインストールされるようにしてもよい。あるいは、プログラムは、コンピュータ読み取り可能な有形記憶媒体に記憶され、これを読み取ることによってメモリ部130にインストールされるようにしてもよい。メモリ部130は、任意の記憶手段によって実装され得る。
【0091】
【0092】
プロセッサ部120は、受信手段121と、識別手段122と、制御手段123とを備える。
【0093】
受信手段121は、被誘導体に搭載された複数の撮像手段によって取得された複数の画像を受信するように構成されている。受信手段121は、インターフェース部110を介してコンピュータシステム100が複数の撮像手段から受信した複数の画像を受信することができる。
【0094】
受信手段121によって受信された複数の画像は、識別手段122に渡される。
【0095】
識別手段122は、受信された複数の画像の各々において、目標点を識別するように構成されている。具体的には、複数の画像が、例えば、(第1の撮像手段によって取得された)第1の画像と、(第2の撮像手段によって取得された)第2の画像と、(第3の撮像手段によって取得された)第3の画像とを含む場合、識別手段122は、第1の画像中の目標点を第1の目標点として識別し、第2の画像中の目標点を第2の目標点として識別し、第3の画像中の目標点を第3の目標点として識別することができる。
【0096】
識別手段122は、さらに、受信された複数の画像の各々において、被誘導体の一部上の点(すなわち、ターゲット点)を識別することができる。被誘導体の一部上の点は、例えば、目標点に接近すべき点であり得、上述した飛行体21の例では、導通検査用のプローブの先端であり得る。なお、ターゲット点は、被誘導体上に実際に存在する必要はなく、被誘導体との相対位置が変わらない仮想的な点であってもよい。複数の画像が、例えば、(第1の撮像手段によって取得された)第1の画像と、(第2の撮像手段によって取得された)第2の画像と、(第3の撮像手段によって取得された)第3の画像とを含む場合、識別手段122は、第1の画像中のターゲット点を第1の点として識別し、第2の画像中のターゲット点を第2の点として識別し、第3の画像中のターゲット点を第3の点として識別することができる。なお、目標点が撮像された複数の画像と、ターゲット点が撮像された画像とは、同一の画像であってもよいし、別のときに撮像された別の画像であってもよい。好ましくは、ターゲット点が撮像された画像は、準備段階で撮像された画像であり、目標点が撮像された複数の画像は、実行段階で撮像された画像であり得る。
【0097】
識別手段122は、当該技術分野において現在公知または将来公知の任意の特徴点抽出技術を用いて、画像中の目標点またはターゲット点を識別することができる。
【0098】
一実施形態において、識別手段122は、例えば、
(A)画像中の前景領域を抽出するか、または、背景領域を除去することと、
(B)最大領域を抽出し、領域を平滑化することと、
(C)所定の基準点から最遠位の点を識別することと
によって、画像中の目標点またはターゲット点を識別することができる。ここで、前景領域は、画像中の目標点が位置する物体の領域であり、背景領域は、画像中の当該物体が存在しない領域である。前景領域の抽出は、例えば、GrabCut(https://cvg.ethz.ch/teaching/cvl/2012/grabcut-siggraph04.pdf)等のアルゴリズムによって実施されることができる。
【0099】
領域の平滑化は、例えば、Closing処理(膨張-収縮-膨張を繰り返すこと)によって実施される。これにより、領域の欠けやノイズが取り除かれる。
【0100】
所定の基準点は、予め設定された点であり得る。例えば、風車のブレードの先端が目標点である場合、所定の基準点は、ブレードの付根方向の点であり得る。例えば、飛行体のプローブの先端が目標点である場合、所定の基準点は、プローブの付根方向の点であり得る。所定の基準点は、目標点を自動的に抽出できるよう適切に設定され得る。
【0101】
一実施形態において、識別手段122は、時間的に連続する画像(すなわち、動画の連続するフレームまたは連続する静止画)の各々から目標点を識別することができる。このとき、識別手段122は、連続する画像のうちの先行画像から作成されたテンプレートを用いて、連続する画像のうちの後続画像から目標点を識別することができる。
【0102】
識別手段122は、例えば、
(1)連続する画像のうちの先行画像に基づいて、目標点を識別するためのガイド情報を作成することと、
(2)ガイド情報を後続画像に付与し、付与されたガイド情報を用いて、後続画像中の目標点を識別することと
を行うことができる。ガイド情報は、画像中の前景領域および/または背景領域を示す情報である。時間的に連続する画像であれば、それらの画像中の前景領域および背景領域は大きく変化していないことが想定されるため、先行画像から作成されたガイド情報を後続画像にも適用することができると考えられる。
【0103】
そうはいっても、先行画像と後続画像とでは、多少のずれが存在するため、このずれを補正してガイド情報を後続画像に付与することが好ましい。
【0104】
識別手段122は、例えば、
(1)連続する画像のうちの先行画像に基づいて、目標点を識別するためのガイド情報を作成することと、
(2-1)先行画像から、目標点が位置する物体の領域を抽出することと、
(2-2)後続画像において、先行画像から抽出された領域を用いてテンプレートマッチングを行うことと、
(2-3)テンプレートマッチングの結果に基づいてガイド情報を補正し、補正されたガイド情報を前記後続画像に付与することと、
(2-4)付与されたガイド情報を用いて、後続画像中の目標点を識別することと
を行うことができる。
【0105】
目標点が位置する物体の領域は、例えば目標点がブレードの先端である場合は、ブレードの領域を意味する。物体の領域は、例えば、先行画像に対して既に行われた処理(例えば、前景領域抽出処理、または、背景領域除去処理)の結果を利用することができる。
【0106】
ガイド情報は、例えば、必ず背景領域である領域、必ず前景領域である領域、前景領域かもしれない領域、背景領域かもしれない領域を示す情報であり得る。必ず背景領域である領域は、例えば、先行画像の前景領域からaピクセル分膨張した領域Aから、先行画像の前景領域からbピクセル分膨張した領域Bを取り除いた領域(すなわち、A∧¬B,a>b)であり得る。必ず前景領域である領域は、先行画像の前景領域を細線化(Thinning)し、細線化された領域をcピクセル分膨張した領域であり得る。前景領域かもしれない領域は、先行画像の前景領域からdピクセル分収縮した領域であり得る。背景領域かもしれない領域は、上記3つの領域以外の領域であり得る。
【0107】
テンプレートマッチングは、テンプレートと同一または類似する部分を探索する手法である。目標点が位置する物体の領域は、先行画像および後続画像の両方に存在していると想定されるため、先行画像から抽出された目標点が位置する物体の領域をテンプレートとして、後続画像中の目標点が位置する物体の領域を探索することができる。
【0108】
後続画像中の目標点が位置する物体の領域が特定されると、その領域に付与され得るようにガイド情報を補正し、補正されたガイド情報を後続画像に付与することができる。後続画像にガイド情報が付与された後、例えば、ガイド情報を利用しながら、上述した(A)~(C)の処理によって、後続画像中の目標点を識別することができる。
【0109】
ガイド情報を利用することで、後続画像中の前景領域および/または背景領域の識別が容易になり、ひいては、後続画像から目標点を識別する処理が簡略化され、処理時間および計算負荷を大幅に低減することができる。これは、略リアルタイムでの目標点の識別に寄与し、ひいては、目標点に基づく被誘導体の略リアルタイムでの誘導を可能にし得る。
【0110】
上述した手法は、目標点を識別することを対象に説明したが、同様の手法が、ターゲット点を識別するために利用され得ることが当然に理解される。
【0111】
制御手段123は、識別された目標点に基づいて、被誘導体が目標点に向かって移動するように被誘導体を制御するように構成されている。制御手段123は、被誘導体を制御するための制御信号を出力することで、被誘導体を制御することができる。制御信号は、例えば、インターフェース部110を介して被誘導体に送信され得る。
【0112】
制御手段123は、(1)複数の画像において生じる、識別された目標点に対する視差に基づいて、かつ/または、(2)複数の撮像手段の搭載位置と識別された目標点の位置とを用いた三角比に基づいて、被誘導体を制御することができる。
【0113】
一実施形態において、制御手段123は、複数の画像において生じる、識別された目標点に対する視差に基づいて、被誘導体を制御する。
【0114】
制御手段123は、例えば、
図2A~
図2Bを参照して上述したように、複数の撮像手段によって取得された複数の画像を統合し、統合された画像において形成される三角形に基づいて、被誘導体を制御することができる。
【0115】
例えば、3つの撮像手段が被誘導体に搭載されている場合、識別手段122が(第1の撮像手段によって取得された)第1の画像中の目標点を第1の目標点として識別し、(第2の撮像手段によって取得された)第2の画像中の目標点を第2の目標点として識別し、(第3の撮像手段によって取得された)第3の画像中の目標点を第3の目標点として識別すると、制御手段123は、第1の画像と第2の画像と第3の画像とを統合し、第1の目標点と第2の目標点と第3の目標点とによって形成される三角形(
図2Bにおける三角形T)に基づいて、被誘導体を制御することができる。
【0116】
制御手段123は、三角形の重心位置(
図2Bにおける三角形Tの重心Cの位置)が所定の位置に到達するように、被誘導体を制御することができる。これにより、制御手段123は、被誘導体の水平方向(すなわち、
図2Aのx方向またはy方向)の位置を調節することができる。
【0117】
制御手段123は、三角形の面積(
図2Bにおける三角形Tの面積)が所定の面積となるように、被誘導体を制御することができる。これにより、制御手段123は、被誘導体の垂直方向(すなわち、
図2Aのz方向)の位置を調節することができる。
【0118】
所定の位置は、予め設定された位置であってもよいし、後述するように、被誘導体の一部またはターゲット点に対する視差によって形成される三角形の重心の位置であってもよい。また、所定の面積は、予め設定された面積であってもよいし、後述するように、被誘導体の一部またはターゲット点に対する視差によって形成される三角形の面積であってもよい。
【0119】
一実施形態において、制御手段123は、複数の画像において生じる、識別された目標点に対する視差に加えて、識別されたターゲット点に対する視差に基づいて、被誘導体を制御することができる。
【0120】
制御手段123は、例えば、
図3A~
図3Bを参照して上述したように、複数の撮像手段によって取得された複数の画像を統合し、統合された画像において目標点によって形成される第1の三角形と、ターゲット点によって形成される第2の三角形とに基づいて、被誘導体を制御することができる。
【0121】
例えば、3つの撮像手段が被誘導体に搭載されている場合、識別手段122は、(第1の撮像手段によって取得された)第1の画像中のターゲット点を第1の点として識別し、(第2の撮像手段によって取得された)第2の画像中のターゲット点を第2の点として識別し、(第3の撮像手段によって取得された)第3の画像中のターゲット点を第3の点として識別する。制御手段123は、第1の画像と第2の画像と第3の画像とを統合し、第1の点と第2の点と第3の点とによって形成される第2の三角形(
図3Bにおける三角形T
0)を形成する。さらに、識別手段122が(第1の撮像手段によって取得された)第1の画像中の目標点を第1の目標点として識別し、(第2の撮像手段によって取得された)第2の画像中の目標点を第2の目標点として識別し、(第3の撮像手段によって取得された)第3の画像中の目標点を第3の目標点として識別する。制御手段123は、第1の画像と第2の画像と第3の画像とを統合し、第1の目標点と第2の目標点と第3の目標点とによって形成される第1の三角形(
図3Bにおける三角形T)を形成する。制御手段122は、第1の三角形と第2の三角形とに基づいて、被誘導体を制御することができる。
【0122】
制御手段123は、第1の三角形の重心位置(
図3Bにおける三角形Tの重心Cの位置)と、第2の三角形の重心位置(
図3Bにおける三角形T
0の重心C
0の位置)との相対位置に基づいて、被誘導体を制御することができる。例えば、被誘導体の一部またはターゲット点を目標点に到達させることを目的とする誘導の場合、第1の三角形の重心位置(
図3Bにおける三角形Tの重心Cの位置)が、第2の三角形の重心位置(
図3Bにおける三角形T
0の重心C
0の位置)と重なるように、被誘導体を制御することができる。これにより、制御手段123は、被誘導体の水平方向(すなわち、
図3Aのx方向およびy方向)の位置が目標点の水平方向の位置と合うように、被誘導体の水平方向を調節することができる。
【0123】
制御手段123は、第1の三角形の面積(
図3Bにおける三角形Tの面積)と、第2の三角形の面積(
図3Bにおける三角形T
0の面積)との相対関係(面積比)に基づいて、被誘導体を制御することができる。例えば、被誘導体の一部またはターゲット点を目標点に到達させることを目的とする誘導の場合、第1の三角形の面積(
図3Bにおける三角形Tの面積)が第2の三角形の面積(
図3Bにおける三角形T
0の面積)と略同一になるように、被誘導体を制御することができる。ここで、「第1の三角形の面積が第2の三角形の面積と略同一になる」場合は、第1の三角形の面積が第2の三角形の面積の100%となる場合のみならず、第1の三角形の面積が第2の三角形の面積の90%以上になる場合を含み、例えば、用途に応じて、第1の三角形の面積が第2の三角形の面積の95%以上になる場合であり得る。100%である場合、被誘導体が物体に衝突するおそれがあるため、安全のために、例えば、90~95%に設定され得、用途に応じて、近接の具合を調節することが可能である。このように、制御手段123は、被誘導体の垂直方向(すなわち、
図3Aのz方向)の位置が目標点の垂直方向の位置と合うように、被誘導体の垂直方向を調節することができる。
【0124】
制御手段123は、好ましくは、まず、三角形の重心位置を調節するように被誘導体を水平方向に制御し、三角形の重心位置を調節が完了した後に、三角形の面積を調節するように被誘導体を垂直方向に制御し得る。このようにすることで、安全性を優先した制御を達成することができる。
【0125】
なお、ターゲット点が複数の撮像手段によって形成される幾何学図形の重心位置にない場合には、重心位置に代えて、基準位置を利用することができる。基準位置は、複数の撮像手段によって形成される幾何学図形に対するターゲット点の相対位置によって決定される。この場合は、制御手段123は、例えば、
図3Cを参照して上述したように、被誘導体を制御することになる。
【0126】
制御手段123は、三角形の基準位置関係および/または面積比を調節することを目的とした制御を行うことで、簡単な制御で、被誘導体を誘導することができる。また、計算負荷も低いため、略リアルタイムの制御にも寄与し得る。
【0127】
一実施形態において、制御手段123は、複数の画像において生じる視差に基づくことに代えて、または、複数の画像において生じる視差に基づくことに加えて、複数の撮像手段の搭載位置と目標点の位置とを用いた三角比に基づいて、被誘導体を制御するようにしてもよい。
【0128】
制御手段123は、例えば、
図4A~
図4Cを参照して上述したように、被誘導体上に搭載された第1の撮像手段の位置と、被誘導体上に搭載された第2の撮像手段の位置と、目標点の位置とを用いた三角比により、被誘導体と目標点との間の距離を計測し、計測された距離に基づいて被誘導体を制御することができる。
【0129】
例えば、識別手段122が(第1の撮像手段によって取得された)第1の画像中の目標点を第1の目標点として識別し、(第2の撮像手段によって取得された)第2の画像中の目標点を第2の目標点として識別すると、制御手段123は、第1の目標点のピクセル値Paと、第2の目標点のピクセル値Pbと、第1の撮像手段と第2の撮像手段との間の距離dabとを用いて、目標点の座標(x,y,h)、または、被誘導体から目標点までの高さ|h|と、被誘導体と目標点との水平方向のずれ|x|、|y|とを算出し、|h|、|x|、|y|の移動を達成するように、被誘導体を制御することになる。
【0130】
具体的には、x-z平面の投影から、(数4)を用いて、θa、θbを算出し、(数6)を用いて、dac、dbcを算出し、(数7)を用いて、hを算出し、(数8)を用いて、xを算出する。同様に、y-z平面の投影から、(数4)を用いて、θa、θbを算出し、(数6)を用いて、dac、dbcを算出し、(数7)を用いて、hを算出し、(数8)を用いて、yを算出する。
【0131】
なお、撮像手段が垂直方向に対して傾いているときには、offset分を考慮した(数9)を用いることができ、撮像手段が魚眼レンズを有するカメラであるときには、(数10)を用いることができる。
【0132】
なお、上述したコンピュータシステム100の各構成要素は、単一のハードウェア部品で構成されていてもよいし、複数のハードウェア部品で構成されていてもよい。複数のハードウェア部品で構成される場合は、各ハードウェア部品が接続される態様は問わない。各ハードウェア部品は、無線で接続されてもよいし、有線で接続されてもよい。コンピュータシステム100は、特定のハードウェア構成には限定されない。プロセッサ部120をデジタル回路ではなくアナログ回路によって構成することも本発明の範囲内である。コンピュータシステム100の構成は、その機能を実現できる限りにおいて上述したものに限定されない。
【0133】
(3.目標点に向かって被誘導体を誘導するためのシステムにおける処理)
図8は、目標点に向かって被誘導体を誘導するためのシステム1000において行われる手順800の一例を示すフローチャートである。
【0134】
ステップS801において、被誘導体に搭載された複数の撮像手段が、複数の画像を取得する。複数の撮像手段は各々、画像を取得するように構成されており、それらの画像は、少なくとも目標点が写っている。これにより、後続のステップにおいて、コンピュータシステム100が、画像から、目標点を識別することができる。
【0135】
一例として、被誘導体に3つの撮像手段が搭載されている場合、第1の撮像手段によって第1の画像が取得され、第2の撮像手段によって第2の画像が取得され、第3の撮像手段によって第3の画像が取得される。
【0136】
取得された複数の画像は、コンピュータシステム100に提供される。後続のステップS802~ステップS804は、コンピュータシステム100のプロセッサ部120において実行される。
【0137】
ステップS802において、プロセッサ部120の受信手段121が、ステップS801で取得されてコンピュータシステム100に提供された複数の画像を受信する。
【0138】
上述した例において、受信手段121は、第1の撮像手段によって取得された第1の画像と、第2の撮像手段によって取得された第2の画像と、第3の撮像手段によって取得された第3の画像を受信する。
【0139】
ステップS803は、プロセッサ部120の識別手段122が、ステップS802で受信された複数の画像の各々において目標点を識別する。
【0140】
識別手段122は、例えば、前景領域を抽出するか、または、背景領域を除去することによって抽出された領域から目標点を識別することができる。このとき、識別手段122は、画像中の前景領域および/または背景領域を示す情報であるガイド情報を利用することができ、これにより、処理時間および計算負荷を大幅に低減することができる。
【0141】
上述した例では、識別手段122は、第1の画像中の目標点を第1の目標点として識別し、第2の画像中の目標点を第2の目標点として識別し、第3の画像中の目標点を第3の目標点として識別する。
【0142】
ステップS803において、識別手段122は、目標点に加えて、ターゲット点も識別することができる。識別手段122は、目標点を識別する処理と同様の処理で、ターゲット点を識別することができる。
【0143】
上述した例では、識別手段122は、第1の画像中のターゲット点を第1の点として識別し、第2の画像中のターゲット点を第2の点として識別し、第3の画像中のターゲット点を第3の点として識別する。このとき、第1の画像、第2の画像、および第3の画像は、目標点を識別するために用いられた画像であってもよいし、当該画像とは別のタイミングで撮像された画像であってもよい。
【0144】
ステップS804において、プロセッサ部120の制御手段123が、ステップS803で識別された目標点に基づいて、被誘導体が目標点に向かって移動するように、被誘導体を制御する。制御手段123は、(1)複数の画像において生じる、識別された目標点に対する視差に基づいて、かつ/または、(2)複数の撮像手段の搭載位置と識別された目標点の位置とを用いた三角比に基づいて、被誘導体を制御することができる。
【0145】
一実施形態において、制御手段123は、例えば、
図2A~
図2Bを参照して上述したように、複数の撮像手段によって取得された複数の画像を統合し、統合された画像において形成される三角形に基づいて、被誘導体を制御することができる。
【0146】
上述した例では、制御手段123は、第1の画像と第2の画像と第3の画像とを統合し、第1の目標点と第2の目標点と第3の目標点とによって形成される三角形(
図2Bにおける三角形T)に基づいて、被誘導体を制御することができる。あるいは、制御手段123は、第1の画像と第2の画像と第3の画像とを統合し、第1の目標点と第2の目標点と第3の目標点とによって形成される第1の三角形(
図3Bにおける三角形T)と、第1の点と第2の点と第3の点とによって形成される第2の三角形(
図3Bにおける三角形T
0)とに基づいて、被誘導体を制御することができる。このとき、三角形の重心位置(もしくは相対位置)および/または面積(もしくは面積比)が利用され得る。
【0147】
一実施形態において、制御手段123は、例えば、
図4A~
図4Bを参照して上述したように、被誘導体上に搭載された第1の撮像手段の位置と、被誘導体上に搭載された第2の撮像手段の位置と、目標点の位置とを用いた三角比により、被誘導体と目標点との間の距離を計測し、計測された距離に基づいて被誘導体を制御することができる。
【0148】
このようにシステム1000による手順800では、単純な制御で被誘導体を誘導することができる。また、複数の撮像手段によって取得された画像間の見え方の違い(視差)を敢えて利用することで、ステレオ技術を利用することでは困難であったブレード等の細長い形状の物体へのアプローチを容易に行うこともできる。
【0149】
図8を参照して上述した例では、特定の順序で各ステップが実行されることを説明したが、示される順序は一例であり、各ステップが実行される順序は、これに限定されない。論理的に可能な任意の順序で各ステップが実行されることができる。
【0150】
図8を参照して上述した例では、
図8に示されるステップS802~ステップS804の処理は、コンピュータシステム100において、プロセッサ部120とメモリ部130に格納されたプログラムとによって実現することが説明されたが、本発明はこれに限定されない。
図8に示される各ステップの処理のうちの少なくとも1つは、制御回路などのハードウェア構成によって実現されてもよい。
【0151】
本発明は上述した各実施形態に限定されるものではなく、請求項に示した範囲で種々の変更が可能であり、異なる実施形態にそれぞれ開示された技術的手段を適宜組み合わせて得られる実施形態についても本発明の技術的範囲に含まれる。
【産業上の利用可能性】
【0152】
本発明は、簡略化された制御で被誘導体を誘導することを可能にするシステム等を提供するものとして有用である。
【符号の説明】
【0153】
10 風車
11 ブレード
20、21 ドローン
100 コンピュータシステム
110 インターフェース部
120 プロセッサ部120
130 メモリ部
1000 システム
【要約】
【課題】簡略化された制御で被誘導体を誘導することを可能にするシステム等を提供すること
【解決手段】本発明は、目標点に向かって被誘導体を誘導するためのシステムを提供し、本システムは、前記被誘導体上に搭載された複数の撮像手段と、前記複数の撮像手段によって取得された複数の画像の各々において前記目標点を識別する識別手段と、前記識別された目標点に基づいて、前記被誘導体が前記目標点に向かって移動するように前記被誘導体を制御する制御手段とを備える。
【選択図】
図1