(58)【調査した分野】(Int.Cl.,DB名)
撮像装置と、前記撮像装置を搭載する移動体と、コンピュータとを備え、前記移動体の移動に伴って前記撮像装置が撮像した複数の画像を合成し、長尺画像を取得可能な長尺画像生成システムであって、
前記撮像装置は、
第1のタイミングで第1画像を撮像し、前記第1のタイミングよりも後の第2のタイミングで第2画像を撮像する撮像手段と、
を有し、
前記コンピュータは、
前記撮像装置の画角と前記移動体の移動速度とに応じて変わる時間間隔で複数の画像を取得し、記憶する画像記憶手段と、
前記第1画像における移動方向前方の所定領域を占める前方画像と、前記第2画像における移動方向後方の所定領域を占める後方画像とが所定の程度以上に重なるかどうかを判定する判定手段と、
前記画像記憶手段に記憶された複数の画像を合成し、長尺画像を生成する長尺画像生成手段と、
を有し、
所定の程度以上に重なると判定される場合、前記画像記憶手段は、少なくとも前記第2画像を累積的に記憶し、前記第2画像を前記第1画像として、前記第2画像の撮像及び前記判定手段による判定を繰り返し行い、
所定の程度以上に重なると判定されない場合、前記第2画像の撮像及び前記判定手段による判定を再び行う、長尺画像生成システム。
【図面の簡単な説明】
【0019】
【
図1】
図1は、第一実施形態における、移動体による長尺画像生成システム1のハードウェア構成とソフトウェア機能を示すブロック図である。
【
図2】
図2は、第一実施形態における、長尺画像生成システム1を用いた長尺画像生成方法を示すフローチャートである。
【
図3】
図3は、移動体が飛行体である場合の、カメラの画角、移動速度及び飛行高度と、撮像の時間間隔との関係の一例を示すチャートである。
【
図4】
図4は、第二実施形態における、移動体による長尺画像生成システム1’のハードウェア構成とソフトウェア機能を示すブロック図である。
【
図5】
図5は、第二実施形態における、長尺画像生成システム1’を用いた長尺画像生成方法を示すフローチャートである。
【
図6】
図6は、移動方向とパノラマ画像の広がり方向が平行である場合の、第二実施形態における画像取得のアルゴリズムを示す模式図である。
【
図7】
図7は、移動方向とパノラマ画像の広がり方向が平行でない場合の、第二実施形態における画像取得のアルゴリズムを示す模式図である。
【0020】
以下、本発明を実施するための形態について図を参照しながら説明する。なお、これはあくまでも一例であって、本発明の技術的範囲はこれに限られるものではない。
【0021】
<第一実施形態に係る長尺画像生成システム1の構成>
図1は、本発明の第一実施形態における長尺画像生成システム1のハードウェア構成とソフトウェア機能を説明するためのブロック図である。長尺画像生成システム1は、本発明に係る移動体の実施形態である飛行体10と、本発明に係る撮像装置の実施形態であり、飛行体10に搭載されるカメラ17と、この飛行体10と無線通信できるように接続され、飛行体10を操縦するコントローラ20と、カメラ17が撮影した画像を編集したりするコンピュータ30とを含んで構成される。なお、本実施形態では、適宜、飛行体10の自動操縦を可能にする。飛行体10を自動操縦する場合、コントローラ20は、なくてもよい。また、本実施形態においては、移動体の一例として飛行体10を挙げているが、地上を移動する移動体であっても構わない。
【0022】
〔飛行体10〕
飛行体10は、撮影対象を空から撮影可能な装置であれば、特に限定されない。例えば、ラジコン飛行機や、ドローンと呼ばれる無人飛行体であってもよいし、有人のものであってもよい。以下では、飛行体10がドローンであるものとして説明する。
【0023】
飛行体10は、飛行体10を浮上及び飛行させるローター13と、ローター13を回転させる図示しないモーター12と、飛行体10の電源として機能しモーター12に電力を供給する図示しない電池11とを備える。また、飛行体10は、画像を撮像するためのカメラ17を備えている。
【0024】
また、飛行体10は、飛行体10の動作を制御する制御部14と、制御部14に飛行体10の位置情報を伝える位置検出部15と、制御部14からの制御信号にしたがってモーター12を駆動するドライバー回路16と、制御部14からの制御信号にしたがって撮影対象を空撮するカメラ17と、制御部14のマイクロコンピューターで実行される制御プログラム等があらかじめ格納されるとともに、カメラ17が撮影した画像を記憶する記憶部18とを備える。
【0025】
そして、飛行体10は、コントローラ20との間で無線通信する無線通信部19を備える。
【0026】
これらの構成要素は、所定形状の本体構造体(フレーム等)に搭載されている。所定形状の本体構造体(フレーム等)については、既知のドローンと同様なものを採用すればよい。
【0027】
[電池11]
電池11は、1次電池又は2次電池であり、飛行体10内の各構成要素に電力を供給する。電池11は、飛行体10に固定されていてもよいし、着脱可能としてもよい。
【0028】
[モーター12、ローター13]
モーター12は、電池11から供給される電力でローター13を回転させるための駆動源として機能する。ローター13が回転することで、飛行体10を浮上及び飛行させることができる。
【0029】
[制御部14]
制御部14は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を備える。
【0030】
また、制御部14は、所定のプログラムを読み込むことで、制御モジュール141を実現する。
【0031】
制御部14は、モーター12を制御して飛行体10の飛行制御(上昇、下降、水平移動などの制御)を行う。また、制御部14は、飛行体10に搭載されているジャイロ(図示省略)を使用して、モーター12を制御して飛行体10の姿勢制御を行う。
【0032】
[位置検出部15]
位置検出部15は、LIDAR(Laser Imaging Detection and Ranging)技術と、GPS(Global Positioning System)技術とを含んで構成される。これらLIDAR技術とGPS技術とを併用して、飛行体10が実際に飛行する位置の緯度、経度、高さを検出する。
【0033】
[ドライバー回路16]
ドライバー回路16は、制御部14からの制御信号より指定された電圧をモーター12に印加する機能を有する。これにより、ドライバー回路16は、制御部14からの制御信号にしたがってモーター12を駆動させることができる。
【0034】
[カメラ17]
カメラ17は、撮像装置として機能する。カメラ17は、レンズにより取り込んだ光学像をCCDやCMOS等の撮像素子によって画像信号に変換(撮像)する。カメラ17の種類は、撮影対象の画像解析手法によって適宜選択すればよい。
【0035】
[記憶部18]
記憶部18は、データやファイルを記憶する装置であって、ハードディスクや半導体メモリ、記録媒体、メモリカード等による、データのストレージ部を備える。記憶部18には、制御部14のマイクロコンピューターで実行される制御プログラム等をあらかじめ格納するための制御プログラム格納領域181と、カメラ17によって撮影された画像データを、位置検出部15で検出した3次元座標データ(カメラ17が撮影した画像の撮影位置に相当する点の緯度、経度、高さのデータ)とともに記憶する画像データ記憶領域182とを有する。
【0036】
なお、画像データを構成する画像は、静止画であってもよいし、動画であってもよい。また、画像データ格納領域に格納されるデータは、USBメモリ、SDカード等、携帯型の記録媒体を通じ、コンピュータ30に移すことができる。
【0037】
[無線通信部19]
無線通信部19は、コントローラ20と無線通信可能に構成され、コントローラ20から遠隔制御信号を受信する。
【0038】
〔コントローラ20〕
コントローラ20は、無人飛行体10を操縦する機能を有する。コントローラ20は、ユーザが飛行体10を操縦するため等に使用する操作部21と、コントローラ20の動作を制御する制御部22と、制御部22のマイクロコンピューターで実行される制御プログラム等があらかじめ格納される記憶部23と、飛行体10との間で無線通信する無線通信部24と、ユーザに所定の画像を表示する画像表示部25とを備える。
【0039】
無線通信部24は、飛行体10と無線通信可能に構成され、飛行体10に向けて遠隔制御信号を受信する。
【0040】
画像表示部25は、飛行体10を操縦する操縦装置と一体であってもよいし、操縦装置とは別体であってもよい。操縦装置と一体であれば、ユーザが使用する装置の数を少なくすることができ、利便性が高まる。操縦装置と別体である場合、画像表示部25として、飛行体10の無線通信部19と無線接続可能な、スマートフォン、タブレット端末等の携帯端末装置が挙げられる。操縦装置と別体である場合、画像表示部25を有しない既存の操縦装置であっても応用可能というメリットを有する。
【0041】
〔コンピュータ30〕
コンピュータ30は、カメラ17で撮影された複数の画像を合成して長尺画像を生成する機能や、長尺画像を生成するためのカメラ17の撮影タイミングを設定する機能を有する。コンピュータ30は、ユーザが指令情報等を入力するための入力部31と、コンピュータ30の動作を制御する制御部32と、制御部32のマイクロコンピューターで実行される制御プログラム等があらかじめ格納される記憶部33と、ユーザに所定の画像を表示する画像表示部34とを備える。
【0042】
制御部32は、所定のプログラムを読み込むことで、データ取得モジュール321と時間間隔設定モジュール322とシャッター更新モジュール323と枚数判定モジュール324と長尺画像生成モジュール325とを実現する。時間間隔設定モジュール322は、長尺画像を生成するための複数の画像を撮影する時間間隔を設定するモジュールであり、その時間間隔は、移動体の移動速度と、カメラ17の画角とに応じて変わるものである。
【0043】
記憶部33には、上記時間間隔設定モジュール322で使用する時間間隔に関する情報を記憶する情報記憶領域331と、USBメモリ、SDカード等、携帯型の記録媒体を通じて移された、飛行体10の記憶部18に記憶されていた画像データを格納する画像データ記憶領域332とを有する。
【0044】
<長尺画像生成システム1を用いた長尺画像生成方法を示すフローチャート>
図2は、長尺画像生成システム1を用いた長尺画像生成方法を示すフローチャートである。上述した各ハードウェアと、ソフトウェアモジュールが実行する処理について説明する。
【0045】
〔ステップS10:移動体情報・カメラ設定情報の取得〕
まず、長尺画像生成システム1のコンピュータ30の制御部32は、データ取得モジュール321を実行し、現在の移動体に関する情報、及び、カメラ17の設定値に関する情報を取得する。具体的には、移動体の移動速度を移動体に関する情報として取得し、カメラ17の画角をカメラ17の設定値に関する情報として取得する。ここで、移動体が飛行体10である場合、飛行体10の飛行高度も併せて取得する。
【0046】
〔ステップS20:時間間隔の設定〕
続いて、コンピュータ30の制御部32は、時間間隔設定モジュール322を実行する。時間間隔設定モジュール322が実行されると、情報記憶領域331が読み出され、ステップS10で取得した移動体の情報及びカメラ17の設定情報にしたがって、時間間隔を設定する。具体的には、移動体の移動速度及びカメラの画角に応じてあらかじめ定められている時間間隔を設定する。ここでいう時間間隔とは、閉状態となっているカメラ17のシャッターを開状態にして画像を取得するための時間の間隔をさす。
【0047】
すなわち、カメラ17のシャッターを開状態にして画像を取得するための時間間隔と、移動体の移動速度及びカメラの画角との関係が、予め情報記憶領域331に記憶されている。具体的には、移動体の移動速度が速いほど、上記時間間隔は短く、カメラの画角が広いほど、上記時間間隔は長くなる。ステップS20では、移動体の移動速度とカメラの画角の設定値とに基づいて、情報記憶領域331に記憶されている時間間隔を読み出し、画像を取得するための時間間隔として設定する。
【0048】
ここで、
図3を使用して、移動体が飛行体10である場合の時間間隔の設定について、具体的に説明する。
【0049】
図3に示すように、カメラ17の画角、飛行体10の飛行高度、飛行体10の移動速度、及び、カメラ17のシャッターを開状態とする時間間隔の関係が、予め情報記憶領域331に記憶されている。
【0050】
図3(a)は画角及び移動速度を固定し、飛行高度を変化させた場合の時間間隔の変化を示す。飛行高度が高くなるにしたがって、シャッターを開状態とする時間間隔は長くなる。これは、飛行高度が高くなるほど、カメラ17で撮影される画像の領域が広くなるためである。
【0051】
図3(b)は画角及び飛行高度を固定し、移動速度を変化させた場合の時間間隔の変化を示す。移動速度が速くなるにしたがって、シャッターを開状態とする時間間隔は短くなる。これは、移動速度が速くなるほど、カメラ17で撮影される領域が速く移動するためである。
【0052】
図3(c)は飛行高度と移動速度を
図3(a)と同じとし、画角のみ変化させた場合の時間間隔を示す。画角を大きくすることにより、シャッターを開状態とする時間間隔が長くなることが分かる。これは、飛行高度と移動速度が同じ場合、画角が大きいほうが、カメラ7で撮影される領域が広いためである。
【0053】
このようにして、予め情報記憶領域331に記憶されている、移動体の情報及びカメラ17の設定情報と時間間隔との関係に基づいて、画像を取得する時間間隔を設定する。
【0054】
〔ステップS30:画像の取得〕
ステップS20で設定された時間間隔ごとに、カメラ17のシャッターを閉状態から開状態にすることで、複数の画像を取得する。このとき、一旦開状態となったシャッターは、シャッター更新モジュール323に基づき、開状態を所定時間維持したのち再び閉状態となるよう設定されている。そして、ステップS20で設定された時間間隔が経過すると、再び、シャッターが開状態となり、画像を取得する。このようにして取得された画像は、撮影日時、及び、画角の設定値を含む撮像の設定値とともにコンピュータ30の画像データ記憶領域332に記憶される。
【0055】
〔ステップS40:所望の枚数が取得できたか判定〕
そして、コンピュータ30の制御部32における枚数判定モジュール324を実行し、所望の枚数が得られたと判定された場合は画像の取得を終了し、ステップS50に進み、長尺画像を生成する。一方、所望の枚数が得られていないと判断された場合は、ステップS30に戻り、設定された時間間隔の経過後、さらに画像を取得する。以上の処理を、所望の枚数の画像が取得できるまで繰り返す。
【0056】
〔ステップS50:長尺画像の生成〕
所望の数の画像を撮影することができたら、コンピュータ30の制御部32は、長尺画像生成モジュール325を実行する。長尺画像生成モジュール325は、画像データ記憶領域332に記憶された複数の画像を合成し、長尺画像を生成する。その際、取得された複数の画像における端部同士を重ね合わせることで、所望の長尺画像を生成することができる。ステップS50の処理を終えると、長尺画像生成システム1は、第一実施形態に係る長尺画像生成方法の一連の処理を終了する。
【0057】
<第二実施形態に係る長尺画像生成システム1’の構成>
次に、本発明の第二実施形態における長尺画像生成システム1’のハードウェア構成とソフトウェア機能を説明するためのブロック図を
図4に示す。第二実施形態における長尺画像生成システム1’は、第一実施形態における長尺画像生成システム1と同様に、飛行体10と、カメラ17と、コントローラ20と、コンピュータ30とを含んで構成される。本実施形態においても、移動体の一例として飛行体10を挙げているが、地上を移動する移動体であっても構わない。以下、第一実施形態における長尺画像生成システム1と異なる点のみ詳述する。
【0058】
第二実施形態における長尺画像生成システム1’においては、コンピュータ30の制御部32に、第一実施形態における時間間隔設定モジュール322に代えて、解析設定モジュール326を備えている。さらに、前方画像抽出モジュール327、後方画像抽出モジュール328、及び、画像比較モジュール329を備えている。解析設定モジュール326は、時間間隔設定モジュール322と同様、長尺画像を生成するための複数の画像を撮影する時間間隔を設定するモジュールであり、その時間間隔は、移動体の移動速度と、カメラ17の画角とに応じて変わるものである。
【0059】
<長尺画像生成システム1’を用いた長尺画像生成方法を示すフローチャート>
次に、
図5のフローチャートを用いて、本発明の第二実施形態に係る長尺画像生成システム1’を用いた長尺画像生成方法について説明する。
図6は、第二実施形態に係る画像取得のアルゴリズムを示す模式図である。
【0060】
〔ステップS10:移動体情報・カメラ設定情報の取得〕
まず、長尺画像生成システム1’のコンピュータ30の制御部32は、データ取得モジュール321を実行し、現在の移動体に関する情報、及び、カメラ17の設定値に関する情報を取得する。具体的には、移動体の移動速度を移動体に関する情報として取得し、カメラ17の画角をカメラ17の設定値に関する情報として取得する。ここで、移動体が飛行体10である場合、飛行体10の飛行高度も併せて取得する。
【0061】
〔ステップS60:第1画像の撮影〕
次に、所定のタイミング(第1のタイミング)においてカメラ17で画像を撮影し、第1画像として画像データ記憶領域332に記憶する。
【0062】
〔ステップS70:第1画像の前方画像の抽出〕
次に、前方画像抽出モジュール327を実行し、第1画像の移動方向前方における所定領域を占める前方画像を抽出し、第1画像における前方画像Aとして画像データ記憶領域332に記憶する。
【0063】
〔ステップS80:第2画像の撮影〕
次に、前記第1のタイミングよりも後の第2のタイミングにおいてカメラ17で画像を撮影し、これを第2画像とする。
【0064】
〔ステップS90:第2画像の後方画像の抽出〕
次に、後方画像抽出モジュール328を実行し、第2画像の移動方向後方における所定領域を占める後方画像を抽出する。
【0065】
〔ステップS100:第1画像の前方画像と第2画像の後方画像との比較〕
次に、画像比較モジュール329を実行し、第1画像における前方画像Aと、第2画像における後方画像とを比較し、二つの画像が所定の程度以上重なるかどうか判定する。
【0066】
〔ステップS110:第2画像の取得〕
ステップS100において、所定の程度以上重なると判定された場合は、ステップS110に進み、第2画像を新たな第1画像として画像データ記憶領域332に記憶する。
【0067】
一方、ステップS100において、所定の領域以上に重ならないと判定された場合は、ステップS80に戻り、微小時間経過後、再び第2画像を撮影し、ステップS90及びステップS100における後部画像の抽出と第1画像の前方画像との比較を行う。これを、第1画像における前方画像Aと第2画像における後方画像とが所定の程度以上重なるまで繰り返すことにより、第2画像を取得する。
【0068】
〔ステップS120:所望の枚数が取得できたか判定〕
ステップS110において、第2画像を取得したら、ステップS120に進み、コンピュータ30の制御部32における枚数判定モジュール324を実行する。所望の枚数が得られたと判断された場合は画像の取得を終了し、ステップS50に進み、長尺画像を生成する。一方、所望の枚数が得られていないと判断された場合は、ステップS70に戻り、再び第2画像を取得するための処理を実行する。このようにして、第2画像を累積的に記憶する処理を、所望の枚数の画像が取得できるまで繰り返す。
【0069】
図6における模式図は、移動方向とパノラマ画像の広がり方向が平行である場合の例を示しているが、
図7に示すように、移動方向とパノラマ画像の広がり方向が平行ではない場合でも、同様のアルゴリズムによって撮影のタイミングが決定される。この場合、パノラマ画像としては、画像の幅方向ではなく、移動方向に広がる画像となる。
【0070】
本実施形態に記載の発明によれば、画像データ記憶領域332は、移動体に搭載されたカメラ17の画角と、移動体の移動速度とに応じて変わる時間間隔で、複数の画像を取得し、記憶する。そして、長尺画像生成モジュール325は、画像データ記憶領域332に記憶された複数の画像を合成し、長尺画像を生成する。これにより、複数の画像を取得するための時間間隔を、移動体に搭載された撮像装置の画角と、移動体の移動速度とに応じて適切に調整できることから、移動体が一定方向に直線的に移動し、移動体と撮影対象物との間が所定距離以上離れている場合であっても、できるだけ少ない枚数の画像の取得で、連続した長尺画像を生成することができる。
【0071】
また、本実施形態に記載の発明においては、移動体が飛行体10である場合、カメラ17の画角と移動体の移動速度に加え、飛行体10の飛行高度に応じて変わる時間間隔で、複数の画像を取得し、記憶する。そして、長尺画像生成モジュール325は、画像データ記憶領域332に記憶された複数の画像を合成し、長尺画像を生成する。これにより、飛行体と撮影対象物との間が所定距離以上離れている場合であっても、できるだけ少ない枚数の画像の取得で、連続した長尺画像を生成することができる。
【0072】
また、本実施形態に記載の発明においては、カメラ17の画角及び移動体の移動速度と撮影の時間間隔との関係を示す情報が予め記憶された情報記憶領域331と、情報記憶領域331に記憶されている情報から、カメラ17の画角及び移動体の移動速度に応じた時間間隔を設定する時間間隔設定モジュール322によって設定された時間間隔で、カメラ17のシャッターを閉状態から開状態にし、所定時間経過したら再びシャッターを開状態から閉状態にするシャッター更新モジュール323と、をさらに有し、画像データ記憶領域332は、シャッターが開状態である毎に得られる複数の画像を取得し、記憶する。これによると、シャッターを開状態にして、複数の画像を取得するための時間間隔を、情報記憶領域331に記憶されている情報から適切に調整できる。その結果、移動体が一定方向に直線的に移動し、移動体と撮影対象物との間が所定距離以上離れている場合であっても、よりいっそう少ない枚数の画像の取得で、連続した長尺画像を好適に生成することができる。
【0073】
また、本実施形態に記載の発明においては、第1のタイミングで第1画像を撮像し、第1のタイミングよりも後の第2のタイミングで第2画像を撮像し、第1画像における移動方向前方の所定領域を占める前方画像と、第2画像における移動方向後方の所定領域を占める後方画像とが所定の程度以上に重なるかどうかを判定する画像比較モジュール329をさらに有し、所定の程度以上に重なると判定される場合、画像データ記憶領域332は、第2画像を累積的に記憶し、第2画像を第1画像として、第2画像の撮像及び画像比較モジュール329による判定を繰り返し行い、画像比較モジュール329によって所定の程度以上に重なると判定されない場合、第2画像の撮像及び画像比較モジュール329による判定を再び行う。これによると、第1画像における移動方向前方の所定領域を占める前方画像と、第2画像における移動方向後方の所定領域を占める後方画像とが所定の程度以上に重なる場合に限って、画像記憶手段への画像の蓄積が行われる。その結果、移動体が一定方向に直線的に移動し、移動体と撮影対象物との間が所定距離以上離れている場合であっても、よりいっそう少ない枚数の画像の取得で、連続した長尺画像を好適に生成することができる。
【0074】
上述した手段、機能は、コンピュータ(CPU、情報処理装置、各種端末を含む)が、所定のプログラムを読み込んで、実行することによって実現される。プログラムは、例えば、フレキシブルディスク、CD(CD−ROMなど)、DVD(DVD−ROM、DVD−RAMなど)等のコンピュータ読取可能な記録媒体に記録された形態で提供される。この場合、コンピュータはその記録媒体からプログラムを読み取って内部記憶装置又は外部記憶装置に転送し記憶して実行する。また、そのプログラムを、例えば、磁気ディスク、光ディスク、光磁気ディスク等の記憶装置(記録媒体)に予め記録しておき、その記憶装置から通信回線を介してコンピュータに提供するようにしてもよい。
【0075】
以上、本発明の実施形態について説明したが、本発明は上述したこれらの実施形態に限るものではない。また、本発明の実施形態に記載された効果は、本発明から生じる最も好適な効果を列挙したに過ぎず、本発明による効果は、本発明の実施形態に記載されたものに限定されるものではない。
【課題】移動体と撮影対象物との間が所定距離以上離れている場合であっても、できるだけ少ない枚数の画像の取得で、連続した長尺画像を生成することの可能な長尺画像生成システムを提供する。
【解決手段】本発明の長尺画像生成システム1は、撮像装置を有する移動体と、コンピュータ30とを備える。コンピュータ30の制御部30は、撮像装置の画角と移動体の移動速度とに応じて変わる時間間隔で複数の画像を取得し、画像データ記憶領域332に記録し、画像データ記憶領域332に記録された複数の画像を合成し、長尺画像を生成する。移動体が飛行体10である場合は、撮像装置の画角と移動速度に加え、飛行体10の飛行高度に応じて画像取得の時間間隔を変えることが好ましい。