特許第6041535号(P6041535)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社トプコンの特許一覧

<>
  • 特許6041535-画像取得方法及び撮影装置 図000002
  • 特許6041535-画像取得方法及び撮影装置 図000003
  • 特許6041535-画像取得方法及び撮影装置 図000004
  • 特許6041535-画像取得方法及び撮影装置 図000005
  • 特許6041535-画像取得方法及び撮影装置 図000006
  • 特許6041535-画像取得方法及び撮影装置 図000007
  • 特許6041535-画像取得方法及び撮影装置 図000008
  • 特許6041535-画像取得方法及び撮影装置 図000009
  • 特許6041535-画像取得方法及び撮影装置 図000010
  • 特許6041535-画像取得方法及び撮影装置 図000011
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6041535
(24)【登録日】2016年11月18日
(45)【発行日】2016年12月7日
(54)【発明の名称】画像取得方法及び撮影装置
(51)【国際特許分類】
   G01C 11/02 20060101AFI20161128BHJP
   G03B 35/02 20060101ALI20161128BHJP
   H04N 5/232 20060101ALI20161128BHJP
   H04N 5/225 20060101ALI20161128BHJP
   H04N 13/02 20060101ALI20161128BHJP
   G06T 7/20 20060101ALI20161128BHJP
   G03B 17/18 20060101ALI20161128BHJP
   G03B 15/00 20060101ALI20161128BHJP
   G01B 11/24 20060101ALI20161128BHJP
【FI】
   G01C11/02
   G03B35/02
   H04N5/232 Z
   H04N5/225 A
   H04N13/02
   G06T7/20 B
   G03B17/18 Z
   G03B15/00 H
   G01B11/24 K
【請求項の数】8
【全頁数】15
(21)【出願番号】特願2012-121497(P2012-121497)
(22)【出願日】2012年5月29日
(65)【公開番号】特開2013-246111(P2013-246111A)
(43)【公開日】2013年12月9日
【審査請求日】2015年4月1日
(73)【特許権者】
【識別番号】000220343
【氏名又は名称】株式会社トプコン
(74)【代理人】
【識別番号】100083563
【弁理士】
【氏名又は名称】三好 祥二
(72)【発明者】
【氏名】大友 文夫
(72)【発明者】
【氏名】大谷 仁志
(72)【発明者】
【氏名】穴井 哲治
(72)【発明者】
【氏名】熊谷 薫
【審査官】 ▲うし▼田 真悟
(56)【参考文献】
【文献】 特開2006−003280(JP,A)
【文献】 特開平08−159762(JP,A)
【文献】 特開2010−256276(JP,A)
【文献】 特開2002−010297(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 11/00−11/06
G01C 3/06
G01B 11/24
G03B 15/00
G03B 17/18−17/20
G03B 35/00−37/06
G06T 17/05
H04N 13/02
(57)【特許請求の範囲】
【請求項1】
撮像装置が測定対象物の第1静止画像を取得した後前記測定対象物の動画像を撮影しつつ移動し、画像処理部が前記第1静止画像について特徴点を抽出し、該特徴点について前記動画像に対して画像トラッキングを行い、最新の画像に前記特徴点を特定し、該特徴点から標定点を選定し、演算部が前記標定点に基づき前記第1静止画像と前記最新の動画像との相互標定を実行し、得られる前記測定対象物迄の距離Hと前記第1静止画像と前記最新の動画像を撮影した撮影地点間の距離BとのB/Hが所定値以上となった時点で表示部が順次静止画像取得可能のガイダンス表示を行うことを特徴とする画像取得方法。
【請求項2】
前記測定対象物の撮像状態をリアルタイムで表示部に表示し、前記B/Hが所定値以上となった時点で、前記標定点を色分け表示し、或は標定点を点滅表示する請求項1の画像取得方法。
【請求項3】
前記測定対象物の撮像状態をリアルタイムで表示部に表示し、前記B/Hが所定値以上となった時点で、順次静止画像を取得する請求項1又は請求項2の画像取得方法。
【請求項4】
測定対象物の動画像と静止画像とを取得可能な撮像部と、動画像の取得と静止画像の取得を制御する撮像制御部と、少なくともピッチ角を検出する角度センサと、第1静止画像から特徴点を抽出し、動画像について前記特徴点のトラッキングを行い最新の画像中に前記特徴点を特定すると共に前記第1静止画像と前記最新の画像とに共通の標定点を選定する画像処理部と、記憶部と、動画像、静止画像を表示する表示部と、演算部とを具備し、前記撮像制御部は前記第1静止画像を取得後動画像を撮像し、前記演算部は、前記標定点と前記角度センサの検出結果に基づき前記第1静止画像と前記最新の画像間で相互標定を行い、前記測定対象物迄の距離Hと前記第1静止画像と前記最新の画像を撮影した撮影地点間の距離Bを求めると共にB/Hを求め、該B/Hが所定値以上となった時点で前記表示部が順次静止画像取得可能のガイダンス表示を行うことを特徴とする撮影装置。
【請求項5】
前記B/Hが所定値以上となった時点で順次静止画像を取得し、前記記憶部に格納する様、前記撮像制御部を制御する請求項4の撮影装置。
【請求項6】
前記ガイダンス表示は、前記B/Hが所定値以上となった前記標定点を色分け表示し、或は該標定点を点滅表示する請求項4又は請求項5の撮影装置。
【請求項7】
前記表示部が、水平方向に延びる水平撮影位置表示部と、鉛直方向に延びる鉛直撮影位置表示部とを有し、前記水平撮影位置表示部、前記鉛直撮影位置表示部には前記静止画像を取得した水平位置、鉛直位置がそれぞれ表示される請求項4の撮影装置。
【請求項8】
前記水平撮影位置表示部及び前記鉛直撮影位置表示部には、静止画像を取得した水平位置、鉛直位置がそれぞれ表示されると共に現在の撮像位置を示す表示がリアルタイムで表示され、前記撮像位置が前記B/Hが所定値以上となった時点で現在の撮像位置を示す表示を点滅又は色を変更する請求項7の撮影装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、写真測量により3Dモデルを作製する場合の画像取得方法及び撮影装置に関するものである。
【背景技術】
【0002】
一般に、写真測量で3Dモデルを作製する場合、測定対象を撮像した2つの撮像画像を標定し、その後3次元測定する。従って、写真測量に用いられる2つの撮像画像は標定できる様に所定のオーバラップ量が必要である。
【0003】
カメラを携帯し、移動しながら測定対象物を撮影する場合、撮影者がファインダで撮像画像を確認しつつ測定対象物を撮影している。又、撮影した撮影画像で写真測量を行う為には2撮像地点間の距離も必要であり、実際の撮影では、撮影する2地点を設定し、各地点で測定対象物を所定のオーバラップ量となる様に撮影している。
【0004】
一方、両地点でカメラを携帯した状態で撮影した場合、カメラの光軸は不安定であり、光軸の方向、光軸の傾き(ピッチ、ヨー)、光軸の捻転(ロール)等が未知数となる。この為、両画像を標定するには適正なオーバラップ量が必要となるが、適正なオーバラップ量とするのは撮影者の勘に頼る他なく、而も適正であるかどうかは、撮像した画像を標定する迄確認できないものであった。
【0005】
この為、携帯用のカメラによる写真測量は、熟練を要すると共に能率のよい作業ではなかった。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特開2006−10376号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
本発明は斯かる実情に鑑み、携帯用のカメラを用いて、簡便に3Dモデルの作製を可能とするものである。
【課題を解決するための手段】
【0008】
本発明は、測定対象物の動画像を撮影しつつ移動し、取得した第1画像について特徴点を抽出し、該特徴点について画像トラッキングを行い、最新の第2画像に前記特徴点を特定し、該特徴点から標定点を選定し、該標定点に基づき前記第1画像と前記第2画像との相互標定を実行し、得られる前記測定対象物迄の距離Hと前記第1画像と前記第2画像を撮影した撮影地点間の距離BとのB/Hが所定値以上となった時点で順次静止画像取得可能のガイダンス表示を行う画像取得方法に係るものである。
【0009】
又本発明は、前記測定対象物の撮像状態をリアルタイムで表示部に表示し、前記B/Hが所定値以上となった時点で、前記標定点を色分け表示し、或は標定点を点滅表示する画像取得方法に係るものである。
【0010】
又本発明は、前記測定対象物の撮像状態をリアルタイムで表示部に表示し、前記B/Hが所定値以上となった時点で、順次静止画像を取得する画像取得方法に係るものである。
【0011】
又本発明は、測定対象物の動画像と静止画像とを取得可能な撮像部と、動画像の取得と静止画像の取得を制御する撮像制御部と、少なくともピッチ角を検出する角度センサと、第1静止画像から特徴点を抽出し、動画像について前記特徴点のトラッキングを行い最新の画像中に前記特徴点を特定すると共に前記第1静止画像と前記最新の画像とに共通の標定点を選定する画像処理部と、記憶部と、動画像、静止画像を表示する表示部と、演算部とを具備し、前記撮像制御部は前記第1静止画像を取得後動画像を撮像し、前記演算部は、前記標定点と前記角度センサの検出結果に基づき前記第1静止画像と前記最新の画像間で相互標定を行い、前記測定対象物迄の距離Hと前記第1静止画像と第2静止画像を撮影した撮影地点間の距離Bを求めると共にB/Hを求め、該B/Hが所定値以上となった時点で順次静止画像取得可能のガイダンス表示を行う撮影装置に係るものである。
【0012】
又本発明は、前記B/Hが所定値以上となった時点で順次静止画像を取得し、前記記憶部に格納する様、前記撮像制御部を制御する撮影装置に係るものである。
【0013】
又本発明は、前記ガイダンス表示は、前記B/Hが所定値以上となった前記標定点を色分け表示し、或は該標定点を点滅表示する撮影装置に係るものである。
【0014】
又本発明は、前記表示部が、水平方向に延びる水平撮影位置表示部と、鉛直方向に延びる鉛直撮影位置表示部とを有し、前記水平撮影位置表示部、前記鉛直撮影位置表示部には前記静止画像を取得した水平位置、鉛直位置がそれぞれ表示される撮影装置に係るものである。
【0015】
又本発明は、前記水平撮影位置表示部及び前記鉛直撮影位置表示部には、静止画像を取得した水平位置、鉛直位置がそれぞれ表示されると共に現在の撮像位置を示す表示がリアルタイムで表示され、前記撮像位置が前記B/Hが所定値以上となった時点で現在の撮像位置を示す表示を点滅又は色を変更する撮影装置に係るものである。
【発明の効果】
【0016】
本発明によれば、測定対象物の動画像を撮影しつつ移動し、取得した第1画像について特徴点を抽出し、該特徴点について画像トラッキングを行い、最新の第2画像に前記特徴点を特定し、該特徴点から標定点を選定し、該標定点に基づき前記第1画像と前記第2画像との相互標定を実行し、得られる前記測定対象物迄の距離Hと前記第1画像と前記第2画像を撮影した撮影地点間の距離BとのB/Hが所定値以上となった時点で順次静止画像取得可能のガイダンス表示を行うので、写真測量に適した静止画像が確実に取得でき、所定の測定精度で且つ安定した測定精度での測定が可能となる。
【0017】
又本発明によれば、前記測定対象物の撮像状態をリアルタイムで表示部に表示し、前記B/Hが所定値以上となった時点で、前記標定点を色分け表示し、或は標定点を点滅表示するので、作業者は静止画像を取得する位置、或は取得状況が明確になり、作業性が向上する。
【0018】
又本発明によれば、前記測定対象物の撮像状態をリアルタイムで表示部に表示し、前記B/Hが所定値以上となった時点で、順次静止画像を取得するので、所定の精度を満足する静止画像が確実に取得できる。
【0019】
又本発明によれば、測定対象物の動画像と静止画像とを取得可能な撮像部と、動画像の取得と静止画像の取得を制御する撮像制御部と、少なくともピッチ角を検出する角度センサと、第1静止画像から特徴点を抽出し、動画像について前記特徴点のトラッキングを行い最新の画像中に前記特徴点を特定すると共に前記第1静止画像と前記最新の画像とに共通の標定点を選定する画像処理部と、記憶部と、動画像、静止画像を表示する表示部と、演算部とを具備し、前記撮像制御部は前記第1静止画像を取得後動画像を撮像し、前記演算部は、前記標定点と前記角度センサの検出結果に基づき前記第1静止画像と前記最新の画像間で相互標定を行い、前記測定対象物迄の距離Hと前記第1静止画像と第2静止画像を撮影した撮影地点間の距離Bを求めると共にB/Hを求め、該B/Hが所定値以上となった時点で順次静止画像取得可能のガイダンス表示を負担の少ない演算処理で行うので、写真測量に適した静止画像を効率良く確実に取得でき、又所定の測定精度で且つ安定した測定精度での測定が可能となる。更に、角度センサの検出結果を利用するので画像トラッキングに於ける相互標定が簡単になる。
【0020】
又本発明によれば、前記B/Hが所定値以上となった時点で順次静止画像を取得し、前記記憶部に格納する様、前記撮像制御部を制御するので、所定の精度を満足する静止画像が確実に取得できる。
【0021】
又本発明によれば、前記ガイダンス表示は、前記B/Hが所定値以上となった前記標定点を色分け表示し、或は該標定点を点滅表示するので、画面のガイダンスに従って作業者は静止画像を取得する位置、或は取得状況が明確になり、作業性が向上する。
【0022】
又本発明によれば、前記表示部が、水平方向に延びる水平撮影位置表示部と、鉛直方向に延びる鉛直撮影位置表示部とを有し、前記水平撮影位置表示部、前記鉛直撮影位置表示部には前記静止画像を取得した水平位置、鉛直位置がそれぞれ表示されるので、静止画像の取得状況が明確になり、作業性が向上し、又静止画像を無駄なく、又洩れなく適正に取得することができる。
【0023】
又本発明によれば、前記水平撮影位置表示部及び前記鉛直撮影位置表示部には、静止画像を取得した水平位置、鉛直位置がそれぞれ表示されると共に現在の撮像位置を示す表示がリアルタイムで表示され、前記撮像位置が前記B/Hが所定値以上となった時点で現在の撮像位置を示す表示を点滅又は色を変更するので、静止画像の取得状態が把握できると共にどの位置の静止画像を取得するのかが明確になる等の優れた効果を発揮する。
【図面の簡単な説明】
【0024】
図1】本発明の実施例に係る撮影装置を示す概略構成図である。
図2】写真測量に於ける測定精度の説明図である。
図3】写真測量の原理説明図である。
図4】写真測量に於いて、2画像の光軸が傾斜していた場合の相互標定の説明図である。
図5】写真の取得位置と測定対象物とB/Hとの関係を示す説明図である。
図6】小物について測定する為に、1周して画像を取得する場合の説明図である。
図7】表示部に示される取得した画像とガイダンス表示の説明図である。
図8】本実施例の作動を示すフローチャートである。
図9】沿道の測定対象物を測定する場合を示す模式図である。
図10】(A)は移動線に沿って移動しつつ撮影した場合の1つの撮影地点での画像の説明図、(B)は更に移動して撮影した場合の画像の説明図である。
【発明を実施するための形態】
【0025】
以下、図面を参照しつつ本発明の実施例を説明する。
【0026】
先ず、本発明の実施例に係る撮影装置について図1により概略を説明する。
【0027】
撮影装置1は、主に撮像装置2、演算部(CPU)3、記憶部4、画像処理部5、表示部6、操作部7、電源部8等から構成される。
【0028】
又、前記撮像装置2は、撮像部10、撮像制御部13、角度センサ14を具備し、更に前記撮像部10は、動画撮像部11としてデジタルビデオカメラ、静止画撮像部12としてデジタルカメラを有する。
【0029】
前記動画撮像部11は、撮像素子として、多数の画素から構成されるCCD、CMOSセンサを有し、各画素は前記撮像素子上での位置が特定できる様になっており、前記動画撮像部11は、測定対象物について動画像を取得し、或は前記測定対象物の静止画像を所定時間間隔、例えば10枚/secで前記動画像と同等に撮像可能となっている。前記撮像素子からは前記動画像をデジタル動画像データとして出力する様になっている。
【0030】
前記静止画撮像部12は、撮像素子として、多数の画素から構成されるCCD、CMOSセンサを有し、各画素は前記撮像素子上での位置が特定できる様になっており、前記静止画撮像部12は、前記測定対象物の高解像度の静止画像を取得し、該静止画撮像部12の前記撮像素子からは前記静止画像をデジタル静止画像データとして出力する様になっている。
【0031】
尚、前記動画撮像部11、前記静止画撮像部12は、ビデオ撮影機能、静止画像撮影機能を有する1つの撮像部10が用いられてもよい。以下は、前記動画撮像部11、前記静止画撮像部12は、前記撮像部10の1部として説明する。
【0032】
前記撮像制御部13は、前記動画撮像部11による動画撮影、前記静止画撮像部12による静止画撮影の切替えを制御すると共に前記動画撮像部11による撮影のON/OFF、前記静止画撮像部12による撮影のON/OFFと、前記動画撮像部11による動画撮影と前記静止画撮像部12による静止画撮影の同期制御等、前記動画撮像部11、前記静止画撮像部12の撮影に関する制御を行う。
【0033】
又、前記撮像制御部13は、前記動画撮像部11、前記静止画撮像部12で取得した前記動画像データ、前記静止画像データを時系列とし、又前記動画像データ、前記静止画像データは取得した時刻と関連付けて前記記憶部4に記憶させる。
【0034】
前記角度センサ14は、ジャイロ、方位センサ等が用いられ、前記撮像装置2の姿勢、即ち撮像光軸の3軸方向(ロール、ピッチ、ヨー)の傾きを検出し、検出結果を前記演算部3、前記撮像制御部13に出力する。
【0035】
前記撮像制御部13は、前記角度センサ14からの姿勢情報を、前記動画撮像部11、前記静止画撮像部12への制御信号と同期して取得し、前記動画像、前記静止画像を前記記憶部4に記憶させる場合に、前記動画像、前記静止画像と前記動画像、前記静止画像が取得された時の姿勢情報とを関連付けて前記記憶部4に記憶させる。尚、前記撮像制御部13は前記演算部3が兼用してもよい。
【0036】
前記角度センサ14は、前記撮像装置2の3軸方向(ロール、ピッチ、ヨー)の角度を検出する。尚、前記角度センサ14は、少なくともピッチ角、即ち撮像方向に対して直角な水平方向の角度が検出できればよく、例えば加速度センサが用いられる。
【0037】
前記記憶部4としては、前記撮像装置2に内蔵される半導体メモリ、或は着脱可能なメモリカード、或はHDD等の任意の記憶手段が採用可能であり、前記記憶部4には、各種データが格納されるデータ格納領域が形成され、又前記記憶部4には各種プログラムが格納されるプログラム格納領域が形成される。
【0038】
前記データ格納領域には、前記動画撮像部11で取得した前記動画像データ、前記動画像データを取得した時刻(即ち前記動画像を構成するフレーム画像データ毎の時刻)、前記動画像を取得した時の姿勢情報(即ち前記動画像を構成するフレーム画像データ毎の姿勢情報)及び前記静止画撮像部12で取得した前記静止画像データ、前記静止画像データを取得した時刻、前記静止画像を取得した時の姿勢情報が格納される。又、画像から抽出した前記測定対象物の特徴点の情報、写真測量で得た前記測定対象物の3次元データ等のデータが前記データ格納領域に格納される。
【0039】
尚、前記動画像データ、前記静止画像データと画像を取得した時刻、画像を取得した時の姿勢情報は、それぞれ格納する際に前記撮像制御部13又は前記演算部3によって関連付けられる。
【0040】
前記プログラム格納領域に格納されるプログラムとしては、前記撮像制御部13に前記動画撮像部11、前記静止画撮像部12の撮像を制御させる為の撮像制御プログラム、2つの画像から前記測定対象物に関して前記特徴点を抽出し、更に該特徴点から標定点を選定し、該標定点に基づき2つの画像の相互標定を行う等の画像処理を行う画像処理プログラム、相互標定された2つの画像から前記測定対象物の3次元測定(写真測量)を行う測定プログラム、写真測量用の画像として適しているかどうかの判断を行う判断プログラム、前記動画像に基づき画像トラッキングを行うトラッキングプログラム、前記3次元測定の結果、撮像した画像データ等に基づき3Dモデルを作製する為の3Dモデルプログラム等のプログラムが格納されている。
【0041】
前記画像処理部5は、前記画像処理プログラムにより前記動画撮像部11、前記静止画撮像部12が撮像した画像から前記特徴点を抽出し、該特徴点に基づき2つの画像の相互標定を実行する等の画像処理を行う。尚、前記画像処理部5は、前記演算部3が兼用してもよい。
【0042】
前記表示部6は、前記動画撮像部11が撮像した前記動画像をリアルタイムで表示し、更に前記静止画撮像部12が撮像した前記静止画像を表示すると共に撮像状況の表示、撮影状態、画像データの収集状態の表示、トラッキング状態の表示、或は撮像画像が写真測量の画像として適しているかどうかを示すガイダンス表示を行う。ガイダンス表示は、画像全体を点滅させるか、或は色を変更するか、音或は音声を発するか、或はガイダンス表示部を設けて撮影の適否を表示するか、部分的に色分け表示するか、種々の方法が採用される。
【0043】
前記操作部7は、前記撮像装置2で画像を取得する為の撮影開始、終了の指示、或は測定を実行する際の条件等を入力する。
【0044】
前記電源部8は、前記撮像装置2、前記演算部3等に必要とされる電力を供給する。又、前記電源部8は、好ましくは繰返し充電可能であり、更に好ましくは繰返し充電可能な可充電電池とする。尚、前記電源部8は交換可能な電池としてもよい。
【0045】
先ず、写真測量を実施する場合には、前記測定対象物を撮像した2つの画像が必要であり、又前記2つの画像はオーバラップし、共通に前記測定対象物を含み、前記2つの画像のオーバラップ率は60%以上が好ましいとされる。
【0046】
図2に於いて、測定対象物22と前記撮像装置2との関係、写真測量の測定精度について説明する。
【0047】
図2は、写真測量に用いられる画像が、撮影地点O1,O2で撮像され、又撮影距離(高さ)H、撮影基線長B、カメラの焦点距離f、カメラの画素サイズΔpで撮像され、この条件での平面精度Δxyと高さ精度Δzとを示している。
【0048】
平面精度:Δxy=H×Δp/f
高さ精度:Δz =H×H×Δp/(B×f)となる。
【0049】
ここで、焦点距離f、画素サイズΔpは定数であるので、測定精度はH、Bによって決定される。前記撮影距離Hが大きいと前記測定精度が劣化し、撮影基線長Bが大きいと前記測定精度が向上する。従って、B/H(視差)を、要求される前記測定精度に応じた所定の値とする。例えば、該B/Hは、1/3とされる。
【0050】
図3は、前記撮像装置2により、前記撮影地点O1,O2で測定点Pを含む静止画像を取得した場合を示している。前記撮影地点O1,O2とは撮影基線長Bだけ離れている。又、説明を簡略化する為、前記撮影地点O1,O2で撮影した場合の前記静止画撮像部12の光軸は平行であるとする。又、前記撮像装置2は撮像素子15を有し、図中、15-1,15-2は、それぞれ前記撮影地点O1,O2で撮像した状態での撮像素子を示している。
【0051】
図3に於いて、3角形O1,p1,O−1と3角形O2,p2,O−2とを合体させて得られる3角形と、3角形O1,O2,Pとは相似であるので、B/H=[p1(x1,y1)+p2(x2,y2)]/fとなる。
【0052】
従って、前記撮影地点O1,O2で取得した画像上で、即ち前記撮像素子15-p上での点pの座標をそれぞれ検出することで、B/Hを検出することができる。
【0053】
次に、図4に示される様に、実際に撮影する場合は、前記撮像装置2の光軸は、3軸方向(ロール角ω、ピッチ角φ、ヨー角κ)の傾きを有する。
【0054】
従って、各撮影地点O1,O2でのロール角ω1,ω2、ピッチ角φ1,φ2、ヨー角κ1,κ2が分れば、座標変換して撮影地点O1,O2で取得した画像の光軸を平行にした場合の座標値に変換(相互標定)でき、前記撮像素子15からB/Hを求めることができる。
【0055】
又、相互標定する場合に、2つの画像のオーバラップ部分に共通点である標定点が少なくとも5点が必要である。標定点については、画像から特徴点を抽出し、該特徴点について画像トラッキングを行い、該特徴点から前記標定点を選定する。尚、画像トラッキングについては、特許文献1に示されている。
【0056】
尚、変換座標系でのp1,p2の座標は以下に表される。
【0057】
X1=x1 cosφ1 ・cosκ1 −y1 cosφ1 ・sinκ1 −fsinφ1
Y1=x1 sinκ1 −y1 cosκ1
Z1=−x1 sinφ1 ・cosκ1 −y1 sinφ1 ・sinκ1 −fcosφ1
X2=x2 cosφ2 ・cosκ2 −y2 cosφ2 ・sinκ2 −fsinφ2 +1
Y2=x2 (cosω2 sinκ2 +sinω2 ・sinφ2 cosκ2 )+
y2 (cosω2 cosκ2 −sinω2 ・sinφ2 ・sinκ2 )+
fsinω2 ・cosφ2
Z2=x2 (sinω2 ・sinκ2 −cosω2 ・sinφ2 ・cosκ2 )+
y2 (sinω2 ・cosκ2 +cosω2 ・sinφ2 ・sinκ2 )−
fcosω2 ・cosφ2
【0058】
ここで、B/H(視差)を演算する場合に、最も影響の大きい角度は、ピッチ角φであり、前記角度センサ14は、少なくともピッチ角φが検出できるものであればよい。
【0059】
前記撮影装置1で画像データを取得する場合は、移動しつつ測定対象物を撮影するが、移動距離、前記測定対象物の遠近とB/Hとの間連について、図5を参照して説明する。
【0060】
尚、前記撮影装置1は図5中、動画像を撮像しつつ右に移動し、撮影地点O1,O2,O3,O4,…で順次静止画像を撮像したとする。ここで、測定精度を考慮し、B/H≧α(α:所望の測定精度に対応する定数)の場合に、測定に使用可能な静止画像と判断する。
【0061】
前記撮影装置1の移動線16に対し、所要の距離に位置する測定点をQ1,Q2,Q3とし、測定点Q1,Q2,Q3と前記移動線16との距離は、H1,H2,H3とする。又、撮影地点O1から撮影地点O2,O3,O4迄の距離をそれぞれB1,B2,B3とする。
【0062】
撮影地点O2で撮像した時の、測定点Q1,Q2,Q3について、B1/H1≧α、B2/H2<α、B3/H3<αであり、撮影地点O2で取得した静止画像では測定点Q1のみが測量可能な状態となっている。
【0063】
次に、撮影地点O3で撮像した時は、測定点Q1,Q2,Q3について、B1/H1≧α、B2/H2≧α、B3/H3<αとなり、撮影地点O3で取得した静止画像では測定点Q1,Q2が測量可能な状態となる。
【0064】
更に、撮影地点O4迄移動し、撮影地点O4で撮像した時は、測定点Q1,Q2,Q3について、B1/H1≧α、B2/H2≧α、B3/H3≧αとなり、撮影地点O4で取得した静止画像では測定点Q1,Q2,Q3が測量可能な状態となる。
【0065】
従って、任意の測定点について、αを閾値とし、B/H≧αとなった時点を測定者に告知することで、測定者は適正な移動量で、測定対象点を含む静止画像を取得できる。尚、告知の方法としては、表示画面17(図7参照)に測定対象点を表示し、B/H≧αとなった測定対象点について色を変える、或は点滅する等により視覚的な告知をする。或は、視覚的な告知に代え、或は視覚的な告知に合わせてB/H≧αとなった時点で、ブザーを鳴らす等が挙げられる。
【0066】
又、B/H≧αを条件に自動で静止画像を取得する様にしてもよい。
【0067】
図7は、本実施例に用いられる前記表示画面17の一例を示している。
【0068】
該表示画面17は、撮像画像を表示する機能と撮像状況を表示する機能等、複数の表示機能を有し、各表示機能毎に表示を切替えるか、或は各機能毎に表示の一部を割当てることができる様になっている。
【0069】
例えば、図7に示される前記表示画面17では、主に画像表示部18と水平撮影位置表示部19、鉛直撮影位置表示部20を有している。
【0070】
前記画像表示部18には、前記動画撮像部11で撮影された動画像が表示され、又は前記静止画撮像部12で撮像された静止画像が表示される様になっている。
【0071】
前記水平撮影位置表示部19は、前記画像表示部18の上辺に沿って延びる帯状の表示部であり、前記水平撮影位置表示部19には水平方向の角度、例えば−180゜〜180゜が表示され、静止画が撮像された水平位置(水平角)が、縦棒として逐次表示され、最新の静止画像が取得された位置の表示とそれ以前の表示とでは色を変えて表示される様になっている。
【0072】
又、前記鉛直撮影位置表示部20は、前記画像表示部18の側辺(例えば左側辺)に沿って延びる帯状の表示部であり、前記鉛直撮影位置表示部20には鉛直位置(鉛直角)が横棒として逐次表示され、最新の静止画像が取得された位置の表示とそれ以前の表示とでは色を変えて表示される様になっている。
【0073】
以下、本実施に於ける作用について、図6図8を参照して説明する。
【0074】
尚、以下の説明は、測定対象物22が壺の様な小物で、該測定対象物22の周囲を一周して該測定対象物22を測定する場合である。
【0075】
STEP:01 測定を開始すると、最初の静止画像が撮影により取得される。最初の静止画像が撮像された地点が第1の撮影地点(図7中、撮影1)となり、同時に前記動画撮像部11による撮影が開始される。又、前記画像表示部18には、静止画像を取得した範囲が撮影位置に対応して表示され、又静止画像の取得が繰返されると、撮影位置に対応して取得した範囲がオーバラップして表示される。
【0076】
STEP:02,STEP:03 前記撮像装置2の角度(ロール、ピッチ、ヨー)が検出され、検出された角度が所定範囲内、即ち、静止画像を取得できる状態であるかどうかが判断される。
【0077】
STEP:04,STEP:12 検出された角度が所定範囲内である場合に、撮影最初の画像(以下、単に画像とする場合は、動画像の内の1フレーム分の画像を示す)かどうかが判断され、最初の画像であると判断されると静止画像が撮影され、記録される。
【0078】
STEP:13 撮影された静止画像について、特徴点が抽出される。更に、動画が撮影される。
【0079】
STEP:05 最初の画像でないと判断された場合、前記静止画像から抽出した特徴点について最初の静止画像以降の動画像に対して画像トラッキングが実行される。即ち、時間的に隣接する画像間で画像マッチングによる前記特徴点の追尾が実行される。
【0080】
STEP:06,STEP:07 特徴点をトラッキングし、最新の動画像(フレーム画像、即ち最新画像)に特徴点を特定し、更に測定開始画像(トラッキングを開始した時点の画像)と最新画像間で重複する部分に共通して存在する特徴点から標定点(パスポイント)を選定し、該標定点に基づき測定開始画像と最新画像間で相互標定を実行する。
【0081】
STEP:08 2つの相互標定した画像に基づき、標定点についての座標を計算し、前記測定対象物22の測定を行い、更にB/H比を計算する(図3参照)。
【0082】
STEP:09 相互標定、B/H比の計算は、新規の画像を取得しつつリアルタイムで実行される。従って、所定の測定対象物22についてのB/H比は、撮影者が移動するにつれ、即ち前記撮像装置2が移動するにつれ、刻々と変化する。前記選定した標定点を前記表示部6に表示させ、B/H比の変化に対応させて、標定点の色を変化させる。例えば、B/H比が既に3Dモデリング可能な値(閾値)を超えている標定点については、青色表示し、閾値を満足した時点で赤色表示し、閾値を満足しない標定点を緑色表示する等である。
【0083】
STEP:10 得られたB/Hが、設定された値(閾値)より大きいかどうかが判断され、B/Hが閾値より大きい場合は、次の静止画像を取得する条件が整ったと判断される。整ったと判断されると、3Dモデリング可能な表示、例えば、表示色が赤色になると共に点滅する等により、撮影者は標定点の表示状態を確認することで、最適な撮影位置を判断できる。
【0084】
STEP:11 新たな標定点についてB/Hが閾値を超えると、閾値を超えたことを知らせる表示がなされる。撮影者は、標定点が選定された測定対象物22について、静止画像を取得するかどうかの判断がなされる。継続して撮影する場合は、前記表示部6に表示されている内容を確認して静止画像が取得される(STEP:12)。尚、3Dモデリング可能な状態となると、停止の指示がある迄、自動で静止画像を取得する様にしてもよい。
【0085】
又、B/Hが閾値より小さい場合は、STEP:01に戻り、動画像の撮影、動画像について特徴点の追尾が継続して実行される。
【0086】
取得された静止画像(最新の画像)は記録され、最新の画像について特徴点の抽出が行われる(STEP:13)。更に、最新の静止画像を基準として特徴点の追尾、標定点の選定等、前記STEP:01〜STEP:10の工程が繰返される。
【0087】
又、静止画像が取得されると、取得位置の水平位置が前記水平撮影位置表示部19に縦棒として表示され、又垂直位置が前記鉛直撮影位置表示部20に横棒として表示される。従って、どの方向で撮影したかが視覚的に判断でき、重複した撮影、撮り残しが防止できる。
【0088】
尚、前記水平撮影位置表示部19、前記鉛直撮影位置表示部20には、静止画像を取得した位置と共に現時点での視準方向をリアルタイムで表示してもよい。該視準方向は前記撮像装置2の移動と共に移動し、視準方向と測定対象物との関係が視覚的に判断できる。
【0089】
上記した様に、静止画像の取得(撮影)は、撮影者が色の変更、点滅等、告知手段が告知する結果に基づき手動で取得してもよく、B/Hの判断に基づき撮像装置2が自動で撮影してもよい。
【0090】
STEP:11 B/Hの判定後、撮影を終了するとの判断がなされると、測定は終了する。
【0091】
而して、前記測定対象物22について、画像により3次元測定するに必要な静止画像が取得される。尚、静止画像の他に、画像トラッキングの為に撮像した動画像を保存してもよい。動画像を保存することで、撮影後、データ処理の時点で特徴点の抽出の条件を変更し、画像トラッキングを実行する条件を変更した場合のデータの取得が可能となる。
【0092】
更に、B/Hを満足する画像データ、該画像データに関して標定点を取得することで、得られた画像データ、標定点から3Dモデルの作製が行える。尚、3Dモデルの作製は、前記撮影装置1で行ってもよく、或は別途PCで作成してもよい。
【0093】
又、前記撮影装置1で必要な画像データを取得し、前記記憶部4に保存しておき、別途PC等により保存した画像から、前記測定対象物22の3次元測定、3Dモデルの作製をしてもよく、或は前記撮影装置1で画像を取得しつつ前記測定対象物22の3次元測定を行ってもよい。この場合、図7に示される様に、測定ポイントを画像上に順次プロット23等で表示し、又測定中の測定点、或は最新の測定点と既に測定し終った測定点とは色分け表示してもよい。
【0094】
上記説明は、特定の測定対象物を全周に亘って測定し、測定対象物単体の3Dモデルを作製した場合を説明したが、測定者が道路に沿って移動した場合の、沿道に存在する測定対象物について測定する場合を説明する。
【0095】
図9は、紙面に対して左から右に移動した際の、撮影地点と測定対象物との関係を示した模式図であり、測定対象物25,26,27,28は沿道に沿って存在し、移動線16から近距離の位置にあり、測定対象物29は前記移動線16から遠距離の位置にある状態を示している。又、前記移動線16上をガイダンス表示を見ながら移動し、ガイダンス表示で適正となった撮影地点A,B,C,D,E,F,Gで静止画像を取得したものであり、B地点、C地点、D地点、G地点で撮影1、撮影2、撮影3、撮影4が行われ、それぞれ静止画像が取得されたことを示している。
【0096】
又、図10(A)は、撮影3での表示画面を示しており、測定対象物25,26,29,27が画像中に含まれる。又、撮影1、撮影2での画像の範囲がそれぞれ破線で示されている。
【0097】
取得した静止画像について特徴点(図示では標定点として選択されたもの)が測定対象物に重合して表示されている。上記した様に、標定点には撮影の状態がリアルタイムで反映されており、B/Hの値に応じて表示色が変る様になっている。図示では、標定点が+、□、○のプロットで示されているが、実際には色分け表示され、例えば+が青、□が赤、○が緑の様に表示される。又、プロット+については、B/Hの値が十分閾値を超えたことを示し、プロット□については、B/Hの値が略閾値となり、3Dモデリング可能となったことを示し、プロット○については3Dモデリング不可の状態を示している。
【0098】
前記撮像装置2が前記移動線16に沿って移動することで、撮影基線長Bが変化し、撮影3の地点では前記測定対象25,26について全ての標定点が、B/Hの値が閾値を超え、3Dモデリング可能となり、前記測定対象27の一部の標定点が3Dモデリング可能な状態に入った。又、前記測定対象物29の標定点、及び前記測定対象物27の一部の標定点については、3Dモデリング不可であることが示される。
【0099】
更に、移動して撮影4の状態となると(図10(B))、前記画像表示部18上には前記測定対象物27の一部及び前記測定対象物29、前記測定対象物28が表示され、前記測定対象物29の標定点が3Dモデリング可能な状態となり、測定対象物28の標定点の一部が3Dモデリング可能な状態に入ったことが示されている。
【0100】
従って、測定対象物が前記移動線16に対して近距離、遠距離に拘らず、3Dモデリング可能な状態となったことが画面上から判断でき、近距離の測定対象物を測定する場合、遠距離の測定対象物を測定する場合のいずれでも、適切な位置で、所望の精度を満足する画像を取得することができる。
【符号の説明】
【0101】
1 撮影装置
2 撮像装置
3 演算部
4 記憶部
5 画像処理部
6 表示部
7 操作部
8 電源部
10 撮像部
11 動画撮像部
12 静止画撮像部
13 撮像制御部
14 角度センサ
15 撮像素子
16 移動線
17 表示画面
18 画像表示部
19 水平撮影位置表示部
20 鉛直撮影位置表示部
22 測定対象物
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10