(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2025-03-10
(45)【発行日】2025-03-18
(54)【発明の名称】カメラパラメータ演算装置、該方法、該プログラムおよび該記録媒体、ならびに、河川水流測定装置、該方法、該プログラムおよび該記録媒体
(51)【国際特許分類】
H04N 23/60 20230101AFI20250311BHJP
H04N 23/62 20230101ALI20250311BHJP
H04N 23/90 20230101ALI20250311BHJP
G01P 5/18 20060101ALI20250311BHJP
【FI】
H04N23/60
H04N23/60 500
H04N23/62
H04N23/90
G01P5/18 F
(21)【出願番号】P 2023212070
(22)【出願日】2023-12-15
【審査請求日】2024-12-11
【早期審査対象出願】
(73)【特許権者】
【識別番号】514248031
【氏名又は名称】株式会社ハイドロ総合技術研究所
(74)【代理人】
【識別番号】100115381
【氏名又は名称】小谷 昌崇
(74)【代理人】
【識別番号】100111453
【氏名又は名称】櫻井 智
(72)【発明者】
【氏名】南 良忠
(72)【発明者】
【氏名】長谷川 誠
(72)【発明者】
【氏名】藤田 一郎
【審査官】堀井 康司
(56)【参考文献】
【文献】特開2021-189029(JP,A)
【文献】国際公開第2023/007651(WO,A1)
【文献】特開平5-014790(JP,A)
【文献】特開2018-179981(JP,A)
【文献】特開2004-286733(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222-5/257
H04N 23/00
H04N 23/40-23/76
H04N 23/90-23/959
G01P 5/18
(57)【特許請求の範囲】
【請求項1】
所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向処理部と、
前記第1および第2画像領域において、前記第1および第2画像それぞれから、互いに対応する第1および第2線分を、少なくとも2組、設定する対応線分処理部と、
前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理部で求めた第2光軸の第2方向、ならびに、前記対応線分処理部で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるカメラパラメータ処理部とを備える、
カメラパラメータ演算装置。
【請求項2】
前記方向処理部は、
前記第1および第2画像領域において、前記第1および第2画像間で互いに対応する各対応点を探索する対応点探索部と、
前記対応点探索部で探索した各対応点に基づいて前記視差を求める視差演算部と、
前記第1光軸の第1方向および前記視差演算部で求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向演算部とを備える、
または、
前記第1および第2画像領域において、前記第1および第2画像それぞれで互いに対応する各対応点の入力を受け付ける入力部と、
前記入力部で受け付けた各対応点に基づいて前記視差を求める視差演算部と、
前記第1光軸の第1方向および前記視差演算部で求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向演算部とを備える、
請求項1に記載のカメラパラメータ演算装置。
【請求項3】
前記対応線分処理部は、
前記第1および第2画像のうちの少なくとも一方を表示する表示部と、
前記第1および第2画像のうちの一方において、前記第1および第2線分のうちの一方として入力線分の入力を受け付ける入力部と、
前記第1および第2画像のうちの他方において、前記入力部で受け付けた前記入力線分に対応する対応線分を抽出する抽出部とを備える、
または、
前記第1および第2画像を表示する表示部と、
前記第1および第2線分の入力を受け付ける入力部とを備える、
請求項1に記載のカメラパラメータ演算装置。
【請求項4】
前記少なくとも2組の第1および第2線分は、3組以上の第1および第2線分であり、
前記カメラパラメータ処理部で求める第2カメラのカメラパラメータは、第2カメラにおける、前記基準面からの第2高さおよび第2撮像光学系の第2焦点距離であり、
前記カメラパラメータ処理部は、線分の長さを、前記第2高さおよび前記第2焦点距離に基づいて求める演算式を用いて、前記少なくとも2組の第1および第2線分の各長さに対する誤差が最小となるように前記第2カメラのカメラパラメータを求める、
請求項1に記載のカメラパラメータ演算装置。
【請求項5】
所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向処理工程と、
前記第1および第2画像領域において、前記第1および第2画像それぞれから、互いに対応する第1および第2線分を、少なくとも2組、設定する対応線分処理工程と、
前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理工程で求めた第2光軸の第2方向、ならびに、前記対応線分処理工程で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるカメラパラメータ処理工程とを備える、
カメラパラメータ演算方法。
【請求項6】
コンピュータを、請求項1ないし請求項4のいずれか1項に記載のカメラパラメータ演算装置として機能させるためのカメラパラメータ演算プログラム。
【請求項7】
請求項6に記載のカメラパラメータ演算プログラムを記録したコンピュータ読み取り可能な記録媒体。
【請求項8】
請求項1ないし請求項4のいずれか1項に記載のカメラパラメータ演算装置と、
河川の表面を前記第2カメラで撮像した時系列に連続した複数の表面画像それぞれを、前記カメラパラメータ演算装置で求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成するオルソ補正部と、
前記オルソ補正部で生成した複数の補正表面画像に基づいて前記河川の表面における表面流速を求める流速処理部とを備える、
河川水流測定装置。
【請求項9】
前記少なくとも2組の第1および第2線分は、前記第2カメラに対して前記河川の手前岸に設定された1組の第1Aおよび第2A線分、前記第2カメラに対して前記河川の奥岸に設定された1組の第1Bおよび第2B線分、および、前記河川の幅方向に沿って設定された1組の第1Cおよび第2C線分を含む3組以上の第1および第2線分である、
請求項8に記載の河川水流測定装置。
【請求項10】
前記流速処理部で求めた表面流速、前記河川の横断面の形状、および、前記河川の水位に基づいて、前記河川の流量を求める流量処理部をさらに備える、
請求項8に記載の河川水流測定装置。
【請求項11】
前記第1および第2カメラと、
前記第1カメラにおける前記第1光軸の前記第1方向を測定する方向測定部とをさらに備える、
請求項8に記載の河川水流測定装置。
【請求項12】
請求項5に記載のカメラパラメータ演算方法と、
河川の表面を前記第2カメラで撮像した時系列に連続した複数の表面画像それぞれを、前記カメラパラメータ演算方法で求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成するオルソ補正工程と、
前記オルソ補正工程で生成した複数の補正表面画像に基づいて前記河川の表面における表面流速を求める流速処理工程とを備える、
河川水流測定方法。
【請求項13】
コンピュータを、請求項8に記載の河川水流測定装置として機能させるための河川水流測定プログラム。
【請求項14】
請求項13に記載の河川水流測定プログラムを記録したコンピュータ読み取り可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、カメラパラメータを求めるカメラパラメータ演算装置、カメラパラメータ演算方法、カメラパラメータ演算プログラムおよびその記録媒体、ならびに、これを用いた河川水流測定装置、河川水流測定方法、河川水流測定プログラムおよびその記録媒体に関する。
【背景技術】
【0002】
カメラによって撮像された画像に基づいて、前記画像に写り込んだ物体に関する所定の諸量を求める場合、いわゆるカメラパラメータが必要である。このカメラパラメータには、一般に、例えばカメラの撮像光学系(結像光学系)における焦点距離および収差等の内部パラメータと、例えば前記撮像光学系の光軸方向およびカメラの位置(投影中心の3次元位置)の外部パラメータとがある。このようなカメラパラメータは、一般に、画像に写り込むように、3次元座標値の既知な標定点を表す部材を、6箇所以上、配置し、画像に写り込んだ6個以上の標定点に基づいて算出される。このような標定点を用いた方法では、標定点の設置に手間や時間がかかり、また、撮像対象(被写体)によっては標定点が設置し難い場合があることから、標定点を用いずにカメラパラメータを求めることが望まれる。このような技術として、例えば特許文献1に開示されたカメラ校正装置がある。
【0003】
この特許文献1に開示されたカメラ校正装置は、カメラによって世界座標空間が撮影された画像の画像平面において、それぞれが前記世界座標空間における基準平面に対する法線ベクトルであり、且つ、互いに同じ長さを有する第1世界座標空間内法線ベクトルおよび第2世界座標空間内法線ベクトルにそれぞれ対応する、第1画像平面内法線ベクトルおよび第2画像平面内法線ベクトルを取得する取得部と、前記第1画像平面内法線ベクトルの第1始点および第1終点ならびに前記第2画像平面内法線ベクトルの第2始点および第2終点にそれぞれ対応する4つの射影的奥行きをベクトル要素とする射影的奥行きベクトルを算出する、射影的奥行き算出部と、前記算出された射影的奥行きベクトルと、前記第1始点および第1終点にそれぞれ対応する第1画像平面内始点ベクトルおよび第1画像平面内終点ベクトルならびに前記第2始点および前記第2終点にそれぞれ対応する第2画像平面内始点ベクトルおよび第2画像平面内終点ベクトルとに基づいて、前記カメラの内部パラメータおよび外部パラメータを算出する、カメラパラメータ算出部と、を具備する。このカメラ校正装置では、第1および第2世界座標空間内法線ベクトルには、その[0016]段落によれば、水平面に対して垂直に延びるビルまたは棚等の辺が用いられる。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、前記特許文献1に開示されたカメラ校正装置は、標定点を用いずにカメラパラメータを求めるために、上述したように、画像に、ビルや棚等の、水平面に対して垂直に延びる物体が写り込んでいる必要があり、撮像対象に制約がある。
【0006】
本発明は、上述の事情に鑑みて為された発明であり、その目的は、撮像対象の制約をより低減できるカメラパラメータ演算装置、カメラパラメータ演算方法、カメラパラメータ演算プログラムおよびその記録媒体、ならびに、これを用いた河川水流測定装置、河川水流測定方法、河川水流測定プログラムおよびその記録媒体を提供することである。
【課題を解決するための手段】
【0007】
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかるカメラパラメータ演算装置は、所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向処理部と、前記第1および第2画像領域において、前記第1および第2画像それぞれから、互いに対応する第1および第2線分を、少なくとも2組、設定する対応線分処理部と、前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理部で求めた第2光軸の第2方向、ならびに、前記対応線分処理部で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるカメラパラメータ処理部とを備える。好ましくは、上述のカメラパラメータ演算装置において、前記第1および第2光軸の第1および第2方向は、それぞれ、投影中心を座標原点とするuvw直交座標系であるカメラ座標系(ローカル座標系)におけるw方向とXYZ直交座標系である地上座標系(ワールド座標系)におけるZ方向とが一致している状態を初期状態とした場合に、u軸に対する第1および第2u軸回転角およびv軸に対する第1および第2v軸回転角で表され、前記カメラパラメータ処理部で求める第2カメラのカメラパラメータは、前記地上座標系におけるXY平面を前記基準面とした場合に、前記第2カメラにおける、前記基準面からの第2高さおよび第2撮像光学系の第2焦点距離である。好ましくは、上述のカメラパラメータ演算装置において、前記第1および第2カメラと、前記第1カメラにおける前記第1光軸の前記第1方向を測定する方向測定部とをさらに備える。好ましくは、上述のカメラパラメータ演算装置において、前記方向測定部は、前記第1カメラに備えられた、前記第1カメラの傾きを測定する3軸加速度センサである。
【0008】
画像上の点に対応する実際の点の位置は、カメラの撮像光学系における主点位置のずれや収差を考慮しない場合、前記画像上の点の位置から、光軸の方向、高さおよび焦点距離に基づいて求めることができる。上記カメラパラメータ演算装置は、第1カメラにおける第1光軸の第1方向を、第1および第2画像間の視差に基づき修正することによって第2カメラにおける第2光軸の第2方向を求めることができる。上記カメラパラメータ演算装置は、少なくとも2組における各第1線分それぞれの各端点の各位置から前記各第1線分の各実長を求めることによって、これらに対応する、前記少なくとも2組における各第2線分それぞれの各実長を求めることができ、各端点の各位置から実長を求める計算方法の逆演算によって、第2カメラにおける第2高さおよび第2焦点距離を求めることができる。したがって、上記カメラパラメータ演算装置は、カメラパラメータを求める際に、例えば標定点やビルや棚等を用いる必要が無く、撮像対象の制約をより低減できる。
【0009】
他の一態様では、上述のカメラパラメータ演算装置において、前記方向処理部は、前記第1および第2画像領域において、前記第1および第2画像間で互いに対応する各対応点を探索する対応点探索部と、前記対応点探索部で探索した各対応点に基づいて前記視差を求める視差演算部と、前記第1光軸の第1方向および前記視差演算部で求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向演算部とを備える、または、前記第1および第2画像領域において、前記第1および第2画像それぞれで互いに対応する各対応点の入力を受け付ける入力部と、前記入力部で受け付けた各対応点に基づいて前記視差を求める視差演算部と、前記第1光軸の第1方向および前記視差演算部で求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向演算部とを備える。
【0010】
このようなカメラパラメータ演算装置は、対応点探索部を備える場合、対応点探索で互いに対応する各対応点を自動的に求めることができる。上記カメラパラメータ演算装置は、入力部を備える場合、画像によっては対応点探索で対応点を求め難い場合でも、互いに対応する各対応点の入力を入力部で受け付けるので、確実に視差を求めることができ、第2光軸の第2方向を求めることができる。
【0011】
他の一態様では、これら上述のカメラパラメータ演算装置において、前記対応線分処理部は、前記第1および第2画像のうちの少なくとも一方を表示する表示部と、前記第1および第2画像のうちの一方において、前記第1および第2線分のうちの一方として入力線分の入力を受け付ける入力部と、前記第1および第2画像のうちの他方において、前記入力部で受け付けた前記入力線分に対応する対応線分を抽出する抽出部とを備える、または、前記第1および第2画像を表示する表示部と、前記第1および第2線分の入力を受け付ける入力部とを備える。
【0012】
このようなカメラパラメータ演算装置は、抽出部を備える場合、第1および第2線分のうちの一方として入力線分を入力すれば、抽出部で前記第1および第2線分のうちの他方として対応線分を抽出するので、第1および第2線分の入力の手間を省くことができる。上記カメラパラメータ演算装置は、抽出部を備えない場合、第1および第2線分の入力を入力部で受け付けるので、確実に前記第1および第2線分を設定できる。
【0013】
他の一態様では、これら上述のカメラパラメータ演算装置において、前記少なくとも2組の第1および第2線分は、3組以上の第1および第2線分であり、前記カメラパラメータ処理部で求める第2カメラのカメラパラメータは、第2カメラにおける、前記基準面からの第2高さおよび第2撮像光学系の第2焦点距離であり、前記カメラパラメータ処理部は、線分の長さを、前記第2高さおよび前記第2焦点距離に基づいて求める演算式を用いて、前記少なくとも2組の第1および第2線分の各長さに対する誤差が最小となるように前記第2カメラのカメラパラメータを求める。好ましくは、上述のカメラパラメータ演算装置において、前記カメラパラメータ処理部は、前記演算式を最小2乗法で解くことによって前記第2カメラのカメラパラメータを求める。
【0014】
カメラパラメータ処理部で求める第2カメラのカメラパラメータは、前記第2高さおよび前記第2焦点距離の2個であるので、2組の第1および第2線分で前記第2カメラのカメラパラメータを求め得る。上記カメラパラメータ演算装置は、2個の未知数に対して冗長性を有する3組以上の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるので、より適切に前記カメラパラメータを求めることができる。
【0015】
本発明の他の一態様にかかるカメラパラメータ演算方法は、所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向処理工程と、前記第1および第2画像領域において、前記第1および第2画像それぞれから、互いに対応する第1および第2線分を、少なくとも2組、設定する対応線分処理工程と、前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理工程で求めた第2光軸の第2方向、ならびに、前記対応線分処理工程で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるカメラパラメータ処理工程とを備える。本発明の他の一態様にかかるカメラパラメータ演算プログラムは、コンピュータを、これら上述のいずれかのカメラパラメータ演算装置として機能させるためのカメラパラメータ演算プログラムである。
【0016】
このようなカメラパラメータ演算方法およびカメラパラメータ演算プログラムは、カメラパラメータを求める際に、例えば標定点やビルや棚等を用いる必要が無く、撮像対象の制約をより低減できる。
【0017】
本発明の他の一態様にかかる記録媒体は、上述のカメラパラメータ演算プログラムを記録したコンピュータ読み取り可能な記録媒体である。
【0018】
これによれば、カメラパラメータを求める際に、例えば標定点やビルや棚等を用いる必要が無く、撮像対象の制約をより低減できるカメラパラメータ演算プログラムが提供できる。
【0019】
本発明の他の一態様にかかる河川水流測定装置は、これら上述の何れかのカメラパラメータ演算装置と、河川の表面を前記第2カメラで撮像した時系列に連続した複数の表面画像それぞれを、前記カメラパラメータ演算装置で求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成するオルソ補正部と、前記オルソ補正部で生成した複数の補正表面画像に基づいて前記河川の表面における表面流速を求める流速処理部とを備える。
【0020】
このような河川水流測定装置は、オルソ補正に必要となるカメラパラメータを、例えば標定点やビルや棚等を用いる必要が無く求め得るので、撮像対象の制約をより低減でき、測定しようとした場合に、より迅速に河川の表面流速を測定できる。
【0021】
他の一態様では、上述の河川水流測定装置において、前記少なくとも2組の第1および第2線分は、前記第2カメラに対して前記河川の手前岸に設定された1組の第1Aおよび第2A線分、前記第2カメラに対して前記河川の奥岸に設定された1組の第1Bおよび第2B線分、および、前記河川の幅方向に沿って設定された1組の第1Cおよび第2C線分を含む3組以上の第1および第2線分である。
【0022】
このような河川水流測定装置は、少なくとも2組の第1および第2線分を、手前岸、奥岸および川幅の3組に設定するので、川幅方向に沿って河川の手前から奥までバランスの良い精度で河川の表面流速を測定できる。
【0023】
他の一態様では、これら上述の河川水流測定装置において、前記流速処理部で求めた表面流速、前記河川の横断面の形状、および、前記河川の水位に基づいて、前記河川の流量を求める流量処理部をさらに備える。このような河川水流測定装置は、流量処理部を備えるので、河川の流量を測定できる。
【0024】
他の一態様では、これら上述の河川水流測定装置において、前記第1および第2カメラと、前記第1カメラにおける前記第1光軸の前記第1方向を測定する方向測定部とをさらに備える。このような河川水流測定装置は、第1および第2カメラならびに方向測定部を備えるので、当該河川水流測定装置のみよって測定現場で実測できる。
【0025】
本発明の他の一態様にかかる河川水流測定方法は、上述のカメラパラメータ演算方法と、河川の表面を前記第2カメラで撮像した時系列に連続した複数の表面画像それぞれを、前記カメラパラメータ演算方法で求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成するオルソ補正工程と、前記オルソ補正工程で生成した複数の補正表面画像に基づいて前記河川の表面における表面流速を求める流速処理工程とを備える。本発明の他の一態様にかかる河川水流測定プログラムは、コンピュータを、上述の河川水流測定装置として機能させるための河川水流測定プログラムである。このような河川水流測定方法および河川水流測定プログラムは、撮像対象の制約をより低減でき、測定しようとした場合に、より迅速に河川の表面流速を測定できる。
【0026】
本発明の他の一態様にかかる記録媒体は、上述の河川水流測定プログラムを記録したコンピュータ読み取り可能な記録媒体である。これによれば、撮像対象の制約をより低減でき、測定しようとした場合に、より迅速に河川の表面流速を測定できる河川水流測定プログラムが提供できる。
【発明の効果】
【0027】
本発明にかかるカメラパラメータ演算装置、カメラパラメータ演算方法、カメラパラメータ演算プログラムおよびその記録媒体は、撮像対象の制約をより低減できる。本発明によれば、これを用いた河川水流測定装置、河川水流測定方法、河川水流測定プログラムおよびその記録媒体が提供できる。
【図面の簡単な説明】
【0028】
【
図1】カメラの撮像における共線条件を説明するための図である。
【
図2】実施形態におけるカメラパラメータ演算装置を備えた河川水流測定装置の構成を示すブロック図である。
【
図3】前記河川水流測定装置(カメラパラメータ演算装置)における第1態様の方向処理部を説明するための図である。
【
図4】前記河川水流測定装置(カメラパラメータ演算装置)における第2態様の方向処理部を説明するための図である。
【
図5】前記河川水流測定装置(カメラパラメータ演算装置)における第1および第2態様の対応線分処理部を説明するための第1の図である。
【
図6】前記河川水流測定装置(カメラパラメータ演算装置)における第1および第2態様の対応線分処理部を説明するための第2の図である。
【
図7】一例として、河川の画像に設定される検査線を説明するための図である。
【
図8】一例として、
図7に示す画像をオルソ補正した画像を示す図である。
【
図9】一例として、表面流速および水量の演算結果を示す図である。
【
図10】前記河川水流測定装置(カメラパラメータ演算装置)における動作を示すフローチャートである。
【発明を実施するための形態】
【0029】
以下、図面を参照して、本発明の1または複数の実施形態が説明される。しかしながら、発明の範囲は、開示された実施形態に限定されない。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
【0030】
実施形態におけるカメラパラメータ演算装置は、所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向処理部と、前記第1および第2画像領域において、前記第1および第2画像それぞれから、互いに対応する第1および第2線分を、少なくとも2組、設定する対応線分処理部と、前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理部で求めた第2光軸の第2方向、ならびに、前記対応線分処理部で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるカメラパラメータ処理部とを備える。
【0031】
まず、このようなカメラパラメータ演算装置における、第2カメラのカメラパラメータの演算原理について説明する。
【0032】
図1は、カメラの撮像における共線条件を説明するための図である。
図1において、XYZ直交座標系は、地上に設定される地上座標系(ワールド座標系)であり、uvw直交座標系は、カメラに設定される、カメラ(画像)の投影中心oを座標原点とするカメラ座標系(ローカル座標系(第1ローカル座標系))であり、xy直交座標系は、カメラ座標系uvwのuv平面と平行となるように画像PCを配置した場合に、画像PCに設定される、投影中心oを通る画像PCの法線と画像PCとの交点を座標原点とするピクセル座標系(ローカル座標系(第2ローカル座標系))である。ピクセル座標系xyは、カメラの2次元イメージセンサIMに設定される、カメラの投影中心oを通る2次元イメージセンサIMの法線と2次元イメージセンサIMの撮像面(撮像光学系の結像面)との交点を座標原点とする2次元直交座標系でもある。
【0033】
カメラ座標系uvwのw方向と地上座標系のZ方向とが一致している状態(カメラ座標系uvwのw軸と地上座標系のZ軸とが互いに平行である状態)を初期状態として、カメラがw軸回りに角度κだけ回転し、次に、v軸回りに角度φだけ回転し、最後に、u軸回りに角度ωだけ回転した場合に、地上の対象物の位置(X、Y、Z)と投影中心o(X0、Y0、Z0)と対象物の画像上の位置(x、y)とが一直線上にあるという共線条件は、次式1-1、式1-2で表される。ここで、カメラにおける撮像光学系の焦点距離をcとすると、カメラの回転に関する係数aijは、次式2-1~式2-9で表される。
【0034】
【0035】
【0036】
これら式1-1、式1-2および式2-1~式2-9から、主点位置のずれや歪曲収差が無いものとすると、一般に、カメラパラメータX0、Y0、Z0、ω、φ、κ、cは、地上座標系での位置が既知な6個以上の標定点とこれら各標定点の画像上での位置(ピクセル座標系での位置)から求めることができる。
【0037】
一方、前記式1-1、式1-2は、次式3-1、式3-2のように変形できる。
【0038】
【0039】
ここで、任意の標高Zにある平面上の2点D1(X1、Y1)、D2(X2、Y2)の距離D12は、次式4で表される。ここで、h=Z-Z0である。
【0040】
【0041】
また、カメラのw軸回りの回転角が角度κから角度κ’に変わり、この結果、2点D1(X1、Y1)、D2(X2、Y2)それぞれが2点D1’(X1’、Y1’)、D2’(X2’、Y2’)それぞれに移動したとすると、次式5-1、式5-2が成り立つ。ここで、係数aij’は、角度κ’のときの係数である。
【0042】
【0043】
式5-2に係数aij、aij’を代入すると、次式6のように変形でき、変数Aが角度κによらず0であることが分かる。
【0044】
【0045】
これより、角度κが変化しても同一標高のXY平面上にある2点間の距離が変化しない、つまり、幾何補正(オルソ補正)の結果は、角度κによらず同一である。このため、係数aij、aij’を求める場合、角度κは、任意の値でよく、例えば、cosやsinが整数値となる0°や90°等が好ましい。
【0046】
したがって、式4および式6から、所定の基準面(上述の高さZの平面)からの第1高さh1(h1=Z-Z01、第1カメラの投影中心o1(X01、Y01、Z01)、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像とがあれば、前記第1および第2画像に基づき前記第1および第2画像間の視差を求め、この求めた視差に基づいて第1光軸の第1方向を修正することによって、第2カメラにおける第2光軸の第2方向を求めることができる。第1および第2画像それぞれに互いに対応する少なくとも2個以上の線分を設定し、この設定した少なくとも2個以上の線分の各長さを第1画像について式4を用いることによって求め、この求めた少なくとも2個以上の線分の各長さ、および、前記求めた第2光軸の第2方向を、第2画像についての式4に代入し、この代入した第2画像についての式4を解くことによって第2カメラのカメラパラメータh2、c2を求めることができる(h2=Z-Z02、第2カメラの投影中心o2(X02、Y02、Z02)。この求めた第2カメラのカメラパラメータh2、c2に基づいて第2画像をオルソ補正することができる。
【0047】
次に、カメラパラメータ演算装置を備えた河川水流測定装置を例に、実施形態におけるカメラパラメータ演算装置、これに実装されたカメラパラメータ演算方法およびカメラパラメータ演算プログラム、ならびに、河川水流測定装置、これに実装された河川水流測定方法および河川水流測定プログラムについて、各プログラムを記録した各記録媒体とともに、より具体的に説明する。
【0048】
図2は、実施形態におけるカメラパラメータ演算装置を備えた河川水流測定装置の構成を示すブロック図である。
図3は、前記河川水流測定装置(カメラパラメータ演算装置)における第1態様の方向処理部を説明するための図である。
図4は、前記河川水流測定装置(カメラパラメータ演算装置)における第2態様の方向処理部を説明するための図である。
図5は、前記河川水流測定装置(カメラパラメータ演算装置)における第1および第2態様の対応線分処理部を説明するための第1の図である。
図6は、前記河川水流測定装置(カメラパラメータ演算装置)における第1および第2態様の対応線分処理部を説明するための第2の図である。
図7は、一例として、河川の画像に設定される検査線を説明するための図である。
図8は、一例として、
図7に示す画像をオルソ補正した画像を示す図である。
図9は、一例として、表面流速および水量の演算結果を示す図である。
【0049】
実施形態におけるカメラパラメータ演算装置を備えた河川水流測定装置1000は、例えば、
図2に示すように、画像取得部1と、制御処理部2と、対応線分処理部3と、インターフェース部(IF部)4と、記憶部5とを備える。
【0050】
画像取得部1は、制御処理部2に接続され、制御処理部2の制御に従って、所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像とを取得する装置である。
【0051】
本実施形態では、例えば、画像取得部1は、第1カメラ11-1と、第2カメラ11-2と、方向測定部12とを備える。第1および第2カメラ11-1、11-2は、それぞれ、被写体(撮像対象)を撮像することで前記被写体の画像を生成する装置であり、例えば、被写体の光学像を所定の結像面上に結像する撮像光学系(結像光学系)、前記結像面に受光面を一致させて配置され、前記被写体の光学像を電気的な信号に変換するイメージセンサ、および、イメージセンサの出力を画像処理することで前記被写体における画像を表すデータである画像データを生成する画像処理部等を備えるデジタルカメラである。このような第1および第2カメラ11-1、11-2の各デジタルカメラは、モノクロカメラであってよく、カラーのカメラであってよく、可視光カメラであってよく、赤外カメラであってよい。方向測定部12は、第1カメラ11-1における第1光軸の第1方向を測定する装置であり、例えば、第1カメラ11-1の傾きを測定する3軸加速度センサ等を備えて構成される。第1カメラ11-1の傾きから第1光軸の第1方向が求め得る。本実施形態では、第1カメラ11-1および方向測定部12には、手軽さから、3軸速度センサおよびカメラを備えたいわゆるタブレット(タブレット型コンピュータ)やいわゆるスマートフォン(情報処理機能付き携帯通信端末装置)等が用いられる。第1カメラ11-1と第2カメラ11-2とは、同種の製品であってよく、異種の製品であってよい。
【0052】
なお、画像取得部1は、例えば、外部の機器との間でデータを入出力するインターフェース回路であってよい。前記外部の機器は、前記第1および第2画像を記憶した、例えばUSB(Universal Serial Bus)メモリおよびSDカード(登録商標)等の記憶媒体である。あるいは、前記外部の機器は、前記第1および第2画像を記録した、例えばCD-ROM(Compact Disc Read Only Memory)、CD-R(Compact Disc Recordable)、DVD-ROM(Digital Versatile Disc Read Only Memory)およびDVD-R(Digital Versatile Disc Recordable)等の記録媒体からデータを読み込むドライブ装置である。この画像取得部1としてのインターフェース回路は、有線または無線によって前記外部の機器に接続されてよい。あるいは、画像取得部1は、例えば、外部の機器と通信信号を送受信する通信インターフェース回路であってよく、前記外部の機器は、ネットワーク(WAN(Wide Area Network、公衆通信網を含む))あるいはLAN(Local Area Network)を介して前記通信インターフェース回路に接続され、前記第1および第2画像を管理するサーバ装置である。画像取得部1がこれらのいずれかの場合では、第1画像には、第1カメラにおける第1高さ、第1方向および第1焦点距離が対応付けられ、第1画像を取得する際に、これらも共に取得される。画像取得部1がインターフェース回路や通信インターフェース回路である場合では、画像取得部1は、IF部4と兼用されてもよい(すなわち、IF部4が画像取得部1として用いられてもよい)。あるいは、画像取得部1は、第1画像、第1カメラにおける第1高さ、第1方向および第1焦点距離、ならびに、第2画像の入力を受け付ける入力部であってよい。この場合、画像取得部1は、対応線分処理部3における後述の入力部31と兼用されてもよい。
【0053】
画像取得部1の第2カメラ11-2は、本実施形態では、河川の表面を撮像することによって時系列に連続した複数の表面画像を生成する装置としても機能する。なお、このような複数の表面画像は、上述の第1および第2画像と同様に、記憶媒体や記録媒体やサーバ装置に格納され、IF部4を介して河川水流測定装置1000に取得されてよく、あるいは、入力部31を介して取得されてよい。
【0054】
対応線分処理部3は、第1および第2画像で被写体が重複する第1および第2画像領域において、前記第1および第2画像それぞれから、互いに対応する第1および第2線分を、少なくとも2組、設定するものである。
【0055】
本実施形態では、例えば、対応線分処理部3は、入力部31と、表示部32と、抽出部33(23)とを備える(第1態様の対応線分処理部)。表示部32は、制御処理部2に接続され、制御処理部2の制御に従って第1および第2画像のうちの少なくとも一方を表示する装置である。入力部31は、制御処理部2に接続され、第1および第2画像のうちの一方において、前記第1および第2線分のうちの一方として入力線分の入力を受け付ける装置である。例えば、前記入力線分の両端点が入力部31から入力されることによって前記入力線分が入力される。これら入力部31および表示部32それぞれは、河川水流測定装置(カメラパラメータ演算装置)における入力部および表示部それぞれとしても機能し、入力部31には、例えば水流の測定開始(カメラパラメータの演算開始)を指示するコマンド等の各種コマンド、および、例えば前記複数の表面画像における河川の名称等の、河川水流測定装置(カメラパラメータ演算装置)1000の稼働を行う上で必要な各種データが入力され、表示部32には、入力部31から入力されたコマンドやデータ、および、河川水流測定装置1000によって求められた流速および流量等が出力される。入力部31は、例えば、所定の機能を割り付けられた複数の入力スイッチ、キーボードおよびマウス等である。表示部32は、例えばCRTディスプレイ、LCD(液晶表示装置)および有機ELディスプレイ等の表示装置等である。抽出部33(23)は、前記第1および第2画像のうちの他方において、前記入力部31で受け付けた前記入力線分に対応する対応線分を抽出するものであり、本実施形態では、後述の制御処理プログラムの実行によって制御処理部2に機能的に構成される。抽出部33(23)は、さらに後述される。
【0056】
なお、入力部31および表示部32は、タッチパネルにより構成されてもよい。このタッチパネルを構成する場合において、入力部3は、例えば抵抗膜方式や静電容量方式等の操作位置を検出して入力する位置入力装置である。このタッチパネルでは、表示部32の表示面上に位置入力装置が設けられ、表示部32に入力可能な1または複数の入力内容の候補が表示され、ユーザが、入力したい入力内容を表示した表示部32に触れると、位置入力装置によってその位置が検出され、検出された位置に表示された表示内容がユーザの操作入力内容として河川水流測定装置1000に入力される。このようなタッチパネルでは、ユーザは、入力操作を直感的に理解し易いので、ユーザにとって取り扱い易い河川水流測定装置1000が提供される。
【0057】
IF部4は、制御処理部2に接続され、制御処理部2の制御に従って、例えば、外部の機器との間でデータを入出力する回路であり、例えば、シリアル通信方式であるRS-232Cのインターフェース回路、Bluetooth(登録商標)規格を用いたインターフェース回路、および、USB規格を用いたインターフェース回路等である。また、IF部4は、例えば、データ通信カードや、IEEE802.11規格等に従った通信インターフェース回路等の、外部の機器と通信信号を送受信する通信インターフェース回路であってもよい。
【0058】
記憶部5は、制御処理部2に接続され、制御処理部2の制御に従って、各種の所定のプログラムおよび各種の所定のデータを記憶する回路である。前記各種の所定のプログラムには、例えば、制御処理プログラムが含まれ、前記制御処理プログラムには、制御プログラム、方向処理プログラム、抽出プログラム、カメラパラメータ処理プログラム、オルソ補正プログラム、流速処理プログラムおよび流量処理プログラム等が含まれる。前記制御プログラムは、河川水流測定装置(カメラパラメータ演算装置)1000の各部1、3~5を制御するプログラムである。前記方向処理プログラムは、所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求めるプログラムである。前記抽出プログラムは、前記第1および第2画像のうちの他方において、前記入力部で受け付けた前記入力線分に対応する対応線分を抽出するプログラムである。前記カメラパラメータ処理プログラムは、前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理プログラムで求めた第2光軸の第2方向、ならびに、前記対応線分処理部3で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるプログラムである。前記オルソ補正プログラムは、河川の表面を前記第2カメラで撮像した時系列に連続した複数の表面画像それぞれを、前記カメラパラメータ演算プログラムで求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成するプログラムである。前記流速処理プログラムは、前記オルソ補正プログラムで生成した複数の補正表面画像に基づいて前記河川の表面における表面流速を求めるプログラムである。前記流量処理プログラムは、前記流速処理プログラムで求めた表面流速、前記河川の横断面の形状、および、前記河川の水位に基づいて、前記河川の流量を求めるプログラムである。このような各プログラムは、例えば、前記各プログラムを記録したコンピュータに読み取り可能な、例えばCD-ROMやDVD-ROM等の記録媒体によって提供され、記憶部5に記憶される。あるいは例えば、各プログラムは、前記各プログラムを管理するサーバ装置からダウンロードされ、記憶部5に記憶される。前記各種の所定のデータには、前記第1および第2画像、前記第1画像を生成した第1カメラにおける第1高さ、第1方向および第1焦点距離、前記第2画像を生成した第2カメラにおける、前記方向処理プログラムで求めた第2方向、ならびに、前記カメラパラメータ演算プログラムで求めた第2高さおよび第2焦点距離、前記複数の表面画像、前記流速処理プログラムで求めた表面流速、前記流量処理プログラムで求めた流量、および、前記河川に関する所定のデータを表す河川情報等の、これら各プログラムを実行する上で必要なデータが含まれる。このような記憶部5は、例えば不揮発性の記憶素子であるROM(Read Only Memory)や書き換え可能な不揮発性の記憶素子であるEEPROM(Electrically Erasable Programmable Read Only Memory)等を備える。そして、記憶部5は、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる制御処理部2のワーキングメモリとなるRAM(Random Access Memory)等を含む。記憶部5は、比較的記憶容量の大きいハードディスク装置やソリッドステートドライブ(SSD)を備えて構成されてもよい。
【0059】
第1カメラ11-1の第1焦点距離は、第1カメラ11-1自体に記憶された焦点距離や取扱説明書に記載された焦点距離でもよいが、イメージセンサのサイズと前記イメージセンサにおける実際に画像生成で利用される有効サイズとが異なる場合等があるので、実際の焦点距離を求めるために、例えば校正ボードを用いたZ.Zhangの方法等により、第1カメラ11-1の第1焦点距離が予め実測され、記憶部5に予め記憶される。
【0060】
そして、記憶部5は、前記河川情報を記憶する河川情報記憶部51を機能的に備える。前記河川情報は、本実施形態では、例えば、前記河川の流量を求める上で必要となるデータを表す情報であり、前記河川の横断面の形状を表す横断面形状情報、および、前記河川の水位を表す水位情報等である。前記河川情報は、公知の常套手段により予め実測され、例えば、入力部31から入力され、河川情報記憶部51に記憶される。あるいは、例えば、前記複数の表面画像が前記記憶媒体、前記記録媒体および前記サーバ装置からIF部4で取得される場合に、前記複数の表面画像に付随して前記河川情報が、前記記憶媒体、前記記録媒体および前記サーバ装置に格納され、IF部4で取得され、河川情報記憶部51に記憶される。
【0061】
制御処理部2は、河川水流測定装置(カメラパラメータ演算装置)1000の各部1、3~5を当該各部の機能に応じてそれぞれ制御し、カメラパラメータを求め、流速や流量等の、河川の水流を測定するための回路である。制御処理部2は、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成される。制御処理部2は、制御処理プログラムが実行されることによって、制御部21、方向処理部22、抽出部23(33)、カメラパラメータ処理部24、オルソ補正部25、流速処理部26および流量処理部27を機能的に備える。
【0062】
制御部21は、河川水流測定装置(カメラパラメータ演算装置)1000の各部1、3~5を当該各部の機能に応じてそれぞれ制御し、河川水流測定装置(カメラパラメータ演算装置)1000の全体制御を司るものである。
【0063】
方向処理部22は、所定の基準面からの第1高さ、第1光軸の第1方向および第1撮像光学系の第1焦点距離が分かる第1カメラで撮像した第1画像と、前記第1カメラとは異なる第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、前記被写体が重複する第1および第2画像領域に基づいて前記第1および第2カメラ間の視差を求め、前記第1光軸の第1方向および前記求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求めるものである。
【0064】
本実施形態では、方向処理部22は、対応点探索部221と、視差演算部222と、方向演算部223とを備える(第1態様の方向処理部22)。これら対応点探索部221、視差演算部222および方向演算部223は、前記方向処理プログラムの実行により、制御処理部2に機能的に構成される。
【0065】
対応点探索部221は、前記第1および第2画像領域において、前記第1および第2画像間で互いに対応する各対応点を探索するものである。
【0066】
より具体的には、対応点探索部221は、第1画像の第1画像領域から複数の特徴点を抽出し、第2画像の第2画像領域から複数の特徴点を抽出する。前記特徴点は、画像において、他と区別できる箇所であり、例えば、画像に写り込んだ物体の角やエッジ等である。この特徴点の抽出には、様々な手法があるが、例えばA-KAZE等が用いられる。そして、対応点探索部221は、第1および第2画像領域のうちの一方から抽出した特徴点(一方の対応点)に対応する、第1および第2画像領域のうちの他方から抽出した特徴点を、対応点探索により探索して対応点(他方の対応点)として選定する。この対応点探索には、kNN等の様々な手法があるが、例えば総当たりマッチング(Brute-Force Matcher)が用いられる。
【0067】
あるいは例えば、対応点探索部221は、第1および第2画像領域のうちの一方から特徴点を抽出する。例えば、第1画像の第1画像領域から特徴点が抽出される。そして、対応点探索部221は、第1および第2画像領域のうちの一方から抽出した特徴点(一方の対応点)に対応する対応点(他方の対応点)を、第1および第2画像領域のうちの他方から探索する。上述の例では、第2画像の第2画像領域から対応点が探索される。この対応点探索には、例えばLucas-kanade法等が用いられる。
【0068】
例えば、
図3には、対応点探索の結果が示されている。
図3Bには、第1画像PC11が示され、
図3Aには、第2画像PC21が示され、
図3Bには、複数の前記一方の対応点として、第1画像PC11から抽出された複数の第1対応点が●で示され、
図3Aには、複数の前記他方の対応点として、これら複数の第1対応点●それぞれに対応する、第2画像PC21における複数の第2対応点●で示され、第1対応点●と第2対応点●との対応関係が、互いに対応する第1対応点●と第2対応点●とを線分で結ぶことによって表されている。
【0069】
視差演算部222は、対応点探索部221で探索した各対応点に基づいて前記視差を求めるものである。前記視差(第1および第2カメラ間における間隔および角度差)は、公知の常套手段、例えば、8組の各対応点からステレオカメラの基本行列(並進行列および回転行列)を推定する8点法(8点アルゴリズム)や、前記基本行列の誤差を8組以上の各対応点を用いた反復計算によって最小化することで前記基本行列を推定する方法等によって求められる。
【0070】
方向演算部223は、前記第1光軸の第1方向および視差演算部222で求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求めるものである。より具体的には、方向演算部223は、前記第1光軸の第1方向を、視差演算部222で求めた視差における角度差で修正することによって前記第2光軸の第2方向を求める。
【0071】
なお、上述では、方向処理部22は、対応点探索部221、視差演算部222および方向演算部223を備えて構成されたが、方向処理部22は、前記第1および第2画像領域において、前記第1および第2画像それぞれで互いに対応する各対応点の入力を受け付ける入力部と、前記入力部で受け付けた各対応点に基づいて前記視差を求める視差演算部と、前記第1光軸の第1方向および前記視差演算部で求めた視差に基づいて前記第2カメラにおける第2光軸の第2方向を求める方向演算部とを備えてもよい(第2態様の方向処理部22)。この方向処理部22の入力部には、対応線分処理部3の入力部31が兼用される。例えば、
図4には、各対応点の入力の様子が示されている。
図4Bには、第1画像PC12が示され、
図4Aには、第2画像PC22が示され、
図4Bには、第1画像PC12に対し、入力部31で入力された5個の第1対応点MK11~MK15が○で示され、
図4Aには、これら5個の第1対応点MK11~MK15それぞれに対応する、第2画像PC22における5個の第2対応点MK21~MK25が、矩形内に左右方向で互いに向き合う2個の空白三角形△および上下方向で互いに向き合う2個の塗り潰し三角形▲を備えたマークで示されている。画像によっては、特徴点が抽出し難い場合や対応点が探索し難い場合等があり、このような場合に、第1および第2画像に対し、各対応点をマニュアルで入力することにより、確実に前記第1および第2画像間の視差を求めることができ、したがって、第2光軸の第2方向を求めることができる。
【0072】
抽出部23(33)は、前記第1および第2画像のうちの他方において、前記入力部で受け付けた前記入力線分に対応する対応線分を抽出するものである。例えば、
図5には、第1画像PC13が示され、
図6には、第2画像PC23が示されている。表示部32は、これら第1および第2画像PC13、PC23のうちの少なくとも一方、例えば第1画像PC13を表示する。なお、第2画像PC23が別画面であるいは同一画面で表示部32に表示されてよい。このような第1画像PC13に対し、ユーザ(オペレータ)は、
図5に示すように、入力部31で、第1入力線分として、河川の手前岸に設定される第1A線分の両端点PT11、PT12を入力し、第2入力線分として、前記河川の奥岸に設定される第1B線分の両端点PT13、PT14を入力する。点PT12と点PT14とを結ぶ線分は、第3入力線分としての、前記河川の幅方向に沿って設定された第1C線分となる。そして、抽出部23(33)は、
図6に示すように、対応点探索により、これら4個の点PT11~PT14それぞれに対応する4個の対応点PT21~PT24を探索することによって、第1ないし第3入力線分それぞれに対応する第1ないし第3対応線分それぞれとして、第1A線分D
PT11PT12と組となる第2A線分D
PT21PT2、第1B線分D
PT13PT14と組となる第2B線分D
PT23PT24、および、第1C線分D
PT12PT14と組となる第2C線分D
PT22PT24それぞれを抽出する。
【0073】
カメラパラメータ演算装置では、所定の基準面は、任意に、適宜に設定されてよいが、河川水流測定装置1000では、所定の基準面は、河川の水面に設定される。このため、
図5に示すように、第1A線分D
PT11PT12、第1B線分D
PT13PT14および第1C線分D
PT12PT14は、河川の水面と略一致する平面上となるように設定され、対応点探索によって抽出される第2A線分D
PT21PT22、第2B線分D
PT23PT24および第2C線分D
PT22PT24は、河川の水面と略一致する平面上となり、第2カメラ11-2の第2高さは、河川の水面からの高さとなる。
【0074】
なお、上述では、対応線分処理部3は、第1態様として、入力部31、表示部32および抽出部33(23)を備えて構成されたが、対応線分処理部3は、前記第1および第2画像を表示する表示部と、前記第1および第2線分の入力を受け付ける入力部とを備えてもよい(第2態様の対応線分処理部3)。例えば、表示部32は、同一画面に
図5に示す第1画像PC13および
図6に示す第2画像PC23を表示し、ユーザは、第1画像PC13に対し、入力部31で、4個の第1ないし第4点PT11~PT14を入力し、第2画像PC23に対し、入力部31で、4個の第1ないし第4点PT21~PT24を入力する。これによって、3組の、第1Aおよび第2A線分D
PT11PT12、D
PT21PT2、第1Bおよび第2B線分D
PT13PT14、D
PT23PT24、ならびに、第1Cおよび第2C線分D
PT12PT14、D
PT22PT24の入力が受け付けられる。これによれば、第1および第2線分の入力を入力部31で受け付けるので、確実に前記第1および第2線分を設定できる。
【0075】
カメラパラメータ処理部24は、前記第1高さ、前記第1光軸の第1方向、前記第1撮像光学系の第1焦点距離、前記方向処理部で求めた第2光軸の第2方向、ならびに、前記対応線分処理部で設定した前記少なくとも2組の第1および第2線分に基づいて前記第2カメラのカメラパラメータを求めるものである。本実施形態では、前記少なくとも2組の第1および第2線分は、3組以上の第1および第2線分であり、カメラパラメータ処理部24で求める第2カメラのカメラパラメータは、第2カメラにおける、前記基準面からの第2高さおよび第2撮像光学系の第2焦点距離であり、カメラパラメータ処理部24は、線分の長さを、前記第2高さおよび前記第2焦点距離に基づいて求める前記式4の演算式を用いて、前記少なくとも2組の第1および第2線分の各長さに対する誤差が最小となるように前記第2カメラのカメラパラメータを求める。例えば、カメラパラメータ処理部24は、前記式4の演算式を最小2乗法で解くことによって前記第2カメラのカメラパラメータを求める。より具体的には、カメラパラメータ処理部24は、第1カメラ11-1における第1高さh1、第1方向κ1、φ1、ω1および第1焦点距離c1を、式4に用いることによって、第1A線分DPT11PT12、第1B線分DPT13PT14および第1C線分DPT12PT14の各長さを求め、これによって第2A線分DPT21PT22、第2B線分DPT23PT24および第2C線分DPT22PT24の各長さが求められる。角度κ1には、上述したように例えば0°が用いられ、角度κ2も同様である。続いて、カメラパラメータ処理部24は、方向処理部22で求めた第2方向κ2、φ2、ω2および前記求めた第2A線分DPT21PT22、第2B線分DPT23PT24および第2C線分DPT22PT24の各長さを、式4に用いてカメラパラメータの演算式を生成する。そして、カメラパラメータ処理部24は、このカメラパラメータの演算式を最小2乗法で解くことによって前記第2カメラのカメラパラメータにおける第2高さh2および第2焦点距離c2を求める。
【0076】
オルソ補正部25は、河川の表面を前記第2カメラで撮像した時系列に連続した複数の表面画像それぞれを、前記カメラパラメータ処理部で求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成するものである。なお、前記複数の表面画像のうちのいずれかが前記第2画像として用いられてもよい。
【0077】
流速処理部26は、前記オルソ補正部で生成した複数の補正表面画像に基づいて前記河川の表面における表面流速を求めるものである。時系列に連続した複数の表面画像に基づいて河川の表面流速を求める手法は、種々、知られており、例えば、特許第4025161号公報に開示されたPIV(Particle Image Velocimetry)や、特許第6910506号公報に開示されたSTIV(Space-Time Image Velocimetry)等がある。このSTIVでは、前記オルソ補正部で生成した複数の補正表面画像に基づいて、河川の表面の中で測定対象として設定される検査線に関するSTIが生成され、この生成したSTIに基づいて斜めパターンの角度が求められ、この求めた斜めパターンの角度、前記時系列に連続した複数の表面画像における撮像時間間隔および前記検査線の実長に基づいて前記検査線での表面流速が求められる。前記STIは、前記複数の補正表面画像それぞれから検査線の各画像を抽出し、これら抽出した各画像を一方端を揃えて時系列順に並置することによって生成される。河川の流れに従って流れる物体等による画像上の特徴点は、STIでは前記河川の流れによって斜めに連なり、前記斜めパターンを形成する。前記斜めパターンの角度(傾斜角)は、表面流速に依存するので、前記斜めパターンの角度に基づいて河川の表面流速が求め得る。
【0078】
流量処理部27は、前記流速処理部で求めた表面流速、前記河川の横断面の形状、および、前記河川の水位に基づいて、前記河川の流量を求めるものである。流量は、1個の検査線での表面流速から求められてよく、より精度よく求めるために、複数の検査線での複数の表面流速から求められてよい。例えば、流量処理部27は、まず、前記河川の水位までにおける前記河川の横断面を、複数の区画に区分けし、前記複数の検査線それぞれでの複数の表面流速に基づいて、前記複数の区画それぞれの平均流速を推定する。一般に、鉛直水深の流速分布は、対数分布や指数分布で表すことができるから、各水深の流速は、表面流速から推定できる。続いて、流量処理部27は、前記複数の区画それぞれについて、当該区画の面積に、当該区画の平均流速を乗算することによって、当該区画の流量を求める。そして、流量処理部27は、前記複数の区画の各流量を総和することによって、前記河川の流量を求める。前記区画のサイズを微小サイズとすれば、前記総和は積分となる。
【0079】
例えば、
図7に示すように、河川を斜めから撮像した河川画像PCRに対し、流れに沿った複数、この例では17個の各検査線DL1~DL17が幅方向に沿って並置するように入力部31で設定される。
図7に示す河川画像PCRをオルソ補正部25でオルソ補正すると、
図8に示す補正後の河川画像PCCが生成される。流速処理部26および流量処理部27それぞれ求めた、各検査線DL1~DL17での各表面流速および各流量が
図9の上段に示されている。その横軸は、各検査線DL1~DL17の各位置であり、その左縦軸は、表面流速であり、その右縦軸は、流量である。
図9の下段には、前記河川の横断面形状が示されている。その横軸は、各検査線DL1~DL17の各位置であり、その縦軸は、深さであり、前記河川の水面が深さ0(基準面)に設定されている。この例では、2番目の検査線DL2から12番目の検査線DL12までが河川の水面となっている。
【0080】
そして、制御処理部2は、カメラパラメータ処理部24で求めた第2カメラのカメラパラメータ、流速処理部26で求めた各検査線での各流速、および、流量処理部27で求めた前記河川の流量を表示部32に表示する。
【0081】
これら制御処理部2、入力部31、表示部32、IF部4および記憶部5は、例えば、デスクトップ型やノート型やタブレット型等のコンピュータによって構成可能である。また例えば、河川水流測定装置(カメラパラメータ演算装置)1000は、第1カメラ11-1および方向測定部12としての、カメラおよび3軸加速度センサを備えたスマートフォンと、第2カメラ11-2、制御処理部2、入力部31、表示部32、IF部4および記憶部5としての、カメラを備えたタブレットとによって構成可能である。
【0082】
次に、本実施形態の動作について説明する。
図10は、前記河川水流測定装置(カメラパラメータ演算装置)における動作を示すフローチャートである。
【0083】
ユーザは、測定対象の河川に対し、河川水流測定装置1000としての、例えば、第3軸加速度センサおよびカメラを備えたスマートフォン、ならびに、カメラを備えたタブレットを設置し、前記スマートフォンおよび前記タブレットそれぞれを起動する。起動後、河川水流測定装置1000における前記スマートフォンおよび前記タブレットそれぞれは、必要な各部の初期化を実行し、その稼働を始める。河川水流測定装置1000の前記タブレットでは、その制御処理プログラムの実行によって、制御処理部2には、制御部21、方向処理部22、抽出部23(33)、カメラパラメータ処理部24、オルソ補正部25、流速処理部26および流量処理部27が機能的に構成され、方向処理部22には、対応点探索部221、視差演算部222および方向演算部223が機能的に構成される。
【0084】
図10において、河川水流測定装置1000は、前記スマートフォンによって第1光軸の第1方向を測定し、第1画像を取得し、前記タブレットによって第2画像を取得し、記憶部5に記憶する(S1)。
【0085】
ユーザ(オペレータ)は、前記スマートフォンの第1高さを前記タブレットに入力する。河川水流測定装置1000は、前記タブレットによって、第1高さの入力を受け付け、記憶部5に記憶する(S2)。これによって前記タブレットは、第1高さを取得し、記憶する。前記第1高さは、ユーザによって実測される。例えば河川にかかる橋上に河川水流測定装置1000が設置され、前記スマートフォン(第1カメラ11-1)から前記河川の水面までの距離が第1高さとして実測される。本実施形態では、河川の水面からの第1高さは、実測し難い場合があるので、例えばレーザ測距計等により前記スマートフォン(第1カメラ11-1)から前記河川(水際)までの距離DRを実測し、次式7によって求められる。例えば、距離DRが前記タブレットに入力され、前記タブレットによる式7の演算処理で第1高さが求められる。
【0086】
【0087】
なお、前記河川の水面と略同じ高さの2点間の距離D12が実測され、前記式4によって第1高さが求められてもよい。
【0088】
続いて、河川水流測定装置1000は、前記タブレットの方向処理部22によって、第1および第2画像に対し、対応点探索によって複数の各対応点を探索し、これら複数の各対応点に基づいて第1および第2画像間の視差を求め、この求めた視差および第1光軸の第1方向に基づいて第2光軸の第2方向を求める(S3、方向処理工程)。
【0089】
続いて、河川水流測定装置1000は、前記タブレットの表示部32によって、第1および第2画像を表示する(S4、対応線分処理工程の表示工程)。ユーザは、各入力線分としての、第1A線分、第1B線分および第1C線分それぞれとして、河川の手前岸に設定される第1A線分の両端点、および、前記河川の奥岸に設定される第1B線分の両端点を前記タブレットに入力する。河川水流測定装置1000は、前記タブレットによって、前記第1A線分の両端点、および、前記第1B線分の両端点の入力を受け付け、記憶部5に記憶する(S5、対応線分処理工程の入力工程)。これによって前記タブレットは、各入力線分としての、第1A線分、第1B線分および第1C線分を取得し、記憶する。
【0090】
続いて、河川水流測定装置1000は、前記タブレットの抽出部23(33)によって、入力部31で受け付けた前記各入力線分としての第1A線分、第1B線分および第1C線分それぞれに対応する各対応線分としての第2A線分、第2B線分および第2C線分それぞれを抽出し、記憶部5に記憶する(S6、対応線分処理工程の抽出工程)。
【0091】
続いて、河川水流測定装置1000は、前記タブレットのカメラパラメータ処理部24によって、第1高さ、第1方向および第1焦点距離を、式4に用いることによって、第1A線分、第1B線分および第1C線分の各長さを求めることで第2A線分、第2B線分および第2C線分の各長さを求め、前記処理S3で方向処理部22によって求めた第2方向および前記求めた第2A線分、第2B線分および第2C線分の各長さを、式4に用いてカメラパラメータの演算式を生成し、前記生成したカメラパラメータの演算式を最小2乗法で解くことによって第2高さおよび第2焦点距離を求め、記憶部5に記憶する(S7、カメラパラメータ処理工程)。
【0092】
続いて、河川水流測定装置1000は、前記タブレットの第2カメラ11-2で前記河川の表面を撮像することによって時系列に連続した複数の表面画像を取得し、記憶部5に記憶する(S8、表面画像取得工程)。
【0093】
続いて、河川水流測定装置1000は、前記タブレットのオルソ補正部25によって、前記時系列に連続した複数の表面画像それぞれを、カメラパラメータ処理部24で求めた前記第2カメラのカメラパラメータに基づいてオルソ補正して複数の補正表面画像を生成し、記憶部5に記憶する(S9、オルソ補正工程)。
【0094】
続いて、河川水流測定装置1000は、前記タブレットの流速処理部26によって、オルソ補正部25で生成した複数の補正表面画像に基づいて前記河川の表面における各検査線での表面流速を求め、記憶部5に記憶する(S10、流速処理工程)。
【0095】
続いて、河川水流測定装置1000は、前記タブレットの流量処理部27によって、流速処理部26で求めた各検査線での表面流速、前記河川の横断面の形状および前記河川の水位に基づいて前記河川の流量を求め、記憶部5に記憶する(S11、流量処理工程)。
【0096】
そして、河川水流測定装置1000は、前記タブレットの表示部32に、カメラパラメータ処理部24で求めた第2カメラのカメラパラメータ、流速処理部26で求めた各検査線での各表面流速、および、流量処理部27で求めた前記河川の流量を表示部32に表示し、本処理を終了する(S12)。なお、河川水流測定装置1000は、必要に応じてIF部4を介して外部の機器にこれら各値を出力してもよい。
【0097】
画像上の点に対応する実際の点の位置は、カメラの撮像光学系における主点位置のずれや収差を考慮しない場合、前記画像上の点の位置から、光軸の方向、高さおよび焦点距離に基づいて求めることができる。河川水流測定装置1000に備えられたカメラパラメータ演算装置、ならびに、これに実装されたカメラパラメータ演算方法およびカメラパラメータ演算プログラムは、第1カメラ11-1における第1光軸の第1方向を、第1および第2画像間の視差に基づき修正することによって第2カメラ1-2における第2光軸の第2方向を求めることができる。上記カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムは、少なくとも2組における各第1線分それぞれの各端点の各位置から前記各第1線分の各実長を求めることによって、これらに対応する、前記少なくとも2組における各第2線分それぞれの各実長を求めることができ、各端点の各位置から実長を求める計算方法の逆演算によって、第2カメラ11-2における高さおよび焦点距離を求めることができる。したがって、上記カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムは、カメラパラメータを求める際に、例えば標定点やビルや棚等を用いる必要が無く、撮像対象の制約をより低減できる。カメラパラメータにおける第2光軸の第2方向も、第2高さおよび第2焦点距離と共に演算可能であるが、上記カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムは、第2光軸の第2方向を第1光軸の第1方向の修正によって求めてから、カメラパラメータにおける第2高さおよび第2焦点距離を求めるので、局所解的な外れ値となることが低減でき、前記第2高さおよび第2焦点距離を現実的な値で安定的に求めることができる。
【0098】
上記カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムは、対応点探索部221を備えるので、対応点探索で互いに対応する各対応点を自動的に求めることができる。
【0099】
上記カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムは、抽出部23(33)を備えるので、第1および第2線分のうちの一方として入力線分を入力すれば、抽出部23(33)で前記第1および第2線分のうちの他方として対応線分を抽出するから、第1および第2線分の入力の手間を省くことができる。
【0100】
カメラパラメータ処理部24で求める第2カメラのカメラパラメータは、前記第2カメラ11-2における第2高さおよび第2撮像光学系の第2焦点距離の2個であるので、2組の第1および第2線分で前記第2カメラのカメラパラメータを求めることが可能である。上記カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムは、2個の未知数に対する冗長性を有する3組以上の第1および第2線分基づいて前記第2カメラのカメラパラメータを求めるので、より適切に、前記第2カメラのカメラパラメータを求めることができる。
【0101】
実施形態によれば、カメラパラメータ演算プログラムを記録した記録媒体が提供できる。実施形態によれば、カメラパラメータ演算装置、カメラパラメータ演算方法およびカメラパラメータ演算プログラムそれぞれを備えた河川水流測定装置1000、河川水流測定方法および河川水流測定プログラムそれぞれが提供でき、河川水流測定プログラムを記録した記録媒体が提供できる。
【0102】
上記河川水流測定装置1000、河川水流測定方法および河川水流測定プログラムは、オルソ補正に必要となるカメラパラメータを、例えば標定点やビルや棚等を用いる必要が無く求め得るので、撮像対象の制約をより低減でき、測定しようとした場合に、より迅速に河川の表面流速を測定できる。特に、6個以上の標定点を配設できないような河川の場所からでも、河川の表面流速を測定できる。
【0103】
上記河川水流測定装置1000、河川水流測定方法および河川水流測定プログラムは、少なくとも2組の第1および第2線分を、手前岸、奥岸および川幅の3組に設定するので、川幅方向に沿って河川の手前から奥までバランスの良い精度で河川の表面流速を測定できる。
【0104】
上記河川水流測定装置1000、河川水流測定方法および河川水流測定プログラムは、流量処理を行うので、河川の流量を測定できる。
【0105】
上記河川水流測定装置1000は、第1および第2カメラ11-1、11-2ならびに方向測定部12を備えるので、当該河川水流測定装置1000のみよって測定現場で実測できる。
【0106】
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
【符号の説明】
【0107】
1000 カメラパラメータ演算装置を備えた河川流量測定装置、1 画像取得部、2 制御処理部、3 対応線分処理部、4 IF部、5 記憶部、11-1 第1カメラ、11-2 第2カメラ、12 方向測定部、21 制御部、22 方向処理部、23(33)、抽出部、24 カメラパラメータ処理部、25 オルソ補正部、26 流速処理部、27 流量処理部、31 入力部、32 表示部、51 河川情報記憶部
【要約】
【課題】撮像対象の制約をより低減できるカメラパラメータ演算装置、該方法、該プログラムおよびその記録媒体、ならびに、これを用いた河川水流測定装置、該方法、該プログラムおよびその記録媒体を提供する。
【解決手段】本発明のカメラパラメータ演算装置は、基準面からの第1高さ、第1光軸方向および第1焦点距離が分かる第1カメラで撮像した第1画像と、第2カメラで前記第1画像の被写体と少なくとも一部で重複するように撮像した第2画像との、被写体が重複する第1および第2画像領域に基づいて第1および第2カメラ間の視差を求め、第1光軸方向および視差に基づいて第2カメラの第2光軸方向を求め、第1および第2画像領域において、互いに対応する第1および第2線分を、少なくとも2組、設定し、第1高さ、第1光軸方向、第1焦点距離、第2光軸方向、少なくとも2組の第1および第2線分に基づいて第2カメラのカメラパラメータを求める。
【選択図】
図1