(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-05-26
(45)【発行日】2023-06-05
(54)【発明の名称】位置推定システム、位置推定装置、位置推定方法、及びプログラム
(51)【国際特許分類】
G06T 7/70 20170101AFI20230529BHJP
G01B 11/00 20060101ALI20230529BHJP
【FI】
G06T7/70 A
G01B11/00 H
(21)【出願番号】P 2019073587
(22)【出願日】2019-04-08
【審査請求日】2022-02-02
(73)【特許権者】
【識別番号】000002299
【氏名又は名称】清水建設株式会社
(74)【代理人】
【識別番号】100149548
【氏名又は名称】松沼 泰史
(74)【代理人】
【識別番号】100161506
【氏名又は名称】川渕 健一
(74)【代理人】
【識別番号】100161207
【氏名又は名称】西澤 和純
(72)【発明者】
【氏名】ファム フック
【審査官】新井 則和
(56)【参考文献】
【文献】特開2011-193187(JP,A)
【文献】特開2018-144526(JP,A)
【文献】Qi Mei-bin et al.,Moving Object Localization with Single Camera Based on Height Model in Video Surveillance,2007 1st International Conference on Bioinformatics and Biomedical Engineering,2007年07月08日,https://ieeexplore.ieee.org/document/4272613/
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00-7/90
G01B 11/00
(57)【特許請求の範囲】
【請求項1】
撮像装置と、
前記撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理
によって、前記撮像画像から対象物を抽出し、機械学習を用いた処理により、抽出された対象物の属性を認識し、認識された属性に応じて前記対象物の高さを算出する高さ算出部と、
前記撮像装置の投影中心の地上面からの高さと、前記高さ算出部により算出された
前記対象物の高さ
と、前記対象物の特定の位置とに基づいて、地上面に対応して設定された前記撮像装置の
地上投影面における前記対象物の位置を算出する位置算出部と
、
前記位置算出部により算出された前記地上投影面における前記対象物の位置を、現実空間における位置に変換する位置変換部と
を備える位置推定システム。
【請求項2】
前記撮像装置は単眼である
請求項
1に記載の位置推定システム。
【請求項3】
撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理
によって、前記撮像画像から対象物を抽出し、機械学習を用いた処理により、抽出された対象物の属性を認識し、認識された属性に応じて前記対象物の高さを算出する高さ算出部と、
前記撮像装置の投影中心の地上面からの高さと、前記高さ算出部により算出された
前記対象物の高さ
と、前記対象物の特定の位置とに基づいて、地上面に対応して設定された前記撮像装置の
地上投影面における前記対象物の位置を算出する位置算出部と
、
前記位置算出部により算出された前記地上投影面における前記対象物の位置を、現実空間における位置に変換する位置変換部と
を備える位置推定装置。
【請求項4】
撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理
によって、前記撮像画像から対象物を抽出し、機械学習を用いた処理により、抽出された対象物の属性を認識し、認識された属性に応じて前記対象物の高さを算出する高さ算出ステップと、
前記撮像装置の投影中心の地上面からの高さと、前記高さ算出ステップにより算出された
前記対象物の高さ
と、前記対象物の特定の位置とに基づいて、地上面に対応して設定された前記撮像装置の
地上投影面における前記対象物の位置を算出する位置算出ステップと
、
前記位置算出ステップにより算出された前記地上投影面における前記対象物の位置を、現実空間における位置に変換する位置変換ステップと
を備える位置推定方法。
【請求項5】
コンピュータを、
撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理
によって、前記撮像画像から対象物を抽出し、機械学習を用いた処理により、抽出された対象物の属性を認識し、認識された属性に応じて前記対象物の高さを算出する高さ算出部、
前記撮像装置の投影中心の地上面からの高さと、前記高さ算出部により算出された
前記対象物の高さ
と、前記対象物の特定の位置とに基づいて、地上面に対応して設定された前記撮像装置の
地上投影面における前記対象物の位置を算出する位置算出部
、
前記位置算出部により算出された前記地上投影面における前記対象物の位置を、現実空間における位置に変換する位置変換部
として機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、位置推定システム、位置推定装置、位置推定方法、及びプログラムに関する。
【背景技術】
【0002】
例えば移動前と移動後とで撮像装置が撮像して得られた画像に基づいて、三次元形状を推定する技術が知られている(例えば、特許文献1参照)。特許文献1の技術では、例えば道路面を基準面としたうえで、その上に存在する対象物の特徴点の位置を推定し、推定された特徴点の位置の集合により三次元形状を推定するようにされている。つまり、特許文献1の技術では、対象物の位置推定が行われる。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記の特許文献1による位置推定の技術では、他の物体によって一部が隠された状態の物体を対象物とした場合には、その対象物の距離を算出することができないために、位置推定が困難になる。
【0005】
本発明は、このような事情に鑑みてなされたもので、撮像により得られる画像に基づいて対象物の位置を推定するにあたり、他の物体により一部が隠された対象物についても位置を推定できるようにすることを目的とする。
【課題を解決するための手段】
【0006】
上述した課題を解決する本発明の一態様は、撮像装置と、前記撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理に基づいて対象物の高さを算出する高さ算出部と、前記高さ算出部により算出された高さに基づいて、地上面に対応して設定された前記撮像装置の投影面における前記対象物の位置を算出する位置算出部とを備える位置推定システムである。
【0007】
また、本発明の一態様は、撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理に基づいて対象物の高さを算出する高さ算出部と、前記高さ算出部により算出された高さに基づいて、地上面に対応して設定された前記撮像装置の投影面における前記対象物の位置を算出する位置算出部とを備える位置推定装置である。
【0008】
また、本発明の一態様は、撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理に基づいて対象物の高さを算出する高さ算出ステップと、前記高さ算出ステップにより算出された高さに基づいて、地上面に対応して設定された前記撮像装置の投影面における前記対象物の位置を算出する位置算出ステップとを備える位置推定方法である。
【0009】
また、本発明の一態様は、撮像装置により撮像して得られた撮像画像を対象に実行した画像認識処理に基づいて対象物の高さを算出する高さ算出部、前記高さ算出部により算出された高さに基づいて、地上面に対応して設定された前記撮像装置の投影面における前記対象物の位置を算出する位置算出部として機能させるためのプログラムである。
【発明の効果】
【0010】
以上説明したように、本発明によれば、撮像により得られる画像に基づいて対象物の位置を推定するにあたり、他の物体により一部が隠された対象物についても位置を推定できるようになるという効果が得られる。
【図面の簡単な説明】
【0011】
【
図1】本実施形態における位置推定システムの構成例を示す図である。
【
図2】本実施形態における対象物の位置推定の手法例を説明する図である。
【
図3】本実施形態における対象物の位置推定の手法例を説明する図である。
【
図4】本実施形態における対象物の位置推定の手法例を説明する図である。
【
図5】本実施形態における位置推定装置が実行する処理手順例を示すフローチャートである。
【発明を実施するための形態】
【0012】
図1は、本実施形態の位置推定システム1の構成例を示している。本実施形態の位置推定システムは、例えば固定的に設置される監視カメラを備える監視システム等に適用されてもよいし、車両やロボット等の移動体が備えるものであってもよい。
同図の位置推定システム1は、撮像装置100、位置推定装置200、及び情報出力装置300を備える。
【0013】
撮像装置100は、撮像を行う。本実施形態の撮像装置100は、例えばステレオカメラなどのようなものではなく、例えば単眼によるものであってよい。
【0014】
位置推定装置200は、撮像装置100により撮像して得られた画像(撮像画像)に基づいて、撮像画像にて被写体として含まれる対象物についての現実空間での位置を推定する装置である。
位置推定装置200は、機能部として、入出力インターフェース部201、情報処理部202、及び記憶部203を備える。
【0015】
入出力インターフェース部201は、位置推定装置200と外部との情報の入出力を行う部位である。撮像装置100が出力する撮像画像は、入出力インターフェース部201が入力し、情報処理部202に渡すようにされる。
また、情報処理部202が出力した画像、音声等の情報は、入出力インターフェース部201から情報出力装置300に出力される。
【0016】
情報処理部202は、対象物の位置推定に関する情報処理を実行する。情報処理部202としての機能は、位置推定装置200において備えられるCPU(Central Processing Unit)が、プログラムを実行することにより実現される。同図の情報処理部202は、投影面設定部221、高さ算出部222、位置算出部223、及び位置変換部224を備える。
投影面設定部221は、撮像装置100に対応する投影面を設定する。具体的に、投影面設定部221は、投影面として、地上面に対応する投影面(地上投影面)を設定する。
高さ算出部222は、撮像装置100により撮像して得られた撮像画像を対象に実行した画像認識処理に基づいて対象物の高さを算出する。
位置算出部223は、高さ算出部222により算出された高さに基づいて、地上投影面における対象物の位置を算出する。
位置変換部224は、位置算出部223により算出された位置を現実空間における位置に変換する。
【0017】
記憶部203は、位置推定装置200に対応する各種の情報を記憶する。
【0018】
情報出力装置300は、位置推定装置200から出力された情報を出力する。情報出力装置300は、表示装置であってもよいし、音声出力装置であってもよいし、印刷装置であってもよい。
【0019】
図2~
図4を参照して、本実施形態の位置推定システム1よる位置推定の手法例について説明する。
図2は、撮像装置100により撮像して得られた撮像画像の一例を示している。同図の撮像画像においては、画像認識処理による被写体の抽出結果が示される。なお、ここでは、説明を簡単にすることの便宜上、撮像装置100の位置、撮像方向等の条件は、固定であって、既知である場合を例に挙げる。
同図の撮像画像P1においては、被写体OB1~OB6の6つの被写体が含まれている。被写体OB1~OB6について特に区別しない場合には、被写体OBと記載する。
位置推定装置200の高さ算出部222は、撮像画像P1について画像認識処理を行ったうえで、例えばニューラルネットワーク等のAI(Artificial Intelligence:人工知能)フレームワーク(あるいは機械学習フレームワーク等でもよい)を利用した処理により、被写体OBごとの属性を認識する。
単純な例の1つとして、高さ算出部222は、被写体OB1、OB2、OB3については成人の人であると認識し、被写体OB3については子供の人であると認識し、被写体OB5は、乗用車に該当する車両であると認識し、被写体OB6については、トラックとしての車両であると認識する。
そのうえで、高さ算出部222は、人としての被写体OBについては、例えばさらに、顔、衣服、髪型、身に付けているアクセサリや持ち物などに応じた特徴量に基づいて女性と男性とのいずれであるのかを認識してもよい。また、人としての被写体OBについては、顔等の特徴量に基づいて、例えばアジア系、ヨーロッパ系、アフリカ系といったように、どの民族系に該当するのかを認識するようにされてもよい。
また、高さ算出部222は、車両としての被写体OBについては、例えばさらに乗用車であればミニバン、セダンといった区分での認識、トラックであれば小型、中型、大型といった区分での認識が行われてよい。さらに車両としての被写体OBについては、車種、型番等の認識が行われるようにされてもよい。
そして、高さ算出部222は、認識された属性に対応する高さを算出する。高さ算出部222は、例えば属性ごとに高さが対応付けられた高さテーブルのデータを参照し、認識された属性に対応付けられた高さを取得し、取得された高さを高さの算出結果としてよい。あるいは、高さ算出部222は、機械学習により、属性の認識に伴って、認識された属性の高さも導出するようにされてもよい。
このようにして、高さ算出部222は、同図の撮像画像において抽出される被写体OBごとの高さを算出することができる。
【0020】
なお、高さ算出の対象となる対象物は、人や車両に限定されない。対象物は、例えば物、ロボット、動物、ランドマーク等であってもよい。本実施形態において高さが算出される対象物については、位置推定が可能とされる。つまり、本実施形態において位置空いての対象となる撮像画像内の対象物は、人や車両に限定されない。
【0021】
図3は、撮像装置100の投影面と、撮像画像P1に含まれていた被写体OBとの関係を示している。
同図においては、撮像装置100の投影中心Vが固定で定められている。また、同図において、投影中心Vから垂直に投影した地上面の点(位置)が垂直投影点V
hとなる。ここで、撮像装置100の位置については固定であるので、距離VV
hは不変(一定)である。
【0022】
また、同図においては、投影面abcdが示されている。投影面abcdは、撮像装置100に対応して定められた投影中心Vとする透視投影モデルにより得られた二次元画像の投影面となる。このような投影面は、単眼カメラにより撮像して得られる二次元画像と等しい。
また、同図においては、地上面に対応する投影面ABCDも示されている。以降の説明において、地上面に対応する投影面ABCDについては、地上投影面ABCDとも記載して、地上面に対応しない投影面abcdと区別する。
同図に示される投影面abcdにおける或る1つの座標mi(ximage,yimage,1)は、地上投影面ABCDにおいては、座標Mhi(xh,yh,-H)が対応する。Hは撮像装置100の設置された高さである。
ここで、座標miと座標Mhiの関係は、以下の式1により表すことができる。
【0023】
【0024】
式1において、Aは、変換マトリクスであり、撮像装置100の内部パラメータ(画像中心、焦点距離、画素有効サイズ)と外部パラメータ(撮像装置100の姿勢(高さ、撮像方向等)により求められる。
【0025】
図4は、位置算出部223による対象物の位置についての算出手法を模式的に示している。
ここで、撮像装置100の投影中心Vの高さHは既知であり、i番目としての対象物OB
iの高さはH
iであることが高さ算出部222により算出されている。
また、位置算出部223は、対象物OB
iの高さに対応する指示位置pt
i(対象物の特定の位置の座標の一例、同図では人の頭部として定義されている例が示される)の撮像画像内の二次元座標を特定する。位置算出部223は、特定された撮像内の二次元座標に対応する投影面abcd内の座標m
iを特定する。位置算出部223は、投影面abcd内の座標m
iが特定されることに応じて、式1により、地上投影面ABCDにおける座標M
hiを一意に求めることができる。
そして、位置算出部223は、垂直投影点V
hから座標M
hiまでの間において、対象物OB
iの指示位置pt
iが、投影中心Vと座標M
hiとを結ぶ線分上に存在する状態のときの位置を、対象物OB
iの地上投影面ABCD上での位置Miとして特定する。
即ち、対象物OB
iの位置M
iについて、以下の式2により表すことができる。
【0026】
【0027】
従って、位置算出部223は、対象物OBiの位置Miを、例えば撮像装置100の高さHと、対象物OBiについて算出された高さHiと、投影面abcd上での対象物OBiの指示位置ptiの座標miとを用いて以下の式3により算出することができる。
【0028】
【0029】
また、上記説明は、撮像装置100の位置が固定である場合を例に挙げたが、撮像装置100が移動体等に設けられたことで移動するものである場合、位置算出部223は、以下のようにして対象物OBiの位置Miを算出してよい。つまり、位置算出部223は、投影中心Vについて、時間tに応じて平行移動により変化する座標(Xo(t),Yo(t),0)として定義したうえで、以下の式4により対象物OBiの位置Miを算出してよい。
【0030】
【0031】
そして、位置変換部224は、上記のようにして位置算出部223により算出された対象物OBiの位置Miの座標を、例えば地図上の座標に変換することで、現実空間における位置(座標)に変換する。
【0032】
このようにして、本実施形態においては、位置推定装置200によって、撮像装置100により撮像して得られた撮像画像内の被写体を対象物として、対象物の位置を推定することができる。例えば位置推定装置200は、推定された位置が地図上で示されるようにして、例えば表示、印刷等により情報出力装置300により出力させることができる。
【0033】
上記のようにして対象物の位置推定を行う本実施形態の位置推定システム1では、例えば撮像画像において手前の被写体によって一部(特に地上面に対応する被写体部分)が隠されている被写体を対象物とした場合にも位置推定を行うことができる。そのうえで、本実施形態においては、撮像画像において一部が隠されていない対象物と一部が隠されている対象物とで、同じアルゴリズムを適用して位置を推定できる。つまり、本実施形態の位置推定システム1では、一部が隠されている対象物について、一部が隠されていない対象物と同じ精度で位置を推定できる。
また、本実施形態の位置推定システム1による位置推定手法であれば、例えばステレオカメラなどのような視差の相違に対応させた複数の撮像画像を得る必要がない。つまり、本実施形態の位置推定システム1は、対象物を撮像する撮像装置100として、前述のように単眼によるものを採用することができる。これにより、例えばコストの削減、位置推定システム1を構成するハードウェアの小型化を図ることも可能になる。
【0034】
なお、位置推定システム1のハードウェア構成としては、
図1に示した撮像装置100、位置推定装置200、及び情報出力装置300としての3つの装置による構成に限定されない。例えば、撮像装置100、位置推定装置200、及び情報出力装置300のうちの所定の2以上が1つのハードウェアとして統合された構成であってもよい。さらに、撮像装置100、位置推定装置200、及び情報出力装置300のうちの任意の装置について、さらに複数のハードウェアに分割された構成であってもよい。
【0035】
図5のフローチャートは、位置推定装置200が実行する処理手順例を示している。
ステップS101:位置推定装置200において、投影面設定部221は、投影中心Vの座標を設定する。投影中心Vの座標は、x軸座標、y軸座標、及び高さHに対応するz軸座標を含む三次元座標であってよい。投影中心Vの座標の設定は、撮像装置100の位置と撮像方向とを決定することに相当する。
この場合において、撮像装置100の位置、撮像方向が固定である場合には、既知である撮像装置100の位置と撮像方向に基づいて予め1つの投影中心Vの座標を求めたうえで、求められた投影中心Vの座標を記憶部203に記憶させておいてよい。投影面設定部221は、当該ステップS101として、記憶部203に記憶された投影中心Vの座標を取得すればよい。
あるいは、撮像装置100が移動体に設けられて時間経過に応じて移動するものである場合、投影面設定部221は、当該ステップS101として以下の処理を実行してよい。つまり、投影面設定部221は、例えば移動体が測位する自己の位置(方向も含まれてよい)に基づいて撮像装置100の位置、撮像方向を導出する。投影面設定部221は、導出された撮像装置100の位置、撮像方向に応じた投影中心Vの座標を算出してよい。
【0036】
ステップS102:情報処理部202は、撮像装置100により撮像して得られた撮像画像を、入出力インターフェース部201経由で取得する。
【0037】
ステップS103:投影面設定部221は、ステップS101により設定された投影中心Vを原点とする地上投影面ABCDを設定する。地上投影面ABCDが設定されることで、撮像画像における1の二次元座標が対応する地上投影面ABCD上での1の座標を一意に特定できる。
【0038】
ステップS104:高さ算出部222は、位置推定の対象となる対象物OB
iの高さH
iを算出する。高さ算出部222は、当該ステップS104の処理として、前述のように、撮像画像に対する画像認識、機械学習によって、撮像画像から対象物OB
iとしての被写体を抽出し、抽出された対象物OB
iの属性を認識し、認識された属性に応じて高さH
iを算出するようにされてよい。
ステップS105:位置算出部223は、対象物OB
iの地上投影面ABCD上での位置M
iを算出する。位置算出部223は、
図4での説明のように、投影中心Vの高さHと、対象物OB
iの高さH
iと、対象物OB
iの指示位置pt
iとを利用して、位置M
iを算出してよい。
ステップS106:位置変換部224は、ステップS105により算出された対象物OB
iの地上投影面ABCD上での位置M
iを、現実空間における位置(座標)に変換する。ステップS105により算出された位置M
iは、例えば
図3、
図4に例示したように、投影中心Vを原点として設定された仮想の地上投影面ABCD上にて特定された位置であり、現実空間におけるどの位置に対応するものであるのかは確定されていない。そこで、位置変換部224は、位置M
iを現実空間における位置に変換する処理を行う。つまり、位置変換部224は、位置Miが現実空間におけるいずれの位置に相当するのかを特定する。
このために、一例として、記憶部203は、現実空間に座標を設定した地図情報を記憶する。位置変換部224は、例えば現実空間において測位された撮像装置100の位置に基づいて、投影中心Vを地図情報における1つの座標に対応付ける。位置変換部224は、例えば地図情報において、投影中心Vを基準として位置M
iが対応する座標を特定する。このようにして、位置M
iが現実空間における位置に変換される。
【0039】
なお、上述の位置推定装置200としての機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより上述の位置推定装置200としての処理を行ってもよい。ここで、「記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行する」とは、コンピュータシステムにプログラムをインストールすることを含む。ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、通信回線を含むネットワークを介して接続された複数のコンピュータ装置を含んでもよい。記録媒体には、当該プログラムを配信するために配信サーバからアクセス可能な内部または外部に設けられた記録媒体も含まれる。
【符号の説明】
【0040】
1 位置推定システム、100 撮像装置、200 位置推定装置、201 入出力インターフェース部、202 情報処理部、203 記憶部、221 投影面設定部、222 高さ算出部、223 位置算出部、224 位置変換部、300 情報出力装置