(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-06
(45)【発行日】2023-11-14
(54)【発明の名称】画像処理装置
(51)【国際特許分類】
G06T 7/254 20170101AFI20231107BHJP
G08G 1/16 20060101ALI20231107BHJP
【FI】
G06T7/254 A
G08G1/16 C
(21)【出願番号】P 2020085359
(22)【出願日】2020-05-14
【審査請求日】2023-02-03
(73)【特許権者】
【識別番号】509186579
【氏名又は名称】日立Astemo株式会社
(74)【代理人】
【識別番号】110002572
【氏名又は名称】弁理士法人平木国際特許事務所
(72)【発明者】
【氏名】ゴメズカバレロ フェリペ
(72)【発明者】
【氏名】竹村 雅幸
(72)【発明者】
【氏名】志磨 健
【審査官】堀井 啓明
(56)【参考文献】
【文献】特開2017-163374(JP,A)
【文献】特開2016-12264(JP,A)
【文献】特開2008-130015(JP,A)
【文献】特開2018-74411(JP,A)
【文献】米国特許出願公開第2013/0016877(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00-7/90
G06V 10/00-20/90
G06V 30/418
G06V 40/16
G06V 40/20
G08G 1/16
(57)【特許請求の範囲】
【請求項1】
画像に映る周囲の物体を検出する画像処理装置であって、
時刻が異なる複数の俯瞰画像の差分データを計算する画像差分算出部と、
前記差分データをクラスタリングする差分データクラスタリング部と、
前記差分データクラスタリング部の結果を用いて前記俯瞰画像の特徴に基づいてクラスター同士を結合するクラスター結合部と、
前記クラスター結合部の結合結果を対象物体の特徴に基づいて判定するクラスター結合判定部と、を有する、画像処理装置。
【請求項2】
請求項1に記載の画像処理装置において、
前記俯瞰画像の特徴は、前記クラスター間に存在していた前記複数の俯瞰画像間の輝度差が所定値よりも小さい画素の量、前記クラスター間の間隔、または、前記画像を取得するセンサ位置に対する各クラスターの角度の類似性の少なくとも一つを含む、画像処理装置。
【請求項3】
請求項1に記載の画像処理装置において、
前記クラスター結合判定部は、前記俯瞰画像内で結合されたクラスターグループのサイズおよび位置に対応するバウンディングボックス内のデータを、前記対象物体を識別するための識別器で処理することによって、前記クラスター結合部の結合結果を判定する、画像処理装置。
【請求項4】
請求項1に記載の画像処理装置において、
前記クラスター結合判定部は、前記クラスター結合部が行う結合操作が有効である場合、前記クラスター結合部により結合されたクラスター同士の結合を維持し、前記クラスター結合部が行う結合操作がキャンセルされる場合、前記クラスター結合部により結合されたクラスター同士を元の状態に分離する、画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、例えば、自車両の近傍の環境における画像ベースの障害物検出および認識のための車載用画像処理装置に関する。
【背景技術】
【0002】
近年、近傍の移動物体および静的物体(障害物)を検出するために、画像を用いた物体検出装置が使用されている。
【0003】
上記の画像ベースの物体検出装置は、侵入または異常を検出する監視システム、あるいは自動車の安全な運転を支援する車載システムの用途で使用することができる。
【0004】
車載用途では、このような装置は、周囲の環境を運転者に表示し、および/または車両周囲の移動物体または静的物体(障害物)を検出し、自車両と障害物との衝突の潜在的なリスクを運転者に通知し、決定システムに基づいて、車両を自動的に停止して、自車両と障害物との衝突を回避するように構成されている。
【0005】
このような物体検出装置として、例えば、車両周囲を撮像した画像を俯瞰変換し、時間的に異なる二つの俯瞰変換画像(以下、俯瞰画像とも称する)の差分を用いて障害物を検出する装置が知られている(特許文献1、2参照)。
【先行技術文献】
【特許文献】
【0006】
【文献】特許第6003986号公報
【文献】特開2016-134764号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかし、上記特許文献1、2に記載された装置は、障害物を検出するに当たって、時間的に異なる二つの俯瞰変換画像の差分を使用している。
【0008】
よって、自車両と対象障害物が衝突経路にあり、自車両と対象障害物(歩行者など)が衝突点に近づく速度が同じであり、したがってそれらが衝突点に到達するまで対象障害物と自車両との相対角度が同じままであるシナリオで当該システムが使用される場合、自車両に搭載されたセンサによって取得された画像上で対象障害物の動きが最小になる効果を生み出し、これにより、センサによって取り込まれた画像間の差異量を減少させるので、誤検出または誤った物体検出結果を生み出し、システムの信頼性を低下させる可能性がある。
【0009】
本発明は、上記事情に鑑みてなされたもので、本発明の目的は、対象移動障害物の自車両に対する相対角度が一定のままであっても、対象移動障害物の差分データを適切にクラスタリング(グループ化)でき、衝突経路のシナリオのように、対象障害物の差分データが減少しても、障害物の検出および認識の信頼性を向上させることのできる、障害物検出および認識のための画像処理装置を提供することである。
【課題を解決するための手段】
【0010】
上記目的を達成すべく、本発明に係る画像処理装置は、画像に映る周囲の物体を検出する画像処理装置であって、時刻が異なる複数の俯瞰画像の差分データを計算する画像差分算出部と、前記差分データをクラスタリングする差分データクラスタリング部と、前記差分データクラスタリング部の結果を用いて前記俯瞰画像の特徴に基づいてクラスター同士を結合するクラスター結合部と、前記クラスター結合部の結合結果を対象物体の特徴に基づいて判定するクラスター結合判定部と、を有する。
【発明の効果】
【0011】
本発明に係る画像処理装置は、この構成を採用することにより、クラスター結合部を使用して差分データクラスターを結合し、次にクラスター結合判定部を使用して適切な結合が実行されていると判定することにより、対象障害物の差分データが減少しても、対象移動障害物の差分データを適切にクラスタリング(グループ化)することによって障害物検出を行うことができるため、障害物検出および認識の信頼性ないし精度を高めることができ、したがって、衝突経路のシナリオでも、誤った障害物検出を回避することができる。
【0012】
本発明によれば、対象移動障害物の差分データをクラスタリング(グループ化)し、差分データクラスターを結合し、適切なクラスター結合が実行されていると判定することにより、対象障害物の差分データが減少するときでも、障害物検出および認識の信頼性ないし精度を向上させることができる。
【0013】
上記以外の課題、構成および効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【0014】
【
図1】本発明の一実施形態に係る画像処理装置の概略構成図である。
【
図2】例示的なシナリオにおいて、センサにより取得され、画像変換部により変換された画像空間、そして画像差分算出部により算出された差分を説明する図である。
【
図3】自車両および対象歩行者が衝突点に向かって移動している状況の2つの異なる期間を示し、(a)は以前の期間、(b)は現在の期間を示す図である。
【
図4】自車両および対象歩行者が衝突点に向かって移動している状況の差分画像(差分データ)算出を説明する図である。
【
図5】自車両および対象歩行者が衝突点に向かって移動している状況の差分データグループ化を説明する図である。
【発明を実施するための形態】
【0015】
以下、本発明の画像処理装置の好ましい実施形態について図面を参照して説明する。
【0016】
図1~
図5を参照して、本実施形態の画像処理装置110の構成および動作について説明する。図示は省略するが、画像処理装置110は、CPU、RAM、ROMなどがバスを介して接続された構成であり、CPUがROMに格納された各種制御プログラムを実行することで、システム全体の動作を制御する。
【0017】
以下に説明する構成では、2台のカメラセンサ(以下、単にカメラもしくはセンサと称することがある)が単一の車載ステレオカメラとして一対とされ、センシング部111に対応している。ただし、これは、単一の単眼カメラがセンシング部111として使用される他の構成で使用される装置を制限するものではない。
【0018】
図1は、本発明の一実施形態に係る画像処理装置の構成を示すブロック図である。本実施形態の画像処理装置110は、例えば車両(自車両)に搭載され、カメラセンサ(センシング部111)で撮像した周囲の画像を俯瞰変換し、時間的に(時刻が)異なる複数の俯瞰変換画像(俯瞰画像)の差分を用いて障害物(画像に映る周囲の物体)を検出および認識する装置である。
【0019】
図1において、画像処理装置110は、同じ高さに位置する2つのカメラセンサを含むセンシング部111、画像取得部121、画像変換部131、画像差分算出部141、差分データクラスタリング部151、クラスター結合部161、クラスター結合判定部171、障害物検出部181、制御アプリケーション処理部191を備える。
【0020】
(画像取得部)
画像取得部121は、さらなる処理のために画像特性を調整するために、センシング部111に対応する2つのカメラセンサの一方または両方により取得された画像を処理する。この処理には、これに限定されるものではないが、入力画像を縮小または拡大して結果としての画像サイズを変更できる画像解像度調整、およびさらなる処理のために元の入力画像から入力画像の特定の領域を切り取る(トリミングする)画像関心領域選択が含まれ得る。画像解像度調整および画像関心領域選択に使用されるパラメータは、現在の運転環境および条件(速度、旋回速度など)に基づいて制御できる。
【0021】
(画像変換部)
画像変換部131は、予め計算または調整された特定の幾何学式または変換テーブルに基づいて、画像取得部121により取得および処理された画像の幾何学的画像変換を行う機能を有する。この画像変換には、これに限定されるものではないが、回転、拡大縮小、剪断、および平らな地面が基準と見なされる俯瞰画像変換などのアフィン変換が含まれ得る。
【0022】
例えば、
図2に示すように、取得された画像CT21およびCT22は、画像変換部131により変換され、結果として、俯瞰変換画像CT31および俯瞰変換画像CT32になる。
【0023】
(画像差分算出部)
画像差分算出部141は、画像変換部131により変換された時刻が異なる少なくとも2つの画像間の差異を示す差分画像を計算する機能を有する。これに限定されるものではないが、単純な画素間差分計算およびフィルタベースの画像差分計算を含む既知の方法を、差分計算に適用できる。
【0024】
例えば、
図2に示すように、歩行者P0から生じ得る差分データP0Dおよび所定の物体OB0から生じ得る差分データOB0Dを示す差分画像CT41は、以前の期間に対応する俯瞰変換画像CT31および現在の期間に対応する俯瞰変換画像CT32に基づいて、並びに、画像差分計算処理を実行する前に、画像を調整/位置合わせするために自車両の運動データを使用することによって、画像差分算出部141により計算される。
【0025】
(差分データクラスタリング部)
差分データクラスタリング部151は、画像差分算出部141により計算された差分画像の画素をクラスタリング(グループ化)する機能を有する。点(画素)間の距離を考慮した既知のクラスタリング手法が、このタスクに採用できる(例えば、K-meansアルゴリズム)。したがって、結果は、互いに近く、道路の上の対象障害物を表し得る差分画素(差分データ)のクラスターになる(
図2とともに
図4、
図5を参照)。
【0026】
(クラスター結合部)
クラスター結合部161は、クラスターグループおよび差分画像の特性に基づいて、差分データクラスタリング部151により作成された差分データのクラスター同士を結合する(組み合わせる)機能を有する。例えば、(差分画像上で)自車両に対して同じ放射状位置にある個々のクラスターは、同じ対象障害物に属する傾向があるため、所定の条件セット(例えば、所定のサイズまたは画素数)を満たす場合、単一のグループに結合され得る。クラスター同士を結合する他の方法も含めることができる。
【0027】
(クラスター結合判定部)
クラスター結合判定部171は、クラスター結合部161が行う複数のクラスター結合の信頼性を判定する機能を有する。この判定は、原則として、対象障害物の観測可能な特徴(例えば、対象が歩行者の場合、実行可能なサイズ/形状)に関する所定の条件セットに基づいて行われる。この判定は、結果として、クラスター結合部161が行う結合操作の有効化またはキャンセルとなる。結合操作が有効であると、クラスター結合部161により結合されたクラスター(の結合)はそのまま維持される。結合操作がキャンセルされると、クラスター結合部161により結合されたクラスターは分離され、クラスター結合部161が行う操作の前の元の状態に戻る。
【0028】
例示的な判定としては、システムが検出に焦点を合わせている対象障害物クラスに対応する識別器(歩行者識別器など)に対する所定の結合クラスターのテストがあり、結果としての識別スコアに応じて、結合クラスターは有効化またはキャンセルされ得る。画素輝度解析とマージされたクラスター間の比較、または、エッジ(輝度が急激に変化する画像内の画素)解析とマージされたクラスター間の比較など、他の方法を使用することができる。また、複数のクラスター結合を判断する他の方法も含めることができる。
【0029】
(障害物検出部)
障害物検出部181は、画像取得部121が取得した画像、画像差分算出部141が計算した差分画像、差分データクラスタリング部151の結果、および、クラスター結合判定部171の結果により有効化されたクラスター結合部161の結果を用いて、画像に映る立体物を検出し、その位置を算出する機能を有する。
【0030】
本明細書において、「障害物検出」とは、少なくとも次のタスクが実行される処理を指すことに留意されたい。つまり、対象物体検出(画像空間内の位置)、対象物体識別(自動車/車両、二輪車両、自転車、歩行者、ポールなど)、3次元空間での自車両からの対象物体の距離測定、対象物体の速度/速さの計算である。
【0031】
(制御アプリケーション処理部)
制御アプリケーション処理部191は、障害物検出部181により認識された障害物に応じて、当該画像処理装置110が搭載された車両が実行する制御アプリケーションを決定する機能を有する。
【0032】
ここで、画像処理装置110を車両Vの周囲を監視するシステムとして適用する場合について、
図3(a)、(b)を参照して説明する。
図3(a)、(b)は、
図3(b)が
図3(a)の後に起こり、既知の期間で区切られた異なる時間フレームでのシナリオを示している。上から見たシーンはそれぞれCT11およびCT12で示され、センシング部111に対応するセンサにより取得された画像に見られるシーンはそれぞれCT21およびCT22で示され、画像変換部131により変換された、取得されたシーンの画像はそれぞれCT31およびCT32で示されている。
【0033】
以下で説明するケースでは、車両Vと歩行者P1は、衝突点CP1(交差点など)に向かって同じ速度で移動しており、これにより、車両Vと歩行者P1が衝突点CP1に近づくにつれてX
1(P1~CP1)、Z
1(V~CP1)、およびX
2(P1~CP1)、Z
2(V~CP1)で示される距離が減少する場合でも、
図3(a)において角度(θ
1)および
図3(b)において角度(θ
2)で示されるように、車両Vと歩行者P1との間の一定の相対角度となる。車両Vに対する歩行者P1の位置の変化は、CT11およびCT12の座標で明確に見えるが、歩行者P1と車両Vの間の一定の相対角度の影響は、CT21およびCT22で示されるセンサ(センシング部111)により取得される画像、および、CT31およびCT32で示されるそれらの対応する変換の両方に示される最小の動きに反映され、以降、画像差分算出部141により計算される差分画像に影響を与える。
【0034】
(画像差分算出部の処理例)
画像差分算出部141による結果の一例を
図4に示す。
図4では、古い期間からのデータ(CT31)が新しい期間からのデータ(CT32)に最初に位置合わせされ、既知の方法、例えばフィルタベースの画像差分に基づいて画像差分計算を実行する。例えば、隣接画素差分フィルタスコアに基づく簡単なアプローチが実装され、2つの俯瞰画像間の差分を計算する。(例えば、斜めに分離された)フィルタ内の基準画素の近隣の画素のペアが比較され、それらの輝度差を計算し、次に同じ基準画素上の2つの異なる画像に対するフィルタの結果を比較し、最終的な値の差分カウントを計算する。この単純なアプローチでは、値の差分カウントが多いほど、2つの画像間の差分が大きくなるため、そのような差を画像内の動きに関連付けることができる。そのため、値の差分カウントに対して閾値を設定することは、信頼できる差分と見なされ、ノイズ除去を実行することができる。そして、ノイズ除去後の結果としての差分画像は、さらなる処理のために準備される。
【0035】
なお、画素比較に使用される配置はフィルタと呼ばれる。フィルタを定義する解析される画素の形状、数、および比較方向(例えば、斜め、水平、垂直など)は、アプリケーションに基づいて調整できる。
【0036】
ノイズ除去前の差分画像の例示的な結果はCT41で示されており、上記で説明したようなシナリオにおいて、歩行者P1の特定の部分のみが2つの異なる期間で取得されたデータ間で移動しているように見えることが分かる(このケースでは、上半身と下半身、および真ん中の非常に低い差分カウントの、例えば低い差分カウントのいくつかの画素の部分)。なお、CT41において、画素に対応する四角の大きさは、画像間の差分の大きさ(強弱)を表している。
【0037】
(差分データクラスタリング部、クラスター結合部、クラスター結合判定部の処理例)
次に、差分データクラスタリング部151、クラスター結合部161、およびクラスター結合判定部171が実行するタスクについて、
図5に基づいて説明する。差分データクラスタリング部151が実行するタスクの結果(ここでは、ノイズ除去後)はCT411に示されており、各差分画素間のクラスター中心候補に対する(画像空間の)距離を考慮したクラスタリング方法に基づいて、差分データ画素がグループ化され、説明されたシナリオにおいては、クラスター(gr1)(例えば歩行者P1の上半身に対応)とクラスター(gr2)(例えば歩行者P1の下半身に対応)で示される2つの異なるクラスターになる。
【0038】
クラスター結合部161が実行するタスクの結果はCT412に示されており、クラスター(gr1)およびクラスター(gr2)は、クラスターグループおよび差分画像の特性に基づいて一つの結合されたクラスター(以下、クラスターグループとも称する)(gr11)に結合される。この特性には、これに限定されるものではないが、ノイズ除去前に結合されたクラスター間(s12)に存在していた低差分カウント画素(つまり、複数の俯瞰画像間の輝度差が所定値よりも小さい画素)の量(
図4のCT41を併せて参照)、候補クラスター間の空間(間隔)、車両位置(詳しくは、カメラ位置)(CT412の座標の底部中心で表される)に対する各クラスターの角度の類似性の少なくとも一つが含まれ得る。クラスター(gr11)は、画像変換部131(平らな地面が基準と考えられる俯瞰画像変換)が変換する画像が示す空間において、車両Vから所定の距離で地面に立っている同じ対象障害物の一部と考えることができる。
【0039】
そして、クラスター結合判定部171は、クラスターグループ(gr11)を判定処理のための入力とする。例えば、センサにより取り込まれる画像内のクラスターグループ(gr11)のサイズおよび位置に対応するバウンディングボックス(
図3(b)のCT22内のものなど)が計算され、そのようなバウンディングボックスの内側のデータは、対象障害物(大人の歩行者、子どもの歩行者、自転車など)を識別するために事前にトレーニングされた1つまたは複数の識別器で処理され、1つまたは複数の識別器の結果は、クラスターグループ(gr11)が有効なクラスターの組み合わせであるか、またはクラスターグループ(gr11)がキャンセルされ、元のクラスター(gr1)とクラスター(gr2)に分離されるものかを判断するために使用される。クラスター結合の結果を判断するための別の例示的なメトリックは、例えば、画像変換部131が変換する画像上の結合されたグループ間の輝度差およびそれらの間の空間(間隔)の評価である。結合結果を評価する他の方法は、このような方法の組み合わせだけでなく、上記の方法と同様に使用される。クラスター結合判定部171が実行するタスクの結果はCT413(有効である場合)、CT414(キャンセルされる場合)に示されており、CT413では、クラスターグループ(gr11)がそのまま維持され、CT414では、クラスターグループ(gr11)は元のクラスター(gr1)とクラスター(gr2)に分離される。
【0040】
クラスター結合判定部171の結果を用いることにより、衝突点CP1(交差点など)付近において、画像に映る立体物検出および位置算出を行うことができ、車両が実行する制御アプリケーションを決定することができる。
【0041】
以上で説明したように、
図1に示される本実施形態に係る障害物検出および認識のための画像処理装置110は、
当該装置が取り付けられているデバイスの前のシーンの画像を取り込むことができるセンシング部111と、
センシング部111によって取得された画像を処理し、その特性(これらに限定されないが、画像サイズ、画像解像度、および画像関心領域を含む)を調整する画像取得部121と、
画像取得部121によって取得されて処理された画像に対して所望の幾何学的画像変換を実行する画像変換部131と、
画像取得部121によって取得されて処理され、画像変換部131によって変換された少なくとも2つの画像間の差分を示す差分画像を算出する画像差分算出部141と、
画像差分算出部141によって算出された差分画像に対して、所定のクラスタリング手法を用いて画素レベルでデータクラスタリング(グループ化)を行い、自車両近傍環境の障害物を表す可能性のあるクラスター(グループ)のリストを作成する差分データクラスタリング部151と、
2つ以上のクラスターをそれらの特性に応じて単一のクラスターグループに結合できるように、差分データクラスタリング部151によって計算されたデータに対して、データ結合を実行するクラスター結合部161と、
所定の条件セットに基づいて、クラスター結合部161によって計算されたクラスター結合結果を判定し、結合結果が有効か否かを判定するクラスター結合判定部171と、
画像取得部121によって取得された画像と、差分データクラスタリング部151およびクラスター結合部161およびクラスター結合判定部171の結果とを用いて、物体検出および物体認識を行う障害物検出部181と、
障害物検出部181からの出力を少なくとも含み得る現在の状態に基づいて、当該画像処理装置110が備えられるデバイスによって実行される制御アプリケーションを決定する制御アプリケーション処理部191と、を備える。
【0042】
すなわち、本実施形態に係る画像処理装置110は、時刻が異なる複数の俯瞰画像の差分データを計算する画像差分算出部141と、前記差分データをクラスタリングする差分データクラスタリング部151と、前記差分データクラスタリング部151の結果を用いて前記俯瞰画像の特徴に基づいてクラスター同士を結合するクラスター結合部161と、前記クラスター結合部161の結合結果を対象物体の特徴に基づいて判定するクラスター結合判定部171と、を有する。
【0043】
上記の処理を採用することにより、画像平面の観測される動きの欠如によって生じる空きスペースが候補グループ間にある場合でも、歩行者P1に対応するすべての差分データをグループ化できる。したがって、車両Vおよび歩行者P1が衝突点CP1に向かって同じ速度で移動している場合でも、歩行者P1を正しく検出および認識でき、システムの安定性および信頼性が向上する。
【0044】
以上、本実施形態に係る障害物検出および認識のための画像処理装置110の構成および動作について説明した。本実施形態に係る画像処理装置110は、交差点付近などにおいて、対象移動障害物の自車両に対する相対角度が一定のままであっても、対象移動障害物の差分データを適切にクラスタリング(グループ化)することにより、障害物認識の信頼性を高めることができ、同時に、誤った物体検出率を低減でき、物体検出の精度を高めて走行安全性を高めることができる。
【0045】
現時点で考えられる本発明の好適な実施形態について説明したが、本実施形態に対して様々な変更を加えることができ、本発明の真の趣旨および範囲内の全ての変更は、添付の特許請求の範囲内にあるものと意図される。
【0046】
また、本発明は上記した実施形態に限定されるものではなく、様々な変形形態が含まれる。例えば、上記した実施形態は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。
【0047】
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記憶装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
【0048】
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0049】
110 画像処理装置
111 センシング部
121 画像取得部
131 画像変換部
141 画像差分算出部
151 差分データクラスタリング部
161 クラスター結合部
171 クラスター結合判定部
181 障害物検出部
191 制御アプリケーション処理部