IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ キヤノン株式会社の特許一覧

特許7547304画像処理装置、画像処理方法およびプログラム
<>
  • 特許-画像処理装置、画像処理方法およびプログラム 図1
  • 特許-画像処理装置、画像処理方法およびプログラム 図2
  • 特許-画像処理装置、画像処理方法およびプログラム 図3
  • 特許-画像処理装置、画像処理方法およびプログラム 図4
  • 特許-画像処理装置、画像処理方法およびプログラム 図5
  • 特許-画像処理装置、画像処理方法およびプログラム 図6
  • 特許-画像処理装置、画像処理方法およびプログラム 図7
  • 特許-画像処理装置、画像処理方法およびプログラム 図8
  • 特許-画像処理装置、画像処理方法およびプログラム 図9
  • 特許-画像処理装置、画像処理方法およびプログラム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-30
(45)【発行日】2024-09-09
(54)【発明の名称】画像処理装置、画像処理方法およびプログラム
(51)【国際特許分類】
   H04N 7/18 20060101AFI20240902BHJP
   B60R 1/25 20220101ALI20240902BHJP
   B60R 1/26 20220101ALI20240902BHJP
【FI】
H04N7/18 J
B60R1/25
B60R1/26
【請求項の数】 21
(21)【出願番号】P 2021177623
(22)【出願日】2021-10-29
(65)【公開番号】P2023066813
(43)【公開日】2023-05-16
【審査請求日】2023-05-22
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100114775
【弁理士】
【氏名又は名称】高岡 亮一
(74)【代理人】
【識別番号】100121511
【弁理士】
【氏名又は名称】小田 直
(74)【代理人】
【識別番号】100208580
【弁理士】
【氏名又は名称】三好 玲奈
(72)【発明者】
【氏名】秋元 義之
【審査官】塚本 丈二
(56)【参考文献】
【文献】特開2008-123215(JP,A)
【文献】特開2020-170341(JP,A)
【文献】特開2018-129668(JP,A)
【文献】米国特許出願公開第2003/0076414(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 7/18
B60R 1/25
B60R 1/26
(57)【特許請求の範囲】
【請求項1】
低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有すると共に移動装置の後方を撮影する撮像手段と、
前記撮像手段で生成された撮像データから画像データを生成する画像処理手段と、
前記移動装置の後側方の移動装置を検出する検出手段と、
前記検出手段によって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御手段と
を有し、
前記検出手段は、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御手段は、前記検出手段が検出した前記後側方の前記他移動装置の大きさに応じて前記所定の切り出し領域の大きさを変更することを特徴とする画像処理装置。
【請求項2】
前記検出手段によって前記後側方の前記他移動装置が検出されない場合に、前記画像データのうち前記低歪曲領域に対応する第1の領域の前記画像データを表示させることを特徴とする請求項1に記載の画像処理装置。
【請求項3】
前記光学系の焦点距離をf、半画角をθ、像面での像高をy、像高yと半画角θとの関係を表す射影特性をy(θ)とする場合に、
前記低歪曲領域におけるy(θ)はf×θより大きく、前記高歪曲領域における前記射影特性とは異なることを特徴とする請求項1または2に記載の画像処理装置。
【請求項4】
前記低歪曲領域は、中心射影方式(y=f×tanθ)または等距離射影方式(y=f×θ)に近似した射影特性となるように構成されていることを特徴とする請求項3に記載の画像処理装置。
【請求項5】
θmaxを前記光学系が有する最大の半画角とする場合に、
1<f×sin(θmax)/y(θmax)≦1.9
を満足するように構成されていることを特徴とする請求項3または4に記載の画像処理装置。
【請求項6】
前記検出手段は、前記後側方の前記移動装置の大きさを、学習済モデルを用いて検出可能であることを特徴とする請求項1~5のいずれか1項に記載の画像処理装置。
【請求項7】
前記検出手段は、前記高歪曲領域を含む前記画像データに基づき画像認識をすることによって前記後側方の前記移動装置を検出することを特徴とする請求項1~6のいずれか1項に記載の画像処理装置。
【請求項8】
前記検出手段は、赤外線センサまたはレーダーを含むことを特徴とする請求項1~6のいずれか1項に記載の画像処理装置。
【請求項9】
前記表示制御手段により前記所定の切り出し領域の前記画像データの表示をさせるか否かを設定するための設定手段を有することを特徴とする請求項1~8のいずれか1項に記載の画像処理装置。
【請求項10】
前記移動装置の進行方向の変更を検出する方向検出手段を有し、
前記表示制御手段は、前記方向検出手段によって前記移動装置の進行方向の変更が検出された場合に、変更された前記進行方向の側の前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させることを特徴とする請求項1~9のいずれか1項に記載の画像処理装置。
【請求項11】
低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有すると共に移動装置の後方を撮影する撮像手段と、
前記撮像手段で生成された撮像データから画像データを生成する画像処理手段と、
前記移動装置の進行方向の変更を検出する方向検出手段と、
前記自移動装置の後側方の他移動装置を検出する検出手段と、
前記方向検出手段によって前記移動装置の進行方向の変更が検出された場合に、変更された前記進行方向の側の前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させると共に、前記検出手段によって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記他移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御手段と
を有し、
前記検出手段は、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御手段は、前記検出手段が検出した前記後側方の前記他移動装置の大きさに応じて、前記後側方の前記他移動装置が含まれる前記高歪曲領域を含む前記所定の切り出し領域の大きさを変更することを特徴とする画像処理装置。
【請求項12】
前記方向検出手段によって前記移動装置の進行方向の変更が検出されない場合に、前記画像データのうち前記低歪曲領域に対応する第1の領域の前記画像データを表示させることを特徴とする請求項11に記載の画像処理装置。
【請求項13】
前記光学系の焦点距離をf、半画角をθ、像面での像高をy、像高yと半画角θとの関係を表す射影特性をy(θ)とする場合に、
前記低歪曲領域におけるy(θ)はf×θより大きく、前記高歪曲領域における前記射影特性とは異なることを特徴とする請求項11または12に記載の画像処理装置。
【請求項14】
前記低歪曲領域は、中心射影方式(y=f×tanθ)または等距離射影方式(y=f×θ)に近似した射影特性となるように構成されていることを特徴とする請求項13に記載の画像処理装置。
【請求項15】
θmaxを前記光学系が有する最大の半画角とする場合に、
1<f×sin(θmax)/y(θmax)≦1.9
を満足するように構成されていることを特徴とする請求項13または14に記載の画像処理装置。
【請求項16】
前記方向検出手段は、前記移動装置に設けられた方向指示器の操作方向を検出することを特徴とする請求項11~15のいずれか1項に記載の画像処理装置。
【請求項17】
前記表示制御手段により前記所定の切り出し領域の前記画像データの表示をさせるか否かを設定するための設定手段を有することを特徴とする請求項11~16のいずれか1項に記載の画像処理装置。
【請求項18】
低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を用いて移動装置の後方を撮影する撮像ステップと、
前記撮像ステップにより得られた撮像データから画像データを生成する画像処理ステップと
前記移動装置の後側方の移動装置を検出する検出ステップと、
前記検出ステップによって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御ステップと
を有し、
前記検出ステップは、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御ステップは、前記検出ステップで検出した前記後側方の前記他移動装置の大きさに応じて前記所定の切り出し領域の大きさを変更することを特徴とする画像処理方法。
【請求項19】
低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を用いて移動装置の後方を撮影する撮像ステップと、
前記撮像ステップにより得られた撮像データから画像データを生成する画像処理ステップと
前記移動装置の進行方向の変更を検出する方向検出ステップと、
前記自移動装置の後側方の他移動装置を検出する検出ステップと、
前記方向検出ステップによって前記移動装置の進行方向の変更が検出された場合に、変更された前記進行方向の側の前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させると共に、前記検出ステップによって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記他移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御ステップと
を有し、
前記検出ステップは、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御ステップは、前記検出ステップが検出した前記後側方の前記他移動装置の大きさに応じて、前記後側方の前記他移動装置が含まれる前記高歪曲領域を含む前記所定の切り出し領域の大きさを変更することを特徴とする画像処理方法。
【請求項20】
画像処理装置のコンピュータに、
低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を用いて移動装置の後方を撮影する撮像ステップと
前記撮像ステップにより得られた撮像データから画像データを生成する画像処理ステップと
前記移動装置の後側方の移動装置を検出する検出ステップと、
前記検出ステップによって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御ステップと
を実行させると共に、
前記検出ステップは、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御ステップは、前記検出ステップで検出した前記後側方の前記他移動装置の大きさに応じて前記所定の切り出し領域の大きさを変更するものであることを特徴とする
プログラム。
【請求項21】
画像処理装置のコンピュータに、
低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を用いて移動装置の後方を撮影する撮像ステップと
前記撮像ステップにより得られた撮像データから画像データを生成する画像処理ステップと
前記移動装置の進行方向の変更を検出する方向検出ステップと、
前記自移動装置の後側方の他移動装置を検出する検出ステップと、
前記方向検出ステップによって前記移動装置の進行方向の変更が検出された場合に、変更された前記進行方向の側の前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させると共に、前記検出ステップによって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記他移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御ステップとを実行させると共に、
前記検出ステップは、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御ステップは、前記検出ステップが検出した前記後側方の前記他移動装置の大きさに応じて、前記後側方の前記他移動装置が含まれる前記高歪曲領域を含む前記所定の切り出し領域の大きさを変更するものであることを特徴とする
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、移動装置の後側方を表示可能な画像処理装置、画像処理方法およびプログラムに関するものである。
【背景技術】
【0002】
特許文献1には、複数の画角を取得する撮像装置により、バック走行時は広角の画像を撮像し、通常走行中は広角よりも狭い画角で自車後方を高解像度かつ高フレームの画像を撮像する方法が記載されている。
【先行技術文献】
【特許文献】
【0003】
【文献】WO18/207393号
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1では、バック走行時は広角の画像を取得しているものの、通常走行中は自車後方のみを撮像対象としているため、取得した広角の画像の大部分を活用できていないという課題があった。また、ドアミラーでは自車の後側方といった視認しにくいという課題があった。
【0005】
そこで、本発明は、ドアミラーでは視認しにくい死角の画像を表示できるようにすることを目的とする。
【課題を解決するための手段】
【0006】
上記の課題を解決するために、本発明に係る画像処理装置は、低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を有すると共に移動装置の後方を撮影する撮像手段と、前記撮像手段で生成された撮像データから画像データを生成する画像処理手段と、前記移動装置の後側方の移動装置を検出する検出手段と、前記検出手段によって前記後側方の前記他移動装置が検出された場合に、前記後側方の前記移動装置が含まれる前記高歪曲領域を含む所定の切り出し領域の前記画像データを表示させる表示制御手段とを有し、前記検出手段は、前記後側方の前記他移動装置の大きさを検出可能であって、前記表示制御手段は、前記検出手段が検出した前記後側方の前記他移動装置の大きさに応じて前記所定の切り出し領域の大きさを変更する。
【発明の効果】
【0007】
本発明によれば、ドアミラーでは視認しにくい死角の画像を表示できるようになる。
【図面の簡単な説明】
【0008】
図1】実施形態1における画像処理装置200の構成例を説明するためのブロック図である。
図2図2(A)は、光学系10による撮像素子の受光面上での各半画角における像高yを等高線状に示した図、図2(B)は、光学系10の像高yと半画角θとの関係を表す射影特性を表した図である。
図3図3(A)は第1の領域R1、第2の領域R2を図示したイメージ図、図3(B)は第3の領域R3と第2の領域R2を図示したイメージ図である。
図4】実施形態1の、取得した画像より自車後側方の車両310を検出した際に、画像の切り出し位置を変更する制御を示すフローチャートである。
図5】実施形態2における画像処理装置の構成例を説明するためのブロック図である。
図6】実施形態3における画像処理装置の構成例を説明するためのブロック図である。
図7】実施形態4における画像処理装置の構成例を説明するためのブロック図である。
図8】実施形態4の、方向指示器の操作を検出した際に、画像の切り出し位置を変更する制御を示すフローチャートである。
図9】実施形態5における画像処理装置の構成例を説明するためのブロック図である。
図10】実施形態5の、画像切り出し設定保存部120の設定に応じて、画像の切り出し位置を変更するか否かを制御するフローチャートである。
【発明を実施するための形態】
【0009】
以下、図面を参照して本発明の実施形態を説明する。ただし、本発明は以下の実施形態に限定されるものではない。なお、各図において、同一の部材または要素については同一の参照番号を付し、重複する説明は省略または簡略化する。
【0010】
[実施形態1]
以下、実施形態1について、図面を参照しながら詳細に説明する。自車の後側方といったドアミラーで確認しにくい死角部分の車両を確認するためには、後側方を撮像する撮像装置や後側方の車両310を検出する検出部を用いる必要があった。実施形態1では、自車後方を撮像する撮像装置を用いだけで、自車の後側方といったドアミラーで確認しにくい死角部分の車両を表示する方法について説明する。
【0011】
図1は、実施形態1における画像処理装置200の構成例を説明するためのブロック図である。なお、図1に示す1つ以上の構成要素は、ASICまたはプログラマブルロジックアレイ(PLA)などのハードウェアによって実現されてもよい。後述の図5図6図7図9についても同様である。画像処理装置200に含まれるコンピュータ(CPU(Central Processing Unit)、マイクロコンピュータなど)は、記憶媒体に記憶されたコンピュータプログラムに基づき、装置200の各構成要素の動作を制御する制御部として機能している。
【0012】
実施形態1において、画像処理装置200は、不図示の自車両(移動装置)の後方に設置され、後方画像を撮像する撮像装置にて撮像した画像を、例えば車内の表示装置に表示する画像処理手段である。画像処理装置200は、光学系10、撮像部20、画像処理部30、画像切り出し処理部40、画像切り出し位置変更部50、リアモニター60、電子ルームミラー70、後側方車両認識部80を有している。なお、光学系10および撮像部20は、移動装置としての自車両の後方を撮影するために、自車両の後方に向けて設置されている。
【0013】
光学系10は、例えば複数枚のレンズを組み合わせて、光軸周辺の狭い画角11aにおいて高精細な画像を得ることができ、広い画角11bは狭い画角11aを含み、低解像度の撮像画像を得ることができるように構成されている。例えば、光学系10は、低歪曲領域と高歪曲領域を有する光学像を撮像部20の受光面に形成することができる。
【0014】
広い画角11bは、バック走行時などにおいて自車後方を広角に撮像するのに適している。また、ドアミラーで確認しにくい死角部分である自車の後側方の車両を撮像可能である。狭い画角11aは、通常走行時に自車の後方の車両300を、高解像度で観測するために用いることができる。
【0015】
撮像部20は、撮像素子(CCDイメージセンサ、CMOSイメージセンサ等)であり、光学系10により結像された光学的な被写体像を撮像データに変換し、画像処理部30に伝送する。例えば、撮像部20は、低歪曲領域と高歪曲領域を有する光学像を受光面に形成する光学系を用いて移動装置の後方を撮影する撮像ステップを実行する撮像手段として機能している。
【0016】
図2(A)および図2(B)を参照して、光学系10の光学特性を説明する。図2(A)は、撮像部20に含まれる撮像素子の受光面上での各半画角における像高yを等高線状に示した図である。図2(B)は、光学系10の像高yと半画角θとの関係を表す射影特性を表した図である。図2(B)では、半画角(光軸と入射光線とがなす角度)θを横軸とし、撮像部20に含まれる撮像素子の受光面上(像面上)での結像高さ(像高)yを縦軸として示している。
【0017】
光学系10は、図2(B)に示すように、所定の半画角θa未満の領域と半画角θa以上の領域でその射影特性y(θ)が異なるように構成されている。従って、単位あたりの半画角θに対する像高yの増加量を解像度というとき解像度が領域によって異なる。この局所的な解像度は、射影特性y(θ)の半画角θでの微分値dy(θ)/dθで表されるともいえる。例えば、図2(B)の射影特性y(θ)の傾きが大きいほど解像度が高いといえる。また、図2(A)の等高線状の各半画角における像高yの間隔が大きいほど解像度が高いともいえる。
【0018】
実施形態1においては、半画角θが所定の半画角θa未満のときに撮像素子の受光面上に生成される中心寄りの領域を高解像度領域10a、半画角θが所定の半画角θa以上の外寄りの領域を低解像度領域10bと呼ぶ。なお、高解像度領域10aの画角は前述の狭い画角11aに対応しており、高解像度領域10aの画角と低解像度領域10bの画角を合わせた画角は、広い撮像画角11bに対応している。また、実施形態1において、高解像度領域10aは歪曲が相対的に少ない低歪曲領域であり、低解像度領域10bは歪曲が相対的に多い高歪曲領域となっている。従って、実施形態1においては、高解像度領域、低解像度領域をそれぞれ低歪曲領域、高歪曲領域と呼ぶことがある。
【0019】
光学系10は、高解像度領域(低歪曲領域)10aにおいてその射影特性y(θ)がf×θよりも大きくなるように構成されている(fは光学系10の焦点距離)。また、高解像度領域(低歪曲領域)における射影特性y(θ)は低解像度領域(高歪曲領域)における射影特性とは異なるように設定されている。
【0020】
θmaxを光学系10が有する最大の半画角とする場合は、θaとθmaxの比θa/θmaxは所定の下限値以上であることが望ましく、例えば所定の下限値として0.15~0.16が望ましい。また、θaとθmaxの比θa/θmaxは所定の上限値以下であることが望ましく、例えば0.25~0.35とすることが望ましい。例えば、θaを90°とし、所定の下限値を0.15、所定の上限値0.35とする場合、θaは13.5~31.5°の範囲で決定することが望ましい。
【0021】
さらに、光学系10は、その射影特性y(θ)が、以下の数式1も満足するように構成されている。
【0022】
【数1】
【0023】
ここで、fは前述のように光学系10の焦点距離であり、Aは所定の定数である。下限値を1とすることで、同じ最大結像高さを有する正射影方式(y=f×sinθ)の魚眼レンズよりも中心解像度を高くすることができ、上限値をAとすることで、魚眼レンズ同等の画角を得つつ良好な光学性能を維持することができる。所定の定数Aは、高解像度領域と、低解像度領域の解像度のバランスを考慮して決めればよく、1.4~1.9となるようにするのが望ましい。
【0024】
以上のように光学系10を構成することで、高解像度領域10aにおいては、高解像度が得られる一方、低解像度領域10bでは、単位あたりの半画角θに対する像高yの増加量を小さくし、より広い画角を撮像することが可能になる。従って、魚眼レンズと同等の広画角を撮像範囲としつつ、高解像度領域10aにおいては、高い解像度を得ることができる。
【0025】
実施形態1では、高解像度領域(低歪曲領域)においては、通常の撮像用の光学系の射影特性である中心射影方式(y=f×tanθ)や等距離射影方式(y=f×θ)に近似した射影特性としている。従って、光学歪曲が小さく、精細に表示することが可能となる。従って、後方車両などを目視する際における自然な遠近感が得られると共に、画質の劣化を抑えて良好な視認性を得ることができる。
【0026】
なお、上述の数式1の条件を満たす射影特性y(θ)であれば、同様の効果を得ることができるため、実施形態1は図2に示した射影特性に限定されない。なお、実施形態1では、上述の数式1の条件を満たす射影特性y(θ)を有する光学系10を異画角レンズと呼ぶ場合がある。
【0027】
図1に戻り、画像処理部30は、撮像部20で生成された撮像データを現像し、WDR(Wide Dynamic Range)補正、ガンマ補正、LUT(Look Up Table)処理、歪曲補正等の処理を行い画像データを生成する。例えば、画像処理部30は、撮像ステップにより得られた撮像データから画像データを生成する画像処理ステップを実行する。この処理により、リアモニター60および電子ルームミラー70に表示した際に視認しやすい画像を得ることができる。
【0028】
なお、光学系10は、高解像度領域においては歪が少ないので、歪曲補正をせずに画像認識をすることが可能であるが、低解像度領域は歪曲補正をすることにより後側方車両認識部80の認識率を向上させることができる。画像処理部30が処理した画像はリアモニター60、画像切り出し処理部40および後側方車両認識部80に供給される。
【0029】
画像切り出し処理部40は、画像処理部30にて処理された画像の一部の切り出しを行う。画像の切り出しは、画像処理部30にて処理された画像のデータをRAM等のメモリに格納し、切り出したい画像のデータのみを読みだすことによって行われる。
【0030】
実施形態1では、切り出しを行う位置は、光学系10にて結像された、バック走行時に自車後方を広角に撮像するための画角に対応する第2の領域R2を有する。また、通常走行時に自車後方の車両300を観測するための高解像度の画角に対応する第1の領域R1を有する。実施形態1では、第1の領域R1は、高解像度領域10a内から切り出される領域としている。従って、第1の領域R1の画像は、歪曲補正をせずに表示することができるので、高速走行時などにおいて少ない遅延で表示や画像認識をすることができ、緊急時の危険回避等において有利である。
【0031】
図3(A)は、第1の領域R1と第2の領域R2を図示したイメージ図である。
電子ルームミラー70に表示する領域を第1の領域R1、リアモニター60に表示する領域を第2の領域R2とする。
【0032】
画像切り出し位置変更部50は、後側方車両認識部80が図3(B)のように進行方向に対して右後側方の車両310を検出した場合、画像の切り出し位置を図3(A)の第1の領域R1から後側方の車両310を表示可能な第3の領域R3に変更する。そして、第3の領域R3の画像データを電子ルームミラー70に表示する。画像の切り出し位置の変更は、RAM等のメモリに格納された画像処理部30にて画像処理された画像のデータのうち読み出すデータを変更することで行う。ここで、画像切り出し位置変更部50は、リアモニター60および電子ルームミラー70の表示を制御するための表示制御部(表示制御手段)として機能している。
【0033】
このように、実施形態1では、画像切り出し位置変更部50は、後側方の移動装置が検出された場合に、後側方の移動装置が含まれる高歪曲領域を含む所定の切り出し領域(第3の領域R3)の画像データを表示させる。図3(B)は第3の領域R3と第2の領域R2を図示したイメージ図である。図3(B)では第3の領域R3を自車の右後側方としているが、右後側方に限定するものではない。例えば、画像切り出し位置変更部50は、後側方車両認識部80が左後側方の車両を検出した場合には自車の左後側方の領域を第3の領域R3とする。例えば、第3の領域R3は、後側方の移動装置が含まれる高歪曲領域を含む領域である。
【0034】
画像切り出し位置変更部50は、第1の領域R1の画像と、第3の領域R3の画像をPbyPやPinPといった手法で、同時に電子ルームミラー70に表示させてもよい。画像切り出し位置変更部50は、第1の領域R1の画像から第3の領域R3の画像へ切り替える際に、音や切り替わる際のアニメーション等にて、第3の領域R3の画像へ切り替えた旨をユーザーに通知してもよい。
【0035】
リアモニター60は、液晶ディスプレイ等の表示部で、自車両の例えばセンターコンソールに配置されており、通常走行時はナビゲーション画面等を表示するために用いられる。また、リアモニター60は、ユーザーによる選択操作によって、画像処理部30によって歪曲補正等の処理がされた第2の領域R2の画像を表示することもできる。
【0036】
電子ルームミラー70は、液晶ディスプレイ等の表示部で、自車両の例えばウインドシールドの上側に配置される。また、画像切り出し処理部40によって切り出された第1の領域R1の画像または第3の領域R3の画像、或いはその両方を同時に表示する。
【0037】
後側方車両認識部80は、後側方車両の画像を含む学習データを学習して得た後側方車両認識用の学習済モデルを用いて、画像処理部30が処理した画像の第2の領域R2に、自車の後側方の車両310が存在することを画像認識により検出する。なお、その際、第1の領域R1については検出を行わない。ここで、後側方車両認識部80は、高歪曲領域を含む画像データに基づき画像認識をすることによって移動装置の後側方の移動装置を検出する検出部(検出手段)として機能している。
【0038】
そして、自車の後側方の車両310を検出した場合には、そのことを画像切り出し位置変更部50へ通知する。自車の右後側方および左後側方の両方に車両310を検出した場合は、例えば後に検出した方の自車の後側方に車両があることを画像切り出し位置変更部50へ通知する。また、後側方車両認識部80が頻繁に自車の後側方の車両310の存否を画像切り出し位置変更部50へ通知し、その都度切り出し位置変更を行うと、頻繁に画像の切り出し位置の変更が行われ、煩わしい場合がある。よって、自車の後側方に車両310があることを検出し、画像切り出し位置変更部50へ通知した後は、一定時間経過するまで画像切り出し位置変更部50における切り出し位置変更は行わないようにしてもよい。
【0039】
次に、後側方車両認識部80が取得した画像より自車後側方の車両310を検出した際に、画像の切り出し位置を変更する制御について順に説明する。
【0040】
画像処理部30は、撮像部20が取得した画像に対し画像処理を施し、後側方車両認識部80へ伝送する。
【0041】
後側方車両認識部80は、入力された画像の第2の領域R2のうち第1の領域R1以外の領域に車両があるかどうかを監視する。後側方車両認識部80が、第2の領域R2のうち第1の領域R1以外の領域に車両があると検出した場合は、検出したことを画像切り出し位置変更部50へ通知する。画像切り出し位置変更部50は、画像切り出し処理部40が切り出した画像の切り出し位置を、第1の領域R1から後側方の車両310を表示可能な位置(右後側方の車両の場合には第3の領域R3)に変更する。
【0042】
図4に、取得した画像より自車後側方の車両310を検出した際に、画像切り出し位置変更部50が画像の切り出し位置を変更する制御のフローチャートを示す。なお、図4に示す各ステップの動作は、画像処理装置200に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
【0043】
ステップS1において、後側方車両認識部80は、自車の後側方の所定の距離以内に車両310があるかどうかを判定する。ここで、ステップS1は、後側方の移動装置を検出する検出ステップとして機能している。
ステップS1にて、後側方車両認識部80が、自車の後側方の所定の距離以内に車両310があると判定した場合、ステップS2に進む。
【0044】
そして、ステップS2において、画像切り出し位置変更部50は、第1の領域R1から後側方の移動装置としての車両310を表示可能な位置(右後側方の車両の場合には第3の領域R3)に変更し、電子ルームミラー70に画像を表示する。なお、第3の領域R3は、後側方の移動装置が含まれる高歪曲領域を含む領域である。
【0045】
ステップS1にて、後側方車両認識部80が、自車の後側方の所定の距離以内に車両310がないと判定した場合、ステップS3に進む。そして、ステップS3において、画像切り出し位置変更部50は、切り出し位置を第1の領域R1として電子ルームミラー70に第1の領域R1の画像を表示させる。ここで、ステップS1~S3は表示制御ステップとして機能している。
【0046】
なお、ステップS2で、画像切り出し位置変更部50が、画像の切り出し位置を後側方の車両310を表示可能な位置(右後側方の車両の場合には第3の領域R3)に変更した後、自車の後側方から車両310が移動したとする。その場合には、ステップS1で、後側方車両認識部80が、自車の後側方の所定の距離以内に車両310が存在しないと判定する。そして後側方の車両310を表示可能な位置への変更を継続する必要がないので、画像切り出し位置変更部50は画像の切り出し位置を、ステップS3で第1の領域R1へ戻す。なお、第1の領域R1から第3の領域に変更する際の変更速度に比べて、第3の領域から第1の領域R1に戻す変更速度は遅くてもよい。
【0047】
実施形態1では、取得した画像より自車後側方の所定の距離以内の車両310を検出した際に、画像の切り出し位置を変更する制御について説明した。これにより、自車後方を撮像する撮像装置以外の、撮像装置または検出部を用いることなく、自車の後側方といったドアミラーで確認しにくい死角部分の車両を確認することが可能となる。
【0048】
[実施形態2]
実施形態1では、自車の後側方の車両310を、車両後方に設置された撮像装置が撮像した画像を画像認識することで検出した。実施形態2では、撮像装置ではなく別のセンサーで、自車の後側方の車両310を検出する方法について説明する。
【0049】
図5は、実施形態2における画像処理装置201の構成例を説明するためのブロック図である。実施形態2の画像処理装置201は、光学系10、撮像部20、画像処理部31、画像切り出し処理部40、画像切り出し位置変更部51、リアモニター60、電子ルームミラー70、後側方車両検出部90を有している。
【0050】
後側方車両検出部90は、自車の車両の後方に配置された赤外線センサまたはレーダー等の検出部で、自車の右後側方または左後側方の所定の距離以内にある車両310を検出する。後側方車両検出部90は、自車の車両の右後側方または左後側方の所定の距離以内に車両があること検出したことを、画像切り出し位置変更部51へ通知する。
【0051】
画像切り出し位置変更部51は、後側方車両検出部90が右後側方または左後側方の所定の距離以内にある車両310を検出した場合、画像の切り出し位置を第1の領域R1から右後側方または左後側方の車両を表示可能な所定の切り出し位置に変更する。そして、電子ルームミラー70に表示する。
【0052】
なお、後側方車両検出部90および画像切り出し位置変更部51以外の構成は、実施形態1と同一であるため、それらの説明は省略する。
【0053】
以上のように、実施形態2によれば、自車の車両の後方に配置された赤外線センサやレーダー等の検出部により、自車後側方の所定の距離以内の車両310を検出し、自車の後側方の、死角部分の車両を画像にて確認することが可能となる。
【0054】
[実施形態3]
実施形態1および2では、自車後側方の所定の距離以内に車両310を検出した際に、画像の切り出し位置を変更する制御について説明した。自車後側方の所定の距離以内の車両310の大きさによっては、切り出しした画像の大きさを変更した方が、より自車の後側方といったドアミラーで確認しにくい死角部分の車両を確認しやすい場合がある。
【0055】
例えば、自車後側方の所定の距離以内の車両310が大型トラックであった場合、切り出した画像の大きさによっては、車両の全体が確認できないため、画像の大きさを大きくして、車両の全体を確認可能であった方がより安全確認に寄与できる。従って実施形態3では、検出した自車後側方の所定の距離以内の車両310の大きさに応じて、切り出し画像の大きさを変更する。
【0056】
図6は、実施形態3における画像処理装置202の構成例を説明するためのブロック図である。画像処理装置202は、光学系10、撮像部20、画像処理部30、画像切り出し処理部41、画像切り出し位置変更部50、リアモニター60、電子ルームミラー70、後側方車両認識部81を有している。
【0057】
後側方車両認識部81は、画像処理部30が処理した画像に対し、後側方車両の画像を含む学習データを学習して得た後側方車両認識用の学習済モデルを用いて自車の後側方の所定の距離以内に車両310があることを画像認識により検出する。そして画像認識結果を画像切り出し位置変更部50へ通知する。さらに、様々な大きさの後側方車両の所定の距離以内の画像を含む学習データを学習して得た後側方車両の所定の距離以内の大きさ認識用の学習済モデルを用いて自車の後側方の所定の距離以内の車両310の大きさを検出可能である。そして、自車の後側方の所定の距離以内の車両310の大きさの情報を画像切り出し処理部41へ通知する。
【0058】
後側方車両認識部81が検出する自車の後側方の所定の距離以内の車両310の大きさは、自車の後側方の車両310が撮像可能な任意の大きさとして情報を通知してもよいし、大中小等の複数の段階に部別して情報を通知してもよい。なお、自車の右後側方および左後側方の所定の距離以内の両方に車両310を検出した場合は、後に検出した方の自車の後側方の所定の距離以内に車両があることを画像切り出し位置変更部50へ通知する。
【0059】
画像切り出し処理部41は、画像処理部30にて処理された画像の一部の切り出しを行う。画像の切り出しは、画像処理部30にて画像処理された画像のデータをRAM等のメモリに格納し、切り出したい画像のデータのみを読みだすことによって行われる。切り出しを行う位置は、光学系10にて結像された、バック走行時に自車後方を広角に撮像するための画角に対応する第2の領域のうち、通常走行時に自車後方の車両300を観測するための高解像度の狭い画角に対応する第1の領域R1である。また、後側方車両認識部81より通知された自車の後側方の所定の距離以内の車両310の大きさの情報より、切り出す第3の領域R3の大きさを変更する。
【0060】
なお、後側方車両認識部81および画像切り出し処理部41以外の構成は、実施形態1と同一であるため、それらの説明は省略する。
【0061】
実施形態3では、自車後側方の所定の距離以内の車両310の大きさに応じて、切り出す画像の大きさを変更するので、自車の後側方の所定の距離以内の車両310の大きさによらず、車両の全体を確認可能となる。画像切り出し処理部41にて切り出す画像を大きくすることにより、画像のデータ容量が増加するので、画像のフレームレートを落としたり、画像をダウンスケーリングしたりして、画像のデータ容量を減少させてもよい。なお、画像のフレームレートを落としたり、画像をダウンスケーリングしたりしたくない場合に、自車の後側方の車両310の大きさに応じて切り出す画像の大きさを変更する制御を選択的にオフにできるようにしてもよい。
【0062】
[実施形態4]
実施形態4では、自車が右左折や車線変更を行う際に、自車の後側方といったドアミラーで確認しにくい死角部分を画像にて確認する方法について説明する。
【0063】
図7は、実施形態4における画像処理装置203の構成例を説明するためのブロック図である。画像処理装置203は、光学系10、撮像部20、画像処理部30、画像切り出し処理部40、画像切り出し位置変更部52、リアモニター60、電子ルームミラー70、方向指示操作検出部100を有している。
【0064】
方向指示操作検出部100は、車両の右左折時や、一時的な進行方向の変更を伴う車線変更時に方向指示器を出す操作および方向指示を出した方向を検出し、画像切り出し位置変更部52に通知する。ここで、方向指示操作検出部100は、移動装置に設けられた方向指示器の操作方向を検出することで移動装置の進行方向の変更を検出するための方向検出ステップを実行する方向検出部(方向検出手段)として機能している。
【0065】
画像切り出し位置変更部52は、画像切り出し処理部40が切り出した画像の切り出し位置を、方向指示器を出した方向の後側方が撮像可能な所定の切り出し位置(第4の領域R4)へ変更し、電子ルームミラー70に表示する。例えば、実施形態4では、画像切り出し位置変更部50は、移動装置の進行方向の変更が検出された場合に、変更された進行方向側の高歪曲領域を含む所定の切り出し領域(第4の領域R4)の画像データを表示させる。
【0066】
例えば、右または左に方向指示器を出した場合は、自車の右または左の後側方の、ドアミラーでは確認しにくい死角部分が撮像可能なように切り出し位置を所定の切り出し位置(第4の領域R4)に変更する。このとき所定の切り出し位置(第4の領域R4)は進行方向側の前記高歪曲領域を含む。画像の切り出し位置の変更は、RAM等のメモリに格納された画像処理部30にて処理された画像のデータのうち読み出すデータを変更することで行う。
【0067】
なお、画像切り出し位置変更部52および方向指示操作検出部100以外の構成は実施形態1と同一であるため、それらの説明は省略する。
【0068】
図8に、方向指示器の操作を検出した際に、画像の切り出し位置を変更する制御のフローチャートを示す。なお、図8に示す各ステップは、画像処理装置200に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
【0069】
ステップS7において、方向指示操作検出部100は、方向指示器を出す操作がなされたかどうかおよび方向指示器を出した方向を判定する。方向指示器を出す操作がなされたと判定した場合、方向指示操作検出部100は、方向指示器を出す操作がなされたことと、方向指示器を出した方向とを画像切り出し位置変更部52へ通知する。
【0070】
ステップS7にて、方向指示操作検出部100が、方向指示器を出す操作がなされたと判定した場合、ステップS8に進む。そしてステップS8において画像切り出し位置変更部52は、切り出した画像を第1の領域R1から方向指示器を出した方向の自車の後側方が撮像可能な所定の切り出し位置(第4の領域R4)に変更する。そして、画像切り出し位置変更部52は変更後の所定の切り出し位置(第4の領域R4)の画像を電子ルームミラー70に表示する。
【0071】
ステップS7にて、方向指示操作検出部100が、方向指示器を出す操作がなされていないと判定した場合、ステップS9に進む。そしてステップS9において画像切り出し位置変更部52は、画像切り出し処理部40が切り出した画像を切り出し位置を第1の領域R1として電子ルームミラー70に表示する。
【0072】
方向指示操作検出部100にて方向指示器の操作を検出し、画像の切り出し位置を変更した後、自車が右左折または車線変更が完了した場合には、画像の切り出し位置を変更を継続する必要がない。よって、画像切り出し位置変更部52は画像の切り出し位置を、第1の領域R1へ戻す。自車が右左折または車線変更が完了したことは、方向指示器の操作が検出されなくなったことより判定する。
【0073】
このように実施形態4では、方向指示器の操作を検出した際に、画像の切り出し位置を変更しているので、自車が右左折や車線変更を行う際に、自車の右左の後側方といったドアミラーで確認しにくい死角部分を画像にて確実に確認することが可能となる。
【0074】
[実施形態5]
実施形態1から4では、自車後方の撮像装置にて自車の後側方といったドアミラーで確認しにくい死角部分を画像にて確認する例について説明した。本来自車後方の撮像装置は自車後方(真後ろ)の様子を確認するためのものである。従って、自車後方に車両300がある場合は、自車に後側方に車両310があっても、画像の切り出し位置を変更せずに自車後方の様子を継続して確認したい場合がある。実施形態5では、ユーザーによる設定に応じて、自車後方に車両300がある場合に、画像の切り出し位置を変更するか否かを制御する例について説明する。
【0075】
図9は、実施形態5における画像処理装置204の構成例を説明するためのブロック図である。画像処理装置204は、光学系10、撮像部20、画像処理部32、画像切り出し処理部40、画像切り出し位置変更部53を有している。さらに、リアモニター60、電子ルームミラー70、後側方車両認識部80、後方車両認識部110、画像切り出し設定保存部120を有している。
【0076】
画像処理部32は、撮像部20から伝送されたデジタルデータに対し、WDR(WideDynamicRange)補正、ガンマ補正、LUT処理、歪曲補正等の処理を行う。この処理により、リアモニター60および電子ルームミラー70に表示した際に視認しやすく、後側方車両認識部80の認識率が向上するようになる。画像処理部32が処理した画像はリアモニター60、画像切り出し処理部40、後側方車両認識部80および後方車両認識部110に入力される。
【0077】
後方車両認識部110は、画像処理部32が画像処理した画像に対し、後方車両の画像を含む学習データを学習して得た後方車両認識用の学習済モデルを用いて自車の後方に車両300があることを検出し、画像切り出し位置変更部53へ通知する。
【0078】
画像切り出し設定保存部120は、後方車両認識部110が自車の後方に車両300があることを検出した場合に、画像切り出し位置変更部53により画像の切り出し位置を変更させるか否かの設定を保存し、設定内容を画像切り出し位置変更部53に通知する。ここで、画像切り出し設定保存部120は、所定の切り出し領域の画像データの表示をさせるか否かを設定するための設定部(設定手段)として機能している。
【0079】
後方車両認識部110が自車の後方に車両300があることを検出した場合に、画像切り出し位置変更部53により画像の切り出し位置を変更させる設定を、以降は変更設定と定義する。後方車両認識部110が自車の後方に車両300があることを検出した場合に、画像切り出し位置変更部53により画像の切り出し位置を変更しない設定を、以降は非変更設定と定義する。
【0080】
画像切り出し位置変更部53は、後側方車両認識部80が後側方の車両310を検出した通知と、後方車両認識部110が自車の後方に車両300を検出した通知と、画像切り出し設定保存部120に保存されている設定の通知を受けとる。そして画像切り出し位置変更部53は、通知された情報より、画像の切り出し位置を第1の領域R1から後側方の車両310を表示可能な位置に変更するかどうかを判定する。
【0081】
画像切り出し位置変更部53は、判定結果より、第1の領域R1の画像、切り出し位置を変更した後の第3の領域R3の画像、その両方のいずれかを電子ルームミラー70に表示する。判定の詳細は、図10のフローチャートにて説明する。画像の切り出し位置の変更は、RAM等のメモリに格納された画像処理部32にて画像処理された画像のデータのうち読み出すデータを変更することで行う。
【0082】
なお、画像処理部32、画像切り出し位置変更部53、後方車両認識部110および画像切り出し設定保存部120以外の構成は実施形態1と同一であるため、それらの説明は省略する。
【0083】
次に、画像切り出し設定保存部120の設定に応じて、画像の切り出し位置を変更するか否かを判定する制御について順に説明する。ユーザーは画像切り出し設定保存部120に、前記の変更設定または非変更設定を保存する。
【0084】
画像切り出し設定保存部120に変更設定が保存された場合、自車後方の車両300を検出したか否かに関わらず、後側方車両認識部80が自車後側方の所定の距離以内に車両310を検出すると画像切り出し位置変更部53は画像の切り出し位置を変更する。
【0085】
画像切り出し設定保存部120に非変更設定が保存された場合、自車後方の車両300が検出された場合、後側方車両認識部80が自車後側方の所定の距離以内に車両310を検出しても、画像切り出し位置変更部53は画像の切り出し位置を変更しない。
【0086】
図10に、画像切り出し設定保存部120の設定に応じて、画像の切り出し位置を変更するか否かを制御するフローチャートを示す。なお、図10に示す各ステップは、画像処理装置200に含まれるコンピュータが記憶媒体に記憶されたコンピュータプログラムを実行することによって制御される。
【0087】
ステップS10において、後方車両認識部110は、自車の後方に車両300があることを判定する。
【0088】
ステップS10にて、後方車両認識部110が自車の後方に車両300があると判定した場合には、ステップS11において、後側方車両認識部80が自車の後側方の所定の距離以内に車両310があることを判定する。
【0089】
ステップS11にて後側方車両認識部80が自車の後側方の所定の距離以内に車両310がないと判定した場合、画像切り出し位置変更部50は画像の切り出し位置を変更しない。
【0090】
ステップS10にて、後方車両認識部110が、自車の後方に車両300がないと判定した場合は、ステップS13における処理を行う。
【0091】
ステップS11にて後側方車両認識部80が自車の後側方の所定の距離以内に車両310があると判定した場合、ステップS12において画像切り出し設定保存部120に非変更設定が保存されているか判定する。
【0092】
変更設定が保存されている場合は、ステップS15において画像切り出し位置変更部50は切り出し位置を変更する。ステップS12において、画像切り出し設定保存部120に非変更設定が保存されている場合は、ステップS13において画像切り出し位置変更部50は切り出し位置を変更しない。
【0093】
実施形態5では、画像切り出し設定保存部120の設定に応じて、画像の切り出し位置を変更するか否かを判定しているので、ユーザーの意図に反して、画像の切り出し位置が変更してしまうことを防ぐことが可能となる。なお、実施形態2では、自車後側方の車両の検出部を後側方車両認識部80としているが、実施形態2のように別センサで検出してもよい。
【0094】
実施形態5では、自車後側方に車両310を検出した場合に、切り出し位置の変更設定と非変更設定を選択できるようにした例を述べたが、方向指示器を出す操作がなされた場合に切り出し位置の変更設定と非変更設定を選択できるようにしてもよい。例えば、画像切り出し設定保存部120は、所定の切り出し領域(第3の領域R3または第4の領域R4)の画像データの表示をさせるか否かを選択的に設定できる。
【0095】
[実施形態6]
上述した実施形態において説明された様々な機能、処理および方法の少なくとも一つは、プログラムを用いて実現することができる。以下、実施形態6では、上述した実施形態において説明された様々な機能、処理および方法の少なくとも一つを実現するためのプログラムを「プログラムX」と呼ぶ。さらに、実施形態6では、プログラムXを実行するためのコンピュータを「コンピュータY」と呼ぶ。パーソナルコンピュータ、マイクロコンピュータ、CPU(Central Processing Unit)などは、コンピュータYの一例である。上述した実施形態における画像処理装置のコンピュータも、コンピュータYの一例である。
【0096】
上述した実施形態において説明された様々な機能、処理および方法の少なくとも一つは、コンピュータYがプログラムXを実行することによって実現することができる。この場合において、プログラムXは、コンピュータ読み取り可能な記憶媒体を介してコンピュータYに供給される。実施形態6におけるコンピュータ読み取り可能な記憶媒体は、ハードディスク装置、磁気記憶装置、光記憶装置、光磁気記憶装置、メモリカード、ROM、RAMなどの少なくとも一つを含む。さらに、実施形態6におけるコンピュータ読み取り可能な記憶媒体は、non-transitoryな記憶媒体である。
【0097】
[実施形態7]
上述の実施形態における移動装置400(自車両)は、自動車に限るものではなく、自動二輪車、自転車、車椅子、船舶、飛行機、ロボット、ドローンなどの移動が可能な装置であれば、どのようなものであってもよい。
【符号の説明】
【0098】
200~204:画像処理装置
10:光学部
20:撮像部
30~32:画像処理部
40~41:画像切り出し処理部
50~53:画像切り出し位置変更部
60:リアモニター
70:電子ルームミラー
80~81:後側方車両認識部
90:後側方車両検出部
100:方向指示操作検出部
110:後方車両認識部
120:画像切り出し設定保存部
300:自車後方車両
310:自車後側方車両
R1:第1の領域
R2:第2の領域
R3:第3の領域
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10