IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ クラリオン株式会社の特許一覧

<>
  • 特開-画像処理装置及び画像処理方法 図1
  • 特開-画像処理装置及び画像処理方法 図2
  • 特開-画像処理装置及び画像処理方法 図3
  • 特開-画像処理装置及び画像処理方法 図4
  • 特開-画像処理装置及び画像処理方法 図5
  • 特開-画像処理装置及び画像処理方法 図6
  • 特開-画像処理装置及び画像処理方法 図7
  • 特開-画像処理装置及び画像処理方法 図8
  • 特開-画像処理装置及び画像処理方法 図9
  • 特開-画像処理装置及び画像処理方法 図10
  • 特開-画像処理装置及び画像処理方法 図11
  • 特開-画像処理装置及び画像処理方法 図12
  • 特開-画像処理装置及び画像処理方法 図13
  • 特開-画像処理装置及び画像処理方法 図14
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024089890
(43)【公開日】2024-07-04
(54)【発明の名称】画像処理装置及び画像処理方法
(51)【国際特許分類】
   B60R 1/20 20220101AFI20240627BHJP
   G06T 1/00 20060101ALI20240627BHJP
   G06T 3/14 20240101ALI20240627BHJP
   B60R 1/24 20220101ALI20240627BHJP
   B60R 11/02 20060101ALI20240627BHJP
   H04N 7/18 20060101ALI20240627BHJP
【FI】
B60R1/20 100
G06T1/00 330Z
G06T1/00 500B
G06T3/00 750
B60R1/24
B60R11/02 C
H04N7/18 J
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022205406
(22)【出願日】2022-12-22
(71)【出願人】
【識別番号】000001487
【氏名又は名称】フォルシアクラリオン・エレクトロニクス株式会社
(74)【代理人】
【識別番号】110004185
【氏名又は名称】インフォート弁理士法人
(74)【代理人】
【識別番号】100078880
【弁理士】
【氏名又は名称】松岡 修平
(74)【代理人】
【識別番号】100183760
【弁理士】
【氏名又は名称】山鹿 宗貴
(72)【発明者】
【氏名】村上 哲郎
(72)【発明者】
【氏名】坂田 直人
(72)【発明者】
【氏名】古賀 昌史
【テーマコード(参考)】
3D020
5B057
5C054
【Fターム(参考)】
3D020BA04
3D020BA20
3D020BB01
3D020BC02
3D020BD05
3D020BE03
5B057AA16
5B057BA15
5B057CE08
5B057DC08
5B057DC19
5C054CC05
5C054FE12
5C054FE26
5C054FE28
5C054HA30
(57)【要約】
【課題】表示装置の画面に表示される移動体の外界画像と目の位置との関係を乗員に直感的に理解させやすくすること。
【解決手段】画像処理装置は、移動体の乗員の目の位置の情報を取得する目の位置情報取得部と、移動体の外界を写す外界画像を取得する画像取得部と、画像取得部により取得された外界画像から、移動体内に配置された表示装置の画面に表示させる領域の領域画像を、目の位置の情報に応じて切り出す切り出し部と、目の位置から画面上の位置で見た、開口部を有する立体モデルの投影画像を生成する投影画像生成部と、領域画像が、画面上の投影画像の開口部に写るように、領域画像と投影画像とを合成する画像合成部と、画像合成部による合成画像を表示装置に出力する画像出力部と、を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
移動体の乗員の目の位置の情報を取得する視点情報取得部と、
前記移動体の外界を写す外界画像を取得する画像取得部と、
前記画像取得部により取得された外界画像から、前記移動体内に配置された表示装置の画面に表示させる領域の領域画像を、前記目の位置の情報に応じて切り出す切り出し部と、
前記目の位置から前記画面上の位置で見た、開口部を有する立体モデルの投影画像を生成する投影画像生成部と、
前記領域画像が、前記画面上の前記投影画像の前記開口部に写るように、前記領域画像と前記投影画像とを合成する画像合成部と、
前記画像合成部による合成画像を前記表示装置に出力する画像出力部と、を備える、
画像処理装置。
【請求項2】
前記立体モデルは、前記画面を囲う枠を模したモデルであり、
前記投影画像生成部は、前記枠の形状を、前記画面の形状に合わせて変形する、
請求項1に記載の画像処理装置。
【請求項3】
前記移動体の周囲の物体を検知する物体検知部と、
前記物体検知部により検知された物体が前記領域画像に写らない位置にある場合、前記物体が位置する方向に対応する前記枠の部分にアラートを表示するアラート表示部と、を更に備える、
請求項2に記載の画像処理装置。
【請求項4】
前記切り出し部は、
前記目の位置を投影中心としたときに前記画面に投影される前記外界画像の投影範囲を前記領域画像として切り出し、
前記領域画像を前記画面の形状に合わせて変形する、
請求項1から請求項3の何れか一項に記載の画像処理装置。
【請求項5】
前記外界画像は、前記表示装置を挟んで前記乗員と反対側の、前記移動体の外界を撮影した画像であり、且つ広角レンズを備える撮影装置により撮影された画像である、
請求項1に記載の画像処理装置。
【請求項6】
前記移動体に関する情報を取得する情報取得部と、
前記情報取得部により取得された情報を前記合成画像に重畳する重畳部と、を更に備え、
前記画像出力部は、前記重畳部により前記情報が重畳された合成画像を前記表示装置に出力する、
請求項1に記載の画像処理装置。
【請求項7】
前記情報取得部により取得された情報に応じて前記投影画像を変形させる形状変形部を更に備え、
前記重畳部は、前記合成画像に含まれる、前記形状変形部による変形後の前記投影画像上に、前記情報を重畳する、
請求項6に記載の画像処理装置。
【請求項8】
移動体の乗員の目の位置の情報を取得するステップと、
前記移動体の外界を写す外界画像を取得するステップと、
前記取得された外界画像から、前記移動体内に配置された表示装置の画面に表示させる領域の領域画像を、前記目の位置の情報に応じて切り出すステップと、
前記目の位置から前記画面上の位置で見た、開口部を有する立体モデルの投影画像を生成するステップと、
前記領域画像が、前記画面上の前記投影画像の前記開口部に写るように、前記領域画像と前記投影画像とを合成するステップと、
前記領域画像と前記投影画像との合成画像を前記表示装置に出力するするステップと、を含む、
画像処理方法。
【請求項9】
前記立体モデルは、前記画面を囲う枠を模したモデルであり、
前記投影画像を生成するステップにおいて、前記枠の形状を、前記画面の形状に合わせて変形することにより前記投影画像を生成する、
請求項8に記載の画像処理方法。
【請求項10】
前記移動体の周囲の物体を検知するステップと、
前記検知された物体が前記領域画像に写らない位置にある場合、前記物体が位置する方向に対応する前記枠の部分にアラートを表示するステップと、を更に含む、
請求項9に記載の画像処理方法。
【請求項11】
前記領域画像を切り出すステップにおいて、
前記目の位置を投影中心としたときに前記画面に投影される前記外界画像の投影範囲を前記領域画像として切り出し、
前記領域画像を前記画面の形状に合わせて変形する、
ことにより前記領域画像を切り出す、
請求項8から請求項10の何れか一項に記載の画像処理方法。
【請求項12】
前記外界画像は、前記表示装置を挟んで前記乗員と反対側の、前記移動体の外界を撮影した画像であり、且つ広角レンズを備える撮影装置により撮影された画像である、
請求項8に記載の画像処理方法。
【請求項13】
前記移動体に関する情報を取得するステップと、
前記移動体に関する情報を前記合成画像に重畳するステップと、を更に含み、
前記合成画像を出力するステップにおいて、前記移動体に関する情報が重畳された合成画像を前記表示装置に出力する、
請求項8に記載の画像処理方法。
【請求項14】
前記目の位置の情報に応じて前記投影画像を変形させるステップを更に含み、
前記移動体に関する情報を前記合成画像に重畳するステップにおいて、前記合成画像に含まれる、前記変形後の前記投影画像上に、前記移動体に関する情報を重畳する、
請求項13に記載の画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置及び画像処理方法に関する。
【背景技術】
【0002】
運転手の視界を拡張させる画像を表示可能な画像処理装置が知られている。この種の画像処理装置の具体的構成が、例えば特許文献1に記載されている。
【0003】
特許文献1に記載の画像処理装置は、運転手の視点から表示装置の設置領域が透過して車外が見えた場合と同等の画像が表示装置の画面に表示されるように、撮影装置による車外の撮影画像を座標変換する。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2007-096638号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかし、特許文献1に記載の画像処理装置では、乗員は、平面の画面に表示される画像をあくまで平面の画像としてしか知覚することができない。そのため、乗員が目の位置と表示画像との関係を直感的に理解することが難しい。例えば、見たいと思っている外界の画像が画面を通じて見えるように目の位置を調節することが乗員にとって難しい。
【0006】
本発明は上記の事情に鑑み、表示装置の画面に表示される移動体の外界画像と目の位置との関係を乗員に直感的に理解させやすい画像処理装置及び画像処理方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
本発明の一実施形態に係る画像処理装置は、移動体の乗員の目の位置の情報を取得する目の位置情報取得部と、移動体の外界を写す外界画像を取得する画像取得部と、画像取得部により取得された外界画像から、移動体内に配置された表示装置の画面に表示させる領域の領域画像を、目の位置の情報に応じて切り出す切り出し部と、目の位置から画面上の位置で見た、開口部を有する立体モデルの投影画像を生成する投影画像生成部と、領域画像が、画面上の投影画像の開口部に写るように、領域画像と投影画像とを合成する画像合成部と、画像合成部による合成画像を表示装置に出力する画像出力部と、を備える。
【発明の効果】
【0008】
本発明の一実施形態によれば、表示装置の画面に表示される移動体の外界画像と目の位置との関係を乗員に直感的に理解させやすい画像処理装置及び画像処理方法が提供される。
【図面の簡単な説明】
【0009】
図1】本発明の一実施形態に係る表示制御システムの構成を示すブロック図である。
図2】本発明の一実施形態に係る表示制御システムが組み込まれた車両の運転席周りを示す図である。
図3】本発明の一実施形態に係る画像処理装置の動作を説明する図である。
図4】本発明の一実施形態に係る画像処理装置の動作を説明する図である。
図5】本発明の一実施形態に係る画像処理装置の動作を説明する図である。
図6】本発明の一実施形態に係る画像処理装置の動作を説明する図である。
図7】本発明の一実施形態に係る画像処理装置の動作を説明する図である。
図8】本発明の一実施形態において画像処理装置のプロセッサにより実行される画像処理を示すフローチャートである。
図9】本発明の変形例1に係る表示制御システムの構成を示すブロック図である。
図10】本発明の変形例1においてプロセッサにより実行される合成画像生成処理(図8のステップS105)のサブルーチンを示す図である。
図11図10のステップS105C~S105Dの処理の説明を補足する図である。
図12】本発明の変形例1に係る車両の運転席周りを示す図である。
図13】本発明の変形例2においてプロセッサにより実行される合成画像生成処理(図8のステップS105)のサブルーチンを示す図である。
図14】本発明の変形例2に係る車両の運転席周りを示す図である。
【発明を実施するための形態】
【0010】
以下の説明は、本発明の一実施形態に係る画像処理装置、画像処理方法及び画像処理プログラムに関する。なお、共通の又は対応する要素については、同一又は類似の符号を付して、重複する説明を適宜簡略又は省略する。
【0011】
図1は、本発明の一実施形態に係る表示制御システム1の構成を示すブロック図である。図1に示されるように、表示制御システム1は、ECU(Electronic Control Unit)10、車内カメラ20、DMS(Driver Monitoring System)30、車外カメラ40、HMI(Human Machine Interface)50及び表示装置60を備える。なお、図1では、本実施形態の説明に必要な主たる構成要素を図示しており、例えば筐体など、一部の構成要素については、その図示を適宜省略する。
【0012】
表示制御システム1は、道路を走行する車両(移動体の一例)に組み込まれたシステムである。なお、図1に示される構成は一例に過ぎない。例えば、DMS30がECU10に組み込まれてもよい。すなわち、表示制御システム1の態様には自由度があり、各種の設計変更が可能である。
【0013】
ECU10は、画像処理装置の一例であり、プロセッサ100及び記憶装置200を有する。なお、ECU10は、ナビゲーション装置やIVI(In-Vehicle Infotainment)の一部をなす装置であってもよい。また、画像処理装置は、ECU10のような車載型の装置に限らない。画像処理装置は、スマートフォン、フィーチャフォン、タブレット端末、PC(Personal Computer)、PDA(Personal Digital Assistant)、PND(Portable Navigation Device)、携帯ゲーム機等の他の形態の装置であってもよい。
【0014】
プロセッサ100は、記憶装置200に記憶された画像処理プログラム200Aを実行する。すなわち、プロセッサ100は、画像処理プログラム200Aを実行するコンピュータの一例である。
【0015】
プロセッサ100は、RAM(Random Access Memory)、フラッシュROM(Read Only Memory)等を備えており、表示制御システム1全体を制御する。例えば、プロセッサ100は、記憶装置200に記憶された画像処理プログラム200Aをはじめとする各種プログラムをワークエリアであるRAM上に展開し、展開されたプログラムに従って表示制御システム1を制御する。
【0016】
記憶装置200に記憶された画像処理プログラム200Aは、移動体の乗員の視点(本明細書では、目の位置を「視点」という。)の情報を取得し、移動体の外界を写す外界画像を取得し、取得された外界画像から、移動体内に配置された表示装置の画面に表示させる領域の領域画像を、視点の情報に応じて切り出し、視点から画面上の位置で見た、開口部を有する立体モデルの投影画像を生成し、領域画像が、上記画面上の投影画像の開口部に写るように、領域画像と投影画像とを合成し、合成画像を表示装置に出力する、という一連の処理を、コンピュータの一例であるプロセッサ100に実行させる。
【0017】
言い換えると、画像処理プログラム200Aは、上記一連の処理を含む画像処理方法をプロセッサ100に実行させる。
【0018】
図2は、表示制御システム1が組み込まれた車両の運転席周りを示す図である。図2は、運転席に着座した乗員(便宜上「乗員2」と記す。)から見た車内の一部を示している。図2に示されるように、車両には、車内カメラ20、表示装置60、フロントウインドウ300及びハンドル310が備えられる。
【0019】
車内カメラ20は、例えば表示装置60近傍に設置される。車内カメラ20は、例えば運転席に着座した乗員2を撮影する。
【0020】
DMS30は、車内カメラ20により撮影された車内画像P20を用いて乗員2の顔認識と視点検出を行う。例示的には、DMS30は、公知の画像認識技術を利用して乗員2の顔の位置、顔の向き、目を含む顔の各パーツ、顔に関する乗員2の動作等を認識する処理を行う。顔に関する乗員2の動作とは、例えば、ウインク、うなずく等の動作である。
【0021】
DMS30は、顔認識の結果を用いて乗員2の目の位置である視点座標PVを検出して、プロセッサ100に出力する。視点座標PVは、乗員2の効き目(右又は左)の座標であってもよく、また、左右の瞳孔を結ぶ線分の中点であってもよい。乗員2は、例えばHMI50を操作して自身の効き目を予め入力することができる。なお、DMS30は、顔認識の結果を用いず、車内画像P20から乗員2の視点座標PVを直接検出してもよい。それとは逆に、DMS30は、目の位置以外の乗員の部位の座標や顔の輪郭を検出することにより、それらに対する標準的な目の位置を乗員2の視点座標PVと推定してもよい。
【0022】
車外カメラ40は、車両の外界を撮影する。例示的には、車外カメラ40は、少なくとも、乗員2の前方且つ乗員2がフロントウインドウ300を介して視認するエリアよりも後方に位置する地面を撮影する。撮影画像である車外画像P40(外界画像の一例)は、例えば、表示装置60を挟んで乗員2と反対側の、車両の外界を撮影した画像である。車外カメラ40は、車外画像P40をプロセッサ100に出力する。
【0023】
撮影装置の一例である車外カメラ40は、広範囲を撮影するため、広角レンズを備えた、広い画角を撮影可能なカメラであってもよい。車外カメラ40は、1台のカメラで構成されてもよく、また、複数台のカメラで構成されてもよい。
【0024】
HMI50には、ハードウェア又はソフトウェア若しくはこれらを組み合わせた種々のユーザインタフェースが想定される。例示的には、HMI50は、ダッシュボードに設置されたメカニカルスイッチキー、リモートコントローラ等である。表示装置60がタッチパネルを搭載する場合、タッチパネル環境下で提供されるGUI(Graphical User Interface)も、HMI50をなす。乗員2は、HMI50を通じて表示制御システム1を操作することができる。
【0025】
表示装置60は、例えば、タッチパネルを搭載するLCD(Liquid Crystal Display)であり、ハンドル310の前方のダッシュボードに設置される。表示装置60は、LCDに限らず、例えば有機EL(Electro Luminescence)ディスプレイなど、別の形態の表示装置であってもよい。
【0026】
詳しくは後述するが、画像処理プログラム200Aの実行により、車外画像P40から、表示装置60の画面60Aに表示される領域画像RIMGが、視点座標PVに応じて切り出され、視点座標PVから画面60A上の位置で見た、窓枠モデル(開口部を有する立体モデルの一例)の投影画像(窓枠画像FIMG)が生成され、領域画像RIMGが、画面60A上の窓枠画像FIMGの開口部OP(窓枠で囲われた領域)に写るように、領域画像RIMGと窓枠画像FIMGとが合成され、その合成画像CIMGが表示装置に出力される。これにより、図2に例示される合成画像CIMGが画面60Aに表示される。
【0027】
図2の例示では、直線状に延びる二本のラインLNが車両前方の地面に設けられている。本実施形態では、乗員2の視点に合わせた高精度な合成画像CIMGが画面60Aに表示される。そのため、図2に示されるように、フロントウインドウ300を介して視認される各ラインLNと、画面60Aに表示される各ラインLN’と、が一直線に並ぶ。乗員2は、死角となる直視できない領域を、画面60Aを通じて視認することができる。
【0028】
図2では、各ラインLNの中心線に、符号LCが付される。図2に示されるように、各ラインLNの中心線LCは、画面60Aに表示される各ラインLN’の中心線と一致する。各ラインLN,LN’が一続きの直線に見えるため、画面60Aに写る領域画像RIMGを自然な画像として乗員2に知覚させることができる。
【0029】
附言するに、画面60Aに投影される窓枠モデルの角度が乗員2の視点に応じて変わる。例えば、運転手が身体を右側に動かして画面60Aを視認すると、画面60Aに表示される領域画像RIMGの範囲が車両の左側に寄ると同時に窓枠モデルの角度(言い換えると、窓枠画像FIMG)が左側から見た角度に変わる。
【0030】
本実施形態では、このような、視点の移動に応じた、領域画像RIMGの変化と窓枠画像FIMGの変化とが合わさることにより、乗員2が目の位置と表示画像との関係を直感的に理解することができ、画面60Aに写る車外の風景を現実の風景として直感的に認識することができる。そのため、乗員2は、見たいと思っている外界の画像が画面60Aを通じて見えるように目の位置を直感的かつ容易に調節することができる。乗員2は、恰も、ダッシュボードに設けられた窓枠から車外を視認する状態を体験できる。
【0031】
このように、画像処理プログラム200Aの実行により、表示装置60の画面60Aに表示される車両の外界画像を自然な画像として乗員2に知覚させることができる。
【0032】
プロセッサ100は、機能ブロックとして、視点情報取得部100A、枠描画部100B、画像変形部100C及び重畳部100Dを含む。各機能ブロックは、ECU10が実行する画像処理プログラム200Aにより実現される。各機能ブロックは、一部又は全部が専用の論理回路等のハードウェアにより実現されてもよい。
【0033】
視点情報取得部100Aは、乗員2の視点の情報を取得する。例示的には、視点情報取得部100Aは、視点座標PVをDMS30より取得する。なお、視点座標PVは、例えば乗員2によるHMI50に対する操作によって設定されてもよい。この場合、表示制御システム1からDMS30を省くことが可能となる。
【0034】
枠描画部100Bは、記憶装置200に記憶された枠モデルDB(Data Base)200Bのなかから窓枠モデルを読み出す。窓枠モデルは、画面60Aを囲う枠を模したモデルの一例である。なお、窓枠モデルは、例えばローカルでなくネットワーク上に配置されてもよい。この場合、枠描画部100Bは、図示しない移動体無線通信部を通じてネットワーク上の枠モデルDBにアクセスして窓枠モデルをダウンロードする。
【0035】
枠描画部100Bは、乗員2の視点(視点座標PV)から画面60A上の位置で見た、窓枠モデルの窓枠画像FIMG(投影画像の一例)を生成し、生成された窓枠画像FIMGの形状(枠の形状の一例)を、画面60Aの形状(本実施形態では矩形)に合わせて変形する。
【0036】
画像変形部100Cは、車外画像P40から、画面60Aに表示される領域画像RIMGを、乗員2の視点(視点座標PV)に応じて切り出す。補足すると、画像変形部100Cは、乗員2の視点を投影中心としたときに画面60Aに投影される車外画像P40の投影範囲を領域画像RIMGとして切り出す。画像変形部100Cは、切り出された領域画像RIMGを、画面60Aの形状(本実施形態では矩形)に合わせて変形する。
【0037】
画像変形部100Cは、車外画像P40から領域画像RIMGを切り出す前処理として、車外カメラ40が有する広角レンズの歪みを補正する画像補正処理を行ってもよい。広角レンズの歪みは、例えば歪曲収差、色収差等の各種収差である。
【0038】
重畳部100Dは、図2に示されるように、領域画像RIMGが、画面60A上の窓枠画像FIMGの開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成した合成画像CIMGを生成する。
【0039】
図3図7は、枠描画部100B及び画像変形部100Cの動作を説明する図である。
【0040】
図3中、画像座標系は、横軸X、縦軸Yの2軸で示される。画像座標系は、合成画像CIMGを基準とする座標系であり、合成画像CIMGの左上隅を原点Oとする2次元座標系である。各軸の単位は、ピクセル(px)である。
【0041】
図3中、車両座標系は、X,Y,Zの3軸で示される。車両座標系は、表示制御システム1を組み込む車両を基準とした座標系であり、車両のある位置を原点Oとする3次元座標系である。軸Xは、車幅方向に延びる。軸Yは、車両上下方向に延びる。軸Zは、車両前後方向に延びる。各軸の単位は、ミリメートル(mm)である。
【0042】
図3中、設定面SMは、例えば車両が走行する地面(走行面)である。
【0043】
画像変形部100Cは、射影変換行列Mを計算する。射影変換行列Mは、車外画像P40を、設定面SM(Y軸の座標が地面に相当する高さであるような面)にマッピングするための射影変換行列の一例である。図3では、便宜上、車外画像P40外の領域(車外画像P40内の画像がマッピングされない領域)にハッチングが付される(符号GN参照)。
【0044】
画像変形部100Cは、画面60Aに表示させる参照範囲(走行面の範囲)を算出する。
【0045】
図4は、画像変形部100Cの処理内容を示す図である。
【0046】
図4に示されるように、画像変形部100Cは、投影中心Tを基準にして、車両座標系で設定された設定面SM上のどの範囲が、投影面である画面60Aの表示範囲(座標PD1~PD4で囲まれる範囲)に投影されるかを算出する。投影中心Tは、例えば視点座標PVである。画像変形部100Cは、視点座標PV及び座標PD1~PD4を用いて、座標PV1~PV4を算出する。
【0047】
座標PV1~PV4で囲まれる範囲HCは「参照範囲」と称される。参照範囲(範囲HC)内の画像が、画面60Aに表示させる領域画像RIMGに相当する。
【0048】
画像変形部100Cは、車外画像P40から、参照範囲(範囲HC)に対応する領域画像RIMGを切り出し、切り出された領域画像RIMGを加工する。
【0049】
車外カメラ40で撮影された車外画像P40から、画面60Aに表示させる領域画像RIMGを生成するには、車外画像P40の座標を車両座標系に高精度に変換する第1変換処理と、参照範囲HCの座標を画面60Aの座標系に高精度に変換する第2変換処理が必要になる。
【0050】
第1変換処理に必要な情報は、次に示される。
【0051】
図5中、画像座標系における車外画像P40内の射影変換行列Mの計算に用いる点は、点PC1、PC2、PC3、PC4で示され、画像座標系の座標(x,y)を表す同次座標は符号Pで示される。車両座標系における設定面SM(地面に相当する面)において、各点PC1~PC4に対応する点は、点PV5、PV6、PV7、PV8で示され、車両座標系の座標(x,z)を表す同次座標は符号Pで示される。点PC1~Pc4と点PV5~PV8は、射影変換行列Mを計算する際に用いられる。同次座標PとPの関係は、次式(1)で示される。
【0052】
式(1)
【0053】
式(1)中、符号Mは、画像座標系の座標を車両座標系の座標に変換するための射影変換行列Mを示す。射影変換行列Mは、例えば次の手順で計算される。
【0054】
車外画像P40上で捉えられる点であって、車両座標系における4つの点PV5、PV6、PV7、PV8を定義し、各点PV5~PV8の座標を実測により特定する。次に、画像座標系における4つの点PC1、PC2、PC3、PC4の座標を特定する。この場合、車外画像P40上で、各点PC1~PC4の座標を特定するものとする。これらの特定された座標を式(1)に代入して、射影変換行列Mの各要素を含む連立方程式を解くことにより、射影変換行列Mを算出する。算出された射影変換行列Mは、例えば記憶装置200に記憶される。
【0055】
第2変換処理に必要な情報は、次に示される。
【0056】
図6中、車両座標系における設定面SM上の参照範囲は、点PV1、PV2、PV3、PV4で示される台形の範囲である。車両座標系の座標(x,z)を表す同次座標は符号Pで示される。画面60Aの座標系において、各点PV1~PV4に対応する点は、点PD1、PD2、PD3、PD4とで示される。画面60Aの座標系の座標(x,y)を表す同次座標は符号Pで示される。
【0057】
図6中、画面60Aの座標系は、横軸X、縦軸Yの2軸で示される。画面60Aの座標系は、画面60Aを基準とする座標系であり、画面60Aの左上隅を原点Oとする2次元座標系である。各軸の単位は、ピクセル(px)である。点PV1~PV4と点PD1~PD4は、射影変換行列Nを計算する際に用いられる。同次座標PとPの関係は、次式(2)で示される。
【0058】
式(2)
【0059】
式(2)中、符号Nは、車両座標系の座標を画面60Aの座標に変換する射影変換行列Nを示す。
【0060】
なお、式(1)、(2)に含まれる値λ,λは、各同次座標P,Pにおける倍率を示す。値λ,λが値0を除くどのような値でも、各同次座標は、各座標系上で同一の座標を表す。
【0061】
射影変換行列Mと射影変換行列Nとの積H(=MN)は、画像座標系の座標(x,y)を、画面60Aの座標(x,y)に変換する射影変換行列となる。この射影変換行列Hを用いた関係式は、式(3)に示される通りである。射影変換行列Hを予め求めておくことにより、画像座標系の座標と画面60Aの座標との間の座標変換が容易に行われる。
【0062】
式(3)
【0063】
射影変換行列M、Nを用いることにより、画像座標系、車両座標系、及び画面60Aの座標系の間で高精度な座標変換が行われる。そのため、車外画像P40から、乗員2の視点に合わせた高精度な領域画像RIMGが生成される。これにより、図2に示されるように、乗員2がフロントウインドウ300を介して視認する風景と、画面60Aに表示される領域画像RIMGとを連続的に表示させることができる。この結果、画面60Aに写る領域画像RIMGを自然な画像として乗員2に知覚させることができる。
【0064】
枠描画部100Bは、点PD1、PD2、PD3、PD4で示される矩形領域(図4参照)の面上に、図7に示される窓枠モデルF1MDの枠面F1が位置するように、窓枠モデルF1MDを車両座標系に配置する。
【0065】
枠描画部100Bは、乗員2の視点(視点座標PV)を、窓枠モデルF1MDのレンダリング時の視点として設定する。言い換えると、枠描画部100Bは、視点座標PVを、画面60A上に配置された窓枠モデルF1MDの投影中心Tに設定する。
【0066】
枠描画部100Bは、図7中、ハッチングで示される範囲だけ、窓枠モデルF1MDをレンダリングする。言い換えると、枠描画部100Bは、画面60Aの表示範囲に限定して、窓枠モデルF1MDをレンダリングする。
【0067】
枠描画部100Bは、レンダリングされた図形(窓枠モデルの窓枠画像FIMG)を、画面60Aの解像度に合うように、領域画像RIMGと同様に、射影変換行列を用いて変形する。すなわち、枠描画部100Bは、略平行四辺形の窓枠画像FIMGを、画面60Aの形状(本実施形態では矩形)に合わせて変形する。
【0068】
図8は、プロセッサ100により実行される画像処理を示すフローチャートである。例えば、表示制御システム1が起動すると、図8に示される画像処理の実行が開始される。この画像処理は、例えば表示制御システム1が停止するまでの間、所定のレートで(例えば毎秒n回)繰り返し実行される。
【0069】
なお、フローチャートの処理単位の分割の仕方や名称によって実施形態が制限されることはない。また、フローチャートの処理順序も図示される例に限らない。
【0070】
図8に示されるように、プロセッサ100は、DMS30で検出された乗員2の視点座標PVを取得する(ステップS101)。
【0071】
このように、ステップS101において、プロセッサ100は、乗員2の視点座標PV(乗員の眼の位置の情報の一例)を取得する視点情報取得部として動作する。
【0072】
プロセッサ100は、図4及び図7を用いて例示的に説明したように、窓枠画像FIMGを生成する(ステップS102)。すなわち、プロセッサ100は、画面60Aを投影面としたときの窓枠モデルの投影画像(視点座標PVを投影中心Tとした、画面60A上での、窓枠モデルの投影画像)を生成する。
【0073】
このように、ステップS102において、プロセッサ100は、乗員2の視点から画面60A上の位置で見た、窓枠モデル(開口部を有する立体モデルの一例)の投影画像(窓枠画像FIMG)を生成する投影画像生成部として動作する。
【0074】
プロセッサ100は、車外カメラ40で撮影された車外画像P40を取得する(ステップS103)。
【0075】
このように、ステップS103において、プロセッサ100は、車両(移動体の一例)の外界を写す車外画像P40(外界画像の一例)を取得する画像取得部として動作する。
【0076】
プロセッサ100は、図3図6を用いて例示的に説明したように、車外画像P40をもとに領域画像RIMGを生成する(ステップS104)。すなわち、プロセッサ100は、ステップS103で取得された車外画像P40から、画面60Aに表示される領域画像RIMGを、ステップS101で取得された視点座標PVに応じて切り出し、切り出された領域画像RIMGを、画面60Aの形状(本実施形態では矩形)に合わせて変形する。
【0077】
このように、ステップS104において、プロセッサ100は、車外画像P40(外界画像の一例)から、画面60Aに表示させる領域の領域画像RIMGを、乗員2の視点座標PV(乗員の視点の情報の一例)に応じて切り出す切り出し部として動作する。
【0078】
なお、ステップS104において、プロセッサ100は、画面60Aの全域に亘る領域画像RIMGを車外画像P40から切り出さず、例えば、窓枠画像FIMGの開口部OPに収まる領域だけを車外画像P40から切り出してもよい。後者の場合、画像処理対象が、画面60Aの全域に相当する大きさでなく、窓枠画像FIMGが模した窓枠に囲われる領域(開口部OP)に限られる。そのため、前者と比べて、領域画像RIMGを生成する際の、プロセッサ100の処理負担が軽減される。
【0079】
プロセッサ100は、合成画像CIMGを生成する(ステップS105)。すなわち、プロセッサ100は、ステップS104で生成された領域画像RIMGが、ステップS102で生成された窓枠画像FIMGの開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成する。
【0080】
このように、ステップS105において、プロセッサ100は、領域画像RIMGが、画面60A上の窓枠画像FIMG(投影画像の一例)の開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成する画像合成部として動作する。
【0081】
プロセッサ100は、ステップS105で生成された合成画像CIMGを表示装置60に出力する(ステップS106)。これにより、図2に例示されるように、領域画像RIMGと窓枠画像FIMGとを合成した合成画像CIMGが表示装置60の画面60Aに表示される。
【0082】
このように、ステップS106において、プロセッサ100は、合成画像CIMGを表示装置60に出力する画像出力部として動作する。
【0083】
図8に示される画像処理の実行中、例えば乗員2が身体を動かすことによって視点座標PVが移動すると、視点座標PVの移動に応じて、画面60Aに写る車外の風景(領域画像RIMG)がリアルタイムに変わるとともに、窓枠画像FIMGの投影角度がリアルタイムに変わる。そのため、乗員2は、目の位置と表示画像との関係を直感的に理解することができ、見たいと思っている外界の画像が画面60Aを通じて見えるように目の位置を直感的かつ容易に調節することができる。乗員2は、恰も、ダッシュボードに設けられた窓枠から車外を視認する状態を体験できる。
【0084】
図9は、本発明の変形例1に係る表示制御システム1の構成を示すブロック図である。
【0085】
図9に示されるように、変形例1に係る表示制御システム1は、センサ70を備える。センサ70は、車両周囲の物体(人、物等であり、以下「障害物」と記す。)を検知するためのセンサであり、例えば、カメラ、ミリ波レーダ、準ミリ波レーダ、超音波センサ、LiDAR(Light Detection and Ranging)である。
【0086】
図9に示されるように、変形例1に係るECU10は、障害物検知部100Eを備える。障害物検知部100Eは、センサ70より入力される情報に基づいて車両周囲の障害物を検知する。
【0087】
変形例1においても、プロセッサ100は、上記の実施形態と同様に、視点座標PVを取得し(ステップS101)、窓枠画像FIMGを生成し(ステップS102)、車外画像P40を取得し(ステップS103)、領域画像RIMGを生成し(ステップS104)、合成画像CIMGを生成し(ステップS105)、合成画像CIMGを表示装置60に出力する(ステップS106)。
【0088】
図10は、変形例1においてプロセッサ100により実行される合成画像CIMGの生成処理(ステップS105)のサブルーチンを示す図である。
【0089】
図10に示されるように、プロセッサ100は、センサ70より入力される情報に基づいて車両周囲の障害物を検知する(ステップS105A)。
【0090】
このように、ステップS105Aにおいて、プロセッサ100は、車両の周囲の物体を検知する物体検知部として動作する。
【0091】
車両周囲で障害物が検知されなければ(ステップS105B:NO)、プロセッサ100は、ステップS104で生成された領域画像RIMGが、ステップS102で生成された窓枠画像FIMGの開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成する(ステップS105F)。
【0092】
車両周囲の障害物が検知されると(ステップS105B:YES)、プロセッサ100は、この障害物が画面60Aに写らない位置にあるか否かを判定する(ステップS105C)。
【0093】
なお、車両周囲で複数の障害物が検知された場合、ステップS105Cにおいて、プロセッサ100は、複数の障害物のなかから、最も優先して警告すべき1つの障害物を選択し、選択された障害物が画面60Aに写らない位置にあるか否かを判定する。一例として、プロセッサ100は、車体に最も近い障害物を最も優先して警告すべき障害物として選択する。
【0094】
障害物が画面60Aに写る位置にある場合(ステップS105C:NO)、プロセッサ100は、ステップS104で生成された領域画像RIMGが、ステップS102で生成された窓枠画像FIMGの開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成する(ステップS105F)。
【0095】
障害物が画面60Aに写らない位置にある場合(ステップS105C:YES)、プロセッサ100は、この障害物が位置する方向を計算する(ステップS105D)。
【0096】
図11は、ステップS105C~S105Dの処理の説明を補足する図である。図11中、符号400は、障害物検知部100Eにより検知された車両周囲の障害物の座標を示す。
【0097】
プロセッサ100は、障害物検知部100Eにより検知された障害物の座標400が参照範囲HC外に位置するか否かによって、障害物が画面60Aに写らない位置にあるか否かを判定する。障害物の座標400が参照範囲HC外に位置する場合、プロセッサ100は、障害物が画面60Aに写らない位置にあると判定する。障害物の座標400が参照範囲HC内に位置する場合、プロセッサ100は、障害物が画面60Aに写る位置にあると判定する。
【0098】
障害物の座標400が参照範囲HC外に位置する場合、プロセッサ100は、視点座標PVと座標400とを結ぶ線分L1と拡張面160Aとの交点IP1を計算する。拡張面160Aは、画面60Aを拡張した面であり、画面60Aを含む仮想的な面である。
【0099】
プロセッサ100は、拡張面160A上に、画面60Aの中心60aと交点IP1とを結ぶ線分L2と窓枠画像FIMGとが交差する位置IP2を計算する。位置IP2は、障害物検知部100Eにより検知された障害物が位置する方向を示す。
【0100】
プロセッサ100は、窓枠画像FIMG内の位置IP2にアラート画像AIMGを表示する(ステップS105E)。例示的には、プロセッサ100は、乗員2が位置IP2を視覚的に認識できるように、位置IP2に、窓枠画像FIMGの他の部分と異なる色を着色する。
【0101】
アラート画像AIMGは、例えば障害物の情報を示す画像であってもよい。例えばセンサ70がカメラの場合、アラート画像AIMGは、障害物検知部100Eにより検知された障害物を写すリアルタイムの動画であってもよい。この動画は、例えばピクチャインピクチャで画面60Aに表示される。附言するに、この動画は、画面60Aのうち、障害物検知部100Eにより検知された障害物が位置する方向に寄せた領域に表示される。
【0102】
アラート画像AIMGは、乗員2の視線を位置IP2に誘導する画像や動画であってもよい。例示的には、アラート画像AIMGは、画面60Aの中心60aから位置IP2に徐々に移動する矢印画像である。
【0103】
このように、ステップS105Eにおいて、プロセッサ100は、物体検知部により検知された物体が領域画像RIMGに写らない位置にある場合、位置IP2(物体が位置する方向に対応する枠の部分の一例)にアラートを表示するアラート表示部として動作する。
【0104】
プロセッサ100は、ステップS104で生成された領域画像RIMGが、ステップS105Eで生成された、アラート画像AIMGを含む窓枠画像FIMGの開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成する(ステップS105F)。
【0105】
図12は、変形例1において乗員2から見た車内の一部を示す図である。変形例1では、乗員2は、図12に例示されるアラート画像AIMGを通じて、運転上注意すべき障害物の存在を把握することができる。
【0106】
次は、変形例2の説明を示す。
【0107】
変形例2においても、プロセッサ100は、上記の実施形態と同様に、視点座標PVを取得し(ステップS101)、窓枠画像FIMGを生成し(ステップS102)、車外画像P40を取得し(ステップS103)、領域画像RIMGを生成し(ステップS104)、合成画像CIMGを生成し(ステップS105)、合成画像CIMGを表示装置60に出力する(ステップS106)。
【0108】
図13は、変形例2においてプロセッサ100により実行される合成画像CIMGの生成処理(ステップS105)のサブルーチンを示す図である。
【0109】
図13に示されるように、プロセッサ100は、車両に関する情報を取得する(ステップS105a)。車両に関する情報は、例えば、車速センサで検知される車両の速度である。車両に関する情報は、車両の速度に限らず、例えば、車両に装備される計器類を用いて取得される他の情報であってもよい。以下、車両に関する情報は、便宜上「車両情報」と記される。
【0110】
このように、ステップS105aにおいて、プロセッサ100は、移動体に関する情報を取得する情報取得部として動作する。
【0111】
プロセッサ100は、ステップS105aで取得された車両情報に応じて窓枠画像FIMGを変形させる(ステップS105b)。例示的には、プロセッサ100は、車両情報を窓枠画像FIMGに重畳して表示できるように、窓枠画像FIMGの一部の幅を広げる。
【0112】
このように、ステップS105bにおいて、プロセッサ100は、情報取得部により取得された情報に応じて窓枠画像FIMG(投影画像の一例)を変形させる形状変形部として動作する。
【0113】
プロセッサ100は、ステップS104で生成された領域画像RIMGが、ステップS105bで形状が変形された窓枠画像FIMGの開口部OPに写るように、領域画像RIMGと窓枠画像FIMGとを合成する(ステップS105c)。
【0114】
プロセッサ100は、ステップS105aで取得された車両情報を、ステップS105cで生成された合成画像CIMGに重畳する(ステップS105d)。
【0115】
このように、ステップS105dにおいて、プロセッサ100は、情報取得部により取得された情報を合成画像CIMGに重畳する重畳部として動作する。附言するに、重畳部として動作するプロセッサ100は、合成画像CIMGに含まれる、形状変形部による変形後の窓枠画像FIMG(投影画像の一例)上に、ステップS105aで取得された情報を重畳する。
【0116】
図14は、変形例2において乗員2から見た車内の一部を示す図である。図14中、符号500は、合成画像CIMGに重畳される車両情報の一例を示す。乗員2は、画面60Aを通じて、車速等の車両情報を確認することができる。
【0117】
車両情報を複数表示させる場合、プロセッサ100は、窓枠画像FIMGの複数個所を変形させ、それぞれの個所に車両情報を表示させてもよい。乗員2は、HMI50を操作して、表示させる車両情報の種類、各種車両情報の表示位置、各種車両情報の表示タイミング等を適宜設定することができる。
【0118】
変形例2では、窓枠画像FIMGの形状が車両情報に応じて変形されるが、本発明の構成はこれに限らない。窓枠画像FIMGの形状は、車両情報を表示させるスペースが予め確保された形状であってもよい。例示的には、窓枠画像FIMGの形状は、速度メータや各種インジケータの表示を想定した形状であってもよい。
【0119】
例えば、乗員2が画面60Aに表示される車両情報をタッチすることにより、車両に対するインタラクティブな操作が行われるようにしてもよい。
【0120】
以上が本発明の例示的な実施形態の説明である。本発明の実施形態は、上記に説明したものに限定されず、本発明の技術的思想の範囲において様々な変形が可能である。例えば明細書中に例示的に明示される実施形態等又は自明な実施形態等を適宜組み合わせた内容も本願の実施形態に含まれる。
【0121】
例えば、表示装置60の設置位置は、ダッシュボードに限らない。表示装置60は、例えばピラー部に設置されてもよい。
【0122】
画面60Aの表示内容は、車両前方の画像に限らず、表示装置60と乗員2との位置関係に依存する。例えば、表示装置60が乗員2の側方に位置する場合、車両側方を含む画像が画面60Aに表示される。また、例えば、表示装置60が乗員2の後方に位置する場合、車両後方を含む画像が画面60Aに表示される。
【0123】
ECU10には、車体の異なる位置に設置された複数台の車外カメラ40が接続されてもよい。車外画像P40は、例えば、車両前方を撮影するフロントカメラ、車両側方を撮影する左右の一対のサイドカメラの各撮影画像を組み合わせたものであってもよい。この場合、プロセッサ100は、例えばフロントカメラでは捉えきれない広範囲の車外画像P40を取得することができる。
【0124】
車外画像P40は、リアルタイムの撮影画像に限らず、例えば過去の撮影画像であってもよい。
【0125】
窓枠画像FIMGは、色、質感等の見た目が変化してもよい。例示的には、窓枠画像FIMGは、太陽等の光源の位置に応じて陰影がリアルタイムに変化するように描画されてもよい。
【符号の説明】
【0126】
1 :表示制御システム
10 :ECU
20 :車内カメラ
30 :DMS
40 :車外カメラ
50 :HMI
60 :表示装置
70 :センサ
100 :プロセッサ
100A :視点情報取得部
100B :枠描画部
100C :画像変形部
100D :重畳部
100E :障害物検知部
200 :記憶装置
200A :画像処理プログラム
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14