(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023175488
(43)【公開日】2023-12-12
(54)【発明の名称】画像補正システム
(51)【国際特許分類】
H04N 7/18 20060101AFI20231205BHJP
B60R 11/04 20060101ALI20231205BHJP
B60R 1/29 20220101ALI20231205BHJP
【FI】
H04N7/18 J
H04N7/18 U
B60R11/04
B60R1/29
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022087952
(22)【出願日】2022-05-30
(71)【出願人】
【識別番号】000004260
【氏名又は名称】株式会社デンソー
(74)【代理人】
【識別番号】110000578
【氏名又は名称】名古屋国際弁理士法人
(72)【発明者】
【氏名】清水 隆
【テーマコード(参考)】
3D020
5C054
【Fターム(参考)】
3D020BA04
3D020BA20
3D020BC02
3D020BE03
5C054CA04
5C054CC02
5C054DA07
5C054EA03
5C054FC12
5C054FF03
5C054HA30
(57)【要約】
【課題】車両とクラウドとの間で通信を行って、車内の汚れ等の異常に関する処理を行う場合に、事業者や車両を利用する利用者にとって好ましい技術を提供する。
【解決手段】画像補正システム1は、車両3に搭載されたカメラ19によって撮影された画像のデータが、車載装置5及びクラウド7を介して、表示装置9に送信可能に構成されている。画像補正システム1は、傾き検出ユニット41と補正処理ユニット43とを備える。傾き検出ユニット41は、カメラ19で撮影された撮影画像について、所定の向きに対する傾きを検出するように構成されている。補正処理ユニット43は、傾き検出ユニット41にて検出された傾きに基づいて、撮影画像の傾きを目的とする向きとなるように補正して、表示装置9に表示するための表示画像を作成するように構成されている。
【選択図】
図1
【特許請求の範囲】
【請求項1】
車両(3)に搭載されたカメラ(19)によって撮影された画像のデータが、車載装置(5)及び前記車両外の装置(7)を介して、表示装置(9)に送信可能に構成された、画像補正システム(1)であって、
前記カメラで撮影された前記画像を示す撮影画像について、所定の向きに対する傾きを検出するように構成された傾き検出ユニット(41)と、
前記傾き検出ユニットにて検出された前記傾きに基づいて、前記撮影画像の前記傾きを目的とする向きとなるように補正して、前記表示装置に表示するための表示画像を作成するように構成された補正処理ユニット(43)と、
を備えた画像補正システム。
【請求項2】
請求項1に記載の画像補正システムであって、
前記車両の室内を撮影した前記撮影画像に基づいて、前記補正を行うように構成された、
画像補正システム。
【請求項3】
請求項2に記載の画像補正システムであって、
前記車両の前記室内には、前記室内における位置を示すマーカ(71)が配置されており、前記マーカを含む前記撮影画像に基づいて、前記補正を行うように構成された、
画像補正システム。
【請求項4】
請求項1に記載の画像補正システムであって、
前記車両の周囲を撮影した前記撮影画像に基づいて、前記補正を行うように構成された、
画像補正システム。
【請求項5】
請求項1に記載の画像補正システムであって、
前記カメラが複数ある場合に、あるカメラで撮影した前記撮影画像に基づいて、他のカメラで撮影した前記撮影画像に対して前記補正を行うように構成された、
画像補正システム。
【請求項6】
請求項1に記載の画像補正システムであって、
前記車両に搭載された車載装置にて、前記傾き検出ユニット及び前記補正処理ユニットの処理を行うように構成された、
画像補正システム。
【請求項7】
請求項1に記載の画像補正システムであって、
前記車両外の装置にて、前記傾き検出ユニット及び前記補正処理ユニットの処理を行うように構成された、
画像補正システム。
【請求項8】
請求項6または請求項7に記載の画像補正システムであって、
前記表示装置は、前記車両外の装置から送信された前記表示画像のデータに基づいて、前記表示画像の表示を行うように構成された、
画像補正システム。
【請求項9】
請求項1に記載の画像補正システムであって、
前記車両に搭載された車載装置にて、前記傾き検出ユニットの処理を行うとともに、前記撮影画像のデータに前記傾きのデータを付与するように構成された、
画像補正システム。
【請求項10】
請求項1に記載の画像補正システムであって、
前記車両外の装置にて、前記傾き検出ユニットの処理を行うとともに、前記撮影画像のデータに前記傾きのデータを付与するように構成された、
画像補正システム。
【請求項11】
請求項9または請求項10に記載の画像補正システムであって、
前記表示装置は、前記車両外の装置から送信された前記撮影画像のデータと前記傾きのデータとに基づいて前記表示画像を作成して、当該表示画像の表示を行うように構成された、
画像補正システム。
【請求項12】
請求項1に記載の画像補正システムであって、
前記車両の始動時に、前記傾き検出ユニット及び前記補正処理ユニットの処理を行うように構成された、
画像補正システム。
【請求項13】
請求項1に記載の画像補正システムであって、
前記車両の始動後に、常時、前記傾き検出ユニット及び前記補正処理ユニットの処理を行うように構成された、
画像補正システム。
【請求項14】
請求項1に記載の画像補正システムであって、
前記車両の始動後に、少なくとも一度、前記車両の室内を撮影した前記撮影画像に基づいて、前記補正を行うように構成された、
画像補正システム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、カメラで撮影された画像を補正する技術に関する。
【背景技術】
【0002】
従来、車載のカメラで車両の周囲を撮影し、その撮影した画像のデータ(即ち、画像データ)を記録する各種の技術が提案されている(例えば、特許文献1参照)。また、カメラとしては、カメラの前側(即ち、撮影対象に向く側)にレンズを配置し、カメラの後側にディスプレイを配置した構成が知られている。
【0003】
上述したカメラを車両に搭載する場合には、例えばカメラをフロントガラスに貼る場合や、ダッシュボード上に置く場合などがある。
ところが、カメラには上下が規定されているので、カメラをフロントガラスに貼る場合とダッシュボード上に置く場合とでは、ディスプレイに表示される画像(即ち、表示画像)が上下逆になってしまう。
【0004】
例えば、カメラの取付部をフロントガラスに貼り付けて、カメラを吊るすように取り付ける場合に、カメラの後側のディスプレイの表示画像の上下が正しく表示される装置では、カメラの上下を逆にして取付部をダッシュボード上に固定し、取付部上にカメラが位置するようにすると、ディスプレイでは表示画像の上下が逆転されて表示されてしまう。
【0005】
なお、カメラを傾けて設置した場合にも、上述した理由によって、ディスプレイに表示される表示画像も傾いてしまう。
このカメラの取付方法によって表示画像が上下逆になるという問題に対しては、カメラに表示画像の上下を逆転させるスイッチを設けて、手動で表示画像の上下を補正する装置が知られている。また、カメラにGセンサを配置して、カメラの傾き(例えば、カメラの上下に関する取付状態)を検知し、カメラの傾きに合せて、ディスプレイの表示画像の上下を調整する(例えば、表示画像を逆転させる)装置も知られている。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、発明者の詳細な検討の結果、従来の技術について、下記のような課題が見出された。
具体的には、カメラに表示画像の上下を逆転させるスイッチを設ける場合には、カメラの構造が複雑になるという問題があり、しかも、手動でスイッチを操作する必要があるので、カメラの利用に手間がかかって不便であるという問題がある。
【0008】
また、Gセンサを用いて表示画像の上下を切り替える構成の場合には、Gセンサが必要になるので、カメラの構造が複雑になるという問題がある。さらに、カメラの構造が複雑になることにより、製造コストが増加するという問題もある。
【0009】
なお、カメラと別体にディスプレイを設け、ディスプレイ側にて表示画面の上下を切り替える場合にも、同様な問題がある。
本開示の一局面は、カメラの構造が複雑になることを抑制するとともに、利用者にとって利便性が高い技術を提供することを目的としている。
【課題を解決するための手段】
【0010】
本開示の一態様の画像補正システム(1)は、車両(3)に搭載されたカメラ(19)によって撮影された画像のデータが、車載装置(5)及び車両外の装置(例えば、クラウド等のサーバ)(7)を介して、表示装置(9)に送信可能に構成された、画像補正システムである。
【0011】
この画像補正システムは、傾き検出ユニットと補正処理ユニットとを備える。
傾き検出ユニットは、カメラで撮影された画像である撮影画像について、所定の向きに対する傾きを検出するように構成されている。
【0012】
補正処理ユニットは、傾き検出ユニットにて検出された傾きに基づいて、撮影画像の傾きを目的の向きとなるように補正して、表示装置に表示するための表示画像を作成するように構成されている。
【0013】
このような構成により、本開示の一態様の画像補正システムでは、カメラの構造が複雑になることを抑制するとともに、利用者にとって利便性が高い技術を提供することができる。
【0014】
本開示では、例えば、カメラが車両に対して傾いていることにより、カメラで撮影した撮影画像が、所定の向き(例えば、車両における上側の向き)に対して傾いている場合でも、その傾きを目的とする向き(例えば、車両や表示装置における上側の向き)に一致するように補正することができる。よって、このように補正して得られた表示画像を表示装置に表示することにより、その表示装置を見た人の画像に対する違和感を抑制できる。例えば、表示装置には、車両の上側が上となった表示画像を表示できるので、違和感が生じにくくなる。
【0015】
しかも、本開示では、上述のように撮影画像自身を利用して撮影画像の傾きを補正するので、従来のように、画像の傾きを修正するためのスイッチやGセンサを省略することができる。よって、カメラの構造を簡易化できるとともに、利用者の利便性が向上するという顕著な効果を奏する。
【0016】
なお、傾き検出ユニットは、車載装置又は前記車両外の装置に設けることができる。また、補正処理ユニットは、車載装置又は前記車両外の装置又は表示装置に設けることができる。
【0017】
また、この欄及び特許請求の範囲に記載した括弧内の符号は、一つの態様として後述する実施形態に記載の具体的手段との対応関係を示すものであって、本開示の技術的範囲を限定するものではない。
【図面の簡単な説明】
【0018】
【
図1】第1実施形態の画像補正システムの全体構成を示すブロック図である。
【
図2】第1実施形態のクラウドの第2制御部を機能的に示すブロック図である。
【
図4】カメラで車内を撮影した撮影画像を模式的に示す説明図である。
【
図5】
図5Aはカメラが傾いていない場合の撮影画像を模式的に示す説明図、
図5Bはカメラが傾いていない場合の表示画像を模式的に示す説明図である。
【
図6】
図6Aはカメラが車両に対して傾いている状態を示す説明図、
図6Bはカメラが傾いている場合の撮影画像を模式的に示す説明図、
図5Cはカメラが傾いている場合の補正無しの表示画像を模式的に示す説明図、
図5Dはカメラが傾いている場合の補正後の表示画像を模式的に示す説明図である。
【
図7】カメラでマーカのある車内を撮影した撮影画像を模式的に示す説明図である。
【
図8】
図8Aはカメラが傾いていない場合の建物の撮影画像及び表示画像を模式的に示す説明図、
図8Bはカメラが傾いている場合の建物の撮影画像を模式的に示す説明図である。
【
図9】
図9Aはカメラが傾いている場合の道路の撮影画像を模式的に示す説明図、
図9Bはカメラが傾いている場合の道路標識の撮影画像を模式的に示す説明図、
図9Cはカメラが傾いている場合の風景の撮影画像を模式的に示す説明図である。
【
図10】第1実施形態の画像補正システムの処理の手順を示す説明図である。
【
図11】第1実施形態の画像補正システムの制御処理を示すフローチャートである。
【
図12】第2実施形態の画像補正システムの処理の手順を示す説明図である。
【
図13】第2実施形態の画像補正システムの制御処理を示すフローチャートである。
【
図14】第3実施形態の画像補正システムの処理の手順を示す説明図である。
【
図15】第3実施形態の表示装置における表示方法を示す説明図である。
【
図16】第3実施形態の画像補正システムの制御処理を示すフローチャートである。
【
図17】第4実施形態の画像補正システムの処理の手順を示す説明図である。
【
図18】第4実施形態の画像補正システムの制御処理を示すフローチャートである。
【発明を実施するための形態】
【0019】
以下、本開示の例示的な実施形態について図面を参照しながら説明する。
[1.第1実施形態]
本第1実施形態では、モビリティIoTシステムの一例として、車両(例えば、自動車)に搭載されたカメラで撮影された画像の傾きを補正する画像補正システムについて説明する。なお、IoTは、Internet of Thingsの略である。
【0020】
[1-1.全体構成]
まず、本第1実施形態の画像補正システム1の全体構成を、
図1に基づいて説明する。
図1に示すように、画像補正システム1は、車両3に搭載された車載装置5と、クラウド(即ち、クラウドサーバ)7と、画像の表示が可能な表示装置9と、を備える。
【0021】
図1では便宜上、1のみの車載装置5を記載しているが、画像補正システム1は、例えば、複数の車載装置5を備えていてもよく、複数の車載装置5は、それぞれ、異なる車両3に搭載されていてもよい。
【0022】
車載装置5は、車両3側の第1通信部11を介して、クラウド7と無線による通信が可能である。この車載装置5は、クラウド7に対して、画像などのデータを送信可能である。なお、車両3及び車載装置5の詳しい構成は後述する。
【0023】
クラウド7は、クラウド7側の第2通信部13を介して、車載装置5や表示装置9と無線による通信可能である。このクラウド7は、車載装置5から、画像などのデータを収集することができ、表示装置9に、画像のデータなどを送信することができる。なお、クラウド7の詳しい構成は後述する。
【0024】
表示装置9は、画像(即ち、表示画像)を表示可能な装置である。この表示装置9は、表示装置9側の第3通信部15を介して、クラウド7と無線による通信可能である。つまり、表示装置9は、クラウド7から送信された画像などのデータに基づいて、画像(例えば、傾きが補正された画像)を、自身のディスプレイ17に表示することが可能である。
【0025】
表示装置9としては、例えば、ディスプレイ17を備えたノートパソコン、デスクトップタイプのパソコン及びディスプレイ17が挙げられる。また、携帯端末(即ち、情報端末)である、スマートフォン、タブレット端末などが挙げられる。なお、本第1実施形態では、主として、ノートパソコンを例に挙げて説明するが、それに限定されるものではない。なお、表示装置9の詳しい構成は後述する。
【0026】
以下、各構成について詳細に説明する。
[1-2.車両側の構成]
まず、車両3側の構成を、
図1に基づいて説明する。
【0027】
図1に示すように、車両3は、車載装置5とカメラ19とを備えている。なお、後述するように、車両3の内部(即ち、車内)に、画像を表示可能なディスプレイを有する表示装置(図示せず)を備えていてもよい。
【0028】
カメラ19は、車内または車外(例えば、車両3の周囲の風景等)を撮影するために用いられるものであり、車内に1又は複数台配置される。カメラ19としては、例えばCCDカメラ等のデジタルカメラを採用できる。なお、撮影される画像としては、カラー画像を採用できる。
【0029】
カメラ19の取付位置としては、フロントガラスの上部、ルームミラー付近、天井、ダッシュボード上などが挙げられる。カメラ19の撮影範囲としては、例えば、車内を撮影する場合には、シート61や窓63やドア等が含まれる範囲が挙げられる(
図4参照)。
【0030】
<車載装置>
次に、車載装置5について、詳細に説明する。
車載装置5は、第1通信部11と第1記憶部21と第1制御部23とを備える。
【0031】
第1通信部11は、上述のように、クラウド7に対して、第2通信部13を介して、画像データ等を無線にて送信することができる。
第1記憶部21は、情報を記憶することができるストレージである。この第1記憶部21には、例えば、カメラ19で撮影した画像(即ち、撮影画像)の情報(即ち、画像データ)等を記憶することができる。なお、第1記憶部21としては、例えば、ハードディスクドライブ(即ち、HDD)やソリッドディスクドライブ(即ち、SSD)が挙げられる。
【0032】
第1制御部23は、CPU25と、例えば、RAM又はROM等の半導体メモリ(以下、メモリ27とする)とを備える。なお、第1制御部23は、例えば、マイクロコンピュータ等により構成されている。
【0033】
第1制御部23の機能は、非遷移的実体的記録媒体(即ち、メモリ27)に格納されたプログラムをCPU25が実行することにより実現される。また、このプログラムが実行されることで、プログラムに対応する方法が実行される。
【0034】
なお、第1制御部23の各種機能を実現する手法はソフトウェアに限るものではなく、その一部又は全部の要素について、一つあるいは複数のハードウェアを用いて実現してもよい。例えば、上記機能がハードウェアである電子回路によって実現される場合、その電子回路は多数の論理回路を含むデジタル回路、又はアナログ回路、あるいはこれらの組合せによって実現してもよい。
【0035】
[1-3.クラウド側の構成]
次に、クラウド7側の構成を、
図1、
図2に基づいて説明する。
クラウド7は、第2通信部13と第2記憶部31と第2制御部33とを備える。
【0036】
第2通信部13は、第1通信部11や第3通信部15との間で無線通信を行うことができる。例えば、クラウド7では、第1通信部11及び第2通信部13を介して、車載装置5から送信された画像データ等を受信することができ、第2通信部13及び第3通信部15を介して、表示装置9に画像データ等を送信することができる。
【0037】
第2記憶部31は、車載装置5の第1記憶部21と同様な情報を記憶するストレージであり、カメラ19で撮影した撮影画像の画像データ等を記憶することができる。
第2制御部33は、CPU35と、例えば、RAM又はROM等の半導体メモリ(以下、非遷移的実体的記録媒体であるメモリ37とする)とを備える。第2制御部33の構成や機能は、前記車載装置5の第1制御部23と基本的に同様であり、メモリ37に格納されたプログラムをCPU35が実行することにより実現される。また、このプログラムが実行されることで、プログラムに対応する方法が実行される。
【0038】
なお、上述した構成のクラウド7は、複数の車載装置5のそれぞれから、第1通信部11を介して送信された車両3のデータを収集することができる。さらに、クラウド7は、車両3ごとに、収集したデータを第2記憶部31に記憶することができる。
【0039】
また、クラウド7は、第2記憶部31に記憶されている車両3のデータに基づき、デジタルツインを作成する。デジタルツインは、正規化されたインデックスデータである。
なお、クラウド7が、サービス提供サーバ(図示せず)に接続されている場合には、デジタルツインから取得したインデックスデータを用いて第2記憶部31に記憶されている所定の車両3のデータを取得することができる。サービス提供サーバは、車両3の制御内容を決定し、制御内容に対応する指示をクラウド7に送信することができる。クラウド7は、その指示に基づき、車両3へ制御内容を送信することができる。
【0040】
<クラウドの第2制御部の機能的な構成>
ここで、クラウド7の第2制御部33の機能的な構成について説明する。
図2に示すように、第2制御部33は、機能的に、傾き検出ユニット41と補正処理ユニット43とを備えている。
【0041】
傾き検出ユニット41は、カメラ19で撮影された撮影画像について、所定の向き(例えば、車両3の上下方向における上側の向き)に対する傾き(例えば、前記上側の向きからの回転角)を検出するように構成されている。
【0042】
なお、ここでは、「向き」とは、例えば上下方向やY軸方向のような方向における向き(例えば、ベクトルの向きや時針の向きような向き)である。なお、「上側の向き」を、単に、「上向き」と称することがある。
【0043】
補正処理ユニット43は、傾き検出ユニット41にて検出された前記傾きに基づいて、撮影画像の傾きを目的の向き(例えば、カメラ19が傾いていない場合の本来の撮影画像の向き)となるように補正して、表示装置9に表示する表示画像を作成するように構成されている。
【0044】
例えば、撮影画像を、カメラ19が傾いていない場合のように、撮影画像の上側が車両3の上側となるように補正して、表示画像を作成する。
従って、後述するように、ディスプレイ17では、表示画像の車両3の上側がディスプレイ17の上側となるように表示される。
【0045】
[1-4.表示装置の構成]
次に、表示装置9の構成を、
図1に基づいて説明する。
表示装置9は、例えば、ノートパソコンであり、第3通信部15と第3記憶部51と第3制御部53とディスプレイ17とを備える。
【0046】
第3通信部15は、上述のように、クラウド7から、第2通信部13を介して、画像データ等を無線にて受信することができる。
第3記憶部51は、車載装置5の第1記憶部21と同様な情報を記憶するストレージであり、クラウド7から送信された画像データ等を記憶することができる。
【0047】
第3制御部53は、CPU57と、例えば、RAM又はROM等の半導体メモリ(以下、非遷移的実体的記録媒体であるメモリ59とする)とを備える。第3制御部53の構成や機能は、前記車載装置5の第1制御部23と基本的に同様であり、メモリ59に格納されたプログラムをCPU57が実行することにより実現される。また、このプログラムが実行されることで、プログラムに対応する方法が実行される。
【0048】
ディスプレイ17は、表示装置9において、各種の画像等を表示する部分(例えば、液晶ディスプレイ)である。ディスプレイ17は、例えば、クラウド7から送信された画像データに基づいて、撮影画像の傾きを補正した表示画像を表示することができる。
【0049】
ディスプレイ17は、正面から見た場合の形状が例えば長方形であり、表示装置9が、水平な面に載置して使用される場合は、ディスプレイ17の一方の長辺が上側の端部、他方の長辺が下側の端部となる。
【0050】
[1-5.画像の傾きを検出して補正する方法]
次に、カメラ19で撮影された撮影画像を補正して、補正後の目的とする向きの画像である表示画像を作成する方法(即ち、補正方法)について説明する。
【0051】
本第1実施形態では、後述するように、車内を撮影する場合には、撮影画像の傾きを車両3の天井側が上側となるように補正して表示画像を作成する。そして、ディスプレイ17では、表示画像の上側(即ち、車両3の天井側)をディスプレイ17の上側と一致するように表示する。
【0052】
また、車外を撮影する場合には、撮影画像の傾きを風景等の空側が上側となるように補正して表示画像を作成する。そして、ディスプレイ17では、表示画像の上側(即ち、空側)をディスプレイ17の上側と一致するように表示する。
【0053】
なお、以下では、
図3に示すように、X軸、Y軸、Z軸が直交する各直交座標系を例に挙げる。
例えば、車両3の座標系SZにおいては、Y軸が車両3の上下方向、X軸が車両3の前方から見て左右方向、Z軸が前後方向を示す。なお、この座標系SZの原点としては、例えば車両3の重心が挙げられる。
【0054】
また、カメラ19の座標系CZとしては、Z軸がカメラ19の光軸方向、Y軸がカメラ19の上下方向、X軸がカメラ19のレンズ側(例えば、室内側)と反対側から見た場合の左右方向を示す。
【0055】
ディスプレイ17の座標系DZとしては、Y軸がディスプレイ17の上下方向(短手方向)、X軸がディスプレイ17の左右方向(長手方向)、Z軸がディスプレイ17の表示面に垂直な方向を示す。
【0056】
なお、X軸方向の+側をX+、-側をX-とし、Y軸方向の+側をY+、-側をY-とし、Z軸方向の+側をZ+、-側をZ-とする。Z+は
図3の紙面の裏側の方向とし、Z-は同紙面の表側の方向とする。
【0057】
本第1実施形態では、ディスプレイ17では、以下に述べるように、撮影画像の傾きを補正した表示画像、即ち、車両3や風景等における上側の向き(上向き)がディスプレイ17の上側の向き(上向き)と一致するように補正した表示画像を表示する。
【0058】
つまり、車両3の上下方向や風景等の上下方向と、ディスプレイ17の上下方向とは同じであるので、目的とする向きとして、上下方向において、上方を示す向き(即ち、上向き)を例に挙げて説明する。
【0059】
補正方法としては、複数考えられるので、以下では、各種の補正方法について説明する。
<車内を撮影した画像に基づいて補正する方法>
ここでは、カメラ19が、車内を撮影するように、例えばフロントガラスに取り付けられている場合を例に挙げる。
【0060】
カメラ19の光軸(座標系CZのY軸方向)は、車両3の前後方向(座標系SZのY軸方向)と平行とする。なお、カメラ19の光軸と車両3の前後方向とが平行でない場合でも、後述する補正の原理から、撮影画像の上下等の傾きの補正は可能であるので、ここでは分かり易い例を挙げて説明する。
【0061】
なお、カメラ19の上下と撮影画像の上下とは同じであり、カメラ19の上下は、例えば、光を受けるイメージセンサの配置やイメージセンサの座標等により、予めカメラ19自体によって決まっている。
【0062】
最初に、カメラ19の上下方向における上方への向きである上向き(Y+)と、車両3の上下方向における上方への向きである上向き(Y+)と、が一致している場合、即ち、カメラ19が光軸を中心にして回転して傾いていない場合について説明する。
【0063】
カメラ19が傾いていない場合には、カメラ19で車内を撮影すると、
図4に示すように、その撮影された画像(即ち、撮影画像)においては、車内のシート61や窓63等の構造物の上下も一致する。例えば、撮影画像において、シート61の背もたれ61aの上端部分は上方にあり、座面部分61bは下方にある。
【0064】
従って、ディスプレイ17には、この撮影画像が表示画像としてそのまま表示される。つまり、撮影画像の上下とディスプレイ17の上下が一致するように表示される。詳しくは、車両3の内部を撮影した撮影画像について、車両3の上側がディスプレイ17の上側となり、車両3の下側がディスプレイ17の下側となるように表示される。
【0065】
このことを
図5A及び
図5Bを用いて詳細に説明する。なお、
図5A及び
図5Bでは、撮影画像のうち、後方の窓63のみを模式的に台形で示しており、台形の下底が窓63の下側にて車両3の左右方向に延びる線状の端部(下端)を示し、下底よりも短い上底が窓63の上側にて車両3の左右方向に延びる線状の端部(上端)を示す。
【0066】
なお、車両3が、水平な地面上にある場合には、窓63の上端及び下端は水平であって、車両3の上下方向を示す鉛直方向に対して垂直である。
前記
図3に示すように、車両3の前方から見て、カメラ19が車両3に対して傾いていない場合には、カメラ19のY軸方向及び向き(例えば、上向き:Y+)と車両3のY軸方向及び向き(例えば、上向き:Y+)とは、同様な方向及び同様な向きである。
【0067】
従って、カメラ19で撮影された撮影画像(
図5A参照)をディスプレイ17に表示すると、
図5Bに示すように、カメラ19の上下及び車両3の上下及びディスプレイ17の上下が一致しているので、カメラ19で撮影された撮影画像がそのまま表示される。つまり、撮影画像の上下と表示画像の上下とが一致している。詳しくは、撮影画像の台形の窓63の上下と表示画像の台形の窓63の上下とは一致している。
【0068】
それに対して、車両3の前方から見て、カメラ19が、光軸を中心として回転して、車両3に対して傾いている場合(
図6A参照)には、カメラ19の向き(例えば、上向き)と車両3の向き(例えば、上向き)とは異なる。なお、カメラ19が光軸を中心にして180度回転している場合には、カメラ19と車両3のY軸方向は一致するが、上下が逆転しているのでそれぞれの向き(即ち、カメラ19の上側と車両3の上側)は逆になる。
【0069】
例えば、
図6Aに示すように、カメラ19のY軸が車両3の前方から見てα度(例えば、45度)右に回転している場合には、カメラ19の向き(例えば、上向き:Y+)も右に例えば45度回転した状態となっている。
【0070】
この状態で、カメラ19で車内を撮影すると、車内の構造物は、カメラ19の回転方向とは逆に回転した画像となる。つまり、
図6Bに示すように、カメラ19の撮影画像は、左側に45度(即ち、右側に315度)回転して傾いた状態となる。なお、カメラ19の上側の向き(上向き)と撮影画像の上側の向き(上向き)とは同じである。
【0071】
従って、この撮影画像をそのまま(即ち、補正なしで)ディスプレイ17に表示すると、カメラ19の上側の向き(即ち、上向き)とディスプレイ17の上向きとが一致するように表示される。即ち、撮影画像の上向きと表示画像の上向きとが一致するように表示される。つまり、
図6Cに示すように、撮影画像の通りに、車内の構造物が左側に45度回転して傾いた状態で表示される。
【0072】
このように表示されると、通常ではあまり考えられない向きの画像であるので、当然ながらこの画像を見る人には違和感が生じる。そこで、本第1実施形態では、違和感が生じないように撮影画像を補正する。
【0073】
つまり、
図6Dに示すように、車内の構造物の上側がディスプレイ17の上側となり、構造物の下側がディスプレイ17の下側となるように、カメラ19の傾きに起因する撮影画像の傾きを補正する。すなわち、撮影画像を右側に45度回転させるように補正して、表示画面を作製し、この補正によって得られた表示画像をディスプレイ17に表示する。
【0074】
このように、本第1実施形態では、ディスプレイ17では、撮影画像の傾きを補正した表示画像、即ち、車両3における上側の向き(上向き)がディスプレイ17の上側の向き(上向き)と一致するように補正した表示画像を表示する。
【0075】
従って、カメラ19に傾きがあっても、カメラ19の傾きがない場合のような画像をディスプレイ17に表示することができる。これによって、ディスプレイ17に表示された画像の違和感を低減できるので、非常に見やすい画像となる。
【0076】
ここで、撮影画像を補正するために用いられる車内の構造物としては、例えば、車両3の左右方向や上下方向を認識できる各種の構造物を採用できる。
例えば、上述したように、後側の窓63の線状の上端や下端、シート61の背もたれ61aの上端は、車両3の左右方向と一致しているので、車両3の左右方向を認識する場合に利用できる。なお、台形の窓63の上端と下端の長さの違いや、台形の左右の端部の傾きから、窓63の上下を判別することもできる。また、天井の中央にランプがある場合には、撮影画像において、ランプがある方向を上下方向における上向きと判断することができる。
【0077】
<車内に配置されたマーカを撮影した画像に基づいて補正する方法>
図7に示すように、車内に、車内における位置を示すマーカ71を配置し、そのマーカ71の画像から、撮影画像の傾きを検出することができる。
【0078】
具体的には、
図7に示すように、例えば、車内において、上側の左右と下側の左右に、それぞれ各位置を示す例えば二次元コードのようなマーカ71を配置しておく。なお、上側の左右のマーカ71をつなぐラインと下側の左右のマーカ71をつなぐラインは平行である。また、左右のマーカ71は、車両3の座標系SZのY軸を中心にして線対称の位置にある。
【0079】
従って、カメラ19によって車内を撮影した場合には、各マーカ71が写るので、各マーカ71の画像から各マーカ71の位置(即ち、車内における上下左右の位置)を認識することができる。つまり、各マーカ71から、車両3の上下方向や左右方向に加えて、各方向における向きも把握することができる。
【0080】
さらに、例えば、上側の左右のマーカ71から、車両3の上側が分かり、しかも、その左右のマーカ71を繋ぐラインは車両3における左右を示しているので、マーカ71を撮影した撮影画像から、カメラ19(従って、撮影画像)が、車両3に対してどの程度傾いているかを把握できる。
【0081】
従って、撮影画像の傾きが検出できるので、上述のように、撮影画像の傾きを補正することにより、正しい向きの表示画像を表示することができる。
<車外の風景等を撮影した画像に基づいて補正する方法>
車外の風景等を撮影した撮影画像から、下記のようにして、カメラ19(従って、撮影画像)の傾きを検出することができる。なお、後述するように、車外の風景等を撮影した撮影画像を用いる場合には、風景等(即ち、車外の周囲)の鉛直方向の上方がディスプレイ17の上方となるように、ディスプレイ17に画像が表示される。
【0082】
ここでは、説明を容易にするために、車両3が水平な地面上にある場合を例に挙げて説明する。
a)車両3の前方の建物65を撮影した撮影画像を利用
カメラ19が、光軸を回転の中心として、車両3の上下方向(従って、鉛直方向)に対して傾いていない場合には、前記
図5Aや
図5Bと同様に、撮影画像の上下はディスプレイ17の上下(即ち、表示画像の上下)と一致している。
【0083】
従って、建物65を撮影した場合には、
図8Aに示すように、建物65の屋根67は、撮影画像及び表示画像において、側面の壁(即ち、外壁)69よりも上部に表示されるので、ディスプレイ17に表示された画像に違和感がない。
【0084】
一方、カメラ19が傾いている場合には、車内を撮影した場合と同様に、建物65が傾いて撮影されるので、そのままディスプレイ17に表示されると違和感がある。
例えば、
図8Bに示すように、カメラ19が、光軸を中心して前記上下方向の上向きに対してα度(例えば、45度)右側に回転している場合には、撮影画像は、α度左側に回転した画像(例えば、建物65が傾いた画像)となる。そのため、撮影画像の傾きを補正する必要がある。
【0085】
ここでは、撮影画像に対して画像認識等の処理を行って、撮影された物体が建物65であることが検出された場合について説明する。
例えば、物体の外形が、平行な直線と当該平行な直線に対して垂直に延びる直線とを含むような線によって囲まれているような場合には、つまり、一方が凸のような外形線によって囲まれているような場合には、物体が建物65とみなしてもよい。
【0086】
よって、建物65を構成する前記平行な直線を、外壁69を構成する直線であるとして、この直線の方向を鉛直方向と見なすことができる。この場合、前記外壁69の直線に対して垂直に延びる直線を屋根67の上端と見なすことにより、鉛直方向における上方(上向き)を検出することができる。従って、撮影画像における上下方向の上向きに対して、外壁69の直線の傾きを検出することにより、撮影画像の傾きを検出することができる。
【0087】
よって、この撮影画像の傾きを、撮影画像における外壁69の直線が本来の鉛直方向と一致するように補正する。詳しくは、外壁69の直線が、正しい位置の本来のカメラ19の上下方向(即ち、本来の撮影画像の上下方向)と一致し、且つ、屋根67が鉛直方向における上側(即ち、表示画面の上側)となるように補正する。
【0088】
具体的には、例えば、撮影画像を例えば45度右回転させて補正することにより、上下の違和感のない(例えば、屋根67側が上側に向くような)表示画像を作成することができる。
【0089】
b)車両3の前方の道路を撮影した撮影画像を利用
図9Aに示すように、道路上に白線等が真っ直ぐに伸びている場合には、路側の白線やセンターライン等を用いて、撮影画像の傾きを検出することができる。
【0090】
例えば、左側通行の場合は、左側の白線とセンターラインとの中央の仮想ラインを求め、この仮想ラインが、カメラ19が傾いていない場合の本来のカメラ19の位置から撮影したときの車両3の前後方向(従って、本来の撮影画像における上下方向)とみなす。
【0091】
従って、実際の撮影画像の上下方向(例えば、上向き)に対する仮想ラインの傾きを、撮影画像の傾きとして検出して、仮想ラインが上下方向となるように撮影画像を回転させて補正する。なお、このときには、仮想ラインの上端側(即ち、車両3から遠い側)が撮影画像の上側となるように補正する。
【0092】
また、
図9Bに示すように、撮影画像に道路標識がある場合には、公知の画像認識により、道路標識から鉛直方向及び上方を認識できる。
つまり、道路標識から文字等を認識した場合には、鉛直方向における上方を認識することができるので、撮影画像の傾きを検出できる。なお、道路標識の支柱から、鉛直方向を認識できる。
【0093】
また、撮影画像にガードレールやガードレールの支柱がある場合にも、公知の画像認識により、鉛直方向や上方(即ち、空の側である上側)を認識できる。つまり、支柱は鉛直方向に沿って延びており、ガードレールは、支柱の上部に配置されているので、鉛直方向や上方を認識できる。なお、電柱などについても同様である。
【0094】
従って、検出した傾きに基づいて、撮影画像の傾きが無くなるように補正して、表示画像を作成することができる。
c)車両3の前方の地形を撮影した撮影画像を利用
図9Cに示すように、公知の画像認識により、例えば昼間に、撮影画像に撮影画像を横断する直線が認識された場合において、直線で区分された一方の領域が明るく、他方の領域(斜線で示す領域)が前記一方の領域より暗い場合には、一方の領域を空、他方の領域を陸又は海とみなすことができる。
【0095】
なお、他方の領域に道路や建物65がある場合には陸、海岸線と見なすような湾曲した線がある場合には海とみなすこともできる。
このような場合は、前記直線を地平線又は水平線とみなすことができるので、この地平線や水平線を利用して、撮影画像の傾きを検出することができる。
【0096】
例えば、水平線に直交するラインを鉛直方向のラインとみなして、この鉛直方向のラインが、撮影画像の上下方向に対してどの程度傾いているかを検出できる。なお、この場合、空側が鉛直方向の上側となるように補正する。
【0097】
従って、検出した傾きに基づいて、撮影画像の傾きが無くなるように補正して、表示画像を作成することができる。
なお、車外を撮影した画像を利用する場合には、地面が水平面に対して傾斜しているときでも(例えば、車両3の左右が傾いている場合でも)、撮影画像の上下が補正されるので、ディスプレイ17には、正しい上下方向の表示画像(即ち、空側がディスプレイ17の上側に表示される表示画像)を表示することができる。
【0098】
[1-6.全体的な処理の手順]
次に、
図10に基づいて、本第1実施形態の画像補正システム1の全体的な処理の手順を説明する。なお、
図10では、前記
図1に示す構成のうち、要部を選択して記載してある。
【0099】
本第1実施形態では、撮影画像の傾きを検出する処理と撮影画像の傾きを補正する処理とを、クラウド7にて実施する。
図10に示すように、本第1実施形態では、カメラ19で撮影された画像(即ち、撮影画像)のデータを、車載装置5からクラウド7に送信する。次に、クラウド7にて撮影画像の補正(即ち、傾きの補正)を行って表示画像を作成する。次に、その表示画像のデータを表示装置9に送信し、表示装置9のディスプレイ17にて表示画像の表示を行う。
【0100】
以下、詳細に説明する。
図10に示すように、カメラ19にて、例えば車外(例えば、車両3の前方)又は車内を撮影する。なお、ここでは、車外の風景を撮影した撮影画像を例に挙げて説明する。この撮影画像では、斜線部分の陸と白色の空と地平線とが撮影された画像を例に挙げる。
【0101】
なお、
図10に示す撮影画像を、車内の後方を撮影した画像としてもよい。この場合には、斜線で示す後方のドアとそのドアの白色の窓と窓の下端のラインとが撮影された画像としてもよい。
【0102】
ここでは、車両3が水平面上にある場合について述べる(以下、他の実施形態も同様)。なお、地面が傾いている場合には、カメラ19が車両3に対して傾いていないときでも、車外の撮影画像は傾いた画像となる。つまり、カメラ19が車外の風景等に対して傾いている場合には、上下が正しくない画像となる(以下、他の実施形態も同様)。しかし、その場合にも、撮影画像の上下を認識する処理を行うので、車外の風景等が傾いた撮影画像から、車外を撮影した画像として、上下が正しい違和感の少ない表示画像が得られる。
【0103】
一方、車内の撮影画像を利用する場合には、カメラ19が車両3に対して傾いているときには、地面の傾きにかかわらず、前記と同様に、撮影画像の上下を認識する処理を行うので、車内において傾いた撮影画像であっても、車内を撮影した画像として、上下が正しい違和感の少ない表示画像が得られる。
【0104】
まず、
図10に示すように、カメラ19が車両3に対して傾いて取り付けられている場合には、カメラ19によって撮影された撮影画像(即ち、左端の画像)も、空と陸との上下が正しくない画像が得られる。即ち、上下方向が正しくない撮影画像が得られる。なお、以下では、上下方向は、どちらが上でどちらが下であるかが分かる方向を示しており、正しい上下方向とは、正しい上向き且つ正しい下向きである方向を示している。
【0105】
なお、
図10の左端の画像は、本来の上下方向が正しい撮影画像(即ち、カメラ19が傾いていない場合の撮影画像)に対して、右側に135度回転した撮影画像を表示している。
【0106】
次に、カメラ19で撮影された撮影画像の画像データは、車載装置5の第1制御部23に送られ、第1通信部11のアンテナ11aからクラウド7に送信される。
次に、クラウド7に送信された画像データは、第2制御部33に送られて、表示向きが補正される。即ち、上下方向が正しくない撮影画像の傾きを補正して、上下方向が正しい表示画像を作成する。例えば、前記右側に135度回転している撮影画像を、左側に135度回転させる。これにより、空が上側で陸が下側で、地平線が水平の(即ち、表示画像の左右方向と一致する)画像となる。
【0107】
次に、クラウド7から表示装置9に、前記表示向きの補正済み画像データ(即ち、表示画像の画像データ)を送信する。この画像データは第3制御部53に送られ、第3制御部53の処理によりディスプレイ17に表示される。
【0108】
これにより、ディスプレイ17には、撮影画像の傾きが補正された正しい上下方向の表画像が表示される。つまり、ディスプレイ17には、
図10の右端の画像に示すように、空が上側で陸が下側で、地平線が水平の表示画像(即ち、地平線が表示画像の左右方向と一致する表示画像)表示される。
【0109】
[1-7.制御処理]
次に、画像補正システム1にて実施される制御処理について、
図11に基づいて説明する。なお、本制御処理は、例えば、車外を撮影する場合は、車両3の始動後に、常時実施するようにしてもよい。また、車内を撮影する場合は、車両3の始動後に、少なくとも一度(例えば、イグニッションスイッチのオンの始動時)実施するようにしてもよい。
【0110】
図11のS100では、車載装置5が、カメラ19により車外(又は車内)を撮影する。
続くS110では、車載装置5が、カメラ19で撮影された画像(即ち、撮影画像)を第1制御部23に取り込む。
【0111】
続くS120では、車載装置5は、撮影画像の画像データを第1通信部11からクラウド7に送る。
続くS130では、クラウド7の第2制御部33は、画像データの傾き(即ち、上下方向)を認識し、画像データを正しい上下方向となるように補正する。
【0112】
ここで、正しい上下方向とは、上述したように、上下方向のどちらが上でどちらが下かの意味も含むものであり、例えば、車外の画像を利用する場合は、鉛直方向の上下を示し、車内の画像を利用する場合は、車両3の上下方向における上下を示す。従って、ディスプレイ17では、補正後の画像の上下方向とディスプレイ17の上下方向とが一致するように表示される。
【0113】
続くS140では、クラウド7は、補正された画像データ(即ち、表示画像の画像データ)を、表示装置9に送る。
続くS150では、ディスプレイ17に、補正された画像データによる画像(即ち、表示画像)を表示し、一旦本処理を終了する。
【0114】
[1-8.効果]
本第1実施形態によれば、以下の効果が得られる。
(1a)本第1実施形態は、カメラ19で撮影された撮影画像について、例えば車両3の上下方向(例えば、上向き)に対する傾きを検出し、撮影画像を正しい上下方向となるように補正し、その補正した表示画像を表示装置9のディスプレイ17に表示する。
【0115】
これにより、例えばカメラ19が車両3に対して傾いていることにより、カメラ19で撮影した撮影画像が、車両3の上下方向(例えば、上向き)に対して傾いている場合でも、その傾きを目的とする向き(例えば、車両3やディスプレイ17の上側の向き)に一致するように補正することができる。
【0116】
よって、このように補正して得られた表示画像をディスプレイ17に表示することにより、そのディスプレイ17を見た人の画像に対する違和感を抑制できる。つまり、ディスプレイ17には、車両3の上側が上となった上下方向の正しい表示画像を表示できるので、違和感が生じにくくなる。
【0117】
また、カメラ19が車外の風景に対して傾いている場合も同様に補正できるので、つまり、空側が上で陸側や海側が下となるように補正できるので、表示画像の違和感を低減できる。
【0118】
(1b)しかも、本第1実施形態では、上述のように撮影画像の傾きを補正するので、従来のように、画像の傾きを修正するためのスイッチやGセンサを省略することができる。よって、カメラ19の構造を簡易化できるとともに、利用者の利便性が向上するという顕著な効果を奏する。
【0119】
(1c)カメラ19で撮影する撮影画像としては、車内の構造物やマーカ71、又は、車外(即ち車両の周囲)の風景等が挙げられる。つまり、車内のシート61や窓63やマーカ71、或いは、車外の建物65、道路、標識、風景等を撮影した撮影画像に基づいて、撮影画像の傾きを補正することができる。
【0120】
(1d)撮影画像の傾きの検出や補正は、クラウド7にて実施できるが、後述するように、車載装置5にて実施してもよい。
[1-9.対応関係]
次に、本第1実施形態と本開示との関係について説明する。
【0121】
画像補正システム1は画像補正システムに対応し、車両3は車両に対応し、車載装置5は車載装置に対応し、クラウド7はクラウドに対応し、表示装置9は表示装置に対応し、カメラ19はカメラに対応し、傾き検出ユニット41は傾き検出ユニットに対応し、補正処理ユニット43は補正処理ユニットに対応する。
【0122】
[2.第2実施形態]
次に、第2実施形態について説明する。第2実施形態は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
【0123】
本第2実施形態の画像補正システム1のハード構成は、第1実施形態と同じであるので、その説明は省略する。
本第2実施形態では、撮影画像の傾きを検出する処理と撮影画像の傾きを補正する処理とを、車載装置5で実施する。
【0124】
[2-1.処理の手順]
図12に示すように、カメラ19にて、車外又は車内を撮影する。ここでは、車外の風景を撮影した撮影画像を例に挙げて説明する。
【0125】
図12の左端の画像に示すように、カメラ19が例えば水平な地面上の車両3に対して傾いて取り付けられている場合には、カメラ19によって撮影された撮影画像も、空と陸との上下が正しくない画像となる。
【0126】
なお、カメラ19が車外の風景等に対して傾いている場合も、上述した様に、上下が正しくない画像となる。
次に、カメラ19で撮影された撮影画像の画像データは、車載装置5の第1制御部23に送られ、表示向きが補正される。即ち、上下方向が正しくない撮影画像の傾きを補正して、上下方向が正しい表示画像を作成する。
【0127】
次に、車載装置5の第1通信部11からクラウド7に、前記表示向きの補正済み画像データ(即ち、表示画像の画像データ)を送信する。
次に、クラウド7から表示装置9に、前記表示向きの補正済み画像データを送信する。この画像データは、第3制御部53の処理によりディスプレイ17に表示される。
【0128】
これにより、ディスプレイ17には、撮影画像の傾きが補正された正しい上下方向の表画像が表示される。
[2-2.制御処理]
次に、本第2実施形態の制御処理について、
図13に基づいて説明する。
【0129】
図13のS200では、車載装置5が、カメラ19により車外(又は車内)を撮影する。
続くS210では、車載装置5が、カメラ19で撮影された画像(撮影画像)を第1制御部23に取り込む。
【0130】
続くS220では、第1制御部23にて、画像データの傾き(即ち、上下方向)を認識し、画像データを正しい上下方向となるように補正する。
続くS230では、車載装置5は、補正された画像データを第1通信部11からクラウド7に送る。
【0131】
続くS240では、クラウド7は、前記補正された画像データを、表示装置9に送る。
続くS250では、ディスプレイ17に、補正された画像データによる画像(即ち、表示画像)を表示し、一旦本処理を終了する。
【0132】
本第2実施形態では、第1実施形態と同様な効果を奏する。
[3.第3実施形態]
次に、第3実施形態について説明する。第3実施形態は、基本的な構成は第1実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第1実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
【0133】
本第3実施形態の画像補正システム1のハード構成は、第1実施形態と同じであるので、その説明は省略する。
本第3実施形態では、クラウド7にて撮影画像の傾きを検出してベクトルの付与を行う処理を行い、表示装置9にて撮影画像の傾きを補正する処理を実施する。
【0134】
[3-1.処理の手順]
図14に示すように、カメラ19にて、車外又は車内を撮影する。ここでは、車外の風景を撮影した撮影画像を例に挙げて説明する。
【0135】
カメラ19で撮影された撮影画像の画像データは、車載装置5の第1制御部23に送られ、第1通信部11のアンテナ11aからクラウド7に送信される。
次に、クラウド7では、第2制御部33にて、画像データに上下方向ベクトルV1を付与する。この上下方向ベクトルV1とは、例えば車両3の上下方向(例えば、上向き)に対して、画像がどの程度傾いているベクトルを示すものであり、例えば(x、y)の座標で示される単位ベクトルが挙げられる。なお、この座標の原点としては、例えば、撮影画像の上下左右における中心が挙げられる。
【0136】
また、上下方向ベクトルV1以外に、上下方向(例えば、上向き)に対して、画像がどの程度回転しているかを示す回転角のデータを付与してもよい。
次に、クラウド7から表示装置9に、上下方向ベクトルV1のデータを付与した画像データを送信する。
【0137】
次に、表示装置9では、第3制御部53にて、上下方向ベクトルV1に基づいて撮影画像の画像データを補正して、正しい上下方向の表示画像を作成し、ディスプレイ17に表示する。
【0138】
これにより、
図15に示すように、表示装置9のディスプレイ17には、撮影画像の傾きが補正された正しい上下方向の表示画像が表示される。つまり、画像データの上下方向ベクトルV1と、表示装置9(従って、ディスプレイ17)における向きを示す表示装置9の上下方向ベクトルV2と、が一致するように処理された表示画像が表示される。
【0139】
なお、
図15の上図及び中図では、ディスプレイ17の上下方向と鉛直方向とが一致している場合を示している。また、
図15の下図では、携帯端末のディスプレイ17のように、鉛直方向に対してディスプレイ17の上下方向が傾いている場合を示している。なお、携帯端末の傾きはGセンサ等により検出できる。
【0140】
[3-2.制御処理]
次に、本第3実施形態の制御処理について、
図16に基づいて説明する。
図16のS300では、車載装置5が、カメラ19により車外(又は車内)を撮影する。
【0141】
続くS310では、車載装置5が、カメラ19で撮影された画像(撮影画像)を第1制御部23に取り込む。
続くS320では、車載装置5は、撮影画像の画像データを第1通信部11からクラウド7に送る。
【0142】
続くS330では、クラウド7は、第2制御部33にて、画像データの傾き(即ち、上下方向)を認識し、画像データに上下方向ベクトルV1を付与する。
続くS340では、クラウド7から表示装置9に、上下方向ベクトルV1のデータを付与した画像データを送信する。
【0143】
続くS350では、表示装置9の第3制御部53にて、画像データの上下方向ベクトルV1と、表示装置9(従って、ディスプレイ17)の上下方向ベクトルV2と、が一致するように、撮影画像の傾きを補正する。
【0144】
これにより、上下方向の正しい表示画像が作成されるので、この表示画像をディスプレイ17に表示し、一旦本処理を終了する。
本第3実施形態では、第1実施形態と同様な効果を奏する。
【0145】
[4.第4実施形態]
次に、第4実施形態について説明する。第4実施形態は、基本的な構成は第3実施形態と同様であるため、以下では主として第1実施形態との相違点について説明する。なお、第3実施形態と同じ符号は、同一構成を示すものであって、先行する説明を参照する。
【0146】
本第4実施形態の画像補正システム1のハード構成は、第1実施形態と同じであるので、その説明は省略する。
本第4実施形態では、車載装置5にて撮影画像の傾きを検出してベクトルの付与を行う処理を行い、表示装置9にて撮影画像の傾きを補正する処理を実施する。
【0147】
[4-1.処理の手順]
図17に示すように、カメラ19にて、車外又は車内を撮影する。ここでは、車外の風景を撮影した撮影画像を例に挙げて説明する。
【0148】
カメラ19で撮影された撮影画像の画像データは、車載装置5の第1制御部23に送られる。第1制御部23では、画像データに上下方向ベクトルV1を付与する。
次に、第1通信部11のアンテナ11aからクラウド7に、上下方向ベクトルV1のデータを付与した画像データを送信する。
【0149】
次に、クラウド7から表示装置9に、上下方向ベクトルV1のデータを付与した画像データを送信する。
第3制御部53では、上下方向ベクトルV1に基づいて撮影画像の画像データを補正して、正しい上下方向の表示画像を作成し、ディスプレイ17に表示する。
【0150】
[4-2.制御処理]
次に、本第4実施形態の制御処理について、
図18に基づいて説明する。
図18のS400では、車載装置5が、カメラ19により車外(又は車内)を撮影する。
【0151】
続くS410では、車載装置5が、カメラ19で撮影された画像(撮影画像)を第1制御部23に取り込む。
続くS42では、車載装置5の第1制御部23にて、画像データの傾き(即ち、上下方向)を認識し、画像データに上下方向ベクトルV1を付与する。
【0152】
続くS430では、車載装置5はクラウド7に、上下方向ベクトルV1のデータを付与した画像データを送信する。
続くS440では、クラウド7は、表示装置9に、上下方向ベクトルV1のデータを付与した画像データを送信する。
【0153】
続くS450では、表示装置9の第3制御部53にて、画像データの上下方向ベクトルV1と、表示装置9(従って、ディスプレイ17)の上下方向ベクトルV2と、が一致するように、撮影画像の傾きを補正する。
【0154】
これにより、上下方向の正しい表示画像が作成されるので、この表示画像をディスプレイ17に表示し、一旦本処理を終了する。
本第4実施形態では、前記第3実施形態と同様な効果を奏する。
【0155】
[5.他の実施形態]
以上、本開示の実施形態について説明したが、本開示は、上記実施形態に限定されることなく、種々の形態を採り得ることは言うまでもない。
【0156】
(5a)各実施形態における制御処理は、車両の始動後に、常時実施するようにしてもよい。また、車両の室内を撮影した撮影画像に基づいて補正を行う場合には、車両の始動後に、少なくとも一度実施するようにしてもよい。
【0157】
(5b)カメラ(例えば、車内を撮影するカメラ)が複数ある場合に、あるカメラで撮影した撮影画像に基づいて上述した傾きを検出し、他のカメラで撮影した撮影画像に対して上述した補正を行うようにしてもよい。
【0158】
例えば、車内の2列目を撮影するカメラAと、3列目を撮影するカメラBとがあり、カメラAとカメラBとは、車両の上下方向と垂直な天井に対して、同じ姿勢で取り付けられていることが分かっている場合、カメラBの傾き補正はカメラAの補正情報に基づいて補正し、カメラB自身の画像からは補正検出はしない。これにより、カメラA、カメラBそれぞれで傾き補正する場合に比べて、制御部の処理負荷を軽減することができる。
【0159】
(5c)ディスプレイを備えた表示装置としては、上述したように、車外にて例えばカーシェアリング等の事業者や個人で使用するパソコンや携帯端末が挙げられるが、例えば、車内においてダッシュボード等に配置された表示装置であってもよい。このような表示装置においても、例えば、正しい上下方向の表示画像を表示することができ、運転者等にとって違和感が少なく好適である。
【0160】
(5d)前記クラウド、又は、クラウドの少なくとも一部は、オンプレミスであってもよい。例えば、車外(即ち、車両外)の装置として、クラウドのサーバやオンプレミスのサーバを採用できる。また、クラウドは、パブリッククラウドや、プライベートクラウド、オンプレミスなどを組み合わせたハイブリッドクラウドであってもよい。
【0161】
例えば、各実施形態におけるクラウドの少なくとも一部は、車両又は車載装置を提供する企業が用意した車外のサーバなどの設備で管理、運用されてもよい。
(5e)本開示に記載の画像補正システムは、コンピュータプログラムにより具体化された一つ乃至は複数の機能を実行するようにプログラムされたプロセッサおよびメモリを構成することによって提供された専用コンピュータにより、実現されてもよい。
【0162】
あるいは、本開示に記載の画像補正システムは、一つ以上の専用ハードウェア論理回路によってプロセッサを構成することによって提供された専用コンピュータにより、実現されてもよい。
【0163】
もしくは、本開示に記載の画像補正システムは、一つ乃至は複数の機能を実行するようにプログラムされたプロセッサおよびメモリと一つ以上のハードウェア論理回路によって構成されたプロセッサとの組み合わせにより構成された一つ以上の専用コンピュータにより、実現されてもよい。
【0164】
また、コンピュータプログラムは、コンピュータにより実行されるインストラクションとして、コンピュータ読み取り可能な非遷移有形記録媒体に記憶されてもよい。画像補正システムに含まれる各部の機能を実現する手法には、必ずしもソフトウェアが含まれている必要はなく、その全部の機能が、一つあるいは複数のハードウェアを用いて実現されてもよい。
【0165】
(5f)上述した画像補正システムの他、当該画像補正システムのコンピュータを機能させるためのプログラム、このプログラムを記録した半導体メモリ等の非遷移有形記録媒体、制御方法(即ち、画像補正方向)など、種々の形態で本開示を実現することもできる。
【0166】
(5g)上記各実施形態における1つの構成要素が有する複数の機能を、複数の構成要素によって実現したり、1つの構成要素が有する1つの機能を、複数の構成要素によって実現したりしてもよい。また、複数の構成要素が有する複数の機能を、1つの構成要素によって実現したり、複数の構成要素によって実現される1つの機能を、1つの構成要素によって実現したりしてもよい。また、上記各実施形態の構成の一部を省略してもよい。また、上記各実施形態の構成の少なくとも一部を、他の実施形態の構成に対して付加または置換してもよい。
【符号の説明】
【0167】
1…画像補正システム、3…車両、5…車載装置、7…クラウド、9…表示装置、17…ディスプレイ、19…カメラ、41…傾き検出ユニット、43…補正処理ユニット、71…マーカ