【課題】画像に写り込んだ対象についてのプライバシーを保護しながら運転状況等の状況を把握しやすい画像を生成することができるドライブレコーダ、画像記録方法及び監視装置を提供する。
【解決手段】車両に搭載されたカメラ22によって撮影された画像を記録するドライブレコーダ2は、画像から他車両が写された領域を抽出する画像抽出部26aと、他車両が写された領域に対して、他車両の特徴を反映したプライバシー保護のための画像処理を施す画像処理部26bと、を備える。他車両の特徴を反映したプライバシー保護のための画像処理を施すことによって、画像に写り込んだ対象についてのプライバシーを保護しながら運転状況等の状況を把握しやすい画像を生成することができる。
【発明の概要】
【発明が解決しようとする課題】
【0004】
車両に搭載されたカメラによって撮影した画像をドライブレコーダに記録する場合、ドライブレコーダに記録された画像に対して、画像に写り込んだ人物、他車両の所有者等のプライバシーを保護するための画像処理を施すのが好ましい。
【0005】
しかしながら、ドライブレコーダに記録された画像に対してプライバシーを保護するための画像処理を施した場合、表示装置に表示された画像を見た運転者が運転状況等の状況を把握しにくくなることがある。
【0006】
定点カメラによって撮影した画像に対してプライバシーを保護するための画像処理を施す場合にも、表示装置に表示された画像を見た観察者が状況を把握しにくくなることがある。
【0007】
本発明の目的は、画像に写り込んだ対象についてのプライバシーを保護しながら運転状況等の状況を把握しやすい画像を生成することができる画像処理方法を提供することである。
【課題を解決するための手段】
【0008】
本発明による画像処理方法は、CPUが、カメラによって撮影された画像の画像処理を行う画像処理方法であって、CPUは、カメラによって撮影された画像から、車両が写された領域を抽出する画像抽出ステップと、車両が写された領域を、車両の種別に関連する特徴を反映した車両特徴画像に変換する画像処理ステップと、車両の乗員の特徴を反映した乗員特徴画像を、車両特徴画像に重畳する重畳処理ステップと、を実行することを特徴とする。
【0009】
好適には、CPUは、車両の画像に基づいて車両の種別を特定し、特定した車両の種別に応じた車両特徴画像を、車両の種別と車両特徴画像とを関連付けて記憶する車両画像テーブルを用いて生成する。
【0010】
好適には、CPUは、車両の種別に関する信号を車両から受信した場合、車両から受信した信号によって車両の種別を特定する。
【0011】
好適には、CPUは、車両の乗員の画像に基づいて車両の乗員の特徴を特定し、特定した車両の乗員の特徴に応じた乗員特徴画像を、車両の乗員の特徴と乗員特徴画像とを関連付けて記憶する乗員画像テーブルを用いて生成する。
【0012】
好適には、CPUは、車両の走行に関する情報を反映した走行情報画像を生成する。
【0013】
好適には、CPUは、車両の運転者の生体情報を反映した生体情報画像を生成する。
【0014】
本発明による他の画像処理方法は、CPUが、カメラによって撮影された画像の画像処理を行う画像処理方法であって、CPUは、カメラによって撮影された画像から、車両が写された領域を抽出する画像抽出ステップと、車両が写された領域を、車両の種別に関連する特徴を反映した車両特徴画像に変換する画像処理ステップと、車両の乗員の特徴を反映した乗員特徴画像を、車両特徴画像に重畳する重畳処理ステップと、を実行し、画像処理ステップにおいて、車両の種別に関する信号を車両から受信した場合、車両から受信した信号によって車両の種別を特定し、特定した車両の種別に応じた車両特徴画像を、車両の種別と車両特徴画像とを関連付けて記憶する車両画像テーブルを用いて生成することを特徴とする。
【発明の効果】
【0015】
本発明によれば、画像に写り込んだ対象についてのプライバシーを保護しながら運転状況等の状況を把握しやすい画像を生成することができる。
【発明を実施するための形態】
【0017】
本発明による画像処理方法を、図面を参照しながら詳細に説明する。図面中、同一構成要素には同一符号を付す。
図1は、本発明による画像処理方法を実施するドライブレコーダを配置した車両の概略図である。自動車等の車両1に搭載されたドライブレコーダ2は、内蔵したカメラで車両1の周辺を撮影し、撮影して得られた画像を記録する。本実施の形態では、画像の記録は、急ブレーキ、衝突等のイベントの発生に関係なくドライブレコーダ2の駆動開始から駆動終了まで継続して行われる。また、本実施の形態では、ドライブレコーダ2が記録した画像を表示装置3に表示することによって、運転者は自らの運転状況を検証することができる。
【0018】
図2は、本発明による画像処理方法を実施するドライブレコーダに記録された画像の閲覧の一例を説明するための図である。
図2に示すように、ドライブレコーダ2によってメモリカード4に記録したデータをコンピュータ5に入力することができる。この場合、運転者等は、記録された画像をコンピュータ5のディスプレイで閲覧し、画像の編集を行うことができる。
【0019】
図3は、本発明による画像処理方法を実施するドライブレコーダの一実施の形態の構成を示す図である。ドライブレコーダ2は、ACCスイッチ6がオンになると車両1に備えられているバッテリ7から電力が供給されて駆動を開始し、ACCスイッチ6がオフになるとバッテリ7から供給される電力が遮断されて停止する。
【0020】
ドライブレコーダ2は、RAM21と、カメラ22と、処理回路23と、マイクロフォン24と、不揮発性メモリ25と、CPU26と、操作部27と、加速度センサ28と、カードスロット29と、画像出力部30と、計時回路31と、を備える。
【0021】
RAM21は、CPU26の演算処理の作業対象となる記憶領域と、画像データを一時的に記憶する画像記憶領域と、音声データを一時的に記憶する音声記憶領域と、を有する。
【0022】
カメラ22は、レンズ及び撮像素子を備え、ドライブレコーダ2の駆動中に継続して撮像を行う。
【0023】
処理回路23は、カメラ22で取得された画像を処理するハードウェア回路である。処理回路23は、カメラ22から入力される画像信号に対して輝度補正、コントラスト補正、圧縮等の画像処理を行い、JPEG形式等の画像データを生成する。処理回路23において処理された画像は、RAM21の画像記憶領域に記憶される。
【0024】
マイクロフォン24は、車両1付近で集音を行い、音声データを取得する。取得された音声データは、RAM21の音声記憶領域に記憶される。
【0025】
不揮発性メモリ25は、例えば、フラッシュメモリによって構成される。不揮発性メモリ25は、ファームウェアとしてのプログラムの他に各種制御に用いられるデータを記憶している。
【0026】
CPU26は、不揮発性メモリ25に記憶されたプログラムに従って演算処理を実行することによってドライブレコーダ2の各部に対する制御を行う。本実施の形態では、CPU26は、画像抽出部26aと、画像処理部26bと、イベント検出部26cと、を有する。
【0027】
画像抽出部26aは、プライバシー保護の対象となる検出対象物が写っている領域(以下、「対象物画像」)を画像から抽出する。本実施の形態では、検出対象物は、他車両及び人物であり、以下、他車両が写っている領域を「他車両画像」と称し、人物が映っている領域を「人物画像」と称する。例えば、画像抽出部26aは、検出対象物画像検出用に予め学習されたAdaBoost、サポートベクトルマシンのような種別(例えば、車種)ごとに設定された識別器(図示せず)を用いて対象物画像を抽出する。例えば、画像抽出部26aは、画像に対して検出ウィンドウを設定し、検出ウィンドウが設定された領域から、識別器で利用される特徴量を抽出する。特徴量は、例えば、HOG特徴量である。そして、画像抽出部26aは、抽出した特徴量を識別器に入力することによって、検出ウィンドウが設定された領域に対象物画像が存在するか否かの結果を得る。画像抽出部26aは、上記の処理を検出ウィンドウの位置を変えながら繰り返すことによって、画像中に検出対象物が存在するか否かを判断し、検出対象物が存在する場合には、検出対象物画像を抽出し、種別と関連付けてRAM21の記憶領域に記憶させる。上述した処理は一例であり、検出対象物画像すなわち他車両画像及び人物画像を抽出するために他の処理を適用することもできる。
【0028】
画像処理部26bは、種別を特定した人物画像に対して人物の特徴を反映したプライバシー保護のための画像処理を施し、種別を特定した他車両画像に対して他車両の特徴を反映したプライバシー保護のための画像処理を施す。
【0029】
本実施の形態では、画像処理部26bは、種別を特定した人物画像に対して人物の特徴を反映したプライバシー保護のための画像処理を施すために、人物画像を、人物画像の特徴を反映した人物特徴画像(アバター画像)に変換する。
【0030】
例えば、種別が性別(男性又は女性)及び年齢(大人又は子供)を含む場合、画像処理部26bは、人物画像を、性別(男性又は女性)及び年齢(大人又は子供)を反映した人物特徴画像に変換する。また、種別が顔型、年齢、身長及び服の色を含む場合、画像処理部26bは、人物画像を、性別(男性又は女性)、年齢(大人又は子供)身長及び服の色を反映した人物特徴画像に変換する。
【0031】
図4は、種別と人物特徴画像のアバターとの関係を示すテーブルの一例を示すである。
図4に示すテーブルT1は、不揮発性メモリ25記憶されており、大人の男性を表す人物特徴画像のアバターXXXXXは、大人の男性を表す人物種別A1と対応付けて記憶されており、大人の女性を表す人物特徴画像のアバターYYYYYは、大人の女性を表す人物種別A2と対応付けて記憶されている。
【0032】
また、画像処理部26bは、種別を特定した他車両画像に対して他車両の特徴を反映したプライバシー保護のための画像処理を施すために、他車両画像を、他車両画像の特徴を反映した他車両特徴画像に変換する。例えば、種別が車種及び車の色を含む場合、画像処理部26bは、他車両画像を、車種及び車の色を反映した他車対特徴画像に変換する。
【0033】
図5は、車両種別と他車両特徴画像のコードとの関係を示すテーブルの一例を示すである。
図5に示すテーブルT2は、不揮発性メモリ25記憶されており、赤色の自動車を表す他車両特徴画像のアバターRRRRRRは、赤色の自動車を表す車両種別B1と対応付けて記憶されており、白色の自動車を表す他車両特徴画像のアバターWWWWWは、白色の自動車を表す車両種別B2と対応付けて記憶されている。
【0034】
また、車間通信により車両1が他車両から他車両の年式等の他車両情報に関する信号を受信した場合、画像処理部26bは、他車両画像を、車種、車の色及び他車両情報を反映した別の他車対特徴画像に変換する。この場合、不揮発性メモリ25は、アバター化された別の他車対特徴画像を、
図5のテーブルT2の車両に対応する種別コード(種別コードB1、種別コードB2等)及び他車両情報と対応付けて記憶する。
【0035】
図6は、本発明による画像処理方法を実施するドライブレコーダで行われるプライバシー保護のための画像処理の一例を説明するための図である。
図6Aに示すように、赤色の自動車に対応する他車両画像X、大人の男性に対応する人物画像Y及び大人の女性に対応する人物画像Zが画像に含まれる場合、画像処理部26bは、他車両画像X、人物画像Y及び人物画像Zをそれぞれ他車両特徴画像X’、人物特徴画像Y’及び人物特徴画像Z’に変換する。
【0036】
他車両特徴画像X’は、赤色の自動車であることを表す他車両特徴画像であり、アバター化された他車両特徴画像X’は、
図5に示す種別B1と対応付けて不揮発性メモリ25に記憶されている。
【0037】
人物特徴画像Y’は、大人の男性であることを表す人物特徴画像であり、アバター化された人物特徴画像Y’は、
図4に示す種別A1と対応付けて不揮発性メモリ25に記憶されている。
【0038】
人物特徴画像Z’は、大人の女性であることを表す人物特徴画像であり、アバター化された人物特徴画像Z’は、
図4に示す種別A2と対応付けて不揮発性メモリ25に記憶されている。
【0039】
また、画像処理部26bは、他車両画像X、人物画像Y及び人物画像Zをそれぞれ他車両特徴画像X’、人物特徴画像Y’及び人物特徴画像Z’に変換する際に、他車両画像X、人物画像Y及び人物画像Zをそれぞれ暗号化する。そして、画像処理部26bは、暗号化した他車両画像X、人物画像Y及び人物画像Zを、プライバシー保護のための画像処理が施された対応する画像に関連付けてRAM21の記憶領域に記憶させる。
【0040】
画像処理部26bは、他車両の乗員の特徴を反映した乗員特徴画像を他車両特徴画像に重畳表示させてもよい。乗員特徴画像は、例えば、アバター化された人物特徴画像である。これにより、どのような人物がその車両を運転(又は同乗)していたかを特定することができる。また、画像処理部26bは、画像抽出部26aが他車両に付されたマーク画像(例えば、若葉マーク画像)を抽出した場合、マークを反映する乗員特徴画像として新芽画像を他車両特徴画像に重畳表示させてもよい。この場合、アバター化された新芽画像は不揮発性メモリ25に記憶されている。新芽画像等のマーク画像は、乗員特徴画像の一例である。
【0041】
また、画像処理部26bは、他車両の走行に関する情報を反映した走行情報画像を生成してもよい。例えば、車両1が車間通信により他車両の運転者の連続運転時間を取得した場合には、画像処理部26bは、連続運転時間を他車両特徴画像と共に表示させる。連続運転時間は、他車両の走行に関する情報の一例である。また、車両1が車間通信により他車両が自動運転車両であることを示す信号を受信した場合には、画像処理部26bは、自動運転車両を表す旨の走行情報画像を他車両特徴画像と共に表示させる。また、車両1が車間通信により他車両から危険運転を示す信号(例えば、速度違反であることを示す信号)を受信した場合には、画像処理部は、危険運転を表す旨の走行情報画像を他車両特徴画像と共に表示させる。
【0042】
また、画像処理部26bは、他車両の運転者の生体情報を反映した生体情報画像を生成してもよい。例えば、他車両の運転者が、心拍数を計測するウエアラブルデバイスを装着し、ウエアラブルデバイスが取得した心拍数等の情報に関する信号が他車両のデバイスを介して他車両から車両1に送信される場合、画像処理部26bは、他車両の運転者の生体情報を反映した生体情報画像(例えば、他車両の運転者の心拍数がゼロであることを知らせる生体情報画像)を生成して他車両特徴画像と共に表示させる。
【0043】
また、画像処理部26bは、プライバシー保護のための画像処理を施すために、ぼかし処理を行ってもよい。この場合、ぼかし処理が行われた画像を着色することによって、ぼかし処理が行われた画像間の区別を行う。また、画像処理部26bは、プライバシー保護のための画像処理を施すために、特定の車両(例えば、トラック)については他車両画像を他車両特徴画像に変換する代わりに特定の車両のナンバープレートを画像から消去してもよい。
【0044】
図7は、本発明による画像処理方法を実施するドライブレコーダで行われるプライバシー保護のための画像処理の他の例を説明するための図である。
図7Aに示すように、トラックに対応する他車両画像T1が画像に含まれる場合、画像抽出部26aは、他車両画像Tr1からナンバープレート画像Tr2を抽出し、画像処理部26bは、ナンバープレート画像Tr2を黒塗り画像Tr2’に変換する。
【0045】
画像処理部26bは、ナンバープレート画像Tr2を黒塗り画像Tr2’に変換する際に、ナンバープレート画像Tr2を暗号化する。そして、画像処理部26bは、暗号化したナンバープレート画像Tr2を、プライバシー保護のための画像処理が施された対応する画像に関連付けてRAM21の記憶領域に記憶させる。
【0046】
また、画像処理部26bは、特定の車両(例えば、パトカー)に対してプライバシー保護のための画像処理を施さないようにしてもよい。さらに、画像処理部26bは、画像に含まれる他車両画像の数が予め決定された数(例えば、5)を超えないように画像の調整を行ってもよい。例えば、画像処理部26bは、画像に含まれる他車両画像の数が7個であるときには画像に含まれる他車両画像の数が4個以下になるように画像の調整(例えば、画像の拡大)を行ってもよい。
【0047】
イベント検出部26cは、車両1に対するイベントの発生を検出する。すなわち、イベント検出部26cは、加速度センサ28が検出した加速度に基づいて、車両1に対するイベントの発生の有無を検出する。イベント検出部26cは、イベントの発生を検出したときには、イベントの発生の検出に関する情報(例えば、イベント発生時刻)を対応する画像(例えば、イベント発生時刻に撮影された画像)に関連付けて不揮発性メモリ25に記憶させる。
【0048】
操作部27は、運転者等から各種指示を受け付けるための複数のボタンを含む。操作部27で受け付けたユーザからの指示内容は、電気信号としてCPU26に入力される。カードスロット29は、メモリカード4を着脱可能であり、装着されたメモリカード4に対して、RAM21に記憶された画像データ、音声データ等の読み書きを行う。画像出力部30は、画像データをNTSC等の方式に準拠した映像信号に変換し、表示装置3に出力する。計時回路31は、現在の時刻データをCPU26に送信する。
【0049】
図8は、
図3に示すドライブレコーダのプライバシー保護のための画像処理手順の一例を示すフローチャートである。このフローは、不揮発性メモリ25に予め記憶されているプログラムに基づいて、主に制御部26により、ドライブレコーダ2の各要素と協働して実行される。このフローは、非リアルタイムで又はリアルタイムで実行される。
【0050】
先ず、画像抽出部26aは、画像から他車両画像が抽出されたか否か判断する(ステップS1)。画像から他車両画像が抽出された場合(ステップS1のYes)、画像処理部26bは、他車両画像の種別を特定する(ステップS2)。そして、画像処理部26bは、他車両の特徴を反映したプライバシー保護のための画像処理を行う(ステップS3)。
【0051】
例えば、ステップS2で画像処理部26bが他車両画像の種別が
図5の背景種別B1(赤色の自動車)であることを特定した場合、画像処理部26bは、車両画像を、赤色の自動車であることを表す他車両特徴画像(例えば、
図6の他車両特徴画像X’)に変換する。
【0052】
ステップS3で他車両に対するプライバシー保護のための画像処理を行った後又は画像から他車両画像が抽出されなかった場合(ステップS1のNo)、画像抽出部26aは、画像から人物画像が抽出されたか否か判断する(ステップS4)。画像から人物画像が抽出された場合(ステップS4のYes)、画像処理部26bは、人物画像の人物種別を特定する(ステップS5)。そして、画像処理部26bは、人物の特徴を反映したプライバシー保護のための画像処理を行う(ステップS6)。
【0053】
例えば、ステップS5で画像処理部26bが人物画像の種別が
図4の人物種別A1(大人の男性)であることを特定した場合、画像処理部26bは、人物画像を、大人の男性であることを表す人物特徴画像(例えば、
図6の人物特徴画像Y’)に変換する。
【0054】
ステップS3で人物に対するプライバシー保護のための画像処理を行った後又は画像から他車両画像が抽出されなかった場合(ステップS1のNo)、制御部26は処理を終了する。
【0055】
本実施の形態によれば、他車両の特徴を反映したプライバシー保護のための画像処理を施すことによって、画像に写り込んだ他車両の運転者、所有者等についてのプライバシーを保護しながら運転状況等の状況を把握しやすい画像を生成することができる。
【0056】
例えば、「赤い色の車が走っているのを見た」という証言があった場合、赤色の自動車であることを表す他車両特徴画像がプライバシー保護処理後の画像に含まれているか否かを確認することによって、プライバシーを保護しながら証言が正しいか否かを確認することができる。
【0057】
また、他車両画像を、車種、車の色及び年式を反映した別の他車対特徴画像に変換し、「10年式の赤色のT社のMM(MMは車種)が走っているのを見た」という証言があった場合、10年式の赤色のT社のMMを表す他車両特徴画像がプライバシー保護処理後の画像に含まれているか否かを確認することによって、プライバシーを保護しながら証言が正しいか否かを確認することができる。
【0058】
また、人物の特徴を反映したプライバシー保護のための画像処理を施すことによって、画像に写り込んだ人物についてのプライバシーを保護しながら運転状況等の状況をイメージしうる画像をドライブレコーダ2に記録することができる。
【0059】
また、他車両の乗員(例えば、運転者)の特徴を反映した乗員特徴画像を画像に重畳表示することによって、画像に写り込んだ他車両の乗員についてのプライバシーを保護しながら他車両の乗員の状況を把握しやすい画像を生成することができる。例えば、他車両の運転者に対応する人物画像を抽出し、抽出した人物画像を、青色の服を着た大人の男性を表す人物特徴画像に変換し、「青い服を着た男が逃走車を運転していた」という証言があった場合、青色の服を着た大人の男性を表す人物特徴画像がプライバシー保護処理後の画像に含まれているか否かを確認することによって、プライバシーを保護しながら証言が正しいか否かを確認することができる。人物画像が他車両の運転者であるか否かの判断は、例えば、人物画像の頭部の位置が他車両画像のフロントガラスの位置にあるか否かを画像処理部26bによって判断することによって行われる。
【0060】
また、他車両の走行に関する情報を反映した走行情報画像を生成することによって、画像に写り込んだ他車両についてのプライバシーを保護しながら他車両の走行を把握しやすい画像を生成することができる。
【0061】
また、他車両の運転者の生体情報を反映した生体情報画像を生成することによって、画像に写り込んだ他車両についてのプライバシーを保護しながら他車両の運転者の生体情報を把握しやすい画像を生成することができる。
【0062】
図9は、本発明による画像処理方法を実施する監視装置の一実施の形態の構成を示す図である。監視装置8は、外部電源(図示せず)から電力が供給され、インターネット網を介して各種情報のやり取りを行う。監視装置8は、RAM21と、カメラ22と、処理回路23と、マイクロフォン24と、不揮発性メモリ25と、CPU26’と、画像出力部30と、計時回路31と、を備える。CPU26’は、画像抽出部26aと、画像処理部26bと、を有する。
【0063】
カメラ22が定点カメラであり、カメラ22が店舗、アトラクション等の行列を撮影する場合、監視装置8は、人物画像を人物特徴画像に変換した画像をリアルタイムでWeb配信する。人物画像は対象画像の一例である。CPU26’が人物特徴画像の数から行列の人数及び待ち時間を算出し、待ち時間に応じて表示を変更してもよい。表示の変更は、画像に待ち時間の重畳表示、画像中の人物特徴画像及び建物の色の変更等によって行う。
【0064】
カメラ22が定点カメラであり、カメラ22がバス内、電車内を撮影する場合、監視装置8は、人物画像を人物特徴画像に変換した画像をリアルタイムでWeb配信する。Web配信された画像を見た人は、乗車予定のバス、電車等の混雑具合、空席情報、利用者の年齢層等を確認することができる。
【0065】
カメラ22が定点カメラであり、カメラ22がスーパーマーケット等のレジの会計での行列を撮影する場合、監視装置8は、人物画像を人物特徴画像に変換した画像を表示装置3に表示する。CPU26’がカゴの数及びカゴ内の商品の量の情報から待ち時間を算出し、画像に待ち時間を重畳表示してもよい。
【0066】
本実施の形態によれば、人物、車両等の対象の特徴を反映したプライバシー保護のための画像処理を施すことによって、画像に写り込んだ人物等についてのプライバシーを保護しながらカメラ22で撮影された場所の状況を把握しやすい画像を生成することができる。