(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかし、実際の車両の走行において認識すべき画像領域は、自車両の移動体情報のみならず、他の要因によっても変動し得る。特許文献1に記載の発明では、このような他の要因は、画像領域の決定に考慮されていなかった。
【0007】
したがって、かかる事情に鑑みてなされた本発明の目的は、車両などの移動体の多様な状況に応じて用いる画像の領域を設定する画像処理装置、撮像装置、移動体、プログラム、および領域設定方法を提供することにある。
【課題を解決するための手段】
【0008】
上述した諸課題を解決すべく、第1の観点による撮像装置は、
移動体の周辺の道路に関する情報を取得する道路情報取得部と、
前記移動体の速度または制動制御を含む移動体情報を取得する移動体情報取得部と、
前記道路に関する情報
の直近の対象物までの現在地からの距離と、前記速度および前記制動制御の少なくとも一方とに基づいて、前記移動体の周辺画像から抽出する画像の領域を設定する領域設定部とを備える
ことを特徴とするものである。
【0009】
また、第2の観点による画像処理装置では、
前記道路に関する情報とは、交差点、踏切、横断歩道、スクールゾーン、トンネル、勾配、駅、バス停、駐車場、インターチェンジ、ジャンクション、前記移動体と異なる方向に進行する移動体の有無、および警告情報の少なくとも一つを含む
ことが好ましい。
【0010】
また、第3の観点による画像処理装置では、
前記移動体情報取得部は、前記移動体
の操舵角
、照明方向、方向指示器の少なくとも一つを
更に含む移動体情報を取得
し、
前記領域設定部は、前記移動体情報に基づいて前記領域を設定する
ことが好ましい。
【0011】
また、第4の観点による画像処理装置では、
前記移動体の周辺画像を取得する画像取得部を、更に備え、
前記画像取得部が取得する画像の画素数は、前記画像処理装置から出力する画像の画素数より大きい
ことが好ましい。
【0012】
また、第5の観点による画像処理装置では、
前記道路情報取得部は、現在地を取得し、取得した現在地に対応する道路に対する前記道路に関する情報を読出すことにより取得する。
ことが好ましい。
【0013】
また、第6の観点による画像処理装置では
、
前記道路情報取得部は、前記周辺画像の画像解析により前記道路に関する情報を取得する
ことが好ましい。
【0014】
また、第7の観点による撮像装置は、
移動体の周辺の道路に関する情報を取得する道路情報取得部と、
前記移動体の速度または制動制御を含む移動体情報を取得する移動体情報取得部と、
前記道路に関する情報
の直近の対象物までの現在地からの距離と、前記速度および前記制動制御の少なくとも一方とに基づいて、前記移動体の周辺画像から抽出する画像の領域を設定する領域設定部とを有する画像処理装置と、
前記移動体に搭載され、前記移動体の周辺を撮像した周辺画像を前記画像
処理装置に出力する撮像部とを備える
ことを特徴とするものである。
【0015】
また、第8の観点による撮像装置は、
移動体の周辺画像を撮像する撮像部と、
移動体の周辺の道路に関する情報を取得する道路情報取得部と、
前記移動体の速度または制動制御を含む移動体情報を取得する移動体情報取得部と、
前記道路に関する情報
の直近の対象物までの現在地からの距離と、前記速度および前記制動制御の少なくとも一方とに基づいて、前記移動体の周辺画像から抽出する画像の領域を設定する領域設定部とを備える
ことを特徴とするものである。
【0016】
また、第9の観点による移動体は、
移動体の周辺の道路に関する情報を取得する道路情報取得部と、
前記移動体の速度または制動制御を含む移動体情報を取得する移動体情報取得部と、前記道路に関する情報
の直近の対象物までの現在地からの距離と、前記速度および前記制動制御の少なくとも一方とに基づいて、前記移動体の周辺画像から抽出する画像の領域を設定する領域設定部とを有する画像処理装置と、
前記移動体に搭載され、前記移動体の周辺を撮像した周辺画像を前記画像
処理装置に出力する撮像部とを有する
ことを特徴とするものである。
【0017】
上述したように本発明の解決手段を装置として説明してきたが、本発明はこれらに実質的に相当する方法、プログラム、プログラムを記録した記憶媒体としても実現し得るものであり、本発明の範囲にはこれらも包含されるものと理解されたい。
【0018】
例えば、本発明の第10の観点によるプログラムは、
画像処理装置を、
移動体の周辺の道路に関する情報を取得する道路情報取得部と、
前記移動体の速度または制動制御を含む移動体情報を取得する移動体情報取得部と、
前記道路に関する情報
の直近の対象物までの現在地からの距離と、前記速度および前記制動制御の少なくとも一方とに基づいて、前記移動体の周辺画像から抽出する画像の領域を設定する
領域設定部として機能させる
ことを特徴とするものである。
【0019】
道路情報取得部、移動体情報取得部、及び領域設定部を備える画像処理装置における領域設定方法であって、
また、本発明の第11の観点による領域設定方法は、
前記道路情報取得部により、移動体の周辺の道路に関する情報を取得する道路情報取得ステップと、
前記移動体情報取得部により、前記移動体の速度または制動制御に関する移動体情報を取得する移動体情報取得ステップと、
前記領域設定部により、前記道路に関する情報
の直近の対象物までの現在地からの距離と、前記速度および前記制動制御の少なくとも一方とに基づいて、前記移動体の周辺画像から抽出する画像の領域を設定する領域設定ステップとを
実行することを特徴としている。
【発明の効果】
【0020】
上記のように構成された本発明に係る画像処理装置、撮像装置、移動体、プログラム、および領域設定方法によれば、車両などの移動体の多様な状況に応じて用いる画像の領域を設定可能である。
【発明を実施するための形態】
【0022】
以下、本発明の実施形態について、図面を参照して説明する。
【0023】
まず、本発明の一実施形態に係る画像処理装置を有する撮像装置について説明する。
図1は、本実施形態に係る画像処理装置を有する撮像装置の車両内における配置図である。
【0024】
図1に示すように、撮像装置10は、GPS受信機11および表示部12とともに、移動体である車両13内に設けられる。撮像装置10を構成する画像処理装置14、およびGPS受信機11は、車両内の何処に設けてもよいが、本実施形態では、運転席近傍に設けられる。撮像装置10を構成する撮像部15も車両13の何処に設けてもよいが、本実施形態では車両の前方の周辺画像を撮像するために、車両13の前部に固定される。表示部12は、運転席から視認可能に設けられる。
【0025】
撮像装置10は、画像処理装置14および撮像部15を含んで構成される。後述するように、撮像部15は、車両の周辺画像を撮像する。また、後述するように、画像処理装置14は、撮像部15が撮像した周辺画像に画像処理を施す。画像処理装置14は、画像処理を施した周辺画像を表示部12に出力する。
【0026】
GPS受信機11は、3個以上のGPS衛星からの信号を受信し、車両13とGPS衛星間の距離と距離の変化率とを、衛星に対して測定することにより、車両13の現在地、進行速度および進行方位を測定する。
【0027】
表示部12は例えばLCDであり、撮像装置10から出力される画像を表示する。表示部12は、例えば、30万画素、すなわちVGAサイズで画像を表示する。
【0028】
次に、撮像部15の構成について、説明する。
図2に示すように、撮像部15は、光学系16、撮像素子17、AFE(Analog Front End)18、および撮像素子駆動部19を含んで構成される。
【0029】
光学系16は複数のレンズを有する。複数のレンズは、車両の前方の光学像を入射可能となるように、固定されている。光学系16は、入射する光学像を撮像素子17の受光面に結像させる。光学系16は、深い被写界深度および広い画角を有する。
【0030】
撮像素子17は、例えばCCDイメージセンサおよびCMOSイメージセンサであって、受光面に結像した周辺画像に相当する画像信号を生成する。撮像素子17は、例えば130万画素であって、表示部12が有する画素よりも大きな画素数を有する。したがって、撮像される周辺画像の解像度は、表示部12に表示される画像の解像度より大きい。
【0031】
AFE18は、撮像素子17から取得する周辺画像に対してCDS/SH処理、AGC処理、およびAD変換処理を施す。AFE18は、AD変換処理を施した周辺画像を画像処理装置14に出力する。
【0032】
撮像素子駆動部19は、撮像素子17を駆動して、撮像を実行させ、画像信号を生成させる。撮像素子駆動部19は、画像処理装置14から取得する撮像の実行指令に基づいて、撮像素子17を駆動する。
【0033】
次に、画像処理装置14の構成について説明する。
図3に示すように、画像処理装置14は、バス20、画像取得部21、移動体情報取得部22、メモリ23、道路情報取得部24、領域設定部25、領域抽出部26、画像処理部27、画像出力部28、および制御部29を含んで構成される。
【0034】
バス20は、画像取得部21、移動体情報取得部22、メモリ23、道路情報取得部24、領域設定部25、領域抽出部26、画像処理部27、画像出力部28、および制御部29を接続し、データおよび指令を伝達する。
【0035】
画像取得部21は、撮像部15から周辺画像を画像データとして取得する。
【0036】
移動体情報取得部22は、ECU(Electronic Control Unit)30から、車両の走行速度、操舵角、制動制御、照明時の照明方向、方向指示器の点灯の少なくとも一つを含む移動体情報を取得する。
【0037】
メモリ23は、画像処理部27が多様な機能を実行するために必要な情報を記憶する。例えば、メモリ23は、GPS受信機11が測定する現在地に対応する道路、および道路に関する情報を道路毎に記憶する。道路に関する情報とは、交差点、踏切、横断歩道、スクールゾーン、トンネル、勾配、駅、バス停、駐車場、インターチェンジ、およびジャンクションの少なくとも一つを含む。
【0038】
道路情報取得部24は、GPS受信機11から車両13の現在地を位置情報として取得する。道路情報取得部24は、GPS受信機11から取得した現在地に対応する道路に対応する、道路に関する情報をメモリ23から読出す。
【0039】
領域設定部25は、道路情報取得部24が取得する現在地、道路情報取得部24がメモリ23から読出す道路に関する情報、および移動体情報取得部22が取得した移動体情報に基づいて、画像取得部21が取得した周辺画像において抽出する画像の領域を決定する。具体的には、以下に説明するように、領域設定部25は、抽出する領域を設定する。
【0040】
領域設定部25は、道路に関する情報の直近の対象物までの現在地からの距離を算出する。領域設定部25は、算出した距離が距離閾値以下であるときには、周辺画像全体を抽出する領域そのものに定める。領域設定部25は、算出した距離が距離閾値より長いときには、さらに車両の速度および制動制御の少なくとも一方に基づいて、抽出する領域を設定する。
【0041】
領域設定部25は、車両の速度が速度閾値未満および制動制御が行われているときの少なくとも一方において、周辺画像全体を抽出する領域そのものに定める。領域設定部25は、車両の速度が速度閾値以上であって、且つ制動制御が行われていないとき、周辺画像の23%(≒30万/130万)の大きさを、抽出する領域の大きさに定める。
【0042】
領域設定部25は、抽出する領域の大きさを定めたときには移動体情報取得部22が取得する操舵角、方向指示器の点灯、および照明方向の少なくとも何れかに基づいて、抽出する領域の位置を定める。
【0043】
例えば、操舵角および方向指示器の点灯に基づいて、車両の進行方向が直進方向、右方向、および左方向の何れかであることが判定可能である。領域設定部25は、車両の進行方向が直進方向であるときには周辺画像の中心位置を領域の中心とすることにより、位置を定める。領域設定部25は、車両の進行方向が右方向であるときには周辺画像の中心から右に移動させた位置を中心とすることにより、位置を定める。左方向であるときの位置の定め方は、右方向と同様である。
【0044】
また、照明方向が遠距離方向即ちハイビームであるときには、注目すべき領域は周辺画像の中心付近であると想定される。一方、照明方向が近距離方向即ちロービームであるときには、注目すべき領域はハイビームより下方の領域であると想定される。それゆえ、領域設定部25は、ハイビームであるときには周辺画像の中心位置を領域の中心とすることにより、位置を定める。また、領域設定部25は、ロービームであるときには周辺画像の中心位置から下に移動させた位置を中心とすることにより、位置を定める。
【0045】
領域抽出部26は、画像取得部21が取得した周辺画像から、領域設定部25が設定した領域を抽出する。領域抽出部26は、領域設定部25が周辺画像全体を抽出する領域に定めたときには、周辺画像を構成する画素を間引いたり、互いに隣接する同じ色の画素を加算することにより、画素数を30万画素に低下させた領域(
図4参照)を抽出する。領域抽出部26は、領域設定部25が周辺画像の23%の大きさの領域を抽出する領域の大きさに定めたときには、領域設定部25が定めた位置の領域を構成する全画素をそのまま抽出する(
図5参照)。
【0046】
画像処理部27は、領域抽出部26が抽出した画像に所定の画像処理を施す。所定の画像処理は、たとえば、色補間処理、ホワイトバランス処理、輪郭強調処理、ガンマ補正処理である。
【0047】
画像出力部28は、画像処理部27において所定の画像処理の施された画像データを表示部12に出力する。
【0048】
制御部29は、画像処理装置14を構成する各部位を制御する。また、制御部29は、撮像部15の撮像素子駆動部19(
図2参照)に、撮像の実行指令を出力する。
【0049】
次に、第1の実施形態において制御部29が実行する、領域抽出処理について、
図6のフローチャートを用いて説明する。制御部29は、画像取得部21が周辺画像を取得する度に領域抽出処理を実行する。
【0050】
ステップS100において、制御部29は、道路情報取得部24に現在地を取得させる。現在地を取得すると、プロセスはステップS101に進む。
【0051】
ステップS101では、制御部29は、道路情報取得部24に、現在地に対応する道路に関する情報を、メモリ23から読出させる。道路に関する情報の読出しを終えると、プロセスはステップS102に進む。
【0052】
ステップS102では、制御部29は、領域設定部25に、道路に関する情報の直近の対象物までの現在地からの距離を算出させる。また、制御部29は、算出させた距離が距離閾値以下であるか否かを判別させる。算出した距離が距離閾値を越えるときには、プロセスはステップS103に進む。算出した距離が距離閾値以下であるときには、プロセスはステップS106に進む。
【0053】
ステップS103では、制御部29は、移動体情報取得部22に車両の走行速度を、ECU30から取得させる。走行速度を取得すると、プロセスはステップS104に進む。
【0054】
ステップS104では、制御部29は、領域設定部25に、ステップS103で取得した走行速度が速度閾値以上であるか否かを判別させる。走行速度が速度閾値以上であるときには、プロセスはステップS105に進む。走行速度が速度閾値未満であるときには、プロセスはステップS106に進む。
【0055】
ステップS105では、制御部29は、領域設定部25に、車両が制動制御されているか否かを判別させる。車両が制動制御中であるときには、プロセスはステップS106に進む。車両が制動制御中でないときには、プロセスはステップS108に進む。
【0056】
ステップS106では、制御部29は、領域設定部25に、抽出する領域を設定させる。領域設定部25は、周辺画像全体を抽出する領域に設定する。抽出する領域を設定すると、プロセスはステップS107に進む。
【0057】
ステップS107では、制御部29は、領域抽出部26に、周辺画像の間引き読出しを実行させ、画像のサイズをVGAサイズに低下させる。間引き読出し後、領域抽出処理を終了する。
【0058】
ステップS108では、制御部29は、領域設定部25に、抽出する領域を設定させる。領域設定部25は、周辺画像の23%の大きさの領域を抽出する領域の大きさに設定する。また、領域設定部25は、操舵角、方向指示器の点灯、および照明方向の少なくとも何れかに基づいて、抽出する領域の位置を定める。大きさおよび位置の決定により、抽出する領域を設定すると、プロセスはステップS109に進む。
【0059】
ステップS109では、制御部29は、領域抽出部26に、ステップS108において設定した領域の周辺画像からの全画素読出しを実行させる。全画素読出し後、領域抽出処理を終了する。
【0060】
以上のような構成の本実施形態の画像処理装置によれば、道路に関する情報に基づいて、周辺画像から抽出する画像の領域を設定するので、速度などの移動体そのものの情報だけでなく、移動体の多様な状況に基づいて抽出する画像の領域を設定可能である。
【0061】
また、本実施形態によれば、道路に関する情報のみならず、移動体情報にも基づいて抽出する領域を設定可能である。
【0062】
また、本実施形態によれば、撮像される周辺画像の解像度は表示される画像の解像度より大きいので、周辺画像の一部を抽出するときに全画素読出しを実行し、周辺画像そのものを抽出するときには間引きまたは画素加算を実行することが可能である。このような構成により、周辺画像の一部を抽出する場合に、周辺画像そのものを抽出する場合に比べた解像度の劣化を、低減化させることが可能である。
【0063】
また、本実施形態によれば、取得する周辺画像に基づいて抽出する領域を設定するので、汎用の撮像部と組合わせることが可能である。
【0064】
本発明を諸図面や実施形態に基づき説明してきたが、当業者であれば本開示に基づき種々の変形や修正を行うことが容易であることに注意されたい。従って、これらの変形や修正は本発明の範囲に含まれることに留意されたい。
【0065】
例えば、本実施形態において、領域設定部25は、画像取得部21が取得する周辺画像の中の抽出する領域を設定する構成であるが、撮像素子17の受光面における周辺画像を撮像する領域を設定させる構成であってもよい。このような構成において、撮像素子17の受光面全体を周辺画像を撮像する領域に設定する場合、制御部29は間引き読出しで周辺画像を撮像する指令を撮像素子駆動部19に出力する。また、撮像素子17の受光面の一部を、周辺画像を撮像する領域に設定する場合、制御部29は全読出しで周辺画像を撮像する指令を撮像素子駆動部19に出力する。このような構成により、最終的に用いられない画素における読出し停止し、画像の読出し時間の短縮化を図ることが可能である。
【0066】
また、本実施形態において、画像処理装置14は、表示部12に周辺画像を出力して周辺画像を表示する構成であるが、このような構成に限定されない。領域の設定に基づく画像を解析し移動体の制御および運転者への警告を行うなど、領域の設定に基づく画像を表示以外の他の用途に用いてもよい。
【0067】
また、本実施形態において、道路情報取得部24はGPS受信機11から取得した現在地に対応する道路における当該道路に関する情報をメモリ23から読出すことにより取得する構成であるが、道路に関する情報の取得方法は当該方法に限定されない。例えば、道路情報取得部24が撮像部15から取得する周辺画像の画像解析により、周辺画像に道路に関する情報(交差点、踏切、横断歩道、スクールゾーン、トンネル、勾配、駅、バス停、駐車場、インターチェンジ、およびジャンクション)の有無を判別することにより取得する構成であってもよい。また、道路情報取得部24が、事故多発地点などの警告情報を、例えばナビゲーション装置を介してVICS(登録商標)から取得する構成であってもよい。また、道路情報取得部24が路車間通信を行い、自移動体(車両13)と異なる方向に進む移動体の存在の有無を、道路に関する情報として取得する構成であってもよい。
【0068】
また、本実施形態において、道路情報取得部24は道路情報に関する情報を画像処理装置14が有するメモリ24から読出す構成であるが、ナビゲーション装置などの外部機器310から読出す構成であってもよい(
図7参照)。多数の道路に関する情報を、多数の道路に関連付けて記憶させるためには容量の大きなメモリ23が必要であるが、ナビゲーション装置など道路に関する情報を有する外部機器31から読出すことにより大容量のメモリ23が不要となる。
【0069】
また、本実施形態において、画像処理装置14は撮像装置10に含まれる構成であるが、このような態様に限定されない。例えば、
図8に示すように、画像処理装置14は、カーナビゲーション装置などのようにCAN321(Controller Area Network)に接続された車両13に搭載の機器であってもよい。
【0070】
また、本実施形態において、画像処理装置14は撮像部15から周辺画像を取得し、道路に関する情報などに基づいて抽出した領域の画像を表示部12に出力する構成であるが、単に道路に関する情報などに基づいて抽出する領域を設定し、外部に出力する構成であってもよい。例えば、
図9に示すように、カーナビゲーション装置として実施される画像処理装置142は、バス20、移動体情報取得部22、メモリ23、道路情報取得部24、領域設定部25、および制御部292を有し、周辺画像を取得すること無く抽出する領域を設定し、制御部292からCAN321を介して抽出する領域を撮像部15に通知する構成であってもよい。このような構成において、通知された領域を撮像部15が抽出し、表示部12に出力することによっても、最適な領域の画像を運転者に提示可能である。