特開2017-216736(P2017-216736A)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ SMK株式会社の特許一覧

<>
  • 特開2017216736-画像処理システム 図000003
  • 特開2017216736-画像処理システム 図000004
  • 特開2017216736-画像処理システム 図000005
  • 特開2017216736-画像処理システム 図000006
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】特開2017-216736(P2017-216736A)
(43)【公開日】2017年12月7日
(54)【発明の名称】画像処理システム
(51)【国際特許分類】
   H04N 7/18 20060101AFI20171110BHJP
【FI】
   H04N7/18 J
【審査請求】有
【請求項の数】4
【出願形態】OL
【全頁数】12
(21)【出願番号】特願2017-153833(P2017-153833)
(22)【出願日】2017年8月9日
(62)【分割の表示】特願2014-40217(P2014-40217)の分割
【原出願日】2014年3月3日
(71)【出願人】
【識別番号】000102500
【氏名又は名称】SMK株式会社
(74)【代理人】
【識別番号】100095636
【弁理士】
【氏名又は名称】早崎 修
(72)【発明者】
【氏名】本橋 一孝
【テーマコード(参考)】
5C054
【Fターム(参考)】
5C054CC02
5C054EA01
5C054EA05
5C054EC07
5C054FD03
5C054FE12
5C054HA30
(57)【要約】      (修正有)
【課題】複数のカメラモジュールの撮像動作を同期させ、リアルタイムに複数のカメラモジュールが撮像した画像を合成してモニターへ出力する画像処理システムを提供する。
【解決手段】画像を一定周期の垂直同期信号のタイミングで撮像する撮像部と、垂直同期信号の位相を制御する位相制御部を有し、それぞれ撮像視野が異なる画像を撮像した画像信号ととともに垂直同期信号を出力する複数のカメラモジュールCA1〜CA4と、各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成手段と、各カメラモジュールから出力される垂直同期信号の位相を比較する位相監視手段と、各カメラモジュールの垂直同期信号が同期するように各カメラモジュールに相対位相制御信号を出力する相対位相制御手段を備える。画像合成手段は、同期制御された垂直同期信号のタイミングで各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する。
【選択図】図2
【特許請求の範囲】
【請求項1】
それぞれ、画像を同一周期で繰り返される垂直同期信号のタイミングで撮像する撮像部と、外部から入力される相対位相制御信号の制御内容に従って前記垂直同期信号の位相を補正する制御を繰り返す位相制御部を有し、撮像視野が異なる画像を撮像した画像の画像信号ととともに垂直同期信号を出力する複数のカメラモジュールと、
前記複数の各カメラモジュールから出力される画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成手段と、
画像合成手段が連続生成した合成画像を動画像としてモニターへ出力する動画出力手段とを備えた画像処理システムであって、
前記複数のカメラモジュールとそれぞれ接続ケーブルでデイジーチェーン接続し、前記接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を、垂直同期信号と同一周期の基準信号Srと比較し、基準信号Srとの相対的な位相ずれを検出する位相監視手段と、
位相監視手段で監視する各カメラモジュールの垂直同期信号が基準信号Srに同期するように、前記相対的な位相ずれから、各カメラモジュール毎に位相を早め若しくは遅らせる相対位相制御信号を生成し、各カメラモジュールの位相制御部へ所定の周期で相対位相制御信号を出力する相対位相制御手段を更に備え、
画像合成手段は、基準信号Srに同期制御された垂直同期信号のタイミングで各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成することを特徴とする画像処理システム。
【請求項2】
前記複数の各カメラモジュールは、撮像視野が異なる車両の周囲を撮像する車両の各部に設置され、それぞれ接続ケーブルを介して位相監視手段と相対位相制御手段と画像合成手段を有する画像合成装置に接続され、
画像合成装置の位相監視手段は、接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を基準信号Srと比較し、
各カメラモジュールの位相制御部は、画像合成装置の相対位相制御手段から接続ケーブルを介して出力される相対位相制御信号をもとに垂直同期信号の位相を制御することを特徴とする請求項1に記載の画像処理システム。
【請求項3】
画像を一定周期で繰り返される垂直同期信号のタイミングで撮像する撮像部を有し、それぞれ撮像視野が異なる画像を撮像した画像の画像信号とその撮像タイミングを表す垂直同期信号とを含む撮像信号を出力する少なくとも3台のカメラモジュールと、
前記複数の各カメラモジュールから出力される撮像信号に含まれる画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成装置とを備えた画像処理システムであって、
デイジーチェーンで接続される前記複数の全てのカメラモジュールの最下流のカメラモジュールに前記画像合成装置を接続し、
前記複数のカメラモジュールのうち、デイジーチェーンで接続される最上流のカメラモジュールを除く全てのカメラモジュールは、そのカメラモジュールの撮像タイミングを表す垂直同期信号を、その上流に接続されるカメラモジュールの撮像タイミングを表す垂直同期信号の位相と同期するように制御する位相制御部を備え、
前記最上流のカメラモジュールを除く全てのカメラモジュールは、それぞれ、その上流側の全てのカメラモジュールがそれぞれ出力した撮像信号を、その上流に接続された前記カメラモジュールから入力するとともに、入力された撮像信号から前記上流に接続された前記カメラモジュールの撮像タイミングを表す垂直同期信号に同期するように制御した垂直同期信号と、その垂直同期信号のタイミングで撮像した画像の画像信号とを含む撮像信号を、入力された撮像信号に加えて、その下流に接続するカメラモジュール若しくは画像合成装置へ出力することを特徴とする画像処理システム。
【請求項4】
デイジーチェーンで接続されている複数のカメラモジュールは、撮像視野が異なる車両の周囲を撮像する車両の各部に設置されていることを特徴とする請求項3に記載の画像処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像視野の異なる複数の画像から合成して一枚の合成画像を生成する画像処理システムに関し、更に詳しくは、連続生成した合成画像を動画像としてモニターへ出力する画像処理システムに関する。
【背景技術】
【0002】
車両の運転支援システムとして、図1に示すように、撮像視野の異なる車両50の周囲を複数のカメラモジュールCA1〜CA4が一定周期で撮像し、各カメラモジュールCA1〜CA4が撮像した画像から車両50の周囲を俯瞰する一枚の俯瞰画像を合成し、連続生成した俯瞰画像を動画像として運転席周囲に設置された表示装置へ表示する画像処理システムが知られている。
【0003】
複数のカメラモジュールCA1〜CA4が撮像した画像を一枚の合成画像に合成する場合には、合成する複数の画像間の同期をとる必要があり、従来、個々のカメラモジュールCA1〜CA4から非同期で出力される画像を表す画像信号をバッファへ一次記憶しておき、バッファに記憶される多数の画像信号から、画像信号とともに入力される垂直同期信号Vsyncの位相が互いに近似する各カメラモジュールCA1〜CA4の画像を選択して読み出し、選択した画像を合成している(特許文献1)。すなわち、バッファに記憶される記憶時間で各画像間の位相差を解消し、各カメラモジュールCA1〜CA4から入力される各画像の同期をとって合成画像を生成している。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2006−180340号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の従来の画像処理システムでは、相互に非同期な複数のカメラモジュールCA1〜CA4からの画像をバッファへ一時記憶するので、各カメラモジュールCA1〜CA4から入力される画像のうち、最も位相が遅れて入力される画像に合わせて合成画像が生成され、モニターに表示するまでの遅延時間が生じる。
【0006】
このような画像処理システムが車両の車庫入れや幅寄せ等のドライバーの視覚を補う運転支援システムの用途として用いられている限りは問題がないが、高速に車両に接近する物体を検知し事故防止処置をとる目的で使用される画像処理システムでは、可能な限りのリアルタイム性が求められ、バッファーに一時記憶することによる遅延は看過できない。
【0007】
更に、各カメラモジュールCA1〜CA4で撮像するタイミングは非同期であるので、瞬間的に障害物が発生した場合に、一部のカメラモジュールでは撮像できず、合成画像が連続しないという問題が生じる。例えば、各カメラモジュールCA1〜CA4は、30フレーム(画像)/秒の33msecの周期で画像合成装置側に画像を出力するので、モニターに出力されるまで、撮像視野が隣り合う画像間で最大33/2msec、1画像の両側に隣り合う3画像全体画像間で最大33msecの遅延が生じ、その間に接近する障害物を撮像できないことがあり、このために事故防止処置をとることができず、記録した動画から事故原因を解明することもできない場合がある。
【0008】
このような課題は、本質的に画像を合成する装置側では解決できず、各カメラモジュールCA1〜CA4の撮像動作自体を同期させなければならない。そこで、各カメラモジュールCA1〜CA4へ同時に起動信号を出力して起動させ、各カメラモジュールCA1〜CA4の撮像動作を同期させる方法や、各カメラモジュールCA1〜CA4へ共通の同期信号を出力し、各カメラモジュールCA1〜CA4で共通する同期信号により撮像動作を行わせる方法が検討された。
【0009】
しかしながら、前者の方法は、各カメラモジュールCA1〜CA4が、通常は個別にPLL(位相同期制御回路)を備えているので、一斉に起動させてもクロックを同期させることが困難であり、また、一時的に同期させても、各カメラモジュールに内蔵の水晶発振器によるクロックが経過時間とともにずれて、撮像タイミングを定める垂直同期信号の位相がずれる。
【0010】
また、後者の方法では、共通する同期信号を生成する同期信号発生部が必要となるためにシステム全体の構成が複雑化するとともに、各カメラモジュールCA1〜CA4毎に同期信号に対する応答時間が異なるので、各カメラモジュールCA1〜CA4で生成する垂直同期信号に位相差が生じる場合がある。
【0011】
更に、既存のカメラモジュールは、内蔵クロックから撮像タイミングを定める垂直同期信号を生成しているので、大幅に改造しなければ既存のカメラモジュールを用いることができない。
【0012】
更に、上述のように各カメラモジュールが33msecの周期で画像合成装置側に画像を出力する場合には、最大33msecの位相ずれが生じる可能性があるにもかかわらず、既存のカメラモジュールでは、一度に数10μsec程度の垂直同期信号の位相の補正が限界であり、全てのカメラモジュールの垂直同期信号を外部から同期制御することは極めて困難と考えられていた。
【0013】
以上の理由から、合成画像にリアルタイム性が要望されながら、既存のカメラモジュールを大幅に改良することなくこれを実現することはできなかった。
【0014】
本発明は、このような従来の問題点を考慮してなされたものであり、複数のカメラモジュールの撮像動作を同期させ、従ってリアルタイムに複数のカメラモジュールが撮像した画像を合成してモニターへ出力する画像処理システムを提供することを目的とする。
【0015】
また、既存のカメラモジュールの構造を大幅に改造することなく、全てのカメラモジュールの撮像動作を同期させることが可能な画像処理システムを提供することを目的とする。
【課題を解決するための手段】
【0016】
上述の目的を達成するため、請求項1に記載の画像処理システムは、それぞれ、画像を同一周期で繰り返される垂直同期信号のタイミングで撮像する撮像部と、外部から入力される相対位相制御信号の制御内容に従って垂直同期信号の位相を補正する制御を繰り返す位相制御部を有し、撮像視野が異なる画像を撮像した画像の画像信号ととともに垂直同期信号を出力する複数のカメラモジュールと、複数の各カメラモジュールから出力される画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成手段と、画像合成手段が連続生成した合成画像を動画像としてモニターへ出力する動画出力手段とを備えた画像処理システムであって、複数のカメラモジュールとそれぞれ接続ケーブルでデイジーチェーン接続し、接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を、垂直同期信号と同一周期の基準信号Srと比較し、基準信号Srとの相対的な位相ずれを検出する位相監視手段と、
位相監視手段で監視する各カメラモジュールの垂直同期信号が基準信号Srに同期するように、前記相対的な位相ずれから、各カメラモジュール毎に位相を早め若しくは遅らせる相対位相制御信号を生成し、各カメラモジュールの位相制御部へ所定の周期で相対位相制御信号を出力する相対位相制御手段を更に備え、
画像合成手段は、基準信号Srに同期制御された垂直同期信号のタイミングで各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成することを特徴とする。
【0017】
相対位相制御手段は、位相監視手段で監視する各カメラモジュールの垂直同期信号が同期するように各カメラモジュールの位相制御部へ所定の周期で相対位相制御信号を出力するので、各カメラモジュールの位相制御部は、相対位相制御信号を入力する毎に垂直同期信号の位相を他のカメラモジュールの垂直同期信号と同期させる制御を繰り返し、その結果、全てのカメラモジュールから同期制御された垂直同期信号のタイミングで撮像した画像が出力される。
【0018】
相対位相制御手段から、カメラモジュールの位相制御部へ所定の周期で位相を早め若しくは遅らせる相対位相制御信号を繰り返し出力することにより、位相制御部による一度の制御で解消できない位相ずれが解消され、各カメラモジュールの垂直同期信号が同期する。
【0019】
請求項2に記載の画像処理システムは、複数の各カメラモジュールが、撮像視野が異なる車両の周囲を撮像する車両の各部に設置され、それぞれ接続ケーブルを介して位相監視手段と相対位相制御手段と画像合成手段を有する画像合成装置に接続され、画像合成装置の位相監視手段が、接続ケーブルを介して各カメラモジュールから出力される垂直同期信号の位相を基準信号Srと比較し、各カメラモジュールの位相制御部が、画像合成装置の相対位相制御手段から接続ケーブルを介して出力される相対位相制御信号をもとに垂直同期信号の位相を制御することを特徴とする。
【0020】
複数の各カメラモジュールの位相制御部は、画像合成手段の相対位相制御手段からそれぞれ相対位相制御信号を受けて、垂直同期信号を他のカメラモジュールの垂直同期信号と同期させるように制御し、複数の各カメラモジュールは同期制御された垂直同期信号のタイミングで撮像視野が異なる車両の周囲を撮像する。画像合成手段は、撮像視野が異なる車両の周囲を撮像した画像から遅延なく合成画像を生成する。
【0021】
請求項3に記載の画像処理システムは、画像を一定周期で繰り返される垂直同期信号のタイミングで撮像する撮像部を有し、それぞれ撮像視野が異なる画像を撮像した画像の画像信号とその撮像タイミングを表す垂直同期信号とを含む撮像信号を出力する少なくとも3台のカメラモジュールと、複数の各カメラモジュールから出力される撮像信号に含まれる画像信号と垂直同期信号をもとに、複数の各カメラモジュールが撮像した画像を合成して一枚の合成画像を生成する画像合成装置とを備えた画像処理システムであって、
デイジーチェーンで接続される複数の全てのカメラモジュールの最下流のカメラモジュールに画像合成装置を接続し、複数のカメラモジュールのうち、デイジーチェーンで接続される最上流のカメラモジュールを除く全てのカメラモジュールは、そのカメラモジュールの撮像タイミングを表す垂直同期信号を、その上流に接続されるカメラモジュールの撮像タイミングを表す垂直同期信号の位相と同期するように制御する位相制御部を備え、最上流のカメラモジュールを除く全てのカメラモジュールは、それぞれ、その上流側の全てのカメラモジュールがそれぞれ出力した撮像信号を、その上流に接続されたカメラモジュールから入力するとともに、入力された撮像信号から上流に接続されたカメラモジュールの撮像タイミングを表す垂直同期信号に同期するように制御した垂直同期信号と、その垂直同期信号のタイミングで撮像した画像の画像信号とを含む撮像信号を、入力された撮像信号に加えて、その下流に接続するカメラモジュール若しくは画像合成装置へ出力することを特徴とする。
【0022】
全てのカメラモジュールの垂直同期信は、最上流のカメラモジュールの垂直同期信号と同期する位相に収束し、デイジーチェーンで接続される全てのカメラモジュールから同期制御された垂直同期信号のタイミングで撮像した画像の画像信号が画像合成装置へ出力される。
【0023】
請求項4に記載の画像処理システムは、デイジーチェーンで接続されている複数のカメラモジュールは、撮像視野が異なる車両の周囲を撮像する車両の各部に設置されていることを特徴とする。
【0024】
画像合成手段から、車両の各部に設置される複数の全てのカメラモジュールが接続ケーブルにより直列に接続される。
【発明の効果】
【0025】
請求項1の発明によれば、各カメラモジュールの撮像動作を同期させて撮像した画像が画像合成手段に入力されるので、リアルタイムに合成画像を生成してモニターへ表示できる。
【0026】
また、合成画像とする画像を撮像する全てのカメラモジュールの撮像動作が同期制御されるので、一部のカメラモジュールが接近する障害物を撮像できないという問題がなく、合成画像とする画像間の連続性が損なわれない。
【0027】
更に、内蔵クロックから垂直同期信号を生成し、位相制御部で一度に数10μsecの位相補正のみが可能である既存のカメラモジュールを、その構造を改造することなく、他のカメラモジュールの撮像動作と同期させることができるので、既存のカメラモジュールムを用いて撮像視野の追加や、カメラモジュールの交換を容易に行うことができる。
【0028】
請求項2の発明によれば、異なる視野の車両周囲の画像をリアルタイムに合成画像としてモニターへ表示できるので、高速に車両に接近する物体を検知し事故防止処置をとる運転支援システムに利用できる。
【0029】
また、異なる視野の車両周囲の画像を撮像タイミングを同期させて複数のカメラモジュールで撮像するので、画像間の連続性を損なわずに合成画像が生成され、モニターに出力される動画を記録すれば、事故原因を漏れなく異なる視野を撮像した画像から解明できる。
【0030】
更に、既存のカメラモジュールの構造を変更することなく、画像合成装置と接続ケーブルで接続するだけで、車両の新たな設置場所へのカメラモジュールの追加したり、カメラモジュールを交換できる。
【0031】
請求項3の発明によれば、全てのカメラモジュール一列にデイジーチェーン接続し、各カメラモジュールの垂直同期信号を同期させて撮像動作を同期させることができる。
【0032】
請求項4の発明によれば、全てのカメラモジュールが撮像した画像を合成して合成画像とし、表示装置に車両の周囲を俯瞰する動画を表示することができる。
【図面の簡単な説明】
【0033】
図1】車両50の各部に設置される各カメラモジュールCA1〜CA4の撮像視野を示す平面図である。
図2】本発明の一実施の形態に係る画像処理システム1を示すブロック図である。
図3】相対位相制御部12から各カメラモジュールCAの位相制御部3へ出力される相対位相制御信号を表す説明図である。
図4】第2実施の形態に係る画像処理システム30を示すブロック図である。
【発明を実施するための形態】
【0034】
以下、本発明の一実施の形態に係る画像処理システム1を、図1乃至図3を用いて説明する。この画像処理システム1は、高速に車両に接近する物体を検知し事故防止処置をとる目的の運転支援システムに使用され、図1に示すように、4台のカメラモジュールCA1〜CA4を用いて、カメラモジュールCA1を、撮像方向が車両50の前方やや下向きとなるように車両50の前方に、カメラモジュールCA2を、撮像方向が車両50の右方やや下向きとなるように車両50の右方に、カメラモジュールCA3を、撮像方向が車両50の後方やや下向きとなるように車両50の後方に、カメラモジュールCA4を、撮像方向が車両50の左方やや下向きとなるように車両50の左方にそれぞれ設置している。
【0035】
これにより、各カメラモジュールCA1〜CA4は、それぞれ撮像視野VW1〜VW4の画像IM1〜IM4を30フレーム/秒の速度で撮像する。隣り合う撮像視野VW1〜VW4の画像IM1〜IM4は、図に示すように重複しているので、後述する画像合成手段として動作する制御回路14は、画像IM1〜IM4の重複部を補正して4種類の画像IM1〜IM4を合成し、車両50の上方から俯瞰したようにみえる一枚の合成画像を生成する。
【0036】
各カメラモジュールCA1〜CA4は、この種の運転支援システムで通常用いられているそれぞれ同一構成のカメラモジュールCAであり、図2に示すよう、撮像視野VW1〜VW4を撮像する撮像部2と、撮像部2の撮像タイミングを表す垂直同期信号Vsyncの位相を制御する位相制御部3と、カメラモジュールCAの入出力インターフェースである直並列/平直列変換回路4とを備えている。
【0037】
撮像部2は、1フレームの撮像周期である1/30秒、すなわち約33msecの周期で、内蔵する図示しない発振器のクロックを分周した水平同期信号Hsyncと垂直同期信号Vsyncに応答して撮像視野VWの画像IMを撮像し、画像IMを表す画像信号Spとともにその画像IMを撮像した際の水平同期信号Hsyncと垂直同期信号Vsyncを、96Mhzの8ビットパラレル信号にしてデータバス5を介して直並列/平直列変換回路4に出力する。
【0038】
ここで各カメラモジュールCA1〜CA4は、同一構成で同一仕様に設計されているので、クロックを分周した垂直同期信号Vsyncの周波数も同一であるが、起動時の垂直同期信号Vsyncの位相は、各カメラモジュールCA1〜CA4で独立し、相互に位相のずれが生じている。説明を容易にするため、例えば図3に示すように、1/30秒の周期の基準信号Srに対してカメラモジュールCA1の垂直同期信号Vsync−1は、+α1進み、カメラモジュールCA2の垂直同期信号Vsync−2は、+α2進み、カメラモジュールCA3の垂直同期信号Vsync−3は、−α3遅れ、カメラモジュールCA4のVsync−4は+α4進んでいるものとする。
【0039】
位相制御部3は、後述する相対位相制御部12から出力される相対位相制御信号をデータバス5から入力し、相対位相制御信号の制御内容に従って垂直同期信号Vsyncの位相を一度の制御で±10μsecの範囲で補正する。すなわち、進み制御の相対位相制御信号が入力された場合には、垂直同期信号Vsyncの位相を+10μsec進める制御を繰り返し、遅れ制御の相対位相制御信号が入力された場合には、垂直同期信号Vsyncの位相を+10μsec進める制御を繰り返す。
【0040】
各カメラモジュールCA1〜CA4は、それぞれ3mから8mの長さのLVDS(Low voltage differential signling)ケーブル6により車両50の運転席近くに設置されている画像合成装置10に接続している。LVDSケーブル6は、双方向シリアル伝送線であるので、各カメラモジュールCA1〜CA4の直並列/平直列変換回路4は、データバス5から出力される8ビットパラレル信号の画像信号Spと水平同期信号Hsyncと垂直同期信号Vsyncとを、平直列変換してLVDSケーブル6へ出力するとともに、相対位相制御部12からLVDSケーブル6を介して入力される相対位相制御信号を直並列変換してデータバス5へ出力する。
【0041】
同様に画像合成装置10内のデータバス16と各カメラモジュールCA1〜CA4に接続するLVDSケーブル6との間には、それぞれ直並列/平直列変換回路13が接続され、各LVDSケーブル6に出力される画像信号Spと水平同期信号Hsyncと垂直同期信号Vsyncとを、直並列変換してデータバス16へ入力するとともに、データバス16から出力される8ビットパラレル信号で表される相対位相制御信号を平直列変換して各LVDSケーブル6へ出力する。
【0042】
図2に示すように、画像合成装置10は、データバス16を介して接続される位相監視部11、相対位相制御部12、制御回路14及びSDRAM15を備えている。制御回路14は、各カメラモジュールCA1〜CA4から画像信号Spが入力される毎に、その画像信号Spを、その画像信号Spとともに入力される水平同期信号Hsync及び垂直同期信号VsyncをもとにカメラモジュールCA1〜CA4が撮像した画像IM1〜IM4とし、SDRAM15へ一時記憶する。
【0043】
また、位相監視部11は、各カメラモジュールCA1〜CA4から画像信号Spが入力されると、その画像信号Spとともに入力される垂直同期信号Vsyncの位相を監視し、各カメラモジュールCA1〜CA4について相互の相対位相を比較する。相対位相の比較は、いずれかのカメラモジュールCAの垂直同期信号Vsyncを基準信号としてその他のカメラモジュールCAの垂直同期信号Vsyncとの位相ずれを比較しても良いが、ここでは、画像合成装置10内の図示しないクロックから生成した1/30秒の周期の基準信号Srに対する各カメラモジュールCA1〜CA4の相対的な位相ずれを比較する。
【0044】
相対位相制御部12は、一定の周期で、位相監視部11が検出した各カメラモジュールCA1〜CA4の相対的な位相ずれから、各カメラモジュールCA1〜CA4毎にその垂直同期信号Vsyncの位相を補正する相対位相制御信号を生成し、LVDSケーブル6を介して各カメラモジュールCA1〜CA4の位相制御部3へ出力する。ここでは、各カメラモジュールCA1〜CA4から入力される垂直同期信号Vsyncの位相が基準信号Srに対して遅れている場合に進み制御の相対位相制御信号を、進んでいる場合に遅れ制御の相対位相制御信号を生成し、そのカメラモジュールCA1〜CA4の位相制御部3へ出力する。また、垂直同期信号Vsyncの位相が基準信号Srに一致している場合には、相対位相制御信号を出力しない。例えば、各カメラモジュールCA1〜CA4の垂直同期信号Vsyncが図3に示す位相であるとすれば、カメラモジュールCA1、CA2、CA4の位相制御部3に対して遅れ制御の相対位相制御信号を、カメラモジュールCA3の位相制御部3に対して進み制御の相対位相制御信号を出力する。
【0045】
相対位相制御部12から相対位相制御信号を出力する周期は任意に設定できるが、ここでは、基準信号Srの周期で出力する。従って、各カメラモジュールCA1〜CA4の位相制御部3は、基準信号Srの周期で次に相対位相制御信号が入力されるまで、相対位相制御信号の制御内容に従った垂直同期信号Vsyncの位相補正制御を繰り返す。垂直同期信号Vsyncに基準信号Srとの位相のずれが生じている限り、基準信号Srに同期させる位相制御が繰り返されるので、結局全てのカメラモジュールCA1〜CA4の垂直同期信号Vsyncは基準信号Srと同位相に収束される。
【0046】
カメラモジュールCA1〜CA4は、基準信号Srに同期する垂直同期信号Vsyncのタイミングでそれぞれ画像IM1〜IM4を撮像し、その画像IM1〜IM4を表す各画像信号Spを画像合成装置10へ出力するので、制御回路14は、RAM15にほぼ同時に記憶された4枚の画像IM1〜IM4をSDRAM15から読み出し、一枚の合成画像を生成する。画像IM1〜IM4を表す各画像信号Spは、1/30秒の周期で入力されるので、制御回路14も1/30秒の周期で合成画像を表示装置20へ出力し、表示装置20に車両50の周囲を上方から俯瞰する動画を表示する。
【0047】
上述の実施の形態では、相対位相制御部12が所定周期で出力する相対位相制御信号の制御内容は進み制御若しくは遅れ制御の2通りであるが、進み制御若しくは遅れ制御とともに、その位相差に応じて各カメラモジュールCA1〜CA4の位相制御部3が垂直同期信号Vsyncの位相を補正制御する回数を含めてもよい。
【0048】
また、上述の実施の形態では、合成画像を生成する画像合成装置10に対してそれぞれLVDSケーブル6でスター接続された各カメラモジュールCA1〜CA4の位相制御部3へ相対位相制御信号を出力して、各カメラモジュールCA1〜CA4の撮像のタイミングを同期させているが、全てのカメラモジュールCA1〜CA4を2以上のグループに分け、各グループのカメラモジュールCAをLVDSケーブル6を介してデイジーチェーン接続により合成画像を生成する画像合成装置10へ接続し、画像合成装置10からデイジーチェーン接続するカメラモジュールCAの位相制御部3へ相対位相制御信号を出力してもよい。
【0049】
更に、合成画像を生成する画像合成装置に対して、全てのカメラモジュールCA1〜CA4を一列にデイジーチェーン接続し、各カメラモジュールCA1〜CA4の垂直同期信号Vsyncを同期させて撮像動作を同期させることもできる。以下、この第2の実施の形態にかかる画像処理システム30を図4を用いて説明する。画像処理システム30についての説明においては、第1の実施の形態と同一若しくは相当する構成は、図中同一番号を付してその詳細な説明を省略する。
【0050】
画像処理システム30では、図1に示す4台のカメラモジュールCA1〜CA4が、車両50の運転席付近に設置される画像合成装置31に対してデイジーチェーンで接続されている。すなわち、カメラモジュールCA1〜CA4と画像合成装置31のうちの車両50の上方からみて時計回りで隣り合う一組がその間に配線されるLVDSケーブル32で接続され、最上流のカメラモジュールCA1から画像合成装置31までが直列に接続される。従って、車両50回りのほぼ一回りの配線で、全てのカメラモジュールCA1〜CA4を画像合成装置31へ接続できる。
【0051】
各カメラモジュールCA1〜CA4は、第1実施の形態と同様に、この種の運転支援システムで通常用いられているそれぞれ同一構成のカメラモジュールCAであり、撮像視野VW1〜VW4を撮像する撮像部2と、撮像部2の撮像タイミングを表す垂直同期信号Vsyncの位相を制御する位相制御部33と、入出力インターフェースである直並列/平直列変換回路4とを備えている。このうち、最上流のカメラモジュールCA1には、必ずしも位相制御部33を備える必要はなく、また、直並列/平直列変換回路4は、平直列変換のみの回路に置き換えてもよい。
【0052】
最上流のカメラモジュールCA1の撮像部2は、1フレームの撮像周期である1/30秒、すなわち約33msecの周期で、内蔵する図示しない発振器のクロックを分周した水平同期信号Hsyncと垂直同期信号Vsyncに応答して撮像視野VW1の画像IM1を撮像し、画像IM1を表す画像信号Sp1とともにその画像IMを撮像した際の水平同期信号Hsync−1と垂直同期信号Vsync−1(以下、画像信号Spとその画像信号Spとともに出力される水平同期信号Hsyncと垂直同期信号Vsyncの全体を撮像信号Simという)を、LVDSケーブル32を介してその下流のカメラモジュールCA2へ出力する。
【0053】
また、カメラモジュールCA2は、撮像視野VW2を撮像した画像IM2の画像信号Sp2とその画像IM2撮像した際の水平同期信号Hsync−1及び垂直同期信号Vsync−1とからなる撮像信号Sim−2を、カメラモジュールCA1から入力される撮像信号Sim−1に加えて、LVDSケーブル32を介して更にその下流のカメラモジュールCA3へ出力する。
【0054】
以下、カメラモジュールCA3、CA4は、同様の処理を実行し、これにより、カメラモジュールCA4からLVDSケーブル32を介して画像合成装置31へ、画像IM1乃至IM4を表す撮像信号Sim−1乃至Sim−4が出力される。画像合成装置31の制御回路14は、撮像信号Sim−1乃至Sim−4をもとに生成する画像IM1〜IM4を合成して合成画像とし、1/30秒の周期で表示装置20へ出力し、表示装置20に車両50の周囲を上方から俯瞰する動画を表示する。
【0055】
最上流のカメラモジュールCA1を除く、各カメラモジュールCA2〜CA4の位相制御部33は、その上流のカメラモジュールCAから入力される撮像信号Sim−1に含まれる垂直同期信号Vsync−1の位相を監視し、自身の垂直同期信号Vsyncが垂直同期信号Vsync−1と同期するように±10μsecの範囲での位相補正制御を繰り返す。その結果、全てのカメラモジュールCA1〜〜CA4の垂直同期信号Vsyncは、カメラモジュールCA1の垂直同期信号Vsync−1と同期する位相に収束し、デイジーチェーンで接続される全てのカメラモジュールCA1〜CA4から同期制御された垂直同期信号Vsyncのタイミングで撮像した画像IM1乃至IM4の画像信号Sp1〜Sp4が最下流に接続された画像合成装置31へ出力される。
【0056】
上述の各実施の形態は、車両の運転支援システムの用途で用いられる画像処理システム1、30であるので、各カメラモジュールCA1〜CA4は、車両50の各部に設置されているが、異なる撮像視野を撮像した画像を一定周期で合成して、連続生成した合成画像を動画像として表示装置へ表示する画像処理システムであれば、カメラモジュールの設置位置やその数は、上記実施の形態に限らない。
【0057】
また、合成画像を連続して表示する動画像の表示手段や表示方法は、任意にその用途に応じて選択できる。
【産業上の利用可能性】
【0058】
広範囲の撮像視野で高速に接近する物体を検知する画像処理システムに適している。
【符号の説明】
【0059】
1、30 画像処理システム
2 撮像部
3 位相制御部
6 LVDSケーブル(接続ケーブル)
10 画像合成装置
11 位相監視部(位相監視手段)
12 相対位相制御部(相対位相制御手段)
14 制御回路(画像合成手段、動画出力手段)
20 表示装置(モニター)
31 画像合成装置
50 車両
IM 画像
Vsync 垂直同期信号
CA カメラモジュール
Sp 画像信号
VW 撮像視野
図1
図2
図3
図4