(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-09-05
(45)【発行日】2023-09-13
(54)【発明の名称】画像処理装置、及び画像処理システム
(51)【国際特許分類】
H04N 23/60 20230101AFI20230906BHJP
【FI】
H04N23/60 500
(21)【出願番号】P 2020157770
(22)【出願日】2020-09-18
【審査請求日】2022-07-01
(73)【特許権者】
【識別番号】000003078
【氏名又は名称】株式会社東芝
(73)【特許権者】
【識別番号】317011920
【氏名又は名称】東芝デバイス&ストレージ株式会社
(74)【代理人】
【識別番号】100091487
【氏名又は名称】中村 行孝
(74)【代理人】
【識別番号】100105153
【氏名又は名称】朝倉 悟
(74)【代理人】
【識別番号】100107582
【氏名又は名称】関根 毅
(74)【代理人】
【識別番号】100118843
【氏名又は名称】赤岡 明
(74)【代理人】
【識別番号】100125151
【氏名又は名称】新畠 弘之
(72)【発明者】
【氏名】森谷 章
【審査官】吉川 康男
(56)【参考文献】
【文献】特開2007-129573(JP,A)
【文献】国際公開第2020/170729(WO,A1)
【文献】特開平08-163302(JP,A)
【文献】米国特許第07787026(US,B1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/60
(57)【特許請求の範囲】
【請求項1】
水平周期に関連付けられた第1ライン信号を順に取得し、処理する画像処理装置であって、
前記第1ライン信号の中の画像データであるラインデータを
前記水平周期よりも短い第2期間毎に順に記憶し、画像処理装置の処理能力に基づくタイミング制御信号に応じて、前記ラインデータを含み且つ対応する前記
第2期間よりも短い時間範囲の第2ライン信号を出力する画像入力バッファを有する画像入力制御部と、
前記第2ライン信号中の前記ラインデータを順に記憶する複数の画像バッファと、前記複数の画像バッファに記憶される前記ラインデータに対し、それぞれ異なるパラメータの処理を順に施すことが可能な第1画像処理回路と、を有する第1画像処理部と、
を備える、画像処理装置。
【請求項2】
前記画像入力制御部は、繰り返し回数が設定されるカウンタを更に有し、
前記画像入力バッファから、1つのラインデータに対応する同じアドレス範囲のデータが前記繰り返し回数に基づき、繰り返し読みだされ、前記複数
の画像バッファのそれぞれに供給される、請求項1に記載の画像処理装置。
【請求項3】
前記画像入力制御部は、少なくとも前記繰り返し回数に基づき、繰り返し読みだされる前記ラインデータ毎に固有の識別番号を付与するID生成回路を更に有する、請求項2に記載の画像処理装置。
【請求項4】
前記画像入力バッファから読みだされた前記ラインデータのそれぞれには異なる処理パラメータが関連付けらており、
前記第1画像処理回路は、前記関連付けられた異なる処理パラメータを用いて、前記ラインデータのそれぞれを処理する、請求項1に記載の画像処理装置。
【請求項5】
前記第1ライン信号のそれぞれは、異なる画像データに基づき生成され、
前記画像入力バッファには、異なる画像データから生成された複数のラインデータが任意の順に記憶され、
前記画像入力制御部は、前記任意の順に記憶されたラインデータごとのアドレス範囲を、前記画像データの固有番号である画像IDに対応させて記憶するラインデータ画像ID記憶部を更に、有し、
前記画像入力バッファは、前記ラインデータ画像ID記憶部に記憶されるラインデータごとのアドレス範囲から順に、前記ラインデータを読みだし、前記複数
の画像バッファのそれぞれに記憶させる、請求項2に記載の画像処理装置。
【請求項6】
前記画像入力制御部は、前記ラインデータに対応する水平同期信号、及び前記ラインデータを含む前記第2ライン信号を生成し、前記第1画像処理部に供給する、請求項1に記載の画像処理装置。
【請求項7】
前記第1画像処理部は、前記水平同期信号に関連付けられた処理パラメータに応じて処理を変更する、請求項6に記載の画像処理装置。
【請求項8】
前記第1画像処理部は、
前記複数の画像バッファに対応させ、前記ラインデータの前記画像データ内の垂直位置を示す情報を記憶する複数の内部情報記憶部を更に有する、請求項1に記載の画像処理装置。
【請求項9】
前記カウンタは、繰り返し読み出した回数に応じてインクリメントされる内部カウンタを有し、前記画像IDごとに与えられる繰り返し回数に到達した場合に初期値に戻し、
前記画像入力バッファは、前記繰り返し回数に到達した場合に、次のアドレス範囲のラインデータを読み出す、請求項5に記載の画像処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、画像処理装置、及び画像処理システムに関する。
【背景技術】
【0002】
複数のデジタルカメラから水平周期に応じてラインデータを読み込み、画像処理する画像処理装置が知られている。
【0003】
ところが、ラインデータを処理する画像処理装置の処理速度が水平周期よりも高速である場合には、画像処理装置の処理速度が水平周期に応じて低下してしまう恐れがある。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
本発明が解決しようとする課題は、より高速な処理が可能な画像処理装置、及び画像処理システムを提供することである。
【課題を解決するための手段】
【0006】
本実施形態に係る画像処理装置は、水平周期に関連付けられた第1ライン信号を順に取得し、処理する画像処理装置であって、画像入力制御部と、第1画像処理部と、を備える。画像入力制御部は、第1ライン信号の中の画像データであるラインデータを順に記憶し、画像処理装置の処理能力に基づくタイミング制御信号に応じて、ラインデータを含み且つ対応する水平周期よりも短い時間範囲の第2ライン信号を出力する画像入力バッファを有する。第1画像処理部は第2ライン信号中のラインデータを順に記憶する複数の画像バッファと、複数の画像バッファに記憶されるラインデータに対し、それぞれ異なるパラメータの処理を順に施すことが可能な第1画像処理回路と、を有する。
【図面の簡単な説明】
【0007】
【
図1】一実施形態に係る画像処理システムの構成を示すブロック図である図。
【
図4】リピート回数が3の場合の画像入力制御部の処理例を説明する模式図。
【
図5】異なる画像IDの第1ライン信号が順に入力された場合の画像入力制御部の処理例を説明する模式図。
【
図6】一方の第1ライン信号のリピート回数が2の場合の画像入力制御部の処理例を説明する模式図。
【発明を実施するための形態】
【0008】
以下、本発明の実施形態に係る画像処理装置、及び画像処理システムについて、図面を参照しながら詳細に説明する。なお、以下に示す実施形態は、本発明の実施形態の一例であって、本発明はこれらの実施形態に限定して解釈されるものではない。また、本実施形態で参照する図面において、同一部分又は同様な機能を有する部分には同一の符号又は類似の符号を付し、その繰り返しの説明は省略する場合がある。また、図面の寸法比率は説明の都合上実際の比率とは異なる場合や、構成の一部が図面から省略される場合がある。
(一実施形態)
【0009】
図1は、一実施形態に係る画像処理システム1の構成を示すブロック図である。
図1に示すように、本実施形態に係る画像処理システム1は、ライン・バイ・ラインによる画像処理が可能なシステムであり、複数の撮像装置10a~10nと、画像処理装置20と、入力装置30と、表示装置40とを、備える。
【0010】
撮像装置10a~10nのそれぞれは、入射光に応じた信号をA/D変換した画像データ出力する。この画像データは、例えば1画素が赤色(R)、緑色(G)、青色(B)の各色のデータにより構成される。
【0011】
また、撮像装置10a~10nのそれぞれは、例えばカメラインタフェースを有しており、複数の制御信号Vsync、Hsync、Data Enable1、Data Enable2、Data ID及び、画像データRAW Dataを生成する。なお、本実施形態では、図面中の垂直同期信号をVsyncで示し、水平同期信号をHsyncで示し、垂直有効信号をData Enable1で示し、水平有効信号をData Enable2で示し、画像データであるラインデータをRAW Dataで示す。
【0012】
制御信号Vs(Vsync)は垂直同期信号であり、垂直方向のデータ転送開始、即ち1フレーム分の画像データの転送開始を示す。制御信号Hs(Hsync)は水平同期信号であり、水平方向のデータ転送開始、即ち1ライン分(又は1ブロック分)の画像データの転送開始を示す。制御信号DE1(Data Enable1)は垂直有効信号である。垂直方向において転送するデータ、つまり1フレーム分の画像データが有効であることを示す。制御信号DE2(Data Enable2)は水平有効信号であり、水平方向において転送するデータ、即ち1ライン分(1ブロック分)のラインデータRD(RAW Data)が有効であることを示す。画像ID(Data ID)は、画像データに割振られる固有番号である。ラインデータRDは、第1ライン信号に含まれる1ライン分(1ブロック分)の画像データである。このため、同一の画像データから生成されたラインデータRDには、共通の画像IDが割振られる。なお、第1ライン信号の先頭部に垂直同期信号Vs、水平同期信号Hs、垂直有効信号DE1、水平有効信号DE2、及び画像IDを含むように第1ライン信号を生成してもよい。
【0013】
また、撮像装置10a~10nの撮像素子の画素数は異なっていてもよい。このため、ラインデータRDのサイズは、撮像装置10a~10nのそれぞれで異なる場合がある。
【0014】
画像処理装置20は、例えば、画像処理回路ISP(Image Signal Processor)である。画像処理装置20は、撮像装置10a~10nから供給されるラインデータRDを並列処理可能である。すなわち、この画像処理装置20は、時間あたりの出力スループットが画像入力のM倍(Mは例えば2以上であるが、これに限定されない)以上に構成される。また、画像処理装置20は、例えばカメラインタフェースを有しており、垂直同期信号Vs、水平同期信号Hs、垂直有効信号DE1、水平有効信号DE2、画像ID、及びRGB画像データ又はYUV画像データなどを生成可能である。なお、本実施形態において、出力スループットが画像入力のM倍とは、一つのラインデータRDを含む水平周期のM倍の処理速度で一つのラインデータRDを処理できることを意味する。換言すると、出力スループットが画像入力のM倍とは、例えば撮像装置10a~10nが一つのラインデータRDの読みだしに、時間Readtかかる場合に、画像処理装置20は、一つのラインデータRDの入力から出力までの処理時間を時間Readt/Mとすることが可能であることを意味する。また、水平周期は、同一画像データにおける水平同期信号の開始タイミングから次の水平同期信号の開始タイミングまでの期間を意味する。
【0015】
入力装置30は、例えば操作者の操作により、撮像装置10a~10nから供給される画像データの画像IDごとの処理パラメータPr(Parameter)、及びリピート回数Rnを設定する。リピート回数Rnが2以上である場合には、リピート回数Rnに対応した処理パラメータPrが設定される。
表示装置40は、例えばモニタであり、画像処理装置20から供給されるデータに基づく画像を表示可能である。
【0016】
図2は、画像処理装置20の構成を示すブロック図である。この画像処理装置20は、入力インターフェース200と、画像入力制御部201と、複数の画像処理部202~204と、出力インターフェース205と、画像統計情報取得部206と、制御部207とを備える。画像処理装置20は、例えば入力された第2ライン信号が有するラインデータを画素ごとにパイプライン処理を行う。
【0017】
入力インターフェース200は、撮像装置10a~10nに対するデータの受信側である。すなわち、入力インターフェース200は、垂直同期信号Vs、水平同期信号Hsに同期して受信動作を行い、垂直有効信号DE1、水平有効信号DE2がアクティブである期間のラインデータRDを受信する。
【0018】
画像入力制御部201は、第1ライン信号の水平周期を変更することが可能である。また、画像入力制御部201は、新たな水平同期信号Hsを生成し、後述する内部画像IDn、及び、処理パラメータPrを関連付けることも可能である。なお、画像入力制御部201の詳細は、後述する。
【0019】
第1画像処理部202は、例えばRAW処理部であり、例えばホワイトバランス処理等を行う。第1画像処理部202は、N個の第1画像バッファ202aと、N個の第1内部状態保持部202bと、第1画像処理回路202cとを、有する。なお、Nは、例えば上述のM以下で最大の整数である。
【0020】
N個の第1画像バッファ202aは、例えば、ラインバッファである。N個の第1画像バッファ202aは、それぞれ、異なる内部画像IDnのライン信号を保持可能である。内部画像IDnは、後述するように画像入力制御部201内で例えばIDに対応させて新たに発行する固有番号である。
【0021】
N個の第1内部状態保持部202bは、N個の第1画像バッファ202aに対応している。例えばN個の第1内部状態保持部202bは、画像IDをインデックスとして垂直方向に何行目のラインデータRDに対応するかを示す情報を保持する。
【0022】
第1画像処理回路202cは、N個の第1画像バッファ202aに保持されるラインデータRDを順に処理する。この際に、第1画像処理回路202cは、新たな水平同期信号Hsに関連付けられた処理パラメータPrを用いて、処理を行ってもよい。或いは、後述する制御部207に記憶される処理パラメータPrを用いて、処理を行ってもよい。そして、N個の第1画像バッファ202aに保持されるラインデータRDは、順に処理され、対応するN個の第2画像バッファ203aに供給される。この際に、N個の第1内部状態保持部202bは、第1画像処理部202の処理に応じて、更新される。
【0023】
第1画像処理回路202cにおけるホワイトバランス処理では、ラインデータRDを構成する各画素のRGBデータを、例えばxy色空間等の所定の色空間にプロットし、その色空間上で光源色の可能性が高い黒体輻射軌跡付近にプロットされたデータのR、G、Bを積分する。そして、その積分値からR成分及びB成分のホワイトバランス係数G/R及びG/Bを求める。以上の処理により生成されたホワイトバランス係数を用いてホワイトバランス処理を実施する。また、第1画像処理回路202cでは、キズ処理、ノイズリダクション処理、色モザイク画像を補間する処理などを行うことによって、全ての画素においてR、G、Bの色情報が揃ったカラー画像を生成する。
【0024】
第2画像処理部203は、例えばRGB生成処理部であり、例えばマトリクス変換処理等を行う。第2画像処理部203は、N個の第2画像バッファ203aと、N個の第2内部状態保持部203bと、第2画像処理回路203cとを、有する。
【0025】
N個の第2画像バッファ203aは、例えば、ラインバッファである。N個の第2画像バッファ203aは、それぞれ、異なる内部画像IDnのライン信号を保持可能である。N個の第2内部状態保持部203bは、N個の第2画像バッファ203aに対応している。例えばN個の第2内部状態保持部203bは、画像IDをインデックスとして垂直方向に何行目のラインデータRDに対応するかを示す情報を保持する。
【0026】
第2画像処理回路203cは、N個の第2画像バッファ203aに保持されるラインデータRDを順に処理する。この際に、第2画像処理回路203cは、新たな水平同期信号Hsに関連付けられた処理パラメータPreを用いて、処理を行ってもよい。或いは、後述する制御部207に記憶される処理パラメータPrを用いて、処理を行ってもよい。そして、N個の第2画像バッファ203aに保持されるラインデータRDは、順に処理され、対応するN個の第3画像バッファ204aに供給される。この際に、N個の第2内部状態保持部203bは、第2画像処理部203の処理に応じて、更新される。
【0027】
第2画像処理回路203cにおけるRGB生成処理では、例えばマトリクス変換処理、およびガンマ変換処理等を行う。これにより、基本的なカラー画像が生成される。
【0028】
第3画像処理部204は、例えば画質調整処理部であり、画質調整処理を行う。また、第3画像処理部204は、3原色(RGB)のラインデータRDを、輝度情報(Y)と色情報(Cb、Cr)とからなる画像データに変換してもよい。或いは、3原色(RGB)のラインデータRDを、YUV形式の画像データに変換してもよい。
【0029】
第3画像処理部204は、N個の第3画像バッファ204aと、N個の第3内部状態保持部204bと、第3画像処理回路204cとを、有する。
【0030】
N個の第3画像バッファ204aは、例えば、ラインバッファである。N個の第3画像バッファ204aは、それぞれ、異なる内部画像IDnのラインデータを保持可能である。N個の第3内部状態保持部204bは、N個の第3画像バッファ204aに対応している。例えばN個の第3内部状態保持部204bは、画像IDをインデックスとして垂直方向に何行目のラインデータRDに対応するかを示す情報を保持する。
【0031】
第3画像処理回路204cは、N個の第3画像バッファ204aに保持されるラインデータRDを順に処理する。この際に、第3画像処理回路204cは、新たな水平同期信号Hsに関連付けられた処理パラメータPrを用いて、処理を行ってもよい。或いは、後述する制御部207に記憶される処理パラメータPrを用いて、処理を行ってもよい。そして、N個の第3画像バッファ204aに保持されるラインデータRDは、順に処理され、出力インターフェース205に供給される。この際に、N個の第2内部状態保持部203bは、第2画像処理部203の処理に応じて、更新される。
【0032】
第3画像処理回路204cにおける画質調整処理では、例えばコントラスト調整処理、ガンマ補正処理等を行う。これにより、基本的なカラー画像が生成される。
【0033】
出力インターフェース205は、カメラインタフェースを有しており、第3画像処理回路204cから供給されるデータに対し、垂直同期信号Vs、水平同期信号Hs、垂直有効信号DE1、水平有効信号DE2、画像ID及び、処理済み画像データRGB Data又は処理済み画像データYUV Dataを生成する。
【0034】
画像統計情報取得部206は、出力インターフェース205に出力されるデータの、画像ID、内部画像IDn、及び、処理パラメータPrを含む処理内容(Image、Info)を出力する。
【0035】
制御部207は、画像処理装置20全体を制御する。制御部207は、レジスタ207a、及びタイミング発生器207bを有する。レジスタ207aは、入力装置30を介して入力された画像IDごとのリピート回数Rn、及びリピート回数Rnそれぞれに対応する処理パラメータPrを記録する。
【0036】
タイミング発生器207bは、基準クロックを有し、画像処理装置20全体のタイミング制御用の信号を生成する。制御部207は、基準クロックにしたがい画像処理装置20全体のタイミング制御を行う。
【0037】
図3は、画像入力制御部201の構成例を示すブロック図である。
図3に示すように、画像入力制御部201は、画像入力バッファ201aと、画像ID記憶部201bと、リピートカウンタ201cと、ID生成回路201dとを、有する。
【0038】
画像入力バッファ201aには、水平有効信号DE2がアクティブである期間のラインデータRDが受信順に記憶される。このため、画像入力バッファ201aに記憶されるラインデータRDの画像IDは任意の順となる。
【0039】
画像入力バッファ201aは、画像バッファリードポインタP8、及び画像バッファライトポインタP9を有する。画像入力バッファ201aは、制御部207のタイミング制御に従い、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレス範囲のラインデータRDを読みだす。
【0040】
画像ID記憶部201bは、例えばFIFO(First-in First-Out)バッファである。画像ID記憶部201bは、バッファ2010b、ライトポインタP10、及びリードポインタP11を有する。ライトポインタP10は、バッファ2010b内の書き込み位置を保持する。リードポインタP11は、バッファ2010b内の読み込み位置を保持する。
【0041】
より具体的には、ライトポインタP10が示すバッファ2010b内の書き込み位置に、画像入力バッファ201aに記憶されたラインデータRDの読みだし先頭アドレスkと、ラインデータRDのデータ量Wに基づいた読みだし終端アドレスk+Wと、画像IDが記憶される。
【0042】
リードポインタP11が示すバッファ2010b内の読み込み位置に格納されるラインデータRDの読みだし先頭アドレスkと、ラインデータRDのデータ量Wに基づいた読みだし終端アドレスk+Wと、画像IDが、制御部207のタイミング制御に従い読み出され、画像入力バッファ201aに供給される。なお、画像入力バッファ201aから出力されるラインデータRDの読みだし間隔に応じて、画像処理装置20の処理負荷は変動する。例えば、ラインデータRDの読みだし間隔が短くなるに従い、画像処理装置20の処理負荷は増加する。このため、画像処理装置20の処理能力に基づく、制御部207のタイミング制御信号に従い読み出される、ラインデータRDの間隔により、画像処理装置20の処理負荷は調整可能である。
【0043】
これにより、画像入力バッファ201aの画像バッファリードポインタP8は、読みだし先頭アドレスkを示し、画像バッファライトポインタP9は、読みだし終端アドレスk+W+1を示す。そして、上述のように、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDが読み出される。この際に画像バッファリードポインタP8が示す位置は、先頭アドレスkから終端アドレスk+W+1に移動し、画像バッファリードポインタP8が示す位置のデータが順に読み出される。
【0044】
リピートカウンタ201cは、レジスタ207aに記録される画像IDごとのリピート回数Rnを設定する。そして、画像入力バッファ201aは、リピート回数Rnが2以上である場合に、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDをリピート回数Rnに応じた繰り返し回数で読みだす。例えば、リピート回数Rnが3である場合、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDを3回読み出す。
【0045】
リピートカウンタ201cは、読みだし回数に応じて内部カウンタの値をインクリメントする。例えば、リピートカウンタ201cは、初期状態で内部カウンタの値を0とし、繰り返し回数1回目のデータを読みだした時にカウンタの値を1に変更し、繰り返し回数2回目のデータを読みだした時にカウンタの値を2に変更し、繰り返し回数3回目のデータを読みだした時にカウンタの値を3に変更する。リピートカウンタ201cは、内部カウンタの値とリピート回数Rnとが一致したときに、内部カウンタの値を初期値である0に戻す。
【0046】
ID生成回路201dは、一意の固有番号である内部画像IDnを生成する。ID生成回路201dは、例えばラインデータRDの画像IDとリピートカウンタ201cの数値に基づき、内部画像IDnを生成する。ID生成回路201dは、例えば、入力される各画像のIDと繰り返し回数である内部カウンタNumとを組み合わせることにより、一意の内部画像IDnを生成する。なお、本実施形態に係る内部画像IDnが、ラインデータ毎に付与される固有の識別番号に対応する。
【0047】
画像入力制御部201は、水平同期信号Hs、内部画像IDn、及び内部画像IDnに対する処理パラメータPrを第2ライン信号の先頭部に付与する。或いは、制御部207が、レジスタ207aに記録される処理パラメータPrを用いて制御する場合には、第2ライン信号を、水平同期信号Hs、内部画像IDn、及び内部画像IDnに対する処理パラメータPrを含めずに構成してもよい。
【0048】
まず、
図4に基づき、リピート回数が3の場合の画像入力制御部201の処理例を説明する。ここでは、画像処理装置20の時間あたりの出力スループットが画像入力の3倍の例を説明する。また、画像入力制御部201は、水平同期信号Hs、内部画像IDn、及び内部画像IDnに対する処理パラメータPrを第2ライン信号の先頭部に付与する場合について説明する。
【0049】
図4は、リピート回数が3の場合の画像入力制御部201の処理例を説明する模式図である。
【0050】
図4の(a)図は、入力インターフェース200に入力される画像ID10の第1ライン信号を模式的に示している図である。横軸は時間を示す。水平同期信号Hs10に基づく水平周期H10内にラインデータImag0LineN0が含まれている。
【0051】
パイプライン処理を行う画像処理装置20では、一般に第1ライン信号の水平同期信号Hs間の長さである水平周期に応じて第1ライン信号が読み込まれ、画像処理される。このため、水平周期が長くなるにしたがい、画像処理の処理時間が長くなる。これらから分かるように、
図4の(a)図に示ように、水平周期に含まれるラインデータImag0LineN0が、水平周期H10の一部である場合には、画像処理装置20の処理時間に損失が生じてしまう。例えば、従来の読み込み方式では、ラインデータImag0LineN0は、水平同期信号Hs10の時間に応じて入力される。このため、ラインデータImag0LineN0を3回処理するためには、水平同期信号Hs10の3倍の時間がかかってしまう。上側の水平周期H10が画像処理装置20に入力される際の水平周期を示しており、下側の水平周期H10が、画像入力バッファ201aから出力される際の信号に対応する。
【0052】
図4の(b)図は、画像入力バッファ201aから出力される第2ライン信号を模式的に示している図である。例えば水平周期H10を3分の1とした水平周期H20、H21、H22内に、ラインデータImag0LineN0が含まれている。
図4の(a)図における下側の水平周期H10が、
図4の(b)における水平周期H20、H21、H22を合わせた長さに対応する。すなわち、
図4の(b)図は、時間幅を
図4の(a)図より拡大して記載している。このように、画像入力バッファ201aから出力される第2ライン信号は、上側の水平周期H10より遅れをもって出力される。また、例えば水平周期H20が3分の1となるので、画像処理装置20のラインデータImag0LineN0に対する処理時間がおよそ3分の1となる。
【0053】
図4の(c)図は、出力インターフェース205から出力されるライン信号を模式的に示している図である。ラインデータPimag0LineN0は、内部画像IDn20の処理後のラインデータPimag0LineN0を示している。
【0054】
図4の(a)図に示すように、水平同期信号Hs10に基づいて、ラインデータImag0LineN0が入力インターフェース200に受信される。このときの水平有効信号DE2はアクティブであり、リピート回数Rn=3が画像ID10に対応させて制御部207のレジスタ207aに記録される。
【0055】
画像入力バッファ201aは、水平有効信号DE2がアクティブであるので、ラインデータImag0LineN0を記憶する。この際に画像ID記憶部201bは、画像ID10、画像入力バッファ201aに書き込まれたラインデータImag0LineN0の読みだし先頭アドレスk、終端アドレスk+W、及び画像IDをライトポインタP10が示す書き込み位置に記憶する。また、リピートカウンタ201cの内部カウンタNumは初期値の0であり、リピート回数Rn=3がリピートカウンタ201cに、制御部207を介して設定される。
【0056】
このとき、ID生成回路201dは、画像ID=10とリピートカウンタ201cの数値0に基づき、内部画像IDnを例えば20として生成する。
【0057】
画像入力バッファ201aは、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDを読みだす。この際に、画像入力制御部201は、アクティブであることを示す水平有効信号DE2を第1画像処理202部に出力する。
【0058】
画像入力制御部201は、水平同期信号Hs20、内部画像IDn、及び内部画像IDnに対する処理パラメータPrを先頭部に付与し、ラインデータRDを含む第2ライン信号を生成する。処理パラメータPrは、制御部207のレジスタ207aから供給される。また、記録された第1画像バッファ202aに対応する第1内部状態保持部202bにラインN0であることを示す情報を記録する。
【0059】
さらにまた、ID生成回路201dは、内部画像IDnである10を、第1画像バッファ202aに記録された1番目のラインデータImag0LineN0に関連づける。そして、リピートカウンタ201cは、内部カウンタNumをインクリメントし0から1に変更する。
【0060】
リピートカウンタ201cは、内部カウンタNum=1とリピート回数Rn=3が一致していないので、画像入力バッファ201aは、前回と同じアドレス範囲のラインデータRDを読みだす。この際に、画像バッファリードポインタP8が示す位置は、Imag0LineN0の読みだし先頭アドレスkに戻される。また、アクティブであることを示す水平有効信号DE2を第1画像処理部202に出力する。更にまた、記録された第1画像バッファ202aに対応する第1内部状態保持部202bにラインN0であることを示す情報を記録する。
【0061】
このとき、ID生成回路201dは、ID=10とリピートカウンタ201cの数値1に基づき、内部画像IDnを例えば21として生成する。
【0062】
さらにまた、ID生成回路201dは、内部画像IDnである21を、第1画像バッファ202aに記録された2番目のラインデータImag0LineN0に関連づける。そして、リピートカウンタ201cは、内部カウンタNumをインクリメントし1から2に変更する。
【0063】
リピートカウンタ201cは、内部カウンタNum=2とリピート回数Rn=3が一致していないので、画像入力バッファ201aは、再び同じアドレス範囲のラインデータRDを読み出す。この際に、アクティブであることを示す水平有効信号DE2を第1画像処理202部に出力する。また、記録された第1画像バッファ202aに対応する第1内部状態保持部202bにラインN0であることを示す情報を記録する。
【0064】
このとき、ID生成回路201dは、画像ID=10とリピートカウンタ201cの数値2に基づき、内部画像IDnを例えば22として生成する。
【0065】
さらにまた、ID生成回路201は、内部画像IDnである22を、第1画像バッファ202aに記録された3番目のインデータImag0LineN0に関連づける。そして、リピートカウンタ201cは、内部カウンタNumをインクリメントし2から3に変更する。
【0066】
次にリピートカウンタ201cは、内部カウンタNum=3とリピート回数Rn=3が一致しているので、内部カウンタNumを0に戻す。このとき、画像入力バッファ201aは、内部カウンタNum=3とリピート回数Rn=3が一致したので繰り返し読みだしを停止する。そして、画像バッファリードポインタP8が示す位置は、次のラインデータRDの読みだし先頭アドレスknに移動される。
【0067】
このように、3つの第1画像バッファ202aには、それぞれ、ラインデータImag0LineN0が記憶され、上述のように異なる処理パラメータPrを用いて画像処理部202~204によりラインデータImag0LineN0が順に処理される。
【0068】
そして、処理が終了すると、
図4の(c)図に示ように、出力インターフェース205は、内部画像IDn20~22のそれぞれの処理後のラインデータPimag0LineN0を元の水平周期H10の信号として出力する。このように、処理後のラインデータPimag0LineN0の水平周期H10は、元の長さに戻すことが可能である。或いは、出力インターフェース205は、水平周期H20、H21、H22のように水平周期を変更して出力してもよい。
【0069】
このように、画像入力制御部201は、例えば第1水平周期H10の余りの時間とブランキング時間を使って、ラインデータImag0LineN0を繰り返し読み出す。これにより、画像処理装置20は、ラインデータImag0LineN0の3回分の処理時間を短縮し、スループットを例えば3倍とすることが可能となる。すなわち、水平周期H10のラインデータImag0LineN0を除く期間を短縮することにより、画像処理装置20のラインデータImag0LineN0に対する処理時間がより短縮される。換言すると、ラインデータImag0LineN0を含む第1ライン信号の水平周期を変更し、繰り返し処理をすることにより、画像処理装置20の処理速度に応じて処理時間を短縮可能となる。
【0070】
また、画像入力バッファ201aは、1つのラインデータに対応する同じアドレス範囲を繰り返し回数Rnに基づき、繰り返し読み出す。そして、画像入力バッファ201aは、同じアドレス範囲のラインデータを第1画像処理部202の複数の第1画像バッファ202bそれぞれ記憶させ、第1画像処理部202は、複数のラインバッファそれぞれに記憶されるラインデータに対する順に異なる処理を施す。これにより、1つのラインデータに異なる画像処理を施す場合に、ラインデータを複数回読み込むことなく、異なる画像処理を施すことが可能となり、処理速度をより高速にできる。
【0071】
次に、
図5に基づき、異なる画像IDの第1ライン信号が順に入力された画像処理装置20に入力された場合の画像入力制御部201の処理例を説明する。ここでは、画像処理装置20の時間あたりの出力スループットが画像入力の3倍の例を説明する。
【0072】
図5は、異なる画像IDの第1ライン信号が順に入力された場合の画像入力制御部201の処理例を説明する模式図である。
【0073】
図5の(a)図は、入力インターフェース200に入力される画像ID10の第1ライン信号を模式的に示している図である。横軸は時間を示す。第1ライン信号内にラインデータImag0LineN0が含まれている。
【0074】
図5の(b)図は、入力インターフェース200に入力される画像ID21の第1ライン信号を模式的に示している図である。横軸は時間を示す。第1ライン信号内にラインデータImag1LineN1が含まれている。
【0075】
図5の(c)図は、入力インターフェース200に入力される画像ID32の第1ライン信号を模式的に示している図である。横軸は時間を示す。第1ライン信号内にラインデータImag2LineN2が含まれている。
【0076】
図5の(d)図は、画像入力バッファ201aから出力される第2ライン信号を模式的に示している図である。例えば、水平周期H10、H11、H12のそれぞれを3分の1とした水平周期H20、H42、H64内に、ラインデータImag0LineN0、Imag1LineN1、Imag2LineN2がそれぞれ含まれている。水平周期H10、H11、H12を合わせた長さが、
図5の(a)図の下側の水平周期H10に対応する。
【0077】
図5の(a)、(b)、(c)図に示すように、水平同期信号Hs10、Hs21、Hs32に基づいて、ラインデータImag0LineN0、Imag1LineN1、Imag2LineN2を含む第1ライン信号が入力インターフェース200に順に受信される。このときの水平有効信号DE2はアクティブであり、リピート回数Rn=1及び処理パラメータPrが画像ID10、ID21、ID32に対応させてレジスタ207aに記録される。
【0078】
上述のように、カメラ入力にかかる時間に対応する水平周期H10よりも、ラインデータImag0LineN0に対する画像処理装置20の出力にかかる処理時間はN分の1程度である。ここでは、例えば3分の1程度である。このため、従来のように、水平周期Hs10、Hs11、Hs12のそれぞれに応じて、順にラインデータImag0LineN0、Imag1LineN1、Imag2LineN2を処理していたならば、Imag0LineN0、Imag1LineN1、Imag2LineN2を処理するためには、水平周期Hs10+Hs11+Hs12の時間がかかってしまう。
【0079】
画像入力バッファ201aは、水平有効信号DE2がそれぞれアクティブであるので、ラインデータImag0LineN1、Imag1LineN1、Imag2LineN2を順に記憶する。この際に画像ID記憶部201bは、画像ID10、バッファ2010aに書き込まれたラインデータImag0LineN0の読みだし先頭アドレスk、及び、読みだし終端アドレスk+w+1をライトポインタP10が指示する位置に記憶する。
【0080】
同様に、画像ID記憶部201bは、画像ID11、ラインデータImag1LineN1の読みだし先頭アドレスk1、及び、読みだし終端アドレスk+w+1をライトポインタP10が指示する位置に記憶する。同様に、画像ID記憶部201bは、画像ID12、ラインデータImag2LineN2の読みだし先頭アドレスk2、及び、読みだし終端アドレスk2+W2をライトポインタP10が指示する位置に記憶する。この場合、画像入力バッファ201aは、水平周期Hs10、Hs11、Hs12などの第1ライン信号を瞬時に受信するので、画像入力バッファ201aが、ラインデータImag0LineN0、Imag1LineN1、Imag2LineN2などを記憶する時間は、水平周期Hs10、Hs11、Hs12それぞれよりもより短い時間である。
【0081】
画像入力バッファ201aは、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDを読みだす。これにより、ラインデータImag0LineN0が読み出される。この際に、画像入力制御部201は、水平同期信号Hs20、内部画像IDn=20、及び内部画像IDn=20に対する処理パラメータPrを先頭部に付与し、Imag0LineN0を含む第2ライン信号を生成する。
【0082】
また、アクティブであることを示す水平有効信号DE2を第1画像処理202部に出力する。さらにまた、記録された第1画像バッファ202aに対応する第1内部状態保持部202bにラインN0であることを示す情報を記録する。このとき、ID生成回路201dは、画像ID=10とリピートカウンタ201cの数値0に基づき、内部画像IDnを例えば20として生成する。そして、リピートカウンタ201cは、内部カウンタNumをインクリメントし0から1に変更する。次にリピートカウンタ201cは、内部カウンタNum=1とリピート回数Rn=1が一致しているので、内部カウンタNum=0に戻す。
【0083】
次に、画像入力バッファ201aは、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDを読みだす。これにより、ラインデータImag1LineN1が読み出される。この際に、画像入力制御部201は、水平同期信号Hs20、内部画像IDn=42、及び内部画像IDn=42に対する処理パラメータPrを先頭部に付与し、ラインデータImag1LineN1を含む第2ライン信号を生成する。なお、内部画像IDn=42につては、後述する。この際に、画像入力制御部201は、水平同期信号Hs42、内部画像IDn=42、及び内部画像IDn=42に対する処理パラメータPrを第2ライン信号の先頭部に付与し、ラインデータImag1LineN1を含む第2ライン信号を生成する。
【0084】
また、画像入力制御部201は、アクティブであることを示す水平有効信号DE2を第1画像処理202部に出力する。また、画像入力制御部201は、記録された第1画像バッファ202aに対応する第1内部状態保持部202bにラインN1であることを示す情報を記録する。このとき、ID生成回路201dは、ID=21とリピートカウンタ201cの数値0に基づき、内部画像IDnを例えば42として生成する。そして、リピートカウンタ201cは、内部カウンタNumをインクリメントし0から1に変更する。次にリピートカウンタ201cは、内部カウンタNum=1とリピート回数Rn=1が一致しているので、内部カウンタNum=0に戻す。
【0085】
次に、画像入力バッファ201aは、画像バッファリードポインタP8が示すアドレスから、画像バッファライトポインタP9が示すアドレスが示すアドレス範囲のラインデータRDを読みだす。これにより、ラインデータImag2LineN2が読み出される。この際に、画像入力制御部201は、水平同期信号Hs64、内部画像IDn=64、及び内部画像IDn=64に対応するする処理パラメータPrを先頭部に付与し、ラインデータImag2LineN2を含む第2ライン信号を生成する。なお、内部画像IDn=64については、後述する。また、画像入力制御部201は、アクティブであることを示す水平有効信号DE2を第1画像処理202部に出力する。また、画像入力制御部201は、記録された第1画像バッファ202aに対応する第1内部状態保持部202bにラインN2であることを示す情報を記録する。このとき、ID生成回路201dは、ID=32とリピートカウンタ201cの数値0に基づき、内部画像IDnを例えば64として生成する。そして、リピートカウンタ201cは、内部カウンタNumをインクリメントし0から1に変更する。次にリピートカウンタ201cは、内部カウンタNum=1とリピート回数Rn=1が一致しているので、内部カウンタNum=0に戻す。
【0086】
このように、3つの第1画像バッファ202aには、それぞれ、ラインデータImag0LineN0、Imag1LineN1、Imag2LineN2を含信号が記憶され、上述のように異なる処理パラメータPrを用いて画像処理部202~204によりラインデータImag0LineN0、Imag1LineN1、Imag2LineN2が順に処理される。
【0087】
そして、処理が終了すると、出力インターフェース205は、IDn20、42、64のそれぞれの処理後のラインデータを元の水平周期の信号として出力する。或いは、出力インターフェース205は、水平周期H20、H42、H64のように水平周期を変更して出力してもよい。
【0088】
このように、画像入力制御部201は、例えば第1水平周期H10の余りの時間とブランキング時間を使ってラインデータImag0LineN0、Imag1LineN1、Imag2LineN2を所定の時間間隔で読み出す。これにより、画像処理装置20は、ラインデータImag0LineN0、Imag1LineN1、Imag2LineN2の処理時間を短縮し、スループットを例えば3倍とすることが可能となる。すなわち、水平周期H10、H11,H12のラインデータImag0LineN0、Imag1LineN1、Imag2LineN2を除く期間を短縮することにより、画像処理装置20のラインデータIImag0LineN0、Imag1LineN1、Imag2LineN2に対する処理時間がより短縮される。換言すると、ラインデータImag0LineN0、ラインデータImag1LineN1、ラインデータImag2LineN2を含む第1ライン信号の水平周期を変更し、処理することにより、画像処理装置20の処理速度に応じて処理時間を短縮可能となる。
【0089】
次に、
図6に基づき、異なる画像IDの第1ライン信号が順に入力され、一方の第1ライン信号のリピート回数が2の場合の画像入力制御部201の処理例を説明する。
【0090】
図6は、異なる画像IDの第1ライン信号が順に入力され、一方の第1ライン信号のリピート回数が2の場合の画像入力制御部201の処理例を説明する模式図である。
【0091】
図6の(a)図は、入力インターフェース200に入力される画像ID10の第1ライン信号を模式的に示している図である。横軸は時間を示す。第1ライン信号内にラインデータImag0LineN0が含まれている。
【0092】
図6の(b)図は、入力インターフェース200に入力される画像ID21の第1ライン信号を模式的に示している図である。横軸は時間を示す。第1ライン信号内にラインデータImag1LineN1が含まれている。
【0093】
図6の(c)図は、画像入力バッファ201aから出力される第2ライン信号を模式的に示している図である。例えば、水平周期H10、H11のそれぞれを、3分の1とした水平周期H20、H21、H42内に、ラインデータImag0LineN0、Imag1LineN1がそれぞれ含まれている。水平周期H20、H21、H42を合わせた長さが、
図6の(a)図の下側の水平周期H10に対応する。
【0094】
図6の(c)図に示すように、画像入力制御部201は、
図4と同様の処理により、リピート回数Rnを2としてラインデータImag0LineN0が含まれる第1ライン信号を処理する。また、画像入力制御部201は、
図5と同様の処理により、リピート回数Rnを1としてラインデータImag1LineN1が含まれる第1ライン信号について処理する。
【0095】
このような処理により、3つの第1画像バッファ202aには、それぞれ、ラインデータImag0LineN0、Imag0LineN0、Imag1LineN1を含む信号が記憶され、上述のように異なる処理パラメータPrを用いて画像処理部202~204によりラインデータImag0LineN0、Imag0LineN0、Imag1LineN1が順に処理される。
【0096】
そして、処理が終了すると、入力インターフェース205は、IDn20、21、42のそれぞれの処理後のラインデータを元の水平周期の信号として出力する。或いは、入力インターフェース205は、水平周期H20、H21、H42のように水平周期を変更して出力してもよい。
【0097】
このように、ラインデータImag0LineN0、ラインデータImag1LineN1を含む第1ライン信号の水平周期を変更し、処理することにより、画像処理装置20の処理速度に応じて処理時間を短縮可能となる。
【0098】
以上説明したように、本実施形態によれば、画像入力バッファ201aは、第1ライン信号の中の画像データであるラインデータを順に記憶し、画像処理装置20の処理能力に基づくタイミング制御信号に応じて、ラインデータを含み且つ対応する水平周期よりも短い時間範囲の第2ライン信号を出力する。そして、第1画像処理部202は、複数のラインバッファそれぞれに記憶される第2ライン信号に含まれるラインデータに対して異なる処理を順に施す。これにより、第1画像処理部202は、水平周期よりも短い時間でラインデータを読み込むことが可能となり、ラインデータの処理速度をより高速にできる。
【0099】
(変形例1)
変形例1は、入力インターフェース200と、画像入力制御部201と、制御部207とを画像処理装置20から分離し、画像入力制御装置20aと構成した点で一実施形態に係る画像処理システム1と相違する。以下では、一実施形態に係る画像処理システム1と相違する点を説明する。
【0100】
図7は、画像入力制御装置20aの構成を示すブロック図である。
図7に示すように、画像入力制御装置20aは、入力インターフェース200と、画像入力制御部201と、制御部207とを備える。これにより、画像入力制御装置20aは、上述の
図4、
図5、
図6で説明しように、入力された第1ライン信号の水平周期の長さを変更した第1ライン信号を出力できる。また、第1ライン信号間の間隔も変更可能である。これにより、ネットワーク上の第2ライン信号の水平周期の長さ等を変更して、例えば他の画像処理装置20に供給できる。
【0101】
以上、いくつかの実施形態を説明したが、これらの実施形態は、例としてのみ提示したものであり、発明の範囲を限定することを意図したものではない。本明細書で説明した新規な装置、方法及びプログラムは、その他の様々な形態で実施することができる。また、本明細書で説明した装置、方法及びプログラムの形態に対し、発明の要旨を逸脱しない範囲内で、種々の省略、置換、変更を行うことができる。
【0102】
なお、本技術は以下のような構成を取ることができる。
「請求項10」 前記ラインデータ画像ID記憶部は、リードポインタを有し、前記リードポインタが指示する位置に、読み出し開始位置を示す前記画像入力バッファのアドレスを記憶しており、
前記画像入力バッファは、画像バッファリードポインタを有し、前記画像バッファリードポインタが示す位置のデータを読み出し、
前記画像バッファリードポインタは、前記読み出し開始位置を示す前記画像入力バッファのアドレスからデータ読みだしを開始し、前記画像バッファリードポインタは、前記繰り返し回数が満たされない場合には、読み出し完了後に前記読み出し開始位置を示す前記画像入力バッファのアドレスに戻される、請求項9に記載の画像処理装置。
「請求項11」 前記ラインデータ画像ID記憶部は、前記ラインデータの識別番号であるIDを記憶しており、
前記画像入力バッファは、画像バッファリードポインタを有し、
前記画像バッファリードポインタは、前記IDに基づき、前記読み出し開始位置を示す前記画像入力バッファのアドレスからデータ読みだしを開始する、請求項9に記載の画像処理装置。
【符号の説明】
【0103】
1:画像処理システム、10a~10n:撮像装置、20:画像処理装置、201:画像入力制御部、201b:画像ID記憶部、201c:リピートカウンタ、201d:ID生成回路、202:第1画像処理部、202a:第1画像バッファ、202b:第1内部状態保持部、203:第2画像処理部、203a:第2画像バッファ、203b:第2内部状態保持部。