(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-12-16
(45)【発行日】2022-12-26
(54)【発明の名称】情報処理装置及びその制御方法並びにプログラム
(51)【国際特許分類】
H04N 5/232 20060101AFI20221219BHJP
H04N 5/369 20110101ALI20221219BHJP
H04L 7/00 20060101ALI20221219BHJP
【FI】
H04N5/232
H04N5/369
H04L7/00 120
(21)【出願番号】P 2019004342
(22)【出願日】2019-01-15
【審査請求日】2022-01-06
(73)【特許権者】
【識別番号】000001007
【氏名又は名称】キヤノン株式会社
(74)【代理人】
【識別番号】100125254
【氏名又は名称】別役 重尚
(72)【発明者】
【氏名】伊藤 篤義
【審査官】高野 美帆子
(56)【参考文献】
【文献】特許第5631084(JP,B2)
【文献】米国特許出願公開第2017/0085755(US,A1)
【文献】特開2011-015221(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/232
H04N 5/369
H04L 7/00
(57)【特許請求の範囲】
【請求項1】
第1のクロックを生成する第1のクロック生成部と、
第2のクロックを生成する第2のクロック生成部と、
第1のモジュールと、
前記第1のモジュールとは異なる第2のモジュールと、
前記第1のモジュールに第1の同期信号を供給し、前記第1の同期信号に同期した動作を行わせる、前記第1のクロックで動作する第1のタイミング制御手段と、
第1の設定時間に基づき前記第2のモジュールに第2の同期信号を供給し、前記第2の同期信号に同期した動作を行わせる、前記第2のクロックで動作する第2のタイミング制御手段と、
前記第1の同期信号が前記第1のモジュールに供給された第1の時刻、及び前記第2の同期信号が前記第2のモジュールに供給された第2の時刻を計測する時間計測手段と、
前記第2の同期信号に同期して前記第1の同期信号を前記第1のモジュールに供給する第1のモード、及び第2の設定時間に基づき前記第1の同期信号を前記第1のモジュールに供給する第2のモードの一方に前記第1のタイミング制御手段の動作モードを切り替える切替手段と、
前記切替手段が、前記第1のモードで前記第1の同期信号を前記第2の同期信号に同期させた後、前記第2のモードに切り替えた場合、前記第1及び第2の時刻の時間差を算出する算出手段と、
前記算出された時間差が第1の時間以上の場合、前記第2の設定時間を第2の時間だけ変更する変更手段とを備えることを特徴とする情報処理装置。
【請求項2】
前記時間計測手段は前記第2のクロックで動作することを特徴とする請求項1記載の情報処理装置。
【請求項3】
前記第1のクロック生成部と前記第1のモジュールは第1の基板上にあり、前記第2のクロック生成部と前記第2のモジュールは第2の基板上にあることを特徴とする請求項1記載の情報処理装置。
【請求項4】
前記第1のモジュールは、撮像素子であることを特徴とする請求項1乃至3のいずれか1項に記載の情報処理装置。
【請求項5】
前記撮像素子は、前記第1の同期信号に同期して動画1フレームの撮像動作を行うことを特徴とする請求項4記載の情報処理装置。
【請求項6】
前記第2のモジュールは、前記第2の同期信号に同期して、前記動画1フレームに対応する動作を行うことを特徴とする請求項5記載の情報処理装置。
【請求項7】
前記第2のモジュールは、前記動画1フレームに対応する録音を行う録音部、前記動画1フレームに対応するライブビュー表示を行う表示部、前記撮像素子と被写体からの光学距離が等しくなる位置に配される他の撮像素子のいずれかであることを特徴とする請求項6記載の情報処理装置。
【請求項8】
前記第2の時間は、前記第1の時間であることを特徴とする請求項5乃至7のいずれか1項に記載の情報処理装置。
【請求項9】
前記第2の時間は、前記撮像素子の水平同期信号の周期の整数倍と等しいことを特徴とする請求項5乃至7のいずれか1項に記載の情報処理装置。
【請求項10】
前記第2の時間は、前記撮像素子のリセット走査開始タイミングの設定可能単位の整数倍と等しいことを特徴とする請求項5乃至7のいずれか1項に記載の情報処理装置。
【請求項11】
前記第1のタイミング制御手段は、第nフレームにおいて前記計測された時刻の時間差が前記第1の時間以上の場合、第(n+1)フレームの前記第1の同期信号を供給するタイミングをずらすことを特徴とする請求項5乃至10のいずれか1項に記載の情報処理装置。
【請求項12】
前記第1のタイミング制御手段は、第nフレームにおいて前記計測された時刻の時間差が前記第1の時間以上の場合、第(n+1)フレームのリセット走査開始タイミングを第2の時間だけ変更することを特徴とする請求項11記載の情報処理装置。
【請求項13】
第nフレームにおいて前記計測された時刻の時間差が前記第1の時間以上の場合、第(n+1)フレームでは前記第1及び第2の同期信号が供給された時刻を計測しないよう前記時間計測手段を制御する制御手段を更に備えることを特徴とする請求項11又は12記載の情報処理装置。
【請求項14】
第3のクロックを生成する第3のクロック生成部と、
前記第1及び第2のモジュールとは異なる第3のモジュールと、
前記第3のモジュールに第3の同期信号を供給し、前記第3の同期信号に同期した動作を行わせる、前記第3のクロックで動作する第3のタイミング制御手段とを更に備え、
前記時間計測手段は、前記第3の同期信号が前記第3のモジュールに供給された第3の時刻を更に計測し、
前記変更手段は、前記計測された前記第2及び第3の時刻の時間差が第3の時間以上の場合、前記第3のタイミング制御手段が前記第3の同期信号を前記第3のモジュールに供給するタイミングを第4の時間だけ変更することを特徴とする請求項1乃至13のいずれか1項に記載の情報処理装置。
【請求項15】
前記第3のクロック生成部と前記第3のモジュールは第3の基板上にあることを特徴とする請求項14記載の情報処理装置。
【請求項16】
前記第1のモジュールは、前記第1の同期信号に同期して動画1フレームの撮像動作を行う撮像素子であって、
前記第3のモジュールは、前記第3の同期信号に同期して、前記動画1フレームに対応する動作を行うことを特徴とする請求項14又は15記載の情報処理装置。
【請求項17】
前記第3のモジュールは、前記動画1フレームに対応する録音を行う録音部、前記動画1フレームに対応するライブビュー表示を行う表示部、前記撮像素子と被写体からの光学距離が等しくなる位置に配される他の撮像素子のいずれかであることを特徴とする請求項16記載の情報処理装置。
【請求項18】
第1のクロックを生成する第1のクロック生成部と、第2のクロックを生成する第2のクロック生成部と、第1のモジュールと、前記第1のモジュールとは異なる第2のモジュールとを有する情報処理装置の制御方法であって、
前記第1のモジュールに第1の同期信号を供給し、前記第1の同期信号に同期した動作を行わせる、前記第1のクロックで動作する第1のタイミング制御ステップと、
第1の設定時間に基づき前記第2のモジュールに第2の同期信号を供給し、前記第2の同期信号に同期した動作を行わせる、前記第2のクロックで動作する第2のタイミング制御ステップと、
前記第1の同期信号が前記第1のモジュールに供給された第1の時刻、及び前記第2の同期信号が前記第2のモジュールに供給された第2の時刻を計測する時間計測ステップと、
前記第2の同期信号に同期して前記第1の同期信号を前記第1のモジュールに供給する第1のモード、及び第2の設定時間に基づき前記第1の同期信号を前記第1のモジュールに供給する第2のモードの一方に前記第1のタイミング制御ステップにおける動作モードを切り替える切替ステップと、
前記切替ステップにおいて、前記第1のモードで前記第1の同期信号を前記第2の同期信号に同期させた後、前記第2のモードに切り替えた場合、前記第1及び第2の時刻の時間差を算出する算出ステップと、
前記算出された時間差が第1の時間以上の場合、前記第2の設定時間を第2の時間だけ変更する変更ステップとを有することを特徴とする制御方法。
【請求項19】
請求項18記載の制御方法を実行することを特徴とするプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置及びその制御方法並びにプログラムに関し、特に、独立したクロック供給源を有する2つのモジュールを有する情報処理装置及びその制御方法並びにプログラム関する。
【背景技術】
【0002】
近年、信号の送信モジュール、特に撮像素子が一定時間に取り扱う信号量が増加している。その背景には静止画の高画素化、ハイダイナミックレンジ化、動画の高画素化・高フレームレート化などがある。そのため、撮像素子と、撮像素子から出力された信号を受信し処理する受信モジュールとの間のデータ通信の高速化がこれまで以上に求められるようになった。このデータ通信の高速化を実現する技術には多くの手法があるが、一般的に伝送エラーの少ない状態で高速な通信を実現するためには通信回路に高精度のクロックを入力することが必要である。高精度のクロックを供給するためには、そのクロックを出力する発振器の精度が必要なのはもちろんだが、損失をできるだけ抑えるために、発振器とそのクロックを要求するモジュールの距離が離れすぎてはならない。
【0003】
そこで、例えば撮像装置の場合、撮像素子が搭載される基板とそれ以外のモジュールが搭載される基板の夫々に発振器を搭載することがある。しかし、一般的には、これら複数の発振器の間でのクロック周波数が整数倍の関係にあることは保証できない。また、複数の発振器のクロック周波数を揃える構成にしたとしても、発振器の出力するクロック周波数は夫々の偏差の範囲で周波数が変わることが許容されているので、撮像素子とそれ以外のモジュールの間で、周期がずれてしまう。かかる問題に関して、種々の解決案が提案されている。
【0004】
例えば、特許文献1では、動画像の各フレームデータを垂直同期信号の周波数で撮像素子から走査ライン順に出力し、各フレームデータの出力時刻と、動画像を表示するディスプレイの基準出力時刻とのずれを検出する。この検出されたずれが所定の閾値を超えた場合に垂直同期信号の発行タイミングを変更することで、上記問題の解決を図っている。
【先行技術文献】
【特許文献】
【0005】
【発明の概要】
【発明が解決しようとする課題】
【0006】
しかしながら、特許文献1の技術では、基準出力時刻と各フレームデータの出力時刻のずれは補正できるが、受信モジュールが録音部などのような基準出力時刻と関係なく動作するモジュールである場合、撮像素子と受信モジュールの間でのずれを補正できない。すなわち、撮像素子とそれ以外のモジュールが独立したクロック供給源により動作する場合、特許文献1に示す従来技術では撮像素子とそれ以外のモジュールの間でずれを補正できない。
【0007】
そこで、本発明の目的は、独立したクロック供給源を有する2つのモジュールの間での周期のずれを抑えることができる情報処理装置及びその制御方法並びにプログラムを提供することである。
【課題を解決するための手段】
【0008】
本発明の請求項1に係る情報処理装置は、第1のクロックを生成する第1のクロック生成部と、第2のクロックを生成する第2のクロック生成部と、第1のモジュールと、前記第1のモジュールとは異なる第2のモジュールと、前記第1のモジュールに第1の同期信号を供給し、前記第1の同期信号に同期した動作を行わせる、前記第1のクロックで動作する第1のタイミング制御手段と、第1の設定時間に基づき前記第2のモジュールに第2の同期信号を供給し、前記第2の同期信号に同期した動作を行わせる、前記第2のクロックで動作する第2のタイミング制御手段と、前記第1の同期信号が前記第1のモジュールに供給された第1の時刻、及び前記第2の同期信号が前記第2のモジュールに供給された第2の時刻を計測する時間計測手段と、前記第2の同期信号に同期して前記第1の同期信号を前記第1のモジュールに供給する第1のモード、及び第2の設定時間に基づき前記第1の同期信号を前記第1のモジュールに供給する第2のモードの一方に前記第1のタイミング制御手段の動作モードを切り替える切替手段と、前記切替手段が、前記第1のモードで前記第1の同期信号を前記第2の同期信号に同期させた後、前記第2のモードに切り替えた場合、前記第1及び第2の時刻の時間差を算出する算出手段と、前記算出された時間差が第1の時間以上の場合、前記第2の設定時間を第2の時間だけ変更する変更手段とを備えることを特徴とする。
【発明の効果】
【0009】
本発明によれば、独立したクロック供給源を有する2つのモジュールの間での周期のずれを抑えることができる。
【図面の簡単な説明】
【0010】
【
図1】第1~第3の実施形態に係る情報処理装置としての撮像装置の全体構成を示すブロック図である。
【
図3】
図2における第1及び第2の同期信号の発行タイミングのずれが発生する原理を説明するためのタイミングチャートである。
【
図4】第1の実施形態に係るずれ補正処理のフローチャートである。
【
図5】
図4のずれ補正処理により、第1及び第2の同期信号の発行タイミングのずれが補正される様子を示すタイミングチャートである。
【
図6】スリットローリング動作による蓄積時間の制御を説明するためのタイミングチャートである。
【
図7A】第2の実施形態に係るずれ補正処理において、
図1における撮像素子の水平同期期間の単位で、第1の同期信号の発行タイミングをずらす場合を説明するための概念図である。
【
図7B】第2の実施形態に係るずれ補正処理において、リセット走査の設定可能単位で、第1の同期信号の発行タイミングをずらす場合を説明する概念図である。
【
図7C】第2の実施形態に係るずれ補正処理において、リセット走査開始タイミングを第1の同期信号をアサートするタイミングの変更量と同じだけずらす様子を示すタイミングチャートである。
【
図8】各種の設定値の送信タイミングとその設定値が有効になるタイミングを示すタイミングチャートである。
【
図9A】第3の実施形態に係るずれ補正処理のフローチャートである。
【
図10A】
図9A、
図9Bのずれ補正処理により、第1及び第2の同期信号の発行タイミングのずれが補正される様子を示すタイミングチャートである。
【
図10B】
図9A、
図9Bのずれ補正処理において、リセット走査開始タイミングを第1の同期信号をアサートするタイミングの変更量と同じだけずらす様子を示すタイミングチャートである。
【
図11】第4の実施形態に係る情報処理装置としての撮像装置の全体構成を示すブロック図である。
【発明を実施するための形態】
【0011】
以下に、本発明の好ましい実施の形態を、添付の図面に基づいて詳細に説明する。尚、以下の実施形態において示す構成は一例にすぎず、本発明は図示された構成に限定されるものではない。
【0012】
<第1の実施形態>
図1は、第1の実施形態に係る情報処理装置としての撮像装置の全体構成を示すブロック図である。
【0013】
図1において、撮像装置は、撮像光学系104aと本体部104bからなる。
【0014】
まず、撮像光学系104aの構成について説明する。
【0015】
第1レンズ100は、撮像光学系104aの先端に配置される。
【0016】
絞り101は、その開口径を調節することで撮影時の光量調節を行う。
【0017】
第2レンズ102及び第3レンズ103は、後述のフォーカスアクチュエータ117によって駆動され、光軸方向に進退することにより、撮像光学系104aの焦点を調節する。
【0018】
次に、本体部104bの構成について説明する。
【0019】
フォーカルプレーンシャッタ105は、静止画撮影時に露光秒時を調節する。
【0020】
光学的ローパスフィルタ106は撮影画像の偽色やモアレを低減するために用いられる。
【0021】
撮像素子107(第1のモジュール)は、撮像光学系104aにより結像された光学像を電気信号(アナログ画素信号)に変換後、所定の量子化ビット数に応じてデジタル画像データに変換して出力する。本実施形態の撮像素子107は水平及び垂直方向に複数の画素を備えるCMOS型イメージセンサである。画素数は8Kフォーマットの動画を取得するに十分な数を有しており、例えば3200万画素以上の画素を有する。また、各画素には集光効率を高めるためのマイクロレンズと複数の光電変換部を備える構成としてもよい。例えば一つの画素に2つの光電変換部を設ける構成(デュアルピクセル)の場合には、通常よりも出力信号量が約2倍に増加することから、より高速な動作が必要となる。
【0022】
DSP108は、画像信号の受信と画像処理を行う。また、DSP108は、画像処理以外にも、撮像素子107からの情報に基づいて、撮像光学系104aの駆動に用いる情報の演算を行う。
【0023】
RAM109は、DSP108で処理された画像データを記憶する機能と、後述のCPU110が動作を行う際のワークメモリの機能を兼備する。尚、本実施形態では、これらの機能をRAM109を用いて実現するが、アクセス速度が十分に速くて動作上問題のないレベルのメモリであれば、他の種類のメモリを用いることも可能である。また本実施形態では、RAM109は、DSP108、CPU110の外部に配置されているが、その一部または全部の機能をDSP108やCPU110に内蔵する構成であってもよい。
【0024】
CPU110は、撮像装置の動作を統括的に制御すべく、撮像装置の各部を制御するためのプログラムを実行する。また、CPU110は、DSP108から出力される演算結果を用いて、後述のフォーカス駆動回路116を制御し、撮像光学系104aの焦点を調節する機能も有する。
【0025】
録音部111(第2のモジュール)は、音声データを取得する。取得された音声データは、CPU110で加工されて記録される。
【0026】
表示部112は、DSP108によって処理された静止画像や動画像およびメニュー等の表示を行う。
【0027】
記録媒体113は、静止画データ及び動画データを記録する着脱可能な記録媒体である。
【0028】
ROM114は、CPU110が各部の動作を制御するためにロードして実行するプログラムを格納する。
【0029】
シャッター駆動回路115は、フォーカルプレーンシャッタ105を駆動制御する。
【0030】
フォーカス駆動回路116は、撮像光学系104aの焦点位置を変更する焦点位置変更手段であり、CPU110の出力に基づいてフォーカスアクチュエータ117を制御し、第2レンズ102及び第3レンズ103を光軸方向に進退駆動して焦点調節を行なう。
【0031】
絞り駆動回路118は、絞りアクチュエータ119を制御して絞り101の開口を制御する。
【0032】
図2は、
図1の撮像装置の基板配置図である。尚、ここで説明する要素は本実施形態の解説に必要なものに限定し、それ以外を省略する。
【0033】
第1の基板200は撮像素子107と、例えば発振器から構成される第1のクロックを生成する第1のクロック生成部(CLK1)201が搭載された基板である。撮像素子107と第1のクロック生成部201が同一基板上の近傍に配置されることによって、撮像素子107に高品質のクロックを供給することができる。
【0034】
第2の基板202は、録音部111と、例えば発振器から構成される第2のクロック生成部(CLK2)203と信号処理回路204が搭載された基板である。信号処理回路204は、
図1のDSP108やCPU110を含むICである。信号処理回路204には、第1のクロックで動作する第1の同期信号発生回路205(第1のタイミング制御手段)と、第2のクロックで動作する第2の同期信号発生回路207(第2のタイミング制御手段)及び時間計測部206とが含まれる。第1の同期信号発生回路205は、CPU110からの設定値(第2の設定時間)に基づいて第1の同期信号208をアサート(供給)するか、第2の同期信号209がアサートされたタイミングに同期させて第1の同期信号208をアサートするかを選択できる。第2の同期信号発生回路207は、かかる選択はできず、CPU110からの設定値(第1の設定時間)に基づいてのみ第2の同期信号209をアサートする。
【0035】
撮像素子107は、第1の同期信号発生回路205によって発生される第1の同期信号208に同期して動画1フレームの撮像動作を行い、これにより取得された画像データを信号処理回路204へと出力する。この出力を行う撮像素子107に第1の同期信号208を供給する第1の同期信号発生回路205を動作させるためのクロックは、第1のクロック生成部201から生成される高品質のクロックであるため、画像データの高速伝送が可能となる。なお、本実施形態の画像データの転送においてはその高速性を確保するために複数レーンの高速差動対を用いて行われる。各レーンにおける伝送クロックは例えば4.8GHzであり、約3Gbps以上の通信帯域を備える。また、第1の基板200および第2の基板202はガラスエポキシ基板に代表されるプリント基板であり、それぞれの基板はポリイミドやポリエステルなどのフィルムで出来た基材の上に配線が形成されたフレキシブル基板等で接続される。なお、基板の構成及び材料はこれらのものに限られずガラスエポキシ基板に代えてフレキシブル基板を用いてもよいし、基板間をワイヤ等の線材で接続してもよい。
【0036】
また、録音部111は、第2の同期信号発生回路207によって発生される第2の同期信号209に同期して、撮像素子107により撮像される動画1フレームに対応する録音動作を行い、これにより取得された音声データを信号処理回路204に出力する。この出力を行う録音部111に第2の同期信号209を供給する第2の同期信号発生回路207を動作させるためのクロックは、第2のクロック生成部203から生成される高品質のクロックであるため、音声データの高速伝送が可能となる。
【0037】
時間計測部206(時間計測手段)は、第1及び第2の同期信号208,209がアサートされた時刻を計測する。
【0038】
以下、動画の撮像と音声の録音に関するタイミングの制御について詳細に解説する。
【0039】
図3は、第1及び第2の同期信号208,209の発行タイミングのずれが発生する原理を説明するためのタイミングチャートである。
【0040】
この例では、時刻t300において、第1の同期信号208と第2の同期信号209のアサートされるタイミングが完全に一致している。しかし、第1のクロック生成部201と第2のクロック生成部203は、一般的には設定周波数が異なる部品であるため、その後の動作周波数は完全には一致しない。また仮に、第1のクロック生成部201と第2のクロック生成部203として設定周波数が同じ部品を使用したとしてもその偏差の範囲で両者の動作周波数は異なる。よって、時刻t300から連続してフレームの撮影を続けるうちに1フレームの時間の誤差(ずれ)が蓄積してしまう。
【0041】
例えば、第(n+5)フレーム(nは1以上の整数。以下、同じ。)の先頭においては、時刻t301に第1の同期信号208がアサートされる一方、時刻t302に第2の同期信号209がアサートされる。すなわち、第(n+5)フレームでは、Δだけ、時間のずれが蓄積してしまっている。
【0042】
このように時間のずれが蓄積してしまうと、撮像装置が最終的に記録する動画ファイルにおいて、音声と動画のタイミングがずれたまま記録されてしまう。そこで本実施形態では
図4に示す以下のずれ補正処理を用いてそのずれを補正する。
【0043】
図4は、本実施形態に係るずれ補正処理のフローチャートである。
【0044】
本処理は、動画の撮影開始から動画の撮影終了までの間に、ずれの検出を行い、第1の同期信号208をアサートするタイミングを決める設定値を変更する。
【0045】
まず、動画の撮影が開始されると、ステップS401に進み、第2の同期信号発生回路207が第2の同期信号をアサートする。
【0046】
ステップS402では第1の同期信号発生回路205が第2の同期信号209を検出する。
【0047】
その直後のステップS403では第1の同期信号発生回路205がその検出された第2の同期信号209と同期させて第1の同期信号208をアサートする。
【0048】
そしてステップS404で、CPU110は第1の同期信号発生回路205の動作モードを切り替える(切替手段)。この切り替えで、第1の同期信号発生回路205は、第2の同期信号209に同期して第1の同期信号208をアサートするモード(第1のモード)から、CPU110からの設定値に基づいて第1の同期信号208をアサートするモード(第2のモード)となる。以上の動作によって、撮影開始タイミングでは第1の同期信号208と第2の同期信号209がアサートされるタイミングを同期させることができる。
【0049】
ステップS405では、CPU110は同期信号の検出待ち状態となる。ステップS406で第1及び第2の同期信号208,209の一方の同期信号がアサートされたことを検出すると、CPU110はステップS407で時間計測部206からその一方の同期信号が検出(アサート)された時刻を読み出し、記録する。
【0050】
ステップS408で第1及び第2の同期信号208,209の他方の同期信号がアサートされたことを検出すると、CPU110はステップS409で時間計測部206からその他方の同期信号が検出(アサート)された時刻を読み出し、記録する。
【0051】
その後、CPU110はステップS410で、ステップS407,S409で記録した時刻から、第1及び第2の同期信号208,209が検出された時刻の時間差を算出する。
【0052】
ステップS411で、CPU110は、算出された時間差が閾値Δ以上(第1の時間以上)であるかを判定する。算出された時間差が閾値Δ以上であればステップS412で、CPU110(変更手段)は第1の同期信号発生回路205に設定する第1の同期信号208のアサートタイミングの設定値を、所定値だけ変更する。すなわち、CPU110は、第1の同期信号208のアサートタイミングをずらすよう第1の同期信号発生回路205を制御する。本実施形態では、この所定値を閾値Δとする。一方、算出された時間差が閾値Δ未満であればステップS413で、CPU110は第1の同期信号発生回路205への設定値を維持する。すなわち、CPU110は、第1の同期信号208のアサートタイミングを維持するよう第1の同期信号発生回路205を制御する。
【0053】
ステップS412またはステップS413の後、ステップS414でCPU110は撮影を終了するかを判定する。撮影を終了しない場合は、ステップS405へと遷移し、CPU110は、次の同期信号の検出待ち状態となる。一方、撮影を終了する場合は、ステップS415へと遷移し、動画の撮影を終了すると共に本処理を終了する。
【0054】
図5は、
図4のずれ補正処理により、第1及び第2の同期信号の発行タイミングのずれが補正される様子を示すタイミングチャートである。
【0055】
第nフレームの先頭では、時刻t500で第1の同期信号208がアサートされる。CPU110は、これを検出した際に時間計測部206で計測された時刻を読み出し、その時刻がCPU110によって記録される。
【0056】
時刻t501で第2の同期信号209がアサートされる。CPU110は、これを検出した際に時間計測部206で計測された時刻を読み出し、その時刻がCPU110によって記録される。
【0057】
CPU110は、記録した時刻の時間差を計算し、計算された時間差と閾値Δを比較する。ここでは計算された時間差が閾値Δと等しいので、動作は
図4のステップ412へと遷移する。
【0058】
CPU110は、次に第1の同期信号発生回路205に設定する第1の同期信号208の発行タイミングの設定値を、所定値Δだけ変更する。これにより、第1の同期信号208のアサートされるタイミングが第(n+1)フレームだけ変わる。この結果、第(n+1)フレームの先頭の時刻t502で第1の同期信号208と第2の同期信号209のアサートされるタイミングを揃えることができる。
【0059】
その後、第(n+6)フレームの先頭でまた第1及び第2の同期信号208,209のアサートされるタイミングの時間差がΔ以上になるので、同様の手続きによって続く第(n+7)フレームの先頭ではその時間差が補正される。
【0060】
以上説明したように本実施形態によれば、独立した複数のクロック生成部の周波数の違いや偏差などに起因する動作タイミングのずれを抑えることができる。よって、例えば、動画の撮像と音声の録音に関するタイミングのずれをある一定の時間差以内(本実施形態では閾値Δ)に収めることができる。なお、本実施形態においては第1の同期信号208および、第2の同期信号209はフレームの取得タイミングを規定する垂直同期信号であり、約60分の1秒の周期でアサートとされる。なお、対象とする同期信号はフレームの垂直同期信号に限られず、行を単位とする水平同期信号を対象としてもよい。また、垂直同期信号の周期は60分の1秒以下の例えば120分の1秒の周期としてもよい。
【0061】
また、本実施形態では、撮像素子107による動画の撮影と録音部111による音声の録音のタイミングを同期させたが、本発明はこれに限定されない。例えば、表示部112が第2の同期信号発生回路207によって生成される同期信号に同期して、撮像素子107により撮像される動画1フレームに対応するライブビュー表示を行うときも、
図4のずれ補正処理を実行するようにしてもよい。これにより、撮像素子107による動画の撮影と表示部112によるライブビュー表示のタイミングのずれをある一定の時間差以内に収めることができる。また、後述する
図11のように、撮像素子107と被写体からの光学距離が等しくなる位置に配される第2の撮像素子1101を撮像装置が有する場合がある。この場合は、第2の撮像素子1101が第2の同期信号発生回路207によって生成される同期信号に同期して、撮像素子107により撮像される動画1フレームに対応する撮像動作を行うようにしてもよい。すなわち、撮像素子107が同期する同期信号とは独立した同期信号に同期して動作をするモジュールであれば、
図4のずれ補正処理を適用することができる。これにより、そのモジュールの動作と撮像素子107の動作のタイミングのずれを、ある一定の値以下に収めることが可能である。
【0062】
尚、本実施形態では、撮像素子107が動画の撮影を行ったが、本発明はこれに限定されない。例えば、撮像素子107が、高画素の静止画や、ハイダイナミックレンジの静止画の連続撮影を行うと同時に、表示部112によるライブビュー表示を行う際に、
図4のずれ補正処理を実行するようにしてもよい。また、第1の同期信号発生回路205によって発生される第1の同期信号208に同期して、周期的に信号を信号処理回路204へと出力するモジュールであれば、撮像素子107でなくてもよい。例えば、
図2における撮像素子107をネットワークと接続する通信部とし、通信部がネットワークを介して受信した動画を表示部112で再生表示を行う際に、
図4のずれ補正処理を実行するようにしてもよい。
【0063】
<第2の実施形態>
以下、第2の実施形態について説明する。尚、本実施形態のハードウェア構成は第1の実施形態と同一であるため、同一の構成要素には同一の符号を付し、重複した説明は省略する。
【0064】
例えば、撮像素子107がCMOSイメージセンサである場合、撮像素子107の上部から順次ライン露光して読み出していくスリットローリング動作によって動画像を取得することが一般的である。このスリットローリング動作によって画像を取得する時、リセット走査と読み出し走査はある一定の走査周期の整数倍で撮像素子107の上部から順次行われる必要がある。
【0065】
図6は、スリットローリング動作による蓄積時間の制御を説明するためのタイミングチャートである。
【0066】
第1の同期信号208に同期して撮像素子107の読み出し走査は行われる。CPU110から撮像素子107にリセット走査開始タイミング600を設定しておくと、リセット走査は第1の同期信号208が撮像素子107に入力されてからリセット走査開始タイミング600だけ経過したタイミングで開始される。
【0067】
また、CPU110から第1の同期信号発生回路205に垂直サイズ601を設定しておくと、第1の同期信号が撮像素子107に入力されてから垂直サイズ601だけ経過したタイミングで次の同期信号が出力される。これらの設定値を用いると、蓄積時間を(垂直サイズ601-リセット走査開始設定600)と制御することができる。
【0068】
第1の実施形態では、第1の同期信号208をアサートするタイミング設定の変更量を閾値Δと等しくした。ここで、この変更量が上記一定の走査周期の整数倍でない場合、撮像素子107内のある一行でリセット走査または読み出し走査の時間が、上記一定の走査周期と異なってしまい、それに起因してその行の前後で画像に露光量の差が発生する可能性がある。そこで本実施形態では、
図7A~
図7Cに示す方法でCPU110が第1の同期信号208をアサートするタイミングを変更する量に制約を設ける。これにより、第1及び第2の同期信号208,209の間の時間差を低減してもスリットローリング動作によって得られた画像に露光段差を発生させないようにする。
【0069】
図7Aは、本実施形態に係るずれ補正処理において、撮像素子107の水平同期信号の周期を示す、1水平同期期間(HD)の単位で、第1の同期信号208の発行タイミングを整数倍だけずらす場合を説明するための概念図である。
【0070】
CPU110は、第1の同期信号208の発行タイミングの設定値を
図7Aに示すようにHD単位の整数倍だけずらして設定し、第1の同期信号発生回路205にその設定値を送信する。これによって、第1の同期信号208が発行される前後でリセット走査の周期にずれが発生しないようにすることができる。
【0071】
図7Bは、本実施形態に係るずれ補正処理において、リセット走査の設定可能単位で、第1の同期信号の発行タイミングをずらす場合を説明する概念図である。
【0072】
ここでは、撮像素子107の回路の構成を工夫することによって、リセット走査の設定可能単位が1HDの半分になった場合を示す。この時、ある行のリセット走査にかかる時間は、リセット操作の設定可能単位の2倍となる。
【0073】
このような場合、蓄積時間をより詳細に決めることができる。具体的には、CPU110は、第1の同期信号208の発行タイミングの設定値を
図7Bに示すようにリセット走査の設定可能単位の整数倍だけずらして設定し、第1の同期信号発生回路205にその設定値を送信する。これによって、ある行のリセット走査中に第1の同期信号208がアサートされても、その前後でリセット走査の周期にずれが発生することを防止し、画質に影響が出ないようにすることができる。
【0074】
またスリットローリング動作によって動画像を取得する場合、このように第1の同期信号208をアサートするタイミングを変更する時、リセット走査開始タイミング600を変更しなければ蓄積時間に差が生じてしまう。よって、リセット走査開始タイミング600を第1の同期信号208をアサートするタイミングの変更量と同じだけずらす。
【0075】
具体的には、
図7Cのタイミングチャートに示すように、まず、時刻t700で第nフレームの第1の同期信号208がアサートされて、CPU110によってその時刻が記録される。
【0076】
時刻t701で第2の同期信号209がアサートされて、CPU110によってその時刻が記録される。
【0077】
CPU110によって第nフレームの第1及び第2の同期信号208,209のアサートされた時刻の時間差が計算される。ここでは、計算された時間差が閾値Δ以上になった場合について説明する。この場合、CPU110は、第(n+1)フレームの第1の同期信号208のアサートされるタイミングを時刻t704から所定量(リセット走査の設定可能単位の整数倍)だけずれた時刻t705に変更する。また、CPU110は、第nフレームのリセット走査開始タイミング600も時刻t702から上記所定量だけずれた時刻t703に変更する。このようにリセット走査開始タイミング600の設定値を変更することにより、第1の同期信号208を変更しても蓄積時間を変えないように制御することができる。
【0078】
以上説明したように本実施形態によれば、第1の同期信号208をずらす量を適切に制御することによって、第1の同期信号208をずらしてもスリットローリング動作による画像の取得には影響を与えない例を開示した。
【0079】
<第3の実施形態>
以下、第3の実施形態について説明する。尚、本実施形態のハードウェア構成は第1の実施形態と同一であるため、同一の構成要素には同一の符号を付し、重複した説明は省略する。
【0080】
第2の実施形態では、同期信号の時間差が閾値Δ以上であることを検出したフレームで、CPU110から第1の同期信号発生回路205への設定値を所定値だけ変更し、その直後にアサートされる第1の同期信号208のタイミングを変更する例を示した。しかし実際にそのような構成をとると設定値を送信するタイミングの制約が大きくなってしまう。例えばスリットローリング動作によって動画像の取得を行う構成において、リセット走査開始タイミング600がごく短い値に設定される場合を考える。この時リセット走査開始タイミング600を計算によって求めるには時間がかかるので、計算完了時点で既にリセット走査を開始すべきタイミングを過ぎてしまうという問題が生じうる。そこで、本実施形態では設定を行うタイミングと設定を反映させるタイミングを変えることで、かかる問題が生じることを防止する。
【0081】
図8は、CPUによる各種の設定値の送信タイミングと第1の同期信号発生回路205において設定値が有効になるタイミングを示したタイミングチャートである。
【0082】
本実施形態において各種の設定値とは、以下の3つの設定値のいずれかを指す。1つ目の設定値は、CPU110が第1の同期信号発生回路205に対して設定する、第1の同期信号208の発行タイミングの設定値である。2つ目の設定値は、CPU110が第2の同期信号発生回路207に対して設定する、第2の同期信号209の発行タイミングの設定値である。3つ目の設定値は、CPU110が撮像素子107に設定する、リセット走査開始タイミング600の設定値である。
【0083】
時刻t800で第1の同期信号208がアサートされると、その時、第1の同期信号発生回路205のバッファに保持されていた設定値が有効設定値となる。
【0084】
次に時刻t801でCPU110は、第nフレームの第1及び第2の同期信号208,209が検出された時刻の時間差を計算した結果に基づき算出した第1及び第2の同期信号発生回路205,207及び撮像素子107の夫々への設定値の送信を開始する。この送信は、時刻t802で完了する。このタイミングで第1及び第2の同期信号発生回路205,207及び撮像素子107の夫々が有する各バッファは、その送信された新しい設定値を保持する。
【0085】
時刻t803で上記有効設定値に基づき、第(n+1)フレームの第1の同期信号208がアサートされると、時刻t802で第1の同期信号発生回路205のバッファに保持された新しい設定値で有効設定値が更新される。すなわち、CPU110が時刻t801から時刻t802にかけて送信した設定値が、時刻t803のタイミングで各種有効設定値となる。
【0086】
このように、設定値の反映タイミングを1フレームずらすことによって、蓄積時間の設定などを適切に行うことができる。
【0087】
本実施形態に係るずれ補正処理を、
図9A,
図9Bのフローチャートを参照しながら説明する。尚、
図9A,
図9Bのフローチャートのうち、
図4のフローチャートと共通の処理を行うステップは同じ符号を付した。本フローチャートは、
図4のフローチャートに検出フラグのオン・オフを行うステップが加わった点で異なる。
【0088】
動画中のあるフレームにおいて複数の同期信号の検出とそのアサートされた時刻の記録が終わると、
図9Bに示す通り、CPU110は、ステップS900で検出フラグがオンであるかオフであるかの確認を行う。この確認の結果、検出フラグがオフであった場合、ステップS903でCPU110は検出フラグをオンにしてそのフレームの処理を終了し、ステップS414に進む。
【0089】
一方、ステップS900の確認の結果、検出フラグがオンであった場合、ステップS410に遷移し、CPU110は、第1及び第2の同期信号208,209が検出された時刻の時間差を計算する。そしてステップS411で、算出された時間差が閾値Δ以上であると判定された場合、ステップS412でCPU110は第1の同期信号発生回路205に設定する第1の同期信号208のアサートタイミングの設定値を、所定値だけ変更する。そしてステップS901でCPU110は検出フラグをオフにしてそのフレームの処理を終了し、ステップS414に進む。ステップS411で、算出された時間差が閾値Δ未満であると判定された場合、ステップS413でCPU110が第1の同期信号発生回路205への設定値を変更せず維持する。そしてステップS902で検出フラグをオンにしてそのフレームの処理を終了し、ステップS414に進む。
【0090】
図10Aは、
図9A、
図9Bのずれ補正処理により、第1及び第2の同期信号208,209の発行タイミングのずれが補正される様子を示すタイミングチャートである。
【0091】
時刻t1010で第nフレームの第1の同期信号208がアサートされ、時刻t1011で第nフレームの第2の同期信号209がアサートされると、
図9,9Bのフローチャートの処理がステップS409まで実行されたことになる。続くステップS900ではCPU110において検出フラグがオンになっているかどうかをチェックする。ここで、検出フラグがオンであったとする。すると
図9BのステップS410へと遷移し、第1の実施形態に開示された方法によってCPU110で第1及び第2の同期信号208,209が検出された時刻の時間差が計算される。ここでは計算された時間差が閾値Δ以上になった場合について説明する。この場合、
図9のステップS411の判断はYESとなり、ステップS412へ遷移する。CPU110では第2の同期信号209とのずれが最小限になるように1HDの整数倍の単位で第1の同期信号208のアサートタイミングの設定値を変更し、その設定値を時刻t1012で第1の同期信号発生回路205に送信を開始する。この送信が時刻t1013で完了すると第1の同期信号発生回路205のバッファに保持される。その後ステップS901でCPU110は検出フラグをオフにし、第nフレームでの処理が終了する。
【0092】
時刻t1014で第(n+1)フレームの第1の同期信号208がアサートされるとそのタイミングで、時刻t1013で第1の同期信号発生回路205は、そのバッファに保持された設定値が有効設定値にする。時刻t1015で第2の同期信号209がアサートされると、
図9,9Bのフローチャートの処理が再度ステップS409まで実行されたことになる。続くステップS900ではCPU110において検出フラグがオンになっているかどうかをチェックする。ここで、第nフレームはステップS901を通過したので検出フラグがオフになっている。このためステップS903へと遷移し、CPU110は検出フラグをオンにして第(n+1)フレームにおける動作を終了する。
【0093】
この場合、CPU110は各種設定値の変更は行わない。すなわち、時刻t1016から時刻t1017にかけてCPU110から第1の同期信号発生回路205へ送信される設定値は、時刻t1012から時刻t1013にかけてCPU110から第1の同期信号発生回路205へ送信される設定値と同じである。よって、時刻t1018で第(n+2)フレームの第1の同期信号208がアサートされるタイミングでは、時刻t1017で第1の同期信号発生回路205のバッファに保持された設定値が有効設定値になる。この設定値は、時刻t1012でCPU110が第1の同期信号発生回路205に送信した設定値の値と同一である。また、この設定値はタイミング補正がなされた設定値であったから、ここで第1の同期信号208と第2の同期信号209とのずれは最小となる。
【0094】
図10Aでは同期信号のアサートタイミングのみに着目して議論を行った。しかしスリットローリング動作によって動画像を取得するシステムにおいては、リセット走査の反映タイミングもまた設定タイミングと異なるタイミングにならなければならない。
【0095】
よって、
図10Bのタイミングチャートに示すように、第nフレームでCPU110から第1の同期信号発生回路205へ送信する設定値によって、第(n+2)フレームの第1の同期信号208の発行タイミングを時刻t1022から時刻t1023にずらす。
【0096】
一方、第nフレームでCPU110から撮像素子107へ送信された設定値も、第(n+1)フレームの第1の同期信号208がアサートされるタイミングで、撮像素子107がそのバッファに保持される設定値を有効設定値とする。この有効設定値を用いることにより、撮像素子107は、時刻t1022と時刻t1023の時間差と同じ時間差だけ、第(n+1)フレームのリセット走査開始タイミング600をずらす。
図10Bの例では、第(n+1)フレームのリセット走査開始タイミング600をずれ補正前のタイミングである時刻t1020から、時刻t1021のタイミングにずらす。このように制御することで、蓄積時間を一定に保ったままずれを解消することができる。
【0097】
以上、本実施形態によれば、CPU110は、第1の同期信号208の発行タイミングの設定値とリセット走査開始タイミング600の設定値の算出を行うタイミングより、算出された各設定値を有効設定値として反映させるタイミングを遅らせる。これにより、CPU110は、第1及びの同期信号208,209を確実に同期させると共に、撮像素子107の行間での画像に露光量の差を生じることを抑制できる。
【0098】
また、第1及び第2の同期信号208,209がアサートされた時刻の時間差が所定値Δ以上になった場合、次のフレームでは上記各時刻の計測を行わないよう、CPU110は時間計測部206を制御する(制御手段)。上述の通り、次のフレームでは、各種設定値を変更する必要がないからである。
【0099】
さらに、第1の同期信号208の発行タイミングのずれ補正を行う場合、そのずれ補正前後の時間差と同一の時間差だけ、リセット走査開始タイミング600もずらす。これにより、蓄積時間を一定に保ったまま、ずれを解消することができる。
【0100】
本実施形態で解説した方法を用いることで設定値を送信するタイミング制約を大幅に緩和することができる構成を示した。
【0101】
<第4の実施形態>
以下、第4の実施形態について説明する。第1~第3の実施形態では、2つの独立のクロック生成部から生成されるクロックで動作するモジュール間で、動作時間のずれを一定の値以下に抑える例を開示した。本実施形態では、3つ以上の独立のクロック生成部から生成されるクロックで動作するモジュール間で、動作時間のずれを一定の値以下に抑える例を示す。
【0102】
図11は、本実施形態に係る情報処理装置しての撮像装置の全体構成を示すブロック図である。尚、
図1のブロック図と同じ構成要素には同一の符号を付した。
【0103】
図11のブロック図では、
図1のブロック図に対して、光路上にペリクルミラー1100が配置されている。このペリクルミラー1100は光を半分透過し、半分反射する。ペリクルミラーによって反射された光は第2の撮像素子1101(第3のモジュール)に導かれる。第2の撮像素子1101は撮像素子107と、被写体からの光学距離が等しくなる位置に配されている。そのため、第2の撮像素子1101には撮像素子107と同じ像が結像される。
【0104】
図12は、
図11の撮像装置の基板配置図である。尚、ここで説明する要素は本実施形態の解説に必要なものに限定し、それ以外を省略する。また、
図2、
図11で既に説明した構成要素については同じ符号を付した。
【0105】
第3の基板1200は、第2の撮像素子1101と、例えば発振器から構成される第3のクロックを生成する第3のクロック生成部(CLK3)1201(第3のクロック生成部)が搭載された基板である。第2の撮像素子1101と第3のクロック生成部1201が同一基板上の近傍に配置されることによって、第2の撮像素子1101に高品質のクロックを供給することができる。
【0106】
第2の基板202に搭載された信号処理回路1203は、
図11のDSP108やCPU110を含むICである。信号処理回路1203には、第1のクロックで動作する第1の同期信号発生回路205と、第2のクロックで動作する第2の同期信号発生回路207と、第2のクロックで動作する時間計測部206が含まれている。また、それに加えて、第3のクロックで動作する第3の同期信号発生回路1202(第3のタイミング制御手段)も含まれている。
【0107】
時間計測部206は、第1及び第2の同期信号がアサートされた時刻を計測するだけでなく、第3の同期信号がアサートされた時刻も計測する。
【0108】
第2の撮像素子1101は、第3の同期信号発生回路1202が発生する第3の同期信号1204に同期して、撮像素子107により撮像される動画1フレームに対応する撮像動作を行い、これにより取得された画像データを信号処理回路1203へと出力する。この出力を行う、第2の撮像素子1101に第3の同期信号1204を供給する第3の同期信号発生回路1202を動作させるためのクロックは、第3のクロック生成部1201から生成される高品質のクロックであるため、画像データの高速伝送が可能となる。
【0109】
第1~第3の実施形態では、第1及び第2の同期信号208,209がアサートされた時刻の時間差が閾値Δ以上である場合、CPU110が第1の同期信号208をアサートするタイミングを遅らせて上記時間差を一定の値以下に抑える動作を行う。この動作は、本実施形態のように、第3の同期信号発生回路1202が撮像装置に加わっても変わらない。
【0110】
但し、第3の同期信号発生回路1202が撮像装置に加わると、CPU110は、第3の同期信号1204と第2の同期信号209のアサートされるタイミングの時間差も計算する。この計算された時間差が閾値Δ2以上の場合、CPU110が第3の同期信号発生回路1202に対して設定する第3の同期信号1204の設定タイミングを所定値だけ変更する。設定値を変更する方法は、第1~第3の実施形態で開示された方法を用いる。このように第3の同期信号発生回路1202を制御することによって、第3の同期信号1204と第2の同期信号209がアサートされる時間差を、第2の同期信号209の発行タイミングを基準として一定の値以下に抑えることができる。
【0111】
ところで、第1~第3の実施形態において説明した通り、第1の同期信号208がアサートされるタイミングもまた第2の同期信号209がアサートされるタイミングを基準として、ある一定の値以下の時間差に制御される。よって、本実施形態では、第1の同期信号発生回路205と第3の同期信号発生回路1202を制御することによって、第1~第3の同期信号208,209,1204がアサートされるタイミングの時間差を、ある一定の値以下に保つことができる。
【0112】
以上の点は一般化することができる。すなわち、情報処理装置に3つ以上の独立した同期信号発生回路が存在する場合、各同期信号発生回路からの同期信号をアサートするタイミングを、そのうちの1つの同期信号がアサートされたタイミングを基準に制御する。これにより、各同期信号発生回路の同期信号をアサートするタイミングの同期を取ることができる。
【0113】
以上、本実施形態によれば、3つ以上の独立した同期信号発生回路が存在する情報処理装置において、夫々の同期信号発生回路から発生される同期信号がアサートされるタイミングの時間差を、ある一定の値以下に抑えるように制御することができる。
【0114】
尚、本実施形態において、第3の同期信号発生回路1202によって制御される対象を第2の撮像素子1101としたが、その限りではない。例えば、外部の録音装置や表示部材などのような、同一基板に存在する同期信号発生回路から発生される同期信号に同期し、撮像素子107により撮像される動画1フレームに対応する動作を行う装置であれば、あらゆる装置に適用可能である。
【0115】
以上、本発明の好ましい実施形態について説明したが、本発明はこれらの実施形態に限定されず、その要旨の範囲内で種々の変形及び変更が可能である。
【0116】
[その他の実施例]
本発明の目的は、前述した実施例の機能を実現するソフトウェアのプログラムコードを記録した記憶媒体を、装置に供給することによっても、達成されることは言うまでもない。このとき、供給された装置の制御部を含むコンピュータ(またはCPUやMPU)は、記憶媒体に格納されたプログラムコードを読み出し実行する。
【0117】
この場合、記憶媒体から読み出されたプログラムコード自体が前述した実施例の機能を実現することになり、プログラムコード自体及びそのプログラムコードを記憶した記憶媒体は本発明を構成することになる。
【0118】
プログラムコードを供給するための記憶媒体としては、例えば、フレキシブルディスク、ハードディスク、光ディスク、光磁気ディスク、CD-ROM、CD-R、磁気テープ、不揮発性のメモリカード、ROM等を用いることができる。
【0119】
また、上述のプログラムコードの指示に基づき、装置上で稼動しているOS(基本システムやオペレーティングシステム)などが処理の一部又は全部を行い、その処理によって前述した実施例の機能が実現される場合も含まれることは言うまでもない。
【0120】
さらに、記憶媒体から読み出されたプログラムコードが、装置に挿入された機能拡張ボードやコンピュータに接続された機能拡張ユニットに備わるメモリに書込まれ、前述した実施例の機能が実現される場合も含まれることは言うまでもない。このとき、そのプログラムコードの指示に基づき、その機能拡張ボードや機能拡張ユニットに備わるCPU等が実際の処理の一部又は全部を行う。
【符号の説明】
【0121】
107 撮像素子
111 録音部
200 第1の基板
201 第1のクロック生成部
202 第2の基板
203 第2のクロック生成部
205 第1の同期信号発生回路
206 時間計測部
207 第2の同期信号発生回路
1101 第2の撮像素子
1200 第3の基板
1201 第3のクロック生成部
1202 第3の同期信号発生回路