(58)【調査した分野】(Int.Cl.,DB名)
前記選択部は、前記第1のフレーム数の画像データのうち予め定められた特徴を示す評価値に対応する画像データを基準に、連続する第2のフレーム数の画像データを前記画像データ群として選択することを特徴とする請求項1記載の画像処理装置。
【発明の概要】
【発明が解決しようとする課題】
【0006】
例えば、ベルトコンベアにより搬送されるワークが被写体である場合、カメラにより撮影される領域(以下、撮影領域と呼ぶ)に被写体が存在する期間と存在しない期間とがある。
【0007】
上記特許文献1の高速撮影装置においては、一定の周期でフレーム画像の高速録画とスロー再生とが交互に繰り返される。それにより、被写体の動きを正確に観察することができる。しかしながら、上記のようにベルトコンベア上のワークが被写体である場合、撮影領域内に被写体が存在する期間に撮影されたフレーム画像の録画が行われず、撮影領域内にワークが存在しない期間に撮影されたフレーム画像の録画が行われる可能性がある。この場合、被写体の動画を観察することができない。
【0008】
本発明の目的は、対象物が所望の状態にある期間における対象物の動画を正確に観察することを可能にする画像処理装置、画像処理方法および画像処理プログラムを提供することである。
【課題を解決するための手段】
【0009】
(1)第1の発明に係る画像処理装置は、対象物の動画を表示する画像処理装置であって、連続する複数の第1の期間内に対象物の動画を構成する複数フレームの画像に対応する画像データを第1のフレームレートで順次記憶する記憶部と、記憶部に記憶された複数フレームの画像データに基づいて画像を表示する表示部と、記憶部に記憶された複数フレームの画像データに対応しかつ対象物の状態に応じて変化する複数の評価値を取得する取得部と、取得部により取得された複数の評価値のうち各第1の期間内に記憶部に記憶された第1のフレーム数の画像データに対応する複数の評価値に基づいて、第1のフレーム数の画像データから第1のフレーム数よりも少ない第2のフレーム数の画像データからなる画像データ群を選択する選択部と、選択部により選択された画像データ群の画像データに基づいて第2のフレーム数の画像を第1のフレームレートよりも低い第2のフレームレートで表示部に順次表示させる制御部とを備えるものである。
【0010】
その画像処理装置においては、連続する複数の第1の期間内に第1のフレームレートで複数フレームの画像に対応する画像データが記憶部に順次記憶される。対象物の状態に応じて変化する複数の評価値が取得部により取得される。複数の評価値は、記憶された複数フレームの画像データに対応する。取得された複数の評価値のうち各第1の期間内に記憶された第1のフレーム数の画像データに対応する複数の評価値に基づいて、第1のフレーム数の画像データから第1のフレーム数よりも少ない第2のフレーム数の画像データからなる画像データ群が選択部により選択される。選択された画像データ群の画像データに基づいて第2のフレーム数の画像が第1のフレームレートよりも低い第2のフレームレートで表示部に順次表示される。
【0011】
このように、記憶された第1のフレーム数の画像データのうち、評価値に基づいて選択された画像データ群に基づいて、第2のフレーム数の画像が記憶時における第1のフレームレートよりも低い第2のフレームレートで表示部に表示される。それにより、複数フレームの画像のうち所望の一部の画像が動画としてスロー再生される。この場合、対象物の状態に応じて画像データ群を選択することができる。したがって、対象物が所望の状態にある期間における対象物の動画を正確に観察することが可能となる。
【0012】
(2)選択部は、第1のフレーム数の画像データのうち予め定められた特徴を示す評価値に対応する画像データを基準に、連続する第2のフレーム数の画像データを画像データ群として選択してもよい。
【0013】
この場合、対象物の状態に応じて、所望の画像に対応する画像データ群を適切に選択することができる。また、選択された画像データ群に基づいて、連続的で自然な動画をスロー再生することができる。したがって、対象物が所望の状態にある期間における対象物の動画をより正確に観察することが可能となる。
【0014】
(3)第1のフレーム数の画像データから選択された画像データ群に基づく第2のフレーム数の画像が各第1の期間と等しい第2の期間で表示部に表示されるように第2のフレームレートおよび第2のフレーム数が定められてもよい。
【0015】
この場合、第1のフレーム数の画像の記憶時間と、選択された画像データ群に基づく画像の表示時間とが等しくなる。それにより、複数の第1の期間における画像データの記憶と複数の画像データ群に基づく画像の表示とを並行して行うことが可能となる。したがって、対象物が所望の状態にある期間における対象物の動画を効率的に観察することが可能となる。
【0016】
(4)選択部は、各第1の期間内に記憶された第1のフレーム数の画像データから画像データ群を選択する動作を各第1の期間に続く次の第1の期間において行ってもよい。
【0017】
この場合、各第1の期間において第1のフレーム数の画像データが記憶された直後に、その第1のフレーム数の画像データから画像データ群が選択され、選択された画像データ群に基づく第2のフレーム数の画像が表示部に順次表示される。それにより、複数の第1の期間における画像データの記憶と複数の画像データ群に基づく画像の表示とを並行して行うことが可能となる。したがって、対象物が所望の状態にある期間における対象物の動画を効率的に観察することが可能となる。
【0018】
(5)複数の評価値は、複数フレームの画像の特徴を示す値であってもよい。
【0019】
この場合、対象物の所望の状態に対応する画像データ群を適切に選択することができる。また、他の検出手段等を設ける必要がないので、画像処理装置の構成の簡略化が可能となる。
【0020】
(6)複数フレームの画像の特徴を示す値は、複数フレームの画像の輝度に関する値であってもよい。
【0021】
この場合、対象物の状態に応じて、複数フレームの画像の輝度が変化する。それにより、複数フレームの画像の輝度に関する値に基づいて、対象物の所望の状態に対応する画像データ群を容易にかつ適切に選択することができる。
【0022】
(7)複数の評価値は、対象物の状態の変化に伴って変化する値を検出する検出手段の出力値であってもよい。
【0023】
この場合、対象物の状態に応じて、検出手段の出力値が変化する。それにより、出力手段の出力値に基づいて、対象物の所望の状態に対応する画像データ群を容易にかつ適切に選択することができる。
【0024】
(8)複数の評価値は、予め定められた基準画像と各フレームの画像との類似度を示す値であってもよい。
【0025】
この場合、対象物の状態に応じて、基準画像と各フレームの画像との類似度が変化する。それにより、類似度を示す値に基づいて、対象物の所望の状態に対応する画像データ群を容易にかつ適切に選択することができる。
【0026】
(9)第2の発明に係る画像処理方法は、対象物の動画を表示するための画像処理方法であって、連続する複数の第1の期間内に対象物の動画を構成する複数フレームの画像に対応する画像データを第1のフレームレートで順次記憶するステップと、記憶された複数フレームの画像データに対応しかつ対象物の状態に応じて変化する複数の評価値を取得するステップと、取得された複数の評価値のうち各第1の期間内に記憶された第1のフレーム数の画像データに対応する複数の評価値に基づいて、第1のフレーム数の画像データから第1のフレーム数よりも少ない第2のフレーム数の画像データからなる画像データ群を選択するステップと、選択された画像データ群の画像データに基づいて第2のフレーム数の画像を第1のフレームレートよりも低い第2のフレームレートで表示部に表示させるステップとを備えるものである。
【0027】
その画像処理方法においては、連続する複数の第1の期間内に第1のフレームレートで複数フレームの画像に対応する画像データが順次記憶される。対象物の状態に応じて変化する複数の評価値が取得される。複数の評価値は、記憶された複数フレームの画像データに対応する。取得された複数の評価値のうち各第1の期間内に記憶された第1のフレーム数の画像データに対応する複数の評価値に基づいて、第1のフレーム数の画像データから第1のフレーム数よりも少ない第2のフレーム数の画像データからなる画像データ群が選択される。選択された画像データ群の画像データに基づいて第2のフレーム数の画像が第1のフレームレートよりも低い第2のフレームレートで表示部に順次表示される。
【0028】
このように、記憶された第1のフレーム数の画像データのうち、評価値に基づいて選択された画像データ群に基づいて、第2のフレーム数の画像が記憶時における第1のフレームレートよりも低い第2のフレームレートで表示部に表示される。それにより、複数フレームの画像のうち所望の一部の画像が動画としてスロー再生される。この場合、対象物の状態に応じて画像データ群を選択することができる。したがって、対象物が所望の状態にある期間における対象物の動画を正確に観察することが可能となる。
【0029】
(10)第3の発明に係る画像処理プログラムは、対象物の動画を表示するために処理装置により実行可能な画像処理プログラムであって、連続する複数の第1の期間内に対象物の動画を構成する複数フレームの画像に対応する画像データを第1のフレームレートで順次記憶する処理と、記憶された複数フレームの画像データに対応しかつ対象物の状態に応じて変化する複数の評価値を取得する処理と、取得された複数の評価値のうち各第1の期間内に記憶された第1のフレーム数の画像データに対応する複数の評価値に基づいて、第1のフレーム数の画像データから第1のフレーム数よりも少ない第2のフレーム数の画像データからなる画像データ群を選択する処理と、選択された画像データ群の画像データに基づいて第2のフレーム数の画像を第1のフレームレートよりも低い第2のフレームレートで表示部に表示させる処理とを処理装置に実行させるものである。
【0030】
その画像処理プログラムにおいては、連続する複数の第1の期間内に第1のフレームレートで複数フレームの画像に対応する画像データが順次記憶される。対象物の状態に応じて変化する複数の評価値が取得される。複数の評価値は、記憶された複数フレームの画像データに対応する。取得された複数の評価値のうち各第1の期間内に記憶された第1のフレーム数の画像データに対応する複数の評価値に基づいて、第1のフレーム数の画像データから第1のフレーム数よりも少ない第2のフレーム数の画像データからなる画像データ群が選択される。選択された画像データ群の画像データに基づいて第2のフレーム数の画像が第1のフレームレートよりも低い第2のフレームレートで表示部に順次表示される。
【0031】
このように、記憶された第1のフレーム数の画像データのうち、評価値に基づいて選択された画像データ群に基づいて、第2のフレーム数の画像が記憶時における第1のフレームレートよりも低い第2のフレームレートで表示部に表示される。それにより、複数フレームの画像のうち所望の一部の画像が動画としてスロー再生される。この場合、対象物の状態に応じて画像データ群を選択することができる。したがって、対象物が所望の状態にある期間における対象物の動画を正確に観察することが可能となる。
【発明の効果】
【0032】
本発明によれば、対象物が所望の状態にある期間における対象物の動画を正確に観察することが可能となる。
【発明を実施するための形態】
【0034】
以下、本発明の一実施の形態に係る画像処理装置、画像処理方法および画像処理プログラムについて図面を参照しつつ説明する。後述するように、本実施の形態に係る画像処理システムは表示部を有する。表示部には複数フレームの画像が連続的に表示されることにより動画が表示される。
【0035】
(1)画像処理システムの基本構成
図1は、本発明の一実施の形態に係る画像処理システム100の構成を示すブロック図である。
図1に示すように、画像処理システム100は、画像処理装置1、カメラ2、照明装置3および操作部4を備える。画像処理装置1は、制御部10、表示部20、録画部30、記憶部40、ビデオメモリ50、波形収集部60、バスBSおよび複数のインターフェース(図示せず)を含む。制御部10、表示部20、録画部30、記憶部40、ビデオメモリ50および波形収集部60は、バスBSに接続される。カメラ2、照明装置3および操作部4は、それぞれインターフェースを介してバスBSに接続される。
【0036】
画像処理装置1には、PLC(プログラマブルロジックコントローラ)5、センサ6および波形収集装置7を接続することができる。波形収集装置7には、センサ8を接続することができる。詳細は後述する。
【0037】
カメラ2は、CCD(電荷結合素子)イメージセンサまたはCMOS(相補性金属酸化膜半導体)イメージセンサ等の撮像素子を備える。撮像素子の露光時間(シャッタースピード)および撮影フレームレート等は、ユーザにより操作部4を用いて設定可能である。撮影フレームレートとは、単位時間当たりに取得される画像のフレーム数である。なお、本実施の形態のカメラ2は、15fps(frame per second)以上32000fps以下の撮影フレームレートで被写体Wを撮影することができる。被写体Wは、例えば、ベルトコンベアにより搬送されるワークである。
【0038】
カメラ2により被写体Wが撮影されると、設定された撮影フレームレートで撮像素子により被写体Wの画像が取得され、取得された画像が画像データとして出力される。それにより、複数フレームの画像に対応する複数フレームの画像データがカメラ2から画像処理装置1に与えられる。複数フレームの画像により動画が構成される。以下、複数フレームの画像データを動画データと称する。
【0039】
カメラ2は、照明装置3とともに三脚台等の図示しない支持台に取り付けられる。照明装置3は、メタルハライドランプまたはハイパワーLED(発光ダイオード)等の光源を含む。照明装置3は、被写体Wに光を照射するために用いられる。被写体Wが十分に明るい場合には、照明装置3はなくてもよい。
【0040】
ビデオメモリ50はRAM(ランダムアクセスメモリ)等のメモリからなる。ビデオメモリ50には、カメラ2、録画部30または記憶部40から複数フレームの画像データが順次与えられる。与えられた複数フレームの画像データは順次ビデオメモリ50に記憶される。
【0041】
表示部20は、例えば液晶ディスプレイパネルまたは有機EL(エレクトロルミネッセンス)パネルにより構成される。表示部20には、ビデオメモリ50に順次記憶される複数フレームの画像データに基づいて複数フレームの画像が連続的に表示される。それにより、動画が表示部20に表示される。
【0042】
操作部4は、例えばマウスまたはトラックボール等のポインティングデバイスにより構成される。なお、操作部4は、ポインティングデバイスとともにまたはポインティングデバイスに代えてキーボードにより構成されてもよいし、リモートコントローラまたはタッチパネルにより構成されてもよい。操作部4は、画像処理装置1と一体的に構成されてもよい。
【0043】
録画部30は、例えばRAM等のメモリからなる。録画部30は、複数フレームの画像データからなる動画データを記憶するための動画データ記憶領域および複数の評価値からなる波形データを記憶するための波形データ記憶領域を含む。複数の評価値からなる波形データの詳細は後述する。
【0044】
カメラ2から与えられる複数フレームの画像データ(動画データ)を録画部30の動画データ記憶領域に記憶させることを録画と呼ぶ。ユーザにより操作部4が操作されることにより、カメラ2で撮影される被写体Wの動画が録画される。本実施の形態では、録画処理時に、波形収集部60から与えられる複数の評価値(波形データ)が録画部30の波形データ記憶領域に同時に記憶される。
【0045】
記憶部40は、ハードディスク等の大容量記憶装置からなる。ユーザにより操作部4が操作されることにより、録画部30に記憶された動画データおよび波形データを含む動画ファイルが生成され、生成された動画ファイルが記憶部40に記憶される。また、記憶部40には、本実施の形態に係る画像処理プログラムが記憶される。画像処理プログラムの詳細は後述する。
【0046】
波形収集部60は、複数の評価値からなる波形データを収集し、収集した波形データを録画部30に与える。複数の評価値は、被写体Wの状態に応じて変化する値である。被写体Wの状態とは、被写体Wの位置、向き、明るさ、大きさ、形状または色等である。
【0047】
評価値は、例えばカメラ2により撮影される被写体Wの各フレームの画像の平均輝度値(各フレームの画像を構成する複数の画素の輝度の平均値)である。この場合、波形収集部60は、カメラ2から録画部30に順次与えられる各フレームの画像データに基づいて各フレームの画像の平均輝度値を評価値として順次算出する。順次算出された複数の平均輝度値は、録画部30の波形データ記憶領域に波形データとして記憶される。この場合、複数の評価値は、複数フレームの画像データに同期して得られる。したがって、単位時間当たりの複数の評価値の数は単位時間当たりの複数フレームの画像データの数に等しい。評価値は、各フレームの画像を構成する複数の画素の輝度値の総和であってもよく、各フレームの画像の輝度値の総和と後続するフレームの画像の輝度値の総和との差分であってもよく、各フレーム内の輝度値の分散であってもよい。
【0048】
波形収集部60は、複数フレームの画像データの取得中におけるセンサ6の出力信号の値を評価値として取得してもよい。この場合、複数の評価値は、複数フレームの画像データと同じ周期または異なる周期で得られる。したがって、単位時間当たりの複数の評価値の数は、単位時間当たりの複数フレームの画像データの数と必ずしも一致しない。複数の評価値が複数フレームの画像データよりも短い周期で得られる場合には、各フレームの画像データに複数の評価値が対応している。複数の評価値が複数のフレームの画像データよりも長い周期で得られる場合には、各評価値が複数フレームの画像データに対応している。
【0049】
センサ6が温度センサ、距離センサ、圧力センサ、加速度センサ、または変位センサ等である場合には、測定対象物の温度、距離、圧力、加速度、または変位等の測定値が評価値として波形収集部60により順次取得され、取得された複数の評価値が録画部30の波形データ記憶領域に波形データとして記憶される。
【0050】
さらに、センサ6に代えてマイクが用いられる場合には、音声信号が評価値として波形収集部60により順次取得され、取得された複数の音声信号が録画部30の波形データ記憶領域に波形データとして記憶される。
【0051】
なお、
図1において、画像処理装置1に接続される波形収集装置7は、波形収集部60と同じ構成を有する。そのため、画像処理装置1に波形収集装置7が接続される場合には、センサ8の出力信号の値が評価値として波形収集装置7により順次取得され、取得された複数の評価値が録画部30の波形データ記憶領域に波形データとして記憶される。
【0052】
制御部10は、例えばCPU(中央演算処理装置)、ROM(リードオンリーメモリ)、RAMおよびタイマーから構成される。制御部10のCPUは、ユーザによる操作部4の操作に基づいてカメラ2、照明装置3および画像処理装置1における他の構成要素の動作を制御する。また、制御部10のCPUは、記憶部40に記憶された画像処理プログラムをRAM上で実行する。ROMにはシステムプログラムが記憶される。
【0053】
(2)画像処理システムの基本動作
図1の画像処理システム100の基本動作について説明する。
【0054】
(2−1)撮影条件の設定
ユーザが操作部4を操作することにより、カメラ2の撮影条件が設定される。
図2は、撮影条件の設定時における表示部20の表示例を示す図である。
図2に示すように、撮影条件の設定時には、表示部20に画像表示領域Sa、波形表示領域Sb、条件設定領域Sc、プレビューボタンSpおよび録画ボタンSeが表示される。
【0055】
画像表示領域Saには、ビデオメモリ50に記憶される画像データに基づく画像が表示される。波形表示領域Sbには、波形収集部60により収集される波形データに基づく波形のグラフが表示される。波形のグラフの横軸は、時間を示し、縦軸は評価値を示す。例えば、評価値が画像表示領域Saに表示される画像の平均輝度値である場合、波形表示領域Sbには、画像の平均輝度値を縦軸とし、時間を横軸とする波形のグラフが表示される。
【0056】
条件設定領域Scには、カメラ2の基本的な撮影条件が表示される。撮影条件として、例えばシャッタースピード、撮影フレームレートおよび解像度をそれぞれ設定するための複数の入力枠Sc1,Sc2,Sc3が表示される。ユーザにより操作部4を用いて入力枠Sc1,Sc2,Sc3にシャッタースピード、撮影フレームレートおよび解像度の値がそれぞれ入力される。入力枠Sc1,Sc2,Sc3にそれぞれ入力された値に基づいて、制御部10によりカメラ2のシャッタースピード、撮影フレームレートおよび解像度が設定される。
【0057】
また、本実施の形態では、例えばユーザが操作部4を操作することにより制御部10に後述の録画処理の終了タイミングの基準となるトリガ信号が与えられる。条件設定領域Scには、トリガ信号に基づく制御部10のトリガ設定のための入力枠Sc4,Sc5がさらに表示される。
【0058】
ユーザにより操作部4を用いて入力枠Sc4,Sc5に後述する総録画時間および録画終了時間の値がそれぞれ入力される。入力枠Sc4,Sc5にそれぞれ入力された値に基づいて、制御部10によりトリガ設定が行われる。トリガ設定の詳細を説明する。
【0059】
本実施の形態において、トリガ設定は、1回の録画処理により録画部30に記憶される画像データの記憶時間(以下、総録画時間と呼ぶ。)を定めるとともに、制御部10にトリガ信号が与えられた時点から録画処理が終了するまでの時間(以下、録画終了時間と呼ぶ。)を定めるものである。
【0060】
例えば、総録画時間を30秒とし、録画終了時間を0秒としてトリガ設定が行なわれた場合には、録画が開始された後、制御部10にトリガ信号が与えられた時点で録画処理が終了する。これにより、制御部10にトリガ信号が与えられた時点の30秒前からトリガ信号が与えられた時点までの間に取得された動画データおよび波形データが録画部30に記憶される。
【0061】
一方、総録画時間を30秒とし、録画終了時間を30秒としてトリガ設定が行なわれた場合には、録画が開始された後、制御部10にトリガ信号が与えられた時点から30秒経過した時点で録画処理が終了する。これにより、録画部30には、制御部10にトリガ信号が与えられた時点から30秒経過するまでの間に取得された動画データおよび波形データが録画部30に記憶される。
【0062】
また、総録画時間を30秒とし、録画終了時間を15秒としてトリガ設定が行なわれた場合には、録画が開始された後、制御部10にトリガ信号が与えられた時点から15秒経過した時点で録画処理が終了する。これにより、録画部30には、制御部10にトリガ信号が与えられた時点の15秒前から30秒経過するまでの間に取得された動画データおよび波形データが録画部30に記憶される。
【0063】
なお、トリガ設定として上記の総録画時間が設定される代わりに、録画処理により録画部30に記憶される画像データの総フレーム数が設定されてもよい。また、トリガ設定として上記の録画終了時間が設定される代わりに、トリガ信号が与えられた時点から録画部30に記憶される画像データのフレーム数が設定されてもよい。
【0064】
PLC5から制御部10にトリガ信号が与えられてもよい。この場合、例えばPLC5に予め設定された周期で、またはPLC5に接続される外部機器の特定の動作タイミングに応答して、トリガ信号を制御部10に与えることができる。また、種々のセンサの出力信号がトリガ信号として制御部10に与えられてもよい。
【0065】
ユーザが操作部4を用いてプレビューボタンSpを選択すると、制御部10によりプレビュー動画再生処理が行われる。この場合、表示部20にプレビュー動画が表示される。ユーザは、プレビュー動画を参照しながら、各種の撮影条件の設定を行うことができる。プレビュー動画再生処理の詳細については後述する。
【0066】
ユーザが操作部4を用いて録画ボタンSeを選択すると、制御部10により録画処理が開始される。
【0067】
(2−2)録画処理
図3は、録画処理時の
図1の録画部30の記憶状態を示す模式図である。上述のように、録画部30には、動画データ(複数フレームの画像データ)を記憶するための動画データ記憶領域30Aおよび波形データ(複数の評価値)を記憶するための波形データ記憶領域30Bが設定されている。
【0068】
画像処理装置1においては、
図3(a)に示すように、
図2の録画ボタンSeが操作されることにより、制御部10により録画処理が開始される。録画処理では、カメラ2から与えられる第1フレームの画像に対応する画像データv1が録画部30の動画データ記憶領域30Aに記憶される。また、波形収集部60から与えられる第1番目の評価値i1が録画部30の波形データ記憶領域30Bに記憶される。
【0069】
続いて、
図3(b)に示すように、カメラ2から与えられる第2、第3および第4フレームの画像に対応する画像データv2,v3,v4が録画部30の動画データ記憶領域30Aに順次記憶されるとともに、画像データv1,v2,v3,v4が動画データ記憶領域30A内で順次シフトする。同時に、波形収集部60から与えられる第2番目、第3番目および第4番目の評価値i2,i3,i4が録画部30の波形データ記憶領域30Bに順次記憶されるとともに、評価値i1,i2,i3,i4が波形データ記憶領域30B内で順次シフトする。
【0070】
録画処理時に動画データ記憶領域30Aに記憶される画像データの量が動画データ記憶領域30Aの記憶容量を超える場合には、動画データ記憶領域30Aに最新のフレーム(現在のフレーム)の画像データが新たに記憶されるごとに動画データ記憶領域30Aに記憶されている最も過去のフレームの画像データが削除される。
【0071】
同様に、録画処理時に波形データ記憶領域30Bに記憶される評価値の量が波形データ記憶領域30Bの記憶容量を超える場合には、波形データ記憶領域30Bに最新の評価値が新たに記憶されるごとに波形データ記憶領域30Bに記憶されている最も過去の評価値が削除される。
【0072】
図3(c)の例では、動画データ記憶領域30Aに12個の画像データv1〜v12が記憶されている状態で、さらに2個の画像データv13,v14が順次記憶されることにより、最も過去の画像データv1,v2が順次削除される。また、波形データ記憶領域30Bに12個の評価値i1〜i12が記憶されている状態で、さらに2個の画像の評価値i13,i14が順次記憶されることにより、最も過去の評価値i1,i2が順次削除される。それにより、動画データ記憶領域30Aに画像データv3〜v14が記憶され、波形データ記憶領域30Bに評価値i3〜i14が記憶されている。
【0073】
このように、録画処理中の動画データ記憶領域30Aおよび波形データ記憶領域30Bにおいては、いわゆるリングバッファの形式で動画データおよび波形データが順次記憶される。
【0074】
図3(c)の例では、波形データ記憶領域30Bに記憶される評価値i3〜i14は動画データ記憶領域30Aに記憶される画像データv3〜v14と一対一に対応している。一方、上記のように、複数の評価値が複数フレームの画像データと異なる周期で得られる場合には、波形データ記憶領域30Bに記憶される評価値は動画データ記憶領域30Aに記憶される画像データと一対一に対応していない。
【0075】
図4は、録画処理中の
図1の録画部30の記憶状態の他の例を示す模式図である。
図4の例では、複数の評価値が複数フレームの画像データよりも短い周期で得られる。そのため、波形データ記憶領域30Bに記憶される評価値i7〜i42は動画データ記憶領域30Aに記憶される画像データv3〜v14と一対一に対応していない。連続する3つの評価値が1フレームの画像データに対応する。例えば、評価値i7,i8,i9が画像データv3に対応し、評価値i10,i11,i12が画像データv4に対応する。
【0076】
複数の評価値が複数フレームの画像データよりも長い周期で得られる場合には、各評価値が複数フレームの画像データに対応する。
【0077】
図5は、録画処理時の表示部20の表示例を示す図である。
図5に示すように、録画処理時には
図2の録画ボタンSeに代えて、表示部20にトリガボタンSfが表示される。
【0078】
ユーザが操作部4を用いてトリガボタンSfを選択すると、制御部10にトリガ信号が与えられる。それにより、上述のように、トリガ設定に基づくタイミングで録画処理が終了する。
【0079】
(2−3)ファイル記憶処理
図6は、録画処理終了時の表示部20の表示例を示す図である。
図6に示すように、録画処理終了時には
図5のトリガボタンSfに代えて、表示部20にファイルボタンSjおよび再生ボタンSgが表示される。
【0080】
ユーザが操作部4を用いてファイルボタンSjを選択することにより、制御部10によりファイル記憶処理が行なわれる。ファイル記憶処理では、録画部30に記憶されている動画データおよび波形データを含む動画ファイルが生成され、生成された動画ファイルが
図1の記憶部40に記憶される。
【0081】
ユーザが操作部4を用いて再生ボタンSgを選択することにより、後述のように、制御部10により通常再生処理が行われる。
【0082】
(2−4)通常再生処理
記憶部40に1または複数の動画ファイルが記憶されている場合、1または複数の動画ファイルに対応するアイコンが表示部20に表示される。ユーザが操作部4を用いて表示部20に表示される一のアイコンを選択することにより、制御部10により通常再生処理が開始される。また、録画処理終了時に、ユーザが操作部4を用いて
図6の再生ボタンSgを選択することにより、制御部10により通常再生処理が開始される。連続する複数フレームの画像データに基づいて表示部20に連続する複数フレームの画像を順次表示することを動画の通常再生と呼ぶ。
【0083】
図7は、通常再生処理時の表示部20の表示例を示す図である。
図7に示すように、通常再生処理時には、表示部20に画像表示領域Sa、波形表示領域Sbおよび条件設定領域Scが表示される。
【0084】
記憶部40に記憶された動画ファイルに対応するアイコンが選択された場合、制御部10は、記憶部40内の選択された動画ファイル中の複数フレームの画像データをビデオメモリ50に順次記憶させる。それにより、ビデオメモリ50に順次記憶される画像データに基づく画像が画像表示領域Saに表示される。このようにして、選択された動画ファイル中の複数フレームの画像データに基づいて動画が通常再生される。また、制御部10は、記憶部40内の選択された動画ファイル中の波形データをビデオメモリ50に記憶させる。それにより、波形データに基づく波形のグラフが波形表示領域Sbに表示される。
【0085】
録画処理終了時に
図6の再生ボタンSgが選択された場合、制御部10は、録画部30内の複数フレームの画像データをビデオメモリ50に順次記憶させる。それにより、ビデオメモリ50に順次記憶される画像データに基づく連続する画像が
図7の画像表示領域Saに表示される。このようにして、録画部30に記憶される複数フレームの画像データに基づいて動画が通常再生される。また、制御部10は、録画部30に記憶される波形データをビデオメモリ50に記憶させる。それにより、波形データに基づく波形のグラフが
図7の波形表示領域Sbに表示される。
【0086】
(3)プレビュー動画再生処理
図2のプレビューボタンSpが選択されると、制御部4により以下に説明するプレビュー動画再生処理が行われる。
図8は、プレビュー動画再生処理時の表示部20の表示例を示す図である。
図8に示すように、表示部20に画像表示領域Sa、条件設定領域Scおよび停止ボタンSsが表示される。画像表示領域Saにプレビュー動画PMが表示される。
【0087】
図9は、プレビュー動画再生処理時における画像データの記録およびプレビュー動画の表示のタイミングを示すタイミングチャートである。
【0088】
図9の例では、時点t0において、ユーザが操作部4を用いて表示部20上のプレビューボタンSpを選択する。これにより、カメラ2から与えられる複数フレームの画像データが録画部30の動画データ記憶領域30Aに順次記憶される。また、波形収集部60から与えられる複数の評価値が録画部30の波形データ記憶領域30Bに順次記憶される。プレビュー動画再生処理時における録画部30の記憶状態は、上記の録画処理時における録画部30の記憶状態と同じである。
【0089】
時点t0から規定時間T1が経過した後の時点t1から時点t2までの期間において、制御部10が解析処理を行う。解析処理として、制御部10は、時点t0から時点t1までの期間に記憶された複数フレームの画像データに対応する評価値を録画部30の波形データ記憶領域30Bから取得する。制御部10は、取得された評価値に基づいて、時点t0から時点t1までの期間に記憶された複数フレームの画像データから一定のフレーム数の画像データからなる再生データ群を選択する。
【0090】
この場合、制御部10は、予め定められた特徴を示す評価値に対応する画像データを基準に、連続する一定のフレーム数の画像データを再生データ群として選択する。本例では、評価値は平均輝度値である。制御部10は、時点t0から時点t1までの期間に記憶された各フレームの画像の平均輝度値を取得する。制御部10は、時点t0から時点t1までの期間において、平均輝度値が最も小さい一区間の画像データを再生データ群として選択する。一区間は、一定のフレーム数を含む区間である。
【0091】
本例では、カメラ2により撮影される領域(以下、撮影領域と呼ぶ)を被写体(ワーク)Wが通過するときに取得された画像の平均輝度値が小さい。そのため、撮影領域を被写体Wが通過するときに記憶された一区間の画像データが再生データ群として決定される。
【0092】
図9の下段に、評価値としての平均輝度値の変化が示される。この場合、時点t11から時点t12までの期間に取得された一区間の画像データに対応する平均輝度値の変化量が小さい。そのため、時点t11から時点t12までの期間に取得された一区間の画像データが再生データ群として決定される。
【0093】
なお、再生データ群としては、フレーム間における被写体Wの動きが大きい、またはフレーム間における画像データの変化が大きい一区間の画像データが選択されることが好ましい。その場合、評価値として、例えば各フレームの画像の全画素と前フレームの画像の全画素との間における輝度値の差分絶対値の総和、または各フレームの画像の平均輝度値の時間微分値を用いることができる。
【0094】
時点t2において解析処理が終了すると、制御部10は、解析処理により決定された再生データ群に基づく動画の再生を開始する。この場合、再生データ群がビデオメモリ50に順次記憶され、再生データ群に基づいて複数フレームの画像がプレビュー動画として表示部20に順次表示される。
【0095】
プレビュー動画再生処理時における再生フレームレートは、撮影フレームレートよりも低く、例えば1fps以上60fps以下である。ここで、再生フレームレートとは、単位時間当たりに表示部2に表示される画像のフレーム数である。本例では、再生データ群の再生時間T2が、上記の規定時間T1と等しくなるように、再生フレームレートおよび再生データ群のフレーム数が設定される。再生フレームレートが撮影フレームレートのM分の1である場合、再生データ群のフレーム数は、規定時間T1に記憶される画像データのフレーム数のM分の1である。ここで、Mは、1よりも大きい実数である。
【0096】
続いて、時点t1から規定時間T1が経過した後の時点t3から時点t4までの期間において、制御部10が上記同様の解析処理を行う。この場合、時点t1から時点t3までの期間に記憶された複数フレームの画像データのうち、時点t21から時点t22までの期間に記憶された複数フレームの画像データが再生データ群として決定される。時点t4において解析処理が終了すると、制御部10は、解析処理により決定された再生データ群に基づく動画の再生を開始する。
【0097】
ここで、制御部10による1回の解析処理の時間T3は一定である。また、上記のように、再生データ群の再生時間T2は、制御部10が解析処理を行う周期(時間T1)と等しい。それにより、時点t4において、解析処理が終了すると同時に、時点t2から開始された動画の再生が終了する。したがって、時点t11から時点t12までに記憶された再生データ群に基づく動画と時点t21から時点t22までに記憶された再生データ群に基づく動画とが連続的に再生される。
【0098】
その後、同様にして、規定時間T1が経過するごとに制御部10による解析処理が行われ、解析処理により決定された再生データ群に基づく動画が再生される。それにより、複数の再生データ群に基づく動画がプレビュー動画として表示部20に連続的に表示される。なお、解析処理の周期は、本例のように時間で設定されてもよく、フレーム数で設定されてもよい。
【0099】
本例では、時点t0から時点t1までの期間、時点t1から時点t3までの期間、時点t3から時点t5までの期間および時点t5から時点t7までの期間がそれぞれ第1の期間の例であり、時点t2から時点t4までの期間、時点t4から時点t6までの期間および時点t6から時点t8までの期間がそれぞれ第2の期間の例である。また、規定時間T1の間に取得される画像データのフレーム数が第1のフレーム数の例であり、一区間に含まれるフレーム数が第2のフレーム数の例である。
【0100】
図10は、制御部10によるプレビュー動画再生処理のフローチャートである。プレビュー動画再生処理は、記憶部40に記憶される画像処理プログラムに基づいて行われる。
図2の画面上でプレビューボタンSpが選択されると、制御部10によりプレビュー動画再生処理が開始される。
【0101】
まず、制御部10は、録画部30による画像データおよび評価値の記憶を開始するとともに(ステップS1)、タイマーによる計測を開始する(ステップS2)。この場合、録画部30による画像データおよび評価値の記憶が開始されてからの経過時間がタイマーにより計測される。
【0102】
次に、制御部10は、タイマーによる計測時間が規定時間T1に達したか否かを判定する(ステップS3)。タイマーによる計測時間が規定時間T1に達していない場合、制御部10は、
図8の停止ボタンSsが選択されたか否かを判定する(ステップS4)。停止ボタンSsが選択されていない場合、制御部10は、ステップS3の処理に戻る。
【0103】
ステップS3において、タイマーによる計測時間が規定時間T1に達した場合、制御部10は、タイマーをリセットし、新たに計測を開始する(ステップS5)。次に、制御部10は、直前の規定時間T1の間に録画部30に記憶された各画像データに対応する評価値を録画部30から取得し(ステップS6)、取得された評価値に基づいて、直前の規定時間T1の間に録画部30に記憶された複数フレームの画像データから再生データ群を決定する(ステップS7)。ステップS6,S7の処理が解析処理に相当する。
【0104】
次に、制御部10は、再生データ群に基づく動画の再生を開始する(ステップS8)。この場合、制御部10は、再生データ群に基づく動画が予め定められた再生フレームレートで表示部2に表示されるように、再生データ群をビデオメモリ50に順次記憶させる。その後、制御部10は、ステップS3の処理に戻る。
【0105】
このように、ステップS4で停止ボタンSsが選択されていない場合、制御部10は、ステップS3〜S8の処理を繰り返す。これにより、規定時間T1が経過するごとに、制御部10による解析処理が行われ、解析処理により決定された再生データ群に基づく動画が再生される。
【0106】
ステップS4において、停止ボタンSsが選択された場合、制御部10は、録画部30による画像データおよび評価値の記憶を停止する(ステップS9)。また、制御部10は、ステップS8において開始した再生データ群に基づく動画の再生を停止する(ステップS10)。さらに、制御部10は、タイマーによる計測を停止する(ステップS11)。これにより、制御部10のプレビュー動画再生処理が終了する。
【0107】
(4)本実施の形態の効果
本実施の形態に係る画像処理装置1においては、撮影条件の設定時に表示部20にプレビュー動画を表示することができる。この場合、録画部30に複数フレームの画像データが順次記憶されつつ、規定時間T1が経過するごとに評価値に基づいて再生データ群が選択され、選択された再生データ群に基づく画像がプレビュー動画としてスロー再生される。
【0108】
評価値は録画部30に記憶される画像データに対応しかつ被写体Wの状態に応じて変化するので、評価値に基づいて被写体Wの所望の状態に対応する画像データ群を選択することができる。したがって、被写体Wが所望の状態にある期間における被写体Wの動画を正確に観察することが可能となる。その結果、被写体Wの動画を観察しながら撮影条件を容易にかつ適切に調整することができる。
【0109】
また、本実施の形態では、規定時間T1と再生時間T2とが等しくなるように、再生フレームレートおよび再生データ群のフレーム数が設定される。それにより、録画部30による画像データの記憶と再生データ群に基づく画像の表示とを並行して行うことが可能となる。
【0110】
また、本実施の形態では、評価値として各フレームの画像の平均輝度値が用いられる。それにより、被写体Wの所望の状態に対応する再生データ群を容易にかつ適切に選択することができる。
【0111】
(5)他の実施の形態
(5−1)
上記実施の形態では、プレビュー動画再生処理時に、直前の規定時間T1の間に記憶された複数フレームの画像データのうち、対応する平均輝度値が最も小さい一区間の画像データが再生データ群として選択されるが、これに限らず、平均輝度値を用いた他の方法で再生データ群が選択されてもよい。
【0112】
例えば、制御部10が、直前の規定時間T1の間に記憶された複数フレームの画像データのうち、前の画像からの平均輝度値の変化量が最も大きい画像に対応する画像データを決定する。制御部10は、決定された画像データを基準に、一区間の画像データを再生データ群として選択する。この場合、制御部10は、決定された画像データを最初とする一区間の画像データを再生データ群として選択してもよい。また、制御部10は、決定された画像データを最後とする一区間の画像データを再生データ群として選択してもよい。また、制御部10は、決定された画像データの前の複数フレームおよび後の複数フレームの画像データを含む一区間の画像データを再生データ群として選択してもよい。また、制御部10は、決定された画像データが記憶された時点の一定時間後、または一定時間前に記憶された一区間のフレーム数の画像データを再生データ群として選択してもよい。
【0113】
(5−2)
上記実施の形態では、プレビュー動画再生処理時に、録画部30の波形データ記憶領域30Bに記憶された評価値に基づいて再生データ群が選択されるが、これに限らない。制御部10が、録画部30の動画データ記憶領域30Aに記憶された画像データに基づいて各画像データに対応する評価値を算出し、算出された評価値に基づいて再生データ群を選択してもよい。
【0114】
(5−3)
上記実施の形態では、評価値として平均輝度値が用いられるが、各フレームの画像の特徴を示す他の値が評価値として用いられてもよい。例えば、予め定められた基準画像と各フレームの画像との類似度を示す値(以下、類似度値と呼ぶ)が評価値として用いられてもよい。
【0115】
例えば、撮影領域に被写体(ワーク)Wが進入した直後の画像が、基準画像として設定され、その基準画像に対応する画像データが予め記憶される。制御部10は、直前の規定時間T1の間に取得された複数フレームの画像データのうち、基準画像に対する類似度値が最も高い画像に対応する画像データを決定する。制御部10は、決定された画像データを最初とする一区間の画像データを再生データ群として選択する。この場合、撮影領域に被写体Wが進入した直後からの一定期間の動画が表示部20に表示される。
【0116】
また、制御部10は、決定された画像データを最後とする一区間の画像データを再生データ群として選択してもよい。また、制御部10は、決定された画像データの前の複数フレームおよび後の複数フレームの画像データを含む一区間の画像データを再生データ群として選択してもよい。また、制御部10は、決定された画像データが記憶された時点の一定時間後、または一定時間前に記憶された一区間のフレーム数の画像データを再生データ群として選択してもよい。
【0117】
(5−4)
図1のセンサ6,8により検出される温度、距離、圧力、加速度、または変位等の測定値が評価値として用いられてもよい。この場合も、上記同様に評価値を用いて種々の方法で再生データ群を選択することができる。
【0118】
(5−5)
ユーザが規定時間T1、再生フレームレートおよび再生データ群のフレーム数を任意に調整可能に画像処理装置1が構成されてもよい。例えば、
図8の画面に、規定時間T1、再生フレームレートおよび再生データ群のフレーム数の入力枠が表示される。ユーザは、操作部4を用いて規定時間T1、再生フレームレートおよび再生データ群のフレーム数を入力することができる。
【0119】
この場合、被写体Wの種類および移動速度等に応じて、ユーザが規定時間T1、再生フレームレートおよび再生データ群のフレーム数を適宜調整することができる。
【0120】
(5−6)
上記実施の形態では、撮影条件の設定時に制御部10によりプレビュー動画再生処理が行われるが、これに限らず、録画処理時にプレビュー動画再生処理が行われてもよい。この場合、録画処理時に、被写体Wの所望の状態がプレビュー動画として表示部20に表示される。それにより、被写体Wの動画を観察しつつ録画処理を継続して行うことができる。
【0121】
(6)請求項の各構成要素と実施の形態の各部との対応関係
以下、請求項の各構成要素と実施の形態の各部との対応の例について説明するが、本発明は下記の例に限定されない。
【0122】
上記実施の形態においては、撮影フレームレートが第1のフレームレートの例であり、再生フレームレートが第2のフレームレートの例であり、表示部20が表示部の例であり、波形収集部7,60が取得部の例であり、制御部10が選択部および制御部の例であり、センサ6,8が検出手段の例である。
【0123】
請求項の各構成要素として、請求項に記載されている構成または機能を有する他の種々の要素を用いることもできる。