(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0008】
本発明の一実施の形態における映像編集装置について、
図1〜7を用いて説明する。
図1は、本実施の形態における映像編集装置110と、映像編集装置110に接続される周辺装置とを示す図である。
【0009】
映像編集装置110は、映像解析部111と編集映像生成部112と主要被写体設定部113と映像再生部114と、記憶装置115とを含む。映像解析部111と編集映像生成部112と主要被写体設定部113と映像再生部114とは、ハードウェアまたはコンピュータプログラムのいずれによって実現されても良い。映像編集装置110に接続される周辺装置は、複数のビデオカメラ(撮影装置)110と入力装置130と表示装置140とを含む。
【0010】
映像解析部111は、複数のビデオカメラ120から入力される複数の映像の映像データを解析する。入力される複数の映像の各々は、所定のフレームレートで生成される複数の単位フレーム画像によって構成される動画像である。映像解析部111は、単位フレーム画像に被写体が含まれるか否かを解析し、解析結果に基づいて後述するように記録データを生成する。単位フレーム画像に被写体が含まれるか否かは、例えば記憶装置115に予め保存された被写体の画像データを用いて単位フレーム画像に対するパターンマッチングを行うことによって判定される。映像解析部111は、入力された複数の映像の映像データを、それら複数の映像の各々について生成した記録データに対応付けて記憶装置115に保存する。
【0011】
編集映像生成部112は、記憶装置115において、映像編集用シナリオのシナリオファイルと、編集対象となる複数の映像の映像データおよび記録データとを検索し、映像編集用シナリオにしたがって複数の映像から複数の場面を連ねた編集映像を生成する。映像編集用シナリオは、編集映像を生成するために規定された、複数の場面を所定の順序で所定の場面別収録時間ずつ連ねる場面構成を規定し、例えば特開2010−232813号公報に開示されるシナリオである。編集映像生成部112は、後述する主要被写体設定部113によって設定された主要被写体の情報に基づいて、シナリオファイルと映像データおよび記録データとを検索する。編集映像生成部112は、生成した編集映像の編集映像データを記憶装置115に保存する。編集映像生成部112は、生成した編集映像の編集映像データを後述する映像再生部114に引き渡すことにより、編集映像が表示装置140に表示されるようにしても良い。
【0012】
主要被写体設定部113は、編集映像生成部112によって編集映像が編集される際、前もって入力装置130を介してユーザによって決定された主要被写体を、編集映像の主要被写体として設定する。例えば、記憶装置115に予め保存された画像データに基づいて人物の顔や全身の画像が表示装置140の画面に表示され、ユーザはその表示画面を見ながら、入力装置130を用いて1つの画像を選択する。主要被写体設定部113は、こうして選択された画像に対応する被写体を主要被写体として設定する。
【0013】
映像再生部114は、記憶装置115に保存された編集映像を再生して表示装置140に表示する。上述したように、映像再生部114は、編集映像生成部112によって引き渡された編集映像を再生して表示装置140に表示しても良い。
【0014】
記憶装置115は、映像編集用シナリオのシナリオファイルと、編集対象となる複数の映像の映像データおよび記録データとを記憶するとともに、編集映像生成部112によって生成された編集映像の編集映像データを記憶する。
【0015】
図2は、映像解析部111が、例えば同じイベントを撮影した2台のビデオカメラ120からそれぞれ入力される2つの映像ファイルF1およびF2を解析して生成した記録データの一例を示す図である。
図2(a)は映像ファイルF1に基づく記録データ210を示し、
図2(b)は映像ファイルF2に基づく記録データ220を示す。
【0016】
記録データ210には、イベントの参加者である「花子」、「太郎」、「ヒロシ」、「よしこ」、および「観客」といった被写体の各々について、映像ファイルF1を構成する単位フレーム画像毎に各被写体の出現の有無、すなわち各被写体が単位フレーム画像に含まれているかいないかが記録されている。映像ファイルF1を構成する全ての単位フレーム画像のうち、各被写体が含まれる単位フレーム画像の枚数を映像解析部111が計数し、計数結果を記録データ210に含めることとしても良い。
【0017】
記録データ220には、記録データ210と同じ被写体の各々について、映像ファイルF2を構成する単位フレーム画像毎に各被写体の出現の有無、すなわち各被写体が単位フレーム画像に含まれているかいないかが記録されている。映像ファイルF2を構成する全ての単位フレーム画像のうち、各被写体が含まれる単位フレーム画像の枚数を映像解析部111が計数し、計数結果を記録データ220に含めることとしても良い。
【0018】
図3は、編集映像生成部112の構成を示す図である。編集映像生成部112は、検索処理部310とクロップ処理部320とリサイズ処理部330と編集処理部340とを含む。検索処理部310とクロップ処理部320とリサイズ処理部330と編集処理部340とは、ハードウェアまたはコンピュータプログラムのいずれによって実現されても良い。検索処理部310は、記憶装置115を参照し、主要被写体設定部113によって設定された主要被写体の情報に基づいて、映像編集用シナリオのシナリオファイルと、編集対象となる複数の映像の映像データおよび記録データとを検索する。
【0019】
この検索処理について、編集対象となる複数の映像の映像データが例えば同じイベントを撮影した上述の映像ファイルF1およびF2であるとき、かつ主要被写体設定部113によってそのイベントの参加者である「太郎」が主要被写体として設定された場合を例に説明する。検索処理部310は、記憶装置115に保存されている複数のシナリオファイルの中から、そのイベントに応じた映像編集用シナリオのシナリオファイルを検索する。
【0020】
記憶装置115に複数のシナリオファイルが保存されているときは、編集映像全体の収録時間において、編集映像を構成するフレーム画像に主要被写体「太郎」が出現する期間が、主要被写体と同じ種類(人物)の他の被写体、例えば他の被写体「花子」、「ヒロシ」および「よしこ」のそれぞれが出現する期間よりも長くなるような映像編集用シナリオに対応するシナリオファイルが検索される。編集映像を構成するフレーム画像のフレーム間隔が一定であるとき、主要被写体「太郎」が出現するフレーム画像数は、他の被写体「花子」、「ヒロシ」および「よしこ」のそれぞれが出現するフレーム画像数のいずれよりも多くなる。編集映像を構成する各フレーム画像が所定サイズ以上の被写体を含むとき、そのフレーム画像にその被写体が出現しているという。
【0021】
検索処理部310は、記憶装置115に保存されている複数の記録データの中から、単位フレーム画像毎に出現の有無が記録されている被写体の中に「太郎」が含まれている記録データ210および220を検索する。検索処理部310は、記憶装置115に保存されている複数の映像の映像データの中から、記録データ210および220にそれぞれ対応付けられている映像ファイルF1およびF2を検索する。
【0022】
クロップ処理部320は、検索処理部310によって検索されたシナリオファイルの映像編集用シナリオに沿った各場面を構成するフレーム画像を生成するために、検索処理部310によって検索された映像ファイルF1およびF2に含まれる単位フレーム画像に対してクロップ処理を行ってクロップフレーム画像を生成する。クロップ処理される対象の画像領域の位置および大きさは、検索処理部310によって検索された記録データ210および220とシナリオファイルとに基づいて、クロップ処理部320によって単位フレーム画像毎に決定される。クロップ処理が行われる単位フレーム画像は、検索処理部310によって検索された記録データ210および220と、シナリオファイルとに基づいて特定される。例えば主要被写体が、クロップフレーム画像上の略中央等の所定の位置を含む、クロップフレーム画像領域の一部である所定領域内に配置されるようにクロップ処理が行われる。編集映像を構成する各フレーム画像がこのようなクロップフレーム画像に基づいて生成されるとき、主要被写体はそのフレーム画像の略中央に出現することとなる。
【0023】
リサイズ処理部330は、検索処理部310によって検索されたシナリオファイルの映像編集用シナリオに沿った各場面を構成するフレーム画像を生成し、所定の表示画素数(所定の表示画素サイズ)を有する表示装置140に表示させるために、クロップ処理部320によるクロップ処理で生成された各クロップフレーム画像に対して拡大および縮小等のリサイズ処理を行う。リサイズ処理部330は、各クロップフレーム画像を、所定のサイズ(例えば表示装置140の表示画像サイズ)にリサイズしてリサイズフレーム画像を生成する。
【0024】
編集処理部340は、リサイズ処理部330によって生成されたリサイズフレーム画像に基づいて、検索処理部310によって検索されたシナリオファイルの映像編集用シナリオに沿った各場面を構成するフレーム画像を生成する。こうして映像編集用シナリオに沿った各場面が構成される。映像編集用シナリオによっては、スローモーション等の時間軸変換のため、フレーム画像が補間されることとしてもよい。編集処理部340は、映像編集用シナリオにしたがって、各場面を所定の順序で所定の場面別収録時間ずつ連ねた編集映像を生成し、編集映像を記憶装置115または映像再生部114へ出力する。
【0025】
図4は、編集処理部340による編集映像の生成処理の一例を示す図である。この編集映像は、上述した映像ファイルF1およびF2と記録データ210および220とに基づき、イベントの参加者「太郎」を主要被写体として生成されるものとする。
【0026】
6つの場面Sn1〜6が連ねられたこの編集映像は、イベントと主要被写体とに応じて検索された映像編集用シナリオにしたがって、場面Sn1〜6の順序で構成され、各場面別収録時間として、場面Sn1に対して5秒、場面Sn2に対して15秒、場面Sn3およびSn4に対してそれぞれ3秒ずつ、場面Sn5に対して7秒、場面Sn6に対して15秒が割り当てられている。各被写体について、各場面毎に引かれている矢印は、その被写体がその場面を構成するフレーム画像に出現する期間を示す。主要被写体および他の被写体の各々が各場面を構成するフレーム画像に出現する期間は、編集映像全体の収録時間において、編集映像を構成するフレーム画像に主要被写体が出現する期間が他の被写体の各々が出現する期間よりも長くなる範囲で、映像編集用シナリオにしたがってそれぞれ定まる。矢印の下に記載された「小」、「中」、「大」は、その被写体が出現するフレーム画像において、その被写体が占める領域のサイズを示す。主要被写体および他の被写体が各場面を構成するフレーム画像に占める領域のサイズは、映像編集用シナリオにしたがってそれぞれ定まる。
【0027】
映像編集用シナリオにしたがって連ねられる場面Sn1〜6の各場面には、その映像編集用シナリオに応じて映像ファイルF1およびF2が適用される。
図4の例では、場面Sn1およびSn2には映像ファイルF2が適用され、場面Sn3〜6には映像ファイルF1が適用されている。
【0028】
図5は、
図4に示す編集処理で生成される編集映像の出力イメージの一例である。この編集映像は、男女混合ロードレースイベントにおいて、2番のゼッケンを着用した参加者520「太郎」を主要被写体として生成されるものとする。
図5(a)は、編集映像のイントロダクションとなる場面Sn1の一例を示しており、場面Sn1には観客550が被写体として出現している。
図5(b)および(c)は場面Sn2の例を示しており、場面Sn2を構成する当初のフレーム画像には1〜4番のゼッケンを着用した4名の参加者510〜540と観客550とが出現している。上述したクロップ処理およびリサイズ処理が行われながら所定時間が経過すると、場面Sn2を構成するフレーム画像には、2番のゼッケンを着用した主要被写体の参加者520「太郎」および3番のゼッケンを着用した参加者530「ヒロシ」のみが出現する。
【0029】
図5(d)に示すように、レースの中盤を収録した場面Sn3を構成するフレーム画像には、上述したクロップ処理およびリサイズ処理が行われて得られる主要被写体の参加者520「太郎」のクローズアップされた上半身が出現する。場面Sn3は、映像編集用シナリオにしたがって、例えばスローモーションの映像として収録される。引き続いて、
図5(e)に示すように、レースの中盤を収録した場面Sn4を構成するフレーム画像には、上述したクロップ処理およびリサイズ処理が行われて得られる主要被写体の参加者520「太郎」のクローズアップされた下半身が出現する。
【0030】
図5(f)に示すように、参加者520「太郎」が参加者530「ヒロシ」を追い抜くクライマックスシーンを収録した場面Sn5を構成するフレーム画像には、上述したクロップ処理およびリサイズ処理により、追い抜く参加者520「太郎」と追い抜かれる参加者530「ヒロシ」とが出現する。編集映像の最後の場面Sn6を構成するフレーム画像には、
図5(g)に示すように、走り去って行く4名の参加者510〜540と観客550とが出現する。
【0031】
図6は、映像編集装置110の編集映像生成部112が行う映像編集処理フローを示す図である。ステップS610において、編集映像生成部112の検索処理部310は、記憶装置115に保存されている複数のシナリオファイルの中から、撮影されたイベント種別等に応じた映像編集用シナリオのシナリオファイルを検索する。ステップS620において、検索処理部310は、記憶装置115に保存されている複数の記録データおよび複数の映像の映像データの中から、記録データおよび記録データに対応付けられている編集対象映像ファイルを検索する。
【0032】
ステップS630において、編集映像生成部112のクロップ処理部320は、検索処理部310によって検索されたシナリオファイルの映像編集用シナリオに沿った各場面を構成するフレーム画像を生成するために、検索処理部310によって検索された編集対象映像ファイルに含まれる単位フレーム画像に対してクロップ処理を行ってクロップフレーム画像を生成する。
【0033】
ステップS640において、編集映像生成部112のリサイズ処理部330は、検索処理部310によって検索されたシナリオファイルの映像編集用シナリオに沿った各場面を構成するフレーム画像を生成するために、クロップ処理部320によるクロップ処理で生成された各クロップフレーム画像に対して拡大および縮小等のリサイズ処理を行ってリサイズフレーム画像を生成する。
【0034】
ステップS650において、編集映像生成部112の編集処理部340は、リサイズ処理部330によって生成されたリサイズフレーム画像に基づいて、映像編集用シナリオに沿った各場面を構成するフレーム画像を生成し、映像編集用シナリオにしたがって各場面を所定の順序で所定の場面別収録時間ずつ連ねた編集映像を生成する。ステップS660において、編集処理部340は、編集映像を記憶装置115または映像再生部114へ出力する。
【0035】
以上で説明した本実施の形態の映像編集装置110は、複数の場面Sn1〜Sn6を所定の順序で所定の場面別収録時間ずつ連ねる場面構成を規定した映像編集用シナリオのシナリオファイルを記憶する記憶装置115と、参加者520「太郎」を主要被写体として設定する主要被写体設定部113と、複数の場面を複数のビデオカメラ120で撮影した映像ファイルF1およびF2の映像データと、映像ファイルF1およびF2の各々について単位フレーム画像に主要被写体の参加者520「太郎」および他の被写体の参加者530「ヒロシ」が含まれるか否かを記録した記録データ210および220とを互いに対応付けて記憶する記憶装置115と、記憶装置115によって記憶された映像ファイルF1およびF2の映像データならびに記録データ210および220に基づき、映像ファイルF1およびF2から映像編集用シナリオにしたがって複数の場面Sn1〜Sn6を連ねた編集映像を生成する映像生成部112とを備え、映像生成部112は、編集映像全体の全体収録時間において、編集映像に主要被写体の参加者520「太郎」が含まれる時間が、該編集映像に他の被写体の参加者530「ヒロシ」が含まれる時間よりも長くなるように編集映像を生成する。これにより、映像編集装置110は、ユーザの撮影技量が編集映像の単調性に及ぼす影響を低減できるという作用効果を奏する。
【0036】
−−−変形例−−−
(1)上述した実施の形態では、映像解析部111は映像編集装置110に含まれることとしたが、映像解析部111は映像編集装置110の外部装置に配置されることとしても良い。
【0037】
(2)上述した実施の形態では、映像解析部111は、単位フレーム画像に被写体が含まれるか否かを判定する際、例えば記憶装置115に予め保存された被写体の画像データを用いることとした。記憶装置115は、その被写体に関する詳細情報をその被写体の画像データに対応付けて記憶することとしても良い。被写体に関する詳細情報は、例えば人物名等の被写体名称、単位フレーム画像中における被写体の位置、または被写体の移動方向等である。被写体に関する詳細情報は、被写体が動物や人物である場合はさらに、表情、顔の向き、発話しているか否かの別、発話内容、または動作であっても良い。例えば、記憶装置115に予め保存された被写体の画像データに人物名が対応付けられている場合は、ユーザが主要被写体を決定する際に入力装置130を介して人物名を入力すれば、主要被写体設定部113は入力された人物名を主要被写体として設定する。編集映像生成部112は、その設定された人物名に基づいて、シナリオファイルと映像データおよび記録データとを検索する。
【0038】
(3)上述した実施の形態では、映像解析部111は、単位フレーム画像に被写体が含まれるか否かを解析し、解析結果に基づいて後述するように記録データを生成することとした。しかし、映像解析部111は、外部装置によって生成された記録データを、例えばメタデータや電子番組表(EPG)のように放送や通信によって配信される情報として取得することとしても良い。
【0039】
(4)記憶装置115は映像編集装置110に含まれることとしたが、映像編集装置110に接続される外部装置として記憶装置115を配置し、映像編集装置110とこれに接続される外部装置としての記憶装置115とを有する映像編集システムを、本発明の他の実施の形態としても良い。
【0040】
(5)主要被写体設定部113は、入力装置130を介してユーザによって決定された主要被写体を、編集映像の主要被写体として設定することとした。ユーザは、複数の主要被写体を決定しても良い。例えば、ユーザが第1被写体と第2被写体とを主要被写体として決定したとき、主要被写体設定部113は、第1被写体および第2被写体のいずれか一方を主要被写体として設定しても良いし、第1被写体および第2被写体の両方を主要被写体として設定しても良い。
【0041】
第1被写体および第2被写体の両方が主要被写体として設定されたとき、編集映像生成部112は、第1被写体および第2被写体をともに主要被写体とする1つの編集映像を生成しても良いし、第1被写体および第2被写体をそれぞれ主要被写体とする2つの編集映像を生成しても良い。編集映像生成部112によって第1被写体および第2被写体をそれぞれ主要被写体とする2つの編集映像が生成されたとき、映像再生部114が第1被写体を主要被写体とする編集映像を再生して表示装置140に表示するとともに、編集映像生成部112が第2被写体を主要被写体とする編集映像を記憶装置115に保存することとしても良い。
【0042】
(6)上述した
図6のステップS650において編集映像が生成された際に、編集映像を構成するフレーム画像における各被写体の出現頻度や、各フレーム画像の中央から各被写体位置までの距離を計測しても良い。主要被写体の出現頻度が他の被写体の出現頻度よりも少ない場合や、各フレーム画像の中央から主要被写体の位置までの距離が他の被写体の位置までの距離よりも大きい場合、クロップ処理部320によってクロップ処理される画像領域の位置および大きさや、編集映像を構成するフレーム画像数を変更しても良い。
【0043】
(7)上述した
図6のステップS650において編集映像が生成された際に、編集映像において各被写体が発話している期間や、各被写体が正面を向いている期間を計測しても良い。主要被写体の発話期間が他の被写体の発話期間よりも短い場合や、主要被写体の正面を向いている期間が他の被写体の正面を向いている期間よりも短い場合、編集映像を構成するフレーム画像数を変更しても良い。
【0044】
(8)上述したクロップ処理部320によってクロップフレーム画像が生成される際、主要被写体の横顔を含むクロップフレーム画像においては、見やすさのため、主要被写体の顔が向いている方向とは反対寄りに主要被写体を配置するようにしても良い。
図7は、主要被写体の横顔を含むクロップフレーム画像700の一例を示す図である。クロップフレーム画像700には、主要被写体である参加者520「太郎」と他の被写体である参加者530「ヒロシ」とが含まれている。主要被写体である参加者520「太郎」は、クロップフレーム画像700に向かって左を向いているため、クロップフレーム画像700の中央よりも右寄りに配置されている。すなわち、クロップフレーム画像700において、主要被写体である参加者520「太郎」の位置からクロップフレーム画像700の左端までの距離d_1は、クロップフレーム画像700の右端までの距離d_2よりも長い。距離d_1とd_2との比は、例えば2:1である。
【0045】
(9)上述した映像解析部111には、同じイベントを撮影した2台のビデオカメラ120から2つの映像ファイルF1およびF2がそれぞれ入力されるものとして説明した。しかし、2つの映像ファイルF1およびF2がそれぞれ前半と後半とで分割されたことにより、4つの映像ファイルが映像解析部111に入力されても良い。
【0046】
(10)上述した編集映像生成部112は、生成した編集映像の編集映像データを記憶装置115に保存するものとして説明した。しかし、編集映像生成部112は、
図6の映像編集処理フローを通じて、検索したシナリオファイルおよび編集対象映像ファイルに関する情報と、クロップ処理される単位フレーム画像ならびにクロップ処理される画像領域の位置および大きさに関する情報と、リサイズ処理されるクロップフレーム画像およびリサイズフレーム画像の大きさに関する情報と、映像編集用シナリオに規定される各場面を構成するフレーム画像とに関する情報とを含む編集データを生成し、編集データを記憶装置115に保存しても良い。映像再生部114が編集映像を再生する際、編集映像生成部112は編集データに基づいて
図6の映像編集処理フローを素早く実行し、編集映像データを映像再生部114へ引き渡すことができる。
【0047】
(11)上述した映像解析部11は、映像ファイルF1およびF2を解析して、イベントの参加者である「花子」、「太郎」、「ヒロシ」、「よしこ」、および「観客」といった被写体の各々について、映像ファイルF1およびF2を構成する単位フレーム画像毎における各被写体の出現の有無についての記録データを生成する。記録データに、単位フレーム画像に含まれる複数の被写体のリストのリストデータを含めることとしても良い。主要被写体設定部113は、そのリストを表示装置140に表示し、ユーザはそのリストに基づいて主要被写体を決定し、主要被写体設定部113はその主要被写体を設定することができる。
【0048】
(12)上述した映像編集装置110は、パーソナルコンピュータであっても良いし、映像編集専用の装置であっても良い。映像編集装置と、編集映像を表示するテレビ画面表示装置とを有するテレビジョン受像機の映像編集装置に、上述した映像編集装置110を適用しても良い。このように構成すれば、放送局によって送信される放送映像に対して上述の編集処理が施される。これにより、放送の視聴者が好む被写体を主要被写体とした映像が自動的に生成されるため、視聴者は自分自身の好みに応じたコンテンツを視聴することが可能となる。