(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024171096
(43)【公開日】2024-12-11
(54)【発明の名称】編集画面出力プログラム及び編集画面出力方法
(51)【国際特許分類】
H04N 5/91 20060101AFI20241204BHJP
H04N 21/8549 20110101ALI20241204BHJP
【FI】
H04N5/91
H04N21/8549
【審査請求】未請求
【請求項の数】10
【出願形態】OL
(21)【出願番号】P 2023087979
(22)【出願日】2023-05-29
(71)【出願人】
【識別番号】598057291
【氏名又は名称】エフサステクノロジーズ株式会社
(74)【代理人】
【識別番号】110004370
【氏名又は名称】弁理士法人片山特許事務所
(72)【発明者】
【氏名】久徳 晃史
(72)【発明者】
【氏名】大越 雄一
(72)【発明者】
【氏名】佐久間 俊平
(72)【発明者】
【氏名】桂 大地
(72)【発明者】
【氏名】石川 智啓
(72)【発明者】
【氏名】鈴木 由喜
【テーマコード(参考)】
5C164
【Fターム(参考)】
5C164FA29
5C164MA02S
5C164MC03P
(57)【要約】
【課題】ハイライト映像の編集作業の簡素化を図る。
【解決手段】映像から一部を切り抜いたハイライト映像の長さを編集する画面を出力する編集画面出力プログラムであって、前記ハイライト映像の長さに基づいて、前記ハイライト映像の時間幅全体を表示可能で、前記ハイライト映像以外の時間が所定範囲内である表示領域の時間幅を決定し、前記表示領域の中央部分に前記ハイライト映像の時間幅を表示した画面を生成し、出力する、処理をコンピュータに実行させる編集画面出力プログラムである。
【選択図】
図7
【特許請求の範囲】
【請求項1】
映像から一部を切り抜いたハイライト映像の長さを編集する画面を出力する編集画面出力プログラムであって、
前記ハイライト映像の長さに基づいて、前記ハイライト映像の時間幅全体を表示可能で、前記ハイライト映像以外の時間が所定範囲内である表示領域の時間幅を決定し、
前記表示領域の中央部分に前記ハイライト映像の時間幅を表示した画面を生成し、出力する、
処理をコンピュータに実行させることを特徴とする編集画面出力プログラム。
【請求項2】
前記表示領域の時間幅を決定する処理において、
前記表示領域を区切る目盛の数を特定し、
前記ハイライト映像の長さに基づいて、前記目盛の間の時間間隔を特定し、
特定した前記目盛の数と前記目盛の間の時間間隔に基づいて前記表示領域の時間幅を決定する、
ことを特徴とする請求項1に記載の編集画面出力プログラム。
【請求項3】
前記画面を生成する際に、前記表示領域に前記目盛を表示する、ことを特徴とする請求項2に記載の編集画面出力プログラム。
【請求項4】
前記表示領域の時間幅を決定する処理において、前記ハイライト映像の長さと、予め定められた前記ハイライト映像の編集量に関する指標値と、に基づいて、前記ハイライト映像以外の時間を特定する、ことを特徴とする請求項1に記載の編集画面出力プログラム。
【請求項5】
前記ハイライト映像の長さに基づいて、前記表示領域を区切る目盛の間の時間間隔を特定し、
前記画面を生成する際に、特定した前記時間間隔で前記表示領域に目盛を配置する、ことを特徴とする請求項4に記載の編集画面出力プログラム。
【請求項6】
前記画面において前記目盛の間の時間幅が指定された場合に、指定された前記時間幅で前記目盛を設定して、前記画面を更新する、
処理を前記コンピュータに実行させることを特徴とする請求項2、3及び5のいずれか一項に記載の編集画面出力プログラム。
【請求項7】
前記画面において前記ハイライト映像の長さが編集された場合に、編集後の前記ハイライト映像の長さに基づいて、前記画面を更新する、
処理を前記コンピュータに実行させることを特徴とする請求項1に記載の編集画面出力プログラム。
【請求項8】
前記画面には、サムネイル画像選択領域が設けられており、
前記ハイライト映像から抽出した複数の候補画像にスコアを付与し、
前記スコアに基づいて前記複数の候補画像の中から所定数の画像を選択し、
選択された前記画像を前記サムネイル画像選択領域に表示する、
処理を前記コンピュータに実行させることを特徴とする請求項1に記載の編集画面出力プログラム。
【請求項9】
前記所定数の画像を選択する処理は、
前記候補画像の中から前記スコアが最も大きい画像を選択し、
前記候補画像のうち、選択した前記画像との類似度が所定未満で、前記スコアが最も大きい画像を選択する、処理を含むことを特徴とする請求項8に記載の編集画面出力プログラム。
【請求項10】
映像から一部を切り抜いたハイライト映像の長さを編集する画面を出力する編集画面出力方法であって、
前記ハイライト映像の長さに基づいて、前記ハイライト映像の時間幅全体を表示可能で、前記ハイライト映像以外の時間が所定範囲内である表示領域の時間幅を決定し、
前記表示領域の中央部分に前記ハイライト映像の時間幅を表示した画面を生成し、出力する、
処理をコンピュータが実行することを特徴とする編集画面出力方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、編集画面出力プログラム及び編集画面出力方法に関する。
【背景技術】
【0002】
従来、スポーツイベントなどの映像や、動画投稿サイトなどにアップロードされた映像などの一部を切り抜いたハイライト映像を自動で生成する技術が知られている(例えば、特許文献1、2等)。
【0003】
しかしながら、映像からハイライト映像を自動で抽出する場合、不要なシーンが含まれたり、必要なシーンが含まれていない場合があり、品質の低い映像になるおそれがある。したがって、自動で抽出したハイライト映像を人手で修正(編集)する作業が必要になる場合がある。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2012-147296号公報
【特許文献2】特開2022-40665号公報
【特許文献3】特開2020-61729号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
ハイライト映像を編集する作業には、ハイライト映像の両端の位置(時刻)を調整する作業が含まれる。このような調整作業を行う場合には、ハイライト映像の時間幅を編集作業領域に表示する必要があるが、作業を簡素化するためには、編集作業領域の適切な位置に、適切な大きさでハイライト映像の時間幅を表示することが好ましい。
【0006】
1つの側面では、本発明は、ハイライト映像の編集作業の簡素化を図ることが可能な編集画面出力プログラム及び編集画面出力方法を提供することを目的とする。
【課題を解決するための手段】
【0007】
一つの態様では、編集画面出力プログラムは、映像から一部を切り抜いたハイライト映像の長さを編集する画面を出力する編集画面出力プログラムであって、前記ハイライト映像の長さに基づいて、前記ハイライト映像の時間幅全体を表示可能で、前記ハイライト映像以外の時間が所定範囲内である表示領域の時間幅を決定し、前記表示領域の中央部分に前記ハイライト映像の時間幅を表示した画面を生成し、出力する、処理をコンピュータに実行させる編集画面出力プログラムである。
【発明の効果】
【0008】
ハイライト映像の編集作業の簡素化を図ることができる。
【図面の簡単な説明】
【0009】
【
図1】第1の実施形態に係るハイライト映像生成装置の構成を概略的に示す図である。
【
図2】ハイライト映像生成装置の機能ブロック図である。
【
図3】ハイライト映像DBのデータ構造の一例を示す図である。
【
図4】ハイライト映像自動抽出処理を示すフローチャートである。
【
図5】ハイライト映像編集支援処理を示すフローチャートである。
【
図6】
図5のステップS32の詳細処理を示すフローチャートである。
【
図9】
図9(a)は、
図7(b)の編集作業領域においてハイライト映像を編集した後の状態を示す図であり、
図9(b)は、
図9(a)の状態で再読込ボタンを押し、編集作業領域が更新された状態を示す図である。
【
図11】サムネイル候補画像を特定する処理(
図5のステップS48)について説明するための図である。
【
図12】
図12(a)は、比較例1を示す図であり、
図12(b)は、比較例2を示す図である。
【
図13】
図13(a)~
図13(c)は、第2の実施形態について説明するための図(その1)である。
【
図14】
図14(a)、
図14(b)は、第2の実施形態について説明するための図(その2)である。
【
図16】変形例に係る情報処理システムの概略構成を示す図である。
【発明を実施するための形態】
【0010】
《第1の実施形態》
以下、第1の実施形態について、
図1~
図11に基づいて詳細に説明する。
【0011】
図1には、第1の実施形態に係るハイライト映像生成装置10のハードウェア構成が示されている。本第1の実施形態のハイライト映像生成装置10は、スポーツイベントなどの映像や、配信映像などの各種映像の一部を切り抜いたハイライト映像を生成・編集する装置である。ハイライト映像生成装置10は、例えばPC(Personal Computer)などの情報処理装置であり、
図1に示すように、CPU(Central Processing Unit)190、ROM(Read Only Memory)192、RAM(Random Access Memory)194、ストレージ(ここではHDD(Hard Disk Drive)やSSD(Solid State Drive))196、ネットワークインタフェース197、表示部193、入力部195、及び可搬型記憶媒体用ドライブ199等を備えている。これらハイライト映像生成装置10の構成各部は、バス198に接続されている。表示部193は、液晶ディスプレイや有機ELディスプレイ等であり、入力部195は、キーボードやマウス、タッチパネル等である。ハイライト映像生成装置10においては、ROM192やストレージ196に格納されているプログラム(編集画面出力プログラムを含む)、或いは可搬型記憶媒体用ドライブ199が可搬型記憶媒体191から読み取ったプログラムをCPU190が実行することにより、
図2に示す、各部の機能が実現される。なお、
図2の各部の機能は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。
【0012】
図2には、ハイライト映像生成装置10の機能ブロック図が示されている。
図2に示すように、ハイライト映像生成装置10は、映像取得部20、ハイライト映像抽出部22、及び編集処理部24、を有する。
【0013】
映像取得部20は、カメラで撮影された映像や、ネットワークインタフェース197を介して取得した映像を取得して、映像データベース(DB)30に格納する。映像DB30に格納される映像は、ハイライト映像を切り出す元となる映像である。各映像は、映像の識別情報である映像IDと紐づけて映像DB30に格納される。
【0014】
ハイライト映像抽出部22は、映像DB30に格納された映像からハイライト映像を抽出し、抽出したハイライト映像の情報をハイライト映像DB32に格納する。
【0015】
編集処理部24は、ユーザからハイライト映像の編集要求が入力された場合に、ハイライト映像を編集する画面(
図8に示すような編集画面)を生成し、表示部193上に表示する。また、編集処理部24は、編集画面においてユーザが操作した情報を取得し、編集画面を更新したり、編集後のハイライト映像の情報でハイライト映像DB32を更新したりする。
【0016】
ここで、ハイライト映像DB32は、
図3に示すようなデータ構造を有する。具体的には、ハイライト映像DB32には、「映像ID」と、「シーンNo.」と、「開始時刻」と、「終了時刻」と、「映像時間」と、「映像データ」と、「サムネイル画像」とを格納することができる。「映像ID」の欄には、映像(ハイライト映像を切り出した元の映像)の識別情報が格納され、「シーンNo.」の欄には、ハイライト映像の識別番号が格納される。「開始時刻」及び「終了時刻」の欄には、元の映像のどこからどこまでを切り出したかを示すタイムスタンプが格納される。「映像時間」の欄には、終了時刻と開始時刻の差を示す時間の情報が格納される。「映像データ」の欄には、編集されたハイライト映像のファイルが格納され、「サムネイル画像」の欄には、ユーザが選択したサムネイル画像そのもの(画像ファイル)が格納される。
【0017】
(ハイライト映像生成装置10の処理について)
以下、ハイライト映像生成装置10の処理について、
図4~
図6のフローチャートに沿って、その他図面を適宜参照しつつ詳細に説明する。本第1の実施形態においては、ハイライト映像生成装置10は、
図4のハイライト映像自動抽出処理と、
図5のハイライト映像編集支援処理を実行する。なお、
図6は、
図5のステップS32の詳細処理を示すフローチャートである。
【0018】
(ハイライト映像自動抽出処理)
以下、ハイライト映像自動抽出処理について、
図4のフローチャートに沿って説明する。
【0019】
図4の処理が開始されると、まず、ステップS10において、映像取得部20は、映像が入力されるまで待機する。カメラ等から映像が入力されると、ステップS12に移行し、映像取得部20は、入力された映像を取得し、映像DB30に格納する。
【0020】
次いで、ステップS14において、ハイライト映像抽出部22は、映像DB30に格納された映像からハイライト映像を抽出する。このハイライト映像の抽出方法としては、様々な方法を採用することができる。例えば、ハイライト映像の抽出方法としては、公知の方法(特開2012-147296号公報や、特開2022-40665号公報などに開示されている方法)を採用することができる。
【0021】
次いで、ステップS16において、ハイライト映像抽出部22は、抽出したハイライト映像の情報をハイライト映像DB32に格納する。具体的には、ハイライト映像抽出部22は、ハイライト映像の元になった映像の映像IDと、シーンNo.を格納する。また、ハイライト映像抽出部22は、ハイライト映像の開始時刻及び終了時刻、並びに映像時間を特定し、ハイライト映像DB32に格納する。
【0022】
【0023】
(ハイライト映像編集支援処理)
次に、ハイライト映像編集支援処理について、
図5、
図6のフローチャートに沿って説明する。
【0024】
図5の処理が開始されると、まず、ステップS30において、編集処理部24は、編集画面表示要求が入力されるまで待機する。ユーザが入力部195を介して映像IDとシーンNo.を選択して、編集画面表示要求を入力すると、編集処理部24は、ステップS32に移行し、編集画面生成処理のサブルーチン(
図6)を実行する。なお、本第1の実施形態においては、
図6の処理により、
図8に示すような編集画面を生成する。このとき、編集処理部24は、
図8のハイライト映像範囲編集領域A2の表示を工夫することで、ユーザによるハイライト映像の編集作業を行いやすくしている。
【0025】
図6の処理が開始されると、まずステップS70において、編集処理部24は、ハイライト映像DB32から、選択されたハイライト映像の開始時刻、終了時刻、映像時間を取得する。例えば、
図3に示すハイライト映像(映像ID=0001、シーンNo.=001)の場合、編集処理部24は、開始時刻=「00:00:46」、終了時刻=「00:01:15」、映像時間=「29秒」を取得する。
【0026】
次いで、ステップS72において、編集処理部24は、映像時間から編集幅を決定する。
【0027】
本実施形態においては、まず、編集処理部24は、ハイライト映像の長さ(映像時間)を2で割ったときの値を求め、その値に最も近い5の倍数秒を編集幅と決定する。例えば、映像時間が「29秒」の場合、29/2=14.5であるので、編集幅は、14.5秒に最も近い5の倍数秒である「15秒」となる。なお、この編集幅「15秒」は、編集誤差(ハイライト映像の時間幅の先頭及び末尾を編集する量)が映像時間の25%(7.5秒)であることが多いと仮定した場合に、ハイライト映像の前後に確保しておくべき適切な(所定範囲内の)余白の時間幅を意味する。なお、所定範囲とは、編集誤差に基づく余白の時間幅として適切な範囲であると言える。なお、所定範囲は、ユーザ等が予め定めてもよく、編集処理部24は、余白の時間幅(編集幅)を所定範囲内になるように上記とは異なる方法で決定してもよい。
【0028】
次いで、ステップS74において、編集処理部24は、編集幅と映像時間から編集作業領域の時間幅を決定する。ここで、編集作業領域とは、ハイライト映像の時間幅を表示する領域(表示領域)を意味する(
図7(b)参照)。本実施形態では、
図7(a)に示すように、編集作業領域を目盛で4等分に区切ることとしており、目盛と目盛の間の4つの間隔を編集幅(15秒)とする。すなわち、編集処理部24は、編集幅(=15秒)の4倍の時間(15×4=60秒)を編集作業領域の時間幅として決定する。
【0029】
次いで、ステップS76において、編集処理部24は、編集作業領域の中央部分にハイライト映像の時間幅を配置し、当該編集作業領域を含む編集画面を生成して、出力する。なお、「編集作業領域の中央部分にハイライト映像の時間幅を配置する」とは、編集作業領域の中央又は略中央にハイライト映像の時間幅を配置することを意味する。また、略中央とは、中央から若干ずれた位置を意味する。なお、ハイライト映像の時間幅が略中央に配置されるのは、後述するようにハイライト映像の中央の時刻をハイライト映像の末尾の時刻と先頭の時刻から算出する際に正確な時刻を算出できない場合である。
【0030】
例えば、ハイライト映像が00:00:46~00:01:15である場合、その中央の時刻は、「00:01:00」である(実際には、「00:01:00」と「00:01:01」の間の時刻であるが、「00:01:00」としている)。したがって、編集処理部24は、
図7(b)に示すように「00:01:00」を中央に設定した時間幅=60秒の領域を編集作業領域とする。また、編集処理部24は、「00:01:00」を基準として、編集作業領域に編集幅(=15秒)間隔の目盛を表示する。そして、編集処理部24は、
図7(b)に示すように、編集作業領域の中央部分にハイライト映像の時間幅を表示する。本第1の実施形態においては、
図7(b)のようにハイライト映像の時間幅全体を編集作業領域の中央部分に表示でき、かつ、前後の余白として編集幅分が確保された状態となっている。
【0031】
更に、編集処理部24は、
図8に示すような編集画面に、
図7(b)の編集作業領域を組み込み、表示部193上に出力(表示)する。
【0032】
ここで、編集画面には、ハイライト映像再生領域A1、ハイライト映像範囲編集領域A2、サムネイル候補表示領域A3が設けられている。
【0033】
ハイライト映像再生領域A1は、ハイライト映像範囲編集領域A2に表示されている時間幅のハイライト映像を再生して、ユーザがハイライト映像の内容を確認するための領域である。ハイライト映像再生領域A1には、再生ボタン61や、再生位置を表示する再生バー(シークバー)62が設けられている。
【0034】
ハイライト映像範囲編集領域A2には、ハイライト映像の時間幅を表示する編集作業領域が設けられている。ユーザは、ハイライト映像の時間幅の先頭または末尾をマウス等により操作(ドラッグ)することで、ハイライト映像の時間幅を編集することができるようになっている。ハイライト映像範囲編集領域A2には、目盛間の時間幅を指定するための目盛指定欄63と、再読込ボタン64と、OKボタン65が設けられている。ユーザは、目盛指定欄63において時間幅を指定することで、目盛間の時間幅を調整することができるようになっている。また、ユーザは、再読込ボタン64を押すことで、時間幅を編集した後のハイライト映像に基づいて、編集作業領域の表示を更新することができる。また、ユーザは、OKボタン65を押すことで、ハイライト映像の編集を終了することができる。
【0035】
サムネイル候補表示領域A3は、ハイライト映像から抽出したサムネイル候補画像を表示する領域である。ユーザは、サムネイル候補画像の中から1つの画像を選択することで、選択した画像をハイライト映像のサムネイルとすることができる。なお、ステップS76が行われた段階では、サムネイル候補表示領域A3には、サムネイル候補画像は表示されていないものとする。
【0036】
以上のように、
図6の全処理が行われた後は、
図5のステップS34に移行する。
【0037】
ステップS34に移行すると、編集処理部24は、
図8の編集画面において、再読込ボタンが押されたか否かを判断する。ユーザが再読込ボタン64を押した場合、ステップS34の判断が肯定され、ステップS32に戻る。ステップS32に戻ると、編集処理部24は、編集画面(
図8)のハイライト映像範囲編集領域A2に表示されているハイライト映像の時間幅に基づいて、編集作業領域を更新する。
【0038】
例えば、
図7(b)の状態から、
図9(a)に示すようにハイライト映像の時間幅が00:00:30~00:01:30に編集された状態で、再読込ボタンが押されたとする。この場合、
図6のステップS72において、編集処理部24は、映像時間=1分から編集幅を60秒/2=30秒と決定する。また、ステップS74において、編集処理部24は、編集幅=30秒の4倍の時間(30×4=120秒)を編集作業領域の時間幅として決定する。そして、ステップS76において、編集処理部24は、編集作業領域の中央部分にハイライト映像を配置する。この結果、編集作業領域は、
図9(b)に示すように更新される。この場合にも、
図9(b)のようにハイライト映像の時間幅全体を編集作業領域の中央部分に表示でき、かつ、前後の余白として編集幅分が確保された状態となっている。
【0039】
一方、ユーザによって再読込ボタン64が押されておらず、ステップS34の判断が否定された場合には、ステップS36に移行する。ステップS36に移行すると、編集処理部24は、目盛の変更があったか否かを判断する。ユーザが目盛指定欄63において時間幅を指定(変更)した場合、ステップS36の判断が肯定され、ステップS38に移行する。
【0040】
ステップS38に移行すると、編集処理部24は、変更後の目盛で編集作業領域を更新する。例えば、
図8の状態から、ユーザが目盛指定欄63において時間幅を15秒から10秒に変更したとする。この場合、編集処理部24は、編集作業領域を
図10(a)に示すように更新する。
図10(a)の編集作業領域においては、目盛間の時間幅が10秒になっている。また、
図8の状態から、ユーザが目盛指定欄63において時間幅を15秒から20秒に変更したとする。この場合、編集処理部24は、編集作業領域を
図10(b)に示すように更新する。上記のようにステップS38の処理が行われた後は、ステップS40に移行する。なお、ステップS36の判断が否定された場合には、ステップS38を経ずにステップS40に移行する。
【0041】
ステップS40に移行すると、編集処理部24は、再生ボタン61が押されたか否かを判断する。このステップS40の判断が否定された場合(再生ボタン61が押されていない場合)には、ステップS44に移行する。一方、ステップS40の判断が肯定された場合には、ステップS42に移行し、編集処理部24は、ハイライト映像を再生する。このとき、編集処理部24は、ハイライト映像範囲編集領域A2に表示されている時間幅のハイライト映像を映像DB30から取得して、ハイライト映像再生領域A1において再生する。ステップS42の後は、ステップS44に移行する。
【0042】
ステップS44に移行すると、編集処理部24は、OKボタン65が押されたか否かを判断する。このステップS44の判断が否定された場合(OKボタン65が押されていない場合)には、ステップS34に戻る。その後は、ステップS34以降の処理が繰り返し実行される。一方、ユーザがOKボタン65を押した場合、ステップS44の判断が肯定され、ステップS46に移行する。ステップS46に移行すると、編集処理部24は、OKボタン65を押した段階におけるハイライト映像に関する情報(編集後のハイライト映像に関する情報)をハイライト映像DB32に格納する。すなわち、編集処理部24は、ハイライト映像DB32に、編集後のハイライト映像の開始時刻、終了時刻、映像時間を格納(新たな情報で更新)するとともに、編集後のハイライト映像のファイルそのものを格納する。
【0043】
次いで、ステップS48において、編集処理部24は、サムネイル候補画像を特定し、表示する。具体的には、編集処理部24は、編集後のハイライト映像に含まれる複数のフレームの中から、所定枚数の画像をランダムに抽出する。例えば、
図11に示すように、所定時間間隔で撮影された10枚のフレーム(画像A~J)が抽出されたとする。また、編集処理部24は、抽出した10枚の画像にスコアを付与する。この場合、例えば、編集処理部24は、事前にユーザが登録した画像(サムネイル画像にしたい画像例)に基づいて、当該画像例に類似する画像ほどスコアが高くなるように、抽出した画像にスコアを付与する。なお、スコアを付与する際には、機械学習等を利用することができる。
図11の例では、スコアが10段階(1~10)で付与されたものとする。この結果、最もスコアが高かった画像(A)をサムネイル候補画像(第1位)として特定する。
【0044】
また、編集処理部24は、サムネイル候補画像(第1位)の画像Aと、その他の画像B~Jとの類似度を求める。
図11の例では、類似度を1~100の値で表している。本例では、100に近いほど類似することを意味するものとする。編集処理部24は、画像Aとの類似度がさほど高くない(例えば90%以下の)画像を画像B~Jから抽出し、そのうちで最もスコアが高い画像(
図11では画像E)をサムネイル候補画像(第2位)として特定する。その後は、サムネイル候補画像A、Eと、その他の画像との類似度を求め、類似度がさほど高くない(例えば90%以下の)画像のうちで最もスコアが高い画像をサムネイル候補画像(第3位)として特定する。以下、同様にして、編集処理部24は、必要な数だけサムネイル候補画像を特定する。そして、特定した候補画像を、編集画面(
図8)のサムネイル候補表示領域A3に表示する。
【0045】
次いで、ステップS50において、編集処理部24は、ユーザによってサムネイル候補画像の1つが選択されるまで待機する。ユーザがサムネイル画像を選択すると、ステップS52に移行し、編集処理部24は、選択されたサムネイル画像をハイライト映像DB32に格納する。
【0046】
【0047】
なお、ハイライト映像DB32に格納されたハイライト映像は、ユーザが動画配信サイト等にアップロードすることで、視聴者が閲覧できるようになる。このとき、サムネイル画像として、ステップS50で選択された画像を利用できるようになっている。
【0048】
以上、詳細に説明したように、本実施形態によると、編集処理部24は、ハイライト映像の長さ(映像時間)に基づいて、ハイライト映像の時間幅全体を表示でき、余白の時間を所定範囲内(適切な時間)にできる編集作業領域の時間幅を決定する(S74)。また、編集処理部24は、編集作業領域の中央部分にハイライト映像の時間幅を表示した画面を生成し、出力する(S76)。これにより、編集作業領域にハイライト画像の時間幅が適切に配置されるため、ユーザがハイライト画像の長さを編集する際に、ハイライト画像の先頭や末尾の位置を調整しやすくすることができる。
図12(a)には、
図7(b)の比較例1として、ハイライト映像の時間幅が29秒(00:00:46~00:01:15)であるのに対し、目盛間の時間幅を3分、編集作業領域の時間幅を12分とした例が示されている。また、
図12(b)には、
図7(b)の比較例2として、ハイライト映像の時間幅が29秒(00:00:46~00:01:15)であるのに対し、目盛間の時間幅を5秒、編集作業領域の時間幅を20秒とした例が示されている。
図12(a)の比較例1では、ハイライト映像の両端を認識できる一方、ハイライト映像の細かな編集(時間調整)ができない。また、
図12(b)の比較例2では、ハイライト映像の両端を認識できないため、ハイライト映像の先頭及び末尾の時間調整ができない。これら比較例1,2からもわかるように、本実施形態では、ハイライト映像の時間幅を編集作業領域内の適切な位置に配置できているため、ユーザはハイライト映像の編集がしやすくなる。また、ハイライト画像の長さを編集しやすくすることで撮影後(イベント等が行われた後)、ハイライト映像を視聴者に提供するまでの時間を短縮することが可能となる。
【0049】
また、本実施形態によると、編集処理部24は、編集作業領域に予め定められている目盛の数(隣接する目盛間の間隔の数=4)と、ハイライト映像の長さに基づいて特定される目盛間の時間間隔(編集幅)と、から編集作業領域の時間幅を決定する。これにより、編集作業領域の時間幅を適切な値に決定することができる。また、本実施形態では、編集作業領域に目盛を表示するため、ハイライト映像の編集がしやすくなる。
【0050】
また、本実施形態では、編集処理部24は、目盛指定欄63において目盛の変更があった場合に、編集作業領域及び編集画面を更新する(
図10(a)、
図10(b)のように更新する)。これにより、ユーザの要求に合わせて目盛の幅を調整することができる。
【0051】
また、本実施形態では、再読込ボタン64が押された場合に、編集後のハイライト映像の長さに基づいて、編集作業領域を更新する(
図9(b))。これにより編集後のハイライト映像を更に編集する場合の使い勝手を向上することができる。
【0052】
また、本実施形態では、編集処理部24は、ハイライト映像から抽出した複数の画像にスコアを付与し、スコアに基づいてサムネイル候補表示領域A3に表示するサムネイル候補画像を特定する(
図11参照)。これにより、ユーザに対して、サムネイル候補画像として適切な画像を提供することができる。
【0053】
また、本実施形態では、既に候補画像として選択された画像とは然程似ていない画像(類似度が90以下の画像)をサムネイル候補画像として選択する。これにより、サムネイル候補画像同士が類似していてユーザがサムネイル画像を選択しにくいという事態が発生するのを極力抑制することができる。すなわち、サムネイル候補画像として適切な画像をユーザに提供することができる。
【0054】
《第2の実施形態》
次に、第2の実施形態について、
図13(a)、
図13(b)に基づいて説明する。上記第1の実施形態では、編集作業領域に設けられる目盛の数が5で固定されている場合について説明したが、本第2の実施形態では、ユーザが予め指定した編集誤差の値によって、編集作業領域に設けられる目盛の数が変動する。
【0055】
本第2の実施形態では、編集誤差が25%の場合を基準として、編集誤差が25%の場合に、編集作業領域に設けられる目盛の数を「4」とする(
図13(a)参照)。
【0056】
また、例えば編集誤差が30%に設定された場合には、(30%/25%)×4=4.8という計算式から得られる値4.8よりも大きい整数である「5」を目盛の数とする(
図13(b)参照)。
【0057】
また、例えば、編集誤差が40%に設定された場合には、(40%/25%)×4=6.4という計算式から得られる値6.4よりも大きい整数である「7」を目盛の数とする(
図13(c)参照)。
【0058】
図13(a)は、編集誤差が25%であり、目盛の数が4である場合において、ハイライト映像の時間幅(00:00:45~00:01:15)を表示する編集作業領域を示す図である。
図13(a)の例では、ハイライト映像の映像時間は30秒であるので、目盛間の時間幅は30/2=15秒となる。また、編集作業領域の時間幅(目盛1~4の間の時間幅)は、15×3=45秒となる。そして、編集作業領域の中央部分にハイライト映像の時間幅が表示されるようになっている。
【0059】
図13(b)は、編集誤差が30%であり、目盛の数が5である場合において、ハイライト映像の時間幅(00:00:45~00:01:15)を表示するための編集作業領域を示す図である。
図13(b)の例では、ハイライト映像の映像時間は30秒であるので、目盛間の時間幅は30/2=15秒となる。また、編集作業領域の時間幅(目盛1~5の間の時間幅)は、15×4=60秒となる。そして、編集作業領域の中央部分にハイライト映像の時間幅が表示されるようになっている。
【0060】
図13(c)は、編集誤差が40%であり、目盛の数が7である場合において、ハイライト映像の時間幅(00:00:45~00:01:15)を表示するための編集作業領域を示す図である。
図13(c)の例では、ハイライト映像の映像時間は30秒であるので、目盛間の時間幅は30/2=15秒となる。また、編集作業領域の時間幅(目盛1~7の間の時間幅)は、15×6=90秒となる。そして、編集作業領域の中央部分にハイライト映像の時間幅が表示されるようになっている。
【0061】
図14(a)、
図14(b)には、
図13(a)~
図13(c)とは異なる例(別の例)が示されている。
図14(a)は、編集誤差が25%であり、目盛の数が4である場合を基準として、編集誤差が35%に設定された場合を示す図である。この場合、(35%/25%)×4=5.6という計算式から得られる値5.6よりも大きい整数である「6」を目盛の数としている。このとき、ハイライト映像の時間幅(00:00:32~00:00:44)を編集作業領域に表示する場合、ハイライト映像の映像時間は12秒であるので、目盛間の時間幅は12/2=6の計算式から得られる値6に最も近い5の倍数である「5秒」となる。また、編集作業領域の時間幅(目盛1~6の間の時間幅)は、5×5=25秒となる。そして、編集作業領域の中央部分にハイライト映像の時間幅が表示されるようになっている。
【0062】
また、
図14(b)は、編集誤差が25%であり、目盛の数が4である場合を基準として、編集誤差が50%に設定された場合を示す図である。この場合、(50%/25%)×4=8という計算式から得られる値「8」を目盛の数としている。このとき、ハイライト映像の時間幅(00:00:32~00:00:44)を編集作業領域に表示する場合、ハイライト映像の映像時間は12秒であるので、目盛間の時間幅は12/2=6の計算式から得られる値6に最も近い5の倍数である「5秒」となる。また、編集作業領域の時間幅(目盛1~8の間の時間幅)は、5×7=35秒となる。そして、編集作業領域の中央部分にハイライト映像の時間幅が表示されるようになっている。
【0063】
以上、説明したように、本第2の実施形態によると、ユーザが予め設定した編集誤差に基づいて、目盛の数を設定し、設定後の目盛の数に基づいて、編集作業領域の時間幅を決定する。これにより、ユーザが設定した編集誤差に応じて、編集作業領域におけるハイライト映像の時間幅の表示を変更することができる。したがって、ユーザの使い勝手の向上を図ることができる。
【0064】
《第3の実施形態》
次に、第3実施形態について、
図15(a)、
図15(b)に基づいて詳細に説明する。
【0065】
本第3の実施形態では、ユーザが予め定めた編集誤差に基づいて、ハイライト映像の前側の余白の時間幅と、後側の余白の時間幅と、を求め、ハイライト映像の時間幅と前後の余白の時間幅の合計を編集作業領域の時間幅とする。
【0066】
例えば、編集誤差がa%の場合、前側の余白の時間幅Hfは、ハイライト映像の時間幅をHとすると、次式(1)から求める。
Hf=H×a%×2 …(1)
【0067】
同様に、後側の余白の時間幅Hbは、ハイライト映像の時間幅をHとすると、次式(2)から求める。
Hb=H×a%×2 …(2)
【0068】
この場合、編集作業領域の時間幅Hsは、次式(3)から求める。
Hs=H+Hf+Hb …(3)
【0069】
例えば、編集誤差が25%で、ハイライト映像が00:00:45~00:01:15の30秒間である場合、前後の時間幅Hf、Hbは、上式(1)、(2)より、15秒となる。したがって、編集作業領域の時間幅Hsは、上式(3)より、30+15+15=60秒となる。また、ハイライト映像の中央は、00:01:00となり、目盛間の時間幅(編集幅)は、30秒/2=15秒となる。したがって、編集作業領域は、
図15(a)に示すようになる。
【0070】
一方、編集誤差が30%の場合、前後の時間幅Hf、Hbは、上式(1)、(2)より、18秒となるため、編集作業領域の時間幅Hsは、上式(3)より、30+18+18=66秒となる。また、ハイライト映像の中央は、00:01:00となり、目盛間の時間幅は、30秒/2=15秒となる。したがって、編集作業領域は、
図15(b)に示すようになる。
【0071】
以上説明したように、本第3の実施形態によると、第2の実施形態と同様、ユーザが設定した編集誤差に応じて、編集作業領域の時間幅を変更する。これにより、ユーザの使い勝手の向上を図ることができる。
【0072】
なお、上記第1~第3の実施形態は、
図16に示すような、情報処理システム200において実現されてもよい。
図16の情報処理システム200は、サーバ210と、利用者端末270と、を備えており、サーバ210と利用者端末270は、インターネット等のネットワーク280に接続されている。この情報処理システム200において、サーバ210が
図2の機能を有し、
図4~
図6の処理を実行するようにしてもよい。この場合、サーバ210は、
図8に示すような編集画面を利用者端末270に提供するようにすればよい。
【0073】
なお、上記第1~第3の実施形態では、ハイライト映像抽出部22が映像DB30に格納された映像からハイライト映像を自動的に抽出する場合について説明したが、これに限られるものではない。ハイライト映像は、人の操作により抽出することとしてもよい。例えば、第1のユーザが抽出したハイライト映像を第2のユーザが抽出する際に、上記第1~第3の実施形態で説明した編集画面を用いるようにしてもよい。
【0074】
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、処理装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記憶媒体(ただし、搬送波は除く)に記録しておくことができる。
【0075】
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD(Digital Versatile Disc)、CD-ROM(Compact Disc Read Only Memory)などの可搬型記憶媒体の形態で販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【0076】
プログラムを実行するコンピュータは、例えば、可搬型記憶媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記憶媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【0077】
上述した実施形態は本発明の好適な実施の例である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変形実施可能である。
【0078】
なお、以上の第1~第3の実施形態の説明に関して、更に以下の付記を開示する。
(付記1) 映像から一部を切り抜いたハイライト映像の長さを編集する画面を出力する編集画面出力プログラムであって、
前記ハイライト映像の長さに基づいて、前記ハイライト映像の時間幅全体を表示可能で、前記ハイライト映像以外の時間が所定範囲内である表示領域の時間幅を決定し、
前記表示領域の中央部分に前記ハイライト映像の時間幅を表示した画面を生成し、出力する、
処理をコンピュータに実行させることを特徴とする編集画面出力プログラム。
(付記2) 前記表示領域の時間幅を決定する処理において、
前記表示領域を区切る目盛の数を特定し、
前記ハイライト映像の長さに基づいて、前記目盛の間の時間間隔を特定し、
特定した前記目盛の数と前記目盛の間の時間間隔に基づいて前記表示領域の時間幅を決定する、
ことを特徴とする付記1に記載の編集画面出力プログラム。
(付記3) 前記画面を生成する際に、前記表示領域に前記目盛を表示する、ことを特徴とする付記2に記載の編集画面出力プログラム。
(付記4) 前記表示領域の時間幅を決定する処理において、前記ハイライト映像の長さと、予め定められた前記ハイライト映像の編集量に関する指標値と、に基づいて、前記ハイライト映像以外の時間を特定する、ことを特徴とする付記1に記載の編集画面出力プログラム。
(付記5) 前記ハイライト映像の長さに基づいて、前記表示領域を区切る目盛の間の時間間隔を特定し、
前記画面を生成する際に、特定した前記時間間隔で前記表示領域に目盛を配置する、ことを特徴とする付記4に記載の編集画面出力プログラム。
(付記6) 前記画面において前記目盛の間の時間幅が指定された場合に、指定された前記時間幅で前記目盛を設定して、前記画面を更新する、
処理を前記コンピュータに実行させることを特徴とする付記2、3及び5のいずれかに記載の編集画面出力プログラム。
(付記7) 前記画面において前記ハイライト映像の長さが編集された場合に、編集後の前記ハイライト映像の長さに基づいて、前記画面を更新する、
処理を前記コンピュータに実行させることを特徴とする付記1~6のいずれかに記載の編集画面出力プログラム。
(付記8) 前記画面には、サムネイル画像選択領域が設けられており、
前記ハイライト映像から抽出した複数の候補画像にスコアを付与し、
前記スコアに基づいて前記複数の候補画像の中から所定数の画像を選択し、
選択された前記画像を前記サムネイル画像選択領域に表示する、
処理を前記コンピュータに実行させることを特徴とする付記1~7のいずれかに記載の編集画面出力プログラム。
(付記9) 前記所定数の画像を選択する処理は、
前記候補画像の中から前記スコアが最も大きい画像を選択し、
前記候補画像のうち、選択した前記画像との類似度が所定未満で、前記スコアが最も大きい画像を選択する、処理を含むことを特徴とする付記8に記載の編集画面出力プログラム。
(付記10) 映像から一部を切り抜いたハイライト映像の長さを編集する画面を出力する編集画面出力方法であって、
前記ハイライト映像の長さに基づいて、前記ハイライト映像の時間幅全体を表示可能で、前記ハイライト映像以外の時間が所定範囲内である表示領域の時間幅を決定し、
前記表示領域の中央部分に前記ハイライト映像の時間幅を表示した画面を生成し、出力する、
処理をコンピュータが実行することを特徴とする編集画面出力方法。
【符号の説明】
【0079】
10 ハイライト映像生成装置
20 映像取得部
22 ハイライト映像抽出部
24 編集処理部
30 映像DB
32 ハイライト映像DB
210 サーバ