特許第6295634号(P6295634)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 富士ゼロックス株式会社の特許一覧

<>
  • 特許6295634-情報処理システム及びプログラム 図000002
  • 特許6295634-情報処理システム及びプログラム 図000003
  • 特許6295634-情報処理システム及びプログラム 図000004
  • 特許6295634-情報処理システム及びプログラム 図000005
  • 特許6295634-情報処理システム及びプログラム 図000006
  • 特許6295634-情報処理システム及びプログラム 図000007
  • 特許6295634-情報処理システム及びプログラム 図000008
  • 特許6295634-情報処理システム及びプログラム 図000009
  • 特許6295634-情報処理システム及びプログラム 図000010
  • 特許6295634-情報処理システム及びプログラム 図000011
  • 特許6295634-情報処理システム及びプログラム 図000012
  • 特許6295634-情報処理システム及びプログラム 図000013
  • 特許6295634-情報処理システム及びプログラム 図000014
  • 特許6295634-情報処理システム及びプログラム 図000015
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】6295634
(24)【登録日】2018年3月2日
(45)【発行日】2018年3月20日
(54)【発明の名称】情報処理システム及びプログラム
(51)【国際特許分類】
   H04N 5/93 20060101AFI20180312BHJP
   H04N 5/91 20060101ALI20180312BHJP
   H04N 5/76 20060101ALI20180312BHJP
   G11B 20/10 20060101ALI20180312BHJP
   G11B 27/10 20060101ALI20180312BHJP
   G11B 27/00 20060101ALI20180312BHJP
【FI】
   H04N5/93
   H04N5/91
   H04N5/76
   G11B20/10 301A
   G11B27/10 A
   G11B27/00 D
【請求項の数】7
【全頁数】19
(21)【出願番号】特願2013-261220(P2013-261220)
(22)【出願日】2013年12月18日
(65)【公開番号】特開2015-119320(P2015-119320A)
(43)【公開日】2015年6月25日
【審査請求日】2016年10月19日
(73)【特許権者】
【識別番号】000005496
【氏名又は名称】富士ゼロックス株式会社
(74)【代理人】
【識別番号】110000154
【氏名又は名称】特許業務法人はるか国際特許事務所
(72)【発明者】
【氏名】新宮 淳
【審査官】 斎藤 眞
(56)【参考文献】
【文献】 特開2007−334704(JP,A)
【文献】 特開2007−142644(JP,A)
【文献】 特開2006−053696(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222−5/257
H04N 5/76−5/956
G11B 20/10−20/16
G11B 27/00−27/34
(57)【特許請求の範囲】
【請求項1】
それぞれ撮影時刻が記録された複数の撮影画像を含む動画データを取得する動画データ取得手段と、
ユーザの入力に基づく書込データを前記動画データの再生中に取得する書込データ取得手段と、
前記書込データと同期再生する前記動画データの再生位置の候補を、該書込データの書込時刻より前の撮影時刻を含み設定する設定手段と、
前記書込データについて前記設定手段により設定された再生位置の候補に基づいて決定した再生位置から前記動画データを再生させる手段と、を含む
情報処理システム。
【請求項2】
前記書込データに基づいて、該書込データの書込時刻からの巻き戻し時間を算出する算出手段をさらに含み、
前記設定手段は、前記書込データの書込時刻から該書込データについて前記算出手段により算出された巻き戻し時間を戻した第1の時刻から、該書込時刻以後の第2の時刻までの時間範囲から、前記動画データの再生位置の1以上の候補を設定する
請求項1に記載の情報処理システム。
【請求項3】
前記第1の時刻から前記第2の時刻までの時間範囲に撮影時刻が含まれる撮影画像の中から、撮影画像の画像特徴に基づいて1以上の撮影画像を選択する選択手段をさらに含み、
前記設定手段は、前記設定手段により選択された1以上の撮影画像のそれぞれの撮影時刻を前記再生位置の候補としてそれぞれ設定する
請求項2に記載の情報処理システム。
【請求項4】
前記算出手段は、前記書込データの書込開始時刻から書込終了時刻までの時間間隔、前記書込データに含まれるデータ量、過去の書込データからの経過時間の少なくともいずれかに基づいて、該書込データの巻き戻し時間を算出する
請求項2又は3に記載の情報処理システム。
【請求項5】
前記再生させる手段は、前記書込データと、該書込データについて前記設定手段により設定された再生位置の候補からユーザに選択された再生位置からの前記動画データとを同時に再生させる
請求項1乃至4のいずれかに記載の情報処理システム。
【請求項6】
前記動画データ取得手段により取得された動画データを画面上に再生する再生手段と、
前記再生手段により前記動画データが再生されている間にユーザから書込要求を受け付けた場合に、前記画面に表示されている前記動画データの撮影画像よりも撮影時刻が前の時点の撮影画像を該ユーザの指定に応じて書込用画面に表示させる手段と、
前記書込用画面に表示された撮影画像と、前記ユーザから受け付けた書込データとを関連付けて記録する記録手段と、をさらに含む
請求項1乃至5のいずれかに記載の情報処理システム。
【請求項7】
それぞれ撮影時刻が記録された複数の撮影画像を含む動画データを取得する動画データ取得手段と、
ユーザの入力に基づく書込データを前記動画データの再生中に取得する書込データ取得手段と、
前記書込データと同期再生する前記動画データの再生位置の候補を、該書込データの書込時刻より前の撮影時刻を含み設定する設定手段と、
前記書込データについて前記設定手段により設定された再生位置の候補に基づいて決定した再生位置から前記動画データを再生させる手段
としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理システム及びプログラムに関する。
【背景技術】
【0002】
動画データと、字幕等の文字情報を同期させて再生することがある。例えば、特許文献1には、ビデオ再生中にリプレイキーが押下された場合には、再生箇所の直前の字幕開始位置に戻って再生を再開することが開示されている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2003−23607号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明の目的は、ユーザの書込に対応する動画データにおける再生位置の選択が容易となる情報処理システム及びプログラムを提供することにある。
【課題を解決するための手段】
【0005】
請求項1に係る発明は、それぞれ撮影時刻が記録された複数の撮影画像を含む動画データを取得する動画データ取得手段と、ユーザの入力に基づく書込データを前記動画データの再生中に取得する書込データ取得手段と、前記書込データと同期再生する前記動画データの再生位置の候補を、該書込データの書込時刻より前の撮影時刻を含み設定する設定手段と、前記書込データについて前記設定手段により設定された再生位置の候補に基づいて決定した再生位置から前記動画データを再生させる手段と、を含む情報処理システムである。
【0006】
請求項2に係る発明は、前記書込データに基づいて、該書込データの書込時刻からの巻き戻し時間を算出する算出手段をさらに含み、前記設定手段は、前記書込データの書込時刻から該書込データについて前記算出手段により算出された巻き戻し時間を戻した第1の時刻から、該書込時刻以後の第2の時刻までの時間範囲から、前記動画データの再生位置の1以上の候補を設定する請求項1に記載の情報処理システムである。
【0007】
請求項3に係る発明は、前記第1の時刻から前記第2の時刻までの時間範囲に撮影時刻が含まれる撮影画像の中から、撮影画像の画像特徴に基づいて1以上の撮影画像を選択する選択手段をさらに含み、前記設定手段は、前記設定手段により選択された1以上の撮影画像のそれぞれの撮影時刻を前記再生位置の候補としてそれぞれ設定する請求項2に記載の情報処理システムである。
【0008】
請求項4に係る発明は、前記算出手段は、前記書込データの書込開始時刻から書込終了時刻までの時間間隔、前記書込データに含まれるデータ量、過去の書込データからの経過時間の少なくともいずれかに基づいて、該書込データの巻き戻し時間を算出する請求項2又は3に記載の情報処理システムである。
【0009】
請求項5に係る発明は、前記再生させる手段は、前記書込データと、該書込データについて前記設定手段により設定された再生位置の候補からユーザに選択された再生位置からの前記動画データとを同時に再生させる請求項1乃至4のいずれかに記載の情報処理システムである。
【0010】
請求項6に係る発明は、前記動画データ取得手段により取得された動画データを画面上に再生する再生手段と、前記再生手段により前記動画データが再生されている間にユーザから書込要求を受け付けた場合に、前記画面に表示されている前記動画データの撮影画像よりも撮影時刻が前の時点の撮影画像を該ユーザの指定に応じて書込用画面に表示させる手段と、前記書込用画面に表示された撮影画像と、前記ユーザから受け付けた書込データとを関連付けて記録する記録手段と、をさらに含む請求項1乃至5のいずれかに記載の情報処理システムである。
【0011】
請求項7に係る発明は、それぞれ撮影時刻が記録された複数の撮影画像を含む動画データを取得する動画データ取得手段と、ユーザの入力に基づく書込データを前記動画データの再生中に取得する書込データ取得手段と、前記書込データと同期再生する前記動画データの再生位置の候補を、該書込データの書込時刻より前の撮影時刻を含み設定する設定手段と、前記書込データについて前記設定手段により設定された再生位置の候補に基づいて決定した再生位置から前記動画データを再生させる手段としてコンピュータを機能させるためのプログラムである。
【発明の効果】
【0012】
請求項1及び7に係る発明によれば、本構成を有さない場合と比較して、ユーザの書込に対応する動画データにおける再生位置の選択が容易となる。
【0013】
請求項2に係る発明によれば、書込に応じた長さの時間範囲から、書込に対応する動画データにおける再生位置の設定が可能となる。
【0014】
請求項3に係る発明によれば、書込前後にある動画データにおける特徴的なシーンのいずれかに基づいて書込に対応する再生位置の設定が可能となる。
【0015】
請求項4に係る発明によれば、本構成を有さない場合と比較して、書込について巻き戻しが必要な時間の算出精度が向上する。
【0016】
請求項5に係る発明によれば、本構成を有さない場合と比較して、ユーザの書込に対応する動画データにおける再生位置の選択が容易となる。
【0017】
請求項6に係る発明によれば、本構成を有さない場合と比較して、動画データに含まれる撮影画像のうち、ユーザが書込を所望する撮影画像の選択が容易となる。
【図面の簡単な説明】
【0018】
図1】本実施形態に係る情報処理システムのシステム構成図である。
図2】データ管理装置が備える機能の一例を示した機能ブロック図である。
図3】ビデオデータ管理テーブルの一例を示す図である。
図4】メモデータ管理テーブルの一例を示す図である。
図5】ビデオデータの記録処理のシーケンス図である。
図6】メモデータの記録処理のシーケンス図である。
図7】ビデオデータとメモデータの同期再生処理のシーケンス図である。
図8】第2の実施例においてユーザ端末により実行される処理のフロー図である。
図9】サマリー表示画面の一例を示す図である。
図10】候補表示画面の一例を示す図である。
図11】ビデオデータの再生画面の一例を示す図である。
図12】書き込み画面の一例を示す図である。
図13】他の一例に係るビデオデータの記録処理のシーケンス図である。
図14】他の一例に係るメモデータの記録処理のシーケンス図である。
【発明を実施するための形態】
【0019】
以下、本発明を実施するための実施の形態(以下、実施形態という)を、図面に従って説明する。
【0020】
[1.システム構成例]
図1には、本実施形態に係る情報処理システム1のシステム構成図を示した。図1に示されるように、情報処理システム1は、データ管理装置10、撮像装置20、1以上のユーザ端末30を含み、データ管理装置10、撮像装置20、ユーザ端末30はそれぞれネットワークNWを介して相互にデータ通信可能となっている。
【0021】
撮像装置20は、例えばハードウェア構成として、制御部(CPU等)、記憶部(メモリ、ハードディスク等)、通信部(ネットワークインターフェースカード等)、入力部(マウス、キーボード、タッチパネル等)、表示部(液晶ディスプレイ等)、撮像部(カメラ等)を備え、撮像部により撮影したビデオデータをデータ管理装置10に送信する。
【0022】
ユーザ端末30は、例えばハードウェア構成として、制御部(CPU等)、記憶部(メモリ、ハードディスク等)、通信部(ネットワークインターフェースカード等)、入力部(マウス、キーボード、タッチパネル等)、表示部(液晶ディスプレイ等)を備え、入力部によりユーザから受け付けた操作に応じて生成したメモデータをデータ管理装置10に送信する。
【0023】
データ管理装置10は、例えば、ハードウェア構成として、制御部(CPU等)、記憶部(メモリ、ハードディスク等)、通信部(ネットワークインターフェースカード等)を備え、撮像装置20から受信したビデオデータと、ユーザ端末30から受信したメモデータとを関連付けて管理する。また、例えば、データ管理装置10は、ユーザ端末30から、メモの指定を受け付けた場合に、指定されたメモに関連するビデオデータにおける再生位置の候補を、ビデオデータ及びメモデータに基づき選択し、選択した再生位置の候補をユーザ端末30に提供する。そして、データ管理装置10は、ユーザ端末30から再生位置の候補から選択された再生位置に応じて、ユーザ端末30にビデオデータを再生させる。以下、データ管理装置10に備えられる機能の一例について説明する。
【0024】
[2.機能ブロック例]
図2は、データ管理装置10が備える機能の一例を示した機能ブロック図である。図2に示されるように、データ管理装置10は、ビデオデータ取得部11、メモデータ取得部12、記録制御部13、データ格納部14、再生メモ特定部15、巻き戻し時間算出部16、表示データ生成部17、表示データ提供部18を備える。
【0025】
データ管理装置10に備えられる上記各部の機能は、制御部、記憶部、通信部を備えたコンピュータであるデータ管理装置10が、コンピュータ読み取り可能な情報記憶媒体に格納されたプログラムを読み込み実行することで実現されるものとしてよい。なお、プログラムは光ディスク、磁気ディスク、磁気テープ、光磁気ディスク、フラッシュメモリ等の情報記憶媒体によってデータ管理装置10に供給されることとしてもよいし、インターネット等のデータ通信網を介して供給されることとしてもよい。以下、図2に示される各部の機能の詳細について説明する。
【0026】
ビデオデータ取得部11は、撮像装置20により撮影されたビデオデータを取得する。例えば、ビデオデータは、動画像を構成する各フレーム画像と、各フレーム画像の撮影時刻と、ビデオデータの識別情報(ビデオID)、データ名、データ形式、解像度、ビデオデータが関連するプロジェクトのプロジェクトID等の属性情報を含むこととしてよい。
【0027】
メモデータ取得部12は、ユーザ端末30からメモデータを取得する。例えば、メモデータは、メモの内容を示す画像データ又はテキストデータ、ユーザ端末30におけるメモの入力開始時刻及び入力終了時刻、メモに対応するビデオデータを識別するビデオID、メモデータの入力者のユーザID、メモデータが関連するプロジェクトのプロジェクトID等を含むこととしてよい。
【0028】
記録制御部13は、ビデオデータ取得部11により取得されたビデオデータと、メモデータ取得部12により取得されたメモデータに基づいて、データ格納部14にデータを記録する。
【0029】
例えば、記録制御部13は、ビデオデータ取得部11により取得されたビデオデータをデータ格納部14に記録する。この際、記録制御部13は、ビデオデータに含まれるフレーム画像や音声データに基づく特徴量を演算し、特徴量の変化点(例えば特徴量が閾値を超える点)に基づいて、ビデオデータに1以上の代表場面(シーン)を設定し、各代表場面のシーン情報(例えばシーンID、撮影時刻、サムネイル画像等)をデータ格納部14に記録することとしてもよい。
【0030】
また、記録制御部13は、メモデータ取得部12により取得されたメモデータをデータ格納部14に記録する。この際、記録制御部13は、メモデータ取得部12により取得されたメモデータのうち、一のメモデータについての入力開始時刻又は入力終了時刻と、他のメモデータの入力開始時刻又は入力終了時刻との差が閾値以下である場合には、当該一のメモデータと他のメモデータとを同一のメモグループとしてデータ格納部14に記録することとしてもよい。また、記録制御部13は、後述するプレイバック算出部によりメモデータ取得部12により取得された各メモデータについて算出された巻き戻し時間に基づいて、メモデータ取得部12により取得されたメモデータのうち、一のメモデータについての入力開始時刻から当該一のメモデータについて算出された巻き戻し時間を戻した撮影時刻と、他のメモデータについての入力開始時刻から当該他のメモデータについて算出された巻き戻し時間を戻した撮影時刻との差が閾値以下である場合には、当該一のメモデータと他のメモデータとを同一のメモグループとしてデータ格納部14に記録することとしてもよい。
【0031】
データ格納部14は、記録制御部13により記録されるデータを格納する。例えば、データ格納部14は、ビデオデータ取得部11により取得されたビデオデータと、ビデオデータに関する管理情報を格納したビデオデータ管理テーブルと、メモデータ取得部12により取得されたメモデータとメモデータに関する管理情報を格納したメモデータ管理テーブルを格納することとしてよい。以下、データ格納部14に格納されるデータの一例について説明する。
【0032】
図3には、データ格納部14に格納されるビデオデータ管理テーブルの一例を示した。図3に示されるように、ビデオデータ管理テーブルは、第1のビデオデータ管理テーブルと、第2のビデオデータ管理テーブルを含む。図3(A)に示される第1のビデオデータ管理テーブルは、ビデオID、プロジェクトID、データ名、データ形式、解像度を関連付けて格納している。そして、図3(B)に示される第2のビデオデータ管理テーブルは、ビデオID、フレームID、フレームのデータ、フレームの撮影時刻、代表シーン特定情報、サムネイル画像情報を関連付けて格納している。データ管理装置10は、ビデオデータに含まれる音声データについても撮影時刻と関連付けて記憶することとしてよい。
【0033】
図4には、データ格納部14に格納されるメモデータ管理テーブルの一例を示した。図4に示されるように、メモデータ管理テーブルは、メモID、関連付け先のビデオID、入力開始時刻、入力終了時刻、メモのイメージデータのパス、巻き戻し時間、確定再生位置情報、メモグループIDを関連付けて格納している。なお、巻き戻し時間とは、メモIDにより識別されるメモデータについて巻き戻し時間算出部16により算出された巻き戻し時間を示し、確定再生位置情報とは、メモIDにより識別されるメモデータについてユーザにより指定されたビデオデータにおける再生位置(撮影時刻)の情報を示す。
【0034】
再生メモ特定部15は、データ格納部14により格納されたメモデータのうち、ビデオデータと同期再生するメモデータを特定する。例えば、再生メモ特定部15は、ユーザ端末30から受け付けたメモIDに基づいて同期再生するメモデータを特定することとしてよい。
【0035】
巻き戻し時間算出部16は、算出対象とするメモデータ(例えば、再生メモ特定部15により特定されたメモとしてもよいし、記録されたメモデータを順次対象に設定してもよい)について、メモデータの入力開始時刻(又は入力開始時刻から入力終了時刻までの間の時刻)から、メモデータがビデオデータに対応していると推定される時刻までの巻き戻し時間を算出する。以下、巻き戻し時間算出部16によるメモデータの巻き戻し時間の算出処理を、具体例により説明する。
【0036】
例えば、巻き戻し時間算出部16は、メモデータの入力開始時刻から入力終了時刻までの時間間隔(Δt)に基づいて、メモデータの巻き戻し時間(TB)を算出することとしてよい。一例としては、巻き戻し時間算出部16は、aは0より大きく、bは0以上の定数として、メモデータの巻き戻し時間TBを、TB=a・ΔT+bとして算出することとしてよい。
【0037】
また、巻き戻し時間算出部16は、メモデータの軌跡の長さ(C)、又は/及び、メモデータの画素数(D)に基づいて、メモデータの巻き戻し時間(TB)を算出することとしてよい。一例としては、巻き戻し時間算出部16は、c、dは0以上(ただしどちらか一方が少なくとも0より大きい)、eは0以上の定数として、メモデータの巻き戻し時間TBを、TB=c・C+d・D+eとして算出することとしてよい。
【0038】
また、巻き戻し時間算出部16は、対象のメモデータの前に記録されたメモデータ(直前メモデータ)からの経過時間(E)に基づいて、メモデータの巻き戻し時間(TB)を算出することとしてよい。一例としては、巻き戻し時間算出部16は、fは0より大きく、gは0以上の定数、メモデータ間の平均の時間間隔をEavgとして、メモデータの巻き戻し時間TBを、TB=f・(F/Favg)+g、又はTB=f・F+gとして算出することとしてよい。
【0039】
また、巻き戻し時間算出部16は、上記の算出方法を組み合わせてメモデータの巻き戻し時間を算出することとしてもよいし、上記の定数a〜gは、ユーザごとに学習して設定することとしてもよい。
【0040】
表示データ生成部17は、データ格納部14に格納されたビデオデータとメモデータに基づく表示データを生成する。例えば、表示データ生成部17は、再生メモ特定部15により特定されたメモデータと、同期して再生するビデオデータの再生位置の候補を表示する表示データを生成することとしてもよい。この場合には、表示データ生成部17は、再生メモ特定部15により特定されたメモデータと、当該メモデータの入力開始時刻から、当該メモデータについて算出された巻き戻し時間を戻した巻き戻し基準時刻と、当該メモデータの入力基準時刻(入力開始時刻から入力終了時刻までの間で設定した時刻)との間から選択された1以上の再生開始位置の候補とを表示する表示データを生成することとしてよい。また、表示データ生成部17は、再生メモ特定部15により特定されたメモデータと、当該メモデータの入力開始時刻から、当該メモデータについて算出された巻き戻し時間を戻した巻き戻し基準時刻に対応する撮影時刻からのビデオデータを再生させるようにしてもよい。また、表示データ生成部17は、ビデオデータから抽出した代表場面と、メモデータとを記録された時刻で対応付けて表示する表示データを生成することとしてもよい。
【0041】
表示データ提供部18は、表示データ生成部17により生成された表示データをユーザ端末30に提供する。
【0042】
[3.情報処理システム1において実行される処理の例示]
次に、図5乃至図12に基づいて、情報処理システム1において実行される処理の一例について詳細に説明する。
【0043】
[3−1.第1の実施例]
まず、情報処理システム1において実行される第1の実施例に係る処理を、図5乃至図7に示したシーケンス図に基づいて説明する。
【0044】
[3−1−1.ビデオデータの記録処理]
図5には、ビデオデータの記録処理のシーケンス図を示した。図5に示されるように、撮像装置20は、例えばユーザ端末30(又はユーザ)からプロジェクトIDを受け付けるとともに(S101)、ビデオデータの記録要求を受け付けると、データ管理装置10に、プロジェクトIDを送信するとともに、ビデオデータの登録を要求する(S102)。
【0045】
データ管理装置10は、ビデオデータの登録要求を受け付けると、撮像装置20と時刻を同期させた後に(S103)、登録されるビデオデータを識別するビデオIDを発行して(S104)、発行したビデオIDを撮像装置20に送信する(S105)。例えば、データ管理装置10は、発行したビデオIDについて第1のビデオデータ管理テーブルに新たなレコードを追加するとともに、追加したレコードにおいてビデオIDとプロジェクトIDと関連付けて記憶しておくこととしてよい。
【0046】
撮像装置20は、データ管理装置10からビデオIDを受信した後に、ビデオを撮影し(S106)、撮影されたビデオデータをビデオIDとともにデータ管理装置10に順次送信する(S107)。ビデオデータには、予め定められた時間間隔ごとに撮影されたフレーム画像と、フレーム画像の撮影時刻と、音声データ、データ名、データ形式、解像度等の情報を含むこととしてよい。
【0047】
データ管理装置10は、撮像装置20から受信したビデオデータを順次記録する(S108)。例えば、データ管理装置10は、撮像装置20から受信したビデオデータに含まれるデータ名、データ形式、解像度等の情報を、ビデオデータのIDに関連付けて第1のビデオデータ管理テーブルに格納し、ビデオデータに含まれるフレーム画像と、フレーム画像の撮影時刻とを第2のビデオデータ管理テーブルに順次格納することとしてよい。
【0048】
撮像装置20は、ビデオ撮影を終了しない場合には(S109:N)、S106に戻り処理を繰り返し、ビデオ撮影を終了する場合には(S109:Y)、データ管理装置10にビデオIDと共にビデオ撮影の終了を通知する(S110)。
【0049】
データ管理装置10は、撮像装置20からビデオIDに係るビデオ撮影の終了の通知を受けると、終了に係るビデオIDについて記録されたビデオデータについて特徴量を算出する(S111)。例えば、データ管理装置10は、ビデオデータの各フレーム画像の画像特徴量を算出することとしてよい。
【0050】
データ管理装置10は、ビデオデータについて算出した特徴量の変化に基づいて、ビデオデータに1以上のシーン区分を設定する(S112)。例えば、データ管理装置10は、ビデオデータの各フレーム画像について、前フレーム画像からの画像特徴量の変化量を算出し、算出した変化量が閾値以上のフレーム画像の位置をシーン区分に設定することとしてよい。
【0051】
次に、データ管理装置10は、S112で設定したシーンが区分される位置のフレーム画像のサムネイル画像を生成し(S113)、シーン区分の情報とサムネイル画像の情報を含む付加データを、例えば第2のビデオデータ管理テーブルに保存することとしてよい(S114)。
【0052】
以上が、情報処理システム1において実行されるビデオデータの記録処理の一例である。次に、ビデオデータの記録処理と並行して実行される、メモデータの記録処理について説明する。
【0053】
[3−1−2.メモデータの記録処理]
図6には、メモデータの記録処理のシーケンス図を示した。図6に示されるように、ユーザ端末30は、例えばユーザからプロジェクトIDを受け付け(S201)、受け付けたプロジェクトIDをデータ管理装置10に送信する(S202)。
【0054】
データ管理装置10は、ユーザ端末30から受信したプロジェクトIDをキーとして、第1のビデオデータ管理テーブルから、当該プロジェクトIDに関連付けられたビデオIDのリストを検索し、検索されたビデオIDのリストをユーザ端末30に送信する(S203)。ここで、ビデオIDのリストには、各ビデオIDの属性情報を含むこととしてよい。
【0055】
ユーザ端末30は、例えばユーザから、データ管理装置10から受信したビデオIDのリストから1つのビデオIDの選択を受け付け(S204)、選択されたビデオIDをデータ管理装置10に送信する(S205)。
【0056】
データ管理装置10は、ユーザ端末30からユーザに選択されたビデオIDを受信すると、ユーザ端末30との時刻同期を実行して(S206)、ユーザ端末30からのメモデータの送信を待機する。
【0057】
ユーザ端末30では、ユーザによるメモ入力が開始されない場合には(S207:N)、待機し、ユーザによるメモ入力が開始された場合には(S207:Y)、入力開始時刻を記録するとともに(S208)、入力されたデータを記録する(S209)。ユーザ端末30は、ユーザによるメモ入力が終了していない場合には(S210:N)、S209による入力されたデータの記録を継続し、ユーザによるメモ入力が終了した場合には(S210:Y)、入力終了時刻を記録する(S211)。なお、ユーザ端末30は、例えば、ユーザからメモ入力の終了指示を受け付けたり、メモ送信の指示を受け付けたりした場合に、メモ入力を終了すると判断することとしてよい。
【0058】
ユーザ端末30は、S208で記録した入力開始時刻、S211で記録した入力終了時刻、S209で記録した入力データ、ビデオIDを含むメモデータをデータ管理装置10に送信する(S212)。
【0059】
データ管理装置10は、ユーザ端末30から受信したメモデータをデータ格納部14に記録する(S213)。例えば、データ管理装置10は、ユーザ端末30から受信したメモデータに、メモIDを付与し、メモID、ビデオID、入力開始時刻、入力終了時刻、入力データを関連付けてメモデータ管理テーブルに記録することとしてよい。
【0060】
ユーザ端末30は、S212でデータ管理装置10にメモデータの送信を終えると、S207に戻ってそれ以降の処理を繰り返す。以上が、メモデータの記録処理の一例である。
【0061】
[3−1−3.ビデオデータとメモデータの同期再生処理]
次に、ビデオデータ、メモデータの記録終了後に実行される、ビデオデータとメモデータの同期再生処理について説明する。
【0062】
図7には、ビデオデータとメモデータの同期再生処理のシーケンス図を示した。図7に示されるように、ユーザ端末30は、例えばユーザからビデオIDの指定を受け付けると(S301)、受け付けたビデオIDをデータ管理装置10に送信する(S302)。
【0063】
データ管理装置10は、ユーザ端末30からビデオIDを受信すると、受信したビデオIDについて記録されたビデオデータとメモデータとの少なくとも一部をそれぞれ対応付けて表示するサマリー表示画面(図9参照)を生成して(S303)、生成したサマリー表示画面をユーザ端末30に送信する(S304)。例えば、データ管理装置10は、ユーザ端末30から受信したビデオIDについて第2のビデオデータ管理テーブルに記憶されているサムネイル画像と、当該ビデオIDについてメモデータ管理テーブルに記憶されているメモのイメージとを、それぞれに関連付けられている時刻情報に基づくリスト表示をサマリー表示画面に含めることとしてよい。
【0064】
ユーザ端末30は、データ管理装置10から受信したサマリー表示画面を表示部に表示させる(S305)。以下、ユーザ端末30で表示されるサマリー表示画面の一例について説明する。
【0065】
図9には、サマリー表示画面の一例を示した。図9に示されるように、サマリー表示画面200には、時刻座標軸201と、サムネイル画像の表示欄202と、メモの表示欄203とを含む。時刻座標軸201は、ビデオIDにより識別されるビデオの撮影時刻の開始から終了までの時間に対応する座標系であり、上から下に向けて時間が進むことを示している。サムネイル画像の表示欄202では、サムネイル画像が対応する撮影時刻に基づいて、時刻座標軸201において対応する位置に配置されている。また、メモの表示欄203についても、メモが対応する入力開始時刻(又は入力終了時刻)に基づいて、時刻座標軸201において対応する位置に配置されている。
【0066】
ユーザ端末30は、サマリー表示画面において表示されたメモのうち1つの選択を受け付けると(S306)、受け付けたメモのメモIDをデータ管理装置10に送信する(S307)。
【0067】
データ管理装置10は、ユーザ端末30からメモIDを受信すると、受信したメモIDについてメモデータ管理テーブルに記憶されるデータに基づいて巻き戻し時間を算出する(S308)。なお、データ管理装置10は、メモIDについての巻き戻し時間の算出処理は、上述した巻き戻し時間算出部16により実行することとしてよく、算出した巻き戻し時間は、メモIDに関連付けてメモデータ管理テーブルに記録することとしてよい。また、データ管理装置10は、ユーザ端末30から受信したメモIDについてメモデータ管理テーブルにおいて既に巻き戻し時間が記憶されている場合には、当該記憶された巻き戻し時間を読み込むこととしてもよい。
【0068】
データ管理装置10は、メモIDについて記憶される入力開始時刻と、S308で算出した巻き戻し時間とに基づいて、メモIDの再生開始位置の候補を選択する(S309)。例えば、データ管理装置10は、メモIDについて記憶される入力開始時刻から、S308で算出した巻き戻し時間を戻した開始基準時と、メモIDの入力終了時刻から予め定められた時間を延長した終了基準時の時間範囲に含まれる1以上の代表シーン(又は、フレーム画像の画像特徴量が閾値を超えて変化する変化点)に対応する撮影時刻を、メモIDの再生開始位置の候補として選択することとしてよい。なお、選択されたメモIDについて同一グループIDのメモIDがある場合には、同一グループIDの時系列的に並べたときに、最初のメモIDについて算出した開始基準時から、最後のメモIDの入力終了時刻から予め定められた時間を延長した終了基準時までの時間範囲に含まれる1以上の代表シーンに対応する撮影時刻を、メモIDの再生開始位置の候補として選択することとしてもよい。この際、再生開始位置の候補の数は予め定められた数となるように選択してもよい。
【0069】
データ管理装置10は、S309で選択したメモIDの再生開始位置の候補に基づいて、メモIDの再生開始位置の候補を表示する候補表示画面(図10を参照)を生成し(S310)、生成した候補表示画面をユーザ端末30に送信する(S311)。
【0070】
ユーザ端末30は、データ管理装置10から受信した候補表示画面を表示部に表示させる(S312)。以下、ユーザ端末30で表示される候補表示画面の一例について説明する。
【0071】
図10には、候補表示画面の一例を示した。図10に示されるように、候補表示画面300には、S309で選択されたそれぞれの再生開始位置の候補に対応したサムネイル画像を表示する候補表示欄301と、S306で選択されたメモの表示欄302と、候補表示欄301で選択されている(例えば点線で囲まれている)サムネイル画像に対応する撮影時刻から再生されるビデオデータを表示するビデオデータ表示欄303、確定ボタン304、戻るボタン305を含む。
【0072】
ユーザ端末30は、候補表示画面300に対してのユーザの操作に基づいてメモIDについての再生開始位置の選択(例えば、候補表示欄301からサムネイル画像が選択された状態で、確定ボタン304の押下)を受け付けると(S313)、受け付けた再生開始位置の情報をデータ管理装置10に送信する(S314)。
【0073】
データ管理装置10は、ユーザ端末30から受信した再生開始位置(すなわち、選択されたサムネイル画像に対応する撮影時刻)の情報を、メモIDに関連付けて記録する(S315)。例えば、データ管理装置10は、メモIDについてメモデータ管理テーブルに記憶されるレコードの確定再生位置情報の欄に、ユーザ端末30から受信した再生開始位置の情報を記録することとしてよい。
【0074】
データ管理装置10は、メモIDについて再生開始位置を記録した後に、記録した再生開始位置から再生されるビデオデータをユーザ端末30に送信する(S316)。データ管理装置10は、ビデオデータをストリーミング配信してもよいし、ビデオデータをユーザ端末30に既に配信済みである場合には、再生開始位置を通知するようにしてもよい。
【0075】
ユーザ端末30は、データ管理装置10から受信したビデオデータを再生し(S317)、ビデオデータの再生画面とメモデータとを共に表示部に表示させる。例えば、ユーザ端末30は、ビデオデータを図10のビデオデータ表示欄に表示させることとしてよい。
【0076】
また、図10に示された候補表示画面において戻るボタンが押下された場合には、S305に戻り、それ以降の処理を繰り返すこととしてもよい。
【0077】
以上が第1の実施例に係る処理の説明である。なお、図6及び図7の処理は、複数のユーザ端末30がそれぞれ同時に実行することとしてもよい。
【0078】
[3−2.第2の実施例]
次に、情報処理システム1において実行される第2の実施例に係る処理について図8に示されたフロー図を参照しながら説明する。第2の実施例においては、撮像装置20又はデータ管理装置10が、撮像装置20で撮影されたビデオデータをユーザ端末30に順次送信し、ユーザ端末30は受信したビデオデータを順次再生することとする。そして、ユーザ端末30は、ユーザから書き込み操作を受け付けた場合に、再生したビデオデータのフレーム画像の中から関連づけ先フレーム画像を選択し、選択したフレーム画像上の表示位置と、ユーザから受け付けた書き込み情報とを関連づけて記録し、記録した書き込み情報をユーザ端末30の記憶部又はデータ管理装置10に記録することとする。なお、以下に説明するフロー図は、ユーザ端末30において実行される処理を説明するものである。
【0079】
図8に示されるように、ユーザ端末30は、撮像装置20又はデータ管理装置10からビデオデータを受信して取得し(S401)、取得したビデオデータを記憶部に記憶するとともに(S402)、記憶部に記憶されたビデオデータを順次再生する(S403)。
【0080】
図11には、ビデオデータの再生画面の一例を示した。図11に示されるように、ビデオデータの再生画面400には、再生されるビデオデータを表示する表示画面401と、書き込みモードを開始するための書き込みモードボタン402とを含む。
【0081】
ユーザ端末30は、ビデオデータの再生中に書き込みモードの開始を検知しない場合には(S404:N)、S401に戻ってそれ以降の処理を繰り返し、ビデオデータの再生中に書き込みモードの開始を検知した場合には(S404:Y)、S405に進む。ここで、ユーザ端末30は、書き込みモードの開始は、例えば図11に示される再生画面400に含まれる書き込みモードボタン402が押下された場合に検知することとしてよい。
【0082】
ユーザ端末30は、書き込みモードの開始を検知した場合には、書き込みモードの開始時刻(TA)を記録するとともに、書き込みモードの開始時刻(TA)に対応するフレーム画像を初期状態として設定した書き込み画面を表示する(S405)。
【0083】
図12には、書き込み画面の一例を示した。図12に示されるように、書き込み画面500には、書き込み対象とするフレーム画像を表示する書き込み対象画像表示領域501と、書き込み対象画像表示領域501に表示されるフレーム画像を更新する操作を行うための指定領域502と、書き込みを実行する実行ボタン503と、書き込みをクリアーするクリアボタン504を含む。ここで、指定領域502は、例えば、書込対象の画像の撮影時刻を指定するスライダーにより実現することとしてよい。
【0084】
ユーザ端末30は、例えば書き込み画面における指定領域に対するユーザの操作に基づいて、書き込み位置(書き込み対象画像)の更新が行われる場合には(S406:Y)、指定領域に対して指定された操作に基づき決定した撮影時刻に対応するフレーム画像を特定し、特定したフレーム画像を書き込み対象画像表示領域に表示させることで、書き込み画面を更新する(S407)。
【0085】
ユーザ端末30は、書き込み画面の更新が行われない場合(S406:N)、又は書き込み画面の更新が行われた後(S407)のいずれかにおいて、書き込み画面に対する書き込み入力が開始されない場合には(S408:N)、S406に戻り、書き込み画面に対する書き込み入力が開始された場合には(S408:Y)、S409に進む。
【0086】
そして、ユーザ端末30は、書き込み入力が開始された時点で、書き込み対象画像表示領域に表示されるフレーム画像の撮影時刻を指定書き込み時刻TBとして記録し(S409)、書き込み対象画像表示領域に対してユーザから入力されたデータを記録する(S410)。
【0087】
ユーザ端末30は、ユーザからの入力が終了しない場合には(S411:N)、S410に戻って入力データの記録を継続し、入力が終了した場合(すなわち、書き込み画面の実行ボタンが押下された場合)には(S411:Y)、書き込みモードの開始時刻TA、指定書き込み時刻TB、入力データを書き込みID(メモID)に関連づけて記録する。ユーザ端末30は、書き込みモードの開始時刻TA、指定書き込み時刻TB、入力データを書き込みID(メモID)に関連づけて記憶部に記録してもよいし、データ管理装置10に送信してデータ管理装置10に記憶させることとしてもよい。
【0088】
ユーザ端末30は、処理を終了しない場合には(S413:N)、S401に戻ってそれ以降の処理を繰り返し、処理を終了する場合には(S413:Y)、処理を終える。
【0089】
なお、ユーザ端末30又はデータ管理装置10が、ユーザから書き込みIDの指定を受け付けた場合には、当該書き込みIDに関連づけられた指定書き込み時刻と、書き込みモードの開始時刻TAと、入力データとから例えば巻き戻し時間算出部16により算出された巻き戻し時間に基づいて特定した時刻とにそれぞれ対応するビデオデータのフレーム画像を再生開始位置の候補としてユーザに提供することとしてよい。
【0090】
[他の一例に係るビデオデータの記録処理の説明]
ここで、図13に示されたシーケンス図に基づいて、ビデオデータの記録処理の他の例について説明する。情報処理システム1では、図5に示したシーケンス図に代えて、図13に示したシーケンス図による処理を実行することとしてよい。
【0091】
図13に示されるように、撮像装置20は、ビデオ撮影を開始すると(S501)、データ管理装置10にアクセスして、データ管理装置10と時刻を同期(第1の時刻同期処理)する(S502)。
【0092】
撮像装置20は、データ管理装置10との時刻の同期後に、ビデオ撮影の開始時刻を記録し(S503)、ビデオ撮影を実行して、ビデオデータを記録する(S504)。撮像装置20は、ビデオ撮影を終了しない場合には(S505:N)、S504に戻り、ビデオ撮影を継続し、ビデオ撮影を終了する場合には(S505:Y)、ビデオ撮影を終了するとともに、ビデオ撮影の終了時刻を記録する(S506)。そして、撮像装置20は、データ管理装置10に対してプロジェクトIDの提供を要求する(S507)。
【0093】
データ管理装置10は、撮像装置20からプロジェクトIDの提供要求を受け付けると、必要に応じてプロジェクトIDを発行して(S508)、発行したプロジェクトIDを撮像装置20に通知する(S509)。なお、データ管理装置10は、撮像装置20からの要求に係るプロジェクトについて既にプロジェクトIDが発行されている場合には、既に発行されたプロジェクトIDを撮像装置20に通知することとしてよい。
【0094】
撮像装置20は、データ管理装置10からプロジェクトIDを受け取ると、第1の時刻同期処理が成功していない場合には(S510:N)、データ管理装置10と時刻を同期(第2の時刻同期処理)する(S511)。
【0095】
撮像装置20は、第1の時刻同期処理が成功している場合(S510:Y)、又は第2の時刻同期処理を実行後に、プロジェクトIDと、記録されたビデオデータとをデータ管理装置10に送信する(S512)。
【0096】
データ管理装置10は、撮像装置20から受信したプロジェクトIDに関連付けてビデオデータを保存する(S513)。
【0097】
次に、データ管理装置10は、保存したビデオデータについて特徴量を算出する(S514)。例えば、データ管理装置10は、ビデオデータの各フレーム画像の画像特徴量を算出することとしてよい。
【0098】
データ管理装置10は、ビデオデータについて算出した特徴量の変化に基づいて、ビデオデータに1以上のシーン区分を設定する(S515)。例えば、データ管理装置10は、ビデオデータの各フレーム画像について、前フレーム画像からの画像特徴量の変化量を算出し、算出した変化量が閾値以上のフレーム画像の位置をシーン区分に設定することとしてよい。
【0099】
次に、データ管理装置10は、S515で設定したシーンが区分される位置のフレーム画像のサムネイル画像を生成し(S516)、シーン区分の情報とサムネイル画像の情報を含む付加データを、例えば第2のビデオデータ管理テーブルに保存することとしてよい(S517)。
【0100】
以上が、情報処理システム1において実行されるビデオデータの記録処理の一例である。以上説明した図13のシーケンス図に係る処理では、撮像装置20は、ネットワークに接続していない場合でもビデオデータの記録を行い、ネットワークに接続可能な状態となった後に、記録したビデオデータをデータ管理装置10にアップロードし、アップロード時にデータ管理装置10と時刻同期が行われる。そして、データ管理装置10がアップロード時に用いるプロジェクトIDにより、ビデオデータと対応するメモデータとが関連付けられる。
【0101】
[他の一例に係るメモデータの記録処理の説明]
次に、図14に示されたシーケンス図に基づいて、メモデータの記録処理の他の例について説明する。情報処理システム1では、図6に示したシーケンス図に代えて、図14に示したシーケンス図による処理を実行することとしてよい。
【0102】
ユーザ端末30は、ユーザの操作に基づいて、メモ入力を開始すると(S601)、データ管理装置10にアクセスして、データ管理装置10と時刻を同期(第1の時刻同期処理)する(S602)。
【0103】
ユーザ端末30は、データ管理装置10との時刻の同期後に、メモ入力の開始時刻を記録し(S603)、入力されたメモデータを記録する(S604)。ユーザ端末30は、メモデータの入力が終了しない場合には(S605:N)、S604に戻り、メモデータの記録を継続し、メモデータの入力が終了する場合には(S605:Y)、メモデータの入力終了時刻を記録する(S606)。そして、ユーザ端末30は、データ管理装置10に対してプロジェクトIDの提供を要求する(S607)。
【0104】
データ管理装置10は、ユーザ端末30からプロジェクトIDの提供要求を受け付けると、必要に応じてプロジェクトIDを発行して(S608)、発行したプロジェクトIDをユーザ端末30に通知する(S609)。なお、データ管理装置10は、ユーザ端末30からの要求に係るプロジェクトについて既にプロジェクトIDが発行されている場合には、既に発行されたプロジェクトIDをユーザ端末30に通知することとしてよい。
【0105】
ユーザ端末30は、データ管理装置10からプロジェクトIDを受け取ると、第1の時刻同期処理が成功していない場合には(S610:N)、データ管理装置10と時刻を同期(第2の時刻同期処理)する(S611)。
【0106】
ユーザ端末30は、第1の時刻同期処理が成功している場合(S610:Y)、又は第2の時刻同期処理を実行後に、プロジェクトIDと、記録されたメモデータとをデータ管理装置10に送信する(S612)。
【0107】
データ管理装置10は、ユーザ端末30から受信したプロジェクトIDに関連付けてメモデータを保存する(S613)。
【0108】
以上が、情報処理システム1において実行されるメモデータの記録処理の一例である。以上説明した図14のシーケンス図に係る処理では、ユーザ端末30は、ネットワークに接続していない場合でもメモの記録を行い、ネットワークに接続可能な状態となった後に、記録したメモをデータ管理装置10にアップロードし、アップロード時にデータ管理装置10と時刻同期が行われる。そして、ユーザ端末30がアップロード時に用いるプロジェクトIDにより、メモデータと対応するビデオデータとが関連付けられる。
【0109】
本発明は、上記の実施形態に限定されるものではない。例えば、ユーザ端末30が、データ管理装置10の機能を備え、ビデオデータの記録と、メモの記録とを実行してもよい。また、ユーザ端末30が、撮像装置20、データ管理装置10の両者の機能を備え、ビデオデータの撮影と、メモの入力受付と記録とを1台で実行してもよい。この場合には、ユーザ端末30は、図2に示される機能ブロック図の各機能を備えることとしてよい。
【0110】
なお、データ管理装置10は、メモとビデオとの同期再生要求を受け付けた場合に、当該メモの入力開始時刻から当該メモについて算出された巻き戻し時間を戻した再生開始位置から当該ビデオを再生させるようにしてもよい。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14