(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-01-15
(45)【発行日】2024-01-23
(54)【発明の名称】映像処理装置、映像処理方法、及び、プログラム
(51)【国際特許分類】
H04N 5/91 20060101AFI20240116BHJP
【FI】
H04N5/91
(21)【出願番号】P 2022527350
(86)(22)【出願日】2020-05-27
(86)【国際出願番号】 JP2020020869
(87)【国際公開番号】W WO2021240679
(87)【国際公開日】2021-12-02
【審査請求日】2022-11-16
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100107331
【氏名又は名称】中村 聡延
(74)【代理人】
【識別番号】100104765
【氏名又は名称】江上 達夫
(74)【代理人】
【識別番号】100131015
【氏名又は名称】三輪 浩誉
(72)【発明者】
【氏名】白石 壮馬
(72)【発明者】
【氏名】菊池 克
(72)【発明者】
【氏名】鍋藤 悠
(72)【発明者】
【氏名】渡辺 はるな
【審査官】川中 龍太
(56)【参考文献】
【文献】特開2004-112110(JP,A)
【文献】米国特許出願公開第2019/0182436(US,A1)
【文献】特開2012-070283(JP,A)
【文献】特開2001-251581(JP,A)
【文献】特開2006-012052(JP,A)
【文献】特開2003-333500(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/76 - 5/956
(57)【特許請求の範囲】
【請求項1】
素材映像を取得する映像取得手段と、
前記素材映像から人物を特定する人物特定手段と、
前記素材映像の重要度を算出する重要度算出手段と、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算手段と、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出手段と、
を備え
、
前記人物特定手段は、前記重要シーンにおいて人物を特定し、
前記重要度積算手段は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する映像処理装置。
【請求項2】
素材映像を取得する映像取得手段と、
前記素材映像から人物を特定する人物特定手段と、
前記素材映像の重要度を算出する重要度算出手段と、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算手段と、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出手段と、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成手段と、
を備え、
前記ダイジェスト生成手段は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める映像処理装置。
【請求項3】
前記素材映像は、複数の人物により構成される複数のグループを含む映像であり、
前記重要シーン抽出手段は、前記重要シーンを前記複数のグループのいずれかに関連付け、
前記重要度積算手段は、前記重要シーンに含まれる人物のうち、当該重要シーンが関連付けされたグループに属する人物について当該重要シーンの重要度を加算する請求項
1に記載の映像処理装置。
【請求項4】
前記素材映像は、スポーツの試合の映像であり、前記人物は選手であり、前記グループは前記選手が属するチームであり、
前記重要シーン抽出手段は、前記重要シーンを、前記試合を行ういずれかのチームに関連付け、
前記重要度積算手段は、前記重要シーンに含まれる選手のうち、当該重要シーンが関連付けされたチームに属する選手について当該重要シーンの重要度を加算する請求項
3に記載の映像処理装置。
【請求項5】
前記重要シーン抽出手段は、前記重要シーンに複数の人物が含まれている場合、各人物が当該重要シーンに含まれている時間を算出し、
前記重要度積算手段は、当該重要シーンに所定時間以上含まれている人物について前記重要度を加算する請求項
1に記載の映像処理装置。
【請求項6】
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成手段を備え、
前記ダイジェスト生成手段は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める請求項
1に記載の映像処理装置。
【請求項7】
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記人物特定処理は、前記重要シーンにおいて人物を特定し、
前記重要度積算処理は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する映像処理方法。
【請求項8】
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記人物特定処理は、前記重要シーンにおいて人物を特定し、
前記重要度積算処理は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する処理をコンピュータに実行させるプログラム。
【請求項9】
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成処理を行い、
前記ダイジェスト生成処理は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める映像処理方法。
【請求項10】
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成処理を行い、
前記ダイジェスト生成処理は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める処理をコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、映像データの処理に関する。
【背景技術】
【0002】
TVのニュース番組やスポーツ番組においては、野球やサッカーなどのスポーツの試合のハイライトシーンを集めたダイジェスト映像が放送されている。これまで、このようなダイジェスト映像は、そのスポーツに詳しい編集者などにより生成されてきたが、近年は、試合の映像からダイジェスト映像を自動的に生成する手法も提案されている。例えば、特許文献1には、予め準備されたトレーニング動画像及びユーザが指定した重要シーン動画像から学習データファイルを作成し、当該学習データファイルに基づき、対象の動画像から重要シーンの検出を行うハイライト抽出装置が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
上記のように自動的にスポーツの試合のダイジェスト映像が生成される場合、その試合における選手の活躍の評価には、試合で記録される成績の数値が用いられていた。例えば、野球の試合における活躍度は、打者であればヒット数、ホームラン数、打率などで評価され、投手であれば防御率、失点、三振数などで評価されていた。しかし、この場合、例えば決定的な得点を防いだファインプレーなど、貢献度が高いにも拘わらず得点などの数値には表れないプレイを評価することが困難であった。
【0005】
本発明の1つの目的は、スポーツ映像などに基づいて、成績を示す数値に表れないプレイなども考慮して選手の活躍度を評価することが可能な映像処理装置を提供することにある。
【課題を解決するための手段】
【0006】
本発明の一つの観点では、映像処理装置は、
素材映像を取得する映像取得手段と、
前記素材映像から人物を特定する人物特定手段と、
前記素材映像の重要度を算出する重要度算出手段と、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算手段と、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出手段と、
を備え、
前記人物特定手段は、前記重要シーンにおいて人物を特定し、
前記重要度積算手段は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する。
また、本発明の他の観点では、映像処理装置は、
素材映像を取得する映像取得手段と、
前記素材映像から人物を特定する人物特定手段と、
前記素材映像の重要度を算出する重要度算出手段と、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算手段と、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出手段と、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成手段と、
を備え、
前記ダイジェスト生成手段は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める。
【0007】
本発明の他の観点では、映像処理方法は、
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記人物特定処理は、前記重要シーンにおいて人物を特定し、
前記重要度積算処理は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する。
また、本発明の他の観点では、映像処理方法は、
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成処理を行い、
前記ダイジェスト生成処理は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める。
【0008】
本発明のさらに他の観点では、記録媒体は、
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記人物特定処理は、前記重要シーンにおいて人物を特定し、
前記重要度積算処理は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する処理をコンピュータに実行させるプログラムを記録する。
また、本発明のさらに他の観点では、記録媒体は、
素材映像を取得し、
前記素材映像から人物を特定する人物特定処理を行い、
前記素材映像の重要度を算出する重要度算出処理を行い、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算処理を行い、
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出処理を行い、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成処理を行い、
前記ダイジェスト生成処理は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める処理をコンピュータに実行させるプログラムを記録する。
【発明の効果】
【0009】
本発明によれば、スポーツ映像などに基づいて、成績を示す数値に表れないプレイなども考慮して選手の活躍度を評価することが可能となる。
【図面の簡単な説明】
【0010】
【
図3】人物重要度算出装置のハードウェア構成を示すブロック図である。
【
図4】第1実施形態の人物重要度算出装置の機能構成を示すブロック図である。
【
図5】第1実施形態の人物重要度算出処理のフローチャートである。
【
図6】第2実施形態の人物重要度算出装置の機能構成を示すブロック図である。
【
図7】第2実施形態の人物重要度算出処理のフローチャートである。
【
図9】ダイジェスト生成モデルの訓練時及び推論時の機能構成を示す。
【
図10】第3実施形態のダイジェスト生成装置の機能構成を示すブロック図である。
【
図12】第4実施形態の映像処理装置の機能構成を示すブロック図である。
【発明を実施するための形態】
【0011】
以下、図面を参照して、本発明の好適な実施形態について説明する。
<第1実施形態>
まず、本発明の第1実施形態に係る人物重要度算出装置について説明する。人物重要度算出装置は、素材映像に基づいて、その素材映像に登場する人物毎に重要度を算出し、出力する装置である。
【0012】
[基本原理]
図1は、人物重要度算出装置100の概略構成を示す。人物重要度算出装置100は、素材映像データベース(以下、「データベース」を「DB」とも記す。)2に接続されている。素材映像DB2は、各種の素材映像、即ち、動画像を記憶している。素材映像は、例えば放送局から放送されるテレビ番組などの映像でもよく、インターネットなどで配信されている映像でもよい。なお、素材映像は、音声を含んでいてもよく、含んでいなくてもよい。人物重要度算出装置100は、素材映像DB2から取得した素材映像に含まれる人物毎に、各人物の重要度(重要度スコア)を人物重要度として出力する。
【0013】
図2は、人物重要度算出装置100による人物重要度の生成方法を模式的に示す。人物重要度算出装置100は、まず素材映像における重要度を算出する。また、人物重要度算出装置100は、素材映像に登場する人物を認識する。そして、人物重要度算出装置100は、素材映像に登場する人物毎に、その人物が登場したときの素材映像の重要度を取得し、それらを積算して人物毎の重要度である人物重要度を算出する。
図2の例では、素材映像の時刻t
1において人物Aが認識され、そのときの素材映像の重要度はS
1である。人物Aは時刻t
4でも認識され、そのときの素材映像の重要度はS
4である。人物Aはさらに時刻t
7でも認識され、そのときの素材映像の重要度はS
7である。この場合、素材映像全体における人物Aの人物重要度Sは、
S=S
1+S
4+S
7
となる。なお、他の人物B、Cについても同様に人物重要度が算出される。このように、人物重要度算出装置100は、人物が認識されるたびに、そのときの素材映像の重要度をその人物の人物重要度に積算し、素材映像全体における人物重要度を算出する。
【0014】
[ハードウェア構成]
図3は、人物重要度算出装置100のハードウェア構成を示すブロック図である。図示のように、人物重要度算出装置100は、インタフェース(IF)11と、プロセッサ12と、メモリ13と、記録媒体14と、データベース(DB)15とを備える。
【0015】
IF11は、外部装置との間でデータの入出力を行う。具体的に、素材映像DB2に保存されている素材映像はIF11を介して人物重要度算出装置100に入力される。また、人物重要度算出装置100により生成された人物重要度は、IF11を通じて外部装置へ出力される。
【0016】
プロセッサ12は、CPU(Central Processing Unit)などのコンピュータであり、予め用意されたプログラムを実行することにより、人物重要度算出装置100の全体を制御する。具体的に、プロセッサ12は、後述する人物重要度算出処理を実行する。
【0017】
メモリ13は、ROM(Read Only Memory)、RAM(Random Access Memory)などにより構成される。メモリ13は、プロセッサ12による各種の処理の実行中に作業メモリとしても使用される。
【0018】
記録媒体14は、ディスク状記録媒体、半導体メモリなどの不揮発性で非一時的な記録媒体であり、人物重要度算出装置100に対して着脱可能に構成される。記録媒体14は、プロセッサ12が実行する各種のプログラムを記録している。人物重要度算出装置100が各種の処理を実行する際には、記録媒体14に記録されているプログラムがメモリ13にロードされ、プロセッサ12により実行される。
【0019】
データベース15は、IF11を通じて入力された素材映像、人物重要度算出装置100が生成した人物重要度などを一時的に記憶する。なお、人物重要度算出装置100は、作成者が指示や入力を行うためのキーボード、マウスなどの入力部、及び、液晶ディスプレイなどの表示部を備えていてもよい。
【0020】
[機能構成]
図4は、第1実施形態に係る人物重要度算出装置100の機能構成を示すブロック図である。図示のように、人物重要度算出装置100は、人物特定部21と、重要度算出部22と、重要度積算部23とを備える。
【0021】
人物特定部21は、素材映像に含まれる人物を特定する。具体的には、人物特定部21は、素材映像を構成する1枚又は複数のフレームの集合(以下、「映像部分」と呼ぶ。)から人物を検出し、人物の同一性を判定して人物を特定する。これにより、
図2に示すように、素材映像に含まれる複数の人物が、それぞれ人物A、Bなどと特定される。人物特定部21は、特定された人物を示す情報と、その人物が特定された時刻又はフレーム番号などを含む情報(以下、「特定人物情報」と呼ぶ。)を重要度積算部23に出力する。
【0022】
重要度算出部22は、素材映像における重要度を算出する。具体的には、重要度算出部22は、素材映像を構成する映像部分から特徴量を抽出し、抽出した特徴量に基づいて素材映像に対する重要度(重要度スコア)を算出する。なお、ここで算出される重要度は、対象となる単位映像全体の重要度であり、未だ個々の人物単位の重要度にはなっていない。重要度算出部22は、算出した重要度を重要度積算部23に出力する。
【0023】
重要度積算部23は、人物特定部21から入力された特定人物情報と、重要度算出部22から入力された重要度とを用いて、人物重要度を算出する。具体的には、重要度積算部23は、人物が特定されたときの素材映像の重要度を、その人物に対応付けて積算する。例えば、素材映像のある映像部分で人物Aが特定された場合、重要度積算部23は、その映像部分の重要度をその人物Aの人物重要度として記憶する。なお、素材映像のある映像部分で複数の人物A、Bが特定された場合、重要度積算部23は、その映像部分の重要度を、複数の人物A、Bのそれぞれの人物重要度として記憶する。また、素材映像において、一度登場した人物Aが別の映像部分で再度登場した場合、重要度積算部23は、そのときの映像部分の重要度をその人物の人物重要度に加算する。こうして、重要度積算部23は、素材映像に含まれる複数の人物を特定し、各人物が登場するたびに、そのときの映像部分の重要度を各人物の人物重要度に積算する。そして、重要度積算部23は、素材映像全体について積算した各人物の重要度を人物重要度として出力する。
【0024】
こうして、人物重要度算出装置100は、素材映像に登場する人物毎の人物重要度を算出する。よって、人物重要度に基づいて、その素材映像においてどの人物が重要な役割を果たしているかを評価することができる。例えば、素材映像がスポーツの試合である場合、重要度の値は、その試合における得点シーンや注目すべきシーンなどにおいて高い値を示す。よって、人物重要度に基づき、その試合において活躍した選手や貢献度の高い選手を特定することが可能となる。
【0025】
[人物重要度算出処理]
図5は、第1実施形態の人物重要度算出処理のフローチャートである。この処理は、
図3に示すプロセッサ12が予め用意されたプログラムを実行し、
図4に示す各要素として動作することにより実現される。
【0026】
まず、重要度積算部23は、各人物の人物重要度の積算値を初期化する(ステップS10)。なお、この例では、素材映像に登場する何人かの人物が既知であるものとする。次に、重要度算出部22は、素材映像を取得し(ステップS11)、重要度を算出する(ステップS12)。ここでは、重要度算出部22は、例えば所定フレーム数、所定時間幅などに基づき、所定の映像部分の素材映像を取得し、その映像部分の重要度を算出する。
【0027】
次に、人物特定部21は、同じ映像部分から人物を特定し(ステップS13)、その人物が新たな人物であるか否かを判定する(ステップS14)。その人物が新たな人物である場合(ステップS14:Yes)、重要度積算部23は、新たな人物を追加する(ステップS15)。即ち、重要度積算部23は、新たな人物用の積算値を用意し、初期化する。一方、その人物が新たな人物でない場合(ステップS14:No)、処理はステップS16へ進む。ステップS16では、ステップS13で特定された人物について、そのときの映像部分の重要度を加算する。
【0028】
次に、人物重要度算出装置100は、素材映像の最後まで処理を行ったか否かを判定する(ステップS17)。素材映像の最後まで処理が行われていない場合(ステップS17:No)、処理はステップS11へ戻り、次の映像部分についてステップS12~S16の処理を行う。一方、素材映像の最後まで処理が行われた場合(ステップS17:Yes)、重要度積算部23は、積算された人物重要度を出力する(ステップS18)。そして、処理は終了する。
【0029】
<第2実施形態>
次に、第2実施形態に係る人物重要度算出装置について説明する。第1実施形態の人物重要度生成装置100は、素材映像を構成する全ての映像部分の重要度を用いて人物重要度を生成している。これに対し、第2実施形態の人物重要度算出装置110は、素材映像の重要シーンのみの重要度を用いて人物重要度を生成する。
【0030】
[機能構成]
図6は、第2実施形態に係る人物重要度算出装置110の機能構成を示す。なお、第2実施形態に係る人物重要度算出装置110のハードウェア構成は、
図3に示す第1実施形態のものと同様である。図示のように、人物重要度算出装置110は、人物特定部31と、重要度算出部32と、重要シーン抽出部33と、重要度積算部34とを備える。
【0031】
重要度算出部32は、第1実施形態と同様に、素材映像から重要度を算出する。そして、重要度算出部32は、算出した重要度を重要度積算部34と重要シーン抽出部33に出力する。
【0032】
重要シーン抽出部33は、重要度算出部32が算出した重要度に基づいて、素材映像から重要シーンを抽出する。具体的には、重要シーン抽出部33は、重要度算出部32が算出した重要度を所定の閾値と比較し、重要度が所定の閾値以上である区間を重要シーンとして抽出する。そして、重要シーン抽出部33は、重要シーンを示す情報を人物特定部31と、重要度積算部34に出力する。
【0033】
人物特定部31は、第1実施形態と同様に、素材映像から人物を特定する。但し、人物特定部31は、素材映像のうち、重要シーンのみにおいて人物を特定し、特定した人物を示す特定人物情報を重要度積算部34に出力する。即ち、人物特定部31は、重要シーン以外のシーン(「非重要シーン」と呼ぶ。)においては、人物の特定を行わない。
【0034】
重要度積算部34は、人物特定部31から入力された特定人物情報と、重要度算出部32から入力された重要度と、重要シーン抽出部33から入力された重要シーンを示す情報とに基づき、重要シーンについてのみ人物毎に重要度を積算する。即ち、重要度積算部34は、重要シーンにおいて特定された各人物について、その重要シーンにおける素材映像の重要度を積算する。
【0035】
このように、第2実施形態では、素材映像中の重要シーンについてのみ、人物毎の重要度を積算して人物重要度を生成する。よって、重要シーンに含まれる人物、即ち、特に活躍度や貢献度の高い人物についての人物重要度を得ることが可能となる。
【0036】
[人物重要度算出処理]
図7は、第2実施形態の人物重要度算出処理のフローチャートである。この処理は、
図3に示すプロセッサ12が予め用意されたプログラムを実行し、
図6に示す各要素として動作することにより実現される。
【0037】
まず、重要度積算部34は、各人物の人物重要度の積算値を初期化する(ステップS20)。なお、この例でも素材映像に登場する何人かの人物が既知であるものとする。次に、重要度算出部32は、素材映像を取得し、重要度を算出する(ステップS21)。次に、重要シーン抽出部33は、算出された重要度に基づいて、素材映像中の重要シーンを抽出する(ステップS22)。
【0038】
次に、人物特定部31は、抽出された重要シーンから人物を特定し(ステップS23)、その人物が新たな人物であるか否かを判定する(ステップS24)。その人物が新たな人物である場合(ステップS24:Yes)、重要度積算部34は、新たな人物を追加する(ステップS25)。即ち、重要度積算部34は、新たな人物用の積算値を用意し、初期化する。一方、その人物が新たな人物でない場合(ステップS24:No)、処理はステップS26へ進む。ステップS26では、ステップS23で特定された人物について、そのときの素材映像の重要度を加算する。これにより、重要シーンで特定された人物について、そのときの素材映像の重要度が加算される。
【0039】
次に、人物重要度算出装置100は、素材映像の最後まで処理を行ったか否かを判定する(ステップS27)。素材映像の最後まで処理が行われていない場合(ステップS27:No)、処理はステップS21へ戻り、次の映像区間についてステップS21~S26の処理を行う。一方、素材映像の最後まで処理が行われた場合(ステップS27:Yes)、重要度積算部34は、積算された人物重要度を出力する(ステップS28)。そして、処理は終了する。
【0040】
[変形例]
次に、第2実施形態の変形例について説明する。第2実施形態では、人物重要度算出装置110は、素材映像中の重要シーンにおいて人物を特定し、重要度を積算している。しかし、重要シーンに映っている人物でも、実際には活躍度や貢献度が高くない人物もいる。例えば、野球の試合の素材映像の場合、ヒットシーンにおける守備の選手、ホームランシーンにおける投手、三振のシーンにおける打者などは、重要シーンに登場するが、チームに対する貢献度は高くない。そこで、人物重要度算出装置110は、以下の方法により、重要シーンにおいて貢献している人物のみについて重要度を積算する。
【0041】
(第1の方法)
第1の方法では、素材映像に複数の人物により構成されるグループが複数登場する場合、重要シーン抽出部33は、重要シーンをいずれかのグループに関連付ける。そして、重要度積算部34は、重要シーンに関連付けされたグループに属する人物のみについて、その重要シーンの重要度を加算する。一例として、素材映像がスポーツの試合の映像である場合、重要シーン抽出部33は、その重要シーンがどちらのチームに貢献するシーンであるかを判定し、貢献する方のチームにその重要シーンを関連付ける。例えば、重要シーン抽出部33は、チームAの打者がヒットやホームランを打った重要シーンをチームAに関連付け、チームAの打者がチャンスで三振したシーンをチームBに関連付ける。
【0042】
そして、重要度積算部34は、重要シーンに含まれる選手のうち、関連付けされたチームに属する選手についてその重要シーンの重要度を加算する。例えば、チームAの打者がホームランを打ったシーンにチームAの打者とチームBの投手が登場する場合、重要度積算部34は、その重要シーンの重要度を、チームAの打者に加算し、チームBの投手には加算しない。このように、重要シーンがどちらのチームに貢献するシーンであるかを判定し、チームに貢献する人物のみに重要度を加算することにより、重要シーンに映っているが実際には貢献していない人物に重要度が加算されにくくすることができる。
【0043】
(第2の方法)
第2の方法では、重要シーンにおいて、各人物が映っている時間の長さを考慮する。具体的には、重要シーン抽出部33は、重要シーンにおいて各人物が映っている時間を算出する。そして、重要度積算部34は、所定の閾値τ秒以上映っている人物にのみ、その重要シーンの重要度を加算する。例えば、チームAの打者がヒットを打った重要シーンにチームAの打者とチームBの複数の守備の選手が映っている場合、ヒットを打った選手はその後のベースランまで重要シーンに含まれることが多いので、重要度が加算される確率が高くなるが、守備の選手が写っている時間は短いので重要度が加算される確率が低くなる。別の例として、守備の選手がファインプレーにより打者をアウトにした重要シーンには、守備の選手のプレイが長く映っているので、その守備の選手について重要度が加算される確率が高くなる。このように、第2の方法によっても、重要シーンに映っているが実際には貢献していない人物に重要度が加算されにくくすることができる。
【0044】
<第3実施形態>
第3実施形態は、上記の人物重要度算出装置をダイジェスト生成装置に適用したものである。
[基本概念]
まず、ダイジェスト生成装置の基本概念について説明する。ダイジェスト生成装置は、素材映像DB2に保存されている素材映像の一部を用いるダイジェスト映像を生成し、出力する。ダイジェスト映像は、素材映像における重要シーンを時系列につなげた映像である。ダイジェスト生成装置は、機械学習により訓練済みのダイジェスト生成モデル(以下、単に「生成モデル」とも呼ぶ。)を用いてダイジェスト映像を生成する。生成モデルとしては、例えば、ニューラルネットワークを用いたモデルを用いることができる。
【0045】
図8は、ダイジェスト映像の例を示す。
図8の例では、ダイジェスト生成装置は、素材映像に含まれるシーンA~Dを重要シーンとして抽出し、これらを時系列につなげたダイジェスト映像を生成する。なお、素材映像から抽出された重要シーンは、その内容次第で、ダイジェスト映像中で繰り返し使用されてもよい。
【0046】
図9(A)は、ダイジェスト生成装置200が使用する生成モデルを訓練するための構成を示すブロック図である。生成モデルの訓練には、予め用意された訓練データセットが使用される。訓練データセットは、訓練用素材映像と、訓練用素材映像に対する正解を示す正解データのペアである。正解データは、訓練用素材映像における重要シーンの位置に正解を示すタグ(以下、「正解タグ」と呼ぶ。)を付与したデータである。典型的には、正解データにおける正解タグの付与は、経験のある編集者などにより行われる。例えば野球中継の素材映像については、野球解説者などが試合中のハイライトシーンなどを選択し、正解タグを付与する。なお、編集者による正解タグの付与方法を機械学習などで学習し、正解タグを自動的に付与してもよい。
【0047】
訓練時には、訓練用素材映像が生成モデルMに入力される。生成モデルMは、素材映像から重要シーンを抽出する。具体的には、生成モデルMは、素材映像を構成する1枚又は複数のフレームの集合から特徴量を抽出し、抽出した特徴量に基づいて素材映像に対する重要度(重要度スコア)を算出する。そして、生成モデルMは、重要度が予め決められた閾値以上である部分を重要シーンとして出力する。訓練部4は、生成モデルMの出力と、正解データとを用いて、生成モデルMを最適化する。具体的には、訓練部4は、生成モデルMが出力した重要シーンと、正解データに含まれる正解タグが示すシーンとを比較し、その誤差(損失)を小さくするように生成モデルMのパラメータを更新する。こうして得られた訓練済みの生成モデルMは、編集者が正解タグを付与したシーンに近いシーンを素材映像から重要シーンとして抽出することができるようになる。
【0048】
図9(B)は、ダイジェスト生成装置による推論時の構成を示す。推論時には、ダイジェスト映像の生成の対象となる素材映像が訓練済みの生成モデルMに入力される。生成モデルMは、素材映像から重要度を算出し、重要度が予め決められた閾値以上である部分を重要シーンとして抽出し、ダイジェスト生成部5に出力する。ダイジェスト生成部5は、生成モデルMが抽出した重要シーンをつなげてダイジェスト映像を生成し、出力する。こうして、ダイジェスト生成装置は、訓練済みの生成モデルMを用いて、素材映像からダイジェスト映像を生成する。なお、第2実施形態の重要シーン抽出部33には、上記の生成モデルMを用いることができる。
【0049】
[ダイジェスト生成装置]
図10は、第1実施形態の人物重要度算出装置100を適用したダイジェスト生成装置200の機能構成を示す。ダイジェスト生成装置200は、人物重要度算出装置100と、重要シーン抽出部44と、ダイジェスト生成部45とを備える。
【0050】
人物重要度算出装置100は、人物特定部21と、重要度算出部22と、重要度積算部23とを備え、第1実施形態で説明したように動作する。また、重要度算出部22は、算出した重要度を重要シーン抽出部44にも出力する。さらに、重要度積算部23は、算出した人物重要度をダイジェスト生成部45に出力する。
【0051】
重要シーン抽出部44は、
図9(B)を参照して説明したように、訓練済みの生成モデルMを使用し、重要度に基づいて重要シーンを抽出してダイジェスト生成部45に出力する。ダイジェスト生成部45は、入力された重要シーンを時系列につなげて、ダイジェスト映像を生成する。
【0052】
さらに、ダイジェスト生成部45は、重要度積算部23から入力された人物重要度に基づいて人物表示画像を作成し、ダイジェスト映像に含める。具体的に、ダイジェスト生成部45は、人物重要度に基づいて、所定の条件を満たしている人物を表示した人物表示画像を生成する。所定の条件を満たしている人物とは、例えば、人物重要度が最大である人物、人物重要度が上位3位までの人物などである。また、素材映像がスポーツの試合である場合、所定の条件を満たしている人物は、例えば、勝利チームの選手のうち人物重要度が最大の選手、勝利チームで人物重要度が最大である投手と野手の一人ずつなどでもよい。
【0053】
図11は、素材映像が野球の試合である場合に人物重要度が最大である選手1名を表示した人物表示画像の例を示す。ダイジェスト生成部45は、人物重要度に基づいてこのような人物表示画像を作成し、ダイジェスト映像に含める。なお、人物表示画像に用いられる人物の画像は、予め人物ごとに用意された画像を用いればよい。このように、人物重要度算出装置をダイジェスト生成装置に適用することにより、スポーツの試合などの素材映像において活躍度や貢献度が高い人物の画像をダイジェスト映像に含めることができる。なお、
図11の例では、試合終了時の人物重要度に基づいて人物表示画像を生成しているが、試合の途中における人物重要度に基づいて人物表示画像を生成し、ダイジェスト映像に含めてもよい。例えば、野球の7回終了時、サッカーのハーフタイムなどにおいて、それまでに活躍した選手を人物表示画像として生成し、ダイジェスト映像の対応する位置に含めてもよい。
【0054】
なお、上記の例は、第1実施形態に係る人物重要度算出装置100をダイジェスト生成装置に適用しているが、その代わりに、第2実施形態に係る人物重要度算出装置110をダイジェスト生成生成装置に適用してもよい。その場合には、第2実施形態の人物重要度算出装置110に含まれる重要シーン抽出部33を
図10に示す重要シーン抽出部44として使用すればよい。
【0055】
<第4実施形態>
次に、本発明の第4実施形態について説明する。
図12は、第4実施形態に係る映像処理装置の機能構成を示すブロック図である。図示のように、映像処理装置70は、映像取得手段71と、人物特定手段72と、重要度算出手段73と、重要度積算手段74とを備える。映像取得手段71は、素材映像を取得する。人物特定手段72は、素材映像から人物を特定する。重要度算出手段73は、素材映像の重要度を算出する。重要度積算手段74は、重要度を人物毎に積算し、人物毎の重要度を示す人物重要度を出力する。
【0056】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
【0057】
(付記1)
素材映像を取得する映像取得手段と、
前記素材映像から人物を特定する人物特定手段と、
前記素材映像の重要度を算出する重要度算出手段と、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する重要度積算手段と、
を備える映像処理装置。
【0058】
(付記2)
前記重要度積算手段は、前記素材映像に人物が含まれる場合に、当該素材映像の重要度を当該人物の人物重要度に加算する付記1に記載の映像処理装置。
【0059】
(付記3)
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出手段を備え、
前記人物特定手段は、前記重要シーンにおいて人物を特定し、
前記重要度積算手段は、前記重要シーンにおいて特定された人物について、当該重要シーンにおける前記重要度を積算して前記人物重要度を出力する付記1に記載の映像処理装置。
【0060】
(付記4)
前記素材映像は、複数の人物により構成される複数のグループを含む映像であり、
前記重要シーン抽出手段は、前記重要シーンを前記複数のグループのいずれかに関連付け、
前記重要度積算手段は、前記重要シーンに含まれる人物のうち、当該重要シーンが関連付けされたグループに属する人物について当該重要シーンの重要度を加算する付記3に記載の映像処理装置。
【0061】
(付記5)
前記素材映像は、スポーツの試合の映像であり、前記人物は選手であり、前記グループは前記選手が属するチームであり、
前記重要シーン抽出手段は、前記重要シーンを、前記試合を行ういずれかのチームに関連付け、
前記重要度積算手段は、前記重要シーンに含まれる選手のうち、当該重要シーンが関連付けされたチームに属する選手について当該重要シーンの重要度を加算する付記4に記載の映像処理装置。
【0062】
(付記6)
前記重要シーン抽出手段は、前記重要シーンに複数の人物が含まれている場合、各人物が当該重要シーンに含まれている時間を算出し、
前記重要度積算手段は、当該重要シーンに所定時間以上含まれている人物について前記重要度を加算する付記3に記載の映像処理装置。
【0063】
(付記7)
前記重要度に基づいて、前記素材映像から重要シーンを抽出する重要シーン抽出手段と、
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成手段と、を備え、
前記ダイジェスト生成手段は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める付記1又は2に記載の映像処理装置。
【0064】
(付記8)
前記重要シーンを時系列につなげてダイジェスト映像を生成するダイジェスト生成手段を備え、
前記ダイジェスト生成手段は、前記人物重要度が所定の条件を満たしている人物を表示した人物表示画像を前記ダイジェスト映像に含める付記3乃至6のいずれか一項に記載の映像処理装置。
【0065】
(付記9)
素材映像を取得し、
前記素材映像から人物を特定し、
前記素材映像の重要度を算出し、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する映像処理方法。
【0066】
(付記10)
素材映像を取得し、
前記素材映像から人物を特定し、
前記素材映像の重要度を算出し、
前記重要度を前記人物毎に積算し、人物毎の重要度を示す人物重要度を出力する処理をコンピュータに実行させるプログラムを記録した記録媒体。
【0067】
以上、実施形態及び実施例を参照して本発明を説明したが、本発明は上記実施形態及び実施例に限定されるものではない。本発明の構成や詳細には、本発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【符号の説明】
【0068】
2 素材映像DB
4 訓練部
5 ダイジェスト生成部
12 プロセッサ
21、31 人物特定部
22、32 重要度算出部
23 重要度積算部
33、44 重要シーン抽出部
100 人物重要度算出装置
200 ダイジェスト生成装置