IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 住友ゴム工業株式会社の特許一覧

特開2024-37027動画の作成方法、コンピュータプログラム及び動画作成システム
<>
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図1
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図2
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図3
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図4
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図5
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図6
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図7
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図8
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図9
  • 特開-動画の作成方法、コンピュータプログラム及び動画作成システム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024037027
(43)【公開日】2024-03-18
(54)【発明の名称】動画の作成方法、コンピュータプログラム及び動画作成システム
(51)【国際特許分類】
   G06T 7/20 20170101AFI20240311BHJP
   A63B 71/00 20060101ALI20240311BHJP
   G06T 7/00 20170101ALI20240311BHJP
   H04N 23/60 20230101ALI20240311BHJP
【FI】
G06T7/20 300Z
A63B71/00 Z
G06T7/00 P
H04N5/232 290
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2022141646
(22)【出願日】2022-09-06
(71)【出願人】
【識別番号】000183233
【氏名又は名称】住友ゴム工業株式会社
(74)【代理人】
【識別番号】100104134
【弁理士】
【氏名又は名称】住友 慎太郎
(74)【代理人】
【識別番号】100156225
【弁理士】
【氏名又は名称】浦 重剛
(74)【代理人】
【識別番号】100168549
【弁理士】
【氏名又は名称】苗村 潤
(74)【代理人】
【識別番号】100200403
【弁理士】
【氏名又は名称】石原 幸信
(74)【代理人】
【識別番号】100206586
【弁理士】
【氏名又は名称】市田 哲
(72)【発明者】
【氏名】小山 心平
(72)【発明者】
【氏名】植田 勝彦
(72)【発明者】
【氏名】植田 尚良
【テーマコード(参考)】
5C122
5L096
【Fターム(参考)】
5C122DA21
5C122EA61
5C122FA02
5C122FH04
5C122FH06
5C122FH10
5C122FH11
5C122FJ04
5C122FJ15
5C122GA24
5C122HA48
5C122HB01
5L096DA01
5L096EA07
5L096FA67
5L096GA51
5L096HA02
5L096HA08
5L096HA11
5L096KA04
5L096KA15
(57)【要約】
【課題】 打撃動作をしているプレーヤーを含む画像領域及び時間帯域を抜粋した動画を作成することが可能な方法を提供する。
【解決手段】 プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するための方法、コンピュータプログラム及び動画作成システムである。この方法は、第1動画に含まれる音データに基づいて、第1動画中のプレーヤーの打撃タイミングを特定する第1工程S1と、第1動画から、特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する第2工程S3と、抽出された動画に含まれる画像データに基づいて、打撃動作をしているプレーヤーを含む領域を抽出する第3工程S4と、抽出された領域、かつ、打撃タイミングの前後の打撃動作を含む時間帯域の動画を第2動画として抽出する第4工程S5とを含む。
【選択図】図4
【特許請求の範囲】
【請求項1】
プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するための方法であって、
前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する第1工程と、
前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する第2工程と、
前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する第3工程と、
前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する第4工程とを含む、
動画の作成方法。
【請求項2】
前記画像データは、前記プレーヤーの全方向を同時に撮影した全天球画像であり、
前記全天球画像の歪を補正する工程をさらに含む、請求項1に記載の動画の作成方法。
【請求項3】
前記第1動画の解像度は、4K以上である、請求項1又は2に記載の動画の作成方法。
【請求項4】
前記第1工程は、前記音データの音量の変化量、及び、前記音量の閾値の少なくとも一方に基づいて、前記打撃タイミングを特定する、請求項1又は2に記載の動画の作成方法。
【請求項5】
前記第3工程は、前記画像データに、少なくとも1人の人物が含まれるか否かを判定する第1判定工程を含み、
前記第1判定工程での判定が否定的である場合、前記画像データから前記領域の抽出を行わない、請求項1又は2に記載の動画の作成方法。
【請求項6】
前記第1判定工程での判定が肯定的である場合、前記画像データに含まれる前記人物の姿勢に基づいて、前記人物が前記打撃動作をしているプレーヤーか否かを判定する第2判定工程を含み、
前記第2判定工程での判定は否定的である場合、前記画像データから前記領域の抽出を行わない、請求項5に記載の動画の作成方法。
【請求項7】
前記第2判定工程での判定が肯定的である場合、前記画像データから前記領域を抽出する、請求項6に記載の動画の作成方法。
【請求項8】
前記第2判定工程は、前記打撃動作をしているプレーヤーの姿勢を予め学習した学習モデルを用いて判定する、請求項6に記載の動画の作成方法。
【請求項9】
前記第1工程で複数の前記打撃タイミングが特定された場合、複数の前記打撃タイミング毎に、前記第2動画を抽出する工程を含む、請求項1又は2に記載の動画の作成方法。
【請求項10】
前記第2工程に先立ち、前記第1工程で特定された前記打撃タイミングを補正する工程を含む、請求項1又は2に記載の動画の作成方法。
【請求項11】
前記第4工程に先立ち、前記第3工程で抽出された前記領域を補正する工程を含む、請求項1又は2に記載の動画の作成方法。
【請求項12】
前記スポーツは、ゴルフを含む、請求項1又は2に記載の動画の作成方法。
【請求項13】
プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するためのコンピュータプログラムであって、
コンピュータを、
前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する手段と、
前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する手段と、
前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する手段と、
前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する手段として機能させる、
コンピュータプログラム。
【請求項14】
プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するためのシステムであって、
前記第1動画を取得するための撮影装置と、
前記第1動画を受け取って、前記第2動画を作成するためのコンピュータとを含み、
前記コンピュータは、
前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する打撃タイミング特定部と、
前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する時間帯域抽出部と、
前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する領域抽出部と、
前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する第2動画抽出部とを含む、
動画作成システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画の作成方法、コンピュータプログラム及び動画作成システムに関する。
【背景技術】
【0002】
近年、動画撮影装置の性能向上等に起因して、スポーツでのプレーを気軽に撮影することが可能となっている。撮影されたスポーツが、例えば、プレーヤーによる打撃動作を含むゴルフである場合、撮影された動画から、打撃動作をしているプレーヤーを含む画像領域及び時間帯域を抜粋した動画(ラウンドログ)を作成したいというニーズがある。関連する技術としては、下記特許文献1がある。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特許第5754458号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
本発明は、以上のような実状に鑑み案出されたもので、打撃動作をしているプレーヤーを含む画像領域及び時間帯域を抜粋した動画を作成することが可能な方法を提供することを主たる目的としている。
【課題を解決するための手段】
【0005】
本発明は、プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するための方法であって、前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する第1工程と、前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する第2工程と、前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する第3工程と、前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する第4工程とを含む、動画の作成方法である。
【発明の効果】
【0006】
本発明の動画の作成方法は、上記の工程を採用することにより、打撃動作をしているプレーヤーを含む画像領域及び時間帯域を抜粋した動画を作成することが可能となる。
【図面の簡単な説明】
【0007】
図1】本実施形態の動画作成システムを概念的に示す構成図である。
図2】本実施形態のコンピュータを示すブロック図である。
図3】第1動画の一部分を示す図である。
図4】本実施形態の動画の作成方法の処理手順を示すフローチャートである。
図5】本実施形態の第3工程の処理手順の一例を示すフローチャートである。
図6】抽出された画像データを示す図である。
図7】学習モデルを示す図である。
図8】本実施形態の第2動画を示す図である。
図9】本発明の他の実施形態の作成方法の処理手順を示すフローチャートである。
図10】本発明のさらに他の実施形態の作成方法の処理手順を示すフローチャートである。
【発明を実施するための形態】
【0008】
以下、本発明の実施形態が図面に基づき説明される。図面は、発明の内容の理解を助けるために、誇張表現や、実際の構造の寸法比とは異なる表現が含まれることが理解されなければならない。また、各実施形態を通して、同一又は共通する要素については同一の符号が付されており、重複する説明が省略される。さらに、実施形態及び図面に表された具体的な構成は、本発明の内容理解のためのものであって、本発明は、図示されている具体的な構成に限定されるものではない。
【0009】
本実施形態の動画の作成方法(以下、単に「作成方法」ということがある。)では、第1動画から、一部の画像領域かつ一部の時間帯域(以下、「第1時間帯域」ということがある。)を抜粋して第2動画が作成される。本実施形態の第1動画は、プレーヤーによる打撃動作を含むスポーツの音データ付き動画である。本実施形態の音データ付き動画には、複数の画像データ(フレーム)と、音データとが含まれる。
【0010】
第1動画が撮影されるスポーツは、プレーヤーによる打撃動作を含むものであれば、特に限定されない。打撃動作を含むスポーツの一例には、ゴルフ、テニス、バドミントン、卓球、野球、バレーボール及び剣道等が挙げられる。本実施形態のスポーツは、ゴルフを含み、プレーヤーによるゴルフボールへの打撃動作(例えば、ティーショット、アプローチショット、及び、パッティング等を含む)を含む音データ付き動画が、第1動画として取得(撮影)されうる
【0011】
本実施形態の作成方法には、動画作成システム1が用いられる。図1は、本実施形態の動画作成システムを概念的に示す構成図である。
【0012】
[動画作成システム]
本実施形態の動画作成システム1は、撮影装置2と、コンピュータ3とを含んで構成されている。
【0013】
[撮影装置]
本実施形態の撮影装置2は、第1動画を取得(撮影)するためのものである。撮影装置2は、第1動画(音データ付き動画)を取得可能なものであれば、特に限定されない。本実施形態の撮影装置には、公知の360度カメラ(全天球カメラ)が採用される。この360度カメラは、プレーヤー4の全方向を同時に撮影した動画(全天球動画)を撮影することができる。このような360度カメラにより、画角や水平状態を気にすることなく、打撃動作中のプレーヤー4の音データ付き動画を撮影することができるため、ゴルフコースのラウンド中の撮影において、プレーが遅延するのを防ぐことができる。なお、撮影装置2は、360度カメラに限定されるわけではなく、例えば、第1動画を平面動画として撮影しうる一般的なカメラであってもよい。
【0014】
本実施形態では、第1動画から一部の画像領域が抜粋(抽出)されて、第2画像が作成されることから、第2動画に求められる画質等に応じて、第1動画の解像度が設定されるのが好ましい。第1動画の解像度は、第2動画の画質(解像度)の低下を防ぐ観点より、好ましくは、4K(画素:3840×2160)以上であり、さらに好ましくは、8K(画素:7680×4320)以上である。
【0015】
本実施形態では、第1動画の撮影時において、撮影装置2が三脚5に取り付けられているが、このような態様に限定されない。撮影装置2は、例えば、図示しないキャディバッグ(スタンドバッグ)や、カート等に取り付けられてもよい。また、他のプレーヤー(図示省略)等に撮影装置2を預けて、第1動画が撮影されてもよい。本実施形態の撮影装置2のように、360度カメラが採用されることで、画角や水平状態を気にする必要がないため、撮影装置2の取り付け場所等に左右されることなく、第1動画を簡単に撮影することができる。
【0016】
本実施形態の撮影装置2は、コンピュータ3と通信可能に接続されている。本実施形態では、通信ネットワーク(WAN(Wide Area Network)やLAN(Local Area Network)等)6を介して、撮影装置2とコンピュータ3とが接続されている。なお、本実施形態のように、撮影装置2が通信ネットワーク6に直接接続できない場合には、通信ネットワーク6と接続可能な携帯端末(例えば、スマートフォン等)7に、撮影装置2が接続されてもよい。これにより、撮影装置2は、携帯端末7及び通信ネットワーク6を介して、コンピュータ3と接続されうる。
【0017】
本実施携帯の撮影装置2は、コンピュータ3と通信可能に接続されることで、第1動画をコンピュータ3に送信することができる。これにより、コンピュータ3は、撮影装置2から第1動画を受け取ることができる。第1動画は、打撃動作(例えば、ティーショット等)の撮影が終了するたびに、コンピュータ3に送信されてもよいし、複数の第1動画の撮影が終わってから、コンピュータ3にまとめて送信されてもよい。
【0018】
[コンピュータ]
図1に示されるように、本実施形態のコンピュータ3は、例えば、サーバ(クラウドサーバ)として構成されている。なお、コンピュータ3は、携帯端末(例えば、スマートフォン等)7で構成されてもよい。
【0019】
図2は、本実施形態のコンピュータ3を示すブロック図である。本実施形態のコンピュータ3は、例えば、入力部11と、出力部12と、通信部13と、演算処理装置14とを含んで構成されている。
【0020】
[入力部・出力部]
入力部11には、例えば、キーボード又はマウス等が用いられる。出力部12には、例えば、ディスプレイ又はプリンタ等が用いられる。
【0021】
[通信部]
通信部13は、通信ネットワーク6(図1に示す)に接続するためのものである。本実施形態の通信部13は、例えば、イーサネットの規格に準拠するネットワークアダプタとして構成されているが、特に限定されるものではない。
【0022】
通信部13は、図1に示した通信ネットワーク6に接続されることで、撮影装置2からの第1動画を受信することができる。さらに、通信部13は、コンピュータ3で作成された第2動画を、図1に示した携帯端末7又は撮影装置2に送信することができる。
【0023】
[演算処理装置]
本実施形態の演算処理装置14は、例えば、各種の演算を行う演算部(CPU)15、データやプログラム等が記憶される記憶部16、及び、作業用メモリ17を含んで構成されている。
【0024】
[記憶部]
記憶部16は、例えば、磁気ディスク、光ディスク又はSSD等からなる不揮発性の情報記憶装置である。本実施形態の記憶部16には、データ部18及びプログラム部19が含まれる。
【0025】
[データ部]
データ部18は、作成方法の実行に必要なデータ(情報)や、作成方法の実行によって得られた結果等を記憶するためのものである。本実施形態のデータ部18には、第1動画入力部18a、第2動画入力部18b、打撃タイミング入力部18c、時間帯域動画入力部18d、及び、抽出領域入力部18eが含まれる。本実施形態の第1動画入力部18aには、撮影装置2から受け取った第1動画が入力される。その他のデータ部18に入力されるデータは、後述の作成方法の各工程で説明される。
【0026】
[プログラム部]
プログラム部19は、動画の作成方法の実行に必要なプログラム(コンピュータプログラム)である。プログラム部(プログラム)19は、演算部15によって実行されることにより、コンピュータ3を、特定の手段として機能させることができる。
【0027】
本実施形態のプログラム部19には、打撃タイミング特定部19a、時間帯域抽出部19b、領域抽出部19c及び第2動画抽出部19dが含まれる。さらに、本実施形態のプログラム部19には、タイミング判定部19eが含まれる。これらのプログラム部19の機能は、後述の作成方法の各工程で説明される。
【0028】
[動画の作成方法(第1実施形態)]
次に、本実施形態の動画の作成方法が説明される。本実施形態では、作成方法の実行に先立ち、撮影装置2(図1に示す)を用いて、第1動画(すなわち、プレーヤーによる打撃動作を含むスポーツの音データ付き動画)が取得される。
【0029】
図3は、第1動画21の一部分を示す図である。図3では、第1動画21に含まれる複数の画像データ(フレーム)22と、音データ23とが別々に示されている。図3では、第1動画21の画像データ22が、便宜上、平面画像として示されているが、本実施形態の第1動画21の画像データ22は、全天球画像である。音データ23は、音量と時間との関係を示すグラフとして示されている。
【0030】
第1動画21は、プレーヤー4による打撃動作を含むように適宜撮影される。本実施形態のように、ゴルフの第1動画21が取得される場合、打撃動作(例えば、ティーショット等)毎に撮影されてもよい。また、ゴルフコースをラウンドする場合には、例えば、ホール毎や、ラウンド開始から終了までの間(例えば、ホール間の移動を含んでもよい)、第1動画21が連続して撮影されてもよい。また、ゴルフ練習場、ゴルフスクール及び自宅等において練習する場合には、例えば、練習開始から終了までの間(例えば、休憩時間を含んでもよい)、第1動画21が連続して撮影されてもよい。このように、第1動画21が連続して撮影される場合には、その第1動画21に、複数の打撃動作が含まれる。
【0031】
本実施形態では、撮影装置2(図1に示す)で撮影された第1動画21を、コンピュータ3(図1に示す)が受け取る(受信する)ことによって、本実施形態の作成方法の処理が開始される。なお、複数の第1動画21を受け取った場合には、それらの第1動画21毎に、作成方法がそれぞれ実行される。第1動画21は、図2に示したデータ部18の第1動画入力部18aに入力される。
【0032】
図4は、本実施形態の動画の作成方法の処理手順を示すフローチャートである。本実施形態の作成方法の各工程は、コンピュータ3(図1及び図2に示す)によって実施される。
【0033】
[打撃タイミングを特定(第1工程)]
本実施形態の作成方法では、先ず、図3に示した第1動画21に含まれる音データ23に基づいて、第1動画21中のプレーヤー4の打撃タイミング24が特定される(第1工程S1)。打撃タイミング24は、プレーヤー4による一連の打撃動作のうち、打撃した時点(時間)を意味している。本実施形態のように、ゴルフの第1動画21が取得された場合、アドレスからフィニッシュまでの打撃動作のうち、インパクトの時点が、打撃タイミング24として特定される。
【0034】
本実施形態の第1工程S1では、図2に示した第1動画入力部18aに入力された第1動画21(図3に示す)、及び、プログラム部19に含まれる打撃タイミング特定部19aが、作業用メモリ17に読み込まれる。打撃タイミング特定部19aは、第1動画21に含まれる音データ23(図3に示す)に基づいて、第1動画21中のプレーヤー4の打撃タイミング24を特定するためのプログラムである。この打撃タイミング特定部19aが、演算部15によって実行されることで、コンピュータ3を、打撃タイミング24を特定するための手段として機能させることができる。
【0035】
本実施形態の第1工程S1では、先ず、図3に示されるように、第1動画21に含まれる音データ23が抽出される。音データ23は、図2に示した打撃タイミング特定部19aに含まれている公知のアルゴリズム(動画編集ソフトウェア等)に基づいて容易に抽出されうる。
【0036】
次に、本実施形態の第1工程S1では、図3に示されるように、抽出された音データ23に基づいて、第1動画21中のプレーヤー4の打撃タイミング24が特定される。打撃タイミング24は、音データ23に基づいて、適宜特定されうる。
【0037】
一般に、音データ23において、打撃音(例えば、ティーショット時のインパクト音など)25は、打撃音25以外の音声(例えば、風切音、話し声及びノイズなど)と比べて、音量や、その音量の変化量が異なる傾向がある。なお、音量の変化量には、例えば、単位時間あたりの音量の増加量や減少量などが含まれる。
【0038】
本実施形態の打撃音(本例では、インパクト音)25は、他の音声に比べて、音量が大きくなっており、さらに、音量の変化量も大きくなっている。このため、これらの音量や変化量に着目することで、打撃タイミング24を特定することができる。
【0039】
本実施形態では、音データ23の音量の変化量の閾値、及び、音量の閾値の少なくとも一方に基づいて、打撃タイミング24が特定される。これらの閾値は、作成方法の実施に先立ち、様々なプレーヤーの打撃音を予め収集し、かつ、解析することで、容易に設定されうる。
【0040】
本実施形態の第1工程S1では、音データ23において、音データ23の音量の変化量、及び、音量の少なくとも一方が、予め定められた閾値以上となる時間(時刻)が特定される。そして、特定された時間が、第1動画21中の打撃タイミング24として特定される。なお、複数の時間(時刻)に亘って、音量の変化量及び音量が閾値以上となっている場合には、それらの複数の時間(時刻)から選択された(例えば、音量や変化量が最も大きい)一つの時間(時刻)が、打撃タイミング24として特定されてもよい。また、第1動画21において、複数の打撃動作が撮影されている場合には、それらの打撃動作ごとに、打撃タイミング24がそれぞれ特定される。
【0041】
本実施形態の第1工程S1(打撃タイミング特定部19a)では、第1動画21に含まれる音データ23に基づいて、打撃タイミング24が特定される。このため、例えば、第1動画21に含まれる全ての画像データ22を対象とした画像解析に基づいて、打撃タイミング24が特定される場合に比べて、特定に要する時間を短縮しうる。特定された打撃タイミング24は、図2に示した打撃タイミング入力部18cに入力される。
【0042】
[打撃タイミングの有無を判定]
次に、本実施形態の作成方法では、図3に示した第1動画21に、打撃タイミング24が含まれるか否かが判定される(工程S2)。
【0043】
本実施形態の工程S2では、先ず、図2に示した打撃タイミング入力部18cに入力された打撃タイミング24(図3に示す)、及び、プログラム部19に含まれるタイミング判定部19eが、作業用メモリ17に読み込まれる。タイミング判定部19eは、図3に示した第1動画21に、打撃タイミング24が含まれるか否かを判定するためのプログラムである。このタイミング判定部19eが、演算部15によって実行されることで、コンピュータ3を、打撃タイミング24が含まれるか否かを判定するための手段として機能させることができる。
【0044】
工程S2での判定が肯定的(「Yes」)である場合(すなわち、図3に示した第1動画21に打撃タイミング24が含まれる場合)、次の第2工程S3が実施される。一方、工程S2での判定が否定的(「No」)である場合(すなわち、第1動画21に打撃タイミング24が含まれていない場合)、打撃動作を含む第2動画を作成できない。このため、本実施形態の作成方法の一連の処理が終了する。
【0045】
[打撃タイミング前後の動画を抽出(第2工程)]
次に、本実施形態の作成方法では、図3に示されるように、第1動画21から、特定された打撃タイミング24の前後の予め定められた時間帯域(以下、「第2時間帯域」ということがある。)26の動画27が抽出される(第2工程S3)。
【0046】
本実施形態の第2工程S3では、先ず、図2に示した打撃タイミング入力部18cに入力された打撃タイミング24(図3に示す)、及び、プログラム部19に含まれる時間帯域抽出部19bが、作業用メモリ17に読み込まれる。時間帯域抽出部19bは、図3に示した第1動画21から、打撃タイミング24の前後の予め定められた第2時間帯域26の動画27を抽出するためのプログラムである。この時間帯域抽出部19bが、演算部15によって実行されることで、コンピュータ3を、打撃タイミング24の前後の第2時間帯域26の動画27を抽出するための手段として機能させることができる。
【0047】
図3に示されるように、第2時間帯域26は、例えば、打撃タイミング24の前後を含むように設定される。第2時間帯域26の長さは、プレーヤー4による打撃動作に要する時間に応じて、適宜設定されうる。本実施形態のように、ゴルフの打撃動作(例えば、ティーショット等)が撮影された場合、その打撃動作(例えば、トップからインパクト直後まで)に必要な時間を少なくとも含むように、第2時間帯域26の長さが設定される。本実施形態の第2時間帯域26の長さは、例えば、第1動画21が60fps(フレームレート)で撮影された場合、打撃タイミング24の15フレーム前から、打撃タイミングの5フレーム後までの20フレーム分の時間(約0.3秒)に設定される。これにより、第2時間帯域26に、打撃動作中の時間を確実に含ませることが可能となる。
【0048】
本実施形態の第2工程S3では、先ず、第1動画21に含まれる複数の画像データ(フレーム)22のうち、打撃タイミング24の時間(時刻)に撮影された画像データ22aが特定される。そして、第2時間帯域26の長さに基づいて、特定された画像データ22の前後に撮影された複数の画像データ(一部の画像データ22cを図3に示す)が特定される。そして、これらの画像データ22c及び22aを含む画像データ22が、第1動画21からトリミング(切り抜き)されることで、打撃タイミング24の前後の第2時間帯域26の動画(以下、単に、「第2時間帯域の動画」ということがある。)27を抽出することができる。
【0049】
本実施形態において、抽出された第2時間帯域の動画27には、その動画27の時間に対応する音データ23が含まれる。また、第1工程S1において、複数の打撃タイミング24が特定されている場合には、1つの打撃タイミング24(第2工程S3の実行が1回目の場合、最初の打撃タイミング24)の前後の第2時間帯域26の動画27が抽出される。
【0050】
このように、本実施形態の第2工程S3(時間帯域抽出部19b)では、第1工程S1で特定された打撃タイミング24(時刻)に基づいて、第1動画21から打撃タイミング24の前後の第2時間帯域26の動画27が抽出される。このため、第2工程S3(時間帯域抽出部19b)では、例えば、第1動画21に含まれる全ての画像データ22を対象とした画像解析を行って、第2時間帯域の動画27が抽出される場合に比べて、抽出に要する時間を短縮することができる。抽出された第2時間帯域の動画27は、時間帯域動画入力部18d(図2に示す)に記憶される。
【0051】
[プレーヤーを含む領域を抽出(第3工程)]
次に、本実施形態の作成方法では、抽出された第2時間帯域の動画27(図3に示す)に含まれる画像データ22に基づいて、打撃動作をしているプレーヤー4を含む領域28が抽出される(第3工程S4)。
【0052】
本実施形態の第3工程S4では、先ず、図2に示した時間帯域動画入力部18dに入力された第2時間帯域の動画27(図3に示す)、及び、プログラム部19に含まれる領域抽出部19cが、作業用メモリ17に読み込まれる。領域抽出部19cは、抽出された第2時間帯域の動画27に含まれる画像データ22に基づいて、打撃動作をしているプレーヤー4を含む領域28を抽出するためのプログラムである。この領域抽出部19cが、演算部15によって実行されることで、コンピュータ3を、打撃動作をしているプレーヤー4を含む領域を抽出するための手段として機能させることができる。
【0053】
本実施形態の第3工程S4では、抽出された第2時間帯域の動画27に含まれる画像データ22(一部の画像データ(フレーム)22c及び22aを図3に示す)において、打撃動作をしているプレーヤー4を含む領域28がそれぞれ切り取られる。これにより、各画像データ22から、打撃動作をしているプレーヤー4のみを抽出した(プレーヤー4以外の人物29を排除した)第2動画の作成が可能となる。図5は、本実施形態の第3工程S4の処理手順の一例を示すフローチャートである。
【0054】
[最初の画像データを抽出]
本実施形態の第3工程S4では、先ず、抽出された第2時間帯域の動画27のうち、最初の画像データ(フレーム)22が抽出される(工程S41)。図6は、抽出された画像データ22を示す図である。図6の画像データ22は、図3に示した画像データ22cである。
【0055】
[全天球画像か否かを判定]
次に、本実施形態の第3工程S4では、抽出された画像データ22が、プレーヤー4の全方向を同時に撮影した全天球画像か否かが判定される(工程S42)。全天球画像か否かの判定は、例えば、画像の保存形式等に応じて適宜行うことができる。
【0056】
工程S42での判定が肯定的(「Yes」)である場合(すなわち、抽出された画像データ22が全天球画像である場合)、全天球画像の歪を補正する工程S43が実施される。
【0057】
一方、工程S42での判定が否定的(「No」)である場合(すなわち、抽出された画像データ22が全天球画像でない場合)、全天球画像の歪を補正する工程S43の実施が省略されて、次の第1判定工程S44が実施される。
【0058】
[全天球画像の歪を補正]
次に、本実施形態の第3工程S4では、全天球画像(抽出された画像データ22)の歪が補正される(工程S43)。歪の補正は、撮影装置2による全天球画像の保存形式等に応じて、適宜実施される。本実施形態の工程S43では、全天球画像が、正距円筒図法、及び、キューブマップの少なくとも一方に基づく画像に変換(補正)される。このような画像では、全天球画像に特有の歪が低減されるため、後述の打撃動作の判定を容易に行うことが可能となる。なお、歪の補正(変換)は、公知のアルゴリズム(動画編集ソフトウェア等)に基づいて、容易に実施することができる。
【0059】
[人物が含まれるか否かを判定(第1判定工程)]
次に、本実施形態の第3工程S4では、抽出された画像データ22(図6に示す)に、少なくとも1人の人物29が含まれるか否かが判定される(第1判定工程S44)。人物29が含まれるか否かの判定は、抽出された画像データ22を用いて、適宜実施することができる。本実施形態では、人体(動体)検出アルゴリズムが用いられる。
【0060】
人体(動体)検出アルゴリズムには、例えば、機械学習に基づく分類器が用いられうる。このような分類器は、画像データ22から抽出される特徴量に基づいて、人体(動体)等を検出することができる。分類器の一例としては、カスケード分類器、SVM分類器、R-CNN(R-CNN、Fast R-CNN等)、YOLO( You Only Look Once )、及び、SSD( Single Shot Multibox Detector )等が挙げられる。
【0061】
分類器には、例えば、オープンソースとなっている学習済みの分類器が用いられてもよい。なお、スポーツ(本例では、ゴルフ)をしている人物の特定精度の向上や、特定に要する時間の短縮のために、学習済みの分類器を転移学習させた新たな分類器が用いられてもよい。さらに、スポーツをしている人物の特徴量に特化して学習させた新たな分類器が用いられてもよい。
【0062】
本実施形態の第1判定工程S44では、抽出された画像データ22において、人物29と判定された領域が、人物領域30として特定される。人物領域30は、例えば、画像データ22の座標値等に基づいて特定される。本実施形態の人物領域30は、矩形状に設定されているが、特に限定されない。
【0063】
第1判定工程S44での判定が肯定的(「Yes」)である場合(すなわち、少なくとも1人の人物29が含まれる場合)、その抽出された画像データ22に、プレーヤー4が含まれる可能性がある。本実施形態では、プレーヤー4か否かを判定する第2判定工程S47に先立ち、人物29の姿勢を特定する工程S45が実施される。
【0064】
一方、第1判定工程S44での判定が否定的(「No」)である場合(すなわち、人物29が含まれない場合)、その抽出された画像データ22に、プレーヤー4が含まれる可能性が低い。このため、画像データ22から、打撃動作をしているプレーヤー4を含む領域28を抽出できないため、工程S46が実施される。
【0065】
[人物の姿勢を特定]
次に、本実施形態の第3工程S4では、抽出された画像データ22に含まれる人物29の姿勢が特定される(工程S45)。人物29の姿勢の特定は、抽出された画像データ22を用いて、適宜実施することができる。本実施形態では、抽出された画像データ22の人物領域30において、プレーヤー4の姿勢が特定されるのが好ましい。これにより、画像データ22の特定対象を小さく(人物領域30に限定)することができ、特定の精度を向上しうる。
【0066】
本実施形態の工程S45では、人物29の姿勢の特定に、打撃動作をしているプレーヤーの姿勢を予め学習した学習モデル(分類器)が用いられる。学習モデルは、人工知能(AI:Artificial Intelligence)を用いたディープラーニング(深層学習)によって生成される。
【0067】
図7は、学習モデル31を示す図である。本実施形態の学習モデル31は、公知の畳み込みニューラルネットワーク(CNN)で構成されており、入力層32、畳み込み層33、プーリング層34、全結合層35及び出力層36を含んで構成されている。
【0068】
入力層32には、打撃動作(例えば、ティーショット等)をしている様々なプレーヤー(プレーヤー4に限定されない)の姿勢の画像37が入力される。これらの打撃動作の姿勢には、例えば、アドレスからインパクトを経てフィニッシュまでの各姿勢が含まれる。さらに、入力層32には、打撃動作をしていない様々な人物(プレーヤー4に限定されない)の姿勢の画像37が含まれる。これらの打撃動作をしていない人物には、例えば、ティーショット待ちのプレーヤーや、キャディ等が含まれる。
【0069】
畳み込み層33では、予め定められたフィルタに基づいて、元の画像37から特徴点を凝縮する処理(畳み込み演算)が行われる。プーリング層34では、畳み込み層33から出力された画像について、特徴点を残しつつ、サイズを小さくする処理が行われる。本実施形態では、畳み込み層33及びプーリング層34が複数設けられている。全結合層35は、複数のユニット38(38a、38b、38c、…)を含んで構成されている。これらの各ユニット38には、プーリング層34の画像39に含まれる画素(図示省略)がそれぞれ入力される。
【0070】
本実施形態の出力層36には、複数のユニット40(40a、40b、40c、…)が含まれる。これらのユニット40には、プレーヤーの打撃動作の姿勢に関する様々なカテゴリが含まれる。これらの打撃動作の姿勢に関するカテゴリ(分類値)には、例えば、「アドレス」、「トップ」、「ダウンスイング」、「インパクト」、「フォロー」及び「フィニッシュ」等が含まれる。さらに、ユニット40には、打撃動作をしていない人物の姿勢に関するカテゴリ(例えば、「ティーショット待ち」、「キャディ」等)が含まれる。
【0071】
出力層36の各ユニット40は、全結合層35の各ユニット38と、重み付け係数42に接続されている。重み付け係数42は、入力に対する出力と、真の出力(教師データ)との差分を小さくするように調整(学習)される。このような学習手法は、誤差逆伝搬法( Backpropagation )と称される。各重み付け係数42が定められることにより、学習モデル31が生成される。
【0072】
本実施形態の工程S45では、図6に示した画像データ22が学習モデル31に入力されることで、画像データ22に含まれる人物29の姿勢(画像)から、姿勢に関するカテゴリ(例えば、「トップ」や「インパクト」など)がそれぞれ特定される。人物29毎に特定された姿勢に関するカテゴリは、画像データ22とともに記憶される。
【0073】
[全ての画像データに含まれる人物の姿勢を特定したか否かを判定]
次に、本実施形態の第3工程S4では、図3に示した第2時間帯域の動画27に含まれる全ての画像データ22(例えば、図3に示した画像データ(フレーム)22c及び22aを含む)について、人物29の姿勢が特定されたか否かが判定される(工程S46)。
【0074】
工程S46での判定が肯定的(「Yes」)である場合(すなわち、全ての画像データ22に含まれる人物29の姿勢が特定された場合)、次の第2判定工程S47が実施される。
【0075】
一方、工程S46の判定が否定的(「No」)である場合(すなわち、全ての画像データ22に含まれる人物29の姿勢が特定されていない場合)、次の画像データ22(例えば、画像データ22cの次の画像データ(図示省略))が抽出される(工程S48)。そして、工程S42~工程S46が再度実施される。これにより、本実施形態の第3工程S4(領域抽出部19c)では、抽出された時間帯域の動画27に含まれる全ての画像データ22について、打撃動作をしているプレーヤー4を含む人物29の姿勢を特定することができる。
【0076】
[人物がプレーヤーか否かを判定(第2判定工程)]
次に、本実施形態の第3工程S4では、抽出された画像データ22に含まれる人物29の姿勢に基づいて、人物29が打撃動作をしているプレーヤー4か否かが判定される(第2判定工程S47)。
【0077】
本実施形態の第2判定工程S47では、先ず、抽出された時間帯域の動画27に含まれる全ての画像データ22(図3に示す)について、画像データ22毎に特定された全ての人物29の姿勢に関するカテゴリ(例えば、「トップ」、「インパクト」、「ティーショット待ち」及び「キャディ」など)が取得される。本実施形態では、全ての画像データ22(図3に示す)について、人物29毎に、姿勢に関するカテゴリがまとめられる(紐付けられる)。なお、画像データ22、22間の同一の人物29の特定は、例えば、図6に示した人物領域30(座標データ)が用いられる。そして、第2判定工程S47では、人物29毎に特定された姿勢に関するカテゴリについて、プレーヤー4の打撃動作の姿勢に関するカテゴリ(例えば、「トップ」や「インパクト」など)が含まれているか否かが判定される。これにより、第2判定工程S47では、図6に示した画像データ22に含まれる人物29の姿勢に基づいて、人物29が打撃動作をしているプレーヤー4か否かを判定することができる。
【0078】
第2判定工程S47での判定が肯定的(「Yes」)である場合(すなわち、人物29が打撃動作をしているプレーヤー4であると判定した場合)、その抽出された画像データ22に、打撃動作をしているプレーヤー4が含まれる。このため、プレーヤー4を含む領域28を抽出する工程S49が実施される。
【0079】
一方、第2判定工程S47での判定が否定的(「No」)である場合(すなわち、人物29が打撃動作をしているプレーヤー4ではないと判定した場合)、その抽出された画像データ22に、打撃動作をしているプレーヤー4が含まれていない。このため、画像データ22からプレーヤー4を含む領域28の抽出が行われずに、第3工程S4の一連の処理が終了する。
【0080】
[領域を抽出]
次に、本実施形態の第3工程S4では、図6に示されるように、画像データ22(図3に示す)から、打撃動作をしているプレーヤー4を含む領域28が抽出される(工程S49)。本実施形態の工程S49では、図3に示した第1動画21のうち、第1時間帯域43(すなわち、第2動画(図示省略)が作成される時間帯域)に含まれる画像データ22から、打撃動作をしているプレーヤー4を含む領域28が抽出される。第1時間帯域43は、第2時間帯域26よりも長く設定される。本実施形態の第1時間帯域43は、特定された打撃タイミング24から±7秒の範囲(すなわち、打撃タイミング24の前後を含む14秒)に設定される。
【0081】
本実施形態では、打撃動作をしているプレーヤー4が含まれると判定された人物領域30に基づいて、第1時間帯域43に含まれる画像データ22から、打撃動作をしているプレーヤー4を含む領域28がそれぞれ抽出される。領域28は、例えば、画像データ22の座標値等に基づいて特定される。
【0082】
領域28の大きさは、特に限定されるわけではなく、人物領域30の大きさと同一に設定されてもよい。なお、人物領域30の大きさは、打撃動作をしているプレーヤー4の姿勢によって変動する。このため、領域28の大きさが、人物領域30の大きさと同一に設定されると、第1動画21から抽出された各画像データ22(例えば、図3に示した画像データ22a~22d)において、抽出される領域28の大きさが統一されない場合がある。このため、領域28の大きさは、人物領域30よりも大に設定され、かつ、各画像データ22において統一されるのが好ましい。これにより、工程S49(領域抽出部19c)では、抽出された各画像データ22において、打撃動作をしているプレーヤー4を領域28に含めつつ、後述の第4工程S5において、共通の大きさの領域28を含む第2動画の作成が可能となる。
【0083】
領域28は、プレーヤー4が右利きの場合、プレーヤー4に対して、図の右側が広くなるように設定されるのが好ましい。一方、プレーヤー4が左利きの場合、プレーヤー4に対して、図の左側が広くなるように設定されるのが好ましい。これにより、プレーヤー4のスイング、インパクト時の打球の軌道、及び、打ち出し角などを撮影することができる。第1時間帯域43に含まれる全ての画像データ22について、各画像データ22から抽出された領域28は、図2に示した抽出領域入力部18eにそれぞれ入力される。
【0084】
[第2動画を抽出(第4工程)]
次に、本実施形態の作成方法では、抽出された領域28、かつ、打撃タイミング24の前後の打撃動作を含む時間帯域(第1時間帯域43)の動画が、第2動画として抽出される(第4工程S5)。なお、第2判定工程S47での判定が否定的(「No」)である場合、領域28が抽出されていない。この場合、第4工程S5の実施が省略され、次の工程S6が実施される。
【0085】
本実施形態の第4工程S5では、先ず、図2に示した抽出領域入力部18eに入力されている各画像データ22の領域28(図6に示す)、及び、プログラム部19の第2動画抽出部19dが、作業用メモリ17に読み込まれる。第2動画抽出部19dは、第2動画として抽出するためのプログラムである。この第2動画抽出部19dが、演算部15によって実行されることで、コンピュータ3を、第2動画を抽出するための手段として機能させることができる。
【0086】
本実施形態では、図3に示したプレーヤー4による打撃動作の時系列に沿って、第3工程S4で抽出された各画像データ22の領域28(フレーム)が結合される。これにより、抽出された領域28、かつ、打撃タイミング24の前後の打撃動作を含む第1時間帯域43の動画が抽出される。この動画は、第2動画41として作成される。図8は、本実施形態の第2動画41を示す図である。第2動画41は、図2に示した第2動画入力部18bに入力される。
【0087】
[全ての打撃タイミングの第2動画作成の有無を判定]
次に、本実施形態の作成方法では、第1動画21に含まれる全ての打撃タイミング24の第2動画41が抽出されたか否かが判定される(工程S6)。
【0088】
本実施形態の工程S2では、先ず、図2に示した打撃タイミング入力部18cに入力された打撃タイミング24(図3に示す)、及び、プログラム部19に含まれるタイミング判定部19eが、作業用メモリ17に読み込まれる。タイミング判定部19eは、図3に示した第1動画21に含まれる全ての打撃タイミング24(図3では、1つの打撃タイミング24のみ表示)の第2動画41が抽出されたか否かを判定するためのプログラムである。このタイミング判定部19eが、演算部15によって実行されることで、コンピュータ3を、全ての打撃タイミング24の第2動画が抽出された否かを判定するための手段として機能させることができる。
【0089】
工程S6での判定が肯定的(「Yes」)である場合(すなわち、全ての打撃タイミング24の第2動画41が抽出された場合)、本実施形態の作成方法の一連の処理が終了する。一方、工程S6での判定が否定的(「No」)である場合(すなわち、全ての打撃タイミング24の第2動画41が抽出されていない場合)、第2工程S3~工程S6が再度実施される。
【0090】
再度実施される第2工程S3では、第1動画21に含まれる打撃タイミング24のうち、次の打撃タイミング24の前後の時間帯域(第2時間帯域26)の動画27が抽出され、第4工程S5では、第1時間帯域43の動画が、第2動画41として抽出される。これにより、本実施形態の作成方法では、第1工程S1で複数の打撃タイミング24が特定された場合において、複数の打撃タイミング24毎に、第2動画41が抽出されうる。したがって、プレーヤー4による複数の打撃動作を含む第1動画21(図3に示す)が撮影されたとしても、それらの打撃動作ごとに、第2動画41をそれぞれ作成することができる。
【0091】
このように、本実施形態の作成方法(プログラム及び動画作成システム1)では、第1動画21(図3に示す)から、打撃動作をしているプレーヤー4を含む画像領域(領域28)及び時間帯域(第1時間帯域43)を抜粋した第2動画41を作成することができる。このような第2動画41は、例えば、ホールをラウンド中のプレーヤー4の第1動画21(図3に示す)が撮影されて場合、各ホールでのショットを記録したラウンドログ(ダイジェスト動画)として作成されうる。また、ゴルフを練習中のプレーヤー4が撮影された場合には、トレーニングログとして第2動画41が作成されうる。
【0092】
本実施形態の作成方法(プログラム及び動画作成システム1)では、図3に示した第1動画21に含まれる音データ23に基づいて、打撃タイミング24が特定される。このため、例えば、画像データ22を対象とする画像解析に基づいて特定される場合に比べて、打撃タイミング24を短時間で特定することができる。
【0093】
さらに、本実施形態の作成方法(プログラム及び動画作成システム1)は、第1動画21から抽出された第2時間帯域26の動画27に含まれる画像データ22(例えば、画像データ22c、22aを含む)に基づいて、打撃動作をしているプレーヤー4を含む領域28が抽出される。これにより、領域28の抽出対象が、抽出された第2時間帯域26の動画27に限定されるため、例えば、第1動画21に含まれる全ての画像データ22や、第1時間帯域43に含まれる画像データ22を対象に、領域28が抽出される場合に比べて、領域28の抽出に要する時間を短縮することができる。
【0094】
そして、本実施形態の作成方法(プログラム及び動画作成システム1)では、抽出された領域28、かつ、打撃タイミング24の前後の打撃動作を含む第1時間帯域43の動画が、図8に示した第2動画41として抽出される。これにより、本実施形態の作成方法(プログラム及び動画作成システム1)では、打撃動作をしているプレーヤー4を含む画像領域(領域28)及び第1時間帯域43を抜粋した第2動画41を、短時間で作成することができる。したがって、例えば、ラウンド中に撮影された多数の第1動画21から、各ショットを記録したラウンドログ(インパクトシーンのダイジェスト動画)を、簡単かつ短時間で作成(抽出)することができる。
【0095】
第2動画41は、図1に示したコンピュータ3から、撮影装置2又は携帯端末7に送信されるのが好ましい。これにより、プレーヤー4は、ラウンドログ又はトレーニングログとして、第2動画41を閲覧することができる。このような第2動画41は、例えば、写真管理用アプリケーションによって閲覧されてもよい。このような写真管理用アプリケーションが用いられることで、複数の第2動画41の並び替えや、任意の第2動画41への絞り込み等の操作を容易に行うことができる。
【0096】
第4工程S5では、第2動画41の領域28が、パノラマ画像(平面画像)にそれぞれ変換されてもよい。本実施形態の領域28は、正距円筒図法及びキューブマップの少なくとも一方に基づく画像で構成されているため、プレーヤー4を任意の方向から見た平面画像へと変換されうる。これにより、図1に示した撮影装置2又は携帯端末7の小さなタッチパネルディスプレイ等において、プレーヤー4による打撃動作を確認することができる。
【0097】
第2動画41には、例えば、打撃動作に関するあらゆる情報や、クラブに関するあらゆる情報等がデータ化されて付加されてもよい。これらの情報を第2動画41に付加することで、プレーヤー4が、見たい情報を迅速に確認でき、自身のパフォーマンス(成果)等を容易に確認することができる。
【0098】
打撃動作に関する情報には、例えば、撮影時間や、撮影場所(例えば、コース名や練習場名)、ホール番号、ライの状態、及び、芝の状態等が含まれてもよい。さらに、打撃動作に関する情報は、例えば、打撃の結果(ボールスピードや打ち出し角、ヘッドスピード等)が含まれてもよい。クラブに関する情報には、例えば、番手(ロフト角)、メーカー、モデル名、シャフト等が含まれる。これらの情報は、例えば、撮影装置2又は携帯端末7から取得可能なGPSの情報に基づいて、自動的に入力されてもよいし、プレーヤー4によって直接入力されてもよい。
【0099】
[動画の作成方法(第2実施形態)]
これまでの実施形態の第2工程S3では、図3に示されるように、第1工程S1で特定された打撃タイミング24に基づいて、第1動画21から、打撃タイミング24の前後の第1時間帯域43の動画27が抽出されたが、このような態様に限定されない。第1工程S1では、第1動画21に含まれる音データ23に基づいて、打撃タイミング24が特定されることから、例えば、音データ23に、他のプレーヤーの打撃音や、打撃音に近似する音などが含まれると、打撃タイミング24を正しく特定できない場合がある。
【0100】
[打撃タイミングを補正]
この実施形態の作成方法では、第2工程S3に先立ち、第1工程S1で特定された打撃タイミング24が補正される(工程S7)。図9は、本発明の他の実施形態の作成方法の処理手順を示すフローチャートである。
【0101】
この実施形態の工程S7では、先ず、図2に示した打撃タイミング入力部18cに入力された打撃タイミング24(図3に示す)、及び、プログラム部19に含まれる打撃タイミング補正部(図示省略)が、作業用メモリ17に読み込まれる。打撃タイミング補正部は、第1工程S1で特定された打撃タイミング24を補正するためのプログラムである。この打撃タイミング補正部が、演算部15によって実行されることで、コンピュータ3を、打撃タイミング24を補正するための手段として機能させることができる。
【0102】
工程S7では、打撃タイミング24(図3に示す)が適宜補正されうる。この実施形態の工程S7では、先ず、打撃タイミング24に対応する画像データ22(図3に示した画像データ22a)が、図1に示した撮影装置2又は携帯端末7のタッチパネルディスプレイ等に表示される。次に、工程S7では、表示された画像データ22が、実際の打撃タイミング24の画像として正しいか否かを、プレーヤー4(図1に示す)等に確認させる。そして、正しくないと判断された場合に、プレーヤー4等によって、打撃タイミング24が補正される。
【0103】
打撃タイミング24の補正は、適宜実施される。例えば、図1に示した撮影装置2又は携帯端末7のタッチパネルディスプレイ等に、図3に示した第1動画21を再生させて、第1動画21に含まれる画像データ22のうち、打撃タイミング24を撮影した画像データ22が、プレーヤー4等によって指定される。そして、その指定された画像データ22が撮影された時間が、正しい打撃タイミング24として補正(特定)される。補正された打撃タイミング24は、打撃タイミング入力部18c(図2に示す)に入力される。
【0104】
この実施形態の第2工程S3では、補正された打撃タイミング24に基づいて、第2時間帯域26の動画27(図3に示す)が抽出される。さらに、第3工程S4では、抽出された第2時間帯域26の動画27に含まれる画像データ22に基づいて、打撃動作をしているプレーヤー4を含む領域28が抽出される。これにより、第4工程S5において、打撃タイミング24の前後の打撃動作を含む第2動画41(図8に示す)を確実に作成することが可能となる。
【0105】
[動画の作成方法(第3実施形態)]
これまでの実施形態の第4工程S5は、第3工程S4で抽出された領域28(図3及び図6に示す)に基づいて、第2動画41(図8に示す)が抽出されたが、このような態様に限定されない。例えば、図3に示した第2時間帯域26の動画27に含まれる画像データ22に、プレーヤー4の打撃動作とともに、他のプレーヤーの打撃動作(ゴルフスイング)が撮影されていると、第3工程S4において、他のプレーヤーを含む領域が抽出される場合がある。
【0106】
[領域を補正]
この実施形態の作成方法では、第4工程S5に先立ち、第3工程S4で抽出された領域28(図3及び図6に示す)が補正される(工程S8)。図10は、本発明のさらに他の実施形態の作成方法の処理手順を示すフローチャートである。
【0107】
この実施形態の工程S8では、先ず、図2に示した抽出領域入力部18eに入力されている領域28(図6及び図8に示す)、及び、プログラム部19に含まれる領域補正部(図示省略)が、作業用メモリ17に読み込まれる。領域補正部は、抽出された領域28を補正するためのプログラムである。この領域補正部が、演算部15によって実行されることで、コンピュータ3を、領域28を補正するための手段として機能させることができる。
【0108】
領域28の補正は、領域28を正しく抽出できれば、適宜実施されうる。この実施形態の工程S8では、先ず、領域28が特定された画像データ22(図6に示す)が、図1に示した撮影装置2又は携帯端末7のタッチパネルディスプレイ等に表示される。次に、工程S8では、表示された領域28が、打撃動作をしているプレーヤー4を含んでいるか否かを、プレーヤー4等に確認させる。そして、含まれていないと判断された場合に、プレーヤー4等によって、領域28が補正される。
【0109】
領域28の補正は、適宜実施される。例えば、図1に示した撮影装置2又は携帯端末7のタッチパネルディスプレイ(図示省略)に、画像データ22を表示させて、打撃動作をしているプレーヤー4が含まれる領域28が指定されてもよい。領域28の指定は、例えば、撮影装置2又は携帯端末7のタッチパネルディスプレイから入力されうる。補正された領域28は、抽出領域入力部18e(図2に示す)に入力される。
【0110】
この実施形態の第4工程S5では、補正された領域28に基づいて、図8に示した第2動画41が抽出される。これにより、プレーヤー4による打撃動作を含む第2動画41を確実に作成することが可能となる。
【0111】
以上、本発明の特に好ましい実施形態について詳述したが、本発明は図示の実施形態に限定されることなく、種々の態様に変形して実施しうる。
【0112】
[付記]
本発明は以下の態様を含む。
【0113】
[本発明1]
プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するための方法であって、
前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する第1工程と、
前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する第2工程と、
前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する第3工程と、
前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する第4工程とを含む、
動画の作成方法。
[本発明2]
前記画像データは、前記プレーヤーの全方向を同時に撮影した全天球画像であり、
前記全天球画像の歪を補正する工程をさらに含む、本発明1に記載の動画の作成方法。
[本発明3]
前記第1動画の解像度は、4K以上である、本発明1又は2に記載の動画の作成方法。
[本発明4]
前記第1工程は、前記音データの音量の変化量、及び、前記音量の閾値の少なくとも一方に基づいて、前記打撃タイミングを特定する、本発明1ないし3のいずれかに記載の動画の作成方法。
[本発明5]
前記第3工程は、前記画像データに、少なくとも1人の人物が含まれるか否かを判定する第1判定工程を含み、
前記第1判定工程での判定が否定的である場合、前記画像データから前記領域の抽出を行わない、本発明1ないし4のいずれかに記載の動画の作成方法。
[本発明6]
前記第1判定工程での判定が肯定的である場合、前記画像データに含まれる前記人物の姿勢に基づいて、前記人物が前記打撃動作をしているプレーヤーか否かを判定する第2判定工程を含み、
前記第2判定工程での判定は否定的である場合、前記画像データから前記領域の抽出を行わない、本発明5に記載の動画の作成方法。
[本発明7]
前記第2判定工程での判定が肯定的である場合、前記画像データから前記領域を抽出する、本発明6に記載の動画の作成方法。
[本発明8]
前記第2判定工程は、前記打撃動作をしているプレーヤーの姿勢を予め学習した学習モデルを用いて判定する、本発明6に記載の動画の作成方法。
[本発明9]
前記第1工程で複数の前記打撃タイミングが特定された場合、複数の前記打撃タイミング毎に、前記第2動画を抽出する工程を含む、本発明1ないし8のいずれかに記載の動画の作成方法。
[本発明10]
前記第2工程に先立ち、前記第1工程で特定された前記打撃タイミングを補正する工程を含む、本発明1ないし9のいずれかに記載の動画の作成方法。
[本発明11]
前記第4工程に先立ち、前記第3工程で抽出された前記領域を補正する工程を含む、本発明1ないし10のいずれかに記載の動画の作成方法。
[本発明12]
前記スポーツは、ゴルフを含む、本発明1ないし11のいずれかに記載の動画の作成方法。
[本発明13]
プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するためのコンピュータプログラムであって、
コンピュータを、
前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する手段と、
前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する手段と、
前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する手段と、
前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する手段として機能させる、
コンピュータプログラム。
[本発明14]
プレーヤーによる打撃動作を含むスポーツの音データ付き動画である第1動画から、一部の画像領域かつ一部の時間帯域を抜粋して第2動画を作成するためのシステムであって、
前記第1動画を取得するための撮影装置と、
前記第1動画を受け取って、前記第2動画を作成するためのコンピュータとを含み、
前記コンピュータは、
前記第1動画に含まれる音データに基づいて、前記第1動画中の前記プレーヤーの打撃タイミングを特定する打撃タイミング特定部と、
前記第1動画から、前記特定された打撃タイミングの前後の予め定められた時間帯域の動画を抽出する時間帯域抽出部と、
前記抽出された動画に含まれる画像データに基づいて、前記打撃動作をしているプレーヤーを含む領域を抽出する領域抽出部と、
前記抽出された領域、かつ、前記打撃タイミングの前後の前記打撃動作を含む時間帯域の動画を前記第2動画として抽出する第2動画抽出部とを含む、
動画作成システム。
【符号の説明】
【0114】
S1 打撃タイミングを特定する第1工程
S3 時間帯域の動画を抽出する第2工程
S4 プレーヤーを含む領域を抽出する第3工程
S5 第2動画として抽出する第4工程
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10