(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024104587
(43)【公開日】2024-08-05
(54)【発明の名称】動画像生成システム、動画像生成方法及び動画像生成プログラム
(51)【国際特許分類】
H04N 23/60 20230101AFI20240729BHJP
H04N 5/91 20060101ALI20240729BHJP
【FI】
H04N23/60 500
H04N5/91
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2023008885
(22)【出願日】2023-01-24
(71)【出願人】
【識別番号】000005223
【氏名又は名称】富士通株式会社
(74)【代理人】
【識別番号】100087480
【弁理士】
【氏名又は名称】片山 修平
(72)【発明者】
【氏名】片岡 研一
(72)【発明者】
【氏名】秋山 深一
(72)【発明者】
【氏名】長谷川 徹
【テーマコード(参考)】
5C053
5C122
【Fターム(参考)】
5C053FA14
5C053GB06
5C053JA21
5C053LA01
5C053LA11
5C122DA03
5C122DA42
5C122EA06
5C122EA61
5C122FH10
5C122FH11
5C122FH14
5C122FH20
5C122HA01
5C122HA35
5C122HB05
5C122HB09
(57)【要約】
【課題】移動体(例えば馬)を映し続ける動画像を生成する。
【解決手段】動画像生成システムは、移動体に設けられ、前記移動体の時刻ごとの位置を検出する位置検出装置と、異なる位置範囲の画像を撮像する複数の撮像装置と、前記複数の撮像装置によって撮像された撮像画像の中から、前記位置検出装置から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する情報処理装置と、を備えている。
【選択図】
図8
【特許請求の範囲】
【請求項1】
移動体に設けられ、前記移動体の時刻ごとの位置を検出する位置検出装置と、
異なる位置範囲の画像を撮像する複数の撮像装置と、
前記複数の撮像装置によって撮像された撮像画像の中から、前記位置検出装置から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する情報処理装置と、を備える動画像生成システム。
【請求項2】
前記情報処理装置は、前記複数の撮像装置によって撮像された時刻ごとの撮像画像から時刻ごとのパノラマ画像を生成し、前記時刻ごとのパノラマ画像それぞれにおいて、前記位置検出装置から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする請求項1に記載の動画像生成システム。
【請求項3】
前記情報処理装置は、前記複数の撮像装置によって撮像された撮像画像のうち、前記位置検出装置から出力される位置と時刻との組み合わせに対応する撮像画像を特定するとともに、特定した前記撮像画像において前記移動体を画像認識して、特定した前記撮像画像から前記移動体が撮像されている部分を切り出した画像を抽出し、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする請求項1に記載の動画像生成システム。
【請求項4】
前記撮像画像の画素数は、前記動画像の1フレームの画素数よりも大きい、ことを特徴とする請求項3に記載の動画像生成システム。
【請求項5】
移動体に設けられ、前記移動体の時刻ごとの位置を検出する位置検出装置と、
前記移動体を撮像する撮像装置と、
前記位置検出装置から出力される位置と時刻との組み合わせに基づいて、前記移動体の現在又は将来の位置を予測し、予測した位置に基づいて前記撮像装置を制御して動画像を撮像する情報処理装置と、を備える動画像生成システム。
【請求項6】
前記情報処理装置は、前記撮像装置によって撮像された動画像において前記移動体を画像認識して、前記移動体が撮像されている部分を切り出した画像を抽出し、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする請求項5に記載の動画像生成システム。
【請求項7】
前記情報処理装置は、前記位置検出装置から出力される位置と時刻との組み合わせから得られる前記移動体の移動速度及び移動方向と、に基づいて、前記移動体の現在又は将来の位置を予測する、ことを特徴とする請求項5に記載の動画像生成システム。
【請求項8】
移動体の時刻ごとの位置を取得し、
異なる位置範囲を撮像する複数の撮像装置から撮像画像を取得し、
前記複数の撮像装置によって撮像された撮像画像の中から、取得した位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、
処理をコンピュータが実行することを特徴とする動画像生成方法。
【請求項9】
移動体の時刻ごとの位置を取得し、
取得した位置と時刻との組み合わせに基づいて、前記移動体の現在又は将来の位置を予測し、予測した位置に基づいて撮像装置を制御して動画像を撮像する、
処理をコンピュータが実行することを特徴とする動画像生成方法。
【請求項10】
移動体の時刻ごとの位置を取得し、
異なる位置範囲を撮像する複数の撮像装置から撮像画像を取得し、
前記複数の撮像装置によって撮像された撮像画像の中から、取得した位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、
処理をコンピュータに実行させることを特徴とする動画像生成プログラム。
【請求項11】
移動体の時刻ごとの位置を取得し、
取得した位置と時刻との組み合わせに基づいて、前記移動体の現在又は将来の位置を予測し、予測した位置に基づいて撮像装置を制御して動画像を撮像する、
処理をコンピュータに実行させることを特徴とする動画像生成プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、動画像生成システム、動画像生成方法及び動画像生成プログラムに関する。
【背景技術】
【0002】
カーレースや競馬場、競馬場内のパドック等の様子を中継する場合、定点に設置したカメラを撮影者が手動でパン・チルト・ズームして撮影し、撮影映像を中継車等に集め、映像を切り替えて使用するのが一般的である。この場合、中継を視聴する全視聴者に対して、同一の映像が提供されるようになっている。
【0003】
近年、視聴者の間では、自分の好みに応じた映像(例えば視聴者が好む車やドライバー、競走馬)だけを見たいという要望が高まっている。
【0004】
これに対し、スポーツ中継において選手をユーザが指定した場合に、カメラを選択・制御し、指定した選手を常に一定の位置・大きさで表示する技術が知られている(例えば特許文献1等参照)。また、競馬場のパドックの周囲に連続して設置した複数のカメラの画像からパノラマ映像を作成し、パノラマ映像を解析してトリミングすることにより、特定の馬が映り続ける映像を作成する技術が知られている(例えば特許文献2等参照)。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開平8-221592号公報
【特許文献2】特開2021-166383号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献1では、実空間中での対象物の位置と、複数のカメラの視野情報とに基づいて、カメラの選択・制御を行い、画面上に対象物を常に一定の位置・大きさで表示することとしている。このため、対象物の位置に基づいてリアルタイムで(遅延なく)カメラを選択・制御しないと、適切な映像が得られないおそれがある。
【0007】
また、特許文献2では、パノラマ映像を映像解析してトリミングすることにより、特定の馬が一定の位置に配置された映像を作成する。この場合、パノラマ映像において特定の馬を追尾するために、ゼッケンをマーカとして用いることとしている。しかしながら、ゼッケンをマーカとして用いる場合、ゼッケンが他の物体に隠れてしまいパノラマ映像に映らなくなると、特定の馬を追尾できなくなる可能性がある。
【0008】
1つの側面では、本発明は、移動体を映し続ける動画像を生成することが可能な動画像生成システム、動画像生成方法及び動画像生成プログラムを提供することを目的とする。
【課題を解決するための手段】
【0009】
一つの態様では、動画像生成システムは、移動体に設けられ、前記移動体の時刻ごとの位置を検出する位置検出装置と、異なる位置範囲の画像を撮像する複数の撮像装置と、前記複数の撮像装置によって撮像された撮像画像の中から、前記位置検出装置から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する情報処理装置と、を備えている。
【発明の効果】
【0010】
移動体を映し続ける動画像を生成することができる。
【図面の簡単な説明】
【0011】
【
図1】第1の実施形態に係る動画像生成システムの構成を概略的に示す図である。
【
図2】
図2(a)は、撮像装置により撮像される画像の一例を示す図であり、
図2(b)は、位置データのデータ構造の一例を示す図である。
【
図3】
図3(a)は、利用者端末のハードウェア構成を示す図であり、
図3(b)は、情報処理装置のハードウェア構成を示す図である。
【
図5】撮像装置A、B、Cにより撮像された撮像画像を時系列に沿って並べて示す図である。
【
図6】
図5の画像から得られるパノラマ画像を示す図である。
【
図7】
図7(a)は、パドック1周分のパノラマ画像を示す図であり、
図7(b)は、各撮像装置が撮像できる範囲を説明するための図であり、
図7(c)は、パノラマ画像に位置情報が付帯されていることを説明するための図である。
【
図8】パノラマ画像から各馬の画像を抽出する例を模式的に示す図である。
【
図11】第1の実施形態に係る情報処理装置の処理を示すフローチャートである。
【
図12】第2の実施形態に係る動画像生成システムの構成を概略的に示す図である。
【
図13】第2の実施形態の動画像生成システムが備える情報処理装置の機能ブロック図である。
【
図14】隣接する2つの撮像装置A,Bにより撮像された撮像画像を時系列に沿って並べて示す図である。
【
図15】各馬の画像を抽出する方法について説明するための図である。
【
図16】
図15の例で生成される動画像の一例を示す図である。
【
図17】抽出した画像の一部をトリミングする例について示す図である。
【
図18】
図17の例で生成される動画像の一例を示す図である。
【
図19】第3の実施形態に係る動画像生成システムの構成を概略的に示す図である。
【
図20】第3の実施形態の動画像生成システムが備える情報処理装置の機能ブロック図である。
【
図21】第3の実施形態で生成される動画像(その1)を示す図である。
【
図22】第3の実施形態で生成される動画像(その2)を示す図である。
【発明を実施するための形態】
【0012】
《第1の実施形態》
以下、動画像生成システムの第1の実施形態について、
図1~
図11に基づいて詳細に説明する。
【0013】
図1には、第1の実施形態に係る動画像生成システム100の構成が概略的に示されている。
【0014】
本第1の実施形態の動画像生成システム100は、競馬場のパドック200において利用されるシステムであり、パドック200の様子を示す動画像を利用者端末70に配信するシステムである。利用者は、配信サービスを受ける際に、どの場所にいてもよい。すなわち、利用者は、競馬場内にいてもよいし、自宅等にいてもよい。
【0015】
図1に示すように、パドック200は、手綱を持った人(厩務員)がリードして競走馬が周回する周回路202を備える。なお、パドック200の周回路202は、オーバル形状である。ただし、これに限らず、競走馬が周回できる形状であれば、その他の形状(例えば、円形、楕円形等)であってもよい。パドック200は、競馬(レース)に発走する前の競走馬の状態を客等が確認する施設である。
【0016】
動画像生成システム100は、複数の撮像装置60、複数の位置検出装置75、利用者端末70、情報処理装置10を備える。利用者端末70及び情報処理装置10は、インターネット通信網等を含む通信網80に接続されており、通信可能となっている。また、複数の撮像装置60及び情報処理装置10は、有線LAN(Local Area Network)、無線LAN、インターネット通信網等の通信網82に接続されており、通信可能となっている。更に、複数の位置検出装置75についても、不図示ではあるが通信網82に接続されており、情報処理装置10と通信可能となっている。
【0017】
(撮像装置60)
複数の撮像装置60は、周回路202に沿って、周回路202の周囲全周に連続して所定間隔で設置されている。各撮像装置60の撮像方向(撮像レンズの光軸方向)や高さは、固定されている。撮像装置60の撮像方向は、周回路202の法線方向の外側から内側に向けた方向であり、また、略水平方向である。さらに、複数の撮像装置60の高さは、馬体の真横程度であり、全ての撮像装置60において等しいものとする。
【0018】
各撮像装置60が上述したように設置されていることから、各撮像装置60は、
図2(a)に示すように、馬体の右側の真横から撮影することができる。また、隣合う撮像装置60の撮影範囲は、左右方向において若干重なっているものとする。
【0019】
なお、撮像装置が撮像した撮像画像(動画像の各フレーム)には、メタデータとして時刻情報が付帯している。
【0020】
(位置検出装置75)
位置検出装置75は、移動体としての馬それぞれに取り付けられており、例えばRTK-GNSS(Real-Time Kinematic-Global Navigation Satellite System)受信機を有し、馬の位置情報(緯度、経度)を高精度で(2~3cm程度の誤差範囲内で)検出する。位置検出装置75には、馬の識別情報(馬ID)が対応付けられている。位置検出装置75は、所定時間間隔(例えば、0.1秒間隔)で位置検出を行う。位置検出装置75は、位置検出のタイミングごとに時刻情報を取得し、取得した時刻情報と、馬IDと、を位置情報と紐づける。なお、以下においては、馬IDと時刻情報が紐づけられた位置情報を「位置データ」と呼ぶものとし、位置データのデータ構造は、
図2(b)のようになっているものとする。位置検出装置75は、各馬の位置データを取得するたびに情報処理装置10に送信する。
【0021】
(利用者端末70)
利用者端末70は、利用者が利用するスマートフォンやPC(Personal Computer)などの端末である。
図3(a)には、利用者端末70のハードウェア構成が示されている。
図3(a)に示すように、利用者端末70は、CPU(Central Processing Unit)190、ROM(Read Only Memory)192、RAM(Random Access Memory)194、ストレージ(ここではHDD(Hard Disk Drive)やSSD(Solid State Drive))196、ネットワークインタフェース197、表示部193、入力部195、及び可搬型記憶媒体用ドライブ199等を備えている。これら利用者端末70の構成各部は、バス198に接続されている。表示部193は液晶ディスプレイ等を含み、入力部195はキーボードやマウス、タッチパネル等を含む。利用者は、利用者端末70から、ブラウザや専用のアプリを用いて、パドック200の動画像を視聴可能なサイトにログインし、利用することができる。表示部193には、情報処理装置10から配信される動画像が表示される。また、利用者は、入力部195を介して、どの競走馬が映っている動画像を閲覧したいかを選択することができる。
【0022】
(情報処理装置10)
情報処理装置10は、複数の撮像装置60が撮像した画像(動画像の各フレーム)を用いて、各馬がパドック200を周回している様子を表示する動画像を生成し、利用者端末70に送信する。なお、情報処理装置10は、1台であってもよいし、複数台であってもよい。
【0023】
図3(b)には、情報処理装置10のハードウェア構成が示されている。
図3(b)に示すように、情報処理装置10は、CPU90、ROM92、RAM94、ストレージ96、ネットワークインタフェース97、及び可搬型記憶媒体用ドライブ99等を備えている。これら情報処理装置10の構成各部は、バス98に接続されている。情報処理装置10においては、ROM92あるいはストレージ96に格納されているプログラム(動画像生成プログラムを含む)、或いは可搬型記憶媒体用ドライブ99が可搬型記憶媒体91から読み取ったプログラム(動画像生成プログラムを含む)をCPU90が実行することにより、
図4に示す各部として機能する。なお、
図4の各部の機能は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路により実現されてもよい。
【0024】
図4には、情報処理装置10の機能ブロック図が示されている。
図4に示すように、情報処理装置10においては、CPU90がプログラムを実行することにより、撮像画像取得部30、位置データ取得部32、パノラマ画像生成部34、馬画像抽出部36、動画像生成部38、選択受付部40、出力部42、として機能する。なお、
図4には、ストレージ96等に格納されている動画像DB60や選択DB62も図示されている。
【0025】
撮像画像取得部30は、複数の撮像装置60から撮像画像(動画像の各フレーム)を取得し、パノラマ画像生成部34に受け渡す。
【0026】
位置データ取得部32は、位置検出装置75から取得した各馬の位置データ(
図2(b)参照)を馬画像抽出部36に受け渡す。
【0027】
パノラマ画像生成部34は、同時刻において複数の撮像装置60により撮像された撮像画像(フレーム)を用いてパノラマ画像を生成する。
図5には、一例として、3つの撮像装置A、B、Cにより撮像された撮像画像が時系列に沿って示されている。
図5において横方向に並ぶ画像は、同時刻に撮像された画像であり、上下方向の上側ほど撮像時刻が前であり、下側ほど撮像時刻が後である。パノラマ画像生成部34は、同時刻の撮像画像からパノラマ画像を生成する。例えば、
図5のような3つの撮像装置60により撮像された画像からは、
図6に示すような各時刻のパノラマ画像が生成される。なお、実際には、パドック200の周囲に設置された全撮像装置60の撮像画像を用いるため、
図7(a)に示すように、パドック1周分のパノラマ画像が生成される。
【0028】
ここで、パノラマ画像生成部34は、複数の撮像装置60それぞれが、パドック200の周回路202上のどの範囲を撮像できるかの情報を予め取得しているものとする。例えば、範囲は、
図7(b)において破線枠で示すような周回路202上の矩形領域であるものとする。パノラマ画像生成部34は、当該範囲の四隅の位置情報(緯度、経度)を予め取得している。したがって、パノラマ画像生成部34は、
図7(c)に示すように、パノラマ画像に、位置情報を付帯させることができる。例えば、
図7(c)の中央に位置している馬は、(緯度,経度)が(N5,E5)、(N6,E6)、(n5,e5)、(n6,e6)で規定される範囲内に存在していることになる。
【0029】
図4に戻り、馬画像抽出部36は、パノラマ画像生成部34が生成したパノラマ画像から、各馬の位置データに対応する画像を抽出(トリミング)する。この場合、馬画像抽出部36は、各馬の位置データ(馬ID,位置,時刻)から、パノラマ画像の時刻に対応する各馬の位置情報を特定する。そして、馬画像抽出部36は、特定した位置に対応するパノラマ画像の位置を特定し、特定したパノラマ画像の位置に基づいて抽出範囲を特定する。
図8には、パノラマ画像から各馬の画像を抽出する例が模式的に示されている。本実施形態においては、
図8において破線で示す範囲が抽出される。なお、複数のパノラマ画像から上記のようにして画像を抽出することで、馬がほぼ中央に写った画像を抽出することが可能となっている。
【0030】
動画像生成部38は、馬画像抽出部36が抽出した各馬に対応する画像を時系列に沿ってつなぎ合わせて、
図9に示すような各馬(ゼッケン2番、1番、18番の馬)の動画像を生成する。
図9に示すように、動画像においては、各馬がほぼ中央の一定の位置に映し出されるようになっている。動画像生成部38は、生成した動画像を動画像DB60に格納する。
【0031】
選択受付部40は、利用者が入力部195を介して選択した馬の情報を取得し、選択DB62に格納する。選択DB62には、
図10に示すように、利用者端末70の端末IDと、利用者端末70それぞれにおいて選択された競走馬のID(馬ID)が紐づけて格納される。
【0032】
出力部42は、選択DB62から、各利用者端末70において選択された馬IDを取得し、各利用者が選択した競走馬に対応する動画像を、各利用者の利用者端末70に出力(配信)する。
【0033】
(情報処理装置10の処理について)
次に、情報処理装置10の処理について、
図11のフローチャートに沿って、その他図面を適宜参照しつつ説明する。
【0034】
図11の処理の前提として、ユーザは、ブラウザや専用のアプリからパドック200の動画像を視聴可能なサイトにログインし、当該サイトにおいて、競走馬がパドック200に登場する前に、1頭の競走馬を選択しているものとする。なお、
図10のように、ログインしている各利用者端末70の端末IDと、利用者端末70それぞれにおいて選択された競走馬のID(馬ID)は、選択DB62において管理されている。
図11の処理は、パドック200への競走馬の入場開始のタイミングで開始してもよいし、競馬場の管理者から開始指示が情報処理装置10に入力された段階で開始してもよい。
【0035】
図11の処理が開始されると、ステップS10において、撮像画像取得部30及び位置データ取得部32は、撮像画像及び位置データの取得を開始する。
【0036】
次いで、ステップS12において、パノラマ画像生成部34は、パノラマ画像(
図7(a)参照)の生成を開始する。すなわち、パノラマ画像生成部34は、同じ時刻に複数の撮像装置60で撮像された画像を隣り合わせて配置し、組み合わせることで、パノラマ画像を生成する。なお、パノラマ画像生成部34は、隣り合う撮像画像の重複部分の歪み等を補正することにより、周方向に連続したパノラマ画像を作成する。パノラマ画像は、周回路202を外側から見た画像であって、周回路202上に位置する全ての競走馬を映した画像となる。
【0037】
次いで、ステップS14において、馬画像抽出部36は、各馬の位置情報に基づいて、パノラマ画像から画像を抽出(トリミング)する処理(
図8参照)を開始する。この場合、馬画像抽出部36は、前述したように、パノラマ画像の時刻に対応する各馬の位置情報を各馬の位置データから特定し、特定した各馬の位置に対応するパノラマ画像の位置を特定する。そして、馬画像抽出部36は、特定したパノラマ画像の位置に基づいて抽出範囲を特定し、特定した抽出範囲をトリミングする。例えば、パドック内に10頭の競走馬が存在する場合には、1枚のパノラマ画像から10枚の画像が抽出(トリミング)される。
【0038】
なお、馬画像抽出部36は、抽出した全ての画像における馬体の大きさが、一定となるように、及び馬体が画像内において一定の位置に配置されるように、適宜抽出の仕方を調整してもよい。この場合、馬体を深層学習等により画像認識し、画像認識結果に基づいて、上記調整を行うようにすればよい。
【0039】
次いで、ステップS16において、動画像生成部38は、抽出した画像を時系列に沿ってつなげて動画像を生成する処理(
図9参照)を開始する。この場合、撮像順に従って次々に生成されるパノラマ画像から抽出される画像を繋ぎ合わせた動画像がほぼリアルタイムで生成されることになる。
【0040】
ステップS18において、出力部42は、生成された動画像のうち、利用者端末70において選択された馬に対応する動画像のストリーミング配信を開始する。これにより、利用者は、利用者端末70の表示部193上において、好みの馬(選択した馬)がパドック200を周回する様子を確認することができる。
【0041】
次いで、ステップS20において、選択受付部40は、馬の選択変更があったか否かを判断する。利用者が選択している馬を変更した場合には、このステップS20の判断が肯定され、ステップS18に戻る。この場合、ステップS18において、出力部42は、新たに選択された馬の動画像を利用者端末70に対して出力(ストリーミング配信)する。一方、ステップS20の判断が否定された場合には、ステップS22に移行する。
【0042】
ステップS22に移行すると、撮像画像取得部30及び位置データ取得部32は、終了か否かを判断する。このステップS22の判断が否定された場合には、ステップS20に戻る。一方、ステップS22の判断が肯定された場合には、
図11の全処理を終了する。なお、本第1の実施形態では、例えば、全馬がパドック200の周回を終えたタイミングで、ステップS22の判断が肯定されるようになっている。
【0043】
以上、詳細に説明したように、本第1の実施形態によると、競走馬に設けられた位置検出装置75が、競走馬の時刻ごとの位置を検出する。また、複数の撮像装置60は、異なる位置範囲の画像を撮像する。そして、情報処理装置10は、複数の撮像装置60によって時刻ごとに撮像された撮像画像から時刻ごとのパノラマ画像を生成する。また、情報処理装置10は、各時刻のパノラマ画像から、競走馬の位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する。これにより、情報処理装置10は、競走馬を常時映し出す動画像を生成することができる。この場合、情報処理装置10は、競走馬のゼッケンをマーカとして追尾するような処理を行わないため、仮に撮像画像においてゼッケンが隠れてしまうような場合があっても、競走馬を常時映し出す動画像を生成することができる。
【0044】
なお、上記第1の実施形態では、動画像は動画像DB60に格納される。したがって、情報処理装置10は、利用者に対し、パドックを競走馬が周回した後のタイミングで配信する(見逃し配信する)こともできる。
【0045】
なお、上記第1の実施形態では、動画像生成システム100を、パドック200を周回する競走馬を映す動画像を生成するために用いることとしたが、これに限られるものではない。例えば、競馬場(コース)に複数の撮像装置を設けてもよい。この場合、レースを行う競走馬のうち利用者によって選択された競走馬を常時映し出す動画像を生成することができる。レースにおいては、選択された競走馬が他の競走馬に隠れてしまい、画像認識では、選択された競走馬を追尾できない場合がある。しかしながら、上記第1の実施形態の方法を利用すれば、選択された競走馬が他の競走馬に隠れてしまう場合であっても、選択された競走馬が存在するであろう範囲の画像を抽出することができる。また、競走馬がトレーニングを行うトレーニングセンター(周回調教コースや坂路調教コース)においても上記第1の実施形態の動画像生成システム100を用いることができる。
【0046】
また、上記第1の実施形態の動画像生成システム100は、競馬以外に、カーレースや競艇、陸上競技(例えばトラック競技)、水泳など様々な場面において用いることができる。例えば、カーレースであれば、車に位置検出装置75を設け、コース脇に複数の撮像装置を並べて配置することで、利用者が応援している車の様子を常時確認できる動画像を利用者に対して提供することができる。
【0047】
《第2の実施形態》
次に、第2の実施形態について、
図12~
図18に基づいて詳細に説明する。
【0048】
図12には、第2の実施形態に係る動画像生成システム100’が概略的に示されている。本第2の実施形態に係る動画像生成システム100’は、第1の実施形態と同様、競馬場のパドック200において利用されるシステムであり、パドック200の様子を示す動画像を利用者端末70に配信するシステムである。
【0049】
本第2の実施形態においては、隣り合う撮像装置60の間隔が第1の実施形態よりも広くなっており、各撮像装置60の画角(撮像範囲)も広くなっている。本第2の実施形態では、各撮像装置60の画角が広く、撮像画像の端の部分が歪むため、パノラマ画像を生成する画像として用いるには不向きである。したがって、本第2の実施形態では、パノラマ画像を生成せずに、各馬を常時映し出す動画像を生成する。
【0050】
図13には、本第2の実施形態の動画像生成システム100’が備える情報処理装置10の機能ブロック図が示されている。
図13に示すように、本第2の実施形態においては、第1の実施形態(
図4)と異なり、情報処理装置10は、パノラマ画像生成部34を有していない。また、本第2の実施形態においては、馬画像抽出部36の処理が、第1の実施形態とは異なっている。
【0051】
図14には、隣接する2つの撮像装置A,Bにより撮像された撮像画像を時系列に沿って並べて示す図である。
図14においては、同時刻に撮像された画像(動画像のフレーム)が横方向に並べて配置され、時系列順に撮像された画像が、縦方向の上側から下側に沿って並べて配置されている。
【0052】
本第2の実施形態においては、馬画像抽出部36は、各撮像装置60が撮像可能な範囲(
図7(b)の矩形範囲)を予め取得している。したがって、馬画像抽出部36は、各馬が存在する実空間内の位置(緯度、経度)に基づいて、各馬がどの撮像装置によって撮像されているかを特定することができる。
【0053】
撮像画像取得部30が
図14に示すような画像を取得した場合、馬画像抽出部36は、
図15に示す馬Hの画像を抽出する場合には、馬Hの位置データに基づいて、太線枠で示す画像を抽出する。そして、動画像生成部38は、抽出した画像を時系列に沿ってつないで、
図16に示すような動画像を生成する。
【0054】
図16の動画像は、各フレームにおける馬の位置は一定ではないものの、馬が常時映し出された動画像となっている。
【0055】
なお、馬画像抽出部36は、
図15のように馬を映し出している画像を抽出した場合に、抽出した画像の中から、馬が存在する部分を画像認識により切り出してもよい(トリミングしてもよい)。具体的には、
図17において太線枠で示す範囲を切り出すようにすればよい。これにより、
図18に示すように、動画像において馬体は多少左右に移動するものの、競走馬を見やすく表示することが可能となる。なお、
図17のように、1つのフレームの一部を抽出する場合、撮像装置60が撮像する画像の解像度を高くしておくことが好ましい。例えば撮像画像の1/4の大きさを抽出する場合、撮像装置60が撮像する画像が8K画像や4K画像であれば、動画像は4K画像や2K画像になるからである。
【0056】
以上、説明したように、本第2の実施形態によると、競走馬に設けられた位置検出装置75が、競走馬の時刻ごとの位置を検出する。また、複数の撮像装置60は、異なる位置範囲の画像を撮像する。そして、情報処理装置10は、位置検出装置75から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する。これにより、情報処理装置10は、競走馬を常時映し出す動画像を生成することができる。この場合、情報処理装置10は、競走馬のゼッケンをマーカとして追尾するような処理を行わないため、仮に撮像画像においてゼッケンが隠れてしまうような場合があっても、競走馬を常時映し出す動画像を生成することができる。
【0057】
また、情報処理装置10は、複数の撮像装置60によって撮像された撮像画像のうち、位置検出装置75から出力される位置と時刻との組み合わせに対応する撮像画像を特定する。そして、
図17、
図18の例では、情報処理装置10は、特定した撮像画像において馬を画像認識して、特定した撮像画像から馬が撮像されている部分を切り出す(
図17)。そして、情報処理装置10は、切り出した部分を時系列に沿ってつなぎ合わせた動画像を生成する(
図18)。これにより、競走馬を常時映し出す動画像において、競走馬を見やすく映し出すことが可能となる。
【0058】
なお、上記第2の実施形態においては、第1の実施形態と同様、動画像生成システム100’を、パドック200以外において用いることができる。例えば、動画像生成システム100’は、競馬場(コース)やトレーニングセンター(周回調教コースや坂路調教コース)においても用いることができる。また、動画像生成システム100’は、競馬以外に、カーレースや競艇、陸上競技(例えばトラック競技)、水泳など様々な場面において用いることができる。
【0059】
《第3の実施形態》
次に、第3の実施形態について、
図19~
図22に基づいて詳細に説明する。
【0060】
図19には、第3の実施形態に係る動画像生成システム100”が概略的に示されている。第3の実施形態に係る動画像生成システム100”は、第1、第2の実施形態と同様、競馬場のパドック200において利用されるシステムであり、パドック200の様子を示す動画像を利用者端末70に配信するシステムである。
【0061】
本第3の実施形態では、パドック200の周回路202を周回する馬の数だけ、撮像装置60が設けられており、各撮像装置60は、各馬と対応付けられているものとする。
【0062】
図20には、動画像生成システム100”が備える情報処理装置10の機能ブロック図が示されている。
図20に示すように、本第3の実施形態の情報処理装置10は、第2の実施形態の機能(
図13)に加えて、撮像装置制御部130の機能を有する。
【0063】
撮像装置制御部130は、位置データ取得部32が取得した各馬の位置データに基づいて、各撮像装置60の撮像方向を制御する。具体的には、撮像装置制御部130は、各撮像装置60が、各撮像装置60に対応付けられている馬を常時撮像するように、撮像装置の撮像方向を制御する。なお、撮像装置制御部130は、撮像装置の撮像方向をどの方向に制御すれば、周回路202のどの位置(範囲)を撮像できるかの情報を事前に取得しているものとする。
【0064】
ここで、撮像装置制御部130は、位置データを取得した段階において、位置データに基づく方向に撮像装置60の撮像方向を向けたのでは遅い(馬が撮像できない)可能性がある。位置データが送られてくるまでの間に遅延が生じる可能性があるからである。したがって、撮像装置制御部130は、取得した位置データから馬の現在又は将来の位置を予測し、予測した位置に基づいて撮像装置60を制御する。具体的には、撮像装置制御部130は、位置検出装置75から出力される位置と時刻との組み合わせから得られる馬の移動速度及び移動方向を算出する。そして、算出結果に基づいて、馬の現在又は将来の位置を予測する。なお、この予測において、パドックの形状を考慮してもよい。すなわち、パドックの形状を考慮して、馬の移動方向を所定範囲内に制限したうえで、馬の現在又は将来の位置を予測するようにしてもよい。
【0065】
上記のように撮像装置制御部130が、各馬の現在又は将来の位置に基づいて撮像装置60を制御することで、撮像画像取得部30は、各馬を常時映し出す動画像を取得することができる。したがって、出力部42は、本実施形態では、撮像画像取得部30が取得した画像を利用者端末70に対して提供してもよい。
【0066】
ただし、この場合に出力される動画像は、
図21に示すような動画像となる。より具体的には、
図21の動画像の場合、馬が左から右に移動している状態を映し出す時間と、馬が右から左に移動している状態を映し出す時間と、があり、右から左に移動しているときの馬体の大きさは、左から右に移動しているときよりも小さく映し出される。左から右に移動しているときの方が、撮像装置60からの距離が遠いからである。
【0067】
したがって、本第3の実施形態では、馬画像抽出部36が、
図17の場合と同様、撮像画像の中から、馬が存在する部分を画像認識により切り出す(トリミングする)こととする。これにより、動画像生成部38は、
図22に示すように、馬の大きさが常時一定以上となっている動画像を生成することができる。なお、本第3の実施形態では、馬画像抽出部36がトリミングを行う場合、撮像装置60が撮像する画像の解像度を高くしておくことが好ましい。例えば撮像画像の1/4の大きさを抽出する場合、撮像装置60が撮像する画像が8K画像や4K画像であれば、動画像は4K画像や2K画像になるからである。
【0068】
以上説明したように、本第3の実施形態によると、情報処理装置10は、位置検出装置75から出力される位置データ(位置と時刻との組み合わせ)に基づいて、各馬の現在又は将来の位置を予測しする。そして、情報処理装置10は、予測した位置に基づいて撮像装置60を制御して動画像を撮像する。これにより、各馬を常時映し出す動画像を撮像し、利用者に提供することができる。例えば、位置データが送信されてくるまでに遅延がある場合、取得した位置データを用いて撮像装置60を制御したのでは、馬を撮像できなくなるおそれがある。パドック200における馬の移動速度は4km/h程度であるが、遅延が0.5秒であると、0.56m程度移動してしまい、撮像装置60を制御しても画角内から馬が外れてしまう可能性があるためである。この場合、情報処理装置10は、競走馬のゼッケンをマーカとして追尾するような処理を行わないため、仮に撮像画像においてゼッケンが隠れてしまうような場合があっても、競走馬を常時映し出す動画像を生成することができる。
【0069】
また、本第3の実施形態では、馬画像抽出部36が、撮像装置60によって撮像された画像(動画像の各フレーム)をトリミングして、動画像を生成するので、馬がほぼ一定の大きさで映る動画像を生成することができる。
【0070】
なお、上記第3の実施形態においても、第1、第2の実施形態と同様、動画像生成システム100”を、パドック200以外において用いることができる。
【0071】
なお、上記の処理機能は、コンピュータによって実現することができる。その場合、処理装置が有すべき機能の処理内容を記述したプログラムが提供される。そのプログラムをコンピュータで実行することにより、上記処理機能がコンピュータ上で実現される。処理内容を記述したプログラムは、コンピュータで読み取り可能な記憶媒体(ただし、搬送波は除く)に記録しておくことができる。
【0072】
プログラムを流通させる場合には、例えば、そのプログラムが記録されたDVD(Digital Versatile Disc)、CD-ROM(Compact Disc Read Only Memory)などの可搬型記憶媒体の形態で販売される。また、プログラムをサーバコンピュータの記憶装置に格納しておき、ネットワークを介して、サーバコンピュータから他のコンピュータにそのプログラムを転送することもできる。
【0073】
プログラムを実行するコンピュータは、例えば、可搬型記憶媒体に記録されたプログラムもしくはサーバコンピュータから転送されたプログラムを、自己の記憶装置に格納する。そして、コンピュータは、自己の記憶装置からプログラムを読み取り、プログラムに従った処理を実行する。なお、コンピュータは、可搬型記憶媒体から直接プログラムを読み取り、そのプログラムに従った処理を実行することもできる。また、コンピュータは、サーバコンピュータからプログラムが転送されるごとに、逐次、受け取ったプログラムに従った処理を実行することもできる。
【0074】
上述した実施形態は本発明の好適な実施の例である。但し、これに限定されるものではなく、本発明の要旨を逸脱しない範囲内において種々変形実施可能である。
【0075】
なお、以上の第1~第3の実施形態の説明に関して、更に以下の付記を開示する。
(付記1) 移動体に設けられ、前記移動体の時刻ごとの位置を検出する位置検出装置と、
異なる位置範囲の画像を撮像する複数の撮像装置と、
前記複数の撮像装置によって撮像された撮像画像の中から、前記位置検出装置から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する情報処理装置と、を備える動画像生成システム。
(付記2) 前記情報処理装置は、前記複数の撮像装置によって撮像された時刻ごとの撮像画像から時刻ごとのパノラマ画像を生成し、前記時刻ごとのパノラマ画像それぞれにおいて、前記位置検出装置から出力される位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする付記1に記載の動画像生成システム。
(付記3) 前記情報処理装置は、前記複数の撮像装置によって撮像された撮像画像のうち、前記位置検出装置から出力される位置と時刻との組み合わせに対応する撮像画像を特定するとともに、特定した前記撮像画像において前記移動体を画像認識して、特定した前記撮像画像から前記移動体が撮像されている部分を切り出した画像を抽出し、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする付記1又は2に記載の動画像生成システム。
(付記4) 前記撮像画像の画素数は、前記動画像の1フレームの画素数よりも大きい、ことを特徴とする付記3に記載の動画像生成システム。
(付記5) 移動体に設けられ、前記移動体の時刻ごとの位置を検出する位置検出装置と、
前記移動体を撮像する撮像装置と、
前記位置検出装置から出力される位置と時刻との組み合わせに基づいて、前記移動体の現在又は将来の位置を予測し、予測した位置に基づいて前記撮像装置を制御して動画像を撮像する情報処理装置と、を備える動画像生成システム。
(付記6) 前記情報処理装置は、前記撮像装置によって撮像された動画像において前記移動体を画像認識して、前記移動体が撮像されている部分を切り出した画像を抽出し、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする付記5に記載の動画像生成システム。
(付記7) 前記情報処理装置は、前記位置検出装置から出力される位置と時刻との組み合わせから得られる前記移動体の移動速度及び移動方向と、に基づいて、前記移動体の現在又は将来の位置を予測する、ことを特徴とする付記5に記載の動画像生成システム。
(付記8) 移動体の時刻ごとの位置を取得し、
異なる位置範囲を撮像する複数の撮像装置から撮像画像を取得し、
前記複数の撮像装置によって撮像された撮像画像の中から、取得した位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、
処理をコンピュータが実行することを特徴とする動画像生成方法。
(付記9) 移動体の時刻ごとの位置を取得し、
取得した位置と時刻との組み合わせに基づいて、前記移動体の現在又は将来の位置を予測し、予測した位置に基づいて撮像装置を制御して動画像を撮像する、
処理をコンピュータが実行することを特徴とする動画像生成方法。
(付記10) 移動体の時刻ごとの位置を取得し、
異なる位置範囲を撮像する複数の撮像装置から撮像画像を取得し、
前記複数の撮像装置によって撮像された撮像画像の中から、取得した位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、
処理をコンピュータに実行させることを特徴とする動画像生成プログラム。
(付記11) 前記複数の撮像装置によって撮像された時刻ごとの撮像画像から時刻ごとのパノラマ画像を生成し、前記時刻ごとのパノラマ画像それぞれにおいて、取得した位置と時刻との組み合わせに対応する画像を抽出して、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする付記10に記載の動画像生成プログラム。
(付記12) 前記複数の撮像装置によって撮像された撮像画像のうち、取得した位置と時刻との組み合わせに対応する撮像画像を特定するとともに、特定した前記撮像画像において前記移動体を画像認識して、特定した前記撮像画像から前記移動体が撮像されている部分を切り出した画像を抽出し、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする付記1又は2に記載の動画像生成プログラム。
(付記13) 移動体の時刻ごとの位置を取得し、
取得した位置と時刻との組み合わせに基づいて、前記移動体の現在又は将来の位置を予測し、予測した位置に基づいて撮像装置を制御して動画像を撮像する、
処理をコンピュータに実行させることを特徴とする動画像生成プログラム。
(付記14) 前記撮像装置によって撮像された動画像において前記移動体を画像認識して、前記移動体が撮像されている部分を切り出した画像を抽出し、抽出した画像を時系列に沿ってつなぎ合わせた動画像を生成する、ことを特徴とする付記13に記載の動画像生成プログラム。
(付記15) 取得した位置と時刻との組み合わせから得られる前記移動体の移動速度及び移動方向と、に基づいて、前記移動体の現在又は将来の位置を予測する、ことを特徴とする付記13に記載の動画像生成プログラム。
【符号の説明】
【0076】
10 情報処理装置
60 撮像装置
75 位置検出装置
100 動画像生成プログラム