特許第6763559号(P6763559)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社GPROの特許一覧

<>
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000006
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000007
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000008
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000009
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000010
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000011
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000012
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000013
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000014
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000015
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000016
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000017
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000018
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000019
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000020
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000021
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000022
  • 特許6763559-ボール追跡装置及びボール追跡方法 図000023
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】6763559
(24)【登録日】2020年9月14日
(45)【発行日】2020年9月30日
(54)【発明の名称】ボール追跡装置及びボール追跡方法
(51)【国際特許分類】
   A63B 69/36 20060101AFI20200917BHJP
   G06T 7/277 20170101ALI20200917BHJP
【FI】
   A63B69/36 541S
   A63B69/36 541W
   G06T7/277
【請求項の数】3
【全頁数】24
(21)【出願番号】特願2019-198201(P2019-198201)
(22)【出願日】2019年10月31日
【審査請求日】2019年10月31日
【早期審査対象出願】
(73)【特許権者】
【識別番号】511037447
【氏名又は名称】株式会社GPRO
(74)【代理人】
【識別番号】100170025
【弁理士】
【氏名又は名称】福島 一
(72)【発明者】
【氏名】永井 郷一
(72)【発明者】
【氏名】ヴォ チョン ルアン
(72)【発明者】
【氏名】ド ベト マン
(72)【発明者】
【氏名】ルオン ホン クアン
【審査官】 古川 直樹
(56)【参考文献】
【文献】 特開平04−347181(JP,A)
【文献】 特開2017−119102(JP,A)
【文献】 米国特許出願公開第2018/0043229(US,A1)
【文献】 特開2004−248725(JP,A)
【文献】 特表2006−505292(JP,A)
【文献】 高橋 正樹 Masakki Takahashi,電子情報通信学会2007年総合大会講演論文集 情報・システム2 PROCEEDINGS OF THE 2007 IEICE GENERAL CONFERENCE,2007年 4月 2日,160ページ,特に2.2予測曲線によるフィルタリングを参照。
【文献】 高橋 正樹 Masaki TAKAHASHI,移動体の抽出および動き予測に基づくゴルフのティーショット軌道表示システム Tee shot trajectory visualization in live golf programs using object extraction and motion estimation,映像情報メディア学会技術報告 Vol.30 No.41 ITE Technical Report,日本,(社)映像情報メディア学会 The Institute of Image Information and Television Engineers,2006年 9月13日,第30巻、第41号,17〜20ページ,特に5.打点・落下点・静止点の指定を参照。
【文献】 高橋 正樹,野球投球軌跡作画装置“B−Motion”の開発・運用報告,映像情報メディア学会技術報告 Vol.29 No.9 ,日本,(社)映像情報メディア学会,2005年 2月 4日,第29巻,第119ページから第124ページ,特に第122ページ第1行から第24行を参照。
(58)【調査した分野】(Int.Cl.,DB名)
IPC A63B69/36
(57)【特許請求の範囲】
【請求項1】
ボールをカメラで撮影する撮影制御部と、
前記ボールの飛弾を検出する検出制御部と、
前記ボールの飛弾が検出された場合の初期時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを、飛行ボールの3次元初期位置と3次元初期速度として算出する算出制御部と、
前記算出された飛行ボールの3次元初期位置と3次元初期速度と、飛行ボールの放物線を示す下記の(8)とに基づいて、初期時刻以降の特定の時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを、飛行ボールの3次元予測位置と3次元予測速度として予測する予測制御部と、
前記予測された飛行ボールの3次元予測位置を、前記特定の時刻で撮影された撮影画像内のカメラ座標系の2次元位置に、仮位置として変換する変換制御部と、
前記変換された撮影画像内の仮位置に基づいて、前記特定の時刻における撮影画像内での前記飛行ボールを示す飛行ボール画像を特定し、当該特定された飛行ボール画像のカメラ座標系の2次元位置を、飛行ボール画像の2次元観測位置として取得する取得制御部と、
状態モデルの下記の方程式(11)と、観測モデルの下記の方程式(12)とに基づいて、前記予測値を真の値に近づけるために当該予測値を修正するカルマンフィルタを用いて、前記特定の時刻における飛行ボールの3次元予測位置と3次元予測速度を、前記カルマンフィルタの状態モデルによる予測値にし、前記特定の時刻における飛行ボール画像の2次元観測位置を、前記カルマンフィルタの観測モデルによる観測値にして、当該特定の時刻における飛行ボールの3次元予測位置と3次元予測速度とを、前記特定の時刻における、真の値に近い飛行ボールの3次元修正位置と3次元修正速度として修正する修正制御部と、
前記特定の時刻における飛行ボールの3次元修正位置と3次元修正速度とを用いて、前記予測と、前記変換と、前記取得と、前記修正とを繰り返すことで、前記特定の時刻以降の時刻の飛行ボールの3次元修正位置と3次元修正速度とを得て、当該飛行ボールの軌跡を算出し、前記繰り返しを完了すると、前記飛行ボールの3次元修正位置と3次元修正速度とを用いて、飛弾された飛行ボールの飛行パラメータを算出する繰り返し制御部と、
を備え
前記式(8)は、
【数1】
と定義され、kdは、(−1/2m)CdρAであり、kmは、(1/2m)CmρArであり、Tは、撮影時間間隔であり、mは、前記飛行ボールの重量であり、Cdは、空気抵抗力の係数であり、ρは、空気の密度であり、Aは、前記飛行ボールの前面投影面積であり、V=(Vxr、Vyr、Vzr)は、前記飛行ボールの3次元速度であり、rは、前記飛行ボールの半径であり、ω=(ωx、ωy、ωz)は、前記飛行ボールの3次元スピン速度であり、初期状態では、ω=(ωx、ωy、ωz)=(0、0、0)であり、
前記式(11)は、
x(k+1)=F(k)×x(k)+w(k) ・・・(11)
と定義され、kは、時間係数であり、F(k)が、kでの放物線を示す式に対応し、x(k)が、kでの前記飛行ボールの3次元予測位置及び3次元予測速度に対応し、w(k)は、kでのプロセスノイズであり、x(k+1)は、k+1での前記飛行ボールの3次元予測位置と3次元予測速度に対応し、
前記式(12)は、
y(k)=H(k)×x(k)+v(k) ・・・(12)
と定義され、H(k)が、kでの世界座標系の3次元位置をカメラ座標系の2次元位置に変換する式に対応し、v(k)は、kでのプロセスノイズであり、y(k)は、kでの飛行ボール画像の2次元観測位置に対応する、
ボール追跡装置。
【請求項2】
前記取得制御部は、
前記変換された撮影画像内の仮位置を中心とした探索範囲を決定し、決定した探索範囲からエッジ画像を検出し、検出したエッジ画像を含む最小円画像を算出し、当該エッジ画像の専有面積から最小円画像の最小占有面積を除算した除算値を算出し、除算値が、飛行ボール基準値の範囲内で、且つ、円を示す円基準値に最も近いエッジ画像を飛行ボール画像として特定する、
請求項1に記載のボール追跡装置。
【請求項3】
ボールをカメラで撮影する撮影制御ステップと、
前記ボールの飛弾を検出する検出制御ステップと、
前記ボールの飛弾が検出された場合の初期時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを、飛行ボールの3次元初期位置と3次元初期速度として算出する算出制御ステップと、
前記算出された飛行ボールの3次元初期位置と3次元初期速度と、飛行ボールの放物線を示す下記の(8)とに基づいて、初期時刻以降の特定の時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを、飛行ボールの3次元予測位置と3次元予測速度として予測する予測制御ステップと、
前記予測された飛行ボールの3次元予測位置を、前記特定の時刻で撮影された撮影画像内のカメラ座標系の2次元位置に、仮位置として変換する変換制御ステップと、
前記変換された撮影画像内の仮位置に基づいて、前記特定の時刻における撮影画像内での前記飛行ボールを示す飛行ボール画像を特定し、当該特定された飛行ボール画像のカメラ座標系の2次元位置を、飛行ボール画像の2次元観測位置として取得する取得制御ステップと、
状態モデルの下記の方程式(11)と、観測モデルの下記の方程式(12)とに基づいて、前記予測値を真の値に近づけるために当該予測値を修正するカルマンフィルタを用いて、前記特定の時刻における飛行ボールの3次元予測位置と3次元予測速度を、前記カルマンフィルタの状態モデルによる予測値にし、前記特定の時刻における飛行ボール画像の2次元観測位置を、前記カルマンフィルタの観測モデルによる観測値にして、当該特定の時刻における飛行ボールの3次元予測位置と3次元予測速度とを、前記特定の時刻における、真の値に近い飛行ボールの3次元修正位置と3次元修正速度として修正する修正制御ステップと、
前記特定の時刻における飛行ボールの3次元修正位置と3次元修正速度とを用いて、前記予測と、前記変換と、前記取得と、前記修正とを繰り返すことで、前記特定の時刻以降の時刻の飛行ボールの3次元修正位置と3次元修正速度とを得て、当該飛行ボールの軌跡を算出し、前記繰り返しを完了すると、前記飛行ボールの3次元修正位置と3次元修正速度とを用いて、飛弾された飛行ボールの飛行パラメータを算出する繰り返し制御ステップと、
を備え
前記式(8)は、
【数2】
と定義され、kdは、(−1/2m)CdρAであり、kmは、(1/2m)CmρArであり、Tは、撮影時間間隔であり、mは、前記飛行ボールの重量であり、Cdは、空気抵抗力の係数であり、ρは、空気の密度であり、Aは、前記飛行ボールの前面投影面積であり、V=(Vxr、Vyr、Vzr)は、前記飛行ボールの3次元速度であり、rは、前記飛行ボールの半径であり、ω=(ωx、ωy、ωz)は、前記飛行ボールの3次元スピン速度であり、初期状態では、ω=(ωx、ωy、ωz)=(0、0、0)であり、
前記式(11)は、
x(k+1)=F(k)×x(k)+w(k) ・・・(11)
と定義され、kは、時間係数であり、F(k)が、kでの放物線を示す式に対応し、x(k)が、kでの前記飛行ボールの3次元予測位置及び3次元予測速度に対応し、w(k)は、kでのプロセスノイズであり、x(k+1)は、k+1での前記飛行ボールの3次元予測位置と3次元予測速度に対応し、
前記式(12)は、
y(k)=H(k)×x(k)+v(k) ・・・(12)
と定義され、H(k)が、kでの世界座標系の3次元位置をカメラ座標系の2次元位置に変換する式に対応し、v(k)は、kでのプロセスノイズであり、y(k)は、kでの飛行ボール画像の2次元観測位置に対応する、
ボール追跡方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、ボール追跡装置及びボール追跡方法に関する。
【背景技術】
【0002】
ゴルフ、野球、サッカー、バスケットボール等のボールを用いた球技について、飛弾して飛行するボールを連続的に撮影し、そのボールの軌跡を算出する技術が存在する。
【0003】
例えば、特表2008−545194号公報(特許文献1)には、少なくともある期間の間、ボールが基本的に固定的な背景の前を移動するスポーツシーンを表すビデオ信号を生成するシステムが開示されている。このシステムは、追跡手段を備え、この追跡手段は、移動するボールの初期画像位置を自動的に識別するよう構成される。この追跡手段は、一連の画像における各画像について、画像とそれに続く画像との間の差分画像を生成する。差分画像において、閾値レベルより低い内容変更を表す全ての画像要素には第1の値が割り当てられ、閾値レベル以上の内容変更を表す全ての画像要素には第2の値が割り当てられる。この追跡手段は、ボール候補のセットの識別も行い、それぞれのボール候補は全て第2の値を含む近傍の画像要素群によって表され、当該画像要素群はボールサイズ基準を満たす。更に、この追跡手段は、ボール選択アルゴリズムに基づいて、ボール候補のセットから初期画像位置を選択する。これにより、ボールの修正(すなわち、センサの包含など)を必要とすることなく、信頼性があり強固な移動するボールの識別が可能となり、この識別に基づいて、その後のボール軌道を高精度に追跡することが出来るとしている。
【0004】
又、特表2010−540036号公報(特許文献2)には、打ち上げ角度、ボール速度、ボールスピン等のボール軌道、ゴルフ関連データを収集して分析するためのシステムが開示されている。第1のカメラは、時空間点において第1の軌道ラインに沿って画像を取得する。第2のカメラは時空間点において第2の軌道ラインに沿って画像を取得する。このシステムは、この情報を組み合わせて、目標の3D軌道ラインを生成する。これにより、より高精度で、より低コストに、より良好な分析を得ることが出来るとしている。
【0005】
又、特表2014−508625号公報(特許文献3)には、仮想ゴルフシミュレーション装置に用いられるセンシング装置が開示されている。このセンシング装置は、使用者がスイングによりボールを打撃することに対して複数のフレームのイメージを取得するカメラユニットと、取得した各フレーム別のイメージからボール候補を抽出し、ボール候補のそれぞれの3次元座標を2次元座標に変換して2次元軌跡を分析することによってボールの軌跡を抽出し、運動するボールに関する物理的特性情報を算出する、センシング処理ユニットと、を備える。これにより、カメラで取得されるイメージ上でボールとして判断されるボール候補に対する2次元軌跡を分析することによって、正確で迅速にボールを抽出できるため、低い解像度及び速度のカメラを用いるにもかかわらず、運動するボールの物理的特性情報を正確で迅速に算出できるとしている。
【先行技術文献】
【特許文献】
【0006】
【特許文献1】特表2008−545194号公報
【特許文献2】特表2010−540036号公報
【特許文献3】特表2014−508625号公報
【発明の概要】
【発明が解決しようとする課題】
【0007】
通常、飛弾して飛行するボールは、球技のプレイヤーの後ろからリアルタイムに撮影される。その際に、飛行するボールの軌跡を算出したり、当該ボールの飛行パラメータ(例えば、キャリー、速度、方向等)を算出したりする装置が求められている。
【0008】
しかしながら、屋外環境では、ハードウェアノイズのようなデジタルノイズ、画像ノイズ等の電気的なノイズ、人の動き、木の動き、他のゴルフショット等の動的なノイズ等、様々なノイズが発生する。又、屋外環境での撮影中のボールの光条件は、安定しないため、飛弾時のボールの検出や飛行中のボールの追跡は非常に難しい。
【0009】
特に、ゴルフでは、ゴルフボールは小さく、ゴルフショットは非常に早い(>120mph)。そのため、ゴルフボールは、継続的に空で見ることは難しく、追跡し難く、カメラの視野から外れ易い。又、ゴルフボールのフライトモデルは、非常に多様性に富み、複雑である。
【0010】
このような事実から、飛行するボールの軌跡を精度高く算出することは難しいという課題がある。
【0011】
特許文献1に記載の技術では、一連の画像内の複数のボール候補のうち、直線の軌道線候補を定義することで、軌道線候補からの閾値範囲内に見つからないボール候補を破棄しながら、ボール候補を決定していく。そのため、飛弾した飛行ボールの軌跡が曲線を描く場合は、ボールの軌道を正確に算出し難いという課題がある。
【0012】
又、特許文献2に記載の技術では、2つ以上のカメラが必要であるとともに、2つの異なる時空間点から取得される軌道ラインを組み合わせる必要がある。そのため、組み合わせが不適切の場合、飛弾後の飛行ボールの軌跡に誤差が生じるという課題がある。
【0013】
又、特許文献3に記載の技術では、ボール候補の3次元座標から変換された2次元座標に基づいて2次元軌跡を分析する。そのため、ボール画像の2次元軌跡から現実のボールの3次元軌跡を算出することには限界があるという課題がある。
【0014】
そこで、本発明は、上述の課題を解決するためになされたものであり、飛弾後の飛行ボールの軌跡を精度高く算出することが可能なボール追跡装置及びボール追跡方法を提供することを目的とする。
【課題を解決するための手段】
【0015】
本発明に係るボール追跡装置は、撮影制御部と、検出制御部と、算出制御部と、予測制御部と、変換制御部と、取得制御部と、修正制御部と、繰り返し制御部とを備える。撮影制御部は、ボールをカメラで撮影する。検出制御部は、前記ボールの飛弾を検出する。算出制御部は、前記ボールの飛弾が検出された場合の初期時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを、初期位置と初期速度として算出する。予測制御部は、前記算出された飛行ボールの初期位置と初期速度と、飛行ボールの放物線を示す式とに基づいて、初期時刻以降の特定の時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを、予測位置と予測速度として予測する。変換制御部は、前記予測された飛行ボールの予測位置を、前記特定の時刻で撮影された撮影画像内のカメラ座標系の2次元位置に、仮位置として変換する。取得制御部は、前記変換された撮影画像内の仮位置に基づいて、前記特定の時刻における撮影画像内での前記飛行ボールを示す飛行ボール画像を特定し、当該特定された飛行ボール画像のカメラ座標系の2次元位置を、観測位置として取得する。修正制御部は、前記飛行ボールの予測位置と予測速度と、前記飛行ボール画像の観測位置と、カルマンフィルタとに基づいて、当該飛行ボールの予測位置と予測速度とを、修正位置と修正速度として修正する。繰り返し制御部は、前記特定の時刻における飛行ボールの修正位置と修正速度とを用いて、前記予測と、前記変換と、前記取得と、前記修正とを繰り返すことで、前記特定の時刻以降の時刻の飛行ボールの軌跡を算出する。
【0016】
又、本発明に係るボール追跡方法は、ボール追跡装置の各部と同様に、撮影制御ステップと、検出制御ステップと、算出制御ステップと、予測制御ステップと、変換制御ステップと、取得制御ステップと、修正制御ステップと、繰り返し制御ステップとを備える。
【発明の効果】
【0017】
本発明によれば、飛弾後の飛行ボールの軌跡を精度高く算出することが可能となる。
【図面の簡単な説明】
【0018】
図1】本発明に係るボール追跡装置の概略図である。
図2】本発明に係るボール追跡装置の機能ブロック図である。
図3】本発明に係るボール追跡方法の実行手順を示すフローチャートである。
図4】カメラが打席マットの周辺を撮影する場合の一例を示す概略図(図4A)と、カメラが打席マットの周辺を撮影した場合の一例を示す撮影画像(図4B)とである。
図5】プレイヤーがボールを所定の場所に置いてからスイングの準備をする際の撮影画像と領域内画像との一例を示す図である。
図6】撮影画像のカメラ座標系とカメラの世界座標系との関係を示す概略図(図6A)と、ボールの世界座標系のz座標値を算出する場合の概略図(図6B)とである。
図7】プレイヤーがゴルフクラブをボールの手前に置いてゴルフクラブを振り上げた場合の基準画像と比較画像と各比較画像毎の一次元値との一例を示す図(図7A)と、プレイヤーがゴルフクラブをボールの手前に置いてゴルフクラブを振り上げた場合の連続的な撮影画像と一次元値の経時的変化のグラフとの一例を示す図(図7B)とである。
図8】プレイヤーがゴルフクラブでボールを実際に打ち出した場合の基準画像と比較画像と各比較画像毎の一次元値との一例を示す図(図8A)と、プレイヤーがゴルフクラブでボールを実際に打ち出した場合の連続的な撮影画像と一次元値の経時的変化のグラフとの一例を示す図(図8B)とである。
図9】飛弾直後の飛行ボールの差分画像と飛行ボール候補画像の検出と一直線の決定との一例を示す図(図9A)と、飛弾直後の飛行ボールの世界座標系の速度を算出する場合の一例を示す図(図9B)とである。
図10】カメラの世界座標系と飛行ボールに作用する力との一例を示す概略図(図10A)と、カメラの世界座標系の飛行ボールの位置から撮影画像のカメラ座標系の飛行ボール画像の位置に変換する場合の一例を示す概略図(図10B)とである。
図11】第一の時刻の飛行ボールの位置と速度の修正と連結線の一例を示す概略図(図11A)と、第二の時刻の飛行ボールの位置と速度の修正と連結線の一例を示す概略図(図11B)とである。
図12】飛行ボール画像を経時的に連結した連結線と曲線状の飛行ボールの軌跡と探索範囲の表示との一例を示す概略図である。
図13】プレイヤーがゴルフクラブで打ち出したボールの最大高さが低い場合の飛行ボールの軌跡の一例を示す概略図である。
図14】プレイヤーがゴルフクラブで打ち出したボールの最大高さが高い場合の飛行ボールの軌跡の一例を示す概略図である。
図15】飛行パラメータのキャリーと最大高さの一例を示す概略図(図15A)と、飛行パラメータのオフラインの一例を示す概略図(図15B)とである。
図16】比較例の飛行パラメータ測定装置と本発明のボール追跡装置で測定したゴルフボールのキャリーの測定結果のグラフである。
図17】比較例の飛行パラメータ測定装置と本発明のボール追跡装置で測定したゴルフボールの最大高さの測定結果のグラフである。
図18】比較例の飛行パラメータ測定装置と本発明のボール追跡装置で測定したゴルフボールのオフラインの測定結果のグラフである。
【発明を実施するための形態】
【0019】
以下に、添付図面を参照して、本発明の実施形態について説明し、本発明の理解に供する。尚、以下の実施形態は、本発明を具体化した一例であって、本発明の技術的範囲を限定する性格のものではない。
【0020】
本発明に係るボール追跡装置1は、図1に示すように、画像撮影装置10と、飛弾検出装置11と、分析装置12と、表示装置13とを備える。画像撮影装置10は、例えば、高解像度で高速に連続撮影を可能にする高性能カメラである。本発明では、基本的に1台のカメラ10を備えるが、複数台(例えば、2台)のカメラ10を備えても良い。
【0021】
飛弾検出装置11は、ボールの飛弾を検出する方法に応じて適宜設計される。例えば、ボールの飛弾を画像で検出する場合には、飛弾検出装置11は、カメラで構成される。飛弾検出装置11がカメラの場合、カメラ10と別個に設けられても良いし、カメラ10を兼ねても良い。又、ボールの飛弾をマイクロ波で検出する場合には、飛弾検出装置11は、マイクロ波検出装置で構成される。マイクロ波検出装置は、例えば、マイクロ波を発信する発信器と、ボールで反射された反射波を受信する受信器と、反射波によるドップラー周波数を有するドップラー信号を生成するドップラーセンサとを備える。
【0022】
分析装置12は、画像撮影装置10と通信可能に接続され、画像撮影装置10で撮影された撮影画像を受信すると、飛弾後のボールBの軌跡を算出する。又、分析装置12は、飛弾検出装置11と通信可能に接続され、飛弾検出装置11で検出された情報を受信すると、ボールBの飛弾を検出したり、飛弾された飛行ボールBの初期位置と初期速度とを算出したりする。
【0023】
表示装置13は、分析装置12と通信可能に接続され、分析装置12が算出したボールBの軌跡を画面上に表示する。ここで、表示装置13は、分析装置12を兼ねても良いく、例えば、分析装置12と、表示装置13とを一体とした端末装置や携帯端末装置であっても良い。
【0024】
ここで、画像撮影装置10と、飛弾検出装置11と、分析装置12と、表示装置13との構成に特に限定は無い。例えば、全ての装置を、カメラ付き携帯端末装置としても良いし、画像撮影装置10と、飛弾検出装置11とを、ボールBが飛弾する現場の装置とし、分析装置12を、ネットワーク上のクラウドとし、表示装置13を、プレイヤーが現場に携帯する携帯端末装置としても良い。
【0025】
尚、画像撮影装置10、飛弾検出装置11と、分析装置12と、表示装置13とは、図示しないCPU(GPU)、ROM、RAM等を内蔵しており、CPUは、例えば、RAMを作業領域として利用し、ROM等に記憶されているプログラムを実行する。又、後述する各部についても、CPUがプログラムを実行することで当該各部を実現する。
【0026】
次に、図2図3を参照しながら、本発明の実施形態に係る構成及び実行手順について説明する。先ず、プレイヤーがボール追跡装置1の電源を投入すると、ボール追跡装置1が起動し、ボール追跡装置1の撮影制御部201は、カメラ10を用いて、ボールが飛弾される場所の撮影を開始する(図3:S101)。
【0027】
ここで、ゴルフの場合、カメラ10は、図4Aに示すように、ゴルフボールBが設置される打席マット400に向けられる。そのため、撮影制御部201は、図4Bに示すように、打席マット400の周辺を撮影し、撮影画像401を取得する。
【0028】
撮影制御部201が撮影を開始すると、ボール追跡装置1の検出制御部202は、ボールBの飛弾を検出する(図3:S102)。
【0029】
ここで、検出制御部202が検出する方法は、飛弾検出装置11の種類に応じて適宜設計される。飛弾検出装置11がカメラの場合は、検出制御部202は、ボールBを撮影した画像を分析(解析)することで、ボールBの飛弾を検出する。
【0030】
例えば、検出制御部202は、図5に示すように、ボールBの停止の検出段階において、特定の第一の時刻(ta1)における撮影画像500のうち、所定の領域内画像501を取得する。ここで、領域内画像501とは、ボールBが設置される予定の領域内画像を意味する。次に、検出制御部202は、エッジ強調処理、エッジ検出処理等の方法を用いて、領域内画像501のエッジ画像を抽出し、当該抽出したエッジ画像を取得する。エッジ強調処理は、例えば、Retinex処理を挙げることが出来る。エッジ検出処理は、例えば、EDPF(Edge Draw Parameter Free)処理、Sobel処理、Canny処理等を挙げることが出来る。
【0031】
次に、検出制御部202は、円弧検出処理等の方法を用いて、抽出したエッジ画像のうち、円又は楕円を示す円画像を、仮停止ボール候補画像として検出する。円弧検出処理は、例えば、LSD(LineSegmentDetector)、Hough変換等を挙げることが出来る。
【0032】
そして、検出制御部202は、所定の基準直径ds(ピクセル)を用いて、基準直径dsと同等の直径dを有する仮停止ボール候補画像を、仮停止ボール画像として検出する。ここで、基準直径dsとは、領域内画像501内の所定の場所でボールBを示すボール画像の直径を意味する。
【0033】
例えば、第一の時刻(ta1)における撮影画像500では、プレイヤーが未だボールを所定の場所に置いていないため、検出制御部202は、画像処理後の領域内画像501に、ボール置き場のティーの形状に対応する仮停止ボール候補画像B11を検出する。この仮停止ボール候補画像B11は、基準直径dsと同等の直径dを有しないため、検出制御部202は、仮停止ボール画像を検出することが出来ず、第一の時刻(ta1)の次の第二の時刻(ta2)における撮影画像502を分析する。
【0034】
一方、第二の時刻(ta2)における撮影画像502では、プレイヤーがボールBを所定の場所に置いたため、検出制御部202は、画像処理後の領域内画像503に、プレイヤーの脚に関係する仮停止ボール候補画像B21、B22とともに、ボールBに対応する仮停止ボール候補画像B23を検出する。ここで、これらの仮停止ボール候補画像B21、B22、B23のうち、ボールBに対応する仮停止ボール候補画像B23は、基準直径dsと同等の直径dを有するため、検出制御部202は、第二の時刻(ta2)において仮停止ボール候補画像B23を仮停止ボール画像として検出する。
【0035】
検出制御部202が仮停止ボール画像B23を検出すると、検出した仮停止ボール画像B23を基準ボール画像とし、所定のスコアを初期値(例えば、「1」)に設定し、第二の時刻(ta2)の次の第三の時刻(ta3)における撮影画像504を分析する。ここで、スコアとは、検出された仮停止ボール画像の位置が同等であった回数を意味する。
【0036】
第三の時刻(ta3)における撮影画像504では、プレイヤーがスイングの準備をするために移動したため、検出制御部202は、画像処理後の領域内画像505に、同一の場所に置かれたボールBに対応する仮停止ボール候補画像B31を検出する。この仮停止ボール候補画像B31は、基準直径dsと同等の直径dを有するため、検出制御部202は、第三の時刻(ta3)において仮停止ボール候補画像B31を仮停止ボール画像として検出する。
【0037】
すると、検出制御部202は、検出した仮停止ボール画像B31を検出ボール画像B31とし、検出ボール画像B31の位置が基準ボール画像B23の位置と同等であるか否かを判定する。例えば、検出制御部202は、検出ボール画像B31のカメラ座標系の2次元中心位置が基準ボール画像B23のカメラ座標系の2次元中心位置を含む所定の範囲に含まれるか否かを判定する。所定の範囲は、例えば、基準ボール画像B23のカメラ座標系の2次元中心位置を中心として、所定の幅を持つ範囲である。
【0038】
ここで、検出ボール画像B31の位置が基準ボール画像B23の位置と同等である場合、検出制御部202は、スコアに1回を加算する。そして、検出制御部202は、加算後のスコア(「2」)が所定の閾値(例えば、「3」)を超過するまで、仮停止ボール画像が検出された検出時刻{第二の時刻(ta2)}以降に経時的に撮影される撮影画像を用いて、仮停止ボール画像の検出を繰り返す。
【0039】
ここで、スコアが閾値を超過する前に、検出ボール画像の位置が基準ボール画像の位置と同等でない場合、実空間上のボールBは何らかの原因で移動したことになる。そのため、検出制御部202は、基準ボール画像を消去し、仮停止ボール画像の検出からやり直す。一方、スコアが閾値を超過した場合、検出制御部202は、仮停止ボール画像が停止状態であると判定し、検出ボール画像を停止ボール画像として検出する。このように、スコアを基準にして撮影画像の分析を経時的に繰り返すことで、実空間上の停止ボールBを検出することが出来る。
【0040】
さて、検出制御部202が、停止ボール画像を検出すると、停止ボール画像のカメラ座標系の2次元位置(ピクセル)と、当該停止ボール画像の直径(ピクセル)と、カメラ10のキャリブレーションマトリックス情報とを用いて、停止ボールBの世界座標系の3次元位置(座標)(長さ)を算出する。
【0041】
ここで、カメラ10のキャリブレーションマトリックス情報とは、図6Aに示すように、カメラ10の焦点距離f(長さ)に対応する撮影画像600の中心oiを原点とした撮影画像600上の任意点Aのカメラ座標系の2次元位置(xia、yia)(ピクセル)と、カメラ10の中心orを原点とした前記任意点Aの世界座標系の3次元位置(xra、yra、zra)(長さ)とを関連付ける情報を意味する。キャリブレーションマトリックス情報は、例えば、Kマトリックス情報、Pマトリックス情報等を挙げることが出来る。撮影画像600は、カメラ10の中心orから撮影対象の物体に向かってz軸方向に焦点距離f(長さ)だけ離れた位置に、z軸に対して垂直に位置する。カメラ座標系は、撮影画像600の中心oiを原点として、横軸をx軸(xi)とし、縦軸をy軸(yi)とする座標系である。世界座標系は、カメラ10の中心orを原点として、横軸をx軸(xr)とし、縦軸をy軸(yr)とし、奥行軸(視野軸)をz軸(zr)とする座標系である。
【0042】
検出制御部202は、キャリブレーションマトリックス情報を用いて、停止ボール画像Csのカメラ座標系の2次元中心位置Ci0(xi0、yi0)を世界座標系の3次元中心位置Cr0(xr0、yr0、zr)に変換する。
【0043】
又、図6Bに示すように、撮影画像600の停止ボール画像Csの左右の両端の距離l(停止ボール画像Csの直径ds)と、撮影画像600の停止ボール画像Csの左端(又は右端)と世界座標系のカメラ10の中心orとの距離Dと、世界座標系のカメラ10の中心orを基準として撮影画像600の停止ボール画像Csの左右の両端のz軸方向の間の角度θとには、下記の式(1)(2)に示すように、余弦の法則が成立する。
【0044】
l^2=D^2+D^2−2D*cosθ=2D^2*(1−cosθ) ・・・(1)
D=SQR[l^2/{2*(1−cosθ)}] ・・・(2)
【0045】
検出制御部202は、ピクセルから長さ(実寸法)を変換する所定のスケールを用いて、停止ボール画像Csの直径dsをピクセルから長さに変換し、変換後の停止ボール画像Csの直径ds(長さ)とカメラ10の焦点距離f(長さ)とから撮影画像600の停止ボール画像Csの左右の両端のz軸方向間の角度θ(度)を算出し、停止ボール画像Csの直径l(長さ)と角度θ(度)とを上記の式(2)に代入することで、距離D(長さ)を算出する。ここで、距離D(長さ)は、停止ボール画像Csの世界座標系のz座標値(zr0)に近似するため、検出制御部202は、算出した距離D(長さ)を停止ボール画像Csの世界座標系のz座標値(zr0)とする。
【0046】
さて、検出制御部202が、停止ボール画像Csが検出された停止時刻(tb0)以降に経時的に撮影される撮影画像のうち、停止ボール画像Csの消失を検出することで、ボールBの飛弾を検出する。
【0047】
具体的には、検出制御部202は、図7Aに示すように、停止ボールBの消失の検出段階において、停止時刻(tb0)に撮影された撮影画像の領域内画像700を基準画像として取得し、停止時刻(tb0)の次の第一の時刻(tb1)に撮影された撮影画像の領域内画像701を比較画像として取得する。次に、検出制御部202は、差分算出方法を用いて、比較画像701から基準画像700を減算して差分を算出する。ここで、差分算出方法は、例えば、背景差分法(Background Subtraction method)を挙げることが出来る。背景差分法は、事前に取得した背景画像(基準画像)と次に取得した観察画像(比較画像)とを比較することで、背景画像に出現した物体又は消失した物体を検出する方法である。
【0048】
そして、検出制御部202は、算出した差分の変動に基づいて、停止ボール画像Csの消失を検出する。例えば、検出制御部202は、算出した差分を一次元値I(−)に変換して、当該変換した一次元値Iが所定の飛弾基準値Ic(−)を超過するか否かを判定する。
【0049】
ここで、飛弾基準値Icは、ボールBの飛弾(打ち出し)前後における領域内画像の差分に基づいて適宜設計される。例えば、プレイヤーがゴルフクラブをボールの手前に置いた直前の領域内画像と直後の領域内画像との差分に対応する第一の一次元値Ia(−)と、プレイヤーがゴルフクラブでボールを打ち出した直前の領域内画像と直後の領域内画像との差分に対応する第二の一次元値Ib(−)とを予め算出しておき、飛弾基準値Icを第一の一次元値Iaと第二の一次元値Ibとの間に設定する。
【0050】
図7A図7Bに示すように、プレイヤーがゴルフクラブをボールBの手前に置いてゴルフクラブを振り上げた場合、検出制御部202は、次の第一の時刻(tb1)での領域内画像701を比較画像とし、比較画像701を基準画像700で減算した差分に対応する一次元値I1を算出し、飛弾基準値Icを超過するか否かを判定する。又、検出制御部202は、第一の時刻(tb1)の次の第二の時刻(tb2)における領域内画像702と、第二の時刻(tb2)の次の第三の時刻(tb3)における領域内画像703とについても、同様に、一次元値I2、I3をそれぞれ算出・判定する。この場合、プレイヤーがゴルフクラブでボールを打ち出していないため、算出された一次元値I1、I2、I3は、飛弾基準値Icをそれぞれ超過することは無い。
【0051】
一方、図8A図8Bに示すように、プレイヤーがゴルフクラブでボールBを実際に打ち出した場合、検出制御部202は、第三の時刻(tb3)以降の第四の時刻(tb4)、第五の時刻(tb5)、第六の時刻(tb6)のそれぞれの領域内画像704、705、706について、同様に、一次元値I4、I5、I6を算出・判定すると、算出された一次元値I4、I5、I6のうち、特定の一次元値I5は、飛弾基準値Icを超過する。そのため、検出制御部202は、飛弾基準値Icを超過した一次元値I5に対応する第五の時点(tb5)で停止ボール画像Csの消失を検出する。
【0052】
尚、プレイヤーの操作条件によるものの、上述のように、停止時刻(tb0)以降の第kの時刻(tbk)(k=1、2、3、、、)に対する一次元値Ikは、プレイヤーのゴルフクラブの操作により、二つのピークが発生する場合がある。そのため、検出制御部202は、第kの時刻(tbk)での一次元値Ikを第一軸とし、停止時刻(tb0)以降の第kの時刻(tbk)を第二軸としたグラフを作成し、このグラフにピーク分析処理を適用することで、グラフのピークの最大値Imaxを算出し、算出した最大値Imaxが飛弾基準値Icを超過したか否かを判定しても良い。ここで、ピーク分析処理は、例えば、混合ガウスモデル(Gaussian Mixture Model)を挙げることが出来る。
【0053】
又、上述では、飛弾検出装置11がカメラの場合について説明したが、飛弾検出装置11がマイクロ波検出装置の場合、検出制御部202が、マイクロ波検出装置10を用いて、ボールBの停止と飛弾に対応するドップラー信号を受信し、ドップラー信号の変動に基づいて、停止ボールBの飛弾を検出しても良い。
【0054】
さて、検出制御部202がボールBの飛弾を検出すると、ボール追跡装置1の算出制御部203は、停止ボールBの飛弾が検出された場合の初期時刻における飛行ボールBfの世界座標系の3次元位置と3次元速度とを、初期位置と初期速度として算出する(図3:S103)。
【0055】
ここで、算出制御部203が算出する方法は、飛弾検出装置11の種類に応じて適宜設計される。飛弾検出装置11がカメラの場合は、算出制御部203は、飛行ボールBfを撮影した画像を分析することで、飛行ボールBfの初期位置と初期速度を算出する。
【0056】
具体的には、算出制御部203は、停止ボールBの飛弾が検出された場合の初期時刻(tc0){例えば、第五の時刻(tb5)}において撮影される撮影画像を基準画像とし、当該初期時刻(tc0)の次の第一の時刻(tc1)において撮影された撮影画像を比較画像とし、図9Aに示すように、比較画像から基準画像を減算した差分画像901を算出する。第一の時刻(tc1)での差分画像901には、プレイヤーのスイング画像Pと、飛弾後の飛行ボール画像Cが表れている。
【0057】
次に、算出制御部203は、エッジ強調処理、エッジ検出処理等の方法を用いて、差分画像901からエッジ画像を検出し、検出したエッジ画像が占有する占有面積S1を算出するとともに、検出したエッジ画像に、円又は楕円の最小二乗法を適用することで、エッジ画像を含む最小円画像を算出し、この最小円画像の最小占有面積S2を算出する。そして、算出制御部203は、占有面積S1から最小占有面積S2を除算した除算値Ra(−)を算出し、当該算出した除算値Raが、初期ボール基準値R0(−)の範囲内であるか否かを判定する。ここで、初期ボール基準値R0とは、飛行ボールBfの可能性のあるボール候補画像に対応する基準値を意味する。エッジ画像が、真円画像である場合、その除算値Ra(−)は約1.0(−)になることから、初期ボール基準値R0は、円又は楕円を示す円画像に対応して、例えば、0.9(−)から1.1(−)までの範囲と設定される。除算値Raが初期ボール基準値R0の範囲内である場合、算出制御部203は、除算値Raが算出されたエッジ画像を飛行ボール候補画像として抽出する。そして、算出制御部203は、初期時刻(tc0)以降の所定数(ここでは、例えば、3つ)の時刻での差分画像について、飛行ボール候補画像の抽出を繰り返す。所定数は、後述する飛行ボールBfの飛行経路を示す一つの直線を決定することが出来る数に設定される。
【0058】
ここで、算出制御部203は、図9Aに示すように、第一の時刻(tc1)の差分画像901から、3つの飛行ボール候補画像C11、C12、C13を抽出し、第一の時刻(tc1)の次の第二の時刻(tc2)の差分画像902から、3つの飛行ボール候補画像C21、C22、C23を抽出し、第二の時刻(tc2)の次の第三の時刻(tc3)の差分画像903から、3つの飛行ボール候補画像C31、C32、C33を抽出したとする。
【0059】
そして、算出制御部203は、初期時刻(tc0)以降の各時刻毎に抽出した飛行ボール候補画像のうち、経時的に一直線上に存在する飛行ボール候補画像を飛行ボール画像として特定し、経時的に一直線上に存在しない飛行ボール候補画像をノイズ画像として破棄する。
【0060】
例えば、図9Aに示すように、第一の時刻(tc1)での飛行ボール候補画像C11、C12、C13のそれぞれから、第二の時刻(tc2)での飛行ボール候補画像C21、C22、C23のそれぞれに直線を延ばし、且つ、第二の時刻(tc2)での飛行ボール候補画像C21、C22、C23のそれぞれから、第三の時刻(tc3)での飛行ボール候補画像C31、C32、C33のそれぞれに直線を延ばした場合、算出制御部203は、第一の時刻(tc1)と第二の時刻(tc2)と第三の時刻(tc3)との順番で、一直線904上に存在する第一の時刻(tc1)での飛行ボール候補画像C12と、第二の時刻(tc2)での飛行ボール候補画像C22と、第三の時刻(tc3)での飛行ボール候補画像C32とを、飛行ボール画像Cfとして特定する。これにより、ゴルフボールのように、小さくて、且つ、素早く飛行する飛行ボールBfであっても、飛弾後の初期段階での飛行ボールBfは一直線上の飛行パスを構成するため、その特徴を利用して、飛行ボール画像Cfを効率よく特定することが可能となる。尚、算出制御部203は、各時刻毎に抽出した飛行ボール候補画像に停止ボール画像Csを加えて、停止ボール画像Csから経時的に一直線上に存在する飛行ボール候補画像を飛行ボール画像Cfとして特定しても良い。
【0061】
そして、算出制御部203は、特定した飛行ボール画像Cfに基づいて、初期時刻(tc0)における飛行ボールBfの初期速度を算出する。先ず、初期時刻(tc0)直後の飛行ボールBfの3次元位置のうち、y軸のy座標値は速く変化するため、算出制御部203は、初期時刻(tc0)以降の時刻のうち、短い時刻間隔の飛行ボール画像Cfを使用して、y軸の初期速度(Vyr0)を算出する。例えば、算出制御部203は、図9Bに示すように、初期時刻(tc0)の停止ボール画像Csの3次元中心位置Cr0のy座標値(yr0)と、初期時刻(tc0)に最も近い第一の時刻(tc1)の飛行ボール画像C12の3次元中心位置Cr1のy座標値(yr1)とを、下記の式(3)に代入して、y軸の初期速度(Vyr0)を算出する。
【0062】
Vyr0={(yr1−yr0)*dr}/(dp*dt) ・・・(3)
【0063】
ここで、drは、ボールの直径(mm)であり、dpは、撮影画像内のボールの直径(ピクセル)であり、dtは、初期時刻(tc0)と第一の時刻(tc1)との間隔(sec)である。
【0064】
又、初期時刻(tc0)直後のボールBの3次元位置のうち、x軸のx座標値はゆっくり変化するため、算出制御部203は、長い時刻間隔の飛行ボール画像Cfを使用して、x軸の初期速度(Vxr0)を算出する。例えば、算出制御部203は、図9Bに示すように、初期時刻(tc0)の停止ボール画像Csの3次元中心位置Cr0のx座標値(xr0)と、初期時刻(tc0)から遠い第三の時刻(tc3)の飛行ボール画像C32の3次元中心位置Cr3のx座標値(xr3)とを、下記の式(4)に代入して、x軸の初期速度(Vxr0)を算出する。
【0065】
Vxr0={(xr3−xr0)*dr}/(dp*dt) ・・・(4)
【0066】
dtは、初期時刻(tc0)と第三の時刻(tc3)との間隔(sec)である。
【0067】
最後に、初期時刻(tc0)直後のボールBの3次元位置のうち、z軸のz座標値は、上述のように、飛行ボール画像Cfの直径(ピクセル)から算出されるため、長い時刻間隔の飛行ボール画像C32を採用すると好ましい。そこで、算出制御部203は、長い時刻間隔の飛行ボール画像C32を使用して、z軸の初期速度(Vzr0)を算出する。例えば、算出制御部203は、図9Bに示すように、初期時刻(tc0)から遠い第三の時刻(tc3)の飛行ボール画像C32の直径(d3)を取得し、上述の式(1)(2)により、第三の時刻(tc3)の飛行ボール画像C32の3次元中心位置Cr3のz座標値(zr3)を算出し、初期時刻(tc0)の停止ボール画像Csの3次元中心位置Cr0のz座標値(zr0)と、飛行ボール画像C32の3次元中心位置Cr3のz座標値(zr3)とを、下記の式(5)に代入して、z軸の初期速度(Vzr0)を算出する。
【0068】
Vzr0=(zr3−zr0)/dt ・・・(5)
【0069】
dtは、初期時刻(tc0)と第三の時刻(tc3)との間隔(sec)である。
【0070】
尚、上述では、初期時刻(tc0)の停止ボール画像Csの3次元中心位置を基準としたが、初期時刻(tc0)の次の第一の時刻(tc1)の飛行ボール画像C12の3次元中心位置を基準としても構わない。その場合は、第一の時刻(tc1)の飛行ボール画像C12の3次元中心位置が初期位置Cr1(xr1、yr1、zr1)となり、第二の時刻(tc2)以降の飛行ボール画像C22、C32の3次元中心位置が使用される。
【0071】
又、上述では、飛弾検出装置11がカメラの場合について説明したが、飛弾検出装置11がマイクロ波検出装置の場合、算出制御部203が、マイクロ波検出装置11を用いて、ボールBの飛弾直後に対応するドップラー信号を受信し、ドップラー信号に基づいて、飛行ボールBfの初期速度を検出しても良い。又、マイクロ波検出装置10だけでは、飛行ボールBfの初期位置を算出することが出来ない場合は、算出制御部203は、マイクロ波検出装置11にカメラを組み合わせて、画像の分析により飛行ボールBfの初期位置を算出しても構わない。
【0072】
さて、算出制御部203が算出を完了すると、ボール追跡装置1の予測制御部204は、算出された飛行ボールBfの初期位置と初期速度と、飛行ボールBfの放物線を示す式とに基づいて、初期時刻(td0)以降の特定の時刻(td1)における飛行ボールBfの世界座標系の3次元位置と3次元速度とを、予測位置と予測速度として予測する(図3:S104)。
【0073】
予測制御部204が予測する方法に特に限定は無い。先ず、図10に示すように、世界座標系において飛行ボールBfに作用する力F(N)は、下記の式(6)で表すことが出来る。
【0074】
F=Fd+Fm+Fg ・・・(6)
【0075】
ここで、Fd(N)は、空気抵抗力であり、飛行ボールBfの飛行速度の2乗に比例し、飛行ボールBfの飛行方向と逆方向に作用する。Fm(N)は、マグナス効果により飛行ボールBfに作用するマグナス力であり、飛行ボールBfの飛行速度とスピン速度の外積に比例し、飛行ボールBfのスピン方向と同方向に作用する。Fg(N)は、重力であり、飛行ボールBfの下方向に作用する。
【0076】
飛行ボールBfに作用するFdとFmとFgとから、飛行ボールBfの速度の微分(dV/dt)[言い換えると、加速度a{m/(s・s)}]は、下記の式(7)で表すことが出来る。
【0077】
【数1】
【0078】
ここで、m(kg)は、飛行ボールBfの重量であり、Cdは、空気抵抗力の係数であり、ρは、空気の密度であり、Aは、飛行ボールBfの前面投影面積であり、V=(Vxr、Vyr、Vzr)は、飛行ボールBfの3次元速度であり、r(m)は、飛行ボールBfの半径であり、ω=(ωx、ωy、ωz)は、飛行ボールBfの3次元スピン速度である。尚、初期状態では、ω=(ωx、ωy、ωz)=(0、0、0)である。
【0079】
式(7)に基づいて、飛行ボールBfの放物線を示す式は、下記の式(8)で表すことが出来る。
【0080】
【数2】
【0081】
kdは、(−1/2m)CdρAであり、kmは、(1/2m)CmρArであり、Tは、撮影時間間隔である。
【0082】
予測制御部204は、図10Bに示すように、式(8)に飛行ボールBfの初期位置Cr0(xr0、yr0、zr0)と、初期速度(Vxr0、Vyr0、Vzr0)とを代入することで、初期時刻(td0)の次の第一の時刻(td1)における飛行ボールBfの3次元中心位置Cpr1(xpr1、ypr1、zpr1)と3次元速度(Vxpr1、Vypr1、Vzpr1)とを予測する。ここで、初期時刻(td0)は、飛行ボールBfの初期位置Cr0(xr0、yr0、zr0)と、初期速度(Vxr0、Vyr0、Vzr0)とが算出された時刻を意味する。又、初期時刻(td0)と第一の時刻(td1)との間隔は、撮影時間間隔Tに設定される。
【0083】
又、上述では、3種類の力Fを加味した式(8)を用いて、飛行ボールBfの3次元位置と3次元速度とを予測したが、より簡易的な式を用いて予測しても良い。簡易的な式として、例えば、重力Fgを加味した通常の放物線の式を挙げることが出来る。
【0084】
さて、予測制御部204が予測を完了すると、ボール追跡装置1の変換制御部205が、予測された飛行ボールBfの予測位置を、特定の時刻(td1)で撮影された撮影画像内のカメラ座標系の2次元位置に、仮位置として変換する(図3:S105)。
【0085】
変換制御部205が変換する方法に特に限定は無い。例えば、世界座標系の3次元位置(xr、yr、zr)をカメラ座標系の2次元位置(xi、yi)に変換する式は、ピンホールカメラモデルを用いて、下記の式(9)(10)で表すことが出来る。
【0086】
xi=fx*(xr/zr)+cx ・・・(9)
yi=fy*(yr/zr)+cy ・・・(10)
【0087】
fxは、カメラ座標系におけるx軸方向のカメラの焦点距離であり、fyは、カメラ座標系におけるy軸方向のカメラの焦点距離であり、cxは、カメラ座標系におけるカメラ10の中心位置のx座標値であり、cyは、カメラ座標系におけるカメラ10の中心位置のy座標値である。
【0088】
変換制御部205は、予測された特定の時刻(td1)における飛行ボールBfの3次元中心位置Cpr1(xpr1、ypr1、zpr1)を式(9)(10)に代入することで、特定の時刻(td1)に撮影された撮影画像のうち、飛行ボールの存在の可能性が高い2次元中心位置Cpi1(xpi1、ypi1)を、仮位置として算出する。
【0089】
さて、変換制御部205が変換を完了すると、ボール追跡装置1の取得制御部206が、変換された撮影画像内の仮位置に基づいて、特定の時刻(td1)における撮影画像内で、飛行ボールBfを示す飛行ボール画像を特定し、当該特定された飛行ボール画像のカメラ座標系の2次元位置を、観測位置として取得する(図3:S106)。
【0090】
取得制御部206が取得する方法に特に限定は無い。例えば、取得制御部206は、特定の時刻(td1)の撮影画像のうち、変換した仮位置Cpi1(xpi1、ypi1)を中心とした探索範囲を決定する。ここで、探索範囲1101は、例えば、図11Aに示すように、特定の時刻(td1)の撮影画像1100のうち、仮位置Cpi1(xip1、yip1)を中心とし、所定の辺Lを有する正方形状に決定される。辺Lは、飛行ボール画像が含まれる程度の長さに適宜設定される。
【0091】
次に、取得制御部206は、決定した探索範囲1101のうち、円又は楕円を示す円画像Cfを飛行ボール画像として特定する。具体的には、上述のように、取得制御部206は、エッジ強調処理、エッジ検出処理等の方法を用いて、決定した探索範囲1101からエッジ画像を検出し、検出したエッジ画像を含む最小円画像を算出し、エッジ画像の占有面積から最小円画像の最小占有面積を除算した除算値Rb(−)を算出し、除算値Rbが飛行ボール基準値R1(−)の範囲内で、且つ、円を示す円基準値R2(−)に最も近いエッジ画像を飛行ボール画像として特定する。飛行ボール基準値R1は、例えば、0.9(−)から1.1(−)までの範囲と設定される。円基準値R2は、例えば、1.0(−)と設定される。飛行ボール基準値R1と円基準値R2とにより、探索範囲1101で最も飛行ボールBfに近い飛行ボール画像を特定することが出来る。そして、取得制御部206は、特定した飛行ボール画像Cf1の2次元中心位置Coi1(xoi1、yoi1)を、観測位置として取得する(図3:S106YES)。図11Aに示すように、探索範囲1101を定めることで、特定の時刻(td1)の飛行ボール画像Cf1を素早く簡単に特定することが出来る。尚、除算値Rbが飛行ボール基準値R1の範囲内のエッジ画像が存在しない場合やエッジ画像が検出出来ない場合は、後述する(図3:S106NO)。
【0092】
さて、取得制御部206が取得を完了すると、ボール追跡装置1の修正制御部207が、飛行ボールBfの予測位置と予測速度と、飛行ボール画像Cf1の観測位置と、カルマンフィルタとに基づいて、飛行ボールBfの予測位置と予測速度を、修正位置と修正速度として修正する(図3:S107)。
【0093】
ここで、カルマンフィルタとは、線形確率システムを意味する。一般に、真の値を観測すると、何らかの誤差の影響を受けて、真の値と異なる値が観測値として得られる。カルマンフィルタは、状態モデルによる予測値と、観測モデルによる観測値とに基づいて、予測値を真の値に近づけるために当該予測値を修正する。
【0094】
本発明では、状態モデルの方程式は、下記の式(11)となる。
【0095】
x(k+1)=F(k)×x(k)+w(k) ・・・(11)
【0096】
kは、時間係数であり、x(k+1)は、kの一つ後(k+1)での予測値であり、F(k)は、kでの状態パラメータであり、x(k)は、kでの状態値であり、w(k)は、kでのプロセスノイズである。本発明では、F(k)が、放物線を示す式に対応し、x(k)が、kでの3次元位置及び3次元速度に対応し、x(k+1)が、kの一つ後(k+1)での予測位置及び予測速度に対応する。
【0097】
又、観測モデルの方程式は、下記の式(12)となる。
【0098】
y(k)=H(k)×x(k)+v(k) ・・・(12)
【0099】
y(k)は、kでの観測値であり、H(k)は、kでの観測パラメータであり、x(k)は、kでの状態値であり、v(k)は、kでのプロセスノイズである。本発明では、H(k)が、世界座標系の3次元位置をカメラ座標系の2次元位置に変換する式に対応し、y(k)が、kでの観測位置に対応する。
【0100】
修正制御部207は、先ず、下記の式(13)により、初期化を行う。
【0101】
x0=E[x0] ・・・(12)
P0=E[(x0−E[x0])(x0−E[x0]’) ・・・(13)
【0102】
E[x0]は、x0の行列であり、P0は、分散共分散行列であり、E[x0]’は、E[x0]の転置行列である。本発明では、kが0{初期時刻(td0)}となり、x0が、飛行ボールBfの初期位置と初期速度に対応する。
【0103】
ここで、下記の式(14)は、上記の式(7)と同様であるが、k=1において、特定の時刻(td1)の飛行ボールBfの予測位置と予測速度を算出する。
【0104】
x(k)=F(k−1)×x(k−1) ・・・(14)
【0105】
x(k)は、k=1において、特定の時刻(td1)の飛行ボールBfの予測位置と予測速度に対応する。
【0106】
そして、修正制御部207は、下記の式(15)−(18)により、k=1において、特定の時刻(td1)の修正位置及び修正速度を算出する。
【0107】
P(k)=F(k−1)×P(k−1)×F(k−1)’+Q(k) ・・・(15)
G(k)=P(k)×H(k)’/{H(k)×P(k)×H(k)’+R(k)} ・・・(16)
xc(k)=x(k)+G(k)×{y(k)−H(k)×x(k)} ・・・(17)
P(k)={I−G(k)×H(k)} ・・・(18)
【0108】
F(k−1)’は、F(k−1)の転置行列であり、Q(k)は、w(k)の共分散であり、H(k)’は、H(k)の転置行列であり、R(k)は、v(k)の共分散であり、xc(k)は、k=1において、特定の時刻(td1)の飛行ボールBfの修正位置及び修正速度であり、Iは、単位行列である。
【0109】
修正制御部207は、図11Aに示すように、カルマンフィルタを用いて、真の値に近い飛行ボールBfの3次元修正中心位置Ct1(xtr1、ytr1、ztr1)及び3次元修正速度(Vxtr1、Vytr1、Vztr1)を得る。尚、図11Aでは、世界座標系の3次元修正中心位置Ctr1(xtr1、ytr1、ztr1)は、式(9)(10)を用いて、カメラ座標系の2次元修正中心位置Cti1(xti1、yti1)に変換される。
【0110】
ここで、修正制御部207は、図11Aに示すように、初期時刻(td0)の停止ボール画像Csの初期位置Ci0と、特定の時刻(td1)の飛行ボール画像Cf1の2次元修正位置Cti1とを連結線1102により連結することで、飛行ボールBfの軌跡を表示する(図3:S108)。
【0111】
さて、修正制御部207が修正を完了すると、ボール追跡装置1の繰り返し制御部208は、特定の時刻(td1)における飛行ボールの修正位置と修正速度とを用いて、前記予測(S104)と、前記変換(S105)と、前記取得(S106)と、前記修正(S107)とを繰り返すことで、特定の時刻(td1)以降の時刻の飛行ボールBfの軌跡を算出する(図3:S109)。
【0112】
ここで、繰り返し制御部208は、繰り返し条件として、特定の時刻(td1)の飛行ボールBfが地面に着いたか否かを判定する。例えば、繰り返し制御部208は、特定の時刻(td1)の修正位置Ctr1のうち、z座標値が、地面を示す地面基準値Gs(例えば、0)以下になったか否かを判定する。
【0113】
判定の結果、特定の時刻(td1)の修正位置Ctr1のz座標値(ztr1)が地面基準値Gsを超える場合(図3:S109YES)、繰り返し制御部208は、未だ飛行ボールが地面に着地していないと判定し、S104に戻り、特定の時刻(td1)の次の第二の時刻(td2)の飛行ボールBfの位置と速度の予測を行う。予測制御部204は、第一の時刻(td1)の修正位置Ctr1(xtr1、ytr1、ztr1)と修正速度(Vxtr1、Vytr1、Vztr1)とを式(8)に代入することで、第二の時刻(td2)の飛行ボールBfの3次元中心位置Cpr2(xpr2、ypr2、zpr2)と3次元速度(Vxpr2、Vypr2、Vzpr2)とを予測位置と予測速度として予測する(図3:S104)。
【0114】
次に、変換制御部205は、図11Bに示すように、第二の時刻(td2)の飛行ボールBfの予測位置Cpr2(xpr2、ypr2、zpr2)を、当該第二の時刻(td2)の撮影画像1103内の2次元位置Cpi2(xpi2、ypi2)を、仮位置として変換する(図3:S105)。
【0115】
更に、取得制御部206は、変換された仮位置Cpi2(xpi2、ypi2)に基づいて、探索範囲1104を決定し、第二の時刻(td2)の撮影画像1103内の飛行ボール画像Cf2を特定し、当該特定された飛行ボール画像Cf2の2次元中心位置Coi2(xoi2、yoi2)を、観測位置として取得する(図3:S106)。
【0116】
そして、修正制御部207が、第二の時刻(td2)の飛行ボールBfの予測位置Cpr2(xpr2、ypr2、zpr2)と予測速度(Vxpr2、Vypr2、Vzpr2)と、飛行ボール画像Cf2の観測位置Coi2(xoi2、yoi2)と、カルマンフィルタとに基づいて、当該第二の時刻(td2)の飛行ボールBfの予測位置Cpr2と予測速度とを、第二の時刻(td2)の飛行ボールBfの3次元修正中心位置Ctr2(xtr2、ytr2、ztr2)と3次元修正速度(Vtr2、Vtr2、Vtr2)に修正する(図3:S107)。このように、カルマンフィルタを用いて、初期時刻(td0)以降の飛行ボールBfの位置と速度とを順次修正することで、精度高い飛行ボールBfの軌跡を算出することが出来る。
【0117】
そして、修正制御部207は、第二の時刻(td2)の飛行ボールBfの修正位置Ctr2(xtr2、ytr2、ztr2)を飛行ボール画像Cf2の2次元修正中心位置Cti2(xti2、yti2)に変換し、図11Bに示すように、第一の時刻(td1)における飛行ボール画像Cf1の修正位置Cti1と、第二の時刻(td2)の飛行ボール画像Cf2の修正位置Cti2とを連結線1105により連結することで、飛行ボール画像Cfの軌跡を表示する(図3:S108)。このように、修正した飛行ボールBfの修正位置に基づいて、飛行ボール画像Cfの修正位置と連結線とを飛行ボール画像Cfの軌跡として順次表示していくことで、プレイヤーは、飛行ボール画像Cfの軌跡をリアルタイムに認識することが可能となる。
【0118】
尚、初期時刻(td0)の停止ボール画像Csと第一の時刻(td1)の飛行ボール画像Cf1との連結では、整合性が無い場合がある。そのため、修正制御部207は、第一の時刻(td1)以降の飛行ボール画像Cfから連結線で連結するよう構成しても良い。
【0119】
さて、上述の繰り返しにより、表示される飛行ボール画像Cfの軌跡は、例えば、図12に示すように、飛行ボール画像Cfの修正位置を経時的に連結した連結線1200となるが、修正制御部207は、連結線1200に円滑化処理を行うことで、飛行ボール画像Cfの軌跡1201を曲線状に見せることが出来る。
【0120】
又、修正制御部207は、図12に示すように、飛行ボール画像Cfを特定するために使用した探索範囲1202を飛行ボール画像Cfの軌跡1201と飛行ボール画像Cfとに合わせて表示することで、飛行ボール画像Cfの軌跡1201を分析的に見せることが出来る。
【0121】
又、修正制御部207は、S108において、飛行ボール画像Cfの軌跡を順次表示しているが、飛行パラメータの算出だけであれば、これらの表示を省略しても構わない。
【0122】
さて、S104からS108までの処理が繰り返されて、S109において、判定の結果、特定の第kの時刻(tdk)の飛行ボールBfが地面に着いて、この時刻の飛行ボールBfの修正位置Ctrk(xtrk、ytrk、ztrk)のうち、z座標値(ztrk)が地面基準値Gs以下になった場合(図3:S109NO)、繰り返し制御部208は、飛行ボールBfが地面に着地したと判定し、繰り返しを完了する。これにより、飛行ボールBfが地面に着地するまで、飛行ボールを追跡することが可能となる。
【0123】
例えば、図13に示すように、プレイヤーがゴルフクラブで打ち出した飛行ボールBfの最大高さが低い場合は、飛行ボールBfが地面に着地するまで、撮影画像中の飛行ボール画像Cfは検出することが出来る。そのため、この場合は、飛行ボールBfが地面に着地するまで、飛行ボール画像Cfの軌跡1300が表示され、飛行ボールBfの追跡が行われる。
【0124】
一方、飛行ボールが遠方まで飛んで、S106において、取得制御部206が、第kの時刻(tdk)における撮影画像内の飛行ボール画像Cfを特定することが出来なかった場合(図3:S106NO)、繰り返し制御部208は、飛行ボールBfの追跡を継続出来ないと判定し(図3:S109NO)、繰り返しを完了する。これにより、撮影画像内の飛行ボール画像Cfの検出限界まで、飛行ボールBfを追跡することが可能となる。
【0125】
例えば、図14に示すように、プレイヤーがゴルフクラブで打ち出した飛行ボールBfの最大高さが高い場合は、飛行ボールBfが地面に着地する前に、撮影画像内の飛行ボール画像Cfが小さくなり過ぎて、検出することが出来なかったり、飛行ボールBfがプレイヤーの体で隠れてしまい、撮影画像内の飛行ボール画像Cfが検出することが出来なかったりする。このような場合は、飛行ボール画像Cfの検出限界まで、飛行ボール画像Cfの軌跡1400が表示され、飛行ボールBfの追跡が行われる。
【0126】
そして、繰り返し制御部208は、図14に示すように、例えば、飛行ボール画像Cfの不検出の第kの時刻(tdk)の直前の第k−1の時刻(tdk−1)の飛行ボールBfの修正位置と修正速度と、上述した飛行ボールBfの放物線の式(7)(8)とを用いて、飛行ボール画像Cfがプレイヤーの体で隠れた第kの時刻(tdk)以降の飛行ボール画像Cfの軌跡1401を予測して作成する。そして、繰り返し制御部208は、作成した飛行ボール画像Cfの軌跡1401を、初期時刻(td0)から不検出の直前の第k−1の時刻(tdk−1)までの飛行ボール画像Cfの軌跡1400に連結して、補助的に表示する。これにより、プレイヤーは、飛行ボールBfが見えなくなったとしても、第kの時刻(tdk)以降の飛行ボール画像Cfの軌跡1401を模擬的に確認することが出来る。
【0127】
又、繰り返し制御部208は、飛行ボールBfの修正位置と修正速度を経時的に推定することが出来るため、これらの情報を用いて、飛弾された飛行ボールBfの飛行パラメータのキャリー、最大高さ、オフライン(中心ブレ)を算出して表示することが出来る。
【0128】
<実施例>
以下、実施例等によって本発明の効果を具体的に説明するが、本発明はこれにより限定されるものではない。
【0129】
先ず、図1図14に基づいてボール追跡装置1を試作し、このボール追跡装置1を実施例とし、これを用いてゴルフ用ロボットが飛弾したゴルフボールBの飛行パラメータ(キャリー、最大高さ、オフライン)を測定した。
【0130】
ここで、図15Aに示すように、飛行パラメータのキャリーCは、ゴルフボールBが飛弾した際にゴルフボールBの飛弾地点Sから空中を飛んで着地点Eまでの距離を意味する。又、飛行パラメータの最大高さHmaxは、ゴルフボールBが飛弾した際に空中を飛んだゴルフボールBの最大の高さを意味する。又、図15Bに示すように、飛行パラメータのオフラインOFは、ゴルフボールBが飛弾した際にゴルフボールBの飛弾地点Sから正面方向に対してゴルフボールBが空中を飛んで着地点Eまでの中心ブレの距離を意味する。
【0131】
一方、比較例として、市販の飛行パラメータ測定装置を用意し、ゴルフ用ロボットがゴルフクラブでゴルフボールBを飛弾した際に、実施例のボール追跡装置と比較例の飛行パラメータ測定装置とが、ゴルフボールBの飛行パラメータを同時に測定した。尚、市販の飛行パラメータ測定装置は、マイクロ波によるドップラー信号の変動に基づいてゴルフボールBの飛行パラメータを測定する装置である。
【0132】
ゴルフ用ロボットは、ショットのクセによる誤差を無くすために採用し、様々な条件(スイング速度、打出方向、打出角度等)でゴルフクラブを使ってゴルフボールBを飛弾し、実施例のボール追跡装置と比較例の飛行パラメータ測定装置とのそれぞれの測定結果をグラフ化することで、本発明のボール追跡装置の測定精度を検証した。
【0133】
その結果、図16に示すように、実施例のボール追跡装置で測定したゴルフボールBのキャリーが、比較例の飛行パラメータ測定装置で測定したゴルフボールBのキャリーとほぼ一致していた。又、図17に示すように、実施例のボール追跡装置で測定したゴルフボールBの最大高さが、比較例の飛行パラメータ測定装置で測定したゴルフボールBの最大高さとほぼ一致していた。更に驚くべきことに、図18に示すように、実施例のボール追跡装置で測定したゴルフボールBのオフラインが、比較例の飛行パラメータ測定装置で測定したゴルフボールBのオフラインとほぼ一致していた。従って、本発明に係るボール追跡装置は、打ち出された飛行中のゴルフボールBの軌跡を精度高く算出することが可能であることが分かった。
【0134】
尚、本発明の実施形態では、ゴルフボールに対応させたボール追跡装置を説明したが、これに限定する必要は無く、本発明は、ボールを飛行させる(発射させる)球技、ベースボール、テニス、サッカー、ラグビー、アイスホッケ、ゲートボール等のボールの軌跡をリアルタイムに精度高く算出する装置又は方法として幅広く適用することが出来る。
【0135】
又、本発明の実施形態では、ボール追跡装置1が各部を備えるよう構成したが、当該各部を実現するプログラムを記憶媒体に記憶させ、当該記憶媒体を提供するよう構成しても構わない。当該構成では、プログラムを装置に読み出させ、当該装置が各部を実現する。その場合、記録媒体から読み出されたプログラム自体が本発明の作用効果を奏する。さらに、各部が実行するステップをハードディスクに記憶させる方法として提供することも可能である。
【産業上の利用可能性】
【0136】
以上のように、本発明に係るボール追跡装置及びボール追跡方法は、ボールを飛行させるあらゆる球技においてボールの軌跡を算出して表示する装置及び方法として有効であり、飛弾後の飛行ボールの軌跡を精度高く算出することが可能なボール追跡装置及びボール追跡方法として有効である。
【符号の説明】
【0137】
1 ボール追跡装置
10 画像撮影装置
11 飛弾検出装置
12 分析装置
13 表示装置
201 撮影制御部
202 検出制御部
203 算出制御部
204 予測制御部
205 変換制御部
206 取得制御部
207 修正制御部
208 繰り返し制御部
【要約】      (修正有)
【課題】飛行するボールの軌跡を精度高く算出することは難しいという課題がある。
【解決手段】予測制御部204は、算出されたボールの初期位置と初期速度と、ボールの放物線を示す式とに基づいて、特定の時刻における飛行ボールの世界座標系の3次元位置と3次元速度とを予測する。変換制御部205は、飛行ボールの予測位置を、前記特定の時刻で撮影された撮影画像内のカメラ座標系の2次元位置に変換する。取得制御部206は、前記変換された撮影画像内の仮位置に基づいて、撮影画像内の飛行ボール画像を特定し、当該特定された飛行ボール画像のカメラ座標系の2次元位置を取得する。修正制御部207は、カルマンフィルタに基づいて、当該飛行ボールの予測位置と予測速度とを修正する。繰り返し制御部208は、前記特定の時刻における飛行ボールの修正位置と修正速度とを用いて、前記予測と、前記変換と、前記取得と、前記修正とを繰り返す。
【選択図】図2
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18