(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024092090
(43)【公開日】2024-07-08
(54)【発明の名称】情報処理装置、情報処理方法および情報処理プログラム
(51)【国際特許分類】
G06T 7/70 20170101AFI20240701BHJP
【FI】
G06T7/70 A
【審査請求】有
【請求項の数】15
【出願形態】OL
(21)【出願番号】P 2022207768
(22)【出願日】2022-12-26
(11)【特許番号】
(45)【特許公報発行日】2024-03-11
(71)【出願人】
【識別番号】399037405
【氏名又は名称】楽天グループ株式会社
(74)【代理人】
【識別番号】100105957
【弁理士】
【氏名又は名称】恩田 誠
(74)【代理人】
【識別番号】100068755
【弁理士】
【氏名又は名称】恩田 博宣
(72)【発明者】
【氏名】中澤 満
【テーマコード(参考)】
5L096
【Fターム(参考)】
5L096AA06
5L096BA08
5L096CA04
5L096DA02
5L096FA69
5L096HA02
5L096HA08
5L096JA11
5L096JA18
(57)【要約】
【課題】情報処理装置、情報処理方法および情報処理プログラムを提供する。
【解決手段】情報処理装置30は、視点を変化させながら撮影された一連の画像を取得するように構成された画像取得部と、一連の画像から複数の特徴点を抽出するように構成された特徴点抽出部と、複数の特徴点の中から検出対象を示す対象特徴点を検出するように構成された対象検出部と、複数の特徴点から複数のキーポイントを設定するように構成されたキーポイント設定部と、複数のキーポイントと対象特徴点との相対位置に基づいて、検出対象の位置情報を作成するように構成された位置情報作成部と、を備え、各キーポイントは、複数セットの一連の画像の各々のセットから抽出された特徴点のうち、同一の特徴を示す特徴点である。
【選択図】
図1
【特許請求の範囲】
【請求項1】
視点を変化させながら撮影された一連の画像を取得するように構成された画像取得部と、
前記一連の画像から複数の特徴点を抽出するように構成された特徴点抽出部と、
前記複数の特徴点の中から検出対象を示す対象特徴点を検出するように構成された対象検出部と、
前記複数の特徴点から複数のキーポイントを設定するように構成されたキーポイント設定部と、
前記複数のキーポイントと前記対象特徴点との相対位置に基づいて、前記検出対象の位置情報を作成するように構成された位置情報作成部と、を備え、
前記各キーポイントは、複数セットの前記一連の画像の各々のセットから抽出された前記特徴点のうち、同一の特徴を示す特徴点である、
情報処理装置。
【請求項2】
前記画像が2次元画像であり、前記一連の画像から3次元データを生成するように構成された3次元データ生成部をさらに備え、
前記3次元データは前記複数のキーポイントと前記対象特徴点とを含み、
前記位置情報作成部は、前記3次元データから前記検出対象の位置情報を作成するように構成される、
請求項1に記載の情報処理装置。
【請求項3】
前記位置情報作成部が、前記3次元データから前記検出対象の位置を含む平面図を生成するように構成される、
請求項2に記載の情報処理装置。
【請求項4】
1以上のメモリを備え、
前記メモリには、前記検出対象が存在するエリアの地図データが格納されており、
前記位置情報作成部が、前記地図データと前記平面図とを重ねることにより、前記地図データ上に前記検出対象の位置をプロットするように構成される、
請求項3に記載の情報処理装置。
【請求項5】
1以上のメモリを備え、
前記メモリには、
前回の前記複数の特徴点に係る特徴点データと、
前記複数のキーポイントに係るキーポイントデータと、が格納されており、
前記画像取得部が新たな前記一連の画像を取得した場合に、
前記特徴点抽出部が前記新たな一連の画像から新たな複数の特徴点を抽出し、
前記対象検出部が前記新たな複数の特徴点の中から前記検出対象を示す新たな対象特徴点を検出し、
前記キーポイント設定部が前記新たな複数の特徴点と前記前回の複数の特徴点とをマッチングして、同一の特徴を示す特徴点を新たなキーポイントとして、前記キーポイントデータを更新するように構成される、
請求項1に記載の情報処理装置。
【請求項6】
前記キーポイント設定部は、規定回分の前記一連の画像からそれぞれ抽出された前記特徴点のマッチングを行い、前記規定回分のマッチングで一致しなかった前記キーポイントを削除するように構成される、
請求項1に記載の情報処理装置。
【請求項7】
1以上のメモリを備え、
前記メモリには、前記規定回分の前記特徴点に係る特徴点データと、前記キーポイントに係るキーポイントデータとが格納されている、
請求項6に記載の情報処理装置。
【請求項8】
前記一連の画像は前記検出対象の周辺に存在する1以上のオブジェクトを含むように撮影され、
前記特徴点抽出部は、前記1以上のオブジェクトから前記複数の特徴点を抽出するように構成される、
請求項1~7のうち何れか一項に記載の情報処理装置。
【請求項9】
前記1以上のオブジェクトは1以上の樹木を含み、
前記キーポイントは、前記樹木から抽出される前記複数の特徴点から設定され、
前記樹木の季節変化に応じて、前記キーポイントが更新される、
請求項8に記載の情報処理装置。
【請求項10】
前記検出対象はゴルフ場のホールカップ又は前記ホールカップに立てられたピンのうち少なくとも一方であり、
前記一連の画像は、前記ホールカップが設けられるグリーンの境界線を含むように撮影される、
請求項1に記載の情報処理装置。
【請求項11】
前記一連の画像は動画である、
請求項1に記載の情報処理装置。
【請求項12】
1以上のコンピュータに、
視点を変化させながら撮影された一連の第1次画像を取得することと、
前記一連の第1次画像から複数の第1次特徴点を抽出することと、
視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、
前記一連の第2次画像から複数の第2次特徴点を抽出することと、
前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、
複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、
前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、
を実行させることを含む、情報処理方法。
【請求項13】
前記1以上のコンピュータに、
視点を変化させながら前記検出対象を含むように撮影された一連の第3次画像を取得することと、
前記一連の第3次画像から複数の第3次特徴点を抽出することと、
前記複数の第3次特徴点の中から前記検出対象を示す第3次対象特徴点を検出することと、
前記複数のキーポイントを更新することであって、更新された前記各キーポイントは、前記複数の第2次特徴点のうちの1つと同一の特徴を示す、前記複数の第3次特徴点のうちの1つである、ことと、
前記複数のキーポイントと前記第3次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、
をさらに実行させることを含む、
請求項12に記載の情報処理方法。
【請求項14】
前記一連の第1次画像は第1次動画であり、
前記一連の第2次画像は第2次動画であり、
前記第2次動画の撮影時間が、前記第1次動画の撮影時間よりも短い、
請求項12に記載の情報処理方法。
【請求項15】
1以上のコンピュータに、
視点を変化させながら撮影された一連の第1次画像を取得することと、
前記一連の第1次画像から複数の第1次特徴点を抽出することと、
視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、
前記一連の第2次画像から複数の第2次特徴点を抽出することと、
前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、
複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、
前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、
を実行させるための、情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報処理装置、情報処理方法および情報処理プログラムに関する。
【背景技術】
【0002】
一般に、ゴルフ場のホールカップ位置は、グリーンの芝生が局所的に痛むことがないように、日々変更される。特許文献1は、ホールカップ位置にセンサを配置して、変化するホールカップ位置を記録する方法を開示している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ホールカップ位置の検出にセンサを用いる場合、センサから発信される信号を受信するための受信装置などの設備が必要になる。こうした設備は、設置及び維持管理にコスト及び手間がかかる。また、変位を記録する対象によっては、センサを取り付けられない場合もある。そのため、センサなどの設備を付加することなく、対象の変位を記録できることが望ましい。
【0005】
本開示は、対象の変位を記録することができる情報処理装置、情報処理方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示の一態様に係る情報処理装置は、視点を変化させながら撮影された一連の画像を取得するように構成された画像取得部と、前記一連の画像から複数の特徴点を抽出するように構成された特徴点抽出部と、前記複数の特徴点の中から検出対象を示す対象特徴点を検出するように構成された対象検出部と、前記複数の特徴点から複数のキーポイントを設定するように構成されたキーポイント設定部と、前記複数のキーポイントと前記対象特徴点との相対位置に基づいて、前記検出対象の位置情報を作成するように構成された位置情報作成部と、を備え、前記各キーポイントは、複数セットの前記一連の画像の各々のセットから抽出された前記特徴点のうち、同一の特徴を示す特徴点である。
【0007】
本開示の一態様に係る情報処理方法は、1以上のコンピュータに、視点を変化させながら撮影された一連の第1次画像を取得することと、前記一連の第1次画像から複数の第1次特徴点を抽出することと、視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、前記一連の第2次画像から複数の第2次特徴点を抽出することと、前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、を実行させることを含む。
【0008】
本開示の一態様に係る情報処理プログラムは、1以上のコンピュータに、視点を変化させながら撮影された一連の第1次画像を取得することと、前記一連の第1次画像から複数の第1次特徴点を抽出することと、視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、前記一連の第2次画像から複数の第2次特徴点を抽出することと、前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、を実行させるためのプログラムである。
【発明の効果】
【0009】
本開示によれば、対象の変位を記録することが可能になる。
【図面の簡単な説明】
【0010】
【
図1】
図1は実施形態に係る情報処理装置の構成を例示する模式図である。
【
図3】
図3は検出対象の変位と動画の撮影方法とを説明する模式図である。
【
図4】
図4は動画撮影時の様子を示す模式図である。
【
図5】
図5は第1次動画から抽出した複数の第1次特徴点を例示する模式図である。
【
図6】
図6は第2次動画から抽出した複数の第2次特徴点と、設定された複数のキーポイントとを例示する模式図である。
【
図7】
図7は生成された3次元データを例示する模式図である。
【
図8】
図8は3次元データから生成された平面図である。
【
図9】
図9は実施形態に係る情報処理方法を例示するフロー図である。
【発明を実施するための形態】
【0011】
本開示の情報処理装置、情報処理方法および情報処理プログラムの例を、以下に図面を参照しつつ説明する。本発明はこれらの例示に限定されるものではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
【0012】
[情報処理システム]
図1に例示するゴルフ場11のグリーン12内において、日々変更されるホールカップ13の位置を検出するための情報処理装置30について説明する。ホールカップ13の位置は、撮影者20により操作される撮影装置21により撮影される一連の画像15(
図4参照)から検出される。「一連の画像」とは、視点を変化させながら撮影した、複数の静止画又は動画である。撮影装置21は、例えば、携帯可能なデジタルカメラ、ビデオカメラ、スマートフォン、又はタブレットであってもよいが、これらに限られない。撮影装置21は、動画を撮影できることが好ましい。以下、「一連の画像15」を単に画像15又は動画15と言うことがある。
【0013】
撮影者20によって撮影された動画15は、ユーザ端末22に保存されてもよい。ユーザ端末22は、例えば、ゴルフ場11に並設される管理施設14内に置かれていてもよい。ユーザ端末22は、例えば、パーソナルコンピュータである。ユーザ端末22は、ネットワーク23を通じて情報処理装置30と通信するように構成されてもよい。この場合、ユーザ端末22に保存された動画15は、ネットワーク23を通じて情報処理装置30に送信されてもよい。
【0014】
ネットワーク23は、例えば、インターネット、WAN(Wide Area Network)、LAN(Local Area Network)、プロバイダ端末、無線通信網、無線基地局、専用回線等を含む。撮影装置21が通信機能を有する端末、例えばスマートフォン又はタブレットである場合、ユーザ端末22を介さず、撮影した画像を情報処理装置30に直接送信するようにしてもよい。
【0015】
情報処理装置30は、例えば、プロセッサ31、メモリ32、及び通信IF(interface)33を備えるサーバ又はコンピュータである。情報処理装置30は、さらに、入力装置34、出力装置35、及びストレージ36を有してもよい。プロセッサ31、メモリ32、通信IF33、入力装置34、出力装置35、及びストレージ36は、通信バス37により互いに接続される。
【0016】
プロセッサ31は、例えば、各種ソフトウェア処理を実行するように構成される処理回路である。処理回路は、ソフトウェア処理の少なくとも一部を処理する専用のハードウェア回路(たとえばASIC等)を備えてもよい。すなわち、ソフトウェア処理は、1又は複数のソフトウェア処理回路及び1又は複数の専用のハードウェア回路の少なくとも一方を備えた処理回路(processing circuitry)によって実行されればよい。
【0017】
プロセッサ31は、例えば、CPU(Central Processing Unit)、GPU(Graphics Processing Unit)、MPU(Micro Processor Unit)、FPGA(Field-Programmable Gate Array)、又はその他の演算装置である。プロセッサ31は、与えられる信号に応じて、又は、予め定められた条件が成立したことに応じて、メモリ32又はストレージ36に格納されているプログラムに含まれる一連の命令を実行する。
【0018】
メモリ32は、例えば、RAM(Random Access Memory)、又はその他の揮発性メモリである。メモリ32は、プログラム、及びデータを一時的に保存するように構成される。プログラムは、例えばストレージ36から読み出される。メモリ32が保存するデータは、情報処理装置30が受信したデータと、プロセッサ31によって生成されたデータとを含んでもよい。
【0019】
通信IF33は、ネットワーク23に接続するように構成される。通信IF33は、ネットワーク23に接続されている他の装置と通信するように構成される。通信IF33は、例えば、LAN、又はその他の有線通信IFとして実現される。通信IF33は、例えば、Wi-Fi(登録商標)、Bluetooth(登録商標)、又はその他の無線通信IFとしても実現され得るが、これらに限定されない。
【0020】
入力装置34は、例えば、キーボード及びマウスであり、ボタン、キー、スイッチ、タッチパッド、又はマイクを含んでもよい。出力装置35は、例えば、液晶モニタ又は有機EL(Electro Luminescence)モニタであってもよいし、入力装置34を兼ねたタッチパネルを有するタッチスクリーンであってもよい。出力装置35は、スピーカ又は音声出力のための端子であってもよい。
【0021】
ストレージ36は、メモリの一種であり、例えば、ROM(Read-Only Memory)、ハードディスク装置、フラッシュメモリ、又はその他の不揮発性記憶装置であってもよい。ストレージ36は、メモリカードのように、着脱可能な記憶装置であってもよい。ストレージ36は、プログラム及びデータを永続的に格納するように構成される。ストレージ36には、各種の機能を実現するための1以上のアプリケーション38及び後述するデータ41~46が格納されていてもよい。位置情報データ46は、ゴルフ場11の地図データを含んでもよい。
【0022】
図2に示すように、情報処理装置30は、画像取得部51、特徴点抽出部52、対象検出部53、キーポイント設定部54、3次元データ生成部55、及び位置情報作成部56を備えてもよい。画像取得部51、特徴点抽出部52、対象検出部53、キーポイント設定部54、3次元データ生成部55、及び位置情報作成部56は、プロセッサ31により実行されるアプリケーション38の機能として実現されてもよいし、複数の装置(例えば、コンピュータ)51~56として実現されてもよい。
【0023】
例えば、動画15を取得するためのコンピュータ51、特徴点62を抽出するためのコンピュータ52、キーポイント64を設定するためのコンピュータ54、3次元データ45を生成するためのコンピュータ55、及び位置情報を作成するためのコンピュータ56が互いにネットワーク23を通じて通信するようにしてもよい。あるいは、情報処理装置30は、画像取得部51、特徴点抽出部52、対象検出部53、キーポイント設定部54、3次元データ生成部55、及び位置情報作成部56のうちのいくつかが1つの装置(コンピュータ)として実現されてもよい。この場合、コンピュータ51~55を備える情報処理システムが全体として情報処理装置30となる。
【0024】
画像取得部51は、ユーザ端末22又は情報処理装置30から送信された動画15を取得して、画像データ41としてストレージ36に保存するように構成される。
特徴点抽出部52は、動画15から複数の特徴点62(
図5及び
図6で白丸で示す)を抽出するように構成される。画像から特徴点を抽出する方法は、例えば、特許第4689758号公報に開示されているが、これに限らない。特徴点62は、画像の中の特徴的な部分であり、物体の角又はエッジなどが代表例である。特徴点抽出部52は、抽出した特徴点62に係る情報を、特徴点データ42としてストレージ36に保存する。
【0025】
対象検出部53は、予め登録された対象データ43を参照して、複数の特徴点62の中から、検出対象を示す1以上の対象特徴点62t(
図6参照)を検出する。対象データ43は、検出対象の特徴を示す情報を含む。本例の検出対象はホールカップ13であるが、これに加えて、あるいはこれに代えて、ホールカップ13の位置を示すピン24(
図6参照)を検出対象にしてもよい。対象特徴点62tも他の特徴点62と共に特徴点データ42としてストレージ36に保存されてもよい。
【0026】
キーポイント設定部54は、抽出された複数の特徴点62の中から、複数のキーポイント64(
図6に白丸の中の黒丸で示す)を設定するように構成される。キーポイント64とは、複数の動画15(複数セットの一連の画像15)の各々から抽出された特徴点62のうち、同一の特徴を示す特徴点62である。例えば、前日に撮影した動画15から抽出した第1次特徴点62fと今日撮影した動画15から抽出した第2次特徴点62sとをマッチングして、同一の特徴を示す特徴点62がキーポイント64となる。
【0027】
具体的には、ある物(例えば、樹木)のある部分(例えば、1つの果実)を異なる日にそれぞれ撮影した場合、その部分は複数の動画において同一の特徴を示す。逆に、異なる物を撮影した複数の動画からそれぞれ抽出された特徴点は、同一の特徴を示さない。つまり、キーポイント64が設定されるということは、同じ物(部分)が複数の動画に亘って撮影されていることを意味する。
【0028】
抽出した特徴点62のうち、対象特徴点62tはキーポイント64の候補から除外される。すなわち、複数の特徴点62から対象特徴点62tを除外した残りがキーポイント64の候補となる。キーポイント設定部54は、設定したキーポイント64に係る情報を、キーポイントデータ44としてストレージ36に保存する。
【0029】
キーポイント64は、最新の特徴点62を前回の特徴点62とマッチングするのに限らず、規定回数前の回の特徴点62とマッチングしたり、規定回数(例えば、3回)分の特徴点62とマッチングしたりしてもよい。この場合、ストレージ36には、少なくとも、規定回数分の特徴点62に係る特徴点データ42と、キーポイント64に係るキーポイントデータ44とを格納しておけばよい。キーポイント設定部54は、異なる動画15からそれぞれ抽出された特徴点62とマッチングし、規定回数(例えば、1又は複数回)のマッチングで一致しなかったキーポイント64を削除するように構成されてもよい。
【0030】
特徴点62のマッチングを前回の特徴点62とのみ行う場合、ストレージ36には、前回の特徴点62に係る特徴点データ42と、前回の特徴点62からキーポイント設定部54が設定した複数のキーポイント64に係るキーポイントデータ44とを格納しておけばよい。そして、画像取得部51が新たに一連の画像15を取得した場合に、特徴点抽出部52が新たな一連の画像15から新たな複数の特徴点62を抽出し、対象検出部53が新たな複数の特徴点62の中から検出対象を示す新たな対象特徴点62tを検出し、キーポイント設定部54が新たな特徴点62と前回の特徴点62とをマッチングして、同一の特徴を示す特徴点62を新たなキーポイント64として、キーポイントデータ44を更新すればよい。
【0031】
3次元データ生成部55は、動画15、すなわち一連の2次元画像から、3次元データ45(
図7参照)を生成するように構成される。これは、いわゆるSfM(Structure From Motion)と呼ばれる処理であり、撮影対象の3次元構造を再現する。3次元データ生成部55は、生成した3次元データ45をストレージ36に保存する。3次元データ45は、再現した3次元構造内に、対象特徴点62t及び複数のキーポイント64を含む。
【0032】
位置情報作成部56は、複数のキーポイント64と対象特徴点62tとの相対位置に基づいて、検出対象の位置Td(
図8参照)を検出するように構成される。位置情報作成部56は、3次元データ45から検出対象の位置情報を作成するように構成されてもよい。例えば、位置情報作成部56は、3次元データ45から検出対象の位置Tdを含む平面
図46(
図8参照)を生成するように構成されてもよい。
【0033】
図8に示すように、平面
図46には、グリーン12内におけるホールカップ13の検出位置Tdが示されている。平面
図46には、グリーン12の境界線Gdも示されていることが好ましい。画像15にグリーン12の境界線全体が撮影されていると、3次元データ45において境界線Gdを再現しやすい。さらに、位置情報作成部56は、検出対象が存在するエリア(ゴルフ場11)の地図データと平面
図46とを重ねることにより、地図データ上に検出位置Tdをプロットするように構成されてもよい。
【0034】
[検出対象の撮影]
図3に示すように、ゴルフ場11では、主にグリーン12の芝生が局所的に痛むことがないように、ホールカップ13の位置がグリーン12内において、度々(例えば、毎日)変更される。本例では、撮影者20が撮影装置21を用いて撮影する動画15を用いて、検出対象であるホールカップ13の位置を検出する。
【0035】
図3及び
図4に示すように、撮影者20は、視点を変化させながら検出対象(ホールカップ13)を含む環境を撮影することにより、動画15を取得する。撮影者20は、ホールカップ13の位置が変更される都度、撮影を行ってもよい。撮影者20は、動画15内に、ホールカップ13と、グリーン12の境界線と、ホールカップ13及びグリーン12の周辺に存在する1以上の参照用オブジェクト16~18と、が含まれるように撮影するとよい。
【0036】
オブジェクト16~18は、検出対象の周辺環境中に固定されている物体であって、位置、形状及び大きさが変化しにくい物体が好ましい。オブジェクト16~18は、例えば、樹木、建物、又は構造物を含んでもよい。本例のオブジェクト16~18は、グリーン12の周辺にある樹木である。オブジェクト16は、例えば落葉樹であり、オブジェクト17,18は例えば常緑樹である。オブジェクト16~18の形状及び大きさに応じて、撮影者20は、縦長の画角で撮影を行ってもよいし、横長の画角で撮影を行ってもよい。
【0037】
動画15には、グリーン12の境界線全体が含まれることが好ましい。そのため、撮影者20は、グリーン12の周囲を一周しながら撮影を行ってもよい。あるいは、撮影者20は、グリーン12内に立って、360度撮影方向を変えながら撮影を行ってもよい。撮影を終えると、撮影者20は、動画15をユーザ端末22に保存するか、あるいは、ユーザ端末22又は情報処理装置30に送信する。
【0038】
画像取得部51は、送信された動画15を受信して、ストレージ36に保存する。ここで、初回(第1回目)に撮影された動画15を第1次動画(一連の第1次画像)15fといい、その次(第2回目、又は設定回)に撮影された動画15を第2次動画(一連の第2次画像)15sという。また、第1次動画15fから抽出される特徴点62を第1次特徴点62fといい、第2次動画15sから抽出される特徴点62を第2次特徴点62sという。さらに、第1次特徴点62fの中から検出される対象特徴点62tを第1次対象特徴点62tfといい、第2次特徴点62sの中から検出される対象特徴点62tを第2次対象特徴点62tsという。
【0039】
[検出対象の検出方法]
図9にホールカップ13の位置検出方法を例示する。
始めに、ステップS11で、画像取得部51が第1次動画15fを取得する。ステップS12で、特徴点抽出部52が第1次動画15fから複数の第1次特徴点62fを抽出する(
図5参照)。
【0040】
ステップS13で、対象検出部53が複数の第1次特徴点62fの中から、ホールカップ13を示す対象特徴点62tfを検出する(
図5参照)。
図5では、検出した対象特徴点62tfを破線の四角で囲んでマークしている。初回のホールカップ13の位置を検出する必要が無い場合には、ステップS13の検出は省略してもよい。すなわち、ステップS13で対象特徴点62tfが検出されなくてもよい。
【0041】
続いて、ステップS14で、画像取得部51が第2次動画15sを取得する。ステップS15で、特徴点抽出部52が第2次動画15sから複数の第2次特徴点62sを抽出する(
図6参照)。ステップS16で、対象検出部53が複数の第2次特徴点62sの中から、ホールカップ13を示す第2次対象特徴点62tsを検出する(
図6参照)。
図6では、検出した対象特徴点62tsを破線の四角で囲んでマークしている。
【0042】
ステップS17で、キーポイント設定部54が、複数の第2次特徴点62sの中から、複数のキーポイント64を設定する(
図6参照)。各キーポイント64は、複数の第1次特徴点62fのうちの1つと同一の特徴を示す、複数の第2次特徴点62sのうちの1つである。そのため、例えば初回にのみ写っていた特徴点62sは除外され、ホールカップ13の周辺に、少なくとも一定期間、恒常的に存在する特徴点62sがキーポイント64となる。
【0043】
ステップS18で、3次元データ生成部55が第2次動画15sから3次元データ45を生成する(
図7参照)。さらに、ステップS19で、位置情報作成部56が位置情報を生成して、処理を終了する。より詳細には、位置情報作成部56が、キーポイント64と第2次対象特徴点62tsとの相対位置に基づいて、第2次動画15s取得時のホールカップ13の位置Tdを検出する。そして、位置情報作成部56は、3次元データ45から平面
図46(
図8参照)を生成する。この平面
図46には、ホールカップ13の位置Tdとともにグリーン12の境界線Gdも示されている。そのため、2回目撮影時のグリーン12内におけるホールカップ13の位置Tdが把握される。
【0044】
第2回目の後の第3回目(更新回)に撮影された第3次動画(一連の第3次画像)15tについても、ステップS14と同様に画像取得部51が取得し、ステップS15と同様に特徴点抽出部52が複数の第3次特徴点62を抽出する。また、ステップS16と同様に対象検出部53が複数の第3次特徴点62の中から第3次対象特徴点62tを検出する。
【0045】
そして、ステップS17と同様にキーポイント設定部54がキーポイント64を設定することにより、キーポイント64を更新する。このようにして、キーポイント64は、新たな動画15を取得する都度、更新される。本開示においてキーポイント64を「設定」することには、キーポイント64を「更新」することを含むが、2回目以降の設定であることを強調するために、「更新」の用語を使うことがある。
【0046】
最後に、位置情報作成部56は、ステップS19と同様に、更新された複数のキーポイント64と第3次対象特徴点62tとの相対位置に基づいて、位置情報作成部56が3回目撮影時のホールカップ13の位置情報を生成する。第3回目の後の第4回目(2回目の更新回)以降に撮影した画像15についても、同様に、キーポイント64の更新と位置情報の生成とが行われる。
【0047】
第1次動画15fは、例えば、グリーン12の全周に沿って、グリーン12内の全体が含まれるように、丁寧に撮影することが好ましい。これにより、グリーン12の周辺の特徴点62fをもれなく把握され、かつ、3次元データ45がより精密に生成されるためである。
【0048】
これに対して、2回目以降に撮影される動画15の撮影時間は、初回に撮影される第1次動画15fの撮影時間よりも短くてもよい。例えば、オブジェクト16~18のうちいくつかと、グリーン12の境界の一部と、ホールカップ13とが含まれる画像15が得られればよく、必ずしもグリーン12の全周を撮影したり、グリーン12の全体を撮影したりしなくてもよい。
【0049】
[本開示の作用]
本開示の方法によれば、グリーン12の周囲を徒歩で撮影すれば画像15が得られるので、例えばドローンなどによってホールカップ13を空撮する必要がない。そのため、撮影のコストが低い。また、2回目以降は短い動画15でもキーポイント64を設定することができるので、撮影に手間がかからない。
【0050】
ホールカップ13は、グリーン12に対して小さいので、グリーン12内での位置を把握するために、グリーン12の境界とともに撮影するのが難しいことがある。これに対して、ホールカップ13及びグリーン12の周囲にあるオブジェクト16~18は、画像15にとらえやすい。例えば木、建物、構造物など、グリーン12の周囲に恒常的に存在するオブジェクト16~18は、位置が固定されている。そのため、異なる動画15から抽出された特徴点62同士のマッチングを行い、恒常的に存在する特徴点62をキーポイント64とすることで、キーポイント64との相対位置に基づいてホールカップ13の位置Tdを検出することが可能になる。
【0051】
例えばキーポイント64が設定されていない初回では、第1次動画15から作成した3次元データ45に写っているホールカップ13自体の位置を地図データにプロットしてもよい。2回目以降は、オブジェクト16~18に基づいてキーポイント64を設定することにより、位置Tdをより精度良く検出することが可能になる。
【0052】
オブジェクト16~18が自然物、例えば樹木の場合、季節によってその様相が変化することがある。そのため、オブジェクト16~18から抽出される特徴点62の数及び位置が変化することがある。例えば、落葉樹であれば落葉により幹が露出することで特徴点62が増えることがある。また、果樹であれば実がなることで特徴点62が増えたり、実が落ちることで特徴点62が減ったりすることがある。自然物以外でも、例えば建物の装飾が変わったり、物の配置が変わったり、構造物が老朽化したりすれば、特徴点62に変化が生じることがある。
【0053】
その点、複数回の撮影に亘って継続的に存在する特徴点62をキーポイント64にすることにより、キーポイント64が順次に更新されていく。キーポイント64が樹木から抽出される複数の特徴点62から設定される場合であれば、樹木の季節変化に応じて、キーポイント64が更新される。その結果、経時的にオブジェクト16~18の特徴点62が変化しても、更新されたキーポイント64を基準点として、ホールカップ13の位置Tdを検出することが可能になる。
【0054】
一定期間同じ位置に存在するオブジェクト16~18であっても、画像15の撮影状況によっては、うまく写らないことがある。そのため、いったん設定したキーポイント64は、一回のマッチングで一致しない場合に削除するのではなく、規定回数(例えば、3~5回)のマッチングで一致しなかった場合に削除するようにしてもよい。この場合、規定回数分の画像15に対応する特徴点62を特徴点データ42として残しておくとよい。
【0055】
[本開示の効果]
本開示によれば、以下の効果を奏することができる。
(1)複数のキーポイント64と対象特徴点62tとの相対位置に基づいて、検出対象であるホールカップ13の位置を検出することができる。こうした検出を順次に行うことにより、ホールカップ13の変位を記録することができる。
【0056】
(2)複数のキーポイント64と対象特徴点62tとを含む3次元データ45を生成することにより、複数のキーポイント64と対象特徴点62tとの相対位置を視覚的に把握することができる。
【0057】
(3)3次元データ45から生成した平面
図46により、ホールカップ13の平面配置をよりわかりやすく図示することができる。
(4)地図データと平面
図46とを重ねて地図データ上にホールカップ13の位置をプロットすることにより、ホールカップ13の地理情報、すなわち絶対的な位置情報を得ることができる。
【0058】
(5)キーポイント設定部54が新たなキーポイント64を設定する都度、キーポイントデータ44を更新するので、周辺環境の変化に対応したキーポイント64を基準として、ホールカップ13の位置を検出することができる。
【0059】
(6)キーポイント設定部54は、規定回数のマッチングで一致しなかったキーポイント64を削除するので、一時的に撮影に失敗したキーポイント64が削除されることを抑制しつつ、周辺環境に対応するようにキーポイント64を更新することができる。
【0060】
(7)ストレージ36には、キーポイント64の設定に使用される規定回数分の特徴点62に係る特徴点データ42が格納される。キーポイント64の設定に使用しない特徴点62は削除することができるので、ストレージ36の必要容量が増大することを抑制することができる。
【0061】
(8)特徴点62は、1以上のオブジェクト16~18から抽出されるので、検出対象の周辺に存在するオブジェクト16~18を基準として、検出対象の位置を検出することができる。
【0062】
(9)オブジェクト16~18の変化に起因して特徴点62が消えたり増えたりした場合、キーポイント64が更新される。そのため、オブジェクト16~18が樹木であって、この樹木の葉、実、花、枝、又は幹の状態が季節に応じて変化しても、変化に応じてキーポイント64を更新ことができる。
【0063】
(10)ゴルフ場11のホールカップ13を検出対象とする場合、グリーン12の境界線を含むように動画15を撮影して、平面
図46にグリーン12の境界線Gdを示すと、ホールカップ13の検出位置Tdを把握しやすい。
【0064】
(11)動画は、一連の画像を1つのファイルとして扱うことができるため、データの転送及び保存などの取り扱いが容易である。
(12)最初に撮影した動画15f(一連の第1次画像)から、検出対象を含む環境を再現する3次元データ45を作成しておけば、2回目以降の動画15sは、いくつかの特徴点62を抽出できるように撮影すればよい。よって、2回目以降の動画15の撮影時間が、最初の動画15fの撮影時間よりも短くてすむので、撮影の手間を低減できる。
【0065】
[変更例]
本実施形態は、以下のように変更して実施することができる。本実施形態及び以下の変更例は、技術的に矛盾しない範囲で互いに組み合わせて実施することができる。
【0066】
・検出対象はホールカップ13に限らない。例えば、設備、道具、生物、人間、顔認証された特定の人物、又は車両の変位を検出するために本開示の技術を用いてもよい。この場合、同じ対象を継続的に撮影することで移動の履歴を記録するようにしてもよいし、異なる対象であっても予め登録した対象であれば(すなわち、同種の対象であれば)全て検出するようにしてもよい。あるいは、検出対象の有無、又は、出現位置の変化を検出することも可能である。こうした使用方法は、例えば、物品又は施設の維持管理、野生生物の生態調査、又は人の出入りの確認などに有用である。
【0067】
・検出対象は、全ての画像15(例えば、一連の第1次画像)に現れていなくてもよい。例えば、建物又は構造物のクラック又は損傷箇所を検出対象として、定期的な点検として建物、構造物、又は施設を撮影してもよい。この場合、クラック又は損傷箇所といった異常が生じた場合に、その異常を検出対象として検出することができる。こうした使用方法は、建物、構造物、又は施設の維持管理に有用である。例えばトンネル又は道路の様な構造物を検査する場合には、車両に取り付けたカメラにより動画15を撮影するとよい。その他、道路の落下物を検出対象とすれば、落下物の除去に有用である。
【0068】
・一連の画像15は、必ずしも手動で撮影しなくてもよく、例えばドローン、自動走行車又は動物に取り付けたカメラ又は監視カメラによって撮影してもよい。あるいは、撮影方向を変更可能なカメラによって自動的に、又は定期的に、あるいは移動又は音声を検知した場合に、撮影を行ってもよい。
【0069】
・検出対象にマーク又は光源を付して、検出対象が一連の画像15に写りやすくしてもよい。ピン24は、検出対象であるホールカップ13の位置を示すためのマークの一例である。
【0070】
・第1次画像15f、第2次動画15s、第3次動画15tは、この順(時系列)に撮影されなくてもよく、変位を把握したい順に検出に供すればよい。すなわち、「第1次」とは、最も早い時期に撮影したことを意味するのではなく、検出対象を含む環境の3次元構造を復元するための基礎データであることを意味する。この「第1次」に対して、最初にキーポイント64を設定するためのデータであることを意味するのが「第2次」であり、最初にキーポイント64を更新するためのデータであることを意味するのが「第3次」である。また、「第4次」以降は、第3次と同様に、キーポイント64を更新するためのデータであることを意味する。
【0071】
・一連の画像(又は動画)15を3Dカメラで撮影してもよい。この場合、情報処理装置30は3次元データ生成部55を備えなくてもよい。
・3次元データ45を3D地図データと重ねてもよい。この場合、平面
図46の作成を省略してもよい。あるいは、検出対象の平面位置ではなく、高さ位置を検出したい場合は、位置情報作成部56が平面
図46に代えて立面図を作成してもよい。その他、位置情報作成部56は、検出対象の位置を示すための種々の図面を作成してもよい。
【0072】
上記実施形態及び変更例に基づいて把握される態様を以下に列記する。
[1]視点を変化させながら撮影された一連の画像を取得するように構成された画像取得部と、
前記一連の画像から複数の特徴点を抽出するように構成された特徴点抽出部と、
前記複数の特徴点の中から検出対象を示す対象特徴点を検出するように構成された対象検出部と、
前記複数の特徴点から複数のキーポイントを設定するように構成されたキーポイント設定部と、
前記複数のキーポイントと前記対象特徴点との相対位置に基づいて、前記検出対象の位置情報を作成するように構成された位置情報作成部と、を備え、
前記各キーポイントは、複数セットの前記一連の画像の各々のセットから抽出された前記特徴点のうち、同一の特徴を示す特徴点である、
情報処理装置
[2]前記画像が2次元画像であり、前記一連の画像から3次元データを生成するように構成された3次元データ生成部をさらに備え、
前記3次元データは前記複数のキーポイントと前記対象特徴点とを含み、
前記位置情報作成部は、前記3次元データから前記検出対象の位置情報を作成するように構成される、
上記[1]に記載の情報処理装置。
【0073】
[3]前記位置情報作成部が、前記3次元データから前記検出対象の位置を含む平面図を生成するように構成される、
上記[2]に記載の情報処理装置。
【0074】
[4]1以上のメモリを備え、
前記メモリには、前記検出対象が存在するエリアの地図データが格納されており、
前記位置情報作成部が、前記地図データと前記平面図とを重ねることにより、前記地図データ上に前記検出対象の位置をプロットするように構成される、
上記[3]に記載の情報処理装置。
【0075】
[5]1以上のメモリを備え、
前記メモリには、
前回の前記複数の特徴点に係る特徴点データと、
前記複数のキーポイントに係るキーポイントデータと、が格納されており、
前記画像取得部が新たな前記一連の画像を取得した場合に、
前記特徴点抽出部が前記新たな一連の画像から新たな複数の特徴点を抽出し、
前記対象検出部が前記新たな複数の特徴点の中から前記検出対象を示す新たな対象特徴点を検出し、
前記キーポイント設定部が前記新たな複数の特徴点と前記前回の複数の特徴点とをマッチングして、同一の特徴を示す特徴点を新たなキーポイントとして、前記キーポイントデータを更新するように構成される、
上記[1]~[4]のうち何れかに記載の情報処理装置。
【0076】
[6]前記キーポイント設定部は、規定回分の前記一連の画像からそれぞれ抽出された前記特徴点のマッチングを行い、前記規定回分のマッチングで一致しなかった前記キーポイントを削除するように構成される、
上記[1]~[5]のうち何れかに記載の情報処理装置。
【0077】
[7]1以上のメモリを備え、
前記メモリには、前記規定回分の前記特徴点に係る特徴点データと、前記キーポイントに係るキーポイントデータとが格納されている、
上記[6]に記載の情報処理装置。
【0078】
[8]前記一連の画像は前記検出対象の周辺に存在する1以上のオブジェクトを含むように撮影され、
前記特徴点抽出部は、前記1以上のオブジェクトから前記複数の特徴点を抽出するように構成される、
上記[1]~[7]のうち何れかに記載の情報処理装置。
【0079】
[9]前記1以上のオブジェクトは1以上の樹木を含み、
前記キーポイントは、前記樹木から抽出される前記複数の特徴点から設定され、
前記樹木の季節変化に応じて、前記キーポイントが更新される、
上記[8]に記載の情報処理装置。
【0080】
[10]前記検出対象はゴルフ場のホールカップ又は前記ホールカップに立てられたピンのうち少なくとも一方であり、
前記一連の画像は、前記ホールカップが設けられるグリーンの境界線を含むように撮影される、
上記[1]~[9]のうち何れかに記載の情報処理装置。
【0081】
[11]前記一連の画像は動画である、
上記[1]~[10]のうち何れかに記載の情報処理装置。
[12]1以上のコンピュータに、
視点を変化させながら撮影された一連の第1次画像を取得することと、
前記一連の第1次画像から複数の第1次特徴点を抽出することと、
視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、
前記一連の第2次画像から複数の第2次特徴点を抽出することと、
前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、
複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、
前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、
を実行させることを含む、情報処理方法。
【0082】
[13]1以上のコンピュータに、
視点を変化させながら前記検出対象を含むように撮影された一連の第3次画像を取得することと、
前記一連の第3次画像から複数の第3次特徴点を抽出することと、
前記複数の第3次特徴点の中から前記検出対象を示す第3次対象特徴点を検出することと、
前記複数のキーポイントを更新することであって、更新された前記各キーポイントは、前記複数の第2次特徴点のうちの1つと同一の特徴を示す、前記複数の第3次特徴点のうちの1つである、ことと、
前記複数のキーポイントと前記第3次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、
をさらに実行させることを含む、
を実行させることを含む、上記[12]に記載の情報処理方法。
【0083】
[14]前記一連の第1次画像は第1次動画であり、
前記一連の第2次画像は第2次動画であり、
前記第2次動画の撮影時間が、前記第1次動画の撮影時間よりも短い、
上記[12]又は[13]に記載の情報処理方法。
【0084】
[15]1以上のコンピュータに、
視点を変化させながら撮影された一連の第1次画像を取得することと、
前記一連の第1次画像から複数の第1次特徴点を抽出することと、
視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、
前記一連の第2次画像から複数の第2次特徴点を抽出することと、
前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、
複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、
前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記検出対象の位置情報を生成することと、
を実行させるための、情報処理プログラム。
【符号の説明】
【0085】
11…ゴルフ場、12…グリーン、13…ホールカップ、14…管理施設、15…一連の画像(動画)、15f…一連の第1次画像、15s…一連の第2次画像、15t…一連の第3次画像、16~18…参照用オブジェクト、20…撮影者、21…撮影装置、22…ユーザ端末、23…ネットワーク、24…ピン、30…情報処理装置、31…プロセッサ、32…メモリ、33…通信IF、34…入力装置、35…出力装置、36…ストレージ、37…通信バス、38…アプリケーション、41…画像データ、42…特徴点データ、43…対象データ、44…キーポイントデータ、45…3次元データ、46…位置情報データ、51…画像取得部、52…特徴点抽出部、53…対象検出部、54…キーポイント設定部、55…3次元データ生成部、56…位置情報作成部、62…特徴点、62f…第1次特徴点、62s…第2次特徴点、62t…対象特徴点、62tf…第1次対象特徴点、62tf…対象特徴点、62ts…第2次対象特徴点、64…キーポイント、Gd…境界線、Td…検出位置。
【手続補正書】
【提出日】2023-11-29
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項1
【補正方法】変更
【補正の内容】
【請求項1】
視点を変化させながら撮影された一連の画像を取得するように構成された画像取得部と、
前記一連の画像から複数の特徴点を抽出するように構成された特徴点抽出部と、
前記複数の特徴点の中から検出対象を示す対象特徴点を検出するように構成された対象検出部と、
前記複数の特徴点から複数のキーポイントを設定するように構成されたキーポイント設定部と、
前記複数のキーポイントと前記対象特徴点との相対位置に基づいて、前記検出対象の位置情報を作成するように構成された位置情報作成部と、
前記一連の画像から3次元データを生成するように構成された3次元データ生成部と、を備え、
前記各キーポイントは、複数セットの前記一連の画像の各々のセットから抽出された前記特徴点のうち、同一の特徴を示す特徴点であり、
前記3次元データは前記複数のキーポイントと前記対象特徴点とを含み、
前記位置情報作成部は、前記3次元データから前記検出対象の位置情報を作成するように構成される、
情報処理装置。
【手続補正2】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項2
【補正方法】変更
【補正の内容】
【請求項2】
前記画像が2次元画像である、
請求項1に記載の情報処理装置。
【手続補正3】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項3
【補正方法】変更
【補正の内容】
【請求項3】
前記位置情報作成部が、前記3次元データから前記検出対象の位置を含む平面図を生成するように構成される、
請求項1に記載の情報処理装置。
【手続補正4】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項12
【補正方法】変更
【補正の内容】
【請求項12】
1以上のコンピュータに、
視点を変化させながら撮影された一連の第1次画像を取得することと、
前記一連の第1次画像から複数の第1次特徴点を抽出することと、
視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、
前記一連の第2次画像から複数の第2次特徴点を抽出することと、
前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、
複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、
前記一連の画像から3次元データを生成することであって、前記3次元データは前記複数のキーポイントと前記対象特徴点とを含む、ことと、
前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記3次元データから前記検出対象の位置情報を生成することと、
を実行させることを含む、情報処理方法。
【手続補正5】
【補正対象書類名】特許請求の範囲
【補正対象項目名】請求項15
【補正方法】変更
【補正の内容】
【請求項15】
1以上のコンピュータに、
視点を変化させながら撮影された一連の第1次画像を取得することと、
前記一連の第1次画像から複数の第1次特徴点を抽出することと、
視点を変化させながら検出対象を含むように撮影された、一連の第2次画像を取得することと、
前記一連の第2次画像から複数の第2次特徴点を抽出することと、
前記複数の第2次特徴点の中から前記検出対象を示す第2次対象特徴点を検出することと、
複数のキーポイントを設定することであって、前記各キーポイントは、前記複数の第1次特徴点のうちの1つと同一の特徴を示す、前記複数の第2次特徴点のうちの1つである、ことと、
前記一連の画像から3次元データを生成することであって、前記3次元データは前記複数のキーポイントと前記対象特徴点とを含む、ことと、
前記複数のキーポイントと前記第2次対象特徴点との相対位置に基づいて、前記3次元データから前記検出対象の位置情報を生成することと、
を実行させるための、情報処理プログラム。