IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ソニー株式会社の特許一覧

特許7559761情報処理装置、情報処理方法、プログラム及び情報処理システム
<>
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図1
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図2
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図3
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図4
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図5
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図6
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図7
  • 特許-情報処理装置、情報処理方法、プログラム及び情報処理システム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-09-24
(45)【発行日】2024-10-02
(54)【発明の名称】情報処理装置、情報処理方法、プログラム及び情報処理システム
(51)【国際特許分類】
   G06Q 50/10 20120101AFI20240925BHJP
【FI】
G06Q50/10
【請求項の数】 6
(21)【出願番号】P 2021540657
(86)(22)【出願日】2020-07-07
(86)【国際出願番号】 JP2020026527
(87)【国際公開番号】W WO2021033443
(87)【国際公開日】2021-02-25
【審査請求日】2023-05-16
(31)【優先権主張番号】P 2019151196
(32)【優先日】2019-08-21
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110003339
【氏名又は名称】弁理士法人南青山国際特許事務所
(72)【発明者】
【氏名】加藤 嵩明
【審査官】田川 泰宏
(56)【参考文献】
【文献】国際公開第2019/072311(WO,A2)
【文献】特開2017-138109(JP,A)
【文献】特開2016-208347(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
互いに紐づけされた画像データと前記画像データの取得時の位置情報とを有する画像情報を取得する画像取得部と、
前記画像データを、トランザクションとして承認するか否かを検証し、トランザクションとして承認した画像データを三次元モデル生成において使用するか否かを判定する画像使用判定部と、
前記トランザクションとして承認され、かつ、前記三次元モデル生成に使用すると判定された画像データを用いて三次元モデルを生成する三次元モデル生成部と、
前記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するブロック生成部
を具備し、
前記画像使用判定部は、前記使用するか否かの判定において、使用判定対象の画像データの、前記三次元モデル生成に使用する画像データに対する類似度に基づいて、前記使用判定対象の画像データを三次元モデル生成に使用するか否かを判定する
情報処理装置。
【請求項2】
請求項に記載の情報処理装置であって、
前記画像使用判定部は、前記画像データに紐づけられる前記位置情報を用いて複数の前記画像情報を仕分ける
情報処理装置。
【請求項3】
請求項に記載の情報処理装置であって、
前記三次元モデル生成部は、前記位置情報を用いて仕分けされた複数の前記画像情報を用いて前記三次元モデルを生成する
情報処理装置。
【請求項4】
互いに紐づけされた画像データと前記画像データの取得時の位置情報とを有する未認証の画像情報を取得し、
前記画像データを、トランザクションとして承認するか否かを検証し、
トランザクションとして承認した画像データを三次元モデル生成において使用するか否かを判定し、
前記トランザクションとして承認され、かつ、前記三次元モデル生成に使用すると判定された画像データを用いて三次元モデルを生成し、
前記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成する
情報処理装置により実行される情報処理方法であって、
前記使用するか否かの判定において、使用判定対象の画像データの、前記三次元モデル生成に使用する画像データに対する類似度に基づいて、前記使用判定対象の画像データを三次元モデル生成に使用するか否かを判定する
情報処理方法。
【請求項5】
互いに紐づけされた画像データと前記画像データの取得時の位置情報とを有する画像情報を取得するステップと、
前記画像データを、トランザクションとして承認するか否かを検証するステップと、
トランザクションとして承認した画像データを三次元モデル生成において使用するか否かを判定するステップと、
前記トランザクションとして承認され、かつ、前記三次元モデル生成に使用すると判定された画像データを用いて三次元モデルを生成するステップと、
前記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するステップ
を含む処理を情報処理装置に実行させるためのプログラムであって、
前記使用するか否かの判定ステップにおいて、使用判定対象の画像データの、前記三次元モデル生成に使用する画像データに対する類似度に基づいて、前記使用判定対象の画像データを三次元モデル生成に使用するか否かを判定する
プログラム。
【請求項6】
複数の情報処理装置を具備する情報処理システムであって、
前記複数の情報処理装置は、それぞれ、
互いに紐づけされた画像データと前記画像データの取得時の位置情報とを有する画像情報を取得する画像取得部と、
前記画像データを、トランザクションとして承認するか否かを検証し、トランザクションとして承認した画像データを三次元モデル生成において使用するか否かを判定する画像使用判定部と、
前記トランザクションとして承認され、かつ、前記三次元モデル生成に使用すると判定された画像データを用いて三次元モデルを生成する三次元モデル生成部と、
前記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するブロック生成部と
を備え、
前記画像使用判定部は、前記使用するか否かの判定において、使用判定対象の画像データの、前記三次元モデル生成に使用する画像データに対する類似度に基づいて、前記使用判定対象の画像データを三次元モデル生成に使用するか否かを判定する
情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は、ブロックチェーンを用いた情報処理装置、情報処理方法、プログラム及び情報処理システムに関する。
【背景技術】
【0002】
特許文献1には、建設現場等において、ドローン(無人飛行機)によって測量対象の土地を空撮した撮像画像について解析し、その土地の地形形状を示す3Dデータ等を生成することが記載されている。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2017-138109号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
例えば建設現場では、資材の数やその置き場、土砂、建設する建物の形状等、時間経過とともに状況が変化する。正確かつ迅速な建設作業を行うために状況変化を定期的にモニタリングして管理することが望まれている。
【0005】
本技術の目的は、ある領域の状況を把握することが可能な情報処理装置、情報処理方法、プログラム及び情報処理システムを提供することにある。
【課題を解決するための手段】
【0006】
上記目的を達成するため、本技術の一形態に係る情報処理装置は、画像取得部と、三次元モデル生成部と、ブロック生成部とを具備する。
上記画像取得部は、互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する画像情報を取得する。
上記三次元モデル生成部は、上記画像情報を用いて三次元モデルを生成する。
上記ブロック生成部は、上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成する。
【0007】
このような構成によれば、ブロックチェーンによって時系列順に1本の鎖状に情報が記録され、さかのぼって改ざんされ難くなっており、信頼度の高い三次元モデルを生成することができる。
【0008】
上記画像情報を、トランザクションとして承認するか否かを検証する画像使用判定部を更に具備し、上記三次元モデル生成部は、上記トランザクションとして承認した画像情報を用いて三次元モデルを生成してもよい。
【0009】
上記画像使用判定部は、トランザクションとして承認された画像情報を、三次元モデル生成において使用するか否かを判定してもよい。
【0010】
上記画像使用判定部は、使用判定対象の画像データの、上記三次元モデル生成に使用する画像データに対する類似度に基づいて、上記使用判定対象の画像データを三次元モデル生成に使用するか否かを判定してもよい。
【0011】
上記画像使用判定部は、上記位置情報を用いて複数の上記画像情報を仕分けてもよい。
【0012】
上記三次元モデル生成部は、上記位置情報を用いて仕分けされた複数の上記画像情報を用いて上記三次元モデルを生成してもよい。
【0013】
上記目的を達成するため、本技術の一形態に係る情報処理方法は、互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する未認証の画像情報を取得し、上記画像情報を用いて三次元モデルを生成し、上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成する。
【0014】
上記目的を達成するため、本技術の一形態に係るプログラムは、互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する画像情報を取得するステップと、上記画像情報を用いて三次元モデルを生成するステップと、上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するステップを含む処理を情報処理装置に実行させる。
【0015】
上記目的を達成するため、本技術の一形態に係る情報処理システムは、複数の情報処理装置を具備する。
上記情報処理装置は、互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する画像情報を用いて三次元モデルを生成する三次元モデル生成部と、上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するブロック生成部とを備える。
【図面の簡単な説明】
【0016】
図1】情報処理システムの構成を説明する概略図である。
図2】上記情報処理示システムの一部を構成する情報処理装置及び携帯端末の構成例を示すブロック図である。
図3】ブロックチェーンを説明する図である。
図4】複数の画像から三次元モデルを生成する概念図である。
図5】上記情報処理装置による情報処理方法を説明するフロー図である。
図6】エンドユーザの携帯端末に表示される表示画面の一例である。
図7】エンドユーザの携帯端末に表示される表示画面の一例である。
図8】モデリング結果の確認画面の一例である。
【発明を実施するための形態】
【0017】
[情報処理システムの概要]
本技術の実施形態に係る情報処理システムついて、図1を用いて説明する。
図1は、情報処理システム1の構成を示す概略図である。
本実施形態における情報処理システム1では、例えば市町村単位のある領域の三次元地図が生成され、この三次元地図を、例えば土木建設会社や三次元地図を用いたゲームを提供する会社等が利用可能となっている。このようなある領域の三次元地図の利用という点で一致する複数の会社がアライアンスを結んでグループを形成してもよい。
三次元地図は、地理空間情報を含む三次元モデルである。
【0018】
情報処理システム1では、三次元地図は、不特定多数の画像提供者(エンドユーザ)から提供された複数の画像を基に複数の情報処理装置(マイナー)によって生成、更新される。三次元地図生成に用いられた画像はブロックチェーンで記録されていく。
例えば、三次元地図の利用者である土木建設会社は、随時更新される三次元地図を見ることにより、資材の数や置き場、土砂の様子等、建設現場の状況等を的確に把握することができる。また、例えば、ゲームを提供する会社は、三次元地図を用いたゲームの製作等に三次元地図を活用することができる。
本実施形態の情報処理システム1では、マイナーは三次元地図の生成に対して、エンドユーザは画像提供に対して、三次元地図の利用者から報酬を得る。報酬については後述する。
【0019】
図1に示すように、情報処理システム1は、複数の情報処理装置(マイナー)2からなるマイナー群6と、アライアンスを結んだ複数の会社30A~30Dからなるグループ3と、複数の携帯端末(エンドユーザ)4からなるエンドユーザ群7と、を有する。
図1において、各携帯端末を区別するために、4A~4Cの符号を付したが、特に区別する必要がない場合は、携帯端末4と称して説明する。また、図1では、便宜的に、携帯端末4の数を3つ、アライアンスを結ぶ会社の数を4つ、情報処理装置(マイナー)2の数を3つで図示しているが、これらの数に限定されない。
【0020】
携帯端末4は、不特定多数のエンドユーザによって所持される。エンドユーザは、三次元地図生成の対象となる領域を撮影した画像データを提供する画像提供者であり、例えば一般生活者である。エンドユーザは、携帯端末4を用いて撮影した画像の画像情報を、後述する画像・三次元地図データベース(以下、画像・三次元地図DBという。)26にアップロードすることができる。
携帯端末4の詳細については後述する。
【0021】
複数の情報処理装置2同士は、P2P(Peer to Peer)により通信可能に構成される。また、各情報処理装置2は携帯端末4と通信可能に構成される。
情報処理装置2は、画像・三次元地図DB26にアップロードされている未認証の画像を検証し、トランザクションとして承認するかしないかの検証作業を行う。トランザクションとして承認される画像データとは、三次元地図生成に用いることが可能な画像データであり、画像データ提供の対価となり得る画像データである。
また、情報処理装置2は、トランザクションとして承認した画像を用いて三次元地図を生成する。
更に、情報処理装置2は、三次元地図の生成時に用いた画像をブロックチェーンで記録するためのマイニング処理を行う。すなわち、情報処理装置2はマイナーである。
更に、情報処理装置2は、自身及び他の情報処理装置2が生成した三次元地図の一部分(断片的な三次元地図)を画像・三次元地図DB26に記憶する。
情報処理装置2の詳細については後述する。
【0022】
グループ3は、複数の会社30A~30Dからなる。各会社30A~30Dは、三次元地図を利用することができる。各会社30A~30Dは、情報処理装置(マイナー)2が格納する断片的な三次元地図を取得し、1つの三次元地図を統合する図示しない情報処理装置を所有する。
グループ3は、三次元地図を生成する情報処理装置2の所持者であるマイナー及び画像提供者となる携帯端末4の利用者であるエンドユーザに対して報酬を支払う。
マイナーに対しては、例えば三次元地図が更新されたときに報酬が支払われる。より具体的には、画像を用いて三次元地図を生成し、ノンスを最初に発見してブロックチェーンに連結されるブロックを生成したマイナーに報酬が支払われる。
また、エンドユーザに対しては、例えば提供した画像データが三次元地図生成の際に用いられた場合に報酬が支払われる。
【0023】
次に、図2を用いて携帯端末4及び情報処理装置2について説明する。
図2は、情報処理システム1の一部である携帯端末4及び情報処理装置2の構成例を示すブロック図である。
【0024】
[携帯端末(エンドユーザ)]
エンドユーザが所持する電子機器としては、スマートフォンやPDA(Personal Digital Assistant)などの携帯端末の他、デジタルカメラやビデオ等であってもよく、少なくとも撮像部と位置取得部を有し、これら撮像部及び位置取得部で取得された画像データ及び位置情報を、直接的又は他の情報端末機を間に介して間接的に画像・三次元地図DB26にアップロード可能であればよい。本実施形態では、エンドユーザが所持する電子機器としてスマートフォンといった携帯端末4を用いる例をあげる。また、ここでは、画像情報を例にあげて説明するが、映像情報を用いてもよい。
【0025】
携帯端末4には、自身が撮影した画像の画像情報を画像・三次元地図DB26にアップロードし、当該画像情報が三次元地図生成に使用された場合に報酬を受け取ることが可能となるアプリケーションプログラムが予めダウンロードされている。
【0026】
図2に示すように、携帯端末4は、撮像部としての撮像素子41と、位置情報取得部としてのGPS(Global Positioning System、全地球測位システム)42と、姿勢情報取得部としての地磁気センサ43と、表示部44と、通信部45と、入力操作部46と、を有する。
【0027】
撮像素子41は、エンドユーザによる撮影動作によって画像データを取得する。
GPS42は、携帯端末4の位置情報を検出する。GPS42は、地球を周回する人工衛星からの電波を用いた三角測量に基づき、自身の位置を計測する。位置情報は、画像データを取得したときの携帯端末(エンドユーザ)4の位置を示すものであり、位置情報と画像データとは互いに紐づけられる。GPS42で取得される情報には、経度、緯度、高度の基準を海抜基準としたときの高度等の位置情報の他、日付、タイムスタンプ等の日時情報が含まれる。
地磁気センサ43は携帯端末4の姿勢情報を検出する。姿勢情報は真方位での撮影画像方位であり、携帯端末4からみた撮影方向情報である。
【0028】
表示部44は、撮像素子41で撮影した画像等を表示する。表示部44は、例えば液晶ディスプレイ、有機ELディスプレイ等の画像表示パネルで構成される。
通信部45は、無線ネットワークを介して情報処理装置2との通信を行う。通信部45は、情報処理装置2に対して、画像データ及び位置情報を含む画像情報を送信する。送信された画像情報は画像・三次元地図DB26に格納される。
入力操作部46は、キー、ボタン、タッチパネルなどにより構成される。入力操作部46を用いたエンドユーザの入力操作によって、画像のアップロード等が行われる。
【0029】
携帯端末4を所持するエンドユーザは、自身が取得した画像の画像情報(位置情報付き画像データ)を提供し、当該画像情報が三次元地図生成時に使用されることにより報酬を受け取ることができる。
また、携帯端末4で取得され、画像・三次元地図DB26にアップロードされる画像情報には、画像データ及び位置情報に加え、これらに紐づけされた当該画像がどの携帯端末4により取得されたかが特定できるように携帯端末情報(エンドユーザ情報)が含まれていてもよい。これにより、三次元地図生成に使用された画像を提供したエンドユーザを特定することができ、三次元地図生成に貢献したエンドユーザに対して報酬を支払うことができる。
【0030】
また、アップロードされる画像情報に、GPS42で取得された撮影時の日時を示す日時情報が画像データに紐づけされて含まれていてもよい。各携帯端末4によってアップロードが行われるタイミングは画像データ取得時と異なる場合もあるので、画像情報に日時情報が含まれることにより、三次元地図生成時に、位置情報に加えて日時情報も用いて画像データを複数のグループに仕分けることができる。仕分けについては後述する。日時情報が含まれる場合、画像・三次元地図DB26では、画像データは日時情報に基づいて時系列に格納される。
【0031】
[情報処理装置(マイナー)]
図2に示すように、情報処理装置2は、制御部20と、画像・三次元地図DB26と、記録台帳DB27と、を有する。
情報処理装置2は、画像データの使用判定処理、画像情報を用いた三次元地図生成処理、三次元地図生成時に用いた画像データをブロックチェーンで記録するためのマイニング処理を行うプログラムを備えている。上記画像の使用判定処理には、画像データをトランザクションとして承認するか否かの検証作業と、画像データを三次元地図生成に使用するか否かの判定作業が含まれる。プログラムは、図示しない記憶部に予めインストールされている。
【0032】
画像・三次元地図DB26は、携帯端末(エンドユーザ)4からアップロードされる画像情報と、自身が生成した断片的な三次元地図と、他の情報処理装置(マイナー)が生成した断片的な三次元地図と、を格納する。画像・三次元地図DB26に格納される断片的な三次元地図は、一旦三次元地図(三次元モデル)として全体に統合した後に断片情報に複数分けられたものであってもよい。一旦三次元地図として全体に統合した後に断片情報に分けられた断片的な三次元地図が、各情報処理装置(マイナー)に分配されてもよい。
画像情報には、互いに紐づけされた位置情報及び画像データが少なくとも含まれ、本実施形態ではこれに紐づけられたエンドユーザ情報が更に含まれている。
【0033】
記録台帳DB27は、三次元地図生成に使用した画像情報をブロックチェーンで格納する。以下、記録台帳DB27に格納されるデータをブロックチェーンデータと称して説明する。記録台帳DB27に格納されるブロックチェーンデータは、三次元地図生成に参加する情報処理装置(マイナー)2の全てによって同じように保有される。ブロックチェーンデータは、自身又は他の情報処理装置(マイナー)2によって生成され、随時更新される。
【0034】
図3はブロックチェーン5の概念図である。ブロックチェーン5は、各ブロック51がチェーン52によって連結されて構成される。詳細については後述するが、ブロック51には、トランザクションデータと、ノンス値と、直前のブロックのハッシュ値と、報酬の送付先が格納される。本実施形態において、トランザクションデータは、三次元地図生成時に用いられた画像情報であり、互いに紐づけされた画像データと位置情報である。報酬の送付先は、ノンスを発見したマイナー情報に相当する。
【0035】
ブロックチェーンデータは、三次元地図生成時に使用した画像情報の記録台帳である。
ブロックチェーンデータには三次元地図生成に貢献したマイナーの情報が含まれる。また、ブロックチェーンデータには三次元地図生成時に用いた画像情報が含まれ、画像・三次元地図DB26に格納される画像情報には携帯端末4の情報(エンドユーザ情報)が紐づけされて含まれているので、ブロックチェーンデータには三次元地図生成に貢献した画像を提供したエンドユーザの情報が間接的に含まれる。
このように、ブロックチェーンデータは、三次元地図生成時に使用した画像の記録台帳であるとともに、三次元地図生成に貢献したマイナー及びエンドユーザに対して支払われる報酬の記録台帳にもなる。
尚、ここでは、ブロック51に格納されるトランザクションデータは互いに紐づけされた画像データと位置情報であるとしたが、これに加えエンドユーザ情報がトランザクションデータに含まれていてもよい。
【0036】
画像・三次元地図DB26に格納される画像データは、認証済(検証作業済)と未認証(検証未作業)の2つのステータスに分けられる。後述する制御部20の画像使用判定部22によって、トランザクションとして承認するか否かの検証作業が行われた画像データには認証済のステータスが付与され、まだ検証作業が行われていない画像データには未認証のステータスが付与される。認証済のステータスが付与されている画像データは、トランザクションとして承認された画像データと、トランザクションとして承認されていない画像データとに分けられる。
【0037】
情報処理装置(マイナー)2は複数存在し、それぞれが記録台帳DB27を有しており、各情報処理装置2は、共通のブロックチェーンデータを持つ。
【0038】
制御部20は、三次元地図生成における一連の処理を制御する。
制御部20は、画像取得部21と、画像使用判定部22と、三次元モデル生成部としての三次元地図生成部23と、ブロック生成部24と、を有する。
【0039】
画像取得部21は、画像・三次元地図DB26から未認証のステータスが付与されている画像データを取得する。
画像使用判定部22は、画像取得部21で取得した画像データを、トランザクションとして承認するか否かを判定する検証作業を行う。検証作業結果は画像・三次元地図DB26に送信され、記憶される。
【0040】
トランザクションとして承認するか否かの判定は、三次元地図生成に適した画像か否かの判定である。例えば、白とびした画像、黒つぶれした画像、ピンボケした画像等は、撮影対象物が不明瞭で三次元地図生成に適した画像ではないため、画像使用判定部22は、これらの画像をトランザクションとして承認しない。
【0041】
例えば日光の強い場所や白の服など明るいものがあるところで撮影した際、明るい部分の諧調が失われ真っ白になる白とびという現象が画像に生じる場合がある。画像使用判定部22は、このような白とびが発生した白とび画素が、画像全体の画素数に対して所定の割合以上存在する場合は、その画像データをトランザクションとして承認しない。
また、夜や日陰などの画面内の一部分が極度に暗い場合や画面内の明暗差が大きいときに、撮影した画像の暗い部分の諧調が失われ真っ黒に映る状態である黒つぶれが生じる場合がある。画像使用判定部22は、このような黒つぶれが発生した黒つぶれ画素が、画像全体の画素数に対して所定の割合以上存在する場合は、その画像データをトランザクションとして承認しない。
白とび画素及び黒つぶれ画素の検出は、例えば特開2008-148180号公報に記載される輝度閾値を用いた白とび画素判定及び黒つぶれ画素判定を用いることができる。そして、画像全体の画素数に対して所定の割合以上に白とび画素又は黒つぶれ画素が存在した場合はその画像データをトランザクションとして承認せず、存在しない場合はその画像データをトランザクションとして承認する。
また、ピンボケの検出は、例えば特開2010-217954号公報に記載される技術を用いることができ、画像使用判定部22は、ボケ度検出結果に基づいて、画像データをトランザクションとして承認するか否かを判定する。
【0042】
また、画像使用判定部22は、トランザクションとして承認した複数の画像データを、紐づけされている位置情報に基づいて、複数のグループに仕分けをする。
ここで、GPS42で判定できる位置精度は数十mから数百m程度である。画像データに紐づけられた位置情報を用いることにより、複数の画像データを、例えば同じ位置情報を有する画像データを1つのグループとして、複数のグループに仕分けることができる。
画像使用判定部22は、位置情報に基づいて仕分けしたグループを三次元地図生成部23に出力する。三次元地図生成部23では、位置情報に基づいて仕分けされた各グループの複数の画像データを用いて三次元地図を生成するので、効率よく三次元地図を生成することができる。
【0043】
更に、画像使用判定部22は、位置情報に基づいて仕分けされた画像データを、三次元地図生成時に使用するか否かを判定してもよい。
例えば、画像使用判定部22は、三次元地図生成時に使用した画像データと類似度の高い画像データは使用しないと判定してもよい。
例えば1つの携帯端末で同じ場所から同じ撮影方向で移動することなく連写して複数枚同じようなシーンを撮影した場合、得られる画像は、輝度ヒストグラム、平均輝度値、色分布などの統計的情報に関して変化が少なく、ほぼ同じ構図の類似度の高い画像となり得る。このような類似度の高い複数の画像データが存在する場合、三次元地図生成に全ての画像データは必要ではない。このような場合、画像使用判定部22は、三次元地図生成時に使用する画像データに類似度が高い画像データは、トランザクションとしては認めるが、三次元地図生成には使用しない、との判定を行う。
これにより、報酬を目的としたエンドユーザによる過剰なアップロードの発生を防止することができる。例えば、三次元地図生成時に使用するか否かを問わず画像データを提供したエンドユーザに対してアップロードした画像数に応じて報酬が支払われるとした場合、エンドユーザは報酬目的に類似度の高い画像データを複数アップロードする可能性がある。これに対して、上述したように、既に三次元地図生成に使用した画像データと類似度の高い画像データは使用しないとし、三次元地図生成時に使用された画像に対して報酬を支払う形態とすることにより、報酬目的のエンドユーザによる過剰な無用な画像のアップロードの発生を防止することができる。
【0044】
類似度が高いか否かの判定は、例えば、三次元地図生成時に画像データを追加することによって三次元地図生成にその画像データがどの程度寄与するかによって行われる。より具体的には、三次元地図生成時に使用すると判定した比較対象となる画像データに対して、使用判定対象の画像データを追加することによって三次元地図生成時に三次元の点がどれほど増加するか等によって判定することができる。三次元の点の増加量がある一定量以上であれば類似度が低く、ある一定量よりも低ければ類似度が高いと判定することができる。
このほか、比較対象となる画像データと使用判定の画像データについて、それぞれの輝度ヒストグラム、平均輝度、色分布、画像周波数、エッジ強度等を参照パラメータとして取得し、これらを比較することによって類似度を判定してもよい。
また、このほか、比較対象となる画像データと使用判定対象の画像データについて、それぞれの注目点を抽出し、これらを比較することによって類似度を判定してもよい。
【0045】
また、画像使用判定部22は、三次元地図生成時に使用する画像データと類似度がほとんどない画像データは使用しないと判定してもよい。
例えば、2人のエンドユーザが同じ位置で撮影しても、一方の撮影方向が東で、他方の撮影方向が西であるというように反対の方向を撮影した場合、撮影画像が同じ位置情報をもっていても、両者がそれぞれ撮影した画像は全く異なるものとなり、類似度がほとんどない画像データとなる。すなわち、位置情報に基づいて同じグループに仕分けされた複数の画像データであっても、撮影方向が反対の場合もあり得る。
画像使用判定部22は、例えば、同じ位置情報をもつ複数の画像データを比較して、例えば共通のランドマークを検出し、同じランドマークが写し出される画像データについてはランドマーク及びその周辺の三次元地図生成に使用し、それ以外の画像データは類似度がほとんどない画像データとして、ランドマーク及びその周辺の三次元地図生成には使用しないとの判定をする。尚、使用しないと判定した画像は、他の領域の三次元地図の生成に使用することができる。
尚、位置情報に基づいて仕分けされた1つのグループを、上述のランドマークを用いた手法等で、更に複数の小グループにわけ、小グループ毎に、各小グループに属する画像データを用いて対象の領域の三次元モデルを生成するようにしてもよい。
【0046】
また、画像使用判定部22は、位置情報に基づいて分けられた1つのグループを構成する複数の画像データの数が、所定の数以下である場合、三次元地図生成には情報が不十分であるとして、現時点では当該グループに分類された画像データを用いた三次元地図生成は行わないと判定してもよい。
【0047】
このように、画像データに紐づけられる位置情報を用いることにより、画像データを絞り込んで三次元地図を生成することができ、効率の良い処理が可能となる。
【0048】
三次元地図生成部23は、画像使用判定部22で、トランザクションとして承認され、かつ、三次元地図生成に使用すると判定された複数の画像データを用いて、各画像データが取得されたときの携帯端末4の位置及び撮影方向を推定した後、当該複数の画像データを基に断片的な三次元地図を生成し、再構築する。再構築され更新された断片的な三次元地図は、画像・三次元地図DB26に格納される。
三次元地図生成時に使用した画像データを提供したエンドユーザに対しては報酬が支払われる。すなわち、画像使用判定部22による判定結果は、エンドユーザへの報酬の有無を決定する。
【0049】
複数の画像データを用いた三次元地図の生成には既存の技術を用いることができる。例えば、1枚又は複数枚の画像や時系列画像から、画像の中に含まれている三次元情報を復元し、三次元モデルを作り上げるイメージベースド3Dモデリング手法を用いることができる。イメージベースド三次元モデリングとは、三次元シーンの光学像が二次元平面に写像されたものを画像データとして捉え、その二次元画像データから三次元シーンへの逆写像を行い、元の三次元シーンの情報を復元するものである。モデルベースの3Dモデリング手法、ステレオ計測法による3Dモデリング手法、時系列画像を用いる3D形状復元手法などがある。
図4は、複数の画像を用いた三次元モデル生成の一例を説明する概念図である。図4に示すように、複数の画像1、画像2、画像3から、各画像が取得された撮影位置及び撮影方向が推定され、推定された各撮影位置から撮影した画像1、画像2、画像3を全て満たすような物体Aの三次元モデルを生成する。
【0050】
図3を参照する。ブロック生成部24は、ブロックチェーン5に連結する新しいブロック51を生成し、当該新しいブロック51をブロックチェーン5に連結するブロック生成処理を行う。また、ブロック生成部24は、他の情報処理装置(マイナー)2が発見したノンス値が正しいか否かを検証し、承認する。
【0051】
詳細には、ブロック生成部24は、三次元地図生成時に用いた互いに紐づけされた画像データ及び位置情報(トランザクションデータ)を新しいブロック51に格納し、前のブロック51に連結するためのノンス値を探索する。ノンス値が見つかると他の情報処理装置(マイナー)2による検証が行われ、承認を受けると、ブロック生成部24は、マイニングの報酬の送付先を新しいブロック51に格納し、ブロックチェーン5に新しいブロック51を連結する。マイニングの報酬の送付先とはノンス値を発見したマイナーの情報であり、新しいブロック51が直前のブロック51につながると、ノンス値を発見したマイナーは報酬を受け取ることができる。
ブロック51には、直前のブロックのハッシュ値(図上、前回のハッシュ値)、前のブロック51につなぐためのノンス値、トランザクションデータ(互いに紐づけされた画像データ及び位置情報)、及び、報酬の送付先が格納される。
新しいブロック51が連結され、更新されたブロックチェーンデータは、記録台帳DB27に格納される。
【0052】
このように情報処理装置2では、画像データの使用判定処理、画像情報を用いた三次元地図生成処理、三次元地図生成時に用いた画像データをブロックチェーンで記録するためのマイニング処理が行われる。
【0053】
[情報処理方法]
図5図8を用いて情報処理システム1における処理の流れについて説明する。
図5は、情報処理装置2における情報処理のフロー図である。図6図8は、エンドユーザが所持する携帯端末4に表示される表示画面の一例である。
【0054】
まず、エンドユーザが所持する携帯端末4により画像情報(互いに紐づけされた画像データ及び位置情報)が取得される。
図6に示す例は、互いに異なる携帯端末4A~4Cそれぞれが取得した画像47A~47Cが表示部44に写し出された携帯端末4の概略平面図である。いずれの画像も、同じホテルの外観の画像であり、それぞれ異なる撮影方向から撮影されたものである。例えば図6(A)に示す携帯端末4Aで取得された画像47Aはホテルの正面側からホテル正面を撮影したものである。図6(B)に示す携帯端末4Bで取得された画像47Bは、携帯端末4Aよりも高度が高い位置で撮影され、ホテルを左斜めから見下ろして撮影したものである。図6(C)に示す携帯端末4Cで取得された画像47Cは、携帯端末4Aと同じ高度位置で取得され、ホテルを右斜めから見上げて撮影したものである。
表示部44には、アップロードの対象となる画像が表示される他、例えば画像・三次元地図DB26へのアップロードの有無を問うコメントが表示される。エンドユーザは、そのコメントに従ってアップロードの有無の入力を行う。アップロードをするという入力操作が行われると、画像情報は各情報処理装置2の画像・三次元地図DB26に格納される。
【0055】
次に、図5に示すように、画像取得部21により画像・三次元地図DB26に格納されている画像情報(互いに紐づけされた画像データ及び位置情報)が取得される(S1)。
次に、画像使用判定部22により、取得した画像データの検証作業が行われトランザクションとして承認するか否かが判定され、更に、トランザクションとして承認された画像を三次元地図生成に使用するか否かが判定される(S2)。
次に、三次元地図生成部23により、三次元地図生成に使用すると判定された画像を基に三次元地図が生成される(S3)。
次に、ブロック生成部24により、既に他の情報処理装置2で三次元地図が生成されノンス値が発見されている場合は、このノンス値の検証、承認が行われる。自身が三次元地図を生成し、最初にノンス値を発見した場合は、他の情報処理装置2による検証、承認を受けた後、ブロック生成部24は新しいブロックを生成し、この新しいブロックをブロックチェーンに連結させる(S4)。更新された断片的な三次元地図は、情報処理装置2の画像・三次元地図DB26に格納される。更新されたブロックチェーンデータは、三次元地図生成に参加する情報処理装置(マイナー)2の全ての記録台帳DB27に格納される。
このように、本実施形態では、ブロックチェーンで三次元地図生成処理に用いた画像に関する情報が記録され、さかのぼって改ざんされ難くなっており、信頼度の高い三次元地図を生成することができる。
【0056】
エンドユーザは、1枚以上の画像をアップロードすることが可能である。図7は、1人のユーザが例えば3枚の画像をアップロードした場合の携帯端末4の表示画面例である。図7に示すように、エンドユーザがアップロードした画像それぞれの右側に、当該画像に紐づけられる撮影位置情報、撮影日時情報、報酬情報が表示される。
図7の一番上の画像が三次元地図生成に使用された場合、報酬情報の欄に報酬額が表示される。図7の真中の画像は、一番上の画像と類似度が高く三次元地図生成に使用されなかった画像例である。この場合、報酬は支払われないため、報酬情報として報酬額0円が表示される。図7の一番下の画像は、画像使用判定部22による使用判定中の例を示すものであり、報酬情報の欄にはprocessing(処理中)の文字が表示される。
このように、エンドユーザは、画像使用判定部22の判定結果に応じた報酬の有無を、携帯端末4の表示画像によって確認することができる。
【0057】
上述したように、三次元地図生成部23は、三次元地図生成時に、複数の画像データを基にそれぞれの画像データが取得されたときの携帯端末4の位置と撮影方向(姿勢)を推定する。
図8は、三次元地図生成結果の確認画面の一例である。図8では、三次元地図に、今回三次元モデルを生成した領域と、当該領域を生成するのに用いた画像データを取得したときの携帯端末4の位置及び撮影方向(姿勢)を示す図形(白抜き円及び三角形)が重畳されて表示される。
図8上、白抜きの円は、図6に示す撮影画像47A~47Cが撮影されたときの各携帯端末4A~4Cの撮影位置を示し、携帯端末4A~4C毎に図示しているドットで埋められた三角形は撮影方向を示す。撮影方向を示す三角形において白抜きの円に接触する頂点から当該頂点の対向辺に向かう方向が撮影方向である。これらの携帯端末4A~4Cの位置、撮影方向(姿勢)は、三次元地図生成時に、各携帯端末が取得した複数の画像データを基にして推定される。
図8上、ホテルの正面側に図示したドットで埋められた領域は、携帯端末4A~4Cで取得した画像データを用いて三次元画像を生成した領域を示す。
このように、図8に示す確認画面では、推定された撮影位置と撮影方向が図形で表示され、画像データによって三次元地図が生成された領域がわかるように表示される。確認画面は例えばエンドユーザによって確認できるようになっている。
尚、ここでは便宜的に三次元地図生成に用いられる画像数を3枚としたが、これに限定されない。
【0058】
以上のように、本実施形態では、ブロックチェーンを用いてエンドユーザ群及びマイナー群によって信頼度の高い三次元地図が生成され、三次元地図の利用者は、三次元地図を用いてその領域の状況を把握することができる。更に、三次元地図は随時更新可能となっており、三次元地図の利用者は、三次元地図を用いてその領域の状況変化を随時把握することができる。
例えば、三次元地図利用者である建設会社が、建設現場の三次元地図を定期的にモニタリングすることにより、資材の数、土砂、建物の形状等の時間経過による状況変化を把握することができ、正確かつ迅速な建設作業を行うことができる。
【0059】
また、本実施形態では、ブロックチェーンを用いて、三次元地図生成時に用いた画像データの記録と三次元地図生成に貢献したマイナー及びエンドユーザの記録が行われるので、この記録を用いてマイナー及びエンドユーザへの報酬状況を把握することができる。
尚、本明細書に記載された効果はあくまで例示であって限定されるものではなく、また他の効果があってもよい。
【0060】
本技術の実施の形態は、上述した実施の形態に限定されるものではなく、本技術の要旨を逸脱しない範囲において種々の変更が可能である。
【0061】
例えば、上述の実施形態においては、エンドユーザからアップロードされる画像情報は、位置情報付き画像データである例をあげたが、これに加えて、例えば地磁気センサ等から得られる姿勢情報がアップロードされる画像情報に含まれていてもよい。これにより、三次元地図生成時に複数の画像データを用いた携帯端末の撮影方向(姿勢)の推定作業が不要となる。また、例えば、同じ位置情報の複数の画像データがあった場合、姿勢情報を用いて、複数の画像データを撮影方向毎にグループ分けすることができ、類似度の低い画像を除く作業を軽減又は不要とすることができる。これにより、効率よく三次元地図を生成することができる。
また、姿勢情報取得部として地磁気センサを例にあげたが、撮影画像の特徴点情報から自己位置算出を行うSLAM(Simultaneous Localization and Mapping)を利用して姿勢情報を取得してもよい。これにより、三次元地図生成時に複数の画像データを用いた携帯端末の撮影方向(姿勢)の推定作業が不要となる。
【0062】
また、上述の実施形態においては、位置情報取得部としてGPSを用いる例をあげたが、Wi-Fi(登録商標)を用いて位置情報を取得するように構成してもよい。
【0063】
また、上述の実施形態においては、各情報処理装置(マイナー)それぞれが画像・三次元地図DBを持つ例をあげたが、これに限定されない。
例えば、複数の情報処理装置(マイナー)からなるグループを複数設け、各グループで1つの画像・三次元地図DBを共有してもつように構成してもよい。この場合、画像情報と、同じグループに所属する情報処理装置(マイナー)それぞれが生成した断片的な三次元地図が1つの画像・三次元地図DBに格納される。
また、画像情報を格納するDBは各情報処理装置(マイナー)それぞれが持ち、三次元地図は複数の情報処理装置(マイナー)で共有する1つのDBに格納する構成としてもよい。この三次元地図が格納されるDBは、例えば三次元地図を利用するグループ3が管理していてもよい。
【0064】
また、上述の実施形態において、三次元地図が更新されたときに、ノンス値を発見したマイナーに報酬が支払われ、三次元地図生成に使用された画像を提供したエンドユーザに報酬が支払われる例をあげたが、これに限定されるものではない。
一例として、トランザクションとして承認された画像データに対しては、例えば類似度が高く三次元地図生成に使用されなくとも報酬が支払われるように設定してもよい。この場合、報酬金額は、三次元地図生成に使用された画像データに対する報酬よりも低く設定する。これにより、三次元地図生成の初期段階では、より多くの画像データが必要となってくるため、エンドユーザによる、ピンボケ等の不適切な画像データのアップロードを抑制しつつ、多くの画像データのアップロードを促すことができる。尚、三次元地図生成がある程度生成された段階以降は、このようなトランザクションとして承認されているが三次元地図生成に使用されなかった画像データへの報酬が停止されてもよい。この報酬の停止のタイミングは、地図生成開始から3か月など予め期間を限定して設定してもよいし、三次元地図生成の完成度に応じて設定されてもよい。
また、更に他の例として、三次元地図利用者である会社30が三次元地図を利用したときにマイナーに報酬が支払われ、各マイナーで報酬を分配するようにしてもよい。
【0065】
また、上述の実施形態では、1つのグループ3に1つのブロックチェーンデータが存在するように構成したが、これに限定されない。例えば、3つの村からなる地域の三次元地図を生成する場合、村毎にブロックチェーンを生成してもよく、1つのグループ3に対して、市町村単位でブロックチェーンを複数生成するように構成してもよい。
【0066】
また、情報処理装置2が、生成された三次元地図を基に、三次元地図生成のための画像データが不足している領域を判定し、その領域をエンドユーザに通知するように構成してもよい。これにより、画像データが不足している領域の画像データのエンドユーザによる積極的な取得を促すことができ、三次元地図生成を促進することができる。
【0067】
なお、本技術は以下のような構成もとることができる。
【0068】
(1)
互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する画像情報を取得する画像取得部と、
上記画像情報を用いて三次元モデルを生成する三次元モデル生成部と、
上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するブロック生成部
を具備する情報処理装置。
(2)
上記(1)に記載の情報処理装置であって、
上記画像情報を、トランザクションとして承認するか否かを検証する画像使用判定部
を更に具備し、
上記三次元モデル生成部は、上記トランザクションとして承認された画像情報を用いて三次元モデルを生成する
情報処理装置。
(3)
上記(2)に記載の情報処理装置であって、
上記画像使用判定部は、トランザクションとして承認した画像情報を、三次元モデル生成において使用するか否かを判定する
情報処理装置。
(4)
上記(3)に記載の情報処理装置であって、
上記画像使用判定部は、使用判定対象の画像データの、上記三次元モデル生成に使用する画像データに対する類似度に基づいて、上記使用判定対象の画像データを三次元モデル生成に使用するか否かを判定する
情報処理装置。
(5)
上記(2)~(4)のいずれか1つに記載の情報処理装置であって、
上記画像使用判定部は、上記位置情報を用いて複数の上記画像情報を仕分ける
情報処理装置。
(6)
上記(5)に記載の情報処理装置であって、
上記三次元モデル生成部は、上記位置情報を用いて仕分けされた複数の上記画像情報を用いて上記三次元モデルを生成する
情報処理装置。
(7)
互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する未認証の画像情報を取得し、
上記画像情報を用いて三次元モデルを生成し、
上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成する
情報処理方法。
(8)
互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する画像情報を取得するステップと、
上記画像情報を用いて三次元モデルを生成するステップと、
上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するステップ
を含む処理を情報処理装置に実行させるためのプログラム。
(9)
互いに紐づけされた画像データと上記画像データの取得時の位置情報とを有する画像情報を用いて三次元モデルを生成する三次元モデル生成部と、上記三次元モデルの生成時に用いた画像情報が記録されるブロックが連結してなるブロックチェーンに連結する新しいブロックを生成するブロック生成部とを備える、複数の情報処理装置
を具備する情報処理システム。
【符号の説明】
【0069】
1…情報処理システム
2…情報処理装置
5…ブロックチェーン
21…画像取得部
22…画像使用判定部
23…三次元地図生成部(三次元モデル生成部)
24…ブロック生成部
51…ブロック
図1
図2
図3
図4
図5
図6
図7
図8