(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2022-05-31
(45)【発行日】2022-06-08
(54)【発明の名称】情報処理装置、情報処理方法、及びプログラム
(51)【国際特許分類】
G06T 19/00 20110101AFI20220601BHJP
G06F 3/04815 20220101ALI20220601BHJP
G06F 3/04845 20220101ALI20220601BHJP
【FI】
G06T19/00 600
G06F3/04815
G06F3/04845
(21)【出願番号】P 2021024685
(22)【出願日】2021-02-18
【審査請求日】2021-11-02
【早期審査対象出願】
(73)【特許権者】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】100166006
【氏名又は名称】泉 通博
(74)【代理人】
【識別番号】100154070
【氏名又は名称】久恒 京範
(74)【代理人】
【識別番号】100153280
【氏名又は名称】寺川 賢祐
(72)【発明者】
【氏名】増崎 和彦
【審査官】梅本 章子
(56)【参考文献】
【文献】特開2018-205828(JP,A)
【文献】特開2020-013231(JP,A)
【文献】特開2016-197342(JP,A)
【文献】特表2020-531985(JP,A)
【文献】特開2012-168798(JP,A)
【文献】特開2014-149712(JP,A)
【文献】特開2019-179382(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 19/00 - 19/20
G06F 3/048 - 3/04895
(57)【特許請求の範囲】
【請求項1】
現実世界の構造物の三次元モデルを含むデータを特定するための
情報であって現実世界において前記構造物が存在する位置を示す特定情報を
ユーザから取得する特定情報取得部と、
撮像部が撮像中の撮像画像に前記特定情報で特定されるデータに含まれる前記三次元モデルを重畳させるマッチング部と、
前記三次元モデルが重畳された前記撮像画像を表示部に表示させる表示制御部と、
前記三次元モデルを規定する三次元座標系で特定される空間に設置するためのAR(Augmented Reality)オブジェクトの選択と、前記三次元座標系における前記ARオブジェクトの設置位置及び設置向きの設定と、を受け付けるオブジェクト管理部と、を備え、
前記表示制御部は、前記表示部に、選択された前記ARオブジェクトを前記設置位置に前記設置向きで表示させる、
情報処理装置。
【請求項2】
選択された前記ARオブジェクトを特定する情報と、前記ARオブジェクトの設置位置と設置向きとの設定を示す情報とを含むオブジェクト情報を、コンテンツサーバに送信する通信部をさらに備える、
請求項1に記載の情報処理装置。
【請求項3】
前記マッチング部は、前記三次元モデルを規定する三次元座標系のうちの2つの軸で特定される平面を前記撮像画像中に含まれる平面形状の被写体とマッチングさせて前記撮像画像と前記三次元モデルとを重畳させる、
請求項1
又は2に記載の情報処理装置。
【請求項4】
プロセッサが、
現実世界の構造物の三次元モデルを含むデータを特定するための
情報であって現実世界において前記構造物が存在する位置を示す特定情報を
ユーザから取得するステップと、
撮像部が撮像中の撮像画像に前記特定情報で特定されるデータに含まれる前記三次元モデルを重畳させるステップと、
前記三次元モデルが重畳された前記撮像画像を表示部に表示させるステップと、
前記三次元モデルを規定する三次元座標系で特定される空間に設置するためのARオブジェクトの選択と、前記三次元座標系における前記ARオブジェクトの設置位置及び設置向きの設定と、を受け付けるステップと、
前記表示部に、選択された前記ARオブジェクトを前記ARオブジェクトの前記設置位置に前記設置向きで表示させるステップと、を実行する、
情報処理方法。
【請求項5】
コンピュータに、
現実世界の構造物の三次元モデルを含むデータを特定するための
情報であって現実世界において前記構造物が存在する位置を示す特定情報を
ユーザから取得する機能と、
撮像部が撮像中の撮像画像に前記特定情報で特定されるデータに含まれる前記三次元モデルを重畳させる機能と、
前記三次元モデルが重畳された前記撮像画像を表示部に表示させる機能と、
前記三次元モデルを規定する三次元座標系で特定される空間に設置するためのARオブジェクトの選択と、前記三次元座標系における前記ARオブジェクトの設置位置及び設置向きの設定と、を受け付ける機能と、
前記表示部に、選択された前記ARオブジェクトを前記ARオブジェクトの前記設置位置に前記設置向きで表示させる機能と、を実現させる、
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法、及びプログラムに関する。
【背景技術】
【0002】
近年、拡張現実(Augmented Reality;AR)や複合現実(Mixed Reality;MR)と呼ばれる技術が急速に発展してきており、日常生活での利用も実用化されつつある。これらの技術は、スマートフォンやスマートグラスを用いることで、現実に存在する物体の映像に、仮想的な物体(以下、本明細書において「ARオブジェクト」と記載する。)を重畳して表示し、ユーザに提示する技術である(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1には、駅やビル、市街地のような比較的大きな構造物と同等の大きさのARオブジェクトを、その構造物が存在する場所において提示させる技術が開示されている。このような技術では、当然ながら、ユーザはARオブジェクトが配置される市街地に赴くことによってはじめてARオブジェクトを観察することが可能となる。そのため、例えばARオブジェクトの配置場所を決定する者も、実際に現地に赴かない限り、構造物との関係においてARオブジェクトの見え方を確かめることができなかった。
【0005】
本発明はこれらの点に鑑みてなされたものであり、ARオブジェクトとそのARオブジェクトを配置する環境との関係を把握するための技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
本発明の第1の態様は、情報処理装置である。この装置は、現実世界の構造物の三次元モデルを含むデータを特定するための特定情報を取得する特定情報取得部と、撮像部が撮像中の撮像画像に前記特定情報で特定されるデータに含まれる前記三次元モデルを重畳させるマッチング部と、前記三次元モデルが重畳された前記撮像画像を表示部に表示させる表示制御部と、前記三次元モデルを規定する三次元座標系で特定される空間に設置するためのARオブジェクトの選択と、前記三次元座標系における前記ARオブジェクトの設置位置及び設置向きの設定と、を受け付けるオブジェクト管理部と、を備える。前記表示制御部は、前記表示部に、選択された前記ARオブジェクトを前記設置位置に前記設置向きで表示させる。
【0007】
前記情報処理装置は、選択された前記ARオブジェクトを特定する情報と、前記ARオブジェクトの設置位置と設置向きとの設定を示す情報とを含むオブジェクト情報を、コンテンツサーバに送信する通信部をさらに備えてもよい。
【0008】
前記特定情報取得部は、現実世界において前記構造物が存在する位置を示す情報を、前記特定情報としてユーザから取得してもよい。
【0009】
前記マッチング部は、前記三次元モデルを規定する三次元座標系のうちの2つの軸で特定される平面を前記撮像画像中に含まれる平面形状の被写体とマッチングさせて前記撮像画像と前記三次元モデルとを重畳させてもよい。
【0010】
本発明の第2の態様は情報処理方法である。この方法において、プロセッサが、現実世界の構造物の三次元モデルを含むデータを特定するための特定情報を取得するステップと、撮像部が撮像中の撮像画像に前記特定情報で特定されるデータに含まれる前記三次元モデルを重畳させるステップと、前記三次元モデルが重畳された前記撮像画像を表示部に表示させるステップと、前記三次元モデルを規定する三次元座標系で特定される空間に設置するためのARオブジェクトの選択と、前記三次元座標系における前記ARオブジェクトの設置位置及び設置向きの設定と、を受け付けるステップと、前記表示部に、選択された前記ARオブジェクトを前記ARオブジェクトの前記設置位置に前記設置向きで表示させるステップと、を実行する。
【0011】
本発明の第3の態様は、プログラムである。このプログラムは、コンピュータに、現実世界の構造物の三次元モデルを含むデータを特定するための特定情報を取得する機能と、撮像部が撮像中の撮像画像に前記特定情報で特定されるデータに含まれる前記三次元モデルを重畳させる機能と、前記三次元モデルが重畳された前記撮像画像を表示部に表示させる機能と、前記三次元モデルを規定する三次元座標系で特定される空間に設置するためのARオブジェクトの選択と、前記三次元座標系における前記ARオブジェクトの設置位置及び設置向きの設定と、を受け付ける機能と、前記表示部に、選択された前記ARオブジェクトを前記ARオブジェクトの前記設置位置に前記設置向きで表示させる機能と、を実現させる。
【0012】
このプログラムを提供するため、あるいはプログラムの一部をアップデートするために、このプログラムを記録したコンピュータ読み取り可能な記録媒体が提供されてもよく、また、このプログラムが通信回線で伝送されてもよい。
【0013】
なお、以上の構成要素の任意の組み合わせ、本発明の表現を方法、装置、システム、コンピュータプログラム、データ構造、記録媒体などの間で変換したものもまた、本発明の態様として有効である。
【発明の効果】
【0014】
本発明によれば、ARオブジェクトとそのARオブジェクトを配置する環境との関係を把握するための技術を提供することができる。
【図面の簡単な説明】
【0015】
【
図1】実施の形態に係る情報処理装置が実行する処理の概要を説明するための図である。
【
図2】実施の形態に係る表示システムの構成を模式的に示す図である。
【
図3】実施の形態に係る情報処理装置が提供する特定情報指定画面の一例を模式的に示す図である。
【
図4】実平面オブジェクトと都市オブジェクトとのマッチングを説明するための図である。
【
図5】実施の形態に係る情報処理装置が提供する選択オブジェクトの選択画面の一例を模式的に示す図である。
【
図6】実施の形態に係る情報処理装置が実行する情報処理の流れを説明するためのフローチャートである。
【発明を実施するための形態】
【0016】
<実施の形態の概要>
図1(a)-(d)は、実施の形態に係る情報処理装置が実行する処理の概要を説明するための図である。以下、
図1を参照しながら、実施の形態の概要を述べる。
【0017】
実施の形態に係る情報処理装置は、例えば、ユーザの自宅における机上のような平面形状の構造を持つ実在のオブジェクト(以下、「実平面オブジェクト」と記載する。)の上に、実在する都市の三次元モデルのARオブジェクト(以下、「都市オブジェクト」と記載する。)を重畳させて表示部に表示させる。
図1(a)は、実在する机を模式的に示す図である。
図1(a)に示す例では、実在する机である実平面オブジェクトR1の上にコップR2及び手帳R3が置かれている様子が示されている。
【0018】
図1(b)は、情報処理装置が実平面オブジェクトR1において検出した平面Pを示している。
図1(b)において、破線の矩形で示す領域が、実平面オブジェクトR1上に検出された平面Pである。また、
図1(c)は、実平面オブジェクトR1の平面Pに重畳された都市オブジェクトVの一例を示している。
図1(c)に示すように、表示部を観察したユーザは、実平面オブジェクトR1の上に、あたかも都市のジオラマが存在するかのような映像を観察することができる。
【0019】
ユーザが情報処理装置の操作部を介して都市オブジェクトVに重畳させるべきARオブジェクト(以下、「選択オブジェクト」と記載する。)を選択して配置場所等を指定すると、情報処理装置は、都市オブジェクトVに選択オブジェクトを重畳した映像を、実平面オブジェクトR1の上にさらに重畳して表示部に表示させる。
図1(d)は、都市オブジェクトVの拡大図であり、具体的には都市オブジェクトVに選択オブジェクトAが重畳されている様子を示す図である。
【0020】
図1(d)は、選択オブジェクトAとしてユーザがペンギンのキャラクタを選択した場合の例を示している。煩雑となることを避けるため全ての選択オブジェクトAに符号を付していないが、
図1(d)において、符号Aが付されたペンギンと同一形状のオブジェクトは、全て選択オブジェクトAである。
図1(d)は、都市オブジェクトVに4つの選択オブジェクトが重畳されている様子を示している。
【0021】
このように、実施の形態に係る情報処理装置は、実平面オブジェクトR1上に実在する都市を模した都市オブジェクトを配置するとともに、都市オブジェクトに選択オブジェクトをさらに重畳した映像をユーザに提供する。これにより、実施の形態に係る情報処理装置は、ARオブジェクトである選択オブジェクトと、その選択オブジェクトを配置する都市の環境との関係を、ユーザが実在する都市に実際に赴くことなく把握させることができる。
【0022】
<実施の形態に係る情報処理装置1の機能構成>
図2は、実施の形態に係る表示システムSの構成を模式的に示す図である。表示システムSは情報処理装置1、コンテンツサーバ2、及びモデルサーバ3を含む。情報処理装置1はインターネット等のネットワークNを介してコンテンツサーバ2とモデルサーバ3とに通信可能な態様で接続しており、例えばスマートフォン等の携帯端末である。また、
図2は、情報処理装置1の機能構成も示している。情報処理装置1は、記憶部10、制御部11、撮像部12、表示部13、及び通信部14を備える。
【0023】
図2において、矢印は主なデータの流れを示しており、
図2に示していないデータの流れがあってもよい。
図2において、各機能ブロックはハードウェア(装置)単位の構成ではなく、機能単位の構成を示している。そのため、
図2に示す機能ブロックは単一の装置内に実装されてもよく、あるいは複数の装置内に分かれて実装されてもよい。機能ブロック間のデータの授受は、データバス、ネットワーク、可搬記憶媒体等、任意の手段を介して行われてもよい。
【0024】
記憶部10は、情報処理装置1を実現するコンピュータのBIOS(Basic Input Output System)等を格納するROM(Read Only Memory)や情報処理装置1の作業領域となるRAM(Random Access Memory)、OS(Operating System)やアプリケーションプログラム、当該アプリケーションプログラムの実行時に参照される種々の情報を格納するHDD(Hard Disk Drive)やSSD(Solid State Drive)等の大容量記憶装置である。
【0025】
制御部11は、情報処理装置1のCPU(Central Processing Unit)やGPU(Graphics Processing Unit)等のプロセッサであり、コンテンツサーバ2に記憶されたプログラムを実行することによって特定情報取得部110、マッチング部111、表示制御部112、及びオブジェクト管理部113として機能する。
【0026】
撮像部12は、情報処理装置1の外部の環境を撮像するためのカメラであり、例えばCCD(Charge Coupled Device)イメージセンサやCMOS(Complementary Metal Oxide Semiconductor)イメージセンサ等の既知の固体撮像素子を用いて実現されている。表示部13は、情報処理装置1がユーザに画像情報を提示するためのインタフェースであり、既知の液晶パネルや有機EL(Electroluminescence)等で実現されている。また、表示部13はタッチセンサも備えており、ユーザが情報処理装置1に指示する入力インタフェースとしても機能する。
【0027】
通信部14は情報処理装置1がコンテンツサーバ2やモデルサーバ3等の外部の装置と情報をやり取りするための通信インタフェースであり、既知の携帯電話モジュールやWi-Fi(登録商標)モジュールで実現されている。したがって、通信部14は、制御部11を構成する各部が外部の装置に情報を送信するための送信部として機能するとともに、外部の装置から情報を受信するための受信部としても機能する。
【0028】
特定情報取得部110は、現実世界の構造物の三次元モデルである都市オブジェクトVを含むデータを特定するための特定情報を取得する。限定はしないが、都市オブジェクトVはVPS(Visual Positioning Service)データの一部に含まれるか、又はVPSデータと関連付けられる形で含まれていてもよい。VPSの技術は既知の技術であるため詳細な説明は省略するが、VPSデータは、実在する建物等の構造物の三次元データ(例えば、都市の表面を示す点群データ)を含むデータである。
【0029】
マッチング部111は、撮像部12が撮像中の撮像画像に、特定情報取得部110が取得した特定情報で特定されるデータに含まれる都市オブジェクトVを重畳させる。表示制御部112は、都市オブジェクトVが重畳された撮像画像を表示部13に表示させる。なお、都市オブジェクトVを含むデータはモデルサーバ3が保持しており、マッチング部111が特定情報を用いてモデルサーバ3に問い合わせることでモデルサーバ3から取得する。あるいは、データが記憶部10に既に格納されている場合には、マッチング部111は、記憶部10からデータを読み出して取得してもよい。
【0030】
オブジェクト管理部113は、三次元モデルである都市オブジェクトVを規定する三次元座標系で特定される空間に設置するためのARオブジェクト(すなわち、選択オブジェクトA)の選択と、その三次元座標系における選択オブジェクトAの設置位置及び設置向きの設定と、を受け付ける。
【0031】
表示制御部112は、表示部13に、選択オブジェクトAをオブジェクト管理部113が受け付けた設置位置に設置向きで表示させる。これにより、ユーザは、実在する都市に実際に赴くことなく選択オブジェクトAと都市オブジェクトVとの関係を把握することができる。
【0032】
図3は、実施の形態に係る情報処理装置1が提供する特定情報指定画面の一例を模式的に示す図である。具体的には、
図3は、情報処理装置1がスマートフォンであり、表示部13は情報処理装置1の画面である場合の例を示している。
図3に示すように、ユーザは情報処理装置1の画面をタッチすることにより、都市オブジェクトVを特定するための特定情報を、地名、最寄り駅、又は郵便番号を用いて検索したり、地図上で直接指定したりすることにより情報処理装置1に指示することができる。すなわち、特定情報取得部110は、現実世界において都市オブジェクトVが模している構造物が存在する位置を示す情報を、特定情報としてユーザから取得する。これにより、モデルサーバ3がデータとして保持している限り、ユーザは現実世界における構造物の付近に赴かなくても自宅等で手軽に構造物の状況を把握することができる。
【0033】
図4は、実平面オブジェクトR1と都市オブジェクトVとのマッチングを説明するための図である。実施の形態に係るマッチング部111は、都市オブジェクトVを規定する三次元座標系Cのうちの2つの軸で特定される平面を表示部13が撮像した撮像画像中に含まれる平面形状の被写体である実平面オブジェクトR1とマッチングさせることで、撮像画像と都市オブジェクトVとを重畳させる。
【0034】
図4では、都市オブジェクトVを規定するx軸、y軸、及びz軸から構成される三次元座標系は符号Cで示されており、高さ方向がz軸、x軸及びy軸で規定される平面が地平面である。また、
図4に示す例では、表示部13が撮像する撮像画像に含まれる実平面オブジェクトR1は机の天板である。制御部11は、実平面オブジェクトR1とx軸及びy軸で規定される平面とをマッチングさせることで、撮像画像と都市オブジェクトVとを重畳させることができる。これにより、ユーザは、机上に都市のジオラマが出現したかのような映像を観察することができる。
【0035】
図5は、実施の形態に係る情報処理装置1が提供する選択オブジェクトAの選択画面の一例を模式的に示す図である。
図3に示す図と同様に、
図5は、情報処理装置1がスマートフォンであり、表示部13は情報処理装置1の画面である場合の例を示している。
【0036】
図5は、選択オブジェクトAとしてペンギンのARオブジェクトが表示されている場合の例を示している。選択オブジェクトAの候補は記憶部10に格納されており、ユーザは表示部13をタップすることで他の選択オブジェクトAに切り替えることができる。
【0037】
選択オブジェクトAは三次元オブジェクトとしてモデル化されている。このため、
図5に示すように、ユーザは選択オブジェクトの正面、背面、側面を含む任意の角度から選択オブジェクトを観察することができる。都市オブジェクトVも三次元オブジェクトとしてモデル化されているため、都市オブジェクトVと選択オブジェクトAとを重畳させた後、ユーザは都市オブジェクトVと選択オブジェクトAとの関係を任意の角度から観察することができる。
【0038】
ユーザは、都市オブジェクトVと選択オブジェクトAとの関係を把握しながら、選択オブジェクトAの配置位置及び配置向きを変更し、最終的に決定する。ユーザが選択オブジェクトAの配置位置及び配置向きを決定すると、通信部14は、選択オブジェクトAを特定する情報と、選択オブジェクトAの設置位置と設置向きとの設定を示す情報とを含むオブジェクト情報を、コンテンツサーバ2に送信する。
【0039】
情報処理装置1は、ネットワークNと接続できることを条件としてどこからでもコンテンツサーバ2と通信することができる。このため、情報処理装置1のユーザは情報処理装置1を所持して都市オブジェクトVのモデルとなった構造物の所在地に赴いて撮像部12で撮像すると、表示部13には撮像画像に選択オブジェクトAが重畳された状態の映像が表示される。このように、通信部14がオブジェクト情報をコンテンツサーバ2に送信することで、ユーザは設定した選択オブジェクトAを他のユーザと現地で共有することができる。なお、情報処理装置1のマッチング部111は、既知のVPSの技術を用いることで撮像画像から撮像部12の位置や向きを推定することができる。
【0040】
<情報処理装置1が実行する情報処理方法の処理フロー>
図6は、実施の形態に係る情報処理装置1が実行する情報処理の流れを説明するためのフローチャートである。本フローチャートにおける処理は、例えば情報処理装置1が起動したときに開始する。
【0041】
特定情報取得部110は、都市オブジェクトVを含むデータを特定するための特定情報をユーザから取得する(S2)。マッチング部111は、特定情報で特定されるデータをモデルサーバ3から受信して取得する(S4)。
【0042】
マッチング部111は、撮像部12が撮像中の撮像画像に三次元モデルである都市オブジェクトVをマッチングする(S6)。表示制御部112は、撮像画像に都市オブジェクトVが重畳された重畳画像を表示部13に表示させる(S8)。
【0043】
オブジェクト管理部113は、都市オブジェクトVを規定する三次元座標系Cで特定される空間に設置するための選択オブジェクトAの選択をユーザから受け付ける(S10)。また、オブジェクト管理部113は、三次元座標系Cにおける選択オブジェクトAの設置位置及び設置向きの設定をユーザから受け付ける(S12)。
【0044】
表示制御部112は、表示部13に、選択された選択オブジェクトAを設定された設置位置に設置向きで表示させる(S14)。通信部14は、選択オブジェクトAを特定する情報と、選択オブジェクトAの設置位置と設置向きとの設定を示す情報とを含むオブジェクト情報を、コンテンツサーバ2に送信する(S16)。通信部14がオブジェクト情報をコンテンツサーバ2に送信すると、本フローチャートにおける処理は終了する。
【0045】
<実施の形態に係る情報処理装置1が奏する効果>
以上説明したように、実施の形態に係る情報処理装置1によれば、選択オブジェクトAとその選択オブジェクトAを配置する環境との関係を把握するための技術を提供することができる。
【0046】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されず、その要旨の範囲内で種々の変形及び変更が可能である。例えば、装置の全部又は一部は、任意の単位で機能的又は物理的に分散・統合して構成することができる。また、複数の実施の形態の任意の組み合わせによって生じる新たな実施の形態も、本発明の実施の形態に含まれる。組み合わせによって生じる新たな実施の形態の効果は、もとの実施の形態の効果をあわせ持つ。
【符号の説明】
【0047】
1・・・情報処理装置
10・・・記憶部
11・・・制御部
110・・・特定情報取得部
111・・・マッチング部
112・・・表示制御部
113・・・オブジェクト管理部
12・・・撮像部
13・・・表示部
14・・・通信部
2・・・コンテンツサーバ
3・・・モデルサーバ
N・・・ネットワーク
S・・・表示システム
【要約】
【課題】AR(Augmented Reality)オブジェクトとそのARオブジェクトを配置する環境との関係を把握するための技術を提供する。
【解決手段】特定情報取得部110は、現実世界の構造物の三次元モデルを含むデータを特定するための特定情報を取得する。マッチング部111は、撮像部12が撮像中の撮像画像に特定情報で特定されるデータに含まれる三次元モデルを重畳させる。表示制御部112は、三次元モデルが重畳された撮像画像を表示部13に表示させる。オブジェクト管理部113は、三次元モデルを規定する三次元座標系で特定される空間に設置するためのARオブジェクトの選択と、三次元座標系におけるARオブジェクトの設置位置及び設置向きの設定と、を受け付ける。表示制御部112は、表示部13に、選択されたARオブジェクトを設置位置に設置向きで表示させる。
【選択図】
図2