(58)【調査した分野】(Int.Cl.,DB名)
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、ユーザが目の前に存在する対象物として、携帯用ゲーム機やスマートフォン等の携帯通信端末以外の物について情報を収集しようとするとき、いずれも制限がかかる。AR技術を用いようとする場合、カメラで撮影する対象物にQRコードなどの特異性のあるARマーカを設置する必要がある。
【0008】
携帯用ゲーム機による場合、GPS情報を用いる場合は現在実用されているGPSの精度の問題から対象物を特定することが難しかった。また、直接に無線通信する場合は、それぞれの携帯用ゲーム機は、周囲の携帯用ゲーム機を無線通信可能な範囲で同心円上のどこかに存在するという形でしか認識できず、対象物を特定できないという問題があった。
【0009】
そこでこの発明は、特異性のあるARマーカを取り付けていない対象の画像しか得られない状況において、スマートフォンやタブレット等のカメラ付き情報取得端末から得られる情報を付加して対象を特定可能にし、当該対象の付加的情報を取得できるようにすることを目的とする。
【課題を解決するための手段】
【0010】
情報取得端末と、前記情報取得端末と通信する情報提供サーバとを有する情報提供システムであって、
前記情報取得端末は、
ユーザを識別するアカウント情報と、
静止画又は動画である映像情報を撮影するカメラ機能と、
前記映像情報を画面表示する表示機能と、
を有し、
近距離無線通信機能、GPS機能、又はその両方である周囲確認機能により存在位置判別情報を取得する存在位置判別手段と、
前記情報提供サーバに、前記アカウント情報とともに、前記映像情報と前記存在位置判別情報とを送信し、前記情報提供サーバからの返信を受信する周囲情報問合手段と、
前記カメラ機能で撮影した前記映像情報に含まれる対象の属性情報を合成した映像を、前記表示機能で表示させる合成表示手段と、
を実行可能であり、
前記情報提供サーバは、
前記対象が存在する位置情報と前記対象の属性を示す属性情報とを含む対象情報データベース、
を有し、
取得した前記映像情報から、前記対象情報データベースを参照して前記映像情報に含まれる対象を特定する対象特定手段と、
前記特定された対象の前記属性情報を前記情報取得端末に返信する属性情報返信手段と、
を実行可能である情報提供システムにより上記の課題を解決したのである。
【0011】
前記対象情報データベースとしては、動的対象と静的対象とのどちらを対象としていてもよく、両方を対象としていてもよい。また、それらは単一のデータベースであってもよく、複数のデータベースからなる構成でもよい。動的対象としては例えば人間が挙げられる他、犬や猫などの愛玩動物、ナンバープレートなどの識別が可能な自動車や二輪車、IDが登録されている船舶や航空機など、撮影可能で識別できるものであれば特に限定されない。静的対象としては建築物や地形、道路上の模様や設置物、看板などが挙げられる。
【0012】
また、前記対象情報データベースの一部又は全部として、前記動的対象としてユーザごとの情報を登録するユーザIDデータベースを有する構成としてもよい。前記情報取得端末は、このユーザIDデータベースに対して、ユーザがユーザ自身の自撮り写真をアップロードしたり、GPS情報や自身のその他のパーソナルデータをアップロードする個人情報報告手段を有していてよい。情報提供サーバはこのアップロードされた情報をユーザIDデータベースに登録する個人情報登録手段を有していてよい。
【0013】
前記属性情報が前記映像情報に重ねて表示されるAR情報を含み、前記合成表示手段が前記映像情報に前記AR情報を合成した映像を表示させる構成としてもよい。
【0014】
前記対象情報データベースに登録される前記映像情報は、撮影された地点の位置情報を含む構成でもよい。この構成では前記対象特定手段が位置情報を含めて対象物を特定することができ、正確性が向上する。そのようなデータの収集としては、前記映像情報を撮影する情報取得端末のGPS機能によって測定される位置情報が前記映像情報に付加されたものが情報提供サーバにアップロードされることで実現できる。
【発明の効果】
【0015】
この発明により、ユーザが情報取得端末で撮影した映像情報について、情報提供サーバ側で画像認識して画像から得られる特徴を抽出するとともに、映像情報とともに送られる存在位置判別情報によって対象を絞り込むことで、画像認識とGPSやBluetooth(登録商標)などの情報とを組み合わせ、映った対象を高い精度で認識することができる。これにより、従来は必要とされていたQRコード(登録商標)のような専用のARマーカを設置する必要がなく、撮影された対象を認識することができ、AR情報として端末に表示させることができる。
【0016】
また、ユーザIDデータベースに、個人情報とともに情報取得端末によるGPS情報やその他の個人を識別可能な情報を登録しておくことで、個々のユーザをARマーカとして用いてAR画像合成を行うことができる。
【0017】
また、市街地で行われるイベントの運営者が、街中にある看板その他の設置物を予めGPS情報、画像情報、特徴量を前記対象情報データベースに登録しておき、映像情報から認識可能にしておくことで、その看板等に変更を加えることなくそのままARマーカとして活用することができる。
【0018】
さらに、ユーザがこの発明を利用することで、自身のデータを
マルチキャストすることで自己アピールツールとして用いることもできる。ユーザIDデータベースに登録された情報を、個々に公開の程度を設定することで、必要な範囲でのアピールが可能となる。
【発明を実施するための形態】
【0020】
以下、この発明について具体的な実施形態とともに詳細に説明する。この発明は、情報取得端末11と、その情報取得端末11と通信する情報提供サーバ12からなり、前記情報取得端末を持つユーザにAR情報サービスを提供するシステムである。
【0021】
このシステムの概要を
図1に示す。情報取得端末11と情報提供サーバ12とは、ネットワーク13を介して接続される。情報取得端末11は、基本的に電池を有して持ち運びできる端末である。情報取得端末11は通信機能を有し、情報提供サーバ12との間で応答できることが必要である。この通信機能としては、無線LAN機能だけでも利用可能だが、持ち運びの自由度の点から、移動体通信網に接続できる携帯電話機能を有することが好ましい。無線LAN機能のみの場合は、別途移動体通信網に接続できる無線LANルータなどを併用して利用することが好ましい。
【0022】
また、情報取得端末11は、静止画又は動画である映像情報を撮影するカメラ機能22を有する。後述する映像情報の送信の際には静止画が扱いやすく、後述する合成表示手段に用いる場合にはリアルタイムで撮影された動画が扱いやすいが、いずれでも利用可能である。また、後述するGPS機能26により、前記映像情報を撮影した地点の情報を前記映像情報に埋め込むか、または連携できる情報として保持して、前記映像情報とともに送信可能な状態にできることが望ましい。さらに、焦点距離やホワイトバランス、露出などの撮影時の状況を含んでいてもよい。焦点距離はと画像中の大きさと比較解析することで対象の実際の大きさを算出することができる。ホワイトバランス等を含むことで撮影された対象の実際に近い色彩を算出することができる。いずれも解析、抽出の際に有用な情報となる。特にインカメラにおける情報はユーザ本人が映るケースが多く、ユーザの情報を解析する際に有益となる。
【0023】
さらに、情報取得端末11は、前記映像情報を含む映像を画面表示する表示機能23を有する。具体的には、液晶や有機ELなどのカラー表示できるディスプレイを有するとよい。また、メガネ型端末などで用いる透過型ディスプレイでもよい。
【0024】
さらにまた、情報取得端末11は、存在位置に基づく情報を取得する周囲確認機能24を有する。この周囲確認機能24としては、近距離無線通信機能25と、GPS機能26とがあり、両方備えていることが望ましい。ここで存在位置に基づく情報とは、存在位置そのものを示す数的データだけでなく、周囲に存在する物品や静物、景色の映像情報や周囲に存在する他の端末その他の機器による情報など、存在位置の周囲にある情報も含む。
【0025】
上記の近距離無線通信機能25は、近くにある別の情報取得端末11やその他の無線通信機器との間で情報のやり取りができる機能である。具体的には、電力消費や到達距離の点からBluetooth通信を用いると好ましい。また、IEEE802.11xによる無線LAN通信機能を用いてもよい。これらの近距離無線通信機能25により、通信可能範囲に存在するトークンや他の情報取得端末11、その他の機器からの情報を受け取り、周囲に存在する機器の情報や、それらの機器が有する位置情報などを取得することができる。また、無線LAN機能により接続するアクセスポイントから、当該アクセスポイントが存在する位置に従った位置情報を取得してもよい。
【0026】
上記のGPS機能26は、一般的なGPS(Global Positioning System)又はそれに類する衛星測位システムによって当該情報取得端末11が存在する位置情報を取得する機能である。
【0027】
このような機能を有する情報取得端末11としては、スマートフォン、タブレット、スマートグラスなどを用いることができる。ただしこれらに限定されるものではなく、上記の機能を有するものであれば上記以外の種類の端末でも利用可能である。情報取得端末11は、図示しないが演算部と記憶部と操作部を有し、さらに上記の機能についてのハードウェアを有する。スマートフォンやタブレットの場合、操作部は表示機能23と一体化していてよい。これらの端末に、情報取得端末用アプリケーションを導入することで、情報取得端末11として実行させる。
【0028】
この情報取得端末用アプリケーションによって情報取得端末11は次のような機能を有する。まず、後述する情報提供サーバ12によって発行されたアカウント情報を有する。アカウント情報を情報提供サーバ12に発行させるため、ユーザは操作部からプロフィール情報を入力可能であり、このプロフィール情報を送信可能であるとよい。ただし、アカウント情報の登録は情報取得端末11から行ったものである必要はなく、別途発行済みのアカウントを流用するものでもよい。いずれにせよ発行されたアカウント情報はユーザを識別可能なIDを含む。これらの情報は情報提供サーバ12にも登録されるとよい。情報取得端末11は、情報提供サーバ12に問い合わせるにあたり、このアカウント情報による認証を一度は行い、アカウント情報に基づいてサービスを受ける。
【0029】
情報取得端末11は、周囲確認機能24により、存在位置判別情報を取得する存在位置判別手段を実行可能である。ここで存在位置判別情報としては、GPS機能26によって得られる緯度経度情報や、近距離無線通信機能25によって得られる周囲に存在する端末等の情報などが挙げられ、用途によって使い分けるとよく、両方を含んでいてもよいし、その他の情報を含んでいてもよい。ただし、ARの精度の点から、GPS機能26による緯度経度情報を含むことが望ましい。
【0030】
情報取得端末11は、上記のGPS機能26によって取得された緯度経度情報とそれを取得したタイムスタンプを、所定の時間間隔で情報提供サーバ12に自動的にアップロードする位置情報報告手段を備えていると望ましい。その情報取得端末11が存在する位置、すなわち情報取得端末11を有しその情報取得端末11にアカウント情報を登録したユーザが存在する最新の位置情報を情報提供サーバ12に伝えることで、当該ユーザ自身をマーカとして利用することができる。この位置情報報告手段は常駐する機能として動作され、ユーザが操作していなくても所定の時間間隔で送信されるようにしておくことが望ましい。
【0031】
情報取得端末11は、上記のカメラ機能で撮影した前記映像情報を情報提供サーバ12にアップロードする映像アップロード手段を有すると好ましい。この映像情報が位置情報とともに情報提供サーバ12に登録されることで、その位置情報が示す地点の特徴を抽出する材料とすることができる。
【0032】
情報取得端末11は、情報提供サーバ12に、前記アカウント情報とともに、前記映像情報と前記存在位置判別情報とを送信する周囲情報送信手段と、情報提供サーバ12からの返信であるAR情報を受信する周囲情報受信手段とを実行可能である。なお、以降の説明で周囲情報送信手段と周囲情報受信手段とをまとめて周囲情報問合手段と説明することがある。
【0033】
情報取得端末11は、前記カメラ機能で撮影した前記映像情報に、前記AR情報による付加情報を合成した映像を前記表示機能で表示させる合成表示手段を実行可能である。合成処理を情報取得端末11で行うと通信量を低減でき、情報提供サーバ12の負荷を抑制できる。一方、合成処理を情報提供サーバ12で行って合成された映像を情報取得端末11に送って表示すると情報取得端末11の処理量を抑制できる。合成する方法としては、写真や動画である周囲の映像に送られた画像をスプライト表示したり、文字情報やウインドウ、メーターなどのオブジェクトを描画したり、背景となる映像情報にフィルタを掛けたりといった、目に見える変化を加えることが挙げられる。具体的な使い方としては、例えばカメラで撮影した範囲に存在する対象が何であるか、又は誰であるかといったことが文字情報やアイコンなどの形で表示される実施形態が挙げられ、それらが有する属性情報も表示されると好ましい。また、一旦表示された画面のオブジェクト等に対して前記操作部から操作を加えることで、合成表示される内容を書き換えてもよい。例えばウインドウを拡大して表示される記載文章を詳細表示させたり、スクロールさせたり、対象となる人物との間のチャット情報等の入力パネルを表示させたりすることができる。
【0034】
このような情報取得端末11が、ネットワーク13を介して通じて情報提供サーバ12に多数接続される。情報提供サーバ12は、対象が存在する位置情報とその対象の属性を示す属性情報とを含む対象情報データベース45を有する。個々の対象には識別可能なIDが割り当てられていることが必要となる。前記位置情報には上記のGPS機能26と同様の緯度経度情報を用いると相互参照し易いため好ましい。前記属性情報としては、その対象を撮影した映像情報を含んでいてもよく、映像情報から抽出した特徴情報を含んでいてもよい。また前記属性情報としては、個々に入力又は一括入力された大きさや色、形状等に関する情報といった外観に関する情報だけでなく、対象の設立年月日や製作者などの来歴に関する情報などを含んでいてもよく、現実空間と重ね合わせる仮想空間上で出現させるオブジェクトの情報を含んでいてもよく、特に限定されない。ただしその中でも、AR情報として合成しやすい名称や略称、内容の要約が含まれていると本発明で扱いやすく好ましい。
【0035】
対象情報データベース45としては、ユーザのアカウント情報又はそれと紐付けできる情報を含み、ユーザ自身に関する情報であるユーザIDデータベース46を含んでいると好ましい。ユーザIDデータベースの例を
図2のテーブルに示す。ユーザIDは対象を識別するIDである。人物以外のIDとは区別されていてもよい。GPS情報及びタイムスタンプは上記のGPS機能26によって取得された緯度経度情報とその情報を取得した年月日時分秒とである。これらの位置に関する情報は情報取得端末11の存在する最新の位置を示す。身長、体重、性、メガネの有無や種類、肌の色、髪の色やスタイルなどは、ユーザが自発的に入力する情報を用いてもよいし、ユーザがアップロードした所謂自撮り写真となる自身が映った写真を解析して得られた情報を用いてもよい。身長や体型は上記映像情報に含まれる焦点距離と写真内における長さから概算値を求めることができる。また、横幅と身長から体重の概算値を求めることもできる。さらに、導入可能な顔認証技術によって個々のユーザの顔の特徴量を抽出してデータとして登録するものでもよい。その他、ユーザがプロフィールとして登録する情報や、ゲームサービスやSNSサービスにおけるアカウントと紐付けられた情報を含んでも良い。また、それらの情報を総合した重み付けを行って加算可能なニューラルネットワーク等の技術による判定手段に結びつけてもよい。
【0036】
また、対象情報データベース45としては、ユーザIDデータベース46の他に、人間以外の移動する対象について記録した動的対象データベースを有していてもよい。動的対象データベースの対象としては、自動車や電車などの車両、船舶、航空機、野生動物などが挙げられる。ただし、外観から対象をある程度特定できるか、搭載した無線通信端末等からの通信で対象のIDを含む属性情報を取得できるものであると好ましい。車両や船舶、航空機であれば型番は機種と形状の特徴等を記録する。野生動物であればその生物の外観的特徴を記録する。
【0037】
さらに、対象情報データベース45としては、基本的に移動しない対象の情報を記録した静的対象データベース47を有していてもよい。このような移動しない対象としては、看板、モニュメント、銅像、石碑、建築物、壁画、地上絵、標識、構造物などが挙げられるが特に限定されない。これらの情報は基本的に移動しないため、位置情報として固定の緯度経度情報を有しているとよい。また、外観等についての判別に用いることができる特徴量の情報や、来歴等を示すテキスト情報などを含む対象の属性を示す属性情報を有していてもよい。この属性情報の一部又はそれを補強する情報として、その対象を撮影した写真や設計図、3Dデータなどを有していてもよい。さらに、AR情報として情報取得端末11の表示機能で表示させるための描画用3Dデータを有していてもよい。対象の映像に重ねて描画することで、上記合成表示手段によって実際とは異なる姿として表示させることが可能となる。このような静的対象データベース47の情報はサービス開始時点で地図情報とともに予め登録しておくと望ましい。また、サービス開始後には随時更新できるようにしておくとよい。
【0038】
また、情報提供サーバ12(以下、サーバ12と称する場合もある。)は、情報取得端末11から送信されて取得した前記映像情報から、対象情報データベース45を参照して前記映像情報に含まれる対象を特定する対象特定手段を実行する。前記映像情報に映っているのが人物であれば、顔認証技術やその他の認識方法により特徴量を抽出する。その特徴量に基づき、ユーザIDデータベース46において重み付けをした判定手段を実行して、最も評価値の高いユーザを算出し、そのユーザを特定した人物の候補として扱う。一方で、前記判定手段を実行して最も評価値の高いユーザでも閾値を超えなかったときは、判定しきれず該当者無しとして扱うとよい。前記映像情報に映っているのが人間以外の移動する対象であれば、前記動的対象データベースを参照して対象を判別する。前記映像情報に映っているのが移動しない対象であれば、静的対象データベース47を参照して対象を判別する。判別の結果、その対象が判定されたものであるとの信頼性についてのパラメータが閾値を超えていれば、その対象は判定されたものであると特定する。
【0039】
その上でサーバ12は、特定された対象の前記属性情報をAR情報として、前記映像情報を送信してきた該当する情報取得端末11に返信する属性情報返信手段を実行する。前記映像情報に複数の対象が映っている場合は、どの座標のどの対象が特定されたものであるかの情報を含んでいると好ましい。また、サーバ12側でAR情報を元の前記映像情報に重ね合わせた映像をAR情報として返信してもよい。返信に含まれるAR情報としては、名称その他のテキストデータや重ねて表示する3Dデータ、アイコン、ゲームとして取得できるアイテムやゲームとして戦闘できる相手の情報など、特に限定されない。
【0040】
この発明にかかるシステムを実行する手順例を
図3のシーケンス図及び
図4〜
図7のフローチャートとともに説明する。まず(S101)、情報取得端末11にアプリケーションをインストールする。このアプリケーションはサーバ12から配布されたものでもよいし、アプリケーション配布サイトからダウンロードしたものでもよいし、サーバ12が提供するwebページ上のwebアプリでもよい。アプリケーションを実行し、操作部からの入力により前記アカウント情報となる希望するユーザIDとパスワード、及び申請してもよい個人の特徴として属性情報を記録する。図示しないが、カメラ機能により自撮り写真を属性情報に追加してもよい。また、当該ユーザが他のユーザによって把握されたとき、AR情報として取得させてもよい情報をAR表示情報として属性情報に含める。さらに、GPS機能26により位置情報を取得する。この位置情報により所属国などを判断することができる。これらの情報をまとめてサーバ12に送信してアカウントの作成を求める個人情報報告手段を実行する(S102)。
【0041】
このアカウント作成の申請を受けたサーバは、内容を確認の上でアカウントを作成し、送信された前記属性情報を前記位置情報とともにユーザIDデータベース46に登録する個人情報登録手段を実行し、認証したユーザIDを払い出し返送する(S103)。情報取得端末11は、返送されたユーザID(S104)をアカウント情報として設定し(S105)、以降の応答ではこのユーザIDとともに通信を行う。
【0042】
設定後は、アプリケーションが情報取得端末11で常駐し、上記の位置情報報告手段を定期的に実行して、ユーザIDとともに位置情報を定期的にサーバ12へ報告する(S111)。これを受信したサーバ12は、ユーザIDデータベース46に登録された当該ユーザIDの位置情報とタイムスタンプを更新する位置情報更新手段を実行する(S112)。また、このときにAR表示情報などその他のユーザに関する情報を併せて送信して、適宜更新されるような構成でもよい。
【0043】
また、他の情報取得端末11の近距離無線通信機能25による問い合わせを受けた場合、送信可能なプロフィール情報としてユーザIDを含み公開可能なAR表示情報を、他の情報取得端末11に送信する自己情報通知手段を実行する(S113)。
【0044】
次に、AR合成時の手順例を示す。情報取得端末11のアプリケーションを起動して、周囲確認機能24により、存在位置判別情報を取得する(S121)。ここでは近距離無線通信機能25であるBluetooth通信により、通信可能な範囲に存在する同じアプリケーションが常駐している他の情報取得端末11が上記の自己情報通知手段により通知する情報として、周囲に存在する同一サービスの利用者のユーザID(群)を取得する。また、GPS機能により取得する位置情報を取得する。また、カメラ機能によりAR情報を得ようとする対象物(人物)にレンズを向けて撮影する(S122)。このときの概念図を
図4に示す。中心にいるのが情報取得端末11を持ち撮影しようとするユーザであり、同心円はBluetooth通信が可能な範囲である。この範囲にいる人物であれば、カメラ機能22で撮影することで人物の特定が可能な程度の距離にいることになる。その上で、撮影した映像情報に、周囲にいるユーザID(群)と位置情報とを付して送信する周囲情報送信手段を実行する(S123)。
【0045】
情報取得端末11からの映像情報を取得したサーバ12は、映像情報に映っている対象を特定する対象特定手段を実行する(S124)。具体的内容としては複数の手段を併用する。まず、映像自体の内容から、映っている人物について顔認証を行ったり、身長、性別、肌や髪の色、メガネの有無などの特徴量を判定し、ユーザIDデータベース46に登録されたユーザの情報との一致性が高いユーザを抽出する。また、近距離無線通信機能25で取得された周囲にいるユーザID(群)と、GPS機能による位置情報から絞り込まれるユーザIDを抽出する。位置情報による抽出とは、S123で送られたその情報取得端末11の位置情報と、S113の自己情報通知手段によって定期的に更新される各々のユーザの存在位置である位置情報との物理的距離が所定の距離よりも小さいものを選び出すことで、近くにいるユーザを絞り込むことが挙げられる。絞り込んだユーザの中から、一致性を示す評価値が閾値以上であるものを当該ユーザであると特定する対象特定手段を実行し、当該ユーザIDのAR情報を抽出する。このAR情報を情報取得端末11に返信する属性情報返信手段を実行する(S125)。
【0046】
情報取得端末11は、このサーバ12からの返信であるAR情報を受信する周囲情報受信手段を実行し、カメラ機能22で撮影した前記映像情報に、受信したAR情報による付加情報を合成した映像を表示機能23で表示させる合成表示手段を実行する(S126)。この映し出す映像は、情報取得端末11の向きをジャイロセンサなどで検知して映し出される映像内における特定した対象の位置の変化を演算して重ね続けてもよい。
【0047】
このように撮影した映像情報に含まれる対象を特定する手順の実施形態例を
図5〜
図7のフローチャートとともに説明する。
図5は全体の概要である。S201は情報取得端末11でアプリケーションを起動して行う工程である。カメラ機能22により対象を含む映像情報を撮影する(S122)とともに、近距離無線通信機能25とGPS機能26とによる周囲確認機能24で周囲のユーザIDと位置情報とを取得する(S121)。情報取得端末11はそれらの情報を纏めてサーバ12に送信する(S202,S123)。サーバ12では、受信した情報から映像情報に含まれる対象であるユーザを、ユーザIDデータベース等により抽出し、該当するユーザのAR情報を情報取得端末11に返信する(S203、S124,S125)。情報取得端末11では受信したAR情報を映像情報に合成して表示機能23で表示する(S204、S126)。
【0048】
このうち、サーバ12での処理例を
図6とともに説明する。この例は、映像情報からだけでは対象を特定出来ない場合に、BluetoothによるユーザIDやGPS情報を併用することで、ARマーカとして機能できるようにする例である。まず(S211)、情報取得端末11から情報を取得する(S212)。この得られた情報のうち、まず映像情報のみで映っている人物について顔認証を行い、該当する可能性のあるユーザを抽出する(S213)。この抽出の際に、重み付けに基づいた評価値を求め、予め設定しておいた閾値を超えたか否かを判定する(S214)。この閾値を超えていれば(S214→Yes)、映っている人物が該当するユーザであると特定できるので、そのユーザのAR情報を情報取得端末11に送信する(S215)。
【0049】
一方、顔認証だけでは特定出来ない場合(S214→No)、次に、ユーザIDデータベース46のその他の情報を参照し、身長や肌の色などのその他の情報を映像情報から取得して、それらの特徴量について評価値を求めてポイントを加算し(S221)、予め設定しておいた閾値を超えたか否かを判定する(S222)。ここで、閾値を超えていれば(S222→Yes)、特定したユーザのAR情報を情報取得端末11に送信する(S215)。一方、なおも閾値を超えていなければ(S222→No)、さらに、情報取得端末11の位置情報と、抽出されたがなお特定されていないユーザの最新の位置情報とを比較してポイントを加算し(S223)、予め設定しておいた閾値を超えたか否かを判定する(S224)。これで閾値を超えれば(S224→Yes)、特定したユーザのAR情報を情報取得端末11に送信する(S215)。なおも閾値を超えていなければ(S224→No)、近距離無線通信機能25(Bluetooth機能)による相互通信が可能か否かを問い合わせてユーザIDが取得できるようならば、当該ユーザIDのその他の情報を参照してポイントを加算し(S225)、予め設定しておいた閾値を超えたか否かを判定する(S226)。なお、これがBluetooth通信の場合、有効通信距離は概ね10m以内であり、しかも間に障害物があると通信に失敗する可能性が高いため、相互通信が可能であればほぼ確実に映像の撮影が可能な位置関係にある。これで閾値を超えれば(S226→Yes)、特定したユーザのAR情報を情報取得端末11に送信する(S215)。それでもなお閾値を超えていなければ(S226→No)、映像情報に映った人物に該当するユーザが存在しないと情報取得端末11に送信する(S227)。
【0050】
この発明を利用するユーザは、プライバシーの管理上、アプリケーションの設定によりBluetooth機能やGPS機能を任意でオンオフできることが望ましい。このため、一のユーザが他のユーザを撮影してAR情報を取得しようとしたとしても、当該他のユーザではそれらのBluetooth機能やGPS機能をオフにして、ユーザIDデータベース46にそれらの情報が登録されていない場合がある。このため他のユーザのユーザIDの取得や位置情報は参考情報として扱い、主要な絞り込みは顔認証及び体型等の外観からわかる情報を優先して行うと好ましい。
【0051】
なお、サーバ12による判定回数を抑制する場合、
図7のようなフローで行っても
図6に近い結果を得ることができる。このフローではまず(S251)、ユーザIDから該当ユーザを抽出してポイントを加算する(S252)。これはS225に対応する処理である。次に、ユーザIDデータベース46のGPS情報からポイントを加算する(S253)。これはS223に対応する処理である。さらに、画像認証からユーザを抽出する(S254)。これはS213に対応する処理であるが、S213では候補となるユーザが多数いる状況で比較を行うのに対して、ある程度対象者を絞り込んだ上で画像認証を行うため、演算の対象となる母数を減らすことができ、負荷を低減することができる。さらにまた、画像データから得られる特徴量からポイントを加算する(S255)。これはS221に対応する処理である。以上のポイント加算を行った上で、ユーザ特定の閾値を超えたか否かを判定する(S256)。閾値を超えれば(S256→Yes)、特定したユーザのAR情報を情報取得端末11に送信する(S257)。閾値を超えていない場合(S256→No)、一度目はS253に戻り、二度目はS254に戻り、ポイントを加算する処理を行う。三度目でも閾値を超えなかったら(S256→No)、該当するユーザが存在しない旨の情報を情報取得端末11に送信する(S258)。
【0052】
この発明の実施形態として、人物ではなく静的対象について特定を行う例を示す。情報取得端末11でサービスを受けられるように、静的対象データベース47について予め準備を行う。提供するサービスとしては、宝探しゲームや謎解きゲームなどが挙げられる。サービス提供を行う実行者は、当該サービスの実施場所である現地に赴き、ARマーカとして利用する対象物の写真を撮影して映像情報を取得する。このとき映像情報とともに、GPS機能を利用して位置情報も取得する。さらに、撮影時に分かる範囲で画像から得られる特徴量やその他の情報を、撮影を行う端末に入力する。例えば存在する場所の周囲のヒントや対象の色、形状についての記述が挙げられる。これらの映像情報、位置情報、特徴量、その他の情報をまとめて、静的対象としてのIDを付して静的対象データベース47に登録する。サービス実行時には、ユーザが情報取得端末11で撮影した映像情報に含まれる対象と、静的対象データベース47に登録した情報とを対比して、目標物が設定通りに撮影されるクリア条件を満たすか否かを判別する。
【0053】
このように静的対象の位置情報をARマーカとして利用する場合、GPS機能の仕様による誤差をある程度許容しなければならないのが従来の問題点であった。しかし、上記のように、映像情報を含む静的対象データベース47を構築することで、その場の状況や光景を踏まえて解析ができるため、ARマーカとしての位置精度は大きく向上する。
【0054】
一方、コンビニエンスストアやファミリーレストランなどの大規模展開されたチェーン店の看板は、それぞれはほぼ同一の規格で製造されており、それらを撮影した映像情報だけでは特異性のあるデータとならない。しかし、それらの映像情報にGPS機能による位置情報を付加することで、ARマーカとして利用することができるようになる。
【0055】
さらに、撮影した映像情報には方向(方角)の情報が含まれることになる。これにより、単純にその場に近づくだけの条件でAR情報を表示するのではなく、特定の方角から情報取得端末11で撮影した映像情報との間で情景がある程度の評価値以上に一致していない限りAR情報を表示させない、といった設定が可能になる。例えば、西側から目標を撮影した映像情報にのみ、AR情報が表示される、といったことができる。このような設定をする場合の処理としては、
図3のシーケンス図のフローにおいてユーザIDデータベース46の代わりに静的対象データベース47を用いるものとし、S124のような対象を特定してAR情報を抽出する条件の際に、AR情報を送ってよいか否かの判断として方角を条件として追加することで実現できる。
【0056】
さらに他の実施形態について説明する。ユーザIDデータベース46に登録するユーザ情報として、ユーザが自己アピールとして積極的に公開したい情報を属性情報として登録する。この属性情報をAR情報として積極的に開示することで、マッチングイベント、人材交流イベント、転職イベント、アイドルやモデル等の審査イベントなど多種多様な交流型イベントにおいて、名刺を交換するまでもなく自分の情報を他社の情報取得端末11に送り込んで表示させることができる。
【0057】
この場合、上記と同様のシステムに加えて、周囲にいる他のユーザに対して、ユーザIDなどの属性情報の一部を送信するユーザ告知手段を実行可能であるとよい。その一連の処理の概念図を
図8に示す。また、シーケンス図を
図9に示す。この手順は、基本的にはS111までの登録手続や常駐機能の起動が終わっている状態で、S121のAR合成が行われる前段階に対応する。プロフィール入力の段階(S101)で、又はその後の情報提供サーバ12に対してユーザ認証を踏まえた修正(図示しないがS111に前後する)によって、そのイベントで公開したい属性情報をユーザIDデータベース46に登録しておく(S301)。具体的には、属性情報として登録した情報の中から、その場で公開してもよい情報にチェックを入れて選択したり、その場で公開してもよいように内容を修正したりする。また、その場の状況に合わせたアピール文などのメッセージを登録してあってもよい。さらに、その場で撮影した上記映像情報をアップロードしたり、その前記した他の実施形態で実行しているAR情報を合成したその場の情報を含む合成した映像をアップロードして、その場に自分がいることをアピールできるようにしてもよい。なお、そのイベント専用で設定するサービスとして実行する場合、プロフィールの入力の際に(S101)、公開したい属性情報まで指定しておいてもよい。
【0058】
また、属性情報とともに、告知しようとするユーザの条件である送信対象制限情報を指定できると好ましい(S302)。例えば、マッチングアプリとして用いるときに、年収や身長、性格その他の好みとする相手の基準を指定したりすることができる。また、遠すぎる相手に告知する無駄をはぶくため、距離を指定できるようにしてもよい。これらの条件はユーザIDデータベース46の主要テーブルと一体のテーブルでもよいし、連携させた別のテーブルであってもよい。
【0059】
その上で、自己アピールしようとするユーザは端末によって情報提供サーバ12に対して、近くにいる他のユーザに自己を告知するための
マルチキャストを行う指示である
マルチキャスト依頼を送信する
マルチキャスト依頼手段を実行する(S311)。ここで用いる端末は、情報提供サーバ12に所定のパケットを送る機能さえあれば実行可能であるため情報取得端末11でなくてもよい。ただし、この発明にかかる情報提供システムを利用するため、ほぼ必然的にユーザは情報取得端末11を利用することになり、実際の利用では情報取得端末11がこの役目を担っていてよい。その場合、ユーザIDとともに、属性情報のうちAR機能で他のユーザの情報取得端末11に表示させようとする一部の情報を指定したり、追加で通知したい属性情報自体を含んでいてもよい。また、送信したいユーザを絞り込む条件を指定してあってもよい。例えば読者モデルとしての選抜アピールをしたい場合は、他の読者モデルであるユーザに
マルチキャストしても意味がなく、スカウトマンであるユーザを限定して
マルチキャスト対象とすることになる。
【0060】
上記の
マルチキャスト依頼を受信した情報提供サーバ12は、
マルチキャスト依頼を送信したユーザが登録した情報について、ユーザIDデータベース46において予め公開するように指定された属性情報を抽出するとともに、送信する対象となるユーザを絞り込む
マルチキャスト抽出手段を実行する(S321)。全ユーザへの送信は基本的に無駄となりやすく、基本的にはユーザIDデータベース46に登録されている位置情報と、
マルチキャスト依頼を送信した端末(情報取得端末11)の位置情報とを比較して、所定の距離の範囲にいるユーザをリストアップする。ただし、例えば推理探偵作品のイベントのように犯人役となるユーザを捜索させようとするために、撮影される範囲外にいる他のユーザに対しても
マルチキャストするようにする実施形態でもよく、距離の条件はサービスの内容によって適宜決定されてよい。
【0061】
また、属性情報を抽出する際に、
マルチキャストの際に表示される要約となる情報と、カメラ機能で捕捉された後にAR情報として開示する情報とをそれぞれ別に決定しておくとよい。
マルチキャストの際に全情報を開示したのではカメラ機能で探す意味がなくなるからである。
【0062】
上記の抽出を踏まえて、対象となる他のユーザの情報取得端末11に対して、抽出した要約となる情報を
マルチキャストする
マルチキャスト通知手段を実行する(S322)。
図8では依頼主であるユーザの至近距離にいることがユーザIDデータベース46における最新の位置情報で確認できるユーザの情報取得端末11に送るケースを示す。
マルチキャストを受信した情報取得端末11はその旨を通知として表示機能23に表示し、ユーザの選択操作によって表示されるべき要約を表示する(S323)。これによって、
マルチキャスト依頼を送信したユーザの概要が示され、このような人物が周囲にいる、と他のユーザに告知し、カメラ機能22で撮影すべく捜索を促すことができる。
【0063】
マルチキャストを通知された情報取得端末11のユーザは、カメラ機能22を起動して周囲を撮影し、AR情報を取得する(S331)。この際の処理はS121以降の手順と同様である。ただし、
マルチキャスト依頼を出した情報取得端末11のユーザを撮影した際に表示される内容は、あらかじめ
マルチキャスト依頼をしたユーザが属性情報について設定、選択したように表示される。
【課題】特異性のあるARマーカを取り付けていない対象の画像しか得られない状況において、スマートフォンやタブレット等のカメラ付き情報取得端末から得られる情報を付加して対象を特定可能にし、当該対象の付加情報を取得できるようにする。
【解決手段】対象が存在する位置情報とその対象の属性を示す属性情報とを含む対象情報データベース45を備え、情報取得端末11が撮影した映像情報から、対象情報データベース45を参照して前記映像情報に含まれる対象を特定し、特定された対象の前記属性情報をAR情報として情報取得端末11に送信して、情報取得端末11は撮影した映像情報に当該AR情報を合成して表示させる。