(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024025997
(43)【公開日】2024-02-28
(54)【発明の名称】情報処理装置、情報処理方法及び情報処理プログラム
(51)【国際特許分類】
G06F 16/735 20190101AFI20240220BHJP
【FI】
G06F16/735
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022129409
(22)【出願日】2022-08-15
(71)【出願人】
【識別番号】500257300
【氏名又は名称】LINEヤフー株式会社
(74)【代理人】
【識別番号】110002147
【氏名又は名称】弁理士法人酒井国際特許事務所
(72)【発明者】
【氏名】笹谷 奈翁美
(72)【発明者】
【氏名】池松 香
(72)【発明者】
【氏名】鈴木 健司
【テーマコード(参考)】
5B175
【Fターム(参考)】
5B175DA04
(57)【要約】
【課題】メガネ型ウェアラブルデバイスの視野画像において、ユーザが見たくないものを抽象化する。
【解決手段】本願に係る情報処理装置は、メガネ型ウェアラブルデバイスの視界画像を取得する取得部と、視界画像の中からユーザが許容できない対象物を特定する特定部と、対象物をユーザが許容可能な抽象化コンテンツに変換する変換部と、メガネ型ウェアラブルデバイスの視界画像内の対象物の位置に抽象化コンテンツを重畳して表示する表示制御部とを備えることを特徴とする。
【選択図】
図1
【特許請求の範囲】
【請求項1】
メガネ型ウェアラブルデバイスの視界画像を取得する取得部と、
前記視界画像の中からユーザが許容できない対象物を特定する特定部と、
前記対象物を前記ユーザが許容可能な抽象化コンテンツに変換する変換部と、
前記メガネ型ウェアラブルデバイスの前記視界画像内の前記対象物の位置に前記抽象化コンテンツを重畳して表示する表示制御部と
を備えることを特徴とする情報処理装置。
【請求項2】
前記ユーザが許容できない対象物の設定を受け付ける設定部と、
前記対象物と前記抽象化コンテンツとの組を記憶する記憶部と
をさらに備えることを特徴とする請求項1に記載の情報処理装置。
【請求項3】
前記ユーザの属性情報から、前記ユーザが許容できない対象物を推定する推定部をさらに備え、
前記変換部は、前記対象物を前記ユーザが許容可能な前記抽象化コンテンツに変換する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項4】
前記対象物から前記抽象化コンテンツを自動的に生成する生成部をさらに備え、
前記変換部は、前記対象物を前記抽象化コンテンツに変換する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項5】
前記対象物に対する前記ユーザの許容度に関する設定を受け付ける設定部をさらに備え、
前記変換部は、前記対象物を前記許容度に応じた前記抽象化コンテンツに変換する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項6】
前記ユーザの属性情報から、前記対象物に対する前記ユーザの許容度を推定する推定部をさらに備え、
前記変換部は、前記対象物を前記許容度に応じた前記抽象化コンテンツに変換する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項7】
前記対象物を抽象化する際の抽象度に関する設定を受け付ける設定部をさらに備え、
前記変換部は、前記対象物を前記抽象度に応じた前記抽象化コンテンツに変換する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項8】
前記設定部は、
前記ユーザに前記対象物の好みの度合いを問合せ、前記ユーザから前記対象物の好みの度合いの問合せに対する回答を受け付け、
さらに、前記ユーザに変換後の前記抽象化コンテンツの好みの度合いを問合せ、前記ユーザから変換後の前記抽象化コンテンツの好みの度合いの問合せに対する回答を受け付け、
それぞれの回答に応じて、前記対象物を抽象化する際の抽象度を変化させ、
前記変換部は、前記対象物を前記抽象度に応じた前記抽象化コンテンツに変換する
ことを特徴とする請求項7に記載の情報処理装置。
【請求項9】
前記ユーザの属性情報から、前記対象物を抽象化する際の抽象度を推定する推定部をさらに備え、
前記変換部は、前記対象物を前記抽象度に応じた前記抽象化コンテンツに変換する
ことを特徴とする請求項1に記載の情報処理装置。
【請求項10】
情報処理装置が実行する情報処理方法であって、
メガネ型ウェアラブルデバイスの視界画像を取得する取得工程と、
前記視界画像の中からユーザが許容できない対象物を特定する特定工程と、
前記対象物を前記ユーザが許容可能な抽象化コンテンツに変換する変換工程と、
前記メガネ型ウェアラブルデバイスの前記視界画像内の前記対象物の位置に前記抽象化コンテンツを重畳して表示する表示制御工程と
を含むことを特徴とする情報処理方法。
【請求項11】
メガネ型ウェアラブルデバイスの視界画像を取得する取得手段と、
前記視界画像の中からユーザが許容できない対象物を特定する特定手段と、
前記対象物を前記ユーザが許容可能な抽象化コンテンツに変換する変換手段と、
前記メガネ型ウェアラブルデバイスの前記視界画像内の前記対象物の位置に前記抽象化コンテンツを重畳して表示する表示制御手段と
をコンピュータに実行させることを特徴とする情報処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理方法及び情報処理プログラムに関する。
【背景技術】
【0002】
ユーザに提示したい仮想オブジェクトを優先して表示する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、上記の従来技術では、ユーザに提示したい仮想オブジェクトを表示することに言及しているが、ユーザに提示したくない実物体や仮想物体の表示に関しては触れられていない。例えば、AR(Augmented Reality:拡張現実)機能を有するメガネ型ウェアラブルデバイス(Wearable Device)においては、視野画像がユーザの視界となる上に、ユーザと画面との距離が近いため、ユーザは目をそらすことや目をそむけることができず、視野画像に表示されたものは見たくないものであっても見ざるを得ない。しかし、ユーザが見たくないものを単に隠したり見えなくしたりしてしまうと、ユーザの視界や認識に不備が生じる。
【0005】
本願は、上記に鑑みてなされたものであって、メガネ型ウェアラブルデバイスの視野画像において、ユーザが見たくないものを抽象化することを目的とする。
【課題を解決するための手段】
【0006】
本願に係る情報処理装置は、メガネ型ウェアラブルデバイスの視界画像を取得する取得部と、前記視界画像の中からユーザが許容できない対象物を特定する特定部と、前記対象物を前記ユーザが許容可能な抽象化コンテンツに変換する変換部と、前記メガネ型ウェアラブルデバイスの前記視界画像内の前記対象物の位置に前記抽象化コンテンツを重畳して表示する表示制御部とを備えることを特徴とする。
【発明の効果】
【0007】
実施形態の一態様によれば、メガネ型ウェアラブルデバイスの視野画像において、ユーザが見たくないものを抽象化することができる。
【図面の簡単な説明】
【0008】
【
図1】
図1は、実施形態に係る情報処理方法の概要を示す説明図である。
【
図2】
図2は、実施形態に係る情報処理システムの構成例を示す図である。
【
図3】
図3は、実施形態に係る端末装置の構成例を示す図である。
【
図4】
図4は、抽象化情報データベースの一例を示す図である。
【
図5】
図5は、実施形態に係るサーバ装置の構成例を示す図である。
【
図6】
図6は、利用者情報データベースの一例を示す図である。
【
図7】
図7は、履歴情報データベースの一例を示す図である。
【
図8】
図8は、モデル情報データベースの一例を示す図である。
【
図9】
図9は、実施形態に係る処理手順を示すフローチャートである。
【発明を実施するための形態】
【0009】
以下に、本願に係る情報処理装置、情報処理方法及び情報処理プログラムを実施するための形態(以下、「実施形態」と記載する)について図面を参照しつつ詳細に説明する。なお、この実施形態により本願に係る情報処理装置、情報処理方法及び情報処理プログラムが限定されるものではない。また、以下の実施形態において同一の部位には同一の符号を付し、重複する説明は省略される。
【0010】
〔1.情報処理方法の概要〕
まず、
図1を参照し、実施形態に係る情報処理装置が行う情報処理方法の概要について説明する。
図1は、実施形態に係る情報処理方法の概要を示す説明図である。なお、
図1では、メガネ型ウェアラブルデバイスの視野画像において、ユーザが見たくないものを抽象化する場合を例に挙げて説明する。
【0011】
図1に示すように、情報処理システム1は、端末装置10とサーバ装置100とARゴーグル200(ARグラス)とを含む。端末装置10とサーバ装置100とARゴーグル200とは、ネットワークN(
図2参照)を介して有線又は無線で互いに通信可能に接続される。本実施形態では、端末装置10及びARゴーグル200は、サーバ装置100と連携する。端末装置10とARゴーグル200とは、互いに連携する。ARゴーグル200は、端末装置10を介して、サーバ装置100と通信可能であってもよい。
【0012】
端末装置10は、利用者U(ユーザ)により使用されるスマートフォンやタブレット端末等のスマートデバイスであり、4G(Generation)やLTE(Long Term Evolution)等の無線通信網を介して任意のサーバ装置と通信を行うことができる携帯端末装置である。また、端末装置10は、液晶ディスプレイ等の画面であって、タッチパネルの機能を有する画面を有し、利用者Uから指やスタイラス等によりタップ操作、スライド操作、スクロール操作等、コンテンツ等の表示データに対する各種の操作を受付ける。なお、画面のうち、コンテンツが表示されている領域上で行われた操作を、コンテンツに対する操作としてもよい。また、端末装置10は、スマートデバイスのみならず、デスクトップPC(Personal Computer)やノートPC等の情報処理装置であってもよい。
【0013】
サーバ装置100は、各利用者Uの端末装置10と連携し、各利用者Uの端末装置10に対して、各種アプリケーション(以下、アプリ)等に対するAPI(Application Programming Interface)サービス等と、各種データを提供する情報処理装置であり、コンピュータやクラウドシステム等により実現される。
【0014】
また、サーバ装置100は、各利用者Uの端末装置10に対して、オンラインで何らかのWebサービスを提供する情報処理装置であってもよい。例えば、サーバ装置100は、Webサービスとして、インターネット接続、検索サービス、SNS(Social Networking Service)、電子商取引(EC:Electronic Commerce)、電子決済、オンラインゲーム、オンラインバンキング、オンライントレーディング、宿泊・チケット予約、動画・音楽配信、ニュース、地図、ルート検索、経路案内、路線情報、運行情報、天気予報等のサービスを提供してもよい。実際には、サーバ装置100は、上記のようなWebサービスを提供する各種サーバと連携し、Webサービスを仲介してもよいし、Webサービスの処理を担当してもよい。
【0015】
なお、サーバ装置100は、利用者Uに関する利用者情報を取得可能である。例えば、サーバ装置100は、利用者Uの性別、年代、居住地域といった利用者Uの属性に関する情報を取得する。そして、サーバ装置100は、利用者Uを示す識別情報(利用者ID等)とともに利用者Uの属性に関する情報を記憶して管理する。
【0016】
また、サーバ装置100は、利用者Uの端末装置10から、あるいは利用者ID等に基づいて各種サーバ等から、利用者Uの行動を示す各種の履歴情報(ログデータ)を取得する。例えば、サーバ装置100は、利用者Uの位置や日時の履歴である位置履歴を端末装置10から取得する。また、サーバ装置100は、利用者Uが入力した検索クエリの履歴である検索履歴を検索サーバ(検索エンジン)から取得する。また、サーバ装置100は、利用者Uが閲覧したコンテンツの履歴である閲覧履歴をコンテンツサーバから取得する。また、サーバ装置100は、利用者Uの商品購入や決済処理の履歴である購入履歴(決済履歴)を電子商取引サーバや決済処理サーバから取得する。また、サーバ装置100は、利用者Uのマーケットプレイスへの出品の履歴である出品履歴や販売履歴を電子商取引サーバや決済処理サーバから取得してもよい。また、サーバ装置100は、利用者Uの投稿の履歴である投稿履歴を口コミの投稿サービスを提供する投稿サーバやSNSサーバから取得する。なお、上記の各種サーバ等は、サーバ装置100自体であってもよい。すなわち、サーバ装置100が上記の各種サーバ等として機能してもよい。
【0017】
ARゴーグル200(ARグラス)は、AR(Augmented Reality:拡張現実)機能を有するメガネ型ウェアラブルデバイス(Wearable Device)である。そのため、ARゴーグル200は、カメラ機能や近距離通信機能を有する。さらに、オーディオ機能やマイク機能、画像認識機能や音声認識機能等を有していてもよい。ARゴーグル200は、仮想空間やメタバースにも対応可能である。なお、実際には、ARゴーグル200は、AR機能に限らず、VR(Virtual Reality:仮想現実)機能やMR(Mixed Reality:複合現実)機能を有していてもよい。また、ARゴーグル200は、AR機能を搭載したスマートグラスであってもよいし、AR/VRヘッドセット、VRゴーグルとARゴーグルを兼用するヘッドマウントディスプレイ(HMD)等であってもよい。また、ARゴーグル200は、非透過ディスプレイの機器だけではなく、ホロレンズのようなシースルー型のAR機器であってもよい。
【0018】
〔1-1.抽象化AR〕
本実施形態では、利用者U(ユーザ)はARゴーグル200をかけている。ARゴーグル200は、搭載されたカメラで視野画像を撮影する。このとき、視野画像内に、利用者Uが許容できない/見たくない所定の対象物が映し出されることがある。利用者UがARゴーグル200をかけている場合、視野画像が利用者Uの視界となる上に、利用者Uと画面との距離が近いため、利用者Uは目をそらすことや目をそむけることができず、視野画像に表示されたものは見たくないものであっても見ざるを得ない。
【0019】
しかし、ARゴーグル200の視野画像内から対象物を完全に消去(不可視化)してしまうと、実際には対象物が目の前に存在しているのに利用者Uだけに見えないという状況になり、場合によっては好ましくない事態が発生し得る。また、視野画像内の対象物に単にモザイクをかける(隠ぺい)だけだと、モザイクをかける対象物が一意に特定されていなければ、どういう理由でモザイクをかけたのか、また実際にはそこに何がいる/あるのか利用者Uにはわからないため、利用者Uが視野画像から得られる情報に不足が生じる。
【0020】
本実施形態では、利用者U(ユーザ)の端末装置10は、ARゴーグル200と連携して、ARゴーグル200の視野画像(ARゴーグル200をかけた利用者Uの視野画像)を取得し、取得された視野画像から所定の対象物OBJを検出し、検出された所定の対象物OBJを抽象化した抽象化コンテンツABS(抽象化アイコン等)を視野画像内の当該所定の対象物OBJが所在する位置に重畳して表示する。
【0021】
例えば、
図1に示すように、利用者U(ユーザ)の端末装置10は、近距離無線通信により(又は通信ケーブルを介して)、ARゴーグル200のカメラ機能で撮影された視野画像を取得する(ステップS1)。
【0022】
続いて、利用者Uの端末装置10は、取得された視野画像の中から、あらかじめ設定された所定の対象物OBJを特定して抽出する(ステップS2)。
【0023】
所定の対象物OBJとして、例えば利用者Uが直視したくないものや、嫌悪感を催すもの、精神的な苦痛を感じるもの等が挙げられる。なお、所定の対象物OBJの設定については、例えばアプリインストール時の初期設定でもよいし、アプリやソフトウェアによる自動更新等により設定していてもよいし、利用者Uが端末装置10を用いて手動で設定してもよい。また、端末装置10は、利用者Uのユーザ属性(ユーザセグメント、ユーザペルソナでも可)や過去の履歴、現在の設定内容等から、機械学習等により、ユーザごとに所定の対象物OBJを推定してもよい。
【0024】
このとき、利用者Uの端末装置10は、カテゴリごとに対象物OBJを特定して抽出してもよい。対象物OBJのカテゴリとして、例えば虫・動物、ごみ・ほこり、絵・写真・映像、文字・文章、特定の思想・信条に基づく表現等が挙げられる。また、対象物OBJのカテゴリは、大分類、中分類、小分類のように細分化してもよい。例えば、大分類は「生物」、中分類は「虫」、小分類は「虫の種類・名称」としてもよい。
【0025】
続いて、利用者Uの端末装置10は、所定の対象物OBJに対する利用者Uの許容度や、対象物OBJを抽象化する際の抽象度を判定する(ステップS3)。
【0026】
このとき、端末装置10は、利用者Uから、手動で所定の対象物OBJの設定とともに許容度や抽象度の設定を受け付けてもよいし、利用者Uのユーザ属性や過去の履歴、現在の設定内容等から、機械学習等により、ユーザごとに許容度や抽象度を推定してもよい。
【0027】
続いて、利用者Uの端末装置10は、利用者Uごとの許容度や抽象度に応じて、所定の対象物OBJを抽象化するため、所定の対象物OBJを抽象化した抽象化コンテンツABSを選択又は生成する(ステップS4)。
【0028】
このとき、端末装置10は、利用者Uごとの許容度や抽象度に応じて、所定の対象物OBJを段階的に抽象化してもよい。例えば、端末装置10は、所定の対象物OBJと抽象化コンテンツABSとの組を許容度や抽象度ごとにあらかじめ記憶しておき、許容度や抽象度に応じて所定の対象物OBJに対応する抽象化コンテンツABSを選択してもよいし、許容度や抽象度に応じて所定の対象物OBJから抽象化コンテンツABSを自動生成してもよい。また、端末装置10は、許容度や抽象度に応じて、所定の対象物OBJを段階的にぼやかしたり透過率・透過度を変更したりしてもよい。
【0029】
続いて、利用者Uの端末装置10は、ARゴーグル200の視野画像内に含まれる所定の対象物OBJを、抽象化コンテンツABSに変換する(ステップS5)。
【0030】
このとき、端末装置10は、近距離無線通信により(又は通信ケーブルを介して)、ARゴーグル200に、所定の対象物OBJを抽象化した抽象化コンテンツABSに関する情報を提供する。例えば、端末装置10は、所定の対象物OBJと抽象化コンテンツABSとの対応関係や、抽象化コンテンツABSの表示位置や表示指示に関する情報を提供する。なお、端末装置10は、抽象化コンテンツABSが通常とは異なる特殊な表示態様で表示される場合には、その表示態様に関する情報も提供する。
【0031】
続いて、ARゴーグル200は、視野画像内に含まれる所定の対象物OBJが所在する位置に、当該所定の対象物OBJを抽象化した抽象化コンテンツABSを重畳して表示する(ステップS6)。
【0032】
なお、実際には、利用者Uの端末装置10が、ARゴーグル200の視野画像内に含まれる所定の対象物OBJが所在する位置に、当該所定の対象物OBJを抽象化した抽象化コンテンツABSを重畳して表示するように表示制御してもよい。
【0033】
続いて、利用者Uの端末装置10は、ネットワークN(
図2参照)を介して、サーバ装置100と連携し、所定の対象物OBJの抽象化に関する情報をサーバ装置100に提供する(ステップS7)。
【0034】
このとき、サーバ装置100は、ネットワークN(
図2参照)を介して、不特定多数の利用者Uの端末装置10から、所定の対象物OBJの抽象化に関する情報を収集する。あるいは、サーバ装置100は、連合学習(Federated Learning)により、データを集約せずに分散した状態で機械学習を行う場合、通信部110を介して、利用者Uの端末装置10から、学習結果(差分データや特徴量)を取得してもよい。
【0035】
続いて、サーバ装置100は、機械学習により、利用者Uのユーザ属性(ユーザセグメント、ユーザペルソナでも可)ごとの所定の対象物OBJの抽象化について学習し、学習結果に基づく推定モデルを生成/更新する(ステップS8)。
【0036】
例えば、サーバ装置100は、ユーザ属性と所定の対象物OBJと許容度や抽象度と抽象化コンテンツABSとの組を学習データとして学習し、ユーザ属性と所定の対象物OBJを入力すると、許容度や抽象度と抽象化コンテンツABSとを出力する推定モデルを生成/更新する。あるいは、サーバ装置100は、連合学習により、利用者Uの端末装置10から取得した学習結果を統合し、推定モデルを生成/更新してもよい。
【0037】
続いて、サーバ装置100は、ネットワークN(
図2参照)を介して、各利用者Uの端末装置10に、生成/更新された推定モデルを提供する(ステップS9)。
【0038】
これにより、利用者Uの端末装置10は、ステップS2において、取得された視野画像の中から所定の対象物OBJを特定して抽出する際、サーバ装置100から提供された推定モデルに基づいて所定の対象物OBJを推定し、推定された所定の対象物OBJを特定して抽出できるようになる。
【0039】
なお、サーバ装置100は、生成/更新された推定モデル自体に限らず、推定モデルに該当するサーバ装置100側のグローバルモデル(中央モデル)と、利用者Uの端末装置10側のローカルモデル(子モデル)とのパラメータの差分を提供してもよい。例えば、サーバ装置100は、連合学習により、データを集約せずに分散した状態で機械学習を行う場合、サーバ装置100側の共有モデル/統合モデルの修正点に関する情報を利用者Uの端末装置10に提供してもよい。
【0040】
〔1-2.追加・補足事項〕
本実施形態では、利用者Uの端末装置10は、ARゴーグル200の視野画像内に含まれる所定の対象物OBJを、抽象化コンテンツABSに変更する。そして、利用者Uの端末装置10は、抽出された対象物OBJを抽象化した抽象化コンテンツABSを視野画像内に表示する。例えば、利用者Uの端末装置10は、対象物OBJが所在する位置に抽象化コンテンツABSを重畳して表示する。
【0041】
なお、抽象化コンテンツABSは、2次元(2D)画像でもよいし、3次元(3D)画像や3Dオブジェクト・3Dモデル(3D形状)でもよい。また、利用者Uの端末装置10は、対象物OBJから抽象化コンテンツABSを自動生成してもよい。
【0042】
また、利用者Uの端末装置10は、所定の対象物OBJを抽出する際、視野画像内での大きさや距離等に応じて所定の対象物OBJを抽出するか否か判断してもよい。具体的には、利用者Uの端末装置10は、視野画像内において利用者Uが所定の対象物OBJをそれとして認識(視認)できる大きさや距離等である場合に、所定の対象物OBJを抽象化すべき対象物OBJとして抽出するようにしてもよい。例えば、利用者Uの端末装置10は、所定の対象物OBJが視野画像内において利用者Uから所定の範囲内(例えば距離2m以内)に存在し、所定の大きさ(例えば全長1cm以上)で表示される場合に、所定の対象物OBJを抽象化すべき対象物OBJとして抽出するようにしてもよい。
【0043】
また、利用者Uの端末装置10は、許容度や抽象度に応じて、抽出された所定の対象物OBJを「文字」に変更し、対象物OBJが所在する位置に「文字」を重畳して表示してもよい。例えば、利用者Uの端末装置10は、許容度や抽象度に応じて、抽出された所定の対象物OBJが所在する位置に当該対象物OBJの「名称」又は「カテゴリ名」を重畳して表示してもよい。
【0044】
あるいは、利用者Uの端末装置10は、許容度や抽象度に応じて、抽出された所定の対象物OBJを「カテゴリを示す画像」に変更し、対象物OBJが所在する位置に「カテゴリを示す画像」を重畳して表示してもよい。カテゴリを示す画像については、カテゴリごとに、あらかじめ設定されていてもよい。
【0045】
また、利用者Uの端末装置10は、抽出された所定の対象物OBJが虫である場合、対象物OBJを「虫を抽象化したアイコン・ピクトグラム」に変更し、対象物OBJが所在する位置に「虫を抽象化したアイコン・ピクトグラム」を重畳して表示してもよい。基本的に、特定の虫が苦手な人は、昆虫全般が苦手と推測されるため、他の虫の画像に変更するのではなく、虫を抽象化した何かしらのピクトグラムに変更すると好ましい。このとき、利用者Uの端末装置10は、全ての虫が対象物OBJとなっていなければ、全ての虫を一律に「虫を抽象化したアイコン・ピクトグラム」に変更するのではなく、対象物OBJとして設定されている虫だけを「虫を抽象化したアイコン・ピクトグラム」に変更し、対象物OBJが所在する位置に「虫を抽象化したアイコン・ピクトグラム」を重畳して表示してもよい。また、利用者Uの端末装置10は、「虫を抽象化したアイコン・ピクトグラム」を重畳して表示する際に、自然界に存在する通常の「虫を抽象化したアイコン・ピクトグラム」の画像ではなく、明らかに変更されたことがわかる不自然な「虫を抽象化したアイコン・ピクトグラム」の画像を表示してもよい。例えば、通常の数倍の大きさの「虫を抽象化したアイコン・ピクトグラム」や、現在位置の環境には存在しない色・形状の「虫を抽象化したアイコン・ピクトグラム」、発光・点滅する「虫を抽象化したアイコン・ピクトグラム」等を表示してもよい。
【0046】
あるいは、利用者Uの端末装置10は、許容度や抽象度に応じて、抽出された所定の対象物OBJを「戯画化されたイラスト」に変更し、対象物OBJが所在する位置に「戯画化されたイラスト」を重畳して表示してもよい。戯画化されたイラストについては、対象物OBJ又はカテゴリごとにあらかじめ設定されていてもよいし、画像変換や機械学習等により対象物OBJから自動的に変換してもよい。また、利用者Uの端末装置10は、許容度や抽象度に応じて、抽出された所定の対象物OBJを「ピクトグラム」に変更し、対象物OBJが所在する位置に「ピクトグラム」を重畳して表示してもよい。
【0047】
なお、利用者Uの端末装置10は、抽象化コンテンツABSの抽象度について、利用者Uから、対象物OBJを抽象化する際の抽象度に関する設定を受け付けてもよい。例えば、利用者Uの端末装置10は、利用者Uから、どれくらい抽象度を上げるとよいかの設定を受け付けてもよい。また、利用者Uの端末装置10は、抽象度に応じて、抽象化コンテンツABSを選択又は自動生成してもよい。
【0048】
また、利用者Uの端末装置10は、対象物OBJがどのくらい嫌いかを利用者Uに問合せ、その回答に応じて、抽象度を変化させてもよい。また、利用者Uの端末装置10は、抽象化コンテンツABSが好きか嫌いかを利用者Uに問合せ、その回答に応じて、さらに抽象度を変化させてもよい。このとき、利用者Uの端末装置10は、利用者Uからの回答を学習し、学習結果に基づいて、抽象度を変化させてもよい。
【0049】
あるいは、利用者Uの端末装置10は、抽象化コンテンツABSの抽象度を推定・算出して自動的に設定してもよい。例えば、利用者Uの端末装置10は、利用者Uのユーザ属性から、利用者Uの好み等を推定して、推定された好み等に応じて、カテゴリごとに許容スコアを算出してもよい。このとき、利用者Uの端末装置10は、許容スコアが高くなるにつれて、抽象度を低くする。
【0050】
また、利用者Uの端末装置10は、利用者Uのコンテキスト(context)を推定して、所定の対象物OBJを、推定されたコンテキストに応じた抽象化コンテンツABSに変換してもよい。例えば、利用者Uの端末装置10は、自宅/社内/街中/公共の場/車内といった利用者Uの位置(所在)のコンテキストに応じて、抽象化コンテンツABSを設定・変更してもよい。また、利用者Uの端末装置10は、一人の時(周囲に人がいない)/大勢の時(周囲に大勢いる)のような、利用者Uの周囲のコンテキストに応じて、抽象化コンテンツABSを設定・変更してもよい。
【0051】
あるいは、利用者Uの端末装置10は、出社・出勤前/移動中/勤務時間中/食事中/打合せ中/退社・退勤後といった、利用者Uの時間(時間帯)のコンテキストに応じて、抽象化コンテンツABSを設定・変更してもよい。また、利用者Uの端末装置10は、平日や土日祝祭日といった曜日のコンテキストに応じて、抽象化コンテンツABSを設定・変更してもよい。
【0052】
また、利用者Uの端末装置10は、抽出された対象物OBJが「実物体」なのか、AR機能等により画面に表示されている「仮想物体」かに応じて、抽象化コンテンツABSを設定・変更してもよい。すなわち、対象物OBJは、実物体に限らず、AR(拡張現実)等で表示されたデータであってもよい。利用者Uの端末装置10は、利用者Uがその対象物OBJを本当に嫌っているならば、仮想物体でも抽象化コンテンツABSに変化させる。それほど嫌っていなければ/好き嫌いの程度によっては、実物体は抽象化コンテンツABSに変化させ、仮想物体はそのまま表示させる。本当に嫌っているかどうかは、利用者Uに直接問い合わせてもよいし、抽象化コンテンツABSの抽象度の設定から推測してもよい。
【0053】
なお、上記の端末装置10の処理は、端末装置10と連携するサーバ装置100が行ってもよいし、ARゴーグル200が行ってもよい。また、ARゴーグル200は、ネットワークN(
図2参照)を介して端末装置10と連携してもよいし、端末装置10を経由せずにネットワークN(
図2参照)を介してサーバ装置100と直接連携してもよい。
【0054】
〔2.情報処理システムの構成例〕
次に、
図2を用いて、実施形態に係るサーバ装置100が含まれる情報処理システム1の構成について説明する。
図2は、実施形態に係る情報処理システム1の構成例を示す図である。
図2に示すように、実施形態に係る情報処理システム1は、端末装置10とサーバ装置100とARゴーグル200とを含む。これらの各種装置は、ネットワークNを介して、有線又は無線により通信可能に接続される。ネットワークNは、例えば、LAN(Local Area Network)や、インターネット等のWAN(Wide Area Network)である。
【0055】
また、
図2に示す情報処理システム1に含まれる各装置の数は図示したものに限られない。例えば、
図2では、図示の簡略化のため、端末装置10及びARゴーグル200をそれぞれ1台ずつ示したが、これはあくまでも例示であって限定されるものではなく、それぞれ2台以上であってもよい。
【0056】
端末装置10は、利用者Uによって使用される情報処理装置である。例えば、端末装置10は、スマートフォンやタブレット端末等のスマートデバイス、フィーチャーフォン、PC(Personal Computer)、PDA(Personal Digital Assistant)、通信機能を備えたゲーム機やAV機器、カーナビゲーションシステム、スマートウォッチ等である。また、端末装置10は、IOT(Internet of Things)に対応した住宅・建物、車、家電製品、電子機器等であってもよい。
【0057】
また、ARゴーグル200は、ARグラスに限らず、スマートグラスやヘッドマウントディスプレイ等のメガネ型ウェアラブルデバイス等であってもよい。
【0058】
また、かかる端末装置10及びARゴーグル200は、LTE(Long Term Evolution)、4G(4th Generation)、5G(5th Generation:第5世代移動通信システム)等の無線通信網や、Bluetooth(登録商標)、無線LAN(Local Area Network)等の近距離無線通信を介してネットワークNに接続し、サーバ装置100と通信することができる。
【0059】
サーバ装置100は、例えばPCやブレードサーバ(blade server)等のコンピュータ、あるいはメインフレーム又はワークステーション等である。なお、サーバ装置100は、クラウドコンピューティングにより実現されてもよい。
【0060】
〔3.端末装置の構成例〕
次に、
図3を用いて、端末装置10の構成について説明する。
図3は、端末装置10の構成例を示す図である。
図3に示すように、端末装置10は、通信部11と、表示部12と、入力部13と、測位部14と、センサ部20と、制御部30(コントローラ)と、記憶部40とを備える。
【0061】
(通信部11)
通信部11は、ネットワークN(
図2参照)と有線又は無線で接続され、ネットワークNを介して、サーバ装置100との間で情報の送受信を行う。例えば、通信部11は、NIC(Network Interface Card)やアンテナ等によって実現される。
【0062】
(表示部12)
表示部12は、位置情報等の各種情報を表示する表示デバイスである。例えば、表示部12は、液晶ディスプレイ(LCD:Liquid Crystal Display)や有機ELディスプレイ(Organic Electro-Luminescent Display)である。また、表示部12は、タッチパネル式のディスプレイであるが、これに限定されるものではない。
【0063】
(入力部13)
入力部13は、利用者Uから各種操作を受け付ける入力デバイスである。例えば、入力部13は、文字や数字等を入力するためのボタン等を有する。なお、入力部13は、入出力ポート(I/O port)やUSB(Universal Serial Bus)ポート等であってもよい。また、表示部12がタッチパネル式のディスプレイである場合、表示部12の一部が入力部13として機能する。また、入力部13は、利用者Uから音声入力を受け付けるマイク等であってもよい。マイクはワイヤレスであってもよい。
【0064】
(測位部14)
測位部14は、GPS(Global Positioning System)の衛星から送出される信号(電波)を受信し、受信した信号に基づいて、自装置である端末装置10の現在位置を示す位置情報(例えば、緯度及び経度)を取得する。すなわち、測位部14は、端末装置10の位置を測位する。なお、GPSは、GNSS(Global Navigation Satellite System)の一例に過ぎない。
【0065】
また、測位部14は、GPS以外にも、種々の手法により位置を測位することができる。例えば、測位部14は、位置補正等のための補助的な測位手段として、下記のように、端末装置10の様々な通信機能を利用して位置を測位してもよい。
【0066】
(Wi-Fi測位)
例えば、測位部14は、端末装置10のWi-Fi(登録商標)通信機能や、各通信会社が備える通信網を利用して、端末装置10の位置を測位する。具体的には、測位部14は、Wi-Fi通信等を行い、付近の基地局やアクセスポイントとの距離を測位することにより、端末装置10の位置を測位する。
【0067】
(ビーコン測位)
また、測位部14は、端末装置10のBluetooth(登録商標)機能を利用して位置を測位してもよい。例えば、測位部14は、Bluetooth(登録商標)機能によって接続されるビーコン(beacon)発信機と接続することにより、端末装置10の位置を測位する。
【0068】
(地磁気測位)
また、測位部14は、予め測定された構造物の地磁気のパターンと、端末装置10が備える地磁気センサとに基づいて、端末装置10の位置を測位する。
【0069】
(RFID測位)
また、例えば、端末装置10が駅改札や店舗等で使用される非接触型ICカードと同等のRFID(Radio Frequency Identification)タグの機能を備えている場合、もしくはRFIDタグを読み取る機能を備えている場合、端末装置10によって決済等が行われた情報とともに、使用された位置が記録される。測位部14は、かかる情報を取得することで、端末装置10の位置を測位してもよい。また、位置は、端末装置10が備える光学式センサや、赤外線センサ等によって測位されてもよい。
【0070】
測位部14は、必要に応じて、上述した測位手段の一つ又は組合せを用いて、端末装置10の位置を測位してもよい。
【0071】
(センサ部20)
センサ部20は、端末装置10に搭載又は接続される各種のセンサを含む。なお、接続は、有線接続、無線接続を問わない。例えば、センサ類は、ウェアラブルデバイスやワイヤレスデバイス等、端末装置10以外の検知装置であってもよい。
図3に示す例では、センサ部20は、加速度センサ21と、ジャイロセンサ22と、気圧センサ23と、気温センサ24と、音センサ25と、光センサ26と、磁気センサ27と、画像センサ(カメラ)28とを備える。
【0072】
なお、上記した各センサ21~28は、あくまでも例示であって限定されるものではない。すなわち、センサ部20は、各センサ21~28のうちの一部を備える構成であってもよいし、各センサ21~28に加えてあるいは代えて、湿度センサ等その他のセンサを備えてもよい。
【0073】
加速度センサ21は、例えば、3軸加速度センサであり、端末装置10の移動方向、速度、及び、加速度等の端末装置10の物理的な動きを検知する。ジャイロセンサ22は、端末装置10の角速度等に基づいて3軸方向の傾き等の端末装置10の物理的な動きを検知する。気圧センサ23は、例えば端末装置10の周囲の気圧を検知する。
【0074】
端末装置10は、上記した加速度センサ21やジャイロセンサ22、気圧センサ23等を備えることから、これらの各センサ21~23等を利用した歩行者自律航法(PDR:Pedestrian Dead-Reckoning)等の技術を用いて端末装置10の位置を測位することが可能になる。これにより、GPS等の測位システムでは取得することが困難な屋内での位置情報を取得することが可能になる。
【0075】
例えば、加速度センサ21を利用した歩数計により、歩数や歩くスピード、歩いた距離を算出することができる。また、ジャイロセンサ22を利用して、利用者Uの進行方向や視線の方向、体の傾きを知ることができる。また、気圧センサ23で検知した気圧から、利用者Uの端末装置10が存在する高度やフロアの階数を知ることもできる。
【0076】
気温センサ24は、例えば端末装置10の周囲の気温を検知する。音センサ25は、例えば端末装置10の周囲の音を検知する。光センサ26は、端末装置10の周囲の照度を検知する。磁気センサ27は、例えば端末装置10の周囲の地磁気を検知する。画像センサ28は、端末装置10の周囲の画像を撮像する。
【0077】
上記した気圧センサ23、気温センサ24、音センサ25、光センサ26及び画像センサ28は、それぞれ気圧、気温、音、照度を検知したり、周囲の画像を撮像したりすることで、端末装置10の周囲の環境や状況等を検知することができる。また、端末装置10の周囲の環境や状況等から、端末装置10の位置情報の精度を向上させることが可能になる。
【0078】
(制御部30)
制御部30は、例えば、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM、入出力ポート等を有するマイクロコンピュータや各種の回路を含む。また、制御部30は、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等の集積回路等のハードウェアで構成されてもよい。制御部30は、送信部31と、受信部32と、処理部33とを有する。
【0079】
(送信部31)
送信部31は、例えば入力部13を用いて利用者Uにより入力された各種情報や、端末装置10に搭載又は接続された各センサ21~28によって検知された各種情報、測位部14によって測位された端末装置10の位置情報等を、通信部11を介してサーバ装置100へ送信することができる。
【0080】
(受信部32)
受信部32は、通信部11を介して、サーバ装置100から提供される各種情報や、サーバ装置100からの各種情報の要求を受信することができる。
【0081】
(処理部33)
処理部33は、表示部12等を含め、端末装置10全体を制御する。例えば、処理部33は、送信部31によって送信される各種情報や、受信部32によって受信されたサーバ装置100からの各種情報を表示部12へ出力して表示させることができる。
【0082】
また、処理部33は、取得部33Aと、設定部33Bと、推定部33Cと、特定部33Dと、生成部33Eと、変換部33Fと、表示制御部33Gとを有する。
【0083】
(取得部33A)
取得部33Aは、メガネ型ウェアラブルデバイスの視界画像を取得する。例えば、取得部33Aは、メガネ型ウェアラブルデバイスのカメラ機能で撮影された視野画像を取得する。
【0084】
(設定部33B)
設定部33Bは、利用者U(ユーザ)が許容できない対象物OBJの設定を受け付ける。また、設定部33Bは、対象物OBJに対する利用者Uの許容度に関する設定を受け付ける。また、設定部33Bは、対象物OBJを抽象化する際の抽象度に関する設定を受け付ける。
【0085】
また、設定部33Bは、利用者Uに対象物OBJの好みの度合いを問合せ、利用者Uから対象物OBJの好みの度合いの問合せに対する回答を受け付ける。さらに、設定部33Bは、利用者Uに変換後の抽象化コンテンツABSの好みの度合いを問合せ、利用者Uから変換後の抽象化コンテンツABSの好みの度合いの問合せに対する回答を受け付ける。そして、設定部33Bは、それぞれの回答に応じて、対象物OBJを抽象化する際の抽象度を変化させる。
【0086】
(推定部33C)
推定部33Cは、利用者Uの属性情報を始め、各種情報(利用者情報、履歴情報等)から、利用者Uが許容できない対象物OBJを推定する。また、推定部33Cは、利用者Uの属性情報を始め、各種情報(利用者情報、履歴情報等)から、対象物OBJに対する利用者Uの許容度を推定する。また、推定部33Cは、利用者Uの属性情報を始め、各種情報(利用者情報、履歴情報等)から、対象物OBJを抽象化する際の抽象度を推定する。
【0087】
(特定部33D)
特定部33Dは、メガネ型ウェアラブルデバイスの視界画像の中から、利用者Uが許容できない対象物OBJを特定して抽出する。
【0088】
(生成部33E)
生成部33Eは、対象物OBJから抽象化コンテンツABSを自動的に生成する。例えば、生成部33Eは、対象物OBJに対する利用者Uの許容度に関する設定に応じて、対象物OBJから抽象化コンテンツABSを自動的に生成する。また、生成部33Eは、対象物OBJを抽象化する際の抽象度に関する設定に応じて、対象物OBJから抽象化コンテンツABSを自動的に生成する。
【0089】
(変換部33F)
変換部33Fは、対象物OBJを利用者Uが許容可能な抽象化コンテンツABSに変換する。例えば、変換部33Fは、許容度が設定されている場合、対象物OBJを、許容度に応じて選択又は生成された抽象化コンテンツABSに変換する。また、変換部33Fは、抽象度が設定されている場合、対象物OBJを、抽象度に応じて選択又は生成された抽象化コンテンツABSに変換する。
【0090】
(表示制御部33G)
表示制御部33Gは、メガネ型ウェアラブルデバイスの視界画像内の対象物OBJの位置に抽象化コンテンツABSを重畳して表示する。
【0091】
このとき、表示制御部33Gは、利用者Uの許容度及び抽象度に関する設定に応じて、抽象化コンテンツABSの表示態様についても自動的に決定してもよい。
【0092】
(記憶部40)
記憶部40は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、又は、HDD(Hard Disk Drive)、SSD(Solid State Drive)、光ディスク等の記憶装置によって実現される。かかる記憶部40には、各種プログラムや各種データ等が記憶される。
【0093】
例えば、記憶部40は、対象物OBJと抽象化コンテンツABSとの組を記憶する。また、記憶部40は、許容度や抽象度など、各種の設定を記憶する。
図4に示すように、記憶部40は、抽象化情報データベース40Aを有する。
【0094】
(抽象化情報データベース40A)
抽象化情報データベース40Aは、所定の対象物の抽象化に関する各種情報を記憶する。
図4は、抽象化情報データベース40Aの一例を示す図である。
図4に示した例では、抽象化情報データベース40Aは、「対象物」、「許容度」、「抽象度」、「抽象化コンテンツ」、「表示態様」といった項目を有する。
【0095】
「対象物」は、所定の対象物OBJを識別するための識別情報を示す。また、「許容度」は、所定の対象物OBJに対する利用者Uの許容度を示す。また、「抽象度」は、対象物OBJを抽象化する際の抽象度を示す。また、「抽象化コンテンツ」は、所定の対象物OBJを抽象化した抽象化コンテンツABS(抽象化アイコン等)を識別するための識別情報、又は抽象化コンテンツABS自体(画像データ等)を示す。また、「表示態様」は、ARゴーグル200の視野画像内での抽象化コンテンツABSの表示態様を示す。
【0096】
例えば、
図4に示す例において、対象物「OBJ#1」により識別される所定の対象物OBJは、「許容度#1」及び「抽象度#1」に応じて、所定の対象物OBJを抽象化した抽象化コンテンツ「ABS#1」に変換され、ARゴーグル200の視野画像内で「表示態様#1」に従って表示されることを示す。
【0097】
ここで、
図4に示す例では、「OBJ#1」、「許容度#1」、「抽象度#1」、「ABS#1」及び「表示態様#1」といった抽象的な値を用いて図示するが、「OBJ#1」、「許容度#1」、「抽象度#1」、「ABS#1」及び「表示態様#1」には、具体的な文字列や数値等の情報が記憶されるものとする。
【0098】
なお、抽象化情報データベース40Aは、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、抽象化情報データベース40Aは、所定の対象物OBJのカテゴリ(分類)に関する情報を記憶してもよい。また、抽象化情報データベース40Aは、所定の対象物OBJを抽象化する際のコンテキスト(context)に関する情報を記憶してもよい。また、抽象化情報データベース40Aは、ARゴーグル200の視野画像内における所定の対象物OBJの位置、大きさ及び距離に関する情報を記憶してもよい。
【0099】
〔4.サーバ装置の構成例〕
次に、
図5を用いて、実施形態に係るサーバ装置100の構成について説明する。
図5は、実施形態に係るサーバ装置100の構成例を示す図である。
図5に示すように、サーバ装置100は、通信部110と、記憶部120と、制御部130とを備える。
【0100】
(通信部110)
通信部110は、例えば、NIC(Network Interface Card)等によって実現される。また、通信部110は、ネットワークN(
図2参照)と有線又は無線で接続される。
【0101】
(記憶部120)
記憶部120は、例えば、RAM(Random Access Memory)、フラッシュメモリ(Flash Memory)等の半導体メモリ素子、又は、HDD、SSD、光ディスク等の記憶装置によって実現される。
図5に示すように、記憶部120は、利用者情報データベース121と、履歴情報データベース122と、モデル情報データベース123とを有する。
【0102】
(利用者情報データベース121)
利用者情報データベース121は、利用者Uに関する利用者情報を記憶する。例えば、利用者情報データベース121は、利用者Uの属性等の種々の情報を記憶する。
図6は、利用者情報データベース121の一例を示す図である。
図6に示した例では、利用者情報データベース121は、「利用者ID(Identifier)」、「年齢」、「性別」、「自宅」、「勤務地」、「興味」といった項目を有する。
【0103】
「利用者ID」は、利用者Uを識別するための識別情報を示す。なお、「利用者ID」は、利用者Uの連絡先(電話番号、メールアドレス等)であってもよいし、利用者Uの端末装置10を識別するための識別情報であってもよい。
【0104】
また、「年齢」は、利用者IDにより識別される利用者Uの年齢を示す。なお、「年齢」は、利用者Uの具体的な年齢(例えば35歳など)を示す情報であってもよいし、利用者Uの年代(例えば30代など)を示す情報であってもよい。あるいは、「年齢」は、利用者Uの生年月日を示す情報であってもよいし、利用者Uの世代(例えば80年代生まれなど)を示す情報であってもよい。また、「性別」は、利用者IDにより識別される利用者Uの性別を示す。
【0105】
また、「自宅」は、利用者IDにより識別される利用者Uの自宅の位置情報を示す。なお、
図6に示す例では、「自宅」は、「LC11」といった抽象的な符号を図示するが、緯度経度情報等であってもよい。また、例えば、「自宅」は、地域名や住所であってもよい。
【0106】
また、「勤務地」は、利用者IDにより識別される利用者Uの勤務地(学生の場合は学校)の位置情報を示す。なお、
図6に示す例では、「勤務地」は、「LC12」といった抽象的な符号を図示するが、緯度経度情報等であってもよい。また、例えば、「勤務地」は、地域名や住所であってもよい。
【0107】
また、「興味」は、利用者IDにより識別される利用者Uの興味を示す。すなわち、「興味」は、利用者IDにより識別される利用者Uが関心の高い対象を示す。例えば、「興味」は、利用者Uが検索エンジンに入力して検索した検索クエリ(キーワード)等であってもよい。なお、
図6に示す例では、「興味」は、各利用者Uに1つずつ図示するが、複数であってもよい。
【0108】
例えば、
図6に示す例において、利用者ID「U1」により識別される利用者Uの年齢は、「20代」であり、性別は、「男性」であることを示す。また、例えば、利用者ID「U1」により識別される利用者Uは、自宅が「LC11」であることを示す。また、例えば、利用者ID「U1」により識別される利用者Uは、勤務地が「LC12」であることを示す。また、例えば、利用者ID「U1」により識別される利用者Uは、「スポーツ」に興味があることを示す。
【0109】
ここで、
図6に示す例では、「U1」、「LC11」及び「LC12」といった抽象的な値を用いて図示するが、「U1」、「LC11」及び「LC12」には、具体的な文字列や数値等の情報が記憶されるものとする。以下、他の情報に関する図においても、抽象的な値を図示する場合がある。
【0110】
なお、利用者情報データベース121は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、利用者情報データベース121は、利用者Uの端末装置10に関する各種情報を記憶してもよい。また、利用者情報データベース121は、利用者Uのデモグラフィック(人口統計学的属性)、サイコグラフィック(心理学的属性)、ジオグラフィック(地理学的属性)、ベヘイビオラル(行動学的属性)等の属性に関する情報を記憶してもよい。例えば、利用者情報データベース121は、氏名、家族構成、出身地(地元)、職業、職位、収入、資格、居住形態(戸建、マンション等)、車の有無、通学・通勤時間、通学・通勤経路、定期券区間(駅、路線等)、利用頻度の高い駅(自宅・勤務地の最寄駅以外)、習い事(場所、時間帯等)、趣味、興味、ライフスタイル等の情報を記憶してもよい。
【0111】
(履歴情報データベース122)
履歴情報データベース122は、利用者Uの行動を示す履歴情報(ログデータ)に関する各種情報を記憶する。
図7は、履歴情報データベース122の一例を示す図である。
図7に示した例では、履歴情報データベース122は、「利用者ID」、「位置履歴」、「検索履歴」、「閲覧履歴」、「購入履歴」、「投稿履歴」といった項目を有する。
【0112】
「利用者ID」は、利用者Uを識別するための識別情報を示す。また、「位置履歴」は、利用者Uの位置や移動の履歴である位置履歴を示す。また、「検索履歴」は、利用者Uが入力した検索クエリの履歴である検索履歴を示す。また、「閲覧履歴」は、利用者Uが閲覧したコンテンツの履歴である閲覧履歴を示す。また、「購入履歴」は、利用者Uによる購入の履歴である購入履歴を示す。また、「投稿履歴」は、利用者Uによる投稿の履歴である投稿履歴を示す。なお、「投稿履歴」は、利用者Uの所有物に関する質問を含んでいてもよい。
【0113】
例えば、
図7に示す例において、利用者ID「U1」により識別される利用者Uは、「位置履歴#1」の通りに移動し、「検索履歴#1」の通りに検索し、「閲覧履歴#1」の通りにコンテンツを閲覧し、「購入履歴#1」の通りに所定の店舗等で所定の商品等を購入し、「投稿履歴#1」の通りに投稿したことを示す。
【0114】
ここで、
図7に示す例では、「U1」、「位置履歴#1」、「検索履歴#1」、「閲覧履歴#1」、「購入履歴#1」及び「投稿履歴#1」といった抽象的な値を用いて図示するが、「U1」、「位置履歴#1」、「検索履歴#1」、「閲覧履歴#1」、「購入履歴#1」及び「投稿履歴#1」には、具体的な文字列や数値等の情報が記憶されるものとする。
【0115】
なお、履歴情報データベース122は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、履歴情報データベース122は、利用者Uの所定のサービスの利用履歴等を記憶してもよい。また、履歴情報データベース122は、利用者Uの実店舗の来店履歴又は施設の訪問履歴等を記憶してもよい。また、履歴情報データベース122は、利用者Uの端末装置10を用いた決済(電子決済)での決済履歴等を記憶してもよい。
【0116】
(モデル情報データベース123)
モデル情報データベース123は、所定の対象物OBJを抽象化した抽象化コンテンツABSを推定する推定モデルに関する各種情報を記憶する。
図8は、モデル情報データベース123の一例を示す図である。
図8に示した例では、モデル情報データベース123は、「ユーザ属性」、「モデル」、「対象物」、「許容度」、「抽象度」、「中所化コンテンツ」、「表示態様」といった項目を有する。
【0117】
「ユーザ属性」は、利用者Uのユーザ属性(ユーザセグメント、ユーザペルソナでも可)を示す。また、「モデル」は、ユーザ属性ごとに、所定の対象物OBJを抽象化した抽象化コンテンツABSを推定する推定モデルを識別するための識別情報、又は推定モデル自体を示す。また、「対象物」は、所定の対象物OBJを識別するための識別情報を示す。また、「許容度」は、所定の対象物OBJに対する利用者Uの許容度を示す。また、「抽象度」は、対象物OBJを抽象化する際の抽象度を示す。また、「抽象化コンテンツ」は、所定の対象物OBJを抽象化した抽象化コンテンツABS(抽象化アイコン等)を識別するための識別情報、又は抽象化コンテンツABS自体(画像データ等)を示す。また、「表示態様」は、ARゴーグル200の視野画像内での抽象化コンテンツABSの表示態様を示す。
【0118】
例えば、
図8に示す例において、ユーザ属性「属性#A」を有する利用者Uには、推定モデル「モデル#A」が提供され、この推定モデル「モデル#A」に対し、対象物「OBJ#A1」により識別される所定の対象物OBJを入力すると、「許容度#A1」、「抽象度#A1」、抽象化コンテンツ「ABS#A1」及び「表示態様#A1」が出力されることを示す。
【0119】
ここで、
図8に示す例では、「属性#A」、「モデル#A」、「OBJ#A1」、「許容度#A1」、「抽象度#A1」、「ABS#A1」及び「表示態様#A1」といった抽象的な値を用いて図示するが、「属性#A」、「モデル#A」、「OBJ#A1」、「許容度#A1」、「抽象度#A1」、「ABS#A1」及び「表示態様#A1」には、具体的な文字列や数値等の情報が記憶されるものとする。
【0120】
なお、モデル情報データベース123は、上記に限らず、目的に応じて種々の情報を記憶してもよい。例えば、モデル情報データベース123は、利用者Uのユーザ属性ではなく、個々の利用者Uを識別するための識別情報を記憶してもよい。すなわち、推定モデルは、ユーザ属性ごとに限らず、個々のユーザごとに用意されていてもよい。例えば、モデル情報データベース123は、ユーザごとにカスタマイズされた推定モデルを記憶してもよい。また、モデル情報データベース123は、所定の対象物OBJのカテゴリ(分類)に関する情報を記憶してもよい。また、モデル情報データベース123は、所定の対象物OBJを抽象化する際のコンテキスト(context)に関する情報を記憶してもよい。
【0121】
(制御部130)
図5に戻り、説明を続ける。制御部130は、コントローラ(Controller)であり、例えば、CPU(Central Processing Unit)、MPU(Micro Processing Unit)、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等によって、サーバ装置100の内部の記憶装置に記憶されている各種プログラム(情報処理プログラムの一例に相当)がRAM等の記憶領域を作業領域として実行されることにより実現される。
図5に示す例では、制御部130は、取得部131と、判定部132と、学習部133と、提供部134とを有する。
【0122】
(取得部131)
取得部131は、利用者Uにより入力された検索クエリを取得する。例えば、取得部131は、利用者Uが検索エンジン等に検索クエリを入力してキーワード検索を行った際に、通信部110を介して、当該検索クエリを取得する。すなわち、取得部131は、通信部110を介して、利用者Uにより検索エンジンやサイト又はアプリの検索窓に入力されたキーワードを取得する。
【0123】
また、取得部131は、通信部110を介して、利用者Uに関する利用者情報を取得する。例えば、取得部131は、利用者Uの端末装置10から、利用者Uを示す識別情報(利用者ID等)や、利用者Uの位置情報、利用者Uの属性情報等を取得する。また、取得部131は、利用者Uのユーザ登録時に、利用者Uを示す識別情報や、利用者Uの属性情報等を取得してもよい。そして、取得部131は、利用者情報を、記憶部120の利用者情報データベース121に登録する。
【0124】
また、取得部131は、通信部110を介して、利用者Uの行動を示す各種の履歴情報(ログデータ)を取得する。例えば、取得部131は、利用者Uの端末装置10から、あるいは利用者ID等に基づいて各種サーバ等から、利用者Uの行動を示す各種の履歴情報を取得する。そして、取得部131は、各種の履歴情報を、記憶部120の履歴情報データベース122に登録する。
【0125】
また、取得部131は、通信部110を介して、利用者Uの端末装置10から、利用者U(又は利用者Uのユーザ属性)と所定の対象物OBJと許容度と抽象度と抽象化コンテンツABSと表示態様との組を取得してもよい。なお、取得部131は、取得された上記情報を、記憶部120のモデル情報データベース123に登録してもよい。
【0126】
また、取得部131は、連合学習(Federated Learning)により、データを集約せずに分散した状態で機械学習を行う場合、通信部110を介して、利用者Uの端末装置10から、学習結果(差分データや特徴量)を取得してもよい。
【0127】
(判定部132)
判定部132は、利用者Uを示す識別情報(利用者ID等)から、利用者Uのユーザ属性(ユーザセグメント、ユーザペルソナでも可)を判定する。例えば、判定部132は、各種サービスに共通の利用者IDに紐づけられた各種情報(利用者情報、履歴情報等)に基づいて、利用者Uのユーザ属性を判定する。
【0128】
(学習部133)
学習部133は、利用者Uのユーザ属性と所定の対象物OBJと許容度と抽象度と抽象化コンテンツABSと表示態様との組を学習データとして機械学習を行い、利用者Uのユーザ属性と所定の対象物OBJとを入力すると、推定結果として許容度と抽象度と抽象化コンテンツABSと表示態様とを出力する推定モデルを生成/更新する。そして、学習部133は、生成/更新された推定モデルを、記憶部120のモデル情報データベース123に登録する。
【0129】
なお、実際には、学習部133は、利用者Uのユーザ属性と所定の対象物OBJと許容度と抽象度とを入力すると、推定結果として抽象化コンテンツABSと表示態様とを出力する推定モデルを生成/更新してもよい。すなわち、入力データと出力データの組合せについては任意である。
【0130】
また、学習部133は、連合学習により、利用者Uの端末装置10から取得した学習結果を統合し、推定モデルを生成/更新してもよい。
【0131】
(提供部134)
提供部134は、生成/更新された推定モデルを、対象となるユーザ属性を有する利用者Uに提供する。すなわち、提供部134は、通信部110を介して、ユーザ属性に応じた利用者Uの端末装置10に、生成/更新された推定モデルを配信(配布)する。
【0132】
また、提供部134は、通信部110を介して、利用者Uの端末装置10に代わり、生成/更新された推定モデルを用いて、所定の対象物OBJに対応する抽象化コンテンツABSを推定し、推定された抽象化コンテンツABSを利用者Uの端末装置10に提供してもよい。
【0133】
また、提供部134は、連合学習により、データを集約せずに分散した状態で機械学習を行う場合、通信部110を介して、生成/更新された推定モデル自体に限らず、サーバ装置100側の共有モデル/統合モデルの修正点に関する情報を利用者Uの端末装置10に提供してもよい。
【0134】
〔5.処理手順〕
次に、
図9を用いて実施形態に係る端末装置10による処理手順について説明する。
図9は、実施形態に係る処理手順を示すフローチャートである。なお、以下に示す処理手順は、端末装置10の制御部30によって繰り返し実行される。
【0135】
例えば、
図9に示すように、端末装置10の設定部33Bは、利用者U(ユーザ)が許容できない対象物OBJ、対象物OBJに対する利用者Uの許容度、及び対象物OBJを抽象化する際の抽象度に関する設定を受け付ける(ステップS101)。
【0136】
あるいは、端末装置10の推定部33Cは、利用者Uの属性情報を始め、各種情報(利用者情報、履歴情報等)から、利用者Uが許容できない対象物OBJ、対象物OBJに対する利用者Uの許容度、及び対象物OBJを抽象化する際の抽象度を推定してもよい。
【0137】
続いて、端末装置10の取得部33Aは、近距離無線通信機能により、又は通信部11を介して、メガネ型ウェアラブルデバイスであるARゴーグル200のカメラ機能で撮影された視野画像を取得する(ステップS102)。
【0138】
続いて、端末装置10の特定部33Dは、メガネ型ウェアラブルデバイスであるARゴーグル200の視界画像の中から、利用者Uが許容できない対象物OBJを特定して抽出する(ステップS103)。
【0139】
続いて、端末装置10の生成部33Eは、対象物OBJに対する利用者Uの許容度及び抽象度に関する設定に応じて、対象物OBJから抽象化コンテンツABSを自動的に生成する(ステップS104)。
【0140】
このとき、生成部33Eは、後述する推定モデルを用いて、対象物OBJから抽象化コンテンツABSを自動的に生成してもよい。
【0141】
続いて、端末装置10の変換部33Fは、対象物OBJを利用者Uが許容可能な抽象化コンテンツABSに変換する(ステップS105)。
【0142】
続いて、端末装置10の表示制御部33Gは、近距離無線通信機能により、又は通信部11を介して、メガネ型ウェアラブルデバイスであるARゴーグル200の視界画像内の対象物OBJの位置に抽象化コンテンツABSを重畳して表示する(ステップS106)。
【0143】
続いて、端末装置10の送信部31は、通信部11を介して、利用者Uと所定の対象物OBJと許容度と抽象度と抽象化コンテンツABSと表示態様との組に関する情報(学習データ)を、サーバ装置100に送信(提供)する(ステップS107)。
【0144】
続いて、端末装置10の受信部32は、通信部11を介して、サーバ装置100から、応答として、所定の対象物OBJと許容度と抽象度とを入力すると、推定結果として抽象化コンテンツABSと表示態様とを出力する推定モデルを受信する(ステップS108)。
【0145】
続いて、端末装置10の処理部33は、受信した推定モデルを記憶部40に記憶し、生成部33Eが推定モデルを用いて所定の対象物OBJから抽象化コンテンツABSを自動的に生成できるように反映する(ステップS109)。
【0146】
〔6.変形例〕
上述した端末装置10及びサーバ装置100は、上記実施形態以外にも種々の異なる形態にて実施されてよい。そこで、以下では、実施形態の変形例について説明する。
【0147】
上記の実施形態において、利用者Uの端末装置10が実行している処理の一部又は全部は、実際には、ARゴーグル200が実行してもよい。例えば、ARゴーグル200がスタンドアローン(Stand-alone)で(ARゴーグル200単体で)処理を完結してもよい。この場合、ARゴーグル200に、上記の実施形態における端末装置10の機能が備わっているものとする。
【0148】
また、上記の実施形態において、利用者Uの端末装置10が実行している処理の一部又は全部は、実際には、サーバ装置100が実行してもよい。例えば、各利用者Uの端末装置10からサーバ装置100にデータを集約して処理してもよい。この場合、サーバ装置100に、上記の実施形態における端末装置10の機能が備わっているものとする。また、上記の実施形態では、サーバ装置100は端末装置10と連携しているため、利用者Uから見れば、端末装置10の処理をサーバ装置100が実行していても変わりはない。
【0149】
また、実施形態において、サーバ装置100が実行している処理の一部又は全部は、実際には、端末装置10が実行してもよい。例えば、端末装置10は、オンデバイス学習で推定モデルを生成してもよい。すなわち、端末装置10とサーバ装置100とが通信することなく、端末装置10上で処理が完結してもよい。この場合、端末装置10に、上記の実施形態におけるサーバ装置100の機能が備わっているものとする。また、上記の実施形態では、端末装置10はサーバ装置100と連携しているため、利用者Uから見れば、サーバ装置100の処理も端末装置10が実行しているように見える。すなわち、他の観点では、端末装置10は、サーバ装置100を備えているともいえる。
【0150】
また、実施形態において、利用者Uの端末装置10は、所定の対象物として、他のユーザに見せたくないものを設定可能としてもよい。例えば、所定の対象物は、子供に見せたくないものであってもよいし、自社の人間以外に見せたくない社外秘の情報・機密情報であってもよい。この場合、利用者Uは、端末装置10を用いて、自分が許可したユーザ(許可ユーザ)以外の他のユーザには見せたくない所定の対象物を設定する。端末装置10は、許可ユーザ及び当該所定の対象物の設定をサーバ装置100に提供・登録する。サーバ装置100は、当該所定の対象物の設定を、許可ユーザ以外のユーザの端末装置10に反映する。この所定の対象物の設定は、設定した利用者U(及び許可ユーザ)のみ変更可能とし、それ以外のユーザには変更不可としてもよい。例えば、部外者がARゴーグル200をかけて社内見学や工場見学等を行う際に、社外秘の対象物や守秘義務のある対象物については利用者Uが設定した許容度や抽象度に応じて抽象化して表示するようにしてもよい。
【0151】
〔7.効果〕
上述してきたように、本願に係る情報処理装置(端末装置10、サーバ装置100又はARゴーグル200)は、メガネ型ウェアラブルデバイスの視界画像を取得する取得部33Aと、視界画像の中から利用者Uが許容できない対象物OBJを特定する特定部33Dと、対象物OBJを利用者Uが許容可能な抽象化コンテンツABSに変換する変換部33Fと、メガネ型ウェアラブルデバイスの視界画像内の対象物OBJの位置に抽象化コンテンツABSを重畳して表示する表示制御部33Gとを備える。
【0152】
本願に係る情報処理装置は、利用者U(ユーザ)が許容できない対象物OBJの設定を受け付ける設定部33Bと、対象物OBJと抽象化コンテンツABSとの組を記憶する記憶部とをさらに備える。
【0153】
本願に係る情報処理装置は、利用者Uの属性情報から、利用者Uが許容できない対象物OBJを推定する推定部33Cをさらに備える。変換部33Fは、対象物OBJを利用者Uが許容可能な抽象化コンテンツABSに変換する。
【0154】
本願に係る情報処理装置は、対象物OBJから抽象化コンテンツABSを自動的に生成する生成部33Eをさらに備える。変換部33Fは、対象物OBJを抽象化コンテンツABSに変換する。
【0155】
本願に係る情報処理装置は、対象物OBJに対する利用者Uの許容度に関する設定を受け付ける設定部33Bをさらに備える。変換部33Fは、対象物OBJを許容度に応じた抽象化コンテンツABSに変換する。
【0156】
本願に係る情報処理装置は、利用者Uの属性情報から、対象物OBJに対する利用者Uの許容度を推定する推定部33Cをさらに備える。変換部33Fは、対象物OBJを許容度に応じた抽象化コンテンツABSに変換する。
【0157】
本願に係る情報処理装置は、対象物OBJを抽象化する際の抽象度に関する設定を受け付ける設定部33Bをさらに備える。変換部33Fは、対象物OBJを抽象度に応じた抽象化コンテンツABSに変換する。
【0158】
本願に係る情報処理装置は、利用者Uの属性情報から、対象物OBJを抽象化する際の抽象度を推定する推定部33Cをさらに備える。変換部33Fは、対象物OBJを抽象度に応じた抽象化コンテンツABSに変換する。
【0159】
設定部33Bは、利用者Uに対象物OBJの好みの度合いを問合せ、利用者Uから対象物OBJの好みの度合いの問合せに対する回答を受け付け、さらに、利用者Uに変換後の抽象化コンテンツABSの好みの度合いを問合せ、利用者Uから変換後の抽象化コンテンツABSの好みの度合いの問合せに対する回答を受け付け、それぞれの回答に応じて、対象物OBJを抽象化する際の抽象度を変化させる。変換部33Fは、対象物OBJを抽象度に応じた抽象化コンテンツABSに変換する。
【0160】
上述した各処理のいずれかもしくは組合せにより、本願に係る情報処理装置は、メガネ型ウェアラブルデバイスの視野画像において、ユーザが見たくないものを抽象化することができる。
【0161】
〔8.ハードウェア構成〕
また、上述した実施形態に係る端末装置10やサーバ装置100は、例えば
図10に示すような構成のコンピュータ1000によって実現される。以下、端末装置10を例に挙げて説明する。
図10は、ハードウェア構成の一例を示す図である。コンピュータ1000は、出力装置1010、入力装置1020と接続され、演算装置1030、一次記憶装置1040、二次記憶装置1050、出力I/F(Interface)1060、入力I/F1070、ネットワークI/F1080がバス1090により接続された形態を有する。
【0162】
演算装置1030は、一次記憶装置1040や二次記憶装置1050に格納されたプログラムや入力装置1020から読み出したプログラム等に基づいて動作し、各種の処理を実行する。演算装置1030は、例えばCPU(Central Processing Unit)、MPU(Micro Processing Unit)、ASIC(Application Specific Integrated Circuit)やFPGA(Field Programmable Gate Array)等により実現される。
【0163】
一次記憶装置1040は、RAM(Random Access Memory)等、演算装置1030が各種の演算に用いるデータを一次的に記憶するメモリ装置である。また、二次記憶装置1050は、演算装置1030が各種の演算に用いるデータや、各種のデータベースが登録される記憶装置であり、ROM(Read Only Memory)、HDD(Hard Disk Drive)、SSD(Solid State Drive)、フラッシュメモリ等により実現される。二次記憶装置1050は、内蔵ストレージであってもよいし、外付けストレージであってもよい。また、二次記憶装置1050は、USB(Universal Serial Bus)メモリやSD(Secure Digital)メモリカード等の取り外し可能な記憶媒体であってもよい。また、二次記憶装置1050は、クラウドストレージ(オンラインストレージ)やNAS(Network Attached Storage)、ファイルサーバ等であってもよい。
【0164】
出力I/F1060は、ディスプレイ、プロジェクタ、及びプリンタ等といった各種の情報を出力する出力装置1010に対し、出力対象となる情報を送信するためのインターフェースであり、例えば、USB(Universal Serial Bus)やDVI(Digital Visual Interface)、HDMI(登録商標)(High Definition Multimedia Interface)といった規格のコネクタにより実現される。また、入力I/F1070は、マウス、キーボード、キーパッド、ボタン、及びスキャナ等といった各種の入力装置1020から情報を受信するためのインターフェースであり、例えば、USB等により実現される。
【0165】
また、出力I/F1060及び入力I/F1070はそれぞれ出力装置1010及び入力装置1020と無線で接続してもよい。すなわち、出力装置1010及び入力装置1020は、ワイヤレス機器であってもよい。
【0166】
また、出力装置1010及び入力装置1020は、タッチパネルのように一体化していてもよい。この場合、出力I/F1060及び入力I/F1070も、入出力I/Fとして一体化していてもよい。
【0167】
なお、入力装置1020は、例えば、CD(Compact Disc)、DVD(Digital Versatile Disc)、PD(Phase change rewritable Disk)等の光学記録媒体、MO(Magneto-Optical disk)等の光磁気記録媒体、テープ媒体、磁気記録媒体、又は半導体メモリ等から情報を読み出す装置であってもよい。
【0168】
ネットワークI/F1080は、ネットワークNを介して他の機器からデータを受信して演算装置1030へ送り、また、ネットワークNを介して演算装置1030が生成したデータを他の機器へ送信する。
【0169】
演算装置1030は、出力I/F1060や入力I/F1070を介して、出力装置1010や入力装置1020の制御を行う。例えば、演算装置1030は、入力装置1020や二次記憶装置1050からプログラムを一次記憶装置1040上にロードし、ロードしたプログラムを実行する。
【0170】
例えば、コンピュータ1000が端末装置10として機能する場合、コンピュータ1000の演算装置1030は、一次記憶装置1040上にロードされたプログラムを実行することにより、制御部30の機能を実現する。また、コンピュータ1000の演算装置1030は、ネットワークI/F1080を介して他の機器から取得したプログラムを一次記憶装置1040上にロードし、ロードしたプログラムを実行してもよい。また、コンピュータ1000の演算装置1030は、ネットワークI/F1080を介して他の機器と連携し、プログラムの機能やデータ等を他の機器の他のプログラムから呼び出して利用してもよい。
【0171】
〔9.その他〕
以上、本願の実施形態を説明したが、これら実施形態の内容により本発明が限定されるものではない。また、前述した構成要素には、当業者が容易に想定できるもの、実質的に同一のもの、いわゆる均等の範囲のものが含まれる。さらに、前述した構成要素は適宜組み合わせることが可能である。さらに、前述した実施形態の要旨を逸脱しない範囲で構成要素の種々の省略、置換又は変更を行うことができる。
【0172】
また、上記実施形態において説明した各処理のうち、自動的に行われるものとして説明した処理の全部又は一部を手動的に行うこともでき、あるいは、手動的に行われるものとして説明した処理の全部又は一部を公知の方法で自動的に行うこともできる。この他、上記文書中や図面中で示した処理手順、具体的名称、各種のデータやパラメータを含む情報については、特記する場合を除いて任意に変更することができる。例えば、各図に示した各種情報は、図示した情報に限られない。
【0173】
また、図示した各装置の各構成要素は機能概念的なものであり、必ずしも物理的に図示の如く構成されていることを要しない。すなわち、各装置の分散・統合の具体的形態は図示のものに限られず、その全部又は一部を、各種の負荷や使用状況などに応じて、任意の単位で機能的又は物理的に分散・統合して構成することができる。
【0174】
例えば、上述したサーバ装置100は、複数のサーバコンピュータで実現してもよく、また、機能によっては外部のプラットフォーム等をAPI(Application Programming Interface)やネットワークコンピューティング等で呼び出して実現するなど、構成は柔軟に変更できる。
【0175】
また、上述してきた実施形態及び変形例は、処理内容を矛盾させない範囲で適宜組み合わせることが可能である。
【0176】
また、上述してきた「部(section、module、unit)」は、「手段」や「回路」などに読み替えることができる。例えば、取得部は、取得手段や取得回路に読み替えることができる。
【符号の説明】
【0177】
1 情報処理システム
10 端末装置
33 処理部
33A 取得部
33B 設定部
33C 推定部
33D 特定部
33E 生成部
33F 変換部
33G 表示制御部
40 記憶部
40A 抽象化情報データベース
100 サーバ装置
110 通信部
120 記憶部
121 利用者情報データベース
122 履歴情報データベース
123 モデル情報データベース
130 制御部
131 取得部
132 判定部
133 学習部
134 提供部