(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-11
(45)【発行日】2024-03-19
(54)【発明の名称】ユーザの動的状態に応じて物体認識に基づく情報を提示する携帯装置、プログラム及び方法
(51)【国際特許分類】
G06F 3/01 20060101AFI20240312BHJP
G06F 3/04842 20220101ALI20240312BHJP
G06T 7/00 20170101ALI20240312BHJP
【FI】
G06F3/01 510
G06F3/04842
G06T7/00 660A
(21)【出願番号】P 2021156306
(22)【出願日】2021-09-27
【審査請求日】2023-07-14
(73)【特許権者】
【識別番号】000208891
【氏名又は名称】KDDI株式会社
(74)【代理人】
【識別番号】100135068
【氏名又は名称】早原 茂樹
(72)【発明者】
【氏名】呉 剣明
(72)【発明者】
【氏名】小原 朋広
(72)【発明者】
【氏名】川田 亮一
【審査官】槙 俊秋
(56)【参考文献】
【文献】国際公開第2019/003360(WO,A1)
【文献】特開2013-137413(JP,A)
【文献】特開2017-016467(JP,A)
【文献】特開2013-054494(JP,A)
【文献】特開2015-213226(JP,A)
【文献】特開2018-097437(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01-3/04895
G06T 7/00-7/90
(57)【特許請求の範囲】
【請求項1】
ユーザの視界の映像を撮影するカメラ
と、ユーザの視界に提示情報を映し出すシースルー型のディスプレイとを有する
スマートグラスの携帯装置において、
物体ID(識別子)毎に、提示情報を対応付けて予め記憶した提示情報記憶手段と、
映像から物体の画像領域を認識し、当該画像領域のサイズを検出し、当該画像領域から物体IDを特定する物体認識手段と、
当該携帯装置が移動中か否かを検知する移動検知手段と、
停止中の場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択し、移動中の場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する物体ID選択手段と、
選択された物体IDに対応する提示情報を、ユーザに提示する提示手段と
を有することを特徴とする携帯装置。
【請求項2】
物体IDは、個人IDであり、
提示情報は、個人情報であり、
物体認識手段における画像領域は、顔領域である
ことを特徴とする請求項1に記載の携帯装置。
【請求項3】
第1の所定範囲及び第2の所定範囲は、被写体との間の距離に基づくものであり、被写体との間の距離が遠いほど画像領域のサイズが小さくなり、被写体との間の距離が近いほど画像領域のサイズが大きくなる
ことを特徴とする請求項
1又は2に記載の携帯装置。
【請求項4】
移動検知手段は、加速度センサであって、歩行中か否かを検知する
ことを特徴とする請求項1から
3のいずれか1項に記載の携帯装置。
【請求項5】
音声出力するスピーカを更に有し、
提示手段は、文の提示情報を読み上げて、スピーカから音声出力する
ことを特徴とする請求項1から
4のいずれか1項に記載の携帯装置。
【請求項6】
スピーカは、骨伝導スピーカである
ことを特徴とする請求項
5に記載の携帯装置。
【請求項7】
ユーザの視界の映像を撮影するカメラ
と、ユーザの視界に提示情報を映し出すシースルー型のディスプレイとを有する
スマートグラスの携帯装置に搭載されたコンピュータを機能させるプログラムにおいて、
物体ID(識別子)毎に、提示情報を対応付けて予め記憶した提示情報記憶手段と、
映像から物体の画像領域を認識し、当該画像領域のサイズを検出し、当該画像領域から物体IDを特定する物体認識手段と、
当該携帯装置が移動中か否かを検知する移動検知手段と、
停止中の場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択し、移動中の場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する物体ID選択手段と、
選択された物体IDに対応する提示情報を、ユーザに提示する提示手段と
してコンピュータを機能させることを特徴とするプログラム。
【請求項8】
ユーザの視界の映像を撮影するカメラ
と、ユーザの視界に提示情報を映し出すシースルー型のディスプレイとを有する
スマートグラスの携帯装置の情報提示方法において、
携帯装置は、
物体ID(識別子)毎に、提示情報を対応付けて予め記憶しており、
映像から物体の画像領域を認識し、当該画像領域のサイズを検出し、当該画像領域から物体IDを特定する第1のステップと、
当該携帯装置が移動中か否かを検知する第2のステップと、
停止中の場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択し、移動中の場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する第3のステップと、
選択された物体IDに対応する提示情報を、ユーザに提示する第4のステップと
を実行することを特徴とする情報提示方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物体認識に基づく情報をユーザに提示する技術に関する。特に、スマートグラスやスマートフォンに適する。
【背景技術】
【0002】
スマートグラスは、拡張現実(Augmented Reality)ウェアラブルコンピュータとしてのシースルー型の眼鏡である。これは、ユーザ(装着者)の視界前方に装着され、レンズに対する投射型ディスプレイを搭載する。装着者から見ると、非現実空間を表示する仮想現実(Virtual Reality)と異なって、現実空間の視界に重畳的に情報が表示される。
【0003】
近年、高齢者介護施設や医療機関では、被介護者の増加や介護者の人手不足に伴って、介護サービスの質の低下が社会的課題となっている。特に介護者は、被介護者毎に異なる応対をする必要がある。特に、多数の被介護者が入居する施設では、介護者が、被介護者各々の個人情報(例えば介護に必要な症状等の情報)を覚えきれないことは当然である。
【0004】
これに対し、介護者がスマートグラスを装着し、そのレンズに、ハンズフリーで被介護者の個人情報を表示する技術がある(例えば非特許文献1参照)。この技術によれば、スマートグラスのカメラで撮影された被介護者の顔画像から、その被介護者を同定し、その被介護者の個人情報をレンズに直ぐに映し出すことができる。そのために、被介護者は、個人認識用の無線タグやマーカを装着する必要もない。
【0005】
図1は、スマートグラスを通した視界を表す説明図である。
【0006】
例えば介護現場で、介護者がスマートグラス1を装着しているとする。このとき、介護者(装着者)は、スマートグラス1のレンズを通した視界に、被介護者を見ると同時に、レンズに映し出されたその被介護者の「個人情報」を見ることができる。これによって、介護者は、ハンズフリーで被介護者の個人情報を読み取りながら、介護作業を進めることができる。
【先行技術文献】
【非特許文献】
【0007】
【文献】KDDI総合研究所・善光会 ニュースリリース「KDDI総合研究所と善光会、ARメガネを活用したハンズフリー介護作業支援システムを開発」(2021年2月2日)、[online]、[令和3年8月30日検索]、インターネット<URL:https://www.kddi-research.jp/newsrelease/2021/020201.html>
【文献】「内部パラメータ(焦点距離)の単位の話 ~pixelとmmの変換~」、[online]、[令和3年9月17日検索]、インターネット<URL:https://mem-archive.com/2018/02/25/post-201/>
【文献】「画像から3次元データを復元する技術の調査 三次元座標の算出の原理 ~エピポーラ幾何&カメラ姿勢の推定~」、[online]、[令和3年9月17日検索]、インターネット<URL: https://qiita.com/akaiteto/items/f5857c7774794a6e5f5e>
【発明の概要】
【発明が解決しようとする課題】
【0008】
前述した非特許文献1に記載の技術によれば、カメラによって撮影された映像に、複数の対人や対象物が映り込んでいる場合、画像領域のサイズが最も大きい物体画像、又は、正面に映り込む物体画像について、その物体を認識しようとするものである。
これに対し、本願の発明者らは、カメラを搭載した携帯装置の動的状態によっては、映像に映り込む複数の物体の中で、ユーザが注目すべき物体が異なるのではないか、と考えた。即ち、携帯装置の動的状態と連動して、ユーザが注目すべき物体を選択し、その上で、その物体に関連する情報をユーザに表示すべきではないか、と考えた。
【0009】
そこで、本発明は、ユーザの動的状態に応じて物体認識に基づく情報を提示する携帯装置、プログラム及び方法を提供することを目的とする。
【課題を解決するための手段】
【0010】
本発明によれば、ユーザの視界の映像を撮影するカメラと、ユーザの視界に提示情報を映し出すシースルー型のディスプレイとを有するスマートグラスの携帯装置において、
物体ID(識別子)毎に、提示情報を対応付けて予め記憶した提示情報記憶手段と、
映像から物体の画像領域を認識し、当該画像領域のサイズを検出し、当該画像領域から物体IDを特定する物体認識手段と、
当該携帯装置が移動中か否かを検知する移動検知手段と、
停止中の場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択し、移動中の場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する物体ID選択手段と、
選択された物体IDに対応する提示情報を、ユーザに提示する提示手段と
を有することを特徴とする。
【0011】
本発明の携帯装置における他の実施形態によれば、
物体IDは、個人IDであり、
提示情報は、個人情報であり、
物体認識手段における画像領域は、顔領域である
ことも好ましい。
【0013】
本発明の携帯装置における他の実施形態によれば、
第1の所定範囲及び第2の所定範囲は、被写体との間の距離に基づくものであり、被写体との間の距離が遠いほど画像領域のサイズが小さくなり、被写体との間の距離が近いほど画像領域のサイズが大きくなる
ことも好ましい。
【0016】
本発明の携帯装置における他の実施形態によれば、
移動検知手段は、加速度センサであって、歩行中か否かを検知する
ことも好ましい。
【0020】
本発明の携帯装置における他の実施形態によれば、
音声出力するスピーカを更に有し、
提示手段は、文の提示情報を読み上げて、スピーカから音声出力する
ことも好ましい。
【0021】
本発明の携帯装置における他の実施形態によれば、
スピーカは、骨伝導スピーカである
ことも好ましい。
【0022】
本発明によれば、ユーザの視界の映像を撮影するカメラと、ユーザの視界に提示情報を映し出すシースルー型のディスプレイとを有するスマートグラスの携帯装置に搭載されたコンピュータを機能させるプログラムにおいて、
物体ID(識別子)毎に、提示情報を対応付けて予め記憶した提示情報記憶手段と、
映像から物体の画像領域を認識し、当該画像領域のサイズを検出し、当該画像領域から物体IDを特定する物体認識手段と、
当該携帯装置が移動中か否かを検知する移動検知手段と、
停止中の場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択し、移動中の場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する物体ID選択手段と、
選択された物体IDに対応する提示情報を、ユーザに提示する提示手段と
してコンピュータを機能させることを特徴とする。
【0023】
本発明によれば、ユーザの視界の映像を撮影するカメラと、ユーザの視界に提示情報を映し出すシースルー型のディスプレイとを有するスマートグラスの携帯装置の情報提示方法において、
携帯装置は、
物体ID(識別子)毎に、提示情報を対応付けて予め記憶しており、
映像から物体の画像領域を認識し、当該画像領域のサイズを検出し、当該画像領域から物体IDを特定する第1のステップと、
当該携帯装置が移動中か否かを検知する第2のステップと、
停止中の場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択し、移動中の場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する第3のステップと、
選択された物体IDに対応する提示情報を、ユーザに提示する第4のステップと
を実行することを特徴とする。
【発明の効果】
【0024】
本発明の携帯装置、プログラム及び方法によれば、ユーザの動的状態に応じて物体認識に基づく情報を提示することができる。
【図面の簡単な説明】
【0025】
【
図1】スマートグラスを通した視界を表す説明図である。
【
図2】本発明におけるスマートグラスの機能構成図である。
【
図4】停止中にスマートグラスに提示された情報を表す説明図である。
【
図5】移動中にスマートグラスに提示された情報を表す説明図である。
【
図6】移動中にスマートフォンに表示された情報を表す説明図である。
【発明を実施するための形態】
【0026】
以下、本発明の実施の形態について、図面を用いて詳細に説明する。
【0027】
図2は、本発明におけるスマートグラスの機能構成図である。
【0028】
スマートグラス1は、ユーザの視界に装着可能なシースルー型のものである。
図2によれば、スマートグラス1は、ハードウェアとして、レンズに情報を映し出すディスプレイ101と、対人や対象物を撮影するカメラ102と、装着者に音声を出力するスピーカ103とを搭載する。
また、スマートグラス1は、ソフトウェアとして、提示情報記憶部100と、物体認識部11と、移動検知部12と、物体ID選択部13と、提示部14とを有する。これら機能構成部は、スマートグラスに搭載されたコンピュータを機能させるプログラムを実行することによって実現される。
【0029】
[ディスプレイ101]
ディスプレイ101は、スマートグラス1の装着者の視界を通すレンズに、提示情報を映し出すことができる。これによって、装着者は、提示情報を視覚的に認識することができる。提示情報としては、一般的には文字であるが、勿論、画像や映像であってもよい。
【0030】
[カメラ102]
カメラ102は、スマートグラス1と一体的に構成されたものであってもよいし、又は、スマートグラス1の外部に接続されたものであってもよい。カメラ102は、装着者の視界の映像を撮影する。映像には、対人(例えば被介護者)が映り込む場合もあれば、物体(例えば施設設備)が映り込む場合もある。カメラ102は、撮影した映像を常時、物体認識部11へ出力する。
【0031】
[スピーカ103]
スピーカ103は、スマートグラス1の装着者の聴覚へ、音声信号を出力するものである。音声信号は、ディスプレイ101に表示すべき文字を、音声合成して変換したものであってもよい。
また、スピーカ103は、例えば骨伝導スピーカであってもよい。装着者のこめかみに接して振動させることによって、対人に聞こえることなく、装着者に聴覚的に音声を認識させることができる。
【0032】
[提示情報記憶部100]
提示情報記憶部100は、物体ID(識別子)毎に、提示情報を対応付けて予め記憶したものである。
物体IDは、個人IDであり、提示情報は、個人情報であってもよい。例えば介護現場を想定する場合、個人IDは、被介護者毎に付与されたIDであり、提示情報は、その被介護者の介護情報であってもよい。
【0033】
スマートグラス1は、個人ID毎の個人情報を、予め記憶したものであってもよいし(スタンドアロン型)、ネットワークを介してサーバにアクセスしてダウンロードする(サーバ-クライアント型)ものであってもよい。
被介護者の個人情報としては、例えば以下のようなものがある。
(基本情報)
氏名、年齢、介護度、生年月日、部屋番号、ケアプラン、等。
(行動情報)
起床時間、食事(済/未)、水分補給(済/未)、服薬(済/未)、排泄(有/無)、入浴(済/未)、等。
(申し送り情報)
健康状態、体温、血圧(上・下)、脈拍、処置情報、症状、治療情報、未排泄日数、排泄時刻、排泄異常(有/無)、朝/昼/夜食時刻、朝/昼/夜食量、水分補給時刻、水分量、服薬時刻、入浴時刻、入浴異常(有/無)、等。
【0034】
[物体認識部11]
物体認識部11は、カメラ102によって撮影された映像から、対象物を認識する。
物体認識部11は、映像から1つ以上の物体の画像領域を認識し、各画像領域のサイズを検出し、各画像領域から物体IDを特定するものである。物体認識部11は、深層学習に基づく画像分類や顔認識に適用される、一般的な機械学習エンジンである。これは、映像に映り込んでいる特定のクラス(人や物のようなカテゴリ)を認識する。
尚、画像領域は、人の顔画像であり、認識対象は、人の同定であってもよい。
【0035】
物体認識部11は、物体の画像領域を検出する<画像領域検出機能>と、その画像領域の物体を検出する<物体検出機能>とを有する。
【0036】
<画像領域検出機能>
画像領域検出機能は、映像から、対象物の画像領域を検出する。これは、映像フレームの画像から、物体領域(例えばバウンディングボックス)を切り出す。具体的には、R-CNN(Regions with Convolutional Neural Networks)やSSD(Single Shot Multibox Detector)を用いる。
R-CNNは、四角形の物体領域を畳み込みニューラルネットワークの特徴と組み合わせて、物体領域のサブセットを検出する(領域提案)。次に、領域提案からCNN特徴量を抽出する。そして、CNN特徴量を用いて予め学習したサポートベクタマシンによって、領域提案のバウンディングボックスを調整する。
SSDは、機械学習を用いた一般物体検知のアルゴリズムであって、デフォルトボックス(default boxes)という長方形の枠(バウンディングボックス)を決定する。1枚の画像上に、大きさの異なるデフォルトボックスを多数重畳させ、そのボックス毎に予測値を計算する。各デフォルトボックスについて、自身が物体からどのくらい離れていて、どのくらい大きさが異なるのか、とする位置の予測をすることができる。
【0037】
<物体検出機能>
物体検出機能は、画像領域から、対象物を検出する。対象物としては、人体や顔であってもよいし、例えば設備のような物であってもよい。
本発明の実施形態としては、介護現場を想定しているので、物体検出機能は、映像から人の顔領域を認識し、その顔領域から個人IDを特定する。
物体検出機能は、識別すべき実際の個人の顔画像の特徴量を予め蓄積している。例えば、被介護者の顔画像の特徴量を蓄積している。
その上で、物体検出機能は、切り出された画像領域となる顔領域を、顔認識モデルを用いて、128/256/512次元の特徴量(ユークリッド距離)に変換する。顔認識モデルとしては、具体的にはGoogle(登録商標)のFacenet(登録商標)アルゴリズムを用いることもできる。これによって、顔領域から多次元ベクトルの特徴量に変換することができる。
そして、物体認識部11は、個人の顔の特徴量の集合と照合し、最も距離が短い又は所定閾値以下となる特徴量となる個人IDを特定する。
【0038】
物体認識部11は、小型IoTデバイスに実装できるように、学習モデルが軽量化されている。学習済みモデルの中間層特徴の選別(レイヤの削除)と、軽量化アーキテクチャの置換とによって、計算量を大幅に削減している。具体的には、C++Nativeライブラリを用いて、スマートグラスのような小型デバイスであっても、1万人を1秒で識別可能となっている。
【0039】
ここで、対象物が映る画像領域のサイズと、対象物との間の距離との関係について説明する。
対象物を人の顔である場合、顔の横幅は15cm程度であるので、認識された顔の画像領域の横幅のピクセル数から、その人との間の距離を推測することができる(例えば非特許文献2参照)。カメラによっては、例えば10ピクセルが1cmであるとする仮定することもできる。勿論、特定の対象物のサイズを計っておき、その対象物を特定の距離から撮影し、その画像領域のサイズ(ピクセル数)から固定的にサイズと距離との比を算出しておくものであってもよい。
尚、画像領域のピクセル数は、カメラの解像度とは正比例する。そのために、カメラの解像度に応じて、距離に応じた画像領域のピクセル数を決定しておくこともできる。
また、他の実施形態として、特定の対象物のサイズを計ることなく、カメラからの映像の複数の画像を用いて距離を推測する技術もある(例えば非特許文献3参照)。この場合、複数の単眼カメラ画像から、3三次元座標を算出することでき、そのZ軸を、カメラから対象物までの距離として推測することもできる。
【0040】
[移動検知部12]
移動検知部12は、スマートグラス1自体が「移動中」か否かを検知する。デバイスとしては、加速度センサであってもよい。特に、加速度センサによって検知される周期から、移動中か否かとして、「歩行中」か否かを検知するものであってもよい。
また、移動検知部12は、「移動速度」を検知可能なものであってもよい。例えばスマートグラス1自体を測位可能なものであって、単位時間における移動距離から、移動速度を導出するものであってもよい。
【0041】
[物体ID選択部13]
物体ID選択部13は、移動中の有無と、画像領域のサイズとに基づいて、物体IDを選択する。
【0042】
<移動中/停止中と画像領域のサイズとに基づく物体IDの選択>
図3は、物体ID選択部のフローチャートである。
【0043】
(S1)物体ID選択部13は、移動検知部12によって「停止中」と検知された場合、画像領域のサイズが第1の所定範囲以上となる物体IDを選択する。
所定範囲は、被写体との間の距離に基づくものである。被写体との間の距離が遠いほど画像領域のサイズが小さくなり、被写体との間の距離が近いほど画像領域のサイズが大きくなる。
【0044】
図4は、停止中にスマートグラスに提示された情報を表す説明図である。
【0045】
図4によれば、例えば介護現場で、介護者(装着者)は、スマートグラス1を装着した視界に、被介護者「Aさん」と「Bさん」との2人が見えている。また、物体認識部11は、物体検出機能によって顔領域から被介護者「Aさん」と「Bさん」両方の個人IDを既に同定している。
ここで、介護者自身が停止中であるということは、介護者は、近い距離にある対人又は対象物に注目していると想定できる。例えば、介護者は、距離が近い被介護者との間で、対面して会話することが想定される。
【0046】
介護者が停止中であって、物体認識部11によって、画像領域のサイズが第1の所定範囲以上となる物体IDとして、被介護者「Aさん」が認識されたとする。即ち、被介護者「Aさん」との間の距離が近いと判定する。
このとき、スマートグラス1のレンズのディスプレイ101には、被介護者「Aさん」の「個人情報」が映り込むように表示される。個人情報としては、例えば被介護者Aさんの介護に必要な症状などの情報である。
これによって、介護者は、停止中に、比較的近くに位置する被介護者Aさんに対して、適切な声かけをすることができる。
【0047】
(S2)物体ID選択部13は、移動検知部12によって「移動中」と検知された場合、画像領域のサイズが第2の所定範囲以下となる物体IDを選択する。
【0048】
図5は、移動中にスマートグラスに提示された情報を表す説明図である。
【0049】
図5によれば、
図4と同様に、介護者(装着者)は、スマートグラス1を装着した視界に、被介護者「Aさん」と「Bさん」との2人が見えている。また、物体認識部11は、物体検出機能によって顔領域から被介護者「Aさん」と「Bさん」両方の個人IDを既に同定している。
ここで、介護者自身が移動中であるということは、介護者は、遠い距離にある対人又は対象物に注目していると想定できる。例えば距離が近い被介護者からは、直ぐに通り過ぎてしまうことが想定される。
【0050】
介護者が移動中であって、物体認識部11によって、画像領域のサイズが第2の所定範囲以下となる物体IDとして、被介護者「Bさん」が認識されたとする。即ち、被介護者「Bさん」との間の距離が遠いと判定する。
このとき、スマートグラス1のレンズのディスプレイ101には、被介護者「Bさん」の「個人情報」が映り込むように表示される。個人情報としては、例えば被介護者Bさんの介護に必要な症状などの情報である。
これによって、介護者は、移動中に、比較的遠くに位置する被介護者Bさんに近づく前に、予め適切な情報を知っておくことができる。
【0051】
具体的には、画像領域のサイズの第2の所定範囲に応じた距離としては、例えば4m程度とするものであってもよい。勿論、人によって異なるが、人の歩幅は、おおよそ身長×0.45と考えられている。そうすると、身長170cmの人の歩幅は、およそ77cmとなる。即ち、4m程度の距離とは、およそ5歩先を意味する。この場合、装着者は、5歩先よりも遠い距離にある対人に移動しながら近づいていることなるので、その対人の個人情報を予め知らせるようにする。
【0052】
<移動速度と画像領域のサイズとに基づく物体IDの選択>
他の実施形態として、物体ID選択部13は、移動速度と画像領域のサイズとに基づいて、物体IDを選択するものであってもよい。
物体ID選択部13は、移動速度が速いほど、画像領域のサイズが小さい物体IDを選択するように制御する。具体的には、移動速度が速いほど、第2の所定範囲が小さくなるように可変とすることが好ましい。装着者としては、移動速度が速いほど、遠くの距離にある対人や対象物に注目している可能性が高いためである。
【0053】
[提示部14]
提示部14は、選択された物体IDに対応する提示情報を、ユーザに提示する。
提示部14は、物体IDに対応する提示情報を、ディスプレイ101に表示するものであってもよいし、スピーカ103から音声合成によって出力するものであってもよい。
【0054】
提示情報は、提示情報記憶部100に予め記憶されたものであって、文字や画像、映像であってもよい。物体IDが個人IDであって、被介護者を同定するものである場合、提示情報は、その被介護者の個人情報となる。例えば、以下のような個人情報が、提示情報として表示される。
[基本情報]:名前、年齢、要介護度、生年月日、部屋番号
[行動情報]:起床時間、食事有無、水分補給有無、服薬有無
[申し送り]:健康状態、体温、血圧、脈拍、症状、服薬情報、リハビリ情報
【0055】
提示情報が文字である場合、音声合成によって、音声としてスピーカ103から出力することができる。音声合成については、IoT・組み込み向けマイコンボード単体に搭載されるような、軽量な日本語音声読み上げ機能を用いる。
即ち、音声合成に基づく音声は、装着者と対人又は対象物との間の距離に応じて、異なった情報が読み上げられるようになる。即ち、停止中であれば、近い距離の対人等の情報が読み上げられ、移動中であれば、遠い距離の対人等の情報が読み上げられることとなる。
【0056】
図6は、移動中にスマートフォンに表示された情報を表す説明図である。
【0057】
前述した実施形態によれば、本発明の携帯装置は、シースルー型のスマートグラスであるとして説明したが、それに限られず、スマートフォンのような携帯端末であってもよい。スマートフォンの場合、カメラ及び/又はディスプレイが、一体的に構成されている。
【0058】
以上、詳細に説明したように、本発明の携帯装置、プログラム及び方法によれば、ユーザの動的状態に応じて物体認識に基づく情報を提示することができる。
本発明によれば、携帯装置の動的状態と、カメラに映る対人や対象物との間の距離に応じて、ユーザに提示すべき情報を動的に変化させることができる。例えば介護現場の場合、介護者の視界に複数の被介護者が映り込む場合、介護者の動的状態と、被介護者との間の距離とに応じて、介護者に必要と思われる被介護者の個人情報を提示することができる。
【0059】
尚、これにより、例えば「介護現場における介護者が、スマートグラスやスマートフォンを装着することによって、その動的状態に応じて適切な被介護者の個人情報をハンズフリーで認識させることができる」ことから、国連が主導する持続可能な開発目標(SDGs)の目標3「あらゆる年齢のすべての人々の健康的な生活を確保し、福祉を推進する」に貢献することが可能となる。
【0060】
前述した本発明の種々の実施形態について、本発明の技術思想及び見地の範囲の種々の変更、修正及び省略は、当業者によれば容易に行うことができる。前述の説明はあくまで例であって、何ら制約しようとするものではない。本発明は、特許請求の範囲及びその均等物として限定するものにのみ制約される。
【符号の説明】
【0061】
1 スマートグラス
100 提示情報記憶部
101 ディスプレイ
102 カメラ
103 スピーカ
11 物体認識部
12 移動検知部
13 物体ID選択部
14 提示部