IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ オムロン株式会社の特許一覧

特許7388297コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム
<>
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図1
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図2
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図3
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図4
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図5A
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図5B
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図6
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図7
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図8
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図9
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図10
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図11
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図12
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図13
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図14
  • 特許-コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム 図15
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-11-20
(45)【発行日】2023-11-29
(54)【発明の名称】コミュニケーション支援装置、コミュニケーション支援方法、及びプログラム
(51)【国際特許分類】
   G06F 3/01 20060101AFI20231121BHJP
   G06F 3/16 20060101ALI20231121BHJP
【FI】
G06F3/01 510
G06F3/01 560
G06F3/16 690
【請求項の数】 10
(21)【出願番号】P 2020101744
(22)【出願日】2020-06-11
(65)【公開番号】P2021196759
(43)【公開日】2021-12-27
【審査請求日】2023-04-07
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】100101454
【弁理士】
【氏名又は名称】山田 卓二
(74)【代理人】
【識別番号】100189555
【弁理士】
【氏名又は名称】徳山 英浩
(74)【代理人】
【識別番号】100091524
【弁理士】
【氏名又は名称】和田 充夫
(72)【発明者】
【氏名】ラマ・エンドリ
(72)【発明者】
【氏名】山本 和夫
(72)【発明者】
【氏名】籔内 智浩
(72)【発明者】
【氏名】岩本 直人
【審査官】塚田 肇
(56)【参考文献】
【文献】国際公開第2018/066191(WO,A1)
【文献】特開2019-159193(JP,A)
【文献】特開2014-003593(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/16
(57)【特許請求の範囲】
【請求項1】
ユーザの周囲環境を撮像して撮像画像を取得する撮像部と、
前記撮像画像内で予め定められた対象者を検出する対象者検出部と、
前記撮像画像に基づいて、前記対象者と前記撮像部との距離を測定する距離測定部と、
前記撮像画像に基づいて、前記対象者の表情を特定する表情特定部と、
前記撮像画像に基づいて、前記対象者の動作を特定する動作特定部と、
音声出力部とを備え、
前記音声出力部は、
前記距離測定部によって測定された前記距離が第1閾値以下の交流距離である場合、前記対象者を識別するための識別情報を、音声により前記ユーザに報知し、
前記距離測定部によって測定された前記距離が前記第1閾値より大きい場合、前記表情特定部によって特定された表情に関する表情情報及び前記動作特定部によって特定された動作に関する動作情報のうちの少なくとも1つと、前記識別情報とを、音声により前記ユーザに報知する、
コミュニケーション支援装置。
【請求項2】
前記撮像部は、前記ユーザの周囲環境を時系列で撮像して複数の撮像画像を取得し、
前記コミュニケーション支援装置は、前記対象者検出部によって検出された前記対象者を前記複数の撮像画像において追跡する対象者追跡部を更に備え、
前記音声出力部は、前記対象者検出部が前記対象者を検出したときに、前記識別情報を前記ユーザに報知し、その後前記対象者追跡部が前記対象者を追跡している間は、前記識別情報を前記ユーザに報知しない、
請求項1に記載のコミュニケーション支援装置。
【請求項3】
前記音声出力部は、
前記距離測定部によって測定された前記距離が、前記第1閾値より長くかつ第2閾値以下である知覚距離である場合、前記表情情報及び前記動作情報のうちの1つと、前記識別情報とを前記ユーザに報知し、
前記距離測定部によって測定された前記距離が、前記第2閾値より大きい観察距離である場合、前記表情情報と、前記動作情報と、前記識別情報とを前記ユーザに報知する、
請求項1又は請求項2に記載のコミュニケーション支援装置。
【請求項4】
前記音声出力部は、
前記対象者検出部によって検出された時点における、前記距離測定部によって測定された前記対象者と前記撮像部との距離が前記知覚距離であった場合、前記識別情報を音声により前記ユーザに報知した後に、前記表情情報及び前記動作情報のうちの一方を音声により前記ユーザに報知し、
その後に前記距離測定部によって測定された前記対象者と前記撮像部との距離が前記知覚距離であるときは、前記表情情報及び前記動作情報のうちの他方を音声により前記ユーザに報知する、請求項3に記載のコミュニケーション支援装置。
【請求項5】
前記距離測定部による検出結果を振動により前記ユーザに報知する振動部を更に備え、
前記振動部は、前記距離測定部によって検出された前記対象者と前記撮像部との距離に応じて、振動のパターン及び大きさのうちの少なくとも一方を変更する、請求項1~4のいずれか1項に記載のコミュニケーション支援装置。
【請求項6】
前記撮像部は、前記ユーザの周囲環境を時系列で撮像して複数の撮像画像を取得し、
前記コミュニケーション支援装置は、前記対象者検出部によって検出された前記対象者を前記複数の撮像画像において追跡する対象者追跡部を更に備え、
前記振動部は、振動可能な2つ以上の振動要素を備え、
前記振動部は、
前記対象者追跡部が前記対象者を追跡している場合において、前記距離測定部によって検出された前記対象者と前記撮像部との距離が予め定められたフィードバック距離であるときは、予め定められた順序で各振動要素を順次振動させ、
前記対象者追跡部が、追跡していた前記対象者を追跡できなくなった場合、前記予め定められた順序と異なる順序で各振動要素を順次振動させる、請求項5に記載のコミュニケーション支援装置。
【請求項7】
前記振動要素は、規則的に配列された3つ以上の振動要素であり、
前記振動部は、
前記対象者追跡部が前記対象者を追跡している場合において、前記距離測定部によって検出された前記対象者と前記撮像部との距離が前記フィードバック距離であるときは、配列順に各振動要素を順次振動させ、
前記対象者追跡部が、追跡していた前記対象者を追跡できなくなった場合、前記配列順と逆順に各振動要素を順次振動させる、請求項6に記載のコミュニケーション支援装置。
【請求項8】
前記撮像画像に基づいて、前記撮像部に対する前記対象者の位置を検出する位置検出部を更に備え、
前記振動要素は、右振動要素と、左振動要素とを含み、
前記振動部は、前記位置検出部によって検出された前記撮像部に対する前記対象者の位置が、前記撮像部の光軸より右方にある場合、前記右振動要素を振動させ、前記撮像部の光軸より左方にある場合、前記左振動要素を振動させる、請求項6又は請求項7に記載のコミュニケーション支援装置。
【請求項9】
撮像部が、ユーザの周囲環境を撮像して撮像画像を取得するステップと、
対象者検出部が、前記撮像画像内で予め定められた対象者を検出するステップと、
距離測定部が、前記撮像画像に基づいて、前記対象者と前記撮像部との距離を測定するステップと、
表情特定部が、前記撮像画像に基づいて、前記対象者の表情を特定するステップと、
動作特定部が、前記撮像画像に基づいて、前記対象者の動作を特定するステップと、
音声出力部が、
前記距離測定部によって測定された前記距離が第1閾値以下の交流距離である場合、前記対象者を識別するための識別情報を、音声により前記ユーザに報知し、
前記距離測定部によって測定された前記距離が前記第1閾値より大きい場合、前記表情特定部によって特定された表情に関する表情情報及び前記動作特定部によって特定された動作に関する動作情報のうちの少なくとも1つと、前記識別情報とを、音声により前記ユーザに報知するステップとを含む、
コミュニケーション支援方法。
【請求項10】
請求項9に記載のコミュニケーション支援方法をコンピュータに実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、コミュニケーション支援装置、コミュニケーション支援方法、及びプログラムに関する。
【背景技術】
【0002】
特許文献1は、ウェアラブルイメージセンサによって画像を取得し、画像解析により検出された画像内の人物が誰であるかに応じてアクションを選択するウェアラブルデバイスを開示している。アクションは、人物の識別情報の報知、ナビゲーション等の動作である。
【先行技術文献】
【特許文献】
【0003】
【文献】中国特許出願公開第110084088号明細書
【発明の概要】
【発明が解決しようとする課題】
【0004】
装置がユーザの周囲環境についての情報を得た場合、ユーザに対して与える情報が多ければ多い程、ユーザが他者と円滑にコミュニケーションを取ることができるとは限らない。特にユーザと他者との距離が近い場合、多くの情報をユーザに報知する時間又はユーザが多くの情報を理解する時間は少なく、多くの情報をユーザに伝えていたのでは円滑なコミュニケーションは期待できない。
【0005】
本開示の目的は、ユーザが知人等の対象者と円滑にコミュニケーションを取ることを支援するコミュニケーション支援装置を提供することにある。
【課題を解決するための手段】
【0006】
本開示の一態様に係るコミュニケーション支援装置は、
ユーザの周囲環境を撮像して撮像画像を取得する撮像部と、
前記撮像画像内で予め定められた対象者を検出する対象者検出部と、
前記撮像画像に基づいて、前記対象者と前記撮像部との距離を測定する距離測定部と、
前記撮像画像に基づいて、前記対象者の表情を特定する表情特定部と、
前記撮像画像に基づいて、前記対象者の動作を特定する動作特定部と、
音声出力部とを備え、
前記音声出力部は、
前記距離測定部によって測定された前記距離が第1閾値以下の交流距離である場合、前記対象者を識別するための識別情報を、音声により前記ユーザに報知し、
前記距離測定部によって測定された前記距離が前記第1閾値より大きい場合、前記表情特定部によって特定された表情に関する表情情報及び前記動作特定部によって特定された動作に関する動作情報のうちの少なくとも1つと、前記識別情報とを、音声により前記ユーザに報知する。
【発明の効果】
【0007】
本開示に係るコミュニケーション支援装置は、ユーザが知人等の対象者と円滑なコミュニケーションを取ることを可能にする。
【図面の簡単な説明】
【0008】
図1】本実施形態に係るコミュニケーション支援装置の適用例を示す模式図である。
図2】本実施形態に係るコミュニケーション支援装置の構成例を示すブロック図である。
図3】本実施形態に係るコミュニケーション支援装置の動作例を示すフローチャートである。
図4】空間距離の一例を説明するための模式図である。
図5A図3に示した遠距離フローの詳細な流れを例示するフローチャートである。
図5B図3に示した遠距離フローの詳細な流れを例示するフローチャートである。
図6図5Bに示した表情特定処理ステップの詳細な流れを例示するフローチャートである。
図7図5Bに示した動作特定処理ステップの詳細な流れを例示するフローチャートである。
図8図5Bに示した交流後処理ステップの詳細な流れを例示するフローチャートである。
図9】本実施形態に係るコミュニケーション支援装置の遠距離フローを含む動作の一例を示す模式図である。
図10図3に示した中距離フローの詳細な流れを例示するフローチャートである。
図11】本実施形態に係るコミュニケーション支援装置の中距離フローを含む動作の一例を示す模式図である。
図12図3に示した近距離フローの詳細な流れを例示するフローチャートである。
図13】本実施形態に係るコミュニケーション支援装置の近距離フローを含む動作の一例を示す模式図である。
図14】振動部の構成例を示す図である。
図15】本実施形態に係るコミュニケーション支援装置の出力態様の第1変形例を示す模式図である。
【発明を実施するための形態】
【0009】
以下、添付の図面を参照して本開示に係るコミュニケーション支援装置の実施の形態を説明する。なお、以下の各実施形態において、同様の構成要素については同一の符号を付している。
【0010】
1.適用例
図1は、本実施形態に係るコミュニケーション支援装置100の適用例を示す模式図である。コミュニケーション支援装置100は、例えば視覚障がい者であるユーザ90に対してコミュニケーション支援を行う。視覚障がい者は、知人等の対象者80が接近しても、視覚によりその姿、顔等を知覚することが困難である。したがって、対象者80の氏名、表情、及び動作等を認識することが困難である。そのため、ユーザ90は、対象者80が接近しても、対象者80に対して挨拶をする等の動作をすることができないことがある。
【0011】
そこで、コミュニケーション支援装置100は、例えば、カメラ3により周囲を撮像し、撮像画像を解析して対象者80を検出し、対象者80の氏名等の識別情報、位置、距離、表情、及び動作等の情報を出力してユーザ90に報知する。コミュニケーション支援装置100は、ユーザ90が動作を行っている間(例えば歩行中)及び/又は停止中(動作を行っていない間)に個人認識を実行することができる。
【0012】
コミュニケーション支援装置100は、例えば、ユーザ90のリュックサック70等の荷物に搭載される。あるいは、コミュニケーション支援装置100自体がウェアラブルなものであってもよい。対象者80の位置、及び対象者80とユーザ90との距離についての情報は、振動部2を用いてユーザ90に振動により報知することが可能である。一方、対象者80の氏名等の識別情報、表情、及び動作については、振動により報知することは困難であり、例えば、スピーカ等の音声出力部1を用いてユーザ90に音声により報知する。
【0013】
音声による情報の報知は、情報を読み上げるものであり、ユーザ90への伝達にある程度の時間を要する。したがって、ユーザ90と対象者80との距離が近い場合、コミュニケーション支援装置100が検出した情報をすべて読み上げていたのでは、読み上げている間にユーザ90が対象者80とすれ違ってしまう可能性がある。これでは、ユーザ90は、対象者80と円滑なコミュニケーションを行うことができない。
【0014】
そこで、本開示に係るコミュニケーション支援装置100は、例えば、ユーザ90と対象者80との距離に応じ、音声によりユーザ90に報知する情報を調整する。例えば、コミュニケーション支援装置100は、ユーザ90と対象者80との距離が大きい場合には多くの情報をユーザ90に音声により報知する一方で、ユーザ90と対象者80との距離が小さい場合には、距離が大きい場合に比べて、音声により報知する情報を少なくする。例えば、コミュニケーション支援装置100は、優先順位の低いものから順に、音声によりユーザ90に報知することを省略する。このようにして、コミュニケーション支援装置100は、ユーザ90と対象者80との距離に応じて報知する情報を省き、ユーザ90が対象者80と円滑なコミュニケーションを行うことを支援する。
【0015】
コミュニケーション支援装置100は、目的地までユーザ90を誘導する等の動作を行ってユーザ90の移動を支援するナビゲーションロボットに搭載されてもよい。このようなナビゲーションロボットは、ユーザ90の移動支援に加えて、ユーザ90による円滑なコミュニケーションを支援することができる。このようなナビゲーションロボットは、例えばユーザ90が行きたい場所まで自走して先導することにより、ユーザ90の移動を支援する自走式のロボットであってもよい。あるいは、コミュニケーション支援装置100は、ユーザ90がロボットである場合に適用されてもよい。
【0016】
2.構成例
図2は、本実施形態に係るコミュニケーション支援装置100の構成例を示すブロック図である。コミュニケーション支援装置100は、音声出力部1と、振動部2と、カメラ3と、制御部4と、記憶部5と、通信インタフェース(I/F)6とを備える。
【0017】
カメラ3は、ユーザ90の周囲の環境を撮像して撮像画像を形成する撮像装置である。カメラ3は、例えば所定のフレームレートでユーザ90の周辺を撮影し、逐次、画像データを生成する。カメラ3は、例えば、CMOS(Complementary MOS)、CCD(Charge Coupled Device)等の固体撮像素子によって撮像画像を形成する。カメラ3は、例えば、ユーザ90が装着できるウェアラブルカメラである。例えば、カメラ3は、眼鏡に搭載された眼鏡型カメラであり、ユーザ90の目線の方向を撮像する。カメラ3は、リュックサック、スーツケース等のユーザ90の荷物に搭載されてもよい。
【0018】
制御部4は、CPU(Central Processing Unit)、RAM(Random Access Memory)、ROM(Read Only Memory)等を含み、情報処理に応じてコミュニケーション支援装置100の各構成要素の制御を行う情報処理装置である。制御部4は、構成要素として、例えば、画像取得部41と、対象者検出部42と、対象者追跡部43と、位置検出部44と、距離測定部45と、表情特定部46と、動作特定部47とを含む。制御部4の各構成要素は、制御部4が必要なプログラムを実行することによって、それぞれが担当する処理を実行してもよい。このようなプログラムは、記憶部5に記憶されていてもよい。制御部4が必要なプログラムを実行する際は、記憶部5に記憶された対象となるプログラムをRAMに展開する。制御部4は、RAMに展開された当該プログラムをCPUにより解釈及び実行して、各構成要素を制御する。各構成要素の動作例については後述する。
【0019】
記憶部5は、コンピュータその他の装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的又は化学的作用によって蓄積する媒体である。記憶部5は、例えば、ハードディスクドライブ、ソリッドステートドライブ等の補助記憶装置である。記憶部5は、例えば、顔データベース51、表情データベース52、動作データベース53、及び制御部4が実行するプログラム等を記憶する。記憶部5は、RAM等の主記憶装置を含んでもよい。これらのデータが記憶部5に格納されることは一例に過ぎず、これらのデータは、例えば外部サーバに格納されてもよい。
【0020】
通信インタフェース6は、コミュニケーション支援装置100と外部機器との通信接続を可能とするためのインタフェース回路を含む。通信インタフェース6は、例えば、IEEE802.3、IEEE802.11又はWi-Fi(登録商標)、LTE、3G、4G、5G等の規格に従って通信を行う。通信インタフェース6は、USB(Universal Serial Bus)、HDMI(登録商標)、IEEE1394、Bluetooth(登録商標)等の規格に従って通信を行うインタフェース回路であってもよい。
【0021】
音声出力部1は、例えば制御部4による制御に従って音声を出力する出力装置である。音声出力部1は、例えば、スピーカ、イヤホン、及びヘッドホン等のオーディオ機器を含む。振動部2は、例えば制御部4による制御に従って振動を発生させるバイブレータである。
【0022】
本実施形態では、制御部4の各機能がCPUによって実現される例について説明する。しかしながら、以上の機能の一部又は全部は、1又は複数の専用のプロセッサにより実現されてもよい。また、制御部4の構成要素に関して、実施形態に応じて、適宜、機能の省略、置換及び追加が行われてもよい。制御部4は、CPU、MPU、GPU、マイコン、DSP、FPGA、ASIC等の種々の半導体集積回路で構成されてもよい。
【0023】
3.動作例
3-1.全体フロー
本実施形態に係るコミュニケーション支援装置100は、知人等の対象者の氏名、位置、及び距離等をユーザ90に報知することにより、ユーザ90が当該対象者と円滑なコミュニケーションを取ることを支援する。例えば、コミュニケーション支援装置100は、視覚障がい者であるユーザ90が知人等の対象者と円滑なコミュニケーションを取ることを支援する。以下、コミュニケーション支援装置100の動作例について、図3を参照して説明する。
【0024】
図3は、コミュニケーション支援装置100の動作例を示すフローチャートである。図3に示した処理は、例えば制御部4によって繰り返し実行される。
【0025】
(ステップS1)
まず、画像取得部41は、カメラ3によって撮像された撮像画像を取得する(S1)。例えば、カメラ3は、ユーザ90の周囲環境を時系列で撮像して複数の撮像画像データを生成する。このように、カメラ3は、一定のフレームレートで撮像を行ってもよい。カメラ3は、動画を撮影するものであってもよい。ステップS1においては、画像取得部41は、複数の撮像画像を取得してもよい。画像取得部41は、複数フレームで構成される動画を取得してもよいし、複数枚の静止画像を取得してもよい。
【0026】
(ステップS2)
次に、対象者検出部42は、画像取得部41によって取得された撮像画像を解析し、人を検出する(S2)。ここで、人を検出するとは、撮像画像内において人が写っていると推定される領域を検出することを含む。ステップS2において人を検出しなかった場合(ステップS2でNoの場合)、制御部4は、図3に示したフローを終了する。
【0027】
(ステップS3)
ステップS2において人を検出した場合(ステップS2でYesの場合)、対象者検出部42は、対象者の顔に関する情報が格納された顔データベース51に基づいて、ステップS2において検出された人が知人等の対象者であるか否かを検出する(S3)。ステップS3で実行されるのは、ステップS2で検出された人の顔が対象者の顔に一致又は類似するか否かの同一性識別処理である。対象者は、ユーザ90がコミュニケーションを取りたいと望む相手方又は取り得る相手方であり、例えばユーザ90の知人、著名人等を含む。対象者検出部42が参照する顔に関する情報は、記憶部5に記憶された顔データベース51に限定されない。例えば、対象者検出部42は、通信インタフェース6を介して、ネットワークに接続された外部サーバに格納された顔のデータベースを参照してもよい。検出された人が対象者であると識別した場合(ステップS3でYesの場合)、ステップS4に進み、それ以外の場合(ステップS3でNoの場合)、制御部4は、図3に示したフローを終了する。
【0028】
(ステップS4)
ステップS3において対象者を検出した場合、振動部2は、対象者を検出したことをユーザ90に振動により報知する(S4)。具体的には、振動部2は、第1振動パターンで振動することにより、対象者を検出したことをユーザ90に報知する。このようにして、振動部2は、ユーザ90への注意喚起のために、対象者を検出したことをユーザ90にフィードバックする。振動パターンの詳細については後述する。
【0029】
ステップS4では、ステップS3で検出された対象者が、後述の観察距離、知覚距離、又は交流距離に進入した際に、第1振動パターンで振動することにより、フィードバックを行ってもよい。この意味で、観察距離、知覚距離、及び交流距離等の予め定められた距離を、フィードバックを行うためのフィードバック距離と呼ぶ。すなわち、振動部2は、対象者追跡部43が対象者を追跡している場合において、距離測定部45によって検出された対象者とカメラ3との距離が観察距離、知覚距離、又は交流距離であるときに、第1振動パターンで振動してもよい。
【0030】
(ステップS5)
次に、距離測定部45は、例えばステップS2で検出された情報に基づいて、カメラ3と対象者との空間距離を検出する(S5)。空間距離(spatial distance)は、本開示の「距離」の一例である。カメラ3は、ユーザ90が装着するウェアラブルカメラ、ユーザ90の荷物に搭載されるカメラ等のカメラであるため、カメラ3と対象者との空間距離は、ユーザ90と対象者との空間距離と同程度のものといえる。
【0031】
空間距離は、一般的に、2つの点の間の距離を意味し、これらの点間の経路によって異なり得る。ユーザ90と対象者との空間距離は、例えば、観察距離、知覚距離、交流距離という3つのカテゴリに大別できる。これらの空間距離に対応して、ユーザ90の周囲の空間は、観察スペース(Observation space)、知覚スペース(Perceptual space)、及び交流スペース(Interaction space)に大別できる。図4は、空間距離の一例を説明するための模式図である。
【0032】
観察距離は、例えば、情報を取得するために、人が対象物又は対象者を注意深く観察する距離である。例えば、ユーザ90は、他人が観察距離にいる場合、その他人を観察し、その他人が知り合いであるか否か、及び、その知り合いが誰であるかを識別することができる。観察距離は、例えば、予め定められた第2閾値より長い距離を表す。観察距離は、個人間の空間距離が例えば3.6mより大きい場合に相当する。
【0033】
知覚距離は、例えば、感覚(例えば五感、特に視覚及び聴覚)を通して、他人の動作及び/又は感情を解釈したり、意識したりする距離である。例えばユーザ90は、他人が知覚距離にいる場合、その他人の表情、動作等を観察し、喜び、怒り、及び悲しみ等の感情を認識することができる。また、例えばユーザ90は、他人が知覚距離にいる場合、その他人がユーザ90の方を見ているか否か、電話、タブレット操作等の作業をしているか、及びユーザ90に向かって手を振っているか否か等の動作を認識することができる。知覚距離は、例えば、予め定められた第1閾値より長くかつ第2閾値以下である距離を表す。知覚距離は、個人間の空間距離が例えば1.2mより大きく3.6m以下である場合に相当する。
【0034】
交流距離は、例えば、通常、会話等の他人との相互作用が行われる距離である。交流距離は、例えば、第1閾値以下の距離を表す。交流距離は、個人間の空間距離が例えば1.2m以下である場合に相当する。
【0035】
ここでは、観察距離、知覚距離、交流距離という3つのカテゴリに区別可能な空間距離について例示した。しかしながら、空間距離の概念はこれらに限定されない。例えば、空間距離は、プロクセミス(Proxemics、Hall, E. T., The hidden dimension, New York: Doubleday, 1966)に基づいて、例えば公共スペース、社会スペース、パーソナルスペース等に大別されてもよい。また、空間距離は、人物間の親密度、人物が属する文化、人物の性別等によって異なり得る。
【0036】
(ステップS6~S11)
図3に戻り、制御部4は、ステップS5の測定の結果、カメラ3と対象者との空間距離が観察距離である場合(ステップS6でYesの場合)、ステップS7に進んで遠距離フローを実行する。知覚スペースである場合(ステップS8でYesの場合)、ステップS9に進んで中距離フローを実行する。交流スペースである場合(ステップS10でYesの場合)、ステップS11に進んで近距離フローを実行する。このように、コミュニケーション支援装置100は、ステップS3で対象者を発見した時点におけるカメラ3と対象者との空間距離に応じて、異なる処理を実行する。
【0037】
3-2.遠距離フロー
3-2-1.全体の流れ
図5A及び図5Bは、図3に示した遠距離フロー(S7)の詳細な流れを例示するフローチャートである。図5A及び図5Bは、結合子A及び結合子Bによって結合されている。図5A及び図5Bに示したフローは、リアルタイムに、すなわち画像取得部41が画像を取得する度に実行されてもよい。あるいは、図5A及び図5Bに示したフローは、画像取得部41によって数秒間~数十秒間に取得された複数フレームの撮像画像に対して実行されてもよい。
【0038】
(ステップS701)
まず、音声出力部1は、ステップS3で検出された対象者の氏名を音声によりユーザ90に報知する(S701)。これにより、ユーザ90は、自分の近くにいる対象者の氏名を知ることができ、誰が自分の近くにいるかを識別することができる。対象者の氏名は、本開示における、対象者を識別するための識別情報の一例である。
【0039】
(ステップS702)
次に、振動部2は、対象者との空間距離及び対象者の位置を、ユーザ90に振動により報知する(S702)。具体的には、振動部2は、第2振動パターンで振動することにより、対象者が観察距離にいることと、対象者の位置とを、ユーザ90に報知する。振動パターンの詳細については後述する。空間距離は、図3のステップS5において距離測定部45によって測定されたものである。対象者の位置は、例えば位置検出部44によって検出される。対象者の位置は、例えばカメラ3の光軸を基準として、対象者が右方、正面方向、左方のいずれの方向にいるかによって特定される。さらに、対象者の位置は、例えばカメラ3の光軸を基準として、対象者が上方、下方のいずれの方向にいるかによって特定されてもよい。言い換えれば、対象者の位置は、ユーザ90から見て対象者が上下左右及び正面のどの方向にいるかを特定する指標を表してもよい。
【0040】
(ステップS703)
次に、対象者追跡部43は、図3のステップS3で検出された対象者を追跡する(S703)。具体的には、対象者追跡部43は、参照フレームにおいて検出又は追跡された対象者の画像内の位置に基づいて、参照フレームより後に撮像された現フレームにおいて対象者を追跡する。対象者の追跡は、例えば、参照フレーム内の対象者をテンプレートとして記憶部5に保存し、当該テンプレートを用いて、例えば公知のテンプレートマッチングなどの手法を適用し、現フレームの中を探索することで実現することができる。
【0041】
例えば、対象者追跡部43は、参照フレームにおいて検出又は追跡された対象者と、現フレームにおいて追跡された対象者と、が同一の対象者であることの確からしさを示すマッチングスコアを算出する。マッチングスコアは、例えば0~1の範囲内の値であり、値が大きいほど参照フレームにおいて検出された対象者と、現フレームにおいて検出された対象者と、が同一の対象者である可能性が高いことを意味する。対象者追跡部43は、マッチングスコアが所定の閾値以上である場合、参照フレームにおいて検出された対象者と、現フレームにおいて検出された対象者と、が同一の対象者であると決定し、当該対象者の追跡が成功したものとする。
【0042】
(ステップS704)
対象者追跡部43は、追跡過程において、検出又は追跡されていた対象者が撮像画像内に映っているか否かを判断する(S704)。例えば、対象者追跡部43は、対象者が現フレームに映っているか否かを判断する。対象者が撮像画像内に映っていると判断した場合(ステップS704でYesの場合)、ステップS705に進み、映っていないと判断した場合(ステップS704でNoの場合)、ステップS720に進む。
【0043】
(ステップS705)
距離測定部45は、対象者が知覚距離まで近付いたか否かを判断する(S705)。具体的には、距離測定部45は、図3のステップS5で用いたフレームでは観察距離にいた対象者が、後の時刻に撮像されたフレームにおいて知覚距離にいるか否かを判断する。例えば、距離測定部45は、カメラ3と対象者との距離が3.6mとなった場合、対象者が知覚距離まで近付いたと判断する。対象者が知覚距離まで近付いた場合(ステップS705でYesの場合)、図5BのステップS706に進み、対象者が知覚距離まで近付いていない場合(ステップS705でNoの場合)、ステップS703に戻る。対象者が知覚距離まで近付いていない場合、制御部4は、図5A及び図3の処理を終了してもよい。
【0044】
(ステップS706)
図5Bに示したステップS706では、表情特定部46は、撮像画像に基づいて、対象者の表情を特定する(S706)。表情特定処理ステップS706の詳細については後述する。
【0045】
(ステップS707)
次に、音声出力部1は、ステップS706で表情特定部46によって特定された表情に関する表情情報を、音声によりユーザ90に報知する(S707)。ここで、表情情報は、人の表情そのものを表す情報だけでなく、人が顔にマスク、眼帯、眼鏡、及びサングラス等の装着物又は遮蔽物を装着しているか否かを表す情報をも含んでもよい。例えば、音声出力部1は、「笑顔である」、「怒っている」、「表情が不明である」、「マスクを装着している」等の表情情報をユーザ90に報知する。これにより、ユーザ90は、自分の近くにいる対象者の表情を知ることができ、表情に応じた円滑なコミュニケーションを図ることができる。
【0046】
(ステップS708)
次に、振動部2は、対象者との空間距離及び対象者の位置を、ユーザ90に振動により報知する(S708)。具体的には、振動部2は、第3振動パターンで振動することにより、対象者が知覚距離にいることと、対象者の位置とを、ユーザ90に報知する。振動パターンの詳細については後述する。
【0047】
(ステップS709)
次に、動作特定部47は、撮像画像に基づいて、対象者の動作を特定する(S709)。動作特定処理ステップS709の詳細については後述する。
【0048】
(ステップS710)
次に、音声出力部1は、ステップS709で動作特定部47によって特定された動作に関する動作情報を、音声によりユーザ90に報知する(S710)。例えば、音声出力部1は、「対象者がこちらを見ている」、「対象者が手を振っている」、「対象者が電話をしている」、「対象者が咳をしている」、「対象者の動作が不明である」等の動作情報をユーザ90に報知する。これにより、ユーザ90は、対象者の動作を知ることができ、動作に応じた円滑なコミュニケーションを図ることができる。
【0049】
(ステップS711)
次に、距離測定部45は、対象者が交流距離まで近付いたか否かを判断する(S711)。具体的には、距離測定部45は、図5AのステップS705で用いたフレームでは知覚距離にいた対象者が、後の時刻に撮像されたフレームにおいて交流距離にいるか否かを判断する。例えば、距離測定部45は、カメラ3と対象者との距離が1.2mとなった場合、対象者が交流距離まで近付いたと判断する。対象者が交流距離まで近付いた場合(ステップS711でYesの場合)、ステップS712に進み、対象者が交流距離まで近付いていない場合(ステップS711でNoの場合)、ステップS709に戻る。長時間経過しても対象者が交流距離まで近付かない場合、制御部4は、図5B及び図3の処理を終了してもよい。
【0050】
(ステップS712)
次に、振動部2は、対象者との空間距離及び対象者の位置を、ユーザ90に振動により報知する(S712)。具体的には、振動部2は、第4振動パターンで振動することにより、対象者が交流距離にいることと、対象者の位置とを、ユーザ90に報知する。振動パターンの詳細については後述する。これにより、ユーザ90は、対象者が交流距離にいることを知ることができ、対象者とコミュニケーションを開始することができる。
【0051】
(ステップS713)
ステップS712の次に、例えばユーザ90が対象者とのコミュニケーションを終えた後に、制御部4は、交流後処理を実行する(S713)。例えば、制御部4は、振動部2を制御して、対象者がユーザ90から離れたことを振動により報知する。これにより、ユーザ90は、対象者が去ったことを知ることができ、対象者とのコミュニケーションの前に行っていた、目的地への移動等の行動を再開することができる。
【0052】
(ステップS720)
図5Aに戻り、ステップS704において対象者が撮像画像内に映っていないと判断した場合、制御部4は、対象者が撮像画像内に映っていない期間が予め定められた期間より長いか否かを判断する。予め定められた期間は、例えば1秒~数分、例えば4秒である。期間の代わりに、フレーム数が予め定められてもよい。例えば、制御部4は、対象者が、連続した予め定められた数のフレーム画像内に映っているか否かを判断してもよい。対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合(ステップS720でYesの場合)、ステップS721に進み、予め定められた期間以下である場合(ステップS720でNoの場合)、ステップS703に戻る。
【0053】
(ステップS721)
対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合(ステップS720でYesの場合)、振動部2は、対象者を追跡できなくなった旨を、ユーザ90に振動により報知する(S721)。具体的には、振動部2は、第5振動パターンで振動することにより、対象者を追跡できなくなった旨をユーザ90に報知する。振動パターンの詳細については後述する。これにより、ユーザ90は、対象者を追跡できなくなった旨、又は対象者がユーザ90の周辺から去ったことを知ることができる。ステップS721の後には、制御部4、音声出力部1、振動部2等の構成要素は、ユーザ90に対し、対象者の検出前に行っていた通常動作である目的地へのナビゲーション動作等を再開してもよい。
【0054】
3-2-2.表情特定処理
図6は、図5Bに示した表情特定処理ステップS706の詳細な流れを例示するフローチャートである。
【0055】
(ステップS7061)
まず、表情特定部46は、撮像画像を解析し、対象者の顔を検出する(S7061)。ここで、顔を検出するとは、撮像画像内において人の顔が写っていると推定される領域を検出することを含む。
【0056】
(ステップS7062)
対象者の顔を検出した場合(ステップS7062でYesの場合)、ステップS7063に進む。対象者の顔を検出しなかった場合(ステップS7062でNoの場合)、ステップS7067に進む。
【0057】
(ステップS7063)
対象者の顔を検出した場合(ステップS7062でYesの場合)、表情特定部46は、対象者がマスク、眼帯、眼鏡、サングラス等の遮蔽物を装着しているか否かを検出する(S7063)。対象者が遮蔽物を装着しているために顔を検出できなかった場合があるため、本実施形態では遮蔽物検出処理が採用される。対象者が遮蔽物を装着しているか否かを検出する手法には、例えば、特開2018-151919号公報に開示されている技術が適用される。
【0058】
ステップS7063において対象者が遮蔽物を装着していることを検出した場合(ステップS7064でYesの場合)、表情特定部46は、対象者の表情に関する表情情報につき、遮蔽物を装着した顔であると特定する(S7068)。表情特定部46は、遮蔽物が何であるかを特定してもよい。例えば、ステップS7068において、表情特定部46は、対象者の表情に関する表情情報につき、マスクを装着した顔であると特定してもよい。
【0059】
ステップS7063において対象者が遮蔽物を装着していることを検出しなかった場合(ステップS7064でNoの場合)、表情特定部46は、対象者の顔の表情を識別する(S7065)。例えば、表情特定部46は、人の表情に関する情報が格納された表情データベース52と、撮像画像内の対象者の顔とを比較し、対象者の表情を識別する。
【0060】
表情の識別には、公知の手法が用いられてもよい。例えば、表情特定部46は、対象者の顔の中で、顔の器官(以下、「顔器官」という。)を検出する。顔器官は、組織の集まりであって、特定の機能を有するものを含む。例えば、顔器官は、目、鼻、口、及び耳を含む。顔器官は、皮膚を含んでもよい。顔全体が顔器官に含まれてもよい。表情特定部46は、検出された顔器官の情報に基づいて、表情を識別する。例えば、表情特定部46は、顔器官の情報から、眼、眉、口等の顔の特徴点間の距離、または顔表面のエッジを、表情を表す情報として検出する。
【0061】
例えば、表情特定部46は、顔器官の位置情報に基づき顔器官の相対位置や形状に関わる特徴量を抽出する。特徴量は、例えば、Haar-like特徴量、特徴点間距離、フーリエ記述子を含む。次に、抽出された特徴量が、表情を判別する表情判別器に入力され、表情のスコア(表情成分値)が出力されてもよい。表情のスコアは、例えば、笑顔の度合いを示す笑度、幸福の度合いを示す幸福度等を含む。表情判別器は、例えば、ニューラルネットワーク、自己組織化マップ等の機械学習により多数の顔のサンプル画像を学習して構築される。
【0062】
表情の識別とは、顔表情の種類を判別すること、すなわち認識の対象である顔の表情の種類を感情を示す語によって識別することを含む。ここで、顔表情の識別は、単一の感情を示す語による識別でもよいし、感情を示す語の組み合わせによる識別でもよい。感情を示す語を組み合わせる場合、各感情を示す語が重み付けされていてもよい。例えば、表情は、ポール・エックマン(Paul Ekman)の表情分析をもとに、顔表情を「真顔」、「喜び」、「怒り」、「嫌悪」、「驚き」、「怖れ」、及び「悲しみ」の7種類に分類される。表情の識別結果としては、7種類の表情それぞれの度合い(表情らしさ、表情度とも呼ぶ)を合計が1となるように数値化されたスコアが出力される。各表情のスコアは表情成分値とも呼ばれる。
【0063】
上記の表情判別器は、1つでなくてもよく、上記の7種類の表情をそれぞれ担当する7つの判別器で構成されてもよい。
【0064】
表情を推定する手法には、特開2019-111092号公報、特開2016-149063号公報、特開2014-206903号公報等に例示されている技術が適用されてもよい。
【0065】
(ステップS7066)
表情特定部46は、対象者の表情を、ステップS7065で識別したものに特定する(S7066)。例えば、表情特定部46は、対象者の表情を、「喜び」の表情であると特定する。
【0066】
(ステップS7067)
ステップS7061において対象者の顔を検出しなかった場合(ステップS7062でNoの場合)、表情特定部46は、対象者の表情が「不明である」と特定する(S7067)。表情特定部46は、対象者の表情が、「顔を検出しなかったため不明である」と特定してもよい。ここで、「対象者の顔を検出しなかった場合」とは、1フレームの撮像画像において対象者の顔を検出しなかった場合を含む。また、「対象者の顔を検出しなかった場合」とは、複数フレームの撮像画像に対して顔検出処理を試みたものの、いずれのフレームにおいても対象者の顔を検出しなかった場合を含んでもよい。
【0067】
図6の表情特定処理ステップS706で特定された表情情報は、前述のように、図5Bに示したステップS707においてユーザ90に報知される。例えば、音声出力部1は、「笑顔である」、「怒っている」、「表情が不明である」、「マスクを装着している」等の表情情報をユーザ90に報知する。これにより、ユーザ90は、自分の近くにいる対象者の表情を知ることができ、表情に応じた円滑なコミュニケーションを図ることができる。例えば、ユーザ90は、対象者が怒っている旨の表情情報を報知された場合、対象者に話しかけないという選択をすることができる。
【0068】
また、例えば、ユーザ90は、感染症が流行している状況において、対象者がマスクを装着している旨の表情情報を報知されたときには、対象者から離れる等の動作を行い、対象者との社会距離を確保する動作を行うこと(ソーシャルディスタンシング、social distancing)を選択できる。あるいは、ユーザ90は、例えば、対象者がマスクを装着している旨の表情情報を報知された場合、対象者に対して、体調について尋ねることができる。対象者が病気である場合、及び体調が優れない場合等には、ユーザ90は、対象者との社会距離を確保する動作を行うことを選択することができる。このようにして、例えば感染症が流行している状況において、ユーザ90は、コミュニケーション支援装置100から報知された情報に基づいて、対象者等の他人からの感染のリスクを低減することができる。このように、状況に応じて他人との距離を調整しつつ他人とコミュニケーションを取ることも、円滑なコミュニケーションに含まれる。
【0069】
3-2-3.動作特定処理
図7は、図5Bに示した動作特定処理ステップS709の詳細な流れを例示するフローチャートである。
【0070】
(ステップS7091)
まず、動作特定部47は、対象者がユーザ90を見ているか否かを検出する(S7091)。例えば、動作特定部47は、対象者の顔がカメラ3の方を向いているか否かを検出する。カメラ3は、ユーザ90が装着するウェアラブルカメラ、ユーザ90の荷物に搭載されるカメラ等のカメラであるため、対象者の顔がカメラ3の方を向いている場合、対象者がユーザ90を見ているものと同視できる。あるいは、動作特定部47は、対象者の虹彩又は瞳孔を検出し、検出された虹彩又は瞳孔の位置に基づいて、対象者の視線を検出してもよい。対象者の視線の方向とカメラ3の光軸方向との差が小さい場合、対象者がユーザ90を見ているものと同視できる。対象者がユーザ90を見ていることを検出した場合(S7091でYesの場合)、ステップS7094に進む。
【0071】
(ステップS7092,S7093)
対象者がユーザ90を見ていることを検出しなかった場合(S7091でNoの場合)、動作特定部47は、対象者の動作を識別する(S7092)。例えば、動作特定部47は、人の動作に関する情報が格納された動作データベース53と、撮像画像内の対象者の姿勢等の動作に関する情報とを比較し、対象者の動作を識別する。対象者の動作は、例えば、対象者が電話中であること、本を読んでいること、手を振っていること、走っていること、歩いていること、咳をしていること等の動作を含む。上記の例では、ステップS7091において対象者がユーザ90を見ているか否かを判断したが、本実施形態はこれに限定されない。例えば、対象者がユーザ90を見ているか否かの判断は、ステップS7092における動作識別に含まれてもよい。対象者の動作を識別した場合(ステップS7093でYesの場合)、ステップS7094に進み、対象者の動作を識別しなかった場合(ステップS7093でNoの場合)、ステップS7095に進む。
【0072】
(ステップS7094)
対象者の動作を識別した場合(ステップS7093でYesの場合)、動作特定部47は、対象者の動作を、ステップS7092において識別したものに特定する(ステップS7094)。また、ステップS7091において対象者がユーザ90を見ていることを検出した場合(S7091でYesの場合)、ステップS7094では、対象者の動作につき、ユーザ90を見ていると特定する。特定された動作は、前述のように、図5BのステップS710においてユーザ90に報知される。
【0073】
(ステップS7095)
ステップS7093で対象者の動作を識別しなかった場合、動作特定部47は、ステップS7092で用いたフレーム画像が撮像された時刻より後の時刻に撮像された他のフレーム画像において、動作識別を試みるか否かを判断する(S7095)。どの期間に撮像されたフレーム画像に対して動作識別を試みるかについての情報、又は、何枚のフレーム画像に対して動作識別を試みるかについての情報は、予め定められていてもよい。
【0074】
(ステップS7096)
ステップS7095において、更なる動作識別を試みないと判断した場合(ステップS7095でNoの場合)、動作特定部47は、対象者の動作が「不明である」と特定する(S7096)。特定された動作は、前述のように、図5BのステップS710においてユーザ90に報知される。
【0075】
(ステップS7097)
動作特定部47は、ステップS7092で用いたフレーム画像が撮像された時刻より後の時刻に撮像された他のフレーム画像を取得する(S7097)。
【0076】
(ステップS7098)
ステップS7098~S7100は、図5AのステップS704,S720,S721とそれぞれ同様のステップである。ステップS7098では、動作特定部47は、ステップS7097で取得されたフレーム画像内に、対象者が映っているか否かを判断する(S7098)。対象者がフレーム画像内に映っていると判断した場合(ステップS7098でYesの場合)、ステップS7091に戻り、映っていないと判断した場合(ステップS7098でNoの場合)、ステップS7099に進む。
【0077】
(ステップS7099)
制御部4は、対象者が撮像画像内に映っていない期間が予め定められた期間より長いか否かを判断する(S7099)。対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合(ステップS7099でYesの場合)、ステップS7100に進み、予め定められた期間以下である場合(ステップS7099でNoの場合)、ステップS7091に戻る。
【0078】
(ステップS7100)
対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合(ステップS7099でYesの場合)、振動部2は、対象者を追跡できなくなった旨を、ユーザ90に振動により報知する(S7100)。具体的には、振動部2は、第5振動パターンで振動することにより、対象者を追跡できなくなった旨をユーザ90に報知する。これにより、ユーザ90は、対象者を追跡できなくなった旨、又は対象者がユーザ90の周辺から去ったことを知ることができる。ステップS7100の報知の後、制御部4は、図3に示した一連の処理を終了する。図3のフローは、繰り返し開始されてもよい。図3のフローは、例えば、予め定められた周期ごとに開始される。
【0079】
3-2-4.交流後処理
図8は、図5Bに示した交流後処理ステップS713の詳細な流れを例示するフローチャートである。
【0080】
(ステップS7131)
まず、対象者追跡部43は、対象者を追跡する(S7131)。追跡ステップS7131では、図5Aに示した追跡ステップS703と同様の処理が実行されてもよい。
【0081】
(ステップS7132)
次に、対象者追跡部43は、追跡過程において、検出又は追跡されていた対象者が撮像画像内に映っているか否かを判断する(S7132)。例えば、対象者追跡部43は、対象者が現フレームに映っているか否かを判断する。対象者が撮像画像内に映っていると判断した場合(ステップS7132でNoの場合)、ステップS7133に進み、映っていないと判断した場合(ステップS7132でYesの場合)、ステップS7135に進む。
【0082】
(ステップS7133)
制御部4は、対象者が撮像画像内に映っていない期間が予め定められた期間より長いか否かを判断する(S7133)。対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合(ステップS7133でYesの場合)、ステップS7134に進み、予め定められた期間以下である場合(ステップS7133でNoの場合)、ステップS7131に戻る。
【0083】
(ステップS7134)
対象者が撮像画像内に映っていない期間が予め定められた期間より長い場合(ステップS7133でYesの場合)、振動部2は、対象者を追跡できなくなった旨を、ユーザ90に振動により報知する(S7134)。具体的には、振動部2は、第5振動パターンで振動することにより、対象者を追跡できなくなった旨をユーザ90に報知する。これにより、ユーザ90は、対象者を追跡できなくなった旨、又は対象者がユーザ90の周辺から去ったことを知ることができる。これにより、ユーザ90は、目的地への移動等の動作に集中できる。ユーザ90が自己の動作に集中できるため、ユーザ90の安全も担保される。ステップS7134は、図5Aに示したステップS721と同様のステップであってもよい。
【0084】
(ステップS7135)
ステップS7132において、対象者が撮像画像内に映っていると判断した場合(ステップS7132でYesの場合)、距離測定部45は、対象者が近付いて来ているか否かを検出する(S7135)。具体的には、距離測定部45は、異なる時刻に撮像された2つのフレーム画像におけるカメラ3と対象者との距離を比較し、対象者が近付いて来ているか否かを検出する。
【0085】
対象者が近付いて来ていることを検出した場合(ステップS7135でYesの場合)、ユーザ90が対象者と再びコミュニケーションを取る可能性がある。そこで、制御部4は、図3に示した一連の処理を一旦終了し、再び図3の処理を開始してもよい。図3のフローは、例えば、予め定められた周期ごとに開始される。対象者が近付いて来ていることを検出しなかった場合(ステップS7135でNoの場合)、制御部4は、ステップS7131に戻り、追跡を続ける。
【0086】
3-2-5.遠距離フローの例
図9は、検出された対象者80との空間距離が観察距離である場合(図3のステップS6でYesの場合)におけるコミュニケーション支援装置100の動作の一例を示す模式図である。コミュニケーション支援装置100は、観察スペースにいる対象者80を検出した場合、ユーザ90に対する注意喚起のために、振動部2を第1パターンで振動させる。次に、音声出力部1は、対象者80の氏名を音声によりユーザ90に報知し(S701)、振動部2は、対象者80との空間距離及び対象者80の位置を、第2振動パターンで振動することにより報知する(S702)。
【0087】
その後、対象者80が知覚スペースに進入した場合、音声出力部1は、対象者80の表情情報を、音声によりユーザ90に報知し(S707)、振動部2は、対象者との空間距離及び対象者の位置を、第3振動パターンで振動することにより報知する(S708)。さらに、音声出力部1は、対象者80の表情情報を、音声によりユーザ90に報知する(S710)。
【0088】
その後、対象者80が交流スペースに進入した場合、振動部2は、対象者との空間距離及び対象者の位置を、第4振動パターンで振動することにより報知する(S712)。これにより、ユーザ90は、対象者が交流距離にいることを知ることができ、対象者とコミュニケーションを開始することができる。ユーザ90が対象者とのコミュニケーションを終えた後、例えば、振動部2は、対象者がユーザ90から離れたことを第5振動パターンで振動することにより報知する(S7134)。その後、制御部4、音声出力部1、振動部2等の構成要素は、ユーザ90に対し、対象者の検出前に行っていた通常動作である目的地へのナビゲーション動作等を再開してもよい。
【0089】
3-3.中距離フロー
図10は、図3に示した中距離フロー(S9)の詳細な流れを例示するフローチャートである。中距離フローにおいては、前述の遠距離フローにおいて説明したステップと同一又は同様のステップについては、同一の符号を付している。このようなステップとして、中距離フローは、ステップS701,S706~S710,S712,S713を含む。このようなステップについては、重複説明を省略する場合がある。
【0090】
中距離フローでは、まず、音声出力部1は、ステップS3で検出された対象者の氏名を音声によりユーザ90に報知する(S701)。次に、振動部2は、対象者との空間距離及び対象者の位置を、ユーザ90に振動により報知する(S708)。具体的には、振動部2は、第3振動パターンで振動することにより、対象者が知覚距離にいることと、対象者の位置とを、ユーザ90に報知する。
【0091】
次に、表情特定部46は、撮像画像に基づいて、対象者の表情を特定する(S706)。次に、音声出力部1は、ステップS706で表情特定部46によって特定された表情に関する表情情報を、音声によりユーザ90に報知する(S707)。表情特定処理ステップS706は、対象者の氏名を報知するステップS701の前に実行されてもよい。
【0092】
次に、距離測定部45は、対象者が交流距離まで近付いたか否かを判断する(S94)。ステップS94は、図5Bに示した前述のステップS711と同様のステップであってもよい。対象者が交流距離まで近付いたと判断した場合(ステップS94でYesの場合)、ステップS712に進み、対象者が交流距離まで近付いていないと判断した場合(ステップS94でNoの場合)、ステップS709に進む。
【0093】
対象者が交流距離まで近付いたと判断した場合(ステップS94でYesの場合)、振動部2は、対象者との空間距離及び対象者の位置を、ユーザ90に振動により報知する(S712)。具体的には、振動部2は、第4振動パターンで振動することにより、対象者が交流距離にいることと、対象者の位置とを、ユーザ90に報知する。
【0094】
次に、例えばユーザ90が対象者とのコミュニケーションを終えた後に、制御部4は、交流後処理を実行する(S713)。
【0095】
ステップS94において対象者が交流距離まで近付いていないと判断した場合(ステップS94でNoの場合)、動作特定部47は、撮像画像に基づいて、対象者の動作を特定する(S709)。次に、音声出力部1は、ステップS709で動作特定部47によって特定された動作に関する動作情報を、音声によりユーザ90に報知する(S710)。
【0096】
図11は、検出された対象者80との空間距離が知覚距離である場合(図3のステップS8でYesの場合)におけるコミュニケーション支援装置100の動作の一例を示す模式図である。図9に示した観察距離の場合の模式図と比較すると、図11では、特に、対象者の動作を音声により報知するステップS710が省略されている。対象者が交流距離まで近付いた場合、対象者の動作を音声により報知するステップS710を実行していたのでは、例えば報知の間に相手とすれ違ってしまうことがあり、円滑なコミュニケーションを行うことができないことがある。したがって、中距離フローでは、対象者との距離に応じて、ステップS710を省略する。ただし、上記のように、中距離フローでは、制御部4は、例えば対象者が交流距離まで近付かずに知覚距離に留まっている場合に、追加的に動作特定処理ステップS709を実行する。これにより、コミュニケーション支援装置100は、知覚距離で初めて対象者が検出された場合であっても、状況に応じて、動作情報をもユーザ90に提供する。状況に応じて十分な情報を受け取ることにより、ユーザ90は、対象者と円滑なコミュニケーションを取ることができる。
【0097】
3-4.近距離フロー
図12は、図3に示した近距離フロー(S11)の詳細な流れを例示するフローチャートである。近距離フローにおいては、前述の遠距離フローにおいて説明したステップと同一又は同様のステップについては、同一の符号を付している。このようなステップとして、近距離フローは、ステップS701,S712,S713を含む。このようなステップについては、重複説明を省略する場合がある。
【0098】
近距離フローでは、まず、音声出力部1は、ステップS3で検出された対象者の氏名を音声によりユーザ90に報知する(S701)。次に、振動部2は、対象者との空間距離及び対象者の位置を、ユーザ90に振動により報知する(S712)。具体的には、振動部2は、第4振動パターンで振動することにより、対象者が交流距離にいることと、対象者の位置とを、ユーザ90に報知する。次に、例えばユーザ90が対象者とのコミュニケーションを終えた後に、制御部4は、交流後処理を実行する(S713)。
【0099】
図13は、検出された対象者80との空間距離が交流距離である場合(図3のステップS10でYesの場合)におけるコミュニケーション支援装置100の動作の一例を示す模式図である。図11に示した知覚距離の場合の模式図と比較すると、図13では、特に、対象者の表情を音声により報知するステップS707が更に省略されている。交流距離のような近距離で対象者を発見した場合、ユーザ90は、即時に対象者とコミュニケーションを開始できる。このような場合に、音声又は振動により対象者の表情及び動作等の多くの情報をユーザ90に報知する時間はなく、これらの情報をユーザ90に報知していたのでは、円滑なコミュニケーションを行うことができないことが通常である。したがって、近距離フローでは、コミュニケーション支援装置100は、対象者の氏名、距離、及び位置という最小限の情報のみをユーザ90に報知することにより、ユーザ90と対象者との円滑なコミュニケーションを図る。
【0100】
4.振動パターン
4-1.振動部の構成
図14を参照して、振動部2及び振動部2の振動パターンについて説明する。図14は、振動部2の構成例を示す図である。振動部2は、例えば、リュックサック70の肩ベルトに取り付けられる。振動部2は、それぞれが制御部4からの制御信号に従って振動する2つ以上の振動要素を含む。図14の例では、振動部2は、規則的に配列された第1~第6の振動要素21~26を備える。第1~第3の振動要素21~23は左肩ベルト71に、第4~第6の振動要素24~26は右肩ベルト72に取り付けられている。第1~第3の振動要素21~23は、左肩ベルト71が延びる方向に整列している。第4~第6の振動要素24~26は、右肩ベルト72が延びる方向に整列している。第1~第3の振動要素21~23は、本開示の「左振動要素」の一例である。第4~第6の振動要素24~26は、右肩ベルト72が延びる方向に整列している。第1~第3の振動要素21~23は、本開示の「右振動要素」の一例である。
【0101】
4-2.第1振動パターン
第1振動パターンは、前述の例では、図3のステップS4で説明したように、対象者を検出したことをユーザ90に報知するための振動パターンである。第1振動パターンは、ユーザ90への注意喚起の機能を有する。
【0102】
第1振動パターンでは、制御部4は、振動部2の第1~第6の振動要素21~26を順次振動させる。すなわち、第1振動パターンでは、制御部4は、第1の振動要素21、第2の振動要素22、第3の振動要素23、第4の振動要素24、第5の振動要素25、第6の振動要素26の順に振動させるよう制御を行う。ユーザ90に背負われた状態のリュックサック70を上方から見ると、第1振動パターンでは、第1~第6の振動要素21~26は反時計回りに順番に振動する。ユーザ90は、反時計回りの振動を感じることにより、対象者が近くにいることを知ることができる。この反時計回りの振動は、1回又は複数回実行されてもよい。
【0103】
4-3.第2振動パターン
第2振動パターンは、前述の例では、図5AのステップS702で説明したように、対象者が観察距離にいることと、対象者の位置とを、ユーザ90に報知するための振動パターンである。
【0104】
例えば、振動部2の各振動要素21~26は、弱、中、強の3段階の振動強度で振動可能である。第2振動パターンでは、振動部2の各振動要素21~26は、例えば弱振動により、対象者が観察距離にいることをユーザ90に報知する。あるいは、制御部4は、各振動要素21~26による振動の周波数、波形等の振動要素を変更することによって、対象者の位置をユーザ90に知らせてもよい。
【0105】
対象者の位置については、例えば、振動部2は、対象者が左方にいる場合は、左肩ベルト71に取り付けられた第1~第3の振動要素21~23のみを振動させることにより、対象者が左方にいることをユーザ90に報知する。また、例えば、振動部2は、対象者が右方にいる場合は、右肩ベルト72に取り付けられた第4~第6の振動要素24~26のみを振動させることにより、対象者が右方にいることをユーザ90に報知する。また、例えば、振動部2は、対象者が正面方向にいる場合は、第1~第6の振動要素21~26のすべてを振動させる。
【0106】
このようにして、振動部2は、振動の強度と振動の位置とを制御することにより、対象者との空間距離及び対象者の位置の両方をユーザ90にほぼ同時に報知することができる。
【0107】
4-4.第3振動パターン
第3振動パターンは、前述の例では、図5B及び図10のステップS708で説明したように、対象者が知覚距離にいることと、対象者の位置とを、ユーザ90に報知するための振動パターンである。第3振動パターンでは、振動部2の各振動要素21~26は、例えば中程度の強度の振動により、対象者が知覚距離にいることをユーザ90に報知する。第3振動パターンは、前述の第2振動パターンと振動の強度が異なる以外は同様であるため、重複説明を省略する。
【0108】
4-5.第4振動パターン
第4振動パターンは、前述の例では、図5B及び図10のステップS712で説明したように、対象者が交流距離にいることと、対象者の位置とを、ユーザ90に報知するための振動パターンである。第4振動パターンでは、振動部2の各振動要素21~26は、例えば強い強度の振動により、対象者が交流距離にいることをユーザ90に報知する。第4振動パターンは、前述の第2振動パターン及び第3振動パターンと振動の強度が異なる以外は同様であるため、重複説明を省略する。
【0109】
4-6.第5振動パターン
第5振動パターンは、前述の例では、図5AのステップS721及び図8のステップS7134で説明したように、追跡していた対象者を追跡できなくなったことをユーザ90に報知するための振動パターンである。第5振動パターンにより、ユーザ90は、対象者を追跡できなくなったこと、又は対象者がユーザ90の周辺から去ったことを知ることができる。
【0110】
第5振動パターンでは、制御部4は、振動部2の第1~第6の振動要素21~26を、第1振動パターンとは異なる順序で順次振動させる。例えば、第5振動パターンでは、制御部4は、第6の振動要素26、第5の振動要素25、第4の振動要素24、第3の振動要素23、第2の振動要素22、第1の振動要素21の順に振動させるよう制御を行う。ユーザ90に背負われた状態のリュックサック70を上方から見ると、第5振動パターンでは、第1~第6の振動要素21~26は時計回りに順番に振動する。ユーザ90は、時計回りの振動を感じることにより、対象者を追跡できなくなったこと、又は対象者がユーザ90の周辺から去ったことを知ることができる。この時計回りの振動は、1回又は複数回実行されてもよい。
【0111】
また、第1~第5の振動パターンは、上記のものに限定されず、ユーザ90が第1~第5の振動パターンを互いに区別できるものであればよい。例えば、第1~第5の振動パターンは、互いに異なる振動周期で振動するパターンであってもよい。
【0112】
4-7.変形例
図14の例では、振動部2の第1~第6の振動要素21~26がリュックサック70の肩ベルト71,72に取り付けられた例について説明した。しかしながら、本開示はこれに限定されず、ユーザ90が第1~第5の振動パターンを互いに区別できればよい。例えば、振動部2の第1~第6の振動要素21~26は、ユーザ90のベルト、リストバンド、腕時計、帽子等に取り付けられてもよい。振動部2の第1~第6の振動要素21~26は、スマートウェアに組み込まれてもよい。ここで、スマートウェアは、例えば、センサ、出力デバイス等を衣類等のウェアラブル素材に備え付けたウェアラブルデバイスである。振動部2の第1~第6の振動要素21~26は、スマートウェアを構成するスマートテキスタイル及び材料等に組み込まれる。
【0113】
5.作用・効果
以上のように、本実施形態に係るコミュニケーション支援装置100は、カメラ3と、対象者検出部42と、距離測定部45と、表情特定部46と、動作特定部47と、音声出力部1とを備える。カメラ3は、ユーザ90の周囲環境を撮像して撮像画像を取得する。対象者検出部42は、撮像画像内で知人等の予め定められた対象者を検出する。距離測定部45は、撮像画像に基づいて、対象者とカメラ3との距離を測定する。表情特定部46は、撮像画像に基づいて、対象者の表情を特定する。動作特定部47は、撮像画像に基づいて、対象者の動作を特定する。音声出力部1は、距離測定部45によって測定された距離が第1閾値以下の交流距離である場合、対象者を識別するための氏名等の識別情報を、音声によりユーザ90に報知する。音声出力部1は、距離測定部45によって測定された距離が第1閾値より大きい場合、表情情報及び動作情報のうちの少なくとも1つと、識別情報とを、音声によりユーザ90に報知する。ここで、表情情報は、表情特定部46によって特定された表情に関する情報であり、動作情報は、動作特定部47によって特定された動作に関する情報である。
【0114】
この構成により、コミュニケーション支援装置100は、対象者とカメラ3との距離が第1閾値より大きい場合には、識別情報に加えて表情情報及び動作情報のうちの少なくとも1つを報知し、できる限り多くの情報をユーザ90に報知する。一方、対象者とカメラ3との距離が小さい場合には、コミュニケーション支援装置100が検出した情報をすべて読み上げていたのでは、読み上げている間にユーザ90が対象者80とすれ違ってしまう可能性がある。これでは、ユーザ90は、対象者80と円滑なコミュニケーションを行うことができない。そこで、コミュニケーション支援装置100は、対象者とカメラ3との距離が第1閾値以下である場合には、識別情報のみをユーザ90に報知する。このように、コミュニケーション支援装置100は、距離が小さい場合には報知する情報を省き、ユーザ90が対象者と円滑なコミュニケーションを取ることを支援する。
【0115】
カメラ3は、ユーザ90の周囲環境を時系列で撮像して複数の撮像画像を取得してもよい。コミュニケーション支援装置100は、対象者検出部42によって検出された対象者を複数の撮像画像において追跡する対象者追跡部43を更に備えてもよい。音声出力部1は、対象者検出部42が対象者を検出したときに、識別情報をユーザ90に報知し、その後対象者追跡部43が対象者を追跡している間は、識別情報をユーザに報知しないものであってもよい。
【0116】
このように、音声出力部1は、対象者検出部42が対象者を検出したときに、少なくとも対象者の氏名等の識別情報を報知する。識別情報は、ユーザ90が他者とのコミュニケーションについての心構え等の準備をする上で考慮する重要な情報である。ユーザ90は、早い段階で識別情報を知ることにより、その後に対象者と円滑なコミュニケーションを行うことができる。
【0117】
音声出力部1は、距離測定部45によって測定された距離が、第1閾値より長くかつ第2閾値以下である知覚距離である場合、表情情報及び動作情報のうちの1つと、識別情報とをユーザ90に報知してもよい。音声出力部1は、距離測定部45によって測定された距離が、第2閾値より大きい観察距離である場合、表情情報と、動作情報と、識別情報とをユーザ90に報知してもよい。
【0118】
このように、対象者とカメラ3との距離が短くなるに連れて、ユーザ90に報知する情報を漸次省くことにより、ユーザ90は、対象者と円滑なコミュニケーションを取ることができる。
【0119】
音声出力部1は、対象者検出部42によって検出された時点における、距離測定部45によって測定された対象者とカメラ3との距離が知覚距離であった場合、識別情報を音声によりユーザ90に報知した後に、表情情報及び動作情報のうちの一方を音声によりユーザ90に報知してもよい。その後に距離測定部45によって測定された対象者とカメラ3との距離が知覚距離であるときは、音声出力部1は、表情情報及び動作情報のうちの他方を音声によりユーザ90に報知してもよい。
【0120】
この構成により、知覚距離で初めて対象者が検出された場合であっても、対象者が交流距離まで近付かずに知覚距離に留まっているときには、ユーザ90は、表情情報及び動作情報の両方を知ることができる。このように、状況に応じて十分な情報を受け取ることにより、ユーザ90は、対象者と円滑なコミュニケーションを取ることができる。
【0121】
コミュニケーション支援装置100は、距離測定部45による検出結果を振動によりユーザ90に報知する振動部2を更に備えてもよい。振動部2は、距離測定部45によって検出された対象者とカメラ3との距離に応じて、振動のパターン及び大きさのうちの少なくとも一方を変更してもよい。
【0122】
振動部2により、コミュニケーション支援装置100は、検出結果の一部又は全部を音声報知に比べて短時間でユーザ90に報知することができる。また、音声による報知と振動による報知とを組み合わせることにより、コミュニケーション支援装置100は、音声による報知のみを用いる場合に比べて、多くの情報を短時間でユーザ90に伝えることができる。
【0123】
カメラ3は、ユーザ90の周囲環境を時系列で撮像して複数の撮像画像を取得してもよい。この場合、コミュニケーション支援装置100は、対象者検出部42によって検出された対象者を複数の撮像画像において追跡する対象者追跡部43を更に備えてもよい。振動部2は、振動可能な2つ以上の振動要素を備えてもよい。この場合、振動部2は、対象者追跡部43が対象者を追跡している場合において、距離測定部45によって検出された対象者とカメラ3との距離が予め定められたフィードバック距離であるときは、予め定められた順序で各振動要素を順次振動させてもよい。振動部2は、対象者追跡部43が、追跡していた対象者を追跡できなくなった場合、予め定められた順序と異なる順序で各振動要素を順次振動させてもよい。
【0124】
2つ以上の振動要素が異なる順序で振動する振動パターンを有することにより、コミュニケーション支援装置100は、様々な情報をユーザ90に振動により報知することができる。ユーザ90は、振動パターンの違いにより、対象者との距離がフィードバック距離であり、コミュニケーションの可能性があることと、追跡していた対象者を追跡できなくなったことと、の違いを認識することができる。
【0125】
振動要素は、規則的に配列された3つ以上の振動要素であってもよい。振動部2は、対象者追跡部43が対象者を追跡している場合において、距離測定部45によって検出された対象者とカメラ3との距離がフィードバック距離であるときは、配列順に各振動要素を順次振動させてもよい。対象者追跡部43が、追跡していた対象者を追跡できなくなった場合、配列順と逆順に各振動要素を順次振動させてもよい。
【0126】
3つ以上の振動要素が異なる順序で振動する振動パターンを有することにより、2つ以下の振動要素しかない場合に比べて、ユーザ90は、振動により報知される情報の違いをより明瞭に区別して認識することができる。
【0127】
コミュニケーション支援装置100は、撮像画像に基づいて、カメラ3に対する対象者の位置を検出する位置検出部44を更に備えてもよい。振動要素は、右振動要素と、左振動要素とを含んでもよい。振動部2は、位置検出部44によって検出されたカメラ3に対する対象者の位置が、カメラ3の光軸より右方にある場合、右振動要素を振動させ、カメラ3の光軸より左方にある場合、左振動要素を振動させてもよい。
【0128】
この構成により、コミュニケーション支援装置100は、対象者の相対位置をより明瞭にユーザ90に振動により報知することができる。
【0129】
6.変形例
以上、本開示の実施形態を詳細に説明したが、前述までの説明はあらゆる点において本開示の例示に過ぎない。本開示の範囲を逸脱することなく種々の改良や変形を行うことができる。例えば、以下のような変更が可能である。なお、以下では、上記実施形態と同様の構成要素に関しては同様の符号を用い、上記実施形態と同様の点については、適宜説明を省略する。以下の変形例は適宜組み合わせることができる。
【0130】
図15は、コミュニケーション支援装置100の出力態様の変形例を示す模式図である。上記実施形態では、特に視覚障がい者であるユーザ90に対してコミュニケーション支援を行うコミュニケーション支援装置100の出力態様について説明した。このような出力態様として、特に、音声による報知を行う音声出力部1と、振動による報知を行う振動部2について説明した。本開示の出力態様はこれらに限定されず、ユーザ90に情報を報知できるものであればよい。例えば、コミュニケーション支援装置100は、ユーザ90に対して視覚的に報知を行うためのディスプレイ7を備えてもよい。
【符号の説明】
【0131】
1 音声出力部
2 振動部
3 カメラ(撮像部)
4 制御部
5 記憶部
6 通信インタフェース
7 ディスプレイ
21 第1の振動要素
22 第2の振動要素
23 第3の振動要素
24 第4の振動要素
25 第5の振動要素
26 第6の振動要素
41 画像取得部
42 対象者検出部
43 対象者追跡部
44 位置検出部
45 距離測定部
46 表情特定部
47 動作特定部
51 顔データベース
52 表情データベース
53 動作データベース
70 リュックサック
71 左肩ベルト
72 右肩ベルト
80 対象者
90 ユーザ
100 コミュニケーション支援装置
図1
図2
図3
図4
図5A
図5B
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15