IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 三菱電機株式会社の特許一覧

特許7607837情報提供装置、情報提供システム、情報提供方法、および情報提供プログラム
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B1)
(11)【特許番号】
(24)【登録日】2024-12-19
(45)【発行日】2024-12-27
(54)【発明の名称】情報提供装置、情報提供システム、情報提供方法、および情報提供プログラム
(51)【国際特許分類】
   G01C 21/26 20060101AFI20241220BHJP
【FI】
G01C21/26 P
【請求項の数】 8
(21)【出願番号】P 2024534136
(86)(22)【出願日】2024-01-29
(86)【国際出願番号】 JP2024002543
【審査請求日】2024-06-07
【早期審査対象出願】
(73)【特許権者】
【識別番号】000006013
【氏名又は名称】三菱電機株式会社
(74)【代理人】
【識別番号】110003166
【氏名又は名称】弁理士法人山王内外特許事務所
(72)【発明者】
【氏名】吉田 和史
【審査官】増子 真
(56)【参考文献】
【文献】特表2012-532366(JP,A)
【文献】特開2022-087982(JP,A)
【文献】特開2020-166768(JP,A)
【文献】特開2007-299023(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G01C 21/00 - 21/36
G01C 23/00 - 25/00
G08G 1/00 - 99/00
G09B 23/00 - 29/14
G06Q 10/00 - 10/30
G06F 30/00 - 30/06
G06Q 50/00 - 50/20
G06Q 50/26 - 99/00
G16Z 99/00
(57)【特許請求の範囲】
【請求項1】
人を撮像した複数の画像と、前記複数の画像が撮像された時点において表示装置の複数の領域に表示されている表示情報とに基づいて、前記人の意図を推定する意図推定部と、
その推定した意図に応じて、提供する情報の内容または方法を選定する選定部と、
その選定の結果に従って、情報を提供するように出力装置を制御する出力制御部と、
前記複数の領域に亘る前記人の視線を検出して、検出した視線の軌跡を追跡して視線の動きの特徴を解析する視線追跡部と、
前記表示情報を取得して、取得した表示情報の特徴を解析する表示情報取得部と、
を備え、
前記意図推定部は、その解析された視線の動きの特徴と、その解析された表示情報の特徴とに基づいて、視線の動き、表示情報、および利用者の意図を対応付ける予め作成された対応パターンを参照して前記人の意図を推定する、
情報提供装置。
【請求項2】
前記視線の動きの特徴は、前記表示装置上の前記複数の領域を往復する動きである、
請求項1記載された情報提供装置。
【請求項3】
前記人の属性を判定する属性判定部、
を更に備え、
前記選定部は、その判定した属性に更に基づいて前記選定を行う、
請求項1に記載された情報提供装置。
【請求項4】
前記人の環境を判定する環境判定部、
を更に備え、
前記選定部は、その判定した環境に更に基づいて前記選定を行う、
請求項1に記載された情報提供装置。
【請求項5】
請求項1から4のいずれか1項に記載された情報提供装置と、
前記複数の画像を撮像するカメラと、
前記表示装置と、
を備える情報提供システム。
【請求項6】
前記出力装置は前記表示装置である、請求項5に記載された情報提供システム。
【請求項7】
視線追跡部と、表示情報取得部と、意図推定部と、選定部と、出力制御部とを備える情報提供装置が行う情報提供方法であって、
前記視線追跡部が、人を撮像した複数の画像から表示装置の複数の領域に亘る前記人の視線を検出して、検出した視線の軌跡を追跡して視線の動きの特徴を解析するステップと、
前記表示情報取得部が、前記複数の画像が撮像された時点においてその追跡する視線の先に表示されている前記複数の領域の表示情報を取得して、取得した表示情報の特徴を解析するステップと、
前記意図推定部が、その解析された視線の動きの特徴と、その解析された表示情報の特徴とに基づいて、視線の動き、表示情報、および利用者の意図を対応付ける予め作成された対応パターンを参照して前記人の意図を推定するステップと、
前記選定部が、その推定した意図に応じて、提供する情報を選定するステップと、
前記出力制御部が、その選定の結果に従って、その選定した情報を提供するように出力装置を制御するステップと、
を備える情報提供方法。
【請求項8】
人を撮像した複数の画像から表示装置の複数の領域に亘る前記人の視線を検出して、検出した視線の軌跡を追跡して視線の動きの特徴を解析する機能と、
前記複数の画像が撮像された時点においてその追跡する視線の先に表示されている前記複数の領域の表示情報を取得して、取得した表示情報の特徴を解析する機能と、
その解析された視線の動きの特徴と、その解析された表示情報の特徴とに基づいて、視線の動き、表示情報、および利用者の意図を対応付ける予め作成された対応パターンを参照して前記人の意図を推定する機能と、
その推定した意図に応じて、提供する情報を選定する機能と、
その選定の結果に従って、その選定した情報を提供するように出力装置を制御する機能と、
をコンピュータに実行させる情報提供プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、情報を提供する技術である情報提供技術に関する。
【背景技術】
【0002】
鉄道の駅、バスの停留所、空港のターミナルなどの公共交通サービスの提供地、または百貨店、ショッピングモールなどの施設(以下、これらの提供地または施設を総称して、単に「サービス提供スポット」と称する場合がある。)には、当該サービス提供スポットの利用に関連した種々の情報を提供するための情報提供装置が設置されている場合がある。例えば、特許文献1には、「据え置き型の案内情報表示装置であって、可視コードからコード情報を読取るコード読取手段と、前記コード情報と案内先情報とを対応づけた案内先情報群を記憶する記憶手段と、読取ったコード情報に対応づけられている案内先を前記案内先情報群から検索し、前記案内先へのルート案内情報を生成するルート案内生成手段と、生成されたルート案内情報を3次元マップの形態で表示する表示手段と、を備えることを特徴とする案内情報表示装置」(特許文献1の請求項1)に関する技術が開示されており、そのような案内情報表示装置を駅構内に設置して利用することが想定されている(特許文献1の段落0022)。特許文献1によれば、ユーザは、ARマーカ等の可視コードが印刷された紙または表示されたモバイル端末をコードリーダ(コード読取手段)にかざし、コードリーダが可視コードを読み取って、所定の情報が表示される(特許文献1の段落0024~0025)。
【先行技術文献】
【特許文献】
【0003】
【文献】特開2017-3444号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の技術によれば、案内情報表示装置のユーザは、可視コードが印刷された紙または表示されたモバイル端末を所持している必要があり、そのような紙またはモバイル端末を所持していない場合には案内情報表示装置を操作できないという課題がある。
【0005】
本開示は、このような課題を解決するためになされたものであり、紙またはモバイル端末等の特別のツールを要することなく情報を提供できる情報提供技術を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示の実施形態による情報提供装置の一側面は、人を撮像した複数の画像と、前記複数の画像が撮像された時点において表示装置に表示されている表示情報とに基づいて、前記人の意図を推定する意図推定部と、その推定した意図に応じて、提供する情報の内容または方法を選定する選定部と、その選定の結果に従って、情報を提供するように出力装置を制御する出力制御部と、を備える。
【発明の効果】
【0007】
本開示の実施形態による情報提供装置によれば、紙またはモバイル端末等の特別のツールを要することなく情報を提供できる。
【図面の簡単な説明】
【0008】
図1】情報提供装置および情報提供システムの構成例を示す図である。
図2A】情報提供装置のハードウェアの構成例を示す図である。
図2B】情報提供装置のハードウェアの構成例を示す図である。
図3】情報提供装置による情報提供方法のフローチャートを示す図である。
図4A】情報提供装置による情報の表示例を示す図である。
図4B】視線検出の例を示す図である。
図5A】情報提供装置による情報の表示例を示す図である。
図5B】視線検出の例を示す図である。
図5C】視線検出後の情報の表示例を示す図である。
図6A】視線検出の例を示す図である。
図6B】視線検出後の情報の表示例を示す図である。
図7A】視線検出の例を示す図である。
図7B】視線検出後の情報の表示例を示す図である。
図8】対応パターンテーブル(対応パターンテーブル1)の一例を示す図である。
図9】対応パターンテーブル(対応パターンテーブル2)の一例を示す図である。
【発明を実施するための形態】
【0009】
以下、図面を参照して、本開示における種々の実施形態について詳細に説明する。なお、図面において、同一または類似の部分には同一または類似の符号が付されており、そのような部分についての重複する説明は省略する。また、本開示において、「または」との用語は、別段の記載が無い限り、包括的論理和の意味で用いる。
【0010】
実施の形態1.
<構成>
図1を参照して、本開示の実施の形態1による情報提供システムSys.、および情報提供システムSys.が備える情報提供装置20について説明をする。一例として、図1に示されているように、情報提供システムSys.は、カメラ11、マイク12、記憶装置13、記憶装置14、記憶装置15、情報提供装置20、表示装置31、およびスピーカ32を備える。表示装置31およびスピーカ32は何れも、本開示において出力装置の例である。表示装置31およびスピーカ32を含む出力装置は、情報提供装置20の制御の下、種々の情報を提供する。一例として、表示装置31は、情報提供装置20の制御の下、列車の運行情報を表示装置31が備えるスクリーンに表示する。他の例として、スピーカ32は、情報提供装置20の制御の下、列車の運行情報を音声により案内する。
【0011】
情報提供システムSys.は、鉄道の駅等のサービス提供スポットに設置されてデジタルサイネージシステムとして用いられる。情報提供システムSys.は、システムの全体が同一の場所に設置されていえる必要はない。例えば、カメラ11、マイク12、表示装置31、およびスピーカ32が一体的な装置としてまたは非一体的に駅のプラットホームに設置され、記憶装置13、記憶装置14、記憶装置15、および情報提供装置20がその駅の乗務員室に設置されていてもよい。
【0012】
(カメラ)
カメラ11は、典型的には、表示装置31の前に存在する人(以下、「利用者」と称する場合がある。)の複数の時系列画像を撮像し、撮像した複数の画像を情報提供装置20へ出力する。カメラ11は、表示装置31の前に存在する人を撮像できるように設置される。カメラ11は、表示装置31と一体的に備えられていてもよい。また、カメラ11、表示装置31、および情報提供装置20は、一体的に備えられていてもよい。カメラ11は、たとえば、20fps(フレーム/秒)または30fps(フレーム/秒)のフレームレートで画像を撮像する。
【0013】
(マイク;環境情報取得装置)
マイク12は、利用者の環境に関する情報を取得する環境情報取得装置の一例である。環境情報取得装置がマイク12である場合、利用者の周囲の音を集音するために、マイク12はカメラ11の近傍に設置される。マイク12は、音を集音して、集音した音を情報提供装置20へ出力する。環境情報取得装置はマイク12に限られず、例えば、情報提供装置20が設置されているエリアの天気情報を取得するプロセッサであってもよい。環境情報取得装置が天気情報を取得するプロセッサの場合、環境情報取得装置は不図示の通信ネットワークを介して天気情報を取得する。
【0014】
(記憶装置)
記憶装置13は、個人情報を格納する個人情報データベースを保持する記憶装置である。個人情報の例には、利用者を特定する複数のID番号と、各ID番号に対応付けられた利用者の顔画像および属性が含まれる。利用者の顔画像には、顔画像のデータの他、顔画像の特徴量を表すデータが含まれていてもよい。
【0015】
記憶装置14は、対応パターンを保持する記憶装置である。一例として、対応パターンは、図8のようなテーブルの形式で保持され、「利用者の視線の動き」、「表示されている情報の特徴」、「利用者の意図」、および「提供する情報の内容または情報を提供する方法」を対応付ける。対応パターンは、図9のように、「利用者の属性」、「利用者が今いる環境」、および「提供する情報の内容または情報を提供する方法」を対応付けるものであってもよい。説明の便宜のため、図8のテーブルを「対応パターンテーブル1」と称し、図9のテーブルを「対応パターンテーブル2」と称する。図8において、対応パターンテーブル1には、9つの対応パターンが例示的に定義されている。対応パターンテーブル1に定義されている対応パターンを総称して「対応パターン1」と称する場合がある。図9において、対応パターンテーブル2には、7つの対応パターンが例示的に定義されている。対応パターンテーブル2に定義されている対応パターンを総称して「対応パターン2」と称する場合がある。
【0016】
図9の対応パターン2は、図8の対応パターン1と組み合わせて用いられてもよい。例えば、図8の対応パターン1により「提供する情報の内容」として定義された内容が表示または音声の両方により提供可能である場合、図9の対応パターン2にあるような「利用者の属性」または「利用者が今いる環境」に応じて、情報を表示または音声の何れか一方により提供することを定義してもよい。
【0017】
記憶装置15は、情報提供装置20による情報提供の用に供する出力装置に関する出力装置情報を保持する記憶装置である。出力装置情報の例には、表示装置31、スピーカ32、または不図示の照明装置を同定する情報が含まれる。
【0018】
(情報提供装置)
図1に示されているように、情報提供装置20は、視線追跡部21、表示情報取得部22、意図推定部23、選定部24、および出力制御部25を備える。また、情報提供装置20は、任意の追加的機能部として、属性判定部26および環境判定部27を備えていてもよい。以下、情報提供装置20が備えるこれらの機能部について説明をする。
【0019】
(視線追跡部)
視線追跡部21は、カメラ11により撮像された複数の画像から、公知の視線追跡技術を用いて、カメラ11により撮像された利用者の視線を追跡する。視線追跡部21は、追跡した視線の情報を視線情報として表示情報取得部22へ出力する。視線情報には、追跡した視線が表示装置31のスクリーン上のどの位置を見ているかを示す位置情報、および追跡した視線の動きの特徴が含まれる。視線の動きの特徴とは、例えば、視線が2つ以上の複数の領域を往復しているという特徴、または視線が同一の領域から動かないという特徴である。なお、視線追跡部21は、カメラ11により複数の人が撮像された場合には、各人の視線を追跡してもよく、視線追跡される人と視線追跡されない人とが含まれていてもよい。以下、視線追跡される利用者を、「対象人物」と称する場合がある。
【0020】
(表示情報取得部)
表示情報取得部22は、視線情報により示される視線の先に表示されている表示情報を取得する。すなわち、表示情報取得部22は、視線情報に含まれる位置情報により示される位置に表示されている表示情報を取得する。表示情報取得部22は、表示情報(表示コンテンツ)を格納する不図示の記憶装置をアクセスして表示装置31に表示されている表示コンテンツを取得し、視線情報により示される視線の先に表示されている表示情報を取得する。利用者の視線方向と、表示コンテンツが表示装置31上に表示される表示位置との相対的な位置関係から、視線情報により示される視線の先に表示されている表示情報を特定することができる。
【0021】
表示情報取得部22は、取得した表示情報から、表示情報の特徴を分析する。例えば、「A」という表示と、「B」という表示を比較して、「異なる表示がなされている」と分析する。別の例として、「A」という表示と、「A」を含むテキスト表示とを比較して、「同一のAについての表示がなされている」と分析する。表示情報取得部22は、分析の結果を意図推定部23へ出力する。
【0022】
(意図推定部)
意図推定部23は、利用者を撮像した複数の画像と、複数の画像が撮像された時点において表示装置31に表示されている表示情報とに基づいて、利用者の意図を推定する。このような推定を行うために、意図推定部23は、視線追跡部21により追跡された視線の動きの特徴と、表示情報取得部22により取得された視線の先に表示されている情報の特徴とから、利用者の意図を推定する。一例として、利用者の意図の推定は、ルールベースで行ってよい。例えば、図8に示されているような対応パターンテーブル1を予め作成しておき、対応パターンテーブル1を参照して行ってよい。対応パターン1は記憶装置14に予め格納されており、意図推定部23は記憶装置14をアクセスして対応パターン1を参照する。
【0023】
意図推定部23は、利用者の意図の推定を、利用者の意図を学習した機械学習モデルを用いて推定してもよい。そのような機械学習モデルは、例えば、表示装置31に表示される表示情報ごとに、利用者の視線を追跡した画像と、教師データとしての利用者の意図とを入力として、教師あり学習または強化学習により生成してもよい。機械学習モデルの生成は、他の手法を活用して生成されてもよい。意図推定部23による動作の詳細については後述する。
【0024】
(選定部)
選定部24は、意図推定部23により推定された推定結果に応じて、提供する情報の内容または情報を提供する方法を選定する。この選定は、例えば、図8に示されているような対応パターンテーブル1、または図9に示されているような対応パターンテーブル2を参照して行う。
【0025】
選定部24は、意図推定部23により推定された推定結果に代えて、属性判定部26による判定結果または環境判定部27による判定結果を用いてもよい。また、意図推定部23により推定された推定結果に加えて、属性判定部26による判定結果または環境判定部27による判定結果を用いてもよい。選定部24は、選定の結果を出力制御部25へ出力する。選定部24の動作の詳細については後述する。
【0026】
(出力制御部)
出力制御部25は、選定部24から出力された選定の結果に従って、選定された提供する情報の内容または方法に関連付けられた出力装置による情報の提供を制御する。関連する出力装置の情報は記憶装置15に格納されており、出力制御部25は記憶装置15をアクセスして当該出力装置を制御する。
【0027】
(属性判定部)
属性判定部26は、カメラ11により撮像された利用者の属性を判定する。本開示において、属性とは、人の氏名、年齢、性別、健常者か否か、視覚または聴覚等の障害の有無、車いす利用者か否か、介助履歴、定期券の有無、または趣味の少なくとも一つを含む人のプロフィールを意味する。なお、介助履歴とは、介助された履歴を意味する用語である。属性判定部26は、カメラ11により撮像された人の顔画像を公知の技術を用いて解析し、カメラ11により撮像された人の顔画像を表す情報と、記憶装置13に格納された個人情報データベースをアクセスして取得する個人情報とを照合して、カメラ11により撮像された人の属性を判定する。属性判定部26は、判定した属性を、選定部24へ出力する。
【0028】
(環境判定部)
環境判定部27は、対象人物の環境を判定する。環境判定部27は、対象人物の環境を判定するために、マイク12等の環境情報取得装置により取得された情報から、対象人物の周囲の音が大きいか小さいか、対象人物の存在する位置の天気が晴れか雨か、対象人物が1人か否か等の対象人物の環境について判定する。
【0029】
一例として、表示装置31が駅のプラットホームに設置されている場合、環境判定部27は、70dB以上の場合は周囲の音が大きいと判定し、70dB未満の場合は周囲の音が小さいと判定する。他の例として、表示装置31が駅のコンコースに設置されている場合、環境判定部27は、60dB以上の場合は周囲の音が大きいと判定し、60dB未満の場合は周囲の音が小さいと判定する。
【0030】
他の例として、環境判定部27は、表示装置31が設置されているエリアの雨量が1mm以上の場合、天気は雨であると判定し、そのエリアの雨量が1mm未満の場合、天気は晴れであると判定する。環境判定部27は、不図示のサーバから表示装置31が設置されているエリアが晴れか雨かを示す情報を取得できる場合は、その取得した情報をそのまま用いてもよい。
【0031】
他の例として、環境判定部27は、対象人物が含まれている画像の中に、対象人物の他に、視線検出ができない人物が撮像されている場合、対象人物は1人であると判定してよい。
【0032】
次に、図2Aおよび図2Bを参照して、情報提供装置20のハードウェアの構成例について説明する。情報提供装置20の各機能は、処理回路(processing circuitry)により実現される。処理回路(processing circuitry)は、図2Aに示されているような専用の処理回路(processing circuit)100aであっても、図2Bに示されているようなメモリ100cに格納されるプログラムを実行するコンピュータとしてのプロセッサ100bであってもよい。
【0033】
処理回路(processing circuitry)が専用の処理回路100aである場合、専用の処理回路100aは、例えば、単一回路、複合回路、プログラム化したプロセッサ、並列プログラム化したプロセッサ、ASIC(application specific integrated circuit)、FPGA(field-programmable gate array)、またはこれらを組み合わせたものが該当する。情報提供装置20の機能を別個の複数の処理回路(processing circuits)で実現してもよいし、情報提供装置20の機能をまとめて単一の処理回路(processing circuit)で実現してもよい。
【0034】
処理回路(processing circuitry)がプロセッサ100bの場合、情報提供装置20の機能は、ソフトウェア、ファームウェア、またはソフトウェアとファームウェアとの組み合わせにより実現される。ソフトウェアおよびファームウェアはプログラムとして記述され、メモリ100cに格納される。プロセッサ100bは、メモリ100cに記憶されたプログラムを読み出して実行することにより、情報提供装置20の機能を実現する。ここで、メモリ100cの例には、RAM(random access memory)、ROM(read-only memory)、フラッシュメモリ、EPROM(erasable programmable read only memory)、EEPROM(electrically erasable programmable read-only memory)等の、不揮発性または揮発性の半導体メモリや、磁気ディスク、フレキシブルディスク、光ディスク、コンパクトディスク、ミニディスク、DVDが含まれる。
【0035】
なお、情報提供装置20の機能の一部を専用のハードウェアで実現し、その他の機能をソフトウェアまたはファームウェアで実現するようにしてもよい。このように、処理回路は、ハードウェア、ソフトウェア、ファームウェア、またはこれらの組み合わせによって、情報提供装置20の機能を実現することができる。
【0036】
<動作;概略>
次に、図3を参照して、情報提供装置20による情報提供方法の概略について説明をする。
【0037】
(ステップST1)
ステップST1において、視線追跡部21は、表示装置31の前に存在する利用者を撮像した複数の画像から、利用者の視線を検出して視線の軌跡を追跡し、視線の動きの特徴を解析する。視線追跡部21は、追跡した視線の情報を視線情報として表示情報取得部22へ出力する。
【0038】
(ステップST2)
ステップST2において、表示情報取得部22は、その追跡する視線の先に表示されている表示情報を取得し、取得した表示情報の特徴を解析する。
【0039】
(ステップST3)
ステップST3において、意図推定部23は、一例として、視線の動きの特徴と、表示情報の特徴とに基づいて、利用者の意図を推定する。意図推定部23は、視線の動き、表示情報、および利用者の意図を対応付ける予め作成されたパターンを参照して利用者の意図を推定する。意図推定部23は、上述のとおり、機械学習モデルを用いて利用者の意図を推定してもよい。
【0040】
(ステップST4)
ステップST4において、選定部24は、その推定した意図に応じて、提供する情報の内容または方法を選定する。
【0041】
(ステップST5)
ステップST5において、出力制御部25は、選定の結果に従って、情報を提供するように出力装置を制御する。
【0042】
(ステップST6)
情報提供装置20が属性判定部26を追加的に備える場合には、ステップST6において、属性判定部26は、利用者の属性を判定する。
【0043】
この場合、ステップST4において、選定部24は、推定された意図に加えて、判定された属性に基づいて、提供する情報の内容または方法を選定する。
【0044】
(ステップST7)
情報提供装置20が環境判定部27を追加的に備える場合には、ステップST7において、環境判定部27は、利用者の環境を判定する。
【0045】
この場合、ステップST4において、選定部24は、推定された意図に加えて、判定された環境に基づいて、提供する情報の内容または方法を選定する。ステップST4において、選定部24は、推定された意図、判定された属性、および判定された環境に基づいて、提供する情報の内容または方法を選定してもよい。
【0046】
<動作;詳細>
<例1;図4Aおよび図4B
以下、図4Aおよび図4Bを参照して、動作の詳細な一例について説明をする。図4Aは、表示装置31に表示される情報の例を示す図である。より具体的には、図4Aは、表示装置31が「市民ホール」駅のプラットホームに設置されている場合を想定した表示例を示している。表示装置31には、列車の運行情報および停車駅、並びに市民ホール駅の出口および近隣情報が示されている。
【0047】
列車の運行情報として、「AB通り」行きの列車が、2分後に到着することを表している。「AB通り」行きの列車の停車駅は、「AB通り」駅と、「CD広場」駅とであることを、図4Aでは実線で示している。「EF通り」駅と「GH広場」駅は、「AB通り」行きの列車の進行方向と反対方向に存在する駅であり、「AB通り」行きの列車はこれらの駅に停車しない。「AB通り」行きの列車が「EF通り」駅または「GH広場」駅へ停車しないことを、図4Aでは破線で示している。
【0048】
また、図4Aの表示例において、矢印A1の方向へ進むと、出口E1があり、出口E1の近くには「市民ホール」と「LMタワー」があることが表されている。また、図4Aの表示例において、矢印A2の方向へ進むと、出口E2があり、出口E2の近くには「河川敷」と「バス乗り場」があることが表されている。
【0049】
図4Bは、図4Aの表示例において、視線追跡部21が追跡した利用者の視線の動きを示す図である。図4Bにおいて、「EF通り」または「GH広場」が表示されている領域を見つめる視線の軌跡をLOS1で表し、行き先の「AB通り」が表示されている領域を見つめる視線の軌跡をLOS2で表し、行き先の「AB通り」から「EF通り」または「GH広場」が表示されている領域への視線の軌跡をLOS3で表している。なお、LOS3の軌跡は、行き先の「AB通り」が表示されている領域から、「EF通り」または「GH広場」が表示されている領域の方向へ視線が動いていることを矢印で示している。
【0050】
意図推定部23は、これらの視線の軌跡LOS1~LOS3と、これらの視線の先、即ち軌跡LOS1~LOS3の位置に表示されている表示情報とを取得する。意図推定部23は、取得した情報に基づいて、利用者の視線が「EF通り」または「GH広場」が表示されている領域と、行き先の「AB通り」が表示されている領域とを往復する動きを検出した場合、視線の動きは複数の同じ領域を往復していると判定する。なお、「往復する動き」とは、往復しようとする動きであればよく、往復した動きでなくてもよい。例えば、LOS1に引き続いてLOS2を検出し、LOS3を検出した時点で「往復する動き」があると判定して良く、視線が完全にLOS1で示される領域に到達しなくてもよい。
【0051】
このような判定を行った場合、意図推定部23は、表示情報取得部22により取得された視線の先に表示されている情報に基づいて、視線の先に表示されている情報の特徴を解析する。図4Bの例では、軌跡LOS1の位置に表示されている情報は「EF通り」または「GH広場」であり、軌跡LOS2の位置に表示されている情報は「AB通り」であり、視線の先にある情報は反対方向の行き先に関する。このように、視線の動きが複数の同じ領域を往復する場合において、視線の先にある情報が反対方向の行き先に関するとき、意図推定部23は、図8の対応パターンテーブル1を参照して、対応パターンテーブル1の1行目に定義された対応パターンに該当すると判定し、利用者が行きたい駅は反対路線上にあると推定する。意図推定部23は、推定の結果を、選定部24へ出力する。
【0052】
選定部24は、意図推定部23により推定された推定結果を受け付けると、図8の対応パターンテーブル1を参照して利用者に提供する情報として「行きたい駅がある方面の番線の案内」を選定する。選定部24は、選定の結果を出力制御部25へ出力する。
【0053】
出力制御部25は、選定部24により選定された選定結果を受け付けると、選定結果に従った情報を提供するように表示装置31またはスピーカ32等の出力装置を制御する。「行きたい駅がある方面の番線の案内」が選定された場合、「GH広場行きの列車は反対の路線です」とのテキスト案内を表示装置31が表示するように表示制御をしてもよいし、「GH広場行きの列車は反対の路線です」との音声案内をスピーカ32が報知するように報知制御をしてもよい。
【0054】
<例2;図5A図5C
以下、図5A図5Cを参照して、動作の詳細な一例について説明をする。図5Aは、図4Aに即して説明をした表示例が表示される表示領域DA1に、表示領域DA2が追加された表示例を示している。表示領域DA2には、インフォメーションボタン41と、案内メッセージ42が表示されている。インフォメーションボタン41はタッチ操作が可能となるように、表示領域DA2にはタッチパネル等のタッチセンサが設けられている。案内メッセージ42として、「問い合わせの際は、こちらのボタンを押してください」とのメッセージが表示されている。
【0055】
図5Bは、図5Aの表示例において、視線追跡部21が追跡した利用者の視線の動きを示す図である。図5Bにおいて、インフォメーションボタン41が表示されている領域を見つめる視線の軌跡をLOS4で表し、案内メッセージ42が表示されている領域を見つめる視線の軌跡をLOS5で表し、案内メッセージ42が表示されている領域からインフォメーションボタン41が表示されている領域への視線の軌跡をLOS6で表している。なお、LOS6の軌跡は、案内メッセージ42が表示されている領域からインフォメーションボタン41が表示されている領域の方向へ視線が動いていることを矢印で示している。
【0056】
意図推定部23は、これらの視線の軌跡LOS4~LOS6と、これらの視線の先、即ち軌跡LOS4~LOS6の位置に表示されている表示情報とを取得する。意図推定部23は、取得した情報に基づいて、利用者の視線がインフォメーションボタン41が表示されている領域と、案内メッセージ42が表示されている領域とを往復する動きを検出した場合、視線の動きは複数の同じ領域を往復していると判定する。
【0057】
このような判定を行った場合、意図推定部23は、表示情報取得部22により取得された視線の先に表示されている情報に基づいて、視線の先に表示されている情報の特徴を解析する。図5Bの例では、軌跡LOS4の位置に表示されている情報はインフォメーションボタン41であり、軌跡LOS5の位置に表示されている案内メッセージ42はインフォメーションボタン41の案内メッセージであり、視線の先にある情報はいずれもインフォメーションボタン41に関する。このように、視線の動きが複数の同じ領域を往復する場合において、視線の先にある情報が同一の対象であるインフォメーションボタンに関するとき、意図推定部23は、図8の対応パターンテーブル1を参照して、対応パターンテーブル1の2行目に定義された対応パターンに該当すると判定し、「インフォメーションボタンが何かわからない」と推定する。意図推定部23は、推定の結果を、選定部24へ出力する。
【0058】
これらの図4Bの例と図5Bの例から理解できるように、意図推定部23は、視線の動きが複数の同じ領域を往復するという同一の動きであったとしても、視線の先に何が表示されているのかを考慮することによって、利用者の意図を別異に推定する。
【0059】
選定部24は、意図推定部23により推定された推定結果を受け付けると、図8の対応パターンテーブル1を参照して利用者に提供する情報として「インフォメーションボタンに関する詳細説明」を選定する。選定部24は、選定の結果を出力制御部25へ出力する。
【0060】
出力制御部25は、選定部24により選定された選定結果を受け付けると、選定結果に従った情報を提供するように表示装置31またはスピーカ32等の出力装置を制御する。「インフォメーションボタンに関する詳細説明」が選定された場合、例えば図5Cに示されているように、「iボタンをタッチすると、駅員と話せます。介助が必要な場合、緊急の場合等はご連絡ください。」とのテキスト案内を表示装置31が表示するように表示制御をしてもよい。出力制御部25は、同様の案内を音声により行うようにスピーカ32を制御してもよい。
【0061】
<例3;図6Aおよび図6B
以下、図6Aおよび図6Bを参照して、動作の詳細な一例について説明をする。図6Aは、図4Aの表示例において、視線追跡部21が追跡した利用者の視線の動きを示す図である。図6Aにおいて、「2」が表示されている領域を見つめる視線の軌跡をLOS7で表し、「min」が表示されている領域を見つめる視線の軌跡をLOS8で表し、「min」が表示されている領域から「2」が表示されている領域への視線の軌跡をLOS9で表している。なお、LOS9の軌跡は、「min」が表示されている領域から「2」が表示されている領域の方向へ視線が動いていることを矢印で示している。
【0062】
意図推定部23は、これらの視線の軌跡LOS7~LOS9と、これらの視線の先、即ち軌跡LOS7~LOS9の位置に表示されている表示情報とを取得する。意図推定部23は、取得した情報に基づいて、利用者の視線が「2」が表示されている領域と、「min」が表示されている領域とを往復する動きを検出した場合、視線の動きは複数の同じ領域を往復していると判定する。
【0063】
このような判定を行った場合、意図推定部23は、表示情報取得部22により取得された視線の先に表示されている情報に基づいて、視線の先に表示されている情報の特徴を解析する。図6Aの例では、軌跡LOS7の位置に表示されている情報は「2」であり、軌跡LOS8の位置に表示されている情報は「min」であり、視線の先にある情報はいずれも到着時刻に関する。このように、視線の動きが複数の同じ領域を往復する場合において、視線の先にある情報が同一の対象である到着時刻に関するとき、意図推定部23は、図8の対応パターンテーブル1を参照して、対応パターンテーブル1の3行目に定義された対応パターンに該当すると判定し、利用者は「分刻みの時間ではなく、残り時間を秒単位で見たい」と推定する。意図推定部23は、推定の結果を、選定部24へ出力する。
【0064】
選定部24は、意図推定部23により推定された推定結果を受け付けると、図8の対応パターンテーブル1を参照して利用者に提供する情報として「カウントダウン用のリングの表示」を選定する。選定部24は、選定の結果を出力制御部25へ出力する。
【0065】
出力制御部25は、選定部24により選定された選定結果が「カウントダウン用のリングの表示」である場合、選定結果に従った情報を提供するように表示装置31を制御する。例えば、図6Bに示されているように、出力制御部25は、カウントダウン用のリングを表示するように表示装置31の表示制御を行う。このリングの表示は、例えば秒単位で表示が変化してよい。
【0066】
<例4;図7Aおよび図7B
以下、図7Aおよび図7Bを参照して、動作の詳細な一例について説明をする。図7Aは、図4Aの表示例において、視線追跡部21が追跡した利用者の視線の動きを示す図である。図7Aにおいて、「市民ホール」および「LMタワー」が表示されている領域を見つめる視線の軌跡をLOS10で表し、矢印A1が表示されている領域を見つめる視線の軌跡をLOS11で表し、矢印A1が表示されている領域から「市民ホール」および「LMタワー」が表示されている領域への視線の軌跡をLOS12で表している。なお、LOS12の軌跡は、矢印A1が表示されている領域から「市民ホール」および「LMタワー」が表示されている領域の方向へ視線が動いていることを矢印で示している。
【0067】
意図推定部23は、これらの視線の軌跡LOS10~LOS12と、これらの視線の先、即ち軌跡LOS10~LOS12の位置に表示されている表示情報とを取得する。意図推定部23は、取得した情報に基づいて、利用者の視線が「市民ホール」および「LMタワー」が表示されている領域と、矢印A1が表示されている領域とを往復する動きを検出した場合、視線の動きは複数の同じ領域を往復していると判定する。
【0068】
このような判定を行った場合、意図推定部23は、表示情報取得部22により取得された視線の先に表示されている情報に基づいて、視線の先に表示されている情報の特徴を解析する。図7Aの例では、軌跡LOS10の位置に表示されている情報は「市民ホール」および「LMタワー」であり、軌跡LOS11の位置に表示されている情報は矢印A1であり、視線の先にある情報はいずれも出口に関する。このように、視線の動きが複数の同じ領域を往復する場合において、視線の先にある情報が同一の対象である出口に関するとき、意図推定部23は、図8の対応パターンテーブル1を参照して、対応パターンテーブル1の4行目に定義された対応パターンに該当すると判定し、「目的地の表示がないので、目的地の出口がどちらか分からない」と推定する。意図推定部23は、推定の結果を、選定部24へ出力する。
【0069】
選定部24は、意図推定部23により推定された推定結果を受け付けると、図8のテーブルを参照して利用者に提供する情報として「目的地に関する追加の表示」を選定する。選定部24は、選定の結果を出力制御部25へ出力する。
【0070】
出力制御部25は、選定部24により選定された選定結果を受け付けると、選定結果に従った情報を提供するように表示装置31またはスピーカ32等の出力装置を制御する。「目的地に関する追加の表示」が選定された場合、出力制御部25は、例えば図7Bのように、「MNホテル」および「タクシー乗り場」を表示するように表示装置31の表示制御を行う。追加の表示の具体的内容を定める際は、「市民ホール」、「LMタワー」、または矢印A1が表示されている位置の情報に基づいてよい。
【0071】
<属性または環境の考慮;図9
選定部24は、利用者の属性または環境に基づいて、提供する情報の内容または情報を提供する方法を定めてもよい。この点について、図9を参照して説明をする。上述のとおり、図9は、対応パターンテーブル2の一例を示す図である。
【0072】
選定部24は、属性判定部26により判定された利用者(対象人物)の属性、または環境判定部27により判定された対象人物の環境に基づいて、対応パターンテーブル2を参照して、情報を提供する方法を判定してもよい。
【0073】
一例として、属性判定部26による判定結果が利用者は「聴覚障害者」であることを示す場合、選定部24は、その判定結果に基づき、対応パターンテーブル2を参照して、情報を「画面に文字で表示する」と判定してよい。
【0074】
一例として、環境判定部27による判定結果が「周囲の音が小さい」と示す場合、選定部24は、その判定結果に基づき、対応パターンテーブル2を参照して、情報を「その人の近くの放送機器から音声情報として発信する」と判定してよい。
【0075】
一例として、環境判定部27による判定結果が「周囲の音が大きい」と示す場合、選定部24は、その判定結果に基づき、対応パターンテーブル2を参照して、情報を「画面に文字で表示する」と判定してよい。
【0076】
一例として、属性判定部26による判定結果が「車いす利用者である」を示す場合であって、環境判定部27による判定結果が利用者が「1人」であることを示す場合、選定部24は、これらの判定結果に基づき、対応パターンテーブル2を参照して、「車いすルートボタンを表示する」と判定してよい。なお、「車いすルートボタン」とは、車いすで移動できるルートを示すボタンを意味する。
【0077】
一例として、属性判定部26による判定結果が「車いす利用者」を示す場合であって、環境判定部27による判定結果が利用者が「1人」であって且つ天気が「雨天」であることを示す場合、選定部24は、これらの判定結果に基づき、対応パターンテーブル2を参照して、「2次交通(タクシー、バス)の乗車場所、連絡先情報を表示する」と判定してよい。
【0078】
一例として、属性判定部26による判定結果が利用者は「視覚障害者」であることを示す場合、選定部24は、その判定結果に基づき、対応パターンテーブル2を参照して、「右側または左側に何があるかを左右の指向性スピーカを活用して放送する」と判定してよい。この場合、選定部24は、この判定とともに、またはこの判定に代えて、「サイネージの存在を知らせる放送を流す」と判定してもよい。
【0079】
以上で説明をした情報提供装置20または情報提供システムSys.は、利用者の視線を検出して、検出した視線に基づいて利用者の意図を推定して、推定した意図に応じた情報提供を行う。したがって、従来技術のように紙またはモバイル端末等の特別のツールを要することなく情報を提供することができる。
【0080】
また、情報提供装置20または情報提供システムSys.は、検出した利用者の視線の先にどのような情報が表示されているかに基づいて利用者の意図を推定するので、利用者の意図を的確に推定することができる。推定を行う際、利用者の画像を撮像した時点において、表示装置31に表示されている表示情報を取得して分析することにより、意図の推定の精度が高められる。
【0081】
また、情報提供装置20または情報提供システムSys.は、利用者の属性または環境を考慮して、提供する情報の内容または情報を提供する方法を選定してもよい。属性または環境を考慮することにより、的確な情報の提供が可能となる。
【0082】
なお、実施形態を組み合わせたり、各実施形態を適宜、変形、省略したりすることが可能である。
【産業上の利用可能性】
【0083】
本開示の情報提供装置または情報提供システムは、駅の利用者等に対して情報を提示するデジタルサイネージシステムとして用いることができる。
【符号の説明】
【0084】
11 カメラ、12 マイク、13 記憶装置、14 記憶装置、15 記憶装置、20 情報提供装置、21 視線追跡部、22 表示情報取得部、23 意図推定部、24 選定部、25 出力制御部、26 属性判定部、27 環境判定部、31 表示装置、32 スピーカ、41 インフォメーションボタン、42 案内メッセージ、100a 処理回路、100b プロセッサ、100c メモリ。
【要約】
人を撮像した複数の画像と、前記複数の画像が撮像された時点において表示装置に表示されている表示情報とに基づいて、前記人の意図を推定する意図推定部(23)と、その推定した意図に応じて、提供する情報の内容または方法を選定する選定部(24)と、その選定の結果に従って、情報を提供するように出力装置を制御する出力制御部(25)と、を備える情報提供装置。
図1
図2A
図2B
図3
図4A
図4B
図5A
図5B
図5C
図6A
図6B
図7A
図7B
図8
図9