IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 京セラ株式会社の特許一覧

特開2024-110834表示制御プログラム、表示制御装置、及び表示制御方法
<>
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図1
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図2
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図3
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図4
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図5
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図6
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図7
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図8
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図9
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図10
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図11
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図12
  • 特開-表示制御プログラム、表示制御装置、及び表示制御方法 図13
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024110834
(43)【公開日】2024-08-16
(54)【発明の名称】表示制御プログラム、表示制御装置、及び表示制御方法
(51)【国際特許分類】
   G10L 15/28 20130101AFI20240808BHJP
   G06F 3/16 20060101ALI20240808BHJP
   G06F 3/14 20060101ALI20240808BHJP
   G10L 15/22 20060101ALI20240808BHJP
   G06F 40/157 20200101ALI20240808BHJP
   G09G 5/37 20060101ALI20240808BHJP
   G09G 5/00 20060101ALI20240808BHJP
   G09G 5/02 20060101ALI20240808BHJP
【FI】
G10L15/28 230K
G06F3/16 650
G06F3/14 350B
G10L15/22 460Z
G06F40/157
G09G5/37 600
G09G5/00 530D
G09G5/00 550C
G09G5/00 550B
G09G5/00 555G
G09G5/00 555D
G09G5/02 B
【審査請求】未請求
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2023015680
(22)【出願日】2023-02-03
(71)【出願人】
【識別番号】000006633
【氏名又は名称】京セラ株式会社
(74)【代理人】
【識別番号】100147485
【弁理士】
【氏名又は名称】杉村 憲司
(74)【代理人】
【識別番号】230118913
【弁護士】
【氏名又は名称】杉村 光嗣
(74)【代理人】
【識別番号】100132045
【弁理士】
【氏名又は名称】坪内 伸
(74)【代理人】
【識別番号】100147692
【弁理士】
【氏名又は名称】下地 健一
(72)【発明者】
【氏名】福繁 竜也
【テーマコード(参考)】
5B069
5B109
5C182
【Fターム(参考)】
5B069BA04
5B069CA13
5B069DB05
5B069KA02
5B109RB31
5B109TA11
5C182AA04
5C182AA22
5C182AC02
5C182AC03
5C182AC43
5C182BA01
5C182BA03
5C182BA04
5C182BA06
5C182BA35
5C182BA66
5C182BC01
5C182BC22
5C182BC25
5C182BC26
5C182CA01
5C182CA32
5C182CB12
5C182CB34
5C182CB47
5C182CB52
5C182DA63
5C182DA65
(57)【要約】
【課題】音声認識を用いた対話システムにおいて表示された誤りを、他のユーザにわかり易く高い正確性で非表示にできるようにする。
【解決手段】表示制御プログラムは、複数のユーザの間に配置される表示部と、前記複数のユーザに含まれる少なくとも第1ユーザの音声が音声認識によって変換された文字情報を取得して前記表示部に表示させる表示制御装置とを備える表示システムを制御する表示制御プログラムであって、前記第1ユーザの入力に応じて、前記表示部に表示されている表示物の少なくとも一部を表示されないようにし、少なくとも前記表示物の前記少なくとも一部を表示されないようにする処理中、前記第1ユーザの音声が変換された文字情報を取得しないようにする処理を、前記表示制御装置の制御部に実行させる。
【選択図】図10
【特許請求の範囲】
【請求項1】
複数のユーザの間に配置される表示部と、前記複数のユーザに含まれる少なくとも第1ユーザの音声が音声認識によって変換された文字情報を取得して前記表示部に表示させる表示制御装置とを備える表示システムを制御する表示制御プログラムであって、
前記第1ユーザの入力に応じて、前記表示部に表示されている表示物の少なくとも一部を表示されないようにし、少なくとも前記表示物の前記少なくとも一部を表示されないようにする処理中、前記第1ユーザの音声が変換された前記文字情報を取得しないようにする処理を、前記表示制御装置の制御部に実行させる表示制御プログラム。
【請求項2】
前記第1ユーザの前記入力から、所定の時間が経過するまで前記文字情報を取得しないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項3】
前記表示部は、前記文字情報を表示する領域として、前記複数のユーザの全てに対して前記文字情報が見えるように表示する第1表示領域と、前記第1ユーザに対して前記文字情報を表示し、前記複数のユーザに含まれる前記第1ユーザとは異なる第2ユーザに対して前記文字情報を表示しない第2表示領域とを含み、
前記第1ユーザの前記入力の一つである第1入力を受けたとき、前記第1表示領域に表示されている前記表示物を表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項4】
前記文字情報が特定の単語を含むとき、前記表示部に前記特定の単語に対応する図解を表示させ、前記第1ユーザの前記入力の一つである第2入力を受けたとき、前記図解の表示を削除する処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項5】
前記表示制御装置は前記文字情報を表示用文字情報として記憶する記憶部を備え、
前記記憶部に記憶されている前記表示用文字情報を前記表示部に表示させるようにし、前記第1ユーザの前記入力の一つである第3入力を受けたとき、前記記憶部に記憶されている前記表示用文字情報の一部を伏字に変更することにより、前記表示部に表示されている前記表示物の一部を表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項6】
前記音声認識によって変換された前記文字情報を解析し、前記第1ユーザの前記第3入力があった時点の単語から、該第3入力の直前の句読点までの前記表示用文字情報の前記一部を伏字に変更する処理を前記制御部に実行させる、請求項5に記載の表示制御プログラム。
【請求項7】
前記第1ユーザの前記入力は、前記第1ユーザからの音声による指示に基づく第4入力を含む、請求項1に記載の表示制御プログラム。
【請求項8】
前記第1ユーザの前記入力を受けたとき、前記表示部の電源を切ることにより、前記表示物の前記全てを表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項9】
前記表示部は、プロジェクタと、前記プロジェクタの表示用スクリーンとを含み、前記第1ユーザの前記入力を受けたとき、前記プロジェクタの光軸の向き及び焦点距離の少なくとも何れかを変更することにより、前記表示物の前記全てを表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項10】
前記表示制御装置は前記文字情報を表示用文字情報として記憶する記憶部を備え、
前記記憶部に記憶されている前記表示用文字情報を前記表示部に表示させるように構成され、前記第1ユーザの前記入力を受けたとき、前記表示用文字情報を消去することにより、前記表示物の前記一部又は前記全てを表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項11】
前記第1ユーザの前記入力を受けたとき、前記表示部と前記表示制御装置との間の通信を切断することにより、前記表示物の前記全てを表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項12】
前記第1ユーザの前記入力を受けたとき、前記表示部に表示されている表示物の色を変更することにより、前記表示物の前記一部又は前記全てを表示されないようにする処理を前記制御部に実行させる、請求項1に記載の表示制御プログラム。
【請求項13】
請求項1に記載のプログラムを記憶する記憶部と、
前記プログラムを実行する制御部と
を備える表示制御装置。
【請求項14】
複数のユーザの間に配置される表示部と、前記複数のユーザに含まれる少なくとも第1ユーザの音声が音声認識によって変換された文字情報を取得して前記表示部に表示させる表示制御装置とを備える表示システムを制御する表示制御方法であって、
前記表示制御装置の制御部が、前記第1ユーザの入力に応じて、前記表示部に表示されている表示物の少なくとも一部を表示されないようにし、少なくとも前記表示物の前記少なくとも一部を表示されないようにする処理中、前記第1ユーザの音声が変換された前記文字情報を取得しないようにする、表示制御方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、表示制御プログラム、表示制御装置、及び表示制御方法に関する。
【背景技術】
【0002】
二人のユーザが対話するとき、ユーザの発話をテキスト化して画面に表示するシステムであって、ユーザの動作に基づいてテキストの表示量を制御するシステムが提案されている(例えば、特許文献1参照)。
【0003】
特許文献1によれば、システムが、一方のユーザの発話を音声認識によりテキスト化し、聴覚に不安がある他のユーザ用の表示部に表示している。さらに、引用文献1によれば、システムが他のユーザの動作、例えば、うなずき等に基づいて発話テキストの表示量を制御している。また、引用文献1には、表示されているテキストに対して、ユーザが編集操作を行うことができることも記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】国際公開第2018/105373号明細書
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、発話中のユーザにより表示中のテキストが中途半端に削除されたり、発話内容のテキスト化が進行中にその一部が削除されたりすると、聞き手のユーザに違和感又は混乱が生じることが懸念される。音声認識技術を用いてユーザの対話を支援するシステムは、使いやすさ及び直感的な理解しやすさの点で、改善すべき点がある。
【0006】
したがって、本開示の目的は、音声認識を用いた対話システムにおいて表示された誤りを、他のユーザにわかり易く高い正確性で削除できるようにすることである。
【課題を解決するための手段】
【0007】
一実施形態において、(1)表示制御プログラムは、複数のユーザの間に配置される表示部と、前記複数のユーザに含まれる少なくとも第1ユーザの音声が音声認識によって変換された文字情報を取得して前記表示部に表示させる表示制御装置とを備える表示システムを制御する表示制御プログラムであって、前記第1ユーザの入力に応じて、前記表示部に表示されている表示物の少なくとも一部を表示されないようにし、少なくとも前記表示物の前記少なくとも一部を表示されないようにする処理中、前記第1ユーザの音声が変換された前記文字情報を取得しないようにする処理を、前記表示制御装置の制御部に実行させる。
【0008】
(2)上記(1)の表示制御プログラムは、前記第1ユーザの前記入力から、所定の時間が経過するまで前記文字情報を取得しないようにする処理を前記制御部に実行させることができる。
【0009】
(3)上記(1)又は(2)の表示制御プログラムにおいて、前記表示部は、前記文字情報を表示する領域として、前記複数のユーザの全てに対して前記文字情報が見えるように表示する第1表示領域と、前記第1ユーザに対して前記文字情報を表示し、前記複数のユーザに含まれる前記第1ユーザとは異なる第2ユーザに対して前記文字情報を表示しない第2表示領域とを含み、前記表示制御プログラムは、前記第1ユーザの前記入力の一つである第1入力を受けたとき、前記第1表示領域に表示されている前記表示物を表示されないようにする処理を前記制御部に実行させることができる。
【0010】
(4)上記(1)から(3)の何れかの表示制御プログラムは、前記文字情報が特定の単語を含むとき、前記表示部に前記特定の単語に対応する図解を表示させ、前記第1ユーザの前記入力の一つである第2入力を受けたとき、前記図解の表示を削除する処理を前記制御部に実行させることができる。
【0011】
(5)上記(1)から(4)の何れかの表示制御プログラムにおいて、前記表示制御装置は前記文字情報を表示用文字情報として記憶する記憶部を備え、前記表示制御プログラムは、前記記憶部に記憶されている前記表示用文字情報を前記表示部に表示させるようにし、前記第1ユーザの前記入力の一つである第3入力を受けたとき、前記記憶部に記憶されている前記表示用文字情報の一部を伏字に変更することにより、前記表示部に表示されている前記表示物の一部を表示されないようにする処理を前記制御部に実行させることができる。
【0012】
(6)上記(5)の表示制御プログラムは、前記音声認識によって変換された前記文字情報を解析し、前記第1ユーザの前記第3入力があった時点の単語から、該第3入力の直前の句読点までの前記表示用文字情報の前記一部を伏字に変更する処理を前記制御部に実行させることができる。
【0013】
(7)上記(1)から(6)の何れかの表示制御プログラムにおいて、前記第1ユーザの前記入力は、前記第1ユーザからの音声による指示に基づく第4入力を含むことができる。
【0014】
(8)上記(1)から(7)の何れかの表示制御プログラムは、前記第1ユーザの前記入力を受けたとき、前記表示部の電源を切ることにより、前記表示物の前記全てを表示されないようにする処理を前記制御部に実行させることができる。
【0015】
(9)上記(1)から(8)の何れかの表示制御プログラムにおいて、前記表示部は、プロジェクタと、前記プロジェクタの表示用スクリーンとを含み、前記第1ユーザの前記入力を受けたとき、前記表示制御プログラムは、前記プロジェクタの光軸の向き及び焦点距離の少なくとも何れかを変更することにより、前記表示物の前記全てを表示されないようにする処理を前記制御部に実行させることができる。
【0016】
(10)上記(1)から(9)の何れかの表示制御プログラムにおいて、前記表示制御装置は前記文字情報を表示用文字情報として記憶する記憶部を備え、前記表示制御プログラムは、前記記憶部に記憶されている前記表示用文字情報を前記表示部に表示させるように構成され、前記第1ユーザの前記入力を受けたとき、前記表示用文字情報を消去することにより、前記表示物の前記一部又は前記全てを表示されないようにする処理を前記制御部に実行させることができる。
【0017】
(11)上記(1)から(10)の何れかの表示制御プログラムは、前記第1ユーザの前記入力を受けたとき、前記表示部と前記表示制御装置との間の通信を切断することにより、前記表示物の前記全てを表示されないようにする処理を前記制御部に実行させることができる。
【0018】
(12)上記(1)から(11)の何れかの表示制御プログラムは、前記第1ユーザの前記入力を受けたとき、前記表示部に表示されている表示物の色を変更することにより、前記表示物の前記一部又は前記全てを表示されないようにする処理を前記制御部に実行させることができる。
【0019】
一実施形態において、(13)表示制御装置は、上記(1)に記載のプログラムを記憶する記憶部と、前記プログラムを実行する制御部とを備える。
【0020】
一実施形態において、(14)表示制御方法は、複数のユーザの間に配置される表示部と、前記複数のユーザに含まれる少なくとも第1ユーザの音声が音声認識によって変換された文字情報を取得して前記表示部に表示させる表示制御装置とを備える表示システムを制御する表示制御方法であって、前記表示制御装置の制御部が、前記第1ユーザの入力に応じて、前記表示部に表示されている表示物の少なくとも一部を表示されないようにし、少なくとも前記表示物の前記少なくとも一部を表示されないようにする処理中、前記第1ユーザの音声が変換された前記文字情報を取得しないようにする。
【発明の効果】
【0021】
本開示の実施形態によれば、音声認識を用いた対話システムにおいて表示された誤りを、他のユーザにわかり易く高い正確性で非表示にするすることができる。
【図面の簡単な説明】
【0022】
図1】一実施形態に係る表示システムの利用シーンを説明する斜視図である。
図2図1の表示システムを上から見た図である。
図3図1の表示システムの概略構成を示すブロック図である。
図4】第1ユーザの側から見た透明スクリーンの表示の一例を示す図である。
図5】第2ユーザの側から見た透明スクリーンの表示の一例を示す図である。
図6】第1ユーザの側から見た透明スクリーンの表示の他の一例であって、図解表示を含む表示を示す図である。
図7】表示制御装置の記憶部に含まれるサブ記憶部の構成を示す図である。
図8】表示制御装置のサブ記憶部間のデータの流れを示す図である。
図9】表示制御装置の制御部が実行する表示制御処理の一例を示すフロー図である。
図10図9の表示物非表示処理の一例を説明するフロー図である。
図11】第1ユーザの側から見た透明スクリーンの表示の他の一例であって、文字情報の一部を非表示にした図である。
図12図9の表示物非表示処理のより詳細な一例を示すフロー図である。
図13】ユーザの動作とともにサブ記憶部に記憶される文字情報の一例を示す図である。
【発明を実施するための形態】
【0023】
以下、本開示の実施形態について、図面を参照して説明する。以下の説明で用いられる図は模式的なものである。図面上の寸法及び比率等は現実のものとは必ずしも一致していない。
【0024】
(表示システムの構成)
一実施形態に係る表示システム1は、図1及び図2に示すように、第1ユーザU1と第2ユーザU2との間の対話を支援するシステムである。一例として、第1ユーザU1は、政府、自治体、又は、公的機関の窓口を担当する職員である。第2ユーザU2は、例えば、政府、自治体、又は、公的機関に訪れた聴覚障害者である。表示システム1が使用される場面は、上述のものに限られない。表示システム1は、金融機関、医療機関及び公共交通機関等の窓口、民間事業者の営業店舗、ならびに、オフィス内の会議室等においても使用されうる。
【0025】
近年、感染症の流行により、顧客と接する場面で窓口担当者と顧客との間に、飛沫対策のためのアクリル板又はビニールカーテン等が設置されることがある。表示システム1では、これらのアクリル板又はビニールカーテン等を基材10とし、この基材10に透明スクリーン5を配置する。透明スクリーン5は、表示用スクリーンである。この、透明スクリーン5に対して、プロジェクタ30から第1ユーザU1の発話内容が投影される。これにより、透明スクリーン5を挟んで第1ユーザU1に対向して位置する第2ユーザU2は、第1ユーザU1の発話内容を聞き取ることができない場合であっても、第1ユーザU1の発話内容を目視して確認することができる。
【0026】
透明スクリーン5は、基材10の任意の場所に配置することができる。透明スクリーン5は、第1ユーザU1と第2ユーザU2とが互いの顔を目視することを妨げない位置に配置されてよい。例えば、透明スクリーン5は、第1ユーザU1及び第2ユーザU2が、視線を水平方向から下側に下げた位置に配置されてよい。
【0027】
表示システム1は、図3に示すように、透明スクリーン5と、表示制御装置20と、プロジェクタ30と、マイク40とを含む。透明スクリーン5及びプロジェクタ30は、表示部を構成する。表示制御装置20と、プロジェクタ30及びマイク40のそれぞれとは、無線又は有線で通信可能に接続される。表示制御装置20には、外付けの部分として操作部25が接続されてよい。表示制御装置20は、通信回線を介して音声認識処理を提供する外部のクラウドサーバ60と通信可能に構成される。
【0028】
透明スクリーン5は、基材10に配置されたスクリーン部11と遮光部12とを含む。
【0029】
スクリーン部11は、基材10に張付けることが可能なプロジェクタ投影用のフィルム状、シート状又は板状の部材等とすることができる。一般に、スクリーン部11自体が、「透明スクリーン」と呼ばれることがある。スクリーン部11は、プロジェクタ30から入射した光の一部を、入射側及び出射側に拡散させる。第1ユーザU1及び第2ユーザU2は、スクリーン部11により拡散された光が視界に入ることにより、プロジェクタ30から投影された画像を認識することができる。スクリーン部11の形状は、例えば、長方形とすることができるが、これに限られない。スクリーン部11は、種々の形状にすることができる。
【0030】
遮光部12は、プロジェクタ30から射出される光の透過を少なくとも部分的に遮ることができる光学要素である。遮光部12は、例えば、特定の波長の光を抑制するダイクロイックフィルムである。遮光部12は、例えば、赤色を通さないダイクロイックフィルムを使用することができる。遮光部12は、スクリーン部11の一部に重ねて配置することができる。例えば、遮光部12は、スクリーン部11の表面に重ねて配置される。遮光部12の形状は、例えば、長方形とすることができるが、これに限られない。遮光部12は、種々の形状にすることができる。
【0031】
マイク40は、第1ユーザU1の側に配置される。例えば、マイク40は、第1ユーザU1の前の机の上に配置されてよい。また、マイク40は、第1ユーザU1の装着するヘッドセットに取り付けられていてよい。マイク40は、第1ユーザU1の発する音声を電気信号(以下、「音声信号」とも呼ぶ)に変換して、表示制御装置20に出力する。
【0032】
表示制御装置20は、マイク40から音声信号を取得して、クラウドサーバ60に送信する。表示制御装置20は、クラウドサーバ60で音声信号を音声認識処理により変換した文字情報を取得する。表示制御装置20は、取得した文字情報に基づく画像信号をプロジェクタ30に送信し、透明スクリーン5に文字情報に対応した文字列を投影して表示させる。表示制御装置20は、例えば、携帯電話(スマートフォン)及びパソコン等の汎用の機器、又は、専用機器を使用することができる。表示制御装置20は、通信部21、制御部22、記憶部23、入力部24、及び操作部25を含んで構成される。
【0033】
通信部21は、無線又は有線の通信手段により、表示制御装置20の外部の機器と通信を行う。外部の機器には、マイク40、プロジェクタ30及びクラウドサーバ60が含まれる。通信部21は、例えば、シリアル通信規格、有線LAN(local area network)規格、Wifi等の無線LAN規格、並びに、4G(4th Generation)及び5G(5th Generation)等の移動体通信規格等の種々の通信方式による通信に対応してよい。通信部21は、クラウドサーバ60に対する音声信号の送信、及び、音声信号が変換された文字情報の受信を行うことができる。
【0034】
制御部22は、一つ又は複数のプロセッサを含む。プロセッサには、特定のプログラムを読み込ませて特定の機能を実行する汎用のプロセッサ、及び、特定の処理に特化した専用のプロセッサが含まれる。専用のプロセッサには、特定用途向けIC(ASIC;Application Specific Integrated Circuit)が含まれる。プロセッサには、プログラマブルロジックデバイス(PLD;Programmable Logic Device)が含まれる。PLDには、FPGA(Field-Programmable Gate Array)が含まれる。制御部22は、一つ又は複数のプロセッサが協働するSoC(System-on-a-Chip)、及びSiP(System In a Package)のいずれかであってよい。
【0035】
制御部22は、表示制御装置20全体を制御するとともに、マイク40により取得される音声信号を、通信部21を介してクラウドサーバ60に送信するように構成される。制御部22は、通信部21を介して、クラウドサーバ60により音声信号から変換された文字情報を取得するように構成される。制御部22は、取得した文字情報を表示物としてプロジェクタ30に表示させる。本開示において「表示物」とは、プロジェクタ30により透明スクリーン5上に表示される対象となる文字列及び画像を意味する。「表示物」は、透明スクリーン5上に画像要素として投影される。
【0036】
制御部22は、クラウドサーバ60から取得した第1ユーザU1の発話内容の文字情報を、表示物としてプロジェクタ30に対して表示させる。制御部22は、透明スクリーン5上での表示物の表示位置及び表示態様を制御することができる。制御部22は、後述するように、第1ユーザU1の発話内容の文字情報に基づく文字列を、第1表示物DO1及び第1表示物DO1を左右反転した第2表示物DO2としてプロジェクタ30に投影させることができる。このため、制御部22は、通信部21を介して、第1表示物DO1と第2表示物DO2とを適宜の位置に表示させる画像信号をプロジェクタ30に送信する。
【0037】
制御部22は、第1ユーザU1から特定の入力を受けて、プロジェクタ30に表示させている表示物の少なくとも一部を表示させないようにすることができる。制御部22は、入力部24、操作部25又はマイク40からそのような特定の入力を受けることができる。表示物を表示させないようにすることは、表示物そのものを削除することと、表示物を見えなくすることとを含む。
【0038】
制御部22は、表示物の少なくとも一部を表示させないようにする処理中、第1ユーザU1の音声が変換された文字情報を取得しないようにする。文字情報を取得しない方法には、第1ユーザU1の音声信号そのものを取得しないこと、音声信号を処理しないこと、及び、音声信号をクラウドサーバ60に送信しないことが含まれる。制御部22は、所定の時間が経過するまで第1ユーザU1の音声を取得しないようにしてよい。所定の時間は、例えば、1秒以上5秒以内の範囲から選択されてよい。そのようにすることにより、表示物の削除後に、中途半端な入力が表示されることを防ぐことができる。また、このように所定の時間を空けることにより、第1ユーザは意図したように表示物が表示されない状態になったことを確認することができる。したがって、第1ユーザU1は、高い正確性で表示物を表示されないようにすることができる。
【0039】
記憶部23は、制御部22が実行するプログラム、制御部22が実行する処理に必要な情報、及び、制御部22が実行した結果得られた情報を記憶するように構成される。記憶部23は、複数の種類のデータを個別に記憶及び管理している。本願では、この個別に記録及び管理されるデータを格納する部分をサブ記憶部と呼ぶ。サブ記憶部については後述する。
【0040】
記憶部23は、半導体記憶装置、磁気記憶装置、光記憶装置の少なくとも何れかを含んでよい。半導体記憶装置は、DRAM(Dynamic Random Access Memory)及びSRAM(Static Random Access Memory)等の揮発性メモリ、ならびに、ROM(Read Only Memory)及びフラシュメモリ等の不揮発性メモリを含んでよい。半導体記憶装置には、フラッシュメモリを用いたSSD(Solid State Drive)が含まれる。磁気記憶装置は、磁気テープ、フロッピー(登録商標)ディスク、ハードディスク等が含まれる。光記憶装置は、例えばCD(Compact Disc)、DVD(Digital Versatile Disc)、及びブルーレイ(Blu-ray(登録商標))等が含まれる。
【0041】
入力部24は、表示制御装置20に対する第1ユーザU1の操作を受け付ける装置である。入力部24は、例えば、タッチパネル、キーボード、マウス、及び、ペン入力デバイスを含む。入力部24は、表示制御装置20に内蔵されていてよい。
【0042】
入力部24は、表示制御装置20に外付けされた操作部25を含んでよい。一例として、操作部25は、1つ以上のスイッチSw1~Sw3を含んでよい。スイッチSw1~Sw3は、例えば、押しボタンスイッチである。第1ユーザU1は、スイッチSw1~Sw3を操作することにより、表示制御装置20に対してプロジェクタ30により表示されている表示物を表示されないようにすることを指示することができる。
【0043】
プロジェクタ30は、第1ユーザU1の側に配置され、表示制御装置20から受信した画像信号に基づいて、透明スクリーン5に対して表示物を投影する。プロジェクタ30は、文字列からなる表示物に加え、静止画像及び動画像等を透明スクリーン5の所定の位置に投影してよい。
【0044】
クラウドサーバ60は、インターネット等のネットワークを介してアクセスできるサーバである。本実施形態のクラウドサーバ60は、音声認識サービスを提供する音声認識サーバである。クラウドサーバ60は、音声信号を受信すると受信した音声信号に対して音声認識処理を実行する。クラウドサーバ60は、音声認識の結果得られた文字情報を音声信号の送信元へ送信する。クラウドサーバ60は音声認識処理を有料又は無料のサービスとして提供する。
【0045】
(表示システムの表示例)
次に、表示制御装置20からの画像信号に基づいて、プロジェクタ30が透明スクリーン5に表示する画像について説明する。透明スクリーン5において、スクリーン部11上の領域は、第1表示領域A1、第2表示領域A2及び第3表示領域A3に分けて使用される。第1表示領域A1は、スクリーン部11と遮光部12とが重ならない領域であって、文字情報が表示される領域である。第2表示領域A2は、スクリーン部11と遮光部12とが重なる領域である。第3表示領域A3は、スクリーン部11と遮光部12とが重ならない領域であって、静止画像及び/又は動画像が表示される領域である。第3表示領域A3を図解表示領域ともいう。
【0046】
第1表示領域A1は、第1ユーザU1の発話内容を文字情報にして第2ユーザU2に対して表示するために使用される。プロジェクタ30が第1表示領域A1に表示する表示物を第1表示物DO1と呼ぶ。第2表示領域A2は、第2ユーザU2に対して表示される第1表示物DO1の内容を、第1ユーザU1が確認するために、第1ユーザU1に対して表示する領域である。プロジェクタ30が第2表示領域A2に表示する表示物を第2表示物DO2と呼ぶ。第2表示物DO2は、第1表示物DO1を左右反転した表示物である。
【0047】
図4に示すように、透明スクリーン5は、第1ユーザU1から見たとき、第1表示領域A1に第1表示物DO1が表示される。また、第2表示領域A2には、第2表示物DO2が表示される。第1ユーザU1に対して、第1表示物DO1は鏡文字として表示される。第2表示物DO2は正文字として表示される。「鏡文字」とは、正常な文字の左右を反転させた文字である。「正文字」とは、通常の態様で表示された文字である。
【0048】
一方、プロジェクタ30が透明スクリーン5に投影する画像と同じ画像を、第2ユーザU2側から見ると、図5に示すように、第1表示物DO1は正文字として表示される。第2表示物DO2は、遮光部12が無ければ鏡文字として表示される。第2表示物DO2は、第2ユーザU2に対して表示する必要のない不要な文字であり、鏡文字であるため第2ユーザU2には紛らわしく感じられうる。スクリーン部11の第2表示領域A2に遮光部12が重ねて配置されることにより、第2表示物DO2は、第2ユーザU2に対して表示されない。
【0049】
例えば、遮光部12が、特定の波長(例えば、赤色の波長)の光の透過を妨げるダイクロイックフィルムである場合、プロジェクタ30は、第2表示物DO2を同じ特定の波長の光で投影する。これにより、第2表示物DO2を透明スクリーン5に向けて投影する投影光は、遮光部12で反射され第1ユーザU1に視認される。一方、同じ投影光は、遮光部12を透過しにくいので、第2ユーザU2の眼には入りにくくなる。これによって、第2ユーザU2は、鏡文字である第2表示物DO2を視認しづらくなる。そのため、第2ユーザU2は、第2表示物DO2に煩わされにくいというメリットがある。
【0050】
一実施形態において、遮光部12としては、ダイクロイックフィルムではなく、透過した光の伝搬する角度を限定するフィルム又は部材を用いることができる。透過した光の伝搬方向を制御するフィルムには、視野角制御フィルムが含まれる。また、他の方法として、遮光部12として偏光フィルムを用いることもできる。プロジェクタ30から第2表示領域A2に照射する光の偏光方向を、遮光部12の偏光フィルムの偏光方向と直交させることにより、第2ユーザU2から第2表示物DO2を視認できないようにすることができる。
【0051】
図6に例示するように、第3表示領域A3には、第1表示領域A1及び第2表示領域A2に表示されている文字列に関連する静止画像又は動画像が表示される。例えば、第3表示領域A3には、第1表示領域A1及び第2表示領域A2に表示されている文字列から抽出された特定の単語に対する図解が表示される。特定の単語は、解説用の静止画像及び/又は動画像を表示可能な単語として、記憶部23に図解単語として予め登録される。また、記憶部23には、図解単語に紐づけられた、静止画像及び/又は動画像データが、図解表示用データとして記憶される。図6に図示する例では、文字列の中に、登録された単語である「身体障害者手帳」が含まれるので、制御部22は、記憶部23から「身体障害者手帳」に紐づけられた図解表示用のデータを読み出して、プロジェクタ30に第3表示領域A3に表示させる。
【0052】
図4から図6に示す図は、第1表示領域A1、第2表示領域A2及び第3表示領域A3の配置の一例に過ぎない。第1表示領域A1、第2表示領域A2及び第3表示領域A3の位置、大きさ及び形状等は適宜設定されてよい。
【0053】
(記憶部の構成例)
表示制御装置20の記憶部23は、図7に示すように、RAM等の揮発性メモリ231と、ROM、フラッシュメモリ及び磁気記憶装置等の不揮発性記憶装置232とを含む。揮発性メモリ231は、サブ記憶部として音声データ一時記憶部23a、文字変換データ一時記憶部23b、表示用文字データ記憶部23c、ログ保存用文字データ記憶部23d、及び、図解表示データ記憶部23eを含む。不揮発性記憶装置232は、サブ記憶部として、音声データ保管部23f、強調単語記憶部23g、図解単語記憶部23h、図解表示データ記憶部23i、及び、文字データ保管部23jを含む。
【0054】
それぞれのサブ記憶部の機能を、図8を使用して説明する。各サブ記憶部は、制御部22の制御のもとで、情報の記憶、消去及び転送等を実行する。
【0055】
まず、音声データ一時記憶部23aは、マイク40で取得された音声データを一時的に記憶する。音声データ一時記憶部23aは、小容量のメモリであって、マイク40から音声データの入力を受ける度に、順次内容が更新される。音声データ一時記憶部23aは、取得した音声データを、順次音声認識処理を行うクラウドサーバ60と、音声データ保管部23fに転送する。音声データ保管部23fは、マイク40から入力された音声を音声データとして保管する。
【0056】
文字変換データ一時記憶部23bは、クラウドサーバ60で音声データから変換された文字情報を一時的に記憶する。文字変換データ一時記憶部23bは、小容量のメモリであって、クラウドから変換された文字情報の入力を受ける度に順次内容が更新される。文字変換データ一時記憶部23bは、取得した文字情報を、順次表示用文字データ記憶部23c及びログ保存用文字データ記憶部23dに送信する。
【0057】
ログ保存用文字データ記憶部23dは、文字変換データ一時記憶部23bから取得した文字情報を順次時系列で蓄積する。ログ保存用文字データ記憶部23dは、所定のタイミングで蓄積した文字情報を文字データ保管部23jに転送する。所定のタイミングは、マイク40がOFFにされたとき、表示制御装置20が電源オフなどにより終了処理を行うとき、及び、ログ保存用文字データ記憶部23dに蓄積される文字情報が蓄積可能な上限値に近い所定の容量を上回ったとき等の何れかを含んでよい。文字データ保管部23jは、変換された文字情報を保管する。これにより、表示制御装置20は、第1ユーザU1の発話内容を記録することができる。
【0058】
表示用文字データ記憶部23cは、第1表示領域A1及び第2表示領域A2に第1表示物DO1及び第2表示物DO2として表示される文字列に対応する文字情報を表示用文字情報として記憶する。表示用文字データ記憶部23cに記憶される表示用文字情報は、制御部22が行う以下の表示処理により第1表示物DO2及び第2表示物DO2としてプロジェクタ30により透明スクリーン5に投影される。
【0059】
強調単語記憶部23gは、表示物として表示する際に強調表示すべき単語を強調単語として記憶する。会話の中で重要となるキーワードは、予め強調単語として強調単語記憶部23gに記憶される。強調単語は、表示システム1が使用される分野ごとに異なる単語のセットが登録されてよい。制御部22は、表示用文字データ記憶部23cに記憶される表示用文字情報中に強調単語が含まれているか探索し、含まれている場合は表示処理で強調単語の強調処理を行う。
【0060】
図解単語記憶部23hは、解説用の静止画像及び/又は動画像を表示可能な特定の単語である図解単語を記憶する。図解単語に対応する静止画像及び/又は動画像のデータは、図解表示データとして図解表示データ記憶部23iに記憶される。制御部22は、表示用文字データ記憶部23cに記憶される表示用文字情報中に図解単語が含まれているか探索する。表示用文字情報中に図解単語が含まれていた場合、制御部22は、図解単語に対応して図解表示データ記憶部23iに記憶される静止画像及び/又は動画像のデータを、図解表示データ記憶部23eにコピーする。
【0061】
図解表示データ記憶部eは、第3表示領域A3(図解表示領域)に第3表示物DO3として表示される静止画像及び/又は動画像を記憶する。制御部22は、表示処理において図解表示データ記憶部23iから対応する静止画像及び/又は動画像のデータを読み出して、第3表示領域A3に表示する。図解表示データ記憶部23eに記憶される静止画像及び/又は動画像は、制御部22が行う以下の表示処理により第3表示物DO3としてプロジェクタ30により透明スクリーン5に投影される。
【0062】
制御部22は、プロジェクタ30に送信する画像信号を図8の表示処理で生成する。制御部22は、表示用文字データ記憶部23cから表示用文字情報を取得し、第1表示物DO1である文字列及び第2表示物DO2である文字列を含む画像信号を生成する。制御部22は、表示用文字情報に強調単語が含まれる場合、その単語に対応する文字列の色を、例えば黄色などの目立つ色に変更する。制御部22は、表示用文字情報に図解単語が含まれる場合、第3表示領域A3に、図解表示データ記憶部23eに記憶される静止画像及び/又は動画像が表示されるように、プロジェクタ30に送信する画像信号を生成する。
【0063】
このようにして、プロジェクタ30から透明スクリーン5に対して、図6に示したような画像が投影される。
【0064】
(制御部の実行する表示制御装置の表示制御方法)
以下に、図9を参照して表示制御装置20の制御部22が実行する表示制御方法について説明する。表示制御装置20は、以下に説明する制御部22が行う処理を、非一時的なコンピュータ可読媒体に記録された表示制御プログラムを読み込んで実装するように構成されてよい。非一時的なコンピュータ可読媒体は、磁気記憶媒体、光学記憶媒体、光磁気記憶媒体、半導体記憶媒体を含むがこれらに限られない。磁気記憶媒体は、磁気ディスク、ハードディスク、磁気テープを含む。光学記憶媒体は、CD(Compact Disc)、DVD、ブルーレイディスク(Blu-ray(登録商標) Disc)等の光ディスクを含む。半導体記憶媒体は、ROM(Read Only Memory)、EEPROM(Electrically Erasable Programmable Read-Only Memory)、フラッシュメモリ等を含む。
【0065】
まず、第1ユーザU1が表示システム1を起動すると、制御部22は、マイク40から通信部21を介して音声信号の取得を開始する(ステップS101)。本実施形態において、マイク40は、第1ユーザU1の近くに配置されるので、第1ユーザU1の発話した音声を取得する。制御部22は、マイク40から取得した音声信号から、雑音を低減し人の音声の信号を選択的に取得するように構成されてよい。
【0066】
制御部22は、通信部21を介して、クラウドサーバ60へステップS101で取得した音声信号の送信を開始する(ステップS102)。クラウドサーバ60に送信された音声信号は、クラウドサーバ60により音声認識処理を受ける。クラウドサーバ60は、音声信号から人の声を抽出し自然言語処理により発話内容を示す文字情報に変換する。
【0067】
クラウドサーバ60は、生成した文字情報を表示制御装置20に対して送信する。音声信号に、人の声が含まれない場合、クラウドサーバ60は文字情報を表示制御装置20に送信しなくてよい。これにより、表示制御装置20の制御部22は、通信部21を介してステップS102で送信した音声信号から変換された文字情報を取得する(ステップS103)。
【0068】
制御部22は、取得した文字情報に基づく表示物をプロジェクタ30及び透明スクリーン5により表示する(ステップS104)。
【0069】
制御部22は、文字情報に強調対象の単語である強調単語が含まれているか確認する(ステップS105)。文字情報に強調単語が含まれている場合(ステップS105:Yes)、制御部22は、強調単語を強調表示に表示変更した文字列である第1表示物DO1及び第2表示物DO2を生成する(ステップS106)。強調表示は、例えば表示物の強調単語の色を黄色等の目立つ色に変えることを含むが、これに限られない。強調表示は、表示物の強調単語の大きさ及び/又は輝度を変える表示を含んでよい。ステップS106の後、及び、表示対象の文字情報が強調単語を含まないとき(ステップS105:No)、制御部22はステップS107に進む。
【0070】
ステップS107において、制御部22は、文字情報に図解対象の単語(図解単語)が含まれるか確認する(ステップS107)。文字情報に図解単語が含まれている場合(ステップS107:Yes)、制御部22は、図解単語に対応する静止画像及び/又は動画像を第3表示領域A3(図解表示領域)に表示する(ステップS108)。ステップS108の後、及び、文字情報に図解単語が含まれていない場合(ステップS107:No)、制御部22はステップS109に進む。
【0071】
ステップS109において、制御部22は、第1ユーザU1の入力に応じて、プロジェクタ30により透明スクリーン5に表示されている表示物の少なくとも一部を表示されないようにする処理を行う。表示物を非表示にする処理の一例を、図10のフロー図に基づいて説明する。
【0072】
まず、制御部22は、表示物を非表示にする第1ユーザU1の指示が検出できるか判定する(ステップS201)。表示物を非表示にする指示は、以下の表示物を非表示にする処理のトリガとなる指示であって、第1ユーザU1による入力部24への入力、操作部25の操作、及び、第1ユーザU1によりマイク40から入力された音声による指示を含む。本実施形態において、操作部25の操作は、第1~第3入力である。音声による指示は第4入力である。
【0073】
入力部24への入力は、第1ユーザU1が表示制御装置20のタッチパネルを操作して実行する処理を含む。例えば、表示制御装置20のタッチパネルには、マイク40からの音声取得を停止させるボタン、プロジェクタ30との通信を停止するボタン、及び/又は、プロジェクタ30を停止させるボタンが表示されてよい。これらのボタンがタッチパネル上で操作されたことを検知して、制御部22は以下のステップの表示物を非表示にする処理を実行してよい。
【0074】
操作部25の操作は、操作部25に含まれるスイッチSw1~Sw3の操作を含む。例えば、制御部22は、操作部25のスイッチSw1~Sw3が操作されたとき、以下のステップでそれぞれのスイッチSw1~Sw3に割り当てられた態様で、表示物を非表示にする処理を行ってよい。
【0075】
また、音声による指示は、クラウドサーバ60で変換された文字情報から検出されてよい。例えば、制御部22は、クラウドサーバ60で変換された文字情報に、表示物を非表示にすることを示す所定の語句が含まれる場合、以下のステップでその語句に従った態様で、表示物を非表示にする処理を行ってよい。所定の語句には、例えば、「全消去」、「単語消去」、「図解消去」等の異なる種別の指示を示す語句が含まれる。制御部22は、クラウドサーバ60で変換された文字情報ではなく、マイク40から取得した音声信号を認識して直接所定の語句を抽出してもよい。
【0076】
ステップS201で、表示物を非表示にする指示を検出した場合(ステップS201:Yes)、制御部22は、マイク40からの音声の取得を停止するとともに、音声の取得を停止している時間の計測を開始する(ステップS202)。音声の取得を停止する手段には、マイク40の停止、マイク40からの音声信号の取得停止、及び、クラウドサーバ60への音声信号の送信停止が含まれる。
【0077】
次に、制御部22は、ステップS201で検出した表示物を非表示にする指示の種別に基づいて、表示物を非表示にする範囲を決定する(ステップS203)。表示物を非表示にする指示の種別は、上述の操作部25のスイッチSw1~Sw3の種別、及び、音声による指示の種別を含む。表示物を非表示にする範囲は、第1表示領域A1及び第2表示領域A2に表示される文字列、並びに、第3表示領域A3に含まれる図解の何れか一方、又は、双方から選択されうる。また、第1表示領域A1及び第2表示領域A2に含まれる文字列は、全部、又は、表示物を非表示にする指示を受けた直前の一部の文字列のみが非表示にされる範囲として設定されてよい。さらに、制御部22は、第2表示領域に表示される文字列は非表示とせず、第1表示領域A1に表示される文字列のみを非表示にする範囲として設定してもよい。
【0078】
制御部22は、表示物を非表示にする指示を受けた直前の一部の文字列のみを非表示にする場合、一例として、以下の処理を実行してよい。制御部22は、クラウドサーバ60で変換された文字情報を品詞分解する。品詞分解された結果得られる単語が非表示にする最小単位となる。これにより、単語の途中で文字列が非表示になることを防ぐことができる。制御部22は、クラウドサーバ60により変換された文字情報を解析し、表示物を非表示にする指示を受けた直前の単語から遡って、一番近い句読点の位置までを非表示にする範囲とする。
【0079】
ステップS204に続いて、制御部22は、プロジェクタ30により表示される表示物を非表示にする処理を実行する(ステップS204)。表示物を非表示にする方法は、複数の方法が含まれる。以下に、いくつかの方法について説明する。
【0080】
(1)表示用文字データ記憶部23cに記憶される文字情報の消去又は書き換え
表示用文字データ記憶部23cに記憶される文字情報は、第1表示領域A1及び第2表示領域A2に表示される第1表示物DO1及び第2表示物DO2に反映される。制御部22は、表示用文字データ記憶部23cに記憶される文字情報を削除することにより、第1表示物DO1及び第2表示物DO2として表示される文字列を削除することができる。制御部22は、プロジェクタ30により表示されている全ての文字列を削除する場合、表示用文字データ記憶部23cに記憶される文字情報の全てを削除する。表示用文字データ記憶部23cに記憶される文字情報の一部がプロジェクタ30により表示されているような場合、制御部22は、表示されている部分に対応する文字情報のみを削除してよい。また、制御部22は、表示用文字データ記憶部23cに記憶される文字情報の一部を伏字に置き換えることにより、図11に示すように第1表示領域A1及び第2表示領域A2に表示される文字情報の一部の単語又は語句を消去することができる。図11では、一部の単語又は語句中の文字を「*」により置き換えている。このような表示をすることにより、第2ユーザU2は、第1ユーザU1の発話内容の一部が非表示になっていることを認識することができる。
【0081】
(2)図解表示データ記憶部23eに記憶される図解の削除
図解表示データ記憶部23eに記憶される静止画像及び/又は動画像は、第3表示領域A3に表示される第3表示物DO3に反映される。制御部22は、図解表示データ記憶部23eに記憶される静止画像及び/又は動画像のデータを削除することにより、第3表示物DO3として表示される図解を削除することができる。
【0082】
(3)表示色の変更
制御部22は、プロジェクタ30に送信する文字情報及び図解に含まれる文字列及び画像の全部又は一部の表示色を黒色にすることにより、透明スクリーン5に投影される文字及び画像の全部又は一部を見えないようにする。この方法を用いる場合、表示領域A1~A3ごとに、表示又は非表示を設定できる。例えば、制御部22は、第2ユーザU2用に表示される第1表示領域A1の第1表示物DO1のみを非表示にすることができる。
【0083】
(4)プロジェクタの制御
制御部22は、プロジェクタ30を制御して透明スクリーン5に投影される表示物全体を非表示にすることができる。例えば、制御部22は、プロジェクタ30の電源を切る、プロジェクタ30の光量を低下させる、焦点距離を変更して透明スクリーン5上に結像しないようにする、プロジェクタ30の光軸を移動させる、等の動作をプロジェクタ30に実行させる。この方法の場合、制御部22は、全ての表示物を非表示にすることができるが、表示物の一部のみを非表示にすることはできない。
【0084】
(5)画像送信の停止
制御部22は、通信部21のプロジェクタ30との間の通信を切断させることにより、透明スクリーン5に投影される表示物全体を非表示にすることができる。表示制御装置20とプロジェクタ30との間は、例えば、無線LAN上でMiracast(登録商標)等の機能を利用して接続することができる。制御部22は、Miracastによる接続を切断させることができる。この方法の場合、制御部22は、全ての表示物を非表示にすることができるが、表示物の一部のみを非表示にすることはできない。
【0085】
ステップS204で、表示物を非表示にする処理を実行した後、制御部22は、所定の時間が経過するのを待つ(ステップS205)。所定の時間は、前述のように、例えば、1秒間以上5秒間以内の範囲から選択されてよい。これにより、所定の時間が経過するまで、ステップS202の音声取得の停止が継続された状態にある。少なくとも、制御部22が表示物を非表示にする処理を完了するまで、音声の取得は停止される。これにより、表示物を非表示にする指示の入力を受けた後、プロジェクタ30による新たな表示物の表示が停止するので、第2ユーザU2は透明スクリーン5を見て、一部又は全部の表示物が削除されたことを容易に認識することができる。また、第1ユーザU1は、透明スクリーン5を見て、意図した表示物の削除がなされたことを高い正確性で確認することができる。
【0086】
ステップS205で所定時間の経過後、制御部22は、音声の取得を再開する(ステップS206)。ステップS206の後、制御部22は、図9のフローチャートの処理に戻り、ステップS110に進む。
【0087】
ステップS110で、制御部22は処理を終了させる指示を受けない限り(ステップS110:No)、ステップS103からステップS110の処理を繰り返す。制御部22は、第1ユーザU1が表示制御装置20に処理を終了させる入力を行った等の場合(ステップS110:Yes)、表示制御装置20の処理を終了させる。
【0088】
図12は、図10に示した表示物を非表示にする処理の更に具体的な例を示すフロー図である。
この場合、第1ユーザU1は、3つの押しボタン型の第1スイッチSw1~第3スイッチSw3を有する操作部25を操作することにより、表示物を非表示にする処理を行う。
【0089】
以下に各スイッチSw1~Sw3の機能を説明する。
(1)第1スイッチSw1の押下
第1表示領域A1及び第2表示領域A2に表示される文字列を全て消去する。
(2)第2スイッチSw2の押下
第3表示領域A3に表示される静止画像及び/又は動画像の図解を消去する。
(3)第3スイッチSw3の押下(短押し)
第1表示領域A1及び第2表示領域A2に表示される文字列のうち、最新の単語又は単語群を消去する。
(4)第3スイッチSw3の押下(長押し)
第1表示領域A1及び第2表示領域A2に表示される文字情報のうち、最新の一文を消去する。
【0090】
まず、制御部22は、第1スイッチSw1の操作の有無を検出する(ステップS301)。第1スイッチSw1の操作は、第1入力である。第1スイッチSw1が操作されている場合(ステップS301:Yes)、制御部22は、マイク40からの音声の取得を停止する(ステップS302)。制御部22は、表示用文字データ記憶部23cに記憶されている文字情報を消去する(ステップS303)。これにより、第1表示領域A1及び第2表示領域A2に表示される表示物である文字列は表示されないようになる。ステップS303の後、制御部22は、ステップS313に進む。ステップS301で第1スイッチSw1が操作されていない場合、制御部22はステップS304に進む。
【0091】
ステップS304で、制御部22は、第2スイッチSw2の操作の有無を検出する。第2スイッチSw2の操作は、第2入力である。第2スイッチSw2が操作されている場合(ステップS304:Yes)、制御部22は、マイク40からの音声の取得を停止する(ステップS305)。制御部22は、図解表示データ記憶部23eに記憶されている図解表示データを消去する(ステップS306)。これにより、第3表示領域A3に表示される図解の静止画像及び/又は動画像は削除される。ステップS306の後、制御部22は、ステップS313に進む。ステップS304で第2スイッチSw2が操作されていない場合、制御部22はステップS307に進む。
【0092】
ステップS307で、制御部22は、第3スイッチSw3の短押し操作の有無を検出する。第3スイッチSw3の操作は、第3入力である。第3スイッチSw3が短押し操作されている場合(ステップS307:Yes)、制御部22は、マイク40からの音声の取得を停止する(ステップS308)。制御部22は、表示用文字データ記憶部23cに記憶されている表示用文字情報の最新の単語(直近で記憶された単語)を判別し、これを消去する(ステップS309)。単語の消去は、単語に含まれる文字を伏字で置き換えることにより行われてよい。これにより、第1表示領域A1及び第2表示領域A2に表示される対応する単語が削除される。制御部22は、クラウドサーバ60により変換された文字情報を解析し、第3スイッチSw3の押下された時点の単語からその直前の句読点までの表示用文字情報を単語単位で伏字に変更してよい。これによって、第3スイッチSwが操作された時点から遡って意味的に纏まりのある複数の単語が非表示となる。ステップS309の後、制御部22は、ステップS313に進む。ステップS307で第3スイッチSw3が操作されていない場合、制御部22はステップS310に進む。
【0093】
ステップS310で、制御部22は、第3スイッチSw1の長押し操作の有無を検出する。第3スイッチSw3が長押し操作されている場合(ステップS310:Yes)、制御部22は、マイク40からの音声の取得を停止する(ステップS311)。制御部22は、表示用文字データ記憶部23cに記憶されている表示用文字情報の最新の一文(直近で記憶された一文)を判別し、これを消去する(ステップS312)。一文の消去は、文章に含まれる文字を伏字で置き換えることにより行われてよい。これにより、第1表示領域A1及び第2表示領域A2に表示される対応する一文が削除される。ステップS312の後、制御部22は、ステップS313に進む。ステップS310で第3スイッチSw3が操作されていない場合(ステップS310:No)、制御部22は、図9のフローチャートに戻る。
【0094】
ステップS313において、制御部22は所定時間の経過を待って、ステップS314に進む。ステップS314で、制御部22は音声取得を再開して、図9のフローチャートに戻る。
【0095】
以上説明したように、本実施形態によれば、複数種類の指示に対応する入力を設けることにより、第1ユーザU1は、種々の態様で表示物である文字列及び/又は図解表示の一部又は全部を、所望の方法で非表示にすることができる。
【0096】
(記憶部に記憶されるデータの変化)
第1ユーザU1の動作よる、記憶部23の文字変換データ一時記憶部23b、表示用文字データ記憶部23c及びログ保存用文字データ記憶部23dの各部に記憶されるデータの変化を、図13を参照して説明する。
【0097】
マイク40がONになった後、第1ユーザU1が「おはようございます」と発話したとする。この発話内容は、最初に文字変換データ一時記憶部23bに一時記憶され、表示用文字データ記憶部23c及びログ保存用文字データ記憶部23dにコピーされる。それに伴い、文字変換データ一時記憶部23bに記憶されていた発話内容の文字情報はクリアされる。
【0098】
次に、第1ユーザU1が「本日は晴天ですね」と発話すると、この発話内容は、表示用文字データ記憶部23c及びログ保存用文字データ記憶部23dの先に記憶された「おはようございます」の文字情報の後にコピーされる。文字変換データ一時記憶部23bの文字情報はクリアされる。
【0099】
次に、第1ユーザU1が第1スイッチSw1を操作すると、表示用文字データ記憶部23cに記憶されていた文字情報が削除される。これにより、プロジェクタ30により透明スクリーン5に表示される表示物の文字列も削除される。一方、ログ保存用文字データ記憶部23dには、第1スイッチSw1が押されたことが記録される。
【0100】
さらに、第1ユーザが、「こんにちは」と発話すると、発話内容が、表示用文字データ記憶部23cにコピーされる。これにより、プロジェクタ30からは、後から発話された「こんにちは」のみが表示される。ログ保存用文字データ記憶部23dでは、先に記憶されている文字列及び第1スイッチSwが押されたことの記録の後に、「こんにちは」の文字列が付加される。
【0101】
最後に、第1ユーザU1がマイク40をOFFにする等により表示システム1を終了させる動作を行うと、ログ保存用文字データ記憶部23dに記録されていたデータが、文字データ保管部23jにコピーされ保管される。
【0102】
このように、表示制御装置20によれば、第1ユーザU1は、発話中に表示される表示物を表示されないようにできることに加え、非表示にされた内容も含む第1ユーザU1の発話内容の文字情報を記録として残すことが可能になる。さらに、この記録は、第1ユーザによる発話中に表示物を非表示にする動作の記録も含むことができる。
【0103】
以上説明したように、音声認識を用いた対話システムである表示システム1では、第1ユーザU1側から、第1ユーザU1用の第1表示物DO1及び第2ユーザU2用の第2表示物DO2の双方が視界に入る。そのため、第1ユーザU1は、誤認識及び言い間違い等を、即座に且つ直感的に把握することができる。また、第1ユーザU1は、操作部25の操作又は音声による指示を含む簡易な操作で容易に表示を非表示にすることができる。さらに、本実施形態によれば、表示物を非表示にすることを指示する入力の後、所定の時間が経過するまで第1ユーザU1の音声を変換した文字情報を取得しないので、表示された誤りを第1ユーザが削除したことを第2ユーザU2に容易且つ確実に認識させることができる。同時に、第1ユーザは、意図した箇所の表示物が非表示になったことを高い正確性で確認することができる。
【0104】
本開示に係る実施形態について、諸図面及び実施例に基づき説明してきたが、当業者であれば本開示に基づき種々の変形又は修正を行うことが容易であることに注意されたい。従って、これらの変形又は修正は本開示の範囲に含まれることに留意されたい。例えば、各構成部に含まれる機能などは論理的に矛盾しないように再配置可能であり、複数の構成部を1つに組み合わせたり、或いは分割したりすることが可能である。
【0105】
本開示において「第1」及び「第2」等の記載は、当該構成を区別するための識別子である。本開示における「第1」及び「第2」等の記載で区別された構成は、当該構成における番号を交換することができる。例えば、第1表示物DO1は、第2表示物DO2と識別子である「第1」と「第2」とを交換することができる。識別子の交換は同時に行われる。識別子の交換後も当該構成は区別される。識別子は削除してよい。識別子を削除した構成は、符号で区別される。本開示における「第1」及び「第2」等の識別子の記載のみに基づいて、当該構成の順序の解釈、小さい番号の識別子が存在することの根拠に利用してはならない。
【0106】
本開示の各実施形態に含まれる構成要素及び機能ブロックは、適宜同一のハードウェア又は異なるハードウェアに配置することができる。本開示の各実施形態のマイク40は、表示制御装置20又はプロジェクタ30と同じハードウェアに含まれてよい。本開示の実施形態の通信部21、制御部22、記憶部23、及び、入力部24の一部、或いは全部は、プロジェクタ30に含まれてもよい。
【0107】
本発明の表示部は、透明スクリーン5及びプロジェクタ30を含む構成に限定されない。表示部は、例えば、透明基板内に発光素子が配列された透明有機ELディスプレイ(OLED:Organic Light Emitting Diode)を含むものであってもよい。また、本発明は、実施例のように複数のユーザが表示部を挟んで向かい合って対話するものに限られない。表示部は、液晶ディスプレイ及び有機ELディスプレイ等の一般的な表示装置であってよい。表示部としては、タブレット端末のディスプレイを使用することもできる。その場合、タブレット本体を表示制御装置20とし、タブレット端末のプロセッサを制御部22としうる。
【0108】
上記実施形態において、音声認識処理はクラウドに置かれた音声認識サーバにより行うものとしたが、本発明はこれに限られない。音声認識処理は、表示制御装置20の近くに配置されたサーバ、又は、表示制御装置20自身で行ってもよい。
【符号の説明】
【0109】
1 表示システム
5 透明スクリーン(表示部/表示用スクリーン)
10 基材
11 スクリーン部
12 遮光部
20 表示制御装置
21 通信部
22 制御部
23 記憶部
23a 音声データ一時記憶部
23b 文字変換データ一時記憶部
23c 表示用文字データ記憶部
23d ログ保存用文字データ記憶部
23e 図解表示データ記憶部
23f 音声データ保管部
23g 強調単語記憶部
23h 図解単語記憶部
23i 図解表示データ記憶部
23j 文字データ保管部
24 入力部
25 操作部
30 プロジェクタ(表示部)
40 マイク
60 クラウドサーバ
231 揮発性メモリ
232 不揮発性記憶装置
A1 第1表示領域
A2 第2表示領域
A3 第3表示領域
Sw1 第1スイッチ
Sw2 第2スイッチ
Sw3 第3スイッチ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13