IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ コニカミノルタ株式会社の特許一覧

特許7115061表記変換装置、変換表示装置、変換表示システム、制御方法及び記録媒体
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-08-01
(45)【発行日】2022-08-09
(54)【発明の名称】表記変換装置、変換表示装置、変換表示システム、制御方法及び記録媒体
(51)【国際特許分類】
   G06F 3/048 20220101AFI20220802BHJP
   G06F 3/0346 20130101ALI20220802BHJP
【FI】
G06F3/048
G06F3/0346 423
【請求項の数】 22
(21)【出願番号】P 2018120363
(22)【出願日】2018-06-26
(65)【公開番号】P2020003892
(43)【公開日】2020-01-09
【審査請求日】2021-05-19
(73)【特許権者】
【識別番号】000001270
【氏名又は名称】コニカミノルタ株式会社
(74)【代理人】
【識別番号】110001900
【氏名又は名称】弁理士法人 ナカジマ知的財産綜合事務所
(72)【発明者】
【氏名】坂本 顕司
【審査官】三吉 翔子
(56)【参考文献】
【文献】国際公開第2010/018770(WO,A1)
【文献】特表2017-502438(JP,A)
【文献】特開2006-344245(JP,A)
【文献】特開2018-045459(JP,A)
【文献】国際公開第2010/021240(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/048
G06F 3/0346
(57)【特許請求の範囲】
【請求項1】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段と
を備え、
(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現である
ことを特徴とする表記変換装置。
【請求項2】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段と
を備え、
前記決定手段により、決定される親和性のある表記法とは、利用者毎に馴染みのある表記法として予め登録されている表記法である
ことを特徴とする表記変換装置。
【請求項3】
前記決定手段は、前記複数の利用者に親和性のある表記法が複数存在する場合、前記複数の利用者のうち、最も多くの利用者に親和性のある一つの表記法を、前記第二表記法として決定する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項4】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段と
を備え、
前記決定手段により、前記複数の利用者に親和性のある複数の表記法が、前記第二表記法として決定された場合、前記表記変換手段は、前記第一データを、それぞれ、決定された複数の表記法により変換する
ことを特徴とする表記変換装置。
【請求項5】
前記第二表示領域は、前記複数の表記法により、それぞれ、変換された前記第一データを表示する複数の部分領域に区分され、
前記生成手段は、さらに、前記複数の部分領域を示す部分領域情報を生成し、
前記出力手段は、さらに、前記部分領域情報を出力する
ことを特徴とする請求項4に記載の表記変換装置。
【請求項6】
前記出力手段は、前記第二表示領域に、複数の前記変換された第一データの各々を、切り換えて表示させるため、複数の前記変換された第一データを、順次、出力する
ことを特徴とする請求項4に記載の表記変換装置。
【請求項7】
前記生成手段は、前記第一表示領域の位置を示す前記位置情報を生成し、
前記出力手段は、前記第二表示領域として、前記第一表示領域に前記第二データを表示させるため、前記位置情報を出力する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項8】
さらに、前記第一表示領域の周辺の領域に、前記第二データのサイズより大きく、データが表示されていない空白領域が存在するか否かを判断する空白判断手段を備え、
空白領域が存在すると判断される場合に、前記生成手段は、当該空白領域内において、前記第二表示領域の位置を示す前記位置情報を生成する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項9】
前記視点判断手段は、さらに、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、第三表示領域内に存する前記視点の数が、所定数以上であるか否かを判断し、
前記生成手段は、さらに、所定数以上である場合、前記第三表示領域を拡大した拡大領域の範囲を示す拡大範囲情報を生成し、
前記出力手段は、さらに、前記第三表示領域を拡大して表示するため、前記拡大範囲情報を前記表示装置に対して出力する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項10】
前記表示面上において、前記第一表示領域から所定距離内に前記第二表示領域が存し、前記第一表示領域に接して前記第二表示領域が存し、前記第一表示領域に重複して前記第二表示領域が存し、又は、前記第一表示領域に包含されて前記第二表示領域が存する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項11】
前記生成手段は、さらに、
前記第一表示領域内における表示色又は表示パターンと、前記第二表示領域内における表示色又は表示パターンとを示す同一の色パターン情報を生成し、
前記出力手段は、さらに、前記表示色又は前記表示パターンを用いて表示させるため、前記色パターン情報を前記表示装置に対して出力する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項12】
さらに、前記表示面を注視する利用者の前記表示面における視点を検出する検出手段を備える
ことを特徴とする請求項1に記載の表記変換装置。
【請求項13】
前記検出手段は、
前記利用者を被写体とする画像データを取得するカメラと、
前記画像データから前記利用者の立ち位置と前記利用者の視線方向とを抽出し、抽出した前記立ち位置と前記視線方向に基づいて、前記表示面に注視する前記利用者の当該表示面における視点を算出する算出部とを備える
ことを特徴とする請求項12に記載の表記変換装置。
【請求項14】
前記表示装置は、矩形状の前記表示面を上方に向けた姿勢で設けられ、
前記利用者は、前記表示装置の周囲に立ち、
前記生成手段は、さらに、前記第二データを構成する文字が、前記利用者の立ち位置から、正立して見えるように、前記第二データを回転させて配した画像データを生成し、
前記出力手段は、前記第二データとして、前記画像データを出力し、
前記表示装置は、前記第二表示領域に前記画像データを表示する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項15】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段と、
記複数の利用者について、各々の利用者に親和性のある表記法を示す表記法情報を記憶している記憶手段を備え、
前記決定手段は、前記記憶手段から前記表記法情報を取得し、取得した前記表記法情報により示される表記法を用いて、前記複数の利用者に親和性のある表記法を決定する
ことを特徴とする表記変換装置。
【請求項16】
前記視点判断手段は、利用者の顔面に装着され、カメラと算出部とを備えた当該表記変換装置外部の眼鏡から前記視点を取得し、
前記カメラは、利用者の視線方向を撮影して画像データを生成し、
前記算出部は、前記画像データの中央部に写るオブジェクトの位置を視点として算出する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項17】
前記視点判断手段は、利用者の顔面に装着され、カメラを備えた眼鏡型の前記表示装置から前記視点を取得し、
前記表示装置は、前記カメラにより、利用者の視線方向を撮影して画像データを生成し、生成した前記画像データの中央部に写るオブジェクトの位置を視点として算出する
ことを特徴とする請求項1に記載の表記変換装置。
【請求項18】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換して表示する変換表示装置であって、
前記第一表示領域に前記第一データを表示する表示手段と、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点を取得する視点取得手段と、
取得した前記視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二データ及び前記位置情報を前記表示手段に対して出力する出力手段とを備え、
前記表示手段は、前記第二データ及び前記位置情報を受信し、前記第二表示領域に、前記第二データを表示し、
(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現である
こと特徴とする変換表示装置。
【請求項19】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換して表示する変換表示システムであって、
表記変換装置、表示装置及び検出装置を備え、
前記検出装置は、利用者の顔面に装着され、カメラと算出部とを備えた眼鏡であり、
前記カメラは、利用者の視線方向を撮影して画像データを取得し、
前記算出部は、前記画像データの中央部に写るオブジェクトの位置を視点として算出し、
前記表記変換装置は、
前記検出装置から取得し、前記表示面を注視する複数の利用者の当該表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二データ及び前記位置情報を前記表示装置に対して出力する出力手段とを備え、
前記表示装置は、前記表示面を有し、前記表示面の前記第一表示領域に前記第一データを表示し、前記第二データ及び前記位置情報を受信し、前記第二表示領域に、前記第二データを表示し、
(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現である
ことを特徴とする変換表示システム。
【請求項20】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換して表示する変換表示システムであって、
表記変換装置、掲示板及び検出表示装置を備え、
前記掲示板は、前記表示面を有し、
前記検出表示装置は、利用者の顔面に装着され、カメラを備えたメガネ型の表示装置であって、前記カメラにより、利用者の視線方向を撮影して画像データを取得し、取得した前記画像データの中央部に写るオブジェクトの位置を視点として算出し、前記画像データを表示し、
前記表記変換装置は、
前記検出表示装置から取得し、前記表示面に注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、
前記第二データ及び前記位置情報を前記検出表示装置に対して出力する出力手段とを備え、
前記検出表示装置は、前記第二データ及び前記位置情報を受信し、前記位置情報により示される前記第二表示領域に、前記第二データを表示し、
(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現である
ことを特徴とする変換表示システム。
【請求項21】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置において用いられる制御方法であって、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断ステップと、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定ステップと、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換ステップと、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成ステップと、
前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力ステップとを含み、
(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現である
ことを特徴とする制御方法。
【請求項22】
表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置において用いられる制御用のコンピュータープログラムを記録しているコンピューター読み取り可能な記録媒体であって、
コンピューターである前記表記変換装置に、
前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断ステップと、
前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定ステップと、
前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換ステップと、
前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成ステップと、
前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力ステップと
を実行させ、
(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現である
ことを特徴とするコンピュータープログラムを記録している記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、日本語、英語のような言語表記、標準語と方言のような方言表記、漢字、片仮名、平仮名のような文字表示を含む表記方法において好適に利用できる表記変換技術に関し、特に、一の表記法により表記されたデータを別の表記法による表記に変換する技術に関する。
【背景技術】
【0002】
プリンター、複写機、複合機等の画像形成装置においては、各種設定を受け付ける操作パネルが設けられている。特許文献1の画像形成装置は、携帯端末から近距離無線通信により、利用者の国籍が含まれる個人情報データを受信し、受信した国籍に基づいて利用者の公用語を判断し、表示言語を設定する。これにより、利用者は、当該利用者が理解できる言語を用いて表示される操作パネルにより、画像形成装置に対する操作を行うことができる。
【0003】
しかし、異なる言語を使用する複数の利用者が共同して当該画像形成装置を操作しようとする場合を想定すると、第一の利用者が使用する第一の言語により、操作パネルの表示言語が設定されているなら、第一の利用者は、操作パネルの表示内容を理解でき、当該画像形成装置の操作を行えるものの、第二の言語を使用する第二の利用者にとっては、第一の言語では操作パネルの表示内容を理解できず、当該画像形成装置の操作は困難となる。
【0004】
この問題を解決するため、特許文献2によると、透過性タイプの頭部装着型の映像表示装置を装着し、利用者は、映像表示装置越しに見える風景に重ねて、映像表示装置に表示された映像を視認することができる。利用者が、この映像表示装置越しに英語の文字列を見ると、その文字列が注目領域に特定され、映像表示装置は、利用者情報に基づいて翻訳先の言語を日本語に決定し、注目領域内の英語の文字列を自動的に日本語に翻訳し、翻訳前の視界内の注目領域の英語の文字列に重なるように、日本語の文字列を表示する。
【0005】
例えば、英語を理解する第一の利用者が頭部装着型の映像表示装置を通して、日本語文字列を見ると、当該映像表示装置に日本語文字列を英語に翻訳した文字列が表示される。同様に、スペイン語を理解する第二の利用者が同じ映像表示装置を通して、上記の日本語文字列を見ると、当該映像表示装置に日本語文字列をスペイン語に翻訳した文字列が表示される。このため、第一の利用者及び第二の利用者は、日本語が理解できない場合であっても、上記の日本語文字列の意味を知ることができる。
【0006】
このようにして、異なる言語を使用する複数の利用者が共同して装置を操作しようとする場合における上記特許文献1の問題を解決している。
【先行技術文献】
【特許文献】
【0007】
【文献】特開2017-211853号公報
【文献】特開2014-93050号公報
【発明の概要】
【発明が解決しようとする課題】
【0008】
しかし、特許文献2により開示された技術によると、第一の利用者は、第二の利用者がどこに注目しているか分からないし、第二の利用者も、第一の利用者がどこに注目しているか分からない。このように、互いに相手の注目箇所が分からないので、複数の利用者が共同して作業する場合に、複数の利用者間の意思疎通を阻害する一要因となっている。
【0009】
なお、以上においては、日本語、英語、スペイン語のような言語表現における問題を指摘したが、標準語と方言のような表現、漢字、片仮名、平仮名のような表記等においても、同様の問題が存在する。
【0010】
本発明は、上記の点に鑑み、異なる表記法に親和性のある複数の利用者が共同して作業する場合に、利用者間の意思疎通を図ることができる表記変換装置、変換表示装置、変換表示システム、制御方法及び記録媒体を提供することを目的とする。
【課題を解決するための手段】
【0011】
上記目的を達成するため、本発明の一態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段とを備え、(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現であることを特徴とする。
【0018】
また、本発明の一態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段とを備え、前記決定手段により、決定される親和性のある表記法とは、利用者毎に馴染みのある表記法として予め登録されている表記法であることを特徴とする。
【0019】
ここで、前記決定手段は、前記複数の利用者に親和性のある表記法が複数存在する場合、前記複数の利用者のうち、最も多くの利用者に親和性のある一つの表記法を、前記第二表記法として決定する、としてもよい。
【0020】
また、本発明の一態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段とを備え、前記決定手段により、前記複数の利用者に親和性のある複数の表記法が、前記第二表記法として決定された場合、前記表記変換手段は、前記第一データを、それぞれ、決定された複数の表記法により変換することを特徴とする。
【0021】
ここで、前記第二表示領域は、前記複数の表記法により、それぞれ、変換された前記第一データを表示する複数の部分領域に区分され、前記生成手段は、さらに、前記複数の部分領域を示す部分領域情報を生成し、前記出力手段は、さらに、前記部分領域情報を出力する、としてもよい。
【0022】
ここで、前記出力手段は、前記第二表示領域に、複数の前記変換された第一データの各々を、切り換えて表示させるため、複数の前記変換された第一データを、順次、出力する、としてもよい。
【0023】
ここで、前記生成手段は、前記第一表示領域の位置を示す前記位置情報を生成し、前記出力手段は、前記第二表示領域として、前記第一表示領域に前記第二データを表示させるため、前記位置情報を出力する、としてもよい。
【0024】
ここで、さらに、前記第一表示領域の周辺の領域に、前記第二データのサイズより大きく、データが表示されていない空白領域が存在するか否かを判断する空白判断手段を備え、空白領域が存在すると判断される場合に、前記生成手段は、当該空白領域内において、前記第二表示領域の位置を示す前記位置情報を生成する、としてもよい。
【0025】
ここで、前記視点判断手段は、さらに、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、第三表示領域内に存する前記視点の数が、所定数以上であるか否かを判断し、前記生成手段は、さらに、所定数以上である場合、前記第三表示領域を拡大した拡大領域の範囲を示す拡大範囲情報を生成し、前記出力手段は、さらに、前記第三表示領域を拡大して表示するため、前記拡大範囲情報を前記表示装置に対して出力する、としてもよい。
【0026】
ここで、前記表示面上において、前記第一表示領域から所定距離内に前記第二表示領域が存し、前記第一表示領域に接して前記第二表示領域が存し、前記第一表示領域に重複して前記第二表示領域が存し、又は、前記第一表示領域に包含されて前記第二表示領域が存する、としてもよい。
【0027】
ここで、前記生成手段は、さらに、前記第一表示領域内における表示色又は表示パターンと、前記第二表示領域内における表示色又は表示パターンとを示す同一の色パターン情報を生成し、前記出力手段は、さらに、前記表示色又は前記表示パターンを用いて表示させるため、前記色パターン情報を前記表示装置に対して出力する、としてもよい。
【0028】
ここで、さらに、前記表示面を注視する利用者の前記表示面における視点を検出する検出手段を備える、としてもよい。
【0029】
ここで、前記検出手段は、前記利用者を被写体とする画像データを取得するカメラと、前記画像データから前記利用者の立ち位置と前記利用者の視線方向とを抽出し、抽出した前記立ち位置と前記視線方向に基づいて、前記表示面に注視する前記利用者の当該表示面における視点を算出する算出部とを備える、としてもよい。
【0030】
ここで、前記表示装置は、矩形状の前記表示面を上方に向けた姿勢で設けられ、前記利用者は、前記表示装置の周囲に立ち、前記生成手段は、さらに、前記第二データを構成する文字が、前記利用者の立ち位置から、正立して見えるように、前記第二データを回転させて配した画像データを生成し、前記出力手段は、前記第二データとして、前記画像データを出力し、前記表示装置は、前記第二表示領域に前記画像データを表示する、としてもよい。
【0031】
また、本発明の一態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置であって、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力手段と、前記複数の利用者について、各々の利用者に親和性のある表記法を示す表記法情報を記憶している記憶手段を備え、前記決定手段は、前記記憶手段から前記表記法情報を取得し、取得した前記表記法情報により示される表記法を用いて、前記複数の利用者に親和性のある表記法を決定することを特徴とする。
【0032】
ここで、前記視点判断手段は、利用者の顔面に装着され、カメラと算出部とを備えた当該表記変換装置外部の眼鏡から前記視点を取得し、前記カメラは、利用者の視線方向を撮影して画像データを生成し、前記算出部は、前記画像データの中央部に写るオブジェクトの位置を視点として算出する、としてもよい。
【0033】
ここで、前記視点判断手段は、利用者の顔面に装着され、カメラを備えた眼鏡型の前記表示装置から前記視点を取得し、前記表示装置は、前記カメラにより、利用者の視線方向を撮影して画像データを生成し、生成した前記画像データの中央部に写るオブジェクトの位置を視点として算出する、としてもよい。
【0034】
また、本発明の別の態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換して表示する変換表示装置であって、前記第一表示領域に前記第一データを表示する表示手段と、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点を取得する視点取得手段と、取得した前記視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二データ及び前記位置情報を前記表示手段に対して出力する出力手段とを備え、前記表示手段は、前記第二データ及び前記位置情報を受信し、前記第二表示領域に、前記第二データを表示し、(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現であること特徴とする。
【0035】
また、本発明の別の態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換して表示する変換表示システムであって、表記変換装置、表示装置及び検出装置を備え、前記検出装置は、利用者の顔面に装着され、カメラと算出部とを備えた眼鏡であり、前記カメラは、利用者の視線方向を撮影して画像データを取得し、前記算出部は、前記画像データの中央部に写るオブジェクトの位置を視点として算出し、前記表記変換装置は、前記検出装置から取得し、前記表示面を注視する複数の利用者の当該表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二データ及び前記位置情報を前記表示装置に対して出力する出力手段とを備え、前記表示装置は、前記表示面を有し、前記表示面の前記第一表示領域に前記第一データを表示し、前記第二データ及び前記位置情報を受信し、前記第二表示領域に、前記第二データを表示し、(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現であることを特徴とする。
【0036】
また、本発明の別の態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換して表示する変換表示システムであって、表記変換装置、掲示板及び検出表示装置を備え、前記掲示板は、前記表示面を有し、前記検出表示装置は、利用者の顔面に装着され、カメラを備えたメガネ型の表示装置であって、前記カメラにより、利用者の視線方向を撮影して画像データを取得し、取得した前記画像データの中央部に写るオブジェクトの位置を視点として算出し、前記画像データを表示し、前記表記変換装置は、前記検出表示装置から取得し、前記表示面に注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断手段と、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定手段と、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換手段と、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成手段と、前記第二データ及び前記位置情報を前記検出表示装置に対して出力する出力手段とを備え、前記検出表示装置は、前記第二データ及び前記位置情報を受信し、前記位置情報により示される前記第二表示領域に、前記第二データを表示し、(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現であることを特徴とする。
【0037】
また、本発明の別の態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置において用いられる制御方法であって、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断ステップと、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定ステップと、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換ステップと、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成ステップと、前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力ステップとを含み、(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現であることを特徴とする。
【0038】
また、本発明の別の態様は、表示面上の第一表示領域に第一表記法により表記された第一データを第二表記法による表記に変換する表記変換装置において用いられる制御用のコンピュータープログラムを記録しているコンピューター読み取り可能な記録媒体であって、コンピューターである前記表記変換装置に、前記表示面を注視する複数の利用者の前記表示面におけるそれぞれの視点のうち、複数の視点が前記第一表示領域内に存するか否かを判断する視点判断ステップと、前記第一表示領域内に複数の視点が存する場合に限り、前記第一表記法を除き、前記第一表示領域に視線を注ぐ複数の利用者に親和性のある表記法を、第二表記法として決定する決定ステップと、前記第一表示領域に表記されている前記第一データを、前記第二表記法により表記された第二データに変換する表記変換ステップと、前記表示面上において、第二表示領域の位置を示す位置情報を生成する生成ステップと、前記第二表示領域に前記第二データを表示させるため、前記第二データ及び前記位置情報を、外部の表示装置に対して出力する出力ステップとを実行させるためのコンピュータープログラムを記録し、(a)前記第一表記法は、第一言語による表現であり、前記第二表記法は、第二言語による表現であり、(b)前記第一表記法は、漢字による表現であり、前記第二表記法は、片仮名、平仮名又はローマ字による表現であり、(c)前記第一表記法は、片仮名、平仮名又はローマ字による表現であり、前記第二表記法は、漢字による表現であり、(d)前記第一表記法は、全国的に規範として用いられる標準語による表現であり、前記第二表記法は、地域によって異なる発達をした方言による表現であり、又は、(e)前記第一表記法は、方言による表現であり、前記第二表記法は標準語による表現であることを特徴とする。
【発明の効果】
【0039】
上記の態様によると、第一表記法により第一データが表示されている第一表示領域に、複数の利用者の視点が存するときに限り、これらの視点に視線を注ぐ複数の利用者に親和性のある第二表記法(第一表記法を除く)により、第一データを変換して、第二表示領域に、第二データを表示する。
【0040】
このように第二表示領域に第二データが表示されることにより、複数の利用者が第一表示領域に注目していることがわかる。つまり、第一表示領域に注目している一人の利用者は、自分以外にも、第一表示領域に注目している利用者が存在し、その利用者が、自分と同様に、第一表示領域に表示されている第一データに関心を持っていることを知ることができる。その結果、複数の利用者の間で、意思疎通を図ることができる。また、第二表示領域には、第二データが表示されるので、第一表記法に親和性のない利用者であっても、第一表示領域に表示された第一データの意味を知ることができる。
【図面の簡単な説明】
【0041】
図1】実施の形態の翻訳表示装置1の外観斜視図を示す。
図2】翻訳表示装置1が備えるカメラ12a~12dのそれぞれの水平画角321~324を示す。
図3】翻訳表示装置1の内部の構成を示すブロック図である。
図4】表示データテーブル171のデータ構造の一例を示す。
図5】翻訳表示装置1の表示部102に表示されるテキストデータとユーザーの立ち位置との関係を示す。
図6】ユーザー属性テーブル191のデータ構造の一例及び顔画像データの一例を示す。
図7】画像データの一例を示す。
図8】オブジェクト情報テーブル121のデータ構造の一例及びオブジェクトデータの一例を示す。
図9】パーツ情報テーブル131のデータ構造の一例及びパーツデータの一例を示す。
図10】ユーザー位置テーブル141のデータ構造の一例を示す。
図11】水平方向テーブル156のデータ構造の一例を示す。
図12】視線情報テーブル151のデータ構造の一例を示す。
図13】視点位置テーブル161のデータ構造の一例を示す。
図14】表示領域テーブル181のデータ構造の一例を示す。
図15】翻訳テキストデータテーブル201のデータ構造の一例を示す。
図16】(a)三方向に向いたユーザーの頭部の概略図を示す。(b)ユーザーの頭部の水平方向の向きを示す。(c)鉛直方向に対して三つの傾きを有するユーザーの頭部の概略図を示す。(d)ユーザーの頭部の鉛直方向からの傾きを示す。
図17】翻訳表示装置1の表示部102に表示されるテキストデータ及び翻訳テキストデータの一例を示す。
図18】(a)第一表示領域351aと第二表示領域352aとが接触している場合の一例を示す。(b)第一表示領域351bから、所定距離内に、第二表示領域352bが存する場合の一例を示す。(c)第一表示領域351cに重複して、第二表示領域352cが存する場合の一例を示す。(d)第一表示領域351dに包含されて第二表示領域352dが存する場合の一例を示す。(e)第一表示領域351e内の背景に施されたハッチングパターンと、第二表示領域352e内の背景に施されたハッチングパターンとが一致する場合の一例を示す。(f)第一表示領域351f内の背景に施されたドットパターンと、第二表示領域352f内の背景に施されたドットパターンとが一致する場合の一例を示す。(g)第一表示領域351gと、第二表示領域352gとが、線画像353によりリンクされている場合の一例を示す。(h)第一表示領域351hの枠の表示パターンと、第二表示領域352hの枠の表示パターンとが一致する場合の一例を示す。
図19】翻訳表示装置1の動作を示すフローチャートである。図20へ続く。
図20】翻訳表示装置1の動作を示すフローチャートである。図19から続く。
図21】(a)変形例(1)としての翻訳表示装置1の表示部102に表示されるテキストデータとユーザーの立ち位置との関係を示す。(b)翻訳表示装置1の表示部102に大きく表示されるテキストデータ及び翻訳テキストデータの一例を示す。
図22】変形例(2)としての翻訳表示装置1の表示部102に表示されるテキストデータとユーザーの立ち位置との関係、及び、表示部102に表示されるテキストデータ及び翻訳テキストデータの一例を示す。
図23】変形例(3)としての翻訳表示システム501の概略構成を示す。
図24】(a)変形例(4)としての翻訳表示システム531の概略構成を示す。(b)メガネ533の表示部533bに表示される画像の一例を示す。
【発明を実施するための形態】
【0042】
1 実施の形態
本発明の一の実施の形態としての翻訳表示装置1について説明する。
【0043】
1.1 翻訳表示装置1
図1は、翻訳表示装置1の外観斜視図を示す。
【0044】
翻訳表示装置1は、この図に示すように、テーブル型の表示装置である。翻訳表示装置1の天板には、矩形の表示部102が組み込まれ、天板の4つの隅には、それぞれ、カメラ12a、12b、12c及び12dが設置されている。翻訳表示装置1の本体部は、脚部11により支持されている。また、天板の四周辺には、等間隔で、例えば、5cm間隔で、目盛り15a、15b、15c、15dが付されている。
【0045】
表示部102は、矩形状の表示面を上方に向けた姿勢で設けられている。ユーザーは、表示部102を備えた翻訳表示装置1の周囲に立つ。
【0046】
本明細書において、矩形の表示部102の一頂点102aに原点を設定し、矩形の表示部102の短辺102b及び長辺102cに沿って、X軸及びY軸を設定し、鉛直方向にZ軸を設定する。また、翻訳表示装置1が存在する空間を、X-Y-Z座標により特定し、表示部102の表示面をX-Y座標により特定する。
【0047】
図2は、カメラ12a~12dのそれぞれの水平画角321~324を示す。
【0048】
カメラ12aは、その光軸が、水平面から略22.5度上方、対角の隅側に向くように、設置されており、その撮影方向は、固定されている。カメラ12aの水平画角321は、例えば、略90度であり、垂直画角は、例えば、略45度である。カメラ12b、12c及び12dについても、カメラ12aと同様である。
【0049】
図2に示すように、カメラ12a~12dによる撮影範囲は、翻訳表示装置1の周囲をほぼ覆い尽くしているので、カメラ12a~12dにより、翻訳表示装置1の周囲に立つユーザー、特に、そのユーザーの顔を撮影することができる。
【0050】
1.2 翻訳表示装置1の内部の構成
図3は、翻訳表示装置1の内部の構成を示すブロック図である。
【0051】
この図に示すように、翻訳表示装置1は、カメラ12a~12d、主制御部101、表示部102、出力部103、記憶部104、入力部105a~105d、顔認識処理部106、位置算出部107、視線視点算出部108、表示領域検出部109、表示制御部110、翻訳部111及び合成部229から構成されている。
【0052】
ここで、主制御部101、記憶部104の一部、表示制御部110及び翻訳部111は、表示面上の一の表示領域に第一言語(第一表記法)により表記されたデータを第二言語(第二表記法)による表記に翻訳(変換)する翻訳装置(表記変換装置)を構成している。ここで、第一表記法は、第一言語による表現であり、第二表記法は、第二言語による表現である。また、カメラ12a~12d、主制御部101、記憶部104の一部、入力部105a~105d、顔認識処理部106、位置算出部107、視線視点算出部108及び表示領域検出部109は、表示面を注視するユーザーの表示面における視点を検出する検出手段を構成している。カメラ12a~12dは、それぞれ、ユーザーを被写体とする画像データを取得する。顔認識処理部106、位置算出部107、視線視点算出部108及び表示領域検出部109は、画像データからユーザーの立ち位置とユーザーの視線方向とを抽出し、抽出した立ち位置と視線方向に基づいて、表示面に注視するユーザーの表示面における視点を算出する算出部を構成している。
【0053】
翻訳表示装置1は、制御用のコンピュータープログラムを記憶しているメモリ及びコンピュータープログラムに従って動作するプロセッサーを含んでいる。主制御部101、顔認識処理部106、位置算出部107、視線視点算出部108、表示領域検出部109、表示制御部110及び翻訳部111は、それぞれ、プロセッサーがコンピュータープログラムに従って動作することにより、その機能を果たす。
【0054】
(1)記憶部104
記憶部104は、例えば、ハードディスクから構成されている。
【0055】
記憶部104は、画像データ111a、111b、111c、111d、オブジェクト情報テーブル121、オブジェクトデータ128、・・・、パーツ情報テーブル131、パーツデータ137a、137b、137c、・・・、ユーザー位置テーブル141、視線情報テーブル151、水平方向テーブル156、視点位置テーブル161、表示データテーブル171、表示領域テーブル181、ユーザー属性テーブル191、顔画像データ197a、197b、197c、・・・、翻訳テキストデータテーブル201、辞書データベース211、表示画像データ(図5)、及び、その他のデータ(図示していない)を記憶するための領域を備えている。
【0056】
(表示データテーブル171)
図4は、表示データテーブル171のデータ構造の一例を示す。
【0057】
表示データテーブル171は、表示部102により表示されるテキストデータ(第一データ)を格納するためのデータテーブルである。表示データテーブル171は、この図に示すように、予め、複数の表示データ関連情報172を含んでいる。
【0058】
各表示データ関連情報172は、データID173、表示位置174、幅175、高さ176、テキストデータ177及び使用言語178を含んでいる。
【0059】
データID173は、表示データ関連情報172を識別するための識別子である。表示位置174は、テキストデータ177を表示する第一表示領域の左下点の表示部102における座標値(X座標、Y座標)を示す。幅175及び高さ176は、それぞれ、テキストデータ177を表示する第一表示領域の幅及び高さを示す。テキストデータ177は、表示部102の第一表示領域に表示される内容を示す。ここでは、翻訳の容易性を考慮して、テキストデータである。使用言語178は、テキストデータ177の言語を示す。
【0060】
図5は、一例として、表示データテーブル171に基づいて、翻訳表示装置1の表示部102に表示される表示画像データを示す。
【0061】
第一表示領域301、302、303、304、・・・には、それぞれ、表示データテーブル171において、データID「K001」、「K002」、「K003」、「K004」、・・・により識別される表示データ関連情報内のテキストデータが表示される。
【0062】
(ユーザー属性テーブル191)
図6は、ユーザー属性テーブル191のデータ構造の一例を示す。
【0063】
ユーザー属性テーブル191は、各ユーザーの属性を保持するデータテーブルである。
【0064】
ユーザー属性テーブル191は、この図に示すように、予め、複数のユーザー属性情報192を含んでいる。
【0065】
各ユーザー属性情報192は、ユーザーID193、ユーザー名194、使用言語195及び顔画像ID196から構成されている。
【0066】
ユーザーID193は、ユーザーを識別する識別子である。ユーザー名194は、ユーザーを示す名称である。使用言語195(表記法情報)は、当該ユーザーが理解可能な言語である。ここで、理解可能とは、当該ユーザーがその言語の文字を読んで(見て)理解できることを言うが、さらに、聞いて理解し、話すことができ、書くことができることを言うとしてもよい。このように、使用言語195は、各々のユーザーに親和性のある言語(表記法)を示す。顔画像ID196は、当該ユーザーの顔画像を表す顔画像データを識別する識別子である。
【0067】
(顔画像データ)
記憶部104は、複数の顔画像データを記憶するための領域を備えている。
【0068】
図6には、顔画像データの一例も示している。
【0069】
図6に示す顔画像データ197a、197b、197c、197d、・・・は、それぞれ、図6のユーザー属性テーブル191のユーザーID「U001」、「U002」、「U003」、「U004」、・・・に対応している。
【0070】
顔画像データは、ユーザーを認識するために用いられるので、ユーザーの顔の正面から撮影した顔画像が好ましい。さらに、ユーザーの顔の左側から撮影した顔画像、及び、顔の右側から撮影した顔画像を含めるとしてもよい。
【0071】
(画像データ)
記憶部104は、画像データ111a、111b、111c、111d(図3)を記憶するための領域を備えている。
【0072】
画像データ111a、111b、111c、111dは、それぞれ、カメラ12a、12b、12c、12dによる撮影により、生成された多階調の画像データである。画像データには、複数の画素が行列状に配されている。
【0073】
図7は、画像データの一例として、カメラ12aによる撮影により、生成された画像データ111aを示す。画像データ111aには、翻訳表示装置1の周囲に立つ複数のユーザーの画像343a、343b、343c、343d、及び、翻訳表示装置1の天板の一部の画像343eが含まれている。カメラ12aの撮影方向は、固定されているので、画像データ111aには、常に、翻訳表示装置1の天板の同じ部分が写り込んでいる。また、画像343eには、天板の周辺に付された目盛り344a、344b、344cが写り込んでいる。このため、画像343e内の目盛り344a、344b、344cと、画像343a、343b、343c、343dとの位置関係から、画像343a、343b、343c、343dが表すユーザーの立ち位置を知ることができる。
【0074】
図7に示す画像データ111aには、画像343a、343b、343c、343dのうち、ユーザーのそれぞれの顔部分であるオブジェクトデータ342a、342b、342c、342dを示している。各オブジェクトデータの形状は、矩形である。
【0075】
カメラ12b、12c、12dによる撮影により、生成された画像データ111b、111c、111dについても、画像データ111aと同様である。
【0076】
なお、画像データ111a、111b、111c、111dは、それぞれ、静止画であるが、動画像であるとしてもよい。
【0077】
(オブジェクト情報テーブル121)
図8は、オブジェクト情報テーブル121のデータ構造の一例を示す。
【0078】
オブジェクト情報テーブル121は、カメラ12a~12dによる撮影により生成された画像データに写り込んだユーザーの顔部分であるオブジェクトデータを示すオブジェクト情報を記憶するためのデータテーブルである。
【0079】
オブジェクト情報テーブル121は、この図に示すように、複数のオブジェクト情報122を記憶するための領域を備えている。オブジェクト情報122は、一つのオブジェクトデータに対応しており、各オブジェクト情報122は、カメラID123、画像ID124、オブジェクトID125、オブジェクト範囲126及びユーザーID127を含んでいる。
【0080】
カメラID123は、当該オブジェクトデータを含む画像データを生成したカメラを識別するための識別子である。画像ID124は、当該オブジェクトデータを含む画像データを識別するための識別子である。オブジェクトIDは、当該オブジェクトデータを識別するための識別子である。オブジェクト範囲126は、画像データ内において、矩形状の当該オブジェクトデータの左下点と右上点が存在する座標を示す。ユーザーIDは、当該オブジェクトデータとしてその顔が写り込んだユーザーを識別する識別子である。
【0081】
なお、異なるカメラが一人のユーザーを撮影することもありうるので、オブジェクト情報テーブル121には、同一のユーザーについて、複数のオブジェクト情報が含まれる場合がある。
【0082】
(オブジェクトデータ)
記憶部104は、複数のオブジェクトデータ128、・・・を記憶するための領域を備えている。
【0083】
記憶部104に記憶されているオブジェクトデータ128、・・・は、画像データから、ユーザーの顔部分の画像データが切り出されたものである。
【0084】
図8には、オブジェクトデータの一例も示している。
【0085】
図8に示すオブジェクトデータ128は、図8のオブジェクト情報テーブル121のオブジェクトID「OB0001」に対応している。
【0086】
オブジェクトデータは、ユーザーの立ち位置及びユーザーの視線を検出するために用いられる。
【0087】
(パーツ情報テーブル131)
図9は、パーツ情報テーブル131のデータ構造の一例を示す。
【0088】
パーツ情報テーブル131は、この図に示すように、複数のパーツ情報132を記憶するための領域を備えている。
【0089】
ここで、オブジェクト(顔)を構成する部分(左目、右目、口、鼻、左耳、右耳等)をパーツと呼び、画像データ内のユーザーの顔部分であるオブジェクトデータから、左目、右目、口、鼻、左耳、右耳等の部分画像であるパーツデータが切り出される。ここで、パーツデータの形状は、矩形である。
【0090】
パーツ情報132は、一つのパーツデータに対応しており、各パーツ情報132は、オブジェクトID133、パーツID134、パーツ範囲135及びパーツタイプ136を含んでいる。
【0091】
オブジェクトID133は、当該パーツデータが含まれるオブジェクトデータを識別する識別子である。パーツID134は、当該パーツデータを識別する識別子である。パーツ範囲135は、当該パーツデータが含まれるオブジェクトデータ内において、矩形状の当該パーツデータの左下点と右上点が存在する座標を示す。パーツタイプ136は、当該パーツデータの種類を示す。つまり、パーツタイプ136は、当該パーツデータが左目、右目、口、鼻、左耳、右耳のいずれであるかを示す。
【0092】
(パーツデータ)
記憶部104は、複数のパーツデータ137a、・・・を記憶するための領域を備えている。
【0093】
記憶部104に記憶されているパーツデータ137a、・・・は、ユーザーの顔部分のオブジェクトデータから、その部分であるパーツの画像データが切り出されたものである。
【0094】
図9には、パーツデータの一例も示している。
【0095】
図9に示すパーツデータ137a~137fは、それぞれ、図9のパーツ情報テーブル131のオブジェクトID「OB0001」のパーツID「PT0001」~「PT0006」に対応している。
【0096】
パーツデータは、ユーザーの視線を検出するために用いられる。
【0097】
(ユーザー位置テーブル141)
図10は、ユーザー位置テーブル141のデータ構造の一例を示す。
【0098】
ユーザー位置テーブル141は、翻訳表示装置1の周囲におけるユーザーの立ち位置を示すユーザー位置情報を記憶するためのデータテーブルである。
【0099】
ユーザー位置テーブル141は、この図に示すように、複数のユーザー位置情報142を記憶するための領域を備えている。ユーザー位置情報142は、一人のユーザーに対応している。
【0100】
各ユーザー位置情報142は、ユーザーID143及びユーザー位置144を含む。
【0101】
ユーザーID143は、当該ユーザーを識別するための識別子である。ユーザー位置144は、翻訳表示装置1の周囲に立つユーザーの顔の中心部分の位置(つまり、ユーザーの立ち位置)を、X-Y-Z座標で示す。
【0102】
(水平方向テーブル156)
図11は、水平方向テーブル156のデータ構造の一例を示す。
【0103】
水平方向テーブル156は、ユーザーの顔の水平方向の向きを算出するために用いるデータテーブルである。
【0104】
水平方向テーブル156は、この図に示すように、予め、複数の水平方向情報157を記憶している。水平方向情報157は、ユーザーの顔の一つの水平方向の向きに対応している。
【0105】
各水平方向情報157は、比率158及び水平方向角度159を含む。
【0106】
比率158は、左側交差位置と右側交差位置との間における中央線の位置を比率(%)で示す。具体的には、比率「左0」は、中央線が左側交差位置に一致することを示す。比率「左25」は、左側交差位置と右側交差位置との間において、中央線が左側交差位置から25%の位置に存在することを示す。比率「50」は、中央線が、左側交差位置と右側交差位置との中央の位置に存在することを示す。比率「右25」は、左側交差位置と右側交差位置との間において、中央線が右側交差位置から25%の位置に存在することを示す。比率「右0」は、中央線が右側交差位置に一致することを示す。
【0107】
ここで、中央線、左側交差位置及び右側交差位置について、図16(a)を参照しながら、説明する。
【0108】
中央線364aは、ユーザーの頭部363aにおいて、左目と右目との中間点を頭部の上下方向に貫く直線である。左側交差位置367は、両目を結ぶ線369と左側輪郭線366aが交差する位置であり、右側交差位置368は、両目を結ぶ線369と右側輪郭線365aが交差する位置である。なお、左側輪郭線366aは、頭部363aの左側の輪郭線を示し、右側輪郭線365aは、頭部363aの右側の輪郭線を示す。
【0109】
ここで、中央線と左側交差位置との距離を左距離と呼び、中央線と右側交差位置との距離を右距離と呼ぶ。
【0110】
水平方向角度は、ユーザーの顔の水平方向の向きを角度(度)で示す。
【0111】
例えば、図11に示す水平方向テーブル156において、比率「左0」と水平方向角度「左90」とが対応している。比率「左0」の場合、ユーザーの顔は、正面から、90度だけ、左側を向いていることを示す。
【0112】
また、比率「左25」と水平方向角度「左45」とが対応している。ここで、比率「左25」の場合、ユーザーの顔は、正面から、45度だけ、左側を向いていることを示す。
【0113】
さらに、比率「50」と水平方向角度「0」とが対応している。ここで、比率「50」の場合、ユーザーの顔は、正面を向いていることを示す。
【0114】
その他の場合についても、同様である。
【0115】
(視線情報テーブル151)
図12は、視線情報テーブル151のデータ構造の一例を示す。
【0116】
視線情報テーブル151は、ユーザーの視線を示す視線情報を記憶するためのデータテーブルである。
【0117】
視線情報テーブル151は、この図に示すように、複数の視線情報152を記憶するための領域を備えている。視線情報152は、一人のユーザーの視線に対応している。
【0118】
各視線情報152は、ユーザーID153、ユーザー位置154及び方向情報155を含む。
【0119】
ユーザーID153は、当該ユーザーを識別するための識別子である。ユーザー位置144は、翻訳表示装置1の周囲に立つユーザーの顔の中心部分の位置を、X-Y-Z座標で示す。方向情報155は、ユーザーの視線の向く方向を、ユーザー位置144からのベクトル(X、Y、Z)により、示す。
【0120】
(視点位置テーブル161)
図13は、視点位置テーブル161のデータ構造の一例を示す。
【0121】
視点位置テーブル161は、表示部102の表示面における、ユーザーの視点を示す視点位置情報を記憶するためのデータテーブルである。
【0122】
視点位置テーブル161は、この図に示すように、複数の視点位置情報162を記憶するための領域を備えている。視点位置情報162は、一人のユーザーの視点に対応している。
【0123】
各視点位置情報162は、ユーザーID163及び視点位置164を含む。
【0124】
ユーザーID163は、当該ユーザーを識別するための識別子である。視点位置164は、表示部102の表示面における、ユーザーの視点の位置を、X-Y座標で示す。
【0125】
(表示領域テーブル181)
図14は、表示領域テーブル181のデータ構造の一例を示す。
【0126】
表示領域テーブル181は、表示部102により表示される各第一表示領域に注目しているユーザーを示す表示領域情報を記憶するためのデータテーブルである。
【0127】
表示領域テーブル181は、この図に示すように、複数の表示領域情報182を記憶するための領域を備えている。表示領域情報182は、一つのテキストデータに対応している。
【0128】
各表示領域情報182がデータID183のみを含む場合と、各表示領域情報182がデータID183及び一つ以上のユーザーID184を含む場合とがある。
【0129】
データID183は、表示部102により表示されるテキストデータを識別するための識別子である。ユーザーID184は、ユーザーを識別する識別子である。
【0130】
表示領域情報182がデータID183のみを含む場合、データID183により示されるテキストデータが表示される第一表示領域に注目しているユーザーが存在しないことを示す。また、表示領域情報182がデータID183及び一つのユーザーID184を含む場合、データID183により示されるテキストデータが表示される第一表示領域に、一人のユーザーが注目していることを示す。さらに、表示領域情報182がデータID183及び複数のユーザーID184を含む場合、データID183により示されるテキストデータが表示される第一表示領域に、複数のユーザーが注目していることを示す。
【0131】
(翻訳テキストデータテーブル201)
図15は、翻訳テキストデータテーブル201のデータ構造の一例を示す。
【0132】
翻訳テキストデータテーブル201は、翻訳されたテキスト(翻訳テキストデータ、第二データ)を示す翻訳情報を記憶するためのデータテーブルである。
【0133】
翻訳テキストデータテーブル201は、この図に示すように、複数の翻訳情報202を記憶するための領域を備えている。翻訳情報202は、一つのテキストデータに対応している。
【0134】
各翻訳情報202は、データID203、翻訳テキスト204及び使用言語205を含む。
【0135】
データID203は、表示部102により表示されるテキストデータを識別するための識別子である。翻訳テキスト204は、表示データテーブル171において、データID203により識別されるテキストデータを翻訳した結果の文字列である。使用言語205は、翻訳の際に用いられた言語を示す。
【0136】
(辞書データベース211)
辞書データベース211は、翻訳部111により用いられ、複数の言語について、第一言語の用語と第二言語の用語との対応関係を記憶しているデータベースである。
【0137】
(2)カメラ12a~12d及び入力部105a~105d
カメラ12aは、対象を撮影して、画像データを生成し、生成した画像データを入力部105aに対して出力する。入力部105aは、カメラ12aから画像データを受信し、受信した画像データを画像データ111aとして、カメラ12aを識別するカメラIDとともに、記憶部104に、書き込む。
【0138】
カメラ12b~12d及び入力部105b~105dについても、カメラ12a及び入力部105aと同様であり、カメラ12b~12dは、それぞれ、撮影により画像データを生成し、入力部105b~105dは、画像データを記憶部104に、カメラIDとともに、画像データ111b~111dとして、書き込む。
【0139】
(3)顔認識処理部106
顔認識処理部106は、記憶部104から、カメラIDとともに、各々の画像データを読み出し、読み出した画像データから、ユーザーの顔部分であるオブジェクトデータを切り出す。オブジェクトデータの切り出しは、例えば、画像データにおいて、目、鼻、口、耳のセットを認識することにより、行う。また、顔認識処理部106は、目、鼻、口、耳も、パーツデータとして、切り出す。さらに、顔認識処理部106は、パーツデータ毎に、当該パーツデータが目、鼻、口、耳のいずれであるかを判断して、そのパーツタイプを特定する。
【0140】
顔認識処理部106は、各画像データから、切り出したオブジェクトデータ、及び、パーツデータを、記憶部104に書き込む。
【0141】
また、顔認識処理部106は、切り出したオブジェクトデータを識別するオブジェクトIDを生成し、切り出したオブジェクトデータの範囲を示すオブジェクト範囲を生成する。次に、顔認識処理部106は、カメラID、画像ID、オブジェクトID及びオブジェクト範囲からなるオブジェクト情報を、オブジェクト情報テーブル121に書き込む。
【0142】
また、顔認識処理部106は、切り出したオブジェクトデータの特徴部分が、記憶部104に予め記憶されている顔画像データ197a、197b、197c、・・・のいずれかの特徴部分と一致するか否かを判断する。いずれかの顔画像データの特徴部分と一致する場合には、その顔画像データを識別する顔画像IDに対応するユーザーIDを、ユーザー属性テーブル191から抽出する。顔認識処理部106は、抽出したユーザーIDを、オブジェクト情報テーブル121に書き込む。切り出したオブジェクトデータの特徴部分が、いずれの顔画像データの特徴部分とも一致しないする場合には、オブジェクト情報テーブル121には、ユーザーIDは、書き込まれない。
【0143】
また、顔認識処理部106は、オブジェクトデータから切り出したパーツデータ毎に、パーツデータを識別するパーツIDを生成し、切り出したパーツデータの範囲を示すパーツを生成する。次に、顔認識処理部106は、パーツデータ毎に、オブジェクトID、パーツID、パーツ範囲及びパーツタイプからなるパーツ情報を、パーツ情報テーブル131に書き込む。
【0144】
(4)位置算出部107
位置算出部107は、オブジェクト情報テーブル121から、オブジェクト情報毎に、オブジェクト範囲を抽出し、抽出したオブジェクト範囲と、画像データに含まれ、翻訳表示装置1の天板の周辺に付された目盛りの位置とを比較して、ユーザーの立ち位置を示すユーザー位置を、X-Y-Z座標で、算出する。なお、上記の通り、ユーザーの立ち位置とは、翻訳表示装置1の周囲に立つ当該ユーザーの顔の中心部分の位置を示す。位置算出部107は、ユーザーを識別するユーザーIDと、算出したユーザー位置とからなるユーザー位置情報を、ユーザー位置テーブル141に書き込む。
【0145】
(5)視線視点算出部108
(ユーザーの顔の水平方向の向きの算出)
視線視点算出部108は、次のようにして、ユーザー毎に、ユーザーの顔の水平方向の向きを算出する。
【0146】
図16(a)には、三方向に向いたユーザーの頭部の概略図を示す。つまり、左側を向くユーザーの頭部363a、正面を向くユーザーの頭部363b、及び、右側を向くユーザーの頭部363cを示している。
【0147】
左側を向く頭部363aにおいて、左目と右目との中間点を頭部363aの上下方向に貫く直線である中央線364aを設定し、頭部363aの左側の輪郭を示す左側輪郭線366aを設定し、頭部363aの右側の輪郭を示す右側輪郭線365aを設定すると、中央線364aは、右側輪郭線365aよりも、左側輪郭線366aに近い位置に存在する。
【0148】
また、正面を向く頭部363bにおいて、頭部363aと同様に、中央線364b、左側輪郭線366b、及び、右側輪郭線365bを設定すると、中央線364bは、右側輪郭線365bと左側輪郭線366bの略中央の位置に存在する。
【0149】
右側を向く頭部363cにおいて、頭部363aと同様に、中央線364c、左側輪郭線366c、及び、右側輪郭線365cを設定すると、中央線364cは、左側輪郭線366cよりも、右側輪郭線365cに近い位置に存在する。
【0150】
このように、視線視点算出部108は、頭部の中央線が、左側輪郭線に近い側に存在するか、又は、右側輪郭線に近い側に存在するかを判断することにより、具体的には、水平方向テーブル156を用いて、ユーザーの顔の水平方向の向きを推定することができる。
【0151】
翻訳表示装置1の天板の4つの隅には、それぞれ、カメラ12a、12b、12c及び12dが設置されているので、いずれかのカメラがユーザーの頭部(特に、左目、右目、鼻、口等を含む顔部)を撮影することができる。その結果、図16(b)に示すように、ユーザーの頭部361a、361b、361cが向いている水平方向の向き362a、362b、362cを推定することができる。
【0152】
視線視点算出部108は、オブジェクト情報テーブル121に記憶されている各オブジェクトIDについて、記憶部104から一つのオブジェクトIDにより識別されるオブジェクトデータ読み出す。また、視線視点算出部108は、当該オブジェクトIDについて、パーツ情報テーブル131から、左目のパーツ情報内のパーツID及びパーツ範囲、並びに、右目のパーツ情報内のパーツID及びパーツ範囲を抽出し、抽出した左目のパーツID及び右目のパーツIDによりそれぞれ識別されるパーツデータを記憶部104から読み出す。
【0153】
次に、視線視点算出部108は、左目のパーツデータ及びパーツ範囲、右目のパーツデータ及びパーツ範囲、並びに、オブジェクトデータを用いて、中央線を算出する。また、視線視点算出部108は、オブジェクトデータを用いて、左側輪郭線及び右側輪郭線を算出する。次に、視線視点算出部108は、オブジェクトデータを用いて、中央線と左側輪郭線の左距離と、中央線と右側輪郭線との右距離との比率を算出する。例えば、中央線が、左側輪郭線と右側輪郭線との中央に存在する場合には、比率は、50%である。中央線が、左側輪郭線と一致する場合には、比率は、左0%である。中央線が、右側輪郭線と一致する場合には、比率は、右0%である。中央線と左側輪郭線の左距離と、中央線と右側輪郭線との右距離との比率が1:3である場合、比率は、左25%である。中央線と左側輪郭線の左距離と、中央線と右側輪郭線との右距離との比率が3:1である場合、比率は、右25%である。
【0154】
次に、視線視点算出部108は、水平方向テーブル156から、算出した比率に対応する水平方向角度を抽出する。算出した比率に対応する水平方向角度が水平方向テーブル156に存在しない場合には、直線補間法を用いる。
【0155】
このようにして、ユーザーの顔が向いている水平方向の向きを算出する。
【0156】
(ユーザーの顔の鉛直方向からの傾きの算出)
視線視点算出部108は、次のようにして、ユーザー毎に、ユーザーの顔(頭部)の鉛直方向からの傾きを算出する。
【0157】
図16(c)には、鉛直方向に対して傾きのないユーザーの顔375a、鉛直方向に対してやや傾いたユーザーの顔375b、及び、鉛直方向に対してさらに傾いたユーザーの顔375cを示す。
【0158】
鉛直方向に対して傾きのないユーザーの顔375aでは、中央線374aは、ほぼ鉛直方向を維持している。また、鉛直方向に対してやや傾いたユーザーの顔375bでは、中央線374bは、鉛直方向からやや傾いている。また、鉛直方向に対してさらに傾いたユーザーの顔375cでは、中央線374cは、鉛直方向からさらに傾いている。
【0159】
従って、ユーザーの頭部の中央線を用いれば、ユーザーの顔の鉛直方向からの傾きを知ることができる。つまり、図16(d)に示すように、ユーザーの顔371a、371bの中央線372a、372bの鉛直方向からの傾きから、視線方向373a、373bを知ることができる。
【0160】
ユーザーの顔の水平方向の向きを算出する場合と同様に、視線視点算出部108は、左目のパーツデータ及びパーツ範囲、右目のパーツデータ及びパーツ範囲、並びに、オブジェクトデータを用いて、中央線を算出する。
【0161】
次に、視線視点算出部108は、算出した中央線を基にして、中央線に鉛直をなす方向を算出し、これをユーザーの顔の鉛直方向からの傾きとする。
【0162】
(視線情報の生成)
視線視点算出部108は、ユーザー毎に、算出したユーザーの顔の水平方向の向きと、ユーザーの顔の鉛直方向からの傾きを合成して、ユーザーの視線が向く方向情報(X、Y、Z)を算出する。
【0163】
次に、視線視点算出部108は、ユーザー毎に、ユーザーを識別するユーザーID、ユーザー位置テーブル141に書き込まれたユーザー位置情報、及び、ユーザーの視線が向く方向情報からなる視線情報を、視線情報テーブル151に書き込む。
【0164】
(視点情報の生成)
視線視点算出部108は、視線情報テーブル151から、順に、視線情報を全て読み出す。視線視点算出部108は、読み出した視線情報に含まれるユーザー位置により示される位置を起点として、読み出した視線情報に含まれる方向情報が示す方向に、直線を延長し、延長した直線が表示部102の表示面と交差する点を、ユーザーの視点位置として算出する。視線視点算出部108は、ユーザーを識別するユーザーIDと視点位置とからなる視点位置情報を視点位置テーブル161に書き込む。
【0165】
(6)表示領域検出部109
表示領域検出部109は、表示データテーブル171から、順に、表示データ関連情報を全て読み出し、読み出した表示データ関連情報内のデータIDを含む表示領域情報を、表示領域テーブル181に書き込む。この結果、表示領域テーブル181は、表示データテーブル171に含まれる表示データ関連情報と同じ数の表示領域情報を含むこととなる。
【0166】
次に、表示領域検出部109は、視点位置テーブル161から、順に、視点位置情報を全て読み出す。視点位置情報を読み出す毎に、表示領域検出部109は、読み出した視点位置情報に含まれる視点位置が、表示データテーブル171内の、どの表示データ関連情報により示される表示位置、幅、高さにより示される第一表示領域内に、存在するかを判断する。視点位置が第一表示領域内に存在する場合、表示領域テーブル181において、同じデータIDを含む表示領域情報内に、視点位置に対応するユーザーIDを書き込む。視点位置が第一表示領域内に存在しない場合、ユーザーIDの書き込みを行わない。
【0167】
こうして、第一表示領域毎に、その第一表示領域に注目するユーザーのユーザーIDをまとめることができる。
【0168】
(7)表示制御部110
表示制御部110は、表示データテーブル171から、全ての表示データ関連情報を読み出す。読み出した表示データ関連情報毎に、当該表示データ関連情報に含まれる表示位置、幅及び高さにより示される第一表示領域に、当該表示データ関連情報に含まれるテキストデータを表示した表示画像データを生成する。ここで、当該表示データ関連情報に含まれる使用言語、つまり、表示されるテキストデータの元になる言語を第一言語(第一表記法)と呼ぶ。次に、表示制御部110は、生成した表示画像データを合成部229に対して、出力する。
【0169】
また、表示制御部110(視点判断手段)は、表示領域テーブル181に含まれる各表示領域情報について、複数のユーザーの視点が、一つの第一表示領域内に存在するか否か、一人のユーザーの視点のみが一つの第一表示領域内に存在するか否か、また、一つの第一表示領域内にユーザーの視点が存在しないかを判断する。つまり、表示制御部110は、表示面を注視する複数のユーザーの表示面におけるそれぞれの視点のうち、複数の視点が第一表示領域内に存するか否かを判断する。
【0170】
表示制御部110(決定手段)は、複数のユーザーの視点が、一つの第一表示領域内に存在する場合に限り、処理対象である表示領域情報に含まれるデータIDについて、用いられている使用言語(第一言語)を表示データテーブル171から取得し、取得した使用言語を除いて、一つの第一表示領域内に存在する複数の視点に視線を注ぐ複数のユーザーの使用言語をユーザー属性テーブル191から取得し、取得した複数のユーザーの使用言語のうち、少なくとも一つの言語を、第二言語(第二表記法)として決定する。つまり、表示制御部110は、取得した使用言語を用いて、第一表示領域に視線を注ぐ複数のユーザーに親和性のある言語(表記法)を、第二言語として決定する。ここで、表示制御部110(決定手段)により、決定される親和性のある表記法とは、ユーザー毎に馴染みのある表記法として予め登録されている表記法である、としてもよい。表示制御部110は、翻訳部111に対して、第一表示領域に表示されるテキストデータを、前記第二言語により翻訳するように、制御する。表示制御部110(生成手段)は、表示面上において第一表示領域に付随する第二表示領域の位置を示す位置情報を生成する。なお、位置情報の生成の詳細については、後述する。表示制御部110(出力手段)は、合成部229に対して、翻訳テキストデータ及び位置情報を出力する。
【0171】
ここで、複数のユーザーの視点が、一つの第一表示領域内に存在する場合、当該第一表示領域内に存在する複数の視点に視線を注ぐ複数のユーザーの使用言語が全て第一言語であるときには、第二表示領域の表示は、行わない。
【0172】
一方、表示制御部110は、一つのユーザーの視点のみが、一つの第一表示領域内に存在する場合、当該ユーザーの使用言語と、第一表示領域に表示されるテキストデータの言語が一致するか否かを判断する。
【0173】
一致しない場合、表示制御部110は、翻訳部111に対して、第一表示領域に表示されるテキストデータを、当該ユーザーの使用言語により翻訳するように、制御する。また、表示制御部110(生成手段)は、表示面上において第一表示領域に付随する第二表示領域の位置を示す位置情報を生成する。表示制御部110(出力手段)は、合成部229に対して、翻訳テキストデータ及び位置情報を出力する。この場合、第二表示領域に表示される翻訳テキストデータは、ハーフトーンにより表示される。
【0174】
当該ユーザーの使用言語と、第一表示領域に表示されるテキストデータの言語が一致する場合、表示制御部110は、処理を行わない。
【0175】
(8)翻訳部111
翻訳部111(表記変換手段)は、第一表示領域に表記されているテキストデータを、第二言語により翻訳(表記)された翻訳テキストデータに変換する。
【0176】
具体的には、翻訳部111は、表示制御部110の制御により、決定した第二言語により、辞書データベース211を用いて、テキストデータを翻訳し、データID、翻訳されたテキストデータである翻訳テキスト及び使用言語からなる翻訳情報を、翻訳テキストデータテーブル201に書き込む。
【0177】
(9)合成部229
合成部229は、表示制御部110から、表示画像データを受信し、受信した表示画像データを、出力部103を介して、表示部102に出力し、表示部102に表示画像データを表示させる。
【0178】
また、合成部229は、表示制御部110から、翻訳テキストデータ及び位置情報を受信する。翻訳テキストデータ及び位置情報を受信すると、前に受信した表示画像データに、受信した位置情報により示される位置において、受信した翻訳テキストデータを合成し、合成した表示画像データを、出力部103を介して、表示部102に出力し、表示部102に表示画像データを表示させる。
【0179】
(10)出力部103及び表示部102
出力部103は、合成部229から、表示画像データを受信し、受信した表示画像データを表示部102に対して出力する。
【0180】
表示部102は、出力部103から、表示画像データを受信し、受信した表示画像データを表示する。
【0181】
表示画像データは、表示データテーブル171に含まれる表示位置において、その幅及び高さにより、テキストデータを含む。また、位置情報により示される位置において、翻訳テキストデータを含む。
【0182】
(11)主制御部101
主制御部101は、カメラ12a~12d、表示部102、出力部103、入力部105a~105d、顔認識処理部106、位置算出部107、視線視点算出部108、表示領域検出部109、表示制御部110、翻訳部111及び合成部229を、統一的に制御する。
【0183】
1.3 表示部102により表示される画面の例示
図17は、表示部102に表示されるテキストデータ及び翻訳テキストデータの一例を示す。
【0184】
この図に示すように、表示部102には、第一表示領域301において、日本語により、「原因と対策」が表示されている。第一表示領域301には、視点311c、312c及び313cが存在する。
【0185】
視点311cは、位置311aに立ち、ユーザーID「U001」により識別されるユーザーが注ぐ視線311bの先にある。このユーザーの使用する言語は、「英語」である。また、視点312cは、位置312aに立ち、ユーザーID「U002」により識別されるユーザーが注ぐ視線312bの先にある。このユーザーの使用する言語は、「日本語」である。さらに、視点313cは、位置313aに立ち、ユーザーID「U003」により識別されるユーザーが注ぐ視線313bの先にある。このユーザーの使用する言語は、「スペイン語」である。
【0186】
このように、第一表示領域301には、日本語が表示され、視点311c、312c及び313cが存在し、視点311c及び313cに視線を注ぐユーザーが使用する言語は、表示された日本語ではなく、それぞれ、英語及びスペイン語であるので、第一表示領域301に付随する第二表示領域401a及び401bには、それぞれ、英語及びスペイン語により、「Cause and Action」及び「Causa y Medidas」が表示されている。
【0187】
従って、第一表示領域301に視点に視線を注ぐ三人のユーザーは、第一表示領域301に付随する第二表示領域401a、401bが表示されていることにより、第一表示領域301に注目する他のユーザーの存在を知ることができる。また、第一表示領域301に視点に視線を注ぐ三人のユーザーは、第一表示領域301及び付随する第二表示領域401a、401bに表示された文字データの意味を理解することができ、三人のユーザーの間において、意思の疎通を図ることができる。
【0188】
また、表示部102には、第一表示領域302において、日本語により、「気温」が表示されている。第一表示領域302には、視点314cが存在する。
【0189】
視点314cは、位置314aに立ち、ユーザーID「U004」により識別されるユーザーの視線314bの先にある。このユーザーの使用する言語は、「ドイツ語」である。
【0190】
このように、第一表示領域302には、日本語が表示され、視点314cが存在し、視点314cに視線を注ぐユーザーが使用する言語は、表示された日本語ではなく、ドイツ語であるので、第一表示領域302に付随する第二表示領域402には、ドイツ語により、「Temperatur」と表示されている。ただし、第一表示領域302には、一つの視点314cしか存在しないので、第二表示領域402において、「Temperatur」は、ハーフトーンにより表示される。
【0191】
また、表示部102には、第一表示領域303において、日本語により、「太陽の軌道」が表示されている。第一表示領域303には、視点315c及び視点316cが存在する。
【0192】
視点315cは、位置315aに立ち、ユーザーID「U005」により識別されるユーザーの視線315bの先にある。このユーザーの使用する言語は、「英語」である。また、視点316cは、位置316aに立ち、ユーザーID「U006」により識別されるユーザーの視線316bの先にある。このユーザーの使用する言語は、「日本語」である。
【0193】
このように、第一表示領域303には、日本語が表示され、視点315c及び316cが存在し、視点315cに視線を注ぐユーザーが使用する言語は、表示された日本語ではなく、英語であるので、第一表示領域303に付随する第二表示領域403には、英語により、「Sun’s career」と表示されている。
【0194】
従って、第一表示領域303に視点に視線を注ぐ二人のユーザーは、第一表示領域303及び付随する第二表示領域403が表示されていることにより、第一表示領域303に注目するユーザーの存在を知ることができる。また、第一表示領域303に視点に視線を注ぐ二人のユーザーは、第一表示領域303及び付随する第二表示領域403に表示された文字データの意味を理解することができ、二人のユーザーの間において、意思の疎通を図ることができる。
【0195】
また、表示部102には、第一表示領域304において、日本語により、「衛星写真」が表示されている。第一表示領域304には、視点が存在しない。このため、翻訳された文字データの表示もない。
【0196】
(第一表示領域と第二表示領域との関係)
第一表示領域と、第一表示領域に付随する第二表示領域との位置の関係について、図18(a)~(d)を用いて、説明する。
【0197】
図18(a)は、第一表示領域351aと第二表示領域352aとが接触している場合の一例を示す。このように、第一表示領域351aの一辺と、第二表示領域352aの一辺が接触してもよい。第一表示領域351aと第二表示領域352aとが接触しているので、第一表示領域351aと第二表示領域352aとの関係が明らかである。
【0198】
この場合、表示制御部110(生成手段)は、表示面上において第一表示領域に接触する第二表示領域の位置を示す位置情報を生成する。
【0199】
図18(b)は、第一表示領域351bから、所定距離内に、第二表示領域352bが存する場合の一例を示す。このように、第一表示領域351bの近傍に、第二表示領域352bが存するとしてもよい。ここで、第一表示領域351bと第二表示領域352bとの距離は、例えば、第一表示領域351bの重心と、第二表示領域352bの重心との距離であるとしてもよい。また、所定距離は、例えば、第一表示領域351bと第二表示領域352bとが接触している場合における重心間の距離の2倍の距離であるとしてもよい。第一表示領域351bから、所定距離内に、第二表示領域352bが存するので、第一表示領域351bと第二表示領域352bとの関係が明らかである。
【0200】
この場合、表示制御部110(生成手段)は、表示面上において第一表示領域の近傍に存する第二表示領域の位置を示す位置情報を生成する。
【0201】
図18(c)は、第一表示領域351cに重複して、第二表示領域352cが存する場合の一例を示す。この場合、第一表示領域351cに表示されている文字が、第二表示領域352cに表示されている文字に重複しないことが好ましい。第一表示領域351cに重複して、第二表示領域352cが存するので、第一表示領域351cと第二表示領域352cとの関係が明らかである。
【0202】
この場合、表示制御部110(生成手段)は、表示面上において第一表示領域に重複する第二表示領域の位置を示す位置情報を生成する。
【0203】
図18(d)は、第一表示領域351dに包含されて第二表示領域352dが存する場合の一例を示す。この場合、第一表示領域351dに表示されている文字が、第二表示領域352dに表示されている文字に重複しないことが好ましい。第一表示領域351dに包含されて第二表示領域352dが存するので、第一表示領域351dと第二表示領域352dとの関係が明らかである。
【0204】
この場合、表示制御部110(生成手段)は、表示面上において第一表示領域に包含される第二表示領域の位置を示す位置情報を生成する。
【0205】
次に、第一表示領域における表示と第二表示領域における表示との対応関係について、図18(e)~(h)を用いて、説明する。
【0206】
図18(e)は、第一表示領域351e内の背景に施されたハッチングパターンと、第二表示領域352e内の背景に施されたハッチングパターンとが一致する場合の一例を示す。さらに、ハッチングパターンの表示色が一致してもよい。このように、ハッチングパターンが同一であるので、第一表示領域351eと第二表示領域352eとの関係が明らかである。
【0207】
図18(f)は、第一表示領域351f内の背景に施されたドットパターンと、第二表示領域352f内の背景に施されたドットパターンとが一致する場合の一例を示す。さらに、ドットパターンの表示色が一致してもよい。このように、ドットパターンが同一であるので、第一表示領域351fと第二表示領域352fとの関係が明らかである。
【0208】
図18(g)は、第一表示領域351gと、第二表示領域352gとが、線画像353によりリンクされている場合の一例を示す。この図のように、二重線の線画像により、リンクされてもよいし、破線、一点鎖線、波線等の線画像により、リンクされているとしてもよい。このように、第一表示領域351gと、第二表示領域352gとが、線画像353によりリンクされているので、第一表示領域351gと第二表示領域352gとの関係が明らかである。
【0209】
図18(h)は、第一表示領域351hの枠の表示パターンと、第二表示領域352hの枠の表示パターンとが一致する場合の一例を示す。さらに、枠の表示色が一致してもよい。このように、枠の表示パターンが同一であるので、第一表示領域351hと第二表示領域352hとの関係が明らかである。
【0210】
また、第一表示領域内の文字の表示色と、第二表示領域内の文字の表示色が一致してもよい(不図示)。この場合、文字の表示色が同一であるので、第一表示領域内と第二表示領域内との関係が明らかである。
【0211】
なお、第一表示領域の表示色と、第一表示領域と対応関係がない第二表示領域の表示色とは、異なる色となるようにする。また、対応関係がない第一表示領域の表示パターンと第二表示領域の表示パターンとは、異なるパターンとなるようにする。
【0212】
上記の場合に、表示制御部110(生成手段)は、第一表示領域内における表示色又は表示パターンと、第二表示領域内における表示色又は表示パターンとを示す同一の色パターン情報を生成してもよい。また、表示制御部110(出力手段)は、表示色又は表示パターンを用いて表示させるため、色パターン情報を、合成部229に対して出力してもよい。
【0213】
1.4 動作
翻訳表示装置1の動作について、図19図20に示すフローチャートを用いて説明する。
【0214】
表示部102は、表示制御部110の制御により、表示データテーブル171に含まれる全ての表示データ関連情報について、その表示位置において、その幅及び高さにより、テキストデータを表示する。ここで、表示されるテキストデータの元になる言語を第一言語と呼ぶ(ステップS101)。
【0215】
次に、カメラ12a~12dは、それぞれ、対象を撮影して、画像データを生成し、生成した画像データを、入力部105a~105dを介して、記憶部104に、書き込む。顔認識処理部106は、記憶部104から画像データを取得する(ステップS102)。
【0216】
次に、顔認識処理部106は、取得した画像データからユーザーの顔を検出する(ステップS103)。次に、位置算出部107は、取得した画像データからユーザーの立ち位置を検出する(ステップS104)。次に、顔認識処理部106は、ユーザー属性テーブル191及びユーザーの顔画像データを用いて、ユーザーを特定する(ステップS105)。
【0217】
次に、視線視点算出部108は、ユーザーの顔の水平方向の向きを算出し(ステップS106)、続いて、ユーザーの顔の鉛直方向からの傾きを算出する(ステップS107)。続いて、視線視点算出部108は、ユーザーの顔の水平方向の向き及びユーザーの顔の鉛直方向からの傾きを用いて、ユーザーの視線を算出し(ステップS108)、続いて、表示部102の表示面におけるユーザーの視点を算出する(ステップS109)。
【0218】
次に、表示制御部110は、表示領域テーブル181に含まれる表示領域情報毎に、ステップS111~S124を繰り返す(ステップS110~S125)。
【0219】
表示制御部110は、一つの第一表示領域について、複数のユーザーの視点が、一つの第一表示領域内に存在するか否かを判断する。具体的には、表示制御部110は、一つの表示領域情報が、複数のユーザーIDを含むか否かを判断する(ステップS111)。
【0220】
複数のユーザーの視点が、一つの第一表示領域内に存在する場合、つまり、一つの表示領域情報が複数のユーザーIDを含む場合(ステップS111で「YES」)、表示制御部110は、これらの複数のユーザーの使用言語をユーザー属性テーブル191から取得し、取得した複数のユーザーの使用言語のうちの少なくとも一つの使用言語を第二言語に決定する。ただし、第二言語を決定する際に、第一言語を除く(ステップS112)。次に、翻訳部111は、テキストデータを翻訳して翻訳テキストデータを取得する(ステップS113)。次に、表示制御部110は、第一表示領域に付随するように、翻訳テキストデータを表示すべき第二表示領域を設定する(ステップS114)。次に、表示制御部110は、翻訳テキストデータ及び第二表示領域の位置を示す位置情報を合成部229に対して出力する(ステップS115)。次に、表示部102は、第二表示領域において、第二テキストデータを含む表示画像データを表示する(ステップS116)。
【0221】
複数のユーザーの視点が、一つの第一表示領域内に存在しない場合、つまり、一つの表示領域情報が複数のユーザーIDを含まない場合(ステップS111で「NO」)、表示制御部110は、一人のユーザーの視点のみが一つの第一表示領域内に存在するか否かを判断、つまり、一つの表示領域情報が、一つのユーザーIDのみを含むか否かを判断する(ステップS119)。
【0222】
一人のユーザーの視点のみが一つの第一表示領域内に存在する場合、つまり、一つの表示領域情報が、一つのユーザーIDのみを含む場合(ステップS119で「YES」)、表示制御部110は、当該一人のユーザーの使用言語をユーザー属性テーブル191から取得し、表示テキストデータの使用言語(第一言語)とユーザーの使用言語が一致するか否かを判断する(ステップS120)。表示テキストデータの使用言語とユーザーの使用言語が一致しない場合(ステップS120で「NO」)、翻訳部111は、テキストデータを翻訳して翻訳テキストデータを取得し(ステップS121)、次に、表示制御部110は、例えば、第一表示領域に付随するように、翻訳テキストデータを表示すべき第二表示領域を設定する(ステップS122)。次に、表示制御部110は、翻訳テキストデータ及び第二表示領域の位置を示す位置情報を合成部229に対して出力する(ステップS123)。次に、表示部102は、第二表示領域において、第二テキストデータを含む表示画像データを表示する。このとき、第二表示領域において、第二テキストデータは、ハーフトーンにより、表示される(ステップS124)。
【0223】
表示テキストデータの使用言語(第一言語)とユーザーの使用言語が一致する場合(ステップS120で「YES」)、表示制御部110は、何もしない。
【0224】
また、ユーザーの視点が一つの第一表示領域内に存在しない場合、つまり、一つの表示領域情報が、ユーザーIDを含まない場合(ステップS119で「NO」)、表示制御部110は、何もしない。
【0225】
ステップS111~S124の繰り返しが終了すると、表示制御部110は、制御をステップS102へ移し、処理を繰り返す。
【0226】
1.5 まとめ
以上説明したように、上記の実施の形態によると、第一言語によりテキストデータが表示されている第一表示領域に、複数のユーザーの視点が存するときに限り、これらの視点に視線を注ぐ複数のユーザーの使用する第二言語(第一言語を除く)により、テキストデータを変換して、第一表示領域に付随する第二表示領域に、翻訳テキストデータを表示する。
【0227】
このように第一表示領域に付随する第二表示領域に翻訳テキストデータが表示されることにより、複数のユーザーが第一表示領域に注目していることがわかる。つまり、第一表示領域に注目している一人のユーザーは、自分以外にも、第一表示領域に注目しているユーザーが存在し、そのユーザーが、自分と同様に、第一表示領域に表示されているテキストデータに関心を持っていることを知ることができる。その結果、複数のユーザーの間で、意思疎通を図ることができる。また、第二表示領域には、翻訳テキストデータが表示されるので、第一言語を理解できないユーザーであっても、第一表示領域に表示されたテキストデータの意味を知ることができる。
【0228】
2 変形例
本発明について、上記の実施の形態に基づいて説明しているが、上記の実施の形態に限定されない。以下に示すようにしてもよい。
【0229】
2.1 変形例(1)
上記の実施の形態においては、図5に示すように、第一表示領域301にユーザーの視点311c、312c、313cが集まった場合であっても、第一表示領域301の大きさは、変更されない。しかし、本発明は、これには限定されない。
【0230】
表示部102の第一表示領域内に多くのユーザーの視点が集まる場合に、第一表示領域を大きくしてもよい。また、第一表示領域に付随して表示される第二表示領域も大きく表示してもよい。
【0231】
図21(a)は、表示部102に表示されるテキストデータとユーザーの立ち位置との関係を示す。また、図21(b)は、翻訳表示装置1の表示部102に大きく表示されるテキストデータ及び翻訳テキストデータの一例を示す。
【0232】
図21(a)に示すように、第一表示領域301に対して、多くのユーザーの視点が集まって存在している。一方で、第一表示領域302、303、304に対して、ユーザーの視点は集まっていない。
【0233】
このような場合に、第一表示領域301を大きくし、図21(b)に示すように、第一表示領域421aとするとともに、第一表示領域421aに付随する第二表示領域421b及び421cも大きくしてもよい。
【0234】
また、この場合、図21(a)の第一表示領域302、303、304を小さくし、その幅を細くしてもよい。また、図21(b)に示すように、第一表示領域421a並びに第二表示領域421b及び421cの余白領域に、その余白領域の形状に合わせて、図21(a)の第一表示領域302、303、304の形状を変形して、第一表示領域422、423、424のように、表示してもよい。例えば、図21(a)においては、第一表示領域302、303、304は、Y軸方向に長尺であるが、図21(b)においては、第一表示領域422、423、424は、X軸方向に長尺である。
【0235】
具体的には、表示制御部110(視点判断手段)は、第三表示領域内に存する複数の視点の数が、所定数以上であるか否かを判断してもよい。表示制御部110(生成手段)は、さらに、複数の視点の数が所定数以上である場合、第三表示領域を拡大した拡大領域の位置を示す拡大位置情報を生成する。表示制御部110(出力手段)は、さらに、拡大位置情報により示される拡大領域に、テキストデータを表示させるため、拡大位置情報を合成部229に対して出力する。
【0236】
また、複数の視点の数が所定数以上である場合、表示制御部110は、さらに、第二表示領域を拡大した領域の位置を示す第二拡大位置情報を生成し、翻訳テキストデータを拡大してもよい。表示制御部110は、さらに、第二拡大位置情報により示される拡大された第二表示領域に拡大された翻訳テキストデータを表示させるため、第二拡大位置情報及び拡大された翻訳テキストデータを合成部229に対して出力する
ここで、第三表示領域内に存する複数の視点の数が、所定数以上であるとは、例えば、第三表示領域内に存する複数の視点の数が、表示部102の表示面に存する全ての視点の数のうちの25%(又は、50%、75%、90%でもよい。)以上であることをいう。
【0237】
このように、変形例(1)によると、第三表示領域内に多くのユーザーの視点が集まる場合に、第三表示領域を大きくし、第三表示領域に付随して表示される第二表示領域も大きくし、さらに、表示されるテキストデータ及び翻訳テキストデータを大きくしている。
【0238】
このため、第三表示領域に注目するユーザーは、大きく表示されたテキストデータ及び翻訳テキストデータにより、これらの文字をはっきりと視認できる。
【0239】
2.2 変形例(2)
上記の実施の形態においては、図17に示すように、第一表示領域301、302、303、304内に表示されるテキストデータ内の各文字は、X軸正方向からX軸負方向に見て、正立している。また、第二表示領域401a、401b、402、403に表示される翻訳テキストデータについても、同様である。しかし、本発明は、これには、限定されない。
【0240】
ユーザーの視線の向きや、ユーザーの立ち位置に応じて、これらのユーザーに見やすいように、第一表示領域及び第二表示領域にそれぞれ表示されるテキストデータ内の各文字及び翻訳テキストデータ内の各文字が正立して見えるように、テキストデータ及び翻訳テキストデータの向きを調整してもよい。
【0241】
図22は、翻訳表示装置1の表示部102に表示されるテキストデータ及び翻訳テキストデータとユーザーの立ち位置との関係、及び、表示部102に表示されるテキストデータ及び翻訳テキストデータの一例を示す。
【0242】
図5と同様に、この図においても、表示部102には、第一表示領域301において、日本語により、「原因と対策」が表示されている。第一表示領域301には、視点311c、312c及び313cが存在する。これらの視点に視線を注ぐユーザーの立ち位置等についても、図5と同じである。
【0243】
このように、第一表示領域301には、日本語(第一言語)が表示され、視点311c、312c及び313cが存在し、視点311c及び313cに視線を注ぐユーザーが使用する言語は、表示された日本語ではなく、それぞれ、英語及びスペイン語(第二言語)であるので、図5と同様に、第一表示領域301に付随する第二表示領域433及び432には、それぞれ、英語及びスペイン語により、「Cause and Action」及び「Causa y Medidas」と表示されている。
【0244】
ただし、図5と異なるのは、第二表示領域433及び432には、視点311c及び313cに視線を注ぐユーザーの立ち位置から見て、それぞれの表示文字が正立して見えるようにしている点である。さらに、第二表示領域431にも、視点312cに視線を注ぐユーザーの立ち位置から見て、日本語による文字データが正立して見えるようにしている。
【0245】
第一表示領域302に付随する第二表示領域434及び第一表示領域303に付随する第二表示領域435についても、同様である。
【0246】
具体的には、表示制御部110(生成手段)は、翻訳テキストデータを構成する文字が、ユーザーの立ち位置から、正立して見えるように、翻訳テキストデータを回転させて配した画像データを生成する。表示制御部110(出力手段)は、画像データを出力する。表示部102は、第二表示領域に翻訳テキストデータを回転させて配した画像データを表示する。
【0247】
このように、ユーザーの視線の向きや、ユーザーの立ち位置に応じて、表示内容が正立して見えるので、表示内容に対するユーザーの理解を促進することができる。
【0248】
2.3 変形例(3)
上記の実施の形態においては、翻訳表示装置1の天板の4つの隅に設けられた4台のカメラ12a、12b、12c及び12dにより撮影されたユーザーの画像を用いて、ユーザーの視線方向及びユーザーの表示部102の表示面における視点を求めている。しかし、本発明は、これには限定されない。
【0249】
変形例(3)としての翻訳表示システム501は、表示面上の一部の第一表示領域に第一言語により表記されたテキストデータを第二言語に翻訳して表示するシステムであって、図23に示すように、モニター511、翻訳装置512及びユーザーの顔面に装着されるメガネ513、514、515から構成されている、としてもよい。モニター511と翻訳装置512とは、ケーブル516により接続されている。
【0250】
翻訳表示システム501は、実施の形態における翻訳表示装置1における、ユーザーの視点を検出する構造部分をメガネ513、514、515に置き換え、翻訳表示装置1における表示部102をモニター511に置き換えたものである。
【0251】
このため、翻訳装置512は、実施の形態における翻訳表示装置1における、ユーザーの視点を検出する構造部分及び表示部102を除く残りの構成部分により、構成されている。
【0252】
メガネ513は、翻訳装置512との間で、近距離無線により、通信を行う。メガネ514、515も、メガネ513と同様に、翻訳装置512との間で、近距離無線により、通信を行う。
【0253】
メガネ513のフレーム部分には、メガネ513を装着したユーザーの視線方向を撮影するカメラ513a及び算出部が配置されている。カメラ513aは、ユーザーの視線方向を撮影して画像データを生成し、算出部は、生成した画像データの中央部に写るオブジェクトの位置を視点として算出し、算出した視点を翻訳装置512に対して出力する。メガネ514、515も、メガネ513と同じ構造を有する。
【0254】
翻訳装置512は、メガネ513、514、515から、モニター511の表示面に注視する複数のユーザーの当該表示面におけるそれぞれの視点を取得し、取得した前記視点のうち、複数の視点が第一表示領域内に存するか否かを判断し、第一表示領域内に複数の視点が存する場合に限り、第一言語を除いて、当該複数の視点に視線を注ぐ複数のユーザーがそれぞれ理解する複数の言語のうち、少なくとも一つの言語を、第二言語として決定し、第一表示領域に表記されているテキストデータを、当該テキストデータの意味内容に関連し、前記第二言語により表現された翻訳テキストデータに翻訳し、表示面上において、第一表示領域に付随する第二表示領域の位置を示す位置情報を生成し、翻訳テキストデータ及び位置情報をモニター511に対して出力する。
【0255】
モニター511は、表示面を有し、表示面の第一表示領域にテキストデータを表示し、翻訳テキストデータ及び位置情報を受信し、位置情報により示される第二表示領域に、翻訳テキストデータを表示する。
【0256】
(まとめ)
以上説明したように、変形例(3)によると、第一表示領域に付随する第二表示領域に翻訳テキストデータが表示されることにより、複数のユーザーが第一表示領域に注目していることがわかる。つまり、第一表示領域に注目している一人のユーザーは、自分以外にも、第一表示領域に注目しているユーザーが存在し、そのユーザーが、自分と同様に、第一表示領域に表示されているテキストデータに関心を持っていることを知ることができる。
【0257】
この結果として、第一表示領域に視点を注ぐ複数のユーザーの間の意思疎通を図ることができる。
【0258】
2.4 変形例(4)
上記の実施の形態においては、翻訳表示装置1の天板の4つの隅に設けられた4台のカメラ12a、12b、12c及び12dにより撮影されたユーザーの画像を用いて、ユーザーの視線方向及びユーザーの表示部102の表示面における視点を求めている。しかし、本発明は、これには限定されない。
【0259】
変形例(4)として、図24(a)に概略構成を示す翻訳表示システム531は、表示面上の一部の第一表示領域に第一言語により表示されたテキストデータを第二言語により翻訳して表示するシステムであって、ホワイトボード532、翻訳装置536、ユーザーの顔面に装着されるメガネ533、534、535から構成されている。
【0260】
翻訳表示システム531は、実施の形態における翻訳表示装置1における、ユーザーの視点を検出する構造部分及び表示部102を、メガネ533、534、535に置き換えたものである。
【0261】
このため、翻訳装置536は、実施の形態における翻訳表示装置1における、ユーザーの視点を検出する構造部分及び表示部102を除く残りの構成部分により、構成されている。
【0262】
メガネ533は、翻訳装置536との間で、近距離無線により、通信を行う。メガネ534、535も、メガネ533と同様に、翻訳装置536との間で、近距離無線により、通信を行う。
【0263】
ホワイトボード532は、表示面を有する。
【0264】
メガネ533は、ユーザーの顔面に装着され、カメラ533aを備えたメガネ型の表示装置である。カメラ533aにより、ユーザーの視線方向を撮影して画像データを生成し、生成した画像データの中央部に写るオブジェクトの位置を視点として算出し、算出した視点を、近距離無線により、翻訳装置536に対して送信する。また、メガネ533は、撮影により取得した画像データを表示する。
【0265】
メガネ534、535も、メガネ533と同じ構成を有している。
【0266】
翻訳装置536は、メガネ533、534、535から、ホワイトボード532の表示面に注視する複数のユーザーの当該表示面におけるそれぞれの視点を取得し、取得した前記視点のうち、複数の視点が第一表示領域内に存するか否かを判断し、第一表示領域内に複数の視点が存する場合に限り、第一言語を除いて、当該複数の視点に視線を注ぐ複数のユーザーがそれぞれ理解する複数の言語のうち、少なくとも一つの言語を、第二言語として決定し、第一表示領域に表記されているテキストデータを、第二言語法に翻訳し、表示面上において第一表示領域に付随する第二表示領域の位置を示す位置情報を生成し、翻訳テキストデータ及び位置情報をメガネ533、534、535に対して、近距離無線により、送信する。
【0267】
メガネ533、534、535は、翻訳装置536から、近距離無線により、翻訳テキストデータ及び第二表示領域の位置を示す位置情報を受信し、受信した位置情報により示される第二表示領域に、受信した翻訳テキストデータを表示する。
【0268】
(まとめ)
以上説明したように、変形例(4)によると、第一表示領域に付随する第二表示領域に翻訳テキストデータが表示されることにより、複数のユーザーが第一表示領域に注目していることがわかる。つまり、第一表示領域に注目している一人のユーザーは、自分以外にも、第一表示領域に注目しているユーザーが存在し、そのユーザーが、自分と同様に、第一表示領域に表示されているテキストデータに関心を持っていることを知ることができる。
【0269】
この結果として、第一表示領域に視点を注ぐ複数のユーザーの間の意思疎通を図ることができる。
【0270】
2.5 その他の変形例
(1)上記実施の形態では、表示部102は、テキストデータ及び翻訳テキストデータの両方を表示している。つまり、図17に示すように、表示部102は、第一表示領域301にテキストデータを表示し、第一表示領域301に付随する第二表示領域401a、401bに、翻訳テキストデータを表示している。しかし、これには、限定されない。
【0271】
表示部102は、テキストデータに代えて、第一表示領域301に、翻訳テキストデータを表示してもよい。
【0272】
具体的には、表示制御部110(生成手段)は、第一表示領域の位置を示す位置情報を生成し、表示制御部110(出力手段)は、第二表示領域として、第一表示領域に翻訳テキストデータを表示させるため、生成された位置情報を出力してもよい。
【0273】
第一表示領域に、複数のユーザーの視点が存在するとき、これらの視点に視線を注ぐ複数のユーザーのうち、第一言語を使用するユーザーがいないのであれば、表示面を有効に使用することができる。
【0274】
(2)上記実施の形態では、図17に示すように、表示部102は、第一表示領域301にテキストデータを表示し、第一表示領域301に付随する第二表示領域401a、401bに、翻訳テキストデータを表示している。しかし、これには、限定されない。
【0275】
表示制御部110(空白判断手段)は、第一表示領域の周辺に、翻訳テキストデータを表示するために十分な大きさの空白領域が存在するか否かを判断してもよい。つまり、翻訳テキストデータの表示サイズよりも大きく、文字の表示されていない空白領域が存在するか否かを判断する。空白領域が存在すると判断する場合に、表示制御部110(生成手段)は、当該空白領域内において、第二表示領域の位置を示す位置情報を生成し、表示制御部110は、表示部102に、第一表示領域の周辺の空白領域に翻訳文字データを表示させる、としてもよい。
【0276】
一方、表示制御部110は、第一表示領域の周辺に、翻訳テキストデータを表示するため十分な大きさの空白領域が存在しないと判断する場合、翻訳テキストデータを表示するサイズをやや小さくした後に、例えば、そのサイズを、例えば、面積で5%~10%だけ小さくした後に、再度、サイズの小さくなった翻訳テキストデータを表示するために十分な大きさの空白領域が存在するか否かを判断してもよい。空白領域が存在する場合に、その空白領域に、サイズの小さくなった翻訳文字データを表示させる、としてもよい。
【0277】
また、表示制御部110は、第一表示領域の周辺に、翻訳テキストデータを表示するために十分な大きさの空白領域が存在しないと判断する場合、例えば、第一表示領域を、当該第一表示領域の幅の5%~10%程度の長さ分だけ、左方向又は右方向に、移動させた後に、又は、第一表示領域を、当該第一表示領域の高さの5%~10%程度の長さ分だけ、上方向又は下方向に、移動させた後に、再度、空白領域が存在するか否かを判断してもよい。表示領域を移動させた後に、空白領域が存在する場合に、その空白領域に、翻訳テキストデータを表示させる、としてもよい。
【0278】
このように、文字が表示されていない空白領域に翻訳テキストデータを配置することにより、翻訳テキストデータにより、他の必要な文字等が覆い隠されることがない。
【0279】
(3)上記の実施の形態及び変形例においては、第一言語(第一表記法)により表現されたテキストデータを第一表示領域に表示し、テキストデータを第二言語(第二表記法)に翻訳して、翻訳テキストデータを第二表示領域に表示している。しかし、本発明は、これには限定されない。
【0280】
全国的に規範として用いられる標準語を一つの言語として捉え、地域によって異なる発達をした方言を別の言語として捉えてもよい。
【0281】
第一表記法は、全国的に規範として用いられる標準語による表現であり、第二表記法は、地域によって異なる発達をした方言による表現である、としてもよい。
【0282】
言い換えると、第一言語は、標準語であり、第二言語は、方言であるとしてもよい。第一言語である標準語により表現されたテキストデータを第一表示領域に表示し、テキストデータを第二言語である方言に翻訳して、翻訳テキストデータを第二表示領域に表示してもよい。
【0283】
また、第一表記法は、方言による表現であり、第二表記法は標準語による表現であるとしてもよい。
【0284】
言い換えると、第一言語は、方言であり、第二言語は、標準語であるしてもよい。第一言語である方言により表現されたテキストデータを第一表示領域に表示し、テキストデータを第二言語である標準語に翻訳して、翻訳テキストデータを第二表示領域に表示してもよい。
【0285】
この方法によると、標準語を理解する人と、方言を理解する人との間で、意思疎通を図ることができる。
【0286】
(4)上記の実施の形態及び変形例においては、第一言語(第一表記法)により表現されたテキストデータを第一表示領域に表示し、テキストデータを第二言語(第二表記法)に翻訳して、翻訳テキストデータを第二表示領域に表示している。しかし、本発明は、これには限定されない。
【0287】
第一表記法は、漢字による表現であり、第二表記法は、片仮名、平仮名又はローマ字による表現である、としてもよい。
【0288】
このとき、第一表記法である漢字により表記されたテキストデータを第一表示領域に表示し、テキストデータを第二表記法である片仮名(又は、平仮名、ローマ字)に変換して、変換テキストデータを第二表示領域に表示してもよい。
【0289】
また、第一表記法は、片仮名、平仮名又はローマ字による表現であり、第二表記法は、漢字による表現である、としてもよい。
【0290】
このとき、第一表記法である片仮名(又は、平仮名、ローマ字)により表記されたテキストデータを第一表示領域に表示し、テキストデータを第二表記法である漢字に変換して、変換テキストデータを第二表示領域に表示してもよい。
【0291】
この方法によると、漢字を理解する人と、片仮名、平仮名又はローマ字を理解する人との間で、意思疎通を図ることができる。
【0292】
(5)上記の実施の形態及び変形例においては、第一言語(第一表記法)により表現されたテキストデータを第一表示領域に表示し、テキストデータを第二言語(第二表記法)に翻訳して、翻訳テキストデータを第二表示領域に表示している。しかし、本発明は、これには限定されない。
【0293】
第一表記法は、所定の観念を象徴するシンボルマークによる表現であり、第二表記法は、当該シンボルマークにより象徴される観念を文字により表現するものである、としてもよい。また、第二表記法は、シンボルマークの説明文の表記である、としてもよい。ここで、シンボルマークは、所定の観念を象徴する図形である、としてもよい。
【0294】
第一表記法により表現されたシンボルマークを第一表示領域に表示し、シンボルマークが象徴する所定の観念を説明文として、第二表記法により表して、第二表示領域に、説明文を表示してもよい。説明文として、各言語により翻訳した翻訳テキストデータを用いるとしてもよい。
【0295】
シンボルマークは、例えば、社章、紋章、記章、国章、家紋 記号、ロゴ、印影であり、個人、家系、会社、団体などを象徴する図形である。この場合、説明文は、個人、家系、会社、団体などを示す名称等を文字表現したものである。
【0296】
また、シンボルマークは、例えば、地図記号である。その具体例は、神社、城跡、裁判所、灯台を示す地図記号であり、鉄道(新幹線)の路線を示す図形である。また、説明文の具体例は、それぞれ、「神社」、「城跡」、「裁判所」、「灯台」及び「新幹線」である。さらに、これらの説明文に対して、英語、スペイン語、フランス語の翻訳文を付加してもよい。
【0297】
また、シンボルマークは、例えば、電気回路の記号である。その具体例は、トランス、抵抗器、トランジスタを示す記号である。また、説明文の具体例は、それぞれ、「トランス」、「抵抗器」、「トランジスタ」である。さらに、これらの説明文に対して、英語、スペイン語、フランス語の翻訳文を付加してもよい。
【0298】
(6)上記の実施の形態及び変形例においては、第一表記法により表現されたデータを第一表示領域に表示し、データを第二表記法により変換して、変換されたデータを第二表示領域に表示している。このように、データと変換されたデータとの間には、一対一の関係がある。しかし、本発明は、これには限定されない。
【0299】
第一表示領域に、トランジスタを示す記号を表示し、第二表示領域に、説明文として「トランジスタ」及び詳細な説明として、当該トランジスタの電気的特性や温度特性を示すグラフを表示してもよい。
【0300】
また、第一表示領域に、神社を示す地図記号を表示し、第二表示領域に、説明文として「神社」及び詳細な説明として、神社の由来、歴史、信仰対象の説明などを表示してもよい。
【0301】
また、第一表示領域に、新幹線(鉄道)の路線を示す図形を表示し、第二表示領域に、説明文として「新幹線」及び詳細な説明として、列車の時刻表及び運行状況を表示してもよい。
【0302】
このように、第一表記法は、所定の観念を象徴する図形であるシンボルマークによる表現であり、第二表記法は、当該シンボルマークにより象徴される観念を文字により表現するものであるとしてもよい。また、第一表記法は、簡易な表現によるものであり、第二表記法は、当該簡易な表現を詳細に解説する表現によるものである、としてもよい。ここで、簡単な表現を詳細に解説する表現は、文字又は文字を含む図形によるものである、としてもよい。
【0303】
(7)上記の実施の形態及び変形例においては、第一表示領域に一つの視点のみが存在する場合に、第一表示領域に付随する第二表示領域に、ハーフトーンにより、翻訳テキストデータを表示する、としている。しかし、本発明は、これには限定されない。
【0304】
第一表示領域に一つの視点しか存在しない場合に、第二表示領域そのものを表示しない、としてもよい。
【0305】
(8)上記の実施の形態及び変形例においては、ユーザーの視点は、一点に固定されているとしている。しかし、本発明は、これには限定されない。
【0306】
ユーザーが第一表示領域に注目している場合、ユーザーの視点は、一点に固定しておらず、第一表示領域の内外において、不規則に移動していると考えられる。このような場合において、一定の期間(例えば、5秒間)のうち、例えば、80%の期間内において、ユーザーの視点が第一表示領域の内側に存在すれば、ユーザーの視点は、第一表示領域内側に存在すると、みなしてもよい。
【0307】
(9)上記の実施の形態においては、ユーザー属性テーブル191(図6)に、ユーザーに対応して、当該ユーザーが使用する使用言語が記憶されており、ユーザー属性テーブル191から、ユーザーの使用言語を取得している。しかし、本発明は、これには限定されない。
【0308】
カメラにより撮影されたユーザーの顔画像から、当該ユーザーが使用する言語を認識できれば、そのような方法を用いてもよい。
【0309】
(10)上記の実施の形態においては、表示制御部110(決定手段)は、一つの第一表示領域内に存在する複数の視点に視線を注ぐ複数のユーザーの使用言語をユーザー属性テーブル191から取得し、取得した複数のユーザーの使用言語のうち、少なくとも一つの言語を、第二言語(第二表記法)として決定している。
【0310】
ここで、第一表示領域に視点を注ぐ複数のユーザーに親和性のある表記法が複数存在する場合、前記複数のユーザーのうち、最も多くのユーザーに親和性のある一つの表記法を、第二表記法として決定してもよい。
【0311】
また、使用言語毎に、優先順位が設定されており、第一表示領域に視点を注ぐ複数のユーザーに親和性のある表記法が複数存在する場合、これらのユーザーの使用言語のうち、最も高い優先度が設定された使用言語を、第二表記法として決定してもよい。
【0312】
また、表示制御部110(決定手段)により、複数のユーザーに親和性のある複数の表記法が、第二表記法として決定された場合、翻訳部111(表記変換手段)は、テキストデータ(第一データ)を、それぞれ、決定された複数の言語(表記法)により翻訳(変換)してもよい。この場合に、複数の翻訳テキストデータが生成される。
【0313】
このように、複数の翻訳テキストデータが生成される場合、第二表示領域は、決定された複数の表記法により、それぞれ、翻訳テキストデータを表示する複数の部分領域に区分される、としてもよい。表示制御部110(生成手段)は、複数の部分領域を示す部分領域情報を生成してもよい。表示制御部110(出力手段)は、部分領域情報を出力してもよい。表示部102は、第二表示領域内の複数の部分領域に、それぞれ、翻訳テキストデータを表示する。
【0314】
また、上記のように、複数の翻訳テキストデータが生成される場合、表示制御部110(出力手段)は、一つの第二表示領域に、複数の翻訳テキストデータの各々を、切り換えて表示させるため、複数の翻訳テキストデータを、順次、出力する。表示部102は、一つの第二表示領域において、複数の翻訳テキストデータを、切換ながら、表示する。
【0315】
(11)上述したように、各装置は、マイクロプロセッサーとメモリとを備えたコンピューターシステムである。メモリは、制御用のコンピュータープログラムを記憶しており、マイクロプロセッサーは、制御用のコンピュータープログラムに従って動作する、としてもよい。
【0316】
ここで、制御用のコンピュータープログラムは、所定の機能を達成するために、コンピューターに対する指令を示す命令コードが複数個組み合わされて構成されたものである。
【0317】
また、制御用のコンピュータープログラムは、コンピューター読み取り可能な記録媒体、例えば、フレキシブルディスク、ハードディスク、光ディスク、半導体メモリなどに記録されている、としてもよい。
【0318】
(12)上記実施の形態及び上記変形例をそれぞれ組み合わせるとしてもよい。
【産業上の利用可能性】
【0319】
本発明に係る表記変換装置は、第一表示領域に付随する第二表示領域に、第二データが表示された場合に、第一表示領域に視点を注ぐ複数の利用者は、第一表示領域に注目している利用者の存在を知って、異なる表記法を理解する利用者間の意思疎通を図ることができ、第一表記法により表記されたデータを第二表記法による表記に変換する技術として、有用である。
【符号の説明】
【0320】
1 翻訳表示装置
11 脚部
12a~12d カメラ
101 主制御部
102 表示部
103 出力部
104 記憶部
105a~105d 入力部
106 顔認識処理部
107 位置算出部
108 視線視点算出部
109 表示領域検出部
110 表示制御部
111 翻訳部
229 合成部
501 翻訳表示システム
511 モニター
512 翻訳装置
513~515 メガネ
513a~515a カメラ
516 ケーブル
531 翻訳表示システム
532 ホワイトボード
533~535 メガネ
533a~535a カメラ
533b~535b 表示部
536 翻訳装置
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24