(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022189393
(43)【公開日】2022-12-22
(54)【発明の名称】情報処理装置、情報処理プログラム、及び情報処理システム
(51)【国際特許分類】
G06Q 50/04 20120101AFI20221215BHJP
G06F 3/01 20060101ALI20221215BHJP
G06F 3/0346 20130101ALI20221215BHJP
G06F 3/038 20130101ALI20221215BHJP
【FI】
G06Q50/04
G06F3/01 510
G06F3/0346 421
G06F3/038 310A
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2021097945
(22)【出願日】2021-06-11
(71)【出願人】
【識別番号】000005496
【氏名又は名称】富士フイルムビジネスイノベーション株式会社
(74)【代理人】
【識別番号】110001210
【氏名又は名称】弁理士法人YKI国際特許事務所
(72)【発明者】
【氏名】神崎 亜実
【テーマコード(参考)】
5B087
5E555
5L049
【Fターム(参考)】
5B087AA09
5B087BC05
5B087DD03
5E555BA01
5E555BA06
5E555BB01
5E555BB06
5E555BC04
5E555BD01
5E555BE17
5E555CA42
5E555CA45
5E555CB21
5E555CB23
5E555CB65
5E555CB82
5E555CC03
5E555DA09
5E555DB25
5E555DB41
5E555DC09
5E555DC75
5E555DD06
5E555DD08
5E555EA07
5E555EA25
5E555FA00
5L049CC03
(57)【要約】
【課題】機器が見える位置までユーザが移動する場合、あるいは、機器の状況を管理しているコンピュータにアクセスする操作をユーザが行う場合に比して、当該ユーザから視認できない位置にある機器の状況を当該ユーザが容易に把握可能とする。
【解決手段】位置方向取得部62は、ウェアラブル端末14から受信した情報に基づいて、ウェアラブル端末14の位置、及び、ユーザの視線方向を取得する。表示制御部64は、機器DB56を参照し、ユーザから視認できない位置にある各機器12の設置場所を示す設置場所情報を参照し、ウェアラブル端末14の位置からユーザUの視線方向にある機器12を特定する。表示制御部64は、機器DB56を参照し、特定した機器12に関する情報を取得し、当該情報をウェアラブル端末14のディスプレイ32に表示させる表示制御信号をウェアラブル端末14に送信する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
プロセッサを備え、
前記プロセッサは、
ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末の位置、及び、前記ユーザの視線方向を取得し、
前記ユーザから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記ウェアラブル端末の位置から前記ユーザの視線方向にある前記機器の状況を前記ディスプレイに表示させる、
ことを特徴とする情報処理装置。
【請求項2】
プロセッサを備え、
前記プロセッサは、
カメラ及びディスプレイを有する携帯端末の位置、及び、前記カメラが向く方向を取得し、
前記カメラから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記携帯端末の位置から前記カメラが向く方向にある前記機器の状況を前記ディスプレイに表示させる、
ことを特徴とする情報処理装置。
【請求項3】
前記機器の状況は、前記カメラが取得した画像に重畳して表示される、
ことを特徴とする請求項2に記載の情報処理装置。
【請求項4】
前記機器の状況は、前記機器を用いて行われる作業の実行状況である、
ことを特徴とする請求項1から3のいずれか1項に記載の情報処理装置。
【請求項5】
前記作業の実行状況は、前記機器を用いた作業の進捗である、
ことを特徴とする請求項4に記載の情報処理装置。
【請求項6】
前記ユーザの作業は、前記機器を用いた作業の前工程又は後工程の作業であり、
前記プロセッサは、前記ユーザの作業の進捗を示すユーザ作業情報を参照し、前記ユーザの作業の進捗と前記機器を用いた作業の進捗との関連性を示す情報を前記ディスプレイに表示させる、
ことを特徴とする請求項5に記載の情報処理装置。
【請求項7】
前記ユーザは、第1生成物及び第2生成物を用いて作業を行い、
前記ユーザと関連する機器は、前記第1生成物を生成する機器及び前記第2生成物を生成する機器である、
ことを特徴とする請求項6に記載の情報処理装置。
【請求項8】
前記機器は複数設けられ、
前記プロセッサは、前記ユーザと前記ユーザに関連する前記機器との関連を示す関連情報に基づいて、複数の前記機器のうち、前記ユーザと関連する機器の状況を前記ディスプレイに表示させる、
ことを特徴とする請求項1から3のいずれか1項に記載の情報処理装置。
【請求項9】
コンピュータに、
ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末の位置、及び、前記ユーザの視線方向を取得させ、
前記ユーザから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記ウェアラブル端末の位置から前記ユーザの視線方向にある前記機器の状況を前記ディスプレイに表示させる、
ことを特徴とする情報処理プログラム。
【請求項10】
コンピュータに、
カメラ及びディスプレイを有する携帯端末の位置、及び、前記カメラが向く方向を取得させ、
前記カメラから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記携帯端末の位置から前記カメラが向く方向にある前記機器の状況を前記ディスプレイに表示させる、
ことを特徴とする情報処理プログラム。
【請求項11】
ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末と、
前記ユーザから直接視認できない位置に存在する機器と、
コンピュータと、
を備え、
前記コンピュータは、
前記ウェアラブル端末の位置、及び、前記ユーザの視線方向を取得し、
前記機器の設置場所及び状況を示す機器情報に基づいて、前記ウェアラブル端末の位置から前記ユーザの視線方向にある前記機器の状況を前記ディスプレイに表示させる、
ことを特徴とする情報処理システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、情報処理装置、情報処理プログラム、及び情報処理システムに関する。
【背景技術】
【0002】
特許文献1には、眼鏡型などのウェアラブル端末を装着したユーザの目の前にある物体の内部の詳細情報を当該ウェアラブル端末に表示させることが記載されている。また、非特許文献1には、スマートグラス(眼鏡型のウェアラブル端末)を装着したユーザが視認している物体に応じて、当該ユーザが行うべき作業に関する情報を当該スマートグラスに表示させることが記載されている。
【先行技術文献】
【特許文献】
【0003】
【非特許文献】
【0004】
【非特許文献1】SAPジャパン公式ブログ、「SAPが描く近未来のユーザーエクスペリエンス(UX) 第2回:ウェアラブルデバイスを業務で活用する3つのシナリオ」(https://www.sapjp.com/blog/archives/10130)
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、ユーザは、自分が視認できない位置に存在する機器の状況を把握したい場合がある。そのような場合において、ユーザが当該機器の状況を確認するならば、当該機器が見える位置までユーザが移動するか、あるいは、当該機器の状況を管理しているコンピュータにアクセスする操作をユーザが行う必要がある。
【0006】
本発明の目的は、機器が見える位置までユーザが移動する場合、あるいは、機器の状況を管理しているコンピュータにアクセスする操作をユーザが行う場合に比して、当該ユーザから視認できない位置にある機器の状況を当該ユーザが容易に把握可能とすることにある。
【課題を解決するための手段】
【0007】
請求項1に係る発明は、プロセッサを備え、前記プロセッサは、ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末の位置、及び、前記ユーザの視線方向を取得し、前記ユーザから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記ウェアラブル端末の位置から前記ユーザの視線方向にある前記機器の状況を前記ディスプレイに表示させる、ことを特徴とする情報処理装置である。
請求項2に係る発明は、プロセッサを備え、前記プロセッサは、カメラ及びディスプレイを有する携帯端末の位置、及び、前記カメラが向く方向を取得し、前記カメラから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記携帯端末の位置から前記カメラが向く方向にある前記機器の状況を前記ディスプレイに表示させる、ことを特徴とする情報処理装置である。
請求項3に係る発明は、前記機器の状況は、前記カメラが取得した画像に重畳して表示される、ことを特徴とする請求項2に記載の情報処理装置である。
請求項4に係る発明は、前記機器の状況は、前記機器を用いて行われる作業の実行状況である、ことを特徴とする請求項1から3のいずれか1項に記載の情報処理装置である。
請求項5に係る発明は、前記作業の実行状況は、前記機器を用いた作業の進捗である、
ことを特徴とする請求項4に記載の情報処理装置である。
請求項6に係る発明は、前記ユーザの作業は、前記機器を用いた作業の前工程又は後工程の作業であり、前記プロセッサは、前記ユーザの作業の進捗を示すユーザ作業情報を参照し、前記ユーザの作業の進捗と前記機器を用いた作業の進捗との関連性を示す情報を前記ディスプレイに表示させる、ことを特徴とする請求項5に記載の情報処理装置である。
請求項7に係る発明は、前記ユーザは、第1生成物及び第2生成物を用いて作業を行い、前記ユーザと関連する機器は、前記第1生成物を生成する機器及び前記第2生成物を生成する機器である、ことを特徴とする請求項6に記載の情報処理装置である。
請求項8に係る発明は、前記機器は複数設けられ、前記プロセッサは、前記ユーザと前記ユーザに関連する前記機器との関連を示す関連情報に基づいて、複数の前記機器のうち、前記ユーザと関連する機器の状況を前記ディスプレイに表示させる、ことを特徴とする請求項1から3のいずれか1項に記載の情報処理装置である。
請求項9に係る発明は、コンピュータに、ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末の位置、及び、前記ユーザの視線方向を取得させ、前記ユーザから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記ウェアラブル端末の位置から前記ユーザの視線方向にある前記機器の状況を前記ディスプレイに表示させる、ことを特徴とする情報処理プログラムである。
請求項10に係る発明は、コンピュータに、カメラ及びディスプレイを有する携帯端末の位置、及び、前記カメラが向く方向を取得させ、前記カメラから直接視認できない位置に存在する機器の設置場所及び状況を示す機器情報に基づいて、前記携帯端末の位置から前記カメラが向く方向にある前記機器の状況を前記ディスプレイに表示させる、ことを特徴とする情報処理プログラムである。
請求項11に係る発明は、ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末と、前記ユーザから直接視認できない位置に存在する機器と、コンピュータと、を備え、前記コンピュータは、前記ウェアラブル端末の位置、及び、前記ユーザの視線方向を取得し、前記機器の設置場所及び状況を示す機器情報に基づいて、前記ウェアラブル端末の位置から前記ユーザの視線方向にある前記機器の状況を前記ディスプレイに表示させる、ことを特徴とする情報処理システムである。
【発明の効果】
【0008】
請求項1、2、9、10、又は11に係る発明によれば、機器が見える位置までユーザが移動する場合、あるいは、機器の状況を管理しているコンピュータにアクセスする操作をユーザが行う場合に比して、当該ユーザから視認できない位置にある機器の状況を当該ユーザが容易に把握することができる。
請求項3に係る発明によれば、現実世界を拡張する形で、ユーザから視認できない位置にある機器の状況をディスプレイに表示させることができる。
請求項4に係る発明によれば、ユーザは、ユーザから視認できない位置にある機器を用いて行われる作業の実況状況を把握することができる。
請求項5に係る発明によれば、ユーザは、ユーザから視認できない位置にある機器における作業進捗を把握することができる。
請求項6に係る発明によれば、ユーザ自身が行う作業の進捗と、当該作業の前工程又は後工程の作業である、ユーザから視認できない位置にある機器を用いた作業の進捗との関連性を把握することができる。
請求項7に係る発明によれば、第1生成物及び第2生成物を用いて行うユーザの作業の進捗と、第1生成物を生成する機器及び第2生成物を生成する機器を用いた作業の進捗との関連性を把握することができる。
請求項8に係る発明によれば、ユーザと関連しない機器の状況をディスプレイに表示させないようにすることができる。
【図面の簡単な説明】
【0009】
【
図1】第1実施形態に係る情報処理システムの構成概略図である。
【
図4】第1実施形態において、ウェアラブル端末を装着したユーザが、ユーザから直接視認できない機器の方向を見た様子の第1の例を示す図である。
【
図5】ユーザがウェアラブル端末を通して見る像の第1の例を示す図である。
【
図6】第1実施形態において、ウェアラブル端末を装着したユーザが、ユーザから直接視認できない機器の方向を見た様子の第2の例を示す図である。
【
図7】ユーザがウェアラブル端末を通して見る像の第2の例を示す図である。
【
図8】ユーザがウェアラブル端末を通して見る像の第3の例を示す図である。
【
図9】第1実施形態のサーバの処理の流れを示すフローチャートである。
【
図10】第2実施形態に係る情報処理システムの構成概略図である。
【
図12】第2実施形態において、ユーザが、ユーザから直接視認できない機器の方向に携帯端末のカメラを向けた様子の例を示す図である。
【
図13】携帯端末のディスプレイに表示される画面の例を示す図である。
【発明を実施するための形態】
【0010】
<第1実施形態>
図1は、第1実施形態に係る情報処理システム10の構成概略図である。情報処理システム10は、1又は複数の機器12、ユーザが装着するウェアラブル端末14、及び、情報処理装置としてのサーバ16を含んで構成される。機器12、ウェアラブル端末14、及びサーバ16は、例えばインターネット回線、LAN(Local Area Network)あるいは携帯電話通信回線などを含む通信回線18を介して互いに通信可能に接続される。
【0011】
1又は複数の機器12の内の少なくとも一部は、ウェアラブル端末14を装着したユーザから直接視認できない位置に存在している。例えば、機器12は、ユーザが居る部屋とは異なる部屋に配置されている。また、例えば、機器12は、ユーザが居るフロア(階)とは異なるフロアに配置されている。また、例えば、機器12は、パーティションや箱などによりユーザと隔てられた空間に配置されている。
【0012】
本実施形態に係る機器12は、印刷処理を実行するプリンタ、及び、印刷の前処理又は後処理を行う加工機を含んで構成される。印刷の前処理とは、例えば、印刷に用いる印刷版を作成するプリプレス処理などである。印刷の後処理とは、例えば、印刷済みの用紙を折る折加工処理や製本処理などである。このように、複数の機器12は、一連の複数の工程のうちの一部をそれぞれ担当するものであってよい。換言すれば、一の機器12により処理された処理生成物に対して、他の機器12がさらに処理を行うようにしてもよい。もちろん、機器12としては、印刷処理や、その前処理及び後処理以外の処理を行うものであってもよい。
【0013】
図2は、ウェアラブル端末14の構成概略図である。ウェアラブル端末14は、ユーザが着用することができる装置である。特に、ウェアラブル端末14は、ユーザの眼前に配置される透過型のディスプレイを有する眼前装着型のウェアラブル端末14である。このようなウェアラブル端末14としては、例えば、スマートグラスと呼ばれる眼鏡型のもの、あるいは、ユーザの角膜に接触させて装着されるコンタクトレンズ型のものが挙げられる。
【0014】
通信インターフェース30は、例えばネットワークモジュールなどを含んで構成される。通信インターフェース30は、通信回線18を介してサーバ16と通信する機能を発揮する。
【0015】
ディスプレイ32は、例えば有機ELを含んで構成される。ディスプレイ32は、上述のように透過型のディスプレイである。透過型のディスプレイとは、ディスプレイの向こう側が透けて見えるディスプレイである。このようなディスプレイに画像が表示されると、ユーザからは、ディスプレイの向こう側の背景に当該画像が重畳されたように見える。
【0016】
GPSセンサ34は、複数のGPS衛星からの電波を受信するものである。GPSセンサ34が受信した受信情報は、通信インターフェース30からサーバ16に送信される。又は、GPSセンサ34が、受信情報からウェアラブル端末14の位置(緯度、経度、高度)を示す位置情報を演算してもよい。その場合は、演算された位置情報がサーバ16に送信される。
【0017】
視線検出センサ36は、ウェアラブル端末14を装着したユーザの視線方向を検出するセンサである。ユーザの視線検出方法としては、既知のアイトラッキング技術を用いることができる。例えば、視線検出センサ36は、ユーザの角膜上に生じさせた光の反射点を撮影するカメラであってよい。この場合、光の反射点などの特徴に基づいてユーザの視線方向が検出される。また、視線検出センサ36は、眼球を動かすための筋肉が生じさせる電位を測定する電極であってよい。この場合、当該電極が測定した電位に基づいてユーザの視線方向が検出される。
【0018】
また、ウェアラブル端末14の姿勢をユーザの視線方向とみなすようにしてもよい。より詳しくは、ディスプレイ32が向く方向(例えば、ディスプレイ32に垂直な方向であってユーザ側とは反対側に向く方向)をユーザの視線方向とみなすようにしてもよい。この場合は、視線検出センサ36としては、例えば、直交する3軸方向におけるウェアラブル端末14の加速度を検出する加速度センサであってよい。キャリブレーションをした上で、当該加速度センサの検出信号に基づいて、ウェアラブル端末14(特にディスプレイ32)の姿勢を検出することができる。加速度センサが検出した姿勢が示す向きをユーザの視線方向とみなすことができる。
【0019】
視線検出センサ36によって検出されたユーザの視線方向を示す視線方向情報は、通信インターフェース30からサーバ16に送信される。
【0020】
メモリ38は、例えば、ROM(Read Only Memory)、RAM(Random Access Memory)、あるいはフレキシブルメモリ素子などを含んで構成される。メモリ38には、当該ウェアラブル端末14を一意に識別する端末IDが記憶されている。
【0021】
プロセッサ40は、広義的なプロセッサを指し、汎用的なプロセッサ(例えばCPU(Central Processing Unit)など)、及び、専用の処理装置(例えばGPU(Graphics Processing Unit)、ASIC(Application Specific Integrated Circuit)、FPGA(Field-Programmable Gate Array)、あるいは、プログラマブル論理デバイスなど)の少なくとも1つを含んで構成される。プロセッサ40としては、1つの処理装置によるものではなく、物理的に離れた位置に存在する複数の処理装置の協働により構成されるものであってもよい。プロセッサ40は、ウェアラブル端末14の各部を制御する。また、
図2に示す通り、プロセッサ40は表示処理部42として機能する。
【0022】
表示処理部42は、通信インターフェース30がサーバ16から受信した表示制御信号に従って、種々の画面をディスプレイ32に表示させる処理を行う。ディスプレイ32に表示される画面の詳細については後述する。
【0023】
図3は、サーバ16の構成概略図である。サーバ16は、例えばサーバコンピュータなどにより構成されるが、以下に説明する機能を発揮する限りにおいてどのような装置であってもよい。また、以下に説明するサーバ16の機能は、複数のコンピュータにより実現されてもよい。
【0024】
詳しくは後述するが、本実施形態では、サーバ16は、機器12を用いて行われる作業を管理する作業管理装置として用いられる。例えば、機器12を用いた作業のワークフロー(誰が、どの機器12を用いて、どの工程の作業を行うかなど)や、ワークフローの作業進捗などがサーバ16に記憶される。また、サーバ16で管理されているワークフローに関する情報をユーザが閲覧可能となっていてもよい。
【0025】
通信インターフェース50は、例えばネットワークモジュールなどを含んで構成される。通信インターフェース50は、通信回線18を介して、機器12及びウェアラブル端末14と通信する機能を発揮する。
【0026】
メモリ52は、例えば、HDD(Hard Disk Drive)、SSD(Solid State Drive)、eMMC(embedded MultiMediaCard)、ROM、あるいはRAMなどを含んで構成される。メモリ52には、サーバ16の各部を機能させるための情報処理プログラムが記憶される。また、
図3に示す通り、メモリ52には、ユーザDB(Data Base)54、機器情報としての機器DB56、及びワークフローDB58が記憶される。
【0027】
ユーザDB54には、予めサーバ16にユーザ登録したユーザに関する情報が記憶される。具体的には、ユーザDB54には、ユーザを一意に識別するユーザID、及び、当該ユーザが使用するウェアラブル端末14を識別する端末IDとが関連付けられて記憶されている。ユーザDB54に記憶される各情報は、ユーザ登録する際にユーザによってサーバ16に入力される。
【0028】
機器DB56には、機器12に関する情報が記憶されている。具体的には、機器12を一意に識別する機器ID、当該機器12の製品情報(型番、機能、能力などを示す情報)、当該機器12を示す画像、当該機器12が設置されている場所を示す設置場所情報、及び、当該機器12の状況を示す機器状況情報が関連付けられて記憶される。機器DB56に記憶される、機器状況情報以外の情報は、サーバ16の管理者などによってサーバ16に入力される。
【0029】
機器状況情報は、各機器12からサーバ16へ間欠的に送信される。機器状況情報が示す機器12の状況とは、例えば、機器12の状態(例えば正常稼働可能か否かなど)、機器12を用いて行われる作業の実行状況(例えば機器12が稼働中であるか否か、どのような作業を行っているかなど)、機器12を用いて行われる作業の進捗(どこまで進んでいるか、予定通り進んでいるかなど)などを含む概念である。
【0030】
ワークフローDB58は、機器12を用いて行われる作業を管理するための情報が記憶される。例えば、ワークフローDB58には、機器12を用いた作業のワークフローに関する情報が記憶される。具体的に、複数の工程からなるワークフローであって各工程に関する作業を各機器12を用いて行うワークフローを、1又は複数のユーザが行う場合を考える。この場合、ワークフローDB58には、当該ワークフローに含まれる各工程について、当該工程の作業を実行するユーザのユーザIDと、当該工程の作業を行う機器12の機器IDと、当該工程で行われる作業内容とが関連付けられている。その上で、ワークフローDB58には、各工程の実行順序を示す情報も記憶される。すなわち、ワークフローDB58においては、誰が、どの機器12を用いて、どのような作業を、どのような順番で行うかを示す情報が記憶されている。例えば、第1工程として第1の機器12を用いてユーザAが作業Aを行い、その後、第2工程として第2の機器12を用いてユーザBが作業Bを行う、の如くである。あるいは、第1工程として第1の機器12及び第2の機器12により作業A及びBが行われ、第2工程として、第1工程で第1の機器12が作業Aにより出力した第1生成物、及び第1工程で第2の機器12が作業Bにより出力した第2生成物を用いてユーザが作業Cを行う、などの如くである。上述のような、ワークフローDB58に記憶されるワークフローの定義は、ユーザによって登録可能であってよい。
【0031】
また、各工程に係る作業が完了する度に、当該作業を行う機器12が作業完了通知をサーバ16へ送信することで、サーバ16は、ワークフローにおいてどの工程の作業まで完了したのか、すなわち、ワークフローの作業進捗がワークフローDB58に記憶することができる。
【0032】
プロセッサ60は、広義的なプロセッサを指し、汎用的なプロセッサ(例えばCPUなど)、及び、専用の処理装置(例えばGPU、ASIC、FPGA、あるいは、プログラマブル論理デバイスなど)の少なくとも1つを含んで構成される。プロセッサ60としては、1つの処理装置によるものではなく、物理的に離れた位置に存在する複数の処理装置の協働により構成されるものであってもよい。また、
図3に示す通り、プロセッサ60は、メモリ52に記憶された情報処理プログラムに従って、位置方向取得部62、及び、表示制御部64としての機能を発揮する。
【0033】
位置方向取得部62は、ウェアラブル端末14の位置を取得する。具体的には、位置方向取得部62は、ウェアラブル端末14のGPSセンサ34がGPS衛星から受信した受信情報をウェアラブル端末14から受信し、当該受信情報に基づいて、ウェアラブル端末14の位置(緯度、経度、高度)を取得する。あるいは、GPSセンサ34がウェアラブル端末14の位置を演算している場合には、位置方向取得部62は、ウェアラブル端末14からウェアラブル端末14の位置を示す位置情報を取得する。なお、ウェアラブル端末14の位置は、ユーザの位置であるとも言える。
【0034】
また、位置方向取得部62は、ウェアラブル端末14を装着したユーザの視線方向を取得する。具体的には、ウェアラブル端末14の視線検出センサ36が検出した視線方向情報をウェアラブル端末14から受信し、当該視線方向情報に基づいてユーザの視線方向を取得する。
【0035】
さらに、位置方向取得部62は、ウェアラブル端末14の位置及びユーザの視線方向に基づいて、ユーザの視野を取得する。ユーザの視野は、ウェアラブル端末14の位置を基準(基点)とし、ユーザの視線方向を中心とする所定の視野角内の領域である。
【0036】
表示制御部64は、位置方向取得部62が取得した、ウェアラブル端末14の位置からユーザの視線方向にある機器12の状況を当該ウェアラブル端末14のディスプレイ32に表示させる制御を行う。特に、当該機器12は、当該ユーザから直接視認できない位置に存在する機器12である。以下、
図4~
図8を参照しつつ、位置方向取得部62及び表示制御部64の処理の詳細を説明する。
【0037】
図4は、ウェアラブル端末14を装着したユーザUが機器12の方向を見た第1の例を示す図である。
図4の例では、ユーザUは建物の2階におり、複数の機器12は1階に設置されている。2階の床FLは不透明であり、ユーザUから複数の機器12を直接視認できなくなっている。
【0038】
この環境において、ユーザUがウェアラブル端末14を装着し、その視線方向を機器12の方向(つまり床FLの方向)に向けたとする。このとき、ウェアラブル端末14からは、当該ウェアラブル端末14の端末ID、GPSセンサ34が受信した受信情報(又はウェアラブル端末14の位置を示す位置情報)、及び、ユーザの視線方向Lを示す視線方向情報がサーバ16に送信される。
【0039】
サーバ16の位置方向取得部62は、ウェアラブル端末14からの情報に基づいて、端末IDが示すウェアラブル端末14(換言すればユーザU)の位置、及び、ユーザUの視線方向Lを取得する。さらに、位置方向取得部62は、ユーザUの視野FVwを取得する。
【0040】
サーバ16の表示制御部64は、機器DB56に記憶されている各機器12の設置場所を示す設置場所情報を参照し、ウェアラブル端末14の位置からユーザUの視線方向Lにある(より詳しくはユーザUの視野FVw内にある)機器12を特定する。
図4の例では、機器12a及び12bが特定される。
【0041】
その上で、表示制御部64は、機器DB56を参照し、特定した機器12(ここでは機器12a及び12b)に関する情報を取得し、当該情報をウェアラブル端末14のディスプレイ32に表示させる表示制御信号を、受信した端末IDが示すウェアラブル端末14に送信する。機器12に関する情報とは、例えば、当該機器12の製品情報、当該機器12を示す画像、及び、当該機器12の機器状況情報などが含まれる。これにより、表示制御部64は、特定した機器12に関する情報をディスプレイ32に表示させる。
【0042】
図5は、ディスプレイ32に表示される情報の第1の例を示す図である。ウェアラブル端末14の表示処理部42は、サーバ16から受信した表示制御信号に基づいて、ディスプレイ32に機器12に関する情報を表示させる。例えば、機器12の画像70、機器12の機器状況情報72などをディスプレイ32に表示させる。
図5の例では、ディスプレイ32には、機器12aの画像70a、機器12aの機器状況情報72a、機器12bの画像70b、機器12bの機器状況情報72bが表示されている。上述の通り、ディスプレイ32は透過型のディスプレイであるから、ユーザUから見ると、ディスプレイ32を介して見える背景(
図5の例では床FL)に重畳して、これらの情報が表示されているように見える。
【0043】
あたかも床FLを透過して各機器12に関する情報を見ているようにユーザに感じさせるために、機器12に関する情報は、ユーザUから見たときの当該機器12の設置場所に応じた位置に表示されるとよい。例えば、
図4の例では、ユーザUから見ると、機器12aは、機器12bの右側にあるように見える。したがって、表示制御部64は、機器12aに関する情報を機器12bに関する情報の右側に表示させるとよい。また、表示制御部64は、画像70の周りに単一色(例えば白)の背景抜き画像74を表示させるようにしてもよい。
【0044】
図5の例では、機器状況情報72として、機器12を用いて行われる作業の実行状況が表示されている。例えば、機器状況情報72aによれば、機器12aが「作業5の印刷処理中」であることが示され、機器状況情報72bによれば、機器12bが「待機中」であることが示されている。
【0045】
また、機器状況情報72として、機器12を用いて行われる作業の進捗が表示されてもよい。例えば、機器状況情報72aによれば、機器12aを用いて行われる作業の進捗として、「処理完了まで90分」であることが示されている。
【0046】
なお、機器状況情報72が示す情報としては、上記のものに限られない。例えば、機器12の製品情報(型番、機能、能力など)が表示されてもよい。
【0047】
このように、ユーザUが直接視認できない機器12の状況がディスプレイ32に表示されるから、当該機器12が見える位置までユーザUが移動する場合、あるいは、当該機器12の状況を管理しているコンピュータにアクセスする操作をユーザUが行う場合に比して、当該機器12の状況をユーザUが容易に把握することができる。
【0048】
図6は、ウェアラブル端末14を装着したユーザUが機器12の方向を見た第2の例を示す図である。
図6の例では、ユーザUは、機器12d~12fが設置された部屋とは別の部屋にいる。なお、ユーザがいる部屋には機器12gが設置されている。ユーザがいる部屋と、機器12d~12fが設置された部屋とを仕切る壁Wは不透明であり、ユーザUから機器12d~12fを直接視認できなくなっている。
【0049】
図6の例では、機器12dを用いて行われる作業、機器12eを用いて行われる作業、及び、ユーザUが機器12gを用いて行う作業は、1つのワークフローXに含まれる作業であるとする。機器12fを用いて行う作業は、当該ワークフローXに含まれない作業であるとする。ワークフローXの例としては、例えば、工程A、工程Aの後に行われる工程B、工程Bの後に行われる工程Cを含み、ユーザU以外の他のユーザが機器12dを用いて工程Aの作業を行い、ユーザU以外の他のユーザが機器12eを用いて工程Bの作業を行い、ユーザUが機器12gを用いて工程Cの作業を行うものである。あるいは、ユーザU以外の他のユーザが機器12dを用いて工程Aの作業を行い、ユーザUが機器12gを用いて工程Bの作業を行い、ユーザU以外の他のユーザが機器12eを用いて工程Cの作業を行うものである。このように、ユーザUが行う作業は、機器12d又は12eを用いた作業の前工程又は後工程の作業であってよい。このようなワークフローXに関する情報は、上述のように、ワークフローDB58に記憶されている。ここで、ユーザが行う作業と同じワークフロー(上記例ではワークフローX)に属している作業を行う機器(上記例では機器12d及び機器12e)は、ユーザUと関連している機器であると言える。すなわち、ユーザUが行う作業を含むワークフローXに関する情報は、ユーザUと、ユーザUに関連する機器12との関連を示す関連情報であると言える。
【0050】
ここでは、ワークフローXは、くるみ製本処理を行うワークフローであるとする。具体的には、ワークフローXは、ユーザU以外のユーザが、工程Aとして、機器12dを用いて第1生成物としての表紙の印刷処理を行い、ユーザU以外のユーザが、工程Bとして、機器12eを用いて第2生成物としての本身の印刷処理を行い、ユーザUが、工程Cとして、機器12gを用いて当該表紙及び当該本身を用いてくるみ製本処理を行うものであるとする。
【0051】
図6の例において、ユーザUがウェアラブル端末14を装着し、その視線方向を機器12の方向(つまり壁Wの方向)に向けたとする。このとき、ウェアラブル端末14からは、当該ウェアラブル端末14の端末ID、GPSセンサ34が受信した受信情報(又はウェアラブル端末14の位置を示す位置情報)、及び、ユーザの視線方向Lを示す視線方向情報がサーバ16に送信される。サーバ16の位置方向取得部62は、ウェアラブル端末14(換言すればユーザU)の位置、ユーザUの視線方向L、及び、ユーザUの視野FVwを取得する。
【0052】
サーバ16の表示制御部64は、機器DB56に記憶されている各機器12の設置場所を示す設置場所情報を参照し、ユーザUの視線方向Lにある(より詳しくはユーザUの視野FVw内にある)機器12を特定する。
【0053】
図6の例では、ユーザの視線方向L(視野FVw内)には、機器12d、機器12e、及び機器12fの3つの機器12がある。ここで、サーバ16の表示制御部64は、ユーザUと、ユーザUに関連する機器12との関連を示す関連情報に基づいて、ユーザUの視線方向Lにある複数の機器12のうち、ユーザUと関連する機器12の状況をディスプレイ32に表示させるようにしてもよい。本例では、ワークフローDB58に記憶されているワークフローXに関する情報を関連情報として用いる。
【0054】
表示制御部64は、ユーザDB54を参照し、ウェアラブル端末14から取得した端末IDに基づいて、当該ウェアラブル端末14を装着しているユーザUのユーザIDを特定する。次いで、表示制御部64は、ワークフローDB58を参照し、ユーザUが行う作業が含まれるワークフローXを特定する。そして、表示制御部64は、ワークフローXに関する情報に基づいて、ユーザの視線方向Lにある機器12のうち、ワークフローXに含まれる作業を行う機器12を特定する。ここでは、機器12d及び12eが特定される。そして、表示制御部64は、特定した機器12d及び12eに関する情報をウェアラブル端末14のディスプレイ32に表示させる表示制御信号をウェアラブル端末14に送信する。これにより、ディスプレイ32には、ユーザUの視線方向Lにある複数の機器12のうち、ユーザUと関連する機器12のみの状況が表示される。
【0055】
図7は、ディスプレイ32に表示される情報の第2の例を示す図である。上述のように、ディスプレイ32には、ユーザUに関連する機器12のみに関する情報が表示される。したがって、
図7に示すように、機器12dに関する画像70d及び機器状況情報72d、並びに、機器12eに関する画像70e及び機器状況情報72eがディスプレイ32に表示されている。ここで、ユーザUの視線方向Lにある機器12であって、ユーザUとは関連しない機器12fに関する情報はディスプレイ32に表示されていないことに留意されたい。
【0056】
これにより、ユーザUにとって不必要な情報はディスプレイ32には表示されないため、ディスプレイ32の表示が煩雑になるのを抑制することができる。
【0057】
なお、上記した、くるみ製本処理を行うワークフローXの例では、ユーザUに関連する機器12は、ワークフローXに含まれる作業を行う機器12であったが、ユーザUに関連する機器12としてはこれには限られない。例えば、ユーザUが複数の機器12の管理者である場合、ユーザUに関連する機器12とは、ユーザUの管理対象の機器12であってもよい。この場合は、ユーザDB54には、ユーザUのユーザIDには、ユーザUの管理対象の機器12の機器IDが関連付けられている。表示制御部64は、ユーザDB54を参照することで、ユーザUに関連する機器12(ユーザUの管理対象の機器12)を特定することができる。すなわち、この場合、ユーザDB54に記憶されている情報が関連情報となる。また、例えば、ユーザUが機器12の修理担当者である場合、ユーザUに関連する機器12とは、故障中の機器12であってもよい。この場合、表示制御部64は、機器DB56に記憶されている機器12の状態を参照することで、ユーザUに関連する機器12(故障中の機器12)を特定することができる。すなわち、この場合、機器DB56に記憶されている機器12の状態を示す情報が関連情報となる。
【0058】
ワークフローにおいて、ユーザUが行う作業が、ユーザUから視認できない位置にある機器12を用いて行う作業の前工程又は後工程にある場合、表示制御部64は、ユーザUの作業の進捗と、その前工程又は後工程にある、当該機器12を用いて行う作業の進捗との関連性を示す情報をディスプレイ32に表示させるようにしてもよい。
【0059】
例えば、上記した、くるみ製本処理を行うワークフローXの例では、ユーザUが機器12gを用いて行う作業(工程C)は、機器12dを用いて行う表紙の印刷処理(工程A)及び機器12eを用いて行う本身の印刷処理(工程B)の後工程である。この場合、表示制御部64は、まず、ワークフローDB58を参照して、ワークフローXに関する情報(工程の順番、各工程の作業を行うユーザ及び機器12など)を取得する。次いで、機器DB56を参照し、ユーザUの作業に用いる機器12g、並びに、その前工程で用いる機器12d及び12eの機器状況情報から、機器12d、12e、及び12gの作業進捗を取得する。ここで、機器DB56に記憶されている、ユーザUの作業に用いる機器12gの機器状況情報が、ユーザの作業の進捗を示すユーザ作業情報に相当する。表示制御部64は、取得した12gの作業進捗(すなわちユーザUの作業進捗)と、その前工程で用いる機器12d及び12eの作業進捗とに基づいて、ディスプレイ32に、各機器12を用いて行う作業の進捗の関連性を示す情報を表示させる。
【0060】
図8は、ユーザUが行う作業の進捗と、その前工程である機器12を用いた作業の進捗との関連性を示す情報がディスプレイ32に表示された例を示す図である。例えば、前工程である機器12d及び12eを用いた作業(すなわち工程A及び工程B)に対して、その後工程である、ユーザUが機器12gを用いて行う作業(すなわち工程C)が遅れている場合、表示制御部64は、
図8に示すように、ディスプレイ32に、ユーザUの作業が前工程の作業に比して遅れていることを示す通知メッセージ76を表示させる。これにより、ユーザUは、自らの作業が前工程の作業に比して遅れていることを把握することができる。
【0061】
逆に、前工程である機器12d及び12eを用いた作業(すなわち工程A及び工程B)に対して、その後工程である、ユーザUが機器12gを用いて行う作業(すなわち工程C)が進んでいる場合、表示制御部64は、ユーザUの作業が前工程の作業に比して進んでいることを示す通知メッセージを表示させる。これにより、ユーザは、自らの作業が前工程の作業に比して進んでいることを把握することができる。
【0062】
ユーザUが機器12gを用いて行う作業が、機器12dを用いて行う作業の前工程である場合も同様である。すなわち、後工程である機器12dを用いた作業に対して、その前工程である、ユーザUが機器12gを用いて行う作業が遅れている(あるいは進んでいる)場合、表示制御部64は、ユーザUの作業が遅れている(あるいは進んでいる)ことを示す通知メッセージ76をディスプレイ32に表示させる。
【0063】
本例では、ユーザUの作業の進捗と、その前工程又は後工程にある機器12を用いて行う作業の進捗との関連性を示す情報が、通知メッセージ76の形でディスプレイ32に表示されていたが、当該情報は、通知メッセージ76以外の方法でディスプレイ32に表示させてもよい。例えば、ユーザUの作業の進捗と、前工程又は後工程にある機器12を用いて行う作業の進捗との関連性に応じて、機器12の画像70又は機器状況情報72の表示態様を変更するようにしてもよい。例えば、ユーザUの作業の進捗が進んでいる場合には、機器状況情報72を青色で表示し、ユーザUの作業の進捗が遅れている場合には、機器状況情報72を赤色で表示する、の如くである。もちろん、ユーザUの作業の進捗と、その前工程又は後工程にある機器12を用いて行う作業の進捗との関連性を示す情報の表示の仕方は、上記に限られるものではない。
【0064】
以下、
図9に示すフローチャートに従って、第1実施形態に係るサーバ16の処理の流れを説明する。
【0065】
ステップS10において、サーバ16は、端末ID、GPS衛星から受信した受信情報(又はウェアラブル端末14の位置を示す位置情報)、及び、ユーザの視線方向を示す視線方向情報をウェアラブル端末14から受信する。位置方向取得部62は、これらの情報に基づいて、ウェアラブル端末14の位置、ユーザの視線方向及び視野を取得する。
【0066】
ステップS12において、表示制御部64は、機器DB56の設置場所情報を参照し、ステップS10で取得したユーザの視線方向にある機器12を特定する。表示制御部64は、特定された機器12のうちの1つの機器12を選択する。
【0067】
ステップS14において、表示制御部64は、ステップS12で選択された機器12が、当該ユーザと関連する機器12であるか否かを判定する。例えば、表示制御部64は、ユーザDB54及びステップS10で受信した端末IDに基づいて、当該ウェアラブル端末14を装着しているユーザのユーザIDを特定し、ワークフローDB58を参照し、当該ユーザが行う作業が含まれるワークフローを特定する。そして、ステップS12で選択した機器12が、特定したワークフローに含まれる作業を行うものであるか否かを判定する。ステップS12で選択された機器12が、当該ユーザと関連する機器12である場合、ステップS16に進み、そうでない場合は、ステップS16をバイパスしてステップS18に進む。
【0068】
ステップS16において、表示制御部64は、ステップS12で選択した機器12に関する機器状況情報を機器DB56から取得し、当該機器状況情報をウェアラブル端末14のディスプレイ32に表示させる。
【0069】
ステップS18において、ユーザの視線方向にある機器12のうち、ステップS14及びS16の処理を行っていない機器12が有るか否かを判定する。有る場合は、ステップS12に戻り、ユーザの視線方向にある機器12のうちの他の機器を選択してステップS14及びS16の処理を繰り返す。無い場合は処理を終了する。
【0070】
<第2実施形態>
図10は、第2実施形態に係る情報処理システム100の構成概略図である。第2実施形態に係る情報処理システム100は、第1実施形態に係る情報処理システム10に比して、ユーザが、ウェアラブル端末14に代えて、携帯端末102を用いる点において異なる。以下、
図10~
図13を用いて第2実施形態を説明するが、第1実施形態と同様な構成要件については、第1実施形態と同じ符号を付し、その説明は省略する。
【0071】
図11は、携帯端末102の構成概略図である。携帯端末102は、ユーザが携帯可能な端末であり、例えば、スマートフォンなどのタブレット端末などである。
図11に示す通り、携帯端末102は、第1実施形態に係るウェアラブル端末14と同様の構成要件を含むが、ウェアラブル端末14と異なる構成要件として、ディスプレイ104、カメラ106、及び加速度センサ108を備える。
【0072】
ディスプレイ104は、例えば液晶ディスプレイや有機ELを含んで構成される。第1実施形態のウェアラブル端末14のディスプレイ32は透過型のディスプレイであったが、ディスプレイ104は、ディスプレイの向こう側が透けて見えない不透過型のディスプレイとなっている。なお、ディスプレイ104も透過型のディスプレイであってもよい。また、ディスプレイ104は、カメラ106が取得した画像をリアルタイムで表示する、いわゆるライブビューモニタとしても機能する。
【0073】
カメラ106は、レンズは撮像素子などを含んで構成される。カメラ106はデジタルカメラであり、撮影画像を画像データとして取得可能なものである。
【0074】
加速度センサ108は、直交する3軸方向における携帯端末102の加速度を検出するセンサである。キャリブレーションをした上で、加速度センサ108の検出信号に基づいて、携帯端末102(特にカメラ106)の姿勢を検出することができる。加速度センサ108が検出した姿勢に基づいて、カメラ106が向く方向(例えば、カメラ106のレンズ表面に垂直な方向であって携帯端末102から離れる方向)を取得することができる。加速度センサ108の検出信号は、通信インターフェース30からサーバ16に送信される。
【0075】
図12は、ユーザUが携帯端末102のカメラ106を機器12の方向に向けた例を示す図である。第1実施形態の
図4同様、
図12の例では、ユーザUは建物の2階におり、複数の機器12は1階に設置されている。2階の床FLは不透明であり、携帯端末102のカメラ106から複数の機器12を直接視認できなくなっている。なお、カメラ106から機器12が直接視認できない、とは、カメラ106が機器12を直接撮影することができないことを意味する。携帯端末102はユーザUにより携帯されているため、カメラ106が機器12を直接視認できない場合、基本的に、ユーザUも当該機器12を直接視認できない。
【0076】
この環境において、ユーザUが、加速度センサ108のキャリブレーションをした上で、携帯端末102のカメラ106を機器12の方向(つまり床FLの方向)に向けたとする。このとき、携帯端末102からは、当該携帯端末102の端末ID、GPSセンサ34が受信した受信情報(又は携帯端末102の位置を示す位置情報)、及び、加速度センサ108の検出信号がサーバ16に送信される。
【0077】
サーバ16の位置方向取得部62は、携帯端末102からの情報に基づいて、端末IDが示す携帯端末102の位置、及び、カメラ106が向く方向Dを取得する。さらに、位置方向取得部62は、カメラ106の視野FVc(カメラ106で撮影可能な範囲)を取得する。カメラ106の視野FVcは、カメラ106の位置を基準(基点)とし、カメラ106の方向Dを中心とする所定の画角内の領域である。
【0078】
サーバ16の表示制御部64は、機器DB56に記憶されている各機器12の設置場所を示す設置場所情報を参照し、携帯端末102の位置からカメラ106が向く方向Dにある(より詳しくはカメラ106の視野FVc内にある)機器12を特定する。
図12の例では、機器12a及び12bが特定される。
【0079】
その上で、表示制御部64は、機器DB56を参照し、特定した機器12(ここでは機器12a及び12b)に関する情報を取得し、当該情報を携帯端末102のディスプレイ104に表示させる表示制御信号を、受信した端末IDが示す携帯端末102に送信する。これにより、表示制御部64は、特定した機器12に関する情報をディスプレイ104に表示させる。
【0080】
図13は、ディスプレイ104に表示される情報の例を示す図である。携帯端末102の表示処理部42は、サーバ16から受信した表示制御信号に基づいて、ディスプレイ104に機器12に関する情報を表示させる。
図13の例では、
図5の例同様、ディスプレイ104には、機器12aの画像70a、機器12aの機器状況情報72a、機器12bの画像70b、機器12bの機器状況情報72bが表示されている。
【0081】
上述の通り、ディスプレイ104は、カメラ106が取得した画像をリアルタイムで表示するライブビューモニタとしても機能する。したがって、
図13の例では、表示制御部64は、カメラ106が撮影した画像を背景画像110として表示させ、機器12に関する情報を背景画像110に重畳させて表示させている。
【0082】
あたかも、背景画像110として表示されている床FLを透過して各機器12に関する情報を見ているようにユーザに感じさせるために、表示制御部64は、機器12の画像70の周囲の領域において背景画像110を表示させず、白抜き領域112とするようにしてもよい。
【0083】
以上、本発明に係る実施形態を説明したが、本発明は上記実施形態に限られるものではなく、本発明の趣旨を逸脱しない限りにおいて種々の変更が可能である。
【0084】
例えば、本実施形態では、ユーザDB54、機器DB56、及びワークフローDB58がサーバ16のメモリ52に記憶されていたが、これらのデータベースは、サーバ16からアクセス可能な他の装置のメモリに記憶されていてもよい。
【符号の説明】
【0085】
10,100 情報処理システム、12 機器、14 ウェアラブル端末、16 サーバ、18 通信回線、30,50 通信インターフェース、32,104 ディスプレイ、34 GPSセンサ、36 視線検出センサ、38,52 メモリ、40,60 プロセッサ、42,108 表示処理部、54 ユーザDB、56 機器DB、58 ワークフローDB、62 位置方向取得部、64 表示制御部、102 携帯端末、106 カメラ、108 加速度センサ。