(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-07-08
(45)【発行日】2024-07-17
(54)【発明の名称】情報提示システム、端末装置およびプログラム
(51)【国際特許分類】
G06F 3/0484 20220101AFI20240709BHJP
G09G 5/00 20060101ALI20240709BHJP
G05B 23/02 20060101ALI20240709BHJP
G06F 3/01 20060101ALI20240709BHJP
H04N 7/18 20060101ALI20240709BHJP
H04N 5/64 20060101ALI20240709BHJP
G06T 19/00 20110101ALI20240709BHJP
【FI】
G06F3/0484
G09G5/00 550C
G09G5/00 510C
G05B23/02 301T
G06F3/01 510
H04N7/18 D
H04N7/18 U
H04N5/64 511A
G06T19/00 600
(21)【出願番号】P 2021004730
(22)【出願日】2021-01-15
【審査請求日】2023-11-09
(73)【特許権者】
【識別番号】000002945
【氏名又は名称】オムロン株式会社
(74)【代理人】
【識別番号】110001195
【氏名又は名称】弁理士法人深見特許事務所
(72)【発明者】
【氏名】小林 義明
(72)【発明者】
【氏名】永田 雄大
(72)【発明者】
【氏名】渡邉 雄也
【審査官】田中 洋行
(56)【参考文献】
【文献】特開平06-020175(JP,A)
【文献】特開2017-224229(JP,A)
【文献】米国特許出願公開第2014/0270792(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06F 3/01
G06F 3/048-3/04895
G09G 5/00
G09G 5/377
G05B 23/02
H04N 7/18
H04N 5/64
G06T 19/00
(57)【特許請求の範囲】
【請求項1】
生産ラインに備えられる機器を制御するコントローラと、
ディスプレイと、前記機器を撮像可能なカメラとを有する端末と、
前記コントローラおよび前記端末と通信するサーバと、を備え、
前記カメラは、前記ディスプレイの視野を撮像範囲に含み、
前記コントローラは、当該機器が備える発光部を予め定められた発光パターンで発光させる発光指令を、前記機器に送信する手段を有し、
前記端末は、
前記ディスプレイの表示領域内の表示位置であって、前記カメラの撮像画像における前記発光パターンを表す部分画像の位置に応じた表示位置に関連付けて前記機器に関する情報を表示する手段を有する、情報提示システム。
【請求項2】
前記コントローラは、さらに、
前記機器の付近に在る他の機器が有する発光部を、前記発光パターンとは異なるパターンで発光させる手段を有する、請求項1に記載の情報提示システム。
【請求項3】
前記機器に関する情報は、前記機器の状態を示す情報を含む、請求項1または2に記載の情報提示システム。
【請求項4】
前記サーバは、
前記発光パターンを指定する通知を、前記コントローラに送信する、請求項1から3のいずれか1項に記載の情報提示システム。
【請求項5】
前記サーバは、
前記端末から受信する前記撮像画像を処理して前記発光パターンを表す部分画像の前記撮像画像における位置を検出する画像処理手段と、
前記画像処理手段によって検出された前記部分画像の位置を前記端末に送信する手段と、を有する、請求項1から4のいずれか1項に記載の情報提示システム。
【請求項6】
前記サーバは、
前記発光パターンを指定する通知を、前記端末に送信し、
前記端末は、さらに、
前記カメラの撮像画像を処理して前記発光パターンを表す部分画像の当該撮像画像における位置を検出する画像処理手段を有する、請求項1から4のいずれか1項に記載の情報提示システム。
【請求項7】
前記サーバは、
前記機器の識別情報に基づき前記発光パターンを決定する、請求項1から6のいずれか1項に記載の情報提示システム。
【請求項8】
前記サーバは、
前記機器の状態に基づき前記発光パターンを決定する、請求項1から7のいずれか1項に記載の情報提示システム。
【請求項9】
前記コントローラは、
前記機器から出力される状態値に基づき当該機器の状態を判定し、判定された状態の通知を前記サーバに送信する、請求項7に記載の情報提示システム。
【請求項10】
前記コントローラは、
前記機器の状態を示す情報を、前記サーバが備えるデータベースに格納するためのデータベース操作命令を前記サーバに送信し、
前記サーバは、
前記データベースに格納された情報に基づき前記機器の状態を判定する、請求項7に記載の情報提示システム。
【請求項11】
前記コントローラは、
ユーザ操作に基づき指定される機器に、前記発光指令を出力する、請求項1から10のいずれか1項に記載の情報提示システム。
【請求項12】
前記端末は、当該端末を操作するユーザの注視方向を検出する注視センサを、さらに有し、前記カメラの撮像方向は、前記注視方向に一致する、請求項1から11のいずれか1項に記載の情報提示システム。
【請求項13】
端末装置であって、
生産ラインに備えられる機器を制御するコントローラと通信する手段と、
ディスプレイと、
前記機器を撮像可能なカメラと、を備え、
前記カメラは、前記ディスプレイの視野を撮像範囲に含み、
前記機器は前記コントローラからの発光指令に基づき予め定められた発光パターンで発光する光源を有し、
前記端末装置は、さらに、
前記ディスプレイの表示領域内の表示位置であって、前記カメラの撮像画像における前記発光パターンを表す部分画像の位置に応じた表示位置に関連付けて、前記機器に関する情報を表示する手段を有する、端末装置。
【請求項14】
端末装置が備えるプロセッサに情報提示方法を実行させるプログラムであって、
前記端末装置は、
生産ラインに備えられる機器を制御するコントローラと通信する手段と、
ディスプレイと、
前記機器を撮像可能なカメラと、をさらに備え、
前記カメラは、前記ディスプレイの視野を撮像範囲に含み、
前記機器は前記コントローラからの発光指令に基づき予め定められた発光パターンで発光する光源を有し、
前記情報提示方法は、
前記ディスプレイの表示領域内の表示位置であって、前記カメラの撮像画像における前記発光パターンを表す部分画像の位置を取得するステップと、
前記ディスプレイの表示領域内の取得された前記表示位置に関連付けて、前記機器に関する情報を表示するよう前記ディスプレイを制御するステップとを有する、プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
この開示は情報提示システムに関し、特に、制御対象の機器に関する情報を提示する情報提示システムに関する。
【背景技術】
【0002】
設備の状態を提示する技術として、特許文献1は、処理設備の情報を表示する信号灯の発光情報に基づいて信号灯が連続点灯状態、点滅状態及び連続消灯状態の何れであるか判定し、処理設備の状態を管理する装置を開示する。
【0003】
特許文献2の設備監視携帯端末は、説明文を、撮影中の電子制御装置10の画像に重ね合わせて表示すること(オーバーレイ表示)で、拡張現実の表現を用いた設備監視の環境を提供する。
【0004】
特許文献3は、生産ラインのシーケンスプログラムの設計支援装置を開示する。設計支援装置は、ライン上の設備が出力する信号の状態を、信号に対応して設けられた複数の発光手段を点消灯させて表示し、表示された信号の状態を読み取り、読み取った信号の状態を次のステップへ進むための動作条件としてシーケンスプログラムに書き込むよう構成されている。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2019-68239号公報
【文献】特開2017-224229号公報
【文献】特開2008-171084号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
生産ラインでの機器に関して提示される情報の利用シーンには、例えば機器の異常または異常の予兆が検出されたとき、現場で対処を支援するための利用シーンが含まれる。現場の作業者は、対象機器の所在位置をユーザが実際に視る生産ライン上で特定しながら、その場で機器の情報を取得し、当該情報を確認しながら機器に対する作業(操作)を実施したいとの要望がある。
【0007】
特許文献1、2および3の生産ラインの設備を監視する情報を提示する仕組みを提案するが、ユーザの視野内で対象機器の所在位置と機器に関する情報とを関連付けて提示する環境は提供しない。
【0008】
本開示の1つの目的は、ユーザの視野内における対象機器の所在位置に関連付けて当該機器に関する情報を提示する情報提示システムを提供することである。
【課題を解決するための手段】
【0009】
本開示において情報提示システムは、生産ラインに備えられる機器を制御するコントローラと、ディスプレイと、機器を撮像可能なカメラとを有する端末と、コントローラおよび端末と通信するサーバと、を備え、カメラは、ディスプレイの視野を撮像範囲に含み、コントローラは、当該機器が備える発光部を予め定められた発光パターンで発光させる発光指令を、機器に送信する手段を有し、端末は、ディスプレイの表示領域内の表示位置であって、カメラの撮像画像における発光パターンを表す部分画像の位置に応じた表示位置に関連付けて機器に関する情報を表示する手段を有する。
【0010】
上述の開示によれば、ユーザのディスプレイを介した視野内における機器の所在位置に関連付けて当該機器に関する情報をディスプレイに表示することで、情報を提示することができる。
【0011】
上述の開示において、コントローラは、さらに、機器の付近に在る他の機器が有する発光部を、発光パターンとは異なるパターンで発光させる手段を有する。
【0012】
上述の開示によれば、対象機器の付近に在る他の機器も発光させることで、ユーザを対象機器に案内することができる。
【0013】
上述の開示において、機器に関する情報は、機器の状態を示す情報を含む。この開示によれば、上記の機器に関する情報として、機器の状態を表示することができる。
【0014】
上述の開示において、サーバは、発光パターンを指定する通知を、コントローラに送信する。これにより、コントローラはサーバから発光パターンを取得できる。
【0015】
上述の開示において、サーバは、端末から受信する撮像画像を処理して発光パターンを表す部分画像の撮像画像における位置を検出する画像処理手段と、画像処理手段によって検出された部分画像の位置を端末に送信する手段と、を有する。
【0016】
上述の開示によれば、サーバに位置検出のための画像処理を担わせることができる。
上述の開示において、サーバは、発光パターンを指定する通知を、端末に送信し、端末は、さらに、カメラの撮像画像を処理して発光パターンを表す部分画像の当該撮像画像における位置を検出する画像処理手段を有する。
【0017】
上述の開示によれば、端末に位置検出の画像処理を担わせることができる。
上述の開示において、サーバは、機器の識別情報に基づき発光パターンを決定する。これにより、発光パターンを、機器の識別情報に基づき可変に決定できる。
【0018】
上述の開示において、サーバは、機器の状態に基づき発光パターンを決定する。これにより、発光パターンを、機器の状態に基づき可変に決めることができる。
【0019】
上述の開示において、コントローラは、機器から出力される状態値に基づき当該機器の状態を判定し、判定された状態の通知をサーバに送信する。これにより、コントローラが、機器が予め定められた状態になったことを判定したとき、当該機器を発光させることができる。
【0020】
上述の開示において、コントローラは、機器の状態を示す情報を、サーバが備えるデータベースに格納するためのデータベース操作命令をサーバに送信し、サーバは、データベースに格納された情報に基づき機器の状態を判定する。
【0021】
上述の開示によれば、機器の状態は、サーバのデータベースに蓄積されたデータに基づき判定できる。
【0022】
上述の開示において、コントローラは、ユーザ操作に基づき指定される機器に、発光指令を出力する。これにより、コントローラは、ユーザが指定した機器に発光指令を出力して、発光させることができる。
【0023】
上述の開示において、端末は、当該端末を操作するユーザの注視方向を検出する注視センサを、さらに有し、カメラの撮像方向は、注視方向に一致する。
【0024】
上述の開示によれば、機器が発光をした場合、ユーザが当該機器の所在する方向を注視したとき、カメラは注視方向を撮像する。これにより、被写体に当該機器を含める確実性を高めることができる。
【0025】
本開示の端末装置は、端末装置であって、生産ラインに備えられる機器を制御するコントローラと通信する手段と、ディスプレイと、機器を撮像可能なカメラと、を備え、カメラは、ディスプレイの視野を撮像範囲に含み、機器はコントローラからの発光指令に基づき予め定められた発光パターンで発光する光源を有し、端末装置は、ディスプレイの表示領域内の表示位置であって、カメラの撮像画像における発光パターンを表す部分画像の位置に応じた表示位置に関連付けて、機器に関する情報を表示する手段を有する。
【0026】
上述の開示によれば、ユーザのディスプレイを介した視野内における機器の所在位置に関連付けて、当該機器に関する情報をディスプレイに表示することで、機器に関連の情報を提示できる。
【0027】
本開示では、端末装置が備えるプロセッサに情報提示方法を実行させるプログラムが提供される。端末装置は、生産ラインに備えられる機器を制御するコントローラと通信する手段と、ディスプレイと、機器を撮像可能なカメラと、をさらに備え、カメラは、ディスプレイの視野を撮像範囲に含み、機器はコントローラからの発光指令に基づき予め定められた発光パターンで発光する光源を有し、情報提示方法は、ディスプレイの表示領域内の表示位置であって、カメラの撮像画像における発光パターンを表す部分画像の位置を取得するステップと、ディスプレイの表示領域内の取得された表示位置に関連付けて、機器に関する情報を表示するようディスプレイを制御するステップとを有する。
【0028】
上述の開示によれば、プログラムが実行されると、ユーザのディスプレイを介した視野内における機器の所在位置に関連付けて、当該機器に関する情報がディスプレイに表示されて、機器に関連の情報を提示できる。
【発明の効果】
【0029】
本開示によれば、ユーザの視野内における対象機器の所在位置に関連付けて当該機器に関する情報を提示できる。
【図面の簡単な説明】
【0030】
【
図1】本実施の形態に係るネットワークシステム1の全体構成を示す模式図である。
【
図2】本実施の形態に係るネットワークシステム1の全体構成例を示す模式図である。
【
図3】本実施の形態に係るPLC100の構成例を示す模式図である。
【
図4】本実施の形態に係るイベントコードテーブル152の一例を示す図である。
【
図5】本実施の形態のサーバ200の構成例を示す模式図である。
【
図6】本実施の形態に係る発光パターンテーブル232の一例を模式的に示す図である。
【
図7】本実施の形態に係る端末30の構成例を示す模式図である。
【
図8】本実施の形態に係るフィールド機器90の構成例を示す模式図である。
【
図9】本実施の形態に係るPLC100の情報提示に関連するモジュール構成を模式的に示す図である。
【
図10】本実施の形態に係るサーバ200の情報提示に関連するモジュール構成を模式的に示す図である。
【
図11】本実施の形態に係る端末30の情報提示に関連するモジュール構成を模式的に示す図である。
【
図12】本実施の形態に係る情報提示の処理を示すフローチャートである。
【
図13】本実施の形態に係る情報提示の処理の変形例を示すフローチャートである。
【
図14】本実施の形態に係る透過型ディスプレイ32の表示例を示す図である。
【
図15】本実施の形態に係る透過型ディスプレイ32の表示例を示す図である。
【
図16】本実施の形態に係る透過型ディスプレイ32の表示例を示す図である。
【
図17】本実施の形態に係る透過型ディスプレイ32の表示例を示す図である。
【発明を実施するための形態】
【0031】
本開示の実施の形態について、図面を参照しながら詳細に説明する。なお、図中の同一または相当部分については、同一符号を付してその説明は繰り返さない。
【0032】
<A.適用例>
まず、
図1を参照して、本発明が適用される場面の一例について説明する。
【0033】
図1は、本実施の形態に係るネットワークシステム1の全体構成を示す模式図である。本開示において、ネットワークシステム1は「情報提示システム」の一実施例である。ネットワークシステム1は、主たる使用形態として、生産ラインに備えられる機器または設備を現場で保守することを可能にする「保守システム」を意図しているが、本願発明の技術的範囲はこの用語の範囲に限定されることはなく、特許請求の範囲の記載に基づいて、合理的に解釈されるべきである。
【0034】
ネットワークシステム1は、対象の機器または設備における各種情報を共有するとともに、必要に応じて、対象の機器または設備に対して指令を与えるためのプラットフォームを提供する。
【0035】
図1に示す例において、対象の機器または設備は、PLC(プログラマブルロジックコントローラ)100および1または複数のフィールド機器90を含む。
図1では、1台のPLC100を示したが、ネットワークシステム1は複数台のPLC100を備えてもよい。複数のPLC100が備えられる場合は、複数のPLC100は、フィールドネットワークに接続されていてもよい。フィールドネットワークとしては、EtherCAT(登録商標)やEtherNet/IP(登録商標)などの産業用ネットワークが用いられてもよい。
【0036】
PLC100は、産業用のコントローラに相当し、図示しない各種の製造設備や機械を制御周期に従い制御する。PLC100による制御においては、フィールドネットワーク5を介してセンサを含むフィールド機器90などを用いてフィールド機器90の状態を示す情報(状態値110)を収集し、PLC100で実行されるプログラムに従って、それらの収集された情報を用いて予め定められた制御演算を制御周期に従い周期的に実行することで、制御指令を算出しアクチュエータなどのフィールド機器に出力する。PLC100においては、制御指令は、シーケンスプログラムやモーションプログラムなどの制御演算が実行されることにより算出される。フィールド機器90は制御指令に従い制御されて動作し、状態値110が変化する。
【0037】
フィールド機器90は、フィールドネットワーク5を介してPLC100と通信することによって、PLC100が制御する対象の一例である。フィールドネットワーク5を介して、PLC100とフィールド機器90との間で遣り取りされるデータは、制御周期に同期した数100μsecオーダ~数10msecオーダのごく短い周期で更新されることになる。なお、このような遣り取りされるデータの更新処理は、入出力リフレッシュとも称される。
【0038】
フィールド機器90は、発光部としての1または複数のLED(Light Emitting Diode)を備え、自機器の出力または稼働の状態を報知するために当該LEDを発光するよう駆動する。LEDの発光は、異なるまたは同じ可視光の波長を有する。本開示では、フィールド機器90は、PLC100からの発光指令9Aに基づき、LEDの駆動信号(電流信号)のパルスの幅または周期を経時的に変化させる。これにより、フィールド機器90のLEDは発光指令9Aに従うパターンで発光する。LED駆動信号の生成には、例えばPWM(Pulse Width Modulation)回路を適用できる。
【0039】
ネットワークシステム1は、対象設備(PLC100およびフィールド機器90)に加えて、作業者(ユーザ)が頭部に装着可能な端末30、および、PLC100と端末30と通信するサーバ200を備える。サーバ200は、典型的には工場の外部に設けられて、本実施の形態では、例えばクラウドベースサーバとして提供される。
【0040】
サーバ200は、ネットワークを介して接続されている端末30およびPLC100の少なくとも一方から画像および音声の少なくとも一方を含むデータを受信し、受信したデータを処理して、処理結果のデータをPLC100または端末30に送信する。サーバ200は、DB(データベースの略)400を管理するデータベースサーバとしての機能を備えることもできる。PLC100は制御周期に同期して収集された状態値110を、データベース操作指令(SQL(Structured Query Languageなど)とともにサーバ200に転送する。サーバ200は、PLC100から受信する状態値110を、データベース操作指令に従いデータベース400に格納する。これにより、データベース400には、時系列に状態値110が収集される。サーバ200は、データベース400から状態値110などのデータを読出し、読出されたデータを処理する。また、サーバ200は、PLC100から送信される制御指令を、例えば状態値110と関連付けてデータベース400に格納することもできる。
【0041】
端末30は、「端末装置」の一実施例であって、HMD(Head-Mounted Device)の形態で、より特定的にはメガネ型ディスプレイの形態でユーザ(作業者)の頭部に装着され得る。端末30は、筐体115に、例えば液晶ディスプレイ方式等の透過型ディスプレイ32と、注視センサ140と、スピーカ35と、マイク119と、カメラ34と備える。
【0042】
ユーザは透過型ディスプレイ32を介して、現実の空間(風景)を視ることができる。また、透過型ディスプレイ32にオブジェクト(写真、絵、文字・数値、記号、グラフなどの画像)が表示される場合、オブジェクトは現実空間の風景に重畳されて表示される。重畳表示されるオブジェクトにより、端末30は、ユーザに対し、いわゆる拡張現実(Augmented Reality)を提供する。
【0043】
カメラ34は、光学特性を持つ撮像装置であって、例えばCCD(Charge Coupled Device)を含む。端末30が装着されるとき、メガネのレンズに相当する透過型ディスプレイ32を通してユーザが視ることができる透過型ディスプレイ32の表示領域に相当する視野が、カメラ34の撮像範囲となる。例えば、端末30を装着したユーザは、フィールド機器90を操作する場合、拡張現実の仕組みを用いて操作がサポートされ得る。より具体的には、透過型ディスプレイ32は、操作を支援するオブジェクトを現実空間の風景、すなわちフィールド機器90を含む現実風景に重畳して表示する。これにより、ユーザは、拡張現実(Augmented Reality)の態様で視野内の現実風景に重畳表示されたオブジェクトが示す情報によって支援されながら、視野内のフィールド機器90を操作することができる。ユーザのフィールド機器90の操作は、当該フィールド機器90の稼働の状態を確認するための操作または状態を調整するための操作も含み得る。
【0044】
注視センサ140は、端末30を装着するユーザの視線が向けられる方向(視線方向)を検出する。当該方向の検出は、たとえば、公知のアイトラッキング機能によって実現される。カメラ34は、注視センサ140によって検出されたユーザの視線方向を撮像方向に一致させるように制御される。
【0045】
本実施の形態では、ユーザの頭部姿勢(位置と向き(傾き))を検出する頭部姿勢検出部を備える。頭部姿勢検出部は、例えばカメラ34に備えられるジャイロセンサ341を含んで構成される。信号処理・画像処理回路300は、頭部姿勢検出部の出力から、例えば予め定められた演算式に従い、ユーザの視野角を算出(推定)する。信号処理・画像処理回路300は、ユーザの視野角と画角が整合するようにカメラ34の画角を制御する。これにより、信号処理・画像処理回路300は、カメラ34の画角をユーザの頭部姿勢に基づく視野角の変化に追従させて変化させることができる。その結果、透過型ディスプレイ32の視野をカメラ34の撮像範囲に含めることができる。なお、ジャイロセンサ341はカメラ34に備えたが、頭部の姿勢を検出可能であれば、取付場所はカメラ34に限定されない。
【0046】
端末30を装着したユーザに透過型ディスプレイ32を介して拡張現実を提供するシーンとして、例えば、フィールド機器90の稼働状態が予め定められた状態になったときを説明する。フィールド機器90の予め定められた状態は、フィールド機器90の故障を含む異常状態または異常の予兆を示す状態(以下、予兆状態という)を含み得る。例えば、PLC100が、フィールド機器90からの状態値110を閾値と比較し、比較結果に基づき、フィールド機器90が予め定められた状態に遷移したことを、イベントとして検出する。PLC100は、例えば制御周期等に同期して周期的にイベントの検出処理を実施することができる。
【0047】
PLC100は、イベントを検出すると(ステップS1)、検出されたイベント内容22a(フィールド機器90のデバイスID(識別子)とイベントに関する情報)の通知をサーバ200に送信し(ステップS2)、また、端末30にイベント検知22bの通知を送信する(ステップS2)。サーバ200は、PLC100からイベント内容の通知を受信すると、イベント内容に基づく発光パターン23aの通知をPLC100に送信し(ステップS3)、PLC100はサーバ200からの発光パターン23aに基づく発光指令9Aを生成し、フィールド機器90に出力する(ステップS4)。フィールド機器90の発光部のLEDは、発光パターン23aに基づく発光指令9Aが示すパターンに従い発光する。発光の態様は、点滅(点灯周期の切替)、発光色の切替などを含む。
【0048】
端末30を装着したユーザは、発光するフィールド機器90に視線を向ける。カメラ34は、注視センサ140の出力に基づき、撮像方向を視線方向に一致させる。これにより、カメラ34の撮像範囲内にユーザの注視する(すなわち視野内にある)フィールド機器90が位置することになる。端末30は、PLC100からイベント検知22bの通知を受信したことに応じて、カメラ34に撮像を開始させ(ステップS26)、撮像された画像27aをサーバ200に送信する(ステップS27)。カメラ34の撮像は、例えばPLC100からイベント検知22bの通知を受信したことに応じて開始されてもよい。
【0049】
サーバ200は、端末30からの画像27aを例えばフレーム単位で画像処理することにより、画像27aにおいて発光パターン23aに従い輝度を変化させる部分画像を検出し、画像27aにおける当該部分画像の位置を決定する位置検出処理を実施し、決定位置とARマーカとを含むマーカ情報29aを端末30に送信する(ステップS29)。サーバ200は、PLC100から受信した通知が示すイベント内容22aを表示するための、オブジェクトとしてのARマーカを生成する。
【0050】
端末30は、サーバ200からマーカ情報29aを受信し(ステップS29b)、受信したARマーカの表示処理を実施する(ステップS30)。より具体的には、端末30は、透過型ディスプレイ32に、サーバ200からのマーカ情報29aが有する決定位置に対応した当該透過型ディスプレイ32の表示領域における位置に関連付けてARマーカを表示させる。これにより、透過型ディスプレイ32を介したユーザの視野内の発光パターン23aに従い発光しているフィールド機器90(フィールド機器90のLED)に関連付けてARマーカが視覚可能に表示される。
【0051】
上記の構成では、発光パターン23aに従い輝度を変化させる部分画像の検出処理は、サーバ200によって実施されたが、端末30によって実施されてもよい。その場合、サーバ200は、発光パターン23aを端末30に送信し(ステップS23)、端末30は、カメラ34が撮像した画像27aにおいて、サーバ200からの発光パターン23aに従い輝度を変化させる部分画像を検出する画像処理を実施し、画像処理の結果に基づき、画像27aにおける当該部分画像の位置を決定する。端末30は、決定位置とサーバ200からのARマーカとに基づき、上記の表示処理(ステップS30)を実施する。
【0052】
マイク119は、ユーザの発話の音声を収集し、端末30は、収集音声に対応する音声データをサーバ200に送信する。サーバ200は、端末30からの音声データを解析し、解析結果に基づく情報を、端末30にARマーカとして送信する。端末30は、ARマーカを上記の決定位置に関連付けて表示する。これにより、ユーザは、マイク119を用いて発話することで、追加のARマーカを取得することもできる。ARマーカが示すフィールド機器90に関する情報の提示態様は表示に限定されず、音声読み上げ機能によりスピーカ35から音声出力されもよい。
【0053】
本開示では、透過型ディスプレイ32を介したユーザの視野内におけるフィールド機器90の所在位置に関連付けて当該機器に関する情報、例えばイベント内容(デバイスIDとARマーカ等)を提示することができる。端末30を装着したユーザは、透過型ディスプレイ32を介した視野内のフィールド機器90を、ARマーカ等で提示された情報を参考に操作し、フィールド機器90の故障または故障予兆に対処できる。
【0054】
以下、本発明のより具体的な応用例として、本実施の形態に係るネットワークシステム1のより詳細な構成および処理について説明する。
【0055】
<B.システム構成>
図2は、本実施の形態に係るネットワークシステム1の全体構成例を示す模式図である。ネットワークシステム1は、1または複数のPLC100-1,100-2,・・・(以下、「PLC100」とも称する。)を含む保守対象の設備装置2を備える。PLC100は、フィールドネットワーク4に接続されていてもよい。フィールドネットワーク4としては、EtherCAT(登録商標)やEtherNet/IP(登録商標)などの産業用ネットワークが用いられてもよい。フィールドネットワーク4は、フィールドネットワーク4に接続されるコンポーネントをサーバ200に接続するためのゲートウェイ端末3と、携帯型端末としての端末30をフィールドネットワーク4に接続するための無線ルータ6を接続する。端末30は、無線通信410によりPLC100とデータを遣り取りする。端末30は、PLC100および無線ルータ6と無線LAN(Local Area Network)に従い通信する。端末30は、例えばBluetooth(登録商標)に従いPLC100と通信し、BluetoothまたはWi-Fi(登録商標)に従い無線ルータ6と通信する。端末30は、無線ルータ6を中継しないで、例えば、LTE(Long Term Evolution)に従いサーバ200と通信することも可能であり、通信路はVPN(Virtual Private Network)が適用され得る。
【0056】
(B1.PLC100の構成)
図3は、本実施の形態に係るPLC100の構成例を示す模式図である。
図3を参照して、PLC100は、予めインストールされたプログラムをプロセッサが実行することで、制御対象に対する制御を実現するコンピュータに相当する。より具体的には、PLC100は、CPU(Central Processing Unit)やMPU(Micro-Processing Unit)などのプロセッサ102と、チップセット104と、メインメモリ106と、フラッシュメモリ108と、ネットワークコントローラ116と、無線通信回路を含む無線インターフェイス117と、メモリカードインターフェイス118と、内部バスコントローラ122と、フィールドバスコントローラ124とを含む。
【0057】
プロセッサ102は、フラッシュメモリ108に格納されたシステムプログラム109、ユーザプログラム112およびIoTゲートウェイプログラム160を読み出して、メインメモリ106に展開して実行する。システムプログラム109のもとでユーザプログラム112が実行されると、制御対象に対する制御を実現する。すなわち、プロセッサ102は、メインメモリ106およびフラッシュメモリ108と連係することで、入出力リフレッシュおよび制御演算を実行する制御部を実現する。
【0058】
システムプログラム109は、データの入出力処理や実行タイミング制御などの、PLC100の基本的な機能を提供するための命令コードを含む。ユーザプログラム112は、制御対象に応じて任意に設計され、シーケンス制御を実行するためのシーケンスプログラム112Aと、モーション制御を実行するためのモーションプログラム112Bと、図示しないが入出力リフレッシュプログラムを含む。
【0059】
チップセット104は、各コンポーネントを制御することで、PLC100全体としての処理を実現する。内部バスコントローラ122は、PLC100と内部バスを通じて連結されるI/Oユニット126とデータを遣り取りするインターフェイスである。フィールドバスコントローラ124は、PLC100とフィールドバスを通じて連結されるI/Oユニット128とデータを遣り取りするインターフェイスである。内部バスコントローラ122およびフィールドバスコントローラ124は、対応のI/Oユニット126および128にそれぞれ入力される状態値110を取得するとともに、プロセッサ102での演算結果を対応のI/Oユニット126および128から制御指令としてそれぞれ出力する。
【0060】
メモリカードインターフェイス118は、メモリカード120を着脱可能に構成されており、メモリカード120に対してデータを書込み、メモリカード120からデータを読出すことが可能になっている。
【0061】
ネットワークコントローラ116は、フィールドネットワーク4を含む各種ネットワークを通じたデータの遣り取りを制御する。無線インターフェイス117は、端末30などの無線通信装置との間におけるデータ遣り取りを制御する。
【0062】
フラッシュメモリ108は、本実施の形態のネットワークシステム1を実現するための、IoTゲートウェイプログラム160に追加して、設定情報150、イベントコードテーブル152、発光プログラム167および付近発光プログラム167aをさらに保持(格納)する。設定情報150は、ネットワークシステム1のユーザを管理する情報、およびネットワークシステム1を構成するフィールド機器90などの装置を管理する情報などを含む。
【0063】
図4は、本実施の形態に係るイベントコードテーブル152の一例を示す図である。
図4を参照して、イベントコードテーブル152は、フィールド機器90の識別子であるデバイスID152Bと事象種類152Aからなる複数の組と、各組に対応付けてイベントコード152Cを有する。事象種類152Aは、対応するデバイスID152Bのフィールド機器90の状態(異常または予兆の状態)を判定するための閾値THを含む。
【0064】
発光プログラム167は、実行されると、サーバ200から受信する発光パターン23aに従う発光指令9Aを生成し、発光パターン23aに含まれるデバイスIDが示すフィールド機器90に送信する。付近発光プログラム167aは、実行されると、サーバ200から受信される付近発光パターン33aに従う発光指令9Bを、付近発光パターン33aが有するデバイスIDが示す1または複数のフィールド機器90に送信する。
【0065】
IoTゲートウェイプログラム160は、実行されることにより、PLC100を情報提示システムのコンポーネントとして動作させるプログラムの一実施例である。IoTゲートウェイプログラム160は、制御に従うフィールド機器90が出力する状態値110から、当該フィールド機器90の状態(異常または予兆)に基づくイベントを検出するイベント検出プログラム161および情報収集プログラム162を含む。
【0066】
情報収集プログラム162は、実行されると、PLC100が入出力リフレッシュによりフィールド機器90と遣り取りする状態値110および制御指令をリアルタイムに収集する状態情報収集163および制御指令収集164と、装置関連情報の収集165とを実施する。装置関連情報の収集165は、例えばフィールド機器90の使用実績の情報を含む。
【0067】
なお、PLC100がプログラムを実行することで提供される機能の一部または全部を専用のハードウェア回路として実装してもよい。
【0068】
(B2.サーバ200の構成)
図5は、本実施の形態のサーバ200の構成例を示す模式図である。
図5を参照して、サーバ200は、汎用的なアーキテクチャを有するコンピュータである。サーバ200は、予めインストールされたプログラムをプロセッサが実行することで、後述するような各種処理を実現する。
【0069】
サーバ200は、CPUやMPUなどのプロセッサ202と、メインメモリ204と、ハードディスク(HDD)206と、ユーザへ情報を提示するためのディスプレイ208と、キーボードやマウスなどの入力部210と、他の装置との間でデータを遣り取りするためのネットワークコントローラ212とを含む。これらのコンポーネントは、内部バス214を介して互いにデータ通信可能に接続されている。ハードディスク206は、サーバ200での基本的なプログラムの実行環境を提供するためのOS(Operating System)220と、OSのもとで実行されるサーバプログラム222とを含む。これらのプログラムがメインメモリ204に読み出されて、プロセッサ202によって実行される。
【0070】
サーバプログラム222は、情報提供システムのサービスを実現するためのプログラムとデータ(情報)を含む。より具体的には、サーバプログラム222は、イベント検出されたフィールド機器90の発光パターンを決定する発光パターン決定プログラム223と、通信プログラム224と、画像処理プログラム225と、イベント検出されたフィールド機器90の付近(周囲、周辺)に配置された他のフィールド機器90(以下、付近フィールド機器90ともいう)の位置を判定する付近判定プログラム228と、Botプログラム229とを含み、さらに、デバイス位置情報231と、発光パターンテーブル232と、付近発光パターン33aとを含む。
【0071】
デバイス位置情報231は、生産ラインに配置された各フィールド機器90のデバイスIDに対応して、当該フィールド機器90の付近の予め定められた範囲のエリア内に配置された複数のフィールド機器90それぞれのデバイスIDを含む。
【0072】
通信プログラム224は、発光パターン23aの通知をPLC100または端末30に送信するための発光パターン通知プログラム24aと、位置とARマーカを含むマーカ情報29aを端末30に送信するためのマーカ通知プログラム24bと、付近フィールド機器90の発光パターンをPLC100に通知する付近発光パターン通知プログラム24cとを含む。
【0073】
図6は、本実施の形態に係る発光パターンテーブル232の一例を模式的に示す図である。
図6の(A)を参照して、発光パターンテーブル232は、複数種類のイベントコード152Cと、各イベントコード152Cに対応して発光パターン152Dを有する。
図6の(B)の発光パターンテーブル232は、フィールド機器90の識別子である複数種類のデバイスID152Bと、各デバイスID152Bに対応付けて発光パターン152Dを有する。本実施の形態では、発光パターンテーブル232は、
図6の(A)に示すように、フィールド機器90について検出されたイベントの種類(イベントコード152C)に応じて発光パターン152Dが決定されるよう構成されてもよく、または、
図6の(B)に示すように、フィールド機器90の種類(デバイスID152B)に応じて発光パターン152Dが決定されるよう構成されてもよい。
【0074】
(B3.端末30の構成)
図7は、本実施の形態に係る端末30の構成例を示す模式図である。
図7を参照して、端末30は、透過型ディスプレイ32と、マイク119およびスピーカ35と信号を遣り取りする音声回路36と、無線ルータ6またはPLC100と通信するための無線通信回路304と、不揮発記憶媒体であるストレージ302と、着脱自在に端末30に装置され得る外部記憶媒体の一例であるSDカード306等のメモリカードと、信号処理・画像処理回路300とを接続し、これらを制御するMPUまたはCPUなどのプロセッサ301を含む。プロセッサ301は、ROM(Read Only Memory)またはRAM(Random Access Memory)等を含むメインメモリ303を有する。端末30は、さらに、カメラ34および注視センサ140を有する。カメラ34および注視センサ140は、信号処理・画像処理回路300を介して、プロセッサ301により制御されて、また、プロセッサ301とデータを遣り取りする。信号処理・画像処理回路300は、プロセッサ301からの指令に従い、カメラ34の撮像動作を制御するとともに、カメラ34が出力する撮像画像を例えばフレーム単位で画像処理(雑音除去、色調整等)し出力する。また、信号処理・画像処理回路300は、注視センサ140が検出するユーザの注視方向に基づき撮像方向となるようにカメラ34のアングルなどを調整する。
【0075】
プロセッサ301は、ストレージ302またはSDカード306に格納された情報提示のための提示プログラム305を含む各種プログラムをメインメモリ303に展開して実行することにより、接続される各部を制御する。また、信号処理・画像処理回路300は、ASIC(application specific integrated circuit)またはFPGA(field-programmable gate array)などのハードウェア回路を含んで構成され得る。
【0076】
(B4.フィールド機器90の構成)
図8は、本実施の形態に係るフィールド機器90の構成例を示す模式図である。
図8は、フィールド機器90として、RF(Radio Frequency)タグ99と非接触で交信する交信装置を例示する。この種の交信装置は、RFID(Radio Frequency Identification)と称される近距離無線技術を用いて、管理対象の物品(生産ラインを流れるワークなど)またはその物品を支持もしくは収容する物体(パレット、コンテナなど)に取付けられたRFタグ99との間でデータをやり取りする「リーダライタ」に相当する。
【0077】
交信装置は、RFタグ99からデータを読出す機能(リーダ機能)、および、RFタグ99へのデータ書込の機能(ライタ機能)の両方が備わっていることは必須ではなく、少なくとも一方の機能のみが備わっているものであってもよい。
【0078】
RFタグ99は、電源を内蔵せず、交信装置(フィールド機器90)からの送信波により生じた起電力によって動作する。交信装置(フィールド機器90)は、交信可能領域を通過するRFタグ99からの受信信号を処理し、受信強度を示す状態値110をPLC100に送信する。
【0079】
図8を参照して、フィールド機器90は、RFタグ99と交信するための通信回路97と、通信回路97に接続されるアンテナ14と、CPU92およびメモリ93を含む制御部91と、PLC100と通信するための通信インターフェイス96と、発光部を構成する光源としてのLED95と、プログラムおよびデータを格納するためのストレージ94とを含む。
【0080】
CPU92は、ストレージ94に格納されたプログラムに基づき、PLC100との通信処理、RFタグ99との交信処理を含む各種のデータ処理を実行する。CPU92は、RFタグ99から情報が読み出す場合、および書き込む場合のいずれにおいても、PLC100から受信したコマンド信号をRFタグ99に送信し、RFタグ99からそのコマンド信号に対するレスポンス(応答)を受信する。CPU92は、RFタグ99の応答内容を解読し、この解読データを含む交信結果データを出力する。例えば、交信結果をPLC100に送信し、またはストレージ94に格納し、またはLED95を用いて表示する。PLC100は、RFタグ99からの応答内容が示すRFタグ99の受信強度(電流値)を閾値と比較し、比較の結果に基づき、交信装置(フィールド機器90)が異常状態であるか、または異常の予兆を示す予兆状態であるかを判定する、すなわちイベントを検出する。
【0081】
フィールド機器90の種類はRFIDの交信装置に限定されず、例えば受光量をLEDで報知可能な近接スイッチなどであってもよい。
【0082】
(B5.PLC100のモジュール構成)
図9は、本実施の形態に係るPLC100の情報提示に関連するモジュール構成を模式的に示す図である。
図9を参照してPLC100は、プログラムが実行されることで構成されるモジュールとして、イベント検出プログラム161に対応のイベント検出部170と、発光プログラム167または付近発光プログラム167aに対応の発光制御部171と、ネットワークコントローラ116または無線インターフェイス117のプログラムによって他の装置との通信を制御する通信制御部172を含む。
【0083】
イベント検出部170は、フィールド機器90のイベントを検出する。より具体的には、イベント検出部170は、フィールド機器90から受信する状態値110のデバイスIDに一致するデバイスID152Bに対応する事象種類152Aをイベントコードテーブル152から検索する。イベント検出部170は、受信された状態値110を検索された事象種類152Aが有する閾値THと比較し、比較結果が、(状態値110>閾値TH)を示すと判定すると、フィールド機器90は事象種類152Aが示す異常状態または予兆状態にあると検出し、イベントコードテーブル152から当該事象種類152Aに対応のイベントコード152Cを検索する。例えば、イベント検出部170は、RFIDの交信装置(フィールド機器90)からの状態値110に基づき、交信装置(フィールド機器90)の状態は、
図4のイベントコードテーブル152の矢印1521で示す事象種類152A(“交信装置の出力異常”)が示す異常であると検出する。イベント検出部170はイベントを検出すると、通信制御部172は、フィールド機器90のデバイスIDおよびイベントコード152Cを含むイベント内容22aの通知をサーバ200に送信する。
【0084】
発光制御部171は、通信制御部172がサーバ200から受信する発光パターン23aに基づき発光指令9Aを生成し、発光指令9Aを当該発光パターン23aが示すフィールド機器90に通信制御部172を介して送信する。また、発光制御部171は、通信制御部172がサーバ200から受信する付近発光パターン33aに基づき発光指令9Bを生成し、発光指令9Bを当該付近発光パターン33aが示す1つ以上のデバイスIDが示すフィールド機器90に、通信制御部172を介して送信する。
【0085】
(B6.サーバ200のモジュール構成)
図10は、本実施の形態に係るサーバ200の情報提示に関連するモジュール構成を模式的に示す図である。
図10を参照してサーバ200は、プログラムが実行されることで構成されるモジュールとして、発光パターン通知プログラム24aに対応の発光パターン通知部239と、画像処理プログラム225に対応の画像処理部240と、マーカ通知プログラム24bに対応のマーカ情報生成部241と、付近判定プログラム228に対応の付近デバイス検出部242と、付近発光パターン通知プログラム24cに対応する付近発光パターン通知部243と、ネットワークコントローラ212のプログラムによって他の装置との通信を制御する通信制御部244を含む。
【0086】
発光パターン通知部239は、PLC100から受信するイベント内容22aが示すイベントコード152Cに基づき発光パターンテーブル232(
図6の(A))から、当該イベントコード152Cに対応する発光パターン152Dを検索し、検索された発光パターン152Dを示す発光パターン23aの通知を、通信制御部244を介してPLC100に送信する。
【0087】
また、発光パターン通知部239は、デバイスIDに基づく発光パターンの通知を送信する。具体的には、発光制御部171は、PLC100から受信するイベント内容22aが示すデバイスIDまたは端末30から受信するフィールド機器90のデバイスIDに一致するデバイスID152Bに対応する発光パターン152Dを発光パターンテーブル232(
図6の(B))から検索し、検索された発光パターン152Dを示す発光パターン23aの通知を、通信制御部244を介してPLC100に送信する。
【0088】
画像処理部240は、端末30から受信するカメラ34が撮像した画像27aを、通信制御部244を介して受信し、受信した画像27aについて、上記に述べた位置検出処理を実施することにより、発光パターン23aで発光する部分画像の位置を決定し出力する。より具体的には、発光パターンが周期的な点滅である場合、点滅画像を含む画像27aのフレーム画像を撮影された時刻の順に並べて、光源(LED95)が点灯しているフレームと消灯しているフレームとを時間軸上で分類し、分類の結果に基づき、LED95の発光パターンを検出する。画像処理部240は、検出された発光パターンが発光パターン23aと照合に、両者は一致するとき、当該発光パターンを示す部分画像(光源の部分画像)の画像27aにおける位置を検出する。
【0089】
マーカ情報生成部241は、上記の部分画像の位置とARマーカを含むマーカ情報29aを生成し、通信制御部244を介して端末30に送信する。マーカ情報生成部241は、発光パターン23aで発光するフィールド機器90に関する情報を示すARマーカを生成する。ARマーカは、例えばフィールド機器90のデバイスID、フィールド機器90について検出されたイベントの情報、フィールド機器90の状態値110を示す情報などを含み得るが、情報の種類はこれらに限定されない。
【0090】
付近デバイス検出部242は、生産ラインにおいて、発光パターン23aで発光するフィールド機器90の付近に配置された複数のフィールド機器90を検出する。より具体的には、付近デバイス検出部242は、デバイス位置情報231から、発光パターン23aで発光するフィールド機器90のデバイスIDに対応付けられた付近のフィールド機器90のデバイスID(以下、付近デバイスIDともいう)を取得(検出)する。
【0091】
付近発光パターン通知部243は、付近発光パターン33aの通知を、通信制御部244を介して、PLC100に送信する。付近発光パターン33aは、付近デバイス検出部242によって検出された付近デバイスIDが示すフィールド機器90を発光させるための予め定められた発光パターンを示す。
【0092】
(B7.端末30のモジュール構成)
図11は、本実施の形態に係る端末30の情報提示に関連するモジュール構成を模式的に示す図である。
図11を参照して端末30は、ストレージ302に格納されているプログラムが実行されることで構成されるモジュールとして、カメラ34を制御する撮像制御部310と、カメラ34からの撮像画像を処理する画像処理部311と、マーカ表示処理部313と、画像を表示するよう透過型ディスプレイ32を制御する表示制御部312と、無線通信回路304を制御する通信制御部314を含む。
【0093】
マーカ表示処理部313は、サーバ200から受信されたマーカ情報29aが有する決定位置に対応した透過型ディスプレイ32の表示領域における位置に関連付けてARマーカを表示させる表示制御データを生成し、表示制御部312に出力する。表示制御部312は、表示制御データに従い透過型ディスプレイ32を駆動する。これにより、透過型ディスプレイ32の表示領域において、ユーザの視野内の現実空間の風景、すなわちフィールド機器90を含む現実風景に重畳してARマーカのオブジェクトが表示される。
【0094】
画像処理部311は、サーバ200の画像処理部240と同様の機能を備える。画像処理部311は、カメラ34が撮像する画像27aにおいて発光パターン23aに従い輝度を変化させる部分画像の位置を検出する。これにより、透過型ディスプレイ32の表示領域におけるARマーカの表示位置は、サーバ200に代えて、端末30により決定することができる。
【0095】
<C.フローチャート>
図12は、本実施の形態に係る情報提示の処理を示すフローチャートである。
図12を参照して、PLC100はフィールド機器90と状態値110および制御指令を遣り取りする(ステップS20)。PLC100はフィールド機器90からの状態値110に基づきイベントの有無を検出する(ステップS21)。イベントは検出されないとき(ステップS21でNO)、処理はステップS20に戻るが、イベントが検出されると(ステップS21でYES)、PLC100はイベント内容22aの通知をサーバ200に送信するとともに、イベントが検出された旨のイベント検知22bの通知をユーザが装着する端末30に送信する(ステップS22)。イベント内容22aは、フィールド機器90のデバイスIDとイベントコード152C等のイベントに関する情報を含む。端末30は、PLC100から受信するイベント検知22bの通知を、例えばスピーカ35からの音声出力または透過型ディスプレイ32にARマーカを表示することで、イベントが検知された旨をユーザに報知してもよい。
【0096】
サーバ200は、PLC100からのイベント内容22aに基づき発光パターンを決定し、決定された発光パターン23aの通知を、PLC100に送信する(ステップS23)。発光パターン23aは、予め定められたパターンであって、具体的には、
図6の(A)の発光パターンテーブル232から検索された、イベントコード152Cに対応の発光パターン152D、または、
図6の(B)の発光パターンテーブル232から検索された、フィールド機器90のデバイスID(デバイスID152B)に対応の発光パターン152Dに基づくパターンを示す。
【0097】
PLC100は、サーバ200から受信した発光パターン23aに基づき、当該パターンでLED95を発光させるための発光指令9Aを生成し、フィールド機器90に送信する(ステップS24)。フィールド機器90は、PLC100から受信した発光指令9Aに従い点灯(発光)するようLED95を制御する(ステップS25)。
【0098】
ユーザは、パターンに従い点灯を開始するフィールド機器90を注視する。カメラ34はイベント検知22bの通知を受信したとき、注視センサ140によって注視方向が検出されると、検出された注視方向を撮像方向とするようにカメラ34は撮像を開始する(ステップS26)。端末30は、撮像された画像27aをサーバ200に送信する(ステップS27)。
【0099】
サーバ200は、画像処理によって、端末30からの画像27aにおける、発光パターン23aに従い点滅する光源(LED95)の部分画像の位置を検出する(ステップS28)。サーバ200は、検出された位置とARマーカとを含むマーカ情報29aを端末30に送信する(ステップS29)。
【0100】
端末30は、サーバ200から受信したマーカ情報29aに基づく表示制御データに従い、透過型ディスプレイ32を制御する(ステップS30)。これにより、透過型ディスプレイ32は、ユーザの視野内の現実の風景に存在するフィールド機器90(より特定的にはLED95)の位置に関連付けてARマーカを表示する(ステップS30)。
【0101】
(C1.処理の変形例)
図13は、本実施の形態に係る情報提示の処理の変形例を示すフローチャートである。上記に述べた
図12の処理では、サーバ200が、画像27aにおける発光パターン23aを示す光源(LED95)の部分画像の位置検出を実施したが、当該位置検出の処理は、サーバ200に代えて、
図13に示すように端末30において実施されてもよい。
【0102】
より具体的には、サーバ200は、発光パターン23aの通知を端末30に送信し(ステップS23a)、ARマーカを含むマーカ情報29bを端末30に送信する(ステップS29a)。端末30は、カメラ34によって撮像された画像27aを、画像処理することにより、画像27aにおいて発光パターン23aで点滅する部分画像の位置を検出する(ステップS27a)。端末30は、サーバ200からのマーカ情報29bが示すARマーカを、画像27aにおいて検出された位置に関連付けて表示するための表示制御データを生成し、表示制御データに基づき透過型ディスプレイ32を制御する(ステップS30)。
図13の他の処理は
図12で示された処理と同様であるから説明は繰り返さない。
【0103】
(C2.付近のフィールド機器90の点灯処理)
図12と
図13の処理において、サーバ200は、発光パターン23aに従い発光させるターゲットのフィールド機器90の付近に配置された他のフィールド機器90を付近発光パターン33a(発光パターン23aとは異なるパターン)で発光させてもよい。端末30を装着したユーザは、透過型ディスプレイ32を介した視野において、付近発光パターン33aで発光するフィールド機器90を目安(ガイド)にして、ターゲットのフィールド機器90の位置を容易に特定し、ターゲットのフィールド機器90を注視できる。例えば、ユーザの死角にターゲットのフィールド機器90が配置されるとしても、ユーザは、付近発光パターン33aで発光するフィールド機器90を目安(ガイド)にして、ターゲットのフィールド機器90をユーザの視野内に置くことができる位置にまで移動することが容易に可能となる。
【0104】
(C3.フィールド機器90のユーザ指定処理)
図12と
図13の処理では、発光パターン23aに従い発光させる対象フィールド機器90は、イベントが検出されたフィールド機器90であったが、対象フィールド機器90は、イベントが検出されたフィールド機器90に限定されない。例えば、ユーザが指定したフィールド機器90であってもよい。
【0105】
より具体的は、ユーザはデバイスIDを発話により指定する。端末30は発話の音声をマイク119から受付けて、受付けた音声データをサーバ200に転送する。サーバ200のBotプログラム229が実行されることで提供されるBotサービスは、端末30からの音声データについて音声認識処理を実施してデバイスID152Bを取得し、取得したデバイスID152Bに対応の発光パターン152Dを発光パターンテーブル232から検索する。Botサービスは、デバイスID152Bと発光パターン152Dに基づく発光パターン23aの通知をPLC100に送信する。これにより、イベント検知によらず、ユーザ操作によって、発光パターン23aに従い発光させる対象フィールド機器90を指定することができる。
【0106】
イベント検知時またはユーザ指定時に、透過型ディスプレイ32でARマーカによって表示される情報は、サーバ200がDB400から検索した対象フィールド機器90の状態値110(すなわちDB400に蓄積された状態値110)の情報、またはサーバ200がPLC100から受信した対象フィールド機器90の状態値110(すなわちリアルタイムに収集した状態値110)を含み得る。また、ユーザは発話によりARマーカで示されるべき情報(DB400の蓄積情報またはPLC100からリアルタイムに収集する情報)を指定することもできる。
【0107】
図12と
図13等で示された端末30の処理は、主に、提示プログラム305がプロセッサ301により実行されることで実現される。
【0108】
<D.表示例>
図14~
図18は、本実施の形態に係る透過型ディスプレイ32の表示例を示す図である。
図14は、透過型ディスプレイ32にはオブジェクトは表示されておらず、
図14では、透過型ディスプレイ32を介したユーザの視野320における風景のみが示されている。視野320において、ユーザは、生産ラインに備えられるフィールド機器90を視覚する。
図15のユーザの視野320では、フィールド機器90のLED95が発光指令9Aに従い点灯321している。ユーザは、点灯321を注視すると、カメラ34はユーザの注視方向を撮像方向として撮像する。撮像された画像27aについての位置決定処理によって画像27a内の点灯321の部分画像の位置が決定される。
【0109】
図16では、透過型ディスプレイ32において、決定された位置に関連付けてフィールド機器90に関する情報であるARマーカ322が表示される。
図16では、ユーザの視野の風景に重畳してARマーカ322が、例えば当該フィールド機器90の所在位置からの吹き出しで表示される。ARマーカ322は、吹き出し内において、イベント検出がなされたフィールド機器90、またはユーザ指定のフィールド機器90の識別情報323(デバイスID、型番など)と状態値110に基づく情報324のオブジェクトを含む。情報324は、異常または予兆(例えば光量低下)の情報、状態値110(光量)、および状態を示すインジケータを含む。なお、オブジェクトの情報324は、これらに限定されない。また、ARマーカ322が表示されるとき、点灯321の発光は停止してもよい。
【0110】
情報324は、DB400に格納された情報に基づく場合、蓄積された状態値110の経時的変化を示す情報(例えばトレンドグラフ等)であってもよい。
【0111】
図17は付近発光パターン33aに従い付近フィールド機器90のLED95が点灯325する。
図17の(A)の視野320で点灯325が開始すると(
図17の(B))、付近フィールド機器90の点灯325により、ユーザは、対象フィールド機器90の所在位置に案内(ガイド)される。案内326のオブジェクトは、
図17の(C)に示すように、当該所在位置の方向に延びる矢印または対象フィールド機器90の識別情報を含む吹き出し等を含む。ユーザが、案内326に促されて対象フィールド機器90の点灯を確認し、注視すると、透過型ディスプレイ32は、
図17の(D)に示されるように、対象フィールド機器90に関連付けてARマーカ322のオブジェクトを表示する。
【0112】
(変形例)
本実施の形態では、発光パターン23aで発光する対象フィールド機器90は1台としたが、複数台であってもよい。その場合は、対象フィールド機器90間で、時差を有して発光する、発光パターン(点滅パターン)を変更する、発光色を変更する、発光の周波数(点滅周期)を変更する等してもよい。
【0113】
また、サーバ200が複数の端末30と通信するケースでは、サーバ200は発光パターン23aを複数の端末30にブロードキャストにより通知して、イベント検知があった旨を通知してもよい。
【0114】
また、発光パターン23aによる発光に追加して、音を出力してもよい。また、発光の開始/停止を、制御周期に時刻同期させて実施してもよい。
【0115】
端末30は、頭部装着型またはメガネ型に限定されず、カメラおよびディスプレイを有するタブレット端末またはスマートフォン型の端末を利用してもよい。
【0116】
また、端末30が備えるディスプレイは、非透過型ディスプレイであってもよい。
また、透過型ディスプレイ32は、外光を透過することで現実空間の風景を透過する光学透過型に限定されず、ビデオ透過型で構成されてもよい。ビデオ透過型ディスプレイを採用する場合、端末30は、カメラ34から出力される撮像画像をビデオ透過型ディスプレイに表示する。
【0117】
<E.プログラム>
端末30における、
図14~
図17に示した情報の提示は、プロセッサ301が提示プログラム305のソフトウェアを実行することによって実現され得る。提示プログラム305は、ストレージ302またはSDカード306等の記憶ユニットに記憶されていてもよい。プロセッサ301が必要なプログラムを実行する際は、記憶ユニットに記憶された対象となるプログラム(提示プログラム305を含む各種のプログラム)をメインメモリ303のRAMに展開する。そして、プロセッサ301は、RAMに展開された当該プログラムを解釈および実行して情報の提示を実現する。
【0118】
プロセッサ301は、CPUまたはMPUおよびメインメモリ303等を含み、情報処理に応じて端末30の各構成要素の制御を行う。ストレージ302は、例えば、ハードディスクドライブ、ソリッドステートドライブ等の補助記憶装置であり、プロセッサ301で実行される提示プログラム305および関連する情報等を記憶する。
【0119】
SDカード306などの外部記憶媒体は、コンピュータその他装置、機械等が記録されたプログラム等の情報を読み取り可能なように、当該プログラム等の情報を、電気的、磁気的、光学的、機械的または化学的作用によって蓄積する媒体である。端末30は、外部記憶媒体のSDカード306から、提示プログラム305を取得してもよい。また、提示プログラム305は、外部のネットワークおよび無線通信回路304を経由して端末30にダウンロードされて提供されてもよい。
【0120】
<F.付記>
上述したような本実施の形態は、以下のような技術思想を含む。
[構成1]
生産ラインに備えられる機器(90)を制御するコントローラ(100)と、
ディスプレイ(32)と、前記機器を撮像可能なカメラ(34)とを有する端末(30)と、
前記コントローラおよび前記端末と通信するサーバ(200)と、を備え、
前記カメラは、前記ディスプレイの視野を撮像範囲に含み、
前記コントローラは、当該機器が備える発光部(95)を予め定められた発光パターン(23a)で発光させる発光指令(9A)を、前記機器に送信する手段を有し、
前記端末は、
前記ディスプレイの表示領域内の表示位置であって、前記カメラの撮像画像における前記発光パターンを表す部分画像の位置に応じた表示位置に関連付けて前記機器に関する情報を表示する手段を有する、情報提示システム(1)。
[構成2]
前記コントローラは、さらに、
前記機器の付近に在る他の機器が有する発光部を、前記発光パターンとは異なるパターン(33b)で発光させる手段を有する、構成1に記載の情報提示システム。
[構成3]
前記機器に関する情報は、前記機器の状態を示す情報を含む、構成1または2に記載の情報提示システム。
[構成4]
前記サーバは、
前記発光パターンを指定する通知を、前記コントローラに送信する(S23)、構成1から3のいずれか1に記載の情報提示システム。
[構成5]
前記サーバは、
前記端末から受信する前記撮像画像を処理して前記発光パターンを表す部分画像の前記撮像画像における位置を検出する画像処理手段(240)と、
前記画像処理手段によって検出された前記部分画像の位置を前記端末に送信する手段(S29)と、を有する、構成1から4のいずれか1に記載の情報提示システム。
[構成6]
前記サーバは、
前記発光パターンを指定する通知を、前記端末に送信し(S23)、
前記端末は、さらに、
前記カメラの撮像画像を処理して前記発光パターンを表す部分画像の当該撮像画像における位置を検出する画像処理手段(311)を有する、構成1から4のいずれか1に記載の情報提示システム。
[構成7]
前記サーバは、
前記機器の識別情報に基づき前記発光パターンを決定する(
図6(A))、構成1から6のいずれか1に記載の情報提示システム。
[構成8]
前記サーバは、
前記機器の状態に基づき前記発光パターンを決定する(
図6(B))、構成1から7のいずれか1に記載の情報提示システム。
[構成9]
前記コントローラは、
前記機器から出力される状態値に基づき当該機器の状態を判定し、判定された状態の通知(22a)を前記サーバに送信する、構成7に記載の情報提示システム。
[構成10]
前記コントローラは、
前記機器の状態を示す情報を、前記サーバが備えるデータベースに格納するためのデータベース操作命令を前記サーバに送信し、
前記サーバは、
前記データベースに格納された情報に基づき前記機器の状態を判定する、構成7に記載の情報提示システム。
[構成11]
前記コントローラは、
ユーザ操作に基づき指定される機器に、前記発光指令を出力する、構成1から10のいずれか1に記載の情報提示システム。
[構成12]
前記端末は、当該端末を操作するユーザの注視方向を検出する注視センサ(140)を、さらに有し、前記カメラの撮像方向は、前記注視方向に一致する、構成1から11のいずれか1に記載の情報提示システム。
[構成13]
端末装置(30)であって、
生産ラインに備えられる機器(90)を制御するコントローラ(100)と通信する手段(314)と、
ディスプレイ(32)と、
前記機器を撮像可能なカメラ(34)と、を備え、
前記カメラは、前記ディスプレイの視野を撮像範囲に含み、
前記機器は前記コントローラからの発光指令(9A)に基づき予め定められた発光パターン(23a)で発光する光源(95)を有し、
前記端末装置は、さらに、
前記ディスプレイの表示領域内の表示位置であって、前記カメラの撮像画像における前記発光パターンを表す部分画像の位置に応じた表示位置に関連付けて、前記機器に関する情報を表示する手段(312)を有する、端末装置。
[構成14]
端末装置(30)が備えるプロセッサ(301)に情報提示方法を実行させるプログラム(305)であって、
前記端末装置は、
生産ラインに備えられる機器(90)を制御するコントローラ(100)と通信する手段(314)と、
ディスプレイ(32)と、
前記機器を撮像可能なカメラ(34)と、をさらに備え、
前記カメラは、前記ディスプレイの視野を撮像範囲に含み、
前記機器は前記コントローラからの発光指令(9A)に基づき予め定められた発光パターン(23a)で発光する光源(95)を有し、
前記情報提示方法は、
前記ディスプレイの表示領域内の表示位置であって、前記カメラの撮像画像における前記発光パターンを表す部分画像の位置(29a)を取得するステップ(S29b)と、
前記ディスプレイの表示領域内の取得された前記表示位置に関連付けて、前記機器に関する情報を表示するよう前記ディスプレイを制御するステップ(S30)とを有する、プログラム。
【0121】
今回開示された実施の形態は全ての点で例示であって制限的なものではないと考えられるべきである。本発明の範囲は上記した説明ではなくて特許請求の範囲によって示され、特許請求の範囲と均等の意味および範囲内での全ての変更が含まれることが意図される。
【符号の説明】
【0122】
1 ネットワークシステム、9A,9B 発光指令、22a イベント内容、22b イベント検知、32 透過型ディスプレイ、23a,152D 発光パターン、24a 発光パターン通知プログラム、24b マーカ通知プログラム、24c 付近発光パターン通知プログラム、27a 画像、29a,29b マーカ情報、30 端末、33a 付近発光パターン、34 カメラ、35 スピーカ、36 音声回路、90 フィールド機器、110 状態値、140 注視センサ、152 イベントコードテーブル、152A 事象種類、152C イベントコード、160 ゲートウェイプログラム、161 イベント検出プログラム、162 情報収集プログラム、163 状態情報収集、164 制御指令収集、167 発光プログラム、167a 付近発光プログラム、170 イベント検出部、171 発光制御部、172,244,314 通信制御部、200 サーバ、223 発光パターン決定プログラム、225 画像処理プログラム、228 付近判定プログラム、231 デバイス位置情報、232 発光パターンテーブル、239 発光パターン通知部、240,311 画像処理部、241 マーカ情報生成部、242 付近デバイス検出部、243 付近発光パターン通知部、305 提示プログラム、310 撮像制御部、312 表示制御部、313 マーカ表示処理部、320 視野、321,325 点灯、322 ARマーカ、323 識別情報、326 案内、400 データベース。