IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社東芝の特許一覧 ▶ 東芝エネルギーシステムズ株式会社の特許一覧

(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024087680
(43)【公開日】2024-07-01
(54)【発明の名称】監視システム
(51)【国際特許分類】
   G06F 21/32 20130101AFI20240624BHJP
   G06T 7/00 20170101ALI20240624BHJP
   G06V 40/18 20220101ALI20240624BHJP
   G06F 3/01 20060101ALI20240624BHJP
【FI】
G06F21/32
G06T7/00 510D
G06V40/18
G06F3/01 510
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2022202618
(22)【出願日】2022-12-19
(71)【出願人】
【識別番号】000003078
【氏名又は名称】株式会社東芝
(71)【出願人】
【識別番号】317015294
【氏名又は名称】東芝エネルギーシステムズ株式会社
(74)【代理人】
【識別番号】110001092
【氏名又は名称】弁理士法人サクラ国際特許事務所
(72)【発明者】
【氏名】広沢 陽一郎
(72)【発明者】
【氏名】高橋 圭
(72)【発明者】
【氏名】福冨 孝浩
(72)【発明者】
【氏名】岡本 雅巳
(72)【発明者】
【氏名】岩崎 正男
(72)【発明者】
【氏名】松崎 弘
【テーマコード(参考)】
5B043
5E555
【Fターム(参考)】
5B043AA04
5B043AA09
5B043BA04
5B043CA03
5B043DA05
5B043FA07
5B043GA05
5B043HA02
5B043HA11
5E555AA12
5E555AA26
5E555AA51
5E555BA02
5E555BA42
5E555BB02
5E555BC16
5E555CA02
5E555CA12
5E555CA18
5E555CA42
5E555CB56
5E555CB65
5E555CC03
5E555DB04
5E555DC21
5E555FA00
(57)【要約】      (修正有)
【課題】認証に用いる特徴点に汎用性を持たせつつ盗用されにくい監視システムを提供する。
【解決手段】ユーザに表示画面を提供する表示部11及び表示部を目視するユーザの虹彩及び視線の動きを検出するカメラ部12を備えた端末10と接続される監視システム1において、サーバ40は、ユーザの虹彩及び視線の動きを検出する視線検出部104と、視線検出部104が検出した虹彩及び視線の動きに基づいてユーザの認証を行う視線認証部101と、視線認証部101が認証したユーザに提供する表示画面を生成する表示処理部105と、を備える。
【選択図】図1
【特許請求の範囲】
【請求項1】
ユーザに表示画面を提供する表示部及び前記表示部を目視する前記ユーザの虹彩及び視線の動きを検出するカメラ部を備えた端末装置と接続される監視システムであって、
前記ユーザの虹彩及び視線の動きを検出する視線検出部と、
前記視線検出部が検出した前記虹彩及び前記視線の動きに基づいて前記ユーザの認証を行う視線認証部と、
前記視線認証部により認証された前記ユーザに提供する表示画面を生成する表示処理部と、
を備えた監視システム。
【請求項2】
前記ユーザの虹彩を示す虹彩情報及び前記ユーザに指定された視線の動きに対応する図形情報を記憶する認証情報データベースをさらに備え、
前記視線認証部は、前記視線検出部が検出した前記虹彩と前記虹彩情報との比較結果、及び前記視線検出部が検出した前記視線の動きと前記図形情報との比較結果に基づいて前記ユーザの認証を行うこと
を特徴とする請求項1記載の監視システム。
【請求項3】
前記視線検出部は、前記ユーザの視線の動きに基づいて前記ユーザの指示を受ける入力インタフェースとして機能することを特徴とする請求項1記載の監視システム。
【請求項4】
前記視線検出部が受けた前記ユーザの指示に基づいて所定の機能を起動する対話処理部をさらに備えたことを特徴とする請求項3記載の監視システム。
【請求項5】
前記視線検出部は、前記表示画面において前記ユーザが目視を継続する箇所に対応する画面IDをさらに取得し、
前記監視システムは、
前記表示画面において前記ユーザが目視を継続する時間を記録する目視時間記録処理部と、
前記ユーザが目視を継続する時間の長い順に前記画面IDに対応する箇所が表示されるよう前記表示処理部が生成する表示画面を編集する画面編集部と、をさらに備えたことを特徴とする請求項1記載の監視システム。
【請求項6】
前記視線検出部は、前記表示画面において前記ユーザが目視を継続する箇所に対応する画面IDをさらに取得し、
前記監視システムは、
前記表示画面において前記ユーザが目視を継続する時間を記録する目視時間記録処理部と、
前記表示画面において前記ユーザが目視を継続する時間の長い画面IDから上位所定数の画面IDを取得する注目点処理部と、を備え、
前記表示処理部は、前記注目点処理部が取得した画面IDを含む表示画面を生成すること
を特徴とする請求項1記載の監視システム。
【請求項7】
プラント機器のシンボル画像と前記プラント機器を識別するプラント機器IDとを対応付けて記憶するプラント機器データベースと、
前記プラント機器IDと前記表示画面における対応する箇所の画面IDとを対応付けて記憶する関連機能データベースと、
前記視線検出部が取得した前記ユーザの視線の動きの終端部に対応する画像データを抽出し、抽出した画像データに基づいて対応するプラント機器IDを前記プラント機器データベースから取得する画像解析部と、
前記画像解析部が取得した前記プラント機器IDに基づき対応する画面IDを前記関連機能データベースから取得する関連機能表示部と、を具備し、
前記表示処理部は、前記関連機能表示部が取得した画面IDを用いて前記表示画面を生成することを特徴とする請求項3記載の監視システム。
【請求項8】
前記ユーザの指示に基づき前記視線検出部が取得した前記ユーザの視線の動きを記録する操作記録部と、
前記視線検出部が取得した前記ユーザの指示に基づき、記録した前記ユーザの視線の動きを再生するリプレイ処理部と
をさらに具備した請求項3記載の監視システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明の実施形態は、ネットワークが接続されたプラント機器を遠隔から監視制御可能な監視システムに関する。
【背景技術】
【0002】
近年、インフラ施設でのテロ対策の必要性が高まってきており、特に発電プラント向けの監視制御システム(以下「監視システム」と呼ぶ。)のセキュリティ強化が課題の一つである。併せて、様々な本人認証方法を取り入れた監視システムが提案されている。
【0003】
例えば、利用者ごとのICカードや生体情報(指紋、静脈、顔画像、虹彩パターン、声紋など)のいずれかで本人認証を行い、認証情報を元に操作範囲を開示する監視システムが提案されている。しかしながら、これらの認証方式では、外部の者に対象者のICカードや顔写真、声の録音データを入手されることで認証を破られる可能性がある。
【0004】
例えば、従来の監視システムの生体認証方式では、指紋や虹彩といった身体的特徴を利用した方式や、対象者の歩き方のような行動的特徴を利用した方式が提案されている。しかし、これらの方式では、前者については、身体的特徴は半永久的に変更することができないから、身体的特徴を示す情報が盗まれ又は複製されると、二度とシステムを使用できなくなる可能性がある。また、後者については行動的特徴が外部から容易に視認されることから特徴を盗むことが容易であり、認証を突破される可能性は高い。すなわち、認証に用いる特徴点に汎用性がなく比較的盗用されやすい問題があった。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2009-32032
【発明の概要】
【発明が解決しようとする課題】
【0006】
このように、従来の監視システムでは、認証に用いる特徴点に汎用性がなく比較的盗用されやすいという問題がある。本発明の目的は、認証に用いる特徴点に汎用性を持たせつつ盗用されにくい監視システムを提供することである。
【課題を解決するための手段】
【0007】
実施形態の監視システムは、ユーザに表示画面を提供する表示部及び表示部を目視するユーザの虹彩及び視線の動きを検出するカメラ部を備えた端末装置と接続される監視システムである。この監視システムは、ユーザの虹彩及び視線の動きを検出する視線検出部と、記視線検出部が検出した虹彩及び視線の動きに基づいてユーザの認証を行う視線認証部と、視線認証部により認証されたユーザに提供する表示画面を生成する表示処理部と、を備える。
【図面の簡単な説明】
【0008】
図1】第1実施形態の監視システムの構成を示すブロック図である。
図2】第1実施形態に係る認証情報の一例を示す図である。
図3】第1実施形態に係る起動機能情報の一例を示す図である。
図4】第1実施形態に係る画面作成情報の一例を示す図である。
図5】第1実施形態に係る画面構成情報の一例を示す図である。
図6】第1実施形態に係るサーバ機能情報の一例を示す図である。
図7】第1実施形態の監視システムの動作を示すフローチャートである。
図8】第1実施形態の視線情報の一例を示す図である。
図9】第1実施形態の視線入力補正画面の一例を示す図である。
図10】第1実施形態の視線入力画面の一例を示す図である。
図11】第2実施形態の監視システムの構成を示すブロック図である。
図12】第2実施形態の視線記録情報の一例を示す図である。
図13】第2実施形態の対話画面情報の一例を示す図である。
図14】第2実施形態の対話画面情報の一例を示す図である。
図15】第2実施形態の監視画面情報の一例を示す図である。
図16】第2実施形態の監視画面情報の一例を示す図である。
図17】第2実施形態の監視システムの動作を示すフローチャートである。
図18】第3実施形態の監視システムの構成を示すブロック図である。
図19】第3実施形態のプラント機器情報の一例を示す図である。
図20】第3実施形態の関連機能情報の一例を示す図である。
図21】第3実施形態の監視システムの動作を示すフローチャートである。
図22】第4実施形態の監視システムの構成を示すブロック図である。
図23】第4実施形態の操作記録情報の一例を示す図である。
図24】第4実施形態の監視システムの動作を示すフローチャートである。
【発明を実施するための形態】
【0009】
(第1実施形態)
実施形態の監視システムは、外部から動作が視認されにくい瞳孔の動きを使用した視線認証方式を用いている。視線認証方式は、外部から視線の動きを盗み取ることを難しくすることができる。併せて、視線認証方式は、虹彩や網膜などの身体的特徴を利用した認証と組み合わせることが容易である。汎用性があり外部から視認されにくい方式と、複製が困難な身体的特徴を利用する方式とを組み合わせることで、より強固な認証方式を提供することが可能になる。
【0010】
瞳孔の動きを利用した視線認証方式は、赤外線投光器付きのCMOSカメラを用いる。この方式によれば、利用者の目の画像を解析し、視線をトラッキングする視線追従技術を利用するので、外部からの視認が困難である。さらに、視線追従技術を応用して、監視システムの操作方法として、従来のポインティングデバイスによる操作に加えて、利用者の視線の動きを追尾し注視した部分を実行する視線操作機能による操作を提供する。これは、従来のポインティングデバイスを操作できない状況においても監視システムの操作を可能にする。さらに、偽造が困難な虹彩や網膜などを利用した認証技術を採用する。虹彩や網膜は人それぞれ異なるから、元来セキュリティ向上に資する身体的特徴点である。
【0011】
以下、図面を参照して、第1実施形態の構成を説明する。図1に示すように、実施形態の監視システム1は、サーバ40と、サーバ40と表示用バス30を介して接続される端末10と、サーバ40とプラントプロセス入力用バス50を介して接続されるプラント機器60とを有する。ここで、プラント機器60は監視対象である。
【0012】
端末10は、ユーザがプラント機器60を監視するための指示を与え、プラント機器60に関する情報を受けるユーザインタフェースである。端末10は、表示画面を表示する表示部11、ユーザの目の画像を撮影可能なカメラ部12、端末10に情報を入力する入力インタフェース13を有する。表示部11は、例えば液晶表示装置などでありタッチパネルのように情報入力機能を有してもよい。カメラ部12は、例えば近赤外線投光器付きCMOSカメラなどである。入力インタフェース13は、例えばキーボードやマウスなどであり、表示部11と一体化してもよい。端末10は、表示用バス30と接続可能な図示しないインタフェースを有している。端末10は、カメラ部12が撮影したユーザの画像データを生成する。
【0013】
サーバ40は、端末10から受けた指示に基づいてプラント機器60を監視し制御を実行するコンピュータ装置である。サーバ40は、視線認証部101、認証情報データベース(認証情報DB)102、視線入力データベース(視線入力DB)103、視線検出部104を有している。また、サーバ40は、表示処理部105、対話処理部106、起動処理データベース(起動処理DB)107、画面作成データベース(画面作成DB)108、画面構成データベース(画面構成DB)109を有している。さらに、サーバ40は、サーバ処理部110、プラント監視データベース(プラント監視DB)111、プロセス処理部112を有している。
【0014】
視線認証部101は、カメラ部12が撮影したユーザの画像データから抽出した視線情報を用いて認証する演算ブロックである。認証情報DB102は、端末10を操作するユーザの認証情報を予め登録するデータベースである。認証情報DB102が予め登録するユーザの認証情報としては、ユーザの虹彩や網膜情報(以下「虹彩情報」と呼ぶ。)、ユーザの視線が追従すべき図形を示す図形情報、ユーザの瞳孔の動きを示す軌跡情報などが例示される。認証情報DB102は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。視線認証部101は、受け付けた視線情報と認証情報DB102に登録されている認証情報に含まれる虹彩情報とを比較して認証する。
【0015】
図2は、認証情報DB102に記憶される認証情報の一例である。図2に示すように、実施形態の認証情報は、ユーザの虹彩情報、ユーザの視線が追従すべき図形を示す図形情報、ユーザが視線を移動する描画順を示す軌跡情報などが含まれている。図2に示す例では、図形情報は矩形、軌跡情報は矩形に沿って右回りに移動する軌跡が含まれている。
【0016】
視線入力DB103は、ユーザの視線情報を記憶するデータベースである。視線情報は、端末10から送られるユーザの画像情報から抽出されるユーザの虹彩情報やユーザの視線の動きを示す軌跡情報などが例示される。また、視線情報として、ユーザの視線が追従すべき図形情報、視線の動きを示す軌跡情報、視線の動きが止まる時間を示す注視情報などを含んでもよい。視線入力DB103は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。視線検出部104は、端末10から表示用バス30を介して送られる画像データを受信し、受信した画像データからユーザの虹彩情報や視線の軌跡情報を検出し、視線情報として視線入力DB103に登録する演算ブロックである。
【0017】
表示処理部105は、端末10に表示させる画面表示の情報(以下「画面表示情報」と呼ぶ。)を生成する演算ブロックである。表示処理部105は、視線検出部104が視線入力DB103に登録した虹彩情報や軌跡情報を読み出し、端末10からの表示要求に基づき画面作成DB108や画面構成DB109から画面表示に必要な情報を取得し、画面表示情報を作成し、端末10に画面表示情報を返す。
【0018】
対話処理部106は、端末10を操作するユーザの指示を受け、指示に基づき所定の機能を動作させる演算ブロックである。対話処理部106は、表示処理部105からの起動機能要求を受信し、起動処理DB107から起動機能情報を取得し、サーバ処理部110から必要な機能を起動する。
【0019】
起動処理DB107は、サーバ40やプラント機器60における所定の機能を起動させる手順などを示す起動機能情報が格納されたデータベースである。起動処理DB107が記憶する起動機能情報としては、画面表示を識別する画面IDや対応する起動機能番号などが例示される。起動処理DB107は、不揮発性メモリやハートディスクドライブなどの記憶媒体上に構成される。
【0020】
図3は、起動処理DB107に記憶される起動機能情報の一例である。図3に示す例では、実施形態の起動機能情報は、画面表示を識別する画面IDと、画面IDそれぞれに対応付けた起動機能番号を含んでいる。
【0021】
画面作成DB108は、画面の種類とレイアウトなどを対応付けた画面作成情報を記憶するデータベースである。画面作成DB108が記憶する画面作成情報は、画面表示を識別する画面IDや対応するレイアウトデータなどが例示される。画面作成DB108は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。
【0022】
図4は、画面作成DB108に記憶される画面作成情報の一例である。図4に示す例では、実施形態の画面作成情報は、画面表示を識別する画面IDと、画面IDそれぞれに対応付けたレイアウトデータを含んでいる。レイアウトデータは、画面表示を構成する部品(構成部品)、構成部品の色、構成部品の位置(配置座標)の要素を含んでいる。図4に示すように、一つの画面IDに複数の構成部品が含まれる場合があるが、構成部品それぞれにはその色と配置座標が必ず対応付けられている。
【0023】
画面構成DB109は、画面表示情報が表す画面の表示画面数とその構成パターンなどを対応付けた画面構成情報を記憶するデータベースである。画面構成DB109が記憶する画面構成情報は、表示画面における表示画面数と対応する画面構成パターンなどが例示される。画面構成DB109は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。
【0024】
図5は、画面構成DB109に記憶される画面構成情報の一例である。図5に示す例では、実施形態の画面構成情報は、表示画面における画面表示数と、画面表示数に対応する構成パターンを含んでいる。構成パターンは、画面表示の配置を示す配置座標と、その画面表示の縮尺を含んでいる。この縮尺は、全画面を100としたときの割合値で表してもよい。図5に示す例では、画面表示数が「1」のとき(全画面で一つの画面表示のとき)、縮尺は100であるが、画面1及び2からなる画面表示数「2」のときは、画面1の配置座標及びその縮尺「50」、画面2の配置座標及びその縮尺「50」となっている。同様に、図5に示す例では、画面1乃至3からなる画面表示数「3」のときは、画面1の配置座標及びその縮尺「50」、画面2の配置座標及びその縮尺「25」、画面3の配置座標及びその縮尺「25」となっている。すなわち、画面構成情報は、あらかじめユーザが適宜設定することができる。
【0025】
サーバ処理部110は、サーバ40の諸機能を実現する演算ブロックである。サーバ処理部110が実現する機能としては、プラント機器60の動作トレンドを端末10に表示させるトレンドグラフ表示機能、プラント機器60の構成を端末10に表示させる系統図表示機能、端末10にユーザに対する警報を表示させる警報画面表示機能、サーバ40やプラント機器60の動作ログを端末10に表示させるログ表示機能、端末10にてユーザが入力したデータをサーバ40やプラント機器60に反映させるデータ入力機能などが例示される。
【0026】
図6は、サーバ処理部110の起動機能番号と起動プロセス名との関係の一例である。実施形態のサーバ処理部110は、実現する機能たる起動プロセス名に対応する起動機能番号を付しており、起動機能番号を受け付けることで対応する起動プロセス名の機能を動作させることができる。
【0027】
プラント監視DB111は、プラント機器60の状態を記憶するデータベースである。プラント監視DB11が記憶する情報は、例えばプロセス機器60のプロセスを示すプロセス値などが例示される。プラント監視DB111は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。
【0028】
プロセス処理部112は、プラント機器60の状態を取得する演算ブロックである。プロセス処理部112は、プラント機器60の状態についてプラントプロセス入力用バス50を介して取得し、プラント監視DB111に登録する。
【0029】
続いて、図7を参照して、第1実施形態の監視システムの動作を説明する。端末10のカメラ部12は、ユーザの顔面(特に眼)を撮影して近赤外反射画像データを生成する(S200)。カメラ部12が生成した画像データは、少なくともユーザの虹彩が含まれている。端末10は、カメラ部12が生成した画像データについて表示用バス30を介してサーバ40に送信する。
【0030】
サーバ40の視線検出部104は、端末10から送られる画像データを受信し、受信した画像データに基づいてユーザの眼の瞳孔を検出する(S205)。瞳孔の検出は、受信した画像に対して二値化処理を実施することで実現することができる。
【0031】
続いて、視線検出部104は、ユーザの視線の動きに追従する視線追従処理を実行する(S210)。視線検出部104は、画像データ上に検出した瞳孔の輪郭部の周方向に互いに間隔をおいた任意の5点を選択し、原点を通らない楕円方程式を用いて瞳孔の中心位置と回転角を算出する。そして、視線検出部104は、算出した瞳孔の中心位置と回転角に基づいて、端末10の表示部11における画面上の座標空間内の移動距離と方向に換算し、ユーザの視線の動きを検出する。
【0032】
視線検出部104は、ユーザの視線を追従することで、ユーザが表示部11の画面上を注視しているかどうか判定することができる(S215,S215のNo)。ユーザの視線が同じ場所で所定時間以上(例えば2秒以上)静止した場合(S215のYes)、視線検出部104は、ユーザは所定の場所を注視した(している)と判定し、表示部11の画面上のユーザが注視した位置を選択(マウスでいうクリック)したものとして表示処理部105に通知し、これまでに視線検出部104が得た視線情報を視線入力DB103に登録する(S220)。
【0033】
図8は、視線検出部104が視線入力DB103に登録する視線情報の一例である。図8に示す例では、視線情報として、ユーザの画像データから抽出したユーザの虹彩情報、ユーザの視線が追従すべき形態を示す図形情報、ユーザの画像データから抽出した視線の動きを示す軌跡情報、ユーザが注視した場合の注視時刻(年月日時分秒までの時刻)を含んでいる。
【0034】
ユーザが初めて実施形態の監視システム1を利用する場合、視線検出部104は、虹彩の読取誤差を補正する必要がある(S225)。表示処理部105は、画面作成DB108から補正用画面表示データを端末10に送信し、表示部11は補正用画面を表示する。
【0035】
図9は、表示部11に表示される補正用画面の一例である。図9に示すように、補正用画面15は、黒色で円形のマーク15a~15eが表されている。補正用画面15における略中央にマーク15a、左上隅にマーク15b、右上隅にマーク15c、左下隅にマーク15d、左下隅にマーク15eが表され、上縁部にメッセージ15fが表されている。
【0036】
ユーザがメッセージ15fに従い視線を所定の順序でマーク及びマーク間を移動させると、視線検出部104は、補正用の視線情報を検出することができる。補正用画面15における各マークの位置はあらかじめわかっているから、ユーザが正しく視線をマーク及びマーク間を視線移動させれば、その誤差が算出でき、誤差の補正が可能になる。図8に示す例では、メッセージ15fは、ユーザは視線を中央のマーク15a、左上隅のマーク15b、右上隅のマーク15c、右下隅のマーク15d、左下隅のマーク15eを順に視線を移動させるよう促している。
【0037】
続いて、サーバ40の視線認証部101は、視線入力DB103からユーザの視線情報に含まれる虹彩情報を読み出し、認証情報DB102にあらかじめ記憶されたユーザ毎の認証情報に含まれた虹彩情報と比較する(S230)。比較の結果、ユーザの虹彩情報と認証情報に含まれる虹彩情報とが一致しない場合(S230のNo)、視線認証部101は、端末10から送られた画像データに含まれる虹彩情報は未登録ユーザのものであると判定し表示処理部105にその旨を通知する。表示処理部105は、未登録ユーザである旨を通知する画面表示データを画面作成DB108から読み出して端末10へ送信する(S235)。通知を受信した端末10は、表示部11に未登録ユーザである旨通知する表示画面を表示する。
【0038】
比較の結果、ユーザの虹彩情報と認証情報に含まれる虹彩情報とが一致した場合(S230のYes)、視線認証部101は、一致した虹彩情報を認証済として視線入力DB103に登録する(S240)。視線認証部101は、虹彩情報が認証されると、視線認証のための視線入力画面の画面IDを含む要求信号を表示処理部105に送信する。表示処理部105は、視線入力画面の画面IDを用いて画面作成DB108から対応する画面表示情報を読み出し、端末10に送信する。端末10は、受信した画面表示情報に対応する画面表示を表示部11に表示する(S245)。
【0039】
図10は、表示部11に表示される視線入力画面の一例である。図10に示すように、視線入力画面16はブランクであり、上縁部にメッセージ16aが表されている。図10に示す例では、メッセージ16aは、ユーザに視線を所定の図形に追従して視線を移動するよう促している。
【0040】
この段階で、端末10はユーザの視線による認証の待機状態となる。ユーザが表示部11の指示に従って予め決められた図形の形をなぞるように所定の順序で表示部11への視線を移動させ最後の順序の位置で注視すると、カメラ部12は、ユーザの視線の移動を捉えた画像データを取り込む(S250)。端末10は、取得した画像データについて表示用バス30を介してサーバ40に送る。ユーザは、視線を移動する際の図形について、認証情報DB102にあらかじめ登録された認証情報の図形情報及び軌跡情報に従って行うものとする。
【0041】
サーバ40の視線検出部104は、前述したとおり端末10から送られた画像データから虹彩情報や軌跡情報などを抽出し、注視時刻を検出して視線情報として視線入力DB103に登録する。視線認証部101は、視線入力DB103から視線情報を読み出し、視線情報に含まれる虹彩情報をキーとして認証情報DB102に登録された認証情報から一致するものを検索する(S255)。視線認証部101は、検索された認証情報に含まれる図形情報及び軌跡情報と、視線情報に含まれる図形情報及び軌跡情報とを比較する(S260)。
【0042】
比較の結果一致しない場合(S260のNo)、即ち、ユーザの視線の動きが予め決められた認証情報のそれと異なる場合、視線認証部101は、認証失敗と判定し、表示処理部105に通知する。表示処理部105は、認証失敗である旨を通知する画面表示データを画面作成DB108から読み出して端末10へ送信する。通知を受信した端末10は、表示部11に認証失敗である旨通知する表示画面を表示する(S265)。
【0043】
比較の結果一致した場合(S260のYes)、即ち、ユーザの視線の動きが予め決められた認証情報のそれと一致する場合、視線認証部101は、認証成功と判定し、表示処理部105に通知する。表示処理部105は、初期画面の画面表示データを画面作成DB108から読み出して端末10へ送信する。通知を受信した端末10は、表示部11に初期画面を表示する(S270)。
【0044】
実施形態の監視システム1によれば、システムの認証方式として、ユーザの虹彩情報に加えてユーザの視線の動きを用いるので、システムへの侵入を抑えることができる。また、実施形態の監視システム1によれば、ユーザの視線の動きを検出するので、ユーザインタフェースとしてのポインティングデバイスの代替として入力操作を実現することができる。
【0045】
(第2実施形態)
次に、図11を参照して、第2実施形態に係る監視システム2を詳細に説明する。第2実施形態の監視システム2は、第1実施形態の監視システム1の構成の一部と新規な構成を組み合わせたものである。以下の説明において、共通する要素について共通の符号を付して示し、重複する説明を省略する。
【0046】
図11に示すように、実施形態の監視システム2は、サーバ41と、サーバ41と表示用バス30を介して接続される端末10と、サーバ41とプラントプロセス入力用バス50を介して接続されるプラント機器60とを有する。ここで、プラント機器60は監視対象である。
【0047】
サーバ41は、端末10から受けた指示に基づいてプラント機器60を監視し制御を実行するコンピュータ装置である。サーバ41は、視線検出部104、表示処理部105、対話処理部106、起動処理DB107、画面作成DB108、画面構成DB109、サーバ処理部110、視線記録データベース(視線記録DB)113、目視時間記録処理部114、画面編集部115、注目点処理部116を有している。
【0048】
視線記録DB113は、ユーザが端末10の表示部11(画面)を見ている時間(目視時間)を記録するデータベースである。視線記録DB113が記憶する視線記録情報は、画面表示を識別する画面IDとその画面表示をユーザが目視した時間を示す目視時間などが例示される。視線記録DB113は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。
【0049】
図12は、視線記録DB113が記憶する視線記録情報の一例である。図12に示す例では、目視情報は、画面IDと、その画面IDに対応する目視時間が組み合わされている。図12に示す例では、画面ID「SCR-0000」について目視時間60秒であったことが表されている。
【0050】
目視時間記録処理部114は、視線検出部104が検出した目視時間を含む視線記録情報を視線記録DB113に登録する演算ブロックである。画面編集部115は、対話画面の表示要求が通知された場合に視線記録DB113を参照し、視線記録情報に含まれる目視時間が長い順に対話画面のレイアウトデータを変更する(並べ替える)演算ブロックである。注目点処理部116は、ユーザの目視時間の長い所定数の表示画面を取得して表示処理を行う演算ブロックである。
【0051】
図13は、表示処理部105が画面作成DB108から読み出して端末10の表示部11に表示させる対話画面17の一例である。対話画面17は、ユーザに対してプラント機器60の監視に関係する複数の機能の選択肢を提示する機能をもつ。図13に示すように、対話画面17は、画面17a…17i…17j…17nを含んでいる。画面17a…17i…17j…17nは、それぞれ異なる機能が割り当てられており、ユーザが端末10の入力インタフェース13を介していずれかの画面を選択すると、対応する機能に関する画面表示が拡大表示される。対話画面を通じて選択可能な機能は、例えばプラント機器60の監視画面などが例示される。
【0052】
図13に示すように、対話画面17の上縁部には、タイトル17oとして「対話画面」が表されている。なお、図13に示す対話画面17は初回表示であり、画面17a…17i…17j…17nの配列は任意である。
【0053】
図15は、対話画面を通じて選択可能な機能としての監視画面18の一例である。図15に示す例では、実施形態の監視画面18は、対話画面ボタン18a、4画面表示ボタン18b、記録停止ボタン18c、記録ボタン18d、リプレイボタン18e、タイトル18f、監視内容18gが表されている。
【0054】
対話画面ボタン18aは、監視画面18から対話画面17に遷移する機能を提供する。4画面表示ボタン18bは、監視画面18のほか合計4つの異なる監視画面等を一つの画面表示に表す機能を提供する。記録ボタン18dは、画面表示の遷移の記録を開始する機能を提供し、記録停止ボタン18cは、画面表示の遷移の記録を停止する機能を提供する。リプレイボタン18eは、記録ボタン18dにより記録された画面表示の遷移の記録を再生する機能を提供する。
【0055】
第2実施形態の監視システム2においても視線検出部104を備えており、ユーザの視線の移動を入力インタフェースの代替手段として用いることができる。第2実施形態では、端末10の表示部11に表示された対話画面17をメニューとして、ユーザの視線移動により任意の機能を示す画面17a…17i…17j…17nを選択可能としている。ユーザが対話画面17において、例えば監視画面18へ遷移する画面を視線により選択すると、表示処理部105及び対話処理部106は、対応する監視画面18を端末10の表示部11に表示させる。
【0056】
続いて、図17を参照して、第2実施形態の監視システムの動作を説明する。第2実施形態の動作は、第1実施形態による複数の認証を経た後の動作である。以下の説明において、第1実施形態の動作と共通する認証動作については説明を省略する。
【0057】
(認証処理後の画面表示動作)
第1実施形態の動作に従い、表示処理部105は、初期画面として対話画面17を端末10の表示部11に表示させる(S300)。ユーザは、対話画面17に対する視線操作や入力インタフェース13としてのマウスなどにより、指示を与える。
【0058】
ユーザが、対話画面17において選択したい画面17a…17i…17j…17nのいずれかを視線で選択すると、視線検出部104は、視線による画面の選択を検出し、選択された画面IDを視線記録DB113に記録し、選択された画面IDを画面表示要求に格納して表示処理部105に送る(S305)。
【0059】
表示処理部105は、画面表示要求に格納された画面IDを必要機能の起動要求に格納し、対話処理部106に対して必要機能の起動要求を通知する(S310)。必要機能は、選択された画面(画面ID)に対応し起動されるべき機能である。画面IDは、端末10の表示部11に表示される表示画面を構成する部分を特定するIDであり、例えばアイコンやボタンなどの表示に対応する識別番号である。
【0060】
対話処理部106は、受け取った起動要求に含まれる画面IDをキーとして、起動処理DB107から起動機能番号を取得し、サーバ処理部110に対して起動機能番号に対応する機能を起動させる(S315)。サーバ処理部110において所定の機能が起動されると、対話処理部106は表示処理部105に対し起動完了通知を返す。
【0061】
表示処理部105は、起動完了通知を受信すると、起動要求に格納した画面IDをキーとして画面作成DB108からレイアウトデータを取得する。併せて、表示処理部105は、起動要求の機能に対応する表示画面数をキーとして、画面構成DB109から画面構成パターンを取得する(S320)。機能に対応する表示画面数とは、例えば、デフォルト(表示要求の表示画面数に何も設定されていない場合)は「1」、4画面表示要求の場合は「4」、関連機能表示の場合はデータベースに登録されている枚数である。
【0062】
表示処理部105は、取得したレイアウトデータ及び画面構成パターンに基づいて、起動要求の機能に対応する画面(例えば監視画面18)を含む表示画面データを生成し、端末10に送信する(S325)。
【0063】
(目視時間の記録動作)
ユーザが選択した機能が起動し所定の表示画面が端末10の表示部11に表示されると、目視時間記録処理部114は、視線検出部104を通じてユーザがその表示画面を見ている時間(目視時間)を検出し、視線記録DB113に記録する(S330)。具体的には、目視時間記録処理部114は、視線検出部104が検出した視線の先端に対応する画面上の座標が、所定の画面(例えば対話画面17上の画面17a…17i…17j…17n)それぞれの中に存在しているか否かを判定し、存在している場合に視線記録DB113に記録された当該画面IDに対応する目視時間の値を加算する。
【0064】
(画面一覧の並べ替え動作)
画面表示動作により機能に対応する画面として監視画面18が端末10の表示部11に表示され、目視時間が記録されている状態で、ユーザが監視画面18上の対話画面ボタン18aを選択した場合(S335のYes)、表示処理部105は、対話画面ボタン18aに対応する画面IDを画面並び替え要求に格納し、画面編集部115に通知する。画面編集部115は、画面並び替え要求に格納された画面IDをキーとして、視線記録DB113から対応する目視時間を取得する(S340)。
【0065】
画面編集部115は、取得した画面IDに対応する目視時間(時間幅)に基づいて、目視時間が長い順に画面の左上から右下に向かって縦方向に画面一覧が表示されるように、画面作成DB108に記録されたレイアウトデータを編集する(S345)。この動作により、レイアウトデータには、例えば対話画面17に表示される複数の監視画面18のうち目視時間の長い順に並べ替えられる。
【0066】
図14は、かかる動作によりレイアウトデータが変更された対話画面17の一例である。図14に示す対話画面17では、画面17a…17i…17j…17nが並び替えられ、ユーザが個々の画面を目視した目視時間の長い順に並べ替えられている。
【0067】
レイアウトデータの編集が完了すると、画面編集部115は、編集の完了を表示処理部105に通知する。編集完了を受信すると、表示処理部105は、画面作成DB108から編集されたレイアウトデータを取得して対話画面17の表示画面データを生成し、端末10の表示部11に表示させる(S350)。
【0068】
かかる動作により、ユーザが監視画面18を目視する時間が長い順に対話画面17における画面の表示位置を並び替えるので、ユーザが次に画面を選択する際の負担を軽減することができる。
【0069】
(4画面表示)
画面表示動作により機能に対応する画面として監視画面18が端末10の表示部11に表示され、目視時間が記録されている状態で、ユーザが監視画面18上の4画面表示ボタン18bを選択した場合(S335のNo、S355のYes)、表示処理部105は、4画面表示ボタン18bに対応する画面IDを注目表示要求に格納し、注目点処理部116に通知する。注目表示要求を受けると、注目点処理部116は、視線記録DB113から目視時間が長い上位4画面の画面IDを取得し、画面表示要求に取得した画面IDと画面表示数(4画面表示の場合「4」)を格納し、表示処理部105に返す(S360)。
【0070】
画面表示要求を受けると、表示処理部105は、画面作成DB108及び画面構成DB109からレイアウトデータと構成パターンとを取得し、画面表示要求に含まれる4つの画面IDを用いて監視画面19の表示画面データを生成し、端末10の表示部11に表示させる(S365)。
【0071】
図16は、4画面表示された監視画面19の一例である。図16に示すように、表示処理部105は、目視時間が長い4つの監視画面19a~19dを画面の左上から右下に向かって並べた形態の画面表示データを生成する。
【0072】
かかる動作により、ユーザが実際に画面を見ている時間が長い順に画面表示を行うので、より円滑な監視を実現できる。
【0073】
(第3実施形態)
次に、図18を参照して、第3実施形態に係る監視システム3を詳細に説明する。第3実施形態の監視システム3は、第1実施形態の監視システム1の構成の一部と新規な構成を組み合わせたものである。以下の説明において、共通する要素について共通の符号を付して示し、重複する説明を省略する。
【0074】
図18に示すように、実施形態の監視システム3は、サーバ42と、サーバ42と表示用バス30を介して接続される端末10と、サーバ42とプラントプロセス入力用バス50を介して接続されるプラント機器60とを有する。ここで、プラント機器60は監視対象である。
【0075】
サーバ42は、端末10から受けた指示に基づいてプラント機器60を監視し制御を実行するコンピュータ装置である。サーバ42は、視線入力DB103、視線検出部104、表示処理部105、対話処理部106、起動処理DB107、画面作成DB108、画面構成DB109、サーバ処理部110、プラント監視DB111、プロセス処理部112、画像解析部117、プラント機器データベース(DB)118、関連機能表示部119、関連機能データベース(DB)120を有している。
【0076】
画像解析部117は、視線検出部104が検出した画像を解析する演算ブロックである。画像解析部117は、視線検出部104から受け取った画像を解析し、解析結果に基づいて関連機能表示要求を関連機能表示部119に渡す機能を有する。関連機能表示とは、ある機能について複数の表示画面が存在する場合の表示形態である。
【0077】
プラント機器DB118は、プラント機器60の画像と、プラント機器60を識別するプラント機器ID(PID)とを対応付けて記録するデータベースである。プラント機器DB118は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。プラント機器IDは、端末10の表示部11に表示されるプラント機器のシンボル画像に対応する識別番号である。例えば、表示部11に表示されるプラント機器60を表す画像があった場合、プラント機器IDはかかる画像に対応付けられた識別番号となる。図19は、プラント機器DB118が記録するデータの一例である。図19に示す例では、プラント機器画像としてのプラント機器のシンボル画像と、対応するPIDとが対応付けられている。
【0078】
関連機能表示部119は、画像解析部117から送られる関連機能表示要求に基づいて表示処理部105に画面表示要求を行う演算ブロックである。
【0079】
関連機能DB120は、画面IDと、複数の画面IDを紐づけているPIDと、PIDごとの表示画面数とを対応付けて記憶するデータベースである。関連機能DB120は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。図20は、関連機能DB120が記録するデータの一例である。図20に示す例では、PIDと、当該PIDが示すプラント機器画像に対応する画面IDと、当該PIDに対応する表示画面数とが対応付けられている。
【0080】
続いて、図21を参照して、第3実施形態の監視システムの動作を説明する。第3実施形態の動作は、第1実施形態による複数の認証を経た後の動作である。以下の説明において、第1及び第2実施形態の構成及び動作と共通する構成及び動作については説明を省略する。
【0081】
ユーザが端末10の表示部11の任意のポイントを注視すると、視線検出部104は、注視時刻と注視した表示部11上の画像データを取得する(S400)。ここで「注視」とは、所定時間(例えば2秒)以上視線が移動しない状態をいう。視線検出部104は、取得した注視時刻と対応する画像データを画像解析部117に渡す。
【0082】
画像解析部117は、受け取った注視時刻をキーとして、視線入力DB103からユーザの視線の軌跡データを取得し(S405)、その終端上にある部分の画像を抽出する(S410)。
【0083】
画像解析部117は、抽出した画像をキーとして、プラント機器DB118から対応するPIDを取得する(S415)。画像解析部117は、取得したPIDを関連機能表示要求に格納し、関連機能表示部119に渡す。
【0084】
関連機能表示部119は、受け取った関連機能表示要求に含まれるPIDをキーとして、関連機能DB120から対応する画面IDと表示画面数を取得して表示要求に格納し、表示処理部105に渡す(S420)。
【0085】
表示処理部105は、受け取った画面ID及び表示画面枚数に基づいて、画面作成DB108及び画面構成109から画像データやレイアウトデータを取得し、表示画面データを生成する(S425)。生成された表示画面データは、端末10の表示部11に送られる(S430)。
【0086】
この実施形態によれば、ユーザが注視した画像に関連する関連画像をリアルタイムに呼び出して表示することが可能になる。すなわち、より効率的に監視業務を実施することができる。
【0087】
(第4実施形態)
次に、図22を参照して、第4実施形態に係る監視システム4を詳細に説明する。第4実施形態の監視システム4は、第1実施形態の監視システム1の構成の一部と新規な構成を組み合わせたものである。以下の説明において、共通する要素について共通の符号を付して示し、重複する説明を省略する。
【0088】
図22に示すように、実施形態の監視システム4は、サーバ43と、サーバ43と表示用バス30を介して接続される端末10と、サーバ43とプラントプロセス入力用バス50を介して接続されるプラント機器60とを有する。ここで、プラント機器60は監視対象である。
【0089】
サーバ43は、端末10から受けた指示に基づいてプラント機器60を監視し制御を実行するコンピュータ装置である。サーバ43は、視線検出部104、表示処理部105、対話処理部106、起動処理DB107、画面作成DB108、画面構成DB109、サーバ処理部110、プラント監視DB111、操作記録部121,プロセス処理部112、操作記録DB122、リプレイ処理部123を有している。
【0090】
操作記録部121は、端末10の表示部11が表示する監視画面18の記録ボタン18dが選択された場合にユーザの視線による操作を取得する演算ブロックである。操作記録部121は、視線検出部104が検出したユーザの視線が記録ボタン18dを選択した場合に、その操作内容を操作記録DB122に記録する。操作記録DB122は、操作記録部121が取得した操作記録を記憶する。操作記録DB122は、不揮発性メモリやハードディスクドライブなどの記憶媒体上に構成される。
【0091】
リプレイ処理部123は、端末10の表示部11が表示する監視画面18のリプレイボタン18eが選択された場合に操作記録DB122に記録された操作データを読み出し、当該操作データを含む表示要求を表示処理部105に渡す演算ブロックである。
【0092】
続いて、図24を参照して、第4実施形態の監視システム4の動作を説明する。第4実施形態の動作は、第1実施形態による複数の認証を経た後の動作である。以下の説明において、第1及び第2実施形態の構成及び動作と共通する構成及び動作については説明を省略する。
【0093】
視線検出部104は、ユーザの端末10の表示部11に対する視線の動きを検出してユーザの操作入力を待機する(S500)。
【0094】
ユーザが監視画面18の記録ボタン18dを視線の動きやマウスなどにより選択すると(S505のYes)、操作記録部121は、その選択に係る記録番号、画面呼び出し時刻、表示画面数、対応する画面IDを操作記録DB122への記録を開始する(S510)。
【0095】
ユーザが終了操作(例えば監視画面18の画面外に視線をそらしたり、記録停止ボタン18cを視線やマウスなどにより選択したりする操作)をした場合(S515のYes)、記録を終了する(S520)。
【0096】
図23は、操作記録DB122に記録されるデータの一例である。図23に示すように、操作記録部121が記録するデータは、記録番号、画面呼び出し時刻、表示画面数、対応する画面IDなどが対応付けられている。図23に示すように、表示画面数が2以上の場合、画面IDも2以上となる。図23に示す例では、記録番号2の表示画面数は2であり、画面IDが2つ対応付けられている。
【0097】
ユーザが操作記録を確認する場合、監視画面18のリプレイボタン18eを視線やマウスにより選択する(S505のNo,S525のYes)。選択結果は視線検出部104からリプレイ処理部123に送られる。
【0098】
リプレイ処理部123は、リプレイボタン18eが選択されると、操作記録DB122から記録番号が若い順に画面呼び出し時刻、画面ID、表示画面数を取得する(S530)。リプレイ処理部123は、取得した時刻データから各ステップの時刻の差分を求め表示時間を計算する(S535)。
【0099】
リプレイ処理部123は、表示要求に操作記録DB122から取得した画面IDと表示画面数を格納し、表示処理部105に送る。表示処理部105は、受け取ったデータに基づいて画面作成DB108や画面構成DB109からレイアウトデータなどを取得して画面データを作成し(S540)、端末10の表示部11に表示させる(S545)。
【0100】
この実施形態によれば、監視操作を記録しリプレイすることができるので、ユーザの操作の振り返りや訓練に資することができる。
【0101】
以上、本発明のいくつかの実施形態を説明したが、これらの実施形態は、例として提示したものであり、発明の範囲を限定することは意図していない。これら新規な実施形態は、その他の様々な形態で実施されることが可能であり、発明の要旨を逸脱しない範囲で、種々の省略、置き換え、変更を行うことができる。これら実施形態やその変形は、発明の範囲や要旨に含まれるとともに、特許請求の範囲に記載された発明とその均等の範囲に含まれる。
【符号の説明】
【0102】
1~4…監視システム、10…端末、11…表示部、12…カメラ部、13…入力インタフェース、
15…補正用画面、16…視線入力画面、17…対話画面、18,19…監視画面、
30…表示用バス、40…サーバ、50…プラントプロセス入力用バス、60…プラント機器、
101…視線認証部、102…認証情報データベース(DB)、103…視線入力データベース(DB)、104…視線検出部、105…表示処理部、106…対話処理部、107…起動処理データベース(DB)、108…画面作成データベース(DB)、109…画面構成データベース(DB)、110…サーバ処理部、111…プラント監視データベース(DB)、112…プロセス処理部、
113…視線記録データベース(DB)、114…目視時間記録処理部、115…画面編集部、116…注目点処理部、
117…画像解析部、118…プラント機器データベース(DB)、119…関連機能表示部、120…関連機能データベース(DB)、
121…操作記録部、122…操作記録データベース(DB)、123…リプレイ処理部。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17
図18
図19
図20
図21
図22
図23
図24