(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024016434
(43)【公開日】2024-02-07
(54)【発明の名称】監視装置、及び監視システム
(51)【国際特許分類】
G01N 3/06 20060101AFI20240131BHJP
G06T 7/70 20170101ALI20240131BHJP
【FI】
G01N3/06
G06T7/70 A
【審査請求】未請求
【請求項の数】6
【出願形態】OL
(21)【出願番号】P 2022118551
(22)【出願日】2022-07-26
(71)【出願人】
【識別番号】000001993
【氏名又は名称】株式会社島津製作所
(74)【代理人】
【識別番号】110001081
【氏名又は名称】弁理士法人クシブチ国際特許事務所
(72)【発明者】
【氏名】松浦 融
【テーマコード(参考)】
2G061
5L096
【Fターム(参考)】
2G061AA01
2G061AB05
2G061BA15
2G061DA10
2G061DA19
2G061EC07
5L096AA06
5L096BA02
5L096CA04
5L096DA02
5L096EA02
5L096EA43
5L096FA69
5L096GA30
5L096GA51
5L096GA55
5L096KA04
(57)【要約】
【課題】カメラの露出が低い場合でも表示器の表示パネルに設けられた非発光のマーカをカメラの撮影画像から検出できるようにする。
【解決手段】監視装置は、表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置であって、前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、前記第1処理画像をぼやけ処理した第2処理画像を生成する第2生成部と、前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、前記第3処理画像から前記マーカを検出する第1検出部と、を備える。
【選択図】
図5
【特許請求の範囲】
【請求項1】
表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置であって、
前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、
前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、
前記撮影画像をぼやけ処理した第2処理画像を生成する第2生成部と、
前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、
前記第3処理画像から前記マーカを検出する第1検出部と、を備える、
監視装置。
【請求項2】
前記第1検出部が検出した前記マーカの前記撮影画像における位置を検出する第2検出部を備え、
前記第2生成部は、前記ぼやけ処理のフィルタパラメータの値を変更し、前記第2検出部が検出すべき前記マーカの全ての位置を検出していない場合、値を変更した前記フィルタパラメータによって前記ぼやけ処理した前記第2処理画像を生成し、
前記第3生成部は、値が変更された前記フィルタパラメータによって前記ぼやけ処理された前記第2処理画像と、前記第1処理画像とに基づいて、前記第3処理画像を再度生成し、
前記第1検出部は、前記第3生成部により再度生成された前記第3処理画像から前記マーカを検出する、
請求項1に記載の監視装置。
【請求項3】
前記フィルタパラメータの値と、前記撮影画像における前記マーカの位置と、当該位置に前記マーカが存在する存在確率と、の関係を機械学習により学習させた学習済みモデルを備え、
前記第2生成部は、前記フィルタパラメータの入力によって前記学習済みモデルが出力した前記存在確率に基づいて、前記フィルタパラメータの値を変更する、
請求項2に記載の監視装置。
【請求項4】
前記第2生成部は、前記存在確率を用いた勾配降下法によって、前記フィルタパラメータの値を変更する、
請求項3に記載の監視装置。
【請求項5】
前記第1検出部が検出した前記マーカの前記撮影画像における位置を検出する第2検出部と、
前記第2検出部が検出した前記マーカの位置に基づいて、前記表示パネルの所定領域を特定する特定部と、を備える、
請求項1から4のいずれか一項に記載の監視装置。
【請求項6】
表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置と、前記表示パネルを撮影するカメラとを有する監視システムであって、
前記監視装置は、
前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、
前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、
前記撮影画像をぼやけ処理した第2処理画像を生成する第2生成部と、
前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、
前記第3処理画像から前記マーカを検出する第1検出部と、を備える、
監視システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、監視装置、及び監視システムに関する。
【背景技術】
【0002】
従来、材料試験機の動作状態や試験データをコンピュータによって管理する技術が提案されている。例えば、特許文献1は、試験デバイスと通信を行うことによって、試験デバイスのステータスに関するデータや試験データを取得する遠隔プラットフォームを開示している。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の技術において、材料試験機が備える表示器をカメラで撮影し、カメラの撮影画像によって表示器の表示パネルを遠隔で監視することが考え得る。また、この監視に際して、所定の用途のために、カメラの撮影画像から表示パネルが有するマーカを検出することも考え得る。しかしながら、表示パネルが有するマーカが非発光のマーカである場合、カメラの露出が低く設定されているとカメラの撮影画像においてはマーカが暗く写ってしまい、カメラの撮影画像からマーカを検出できない可能性がある。ここで、カメラの露出を高く設定することが考えられるが、カメラの露出を高くすると外乱光の影響が撮影画像に生じ得るため、表示パネルの監視に用いる撮影画像としては不適切な撮影画像となり得る。
【0005】
本発明は、このような事情に鑑みなされたものであり、カメラの露出が低い場合でも表示器の表示パネルが有する非発光のマーカをカメラの撮影画像から検出できるようにすることを目的とする。
【課題を解決するための手段】
【0006】
本発明の第1の態様は、表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置であって、前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、前記第1処理画像をぼやけ処理した第2処理画像を生成する第2生成部と、前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、前記第3処理画像から前記マーカを検出する第1検出部と、を備える、監視装置に関する。
【0007】
本発明の第2の態様は、表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置と、前記表示パネルを撮影するカメラとを有する監視システムであって、前記監視装置は、前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、前記第1処理画像をぼやけ処理した第2処理画像を生成する第2生成部と、前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、前記第3処理画像から前記マーカを検出する第1検出部と、を備える、監視システムに関する。
【発明の効果】
【0008】
本発明の第1の態様によれば、第1検出部が検出に用いる画像において非発光のマーカを強調して写すことができる。そのため、カメラの露出が低い場合でも表示器の表示パネルが有する非発光のマーカをカメラの撮影画像から検出できる。
【0009】
本発明の第2の態様によれば、本発明の第1の態様と同様の効果を奏する。
【図面の簡単な説明】
【0010】
【
図6】グレーススケール画像の一例を示す図である。
【
図9】特定部、及び画像処理部の処理の一例を示す図である。
【
図12】サーバ装置の動作を示すフローチャートである。
【
図14】サーバ装置の動作を示すフローチャートである。
【
図16】サーバ装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0011】
[1.第1実施形態]
まず、第1実施形態について説明する。
[1-1.監視システムの構成]
図1は、本実施形態に係る監視システム100の構成の一例を示す図である。
監視システム100は、疲労試験機1を監視対象とするシステムである。
図1では、監視システム100が1台の疲労試験機1を監視対象とする構成を例示する。なお、本実施形態では、監視システム100が1台の疲労試験機1を監視する場合について説明するが、監視対象の疲労試験機1の台数は1台に限定されない。監視システム100の監視対象の疲労試験機1の台数は、複数台でもよい。
疲労試験機1は、「材料試験機」の一例に対応する。
【0012】
監視システム100は、疲労試験機1を備える。
疲労試験機1は、試験機本体10、及び制御装置20を備える。疲労試験機1は、試験機本体10を制御装置20によって制御することによって、試験片SPの疲労試験を行う。例えば、疲労試験機1は、試験片SPに引張応力を繰り返し印加する。引張応力、及び繰り返し回数は、予め設定される。繰り返し回数は、例えば、102回~108回である。
制御装置20は、「表示器」の一例に対応する。
【0013】
監視システム100は、第1カメラ2、第2カメラ3、第3カメラ4、及びサーバ装置5を備える。第3カメラ4は、「カメラ」の一例に対応する。
第1カメラ2、及び第2カメラ3は、試験機本体10を撮影する。第3カメラ4は、制御装置20を撮影する。
本実施形態では、監視システム100が、監視対象の1台の疲労試験機1につき、3台のカメラを備える場合について説明するが、これに限定されない。監視システム100は、監視対象の1台の疲労試験機1につき、1台、2台、又は4台以上のカメラを備えてもよい。
以下の説明において、第1カメラ2、第2カメラ3、及び第3カメラ4を区別しない場合、「カメラ6」と表記する。
【0014】
カメラ6は、所定の撮影範囲を撮影するデジタルカメラである。カメラ6は、静止画像を撮影するデジタルスチルカメラでもよいし、動画像を撮影するデジタルビデオカメラでもよい。カメラ6は、通信機能を有し、ネットワークNW1を介したデータ通信を行う。カメラ6は、撮影した場合に、ネットワークNW1を介してサーバ装置5に撮影画像の画像データを送信する。
【0015】
なお、本実施形態では、カメラ6が通信機能を有する場合について説明するが、これに限定されない。カメラ6の少なくともいずれかは、通信機能を有しない構成でもよい。この場合、カメラ6の少なくともいずれかは、不図示のコンピュータに接続される。当該コンピュータは、ネットワークNW1を介してデータ通信を実行可能な通信機能、及び、接続するカメラ6を制御する機能を有する。当該コンピュータは、例えば、パーソナルコンピュータ、タブレット型コンピュータ、スマートフォンである。この場合、コンピュータに接続するカメラ6は、コンピュータの制御に従って撮影を実行し、このコンピュータが撮影画像の画像データをサーバ装置5に送信する。
【0016】
ネットワークNW1は、ネットワークNW2を介して、カメラ6、及びサーバ装置5を通信可能に接続する。カメラ6は、ネットワークNW1に接続され、ネットワークNW1は、ネットワークNW2と、不図示のルータやゲートウェイ、或いは他の通信ネットワークを介して接続される。ネットワークNW1は、ネットワークNW2に接続される。サーバ装置5は、ネットワークNW2に接続される。
サーバ装置5は、「監視装置」の一例に対応する。
【0017】
ネットワークNW1は、例えば、LAN(Local Area Network)である。ネットワークNW1は、例えば、Ethernet(登録商標)規格のケーブル、不図示のルータ、ゲートウェイ等を含む。なお、ネットワークNW1は、Wi-Fi(登録商標)等の無線通信回線でもよい。ネットワークNW2は、ネットワークNW1を介して、カメラ6、及びサーバ装置5を通信可能に接続する。ネットワークNW2は、例えば、インターネット等のグローバルネットワークである。なお、ネットワークNW2は、WAN(Wide Area Network)でもよい。
【0018】
サーバ装置5は、通信機能を有するサーバコンピュータである。サーバ装置5は、複数のサーバコンピュータによって構成されてもよく、例えば、クラウドサーバであってもよい。サーバ装置5は、いわゆるアプリケーションサーバである。サーバ装置5は、例えば、監視室に配置される。監視室では、例えば、サーバ装置5において、表示部56に表示される画面を監視することによって、ユーザが、疲労試験機1を監視する。
【0019】
[1-2.疲労試験機の構成]
図2は、疲労試験機1の構成の一例を示す図である。
試験機本体10は、制御装置20からの指示に従って、試験片SPの疲労試験を行う。制御装置20は、試験機本体10の動作を制御する。
【0020】
図2に示すように、試験機本体10は、基台11上に、一対の支柱12A、12Bと、ヨーク13と、によって負荷枠を形成し、支柱12A、12Bに、クロスヘッド14を移動可能に備える。
【0021】
基台11には、油圧アクチュエータ15が配置され、油圧アクチュエータ15のピストンロッド15Aには、試験片SPの下端を固定する下部治具16Aが取り付けられる。また、クロスヘッド14には、ロードセル17を介して、試験片SPの上端を固定する上部治具16Bが取り付けられる。下部治具16A、及び上部治具16Bの各々は、試験片SPを把持するチャック機構を備える。
ロードセル17は、試験片SPに作用する試験力を検出する。
【0022】
油圧アクチュエータ15は、サーボ弁18によって、圧油方向と圧油量とが制御されて、ピストンロッド15Aが伸縮する。その結果、上部治具16Bと下部治具16Aとの間に固定された試験片SPに試験力が印加される。油圧アクチュエータ15のストローク、すなわち試験片SPの変位は、油圧アクチュエータ15に取り付けられた差動トランス19によって検出される。
【0023】
試験機本体10には、不図示の電力源及び油圧源が設けられる。電力源は、試験機本体10の各部に電力を供給する。電力源は、例えば各種モータに電力を供給し、駆動する。油圧源は、試験機本体10を構成する油圧装置に油圧を供給する。油圧源は、例えば、油圧アクチュエータ15に油圧を供給し、油圧アクチュエータ15を駆動する。すなわち、油圧アクチュエータ15は、油圧源から供給される油圧によって駆動され、ピストンロッド15Aが伸縮される。油圧源は、例えば、油圧ポンプ及び油圧制御弁を備え、油圧ポンプを駆動することによって油圧を発生する。油圧制御弁は、油圧源から出力する油圧を調整する。油圧ポンプ及び油圧制御弁には、電力源から電力が供給される。
【0024】
制御装置20は、ロードセル17から出力される試験力信号FSを取得し、試験力信号FSをA/D変換して試験力情報を生成する。制御装置20は、差動トランス19から出力される変位信号DSを取得し、変位信号DSをA/D変換して変位情報を生成する。制御装置20は、試験力情報、及び変位情報に基づいて、指令情報を生成する。制御装置20は、指令情報をD/A変換することによって指令信号CSを生成し、生成した指令信号CSをサーボ弁18に出力する。
【0025】
サーボ弁18は、制御装置20から出力される指令信号CSに従って、油圧アクチュエータ15に対して、圧油方向と圧油量とを制御する。
【0026】
制御装置20は、ディスプレイ30を有する。ディスプレイ30は、LCD(Liquid Crystal Display)等によって構成される。制御装置20は、試験機本体10から取得した試験力情報、変位情報、及び試験機本体10に出力した指令情報を、ディスプレイ30に表示する。
【0027】
図2において、試験機本体10と制御装置20との間に、試験力信号FS、変位信号DS、及び指令信号CSの各々を増幅する増幅器を配置してもよい。
【0028】
第1カメラ2は、試験機本体10の撮影範囲PA1を撮影する。撮影範囲PA1は、試験機本体10のほぼ全体を含む。
第2カメラ3は、試験機本体10の撮影範囲PA2を撮影する。撮影範囲PA2は、試験機本体10に装着された試験片SPを含む。具体的には、撮影範囲PA2は、上部治具16B、下部治具16A、及び試験片SPを含む。
第3カメラ4は、制御装置20の撮影範囲PA3を撮影する。撮影範囲PA3は、制御装置20の筐体においてディスプレイ30が設けられた表示パネル21の全体を含む。
以下の説明において、第1カメラ2の撮影により得られた撮影画像を、「試験機本体撮影画像」といい「P1」の符号を付す。また、第2カメラ3の撮影により得られた撮影画像を、「試験片撮影画像」といい「P2」の符号を付す。また、第3カメラ4の撮影により得られた撮影画像を、「パネル撮影画像」といい「P3」の符号を付す。
【0029】
[1-3.表示面の構成]
図3は、表示パネル21の構成の一例を示す図である。表示パネル21は、制御装置20へのユーザの操作を受け付けると共に、疲労試験機1の動作又は状態を示す種々の情報を表示する。
【0030】
図3に示すように、表示パネル21は、電源スイッチ210、ファンクションキー211、及びダイヤル212を備える。電源スイッチ210は、制御装置20の電源のオン操作及びオフ操作を受け付ける。ファンクションキー211は、制御装置20に特定の機能の実行を指示する操作を受け付ける。ダイヤル212は、設定値の変更等の操作を受け付ける。
【0031】
表示パネル21は、設定キー213、テンキー214、及び非常停止スイッチ215を更に備える。設定キー213は、制御装置20の動作を設定する操作を受け付ける。テンキー214は、数値を入力する操作を受け付ける。非常停止スイッチ215は、疲労試験機1を非常停止する操作を受け付ける。
【0032】
表示パネル21は、ディスプレイ30、パワーユニット操作キー31、及び試験操作キー32を更に備える。パワーユニット操作キー31は、疲労試験機1の油圧源に対する操作を受け付ける。試験操作キー32は、疲労試験機1における材料試験の開始、及び停止を指示する操作を受け付ける。ディスプレイ30は、例えば、LCD等で構成されるディスプレイと、ディスプレイの表示面に配置されたタッチセンサと、を備えたタッチパネルとして構成される。
【0033】
ディスプレイ30には、疲労試験機1が実行している疲労試験での試験力、ピストン変位、疲労試験終了までの残り時間等の種々の情報が表示される。
ディスプレイ30の表示画面は、サイクル数表示部301と、特定記号表示部302と、試験状態表示部303と、を含む。
サイクル数表示部301は、疲労試験におけるサイクル数を表示する。
特定記号表示部302は、予め定められた特定記号(例えば、アイコン)を表示する。
試験状態表示部303は、疲労試験機1において疲労試験が実行されているか否かを表示する。試験状態表示部303には、例えば、所定の背景色に重ねて「試験中」または「停止中」の文字が表示される。
【0034】
パワーユニット操作キー31は、起動ボタン311と、停止ボタン312と、マニフォールドボタン313と、加圧ボタン314とを有する。起動ボタン311は、油圧ポンプを起動する操作を受け付ける。停止ボタン312は、油圧ポンプを停止する操作を受け付ける。
マニフォールドボタン313は、配管バルブを開状態、及び閉状態にする操作を受け付ける。配管バルブは、油圧ポンプとロードバルブとの間の油圧配管に配置される。また、加圧ボタン314は、ロードバルブを開状態、及び閉状態にする操作を受け付ける。ロードバルブは、配管バルブとサーボ弁18との間の油圧配管に配置される。
【0035】
起動ボタン311は、表示ランプ311Aを有し、停止ボタン312は、表示ランプ312Bを有し、マニフォールドボタン313は、表示ランプ313Cを有し、加圧ボタン314は、表示ランプ314Dを有する。
表示ランプ311A、表示ランプ312B、表示ランプ313C、及び表示ランプ314Dの各々は、LED(Light Emitting Diode)等で構成される。表示ランプ311A、表示ランプ312B、表示ランプ313C、及び表示ランプ314Dの各々は、複数のLEDを備え、2色以上の点灯色を選択的に点灯することのできるものであってもよい。
【0036】
油圧ポンプが起動している場合には、表示ランプ311Aが点灯し、油圧ポンプが停止している場合には、表示ランプ311Aが消灯する。
油圧ポンプが起動している場合には、表示ランプ312Bが消灯し、油圧ポンプが停止している場合には、表示ランプ312Bが点灯する。
配管バルブが開状態の場合には、表示ランプ313Cが点灯し、配管バルブが閉状態の場合には、表示ランプ313Cが消灯する。
ロードバルブが開状態の場合には、表示ランプ314Dが点灯し、ロードバルブが閉状態の場合には、表示ランプ314Dが消灯する。
【0037】
表示ランプ311A、表示ランプ312B、表示ランプ313C、及び表示ランプ314Dは、点灯態様の組み合わせによって、疲労試験機1における油圧源状態、すなわち、油圧源の動作の状態を表示する。
【0038】
試験操作キー32は、開始キー321と停止キー322とを有する。開始キー321は、表示ランプ321Aを有し、停止キー322は、表示ランプ322Bを有する。
表示ランプ321A、及び表示ランプ322Bの各々は、LED等で構成される。表示ランプ321A、及び表示ランプ322Bの各々は、複数のLEDを備え、2色以上の点灯色を選択的に点灯することのできるものであってもよい。
疲労試験機1は疲労試験を実行している場合には、表示ランプ321Aが点灯し、疲労試験機1は疲労試験を実行していない場合には、表示ランプ321Aが消灯する。
疲労試験機1は疲労試験を実行している場合には、表示ランプ322Bが消灯し、疲労試験機1は疲労試験を実行していない場合には、表示ランプ322Bが点灯する。
【0039】
表示ランプ321A、及び表示ランプ322Bは、これらの点灯態様の組み合わせによって疲労試験機1における疲労試験の試験状態、すなわち、試験中であるか停止中であるかを表示する。
【0040】
ユーザが開始キー321を押下すると、疲労試験機1は疲労試験を開始し、ディスプレイ30の試験状態表示部303に「試験中」の文字が表示される。また、ユーザが停止キー322を押下すると、疲労試験機1は実行中の試験動作を停止し、ディスプレイ30の試験状態表示部303に「停止中」の文字が表示される。
【0041】
ディスプレイ30は、矩形の第1表示器領域33に配置される。第1表示器領域33とは、表示パネル21においてディスプレイ30が配置される領域である。
第1表示器領域33は、「所定領域」の一例を示す。
【0042】
図3において、第1表示器領域33の4隅の各々には、マーカMKが設けられている。具体的に、第1表示器領域33の左上隅には、マーカMK1が配置される。第1表示器領域33の右上隅には、マーカMK2が配置される。第1表示器領域33の右下隅には、マーカMK3が配置される。第1表示器領域33の左下隅には、マーカMK4が配置される。
【0043】
パワーユニット操作キー31は、矩形の第2表示器領域34に配置される。第2表示器領域34は、表示パネル21においてパワーユニット操作キー31が配置される領域である。
第2表示器領域34は、「所定領域」の一例を示す。
【0044】
図3において、第2表示器領域34の2つの隅には、マーカMKが設けられている。具体的には、第2表示器領域34の右上隅には、マーカMK5が配置される。また、第2表示器領域34の左下隅には、マーカMK6が配置される。
【0045】
試験操作キー32は、矩形の第3表示器領域35に配置される。第3表示器領域35は、表示パネル21において試験操作キー32が配置される領域である。
第3表示器領域35は、「所定領域」の一例を示す。
【0046】
図3において、第3表示器領域35の2つの隅には、マーカMKが設けられている。具体的に、第3表示器領域35の右上隅には、マーカMK7が配置される。また、第3表示器領域35の左下隅には、マーカMK8が配置される。
【0047】
表示パネル21に設けられているマーカMKの各々は、非発光のマーカである。つまり、マーカMKの各々は、自発光しない。本実施形態のマーカMKは、矩形であるが、形状は矩形に限定されない。マーカMKの各々は、例えば、表示パネル21に予め貼付されるラベルである。なお、マーカMKの各々は、表示パネル21に予め印刷されてもよい。
【0048】
図4は、マーカMKの一例を示す図である。
マーカMKは、白色の領域と黒色の領域とを有する。マーカMKの外縁部は、白色の領域で構成される。マーカMKの外縁部の内側には、コードが形成されている。本実施形態においてコードは、白色の領域と黒色の領域とにより構成される。マーカMKに形成されているコードは、マーカMKに対応する表示器領域(第1表示器領域33、第2表示器領域34、及び第3表示器領域35)の識別コードを示す。また、マーカMKに形成されているコードは、対応するマーカMKが、対応する表示器領域のどの位置に配置されるかを示す情報、例えば、その表示器領域の「左上」、「右上」、「右下」、又は「左下」等の情報を含む。
【0049】
マーカMK1、MK2、MK3、MK4に形成されたコードの各々は、第1表示器領域33の識別コードと、第1表示器領域33におけるそれぞれの位置を示す情報とを含む。例えば、マーカMK1に形成されたコードは、第1表示器領域33の識別コードと、第1表示器領域33における「左上」を示す情報とを含む。
マーカMK5、MK6に形成されたコードの各々は、第2表示器領域34の識別コードと、第2表示器領域34におけるそれぞれの位置を示す情報とを含む。
マーカMK7、MK8に形成されたコードの各々は、第3表示器領域35の識別コードと、第3表示器領域35におけるそれぞれの位置を示す情報とを含む。
【0050】
[1-4.サーバ装置の構成]
図5は、サーバ装置5の構成の一例を示す図である。
サーバ装置5は、ネットワークNW1、NW2を介して、第1カメラ2、第2カメラ3、及び第3カメラ4と通信可能に接続される。
サーバ装置5は、プロセッサ50、メモリ52、入力部54、表示部56、及び、通信インターフェース58を備える。
【0051】
プロセッサ50は、CPU(Central Processing Unit)、MPU(Micro-Processing Unit)等で構成される。メモリ52は、ROM(Read Only Memory)、RAM(Random Access Memory)、HDD、SSD等で構成される。メモリ52は、制御プログラム521、マーカ画像データ522、第1学習済みモデル523、及び第2学習済みモデル524を記憶する。
マーカ画像データ522、第1学習済みモデル523、及び第2学習済みモデル524については、後述する。
【0052】
入力部54は、ユーザが使用する各種スイッチやキーを備える。入力部54は、ユーザが使用する入力デバイスに接続され、入力デバイスに対する操作を検出することによって、ユーザの入力を受け付ける構成であってもよい。入力デバイスとしては、例えば、マウスやトラックパッド等のポインティングデバイス、及び、キーボードが挙げられる。
【0053】
表示部56は、LCD等のディスプレイを備える。表示部56は、プロセッサ50の制御に従って、後述の第1画面800及び第2画面900を含む種々の画面を表示する。入力部54は、表示部56の表示面に重畳して配置されたタッチセンサを備えてもよい。
【0054】
通信インターフェース58は、ネットワークNW2に接続され、ネットワークNW2及びネットワークNW1を介して、カメラ6と通信を実行する。通信インターフェース58は、例えば、通信ケーブルを接続可能なコネクタ、及び通信回路を備える。通信インターフェース58は、無線通信インターフェースを備え、無線通信を実行する構成でもよい。
【0055】
プロセッサ50は、メモリ52に記憶された制御プログラム521を実行することによって、サーバ装置5は、取得部501、第1画像生成部502、第2画像生成部503、第3画像生成部504、第1検出部505、第2検出部506、特定部507、画像処理部508、試験値生成部509、判定部510、及び表示制御部511として機能する。
また、メモリ52は、プロセッサ50が制御プログラム521を実行することによって、マーカ位置記憶部525、及び画像記憶部526として機能させる。
第1画像生成部502は、「第1生成部」の一例である。第2画像生成部503は、「第2生成部」の一例である。第3画像生成部504は、「第3生成部」の一例である。
【0056】
マーカ位置記憶部525は、マーカMKごとに、パネル撮影画像P3におけるマーカMKの位置を情報として記憶する。具体的に、マーカ位置記憶部525は、マーカMKごとに、パネル撮影画像P3に定義された座標系におけるマーカMKの座標を、マーカMKの位置として記憶する。
【0057】
画像記憶部526は、取得部501が取得した撮影画像を記憶する。画像記憶部526が記憶する撮影画像には、試験機本体撮影画像P1、試験片撮影画像P2、及びパネル撮影画像P3が含まれる。
【0058】
取得部501は、カメラ6から撮影画像を取得する。具体的に、取得部501は、通信インターフェース358を介して、カメラ6から撮影画像の画像データを受信する。なお、取得部501は、カメラ6が撮影画像を生成する度に、カメラ6から撮影画像を取得してもよい。
【0059】
第1画像生成部502は、グレースケール画像P4を生成する。
図6は、グレースケール画像P4の一例を示す図である。
グレースケール画像P4は、取得部501が取得したパネル撮影画像P3をグレースケール化した画像である。本実施形態では、パネル撮影画像P3に写る表示パネル21は、台形状に歪んでいる。これは、第3カメラ4の光軸に対して表示パネル21の法線方向が傾いているためである。そのため、
図6に示すように、グレースケール画像P4に写る表示パネル21は、台形状に歪んでいる。
グレースケール画像P4は、「第1処理画像」の一例である。
【0060】
第2画像生成部503は、ぼやけ処理画像P5を生成する。
図7は、ぼやけ処理画像P5の一例を示す図である。
ぼやけ処理画像P5は、第1画像生成部502が生成したグレースケール画像P4をぼやけ処理した画像である。ぼやけ処理とは、画像をぼやかせる処理である。ぼやけ処理には、画像の画素を平準化するぼかし処理や、中央値フィルタによるフィルタ処理を含む。本実施形態の第2画像生成部503は、ガウシアンフィルタによってグレースケール画像P4をぼやけ処理し、グレースケール画像P4の各画素が平滑化されたぼやけ処理画像P5を生成する。
【0061】
第2画像生成部503は、ぼやけ処理画像P5の生成に用いるぼやけ処理のフィルタパラメータの値を、変更する。本実施形態では、フィルタパラメータとしてフィルタサイズを例示する。フィルタサイズの値の変更については、後述する。
【0062】
第3画像生成部504は、2値化画像P6を生成する。
図8は、2値化画像P6の一例を示す図である。
2値化画像P6は、第1画像生成部502が生成したグレースケール画像P4を、第2画像生成部503が生成したぼやけ処理画像P5に基づき2値化した画像である。第3画像生成部504は、座標が同じ画素間において、ぼやけ処理画像P5の画素より輝度が低いグレースケール画像P4の画素を黒、ぼやけ処理画像P5の画素より輝度が高いグレースケール画像P4の画素を白として2値化画像P6を生成する。
2値化画像P6は、「第3処理画像」の一例に対応する。
【0063】
第1検出部505は、2値化画像P6からマーカMKを検出する。第1検出部505は、マーカ画像データ522をメモリ52から読み出す。マーカ画像データ522は、表示パネル21が有するマーカMKごとに、マーカMKの画像データが格納されている。マーカ画像データ522は、表示パネル21が有するマーカMKの数に対応する数分、マーカMKの画像データを格納する。第1検出部505は、マーカ画像データ522が示すマーカMKの画像を用いて、パターンマッチングにより2値化画像P6からマーカMKを検出する。具体的に、第1検出部505は、2値化画像P6において、マーカ画像データ522が示す画像と一致度が所定値(例えば、90パーセント)以上の画像があるか否かを判定する。そして、第1検出部505は、マーカ画像データ522が示す画像と一致度が所定値以上の画像を、マーカMKとして検出する。
【0064】
第2検出部506は、第1検出部505が検出したマーカMKのパネル撮影画像P3における位置を検出する。第2検出部506は、パネル撮影画像P3におけるマーカMKの位置として、第1検出部505が検出したマーカMKの2値化画像P6における位置を検出する。第2検出部506は、マーカMKの位置として、2値化画像P6に定義された座標系における座標を検出する。第2検出部506は、マーカMKの位置を検出すると、検出したマーカMKの位置を示す情報をマーカ位置記憶部525に記憶させる。
【0065】
特定部507、及び画像処理部508については、
図9を参照して説明する。
図9は、特定部507、及び画像処理部508の処理の一例を示す図である。
【0066】
特定部507は、取得部501が取得したパネル撮影画像P3から、第1表示器領域33、第2表示器領域34、及び第3表示器領域35に対応する領域を特定する。特定部507は、マーカ位置記憶部525が記憶するマーカMKの位置を用いて、パネル撮影画像P3におけるマーカMKを特定する。具体的に、特定部507は、パネル撮影画像P3において、マーカ位置記憶部525が記憶するマーカMKの位置にマーカMKがあるとして、マーカMKを特定する。次いで、特定部507は、特定したマーカMKに形成されたコードを読み取り、マーカMKがどの位置におけるマーカMKであるかを特定し、第1表示器領域33、第2表示器領域34、及び第3表示器領域35に対応する領域を特定する。
図9の中段左図に示すように、特定部507は、マーカMK1、MK2、MK3、MK4の位置をパネル撮影画像P3において特定すると、特定したマーカMK1、MK2、MK3、MK4の位置を4隅とする四角の領域を、パネル撮影画像P3における第1表示器領域33に対応する領域として特定する。また、
図9の中段中央図に示すように、特定部507は、マーカMK5、MK6の位置をパネル撮影画像P3において特定すると、特定したマーカMK5、MK6の位置を対角とする四角の領域を、パネル撮影画像P3における第2表示器領域34に対応する領域として特定する。また、
図9の中段右図に示すように、特定部507は、マーカMK7、MK8の位置をパネル撮影画像P3において特定すると、特定したマーカMK7、MK8の位置を対角とする四角の領域を、パネル撮影画像P3における第3表示器領域35に対応する領域として特定する。
【0067】
画像処理部508は、特定部507が特定した第1表示器領域33に対応する領域の画像(
図9において中段左図)をパネル撮影画像P3から抽出し、抽出した画像に基づいて、当該画像の歪みを補正する補正関数を算出する。本実施形態では、補正関数は、特定部507が特定した第1表示器領域33に対応する領域の画像を矩形の画像に補正するための射影変換行例で規定される。画像処理部508は、算出した射影変換行例を用いて、矩形の画像に変換したディスプレイ画像P7、第1ランプ画像P8、及び第2ランプ画像P9を生成する。
ディスプレイ画像P7は、第1表示器領域33に対応する領域の画像を矩形の画像に補正した後の画像である。第1ランプ画像P8は、第2表示器領域34に対応する領域の画像を矩形の画像に補正した画像である。第2ランプ画像P9は、第3表示器領域35に対する領域の画像を矩形の画像に補正した画像である。
【0068】
さて、サーバ装置5の構成の説明に戻り、試験値生成部509は、ディスプレイ画像P7に含まれ、表示パネル21に表示される試験値を生成する。
例えば、試験値生成部509は、ディスプレイ画像P7に含まれる特定記号表示部302に表示された特定記号のサイズに基づいて、サイクル数を示す文字サイズを推定する。そして、試験値生成部509は、推定した文字サイズを用いた画像認識処理(ここでは、文字認識処理)によって、サイクル数の値を生成する。ここでは、試験値生成部509が、サイクル数の値を生成する場合について説明するが、試験値生成部509は、試験値として、試験力、及び変位等の値もサイクル数の値と同様の処理で、生成する。
また、試験値生成部509は、文字認識処理によってサイクル数の値を生成すると共に、文字認識処理におけるサイクル数の値の確度を出力する。サイクル数の値の確度は、サイクル数の値の確からしさを百分率で表した値である。
【0069】
判定部510は、第1ランプ画像P8に基づき、油圧源状態を判定する。また、判定部510は、第2ランプ画像P9に基づき、疲労試験の試験状態を判定する。
【0070】
まず、油圧源状態の判定処理について説明する。
判定部510は、表示ランプ311A、表示ランプ312B、表示ランプ313C、及び表示ランプ314Dの点灯態様の組み合わせに基づき、油圧源状態を判定する。本実施形態では、「点灯態様」とは、点灯か消灯かを示す。
【0071】
表示ランプ311Aが点灯し、表示ランプ312B、313C、314Dが消灯する場合には、判定部510は、油圧源状態が「RUN状態」、すなわち、油圧ポンプが起動された状態であると判定する。
表示ランプ312Bが点灯し、表示ランプ311A、313C、314Dが消灯する場合には、判定部510は、油圧源状態が「STOP状態」、すなわち、油圧ポンプが停止した状態であると判定する。
【0072】
表示ランプ311A、313C、314Dが点灯し、表示ランプ312Bが消灯する場合には、判定部510は、油圧源状態が「LOAD_MANI状態」、すなわち、配管バルブ及びロードバルブが開状態であると判定する。
表示ランプ312B、313Cが点灯し、表示ランプ311A、314Dが消灯する場合には、判定部510は、油圧源状態が「STOP_MANI状態」、すなわち、配管バルブが開状態であると判定する。
【0073】
表示ランプ311A、314Dが点灯し、表示ランプ312B、313Cが消灯する場合には、判定部510は、油圧源状態が「LOAD状態」、すなわち、ロードバルブが開状態であると判定する。
表示ランプ311A、312B、313C、314Dが全て消灯する場合には、判定部510は、油圧源状態が「POWER OFF状態」、すなわち、油圧ポンプ、配管バルブ、及びロードバルブの動作のための電源がオフされた状態であると判定する。
【0074】
また、判定部510は、第1学習済みモデル523を用いて、油圧源状態を判定する。具体的には、判定部510は、第1ランプ画像P8を、第1学習済みモデル523に入力することによって、油圧源状態を判定する。第1学習済みモデル523は、表示ランプ311A~314Dの種々の点灯態様の組み合わせを撮影した第1ランプ画像P8と、表示ランプ311A~314Dの点灯態様の組み合わせに対応する油圧源状態と、の関係を機械学習(いわゆる、「教師あり学習」)によって学習させた学習済みモデルである。判定部510は、第1ランプ画像P8を第1学習済みモデル523に入力することによって、油圧源状態を判定する。
【0075】
次に、疲労試験の試験状態の判定処理について説明する。
判定部510は、複数の表示ランプの点灯態様の組み合わせに基づき、疲労試験の試験状態を判定する。具体的には、判定部510は、表示ランプ321A、及び表示ランプ322Bの点灯態様の組み合わせに基づき、疲労試験の試験状態を判定する。
【0076】
表示ランプ321Aが点灯し、表示ランプ322Bが消灯する場合には、判定部510は、疲労試験の試験状態が「START状態」、すなわち疲労試験を実行している状態であると判定する。
表示ランプ322Bが点灯し、表示ランプ321Aが消灯する場合には、判定部510は、疲労試験の試験状態が「STOP状態」、すなわち、疲労試験を停止している状態であると判定する。
【0077】
また、判定部510は、第2学習済みモデル524を用いて、疲労試験の試験状態を判定する。具体的には、判定部510は、第2ランプ画像P9を、第2学習済みモデル524に入力することによって、疲労試験の試験状態を判定する。第2学習済みモデル524は、表示ランプ321A、322Bの種々の点灯態様の組み合わせを撮影した第2ランプ画像P9と、表示ランプ321A、322Bの点灯態様の組み合わせに対応する疲労試験の試験状態と、の関係を機械学習(いわゆる、「教師あり学習」)によって学習させた学習済みモデルである。判定部510は、第2ランプ画像P9を第2学習済みモデル524に入力することによって、疲労試験の試験状態を判定する。
【0078】
第1学習済みモデル523の出力は、油圧源状態についての判定の確度が含まれる。また、第2学習済みモデル524の出力には、疲労試験の試験状態についての判定の確度が含まれる。判定の確度は、判定の確からしさを百分率で表した値である。
換言すれば、判定部510は、油圧源状態を判定すると共に、その判定の確度を出力する。また、判定部510は、疲労試験の試験状態を判定すると共に、その判定の確度を出力する。
【0079】
表示制御部511は、第1画面800を生成し、生成した第1画面800を表示部56に表示させる。また、表示制御部511は、第2画面900を生成し、生成した第2画面900を表示部56に表示させる。
【0080】
図10は、第1画面800の一例を示す図である。
第1画面800は、サイクル数表示部801と、試験力表示部802と、試験状態表示部803と、本体画像表示ボタン804と、試験片画像表示ボタン805と、パネル画像表示ボタン806と、を含む。
【0081】
サイクル数表示部801は、疲労試験機1のサイクル数の値を表示する。サイクル数の値は、試験値生成部509によって生成される。
試験力表示部802は、疲労試験機1の試験力の値を表示する。試験力の値は、試験値生成部509によって生成される。
試験状態表示部803は、疲労試験機1の試験状態を表示する。疲労試験機1の試験状態は、第2ランプ画像P10に基づき、判定部510によって判定される。
【0082】
本体画像表示ボタン804は、疲労試験機1の試験機本体撮影画像P1を表示する場合にユーザによってクリックされる。本体画像表示ボタン804がクリックされた場合には、表示制御部511は、画像記憶部526から試験機本体撮影画像P1を読み出して、表示領域ARに読み出した試験機本体撮影画像P1を表示する。
試験片画像表示ボタン805は、試験片撮影画像P2を表示する場合にユーザによってクリックされる。試験片画像表示ボタン805がクリックされた場合には、表示制御部511は、画像記憶部526から試験片撮影画像P2を読み出して、表示領域ARに読み出した試験片撮影画像P2を表示する。
パネル画像表示ボタン806は、パネル撮影画像P3を表示する場合にユーザによってクリックされる。パネル画像表示ボタン806がクリックされた場合には、表示制御部511は、画像記憶部526からパネル撮影画像P3を読み出して、表示領域ARに読み出したパネル撮影画像P3を表示する。
【0083】
図11は、第2画面900の一例を示す図である。
第2画面900は、判定結果表示部901と、数値表示部902と、パネル画像表示部903と、本体画像表示部904と、試験片画像表示部905と、を含む。
【0084】
判定結果表示部901には、判定部510の判定結果、すなわち、油圧源状態、及び疲労試験の試験状態が表示される。
判定結果表示部901には、例えば、油圧源状態が「LOAD状態」であることが表示される。また、判定結果表示部901には、例えば、油圧源状態の判定の確度が第1閾値未満であることを示す「WARNING」が表示される。第1閾値は、例えば、80%である。
また、判定結果表示部901には、例えば、疲労試験の試験状態が「START状態」であることが表示される。また、判定結果表示部901には、例えば、疲労試験の試験状態の判定の確度が第2閾値以上であることを示す「GOOD」が表示される。第2閾値は、例えば、80%である。
【0085】
数値表示部902には、試験値生成部509によって生成された試験値が表示される。
数値表示部902には、例えば、サイクル数の値が表示される。また、数値表示部902には、例えば、サイクル数の値の確度が第3閾値以上であることを示す「GOOD」が表示される。第3閾値は、例えば、80%である。
【0086】
パネル画像表示部903には、パネル撮影画像P3が表示される。本体画像表示部904には、試験機本体撮影画像P1が表示される。試験片画像表示部905には、試験片撮影画像P2が表示される。
【0087】
[1-5.サーバ装置の動作]
次に、サーバ装置5の動作について説明する。
まず、マーカMKの位置の記憶に係わる動作について説明する。
図12は、サーバ装置5の動作を示すフローチャートである。
【0088】
サーバ装置5は、所定の開始トリガーが発生した場合、
図12の動作を行う。ここで、所定の開始トリガーとしては、パネル撮影画像P3におけるマーカMKの位置を更新する指示をユーザから受け付けた場合や、パネル撮影画像P3におけるマーカMKの位置を新規で設定する指示をユーザから受け付けた場合などが例に挙げられる。
【0089】
取得部501は、パネル撮影画像P3を取得する(ステップSA1)。
次いで、第2画像生成部503は、ぼやけ処理のフィルタサイズにデフォルト値を設定する(ステップSA2)。
【0090】
次いで、第2検出部506は、検出すべき全てのマーカMKの位置を検出できたか否かを判定する(ステップSA3)。第2検出部506は、メモリ52が記憶するマーカ画像データ522に格納された画像データの個数分、各々異なるマーカMKの位置を検出できた場合、ステップSA3において肯定判定し、そうでない場合、ステップSA3において否定判定する。
【0091】
第2検出部506が、検出すべき全てのマーカMKの位置を検出できていないと判定した場合(ステップSA3:NO)、第1画像生成部502は、ステップSA1で取得されたパネル撮影画像P3をグレースケール化したグレースケール画像P4を生成する(ステップSA4)。
【0092】
次いで、第2画像生成部503は、ステップSA3で生成されたグレースケール画像P4をぼやけ処理したぼやけ処理画像P5を生成する(ステップSA5)。なお、今回のステップSA5の処理が、
図12のフローチャートを開始して初回の処理である場合、パネル撮影画像P3には、デフォルト値がフィルタサイズに設定されたぼやけ処理が適用される。また、今回のステップSA5の処理が、
図12のフローチャートを開始して2回目以降の処理である場合、パネル撮影画像P3には、ステップSA10で変更された値がフィルタサイズに設定されたぼやけ処理が適用される。
【0093】
次いで、第3画像生成部504は、ステップSA4で生成されたグレースケール画像P4と、ステップSA5で生成されたぼやけ処理画像P5とを用いて、2値化画像P6を生成する(ステップSA6)。
【0094】
次いで、第1検出部505は、マーカ検出処理を行う(ステップSA7)。マーカ検出処理とは、ステップSA6で生成した2値化画像P6からマーカMKを検出する処理である。
【0095】
次いで、第2検出部506は、マーカ位置検出処理を行う(ステップSA8)。マーカ位置検出処理は、ステップSA7のマーカ検出処理において検出されたマーカMKのパネル撮影画像P3における位置を検出する処理である。プロセッサ50は、マーカ検出処理においてマーカMKが検出されなかった場合、ステップSA8の処理をスキップする。
【0096】
次いで、第2検出部506は、マーカ位置検出処理で検出したマーカMKの位置をマーカ位置記憶部525に記憶させる(ステップSA9)。
【0097】
次いで、第2画像生成部503は、フィルタサイズの値を変更する(ステップSA10)。
【0098】
ステップSA10において、第2画像生成部503は、マーカMKのサイズから定めた下限値及び上限値の範囲において、フィルタサイズの値を変更してもよい。第2画像生成部503は、下限値及び上限値をマーカMKのサイズで定める。例えば、第2画像生成部503は、パネル撮影画像P3において推定されるマーカMKの最大サイズの1.5倍をフィルタサイズの上限値として定め、パネル撮影画像P3において推定されるマーカMKの最小サイズの0.5倍をフィルタサイズの下限値として定める。推定されるマーカMKの最大サイズ及び最小サイズについては、予めメモリ52にデータとして記憶されている。なお、本実施形態においてフィルタサイズの最小単位は1画素に対応する。
【0099】
ステップSA10において、第2画像生成部503は、フィルタサイズの値を、現在設定されているフィルタサイズの値より1又は複数段階増減させてもよい。例えば、現在設定されているフィルタサイズが10×10である場合、第2画像生成部503は、フィルタサイズを11×11に変更してもよい。なお、フィルタサイズを増加させる段階は、1段階に限定されず、複数段階でもよい。この段階的に変更するに際して、第2画像生成部503は、上述したフィルタサイズの上限値及び下限値の範囲で変更してもよい。
【0100】
ステップSA10において、第2画像生成部503は、勾配降下法を用いて、フィルタサイズの値を変更してもよい。勾配降下法としては、確率的勾配降下法や最急降下法などが採用される。例えば、第2画像生成部503は、前回のマーク検出処理における一致率の最高値と、前々回のマーク検出処理における一致率の最高値との差分を算出し、算出した差分に応じてフィルタサイズの値を変更する。例えば、算出した差分が大きければ大きいほど、フィルタサイズの値の変化度合いが小さくなるようにして、第2画像生成部503は、フィルタサイズの値を変更する。この勾配降下法による変更するに際して、第2画像生成部503は、上述したフィルタサイズの上限値及び下限値の範囲で変更してもよい。
【0101】
フィルタサイズの値を変更すると、第2検出部506は、再度、ステップSA3の判定を行う。プロセッサ50は、検出すべきマーカMKの位置を全て検出するまで、ステップSA3からステップSA10を繰り返し行う。
【0102】
以上のようにして、サーバ装置5は、2値化画像P6を生成して、生成した2値化画像P6からマーカMKを検出する。
本実施形態の第3カメラ4は低露出状態で撮影をする。低露出状態とは、露出が低い状態を指し、露出が所定値以下である状態を指す。なお、所定値は、第1表示器領域33、第2表示器領域34、及び第3表示器領域35がパネル撮影画像P3において適切に写ることの観点に基づいて、事前のテストやシミュレーションなどによって定められている。そのため、パネル撮影画像P3においては非発光のマーカMKが暗く写る。しかしながら、
図8で示すように、2値化画像P6においてはマーカMKが強調して写る。よって、サーバ装置5は、第3カメラ4が低露出状態であっても第3カメラ4の撮影画像からマーカMKを検出できる。
【0103】
また、
図12を用いて説明した通り、サーバ装置5は、検出すべきマーカMKが全て検出されるまでフィルタサイズを変更する。制御装置20に対する第3カメラ4の相対位置や第3カメラ4の画角によっては、パネル撮影画像P3に写るマーカMKのサイズが異なる。しかしながら、フィルタサイズが変更されるため、マーカMKごとに適切なフィルタサイズが設定できるようになる。そのため、サーバ装置5は、制御装置20に対する第3カメラ4の相対位置や第3カメラ4の画角によることなく、第3カメラ4の撮影画像からマーカMKを検出できる。
【0104】
なお、フィルタサイズの値は、大きければ好適というものでも小さければ好適というものではない。フィルタサイズの値が大きければ大きいほど、マーカMK部分をぼやけ処理する際、フィルタサイズにマーカMK以外の要素が多く含まれる。そのため、フィルタサイズの値が大きければ大きいほど、マーカMK部分をぼやけ処理する際に、マーカMK以外の要素を多く含んで平準化することになり、マーカMKを適正に平準化できない可能性がある。また、マーカMK部分をぼやけ処理する際、フィルタサイズが小さければ小さいほど、フィルタサイズに含まれる白黒の割合に偏りが生じる。よって、フィルタサイズが小さすぎても、マーカMK部分を適切に平準化できない可能性がある。これは、2値化画像P6においては、マーカMKが強調されて写されないことに繋がる。
図13は、フィルタサイズが小さすぎてしまいマーカMKが適切に写らなかった場合の2値化画像P6の一例である。以上説明したように、フィルタサイズを適正な値に決定する必要があるが、サーバ装置5は、フィルタサイズの値を変更するため、フィルタサイズの値を適切な値に設定できる。
【0105】
次に、
図14のフローチャートによって記憶されたマーカMKの位置を用いたサーバ装置5の動作について説明する。
図14は、サーバ装置5の動作を示すフローチャートである。
【0106】
取得部501は、パネル撮影画像P3を取得する(ステップSB1)。
次いで、特定部507は、ステップSB1で取得されたパネル撮影画像P3において第1表示器領域33、第2表示器領域34、及び第3表示器領域35に対応する領域を特定する(ステップSB2)。
【0107】
次いで、画像処理部508は、ステップSB2で特定された領域から、ディスプレイ画像P7、第1ランプ画像P8、及び第2ランプ画像P9を生成する(ステップSB3)。
【0108】
次いで、判定部510は、状態判定処理を行う(ステップSB4)。状態判定処理は、油圧源状態を判定する処理と、疲労試験の試験状態を判定する処理とを含む。
【0109】
次に、試験値生成部509は、試験値を生成する(ステップSB5)
次に、表示制御部511は、ユーザからの操作に基づいて、第1画面800を表示するか、第2画面900を表示するかを判定する(ステップSB6)。
【0110】
表示制御部511は、第1画面800を表示すると判定した場合(ステップSB5:第1画面)、表示部56に第1画面800を表示させる(ステップSB6)。
【0111】
次いで、表示制御部511は、第2画面900を表示すると判定した場合(ステップSB5:第2画面)、表示部56に第2画面900を表示させる(ステップSB7)。
【0112】
[2.第2実施形態]
次に、第2実施形態について説明する。
第2実施形態の監視システム100の各部の構成について、第1実施形態と同じ構成については、同一の符号を付して詳細な説明を省略する。
【0113】
[2-1.サーバ装置の構成]
図15は、第2実施形態に係わるサーバ装置5の構成の一例を示す図である。
図15と
図5とを比較して明らかな通り、第2実施形態のメモリ52は、第3学習済みモデル528を記憶する。
第3学習済みモデル528は、「学習済みモデル」の一例に対応する。
【0114】
第3学習済みモデル528は、フィルタパラメータの値と、パネル撮影画像P3におけるマーカMKの位置と、当該位置にマーカMKが存在する存在確率と、の関係を機械学習(いわゆる、「教師あり学習」)により学習させた学習済みモデルである。なお、存在確率は、例えば、百分率で表される。第3学習済みモデル528は、フィルタパラメータの値が入力されると、パネル撮影画像P3におけるマーカMKの位置と当該位置にマーカMKが存在する存在確率との組み合わせを出力する。なお、第3学習済みモデル528は、この組み合わせを複数出力する。
【0115】
第2実施形態の第2画像生成部503は、第3学習済みモデル528を用いて、フィルタパラメータの値を変更する。第2実施形態においてもフィルタパラメータとしてフィルタサイズを例示する。第2実施形態におけるフィルタサイズの値の変更については、後述する。
【0116】
[2-2.サーバ装置の動作]
図16を参照して、マーカMKの位置の記憶に係わるサーバ装置5の動作について説明する。なお、マーカMKの位置を用いた第1画面800及び第2画面900に係わる動作については、第2実施形態のサーバ装置5は、第1実施形態と同様の動作を行う。
図16は、サーバ装置5の動作を示すフローチャートである。
【0117】
サーバ装置5は、所定の開始トリガーが発生した場合、
図16の動作を行う。ここで、所定の開始トリガーとしては、パネル撮影画像P3におけるマーカMKの位置を更新する指示をユーザから受け付けた場合や、パネル撮影画像P3におけるマーカMKの位置を設定する指示をユーザから受け付けた場合などが例に挙げられる。
【0118】
取得部501は、パネル撮影画像P3を取得する(ステップSC1)。
次いで、第2画像生成部503は、ぼやけ処理のフィルタサイズに設定する値を決定し、決定した値を設定する(ステップSC2)。
【0119】
ステップSC2において、第2画像生成部503は、第3学習済みモデル528が出力する存在確率の少なくともいずれかが所定確率以上となるまで、フィルタサイズに設定する値の候補を1又は複数段階で増減していく。なお、第2画像生成部503は、フィルタサイズの値の候補を変更するたびに、第3学習済みモデル528に変更したフィルタサイズを入力する。なお、フィルタサイズを変更させる段階は、1段階に限定されず、複数段階でもよい。第2画像生成部503は、第3学習済みモデル528が出力する存在確率の少なくともいずれかが所定確率以上となった場合に、直近で第3学習済みモデル528に入力したフィルタサイズの値の候補をフィルタサイズに設定する値として決定する。なお、第2画像生成部503は、第1実施形態と同様に、マーカMKのサイズから定めた下限値及び上限値の範囲において、フィルタサイズの値を変更してもよい。
【0120】
ステップSC2において、第2画像生成部503は、第3学習済みモデル528が出力する存在確率を用いて、勾配降下法によってフィルタサイズの値の候補を決定してもよい。第2画像生成部503は、フィルタサイズの値の候補を第3学習済みモデル528に入力し、第3学習済みモデル528から存在確率を取得する。第2画像生成部503は、出力された存在確率が所定確率以下である場合、フィルタサイズの値の候補を変更し、変更したフィルタサイズの値の候補を第3学習済みモデル528に入力し、再度、第3学習済みモデル528から存在確率を取得する。次いで、第2画像生成部503は、今回に取得した存在確率が所定確率以下である場合、今回に取得した存在確率と、前回に取得した存在確率との差分を算出し、算出した差分に応じてフィルタサイズの値の候補を変更する。例えば、算出した差分が大きければ大きいほど、フィルタサイズの値の候補の変化度合いが小さくなるようにして、第2画像生成部503は、フィルタサイズの値の候補を変更する。第2画像生成部503は、第3学習済みモデル528が出力する存在確率が所定確率以上になるまで、フィルタサイズの値の候補を変更し続ける。そして、第2画像生成部503は、第3学習済みモデル528が出力する存在確率の少なくともいずれかが所定確率以上となった場合に、直近で第3学習済みモデル528に入力したフィルタサイズの値の候補をフィルタサイズに設定する値として決定する。なお、第2画像生成部503は、第1実施形態と同様に、マーカMKのサイズから定めた下限値及び上限値の範囲において、フィルタサイズの値を変更してもよい。
【0121】
次いで、第2検出部506は、検出すべき全てのマーカMKの位置を検出できたか否かを判定する(ステップSC3)。ステップSC3の判定は、ステップSA3と同様の手法によって行われる。
【0122】
第2検出部506が、検出すべき全てのマーカMKの位置を検出できていないと判定した場合(ステップSC3:NO)、第1画像生成部502は、ステップSC1で取得されたパネル撮影画像P3をグレースケール化したグレースケール画像P4を生成する(ステップSC4)。
【0123】
次いで、第2画像生成部503は、ステップSC3で生成されたグレースケール画像P4をぼやけ処理したぼやけ処理画像P5を生成する(ステップSC5)。なお、今回のステップSC5の処理が、
図16のフローチャートを開始して初回である場合、パネル撮影画像P3には、ステップSC2で決定された値がフィルタサイズに設定されたぼやけ処理が適用される。また、今回のステップSC5の処理が、
図16のフローチャートを開始して2回目以降である場合、パネル撮影画像P3には、ステップSC10で変更された値がフィルタサイズに設定されたぼやけ処理が適用される。
【0124】
次いで、第3画像生成部504は、ステップSC4で生成されたグレースケール画像P4と、ステップSA5で生成されたぼやけ処理画像P5とを用いて、2値化画像P6を生成する(ステップSC6)。
【0125】
次いで、第1検出部505は、マーカ検出処理を行う(ステップSC7)。ステップSC7のマーカ検出処理とは、ステップSC6で生成した2値化画像P6からマーカMKを検出する処理である。なお、今回のステップSC6の処理が、
図16のフローチャートを開始して初回の処理である場合、第1検出部505は、ステップSC2の処理において存在確率が所定確率以上であるとした2値化画像P6の位置に対して、パターンマッチングを行う。また、今回のステップSC6の処理が、
図16のフローチャートを開始して2回目以降の処理である場合、第1検出部505は、ステップSC10の処理において存在確率が所定確率以上であるとした2値化画像P6の位置に対して、パターンマッチングを行う。
【0126】
次いで、第2検出部506は、マーカ位置検出処理を行う(ステップSC8)。ステップSC8のマーカ位置検出処理は、ステップSC7のマーカ検出処理において検出されたマーカMKのパネル撮影画像P3における位置を検出する処理である。プロセッサ50は、マーカ検出処理においてマーカMKが検出されなかった場合、ステップSC8の処理をスキップする。
【0127】
次いで、第2検出部506は、マーカ位置検出処理で検出したマーカMKの位置をマーカ位置記憶部525に記憶させる(ステップSC9)。
【0128】
次いで、第2画像生成部503は、フィルタサイズの値を変更する(ステップSC10)。ステップSC10における変更は、ステップSC2における値の決定と同様に行われる。
【0129】
フィルタサイズの値を変更すると、第2検出部506は、再度、ステップSC3の判定を行う。プロセッサ50は、検出すべきマーカMKの位置を全て検出するまで、ステップSC3からステップSC10を繰り返し行う。
【0130】
第2実施形態によれば、第1実施形態と同様の効果を奏することができる。
【0131】
[3.態様]
上述した各実施形態は、以下の態様の具体例であることが当業者により理解される。
【0132】
(第1項)
一態様に係わる監視装置は、表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置であって、前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、前記第1処理画像をぼやけ処理した第2処理画像を生成する第2生成部と、前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、前記第3処理画像から前記マーカを検出する第1検出部と、を備える。
【0133】
第1項に記載の監視装置によれば、第1検出部が検出に用いる画像において非発光のマーカを強調して写すことができる。そのため、カメラの露出が低い場合でも表示器の表示パネルが有する非発光のマーカをカメラの撮影画像から検出できる。
【0134】
(第2項)
第1項に記載の監視装置において、前記第1検出部が検出した前記マーカの前記撮影画像における位置を検出する第2検出部を備え、前記第2生成部は、前記ぼやけ処理のフィルタパラメータの値を変更し、前記第2検出部が検出すべき前記マーカの全ての位置を検出していない場合、値を変更した前記フィルタパラメータによって前記ぼやけ処理した前記第2処理画像を生成し、前記第3生成部は、値が変更された前記フィルタパラメータによって前記ぼやけ処理された前記第2処理画像と、前記第1処理画像とに基づいて、前記第3処理画像を再度生成し、前記第1検出部は、前記第3生成部により再度生成された前記第3処理画像から前記マーカを検出する。
【0135】
第2項に記載の監視装置によれば、検出すべてマーカの全ての位置を検出していない場合、フィルタパラメータの値を変更することによって再度、マーカの検出を行う。そのため、カメラの露出が低い場合でも、表示器の表示パネルが有する非発光のマーカの全てをカメラの撮影画像から検出できる。
【0136】
(第3項)
第2項に記載の監視装置において、前記フィルタパラメータの値と、前記撮影画像における前記マーカの位置と、当該位置に前記マーカが存在する存在確率と、の関係を機械学習により学習させた学習済みモデルを備え、前記第2生成部は、前記フィルタパラメータの入力によって前記学習済みモデルが出力した前記存在確率に基づいて、前記フィルタパラメータの値を変更する。
【0137】
第3項に記載の監視装置によれば、学習済みモデルが出力する存在確率を用いてフィルタパラメータの値を変更するため、フィルタパラメータの値を、マーカを検出できる可能性の高いフィルタパラメータの値を適切に変更できる。よって、カメラの露出が低い場合でも表示器の表示パネルが有する非発光のマーカをカメラの撮影画像から精度良く検出できる。
【0138】
(第4項)
第3項に記載の監視装置において、前記第2生成部は、前記存在確率を用いた勾配降下法によって、前記フィルタパラメータの値を変更する。
【0139】
第4項に記載の監視装置によれば、段階的にフィルタパラメータの値を変更しなくても適切なフィルタパラメータの値に変更できる。よって、効率良くフィルタパラメータの値を変更できるため、非発光のマーカを速やかに検出できる。
【0140】
(第5項)
構成1から構成4のいずれか一項に記載の監視装置において、前記第1検出部が検出した前記マーカの前記撮影画像における位置を検出する第2検出部と、前記第2検出部が検出した前記マーカの位置に基づいて、前記撮影画像から前記表示パネルの所定領域に対応する領域を特定する特定部と、を備える。
【0141】
第5項に記載の監視装置によれば、カメラの露出が低い場合でも、非発光のマーカを用いて当該カメラの撮影画像から表示パネルの所定領域を特定できる。
【0142】
(第6項)
別の一態様に係わる監視システムは、表示パネルに非発光のマーカを有する表示器を備える材料試験機の監視装置と、前記表示パネルを撮影するカメラとを有する監視システムであって、前記監視装置は、前記表示パネルを撮影するカメラの撮影画像を取得する取得部と、前記撮影画像をグレースケール化した第1処理画像を生成する第1生成部と、前記第1処理画像をぼやけ処理した第2処理画像を生成する第2生成部と、前記第1処理画像を前記第2処理画像に基づき2値化した第3処理画像を生成する第3生成部と、前記第3処理画像から前記マーカを検出する第1検出部と、を備える。
【0143】
第6項に記載の監視システムによれば、第1項に記載の監視装置の効果と同様の効果を奏する。
【0144】
[4.その他の実施形態]
なお、各実施形態に係る疲労試験機1は、あくまでも本発明に係る材料試験機の態様の例示であり、本発明の主旨を逸脱しない範囲において任意に変形および応用が可能である。
【0145】
例えば、上述した各実施形態では、材料試験機が疲労試験機1である場合について説明するが、これに限定されない。材料試験機が、例えば、引張試験機、圧縮試験機、曲げ試験機、ねじり試験機等であってもよい。
【0146】
例えば、上述した各実施形態では、フィルタパラメータとしてフィルタサイズを例示した。しかしながら、フィルタパラメータは、ぼやけ処理がガウシアンフィルタである場合、標準偏差や平均値としてもよい。
【0147】
例えば、上述した各実施形態では、ぼやけ処理としてガウシアンフィルタを例示したが、ぼやけ処理はガウシアンフィルタに限定されず、平均化フィルタなどの他のフィルタでもよい。例えば、ぼやけ処理が平均化フィルタである場合、フィルタパラメータは、フィルタサイズとしてもよい。
【0148】
例えば、上述した各実施形態では、表示器は制御装置20に限定されない。表示器は、表示パネル21の構成と同じ構成であれば制御装置20と別体でもよい。
【0149】
また、例えば、マーカMKの色は、上述した実施形態の色に限定されない。マーカMKは、非発光のマーカMKであればよい。
【0150】
また、
図5及び
図15に示した各機能部は機能的構成を示すものであって、具体的な実装形態は特に制限されない。つまり、必ずしも各機能部に個別に対応するハードウェアが実装される必要はなく、一つのプロセッサがプログラムを実行することで複数の機能部の機能を実現する構成とすることも勿論可能である。また、上記実施形態においてソフトウェアで実現される機能の一部をハードウェアで実現してもよく、或いは、ハードウェアで実現される機能の一部をソフトウェアで実現してもよい。
【0151】
また、
図12、
図14、及び
図16に示すフローチャートの処理単位は、サーバ装置5による処理を理解容易にするために、主な処理内容に応じて分割したものである。これらフローチャートに示す処理単位の分割の仕方や名称によって制限されることはなく、処理内容に応じて、さらに多くの処理単位に分割することもできるし、1つの処理単位がさらに多くの処理を含むように分割することもできる。また、上記のフローチャートの処理順序も、図示した例に限られるものではない。
【0152】
プロセッサ50に実行させる制御プログラム521は、コンピュータで読み取り可能に記録した記録媒体に記録しておくことも可能である。
記録媒体としては、磁気的、光学的記録媒体又は半導体メモリデバイスを用いることができる。具体的には、フレキシブルディスク、HDD、CD-ROM(Compact Disk Read Only Memory)、DVD、Blu-ray(登録商標) Disc、光磁気ディスク、フラッシュメモリ、カード型記録媒体等の可搬型、或いは固定式の記録媒体が挙げられる。
また、記録媒体は、サーバ装置5が備える内部記憶装置であるRAM、ROM、HDD等の不揮発性記憶装置であってもよい。また、制御プログラム521をサーバ装置5と異なる他のサーバ装置等に記憶させておき、サーバ装置5は、当該他のサーバ装置から制御プログラム521をダウンロードしてもよい。
【符号の説明】
【0153】
1 疲労試験機(材料試験機)
4 第3カメラ(カメラ)
5 サーバ装置(監視装置)
20 制御装置(表示器)
33 第1表示器領域(所定領域)
34 第2表示器領域(所定領域)
35 第3表示器領域(所定領域)
100 監視システム
501 取得部
502 第1画像生成部(第1生成部)
503 第2画像生成部(第2生成部)
504 第3画像生成部(第3生成部)
505 第1検出部
506 第2検出部
507 特定部
521 制御プログラム
528 第3学習済みモデル(学習済みモデル)
MK マーカ
P3 パネル撮影画像(カメラの撮影画像)
P4 グレースケール画像(第1処理画像)
P5 ぼやけ処理画像(第2処理画像)
P6 2値化画像(第3処理画像)