(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-11-30
(45)【発行日】2022-12-08
(54)【発明の名称】欠陥検出支援装置、該方法および該プログラム
(51)【国際特許分類】
G01N 21/88 20060101AFI20221201BHJP
G06N 20/00 20190101ALI20221201BHJP
【FI】
G01N21/88 J
G06N20/00 130
(21)【出願番号】P 2018192376
(22)【出願日】2018-10-11
【審査請求日】2020-05-15
【審判番号】
【審判請求日】2022-02-24
(73)【特許権者】
【識別番号】594126159
【氏名又は名称】神鋼検査サービス株式会社
(74)【代理人】
【識別番号】100115381
【氏名又は名称】小谷 昌崇
(74)【代理人】
【識別番号】100111453
【氏名又は名称】櫻井 智
(72)【発明者】
【氏名】山根 佑之
(72)【発明者】
【氏名】佐々木 昇
(72)【発明者】
【氏名】遠藤 英樹
(72)【発明者】
【氏名】伴 浩之
【合議体】
【審判長】長井 真一
【審判官】樋口 宗彦
【審判官】伊藤 幸仙
(56)【参考文献】
【文献】特開2013-224943(JP,A)
【文献】特許第6294529(JP,B2)
【文献】国際公開第2018/025336(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G01N21/84-21/958
G01B11/00-11/30
(57)【特許請求の範囲】
【請求項1】
検査対象の構造物に形成された欠陥の検出を支援する欠陥検出支援装置であって、
前記構造物の画像を取得する画像取得部と、
機械学習後の推定モデルを用いることによって、前記画像取得部によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定部と、
前記推定部から出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定部と、
前記確率判定部で前記推定部から出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定部から出力された確率を持つ前記構造物の画像を出力する出力部と、
前記推定モデルの機械学習に用いられる学習データを記憶する学習データ記憶部と、
前記出力部から出力された前記構造物の画像に対する欠陥の有無をインプットする入力部と、
前記出力部から出力された前記構造物の画像に対する前記欠陥の有無の技術者による判定に要した判定時間を取得する判定時間取得部と、
前記判定時間取得部で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定部と、
前記判定時間取得部で取得された判定時間が前記所定の判定閾値以下であると前記時間判定部によって判定された場合に、前記出力部から出力された前記構造物の画像と前記入力部でインプットされた前記欠陥の有無とを互いに対応付けたデータを前記学習データとして前記学習データ記憶部に記憶する記憶処理部とを備える、
欠陥検出支援装置。
【請求項2】
前記出力部は、さらに、前記推定部から出力された確率が、前記所定の確率判定範囲に属しないと判定された場合に、前記欠陥の有無を出力する、
請求項1に記載の欠陥検出支援装置。
【請求項3】
前記学習データ記憶部に記憶された学習データを用いて前記推定モデルを再度、機械学習する再機械学習部をさらに備える、
請求項
1または請求項2に記載の欠陥検出支援装置。
【請求項4】
前記推定部は、前記欠陥の有無に関する確率として欠陥有りの有り確率を出力し、
前記確率判定範囲は、下限を表す下限閾値から、上限を表す第1上限閾値までの範囲であり、
前記下限閾値は、前記推定モデルの機械学習に用いられた学習データを前記機械学習後の推定部に入力することによって前記推定部から出力された有り確率のうちの50%未満の有り確率における第1平均値および第1標準偏差に基づいて決定され、前記第1上限閾値は、前記推定部から出力された前記有り確率のうちの50%を超えた有り確率における第2平均値および第2標準偏差に基づいて決定される、
請求項1ないし請求項
3のいずれか1項に記載の欠陥検出支援装置。
【請求項5】
前記推定部は、前記欠陥の有無に関する確率として欠陥無しの無し確率を出力し、
前記確率判定範囲は、0%から上限を表す第2上限閾値までの範囲であり、
前記第2上限閾値は、前記推定モデルの機械学習に用いられた学習データを前記機械学習後の推定部に入力することによって前記推定部から出力された無し確率のうちの50%を超えた無し確率における第3平均値および第3標準偏差に基づいて決定される、
請求項1
または請求項2に記載の欠陥検出支援装置。
【請求項6】
前記判定時間にかかる前記判定閾値は、複数の、前記構造物の画像に対する欠陥の有無の判定に要した判定時間における第4平均値および第4標準偏差に基づいて決定される、
請求項
1ないし請求項5のいずれか1項に記載の欠陥検出支援装置。
【請求項7】
前記欠陥の無い構造物の画像を学習データとして用いた機械学習によって前記推定モデルを生成する機械学習部をさらに備える、
請求項1ないし請求項
6のいずれか1項に記載の欠陥検出支援装置。
【請求項8】
検査対象の構造物に形成された欠陥の検出を支援する欠陥検出支援方法であって、
前記構造物の画像を取得する画像取得工程と、
機械学習後の推定モデルを用いることによって、前記画像取得工程によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定工程と、
前記推定工程で出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定工程と、
前記確率判定工程で前記推定工程で出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定工程で出力された確率を持つ前記構造物の画像を出力する出力工程と、
前記推定モデルの機械学習に用いられる学習データを学習データ記憶部に記憶する記憶工程と、
前記出力工程で出力された前記構造物の画像に対する欠陥の有無をインプットする入力工程と、
前記出力工程で出力された前記構造物の画像に対する前記欠陥の有無の技術者による判定に要した判定時間を取得する判定時間取得工程と、
前記判定時間取得工程で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定工程と、
前記判定時間取得工程で取得された判定時間が前記所定の判定閾値以下であると前記時間判定工程によって判定された場合に、前記出力工程で出力された前記構造物の画像と前記入力工程でインプットされた前記欠陥の有無とを互いに対応付けたデータを前記学習データとして前記学習データ記憶部に記憶する記憶処理工程とを備える、
欠陥検出支援方法。
【請求項9】
検査対象の構造物に形成された欠陥の検出を支援する欠陥検出支援プログラムであって、
コンピュータに、
前記構造物の画像を取得する画像取得工程と、
機械学習後の推定モデルを用いることによって、前記画像取得工程によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定工程と、
前記推定工程で出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定工程と、
前記確率判定工程で前記推定工程で出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定工程で出力された確率を持つ前記構造物の画像を出力する出力工程と、
前記推定モデルの機械学習に用いられる学習データを学習データ記憶部に記憶する記憶工程と、
前記出力工程で出力された前記構造物の画像に対する欠陥の有無をインプットする入力工程と、
前記出力工程で出力された前記構造物の画像に対する前記欠陥の有無の技術者による判定に要した判定時間を取得する判定時間取得工程と、
前記判定時間取得工程で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定工程と、
前記判定時間取得工程で取得された判定時間が前記所定の判定閾値以下であると前記時間判定工程によって判定された場合に、前記出力工程で出力された前記構造物の画像と前記入力工程でインプットされた前記欠陥の有無とを互いに対応付けたデータを前記学習データとして前記学習データ記憶部に記憶する記憶処理工程とを実行させるための欠陥検出支援プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検査対象の構造物に形成された例えば亀裂等の欠陥の検出を支援する欠陥検出支援装置、欠陥検出支援方法および欠陥検出支援プログラムに関する。
【背景技術】
【0002】
例えば、道路、橋梁、建物、クレーン、ダムおよび堤防等の構造物には、その劣化等によって表面、表面近傍および内部等に欠陥を生じることがある。前記欠陥とは、材料およびその接合部等に生じた亀裂、ボイド、介在物等の不連続部を意味する。このような欠陥を検出する技術が例えば特許文献1に提案されている。
【0003】
この特許文献1に開示された鋼床版の亀裂検出方法は、デッキプレートと、当該デッキプレートの下面に配置されたリブとを有する鋼床版において、前記リブが前記デッキプレートに対して当該リブの長手方向に沿って溶接された溶接部分の亀裂を検出する方法であって、対象物から生じる赤外線放射エネルギーを検出することによって温度分布を取得する機器を前記溶接部分の延びる方向に沿って移動させながら、当該溶接部分に交差する方向についての温度分布を前記対象物から生じる赤外線放射エネルギーを検出することによって前記機器の移動方向に沿って順次取得する温度分布取得工程と、取得された前記温度分布から、前記溶接部分における温度勾配を算出する温度勾配算出工程と、算出された前記温度勾配に基づいて、前記溶接部分における亀裂を検出する検出工程とを含む。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところで、いわゆる高度成長期以降に比較的盛んに作られたインフラストラクチャーにかかる構造物の老朽化は、今日、進行を続けており、このような構造物を検査する技術者の需要は、伸びつつある。しかしながら、技術者の育成には、時間を要し、超高齢化社会では労働者人口も減少してきているため、前記需要に応えることが難しい。このため、技術者の負担は、増加しつつある。前記特許文献1に開示された鋼床版の亀裂検出方法を利用することによって、鋼床版の亀裂検出では、技術者の負担を軽減することは可能であるが、他の亀裂の検出には、技術者の負担を軽減することが難しい。また、前記特許文献1に開示された手法は、算出した温度勾配の比率から二者択一で亀裂の有無を決定する。このため、判定基準値近傍では、誤判断が生じる虞があるため、技術者による再チェックが必要となることから、技術者の負担を軽減することが難しい。
【0006】
本発明は、上述の事情に鑑みて為された発明であり、その目的は、より汎用性が高く、技術者の負担をより軽減できる欠陥検出支援装置、欠陥検出支援方法および欠陥検出支援プログラムを提供することである。
【課題を解決するための手段】
【0007】
本発明者は、種々検討した結果、上記目的は、以下の本発明により達成されることを見出した。すなわち、本発明の一態様にかかる欠陥検出支援装置は、検査対象の構造物に形成された欠陥の検出を支援する装置であって、前記構造物の画像を取得する画像取得部と、機械学習後の推定モデルを用いることによって、前記画像取得部によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定部と、前記推定部から出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定部と、前記確率判定部で前記推定部から出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定部から出力された確率を持つ前記構造物の画像を出力する出力部と、前記推定モデルの機械学習に用いられる学習データを記憶する学習データ記憶部と、前記出力部から出力された前記構造物の画像に対する欠陥の有無をインプットする入力部と、前記出力部から出力された前記構造物の画像に対する前記欠陥の有無の技術者による判定に要した判定時間を取得する判定時間取得部と、前記判定時間取得部で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定部と、前記判定時間取得部で取得された判定時間が前記所定の判定閾値以下であると前記時間判定部によって判定された場合に、前記出力部から出力された前記構造物の画像と前記入力部でインプットされた前記欠陥の有無とを互いに対応付けたデータを前記学習データとして前記学習データ記憶部に記憶する記憶処理部とを備える。好ましくは、上述の欠陥検出支援装置において、前記画像取得部は、前記構造物の画像を生成する撮像装置である。好ましくは、上述の欠陥検出支援装置において、前記画像取得部は、外部の機器との間でデータを入出力するインターフェース回路であり、前記外部の機器は、前記構造物の画像を記憶した記憶媒体である。好ましくは、上述の欠陥検出支援装置において、前記画像取得部は、外部の機器との間でデータを入出力するインターフェース回路であり、前記外部の機器は、前記構造物の画像を記録した記録媒体からデータを読み込むドライブ装置である。好ましくは、上述の欠陥検出支援装置において、前記画像取得部は、外部の機器と通信信号を送受信する通信インターフェース回路であって、前記外部の機器は、ネットワークを介して前記通信インターフェース回路に接続され、前記構造物の画像を管理するサーバ装置である。好ましくは、上述の欠陥検出支援装置において、前記推定モデルは、ニューラルネットワーク、サポートベクターマシンおよびランダムフォレスト等の機械学習に用いる手法を利用した機械学習モデルを備えて構成される。好ましくは、前記ニューラルネットワークは、例えば畳み込みニューラルネットワーク(CNN)等の深層学習に利用されるニューラルネットワークである。機械学習の手法は、「教師有り学習」および「半教師有り学習」であることが好ましい。
【0008】
このような欠陥検出支援装置は、機械学習後の推定モデルを用いることによって、構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定部を備えるので、前記構造物の画像を取得すれば、前記構造物に形成された欠陥の有無に関する確率を得られるから、より汎用性が高い。上記欠陥検出支援装置は、前記推定部から出力された確率が前記所定の確率判定範囲に属すると判定された場合における前記構造物の画像を出力するので、技術者は、この欠陥の有無が不確かであると判定されて出力された前記構造物の画像に対し、前記構造物に形成された欠陥の有無を判定すればよいので、すなわち、前記推定部から出力された確率が前記所定の確率判定範囲に属するとは判定されなかった前記構造物の画像に対しては、前記構造物に形成された欠陥の有無を判定しなくて済むので、技術者の負担をより軽減できる。上記欠陥検出支援装置は、前記推定部から出力された確率が前記所定の確率判定範囲に属すると判定された場合における前記構造物の画像を学習データとして利用できるので、前記推定モデルを再機械学習する際に、学習データを増加できる。しかも、上記欠陥検出支援装置は、前記判定時間が前記所定の判定閾値以下である前記構造物の画像を学習データとするので、技術者によって比較的容易に欠陥の有無を判断できる前記構造物の画像を、学習データにすることが可能となるから、すなわち、技術者によって判断の分かれ易い欠陥の有無の判断が比較的難しい前記構造物の画像を、学習データにしないことが可能となるから、前記推定モデルを再機械学習する際に、出力精度を劣化し難い。
【0009】
他の一態様では、上述の欠陥検出支援装置において、前記出力部は、さらに、前記推定部から出力された確率が、前記所定の確率判定範囲に属しないと判定された場合に、前記欠陥の有無を出力する。
【0010】
このような欠陥検出支援装置は、出力部から欠陥の有無を出力するので、ユーザは、検査対象の欠陥の有無を認識できる。
【0013】
他の一態様では、上述の欠陥検出支援装置において、前記学習データ記憶部に記憶された学習データを用いて前記推定モデルを再度、機械学習する再機械学習部をさらに備える。
【0014】
このような欠陥検出支援装置は、前記推定モデルを再度、機械学習するので、出力精度の向上が期待できる。
【0015】
他の一態様では、これら上述の欠陥検出支援装置において、前記推定部は、前記欠陥の有無に関する確率として欠陥有りの「有り確率」を出力し、前記確率判定範囲は、下限を表す下限閾値から、上限を表す第1上限閾値までの範囲であり、前記下限閾値は、前記推定モデルの機械学習に用いられた学習データを前記機械学習後の推定部に入力することによって前記推定部から出力された「有り確率」のうちの50%未満の「有り確率」における第1平均値および第1標準偏差に基づいて決定され、前記第1上限閾値は、前記推定部から出力された前記「有り確率」のうちの50%を超えた「有り確率」における第2平均値および第2標準偏差に基づいて決定される。
【0016】
このような欠陥検出支援装置では、下限閾値および第1上限閾値が統計的に決定されるので、上記欠陥検出支援装置は、前記欠陥の有無が不確かな確率判定範囲を客観的に決定できる。
【0017】
他の一態様では、これら上述の欠陥検出支援装置において、前記推定部は、前記欠陥の有無に関する確率として欠陥無しの「無し確率」を出力し、前記確率判定範囲は、0%から上限を表す第2上限閾値までの範囲であり、前記第2上限閾値は、前記推定モデルの機械学習に用いられた学習データを前記機械学習後の推定部に入力することによって前記推定部から出力された「無し確率」のうちの50%を超えた「無し確率」における第3平均値および第3標準偏差に基づいて決定される。
【0018】
このような欠陥検出支援装置では、第2上限閾値が統計的に決定されるので、上記欠陥検出支援装置は、前記欠陥の有無が不確な確率判定範囲を客観的に決定できる。
【0019】
他の一態様では、これら上述の欠陥検出支援装置において、前記判定時間にかかる前記判定閾値は、複数の、前記構造物の画像に対する欠陥の有無の判定に要した判定時間における第4平均値および第4標準偏差に基づいて決定される。
【0020】
このような欠陥検出支援装置では、判定閾値が統計的に決定されるので、上記欠陥検出支援装置は、学習データとする前記構造物の画像を客観的に決定できる。
【0021】
他の一態様では、これら上述の欠陥検出支援装置において、前記欠陥の無い構造物の画像を学習データとして用いた機械学習によって前記推定モデルを生成する機械学習部をさらに備える。
【0022】
このような欠陥検出支援装置は、比較的取得の容易な前記亀欠陥無い構造物の画像で機械学習できる。
【0023】
本発明の他の一態様にかかる欠陥検出支援方法は、検査対象の構造物に形成された欠陥の検出を支援する方法であって、前記構造物の画像を取得する画像取得工程と、機械学習後の推定モデルを用いることによって、前記画像取得工程によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定工程と、前記推定工程で出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定工程と、前記確率判定工程で前記推定工程で出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定工程で出力された確率を持つ前記構造物の画像を出力する出力工程と、前記推定モデルの機械学習に用いられる学習データを学習データ記憶部に記憶する記憶工程と、前記出力工程で出力された前記構造物の画像に対する欠陥の有無をインプットする入力工程と、前記出力工程で出力された前記構造物の画像に対する前記欠陥の有無の技術者による判定に要した判定時間を取得する判定時間取得工程と、前記判定時間取得工程で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定工程と、前記判定時間取得工程で取得された判定時間が前記所定の判定閾値以下であると前記時間判定工程によって判定された場合に、前記出力工程で出力された前記構造物の画像と前記入力工程でインプットされた前記欠陥の有無とを互いに対応付けたデータを前記学習データとして前記学習データ記憶部に記憶する記憶処理工程とを備える。
【0024】
本発明の他の一態様にかかる欠陥検出支援プログラムは、検査対象の構造物に形成された欠陥の検出を支援するプログラムであって、コンピュータに、前記構造物の画像を取得する画像取得工程と、機械学習後の推定モデルを用いることによって、前記画像取得工程によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定工程と、前記推定工程で出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定工程と、前記確率判定工程で前記推定工程で出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定工程で出力された確率を持つ前記構造物の画像を出力する出力工程と、前記推定モデルの機械学習に用いられる学習データを学習データ記憶部に記憶する記憶工程と、前記出力工程で出力された前記構造物の画像に対する欠陥の有無をインプットする入力工程と、前記出力工程で出力された前記構造物の画像に対する前記欠陥の有無の技術者による判定に要した判定時間を取得する判定時間取得工程と、前記判定時間取得工程で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定工程と、前記判定時間取得工程で取得された判定時間が前記所定の判定閾値以下であると前記時間判定工程によって判定された場合に、前記出力工程で出力された前記構造物の画像と前記入力工程でインプットされた前記欠陥の有無とを互いに対応付けたデータを前記学習データとして前記学習データ記憶部に記憶する記憶処理工程とを実行させるためのプログラムである。
【0025】
このような欠陥検出支援方法および欠陥検出支援プログラムは、機械学習後の推定モデルを用いることによって、構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定工程を備えるので、前記構造物の画像を取得すれば、前記構造物に形成された欠陥の有無に関する確率を得られるから、より汎用性が高い。上記欠陥検出支援方法および欠陥検出支援プログラムは、前記推定工程で出力された確率が前記所定の確率判定範囲に属すると判定された場合における前記構造物の画像を出力するので、技術者は、この欠陥の有無が不確かであると判定されて出力された前記構造物の画像に対し、前記構造物に形成された欠陥の有無を判定すればよいので、すなわち、前記推定工程から出力された確率が前記所定の確率判定範囲に属するとは判定されなかった前記構造物の画像に対しては、前記構造物に形成された欠陥の有無を判定しなくて済むので、技術者の負担をより軽減できる。上記欠陥検出支援方法および欠陥検出支援プログラムは、前記推定行程から出力された確率が前記所定の確率判定範囲に属すると判定された場合における前記構造物の画像を学習データとして利用できるので、前記推定モデルを再機械学習する際に、学習データを増加できる。しかも、上記欠陥検出支援方法および欠陥検出支援プログラムは、前記判定時間が前記所定の判定閾値以下である前記構造物の画像を学習データとするので、技術者によって比較的容易に欠陥の有無を判断できる前記構造物の画像を、学習データにすることが可能となるから、すなわち、技術者によって判断の分かれ易い欠陥の有無の判断が比較的難しい前記構造物の画像を、学習データにしないことが可能となるから、前記推定モデルを再機械学習する際に、出力精度を劣化し難い。
【発明の効果】
【0026】
本発明にかかる欠陥検出支援装置、欠陥検出支援方法および欠陥検出支援プログラムは、より汎用性が高く、技術者の負担をより軽減できる。
【図面の簡単な説明】
【0027】
【
図1】実施形態における欠陥検出支援装置の構成を示すブロック図である。
【
図2】前記欠陥検出支援装置に用いられる確率判定範囲における上下限閾値を説明するための図である。
【
図3】欠陥の一例として、亀裂を生じている構造物の画像を示す図である。
【
図4】前記欠陥検出支援装置の動作を示すフローチャートである。
【発明を実施するための形態】
【0028】
以下、図面を参照して、本発明の1または複数の実施形態が説明される。しかしながら、発明の範囲は、開示された実施形態に限定されない。なお、各図において同一の符号を付した構成は、同一の構成であることを示し、適宜、その説明を省略する。本明細書において、総称する場合には添え字を省略した参照符号で示し、個別の構成を指す場合には添え字を付した参照符号で示す。
【0029】
実施形態における欠陥検出支援装置は、検査対象の構造物に形成された欠陥の検出を支援する装置であって、前記構造物の画像を取得する画像取得部と、機械学習後の推定モデルを用いることによって、前記画像取得部によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定部と、前記推定部から出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定部と、前記確率判定部で前記推定部から出力された確率が前記所定の確率判定範囲に属すると判定された場合に、前記推定部から出力された確率を持つ前記構造物の画像を出力する出力部とを備える。以下、このような欠陥検出支援装置について、第1および第2実施形態によって、より具体的に説明する。
【0030】
(第1実施形態)
図1は、実施形態における欠陥検出支援装置の構成を示すブロック図である。
図1には、第1および第2実施形態における欠陥検出支援装置Sa、Sbが図示されており、
図1では、第1実施形態の欠陥検出支援装置Saにおける構成には、添え字「a」を備えた符号が付され、第2実施形態の欠陥検出支援装置Sbにおける構成には、添え字「b」を備えた符号が付され、第1および第2実施形態の欠陥検出支援装置Sa、Sbにおける共通な構成には、添え字の無い符号が付されている。
図2は、前記欠陥検出支援装置に用いられる確率判定範囲における上下限閾値を説明するための図である。
図2の横軸は、欠陥有りの有り確率であり、その縦軸は、データ数(画像数)である。
図3は、欠陥の一例として、亀裂を生じている構造物の画像を示す図である。
【0031】
第1実施形態における欠陥検出支援装置Saは、例えば
図1に示すように、画像取得部1と、制御処理部2aと、入力部3と、出力部4と、インターフェース部(IF部)5と、記憶部6とを備える。
【0032】
画像取得部1は、制御処理部2aに接続され、制御処理部2aの制御に従って、検査対象の構造物の画像を取得する装置である。前記構造物は、例えば、道路、橋梁、建物、クレーン、ダムおよび堤防等であり、欠陥検出支援装置Saは、このような構造物の表面、表面近傍および内部等に形成された欠陥の検出を支援する。画像取得部1は、例えば、構造物を撮像することによって前記構造物の画像を生成する撮像装置である。前記撮像装置は、例えば、X線画像を生成するX線撮像装置、可視光の画像を生成する可視カメラ、赤外線(赤外光)の画像を生成する赤外線カメラ、および、構造物の熱画像を生成するサーモグラフィカメラ等である。なお、この場合において、撮像対象は、構造物そのものであっても良いし、浸透探傷試験および磁粉探傷試験等の方法により処理された構造物表面の模様等であっても良い。ここで、前記浸透探傷試験および前記磁粉探傷試験は、JISZ2300に規定された試験方法をいう。この画像取得部1としての撮像装置は、有線または無線によって制御処理部2aに接続されて良い。あるいは、画像取得部1は、例えば、外部の機器との間でデータを入出力するインターフェース回路である。前記外部の機器は、前記構造物の画像を記憶した、例えばUSB(Universal Serial Bus)メモリおよびSDカード(登録商標)等の記憶媒体である。あるいは、前記外部の機器は、前記構造物の画像を記録した、例えばCD-ROM(Compact Disc Read Only Memory)、CD-R(Compact Disc Recordable)、DVD-ROM(Digital Versatile Disc Read Only Memory)およびDVD-R(Digital Versatile Disc Recordable)等の記録媒体からデータを読み込むドライブ装置である。この画像取得部1としてのインターフェース回路は、有線または無線によって前記外部の機器に接続されて良い。あるいは、画像取得部1は、例えば、外部の機器と通信信号を送受信する通信インターフェース回路であって、前記外部の機器は、ネットワーク(WAN(Wide Area Network、公衆通信網を含む))あるいはLAN(Local Area Network)を介して前記通信インターフェース回路に接続され、前記構造物の画像を管理するサーバ装置である。なお、画像取得部1がインターフェース回路や通信インターフェース回路である場合では、画像取得部1は、IF部5と兼用されても良い(すなわち、IF部5が画像取得部1として用いられても良い)。
【0033】
入力部3は、制御処理部2aに接続され、例えば前記構造物の画像に対する確率の演算開始を指示するコマンド等の各種コマンド、および、例えば前記構造物の画像の名称(例えば画像のシリアル番号等)等の、前記確率の演算を行う上で必要な各種データを欠陥検出支援装置Saに入力する装置であり、例えば、所定の機能を割り付けられた複数の入力スイッチ、キーボードおよびマウス等である。そして、本実施形態では、入力部3は、後述のように出力部4から出力された前記構造物の画像に対する欠陥の有無(ユーザ(技術者等)が欠陥の有無を判定したユーザの判定結果)をユーザより受け付ける。さらに、本実施形態では、入力部3は、出力部4から出力された前記構造物の画像に対する欠陥の有無の判定に要した判定時間を取得する判定時間取得部としても機能し、入力部3は、前記判定時間をユーザより受け付ける。
【0034】
出力部4は、制御処理部2aに接続され、制御処理部2aの制御に従って、入力部3から入力されたコマンドやデータ、および、当該欠陥検出支援装置Saによって演算された前記確率等を出力する装置であり、例えばCRTディスプレイ、LCD(液晶表示装置)および有機ELディスプレイ等の表示装置やプリンタ等の印刷装置等である。
【0035】
なお、入力部3および出力部4は、タッチパネルより構成されてもよい。このタッチパネルを構成する場合において、入力部3は、例えば抵抗膜方式や静電容量方式等の操作位置を検出して入力する位置入力装置であり、出力部4は、表示装置である。このタッチパネルでは、表示装置の表示面上に位置入力装置が設けられ、表示装置に入力可能な1または複数の入力内容の候補が表示され、ユーザが、入力したい入力内容を表示した表示位置に触れると、位置入力装置によってその位置が検出され、検出された位置に表示された表示内容がユーザの操作入力内容として欠陥検出支援装置Saに入力される。このようなタッチパネルでは、ユーザは、入力操作を直感的に理解し易いので、ユーザにとって取り扱い易い欠陥検出支援装置Saが提供される。
【0036】
IF部5は、制御処理部2aに接続され、制御処理部2aの制御に従って、例えば、外部の機器との間でデータを入出力する回路であり、例えば、シリアル通信方式であるRS-232Cのインターフェース回路、Bluetooth(登録商標)規格を用いたインターフェース回路、および、USB規格を用いたインターフェース回路等である。また、IF部5は、例えば、データ通信カードや、IEEE802.11規格等に従った通信インターフェース回路等の、外部の機器と通信信号を送受信する通信インターフェース回路であっても良い。
【0037】
記憶部6は、制御処理部2aに接続され、制御処理部2aの制御に従って、各種の所定のプログラムおよび各種の所定のデータを記憶する回路である。前記各種の所定のプログラムには、例えば、欠陥検出支援装置Saの各部1、3~6を制御する制御プログラムや、機械学習後の推定モデルを用いることによって、画像取得部1によって取得された構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する推定プログラムや、前記推定プログラムから出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定する確率判定プログラムや、前記判定時間取得部としての入力部3で取得された判定時間が予め設定された所定の判定閾値以下であるか否かを判定する時間判定プログラムや、前記判定時間取得部としての入力部3で取得された判定時間が前記所定の判定閾値以下であると前記時間判定プログラムによって判定された場合に、出力部4から出力された前記構造物の画像と入力部3で受け付けた前記欠陥の有無(ユーザの判定結果)とを互いに対応付けたデータを学習データとして記憶部6に記憶する記憶処理プログラムや、記憶部6に記憶された学習データを用いて前記推定プログラムの推定モデルを再度、機械学習する再機械学習プログラム等の制御処理プログラムが含まれる。前記各種の所定のデータには、画像取得部1によって取得された前記構造物の画像、前記推定プログラムによって演算された前記確率および前記学習データ等の、これら各プログラムを実行する上で必要なデータが含まれる。このような記憶部6は、例えば不揮発性の記憶素子であるROM(Read Only Memory)や書き換え可能な不揮発性の記憶素子であるEEPROM(Electrically Erasable Programmable Read Only Memory)等を備える。そして、記憶部6は、前記所定のプログラムの実行中に生じるデータ等を記憶するいわゆる制御処理部2aのワーキングメモリとなるRAM(Random Access Memory)等を含む。また、記憶部6は、比較的記憶容量の大きいハードディスク装置を備えて構成されても良い。
【0038】
そして、記憶部6は、推定モデルを機械学習する際に用いられる学習データを記憶する学習データ記憶部61を機能的に備える。前記学習データには、機械学習していない推定モデルを機械学習するための学習データ(初期学習データ)と、前記記憶処理プログラム(後述の記憶処理部25)によって学習データ記憶部61に記憶される学習データ(追加学習データ)とが含まれる。このような初期学習データと追加学習データとは、例えば記憶領域を分けたり、区別するためのラベルを付したり等によって、学習データ記憶部61に互いに区別可能に記憶されて良く、あるいは、学習データ記憶部61に互いに区別することなく記憶されて良い。前記学習データ(初期学習データおよび追加学習データ)は、例えば教師有りの学習データであり、画像と当該画像に欠陥が存在するか否かを表す正解(欠陥有り、欠陥無し)の情報と互いに対応付けたデータであり、このようなデータを複数備える。画像の一例が
図3に示されている。
図3に示す例の画像には、亀裂CKが構造物に生じており、この亀裂の上部に構造物である三角リブRBが画像に写り込んでいる。
【0039】
制御処理部2aは、欠陥検出支援装置Saの各部1、3~6を当該各部の機能に応じてそれぞれ制御し、構造物に形成された欠陥の検出を支援するための回路である。制御処理部2aは、例えば、CPU(Central Processing Unit)およびその周辺回路を備えて構成される。制御処理部2aは、制御処理プログラムが実行されることによって、制御部21、推定部22a、確率判定部23a、時間判定部24、記憶処理部25および再機械学習部26を機能的に備える。
【0040】
制御部21は、当該欠陥検出支援装置Saの各部1、3~6を当該各部の機能に応じてそれぞれ制御し、欠陥検出支援装置Saの全体制御を司るものである。
【0041】
推定部22aは、機械学習後の推定モデルを用いることによって、画像取得部1によって取得された構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力するものである。すなわち、推定部22aは、前記推定モデルを備えて構成される。前記推定モデルは、例えばニューラルネットワーク(neural Network)、サポートベクターマシン(Support Vector Machine、SVM)およびランダムフォレスト(random forest)等の機械学習に用いる手法を利用した機械学習モデルを備えて構成され、前記構造物の画像が入力されると、機械学習によって獲得した能力(欠陥検出能力)に従って、前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する。このように画像が入力されるので、推定モデルにニューラルネットワークが利用される場合では、前記ニューラルネットワークは、例えば畳み込みニューラルネットワーク(CNN)等の深層学習に利用されるニューラルネットワークであることが好ましい。前記機械学習の手法は、「教師有り学習」および「半教師有り学習」であることが好ましい。
【0042】
確率判定部23aは、推定部22aから出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定するものである。前記確率判定範囲によって、推定部22aから出力された確率によって表される検出結果が、最終的な検出結果として採用される範囲と、一次的な検出結果とされ、ユーザ(技術者等)による2次的な検出が実行され、前記ユーザによる検出結果が最終的な検出結果として採用される範囲とに切り分けられる。すなわち、推定部22aから出力された確率が前記確率判定範囲に属しない場合には、欠陥検出支援装置Saの検出結果が最終的な検出結果として採用され、推定部22aから出力された確率が前記確率判定範囲に属する場合には、欠陥検出支援装置Saの検出結果が一時的な検出結果とされ、ユーザ(技術者等)による2次的な検出が実行され、前記ユーザによる検出結果が最終的な検出結果とされる。
【0043】
ここで、第1実施形態では、推定部22aは、前記欠陥の有無に関する確率Pとして欠陥有りの「有り確率Pp」を出力し(0≦Pp≦100[%])、確率判定部23aにおける前記確率判定範囲は、推定部22aが「有り確率Pp」を出力するので、下限を表す下限閾値Pbから、上限を表す第1上限閾値Paまでの範囲である(Pb≦Pp≦Pa)。なお、確率判定部23aにおける前記確率判定範囲は、前記下限閾値Pbから、前記第1上限閾値Pa未満までの範囲であっても良い(Pb≦Pp<Pa)。また、推定部22aは、欠陥有りの「有り確率Pp」だけでなく、欠陥無しの「無し確率Pv」も出力しても良い(両者の和を求めると100[%]になる(有り確率Pp+無し確率Pv=100[%]))。
【0044】
この確率判定範囲における下限閾値Pbおよび第1上限閾値Paは、欠陥検出支援装置Saの仕様等に応じて予め適宜に設定できるように手動入力機能(例えば入力部3から入力され設定される)を備えるが、さらに、複数のサンプルから統計的に設定される機能も有している。
【0045】
まず、画像と正解とを組み合わせたデータを複数備える教師有り学習データが初期学習データとして用意され、推定部22aの推定モデルが機械学習される。次に、この機械学習後の推定モデルに、前記初期学習データが入力され、前記初期学習データにおける各データの各「有り確率Pp」が求められる。そして、各「有り確率Pp」ごとに、データ数が求められる。横軸を「有り確率Pp」とし、その縦軸をデータ数とした場合におけるグラフの一例が
図2に示されている。なお、
図2に示すPb=20[%]およびPa=95[%]は、一例であり、PbおよびPaがこれら数値に限定されるものではない。
【0046】
前記初期学習データには、欠陥の無い構造物の画像と、欠陥の有る構造物との画像が含まれているため、
図2に示すように、このグラフには、「有り確率Pp」が0~50%の範囲に、欠陥の無い構造物の画像に対する分布Disbと、「有り確率Pp」が50~100%の範囲に、欠陥の有り構造物の画像に対する分布Disaとが現れる。前記確率判定範囲における下限閾値Pbは、前記推定モデルの機械学習に用いられた学習データを前記機械学習後の推定部22aに入力することによって推定部22aから出力された「有り確率Pp」のうちの50%未満の「有り確率Pp」の第1平均値μbおよび第1標準偏差σbに基づいて決定され、その第1上限閾値Paは、推定部22aから出力された前「有り確率Pp」のうちの50%を超えた「有り確率Pp」の第2平均値μaおよび第2標準偏差σaに基づいて決定される。例えば、欠陥の無い構造物の画像に対する分布Disbのうち下位から約99.7%までの「有り確率Pp」は、欠陥が無いとの検出結果として信頼できるとすれば、第1下限閾値Pb=μb+3σbと決定され、欠陥の有り構造物の画像に対する分布Disaのうち上位から約99.7%までの「有り確率Pp」は、欠陥が有るとの検出結果として信頼できるとすれば、第1上限閾値Pa=μa-3σaと決定される。
【0047】
なお、上述では、3σaや3σbが用いられたが、他の値、例えば、2σaや2σbが用いられても良く(Pb=μb+2σb、Pa=μa-2σa)、σaやσbが用いられても良い(Pb=μb+σb、Pa=μa-σa)。また、推定モデルの再機械学習の回数に応じて下限閾値Pbおよび第1上限閾値Paが変更されても良い。例えば、最初の機械学習後や比較的少ない回数の機械学習後では、第1下限閾値Pb=μb+2σbおよび第1上限閾値Pa=μa-2σaが用いられ、機械学習の回数が比較多くなった場合(機械学習の回数が予め設定された閾値以上になった場合)に、第1下限閾値Pb=μb+3σbおよび第1上限閾値Pa=μa-3σaが用いられる。
【0048】
時間判定部24は、前記判定時間取得部としての入力部3で取得された判定時間が予め設定された所定の判定閾値Td以下であるか否かを判定するものである。前記判定閾値Tdによって、前記確率判定範囲に属する確率Pを持つ前記構造物の画像が学習データに採用されるか否かに切り分けられる。前記判定閾値Tdは、欠陥検出支援装置Saの仕様等に応じて予め適宜に設定できるように手動入力機能(例えば入力部3から入力され設定される)を備えるが、さらに、複数のサンプルから統計的に設定される機能も有している。
【0049】
まず、初期学習データ用に、前記構造物の画像が複数用意される。次に、これら複数の前記構造物の画像それぞれに対し欠陥の有無が例えば技術者等の作業者によって判定され、この際に、その各判定時間がそれぞれ計測される。次に、複数の前記構造物の画像それぞれに正解(欠陥有りおよび欠陥無しのいずれか)が対応付けられ、初期学習データが作成される。そして、これら複数の前記構造物の画像に対する欠陥の有無の判定に要した判定時間の第4平均値μdおよび第4標準偏差σdに基づいて前記判定閾値Tdが決定される。例えばTd=μd+3σdとされる。なお、3σdに代え2σdやσdが用いられても良い。あるいは、Td=μdとされても良い。
【0050】
記憶処理部25は、前記判定時間取得部としての入力部3で取得された判定時間が前記所定の判定閾値以下であると時間判定部24によって判定された場合に、出力部4から出力された前記構造物の画像と入力部3で受け付けた前記欠陥の有無とを互いに対応付けたデータを学習データとして記憶部6の学習データ記憶部61に記憶するものである。
【0051】
再機械学習部26は、記憶部6の学習データ記憶部61に記憶された学習データを用いて推定部22aの推定モデルを再度、機械学習するものである。
【0052】
これら制御処理部2a、入力部3、出力部4,IF部5および記憶部6は、例えば、デスクトップ型やノート型等のコンピュータによって構成可能である。
【0053】
次に、本実施形態の動作について説明する。
図4は、前記欠陥検出支援装置の動作を示すフローチャートである。
【0054】
まず、第1に、初期学習データが用意され、この際に、上述のように各画像に対する各判定時間が求められることによって前記判定閾値Tdが決定される。例えば、Td=μd+3σdとされる。この初期学習データが学習データ記憶部61に記憶される。
【0055】
次に、この初期学習データを用いて推定モデルが機械学習され、機械学習後の推定モデルが生成され、記憶部6に記憶される。そして、上述のように、機械学習後の推定モデルに初期学習データを用いることによって、前記確率判定範囲が決定される。例えば、Pb=μb+3σb、Pa=μa-3σaとされる。
【0056】
このような準備が終了すると、欠陥検出支援装置Saの運用が開始される。運用では、欠陥検出支援装置Saは、その電源が投入されると、必要な各部の初期化を実行し、その稼働を始める。その制御処理プログラムの実行によって、制御処理部2aには、制御部21、推定部22a、確率判定部23a、時間判定部24、記憶処理部25および再機械学習部26が機能的に構成される。
【0057】
検査対象の構造物に形成された欠陥の検出に当たって、
図4において、まず、画像取得部1によって前記構造物の画像が取得される(S1)。この取得された前記構造物の画像は、画像取得部1から制御処理部2aへ出力される。
【0058】
次に、制御処理部2aは、推定部22aによって、画像取得部1によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を演算する(S2a)。より具体的には、推定部22aの推定モデルに、画像取得部1によって取得された前記構造物の画像が入力され、前記推定モデルから、前記構造物に形成された欠陥の有無に関する確率Pが出力される。本実施形態では、欠陥有りの「有り確率Pp」が出力される。したがって、「有り確率Pp」が小さいほど、前記構造物の画像に欠陥が有る可能性が低く(すなわち、前記構造物の画像に欠陥が無い可能性が高く)、「有り確率Pp」が大きいほど、前記構造物の画像に欠陥が有る可能性が高い(すなわち、前記構造物の画像に欠陥が無い可能性が低い)。
【0059】
次に、制御処理部2aは、確率判定部23aによって、推定部22aから出力された確率Pが、前記確率判定範囲に属するか否かを判定する(S3a)。この判定の結果、前記確率Pが前記確率判定範囲に属する場合(Yes)には、制御処理部2aは、次に、処理S4を実行し、一方、前記判定の結果、前記確率Pが前記確率判定範囲に属しない場合(No)には、制御処理部2aは、次に、処理S11を実行する。より具体的には、本実施形態では、確率判定部23aは、推定部22aから出力された「有り確率Pp」が下限閾値Pb以上から第1上限閾値Pa以下までの範囲内か否かを判定する。この判定の結果、前記「有り確率Pp」が下限閾値Pb以上から第1上限閾値Pa以下までの範囲内である場合(Yes、Pb≦Pp≦Pa)には、制御処理部2aは、次に、処理S4を実行し、一方、前記判定の結果、前記「有り確率Pp」が下限閾値Pb以上から第1上限閾値Pa以下までの範囲内ではない場合(No、Pp<PbまたはPp>Pa)には、制御処理部2aは、次に、処理S11を実行する。なお、Pp<Pbの場合は、前記構造物の画像に欠陥が無いとの判定が検出結果であり、Pp>Paの場合は、前記構造物の画像に欠陥が有るとの判定が検出結果である。
【0060】
処理S4では、制御処理部2aは、制御部21によって、前記画像取得部1で取得され推定部22aで確率Pを演算した前記構造物の画像を出力部4に出力する。すなわち、確率判定部23aで推定部22aから出力された確率Pが前記確率判定範囲に属すると判定された場合に、前記推定部22aから出力された確率Pを持つ前記構造物の画像が出力部4から出力される。
【0061】
一方、処理S11では、制御処理部2aは、制御部21によって、前記画像取得部1で取得され推定部22aで演算された確率Pを出力部4に出力し、本処理を終了する。本実施形態では、「有り確率Pp」が出力部4から出力される。なお、「有り確率Pp」に代え、あるいは、「有り確率Pp」に加えて検出結果が出力部4から出力されても良い。例えば、Pp<Pbの場合は、前記構造物の画像に欠陥が無いことを表す情報(欠陥無し情報)が出力部4から出力され、Pp>Paの場合は、前記構造物の画像に欠陥が有ることを表す情報(欠陥有り情報)が出力部4から出力される。前記欠陥無し情報や前記欠陥有り情報は、例えば、その旨を表す文字メッセージ、音声メッセージ、ランプの消灯/点灯およびマークの非表示/表示等である。
【0062】
前記処理S4に続いて、制御処理部2aは、制御部21によって、入力部3に入力があるか否かを判定する(S5)。この判定の結果、入力部3に入力が有る場合(Yes)には、制御処理部2aは、次に、処理S6を実行し、一方、前記入力部3に入力が無い場合(No)には、制御処理部2aは、処理を処理S5に戻す。したがって、制御部21は、入力部3で入力を受け付けるまで、処理S5を繰り返し実行する。
【0063】
前記構造物の画像から前記構造部に欠陥が形成されているか否かを目視判定する技術者等のユーザは、出力部4から前記構造物の画像が出力されると、この出力された前記構造物の画像に対し、欠陥の有無を判定する。この判定の際に、前記ユーザは、例えばストップウォッチ等を用いることによって、前記欠陥の有無の判定に要した判定時間を計測する。前記ユーザは、欠陥の有無を判定すると、入力部3から、出力部4から出力された前記構造物の画像に対する欠陥の有無とその判定に要した判定時間とを入力する。
【0064】
処理S5で入力部3に入力が有ると判定されると、上述のように処理S6が実行される。この処理S6では、制御処理部2aは、時間判定部24によって、入力部3で取得された判定時間が前記判定閾値Td以下であるか否かを判定する。この判定の結果、前記判定時間が前記判定閾値Td以下ではない場合(No)には、制御処理部2aは、本処理を終了し、一方、前記判定の結果、前記判定時間が前記判定閾値Td以下である場合(Yes)には、制御処理部2aは、次に、処理S7を実行する。
【0065】
この処理S7では、制御処理部2aは、記憶処理部25によって、出力部4から出力された前記構造物の画像と入力部3で受け付けた前記欠陥の有無とを互いに対応付けたデータを学習データ(追加学習データ)として記憶部6の学習データ記憶部61に記憶し、本処理を終了する。
【0066】
そして、他の構造物の画像が有る場合には、上述の処理が構造物の画像ごとに実施される。こうして追加学習データにおける複数のデータが学習データ記憶部61に蓄積される。
【0067】
追加学習データにおける複数のデータが予め設定された所定数以上になると自動的に、あるいは、前回の機械学習の実施タイミングから、予め設定された所定の時間が経過すると自動的に、あるいは、再機械学習を実行するコマンドを入力部3で受け付けると、制御処理部2aは、再機械学習部26によって、記憶部6の学習データ記憶部61に記憶された学習データを用いて推定部22aの推定モデルを再度、機械学習する。この再機械学習では、追加学習データのみを用いて推定部22aの推定モデルが再度、機械学習されて良く、あるいは、初期学習データおよび追加学習データを用いて推定部22aの推定モデルが再度、機械学習されて良い。
【0068】
以上説明したように、第1実施形態における欠陥検出支援装置Sa、これに実装された欠陥検出支援方法およびその欠陥検出支援プログラムは、構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力する機械学習後の推定モデルを用いるので、前記構造物の画像を取得すれば、前記構造物に形成された欠陥の有無に関する確率を得られるから、より汎用性が高い。上記欠陥検出支援装置Sa、欠陥検出支援方法および亀欠陥出支援プログラムは、機械学習後の推定モデルで演算された確率が前記所定の確率判定範囲に属すると判定された場合における前記構造物の画像を出力するので、技術者は、この欠陥の有無が不確かであると判定されて出力された前記構造物の画像に対し、前記構造物に形成された欠陥の有無を判定すればよいので、すなわち、前記確率が前記所定の確率判定範囲に属するとは判定されなかった前記構造物の画像に対しては、前記構造物に形成された欠陥の有無を判定しなくて済むので、技術者の負担をより軽減できる。このように欠陥検出支援装置Saに判断を任せられる画像は、欠陥検出支援装置Saに判断を任せ、技術者の判断が必要な画像を、技術者が判断し、技術者と欠陥検出支援装置Saとが欠陥の検出に関して協同できる。
【0069】
上記欠陥検出支援装置Sa、欠陥検出支援方法および欠陥検出支援プログラムは、機械学習後の推定モデルで演算された確率が前記所定の確率判定範囲に属すると判定された場合における前記構造物の画像を学習データとして利用できるので、前記推定モデルを再機械学習する際に、学習データを増加できる。しかも、上記欠陥検出支援装置Sa、欠陥検出支援方法および欠陥検出支援プログラムは、前記判定時間が前記所定の判定閾値以下である前記構造物の画像を学習データとするので、技術者によって比較的容易に欠陥の有無を判断できる前記構造物の画像を、学習データにすることが可能となるから、すなわち、技術者によって判断の分かれ易い、欠陥の有無の判断が比較的難しい前記構造物の画像を、学習データにしないことが可能となるから、推定モデルの機械学習に適切な画像を学習データとして採用でき、前記推定モデルを再機械学習する際に、出力精度を劣化し難い。
【0070】
上記欠陥検出支援装置Sa、欠陥検出支援方法および欠陥検出支援プログラムは、前記推定モデルを再度、機械学習するので、出力精度の向上が期待できる。再学習していくことで精度の向上が期待できるので、前記確率が前記確率判定範囲に属するとして出力部4から出力される画像が減少していくことが期待でき、したがって、例えば技術者等のユーザにおける判定作業の軽減化やその短時間化が期待できる。
【0071】
上記欠陥検出支援装置Sa、欠陥検出支援方法および欠陥検出支援プログラムでは、下限閾値Pbおよび第1上限閾値Paが統計的に決定されるので、上記欠陥検出支援装置Sa、欠陥検出支援方法および欠陥検出支援プログラムは、前記欠陥の有無が不確かな確率判定範囲を客観的に決定できる。
【0072】
次に、別の実施形態について説明する。
(第2実施形態)
第1実施形態における欠陥検出支援装置Saでは、構造物に形成された欠陥の有無に関する確率が欠陥有りの有り確率であったが、第2実施形態における欠陥検出支援装置Sbでは、構造物に形成された欠陥の有無に関する確率が欠陥無しの無し確率である。
【0073】
この第2実施形態における欠陥検出支援装置Sbは、例えば
図1に示すように、画像取得部1と、制御処理部2bと、入力部3と、出力部4と、IF部5と、記憶部6とを備える。これら第2実施形態の欠陥検出支援装置Sbにおける画像取得部1、入力部3、出力部4、IF部5および記憶部6は、それぞれ、第1実施形態の欠陥検出支援装置Saにおける画像取得部1、入力部3、出力部4、IF部5および記憶部6と同様であるので、その説明を省略する。
【0074】
制御処理部2bは、欠陥検出支援装置Sbの各部1、3~6を当該各部の機能に応じてそれぞれ制御し、構造物に形成された欠陥の検出を支援するための回路である。制御処理部2bは、例えば、CPUおよびその周辺回路を備えて構成される。制御処理部2bは、制御処理プログラムが実行されることによって、制御部21、推定部22b、確率判定部23b、時間判定部24、記憶処理部25および再機械学習部26を機能的に備える。これら第2実施形態の欠陥検出支援装置Sbにおける制御部21、時間判定部24、記憶処理部25および再機械学習部26は、それぞれ、第1実施形態の欠陥検出支援装置Saにおける制御部21、時間判定部24、記憶処理部25および再機械学習部26と同様であるので、その説明を省略する。
【0075】
推定部22bは、機械学習後の推定モデルを用いることによって、画像取得部1によって取得された構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を出力するものである。確率判定部23bは、推定部22bから出力された確率が、前記欠陥の有無が不確かであるとして予め設定された所定の確率判定範囲に属するか否かを判定するものである。
【0076】
ここで、第2実施形態では、推定部22bは、前記欠陥の有無に関する確率Pとして欠陥無しの「無し確率Pv」を出力し(0≦Pv≦100[%])、確率判定部23bにおける前記確率判定範囲は、0[%]から、上限を表す第2上限閾値Pcまでの範囲である(0≦Pv≦Pc)。なお、確率判定部23bにおける前記確率判定範囲は、0[%]から、上限を表す第2上限閾値Pc未満までの範囲であっても良い(0≦Pv<Pc)。この確率判定範囲における第2上限閾値Pcは、欠陥検出支援装置Sbの仕様等に応じて予め適宜に設定できるように手動入力機能(例えば入力部3から入力され設定される)を備えるが、さらに、複数のサンプルから統計的に設定される機能も有している。より具体的には、前記確率判定範囲における第2上限閾値Pcは、前記推定モデルの機械学習に用いられた学習データを前記機械学習後の推定部22bに入力することによって推定部22bから出力された「無し確率Pv」のうちの50%を超えた「無し確率Pv」における第3平均値μcおよび第3標準偏差σcに基づいて決定される。例えば、Pc=μc-3σcと決定される。なお、第1実施形態と同様に、3σcの他に、2σcやσcが用いられても良い(Pc=μc-2σc、あるいは、Pc=μc-σc)。また、推定モデルの再機械学習の回数に応じて第2上限閾値Pcが変更されても良い。
【0077】
このような第2実施形態における欠陥検出支援装置Sbでは、第1実施形態における欠陥検出支援装置Saと同様に、準備が実施され、前記判定閾値Pdが決定され、前記第2上限閾値Pcが決定される。
【0078】
第2実施形態の欠陥検出支援装置Sbにおける運用では、
図4に示すように、画像取得の処理S1が実行され、確率演算の処理S2bが実行され、確率判定範囲に対する属否判定の処理S3bが実行される。この確率判定範囲に対する属否判定の処理S3bの結果に応じて、確率出力の処理S11、あるいは、画像出力の処理S4が実行される。前記確率出力の処理S11が実行されると、その後に本処理が終了される。前記画像出力の処理S4が実行されると、その後に、入力有無判定の処理S5が実行され、入力があると、判定時間に対する属否判定の処理S6が実行される。この判定時間に対する属否判定の処理S6の結果に応じて、本処理の終了、あるいは、学習データ記憶の処理S7が実行される。この学習データ記憶の処理S7が実行されると、その後に本処理が終了される。
【0079】
これら第2実施形態の欠陥検出支援装置Sbにおける画像取得の処理S1、確率出力の処理S11、画像出力の処理S4、入力有無判定の処理S5、判定時間に対する属否判定の処理S6、および、学習データ記憶の処理S7は、それぞれ、第1実施形態の欠陥検出支援装置Saにおける画像取得の処理S1、確率出力の処理S11、画像出力の処理S4、入力有無判定の処理S5、判定時間に対する属否判定の処理S6、および、学習データ記憶の処理S7と同様であるので、その説明を省略する。
【0080】
画像取得の処理S1に続く処理S2bでは、制御処理部2bは、推定部22bによって、画像取得部1によって取得された前記構造物の画像に基づいて、前記構造物に形成された欠陥の有無に関する確率を演算する。より具体的には、推定部22bの推定モデルに、画像取得部1によって取得された前記構造物の画像が入力され、前記推定モデルから、前記構造物に形成された欠陥の有無に関する確率Pが出力される。本実施形態では、欠陥無しの「無し確率Pv」が出力される。したがって、「無し確率Pv」が小さいほど、前記構造物の画像に欠陥が無い可能性が低く(すなわち、前記構造物の画像に欠陥が有る可能性が高く)、「無し確率Pv」が大きいほど、前記構造物の画像に欠陥が無い可能性が高い(すなわち、前記構造物の画像に欠陥が有る可能性が低い)。
【0081】
この処理S2bに続く処理S3bでは、制御処理部2bは、確率判定部23bによって、推定部22bから出力された確率Pが、前記確率判定範囲に属するか否かを判定する。この判定の結果、前記確率Pが前記確率判定範囲に属する場合(Yes)には、制御処理部2bは、次に、処理S4を実行し、一方、前記判定の結果、前記確率Pが前記確率判定範囲に属しない場合(No)には、制御処理部2bは、次に、処理S11を実行する。より具体的には、本実施形態では、確率判定部23bは、推定部22bから出力された「無し確率Pv」が0から第2上限閾値Pc以下までの範囲内か否かを判定する。この判定の結果、前記「無し確率Pv」が0から第2上限閾値Pc以下までの範囲内である場合(Yes、0≦Pv≦Pc)には、制御処理部2bは、次に、処理S4を実行し、一方、前記判定の結果、前記「無し確率Pv」が0から第2上限閾値Pc以下までの範囲内ではない場合(No、Pc<Pv)には、制御処理部2bは、次に、処理S11を実行する。なお、Pc<Pvの場合は、前記構造物の画像に欠陥が無いとの判定が検出結果である。
【0082】
このような第2実施形態における欠陥検出支援装置Sb、これに実装された欠陥検出支援方法およびその欠陥検出支援プログラムは、第1実施形態における欠陥検出支援装置Sa、これに実装された欠陥検出支援方法およびその欠陥検出支援プログラムと同様な作用効果を奏する。
【0083】
なお、これら上述の第1および第2実施形態では、判定時間は、マニュアル(手動)で計測され、入力部3から欠陥検出支援装置Sa、Sbに入力されたが、自動的に計測されても良い。例えば、
図1に破線で示すように、制御処理部2a、2bは、前記判定時間取得部として計時部27を機能的に備えても良い。この計時部27は、出力部4から前記構造物の画像を出力した第1時点から入力部3で前記欠陥の有無(ユーザの判定結果)を受け付けた第2時点までの時間を前記判定時間として計時するものである。欠陥検出支援装置Sa、Sbの運用では、
図4を用いて上述した画像出力の処理S4において、さらに、計時部27は、上述のように制御部21が前記構造物の画像を出力部4に出力した第1時点で計時を開始する。そして、
図4を用いて上述した入力有無判定の処理S5において、さらに、計時部27は、上述のように制御部21が入力部3で入力を受け付けた第2時点で前記計時を終了し、前記第1時点での計時の開始から前記第2時点での計時の終了までの時間を判定時間とし、この判定時間を時間判定部24へ通知する。欠陥検出支援装置Sa、Sb計時部27によって、このように判定時間を計測する。
【0084】
また、これら上述の第1および第2実施形態において、
図1に破線で示すように、制御処理部2a、2bは、前記欠陥の無い構造物の画像を学習データとして用いた機械学習によって前記推定モデルを生成する機械学習部28を機能的に備えても良い。このような欠陥検出支援装置Sa、Sbは、比較的取得の容易な前記欠陥の無い構造物の画像で機械学習できる。このような欠陥検出支援装置Sa、Sbでは、前記学習データ(初期学習データおよび追加学習データ)は、前記欠陥の無い構造物の画像を複数を備える。前記推定モデルは、例えば、畳み込みニューラルネットワーク(CNN)等の機械学習に用いる手法を利用した機械学習モデルを備えて構成される。前記CNNにより異常値が演算された画像が欠陥有りの画像となる。第2実施形態では、推定部22bが欠陥無しの「無し確率Pv」を出力するので、この前記欠陥の無い構造物の画像を学習データとして用いて機械学習した推定モデルは、第2実施形態の推定部22bに用いられることが好ましい。機械学習の手法は、「教師有り学習」および「半教師有り学習」であることが好ましい。
【0085】
さらに、これら上述の第1および第2実施形態では、構造物の画像が取得されるごとに、前記構造物の画像に対する確率が前記確率判定範囲に属する場合に、前記構造物の画像が出力され、前記出力された構造物の画像に対する欠陥の有無およびその判定時間が入力されたが、前記確率判定範囲に属する画像が蓄積(記憶)され、前記確率判定範囲に属する画像が予め設定された所定の数になった場合に、前記蓄積した複数の画像が順次に出力部4に出力され、前記出力された構造物の画像に対する欠陥の有無およびその判定時間が順次に入力されても良い。前記確率判定範囲に属する画像を蓄積(記憶)する場合に、個別に構造物の画像が取得されて良く、あるいは、例えば複数の構造物の画像を1つの電子ファイルに纏めることによって、複数の構造物の画像が纏めて取得されても良い。
【0086】
また、これら上述の第1および第2実施形態において、各閾値Pa、Pb、Pc、Tdは、例えば推定モデルの再機械学習の際等に、追加学習データやその際に用いられた判定時間に基づいて再度、第1ないし第4平均値μa、μb、μc、μdおよび第1ないし第4標準偏差σa、σb、σc、σdが演算されることによって、更新(変更)されても良い。
【0087】
本発明を表現するために、上述において図面を参照しながら実施形態を通して本発明を適切且つ十分に説明したが、当業者であれば上述の実施形態を変更および/または改良することは容易に為し得ることであると認識すべきである。したがって、当業者が実施する変更形態または改良形態が、請求の範囲に記載された請求項の権利範囲を離脱するレベルのものでない限り、当該変更形態または当該改良形態は、当該請求項の権利範囲に包括されると解釈される。
【符号の説明】
【0088】
Sa、Sb 欠陥検出支援装置
1 画像取得部
2a、2b 制御処理部
3 入力部
4 出力部
5 インターフェース部(IF部)
6 記憶部
21 制御部
22a、22b 推定部
23a、23b 確率判定部
24 時間判定部
25 記憶処理部
26 再機械学習部
27 計時部
28 機械学習部
61 学習データ記憶部