IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 国立大学法人東北大学の特許一覧 ▶ 東北電力株式会社の特許一覧

特開2022-11479画像処理装置、画像処理方法及びプログラム
<>
  • 特開-画像処理装置、画像処理方法及びプログラム 図1
  • 特開-画像処理装置、画像処理方法及びプログラム 図2
  • 特開-画像処理装置、画像処理方法及びプログラム 図3
  • 特開-画像処理装置、画像処理方法及びプログラム 図4
  • 特開-画像処理装置、画像処理方法及びプログラム 図5
  • 特開-画像処理装置、画像処理方法及びプログラム 図6
  • 特開-画像処理装置、画像処理方法及びプログラム 図7
  • 特開-画像処理装置、画像処理方法及びプログラム 図8
  • 特開-画像処理装置、画像処理方法及びプログラム 図9
  • 特開-画像処理装置、画像処理方法及びプログラム 図10
  • 特開-画像処理装置、画像処理方法及びプログラム 図11
  • 特開-画像処理装置、画像処理方法及びプログラム 図12
  • 特開-画像処理装置、画像処理方法及びプログラム 図13
  • 特開-画像処理装置、画像処理方法及びプログラム 図14
  • 特開-画像処理装置、画像処理方法及びプログラム 図15
  • 特開-画像処理装置、画像処理方法及びプログラム 図16
  • 特開-画像処理装置、画像処理方法及びプログラム 図17
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022011479
(43)【公開日】2022-01-17
(54)【発明の名称】画像処理装置、画像処理方法及びプログラム
(51)【国際特許分類】
   G06T 5/50 20060101AFI20220107BHJP
【FI】
G06T5/50
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2020112643
(22)【出願日】2020-06-30
(71)【出願人】
【識別番号】504157024
【氏名又は名称】国立大学法人東北大学
(71)【出願人】
【識別番号】000222037
【氏名又は名称】東北電力株式会社
(74)【代理人】
【識別番号】100106909
【弁理士】
【氏名又は名称】棚井 澄雄
(74)【代理人】
【識別番号】100188558
【弁理士】
【氏名又は名称】飯田 雅人
(74)【代理人】
【識別番号】100141139
【弁理士】
【氏名又は名称】及川 周
(72)【発明者】
【氏名】大関 真之
(72)【発明者】
【氏名】越川 亜美
(72)【発明者】
【氏名】井口 大輔
(72)【発明者】
【氏名】田附 匡
(72)【発明者】
【氏名】中嶋 誠
(72)【発明者】
【氏名】鈴木 淳
【テーマコード(参考)】
5B057
【Fターム(参考)】
5B057CA01
5B057CA08
5B057CA12
5B057CA16
5B057CB01
5B057CB08
5B057CB12
5B057CB16
5B057CH16
5B057DA07
5B057DA16
5B057DB02
5B057DB06
5B057DB09
5B057DC02
5B057DC32
5B057DC40
(57)【要約】
【課題】より鮮明な画像を生成する画像処理装置を提供すること。
【解決手段】本発明の一態様は、検査対象が写された被写体画像のうち第1の観測方法で取得された観測画像の画像データを取得する観測画像取得部と、前記観測画像の画像データと、前記第1の観測方法よりも鮮明な画像を取得する第2の観測方法で取得された被写体画像が有する特性と、に基づき前記観測画像よりも鮮明な被写体画像を生成する画像生成部と、を備える画像処理装置である。
【選択図】図1
【特許請求の範囲】
【請求項1】
検査対象が写された被写体画像のうち第1の観測方法で取得された観測画像の画像データを取得する観測画像取得部と、
前記観測画像の画像データと、前記第1の観測方法よりも鮮明な画像を取得する第2の観測方法で取得された被写体画像が有する特性と、に基づき前記観測画像よりも鮮明な被写体画像である推測画像を生成する画像生成部と、
を備える画像処理装置。
【請求項2】
前記画像生成部は、前記観測画像の画像データと前記特性とに基づき、要素が前記推測画像の1つの画素の輝度値を表すベクトルである推測ベクトルを算出して前記推測画像を生成する、
請求項1に記載の画像処理装置。
【請求項3】
前記特性は、前記第2の観測方法で取得された被写体画像において、所定の条件を満たす画素の全画素に対する割合が所定の割合以下という特性である、
請求項1又は2に記載の画像処理装置。
【請求項4】
前記所定の条件は前記検査対象の損傷部位が写されたという条件である、
請求項3に記載の画像処理装置。
【請求項5】
前記特性は、隣接画素の輝度値の変化量は前記第2の観測方法で取得された被写体画像内の他の画素間の輝度値の変化量に略同一であるという特性である、
請求項1から4のいずれか一項に記載の画像処理装置。
【請求項6】
予め所定のグレースケールに対応付けられた色を示す情報であるカラーバー情報が示す色と変換対象の画像の画素の色との違いを示す量である色距離を用い、変換対象の画像の画素の値が示す各原色の量を説明変数としグレースケールの明度を目的変数とする写像により前記変換対象の画像をグレースケールの画像に変更するグレースケール変換処理を前記観測画像に対して実行するグレースケール変換部、
を備える請求項1から5のいずれか一項に記載の画像処理装置。
【請求項7】
前記観測画像に写る像の幾何学的な特性に基づき前記観測画像を変形する画像変形部、
を備える請求項1から6のいずれか一項に記載の画像処理装置。
【請求項8】
前記幾何学的な特性は、同心円状の構造の画像を前記観測画像全体に対して所定の割合以上含むという特性である、
請求項7に記載の画像処理装置。
【請求項9】
前記検査対象の観測の過程を表す変換写像を、前記観測画像の特性を用いた機械学習の方法で生成する写像生成部、を備えた請求項1から8のいずれか一項に記載の画像処理装置。
【請求項10】
検査対象が写された被写体画像のうち第1の観測方法で取得された観測画像の画像データを取得する観測画像取得ステップと、
前記観測画像の画像データと、前記第1の観測方法よりも鮮明な画像を取得する第2の観測方法で取得された被写体画像が有する特性と、に基づき前記観測画像よりも鮮明な被写体画像を生成する画像生成ステップと、
を有する画像処理方法。
【請求項11】
請求項1から9のいずれか一項に記載の画像処理をコンピュータに機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、画像処理装置、画像処理方法及びプログラムに関する。
【背景技術】
【0002】
火力発電所では、蒸気配管の溶接部内部の健全性は超音波又は放射線を用いた非破壊検査(特許文献1参照)により確認される。蒸気配管の溶接部の健全性の確認とは、具体的には溶接部に傷等の不具合が無いか否かを確認することである。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2004-191111号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
非破壊検査は超音波又は放射線を用いて行われるが、溶接部内部の金属組織の不具合を観測することは困難であった。通常、内部の金属組織は破壊検査しその断面組織を観察する。
【0005】
例えば特許文献1に記載の従来の超音波を用いた非破壊検査の場合、溶接部内部の金属組織の不具合を示す反射波が微弱ながら観測されるが、観測の過程で検査対象の情報の一部が失われてしまい、破壊検査によって得られる情報量に比べて観測により得られた画像が有する情報量が充分で無い。すなわち、観測により得られた画像は破壊検査によって得られる画像に写された溶接部の内部の画像ほど鮮明に検査対象を写しきれない場合がある。このような場合、非破壊検査の実行者は、蒸気配管の溶接部内部の金属組織の不具合を充分に確認することができない。
【0006】
このような課題は、超音波を用いて蒸気配管の溶接部内部の金属組織の画像を得る場合に限らず、超音波を含む音波や電磁波等の波を用いて検査対象の画像を得る場合や、放射線を用いて検査対象の画像を得る場合等の非破壊な方法で検査対象の画像を得る場合にも共通の課題であった。
【0007】
上記事情に鑑み、本発明は、より鮮明な画像を生成する画像処理装置を提供することを目的としている。
【課題を解決するための手段】
【0008】
本発明の一態様は、検査対象が写された被写体画像のうち第1の観測方法で取得された観測画像の画像データを取得する観測画像取得部と、前記観測画像の画像データと、前記第1の観測方法よりも鮮明な画像を取得する第2の観測方法で取得された被写体画像が有する特性と、に基づき前記観測画像よりも鮮明な被写体画像を生成する画像生成部と、を備える画像処理装置である。
【0009】
本発明の一態様は、検査対象が写された被写体画像のうち第1の観測方法で取得された観測画像の画像データを取得する観測画像取得ステップと、前記観測画像の画像データと、前記第1の観測方法よりも鮮明な画像を取得する第2の観測方法で取得された被写体画像が有する特性と、に基づき前記観測画像よりも鮮明な被写体画像を生成する画像生成ステップと、を有する画像処理方法である。
【0010】
本発明の一態様は、上記の画像処理をコンピュータに機能させるためのプログラムである。
【発明の効果】
【0011】
本発明により、より鮮明な画像を生成する画像処理装置を提供することが可能となる。
【図面の簡単な説明】
【0012】
図1】実施形態の画像処理装置1の概要を説明する説明図。
図2】実施形態の画像処理装置1の構成の一例を示す図。
図3】実施形態における制御部10の機能構成の一例を示す図。
図4】実施形態の画像処理装置1が実行する処理の流れの一例を示すフローチャート。
図5】第1変形例におけるベクトルuとベクトルvとの関係を説明する図。
図6】第3変形例における制御部10aの機能構成の一例を示す図。
図7】第4変形例におけるセクタースキャン像の一例を示す図。
図8】第4変形例における投影デカルト座標系上のセクタースキャン像の一例を示す図。
図9】第4変形例における制御部10bの機能構成の一例を示す図。
図10】第5変形例における線形回帰学習を説明する説明図。
図11】第5変形例における観測画像よりも鮮明な被写体画像の一例を示す図。
図12】第5変形例における画像処理装置100の構成を説明する説明図。
図13】第5変形例における制御部20の機能構成の一例を示す図。
図14】第6変形例におけるガウス特性を説明する説明図。
図15】色距離及び色変換対応情報を用いたグレースケール変換処理による画像処理装置100の画像の変換の結果の一例を示す図。
図16】画像処理装置100による推測画像の生成の結果の一例を示す図。
図17】推測画像の写像学習用データへの依存性を検証した実験結果の一例を示す図。
【発明を実施するための形態】
【0013】
(実施形態)
図1は、実施形態の画像処理装置1の概要を説明する説明図である。画像処理装置1は、観測画像の画像データに基づき推測画像の画像データを生成する。観測画像は、第1の観測方法で得られた被写体画像である。被写体画像は、検査対象が写された画像である。推測画像は観測画像よりも鮮明な被写体画像である。
【0014】
より具体的には、推測画像は、鮮明な度合(以下「鮮明度」という。)が、目標画像の鮮明度に、観測画像よりも近い被写体画像である。目標画像は、第1の観測方法よりも鮮明な被写体画像を取得する第2の観測方法で取得された被写体画像である。第1の観測方法は、例えば超音波検査による非破壊な方法である。このような場合、第2の観測方法は、例えば破壊検査である。
【0015】
このように、推測画像は、第1の観測方法における検査対象の観測の過程(以下「観測過程」という。)で失われた情報の少なくとも一部が復元された画像である。以下説明の簡単のため第1の観測方法が超音波検査である場合を例に画像処理装置1を説明する。
【0016】
超音波検査は、検査対象の所定の位置に超音波を照射し、照射した超音波の反射波であるエコーを取得して、エコーに基づき検査対象の所定の位置の画像を取得する処理である。そのため、観測画像は、検査対象の所定の位置の画像である。所定の位置は、検査対象内又は検査対象上の位置であればどこであってもよく、例えば観測画像の断面の位置である。所定の位置は、観測画像の表面の位置であってもよい。
【0017】
検査対象は、少なくとも一部が損傷もしくは異常な金属組織が発生したものである。以下、損傷もしくは異常組織が発生した部位を損傷部位といい、損傷していない部位を非損傷部位という。検査対象は、例えば火力発電所で用いられる蒸気配管である。以下説明の簡単のため、検査対象が火力発電所で用いられる蒸気配管である場合を例に画像処理装置1を説明する。なお、図1の画像P1は、観測画像の一例であり、火力発電所で用いられる蒸気配管の断面の画像の一例である。
【0018】
目標画像は1又は複数の特性を有する。目標画像が有する特性の1つは、第1画像特性である。第1画像特性はスパース性である。スパース性を有するとは、目標画像において、所定の条件を満たす画素(以下「少数画素」という。)の目標画像の全画素に対する割合が所定の割合以下という条件が満たされていることを意味する。そのため少数画素以外の画素の輝度値が0で表される場合に、第1画像特性を有する画像は過半数以上の画素において輝度値が0である。スパース性を有するとは、具体的な例としては例えば目標画像において損傷部位の写された画素の全画素に対する割合が所定の割合以下という条件が満たされていることである。このような場合であって非損傷部位の輝度値が0で表される場合に、第1画像特性を有する画像は過半数以上の画素において輝度値が0である。なお、第1画像特性は、目標画像を取得する環境に依存して現れる特性である。
【0019】
画像処理装置1は、目標画像が有する特性を推定画像も有するという条件の元で観測画像から推定画像を生成する。
【0020】
例えば画像処理装置1は、観測過程を表す関数(以下「観測過程表現関数」という。)と第1画像特性を表す関数(以下「スパース表現関数」という。)とを用い、観測画像の画像データに基づき推測画像の画像データを生成する。以下観測過程表現関数とスパース表現関数との説明を通じて、画像処理装置1が推測画像の画像データを取得可能な仕組みを説明する。観測過程表現関数は、観測ベクトルと推測ベクトルとを用いて、例えば以下の式(1)で表される。
【0021】
【数1】
【0022】
観測ベクトルは要素が観測画像の1つの画素の輝度値を表すベクトルである。式(1)の左辺のベクトルbは観測ベクトルである。推測ベクトルは、要素が推測画像の1つの画素の輝度値を表すベクトルである。推測ベクトルが推測画像の画像データである。式(1)の右辺のベクトルuは推測ベクトルである。
【0023】
式(1)の右辺の行列Aは、推測画像から観測画像への変換を表す写像(以下「変換写像」という。)である。変換写像Aは、観測過程を表す予め取得済みの写像である。変換写像Aは、例えば画像処理装置1の管理者等の画像処理装置1のユーザが観測過程に基づき予め推測済みの写像である。変換写像Aは、例えば行列で表現される。
【0024】
式(1)は、左辺と右辺との間の違いが小さいほど観測過程を高い精度で表すことを意味する。すなわち、式(1)の左辺と右辺の間の違いが小さいほどベクトルuが表す画像が目標画像に近い。そのため、式(1)が観測過程を高い精度で表すほど、推測画像は鮮明である。そこで、画像処理装置1は、式(1)の右辺と左辺との違いを小さくする推測ベクトルを推定する。すなわち画像処理装置1は、以下の式(2)で表される条件を満たす推測ベクトルを推定する。
【0025】
【数2】
【0026】
このようにして、画像処理装置1は、観測過程で失われた情報を推定する。
【0027】
しかしながら、観測ベクトルの要素数は推測ベクトルの要素数より少ない。なぜなら、観測ベクトルの要素数が推測ベクトルの要素数以下であることは、観測過程で推測ベクトルが有する情報の一部が失われてしまったことを意味するからである。一般に互いに独立な未知数の数が方程式の数よりも多い場合、未知数の値を決定することはできない(連立1次方程式解をもつための必要十分条件)。そのため、画像処理装置1は、観測画像の画像データだけを用いて推測画像の画像データを生成することはできない。
【0028】
なお、観測ベクトルの要素数と推測ベクトルの要素数が等しい仮定の下では、変換写像Aがランク落ちしていた場合は式(2)のみでは復元できない。また、変換写像Aがフルランクである場合、式(2)のみでも原理的には復元は可能である。しかしながら、変換写像Aがフルランクである場合、後述する式(3)を利用する場合に比べて解がスパースではない可能性が高い。そのため、変換写像Aがフルランクである場合、後述する式(3)を利用する場合に比べて得られる推測画像は不鮮明である。
【0029】
また、変換写像Aがフルランクである場合、推測ベクトルがベクトルbに乗ったノイズに適合しすぎてしまう等の画像を劣化させる現象が生じる場合がある。そのため、たとえ観測ベクトルの要素数が推測ベクトルの要素数と等しいという条件が満たされる場合であっても、変換写像Aがフルランクである場合には、後述する式(3)を利用する場合に比べて得られる推測画像は不鮮明である。
【0030】
なお、ランクとは変換写像Aの表現行列において、行もしくは列ベクトルの線形独立なものの最大個数を意味する。なお、変換写像Aがフルランクであるとは、表現行列のランクが取りうる最大値であることを意味する。なお、変換写像Aがランク落ちするとは、フルランクではないことを意味する。
【0031】
そこで画像処理装置1は、目標画像に関する事前情報(以下「目標事前情報」という。)を用いる。目標事前情報は、目標画像が有する特性を示す情報である。そのため、目標画像が第1画像特性を有するという情報は目標事前情報の一例である。画像処理装置1は、目標事前情報が示す目標画像の特性を推測画像も有する特性として扱う。そのため、目標事前情報は、数学的には未知数を算出する際の拘束条件として機能し、独立な未知数の数を減らす。独立な未知数の数が減るので、未知数の値が決定される。以下説明の簡単のため目標事前情報が第1画像特性である場合を例に画像処理装置1を説明する。
【0032】
スパース表現関数はこのような目標事前情報を表す関数の1例である。スパース表現関数は、例えば以下の式(3)で表される。より具体的には式(3)のスパース表現関数は、第1画像特性を表すための関数である。
【0033】
【数3】
【0034】
式(3)に示されるように、スパース表現関数は、例えば推測ベクトルのL1ノルム(すなわち推測ベクトルの各要素の絶対値の和)で表される。式(3)で表される値は、式(3)で表される値が小さいほど被写体画像のスパース性が高いことを示す。なお、スパース性が高いとは、全画素に対する輝度値が0である画素の割合が、少なくとも0.5は超える高い割合であることを意味する。
【0035】
画像処理装置1は、観測過程表現関数とスパース表現関数とを用い、第1最適化条件を満たす推測ベクトルを算出する。第1最適化条件は、観測過程表現関数とスパース表現関数との和の関数の値が最小という条件である。第1最適化条件は、例えば以下の式(4)で表される。なお、“s.t.”は、数理最適化分野における “subject to”を意味する記号である。
【0036】
【数4】
【0037】
式(4)においてaは、ベクトルuのL1ノルムの上限値を表す。上限値は予め定められた値である。上限値は小さいほどスパース性が高いことを示す。上述したように、観測ベクトルと式(1)の右辺との違いが小さいほど推測画像は鮮明である。また上述したように、式(3)の値は、式(3)の値が小さいほどスパース性が高いことを表す。そのため、式(4)の値が小さいほど、推測画像は鮮明である。
【0038】
<第1最適化条件を満たす推測ベクトルの算出方法>
第1最適化条件を満たす推測ベクトルは罰金法や拡張ラグランジュ法等のどのような最適化の方法で算出されてもよい。ここで、第1最適化条件を満たす推測ベクトルの算出方法の一例を説明する。式(2)で表される第1最適化条件を満たす推測ベクトルは、例えば交互方向乗数法(alternating direction method of multipliers: ADMM)によって算出される。
【0039】
交互方向乗数法は、微分可能な第1関数とL1ノルムを含む第2関数との和で表される関数の最適化問題を解く方法であって、補助変数と拡張ラグランジュ関数とを導入した上で、逐次最適化する方法である。L1ノルムを含む関数は微分可能でないところが存在する。交互方向乗数法を、数式を用いて説明すると以下の通りである。
【0040】
交互方向乗数法を適用する最適化問題は、例えば以下の式(5)で表される。
【0041】
【数5】
【0042】
fは、第1関数を表す。gは第2関数を表す。補助変数zを代入し、式(5)の条件を以下の式(6)の条件に置き換える。
【0043】
【数6】
【0044】
次に、以下の式(7)で表される拡張ラグランジュ関数を定義する。
【0045】
【数7】
【0046】
式(7)の左辺が拡張ラグランジュ関数である。式(7)の右辺第3項のhはラグランジュの未定乗数を表す。交互方向乗数法においてラグランジュの未定乗数hは逐次最適化のたびに更新される。tは、逐次最適化の反復回数を表す(tは0以上の整数)。式(7)の右辺第4項のL2ノルムは、罰金法における罰金項を表す。交互方向乗数法においてベクトルxとベクトルzとは、逐次最適化のたびに更新される。式(7)のμはベクトルxとベクトルzの差の二乗ノルムの項の重みを表す。
【0047】
交互方向乗数法では、式(7)で表される拡張ラグランジュ関数を用いて、以下の繰り単位逐次最適化を繰り返し実行する。交互方向乗数法の単位逐次最適化では、まず反復回数(t+1)回目のベクトルxとして以下の式(8)で表されるベクトルxが算出される。
【0048】
【数8】
【0049】
次に反復回数(t+1)回目のベクトルzとして以下の式(9)で表されるベクトルzが算出される。
【0050】
【数9】
【0051】
次に反復回数(t+1)回目のラグランジュの未定乗数hとして以下の式(10)で表されるラグランジュの未定乗数hが算出される。
【0052】
【数10】
【0053】
ここまでで単位逐次最適化が終了し、所定の終了条件を満たさない場合には、新たな単位逐次最適化が開始される。これが、交互方向乗数法である。
【0054】
画像処理装置1は、式(5)で表される最適化問題であって第1関数がスパース表現関数に置き換えられ第2関数が以下の式(11)で表される関数に置き換えられた最適化問題に対して交互方向乗数法を実行する。
【0055】
【数11】
【0056】
式(11)においてλは目的関数の中での式(11)のノルムが表す項の重みを決めるための係数(定数)であり、hとの間に依存関係の無い係数であり、逐次最適化によっては更新されない定数である。なお、画像処理装置1における目的関数とは具体的には式(5)である。
【0057】
画像処理装置1は交互方向乗数法の単位逐次最適化において、まず反復回数(t+1)回目のベクトルxを以下の式(12)が表す式に更新する。
【0058】
【数12】
【0059】
式(12)は、拡張ラグランジュ関数Laugの最小値を与えるベクトルxである。
【0060】
画像処理装置1は交互方向乗数法の単位逐次最適化において、次に反復回数(t+1)回目のベクトルzを以下の式(13)が表す式に更新する。
【0061】
【数13】
【0062】
式(13)においてS1/μは、軟判定閾値関数を表す。
【0063】
画像処理装置1は交互方向乗数法の単位逐次最適化において、次に式(10)の処理が実行される。画像処理装置1は所定の終了条件が満たされるまで単位逐次最適化を実行する。終了条件が満たされたタイミングにおけるベクトルxが第1最適化条件を満たす推測ベクトルである。
【0064】
このようにして画像処理装置1は第1最適化条件を満たす推測ベクトルを算出する。推測ベクトルは要素が推測画像の1つの画素の輝度値を表すベクトルであるため、推測ベクトルを算出することは推測画像を生成することである。
【0065】
図2は実施形態における画像処理装置1の構成の一例を示す図である。画像処理装置1は、バスで接続されたCPU(Central Processing Unit)等のプロセッサ91とメモリ92とを備える制御部10を備え、プログラムを実行する。画像処理装置1は、プログラムの実行によって制御部10、通信部11、記憶部12及びユーザインタフェース13を備える装置として機能する。
【0066】
より具体的には、画像処理装置1は、プロセッサ91が記憶部12に記憶されているプログラムを読み出し、読み出したプログラムをメモリ92に記憶させる。プロセッサ91が、メモリ92に記憶させたプログラムを実行することによって、画像処理装置1は、制御部10、通信部11、記憶部12及びユーザインタフェース13を備える装置として機能する。
【0067】
制御部10は、自装置(画像処理装置1)が備える各機能部の動作を制御する。制御部10は、例えば第1最適化条件を満たす推測ベクトルを算出する。制御部10は、例えば算出した第1最適化条件を満たす推測ベクトルを記憶部12に記録する。制御部10は、例えば通信部11の動作を制御する。
【0068】
通信部11は、画像処理装置1を外部装置に接続するための通信インタフェースを含んで構成される。通信部11は、例えば通信先の外部装置に算出した第1最適化条件を満たす推測ベクトルを送信する。通信部11は、例えば外部装置から観測画像の画像データを受信する。
【0069】
記憶部12は、磁気ハードディスク装置や半導体記憶装置などの記憶装置を用いて構成される。記憶部12は画像処理装置1に関する各種情報を記憶する。記憶部12は、例えば画像処理装置1が備える各機能部の動作を制御するプログラムを予め記憶する。記憶部12は、例えば予め変換写像Aを記憶する。記憶部12は、例えば予め目標事前情報を記憶する。
【0070】
ユーザインタフェース13は、画像処理装置1に対する入力を受け付ける入力部131と画像処理装置1に関する各種情報を出力する出力部132とを備える。ユーザインタフェース13は、例えばタッチパネルである。入力部131は、自装置に対する入力を受け付ける。
【0071】
入力部131は、例えばマウスやキーボード、タッチパネル等の入力端末である。入力部131は、例えばこれらの入力端末を自装置に接続するインタフェースとして構成されてもよい。入力部131には、例えば観測画像の画像データが入力されてもよい。
【0072】
出力部132は、例えば液晶ディスプレイ、有機ELディスプレイ等の表示装置である。出力部132は、例えばこれらの表示装置を自装置に接続するインタフェースとして構成されてもよい。出力部132は、例えば入力部131に入力された情報を出力する。出力部132は、例えば推測画像を表示する。
【0073】
図3は、実施形態における制御部10の機能構成の一例を示す図である。制御部10は、通信制御部101、入力制御部102、出力制御部103、観測画像取得部104、画像生成部105及び記録部106を備える。
【0074】
通信制御部101は、通信部11の動作を制御する。入力制御部102は、入力部131の動作を制御する。出力制御部103は、出力部132の動作を制御する。
【0075】
観測画像取得部104は、通信部11又は入力部131に入力された観測画像の画像データを取得する。
【0076】
画像生成部105は、観測画像の画像データと目標事前情報とに基づき推測ベクトルを算出する。画像生成部105は、例えば交互方向乗数法を用いて第1最適化条件を満たす推測ベクトルを算出する。
【0077】
記録部106は、制御部10が備える各機能部の処理によって発生した各種情報を記憶部12に記録する。記録部106は、例えば推測ベクトルを記憶部12に記録する。記録部106は、例えば推測画像の画像データを記憶部12に記録する。
【0078】
図4は、実施形態の画像処理装置1が実行する処理の流れの一例を示すフローチャートである。通信部11又は入力部131に観測画像の画像データが入力され、入力された観測画像の画像データを観測画像取得部104が取得する(ステップS101)。次に画像生成部105が観測画像の画像データ及び目標事前情報に基づき推測ベクトルを算出する(ステップS102)。次に出力制御部103が出力部132の動作を制御し、出力部132に推測ベクトルが示す画像(すなわち推測画像)を表示させる(ステップS103)。
【0079】
このように構成された実施形態の画像処理装置1は、検査対象の画像がスパース性を有するという目標事前情報も用いて観測画像に基づき推測画像を生成する。そのため、推測画像は、観測過程で失われた情報の一部又は全部を有する画像であり、観測画像よりも鮮明な被写体画像である。このように、画像処理装置1は、観測画像よりも、鮮明な被写体画像を生成することができる。
【0080】
(第1変形例)
目標画像が有する特性は、第1画像特性に代えて第2画像特性であってもよい。第2画像特性は、目標画像における隣接画素の輝度値の変化量は目標画像内の他の画素間の輝度値の変化量に略同一であるという特性である。なお、第2画像特性は、目標画像を取得する環境に依存して現れる特性である。
【0081】
目標画像が第2画像特性を有する場合、画像処理装置1が用いる目標事前情報が示す内容は、目標画像は第2画像特性を有するという情報である。
【0082】
第2画像特性を有する推測画像の画像データを生成する場合、画像処理装置1は観測過程表現関数とスパース表現関数とを用いて推測画像の画像データを生成する代わりに、観測過程表現関数と連続性表現関数とを用いて推測画像の画像データを生成する。
【0083】
連続性表現関数は、このような目標事前情報を表す関数の1例である。連続性表現関数は、第2画像特性を表すための関数である。連続性表現関数は、例えば以下の式(14)で表される。
【0084】
【数14】
【0085】
【数15】
【0086】
【数16】
【0087】
【数17】
【0088】
式(15)及び式(16)に現れる演算子Dは作用する先のベクトルを全微分する演算子である。式(17)の演算子Pは、作用する先のベクトルを90度回転させる演算子である。式(14)の値は、式(14)の値が小さいほど、隣接画素の輝度値の変化量と被写体画像内の他の画素間の輝度値の変化量との違いが小さいことを表す。
【0089】
図5は、第1変形例におけるベクトルuとベクトルvとの関係を説明する図である。図5は、画像の画素を示す。そのため、図5は複数の画素を表す。図5は、ベクトルvはY軸に平行なベクトルであることを示す。図5は、ベクトルuはX軸に平行なベクトルであることを示す。X軸とY軸とは直交している。
【0090】
観測過程表現関数と連続性表現関数とを用いて推測画像の画像データを生成する場合、画像処理装置1は、具体的には第2最適化条件を満たす推測ベクトルを算出する。第2最適化条件は、観測過程表現関数と連続性表現関数との和の関数の値が最小という条件である。第2最適化条件は、例えば以下の式(18)で表される。
【0091】
【数18】
【0092】
式(18)においてλは観測過程表現関数と連続性表現関数の重みを調整するパラメータである。上述したように、観測ベクトルと式(1)の右辺との違いが小さいほど推測画像は鮮明である。また上述したように、式(14)の値は、式(14)の値が小さいほど、隣接画素の輝度値の変化量と被写体画像内の他の画素間の輝度値の変化量との違いが小さいことを表す。そのため、式(18)の値が小さいほど、推測画像は鮮明である。
【0093】
<第2最適化条件を満たす推測ベクトルの算出方法>
第2最適化条件を満たす推測ベクトルは罰金法や拡張ラグランジュ法等のどのような最適化の方法で算出されてもよい。ここで、第2最適化条件を満たす推測ベクトルの算出方法の一例を説明する。式(18)で表される第2最適化条件を満たす推測ベクトルは、例えば全変動に対する交互方向乗数法(alternating direction method of multipliers for total variation: ADMM-TV)によって算出される。全変動は、式(14)が表す内容である。
【0094】
ADMM-TVは、第1関数と2つの第2関数との和で表される関数の最適化問題を解く方法であって、補助変数と拡張ラグランジュ関数とを導入した上で、逐次最適化する方法である。ADMM-TVは、交互方向乗数法がL1ノルム1つを扱ったのに対し、2つのL1ノルムを扱う点でADMMと異なる。ADMM-TVにおいて2つのL1ノルムは、それぞれ交互方向乗数法におけるL1ノルムと同様の処理が行わる。
【0095】
なお、ADMM-TVの詳細は、例えば以下の参考文献1に記載されている。特に、参考文献1の8ページから9ページの式(15)~式(20)は拡張ラグランジュ関数の説明であり、9ページのAlgorithm 3.1の表に記載のアルゴリズムがADMM-TVの説明である。
【0096】
参考文献1: Zhiwei (Tony) Qin, Donald Goldfarb, Shiqian Ma, “An Alternating Direction Method for Total Variation Denoising” arxiv:1108.1587v4
【0097】
画像処理装置1が実行するADMM-TVにおける拡張ラグランジュ関数は、具体的には以下の式(19)が表す関数である。
【0098】
【数19】
【0099】
式(19)においてγ は式(15)を拡張ラグランジュ関数Laugに組み込むための未定乗数を表す。式(19)においてγ は式(16)を拡張ラグランジュ関数Laugに組み込むための未定乗数を表す。式(19)においてγ は式(17)を拡張ラグランジュ関数Laugに組み込むための未定乗数を表す。式(19)においてμは式(15)についての罰金項の係数を表す。式(19)においてμは式(16)及び式(17)についての罰金項の係数を表す。式(19)においてzは、補助変数である。
【0100】
式(19)のベクトルdとベクトルdとは逐次最適化のたびに軟判定閾値関数で表される極値条件を満たす値に更新される。式(19)のベクトルuとベクトルvとは、逐次最適化のたびに式(19)で定義したコスト関数(拡張ラグランジュ関数)Lの微分が0になるという極値条件を満たす値に更新される。
【0101】
このようにして画像処理装置1は第2最適化条件を満たす推測ベクトルを算出する。なお、ADMM-TV等の第2最適化条件を満たす推測ベクトルを算出する処理は画像生成部105によって実行される。
【0102】
このように構成された第1変形例の画像処理装置1は、目標画像における隣接画素の輝度値の変化量は目標画像内の他の画素間の輝度値の変化量に略同一であるという条件を満たすという目標事前情報も用いて観測画像に基づき推測画像を生成する。そのため、推測画像は、観測過程で失われた情報の一部又は全部を有する画像であり、観測画像よりも鮮明な画像である。このように、第1変形例の画像処理装置1は、観測画像よりも、鮮明に被写体画像を生成することができる。
【0103】
(第2変形例)
目標画像が有する特性は、第1画像特性及び第2画像特性であってもよい。目標画像が第1画像特性及び第2画像特性を有する場合、画像処理装置1が用いる目標事前情報は、目標画像は第1画像特性及び第2画像特性を有するという情報である。
【0104】
第1画像特性及び第2画像特性を有する推測画像の画像データを生成する場合、画像処理装置1は観測過程表現関数とスパース表現関数とにくわえて更に連続性表現関数を用いて推測画像の画像データを生成する。より具体的には、画像処理装置1は、観測過程表現関数とスパース表現関数と連続性表現関数とを用い、第3最適化条件を満たす推測ベクトルを算出する。第3最適化条件は、観測過程表現関数とスパース表現関数と連続性表現関数との和の関数の値が最小という条件である。第3最適化条件は、例えば以下の式(20)で表される。
【0105】
【数20】
【0106】
式(20)においてλはL1ノルムの係数を表す。上述したように、観測ベクトルと式(1)の右辺との違いが小さいほど推測画像は鮮明である。また、また上述したように、式(3)の値は、式(3)の値が小さいほど検査対象のスパース性が高いことを表す。さらに、上述したように、式(14)の値は、式(14)の値が小さいほど、隣接画素の輝度値の変化量と被写体画像内の他の画素間の輝度値の変化量との違いが小さいことを表す。そのため、式(20)の値が小さいほど、推測画像は鮮明である。
【0107】
第3最適化条件を満たす推測ベクトルは罰金法や拡張ラグランジュ法やADMM-TV法等のどのような最適化の方法で算出されてもよい。
【0108】
なお、第3最適化条件を満たす推測ベクトルを算出する処理は画像生成部105によって実行される。
【0109】
このように構成された第2変形例の画像処理装置1は、第1画像特性及び第2画像特性を用いて観測画像に基づき推測画像を生成する。そのため、このようにして生成された推測画像は、観測過程で失われた情報の一部又は全部を有する画像であり、観測画像よりも鮮明な被写体画像である。このように第2変形例の画像処理装置1は、観測画像よりも鮮明な被写体画像を生成することができる。
【0110】
また、このように構成された第2変形例の画像処理装置1は、第1画像特性だけを用いて推測画像を生成する画像処理装置1や、第2画像特性だけを用いて推測画像を生成する画像処理装置1よりも情報量の多い目標事前情報に基づいて推測画像を生成する。そのため、第2変形例の画像処理装置1は、第1画像特性だけを用いて推測画像を生成する画像処理装置1や、第2画像特性だけを用いて推測画像を生成する画像処理装置1よりも鮮明な被写体画像を生成することができる。
【0111】
(第3変形例)
画像処理装置1は、観測画像取得部104が取得した画像データが示す観測画像をカラーバー情報に基づき色変換写像によってグレースケールの画像(以下「グレースケール画像」という。)に変更してもよい。カラーバー情報は、予めグレースケールに対応付けられた色を示す情報である。色変換写像は、画素の値が示す各原色の量を説明変数としグレースケールの明度を目的変数とする写像である。
【0112】
以下、カラーバー情報に基づき処理対象の画像をモノクロ画像に変更する処理をグレースケール変換処理という。以下説明の簡単のためグレースケール変換処理の処理対象(すなわち変換対象)の画像がカラー画像である場合を例にグレースケール変換処理を説明する。しかしながら、グレースケール変換処理の処理対象の画像は必ずしもカラー画像である必要は無い。グレースケール変換処理の処理対象の画像はモノクロ画像であってもよい。
【0113】
なお、カラー画像の色の原色は、例えば赤、緑、青の3原色である。原色は、例えばシアン、マゼンダ、黄色、黒の4原色であってもよい。以下説明の簡単のため、原色が赤、緑、青の3原色である場合を例にグレースケール変換処理の一例を説明する。
【0114】
グレースケール変換処理は、例えば以下の処理である。グレースケール変換処理では、まず変換元(変換対象)の画像の全画素について以下の式(21)で表される値L(以下「色距離」という。)を最小にするC、C及びCを算出する。C、C及びCの定義は後述する。
【0115】
【数21】
【0116】
式(21)の左辺の記号は色距離を表す。式(21)のCprは、変換元の画像の画素が有する赤の量を表す。赤は原色の1つである。式(21)のCpgは、変換元の画像の画素が有する緑の量を表す。緑は原色の1つである。式(21)のCpbは、変換元の画像の画素が有する青の量を表す。青は原色の1つである。以下、式(21)の変換元の画像において赤、青、緑の各量がそれぞれCpr、Cpg、pbである色を変換元画素色という。式(21)のCは、カラーバー情報においての変換元画素色が有する赤の量を表す。式(21)のCは、カラーバー情報においての変換元画素色が有する緑の量を表す。式(21)のCは、カラーバー情報においての変換元画素色が有する青の量を表す。
【0117】
このように色距離Lは、変換元の画像の画素の色とカラーバー情報の色との違いを示す量である。
【0118】
グレースケール変換処理では、次に予め定められた色変換対応情報に基づき、色距離Lを最小にするグレースケールの色(すなわち明度)に変換元の画像の各画素の色を変換する。より具体的には、変換元の画像の色を、色変換対応情報によって最小色に対応付けられたグレースケールの色に変換する。最小色は、カラーバー情報が示す色であり色距離Lを最小にする最小にするC、C及びCが示す色である。色変換対応情報は、カラーバー情報が示す色とグレースケールの色との対応関係を示す情報である。なお、カラーバー情報及び色変換対応情報は、予め記憶部12に記憶されている。
【0119】
式(21)及び色変換対応情報の1組の情報が、色変換写像の一例である。C、C及びCは、色変換写像の説明変数の一例である。
【0120】
以下、グレースケール変換処理を実行する制御部10を制御部10aという。図6は、第3変形例における制御部10aの機能構成の一例を示す図である。制御部10aは、グレースケール変換部107を備える点で制御部10と異なる。
【0121】
グレースケール変換部107は、観測画像取得部104が取得した画像データが示す観測画像に対してグレースケール変換処理を実行する。グレースケール変換処理の実行により、観測画像がグレースケールで表現される。グレースケール変換部107は、グレースケールで表現された観測画像の画像データを出力する。出力先は、例えば画像生成部105である。このよう場合、画像生成部105は観測画像取得部104が取得した画像データに代えてグレースケール変換部107が出力した画像データを用いて推測ベクトルを算出する。
【0122】
このように構成された第3変形例の画像処理装置1は、色変換写像を用いて観測画像の表現をグレースケールによる表現に変換し、グレースケールで表現された観測画像に基づいて推測ベクトルを算出する。カラー画像からグレースケール画像に変換する従来法としては、例えば以下の方法(以下「従来変換法」という。)が知られている。従来変換法は、全画素について原色の色の重み付き平均を明度として算出した後、各画素の値を算出した明度に置き換えることで画像をグレースケール画像に変換する方法である。しかしながらこのような方法の場合、損傷部位と非損傷部位とがカラー画像において異なる色で表現されていても、明度が同じためにグレースケール画像においては損傷部位と非損傷部位とを区別できない場合がある。
【0123】
一方、グレースケール変換処理の方法であれば、変換元のカラー画像において異なる色ならばグレースケール変換処理の実行後も異なる明暗で画像を表現可能であるために、グレースケール画像においても損傷部位と非損傷部位とが区別可能に表現される。そのため、第3変形例の画像処理装置1は、観測画像を損傷部位と非損傷部位とを区別可能なグレースケール画像に変換することができる。
【0124】
なお、観測画像をグレースケール画像に変換することの利点は、画像の類似性を判別する際、RGB等の原色の組合せで表現された画像よりも明度で表現された画像を扱う方が演算量が少ないという点である。例えば画素がRGBの3つの要素を有する画像データを用いるよりもグレースケールに変換された画像を用いる方が、要素が1つであるために演算量が少ない。
【0125】
(第4変形例)
画像処理装置1は、観測画像取得部104が取得した画像データが示す観測画像を観測画像に写る像の幾何学的な特性に基づいた変形を実行してもよい。このような場合、画像生成部105は、変形前の観測画像に代えて変形後の観測画像に基づき推測ベクトルを算出する。以下、画像に写る像の幾何学的な特性に基づいて予め定められた変形を画像に対して実行する処理を変形処理という。
【0126】
画像に写る像の幾何学的な特性とは、例えば像が同心円状の構造の画像を画像全体に対して所定の割合以上含むという特性である。画像に写る像の幾何学的な特性は、例えば超音波を用いたセクタースキャンで撮像された検査対象の像(以下「セクタースキャン像」という。)に生じる特性である。画像に写る像がセクタースキャン像である場合、画像に写るセクタースキャン像は扇形に略同一であり、かつ、同心円状の縞を有する。
【0127】
図7は、第4変形例におけるセクタースキャン像の一例を示す図である。図7において、像P2がセクタースキャン像の一例である。図7は、像P2が扇形に略同一であることを示す。図7は、像P2が同心円状の縞を有することを示す。図7の横軸は、座標軸がX軸及びY軸であるデカルト座標系のX軸を表す。図7の縦軸は、座標軸がX軸及びY軸であるデカルト座標系のY軸を表す。
【0128】
以下説明の簡単のため変形処理の対象の画像が観測画像であり、観測画像に写る像がセクタースキャン像である場合を例に変形処理を説明する。セクタースキャン像の幾何学的な特性を鑑みるに、セクタースキャン像上の各点の座標を2次元の極座標系で表せば、画像生成部105は推測ベクトルの算出に際してセクタースキャン像の幾何学的な特性を簡易な数式で扱うことができる。その結果、推測ベクトルの算出に要する演算量が軽減されると期待される。また、演算量が減る為、丸め誤差等の発生頻度も下がり、推測ベクトルの算出結果の精度の向上も期待される。
【0129】
そこで変形処理では、まずセクタースキャン像上の各点の座標を2次元の極座標系で表現する処理(以下「第1座標処理」という。)が実行される。第1座標処理では、まずハフ変換の実行により扇形の辺が検出される。第1座標処理では、次に検出した辺の交点を2次元の極座標系の原点に決定する。第1座標処理では、次に原点と切片の座標から半径が算出される。なお第1座標処理における切片とは具体的には検出された扇形の辺の一方の端部である。第1座標処理では、次にセクタースキャン像上の各点について2次元の極座標系で表現された座標を算出する。ここまでが第1座標処理である。
【0130】
変形処理では第1座標処理の次に第2座標処理を実行する。第2座標処理は、2次元の極座標系で表される観測画像を、投影デカルト座標系上の図形に変換する処理である。投影デカルト座標系は、デカルト座標系であり、一方の座標軸が2次元の極座標系の動径方向又は方位角方向の一方の座標軸を表し、他方の座標軸が2次元の極座標系の動径方向又は方位角方向の他方の座標軸を表す座標系である。投影デカルト座標系の座標軸が、例えばX軸とY軸とである場合に、X軸が動径方向の座標軸を表し、Y軸が方位角方向の座標軸を表す。第2座標処理により、セクタースキャン像を表現する座標系が変化するために観測画像は変形する。
【0131】
図8は、第4変形例における投影デカルト座標系上のセクタースキャン像の一例を示す図である。より具体的には、図7のセクタースキャン像が投影デカルト座標系で表された像である。図8において、像P3が投影デカルト座標系上のセクタースキャン像の一例である。像P3が変形後の観測画像の一例である。図8は、図7のセクタースキャン像が変形したことを示す。図8は、図7に現れている縞が同心円状から縦縞に変化していることを示す。図8の横軸は、動径方向を表す。図8の縦軸は、方位角方向を表す。このように図8の像は、投影デカルト座標系で表された像である。
【0132】
以下、変形処理を実行する制御部10を制御部10bという。
図9は、第4変形例における制御部10bの機能構成の一例を示す図である。制御部10bは、画像変形部108を備える点で制御部10と異なる。
【0133】
画像変形部108は、観測画像取得部104が取得した画像データを取得し、取得した画像データが示す観測画像に対して変形処理を実行する。変形処理の実行により観測画像が変形する。画像変形部108は、変形後の観測画像の画像データを画像生成部105に出力する。画像生成部105は、変形後の観測画像に基づき、推測ベクトルを算出する。この場合、観測ベクトルの各成分は、変形後の観測画像の各画素の輝度値を表す。
【0134】
このように構成された第4変形例の画像処理装置1は、観測画像を観測画像に写る像の幾何学的な特性に基づいて変形し、変形後の観測画像に基づいて推測ベクトルを算出する。このような変形により、推測ベクトルの算出に際して観測画像の幾何学的な特性を簡易な数式で扱うことができる。そのため、第4変形例の画像処理装置1は推測ベクトルの算出に要する演算量を軽減するこができる。また、演算量が減る為に丸め誤差等の発生頻度も下がり、第4変形例の画像処理装置1は推測ベクトルの算出結果の精度を向上させることもできる。
【0135】
なお観測画像に写る像の幾何学的な特性は、例えば双曲線に略同一の縞を有するという特性であってもよい。このような場合、変形処理の第1座標処理では2次元の極座標に代えて双極座標系でセクタースキャン像上の各点の座標を表現する。なお観測画像に写る像の幾何学的な特性は、例えば楕円に略同一の縞を有するという特性であってもよい。このような場合、変形処理の第1座標処理では2次元の極座標に代えて楕円座標系でセクタースキャン像上の各点の座標を表現する。このように変形処理では、観測画像に写る像の幾何学的な特性に応じた座標系でセクタースキャン像上の各点の座標を表現する処理が実行される。
【0136】
なお、制御部10bは、さらにグレースケール変換部107を備えてもよい。このような場合、観測画像取得部104が取得した観測画像の画像データはまずグレースケール変換部107に出力される。グレースケール変換部107は観測画像をグレースケール画像に変換する。グレースケール画像に変換された観測画像の画像データはグレースケール変換部107から画像変形部108に出力される。画像変形部108は、グレースケール画像に変換された観測画像に対して変形処理を実行する。画像変形部108による変形後の観測画像の画像データが画像生成部105に出力される。画像生成部105は、グレースケール画像に変換された後に変形処理によって変形した画像の画像データから推測画像の画像データを生成する。
【0137】
(第5変形例)
変換写像Aは、観測画像に関する事前情報(以下「観測事前情報」という。)を用いた機械学習の方法により予め生成されたものであってもよい。観測事前情報を用いた機械学習の方法は、例えば以下の線形回帰学習である。
【0138】
<線形回帰学習>
図10は、第5変形例における線形回帰学習を説明する説明図である。図10は、観測画像に写る像がセクタースキャン像である場合に、変換写像Aが有する特性(以下「変換写像特性」という。)を示す。図10が示す変換写像特性は、観測画像のi行j列に位置する1つの画素の値bi,jを、推測画像のi行j列に位置する画素を中心にした列方向の複数の画素の値に基づいて取得するという特性である。なお、i及びjはそれぞれ1以上の整数である。なお、図10において観測画像及び推測画像はどちらも、変形処理による変形後の画像である。
【0139】
そのため、観測画像のi行j列に位置する1つの画素の値bi,jと、推測画像のi行j列に位置する画素を中心にした列方向の複数の画素の値と、を対応付ける写像が変換写像Aである。値bi,jは、観測ベクトルbの(((j-1)×I)+i)番目の要素の値である。なお、Iは観測画像の列方向の画素数である。このような変換写像Aは、例えば以下の式(22)の関数で表現される。
【0140】
【数22】
【0141】
式(22)において、wは、推測画像の(i+l)行j列に位置する画素の値ui+l、jの、観測画像の値bi、jへの寄与率である。lは、(-k)以上k以下の整数である。kは、1以上の整数である。以下kを周辺画素数という。周辺画素数kは予め定められた値である。このように、式(22)は、推測画像のi行j列に位置する画素を中心にした列方向の合計(2k+1)個の画素の値の重み付き和を表す。式(22)は、観測事前情報が示す内容を有する変換写像Aを表現する数式の一例である。
【0142】
ここで、変換写像特性と観測事前情報との関係について説明する。変換写像特性は、観測事前情報を鑑みると、変換写像Aが有することが望ましいと考えられる特性である。上述したように観測画像に写る像がセクタースキャン像である場合、観測画像には同心円状の縞が写る。同心円状の縞は、金属劣化部等の散乱体から放射された信号が同心円状に拡がったアーティファクトである。このことは観測画像の1つの画素には推測画像の複数の画素が対応することを意味する。このような観測事前情報を鑑みるに、観測画像に写る像がセクタースキャン像である場合に推測画像を生成するには、変換写像特性を有するように変換写像Aを生成することが望ましい。そのため、変換写像Aは観測事前情報を用いることなく決定された写像である必要は無く、観測事前情報を用いて生成されたものであってもよい。
【0143】
線形回帰学習では、予め用意された学習用のデータとして観測画像の画像データと観測画像よりも鮮明な被写体画像の画像データとの組(以下「写像学習用データ」という。)が用いられる。観測画像よりも鮮明な被写体画像は、具体的には第2の観測方法により得られた検査対象の画像である。
【0144】
図11は、第5変形例における観測画像よりも鮮明な被写体画像の一例を示す図である。図11が示す画像は、火力発電所で用いられる蒸気配管の断面を露出させ、鏡面まで研磨したのち酸性溶液で金属組織を際立たせる処理を施した断面を写真撮影した結果の画像である。すなわち、図11が示す画像は、破壊検査により得られた断面の画像である。囲いP4は、異常な金属組織を含む損傷部位の一例である。
【0145】
線形回帰学習では、1又は複数の写像学習用データを用いる線形重回帰分析であって、寄与率wを回帰変数とし、値bi,jを目的変数とし、画素の値ui+l、jを説明変数とする線形重回帰分析が、寄与率wが正という条件の元で実行される。
【0146】
図12は、第5変形例における画像処理装置100の構成を説明する説明図である。画像処理装置100は、画像処理装置1及び学習装置2を備える。
【0147】
学習装置2は、バスで接続されたCPU等のプロセッサ93とメモリ94とを備える制御部20を備え、プログラムを実行する。学習装置2は、プログラムの実行によって制御部20、通信部21、記憶部22及びユーザインタフェース23を備える装置として機能する。
【0148】
より具体的には、学習装置2は、プロセッサ93が記憶部22に記憶されているプログラムを読み出し、読み出したプログラムをメモリ94に記憶させる。プロセッサ93が、メモリ94に記憶させたプログラムを実行することによって、学習装置2は、制御部20、通信部21、記憶部22及びユーザインタフェース23を備える装置として機能する。
【0149】
制御部20は、自装置(学習装置2)が備える各機能部の動作を制御する。制御部20は、例えば観測画像に写る像の幾何学的な特性を用いた機械学習の方法により変換写像Aを生成する。制御部20は、例えば生成した変換写像Aを記憶部22に記録する。制御部20は、例えば通信部21の動作を制御する。
【0150】
通信部21は、学習装置2を画像処理装置1等の外部装置に接続するための通信インタフェースを含んで構成される。通信部21は、例えば通信先の画像処理装置1に、生成した変換写像Aを示す情報を送信する。通信部21は、例えば外部装置から写像学習用データを受信する。
【0151】
記憶部22は、磁気ハードディスク装置や半導体記憶装置などの記憶装置を用いて構成される。記憶部22は学習装置2に関する各種情報を記憶する。記憶部22は、例えば学習装置2が備える各機能部の動作を制御するプログラムを予め記憶する。記憶部22は、例えば周辺画素数を記憶する。
【0152】
ユーザインタフェース23は、学習装置2に対する入力を受け付ける入力部231と学習装置2に関する各種情報を出力する出力部232とを備える。ユーザインタフェース23は、例えばタッチパネルである。入力部231は、学習装置2に対する入力を受け付ける。
【0153】
入力部231は、例えばマウスやキーボード、タッチパネル等の入力端末である。入力部231は、例えばこれらの入力端末を学習装置2に接続するインタフェースとして構成されてもよい。入力部231には、例えば周辺画素数が入力される。入力部231には、例えば写像学習用データが入力されてもよい。
【0154】
出力部232は、例えば液晶ディスプレイ、有機ELディスプレイ等の表示装置である。出力部232は、例えばこれらの表示装置を学習装置2に接続するインタフェースとして構成されてもよい。出力部232は、例えば入力部231に入力された情報を出力する。出力部232は、例えば生成した変換写像Aを示す情報を表示する。
【0155】
図13は、第5変形例における制御部20の機能構成の一例を示す図である。制御部20は、通信制御部201、入力制御部202、出力制御部203、学習用データ取得部204、写像生成部205、記録部206、グレースケール変換部207及び画像変形部208を備える。
【0156】
通信制御部201は、通信部21の動作を制御する。通信制御部201は、通信部21の動作を制御して、例えば生成された変換行列Aを示す情報を画像処理装置1に送信する。このような場合、画像処理装置1は受信した変換行列Aを用いて観測画像の画像データから推測画像の画像データを生成する。
【0157】
入力制御部202は、入力部231の動作を制御する。出力制御部203は、出力部232の動作を制御する。
【0158】
学習用データ取得部204は、通信部21又は入力部231に入力された写像学習用データを取得する。
【0159】
写像生成部205は、写像学習用データと観測事前情報とに基づき変換写像Aを生成する。写像生成部205は、例えば写像学習用データを用いた線形回帰学習により変換写像Aを生成する。
【0160】
記録部206は、制御部20が備える各機能部の処理によって発生した各種情報を記憶部22に記録する。記録部206は、例えば変換写像Aを記憶部22に記録する。記録部206は、例えば写像学習用データを記憶部22に記録する。
【0161】
グレースケール変換部207は、写像学習用データが示す各画像に対してグレースケール変換処理を実行する。グレースケール変換部207によりグレースケールの画像に変換された写像学習用画像の画像データは、画像変形部208に出力される。写像学習用画像は、写像学習用画像データが示す各画像である。
【0162】
画像変形部208は、グレースケールで表現された各写像学習用画像に対して変形処理を実行する。画像変形部208による変形後の写像学習用画像の画像データは、写像生成部205に出力される。写像生成部205は、画像変形部208が出力した画像データを学習用のデータとして用いて変換写像Aを生成する。
【0163】
このように構成された画像処理装置100は、観測事前情報を用いた機械学習の方法により生成された変換写像Aを用いて観測画像の画像データから推測画像の画像データを生成する。そのため、画像処理装置100は、観測事前情報を用いることなく決定された変換写像Aを用いて推測画像の画像データを生成する場合よりも、より鮮明な被写体画像を生成することができる。
【0164】
なお、制御部20は、必ずしもグレースケール変換部207及び画像変形部208を備える必要は無い。このような場合、写像生成部205には学習用データ取得部204が取得した写像学習用データがそのまま入力され、入力された写像学習用データがそのまま学習用のデータとして用いられる。
【0165】
なお、画像処理装置100は、グレースケール変換部107を備えてもよいし備えなくてもよい。また、画像処理装置100は、画像変形部108を備えてもよいし備えなくてもよい。しかしながら、変換写像Aがグレースケール変換処理及び変形処理の実行された写像学習用画像の画像データを用いて生成された場合には、画像処理装置1はグレースケール変換部107及び画像変形部108を備えることが望ましい。
【0166】
(第6変形例)
変換写像Aは、例えば以下のガウス特性を有してもよい。ガウス特性は、観測画像のi行j列に位置する1つの画素の値bi,jを、寄与率ガウス条件の元に、推測画像のi行j列に位置する画素を中心にした所定の範囲内の画素の値を用いて取得するという特性である。寄与率ガウス条件は、推測画像のi行j列に位置する画素を中心にした所定の範囲内の画素の値の値bi,jへの寄与率が2次元ガウス分布状であるという条件である。
【0167】
所定の範囲は、例えば画像が変形処理の実行後の画像である場合に、動径方向の長さと方位角方向の長さとが異なる楕円状の範囲である。このような場合、楕円状の範囲内の各画素の寄与率は、推測画像のi行j列に位置する画素の寄与率を最大にする2次元ガウス分布状であり、ガウス分布の幅は動径方向と方位角方向とで異なる。
【0168】
図14は、第6変形例におけるガウス特性を説明する説明図である。より詳しくは、図14は、観測画像のi行j列に位置する1つの画素の値bi,jを推測する際の、推測画像の各画素の値の寄与率を説明する説明図である。図14のθは方位角方向を表す。図14のrは動径方向を表す。方位角方向と動径方向とは直交する。図14は中心画素を示す。中心画素は、推測画像のi行j列に位置する画素である。
【0169】
図14の分布G1は各画素の値の値bi,jへの寄与率を表す。分布G1の形状は、方位角方向に伸びた偏平な2次元ガウス分布である。このことは、値bi,jには、方位角方向の画素の値の方が動径方向の画素の値よりも強く寄与することを意味する。なお、分布G1の動径方向の幅は、例えば1.0pixelであり、方位角方向の幅は、例えば5.0pixelである。
【0170】
観測画像に写る像が方位角方向に伸びる縞を有するセクタースキャン像である場合には方位角方向の画素の値の方が動径方向の画素の値よりも強く寄与する。そのため、観測画像に写る像が方位角方向に伸びる縞を有するセクタースキャン像である場合の変換写像Aは、図14に示すガウス特性を有する方が、図14に示すガウス特性を有さないよりも高い精度で推測画像の画像データを生成することができる。以下ガウス特性を有する変換写像Aをガウシアンフィルタという。
【0171】
(実験結果)
以下、画像処理装置1に学習装置2を備えた画像処理装置100を用いた実験の実験結果を説明する。実験では、検査対象として火力発電所で用いられる蒸気配管を用いた。実験では、観測画像は超音波を用いたセクタースキャンによって得られた。実験では、学習装置2による学習により生成された変換写像Aが用いられた。変換写像Aの学習に際しては、写像学習用画像として断面に垂直な方向に所定の位置から10mm間隔で6箇所の位置との断面の画像とが用いられた。
【0172】
より具体的には、写像学習用画像のうち観測画像は、上記各位置の断面を、超音波を用いたセクタースキャンにより非破壊に観測した結果である。また、写像学習用画像のうち観測画像よりも鮮明な被写体画像は、検査対象を破壊し上記各位置の断面を露出させた後に、露出した断面を写真で撮影した画像である。
【0173】
図15は、色距離及び色変換対応情報を用いたグレースケール変換処理による画像処理装置100の画像の変換の結果の一例を示す図である。図15は、結果P5、結果P6及び結果P7を示す。結果P5は、観測画像の一例である。結果P5の囲いP8は、損傷部位を示す。結果P6は、従来変換法による結果P5の画像をグレースケール画像に変換した結果である。結果P7は、色距離及び色変換対応情報を用いたグレースケール変換処理により結果P5の画像をグレースケール画像に変換した結果である。結果P7の囲いP9は囲いP8に対応する損傷部位を示す。なお、結果P6では、囲いP8に対応する損傷部位が明瞭でない。
【0174】
図15は、色距離及び色変換対応情報を用いたグレースケール変換処理を用いれば、従来変換法では不明瞭になってしまった損傷部位と非損傷部位との違いが消えずに残ることを示す。
【0175】
図16は、画像処理装置100による推測画像の生成の結果の一例を示す図である。図16は、結果P10、結果P11及び結果P12を示す。結果P10は、検査対象を破壊することで断面を露出させ、露出した断面を写真で撮影した結果の一例である。すなわち結果P10に写る像は、検査対象の実際の断面である。
【0176】
結果P11は、結果P10の断面を有する検査対象を破壊する前に、結果P10の断面を超音波により非破壊で観測した結果である。すなわち結果P11は、結果P10の断面の観測画像である。結果P12は、画像処理装置100の画像処理装置1が結果P11から生成した推測画像である。なお、結果P12の生成に際して変換写像Aは、ガウシアンフィルタが用いられた。
【0177】
図16は、画像処理装置100が結果P11と比べてより一層結果P10に近い画像を生成することを示す。なお、結果P12は、以下の手順で生成された。まず、画像処理装置100に画像データが入力される前に結果P11はX軸方向の中央に位置する線Lxで2つの画像に分割された。次に、分割後の2つの画像それぞれについて画像処理装置100により推測画像が生成された。次に2つの推測画像が結合された。このようにして、結果P11から結果P12が生成された。
【0178】
図17は、推測画像の写像学習用データへの依存性を検証した実験結果の一例を示す図である。図17は、結果P13及び結果P14を示す。結果P13は、第1変換写像を用いて生成された推測画像である。第1変換写像は、学習用のデータとして30mmの位置の断面の画像を用いて学習装置2により生成された変換写像Aである。すなわち、第1変換写像は、1つの写像学習用データを用いて学習装置2により生成された変換写像Aである。
【0179】
結果P14は、第2変換写像を用いて生成された推測画像である。第2変換写像は、学習用のデータとして10mm間隔の6断面の位置の断面の画像を用いて学習装置2により生成された変換写像Aである。すなわち、第2変換写像は、複数の写像学習用データを用いて学習装置2により生成された変換写像Aである。
【0180】
図17は、結果P14は結果P13に比べて縞が少ないことを示す。また図17は、結果P14は結果P13に比べてコントラストが高く損傷部位と非損傷部位と違いが明瞭であることを示す。
【0181】
ここまでで実験結果の説明を終了する。
【0182】
(第7変形例)
なお、検査対象は必ずしも損傷部位と非損傷部位とを有するものである必要は無い。検査対象は、互いに特性の異なる複数の部位を有するものであればどのようなものであってもよい。なお、検査対象は、例えば人の臓器であってもよい。このような場合、複数の部位の一つは、例えば血管であり、他の部位は例えば、血管以外の部位である。
【0183】
なお、非破壊な方法は、超音波を用いた方法に限らず、電磁波を用いた方法であってもよいし、音波を用いた方法であってもよいし、放射線を用いた方法であってもよい。なお、第1の観測方法は非破壊な方法に限らず、検査対象を破壊して観測する破壊検査であってもよい。第2の観測方法は、第1の観測方法よりも鮮明な被写体画像を生成する方法であればどのような方法であってもよく、第1の観測方法よりも鮮明な被写体画像を生成する非破壊な方法であってもよい。
【0184】
さらに第1の観測方法と第2の観測方法とは、測定時間や測定ピッチなど観測条件が異なる以外の条件は同一の方法であってもよい。つまり第1の観測方法を短時間や大ピッチで第2の観測方法を長時間や小ピッチで測定する場合でもよい。
【0185】
なお、通信部11は、各種情報を記憶するUSB(Universal Serial Bus)メモリ等の外部記憶装置に接続するためのインタフェースを含んで構成されてもよい。このような場合、通信部11は情報を接続先の外部記憶装置に出力してもよい。
【0186】
なお、画像処理装置1と学習装置2とは、必ずしも異なる装置として実装される必要は無い。画像処理装置1と学習装置2とは、例えば両者の機能を併せ持つ1つの装置として実装されてもよい。
【0187】
なお、画像処理装置100は、ネットワークを介して通信可能に接続された複数台の情報処理装置を用いたシステムとして実装されてもよい。この場合、画像処理装置1及び学習装置2が備える各機能部は、複数の情報処理装置に分散して実装されてもよい。
【0188】
なお、画像処理装置1及び学習装置2の各機能の全て又は一部は、ASIC(Application Specific Integrated Circuit)やPLD(Programmable Logic Device)やFPGA(Field Programmable Gate Array)等のハードウェアを用いて実現されてもよい。プログラムは、コンピュータ読み取り可能な記録媒体に記録されてもよい。コンピュータ読み取り可能な記録媒体とは、例えばフレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置である。プログラムは、電気通信回線を介して送信されてもよい。
【0189】
以上、この発明の実施形態について図面を参照して詳述してきたが、具体的な構成はこの実施形態に限られるものではなく、この発明の要旨を逸脱しない範囲の設計等も含まれる。
【符号の説明】
【0190】
1、100…画像処理装置、10…制御部、11…通信部、12…記憶部、13…ユーザインタフェース、131…入力部、132…出力部、101…通信制御部、102…入力制御部、103…出力制御部、104…観測画像取得部、105…画像生成部、106…記録部、107…グレースケール変換部、108…画像変形部、91…プロセッサ、92…メモリ、2…学習装置、20…制御部、21…通信部、22…記憶部、23…ユーザインタフェース、231…入力部、232…出力部、201…通信制御部、202…入力制御部、203…出力制御部、204…学習用データ取得部、205…写像生成部、206…記録部、207…グレースケール変換部、208…画像変形部、93…プロセッサ、94…メモリ
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16
図17