(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2023-03-07
(45)【発行日】2023-03-15
(54)【発明の名称】マスク構造最適化装置、マスク構造最適化方法およびプログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20230308BHJP
【FI】
G06T7/00 300Z
G06T7/00 350C
G06T7/00 630
(21)【出願番号】P 2019569166
(86)(22)【出願日】2019-01-30
(86)【国際出願番号】 JP2019003120
(87)【国際公開番号】W WO2019151307
(87)【国際公開日】2019-08-08
【審査請求日】2021-12-09
(31)【優先権主張番号】P 2018014150
(32)【優先日】2018-01-30
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】503359821
【氏名又は名称】国立研究開発法人理化学研究所
(73)【特許権者】
【識別番号】517110494
【氏名又は名称】シンクサイト株式会社
(74)【代理人】
【識別番号】100106909
【氏名又は名称】棚井 澄雄
(74)【代理人】
【識別番号】100188558
【氏名又は名称】飯田 雅人
(74)【代理人】
【識別番号】100140774
【氏名又は名称】大浪 一徳
(72)【発明者】
【氏名】佐藤 一誠
(72)【発明者】
【氏名】風間 正弘
(72)【発明者】
【氏名】鵜川 昌士
(72)【発明者】
【氏名】安達 啓晃
(72)【発明者】
【氏名】島田 史也
【審査官】笠田 和宏
(56)【参考文献】
【文献】国際公開第2018/015414(WO,A1)
【文献】特開平09-308619(JP,A)
【文献】国際公開第2016/136801(WO,A1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得部と、
前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定部と、
前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出部と、
前記明度検出部によって検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出部と、
前記マスクのマスクパターンの初期値を設定する初期値設定部と、
前記分類対象画像に対して前記マスクを相対移動させる移動部とを備え、
前記明度総和算出部は、前記移動部が前記マスクを所定の移動量だけ相対移動させる毎に、前記分類対象画像内の各ピクセルの明度の総和を算出し、
前記明度総和算出部によって算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化部を更に備える、
マスク構造最適化装置。
【請求項2】
前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部を更に備え、
前記移動部は、前記第1黒画像および前記第2黒画像が追加された前記分類対象画像に対して前記マスクを相対移動させる、
請求項1に記載のマスク構造最適化装置。
【請求項3】
前記マスクサイズ設定部によって設定される前記マスクの移動方向のサイズは、前記分類対象画像の移動方向のサイズよりも大きいNピクセルであり、
前記画像追加部によって前記分類対象画像の前記一方の側に追加される前記第1黒画像の移動方向のサイズは(N-1)ピクセルであり、
前記画像追加部によって前記分類対象画像の前記他方の側に追加される前記第2黒画像の移動方向のサイズは(N-1)ピクセルである、
請求項2に記載のマスク構造最適化装置。
【請求項4】
前記移動部は、
前記マスクの前記一方の側の端部と、前記第1黒画像の前記一方の側の端部とが一致する状態から、前記マスクの前記他方の側の端部と、前記第2黒画像の前記他方の側の端部とが一致する状態まで、前記第1黒画像および前記第2黒画像が追加された前記画像に対して前記マスクを相対移動させる、
請求項3に記載のマスク構造最適化装置。
【請求項5】
前記明度総和算出部は、前記移動部が前記マスクを1ピクセルだけ相対移動させる毎に、前記分類対象画像内の各ピクセルの明度の総和を算出する、
請求項4に記載のマスク構造最適化装置。
【請求項6】
前記初期値設定部は、ベルヌーイ分布に基づいて前記マスクの前記マスクパターンの前記初期値を設定する、
請求項1から請求項5のいずれか一項に記載のマスク構造最適化装置。
【請求項7】
前記マスクパターン最適化部は、2値化畳み込みニューラルネットワークを使用することによって、前記マスクの前記マスクパターンを最適化し、
前記マスクパターン最適化部が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが+1および0のいずれかである、
請求項1から請求項6のいずれか一項に記載のマスク構造最適化装置。
【請求項8】
前記マスクパターン最適化部は、2値化畳み込みニューラルネットワークを使用することによって、前記マスクの前記マスクパターンを最適化し、
前記マスクパターン最適化部が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが+1および-1のいずれかである、
請求項1から請求項6のいずれか一項に記載のマスク構造最適化装置。
【請求項9】
前記マスク構造最適化装置によって前記マスクパターンが最適化された前記マスクは、イメージングフローサイトメーターにおいて用いられる、
請求項1から請求項8のいずれか一項に記載のマスク構造最適化装置。
【請求項10】
前記分類対象は細胞である、
請求項1から請求項9のいずれか一項に記載のマスク構造最適化装置。
【請求項11】
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出ステップと、
前記明度検出ステップにおいて検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像に対して前記マスクを相対移動させる移動ステップとを備え、
前記明度総和算出ステップでは、前記マスクが所定の移動量だけ相対移動させられる毎に、前記分類対象画像内の各ピクセルの明度の総和が算出され、
前記明度総和算出ステップにおいて算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップを更に備える、
マスク構造最適化方法。
【請求項12】
コンピュータに、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出ステップと、
前記明度検出ステップにおいて検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像に対して前記マスクを相対移動させる移動ステップと
を実行させるためのプログラムであって、
前記明度総和算出ステップでは、前記マスクが所定の移動量だけ相対移動させられる毎に、前記分類対象画像内の各ピクセルの明度の総和が算出され、
前記明度総和算出ステップにおいて算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップを更に実行させるためのプログラム。
【請求項13】
構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化装置であって、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得部と、
前記分類対象画像に対して適用される
前記マスクのサイズを設定するマスクサイズ設定部と、
前記マスクのマスクパターンの初期値を設定する初期値設定部と、
前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理部と、
前記畳み込み処理部によって実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化部とを備える、
マスク構造最適化装置。
【請求項14】
前記分類対象画像に対する前処理を実行する分類対象画像処理部を更に備え、
前記分類対象画像処理部は、複数の分類対象を含む元画像から、複数の分類対象画像を切り出す処理を実行する切り出し部を備え、
前記切り出し部によって切り出された各分類対象画像には、少なくとも1つの分類対象が含まれ、
前記分類対象画像処理部は、前記切り出し部によって切り出された前記複数の分類対象画像のうちの、前記少なくとも1つの分類対象が画像外縁部上に位置する分類対象画像を除外する除外部を更に備える、
請求項13に記載のマスク構造最適化装置。
【請求項15】
前記分類対象画像処理部は、前記除外部による処理が実行された後の各分類対象画像に対して摂動処理を実行する摂動部を更に備え、
前記摂動部は、前記除外部による処理が実行された後の各分類対象画像から、各分類対象画像の画像外縁部の位置を移動させることなく、各分類対象画像に含まれる前記1つの分類対象の位置を移動させた分類対象画像である摂動後分類対象画像を生成する、
請求項14に記載のマスク構造最適化装置。
【請求項16】
前記分類対象画像および前記マスクの形状は、矩形形状であり、
前記マスクの短辺の寸法は、前記分類対象画像の長辺の寸法および前記分類対象画像の短辺の寸法よりも小さい、
請求項13から請求項15のいずれか一項に記載のマスク構造最適化装置。
【請求項17】
前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部更に備える
請求項13から請求項16のいずれか一項に記載のマスク構造最適化装置。
【請求項18】
前記マスクは、透光部と遮光部とを有する
請求項13から請求項17のいずれか一項に記載のマスク構造最適化装置。
【請求項19】
構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化方法であって、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用される
前記マスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理ステップと、
前記畳み込み処理ステップにおいて実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップとを備える、
マスク構造最適化方法。
【請求項20】
構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化装置としてのコンピュータに、
分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、
前記分類対象画像に対して適用される
前記マスクのサイズを設定するマスクサイズ設定ステップと、
前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、
前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理ステップと、
前記畳み込み処理ステップにおいて実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップとを実行させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、マスク構造最適化装置、マスク構造最適化方法およびプログラムに関する。
本願は、2018年1月30日に、日本に出願された特願2018-014150号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
従来から、イメージングフローサイトメータを用いて細胞などの分析を行う方法が知られている(例えば特許文献1参照)。特許文献1には、細胞タイプに従って画像を分類する旨が記載されている。また、特許文献1には、マスクを使用する旨が記載されている。ところで、特許文献1に記載されたマスクとは、TDI(Time Delay Integration)-CCD(Charge Coupled Device)で検出した細胞画像を、ソフトウェア上で切り出す操作のことである。一方、本発明におけるマスクは、例えば特許文献2に記載されているような構造化された照明等(物理的なマスク)であり、特許文献1に記載されたマスクとは異なる。特許文献1では、本発明におけるマスクは使用されていない。特許文献2では、マスクとして、構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系のいずれか又は両方が用いられる。マスクを投影する方法としては、例えばDMD(デジタルマイクロミラー装置)、SLM(空間光変調器)、OHP(オーバーヘッドプロジェクタ)、透過シート、DOE(回折光学素子)などがある。
【先行技術文献】
【特許文献】
【0003】
【文献】特表2008-533440号公報
【文献】国際公開第2016/136801号
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来技術によっては、細胞や細菌を含む、微粒子の画像などの分類精度を十分に向上させることができないおそれがある。
前記問題点に鑑み、本発明は、細胞を含む微粒子等を形態情報をもとに分類する場合の分類精度を十分に向上させることができるマスク構造最適化装置、マスク構造最適化方法およびプログラムを提供することを目的とする。
【課題を解決するための手段】
【0005】
本発明の一態様は、分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得部と、前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定部と、前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出部と、前記明度検出部によって検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出部と、前記マスクのマスクパターンの初期値を設定する初期値設定部と、前記分類対象画像に対して前記マスクを相対移動させる移動部とを備え、前記明度総和算出部は、前記移動部が前記マスクを所定の移動量だけ相対移動させる毎に、前記分類対象画像内の各ピクセルの明度の総和を算出し、前記明度総和算出部によって算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化部を更に備える、マスク構造最適化装置である。
【0006】
本発明の一態様のマスク構造最適化装置は、前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部を更に備え、前記移動部は、前記第1黒画像および前記第2黒画像が追加された前記分類対象画像に対して前記マスクを相対移動させてもよい。
【0007】
本発明の一態様のマスク構造最適化装置では、前記マスクサイズ設定部によって設定される前記マスクの移動方向のサイズは、前記分類対象画像の移動方向のサイズよりも大きいNピクセルであり、前記画像追加部によって前記分類対象画像の前記一方の側に追加される前記第1黒画像の移動方向のサイズは(N-1)ピクセルであり、前記画像追加部によって前記分類対象画像の前記他方の側に追加される前記第2黒画像の移動方向のサイズは(N-1)ピクセルであってもよい。
【0008】
本発明の一態様のマスク構造最適化装置では、前記移動部は、前記マスクの前記一方の側の端部と、前記第1黒画像の前記一方の側の端部とが一致する状態から、前記マスクの前記他方の側の端部と、前記第2黒画像の前記他方の側の端部とが一致する状態まで、前記第1黒画像および前記第2黒画像が追加された前記画像に対して前記マスクを相対移動させてもよい。
【0009】
本発明の一態様のマスク構造最適化装置では、前記明度総和算出部は、前記移動部が前記マスクを1ピクセルだけ相対移動させる毎に、前記分類対象画像内の各ピクセルの明度の総和を算出してもよい。
【0010】
本発明の一態様のマスク構造最適化装置では、前記初期値設定部は、ベルヌーイ分布に基づいて前記マスクの前記マスクパターンの前記初期値を設定してもよい。
【0011】
本発明の一態様のマスク構造最適化装置では、前記マスクパターン最適化部は、2値化畳み込みニューラルネットワークを使用することによって、前記マスクの前記マスクパターンを最適化し、前記マスクパターン最適化部が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが+1および0のいずれかであってもよい。
【0012】
本発明の一態様のマスク構造最適化装置では、前記マスクパターン最適化部は、2値化畳み込みニューラルネットワークを使用することによって、前記マスクの前記マスクパターンを最適化し、前記マスクパターン最適化部が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが+1および-1のいずれかであってもよい。
【0013】
本発明の一態様のマスク構造最適化装置では、前記マスク構造最適化装置によって前記マスクパターンが最適化された前記マスクは、イメージングフローサイトメーターにおいて用いられてもよい。
【0014】
本発明の一態様のマスク構造最適化装置では、前記分類対象は細胞であってもよい。
【0015】
本発明の一態様は、分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定ステップと、前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出ステップと、前記明度検出ステップにおいて検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出ステップと、前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、前記分類対象画像に対して前記マスクを相対移動させる移動ステップとを備え、前記明度総和算出ステップでは、前記マスクが所定の移動量だけ相対移動させられる毎に、前記分類対象画像内の各ピクセルの明度の総和が算出され、前記明度総和算出ステップにおいて算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップを更に備える、マスク構造最適化方法である。
【0016】
本発明の一態様は、コンピュータに、分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、前記分類対象画像に対して適用されるマスクのサイズを設定するマスクサイズ設定ステップと、前記マスクを隔てて前記分類対象画像の反対側の位置において前記分類対象画像内の各ピクセルの明度を検出する明度検出ステップと、前記明度検出ステップにおいて検出された前記分類対象画像内の各ピクセルの明度の総和を算出する明度総和算出ステップと、前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、前記分類対象画像に対して前記マスクを相対移動させる移動ステップとを実行させるためのプログラムであって、前記明度総和算出ステップでは、前記マスクが所定の移動量だけ相対移動させられる毎に、前記分類対象画像内の各ピクセルの明度の総和が算出され、前記明度総和算出ステップにおいて算出される明度の総和に基づき、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップを更に実行させるためのプログラムである。
【0017】
本発明の一態様は、構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化装置であって、分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得部と、前記分類対象画像に対して適用される前記マスクのサイズを設定するマスクサイズ設定部と、前記マスクのマスクパターンの初期値を設定する初期値設定部と、前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理部と、前記畳み込み処理部によって実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化部とを備える、マスク構造最適化装置である。
【0018】
本発明の一態様のマスク構造最適化装置は、前記分類対象画像に対する前処理を実行する分類対象画像処理部を更に備え、前記分類対象画像処理部は、複数の分類対象を含む元画像から、複数の分類対象画像を切り出す処理を実行する切り出し部を備え、前記切り出し部によって切り出された各分類対象画像には、少なくとも1つの分類対象が含まれ、前記分類対象画像処理部は、前記切り出し部によって切り出された前記複数の分類対象画像のうちの、前記少なくとも1つの分類対象が画像外縁部上に位置する分類対象画像を除外する除外部を更に備えてもよい。
【0019】
本発明の一態様のマスク構造最適化装置では、前記分類対象画像処理部は、前記除外部による処理が実行された後の各分類対象画像に対して摂動処理を実行する摂動部を更に備え、前記摂動部は、前記除外部による処理が実行された後の各分類対象画像から、各分類対象画像の画像外縁部の位置を移動させることなく、各分類対象画像に含まれる前記1つの分類対象の位置を移動させた分類対象画像である摂動後分類対象画像を生成してもよい。
【0020】
本発明の一態様のマスク構造最適化装置では、前記分類対象画像および前記マスクの形状は、矩形形状であり、前記マスクの短辺の寸法は、前記分類対象画像の長辺の寸法および前記分類対象画像の短辺の寸法よりも小さくてもよい。
本発明の一態様のマスク構造最適化装置では、前記分類対象画像の一方の側に第1黒画像を追加すると共に、前記分類対象画像の他方の側に第2黒画像を追加する画像追加部更に備えてもよい。
本発明の一態様のマスク構造最適化装置では、前記マスクは、透光部と遮光部とを有してもよい。
【0021】
本発明の一態様は、構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化方法であって、分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、前記分類対象画像に対して適用される前記マスクのサイズを設定するマスクサイズ設定ステップと、前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理ステップと、前記畳み込み処理ステップにおいて実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップとを備える、マスク構造最適化方法である。
【0022】
本発明の一態様は、構造化された照明パターンを有する光学系又は光特性が異なる複数の領域を有する構造化された検出系に用いられる物理的なマスクのマスクパターンを最適化するためのマスク構造最適化装置としてのコンピュータに、分類対象を含む画像である分類対象画像のサイズを取得する分類対象画像サイズ取得ステップと、前記分類対象画像に対して適用される前記マスクのサイズを設定するマスクサイズ設定ステップと、前記マスクのマスクパターンの初期値を設定する初期値設定ステップと、前記分類対象画像および前記マスクの画像に対する畳み込み処理を実行する畳み込み処理ステップと、前記畳み込み処理ステップにおいて実行された畳み込み処理の結果に基づいて、前記マスクの前記マスクパターンを最適化するマスクパターン最適化ステップとを実行させるためのプログラムである。
【発明の効果】
【0023】
本発明によれば、細胞を含む微粒子等を形態情報をもとに分類する場合の分類精度を十分に向上させることができるマスク構造最適化装置、マスク構造最適化方法およびプログラムを提供することができる。
【図面の簡単な説明】
【0024】
【
図1】第1実施形態のマスク構造最適化装置の構成の一例を示す図である。
【
図2】分類対象画像、マスクなどを説明するための図である。
【
図4】マスクの他の例などを説明するための図である。
【
図5】マスクの他の例などを説明するための図である。
【
図6】マスクの光透過率と分類精度との関係を示す図である。
【
図8】分類対象としてMNISTのデータが用いられる例を説明するための図である。
【
図9】マスクの光透過率と
図8(A)に示す分類対象画像の分類精度との関係を示す図である。
【
図12】マスクパターン最適化部によってマスクパターンが最適化されたマスクを使用した波形変換のやり方を説明するための図である。
【
図13】本発明がもたらすとされる研究結果の仮説を示す図である。
【
図14】第1実施形態のマスク構造最適化装置によって実行される処理の一例を説明するためのフローチャートである。
【
図15】第3実施形態のマスク構造最適化装置の構成の一例を示す図である。
【
図16】切り出し部および除外部による処理の一例を説明するための図である。
【
図17】第3実施形態のマスク構造最適化装置によって実行される処理の一例を説明するためのフローチャートである。
【
図20】第4実施形態のマスク構造最適化装置の構成の一例を示す図である。
【
図21】回転部および摂動部による処理の一例を示す図である。
【
図22】第4実施形態のマスク構造最適化装置によって実行される処理の一例を説明するためのフローチャートである。
【発明を実施するための形態】
【0025】
以下、図面を参照し、本発明のマスク構造最適化装置、マスク構造最適化方法およびプログラムの実施形態について説明する。
【0026】
<第1実施形態>
図1は第1実施形態のマスク構造最適化装置1の構成の一例を示す図である。
図1に示す例では、マスク構造最適化装置1が、分類対象画像サイズ取得部11と、マスクサイズ設定部12と、画像追加部13と、明度検出部14と、明度総和算出部15と、初期値設定部16と、移動部17と、マスクパターン最適化部18とを備えている。
分類対象画像サイズ取得部11は、分類対象を含む画像である分類対象画像のサイズを取得する。「分類対象」には、例えば細胞、細菌、スフェロイド上の細胞塊などが含まれる。「分類対象画像」は、分類対象を含む2次元画像である。分類対象画像サイズ取得部11は、分類対象画像のサイズ(縦方向寸法×横方向寸法)を取得する。
マスクサイズ設定部12は、分類対象画像に対して適用されるマスクのサイズ(縦方向寸法×横方向寸法)を設定する。
図1に示す例では、分類対象画像に対して適用されるマスクが、例えばバイナリーマスクのような、透光部と遮光部とを有するマスクである。他の例では、分類対象画像に対して適用されるマスクが、例えばハーフトーンマスクのような、バイナリーマスク以外のマスクであってもよい。
【0027】
図1に示す例では、画像追加部13が、分類対象画像の左側に第1画像を追加すると共に、分類対象画像の右側に第2画像を追加する。
図1に示す例では、画像追加部13が分類対象画像の左側に、第1画像として、黒画像を追加するが、他の例では、画像追加部13が分類対象画像の左側に、第1画像として、例えば黒画像と同程度の明度を有する他の色の画像(詳細には、明度総和算出部15によって算出される明度総和の増加に貢献しない色の画像)を追加してもよい。
同様に、
図1に示す例では、画像追加部13が分類対象画像の右側に、第2画像として、黒画像を追加するが、他の例では、画像追加部13が分類対象画像の右側に、第2画像として、例えば黒画像と同程度の明度を有する他の色の画像を追加してもよい。あるいは、他の例では、画像追加部13が、構造化された照明パターンを照射してもよい。
【0028】
図1に示す例では、明度検出部14が、マスクを隔てて分類対象画像の反対側の位置において分類対象画像内の各ピクセルの明度を検出する。つまり、明度検出部14は、マスクの透光部を透過した分類対象画像からの光を検出する。
明度総和算出部15は、明度検出部14によって検出された分類対象画像内の各ピクセルの明度の総和を算出する。明度検出部14と分類対象画像との間に位置するマスクの透光部の割合が高いほど、つまり、マスクの光透過率が高いほど、明度総和算出部15によって算出される明度の総和が大きくなる。
図1に示す例では、上述したように、明度検出部14は、マスクの透光部を透過した分類対象画像からの光を検出し、マスクの透光部を透過していない分類対象画像からの光は検出しない。そのため、明度検出部14と分類対象画像との間にマスクが位置しない場合には、マスクの透光部を透過する分類対象画像からの光が存在せず、明度検出部14によって光が検出されない。その結果、明度検出部14と分類対象画像との間にマスクが位置しない場合には、明度総和算出部15によって算出される明度の総和がゼロになる。
【0029】
初期値設定部16は、マスクのマスクパターンの初期値を設定する。「マスクパターン」とは、マスクにおける透光部および遮光部の配置構成を意味する。具体的には、第1マスクのマスクパターンと第2マスクのマスクパターンとが同一である場合、透光部が配置される位置が、第1マスクと第2マスクとで同じになり、遮光部が配置される位置が、第1マスクと第2マスクとで同じになる。
つまり、初期値設定部16は、マスクの初期の(最初の)マスクパターンを決定する。マスクのマスクパターンは、後述するように、マスクパターン最適化部18によって必要に応じて変更される。
図1に示す例では、初期値設定部16が、ベルヌーイ分布に基づいてマスクのマスクパターンの初期値を設定する。つまり、初期値設定部16が、ベルヌーイ分布に基づいてマスクの初期のマスクパターンを決定する。
他の例では、初期値設定部16が、ベルヌーイ分布を用いない任意の手法によってマスクのマスクパターンの初期値を設定してもよい。
【0030】
図1に示す例では、移動部17が、分類対象画像に対してマスクを相対移動させる。
後述する
図2に示す例では、移動部17が、固定されたマスクに対して分類対象画像を移動させるが、他の例では、移動部17が、固定された分類対象画像に対してマスクを移動させてもよい。
【0031】
図1に示す例では、移動部17が分類対象画像に対してマスクを所定の移動量だけ相対移動させる毎に、明度検出部14が、分類対象画像内の各ピクセルの明度を検出し、明度総和算出部15が、分類対象画像内の各ピクセルの明度の総和を算出する。
マスクパターン最適化部18は、明度総和算出部15によって算出される明度の総和に基づき、マスクのマスクパターンを最適化する(マスクパターンを変更する)。
分類対象の分析および分類を行う分析装置(図示せず)では、例えば、マスクパターン最適化部18によって最適化されたマスクパターンを有するマスクが用いられる。そのようにすることにより、例えばマスクが用いられない場合や、ベルヌーイ分布などに基づいて設定されたマスクパターンを有するマスク(つまり、最適化されていないマスクパターンを有するマスク)が用いられる場合よりも、分類精度を向上させることができる。
【0032】
図2は分類対象画像A1、マスクA2などを説明するための図である。詳細には、
図2(A)は位置P1に位置する分類対象画像A1と、マスクA2との関係を示す図である。
図2(B)は位置P2に位置する分類対象画像A1とマスクA2との関係、および、位置P3に位置する分類対象画像A1とマスクA2との関係を示す図である。
図2(C)はマスクA2に対する分類対象画像A1の相対位置と明度の総和との関係を示す図である。
図2(C)の横軸は、マスクA2に対する分類対象画像A1の相対位置を示している。
図2(C)の縦軸は、マスクA2に対する分類対象画像A1の各相対位置における明度の総和を示している。
図2に示す例では、
図2(A)および
図2(B)に矢印で示すように、移動部17によって、分類対象画像A1が、マスクA2の左側の位置P1から、右向きに移動させられる。マスクA2は、透光部A21Aと、遮光部A22A、A22B、A22C、A22D、A22E、A22Fとを備えている。
【0033】
分類対象画像A1が位置P1に位置する場合には、明度検出部14と分類対象画像A1との間にマスクA2が位置しないため、マスクA2の透光部A21Aを透過する分類対象画像A1からの光が存在しない。その結果、
図2(C)に示すように、明度総和算出部15によって算出される明度の総和がゼロになる。
分類対象画像A1が位置P2に位置する場合には、分類対象画像A1の右半分からの光がマスクA2の透光部A21Aを透過するものの、分類対象画像A1の左半分からの光がマスクA2の透光部A21Aを透過しない。その結果、
図2(C)に示すように、明度総和算出部15によって算出される明度の総和が、比較的小さい値V2になる。
分類対象画像A1が位置P3に位置する場合には、分類対象画像A1の全体からの光がマスクA2の透光部A21Aを透過する。また、明度検出部14と分類対象画像A1との間には、マスクA2の遮光部A22E、A22Fのいずれも位置しない。その結果、
図2(C)に示すように、明度総和算出部15によって算出される明度の総和は、最大値V3になる。
マスクA2が、位置P2から位置P3まで移動する過程においては、明度検出部14と分類対象画像A1との間に、マスクA2の遮光部A22A、A22B、A22C、A22D、A22Eが順に位置する。その結果、
図2(C)に示すように、明度総和算出部15によって算出される明度の総和が増減する。
【0034】
図3はマスクA2の他の例を説明するための図である。
図3に示す例では、マスクA2が、透光部A21A、A21B、A21Cと、遮光部A22Aとを備えている。
図2(A)および
図2(B)に示す例では、マスクA2の光透過率pが90%であるのに対し、
図3に示す例では、マスクA2の光透過率pが10%である。
【0035】
図4はマスクA2の他の例などを説明するための図である。詳細には、
図4(A)はマスクA2の他の例を示している。
図4(B)は
図4(A)に示すマスクA2を分類対象画像に対して相対移動させた場合に得られる明度の総和の波形を示している。
図4に示す例では、マスクA2が、縦40ピクセル×横400ピクセルのマスクサイズを有する。また、マスクA2の光透過率pが10%である。マスクA2に対して相対移動させられる分類対象画像は、縦40ピクセル×横40ピクセルの分類対象画像サイズを有する。
【0036】
図4(B)において、「ch1」は、分類対象画像の右端とマスクA2の左端とが一致する第1状態から、分類対象画像の左端とマスクA2の右端とが一致する第2状態まで、マスクA2を分類対象画像に対して相対移動させた場合に、第1の条件下で得られる明度の総和の波形を示している。第1の条件とは、例えば、明度の総和として、RGB表色系のR値の総和が用いられる場合である。
「ch6」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、第2の条件下で得られる明度の総和の波形を示している。第2の条件とは、例えば、明度の総和として、RGB表色系のG値の総和が用いられる場合である。
「ch7」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、第3の条件下で得られる明度の総和の波形を示している。第3の条件とは、例えば、明度の総和として、RGB表色系のB値の総和が用いられる場合である。
「ch9」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、第1~第3の条件とは異なる第4の条件下で得られる明度の総和の波形を示している。
【0037】
図5はマスクA2の他の例などを説明するための図である。詳細には、
図5(A)はマスクA2の他の例を示している。
図5(B)は
図5(A)に示すマスクA2を分類対象画像に対して相対移動させた場合に得られる明度の総和の波形を示している。
図5に示す例では、マスクA2が、縦40ピクセル×横400ピクセルのマスクサイズを有する。また、マスクA2の光透過率pが90%である。マスクA2に対して相対移動させられる分類対象画像は、縦40ピクセル×横40ピクセルの分類対象画像サイズを有する。
【0038】
図5(B)において、「ch1」は、上述した第1状態から、上述した第2状態まで、マスクA2を分類対象画像に対して相対移動させた場合に、上述した第1の条件下で得られる明度の総和の波形を示している。
「ch6」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、上述した第2の条件下で得られる明度の総和の波形を示している。
「ch7」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、上述した第3の条件下で得られる明度の総和の波形を示している。
「ch9」は、第1状態から第2状態までマスクA2を分類対象画像に対して相対移動させた場合に、上述した第4の条件下で得られる明度の総和の波形を示している。
【0039】
図6はマスクA2の光透過率pと分類精度との関係を示す図である。
詳細には、
図6(A)に示す例では、精度指標として、公知の「f1macro」が用いられる。
図6(B)に示す例では、精度指標として、公知の「f1micro」が用いられる。
図6(A)および
図6(B)の横軸は、マスクA2の光透過率pを示している。
図6(A)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1macro」を用いた場合における所定の分類対象の分類精度を示している。
図6(B)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1micro」を用いた場合におけるその分類対象の分類精度を示している。
図6(A)および
図6(B)に示す例によれば、光透過率pが高いほど分類対象の分類精度が高くなる、すなわち、明度検出部14と分類対象画像A1との間にマスクA2が位置しない方が分類対象の分類精度が高くなるかのように、一見すると見える。
ところが、後述するように、分類対象によっては、光透過率pが1(100%)になると、分類精度が低下することが、本発明者等の鋭意研究において見い出されたのである。
一方で、「分類対象画像内の各ピクセルの明度の総和」という情報のみによっても、分類精度をかなり向上させることができることが見い出された。詳細には、
図4に示す例では、「ch1」の明度の総和と、「ch6」の明度の総和と、「ch7」の明度の総和と、「ch9」の明度の総和とを、
図4に示す例の分類対象の特徴量とした。その結果、
図4に示す例の分類対象を、高い精度で分類することができた。
【0040】
図7は分類対象画像A1の隅部A11、A12、A13、A14を示す図である。詳細には、
図7は本発明者等の研究において行われた検証の一部を説明するための図である。
図7に示す例では、分類対象画像A1の全体の各ピクセルの明度の総和が、分類対象の特徴量として用いられるのではなく、分類対象画像A1の隅部A11、A12、A13、A14の各ピクセルの明度の総和が、分類対象の特徴量として用いられた。
図7に示す例では、分類対象画像A1のサイズが、縦40ピクセル×横40ピクセルである。隅部A11、A12、A13、A14は、正方形であり、縦nピクセル×横nピクセルのサイズを有する。nの値が、4、8、12、16、20に設定され、分類対象の分類精度の検証が行われた。nの値が小さいほど、分類対象の分類精度が低くなった。
【0041】
図8は分類対象としてMNIST(Mixed National Institute of Standards and Technology database)のデータが用いられる例を説明するための図である。詳細には、
図8(A)は手書き文字「0」の分類対象画像A1を示している。
図8(B)は
図8(A)に示す分類対象画像A1に適用されたマスクA2を示している。
図8(C)はマスクA2に対する分類対象画像A1の相対位置と明度の総和との関係を示す図である。
図8(C)の横軸は、マスクA2に対する分類対象画像A1の相対位置を示している。
図8(C)の縦軸は、マスクA2に対する分類対象画像A1の各相対位置における明度の総和を示している。
詳細には、
図8(C)は、分類対象画像A1の右端とマスクA2の左端とが一致する状態から、分類対象画像A1の左端とマスクA2の右端とが一致する状態まで、マスクA2に対して分類対象画像A1を相対移動させた場合に得られる明度の総和の波形を示している。
図8に示す例では、分類対象画像A1が、縦28ピクセル×横28ピクセルの分類対象画像サイズを有する。マスクA2は、縦28ピクセル×横100ピクセルのマスクサイズを有する。マスクA2の光透過率pは10%である。マスクA2のマスクパターンは、ベルヌーイ分布に基づいて設定されている。
【0042】
図9はマスクA2の光透過率pと
図8(A)に示す分類対象画像A1の分類精度との関係を示す図である。
詳細には、
図9(A)に示す例では、
図8(A)に示す手書き文字「0」の分類対象画像A1が用いられ、かつ、精度指標「f1micro」が用いられる。
図9(B)に示す例では、
図8(A)に示す手書き文字「0」の分類対象画像A1が用いられ、かつ、精度指標「f1macro」が用いられる。
図9(A)および
図9(B)の横軸は、マスクA2の光透過率pを示している。
図9(A)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1micro」を用いた場合における手書き文字「0」の分類対象画像A1の分類精度を示している。
図9(B)の縦軸は、その光透過率pを有するマスクA2を用いた場合であって、精度指標「f1macro」を用いた場合における手書き文字「0」の分類対象画像A1の分類精度を示している。
【0043】
図9(A)および
図9(B)に示すように、分類対象画像A1が
図8(A)に示す手書き文字「0」である場合、分類対象画像A1が細胞画像である場合とは異なり、100%の光透過率pを有するマスクA2を用いると、分類対象画像A1の分類精度が低下することが本発明者等の研究において見い出された。
100%の光透過率pを有するマスクA2を用いると、例えば
図8(C)に示すような明度の総和(の波形)の積分値は、分類対象画像A1が手書き文字「6」である場合と、分類対象画像A1が手書き文字「9」である場合とでほぼ等しくなる。そのため、100%の光透過率pを有するマスクA2を用い、かつ、
図8(C)に示すような明度の総和の波形を分析するだけでは、分類精度を十分に向上させることができない。
そこで、本発明者等は、100%よりも小さい光透過率pを有するマスクA2を用いることによって分類精度を十分に向上させることを試みた。
【0044】
図10および
図11は本発明の特徴を説明するための図である。
詳細には、
図10(A)は画像追加部13によって分類対象画像A1に対して追加される第1画像A3および第2画像A4を示す図である。
図10(B)は初期値設定部16によってマスクパターンの初期値が設定されたマスクA2を示す図である。
図10(C)はマスクパターン最適化部18によって最適化されたマスクパターンを有するマスクA2を示す図である。
図11(A)は分類対象画像A1、第1画像A3および第2画像A4に対するマスクA2の相対移動の開始時の状態を示す図である。
図11(B)は分類対象画像A1、第1画像A3および第2画像A4に対するマスクA2の相対移動の途中の状態を示す図である。
【0045】
図10および
図11に示す例では、分類対象画像A1が、縦28ピクセル×横28ピクセルの分類対象画像サイズを有する。マスクA2は、縦28ピクセル×横100ピクセルのマスクサイズを有する。マスクA2の光透過率pは1よりも小さい。
図10(A)に示すように、分類対象画像A1の左側には、画像追加部13によって第1画像A3が追加される。分類対象画像A1の右側には、画像追加部13によって第2画像A4が追加される。
図10および
図11に示す例では、第1画像A3および第2画像A4が黒画像である。
【0046】
図10および
図11に示す例では、初期値設定部16によってマスクパターンの初期値が設定されたマスクA2(
図10(B)参照)が生成される。
移動部17は、分類対象画像A1、第1画像A3および第2画像A4に対し、
図10(B)に示すマスクA2を
図10および
図11の右向きに相対移動させる。
詳細には、移動部17は、マスクA2の左端部と第1画像A3の左端部とが一致する状態(
図11(A)に示す状態)から、マスクA2の右端部と第2画像A4の右端部とが一致する状態まで、分類対象画像A1、第1画像A3および第2画像A4に対し、
図10(B)に示すマスクA2を
図10および
図11の右向きに相対移動させる。
【0047】
詳細には、
図10および
図11に示す例では、明度検出部14は、分類対象画像A1の左端部とマスクA2の右端部とが1ピクセル分だけ重複する状態(
図11(A)に示す状態)において、分類対象画像A1のうちのマスクA2と重複している部分(縦28ピクセル×横1ピクセル)の各ピクセルの明度を検出する。明度総和算出部15は、明度検出部14によって検出された明度の総和を算出する。
次いで、移動部17は、分類対象画像A1、第1画像A3および第2画像A4に対し、
図10(B)に示すマスクA2を1ピクセル分だけ
図10および
図11の右向きに相対移動させる。明度検出部14は、分類対象画像A1のうちのマスクA2と重複している部分(縦28ピクセル×横2ピクセル)の各ピクセルの明度を検出する。明度総和算出部15は、明度検出部14によって検出された明度の総和を算出する。
【0048】
次いで、移動部17は、分類対象画像A1、第1画像A3および第2画像A4に対し、
図10(B)に示すマスクA2を1ピクセル分だけ
図10および
図11の右向きに相対移動させる。明度検出部14は、分類対象画像A1のうちのマスクA2と重複している部分(縦28ピクセル×横3ピクセル)の各ピクセルの明度を検出する。明度総和算出部15は、明度検出部14によって検出された明度の総和を算出する。
移動部17は、分類対象画像A1の右端部とマスクA2の左端部とが1ピクセル分だけ重複する状態になるまで、分類対象画像A1、第1画像A3および第2画像A4に対し、
図10(B)に示すマスクA2を1ピクセル分ずつ
図10および
図11の右向きに相対移動させる。移動部17が
図10(B)に示すマスクA2を1ピクセルだけ相対移動させる毎に、明度検出部14は、分類対象画像A1のうちのマスクA2と重複している部分の各ピクセルの明度を検出し、明度総和算出部15は、明度検出部14によって検出された明度の総和を算出する。
図10および
図11に示す例では、明度総和算出部15による明度の総和の算出が完了するまでに、移動部17によるマスクA2の相対移動が、
図11(A)に示す状態から、126回(126ピクセル分)行われる。その結果、明度総和算出部15による明度の総和の算出が、127回行われる。
【0049】
図10および
図11に示す例では、上述したように、マスクA2の移動方向(
図10および
図11の左右方向)のサイズ(100ピクセル)は、分類対象画像A1の移動方向のサイズ(28ピクセル)よりも大きい。また、第1画像A3の移動方向のサイズ(99ピクセル)は、マスクA2の移動方向のサイズ(100ピクセル)より1ピクセル小さい。同様に、第2画像A4の移動方向のサイズ(99ピクセル)は、マスクA2の移動方向のサイズ(100ピクセル)より1ピクセル小さい。
【0050】
図10および
図11に示す例では、次いで、マスクパターン最適化部18が、明度総和算出部15によって算出される明度の総和に基づき、機械学習を行い、マスクA2のマスクパターンを最適化する。その結果、
図10(C)に示すマスクパターンを有するマスクA2が生成される。
詳細には、
図10および
図11に示す例では、機械学習アルゴリズムとして、2値化畳み込みニューラルネットワーク(CNN:Convolutional Neural Network)が用いられる。また、マスクパターン最適化部18が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが「+1」および「-1」のいずれかである。
図10(C)に示す例では、マスクA2の黒部分が、畳み込みの重み「-1」を表しており、マスクA2の白部分が、畳み込みの重み「+1」を表している。
他の例では、機械学習アルゴリズムとして、2値化畳み込みニューラルネットワーク以外の任意の機械学習アルゴリズムが用いられてもよい。
【0051】
図12はマスクパターン最適化部18によってマスクパターンが最適化されたマスクA2を使用した波形変換のやり方を説明するための図である。
詳細には、
図12(A)は、
図12に示す例において用いられる分類対象画像A1を示す図である。
図12(B)は、マスクパターン最適化部18によってマスクパターンが最適化されたマスクA2を示す図である。
図12(C)は、マスクパターン最適化部18によってマスクパターンが最適化された他のマスクA2Rを示す図である。
図12(D)は、
図12(A)に示す分類対象画像A1に対して
図12(B)に示すマスクA2を適用する場合に明度総和算出部15によって算出される明度の総和の波形を示す図である。
図12(E)は、
図12(A)に示す分類対象画像A1に対して
図12(C)に示すマスクA2Rを適用する場合に明度総和算出部15によって算出される明度の総和の波形を示す図である。
図12(F)は、
図12(D)に示す明度の総和の波形と
図12(E)に示す明度の総和の波形との差分を示す図である。
【0052】
図12に示す例では、
図12(C)に示すマスクA2Rが、
図12(B)に示すマスクA2に対して白黒反転処理を行ったものである。詳細には、
図12(B)に示すマスクA2の白部分は、上述した2値化畳み込みニューラルネットワークにおけるコンボリューションの重み「+1」に対応している。
図12(C)に示すマスクA2の白部分は、コンボリューションの重み「-1」に対応している。
【0053】
つまり、本発明者等は、研究において、最適化が行われたマスクパターンを有するマスクが用いられる場合に、ベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合よりも、分類精度が向上することを見い出した。
また、本発明者等は、研究において、マスクの横方向寸法が大きいほど、分類精度が向上することを見い出した。
図13は本発明がもたらすとされる研究結果の仮説を示す図である。詳細には、
図13の横軸はマスクの横方向寸法を示している。
図13の縦軸は分類精度を示している。
図13において、「最適化あり」は、最適化が行われたマスクパターンを有するマスクが用いられる場合におけるマスクの横方向寸法と分類精度との関係を示している。「最適化なし」は、ベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合におけるマスクの横方向寸法と分類精度との関係を示している。
図13に示すように、最適化が行われたマスクパターンを有するマスクが用いられる場合の分類精度は、ベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合の分類精度よりも高くなる。また、横方向寸法が大きいマスクが用いられる場合の分類精度は、横方向寸法が小さいマスクが用いられる場合の分類精度よりも高くなる。
【0054】
図14は第1実施形態のマスク構造最適化装置1によって実行される処理の一例を説明するためのフローチャートである。
図14に示す例では、ステップS11において、分類対象画像サイズ取得部11が分類対象画像A1のサイズ(縦方向寸法×横方向寸法)を取得する。
ステップS12では、マスクサイズ設定部12が、分類対象画像A1に対して適用されるマスクA2のサイズ(縦方向寸法×横方向寸法)を設定する。例えば、マスクサイズ設定部12は、マスクA2の縦方向寸法を分類対象画像A1の縦方向寸法と同一にし、マスクA2の横方向寸法を分類対象画像A1の横方向寸法よりも大きくする。
ステップS13では、画像追加部13が、分類対象画像A1の左側に第1画像A3を追加し、分類対象画像A1の右側に第2画像A4を追加する。
ステップS14では、初期値設定部16が、マスクパターンの初期値を設定する。
【0055】
ステップS15では、移動部17が、初期値設定部16によって初期値が設定されたマスクパターンを有するマスクA2を、分類対象画像A1、第1画像A3および第2画像A4に対して1ピクセル分だけ相対移動させる。
ステップS16では、明度検出部14が、分類対象画像A1のうちのマスクA2と重複している部分の各ピクセルの明度を検出する。
ステップS17では、明度総和算出部15が、明度検出部14によって検出された明度の総和を算出する。
詳細には、分類対象画像A1、第1画像A3および第2画像A4に対するマスクA2の相対移動が完了するまで、上述したステップS15~S17が繰り返し実行される。
【0056】
ステップS18では、マスクパターン最適化部18が、明度総和算出部15によって算出される明度の総和に基づき、機械学習を行い、マスクA2のマスクパターンを最適化する。
図14に示す例では、分類対象画像A1のうちのマスクA2の遮光部A22A~A22Fによって覆われた部分(つまり、隠れた部分)を復元させる処理が行われない。
他の例では、分類対象画像A1のうちのマスクA2の遮光部A22A~A22Fによって覆われた部分を復元させる処理を行ってもよい。
【0057】
[適用例]
第1実施形態のマスク構造最適化装置1によってマスクパターンが最適化されたマスクA2は、例えば公知のイメージングフローサイトメーターにおいて用いられる。詳細には、フローサイトメーターには、細胞の分析のみを行うセルアナライザー、および、細胞の分析に加えて、分取まで行うセルソーターの二種類がある。第1実施形態のマスク構造最適化装置1によってマスクパターンが最適化されたマスクA2は、セルアナライザーおよびセルソーターの両方に適用可能である。適用例における分類対象は、例えば細胞等の微粒子などである。
【0058】
[第1実施形態のまとめ]
上述したように、第1実施形態のマスク構造最適化装置1では、初期値が設定されたマスクパターンを有するマスクA2が、分類対象画像A1、第1画像A3および第2画像A4に対して1ピクセル分だけ相対移動させる毎に、明度の総和が算出される。また、明度の総和に基づいて、マスクA2のマスクパターンが最適化される。
そのため、第1実施形態のマスク構造最適化装置1によれば、分類対象画像A1の分類精度を向上させることができる。詳細には、例えばベルヌーイ分布に基づいて設定されたマスクパターンを有するマスクが用いられる場合よりも、分類精度を向上させることができる。
【0059】
<第2実施形態>
以下、第2実施形態のマスク構造最適化装置1について説明する。
第2実施形態のマスク構造最適化装置1は、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様に構成されている。従って、第2実施形態のマスク構造最適化装置1によれば、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様の効果を奏することができる。
【0060】
第1実施形態のマスク構造最適化装置1では、上述したように、マスクパターン最適化部18が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが「+1」および「-1」のいずれかである。
一方、第2実施形態のマスク構造最適化装置1では、マスクパターン最適化部18が使用する2値化畳み込みニューラルネットワークの畳み込みの各重みが「+1」および「0」のいずれかである。
【0061】
更に、本発明者等は、分類対象画像A1に対して後述する前処理などを実行することによって、マスクの横方向寸法が小さくても分類精度を向上させることができることを、追加の研究において見い出した。
【0062】
<第3実施形態>
以下、第3実施形態のマスク構造最適化装置1について説明する。
第3実施形態のマスク構造最適化装置1は、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様に構成されている。従って、第3実施形態のマスク構造最適化装置1によれば、後述する点を除き、上述した第1実施形態のマスク構造最適化装置1と同様の効果を奏することができる。
【0063】
図15は第3実施形態のマスク構造最適化装置1の構成の一例を示す図である。
図15に示す例では、マスク構造最適化装置1が、分類対象画像サイズ取得部11、マスクサイズ設定部12、画像追加部13、初期値設定部16、畳み込み処理部1Xと、マスクパターン最適化部18と、分類対象画像処理部19とを備えている。
畳み込み処理部1Xは、分類対象画像A1(
図2(A)参照)およびマスクA2の画像に対する畳み込み処理を実行する。
【0064】
図15に示す例では、畳み込み処理部1Xが、分類対象画像A1の例えば右側に第2画像A4(
図10(A)参照)を追加したもの、および、マスクA2の画像に対して、高速フーリエ変換(FFT)を実施する。
次いで、畳み込み処理部1Xは、高速フーリエ変換が実施された分類対象画像A1とマスクA2の画像とを掛け合わせる処理を実行する。
次いで、畳み込み処理部1Xは、掛け合わせる処理により得られる波形に対して、逆高速フーリエ変換(IFFT)を実施する。
畳み込み処理部1Xが逆高速フーリエ変換を実施することによって得られるデータには、第1実施形態のマスク構造最適化装置1の明度総和算出部15によって算出される明度の総和と同等の特徴が含まれる。
つまり、第1実施形態のマスク構造最適化装置1では、マスクパターン最適化部18が、明度総和算出部15によって算出される明度の総和に基づき、マスクA2のマスクパターンを最適化するのに対し、第3実施形態のマスク構造最適化装置1では、マスクパターン最適化部18が、畳み込み処理部1Xによって実行された畳み込み処理の結果(詳細には、逆高速フーリエ変換を実施することによって得られるデータ)に基づいて、マスクA2のマスクパターンを最適化する。
他の例(マスクA2が既知の例)では、画像A4の追加が行われず、畳み込み処理部1Xは、畳み込み処理として、高速フーリエ変換の代わりに行列演算を実行する。マスクパターン最適化部18は、畳み込み処理部1Xによって実行された行列演算の結果に基づいて、マスクA2のマスクパターンを最適化する。
【0065】
図15に示す例では、分類対象画像処理部19が、分類対象画像A1(
図2(A)参照)に対する前処理を実行する。分類対象画像処理部19は、切り出し部19Aと、除外部19Bとを備えている。
切り出し部19Aは、複数の分類対象を含む元画像から、複数の分類対象画像を切り出す処理を実行する。除外部19Bは、切り出し部19Aによって切り出された複数の分類対象画像のうちの、少なくとも1つの分類対象が画像外縁部上に位置する分類対象画像を除外する。
【0066】
図16は切り出し部19Aおよび除外部19Bによる処理の一例を説明するための図である。
図16に示す例では、切り出し部19Aが、例えば7つの分類対象CF1-1、CF1-2、CF1-3、CF1-4、CF1-5、CF1-6、CF1-7を含む元画像AXから、例えば6つの分類対象画像A1-1、A1-2、A1-3、A1-4、A1-5、A1-6を切り出す。例えば、切り出し部19Aは、分類対象CF1-1の重心が分類対象画像A1-1の中心に位置するように、分類対象画像A1-1の切り出しを実行する。
切り出し部19Aによって切り出された分類対象画像A1-1には、1つの分類対象CF1-1が含まれている。分類対象CF1-1は、分類対象画像A1-1の画像外縁部BA1-1上に位置しない。つまり、分類対象CF1-1の全体が、分類対象画像A1-1に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-2には、1つの分類対象CF1-2が含まれている。分類対象CF1-2は、分類対象画像A1-2の画像外縁部BA1-2上に位置しない。つまり、分類対象CF1-2の全体が、分類対象画像A1-2に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-3には、1つの分類対象CF1-3が含まれている。分類対象CF1-3は、分類対象画像A1-3の画像外縁部BA1-3上に位置しない。つまり、分類対象CF1-3の全体が、分類対象画像A1-3に含まれている。
切り出し部19Aによって切り出された分類対象画像A1-4には、1つの分類対象CF1-4が含まれている。分類対象CF1-4は、分類対象画像A1-4の画像外縁部BA1-4上に位置しない。つまり、分類対象CF1-4の全体が、分類対象画像A1-4に含まれている。
【0067】
一方、切り出し部19Aによって切り出された分類対象画像A1-5には、分類対象CF1-5と、分類対象CF1-7の一部とが含まれている。分類対象CF1-5は、分類対象画像A1-5の画像外縁部BA1-5上に位置せず、分類対象CF1-7は、分類対象画像A1-5の画像外縁部BA1-5上に位置する。つまり、分類対象CF1-5の全体が、分類対象画像A1-5に含まれており、分類対象CF1-7の一部は、分類対象画像A1-5からはみ出している。
切り出し部19Aによって切り出された分類対象画像A1-6には、分類対象CF1-6の一部と、分類対象CF1-7の一部とが含まれている。分類対象CF1-6は、分類対象画像A1-6の画像外縁部BA1-6上に位置し、分類対象CF1-7も、分類対象画像A1-6の画像外縁部BA1-6上に位置する。つまり、分類対象CF1-6の一部が、分類対象画像A1-6からはみ出しており、分類対象CF1-7の一部も、分類対象画像A1-6からはみ出している。
そこで、除外部19Bは、切り出し部19Aによって切り出された6つの分類対象画像A1-1~A1-6のうちの、分類対象CF1-7が画像外縁部BA1-5上に位置する分類対象画像A1-5と、分類対象CF1-6、CF1-7が画像外縁部BA1-6上に位置する分類対象画像A1-6とを除外する。
【0068】
つまり、
図16に示す例では、除外部19Bによって除外された分類対象画像A1-5、A1-6は、マスク構造最適化装置1によるマスクA2(
図10(B)および
図10(C)参照)の最適化に利用されない。
一方、除外部19Bによって除外されなかった分類対象画像A1-1~A1-4は、マスク構造最適化装置1によるマスクA2の最適化に利用される。
【0069】
図17は第3実施形態のマスク構造最適化装置1によって実行される処理の一例を説明するためのフローチャートである。
図17に示す例では、ステップS20において、分類対象画像処理部19が、分類対象画像A1-1~A1-6(
図16参照)に対する前処理を実行する。
詳細には、ステップS20Aでは、分類対象画像処理部19が、複数の分類対象CF1-1~CF1-7(
図16参照)を含む元画像AX(
図16参照)を取得する。
次いで、ステップS20Bでは、切り出し部19Aが、元画像AXから、複数の分類対象画像A1-1~A1-6(
図16参照)を切り出す処理を実行する。
次いで、ステップS20Cでは、除外部19Bが、複数の分類対象画像A1-1~A1-6のうちの、分類対象CF1-6、CF1-7が画像外縁部BA1-5、BA1-6(
図16参照)上に位置する分類対象画像A1-5、A1-6を除外する。
【0070】
次いで、ステップS21では、分類対象画像サイズ取得部11が、分類対象画像A1-1~A1-4のサイズ(縦方向寸法×横方向寸法)を取得する。
次いで、ステップS22では、マスクサイズ設定部12が、分類対象画像A1-1~A1-4に対して適用されるマスクA2のサイズ(縦方向寸法×横方向寸法)を設定する。例えば、マスクサイズ設定部12は、マスクA2の縦方向寸法を分類対象画像A1-1~A1-4の縦方向寸法と同一にし、マスクA2の横方向寸法を分類対象画像A1-1~A1-4の横方向寸法よりも小さくする。例えば、マスクサイズ設定部12は、マスクA2の横方向寸法を、1ピクセル分に相当する値に設定する。
次いで、ステップS23では、画像追加部13が、分類対象画像A1-1~A1-4の左側に第1画像A3を追加し、分類対象画像A1-1~A1-4の右側に第2画像A4を追加する。
次いで、ステップS24では、初期値設定部16が、マスクパターンの初期値を設定する。
【0071】
次いで、ステップS25では、畳み込み処理部1Xが、分類対象画像A1-1およびマスクA2の画像に対する畳み込み処理を実行する。
【0072】
また、上述したステップS25が、分類対象画像A1-2、A1-3、A1-4のそれぞれに対しても実行される。
次いで、ステップS26では、マスクパターン最適化部18が、ステップS25において実行された畳み込み処理の結果に基づいて、機械学習を行い、マスクA2のマスクパターンを最適化する。
図17に示す例では、ステップS20は、ステップS21が実行される前に実行されるが、他の例では、ステップS25が実行される前の任意のタイミングで、ステップS20が実行されてもよい。
【0073】
上述した
図8~
図12に示す例では、マスクA2のマスクパターンの最適化を実行するために、分類対象としてMNISTのデータが用いられたが、
図15~
図17に示す例では、マスクA2のマスクパターンの最適化を実行するために、分類対象として細胞(詳細には、ヒーラ細胞(データ数は732)およびヒト膵臓癌腫細胞(データ数は830))が用いられた。
【0078】
更に、本発明者等は、例えば分類対象画像A1-4(
図16参照)を利用してマスクA2(
図10(B)および
図10(C)参照)の最適化を実行する場合に、分類対象画像A1-4のうちの中央部を利用すれば、分類対象画像A1-4の辺縁部(つまり、画像外縁部に近い部分)を利用しなくても、マスクA2の最適化を実行でき、そのマスクA2を用いた分類対象の分類精度が十分に高くなることを、追加の研究において見い出した。
【0079】
画像の素性を確認するために、画像の二次元配列表現を1次元配列化して機械学習を行った際の分類スコアが存在する。それに対して、横方向寸法が1ピクセル分に相当する最適化されたマスクA2を用い、2層ニューラルネットワークを用いた分類精度が匹敵すること、つまり、マスクパターンの最適化が適切に行われたことを、本発明者等は研究において見い出した。
【0081】
第3実施形態のマスク構造最適化装置1によって最適化されたマスクA2を用いた分類対象の分類精度は、マスク構造最適化装置1によって最適化されていないマスクを用いた分類対象の分類精度よりも高くなった。
また、第3実施形態のマスク構造最適化装置1によって最適化された横方向寸法が1ピクセル分のマスクA2を用いた分類対象の分類精度は、マスク構造最適化装置1によって最適化されていない横方向寸法が581ピクセル分のマスクを用いた分類対象の分類精度よりも高くなった。
【0082】
更に、本発明者等は、例えば分類対象画像A1-4(
図16参照)を利用してマスクA2の最適化を実行する場合に、分類対象画像A1-4から摂動後分類対象画像A1-4C、A1-4D(
図21参照)を生成し、分類対象画像A1-4および摂動後分類対象画像A1-4C、A1-4Dを利用してマスクA2の最適化を実行した場合に、そのマスクA2を用いた分類対象の分類精度が更に高くなることを、追加の研究において見い出した。
【0083】
<第4実施形態>
以下、第4実施形態のマスク構造最適化装置1について説明する。
第4実施形態のマスク構造最適化装置1は、後述する点を除き、上述した第3実施形態のマスク構造最適化装置1と同様に構成されている。従って、第4実施形態のマスク構造最適化装置1によれば、後述する点を除き、上述した第3実施形態のマスク構造最適化装置1と同様の効果を奏することができる。
【0084】
図20は第4実施形態のマスク構造最適化装置1の構成の一例を示す図である。
図21は回転部19Dおよび摂動部19Eによる処理の一例を示す図である。
図20および
図21に示す例では、分類対象画像処理部19が、切り出し部19Aおよび除外部19Bの他に、正規化部19Cと、回転部19Dと、摂動部19Eとを備えている。
正規化部19Cは、分類対象画像A1の画素値を0~1の範囲へと変換する。
回転部19Dは、除外部19Bによる処理が実行された後の分類対象画像A1-4(
図22(A)参照)を90°回転させる処理を実行し、回転後分類対象画像A1-4B(
図22(B)参照)を生成する。
摂動部19Eは、除外部19Bによる処理が実行され、次いで、回転部19Dによる処理が実行された後の回転後分類対象画像A1-4Bに対して摂動処理を実行する。
【0085】
詳細には、摂動部19Eは、除外部19Bによる処理が実行され、次いで、回転部19Dによる処理が実行された後の回転後分類対象画像A1-4Bから、回転後分類対象画像A1-4Bの画像外縁部BA1-4の位置を移動させることなく、回転後分類対象画像A1-4Bに含まれる分類対象CF1-4の位置を、移動方向に垂直な方向(
図21(B)、
図21(C)および
図21(D)の上下方向)に-5ピクセル分~+5ピクセル分だけ移動させた分類対象画像である摂動後分類対象画像A1-4C、A1-4D(
図21(C)および
図21(D)参照)を生成する。
図21(C)に示す例では、摂動部19Eが、回転後分類対象画像A1-4Bに含まれる分類対象CF1-4の位置を、移動方向に垂直な方向(
図21(C)の上下方向)に+5ピクセル分だけ移動させた摂動後分類対象画像A1-4Cを生成している。
図21(D)に示す例では、摂動部19Eが、回転後分類対象画像A1-4Bに含まれる分類対象CF1-4の位置を、移動方向に垂直な方向(
図21(D)の上下方向)に-5ピクセル分だけ移動させた摂動後分類対象画像A1-4Dを生成している。
【0086】
図21に示す例では、回転後分類対象画像A1-4B(
図21(B)参照)が、マスク構造最適化装置1によるマスクA2の最適化に利用されるのみならず、摂動後分類対象画像A1-4C、A1-4D(
図21(C)および
図21(D)参照)も、マスクA2の最適化に利用される。
図20に示す例では、分類対象画像処理部19が回転部19Dを備えているが、他の例では、分類対象画像処理部19が回転部19Dを備えていなくてもよい。
【0087】
図22は第4実施形態のマスク構造最適化装置1によって実行される処理の一例を説明するためのフローチャートである。
図22に示す例では、ステップS30において、分類対象画像処理部19が、分類対象画像A1-1~A1-6(
図16参照)に対する前処理を実行する。
詳細には、ステップS30Aでは、分類対象画像処理部19が、複数の分類対象CF1-1~CF1-7(
図16参照)を含む元画像AX(
図16参照)を取得する。
次いで、ステップS30Bでは、切り出し部19Aが、元画像AXから、複数の分類対象画像A1-1~A1-6(
図16参照)を切り出す処理を実行する。
次いで、ステップS30Cでは、正規化部19Cが、分類対象画像A1-1~A1-6の画素値を0~1の範囲へと変換する。
次いで、ステップS30Dでは、除外部19Bが、複数の分類対象画像A1-1~A1-6のうちの、分類対象CF1-6、CF1-7が画像外縁部BA1-5、BA1-6(
図16参照)上に位置する分類対象画像A1-5、A1-6を除外する。
次いで、ステップS30Eでは、回転部19Dが、0°、90°、180°および270°のうちのいずれかの角度をランダムに選択し、除外部19Bによって除外されなかった複数の分類対象画像A1-1~A1-4を、選択された角度だけ回転させ、複数の回転後分類対象画像A1-4B(
図21(B)参照)、…を生成する。
次いで、ステップS30Fでは、摂動部19Eが、複数の回転後分類対象画像A1-4B、…から複数の摂動後分類対象画像A1-4C、A1-4D(
図21(C)および
図21(D)参照)、…を生成する。
【0088】
次いで、ステップS31では、分類対象画像サイズ取得部11が、分類対象画像A1-1~A1-4のサイズ(回転後の縦方向寸法×横方向寸法)を取得する。
次いで、ステップS32では、マスクサイズ設定部12が、分類対象画像A1-1~A1-4に対して適用されるマスクA2のサイズ(縦方向寸法×横方向寸法)を設定する。例えば、マスクサイズ設定部12は、マスクA2の縦方向寸法を分類対象画像A1-1~A1-4の回転後の縦方向寸法と同一にし、マスクA2の横方向寸法を分類対象画像A1-1~A1-4の回転後の横方向寸法よりも小さくする。例えば、マスクサイズ設定部12は、マスクA2の横方向寸法を、1ピクセル分に相当する値に設定する。
次いで、ステップS33では、画像追加部13が、分類対象画像A1-1~A1-4の左側に第1画像A3を追加し、分類対象画像A1-1~A1-4の右側に第2画像A4を追加する。
次いで、ステップS34では、初期値設定部16が、マスクパターンの初期値を設定する。
【0089】
次いで、ステップS35では、畳み込み処理部1Xが、分類対象画像A1-1およびマスクA2の画像に対する畳み込み処理を実行する。
【0090】
また、上述したステップS35が、分類対象画像A1-2、A1-3、A1-4のそれぞれに対しても実行される。
次いで、ステップS36では、マスクパターン最適化部18が、ステップS35において実行された畳み込み処理の結果に基づいて、機械学習を行い、マスクA2のマスクパターンを最適化する。
詳細には、ステップS36では、マスクパターン最適化部18が、ステップS30Eにおける回転と同等の回転を適宜実行し、ステップS30Fにおける摂動と同等の摂動を適宜実行する
図22に示す例では、ステップS30は、ステップS31が実行される前に実行されるが、他の例では、ステップS35が実行される前の任意のタイミングで、ステップS30が実行されてもよい。
また、
図22に示す例では、ステップS30Eが実行されるが、他の例では、ステップS30Eが実行されなくてもよい。
【0092】
第4実施形態のマスク構造最適化装置1によって最適化されたマスクA2を用いた分類対象の分類精度は、マスク構造最適化装置1によって最適化されていないマスクを用いた分類対象の分類精度の最良値および平均値よりも高くなった。
【0095】
なお、以上に示した実施形態に係る各装置(例えば、マスク構造最適化装置1)の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体(記憶媒体)に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより、処理を行ってもよい。
なお、ここでいう「コンピュータシステム」とは、オペレーティング・システム(OS:Operating System)あるいは周辺機器等のハードウェアを含むものであってもよい。
また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM(Read Only Memory)、フラッシュメモリ等の書き込み可能な不揮発性メモリ、DVD(Digital Versatile Disc)等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。また、記録媒体としては、例えば、一時的にデータを記録する記録媒体であってもよい。
【0096】
さらに、「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークあるいは電話回線等の通信回線を介してプログラムが送信された場合のサーバあるいはクライアントとなるコンピュータシステム内部の揮発性メモリ(例えばDRAM(Dynamic Random Access Memory))のように、一定時間プログラムを保持しているものも含むものとする。
また、上記のプログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)あるいは電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。
また、上記のプログラムは、前述した機能の一部を実現するためのものであってもよい。さらに、上記のプログラムは、前述した機能をコンピュータシステムに既に記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であってもよい。
コンピュータでは、例えば、CPU(Central Processing Unit)などのプロセッサがメモリに記憶されたプログラムを読み出して実行する。
【0097】
以上、本発明の実施形態について図面を参照して詳述したが、具体的な構成はこの実施形態に限られるものではなく、本発明の要旨を逸脱しない範囲内において種々の変形及び置換を加えることができる。上述した各実施形態に記載の構成を組み合わせてもよい。
【符号の説明】
【0098】
1…マスク構造最適化装置、11…分類対象画像サイズ取得部、12…マスクサイズ設定部、13…画像追加部、14…明度検出部、15…明度総和算出部、16…初期値設定部、17…移動部、18…マスクパターン最適化部、19…分類対象画像処理部、19A…切り出し部、19B…除外部、19C…正規化部、19D…回転部、19E…摂動部、1X…畳み込み処理部、A1…分類対象画像、A11、A12、A13、A14…隅部、P1、P2、P3…位置、A2…マスク、A2R…マスク、A21A、A21B、A21C…透光部、A22A、A22B、A22C、A22D、A22E、A22F…遮光部、A3…第1画像、A4…第2画像