(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023105625
(43)【公開日】2023-07-31
(54)【発明の名称】汚れ検知装置、汚れ検知方法、生体認証システムおよび生体認証方法
(51)【国際特許分類】
G01N 21/3577 20140101AFI20230724BHJP
G01N 21/359 20140101ALI20230724BHJP
G01N 21/47 20060101ALI20230724BHJP
【FI】
G01N21/3577
G01N21/359
G01N21/47 B
【審査請求】未請求
【請求項の数】12
【出願形態】OL
(21)【出願番号】P 2022006568
(22)【出願日】2022-01-19
(71)【出願人】
【識別番号】314012076
【氏名又は名称】パナソニックIPマネジメント株式会社
(74)【代理人】
【識別番号】110002000
【氏名又は名称】弁理士法人栄光事務所
(72)【発明者】
【氏名】藤山 毅
(72)【発明者】
【氏名】中村 剛
【テーマコード(参考)】
2G059
【Fターム(参考)】
2G059AA05
2G059BB04
2G059BB08
2G059BB13
2G059DD01
2G059EE01
2G059EE02
2G059EE11
2G059GG01
2G059GG02
2G059GG03
2G059HH01
2G059HH06
2G059KK04
2G059MM01
2G059MM05
2G059MM09
2G059MM10
(57)【要約】
【課題】人物から発せられる飛沫あるいは人物の口元付近に付着している水分あるいは糖類を含む特定物質を検知し、特定物質の検知結果を外部に通知して次の行動の実行を促す。
【解決手段】汚れ検知装置は、OH基を有する水分あるいは糖類を含む、金属板の表面に付着する唾液痕による汚れを検知する検知部と、唾液痕による汚れの検知結果が許容条件を満足しない場合、検知結果を外部端末あるいは外部ロボットに通知する通知部と、を備え、通知部は、汚れ検知装置と接続された外部端末あるいは外部ロボットに検知結果を含む金属板の拭掃指示を送信する。
【選択図】
図3
【特許請求の範囲】
【請求項1】
OH基を有する水分あるいは糖類を含む、金属板の表面に付着する唾液痕による汚れを検知する検知部と、
前記唾液痕による汚れの検知結果が許容条件を満足しない場合、前記検知結果を外部端末あるいは外部ロボットに通知する通知部と、を備え、
前記通知部は、前記汚れ検知装置と接続された前記外部端末あるいは前記外部ロボットに前記検知結果を含む前記金属板の拭掃指示を送信する、
汚れ検知装置。
【請求項2】
前記検知部は、
前記金属板により反射された前記OH基に吸収され難い特性を有する参照光の反射光量と、前記金属板により反射された前記OH基に吸収され易い特性を有する測定光の反射光量と、前記唾液痕が付着していない前記金属板により反射された前記参照光の反射光量と、前記唾液痕が付着していない前記金属板により反射された前記測定光の反射光量と、に基づいて、前記唾液痕による汚れを検知し、
前記金属板の表面に前記唾液痕が付着している領域が閾値以上である場合、前記金属板の表面に前記唾液痕による汚れが付着していると判定する、
請求項1に記載の汚れ検知装置。
【請求項3】
前記OH基に吸収され難い特性を有する参照光を前記金属板に向けて順次走査しながら照射する第1光源と、
前記OH基に吸収され易い特性を有する測定光を前記金属板に向けて順次走査しながら照射する第2光源と、
前記唾液痕が付着していない前記金属板により反射された前記参照光の反射光量、前記唾液痕が付着していない前記金属板により反射された前記測定光の反射光量を記憶するメモリと、をさらに備え、
前記参照光の波長は905nmであり、
前記測定光の波長は1550nmである、
請求項1に記載の汚れ検知装置。
【請求項4】
前記金属板により反射された前記参照光および前記測定光の撮像により、前記金属板の所定範囲を被写体とした前記唾液痕による汚れの有無を示す検知結果画像を生成する画像生成部、をさらに備え、
前記通知部は、前記汚れ検知装置と接続された前記外部端末あるいは前記外部ロボットに前記検知結果画像を含む前記金属板の拭掃指示を送信する、
請求項2に記載の汚れ検知装置。
【請求項5】
前記金属板の所定範囲を同じ前記被写体とした可視光の撮像により、前記被写体のカラー画像を生成する可視カメラ部、をさらに備え、
前記通知部は、前記被写体のカラー画像上に前記検知結果画像を重畳した重畳画像を前記金属板の拭掃指示に含めて前記外部端末あるいは前記外部ロボットに送信する、
請求項4に記載の汚れ検知装置。
【請求項6】
前記第1光源は、レーザ光による前記参照光を照射し、
前記第2光源は、レーザ光による前記測定光を照射する、
請求項3に記載の汚れ検知装置。
【請求項7】
OH基を有する水分あるいは糖類を含む、金属板の表面に付着する唾液痕による汚れを検知する飛沫汚れ検知方法であって、
前記金属板の表面に付着する唾液痕による汚れを検知するステップと、
前記唾液痕による汚れの検知結果が許容条件を満足しない場合、前記検知結果を外部端末あるいは外部ロボットに通知するステップと、を有し、
前記検知結果を前記外部端末あるいは前記外部ロボットに通知するステップは、前記検知結果を含む前記金属板の拭掃指示を送信するステップを含む、
汚れ検知方法。
【請求項8】
被測定物を撮像するカメラと、
前記カメラとの間で通信可能な制御装置と、を備え、
前記カメラは、
第1波長帯の照射光と、前記第1波長帯と異なる波長帯である第2波長帯の照射光とを前記被測定物に照射し、
前記被測定物の撮像画像に基づいて、前記被測定物に付着する水分あるいは糖類を検知し、
前記水分および前記糖類が検知されない第1画像と、前記水分あるいは前記糖類が検知された第2画像とを比較して、前記被測定物上に付着する前記水分あるいは前記糖類の検知結果を前記制御装置に送信し、
前記制御装置は、
前記検知結果に基づいて、人物の口唇紋を取得し、
取得された前記口唇紋と、データベースに登録された複数の口唇紋のそれぞれとを照合し、
前記データベースに取得された前記口唇紋と同一あるいは類似する口唇紋があると判定した場合、前記同一あるいは類似する口唇紋に対応する人物を、取得された前記口唇紋に対応する人物であると判定し、
前記口唇紋に対応する人物の判定結果を外部端末に通知する、
生体認証システム。
【請求項9】
前記カメラは、
前記水分または前記糖類のOH基に対する吸光度がそれぞれ異なる前記第1波長帯の照射光と前記第2波長帯の照射光とを照射する、
請求項8に記載の生体認証システム。
【請求項10】
前記カメラは、
前記波長帯が1200nmまたは1300nmである前記第1波長帯の照射光と、前記波長帯が1400nmである前記第2波長帯の照射光とを照射する、
請求項9に記載の生体認証システム。
【請求項11】
前記被測定物は、アルミニウムの粉末が塗装される、
請求項8に記載の生体認証システム。
【請求項12】
複数のコンピュータが行う生体認証方法であって、
第1波長帯の照射光と、前記第1波長帯と異なる波長帯である第2波長帯の照射光とを被測定物に照射するステップと、
前記被測定物の撮像画像に基づいて、前記被測定物に付着する水分あるいは糖類を検知するステップと、
前記水分および前記糖類が検知されない第1画像と、前記水分あるいは前記糖類が検知された第2画像とを比較するステップと、
前記水分または前記糖類の検知結果に基づいて、人物の口唇紋を取得するステップと、
取得された前記口唇紋と、データベースに登録された複数の口唇紋のそれぞれとを照合するステップと、
前記データベースに取得された前記口唇紋と同一あるいは類似する口唇紋があると判定した場合、前記同一あるいは類似する口唇紋に対応する人物を、取得された前記口唇紋に対応する人物であると判定するステップと、
前記口唇紋に対応する人物の判定結果を外部端末に通知するステップと、を有する、
生体認証方法。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、汚れ検知装置、汚れ検知方法、生体認証システムおよび生体認証方法に関する。
【背景技術】
【0002】
ATM(Automatic Teller Machine:現金自動預け払い機)等の監視対象機器は常駐の保守員が不在の環境下に配置されることが多いが、近年、このような監視対象機器の特定箇所(例えば人が接触するタッチパネル等の表示部分)に付着あるいは降り積もった塵埃等の汚れの有無を監視する技術が登場している。例えば特許文献1には、監視対象物の監視対象領域に光を照射する光源を用いて監視対象領域における汚れを監視し、汚れの度合いを示す監視結果を生成する入力装置と、監視結果を受けて監視対象領域の状態を検知して監視対象領域の状態が悪化した場合にはアラームを生成して監視端末に送信する監視装置とを有する監視システムが開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
特許文献1の入力装置で使用されている光源は、監視対象物の監視対象領域の全域に近赤外光を照射可能なIR(Infrared Ray) LED(Light Emission Diode)である。この入力装置は、塵埃等の微小なゴミに近赤外光が照射された時に生じる散乱光に基づいて監視対象領域の汚れ度合いを生成している。このため、塵埃等の微小なゴミは検知可能であるが、特定物質(例えば、人物から発せられる飛沫に含まれる水分あるいは糖類、あるいは、人物の口唇紋に付着している水分あるいは糖類)の検知が困難であった。
【0005】
本開示は、上述した従来の状況に鑑みて案出され、人物から発せられる飛沫に含まれる水分あるいは糖類もしくは被測定物に付着している水分あるいは糖類を含む特定物質を検知し、特定物質の検知結果を外部に通知して次の行動の実行を促す汚れ検知装置、汚れ検知方法、生体認証システムおよび生体認証方法を提供することを目的とする。
【課題を解決するための手段】
【0006】
本開示は、OH基を有する水分あるいは糖類を含む、前記金属板の表面に付着する唾液痕による汚れを検知する検知部と、前記唾液痕による汚れの検知結果が許容条件を満足しない場合、前記検知結果を外部端末あるいは外部ロボットに通知する通知部と、を備え、前記通知部は、前記汚れ検知装置と接続された前記外部端末あるいは前記外部ロボットに前記検知結果を含む前記金属板の拭掃指示を送信する、汚れ検知装置を提供する。
【0007】
また、本開示は、OH基を有する水分あるいは糖類を含む、金属板の表面に付着する唾液痕による汚れを検知する飛沫汚れ検知方法であって、前記金属板の表面に付着する唾液痕による汚れを検知するステップと、前記唾液痕による汚れの検知結果が許容条件を満足しない場合、前記検知結果を外部端末あるいは外部ロボットに通知するステップと、を有し、前記検知結果を前記外部端末あるいは前記外部ロボットに通知するステップは、前記検知結果を含む前記金属板の拭掃指示を送信するステップを含む、汚れ検知方法を提供する。
【0008】
また、本開示は、被測定物を撮像するカメラと、前記カメラとの間で通信可能な制御装置と、を備え、前記カメラは、第1波長帯の照射光と、前記第1波長帯と異なる波長帯である第2波長帯の照射光とを前記被測定物に照射し、前記被測定物の撮像画像に基づいて、前記被測定物に付着する水分あるいは糖類を検知し、前記水分および前記糖類が検知されない第1画像と、前記水分あるいは前記糖類が検知された第2画像とを比較して、前記被測定物上に付着する前記水分あるいは前記糖類の検知結果を前記制御装置に送信し、前記制御装置は、前記検知結果に基づいて、人物の口唇紋を取得し、取得された前記口唇紋と、データベースに登録された複数の口唇紋のそれぞれとを照合し、前記データベースに取得された前記口唇紋と同一あるいは類似する口唇紋があると判定した場合、前記同一あるいは類似する口唇紋に対応する人物を、取得された前記口唇紋に対応する人物であると判定し、前記口唇紋に対応する人物の判定結果を外部端末に通知する、生体認証システムを提供する。
【0009】
また、本開示は、複数のコンピュータが行う生体認証方法であって、第1波長帯の照射光と、前記第1波長帯と異なる波長帯である第2波長帯の照射光とを被測定物に照射するステップと、前記被測定物の撮像画像に基づいて、前記被測定物に付着する水分あるいは糖類を検知するステップと、前記水分および前記糖類が検知されない第1画像と、前記水分あるいは前記糖類が検知された第2画像とを比較するステップと、前記水分または前記糖類の検知結果に基づいて、人物の口唇紋を取得するステップと、取得された前記口唇紋とデータベースに登録された複数の口唇紋のそれぞれとを照合するステップと、前記データベースに取得された前記口唇紋と同一あるいは類似する口唇紋があると判定した場合、前記同一あるいは類似する口唇紋に対応する人物を、取得された前記口唇紋に対応する人物であると判定するステップと、前記口唇紋に対応する人物の判定結果を外部端末に通知するステップと、を有する、生体認証方法を提供する。
【発明の効果】
【0010】
本開示によれば、人物から発せられる飛沫に含まれる水分あるいは糖類もしくは被測定物に付着している水分あるいは糖類を含む特定物質を検知し、特定物質の検知結果を外部に通知して次の行動の実行を促すことができる。
【図面の簡単な説明】
【0011】
【
図1A】飛沫汚れ検知装置が飛沫のほぼ無い時の下地層に向けて近赤外光を照射する使用状況例を模式的に示す図
【
図1B】飛沫汚れ検知装置が飛沫の付着している時の下地層に向けて近赤外光を照射する使用状況例を模式的に示す図
【
図2】飛沫汚れ検知装置の内部構成例を詳細に示すブロック図
【
図3】飛沫汚れ検知装置の受光処理部の内部構成例を詳細に示すブロック図
【
図4A】飛沫汚れ検知装置の制御部による初期設定動作例を示すフローチャート
【
図4B】飛沫汚れ検知装置の非可視センサ部によるOH基の検知原理の一例を示す図
【
図5】非可視センサ部によるOH基の検知動作手順例を詳細に示すフローチャート
【
図6】
図5の非可視センサ画像データの生成処理の動作手順例を詳細に示すフローチャート
【
図7】飛沫汚染度(総和)および飛沫汚染度の平均値の概念を示す図
【
図8】OH基に対する近赤外光の分光特性例を示すグラフ
【
図9】第1の実験例(唾液痕に含まれるOH基を検知する)の概要例を示す図
【
図10】下地層がプラスチック、金属板である場合の唾液痕の分光分析例を示す図
【
図11】第2の実験例(下地層が金属板である場合のエリアごとの正規化吸光度比NARの画素分布ならびに画素平均の時間推移を比較する)の概要例を示す図
【
図12】第3の実験例(一定量の飛沫を最大で10回噴き付けて所定時間乾燥させた金属板の正規化吸光度比NARの範囲ごとの占有画素数を比較する)の概要例を示す図
【
図13】第3の実験例による非可視センサ画像データの噴き付け回数ごとの比較例を示す図
【
図14】実施の形態2に係る生体認証システムの全体構成例、および近赤外線カメラの内部構成例を示すブロック図
【
図15】実施の形態2における近赤外線カメラのユースケース例(唾液痕未付着時)を説明する図
【
図16】実施の形態2における近赤外線カメラのユースケース例(唾液痕付着時)を説明する図
【
図17】近赤外線カメラによる唾液痕の検知の原理説明図
【
図18】実施の形態2に係る制御装置の内部構成例を示すブロック図
【
図19】実施の形態2に係る近赤外線カメラの初期動作手順例を説明するフローチャート
【
図20】実施の形態2に係る生体認証システムの口唇紋照合手順例を説明するフローチャート
【
図21】近赤外線カメラにより撮像された唾液痕未付着時および唾液痕付着時のそれぞれの撮像画像を比較する図
【
図22】3階調色における唾液痕表示画像の生成例を説明する図
【
図23】8階調色における口唇紋表示画像の生成例を説明する図
【発明を実施するための形態】
【0012】
(本開示に係る実施の形態1に至る経緯)
昨今、新型コロナウイルス等の感染症が世界的に流行している。このような新型コロナウイルス等のウイルスは、人から人へ感染することが知られている。感染の経路としては次のものが知られている。なお、ここでは人から人へ感染が広がる感染症の例として、新型コロナウイルスを例示して説明しているが、他の感染症(例えばインフルエンザ感染症)においても同様である。
【0013】
例えば、新型コロナウイルス等のウイルスに感染した人物(つまり感染者)がくしゃみ等をすると、その感染者の唾液中あるいは体液中に含まれるウイルスが飛沫(例えばエアロゾル)として空気中を伝搬(例えばエアロゾル感染)し、そのウイルスを健常者が目、鼻、口等の器官を介して吸収するという経路である。この経路はあくまで一例であって、感染の経路が限定されることを意図するものでは無い。したがって、感染者から放出される飛沫が物体等のモノに付着した場合、そのモノに付着した飛沫の有無が適切に検知され、検知された場合に飛沫が多く堆積した飛沫痕を適宜清掃(拭掃)することで衛生を保つことができれば感染の拡大防止に向けた有意義な対策が可能となると期待されている。
【0014】
ここで、人の唾液は殆ど(およそ99.5%)が水分であり、残り0.5%は唾液痕(つまり飛沫痕)により構成される。飛沫痕は、グルコース等のブドウ糖、ATP(アデノシン三リン酸)等の成分により構成される。このような成分や水分にはいずれにしてもOH基(ヒドロキシ基)が含まれることが知られている。本件発明者は、このような水分や飛沫痕にOH基(ヒドロキシ基)が含まれることに着目した。従来技術では、人の唾液中に含まれる水分や飛沫痕(例えばグルコース等のブドウ糖、ATP)を検知することは困難であり、植物と人の唾液とでは膜厚もかなり相違するので唾液中のOH基を高精度に検知することは困難であるという課題があった。
【0015】
そこで、以下の実施の形態1では、金属等の被測定物に付着する水分あるいは糖類を検知し、被測定物における唾液痕による汚れを高精度に推定する飛沫汚れ検知装置および飛沫汚れ検知方法の例を説明する。
【0016】
以下、適宜図面を参照しながら、本開示に係る汚れ検知装置、汚れ検知方法、生体認証システムおよび生体認証方法を具体的に開示した実施の形態を詳細に説明する。但し、必要以上に詳細な説明は省略する場合がある。例えば既によく知られた事項の詳細説明や実質的に同一の構成に対する重複説明を省略する場合がある。これは、以下の説明が不必要に冗長になるのを避け、当業者の理解を容易にするためである。なお、添付図面及び以下の説明は、当業者が本開示を十分に理解するために提供されるのであって、これらにより特許請求の範囲に記載の主題を限定することは意図されていない。
【0017】
(実施の形態1)
実施の形態1では、本開示に係る汚れ検知装置の一例として、飛沫汚れ検知装置を例示して説明する。
図1Aは、飛沫汚れ検知装置1が飛沫のほぼ無い時の下地層BS1に向けて近赤外光を照射する使用状況例を模式的に示す図である。
図1Bは、飛沫汚れ検知装置1が飛沫の付着している時の下地層BS1に向けて近赤外光を照射する使用状況例を模式的に示す図である。実施の形態1に係る飛沫汚れ検知装置1は、金属板等の下地層BS1に付着した水分あるいは糖類(例えばOH基)を含む人の飛沫SLV1(例えば人がせき、くしゃみ等をして出した細かい唾液)の有無を検知したり、その飛沫(唾液)が乾燥して残った飛沫痕(唾液痕)による汚れを検知したりする。
【0018】
飛沫汚れ検知装置1は、下地層BS1から例えば50cm~1m以上程度離して配置される。下地層BS1により反射した反射光の強度(光量)を抑えるため、下地層BS1は、飛沫汚れ検知装置1に対して少し斜めに(例えば照射された近赤外光の照射方向に直交する向きから約10度程度)傾けられて配置される。
【0019】
図1Aでは下地層BS1が人の手により拭掃された(例えばアルコール消毒剤が噴霧されて布で拭かれた)直後の様子が図示されており、下地層BS1には飛沫SLV1はほぼ存在していない。飛沫汚れ検知装置1は、2つの異なる波長(λ1,λ2)を有する近赤外光を時分割に下地層BS1に向けて照射する第1投光光源13,第2投光光源15と、下地層BS1により反射して拡散した光(つまり、反射光である拡散反射光RV1(戻り光I0),拡散反射光RV2(戻り光I0)を戻り光I0として入射する撮像光学部21(例えばレンズ)と、その撮像光学部21を介して戻り光I0を受光する受光部23とを備える。戻り光I0は、下地層BS1が拭掃された直後の拡散反射光RV1および拡散反射光RV2のうちいずれか1つでもよいし、それら両方を含んでもよい概念である。なお、飛沫汚れ検知装置1の詳細な構成の説明は
図2および
図3を参照して後述する。第1投光光源13および第2投光光源15は例えばレーザダイオード(LD)により構成され、照射される近赤外光はレーザ光である。受光部23は例えばフォトダイオード(PD)あるいはイメージセンサ(IMS)のいずれにより構成されてもよいが、フォトダイオードの場合はミラー(例えば後述する投光光源走査用光学部17)を走査して受光位置が異なるように制御が必要だが、イメージセンサの場合は受光位置が異なるようにミラー(上述参照)を走査する制御は不要となる。以下、
図1Aのタイミング(つまり、下地層BS1が拭掃された直後のタイミング)に照射される参照光が下地層BS1で反射した拡散反射光を「拡散反射光RV1(戻り光I0)」と称し、
図1Aのタイミング(つまり、下地層BS1が拭掃された直後のタイミング)に照射される測定光が下地層BS1で反射した拡散反射光を「拡散反射光RV2(戻り光I0)」と称する。
【0020】
図1Bでは下地層BS1が人の手により拭掃されてから一定時間が経過した時の様子が図示されており、下地層BS1には一定量の飛沫SLV1が存在(付着)している。
図1Aの状態と同様に、飛沫汚れ検知装置1は、2つの異なる波長(λ1,λ2)を有する近赤外光を時分割に下地層BS1に向けて照射し、下地層BS1で反射して拡散した光(つまり、反射光である拡散反射光RV1,RV2)を戻り光I1として入射して受光する。戻り光I1は、下地層BS1が拭掃されてから一定時間が経過した後(言い換えると、下地層BS1に飛沫SLV1が付着している時)の拡散反射光RV1および拡散反射光RV2のうちいずれか1つでもよいし、それら両方を含んでもよい概念である。詳細は後述するが、波長λ1を有する近赤外光(参照光)は飛沫SLV1での吸収はされ難い特性を有するが、波長λ2を有する近赤外光(測定光)は飛沫SLV1での吸収がされ易い特性を有する。このため、戻り光I0の強度(光量)は参照光の強度(光量)と測定光の強度(光量)とで異ならないが、戻り光I1の強度(光量)は参照光の強度(光量)と、測定光の強度(光量)とで異なる。以下、
図1Bのタイミング(つまり、下地層BS1が拭掃されてから一定時間が経過したタイミング)に照射される参照光が下地層BS1で反射した拡散反射光を「拡散反射光RV1(戻り光I1)」と称し、
図1Aのタイミング(つまり、下地層BS1が拭掃された直後のタイミング)に照射される測定光が下地層BS1で反射した拡散反射光を「拡散反射光RV2(戻り光I1)」と称する。
【0021】
図2は、飛沫汚れ検知装置1の内部構成例を詳細に示すブロック図である。
図3は、飛沫汚れ検知装置1の受光処理部20の内部構成例を詳細に示すブロック図である。
図2に示すように、飛沫汚れ検知装置1は、非可視センサ部5と、可視カメラ部30とを含む構成である。非可視センサ部5は、制御部7と、投光処理部10と、受光処理部20とを含む構成である。投光処理部10は、第1投光光源13と、第2投光光源15と、投光光源走査用光学部17とを有する。受光処理部20は、撮像光学部21と、受光部23と、信号加工部25と、検知処理部27と、表示処理部29とを有する。可視カメラ部30は、撮像光学部31と、受光部33と、撮像信号処理部35と、表示制御部37とを有する。通信端末MTは、ユーザ(例えば下地層BS1に飛沫SLV1が付着しているか否かを検査する人物。以下同様。)により携帯される。
【0022】
先ず、制御部7について説明する。
【0023】
制御部7は、例えばCPU(Central Processing Unit)、DSP(Digital Signal Processor)あるいはFPGA(Field Programmable Gate Array)等のプロセッサを用いて構成される。制御部7は、非可視センサ部5および可視カメラ部30の動作の同期制御、非可視センサ部5および可視カメラ部30の各部の動作制御を全体的に統括するための信号処理、他の各部との間のデータの入出力処理、データの演算処理およびデータの記憶処理を行う。また、制御部7は、後述するタイミング制御部7aを含む(
図3参照)。さらに、制御部7は、金属板等の下地層BS1を拭掃するための各種の機構(図示略)を備える拭掃ロボットROB1との間でデータ信号の送受信が可能に接続されている。
【0024】
制御部7は、非可視センサ部5の検知対象となる飛沫SLV1を検知するための閾値N,Mを後述する検知処理部27に設定する。制御部7の動作の詳細については、
図4Aを参照して後述する。
【0025】
タイミング制御部7aは、投光処理部10における第1投光光源13および第2投光光源15の投光タイミングを制御する。具体的には、タイミング制御部7aは、第1投光光源13あるいは第2投光光源15にレーザ近赤外光を投光させる場合に、光源走査用タイミング信号TRおよび光源発光信号RFを第1投光光源13あるいは第2投光光源15に送る。つまり、タイミング制御部7aは、光源走査用タイミング信号TRおよび光源発光信号RFを、第1投光光源13あるいは第2投光光源15に所定の投光周期ごとに交互(時分割)に送る。具体的には、タイミング制御部7aは、奇数番目の投光周期の開始時に光源走査用タイミング信号TRおよび光源発光信号RFを第1投光光源13に送り、偶数番目の投光周期の開始時に光源走査用タイミング信号TRおよび光源発光信号RFを第2投光光源15に送る。
【0026】
また、制御部7は、後述する表示処理部29あるいは表示制御部37からの出力を受けて、金属板等の下地層BS1の拭掃を命令するための拭掃指示を生成して拭掃ロボットROB1に送信(通知)する。拭掃ロボットROB1は、制御部7からの通知を受けて、金属板等の下地層BS1の拭掃を実行する。
【0027】
次に、非可視センサ部5の各部について説明する。
【0028】
第1投光光源13(第1光源の一例)は、奇数番目の投光周期(既定値)ごとにタイミング制御部7aから送られる光源走査用タイミング信号TRおよび光源発光信号RFを受けると、所定の波長(例えば905nm)を有する近赤外光(非可視光)のレーザ光である参照光LS1を、投光光源走査用光学部17を介して下地層BS1に向けて投光する。
【0029】
第2投光光源15(第2光源の一例)は、偶数番目の投光周期(既定値)ごとにタイミング制御部7aから送られる光源走査用タイミング信号TRおよび光源発光信号RFを受けると、所定の波長(例えば1550nm)を有する近赤外光(非可視光)のレーザ光である測定光LS2を、投光光源走査用光学部17を介して下地層BS1に向けて投光する。実施の形態1では、第2投光光源15から投光される測定光LS2は、下地層BS1に付着した飛沫SLV1に含まれる水分あるいは糖類の検知の有無の判定に用いられる。測定光LS2の波長1550nmは、水分あるいは糖類に含まれるOH基が吸収され易い特性を有する波長である(
図7参照)。
【0030】
投光光源走査用光学部17は、例えば変位可能なミラーと、制御部7からの駆動信号(図示略)に基づいてミラーを駆動可能に変位させるミラー駆動部(図示略)とにより構成される。投光光源走査用光学部17は、制御部7からの制御の下で、非可視センサ部5の画角(言い換えると、視野範囲)に配置された下地層BS1に向けて、第1投光光源13から投光される参照光LS1あるいは第2投光光源15から投光される測定光LS2を2次元的に走査する。これにより、飛沫汚れ検知装置1は、参照光LS1および測定光LS2の下地層BS1による反射光(つまり、戻り光I0,I1)の強度(光量)を基に、下地層BS1に付着した飛沫SLV1の有無を検知できたり、その飛沫SLV1に基づく唾液痕による汚れを検知できたりする。なお、投光光源走査用光学部17は、参照光LS1および測定光LS2の下地層BS1による反射光(つまり、戻り光I0,I1)を透過してもよいし(
図1A、
図1Bおよび
図2参照)、透過しなくてもよい。
【0031】
撮像光学部21は、例えばレンズを用いて構成され、投光光源走査用光学部17を透過した光あるいは投光光源走査用光学部17を透過せずに直接に入射した光(例えば拡散反射光RV1(戻り光I0),拡散反射光RV2(戻り光I1))を集光し、拡散反射光RV1(戻り光I0),拡散反射光RV2(戻り光I1)を受光部23の所定の撮像面(受光面)に結像させる。
【0032】
受光部23は、参照光LS1および測定光LS2の両方の波長に対する分光感度のピークを有するイメージセンサであり、例えばCCD(Charge Coupled Device)あるいはCMOS(Complementary Metal Oxide Semiconductor)により構成される。受光部23は、撮像面(受光面)に結像した拡散反射光RV1(戻り光I0),拡散反射光RV2(戻り光I1)の光学像を電気信号に変換する。受光部23の出力は、電気信号(電流信号)として信号加工部25に入力される。なお、撮像光学部21および受光部23は、非可視センサ部5における非可視センサ画像データ(後述参照)を撮像するための撮像部としての機能を有する。
【0033】
信号加工部25は、I/V変換回路25aと、増幅回路25bと、コンパレータ・ピークホールド処理部25cとを有する。I/V変換回路25aは、受光部23の出力信号(アナログ信号)である電流信号を電圧信号に変換する。増幅回路25bは、I/V変換回路25aの出力信号(アナログ信号)である電圧信号のレベルを、コンパレータ・ピークホールド処理部25cにおいて処理可能なレベルまで増幅する。
【0034】
コンパレータ・ピークホールド処理部25cは、増幅回路25bの出力信号(アナログ信号)と所定の閾値(既定値)との比較結果に応じて、増幅回路25bの出力信号を2値化して閾値設定/飛沫汚染度検知処理部27aに出力する。コンパレータ・ピークホールド処理部25cは、ADC(Analog Digital Converter)を含み、増幅回路25bの出力信号(アナログ信号)のAD(Analog Digital)変換結果のピークを検知して保持し、さらに、ピークの情報を閾値設定/飛沫汚染度検知処理部27aに送る。
【0035】
検知処理部27は、閾値設定/飛沫汚染度検知処理部27aと、メモリ27bと、検知結果フィルタ処理部27cとを有する。閾値設定/飛沫汚染度検知処理部27aは、予め度数分布データ(例えば非可視センサ画像データ(後述参照)の1フレームの全画素における正規化吸光度比NAR(後述参照)の度数分布データ)を作成して登録する。閾値設定/飛沫汚染度検知処理部27aは、後述するように、この度数分布データを用いて、下地層BS1(例えば金属板)の形状を識別するための正規化吸光度比NARの閾値Shを算出して設定する。なお、非可視センサ部5の画角(視野範囲)がほぼ下地層BS1全体の領域に相当するように飛沫汚れ検知装置1と下地層BS1との間の距離が定められる場合、この度数分布データを用いた閾値Shの算出および設定は不要としてもよい。
【0036】
また、閾値設定/飛沫汚染度検知処理部27aは、拡散反射光RV1(戻り光I0)および拡散反射光RV1(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報)と、拡散反射光RV2(戻り光I1)および拡散反射光RV2(戻り光I1)のそれぞれにおけるコンパレータ・ピークホールド処理部25cの出力(ピークの情報)とを基に、参照光LS1および測定光LS2の照射位置における飛沫SLV1の有無を検知する。
【0037】
具体的には、閾値設定/飛沫汚染度検知処理部27aは、拡散反射光RV1(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV1(戻り光I0)の強度(光量))と、拡散反射光RV2(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV2(戻り光I0)の強度(光量))とをメモリ27bに一時的に保存しておく。次に、閾値設定/飛沫汚染度検知処理部27aは、拡散反射光RV1(戻り光I1)および拡散反射光RV2(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV1(戻り光I1),拡散反射光RV2(戻り光I1)のそれぞれの強度(光量))が得られるまで待機する。閾値設定/飛沫汚染度検知処理部27aは、拡散反射光RV1(戻り光I1)および拡散反射光RV2(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報)が得られた後、メモリ27bに保存されている拡散反射光RV1(戻り光I0)および拡散反射光RV2(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報)を参照して、非可視センサ画像データの画角内に含まれる下地層BS1の同一ラインを構成する画素ごとの正規化吸光度比NARを式(1)にしたがって算出する。
【0038】
ここで、式(1)において、分母の項を設けて正規化しているのは、飛沫汚れ検知装置1の配置箇所に照明(外部光源の一例)を使用した場合に、拡散反射光RV1および拡散反射光RV2の強度(光量)が測定対象物(例えば下地層BS1)と飛沫汚れ検知装置1との角度によって変化するため、この変化による影響を抑圧することに基づく。
【0039】
【0040】
式(1)において、ln(I0/I1)905は、{(拡散反射光RV1(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報))/(拡散反射光RV1(戻り光I1)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報))}の自然対数を示す。同様に、ln(I0/I1)1550は、{(拡散反射光RV2(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報))/(拡散反射光RV2(戻り光I1)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報))}の自然対数を示す。
【0041】
例えば飛沫SLV1に含まれる水分あるいは糖類を構成するOH基が存在する照射位置では、1550nmの波長を有する測定光LS2がOH基により吸収され易い。このため、その照射位置における反射効率が低下し、拡散反射光RV2(戻り光I1)の強度(光量)が減衰する。したがって、閾値設定/飛沫汚染度検知処理部27aは、飛沫汚れ検知装置1の非可視センサ部5の画角(視野範囲)内に含まれる下地層BS1の同一ラインごとの正規化吸光度比NARの算出結果(式(1)参照))を基に、参照光LS1および測定光LS2の照射位置における飛沫SLV1の有無を検知できる。
【0042】
なお、閾値設定/飛沫汚染度検知処理部27aは、拭掃直後および拭掃から一定時間経過後の各タイミングにおいて、拡散反射光RV1の振幅VAと拡散反射光RV2の振幅VBとの振幅差分(VA-VB)と振幅VAとの比RTと所定の閾値との大小の比較に応じて、下地層BS1の参照光LS1および測定光LS2の照射位置における飛沫SLV1の有無を検知しても良い(
図4B参照)。
【0043】
さらに、閾値設定/飛沫汚染度検知処理部27aは、画角(視野範囲)内に含まれる下地層BS1の同一ラインを構成する画素ごとの正規化吸光度比NARの算出結果(式(1)参照))が所定範囲の値(例えば閾値Nから閾値M)となる画素数(占有画素数)をカウントし、そのカウント結果に相当する占有画素数分の正規化吸光度比NARの総和を下地層BS1の飛沫汚染度として算出する。この飛沫汚染度の算出結果を用いて、下地層BS1にどの程度の飛沫SLV1が付着しているかを定量的に示す非可視センサ画像データが生成される。なお、非可視センサ画像データを構成する画素数は、飛沫汚れ検知装置1の可視カメラ部30により生成されるカラー画像データの1フレームを構成する画素数と同一となる。
【0044】
メモリ27bは、例えばRAM(Random Access Memory)を用いて構成され、拡散反射光RV1(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV1(戻り光I0)の強度(光量))と、拡散反射光RV2(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV2(戻り光I0)の強度(光量))を一時的に保存する。
【0045】
検知結果フィルタ処理部27cは、閾値設定/飛沫汚染度検知処理部27aの出力を基に、飛沫SLV1の検知結果からノイズ等の不要成分をフィルタリングした上で抽出する。検知結果フィルタ処理部27cは、抽出結果のデータを表示処理部29に送る。例えば検知結果フィルタ処理部27cは、下地層BS1への参照光LS1および測定光LS2の照射位置における飛沫SLV1の検知結果(例えば、フィルタリング後の画角(視野範囲)内に含まれる下地層BS1の画素ごとの正規化吸光度比NARの算出結果、下地層BS1の飛沫汚染度の算出結果)を表示処理部29に送る。
【0046】
表示処理部29は、検知結果フィルタ処理部27cの出力を用いて、下地層BS1にどの程度の飛沫SLV1が付着しているかを定量的に示す非可視センサ画像データを生成する。表示処理部29は、下地層BS1の非可視センサ画像データと下地層BS1の飛沫汚染度の算出結果のデータとを可視カメラ部30の表示制御部37に出力する。なお、表示処理部29は、非可視センサ画像データ中の汚れ(例えば飛沫SLV1)の検知結果が占める領域が許容条件(例えば非可視センサ画像データ中の全ての画素のうち10%未満の画素数に汚れ(例えば飛沫SLV1)が検知された)を満足しないと判定した場合、金属板等の下地層BS1の拭掃の実行指示を生成する旨の信号をフィードバック信号として制御部7に送ってもよい。
【0047】
次に、可視カメラ部30の各部について説明する。
【0048】
撮像光学部31は、例えばレンズを用いて構成され、飛沫汚れ検知装置1の可視カメラ部30の画角内からの環境光RV0を集光し、環境光RV0を受光部33の所定の撮像面(受光面)に結像させる。
【0049】
受光部33は、可視光の波長(例えば400nm~700nm)に対する分光感度のピークを有するイメージセンサであり、例えばCCDあるいはCMOSにより構成される。受光部33は、撮像面(受光面)に結像した光学像を電気信号に変換する。受光部33の出力は、電気信号(例えば電流信号あるいは電圧信号)として撮像信号処理部35に入力される。なお、撮像光学部31および受光部33は、可視カメラ部30におけるカラー画像データ(後述参照)を撮像するための撮像部としての機能を有する。
【0050】
撮像信号処理部35は、受光部33の出力である電気信号を用いて、人が認識可能なRGB(Red Green Blue)あるいははYUV(輝度・色差)等により規定される下地層BS1を被写体としたカラー画像データを生成する。これにより、下地層BS1を被写体としたカラー画像データが生成される。撮像信号処理部35は、可視光画像データを表示制御部37に送る。
【0051】
表示制御部37は、撮像信号処理部35から送られたカラー画像データと、表示処理部29から送られた非可視センサ画像データとを用いて、ほぼ透明な飛沫SLV1がカラー画像データ中のいずれかの位置で検知されたかをユーザが視認可能となるように、カラー画像データの対応する画素に非可視センサ画像データの対応する同一の画素を重畳した重畳画像データ(図示略)、あるいは、カラー画像データと非可視センサ画像データとを対比可能に表した画像データを表示データとして生成する。表示制御部37は、表示データを、例えばネットワークを介して接続されたデータロガーDLあるいは通信端末MTに送信して表示を促す。なお、表示制御部37は、表示処理部29から非可視センサ画像データを取得した場合に、非可視センサ画像データ中の汚れ(例えば飛沫SLV1)の検知結果が占める領域が許容条件(例えば非可視センサ画像データ中の全ての画素のうち10%未満の画素数に汚れ(例えば飛沫SLV1)が検知された)を満足しないと判定した場合、上述した表示データと金属板等の下地層BS1の拭掃の実行指示を生成する旨の信号と含めてフィードバック信号として制御部7に送ってもよい。
【0052】
データロガーDLは、表示制御部37から出力された表示データを通信端末MTあるいは1つ以上の外部接続機器(不図示)に送信し、通信端末MTあるいは1つ以上の外部接続機器(例えば監視ルーム内のモニタ)の表示画面における表示データの表示を促す。なお、データロガーDLは、各種のフィードバック制御の要否を制御部7に判断させるために、表示データを飛沫汚れ検知装置1の制御部7に送ってもよい。制御部7は、データロガーDLから送られた表示データに基づいて、各種のフィードバック制御を実行してもよい(
図6参照)。
【0053】
通信端末MTは、例えばユーザ個人が用いる携帯用の通信用端末であり、ネットワーク(不図示)を介して、表示制御部37から送信された表示データを受信し、通信端末MTの表示画面(不図示)に表示データを表示する。なお、通信端末MTは、各種のフィードバック制御の要否を制御部7に判断させるために、表示データを飛沫汚れ検知装置1の制御部7に送ってもよい。制御部7は、通信端末MTから送られた表示データに基づいて、各種のフィードバック制御を実行してもよい(
図6参照)。
【0054】
次に、実施の形態1に係る飛沫汚れ検知装置1の非可視センサ部5の制御部7における初期動作の一例について、
図4Aを参照して説明する。
図4Aは、飛沫汚れ検知装置1の制御部7による初期設定動作例を示すフローチャートである。
【0055】
図4Aにおいて、制御部7は、閾値設定/飛沫汚染度検知処理部27aに対し、下地層BS1の形状を識別するための正規化吸光度比NARの閾値Shの設定を指示する。この指示には、例えば正規化吸光度比NARの閾値Shが含まれる。閾値設定/飛沫汚染度検知処理部27aは、制御部7からの指示に応じて、閾値Shを設定する(St1)。なお、非可視センサ部5の画角(視野範囲)が下地層BS1全体のみを覆うように設置される場合には、このステップSt1の処理は省略されてもよい。
【0056】
制御部7は、非可視センサ部5の検知処理部27における正規化吸光度比NARの閾値N,Mを閾値設定/飛沫汚染度検知処理部27aに設定する(St2)。閾値Nは、例えば-0.4である(
図12参照)。閾値Mは、例えば0.6である(
図12参照)。
【0057】
ステップSt2の処理後、制御部7は、下地層BS1の可視光に基づく撮像処理を開始させるための制御信号を可視カメラ部30の各部に出力する(St3-1)。さらに、制御部7は、第1投光光源13に参照光LS1あるいは第2投光光源15に測定光LS2の投光を開始させるための光源走査用タイミング信号TRおよび光源発光信号RFを、非可視センサ部5の第1投光光源13あるいは第2投光光源15に送る(St3-2)。なお、ステップSt3-1の動作とステップSt3-2の動作との実行タイミングはどちらが先でもよく、同時でもよい。
【0058】
図4Bは、飛沫汚れ検知装置1の非可視センサ部5によるOH基の検知原理の一例を示す図である。
図4Bにおいて、VAは、下地層BS1が拭掃された直後および拭掃されてから一定時間が経過した時点のいずれのタイミングでの、OH基により吸収され難い特性を有する波長905nmの拡散反射光RV1(
図2参照)の振幅を示す。VBは、下地層BS1が拭掃された直後および拭掃されてから一定時間が経過した時点のいずれのタイミングでの、OH基により吸収され易い特性を有する波長1550nmの拡散反射光RV2(
図2参照)の振幅を示す。RTは、例えば検知処理部27によって(VA-VB)/VAにより算出される値である。閾値は、例えば検知処理部27のメモリ27bに保存される。
【0059】
図4Bにおいて、閾値設定/飛沫汚染度検知処理部27aは、例えばRT>閾値であれば下地層BS1においてOH基(例えば飛沫SLV1)を検知したと判定し、RT≦閾値であれば下地層BS1においてOH基(例えば飛沫SLV1)を検知しないと判定してもよい。このように、閾値設定/飛沫汚染度検知処理部27aは、振幅差分(VA-VB)と振幅VAとの比RTと閾値との比較結果に応じて、下地層BS1におけるOH基(例えば飛沫SLV1)の有無を検知することで、ノイズ(例えば外乱光)の影響を排除でき、OH基(例えば飛沫SLV1)の有無を高精度に検知できる。
【0060】
図8は、OH基に対する近赤外光の分光特性例を示すグラフである。
図8の横軸は波長[nm]であり、
図8の縦軸は透過率[%]を示す。
図8に示すように、波長λ1(例えば中心波長905nmの波長域)の参照光LS1は、OH基の透過率がほぼ100%に近く、OH基に吸収され難い特性を有することがわかる。同様に、波長λ2(例えば中心波長1550nmの波長域)の測定光LS2は、OH基の透過率が10%に近く、OH基に吸収され易い特性を有することがわかる。そこで、実施の形態1では、第1投光光源13から投光される参照光LS1の波長を905nm、第2投光光源15から投光される測定光LS2の波長を1550nmとしている。
【0061】
次に、飛沫汚れ検知装置1の非可視センサ部5におけるOH基の検知に関する詳細な動作手順について、
図5を参照して説明する。
図5は、非可視センサ部5によるOH基の検知動作手順例を詳細に示すフローチャートである。
図5に示すフローチャートの説明の前提として、タイミング制御部7aは、光源走査用タイミング信号TRおよび光源発光信号RFを第1投光光源13あるいは第2投光光源15に時分割に送り、飛沫汚れ検知装置1から参照光LS1および測定光LS2のそれぞれが時分割に下地層BS1に向けて照射される。
【0062】
図5において、現在時刻が奇数番目の投光周期の開始時点である場合(St11、YES)、第1投光光源13は、タイミング制御部7aから送られた光源走査用タイミング信号TRおよび光源発光信号RFに基づいて、波長λ1の参照光LS1を投光する(St12)。投光光源走査用光学部17は、飛沫汚れ検知装置1の画角内に含まれる下地層BS1のX方向(例えば横方向)のライン上に参照光LS1を1次元的に照射する(St14)。参照光LS1が照射されたX方向のライン上のそれぞれの照射位置において、参照光LS1が拡散反射したことで生じた拡散反射光RV1が撮像光学部21を介して受光部23により受光される(St15)。
【0063】
信号加工部25では、拡散反射光RV1の受光部23における出力(電気信号)が電圧信号に変換され、この電圧信号のレベルがコンパレータ・ピークホールド処理部25cにおいて処理可能なレベルまで増幅される(St16)。コンパレータ・ピークホールド処理部25cは、増幅回路25bの出力信号と所定の閾値(既定値)との比較結果に応じて、増幅回路25bの出力信号を2値化して閾値設定/飛沫汚染度検知処理部27aに送る。コンパレータ・ピークホールド処理部25cは、増幅回路25bの出力信号のピークの情報を閾値設定/飛沫汚染度検知処理部27aに送る。この後、ステップSt17の処理が検知処理部27において実行される。
【0064】
具体的には、閾値設定/飛沫汚染度検知処理部27aは、参照光LS1の拡散反射光RV1に対するコンパレータ・ピークホールド処理部25cの出力(ピークの情報)をメモリ27bに一時的に保存する(St17-1)。閾値設定/飛沫汚染度検知処理部27aは、メモリ27bに保存された前回の投光周期(具体的には、奇数番目の投光周期あるいは偶数番目の投光周期)のフレームにおける拡散反射光RV1あるいは拡散反射光RV2の同一ラインを対象としたコンパレータ・ピークホールド処理部25cの出力をメモリ27bから読み出す(St17-2)。
【0065】
閾値設定/飛沫汚染度検知処理部27aは、同一ラインにおける拡散反射光RV1(戻り光I0)および拡散反射光RV1(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報)と、同一ラインにおける拡散反射光RV2(戻り光I1)および拡散反射光RV2(戻り光I1)のそれぞれにおけるコンパレータ・ピークホールド処理部25cの出力(ピークの情報)と、所定の閾値N,M(
図4A参照)とを基に、参照光LS1および測定光LS2の照射位置における飛沫SLV1の有無を検知する。
【0066】
具体的には、閾値設定/飛沫汚染度検知処理部27aは、同一ラインにおける拡散反射光RV1(戻り光I1)および拡散反射光RV2(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報)と、ステップSt17-1でメモリ27bに保存された同一ラインにおける拡散反射光RV1(戻り光I0)および拡散反射光RV2(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報)とを参照して、非可視センサ画像データの画角内に含まれる下地層BS1の同一ラインを構成する画素ごとの正規化吸光度比NARを上述した式(1)にしたがって算出する(St17-3)。さらに、閾値設定/飛沫汚染度検知処理部27aは、画角(視野範囲)内に含まれる下地層BS1の同一ラインを構成する画素ごとの正規化吸光度比NARの算出結果(式(1)参照))が所定範囲の値(例えば閾値Nから閾値M)となる画素数(占有画素数)をカウントし、そのカウント結果に相当する占有画素数分の正規化吸光度比NARの総和を下地層BS1の飛沫汚染度として算出する(St17-3)。この下地層BS1の飛沫汚染度の算出処理の詳細については、
図6を参照して後述する。
【0067】
また、閾値設定/飛沫汚染度検知処理部27aは、ステップSt17-3で算出された正規化吸光度比NARが閾値Nから閾値Mまでの間の値となる領域(つまり、参照光LS1および測定光LS2の照射位置全体に対応する画素全体の中で、飛沫SLV1が付着していると推定される画素の集合体)を飛沫SLV1による汚れ部として検知する(St17-4)。
【0068】
表示処理部29は、画角(視野範囲)内を覆う全てのライン(1フレーム全体)分のステップSt17での検知処理部27の処理結果を用いて、飛沫SLV1(具体的には、OH基)の検知位置を示す非可視センサ画像データを生成する。表示制御部37は、撮像信号処理部35により生成されたカラー画像データと、表示処理部29により生成された非可視センサ画像データとをデータロガーDL、通信端末MT等に送信する(St18)。なお、下地層BS1の非可視センサ画像データおよびカラー画像データは、制御部7にフィードバックするように表示制御部37から送られてもよい。
【0069】
上述したステップSt14~ステップSt17の各動作は、1回のフレーム(投光周期)の検知エリア内のラインごとに実行される。つまり、1つのX方向(例えば横方向)のラインに対するステップSt14~ステップSt17の各動作が終了すると、次のX方向のラインに対するステップSt14~ステップSt17の各動作が行われ(St19、NO)、以降、1フレーム分のステップSt14~ステップSt17の各動作が終了するまで、ステップSt14~ステップSt17の各動作がラインごとに繰り返される。
【0070】
一方、1フレームの全てのラインに対してステップSt14~St17の各動作の実行が終了した場合には(St19、YES)、参照光LS1および測定光LS2の投光走査が継続する場合には(St20、YES)、非可視センサ部5の動作はステップSt11に戻る。なお、この時、制御部7は、下地層BS1の拭掃(リセット)と拡散反射光RV1(戻り光I0)および拡散反射光RV2(戻り光I0)の強度(光量)の測定の実行とを含む指示を、例えばユーザが所持する通信端末MT等に外部出力してもよい。一方、参照光LS1および測定光LS2の投光走査が継続しない場合には(S20、NO)、
図5に示す非可視センサ部5の動作は終了する。
【0071】
図6は、
図5の非可視センサ画像データの生成処理の動作手順例を詳細に示すフローチャートである。
図6の処理は、主に非可視センサ部5の表示処理部29により実行される。
図6の説明の前提として、検知処理部27には、拡散反射光RV1(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV1(戻り光I0)の強度(光量))と、拡散反射光RV2(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV2(戻り光I0)の強度(光量))がメモリ27bに一時的に保存される。さらに、検知処理部27には、拡散反射光RV1(戻り光I1)および拡散反射光RV2(戻り光I1)のそれぞれに基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV1(戻り光I1),拡散反射光RV2(戻り光I1)のそれぞれの強度(光量))を信号加工部25から入力する。
【0072】
図6において、表示処理部29は、画角(視野範囲)内を覆う全てのライン(1フレーム全体)分(つまり、非可視センサ画像データを構成する全ての画素分)の正規化吸光度比NARの検知処理部27による算出結果を取得する(St21)。表示処理部29は、画素ごとの正規化吸光度比NARが閾値N(例えば-0.4、
図12参照)から閾値M(例えば0.6、
図12参照)までの範囲の値であるか否かを判定する(St22)。正規化吸光度比NARが閾値Nから閾値Mまでの範囲の値でないと判定された場合(St22、NO)、表示処理部29は、その正規化吸光度比NARに対応する画素について、その画素を非可視センサ画像データ中の飛沫SLV1以外の背景(言い換えると、ユーザの観測対象とならない部分)として単色(例えば青色、黒色)で表示するよう非可視センサ画像データを生成する(St24)。
【0073】
一方、表示処理部29は、画素ごとの正規化吸光度比NARが閾値Nから閾値Mまでの範囲の値であると判定した場合(St22、YES)、その正規化吸光度比NARに対応する画素について、その画素を飛沫汚れ(言い換えると、ユーザの観測対象となる部分)として任意のn階調による色で表示するよう非可視センサ画像データを生成する(St23)。ここで、nは既定の整数であり、例えばn=5である場合、最も飛沫汚れが多い画素は赤色、その次に飛沫汚れが多い画素は橙色、その次に飛沫汚れが多い画素は黄色、その次に飛沫汚れが多い画素は緑色、その次に飛沫汚れが多い画素は水色のように色が定められる。なお、nの値も使用される色も上述した例に限定されないことは言うまでもない。
【0074】
表示処理部29は、閾値Nから閾値Mまでの範囲の値となっている正規化吸光度比NARに対応する画素数に基づいて、正規化吸光度比NARが閾値Nから閾値Mまでの範囲の値となっている画素空間(つまり、飛沫汚れが占有している領域)として任意のA×B画素(A,B:非可視センサ画像データの最大縦,横の画素数未満となる整数値)の領域を設定する(St25)。表示処理部29は、ステップSt25で設定された領域(A×B画素)の中で、ステップSt17でのラインを構成する画素ごとの飛沫汚染度の算出結果を用いて、閾値Nより大きい正規化吸光度比NARが得られる画素ごとの正規化吸光度比NARの総和(Σ(各正規化吸光度比NAR×占有画素数))である飛沫汚染度、領域A×B画素の飛沫汚染度の平均値を算出する(St26)。さらに、表示処理部29は、飛沫汚染度(総和)、あるいは飛沫汚染度(総和)およびその平均値のいずれかの算出結果の大小(例えばその算出結果と所定の閾値との比較)から、下地層BS1の拭掃の要否を示すフィードバック信号(例えば金属板等の下地層BS1の拭掃の実行を指示する信号)を生成して制御部7に通知する(St26)。
【0075】
さらに、制御部7は、表示処理部29からのフィードバック信号に基づいて、人(例えば通信端末MT)あるいは拭掃ロボットROB1(
図2参照)に下地層BS1の拭掃の指示を通知してもよいし(St27)、その拭掃が完了したことの入力信号を受信した場合に、検知処理部27のメモリ27bに保存されている拡散反射光RV1(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV1(戻り光I0)の強度(光量))と、拡散反射光RV2(戻り光I0)に基づくコンパレータ・ピークホールド処理部25cの出力(ピークの情報で、つまり拡散反射光RV2(戻り光I0)の強度(光量))の自動リセットあるいはユーザによる手動(データ削除)を通信端末MT等に外部指示する。この後、拡散反射光RV1(戻り光I0)および拡散反射光RV2(戻り光I0)の測定が行われる。
【0076】
図7は、飛沫汚染度(総和)および飛沫汚染度の平均値の概念を示す図である。
図7の例では、飛沫SLV1の汚れ部Pt1と飛沫SLV1の汚れ部Pt2とは同一面積であり、汚れ部Pt1の正規化吸光度比NARの平均値は汚れ部Pt2の正規化吸光度比NARの平均値より高いので汚れ部Pt1の方が汚れ部Pt2よりも汚れている(つまり、同一面積における飛沫汚染度が相対的に高い)。また、汚れ部Pt1では、画素ごとの正規化吸光度比NARの値が汚れ部Pt1の領域全体にわたってほぼ均一になっている。同様に、汚れ部Pt2でも、画素ごとの正規化吸光度比NARの値が汚れ部Pt2の領域全体にわたってほぼ均一になっている。このように、汚れ部Pt1,Pt2のように、領域全体にわたってほぼ均一に飛沫SLV1が金属板等の下地層BS1に付着しているのは、飛沫SLV1が付着して間もない頃のタイミングが該当する。
【0077】
ところが、金属板等の下地層BS1に飛沫SLV1(例えば細かい唾液)が付着し始めてから一定時間が経過すると、飛沫SLV1をほぼ構成する水分が蒸発するとともに濃縮が起こる。このため、飛沫SLV1が金属板等の下地層BS1に付着して間もない頃には下限の閾値N以上であった同じ画素の正規化吸光度比NARが時間の経過に伴って下限の閾値N未満となり、飛沫SLV1による汚れ部の領域(占有画素数)が徐々に減少してくる。したがって、例えば汚れ部Pt1が汚れ部Pt3のように、水の表面張力が大きい(つまり、水分が多い)汚れ部Pt1の周辺部分から蒸発、乾燥が進行して飛沫SLV1の膜厚が徐々に小さくなる(時刻t=T1)。さらに、時間の進行度合いによって、周辺部分の水分が蒸発して飛沫痕Pt3a,Pt3b,Pt3cのいずれかが形成される(時刻t=T2)。つまり、時刻t=T2では、時刻t=T1に比べて汚れ部の領域周辺部分では水分の蒸発により正規化吸光度比NARが小さくなってくるが、濃縮によって汚れ部(例えば飛沫痕Pt3a,Pt3c)の中心付近の正規化吸光度比NARは大きくなってくる。なお、飛沫SLV1の付着状態によっては周辺部分と中心部分とがほぼ同様な正規化吸光度比NARが得られる汚れ部Pt3bも検知されて構わない。
【0078】
したがって、
図6のステップSt26において、表示処理部29は、飛沫汚染度(総和)の平均値だけでフィードバック信号を生成するのではなく、飛沫汚染度(総和)、あるいは飛沫汚染度(総和)およびその平均値のいずれかの算出結果の大小(例えばその算出結果と所定の閾値との比較)から、下地層BS1の拭掃の要否を示すフィードバック信号を生成することが好ましい。
【0079】
次に、実施の形態1に係る飛沫汚れ検知装置1を用いた複数の実験例について、図面を参照して説明する。
図9は、第1の実験例(唾液痕に含まれるOH基を検知する)の概要例を示す図である。
図10は、下地層がプラスチック、金属板である場合の唾液痕の分光分析例を示す図である。
【0080】
図9に示すように、第1の実験例では、アルミニウム板等の金属板からなる下地層BS1に、人が指FG1の先端部につけた唾液SLV0を付着させ、例えば「CNS」というアルファベット3文字を描字して乾燥させる。飛沫汚れ検知装置1は、この下地層BS1に向けて近赤外光(例えば波長λ1の参照光LS1および波長λ2の測定光LS2)を交互に時分割に照射する。
【0081】
すると、飛沫汚れ検知装置1は、「CNS」というアルファベット3文字の部分SPL1がユーザにとって視認可能となる程度にn階調(
図6参照)の色が着色された非可視センサ画像データIMG1を生成する。
図9の例では、「CNS」というアルファベット3文字の部分SPL1は白色に近い薄灰色で示され、その他の背景部分は黒色に近い濃灰色で示されている。なお、唾液SLV0はほぼ水分により構成されて無色透明であって色味成分の検知が本来的に困難であるため、例えば市販されている公知の色差計で観測したところ、指FG1で描字した以降の時間経過に伴う「CNS」というアルファベット3文字の部分SPL1における観測値の差は見られなかった。
【0082】
また、第1の実験例では、下地層がアルミニウム板等の金属板の場合だけでなくプラスチックとした場合の唾液痕の分光分析も行った。ユーザは、プラスチック材料からなる下地層BS0に、同様に指F1で唾液(例えば飛沫SLV1)を付着させて指定された文字(例えば「IC」)を描字した。飛沫汚れ検知装置1は、この下地層BS0に向けて近赤外光(例えば波長λ1の参照光LS1および波長λ2の測定光LS2)を交互に時分割に照射する。すると、飛沫汚れ検知装置1は、「IC」というアルファベット2文字の部分がユーザにとって視認可能となる程度にn階調(
図6参照)の色が着色できない非可視センサ画像データIMG2を生成した。これは、下地層BS0がプラスチック材料からなる場合に、唾液SLV0に含まれるOH基による測定光LS2の吸収が非常に少なかったことに起因すると推察される。
【0083】
特許文献2の植物に存在する水分の膜厚(数mmオーダ)とは異なり、下地層BS0に付着された唾液SLV0の膜厚は数μmオーダであって膜厚が非常に薄い。また、波長λ2の測定光LS2はプラスチック材料に浸透し易く(言い換えると、測定光LS2の光学的深さが大きく)こともあり、波長λ2と同程度の数μmオーダの膜厚では測定光LS2の吸収が非常に少なくなる。このため、下地層BS0に情報(例えば唾液SLV0が付着しているか否かを示す情報)が埋没してしまい、下地層BS0では「IC」というアルファベット2文字の部分がうまく検知されなかった。
【0084】
また、ユーザは、セラミックス材料からなる下地層に、同様に指F1で唾液SLV0を付着させて指定された文字(例えば「P」)を描字した。なお、セラミックス材料からなる下地層とアルミニウム板等の金属板からなる下地層BS1とは材質的に異なるものである。飛沫汚れ検知装置1は、このセラミックス材料からなる下地層に向けて近赤外光(例えば波長λ1の参照光LS1および波長λ2の測定光LS2)を交互に時分割に照射する。すると、飛沫汚れ検知装置1は、「P」というアルファベット1文字の部分がユーザにとって視認可能となる程度にn階調(
図6参照)の色が着色できない非可視センサ画像データIMG3を生成した。これは、下地層がプラスチック材料だけでなくセラミックス材料からなる場合も同様に、唾液SLV0に含まれるOH基による測定光LS2の吸収が非常に少なかったことに起因すると推察される。
【0085】
一方、下地層がアルミニウム板等の金属板からなる下地層BS1である場合に、飛沫汚れ検知装置1は、「CNS」というアルファベット3文字の部分SPL1がユーザにとって視認可能となる程度にn階調(
図6参照)の色が着色された非可視センサ画像データIMG1を生成できた(上述参照)。これは、下地層がアルミニウム板等の金属板からなる場合、少なくとも測定光LS2の下地層BS1での反射時に、金属板において特有に生じる定常波のうなりが発生することで唾液SLV0の膜厚が同じ数μmオーダであっても測定光LS2の吸収量が多くなることに起因すると推察される。つまり、測定光LS2の垂直偏光成分は下地層BS1への入射光と下地層BS2からの反射光とで打ち消し合うが、測定光LS2の平行偏光成分は下地層BS1への入射光と下地層BS2からの反射光とが互いに重ね合うことで定常波(うなり現象)が生じることが知られている。したがって、この金属板が下地層BS1である場合に特有のうなり現象により、数μmオーダの膜厚しかない唾液SLV0に含まれるOH基によって測定光LS2が多く吸収される。これにより、飛沫汚れ検知装置1は、「CNS」というアルファベット3文字の部分SPL1がユーザにとって視認可能となる程度にn階調(
図6参照)の色が着色された非可視センサ画像データIMG1を生成できる。
【0086】
図11は、第2の実験例(下地層が金属板である場合のエリアごとの正規化吸光度比NARの画素分布ならびに画素平均の時間推移を比較する)の概要例を示す図である。第2の実験例では、第1の実験例と同様にアルミニウム板等の金属板からなる下地層BS1に指定された文字(例えば「P」というアルファベット1文字)がユーザの指FG1についた唾液SLV0が付着されて描字された。第2の実験例では、下地層BS1の複数箇所(具体的には、領域AR1,AR2,AR3)のそれぞれにおける2つのタイミング(時刻t=T3,T4)での正規化吸光度比NARの経時変化を観測した。なお、第2の実験例では、正規化吸光度比NARの算出式は、式(2)となっている。式(1)との違いは、分子の項の符号(+および-)が逆になっている点である。つまり、実施の形態1において、画素ごとの正規化吸光度比NARは、式(1)および式(2)のいずれにより算出されてもよい。
【0087】
【0088】
時刻t=T3は、例えば「P」というアルファベット1文字が下地層BS1の領域AR1,AR2,AR3のそれぞれに唾液(例えば飛沫SLV1)で描字される前の状態を示す。飛沫汚れ検知装置1は、時刻t=T3の時点で、下地層BS1に照射した近赤外光(波長λ1の参照光LS1および波長λ2の測定光LS2)の受光結果に基づいて、非可視センサ画像データIMG4を生成した。時刻t=T4は、例えば「P」というアルファベット1文字が下地層BS1の領域AR1,AR2,AR3のそれぞれに唾液(例えば飛沫SLV1)で描字されて一定時間が経過した時の状態を示す。飛沫汚れ検知装置1は、時刻t=T4の時点で、下地層BS1に照射した近赤外光(波長λ1の参照光LS1および波長λ2の測定光LS2)の受光結果に基づいて、非可視センサ画像データIMG5を生成した。
【0089】
第2の実験例では、非可視センサ画像データの生成時に用いるn階調として10階調(10段階)の色表示を用いた。nは10として示しているが、10に限定されないことは言うまでもない。非可視センサ画像データIMG4に示されるように、時刻t=T3では、唾液SLV0が下地層BS1に付着する前の状態であるため、領域AR1,AR2,AR3のいずれにおいても正規化吸光度比NARは高い値になっている。ところが、時刻t=T4では、唾液SLV0が下地層BS1に付着して一定時間が経過した状態であるため、領域AR1,AR2,AR3のいずれにおいても唾液SLV0に含まれるOH基により測定光LS2が吸収されて拡散反射光RV2が時刻t=T3に比べて小さくなっているので、正規化吸光度比NARは相対的に小さい値になっていることが分かった。
【0090】
図12は、第3の実験例(一定量の飛沫を最大で10回噴き付けて所定時間乾燥させた金属板の正規化吸光度比NARの範囲ごとの占有画素数を比較する)の概要例を示す図である。
図13は、第3の実験例による非可視センサ画像データの噴き付け回数ごとの比較例を示す図である。第3の実験例では、アルミニウム板等の金属板からなる下地層BS1に人工的に生成された唾液SLV0を最大10回(50mg/1回)噴き付け、15分の乾燥後に参照光LS1および測定光LS2の照射に基づく画素ごとの正規化吸光度比NARを算出した。
【0091】
図12に示すテーブルTBL1およびグラフGPH1は、噴霧ごとの測定値(正規化吸光度比NAR)の任意の範囲における占有画素数を示す。噴霧の回数の増加(つまり、飛沫SLV1の増加)にしたがって、正規化吸光度比NARが-0.4から0.6までの範囲PTS1の値をとる画素(占有画素数)の増加が見られた。また、噴霧の回数の増加(つまり、飛沫SLV1の増加)にしたがって、正規化吸光度比NARが-1から-0.4までの範囲の値をとる画素(占有画素数)の減少が見られた。つまり、噴霧の回数が増加しても正規化吸光度比NARが-1から-0.4までの範囲の値をとる画素は増えないことが分かった。さらに、噴霧の回数の増加(つまり、飛沫SLV1の増加)にしたがって、正規化吸光度比NARが0.6から2.0までの範囲の値をとる画素(占有画素数)の減少も見られた。つまり、噴霧の回数が増加しても正規化吸光度比NARが0.6から2.0までの範囲の値をとる画素は増えないことが分かった。したがって、噴霧の回数の増加にしたがって占有画素数の増加が見られた範囲PTS1に対応する正規化吸光度比NARの範囲(-0.4から0.6)の下限値-0.4を下限の閾値Nとして採用し、その同じ範囲の上限値0.6を上限の閾値Mとして採用することで、噴霧に応じて飛沫SLV1の有無の検知が高精度に判定可能となる閾値N,Mが得られることが分かった。
【0092】
さらに、第3の実験例では、飛沫汚れ検知装置1は、噴霧前(0回)を含めた噴霧の回数ごとに飛沫汚れをn階調で示した非可視センサ画像データIMG10,IMG11,IMG12,IMG13,IMG14,IMG15,IMG16,IMG17,IMG18,IMG19,IMG20をそれぞれ生成した。非可視センサ画像データIMG10,IMG11,IMG12,IMG13,IMG14,IMG15,IMG16,IMG17,IMG18,IMG19,IMG20のそれぞれの領域ATT1は、噴霧の回数が増加するにしたがって、3階調の表示のうち汚れが徐々に増加するような階調で表示されることが分かった。なお、領域ATTの枠線は分かりやすく示すために白色で示しているが、この白色は、3段階の階調表示のうち最も汚れが大きいことを示すものではないことに留意されたい。
【0093】
以上により、実施の形態1に係る飛沫汚れ検知装置1は、OH基を有する水分あるいは糖類を含む、金属板の表面に付着する唾液痕(例えば飛沫SLV1)による汚れを検知する検知部(例えば非可視センサ部5)と、唾液痕による汚れの検知結果が許容条件(例えば非可視センサ画像データ中の全ての画素のうち10%未満の画素数に汚れ(例えば飛沫SLV1)が検知された)を満足しない場合、検知結果を外部端末(例えば通信端末MT)あるいは外部ロボット(例えば拭掃ロボットROB1)に通知する通知部(例えば制御部7)と、を備える。通知部は、汚れ検知装置(例えば飛沫汚れ検知装置1)と接続された外部端末あるいは外部ロボットに検知結果を含む金属板の拭掃指示を送信する。
【0094】
これにより、飛沫汚れ検知装置1は、人物から発せられる飛沫SLV1に付着している水分あるいは糖類を含む特定物質(例えば唾液痕)を検知でき、その特定物質(例えば唾液痕)の検知結果を外部に通知して次の行動(例えば金属板等の下地層BS1の拭掃)の実行を促すことができる。
【0095】
また、検知部(例えば非可視センサ部5)は、金属板により反射されたOH基に吸収され難い特性を有する参照光の反射光量と、金属板により反射されたOH基に吸収され易い特性を有する測定光の反射光量と、唾液痕が付着していない金属板により反射された参照光の反射光量と、唾液痕が付着していない金属板により反射された測定光の反射光量と、に基づいて、唾液痕による汚れを検知する。検知部は、金属板の表面に唾液痕が付着している領域(例えば非可視センサ画像データを構成する画素ごとの正規化吸光度比NARが閾値Nから閾値Mまでの値である画素数)が閾値(例えば非可視センサ画像データ中の全ての画素のうち10%以上の画素数)以上である場合、金属板の表面に唾液痕による汚れが付着していると判定する。これにより、飛沫汚れ検知装置1は、金属板の表面に唾液痕が付着しているか否かを簡易に判定できる。
【0096】
また、飛沫汚れ検知装置1は、OH基に吸収され難い特性を有する参照光LS1を金属板(例えば下地層BS1)に向けて順次走査しながら照射する第1光源(例えば第1投光光源13)と、OH基に吸収され易い特性を有する測定光LS2を金属板に向けて順次走査しながら照射する第2光源(例えば第2投光光源15)と、をさらに備える。参照光LS1の波長は905nmであり、測定光LS2の波長は1550nmである。これにより、飛沫汚れ検知装置1は、金属板に唾液痕が付着していない時の参照光および測定光のそれぞれの反射光量と金属板に唾液痕が付着している時の参照光および測定光のそれぞれの反射光量とを用いて、人物から発せられる飛沫SLV1に付着している水分あるいは糖類を含む特定物質(例えば唾液痕)を検知できる。また、飛沫SLV1を構成する主成分である水分あるいはその他の成分である糖類のいずれにもOH基が含まれることに鑑みて、飛沫汚れ検知装置1は、OH基による吸収がされ易い測定光LS2とOH基による吸収がされ難い参照光LS1の両方を用いることで、分光感度の特性の差分に応じて唾液痕による汚れの有無を簡易に判定できる。
【0097】
また、飛沫汚れ検知装置1は、金属板により反射された参照光LS1および測定光LS2の撮像により、金属板の所定範囲を被写体とした唾液痕による汚れの有無を示す検知結果画像(例えば非可視センサ画像データ)を生成する画像生成部(例えば表示処理部29)、をさらに備える。通知部(例えば制御部7)は、飛沫汚れ検知装置1と接続された外部端末(例えばデータロガーDL、通信端末MT)あるいは外部ロボット(例えば拭掃ロボットROB1)に検知結果画像を含む金属板の拭掃指示を送信(通知)する。これにより、飛沫汚れ検知装置1は、画角(視野範囲)内に唾液痕(例えば飛沫SLV1)の有無が判明可能となる非可視センサ画像データだけでなく、金属板の拭掃の実行指示をユーザあるいは外部の拭掃ロボットROB1に的確に通知できる。
【0098】
また、飛沫汚れ検知装置1は、金属板の所定範囲を同じ被写体とした可視光の撮像により、被写体のカラー画像(例えばカラー画像データ)を生成する可視カメラ部30、をさらに備える。通知部(例えば制御部7)は、被写体のカラー画像上に検知結果画像を重畳した重畳画像を金属板の拭掃指示に含めて外部端末(例えばデータロガーDL、通信端末MT)あるいは外部ロボット(例えば拭掃ロボットROB1)に送信(通知)する。これにより、唾液痕はほぼ無色透明で人には見え難いので、飛沫汚れ検知装置1は、カラー画像データと非可視センサ画像データとの重畳により唾液痕の位置をユーザに対して直感的に把握させ易くできるとともに、金属板の拭掃の実行指示のユーザあるいは外部の拭掃ロボットROB1への通知が的確に実現可能となる。
【0099】
また、第1光源(例えば第1投光光源13)は、レーザ光による参照光LS1を照射する。第2光源(例えば第2投光光源15)は、レーザ光による測定光LS2を照射する。これにより、レーザ光を用いることで参照光LS1および測定光LS2の直進性が高くなり、飛沫汚れ検知装置1は、拡散反射光RV1,RV2の強度(光量)を高精度に得ることができる。
【0100】
(本開示に係る実施の形態2に至る経緯)
例えば、特開2007-185321号公報には、被験者にX線を照射するX線発生部と、支持機構を介してX線発生部を支持する本体と、この本体を走行させる移動台車とを備え、被検者を透過したX線を用いてX線画像を撮影する移動型X線装置が開示されている。移動型X線装置は、撮影が予約される被検者(予約被検者)の本人識別情報をマスター情報として記憶し、実際に撮影しようとする被検者(撮影被検者)の本人識別情報を取得し、この取得した本人識別情報をマスター情報と照合し、撮影被検者が予約被検者と同一か否かを判定して、判定結果を出力する。なお、本人識別情報は、例えば被検者の口唇紋等の被験者の生体識別情報である。
【0101】
しかし、特開2007-185321号公報では、例えば適宜な色素を被検者の唇に塗布し、その唇に適宜なシートを押し当てるなどして、シートに口唇紋を写し取り、一般的なイメージスキャナなどで取り込むことで口唇紋を取得する必要がある。このため、撮影被検者が予約被検者と同一か否かを判定にあたって、本人識別情報である口唇紋の取得がたいへん手間だった。
【0102】
そこで、以下の実施の形態2では、生体認証に用いられる口唇紋をより容易に取得可能な生体認証システムおよび生体認証方法の例を説明する。
【0103】
(実施の形態2)
まず、
図14を参照して、実施の形態2に係る生体認証システム10000の全体構成、および近赤外線カメラ100の内部構成について説明する。
図14は、実施の形態2に係る生体認証システム10000の全体構成例、および近赤外線カメラ100の内部構成例を示すブロック図である。
【0104】
生体認証システム10000は、近赤外線カメラ100と、制御装置200とを含んで構成される。生体認証システム10000は、近赤外線カメラ100により撮像対象である被測定物PT(例えば、金属、食器等)を撮像し、撮像された撮像画像から唾液痕を検知する。生体認証システム10000は、検知された唾液痕をn(n:1以上の整数)階調色で表示した唾液痕表示画像PT31(
図22参照)を生成するとともに、この唾液(唾液痕)が付着したエリアを口唇紋エリアとして算出して、制御装置200に送信する。なお、本実施の形態2における唾液痕は、唾液に含まれる水分または糖類に含まれるOH基を示す。
【0105】
生体認証システム10000は、制御装置200により唾液痕表示画像PT31を表示させる。また、生体認証システム10000は、制御装置200により口唇紋エリアから口唇紋を検知し、検知された口唇紋と、事前に登録された複数の人物の口唇紋とを照合して、被測定物PTに付着した唾液痕が示す口唇紋に対応する人物を特定(認証)する。
【0106】
近赤外線カメラ100は、例えば、LED(Light Emitting Diode)、LD(Laser Diode)、ハロゲンランプ等の照明を有する。近赤外線カメラ100は、近赤外線カメラ100から約30cm未満の距離に位置する被測定物PTに、異なる2波長帯の近赤外光(不可視光)を照射する。近赤外線カメラ100は、唾液痕未付着時(例えば、唾液痕付着前、あるいは被測定物PTに付着した唾液痕を清掃した後)の被測定物PTと、唾液痕付着時の被測定物PTとをそれぞれ撮像し、被測定物PTの表面に付着した唾液痕を検知する。
【0107】
なお、唾液痕未付着時の撮像タイミングは、唾液痕付着前の被測定物PTを撮像する前であってもよいし、唾液痕付着前の被測定物PTを撮像した後であって、かつ、唾液痕付着後に被測定物PTの表面に付着した唾液痕を清掃(拭掃)した後であってもよい。
【0108】
近赤外線カメラ100は、通信部1100と、制御部1300と、メモリ3100と、照明部PJと、撮像部JGと、を含んで構成される。
【0109】
通信部1100は、制御装置200の通信部4100との間でデータ送受信可能に接続される。なお、近赤外線カメラ100の通信部1100と、制御装置200の通信部4100との間は、所定のネットワーク(不図示)を介して無線通信可能に接続されていてもよいし、有線通信可能に接続されていてもよい。通信部1100は、制御部1300から出力された各種データ(例えば、唾液痕表示画像PT31(
図22参照)、唾液痕の検知結果、口唇紋エリアの算出結果等)を対応付けて、制御装置200に送信する。
【0110】
なお、ここでいう無線通信は、例えばWi-Fi(登録商標)などの無線LAN(Local Area Network)を介した通信である。
【0111】
制御部1300は、例えばCPU(Central Processing Unit)、DSP(Digital Signal Processor)またはFPGA(Field Programmable Gate Array)を用いて構成され、各部の動作を制御する。制御部1300は、メモリ3100と協働して、各種の処理および制御を統括的に行う。具体的には、制御部1300は、メモリ3100に保持されたプログラムおよびデータを参照し、そのプログラムを実行することにより、照明部PJ、撮像部JG等の各部の機能を実現する。
【0112】
メモリ3100は、例えば制御部1300の各処理を実行する際に用いられるワークメモリとしてのRAM(Random Access Memory)と、制御部1300の動作を規定したプログラムおよびデータを格納するROM(Read Only Memory)と、を有する。RAMには、制御部1300により生成あるいは取得されたデータもしくは情報が一時的に保存される。ROMには、制御部1300の動作を規定するプログラムが書き込まれている。
【0113】
照明部PJは、第1投射光源1500と、第2投射光源1700と、投射光源光学部1900と、を含んで構成される。照明部PJは、制御部1300により制御され、近赤外線光源(照明)である第1投射光源1500および第2投射光源1700のそれぞれから異なる2波長帯の照射光LS11,LS21を照射する。第1投射光源1500および第2投射光源1700のそれぞれは、例えば、LED、LD、ハロゲンランプ等である。
【0114】
なお、第1投射光源1500および第2投射光源1700のそれぞれがハロゲンランプにより実現される場合、後述する撮像部JGは、撮像光学部2100にバンドパスフィルタ(不図示)を、さらに含んで構成される。このバンドパスフィルタは、ハロゲンランプから照射され、被測定物PTの表面により拡散された反射光RV11,RV21のうち所定の波長帯の拡散光のみを透過させる機能を有する。これにより、照明部PJは、第1投射光源1500および第2投射光源1700のそれぞれがハロゲンランプにより実現される場合であっても、被測定物PTに所定の波長帯の近赤外光を照射できる。
【0115】
第1光源の一例としての第1投射光源1500は、制御部1300により制御されて、非可視光であって、所定の波長帯(例えば1200nm,1300nm等)の照射光LS11を、投射光源光学部1900を介して、被測定物PTに照射する。
【0116】
第2光源の一例としての第2投射光源1700は、制御部1300により制御されて、非可視光であって、所定の波長帯(例えば1400nm等)の照射光LS21(例えば近赤外光)を、投射光源光学部1900を介して、被測定物PTに照射する。
【0117】
投射光源光学部1900は、制御部1300により制御され、第1投射光源1500から照射される照射光LS11と、第1投射光源1500から照射される照射光LS21とを被測定物PTの表面に同時、あるいは順次、一定時間照射する。これにより、投射光源光学部1900は、唾液痕の付着が期待される被測定物PTの広範囲にわたって照射光LS11,LS21のそれぞれを照射可能にする。
【0118】
撮像部JGは、撮像光学部2100と、受光部2300と、信号加工部2500と、検知処理部2700と、表示処理部2900と、を含んで構成される。撮像部JGは、制御部1300により制御され、照明部PJから照射され、被測定物PTにより反射された反射光RV11,RV21のそれぞれを受光する。撮像部JGは、受光された反射光RV11,RV21のそれぞれの強度に基づいて、被測定物PTの唾液痕の検知(取得)を実行する。
【0119】
撮像光学部2100は、例えば少なくともレンズLS(
図15,
図3参照)を用いて構成される。なお、撮像光学部2100は、照明部PJの第1投射光源1500および第2投射光源1700のそれぞれがハロゲンランプにより実現される場合には、バンドパスフィルタBPFをさらに用いて構成される。
【0120】
撮像光学部2100は、バンドパスフィルタBPFとレンズLSとを用いて構成される場合には、近赤外線カメラ100の外部から入射する入射光を集光し、集光された入射光のうちバンドパスフィルタBPFを透過した透過光をレンズLSに入射させる。なお、ここでいう入射光および透過光は、例えば、第1投射光源1500および第2投射光源1700のそれぞれから照射された照射光LS11,LS21のそれぞれが被測定物PTの表面で拡散し、撮像光学部2100に向かって反射する反射光RV11,RV21である。撮像光学部2100は、レンズLSに入射した反射光RV11,RV21を受光部2300のイメージセンサIMS(
図15,
図3参照)上に結像させる。
【0121】
また、撮像光学部2100は、レンズLSを用いて構成される(つまり、バンドパスフィルタBPFが省略された構成である)場合には、近赤外線カメラ100の外部から入射する入射光(つまり、反射光RV11,RV21)を集光し、集光された反射光RV11,RV21を受光部2300のイメージセンサIMS(
図15,
図3参照)上に結像させる。
【0122】
受光部2300は、照射光LS11の波長帯(例えば、1300nm)と、照射光LS21の波長帯(例えば、1400nm)との両方の波長帯に対する分光感度のピークを有する複数のイメージセンサIMS(
図15,
図3参照)のそれぞれが碁盤目状に並べられて構成される。受光部2300は、各イメージセンサIMS上で結像した反射光RV11,RV21の光学像を電気信号に変換する。受光部2300の出力は、電気信号(電流信号)として信号加工部2500に入力される。
【0123】
信号加工部2500は、I/V変換回路、増幅回路、コンパレータ素子、あるいはピークホールド回路等を用いて構成される。信号加工部2500は、受光部2300から出力された電気信号(電流信号)を、I/V変換回路を用いて電圧信号に変換する。信号加工部2500は、増幅回路を用いて、I/V変換回路により変換された電圧信号のレベルを、コンパレータ素子あるいはピークホールド回路等により処理可能なレベルまで増幅する。
【0124】
信号加工部2500は、コンパレータ素子あるいはピークホールド回路による電圧信号と所定の閾値との比較結果に基づいて、増幅回路の出力信号を2値化する。信号加工部2500は、2値化された出力信号を検知処理部2700に出力する。なお、信号加工部2500は、コンパレータ素子またはピークホールド回路にADC(Analog Digital Converter)を含み、増幅回路の出力信号(アナログ信号)のAD(Analog Digital)変換結果のピーク(つまり、反射光RV11,RV21のそれぞれの光強度のピーク)を検知して保持するとともに、検知されたピークの情報を検知処理部2700に出力する。
【0125】
以降の説明において、照射光LS11の反射光RV11に対応するコンパレータ素子またはピークホールド回路の出力であるピークの情報を、第1出力情報と称する。また、同様に、以降の説明において、照射光LS21の反射光RV21に対応するコンパレータ素子またはピークホールド回路の出力であるピークの情報を、第2出力情報と称する。
【0126】
また、検知処理部2700は、第1出力情報および第2出力情報に基づいて、被測定物PTに照射された照射光LS11,LS21のそれぞれの照射位置での唾液痕(唾液)の有無を検知する。
【0127】
具体的に、検知処理部2700は、被測定物PTに照射された照射光LS11,LS21のそれぞれの照射位置に対応する第1出力情報および第2出力情報を取得する。なお、検知処理部2700は、第1出力情報および第2出力情報の取得した場合、第1出力情報および第2出力情報と、照射光LS11,LS21のそれぞれの照射位置の情報とを対応付けてメモリ3100に記録する。検知処理部2700は、同一の照射位置に対応する第1出力情報および第2出力情報を再度取得した場合、メモリ3100に記憶済みであって、同一の照射位置の情報が対応付けられた第1出力情報および第2出力情報を抽出し、取得された第1出力情報および第2出力情報と、メモリ3100から抽出された第1出力情報および第2出力情報との比を算出する。
【0128】
例えば、照射位置に唾液痕(唾液)が存在する場合に取得される反射光RV21の強度は、照射光LS21の一部が吸光され易いため、反射光RV21の強度(つまり、振幅)が減衰する。したがって、検知処理部2700は、画角内に含まれる被測定物PTの同一ラインごとに、異なる波長帯を有する反射光RV11(例えば、波長帯=1200nm,1300nm)に対応する第1出力情報と、反射光RV21(例えば、波長帯=1400nm)に対応する第2出力情報との強度(出力)差分、または第1出力情報と第2出力情報の強度(出力)比等に基づいて、照射位置における唾液痕(唾液)の有無を検知することができる。なお、以降で説明する唾液痕の検知処理の説明では、一例として反射光RV11の波長帯が1300nmである例について説明する。
【0129】
また、例えば、検知処理部2700は、照射光LS11の反射光RV11の強度(振幅VA,
図17参照)と、照射光LS21の反射光RV21の強度(振幅VB,
図17参照)との振幅差分(VA-VB)と、振幅VAとの比率RT(
図17参照)と所定の閾値Mとの大小の比較に応じて、唾液痕の有無を検知してもよい(
図17参照)。
【0130】
さらに、検知処理部2700は、反射光RV11の強度と反射光RV21の強度とを用いて、画素ごとに唾液痕(唾液)により吸光された吸光度を示す正規化吸光度比NARを算出する。
【0131】
以降、正規化吸光度比NARの算出方法について説明する。正規化吸光度比NARは、同一の照射位置における唾液痕付着時の反射光RV11の強度に対する唾液痕未付着時の反射光RV11の強度の比率を示す強度比Ln(I00/I11)1300と、同一の照射位置における唾液痕付着時の反射光RV21の強度に対する唾液痕未付着時の反射光RV21の強度Iの比率を示す強度比Ln(I00/I11)1400とを用いて、以下に示す(式3)により算出される。
【0132】
【0133】
また、検知処理部2700は、(式3)を用いて吸光度を正規化した正規化吸光度比NARを算出することにより、各波長帯の反射光の強度変化によらず吸光度を算出できる。例えば、第1投射光源1500および第2投射光源1700以外の他の照明(外部照明)を使用する場合、検知処理部2700は、その他の照明と被測定物PTとの角度変化に基づいて、受光部2300により受光される反射光RV11,RV21の強度が変化することがある。このような場合であっても、各波長帯の反射光RV11,RV21のそれぞれの強度比の和(つまり、強度比Ln(I00/I11)1300+強度比Ln(I00/I11)1400)で正規化することで、検知処理部2700は、各波長帯の反射光の強度変化によらず吸光度を算出できる。
【0134】
検知処理部2700は、すべての画素の正規化吸光度比NARをそれぞれ算出した後、算出された正規化吸光度比NARと、被測定物PTにおける唾液痕(唾液)検知の有無を判定するための閾値M1,M2のそれぞれとを画素ごとに比較する。
【0135】
なお、閾値M1,M2のそれぞれは、予め決められた任意の値でもよく、唾液痕(唾液)がない状態(つまり、唾液痕未付着時、あるいは唾液痕拭掃後の被測定物PT)で取得された反射光RV11,RV21のそれぞれの強度に基づく値(例えば、唾液痕がない状態で取得された反射光RV11,RV21のそれぞれの強度(値)に所定のマージンが加算された値)でもよい。
【0136】
つまり、閾値M1,M2のそれぞれは、唾液痕未付着時、あるいは唾液痕拭掃後の被測定物PTが撮像された検知結果画像データと、唾液痕付着時の被測定物PTが撮像された検知結果画像データとを比較することで、決定されてもよい。これにより、検知処理部2700は、近赤外線カメラ100の設置環境、被測定物PTの設置環境(例えば、湿度、気温等)により適した閾値M1,M2のそれぞれを用いて唾液痕を検知できるため、唾液痕の検知精度および口唇の外形形状、口唇紋等の検知精度を向上させることができる。
【0137】
検知処理部2700は、正規化吸光度比NARが閾値M1>正規化吸光度比NAR>閾値M2であるか否かを判定し、閾値M1>正規化吸光度比NAR>閾値M2である正規化吸光度比NARを有する画素を、唾液痕が検知された画素であると判定する。一方、検知処理部2700は、閾値M1>正規化吸光度比NAR>閾値M2でない正規化吸光度比NARを有する画素を、唾液痕が検知されない画素であると判定する。
【0138】
また、検知処理部2700は、表示処理部2900により生成された唾液痕表示画像PT31に基づいて、唾液痕が占有している画素の集合エリアを判定する。
【0139】
検知処理部2700は、画素ごとの正規化吸光度比NARと、画素ごとの唾液痕の検知の有無と、口唇紋エリアAR0の情報とを含む唾液痕の検知結果を生成し、表示処理部2900に出力する。
【0140】
表示処理部2900は、検知処理部2700から出力された画素ごとの唾液痕の検知結果と、画素ごとの正規化吸光度比NARとに基づいて、正規化吸光度比NARにより示される唾液痕の膜厚をn(n:2以上の整数)階調色で可視化した唾液痕表示画像PT31(
図22参照)を生成する。表示処理部2900は、画素ごとの正規化吸光度比NARに基づいて、唾液痕が検知された画素が、所定の画素数以上集合している集合エリアを、生体認証用の口唇紋を検知する口唇紋エリアAR0(
図24参照)として算出する。表示処理部2900は、生成された唾液痕表示画像PT31と、口唇紋エリアAR0とを、制御部1300に出力する。制御部1300は、表示処理部2900から出力された唾液痕表示画像PT31と、画素ごとの唾液痕の検知結果と、口唇紋エリアAR0の情報とを対応付けて、通信部1100を介して制御装置200に送信する。
【0141】
次に、
図15および
図16を参照して、近赤外線カメラ100のユースケース例について説明する。
図15は、実施の形態2における近赤外線カメラ100のユースケース例(唾液痕未付着時)を説明する図である。
図16は、実施の形態2における近赤外線カメラ100のユースケース例(唾液痕未付着時)を説明する図である。なお、
図15および
図16に示す近赤外線カメラ100は、説明を分かり易くするために、照明部PJおよび撮像部JGのみを図示している。また、
図15および
図16に示す近赤外線カメラ100の照明部PJおよび撮像部JGと、被測定物PTとの位置関係は、一例であってこれに限定されないことは言うまでもない。
【0142】
唾液痕未付着時において、照明部PJは、被測定物PTの表面に近赤外線である各波長帯の照射光LS11,LS21を照射する。照射光LS11,LS21のそれぞれは、被測定物PTの表面で拡散され、拡散された拡散光DL11のうち一部が撮像部JGに向かう反射光RV11,RV21となって撮像部JGの撮像光学部2100に入射し、受光される。
【0143】
唾液痕付着時において、照明部PJは、被測定物PTの表面に近赤外線である各波長帯の照射光LS11,LS21を照射する。照射光LS11,LS21のそれぞれは、被測定物PTの表面に付着した唾液痕SV(唾液)により拡散され、拡散された拡散光DL11のうち一部が撮像部JGに向かう反射光RV11,RV21となって撮像部JGの撮像光学部2100に入射し、受光される。唾液痕付着時の反射光RV11,RV21の強度I11は、第2投射光源1700の照射光LS21が唾液痕(唾液)により吸光されるため、唾液痕未付着時の反射光RV11,RV21の強度I00よりも小さくなる。
【0144】
撮像部JGに受光された反射光RV11,RV21は、バンドパスフィルタBPFを透過して、レンズLSに入射し、イメージセンサIMS上で結合する。なお、バンドパスフィルタBPFは、第1投射光源1500および第2投射光源1700のそれぞれがハロゲンランプにより実現されない場合には省略されてよい。
【0145】
次に、
図17を参照して、唾液痕の検知の原理について説明する。
図17は、近赤外線カメラ100による唾液痕の検知の原理説明図である。
【0146】
検知処理部2700は、例えば、第1出力情報である振幅VAに対して、第1出力情報の(振幅VA)と第2出力情報(振幅VB)との振幅差分(VA-VB)の比率RT=(VA-VB)/VAを算出する。検知処理部2700は、算出された比率RTが、比率RT>閾値M1であると判定した場合、唾液痕が検知されたと判定し、比率RT≦閾値M1であれば唾液痕が検知されないと判定してもよい。なお、
図17に示す第2出力情報である振幅VBは、唾液痕がある場合には唾液痕により吸光されるため、第1出力情報である振幅VAよりも小さくなる。
【0147】
以上のように、検知処理部2700は、比率RTと閾値M1との比較結果に基づいて、唾液痕の有無を検知することで、ノイズ(例えば外乱光)の影響を排除し、唾液痕の有無をより高精度に検知することができる。
【0148】
次に、
図18を参照して、制御装置200の内部構成について説明する。
図18は、実施の形態2に係る制御装置200の内部構成例を示すブロック図である。
【0149】
制御装置200は、例えば、PC(Personal Computer)、ノートPC、タブレット端末、スマートフォン等を用いて実現されたり、サーバあるいはクラウドサーバにより実現されたりする。制御装置200は、近赤外線カメラ100から送信された唾液痕表示画像PT31(
図22参照)を表示部4900に表示する。また、制御装置200は、近赤外線カメラ100から送信されたすべての画素のそれぞれの正規化吸光度比NARに基づいて、口唇紋を取得し、取得された口唇紋と、事前に登録された複数の人物の口唇紋とを照合することで、取得された口唇紋(つまり、被測定物PTに付着した唾液痕)に対応する人物を特定し、人物認証を実行する。
【0150】
制御装置200は、通信部4100と、制御部4300と、メモリ4700と、表示部4900と、口唇紋データベースDBと、を含んで構成される。なお、口唇紋データベースDBは、制御装置200と別体で構成されてもいい。また、制御装置200がサーバあるいはクラウドサーバにより実現される場合、表示部4900は、制御装置200と別体で構成され、かつ、制御装置200との間でデータ通信可能に接続されたモニタ,ディスプレイ等により実現されてもよい。
【0151】
通信部4100は、近赤外線カメラ100の通信部1100との間で無線通信あるいは有線通信可能に接続され、データの送受信を実行する。なお、ここでいう無線通信は、例えばWi-Fi(登録商標)などの無線LANを介した通信である。通信部4100は、近赤外線カメラ100の通信部1100から送信された唾液痕の検知結果と、唾液痕表示画像PT31(
図22参照)とを取得して、制御部4300に出力する。
【0152】
制御部4300は、例えばCPUまたはFPGAを用いて構成され、メモリ4700と協働して、各種の処理および制御を行う。具体的には、制御部4300は、メモリ4700に保持されたプログラムを参照し、そのプログラムを実行することにより照合部4500等の各部の機能を実現する。制御部4300は、取得された唾液痕表示画像PT31を表示部4900に出力して、表示させる。
【0153】
また、制御部4300は、通信端末MTとの間でデータ信号の送受信が可能に接続されてよい。
図18に示す通信端末MTは、
図2に示す通信端末MTと同一の外部端末である。この場合、制御部4300は、照合部4500による口唇紋を用いた人物の特定結果(認証結果)、あるいは、近赤外線カメラ100から送られたデータに基づいて検知した口唇紋のデータを通信端末MT(
図18参照)に通知してもよい。また、制御部4300は、口唇紋を用いた人物の特定結果あるいは口唇紋のデータだけでなく、その口唇紋の拭掃を促すメッセージ等の指示を通信端末MT(
図18参照)に通知してもよい。
【0154】
照合部4500は、近赤外線カメラ100から送信された口唇紋エリアの情報と、この口唇紋エリアに含まれる複数の画素のそれぞれの正規化吸光度比NARとに基づいて、正規化吸光度比NARにより示される唾液痕の膜厚をk(k:3以上の整数,k>n)階調色で可視化した口唇紋表示画像PT41(
図23参照)を生成する。
【0155】
照合部4500は、生成された口唇紋表示画像PT41から口唇紋を検知して取得する。なお、ここで照合部4500は、口唇紋エリアが示す口唇の形状を検知し、検知された口唇の形状が口唇紋の照合により適した形状であるか否かを判定してよい。照合部4500は、検知された口唇の形状が口唇紋の照合により適した形状でないと判定した場合、検知された口唇紋を所定の方向に変形することで、検知された口唇の形状を口唇紋の照合により適した形状に変形する。
【0156】
照合部4500は、取得された口唇紋、あるいは変形処理後の口唇紋と、口唇紋データベースDBに登録された複数の人物のそれぞれの口唇紋とを照合する。照合部4500は、取得された口唇紋、あるいは変形処理後の口唇紋と同一あるは類似する口唇紋に対応する人物を、被測定物PTから検知された唾液痕(口唇紋)に対応する人物であると特定する。一方、照合部4500は、取得された口唇紋、あるいは変形処理後の口唇紋と同一あるは類似する口唇紋がないと判定した場合には、被測定物PTから検知された唾液痕(口唇紋)に対応する人物が口唇紋データベースDBに登録済みでない人物(つまり、認証失敗)であると判定する。
【0157】
照合部4500は、照合結果を含む画面(不図示)を生成して、表示部4900に出力する。なお、人物が特定された(つまり、認証成功した)場合、照合部4500は、口唇紋データベースDBに登録済みであって、口唇紋に対応付けて登録されている人物に関する情報(例えば、氏名、年齢、性別等)を含む画面(不図示)を生成してもよい。
【0158】
メモリ4700は、例えば制御部4300の処理を実行する際に用いられるワークメモリとしてのRAMと、制御部4300の処理を規定したプログラムを格納するROMとを有する。RAMには、制御部4300により生成あるいは取得されたデータが一時的に保存される。ROMには、制御部4300の処理を規定するプログラムが書き込まれている。
【0159】
表示部4900は、例えばLCD(Liquid Crystal Display)または有機EL(Electroluminescence)等の表示用デバイスを用いて構成されてよい。表示部4900は、制御部4300から出力された唾液痕表示画像PT31(
図22参照)、口唇紋表示画像PT41(
図23参照)、照合結果を含む画面等を出力(表示)する。
【0160】
口唇紋データベースDBは、所謂ストレージであって、例えばフラッシュメモリ、HDD(Hard Disk Drive)あるいはSSD(Solid State Drive)等の記憶媒体を用いて構成される。口唇紋データベースDBは、複数の人物の人物に関する情報と、口唇紋データとを対応付けて格納(登録)する。
【0161】
図19を参照して、近赤外線カメラ100の初期動作手順について説明する。
図19は、実施の形態2における近赤外線カメラ100の初期動作手順例を説明するフローチャートである。
【0162】
近赤外線カメラ100における制御部1300は、唾液痕を検知するための閾値M1,M2のそれぞれを検知処理部2700に設定する(St101)。なお、閾値M1,M2のそれぞれは、被測定物PTの設置環境、被測定物PTの材質等に基づいて、適宜設定されてよい。
【0163】
制御部1300は、撮像処理を開始させるための制御信号を撮像部JGの第1投射光源1500および第2投射光源1700のそれぞれに出力する(St102)。
【0164】
図20を参照して、実施の形態2に係る生体認証システム10000の口唇紋照合手順について説明する。
図20は、実施の形態2に係る生体認証システム10000の口唇紋照合手順例を説明するフローチャートである。なお、ステップSt1011~ステップSt1019のそれぞれの処理は、近赤外線カメラ100により実行される。また、ステップSt1020~ステップSt1022のそれぞれの処理は、制御装置200により実行される。
【0165】
生体認証システム10000は、近赤外線カメラ100を用いて口唇紋エリアの算出処理を開始する(St1011)。
【0166】
近赤外線カメラ100は、照明部PJおよび撮像部JGのそれぞれを駆動させて、唾液痕未付着時あるいは唾液痕拭掃後の被測定物PTに照射光LS11,LS21のそれぞれを照射し、被測定物PTにより反射された反射光RV11,RV21の強度I00を計測する(St1012)。また、近赤外線カメラ100は、照明部PJおよび撮像部JGのそれぞれを駆動させて、唾液痕付着時の被測定物PTに照射光LS11,LS21のそれぞれを照射し、被測定物PTの表面に付着した唾液痕SV(唾液)により反射された反射光RV11,RV21の強度I11を計測する(St1013)。なお、ステップSt1012およびステップSt1013の順序は入れ替わってもよい。
【0167】
具体的に、近赤外線カメラ100は、照明部PJの投射光源光学部1900により第1投射光源1500から照射される照射光LS11と、第1投射光源1500から照射される照射光LS21とを被測定物PTの表面に照射する。近赤外線カメラ100は、投射光源光学部1900による第1投射光源1500および第2投射光源1700のそれぞれの照射位置の情報と、受光部2300を構成する複数のイメージセンサIMS上の受光位置(画素の位置)情報とに基づいて、フレーム画像の各画素の位置と、被測定物PTの表面における座標(位置情報)とを対応付ける。
【0168】
近赤外線カメラ100は、(式3)を用いて、フレーム画像(具体的には、
図21に示す撮像画像PT11,PT12,PT21,PT22)からすべての画素の正規化吸光度比NARを算出する(St1014)。
【0169】
なお、ここで、ステップSt1014の処理は、ステップSt1012およびステップSt1013のいずれかの処理が実行された後に実行されてよい。また、近赤外線カメラ100は、同一の被測定物PTの唾液痕の検知処理として、ステップSt1012の処理およびステップSt1012に対応するステップSt1014の処理と、ステップSt1013の処理およびステップSt1013に対応するステップSt1014の処理とが終了するまで、ステップSt1011~ステップSt1014の処理を繰り返し実行してもよい。
【0170】
図21を参照して、唾液痕未付着時の撮像画像PT11,PT21と、唾液痕付着時の撮像画像PT12,PT22とを説明する。
図21は、近赤外線カメラ100により撮像された唾液痕未付着時および唾液痕付着時のそれぞれの撮像画像PT11,PT12,PT21,PT22を比較する図である。
【0171】
「N描画前」の撮像画像PT11,PT21のそれぞれは、被測定物PTの表面に唾液で文字「N」を描画する前、つまり、唾液痕未付着時に撮像された撮像画像である。撮像画像PT11は、第1投射光源1500の波長帯1300nmの照射光LS11が照射された被測定物PTの撮像画像である。撮像画像PT21は、第2投射光源1700の波長帯1400nmの照射光LS21が照射された被測定物PTの撮像画像である。
【0172】
「N描画後」の撮像画像PT12,PT22のそれぞれは、被測定物PTの表面に唾液で文字「N」を描画した後、つまり、唾液痕付着時に撮像された撮像画像である。撮像画像PT12は、第1投射光源1500の波長帯1300nmの照射光LS11が照射された被測定物PTの撮像画像である。撮像画像PT22は、第2投射光源1700の波長帯1400nmの照射光LS21が照射された被測定物PTの撮像画像である。
【0173】
近赤外線カメラ100は、画素ごとの正規化吸光度比NARと、閾値M1,M2のそれぞれとを比較して、正規化吸光度比NARが閾値M1>正規化吸光度比NAR>閾値M2であるか否かを判定する(St1015)。なお、本実施の形態2においては、閾値M1=0.6,閾値M2=0.2である例について説明するが、閾値M1,M2のそれぞれの値は、これに限定されないことは言うまでもない。
【0174】
近赤外線カメラ100は、ステップSt1015の処理において、正規化吸光度比NARが閾値M1>正規化吸光度比NAR>閾値M2であると判定した場合(St1015,YES)、閾値M1>正規化吸光度比NAR>閾値M2であると判定された画素を唾液痕が検知された画素であると判定し、フレーム画像上において任意のn階調色で表示する(St1016)。なお、本実施の形態2では、n=1であって、「網掛け1」で唾液痕が検知された画素を表示する例について説明するが、階調色の数(つまり、nの値)および階調色は、それぞれ上述の例に限定されないことは言うまでもない。
【0175】
一方、近赤外線カメラ100は、ステップSt1015の処理において、正規化吸光度比NARが閾値M1>正規化吸光度比NAR>閾値M2でないと判定した場合(St1015,NO)、閾値M1>正規化吸光度比NAR>閾値M2でないと判定された画素を唾液痕が検知されない画素であると判定し、フレーム画像上において唾液痕以外の背景(被測定物PTの表面)を示す所定の単色で表示する(St1017)。なお、本実施の形態2では、唾液痕が検知されない画素を「網掛け2」、照射光LS11,LS21の照射範囲外の画素を「網掛け3」で表示する例について説明するが、背景色の数および色は、それぞれ上述の例に限定されないことは言うまでもない。
【0176】
ここで、
図22を参照して、唾液痕表示画像PT31の生成方法について具体的に説明する。
図22は、3階調色における唾液痕表示画像の生成例を説明する図である。なお、
図22に示す例において、被測定物PTは、唾液を用いて文字「N」が描かれている。
【0177】
近赤外線カメラ100は、-1<正規化吸光度比NAR<-0.4、または0.6<正規化吸光度比NAR<2.0である画素を、唾液痕が検知されない画素を示す「網掛け2」で表示する。近赤外線カメラ100は、-0.4≦正規化吸光度比NAR<0.2である画素を、第1投射光源1500および第2投射光源1700による照射光LS11,LS21が照射されていない画素を示す「網掛け3」で表示する。また、近赤外線カメラ100は、0.2<正規化吸光度比NAR<0.6である画素を、唾液痕が検知された画素を示す「網掛け1」で表示する。以上により、近赤外線カメラ100は、唾液痕表示画像PT31(
図22参照)を生成することで、唾液痕である文字「N」(
図22に示す白枠内)を検知できる。
【0178】
近赤外線カメラ100は、唾液痕が検知された画素空間として、唾液痕が検知されたことを示す色(ここでは、「網掛け1」)で表示された画素のそれぞれを検知し、この検知された複数の画素が占有する任意の口唇紋エリアを判定する(St1018)。
【0179】
近赤外線カメラ100は、口唇紋認証に用いられる口唇紋を含む口唇紋エリアAR0(
図24参照)を算出し(St1019)、この口唇紋エリアAR0の情報と、画素ごとの正規化吸光度比NARと、唾液痕表示画像PT31と、を少なくとも含む唾液痕の検知結果を生成して、制御装置200に送信する。
【0180】
制御装置200は、近赤外線カメラ100から送信された任意の口唇紋エリアの情報と、画素ごとの正規化吸光度比NARと、唾液痕表示画像PT31とを取得し、口唇紋エリア内から口唇紋を検知する。具体的に、近赤外線カメラ100は、口唇紋エリアAR0に含まれる画素ごとの正規化吸光度比NARに基づいて、唾液痕が検知された画素の表示をk階調色で表示した口唇紋表示画像PT41を生成する(St1020)。なお、本実施の形態2では、k=8であって、かつ、「網掛け4」~「網掛け9」のそれぞれで唾液痕が検知された画素を表示する例について説明するが、階調色の数(つまり、kの値)および階調色は、それぞれ上述の例に限定されないことは言うまでもない。
【0181】
ここで、
図23を参照して、口唇紋表示画像PT41の生成方法について具体的に説明する。
図23は、8階調色における口唇紋表示画像の生成例を説明する図である。
【0182】
制御装置200は、唾液痕が検知された-0.4≦正規化吸光度比NAR<0.2である画素を8階調色でさらに表示する。制御装置200は、-0.4<正規化吸光度比NAR<-0.3である画素を「網掛け4」、-0.3≦正規化吸光度比NAR<-0.2である画素を「網掛け5」、-0.2≦正規化吸光度比NAR<-0.1である画素を「網掛け6」、-0.1≦正規化吸光度比NAR<0である画素を「網掛け7」、0≦正規化吸光度比NAR<0.05である画素を「網掛け8」、0.05≦正規化吸光度比NAR<0.2である画素を「網掛け9」でそれぞれ表示した口唇紋表示画像PT41を生成する。
【0183】
制御装置200は、生成された口唇紋表示画像PT41に基づいて、口唇紋を検知し、検知された口唇紋と、口唇紋データベースDBに登録された複数の人物の口唇紋データのそれぞれとを照合する(St1021)。制御装置200は、照合結果を含む画面を生成して、表示部4900に出力して表示させる。また、制御装置200は、照合結果(例えば口唇紋の照合による人物の特定結果)あるいはその照合結果と口唇紋が付着した被測定物PTの拭掃指示と、を通信端末MTに通知する(St1022)。
【0184】
ここで、
図24~
図26のそれぞれを参照して、口唇紋の検知方法について具体的に説明する。
図24は、口唇紋検知処理例を説明する図である。
図25は、口唇紋変形処理例を説明する図である。
図26は、口唇紋変形処理例を説明する図である。なお、
図24に示す口唇紋表示画像PT51は、説明を分かり易くするために、k階調色での表示を省略している。
【0185】
制御装置200は、口唇紋表示画像PT51の口唇紋エリアAR0から口唇紋LCを検知する。なお、
図24に示す口唇紋表示画像PT51の口唇紋エリアAR0のうちエリアLARは、唾液痕が残っていないエリアである。
【0186】
制御装置200は、イメージセンサIMS上に設定されたX軸,Y軸を基準として、検知された口唇紋LCの外形形状から口唇の中心位置Pt0(Xc,Yc,θ)を計測する。制御装置200は、計測された口唇の中心位置Pt0の回転角度θ=0(ゼロ)を基準とする(つまり、口唇の中心位置Pt0´(Xc,Yc,0)を中心とする)新たなX´軸,Y´軸を設定し、この新たなX´軸,Y´軸上における口唇紋上のp(p:2以上の整数)点の座標(X1,Y1),…,(Xp,Yp)のそれぞれを計測する。
【0187】
制御装置200は、計測された口唇紋上のp(p:2以上の整数)点の座標(X1,Y1),…,(Xp,Yp)のそれぞれと、口唇紋データベースDBに登録された複数の人物の口唇紋データとを照合して、検知された口唇紋と同一あるいは類似する口唇紋を判定する。制御装置200は、同一あるいは類似する口唇紋に対応する人物を、検知された口唇紋に対応する人物であると特定する。
【0188】
なお、照合処理において、制御装置200は、検知された口唇の外形形状が口唇紋を用いた生体認証(照合処理)に適した外形形状であるか否かを判定してよい。制御装置200は、検知された口唇の外形形状が口唇紋を用いた生体認証(照合処理)に適した外形形状であると判定した場合には、計測された口唇紋上のp点の座標(X1,Y1),…,(Xp,Yp)のそれぞれと、口唇紋データベースDBに登録された複数の人物の口唇紋データとを照合する。
【0189】
一方、制御装置200は、検知された口唇の外形形状が口唇紋を用いた生体認証(照合処理)に適した外形形状でないと判定した場合には、検知された口唇の外形形状から生体認証(照合処理)に適した外形形状への変形係数a,bをそれぞれ算出する。なお、ここでいう変形係数aは、X´軸方向の変形係数である。変形係数bは、Y´軸方向の変形係数である。
【0190】
なお、ここでいう生体認証(照合処理)に適した口唇の外形形状は、口唇紋データベースDBに登録される口唇の形状であって、
図26に示す例では、「変形例1」~「変形例3」等に示す形状である。なお、
図26に示す例は一例であってこれに限定されないことは言うまでもない。
【0191】
制御装置200は、計測された口唇紋上のp点の座標(X1,Y1),…,(Xp,Yp)のそれぞれに変形係数a1,b1を乗じて、「検知例」に示す口唇の外形形状を「変形例1」に示す口唇の外形形状に変形する。同様にして、制御装置200は、計測された口唇紋上のp点の座標(X1,Y1),…,(Xp,Yp)のそれぞれに変形係数a2,b2を乗じて、「検知例」に示す口唇の外形形状を「変形例2」に示す口唇の外形形状に変形したり、変形係数a3,b3を乗じて、「検知例」に示す口唇の外形形状を「変形例3」に示す口唇の外形形状に変形したりして、口唇紋の照合処理を実行する。
【0192】
以上により、実施の形態2に係る生体認証システム10000は、被測定物PTを撮像する近赤外線カメラ100(カメラの一例)と、近赤外線カメラ100との間で通信可能な制御装置200と、を備える。近赤外線カメラ100は、第1波長帯(例えば、1200nm,1300nm等)の照射光LS11と、第1波長帯と異なる波長帯である第2波長帯(例えば、1400nm)の照射光LS21とを被測定物PTに照射し、被測定物PTの撮像画像に基づいて、被測定物PTに付着する水分または糖類を検知し、水分および糖類が検知されない第1画像(例えば、
図21に示す撮像画像PT11,PT12)と、水分あるいは糖類が検知された第2画像(例えば、
図21に示す撮像画像PT21,PT22)とを比較して、被測定物PT上に付着する水分あるいは糖類の検知結果を制御装置200に送信する。制御装置200は、検知結果に基づいて、人物の口唇紋を取得し、取得された口唇紋と、口唇紋データベースDB(データベースの一例)に登録された複数の口唇紋のそれぞれとを照合し、口唇紋データベースDBに取得された口唇紋と同一あるいは類似する口唇紋があると判定した場合、同一あるいは類似する口唇紋に対応する人物を、取得された口唇紋に対応する人物であると判定する。なお、ここでいう複数のコンピュータは、例えば、被測定物PTを撮像可能な近赤外線カメラ100,口唇紋を検知(取得)可能な制御装置200等である。
【0193】
これにより、実施の形態2に係る生体認証システム10000は、被測定物PTに異なる波長帯の照射光LS11,LS21のそれぞれを照射して撮像し、撮像された撮像画像を用いて、被測定物PT上に付着している水分または糖類のOH基に基づく特定物質(例えば唾液痕)を検知し、検知された唾液痕に基づいて、人物の口唇紋を取得することにより、口唇紋を用いた人物認証を実行することができる。したがって、生体認証システム10000は、生体認証に用いられる口唇紋をより容易に取得できる。
【0194】
また、実施の形態2に係る近赤外線カメラ100は、水分または糖類のOH基に対する吸光度がそれぞれ異なる第1波長帯の照射光LS11と第2波長帯の照射光LS21とを照射する。これにより、実施の形態2に係る生体認証システム10000は、被測定物PT上で反射した時に、照射光LS11と照射光LS21とが被測定物PT上に付着した水分または糖類のOH基によりそれぞれ吸光される。したがって、生体認証システム10000は、第1画像および第2画像のそれぞれに映る第1波長帯の反射光RV11と第2波長帯の反射光RV21とに基づいて、被測定物PT上に付着した水分または糖類を検知できる。
【0195】
また、実施の形態2に係る近赤外線カメラ100は、波長帯が1200nmまたは1300nmである第1波長帯の照射光LS11と、波長帯が1400nmである第2波長帯の照射光LS21とを照射する。これにより、実施の形態2に係る生体認証システム10000は、第1画像および第2画像のそれぞれに映る第1波長帯の反射光RV11と第2波長帯の反射光RV21とに基づいて、被測定物PT上に付着した水分または糖類を検知できる。
【0196】
また、実施の形態2に係る被測定物PTは、アルミニウムの粉末が塗装される。これにより、実施の形態2に係る生体認証システム10000は、水分または糖類をより高精度に検知できるため、口唇紋をより高精度に取得でき、口唇紋を用いた生体認証精度を向上させることができる。
【0197】
以上、図面を参照しながら実施の形態について説明したが、本開示はかかる例に限定されないことは言うまでもない。当業者であれば、特許請求の範囲に記載された範疇内において、各種の変更例または修正例に想到し得ることは明らかであり、それらについても当然に本開示の技術的範囲に属するものと了解される。
【産業上の利用可能性】
【0198】
本開示は、人物から発せられる飛沫に含まれる水分あるいは糖類もしくは被測定物に付着している水分あるいは糖類を含む特定物質を検知し、特定物質の検知結果を外部に通知して次の行動の実行を促す汚れ検知装置、汚れ検知方法、生体認証システムおよび生体認証方法として有用である。
【符号の説明】
【0199】
1 飛沫汚れ検知装置
5 非可視センサ部
7 制御部
7a タイミング制御部
10 投光処理部
13 第1投光光源
15 第2投光光源
17 投光光源走査用光学部
20 受光処理部
21、31 撮像光学部
23、33 受光部
25 信号加工部
25a I/V変換回路
25b 増幅回路
25c コンパレータ・ピークホールド処理部
27 検知処理部
27a 閾値設定/飛沫汚染度検知処理部
27b メモリ
27c 検知結果フィルタ処理部
29 表示処理部
30 可視カメラ部
35 撮像信号処理部
37 表示制御部
BS1 下地層
DL データロガー
MT 通信端末
SLV1 飛沫
100 近赤外線カメラ
200 制御装置
1100,4100 通信部
1300,4300 制御部
1500 第1投射光源
1700 第2投射光源
1900 投射光源光学部
2100 撮像光学部
2300 受光部
2500 信号加工部
2700 検知処理部
2900 表示処理部
3100,4700 メモリ
10000 生体認証システム
DB 口唇紋データベース
PT 被測定物