IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社日立ソリューションズの特許一覧

<>
  • 特開-X線検査装置及びX線検査方法 図1
  • 特開-X線検査装置及びX線検査方法 図2
  • 特開-X線検査装置及びX線検査方法 図3
  • 特開-X線検査装置及びX線検査方法 図4
  • 特開-X線検査装置及びX線検査方法 図5
  • 特開-X線検査装置及びX線検査方法 図6A
  • 特開-X線検査装置及びX線検査方法 図6B
  • 特開-X線検査装置及びX線検査方法 図7
  • 特開-X線検査装置及びX線検査方法 図8
  • 特開-X線検査装置及びX線検査方法 図9
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024129324
(43)【公開日】2024-09-27
(54)【発明の名称】X線検査装置及びX線検査方法
(51)【国際特許分類】
   G01N 23/04 20180101AFI20240919BHJP
   G01N 23/10 20180101ALI20240919BHJP
【FI】
G01N23/04 340
G01N23/10
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2023038454
(22)【出願日】2023-03-13
(71)【出願人】
【識別番号】000233055
【氏名又は名称】株式会社日立ソリューションズ
(74)【代理人】
【識別番号】110001678
【氏名又は名称】藤央弁理士法人
(72)【発明者】
【氏名】秋良 直人
(72)【発明者】
【氏名】熊谷 仁志
(72)【発明者】
【氏名】トウ シビ
【テーマコード(参考)】
2G001
【Fターム(参考)】
2G001AA01
2G001AA09
2G001AA10
2G001BA11
2G001CA01
2G001FA02
2G001FA03
2G001FA06
2G001GA01
2G001HA04
2G001HA06
2G001HA13
2G001HA20
2G001JA09
2G001KA06
2G001LA10
2G001NA17
2G001NA19
2G001PA11
(57)【要約】
【課題】来場者に与える不快感を軽減するX線荷物検査を提供する。
【解決手段】X線検査装置は、来場者の荷物のX線画像と、X線画像に含まれる物品のカテゴリを認識するモデルと、特殊物品のカテゴリを示す物品属性情報と、特殊物品のカテゴリ、及び来場者に利益を提供するイベントの内容を示すイベント情報と、を保持し、当該荷物のX線画像とモデルに基づいて、当該X線画像に含まれる特殊物品のカテゴリを認識し、認識した特殊物品のカテゴリに対応するイベントの内容をイベント情報から特定し、特定した第1種イベントの内容に基づくデータを出力する。
【選択図】図2
【特許請求の範囲】
【請求項1】
X線検査装置であって、
プロセッサとメモリとを備え、
前記メモリは、
施設への来場者の荷物のX線画像と、
X線画像から当該X線画像に含まれる物品のカテゴリを認識するモデルと、
前記施設への持ち込みが禁止されていない特殊物品のカテゴリを示す物品属性情報と、
前記特殊物品のカテゴリと、前記来場者に利益を提供する第1種イベントの内容と、を示すイベント情報と、を保持し、
前記プロセッサは、
前記荷物のX線画像と前記モデルに基づいて、当該X線画像に含まれる前記特殊物品のカテゴリを認識し、
前記認識した特殊物品のカテゴリに対応する第1種イベントの内容を前記イベント情報から特定し、
前記特定した第1種イベントの内容に基づくデータを出力する、X線検査装置。
【請求項2】
請求項1に記載のX線検査装置であって、
前記モデルは、X線画像から、当該X線画像に含まれると認識された物品のカテゴリに対する信頼度を出力し、
前記物品属性情報は、前記特殊物品のカテゴリごとに、前記信頼度に対する第1閾値と、前記第1閾値よりも高い第2閾値と、を示し、
前記イベント情報は、前記特殊物品のカテゴリと、前記荷物に当該特殊物品が含まれているかを前記来場者に確認させるための第2種イベントの内容と、を示し、
前記プロセッサは、
前記認識した特殊物品のカテゴリに対する信頼度を、前記荷物のX線画像と前記モデルに基づいて取得し、
前記取得した信頼度が第2閾値以上である場合、
前記認識した特殊物品のカテゴリに対応する第1種イベントの内容を前記イベント情報から特定し、
前記特定した第1種イベントの内容に基づくデータを出力する、
前記取得した信頼度が前記第1閾値以上かつ前記第2閾値未満である場合、
前記認識した特殊物品のカテゴリに対応する第2種イベントの内容を前記イベント情報から特定し、
前記特定した第2種イベントの内容に基づくデータを出力する、X線検査装置。
【請求項3】
請求項2に記載のX線検査装置であって、
前記プロセッサは、
前記第2種イベントの内容に基づくデータを出力した後に、前記荷物に当該特殊物品が含まれていることを示す確認結果を取得した場合、
前記認識した特殊物品のカテゴリに対応する第1種イベントの内容を前記イベント情報から特定し、
前記特定した第1種イベントの内容に基づくデータを出力する、X線検査装置。
【請求項4】
請求項2に記載のX線検査装置であって、
前記カテゴリごとの前記第1閾値及び前記第2閾値は、それぞれが当該カテゴリの物品を含む複数の評価用X線画像と、X線画像から当該X線画像に含まれる当該カテゴリを認識する評価用モデルと、基づく再現率に基づいて決定されている、X線検査装置。
【請求項5】
請求項1に記載のX線検査装置であって、
前記メモリは、
それぞれが登録対象の特殊物品のX線画像である複数の登録対象X線画像と、当該登録対象の特殊物品のカテゴリを示す情報と、を保持し、
前記プロセッサは、
前記複数の登録対象X線画像それぞれを前記モデルに入力して、前記登録対象の特殊物品のカテゴリとは異なるカテゴリが認識された割合を算出する、誤検知判定を実行し、
前記モデルが前記登録対象の特殊物品のカテゴリを認識可能となるための学習を実行するかを、前記誤検知判定の結果に基づいて、決定する、X線検査装置。
【請求項6】
請求項5に記載のX線検査装置であって、
前記メモリは、それぞれが、前記モデルが出力可能なカテゴリの物品の画像である複数の過去X線画像を保持し、
前記プロセッサは、
前記モデルと、前記複数の登録対象X線画像と、に基づいて、前記登録対象の特殊物品のカテゴリを認識可能な再学習モデルを生成し、
前記複数の過去X線画像を前記再学習モデルに入力して、前記登録対象の特殊物品のカテゴリが認識された割合を算出する、過検知判定を実行し、
前記過検知判定の結果に基づいて、前記再学習モデルを破棄するか、前記再学習モデルによって前記モデルを更新するかを決定し、
前記モデルを更新すると決定した場合、
前記登録対象の特殊物品のカテゴリを前記物品属性情報に登録し、
前記登録対象の特殊物品のカテゴリに対応する第1種イベントの内容を取得し、
前記登録対象の特殊物品のカテゴリと、前記取得した第1種イベントの内容と、を前記イベント情報に登録する、X線検査装置。
【請求項7】
請求項1に記載のX線検査装置であって、
前記イベント情報は、前記第1種イベントの発生確率を示し、
前記プロセッサは、前記発生確率に従って、前記認識した特殊物品のカテゴリに対応する第1種イベントの内容を前記イベント情報から特定する、X線検査装置。
【請求項8】
X線検査装置によるX線検査方法であって、
前記X線検査装置は、プロセッサとメモリとを備え、
前記メモリは、
施設への来場者の荷物のX線画像と、
X線画像から当該X線画像に含まれる物品のカテゴリを認識するモデルと、
前記施設への持ち込みが禁止されていない特殊物品のカテゴリを示す物品属性情報と、
前記特殊物品のカテゴリと、前記来場者に利益を提供する第1種イベントの内容と、を示すイベント情報と、を保持し、
前記X線検査方法は、
前記プロセッサが、前記荷物のX線画像と前記モデルに基づいて、当該X線画像に含まれる前記特殊物品のカテゴリを認識し、
前記プロセッサが、前記認識した特殊物品のカテゴリに対応する第1種イベントの内容を前記イベント情報から特定し、
前記プロセッサが、前記特定した第1種イベントの内容に基づくデータを出力する、X線検査方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、X線検査装置及びX線検査方法に関する。
【背景技術】
【0002】
空港や大規模イベント会場での手荷物検査では、物品のX線画像を用いた手荷物検査が行われることが多い。X線画像に基づいて物品の種類等を自動的に判別する技術として、特開2021-120639号公報(特許文献1)がある。
【0003】
この公報には、「アラート出力タイミング制御装置は、解析対象画像と、アラートを出力するまでの時間を示す時間情報と、を保持し、解析対象画像を前記表示装置に出力し、解析対象画像を前記モデルに入力して解析対象画像の被写体にアラート対象物体が含まれていると判定した場合、時間情報から時間を取得し、解析対象画像を出力した以降の所定のタイミングから当該取得した時間が経過したタイミングにおいてアラートが出力されるよう制御する。」と記載されている(要約参照)。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2021-120639号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
特許文献1に記載の技術におけるX線荷物検査は、施設の安全確保のために行われるものであって、来場者に与える不快感やストレスが考慮されていない。そこで、本発明の一態様は、来場者に与える不快感を軽減するX線荷物検査を提供する。
【課題を解決するための手段】
【0006】
上記した課題を解決するために、本発明の一態様は以下の構成を採用する。X線検査装置は、プロセッサとメモリとを備え、前記メモリは、施設への来場者の荷物のX線画像と、X線画像から当該X線画像に含まれる物品のカテゴリを認識するモデルと、前記施設への持ち込みが禁止されていない特殊物品のカテゴリを示す物品属性情報と、前記特殊物品のカテゴリと、前記来場者に利益を提供する第1種イベントの内容と、を示すイベント情報と、を保持し、前記プロセッサは、前記荷物のX線画像と前記モデルに基づいて、当該X線画像に含まれる前記特殊物品のカテゴリを認識し、前記認識した特殊物品のカテゴリに対応する第1種イベントの内容を前記イベント情報から特定し、前記特定した第1種イベントの内容に基づくデータを出力する。
【発明の効果】
【0007】
本発明の一態様によれば、来場者に与える不快感を軽減するX線荷物検査を提供することができる。
【0008】
上記した以外の課題、構成及び効果は、以下の実施形態の説明により明らかにされる。
【図面の簡単な説明】
【0009】
図1】実施例1におけるX線画像処理システムの一例を示す斜視図である。
図2】実施例1におけるX線画像処理装置の構成例を示すブロック図である。
図3】実施例1における物品属性データのデータ構成例を示す図である。
図4】実施例1におけるイベントデータのデータ構成例を示す図である。
図5】実施例1における事前登録処理の一例を示すフローチャートである。
図6A】実施例1における物品に埋め込まれるパターンの一例を示す図である。
図6B】実施例1における物品に埋め込まれるパターンの一例を示す図である。
図7】実施例1における物品認識処理の一例を示すフローチャートである。
図8】実施例1における禁止物品確認画面の一例を示す図である。
図9】実施例1における禁止物品対応方法ご案内イベントと楽しみイベントとを同時に表示する画面の一例を示す図である。
【発明を実施するための形態】
【0010】
以下、本発明の実施形態を図面に基づいて詳細に説明する。本実施形態において、同一の構成には原則として同一の符号を付け、繰り返しの説明は省略する。なお、本実施形態は本発明を実現するための一例に過ぎず、本発明の技術的範囲を限定するものではないことに注意すべきである。
【0011】
空港や公共施設と異なり、テーマパークや観光施設などの遊びを目的とした施設でも手荷物検査が実施されることがあるが、これらの施設における手荷物検査は、これらの施設が演出する世界観を阻害する上に、来場者は検査されていることに意識が集中してしまうため、来場者の施設への期待感を阻害する要因となり得る。
【0012】
このように従来の手荷物検査は、来場者及び施設の安全を考慮して実施されるものであるため、来場者の待ち時間が発生したり、検査されることによる来場者のストレスが増えたりするおそれがある。また、従来の手荷物検査においては、来場者の利便性や快適性を向上させるか、手荷物検査の精度を下げたり、手荷物検査において警告対象となる物品の種類を減らしたり等の安全性を低下させるか、を選ばざるを得ない状況であった。
【0013】
そこで、本実施形態では、安全性を低下させることなく、来場者が気持ちよく楽しく受けられる手荷物検査を実現する。
【実施例0014】
図1は、X線画像処理システムの一例を示す斜視図である。X線画像処理システムは、X線画像に基づいて、当該X線画像に撮影されている物品のカテゴリを判別する。なお、物品の「カテゴリ」とは、X線画像処理システムの処理の中で用いられる物品の種類である(例えば、ノートパソコン、タブレット、水筒、及びナイフ等)。例えば、X線画像処理システムによって、物品のX線画像に基づく判別が正しく行われた場合には、その判別結果である物品の「カテゴリ」が物品の本来の種類(ユーザの運用上の種類)に一致する。
【0015】
<X線検査装置の構成>
X画像処理システムは、例えば、X線検査装置100、表示装置5、及び複数のローラR1を含む。X線検査装置100は、物品のX線検査を行う装置であり、例えば、空港、大規模イベント会場、データセンタ、工場、研究機関、及び公的機関等の施設への来場者の手荷物検査に用いられる。X線検査装置100は、例えば、X線画像処理装置1、装置本体2、2つの表示装置3、及び入力装置4を含む。
【0016】
装置本体2は、例えば、荷物をローラコンベアで搬送する搬送機構と、荷物にX線を照射する照射機構と、X線の透過量を測定するX線撮影機構と、を含む。装置本体2には、搬送機構で搬送される荷物を通過させるための矩形状の孔H1が設けられている。ローラR1は、荷物を孔H1に向けてスムーズに移動させるために、装置本体2の搬送方向上流側に設けられている。
【0017】
装置本体2におけるX線撮影機構は、例えば、X線透過量を測定する2種類のX線センサを含み、一方のX線センサが他方のX線センサよりも高いエネルギのX線透過量を検出する。当該X線センサとして、例えば、後方散乱式の材質判定センサが用いられるが、これに限定されるものではない。なお、装置本体2において荷物が通過するエリアの複数箇所(側面や天井面)のそれぞれに、2種類のX線センサが設置されるようにするとよい。これによって、装置本体2は、異なる複数の方向からX線撮影を行うことができる。
【0018】
図1に示すX線画像処理装置1は、荷物のX線画像に基づいて、荷物に含まれる物品のカテゴリを判別する。X線画像処理装置1は、配線を介して装置本体2に接続されるとともに、表示装置3、入力装置4、及び表示装置5にも接続されている。装置本体2の撮影機構である2種類のX線センサからX線画像処理装置1にX線透過量のデータ等が出力される。
【0019】
X線画像処理装置1は、2種類のX線センサのうちの一方で取得される高エネルギのX線透過量のデータと、他方で取得される低エネルギのX線透過量のデータと、の間の差分に基づいて、物品の材質をX線画像の画素毎に判別する。X線画像処理装置1は、物品の材質や密度を可視化したカラー画像又はグレースケール画像をX線画像として生成し、このX線画像に基づいて物品のカテゴリを判別する。
【0020】
X線画像処理装置1は、物品のカテゴリが所定の禁止物品に該当すると判定した場合には、禁止物品を検知したことを示す所定の信号を装置本体2に出力する。この場合、装置本体2に設けられた表示ランプが点灯したり、装置本体2に設けられたスピーカから所定のアラート音を出力したりする。これによって、検査対象の物品が所定の禁止物品であることをユーザ(検査員等)が把握できる。
【0021】
図1に示す2つの表示装置3は、X線画像処理装置1が装置本体2から取得したX線画像等を表示する。これによって、物品のX線画像の他、物品のカテゴリの判別結果をユーザ(検査員等)が目視で確認できる。2つの表示装置3には、それぞれ異なる方向から撮影されたX線画像が表示されるようにしてもよいし、それぞれ異なる種類の画像(例えば、カラー画像とグレースケール画像)が表示されるようにしてもよい。なお、これら2つの表示装置3に表示される画像は、防犯上、来場者(検査を受ける人であり、荷物を持ち込む人でもある)に見られることは望ましくないため、当該表示装置3は、検査員のみが見られるように衝立などで隠されて設置されていることが望ましい。
【0022】
入力装置4は、例えば、キーボードやマウス等のユーザ(検査員等)による入力を受け付けるための装置である。なお、X線検査装置100の構成は、図1の例に限定されるものではない。例えば、X線画像処理装置1が装置本体2に内蔵されていてもよい。
【0023】
表示装置5は、装置本体2の撮影結果のX線画像から判別された物品のカテゴリに応じて発生したイベントを表示したり、X線画像に含まれる物品をアニメーションやイラストなどに置き換えて合成した画像を表示したりするために用いられる。
【0024】
表示装置5に表示される内容は来場者向けのものであるため、表示装置5は来場者が見ることができる位置に設置されている。なお、表示装置5による表示は来場者に対する通知のために行われるものであるため、表示装置5による表示に代えて、スピーカによる音声ガイド等による通知などが行われてもよい。
【0025】
<X線画像処理装置1の構成>
図2は、X線画像処理装置1の構成例を示すブロック図である。X線画像処理装置1は、例えば、CPU(Central Processing Unit)11と、メモリ12と、表示インターフェース13と、入力インターフェース14と、通信装置15と、補助記憶装置16と、を備える計算機によって構成される。
【0026】
CPU11は、例えば、プロセッサを含み、メモリ12に格納されたプログラムを実行する。メモリ12は、不揮発性の記憶素子であるROM(Read Only Memory)と、揮発性の記憶素子であるRAM(Random Access Memory)と、を含む。ROMは、不変のプログラム(例えば、BIOS(Basic Input/Output System))などを格納する。RAMは、DRAM(Dynamic Random Access Memory)のような高速かつ揮発性の記憶素子であり、CPU11が実行するプログラム及びプログラムの実行時に使用されるデータを一時的に格納する。
【0027】
表示インターフェース13は、表示装置3及び表示装置5等に、プログラムの実行結果をオペレータが視認可能な形式で出力するためのインターフェース装置である。入力インターフェース14は、入力装置4を介したオペレータからの入力や、装置本体2からのX線透過量の入力を受け付けるためのインターフェース装置である。入力インターフェース14は、例えば、X線画像処理装置1の専用のインターフェースを含んでもよいし、VGA(Video Graphics Array)端子等の汎用の画面入力端子を含んでもよい。
【0028】
通信装置15は、所定のプロトコルに基づいて、他の装置との間の通信を制御するネットワークインターフェースである。また、通信装置15は、USB(Universal Serial Bus)等のシリアルインターフェースを含んでもよい。
【0029】
補助記憶装置16は、HDD(Hard Disk Drive)やフラッシュメモリ等の不揮発性の大容量記憶装置である。補助記憶装置16には、例えば、OS(Operating System:図示せず)が格納されている他、CPU11によって実行される各プログラムや、各プログラムの実行時に使用されるデータが格納されている。即ち、これらの各プログラムは、補助記憶装置16から読み出されてメモリ12にロードされ、CPU11によって実行される。
【0030】
CPU11が実行するプログラムの一部またはすべては、非一時的記憶媒体であるリムーバブルメディア(CD-ROM、フラッシュメモリなど)又は、非一時的記憶装置を備える外部計算機からネットワークを介してX線画像処理装置1に提供され、非一時的記憶媒体である不揮発性の補助記憶装置16に格納されてもよい。このため、X線画像処理装置1は、リムーバブルメディアからデータを読み込むインターフェースを有するとよい。
【0031】
X線画像処理装置1は、物理的に一つの計算機上で、又は、論理的又は物理的に構成された複数の計算機上で構成される計算機システムであり、同一の計算機上で別個のスレッドで動作してもよく、複数の物理的計算機資源上に構築された仮想計算機上で動作してもよい。
【0032】
CPU11は、例えば、いずれも機能部である、X線画像取得部111、物品認識部112、物品学習部113、イベント生成部114、画面表示部115、及び物品登録部116を含む。
【0033】
X線画像取得部111は、装置本体2から入力インターフェース14を介して、X線画像データを受信し、取得したデータからX線画像を取得(生成)する。X線画像取得部111によるX線画像データの取得方法の一例を説明する。
【0034】
例えば、装置本体2に設けられている前述した2種類のX線センサから所定のRAWデータがX線画像処理装置1に入力される場合、X線画像取得部111は、高エネルギのX線透過量と、低エネルギのX線透過量と、の間の差分に基づいて、金属、無機物、有機物、又はその他の4種類のいずれかにX線画像の各画素(に撮影されている材質)を分類する。
【0035】
X線画像取得部111は、例えば、物品の材質を所定の色で示し、X線透過量(物品の密度)を色の濃さで示した所定のカラー画像を生成する。なお、表示装置3の表示画面をキャプチャしたデータを、X線画像取得部111が取得するようにしてもよい。
【0036】
また、装置本体2に複数の荷物が連続して投入される場合、X線画像取得部111は、例えば下記の3つのいずれかの分割方法を用いて、撮影対象の荷物ごとにX線画像のデータを分割してもよい。
【0037】
第1の分割方法では、X線画像取得部111は、X線透過量が所定値以下である部分を荷物エリアとして特定する。第1の分割方法は、装置本体2に設けられたVGA出力端子等からX線画像処理装置1に所定形式のRAWデータが入力される場合に用いられる。
【0038】
第2の分割方法では、X線画像取得部111は、X線透過量の積分値(X線画像上の所定ライン又は所定時間での積分値)に基づいて、X線画像を荷物ごとに分割する。第3の分割方法では、装置本体2が荷物検知センサを備え、X線画像取得部111は、荷物検知センサが荷物を検知した時刻と、荷物を検知しなくなった時刻と、を装置本体2から取得し、取得した時刻に基づいて、X線画像を荷物ごとに分割する。
【0039】
物品認識部112は、例えば、AI(Artificial Intelligence)による深層学習のセグメンテーション技術に基づいて、X線画像上の物品を画素単位で認識する。物品認識部112は、後述する物品認識モデル161に、X線画像を入力することで、当該X線画像に含まれる物品のカテゴリを判別し、さらに当該物品のX線画像上の位置(座標)を特定する。
【0040】
また、物品認識部112は、物品認識モデル161に、X線画像を入力することで、物品のカテゴリの判別結果における信頼度も算出する。信頼度は、物品のカテゴリの判別結果をどの程度信頼してよいかを示す指標である。信頼度が高いほど、物品のカテゴリの判別結果が正しい可能性が高い。
【0041】
なお、物品認識部112は、X線画像内に含まれる物品に対して複数のカテゴリを出力可能であってもよいが、この場合、例えば、当該複数のカテゴリのうち最も信頼度が高いカテゴリを当該物品のカテゴリとして選択する。また、例えば、物品認識部112は、信頼度が高い順に所定数のカテゴリを当該物品のカテゴリとして選択してもよいし、信頼度が所定値以上のカテゴリを全て当該物品のカテゴリとして選択してもよい。
【0042】
また、物品認識部112は、X線画像内の物品を認識する処理において、OSS(Open Source Sortware)のライブラリであるFully Convolutional Instance-aware Semantic SegmentationやMask R-CNNを適宜用いてもよい。
【0043】
物品学習部113は、例えば、AIによる深層学習のセグメンテーション技術に基づいて、学習データ163を学習することで、物品認識モデル161を生成及び更新する。イベント生成部114は、X線画像上の物品の認識結果が、イベントの発生条件を満たすと判定した場合に、イベント内容を表示装置5に表示したり、音声で通知したりする。
【0044】
画面表示部115は、検査員向けの情報を表示装置3に表示し、来場者向けの情報を表示装置5に表示する。画面表示部115は、表示装置3には、X線画像及び物品認識部112による認識結果など、検査に必要な情報を表示し、表示装置5には、X線画像に基づいて生成した来場者が楽しめる荷物情報や、イベント内容を表示する。物品登録部116は、イベントの発生条件に関連し得る物品を登録する。
【0045】
例えば、CPU11は、メモリ12にロードされたX線画像取得プログラムに従って動作することで、X線画像取得部111として機能し、メモリ12にロードされた物品認識プログラムに従って動作することで、物品認識部112として機能する。CPU11に含まれる他の機能部についても、プログラムと機能部の関係は同様である。
【0046】
なお、CPU11に含まれる機能部による機能の一部又は全部が、例えば、ASIC(Application Specific Integrated Circuit)やFPGA(Field-Programmable Gate Array)等のハードウェアによって実現されてもよい。
【0047】
補助記憶装置16は、例えば、物品認識モデル161、X線画像蓄積データ162、学習データ163、物品属性データ164、及びイベントデータ165を保持する。物品認識モデル161は、X線画像が入力されると、当該X線画像に映っていると推測される物品のカテゴリと、当該X線画像において当該カテゴリの物品が映っていると推測される位置と、当該物品のカテゴリの信頼度と、を出力する。物品認識モデル161は、深層学習等に基づく所定のパラメータを含む。
【0048】
X線画像蓄積データ162には、例えば、後述する物体認識処理において撮影されたX線画像が所定期間格納される。また、X線画像蓄積データ162には、例えば、X線画像が撮影された日時も併せて格納されるとよい。
【0049】
学習データ163は、物品認識モデル161を生成するための学習データであり、例えば、アノテーションされたX線画像を含み、当該アノテーションは、当該X線画像に含まれる物品のカテゴリと、当該カテゴリの物品の当該X線画像内における位置と、を示す。物品属性データ164は、イベント発生の対象となり得る物品に関する情報を示す。イベントデータ165は、イベントに関する情報を示す。
【0050】
なお、補助記憶装置16に格納されている一部又は全部の情報は、メモリ12に格納されていてもよいし、当該装置に接続されているデータベースに格納されていてもよい。また、本実施形態において、X線画像処理システムが使用する情報は、データ構造に依存せずどのようなデータ構造で表現されていてもよい。本実施形態ではテーブル形式で情報が表現されているが、例えば、リスト、データベース又はキューから適切に選択したデータ構造体が、情報を格納することができる。
【0051】
図3は、物品属性データ164のデータ構成例を示す図である。物品属性データ164は、例えば、物品ID欄1641、物品カテゴリ欄1642、認識対象種別欄1643、第1閾値欄1644、及び第2閾値欄1645を含む。
【0052】
物品ID欄1641は、物品を識別するIDを保持する。物品カテゴリ欄1642は、物品のカテゴリの名称を示す情報を保持する。認識対象種別欄1643は、物品が特殊物品であるか禁止物品であるかを示す情報を保持する。特殊物品は、X線検査装置100が設置されている施設への持ち込みが禁止されていない物品であって、イベントの発生条件に関連し得る物品である。禁止物品は、X線検査装置100が設置されている施設への持ち込みが禁止されている物品である。
【0053】
第1閾値欄1644は、当該物品の認識結果に付与される信頼度に対する第1閾値を保持する。第2閾値欄1645は、当該物品の認識結果に付与される信頼度に対する第2閾値(第1閾値よりも大きい値である)を保持する。図3の例では、特殊物品に対しては複数の閾値(第1閾値及び第2閾値)が設定され、禁止物品に対して1つの閾値(第1閾値)が設定されているが、一部又は全部の特殊物品に対して1つ閾値のみが設定されてもよいし、一部又は全部の禁止物品に対して複数の閾値が設定されてもよい。
【0054】
第1閾値及び第2閾値は、当該物品がX線画像に含まれているかを判定するための信頼度の基準となる閾値、つまり認識結果を棄却するか採用するかを決定するための信頼度に対する閾値である。物品認識モデル161にX線画像が入力された場合に、ある物品のカテゴリの信頼度が第1閾値以上であれば、X線画像に当該物品が確実に含まれていると判定でき、当該信頼度が第2閾値以上(かつ第1閾値未満)であれば、当該X線画像に当該物品が確実に含まれているとまではいえないが含まれているかもしれないと判定できる。
【0055】
なお、禁止物品に対して、第2閾値のみが設定されていてもよい、つまり禁止物品が確実に含まれているといえる信頼度が出力された場合にのみ、X線画像に禁止物品が含まれているという認識結果が採用されてもよい。これにより、禁止物品が含まれていないX線画像から禁止物品が検知される頻度を低下させることができる。
【0056】
図4は、イベントデータ165のデータ構成例を示す図である。イベントデータ165は、例えば、イベント内容データ1650と、ラッキーアイテムデータ1657と、を含む。イベント内容データ1650は、例えば、イベント名欄1651、対象物品欄1652、発生条件欄1653、発生フラグ欄1654、イベント種別欄1655、及びイベント内容欄1656を含む。
【0057】
イベント名欄1651は、イベントの名称を示す情報を保持する。対象物品欄1652は、当該イベントの発生条件に関連する物品を示す情報(物品ID又は後述するラッキーアイテムIDのいずれか)を保持する。図4の例では、対象物品欄1652に1つの物品を示す情報が格納されているが、複数の物品を示す情報が格納されてもよい。
【0058】
発生条件欄1653は、イベントの発生条件を示す情報を保持する。発生条件の例として、1種類の対象物品が1つ検知されたことや、1種類の対象物品が複数個検知されたこと等がある。また、対象物品欄1652に複数のカテゴリの物品を示す情報が登録されている場合には、発生条件の例として、当該複数の物品の少なくとも一部が検知されたことや、当該複数の物品の全てが検知されたことや、当該複数のカテゴリの物品それぞれについての検知がAND条件やOR条件によって組み合わされたもの等がある。
【0059】
発生フラグ欄1654は、当該イベントが発生するかを示す発生フラグを保持する。発生条件が満たされ、かつ発生フラグが「1」である場合にイベントが発生する(つまり、発生フラグが「0」であれば、発生条件が満たされても対応するイベントは発生しない)。なお、対象物品が禁止物品であるイベントに対応する発生フラグは「1」のみが設定可能であってもよい。
【0060】
イベント種別欄1655は、イベントの種別を示す情報を保持する。禁止物品である対象物品に対してはイベント内容データ1650において禁止物品対応ご案内イベントが定義され、特殊物品である対象物品に対してはイベントデータ165において楽しみイベント(第1種イベントの一例)及び特殊物品確認イベント(第2種イベントの一例)が定義される。つまり、禁止物品である対象物品に対応するイベント種別欄1655には禁止物品対応方法ご案内イベントを示す「禁止物品対応」が格納され、禁止物品である対象物品に対応するイベント種別欄1655には特殊物品確認を示す「特殊物品対応」及び楽しみイベントを示す「楽しみ」が格納されている。
【0061】
禁止物品対応ご案内イベントは、例えば、荷物に含まれる禁止物品への対応を、来場者に案内するイベントである。特殊物品確認イベントは、例えば、荷物に特殊物品が含まれているかを、来場者に確認させるイベントである。楽しみイベントは、来場者に特殊物品に関連するイベントであり、かつ来場者に利益を提供するイベントである。なお、楽しみイベントが提供する利益は、クーポンやプレゼント等の金銭的な利益や物質的な利益のみならず、来場者を楽しませる等の精神面に与えられる利益も含む。
【0062】
イベント内容欄1656は、イベントの内容を示す情報を保持する。発生したイベントにおいて、例えば、イベント内容欄1656に記述されたメッセージが表示装置5に表示されたりスピーカから出力されたりする。但し、イベント内容欄1656<>が記述されている場合、発生したイベントにおいて、例えば、<>の外部に記述されたメッセージと併せて<>の内部に示すキャラクタの画像が表示装置5に表示されたり、<>の内部に示すキャラクタの声で<>の外部に記述されたメッセージがスピーカから出力されたりする。
【0063】
ラッキーアイテムデータ1657は、例えば、ラッキーアイテムを識別するラッキーアイテムIDを示すラッキーアイテムID欄1658と、ラッキーアイテムである物品IDを示す物品ID欄1659と、を含む。なお、物品ID欄1659には、特殊物品の物品IDのみが格納可能である、即ち特殊物品はラッキーアイテムになり得るものの禁止物品はラッキーアイテムになり得ない。
【0064】
<X線画像処理装置1による処理>
以下、X線画像処理装置1によって実行される処理について説明する。X線画像処理装置1によって実行される処理は、事前登録処理と、物品認識処理と、を含む。
【0065】
<事前登録処理>
図5は、事前登録処理の一例を示すフローチャートである。事前登録処理では、物品学習部113が、登録対象のカテゴリの物品が写っている大量のX線画像を含む学習データ163に基づいて、X線画像上の物品の見た目を学習し、物品認識モデル161を更新する。以下、事前登録処理の詳細を説明する。
【0066】
X線画像取得部111は、登録対象の物品のカテゴリを選定し、当該カテゴリの物品が撮影された複数のX線画像を取得する(S501)。具体的には、例えば、X線画像取得部111は、入力装置4へのユーザ(事前登録処理におけるユーザは、例えば、検査員やX線画像処理装置1の管理者等である)の入力を介して登録対象物品のカテゴリ名と、登録対象物品が禁止物品であるか特殊物品であるかを示す情報と、を取得し、装置本体2から受信した当該物品を撮影したX線RAWデータからX線画像を取得する。
【0067】
なお、同じカテゴリの物品を撮影したX線画像であっても、撮影方向や物品の重なりなどによって当該物品の見え方が違うため、装置本体2は、当該物品に対する撮影方向や、当該物品と他の物品との重なり方等が異なる複数(例えば100枚程度)のX線画像を撮影する。なお、物品認識モデル161の学習のために一定数のX線画像が必要であるため、X線画像取得部111は、登録対象のカテゴリの物品の複数のX線画像を複数枚取得している。なお、登録対象のカテゴリの物品には特定のパターン(例えば、一般的な物品には埋め込まれていない形状のパターン)が埋め込まれてもよく、この場合、当該特定のパターンのX線画像が当該物品のX線画像として撮影されてもよい。
【0068】
図6A及び図6Bは、物品に埋め込まれるパターンの一例を示す図である。パターン610は例えば金属製のプレートであり、パターン620は例えば金属製の立体物である。特に、例えば、X線画像に映り込みにくい物品にこのようなパターンが埋め込まれることにより、物品認識モデル161による当該物品の認識が可能となる。また、例えば、形状の異なる複数のパターンを用意することで、当該異なるパターンが埋め込まれた複数の物品を区別してイベントを発生することが可能となる。
【0069】
図5の説明に戻る。物品認識部112は、既存の(つまり登録対象のカテゴリの物品についての学習が行われていない)物品認識モデル161と、ステップS501で取得した登録対象のカテゴリの物品のX線画像と、を用いた誤検知判定を実行する(S502)。
【0070】
具体的には、例えば、物品認識部112は、既存の物品認識モデル161に対して、ステップS501で取得した登録対象のカテゴリの物品の複数のX線画像それぞれを入力した場合に、他のカテゴリの物品(例えば、物品認識モデル161に登録済みのカテゴリであってもよいし、物品属性データ164に登録済みの禁止物品や特殊物品のカテゴリであってもよい)が含まれると判定される割合(以下、誤検知割合とも呼ぶ)を算出する。
【0071】
なお、誤検知割合の算出において、他のカテゴリの物品が含まれるかを判定するための信頼度閾値として、物品属性データ164が示すカテゴリごとの第1閾値が用いられてもよいし、物品属性データ164が示すカテゴリごとの第2閾値が用いられてもよいし、カテゴリに関わらず所定の閾値が用いられてもよい。
【0072】
例えば、登録対象物品が、禁止物品や特殊物品などの物品認識モデル161に登録済の物品と、X線画像における見た目が似ている場合に、仮に当該登録対象物品のカテゴリを物品認識モデル161に追加すると、当該登録対象物品のX線画像が物品認識モデル161に入力された場合に別の禁止物品や特殊物品と誤検知されてしまう可能性が高くなり、不適当なイベントが発生する可能性が高くなる。このような登録対象物品が、(特に特殊物品として)登録されることは望ましくないため、ステップS502における誤検知判定が実行される。
【0073】
なお、ステップS501で取得されたX線画像に登録対象物品に加えて当該登録対象物品と異なる物品が写っている場合には、例えば、当該X線画像内における当該登録対象物品の位置情報を(例えば、入力装置4を介したユーザからの入力によって)物品認識部112に与える等して、当該X線画像に含まれるどの物品がステップS502における誤検知判定の対象の物品であるかを物品認識部112が認識できるようにすることが望ましい。
【0074】
物品認識部112は、誤検知判定の結果に問題がないかを判定する(S503)。具体的には、例えば、物品認識部112は、誤検知割合が所定値未満であれば誤検知判定の結果に問題がないと判定し、誤検知割合が当該所定値以上であれば誤検知判定の結果に問題があると判定する。
【0075】
物品認識部112は、誤検知判定の結果に問題があると判定した場合(S503:NO)、ステップS501に戻る(即ち登録対象物品のカテゴリの再選定が行われる)。なお、物品認識部112は、誤検知判定の結果に問題があると判定した場合に、ステップS501に戻らずに事前登録処理を終了してもよい。
【0076】
物品認識部112が、誤検知判定において問題がないと判定した場合(S503:YES)、物品学習部113はステップS501で取得したX線画像を学習データ163に含め、当該学習データ163に基づいて、登録対象物品のカテゴリを新規カテゴリとして物品認識モデル161に追加するための物品認識モデル161の再学習を実行する(S504)。なお、本実施例では物品認識モデル161は、禁止物品と特殊物品のいずれの物品についてもカテゴリを認識可能であるが、禁止物品のカテゴリを認識可能な物品認識モデル161と、特殊物品のカテゴリを認識可能な物品認識モデル161と、が別々に用意されてもよい。
【0077】
また、物品認識モデル161の再学習には多くの時間を要するため、物品学習部113は、夜間などの物品認識処理を実行しない時間帯にバッチ処理で再学習を実行することが望ましい。
【0078】
また、再学習には、登録対象物品についてのアノテーションが行われたX線画像(当該アノテーションは、当該X線画像に含まれる当該登録対象物品のカテゴリと、当該登録対象物品の当該X線画像内における位置と、を示す)が必要となるが、例えば、ステップS501において入力装置4を介したユーザによる入力によって当該X線画像内の登録対象物品についてのアノテーションが行われてもよいし、ステップS501において登録対象物品のみが搭載されたトレイのX線画像が取得され、ステップS504において物品学習部113が、背景差分法やInteractive Segmentationなどの手法を用いた自動アノテーションを当該X線画像に対して実行してもよい。
【0079】
また、物品学習部113は、登録対象物品を数方向それぞれから撮影したX線RAWデータから抽出した登録対象物品の画像を、事前に用意した背景画像に合成することで、アノテーションを生成してもよい。例えば、特許文献(特開2021-026742号公報)に記載の方法で合成できる。
【0080】
物品認識部112は、ステップS504において再学習された物品認識モデル161と、X線画像蓄積データ162に含まれるX線画像と、を用いた過検知判定を実行する(S505)。具体的には、例えば、物品認識部112は、X線画像蓄積データ162に含まれるX線画像それぞれを、再学習された物品認識モデル161に入力した場合に、登録対象物品のカテゴリが含まれると判定される割合(以下、過検知割合とも呼ぶ)を算出する。なお、過検知割合の算出の時点では、当該登録対象物品に対応する第1閾値及び第2閾値が定められていないため、当該登録対象物品が含まれるかを判定するための信頼度閾値として、例えば、所定の閾値が用いられる。
【0081】
物品認識部112は、過検知判定の結果に問題がないかを判定する(S506)。具体的には、例えば、物品認識部112は、過検知割合が所定値未満であれば過検知判定の結果に問題がないと判定し、過検知割合が当該所定値以上であれば過検知判定の結果に問題があると判定する。
【0082】
なお、例えば、新発売されるキーホルダーが登録対象物品である場合、例えばステップS501において当該キーホルダーの発売日を示す情報が得られれば、当該発売日以前に当該キーホルダーが存在しないという仮定から、物品認識部112は、ステップS505における過検知割合の算出において、X線画像蓄積データ162に含まれるX線画像のうち当該発売日より前の画像のみを物品認識モデル161への入力対象とするとよい。
【0083】
また、発売日が不明の物品や、発売日が古い等の理由により発売日の指定が困難な物品が登録対象物品である場合には、物品認識部112は、例えば、入力装置4への入力を介して、ステップS505において物品認識モデル161に入力したX線画像のうち当該登録対象物品を含まない画像の割合を取得し、当該取得した割合を算出した過検知割合から引いた差が所定以上であるかをステップS506において判定してもよい。つまり、物品認識部112は、当該差が所定値未満であれば過検知判定の結果に問題がないと判定し、当該差が当該所定値以上であれば過検知判定の結果に問題があると判定してもよい。
【0084】
ステップS505における過検知判定が実行されることにより、物品認識処理において、当該登録対象物品が含まれていないX線画像が入力されたにも関わらず当該物品に対応するイベントが誤発生する確率を低下させることができる。
【0085】
物品認識部112は、過検知判定の結果に問題があると判定した場合(S506:NO)、再学習後の物品認識モデル161を破棄して、再学習前の状態に戻し(S509)、ステップS501に戻る(即ち登録対象物品のカテゴリの再選定が行われる)。なお、ステップS509の処理のために、ステップS504における再学習が実行される前に、再学習前の物品認識モデル161についても一時保存しておくことが望ましい。また、物品認識部112は、ステップS509の処理を実行した後、ステップS501に戻らずに事前登録処理を終了してもよい。
【0086】
なお、物品認識部112は、過検知判定の結果に問題があると判定した場合に、例えば、ステップS505における過検知判定に用いたX線画像であって、登録対象物品が含まれていると判定された一部のX線画像をランダムで表示装置3に表示する等して、ユーザに確認させてもよく、このとき過検知判定の結果に問題があるかを示す確認結果の入力をユーザから入力装置4を介して受け付けてもよい。物品認識部112は、当該確認結果が過検知判定の結果に問題があることを示していればステップS509に遷移し、当該確認結果が過検知判定の結果に問題がないことを示していれば、後述のステップS507に遷移するようにしてもよい。
【0087】
物品認識部112が、過検知判定の結果に問題がないと判定した場合(S506:YES)、物品学習部113は信頼度閾値を調整する(S507)。具体的には、例えば、物品認識部112は、ステップS501で取得した一部のX線画像を評価用画像としてランダムサンプリングし(当該評価用画像は、ステップS506における学習には用いられないことが望ましい)、評価用画像を用いて当該登録対象物品のカテゴリを認識する物品認識モデルを生成し、当該生成したモデルと評価用画像とを用いて、例えば、再現率が95%以上になる信頼度閾値を第1閾値(X線画像に登録対象物品が確実に含まれているといえる信頼度)として取得し、再現率が50%以上になる信頼度閾値を第2閾値(X線画像に登録対象物品が確実に含まれているとまではいえないが含まれているかもしれないといえる信頼度)として取得する。
【0088】
なお、物品認識部112は、入力装置4を介したユーザからの入力に従って、第1閾値と第2閾値とを取得してもよい。また、登録対象物品が禁止物品である場合には、後述する物品認識処理において検知漏れが発生することは望ましくないため、第1閾値のみが設定されることが望ましい。
【0089】
続いて、物品登録部116は、物品属性データ164に物品を登録し、イベント生成部114は、当該登録した物品に関するイベントをイベントデータ165に登録し(S508)、事前登録処理を終了する。
【0090】
ステップS508において、具体的には、例えば、物品登録部116は、物品IDを生成し、当該物品IDと、登録対象物品のカテゴリと、認識対象種別と、第1閾値と、第2閾値と、を物品属性データ164に登録する。また、イベント生成部114は、イベント名、イベント種別(但し、登録対象物品が禁止物品である場合には「禁止物品対応」のみが選択可能であり、登録対象物品が特殊物品である場合には「特殊物品確認」及び「楽しみ」が選択可能である)、当該登録対象物品の物品ID、イベント発生条件、及びイベント内容、の入力を、入力装置4を介して受け付け、当該入力された情報をイベント内容データ1650に登録する。
【0091】
また、ステップS508において、イベント生成部114は、当該登録対象物品に関するイベントについての情報のみならず、ラッキーアイテムに関するイベントについての情報も登録してもよい。具体的には、例えば、イベント生成部114は、イベント名、イベント種別(但し、禁止物品がラッキーアイテムになり得ないため、イベント種別として「特殊物品確認」又は「楽しみ」が選択可能である)、ラッキーアイテムID、イベント発生条件、及びイベント内容、の入力を、入力装置4を介して受け付け、当該入力された情報をイベント内容データ1650に登録する。
【0092】
なお、どの物品がラッキーアイテムであるかを来場者が推測しにくくなるように、ラッキーアイテムデータ1657の設定(即ちどの物品がラッキーアイテムに相当するかの設定)は事前登録処理において行われないことが望ましく、例えば、物品認識処理における後述するステップS701の処理(例えば、施設の毎日の営業開始時等に行われる処理)で行われることが望ましい。
【0093】
なお、登録対象物品が禁止物品である場合には、当該禁止物品に関する情報が確実に物品認識モデル161、物品属性データ164、及びイベントデータ165に登録されることが望ましいため、ステップS501からはステップS504に遷移し、ステップS505からはステップS504からはステップS507へと遷移することが望ましい。
【0094】
<物品認識処理>
図7は、物品認識処理の一例を示すフローチャートである。イベント生成部114は、イベントデータ165を設定する(S701)。具体的には、例えば、イベント生成部114は、入力装置4へのユーザ(例えば検査員やX線画像処理装置1の管理者)からの入力を介して、ラッキーアイテムデータ1657のラッキーアイテムを設定や、イベント内容データ1650の発生フラグの値の設定や、イベントデータ165の他の値の更新等を実行する。例えば、施設の毎日の営業開始時等にステップS701の処理が実行されることにより、その日に発生し得るイベントや、ラッキーアイテムが設定される。なお、イベント種別が「禁止物品対応」である、イベントについては発生フラグとして「1」のみが設定可能である(つまり、発生条件さえ満たされればイベントが実行される)ようにしてもよい。
【0095】
X線画像取得部111は、装置本体2から入力されたX線RAWデータから荷物のX線画像を取得する(S702)。物品認識部112は、ステップS701で取得したX線画像に対する物品認識を実行する(S703)。具体的には、例えば、物品認識部112は、ステップS701で取得したX線画像を物品認識モデル161に入力して、当該X線画像に含まれる物品のカテゴリと、当該物品に対応する信頼度と、当該物品の当該X線画像上の位置と、を物品認識結果として出力する。
【0096】
物品認識部112は、ステップS703における物品認識の結果、X線画像内に禁止物品が含まれているか(禁止物品に関するイベントの発生条件が満たされているか)を判定する(S704)。
【0097】
具体的には、例えば、物品認識部112は、ステップS703における物品認識結果において物品属性データ164が示す禁止物品に対応する物品のカテゴリが出力され、イベント内容データ1650において当該カテゴリに対応する発生フラグが「1」であるイベントが存在し、かつステップS703において出力された当該物品に対応する信頼度が、物品属性データ164が示す当該物品のカテゴリに対応する第1閾値以上である場合に、当該X線画像内に禁止物品が含まれていると判定し、そうでない場合に当該X線画像内に禁止物品が含まれていないと判定する。
【0098】
物品認識部112は、X線画像内に禁止物品が含まれていないと判定した場合(S704:NO)、後述するステップS707に遷移する。物品認識部112が、X線画像内に禁止物品が含まれていると判定した場合(S704:YES)、画面表示部115は、表示装置5(即ち来場者向けの画面)に禁止物品確認画面を表示する(S705)。
【0099】
図8は、禁止物品確認画面の一例を示す図である。表示装置5に表示された禁止物品確認画面には、例えば、ステップS702で取得されたX線画像が表示される。また、禁止物品確認画面には、ステップS703において含まれていると判定された禁止物品が表示されている位置(領域)を示す枠800と、来場者への指示を示すメッセージ810と、が表示されている。
【0100】
メッセージ810として、例えば、「これはペットボトルですか?ペットボトルでしたら枠内をタッチしてください。ペットボトルが無ければ10秒お待ちください。」等のように、X線画像内の禁止物品を来場者に確認させるためのメッセージが表示される(表示装置5は入力装置4としても機能するタッチパネルであるとする)。画面表示部115は、X線画像内に禁止物品が含まれないことを示すフィードバックを来場者から受け付けた場合(図8の例では、枠800がタッチされることなく10秒が経過した場合)には、例えば、当該フィードバックを示す情報を表示装置3に表示する等して、検査員に通知する。この場合、検査員が表示装置3又は表示装置5に表示されているX線画像を再確認し、検査員の判断で必要に応じて来場者に対して声がけを実施したり、来場者の荷物の中身を確認したりする。
【0101】
このように、禁止物品確認画面が表示されることで、来場者自身が禁止物品の確認を実施するため、検査員の業務負荷を低減しつつ、来場者が楽しみながら禁止物品の検査をできる。
【0102】
図7の説明に戻る。画面表示部115は、X線画像内に禁止物品が含まれていることを示すフィードバックを来場者から受け付けた場合(図8の例では、枠800がタッチされた場合)には、イベント内容データ1650において当該物品に対応する禁止物品対応方法ご案内イベントを実行する(S706)。
【0103】
禁止物品対応方法ご案内イベントでは、例えば、当該禁止物品の廃棄やロッカーへの預け入れを案内するなどの対応を促す音声ガイドが、スピーカから出力されたり、表示装置5に表示されたりする。
【0104】
続いて、物品認識部112は、ステップS703における物品認識の結果、X線画像内に特殊物品が含まれているか(特殊物品に関するイベントの発生条件が満たされているか)を判定する(S707)。
【0105】
具体的には、例えば、物品認識部112は、ステップS703における物品認識結果において物品属性データ164が示す特殊物品に対応する物品のカテゴリが出力され、イベント内容データ1650において当該カテゴリに対応する発生フラグが「1」であるイベントが存在し、かつステップS703において出力された当該物品に対応する信頼度が、物品属性データ164が示す当該物品のカテゴリに対応する第1閾値以上である場合に、当該X線画像内に特殊物品が含まれていると判定し、そうでない場合に当該X線画像内に特殊物品が含まれていないと判定する。
【0106】
物品認識部112は、X線画像内に特殊物品が含まれていないと判定した場合(S707:NO)、後述するステップS711に遷移する。物品認識部112が、X線画像内に特殊物品が含まれるものの、その信頼度が低い(即ち当該特殊物品に対応する信頼度が第1閾値以上かつ第2閾値未満であると判定した場合)と判定した場合(S707:YES(信頼度低))、画面表示部115は、イベント内容データ1650において当該物品に対応する特殊物品確認イベントを実行する(S708)。
【0107】
物品認識結果が示す特殊物品についての信頼度が第1閾値以上であるものの第2閾値未満である場合には、当該特殊物品がX線画像内に含まれていない(又は誤って他の物品が当該特殊物品であると認識されている)可能性も低くないため、特殊物品確認イベントを発生させることで、検査員は特殊物品が荷物に含まれているかを、来場者を楽しませながら確認することができる。
【0108】
特殊物品確認イベントでは、「キャラクタAのキーホルダーを持ってる?」等の当該特殊物品が荷物に含まれているかを確認するためのメッセージが表示装置5に表示され、例えば、ユーザは表示装置5を介して当該メッセージに対するフィードバック(つまり、当該特殊物品が荷物に含まれているかを示すフィードバック)を表示装置5(例えば、表示装置5はタッチパネルであるとする)に入力する。
【0109】
画面表示部115は、当該特殊物品が荷物に含まれているかを当該フィードバック結果に従って確認する(S709)。画面表示部115は、当該特殊物品が荷物に含まれていないことを示すフィードバック結果を受け取った場合(S709:NO)、ステップS711に遷移する。
【0110】
画面表示部115は、当該特殊物品が荷物に含まれていることを示すフィードバック結果を受け取った場合(S709:YES)、イベント内容データ1650において当該物品に対応する楽しみイベントを実行する(S710)。楽しみイベントでは、当該特殊物品に関連付けられたメッセージであって、来場者に楽しませるようなメッセージが表示装置5に表示されたり、スピーカから出力されたりする。また、楽しみイベントにおいて、当該特殊物品に関連付けられた特典(例えば、クーポンを示す二次元コード)を表示装置5に表示する等してもよい。このような楽しみイベントによって、ユーザは荷物のX線検査を楽しんで受けることができる。
【0111】
なお、ステップS708における特殊物品確認イベントにおいて来場者が虚偽のフィードバックを入力するおそれもあるが、虚偽のフィードバックが入力されても楽しみイベントが発生するか否かが変わるだけであり、運用上の大きなリスクは発生しないため、検査員は当該フィードバック結果によって来場者への声がけや荷物の確認等をしなくてもよい。
【0112】
また、物品認識部112が、X線画像内に特殊物品が含まれ、かつその信頼度が高い(即ち当該特殊物品に対応する信頼度が第2閾値以上であると判定した場合)と判定した場合(S707:YES(信頼度高))、特殊物品が荷物に含まれていることを来場者に確認する必要がないため、ステップS710に遷移する。
【0113】
なお、図7の例では、禁止物品対応方法ご案内イベントと楽しみイベントとを異なるタイミングで表示しているが、同じ画面内に禁止物品対応方法ご案内イベントと楽しみイベントとを表示してもよい。
【0114】
図9は、禁止物品対応方法ご案内イベントと楽しみイベントとを同時に表示する画面の一例を示す図である。なお、図9の例では、X線画像において検知された物品がイラストに置き換えられて表示される。具体的には、例えば、禁止物品が悪いキャラクタのイラストや悪いイメージを与えるイラストに置き換えられ、特殊物品が当該特殊物品に関連するキャラクタのイラストや当該特殊物品のイラストに置き換えられて表示される。
【0115】
図9の例では、X線画像900において、禁止物品である刃物901、特殊物品である双眼鏡902、スプレーボトル903、及び乾電池905、並びに特殊物品かつラッキーアイテムである腕時計904が認識されている。
【0116】
このとき、実際に表示装置5には、禁止物品確認画面910が表示され、禁止物品確認画面910には、刃物901、双眼鏡902、スプレーボトル903、腕時計904、及び乾電池905に代えて、悪いイメージを与える蠍のイラスト911、双眼鏡のイラスト912、スプレーボトルのイラスト913、腕時計のイラスト914、及び乾電池のイラスト915が表示される。
【0117】
なお、これらのイラストが表示されると同時に発生中のイベント内容を示す音声がスピーカから出力されてもよい。なお、禁止物品及び特殊物品それぞれに対応するイラストは、例えば、図7の物品認識処理が開始する前に物品属性データ164に登録されている。X線画像を表示装置5にそのまま表示するのではなく、図9のように禁止物品や特殊物品をイラストに置き換えて表示することで、来場者は検査をより楽しむことができる。
【0118】
なお、このようなイラストへの置き換えは、禁止物品確認画面や、特殊物品確認イベントにおいても行われてもよいし、禁止物品対応方法ご案内イベントと楽しみイベントとが個別に発生する場合にも行われてもよい。
【0119】
図7の説明に戻る。X線画像取得部111は、X線検査が終了したかを判定する(S711)。X線画像取得部111は、例えば、営業終了時刻等の所定の時刻が到来した場合に、X線検査が終了したと判定してもよいし、入力装置4を介してX線検査終了指示の入力を受け付けた場合に、X線検査が終了したと判定してもよい。
【0120】
X線画像取得部111は、X線検査が終了したと判定した場合(S711:YES)、物品認識処理を終了する。X線画像取得部111は、X線検査が終了していないと判定した場合(S711:NO)、ステップS701に戻る。
【0121】
なお、ステップS708及びステップS709の処理が省略されてもよい。つまり、特殊物品確認イベントが発生しないようにしてもよい。この場合、イベント内容データ1650に特殊物品確認イベントが定義される必要はなく、また第2閾値が設定される必要もない。また、一部の特殊物品についてステップS708及びステップS709の処理が省略可能であってもよい。
【0122】
なお、ステップS704及びステップS707において、禁止物品や特殊物品がX線画像内に含まれ(発生条件が満たされ)、かつ発生フラグが「1」であれば、対応するイベントが必ず発生するものとしたが、例えば、イベントごとの発生確率が予め定められ、当該発生条件が満たされ、かつ発生フラグが「1」である場合に、対応するイベントの発生確率に従って、当該イベントが発生するようにしてもよい。
【0123】
但し、特殊物品及び禁止物品に対応するイベントの発生確率として、0より大きくかつ1以下の値をとることができるが、禁止物品に対応するイベントの発生確率は必ず1であるようにすることが望ましい。一方、特殊物品に対応するイベントについては、必ずしも発生しなくても運用上の大きな問題は発生しないため、発生確率が1未満に設定可能であってもよい。
【0124】
このように、発生確率が設定されていることにより、どの物品がイベントの対象物品であるかを来場者に推測させづらくなる。特に、例えば、クーポンを発行する等の来場者に特典を与える楽しみイベントについては、1未満の発生確率が設定されていることにより、施設の運営費用を低減させることができる。
【0125】
なお、例えば、施設に複数のX線画像処理システムが設置されている場合には、X線画像処理システムごとに、イベント内容データ1650の設定内容(例えば、イベントの対象物品)や、ラッキーアイテムデータ1657の設定内容を異ならせることにより、どの物品がイベントの対象物品であるかを来場者に推測させづらくなる。
【0126】
さらに、例えば、複数のX線画像処理システムのうちの一部においてのみ、例えば、ある特殊物品に対応するイベントの発生確率を高く設定しておくことにより、X線検査において特殊物品に対応するイベントが発生しやすいレーンと、特殊物品に対応するイベントが発生しにくいレーンと、を存在させることができる。特に、例えば、施設の端にあるレーン等のように来場者が向かいにくい所定のレーン等に対応するX線画像処理システムにおいて、特殊物品に対応するイベントの発生確率を他のレーンよりも高く設定しておくことにより、X線検査を受けるための来場者の混雑を分散させることができる。
【0127】
以上、本実施例のX線画像処理装置1は、禁止物品や特殊物品に対応する前述したイベントを実行することにより、来場者は、ネガティブな印象を抱きがちなX線検査を楽しんで受けることができる上に、検査員の業務負荷を低減することができる。
【0128】
また、本実施例のX線画像処理装置1は、特殊物品に関連する楽しみイベントを実行することにより、当該特殊物品に対する来場者の印象が良くなったり、当該特殊物品に対応する特典等を来場者が得たりするため、施設内での当該特殊物品に関連するお土産等の売り上げを増加させることができる。
【0129】
また、本実施例のX線画像処理装置1は、禁止物品確認画面を表示したり、特殊物品確認イベントを実行したりすることで、来場者とX線画像処理システムとの対話によって、X線画像検査結果(禁止物品や特殊物品が荷物に入っているか)を確定することでき、ひいては来場者を楽しませつつ検査員の業務負荷を低減することができる。
【0130】
なお、本発明は上記した実施例に限定されるものではなく、様々な変形例が含まれる。例えば、上記した実施例は本発明を分かりやすく説明するために詳細に説明したものであり、必ずしも説明した全ての構成を備えるものに限定されるものではない。また、ある実施例の構成の一部を他の実施例の構成に置き換えることも可能であり、また、ある実施例の構成に他の実施例の構成を加えることも可能である。また、各実施例の構成の一部について、他の構成の追加・削除・置換をすることが可能である。
【0131】
また、上記の各構成、機能、処理部、処理手段等は、それらの一部又は全部を、例えば集積回路で設計する等によりハードウェアで実現してもよい。また、上記の各構成、機能等は、プロセッサがそれぞれの機能を実現するプログラムを解釈し、実行することによりソフトウェアで実現してもよい。各機能を実現するプログラム、テーブル、ファイル等の情報は、メモリや、ハードディスク、SSD(Solid State Drive)等の記録装置、または、ICカード、SDカード、DVD等の記録媒体に置くことができる。
【0132】
また、制御線や情報線は説明上必要と考えられるものを示しており、製品上必ずしも全ての制御線や情報線を示しているとは限らない。実際には殆ど全ての構成が相互に接続されていると考えてもよい。
【符号の説明】
【0133】
1 X線画像処理装置、3 表示装置、4 入力装置、5 表示装置、11 CPU、12 メモリ、13 表示インターフェース、14 入力インターフェース、15 通信装置、16 補助記憶装置、111 X線画像取得部、112 物品認識部、113 物品学習部、114 イベント生成部、115 画面表示部、116 物品登録部、161 物品認識モデル、162 X線画像蓄積データ、163 学習データ、164 物品属性データ、165 イベントデータ
図1
図2
図3
図4
図5
図6A
図6B
図7
図8
図9