(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0011】
以下、図面を参照しながら、本発明にかかる画像処理システムと画像処理装置と画像処理方法と画像処理プログラムとの実施の形態について説明する。
【0012】
●画像処理システム●
先ず、本発明にかかる画像処理システムの実施の形態について説明する。
【0013】
図1は、本発明にかかる画像処理システム(以下「本システム」という。)の実施の形態を示す機能ブロック図である。
本システム1は、閉空間R内において棚などの収納場所に収納される物品を撮像した撮像画像と、後述する検索情報(物品情報データベースDB1)と、を照合することにより、物品の存在場所を特定する。本システム1は、複数の撮像装置10(1−n)と、画像処理装置20と、を有してなる。
【0014】
「閉空間R」とは、物品が移動可能な空間であって、複数の撮像装置10(1−n)が撮像する領域(空間)の集合である。
【0015】
「物品」とは、画像処理装置20により存在場所が特定される対象であって、例えば、書籍、書類、工具、備品など閉空間R内に収納可能な収納場所に収納可能な有体物である。
【0016】
図2は、本システム1が適用される閉空間Rの例を示す模式図である。
同図は、閉空間Rが、領域Aと領域Bと領域Cと領域Dとの4つの領域を備える1つの部屋であることを示す。領域A−Dは、本発明における個別閉空間の例である。同図は、領域Aに棚aと部屋の出入口とが、領域Bに棚bが、領域Cに棚cが、領域Dに棚dが、それぞれ配置されることを示す。棚a−dは、物品が収納される収納場所である。
【0017】
人Hm(
図6参照)は、領域Aを介してのみ、閉空間Rに出入可能である。領域Aに進入した人Hmは、領域Aに隣接した領域B,Dにのみ移動可能である。領域Aは、領域Bと領域Dとに隣接する。領域Bは、領域Aと領域Cとに隣接する。領域Cは、領域Bと領域Dとに隣接する。領域Dは、領域Aと領域Cとに隣接する。すなわち、例えば、人Hmが領域Aから領域Cに移動するとき、人Hmは、領域Bと領域Dのいずれかを通って領域Cに移動する。
【0018】
なお、閉空間の構成は、本実施の形態に限定されない。すなわち、例えば、閉空間は、1つの領域を備えてもよく、4つを超える領域を備えてもよい。閉空間は、1つの部屋に代えて、複数の部屋と通路とから構成される空間や、屋外などの開けた空間などでもよい。
【0019】
図1に戻る。
撮像装置10は、閉空間R内の所定の領域を撮像する。撮像装置10は、例えば、連続した静止画を撮像可能なカメラユニットである。複数の撮像装置10(1−n)は、閉空間R内に配置される。撮像装置10は、有線または無線の通信回線を介して、画像処理装置20に接続される。
【0020】
撮像装置10の撮像のタイミングや撮像の時間間隔は、画像処理装置20の画像処理結果に基づいて、制御される。撮像装置10により撮像された撮像画像は、通信回線を介して、画像処理装置20の後述する記憶部21に記憶される。
【0021】
複数の撮像装置10(1−n)のそれぞれは、閉空間Rを構成する複数の領域A−Dのいずれかに対応して配置される。各領域A−Dに対応して配置された複数の撮像装置10は、撮像装置群を構成する。すなわち、撮像装置群を構成する各撮像装置10は、閉空間Rを構成する各領域A−Dに対応する。
【0022】
なお、撮像装置は、動画を撮像するカメラユニットでもよく、静止画と動画とを撮像するカメラユニットでもよい。
【0023】
また、撮像装置は、通信トラフィックの軽減のため、画像処理装置に伝送する撮像画像を選択してもよい。すなわち、例えば、撮像装置は、連続して撮像された撮像画像同士を比較して両撮像画像に差分が無いときは、後に撮像された撮像画像を画像処理装置に伝送しなくてもよい。
【0024】
●画像処理装置
画像処理装置20は、本発明にかかる画像処理装置である。画像処理装置(以下「本装置」という。)20は、撮像装置10が撮像した撮像画像を処理する。本装置20は、例えば、閉空間Rとは別の空間に配置される。本装置20は、記憶部21と、撮像装置特定部22と、位置情報特定部23と、物品特定部24と、領域設定部25と、撮像装置制御部26と、を備える。
【0025】
なお、本装置は、撮像装置が配置される閉空間内に配置されてもよい。
【0026】
本装置20は、パーソナルコンピュータなどで実現される。本装置20では、本発明にかかる画像処理プログラム(以下「本プログラム」という。)が動作して、本プログラムが本装置20のハードウェア資源と協働して、後述する本発明にかかる画像処理方法(以下「本方法」という。)を実現する。
【0027】
なお、コンピュータ(不図示)に本プログラムを実行させることで、同コンピュータを本装置と同様に機能させて、同コンピュータに本方法を実行させることができる。すなわち、例えば、本方法は、撮像装置と通信するためのゲートウェイを備える通信機器や、クラウドサーバにおいても実行可能である。
【0028】
記憶部21は、本装置20が後述する本方法を実行するために必要な情報を記憶する手段である。記憶部21は、物品情報データベースDB1、時刻位置情報データベースDB2、標識情報データベースDB3や、撮像装置10が撮像した撮像画像などを記憶する。
【0029】
撮像装置特定部22は、記憶部21に記憶された撮像画像に基づいて、複数の撮像装置10(1−n)のうちの一部の撮像装置10(1、2、・・・)を位置特定撮像装置として特定する手段である。位置特定撮像装置とその特定方法とは、後述する。
【0030】
位置情報特定部23は、閉空間R内を移動する物品の位置情報を特定して、同位置情報を記憶部21に記憶する手段である。物品の位置情報の内容とその特定方法とは、後述する。
【0031】
物品特定部24は、複数の物品情報の中から撮像画像に撮像された物品の物品情報を特定して、記憶部21に記憶する手段である。物品情報の内容とその特定方法とは、後述する。
【0032】
領域設定部25は、閉空間Rを構成する各領域A−Dの設定を実行する手段である。各領域A−Dの設定の内容とその設定方法とは、後述する。
【0033】
撮像装置制御部26は、複数の撮像装置10のうち一部の撮像装置10が撮像した撮像画像に基づいて、複数の撮像装置10のうち他の一部の撮像装置10の動作を制御する手段である。撮像装置10の動作の制御方法については、後述する。
【0034】
●物品情報データベース
図3は、物品情報データベースDB1に記憶される物品情報の例を示す模式図である。
【0035】
「物品情報」は、物品ごとの情報であって、属性情報と検索情報とを含む。属性情報と検索情報とは、互いに関連付けられて、物品情報データベースDB1に記憶される。すなわち、例えば、本装置20は、検索情報を用いて物品情報データベースDB1を参照することで、同検索情報と関連付けて記憶されている属性情報を、物品情報データベースDB1から読み出すことができる。
【0036】
物品情報は、予め本システム1の管理者などにより入力端末(不図示)などを介して入力されて、物品IDと関連付けて記憶部21に記憶される。すなわち、例えば、本装置20は、検索情報を用いて物品情報データベースDB1を参照することで、同検索情報と関連付けて記憶されている物品IDを、物品情報データベースDB1から読み出すことができる。
【0037】
「物品ID」は、本装置20が物品情報を特定するために用いる識別情報である。物品IDは、物品(物品候補)ごとに割り当てられる。
【0038】
「属性情報」は、物品の属性に関する情報である。物品の属性は、例えば、書籍であれば、書籍のタイトル、出版社、著者、版数、発行年などである。属性情報は、物品の代表的な外観を示す画像(以下「代表画像」という。)を含む。
【0039】
「検索情報」は、本装置20が物品を特定するために参照する情報である。検索情報は、例えば、物品の候補画像と、特徴量情報と、文字情報と、を含む。
【0040】
「候補画像」は、本装置20が撮像画像から物品を特定するために参照する画像に関する情報である。候補画像は、物品を複数の方向からカメラやスキャナなどにより撮像した物品の全体的な外観(例えば、書籍の表表紙、背表紙、裏表紙など)を示す画像、物品の特徴的な部分(例えば、表紙の模様など)を撮像した画像などを含む。
【0041】
「特徴量情報」は、物品が備える特徴を、値を持つ要素として表した情報である。特徴量情報は、物品の色彩(所定の方向から見た物品の候補画像から抽出した色のヒストグラムや色の配置、色の数など)、物品の大きさ、物品の形状(物品全体の輪郭や、物品の特徴のある部分の輪郭など)などの情報を含む。
【0042】
「文字情報」は、物品の表面に付されている文字に関する情報である。文字情報は、例えば、書籍であれば、書籍のタイトル、著者、出版社などである。候補画像からOCRなどにより抽出された情報や、本システム1の管理者などが入力端末(不図示)などを介して入力した情報などが、文字情報として記憶部21に記憶される。
【0043】
なお、本装置は、インターネットなどの通信回線と接続する通信部を備え、通信回線を介して書籍データベースなどにアクセスして、書籍のタイトルなどをキーワードに検索した結果を文字情報として抽出してもよい。すなわち、例えば、本装置は、前述のOCRなどによる文字情報の抽出や管理者などによる文字情報の入力に加えて、あるいは、前述のOCRなどによる文字情報の抽出や管理者などによる文字情報の入力に代えて、インターネットなどの通信回線を介して接続するデータベースから文字情報を取得して、記憶部に記憶してもよい。
【0044】
同図は、例えば、物品ID「ID1」の物品に対して、属性情報「P10(代表画像)」「書籍」「PATENT」と、候補画像「P11」と、特徴量情報「H11」「148×210」と、文字情報「PATENT」と、が関連付けられて物品情報データベースDB1に記憶されていることを示す。
【0045】
●時刻位置情報データベース
図4は、時刻位置情報データベースDB2に記憶される時刻位置情報の例を示す模式図である。
【0046】
「時刻位置情報」は、ある時刻における物品の位置を示す情報である。時刻位置情報は、時刻IDと、物品IDと、位置情報と、を含む。時刻IDと物品IDと位置情報とは、互いに関連付けられて時刻位置情報データベースDB2に記憶される。すなわち、例えば、本装置20は、物品IDを用いて時刻位置情報データベースDB2を参照することで、同物品IDと関連付けて記憶されている位置情報を、時刻位置情報データベースDB2から読み出すことができる。
【0047】
「時刻ID」は、撮像装置10が撮像画像を撮像した時刻を、本装置20が特定するために用いる識別情報である。時刻IDは、本発明における撮像時刻情報の例である。
【0048】
「位置情報」は、物品の存在が特定された位置に関する情報である。
【0049】
同図は、例えば、時刻ID「T1」と、物品ID「ID2」と、位置情報「棚c」「上段」「左側」と、が関連付けられて時刻位置情報データベースDB2に記憶されていることを示す。
【0050】
なお、時刻位置情報データベースは、物品ごとに個別に作成されてもよい。
【0051】
●標識情報データベース
図5は、標識情報データベースDB3に記憶される標識情報の例を示す模式図である。
【0052】
「標識情報」は、閉空間R内に配置される標識に関する情報である。「標識」は、閉空間R内に配置されて、閉空間R内における位置を示す記号や図形、文字、二次元バーコード、色(文字、図形、記号、棚や床の一部の色など)などの目印である。
【0053】
標識情報は、標識IDと標識画像情報と標識位置情報とを含む。標識IDと標識画像情報と標識位置情報とは、互いに関連付けられて標識情報データベースDB3に記憶される。すなわち、例えば、本装置20は、標識画像情報を用いて標識情報データベースDB3を参照することで、同標識画像情報と関連付けて記憶されている標識位置情報を、標識情報データベースDB3から読み出すことができる。
【0054】
「標識ID」は、本装置20が標識を特定するために用いる標識ごとの識別情報である。
【0055】
「標識画像情報」は、本装置20が標識を特定するために参照する標識の画像に関する情報である。
【0056】
「標識位置情報」は、標識ごとの閉空間Rでの場所(配置される位置)を特定する情報である。
【0057】
同図は、例えば、標識ID「M3」と、標識画像「c」と、標識位置「棚c」と、が関連付けられて標識情報データベースDB3に記憶されていることを示す。
【0058】
●本システムの動作
次に、本システム1の動作について、1人の人Hmが
図2に示される閉空間Rに進入して、棚cに物品(書籍G)を収納して退出する場合を例に説明する。
【0059】
図6は、人Hmが閉空間Rに進入して棚cに書籍Gを収納するまでの閉空間Rでの人Hmの動きを示す模式図である。同図は、書籍Gを手に持つ人Hmが領域A、領域Bを通り、領域Cにある棚cに移動したことを示す。
【0060】
撮像装置制御部26は、人Hmが閉空間Rに進入する前の領域A−Dごとの各撮像装置群の撮像間隔を一定の時間間隔に制御する。すなわち、各撮像装置10は一定の時間間隔で各領域A−Dを撮像し、撮像された撮像画像は記憶部21に記憶される。各領域A−Dは、各領域A−Dに対応する各撮像装置群により、多方向から同時に撮像される。領域設定部25は、人Hmが閉空間Rに進入する前の各領域A−Dを待機領域に設定する。「待機領域」は、領域内に人Hmが存在せず、物品の収納や持ち出しが行われる可能性のない領域である。
【0061】
なお、撮像装置制御部は、人が閉空間に進入する前、出入口を備える領域に対応する撮像装置群のみが一定の時間間隔で領域を撮像し、他の領域に対応する撮像装置群は撮像動作を停止するように各撮像装置を制御してもよい。すなわち、領域に対応する撮像装置群は、閉空間への人の進入を検知するセンサとしても機能する。
【0062】
また、各領域に対応する撮像装置群を構成する撮像装置のそれぞれは、各領域を同時に撮像しなくともよい。すなわち、例えば、各領域に対応する撮像装置群を構成する撮像装置のそれぞれは、撮像するタイミングをずらして各領域を撮像してもよい。
【0063】
次いで、人Hmが領域Aに進入すると、領域Aに対応して配置された撮像装置10により撮像された撮像画像の時系列の変化が生じる。そのため、領域設定部25は、領域Aに対応する撮像装置群の撮像画像に基づいて、領域Aを特定領域に設定する。「特定領域」は、撮像装置10により撮像された撮像画像の時系列の変化がある領域、すなわち、人Hmが存在する領域であって、物品の収納や持ち出しが行われる可能性のある領域である。
【0064】
「撮像装置10により撮像された撮像画像の時系列の変化」は、撮像装置10が異なる時刻に撮像した複数の撮像画像間の変化(差分)をいう。すなわち、例えば、撮像装置10がある時点で撮像した撮像画像と、撮像装置10がその時点から所定の撮像間隔が経過した次の時点で撮像した撮像画像と、が同じであれば、撮像画像の時系列の変化はなく、異なれば撮像画像の時系列の変化はある、と領域設定部25は判定する。
【0065】
撮像装置制御部26は、特定領域に対応する撮像装置群の撮像間隔を、待機領域に対応する撮像装置群の撮像間隔よりも短い時間間隔となるように制御する。
【0066】
撮像装置特定部22は、撮像装置10により撮像された撮像画像の時系列の変化がある撮像装置10(撮像装置群)を位置特定撮像装置として特定する。換言すれば、撮像装置特定部22は、複数の領域A−Dのいずれかの領域A−D(本実施の形態では領域A)に対応して配置された撮像装置10が撮像した撮像画像の時系列の変化に基づいて、同領域A−D(本実施の形態では領域A)に対応して配置された撮像装置10を位置特定撮像装置として特定する。「位置特定撮像装置」は、閉空間R内における物品の位置情報を特定するために用いる撮像画像を撮像した撮像装置である。すなわち、「位置特定撮像装置の特定」は、複数の撮像装置10(1−n)のうち、本装置20が物品特定処理(S3)と位置情報特定処理(S4)とに使用する撮像画像を撮像した撮像装置10を決定することを指す。
【0067】
位置特定撮像装置は、X軸位置特定撮像装置と、Y軸位置特定撮像装置と、Z軸位置特定撮像装置と、を含む。すなわち、撮像装置特定部22は、位置特定撮像装置の特定において、X軸位置特定撮像装置と、Y軸位置特定撮像装置と、Z軸位置特定撮像装置と、を特定する。「X軸位置特定撮像装置」は、閉空間Rの高さ方向であるZ軸方向(
図6の紙面手前奥方向)に直交するX軸方向(例えば、
図6の紙面左右方向)の物品の位置情報の特定に用いられる撮像画像を撮像する撮像装置10である。「Y軸位置特定撮像装置」は、Z軸方向とX軸方向のそれぞれと直交するY軸方向(例えば、
図6の紙面上下方向)の物品の位置情報の特定に用いられる撮像画像を撮像する撮像装置10である。「Z軸位置特定撮像装置」は、Z軸方向の物品の位置情報の特定に用いられる撮像画像を撮像する撮像装置10である。
【0068】
なお、位置特定撮像装置は、X軸方向、Y軸方向、Z軸方向以外の方向の物品情報の特定に用いられる撮像画像を撮像する撮像装置を含んでもよい。
【0069】
人Hmが領域Aに進入したとき、領域設定部25は、領域Aに隣接する領域B、Dを準備領域に設定する。「準備領域」は、次に人Hmが進入する可能性のある領域である。撮像装置制御部26は、準備領域に対応する撮像装置群の撮像間隔を、待機領域に対応する撮像装置群よりも短い時間間隔、かつ、特定領域に対応する撮像装置群よりも長い時間間隔となるように制御する。その結果、領域設定部25は、準備領域への人Hmの進入を早期に検知することができる。
【0070】
次いで、人Hmが領域Bに進入すると、領域Bに対応して配置された撮像装置10により撮像された撮像画像の時系列の変化が生じる。そのため、領域設定部25は、領域Bに対応する撮像装置群の撮像画像に基づいて、領域Bを特定領域に設定する。さらに、領域設定部25は、領域Bに隣接する領域A、Cを準備領域に設定し、領域Bに隣接しない領域Dを待機領域に設定する。
【0071】
次いで、人Hmが領域Cに進入すると、領域Cに対応して配置された撮像装置10により撮像された撮像画像の時系列の変化が生じる。そのため、領域設定部25は、領域Cに対応する撮像装置群の撮像画像に基づいて、領域Cを特定領域に設定する。さらに、領域設定部25は、領域Cに隣接する領域B、Dを準備領域に設定し、領域Cに隣接しない領域Aを待機領域に設定する。
【0072】
図7は、閉空間R内に配置される棚cに書籍Gが収納される様子を、棚cの正面方向から撮像した撮像画像の例を示す模式図である。同図は、棚cの一部と、棚cに収納される書籍G(物品)と、が人Hmにより隠れていることを示す。
【0073】
図8は、閉空間R内に配置される棚cに書籍Gが収納される様子を、棚cの右側(
図7の紙面左側)から撮像した撮像画像の例を示す模式図である。同図は、棚cに収納される書籍G(物品)の表表紙(検索情報)が撮像されていることを示す。
【0074】
図9は、閉空間R内に配置される棚cに書籍Gが収納される様子を、棚cの左側(
図7の紙面右側)方から撮像した撮像画像の例を示す模式図である。同図は、棚cに収納される書籍G(物品)の裏表紙(検索情報)が撮像されていることを示す。
図7−
図9の撮像画像は、領域Cに対応する撮像装置群に含まれる3台の撮像装置10(例えば、2台のY軸位置特定撮像装置と1台のX軸位置特定撮像装置)により撮像される。
【0075】
撮像装置群を構成する撮像装置10は、
図7−
図9に示されるように、領域に進入した人Hmの動作を多方向から撮像する。そのため、閉空間R内を移動する物品は、多方向から撮像される。すなわち、撮像装置群が撮像した撮像画像には、複数の検索情報が含まれる。その結果、本装置20は、複数の検索情報から物品を特定することができる。
【0076】
なお、撮像装置群が物品を撮像する方向は、
図7−
図9に示される方向に限定されない。すなわち、例えば、撮像装置群は、上方などから物品を撮像してもよい。
【0077】
図10は、棚cに書籍Gを収納した人Hmが閉空間Rの外に出るまでの閉空間Rでの人Hmの動きを示す模式図である。同図は、棚cに書籍Gを収納した人Hmが、領域D、領域Aを通り、出入口から閉空間Rの外に移動したことを示す。
【0078】
人Hmが領域Dに進入すると、領域Dに対応して配置された撮像装置10により撮像された撮像画像の時系列の変化が生じる。そのため、領域設定部25は、領域Dに対応する撮像装置群の撮像画像に基づいて、領域Dを特定領域に設定する。さらに、領域設定部25は、領域Dに隣接する領域A、Cを準備領域に設定し、領域Dに隣接しない領域Bを待機領域に設定する。
【0079】
次いで、人Hmが領域Aに進入すると、領域Aに対応して配置された撮像装置10により撮像された撮像画像の時系列の変化が生じる。そのため、領域設定部25は、領域Aに対応する撮像装置群の撮像画像に基づいて、領域Aを特定領域に設定する。さらに、領域設定部25は、領域Aに隣接する領域B、Dを準備領域に設定し、領域Aに隣接しない領域Cを待機領域に設定する。
【0080】
次いで、人Hmが閉空間Rから退出すると、領域設定部25は、領域A−Dを待機領域に設定する。
【0081】
このように、本装置20は、複数の撮像装置10(1−n)により撮像された撮像画像に基づいて、複数の撮像装置10(1−n)のうちの一部の撮像装置10を位置特定撮像装置として特定すると共に、特定領域に対応する撮像装置10が撮像した撮像画像に基づいて、他の領域に対応する撮像装置10の動作(例えば、撮像間隔)を制御する。
【0082】
●画像処理方法●
次に、本方法について説明する。
【0083】
図11は、本方法の実施の形態を示すフローチャートである。
本装置20は、本方法において、領域設定処理(S1)と、撮像装置特定処理(S2)と、物品特定処理(S3)と、位置情報特定処理(S4)と、を実行する。
【0084】
●領域設定処理
先ず、本装置20は、領域設定部25を用いて領域設定処理(S1)を実行する。「領域設定処理(S1)」は、本装置20が閉空間Rの各領域A−Dを、前述した待機領域、準備領域、特定領域のいずれかの領域に設定する処理である。領域設定処理(S1)は、領域A−Dごとに実行される。
【0085】
図12は、領域設定処理(S1)のフローチャートである。
【0086】
先ず、領域設定部25は、領域設定処理(S1)の対象となる領域(以下「対象領域」という。)が特定領域か否かを判定する(S11)。
【0087】
対象領域が特定領域のとき(S11のYes)、領域設定部25は、対象領域への特定領域の設定を維持する(S12)。
【0088】
一方、対象領域が特定領域ではないとき(S11のNo)、領域設定部25は、対象領域に隣接する領域(以下「隣接領域」という。)が特定領域か否かを判定する(S13)。
【0089】
隣接領域が特定領域のとき(S13のYes)、領域設定部25は、対象領域を準備領域に設定する(S14)。
【0090】
一方、隣接領域が特定領域ではないとき(S13のNo)、領域設定部25は、対象領域を待機領域に設定する(S15)。
【0091】
次いで、領域設定部25は、対象領域に対応する撮像装置群により撮像された撮像画像を記憶部21から読み出し、撮像画像の比較処理を実行する(S16)。「比較処理」は、対象領域に対応する撮像装置群により撮像された撮像画像のうち、最後に撮像された撮像画像と、その1つ前に撮像された撮像画像と、を、同撮像装置群を構成する撮像装置10ごとに比較する処理である。
【0092】
次いで、領域設定部25は、比較処理(S16)の結果、2つの撮像画像の間に時系列の変化、すなわち、差分が有るか否かを判定する(S17)。
【0093】
2つの撮像画像の間に時系列の変化が有るとき(S17のYes)、領域設定部25は、対象領域が特定領域か否かを判定する(S18)。
【0094】
対象領域が特定領域のとき(S18のYes)、領域設定部25は、対象領域の現在の領域設定(特定領域)を維持する(S19)。
【0095】
一方、対象領域が特定領域ではないとき(S18のNo)、領域設定部25は、対象領域を特定領域に設定する(S20)。
【0096】
2つの撮像画像の間に時系列の変化が無いとき(S17のNo)、領域設定部25は、隣接領域が特定領域か否かを判定する(S13)。
【0097】
このように、本装置20(領域設定部25)は、撮像装置10により撮像された撮像画像に基づいて、各領域A−Dの領域設定を変更する。
【0098】
なお、領域設定部は、撮像画像の時系列の変化に代えて、あるいは、撮像画像の時系列の変化に加えて、人や物品の動きを検知するセンサ(例えば、光電センサや焦電センサなど)の検知情報に基づいて、各領域の領域設定を変更してもよい。
【0099】
●撮像装置特定処理
次いで、本装置20は、撮像装置特定部22を用いて撮像装置特定処理(S2)を実行する。撮像装置特定処理(S2)は、複数の撮像装置10(1−n)の中から、前述した位置特定撮像装置を特定する処理である。撮像装置特定処理(S2)は、撮像装置10ごとに実行される。
【0100】
図13は、撮像装置特定処理(S2)のフローチャートである。
【0101】
先ず、撮像装置特定部22は、撮像装置10により撮像された撮像画像を記憶部21から読み出し、撮像画像の比較処理を実行する(S21)。比較処理は、前述した領域設定処理(S1)の比較処理(S16)と共通する処理である。
【0102】
次いで、撮像装置特定部22は、比較処理(S21)の結果、2つの撮像画像の間に時系列の変化(差分)が有るか否かを判定する(S22)。
【0103】
2つの撮像画像の間に時系列の変化が有るとき(S22のYes)、撮像装置特定部22は、同撮像画像を撮像した撮像装置10が位置特定撮像装置か否かを判定する(S23)。
【0104】
撮像装置10が位置特定撮像装置であるとき(S23のYes)、撮像装置特定部22は、同撮像装置10への位置特定撮像装置としての特定を維持する(S24)。
【0105】
一方、撮像装置10が位置特定撮像装置でないとき(S23のNo)、撮像装置特定部22は、同撮像装置10を位置特定撮像装置として特定する(S25)。特定後、撮像装置特定部22は、比較処理(S21)を実行する。
【0106】
2つの撮像画像の間に時系列の変化が無いとき(S22のNo)、撮像装置特定部22は、同撮像画像を撮像した撮像装置10が位置特定撮像装置か否かを判定する(S26)。
【0107】
撮像装置10が位置特定撮像装置であるとき(S26のYes)、撮像装置特定部22は、同撮像装置10への位置特定撮像装置としての特定を解除する(S27)。特定を解除後、本装置20は、比較処理(S21)を実行する。
【0108】
一方、撮像装置10が位置特定撮像装置でないとき(S26のNo)、撮像装置特定部22は、比較処理(S21)を実行する。
【0109】
このように、本装置20(撮像装置特定部22)は、複数の撮像装置10(1−n)により撮像されて記憶部21に記憶された撮像画像の時系列の変化に基づいて、複数の撮像装置10(1−n)のうちの一部の撮像装置10を位置特定撮像装置として特定する。
【0110】
●物品特定処理
次いで、本装置20は、物品特定部24を用いて物品特定処理(S3)を実行する。物品特定処理(S3)は、複数の撮像装置10(1−n)のうち、位置特定撮像装置に特定された一部の撮像装置10が撮像した撮像画像に基づいて、物品を特定する処理である。
【0111】
以下、物品特定処理(S3)について、領域Cに配置された棚c(
図2参照)に物品ID「ID1」の書籍が収納される場合を例に説明する。つまり、物品ID「ID1」の書籍は、本装置20が物品特定処理(S3)により特定する物品の例である。
【0112】
図14は、物品特定処理(S3)のフローチャートである。
【0113】
先ず、物品特定部24は、前述した領域設定処理(S1)において、対象領域(領域C)が特定領域に設定されたか否か(領域Cに人Hmが進入したか否か)を判定する(S31)。
【0114】
対象領域(領域C)が特定領域に設定されたとき(S31のYes)、物品特定部24は、特定領域に設定される直前に対象領域(領域C)に対応する撮像装置群により撮像された撮像画像のうち、棚cを正面から撮像した撮像画像を記憶部21から抽出して(S32)、同撮像画像を第1画像に設定する。すなわち、例えば、物品特定部24は、対象領域(領域C)に人Hmが進入する直前の棚cを正面から撮像した撮像画像を第1画像として特定する。
【0115】
図15は、第1画像の例を示す模式図である。
同図は、対象領域(領域C)に人が進入する直前の棚cと、棚cに収納されている物品(物品ID「ID2」「ID3」「ID4」「ID5」)と、を示す。
【0116】
図14に戻る。
対象領域(領域C)が特定領域に設定されていないとき(S31のNo)、物品特定部24は、対象領域(領域C)が特定領域に設定されるのを待つ。
【0117】
次いで、物品特定部24は、前述した領域設定処理(S1)において、対象領域(領域C)への特定領域の設定が解除されたか否か(対象領域(領域C)から人Hmが出たか否か)を判定する(S33)。
【0118】
対象領域(領域C)への特定領域の設定が解除されたとき(S33のYes)、物品特定部24は、特定領域の設定が解除された後に対象領域(領域C)に対応する撮像装置群により撮像された撮像画像を記憶部21から抽出して(S34)、同撮像画像を第2画像に設定する。すなわち、例えば、物品特定部24は、対象領域(領域C)から人Hmが出た直後に撮像された撮像画像のうち、棚cを正面から撮像した撮像画像を第2画像として特定する。
【0119】
なお、物品特定部は、対象領域への特定領域の設定が解除される前、例えば、対象領域から人が出る直前に、対象領域に対応する撮像装置群により撮像された撮像画像を第2画像として特定してもよい。すなわち、本発明における第2画像は、対象領域から人が出る前後の時間帯に撮像された撮像画像である。
【0120】
図16は、第2画像の例を示す模式図である。
同図は、対象領域(領域C)から人が出た直後の棚cと、棚cに収納されている物品(物品ID「ID1」「ID2」「ID3」「ID4」「ID5」)と、を示す。同図の二点鎖線は、後述する物品マッチング処理が実行される範囲の例を示す。
【0121】
図14に戻る。
次いで、物品特定部24は、第1画像と第2画像とを比較して(S35)、2つの画像が相違する(2つの画像の間に差分が有る)か否かを判定する(S36)。
【0122】
2つの画像の間に差分が有るとき(S36のYes)、物品特定部24は、判定領域の抽出を行う(S37)。「判定領域」は、第2画像のうち、第1画像と差分が有ると判定された部分と、その周囲と、により構成される第2画像内の閉じた領域である。物品特定部24は、第1画像と第2画像との差分に基づいて、第2画像内から判定領域を特定(抽出)する。本実施の形態においては、例えば、判定領域は、
図16に二点鎖線で示されるように、太い枠線に囲われた部分と、その周囲と、により構成される領域である。
【0123】
次いで、物品特定部24は、第2画像の物品マッチング処理を実行する(S38)。
【0124】
「物品マッチング処理」は、物品特定部24が物品情報データベースDB1に記憶されている検索情報を参照して、第2画像に撮像された物品を特定する処理である。物品マッチング処理は、例えば、周知のパターンマッチング法を用いて実行される。すなわち、例えば、物品特定部24は、物品情報データベースDB1に記憶されている検索情報(候補画像、特徴量情報、文字情報)を参照して、第2画像に撮像された物品の候補となるパターン(以下「物品候補パターン」という。)それぞれと比較する(S38)。比較の結果、物品候補パターンと検索情報の全部または一部(例えば、候補画像のみ)とが一致する割合が所定の閾値(以下「第1閾値」という。)を超えたとき、物品特定部24は、同検索情報に関連付けて記憶されている物品IDを、同物品候補パターンに対応する物品IDとして特定する(S39)。すなわち、物品特定部24は、撮像画像と検索情報(候補画像、特徴量情報、文字情報)とに基づいて、複数の物品候補の中から物品候補パターンに対応する物品を特定する。
【0125】
物品マッチング処理は、判定領域内の画像において実行される。その結果、第2画像の全ての範囲に物品マッチング処理を実行する場合と比較して、本装置20の処理負担は、軽減される。
【0126】
図16に示される例では、ある物品候補パターン(
図16で太い枠線に囲われた部分)は、物品情報データベースDB1(
図3参照)に記憶されている候補画像「P12」と、文字情報「PATENT」と、第1閾値以上の高い割合で一致する。そのため、物品特定部24は、同物品候補パターンに対応する物品の物品IDを「ID1」として特定する。物品特定部24は、特定した物品IDを記憶部21に記憶する。
【0127】
このように、物品特定部24は、位置特定撮像装置が撮像した撮像画像の時系列の変化に基づいて第1画像と第2画像とを抽出し、両画像の差分に基づいて抽出した判定領域内の画像と検索情報とに基づいて物品を特定する。
【0128】
なお、物品候補パターンと検索情報とが一致する割合が第1閾値を超えていないとき、物品特定部は、物品候補パターンと検索情報のうちの複数の情報(例えば、候補画像と文字情報)とが一致する割合が第2閾値を超えたか否かにより物品IDを特定してもよい。「第2閾値」は、第1閾値の値よりも小さい値に設定された閾値である。すなわち、例えば、物品候補パターンと候補画像とが一致する割合と物品候補パターンと文字情報とが一致する割合とが第2閾値を超え、かつ、同候補画像に関連付けて記憶されている物品IDと同文字情報に関連付けて記憶されている物品IDとが一致するとき、物品特定部は、同物品IDを物品候補パターンに対応する物品IDとして特定してもよい。
【0129】
また、物品候補パターンと検索情報とが一致する割合が第1閾値を超えていないとき、物品特定部は、第1閾値の値を小さくして、再度の物品マッチング処理を実行してもよい。
【0130】
さらに、物品特定処理は、判定領域の抽出を行わなくともよい。すなわち、例えば、物品マッチング処理は、第2画像の全ての範囲で実行されてもよい。
【0131】
さらにまた、物品マッチング処理により差分がある部分の物品(以下「対象物品」という。)が特定できないとき、本装置は、対象領域(領域C)に対応する撮像装置群により、棚cに物品が収納される直前の時刻に多方向(例えば、棚cの両側方)から撮像された複数の撮像画像を用いて、対象物品を推定する処理(以下「第1推定処理」という。)を実行してもよい。すなわち、例えば、本装置は、
図8に示されるように、棚cの前方(
図8の右方)に棚cと連続する物体(書籍Gと人Hm)が最初に認識された時刻を、棚cに物品が収納される直前の時刻と判定する。本装置は、棚cに物品が収納される直前の時刻に撮像された撮像画像に物品マッチング処理を実行して同撮像画像に撮像された物品を対象物品として推定する。
【0132】
さらにまた、物品マッチング処理により対象物品が特定できないとき、本装置は、第1画像が撮像された時刻と、第2画像が撮像された時刻(または、棚cに物品が収納される直前の時刻)と、の間の時刻に対象領域(領域C)に対応する撮像装置群により撮像された撮像画像に基づいて、対象物品を推定する処理(以下「第2推定処理」という。)を実行してもよい。すなわち、例えば、本装置は、各撮像画像に時系列順に物品マッチング処理を実行して各撮像画像に撮像された物品を特定する。次いで、本装置20は、特定された物品のうち、位置情報が変化した物品を対象物品として推定する。
【0133】
図17は、物品を持つ人Hmが領域C内を移動する様子を側方から撮像した撮像画像の例を示す模式図である。同図は、第2推定処理により特定された物品(書籍G)を太線で示す。同図は、第2推定処理により特定された物品(書籍G)の位置情報が変化した様子を示す。
【0134】
さらにまた、第1推定処理と第2推定処理とにより対象物品が特定できないとき、本装置は、閉空間に人が進入した時刻と、第1画像が撮像された時刻と、の間の時刻に特定撮像装置に設定された撮像装置により撮像された撮像画像に基づいて、対象物品を推定する処理を実行してもよい。
【0135】
さらにまた、物品マッチング処理と第1推定処理と第2推定処理とにより対象物品が特定できないとき、本装置は、対象物品が特定されるまで、第1閾値の値を順次小さくして、物品マッチング処理と第1推定処理と第2推定処理とを繰り返してもよい。
【0136】
さらにまた、物品マッチング処理と第1推定処理と第2推定処理とにより対象物品が特定できないとき、本装置は、物品マッチング処理と第1推定処理と第2推定処理のうち複数の処理において、一致の割合が第3閾値を超えたか否かにより、物品IDを推定してもよい。「第3閾値」は、第1閾値よりも小さい値に設定された閾値である。すなわち、例えば、物品マッチング処理と第1推定処理とにおいて一致の割合が第3閾値を超え、かつ、両処理により特定された物品IDが一致するとき、物品特定部は、同物品IDを物品候補パターンに対応する物品IDとして推定してもよい。
【0137】
●位置情報特定処理
次いで、本装置20は、位置情報特定部23を用いて、位置情報特定処理(S4)を実行する。位置情報特定処理(S4)は、複数の撮像装置10(1−n)のうち、位置特定撮像装置に特定された一部の撮像装置10が撮像した撮像画像に基づいて、物品特定処理(S3)により特定された物品の位置情報を特定する処理である。以下、位置情報特定処理(S4)について、物品特定処理(S3)と同様に、領域Cに配置された棚c(
図2参照)に物品ID「ID1」の書籍が収納される場合を例に説明する。
【0138】
図18は、位置情報特定処理(S4)のフローチャートである。
【0139】
先ず、位置情報特定部23は、標識マッチング処理を実行する(S41)。
【0140】
「標識マッチング処理」は、標識情報データベースDB3に記憶されている標識情報(標識画像)を参照して、第2画像に撮像された(含まれる)標識を特定する処理である。標識マッチング処理は、物品マッチング処理と同様に処理される。
【0141】
標識マッチング処理は、第2画像のうち、標識が配置されている部分と、その周囲と、において実行される。
【0142】
図16に示される例では、位置情報特定部23は、第2画像に撮像された標識画像「c」「c11」「c12」「c21」「c22」に基づいて、標識ID「M3」「M11」「M12」「M13」「M14」を特定する(S42)。
【0143】
なお、物品マッチング処理と標識マッチング処理とは、同時に実行されてもよい。すなわち、例えば、標識マッチング処理は、物品特定部が実行してもよい。
【0144】
次いで、位置情報特定部23は、物品マッチング処理により特定した物品の位置情報を特定する(S43)。物品の位置情報は、例えば、第2画像に撮像された標識の標識IDにより特定される。すなわち、例えば、本装置20は、標識マッチング処理において特定された標識ID「M3」に対応する標識位置情報に基づいて、物品ID「ID1」の物品の位置情報(物品の収納場所)を棚cに特定する。
【0145】
位置情報特定部23は、標識マッチング処理において特定された標識ID「M11」「M12」「M21」「M22」と、物品ID「ID1」の物品と、の相対的な位置関係から、物品ID「ID1」の物品の棚c内における位置情報を特定する。例えば、物品ID「ID1」の物品は、標識ID「M11」と「M21」とを結ぶ線よりも上方に位置し、標識ID「M12」と「M22」とを結ぶ線よりも下方に位置し、標識ID「M21」「M22」よりも標識ID「M11」「M21」寄りに位置する。その結果、位置情報特定部23は、各標識に対応する標識位置情報に基づいて、物品ID「ID1」の物品の位置情報を「中段」「左側」に特定する。
【0146】
次いで、位置情報特定部23は、位置特定撮像装置が第2画像を撮像した時刻(時刻ID「T2」)における物品の位置情報を更新する(S44)。すなわち、位置情報特定部23は、物品ID「ID1」と、時刻ID「T2」と、物品の位置情報「棚c」「中段」「左側」と、を関連付けて時刻位置情報データベースDB2に記憶する。
【0147】
図19は、位置情報が更新された時刻位置情報データベースDB2の例を示す模式図である。同図は、時刻ID「T2」と、位置情報「棚c」「中段」「左側」と、物品ID「ID1」と、が関連付けられて時刻位置情報データベースDB2に記憶されていることを示す。
【0148】
このように、本装置20(位置情報特定部23)は、位置特定撮像装置が撮像した撮像画像と、特定された標識に対応する標識位置情報と、に基づいて、物品の位置情報を特定し、物品の位置情報を時刻IDと物品IDと関連付けて記憶部21に記憶する。すなわち、時刻位置情報データベースDB2に記憶されている物品の位置情報と時刻情報とは、物品IDを介して、物品情報データベースDB1に記憶されている物品の属性情報と関連付けられる。その結果、本システム1の利用者は、所望の物品が、いつ、どこに収納されているかを検索することが可能となる。
【0149】
なお、本方法の各処理の流れは、本実施の形態に限定されない。すなわち、例えば、本方法は、領域設定処理と撮像装置特定処理とを平行して実行するなど、各処理を一連のシリーズ処理ではなく、パラレル処理として実行してもよい。すなわち、例えば、本方法は、ある領域に対して領域設定処理と撮像装置特定処理と物品特定処理とを同時に実行してもよい。あるいは、本方法は、ある領域に対して撮像装置特定処理を実行しつつ、別の領域に対して物品特定処理を実行してもよい。
【0150】
また、本装置(位置情報特定部)は、閉空間内における撮像装置の配置位置、撮像角度などに基づいて決定される撮像装置の撮像範囲(撮像領域)に関する情報(以下「撮像領域情報」という。)に基づいて、物品の位置情報を特定してもよい。すなわち、例えば、本装置(位置情報特定部)は、位置特定撮像装置が撮像した撮像画像と、位置特定撮像装置の撮像領域情報と、に基づいて、物品の位置情報を特定する。この場合、本装置(位置情報特定部)は、例えば、位置特定撮像装置の撮像範囲(撮像領域)を物品の位置情報として特定する。各撮像装置の撮像領域情報は、予め、記憶部に記憶される。
【0151】
さらに、本装置(位置情報特定部)は、撮像画像における物品に対応する画像が占める部分の座標(撮像画像内に物品が位置する座標(以下「物品座標」という。))に基づいて、物品の位置情報を特定してもよい。すなわち、例えば、本装置(位置情報特定部)は、位置特定撮像装置が撮像した撮像画像と、同撮像画像における物品座標と、に基づいて、物品の位置情報を特定する。
【0152】
●本システムの使用例
図20は、物品の検索画面の例を示す模式図である。
同図は、検索のキーワードとして、属性情報である「書籍」「PATENT」が入力された状態を示す。「検索画面」は、複数の物品の中から1の物品を検索するためのキーワードを受け付けるための画面であり、キーワードが入力される領域を含む。例えば、本システム1(本装置20)の利用者が物品の属性情報をキーワードとして検索したとき、本装置1は、同属性情報に関連付けられて記憶部21に記憶されている物品IDを特定して、同物品IDに関連付けられた属性情報と位置情報とを後述する検索結果表示画面に表示する。
【0153】
図21は、物品の検索結果表示画面の例を示す模式図である。
同図は、物品の属性情報をキーワードとして検索した結果、同属性情報に関連付けられた物品ID「ID1」の物品(書籍)の属性情報「P10」「書籍」「PATENT」・・・と、時刻ID「T2」と、位置情報「棚c」「中段」「左側」と、が関連付けられて表示されていることを示す。すなわち、同図は、物品ID「ID1」の物品が、時刻ID「T2」の時刻に、位置情報「棚c」「中段」「左側」に収納されていることを示す。「検索結果表示画面」は、キーワードによる検索の結果が表示される画面である。同図の「画像確認」ボタンは、検索により特定された物品が撮像された複数の撮像画像を、時系列に沿って(時系列順に)表示し、物品の状況を確認する画面(以下「画像確認画面」という。)を表示するボタンである。
【0154】
検索結果表示画面において画像確認ボタンが利用者により選択されると、本装置1は、物品IDに基づいて、物品IDと関連付けて記憶部21に記憶されている複数の撮像画像を記憶部21から抽出する。次いで、本装置1は、抽出された複数の撮像画像の表示順序を、物品IDと関連付けて記憶部21に記憶されている時刻IDに基づいて決定する。次いで、本装置1は、決定された表示順序に基づいて、抽出された複数の撮像画像をディスプレイなどの表示装置(不図示)に表示させる。すなわち、本装置1は、本発明における抽出部(不図示)と、本発明における表示順序決定部(不図示)と、本発明における表示部(不図示)と、を備える。
【0155】
図22は、物品の画像確認画面の例を示す模式図である。
同図は、3つの撮像画像Z−1,Z,Z+1が画像確認画面に時系列順に表示された状態を示す。撮像画像Zは、時刻ID「T2」の時刻において物品ID「ID1」の物品が撮像された撮像画像である。撮像画像Z+1は、時刻ID「T2」よりも後(直後)の時刻(例えば、時刻ID「T3」)において同物品が撮像された撮像画像である。撮像画像Z−1は、時刻ID「T2」よりも前(直前)の時刻(例えば、時刻ID「T1」)において同物品が撮像された撮像画像である。ここで、3つの撮像画像Z−1,Z,Z+1は、物品ID「ID1」に基づいて、抽出部により記憶部21から抽出される。3つの撮像画像Z−1,Z,Z+1の表示順序は、各撮像画像Z−1,Z,Z+1の時刻ID「T1」「T2」「T3」に基づいて、表示順序決定部により時系列順、つまり、例えば、撮像時刻の古い撮像画像から撮像時刻の新しい撮像画像の順、に決定される。
【0156】
この状態において、本システム1(本装置20)の利用者により撮像画像Z+1が選択されると、撮像画像Z+1とその前後の時刻に同物品が撮像された撮像画像とが画像確認画面に表示され、同利用者により撮像画像Z−1が選択されると、撮像画像Z−1とその前後の時刻に同物品が撮像された撮像画像とが画像確認画面に表示される。すなわち、例えば、撮像画像Z−1を選択すると、撮像画像Z−1が撮像された時刻よりも前(直前)の時刻において同物品が撮像された撮像画像Z−2(
図23参照)と、撮像画像Z−1と、撮像画像Zと、が画像確認画面に表示される。ここで、3つの撮像画像Z−2,Z−1,Zは、物品IDに基づいて、抽出部により記憶部21から抽出される。3つの撮像画像Z−2,Z−1,Zの表示順序は、時刻IDに基づいて、表示順序決定部により時系列順に決定される。
【0157】
図23は、物品の画像確認画面の別の例を示す模式図である。
同図は、
図22の画像確認画面で撮像画像Z−1が選択された結果、3つの撮像画像Z−2,Z−1,Zが画像確認画面に時系列順に表示された状態を示す。
【0158】
このように、複数の撮像画像を画像確認画面に時系列順に表示することにより、本システム1(本装置20)の利用者は、物品が収納場所に収納される前後の状況(誰が物品を収納し、誰が物品を持ち出したか、物品の移動経路など)を容易に確認することができる。
【0159】
また、本装置20は、
図22と
図23とに示されるように、異なる撮像装置10が異なる時刻に同一の物品を撮像した撮像画像(撮像画像Z,Z+1と撮像画像Z−1,Z−2)を物品IDと時刻IDとに関連付けて、画像確認画面に時系列順に表示する。すなわち、本装置20は、同物品を異なる撮像装置10が異なる時刻に撮像した複数の撮像画像を、物品の物品IDと時刻IDとに関連付けて時系列順に記憶部21に記憶する。換言すれば、記憶部21に時系列順に関連付けて記憶された複数の撮像画像は、複数の(異なる)撮像装置10が撮像した撮像画像を含む。その結果、本システム1(本装置20)の利用者は、物品が収納場所に収納される前後の状況をより詳細に確認することができる。
【0160】
なお、本装置は、検索により特定された物品が撮像された複数の撮像画像を、検索結果表示画面に時系列に沿って(時系列順に)表示してもよい。すなわち、例えば、本装置は、画像確認画面に時系列順に表示される撮像画像の前部または一部を、検索結果表示画面に表示してもよい。
【0161】
また、本装置は、検索により特定された物品が撮像された複数の撮像画像のうち、特定の撮像画像を検索結果表示画面に表示してもよい。この場合、本装置は、例えば、同複数の撮像画像のうち、最新の時刻に撮像された撮像画像や、同物品が収納場所に収納された時刻に撮像された撮像画像、物品候補パターンと検索情報との一致する割合が最も高い物品候補パターンを撮像した撮像画像(同物品に対して検索情報との一致率が最も高い撮像画像)、などを特定の撮像画像として検索結果表示画面に表示する。
【0162】
さらに、本装置は、前述した特定の撮像画像に撮像された被写体の一部、例えば、撮像画像に撮像されている人の顔など、を検索結果表示画面に表示してもよい。この場合、本装置は、例えば、公知の人の顔認識アルゴリズムを用いて各撮像画像に撮像された人の顔認識処理を実行して、人の顔の画像を各撮像画像に関連付けて記憶部に記憶する。
【0163】
さらにまた、本装置は、公知の人の顔認識アルゴリズムを用いて各撮像画像に撮像された人の顔認識処理を実行して、物品が収納場所に収納された時刻、あるいは、その前後の時刻に同物品と同時に撮像された人の顔の画像を検索結果表示画面に表示してもよい。すなわち、例えば、登録者と未登録者とに共通して利用される図書館などの閉空間において、本装置は、撮像画像に撮像された人が登録者(図書館の利用者登録を受けた人や司書など)のとき顔認識処理の結果で特定される登録者の情報(氏名、連絡先など)と人の顔の画像とを検索結果表示画面に表示し、撮像画像に撮像された人が未登録者(図書館の利用者登録を受けていない人など)のとき人の顔の画像を検索結果表示画面に表示してもよい。この場合、本装置は、登録者の画像(顔の画像)と氏名などの情報とを関連付けたデータベースを記憶部に記憶する。また、例えば、研究所のように閉空間の利用者を特定できる場合、本装置は、閉空間の利用者の顔の画像と氏名などの情報とが関連付けられたデータベースを記憶部に記憶して、顔認識処理の結果で特定される人の氏名を検索結果表示画面に表示してもよい。
【0164】
このように、本装置が人の顔の画像や氏名などの情報を検索結果表示画面に表示することで、本システム(本装置)の利用者は、誰が物品を収納し、誰が物品を持ち出したか、を容易に確認することができる。
【0165】
以上説明した検索結果表示画面や画像確認画面は、本装置が備えるディスプレイなどの表示装置(不図示)に表示されてもよく、あるいは、本装置がWEBサーバとして動作して、本装置と通信ネットワークを介して接続されるディスプレイなどに表示されてもよい。
【0166】
●まとめ●
以上説明した実施の形態によれば、本装置20は、複数の撮像装置10(1−n)のうち、位置特定撮像装置が撮像した撮像画像に基づいて、閉空間R内を移動する物品とその位置情報を特定し、同撮像画像を撮像した時刻を特定する時刻IDと関連付けて、記憶部21に記憶する。すなわち、本装置20は、本システム1を構成する撮像装置10のうち、位置特定撮像装置が撮像した撮像画像のみに基づいて、物品の位置情報を特定する。換言すれば、本装置20は、本システム1を構成する全ての撮像装置10が撮像した全ての撮像画像の画像処理をすることなく、物品とその位置情報とを特定することができる。つまり、物品の位置情報を特定するための本装置20による画像処理の処理負担は、軽減される。
【0167】
また、以上説明した実施の形態によれば、本装置20は、撮像装置10が撮像した撮像画像の時系列の変化に基づいて、撮像装置10を位置特定撮像装置として特定するか否かを決定する。すなわち、本装置20は、撮像画像に時系列の変化が無い限り、物品の位置情報を特定するための画像処理を実行しない。そのため、本装置20は、全ての撮像画像についてマッチング処理を実行する必要がなく、本装置20による画像処理の処理負担は軽減される。
【0168】
さらにまた、以上説明した実施の形態によれば、物品特定部24は、抽出した複数の撮像画像の差分に基づいて判定領域を抽出し、抽出された判定領域内の画像と候補画像とに基づいて物品(物品候補)を特定する。そのため、本装置20は、判定領域を含む撮像画像全体に物品マッチング処理を実行する必要が無く、本装置20による画像処理の処理負担は軽減される。また、物品マッチング処理を実行する領域が限定されるため、物品マッチング処理の精度が向上する。
【0169】
さらにまた、以上説明した実施の形態によれば、撮像装置特定部22は、複数の領域A−Dのいずれかの領域A−Dに対応して配置された撮像画像の時系列の変化に基づいて、位置特定撮像装置を特定する。また、物品特定部24は、位置特定撮像装置が撮像した撮像画像の時系列の変化に基づいて、複数の撮像画像を抽出する。そのため、本装置20は、抽出された画像にのみ物品マッチング処理を実行すればよく、本装置20による画像処理の処理負担は軽減される。
【0170】
さらにまた、以上説明した実施の形態によれば、本装置20は、X軸方向、Y軸方向、Z軸方向それぞれの物品の位置情報の特定に用いられる撮像画像を撮像した位置特定撮像装置を特定する。すなわち、例えば、本装置20は、ある軸方向からは撮像できない物品であっても、他の軸方向から撮像された撮像画像に基づいて、物品の位置情報(存在場所)を特定することができる。また、本装置20は、撮像画像に基づいて、物品のX軸、Y軸、Z軸における3次元的な位置情報を特定することができる。
【0171】
さらにまた、以上説明した実施の形態によれば、本装置20は、撮像画像に含まれる標識を特定し、同標識に対応する標識位置情報に基づいて物品の位置情報を特定する。そのため、本装置20は、撮像画像から空間的な座標を特定することなく、容易に物品の位置情報を特定することができる。
【0172】
さらにまた、以上説明した実施の形態によれば、本装置20は、閉空間Rを構成する複数の領域A−Dに対応して配置された撮像装置10の動作を制御する撮像装置制御部26を備える。撮像装置制御部26は、一部の撮像装置10が撮像した撮像画像に基づいて、他の一部の撮像装置10の撮像間隔を制御する。すなわち、例えば、位置特定撮像装置の撮像間隔を他の撮像装置10の撮像間隔よりも短い撮像間隔になるように制御することで、本装置20は、閉空間R内を移動する物品を確実に撮像して、物品の存在場所を特定することができる。
【0173】
このように、撮像装置10が撮像した撮像画像に対する本装置20の処理の負担は軽減されると共に、本装置20は物品の識別用の特別な手段を使用することなく物品の存在場所を特定する。
【0174】
なお、以上説明した実施の形態によれば、本装置20は、標識を用いて物品の位置情報を特定する構成であった。これに代えて、本装置は、標識を用いず、撮像画像に基づいて物品の位置情報を特定してもよい。すなわち、例えば、本装置は、撮像画像のピクセル情報や、X軸位置特定撮像装置とY軸位置特定撮像装置とZ軸位置特定撮像装置のそれぞれが撮像した撮像画像に基づいて、各軸方向の対象物品の位置情報(座標)を特定してもよい。この場合、例えば、本装置は、Z軸位置特定撮像装置が撮像した撮像画像に基づいて、対象物品が収納された位置の高さ(位置情報の高さ成分)を特定し、その高さが属する領域を判定領域として抽出してもよい。
【0175】
また、以上説明した実施の形態によれば、本装置20は、標識を用いて物品の位置情報を特定する構成であった。これに代えて、本装置は、第2画像のうち、第1画像と差分が有ると判定された部分を撮像した撮像装置を特定することにより、物品の位置情報を特定してもよい。すなわち、例えば、棚の上段、中段、下段それぞれに対応する撮像装置が配置されて、第1画像と差分が有ると判定された部分を撮像した撮像装置が棚の上段に対応する撮像装置であるとき、本装置は、対象物品の位置情報を「棚の上段」と特定してもよい。
【0176】
さらに、以上説明した実施の形態によれば、本装置20は、物品の収納場所を特定する構成であった。これに代えて、本装置は、物品が机など、閉空間内のどの位置に持ち出されているかを特定する構成でもよい。
【0177】
さらにまた、本システムは、本方法の処理の一部を撮像装置に処理させてもよい。すなわち、例えば、本システムは、領域設定処理の一部(比較処理や差分の有無の判断など)、あるいは、全部を撮像装置に処理させてもよい。
【0178】
以下、これまで説明した本装置の特徴を、まとめて記載しておく。
【0179】
(特徴1)
閉空間内に配置される複数の撮像装置が撮像した撮像画像を処理する画像処理装置であって、
前記撮像画像が記憶される記憶部と、
前記記憶部に記憶された撮像画像に基づいて、前記複数の撮像装置のうちの一部の撮像装置を位置特定撮像装置として特定する撮像装置特定部と、
前記位置特定撮像装置に特定された前記一部の撮像装置が撮像した撮像画像に基づいて、前記閉空間内を移動する物品の位置情報を特定する位置情報特定部と、
を有してなる、
ことを特徴とする画像処理装置。
【0180】
(特徴2)
前記位置情報特定部により特定された前記物品の位置情報は、前記位置情報特定部が前記物品の位置情報を特定するために用いた前記位置特定撮像装置が前記撮像画像を撮像した時刻を特定する撮像時刻情報と関連付けて、前記記憶部に記憶される、
特徴1記載の画像処理装置。
【0181】
(特徴3)
前記撮像装置特定部は、前記撮像装置が撮像した撮像画像の時系列の変化に基づいて、前記撮像装置を前記位置特定撮像装置として特定するか否かを決定する、
特徴1記載の画像処理装置。
【0182】
(特徴4)
前記記憶部は、複数の物品候補ごとに、物品IDと検索情報とを関連付けて記憶し、
前記画像処理装置は、
前記記憶部に記憶された前記撮像画像と前記検索情報とに基づいて、前記複数の物品候補の中から前記物品を特定する物品特定部、
を備え、
前記物品特定部により特定された前記物品の検索情報と関連付けて前記記憶部に記憶されている物品IDと、前記位置情報特定部により特定された前記物品の位置情報と、は、関連付けて前記記憶部に記憶される、
特徴1記載の画像処理装置。
【0183】
(特徴5)
前記物品特定部は、
前記記憶部に記憶された前記撮像画像のうち、複数の撮像画像を抽出し、
前記抽出された複数の撮像画像の差分に基づいて、前記検索情報と比較される前記撮像画像の判定領域を抽出し、
前記抽出された判定領域内の画像と、前記検索情報と、に基づいて、前記物品を特定する、
特徴4記載の画像処理装置。
【0184】
(特徴6)
前記閉空間は、複数の個別閉空間を備え、
前記複数の撮像装置のそれぞれは、前記複数の個別閉空間のいずれかに対応して配置され、
前記撮像装置特定部は、前記複数の個別閉空間のいずれかの個別閉空間に対応して配置された前記撮像装置が撮像した撮像画像の時系列の変化に基づいて、前記位置特定撮像装置を特定し、
前記物品特定部は、前記位置特定撮像装置が撮像した撮像画像の時系列の変化に基づいて、前記複数の撮像画像を抽出する、
特徴5記載の画像処理装置。
【0185】
(特徴7)
前記位置情報特定部は、
前記閉空間の高さ方向であるZ軸方向の前記物品の位置情報と、
前記Z軸方向と直交するX軸方向の前記物品の位置情報と、
前記Z軸方向と前記X軸方向のそれぞれと直交するY軸方向の前記物品の位置情報と、
を特定し、
前記撮像装置特定部は、前記複数の撮像装置の中から、
前記X軸方向の前記物品の位置情報の特定に用いられる前記撮像画像を撮像したX軸位置特定撮像装置と、
前記Y軸方向の前記物品の位置情報の特定に用いられる前記撮像画像を撮像したY軸位置特定撮像装置と、
前記Z軸方向の前記物品の位置情報の特定に用いられる前記撮像画像を撮像したZ軸位置特定撮像装置と、
を特定する、
特徴1記載の画像処理装置。
【0186】
(特徴8)
前記閉空間内には、複数の標識が配置され、
前記記憶部には、前記標識ごとの前記閉空間内での場所を特定する標識位置情報が記憶され、
前記位置情報特定部は、
前記撮像画像に含まれる前記標識を特定し、
前記記憶部に記憶された前記特定された前記標識に対応する前記標識位置情報に基づいて、前記の位置情報を特定する、
特徴1記載の画像処理装置。
【0187】
(特徴9)
前記複数の撮像装置のうち一部の撮像装置が撮像した撮像画像に基づいて、前記複数の撮像装置のうち他の一部の撮像装置の動作を制御する撮像装置制御部、
を備える、
特徴1記載の画像処理装置。
【0188】
(特徴10)
前記閉空間は、複数の個別閉空間を備え、
前記複数の撮像装置のそれぞれは、前記複数の個別閉空間のいずれかに対応して配置され、
前記撮像装置制御部は、前記複数の個別閉空間のうち一部の個別閉空間に対応して配置された撮像装置の撮像動作を制御する、
特徴9記載の画像処理装置。
【0189】
(特徴11)
前記他の一部の撮像装置の動作は、前記他の一部の撮像装置の撮像間隔である、
特徴9記載の画像処理装置。
【0190】
(特徴12)
前記記憶部は、前記複数の撮像装置それぞれの撮像領域情報を記憶し、
前記位置情報特定部は、前記位置特定撮像装置の前記撮像領域情報に基づいて、前記位置情報を特定する、
特徴1記載の画像処理装置。
【0191】
(特徴13)
前記記憶部は、前記物品IDに対応する物品を異なる時刻に撮像した複数の撮像画像を、前記物品IDと、前記撮像画像が撮像された時刻を特定する撮像時刻情報と、に関連付けて前記記憶部に記憶する、
特徴4記載の画像処理装置。
【0192】
(特徴14)
前記物品IDに基づいて、前記物品IDと関連付けて前記記憶部に記憶されている前記複数の撮像画像を前記記憶部から抽出する抽出部と、
前記物品IDと関連付けて前記記憶部に記憶されている前記撮像時刻情報に基づいて、前記抽出された前記複数の撮像画像の表示順序を決定する表示順序決定部と、
前記決定された表示順序に基づいて、前記抽出された前記複数の撮像画像を表示装置に表示させる表示部と、
を備える、
特徴13記載の画像処理装置。
【0193】
(特徴15)
前記複数の撮像画像は、異なる前記撮像装置により撮像された撮像画像を含む、
特徴13記載の画像処理装置。