(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2022-05-30
(45)【発行日】2022-06-07
(54)【発明の名称】行動分析装置、行動分析システム、行動分析方法、プログラムおよび記録媒体
(51)【国際特許分類】
G06Q 30/02 20120101AFI20220531BHJP
【FI】
G06Q30/02 300
(21)【出願番号】P 2018105898
(22)【出願日】2018-06-01
【審査請求日】2020-12-23
(73)【特許権者】
【識別番号】000001270
【氏名又は名称】コニカミノルタ株式会社
(74)【代理人】
【識別番号】110001933
【氏名又は名称】特許業務法人 佐野特許事務所
(72)【発明者】
【氏名】田路 文平
(72)【発明者】
【氏名】清水 隆史
【審査官】渡邉 加寿磨
(56)【参考文献】
【文献】米国特許出願公開第2016/0379225(US,A1)
【文献】国際公開第2015/025490(WO,A1)
【文献】特開2017-162432(JP,A)
【文献】特開2017-182654(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06Q 10/00-99/00
(57)【特許請求の範囲】
【請求項1】
店舗内での顧客の行動を分析する行動分析装置であって、
前記店舗内を撮影した画像に基づいて、前記店舗内の前記顧客の姿勢を推定して姿勢情報を取得する姿勢推定部と、
前記画像から、前記店舗内の商品の陳列状態を解析して前記陳列状態の変動を示す商品変動情報を抽出する商品変動情報抽出部と、
前記姿勢情報と前記商品変動情報とに基づいて、前記顧客の購買行動を判定する購買行動判定部とを
備え、
前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記顧客の前記商品へのアクセス行動を検出し、前記アクセス行動の前後での前記商品変動情報に基づいて、前記アクセス行動の前後での前記商品の増減を検出することにより、前記顧客の前記購買行動を判定することを特徴とする行動分析装置。
【請求項2】
前記購買行動判定部は、前記購買行動として、前記商品を陳列場所から取り出す行動、前記商品を前記陳列場所に戻す行動、前記商品に対する接触行動のいずれかを判定することを特徴とする請求項1に記載の行動分析装置。
【請求項3】
前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が1回であることを検出し、前記商品変動情報に基づいて、1回の前記アクセスの前後で前記商品が1個減ったことを検出した場合には、前記購買行動として、前記顧客が1回の前記アクセス行動で前記商品を陳列場所から1個取る行動があったと判定することを特徴とする請求項2に記載の行動分析装置。
【請求項4】
前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が2回であることを検出し、前記商品変動情報に基づいて、2回の前記アクセスの前後で前記商品が2個減ったことを検出した場合には、前記購買行動として、前記顧客が2回のそれぞれの前記アクセス行動で前記商品を陳列場所から1個ずつ取る行動があったと判定することを特徴とする請求項2に記載の行動分析装置。
【請求項5】
前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が1回であることを検出し、前記商品変動情報に基づいて、1回の前記アクセスの前後で前記商品の増減がなかったことを検出した場合には、前記購買行動として、前記顧客が1回の前記アクセス行動で前記商品に接触しただけで前記商品を取らなかった行動があったと判定することを特徴とする請求項2に記載の行動分析装置。
【請求項6】
前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が2回であることを検出し、前記商品変動情報に基づいて、2回の前記アクセスの前後で前記商品の増減がなかったことを検出した場合には、前記購買行動として、前記顧客が1回目の前記アクセス行動で取った前記商品を、2回目の前記アクセス行動で陳列場所に戻す行動があったと判定することを特徴とする請求項2に記載の行動分析装置。
【請求項7】
前記商品変動情報抽出部は、前記姿勢情報に基づいて、前記顧客が前記商品の前に滞在したか否かを判定し、滞在したと判定した場合には、滞在する前のフレームの画像と、滞在した後のフレームの画像とを比較して、前記商品の陳列状態を解析することにより、前記商品変動情報を抽出することを特徴とする請求項1から6のいずれかに記載の行動分析装置。
【請求項8】
前記店舗内で陳列された各商品を特定するための商品情報を、各商品の陳列場所と対応付けて記憶する商品情報記憶部をさらに備え、
前記購買行動判定部は、前記商品変動情報抽出部によって抽出された前記商品変動情報に基づいて、陳列状態が変動した商品および陳列場所を認識するとともに、認識した前記陳列場所に対応する前記商品の商品情報を、前記商品情報記憶部から読み出し、読み出した前記商品情報に基づいて、前記購買行動の対象となる前記商品を特定することを特徴とする請求項1から7のいずれかに記載の行動分析装置。
【請求項9】
前記購買行動判定部によって特定された前記商品のうち、前記購買行動として前記顧客が前記陳列場所から取ったと判定された商品についての前記商品情報のリストを作成するリスト作成部をさらに備え、
前記商品情報記憶部は、前記リストをさらに記憶することを特徴とする請求項8に記載の行動分析装置。
【請求項10】
請求項1から9のいずれかに記載の行動分析装置と、
前記店舗内を撮影して前記画像を取得する撮像部とを備えていることを特徴とする行動分析システム。
【請求項11】
店舗内での顧客の行動を分析する行動分析方法であって、
撮像部が前記店舗内を撮影した画像に基づいて、姿勢推定部が、前記店舗内の前記顧客の姿勢を推定して姿勢情報を取得する姿勢推定工程と、
商品変動情報抽出部が、前記画像に基づいて、前記店舗内の商品の陳列状態を解析し、前記商品の陳列状態の変動を商品変動情報として抽出する商品変動情報抽出工程と、
購買行動判定部が、前記姿勢情報と前記商品変動情報とに基づいて、前記顧客の購買行動を判定する購買行動判定工程とを含み、
前記購買行動判定工程では、前記購買行動判定部が、前記姿勢情報の変化に基づいて、前記顧客の前記商品へのアクセス行動を検出し、前記アクセス行動の前後での前記商品変動情報に基づいて、前記アクセス行動の前後での前記商品の増減を検出することにより、前記顧客の前記購買行動を判定することを特徴とする行動分析方法。
【請求項12】
前記購買行動判定工程では、前記購買行動判定部は、前記購買行動として、前記商品を陳列場所から取り出す行動、前記商品を前記陳列場所に戻す行動、前記商品に対する接触行動のいずれかを判定することを特徴とする請求項11に記載の行動分析方法。
【請求項13】
前記購買行動判定工程では、前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が1回であることを検出し、前記商品変動情報に基づいて、1回の前記アクセスの前後で前記商品が1個減ったことを検出した場合には、前記購買行動として、前記顧客が1回の前記アクセス行動で前記商品を陳列場所から1個取る行動があったと判定することを特徴とする請求項12に記載の行動分析方法。
【請求項14】
前記購買行動判定工程では、前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が2回であることを検出し、前記商品変動情報に基づいて、2回の前記アクセスの前後で前記商品が2個減ったことを検出した場合には、前記購買行動として、前記顧客が2回のそれぞれの前記アクセス行動で前記商品を陳列場所から1個ずつ取る行動があったと判定することを特徴とする請求項12に記載の行動分析方法。
【請求項15】
前記購買行動判定工程では、前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が1回であることを検出し、前記商品変動情報に基づいて、1回の前記アクセスの前後で前記商品の増減がなかったことを検出した場合には、前記購買行動として、前記顧客が1回の前記アクセス行動で前記商品に接触しただけで前記商品を取らなかった行動があったと判定することを特徴とする請求項12に記載の行動分析方法。
【請求項16】
前記購買行動判定工程では、前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記アクセス行動が2回であることを検出し、前記商品変動情報に基づいて、2回の前記アクセスの前後で前記商品の増減がなかったことを検出した場合には、前記購買行動として、前記顧客が1回目の前記アクセス行動で取った前記商品を、2回目の前記アクセス行動で陳列場所に戻す行動があったと判定することを特徴とする請求項12に記載の行動分析方法。
【請求項17】
前記商品変動情報抽出工程では、商品変動情報抽出部が、前記姿勢情報に基づいて、前記顧客が前記商品の前に滞在したか否かを判定し、滞在したと判定した場合には、滞在する前のフレームの画像と、滞在した後のフレームの画像とを比較して、前記商品の陳列状態を解析することにより、前記商品変動情報を抽出することを特徴とする請求項11から16のいずれかに記載の行動分析方法。
【請求項18】
前記購買行動判定部が、前記購買行動の対象となる前記商品を特定する商品特定工程をさらに含み、
前記商品特定工程では、前記購買行動判定部が、前記商品変動情報抽出工程で前記商品変動情報抽出部によって抽出された前記商品変動情報に基づいて、陳列状態が変動した商品および陳列場所を認識するとともに、認識した前記陳列場所に対応する前記商品の商品情報を商品情報記憶部から読み出し、読み出した前記商品情報に基づいて、前記購買行動の対象となる前記商品を特定することを特徴とする請求項11から17のいずれかに記載の行動分析方法。
【請求項19】
リスト作成部が、前記商品特定工程で前記購買行動判定部によって特定された前記商品のうち、前記購買行動として前記顧客が前記陳列場所から取ったと判定された商品についての前記商品情報のリストを作成するリスト作成工程と、
商品情報記憶部が、前記リストを記憶するリスト記憶工程とをさらに含むことを特徴とする請求項18に記載の行動分析方法。
【請求項20】
請求項11から19のいずれかに記載の行動分析方法をコンピュータに実行させるプログラム。
【請求項21】
請求項20に記載のプログラムを記録した、コンピュータ読取可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、店舗内での顧客の行動を分析する行動分析装置、行動分析システム、行動分析方法、プログラムおよび記録媒体に関する。
【背景技術】
【0002】
従来から、マーケティングや販売促進の目的で、店舗での顧客の購買行動の分析が行われている。例えば特許文献1に開示されたシステムでは、画像情報から人物を検出し、上記人物について、手および腕を除く上半身の部分に設定された注目部位(例えば頭部または肩部)を検出している。そして、上記注目部位の変位状況に基づいて、上記人物が、物品配置エリアに配置された物品を手に取る物品取得行動を行ったか否かを判定するようにしている。物品取得行動を行う際には、物品に手を伸ばす動作に応じて人物の姿勢が変化し、特に上半身が動く。したがって、注目部位の変位状況に注目することで、人物の手や腕の動きを検知することができない状況でも、物品取得行動の有無を判定することができ、これによって、物品取得行動に関する分析を精度よく行うよう試みている。
【0003】
また、例えば特許文献2に開示されたシステムでは、顧客の商品取得行動に関する分析情報を取得するにあたり、陳列エリアに手を伸ばす動作の主体が店員および顧客のいずれであるかを判別し、店員の動作を排除して分析情報を生成することにより、顧客の商品取得行動に関する分析情報を精度よく取得するようにしている。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2015-11649号公報(請求項1、2、段落〔0008〕、〔0013〕、
図1等参照)
【文献】特開2016-224800号公報(請求項1、2、段落〔0005〕、〔0006〕、〔0010〕、
図1等参照)
【発明の概要】
【発明が解決しようとする課題】
【0005】
ところが、特許文献1のシステムでは、注目部位の変位状況に基づいて物品取得行動の有無を判定する構成であるため、例えば手に取った物品を元の配置エリアに戻す場合も、注目部位が変位し、物品取得行動として判定されてしまう。また、物品に手を差し出して物品と接触しただけで、物品を取らなかった場合でも、注目部位が変位すると、物品取得行動として判定されてしまう。つまり、特許文献1のシステムでは、物品を実際に手に取ったか、物品を戻したのか、物品に接触しただけなのかを区別して判定することができず、物品の購買に関する行動(購買行動)を精度よく判定することができない。
【0006】
また、特許文献2のシステムでは、陳列エリアに手を伸ばす動作の主体が店員および顧客のいずれであるかを判別するに留まり、顧客が実際に商品を取ったのか、商品を戻したのか、商品に触っただけなのかを判別することはできず、やはり、顧客の購買行動を精度よく判定することができない。
【0007】
本発明は、上記の問題点を解決するためになされたもので、その目的は、顧客が商品を取ったのか、商品を元の位置に戻したのか、商品に触っただけなのかを判別することができ、これによって、顧客の購買行動を精度よく判定することができる行動分析装置、行動分析システム、行動分析方法、プログラムおよび記録媒体を提供することにある。
【課題を解決するための手段】
【0008】
本発明の一側面に係る行動分析装置は、店舗内での顧客の行動を分析する行動分析装置であって、前記店舗内を撮影した画像に基づいて、前記店舗内の前記顧客の姿勢を推定して姿勢情報を取得する姿勢推定部と、前記画像から、前記店舗内の商品の陳列状態を解析して前記陳列状態の変動を示す商品変動情報を抽出する商品変動情報抽出部と、前記姿勢情報と前記商品変動情報とに基づいて、前記顧客の購買行動を判定する購買行動判定部とを備えている。
【0009】
本発明の他の側面に係る行動分析システムは、上記の行動分析装置と、前記店舗内を撮影して前記画像を取得する撮像部とを備えている。
【0010】
本発明のさらに他の側面に係る行動分析方法は、店舗内での顧客の行動を分析する行動分析方法であって、前記店舗内を撮影した画像に基づいて、前記店舗内の前記顧客の姿勢を推定して姿勢情報を取得する姿勢推定工程と、前記画像に基づいて、前記店舗内の商品の陳列状態を解析し、前記商品の陳列状態の変動を商品変動情報として抽出する商品変動情報抽出工程と、前記姿勢情報と前記商品変動情報とに基づいて、前記顧客の購買行動を判定する購買行動判定工程とを含む。
【0011】
本発明のさらに他の側面に係るプログラムは、上記行動分析方法をコンピュータに実行させるプログラムである。
【0012】
本発明のさらに他の側面に係る記録媒体は、上記プログラムを記録した、コンピュータ読取可能な記録媒体である。
【発明の効果】
【0013】
店舗内での顧客の姿勢情報と、店舗内の商品の陳列状態の実際の変動を示す商品変動情報とに基づいて、顧客の購買行動を判定するため、顧客が実際に商品を取ったのか、商品を元の位置に戻したのか、商品に触っただけなのかを判別することができ、これによって、顧客の購買行動を精度よく判定することができる。
【図面の簡単な説明】
【0014】
【
図1】本発明の実施の一形態の行動分析システムの全体の構成を模式的に示すブロック図である。
【
図2】上記行動分析システムが適用される店舗内の様子を模式的に示す説明図である。
【
図3】上記行動分析システムにおける処理の流れの一例を示す説明図である。
【
図4】上記店舗の天井に設置された撮像部で取得された任意のフレームの画像の一例を示す説明図である。
【
図5】上記画像に含まれる顧客の姿勢を模式的に示す説明図である。
【
図6】顧客が棚前に滞在する前のフレームの画像を模式的に示す説明図である。
【
図7】顧客が棚前に滞在した後のフレームの画像を模式的に示す説明図である。
【
図8】本発明の他の実施の形態の行動分析システムの構成を模式的に示すブロック図である。
【
図9】各商品の商品情報と陳列場所との対応関係を示す商品マップを模式的に示す説明図である。
【
図10】上記行動分析システムにおける処理の流れの一例を示す説明図である。
【
図11】商品リストの一例を模式的に示す説明図である。
【発明を実施するための形態】
【0015】
<実施の形態1>
本発明の実施の一形態について、図面に基づいて説明すれば、以下の通りである。
【0016】
〔行動分析システムの構成〕
図1は、本実施形態の行動分析システム50の全体の構成を模式的に示すブロック図であり、
図2は、行動分析システム50が適用される店舗100内の様子を模式的に示す説明図である。行動分析システム50は、店舗100内での顧客Pの行動を分析するシステムであり、行動分析装置1と、撮像部2とを有している。
【0017】
撮像部2は、店舗100内を撮影して画像を取得するカメラで構成されている。上記画像は、例えば動画であるが、静止画であってもよい。撮像部2は、
図2に示すように、店舗100内の天井101に設置されているが、顧客Pと、商品棚102に陳列されている商品201とを撮影できる場所であれば、どのような場所に(例えば撮影する商品棚102と向かい合う商品棚102の上などに)設置されていてもよい。また、本実施形態では、撮像部2の設置台数を1台とし、1台の撮像部2で店舗100内の顧客Pと商品201とを撮影するようにしているが、撮像部2は店舗100内に複数設置されていてもよい。そして、顧客Pの撮影と商品201の撮影とを別々の撮像部2によって行うようにしてもよい。
【0018】
撮像部2は、LAN(Local Area Network)などの通信回線を介して行動分析装置1と通信可能に接続されているが、行動分析装置1と無線通信可能な構成であってもよい。いずれにしても、撮像部2での撮影によって取得された画像のデータは、通信回線を介して行動分析装置1に送られる。
【0019】
行動分析装置1は、店舗100内での顧客Pの行動を分析する端末装置であり、例えばパーソナルコンピュータ(PC)で構成される。この行動分析装置1は、姿勢推定部11と、商品変動情報抽出部12と、購買行動判定部13と、記憶部14と、入力部15と、表示部16と、通信部17と、読取部18と、制御部19とを有している。制御部19は、行動分析装置1の各部の動作を制御する中央演算処理装置(CPU;Central Processing Unit)で構成されており、後述するプログラム記憶部14aに記憶された動作プログラムに従って動作する。
【0020】
姿勢推定部11は、撮像部2で取得され、該行動分析装置1に入力された店舗100内の画像に基づいて、店舗100内の顧客Pの姿勢を推定して姿勢情報を取得する。姿勢推定部11は、タイマーなどの計時部(図示せず)を内蔵しており、上記姿勢情報を店舗100内の顧客Pごとに時系列で(時間的に異なるタイミングで)取得する。姿勢推定部11は、例えばGPU(Graphics Processing Unit)で構成されている。GPUは、リアルタイムな画像処理に特化した演算装置(プロセッサ)である。姿勢推定部11をGPUで構成することにより、CNN(Convolutional Neural Network)などの機械学習が可能なニューラルネットワークを構築し、画像入力に対して姿勢を推定することが可能となる。なお、姿勢推定部11は、制御部19と同一のまたは別個のCPUで構成されていてもよい。
【0021】
商品変動情報抽出部12は、撮像部2で取得され、該行動分析装置1に入力された店舗100内の上記画像から、店舗100内の商品201の陳列状態を解析して上記陳列状態の変動を示す商品変動情報を抽出する。この商品変動情報抽出部12は、制御部19とは別個のCPUで構成されているが、同一のCPUで構成されていてもよい。
【0022】
購買行動判定部13は、姿勢推定部11によって取得された姿勢情報と、商品変動情報抽出部12によって抽出された商品変動情報とに基づいて、顧客Pの購買行動を判定する。この購買行動判定部13は、制御部19とは別個のCPUで構成されているが、同一のCPUで構成されていてもよい。上記の購買行動として、ここでは、顧客Pが商品201を陳列場所(例えば商品棚102)から取り出す行動、取り出した商品201を陳列場所に戻す行動、商品201に対して手を伸ばして接触するだけの行動(接触行動)を考えることができる。
【0023】
なお、姿勢推定部11、商品変動情報抽出部12および購買行動判定部13による各処理の詳細については、後述する動作説明の中で併せて行う。
【0024】
記憶部14は、各種の情報を記憶するメモリであり、例えばハードディスクで構成されるが、RAM(Random Access Memory)、ROM(Read Only Memory)、光ディスク、光磁気ディスク、不揮発性メモリなどの記録媒体から適宜選択して構成されてもよい。この記憶部14は、プログラム記憶部14aと、姿勢情報記憶部14bと、画像記憶部14cと、判定結果記憶部14dとを有している。
【0025】
プログラム記憶部14aは、行動分析装置1の各部を動作させるための動作プログラムを記憶するメモリである。姿勢情報記憶部14bは、姿勢推定部11によって推定され、取得された姿勢情報を記憶する。画像記憶部14cは、撮像部2で取得され、該行動分析装置1に入力された、時間的に異なる各フレームの画像情報(画像データ)を記憶する。なお、個人情報保護の観点から、撮像部2で取得された画像を永久に保存するのは妥当ではないため、画像記憶部14cに記憶された画像情報は、所定期間経過後(例えば数日後、数か月後)に消去されるか、新しい画像情報によって上書きされる。判定結果記憶部14dは、購買行動判定部13によって判定された結果(購買行動の情報)を記憶する。
【0026】
入力部15は、例えばキーボード、マウス、タッチパッド、タッチパネルなどで構成され、行動分析システム50の管理者による各種の指示入力を受け付ける。表示部16は、各種の情報を表示するデバイスであり、例えば液晶表示装置で構成される。通信部17は、外部端末(例えばスマートフォンなどの携帯端末や他のPC)と通信するためのインターフェースであり、入出力ポートのほか、アンテナ、送受信回路、変調回路、復調回路などを含んで構成される。読取部18は、記録媒体Rに記録された情報を読み取る装置であり、例えばディスクドライブで構成される。なお、記録媒体Rが可搬型の不揮発性メモリである場合、上記不揮発性メモリの接続部が指し込まれる接続ポートも読取部18に含まれるとする。
【0027】
〔行動分析システムの動作〕
次に、本実施形態の行動分析システム50の動作について説明する。
図3は、本実施形態の行動分析システム50における処理の流れの一例を示す説明図である。本実施形態の行動分析システム50によって実現される行動分析方法は、画像取得工程(S1)、姿勢推定工程(S2)、商品変動情報抽出工程(S3)、購買行動判定工程(S4)を含む。以下、各工程について説明する。
【0028】
(S1;画像取得工程)
S1では、店舗100(
図2参照)内を撮像部2により撮影することにより、時間的に異なるフレームごとの画像を取得する。
図4は、撮像部2で取得された任意のフレームの画像Mの一例を示している。画像Mでは、店舗100内で、商品棚102に陳列された商品201に向かって顧客Pが手を伸ばしている様子(行動)が示されている。取得された各フレームの画像のデータは、行動分析装置1に入力されて画像記憶部14cに順次記憶される。
【0029】
(S2;姿勢推定工程)
S2では、姿勢推定部11が、S1で取得された画像に基づいて、店舗100内の顧客Pの姿勢を推定して姿勢情報を取得するとともに、上記姿勢情報を店舗100内の顧客Pごとに時系列で取得する。上記姿勢情報には、例えば、顧客Pが商品棚102の商品201に手を伸ばしたときの姿勢、顧客Pが手を商品201に接触させたときの姿勢、顧客Pが伸ばした手を元に戻したときの姿勢、顧客Pがしゃがみ込んだときの姿勢、顧客Pが歩いているときの姿勢、などの情報が含まれる。取得された姿勢情報は、姿勢情報記憶部14bに記憶される。
【0030】
図5は、
図4で示した画像Mに含まれる顧客Pの姿勢301(太線参照)を示している。顧客Pの姿勢301を示す姿勢情報は、顧客Pの体の各関節位置の情報(例えば2次元または3次元空間内での位置座標)を含む。なお、同図では、顧客Pの姿勢301を分かりやすくするため、各関節位置を線でつなげて示しているが、このような線も上記の姿勢情報に含まれる。
【0031】
姿勢情報の取得(撮影画像からの顧客Pの各関節位置の取得)は、例えば公知の画像処理ソフトウェアを用いることによって行うことができる。また、顧客Pの所定の時間内での動作範囲(例えば移動範囲)は限られるため、所定の時間内での各関節位置(または各関節位置をつなげた線)の移動量が所定範囲内であるか否かを判断することにより、時間的に異なるタイミングで取得された姿勢情報が同一の顧客Pについての情報であるか、別々の顧客Pについての情報であるかを判断することができる。これにより、顧客Pごとに区別して姿勢情報を取得することができる。
【0032】
(S3;商品変動情報抽出工程)
S3では、商品変動情報抽出部13が、S1で取得された各フレームの画像から、店舗100内の商品201の陳列状態を解析して商品変動情報を抽出する。
【0033】
図6は、撮像部2で撮影された画像であって、顧客Pが商品棚102(または商品棚102に陳列されている商品201)の前に滞在する前のフレームの画像M1を模式的に示している。また、
図7は、撮像部2で撮影された画像であって、顧客Pが商品棚102の前に滞在した後のフレームの画像M2を模式的に示している。なお、
図6および
図7では、便宜的に、それぞれの商品201に“1”~“12”の符号を付して列ごとに区別している(各列の商品は同じ種類であるとする)。これらの画像M1・M2から、顧客Pが商品棚102の前に滞在する前に比べて、滞在した後は、符号“3”および“10”の商品201が1個ずつ、商品棚102から減っていることがわかる。したがって、商品変動情報抽出部12は、2つの画像M1・M2を比較して商品201の陳列状態を解析することにより、これらの画像M1・M2から、商品変動情報(符号“3”および“10”の商品201が1個ずつ減ったという情報)を抽出することができる。
【0034】
また、商品変動情報抽出部12は、姿勢推定部11が取得した姿勢情報に基づき、顧客Pが商品棚102(または商品棚102に陳列されている商品201)の前に滞在しているか否かを判定することができる。例えば、商品棚102の前で顧客Pの同じ姿勢301が数フレームにわたって続いたり、商品棚102に対する位置は変化せずに姿勢301が変化している場合には、顧客Pが商品棚102の前に滞在していると判定することができる。したがって、商品変動情報抽出部12は、上記姿勢情報に基づいて、顧客Pが商品201の前に滞在したか否かを判定し、滞在したと判定した場合には、上記のように、画像記憶部14cに記憶された滞在前のフレームの画像M1と、(将来の)滞在後のフレームの画像M2とを比較して商品201の陳列状態を解析することにより、商品変動情報を抽出することができる。
【0035】
(S4;購買行動判定工程)
S4では、購買行動判定部13が、S2で取得した顧客Pの姿勢情報と、S3で取得した商品変動情報とに基づいて、顧客Pの購買行動を判定する。より具体的には、購買行動判定部13は、まず、S2で取得した姿勢情報の変化に基づいて、顧客Pの商品201へのアクセス行動(陳列している商品201に顧客Pが手を伸ばす行動)を検出する。そして、購買行動判定部13は、上記のアクセス行動と、S3で抽出した商品変動情報とに基づいて、顧客Pの購買行動を判定する。
【0036】
例えば、アクセス行動が1回であり、1回のアクセス行動の前後で、商品棚102上の商品201が1個減った場合には、顧客Pが1回のアクセス行動で商品棚102から商品201を1個取ったと判定できる。なお、「アクセス行動の前後」とは、顧客Pがアクセス行動を行う商品棚102の前に滞在する前のフレームと、滞在した後のフレームとの関係を指す。また、同じ商品棚102の前でアクセス行動が2回あり、2回のアクセス行動の前後で商品棚102上の商品201が2個減った場合には、顧客Pがそれぞれのアクセス行動において商品棚102から商品201を1個ずつ取ったと判定できる。つまり、これらの場合、顧客Pの購買行動として、商品201を陳列場所から取り出す行動があったと判定することができる。
【0037】
また、アクセス行動が1回あり、1回のアクセス行動の前後で商品棚102上の商品201の増減がなかった場合には、顧客Pが1回のアクセス行動で商品201に接触しただけで、商品201を取らなかったと判定できる。つまり、この場合、顧客Pの購買行動として、商品201に対して接触するだけの行動(接触行動)があったと判定することができる。
【0038】
さらに、同じ商品棚102の前でアクセス行動が2回あり、2回のアクセス行動の前後で商品棚102上の商品201の増減がなかった場合には、1回目のアクセス行動で商品棚102から取った商品201を、2回目のアクセス行動で商品棚102に戻した可能性が高いと判定できる。つまり、この場合、顧客Pの購買行動として、商品201を陳列場所に戻す行動があったと判定することができる。なお、顧客Pが2回のアクセス行動のそれぞれにおいて商品201に接触しただけで商品201を取らなかった可能性も否定できないが、2回アクセスするということは、その商品201に興味があることを示しているため、特に2回目のアクセスにおいて、商品201に触れただけで手に取らない可能性は極めて低いと考えられる。したがって、上記のように、顧客Pの購買行動として、商品201を陳列場所に戻す行動があったと判定するのが妥当である。
【0039】
判定された購買行動の情報は、判定結果記憶部14dに記憶される。これにより、例えばシステムの管理者は、行動分析装置1にアクセスして判定結果記憶部14dに記憶された購買行動の情報を参照することにより、顧客Pの購買行動を把握して今後のマーケティングに活かすことが可能となる。
【0040】
〔効果〕
以上のように、本実施形態では、購買行動判定部13が、S2で取得した姿勢情報と、S3で抽出した商品変動情報とに基づいて、顧客Pの購買行動を判定する(S4)。顧客Pの姿勢を判断するだけでは(例えば顧客Pが商品201に手を伸ばしたとの判断だけでは)、顧客Pが陳列場所から商品201を取ったのか、商品201を元の陳列場所に戻したのか、商品201に触っただけなのかを判別することができない。しかし、顧客Pの姿勢情報に加えて、商品201の実際の変動を示す情報(商品変動情報)をさらに考慮することにより、顧客Pの姿勢による動作(行動)が、顧客Pが陳列場所から商品201を取った行動であるのか、一旦取り出した商品201を元の陳列場所に戻した行動であるのか、商品201に触っただけの行動であるのかを判別することができる。これにより、顧客Pの購買行動を精度よく判定することができる。
【0041】
また、商品変動情報抽出部12は、姿勢情報に基づいて、顧客Pが商品201の前に滞在したか否かを判定し、滞在したと判定した場合には、滞在する前のフレームの画像M1と、滞在した後のフレームの画像M2とを比較して、商品201の陳列状態を解析することにより、商品変動情報を抽出する(S3)。顧客Pが商品201の前に滞在する前後の各フレーム画像を比較することにより、商品201の陳列状態の変化、つまり、商品201の増減を明確に把握することができる。これにより、信頼性の高い商品変動情報を取得することができる。
【0042】
また、例えば、顧客Pが商品201の前に滞在していると、その滞在中のフレーム画像では、顧客Pの手元が顧客の体に隠れて、顧客Pが商品201を取ったかどうかを判別できない場合がある。しかし、上記のように、顧客Pが商品201の前に滞在する前後の各フレーム画像を比較することにより、顧客Pの手元が顧客の体に隠れるか否かに関係なく、商品201の陳列状態の変化を把握することができる。したがって、この点でも、信頼性の高い商品変動情報を取得することができる。
【0043】
また、購買行動判定部13は、姿勢情報の変化に基づいて、顧客Pの商品201へのアクセス行動を検出する(S4)。商品201を購買するときには、陳列された商品201にアクセスして(手を伸ばして)、陳列場所から商品201を取り出す(カートに入れる)行動が必ず伴う。したがって、このアクセス行動を検出することにより、アクセスした商品201についての購買行動の判定を精度よく行うことができる。
【0044】
また、購買行動判定部13は、上記のアクセス行動と、S3で抽出した商品変動情報とに基づいて、購買行動を判定する(S4)。アクセスした商品201の実際の変動(個数の増減)に基づいて購買行動を判定するため、アクセスした商品201についての購買行動の判定を確実に精度よく行うことができる。
【0045】
また、購買行動判定部13は、購買行動として、商品201を陳列場所(例えば商品棚102)から取り出す行動、商品201を陳列場所に戻す行動、商品201に対する接触行動のいずれかを判定する(S4)。これにより、購買行動として、顧客Pが商品201を取ったのか、商品201を元の位置に戻したのか、商品201に触っただけなのかを明確に区別して判定することができる。
【0046】
また、本実施形態の行動分析システム1は、上記した行動分析装置1と、店舗100内を撮影して画像を取得する少なくとも1個の撮像部2とを備えている。この構成では、行動分析装置1が店舗100内の撮像部2で取得される画像を利用して顧客Pの購買行動を判定するため、例えば、商品201にIC(integrated circuit)タグを付けたり、商品棚102ごとにセンサを設けて商品201を管理することなく購買行動を判定することができる。したがって、ICタグやセンサの設置を不要として、システム全体のコストダウンを図ることができる。
【0047】
<実施の形態2>
本発明の他の実施の形態について、図面に基づいて説明すれば、以下の通りである。本実施形態では、実施の形態1の構成において、購買行動判定部13によって判定された購買行動が何の商品に対して行われたかをさらに特定する例を示す。
【0048】
〔行動分析システムの構成〕
図8は、本実施形態の行動分析システム50の構成を模式的に示すブロック図である。本実施形態の行動分析システム50は、実施の形態1で示した行動分析装置1において、記憶部14が、商品情報記憶部14eと、購買データ記憶部14fとをさらに有しており、行動分析装置1が、リスト作成部20をさらに有している点以外は、実施の形態1と同様の構成である。リスト作成部20は、例えば制御部19とは別個のCPUで構成されているが、制御部19と同一のCPUで構成されていてもよい。なお、リスト作成部20の機能の詳細については、後述する行動分析システム50の動作説明の中で併せて行う。
【0049】
商品情報記憶部14eは、店舗100内で陳列された各商品201を特定するための商品情報を、各商品201の陳列場所と対応付けて記憶する。本実施形態では、各商品201の商品情報と陳列場所との対応関係を商品マップとして表し、この商品マップを商品情報記憶部14eに記憶させている。
図9は、各商品201の商品情報と陳列場所との対応関係を示す商品マップ201Mを模式的に示している。
【0050】
商品マップ201Mでは、各商品201を特定するための商品情報a~pが、各商品201の陳列場所と対応付けて示されている。商品情報a~pは、例えば商品201の具体的な名前(商品名)であってもよいし、商品201の種類(例えば歯ブラシ、歯磨き粉など)であってもよい。このうち、商品情報a~dは、商品棚102が4段構成である場合に、上から1段目の商品棚102のA列、B列、C列、D列の各商品201を特定する商品情報を示す。同様に、商品情報e~hは、上から2段目の商品棚102のA列、B列、C列、D列の各商品201を特定する商品情報を示し、商品情報i~lは、上から3段目の商品棚102のA列、B列、C列、D列の各商品201を特定する商品情報を示し、商品情報m~pは、上か4段目の商品棚102のA列、B列、C列、D列の各商品201を特定する商品情報を示す。
【0051】
購買データ記憶部14fは、顧客Pが店舗100内で実際に購入した商品201に関する情報(購買データ)を記憶する。上記の購買データとしては、例えばPOS(Point of Sales)データを考えることができる。POSデータとは、商品201の販売時点のデータであり、「いつ」、「どの店舗で」、「どの商品が」、「いくらで」、「何個売れたのか」という情報を含む。例えば、店舗100内のキャシュレジスタ(単にレジとも呼ばれる)において、精算時に商品201についているバーコードをスキャナーで読み取ることにより、POSデータが取得され、このPOSデータがほぼリアルタイムに購買データ記憶部14eに転送されて記憶される。なお、上記のPOSデータには、「誰が」という情報は含まれておらず、万が一、購買データが外部に漏洩したとしても、商品を購入した顧客P(例えば個人名)が特定されることはない。
【0052】
なお、例えば、キャッシュレジスタで取得された購買データを一旦、記録媒体(例えば光ディスク)に記録しておき、この記録媒体から購買データを読取部18にて読み取ることによって、上記購買データを取得してもよい。また、上記購買データは、入力部15によって直接入力されてもよいし、通信部17を介して外部の端末装置(例えばサーバー)から受信することによって取得されてもよい。
【0053】
〔行動分析システムの動作〕
図10は、本実施形態の行動分析システム50における処理の流れの一例を示す説明図である。本実施形態の行動分析システム50によって実現される行動分析方法は、実施の形態1の画像取得工程(S1)の前に、商品情報記憶工程(S1’)を含み、購買行動判定工程(S4)の後に、商品特定工程(S5)、リスト作成工程(S6)およびリスト記憶工程(S7)を含む。以下、実施の形態1と異なる部分について説明する。
【0054】
(S1’;商品情報記憶工程)
S1’では、各商品201の陳列場所と対応付けた商品情報(例えば
図9の商品マップ201M)を、予め商品情報記憶部14eに記憶させておく。例えば、システムの管理者が入力部15を操作して商品情報を直接入力する、上記商品情報を記憶した記憶媒体を読取部18で読み取る、上記商品情報を外部から通信回線を介して受信する、などにより、上記商品情報を商品情報記憶部14eに記憶させることができる。なお、S1’の商品情報記憶工程は、S4の購買行動判定工程までに行われれば、どのタイミングで行われてもよい。
【0055】
(S5;商品特定工程)
S4の後、購買行動判定部13は、商品変動情報抽出部12によって抽出された商品変動情報に基づいて、陳列状態が変動した商品201および陳列場所を認識する。例えば、商品変動情報抽出部12により、
図9において上から1段目の商品棚102におけるA列の商品201について、商品変動情報(商品201が減ったという情報)が抽出された場合、購買行動判定部13は、上記商品変動情報に基づいて、陳列状態が変動した商品201およびその陳列場所(1段目、A列)を認識する。そして、購買行動判定部13は、認識した陳列場所に対応する商品201の商品情報(
図9では商品情報a)を、商品情報記憶部14eから読み出し、読み出した商品情報に基づいて、購買行動の対象となる商品201を特定する(商品201が何であるかを特定する)。特定結果については、記憶部14の例えば判定結果記憶部14dに記憶される。
【0056】
(S6;リスト作成工程、S7;リスト記憶工程)
S6では、リスト作成部20は、購買行動判定部13によって特定された商品201のうち、購買行動として顧客Pが陳列場所から取ったと判定された商品201についての商品情報のリスト(以下、単に「商品リスト」とも称する)を作成する。
図11は、上記商品リストLの一例を模式的に示している。商品リストLでは、購買行動判定部13によって、顧客が陳列場所から取ったと判定された商品201の商品情報が、顧客ごとにリストとしてまとめられている。S7では、このようにして作成された商品リストLが、記憶部14の商品情報記憶部14eに記憶される。
【0057】
S7の後は、例えば制御部19が、作成された商品リストLに含まれる商品情報と、顧客Pが商品201を実際に購入(精算)後に購買データ記憶部14fに転送されて記憶される購買データとを比較して、これらのデータがマッチングしているか否かを判定する。そして、マッチングする場合には(商品リストLに含まれる商品と購買データとして記録された商品とが一致する場合には)、制御部19は、上記商品情報と上記購買データとを紐付けて記憶部14(商品情報記憶部14eまたは購買データ記憶部14f)に記憶させる。
【0058】
以上のように、本実施形態では、S5にて、購買行動判定部13が、商品情報記憶部14eから読み出した商品情報に基づいて、購買行動の対象となる商品201を特定するため、顧客Pが購買行動を行った商品201(顧客Pが陳列場所から取った商品、陳列場所に戻した商品、または触れただけの商品)が具体的に何であったのかがわかる。
【0059】
また、リスト作成部20が商品リストLを作成して、商品情報記憶部14eに記憶させることにより、例えばシステムの管理者は商品情報記憶部14eから商品リストLを読み出して、顧客Pが陳列場所から取った商品201を明確に把握することが可能となる。
【0060】
<プログラムおよび記録媒体>
上述した実施の形態1および2で説明した行動分析システム50の行動分析装置1は、例えば、所定のプログラム(アプリケーションソフトウェア)をインストールしたコンピュータ(PC)で構成することができる。上記プログラムをコンピュータ(例えばCPUとしての制御部19)が読み取って実行することにより、行動分析システム50の各部を動作させて上述した各処理(各工程)を実行させることができる。このようなプログラムは、例えばネットワークを介して外部からダウンロードすることによって取得されてプログラム記憶部14aに記憶される。また、上記プログラムは、例えばCD-ROM(Compact Disk-Read Only Memory)などのコンピュータ読取可能な記録媒体Rに記録され、この記録媒体Rから上記プログラムをコンピュータが読み取ってプログラム記憶部14aに記憶する形態であってもよい。
【0061】
<補足>
上述した実施の形態1および2では、商品棚102に陳列された商品201に対する顧客Pの購買行動を判定する例について説明したが、商品棚102を利用しないで商品201が陳列されている場合でも、実施の形態1および2で説明した方法を採用して購買行動の判定を行うことは可能である。例えば、商品(トイレットペーパーなど)を段ボールの箱ごと床に置いて山積みしたり、上面が開口した大型のケースの中に商品(冷凍食品など)を陳列している場合であっても、顧客Pの姿勢情報と商品変動情報とに基づいて、顧客Pの購買行動を判定することができる。
【0062】
また、実施の形態1および2では、顧客Pが商品棚102の前に滞在する前後の各画像を比較して、商品変動情報を抽出するようにしているが(
図6、
図7参照)、この例には限定されない。例えば、顧客Pが商品棚102の前に滞在しているときの画像と、顧客Pが商品棚102の前に滞在した後の画像とを比較して、商品変動情報を抽出してもよい。この場合、顧客Pが商品棚102の前に滞在している状態で、顧客Pで隠れている商品201については、その変動を抽出できないが、顧客Pで隠れていない商品201については、上記2つの画像を比較してその変動を抽出することができ、これによって顧客Pの購買行動を判定することが可能となる。
【0063】
<その他>
以上の各実施の形態で説明した行動分析装置、行動分析システム、行動分析方法、プログラムおよび記録媒体は、以下のように表現されてもよい。
【0064】
1.店舗内での顧客の行動を分析する行動分析装置であって、
前記店舗内の画像に基づいて、前記店舗内の前記顧客の姿勢を推定して姿勢情報を取得する姿勢推定部と、
前記画像から、前記店舗内の商品の陳列状態を解析して前記陳列状態の変動を示す商品変動情報を抽出する商品変動情報抽出部と、
前記姿勢情報と前記商品変動情報とに基づいて、前記顧客の購買行動を判定する購買行動判定部とを備えていることを特徴とする行動分析装置。
【0065】
2.前記商品変動情報抽出部は、前記姿勢情報に基づいて、前記顧客が前記商品の前に滞在したか否かを判定し、滞在したと判定した場合には、滞在する前のフレームの画像と、滞在した後のフレームの画像とを比較して、前記商品の陳列状態を解析することにより、前記商品変動情報を抽出することを特徴とする前記1に記載の行動分析装置。
【0066】
3.前記購買行動判定部は、前記姿勢情報の変化に基づいて、前記顧客の前記商品へのアクセス行動を検出することを特徴とする前記1または2に記載の行動分析装置。
【0067】
4.前記購買行動判定部は、前記顧客の前記商品への前記アクセス行動と、前記商品変動情報とに基づいて、前記購買行動を判定することを特徴とする前記3に記載の行動分析装置。
【0068】
5.前記購買行動判定部は、前記購買行動として、前記商品を陳列場所から取り出す行動、前記商品を前記陳列場所に戻す行動、前記商品に対する接触行動のいずれかを判定することを特徴とする前記1から4のいずれかに記載の行動分析装置。
【0069】
6.前記店舗内で陳列された各商品を特定するための商品情報を、各商品の陳列場所と対応付けて記憶する商品情報記憶部をさらに備え、
前記購買行動判定部は、前記商品変動情報抽出部によって抽出された前記商品変動情報に基づいて、陳列状態が変動した商品および陳列場所を認識するとともに、認識した前記陳列場所に対応する前記商品の商品情報を、前記商品情報記憶部から読み出し、読み出した前記商品情報に基づいて、前記購買行動の対象となる前記商品を特定することを特徴とする前記1から5のいずれかに記載の行動分析装置。
【0070】
7.前記購買行動判定部によって特定された前記商品のうち、前記購買行動として前記顧客が前記陳列場所から取ったと判定された商品についての前記商品情報のリストを作成するリスト作成部をさらに備え、
前記商品情報記憶部は、前記リストをさらに記憶することを特徴とする前記6に記載の行動分析装置。
【0071】
8.前記1から7のいずれかに記載の行動分析装置と、
前記店舗内を撮影して前記画像を取得する撮像部とを備えていることを特徴とする行動分析システム。
【0072】
9.店舗内での顧客の行動を分析する行動分析方法であって、
前記店舗内の画像に基づいて、前記店舗内の前記顧客の姿勢を推定して姿勢情報を取得する姿勢推定工程と、
前記画像に基づいて、前記店舗内の商品の陳列状態を解析し、前記商品の陳列状態の変動を商品変動情報として抽出する商品変動情報抽出工程と、
前記姿勢情報と前記商品変動情報とに基づいて、前記顧客の購買行動を判定する購買行動判定工程とを含むことを特徴とする行動分析方法。
【0073】
10.前記商品変動情報抽出工程では、前記姿勢情報に基づいて、前記顧客が前記商品の前に滞在したか否かを判定し、滞在したと判定した場合には、滞在する前のフレームの画像と、滞在した後のフレームの画像とを比較して、前記商品の陳列状態を解析することにより、前記商品変動情報を抽出することを特徴とする前記9に記載の行動分析方法。
【0074】
11.前記購買行動判定工程では、前記姿勢情報の変化に基づいて、前記顧客の前記商品へのアクセス行動を検出することを特徴とする前記9または10に記載の行動分析方法。
【0075】
12.前記購買行動判定工程では、前記顧客の前記商品への前記アクセス行動と、前記商品変動情報とに基づいて、前記購買行動を判定することを特徴とする前記11に記載の行動分析方法。
【0076】
13.前記購買行動判定工程では、前記購買行動として、前記商品を陳列場所から取り出す行動、前記商品を前記陳列場所に戻す行動、前記商品に対する接触行動のいずれかを判定することを特徴とする前記9から12のいずれかに記載の行動分析方法。
【0077】
14.前記商品変動情報抽出工程で抽出された前記商品変動情報に基づいて、陳列状態が変動した商品および陳列場所を認識するとともに、認識した前記陳列場所に対応する前記商品の商品情報を商品情報記憶部から読み出し、読み出した前記商品情報に基づいて、前記購買行動の対象となる前記商品を特定する商品特定工程をさらに含むことを特徴とする前記9から13のいずれかに記載の行動分析方法。
【0078】
15.前記商品特定工程で特定された前記商品のうち、前記購買行動として前記顧客が前記陳列場所から取ったと判定された商品についての前記商品情報のリストを作成するリスト作成工程と、
前記リストを前記商品情報記憶部に記憶させるリスト記憶工程とをさらに含むことを特徴とする前記14に記載の行動分析方法。
【0079】
16.前記9から15のいずれかに記載の行動分析方法をコンピュータに実行させるプログラム。
【0080】
17.前記16に記載のプログラムを記録した、コンピュータ読取可能な記録媒体。
【0081】
以上、本発明の実施形態について説明したが、本発明の範囲はこれに限定されるものではなく、発明の主旨を逸脱しない範囲で拡張または変更して実施することができる。
【産業上の利用可能性】
【0082】
本発明は、店舗内での顧客の行動を分析するシステムに利用可能である。
【符号の説明】
【0083】
1 行動分析装置
2 撮像部
11 姿勢推定部
12 商品変動情報抽出部
13 購買行動判定部
14e 商品情報記憶部
14f 購買データ記憶部
20 リスト作成部
50 行動分析システム
100 店舗
P 顧客