(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0010】
以下、本発明の実施の形態について、図面を参照して詳細に説明する。
(第1実施形態)
先ず、
図1〜
図6を参照して本発明の第1実施形態を説明する。
本実施形態は、広告出力装置としてデジタルサイネージ装置に適用した場合を例示したもので、
図1は、このデジタルサイネージ装置を含む通信システムを示したブロック図である。
広告出力装置(デジタルサイネージ装置)1は、例えば、大型店舗内においてその入り口付近、休憩場所付近、出口付近などのように顧客が集まる場所に設置され、各種の広告データ(例えば、Webページデータ、テレビ放送データ、動画データ、静止画像群データ、音声データなど)を出力可能なもので、その基本的な機能として、広告データ出力機能、計時機能、タッチ入力機能、通信機能、撮像機能の他に、画像解析機能、音声解析機能などを備えている。
【0011】
広告データ出力機能は、コンテンツ配信装置(サーバ装置)2から通信網3、例えば、インターネット、LAN(Local Area Network)などを介して受信した広告データ、又は着脱自在な可搬型メモリ(記録メディア)を介して外部供給された広告データを視聴者に対して表示出力したり、音声出力したりする機能である。なお、本実施形態において視聴者とは、店舗への顧客であり、必ずしも広告表示と広告音声を見聞きしている顧客に限らず、広告表示だけを見ている顧客、広告音声だけを聞いている顧客であってもよい。計時機能は、現在時刻として(年月日時分秒ミリ秒)を計時したり、タイマ時間を計測したりする機能である。なお、その他の機能については後で詳述するものとする。
【0012】
広告データは、複数ページ分(画面分)から成る一連のデータであり、図示の例の広告データXは、1ページのデータX1、2ページのデータX2、…、6ページのデータX6を有する構成で、デジタルサイネージ装置1は、この広告Xを構成する個々のデータX1、X2、…、X6を1ページ(1画面)単位で逐次出力すると共に、最終ページX6を出力した後は、その先頭ページX1の出力に戻るようにしている。このように各ページ分(画面分)のデータを逐次出力し、それが一巡した後も各ページを循環的に逐次切り替え出力するようにしている。同様に、広告データYは、1ページのデータY1、2ページのデータY2、…5ページのデータY5を有する構成で、デジタルサイネージ装置1は、この広告Yを構成する個々のデータY1、Y2、…、Y5を1ページ単位で逐次出力すると共に、循環的に逐次切り替え出力するようにしている。
【0013】
図2は、デジタルサイネージ装置1の基本的な構成要素を示したブロック図である。
デジタルサイネージ装置1の中核となるCPU11は、電源部12からの電力供給によって動作し、記憶部13内の各種のプログラムに応じてこのデジタルサイネージ装置1の全体動作を制御する中央演算処理装置である。記憶部13は、例えば、ROM、フラッシュメモリなどを有する構成で、
図4〜
図6に示した動作手順に応じて本実施形態を実現するためのプログラムを記憶するプログラムメモリ13aと、このデジタルサイネージ装置1で必要とされる各種のデータ(計時時刻、タイマ計測時間、フラグなど)を一時記憶するワークメモリ13bと、後述する出力情報メモリ13c及び反応情報メモリ13dなどを有している。なお、記憶部13は、例えば、SDカード、ICカードなど、着脱自在な可搬型メモリ(記録メディア)を含む構成であってもよく、図示しないが、通信機能を介して通信網3に接続されている状態においては所定のサーバ装置側の記憶領域を含むものであってもよい。
【0014】
CPU11には、その入出力デバイスとして、タッチ表示部14、キー操作部15、人感センサ部16、音声入出力部17、通信部18、撮像部19、顔認識部20などが接続されており、CPU11は、入出力プログラムにしたがって各入出力デバイスを制御する。タッチ表示部14は、広告データを表示したり、ソフトウェアキーとしての機能名を表示したりするもので、タッチ操作された位置を検出してその座標データを入力するタッチスクリーン(タッチ入力機能)を構成する。キー操作部15は、電源をオン/オフさせる電源キーなどの押しボタン式のキーを備えている。
【0015】
人感センサ部16は、タッチ表示部14の画面(広告画面)側に配置され、広告画面の近傍に視聴者(顧客)が居るか否かを感知する人体検出用赤外線センサであり、顧客が居ることを検出すると、CPU11は、音声入出力部17及び撮像部19を駆動させ、顧客が居ないことを検出すると、音声入出力部17及び撮像部19の駆動を停止させるようにしている。音声入出力部17は、マイクロフォン、スピーカを有し、人感センサ部16が顧客を検出している間、広告データを音声出力したり、顧客からの音声を入力したりするもので、広告画面側に向けて配置されている。CPU11は、音声入出力部17から入力された顧客からの音声を解析することによって後述する所定の音声が含まれているか否かを解析する。
【0016】
通信部18は、コンテンツ配信装置2から通信網3を介して広告データを受信する高速大容量の通信が可能な通信モジュール(通信機能)である。撮像部19は、広告画面側に配置され、人感センサ部16が顧客を検出している間、その広告画面を見ている顧客の顔を中心として撮像するデジタルカメラ(撮像機能)である。顔認識部20は、撮像部19によって撮像された顧客の顔画像を解析し、その顔の表情を検出する画像解析機能を構成するもので、顔の表情変化によってその顧客が広告に興味を示した否かを認識するようにしている。
【0017】
図3は、出力情報メモリ13c及び反応情報メモリ13dを説明するための図で、(1)は、出力情報メモリ13c、(2)は、反応情報メモリ13dを示している。
出力情報メモリ13cは、広告を構成する個々のデータが広告画面に逐次出力される毎にその出力に関する状況(出力情報)として、その出力タイミングなどを一時記憶するメモリであり、
図3(1)に示すように「データ番号」、「データ名」、「データ読み込み時のタイムスタンプ」、「リンク先」の各項目を有している。
【0018】
「データ番号」は、個々のデータが出力される毎に生成された一連番号(メモリ内のデータを識別する情報)を示し、データが逐次出力される毎にその「データ番号」の値が更新される。「データ名」は、“画像X1”、“画像X”などのデータ識別情報である。「データ読み込み時のタイムスタンプ」は、出力対象のデータを読み込んだ際に計時機能で得られた時刻である。図示の例において、「データ読み込み時のタイムスタンプ」は、画像X1の場合、“2013.03.26.09:47:50:000(年月日時分秒ミリ秒)”であることを示し、画像X2の場合“2013.03.26.09:47:55:500(年月日時分秒ミリ秒)”であることを示している。「リンク先」は、そのデータに対する詳細なデータ(例えば、商品説明情報)やリンク先のURL(Uniform Resource Locator)を示している。
【0019】
反応情報メモリ13dは、広告データの出力途中において、顧客が広告に反応したときことが検出された際にそのタイミングを反応タイミングとして一時記憶するメモリであり、
図3(2)に示すように「データ番号」、「データ名」、「反応タイミング」の各項目を有している。「データ番号」は、メモリ内のデータを識別する一連番号である。「反応タイミング」は、広告データの出力途中において、顧客が特定の言葉を発したことを検出した際、又は顧客の顔の表情が広告に興味を示した表情であることを検出した際に、顧客が広告に反応したものとして、その反応の検出時に計時機能で得られた時刻を反応タイミングとしたものである。図示の例では、「反応タイミング」として、画像X1の場合には、“2013.03.26.09:47:52:000(年月日時分秒ミリ秒)”であることを示している。
【0020】
ここで、顧客による特定の言葉とは、例えば、“買いたい”、“良いね”、“かっこいい”、“美味しいそう”などの肯定的な言葉であり、広告画面の視聴中に、このような言葉を含む音声が発せられた際に、顧客が広告に反応したものとする。なお、肯定的な言葉に限らず、広告への否定的な言葉を顧客の反応としてもよい。また、顧客の顔の表情が広告に興味を示した表情とは、例えば、広告画面を見ている顧客がその視線方向を変えずに一定時間以上、一点を凝視して場合であり、広告画面の視聴中に、このような表情に変化した際に、顧客が広告に反応したものとする。なお、顔の表情としては、一点を凝視している場合に限らず、一定時間以上瞳が大きく開いているか(驚いているか)、口が開いているか(笑顔であるか)、などであってもよい。
【0021】
このようにCPU11は、顧客の反応時のタイミングを第1タイミングとして検出して反応情報メモリ13dに一時記憶させた後、この「反応タイミング」よりも遅いタイミング、例えば、複数ページから成る一連の広告データの逐次出力が一巡したタイミング(最終ページから先頭ページに戻るタイミング)を第2のタイミング(出力タイミング)として検出し、この第2のタイミング(出力タイミング)時に、反応タイミング(第1のタイミング)時に出力されていたデータを特定して、そのデータに関する出力制御を行うようにしている。この場合、特定したデータをそのまま再出力したり、そのデータにリンクされている詳細なデータを新たに出力したりするようにしている。
【0022】
次に、第1実施形態におけるデジタルサイネージ装置1の動作概念を
図4〜
図6に示すフローチャートを参照して説明する。ここで、これらのフローチャートに記述されている各機能は、読み取り可能なプログラムコードの形態で格納されており、このプログラムコードにしたがった動作が逐次実行される。また、ネットワークなどの伝送媒体を介して伝送されてきた上述のプログラムコードに従った動作を逐次実行することもできる。このことは後述する他の実施形態においても同様であり、記録媒体の他に、伝送媒体を介して外部供給されたプログラム/データを利用して本実施形態特有の動作を実行することもできる。
【0023】
図4及び
図5は、電源投入に応じて実行開始されるデジタルサイネージ装置1の動作(第1実施形態の特徴的な動作)を説明するためのフローチャートである。
先ず、CPU11は、コンテンツ配信装置(サーバ装置)2から通信網3を介して広告データを受信可能な状態となり(
図4のステップA1)、広告データを受信すると、その受信処理を行って出力対象として記憶管理した後、人感センサ部16によって顧客を感知したか、つまり、広告画面の近傍に顧客が居るかを調べる(ステップA2)。顧客が居なければ(ステップA2でNO)、現在出力中のデータの出力を一時停止(ステップA9)させた後、ステップA1に戻るが、広告画面の近傍に顧客が居ることを検出したときには(ステップA2でYES)、複数ページ(画面)分の広告データを1ページ(1画面)毎に循環的に逐次切り替え出力させるために、その1ページ(1画面)分のデータを読み込む(ステップA3)。そして、逐次出力が一巡したか、つまり、最終ページ(画面)から先頭ページの読み込みに移るタイミングであるかを調べる(ステップA4)。
【0024】
いま、逐次出力が一巡していなければ(ステップA4でNO)、その読み込みデータをタッチ表示部14の広告画面に配置表示させると共に、そのデータに音声が付加されていれば、その音声データを音声入出力部17から出力させる(ステップA5)。そして、出力したデータの情報として「データ名」、「リンク先」、「データ読み込み時のタイムスタンプ」を生成して、出力情報メモリ13cに一時記憶(ステップA6)させた後、顧客の反応を検出する反応タイミング検出処理に移る(ステップA7)。
【0025】
図6は、反応タイミング検出処理(
図4のステップA7)を詳述するためのフローチャートである。
先ず、CPU11は、音声入出力部17から音声入力が有るかを調べ(ステップA71)、音声入力が有れば(ステップA71でYES)、その音声を解析して、例えば、“買いたい”、“美味しいそう”などの肯定的な言葉を含む所定の音声であるかを調べ(ステップA73)、所定の音声でなれば(ステップA73でNO)、次のステップA74に移る。いま、所定の音声であれば(ステップA73でYES)、顧客が広告に反応したものと判断して次のステップA77に移り、その反応時に計時機能で得られた時刻を反応タイミング(第1のタイミング)として、反応情報メモリ13dに一時記憶する処理を行う。
【0026】
また、音声の入力が無ければ(ステップA71でNO)、次のステップA74に移り、撮像部19によって撮像された顧客の顔画像を取得する。そして、顔認識部20は、撮像された画像を解析する(ステップA75)。その結果、顧客の顔の表情は、広告に興味を示した表情であるか(例えば、凝視しているか、驚いているか、笑顔であるか)を調べ(ステップA76)、顧客が興味を示していない顔の表情であれば(ステップA76でNO)、
図6のフローから抜けるが、興味を示している顔の表情であれば(ステップA76でYES)、顧客が広告に反応したものと判断して次のステップA77に移り、その反応時に計時機能で得られた時刻を反応タイミング(第1のタイミング)として、反応情報メモリ13dに一時記憶する処理を行う。
【0027】
このような反応タイミング検出処理(
図4のステップA7)が終ると、次のページ(次画面)への切り替えタイミングであるかを調べ(ステップA8)、切り替えタイミングに到達するまで反応タイミング検出処理(ステップA7)に戻るが、切り替えタイミングに到達したときには(ステップA8でYES)、最初のステップA1に戻る。このように広告データを1ページ毎に切り替え逐次出力している状態において、その広告出力が一巡したことを検出すると(ステップA4でYES)、反応情報メモリ13dを参照し、反応タイミングが一時記憶されているかを調べ(ステップA10)、反応タイミングが記憶されていなければ(ステップA10でNO)、最初のステップA1に戻る。
【0028】
いま、反応タイミングが一時記憶されていれば(ステップA10でYES)、
図5のフローに移り、反応情報メモリ13dの内容と出力情報メモリ13cの内容とを照合することによって(ステップA11)、反応タイミング時に出力されていたデータを特定する(ステップA12)。
図3(1)、(2)の例において、「データ読み込み時のタイムスタンプ」は、画像X1で“…50:000”、また、画像X2で“…55:500”となっており、「反応タイミング」は、“…52:000”であるから、反応タイミング時に出力されていたデータとして、画像X1のデータが特定される。
【0029】
これによってデータを特定すると、出力情報メモリ13cを参照し、その特定データに「リンク先」が関連付けられているかを調べ(ステップA13)、「リンク先」が関連付けられていなければ(ステップA13でNO)、この特定データをそのまま再出力する処理を行う(ステップA15)。また、「リンク先」が関連付けられていれば(ステップA13でYES)、そのリンク先にジャンプする処理(ステップA14)を行った後、このリンク先から詳細データ(商品説明文など)を読み出して新たに出力する処理を行う(ステップA15)。
【0030】
この状態において、顧客による指示操作(タッチ画面へのタッチ操作)の有無を調べ(ステップA16)、指示操作が行われなければ(ステップA16でNO)、次のステップA18に移るが、指示操作が行われたときには(ステップA16でYES)、その指示に応じた処理(ステップA17)を行った後、ステップA18に移る。このステップA18は、一定の出力時間が経過したかを調べるもので、この出力時間が経過するまでステップA15に戻るが、出力時間の経過を検出したときには(ステップA18でYES)、電源がオフされるまで(ステップA19)、
図4の最初のステップA1に戻り、以下、上述の動作を繰り返す。
【0031】
以上のように、第1実施形態におけるデジタルサイネージ装置1は、広告の出力途中における視聴者(顧客)の反応時のタイミングを第1のタイミング(反応タイミング)として検出すると共に、この反応タイミングよりも遅い所定のタイミングを第2のタイミング(出力タイミング)として検出し、この出力タイミングに到達した際に、反応タイミング時に出力されていたデータを特定してそのデータに関する出力制御を行うようにしたので、広告を構成する個々のデータを逐次出力している途中で顧客が興味を持ったデータに関する出力を適切なタイミングで制御することができる。その結果、広告出力中におけるデータの突然の切り替えを防ぐことができ、データの一連の流れを保つことが可能となり、顧客にあってはデータの見逃しやデータの見間違えを防ぐことができ、広告主側(店側)にあっては宣伝効果を高めることが可能となる。
【0032】
CPU11は、広告を構成する個々のデータに対応付けてその出力情報を記憶する出力情報メモリ13cの内容と、顧客の反応時のタイミング(反応タイミング)を記憶する反応情報メモリ13dの内容とを照合することにより反応タイミング時に出力されていたデータを特定するようにしたので、出力済みのデータの中から顧客が反応したデータを容易に特定することが可能となる。
【0033】
撮像部19によって撮像された顧客の画像の変化から顧客の反応を認識して反応タイミングを検出するようにしたので、顧客に対して特別な操作を要求する必要はなく、撮像画像から顧客の反応を的確に検出することができる。
【0034】
撮像された顧客の画像を解析し、顧客の顔表情の変化から視聴者の反応を認識するようにしたので、顧客の反応を更に的確に検出することができる。
【0035】
音声入出力部17から入力された音声から顧客の反応を認識して反応タイミングを検出するようにしたので、顧客に対して特別な操作を要求する必要はなく、自然に発した顧客の音声から顧客の反応を的確に検出することができる。
【0036】
広告を構成する個々のデータの逐次出力が一巡したタイミング(最終ページから先頭ページに移ったタイミング)を第2のタイミング(出力タイミング)として検出するようにしたので、広告出力中に突然、データが切り替わることはなく、顧客にあっては一連のデータを視聴した後に興味を持ったデータを視聴することができる。
【0037】
出力タイミング時に、反応タイミング時に出力されていたデータを再度出力するようにしたので、顧客にあっては興味を持ったデータを再確認することができる。
【0038】
反応タイミング時に出力されていたデータにリンクデータが関連付けられている場合には、そのリンクデータを新たに取得して出力するようにしたので、例えば、ある商品に反応した場合にその商品詳細説明などのリンクデータの出力に切り替えることが可能となる。
【0039】
反応タイミング時に出力されていたデータに関する出力制御を行っている状態において顧客による指示操作が行われた際に、その指示操作に応じた処理を実行するようにしたので、例えば、商品購入画面上での購入申し込みをその場で行うことも可能となる。
【0040】
なお、上述した第1実施形態においては、撮像部19によって撮像された顧客の画像の変化から視聴者の反応を認識して反応タイミングを検出したり、入力された音声から視聴者の反応を認識して反応タイミングを検出したりするようにしたが、顧客による所定の入力操作によって反応タイミングを検出するようにしてもよい。例えば、広告に興味を持った顧客が特別な意志を持たずに何気なく広告画面(タッチ画面)に触れたり、指示命令を入力するために特別な意志を持って所定のタッチキーや押しボタンを操作したりした場合に、そのときの時刻を反応タイミングとして検出するようにしてもよく、このような入力操作によっても反応タイミングを検出することができる。
【0041】
上述した第1実施形態においては、広告を構成する個々のデータの逐次出力が一巡したタイミングを第2のタイミング(出力タイミング)として検出するようにしたが、広告画面の近傍に居る顧客が検出され始めてからデータの逐次出力が一巡したタイミングを第2のタイミング(出力タイミング)として検出するようにしてもよい。例えば、顧客が広告を見始めたデータを起点として、その起点からデータの逐次出力が一巡したタイミングを出力タイミングとして検出するようにしてもよい。この場合、撮像部19によって撮像された画像を解析し、顧客の顔が広告画面に向いたときを、広告を見始めたときとして認識すればよい。なお、顧客が広告を見始めたデータが再度出力された後に、反応タイミング時に出力されていたデータを出力するようにしてもよい。
【0042】
このように顧客が広告を見始めてからデータの逐次出力が一巡したタイミングを出力タイミングとする場合には、
図4のフローチャートを一部変更すればよい。例えば、
図4のステップA2で人感有と判別された際に、顧客の顔を撮像し、その撮像画像を解析してその顔が広告画面に向き始めたかを判別し、向き始めた際に出力されているデータの識別情報を一時記憶しておき、
図4のステップA2では、このデータを起点として、データの逐次出力が一巡した否かを判別するようにすればよい。
このように広告を見始めたデータを起点として一巡したタイミングを出力タイミングとすることにより顧客にあっては全てのデータを視聴した後、興味を持ったデータを視聴することが可能となる。
【0043】
上述した第1実施形態においては、データの逐次出力が一巡したタイミングを出力タイミングとして検出するようにしたが、顧客が広告出力を視聴可能な状態から不可能な状態に変化したタイミングを出力タイミングとして検出するようにしてもよい。例えば、デジタルサイネージ装置1から顧客が離れようとしたタイミングを出力タイミングとして検出するようにしてもよい。又は、広告画面の外側に視線
が向くように大きく目を逸らしたタイミングを出力タイミングとして検出するようにしてもよい。この場合、例えば、撮像部19によって撮像された画像を解析し、顧客の顔の向きや視線の向きに基づいて顧客が離れようとしたタイミングや大きく視線を逸らしたタイミングを検出するようにすればよい。
このように顧客が離れようとしたタイミングや目を逸らしたタイミングを出力タイミングとすることにより再度、顧客を広告に惹きつけることが可能となる。
【0044】
更に、顧客が反応したデータを出力する出力タイミングとしては、その顧客が店舗の外に出ようとするタイミングであってもよい。例えば、店舗の入り口付近などに設置されているデジタルサイネージ装置を視聴した顧客が興味を示した商品に関するデータを、店舗の出口付近に設置されているデジタルサイネージ装置に送信して出力させるようにしてもよい。この場合、例えば、店舗内の通信システムにおいて、店舗内で顧客所持の携帯端末装置と通信を行うことにより顧客識別情報と共にその顧客の位置を追跡管理し、その顧客が店舗の出口付近を通過する直前であることを認識した際に、顧客が興味を示した商品に関するデータを出口付近のデジタルサイネージ装置に送信してその出力を指示するようにしてもよい。
【0045】
上述した第1実施形態においては、特に言及はしなかったが、デジタルサイネージ装置の近傍に複数の視聴者が居る場合であっても同様に適用可能である。この場合、複数の視聴者が居ることを検出すると、その視聴者毎に反応タイミングを検出すると共に、各反応タイミング時に出力されていたデータに関する出力制御を視聴者毎に繰り返して行うようにすればよい。すなわち、人感センサ部16によってデジタルサイネージ装置の近傍に複数の視聴者が居ることが検出された場合に、CPU11は、視聴者毎にその反応時のタイミングを第1のタイミングとして検出すればよい。この場合、第1のタイミングを複数検出するが、その際、視聴者の人数を計数し、第1のタイミングをその人数分検出するようにしてもよい。次に、CPU11は、第1のタイミング時に出力されていたデータを視聴者毎に特定(例えば、視聴者人数分のデータを特定)してそのデータに関する出力制御を視聴者毎に繰り返して行うようにすればよい。その際、例えば、各視聴者が反応したデータを出力タイミング時に順次切り替え表示したり、広告画面(タッチ画面)上でのページ捲り操作(タッチ操作)によって順次切り替え表示したりするようにしてもよい。なお、例えば、視聴者の人数として3人を検出した場合であっても、広告に反応したのが2人であれば、第1のタイミングを2人分検出するようにしてもよい。更に、視聴者の人数を計数する場合に限らず、デジタルサイネージ装置に対する視聴者の位置(右隅、真ん中など)を検出することによって視聴者(誰)を特定し、その視聴者が反応したタイミング時に出力されていたデータを特定するようにしてもよい。
【0046】
(第2実施形態)
以下、この発明の第2実施形態について
図7〜
図9を参照して説明する。
なお、上述した第1実施形態においては、顧客が広告に反応したタイミングを検出するようにしたが、この第2実施形態においては、顧客が広告画面を凝視している表示位置(広告位置)を検出するようにしたもので、その凝視位置に出力されているデータを特定した後の所定のタイミング(出力タイミング)で、この凝視位置のデータに関する出力制御を行うようにしている。なお、第1実施形態においては、広告を構成する個々のデータの逐次出力するようにしたが、第2実施形態においては、1画面分の広告データを常時出力する場合を示し、また、出力タイミングとしては顧客が広告画面から離れようとしたタイミングを示している。ここで、両実施形態において基本的或いは名称的に同一のものは、同一符号を付して示し、その説明を省略すると共に、以下、第2実施形態の特徴部分を中心に説明するものとする。
【0047】
図7(1)は、広告画面に1画面分のデータとして画像A、画像B、画像C、画像Dが配置表示された状態、つまり、1画面内に複数のデータが配置表示されている状態を示し、
図7(2)は、この場合における出力情報メモリ13cの内容を示した図である。
第2実施形態の出力情報メモリ13cは、「データ番号」、「データ名」、「データサイズ」、「データの貼付位置」、「リンク先」の各項目を有している。
【0048】
「データ番号」、「データ名」、「リンク先」は、上述した
図3の場合と同様である。「データサイズ」は、広告画面上のデータの大きさ(横幅及び縦幅)を示し、
図7(1)に示すように画像Aは、200×200ドットサイズ、画像Bは、200×100ドットサイズであることを示している。「データの貼付位置」は、広告画面の左上角部を原点とする平面座標系において、データの左上角部の位置をその貼付位置(表示位置)としたもので、
図7(1)に示すように画像Aの貼付位置は、X座標値が50ドット、Y座標値が500ドットであることを示し、画像Bの貼付位置は、X座標値が1000ドット、Y座標値が900ドットであることを示している。
【0049】
図7(3)は、反応情報メモリ13dを説明するための図である。
第2実施形態の反応情報メモリ13dは、「データ番号」、「凝視データ識別情報」の各項目を有している。「凝視データ識別情報」は、顧客が凝視している広告画面上の位置に表示されているデータの識別情報(データ名)を示している。ここで、CPU11は、撮像部19によって撮像された画像を解析し、顧客の視線方向が一定時間以上変らずに一点を凝視している場合に、その視線方向に応じて凝視している表示位置(広告位置)を凝視位置として検出するようにしている。なお、凝視位置は、1ドット単位で位置を検出する場合に限らず、10ドット単位又は広告画面を複数に分割した領域単位でおおよその位置(領域)を検出するようにしてもよい。なお、図示の例では、広告画面上の画像Aが凝視された場合を示している。
【0050】
図8は、電源投入に応じて実行開始されるデジタルサイネージ装置1の動作(第2実施形態の特徴的な動作)を説明するためのフローチャートである。
先ず、CPU11は、広告データを読み込むと(ステップB1)、この広告データの出力情報として「データ名」、「データサイズ」、「データの貼付位置」、「リンク先」を生成して、出力情報メモリ13cに一時記憶させると共に(ステップB2)、この広告データを広告画面に配置表示及び音声出力させる(ステップB3)。そして、凝視位置検出処理に移る(ステップB4)。
【0051】
図9は、凝視位置検出処理(
図8のステップB4)を詳述するためのフローチャートである。
先ず、CPU11は、撮像部19によって撮像された画像を取得する(ステップB41)。そして、顔認識部20は、撮像された画像を解析する(ステップB42)。その結果、顧客の視線方向が一定時間(例えば、2秒)以上変えられずに一点を凝視しているかを調べる(ステップB43)。
【0052】
広告画面が凝視されていなければ(ステップB43でNO)、
図9のフローから抜けるが、凝視されていれば(ステップB43でYES)、広告画面上の凝視位置(広告位置)を検出する処理に移る(ステップB44)。この場合、10ドット単位又は広告画面を複数に分割した領域単位でおおよその位置(領域)を検出する。そして、出力情報メモリ13cの「データサイズ」、「データの貼付位置」を参照し、凝視位置に表示されているデータを特定し(ステップB45)、この特定したデータは所定のデータ(例えば、商品名、商品価格などのデータ)であるかを調べる(ステップB46)。ここで、所定のデータ以外のデータ、例えば、広告対象の商品には関係しない背景画像などのデータであれば(ステップB46でNO)、
図9のフローから抜けるが、所定のデータであれば(ステップB46でYES)、そのデータの識別情報(データ名)を「凝視データ識別情報」として反応情報メモリ13dに一時記憶させる処理を行う(ステップB47)。その後、
図9のフローから抜ける。
【0053】
このような凝視位置検出処理(
図8のステップB4)が終了すると、撮像部19によって撮像された画像を取得し(ステップB5)、その撮像画像を解析して(ステップB6)、顧客の状態は、広告出力が視聴可能な状態から不可能な状態に変化したか、つまり、顧客の顔の向きや視線の向きを検出することによって顧客が離れようとしたかを調べる(ステップB7)。いま、顧客が離れようとしなければ、つまり、広告画面を見続けている状態であれば(ステップB6でNO)、凝視位置検出処理(ステップB4)に戻るが、離れようとしたときには(ステップB6でYES)、反応情報メモリ13dに「凝視データ識別情報」が一時記憶されているか、つまり、広告に反応した顧客が離れようとしたかを調べる(ステップB8)。
【0054】
広告に反応しなかった顧客が離れようとしたときは、「凝視データ識別情報」が記憶されていないので(ステップB8でNO)、凝視位置検出処理(ステップB4)に戻るが、広告に反応した顧客が離れようとしたときには、反応情報メモリ13dに「凝視データ識別情報」が一時記憶されているので(ステップB8でYES)、その顧客の注意を喚起させるために効果音(大音響、顧客を呼び止める音声など)を発生出力させる(ステップB9)。そして、「凝視データ識別情報」に基づいて出力情報メモリ13cを参照し、そのデータを特定すると共に(ステップB10)、この特定したデータに「リンク先」が関連付けられているかを調べる(ステップB11)。
【0055】
その結果、「リンク先」が関連付けられていなければ(ステップB11でNO)、この特定データを再出力する処理を行うが(ステップB13)、「リンク先」が関連付けられていれば(ステップB11でYES)、そのリンク先にジャンプする処理(ステップB12)を行った後、リンク先の詳細データを新たに出力する処理を行う(ステップB13)。この状態において、一定の出力時間が経過したかを調べ(ステップB14)、この出力時間が経過するまでステップB13に戻るが、出力時間の経過を検出したときには(ステップB14でYES)、上述のステップB3に戻る。
【0056】
以上のように、第2実施形態におけるデジタルサイネージ装置1は、広告表示中に視聴者(顧客)による広告画面上での凝視位置を検出し、その凝視位置が所定のデータであれば、その所定データを指定するための識別情報を一時記憶しておき、その後の所定タイミングで一時記憶の識別情報から凝視位置に表示されていた所定データを特定してそのデータに関する出力制御を行うようにしたので、顧客が興味を持ったデータに関する出力を適切なタイミングで制御することができ、顧客に対して特別な操作を要求する必要はなく、顧客が興味を持ったデータを的確に特定することができ、広告主側(店側)にあっては宣伝効果を高めることが可能となる。
【0057】
なお、上述した第2実施形態においては、1画面分の広告データを常時出力する場合を例示したが、第1実施形態と同様に、広告を構成する個々のデータを逐次出力するようにしてもよい。また、第2実施形態においては、広告表示中に視聴者(顧客)による広告画面上での凝視位置を検出するようにしたが、凝視位置の検出に限らず、例えば、タッチ画面上の任意の位置を顧客がタッチした場合など、入力操作によって任意に指定された位置を検出するようにしてもよい。また、一定時間以上、顧客の瞳が大きく開いている(驚いている)、口が開いている(笑顔である)、などのように顔の表情が変化した際に、その顧客が見ている表示位置を顧客によって任意に指定された位置としてもよい。
【0058】
また、第2実施形態においては、出力タイミングを顧客が広告画面から顧客が離れようとしたタイミングとしたが、第1実施形態と同様に、広告を構成する個々のデータの逐次出力が一巡したタイミング(最終ページから先頭ページに移ったタイミング)を出力タイミングとしてもよい。また、顧客が広告を見始めたデータを起点として、その起点からデータの逐次出力が一巡したタイミングを出力タイミングとして検出するようにしてもよい。また、顧客が店舗の外に出ようとするタイミングを出力タイミングとして検出するようにしてもよい。このように広告を構成する個々のデータを遂次出力することによって第1実施形態と同様の効果を有する。
【0059】
更に、店舗の入り口付近で顧客が反応したデータ(商品)を販売しているコーナにその顧客が通りかかったタイミングで、その販売コーナに設置されているデジタルサイネージ装置に当該商品のデータを表示させるようにしてもよい。この場合においても、店舗内で顧客所持の携帯端末装置と通信を行うことにより顧客識別情報と共にその顧客の位置を追跡管理するようにすれば、実現可能である。
【0060】
上述した各実施形態においては、視聴者(顧客)の顔画像を解析してその視線方向などを視聴者の反応として検出するようにしたが、顧客のジェスチャを視聴者の反応として検出するようにしてもよい。また、顧客の音声は、広告内容に反応して自然に発した音声に限らず、指示命令を入力する音声を検出するようにしてもよい。
【0061】
上述した各実施形態においては、店舗内設置のデジタルサイネージ装置を例示したが、これに限らず、駅構内や街中設置のデジタルサイネージ装置であってもよい。
また、広告画面は、タッチ画面としたが、投影機を備えたデジタルサイネージ装置であれば、スクリーン上に投影画像を表示するようにしてもよい。
【0062】
また、上述した各実施形態において示した“装置”や“部”とは、機能別に複数の筐体に分離されていてもよく、単一の筐体に限らない。また、上述したフローチャートに記述した各ステップは、時系列的な処理に限らず、複数のステップを並列的に処理したり、別個独立して処理したりするようにしてもよい。
【0063】
以上、この発明の実施形態について説明したが、この発明は、これに限定されるものではなく、特許請求の範囲に記載された発明とその均等の範囲を含むものである。
以下、本願出願の特許請求の範囲に記載された発明を付記する。
(付記)
(請求項1)
請求項1に記載の発明は、
広告を構成する個々のデータを逐次出力する広告出力装置であって、
前記広告の出力途中における視聴者の反応時のタイミングを第1のタイミングとして検出する第1のタイミング検出手段と、
前記第1のタイミング検出手段によって検出された第1のタイミングよりも遅い所定のタイミングを第2のタイミングとして検出する第2のタイミング検出手段と、
前記第2のタイミングに到達したか否かを判別する判別手段と、
前記判別手段によって前記第2のタイミングに到達したことが判別された際に、前記第1のタイミング時に出力されていたデータを特定してそのデータに関する出力制御を行う出力制御手段と、
を備えたことを特徴とする。
(請求項2)
請求項2に記載の発明は、請求項1に記載の広告出力装置において、
広告を構成する個々のデータに対応付けてその出力情報を記憶する出力情報記憶手段を更に備え、
前記出力制御手段は、前記出力情報記憶手段に記憶されている出力情報と前記第1のタイミング検出手段によって検出された第1のタイミングとを照合することにより前記第1のタイミング時に出力されていたデータを特定する、
ことを特徴とする。
(請求項3)
請求項3に記載の発明は、請求項1又は2に記載の広告出力装置において、
視聴者を撮像する撮像手段、視聴者の音声を入力する音声入力手段、視聴者による所定の入力操作を入力する操作手段のいずれかを更に備え、
前記第1のタイミング検出手段は、前記撮像手段によって撮像された画像の変化から視聴者の反応を認識して第1のタイミングを検出する、又は、前記音声入力手段から入力された音声から視聴者の反応を認識して第1のタイミングを検出する、或いは、前記操作手段によって視聴者による所定の入力操作が行われた際のタイミングを第1のタイミングとして検出する、
ことを特徴とする。
(請求項4)
請求項4に記載の発明は、請求項1乃至3のいずれか1項に記載の広告出力装置において、
前記第2のタイミング検出手段は、広告を構成する個々のデータの逐次出力が一巡したタイミングを第2のタイミングとして検出する、
ことを特徴とする。
(請求項5)
請求項5に記載の発明は、請求項1乃至3のいずれか1項に記載の広告出力装置において、
当該広告出力装置の近傍に視聴者が居るか否かを検出する視聴者検出手段を更に備え、
前記第2のタイミング検出手段は、前記視聴者検出手段によって近傍に居る視聴者が検出され始めてから広告を構成する個々のデータの逐次出力が一巡したタイミングを第2のタイミングとして検出する、
ことを特徴とする。
(請求項6)
請求項6に記載の発明は、請求項請求項1乃至3のいずれか1項に記載の広告出力装置において、
視聴者が広告出力を視聴可能な状態であるか否かを検出する視聴者状態検出手段を更に備え、
前記第2のタイミング検出手段は、前記視聴者状態検出手段によって視聴可能な状態から不可能な状態に変化したタイミングを第2のタイミングとして検出する、
ことを特徴とする。
(請求項7)
請求項7に記載の発明は、請求項1乃至6のいずれか1項に記載の広告出力装置において、
前記出力制御手段は、前記第1のタイミング時に出力されていたデータを再度出力する出力制御を行う、又は、前記第1のタイミング時に出力されていたデータに関連付けられているリンクデータを新たに取得して出力する出力制御を行う、
ことを特徴とする。
(請求項8)
請求項8に記載の発明は、請求項1乃至7のいずれか1項に記載の広告出力装置において、
当該広告出力装置の近傍に複数の視聴者が居るか否かを検出する複数視聴者検出手段を更に備え、
前記第1のタイミング検出手段は、前記複数視聴者検出手段によって複数の視聴者が居ることが検出された場合に、視聴者毎にその反応時のタイミングを第1のタイミングとして検出し、
前記出力制御手段は、前記第1のタイミング時に出力されていたデータを視聴者毎に特定してそのデータに関する出力制御を視聴者毎に繰り返して行う、
ことを特徴とする。
(請求項9)
請求項9に記載の発明は、請求項1乃至8のいずれか1項に記載の広告出力装置において、
前記出力制御手段が前記第1のタイミング時に出力されていたデータに関する出力制御を行っている状態において視聴者による指示操作が行われた際に、その指示操作に応じた処理を実行する指示処理手段を更に備えた、
ことを特徴とする。
(請求項10)
請求項10に記載の発明は、
広告データを表示する広告出力装置であって、
前記広告の表示中における視聴者による画面上での指定位置を検出する検出手段と、
前記検出手段によって検出された指定位置が所定のデータであれば、その所定データを指定するための識別情報を記憶する記憶手段と、
前記検出手段によって指定位置が検出された後の所定タイミングで前記記憶手段に記憶されている識別情報から前記指定位置に表示されていた前記所定データを特定してそのデータに関する出力制御を行う出力制御手段と、
を備えることを特徴とする。
(請求項11)
請求項11に記載の発明は、請求項10に記載の広告出力装置において、
前記検出手段は、前記広告の表示中における視聴者による画面上での凝視位置を指定位置として検出する、
ことを特徴とする。
(請求項12)
請求項12に記載の発明は、
広告を構成する個々のデータを逐次表示する広告出力装置のコンピュータを制御するためのプログラムであって、
前記コンピュータを、
前記広告の出力途中における視聴者の反応時のタイミングを第1のタイミングとして検出する第1のタイミング検出手段と、
前記第1のタイミング検出手段によって検出された第1のタイミングよりも遅い所定のタイミングを第2のタイミングとして検出する第2のタイミング検出手段と、
前記第2のタイミングに到達したか否かを判別する判別手段と、
前記判別手段によって前記第2のタイミングに到達したことが判別された際に、前記第1のタイミング時に出力されていたデータを特定してそのデータに関する出力制御を行う出力制御手段と、
として機能させるためのプログラム。
(請求項13)
請求項13に記載の発明は、
広告データを表示する広告出力装置のコンピュータを制御するためのプログラムであって、
前記コンピュータを、
前記広告の表示中における視聴者による画面上での指定位置を検出する検出手段と、
前記検出手段によって検出された指定位置が所定のデータであれば、その所定データを指定するための識別情報を記憶する記憶手段と、
前記検出手段によって指定位置が検出された後の所定タイミングで前記記憶手段に記憶されている識別情報から前記指定位置に表示されていた前記所定データを特定してそのデータに関する出力制御を行う出力制御手段と、
として機能させるためのプログラム。