(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0009】
以下、図を参照して本発明の実施形態を詳細に説明する。なお、以下の実施形態において、同様の機能を示す構成には、同一の符号を付してある。
【0010】
本実施の形態の画像形成システム100は、
図1に示すように、プリンター、複写機、複合機等の画像形成装置1と、画像形成装置1と無線LAN等のネットワークを介して接続されたメガネ型端末2とを備えている。画像形成装置1は、ユーザーから検索対象画像50を取得すると、検索対象画像50と一致する商品の販売店を検索し、販売店位置と識別マークとを配置した単一マップ81を印刷する。それと共に、画像形成装置1は、販売店の取扱商品で検索対象画像50に類似する類似商品情報を付帯情報としてメガネ型端末に送信する。ユーザーは、単一マップ81により検索対象画像50の商品を販売する販売店までのアクセスマップを入手することができ、メガネ型端末2で単一マップ81を視認すると、識別マーク84に基づいて販売店における類似商品情報が付帯情報として単一マップ81上にオーバーレイ表示される。
【0011】
次に、
図2を参照して、画像形成装置1について詳細に説明する。画像形成装置1は、複合機であり、コンビニエンスストア等の店舗やモール内等に設置されている。画像形成装置1は、操作部11と原稿読取部12と本体記憶部13と画像処理部14と印刷部15と位置情報取得部16と本体通信部17と本体制御部18とを備えている。
【0012】
操作部11は、タッチパネルと操作キーとを備えている。タッチパネルは、各種操作キーや画像形成状況を表示する表示部の表面に透明の感圧センサーが設けられており、表示手段及び入力手段として機能する。また、操作キーは、テンキー、リセットキー、ストップキー、スタートキー等を備えている。
【0013】
原稿読取部12は、図示しない原稿給紙装置により給紙されてきた原稿や、ユーザーによってプラテンガラスに載置された原稿に対して光を照射し、その反射光等を受光して原稿画像を読み取るスキャナーである。
【0014】
本体記憶部13は、半導体メモリーやHDD(Hard Disk Drive)等の記憶手段であり、本体通信部17を介して受信された画像データや、原稿読取部12によって読み取られた画像データなどが蓄積される。また、本体記憶部13には、商品情報記憶部131と、地図情報132と、識別マーク情報133とが記憶されている。
【0015】
商品情報記憶部131は、
図3に示すように、複数の販売店でそれぞれ販売されている複数の販売商品の商品画像を登録したデータベースである。商品情報記憶部131には、各商品画像と共に、販売店位置と、販売店名と、商品の価格と、商品の詳細情報(例えば、商品名、型番、色、材質、在庫数、商品説明等)等が関連付けて登録されている。販売店位置は、販売店の位置情報として、例えば、緯度・経度を有する。商品情報記憶部131は、販売店のPOS(Point Of Sales system)端末と商品の価格や在庫数等を連携してもよい。
【0016】
地図情報132は、フロアーマップ等を含む汎用地図情報である。識別マーク情報133は、後述の第1〜第N識別マーク84を生成するためのパターンデータやイメージデータであり、第1〜第N識別マーク84にそれぞれ対応したものが記憶されている。
【0017】
画像処理部14は、画像データに対して所定の画像処理を行う手段である。画像処理部14では、例えば、拡大縮小処理や、濃度調整、階調調整等の画像改善処理が行われる。
【0018】
印刷部15は、画像データを印刷する印刷手段である。印刷部15は、例えば、本体記憶部13から読み出した画像データに基づき感光体ドラムの表面に潜像を形成し、トナーによってその潜像をトナー像とする画像形成を行い、その感光体ドラムから記録紙にトナー像を転写させ、そのトナー像を記録紙に定着させて排紙する。また、印刷部15は、シアン、マゼンダ、イエロー、ブラック等のトナーを用いてそれぞれトナー像を形成する機能を有し、これらのトナー像を重ね合わせて記録紙に定着させることで、フルカラー印刷に対応している。
【0019】
位置情報取得部16は、GPS(Global Positioning System)等により現在地を取得する機能を有する。
【0020】
本体通信部17は、無線LAN(Local Area Network)等の無線通信によって、メガネ型端末2や外部端末と各種データを送受信する機能を有する。他にも、本体通信部17は、LANケーブル等の有線ケーブルを介して外部端末と各種データを送受信する機能を有している。
【0021】
本体制御部18は、操作部11、原稿読取部12、本体記憶部13、画像処理部14、印刷部15、位置情報取得部16及び本体通信部17にそれぞれ接続されている。本体制御部18は、CPU(Central Processing Unit)、ROM(Read Only Memory)、RAM(Random Access Memory)等を備えたマイクロコンピューター等の情報処理部である。ROMには画像形成装置1の動作制御を行うための制御プログラムが記憶されている。本体制御部18は、CPUによりROMに記憶されている制御プログラムを読み出し、制御プログラムをRAMに展開させることで、装置全体の制御を行う。また、本体制御部18は、検索対象画像受付部181と、画像検索部182と、マップ生成部183と、付帯情報生成部184と、識別マーク配置部185と、出力制御部186として機能する。
【0022】
検索対象画像受付部181は、販売店を検索する商品の商品画像の入力を検索対象画像50として受け付ける機能を有する。具体的には、検索対象画像受付部181は、商品の商品画像が掲載された記事を原稿読取部12により読み取ったり、ユーザーが所持する携帯電話やスマートフォン等の携帯端末から送信される商品画像を本体通信部17経由で受信したりして、検索対象画像50として受け付けることができる。
【0023】
画像検索部182は、商品情報記憶部131を参照して、検索対象画像受付部181により受け付けられた検索対象画像50の商品と一致する販売商品の商品画像を検索し、検索により得た商品画像を現在地からそれぞれの販売店までの距離の短い順に上位N番目まで(Nは特定の自然数)を取得する機能を有する。これにより、画像検索部182は、検索結果として、第1〜第N商品画像を取得する。
【0024】
マップ生成部183は、現在地と検索結果として取得された第1〜第N商品画像に関連付けられたそれぞれの販売店位置を示す単一マップ81を生成する機能を有する。具体的には、マップ生成部183は、画像検索部182により取得された第1〜第N商品があるそれぞれの販売店毎に、位置情報取得部16により取得される現在地と、販売店位置とを示す販売店マップ(第1〜第N販売店マップ)をそれぞれ生成する。そして、マップ生成部183は、第1〜第N販売店マップ上の現在地を基点として、第1〜第N販売店マップ間における販売店位置の重なりを避けて、第1〜第N販売店マップをそれぞれ現在地から販売店までの距離が短くなるほど上層に位置するように重ね合わせることで、単一マップ81を生成する。
【0025】
付帯情報生成部184は、マップ生成部183により生成された単一マップ81上の第1〜第N商品画像に対応付けられた販売店毎に、商品情報記憶部131に基づいて、検索対象画像50の商品に対する類似度の高い順にそれぞれの販売店の商品画像を並び替えて(検索結果として取得された第1〜第N商品画像を除く)、商品情報を付加して第1〜第N付帯情報を生成する機能を有する。
【0026】
識別マーク配置部185は、マップ生成部183により生成された単一マップ81上の第1〜第N商品画像それぞれの販売店毎に、識別マーク情報133に基づいて第1〜第N識別マーク84を生成し、生成した第1〜第N識別マーク84のそれぞれを単一マップ81上に配置する機能を有する。
【0027】
出力制御部186は、識別マーク配置部185により第1〜第N識別マーク84を配置された単一マップ81を印刷部15により印刷させると共に、付帯情報生成部184により生成された第1〜第N付帯情報を本体通信部17経由でメガネ型端末2に送信する機能を有する。
【0028】
メガネ型端末2は、ユーザーが頭部に装着するメガネ型のウェアラブル端末である。
図4に示すように、メガネ型端末2は、視界撮像部21と、画面表示部22と、端末通信部23と、端末記憶部24と、端末制御部25とを備えている。
【0029】
視界撮像部21は、
図1に示すように、メガネ型端末2の前方側に向けて配置されたCCDカメラやCMOSカメラ等の固体撮像素子で構成されたカメラであり、ユーザーの前方視界の画像を撮像する。以下、視界撮像部21によって撮像された画像を視界画像と称す。
【0030】
画面表示部22は、メガネ型端末2をユーザーが装着すると、
図1に示すような、ユーザーの眼球の直前に位置するハーフミラー22aを表示画面として有し、ハーフミラー22aに画像光を投影することでユーザーが視認可能な各種画面を表示する。
【0031】
端末通信部23は、無線LAN等の無線通信によって、画像形成装置1と各種データを送受信する機能を有する。
【0032】
端末記憶部24は、半導体メモリー等の記憶手段である。端末記憶部24には、第1〜第N識別マーク84の照合に用いる識別マーク情報133が記憶されている。また、端末記憶部24は、端末通信部23が画像形成装置1から受信する第1〜第N付帯情報を記憶する。
【0033】
端末制御部25は、視界撮像部21、画面表示部22、端末通信部23と、端末記憶部24にそれぞれ接続され、メガネ型端末2全体の動作制御を実行する。端末制御部25は、CPU、ROM、RAM等を備えたマイクロコンピューター等の情報処理部である。ROMにはメガネ型端末2の動作制御を行うための制御プログラムが記憶されている。端末制御部25は、CPUによりROMに記憶されている制御プログラムを読み出し、制御プログラムをRAMに展開させることで、端末全体の制御を行う。また、端末制御部25は、マーク認識部251と、表示処理部252と、動作検出部253としてそれぞれ機能する。
【0034】
マーク認識部251は、識別マーク情報133に基づいて視界画像から第1〜第N識別マーク84を認識する機能を有する。
【0035】
表示処理部252は、マーク認識部251によって認識された第1〜第N識別マーク84毎に、画像形成装置1から受信した第1〜第N付帯情報を端末記憶部24から取得し、第1〜第N識別マーク84それぞれの近傍に第1〜第N付帯情報をそれぞれ画面表示部22上に表示させる機能を有する。
【0036】
動作検出部253は、視界画像からユーザーの手を検出し、ユーザーのスワイプ動作やフリック動作を検出する機能を有する。
【0037】
次に、
図5及び
図6を参照して、画像形成装置1の画像形成動作の流れを説明する。
【0038】
ユーザーにより販売店を検索する商品の商品画像が入力されると、検索対象画像受付部181は入力された商品画像を検索対象画像50として受け付ける(ステップs11)。ユーザーは、販売店を知りたい商品の掲載記事を原稿読取部12によって読み取らせたり、スマートフォン等の携帯端末のカメラで撮影した商品画像や、インターネットからダウンロードした商品画像等を携帯端末から本体通信部17に送信したりすることができる。
【0039】
つづいて、画像検索部182は、検索対象画像受付部181により受け付けられた検索対象画像50について、商品情報記憶部131を参照して画像検索を行い、各販売店の販売商品のうち、検索対象画像50の商品に一致する販売商品の商品画像を検索する(ステップs12)。
【0040】
つづいて、画像検索部182は、商品情報記憶部131を参照して、検索により得た商品画像に関連付けられた販売店位置と、位置情報取得部により取得される現在地に基づいて、検索により得られた商品画像を現在地から販売店位置までの距離の短い順に並び替える(ステップs13)。つづいて、画像検索部182は、並び替えた商品画像のうち、上位N番目(Nは特定の自然数)までの商品画像を第1〜第N商品画像として取得する(ステップs14)。これにより、商品情報記憶部131に登録された販売店の中で、検索対象画像50の商品と一致する販売商品を有する販売店のうち、現在地から近い順にN軒の販売店が特定される。なお、距離は現在地から販売店位置までの直線距離であってもよい。
【0041】
つづいて、マップ生成部183は、地図情報132に基づいて、第1〜第N商品画像毎に、現在地とそれぞれの販売店位置とをマッピングした第1〜第N販売店マップを生成する(ステップs15)。
【0042】
図6は、画像検索部182による検索結果として第1〜第3商品画像82a〜82cが取得された場合を示している。第1商品画像82aに関連付けられた販売店A店は、現在地から販売店位置までの距離が20mであり、第2商品画像82bに関連付けられた販売店B店は、現在地から販売店位置までの距離が510mである。また、第3商品画像82cに関連付けられた販売店C店は、現在地から販売店位置までの距離が3.6kmである。
【0043】
図6(a)に示す第1販売店マップ80−1には、現在地と販売店A店の位置が示されており、
図6(b)に示す第2販売店マップ80−2には現在地と販売店B店の位置が示されている。また、
図6(c)に示す第3販売店マップ80−3には現在地と販売店C店の位置が示されている。第1〜第3販売店マップ80−1〜80−3のそれぞれは、矩形状であり、矩形4隅の1隅(
図6では左下)に現在地(
図6に示す黒丸)が配置され、現在地を基点として販売店位置(
図6に示す黒星)が矩形領域内に含まれるように適宜縮尺を調整して特定の大きさ(マップ領域)となるように生成される。
【0044】
具体的には、マップ生成部183は、第N販売店マップを、例えばA4等の出力用紙サイズの大きさで生成し、第N販売店マップの大きさを基準として、第1〜第N−1販売店マップをそれぞれ第N販売店マップの略1/N、・・・、(N−1)/Nの大きさになるように生成する。例えば、
図6では、第1販売店マップ80−1は、第3販売店マップ80−3の略1/3の大きさとなるように生成され、第2販売店マップ80−2は、第3販売店マップ80−3の略2/3の大きさとなるように生成され、第3販売店マップ80−3は、出力用紙サイズとなるように生成されている。なお、第1販売店マップ80−1のように、販売店位置を含むフロアーマップがある場合には、フロアーマップ上に販売店位置を示すことができる。
【0045】
つづいて、マップ生成部183は、生成した第1〜第N販売店マップを重ね合わせて
図7に示す単一マップ81を生成する(ステップs16)。単一マップ81は、第N販売店マップをベースマップとして、第N販売店マップ上に第N−1販売店マップ、第N−2販売店マップ、・・・、第1販売店マップの順に、現在地を基点にして重ね合わせることで生成される。つまり、マップ生成部183は、第1〜第N販売店マップを現在地から販売店までの距離が短くなるほど上層に位置するように重ね合わせている。また、第1〜第N−1販売店マップは、それぞれ第N販売店マップの略1/N、・・・、(N−1)/Nの大きさで生成されるので、重なったときに上層に位置する販売店マップほどマップ領域が小さくなる。そのため、第1〜第N販売店マップを、それぞれ現在地を基点にして重ね合わせたときに、各販売店マップ間における販売店の位置の重なりを避けることができる。
【0046】
従って、
図7に示す単一マップ81では、第3販売店マップ80−3をベースマップとして、ベースマップ上に、第3販売店マップ80−3の略2/3の大きさで生成された第2販売店マップ80−2が重なり、第2販売店マップ80−2上、第3販売店マップ80−3の略1/3の大きさで生成された第1販売店マップ80−1が重なっている。
【0047】
また、マップ生成部183は、重なったときに上層に位置する販売店マップが下層の販売店マップ内の販売店の位置を含んでいる場合には、この上層の販売店マップの縮尺を調整して、下層の販売店マップのマップ領域まで拡大する。例えば、仮に、
図7に示すB店とC店の販売店位置が近い場合、第2販売店マップ80−2内にC店の販売店位置が含まれことがある。この場合、マップ生成部183は、第2販売店マップ80−2の縮尺を調整して、第2販売店マップ80−2のマップ領域を第3販売店マップ80−3(ベースマップ)まで拡大する。これにより、第2販売店マップ80−2は大縮尺となるから、販売店位置を地図上で確認しやすくなる。この場合、マップ生成部183は、拡大した第2販売店マップ80−2上にC店の位置をマッピングするように変更する。つまり、拡大した第2販売店マップ80−2上でB店の位置とC店の位置との両方が示される。
【0048】
つづいて、マップ生成部183は、単一マップ81上の各販売店位置に、それぞれ対応する第1〜第N商品画像を配置すると共に、第1〜第N商品画像の近傍に価格や販売店名等を含む商品情報を配置する(ステップs17)。
図7では、A店、B店、C店の位置をそれぞれ指し示すように第1〜第3商品画像82a〜82cがそれぞれ配置され、第1〜第3商品画像82a〜82cのそれぞれに隣接して第1〜第3商品情報83a〜83cがそれぞれ配置されている。
【0049】
つづいて、付帯情報生成部184は、商品情報記憶部131を参照して、第1〜第N商品画像の販売店毎に、検索対象画像50の商品に類似する順に販売商品の商品画像を並び替える(ステップs18)。つづいて、付帯情報生成部184は、商品情報記憶部131を参照して、並び替えた商品画像群にそれぞれの価格や詳細情報等の商品情報を付加して、第1〜第N付帯情報を生成する(ステップs19)。これにより、各販売店において検索対象画像50の商品に類似する類似商品情報が第1〜第N付帯情報として生成される。
【0050】
つづいて、識別マーク配置部185は、識別マーク情報133に基づいて、第1〜第N識別マーク84を生成し、第1〜第N商品画像に対応付けて単一マップ81上に配置する(ステップs20)。
図7では、第1〜第3商品画像82a〜82c上にそれぞれ第1〜第3識別マーク84a〜84cが配置されている。言い換えれば、第1〜第3商品画像82a〜82cそれぞれの販売店毎にそれぞれ第1〜第N識別マーク84が配置されている。
【0051】
つづいて、出力制御部186は、第1〜第N識別マーク84が配置された単一マップ81を印刷部15に出力して、単一マップ81を印刷させると共に(ステップs21)、付帯情報生成部184によって生成された第1〜第N付帯情報を本体通信部17経由でメガネ型端末2に送信し(ステップs22)、本処理を終了する。
【0052】
次に、
図8を参照して、メガネ型端末2の付帯情報表示処理の流れを説明する。
【0053】
メガネ型端末2の端末制御部25は、端末通信部23により画像形成装置1から付帯情報を受信するまで待機している(ステップs41、ステップs41でNo)。端末通信部23により付帯情報を受信すると(ステップs41でYes)、端末制御部25は、付帯情報を端末記憶部24に記憶させる(ステップs42)。つづいて、端末制御部25は、視界撮像部21によって前方視界を撮像させ(ステップs43)、マーク認識部251として機能する。
【0054】
マーク認識部は251、識別マーク情報133を参照して、視界画像から第1〜第N識別マーク84を検出したか否かを判断する(ステップs44)。第1〜第N識別マーク84を検出しなかった場合(ステップs44でNo)、ステップs43に処理が戻る。
【0055】
ユーザーが印刷された単一マップ81をメガネ型端末2の視界越しに捉えると、マーク認識部251は、識別マーク情報133に基づいて視界画像から第1〜第N識別マーク84を検出する(ステップs44でYes)。つづいて、表示処理部252は、端末通信部23により受信した第1〜第N付帯情報のそれぞれを第1〜第N識別マーク84それぞれの近傍に画面表示部22によって表示させ(ステップs45)、本処理を終了する。
【0056】
図9は、視界画像90内の単一マップ81に第1〜第3付帯情報85a〜85cが表示処理部252によってオーバーレイ表示されたイメージ図である。第1〜第3付帯情報85a〜85cは、それぞれ第1〜第3識別マーク84a〜84cの近傍に表示される。その際に、表示処理部252は、視界画像90内の第1〜第3商品画像82a〜82cの表示領域の大きさに基づいて第1〜第3付帯情報85a〜85cの表示領域の大きさを決定し、決定した大きさで第1〜第3付帯情報85a〜85cを表示させる。これにより、ユーザーが単一マップ81内で違和感なく第1〜第3商品画像82a〜82cと第1〜第3付帯情報85a〜85cを視認することができる。また、第1〜第3付帯情報85a〜85cは、それぞれ複数の商品画像を含んでおり、検索対象画像50の商品に対する類似度の高い順に商品画像にドラムロール式のユーザーインターフェイスで表示される。初期表示では、第1〜第3付帯情報85a〜85cそれぞれの中で、検索対象画像50の商品に最も類似する販売商品の商品画像がそれぞれのドラムロール内で最も手前に大きく表示される。
【0057】
ユーザーが第1〜第3付帯情報85a〜85cのいずれかに対してスワイプ動作をすると、動作検出部253によりスワイプ動作が検出される。表示処理部252は、スワイプ動作が検出された付帯情報内の各商品画像の表示位置をドラムロールの回転方向に1つずつずらすように表示制御する。従って、ユーザーは、スワイプ動作により検索対象画像50に類似する商品を類似度の高い順に確認することができる。また、ユーザーが第1〜第3付帯情報85a〜85cのいずれかの商品画像に対してフリック動作をすると、動作検出部253によりフリック動作が検出され、表示処理部252は、フリック動作が検出された商品画像と商品情報とを拡大表示させる。従って、ユーザーは、フリック動作によって所望の商品画像を選択し、選択した商品画像の販売商品を詳細に確認することができる。
【0058】
このように、本実施形態の画像形成システム100は、画像形成装置1と、メガネ型端末2とを備えた画像形成システム100であって、画像形成装置1は、販売店を検索する商品の商品画像の入力を検索対象画像50として受け付ける検索対象画像受付部181と、複数の販売店がそれぞれ販売する複数の販売商品の商品画像を、それぞれの販売店の位置情報と共に関連付けて記憶した商品情報記憶部131と、商品情報記憶部131を参照して、検索対象画像受付部181により受け付けられた検索対象画像50の商品と一致する販売商品の商品画像を検索し、検索により得た商品画像を現在地からそれぞれの販売店までの距離の短い順に複数取得する画像検索部182と、現在地と画像検索部182により取得された複数の前記商品画像に関連付けられたそれぞれの販売店の位置とを示す単一マップ81を生成するマップ生成部183と、単一マップ81上の複数の販売店毎に、検索対象画像50の商品に対する類似度の高い順に販売商品の商品画像を並び替えて、付帯情報を生成する付帯情報生成部184と、マップ生成部183により生成された単一マップ81に、複数の販売店毎にそれぞれ識別マーク84を配置する識別マーク配置部185と、識別マーク84が配置された単一マップ81を印刷する印刷部15と、付帯情報生成部184により生成された付帯情報をメガネ型端末2に送信する本体通信部17とを備え、メガネ型端末2は、画像形成装置1から付帯情報を受信する端末通信部23と、ユーザーの前方視界を撮像する視界撮像部21と、視界撮像部21により撮像された視界画像90から単一マップ81に配置された識別マーク84を認識するマーク認識部251と、マーク認識部251により認識された識別マーク84に対応して、付帯情報を単一マップ81上の販売店の位置に合わせてオーバーレイ表示させる表示処理部252とを備えたことを特徴とする。
【0059】
これにより、ユーザーが販売店を検索したい商品の商品画像を検索対象画像として入力することで、検索を指示した商品を取り扱っている近隣販売店が現在地から近い順に商品情報と共に並んだ単一マップ81が印刷されるので、単一マップ81上で販売店を比較検討し、購買店を選ぶことができる。また、ユーザーがメガネ型端末2を通して単一マップ81を視認することで、メガネ型端末2により単一マップ81内の識別マーク84が認識され、識別マーク84に対応してその販売店における類似商品情報が単一マップ81上にオーバーレイ表示される。これにより、ユーザーが検索を指示した商品の色違い品、検索を指示した商品と合わせる別カテゴリー(例えば、検索対象商品が鞄なら、靴、服等)の商品の充実度等を把握することができ、単一マップ81上で商品を比較検討することができる。
【0060】
本発明は上述した実施の形態に限定されるものではなく、本発明の趣旨を逸脱しない範囲で種々様々に変更が可能であることは言うまでもない。