(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-11-05
(45)【発行日】2024-11-13
(54)【発明の名称】検索支援システム
(51)【国際特許分類】
G06F 16/535 20190101AFI20241106BHJP
G06F 16/532 20190101ALI20241106BHJP
G06F 16/538 20190101ALI20241106BHJP
G06T 1/00 20060101ALI20241106BHJP
G06Q 30/0601 20230101ALI20241106BHJP
【FI】
G06F16/535
G06F16/532
G06F16/538
G06T1/00 200E
G06Q30/0601
(21)【出願番号】P 2023069459
(22)【出願日】2023-04-20
(62)【分割の表示】P 2022071501の分割
【原出願日】2010-12-21
【審査請求日】2023-04-20
(31)【優先権主張番号】P 2009292857
(32)【優先日】2009-12-24
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004112
【氏名又は名称】株式会社ニコン
(74)【代理人】
【識別番号】100161207
【氏名又は名称】西澤 和純
(74)【代理人】
【識別番号】100140774
【氏名又は名称】大浪 一徳
(74)【代理人】
【識別番号】100175824
【氏名又は名称】小林 淳一
(72)【発明者】
【氏名】熊澤 政美
(72)【発明者】
【氏名】井上 英也
(72)【発明者】
【氏名】山垣 浩司
【審査官】甲斐 哲雄
(56)【参考文献】
【文献】特開2003-122757(JP,A)
【文献】特開2008-052672(JP,A)
【文献】田辺 雅貴、篠原 克幸,存在確率マップと色特徴を用いた再帰的処理に基づく物体領域の抽出,映像情報メディア学会技術報告,日本,(社)映像情報メディア学会,2008年07月31日,Vol.32 No.34,pp.33-36
(58)【調査した分野】(Int.Cl.,DB名)
G06F 16/00-16/958
G06T 1/00
G06T 7/00- 7/90
G06Q 30/0601
(57)【特許請求の範囲】
【請求項1】
ユーザが検索する対象物に関する対象物画像データが蓄積されているデータベースと、
入力される画像データの検索部分を抽出する抽出部と、
前記検索部分の画像データの画像についての特徴を示す画像特徴情報と、前記データベースにおける前記対象物画像データの画像についての特徴を示す画像特徴情報とを比較し、前記検索部分の画像データに対して、前記対象物画像データのうち一致又は類似度の高い前記対象物画像データを前記データベースから取得する検索部と、
前記入力される画像データに基づいて、日時に関する日時情報、場所に関する場所情報、状況に関する状況情報のうち少なくとも1つを含む検索条件を
抽出し、抽出した前記検索条件を設定する条件設定部と、を有し、
前記検索部は、前記条件設定部によって設定された前記検索条件をもとに、前記対象物画像データの取得を行うことを特徴とする検索支援システム。
【請求項2】
前記検索部分に対応する前記対象物の種類を判定する種類判定部を、さらに有し、
前記検索部は、前記種類判定部によって判定された前記種類をもとに、前記対象物画像データの取得を行うことを特徴とする請求項1に記載の検索支援システム。
【請求項3】
前記データベースには、前記対象物画像データに対応させて、対象物情報が記憶されており、
前記検索部によって取得された前記対象物画像データに対応する前記対象物情報を出力することを特徴とする請求項1または2に記載の検索支援システム。
【請求項4】
前記対象物情報は、名称、販売店舗及び価格のうち少なくとも一つを含むことを特徴とする請求項3に記載の検索支援システム。
【請求項5】
前記検索部によって取得された前記対象物画像データと共に、前記検索する対象物とは異なる対象物の前記対象物画像データを出力することを特徴とする請求項1~4のいずれか一項に記載の検索支援システム。
【請求項6】
前記異なる対象物の種類は、前記検索する対象物の種類と同じであることを特徴とする請求項5に記載の検索支援システム。
【請求項7】
前記異なる対象物の種類は、前記検索する対象物の種類と異なることを特徴とする請求項5に記載の検索支援システム。
【請求項8】
前記検索部によって取得された前記対象物画像データに対応する対象物と組み合わせ可能な他の種類の対象物における前記対象物画像データを前記データベースから抽出する組合せ抽出部を有し、
前記組合せ抽出部によって抽出された前記対象物画像データを出力することを特徴とする請求項1~7のいずれか一項に記載の検索支援システム。
【請求項9】
前記組合せ抽出部は、前記条件設定部によって設定された前記検索条件をもとに、前記対象物画像データの抽出を行うことを特徴とする請求項8に記載の検索支援システム。
【請求項10】
前記組合せ抽出部は、前記検索部によって取得された前記対象物画像データの画像と、
前記抽出した前記対象物画像データと、を合成した合成画像データを生成し、
前記組合せ抽出部によって生成された前記合成画像データを出力することを特徴とする請求項8または9に記載の検索支援システム。
【請求項11】
前記検索部によって取得された前記対象物画像データに対応する対象物と組み合わせて購入する可能性の高い他の種類の対象物における前記対象物画像データを前記データベースから抽出する組合せ抽出部を有し、
前記組合せ抽出部によって抽出された前記対象物画像データを出力することを特徴とする請求項1~10のいずれか一項に記載の検索支援システム。
【請求項12】
ユーザの端末であるユーザ端末と、
サーバ装置と、を備え、
前記抽出部が、前記ユーザ端末に備えられ、
前記データベースと前記検索部とが、前記サーバ装置に備えられ、
前記ユーザ端末は、前記抽出部が抽出した前記検索部分の画像データを前記サーバ装置に送信する送受信部を有することを特徴とする請求項1~11のいずれか一項に記載の検索支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、検索支援システムに関する。
本願は、2009年12月24日に、日本に出願された特願2009-292857号に基づき優先権を主張し、その内容をここに援用する。
【背景技術】
【0002】
従来、インターネット等のネットワークを通じてユーザが対象物(例えば、商品など)を検索する、ひいては購入する際、ユーザが検索しようとする対象物の選択や決定を支援するシステムが用いられている(例えば、特許文献1参照)。
例えば、ユーザは、インターネットにおいて各種ある検索エンジンを用いて、対象物の名称(例、商品名など)あるいは対象物の特徴を入力し、該当する対象物を検索する。また、必要に応じて、ユーザは上述の該当した対象物を販売している店舗を検索する。
そして、上記のような検索エンジンを有するサーバ装置は、検索された店舗において、インターネットを介し、ユーザの好みに対応した対象物の画像又はその価格をユーザの端末に提示し、あるいは関連対象物の提供などにより、ユーザの対象物の検索に対して支援を行っている。
【0003】
また、近年、商品を買う場合に、対面販売を行う小売店に出向かずに、インターネット上の仮想モールの仮想商店から商品を購入することが多くなっている。
この結果、近隣に大型小売店がない地域においても、多くの種類毎の複数の商品から気に入った商品を、自宅にいながらにして購入することが可能となっている。(例えば、特許文献2参照)。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2004-246585号公報
【文献】特開2002-150138号公報
【発明の概要】
【0005】
本発明に係る態様は、ユーザが検索する対象物に関する対象物画像データが蓄積されているデータベースと、入力される画像データの検索部分を抽出する抽出部と、前記検索部分の画像データの画像についての特徴を示す画像特徴情報と、前記データベースにおける前記対象物画像データの画像についての特徴を示す画像特徴情報とを比較し、前記検索部分の画像データに対して、前記対象物画像データのうち一致又は類似度の高い前記対象物画像データを前記データベースから取得する検索部と、前記入力される画像データに基づいて、日時に関する日時情報、場所に関する場所情報、状況に関する状況情報のうち少なくとも1つを含む検索条件を抽出し、抽出した前記検索条件を設定する条件設定部と、を有し、前記検索部は、前記条件設定部によって設定された前記検索条件をもとに、前記対象物画像データの取得を行うことを特徴とする検索支援システムである。
【図面の簡単な説明】
【0006】
【
図1】検索支援システムの構成例を示すブロック図である。
【
図2A】
図1のデータベース16に記憶されている商品テーブルの構成例を示す概念図である。
【
図2B】
図1のデータベース16に記憶されている商品テーブルの構成例を示す概念図である。
【
図3】
図1のデータベース16に記憶されているユーザ登録テーブルの構成例を示す概念図である。
【
図4】検索支援システムにおける商品検索の動作例を示すフローチャートである。
【
図5】検索支援システムにおける嗜好情報収集の動作例を示すフローチャートである。
【
図6】検索支援システムの構成例の変形例を示すブロック図である。
【
図7】検索支援システムの構成例を示すブロック図である。
【
図8】
図7における商品アイテムデータベース26のカテゴリ1(シャツ)の組合せ商品アイテムの属性情報を記録したテーブルである。
【
図9】
図7における商品アイテムデータベース26のカテゴリ2(ズボン)の組合せ商品アイテムの属性情報を記録したテーブルである。
【
図10】
図7における商品アイテムデータベース26のカテゴリ3(ジャケット)の組合せ商品アイテムの属性情報を記録したテーブルである。
【
図11】販売しているカテゴリ1の販売商品アイテムと、これと類似する画像媒体から収集したカテゴリ1の組合せ商品アイテムとの対応を示すテーブルである。
【
図12】販売しているカテゴリ2の販売商品アイテムと、これと類似する画像媒体から収集したカテゴリ2の組合せ商品アイテムとの対応を示すテーブルである。
【
図13】販売しているカテゴリ3の販売商品アイテムと、これと類似する画像媒体から収集したカテゴリ3の組合せ商品アイテムとの対応を示すテーブルである。
【
図14】
図7における組合せ情報データベース28における、画像媒体から収集した組合せ商品アイテムの各カテゴリ間における組合せを示すテーブルである。
【
図15】
図7における組合せ商品画像情報データベース29のカテゴリ1(シャツ)の組合せ商品アイテムの属性情報を記録したテーブルである。
【
図16】
図7における組合せ商品画像情報データベース29のカテゴリ2(ズボン)の組合せ商品アイテムの属性情報を記録したテーブルである。
【
図17】
図7における組合せ商品画像情報データベース29のカテゴリ3(ジャケット)の組合せ商品アイテムの属性情報を記録したテーブルである。
【
図18】
図7の検索支援システムの動作例を示すフローチャートである。
【
図19】
図7の履歴データベース31におけるユーザテーブルの構成を示す概念図である。
【
図20】
図7の履歴データベース31における購入履歴テーブルの構成を示す概念図である。
【
図21】Graph-Cut法による画像データのセグメンテーションを説明する概念図である。
【発明を実施するための形態】
【0007】
上述した特許文献1及び特許文献2に記載の従来例などは、ユーザが対象物を検索する際、対象物の名称などを示すテキストデータを入力するか、あるいは検索用に予め準備された対象物の画像から選択するため、例えば、ユーザが対象物の画像しか情報を有しておらず、対象物の名称を知らない場合、ユーザが実際に検索したい対象物、あるいは検索する対象物に類似した対象物を検索できないという問題があることが分かった。
そこで、本発明に係る態様は、ユーザの検索したい対象物の検索を行うことができる検索支援システム、検索支援方法及び検索支援プログラムを提供する。
<第1の実施形態>
以下、本発明の一実施形態による検索支援システムを、図面を参照して説明する。
図1は本実施形態による検索支援システムの構成例を示すブロック図である。
この図において、検索支援システムは、検索サーバ1と、インターネットなどからなる情報通信網Iを介して上記検索サーバ1に接続されるユーザ端末2とを有している。
ここで、ユーザ端末2は、ユーザの有する端末であり、それぞれユーザ固有のユーザ識別情報により識別される。
以下、本実施形態においては、ユーザが検索したい対象物として、ファッション商品、服、靴、ネックレス、帽子などの商品の検索及び購買を例にとり説明する。なお、本実施形態では、ファッション商品、服、靴、ネックレス、帽子などの商品に限られず、電化製品、家具、絵画など、インターネット又はネットワークを介して検索できる対象物に適用することも可能である。また、本実施形態における対象物とは、一例として、商品、物品、電化製品、家具、絵画、店舗や会社を含む建物、植物、動物、不動産(マンションの外観、内装、間取り、などを含む)、風景、などが挙げられる。
【0008】
検索サーバ1は、上記ユーザがインターネット上の店舗などにおいて、商品を検索する支援を行うサーバであり、抽出部11、種類判定部12、検索部13、組合せ抽出部14、嗜好抽出部15、データベース16、送受信部17及び条件設定部18を有している。
データベース16には、
図2Aに示すように、各商品を識別する商品識別情報に対応させ、その商品の名称と、その商品の画像データである商品画像データ(対象物画像データ)と、商品画像データから抽出した特徴情報と、この商品を販売している店舗情報と、その商品の価格と、その商品と組み合わせる他の商品との組合せ情報と、商品の種類(服、靴、帽子、ネックレスなどの商品ジャンル)を示す種類識別情報と、使用用途を示す属性情報として用途情報とが対応付けられた商品テーブルが記憶されている。このデータベース16には、例えば、検索支援システムに会員登録している店舗からの商品の情報が順次蓄積されている。上記特徴情報とは、色、形、模様、テクスチャなどの要素を数値データ(例えば、要素数に対応する次元のベクトル)化したものである。また、ユーザが検索したい商品の画像と、データベース16に蓄積された商品画像(対象物画像)とをもとに、その画像同士を直接的に比較する場合、種類判定部12は省略してもよい。
【0009】
また、用途情報としては、時間(time)情報、場所(place)情報及び状況(occasion)情報などが設定されている。時間情報は、年月日、時間、朝、午前、午後、夜、季節(春、夏、秋、冬、通年)、国民の祝日やこどもの日及びひな祭りなど節句、などの時間に関する情報が設定されている。場所情報は、国内、海外(アジア、欧米などの地名)、公園、リゾート、都会、海、山、高原、高級レストラン等の場所に関する情報が設定されている。また、状況情報は、通勤、通学、アルバイト、リゾートに行く、都会に行く、歓迎会、送別会、国内旅行、海外旅行、ドライブ、ハイキング、サイクリング、ウォーキング、忘年会、新年会、合同コンパ、お見合い、離婚の打合せ、葬式、入園式、卒園式、入学式(自分あるいは子供)、卒業式(自分あるいは子供)、山登り、海水浴、高原へ行く、結婚式の披露宴、入社パーティ、卒業パーティ、結婚記念日、誕生日、バーベキュー、高級レストランなどの情報がある。また、状況情報に、場合に合わせて着たい服の種類を設定しても良い。例えば、この種類としては、トラッド、フェミニン、カジュアル、スポーティ、ドレッシー、キャリア、フォーマル、エレガント、スウィート、クール、カジュアルフライデー、クールビズ、ウォームビス、キャラクター、スタイリッシュなどがある。
さらに、状況情報として、天候を示す情報として天候情報、例えば、晴れ、曇り、雨、雪、台風、嵐、等を用いても良い。また、状況情報として、深層心理に関する情報として心理情報、例えば、元気がない、憂鬱、暗い、不安、悲しい、楽しい(ウキウキする気分)、嬉しい、優しい、穏やか、激しい、等を用いても良い。また、状況情報として、周囲に与える印象に関する影響情報、例えば、地味、暗い、明るい、優しい、上品、清潔、健康的、女性らしい、男性らしい、知的、親しみのある、爽やか、等を用いても良い。
図2Bは、商品に対応した用途情報(日時情報、場所情報、状況情報)の一例を示す。
【0010】
また、条件設定部18は、日時情報として入力される日にちを、内部に予め設定されている春夏秋冬の範囲を月日により区切り、入力された日にちを季節に変更して用いるように構成されても良い。例えば、春を3月15日~6月14日、夏を6月15日~9月14日、秋を9月15日~12月14日、冬を12月15日~3月14日というように区切り、条件設定部18は、日時情報として8月10日が入力されると、夏の季節として判定し、この季節を用途情報として用いる。
また、条件設定部18は、時間範囲により早朝、午前、午後、夜の時間帯に区切り、入力された時間を時間帯に変更して用いるように構成されても良い。例えば、早朝を午前4時0分~午前6時59分、午前を午前7時0分~午前11時59分、午後を午後0時0分~午後4時59分、夜を午後5時0分~午前3時59分というように区切り、条件設定部18は、日時情報として午前10時0分が入力されると、午前の時間帯として判定し、この時間帯を用途情報として用いる。
上述した用途情報は、ユーザ端末2の表示画面にコンボボックス(例えば、文字入力のための矩形領域(テキストボックス)と項目選択リスト(リストボックス)を組み合わせたもの)として表示され、このコンボボックスからポインティングデバイスにより選択される。例えば、マウスによりクリックして選択すると、ユーザ端末2はクリックして選択されたコンボボックスにおける用途情報の項目を、ユーザの選択した用途情報とする。このユーザ端末2の表示画面に表示されるコンボボックスの画像情報は、予めユーザ端末2にアプリケーションプログラムとしてインストールされているか、検索処理のアプリケーションが起動された際に、ユーザ端末2が検索サーバ1からコンボボックスの画像情報を読み込むように構成しても良い。
【0011】
上記抽出部11は、ユーザがユーザ端末2から送信してくる入力画像データ(ユーザから提供される画像データ)を、送受信部17を介して入力し、該入力画像データ内の検索部分を抽出する。より詳しくは、抽出部11は、該入力画像データ内の商品の画像領域の輪郭(検索部分)を抽出し、輪郭画像データ(検索部分の画像データ)を生成する。ここで、輪郭画像データの抽出処理において、輪郭とは画像の濃度値が急激に変化する部分であり、これを取り出すために微分演算を行っている。ただし、デジタル画像においてはデータが一定間隔にとびとびに並んでいるため、隣接画素同士の差をとる演算(差分)で微分を近似し、画素の濃度が急激に変化している部分を輪郭として抽出する。
【0012】
種類判定部12は、上記輪郭画像データから、予めデータベース16に記憶されている商品の輪郭データテーブルにおけるテンプレート画像データから、輪郭画像データに対応するテンプレート画像データを検索し、そのテンプレート画像データに対応してデータベース16に設定されている種類識別情報を読み込む。このテンプレート画像データは、各種類の多数の商品を複数の角度から撮影し、輪郭と比較するテンプレートとして予めデータベース16の上記輪郭データテーブルに記憶されていることが望ましい。
【0013】
検索部13は、上記種類識別情報に対応する種類の記憶領域から類似した画像データの抽出を行うため、入力画像データにおける輪郭抽出を行った検索画像データの特徴抽出を行う。検索部13は、この特徴抽出から得られた特徴情報と、一致又は類似度の高い特徴情報を、データベース16における上記商品テーブルの判定された種類に対応する種類識別情報を有する画像データから検索し、類似度の高い商品を予め設定された数のその画像データを、類似度の高い順に抽出する。ここで、種類判定部12を設けない場合、検索部13は、入力画像データにおける輪郭抽出を行った商品の画像と、商品テーブル全体における商品画像データとを比較し、上記輪郭抽出を行った商品の画像に対して類似度の高い商品画像データを抽出する。
また、条件設定部18は、ユーザがユーザ端末2から、入力画像データとともに送信された用途情報を、送受信部17を介して読み込み、この用途情報を内部に設定するとともに、検索部13へ出力する。
そして、検索部13は、上述した類似度の高い順に商品画像データを抽出する際、条件設定部18から入力された用途情報を有する画像データのなかから、類似度の高い順に商品画像データを抽出する。
したがって、検索部13は、商品テーブルから、入力画像データと類似し、かつユーザの設定する用途情報を有する商品を検索することとなる。この結果、検索部13は、ユーザが気に入った形状であり、かつユーザの使用する用途に対応した商品を、商品テーブルから抽出することができる。
また、検索部13は、検索された商品画像データに対応する商品情報(対象物情報)を、商品テーブルから読み出して、ユーザのユーザ端末2へ送信する。なお、上述の商品情報は、名称(商品名)、商品画像データに対応する商品を販売する販売店舗、その店舗のURL、その店舗の電話番号や住所、及び商品の価格のうち少なくとも一つを含む情報である。
【0014】
嗜好抽出部15は、ユーザの検索した商品の種類に含まれる他の商品(ユーザの検索した商品と同一種類の商品)の画像データを、予め設定された数だけランダムに上記商品テーブルから抽出し、ユーザ端末2へ送信する。
ユーザ端末2は、検索サーバ1から送信される画像データを図示しない表示画面に表示する。
また、嗜好抽出部15は、ユーザ端末2から送信される各商品(例えば、データベース16に記憶されている商品画像データ)に対する評価結果(例えば、好きあるいは嫌いの判定結果等)を入力し、形、色、模様、テクスチャのうち少なくとも一つを含む嗜好情報をユーザ毎に、データベース16の
図3に示すユーザ登録テーブルに書き込んで記録する。
【0015】
ここで、上記ユーザ登録テーブルには、ユーザ識別情報に対応し、過去にどのような商品を購入したかを示す購入情報(購入した商品識別情報、購入した日時、購入した店舗、購入した価格などを含む)と、嗜好抽出部15が抽出した嗜好情報と、ユーザが有しているポイント数を示すポイント情報とが記憶されている。このポイントは商品を購買した支払の際、現金と同様に使用することができる。
すなわち、検索サーバ1は、上述の店舗情報に割引クーポン情報が付加されており、その割引クーポン情報を利用してユーザが検索した商品を購入した場合、その商品に関する購入情報をデータベース16の上記ユーザ登録テーブルに記憶する。そして、検索サーバ1は、購入された商品の価格に対応するポイントを上記ポイント情報のポイント数として上記ユーザ登録テーブル内の対象ユーザに対して加算する。なお、嗜好抽出部15は、上記購入情報から種類毎に嗜好情報を抽出するようにしてもよい。
組合せ抽出部14は、抽出された商品と組み合わせて購入する可能性の高い他の種類の商品を、予め嗜好情報に対応して記憶されている組み合わせ情報に対応する商品を検索し、ユーザの端末へ送信する。
【0016】
次に、
図1及び
図4を用いて、本実施形態における検索支援システムの動作を説明する。
図4は、本実施形態における検索支援システムの動作例を説明するフローチャートである。以下の説明において、種類判定部12を設けた場合について説明する。種類判定部12を設けない場合、種類判定部12の処理がフローチャートから省かれることになる。
ユーザがユーザ端末2に接続されているカラースキャナなどにより雑誌などから気に入った服を着ているモデルの画像を読み取り、あるいはデジタルカメラにより撮影する、あるいはインターネットから画像をダウンロードする(ステップS1)。
そして、ユーザは、読み取った画像、撮影した画像、或いはダウンロードした画像を、入力画像データとしてユーザ端末2に入力し、この入力画像データに複数の種類の商品の有無により(ステップS2)、検索したい商品の画像の領域を選択するか否かを判定する。なお、上記の入力画像データは、予めユーザ端末2に記憶されていてもよいし、外部の端末に記憶されていてもよい。
【0017】
このとき、例えば、スカートの商品名及び販売している店舗を検索しようとする際、スカートのみが写っている入力画像データであれば、処理をステップS4へ進める。
一方、スカートの部分の画像のみでなく、モデル全体が撮影されている場合、処理をステップS3へ進める。
そして、ユーザは入力画像データにおいて、ユーザ端末2にインストールされている画像処理のツール(入力画像データに線を描く加工ができるツールであれば何でも良い)により、スカートの領域部分の画像を線などでマーキングして画像選択を行い(ステップS3)、そしてステップ4へ処理を進める。
また、このとき、ユーザは、上記入力画像データを検索する際に用いる用途情報、たとえば、日時情報、場所情報及び状況情報のうち少なくとも一つを、ユーザ端末2に対して入力する。
【0018】
ユーザ端末2は、ユーザが入力した入力画像データ(画像選択を行ったデータを含む)と、用途情報とを、自身のユーザ識別情報とともに、検索依頼信号として情報通信網Iを介して検索サーバ1へ送信する(ステップS4)。
【0019】
なお、上述のステップS2においては、ユーザ端末2は、入力画像データ(モデル全体の画像)を一旦検索サーバ1に送信する。検索サーバ1は、ユーザ端末2から受信した入力画像データに、複数の種類の商品が含まれているか否かを判定し、その判定した複数種類の商品を画像として抽出する。そして、検索サーバ1は、この抽出した複数種類の画像のデータをユーザ端末2へ送信するようにしてもよい。この場合、ステップS3においては、ユーザは、検索サーバ1から受信した入力画像データから抽出された複数種類の画像のデータから、検索したい種類の商品の画像のデータの選択を行い、ステップS4へ処理を進める。
【0020】
次に、検索サーバ1における送受信部17は、ユーザ端末2から上記検索依頼信号を受信すると、上述の入力画像データを抽出部11へ出力し、登録情報を条件設定部18へ出力する。
抽出部11は、送受信部17から入力された入力画像データにおける商品画像の輪郭抽出(検索部分の抽出)を行う。
このとき、抽出部11は、入力画像データにおいていずれの領域もマーキングされていない場合、入力画像データ全体の輪郭画像データの抽出を行い、一方、マーキングされている領域部分があれば、その領域部分の画像の輪郭画像データの抽出を行う。
そして、種類判定部12は、上記輪郭画像データから、予めデータベース16に記憶されている商品の種類に対応した輪郭データテーブルから、輪郭画像データに対応するテンプレート画像データを検索し、そのテンプレート画像データに対応した種類識別情報を輪郭データテーブルから読み込む。(ステップS5)。このとき、検索部13は、ユーザに送信する抽出結果として計数する商品の数を0にリセットする。
【0021】
検索部13は、上記輪郭画像データにおける輪郭内部に対応させ、入力画像データにおいて検索する画像データ(検索画像データ)の特徴抽出を行い、検索画像データの特徴情報(例えば、色や形に基づく各情報)に類似した商品画像データを、データベース16の商品テーブルから検索する(ステップS6)。
このとき、検索部13は、特徴情報の各要素(例えば、特徴情報が色に基づく情報であれば、青、赤や黄など)におけるベクトルの距離を求め、この距離と一致するか、この距離が近いか遠いか、の類似度の計算を行う。なお、この距離が近いものを類似度が高いものとし、最も類似度の高いものを抽出する。ここで、最も類似度が高いとしてすでに抽出されて、内部の比較済みファイルとして記憶された商品は除き、商品テーブルにおいて残った商品の中で最も類似度が高い商品画像データを抽出する。
【0022】
次に、検索部13は、条件設定部18に設定されている用途情報と、抽出された商品画像データに対応する商品の用途情報とを比較し、一致しているか否かの判定を行う(ステップS7)。
このとき、検索部13は、例えば、それぞれの用途情報の複数の項目(日時情報、場所情報、状況情報)と、条件設定部18に設定されている用途情報の各項目とを比較し、それぞれの項目において少なくとも1つ一致している場合、抽出された商品の用途情報と、条件設定部18に登録されている用途情報とが一致していると判定する。また、検索部13は、比較を行った商品、すなわち類似度が高いとして抽出された商品を内部の比較済みファイルに書き込み処理をステップS9へ進める(ステップS8)。
そして、検索部13は、用途情報が一致した商品の商品識別情報を抽出結果として内部の抽出ファイルに記憶する(書き込む)とともに、抽出結果の商品の数を示す抽出数を1つ増加させる。一方、用途情報が一致しない場合、検索部13は、この商品の商品識別情報を抽出ファイルへ書き込む処理及び抽出数を1つ増加させる処理を行わず、処理をステップS9へ進める(ステップS7)。
【0023】
検索部13は、抽出数が予め設定した、ユーザに送信する商品の数と一致するか否かの判定を行い(ステップS9)、抽出数とユーザに送信する商品の数とが一致した場合、処理をステップS10へ進め、一方、抽出数とユーザに送信する商品の数とが一致しない場合、処理をステップS6へ進める。
【0024】
次に、検索部13は、検索された商品の商品識別情報を抽出ファイルから読み出し、この商品識別情報に対応する商品の商品情報(商品名、商品の価格、商品画像データ販売店舗、URL、店舗の電話番号及び住所のうち少なくとも一つを含む情報)を商品テーブルから読み出し、送受信部17を介してユーザのユーザ端末2へ送信する(ステップS10)。ここで、一例として、送受信部17は、検索依頼信号がユーザ端末2から送信される時に付加されるユーザ端末2のネットワーク上のアドレスを読み出し、このアドレスに対して上記商品情報を送信する。
そして、ユーザ端末2は商品販売検索サーバ1から送信された、検索結果の商品名、画像データ、店舗及び価格の情報を表示画面に表示する。
なお、上述のステップS5においては、検索サーバ1は、データベース16におけるユーザ登録テーブルにおいて、検索依頼信号に含まれるユーザ識別情報が上記ユーザ登録テーブルに登録されていることが検出された場合のみ、検索依頼信号に含まれる入力画像データをもとにデータベース16から検索対象の商品画像データを抽出するようにしてもよい。また、検索サーバ1は、検索依頼信号に含まれるユーザ識別情報が上記ユーザ登録テーブルに登録されていないことを検出した場合、例えば、ユーザ識別情報に基づくユーザ登録が必要である旨をユーザ端末2に対して送信するようにすればよい。
【0025】
これにより、ユーザは、気に入った商品の画像データ、及びこの商品の用途の情報である用途情報を、ユーザ端末2から検索サーバ1に対して送信することにより、気に入っている商品あるいはその商品に類似した商品の商品名、販売している店舗を示す店舗情報、その商品の価格などの情報を、検索サーバ1の抽出結果として得ることができる。
【0026】
上述した本実施形態において、ユーザがユーザ端末2から検索依頼情報に用途情報を付加して送信する構成にて説明したが、条件設定部18が入力画像データから検索する商品の素材(綿、ウール、シルク、カシミヤなど)を判定して、この素材から日時情報としての季節(春、夏、秋、冬)などの判定、あるいは色などから状況情報などの条件を抽出し、検索条件として用いるように構成しても良い。
また、条件設定部18が、入力画像データから人物を抽出し、その人物の背景画像から検索条件を抽出して検索条件として用いるように構成しても良い。この場合、例えば、条件設定部18は、用途データ抽出用データベースを有し、背景画像にある木を特定し、同様の画像をこの用途データ抽出用データベースから検索し、花及び葉の状態から季節を判定、あるいは背景画像にある文字データから場所情報などを判定することができる。
【0027】
また、上述した本実施形態において、用途情報を商品テーブルにおける各商品の属性情報として付加して説明したが、用途情報のカテゴリの分類毎に、商品テーブルを構成しても良い。例えば、春用、夏用、秋用及び冬用の各々の商品テーブルを構成して用いても良い。この場合、検索部13は、ユーザ端末2から検索依頼情報に付加される登録情報に対応した商品テーブルを選択し、選択した商品テーブルから入力画像データに類似した商品を検索することになり、検索時間を短縮することが可能となる。
【0028】
ここで、店舗情報に割引クーポン情報が付加されており、この割引クーポン情報を利用し、検索した商品を購入した場合、商品販売検索サーバ1はその対象店舗に対して商品の価格に対応した金額を課金する。
【0029】
次に、
図1及び
図5を用い、本実施形態による検索サーバ1がユーザの嗜好情報を抽出し、その嗜好情報により、上述の検索した商品に対して組合せが可能な他の商品を提示する処理を説明する。
図5は、ユーザの嗜好情報を収集し、この嗜好情報により他の商品を紹介する動作例を説明するフローチャートである。
嗜好抽出部15は、ユーザが検索した商品と同一の種類、例えばユーザが検索した商品が靴の場合、商品テーブルから予め設定された数だけ靴を抽出し(ステップS11)、その商品画像データと商品識別情報とを、ユーザ端末2へ送信する(ステップS12)。
このとき、検索サーバ1がユーザに対して送信する種類毎の商品は、色、形、模様などが異なる特徴的な商品であり、ファッションコーディネータがユーザの嗜好情報を抽出することが可能とした商品として設定されている。
【0030】
そして、ユーザ端末2は、嗜好抽出のための商品の商品画像データを検索サーバ1から受信すると、表示画面にその商品の商品画像データ(表示画像)を順次表示する。
このとき、ユーザは、上記表示画面に表示された表示画像において、表示されている商品画像データの商品が気に入った場合「良ボタン」をマウスなどの入力手段によりクリックし、一方、表示されている商品画像データの商品が気に入らない場合「否ボタン」をマウスなどによりクリックして選択する(ステップS13)。
「良ボタン」あるいは「否ボタン」が選択されると、ユーザ端末2は次の商品の商品画像データを表示画面に表示し、受信した商品画像データの全て或いは所定数に対し、ユーザの良否判定の選択が終了するまでこれらの処理が継続される。
【0031】
上述の商品画像データに対する良否判定が終了すると、ユーザ端末2は、商品識別情報毎に、その商品の良否判定データを対応させた判定結果情報を、検索サーバ1に対して、自身のユーザ識別情報を付加して送信する(ステップS14)。
判定結果情報を入力すると、送受信部17は、付加されているユーザ識別情報がユーザ登録テーブルに登録されているか否かを判定し、登録されていれば嗜好抽出部15に対して上記判定結果情報を出力する。
【0032】
次に、嗜好抽出部15は、判定結果情報が入力されると、良否判定のパターンに対応した嗜好情報を、データベース16における嗜好情報テーブルから選択する。
ここで、良否判定のパターンとは、予め決められた順番に配列された商品識別情報に対応した良判定、及び否判定のデータパターンである。
そして、嗜好抽出部15は、得られた嗜好情報をデータベース16におけるユーザ登録テーブルに、ユーザ識別情報に対応して書き込んで記憶させる(ステップS15)。
【0033】
次に、組合せ抽出部14は、上述の嗜好情報に対応する商品の組合せ情報を、データベース16における組合せ情報テーブルから選択する。この組合せ情報テーブルには、組合せ抽出部14は、例えばこの組合せ情報テーブルにおいて、靴に対しての嗜好情報を抽出した場合、その嗜好に対応する服、鞄、帽子などにて対応する組合せ情報を選択する。
この組合せ情報テーブルには、嗜好に対応した服飾のカテゴリ間における要素(靴、服、鞄、帽子など)間の組合せが予め記憶されている。
そして、組合せ抽出部14は、組合せ情報テーブルから選択された組合せ情報と一致する又は類似する、服、鞄、帽子などの商品画像データを抽出(すでに述べた特徴情報(組合せ嗜好情報)を用いた類似した商品検索の抽出処理)し(ステップS16)、モデルに対して靴にあわせて、選択された服、鞄、帽子などを装着した装着画像データを、組合せが一つしか無い場合に単数、あるいは組合せが複数ある場合に複数の種類を、それぞれの組合せに対して組合せ識別情報を付加して、ユーザ端末2に対して送信する(ステップS17)。
【0034】
装着画像データを受信すると、ユーザ端末2は、この装着画像データを表示画面に表示する。これにより、ユーザはすでに検索あるいは購入した商品に対して、自身の嗜好に対応したファッションの組合せの情報を得ることができる。
ここで、ユーザが上述したように良否判定を行うことにより、ユーザ端末2は、組合せ識別情報毎に良否判定データを対応させて、判定結果情報として、自身のユーザ別識別情報を付加し、検索サーバ1に対して送信する。
【0035】
そして、判定結果情報を入力すると、送受信部17は、付加されているユーザ識別情報がユーザ登録テーブルに登録されているか否かを判定し、登録されていれば嗜好抽出部15に対して上記判定結果情報を出力する。
嗜好抽出部15は、入力される組合せ識別情報に対応する良否判定パターンにより、組合せ嗜好情報を生成する。この組合せ嗜好情報は、靴の形状、色、模様、テクスチャ、などに対応し、良判定を受けた他の服、鞄、帽子などの形状、色、模様、テクスチャの組合せからなり、ユーザが商品を購入する毎に、学習することとなり、組合せ情報に含まれる各商品と類似する商品の抽出を行う際に用いる組合せ嗜好情報がユーザの嗜好と合う精度が向上する。
すなわち、次に、ユーザがこの組合せされた装着画像データにより、鞄を購入したとすると、鞄に対する嗜好情報が検索され、この嗜好情報に対応した靴、服、帽子などの組合せ嗜好情報が得られることとなるため、順次、各ユーザの嗜好が絞り込まれることとなる。
【0036】
また、チャレンジ組合せ(ユーザにおいては普通選択しないような組合せ、或いは上述の嗜好情報とは異なる組合せ)として、嗜好情報から選択された組合せ情報に対し、ファッションコーディネータが対極にあるとする組合せ情報に対応する商品をいくつか商品テーブルからランダムに選択し、この選択された商品を、装着画像データの生成の際に組合せのいくつかに挿入するようにしてもよい。
これにより、ユーザの嗜好が多極化して、より購買希望が増加する可能性がある。
【0037】
また、本実施形態における検索支援システムは、
図6に示すように、ユーザ端末2を上述の抽出部11と同じ抽出の機能を有する抽出部11aを有するように構成したユーザ端末2aと、抽出部11を除いた検索サーバ1aを備えるようにしてもよい。この場合、抽出部11aは、ユーザ端末2aが取得した入力画像データ、又はユーザ端末2aに記憶されている入力画像データ、をもとに、その入力画像データの検索部分(例えば、商品部分)を抽出して、検索サーバ1aに対して検索部分に相当する画像データのみを入力画像データとして送信すればよい。また、抽出部11a以外については、上述の実施形態と同様であるため、説明を省略する。このように、ユーザは、送信する画像データとして入力画像データのうち検索部分に相当する画像データのみを検索サーバ1aに送信すればよく、例えば、ユーザの顔部分や他の人の顔部分に相当する画像データを検索サーバ1aに送信する必要がなくなる。
【0038】
なお、本実施形態における検索支援システムを服や靴などの商品のみならず、上述の対象物に対しても適用できる。また、例えば、本実施形態における検索支援システムは、宿泊施設(ホテルや旅館など)やレストランなどにおいて提供されるサービスにも適用することができる。例えば、上述の宿泊施設においては、本実施形態における検索支援システムは、部屋の間取りの組合せ、窓の風景の組合せ、部屋又はその間取りと窓の風景との組合せ、などを選択する際などに適用することができる。また、例えば、上述のレストランなどにおいては、本実施形態における検索支援システムは、レストランのインテリアの組合せ、窓の風景の組合せ、音楽の組合せ、インテリアと窓の風景との組合せ、インテリアと音楽との組合せ、窓の風景と音楽との組合せ、などを選択する際などに適用することができる。
【0039】
<第2の実施形態>
以下、本発明の一実施形態による検索支援システムを、図面を参照して説明する。
従来、複数の異なる種類の商品を組み合わせる組合せ商品を購入する場合、または、上記仮想商店の膨大な商品群から選択する場合、ユーザが自ら集めた(インターネット等でアクセスした)情報によって商品の選択や購入を行なっていた。
例えば、複数の異なる種類(カテゴリ)の商品を組み合わせる組合せ商品(例えば、服飾、組合せ家具、組合せ家電など)を購入する場合、実際に小売店に出向かない場合、いずれの組合せが適当かを店員から直接に聞くことはできない。
また、ユーザ自身の購入した商品あるいは購入する商品に対し、組み合わせた場合に良く合う商品を、上記仮想商店の膨大な商品群から選択する場合、組合せ商品のコーディネータに一々確認することができず、ユーザ自身では選択できないために購入を行えないことになる。
【0040】
上記の場合の一例としては、服飾において、ユーザが購入するジャケットに合うズボンあるいはシャツを選ぶ場合、ユーザは自ら雑誌やアドバイザー(販売員、専門家、知人)から得た情報をもとに選択や購入を行なっていた。
例えば、服飾において、ユーザが購入するジャケットに合うズボンあるいはシャツを選びたいとしても、一流のファッションコーディネータに確認することができず、あり得ない組合せを選択してしまうことを心配し、合うズボンやシャツの購入を諦めることになる。
ここで服飾とは、人がその生まれたままの身体の上にまとう(人が身につける)衣服、装身具(装飾品、鞄、靴、帽子など)のすべてを示す。
【0041】
本実施形態は、ユーザが対象物を検索する場合において、情報提供等により検索を支援できる。
例えば、組合せ商品の購入において、ユーザが購入するあるいは購入した商品に対し、組み合わせた場合に合う商品を商品群のなかから抽出して、抽出した商品をユーザに推奨し、ユーザの組合せ商品の購入を支援することができる。
【0042】
図7は本実施形態による検索支援システムの構成例を示すブロック図である。本実施形態は、複数のカテゴリの販売商品アイテムからなる商品アイテム組合せにおけるいずれかのカテゴリの販売商品アイテムを購入する際、購入した販売商品アイテムと組合せが良いとされる商品アイテム組合せにおける残りのカテゴリの販売商品アイテムを推奨商品として提示することにより、ユーザが購入する販売商品アイテムと組み合わせが良いとされる販売商品アイテムを、多くの販売商品アイテムから容易に選択することができるように支援するシステムである。以下の説明においては、服飾における各商品(ブレザー、シャツ、ズボンなどのカテゴリの商品)全般を商品アイテムとし、仮想商店が実際に販売している商品アイテムを販売商品アイテムとし、後述する画像媒体において組み合わされている商品アイテムそれぞれを組合せ商品アイテムとして説明する。
【0043】
この図において、検索支援システムは、商品検索支援装置100と、1つあるいは複数のユーザ端末200とから構成されている。商品検索支援装置100は、制御部21、類似アイテム検索部22、組合せ検索部23、商品検索部24、送受信部25、商品アイテムデータベース26、商品アイテム画像データベース27、組合せ情報データベース28、組合せ商品画像情報データベース29、組合せ商品画像データベース30及び条件設定部32を有している。ユーザ端末200は、例えば各ユーザの各家庭に設けられた、インターネットブラウザが備えられたパーソナルコンピュータである。商品検索支援装置100と、ユーザ端末200とはインターネットを含む情報通信網Iにて接続されている。
【0044】
商品アイテムデータベース26は、商品アイテムの種類毎に複数のテーブル構成の記憶領域を有している。
すなわち、商品アイテムデータベース26は、
図8に示すように、カテゴリ1としてシャツの商品アイテムの識別情報A1~An毎に、販売している販売商品アイテムの属性情報が記憶されているテーブル構成の記憶領域を有している。
また、同様に、商品アイテムデータベース26は、
図9に示すように、カテゴリ2としてズボンの商品アイテムの識別情報B1~Bn毎に、対応する販売商品アイテムの属性情報が記憶されているテーブル構成の記憶領域を有している。
また、同様に、商品アイテムデータベース26は、
図10に示すように、カテゴリ3としてジャケットの商品アイテムの識別情報C1~Cn毎に、対応する販売商品アイテムの属性情報が記憶されているテーブル構成の記憶領域を有している。
さらに、商品アイテムデータベース26は、図示しないが、上述した各カテゴリ以外に、服飾の他のカテゴリとして靴、ブラウス、鞄などの複数のテーブルを各々記憶した記憶領域を有している。
また、商品アイテムデータベース26の各テーブルには、属性情報の一つとして類似商品アイテムの欄が設けられており、販売商品アイテムと同一あるいは類似する組合せ商品画像情報データベース29における商品アイテムが、
図11(カテゴリ1-シャツ)、
図12(カテゴリ2-ズボン)及び
図13(カテゴリ3-ジャケット)各々に示すように、各販売商品アイテムのそれぞれの類似した商品アイテムのグループとして対応づけられて記憶されている。
【0045】
ここで、商品アイテムデータベース26(カテゴリ1~カテゴリ3)において、属性情報としては、同一あるいは類似として対応付けられた組合せ商品アイテム(後述する組合せ商品画像情報データベース29における商品アイテム)の識別情報と、販売商品アイテムの画像データから抽出した画像の特徴データと、販売商品アイテムの価格及びブランド等の販売情報と、第1の実施形態において述べた用途情報と、などである。画像の特徴データの種類及び取得方法については後述する。
商品アイテム画像データベース27は、商品アイテムデータベース26に記憶されている各カテゴリの販売商品アイテム毎の画像データが、上記各販売商品アイテムの識別情報にそれぞれ対応して記憶されている。
【0046】
組合せ情報データベース28は、ファッション雑誌、ファッションカタログ及びインターネット上の画像媒体において、モデルなどが組み合わせて身につけている服飾の商品、すなわち組み合わせて装着している商品アイテムそれぞれを組合せ商品アイテムとし、組合せ商品アイテムと組合せた組合せ商品アイテムとそれぞれの対応関係の組合せを、ぞれぞれの識別番号を対応させて記憶している。例えば、ファッション雑誌において、モデルが識別情報a1-1のシャツ、識別情報b1-2のズボン、識別情報c1-7のジャケットの各商品アイテムを装着していた場合、
図14の組合せ情報データベース28における一行目に示すように、識別情報a1-1と識別情報b1-2と識別情報c1-7との組合せ商品アイテムが組として対応付けて記憶されることになる。
この組合せ情報は、ファッションデザイナーが組み合わせとして制作した商品アイテムの組合せや、ファッションコーディネータがファッションデザイナーの制作した商品アイテムの組み合わせが、組合せ商品アイテムの組合せとされている。このため、それぞれの組合せ商品アイテムが洗練された組合せとなっており、この組合せであれば、装着した際に、そのファッションを見た人が違和感を感じずに自然に受け入れられる可能性が高い。
【0047】
組合せ商品画像情報データベース29は、ファッション雑誌、ファッションカタログ、インターネット上のデザイナーズコレクション情報などの画像媒体(雑誌の写真やイラストなどの画像を提示している資料または装置)から取得した服飾における組合せ商品アイテムをカテゴリ別に蓄積したものである。ここで、組合せ商品画像情報データベース29は、例えば、
図15、
図16及び
図17に示すテーブル構成により構成されている。
図15はカテゴリ1としてシャツを組合せ商品アイテムとして蓄積したものであり、
図16はカテゴリ2としてズボンを組合せ商品アイテムとして蓄積したものであり、
図17はカテゴリ3としてジャケットを組合せ商品アイテムとして蓄積したものである。組合せ商品画像情報データベース29には、組合せ商品アイテムに識別情報が付与され、識別情報毎に、対応する組合せ商品アイテムの属性情報が記憶されている。この属性情報は、例えば、類似した販売商品アイテムの識別情報と、組合せ商品アイテムの画像データから抽出した画像の特徴データと、組合せ商品アイテムの価格及びブランド等の販売情報と、第1の実施形態において述べた用途情報と、などである。特徴データの種類及び取得方法については後述する。
また、組合せ商品画像情報データベース29の各テーブルには、属性情報の一つとして類似商品アイテムの欄が設けられており、組合せ商品アイテムと同一あるいは類似する商品アイテムデータベース26における商品アイテムが、
図15(カテゴリ1-シャツ)、
図16(カテゴリ2-ズボン)及び
図17(カテゴリ3-ジャケット)に示すように、対応付けられて記憶されている。
【0048】
上記組合せ商品画像情報データベース29には、
図15のテーブルにおいて、識別情報a1-1~a1-qが販売商品アイテムA1と同一あるいは類似した組合せ商品アイテムとし、識別情報a2-1~a2-kが販売商品アイテムA2と同一あるいは類似した組合せ商品アイテムとし、順番に、識別情報an-1~an-mが販売商品アイテムAnと同一あるいは類似した組合せ商品アイテムとして記憶されている。
同様に、組合せ商品画像情報データベース29には、
図16のテーブルにおいて、識別情報b1-1~b1-mが販売商品アイテムB1と同一あるいは類似した組合せ商品アイテムとし、識別情報b2-1~b2-rが販売商品アイテムB2と同一あるいは類似した組合せ商品アイテムとし、順番に、識別情報bn-1~bn-qまでが販売商品アイテムBnと同一あるいは類似した組合せ商品アイテムとして記憶されている。
同様に、組合せ商品画像情報データベース29には、
図17のテーブルにおいて、識別情報c1-1~c1-qが販売商品アイテムC1と同一あるいは類似した組合せ商品アイテムとし、識別情報c2-1~c2-kが販売商品アイテムB2と同一あるいは類似した組合せ商品アイテムとし、順番に、識別情報cn-1~cn-mまでが販売商品アイテムCnと同一あるいは類似した組合せ商品アイテムとして記憶されている。
組合せ商品画像データベース30は、組合せ商品画像情報データベース29に記憶されている各カテゴリの組合せ商品アイテム毎の画像データが、上記各組合せ商品アイテムの識別情報にそれぞれ対応して記憶されている。
【0049】
また、上述した商品アイテムデータベース26、商品アイテム画像データベース27、組合せ情報データベース28、組合せ商品画像情報データベース29及び組合せ商品画像データベース30は、性別、年代別、ファッションの傾向(例えば、男性であればカジュアル、コンサバ、お兄系、大人系、ストリート系、裏原(原宿)系、モード系、一方、女性であれば、ギャル系、お姉系、コンサバ系、ティーン系、セレブ系など)などにより分類しても良い。
このように分類した場合、コーディネートの処理を行う前に、性別、年代(10代、20代、30代、…など)、ファッションの傾向等を分類の情報として、ユーザから取得する必要がある。
【0050】
図7に戻り、制御部21は、自身が管理する仮想商店がユーザ端末200からアクセスされることにより起動し、性別、年代及びファッションの傾向などの分類の情報を取得したり、後述する組合せアイテムを表示及び選択操作を行う処理プログラム(ユーザ端末のブラウザ等により動作する)をユーザ端末200に対して送信する。ここで、制御部21とユーザ端末200とは、情報通信網Iと送受信部25を介して各データの送受信を行う。ユーザ端末200は、上記処理プログラムを内部のブラウザにて起動し、画像表示あるいは販売商品アイテムまたは組合せ商品アイテムを選択する処理における商品検索支援装置100とのデータの送受信を行う。
また、制御部21は、上記画面データに対する回答データをユーザ端末200から受信すると、この性別、年代及びファッションの傾向に対応する複数の商品アイテムデータベース26から、いずれか一つの商品アイテムのテーブルを選択するとともに、組合せ商品アイテムのカテゴリを示すカテゴリ情報、例えばシャツ、ズボン、ジャケット、靴などの文字情報、あるいは画像情報を、送受信部25及び情報通信網Iを介してユーザ端末200へ送信する。
【0051】
また、制御部21は、ユーザ端末200から送信される、ユーザが選択したカテゴリの種類、例えばシャツを示すカテゴリ情報を受信すると、商品アイテムデータベース26としてのシャツ(カテゴリ1)をカテゴリとした
図8に示すテーブルを選択し、このテーブルにおける商品アイテムの識別情報A1~Anを読み込み、識別番号A1~Anまでの商品アイテムの画像データを商品アイテム画像データベース27から読み出し、サムネイル画像の画像データに変換し(画像データのビット数を低減させ)、それぞれに対応する販売商品アイテムの識別番号を付加してユーザ端末200へ送信する。
また、制御部21は、ユーザがサムネイル画像から購入を選択した販売商品アイテムの識別番号が入力されると、注文に対する受注処理を行うとともに、入力される識別番号を類似アイテム検索部22へ送信する。ここで、受注処理は、ユーザ端末200に対し、属性情報として記憶された価格に対応した料金請求と、受注した販売商品アイテムの在庫確認と、ユーザが入力する住所への販売商品アイテムの配送手続きなどである。
【0052】
条件設定部32は、ユーザが選択したサムネイル画像の識別番号とともに、ユーザ端末200から送信された用途情報を、送受信部25を介して読み込み、この用途情報を内部に設定するとともに、類似アイテム検索部22へ出力する。この条件設定部32の構成及び動作は第1の実施形態における条件設定部18と同様である。
類似アイテム検索部22は、入力される販売商品アイテムの識別番号と一致する識別番号が類似商品アイテムの欄に記載(設定)された複数の組合せ商品アイテムを、組合せ商品画像情報データベース29のテーブル(カテゴリ1)から検索し、上記販売商品アイテムと同一あるいは類似した組合せ商品アイテムを類似商品アイテムとして抽出し、組合せ検索部23へ出力する。このとき、類似アイテム検索部22は、入力される販売商品アイテムの識別番号と一致する識別番号が類似商品アイテムの欄に記載された複数の組合せ商品アイテムを、組合せ商品画像情報データベース29のテーブル(カテゴリ1)から選択し、さらに、条件設定部32に設定されている用途情報と同一の用途情報を有する商品アイテムを選択して類似商品アイテムとして抽出する。
すなわち、類似アイテム検索部22は、条件設定部32に設定されている用途情報と、組合せ商品画像情報データベース29における商品アイテムの用途情報とを比較し、一致しているか否かの判定を行う。このとき、類似アイテム検索部22は、例えば、それぞれの用途情報の複数の項目(日時情報、場所情報、状況情報)と、条件設定部32に設定されている用途情報の各項目とを比較し、それぞれの項目において少なくとも1つ一致している場合、抽出された商品の用途情報と、条件設定部18に登録されている用途情報とが一致していると判定する。
【0053】
組合せ検索部23は、類似アイテム検索部22から入力される識別番号の類似商品アイテムそれぞれに対応する、異なるカテゴリ、例えばズボン(カテゴリ2)の商品アイテムを、組合せ情報データベース28から検索して、対応する組合せ商品アイテムを抽出し、第2の組合せ商品アイテムとしてその組合せの識別情報を制御部21へ出力する。
また、制御部21は、組合せ検索部23から入力される類似商品アイテムの識別情報と、第2の組合せ商品アイテムの識別情報との複数の組合せの識別情報に対応する画像データを、それぞれの識別情報に対応して組合せ商品画像データベース30から読み出し、ユーザ端末200へ送信し、ユーザが選択した組合せにおける組合せ商品アイテムの識別情報を入力すると、受信した識別情報を商品検索部24へ出力する。
【0054】
商品検索部24は、入力される第2の組合せ商品アイテムの識別情報に対応する、実際に販売している販売商品アイテムを商品アイテムデータベース26から検索し、ユーザが購入した販売商品アイテムと組み合わせる異なるカテゴリの推奨販売商品アイテムとし、この推奨販売商品アイテムの画像データを、識別情報により商品アイテム画像データベース27から読み出し、ユーザ端末200へ送信する。
また、商品検索部24は、推奨商品とされた販売商品アイテムの金額が、ユーザが購入した販売商品アイテムの金額とを比較し、設定した範囲(例えば、購入した組合せ商品の金額の0.5~2倍以内)であるか否かを判定し、購入金額以下であればユーザ端末200へ送信し、範囲外であれば推奨商品を送信しないようにしても良い。
【0055】
次に、
図7及び
図18を参照して本実施形態による検索支援システムの動作を説明する。
図18は、
図7における検索支援システムの動作例を示すフローチャートである。以下、ユーザが入力する商品を商品アイテムとし、仮想商店にて実際に販売している商品を販売商品アイテム(商品アイテムデータベース26における商品アイテム)、商品の組合せを選択する際に用いる画像媒体から抽出した商品を組合せ商品アイテム(組合せ商品画像情報データベース29における商品アイテム)として説明する。
ユーザの操作によりユーザ端末200が、情報通信網Iを介して商品検索支援装置100が管理する仮想商店をアクセスすると、制御部21は、性別、年代及びファッションの傾向を取得するための情報と、後述する組合せアイテムを表示したり、また表示された画像の選択操作を行う処理プログラムとをユーザ端末200に対して送信する。ユーザ端末200内において、インターネットブラウザ内に上記処理プログラムにより、画像表示処理部と選択処理部とを備え、商品検索支援装置100から送信する画像データを表示したり、画像データの編集処理、画像データの選択処理を行う。
【0056】
そして、制御部21は、上記画面データに入力された性別、年代及びファッションの傾向に対する回答データ(例えば、画面に表示されたそれぞれの複数の選択肢から選択したデータ)をユーザ端末200から受信すると、この性別、年代及びファッションの傾向に対応する商品アイテムデータベース26の複数のテーブルから対応するテーブルを選択するとともに、販売商品アイテムのカテゴリを示すカテゴリ情報、例えばシャツ、ズボン、ジャケット、靴などの文字情報、あるいは画像情報を、送受信部25及び情報通信網Iを介してユーザ端末200へ送信する。
文字情報あるいは画像情報が入力されると、ユーザ端末200は、上記処理プログラムに従い、表示部に文字情報あるいは画像情報によるカテゴリ(例えば、シャツ、ズボン、ジャケットなど)を表示し、いずれを購入するかをユーザに対して選択を促す表示(たとえば、「選択してください」など)を行う。
ユーザがいずれかのカテゴリを選択すると、ユーザ端末200は、ユーザが選択したカテゴリを示すカテゴリ情報を、例えばシャツを示すカテゴリ情報を商品検索支援装置100へ送信する(ステップF1)。
【0057】
すなわち、ユーザの購入したい商品アイテムのカテゴリ情報を受信すると、制御部21は、
図8から
図10に示す商品アイテムデータベース26のテーブルから、シャツをカテゴリ(カテゴリ1)とした
図8に示すテーブルを選択し、このテーブルにおける販売商品アイテムの識別情報A1~Anの全てを読み込み、識別番号A1~Anまでの販売商品アイテムの画像データを商品アイテム画像データベース27から読み出し、サムネイル画像の画像データとして、サムネイル画像それぞれに対応する販売商品アイテムの識別番号を付加してユーザ端末200へ送信する。
サムネイル画像の画像データが供給されると、ユーザ端末200は、識別番号A1~Anの販売商品アイテムのサムネイル画像を表示部に表示する(ステップF2)。
そして、ユーザ端末200は、表示されているサムネイル画像のいずれかをユーザが選択し、ユーザが用途情報を入力すると、選択したサムネイル画像の識別情報と、用途情報とを商品検索支援装置100へ送信する。
【0058】
選択されたサムネイル画像の識別情報及び用途情報を受信すると、制御部21は、ユーザがサムネイル画像から、購入対象として選択した販売商品アイテムとして、この識別番号の販売商品アイテム、すなわちシャツへの注文に対する受注処理を行うとともに、入力される識別番号を類似アイテム検索部22へ送信する。
そして、類似アイテム検索部22は、例えば、ユーザの購入した販売商品アイテムの識別番号A1が入力されると、この識別番号A1に一致あるいは類似商品アイテムに識別番号A1が記載され、かつ用途情報が一致する商品アイテムを、単数あるいは複数の商品アイテムからなる候補群として、
図15から
図17に示す組合せ商品画像情報データベース29のテーブルから抽出する(ステップF3)。なお、商品画像情報データベース29には、例えば、識別情報の欄に識別情報A1が記載され、類似商品アイテムの欄にA1と記載された、商品アイテムデータベース26に記載されている商品と同一のものも含まれている。
ここで、類似アイテム検索部22は、例えば組合せ商品画像情報データベース29から、販売商品アイテムの識別番号A1が入力されると、属性データにおける類似商品アイテムの欄に識別番号A1が記載されている上記識別番号a1-1~a1-qの組合せ商品アイテムを、類似している組合せ商品アイテムの候補群として抽出し、組合せ検索部23へ出力する。
【0059】
組合せ検索部23は、類似アイテム検索部22から入力される上記候補群における識別番号の組合せ商品アイテムそれぞれに対応する、異なるカテゴリ、例えばズボンの組合せ商品アイテムを、
図14に示す組合せ情報データベース28から検索して、対応するズボンの組合せ商品アイテム(例えば、
図14に示すa1-1、a1-2、a1-3、…に対応するb1-2、b2-3、b1-4、…)を抽出し、第2の組合せ商品アイテムとして、その組合せにおけるそれぞれの識別情報を制御部21へ出力する(ステップF4)。
ここで、ユーザが購買した販売商品アイテムと組み合わせる販売商品アイテムとして推奨するカテゴリは、購買した商品に対応して予め設定しておいても良いが、最初に複数のカテゴリからユーザに選択させるようにしても良い。
ここで、組合せ検索部23は、ユーザが購買した販売商品アイテムと組み合わせる販売商品アイテムを抽出した後、この抽出した組み合わせる販売商品アイテムのなかから、条件設定部32に設定されてい用途情報と一致する販売商品アイテムを選択し、この選択した販売商品アイテムを最終的な組み合わせる販売商品アイテムとしても良い。
そして、制御部21は、組合せ検索部23から入力される組合せ商品アイテムの識別情報と、第2の組合せ商品アイテムの識別情報との複数(候補群に対応する組合せ商品アイテムの数)の組合せの識別情報にそれぞれ対応する画像データを、それぞれの識別情報に対応させて組合せ商品画像データベース30から読み出し、それぞれの組合せ商品アイテムの画像データに各々の識別情報を付加してユーザ端末200へ送信する。
【0060】
組合せ商品アイテム(シャツに対応)の識別情報と、第2の組合せ商品アイテム(ズボンに対応)の識別情報との複数の組合せの識別情報と、それに対応した画像データとが入力されると、ユーザ端末200は、それぞれの組合せの画像データを表示部に表示する(ステップF5)。
また、表示画面の端部に、CG(Computer Graphics)で作成された体型別毎に対応した3次元の人間の画像が複数表示されており、いずれかを選択することにより、ユーザ端末200は、組合せ商品アイテムのシャツ及びズボンを上記人間の画像に対して重ね合わせて表示する。また、ユーザ端末200は、ユーザが搭載されたウェブカメラによりユーザ自身の顔を図示しない撮像装置により撮像し、この撮像した画像データからユーザが選択した顔の領域を上記CGの人間の画像の顔の部分に重ねて表示する画像処理を行うようにしても良い。
【0061】
次に、ユーザがユーザ端末200の表示部に表示されている複数の組合せから、ポインティングデバイス等によりいずれかを選択すると(ステップF6)、例えば識別情報a1-1と識別情報b1-2との組合せを選択すると、ユーザ端末200は、ユーザが選択した組合せにおける第2の組合せ商品アイテム(ズボンに対応)の識別情報b1-2を、商品検索支援装置100へ送信する。
制御部21を介して上記第2の組合せ商品アイテムの識別情報b1-2を入力すると、商品検索部24は、商品アイテムデータベース26のズボンのカテゴリに対応する
図9に示すテーブルを検索し(ステップF7)、この識別情報b1-2に対応する識別情報B1である販売商品アイテムを抽出する(ステップF8)。
そして、制御部21は、商品検索部24が抽出した組合せ販売商品アイテムの識別情報B1に対応する画像データを、商品アイテム画像データベース27から検索して読み出す。
また、制御部21は、ユーザが購入した識別情報A1に対応する画像データを、商品アイテム画像データベース27から検索して読み出し、識別情報B1の販売商品アイテムの画像データとともに、ユーザ端末200へ送信する。
【0062】
販売商品アイテムの画像データが商品検索支援装置100から供給されると、ユーザ端末200は、この供給された組合せの画像データを表示部に表示する(ステップF9)。
このとき、上述したステップF5と同様に、表示画面の端部に、CGで作成された体型別毎に対応した3次元の人間の画像が複数表示されており、この3次元の人間の画像のいずれか(例えば、自身の体型に近い人間の画像)を選択することにより、ユーザ端末200は、販売商品アイテムのシャツ(識別情報A1)及びズボン(識別情報B1)を、上記選択された3次元の人間の画像に対して重ね合わせて表示する。また、ユーザ端末200は、搭載されたウェブカメラによりユーザの顔を撮像し、ユーザが選択した顔の領域を上記人間の画像の顔の部分に重ねて表示するようにしても良い。
そして、ユーザ端末200は、ユーザが識別情報B1である販売商品アイテムの推奨商品を購入するあるいは購入しないを表示画面の選択肢から選択する(ステップF10)と、購入するあるいは購入しないを示す情報とともに、識別情報A1及び識別情報B1を、商品検索支援装置100へ送信する。
購入するあるいは購入しないを示す情報とともに、識別情報A1及び識別情報B1が入力されると、制御部21は、購入する場合、識別情報A1の販売商品アイテムの場合と同様に受注処理を行う。
【0063】
また、商品検索支援装置100に、
図7において破線で示す履歴データベース31を設けるようにしても良い。
履歴データベース31は、
図19に示すテーブル構成をしたユーザテーブルと、各ユーザ毎の
図20に示すテーブル構成の購入履歴テーブルから構成されている。
図19のユーザテーブルは、会員登録をしたユーザあるいは販売商品アイテムを購入したユーザに対し、各ユーザに付与した、各ユーザを識別するユーザ識別情報と、このユーザ識別番号に対応して、少なくともユーザの氏名及びユーザのユーザメールアドレスとが対応付けられて構成されている。
また、
図20の購入履歴テーブルは、各ユーザ毎に設けられ、上記ユーザ識別情報により識別され、仮想商店をアクセスしたアクセス日時に対応し、アクセス日時に購入した販売商品アイテムの識別情報と、検索したが購入しなかった販売商品アイテムの識別情報と、購入した販売商品アイテムに対して推奨したが購入しなかった組合せ商品アイテムの識別情報とを履歴として記憶している。購入した販売商品アイテムがなければ「-」が記憶される。このユーザテーブル及び購入履歴テーブルに対するデータの書き込み処理は、以下に示すように制御部21により行われる。
【0064】
制御部21は、例えば、ユーザがユーザ端末200から仮想商店にアクセスし、会員登録のページにおいて氏名及びメールアドレスを入力して会員登録を行うと、このユーザに対してユーザ識別情報を付与してユーザテーブルに追加登録する。
そして、制御部21は、ユーザが選択したカテゴリにおいて販売商品アイテムを検索し、その販売商品アイテムを購入した場合、購入した販売商品アイテムを購入した商品アイテムの識別情報の領域に記憶し、一方、検索したが購入しなかった場合、検索した販売商品アイテムの識別情報を検索したが購入しなかった商品アイテムの識別情報の領域に記憶する。
また、制御部21は、上記購入した販売商品アイテムと組み合せる推奨商品としての販売商品アイテムをユーザ購入すると、上記購入履歴テーブルにおいて、購入した販売商品アイテムを、購入した商品アイテムの識別情報の領域に記憶し、一方、上記推奨商品としての販売商品アイテムを購入しなかった場合、推奨したが購入しなかった商品アイテムの識別情報の領域に記憶する。
【0065】
そして、制御部21は、再度、ユーザが仮想商店をアクセスし、販売商品アイテムを検索した場合、ユーザの入力するユーザ識別情報により、このユーザの購入履歴テーブルを履歴データベース31から選択し、この販売商品アイテムの識別情報により、選択した購入履歴テーブルを検索する。
このとき、制御部21は、ユーザが検索している販売商品アイテムの識別情報が、購入した商品アイテムの識別情報の領域で検出された場合、同一の販売商品アイテムを購入した日時を付加して、ユーザ端末200へ送信し、表示画面に表示させてユーザに対し、すでに購入した組合せ商品化アイテムを通知する。
【0066】
また、制御部21は、検索している販売商品アイテムの識別情報が、検索したが購入しなかった商品アイテムの識別情報の領域で検出された場合、同一の販売商品アイテムを検索した日時を付加して、ユーザ端末200へ送信し、表示画面に表示させてユーザに対し、「前にも検索した商品アイテムであり、お気に入りのタイプではないですか」などの購入意欲を刺激する情報を通知する。
また、制御部21は、検索している販売商品アイテムの識別情報が、推奨したが購入しなかった商品アイテムの識別情報の領域で検出された場合、同一の販売商品アイテムを推奨した日時と、その際に購入した販売商品アイテムの画像データを付加して、ユーザ端末200へ送信し、表示画面に表示させてユーザに対し、「前にお買いになった商品アイテムと組み合わせると良い商品アイテムですよ」などの購入意欲を刺激する情報を通知する。
【0067】
次に、特徴データについて説明する。
図8から
図10及び
図15から
図17に記載されているように、特徴データは例えば、R(赤)G(緑)B(青)の色空間毎に、服飾の生地の柄を2次元フーリエ変換したものである。制御部21は、この特徴データの要素データRD、GD及びBDを2次元フーリエ変換により生成する。このとき、販売商品アイテムあるいは組合せ商品アイテムがシャツやジャケットであれば服の横幅あるいは肩幅を、2次元フーリエ変換する際の長さの基準値として、各販売商品アイテム及び組合せ商品アイテム間の処理におけるデータの整合をとるようにする。
また、ズボンであれば、ウェスト部分の横幅を2次元フーリエ変換する際の長さの基準値として、各販売商品アイテム及び組合せ商品アイテム間の処理におけるデータの整合をとるようにする。
【0068】
すなわち、特徴データにより、類似性を確認するため、柄の大きさなどを正確に判定するため、装飾品のいずれかの位置の寸法を基準値として、全体の各部の寸法を規格化し、同一カテゴリ内における組合せ商品の2次元フーリエ変換結果の整合がとれるようにする必要がある。2次元フーリエ変換を行う画像データを撮像する際、シャツ、ジャケット及びズボンなどは平らな床におき、平坦にした後にデジタルカメラなどにより撮像する。
また、特徴データの要素データとしての形状とは、例えば、シャツやジャケットであれば肩幅に対する袖の長さの比、ズボンであれば、渡り巾と裾巾の比である。
次に、テクスチャであるが、一番大きな面積を有している生地部分を拡大し、生地の形状の2次元フーリエ変換を行う。この際は、拡大率を一定として、異なる組合せアイテム間の画像データから得られる2次元フーリエ変換のデータの整合性をとる。
【0069】
上述したように、仮想商店の店員は服飾の画像データを撮像し、この撮像した画像データから、制御部21において上述したようにフーリエ変換等を行い、販売している販売商品アイテムの画像データから特徴データを収集、またファッションカタログ、あるいはインターネットなどの画像媒体から収集した組合せ商品アイテムの画像データから属性データを収集する。
そして、類似性を有する組合せ商品アイテムを、実際に販売している販売商品アイテムの特徴データを塊の重心データとして、画像媒体から収集した組合せ商品アイテムのクラスタリングを行う。ここで、制御部21は、例えば、店員の入力する画像媒体から収集した組合せ商品アイテムそれぞれの画像データの特徴データからなる比較特徴ベクトルと、実際に販売している販売商品アイテムそれぞれの画像データの特徴データからなる基準特徴ベクトルの距離を求め、各販売商品アイテムとそれぞれ他の組合せ商品アイテムの基準特徴ベクトルより距離が近い特徴ベクトルを有する組合せ商品アイテムを、近いとされた販売商品アイテムと類似性のある塊とする処理を行い、
図15、
図16及び
図17のテーブルにおける組合せ商品アイテムと類似商品アイテムの欄の販売商品アイテムとの対応関係を生成する。
【0070】
同様に、
図8、
図9及び
図10のテーブルにおける販売商品アイテムと類似商品アイテムの欄の組合せ商品アイテムとの対応関係を生成する。すなわち、
図8、
図9及び
図10におけるテーブルの類似商品アイテムの欄に記載されている識別情報は、対応する識別情報の販売されている販売商品アイテムに対し、他の販売されている販売商品アイテムに比較して特徴ベクトルの距離が短い、すなわち類似性を有する組合せ商品アイテムの識別情報である。
ここで、制御部21は、例えば、
図8、
図9、
図10それぞれの図における類似商品アイテムの欄に、特徴ベクトルの距離が短い順番に、すなわち類似性の高い順番に並べて記憶させるようにしても良い。これにより、販売商品アイテムに最も類似している組合せ商品アイテムを選択する場合、類似アイテム検索部22は、画像媒体から収集した組合せ商品アイテムから、最も類似する組合せ商品アイテム、あるいは類似度が高い方からh番目(hは予め設定されている)までを、
図15から
図17より容易に抽出することが可能となる。
【0071】
また、上述したように、販売商品アイテム各々の基準特徴ベクトルと、近い距離にある比較特徴ベクトルを有する画像媒体から収集した組合せ商品アイテムの特徴データと、を比較してクラスタリングを予め行って、類似商品アイテムの識別情報を記載する欄を設けるのではなく、類似する組合せ商品アイテムを検索する際に、その都度、類似度を計算するようにしても良い。
例えば、ステップF3における販売商品アイテムに類似する画像媒体から取得した組合せ商品アイテムの検索において、類似アイテム検索部22が、上述した基準特徴ベクトルと比較特徴ベクトルとの距離により類似度(特徴ベクトルの距離が短いほど類似度は高い)を算出し、販売商品アイテムと類似性を有する画像媒体から収集した組合せ商品アイテムを抽出する構成としても良い。
【0072】
このとき、同様に、ステップF7における画像媒体から取得した組合せ商品アイテムに類似する販売商品アイテムの検索において、商品検索部24が、上述した基準特徴ベクトルと比較特徴ベクトルとの距離により類似度を算出し、画像媒体から収集した組合せ商品アイテムと類似性を有する販売商品アイテムを抽出する構成としても良い。
さらに、類似アイテム検索部22及び商品検索部24は、販売商品アイテムと、画像媒体から収集した組合せ商品アイテムと距離を算出し、最も類似度の高いもの、あるいは類似度の高い方からh番目のものまでを抽出するようにしてもよい。
以上のように、本実施形態によれば、ユーザが対象物を検索する場合において、情報提供等により検索を支援できる。
例えば、上述したように、組合せ商品の購入において、ユーザが購入するあるいは購入した商品に対し、組み合わせた場合に合う商品を、販売されている商品群のなかから抽出し、抽出した商品をユーザに推奨するため、インターネットの仮想商店にある多くの商品から合う商品を選択する際に、合うか合わないかを自身で悩む必要がなく、容易に組合せ商品を選択することができる。
【0073】
また、上述した本実施形態において、用途情報を組合せ商品画像情報データベース29各商品アイテムの属性情報の一つとして付加して説明したが、用途情報のカテゴリの分類毎に、組合せ商品画像情報データベース29を構成しても良い。例えば、春用、夏用、秋用及び冬用の各々の商品テーブルを構成して用いても良い。この場合、類似アイテム検索部22は、ユーザ端末200からの検索依頼に付加される登録情報に対応した商品画像情報データベース29を選択し、選択した商品画像情報データベース29から検索依頼された商品アイテムに類似した商品アイテムを検索することになり、検索時間を短縮することが可能となる。
【0074】
<第3の実施形態>
第2の実施形態においては、商品検索支援装置100がサムネイル画像により販売商品アイテムを、ユーザ端末200へ送信し、ユーザにユーザ端末200の画面上にて選択させていた。
第3の実施形態においては、ユーザが仮想商店にアクセスした後、画像媒体からスキャナなどで読み込んだ、あるいはインターネットでダウンロードした購入したい服飾の画像データを、ユーザ端末200に商品アイテムの画像データとして入力し、ユーザ端末200がこの画像データを商品検索支援装置100へ送信し、商品検索支援装置100がこの画像データの組合せ商品アイテムに類似する販売商品アイテムを抽出するようにしても良い。販売商品アイテムを抽出した後の動作は、第2の実施形態においてユーザがサムネイル画像から販売商品アイテムを選択した後の動作と同様である。
【0075】
第3の実施形態による商品検索支援装置100の構成は、第2の実施形態と同様である。以下、第2の実施形態と異なる動作のみ説明する。
ユーザがユーザ端末200により仮想商店にアクセスすると、商品検索支援装置100が起動し、制御部21は、ユーザ端末200にサムネイル画像から販売商品アイテムを選択するか、あるいはユーザが入力する服飾の画像データにより、類似する販売商品アイテムを商品アイテムデータベース26から抽出するかの質問を行う入力画面(選択肢をマウスなどによりクリックして検索する)の画像情報を、ユーザ端末200に送信する。
そして、ユーザがサムネイル画像から購入する商品を選択することを決定することにより、ユーザ端末200からサムネイル画像により選択を示す応答信号が入力されると、制御部21は第2の実施形態と同様に、それぞれの画像データに販売商品アイテムの識別情報を付加し、複数の販売商品アイテムのサムネイル画像をユーザ端末200へ送信する。この後の、ユーザがサムネイル画像からいずれかを選択した後は、第2の実施形態と同様の処理となる。
【0076】
一方、ユーザが自身の入力する画像データにより、類似する販売商品アイテムを商品アイテムデータベース26から抽出することを選択すると、ユーザ端末200は、ユーザの入力する画像データにより選択することを示す応答信号が商品検索支援装置100に対して送信される。これにより、制御部21は、画像データを入力する入力画面の情報を、ユーザ端末200へ送信する。
ユーザは、購入したい服飾の画像データ(ファッション雑誌、あるいはファッションカタログ等の紙の画像媒体)をスキャナによりユーザ端末200に読み込ませるか、あるいはデジタルカメラにて撮像してその撮像した画像データ、またインターネットにより得られた画像データをユーザ端末200に読み込ませる。
画像データを読み込むと、ユーザ端末200における入力画面の画像データ表示領域にこの画像データが
図21に示すように表示部に表示され、ユーザは画像データの購入したい服飾部分、例えば、抽出したいシャツ部分の領域を破線H1により選択し、抽出したいシャツ部分の外周部(当該シャツの外周部近傍の部分)を破線H2で囲むことで、抽出したいシャツ部分全体の背景画像の部分の選択を行う。そして、ユーザがユーザ端末200の表示部の表示画面において、カテゴリ名をコンボボックスのカテゴリ(例えば、シャツ)の一覧から選択し、表示画面における送信ボタンをユーザがクリックすることにより、ユーザ端末200は、画像データを送信処理する処理が要求されたことを検出し、破線H1及び破線H2が引かれた服飾の画像データと、引かれていない服飾の画像データと、選択した服飾のカテゴリ名を示すカテゴリ情報とを、商品検索支援装置100へ送信する。
【0077】
そして、破線H1及び破線H2が引かれた服飾の画像データと、破線の引かれていない服飾の画像データとを受信すると、制御部21は、上記服飾の画像データに対し、Graph-Cut法によりシャツ部分とそれ以外の部分とのセグメンテーションする処理を行い、シャツ部分を抽出する。
すなわち、制御部21は、シャツ部分に引かれた破線H1にかかる画素と同様な画素値を有する領域と、シャツ部分以外に引かれた破線H2にかかる画素と同様な画素値を有する領域との境界を、階調度による誤差関数の誤差が最小となる位置として求めることにより、セグメンテーションを行う。
ここで、制御部21は、シャツの部分を抽出すると、すでに述べたように2次元フーリエ変換を行うとともに、特徴データにおける要素としての形状データを抽出し、検出対象特徴データとして出力する。
【0078】
そして、制御部21は、抽出された服飾のカテゴリに対応したテーブルを、例えば本実施形態においてはシャツのテーブルを商品アイテムデータベース26から選択する。
シャツのテーブルを選択した後、制御部21は、テーブルの各販売商品アイテムの特徴データからなる基準特徴ベクトルと、上記検出対象特徴データからなる対象特徴ベクトルとの距離を算出し、予め設定した距離以下となる検出対象特徴データと類似した特徴データを有する販売商品アイテムを、上記シャツのテーブルから、類似したと判定される上位h番目まで、例えば上位5番目まで抽出する。ここで、制御部21は、特徴データにおいて、ユーザから送信された画像データからテクスチャを抽出することが困難であるため、特徴データから特徴ベクトルを生成する際、ベクトルの要素からテクスチャを除いて、比較する両者の特徴ベクトルの距離を算出する。
次に、制御部21は、この上位5品の識別情報により、それぞれの販売商品アイテムの画像データを、商品アイテム画像データベース27から読み出し、サムネイル画像として、それぞれ識別情報に対応させて、ユーザ端末200へ送信する。これ以降の処理は、第2の実施形態における
図18のフローチャートにおけるステップF2にて、サムネイル画像を送信した以降の処理と同様である。
【0079】
<第4の実施形態>
第3の実施形態においては、ユーザが入力する商品アイテムの画像データと同一あるいは同様な販売商品アイテムを、販売している販売商品アイテムを記憶している商品アイテムデータベース26から検索し、検索された販売商品アイテムをユーザに提示するとともに、検索された販売商品アイテムと組み合わせる他のカテゴリの販売商品アイテムを推奨する処理を行っている。
第4の実施形態においては、すでにユーザが有している服飾と組み合わせる販売商品アイテムを検索する動作を行う。
【0080】
ユーザは自身の有している服飾、例えばシャツをデジタルカメラにより撮像し、ユーザ端末200により上記シャツの画像データをデジタルカメラより読み込ませる。
そして、ユーザがユーザ端末200により仮想商店にアクセスすると、商品検索支援装置100が起動し、制御部21は、ユーザがサムネイル画像から販売商品アイテムを選択するか、あるいはユーザが入力する服飾の画像データにより、類似する販売商品アイテムを商品アイテムデータベース26から抽出するか、あるいはユーザが入力する画像データの服飾に対し組み合わせる販売商品アイテムを推奨するかの質問を行う入力画面(選択肢をマウスなどによりクリックして検索する)の画像情報を、ユーザ端末200に送信する。
【0081】
そして、ユーザがサムネイル画像から購入する商品を選択することを決定することにより、ユーザ端末200からサムネイル画像により選択を示す応答信号が入力されると、制御部21は第2の実施形態と同様に、それぞれの画像データに販売商品アイテムの識別情報を付加し、複数の販売商品アイテムのサムネイル画像をユーザ端末200へ送信する。この後の、ユーザがサムネイル画像からいずれかを選択した後は、第2の実施形態と同様の処理となる。
一方、ユーザが自身の入力する画像データにより、販売商品アイテムを商品アイテムデータベース26から抽出することを選択すると、ユーザ端末200は、ユーザの入力する画像データにより選択することを示す応答信号が商品検索支援装置100に対して送信される。これ以降の処理は、第3の実施形態と同様の処理となる。
【0082】
また、ユーザが自身の入力する画像データの服飾と組み合わせる他のカテゴリの販売商品アイテムを推奨することを選択すると、ユーザ端末200は、ユーザの入力する画像データの服飾と組み合わせる販売商品アイテムを推奨することを選択したことを示す応答信号を、商品検索支援装置100に対して送信する。
以下、これ以降の第4の実施形態による、ユーザの入力する画像データの服飾と組み合わせる販売商品アイテムを推奨する処理を説明する。第4の実施形態による商品検索支援装置100の構成は、第2の実施形態と同様である。以下、第1及び第3の実施形態と異なる動作のみ説明する。
【0083】
上述したように、ユーザが自身の入力する画像データの服飾と組み合わせる販売商品アイテムを推奨することを選択すると、ユーザ端末200は、ユーザの入力する画像データの服飾と組み合わせる販売商品アイテムを推奨することを示す応答信号を、商品検索支援装置100に対して送信する。これにより、制御部21は、画像データ及び用途情報を入力する入力画面の情報を、ユーザ端末200へ送信する。
ユーザは、組み合わせる販売商品アイテムを推奨してほしい自身の有する服飾(例えばシャツ)の画像データをデジタルカメラ等の撮像装置にて撮像し、この撮像装置から上記服飾を撮像した画像データをユーザ端末200に読み込ませる。
【0084】
ユーザ端末200が読み込んだ画像データが表示部に表示されると、ユーザは、上記画像データ表示領域近傍にあるカテゴリ入力欄に、画像データ表示領域に表示されている画像データの服飾のカテゴリを、コンボボックスから選択して入力する。また、ユーザはユーザ端末200の表示部における画像データ表示領域近傍にある、用途情報をコンボボックスから選択して入力する。
そして、ユーザが入力画面における送信ボタンを、マウスなどのポインティングデバイスにより選択すると、ユーザ端末200は、画像データを送信処理する処理が要求されたことを検出し、画像データ表示領域に表示している画像データを、上記カテゴリを示すカテゴリ情報及び用途情報とともに商品検索支援装置100へ送信する。
画像データが入力されると、制御部21は、画像データの服飾、例えばシャツの画像データに対して2次元フーリエ変換を行うとともに、特徴データにおける要素としての形状データを抽出し、検出対象特徴データとして、カテゴリ情報とともに類似アイテム検索部22へ出力する。また、制御部21は、画像データ及びカテゴリ情報とともに供給された用途情報を条件設定部32に出力する。これにより、条件設定部32は、類似した商品アイテムを検索する際に用いる用途情報を内部に設定し、類似アイテム検索部22に対して出力する。
【0085】
そして、類似アイテム検索部22は、抽出された服飾のカテゴリに対応したテーブルを、例えばシャツのテーブルを組合せ商品画像情報データベース29から選択する。
シャツのテーブルを選択した後、類似アイテム検索部22は、テーブルの各組合せ商品アイテムの特徴データからなる基準特徴ベクトルと、上記検出対象特徴データからなり対象特徴ベクトルとの距離を算出し、予め設定された距離以下となる検出対象特徴データと類似した特徴データを有する組合せ商品アイテムを、上記シャツのテーブルから、条件設定部32に設定されている用途情報と一致し、類似したと判定された距離が短い順に上位h番目まで、例えば上位5番目までの組合せ商品アイテムを抽出する。ここで、制御部21は、特徴データにおいて、ユーザから送信された画像データからテクスチャを抽出することが困難であるため、特徴データから特徴ベクトルを生成する際、ベクトルの要素からテクスチャを除いて、基準特徴ベクトル及び検出対象特徴ベクトルを生成する。
【0086】
そして、類似アイテム検索部22は、検出された類似度が上位5番目までの組合せ商品アイテム、例えばシャツの5個の識別情報を組合せ検索部23へ出力する。
組合せ商品アイテムの識別情報が入力されると、組合せ検索部23は、組合せ情報データベース28において、入力された組合せ商品アイテムの5個の識別情報各々と対応して記憶されている他のカテゴリ、例えばズボンの組合せアイテムの識別情報を読み出す。
次に、組合せ検索部23は、シャツとズボンとの5個の組合せにおけるそれぞれの識別情報の組合せを、制御部21に対して送信する。この後の処理は、
図18のフローチャートにおけるステップF5以降の処理と同様である。
【0087】
<第5の実施形態>
組合せ商品画像情報データベース29には、過去の、例えば、10年前、あるいは20年前などのように古いファッション雑誌あるいはファッションカタログ等から収集した、古い服飾の画像データの属性データを識別情報に対応させて記憶させておいても良い。
また、組合せ商品画像データベース30には、古い服飾の画像データが上記識別信号に対応して記憶されている。
そして、過去のファッション雑誌あるいはファッションカタログ等にある組合せ商品アイテムの組合せに対応して、
図14に示す異なるカテゴリ間の組合せ商品アイテムの組合せのテーブルを、組合せ情報データベース28に作成する。
上述したように、組合せ商品画像情報データベース、組合せ商品画像データベース30及び組合せ情報データベース28を構成することにより、過去のデザインに似た新しい販売商品アイテムが販売された際、過去のデザインにおける組合せを利用して、現在において販売している販売商品アイテムから、過去のデザインに似た新しい組合せ商品アイテムに組み合わせる販売商品アイテムを容易に抽出することが可能となる。
本実施形態においては、商品アイテムとして服飾を例として説明したが、複数の異なる種類(カテゴリ)の商品を組み合わせる組合せ商品、例えば、組合せ家具、組合せ家電などの商品全般に、容易に適用することができる。
【0088】
なお、上記各実施形態において、検索サーバ1、1a、及び商品検索支援装置100各部の機能を実現するためのプログラムをコンピュータ読み取り可能な記録媒体に記録して、この記録媒体に記録されたプログラムをコンピュータシステムに読み込ませ、実行することにより商品検索の支援処理を行ってもよい。なお、ここでいう「コンピュータシステム」とは、OSや周辺機器等のハードウェアを含むものとする。また、「コンピュータシステム」は、ホームページ提供環境(あるいは表示環境)を備えたWWWシステムも含むものとする。また、「コンピュータ読み取り可能な記録媒体」とは、フレキシブルディスク、光磁気ディスク、ROM、CD-ROM等の可搬媒体、コンピュータシステムに内蔵されるハードディスク等の記憶装置のことをいう。さらに「コンピュータ読み取り可能な記録媒体」とは、インターネット等のネットワークや電話回線等の通信回線を介してプログラムが送信された場合のサーバやクライアントとなるコンピュータシステム内部の揮発性メモリ(RAM)のように、一定時間プログラムを保持しているものも含むものとする。
【0089】
また、上記プログラムは、このプログラムを記憶装置等に格納したコンピュータシステムから、伝送媒体を介して、あるいは、伝送媒体中の伝送波により他のコンピュータシステムに伝送されてもよい。ここで、プログラムを伝送する「伝送媒体」は、インターネット等のネットワーク(通信網)や電話回線等の通信回線(通信線)のように情報を伝送する機能を有する媒体のことをいう。また、上記プログラムは、前述した機能の一部を実現するためのものであっても良い。さらに、前述した機能をコンピュータシステムにすでに記録されているプログラムとの組み合わせで実現できるもの、いわゆる差分ファイル(差分プログラム)であっても良い。
上述したように、本発明に係る態様によれば、ユーザが検索したい対象物又は該対象物と類似する対象物を容易に検索することができる。
【産業上の利用可能性】
【0090】
本発明は、インターネットを介し、ユーザが対象物の検索にあたり、検索する対象物の選択や決定を支援する検索支援システム、それと類似の技術において用いて好適であり、その対象物の画像データによりユーザの検索したい対象物の検索を行うことができる。
【符号の説明】
【0091】
1…検索サーバ
2…ユーザ端末
11…抽出部
12…種類判定部
13…検索部
14…組合せ抽出部
15…嗜好抽出部
16…データベース
17…送受信部
18、32…条件設定部
21…制御部
22…類似アイテム検索部
23…組合せ検索部
24…商品検索部
25…送受信部
26…商品アイテムデータベース
27…商品アイテム画像データベース
28…組合せ情報データベース
29…組合せ商品画像情報データベース
30…組合せ商品画像データベース
31…履歴データベース
100…商品検索支援装置
200…ユーザ端末
I…情報通信網