【文献】
堀越 力,手書きスケッチ操作による三次元モデルの入力と立体形状検索への応用,情報処理学会論文誌,日本,社団法人情報処理学会,1994年 9月15日,第35巻 第9号,P.1750-1758
(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0017】
以下、本発明の実施形態の例について図面に基づき詳細に説明する。
【0018】
図1は、本発明の実施形態に係る画像検索システム1の全体構成の一例を示す。
図1に示すように、本実施形態に係る画像検索システム1はサーバ10、データベース16、及びユーザ端末20を含む。サーバ10及びユーザ端末20は、例えばインターネット等を含んで構成される通信ネットワーク2に接続されており、サーバ10とユーザ端末20との間で相互にデータ通信が可能である。
【0019】
サーバ10は制御部11、主記憶部12、補助記憶部13、通信部14、及び光ディスクドライブ部15を含む。制御部11は例えば1又は複数のCPUを含み、補助記憶部13に記憶されたオペレーションシステム又はプログラムに従って情報処理を実行する。主記憶部12は例えばRAMであり、補助記憶部13は例えばハードディスク又はソリッドステートドライブである。通信部14は通信ネットワーク2を介してデータ通信を行うためのものである。光ディスクドライブ部15は、光ディスク(情報記憶媒体)に記録されたプログラムやデータを読み出すためのものである。
【0020】
例えば、プログラムやデータは光ディスク(情報記憶媒体)を介して補助記憶部13に供給される。すなわち、光ディスクに記憶されたプログラムやデータが光ディスクドライブ部15によって読み出され、補助記憶部13に記憶される。なお、サーバ10は、光ディスク以外の情報記憶媒体(例えばメモリカード)に記憶されたプログラム又はデータを読み出すための構成要素を含むようにしてもよい。そして、光ディスク以外の情報記憶媒体(例えばメモリカード)を介してプログラムやデータが補助記憶部13に供給されるようにしてもよい。また、プログラム及びデータは通信ネットワーク2を介して補助記憶部13に供給されるようにしてもよい。
【0021】
サーバ10はデータベース16にアクセスできるようになっている。データベース16には画像検索の対象となる多数の画像が記憶されている。なお、データベース16はサーバ10内に構築されるようにしてもよいし、サーバ10とは別のサーバ内に構築されるようにしてもよい。
【0022】
ユーザ端末20はユーザによって使用される情報処理装置である。ユーザ端末20は制御部21、主記憶部22、補助記憶部23、通信部24、表示部25、音声出力部26、及び操作部27を含む。制御部21、主記憶部22、補助記憶部23、及び通信部24はサーバ10の制御部11、主記憶部12、補助記憶部13、及び通信部14と同様である。
【0023】
例えば、プログラム及びデータは通信ネットワーク2を介して補助記憶部23に供給される。なお、ユーザ端末20は光ディスクドライブ部を備えるようにしてもよい。そして、プログラムやデータが光ディスク(情報記憶媒体)を介して補助記憶部23に供給されるようにしてもよい。また、ユーザ端末20は、光ディスク以外の情報記憶媒体(例えばメモリカード)に記憶されたプログラム又はデータを読み出すための構成要素を含むようにしてもよい。そして、光ディスク以外の情報記憶媒体(例えばメモリカード)を介してプログラムやデータが補助記憶部23に供給されるようにしてもよい。
【0024】
表示部25は例えば液晶ディスプレイ又は有機ELディスプレイ等であり、各種画面を表示する。音声出力部26は例えばスピーカ又はヘッドホン端子等であり、各種音声を出力する。
【0025】
操作部27はユーザが操作を行うためのものである。例えば、表示部25に表示される画面内の位置をユーザが指示するためのポインティングデバイスが操作部27として備えられる。例えば、表示部25の上に重ねて設けられるタッチパネルがユーザ端末20に備えられる。なお、タッチパネルの代わりに、例えばマウス又はスティック等がユーザ端末20に備えられるようにしてもよい。
【0026】
本実施形態に係る画像検索システム1は、原画像の特定部分が異なるような画像を検索できるようになっている。以下、この画像検索機能について説明する。なお以下では、衣服画像の特定部分が異なるような画像を検索する場合を例として説明する。
【0027】
図2は、画像検索を行う場合にユーザ端末20の表示部25に表示される画面の遷移の一例を説明するための図である。
【0028】
画像検索を行う場合、
図2に示すように、まず原画像選択画面が表示部25に表示される(S101)。原画像選択画面は、画像検索に用いる原画像をデータベース16に記憶される画像のうちから選択するための画面である。
【0029】
原画像選択画面において原画像が選択されると、加工画面が表示部25に表示される(S102)。加工画面は原画像を加工するための画面である。
【0030】
図3は加工画面の一例を示す。加工画面30には、原画像選択画面において選択された原画像32が表示される。
図3に示す加工画面30には長袖カットソーの画像が原画像32として表示されている。なお、
図3は初期状態の加工画面30を示している。初期状態の加工画面30には、加工されていない状態の原画像32が表示される。なお、本実施形態の場合、原画像32の背景部分(衣服以外の部分)は除去されている。背景部分の除去は、原画像32が加工画面30に表示される際に実行されるようにしてもよいし、あらかじめ背景部分が除去された画像がデータベース16に保存されていてもよい。
【0031】
また、加工画面30には、加工内容を指定するためのメニュー34(プルダウンメニュー)が表示されている。なお、メニュー34の代わりに、加工内容を指定するためのラジオボタン(オプションボタン)等が表示されるようにしてもよい。
【0032】
ユーザは、原画像32に対する加工内容をメニュー34において指定した後、その加工内容に対応する加工操作を行う。例えば、メニュー34では下記のような加工内容を指定できるようになっている。
(1)色の削除(色抜き)
(2)色の変更
(3)柄の削除
(4)柄の変更
(5)変形
【0033】
以下、上記の加工内容について説明する。
図4〜
図6は、原画像32に対して加工が施された場合の加工画面30の例について示している。
図4〜
図6に示す加工画面30には、原画像32に対して加工が施されてなる画像(以下「加工画像」と呼ぶ。)36が表示されている。
【0034】
「色の削除」について説明する。
図4は、原画像32のうちの袖部分の色が削除された場合について示している。袖部分の色を削除する場合、まず、ユーザはメニュー34において「色の削除」を選択する。その後、ユーザは袖部分の画素(すなわち、色を削除したい画素)を指し示すことによって、袖部分の色を削除する。例えば、袖以外の部分を重視し、袖部分の色を重視しないような場合にユーザは
図4に示すような加工を行う。
【0035】
「色の変更」について説明する。例えば、原画像32のうちの袖部分の色を変更する場合、まず、ユーザはメニュー34において「色の変更」を選択する。「色の変更」が選択されると、所望の色を選択するためのメニューが表示されるため、ユーザは所望の色を指定する。その後、ユーザは袖部分の画素(すなわち、色を変更したい画素)を指し示すことによって、袖部分の色を上記の所望の色に変更する。例えば、原画像32に写されている長袖カットソーの袖部分の色を所望の色に変えたような長袖カットソーの画像を検索したい場合にユーザは上記のような加工を行う。
【0036】
「柄の削除」について説明する。例えば、原画像32のうちの袖部分の柄を削除する場合、まず、ユーザはメニュー34において「柄の削除」を選択する。その後、ユーザは袖部分の画素(すなわち、柄を削除したい画素)を指し示すことによって、袖部分の柄を削除する。例えば、袖以外の部分を重視し、袖部分の柄を重視しないような場合にユーザは上記のような加工を行う。
【0037】
「柄の変更」について説明する。
図5は、原画像32のうちの袖部分の柄が変更された場合について示している。袖部分の柄を変更する場合、まず、ユーザはメニュー34において「柄の変更」を選択する。「柄の変更」が選択されると、柄を変更するためのメニューが表示され、ユーザは袖部分の柄を所望の柄に変更する。例えば、原画像32に写されている長袖カットソーの袖部分の柄を所望の柄に変えたような長袖カットソーの画像を検索したい場合にユーザは
図5に示すような加工を行う。
【0038】
「変形」について説明する。
図6は、原画像32のうちの袖部分を変形した場合について示している。
図6に示す加工画面30では、袖部分が上方向に縮ませるようにして変形されている。袖部分を変形する場合、まず、ユーザはメニュー34において「変形」を選択する。その後、ユーザは袖部分(すなわち、変形したい部分)を囲むような領域を指定し、該領域を例えば上方向に縮ませるようにして該領域を変形させることによって、袖部分を変形させる。例えば、原画像32に写されている長袖カットソーと同様の色及び柄を有するような半袖カットソーを検索したい場合にユーザは
図6に示すような加工を行う。
【0039】
なお、加工画面30では、以上に説明した加工内容のいずれか一つしか行えないわけではなく、以上に説明した加工内容のうちの複数を行うことが可能である。例えば、「変形」を行った後に「色の削除」を行うことも可能である。
【0040】
加工画面30においてユーザが加工を完了し、検索指示操作を行うと、加工画像36と類似する画像が検索される。そして、検索結果画面が表示部25に表示される(S103)。
【0041】
図7は検索結果画面の一例を示す。なお、
図7は、原画像32の袖部分の色が削除されてなる加工画像36(
図4参照)に基づいて画像検索が実行された場合の検索結果画面40を示している。
【0042】
図7に示す検索結果画面40は、加工画像36と類似する画像として8個の画像42A,42B,42C,42D,42E,42F,42G,42Hが見つかったことを示している。なお、
図7では画像42D,42E,42F,42Gを省略している。
【0043】
検索結果画面40では、検索結果として得られた画像42A〜42Hが出力順序に従って表示される。検索結果画面40では出力順序の高い画像から順に表示されるようになっている。このため、画像42Aは出力順序が最も高い画像であり、画像42Hは出力順序が最も低い画像である。なお、画像42Hは原画像32(すなわち、加工が施される前の画像)である。すなわち、原画像32の出力順序が最も低く設定されている。
【0044】
画像検索システム1では、原画像32(すなわち、加工が施される前の画像)との類似度が低い画像ほど、出力順序が高くなるようにして、画像42A〜42Hの出力順序が設定されるようになっている。ユーザが原画像32をあえて加工して画像検索を行った場合、原画像32はユーザが見つけたいと思っている画像ではなく、また、原画像32との類似度が高い画像もユーザが見つけたいと思っている画像ではない可能性が高い。この点、画像検索システム1では以上のようにして出力順序が設定されていることによって、原画像32自体や、原画像32との類似度が高い画像が優先的に表示されないようになっている。
【0045】
検索結果画面40に表示される画像42A〜42Hのうちのいずれかをユーザが選択すると、その画像に写されている商品(衣服)の詳細情報を示す商品画面が表示される(S104)。例えば商品画面では商品を購入することができるようになっている。
【0046】
ここで、以上に説明したような画像検索機能を実現するための構成について説明する。
図8は、画像検索システム1において実現される機能を示す機能ブロック図である。
図8に示すように、画像検索システム1は、原画像取得部50、受付部52、検索条件設定部54、検索部56、及び出力制御部58を含む。
【0047】
例えば、これらの機能ブロックはサーバ10又はユーザ端末20において実現される。例えば、原画像取得部50、受付部52、及び検索条件設定部54はユーザ端末20において実現され、検索部56及び出力制御部58はサーバ10において実現される。すなわち、ユーザ端末20の制御部21がプログラムに従って処理を実行することによって、制御部21が原画像取得部50、受付部52、及び検索条件設定部54として機能するようになる。また、サーバ10の制御部11がプログラムに従って処理を実行することによって、制御部11が検索部56及び出力制御部58として機能するようになる。
【0048】
原画像取得部50は、画像検索に用いるための原画像32を取得する。本実施形態の場合、原画像取得部50は、原画像選択画面においてユーザによって選択された原画像32を取得する。
【0049】
受付部52は、原画像32のうちの加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付ける。本実施形態の場合、受付部52は加工画面30を表示部25に表示することによって、原画像32の一部領域に対する加工を受け付ける。すなわち、受付部52は、原画像32の一部領域に対する加工を受け付けることによって、原画像32のうちの加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付ける。
【0050】
なお、加工画面30では、ユーザに原画像32を実際に加工させることによって、加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようになっていたが、受付部52は、ユーザに原画像32を実際に加工させることなく、加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようにしてもよい。
【0051】
検索条件設定部54は、ユーザによって指定された加工内容の加工が原画像32の一部領域に施されてなる加工画像36の非加工領域に関する複数種類の特徴情報と、加工画像36の加工領域に関する複数種類の特徴情報のうちの、加工領域に施された加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、加工画像36と同一又は類似の画像を検索するための検索条件を設定する。
【0052】
ここで、「加工領域」とは、加工の対象として指定された部分(すなわち、加工が施された部分)を含む領域である。また、「非加工領域」とは加工領域以外の領域である。
図9は加工領域及び非加工領域について説明するための図である。
図9は、袖部分が加工の対象として指定された場合(すなわち、袖部分に対して加工が施された場合)の加工領域及び非加工領域について示している。
図9に示すように、袖部分が加工の対象として指定された場合には、袖部分を含む矩形領域が加工領域60として設定される。また、加工領域60以外の領域が非加工領域62として設定される。
【0053】
検索条件設定部54は、加工画像36の非加工領域62に関する複数種類の特徴情報を取得する。ここで、「複数種類の特徴情報」とは、例えば下記のような特徴情報である。なお、これらの特徴情報を抽出する方法としては公知の方法を採用することができる。
(1)色に関する特徴情報(特徴値)
(2)柄に関する特徴情報(特徴値)
(3)形状に関する特徴情報(特徴値)
【0054】
また検索条件設定部54は、加工画像36の加工領域60に関する複数種類の特徴情報のうちの、加工領域60に施された加工内容に基づいて選択される少なくとも一つの特徴情報を取得する。
【0055】
この場合の「複数種類の特徴情報」も、例えば上記(1)〜(3)のような特徴情報である。検索条件設定部54は、加工画像36の加工領域60に関する上記(1)〜(3)の特徴情報のうちから、画像検索に用いる特徴情報を、加工領域60に対する加工内容に基づいて選択する。
【0056】
図10は、加工領域60に対する加工内容と、画像検索に用いる加工領域60の特徴情報と、の対応関係の一例を示している。
【0057】
なお、
図10の「加工領域に対する加工内容」欄における丸印は、加工領域60に対する加工内容として指定された加工内容(すなわち、加工領域60に施された加工内容)を示している。また、
図10の「画像検索に用いる加工領域の特徴情報」欄において、丸印は特徴情報が画像検索に用いられることを示しており、空欄は特徴情報が画像検索に用いられないことを示している。
【0058】
例えば、
図10の(A)の場合、「加工領域に対する加工内容」欄において「色−削除」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の削除」が指定された場合を示している。また、
図10の(A)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「柄」欄及び「形状」欄に丸印が付されており、「色」欄は空欄になっている。これは、加工領域60の柄及び形状に関する特徴情報が画像検索に用いられ、加工領域60の色に関する特徴情報は画像検索に用いられないことを示している。
【0059】
その結果、例えば
図4に示すように袖部分の色が削除された場合、加工領域60に関する上記(1)〜(3)の特徴情報のうち、柄及び形状に関する特徴情報のみを画像検索に用い、色に関する特徴情報を画像検索に用いないようになっている。例えば、ユーザが袖部分の色を削除した場合とはユーザが袖部分の色を指定していない場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いないようになっている。また、ユーザが袖部分の柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。同様に、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の柄及び形状に関する特徴情報を画像検索に用いるようになっている。
【0060】
また例えば、
図10の(B)の場合、「加工領域に対する加工内容」欄において「色−削除」欄及び「形状」欄に丸印が付されている。このため、
図10の(B)は、加工領域60に対する加工内容として「色の削除」及び「変形」が指定された場合を示している。また
図10の(B)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「柄」欄及び「形状」欄に丸印が付されており、「色」欄は空欄になっている。これは、加工領域60の柄及び形状に関する特徴情報が画像検索に用いられ、加工領域60の色に関する特徴情報は画像検索に用いられないことを示している。
【0061】
ユーザが袖部分の色を削除し、かつ、袖部分を変形した場合とは、ユーザが袖部分の色を指定していない場合であって、かつ、袖部分の形状を指定した場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いないようになっており、一方、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いるようになっている。
【0062】
また例えば、
図10の(C)の場合、「加工領域に対する加工内容」欄において「柄−削除」欄に丸印が付されている。これは、加工領域60に対する加工内容として「柄の削除」が指定された場合を示している。また
図10の(C)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄及び「形状」欄に丸印が付されており、「柄」欄は空欄になっている。これは、加工領域60の色及び形状に関する特徴情報が画像検索に用いられ、加工領域60の柄に関する特徴情報は画像検索に用いられないことを示している。
【0063】
ユーザが袖部分の柄を削除した場合とはユーザが袖部分の柄を指定していない場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いないようになっている。また、ユーザが袖部分の色を削除したり、変更したりしなかった場合とは、ユーザが原画像32に写されている袖部分と同一又は類似の色の袖部分を有する衣服を検索したいと考えている場合である。同様に、ユーザが袖部分を変形しなかった場合とは、ユーザが原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服を検索したいと考えている場合である。このため、加工領域60の色及び形状に関する特徴情報を画像検索に用いるようになっている。
【0064】
また例えば、
図10の(D)の場合、「加工領域に対する加工内容」欄において「柄−削除」欄及び「変形」欄に丸印が付されている。これは、加工領域60に対する加工内容として「柄の削除」及び「変形」が指定された場合を示している。また
図10の(D)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄及び「形状」欄に丸印が付されており、「柄」欄は空欄になっている。これは、加工領域60の色及び形状に関する特徴情報が画像検索に用いられ、加工領域60の柄に関する特徴情報は画像検索に用いられないことを示している。
【0065】
ユーザが袖部分の柄を削除し、かつ、袖部分を変形した場合とは、ユーザが袖部分の柄を指定していない場合であって、かつ、袖部分の形状を指定した場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いないようになっており、一方、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の色を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の色の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いるようになっている。
【0066】
また例えば、
図10の(E)の場合、「加工領域に対する加工内容」欄において「色−削除」欄と「柄−削除」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の削除」及び「柄の削除」が指定された場合を示している。また
図10の(E)の場合、「形状」欄のみに丸印が付されており、「色」及び「柄」欄は空欄になっている。これは、加工領域60の形状に関する特徴情報のみが画像検索に用いられ、加工領域60の色及び柄に関する特徴情報が画像検索に用いられないことを示している。
【0067】
ユーザが袖部分の色及び柄を削除した場合とは、ユーザが袖部分の色及び柄を指定していない場合である。このため、加工領域60の色及び柄に関する特徴情報を画像検索に用いないようになっている。また、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。
【0068】
また例えば、
図10の(F)の場合、「加工領域に対する加工内容」欄において「色−削除」欄、「柄−削除」、及び「変形」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の削除」、「柄の削除」、及び「変形」が指定された場合を示している。また
図10の(F)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「形状」欄に丸印が付されており、「色」及び「柄」欄は空欄になっている。これは、加工領域60の形状に関する特徴情報が画像検索に用いられ、加工領域60の色及び柄に関する特徴情報が画像検索に用いられないことを示している。
【0069】
ユーザが袖部分の色及び柄を削除し、かつ、袖部分を変形した場合とは、ユーザが袖部分の色及び柄を指定していない場合であって、かつ、袖部分の形状を指定した場合である。このため、加工領域60の色及び柄に関する特徴情報を画像検索に用いないようになっており、一方、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。
【0070】
なお、
図10に示す対応関係では、以上に説明した場合以外の場合((G)〜(M))には、加工領域60の色、柄、及び形状に関する特徴情報が画像検索に用いられるようになっている。
【0071】
例えば、
図10の(G)の場合、「加工領域に対する加工内容」欄において「色−変更」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の変更」が指定された場合を示している。また
図10の(G)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄、「柄」欄、及び「形状」欄に丸印が付されている。
【0072】
ユーザが袖部分の色を変更した場合とはユーザが袖部分の色を積極的に指定した場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の柄に関する特徴情報も画像検索に用いるようになっている。同様に、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の形状に関する特徴情報も画像検索に用いるようになっている。
【0073】
また例えば、
図10の(H)の場合、「加工領域に対する加工内容」欄において「柄−変更」欄に丸印が付されている。これは、加工領域60に対する加工内容として「柄の変更」が指定された場合を示している。また
図10の(H)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄、「柄」欄、及び「形状」欄に丸印が付されている。
【0074】
その結果、例えば
図5に示すように袖部分の柄が変更された場合、加工領域60に関する上記(1)〜(3)の特徴情報のすべてを画像検索に用いるようになっている。例えば、ユーザが袖部分の柄を変更した場合とはユーザが袖部分の柄を積極的に指定した場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の色を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の色の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の色に関する特徴情報も画像検索に用いるようになっている。同様に、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の形状に関する特徴情報も画像検索に用いるようになっている。
【0075】
さらに例えば、
図10の(I)の場合、「加工領域に対する加工内容」欄において「変形」欄に丸印が付されている。これは、加工領域60に対する加工内容として「変形」が指定された場合を示している。また
図10の(I)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄、「柄」欄、及び「形状」欄に丸印が付されている。
【0076】
その結果、例えば
図6に示すように袖部分を変形させた場合には、加工領域60に関する上記(1)〜(3)の特徴情報のすべてを画像検索に用いるようになっている。例えば、ユーザが袖部分を変形した場合とはユーザが袖部分の形状を積極的に指定した場合である。このため、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の色及び柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の色及び柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の色及び柄に関する特徴情報も画像検索に用いるようになっている。
【0077】
なお、
図10の(J)〜(M)の場合も、
図10の(G)〜(I)と同様の理由により、加工領域60に関する上記(1)〜(3)の特徴情報のすべてを画像検索に用いるようになっている。
【0078】
ところで、加工領域60に対する加工内容として「色の削除」が指定された場合、ユーザは色だけでなく柄も指定するつもりがないと考えることができる場合もある。このため、加工領域60に対する加工内容として「色の削除」が指定された場合(例えば
図10の(A)及び(B))には、加工領域60の色に関する特徴情報だけでなく、加工領域60の柄に関する特徴情報も画像検索に用いないようにしてもよい。
【0079】
検索部56は、検索条件設定部54によって設定された検索条件に基づいて、加工画像36と同一又は類似の画像を検索する。詳細については後述する(
図12参照)。
【0080】
出力制御部58は、検索部56の検索結果を出力部に出力させる。本実施形態の場合、出力制御部58は検索結果画面40を表示部25に表示させる。
【0081】
また本実施形態の場合、出力制御部58(出力順序設定手段)は、検索部56によって検索された画像と、原画像32(すなわち、加工が施されていない元々の画像)と、の類似度に基づいて、検索部56によって検索された画像の出力順序を設定する。そして、出力制御部58は、検索部56によって検索された画像を該出力順序に従って出力部に出力させる。
【0082】
例えば、出力制御部58(出力順序設定手段)は、原画像32との類似度が低い画像の出力順序を、原画像32との類似度が高い画像の出力順序よりも高く設定する。
【0083】
例えば、検索部56によって検索された画像に第1の画像と第2の画像が含まれ、かつ、原画像32と第1の画像との類似度が、原画像32と第2の画像との類似度よりも低い場合、出力制御部58は、第1の画像の出力順序を第2の画像の出力順序よりも高く設定する。言い換えれば、出力制御部58は、第2の画像の出力順序を第1の画像の出力順序よりも下げる。
【0084】
次に、画像検索システム1で実行される処理について説明する。
図11は、加工画面30において原画像32に対する加工が完了され、ユーザによって検索指示操作が行われた場合に実行される処理の一例を示すフロー図である。ユーザ端末20の制御部21がプログラムに従って
図11に示す処理を実行することによって、制御部11が検索条件設定部54として機能するようになる。また、サーバ10の制御部11がプログラムに従って
図11に示す処理を実行することによって、制御部11が検索部56及び出力制御部58として機能するようになる。
【0085】
加工画面30において原画像32に対する加工が完了され、ユーザによって検索指示操作が行われた場合、
図11に示すように、ユーザ端末20の制御部21は、加工画面30において行われた加工内容に基づいて、加工画像36の加工領域60及び非加工領域62を特定する(S201)。
【0086】
その後、制御部21は加工画像36の非加工領域62に関する特徴情報を取得する(S202)。例えば、制御部21は、非加工領域62の色、柄、及び形状に関する特徴情報を取得する。
【0087】
また、制御部21は加工画像36の加工領域60に関する特徴情報を取得する(S203)。例えば、制御部21は、加工領域60に対して施された加工内容と、
図10に示す対応関係と、に基づいて、加工領域60の色、柄、及び形状に関する特徴情報のうちの少なくとも一つを取得する。
【0088】
その後、制御部21はサーバ10に画像検索の実行を要求する(S204)。例えば、制御部21は下記に示すような情報をサーバ10に送信する。
・原画像32の識別情報
・加工領域60及び非加工領域62を示す情報
・加工領域60に関する特徴情報
・非加工領域62に関する特徴情報
【0089】
上記の要求がサーバ10で受け付けられた場合、サーバ10の制御部11は、ユーザ端末20から受信した情報に基づいて画像検索を実行する(S205)。
【0090】
ステップS205では、データベース16に記憶された各画像が加工画像36との比較対象として設定され、例えば
図12に示すような処理が実行される。なお、本実施形態の場合、
図12に示す処理を実行する際に、比較対象画像の背景部分(衣服以外の部分)は除去される。あるいは、あらかじめ背景部分が除去された画像がデータベース16に保存されている。
【0091】
すなわち、制御部11は、加工画像36との比較対象として設定された画像(比較対象画像)の非加工領域62の特徴情報を取得する(S301)。なお、ここで、「比較対象画像の非加工領域62」とは、加工画像36の非加工領域62に対応する、比較対象画像の領域のことを意味している。
【0092】
その後、制御部11は、加工画像36の非加工領域62の特徴情報と、比較対象画像の非加工領域62の特徴情報との類似度(第1類似度)を算出する(S302)。すなわち、制御部11は、加工画像36の非加工領域62の色、柄、及び形状に関する特徴情報と、比較対象画像の非加工領域62の色、柄、及び形状に関する特徴情報とを比較することによって上記の類似度を算出する。
【0093】
そして、制御部11は、ステップS302で算出された類似度が閾値(第1基準類似度)以上であるか否かを判定する(S303)。類似度が閾値以上でない場合、制御部11は比較対象画像と加工画像36とは類似しないと判定する。
【0094】
ステップS302で算出された類似度が閾値以上である場合、制御部11は、比較対象画像の加工領域60の特徴情報を取得する(S304)。なお、ここで、「比較対象画像の加工領域60」とは、加工画像36の加工領域60に対応する、比較対象画像の領域のことを意味している。
【0095】
その後、制御部11は、加工画像36の加工領域60の特徴情報と、比較対象画像の加工領域60の特徴情報との類似度(第2類似度)を算出する(S305)。
【0096】
例えば、加工画像36が、原画像32の加工領域60に対して「色の削除」の加工を施してなる画像である場合には、
図10の(A)に示したように、加工画像36の加工領域60の柄及び形状に関する特徴情報が用いられ、加工画像36の加工領域60の色に関する特徴情報が用いられない。このため、加工画像36の加工領域60の柄及び形状に関する特徴情報と、比較対象画像の加工領域60の柄及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0097】
また例えば、加工画像36が、原画像32の加工領域60に対して「柄の削除」の加工を施してなる画像である場合には、
図10の(C)に示したように、加工画像36の加工領域60の色及び形状に関する特徴情報が用いられ、加工画像36の加工領域60の柄に関する特徴情報が用いられない。このため、加工画像36の加工領域60の色及び形状に関する特徴情報と、比較対象画像の加工領域60の色及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0098】
また例えば、加工画像36が、原画像32の加工領域60に対して「色の削除」及び「柄の削除」の加工を施してなる画像である場合には、
図10の(E)に示したように、加工画像36の加工領域60の形状に関する特徴情報のみが用いられ、加工画像36の加工領域60の色及び柄に関する特徴情報が用いられない。このため、加工画像36の加工領域60の形状に関する特徴情報と、比較対象画像の加工領域60の形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0099】
また例えば、加工画像36が、原画像32の加工領域60に対して「柄の変更」の加工のみを施してなる画像である場合には、
図10の(H)に示したように、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報が用いられる。このため、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報と、比較対象画像の加工領域60の色、柄、及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0100】
また例えば、加工画像36が、原画像32の加工領域60に対して「変形」の加工を施してなる画像である場合には、
図10の(I)に示したように、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報が用いられる。このため、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報と、比較対象画像の加工領域60の色、柄、及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0101】
ステップS305の処理が実行された後、制御部11は、ステップS305で算出された類似度が閾値(第2基準類似度)以上であるか否かを判定する(S306)。なお、このステップS306における閾値(第2基準類似度)はステップS303における閾値(第1基準類似度)よりも低く設定される。すなわち、加工領域60に関しては非加工領域62に比べて緩めの検索が実行される。つまり、ユーザがあえて加工した部分に関しては比較的緩めの検索が実行され、なるべく多くの検索結果をユーザに提示できるようになっている。
【0102】
ステップS305で算出された類似度が閾値以上でない場合、制御部11は比較対象画像と加工画像36とは類似しないと判定する。
【0103】
一方、ステップS305で算出された類似度が閾値以上である場合、制御部11は比較対象画像と加工画像36とが類似すると判定する(S307)。また、この場合、制御部11は、比較対象画像と、原画像32(すなわち、加工が施されていない元々の画像)と、の類似度を取得する(S308)。例えば、制御部11は、比較対象画像の特徴情報と、原画像32の特徴情報とを比較することによって上記の類似度を算出する。このステップS308で算出された類似度は、比較対象画像を検索結果画面40に表示する場合の出力順序を決定するために用いられる。
【0104】
図11に示すように、画像検索(ステップS205)が実行された後、制御部11は検索結果をユーザ端末20に送信する(S206)。すなわち、制御部11は、ステップS205において検索された画像(すなわち、ステップS307において加工画像36と類似すると判定された画像)のリストを示すデータをユーザ端末20に送信することによって、検索結果画面をユーザ端末20の表示部25に表示させる。なお、この場合、制御部11は、ステップS205において検索された画像の出力順序を、ステップS308において取得された類似度に基づいて設定する。すなわち、ステップS308において取得された類似度が低い画像ほど、出力順序が高く設定される。
【0105】
検索結果がユーザ端末20で受信された場合、ユーザ端末20の制御部21は検索結果画面を表示部25に表示する(S207)。以上で
図11に示す処理の説明を終了する。
【0106】
以上説明した画像検索システム1によれば、原画像32の特定部分が異なるような画像を検索できるようになる。例えば、衣服画像(原画像32)の袖部分の色、柄、及び形状の少なくとも一つが異なるような衣服画像を検索できるようになる。
【0107】
なお、本発明は以上に説明した実施形態に限定されるものではない。
【0108】
[1]例えば、原画像32(すなわち、加工が施されていない元々の画像)が検索部56の検索結果に含まれる場合であっても、原画像32を検索結果画面40に表示しないようにしてもよい。
【0109】
ユーザが原画像32をあえて加工して画像検索を行った場合、原画像32はユーザが見つけたいと思っている画像ではない。この点、以上のようにすれば、ユーザによって必要でない画像が検索結果画面40に表示されないようになる。
【0110】
[2]また例えば、加工画像36の非加工領域62と原画像32の非加工領域62とは同一であるため、加工画像36の非加工領域62の特徴情報を取得する代わりに、原画像32の非加工領域62の特徴情報を取得するようにしてもよい。
【0111】
[3]加工画面30では、ユーザに原画像32を実際に加工させることによって、原画像32のうちの加工の対象とする一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようになっていたが、受付部52は、ユーザに原画像32を実際に加工させることなく、原画像32のうちの加工の対象とする一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようにしてもよい。
【0112】
例えば、ユーザがメニュー34から「色の削除」を選択し、さらに、袖部分の領域を指定したら、受付部52は、「袖部分の色の削除」が指定されたと判断するようにしてもよい。同様に、例えば、ユーザがメニュー34から「柄の削除」を選択し、さらに、袖部分の領域を指定したら、受付部52は、「袖部分の柄の削除」が指定されたと判断するようにしてもよい。
【0113】
[4]例えば、検索条件設定部54は、原画像32の非加工領域62に関する複数種類の特徴情報と、原画像32の加工領域60に関する複数種類の特徴情報のうちの、加工領域60に対する加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、原画像32と類似の画像を検索するための検索条件を設定するようにしてもよい。
【0114】
例えば、袖部分に対する加工内容として「色の削除」が指定された場合、検索条件設定部54は、原画像32の非加工領域62の色、柄、及び形状に関する特徴情報と、原画像32の加工領域60の柄、及び形状に関する特徴情報と、に基づいて、原画像32と類似の画像を検索するための検索条件を設定するようにしてもよい。
【0115】
この場合、
図11のステップS202において、制御部21は原画像32の非加工領域62に関する特徴情報を取得する。例えば、制御部21は、原画像32の非加工領域62の色、柄、及び形状に関する特徴情報を取得する。また、ステップS203において、制御部21は原画像32の加工領域60に関する特徴情報を取得する。例えば、制御部21は、加工領域60に対する加工内容として指定された加工内容と、
図10に示す対応関係と、に基づいて、原画像32の加工領域60の色、柄、及び形状に関する特徴情報のうちの少なくとも一つを取得する。例えば、袖部分に対する加工内容として「色の削除」が指定された場合(
図10の(A))であれば、制御部21は、原画像32の加工領域60の柄及び形状に関する特徴情報を取得する。
【0116】
また、
図12のステップS302において、制御部11は、原画像32の非加工領域62の特徴情報と、比較対象画像の非加工領域62の特徴情報との類似度(第1類似度)を算出する。また、ステップS305において、制御部11は、原画像32の加工領域60の特徴情報と、比較対象画像の加工領域60の特徴情報との類似度(第2類似度)を算出する。例えば、袖部分に対する加工内容として「色の削除」が指定された場合(
図10の(A))であれば、制御部11は、原画像32の加工領域60の柄及び形状に関する特徴情報と、比較対象画像の加工領域60の柄及び形状に関する特徴情報との類似度を算出する。
【0117】
このようにしても、例えば、衣服画像(原画像32)の胴体部分(袖以外の部分)と同一又は類似の色、柄、及び形状の胴体部分を有し、かつ、衣服画像(原画像32)の袖部分と同一又は類似の柄及び形状の袖部分を有するような衣服画像を検索できるようになる。
【0118】
同様に、袖部分に対する加工内容として「柄の削除」が指定された場合(
図10の(C))であれば、ステップS203において、制御部21は、原画像32の加工領域60の色及び形状に関する特徴情報を取得するようにしてもよい。また、ステップS305において、制御部11は、原画像32の加工領域60の色及び形状に関する特徴情報と、比較対象画像の加工領域60の色及び形状に関する特徴情報との類似度を算出するようにしてもよい。このようにしても、例えば、衣服画像(原画像32)の胴体部分(袖以外の部分)と同一又は類似の色、柄、及び形状の胴体部分を有し、かつ、衣服画像(原画像32)の袖部分と同一又は類似の色及び形状の袖部分を有するような衣服画像を検索できるようになる。
【0119】
さらに、袖部分に対する加工内容として「色の削除」及び「柄の削除」が指定された場合(
図10の(E))であれば、ステップS203において、制御部21は、原画像32の加工領域60の形状に関する特徴情報のみを取得するようにしてもよい。また、ステップS305において、制御部11は、原画像32の加工領域60の形状に関する特徴情報と、比較対象画像の加工領域60の形状に関する特徴情報との類似度を算出するようにしてもよい。このようにしても、例えば、衣服画像(原画像32)の胴体部分(袖以外の部分)と同一又は類似の色、柄、及び形状の胴体部分を有し、かつ、衣服画像(原画像32)の袖部分と同一又は類似の形状の袖部分を有するような衣服画像を検索できるようになる。
【0120】
なお、加工画像36の非加工領域62と原画像32の非加工領域62とは同一であるため、以上に説明した変形例[4]では、原画像32の非加工領域62の特徴情報を取得する代わりに、加工画像36の非加工領域62の特徴情報を取得するようにしてもよい。
【0121】
[5]また例えば、検索部56及び出力制御部58はユーザ端末20において実現されるようにしてもよい。すなわち、ユーザ端末20がデータベース16に直接アクセスするようにしてもよい。また、検索条件設定部54はサーバ10において実現されるようにしてもよい。
【0122】
[6]また例えば、データベース16に記憶される画像を細かいブロックに分割し、各ブロックごとに予め算出された特徴情報をデータベース16に記憶しておくようにしてもよい。そして、
図12のステップS301,S304では、データベース16に記憶されたブロックごとの特徴情報に基づいて、比較対象画像の特徴情報が取得されるようにしてもよい。こうすることによって処理負荷を軽減するようにしてもよい。
【0123】
[7]以上では、衣服画像を検索する場合を例として説明したが、本発明は、衣服画像以外の画像を検索する場合にも適用することができる。例えば、料理画像を検索する場合にも適用することができる。