特許第5788996号(P5788996)IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 楽天株式会社の特許一覧

特許5788996画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体
<>
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000002
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000003
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000004
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000005
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000006
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000007
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000008
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000009
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000010
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000011
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000012
  • 特許5788996-画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体 図000013
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】5788996
(24)【登録日】2015年8月7日
(45)【発行日】2015年10月7日
(54)【発明の名称】画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体
(51)【国際特許分類】
   G06F 17/30 20060101AFI20150917BHJP
【FI】
   G06F17/30 330Z
   G06F17/30 350C
   G06F17/30 170B
【請求項の数】16
【全頁数】24
(21)【出願番号】特願2013-551170(P2013-551170)
(86)(22)【出願日】2011年12月29日
(86)【国際出願番号】JP2011080535
(87)【国際公開番号】WO2013099038
(87)【国際公開日】20130704
【審査請求日】2014年6月27日
【早期審査対象出願】
(73)【特許権者】
【識別番号】399037405
【氏名又は名称】楽天株式会社
(74)【代理人】
【識別番号】110000154
【氏名又は名称】特許業務法人はるか国際特許事務所
(72)【発明者】
【氏名】小池 宏幸
【審査官】 田中 秀樹
(56)【参考文献】
【文献】 国際公開第2007/101114(WO,A1)
【文献】 特開平11−212990(JP,A)
【文献】 特開2000−163576(JP,A)
【文献】 堀越 力,手書きスケッチ操作による三次元モデルの入力と立体形状検索への応用,情報処理学会論文誌,日本,社団法人情報処理学会,1994年 9月15日,第35巻 第9号,P.1750-1758
(58)【調査した分野】(Int.Cl.,DB名)
G06F 17/30
(57)【特許請求の範囲】
【請求項1】
原画像の一部領域に対する加工内容を取得する手段と、
前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちから、前記加工内容に色の削除及び柄の削除の少なくとも一方が含まれるか否かに基づいて選択される一部の種類の特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段と、
を含むことを特徴とする画像検索装置。
【請求項2】
請求項1に記載の画像検索装置において、
前記画像検索の検索結果を出力手段に出力させる出力制御手段を含み、
前記出力制御手段は、前記画像検索の検索結果に前記原画像が含まれる場合において、前記原画像を前記画像検索の検索結果として前記出力手段に出力させない、
ことを特徴とする画像検索装置。
【請求項3】
原画像の一部領域に加工が施されてなる加工画像と同一又は類似の画像を検索する画像検索の検索結果を出力手段に出力させる出力制御手段を含み、
前記出力制御手段は、
前記画像検索によって検索された、前記加工画像と同一又は類似の画像と、前記原画像と、の類似度に基づいて、前記画像検索によって検索された、前記加工画像と同一又は類似の画像の出力順序を設定する出力順序設定手段と、
前記画像検索によって検索された、前記加工画像と同一又は類似の画像を前記出力順序に従って前記出力手段に出力させる手段と、を含み、
前記出力順序設定手段は、前記画像検索によって検索された、前記加工画像と同一又は類似の画像のうちで、前記原画像との類似度が低い画像の出力順序を、前記原画像との類似度が高い画像の出力順序よりも高く設定する、
ことを特徴とする画像検索装置。
【請求項4】
原画像の一部領域に施された加工内容に基づいて、画像検索を実行する検索手段を含み、
前記検索手段は、対象画像が、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像と同一又は類似の画像であるか否かを判定する判定手段を含み、前記加工画像と同一又は類似の画像を検索し、
前記判定手段は、
前記加工画像又は前記原画像の前記一部領域以外の前記領域に関する複数種類の特徴情報と、前記加工画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定する手段と、
前記加工画像の前記一部領域に関する少なくとも一つの特徴情報と、前記加工画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定する手段と、を含み、
前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記加工画像と同一又は類似の画像であると判定する、
ことを特徴とする画像検索装置。
【請求項5】
原画像の一部領域に施された加工内容に基づいて、画像検索を実行する検索手段を含み、
前記検索手段は、対象画像が前記原画像と類似の画像であるか否かを判定する判定手段を含み、前記原画像と類似の画像を検索し、
前記判定手段は、
前記原画像の前記一部領域以外の前記領域に関する複数種類の特徴情報と、前記原画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定する手段と、
前記原画像の前記一部領域に関する少なくとも一つの特徴情報と、前記原画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定する手段と、を含み、
前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記原画像と類似の画像であると判定する、
ことを特徴とする画像検索装置。
【請求項6】
画像検索装置によって実行される画像検索方法において、
前記画像検索装置が、原画像の一部領域に対する加工内容を取得するステップと、
前記画像検索装置が、前記加工内容の加工が前記原画像の前記一部領域に施されてなる
加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちから、前記加工内容に色の削除及び柄の削除の少なくとも一方が含まれるか否かに基づいて選択される一部の種類の特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定ステップと、
を含むことを特徴とする画像検索方法。
【請求項7】
画像検索装置によって実行される画像検索方法において、
前記画像検索装置が、原画像の一部領域に加工が施されてなる加工画像と同一又は類似の画像を検索する画像検索の検索結果を出力手段に出力させる出力制御ステップを含み、
前記出力制御ステップは、
前記画像検索によって検索された、前記加工画像と同一又は類似の画像と、前記原画像と、の類似度に基づいて、前記画像検索によって検索された、前記加工画像と同一又は類似の画像の出力順序を設定する出力順序設定ステップと、
前記画像検索によって検索された、前記加工画像と同一又は類似の画像を前記出力順序に従って前記出力手段に出力させるステップと、を含み、
前記出力順序設定ステップでは、前記画像検索によって検索された、前記加工画像と同一又は類似の画像のうちで、前記原画像との類似度が低い画像の出力順序が、前記原画像との類似度が高い画像の出力順序よりも高く設定される、
ことを特徴とする画像検索方法。
【請求項8】
画像検索装置によって実行される画像検索方法において、
前記画像検索装置が、原画像の一部領域に施された加工内容に基づいて、画像検索を実行する検索ステップを含み、
前記検索ステップは、対象画像が、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像と同一又は類似の画像であるか否かを判定する判定ステップを含み、前記検索ステップでは、前記加工画像と同一又は類似の画像が検索され、
前記判定ステップは、
前記加工画像又は前記原画像の前記一部領域以外の前記領域に関する複数種類の特徴情報と、前記加工画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定するステップと、
前記加工画像の前記一部領域に関する少なくとも一つの特徴情報と、前記加工画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定するステップと、を含み、
前記判定ステップでは、前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記加工画像と同一又は類似の画像であると判定される、
ことを特徴とする画像検索方法。
【請求項9】
画像検索装置によって実行される画像検索方法において、
前記画像検索装置が、原画像の一部領域に施された加工内容に基づいて、画像検索を実行する検索ステップを含み、
前記検索ステップは、対象画像が前記原画像と類似の画像であるか否かを判定する判定ステップを含み、前記検索ステップでは、前記原画像と類似の画像が検索され、
前記判定ステップは、
前記原画像の前記一部領域以外の前記領域に関する複数種類の特徴情報と、前記原画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定するステップと、
前記原画像の前記一部領域に関する少なくとも一つの特徴情報と、前記原画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定するステップと、を含み、
前記判定ステップでは、前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記原画像と類似の画像であると判定される、
ことを特徴とする画像検索方法。
【請求項10】
原画像の一部領域に対する加工内容を取得する手段、及び、
前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちから、前記加工内容に色の削除及び柄の削除の少なくとも一方が含まれるか否かに基づいて選択される一部の種類の特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段、
としてコンピュータを機能させるためのプログラム。
【請求項11】
原画像の一部領域に加工が施されてなる加工画像と同一又は類似の画像を検索する画像検索の検索結果を出力手段に出力させる出力制御手段としてコンピュータを機能させるためのプログラムであって、
前記出力制御手段は、
前記画像検索によって検索された、前記加工画像と同一又は類似の画像と、前記原画像と、の類似度に基づいて、前記画像検索によって検索された、前記加工画像と同一又は類似の画像の出力順序を設定する出力順序設定手段と、
前記画像検索によって検索された、前記加工画像と同一又は類似の画像を前記出力順序に従って前記出力手段に出力させる手段と、を含み、
前記出力順序設定手段は、前記画像検索によって検索された、前記加工画像と同一又は類似の画像のうちで、前記原画像との類似度が低い画像の出力順序を、前記原画像との類似度が高い画像の出力順序よりも高く設定する、
ことを特徴とするプログラム。
【請求項12】
原画像の一部領域に施された加工内容に基づいて画像検索を実行する検索手段としてコンピュータを機能させるためのプログラムであって、
前記検索手段は、対象画像が、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像と同一又は類似の画像であるか否かを判定する判定手段を含み、前記加工画像と同一又は類似の画像を検索し、
前記判定手段は、
前記加工画像又は前記原画像の前記一部領域以外の前記領域に関する複数種類の特徴情報と、前記加工画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定する手段と、
前記加工画像の前記一部領域に関する少なくとも一つの特徴情報と、前記加工画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定する手段と、を含み、
前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記加工画像と同一又は類似の画像であると判定する、
ことを特徴とするプログラム。
【請求項13】
原画像の一部領域に施された加工内容に基づいて画像検索を実行する検索手段としてコンピュータを機能させるためのプログラムであって、
前記検索手段は、対象画像が前記原画像と類似の画像であるか否かを判定する判定手段を含み、前記原画像と類似の画像を検索し、
前記判定手段は、
前記原画像の前記一部領域以外の前記領域に関する複数種類の特徴情報と、前記原画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定する手段と、
前記原画像の前記一部領域に関する少なくとも一つの特徴情報と、前記原画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定する手段と、を含み、
前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記原画像と類似の画像であると判定する、
ことを特徴とするプログラム。
【請求項14】
原画像の一部領域に対する加工内容を取得する手段と、
前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちから、前記加工内容に基づいて選択される一部の種類の特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段と、
を含むことを特徴とする画像検索装置。
【請求項15】
画像検索装置によって実行される画像検索方法において、
前記画像検索装置が、原画像の一部領域に対する加工内容を取得するステップと、
前記画像検索装置が、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちから、前記加工内容に基づいて選択される一部の種類の特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定ステップと、
を含むことを特徴とする画像検索方法。
【請求項16】
原画像の一部領域に対する加工内容を取得する手段、及び、
前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちから、前記加工内容に基づいて選択される一部の種類の特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段、
としてコンピュータを機能させるためのプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体に関する。
【背景技術】
【0002】
原画像に類似する画像を検索するための画像検索システムが知られている(例えば特許文献1)。例えば、衣服画像に類似する衣服画像を検索するための画像検索システムが知られている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2011−138420号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
従来の画像検索システムでは、原画像の特定部分が異なるような画像を検索することが困難であった。例えば、衣服画像(原画像)に基づいて画像検索を行うような場合、袖部分の柄(模様)のみが異なるような衣服画像を検索することは困難であった。
【0005】
本発明は上記課題に鑑みてなされたものであって、その目的は、原画像の特定部分が異なるような画像を検索できるようになる画像検索システム、画像検索方法、画像検索装置、プログラム、及び情報記憶媒体を提供することにある。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明に係る画像検索システムは、原画像を取得する原画像取得手段と、前記原画像のうちの加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付ける受付手段と、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちの、前記加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、画像検索を実行する検索手段と、前記検索手段の検索結果を出力手段に出力させる出力制御手段と、を含むことを特徴とする。
【0007】
また、本発明に係る画像検索方法は、原画像を取得する原画像取得ステップと、前記原画像のうちの加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付ける受付ステップと、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像の前記一部領域に関する前記複数種類の特徴情報のうちの、前記加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、画像検索を実行する検索ステップと、前記検索ステップの検索結果を出力手段に出力させる出力制御ステップと、を含むことを特徴とする。
【0008】
また、本発明に係る画像検索装置は、原画像の一部領域に対する加工内容を取得する手段と、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像、又は、前記原画像、の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像又は前記原画像の前記一部領域に関する前記複数種類の特徴情報のうちの、前記加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段と、を含むことを特徴とする。
【0009】
また、本発明に係るプログラムは、原画像の一部領域に対する加工内容を取得する手段、及び、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像の前記一部領域に関する前記複数種類の特徴情報のうちの、前記加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段、としてコンピュータを機能させるためのプログラムである。
【0010】
また、本発明に係る情報記憶媒体は、原画像の一部領域に対する加工内容を取得する手段、及び、前記加工内容の加工が前記原画像の前記一部領域に施されてなる加工画像の前記一部領域以外の領域に関する複数種類の特徴情報と、前記加工画像の前記一部領域に関する前記複数種類の特徴情報のうちの、前記加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、画像検索のための検索条件を設定する検索条件設定手段、としてコンピュータを機能させるためのプログラムを記録したコンピュータ読み取り可能な情報記憶媒体である。
【0011】
また、本発明の一態様では、前記出力制御手段は、前記検索手段の検索結果に前記原画像が含まれる場合において、前記原画像を前記検索手段の検索結果として前記出力手段に出力させないようにしてもよい。
【0012】
また、本発明の一態様では、前記出力制御手段は、前記検索手段によって検索された画像と、前記原画像と、の類似度に基づいて、前記検索手段によって検索された画像の出力順序を設定する出力順序設定手段と、前記検索手段によって検索された画像を前記出力順序に従って出力手段に出力させる手段と、を含み、前記出力順序設定手段は、前記原画像との類似度が低い画像の出力順序を、前記原画像との類似度が高い画像の出力順序よりも高く設定するようにしてもよい。
【0013】
また、本発明の一態様では、前記検索手段は、対象画像が前記加工画像と同一又は類似の画像であるか否かを判定する判定手段を含み、前記加工画像と同一又は類似の画像を検索し、前記判定手段は、前記加工画像又は前記原画像の前記一部領域以外の前記領域に関する前記複数種類の特徴情報と、前記加工画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定する手段と、前記加工画像の前記一部領域に関する前記少なくとも一つの特徴情報と、前記加工画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定する手段と、を含み、前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記加工画像と同一又は類似の画像であると判定するようにしてもよい。
【0014】
また、本発明の一態様では、前記検索手段は、対象画像が前記原画像と類似の画像であるか否かを判定する判定手段を含み、前記原画像と類似の画像を検索し、前記判定手段は、前記原画像の前記一部領域以外の前記領域に関する前記複数種類の特徴情報と、前記原画像の前記一部領域以外の前記領域に対応する、前記対象画像の領域に関する前記複数種類の特徴情報と、の間の類似の程度を示す第1類似度が第1基準類似度以上であるか否かを判定する手段と、前記原画像の前記一部領域に関する前記少なくとも一つの特徴情報と、前記原画像の前記一部領域に対応する、前記対象画像の領域に関する前記少なくとも一つの特徴情報と、の間の類似の程度を示す第2類似度が、前記第1基準類似度よりも低い第2基準類似度以上であるか否かを判定する手段と、を含み、前記第1類似度が前記第1基準類似度以上であると判定され、かつ、前記第2類似度が前記第2基準類似度以上であると判定された場合に、前記対象画像が前記原画像と類似の画像であると判定するようにしてもよい。
【発明の効果】
【0015】
本発明によれば、原画像の特定部分が異なるような画像を検索できるようになる。
【図面の簡単な説明】
【0016】
図1】本発明の実施形態に係る画像検索システムの全体構成の一例を示す図である。
図2】画像検索を行う場合の画面遷移の一例を示す図である。
図3】加工画面の一例を示す図である。
図4】原画像に対する加工の一例について説明するための図である。
図5】原画像に対する加工の他の一例について説明するための図である。
図6】原画像に対する加工の他の一例について説明するための図である。
図7】検索結果画面の一例を示す図である。
図8】画像検索システムの機能ブロック図である。
図9】加工領域及び非加工領域について説明するための図である。
図10】加工領域に対する加工内容と、画像検索に用いる加工領域の特徴情報と、の対応関係の一例を示す図である。
図11】画像検索システムで実行される処理の一例を示すフロー図である。
図12】画像検索システムで実行される処理の一例を示すフロー図である。
【発明を実施するための形態】
【0017】
以下、本発明の実施形態の例について図面に基づき詳細に説明する。
【0018】
図1は、本発明の実施形態に係る画像検索システム1の全体構成の一例を示す。図1に示すように、本実施形態に係る画像検索システム1はサーバ10、データベース16、及びユーザ端末20を含む。サーバ10及びユーザ端末20は、例えばインターネット等を含んで構成される通信ネットワーク2に接続されており、サーバ10とユーザ端末20との間で相互にデータ通信が可能である。
【0019】
サーバ10は制御部11、主記憶部12、補助記憶部13、通信部14、及び光ディスクドライブ部15を含む。制御部11は例えば1又は複数のCPUを含み、補助記憶部13に記憶されたオペレーションシステム又はプログラムに従って情報処理を実行する。主記憶部12は例えばRAMであり、補助記憶部13は例えばハードディスク又はソリッドステートドライブである。通信部14は通信ネットワーク2を介してデータ通信を行うためのものである。光ディスクドライブ部15は、光ディスク(情報記憶媒体)に記録されたプログラムやデータを読み出すためのものである。
【0020】
例えば、プログラムやデータは光ディスク(情報記憶媒体)を介して補助記憶部13に供給される。すなわち、光ディスクに記憶されたプログラムやデータが光ディスクドライブ部15によって読み出され、補助記憶部13に記憶される。なお、サーバ10は、光ディスク以外の情報記憶媒体(例えばメモリカード)に記憶されたプログラム又はデータを読み出すための構成要素を含むようにしてもよい。そして、光ディスク以外の情報記憶媒体(例えばメモリカード)を介してプログラムやデータが補助記憶部13に供給されるようにしてもよい。また、プログラム及びデータは通信ネットワーク2を介して補助記憶部13に供給されるようにしてもよい。
【0021】
サーバ10はデータベース16にアクセスできるようになっている。データベース16には画像検索の対象となる多数の画像が記憶されている。なお、データベース16はサーバ10内に構築されるようにしてもよいし、サーバ10とは別のサーバ内に構築されるようにしてもよい。
【0022】
ユーザ端末20はユーザによって使用される情報処理装置である。ユーザ端末20は制御部21、主記憶部22、補助記憶部23、通信部24、表示部25、音声出力部26、及び操作部27を含む。制御部21、主記憶部22、補助記憶部23、及び通信部24はサーバ10の制御部11、主記憶部12、補助記憶部13、及び通信部14と同様である。
【0023】
例えば、プログラム及びデータは通信ネットワーク2を介して補助記憶部23に供給される。なお、ユーザ端末20は光ディスクドライブ部を備えるようにしてもよい。そして、プログラムやデータが光ディスク(情報記憶媒体)を介して補助記憶部23に供給されるようにしてもよい。また、ユーザ端末20は、光ディスク以外の情報記憶媒体(例えばメモリカード)に記憶されたプログラム又はデータを読み出すための構成要素を含むようにしてもよい。そして、光ディスク以外の情報記憶媒体(例えばメモリカード)を介してプログラムやデータが補助記憶部23に供給されるようにしてもよい。
【0024】
表示部25は例えば液晶ディスプレイ又は有機ELディスプレイ等であり、各種画面を表示する。音声出力部26は例えばスピーカ又はヘッドホン端子等であり、各種音声を出力する。
【0025】
操作部27はユーザが操作を行うためのものである。例えば、表示部25に表示される画面内の位置をユーザが指示するためのポインティングデバイスが操作部27として備えられる。例えば、表示部25の上に重ねて設けられるタッチパネルがユーザ端末20に備えられる。なお、タッチパネルの代わりに、例えばマウス又はスティック等がユーザ端末20に備えられるようにしてもよい。
【0026】
本実施形態に係る画像検索システム1は、原画像の特定部分が異なるような画像を検索できるようになっている。以下、この画像検索機能について説明する。なお以下では、衣服画像の特定部分が異なるような画像を検索する場合を例として説明する。
【0027】
図2は、画像検索を行う場合にユーザ端末20の表示部25に表示される画面の遷移の一例を説明するための図である。
【0028】
画像検索を行う場合、図2に示すように、まず原画像選択画面が表示部25に表示される(S101)。原画像選択画面は、画像検索に用いる原画像をデータベース16に記憶される画像のうちから選択するための画面である。
【0029】
原画像選択画面において原画像が選択されると、加工画面が表示部25に表示される(S102)。加工画面は原画像を加工するための画面である。
【0030】
図3は加工画面の一例を示す。加工画面30には、原画像選択画面において選択された原画像32が表示される。図3に示す加工画面30には長袖カットソーの画像が原画像32として表示されている。なお、図3は初期状態の加工画面30を示している。初期状態の加工画面30には、加工されていない状態の原画像32が表示される。なお、本実施形態の場合、原画像32の背景部分(衣服以外の部分)は除去されている。背景部分の除去は、原画像32が加工画面30に表示される際に実行されるようにしてもよいし、あらかじめ背景部分が除去された画像がデータベース16に保存されていてもよい。
【0031】
また、加工画面30には、加工内容を指定するためのメニュー34(プルダウンメニュー)が表示されている。なお、メニュー34の代わりに、加工内容を指定するためのラジオボタン(オプションボタン)等が表示されるようにしてもよい。
【0032】
ユーザは、原画像32に対する加工内容をメニュー34において指定した後、その加工内容に対応する加工操作を行う。例えば、メニュー34では下記のような加工内容を指定できるようになっている。
(1)色の削除(色抜き)
(2)色の変更
(3)柄の削除
(4)柄の変更
(5)変形
【0033】
以下、上記の加工内容について説明する。図4図6は、原画像32に対して加工が施された場合の加工画面30の例について示している。図4図6に示す加工画面30には、原画像32に対して加工が施されてなる画像(以下「加工画像」と呼ぶ。)36が表示されている。
【0034】
「色の削除」について説明する。図4は、原画像32のうちの袖部分の色が削除された場合について示している。袖部分の色を削除する場合、まず、ユーザはメニュー34において「色の削除」を選択する。その後、ユーザは袖部分の画素(すなわち、色を削除したい画素)を指し示すことによって、袖部分の色を削除する。例えば、袖以外の部分を重視し、袖部分の色を重視しないような場合にユーザは図4に示すような加工を行う。
【0035】
「色の変更」について説明する。例えば、原画像32のうちの袖部分の色を変更する場合、まず、ユーザはメニュー34において「色の変更」を選択する。「色の変更」が選択されると、所望の色を選択するためのメニューが表示されるため、ユーザは所望の色を指定する。その後、ユーザは袖部分の画素(すなわち、色を変更したい画素)を指し示すことによって、袖部分の色を上記の所望の色に変更する。例えば、原画像32に写されている長袖カットソーの袖部分の色を所望の色に変えたような長袖カットソーの画像を検索したい場合にユーザは上記のような加工を行う。
【0036】
「柄の削除」について説明する。例えば、原画像32のうちの袖部分の柄を削除する場合、まず、ユーザはメニュー34において「柄の削除」を選択する。その後、ユーザは袖部分の画素(すなわち、柄を削除したい画素)を指し示すことによって、袖部分の柄を削除する。例えば、袖以外の部分を重視し、袖部分の柄を重視しないような場合にユーザは上記のような加工を行う。
【0037】
「柄の変更」について説明する。図5は、原画像32のうちの袖部分の柄が変更された場合について示している。袖部分の柄を変更する場合、まず、ユーザはメニュー34において「柄の変更」を選択する。「柄の変更」が選択されると、柄を変更するためのメニューが表示され、ユーザは袖部分の柄を所望の柄に変更する。例えば、原画像32に写されている長袖カットソーの袖部分の柄を所望の柄に変えたような長袖カットソーの画像を検索したい場合にユーザは図5に示すような加工を行う。
【0038】
「変形」について説明する。図6は、原画像32のうちの袖部分を変形した場合について示している。図6に示す加工画面30では、袖部分が上方向に縮ませるようにして変形されている。袖部分を変形する場合、まず、ユーザはメニュー34において「変形」を選択する。その後、ユーザは袖部分(すなわち、変形したい部分)を囲むような領域を指定し、該領域を例えば上方向に縮ませるようにして該領域を変形させることによって、袖部分を変形させる。例えば、原画像32に写されている長袖カットソーと同様の色及び柄を有するような半袖カットソーを検索したい場合にユーザは図6に示すような加工を行う。
【0039】
なお、加工画面30では、以上に説明した加工内容のいずれか一つしか行えないわけではなく、以上に説明した加工内容のうちの複数を行うことが可能である。例えば、「変形」を行った後に「色の削除」を行うことも可能である。
【0040】
加工画面30においてユーザが加工を完了し、検索指示操作を行うと、加工画像36と類似する画像が検索される。そして、検索結果画面が表示部25に表示される(S103)。
【0041】
図7は検索結果画面の一例を示す。なお、図7は、原画像32の袖部分の色が削除されてなる加工画像36(図4参照)に基づいて画像検索が実行された場合の検索結果画面40を示している。
【0042】
図7に示す検索結果画面40は、加工画像36と類似する画像として8個の画像42A,42B,42C,42D,42E,42F,42G,42Hが見つかったことを示している。なお、図7では画像42D,42E,42F,42Gを省略している。
【0043】
検索結果画面40では、検索結果として得られた画像42A〜42Hが出力順序に従って表示される。検索結果画面40では出力順序の高い画像から順に表示されるようになっている。このため、画像42Aは出力順序が最も高い画像であり、画像42Hは出力順序が最も低い画像である。なお、画像42Hは原画像32(すなわち、加工が施される前の画像)である。すなわち、原画像32の出力順序が最も低く設定されている。
【0044】
画像検索システム1では、原画像32(すなわち、加工が施される前の画像)との類似度が低い画像ほど、出力順序が高くなるようにして、画像42A〜42Hの出力順序が設定されるようになっている。ユーザが原画像32をあえて加工して画像検索を行った場合、原画像32はユーザが見つけたいと思っている画像ではなく、また、原画像32との類似度が高い画像もユーザが見つけたいと思っている画像ではない可能性が高い。この点、画像検索システム1では以上のようにして出力順序が設定されていることによって、原画像32自体や、原画像32との類似度が高い画像が優先的に表示されないようになっている。
【0045】
検索結果画面40に表示される画像42A〜42Hのうちのいずれかをユーザが選択すると、その画像に写されている商品(衣服)の詳細情報を示す商品画面が表示される(S104)。例えば商品画面では商品を購入することができるようになっている。
【0046】
ここで、以上に説明したような画像検索機能を実現するための構成について説明する。図8は、画像検索システム1において実現される機能を示す機能ブロック図である。図8に示すように、画像検索システム1は、原画像取得部50、受付部52、検索条件設定部54、検索部56、及び出力制御部58を含む。
【0047】
例えば、これらの機能ブロックはサーバ10又はユーザ端末20において実現される。例えば、原画像取得部50、受付部52、及び検索条件設定部54はユーザ端末20において実現され、検索部56及び出力制御部58はサーバ10において実現される。すなわち、ユーザ端末20の制御部21がプログラムに従って処理を実行することによって、制御部21が原画像取得部50、受付部52、及び検索条件設定部54として機能するようになる。また、サーバ10の制御部11がプログラムに従って処理を実行することによって、制御部11が検索部56及び出力制御部58として機能するようになる。
【0048】
原画像取得部50は、画像検索に用いるための原画像32を取得する。本実施形態の場合、原画像取得部50は、原画像選択画面においてユーザによって選択された原画像32を取得する。
【0049】
受付部52は、原画像32のうちの加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付ける。本実施形態の場合、受付部52は加工画面30を表示部25に表示することによって、原画像32の一部領域に対する加工を受け付ける。すなわち、受付部52は、原画像32の一部領域に対する加工を受け付けることによって、原画像32のうちの加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付ける。
【0050】
なお、加工画面30では、ユーザに原画像32を実際に加工させることによって、加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようになっていたが、受付部52は、ユーザに原画像32を実際に加工させることなく、加工の対象となる一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようにしてもよい。
【0051】
検索条件設定部54は、ユーザによって指定された加工内容の加工が原画像32の一部領域に施されてなる加工画像36の非加工領域に関する複数種類の特徴情報と、加工画像36の加工領域に関する複数種類の特徴情報のうちの、加工領域に施された加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、加工画像36と同一又は類似の画像を検索するための検索条件を設定する。
【0052】
ここで、「加工領域」とは、加工の対象として指定された部分(すなわち、加工が施された部分)を含む領域である。また、「非加工領域」とは加工領域以外の領域である。図9は加工領域及び非加工領域について説明するための図である。図9は、袖部分が加工の対象として指定された場合(すなわち、袖部分に対して加工が施された場合)の加工領域及び非加工領域について示している。図9に示すように、袖部分が加工の対象として指定された場合には、袖部分を含む矩形領域が加工領域60として設定される。また、加工領域60以外の領域が非加工領域62として設定される。
【0053】
検索条件設定部54は、加工画像36の非加工領域62に関する複数種類の特徴情報を取得する。ここで、「複数種類の特徴情報」とは、例えば下記のような特徴情報である。なお、これらの特徴情報を抽出する方法としては公知の方法を採用することができる。
(1)色に関する特徴情報(特徴値)
(2)柄に関する特徴情報(特徴値)
(3)形状に関する特徴情報(特徴値)
【0054】
また検索条件設定部54は、加工画像36の加工領域60に関する複数種類の特徴情報のうちの、加工領域60に施された加工内容に基づいて選択される少なくとも一つの特徴情報を取得する。
【0055】
この場合の「複数種類の特徴情報」も、例えば上記(1)〜(3)のような特徴情報である。検索条件設定部54は、加工画像36の加工領域60に関する上記(1)〜(3)の特徴情報のうちから、画像検索に用いる特徴情報を、加工領域60に対する加工内容に基づいて選択する。
【0056】
図10は、加工領域60に対する加工内容と、画像検索に用いる加工領域60の特徴情報と、の対応関係の一例を示している。
【0057】
なお、図10の「加工領域に対する加工内容」欄における丸印は、加工領域60に対する加工内容として指定された加工内容(すなわち、加工領域60に施された加工内容)を示している。また、図10の「画像検索に用いる加工領域の特徴情報」欄において、丸印は特徴情報が画像検索に用いられることを示しており、空欄は特徴情報が画像検索に用いられないことを示している。
【0058】
例えば、図10の(A)の場合、「加工領域に対する加工内容」欄において「色−削除」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の削除」が指定された場合を示している。また、図10の(A)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「柄」欄及び「形状」欄に丸印が付されており、「色」欄は空欄になっている。これは、加工領域60の柄及び形状に関する特徴情報が画像検索に用いられ、加工領域60の色に関する特徴情報は画像検索に用いられないことを示している。
【0059】
その結果、例えば図4に示すように袖部分の色が削除された場合、加工領域60に関する上記(1)〜(3)の特徴情報のうち、柄及び形状に関する特徴情報のみを画像検索に用い、色に関する特徴情報を画像検索に用いないようになっている。例えば、ユーザが袖部分の色を削除した場合とはユーザが袖部分の色を指定していない場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いないようになっている。また、ユーザが袖部分の柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。同様に、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の柄及び形状に関する特徴情報を画像検索に用いるようになっている。
【0060】
また例えば、図10の(B)の場合、「加工領域に対する加工内容」欄において「色−削除」欄及び「形状」欄に丸印が付されている。このため、図10の(B)は、加工領域60に対する加工内容として「色の削除」及び「変形」が指定された場合を示している。また図10の(B)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「柄」欄及び「形状」欄に丸印が付されており、「色」欄は空欄になっている。これは、加工領域60の柄及び形状に関する特徴情報が画像検索に用いられ、加工領域60の色に関する特徴情報は画像検索に用いられないことを示している。
【0061】
ユーザが袖部分の色を削除し、かつ、袖部分を変形した場合とは、ユーザが袖部分の色を指定していない場合であって、かつ、袖部分の形状を指定した場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いないようになっており、一方、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いるようになっている。
【0062】
また例えば、図10の(C)の場合、「加工領域に対する加工内容」欄において「柄−削除」欄に丸印が付されている。これは、加工領域60に対する加工内容として「柄の削除」が指定された場合を示している。また図10の(C)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄及び「形状」欄に丸印が付されており、「柄」欄は空欄になっている。これは、加工領域60の色及び形状に関する特徴情報が画像検索に用いられ、加工領域60の柄に関する特徴情報は画像検索に用いられないことを示している。
【0063】
ユーザが袖部分の柄を削除した場合とはユーザが袖部分の柄を指定していない場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いないようになっている。また、ユーザが袖部分の色を削除したり、変更したりしなかった場合とは、ユーザが原画像32に写されている袖部分と同一又は類似の色の袖部分を有する衣服を検索したいと考えている場合である。同様に、ユーザが袖部分を変形しなかった場合とは、ユーザが原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服を検索したいと考えている場合である。このため、加工領域60の色及び形状に関する特徴情報を画像検索に用いるようになっている。
【0064】
また例えば、図10の(D)の場合、「加工領域に対する加工内容」欄において「柄−削除」欄及び「変形」欄に丸印が付されている。これは、加工領域60に対する加工内容として「柄の削除」及び「変形」が指定された場合を示している。また図10の(D)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄及び「形状」欄に丸印が付されており、「柄」欄は空欄になっている。これは、加工領域60の色及び形状に関する特徴情報が画像検索に用いられ、加工領域60の柄に関する特徴情報は画像検索に用いられないことを示している。
【0065】
ユーザが袖部分の柄を削除し、かつ、袖部分を変形した場合とは、ユーザが袖部分の柄を指定していない場合であって、かつ、袖部分の形状を指定した場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いないようになっており、一方、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の色を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の色の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いるようになっている。
【0066】
また例えば、図10の(E)の場合、「加工領域に対する加工内容」欄において「色−削除」欄と「柄−削除」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の削除」及び「柄の削除」が指定された場合を示している。また図10の(E)の場合、「形状」欄のみに丸印が付されており、「色」及び「柄」欄は空欄になっている。これは、加工領域60の形状に関する特徴情報のみが画像検索に用いられ、加工領域60の色及び柄に関する特徴情報が画像検索に用いられないことを示している。
【0067】
ユーザが袖部分の色及び柄を削除した場合とは、ユーザが袖部分の色及び柄を指定していない場合である。このため、加工領域60の色及び柄に関する特徴情報を画像検索に用いないようになっている。また、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。
【0068】
また例えば、図10の(F)の場合、「加工領域に対する加工内容」欄において「色−削除」欄、「柄−削除」、及び「変形」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の削除」、「柄の削除」、及び「変形」が指定された場合を示している。また図10の(F)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「形状」欄に丸印が付されており、「色」及び「柄」欄は空欄になっている。これは、加工領域60の形状に関する特徴情報が画像検索に用いられ、加工領域60の色及び柄に関する特徴情報が画像検索に用いられないことを示している。
【0069】
ユーザが袖部分の色及び柄を削除し、かつ、袖部分を変形した場合とは、ユーザが袖部分の色及び柄を指定していない場合であって、かつ、袖部分の形状を指定した場合である。このため、加工領域60の色及び柄に関する特徴情報を画像検索に用いないようになっており、一方、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。
【0070】
なお、図10に示す対応関係では、以上に説明した場合以外の場合((G)〜(M))には、加工領域60の色、柄、及び形状に関する特徴情報が画像検索に用いられるようになっている。
【0071】
例えば、図10の(G)の場合、「加工領域に対する加工内容」欄において「色−変更」欄に丸印が付されている。これは、加工領域60に対する加工内容として「色の変更」が指定された場合を示している。また図10の(G)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄、「柄」欄、及び「形状」欄に丸印が付されている。
【0072】
ユーザが袖部分の色を変更した場合とはユーザが袖部分の色を積極的に指定した場合である。このため、加工領域60の色に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の柄に関する特徴情報も画像検索に用いるようになっている。同様に、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の形状に関する特徴情報も画像検索に用いるようになっている。
【0073】
また例えば、図10の(H)の場合、「加工領域に対する加工内容」欄において「柄−変更」欄に丸印が付されている。これは、加工領域60に対する加工内容として「柄の変更」が指定された場合を示している。また図10の(H)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄、「柄」欄、及び「形状」欄に丸印が付されている。
【0074】
その結果、例えば図5に示すように袖部分の柄が変更された場合、加工領域60に関する上記(1)〜(3)の特徴情報のすべてを画像検索に用いるようになっている。例えば、ユーザが袖部分の柄を変更した場合とはユーザが袖部分の柄を積極的に指定した場合である。このため、加工領域60の柄に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の色を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の色の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の色に関する特徴情報も画像検索に用いるようになっている。同様に、ユーザが袖部分を変形しなかった場合とは、原画像32に写されている袖部分と同一又は類似の形状の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の形状に関する特徴情報も画像検索に用いるようになっている。
【0075】
さらに例えば、図10の(I)の場合、「加工領域に対する加工内容」欄において「変形」欄に丸印が付されている。これは、加工領域60に対する加工内容として「変形」が指定された場合を示している。また図10の(I)の場合、「画像検索に用いる加工領域の特徴情報」欄において、「色」欄、「柄」欄、及び「形状」欄に丸印が付されている。
【0076】
その結果、例えば図6に示すように袖部分を変形させた場合には、加工領域60に関する上記(1)〜(3)の特徴情報のすべてを画像検索に用いるようになっている。例えば、ユーザが袖部分を変形した場合とはユーザが袖部分の形状を積極的に指定した場合である。このため、加工領域60の形状に関する特徴情報を画像検索に用いるようになっている。また、ユーザが袖部分の色及び柄を削除したり、変更したりしなかった場合とは、原画像32に写されている袖部分と同一又は類似の色及び柄の袖部分を有する衣服をユーザが検索したいと考えている場合である。このため、加工領域60の色及び柄に関する特徴情報も画像検索に用いるようになっている。
【0077】
なお、図10の(J)〜(M)の場合も、図10の(G)〜(I)と同様の理由により、加工領域60に関する上記(1)〜(3)の特徴情報のすべてを画像検索に用いるようになっている。
【0078】
ところで、加工領域60に対する加工内容として「色の削除」が指定された場合、ユーザは色だけでなく柄も指定するつもりがないと考えることができる場合もある。このため、加工領域60に対する加工内容として「色の削除」が指定された場合(例えば図10の(A)及び(B))には、加工領域60の色に関する特徴情報だけでなく、加工領域60の柄に関する特徴情報も画像検索に用いないようにしてもよい。
【0079】
検索部56は、検索条件設定部54によって設定された検索条件に基づいて、加工画像36と同一又は類似の画像を検索する。詳細については後述する(図12参照)。
【0080】
出力制御部58は、検索部56の検索結果を出力部に出力させる。本実施形態の場合、出力制御部58は検索結果画面40を表示部25に表示させる。
【0081】
また本実施形態の場合、出力制御部58(出力順序設定手段)は、検索部56によって検索された画像と、原画像32(すなわち、加工が施されていない元々の画像)と、の類似度に基づいて、検索部56によって検索された画像の出力順序を設定する。そして、出力制御部58は、検索部56によって検索された画像を該出力順序に従って出力部に出力させる。
【0082】
例えば、出力制御部58(出力順序設定手段)は、原画像32との類似度が低い画像の出力順序を、原画像32との類似度が高い画像の出力順序よりも高く設定する。
【0083】
例えば、検索部56によって検索された画像に第1の画像と第2の画像が含まれ、かつ、原画像32と第1の画像との類似度が、原画像32と第2の画像との類似度よりも低い場合、出力制御部58は、第1の画像の出力順序を第2の画像の出力順序よりも高く設定する。言い換えれば、出力制御部58は、第2の画像の出力順序を第1の画像の出力順序よりも下げる。
【0084】
次に、画像検索システム1で実行される処理について説明する。図11は、加工画面30において原画像32に対する加工が完了され、ユーザによって検索指示操作が行われた場合に実行される処理の一例を示すフロー図である。ユーザ端末20の制御部21がプログラムに従って図11に示す処理を実行することによって、制御部11が検索条件設定部54として機能するようになる。また、サーバ10の制御部11がプログラムに従って図11に示す処理を実行することによって、制御部11が検索部56及び出力制御部58として機能するようになる。
【0085】
加工画面30において原画像32に対する加工が完了され、ユーザによって検索指示操作が行われた場合、図11に示すように、ユーザ端末20の制御部21は、加工画面30において行われた加工内容に基づいて、加工画像36の加工領域60及び非加工領域62を特定する(S201)。
【0086】
その後、制御部21は加工画像36の非加工領域62に関する特徴情報を取得する(S202)。例えば、制御部21は、非加工領域62の色、柄、及び形状に関する特徴情報を取得する。
【0087】
また、制御部21は加工画像36の加工領域60に関する特徴情報を取得する(S203)。例えば、制御部21は、加工領域60に対して施された加工内容と、図10に示す対応関係と、に基づいて、加工領域60の色、柄、及び形状に関する特徴情報のうちの少なくとも一つを取得する。
【0088】
その後、制御部21はサーバ10に画像検索の実行を要求する(S204)。例えば、制御部21は下記に示すような情報をサーバ10に送信する。
・原画像32の識別情報
・加工領域60及び非加工領域62を示す情報
・加工領域60に関する特徴情報
・非加工領域62に関する特徴情報
【0089】
上記の要求がサーバ10で受け付けられた場合、サーバ10の制御部11は、ユーザ端末20から受信した情報に基づいて画像検索を実行する(S205)。
【0090】
ステップS205では、データベース16に記憶された各画像が加工画像36との比較対象として設定され、例えば図12に示すような処理が実行される。なお、本実施形態の場合、図12に示す処理を実行する際に、比較対象画像の背景部分(衣服以外の部分)は除去される。あるいは、あらかじめ背景部分が除去された画像がデータベース16に保存されている。
【0091】
すなわち、制御部11は、加工画像36との比較対象として設定された画像(比較対象画像)の非加工領域62の特徴情報を取得する(S301)。なお、ここで、「比較対象画像の非加工領域62」とは、加工画像36の非加工領域62に対応する、比較対象画像の領域のことを意味している。
【0092】
その後、制御部11は、加工画像36の非加工領域62の特徴情報と、比較対象画像の非加工領域62の特徴情報との類似度(第1類似度)を算出する(S302)。すなわち、制御部11は、加工画像36の非加工領域62の色、柄、及び形状に関する特徴情報と、比較対象画像の非加工領域62の色、柄、及び形状に関する特徴情報とを比較することによって上記の類似度を算出する。
【0093】
そして、制御部11は、ステップS302で算出された類似度が閾値(第1基準類似度)以上であるか否かを判定する(S303)。類似度が閾値以上でない場合、制御部11は比較対象画像と加工画像36とは類似しないと判定する。
【0094】
ステップS302で算出された類似度が閾値以上である場合、制御部11は、比較対象画像の加工領域60の特徴情報を取得する(S304)。なお、ここで、「比較対象画像の加工領域60」とは、加工画像36の加工領域60に対応する、比較対象画像の領域のことを意味している。
【0095】
その後、制御部11は、加工画像36の加工領域60の特徴情報と、比較対象画像の加工領域60の特徴情報との類似度(第2類似度)を算出する(S305)。
【0096】
例えば、加工画像36が、原画像32の加工領域60に対して「色の削除」の加工を施してなる画像である場合には、図10の(A)に示したように、加工画像36の加工領域60の柄及び形状に関する特徴情報が用いられ、加工画像36の加工領域60の色に関する特徴情報が用いられない。このため、加工画像36の加工領域60の柄及び形状に関する特徴情報と、比較対象画像の加工領域60の柄及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0097】
また例えば、加工画像36が、原画像32の加工領域60に対して「柄の削除」の加工を施してなる画像である場合には、図10の(C)に示したように、加工画像36の加工領域60の色及び形状に関する特徴情報が用いられ、加工画像36の加工領域60の柄に関する特徴情報が用いられない。このため、加工画像36の加工領域60の色及び形状に関する特徴情報と、比較対象画像の加工領域60の色及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0098】
また例えば、加工画像36が、原画像32の加工領域60に対して「色の削除」及び「柄の削除」の加工を施してなる画像である場合には、図10の(E)に示したように、加工画像36の加工領域60の形状に関する特徴情報のみが用いられ、加工画像36の加工領域60の色及び柄に関する特徴情報が用いられない。このため、加工画像36の加工領域60の形状に関する特徴情報と、比較対象画像の加工領域60の形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0099】
また例えば、加工画像36が、原画像32の加工領域60に対して「柄の変更」の加工のみを施してなる画像である場合には、図10の(H)に示したように、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報が用いられる。このため、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報と、比較対象画像の加工領域60の色、柄、及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0100】
また例えば、加工画像36が、原画像32の加工領域60に対して「変形」の加工を施してなる画像である場合には、図10の(I)に示したように、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報が用いられる。このため、加工画像36の加工領域60の色、柄、及び形状に関する特徴情報と、比較対象画像の加工領域60の色、柄、及び形状に関する特徴情報とを比較することによって上記の類似度が算出される。
【0101】
ステップS305の処理が実行された後、制御部11は、ステップS305で算出された類似度が閾値(第2基準類似度)以上であるか否かを判定する(S306)。なお、このステップS306における閾値(第2基準類似度)はステップS303における閾値(第1基準類似度)よりも低く設定される。すなわち、加工領域60に関しては非加工領域62に比べて緩めの検索が実行される。つまり、ユーザがあえて加工した部分に関しては比較的緩めの検索が実行され、なるべく多くの検索結果をユーザに提示できるようになっている。
【0102】
ステップS305で算出された類似度が閾値以上でない場合、制御部11は比較対象画像と加工画像36とは類似しないと判定する。
【0103】
一方、ステップS305で算出された類似度が閾値以上である場合、制御部11は比較対象画像と加工画像36とが類似すると判定する(S307)。また、この場合、制御部11は、比較対象画像と、原画像32(すなわち、加工が施されていない元々の画像)と、の類似度を取得する(S308)。例えば、制御部11は、比較対象画像の特徴情報と、原画像32の特徴情報とを比較することによって上記の類似度を算出する。このステップS308で算出された類似度は、比較対象画像を検索結果画面40に表示する場合の出力順序を決定するために用いられる。
【0104】
図11に示すように、画像検索(ステップS205)が実行された後、制御部11は検索結果をユーザ端末20に送信する(S206)。すなわち、制御部11は、ステップS205において検索された画像(すなわち、ステップS307において加工画像36と類似すると判定された画像)のリストを示すデータをユーザ端末20に送信することによって、検索結果画面をユーザ端末20の表示部25に表示させる。なお、この場合、制御部11は、ステップS205において検索された画像の出力順序を、ステップS308において取得された類似度に基づいて設定する。すなわち、ステップS308において取得された類似度が低い画像ほど、出力順序が高く設定される。
【0105】
検索結果がユーザ端末20で受信された場合、ユーザ端末20の制御部21は検索結果画面を表示部25に表示する(S207)。以上で図11に示す処理の説明を終了する。
【0106】
以上説明した画像検索システム1によれば、原画像32の特定部分が異なるような画像を検索できるようになる。例えば、衣服画像(原画像32)の袖部分の色、柄、及び形状の少なくとも一つが異なるような衣服画像を検索できるようになる。
【0107】
なお、本発明は以上に説明した実施形態に限定されるものではない。
【0108】
[1]例えば、原画像32(すなわち、加工が施されていない元々の画像)が検索部56の検索結果に含まれる場合であっても、原画像32を検索結果画面40に表示しないようにしてもよい。
【0109】
ユーザが原画像32をあえて加工して画像検索を行った場合、原画像32はユーザが見つけたいと思っている画像ではない。この点、以上のようにすれば、ユーザによって必要でない画像が検索結果画面40に表示されないようになる。
【0110】
[2]また例えば、加工画像36の非加工領域62と原画像32の非加工領域62とは同一であるため、加工画像36の非加工領域62の特徴情報を取得する代わりに、原画像32の非加工領域62の特徴情報を取得するようにしてもよい。
【0111】
[3]加工画面30では、ユーザに原画像32を実際に加工させることによって、原画像32のうちの加工の対象とする一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようになっていたが、受付部52は、ユーザに原画像32を実際に加工させることなく、原画像32のうちの加工の対象とする一部領域の指定と、当該一部領域に対する加工内容と、を受け付けるようにしてもよい。
【0112】
例えば、ユーザがメニュー34から「色の削除」を選択し、さらに、袖部分の領域を指定したら、受付部52は、「袖部分の色の削除」が指定されたと判断するようにしてもよい。同様に、例えば、ユーザがメニュー34から「柄の削除」を選択し、さらに、袖部分の領域を指定したら、受付部52は、「袖部分の柄の削除」が指定されたと判断するようにしてもよい。
【0113】
[4]例えば、検索条件設定部54は、原画像32の非加工領域62に関する複数種類の特徴情報と、原画像32の加工領域60に関する複数種類の特徴情報のうちの、加工領域60に対する加工内容に基づいて選択される少なくとも一つの特徴情報と、に基づいて、原画像32と類似の画像を検索するための検索条件を設定するようにしてもよい。
【0114】
例えば、袖部分に対する加工内容として「色の削除」が指定された場合、検索条件設定部54は、原画像32の非加工領域62の色、柄、及び形状に関する特徴情報と、原画像32の加工領域60の柄、及び形状に関する特徴情報と、に基づいて、原画像32と類似の画像を検索するための検索条件を設定するようにしてもよい。
【0115】
この場合、図11のステップS202において、制御部21は原画像32の非加工領域62に関する特徴情報を取得する。例えば、制御部21は、原画像32の非加工領域62の色、柄、及び形状に関する特徴情報を取得する。また、ステップS203において、制御部21は原画像32の加工領域60に関する特徴情報を取得する。例えば、制御部21は、加工領域60に対する加工内容として指定された加工内容と、図10に示す対応関係と、に基づいて、原画像32の加工領域60の色、柄、及び形状に関する特徴情報のうちの少なくとも一つを取得する。例えば、袖部分に対する加工内容として「色の削除」が指定された場合(図10の(A))であれば、制御部21は、原画像32の加工領域60の柄及び形状に関する特徴情報を取得する。
【0116】
また、図12のステップS302において、制御部11は、原画像32の非加工領域62の特徴情報と、比較対象画像の非加工領域62の特徴情報との類似度(第1類似度)を算出する。また、ステップS305において、制御部11は、原画像32の加工領域60の特徴情報と、比較対象画像の加工領域60の特徴情報との類似度(第2類似度)を算出する。例えば、袖部分に対する加工内容として「色の削除」が指定された場合(図10の(A))であれば、制御部11は、原画像32の加工領域60の柄及び形状に関する特徴情報と、比較対象画像の加工領域60の柄及び形状に関する特徴情報との類似度を算出する。
【0117】
このようにしても、例えば、衣服画像(原画像32)の胴体部分(袖以外の部分)と同一又は類似の色、柄、及び形状の胴体部分を有し、かつ、衣服画像(原画像32)の袖部分と同一又は類似の柄及び形状の袖部分を有するような衣服画像を検索できるようになる。
【0118】
同様に、袖部分に対する加工内容として「柄の削除」が指定された場合(図10の(C))であれば、ステップS203において、制御部21は、原画像32の加工領域60の色及び形状に関する特徴情報を取得するようにしてもよい。また、ステップS305において、制御部11は、原画像32の加工領域60の色及び形状に関する特徴情報と、比較対象画像の加工領域60の色及び形状に関する特徴情報との類似度を算出するようにしてもよい。このようにしても、例えば、衣服画像(原画像32)の胴体部分(袖以外の部分)と同一又は類似の色、柄、及び形状の胴体部分を有し、かつ、衣服画像(原画像32)の袖部分と同一又は類似の色及び形状の袖部分を有するような衣服画像を検索できるようになる。
【0119】
さらに、袖部分に対する加工内容として「色の削除」及び「柄の削除」が指定された場合(図10の(E))であれば、ステップS203において、制御部21は、原画像32の加工領域60の形状に関する特徴情報のみを取得するようにしてもよい。また、ステップS305において、制御部11は、原画像32の加工領域60の形状に関する特徴情報と、比較対象画像の加工領域60の形状に関する特徴情報との類似度を算出するようにしてもよい。このようにしても、例えば、衣服画像(原画像32)の胴体部分(袖以外の部分)と同一又は類似の色、柄、及び形状の胴体部分を有し、かつ、衣服画像(原画像32)の袖部分と同一又は類似の形状の袖部分を有するような衣服画像を検索できるようになる。
【0120】
なお、加工画像36の非加工領域62と原画像32の非加工領域62とは同一であるため、以上に説明した変形例[4]では、原画像32の非加工領域62の特徴情報を取得する代わりに、加工画像36の非加工領域62の特徴情報を取得するようにしてもよい。
【0121】
[5]また例えば、検索部56及び出力制御部58はユーザ端末20において実現されるようにしてもよい。すなわち、ユーザ端末20がデータベース16に直接アクセスするようにしてもよい。また、検索条件設定部54はサーバ10において実現されるようにしてもよい。
【0122】
[6]また例えば、データベース16に記憶される画像を細かいブロックに分割し、各ブロックごとに予め算出された特徴情報をデータベース16に記憶しておくようにしてもよい。そして、図12のステップS301,S304では、データベース16に記憶されたブロックごとの特徴情報に基づいて、比較対象画像の特徴情報が取得されるようにしてもよい。こうすることによって処理負荷を軽減するようにしてもよい。
【0123】
[7]以上では、衣服画像を検索する場合を例として説明したが、本発明は、衣服画像以外の画像を検索する場合にも適用することができる。例えば、料理画像を検索する場合にも適用することができる。
【符号の説明】
【0124】
1 画像検索システム、2 通信ネットワーク、10 サーバ、11,21 制御部、12,22 主記憶部、13,23 補助記憶部、14,24 通信部、15 光ディスクドライブ部、20 ユーザ端末、25 表示部、26 音声出力部、27 操作部、30 加工画面、32 原画像、34 メニュー、36 加工画像、40 検索結果画面、42A,42B,42C,42D,42E,42F,42G,42H 画像、50 原画像取得部、52 受付部、54 検索条件設定部、56 検索部、58 出力制御部、60 加工領域、62 非加工領域。
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12