(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-04-04
(45)【発行日】2024-04-12
(54)【発明の名称】物件情報検索システム、物件情報検索方法、および、物件情報検索プログラム
(51)【国際特許分類】
G06Q 50/16 20240101AFI20240405BHJP
G06F 16/53 20190101ALI20240405BHJP
【FI】
G06Q50/16
G06F16/53
(21)【出願番号】P 2020000337
(22)【出願日】2020-01-06
【審査請求日】2022-12-28
【新規性喪失の例外の表示】特許法第30条第2項適用 (1)平成31年3月14日に電子情報通信学会技術研究報告の講演にて発表。また、平成31年3月7日にこの講演と密接に関連する行為である予稿集を公開。 (2)令和1年8月23日にTHE 6TH IIEEJ INTERNATIONAL CONFERENCE ON IMAGE ELECTRONICS AND VISUAL COMPUTINGの講演にて発表。 (3)令和1年9月6日にTHE 1ST ECTI UEC WORKSHOP ON AI AND APPLICATION Rajamangala University of Technology Krungthepの講演にて発表。
(73)【特許権者】
【識別番号】504133110
【氏名又は名称】国立大学法人電気通信大学
(73)【特許権者】
【識別番号】518069003
【氏名又は名称】アヴァント株式会社
(74)【代理人】
【識別番号】100167863
【氏名又は名称】大久保 恵
(74)【代理人】
【識別番号】100130247
【氏名又は名称】江村 美彦
(72)【発明者】
【氏名】高橋 裕樹
(72)【発明者】
【氏名】小林 菜穂子
(72)【発明者】
【氏名】木村 久男
(72)【発明者】
【氏名】鈴木 裕介
(72)【発明者】
【氏名】鈴木 将親
(72)【発明者】
【氏名】浅田 良夫
【審査官】深津 始
(56)【参考文献】
【文献】特開2019-057119(JP,A)
【文献】柴田義孝, 宮川明大,JGNを利用した感性の反映可能なバーチャル伝統工芸システム,情報処理学会研究報告,日本,社団法人情報処理学会 Information Processing Society of Japan,2002年10月10日,第2002巻, 第93巻,第77-82ページ,ISSN : 0919-6072
【文献】吉田香, 坂本隆, 曽田忠之, 加藤俊一,主観的背景を考慮したデータベース検索システムの提案,電子情報通信学会技術研究報告,日本,社団法人電子情報通信学会 The Institute of Electronics,Information and Communication Engineers,1997年07月24日,第97巻, 第204号,第17-24ページ
(58)【調査した分野】(Int.Cl.,DB名)
G06F 16/00 -G06F 16/958
G06Q 10/00 -G06Q 99/00
(57)【特許請求の範囲】
【請求項1】
物件情報を検索する物件情報検索システムにおいて、
不動産を撮像した画像である物件画像
から、複数の特徴量を要素とする画像特徴ベクトルを生成する画像特徴ベクトル生成手段と、
前記物件画像から受ける印象を示す複数の感性語の
それぞれに対する評価値を入力され、前記複数の感性語のそれぞれに関する評価値を要素と
する感性ベクトルを生成する感性ベクトル生成手段と、
前記画像特徴ベクトルと前記感性ベクトルの対応関係を示す対応関係情報を算出する算出手段と、
検索対象となる前記物件画像と、前記画像特徴ベクトル生成手段が前記物件画像から生成した前記画像特徴ベクトルとを関連づけて複数格納する格納手段と、
ユーザが希望する前記不動産の印象を示す前記感性語に関する前記評価値を入力する入力手段と、
前記入力手段から入力された前記評価値から前記感性ベクトル生成手段が生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを前記対応関係情報を参照して特定し、特定した前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納手段から検索する検索手段と、
前記検索手段による検索結果を出力する出力手段と、
を有することを特徴とする物件情報検索システム。
【請求項2】
前記画像特徴ベクトルは、前記物件画像の色特徴、形状特徴、テクスチャ特徴、および、ディープニューラルネットワークによって抽出された特徴の少なくとも1つに基づいて生成されることを特徴とする請求項1に記載の物件情報検索システム。
【請求項3】
前記感性ベクトルは、前記物件画像から受ける印象を、複数の前記感性語のそれぞれを複数段階のリッカートスケールによって評価した前記評価値から生成されることを特徴とする請求項1または2に記載の物件情報検索システム。
【請求項4】
前記算出手段は、正則化法を用いたカーネル正準相関分析によって前記画像特徴ベクトルと前記感性ベクトルの間の相関関係を算出することを特徴とする請求項1乃至3のいずれか1項に記載の物件情報検索システム。
【請求項5】
前記検索手段は、前記画像特徴ベクトルを線型変換または非線型変換によって写像することで得られる正準変量をtとし、前記感性ベクトルを前記線型変換または前記非線型変換によって写像することで得られる値の正準変量をsとするとき、正準変量sから正準変量tを推定する数式に基づいて、前記入力手段から入力された前記評価値に基づいて前記感性ベクトル生成手段が生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを特定し、特定された前記画像特徴ベクトルと距離が近い前記画像特徴ベクトルに対応する前記物件画像を前記格納手段から検索することを特徴とする請求項1乃至4のいずれか1項に記載の物件情報検索システム。
【請求項6】
前記格納手段は、物件の条件を示す物件条件情報を併せて格納しており、
前記検索手段は、前記物件条件情報によって予め絞り込んだ前記物件画像の中から、特定された前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納手段から検索する、
ことを特徴とする請求項1乃至5のいずれか1項に記載の物件情報検索システム。
【請求項7】
物件情報を検索する物件情報検索方法において、
物件情報探索システムが、
不動産を撮像した画像である物件画像
から、複数の特徴量を要素とする画像特徴ベクトルを生成する画像特徴ベクトル生成ステップと、
前記物件画像から受ける印象を示す複数の感性語の
それぞれに対する評価値を入力され、前記複数の感性語のそれぞれに関する評価値を要素とす
る感性ベクトルを生成する感性ベクトル生成ステップと、
前記画像特徴ベクトルと前記感性ベクトルの対応関係を示す対応関係情報を算出する算出ステップと、
検索対象となる前記物件画像と、前記画像特徴ベクトル生成ステップが前記物件画像から生成した前記画像特徴ベクトルとを関連づけて複数格納する格納ステップと、
ユーザが希望する前記不動産の印象を示す前記感性語に関する前記評価値を入力する入力ステップと、
前記入力ステップから入力された前記評価値から前記感性ベクトル生成ステップが生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを前記対応関係情報を参照して特定し、特定した前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納ステップから検索する検索ステップと、
前記検索ステップによる検索結果を出力する出力ステップと、
を有することを特徴とする物件情報検索方法。
【請求項8】
物件情報を検索する物件情報検索プログラムにおいて、
コンピュータを、
不動産を撮像した画像である物件画像
から、複数の特徴量を要素とする画像特徴ベクトルを生成する画像特徴ベクトル生成手段、
前記物件画像から受ける印象を示す複数の感性語の
それぞれに対する評価値を入力され、前記複数の感性語のそれぞれに関する評価値を要素とす
る感性ベクトルを生成する感性ベクトル生成手段、
前記画像特徴ベクトルと前記感性ベクトルの対応関係を示す対応関係情報を算出する算出手段、
検索対象となる前記物件画像と、前記画像特徴ベクトル生成手段が前記物件画像から生成した前記画像特徴ベクトルとを関連づけて複数格納する格納手段、
ユーザが希望する前記不動産の印象を示す前記感性語に関する前記評価値を入力する入力手段、
前記入力手段から入力された前記評価値から前記感性ベクトル生成手段が生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを前記対応関係情報を参照して特定し、特定した前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納手段から検索する検索手段、
前記検索手段による検索結果を出力する出力手段、
として機能させることを特徴とする前記コンピュータが読み取り可能な物件情報検索プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、物件情報検索システム、物件情報検索方法、および、物件情報検索プログラムに関するものである。
【背景技術】
【0002】
特許文献1には、指定された位置情報からの距離内の範囲、所定時間内に所定の方法で移動可能な範囲、所定料金内に所定の方法で移動可能な範囲、その他の条件設定による範囲の内、一又は複数の条件設定をすることにより検索をすることが可能な、オンライン不動産検索システムに関する技術が開示されている。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
ところで、特許文献1に開示された技術では、検索の対象となる不動産情報の数は膨大である。このため、膨大な数の不動産情報の中から目的となる不動産を見つけるためには、詳細な条件を決めなければならないという問題点がある。
【0005】
本発明は、詳細な条件を決めることなく、所望の物件情報を検索することが可能な物件情報検索システム、物件情報検索方法、および、物件情報検索プログラムを提供することを目的としている。
【課題を解決するための手段】
【0006】
上記課題を解決するために、本発明は、物件情報を検索する物件情報検索システムにおいて、不動産を撮像した画像である物件画像の複数の特徴量を要素とする画像特徴ベクトルを生成する画像特徴ベクトル生成手段と、前記物件画像から受ける印象を示す複数の感性語のそれぞれに関する評価値を要素とする感性ベクトルを生成する感性ベクトル生成手段と、前記画像特徴ベクトルと前記感性ベクトルの対応関係を示す対応関係情報を算出する算出手段と、検索対象となる前記物件画像と、前記画像特徴ベクトル生成手段が前記物件画像から生成した前記画像特徴ベクトルとを関連づけて複数格納する格納手段と、ユーザが希望する前記不動産の印象を示す前記感性語に関する前記評価値を入力する入力手段と、前記入力手段から入力された前記評価値から前記感性ベクトル生成手段が生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを前記対応関係情報を参照して特定し、特定した前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納手段から検索する検索手段と、前記検索手段による検索結果を出力する出力手段と、を有することを特徴とする。
このような構成によれば、詳細な条件を決めることなく、所望の物件情報を検索することが可能となる。
【0007】
また、本発明は、前記画像特徴ベクトルは、前記物件画像の色特徴、形状特徴、テクスチャ特徴、および、ディープニューラルネットワークによって抽出された特徴の少なくとも1つに基づいて生成されることを特徴とする。
このような構成によれば、物件画像の印象に相関が高い画像特徴ベクトルを得ることができる。
【0008】
また、本発明は、前記感性ベクトルは、前記物件画像から受ける印象を、複数の前記感性語のそれぞれを複数段階のリッカートスケールによって評価した前記評価値から生成されることを特徴とする。
このような構成によれば、ユーザの感性を的確に示す感性ベクトルを生成することができる。
【0009】
また、本発明は、前記算出手段は、正則化法を用いたカーネル正準相関分析によって前記画像特徴ベクトルと前記感性ベクトルの間の相関関係を算出することを特徴とする。
このような構成によれば、画像特徴ベクトルと感性ベクトルの間の相関関係の過剰適合を防ぎつつ算出することができる。
【0010】
また、本発明は、前記検索手段は、前記画像特徴ベクトルを線型変換または非線型変換によって写像することで得られる正準変量をtとし、前記感性ベクトルを前記線型変換または前記非線型変換によって写像することで得られる値の正準変量をsとするとき、正準変量sから正準変量tを推定する数式に基づいて、前記入力手段から入力された前記評価値に基づいて前記感性ベクトル生成手段が生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを特定し、特定された前記画像特徴ベクトルに対応する物件画像を前記格納手段から検索することを特徴とする。
このような構成によれば、感性語によって物件画像を精度よく検索することができる。
【0011】
また、本発明は、前記格納手段は、物件の条件を示す物件条件情報を併せて格納しており、前記検索手段は、前記物件条件情報によって予め絞り込んだ前記物件画像の中から、特定された前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納手段から検索する、ことを特徴とする。
このような構成によれば、物件情報によって検索対象を絞ることで、計算に要する負荷を軽減することができる。
【0012】
また、本発明は、物件情報を検索する物件情報検索方法において、不動産を撮像した画像である物件画像の複数の特徴量を要素とする画像特徴ベクトルを生成する画像特徴ベクトル生成ステップと、前記物件画像から受ける印象を示す複数の感性語のそれぞれに関する評価値を要素とする感性ベクトルを生成する感性ベクトル生成ステップと、前記画像特徴ベクトルと前記感性ベクトルの対応関係を示す対応関係情報を算出する算出ステップと、検索対象となる前記物件画像と、前記画像特徴ベクトル生成ステップが前記物件画像から生成した前記画像特徴ベクトルとを関連づけて複数格納する格納ステップと、ユーザが希望する前記不動産の印象を示す前記感性語に関する前記評価値を入力する入力ステップと、前記入力ステップから入力された前記評価値から前記感性ベクトル生成ステップが生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを前記対応関係情報を参照して特定し、特定した前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納ステップから検索する検索ステップと、前記検索ステップによる検索結果を出力する出力ステップと、を有することを特徴とする。
このような方法によれば、詳細な条件を決めることなく、所望の物件情報を検索することが可能となる。
【0013】
また、本発明は、物件情報を検索する物件情報検索プログラムにおいて、コンピュータを、不動産を撮像した画像である物件画像の複数の特徴量を要素とする画像特徴ベクトルを生成する画像特徴ベクトル生成手段、前記物件画像から受ける印象を示す複数の感性語のそれぞれに関する評価値を要素とする感性ベクトルを生成する感性ベクトル生成手段、前記画像特徴ベクトルと前記感性ベクトルの対応関係を示す対応関係情報を算出する算出手段、検索対象となる前記物件画像と、前記画像特徴ベクトル生成手段が前記物件画像から生成した前記画像特徴ベクトルとを関連づけて複数格納する格納手段、ユーザが希望する前記不動産の印象を示す前記感性語に関する前記評価値を入力する入力手段、前記入力手段から入力された前記評価値から前記感性ベクトル生成手段が生成した前記感性ベクトルと相関が高い前記画像特徴ベクトルを前記対応関係情報を参照して特定し、特定した前記画像特徴ベクトルに近い値を有する前記物件画像を前記格納手段から検索する検索手段、前記検索手段による検索結果を出力する出力手段、として機能させることを特徴とする。
このようなプログラムによれば、詳細な条件を決めることなく、所望の物件情報を検索することが可能となる。
【発明の効果】
【0014】
本発明によれば、詳細な条件を決めることなく、所望の物件情報を検索することが可能な物件情報検索システム、物件情報検索方法、および、物件情報検索プログラムを提供することが可能となる。
【図面の簡単な説明】
【0015】
【
図1】本発明の実施形態に係る物件情報検索システムの構成例を示す図である。
【
図2】
図1に示すユーザ端末および管理者端末の構成例を示す図である。
【
図4】本発明の実施形態の動作原理を説明するための図である。
【
図5】本発明の実施形態において感性モデルを学習処理により生成する際の詳細な動作を説明するための図である。
【
図6】物件画像に対する感性による評価登録画面の一例である。
【
図7】本発明の実施形態において物件の検索を行う際の詳細な動作を説明するための図である。
【
図8】物件画像に対する物件条件情報登録画面の一例である。
【
図12】本発明の実施形態において物件画像から感性検索空間と感性モデルを生成する際に実行される処理の一例を示すフローチャートである。
【
図13】本発明の実施形態において管理者が物件画像および物件条件情報を登録する際に実行される処理の一例を説明するためのフローチャートである。
【
図14】本発明の実施形態においてユーザが所望の物件を検索する際に実行される処理の一例を説明するためのフローチャートである。
【
図15】検索精度の平均が高い上位5つの正則化パラメータの組み合わせの一例を示す図である。
【
図16】標準偏差が小さい上位5つの正則化パラメータの組み合わせの一例を示す図である。
【発明を実施するための形態】
【0016】
次に、本発明の実施形態について説明する。
【0017】
(A)本発明の実施形態の構成の説明
図1は、本発明の実施形態に係る物件情報検索システムの構成例を示す図である。
図1に示す構成では、物件情報検索システム1は、ユーザ端末10、管理者端末20、インターネット30、および、サーバ40を有している。
【0018】
ここで、ユーザ端末10は、例えば、不動産に係る物件情報を検索するユーザが有するパーソナルコンピュータ等によって構成される。なお、スマートフォン、タブレット端末等によって構成されてもよい。なお、
図1では、図面を簡略化するために、ユーザ端末10は1台とされているが、実際には複数のユーザ端末10を有する。
【0019】
管理者端末20は、システムの管理者が有するパーソナルコンピュータ等によって構成される。管理者は、管理者端末20を操作することで、サーバ40に対して物件情報を格納するとともに、サーバ40に対して後述する処理を実行させる。
【0020】
インターネット30は、共通の通信仕様を用いて全世界のコンピュータや通信機器を相互に繋いだグローバルなコンピュータネットワークである。なお、当該ネットワークには有線ネットワークだけでなく、無線ネットワークも含まれる。
【0021】
サーバ40は、物件情報を格納するとともに、ユーザ端末10の要求に応じて該当する物件情報を取得して供給するためのソフトウエアを有するサーバコンピュータである。
【0022】
図2は、
図1に示すユーザ端末10および管理者端末20の構成例を示す図である。なお、ユーザ端末10および管理者端末20は同様の構成とされるので、以下では、ユーザ端末10を例に挙げて説明し、管理者端末20に関する説明は省略する。
【0023】
図2に示すように、ユーザ端末10は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、HDD(Hard Disk Drive)14、GPU(Graphical Processing Unit)15、I/F(Interface)16、バス17、および、表示装置18を有している。なお、HDD14の代わりに、または、HDD14に加えてSSD(Solid State Drive)を備えるようにしてもよい。
【0024】
ここで、CPU11は、ROM12およびHDD14に格納されているプログラムに基づいて処理を実行し、例えば、ブラウザソフトによってサーバ40にアクセスし、サーバ40に格納されている物件情報を検索し、検索結果を表示する等の動作を行う。
【0025】
ROM12は、CPU11が実行する基本的なプログラムやデータを格納する半導体記憶装置である。
【0026】
RAM13は、CPU11が実行するプログラムや演算途中のデータを一時的に格納するための半導体記憶装置である。
【0027】
HDD14は、CPU11が実行するプログラムやデータを格納する磁気記憶装置である。
【0028】
GPU15は、CPU11から供給される描画命令に応じて描画処理を実行し、得られた画像等を表示装置18に供給して表示させる。なお、GPU15は、並列性が高い演算処理を実行するようにしてもよい。もちろん、GPU15以外の演算処理プロセッサを搭載するようにしてもよい。
【0029】
I/F16は、例えば、図示しないキーボードおよびマウス等の入力デバイスからの情報を入力するとともに、インターネット30との間で情報を授受するインターフェースである。
【0030】
バス17は、CPU11、ROM12、RAM13、HDD14、GPU15、および、I/F16を相互に接続し、これらの間で情報の授受を可能にするための信号線群である。
【0031】
表示装置18は、例えば、LCD(Liquid Crystal Display)等によって構成され、GPU15から供給される画像等を表示部に表示する。
【0032】
図3は、
図1に示すサーバ40の構成例を示す図である。
図3に示すように、サーバ40は、CPU41、ROM42、RAM43、HDD44、GPU45、I/F46、および、バス47を有している。なお、
図3に示すCPU41、ROM42、RAM43、HDD44、GPU45、I/F46、および、バス47は、
図2に示すCPU11、ROM12、RAM13、HDD14、GPU15、I/F16、および、バス17と機能は同様であるのでその説明は省略する。
図3では、HDD44は、種々のデータを格納するDB(Data Base)44aを有している。なお、
図3の構成例では、GPU45は、例えば、描画処理や並列性が高い処理を実行する。また、HDD44の代わりに、または、HDD44に加えてSSDを備えるようにしてもよい。
【0033】
(B)本発明の実施形態の動作の説明
つぎに、本発明の実施形態の動作について説明する。なお、以下では、
図4に基づいて本実施形態の動作原理について説明した後、
図5~
図14に基づいて詳細な動作について説明する。
【0034】
図4は、本発明の実施形態の動作原理を説明するための図である。
図4に示す各ブロックは、
図3に示すハードウエア資源と、HDD44およびROM42等に格納されているソフトウエア資源とが協働することによって実現される。なお、
図4に示す各ブロックの少なくとも一部を、
図1に示す管理者端末20において実行するようにしてもよい。
【0035】
図4に示すように、本発明の実施形態では、破線で囲まれた「生成処理」によって、学習対象となる不動産物件を撮像した物件画像Iと、物件画像Iを評価者が見た場合に想起される印象を表す感性語Wとの対応関係を学習し、対応関係情報を生成する。
【0036】
より詳細には、破線で囲まれた「生成処理」では、画像特徴ベクトル生成処理P1によって、学習対象となる不動産物件を撮像した物件画像Iから複数の特徴量(例えば、色、形状、および、テクスチャに係る特徴量)を抽出し、画像特徴ベクトルを生成して出力する。また、物件画像Iを見たときの印象を示す感性語W(例えば、清々しい、暖かい、落ち着いた、明るい、おしゃれな、ゴージャスな等)に関する評価値(例えば、3段階評価における評価値)を、例えば、評価者に入力してもらい、感性ベクトル生成処理P2によって感性ベクトルを生成して出力する。なお、ディープニューラルネットワークによって生成された特徴量を用いるようにしてもよい。
【0037】
対応関係情報生成処理P3は、画像特徴ベクトルと感性ベクトルとの対応関係を学習し、これらの対応関係を示す対応関係情報を生成して出力する。なお、対応関係情報の生成方法としては様々な方法が想定されるが、具体例および変形例(変形実施形態)については後述する。
【0038】
物件画像DBに対して、検索対象となる複数の物件画像Iを登録するとともに、画像特徴ベクトル生成処理P1によって物件画像Iから画像特徴ベクトルを生成し、物件画像Iに関連付けて登録する。なお、画像特徴ベクトル生成処理P1は、対応関係情報生成処理における画像特徴ベクトル生成処理P1と同様である。
【0039】
つぎに、ユーザが、所望の物件を検索するために感性語Wを入力する。感性ベクトル生成処理P2は、入力された感性語Wから感性ベクトルを生成して出力する。具体的には、ユーザは、例えば、「清々しい」、「暖かい」、「落ち着いた」、「明るい」、「おしゃれな」、「ゴージャスな」等の感性語のそれぞれに対して、例えば、3段階評価での評価値を入力し、このような3段階の評価値が感性ベクトルとして出力される。なお、当該処理は、感性ベクトル生成処理P2と同様である。
【0040】
感性語検索処理P4は、感性ベクトル生成処理P2によって生成された感性ベクトルに相関が高い画像特徴ベクトルを有する物件画像Iを物件画像DBから検索する。より詳細には、感性語検索処理P4は、感性ベクトル生成処理P2によって生成された感性ベクトルに相関が高い画像特徴ベクトルを、対応関係情報を参照して特定する。そして、特定した画像特徴ベクトルに近い画像特徴ベクトルを有する物件画像Iを選択することで、所望の物件画像Iを得ることができる。
【0041】
このようにして特定された物件画像は、候補物件画像ICとして出力される。なお、候補物件画像ICが複数存在する場合には、特定した画像特徴ベクトルに近い画像特徴ベクトルを有する順に出力(提示)することができる。
【0042】
以上に説明したように、本発明の実施形態では、学習対象となる物件画像から画像特徴ベクトルを生成するとともに、物件画像から受ける印象を示す感性語の評価値から感性ベクトルを生成する。そして、画像特徴ベクトルと感性ベクトルの対応関係を示す対応関係情報を生成する。つづいて、ユーザが希望する物件を示す感性語の評価値を入力した場合には、感性ベクトルを生成し、感性ベクトルと相関関係が高い画像特徴ベクトルを特定し、特定した画像特徴ベクトルと距離が近い画像特徴ベクトルを有する物件画像を物件画像DBから検索して提示する。このため、希望する物件の印象に基づいて物件を検索することができるので、詳細な条件を決めることなく、所望の物件情報を検索することが可能となる。
【0043】
つぎに、
図5~
図11を参照して、詳細な動作について説明する。
図5は、
図4に示す破線で囲まれた生成処理に対応し、本実施形態において、学習対象となる物件画像および感性語から感性検索空間および感性モデルを生成する際の詳細な動作を説明するための図である。
図5に示す各ブロックは、
図3に示すハードウエア資源と、HDD44およびROM42等に格納されているソフトウエア資源とが協働することによって実現される。なお、
図5に示す各ブロックの少なくとも一部を、
図1に示す管理者端末20において実行するようにしてもよい。
【0044】
感性検索空間および感性モデルを生成する際には、学習対象となる物件画像Iが入力される。なお、学習対象となる物件画像Iは、ある程度の枚数を準備することが望ましい。このような物件画像Iは、画像特徴ベクトル生成処理P1により特徴量が抽出されて画像特徴ベクトルが生成されるとともに、感性ベクトル生成処理P2により複数の評価者によって評価された感性語Wから感性ベクトルが生成され、画像特徴ベクトルと感性ベクトルに基づいて感性検索空間および感性モデルが生成される。
【0045】
より詳細には、画像特徴ベクトル生成処理P1では、物件画像Iから色特徴、形状特徴、および、テクスチャ特徴を抽出し、画像特徴ベクトルを生成する。色特徴としては、知覚的均等性を比較的保持しているCIEL*a*b*色空間のカラーヒストグラムを、64色に減色して採用する。形状特徴としは、局所領域のセルの輝度から得られる勾配特徴をヒストグラム化したHOG(Histograms of Oriented Gradients)により抽出する。テクスチャ特徴については、CS-LBP(Center-Symmetric Local Binary Pattern)とGLCM(Gray-Level Co-occurrence Matrix)を計算して用いる。CS-LBPは、16次元のベクトルであり、平坦画像領域に対して頑健性をもつことから、壁や床のテクスチャ記述に適している。GLCMを用いた方法は、統計的なテクスチャに対する特徴抽出法の中では最も効果的な抽出効果をもたらすとされている。GLCMから算出される、画像のコントラスト、相関、均一性、均質性の4種類の値を特徴量とする。GLCM以外の三つの特徴量については、画像のサイズによる違いをなくすため、画素数で割って正規化する。計算した四つの特徴量を一つのベクトルに合成し、120次元の画像特徴ベクトルとする。さらに、色特徴、形状特徴、および、テクスチャ特徴に加え、例えば、ディープニューラルネットワークによって抽出された特徴を用いるようにしてもよい。より詳細には、例えば、5つの畳み込み層と3つの完全に接続された層を有するディープニューラルネットワーク(例えば、AlexNet)を使用し、最初の2つの完全に接続された層の出力値を特徴ベクトルとして使用することができる。
【0046】
図6は、評価者によって、物件画像に対する感性語を登録するための画面の表示例である。
図6の例では、左側に物件の内部を撮像した物件画像Iが表示され、右側には当該物件に関する感性語による評価を入力するラジオボタンが表示されている。
図6の例では、感性語として「清々しい」、「暖かい」、「落ち着いた」、「明るい」、「おしゃれな」、および、「ゴージャスな」が表示され、それぞれの感性語の右側には、感性語を3段階のリッカートスケール(Likert Scale)によって評価するための「そう思う」、「どちらでもない」、および、「思わない」を選択するためのラジオボタンが表示されている。評価者は、物件画像を参照しながら、ラジオボタンを選択することで自己の評価を入力する。なお、
図6の例では、「清々しい」、「暖かい」、「落ち着いた」、「明るい」、「おしゃれな」、および、「ゴージャスな」のそれぞれに対して、「どちらでもない」、「そう思う」、「思わない」、「どちらでもない」、「そう思う」、および、「思わない」が選択されて入力されている。
【0047】
図6のラジオボタンにおいて入力された感性語Wに対する評価である「そう思う」、「どちらでもない」、「思わない」に対して、例えば、2,1,0の数値をそれぞれ割り当てることで感性ベクトルを生成する。もちろん、これ以外の方法で感性ベクトルを生成してもよい。
【0048】
つぎに、このように生成された画像特徴ベクトルと感性ベクトルとに対してカーネル正準相関分析処理P11を実施することで、これらの間の相関関係を学習し、感性検索空間D1を構築する。非線形構造を持つデータに対応したカーネル正準相関分析(Kernel Canonical Correlation Analysis: KCCA)は、正則化正準相関分析にカーネル法を適用した手法であり、2種類の観測データ間の相関関係を解析することができる。ここで、感性ベクトル群X=(x1,x2,・・・,xn)および画像特徴ベクトル群Y=(y1,y2,・・・,yn)について分析を行う。nは、観測されたサンプル数を示す。ここで、まず、データX,Yを写像φX,φYを用いてX→φX(X),Y→φY(Y)として高次元の特徴空間に射影する。カーネル正準相関分析では、式(1)に示すφX(X),φY(Y)の線形変換で写像された正準変量sとtの相関が最大になるような検索空間が構成される。
【0049】
【0050】
実際には、φX(X),φY(Y)を直接計算する必要はなく、式(2)を満たすようなカーネル関数を導入し、リプレゼンター定理を用いて、式(3)とすることで、線形の正準相関分析と同じように一般化固有値問題として解くことができる。ただし、α,βはカーネル正準相関分析のパラメータである。
【0051】
【0052】
【0053】
sとtの相関係数ρは、あらかじめφX(X)とφY(Y)の標本平均を0にし、二次の正則化項を含めると、式(4)によって計算することができる。但し、KX,KYはグラム行列を示し、γa,γbは正則化パラメータを表す。
【0054】
【0055】
つぎに、感性検索空間上で正準変量sから正準変量tを推定する以下の式(5)で示す感性モデルD2を回帰分析処理P12(または最小二乗処理)により生成する。
【数5】
・・・(5)
【0056】
以上の処理により、感性検索空間D1および感性モデルD2が生成される。
【0057】
つぎに、物件情報の管理者が物件画像を登録するとともに、以上の処理によって生成された感性検索空間および感性モデルを用いて登録された物件情報をユーザが検索する際の動作について
図7を参照して説明する。
図7に示すように、管理者が登録しようとする(N枚の)物件画像Iに対して、
図5と同じ画像特徴ベクトル生成処理P1が施される。これにより、画像特徴ベクトルy=(y
1,y
2,・・・,y
M)が生成される。
【0058】
つづいて、生成された画像特徴ベクトルに対して、前述したカーネル正準相関変換処理P11を施すことで、物件画像の正準変量tを求める。
【0059】
つぎに、管理者は、例えば、
図8に示す画面において、画像特徴ベクトルを生成した物件画像に関する物件条件情報を入力する。
図8の例では、画面の左側には物件の内部を撮像した物件画像が表示され、その右側には、新築一戸建てまたは中古一戸建てのいずれかを指定する「物件分類」、最も近い駅を選択する「最寄り駅」、駅からの物件までの距離を示す「駅からの距離」、物件の取引価格を示す「価格」、物件の間取りを示す「間取り」、および、物件の住宅品質確保促進法における物件の耐震性を示す「耐震性」が表示されている。
図8のような画面において、必要項目を入力することで、
図7に示す物件条件情報D3が生成されて登録される。なお、
図8に示す入力項目は一例であって、これ以外の項目を含んだり、これらの一部のみを入力したりするようにしてもよい。また、以上では、画像特徴ベクトルの生成に続いて、物件情報が入力されるようにしたが、これらの順序は特に限定されない。物件情報が入力された後に画像特徴ベクトルが生成されるようにしてもよいし、これらを同時並行で行うようにしてもよい。
【0060】
管理者は、以上の処理を繰り返すことで、複数の新たな物件画像を検索対象として登録する。これにより、サーバ40には、物件画像、物件画像から生成された正準変量t、および、物件の条件を示す物件条件情報が関連付けされて登録される。
【0061】
つぎに、所望の物件を検索しようとするユーザは、ユーザ端末10を操作してサーバ40の物件情報検索を行う所定のサイトにアクセスする。この結果、ユーザ端末10の表示装置18には
図9に示すような画面が表示される。ユーザは、
図9に示す画面において、所望の物件を調べるための情報を入力する。
図9では、図の左側には物件条件情報が入力され、右側には感性語が入力される。より詳細には、
図9の左側では物件分類、最寄り駅、価格、および、間取りが入力される。また、
図9の左側では、感性語である「清々しい」、「暖かい」、「落ち着いた」、「明るい」、「おしゃれな」、および、「ゴージャスな」のそれぞれについて、スライダを操作することで、例えば、2,1,0の値を入力することができる。なお、
図9ではスライダによって評価するようにしたが、ラジオボタンを使用するようにしてもよい。もちろん、評価値も「はい」、「いいえ」ではなく、「そう思う」、「思わない」でもよい。
【0062】
図9に示す画面において、感性語に対する評価値が入力されると、
図7に示す感性ベクトル生成処理P2によって感性語Wの評価値から入力感性ベクトルx
inputが生成される。入力感性ベクトルx
inputは、以下の式(6)によって感性検索空間上に写像される。つぎに、式(5)に示す感性モデルにしたがって、画像特徴ベクトルの正準変量t(ハット付t)を推定する。
【0063】
【0064】
つぎに、
図9の左側において、入力された物件条件情報を満たす画像群Iを、物件画像DBに保存されている画像群から選択する。つづいて、選択された画像群Iに含まれる推薦物件I(I∈I)を、感性検索空間上で、各物件画像の正準変量t(I)と、感性モデルを用いて推定した画像特徴ベクトルの推定正準変量t(ハット付t)との距離を比較することで、式(7)によって求める。そして、各物件画像の正準変量t(I)との距離が求まると、求めた距離が短い順にソートして提示する。
【0065】
【0066】
図10は、検索結果の物件を表示する画面の例である。
図10の例では、第1候補~第5候補の物件画像が表示されている。また、各物件画像の下には詳細な情報を見る場合に操作されるボタン「詳細情報を見る」が表示されている。なお、
図10の例では、
図9に示す画面の左側において入力された物件条件情報を満たす物件が、推定正準変量t(ハット付t)との距離が短い順に表示されている。
【0067】
図11は、
図10において、第1候補の下に表示されているボタン「詳細な情報を見る」が操作された場合に新たに表示される画面の一例である。
図11の例では、図の左側に物件の内側を撮像した画像が表示されている。物件画像の下には、物件の外観を見る場合に操作されるリンク、物件の間取りを見る場合に操作されるリンク、および、物件の所在地を示す地図を見る場合に操作されるリンクが表示されている。また、
図11の右側には、物件分類、最寄り駅、駅からの距離、価格、間取り、および、耐震性が表示されている。
【0068】
なお、
図9では、物件条件情報の全ての項目が入力されているが、一部の条件情報だけを入力するようにしてもよい。例えば、最寄り駅だけと、感性語とを入力するようにしてもよい。そのような場合には、最寄り駅が該当する物件情報が特定され、特定された物件情報の中から、感性語による検索が行われ、推定正準変量t(ハット付t)との距離が短い順に表示される。
【0069】
以上に説明したように、本発明の実施形態によれば、感性語を用いて検索を行うようにしたので、ユーザのイメージに近い物件を探し出すことが可能になる。
【0070】
また、物件条件情報とともに感性語を用いて物件情報を検索することで、ユーザのニーズに近い物件情報を迅速かつ確実に探し出すことができる。
【0071】
つぎに、
図12~
図14を参照して、以上の動作を実現するためのフローチャートの一例について説明する。
【0072】
図12は、物件画像から感性検索空間と感性モデルを生成する際に実行される処理の一例を示すフローチャートである。
図12に示すフローチャートが開始されると、以下のステップが実行される。なお、
図12に示すフローチャートは、
図1に示すサーバ40または管理者端末20で実行される。以下では、管理者端末20で実行される場合を例に挙げて説明する。
【0073】
ステップS10では、CPU21は、HDD24に格納されている情報を取得し、表示装置28に対して、
図6に示す物件画像に対する感性による評価登録画面を表示させる。このような画面において、評価者は、物件画像に対する感性語の評価値を入力する。
【0074】
ステップS11では、CPU21は、ステップS10で表示された物件画像に対する感性による評価登録画面において入力された感性語の入力を受ける。
【0075】
ステップS12では、CPU21は、物件画像に対する評価を継続するか否かを判定し、継続すると判定した場合(ステップS12:Y)にはステップS10に戻って他の物件画像に対する評価を繰り返し、それ以外の場合(ステップS12:N)にはステップS13の処理に進む。
【0076】
ステップS13では、CPU21は、ステップS11で入力された複数の感性語のそれぞれに対して感性ベクトルx=(x
1,x
2,・・・,x
N)(なお、
図6の例ではN=6)を生成する。
【0077】
ステップS14では、CPU21は、物件画像に対してプレ処理を実行する。より詳細には、物件画像は様々なカメラで、様々な撮影者、および、撮像条件下で撮像されることから、例えば、ホワイトバランス、明度、コントラスト等が画像毎に異なる場合があるので、CPU21は、物件画像を構成する画素の統計的な特徴に基づいて、ホワイトバランス、明度、コントラスト等が適正な範囲に収まるように補正処理をプレ処理として実行する。
【0078】
ステップS15では、CPU21は、物件画像の特徴量を抽出し、特徴量に基づいて画像特徴ベクトルy=(y1,y2,・・・,yM)を生成する処理を実行する。一例としては、前述したように、色特徴、形状特徴、テクスチャ特徴、および、ディープニューラルネットワークによって生成された特徴を抽出し、これらに基づいて画像特徴ベクトルを生成する。
【0079】
ステップS16では、CPU21は、感性ベクトル群X=(x1,x2,・・・,xn)および画像特徴ベクトル群Y(y1,y2,・・・,yn)から構成されるデータセット{(xi,yi)|i=1,2,・・・,n}に対して、カーネル正準相関分析処理を実行する。
【0080】
ステップS17では、CPU21は、感性検索空間を構築する処理を実行する。より詳細には、CPU41は、前述した式(1)に示すφx(X)とφY(Y)の線形変換で写像された正準変量sと正準変量tの相関が最大となるような感性検索空間を構築する。
【0081】
ステップS18では、CPU21は、感性検索空間上で正準変量sから正準変量tを推定する前述した式(5)で示す感性モデルを、回帰分析処理の結果に基づいて作成する。
【0082】
ステップS19では、CPU21は、ステップS11で入力された感性語をサーバ40のDB44aに登録する。また、CPU21は、ステップS17およびステップS18で生成された感性検索空間と感性モデルをサーバ40のDB44aに登録する。
【0083】
つぎに、
図13を参照して、管理者が物件画像および物件条件情報を登録する処理につて説明する。
図13に示すフローチャートの処理が開始されると、以下のステップが実行される。なお、
図13に示すフローチャートは、
図1に示すサーバ40または管理者端末20で実行される。以下では、管理者端末20で実行される場合を例に挙げて説明する。
【0084】
ステップS30では、CPU21は、
図8に示す画面に表示されているような物件画像をRAM23またはHDD24から取得する。
【0085】
ステップS31では、CPU21は、
図8に示す「物件画像に対する物件条件情報登録画面」を管理者端末20の表示装置28に表示させる。管理者は、
図8に示す画面において、物件画像に対する条件情報(例えば、物件種類等)を入力する。
【0086】
ステップS32では、CPU21は、
図8に示す画面において入力された物件条件情報をRAM23またはHDD24から取得する。
【0087】
ステップS33では、CPU21は、ステップS31で取得した物件画像に対してプレ処理を実行する。より詳細には、画像のサイズ、ホワイトバランス、明度、コントラスト等を補正する処理を実行する。
【0088】
ステップS34では、CPU21は、ステップS31で取得した物件画像から、色特徴、形状特徴、テクスチャ特徴、および、ディープニューラルネットワークの特徴を抽出し、画像特徴ベクトルy=(y1,y2,・・・,yM)を生成する。
【0089】
ステップS35では、CPU21は、ステップS31で取得した物件画像、ステップS32で取得した物件条件情報、および、ステップS34で生成した画像特徴ベクトルを対応付けする。
【0090】
ステップS36では、CPU21は、ステップS35で対応付けをした物件画像、物件条件情報、および、画像特徴ベクトルをサーバ40のDB44aに登録する。
【0091】
ステップS37では、CPU21は、別な物件画像に対して物件条件情報を登録する処理を繰り返すか否かを判定し、処理を繰り返すと判定した場合(ステップS37:Y)にはステップS30に戻って前述の場合と同様の処理を繰り返し、それ以外の場合(ステップS37:N)には処理を終了する。
【0092】
つぎに、
図14を参照して、ユーザが所望の物件を検索する際に実行される処理の一例について説明する。
図14に示すフローチャートの処理が開始されると、以下のステップが実行される。なお、
図14に示す処理は、
図1に示すサーバ40で実行される。もちろん、全ての処理がサーバ40で実行されるのではなく、ユーザ端末10において適宜一部の処理が実行されるようにしてもよい。どちらで実行される場合も本実施形態に含まれる。
【0093】
ステップS50では、CPU41は、
図1に示すユーザ端末10に対して情報を送信し、表示装置18に対して、
図9に示す物件検索画面を表示させる。ユーザは、ユーザ端末10の入力装置(例えば、キーボードまたは不図示のマウス)を操作して、物件条件情報を入力するとともに、物件に対する感性語による希望を入力する。
【0094】
ステップS51では、CPU41は、
図9に示す画面において入力された物件条件情報を取得する。例えば、
図9の例では、物件分類、最寄り駅、価格、間取り等の情報が取得される。
【0095】
ステップS52では、CPU41は、ステップS51で取得した物件条件情報による検索を行う。より詳細には、DB44aには、
図13のステップS35の処理によって物件画像、物件条件情報、および、画像特徴ベクトルが対応付けて格納されているので、これらの情報を、ステップS51で取得した物件条件情報に基づいて該当する物件を検索する。
【0096】
ステップS53では、CPU41は、
図9に示す画面において入力された感性語による希望を取得する。
【0097】
ステップS54では、CPU41は、
図9に示す画面において入力された感性語に基づいて入力感性ベクトルを生成する。より詳細には、CPU41は、
図9に示す画面において入力された感性語に基づいて入力感性ベクトルx
inputを生成する。
【0098】
ステップS55では、CPU41は、ステップS54で生成した入力感性ベクトルを、感性検索空間に写像する。より詳細には、CPU41は、入力感性ベクトルxinputを、前述した式(6)によって感性検索空間上に写像する。
【0099】
ステップS56では、CPU41は、画像特徴正準変量を推定する。より詳細には、CPU41は、
図12のステップS17で構成した感性モデルに基づいて画像特徴ベクトルの正準変量を推定する。
【0100】
ステップS57では、CPU41は、ステップS52における検索によって得られた物件画像の画像正準変量と、ステップS56で推定した画像特徴正準変量との距離を計算する。なお、ステップS52による検索の結果、複数の物件画像が得られた場合には、得られた物件画像のそれぞれの画像正準変量と、推定画像特徴正準変量との距離を計算する。
【0101】
ステップS58では、CPU41は、ステップS57において計算された距離が短い順に(昇順に)物件画像をソートする。
【0102】
ステップS59では、CPU41は、
図1に示すユーザ端末10に対して情報を送信し、表示装置18に対して、
図10に示す検索結果画面を表示させる。なお、
図10において、ボタン「詳細情報を見る」が操作された場合には、
図11に示す画面が表示される。
【0103】
ステップS60では、CPU41は、例えば、ユーザの指示に基づいて、処理を繰り返すか否かを判定し、処理を繰り返すと判定した場合(ステップS60:Y)にはステップS50に戻って前述の場合と同様の処理を繰り返し、それ以外の場合(ステップS60:N)には処理を終了する。例えば、ユーザが物件検索を新たに実行する指示を、入力装置に対して行った場合には、Yと判定してステップS50に戻って同様の処理を繰り返す。なお、
図10の例では、第6候補以降をユーザが参照することを希望することも考えられる。そのような場合には、ステップS50には戻らずに、第6候補以降(第6候補~第10候補)を表示する処理を実行するようにしてもよい。もちろん、第11候補以降についても同様である。
【0104】
以上のフローチャートの処理によれば、前述した動作を実現することができる。
【0105】
(C)変形実施形態の説明
以上の各実施形態は一例であって、本発明が上述したような場合のみに限定されるものでないことはいうまでもない。例えば、
図1に示す構成例では、ユーザ端末10、管理者端末20、および、サーバ40は、インターネット30を介して接続されるようにしたが、管理者端末20およびサーバ40は、LANを介して接続されるようにしてもよい。また、
図1に示す構成例では、ユーザ端末10、管理者端末20、および、サーバ40は、それぞれ1台ずつとしたが、これらを複数有するようにしてもよい。
【0106】
また、以上の実施形態では、カーネル正準相関分析を用いて検索空間を構築するようにしたが、これ以外にも、例えば、正準相関分析を用いて検索空間を構築するようにしてもよい。
【0107】
また、
図4のP3の処理で得られる感性モデルは固定とせずに、物件画像と感性評価の対応データが集まれば逐次更新するようにしてもよい。例えば、顧客が入力した感性語に対して、顧客が契約した物件の画像(必ずしも検索結果の順位が高くなくても良い)の組をデータとして利用することで、感性モデルを更新するようにしてもよい。その場合、サーバ40の使用されない時間帯(例えば、深夜)に、感性モデルを生成し、正準変量を計算し直すようにしてもよい。
【0108】
また、画像特徴ベクトルは、物件画像の色特徴、形状特徴、テクスチャ特徴、および、ディープニューラルネットワークによって抽出された特徴の少なくとも1つに基づいて算出するようにすることができる。すなわち、これらのいずれか1つ、任意の2つの組み合わせ、任意の3つの組み合わせ、4つ全ての組み合わせに基づいて算出するようにすることができる。
【0109】
なお、
図12~
図14に示すフローチャートは一例であって、本発明が
図11~
図14に示すフローチャートに限定されるものではない。
【符号の説明】
【0110】
1 物件情報検索システム
10 ユーザ端末
11 CPU
12 ROM
13 RAM
14 HDD
16 I/F
17 バス
18 表示装置
20 管理者端末
21 CPU
22 ROM
23 RAM
24 HDD
25 GPU
26 I/F
28 表示装置
30 インターネット
40 サーバ
41 CPU
42 ROM
43 RAM
44 HDD
44a DB
45 GPU
46 I/F
47 バス