(58)【調査した分野】(Int.Cl.,DB名)
【発明を実施するための形態】
【0009】
以下、添付図面を参照して、本発明の実施の形態について説明する。
<眼鏡試着システム1>
図1は、本実施の形態が適用される眼鏡試着システム1の概略構成図である。
図1に示すように、眼鏡試着システム1は、ユーザが眼鏡を試着している画像である試着画像を表示する眼鏡試着端末10と、ユーザが眼鏡を試着した結果を評価する眼鏡試着サーバ50と、眼鏡試着端末10および眼鏡試着サーバ50を接続するネットワーク90とを有する。
【0010】
眼鏡試着端末10は、コンピュータ装置によって構成される。この眼鏡試着端末10は、眼鏡試着システム1におけるクライアントとして機能する。眼鏡試着端末10は、ユーザの画像を取得するカメラ11と、ユーザに試着画像を表示するディスプレイ13と、ユーザが試着する眼鏡である試着眼鏡を検知するスキャナ15と、試着画像を形成する処理を行う画像処理部17(詳細は後述)とを有する。
【0011】
カメラ11は、眼鏡試着端末10の前に立つユーザの顔に対峙する位置に設けられている。このカメラ11は、ユーザの静止画像および動画を取得可能である。図示の例においては、カメラ11は、ユーザの動画を取得する。
【0012】
ディスプレイ13は、ユーザに画像を表示する表示領域を有する。図示のディスプレイ13は所謂大型ディスプレイであり、表示領域の大きさは、ユーザの頭部よりも大きい。図示の例において、ディスプレイ13の表示領域における上下方向の寸法は、ユーザの胸から頭部までの寸法よりも大きい。また、図示の例において、ディスプレイ13の表示領域における水平方向の寸法は、ユーザの肩幅の寸法よりも大きい。付言すると、ディスプレイ13は、ユーザの試着画像を、いわゆる等身大で表示することが可能である。さらに説明をすると、ディスプレイ13の表示領域は、複数のユーザの試着画像を等身大で表示することが可能な大きさである。なお、等身大とは、実物と一致する寸法だけでなく、実物との差が例えば30%以内であることを含む。
【0013】
スキャナ15は、試着眼鏡に取り付けられたICチップ(不図示)などを検知することにより試着眼鏡を識別する。図示の例においては、スキャナ15は試着眼鏡を載せるテーブル型の形状をしている。
【0014】
眼鏡試着サーバ50は、コンピュータ装置によって構成される。この眼鏡試着サーバ50は、眼鏡試着システム1におけるサーバとして機能する。眼鏡試着サーバ50は、眼鏡試着端末10を操作するユーザの試着を評価する機能を備えている。詳細は後述するが、眼鏡試着サーバ50は、試着の結果を数値化(スコア化)することで、試着の評価を行う。
【0015】
ネットワーク90は、装置間のデータ交換に用いられる通信ネットワークである。図示のネットワーク90は、インターネットにより構成されるが、特に限定されるものではなく、例えばLAN(Local Area Network)、WAN(Wide Area Network)であってもよい。また、ネットワーク90の通信回線は、有線か無線かを問わず、これらを併用してもよい。
【0016】
なお、図示の例においては、眼鏡試着システム1が2つの眼鏡試着端末10を有しているが、眼鏡試着端末10の数は特に限定されない。眼鏡試着システム1は、1つまたは3つ以上の眼鏡試着端末10を有する構成であってもよい。
【0017】
さて、眼鏡試着システム1は、ユーザが眼鏡の販売店などにおいて行う眼鏡の試着を支援する装置である。ここで、眼鏡などの試着は、鏡などに映る自身の姿を見ながら行うことが一般的である。また、試着眼鏡は、所謂度無しのレンズが装着されたフレームであることが一般的である。
【0018】
したがって、例えばユーザが視力を矯正するレンズの眼鏡を既に着用している場合、ユーザが着用している眼鏡を外すと、ユーザは裸眼、すなわちユーザの視力が矯正されない状態となる。この状態においては、仮にユーザが試着眼鏡を着用しても、ユーザが自身の姿を鏡などで明確に見ることは困難である。さらに説明をすると、例えばユーザが自身の上半身全体におけるバランスを見ながら試着をしたい場合などにおいて、ユーザは鏡から離れた位置に立つことがある。この状態においては、ユーザが近視であると、試着用眼鏡を着用したとしても鏡に映る自身の姿を明確に視認することができない。
【0019】
そこで、眼鏡試着システム1は、ユーザが眼鏡(以下、ユーザ眼鏡ということがある。)を着用した状態で、ユーザの顔画像を取得し、画像処理によりユーザ眼鏡の画像を消去する。そして、新たに試着眼鏡の画像を追加する。このことにより、ユーザがユーザ眼鏡を着用した状態で、試着の結果を視認することができる。
【0020】
<眼鏡試着端末10>
図2は、眼鏡試着端末10および眼鏡試着サーバ50の詳細構成を説明する図である。
次に、
図2を参照しながら眼鏡試着端末10の詳細構成について説明をする。
図2に示すように、眼鏡試着端末10は、カメラ11と、ディスプレイ13と、スキャナ15と、画像処理部17とを有する。
【0021】
ここで、画像処理部17は、ユーザ検出部171と、ユーザ眼鏡検出部173と、ユーザ眼鏡消去部175と、試着眼鏡検出部177と、試着眼鏡合成部181と、スコア画像形成部183とを有する。この画像処理部17は、カメラ11が取得した動画に画像処理を施し、ディスプレイ13へ表示する。すなわち、画像処理部17は、映像のリアルタイム処理を実行する。
【0022】
ユーザ検出部171は、カメラ11からの画像を取得するとともに、取得した画像に含まれるユーザの画像(以下、ユーザ画像ということがある。)を検出する。
ユーザ眼鏡検出部173は、ユーザ検出部171が検出したユーザ画像におけるユーザ眼鏡の画像(以下、ユーザ眼鏡画像ということがある。)を検出する。
【0023】
ユーザ眼鏡消去部175は、カメラ11が取得した画像においてユーザ眼鏡検出部173が検出したユーザ眼鏡画像を消去する。また、ユーザ眼鏡消去部175は、ユーザ眼鏡が消去された後のユーザ画像をディスプレイ13に表示する。ここで、ユーザ眼鏡消去部175は、例えば、ある人物が眼鏡を装着した画像と、同一の人物が眼鏡を装着していない画像との組を教師データとした機械学習などにより構築されるモデルによって構成される。なお、以下の説明においては、ユーザ眼鏡が消去された後のユーザ画像を消去画像ということがある。
【0024】
試着眼鏡検出部177は、試着眼鏡をユーザに選択させる指示を示す画像である指示画像をディスプレイ13に表示する。また、試着眼鏡検出部177は、スキャナ15が取得した信号から、ユーザが選択した試着眼鏡を検出する。また、試着眼鏡検出部177は、試着眼鏡の詳細な製品情報を示す画像である眼鏡情報画像をディスプレイ13に表示する。なお、試着眼鏡検出部177は、複数の試着眼鏡の製品情報を予め記憶しており、スキャナ15が取得した信号に従い、対応する試着眼鏡の製品情報の画像をディスプレイ13に表示する。
【0025】
試着眼鏡合成部181は、消去画像に試着眼鏡の画像(以下、試着眼鏡画像ということがある。)を合成した画像である合成画像を形成する。ここで、試着眼鏡合成部181は、例えば、ある人物が眼鏡を装着した画像と、同一の人物が眼鏡を装着していない画像との組を教師データとした機械学習などにより構築されるモデルによって構成される。また、試着眼鏡合成部181は、形成した合成画像をディスプレイ13に表示する。また、試着眼鏡合成部181は、ネットワーク90を介して眼鏡試着サーバ50に合成画像を送信する。また、試着眼鏡合成部181は、ユーザに待機することを指示する画像である待機画像をディスプレイ13に表示する。
【0026】
スコア画像形成部183は、試着眼鏡をユーザが試着した結果を示すスコアに関する情報をスコア算出部55から受け取る。また、スコア画像形成部183は、受け取った情報に応じて、スコアを示す画像であるスコア画像を形成する。また、スコア画像形成部183は、スコア画像をディスプレイ13に表示する。
【0027】
<眼鏡試着サーバ50>
次に、
図2を参照しながら眼鏡試着サーバ50の詳細構成について説明をする。
図2に示すように、眼鏡試着サーバ50は、顔画像検出部51と、試着眼鏡検出部53と、スコア算出部55とを有する。
【0028】
顔画像検出部51は、ネットワーク90を介して、眼鏡試着端末10の試着眼鏡合成部181から合成画像を受信する。また、顔画像検出部51は、受信した合成画像におけるユーザの顔の画像である顔画像を検出する。
試着眼鏡検出部53は、顔画像検出部51が受信した合成画像における試着眼鏡画像を検出する。
スコア算出部55は、顔画像検出部51が検出した顔画像、および試着眼鏡検出部53が検出した顔画像試着眼鏡画像に基づいて、試着の結果を示すスコアを算出する。また、スコア算出部55は、ネットワーク90を介して、眼鏡試着端末10のスコア画像形成部183に算出したスコアを送信する。ここで、スコア算出部55は、例えば、ある人物が眼鏡を装着した画像と、その画像のスコアとの組を教師データとした機械学習などにより構築されるモデルによって構成される。なお、教師データとして用いられるスコアは、例えば、眼鏡が似合う/似合わないなどの評価を行う評価者によって定められる。
【0029】
<眼鏡試着システム1の動作>
図3−1および
図3−2は、眼鏡試着システム1の動作例を示す図である。
次に、
図2、
図3−1および
図3−2を参照しながら、眼鏡試着システム1の動作例を具体的に説明する。
【0030】
まず、
図3−1(a)に示すように、眼鏡試着システム1の前に第1ユーザU1および第2ユーザU2が立つ。具体的には、眼鏡試着システム1のカメラ11が画像を取得可能な範囲に、第1ユーザU1および第2ユーザU2が入る。ここで、第1ユーザU1は、第1ユーザ眼鏡G1を装着している。また、第2ユーザU2は、第2ユーザ眼鏡G2を装着している。
【0031】
そして、カメラ11が取得した画像から画像処理部17が第1ユーザ眼鏡G1および第2ユーザ眼鏡G2のユーザ眼鏡画像を消去し、ディスプレイ13に消去画像が表示される。図示の例においては、消去画像は、第1ユーザ画像R1および第2ユーザ画像R2を有する。ここで、ディスプレイ13に表示される第1ユーザ画像R1および第2ユーザ画像R2は、第1ユーザ眼鏡G1および第2ユーザ眼鏡G2のユーザ眼鏡画像を含まない。
【0032】
次に、
図3−1(b)に示すように、第1ユーザ画像R1および第2ユーザ画像R2に重ねて、指示画像R3がディスプレイ13に表示される。図示の例においては、指示画像R3は「眼鏡を置いてください」の文字列を有する。この指示画像R3が表示されることにより、ユーザ(第1ユーザU1および第2ユーザU2)が試着眼鏡をスキャナ15に乗せる、すなわち試着眼鏡を選択するべきタイミングであることが分かる。
【0033】
次に、
図3−2(c)に示すように、ユーザ(第1ユーザU1および第2ユーザU2)によって、試着眼鏡G3がスキャナ15に置かれる。このことにともない、指示画像R3に替えて、待機画像R4がディスプレイ13に表示される。図示の例においては、待機画像R4は、待機時間の残り時間をそれぞれ示す数字画像R41および時計画像R42を有する。
【0034】
次に、
図3−2(d)に示すように、ディスプレイ13に試着画像が表示される。具体的には、既に表示されている第1ユーザ画像R1および第2ユーザ画像R2に、第1試着眼鏡画像R5および第2試着眼鏡画像R6が各々合成されて表示される。また、図示の試着画像には、第1ユーザU1が試着眼鏡G3を試着した結果を示す第1スコア画像R7と、第2ユーザU2が試着眼鏡G3を試着した結果を示す第2スコア画像R8と、試着眼鏡G3の情報を示す眼鏡情報画像R9とが含まれる。
【0035】
上記のように、眼鏡試着システム1によれば、ユーザはユーザ眼鏡を外す動作をすることなく、試着の結果を視認することができる。したがって、例えばスキャナ15に載せる試着眼鏡を取り換えるだけで、試着を繰り返すことが可能となる。また、眼鏡試着システム1によれば、ディスプレイ13に試着画像が動画として表示されるため、ユーザはディスプレイ13を鏡などのように利用することが可能となる。付言すると、眼鏡試着システム1においては、ユーザが姿勢を変化させることに応じて、ディスプレイ13に表示される試着画像が変化する。
【0036】
ここで、本実施の形態においては、第1ユーザ画像R1および第2ユーザ画像R2においてユーザ眼鏡画像を消去した上で、試着眼鏡画像を合成する。このことにより、ディスプレイ13上において、試着眼鏡画像とユーザ眼鏡画像とが重なって表示されることが抑制できる。
【0037】
なお、眼鏡試着システム1においては、ユーザ眼鏡画像を消去した画像に対して、試着眼鏡画像を重ねて表示する。このように試着眼鏡画像が重ねて表示されることから、ユーザ眼鏡画像を消去する画像処理において、ユーザ眼鏡画像が全て消去されない状態であっても許容される。すなわち、眼鏡試着システム1においては、ユーザ眼鏡画像の一部が消去されない状態であってもよい。また、例えば、ユーザ眼鏡画像を消去する画像処理としては、ユーザ眼鏡画像を消去することだけでなく、ユーザ眼鏡画像の透明度を上げるなど、ユーザ眼鏡画像の視認性を低下させる処理を行ってもよい。
【0038】
<眼鏡試着システム1の動作>
図4−1および
図4−2は、眼鏡試着システム1における眼鏡試着端末10の動作を示すフローチャートである。
図5は、眼鏡試着システム1における眼鏡試着サーバ50の動作を示すフローチャートである。
【0039】
次に、
図1乃至
図5を参照しながら、眼鏡試着システム1の動作について説明をする。ここでは、眼鏡試着システム1における眼鏡試着端末10の動作について説明をしたのちに、眼鏡試着サーバ50の動作について説明をする。
【0040】
図4−1に示すように、まず、カメラ11に対向する位置にユーザが立つことで、ユーザ検出部171がユーザを検出し、ユーザを含めた画像を取得する(S401、
図3−1(a)参照)。そして、ユーザ眼鏡検出部173が、ユーザ眼鏡画像を検出する(S402)。そして、ユーザ眼鏡消去部175が、ユーザ眼鏡画像を消去し、消去画像(第1ユーザ画像R1および第2ユーザ画像R2)をディスプレイ13に表示する(S403、
図3−1(a)参照)。そして、試着眼鏡検出部177が、指示画像R3をディスプレイ13に表示する(S404、
図3−1(b)参照)。
【0041】
次に、試着眼鏡検出部177が、試着眼鏡を検出したか否かを判断する(S405)。試着眼鏡検出部177が試着眼鏡G3を検出した場合(S405でYES、
図3−2(c)参照)、試着眼鏡合成部181が待機画像R4をディスプレイ13に表示する(S406)。
【0042】
次に、
図4−2に示すように、試着眼鏡合成部181が、試着眼鏡画像(第1試着眼鏡画像R5および第2試着眼鏡画像R6)を合成する(S407)。そして、試着眼鏡合成部181が、ネットワーク90を介して、眼鏡試着サーバ50に合成画像を送信する(S408)。そして、スコア画像形成部183が、ネットワーク90を介して、眼鏡試着サーバ50からスコアに関する情報を受信する(S409)。そして、スコア画像形成部183がスコア画像(第1スコア画像R7および第2スコア画像R8)を形成する(S410、
図3−2(d))。
【0043】
次に、試着眼鏡検出部177が、眼鏡情報画像R9を形成する(S411)。そして、試着眼鏡検出部177およびスコア画像形成部183が、試着眼鏡画像(第1試着眼鏡画像R5および第2試着眼鏡画像R6)を含む合成画像、および眼鏡情報画像R9をディスプレイ13に表示する(S412)。
【0044】
次に、
図5を参照しながら、眼鏡試着サーバ50の動作について説明をする。
図5に示すように、まず、顔画像検出部51が、スコア画像形成部183から合成画像を受信したかを判断する(S501)。そして、顔画像検出部51が合成画像を受信した場合(S501でYES)、顔画像検出部51が、合成画像における顔画像を検出する(S502)。また、試着眼鏡検出部53が、合成画像における試着眼鏡画像を検出する(S503)。
【0045】
次に、スコア算出部55が、検出された顔画像および試着眼鏡画像に基づいてスコアを算出する(S504)。そして、スコア算出部55は、算出したスコアを眼鏡試着端末10に送信する(S505)。
【0046】
<眼鏡試着端末10のハードウェア構成>
図6は、眼鏡試着端末10のハードウェア構成例を示した図である。
図6に示すように、眼鏡試着端末10は、CPU101と、RAM102と、ROM103と、記憶部104と、ディスプレイ13と、スピーカ106と、マイク107と、カメラ11と、GPSセンサ109と、通信I/F110とを備える。
【0047】
CPU101は、ROM103等に記憶された各種プログラムをRAM102にロードして実行することにより、眼鏡試着端末10の上記各機能を実現する。
RAM102は、CPU101の作業用メモリ等として用いられるメモリである。
ROM103は、CPU101が実行する各種プログラム等を記憶するメモリである。
記憶部104は、各種アプリのプログラム、および当該プログラムによって使用される各種データ等を記憶する例えばフラッシュメモリである。
ディスプレイ13は、各種情報の表示やユーザからの操作入力の受付を行う例えばタッチパネルである。
【0048】
スピーカ106は、通話先から受信された受話音声を含む種々の音声を出力する。
マイク107は、ユーザの発話音声を含む種々の音声を取得する。
カメラ11は、レンズと、CMOS(Complementary Metal-Oxide Semiconductor)などの撮像素子(画像センサ)とを含み、被写体を撮影する。
【0049】
GPSセンサ109は、GPS(Global Positioning System)信号を取得し、眼鏡試着端末10の位置情報を取得する。
通信I/F110は、ネットワーク90(
図1参照)などを介して他の通信機器との間でデータを送受信する。
【0050】
ここで、CPU101によって実行されるプログラムは、半導体メモリなどのコンピュータが読取可能な記録媒体に記憶した状態で、眼鏡試着端末10へ提供し得る。また、CPU101によって実行されるプログラムは、ネットワーク90を介して眼鏡試着端末10へダウンロードしてもよい。例えば、眼鏡試着端末10の上記各機能を実現するプログラムを、アプリとして眼鏡試着端末10へダウンロードしてもよい。
【0051】
<眼鏡試着サーバ50のハードウェア構成>
図7は、眼鏡試着サーバ50のハードウェア構成例を示した図である。
図7に示すように、眼鏡試着サーバ50は、CPU501と、RAM(Random Access Memory)502と、ROM(Read Only Memory)503と、HDD(Hard Disk Drive)504と、通信I/F505とを備える。
【0052】
CPU501は、ROM503等に記憶された各種プログラムをRAM502にロードして実行することにより、眼鏡試着サーバ50の上記各機能を実現する。
RAM502は、CPU501の作業用メモリ等として用いられるメモリである。
ROM503は、CPU501が実行する各種プログラム等を記憶するメモリである。
HDD504は、各ユーザの基本情報等を記憶する例えば磁気ディスク装置である。
通信I/F505は、ネットワーク90(
図1参照)を介して他の装置との間で各種情報の送受信を行う。
【0053】
ここで、CPU501によって実行されるプログラムは、半導体メモリなどのコンピュータが読取可能な記録媒体に記憶した状態で、眼鏡試着サーバ50へ提供しうる。また、CPU501によって実行されるプログラムは、ネットワーク90を介して眼鏡試着サーバ50へダウンロードしてもよい。例えば、眼鏡試着サーバ50の上記各機能を実現するプログラムを、アプリとして眼鏡試着サーバ50へダウンロードしてもよい。
【0054】
<変形例>
上記においては、眼鏡試着システム1の眼鏡試着端末10において、ユーザ眼鏡画像の消去や試着眼鏡画像の合成などの画像処理を行ったが、この構成に限定されない。例えば、眼鏡試着端末10が画像処理部17を備えず、眼鏡試着サーバ50が上記画像処理部17の機能を備える構成としてもよい。なお、眼鏡試着端末10は、携帯電話(例えば、所謂スマートフォン)、情報端末(例えば、所謂タブレット)、あるいはパソコンなどにより構成されても良い。
【0055】
また、上記においては、眼鏡試着システム1が眼鏡試着端末10および眼鏡試着サーバ50を有する構成を説明したが、これに限定されない。例えば、眼鏡試着サーバ50を設けず、眼鏡試着端末10においてスコアを算出する構成としてもよい。また、スコアの算出およびスコア画像の表示を行わない構成としてもよい。なお、眼鏡試着端末10は、携帯電話、情報端末、あるいはパソコンなどで構成される場合において、これら携帯電話などにおいてスコアを算出する構成としてもよいし、スコアの算出およびスコア画像の表示を行わない構成としてもよい。
【0056】
また、上記においては、テーブル型のスキャナ15に試着眼鏡を置くことで、ユーザが選択した試着眼鏡を検知することを説明したが、これに限定されない。例えば、各試着眼鏡に識別画像が形成されたシールなどを貼り付けておき、この識別画像を読み取ることでユーザが選択した試着眼鏡を検知してもよい。また、ディスプレイ13に試着眼鏡を複数表示し、ユーザがディスプレイ13に触れることなどにより、試着眼鏡を検知してもよい。さらに説明をすると、眼鏡試着システム1にスキャナ15を設けない構成であってもよい。
【0057】
また、上記においては、2人のユーザの試着画像が同時に表示されることを説明したが、ユーザの人数は特に限定されない。1人のユーザの試着画像を表示してもよいし、3人以上の試着画像を表示してもよい。
また、上記においては、試着画像が動画として表示されることを説明したが、静止画で表示されてもよい。
また、上記においては、眼鏡試着システム1を眼鏡の試着に用いることについて説明をしたが、ユーザの身に付けるもの、あるいはユーザの体の一部に関するものであれば眼鏡に限定されるものではない。例えば、眼鏡試着システム1を、衣服の試着、化粧品の試用、メイク方法の提案、整形方法の検討、髪型の決定などにおいて用いてもよい。
【0058】
なお、上記では種々の実施形態および変形例を説明したが、これらの実施形態や変形例同士を組み合わせて構成してももちろんよい。
また、本開示は上記の実施形態に何ら限定されるものではなく、本開示の要旨を逸脱しない範囲で種々の形態で実施することができる。
【0059】
眼鏡試着端末10は、眼鏡試着支援装置の一例である。ユーザ検出部171は、取込部の一例である。ユーザ眼鏡消去部175は、低下部の一例である。試着眼鏡合成部181は、追加部および表示部の一例である。第1ユーザ眼鏡G1は、第1眼鏡の一例である。試着眼鏡G3は、第2眼鏡の一例である。試着眼鏡検出部177は、取得部の一例である。ICチップは、識別子の一例である。第1スコア画像R7は、評価画像の一例である。ディスプレイ13は、表示領域の一例である。
【解決手段】本発明の眼鏡試着支援装置は、第1眼鏡を装着しているユーザの画像であるユーザ画像を取り込む取込部と、取込部が取り込んだユーザ画像における第1眼鏡の画像である第1眼鏡画像の視認性を低下させる低下部と、低下部が第1眼鏡画像を除去したユーザ画像に、第1眼鏡とは異なる第2眼鏡の画像である第2眼鏡画像を追加する追加部と、追加部が第2眼鏡画像を追加したユーザ画像を、第1眼鏡を装着しているユーザに表示させる表示部とを有する。