IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 株式会社豊田自動織機の特許一覧

<>
  • 特開-車両カスタム支援システム 図1
  • 特開-車両カスタム支援システム 図2
  • 特開-車両カスタム支援システム 図3
  • 特開-車両カスタム支援システム 図4
  • 特開-車両カスタム支援システム 図5
  • 特開-車両カスタム支援システム 図6
  • 特開-車両カスタム支援システム 図7
  • 特開-車両カスタム支援システム 図8
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2024071114
(43)【公開日】2024-05-24
(54)【発明の名称】車両カスタム支援システム
(51)【国際特許分類】
   G06T 19/00 20110101AFI20240517BHJP
   H04N 7/18 20060101ALI20240517BHJP
   G09G 5/377 20060101ALI20240517BHJP
   G09G 5/00 20060101ALI20240517BHJP
   G09G 5/37 20060101ALI20240517BHJP
   G09G 5/10 20060101ALI20240517BHJP
   G09G 5/02 20060101ALI20240517BHJP
   G09G 5/373 20060101ALI20240517BHJP
   G09G 5/38 20060101ALI20240517BHJP
【FI】
G06T19/00 600
H04N7/18 U
G09G5/377 100
G09G5/00 550H
G09G5/37 320
G09G5/10 B
G09G5/02 B
G09G5/37 300
G09G5/373
G09G5/38 100
【審査請求】未請求
【請求項の数】5
【出願形態】OL
(21)【出願番号】P 2022181878
(22)【出願日】2022-11-14
(71)【出願人】
【識別番号】000003218
【氏名又は名称】株式会社豊田自動織機
(74)【代理人】
【識別番号】110000394
【氏名又は名称】弁理士法人岡田国際特許事務所
(72)【発明者】
【氏名】寺井 英晃
(72)【発明者】
【氏名】溝邉 伸明
【テーマコード(参考)】
5B050
5C054
5C182
【Fターム(参考)】
5B050AA10
5B050BA09
5B050DA04
5B050EA09
5B050EA19
5B050EA27
5C054CA04
5C054CC02
5C054FC12
5C054FE14
5C054FE17
5C182AB08
5C182AC04
5C182BA01
5C182BA06
5C182BA14
5C182BA65
5C182BA66
5C182BC03
5C182BC14
5C182BC26
5C182CA01
5C182CA33
5C182CA34
5C182CA36
5C182CB11
5C182CB42
5C182CB44
5C182CB54
5C182CC24
5C182DA53
(57)【要約】
【課題】利用者が望む画角及び光源環境に基づいて装着パーツ(カスタムパーツ)が車両に装着された状態をディスプレイ装置に表示させることができる車両カスタム支援システムを提供する。
【解決手段】車両カスタム支援システムは、車両を含む車両画像に、車両に取付け可能な装着パーツの画像である調整パーツ画像を重ねてディスプレイ装置に表示させる処理部を有する。処理部は、車両の車体への照射光に応じて変化する照射光情報を車両画像に基づいて取得し、照射光情報に基づいて調整パーツ画像を生成する。
【選択図】図6
【特許請求の範囲】
【請求項1】
車両カスタム支援システムであって、
車両を含む車両画像に、前記車両に取付け可能な装着パーツの画像である調整パーツ画像を重ねてディスプレイ装置に表示させる処理部を有し、
前記処理部は、
前記車両の車体への照射光に応じて変化する照射光情報を前記車両画像に基づいて取得し、
前記照射光情報に基づいて前記調整パーツ画像を生成する、
車両カスタム支援システム。
【請求項2】
請求項1に記載の車両カスタム支援システムであって、
前記処理部は、
前記車両画像に含まれる前記車体を分割して得られる車体分割領域における接平面の法線角度と、前記車体分割領域の前記車両画像における明度と、の相関関係を前記照射光情報として取得し、
前記調整パーツ画像に含まれる前記装着パーツの表面を分割して得られるパーツ分割領域における接平面の法線角度及び前記相関関係に基づいて前記パーツ分割領域の明度であるパーツ分割領域明度を取得する、
車両カスタム支援システム。
【請求項3】
請求項2に記載の車両カスタム支援システムであって、
前記処理部は、
前記車体分割領域の反射率に対する前記パーツ分割領域の反射率の比率に基づいて前記パーツ分割領域明度を取得する、
車両カスタム支援システム。
【請求項4】
請求項1に記載の車両カスタム支援システムであって、
前記処理部は、
前記車体に対して予め取得された基準車体色と、前記車両画像に含まれる前記車体の画像車体色と、の差分に相関する値である色彩差分値を前記照射光情報として取得し、
前記装着パーツに対して予め取得された基準パーツ色及び前記色彩差分値に基づいて前記調整パーツ画像を生成する、
車両カスタム支援システム。
【請求項5】
請求項1乃至請求項4の何れか一項に記載の車両カスタム支援システムであって、
前記処理部は、
前記車両画像に基づいて前記車両の位置、大きさ及び角度を含む画像内車両情報を取得し、
前記装着パーツの立体形状及び前記画像内車両情報に基づいて、前記車両に取付けられる前記装着パーツの大きさ及び角度に応じた前記調整パーツ画像を生成する、
車両カスタム支援システム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、車両カスタム支援システムに関する。例えば、装着パーツ(カスタムパーツ)が車両に装着された状態を表す画像をディスプレイに表示させる車両カスタム支援システムに関する。
【背景技術】
【0002】
この種のシステムの1つ(従来システム)は、利用者によって選択されたホイール(即ち、装着パーツ)を車両の側面画像に重ねてディスプレイに表示させる。加えて、従来システムでは、予め用意された複数の背景画像の中から利用者が選択した画像を車両の背景として表示させることができる。従って、従来システムによれば、実際の車両及び装着パーツを用いなくても装着パーツが車両に装着された状態を確認することができる。即ち、従来システムを用いて装着パーツを仮想的に試着することが可能となる(例えば、特許文献1を参照)。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2010-262544号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、従来システムでは、車両の画角(即ち、車両を視認する方向)は側面に限られる。そのため、利用者が装着状態を確認したい状況に即して装着パーツをディスプレイ上にて試着することが従来システムによっては困難である場合が発生し得る。そこで、利用者が選択した車両画像に対して装着パーツの画像を重ねてディスプレイに表示させることが考えられる。
【0005】
この場合、車両画像に含まれる車両(車体)に照射される光(照射光)の向き及び色に応じて車体に陰影が生じ且つ車体の色が変化している可能性が高い。そのため、車両画像に重ねて表示される装着パーツの画像に対して照射光の考慮がされていなければ、利用者が違和感を覚える虞がある。
【0006】
本発明は、このような点に鑑みて創案されたものであり、車両画像に含まれる車両への照射光に応じた装着パーツの画像を車両画像に重ねて表示することができる車両カスタム支援システムを提供することを目的とする。
【課題を解決するための手段】
【0007】
上記課題を解決するため、本発明の第1の発明に係る車両カスタム支援システムは、車両を含む車両画像に、前記車両に取付け可能な装着パーツの画像である調整パーツ画像を重ねてディスプレイ装置に表示させる処理部を有している。前記処理部は、前記車両の車体への照射光に応じて変化する照射光情報を前記車両画像に基づいて取得し、前記照射光情報に基づいて前記調整パーツ画像を生成する。
【0008】
本発明の第2の発明は、上記第1の発明に係る車両カスタム支援システムであって、前記処理部が、前記車両画像に含まれる前記車体を分割して得られる車体分割領域における接平面の法線角度と、前記車体分割領域の前記車両画像における明度と、の相関関係を前記照射光情報として取得し、前記調整パーツ画像に含まれる前記装着パーツの表面を分割して得られるパーツ分割領域における接平面の法線角度及び前記相関関係に基づいて前記パーツ分割領域の明度であるパーツ分割領域明度を取得する。
【0009】
本発明の第3の発明は、上記第2の発明に係る車両カスタム支援システムであって、前記処理部が、前記車体分割領域の反射率に対する前記パーツ分割領域の反射率の比率に基づいて前記パーツ分割領域明度を取得する。
【0010】
本発明の第4の発明は、上記第1の発明に係る車両カスタム支援システムであって、前記処理部が、前記車体に対して予め取得された基準車体色と、前記車両画像に含まれる前記車体の画像車体色と、の差分に相関する値である色彩差分値を前記照射光情報として取得し、前記装着パーツに対して予め取得された基準パーツ色及び前記色彩差分値に基づいて前記調整パーツ画像を生成する。
【0011】
本発明の第5の発明は、上記第1乃至第4の発明に係る車両カスタム支援システムであって、前記処理部が、前記車両画像に基づいて前記車両の位置、大きさ及び角度を含む画像内車両情報を取得し、前記装着パーツの立体形状及び前記画像内車両情報に基づいて、前記車両に取付けられる前記装着パーツの大きさ及び角度に応じた前記調整パーツ画像を生成する。
【発明の効果】
【0012】
第1の発明では、車両画像に含まれる車両への照射光の方向(光源方向)及び/又は色(光源色)に応じて変化する照射光情報に基づいて調整パーツ画像(即ち、装着パーツの画像)が生成される。従って、第1の発明によれば、照射光に応じて調整パーツ画像が生成されるので、車両画像に調整パーツ画像を重ねて得られる画像(装着画像)を見た利用者が違和感を覚える可能性を低下させることが可能となる。
【0013】
第2の発明では、車両画像に含まれる車両(車体)の立体形状(具体的には、車体表面の凹凸)が、車体分割領域に対応する法線角度の集合によって表される。法線角度と明度との相関関係(即ち、車体表面の陰影)は、光源方向に応じて変化する。従って、第2の発明によれば、光源方向に応じて生じた車体表面の陰影に基づいてパーツ分割領域明度が取得される。その結果、車体表面の陰影が反映された調整パーツ画像を生成することが可能となる。
【0014】
第3の発明では、車体及び装着パーツの反射率に基づいてパーツ分割領域明度が取得される。従って、第3の発明によれば、車体と装着パーツの反射率が互いに異なる場合(例えば、車体が金属製であり且つ装着パーツが樹脂製である場合)であっても、反射率の違いが反映された調整パーツ画像を生成することが可能となる。
【0015】
第4の発明では、光源色に応じて変化する色彩差分値に基づいて調整パーツ画像が生成される。従って、光源色が反映された調整パーツ画像を生成することが可能となる。
【0016】
第5の発明では、車両画像から車両の位置及び大きさ等が画像内車両情報として抽出され且つ画像内車両情報に基づいて調整パーツ画像が生成される。従って、第5の発明によれば、利用者に選択された車両画像に含まれる車両に対して調整パーツ画像が適切に生成される可能性が高くなる。
【図面の簡単な説明】
【0017】
図1】本発明の実施形態に係る車両カスタム支援システムの概略構成図である。
図2】車両カスタム支援システムにて用いられる、端末座標系及び車両座標系を示した図である。
図3】装着パーツ(試着パーツ)の画像が重ねられる前の車両画像を示した図である。
図4】車両画像に試着パーツの画像が重ねられた装着画像を示した図である。
図5】装着画像を明度の分布と共に示した図である。
図6】車両カスタム支援システムのサーバと移動端末との間で送受されるデータの例を示したシーケンス図である。
図7】車両カスタム支援システムのサーバが実行する「画像生成処理ルーチン」を示したフローチャートである。
図8】試着パーツを選択する画面の例を示した図である。
【発明を実施するための形態】
【0018】
<第1実施形態>
本発明の第1実施形態を図1~8を参照しながら説明する。説明中の同じ符号(参照番号)は、重複する説明をしないが同じ機能を有する同じ要素を意味する。本実施形態に係る車両カスタム支援システム1は、サーバ11及び移動端末21を含んでいる。サーバ11及び移動端末21は、ネットワーク30を介して互いにデータ通信可能に接続されている。ネットワーク30は、移動通信網(携帯電話網)を含む種々の公衆データ通信網が相互に接続された、いわゆるインターネットである。なお、車両カスタム支援システム1には、ネットワーク30を介してサーバ11とのデータ通信を行う移動端末21以外の複数の端末装置も含まれるが、それらの端末装置において実行される処理は移動端末21と同様であるため、図示及び説明は省略される。
【0019】
サーバ11は、周知の汎用コンピュータ(サーバ装置)であり、CPU13、不揮発性メモリ14、RAM15及び記憶装置16を含んでいる。CPU13は、所定のプログラム(ルーチン)を逐次実行することによってデータの読み込み、数値演算、及び演算結果の出力等を行う。不揮発性メモリ14は、CPU13が実行するプログラム及びCPU13によって参照されるマップ(ルックアップテーブル)等を記憶している。不揮発性メモリ14は、ROM及び記憶したデータを変更可能なフラッシュメモリを含んでいる。RAM15は、CPU13によって参照されるデータを一時的に記憶する。記憶装置16は、サーバ11に内蔵された(或いは、サーバ11に接続された)周知の大容量記憶装置(ストレージ装置)である。
【0020】
移動端末21は、後述される装着パーツ試着アプリがインストールされた周知の利用者端末(可搬型のスマートフォン、タブレット端末)である。移動端末21は、CPU23、不揮発性メモリ24、RAM25、ディスプレイ26及びカメラ27を含んでいる。CPU23、不揮発性メモリ24及びRAM25のそれぞれの機能は、(処理能力及び容量等が大きく異なるが)CPU13、不揮発性メモリ14及びRAM15と類似しているため、説明が省略される。サーバ11のCPU13及び移動端末21のCPU23は、便宜上、「処理部」とも総称される。
【0021】
ディスプレイ26は、平面且つ略矩形状のディスプレイ装置である。ディスプレイ26に表示される画像は、所定数のピクセル(画素)の集合によって構成される。ディスプレイ26は、タッチパネルとしても作動する。即ち、移動端末21の利用者は、ディスプレイ26に触れることにより移動端末21を操作することができる。カメラ27は、移動端末21の背面側(即ち、移動端末21におけるディスプレイ26とは反対側)に配設されている。
【0022】
(装着パーツ試着アプリ)
移動端末21にインストールされた「装着パーツ試着アプリ」(以下、単に「端末アプリ」とも称呼される。)について、サーバ11が提供する機能と共に説明する。端末アプリは、サーバ11との協働により、車両を含む画像(写真)に、装着パーツ(即ち、車両に装着されるカスタムパーツ)の画像を重ねて得られる「装着画像」をディスプレイ26に表示させる機能を実現する。以下、端末アプリによって実行される処理(実現される機能)を、移動端末21の機能として説明する。
【0023】
装着画像を取得するため、利用者は、車両の情報(以下、「車両情報」とも称呼され、具体的には、車種、年式、車体色(ボディカラー)、車両グレード等を含む)を端末アプリに対して入力する。加えて、利用者は、車両が写された画像(以下、「車両画像」とも称呼される)を選択する。車両画像は、カメラ27によって撮影された画像でも良く、或いは、カメラ27以外のカメラによって撮影された画像でも良い。更に、利用者は、端末アプリによって提示される複数の装着パーツから試着するパーツ(以下、「試着パーツ」とも称呼される)を選択する。
【0024】
サーバ11は、移動端末21から車両情報、車両画像、及び利用者に選択された試着パーツの情報を受信すると、「調整パーツ画像」及び「パーツ画像位置」を移動端末21へ送信する。調整パーツ画像は、車両画像に写る車両の位置、角度及び大きさに基づいて生成された試着パーツの画像である。パーツ画像位置は、車両画像における調整パーツ画像の位置である。
【0025】
移動端末21は、調整パーツ画像及びパーツ画像位置をサーバ11から受信すると、パーツ画像位置に基づいて調整パーツ画像を車両画像に重ねて装着画像を生成し、装着画像をディスプレイ26に表示させる。即ち、利用者は、車両画像に含まれる車両(例えば、利用者が所有している車両)に試着パーツが装着された状態をディスプレイ26上にて確認することができる。
【0026】
調整パーツ画像及びパーツ画像位置を取得するためにサーバ11が実行する「画像内車両抽出処理」及び「パーツ画像生成処理」について説明する。画像内車両抽出処理は、車両画像に含まれる車両の位置、角度及び大きさ(以下、「画像内車両情報」とも総称される)を取得する処理である。パーツ画像生成処理は、取得された画像内車両情報に基づいて試着パーツの調整パーツ画像及びパーツ画像位置を取得する処理である。なお、利用者による試着パーツの選択方法(手順)については、図8を参照しながら後述される。
【0027】
以下の説明では、図2に示されるように、立体座標系である端末座標系(スクリーン座標系)及び車両座標系(オブジェクト座標系)が参照される。図2の車両41は、車両画像に含まれる車両の例である。図2の移動端末21のディスプレイ26には、カメラ27によって撮影された車両41を含む画像が表示されている。端末座標系の原点は、ディスプレイ26上であり且つディスプレイ26の中央である。端末座標系のX軸(Xt軸)は、ディスプレイ26上をディスプレイ26の長手方向に延在する。Z軸(Zt軸)は、Xt軸と直交し且つディスプレイ26上に延在する。Y軸(Yt軸)は、Xt軸及びZt軸と直交する。
【0028】
Zt軸が鉛直方向にあるとき(即ち、ディスプレイ26の長手方向が水平にあるとき)、端末座標系のXt座標値は原点に対して(ディスプレイ26を見る利用者の)右方側において正の値となる。Yt座標値は、原点に対して奥側(即ち、ディスプレイ26に対してカメラ27がある側)において正の値となる。Zt座標値は原点に対して上方側において正の値となる。
【0029】
車両座標系の原点は、車両41の(純正品であって装着パーツと交換されていない)フロントバンパーに形成されたナンバープレート取付位置(平面)上の中央位置である。車両座標系のX軸(Xb軸)は、車両41の車幅方向(左右方向)に延在する。Y軸(Yb軸)は、Xb軸と直交し且つ車両41の前後方向に延在する。Z軸(Zb軸)は、Xb軸及びYb軸と直交し且つ車両41の上下方向に延在する。車両座標系のXb座標値は、原点に対して車両41の左方において正の値となる。Yb座標値は、原点に対して車両41の後方において正の値となる。Zb座標値は、原点に対して車両41の上方において正の値となる。
【0030】
端末座標系における車両座標系の原点の座標値は、差分座標Ps(xs,ys,zs)として表される。差分座標Psは、端末座標系に対する車両座標系の平行移動量を表している。端末座標系に対する車両座標系の回転移動量は、角度α、β、γの組合せである回転角度As(α,β,γ)として表される。角度αは、端末座標系に対する車両座標系のX軸周りの回転角度であり、ピッチ角度とも称呼される。角度βは、端末座標系に対する車両座標系のY軸周りの回転角度であり、ロール角度とも称呼される。角度γは、端末座標系に対する車両座標系のZ軸周りの回転角度であり、ヨー角度とも称呼される。
【0031】
換言すれば、ディスプレイ26に表示された車両画像に基づいて取得された車両41の差分座標Psは、車両画像における車両41の位置を表している。同様に、回転角度Asは、車両画像における車両41の角度(回転角度)を表している。例えば、角度α、β、γのそれぞれが0°であれば、車両画像は、車両41を前方の正面(真正面)から写した画像である。
【0032】
更に、車両画像における車両41の大きさは、車体係数Rbによって表される。車体係数Rbは、車両座標系の原点近傍における車両の単位長さ当たりの車両画像のピクセル数である。即ち、車両画像に写る車両の大きさが大きくなるほど車体係数Rbが大きくなる。換言すれば、画像内車両情報は、差分座標Ps、回転角度As及び車体係数Rbの組合せによって表される情報である。
【0033】
画像内車両情報を取得するためにサーバ11が実行するパターンマッチング処理について、図3に示される車両41を含む車両画像を参照しながら説明する。記憶装置16には、車両41(及び、車両41とは異なる種々の車両)の立体形状及び色彩を表すデータ(以下、「車両形状データ」とも称呼される)が記憶(保存)されている。
【0034】
サーバ11は、移動端末21から車両41に係る車両情報を受信した後、更に車両41を含む車両画像を受信すると、車両41の車両形状データに基づいて、車両41を種々の角度及び距離から見た画像を多数のテンプレート画像として生成する。このとき、サーバ11は、車両の一部のみが車両画像に含まれる場合(即ち、車両の一部が車両画像の画角からはみ出している場合)を考慮し、車両形状の一部のみを反映したテンプレート画像も生成する。テンプレートの生成に用いられる車両形状データは、便宜上、「車両特徴データ」とも称呼される。
【0035】
加えて、サーバ11は、テンプレート画像のそれぞれと合致する(即ち、光学的特徴の類似度が高い)車両画像上の領域を探索する。テンプレート画像の何れかと合致する車両画像上の領域の探索に成功すると、サーバ11は、合致したテンプレート画像に基づいて車両画像に係る車両41の画像内車両情報(即ち、差分座標Ps、回転角度As及び車体係数Rb)を取得する。換言すれば、本実施形態における画像内車両抽出処理は、車両形状データを用いたテンプレートマッチング処理により差分座標Ps、回転角度As及び車体係数Rbを取得する処理である。
【0036】
車両内画像情報が取得されると(即ち、画像内車両抽出処理が完了すると)、サーバ11は、パーツ画像生成処理を実行する。より具体的に述べると、記憶装置16には、車両41(及び、車両41とは異なる種々の車両)に装着できる種々の装着パーツの立体形状及び色彩を表すデータ(以下、「パーツ形状データ」とも称呼される)が記憶されている。加えて、記憶装置16には、その装着パーツが装着される車両(例えば、車両41)における位置に関する情報(以下、「パーツ取付位置情報」とも称呼される)が記憶されている。
【0037】
例えば、試着パーツが車両41に装着可能なホイール52(図4を参照)であれば、パーツ形状データは、ホイール52の立体形状を表すデータである。ホイール52のパーツ取付位置情報は、車両41の4つの車輪のそれぞれのホイール取付位置を表す情報である。具体的には、ホイール52のパーツ取付位置情報は、ホイール52の代表点の車両座標系における座標値として表される。ホイール52の代表点は、例えば、ホイール52の回転軸(中心軸)とホイール52の取付面との交点である。ホイール52の取付面は、車両41のハブの取付面(不図示)と接する平面である。
【0038】
換言すれば、試着パーツがホイール52(又は、ホイール52とは異なるホイール)である場合、パーツ取付位置情報は、車輪のそれぞれに対応する4つの座標値を含んでいる。この場合、パーツ取付位置情報は、車両41の車輪(特に、前輪)のそれぞれのトー角度及びキャンバー角度が考慮された取付角度の情報を更に含んでいても良い。
【0039】
サーバ11は、車両内画像情報、並びに、試着パーツのパーツ形状データ及びパーツ取付位置情報に基づいて、調整パーツ画像及びパーツ画像位置を取得(生成)する。具体的には、サーバ11は、車両内画像情報によって特定される、視認可能な試着パーツ上の領域(即ち、ディスプレイ26にて描画される領域)の画像をパーツ形状データに基づいて透視図法(遠近法)により調整パーツ画像として生成する。加えて、サーバ11は、車両内画像情報及びパーツ取付位置情報に基づいてパーツ画像位置を取得する。
【0040】
調整パーツ画像及びパーツ画像位置が取得されると(即ち、パーツ画像生成処理が完了すると)、サーバ11は、調整パーツ画像及びパーツ画像位置を移動端末21へ送信する。移動端末21は、調整パーツ画像及びパーツ画像位置をサーバ11から受信すると、図4に示されるようにディスプレイ26に車両画像に調整パーツ画像をパーツ画像位置に従って重ねて表示する。換言すれば、ホイール52を装着している車両41の画像(即ち、装着画像)がディスプレイ26に表示される。
【0041】
より具体的に述べると、図3に示される車両画像に含まれる車両41には純正品であるホイール51が装着されていた。加えて、ホイール51には、純正品であるタイヤ61が装着されていた。一方、図4に示される装着画像は、車両41にホイール52が装着され且つホイール52にはタイヤ61が装着された様子を仮想的に表している。即ち、ホイール51がホイール52に交換されている。
【0042】
なお、本例における調整パーツ画像はディスプレイ26に表示される2つのホイール52の領域のそれぞれに対応する2つの略楕円形状の画像であるが、調整パーツ画像は、2つのホイール52を含む矩形状の1つの画像であっても良い。車両画像、調整パーツ画像及びパーツ画像位置に基づいて装着画像を生成する処理は、「装着画像生成処理」とも称呼される。また、図4以降、車両座標系を表すXb軸、Yb軸及びZb軸の記載(図示)は省略される。
【0043】
(明度調整処理及び色彩調整処理)
ところで、車両画像に含まれる車両41の明るさ(明度)及び色味(色彩)は、車両41に光を照射する光源(例えば、太陽及び電灯等であり、以下、「車両光源」とも称呼される)の方向、明度及び色彩に応じて変化する。そこで、サーバ11は、パーツ画像生成処理の実行時に「明度調整処理」及び「色彩調整処理」を実行する。明度調整処理は、車両光源による照射光の照射方向に応じて調整パーツ画像に含まれる試着パーツの明度を調整する処理である。色彩調整処理は、車両光源(照射光)の光源色に応じて調整パーツ画像に含まれる試着パーツの色彩を調整する処理である。
【0044】
明度調整処理及び色彩調整処理を実行するため、サーバ11は、車両画像に含まれる車両(例えば、車両41)の車体を構成するピクセル(車体ピクセル)のそれぞれのRGB(三原色)値をHSV(色相、彩度、明度)値に周知の方法により変換する。具体的には、車体ピクセルのそれぞれのHSV値が、画像車体色相Hp、画像車体彩度Sp及び画像車体明度Vpの組合せ(以下、「画像車体色値」とも称呼される)によって表される。
【0045】
例えば、図5は、車両画像に含まれる車両42の表面における画像車体明度Vpの分布を段階的に示している。図5において、車両画像に含まれる路面の縁石及び背景等は省略されている。図5から理解されるように、画像車体明度Vpは車両42の立体形状に応じて変化している。加えて、図5では、試着パーツとして選択されたホイールの調整パーツ画像が車両42の右前輪及び右後輪にそれぞれ重ねて表示されている。
【0046】
サーバ11は、画像内車両情報に基づいて画像に含まれる車体の領域(車体領域)を抽出し、車体領域を構成する車体ピクセルのそれぞれに対して画像車体色値を取得する。本実施形態において、画像車体色値に係る画像車体色相Hp(及び、後述される基準車体色値、基準パーツ色値及び補正パーツ色値に係る色相)は、0°以上であり且つ360°よりも小さい値である。画像車体色値に係る画像車体彩度Sp及び画像車体明度Vp(及び、後述される基準車体色値、基準パーツ色値及び補正パーツ色値に係る彩度及び明度)は、0%から100%までの範囲に含まれる値である。
【0047】
一方、車両形状データの立体形状及び色彩を表すデータと、車両内画像情報と、に基づいて取得される車体ピクセルのHSV値は、基準車体色相Hb、基準車体彩度Sb及び基準車体明度Vbの組合せ(以下、「基準車体色値」とも称呼される)によって表される。基準車体色と、車両が所定の照度及び色(例えば、色温度が5000Kである白色光)の照明(基準照明)によって一様に照らされていた場合の画像車体色値と、が互いに略等しくなるように、車両形状データに含まれる色彩データが予め適合されている。
【0048】
パーツ形状データの立体形状及び色彩を表すデータと、車両内画像情報と、に基づいて生成される調整パーツ画像に含まれる試着パーツを構成するピクセル(パーツピクセル)のそれぞれのHSV値は、基準パーツ色相Hc、基準パーツ彩度Sc及び基準パーツ明度Vcの組合せ(以下、「基準パーツ色値」とも称呼される)によって表される。基準照明によって一様に照らされていた場合における試着パーツ上の各位置の色彩(即ち、HSV値)と、試着パーツ上のその位置の基準パーツ色値と、が互いに略等しくなるように、パーツ形状データに係る色彩データが予め適合されている。
【0049】
一方、明度調整処理及び色彩調整処理の実行後におけるパーツピクセルのそれぞれのHSV値は、補正パーツ色相Hm、補正パーツ彩度Sm及び補正パーツ明度Vmの組合せ(以下、「補正パーツ色値」とも称呼される)によって表される。明度調整処理及び色彩調整処理は、基準車体色値と画像車体色値との差分に基づいて、基準パーツ色値を補正パーツ色値に補正する処理であるとも言える。サーバ11は、パーツピクセルのそれぞれの補正パーツ色値を取得すると、補正パーツ色値(即ち、HSV値)をRGB値に周知の方法により変換して調整パーツ画像を生成する。補正パーツ明度Vmは、便宜上、「パーツ分割領域明度」とも称呼される。
【0050】
明度調整処理及び色彩調整処理に関する以下の説明において、車体ピクセルは、車両情報に含まれる車体色に対応する車両上の領域(即ち、車体領域)を構成するピクセルを意味する。例えば、入力された車体色が赤系統色であれば、車両画像に含まれる車両におけるその赤系統色の領域を構成する車体ピクセルに対して後述される処理が実行される。換言すれば、車両のタイヤ、ホイール及びナンバープレート等の車体色とは異なる領域を構成するピクセルは、処理の対象とならない。
【0051】
なお、車体色が複数の色から構成される場合(例えば、車体の下部領域が赤系統色であり、上部領域が黒色である場合)、サーバ11は、下部領域と上部領域のそれぞれに対して明度調整処理及び色彩調整処理を行い、その結果取得された2組の補正パーツ色値の平均値に基づいて調整パーツ画像を生成しても良い。或いは、サーバ11は、金属製の車体と樹脂製のバンパーのそれぞれに対する明度調整処理及び色彩調整処理によって取得された2組の補正パーツ色値の平均値に基づいて調整パーツ画像を生成しても良い。
【0052】
(明度調整処理)
明度調整処理は、パーツピクセルのそれぞれの法線角度Anに応じて取得される明度差分Vdを基準パーツ明度Vcに加えることによって補正パーツ明度Vmを取得する処理である(即ち、Vm=Vc+Vd)。法線角度Anは、車体ピクセル又はパーツピクセルに対応する車体上又は試着パーツ上の位置(点)における接平面と直交するベクトル(即ち、法線ベクトル)の向きを表す角度である。
【0053】
法線角度Anは、車両座標系のXb軸、Yb軸、Zb軸のそれぞれの値(成分)を付して、法線ベクトルAn(Nx,Ny,Nz)とも表記される。法線ベクトルAnの長さは「1」であり、従って、下式(1)の関係が成立する。
(Nx)2+(Ny)2+(Nz)2=1 ……(1)
【0054】
明度差分Vdを取得するため、サーバ11は、車体ピクセルのそれぞれに対して画像車体明度Vpと基準車体明度Vbとの差分と、法線角度Anと、の組合せを取得する。画像車体明度Vpが基準車体明度Vbよりも大きい車体ピクセルは、画像車体明度Vpが基準車体明度Vbよりも小さい車体ピクセルと比較して車両光源から照射される光によって明度が上昇している。即ち、サーバ11は、車両光源によって明度が増加又は減少した程度(度合い)と、法線角度Anと、の組合せを取得する。
【0055】
例えば、車両41に対して単一の光源(例えば、太陽)から一方向に光が照射されている場合、光の照射角度(光源角度、光源方向)と法線角度Anとのなす角度(光源角度差分)が小さいほど画像車体明度Vpが大きくなる。具体的には、ある車体ピクセルに係る光源角度差分が小さくなるほど、画像車体明度Vpが基準車体明度Vbよりも大きくなり(即ち、車体ピクセルが明るくなり)且つその差分が大きくなる可能性が高い。一方、ある車体ピクセルに係る光源角度差分が鈍角であれば、車体上の対応する位置が日陰となり、画像車体明度Vpが基準車体明度Vbよりも小さくなる可能性が高い。換言すれば、車体における光源からの光の反射は、完全な鏡面反射でも均等拡散反射でもなく、それらの中間的な特性を有している。
【0056】
仮に、試着パーツが車両画像に含まれる車両に装着されていれば、試着パーツ上の各位置の明度は、(車体ピクセルと同様に)光源角度差分が小さくなるほど大きくなる(明るくなる)可能性が高い。更に、車両に対して複数の方向から光が照射されている場合であっても、車体ピクセルの画像車体明度Vpは法線角度Anに応じて変化し、且つ、(試着パーツが車両に装着されていれば)試着パーツ上の各位置の明度も法線角度Anに応じて同様に変化する可能性が高い。
【0057】
そのため、サーバ11は、パーツピクセルのそれぞれの明度差分Vdを法線角度Anに応じて取得する。例えば、あるパーツピクセルの法線角度Anが角度An1である一方、法線角度Anが角度An1である車体ピクセルに係る画像車体明度Vpと基準車体明度Vbとの差分が差分Vd1であれば(即ち、Vp-Vb=Vd1)、そのパーツピクセルの明度差分Vdは差分Vd1となる。
【0058】
しかしながら、例えば、あるパーツピクセルの法線角度Anが角度An2であるとき、法線角度Anが角度An2である車体ピクセルが車両画像に含まれているとは限らない。換言すれば、パーツピクセルのそれぞれと法線角度Anが等しい車体ピクセルが車両画像に全て含まれている可能性は非常に低い。そこで、サーバ11は、法線角度Anのそれぞれの明度差分Vd(即ち、画像車体明度Vpと基準車体明度Vbとの差分)を周知の方法により取得(推定)する。
【0059】
具体的には、サーバ11は、Nzが0以上であるNx及びNyの組合せに対応する明度差分Vdを最小二乗法により決定する。即ち、サーバ11は、Nx及びNyを引数として明度差分Vdが算出される関数を取得する。この関数によれば、Nx及びNyの組合せに対する明度差分Vdの分布が曲面によって近似される。
【0060】
同様に、サーバ11は、Nzが0以下であるNx及びNyの組合せに対応する明度差分Vdを最小二乗法により決定する。その結果、パーツピクセルのそれぞれの法線角度Anに対応する明度差分Vdを取得することが可能となる。
【0061】
なお、明度差分Vdの分布を曲面に近似する関数(近似関数)は、Nxが0以上であるNy及びNzの組合せと、Nxが0以下であるNy及びNzの組合せと、に対して取得されても良い。或いは、近似関数は、Nyが0以上であるNx及びNzの組合せと、Nyが0以下であるNx及びNzの組合せと、に対して取得されても良い。更に、これら複数の近似関数が取得されても良い。この場合、法線角度Anを複数の近似関数に適用して得られる複数の明度差分Vdの平均値を、その法線角度Anに対応する明度差分Vdとして扱っても良い。
【0062】
以上より、明度調整処理は、法線角度Anを近似関数に適用することによって明度差分Vdを取得し且つ基準パーツ明度Vcに明度差分Vdを加えることによって補正パーツ明度Vmを取得する処理を、パーツピクセルのそれぞれに対して実行する処理であることが理解される。図5に示される装着画像の例では、調整パーツ画像(即ち、右前輪及び右後輪のホイールの画像)における明度の分布(即ち、補正パーツ明度Vmの分布)に、基準パーツ明度Vc及び明度差分Vdが反映されている。近似関数によって規定される法線角度Anと画像車体明度Vpとの相関関係は、明度調整処理に係る「照射光情報」とも称呼される。
【0063】
なお、あるパーツピクセルの基準パーツ明度Vcに明度差分Vdを加えて得られる値が100%よりも大きければ、サーバ11は、そのパーツピクセルの補正パーツ明度Vmを100%に設定する。一方、基準パーツ明度Vcに明度差分Vdを加えて得られる値が0%よりも小さければ、サーバ11は、そのパーツピクセルの補正パーツ明度Vmを0%に設定する。
【0064】
(色彩調整処理)
色彩調整処理の実行時、サーバ11は、車体ピクセルのそれぞれの画像車体色相Hp及び画像車体彩度Spのそれぞれの平均値である平均画像色相Hpa及び平均画像彩度Spaを取得(算出)する。加えて、サーバ11は、車体ピクセルのそれぞれの基準車体色相Hb及び基準車体彩度Sbの平均値である平均基準色相Hba及び平均基準彩度Sbaを取得する。
【0065】
更に、サーバ11は、平均画像色相Hpaと平均基準色相Hbaとの差分である平均色相差分Hdを取得する(Hd=Hpa-Hba)。同様に、サーバ11は、平均画像彩度Spaと平均基準彩度Sbaとの差分である平均彩度差分Sdを取得する(Sd=Spa-Sba)。
【0066】
平均色相差分Hd及び平均彩度差分Sdは、車両光源の色に応じて生じる画像車体色相Hp及び画像車体彩度Sp(即ち、車体ピクセルの色彩の変化であり、車両光源と基準照明との相違によって生じる色差)を表している。平均色相差分Hd及び平均彩度差分Sdは、「色彩差分値」、又は色彩調整処理に係る照射光情報とも称呼される。
【0067】
サーバ11は、パーツピクセルのそれぞれの基準パーツ色相Hcに平均色相差分Hdを加えることによって補正パーツ色相Hmを取得する(即ち、Hm=Hc+Hd)。同様に、サーバ11は、パーツピクセルのそれぞれの基準パーツ彩度Scに平均彩度差分Sdを加えることによって補正パーツ彩度Smを取得する(即ち、Sm=Sc+Sd)。
【0068】
なお、あるパーツピクセルの基準パーツ色相Hcに平均色相差分Hdを加えて得られる値が0°から360°までの範囲に含まれていなければ、サーバ11は、0°から360°までの範囲に含まれるように調整した値を補正パーツ色相Hmに設定する。例えば、あるパーツピクセルの基準パーツ色相Hcに平均色相差分Hdを加えて得られる値が-10°であれば、サーバ11は、そのパーツピクセルの補正パーツ色相Hmを350°に設定する。
【0069】
一方、あるパーツピクセルの基準パーツ彩度Scに平均彩度差分Sdを加えて得られる値が100%よりも大きければ、サーバ11は、そのパーツピクセルの補正パーツ彩度Smを100%に設定する。基準パーツ彩度Scに平均彩度差分Sdを加えて得られる値が0%よりも小さければ、サーバ11は、そのパーツピクセルの補正パーツ彩度Smを0%に設定する。なお、基準車体色相Hb及び基準車体彩度Sbは、便宜上、「基準車体色」とも称呼される。画像車体色相Hp及び画像車体彩度Spは、便宜上、「画像車体色」とも称呼される。基準パーツ色相Hc及び基準パーツ彩度Scは、便宜上、「基準パーツ色」とも称呼される。
【0070】
(具体的作動)
車両カスタム支援システム1の作動(具体的には、利用者の移動端末21に対する操作に応じて移動端末21のCPU23及びサーバ11のCPU13が実行する処理)について、移動端末21とサーバ11との間のデータ送受信の例を示した図6を参照しながら説明する。図6において、移動端末21の利用者によって行われる操作には、「Su」で始まるステップ符号が付されている。移動端末21が実行する処理には、「St」で始まるステップ符号が付されている。サーバ11が実行する処理には、「Ss」で始まるステップ符号が付されている。なお、利用者による操作に起因して移動端末21が実行する処理(具体的には、サーバ11へのデータ送信を伴う処理)は、ステップの記載が省略されている。
【0071】
ステップSu01にて利用者が車両情報を移動端末21に入力すると、移動端末21は、入力された車両情報をサーバ11へ送信する。車両情報を入力するためのユーザーインタフェースは端末アプリによって提供されるが、図示は省略される。車両情報は、車種、年式、車体色(ボディカラー)及び車両グレードを含んでいる。本例において、利用者は、上述した車両41に係る車両情報を移動端末21に入力する。サーバ11は、車両情報を受信すると、ステップSs02にて車両情報を記憶装置16に記憶する。
【0072】
ステップSu03にて利用者が車両画像を選択すると、移動端末21は、選択された車両画像(本例において、車両41の画像)をサーバ11へ送信する。例えば、過去の時点において撮影され且つ移動端末21の不揮発性メモリ24に記憶された画像が選択され、サーバ11へ車両画像として送信される。或いは、カメラ27によって撮影された画像が撮影と同時にサーバ11へ車両画像として送信される。サーバ11は、車両画像を受信すると、ステップSs04にて車両画像を記憶する。
【0073】
ステップSu05にて利用者がディスプレイ26に表示された試着ボタンBt(図3を参照)をタップすると、移動端末21は、試着ボタンBtがタップされたことを表す「パーツ情報要求」をサーバ11へ送信する。試着ボタンBtは、端末アプリを用いて上述した装着パーツの試着を行う場合に利用者によってタップされるボタンである。移動端末21は、車両情報が入力された後、ディスプレイ26に試着ボタンBtを表示する。
【0074】
サーバ11は、パーツ情報要求を受信すると、ステップSs06にて装着可能なパーツを抽出する。具体的には、サーバ11は、記憶装置16に記憶された種々の装着パーツの情報から車両41に装着可能なパーツを抽出する。次いで、サーバ11は、抽出されたパーツの情報及び画像を「装着パーツ情報」として移動端末21へ送信する。装着パーツ情報に含まれる装着パーツの情報は、装着パーツの識別子、型番及び価格が含まれている。
【0075】
移動端末21は、装着パーツ情報を受信すると、ステップSt07にて装着パーツ情報に係るウィンドウWpをディスプレイ26に表示させる。具体的には、図8に示されるように、装着パーツの画像がカテゴリ(図8の例において、ホイール及びタイヤ)毎にウィンドウWp内に表示される。ウィンドウWpには、ホイール52、53及びタイヤ62が例示されている。なお、図8では、装着パーツの画像とともに表示される装着パーツの型番及び価格等の情報は省略されている。
【0076】
ステップSu08にて利用者が表示された装着パーツの中から1つ又は複数の試着パーツを選択すると、移動端末21は、選択された試着パーツの識別子を「選択パーツ情報」としてサーバ11へ送信する。なお、利用者による試着パーツの選択は、ディスプレイ26に表示された装着パーツの画像を上方へスワイプすることによって行われる。
【0077】
サーバ11は、選択パーツ情報を受信すると、ステップSs09にて選択パーツ情報(具体的には、試着パーツの識別子)を記憶する。本例においてはこの時点にて、サーバ11に対して車両情報、車両画像及び試着パーツが全て入力されている。そのため、サーバ11はステップSs10に進み、調整パーツ画像及びパーツ画像位置を取得する。
【0078】
具体的には、サーバ11のCPU13(以下、単に「CPU」とも称呼される)は、図7にフローチャートにより表された「画像生成処理ルーチン」を実行する。換言すれば、CPUは、画像内車両抽出処理及びパーツ画像生成処理を実行する。CPUは、ステップ700にて本ルーチンの処理を開始すると、以下に説明するステップ705乃至ステップ765の処理を順に実行し、更に、ステップ795に進んで本ルーチンの処理を終了する。
【0079】
ステップ705:CPUは、車両情報によって特定される車両に係る車両内画像情報を車両画像から取得する。即ち、CPUは、画像内車両抽出処理を実行する。
ステップ710:CPUは、車両画像から車体ピクセルを抽出する。具体的には、CPUは、車両情報に含まれる車体色に対応する車両画像上の領域(即ち、1つ又は複数の車体領域)を、車両内画像情報及び車両形状データ(即ち、立体形状及び色彩)に基づいて特定する。加えて、CPUは、車体領域を構成する車両画像における車体ピクセルを抽出する。車体ピクセルは、車両画像における車体領域を分割して得られる領域であり、便宜上、「車体分割領域」とも称呼される。
【0080】
ステップ715:CPUは、画像内車両情報、パーツ取付位置情報及びパーツ形状データ(特に、試着パーツの立体形状)に基づいて試着パーツのパーツピクセルを抽出する。具体的には、CPUは、試着パーツにおける調整パーツ画像に含まれる領域(即ち、車両に試着パーツを装着した場合に視認できる試着パーツ上の領域)を特定する。加えて、CPUは、特定された領域を車両画像の解像度(即ち、車両画像における単位長さあたりのピクセル数)に応じて分割して得られる「パーツピクセルの集合」を抽出する。パーツピクセルは、調整パーツ画像における試着パーツの表面を分割して得られる領域であり、便宜上、「パーツ分割領域」とも称呼される。
【0081】
ステップ720:CPUは、パーツ画像位置を取得する。具体的には、CPUは、「パーツピクセルの集合」の代表点(代表位置)の端末座標系における座標値を、画像内車両情報、パーツ取付位置情報及びパーツ形状データに基づいて取得する。調整パーツ画像が複数の画像(例えば、前輪のホイールの画像及び後輪のホイールの画像)によって構成される場合、CPUは、複数の座標値を取得する。
【0082】
ステップ725:CPUは、車体ピクセルのそれぞれの基準車体色値及び画像車体色値を取得する。即ち、CPUは、車両形状データに基づいて車体ピクセルのそれぞれに対応する車両上の位置(点)の基準車体色値(即ち、基準車体色相Hb、基準車体彩度Sb及び基準車体明度Vb)を取得する。加えて、CPUは、車体ピクセルのそれぞれのRGB値を画像車体色相Hp、画像車体彩度Sp及び画像車体明度Vpに変換する。
【0083】
ステップ730:CPUは、車体ピクセルのそれぞれの法線角度An及び明度差分Vdを取得する。具体的には、CPUは、画像内車両情報及び車両形状データ(特に、車体の立体形状)に基づいて車体ピクセルのそれぞれの法線角度Anを取得する。加えて、CPUは、車両形状データ(特に、色彩)に基づいて車体ピクセルのそれぞれの画像車体明度Vpと基準車体明度Vbとの差分を明度差分Vdとして取得する。
【0084】
ステップ735:CPUは、車体ピクセルのそれぞれに対して取得された法線角度Anと明度差分Vdとの組合せに基づいて近似関数を取得する。即ち、近似関数に法線角度Anを適用することによって任意の法線角度Anに対応する明度差分Vdが取得できるようになる。
【0085】
ステップ740:CPUは、パーツピクセルのそれぞれの法線角度An及び基準パーツ色値を取得する。具体的には、CPUは、パーツ形状データ(特に、試着パーツの立体形状)に基づいてパーツピクセルのそれぞれの法線角度Anを取得する。加えて、CPUは、パーツ形状データ(特に、試着パーツの色彩)に基づいてパーツピクセルのそれぞれの基準パーツ色値(即ち、基準パーツ色相Hc、基準パーツ彩度Sc及び基準パーツ明度Vc)を取得する。
【0086】
ステップ745:CPUは、パーツピクセルのそれぞれの補正パーツ明度Vmを取得する。具体的には、CPUは、近似関数にパーツピクセルの法線角度Anを適用することによって明度差分Vdを取得する。加えて、CPUは、パーツピクセルの基準パーツ明度Vcに明度差分Vdを加えることによって補正パーツ明度Vmを取得する。
【0087】
ステップ750:CPUは、平均色相差分Hdを取得する。具体的には、CPUは、車体ピクセルのそれぞれの画像車体色相Hpの平均値である平均画像色相Hpaを取得する。加えて、CPUは、車体ピクセルのそれぞれの基準車体色相Hbの平均値である平均基準色相Hbaを取得する。更に、CPUは、平均画像色相Hpaと平均基準色相Hbaとの差分を平均色相差分Hdとして取得する。
【0088】
ステップ755:CPUは、平均彩度差分Sdを取得する。具体的には、CPUは、車体ピクセルのそれぞれの画像車体彩度Spの平均値である平均画像彩度Spaを取得する。加えて、CPUは、車体ピクセルのそれぞれの基準車体彩度Sbの平均値である平均基準彩度Sbaを取得する。更に、CPUは、平均画像彩度Spaと平均基準彩度Sbaとの差分を平均彩度差分Sdとして取得する。
【0089】
ステップ760:CPUは、パーツピクセルのそれぞれの補正パーツ色相Hm及び補正パーツ彩度Smを取得する。具体的には、CPUは、パーツピクセルの基準パーツ色相Hcに平均色相差分Hdを加えることによって補正パーツ色相Hmを取得する。加えて、CPUは、パーツピクセルの基準パーツ彩度Scに平均彩度差分Sdを加えることによって補正パーツ彩度Smを取得する。
【0090】
ステップ765:CPUは、補正パーツ色値のそれぞれをRGB値に変換する。即ち、CPUは、調整パーツ画像を生成する。
【0091】
画像生成処理ルーチンの実行が終了すると、サーバ11は、生成された調整パーツ画像及びパーツ画像位置を移動端末21へ送信する。移動端末21は、調整パーツ画像及びパーツ画像位置を受信すると、ステップSt11にて装着画像を生成する。即ち、移動端末21は、装着画像生成処理を実行する。次いで、移動端末21は、装着画像をディスプレイ26に表示する(図4を参照)。
【0092】
なお、図6の例においてサーバ11は、車両画像を移動端末21から受信した後、選択パーツ情報を受信すると、調整パーツ画像及びパーツ画像位置を取得していた(即ち、画像生成処理ルーチンを実行していた)。これに代えて、サーバ11は、選択パーツ情報を移動端末21から受信した後、車両画像を受信しても良い。即ち、サーバ11は、車両画像及び選択パーツ情報を共に受信すると、画像生成処理ルーチンを実行する。
【0093】
加えて、サーバ11は、新たな車両画像を移動端末21から受信すると、画像生成処理ルーチンを新たに実行する。即ち、利用者は、車両画像を選択し直しても良い。更に、利用者は、試着パーツを選択し直しても良い。
【0094】
ところで、上述した例における車両41、42はSUV型車両であったが、装着パーツを試着できる車両はセダン型車両及びワンボックス型車両を含んでいる。加えて、上述した例における装着パーツはホイール52であったが、装着パーツは、タイヤ、エアロパーツ、ステッカー及びラジエーターグリル等を含んでいる(何れも不図示)。エアロパーツは、サイドスポイラー及びリアスポイラー、並びにサイドスポイラー及びリアスポイラーの組合せ(即ち、複数の装着パーツの組合せ)を含んでいる。
【0095】
加えて、試着パーツとして選択できる装着パーツは、車両における装着位置を利用者が選択できるものを含んでいる。例えば、装着パーツには、セダン型車両のリアトランク上面に装着されるリアスポイラーであってリアトランク上の装着位置を所定の範囲の中で利用者が選択できるものがある。そのリアスポイラーのパーツ取付位置情報は、リアスポイラーの代表点の車両座標系における座標値の集合又は座標値の範囲によって表される。なお、利用者による装着パーツの車両における装着位置の指定は、車両画像に含まれる車両における装着位置のタップ操作により行われるが、操作画面の図示は省略される。
【0096】
或いは、試着パーツがステッカーであれば、利用者は、車両における装着位置(この場合、車体上の領域)を比較的自由に選択できる。この場合、サーバ11は、選択されたステッカーが貼付される車体上の領域(貼付領域)の曲面に応じて調整パーツ画像を生成する。即ち、装着画像に含まれるステッカーは、貼付領域の車体曲面に応じて湾曲している。
【0097】
(第1変形例)
第1実施形態の変形例(第1変形例)について説明する。上述した第1実施形態においては車両形状データ及びパーツ形状データのそれぞれが色彩を表すデータを含んでいた。第1変形例においては、更に、車両形状データが車体反射率Raを含み、且つパーツ形状データがパーツ反射率Rcを含んでいる。加えて、第1変形例に係るサーバ11は、色彩調整処理の実行時、平均基準色相Hba及び平均基準彩度Sbaに代わり、最頻色相差分Hf及び最頻彩度差分Sfを取得する。以下、これらの相違点を中心に説明する。
【0098】
車体反射率Raは、車体表面(具体的には、車体領域)の反射率(本変形例において、全反射率)である。パーツ反射率Rcは、車体反射率Raと同様の手順により取得された装着パーツ表面の反射率(全反射率)である。装着パーツの表面が、材質又は色彩の異なる複数の領域を含んでいる場合、それぞれの領域に対してパーツ反射率Rcが取得され且つパーツ形状データに含まれている。なお、車体反射率Ra及びパーツ反射率Rcは、正反射率であっても良く、拡散反射率であっても良い。
【0099】
サーバ11は、明度調整処理の実行時、車両画像に含まれる車両の車体反射率Raに対する試着パーツのパーツ反射率Rcの比率である反射率比Krを取得する(即ち、Kr=Rc/Ra)。パーツピクセルに係る試着パーツにおける表面が複数のパーツ反射率Rcを含んでいる場合(例えば、試着パーツが金属製部材と樹脂製部材とを含んでいる場合)、サーバ11は、パーツ反射率Rcのそれぞれに対して複数の反射率比Krを取得する。反射率比Krが取得されると、サーバ11は、基準パーツ明度Vcに反射率比Krと明度差分Vdとの積を加えることによってパーツピクセルのそれぞれの補正パーツ明度Vmを取得する(即ち、Vm=Vc+Kr×Vd)。
【0100】
一方、サーバ11は、色彩調整処理の実行時、パーツピクセルのそれぞれの基準パーツ色相Hcに最頻色相差分Hfを加えることによって補正パーツ色相Hmを取得する(即ち、Hm=Hc+Hf)。同様に、サーバ11は、パーツピクセルのそれぞれの基準パーツ彩度Scに最頻彩度差分Sfを加えることによって補正パーツ彩度Smを取得する(即ち、Sm=Sc+Sf)。
【0101】
最頻色相差分Hfは、画像最頻色相Hpfと基準最頻色相Hbfとの差分である(即ち、Hf=Hpf-Hbf)。画像最頻色相Hpfは、車体ピクセルのそれぞれの画像車体色相Hpの分布を所定の階級幅のビン(柱、矩形)の集合によって表すヒストグラム(画像色相ヒストグラム)における最も高いビンの中央値である。基準最頻色相Hbfは、車体ピクセルのそれぞれの基準車体色相Hbの分布を所定の階級幅のビンの集合によって表すヒストグラム(基準色相ヒストグラム)における最も高いビンの中央値である。
【0102】
本変形例における画像色相ヒストグラム及び基準色相ヒストグラムのそれぞれは、36個のビンから構成され、それぞれの階級幅は10°である。従って、画像最頻色相Hpf及び基準最頻色相Hbfのそれぞれは、5°、15°、25°、…、355°の何れかの値である。
【0103】
最頻彩度差分Sfは、画像最頻彩度Spfと基準最頻彩度Sbfとの差分である(即ち、Sf=Spf-Sbf)。画像最頻彩度Spfは、車体ピクセルのそれぞれの画像車体彩度Spの分布を所定の階級幅のビンの集合によって表すヒストグラム(画像彩度ヒストグラム)における最も高いビンの中央値である。基準最頻彩度Sbfは、車体ピクセルのそれぞれの基準車体彩度Sbの分布を所定の階級幅のビンの集合によって表すヒストグラム(基準彩度ヒストグラム)における最も高いビンの中央値である。
【0104】
本変形例における画像彩度ヒストグラム及び基準彩度ヒストグラムのそれぞれは、20個のビンから構成され、それぞれの階級幅は5%である。従って、画像最頻彩度Spfと基準最頻彩度Sbfのそれぞれは、2.5%、7.5%、12.5%、…、97.5%の何れかの値である。
【0105】
<第2実施形態>
第2実施形態について説明する。上述した車両カスタム支援システム1では、移動端末21に対する利用者の操作によって車両画像が選択され、選択された車両画像に対して装着画像が生成されていた。これに対し、第2実施形態に係る車両カスタム支援システム2では、移動端末21のカメラ27によって連続的に撮影された一連の車両画像のそれぞれに対して生成された装着画像がディスプレイ26に表示される。換言すれば、移動端末22のディスプレイ26には、カメラ27によって撮影された動画に含まれる車両に対して生成された装着画像が連続的に表示される。
【0106】
加えて、上述したサーバ11は、車両(例えば、車両41)の車両形状データ(即ち、車両特徴データ)に基づいて生成されたテンプレート画像に基づいて画像内車両情報を取得していた。これに対し、車両カスタム支援システム2に係るサーバ12は、車両画像における車両の特徴点(特徴領域)に相当する領域を探索することによって画像内車両情報を取得する。以下、これらの相違点を中心に説明する。
【0107】
本実施形態における車両の特徴点は、タイヤ、車両の側方に配設されたドアミラー及びドアハンドル、車両の前方に配設されたヘッドライト、並びに車両の後方に配設されたテールランプ等を含んでいる。サーバ12の記憶装置16には、これらの特徴点の車両における位置(即ち、車両座標系における座標値)、形状及び色彩等が車両特徴データとして記憶されている。
【0108】
サーバ12は、連続して受信する一連の車両画像における最初の画像を受信すると、車両特徴データに基づいて特徴点に係る種々のテンプレート画像を生成する。テンプレート画像は、車両41を種々の角度及び距離から見た特徴点のそれぞれに対応している。サーバ12は、テンプレート画像に合致する車両画像上の領域の探索に成功すると、合致した(複数の)テンプレート画像に基づいて車両画像に係る車両41の画像内車両情報を取得する。即ち、サーバ12は、車両の特徴点に係るテンプレート画像を用いて画像内車両抽出処理を実行する。
【0109】
加えて、サーバ12は、調整パーツ画像及びパーツ画像位置を取得し(即ち、パーツ画像生成処理を実行し)、且つ取得された調整パーツ画像及びパーツ画像位置を移動端末22へ送信する。移動端末22は、受信した調整パーツ画像及びパーツ画像位置、並びに車両画像に基づいて装着画像を生成し(即ち、装着画像生成処理を実行し)、ディスプレイ26に表示する。
【0110】
次いで、サーバ12は、新たな車両画像(最新画像)を移動端末22から受信すると、その前に受信した車両画像(前回画像)との差分を表すオプティカルフローベクトル(以下、単に「フローベクトル」とも称呼される)を取得する。より具体的に述べると、サーバ12は、前回画像を多数の矩形に分割し(即ち、前回画像を矩形の集合として扱い)、その矩形に相当する領域(即ち、光学的特徴が類似する領域)を今回画像から探索する。矩形の探索に成功すると、サーバ12は、その矩形の前回画像における位置が始点であり且つその矩形の最新画像における位置が終点であるベクトルをフローベクトルとして取得する。
【0111】
前回画像に係る全ての矩形に対して最新画像上の位置を探索する処理が完了すると、サーバ12は、取得された(多数の)フローベクトルに基づいて最新画像における車両の位置、大きさ及び角度の前回画像との変化量を取得する。即ち、サーバ12は、最新画像に含まれる車両に対する移動端末22の位置及び角度の前回画像に対する変化量を取得する。加えて、サーバ12は、取得された変化量及び前回画像に係る画像内車両情報に基づいて最新画像に係る画像内車両情報を取得する。即ち、サーバ12は、フローベクトルに基づいて画像内車両情報を更新する。
【0112】
サーバ12は、車両画像を移動端末22から繰り返し受信している期間において、車両画像のそれぞれに係る画像内車両情報を取得し、更に、調整パーツ画像及びパーツ画像位置を移動端末22へ送信する処理を繰り返し実行する。一方、移動端末22は、カメラ27によって撮影された車両画像のそれぞれに対してサーバ12から受信した調整パーツ画像及びパーツ画像位置に基づいて装着画像を生成し、ディスプレイ26に表示する。
【0113】
以上、説明したように、車両カスタム支援システム1、2によれば、試着パーツに係る調整パーツ画像を車両画像に重ねることによって得られる装着画像を閲覧することによって利用者は装着パーツを試着することができる。換言すれば、利用者が望む画角及び背景の車両画像を選択することにより、その画角及び背景における装着パーツの装着状態をディスプレイ26に表示させることができる。
【0114】
即ち、サーバ11、12が実行する画像内車両抽出処理によって画像内車両情報が取得される限りにおいて、利用者は、車両画像を任意に選択することができる。車両画像に含まれる画像は利用者が実際に使用している車両であっても良く、車両画像の背景は利用者が車両を使用する場所であっても良い。例えば、既にホイールが純正品からカスタムパーツに交換された車両と合致するエアロパーツを、端末アプリを用いて試着しながら探すことが可能となる。
【0115】
加えて、明度調整処理によれば、車両光源の方向(即ち、車両に対する光の照射方向)に応じて車両に生じる陰影を調整パーツ画像(即ち、試着パーツ)に反映(再現)することが可能となる。特に、反射率比Krに戻づいて補正パーツ明度Vmを取得することにより試着パーツの材質(具体的には、パーツ反射率Rc)が調整パーツ画像に反映される。一方、色彩調整処理によれば、車両光源の色に応じて車両に生じる色変化を調整パーツ画像に反映することが可能となる。そのため、利用者は、車両を使用している環境における試着パーツと車両との相性(見映え)を試着パーツにおける陰影及び色味を含めて容易に確認することができる。
【0116】
以上、本発明の実施形態を上記の構造を参照して説明したが、本発明の目的を逸脱せずに多くの交代、改良、変更が可能であることは当業者であれば明らかである。従って本発明の形態は、添付された請求項の精神と目的を逸脱しない全ての交代、改良、変更を含み得る。本発明の形態は、前記特別な構造に限定されず、例えば下記のように変更が可能である。
【0117】
利用者は、移動端末21、22の端末アプリを用いて装着パーツの試着をすることが可能であった。これに加え、利用者が試着した装着パーツを移動端末21、22に対する操作によって実際に購入できるように端末アプリが構成されても良い。加えて、端末アプリを用いて購入された装着パーツを装着した車両を表す画像が移動端末21、22(又は、他の端末装置)にて展開される仮想空間において表示されるように端末アプリ(又は、他のアプリケーション)が構成されても良い。換言すれば、この場合、装着パーツを装着した車両の立体的な画像が、仮想空間における車両のアバターとして表示される。
【0118】
サーバ11、12は、画像内車両抽出処理の実行時にテンプレート画像を生成し、テンプレート画像に基づいて画像内車両情報を取得していた。即ち、テンプレート画像の生成に用いられるデータ(車両特徴データ)が記憶装置16に記憶されていた。これに代えて、サーバ11、12は、人工知能(機械学習)によって構築され且つ記憶装置16に記憶されたフィルター(具体的には、入力された車両画像に対して画像内車両情報を出力するフィルター)によって画像内車両情報を取得してもよい。この場合、記憶装置16に記憶された機械学習のフィルターに係るデータが車両特徴データに相当する。機械学習に用いられる種々の教師データは、例えば、車両画像とその車両画像に係る画像内車両情報との組合せである。
【0119】
サーバ11、12は、車両画像に重ねられる調整パーツ画像を画像内車両情報に基づいて生成していた。即ち、調整パーツ画像は、画像内車両情報によって特定される試着パーツの外観を表した画像であった。これに加え、調整パーツ画像は、試着パーツの周囲の領域を更に含んでいても良い。例えば、試着パーツが既に車両に装着されているタイヤ(既存タイヤ)よりも小さいタイヤ(交換タイヤ)である場合、調整パーツ画像は、試着パーツ(即ち、交換タイヤ)及び試着パーツの周辺の領域(この場合、車両のタイヤハウス)を含んでいても良い。これにより、装着画像における交換タイヤの周囲に既存タイヤの一部が含まれることが回避される。
【0120】
移動端末21、22のカメラは、一対のカメラ装置を含むステレオカメラであっても良い。この場合、車両画像は一対のカメラ装置のそれぞれによって撮影された一対の画像である。この場合、サーバ11、12は、一対の画像のそれぞれの視差に基づいて画像内車両情報を取得しても良い。
【0121】
サーバ11、12が画像内車両抽出処理及びパーツ画像生成処理を実行する一方、移動端末21、22が装着画像生成処理を実行していた。これに代えて、サーバ11、12が装着画像生成処理も実行しても良い。即ち、サーバ11、12が装着画像を生成し且つ移動端末21、22へ送信し、移動端末21、22は、受信した装着画像をディスプレイ26に表示しても良い。
【0122】
或いは、移動端末21、22が、画像内車両抽出処理、パーツ画像生成処理及び装着画像生成処理を実行しても良い。この場合、パーツ形状データ及びパーツ取付位置情報は、移動端末21、22の不揮発性メモリ24に記憶されていても良く、サーバ11、12の記憶装置16に記憶されていても良い。
【0123】
更に、移動端末21、22には、端末アプリが予めインストールされていなくても良い。この場合、上述した端末アプリによって実現されていた機能は、移動端末21、22のWebブラウザアプリにサーバ11、12からダウンロードされるブラウザアプリによって実現されても良い。
【0124】
サーバ11、12が取得していた画像内車両情報は、画像内車両情報は、差分座標Ps、回転角度As及び車体係数Rbの組合せであった。これに加え、画像内車両情報は、車両画像に含まれる車両の操舵角度δ(即ち、前輪の転舵角度)を更に含んでも良い。この場合、試着パーツがホイール及びタイヤの一方又は両方を含んでいれば、車両の前輪に係る調整パーツ画像は、操舵角度δを反映していても良い。
【0125】
ディスプレイ26は、平面且つ略矩形状のディスプレイ装置であった。これに代えて、ディスプレイ26は、曲面を有するディスプレイであっても良い。この場合であっても、特定の基準位置を原点とする端末座標系が定義され得る。
【0126】
利用者は、試着パーツとしてホイール、タイヤ及びエアロパーツ等の種々の装着パーツを選択することができた。これに代えて、試着パーツは、特定のカテゴリに含まれる装着パーツに限定されても良い。例えば、試着パーツとして選択できる装着パーツはホイールに限定されても良い。この場合、利用者による車両情報の入力は割愛されても良い。
【0127】
車体分割領域は、車体領域を構成する車体ピクセルであった。パーツ分割領域は調整パーツ画像を構成するパーツピクセルであった。補正パーツ色値は、パーツピクセルのそれぞれに対して取得されていた。これに代えて、車体分割領域は、車体領域を分割して得られる微小な矩形又は矩形以外の形状の微小領域(即ち、車体ピクセルの集合)であっても良い。同様に、パーツ分割領域は、調整パーツ画像における試着パーツの表面を分割して得られる微小な矩形又は矩形以外の微小領域(即ち、パーツピクセルの集合)であっても良い。この場合、補正パーツ色値は、パーツピクセルの集合であるパーツ分割領域のそれぞれに対して取得されても良い。
【0128】
サーバ11、12は、照射光の照射方向を特定するための処理を実行しても良い。例えば、近似関数によって表される種々の法線角度Anに対する明度差分Vdの分布における明度差分Vdの最大値が、明度差分Vdの分布における他の極大値よりも所定閾値以上大きい場合、サーバ11、12は、明度差分Vdが最大値となる法線角度Anを照射方向として特定しても良い。照射方向が特定された場合、サーバ11、12は、パーツピクセルの陰影を強調する処理を実行しても良い。例えば、サーバ11、12は、照射方向とのなす角度が鋭角であるパーツピクセルの補正パーツ明度Vmに所定値を加える処理、及び/又はなす角度が鈍角であるパーツピクセルの補正パーツ明度Vmを所定値だけ減じる処理を実行しても良い。更に、照射方向が特定された場合、サーバ11、12は、車両画像に含まれる車両の影が現れるパーツピクセルを特定し且つそのパーツピクセルの補正パーツ明度Vmを所定値だけ減じる処理を実行しても良い。
【0129】
反射率比Krは、車体反射率Raに対するパーツ反射率Rcの比であった。これに代えて、反射率比Krは、パーツ反射率Rcに対する車体反射率Raの比であっても良い。
【0130】
色彩調整処理に係る色彩を表す値(色彩パラメータ)として、HSV値における色相及び彩度の組合せが用いられていた。これに代えて、いわゆる「xy色度図」におけるx座標値及びy座標値の組合せ(x,y)が色彩パラメータとして用いられても良い。或いは、いわゆる色温度が色彩パラメータとして用いられても良い。この場合、車両光源の光源色に起因する車両画像に含まれる車体の色の変化を表す色温度の変化量が色彩差分値として取得されても良い。
【0131】
画像車体色相Hp及び基準パーツ色相Hc等の色相を表す値は、0°から360までの数値によって表されていた。一方、画像車体彩度Sp及び画像車体明度Vp等の彩度又は明度を表す値は、0%から100%までの数値によって表されていた。これに代えて、色相、彩度及び明度を表す値の一部又は全ては、0から255までの整数によって表されても良い。
【符号の説明】
【0132】
1、2…車両カスタム支援システム
11、12…サーバ
13…CPU
14…不揮発性メモリ
15…RAM
16…記憶装置
21、22…移動端末
23…CPU
24…不揮発性メモリ
25…RAM
26…ディスプレイ
27…カメラ
30…ネットワーク
41、42…車両
51~53…ホイール
61、62…タイヤ
図1
図2
図3
図4
図5
図6
図7
図8