(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2025154480
(43)【公開日】2025-10-10
(54)【発明の名称】色補正システム及び情報処理装置
(51)【国際特許分類】
H04N 1/60 20060101AFI20251002BHJP
G06T 1/00 20060101ALI20251002BHJP
G06T 5/60 20240101ALI20251002BHJP
G09G 5/02 20060101ALI20251002BHJP
G09G 5/00 20060101ALI20251002BHJP
G09G 5/37 20060101ALI20251002BHJP
G06Q 30/0601 20230101ALN20251002BHJP
【FI】
H04N1/60
G06T1/00 510
G06T5/60
G09G5/02 B
G09G5/00 X
G09G5/00 550C
G09G5/00 510H
G09G5/00 555G
G09G5/37 600
G09G5/00 510B
G06Q30/0601
【審査請求】未請求
【請求項の数】8
【出願形態】OL
(21)【出願番号】P 2024057509
(22)【出願日】2024-03-29
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.PYTHON
2.WINDOWS
(71)【出願人】
【識別番号】000002886
【氏名又は名称】DIC株式会社
(74)【代理人】
【識別番号】100107766
【弁理士】
【氏名又は名称】伊東 忠重
(74)【代理人】
【識別番号】100070150
【弁理士】
【氏名又は名称】伊東 忠彦
(72)【発明者】
【氏名】中村 健二
(72)【発明者】
【氏名】金子 宗平
(72)【発明者】
【氏名】高橋 雅人
(72)【発明者】
【氏名】森原 康博
【テーマコード(参考)】
5B057
5C182
5L030
【Fターム(参考)】
5B057AA02
5B057CA01
5B057CA08
5B057CA12
5B057CA16
5B057CB01
5B057CB08
5B057CB12
5B057CB16
5B057CE17
5B057CE18
5B057DA16
5B057DA17
5B057DB02
5B057DB06
5B057DB09
5B057DC25
5B057DC40
5C182AA02
5C182AA03
5C182AB02
5C182AB08
5C182AB11
5C182AB14
5C182AB21
5C182BA01
5C182BA03
5C182BA04
5C182BA06
5C182BA14
5C182BA25
5C182BA26
5C182BA45
5C182BA75
5C182BC26
5C182CA12
5C182CA22
5C182CA33
5C182CA34
5C182CA36
5C182CA37
5C182CA42
5C182CB12
5C182CB44
5C182DA70
5L030BB22
(57)【要約】
【課題】対象物を撮影した画像データの色情報の補正を、より容易に行うことができる色補正システム及び情報処理装置を提供すること。
【解決手段】対象物を撮影した画像データの色情報を補正する情報処理装置と、画像データを表示する表示装置と、を有する色補正システムであって、同一の撮影環境において撮影装置が撮影した対象物及びカラーチャートの画像データから対象物の表示領域を認識する表示領域認識部と、画像データにおけるカラーチャートの色の色情報を用いて、対象物の表示領域又は画像データの全体の表示領域の色の色情報を補正する第1の色補正部と、対象物の表示領域の色の色情報のユーザによる補正内容を学習した機械学習モデルを用いて、対象物の表示領域の色の色情報を補正する第2の色補正部と、を有する色補正システムである。
【選択図】
図4
【特許請求の範囲】
【請求項1】
対象物を撮影した画像データの色情報を補正する情報処理装置と、前記画像データを表示する表示装置と、を有する色補正システムであって、
同一の撮影環境において撮影装置が撮影した対象物及びカラーチャートの画像データから前記対象物の表示領域を認識する表示領域認識部と、
前記画像データにおける前記カラーチャートの色の色情報を用いて、前記対象物の表示領域又は前記画像データの全体の表示領域の色の色情報を補正する第1の色補正部と、
前記対象物の表示領域の色の色情報のユーザによる補正内容を学習した機械学習モデルを用いて、前記対象物の表示領域の色の色情報を補正する第2の色補正部と、
を有する色補正システム。
【請求項2】
色補正環境において、前記表示装置が表示する前記画像データの画像の色の色情報を補正する第3の色補正部、を更に有する
請求項1記載の色補正システム。
【請求項3】
前記第3の色補正部は、モニターキャリブレーション装置を用いた色補正、又は前記撮影環境において撮影された前記カラーチャートの画像の色と前記表示装置に表示された色補正用画像ファイルのカラーチャートの画像の色とを一致させるように前記表示装置の色情報を補正する
請求項2記載の色補正システム。
【請求項4】
前記第2の色補正部により前記色情報が異なるように補正された複数の前記画像データの画像を前記表示装置に表示し、採用する前記画像データの画像を決定する操作をユーザから受け付ける操作受付部、を更に有する
請求項1又は2記載の色補正システム。
【請求項5】
前記操作受付部は、前記色情報を修正する前記画像データの画像を選択するユーザの操作を受け付けた場合に、選択された前記画像データの画像の色の色情報を修正する操作をユーザから受け付ける画面を前記表示装置に表示する
請求項4記載の色補正システム。
【請求項6】
前記画面から前記色情報が修正された前記画像データの画像を採用する操作をユーザから受け付けた場合に、修正前の前記画像データの前記色情報と修正後の前記画像データの前記色情報とを、学習用データとして用いて、前記機械学習モデルを再学習する
請求項5記載の色補正システム。
【請求項7】
前記対象物は、電子商取引を行うWebサイトに掲載する商品であり、
前記第2の色補正部及び前記第3の色補正部は、前記Webサイトにおいて前記商品の画像を閲覧する閲覧者の表示装置の機種特性を考慮して前記色情報を補正する
請求項2又は3記載の色補正システム。
【請求項8】
対象物を撮影した画像データの色情報を補正する情報処理装置であって、
同一の撮影環境において撮影装置が撮影した対象物及びカラーチャートの画像データから前記対象物の表示領域を認識する表示領域認識部と、
前記画像データにおける前記カラーチャートの色の色情報を用いて、前記対象物の表示領域又は前記画像データの全体の表示領域の色の色情報を補正する第1の色補正部と、
前記対象物の表示領域の色の色情報のユーザによる補正内容を学習した機械学習モデルを用いて、前記対象物の表示領域の色の色情報を補正する第2の色補正部と、
補正後の前記画像データを出力する出力部と、
を有する情報処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、色補正システム及び情報処理装置に関する。
【背景技術】
【0002】
近年、商品販売の一形態として電子商取引を行うWebサイト(ECサイト)が利用されるようになった。ECサイトにおいて商品販売を行う販売者は、販売する商品の情報をECサイトに掲載する必要がある。ECサイトに掲載する商品の情報の制作業務は、ささげ業務と呼ばれている。ささげ業務では、商品の撮影(画像の加工を含む)と、商品の採寸と、商品の説明文の作成とを行っている。なお、ささげ業務は、商品の売り上げを左右する重要な役割を果たすことが多い。このため、ECサイトにおいて商品販売を行う販売者は、ささげ業務を代行する業者(ささげ業務代行業者)を利用する場合もある。
【0003】
ささげ業務に含まれる商品の撮影(画像の加工を含む)では、商品を撮影し、商品を撮影した画像に対して各種の加工を行い、ECサイトに掲載する画像を制作する。各種の加工には、写り込みの消し込み、切り抜き、トリミング、リサイズ、及び色補正などが含まれている。
【0004】
色補正には、色合わせの為の色補正及び見栄えを良くする為の色補正が含まれる。色合わせの為の色補正は、実際の商品の色と、撮影した画像の商品の色と、を合わせるように行われる。この色合わせの為の色補正は、実際の商品の色と、ECサイトに掲載した画像の商品の色とが異なると、商品を購入する購入者からのクレームにも繋がる為に重要な作業である。また、見栄えを良くする為の色補正は、商品の魅力を引き出し、商品の売り上げをアップさせる為の重要な作業である。ただし、見栄えを良くしすぎて、実際の商品の色と異なりすぎた場合は、商品の購入者からのクレームにつながる。見栄えを良くする為の色補正は、購入者にとってより好印象を与えるため、購入者のクレームにつながらない程度に明るさや色調を微調整する作業であり、ささげ業務者の職人的な技術が必要となる。
【0005】
例えば、WEBマーケティングにおいて、提供側の情報が正しく表示されないと返品などに繋がり、社会的コストが増えることから、カラーチャートを用いて携帯通信端末の表示部の色補正を行う技術は、従来から知られている(例えば特許文献1参照)。
【先行技術文献】
【特許文献】
【0006】
【発明の概要】
【発明が解決しようとする課題】
【0007】
しかしながら、ささげ業務に含まれる色補正の作業は、作業を行うユーザが、画像の加工が可能なソフトウェアを用いて手動で行っていた。したがって、ささげ業務に含まれる色補正の作業は、ささげ業務の作業を行うユーザにとって大変な作業であり、且つ、時間が掛かる作業の一つであった。なお、商品は、撮影する対象物の一例である。
【0008】
本発明の一実施形態は、対象物を撮影した画像データの色情報の補正を、より容易に行うことができる色補正システム及び情報処理装置を提供することを目的とする。
【課題を解決するための手段】
【0009】
本発明の一実施形態は、対象物を撮影した画像データの色情報を補正する情報処理装置と、前記画像データを表示する表示装置と、を有する色補正システムであって、同一の撮影環境において撮影装置が撮影した対象物及びカラーチャートの画像データから前記対象物の表示領域を認識する表示領域認識部と、前記画像データにおける前記カラーチャートの色の色情報を用いて、前記対象物の表示領域又は前記画像データの全体の表示領域の色の色情報を補正する第1の色補正部と、前記対象物の表示領域の色の色情報のユーザによる補正内容を学習した機械学習モデルを用いて、前記対象物の表示領域の色の色情報を補正する第2の色補正部と、を有する色補正システムである。
【0010】
また、本発明の一実施形態は、対象物を撮影した画像データの色情報を補正する情報処理装置であって、同一の撮影環境において撮影装置が撮影した対象物及びカラーチャートの画像データから前記対象物の表示領域を認識する表示領域認識部と、前記画像データにおける前記カラーチャートの色の色情報を用いて、前記対象物の表示領域又は前記画像データの全体の表示領域の色の色情報を補正する第1の色補正部と、前記対象物の表示領域の色の色情報のユーザによる補正内容を学習した機械学習モデルを用いて、前記対象物の表示領域の色の色情報を補正する第2の色補正部と、補正後の前記画像データを出力する出力部と、を有する情報処理装置である。
【発明の効果】
【0011】
対象物を撮影した画像データの色情報の補正を、より容易に行うことができる。
【図面の簡単な説明】
【0012】
【
図1】本実施形態で用いるカラーチャート1の一例の模式図である。
【
図2】本実施形態に係る色補正システムの一例の構成図である。
【
図3】本実施形態に係るコンピュータの一例のハードウェア構成図である。
【
図4】本実施形態に係る色補正システムの一例の機能構成図である。
【
図5】本実施例に係る色補正システムの処理手順の一例を示したフローチャートである。
【
図6】作業者が使用する表示装置の色補正方法の一例を示した説明図である。
【
図7】画像選択のUI画面の一例のイメージ図である。
【
図8】画像修正のUI画面の一例のイメージ図である。
【
図9】画像選択のUI画面と画像修正のUI画面との間の画面遷移の一例を示した説明図である。
【
図10】本実施例に係る色補正システムの処理手順の一例を示したフローチャートである。
【発明を実施するための形態】
【0013】
次に、本発明の実施形態について詳細に説明する。本実施形態では、対象物を撮影した画像データの色情報を補正する作業の一例として、商品を撮影した画像データの色情報を補正する「ささげ業務」の色補正について説明する。また、本実施形態では、ささげ業務を行うユーザを作業者と呼び、ECサイトに掲載された商品をスマートフォンなどの情報処理端末で閲覧するユーザを閲覧者と呼ぶ。作業者は、例えば、ささげ業務代行業者(ささげ業者)などである。閲覧者は、ECサイトから商品を購入する消費者などである。
【0014】
<カラーチャート>
本実施形態では、例えば
図1に示すカラーチャート(色見本)を用いる。
図1は、本実施形態で用いるカラーチャート1の一例の模式図である。
図1に示したカラーチャート1は、複数のパッチ(色票)と、自動認識用マーカ11a及び11bと、を少なくとも有している。
【0015】
複数のパッチは、例えば、明度が異なる複数の無彩色のパッチを有する。また、複数のパッチは、例えば、複数の有彩色のパッチを有する。さらに、カラーチャート1は、複数のパッチの少なくとも一つを自動認識するための自動認識用マーカ11a及び11bを有することが望ましい。
図1に示すように、カラーチャート1が自動認識用マーカ11a及び11bを有することにより、画像データにおけるカラーチャート1の各パッチを認識する作業は、自動化できる。
【0016】
カラーチャート1は、模様が異なる自動認識用マーカ11a及び11bを有する。自動認識用マーカ11a及び11bを用いる場合には、自動認識用マーカ11a及び11bの相対的な位置関係を考慮して各パッチの自動認識が行われることから、各パッチの自動認識性が向上する。
【0017】
自動認識用マーカ11a及び11bは、自動認識を可能とするマーカであれば特に制限されるものではない。自動認識用マーカ11a及び11bは、二次元バーコード等によりカラーチャート1のバージョン情報、使用方法へのリンク、又は使用期限等の情報を付加してもよい。
【0018】
ここで、自動認識用マーカ11a及び11bを用いてカラーチャートの各パッチを自動認識する方法の一例を説明する。
【0019】
まず、カラーチャート1を撮影して得られた画像の中から、自動認識用マーカ11a及び11bを検知する。自動認識用マーカ11a及び11bの検知は、例えば、画像認識処理ソフトウェアなどの画像認識機能を利用することで、行うことができる。
【0020】
具体的には、画像認識機能を用いて、あらかじめ記憶されている自動認識用マーカ11a及び11bの画像と、カラーチャート1を撮影して得られた画像とのパターンマッチングを行い、カラーチャート1を撮影して得られた画像の中から、自動認識用マーカ11a及び11bを検知する。
【0021】
また、画像認識機能は、あらかじめ記憶されているカラーチャート1における自動認識用マーカ11a及び11bと各パッチとの位置関係と、検知した自動認識用マーカ11a及び11bを用いて、撮影して得られた画像のカラーチャート1に、カラーチャート1における自動認識用マーカ11a及び11bと各パッチとの位置関係を当てはめ、撮影して得られた画像のカラーチャート1中の各パッチを自動認識することができる。
【0022】
なお、
図1に示すカラーチャート1の詳細は、特許第6981561号公報に開示されているため、説明を省略する。
【0023】
<カラーチャートを用いた色補正方法>
ここでは、カラーチャート1を用いた色補正方法の一例である「色補正法1」について説明する。
図1に示したカラーチャート1の色は、標準光源下で観測した際の色の三値であるL
*a
*b
*値、RGB値、又はXYZ値、すなわち色の真値で記録されている。
【0024】
ECサイトに掲載する商品を撮影した画像データの色情報は、商品とカラーチャート1とを一緒に撮影するなど、商品と同一の撮影環境で撮影したカラーチャート1の色の三値が真値に合うように補正行列を掛け合わせ、その補正行列を商品の画像の色の三値に適用することにより、撮影環境によらない商品の正しい色(色味)を算出できる。
【0025】
色の色情報を補正する色補正方法は、例えばデジタル画像データをXYZ値に一度変換してから出力画像データのRGB値に変換することが好ましい。このとき、標準光源を仮定してもよい。この仮定は、商品の撮影を標準光源下で行えば成立する。XYZ値は、ヒトが視覚を認知する三刺激値をそのまま使っている。このため、XYZ値は、RGB値又はL*a*b*値で補正を行うよりもヒトの色覚を定量的に扱う色補正が可能である。
【0026】
XYZ値に変換した後の色補正方法としては、例えばガンマ補正と重回帰とを組み合わせる方法がある。
【0027】
まず、カラーチャート1の無彩色のパッチを利用してガンマ補正を行う。ガンマ補正はカラーチャート1の無彩色パッチの真のY値(Y*とする)と撮影した画像のY値(Yとする)とを用いて、Y*=aYg+bの式でフィッティングを行なって、変数aとbの値を求める。この式を用いて、撮影した画像の全体のXYZ値を補正する。撮影した画像の全体には、カラーチャート1、背景、モデル、商品の表示領域が含まれる。
【0028】
次に、ガンマ補正した画像のうち、カラーチャート1のパッチを対象として、各パッチの真のXYZ値(X*Y*Z*とする)を撮影した画像のXYZ値(XYZとする)を用いてXYZごとに重回帰式を組む。例えば、X*を求めたい場合は、X*=aX+bY+cZ+dの式で重回帰フィッティングを行って、変数a、b、c、及びdの値を求める。このような式を用いて色補正を行うと、撮影した画像の商品の表示領域の色が現物の色(色味)となる。なお、sRGBのデジタル画像データにする場合は、XYZ値からRGB値に変換する必要がある。
【0029】
<システム構成>
本実施形態に係る色補正システムは、例えば
図2に示すように構成される。
図2は、本実施形態に係る色補正システム20A及び20Bの一例の構成図である。
図20(A)は、色補正システム20Aの一例の構成図を示している。
図20(B)は、色補正システム20Bの一例の構成図を示している。
【0030】
図20(A)に示す色補正システム20Aは、撮影装置22、情報処理装置24、及び表示装置26を有する。撮影装置22は、例えば、カメラ、カメラ機能付きの電子機器などである。カメラ機能付きの電子機器は、例えば、PC(Personal Computer)、スマートフォン、タブレット端末、ゲーム端末、又は携帯電話などである。カメラ機能付きの電子機器のカメラ機能は、内蔵カメラであってもよいし、外付けのカメラであってもよい。
【0031】
撮影装置22は、商品及びカラーチャート1を撮影し、画像データを取得する。撮影装置22は、商品及びカラーチャート1を撮影した画像データを、情報処理装置24に送信する通信機能を有していることが望ましい。なお、撮影装置22は、撮影した画像データをUSB(Universal Serial Bus)メモリなどの記録媒体に記録し、その記録媒体から撮影した画像データを読み出させてもよい。
【0032】
情報処理装置24は、例えば、PC、スマートフォン、タブレット端末、ゲーム端末、又は携帯電話などである。情報処理装置24は、撮影装置22が撮影した画像データを取得して、撮影装置22が撮影した画像データの色情報を後述のように補正する。
【0033】
表示装置26は、例えば、モニター、モニター機能付きの電子機器などである。モニター機能付きの電子機器は、例えば、PC、スマートフォン、タブレット端末、ゲーム端末、又は携帯電話などである。表示装置26は、情報処理装置24が色情報を補正した画像データなどを表示する。また、表示装置26は、情報処理装置24が作業者からの各種操作を受け付けるUI(User Interface)画面を表示する。
【0034】
なお、色補正システム20Aは、撮影装置22、情報処理装置24、及び表示装置26が別々の独立した装置であってもよいし、撮影装置22、情報処理装置24、及び表示装置26の少なくとも二つが同一の装置であってもよい。例えば内蔵カメラを有するノートパソコン、スマートフォン、又はタブレット端末などの電子機器であれば、一台の電子機器で色補正システム20Aを実現できる。
【0035】
図20(B)に示す色補正システム20Bは、撮影装置22、情報処理装置24、及び表示装置26がインターネットなどの通信ネットワーク28を介してデータ通信可能に接続されている。色補正システム20Bは、情報処理装置24がクラウド環境により実現されている。なお、色補正システム20Bの情報処理装置24は、クラウド環境のインフラ領域(サーバ、ネットワーク、及びオペレーティングシステム(OS)など)を利用して実現されている。
【0036】
撮影装置22は、色補正システム20Aの撮影装置22と同様である。通信機能を有している撮影装置22は、撮影した画像データを通信ネットワーク28経由で情報処理装置24に送信する。また、撮影装置22は、通信機能を提供する通信装置を利用し、撮影した画像データを通信ネットワーク28経由で情報処理装置24に送信してもよい。
【0037】
情報処理装置24は、撮影装置22が撮影した画像データを受信して、撮影装置22が撮影した画像データの色情報を後述のように補正する。情報処理装置24は、色情報を補正した画像データを表示装置26に送信する。また、情報処理装置24は、表示装置26にUI画面を表示させるための各種データを表示装置26に送信する。
【0038】
表示装置26は、通信機能及びモニター機能付きの電子機器などである。通信機能及びモニター機能付きの電子機器は、例えば、PC、スマートフォン、又はタブレット端末などである。表示装置26は、情報処理装置24が色情報を補正した画像データなどを情報処理装置24から受信して表示する。また、表示装置26は、作業者からの各種操作を受け付けるUI画面を表示する。表示装置26は、作業者から受け付けた各種操作の内容を情報処理装置24に送信する。
【0039】
なお、色補正システム20Bは、撮影装置22及び表示装置26が別々の独立した装置であってもよいし、撮影装置22及び表示装置26が同一の装置であってもよい。例えば内蔵カメラを有するノートパソコン、スマートフォン、又はタブレット端末などの電子機器であれば、一台の電子機器で撮影装置22及び表示装置26を実現できる。
【0040】
<ハードウェア構成>
図2の情報処理装置24は、例えば
図3に示すようなハードウェア構成のコンピュータにより実現される。
図3は、本実施形態に係るコンピュータの一例のハードウェア構成図である。
【0041】
図3のコンピュータは、入力装置501、出力装置502、外部I/F503、RAM(Random Access Memory)504、ROM(Read Only Memory)505、CPU(Central Processing Unit)506、通信I/F507、及びHDD(Hard Disk Drive)508などを備えており、それぞれがバスBで相互に接続されている。
【0042】
入力装置501は、入力に用いるキーボード、マウス、タッチパネルなどである。出力装置502は、画面を表示する液晶や有機ELなどのディスプレイ、音声や音楽などの音データを出力するスピーカなどで構成されている。通信I/F507は、コンピュータを通信ネットワーク28に接続するインタフェースである。HDD508は、プログラムやデータを格納している不揮発性の記憶装置の一例である。コンピュータは、HDD508に替えて又はHDD500と共に、SSD(Solid State Drive)を備えていてもよい。
【0043】
外部I/F503は、外部装置とのインタフェースである。外部I/F503は、記録媒体503aからデータを読み取る。また、外部I/F503は、記録媒体503aにデータを書き込む。記録媒体503aは、DVD(Digital Versatile Disc)、SD(Secure Digital)メモリカード、USBメモリなどがある。
【0044】
CPU506は、ROM505やHDD508などの記憶装置からプログラムやデータをRAM504上に読み出し、処理を実行することで、コンピュータ全体の制御及び機能を実現する演算装置である。情報処理装置24は、上記したハードウェア構成のコンピュータにおいてプログラムを実行することにより各種機能を実現できる。
【0045】
なお、
図3のハードウェア構成は一例であって、用途や目的に応じて様々な構成例があることは言うまでもない。例えば、入力装置501及び出力装置502は、筐体に内蔵されていてもよいし、外付けであってもよい。
【0046】
<機能構成>
本実施形態に係る色補正システム20A及び20Bは、例えば
図4に示す機能構成で実現される。
図4は、本実施形態に係る色補正システム20A及び20Bの一例の機能構成図である。色補正システム20A及び20Bの情報処理装置24は、
図4に示す機能構成をOS及びアプリケーションなどのプログラムを実行することで実現する。なお、
図4の機能構成図は、本実施形態の説明に不要な構成について適宜省略している。
【0047】
図4では、商品2が服の例を示している。
図4では、商品2である服を、例えばモデル又はマネキンに着せて撮影する例を示している。商品2は、通信販売用サンプルであってもよい。撮影装置22は、カラーチャート1及び商品2を同一の撮影環境で撮影し、撮影した画像データを情報処理装置24に送信する。カラーチャート1及び商品2は同一の撮影環境で撮影すれば良いため、商品2と一緒にカラーチャート1を撮影しても良いし、撮影環境の照明の光量が変わらないのであればカラーチャート1と商品2を別々に撮影しても良い。カラーチャート1と商品2を別々に撮影する場合は、カラーチャート1と一緒に市販のグレーボールとクロムボールを一緒に撮影することができる。カラーチャート1と一緒に市販のグレーボールとクロムボールを一緒に撮影した場合は、光の方向や反射に関する情報も得ることができる。
【0048】
情報処理装置24は、プログラムを実行することにより、画像データ取得部60、表示領域認識部62、第1の色補正部64、第2の色補正部66、第3の色補正部68、第1の機械学習部70、第2の機械学習部72、出力部74、及び操作受付部76を実現している。
【0049】
画像データ取得部60は、同一の撮影環境においてカラーチャート1及び商品2が撮影された画像データを撮影装置22から取得する。表示領域認識部62は、画像データ取得部60が取得した画像データから商品2の表示領域を、第1の機械学習部70を用いて認識する。第1の機械学習部70は、例えばモデル又はマネキン込みで商品2を撮影した画像データから、商品2の表示領域のみを抽出するように機械学習した第1の機械学習モデルを有している。
【0050】
機械学習としては、物体検出に特化した畳み込みニューラルネットワーク(CNN)による手法を使ったR-CNN又はセマンティックセグメンテーションの一種であるU-Netなどを使用できる。R-CNN又はU-Netは、Python又はC++を使ってプログラミングをしても良いし、市販の画像認識ソフト又は画像認識クラウドサービスを利用しても良い。
【0051】
第1の色補正部64は、画像データ取得部60が取得した画像データのカラーチャート1の色の色情報を用いて、商品2の表示領域又は画像データの全体の表示領域の色の色情報を補正する。第1の色補正部64の処理の詳細は、後述する。
【0052】
第2の色補正部66は、第2の機械学習部72を用いて、商品2の表示領域の色の色情報を補正する。第2の機械学習部72は、例えば商品2の見栄えを良くする為に作業者が行った色補正を機械学習した第2の機械学習モデルを有している。このように、第2の色補正部66は、商品2の見栄えを良くする為に作業者が行った色補正を機械学習した第2の機械学習モデルを用いて、商品2の見栄えが良くなるように商品2の表示領域の色の色情報を補正する
第3の色補正部68は、色補正環境において、表示装置26が表示する画像データの画像の色の色情報を補正する。表示装置26が表示する画像の色は、表示装置26が設置されている場所の照明環境、表示装置26の品質、個体差、又は調整などの色補正環境により変化する。そこで、第3の色補正部68は、色補正環境における表示装置26の色(色味)補正であるキャリブレーションを実施する。なお、色補正環境における表示装置26の色(色味)補正であるキャリブレーションの詳細は、後述する。
【0053】
出力部74は、色情報を補正後の商品2の画像を含む画像選択のUI画面を表示装置26に表示させる。作業者は、表示装置26に表示された色情報を補正後の商品2の画像を確認し、画像選択のUI画面を操作することでECサイトに掲載する商品2の画像を選択できる。また、作業者は、画像選択のUI画面を操作することで、画像選択のUI画面に表示された商品2の画像の色情報を修正し、ECサイトに掲載する商品2の画像として選択することもできる。操作受付部76は、画像選択のUI画面に対して作業者が行った操作内容を受け付ける。出力部74は、操作受付部76が受け付けた操作内容に従って、表示装置26に表示されるUI画面を後述のように遷移させる。
【0054】
<処理>
図5は、本実施例に係る色補正システム20A及び20Bの処理手順の一例を示したフローチャートである。
【0055】
ステップS10において、撮影装置22は、例えば
図4に示したように、商品2を撮影する。なお、撮影装置22は、RGB値を持つデジタル画像データが出力できるものであれば、市販のもので構わない。撮影装置22は、カラーチャート1と商品2とを、同一の撮影環境で撮影する。例えば、撮影装置22は、カラーチャート1と商品2とを、同時に撮影することで、カラーチャート1と商品2とを、同一の撮影環境で撮影できる。
【0056】
カラーチャート1は、
図1のカラーチャート1を利用できる。カラーチャート1は、市販のものでもよく、例えばX-rite社のマクベスカラーチェッカーを利用できる。好ましくは、商品2の種別によるが、例えば被服、バック、又はアクセサリが多い場合、カラーチャート1のパッチの色としては、彩度と明度とが高い色を必ず入れ、ガンマ補正のための無彩色の色を最低4点、赤、茶、又は黄などの暖色を中心に揃えると良い。
【0057】
カラーチャート1の色の数は、多いほど補正精度が高くなり、最低12色、18色以上が好ましく、25色以上がより好ましい。また、カラーチャート1は、撮影装置22で各パッチの色が判別できるパッチサイズのものを使用する。具体的に、カラーチャート1のパッチサイズは、0.25cm2以上で、16cm2以下が好ましい。
【0058】
撮影環境につかう光源は、光の強度が安定している標準光源が望ましい。撮影には、ストロボを使用しても良いが、カラーチャート1の各パッチが、過剰露出又は不足露出にならないことが必要である。カラーチャート1を配置する場所は、商品2にあたる照明光とカラーチャート1にあたる照明光とが、同様に当たる場所であることが望ましい。撮影環境が同一であれば、撮影装置22は、最初にカラーチャート1を撮影して、その後に商品2を連続撮影しても良い。
【0059】
ステップS10において撮影された画像データを取得すると、情報処理装置24の表示領域認識部62は、ステップS12において、画像データから商品2の表示領域を、次のように認識する。
【0060】
例えば、通信販売用サンプルなどの商品2が服又はバック等の場合、商品2は、モデルと一緒に撮影する可能性がある。この場合は、画像データに含まれる人肌の表示領域の色を適切に色補正したのち、商品2の表示領域の色補正を行うことが望ましい。そこで、表示領域認識部62は、画像データに含まれる人肌(顔)の色補正を行ったあと、第1の機械学習部70を用いて、画像データから商品2の表示領域を認識する。ステップS14以降の色補正は、商品2の表示領域を対象とする。
【0061】
ステップS14において、情報処理装置24は、表示装置26の色補正、商品2の表示領域の色補正、及び商品種による商品2の色調補正の処理を行う。
【0062】
《表示装置の色補正》
作業者が画像データに含まれる商品2の表示領域の色補正を行うときは、撮影した商品2を表示装置26に表示して、商品2の表示領域の色を確認しながら実施する。しかしながら、表示装置26は、照明環境、表示装置26の品質、個体差、又は調整などの色補正環境により色味が変わる。したがって、作業者の色補正環境における表示装置26の色味補正(キャリブレーション)を実施してもよい。例えば、作業者の色補正環境における表示装置26の色味補正は、同じ照明環境であるならば、その日の作業の開始時点に1回だけ行えばよい。
【0063】
表示装置26の色補正としては、例えば市販のモニターキャリブレーション装置が有効である。例えば、X-rite社の「i1 DISPLAY PRO」は、モニターキャリブレーション装置として好適に使用できる。
【0064】
また、表示装置26の色補正としては、特開2022-64100号公報に記載の「表示部の色補正方法」を適用してもよい。特開2022-64100号公報に記載の「表示部の色補正方法」を適用した場合は、例えば
図6に示すように、作業者が使用する表示装置26の表示部32の色補正を行う。
図6の表示装置26の表示部32の色補正は、以下のようにクラウドベースでシステム運用してもよい。クラウドベースでシステム運用する場合は、表示装置26の表示部32の色補正を半自動で実行できる。
【0065】
図6は、作業者が使用する表示装置26の色補正方法の一例を示した説明図である。
図6に一例として示した表示装置26は、カメラ30と表示部32とを含むノートパソコンである。また、
図6では、印刷物などの現物のカラーチャート34が表示装置26の表示部と並ぶように置かれている。
【0066】
また、
図6(B)に示すように、表示装置26の表示部32に表示される画像と、表示部32に並ぶように置かれた現物のカラーチャート34とが、カメラ30により撮影されるように、表示装置26の手前に鏡38が置かれる。
【0067】
表示装置26は、クラウドシステムにアクセスすることで、例えば
図6に示す色補正用画像ファイル(カラーチャート34の画像ファイルなど)の画像36が表示される。表示装置26は、
図6(B)に示すように、鏡38に写る表示部32の画像36と、表示部32に並ぶように置かれている現物のカラーチャート34とを、カメラ30で撮影する。表示部32の画面には、
図6(B)に示すように、色補正用画像ファイルの画像36が表示されている。
【0068】
第3の色補正部68は、カメラ30で撮影された現物のカラーチャート34の色及び表示装置26に表示された色補正用画像ファイルの画像36の色から、前述した「色補正法1」を用いて、色補正式を計算する。第3の色補正部68は、計算した色補正式から表示装置26の表示部32の色味を変換する。
【0069】
このとき、作業者は、表示装置26に搭載されているOSのユーティリティを使用できることがある。この場合、作業者は「Windows11およびWindows10でLCDパネルの色温度を調整する方法」<https://www.dell.com/support/kbdoc/ja-jp/000194424/>などに記載されているように、手動で値を入れて表示装置26の表示部32の色味を調整してもよい。
【0070】
また、計算した色補正式から表示装置26の表示部32の色味の調整を自動で実施する場合は、クラウド上からOS又は表示装置26にアクセスし、色味を変換する方法も考えられる。
【0071】
また、事前にクラウドと対応したユーティリティソフトを表示装置26にインストールしておいて、クラウド上の結果と連携して自動で表示部32の色補正する方法、及びクラウドに対応して自動で表示部32の色補正を実行する表示装置26により色補正する方法が考えられる。
【0072】
その他、表示装置26の表示部32の色味の調整を作業者が手動で以下のように補正する方法も考えられる。
【0073】
作業者は、色補正用画像ファイル(カラーチャート34の画像ファイルなど)を表示装置26の表示部32に表示させる。作業者は、現物のカラーチャート34を手元に置いて確認しながら、表示部32に表示させた色補正用画像と一致するように、手動で表示部32の画面の色を調整する。このとき、作業者は、OSのユーティリティを使用できることがある。作業者は、グレースケール(白~黒)を合わせたあと、カラーRGB/CMYを合わせる。
【0074】
上記した表示装置26の色補正により、作業者は、表示装置26の表示部32に表示する色を調整(キャリブレーション)したあとで、商品2の画像を表示装置26の表示部32に表示して確認できる。
【0075】
《商品の表示領域の色補正》
撮影装置22が撮影した商品2のデジタル画像は、撮影時の光源環境などの撮影環境により実際の色彩と異なる。このため、商品2の表示領域の色補正では、カラーチャート1を用いて、商品2の画像の色を商品2の販売者にとって好ましい色に補正する。
【0076】
手順として、第1の色補正部64は、商品2の画像の表示領域について、ヒトの3値刺激(XYZ値)に対応した色補正を行い、その後、好ましい色補正を行う。この手順の処理は、ディープラーニング(深層学習)などを用いて機械学習させ、機械学習させた機械学習モデルに推論させてもよい。
【0077】
色補正の方法としては、前述した「色補正法1」を利用できる。第1の色補正部64による色補正は、商品2の表示領域のみであってもよいし、商品2を含むデジタル画像全体であってもよい。
【0078】
商品2の表示領域のみを色補正する場合は、ステップS12で認識した商品2の表示領域の色の色情報を補正する。第1の色補正部64は、得られた色補正式を用いて、商品2の表示領域の色補正を行うことで、商品2の表示領域の色を現物の商品2の色味に調整できる。sRGBのデジタル画像にする場合は、XYZ値からRGB値に変換する。
【0079】
上記した商品2の表示領域の色補正により、作業者は、商品2の表示領域の色を現物の商品2の色味に調整できる。
【0080】
《商品種による商品の色調補正》
作業者は、上記した商品2の表示領域の色補正のあと、ECサイト上で商品2を魅力的に見せるなど、見栄えを良くする為に、商品2の色調及び光沢感を微調整する色調補正を行う。なお、商品2の商品種又は色調により、商品2の見栄えを良くする為の色調補正は異なる。
【0081】
例えば、作業者は、照明条件又は商品2の配置により、画像の明るい部分が過剰に露出して画素値が飽和した白飛びの補正といった撮影時(撮影環境)の問題で発生する現象の補正、撮影装置22の機器特性を考慮した補正、赤い洋服ならば色調補正した画像から若干の光沢感を出す補正などの好ましい色補正(以下、色調再補正と呼ぶ)を行う。
【0082】
この色調再補正の処理は、第2の機械学習部72に代行させることができる。第2の機械学習部72は、画像認識システム及び画像生成システムを組み合わせることにより実現できる。画像認識システムは、画像認識AIを利用して実現できる。また、画像生成システムは、画像生成AIを利用して実現できる。
【0083】
例えば、第2の機械学習部72は、例えばCNNを用いて画像認識を行ったあと、変分オートエンコーダVAE又は敵対的生成ネットワークGANなどの生成AIを用いて、商品2の表示領域の微修正などの色調再補正を行う。第2の機械学習部72は、Pythonなどのプログラミング言語を使って認識部分も生成部分もプログラミングをしても良いし、市販の画像認識ソフト又は画像認識クラウドサービスを併用しても良い。
【0084】
第2の機械学習部72の構築の為には、例えば商品2の見栄えを良くする為に作業者が行った色調再補正を機械学習した第2の機械学習モデルが必要である。第2の機械学習モデルの機械学習の為には、学習用データが必要である。
【0085】
まず、第2の機械学習モデルは、事前学習用データを用いて機械学習する。事前学習用データのインプット画像は、上記した商品2の表示領域の色補正を行った商品2の画像である。事前学習用データのアウトプットの教師データ画像は、上記したように作業者がインプット画像に対して色調再補正を行った商品2の画像である。
【0086】
機械学習用の特性値は、このインプット画像及び教師データ画像から得る。機械学習用の特性値としては、インプット画像及び教師データ画像の統計的なRGB値又はL値、RGB値又はL値をXYZ値に変換した値などが用いられる。機械学習用の特性値は、二次元画像のRGB値を一次元ベクトル化した後、主成分分析などにより1000点程度のベクトルに変換し、このベクトルを用いても構わない。
【0087】
なお、商品2の商品種(鞄、服、アクセサリなど)により、作業者が行う色調再補正の内容が異なる場合も想定されるため、事前学習用データは、商品種(カテゴリ別)に分類しても構わない。
【0088】
例えば事前学習用データの画像は、1000点程度準備し、左右反転又は領域切りぬきなどの画像拡張のテクニックにより10倍に拡張した10000点程度の画像データを事前学習用データとして用いてもよい。第2の機械学習部72は、上記の事前学習用データを第2の機械学習モデルに機械学習させることで、生成AI型の第2の機械学習部72を構築できる。
【0089】
第2の機械学習部72は、上記したように作業者がインプット画像に対して行った色調再補正を機械学習した第2の機械学習モデルを用いて、ECサイト上で商品2を魅力的に見せるなど、見栄えを良くする為の色調再補正を行った商品2の画像を複数作成する。なお、第2の機械学習部72が色調再補正を行った商品2の画像は、第2の機械学習モデルにより点数付けがされている。第2の機械学習モデルにより付けられた点数は、ECサイトに掲載する商品2の画像としての相応しさの程度を表している。
【0090】
なお、第2の機械学習モデルは、後述するように、商品2の表示領域の色補正を行った商品2の画像と、その商品2の画像に対して色調再補正を行った複数の商品2の画像から作業者によりECサイトへの掲載用として選択された商品2の画像とを、学習用データとして用いて再学習することで、第2の機械学習部72が行う色調再補正の精度は向上し続ける。
【0091】
《色調再補正を行った複数の商品2の画像の選択》
ステップS18において、出力部74は、ステップS14の色補正の処理により複数作成された色調再補正が完了した商品2の画像を含む画像選択のUI画面1000を、例えば表示装置26に
図7に示すように表示する。
図7は、画像選択のUI画面1000の一例のイメージ図である。
【0092】
図7の画像選択のUI画面1000は、4点の商品2の画像1002が含まれている例である。画像選択のUI画面1000に表示される4点の商品2の画像1002は、例えば、ステップS14の色補正の処理により複数作成された色調再補正が完了した商品2の画像のうち、第2の機械学習モデルにより付けられた点数が高得点だった4点の商品2の画像である。
【0093】
ステップS20において、情報処理装置24の操作受付部76は、作業者による操作を受け付ける。作業者は、画像選択のUI画面1000に表示された4点の商品2の画像1002のうち、ECサイトに掲載するのに相応しい商品2の画像1002があれば、その商品2の画像1002を選択して決定ボタン1004を操作することで、ECサイトに掲載する商品2の画像1002を決定できる。出力部74は、操作受付部76が作業者から決定ボタン1004の操作を受け付けると、画像選択が終了と判定し、ステップS24の処理を行う。
【0094】
また、作業者は、画像選択のUI画面1000に表示された4点の商品2の画像1002のうち、微修正を加えることでECサイトに掲載するのに相応しい商品2の画像1002があれば、その商品2の画像1002を選択して修正ボタン1006を操作する。出力部74は、操作受付部76が修正ボタン1006の操作を作業者から受け付けることにより、
図8の画像修正のUI画面1100を表示装置26に表示する。
図8は、画像修正のUI画面1100の一例のイメージ図である。
【0095】
図8の画像修正のUI画面1100は、
図7の画面選択のUI画面1000において作業者に選択された商品2の画像(例えば、
図7の画面選択のUI画面1000に表示されている4点の商品2の画像1002のうち「3」が付された商品2の画像1002)の色情報を修正する操作を作業者から受け付ける。作業者は、画像修正のUI画面1100の商品2の表示領域に対する補正欄1102から、商品2の画像の色情報を修正する操作を行うことができる。
【0096】
図8の画像修正のUI画面1100に表示されている商品2の画像は、商品2の表示領域に対する補正欄1102から受け付けた作業者の操作に従って、その商品2の画像の色の色情報が補正される。作業者は、微修正を加えることでECサイトに掲載するのに相応しい商品2の画像1002となれば、修正完了ボタン1104を操作することで、画像修正のUI画面1100に表示されている商品2の画像を、ECサイトに掲載する商品2の画像1002として決定できる。
【0097】
また、作業者は、微修正を加えることでECサイトに掲載するのに相応しい商品2の画像1002とならなければ、修正リセットボタン1106を操作することで、商品2の表示領域に対する補正欄1102において行った微修正をリセットして、
図8の画像修正のUI画面1100に遷移したときの商品2の画像1002に戻すことができる。
【0098】
さらに、作業者は、「候補選択に戻る」ボタン1108を操作することで、
図7の画面選択のUI画面1000に戻ることもできる。
図7の画面選択のUI画面1000において「他の候補」ボタン1008を操作することで、作業者は、ステップS14の色補正の処理により複数作成された色調再補正が完了した商品2の画像のうち、第2の機械学習モデルにより付けられた点数が次に高得点だった4点の商品2の画像を表示装置26に表示させることもできる。
【0099】
出力部74は、操作受付部76が作業者から決定ボタン1004又は修正完了ボタン1104の操作を受け付けなければ、画像選択が終了していない判定し、ステップS14の処理に戻ることで、ECサイトに掲載するのに相応しい商品2の画像1002の選択を継続する。
【0100】
ステップS22において、画像選択が終了と判定された場合は、ステップS24の処理に進み、作業者がECサイトに掲載するのに相応しい商品2の画像1002として選択した結果を、第2の機械学習部72の学習用データとしてフィードバックする。
【0101】
例えば、画像選択のUI画面1000に表示された4点の商品2の画像1002から1点の商品2の画像1002を選択し、作業者が微修正した場合は、作業者が選択した商品2の画像をインプット画像、作業者が微修正した後の商品2の画像を教師データ画像とする学習用データとして、第2の機械学習モデルの再学習に利用できる。
【0102】
図9は、画像選択のUI画面1000と画像修正のUI画面1100との間の画面遷移の一例を示した説明図である。
図9に示したように、作業者は、画像選択のUI画面1000と画像修正のUI画面1100との間を遷移しながら、ECサイトに掲載するのに相応しい商品2の画像1002を選択することで、商品2を撮影した画像データの色情報の補正を、より容易に行うことができる。
【0103】
なお、第2の色補正部66及び第3の色補正部68は、ECサイトに掲載された商品2の画像を閲覧する閲覧者(消費者など)が使用するスマートフォン又はPCなどの表示装置の機種特性を考慮するため、閲覧者が使用する表示装置に表示させた商品2の画像を確認しながら、ECサイトに掲載するのに相応しい商品2の画像1002を選択するようにしてもよい。
【0104】
このように、閲覧者が使用する表示装置に表示させた商品2の画像を確認しながら、ECサイトに掲載するのに相応しい商品2の画像1002を選択することで、閲覧者が使用する表示装置の色味などの機種特性に合うように、商品2の画像1002の色補正を行うことができる。
【0105】
図5のフローチャートの処理では、作業者が画像選択のUI画面1000に表示された複数の商品2の画像1002からECサイトに掲載するのに相応しい1点の商品2の画像1002を選択しているが、作業者に選択させず、第2の機械学習モデルにより付けられた点数が最も高得点だった商品2の画像を自動的に選択してよい。
【0106】
図10は、本実施例に係る色補正システム20A及び20Bの処理手順の一例を示したフローチャートである。ステップS50~S54の処理は、
図5のステップS10~S14と同様である。
【0107】
ステップS56において、出力部74は、ステップS54の色補正の処理により複数作成された色調再補正が完了した商品2の画像のうち、第2の機械学習モデルにより付けられた点数が最も高得点の商品2の画像を、ECサイトに掲載するのに相応しい1点の商品2の画像1002として選択する。
【0108】
ステップS58において、出力部74は、ステップS56で選択した1点の色調再補正が完了した商品2の画像1002を、画面表示のUI画面に表示する。このように、
図5のフローチャートの処理によれば、色調再補正が完了した複数の商品2の画像1002からECサイトに掲載するのに相応しい1点の商品2の画像1002を自動的に選択させることができる。
【0109】
(まとめ)
本実施形態によれば、商品2を撮影した画像データの色情報を、ECサイトに掲載するのに相応しく補正する「ささげ業務」の作業を支援することで、「ささげ業務」の作業が容易化し、作業時間が短縮化される。
【0110】
本発明は、具体的に開示された上記の実施形態に限定されるものではなく、特許請求の範囲から逸脱することなく、種々の変形や変更が可能である。
【符号の説明】
【0111】
1 カラーチャート
20A、20B 色補正システム
22 撮影装置
24 情報処理装置
26 表示装置
60 画像データ取得部
62 表示領域認識部
64 第1の色補正部
66 第2の色補正部
68 第3の色補正部
70 第1の機械学習部
72 第2の機械学習部
74 出力部
76 操作受付部