(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-10-15
(45)【発行日】2024-10-23
(54)【発明の名称】プログラム、学習モデルの生成方法及び情報処理方法
(51)【国際特許分類】
G06T 7/00 20170101AFI20241016BHJP
【FI】
G06T7/00 350B
G06T7/00 130
(21)【出願番号】P 2021001087
(22)【出願日】2021-01-06
【審査請求日】2023-10-16
【新規性喪失の例外の表示】特許法第30条第2項適用 令和 2年 5月22日に、Confitの2020年度 人工知能学会全国大会(第34回)のウェブサイトにて公開(https://confit.atlas.jp/guide/event/jsai2020/subject/1M3-GS-13-02/advanced) 令和 2年 6月 9日に、2020年度 人工知能学会全国大会(第34回)にて公開(https://www.ai-gakkai.or.jp/jsai2020/) 令和 2年 6月20日に、PLUG AIのウェブサイトで公開(https://hp.package-ai.jp/)
(73)【特許権者】
【識別番号】309035899
【氏名又は名称】株式会社プラグ
(74)【代理人】
【識別番号】100114557
【氏名又は名称】河野 英仁
(74)【代理人】
【識別番号】100078868
【氏名又は名称】河野 登夫
(72)【発明者】
【氏名】坂元 英樹
【審査官】豊田 好一
(56)【参考文献】
【文献】特開2019-149171(JP,A)
【文献】特開2020-204942(JP,A)
【文献】特開2020-194446(JP,A)
【文献】篠原 裕之ほか,“畳み込みニューラルネットワークを用いたビール缶パッケージの好意度予測及び要因の可視化”,人工知能学会全国大会論文集,日本,2019年,第JSAI2019巻,pp.3N4J1002-3N4J1002
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
商品のパッケージデザインを含むパッケージ画像を取得し、
性別または年代の選択を受け付け、
前記パッケージ画像を入力した場合に、受け付けた性別または年代に対応する前記パッケージデザインの好意度に関する情報を出力するよう学習済みの第1学習モデルに、取得した前記パッケージ画像を入力して、受け付けた性別または年代に対応する前記パッケージデザインの好意度に関する情報を出力する
処理をコンピュータに実行させるプログラム。
【請求項2】
各性別及び年代に対応して用意された複数の前記第1学習モデルから出力されたパッケージデザインの好意度に関する情報に基づき、全性別及び全年代のパッケージデザインの好意度に関する情報を出力する
処理を実行させる請求項1に記載のプログラム。
【請求項3】
商品のカテゴリ毎に設定されたスコアを取得し、
前記第1学習モデルに、取得した前記スコアと前記パッケージ画像とを入力して、前記パッケージデザインの好意度に関する情報を出力する
処理を実行させる請求項1又は2に記載のプログラム。
【請求項4】
前記パッケージ画像を入力した場合に前記パッケージデザインのイメージワードの出現割合を出力するよう学習済みの第2学習モデルに、前記パッケージ画像を入力して前記イメージワードの出現割合を出力する
処理を実行させる請求項1から3のいずれか一つに記載のプログラム。
【請求項5】
複数の性別または年代に対応して用意された複数の前記第2学習モデルを用いて、性別または年代ごとに前記パッケージ画像から前記イメージワードの出現割合を出力する
処理を実行させる請求項4に記載のプログラム。
【請求項6】
複数の前記パッケージ画像を取得し、
前記パッケージデザインのイメージワードの選択を受け付け、
前記第2学習モデルに、それぞれの前記パッケージ画像を入力して、受け付けた前記イメージワードの出現割合をそれぞれ出力し、
それぞれの前記パッケージ画像と、前記第2学習モデルが出力したそれぞれの前記イメージワードの出現割合との関係を示す第1グラフを出力する
処理を実行させる請求項4又は5に記載のプログラム。
【請求項7】
前記パッケージ画像を入力した場合に前記パッケージデザインの好意度の標準偏差を出力するよう学習済みの第3学習モデルに、前記パッケージ画像を入力して前記好意度の標準偏差を出力する
処理を実行させる請求項4から6のいずれか一つに記載のプログラム。
【請求項8】
複数の性別または年代に対応して用意された複数の前記第3学習モデルを用いて、性別または年代ごとに前記パッケージ画像から前記好意度の標準偏差を出力する
処理を実行させる請求項7に記載のプログラム。
【請求項9】
複数の前記パッケージ画像を取得し、
前記第3学習モデルに、それぞれの前記パッケージ画像を入力して、前記好意度の標準偏差をそれぞれ出力し、
それぞれの前記パッケージ画像と、前記第3学習モデルが出力したそれぞれの前記好意度の標準偏差との関係を示す第2グラフを出力する
処理を実行させる請求項7又は8に記載のプログラム。
【請求項10】
前記好意度に関する情報を出力するための第1オブジェクト、前記イメージワードの出現割合を出力するための第2オブジェクト、及び前記好意度の標準偏差を出力するための第3オブジェクトを選択可能に表示させ、
前記第1オブジェクト、前記第2オブジェクトまたは前記第3オブジェクトの選択を受け付ける
処理を実行させる請求項7から9のいずれか一つに記載のプログラム。
【請求項11】
複数の前記パッケージ画像を取得し、
前記第1学習モデルに、それぞれの前記パッケージ画像を入力して、前記パッケージデザインの好意度に関する情報をそれぞれ出力し、
それぞれの前記パッケージ画像から、前記第1学習モデルが出力した前記好意度に関する情報に影響を及ぼした領域をそれぞれ抽出し、
それぞれの前記パッケージ画像と、抽出したそれぞれの領域を示す指標とを関連付けて出力する
処理を実行させる請求項1から10のいずれか一つに記載のプログラム。
【請求項12】
性別または年代ごとに、商品のパッケージデザインを含むパッケージ画像と、前記パッケージデザインの好意度とが対応付けられた訓練データの組み合わせを複数取得し、
性別または年代ごとに、取得した前記訓練データの複数の組み合わせに基づき、前記パッケージ画像を入力した場合に、前記パッケージデザインの好意度に関する情報を出力する学習モデルを生成する
処理をコンピュータに実行させる学習モデルの生成方法。
【請求項13】
商品のカテゴリ毎に設定されたスコア、及び前記商品のパッケージデザインを含むパッケージ画像と、前記パッケージデザインの好意度とが対応付けられた訓練データの組み合わせを複数取得し、
取得した前記訓練データの複数の組み合わせに基づき、前記スコアと前記パッケージ画像とを入力した場合に、前記パッケージデザインの好意度に関する情報を出力する学習モデルを生成する
処理をコンピュータに実行させる学習モデルの生成方法。
【請求項14】
商品のカテゴリ毎に、商品を検索するためのブランド名及び企業名の入力を受け付け、
検索エンジンによる受け付けた前記ブランド名及び企業名に対する検索ヒット数を取得し、
取得した前記検索ヒット数に基づき、商品のカテゴリ内の複数のブランドの平均スコアを算出する
処理をコンピュータに実行させる請求項13に記載の学習モデルの生成方法。
【請求項15】
商品のパッケージデザインを含むパッケージ画像と、前記パッケージデザインのイメージワードとが対応付けられた訓練データの組み合わせを複数取得し、
取得した前記訓練データの複数の組み合わせに基づき、前記パッケージ画像を入力した場合に、前記イメージワードの出現割合を出力する学習モデルを生成する
処理をコンピュータに実行させる学習モデルの生成方法。
【請求項16】
前記パッケージデザインを評価した評価テキスト集合を取得し、
取得した前記評価テキスト集合から、出現頻度が所定の出現頻度以上であるキーワードのリストを抽出し、
抽出したキーワードのリストに含まれる各々のキーワードの特徴情報に基づいて、前記キーワードのリストに含まれる各々のキーワードを分類し、
分類した前記キーワードのリストから前記パッケージデザインのイメージワードを特定する
処理をコンピュータに実行させる請求項15に記載の学習モデルの生成方法。
【請求項17】
商品のパッケージデザインを含むパッケージ画像と、複数人の前記パッケージデザインの好意度の標準偏差とが対応付けられた訓練データの組み合わせを複数取得し、
取得した前記訓練データの複数の組み合わせに基づき、前記パッケージ画像を入力した場合に、前記好意度の標準偏差を出力する学習モデルを生成する
処理をコンピュータに実行させる学習モデルの生成方法。
【請求項18】
商品のパッケージデザインを含むパッケージ画像を取得し、
性別または年代の選択を受け付け、
前記パッケージ画像を入力した場合に、受け付けた性別または年代に対応する前記パッケージデザインの好意度に関する情報を出力するよう学習済みの第1学習モデルに、取得した前記パッケージ画像を入力して、受け付けた性別または年代に対応する前記パッケージデザインの好意度に関する情報を出力する
情報処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、プログラム、学習モデルの生成方法及び情報処理方法に関する。
【背景技術】
【0002】
従来、デザインを評価する際に、評価対象となる第1デザインの第1特徴量を抽出し、抽出された第1特徴量に基づいて、第1デザインと、既存の複数の第2デザインの各々との類似度を算出し、算出された類似度と、予め取得された第2デザインの各々に対する顧客の感想を示す情報に基づいて、第1デザインに対する顧客の感想を予想する評価装置が開示されている(例えば、特許文献1参照)。
【先行技術文献】
【特許文献】
【0003】
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1に係る発明は、適切にパッケージデザインを評価することができないおそれがある。
【0005】
一つの側面では、適切にパッケージデザインを評価することが可能なプログラム等を提供することにある。
【課題を解決するための手段】
【0006】
一つの側面にプログラムは、商品のパッケージデザインを含むパッケージ画像を取得し、性別または年代の選択を受け付け、前記パッケージ画像を入力した場合に、受け付けた性別または年代に対応する前記パッケージデザインの好意度に関する情報を出力するよう学習済みの第1学習モデルに、取得した前記パッケージ画像を入力して、受け付けた性別または年代に対応する前記パッケージデザインの好意度に関する情報を出力する処理をコンピュータに実行させる。
【発明の効果】
【0007】
一つの側面では、適切にパッケージデザインを評価することが可能となる。
【図面の簡単な説明】
【0008】
【
図1】パッケージデザインにおける評価システムの概要を示す説明図である。
【
図3】訓練データDBのレコードレイアウトの一例を示す説明図である。
【
図6】全性別及び全年代の好意度に関する情報の出力処理を説明する説明図である。
【
図7】全性別及び全年代の好意度に関する情報を出力する際の処理手順を示すフローチャートである。
【
図8】好意度の加重平均値の表示画面の一例を示す説明図である。
【
図9】好意度に関する情報を出力する際の処理手順を示すフローチャートである。
【
図10】スコアを用いて学習させるための訓練データDBのレコードレイアウトの一例を示す説明図である。
【
図11】スコアを用いて学習させる好意度予測モデルを説明する説明図である。
【
図12】パッケージ画像とヒートマップとを関連付けて出力する際の処理手順を示すフローチャートである。
【
図13】ヒートマップの表示画面の一例を示す説明図である。
【
図14】実施形態3のサーバの構成例を示すブロック図である。
【
図15】実施形態3の訓練データDBのレコードレイアウトの一例を示す説明図である。
【
図16】イメージワードを特定する際の処理手順を示すフローチャートである。
【
図17】出現割合予測モデルを説明する説明図である。
【
図18】イメージワードの出現割合の表示画面の一例を示す説明図である。
【
図19】イメージワードの出現割合を出力する際の処理手順を示すフローチャートである。
【
図20】実施形態4のサーバの構成例を示すブロック図である。
【
図21】実施形態4の訓練データDBのレコードレイアウトの一例を示す説明図である。
【
図22】標準偏差予測モデルを説明する説明図である。
【
図23】好意度の標準偏差の表示画面の一例を示す説明図である。
【
図24】好意度の標準偏差を出力する際の処理手順を示すフローチャートである。
【
図25】各種の予測結果の表示画面の一例を示す説明図である。
【発明を実施するための形態】
【0009】
以下、本発明をその実施形態を示す図面に基づいて詳述する。
【0010】
(実施形態1)
実施形態1は、商品のパッケージデザインを含むパッケージ画像に基づき、人工知能(AI:Artificial Intelligence)を用いて該パッケージデザインの好意度に関する情報を出力する形態に関する。パッケージデザインとは、食品・飲料・日用品をはじめとした包装・容器を要する商品において、その商品特性またはコンセプト・ユーザビリティ等を考慮し、グラフィックまたは形態を計画・検証・考案(デザイン)することである。
【0011】
図1は、パッケージデザインにおける評価システムの概要を示す説明図である。本実施形態のシステムは、情報処理装置1及び情報処理端末2を含み、各装置はインターネット等のネットワークNを介して情報の送受信を行う。
【0012】
情報処理装置1は、種々の情報に対する処理、記憶及び送受信を行う情報処理装置である。情報処理装置1は、例えばサーバ装置、パーソナルコンピュータまたは汎用のタブレットPC(パソコン)等である。本実施形態において、情報処理装置1はサーバ装置であるものとし、以下では簡潔のためサーバ1と読み替える。
【0013】
情報処理端末2は、商品のパッケージデザインを含むパッケージ画像の選択の受付及び送信、並びに、パッケージデザインの好意度に関する情報の受信及び表示等を行う端末装置である。情報処理端末2は、例えばスマートフォン、携帯電話、タブレット、パーソナルコンピュータ端末等の情報処理機器である。以下では簡潔のため、情報処理端末2を端末2と読み替える。
【0014】
本実施形態に係るサーバ1は、商品のパッケージデザインを含むパッケージ画像を端末2から取得する。サーバ1は、ユーザによる性別または年代の選択を受け付ける。サーバ1は、パッケージ画像を入力した場合に、受け付けた性別または年代に対応する該パッケージデザインの好意度に関する情報を出力するよう学習済みの好意度予測モデル(第1学習モデル)に、取得したパッケージ画像を入力して、受け付けた性別または年代に対応するパッケージデザインの好意度に関する情報を出力する。なお、好意度予測モデルに関しては後述する。サーバ1は、出力したパッケージデザインの好意度に関する情報を端末2に送信する。
【0015】
図2は、サーバ1の構成例を示すブロック図である。サーバ1は、制御部11、記憶部12、通信部13、入力部14、表示部15、読取部16及び大容量記憶部17を含む。各構成はバスBで接続されている。
【0016】
制御部11はCPU(Central Processing Unit)、MPU(Micro-Processing Unit)、GPU(Graphics Processing Unit)等の演算処理装置を含み、記憶部12に記憶された制御プログラム1Pを読み出して実行することにより、サーバ1に係る種々の情報処理、制御処理等を行う。なお、制御プログラム1Pは、単一のコンピュータ上で、または1つのサイトにおいて配置されるか、もしくは複数のサイトにわたって分散され、通信ネットワークによって相互接続された複数のコンピュータ上で実行されるように展開することができる。なお、
図2では制御部11を単一のプロセッサであるものとして説明するが、マルチプロセッサであっても良い。
【0017】
記憶部12はRAM(Random Access Memory)、ROM(Read Only Memory)等のメモリ素子を含み、制御部11が処理を実行するために必要な制御プログラム1P又はデータ等を記憶している。また、記憶部12は、制御部11が演算処理を実行するために必要なデータ等を一時的に記憶する。通信部13は通信に関する処理を行うための通信モジュールであり、ネットワークNを介して、端末2との間で情報の送受信を行う。
【0018】
入力部14は、マウス、キーボード、タッチパネル、ボタン等の入力デバイスであり、受け付けた操作情報を制御部11へ出力する。表示部15は、液晶ディスプレイ又は有機EL(electroluminescence)ディスプレイ等であり、制御部11の指示に従い各種情報を表示する。
【0019】
読取部16は、CD(Compact Disc)-ROM又はDVD(Digital Versatile Disc)-ROMを含む可搬型記憶媒体1aを読み取る。制御部11が読取部16を介して、制御プログラム1Pを可搬型記憶媒体1aより読み取り、大容量記憶部17に記憶しても良い。また、ネットワークN等を介して他のコンピュータから制御部11が制御プログラム1Pをダウンロードし、大容量記憶部17に記憶しても良い。さらにまた、半導体メモリ1bから、制御部11が制御プログラム1Pを読み込んでも良い。
【0020】
大容量記憶部17は、例えばHDD(Hard disk drive:ハードディスク)、SSD(Solid State Drive:ソリッドステートドライブ)等の記録媒体を備える。大容量記憶部17は、好意度予測モデル171及び訓練データDB(database)172を含む。好意度予測モデル171は、パッケージ画像に基づいて該パッケージ画像に含まれるパッケージデザインの好意度に関する情報を予測する予測器であり、機械学習により生成された学習済みモデルである。訓練データDB172は、好意度予測モデル171を構築(生成)するための訓練データを記憶している。なお、本実施形態では、訓練データが訓練データDB172に記憶されたが、訓練データの記憶方式は特に限定されていない。例えば、訓練データを学習済計算ファイルに記憶しても良い。
【0021】
なお、本実施形態において記憶部12及び大容量記憶部17は一体の記憶装置として構成されていても良い。また、大容量記憶部17は複数の記憶装置により構成されていても良い。更にまた、大容量記憶部17はサーバ1に接続された外部記憶装置であっても良い。
【0022】
サーバ1はコンピュータ単体で実行しても良いし、複数のコンピュータで分散して実行しても良いし、仮想マシンで分散して実行しても良い。
【0023】
図3は、訓練データDB172のレコードレイアウトの一例を示す説明図である。訓練データDB172は、画像ID列、画像列、性別列、年代列及び好意度列を含む。画像ID列は、各画像を識別するために、一意に特定される画像のIDを記憶している。画像列は、パッケージ画像のデータを記憶している。性別列は、パッケージデザインの好意度を評価したユーザの性別を記憶している。年代列は、パッケージデザインの好意度を評価したユーザの年代を記憶している。好意度列は、パッケージデザインの好意度を記憶している。好意度とは、商品のパッケージデザインの印象等に対する評価を好き・嫌いの観点からとらえたものである。本実施形態では、好意度が最大5(好き)から最小1(嫌いまたは好きではない)までに分類される。なお、上述した好意度の数値は一例であり、これに限るものではない。
【0024】
図4は、端末2の構成例を示すブロック図である。端末2は、制御部21、記憶部22、通信部23、入力部24、表示部25及び撮影部26を含む。各構成はバスBで接続されている。
【0025】
制御部21はCPU、MPU等の演算処理装置を含み、記憶部22に記憶された制御プログラム2Pを読み出して実行することにより、端末2に係る種々の情報処理、制御処理等を行う。なお、
図4では制御部21を単一のプロセッサであるものとして説明するが、マルチプロセッサであっても良い。記憶部22はRAM、ROM等のメモリ素子を含み、制御部21が処理を実行するために必要な制御プログラム2P又はデータ等を記憶している。また、記憶部22は、制御部21が演算処理を実行するために必要なデータ等を一時的に記憶する。
【0026】
通信部23は通信に関する処理を行うための通信モジュールであり、ネットワークNを介して、サーバ1と情報の送受信を行う。入力部24は、キーボード、マウスまたは表示部25と一体化したタッチパネルでも良い。表示部25は、液晶ディスプレイ又は有機ELディスプレイ等であり、制御部21の指示に従い各種情報を表示する。
【0027】
撮影部26は、例えばCCD(Charge Coupled Device)カメラ、CMOS(Complementary Metal Oxide Semiconductor)カメラ等の撮影装置である。なお、撮影部26は、複数の撮影装置により構成されても良い。なお、撮影部26は端末2の中に内蔵せず、外部で直接に端末2と接続し、撮影可能な構成としても良い。
【0028】
続いて、パッケージデザインの好意度に関する情報を出力する処理を説明する。端末2は、商品のパッケージデザインを含むパッケージ画像を取得する。パッケージ画像は、端末2の撮影部26が撮影した撮影画像であっても良く、または予め記憶部22若しくはフォトアルバムに記憶された画像であっても良い。端末2は、ユーザによる性別または年代の選択を受け付ける。具体的には、端末2は、性別、年代、または性別と年代との組合の選択を受け付ける。端末2は、取得したパッケージ画像と、受け付けた性別または年代とをサーバ1に送信する。
【0029】
サーバ1は、端末2から送信されたパッケージ画像と、性別または年代とを受信する。サーバ1は、パッケージ画像を入力した場合に、受信した性別または年代に対応するパッケージデザインの好意度に関する情報を出力するよう学習済みの好意度予測モデル171に、受信したパッケージ画像を入力して、受信した性別または年代に対応するパッケージデザインの好意度に関する情報を出力する。
【0030】
好意度に関する情報は、好意度が最大5(好き)から最小1(嫌い)までに分類されるスコア、または好意度のスコアを最大5から最小1までの加重平均値を含む。なお、好意度予測モデル171を用いる好意度に関する情報の出力処理に関しては後述する。サーバ1は、出力したパッケージデザインの好意度に関する情報を端末2に送信する。端末2は、サーバ1から送信された好意度に関する情報を受信し、受信した好意度に関する情報を画面に表示する。
【0031】
続いて、好意度予測モデル171を用いる好意度に関する情報の出力処理を説明する。
図5は、好意度予測モデル171を説明する説明図である。好意度予測モデル171は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。好意度予測モデル171は、パッケージデザインを含むパッケージ画像を入力とし、該パッケージデザインの好意度に関する情報を出力とするニューラルネットワークを構築済みの好意度に関する情報の予測器である。
【0032】
サーバ1は、好意度予測モデル171として、パッケージ画像に含まれるパッケージデザインの好意度に影響を及ぼす箇所の特徴量を学習するディープラーニングを行うことで好意度予測モデル171を構築(生成)する。例えば、好意度予測モデル171はCNN(Convolution Neural Network)であり、パッケージ画像の入力を受け付ける入力層と、該パッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力する出力層と、バックプロパゲーションにより学習済の中間層とを有する。
【0033】
入力層は、パッケージ画像に含まれる各画素の画素値の入力を受け付ける複数のニューロンを有し、入力された画素値を中間層に受け渡す。中間層は、パッケージ画像の特徴量を抽出する複数のニューロンを有し、抽出した画像特徴量を出力層に受け渡す。具体的には、中間層は、入力層から入力された各画素の画素値を畳み込むコンボリューション層と、コンボリューション層で畳み込んだ画素値をマッピングするプーリング層とが交互に連結された構成により、パッケージ画像の画素情報を圧縮しながら最終的にパッケージ画像の特徴量を抽出する。その後中間層は、バックプロパゲーションによりパラメータが学習された全結合層により、パッケージ画像に含まれるパッケージデザインの好意度に関する情報を予測する。予測結果は、ニューロンを有する出力層に出力される。
【0034】
なお、パッケージ画像は、交互に連結されたコンボリューション層とプーリング層とを通過して特徴量が抽出された後に、入力層に入力されても良い。
【0035】
本実施形態では、好意度予測モデル171として、ResNet50(Residual Network50)のネットワーク構造を適用しても良い。ResNet50は、50層を持ったCNNのモデルである。なお、上述したResNet50の代わりに、例えばVGG16、InceptionV3、DenseNet、InceptionResNetV2等が用いられても良い。
【0036】
なお、本実施の形態では好意度予測モデル171がCNNであるものとして説明するが、好意度予測モデル171はCNNに限定されず、CNN以外のニューラルネットワーク、SVM(Support Vector Machine)、ベイジアンネットワーク、または回帰木等の任意の学習アルゴリズムで構築された学習済みモデルであって良い。
【0037】
サーバ1は、パッケージデザインを含むパッケージ画像と、該パッケージデザインの好意度とが対応付けられた訓練データの組み合わせを訓練データDB172から複数取得する。訓練データは、パッケージ画像に対し、該パッケージ画像に含まれるパッケージデザインの好意度がラベル付けされたデータである。なお、本実施形態では、好意度が最大5(好き)から最小1(嫌い)までの5段階に分類された例を説明したが、これに限るものではない。好意度が実際のニーズに合わせて設けられても良い。
【0038】
なお、本実施形態では、予め記憶された訓練データを訓練データDB172から取得した例を説明したが、これに限るものではない。例えばサーバ1は、複数のパッケージ画像において、それぞれのパッケージ画像に含まれるパッケージデザインの好意度をラベリングすることで、好意度を学習するための訓練データを生成しても良い。具体的には、サーバ1はそれぞれのパッケージ画像に対して、好意度(例えば、1、2、3、4または5)を関連付けた訓練データを生成する。
【0039】
サーバ1は、取得した訓練データ用いて学習を行う。具体的には、サーバ1は、訓練データであるパッケージ画像を入力層に入力し、中間層での演算処理を経て、出力層から該パッケージ画像に含まれるパッケージデザインの好意度に関する情報を取得する。好意度に関する情報は、好意度の確からしさを示す確率(尤度)値、または好意度の加重平均値を含む。
図5では、好意度の加重平均値の例を説明する。図示のように、出力層から出力される予測結果は、好意度(好意度5から好意度1まで)の加重平均値である。
【0040】
サーバ1は、出力層から出力された予測結果を、訓練データにおいてパッケージ画像に対しラベル付けされた情報、すなわち正解値と比較し、出力層からの予測値が正解値に近づくように、中間層での演算処理に用いるパラメータを最適化する。当該パラメータは、例えばニューロン間の重み(結合係数)、各ニューロンで用いられる活性化関数の係数等である。パラメータの最適化の方法は特に限定されないが、例えば、サーバ1は誤差逆伝播法を用いて各種パラメータの最適化を行う。
【0041】
サーバ1は、訓練データに含まれる各パッケージ画像について上記の処理を行い、好意度予測モデル171を生成する。これにより、例えばサーバ1は当該訓練データを用いて好意度予測モデル171の学習を行うことで、パッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力可能なモデルを構築することができる。
【0042】
サーバ1はパッケージ画像を取得した場合、取得したパッケージ画像を好意度予測モデル171に入力する。サーバ1は、好意度予測モデル171の中間層にてそれぞれのパッケージ画像の特徴量を抽出する演算処理を行う。サーバ1は、抽出した特徴量を好意度予測モデル171の出力層に入力して、パッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力として取得する。図示のように、好意度の加重平均値は出力層から出力される。好意度の加重平均値は「3.84」である。なお、算出された好意度の加重平均値に対して四捨五入、切り上げ、又は切り捨て等により補正されても良い。
【0043】
なお、上述した例では、好意度の加重平均値を予測結果として出力したが、これに限るものではない。例えば、各々の好意度を示す確率値そのものを予測結果として出力しても良い。例えば、パッケージ画像に対し、「好意度5」、「好意度4」、「好意度3」、「好意度2」、「好意度1」それぞれの確率値が、「0.05」、「0.85」、「0.03」、「0.03」、「0.04」である予測結果が出力層から出力される。また、所定閾値を利用して予測結果を出力しても良い。例えばサーバ1は、「好意度4」の確率値(0.85)が所定閾値(例えば、0.80)以上であると判定した場合、パッケージデザインの好意度が「好意度4」である予測結果を出力する。なお、上述した閾値を利用せず、好意度予測モデル171が予測した各々の好意度の確率値から、最も高い確率値に対応する好意度を予測結果として出力しても良い。
【0044】
なお、好意度に関する情報の予測処理は、上述した機械学習により予測処理に限るものではない。例えば、A-KAZE(Accelerated KAZE)、SIFT(Scale Invariant Feature Transform)、SURF(Speeded-Up Robust Features)、ORB(Oriented FAST and Rotated BRIEF)、HOG(Histograms of Oriented Gradients)等の局所特徴量抽出方法を用いて好意度に関する情報を予測しても良い。
【0045】
続いて、各性別または年代に対応して用意された複数の好意度予測モデル171から出力された好意度に関する情報に基づき、全性別及び全年代の好意度に関する情報を出力する処理を説明する。
【0046】
図6は、全性別及び全年代の好意度に関する情報の出力処理を説明する説明図である。サーバ1は、パッケージ画像を端末2から取得する。サーバ1は、各性別及び年代に対応して用意された複数の好意度予測モデル171それぞれを大容量記憶部17から取得する。
【0047】
サーバ1は、取得したパッケージ画像を、取得したそれぞれの好意度予測モデル171に入力し、各性別及び年代に対応するパッケージデザインの好意度の加重平均値を出力する。サーバ1は、出力した各性別及び年代に対応するパッケージデザインの好意度の加重平均値に基づき、好意度の加重平均値の平均値を算出する。サーバ1は、算出した加重平均値の平均値を全性別及び全年代の好意度として出力する。
【0048】
図示のように、20代男性、20代女性、30代男性、30代女性、40代男性、40代女性、50代男性及び50代女性に対応する好意度予測モデル171において、サーバ1は、パッケージ画像をそれぞれの好意度予測モデル171に入力し、20代男性、20代女性、30代男性、30代女性、40代男性、40代女性、50代男性及び50代女性に対応するパッケージデザインの好意度の加重平均値それぞれを出力する。サーバ1は、出力した性別及び年代ごとの好意度の加重平均値に基づき、好意度の加重平均値の平均値を算出する。サーバ1は、算出した加重平均値の平均値を全性別及び全年代の好意度として出力する。なお、好意度の加重平均値の例を説明したが、好意度そのものに対しても同様に適用することができる。
【0049】
なお、
図6では、各性別及び年代に対応して用意された複数の好意度予測モデル171の例を説明したが、性別ごとに用意された複数の好意度予測モデル171、または、年代ごとに用意された複数の好意度予測モデル171にも同様に適用することができる。
【0050】
図7は、全性別及び全年代の好意度に関する情報を出力する際の処理手順を示すフローチャートである。サーバ1の制御部11は、パッケージ画像を通信部13により端末2から取得する(ステップS101)。制御部11は通信部13を介して、端末2を通じて受け付けた複数の性別及び年代を取得する(ステップS102)。例えば制御部11は、20代男性、20代女性、30代男性、30代女性、40代男性、40代女性、50代男性及び50代女性の入力を受け付ける。
【0051】
制御部11は、入力された各性別及び年代に応じて、性別及び年代ごとに好意度予測モデル171を大容量記憶部17から取得する(ステップS103)。制御部11は、取得したパッケージ画像を、各性別及び年代に対応する好意度予測モデル171に入力し、性別及び年代ごとにパッケージ画像に含まれるパッケージデザインの好意度の加重平均値を出力する(ステップS104)。制御部11は、出力した各性別及び年代に対応する好意度の加重平均値に基づき、好意度の加重平均値の平均値を算出し(ステップS105)、処理を終了する。
【0052】
図8は、好意度の加重平均値の表示画面の一例を示す説明図である。該画面は、パッケージ画像表示欄11a、好意度表示欄11b及び選択順番表示欄11cを含む。パッケージ画像表示欄11aは、評価対象となるパッケージ画像及びパッケージ画像のファイル名を表示する表示欄である。好意度表示欄11bは、全体(全性別及び全年代)、性別、年代、または性別及び年代(例えば、女性20代)ごとに好意度の加重平均値を表示する表示欄である。選択順番表示欄11cは、パッケージ画像の選択時の順を表示する表示欄である。
【0053】
端末2は、複数のパッケージ画像の選択を受け付け、受け付けたパッケージ画像の選択時の順を記憶部22に記憶する。端末2は、パッケージ画像を評価するための評価条件の設定を受け付ける。評価条件は、パッケージ画像を評価するための条件である。評価条件は、全体(全性別及び全年代)による評価、性別による評価、年代による評価、性別及び年代(例えば、女性20代)による評価などの評価条件を含む。なお、全体、性別、年代、性別及び年代のいずれか1つまたは2つ以上を組み合わせたものが評価条件として設定されても良い。
【0054】
端末2は、受け付けた複数のパッケージ画像と、設定された評価条件とをサーバ1に送信する。サーバ1は、端末2から送信された複数のパッケージ画像及び評価条件を受信する。サーバ1は、受信した評価条件に応じて、該当するパッケージデザインの好意度の加重平均値を取得する。
【0055】
例えば、男性が評価条件として設定された場合、サーバ1は、取得した複数のパッケージ画像を、男性に対応する好意度予測モデル171に入力し、男性に対応するそれぞれのパッケージ画像に含まれるパッケージデザインの好意度の加重平均値を出力する。または、性別及び年代が評価条件として設定された場合、サーバ1は、取得した複数のパッケージ画像を、設定された性別及び年代に対応する好意度予測モデル171に入力し、設定された性別及び年代に対応するそれぞれのパッケージ画像に含まれるパッケージデザインの好意度の加重平均値を出力する。
【0056】
更にまた、全体が評価条件として設定された場合、サーバ1は、取得したそれぞれのパッケージ画像を、各性別及び年代に対応する好意度予測モデル171に入力し、各性別及び年代に対応するそれぞれのパッケージ画像に含まれるパッケージデザインの好意度の加重平均値を出力する。サーバ1は、取得した各々の好意度の加重平均値に基づき、好意度の加重平均値の平均値を算出する。サーバ1は、算出した好意度の加重平均値の平均値を全体の好意度の加重平均値として出力する。
【0057】
サーバ1は、評価条件に応じて取得した好意度の加重平均値を、それぞれのパッケージ画像に対応付けて端末2に送信する。端末2は、サーバ1から送信された好意度の加重平均値をそれぞれのパッケージ画像に対応付けて画面に表示する。
【0058】
具体的には、端末2は、パッケージ画像及び該パッケージ画像のファイル名をパッケージ画像表示欄11aに表示する。端末2は、設定された評価条件に応じて、パッケージ画像に対応する好意度の加重平均値及び加重平均値を示す縦棒を好意度表示欄11bに表示する。端末2は、パッケージ画像の選択時の順を記憶部22から取得し、取得した選択時の順を選択順番表示欄11cに表示する。
【0059】
図示のように、パッケージ画像及び該パッケージ画像のファイル名(例えば、1.jpg、2.jpg)がパッケージ画像表示欄11aに表示される。それぞれのパッケージ画像と、全体、男性、女性、女性20代及び男性20代ごとにそれぞれのパッケージ画像に対応する好意度の加重平均値及び加重平均値を示す縦棒とが対応付けて好意度表示欄11bに表示される。パッケージ画像の選択時の順(1、2)が選択順番表示欄11cに表示される。
【0060】
図9は、好意度に関する情報を出力する際の処理手順を示すフローチャートである。端末2の制御部21は、パッケージデザインを含むパッケージ画像を記憶部22または撮影部26により取得する(ステップS211)。なお、制御部21は、単一のパッケージ画像を取得しても良く、または複数のパッケージ画像(例えば、10枚)を取得しても良い。制御部21は入力部24を介して、パッケージ画像を評価するために、全体、性別、年代、性別及び年代のいずれか1つまたは2つ以上を組み合わせたものに基づいて設定された評価条件の設定を受け付ける(ステップS212)。
【0061】
制御部21は、取得したパッケージ画像と、受け付けた評価条件とを通信部23によりサーバ1に送信する(ステップS213)。サーバ1の制御部11は、端末2から送信されたパッケージ画像及び評価条件を通信部13により受信する(ステップS111)。制御部11は、受信した評価条件に応じて学習済みの好意度予測モデル171を特定する(ステップS112)。制御部11は、特定した好意度予測モデル171に、受信したパッケージ画像を入力して、設定された評価条件に応じて、パッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力する(ステップS113)。なお、複数のパッケージ画像の場合、制御部11は、受信したそれぞれのパッケージ画像を好意度予測モデル171に入力して、設定された評価条件に応じて、それぞれのパッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力する。
【0062】
制御部11は、出力したパッケージデザインの好意度に関する情報を通信部13により端末2に送信する(ステップS114)。端末2の制御部21は、サーバ1から送信された好意度に関する情報を通信部23により受信する(ステップS214)。制御部21は表示部25を介して、受信した好意度に関する情報を、設定された評価条件に対応付けて表示し(ステップS215)、処理を終了する。
【0063】
本実施形態によると、パッケージデザインを含むパッケージ画像に基づき、好意度予測モデル171を用いて該パッケージデザインの好意度に関する情報を出力することが可能となる。
【0064】
本実施形態によると、性別または年代ごとにパッケージデザインの好意度を出力することにより、ユーザの性別及び年齢層によって変化する好意度を把握することが可能となる。
【0065】
<変形例1>
商品のカテゴリ毎に設定されたスコアを用いて、好意度予測モデル171を学習させる処理を説明する。商品のカテゴリは、例えばビール、チューハイ・カクテル、炭酸飲料、お茶・紅茶・コーヒー、栄養ドリンク、調味料、カップ麺・袋麺、スープ類、デザート類、常温食品または冷凍食品等を含む。その他、洗剤、仕上げ剤、水筒または化粧品等が商品のカテゴリに含まれても良い。
【0066】
図10は、スコアを用いて学習させるための訓練データDB172のレコードレイアウトの一例を示す説明図である。なお、
図3と重複する内容については同一の符号を付して説明を省略する。訓練データDB172は、カテゴリ列及びスコア列を含む。カテゴリ列は、商品のカテゴリを記憶している。スコア列は、商品のカテゴリ毎に設定された評価指数を記憶している。
【0067】
まず、スコアの作成処理を説明する。サーバ1は、商品のカテゴリ毎に、商品を検索するためのブランド名及び企業名の入力を受け付ける。ブランド名及び企業名は、例えば「ブランドA 株式会社AAA」等である。なお、「ブランド+企業名」に限定せず、例えば「商品名+企業名」または「ブランド名+カテゴリ名」等であっても良い。サーバ1は検索エンジン経由で、受け付けたブランド名及び企業名に対する検索ヒット数を取得する。検索エンジンは、例えばGOOGLE(登録商標)、またはYAHOO(登録商標)等であっても良い。
【0068】
サーバ1は、取得したブランド名及び企業名に対する検索ヒット数の対数を算出し、算出した検索ヒット数の対数をスコアとして出力する。サーバ1は、商品のカテゴリ内の複数のブランドにおけるスコアの平均値を算出する。サーバ1は、算出したスコアの平均値を商品のカテゴリに対応付けて訓練データDB172に記憶する。
【0069】
次に、スコアを用いて好意度予測モデル171を学習させる処理を説明する。
図11は、スコアを用いて学習させる好意度予測モデル171を説明する説明図である。なお、
図5と重複する内容については説明を省略する。変形例1の好意度予測モデル171は、ResNet50のネットワーク構造が適用される。サーバ1は、パッケージ画像及び該パッケージ画像に対応するスコアと、該パッケージ画像に含まれるパッケージデザインの好意度とが対応付けられた訓練データの組み合わせを訓練データDB172から複数取得する。
【0070】
サーバ1は、取得した訓練データ用いて学習を行う。具体的には、サーバ1は、訓練データであるパッケージ画像をResNet50の全結合層(FC)16cを除いたネットワーク16aに入力する。ネットワーク16aは、パッケージ画像の特徴量を抽出し、抽出したパッケージ画像の特徴量を、バックプロパゲーションによりパラメータが学習された全結合層16cに受け渡す。サーバ1は、該パッケージ画像に対応するスコアを全結合層16bに入力する。全結合層16cは、パッケージ画像の特徴量と、全結合層16bに入力されたスコアとを結合し、結合した情報に基づいてパッケージデザインの好意度に関する情報を予測する。予測結果は、ニューロンを有する出力層に出力される。
【0071】
サーバ1は、出力層から出力された予測結果を、訓練データにおいてパッケージ画像及びスコアに対しラベル付けされた情報、すなわち正解値と比較し、出力層からの予測値が正解値に近づくように、中間層での演算処理に用いるパラメータを最適化する。これにより、サーバ1は当該訓練データを用いて好意度予測モデル171の学習を行うことで、学習させた好意度予測モデル171を大容量記憶部17に更新する。
【0072】
サーバ1は、パッケージ画像及び該パッケージ画像に対応するスコアを取得した場合、取得したパッケージ画像及びスコアを好意度予測モデル171に入力してパッケージデザインの好意度に関する情報を出力する。
【0073】
なお、上述した処理に限るものではない。商品のカテゴリと、商品のカテゴリ毎に設定されたスコアとを用いて、好意度予測モデル171を学習させても良い。この場合、サーバ1は、パッケージ画像をネットワーク16aに入力する。ネットワーク16aは、パッケージ画像の特徴量を抽出し、抽出したパッケージ画像の特徴量を全結合層16cに受け渡す。サーバ1は、商品のカテゴリを示すラベルと、カテゴリ毎に設定されたスコアとを結合して1つのベクトルにしたベクトル情報を全結合層16bに入力する。カテゴリを示すラベルは、例えばビール、チューハイ・カクテル、その他アルコール、炭酸飲料、お茶・紅茶・コーヒー、インスタント飲料、栄養ドリンク、その他飲料、調味料、カップ麺・袋麺、スープ類、デザート類、常温食品、冷凍食品、冷蔵食品、チョコ・飴・グミ、アイス、スナック菓子、その他菓子、化粧品、シャンプー、医薬品、リップクリーム、衛生用品、ペットフード及び鍋つゆを有する26種類のラベルであっても良い。なお、上述した26種類のラベルは一例であり、これに限るものではない。
【0074】
全結合層16cは、パッケージ画像の特徴量と、全結合層16bに入力されたベクトル情報とに基づいてパッケージデザインの好意度に関する情報を予測する。予測結果は、ニューロンを有する出力層に出力される。
【0075】
本変形例1によると、商品のカテゴリ毎に設定されたスコアを用いて好意度予測モデル171を学習させることが可能となる。
【0076】
本変形例1によると、スコアを用いて学習させた好意度予測モデル171を利用することにより、好意度に関する情報の予測精度を向上することが可能となる。
【0077】
(実施形態2)
実施形態2は、商品のパッケージデザインを含むパッケージ画像と、パッケージデザインの好意度に関する情報に影響を及ぼした領域を示す指標とを関連付けて出力する形態に関する。なお、実施形態1と重複する内容については説明を省略する。なお、本実施形態では、好意度に関する情報に影響を及ぼした領域を示す指標をヒートマップの表現形式で説明するが、これに限らず、他のデータの可視化技術を利用しても良い。
【0078】
サーバ1は、端末2から送信された複数のパッケージ画像に基づき、それぞれのパッケージ画像に対応するヒートマップを生成する。サーバ1は、生成したそれぞれのヒートマップを、それぞれのパッケージ画像に対応付けて端末2に送信する。端末2は、サーバ1から送信されたそれぞれのパッケージ画像、及びそれぞれのパッケージ画像に対応するヒートマップを受信する。端末2は、受信したそれぞれのパッケージ画像と、それぞれのパッケージ画像に対応するヒートマップとを関連付けて画面に表示する。
【0079】
図12は、パッケージ画像とヒートマップとを関連付けて出力する際の処理手順を示すフローチャートである。端末2の制御部21は、複数のパッケージ画像を記憶部22または撮影部26により取得する(ステップS221)。制御部21は、取得した複数のパッケージ画像を通信部23によりサーバ1に送信する(ステップS222)。
【0080】
サーバ1の制御部11は、複数のパッケージ画像を通信部13により端末2から受信する(ステップS121)。制御部11は、受信したそれぞれのパッケージ画像を好意度予測モデル171に入力し、それぞれのパッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力する(ステップS122)。制御部11は、それぞれのパッケージ画像から、好意度予測モデル171が出力した好意度に関する情報に影響を及ぼした領域をそれぞれ抽出する(ステップS123)。制御部11は、抽出したそれぞれの領域を示す指標に基づいてヒートマップを生成する(ステップS124)。
【0081】
具体的には、制御部11は、好意度予測モデル171の全結合層の逆伝搬を計算する。制御部11は、逆伝搬によって得られた好意度予測モデル171の中間層により特徴量を抽出したパッケージ画像に基づき、該パッケージ画像のヒートマップを生成する。ヒートマップの生成は、例えばCAM(Class Activation Mapping)、Grad-CAM(Gradient-weighted Class Activation Mapping)、または、Grad-CAM++等の公知の手法により行なえる。
【0082】
制御部11は通信部13を介して、生成したそれぞれのヒートマップを、それぞれのパッケージ画像に対応付けて端末2に送信する(ステップS125)。端末2の制御部21は、サーバ1から送信されたそれぞれのパッケージ画像、及びそれぞれのパッケージ画像に対応するヒートマップを通信部23により受信する(ステップS223)。制御部21は表示部25を介して、受信したそれぞれのパッケージ画像と、それぞれのパッケージ画像に対応するヒートマップとを関連付けて画面に表示し(ステップS224)、処理を終了する。
【0083】
図13は、ヒートマップの表示画面の一例を示す説明図である。該画面は、パッケージ画像表示欄12a、ヒートマップ表示欄12b及びファイル名表示欄12cを含む。パッケージ画像表示欄12aは、パッケージ画像を表示する表示欄である。ヒートマップ表示欄12bは、パッケージ画像に対応するヒートマップを表示する表示欄である。ファイル名表示欄12cは、パッケージ画像のファイル名を表示する表示欄である。
【0084】
端末2は、複数のパッケージ画像をサーバ1に送信する。サーバ1は、端末2から送信された複数のパッケージ画像に基づき、それぞれのパッケージ画像に対応するヒートマップを生成する。サーバ1は、生成したそれぞれのヒートマップを、それぞれのパッケージ画像に対応付けて端末2に送信する。端末2は、サーバ1から送信されたそれぞれのパッケージ画像、及びそれぞれのパッケージ画像に対応するヒートマップを受信する。
【0085】
端末2は、受信したそれぞれのパッケージ画像と、それぞれのパッケージ画像に対応するヒートマップとを関連付けて画面に表示する。具体的には、端末2は、受信したパッケージ画像をパッケージ画像表示欄12aに表示し、該パッケージ画像に対応するヒートマップをヒートマップ表示欄12bに表示し、該パッケージ画像のファイル名をファイル名表示欄12cに表示する。例えば、パッケージ画像の特徴量を基にして、好意度に関する情報に、一番大きな影響を及ぼした領域(注目された箇所)が赤く、2番目に大きな影響を及ぼした領域(やや注目された箇所)をオレンジになるように、影響を及ぼしていない領域(注目されていない箇所)が青くなるようにヒートマップの形式で表現されても良い。なお、
図13では、カラーの代わりにハッチングを用いて例示している。
【0086】
なお、端末2は、パッケージ画像に含まれるパッケージデザインの好意度に関する情報を取得し、取得した好意度に関する情報と、該パッケージ画像に対応するヒートマップとを同時に画面に表示しても良い。
【0087】
本実施形態によると、パッケージデザインを含むパッケージ画像と、パッケージデザインの好意度に関する情報に影響を及ぼした領域を示す指標とを関連付けて出力することが可能となる。
【0088】
本実施形態によると、好意度に関する情報に影響を及ぼした領域を示す指標を表示することにより、パッケージデザインにおける注目箇所が一目瞭然になることが可能となる。
【0089】
(実施形態3)
実施形態3は、商品のパッケージデザインを含むパッケージ画像に基づき、人工知能を用いて該パッケージデザインのイメージワードの出現割合を出力する形態に関する。なお、実施形態1~2と重複する内容については説明を省略する。
【0090】
図14は、実施形態3のサーバ1の構成例を示すブロック図である。なお、
図2と重複する内容については説明を省略する。大容量記憶部17には、出現割合予測モデル173(第2学習モデル)が記憶されている。出現割合予測モデル173は、パッケージ画像に基づいてパッケージ画像に含まれるパッケージデザインのイメージワードの出現割合を予測する予測器であり、機械学習により生成された学習済みモデルである。
【0091】
図15は、実施形態3の訓練データDB172のレコードレイアウトの一例を示す説明図である。なお、
図3と重複する内容については同一の符号を付して説明を省略する。訓練データDB172は、イメージワード列を含む。イメージワード列は、パッケージデザインの評価時に好意度の理由を表すための文字(テキスト)を記憶している。
【0092】
イメージワードは、例えば「おいしそう」(非飲食系はなし)、「かわいい」、「シンプル」、「デザイン要素がよい」、「なつかしい」、「やさしい」、「安心感・信頼感がある」、「季節感」、「健康感がある」、「効果・効能を感じる」、「高級感・上質感」、「色味がよい」、「新しい・ユニーク」、「洗練」、「爽やか・清涼感」、「特徴がわかりやすい」、「目立つ・印象に残る」、「綺麗・美しい」または「清潔」等を含む。なお、上述したイメージワードに限定せず、実際のニーズに応じて任意のイメージワードを設定すれば良い。
【0093】
続いて、イメージワードの特定処理を説明する。
図16は、イメージワードを特定する際の処理手順を示すフローチャートである。サーバ1の制御部11は、パッケージデザインを評価した評価テキスト集合を取得する(ステップS131)。評価テキスト集合は、例えばパッケージデザインに対し、任意のフォーマットで書き込まれたレビューまたは感想等の集合であっても良く、またはアンケートによる回答から集合された評価情報であっても良い。評価テキスト集合が記憶部12または大容量記憶部17に記憶された場合、制御部11は、記憶部12または大容量記憶部17から評価テキスト集合を取得する。なお、制御部11は通信部13を介して、外部装置から評価テキスト集合を取得しても良い。
【0094】
制御部11は、取得した評価テキスト集合からキーワードのリストを抽出する(ステップS132)。具体的には、制御部11は、取得した評価テキスト集合から、出現頻度が所定の出現頻度(例えば、1000回)以上であるキーワードのリストを抽出する。制御部11は、抽出したキーワードのリストから、ネガティブワードまたは意味不明ワードを排除する。ネガティブワードは、例えば「悲しい」、「苦しい」、「不満だ」、「不味い」、「困る」または「困惑する」等を含む。例えば制御部11は、抽出したキーワードのリストに対して形態素解析を行い、さらに、tf-idf(Term Frequency-Inverse Document Frequency)等、キーワードのリストに出現する各単語をスコアリングするアルゴリズムを利用し、ネガティブワードまたは意味不明ワードを特定する。制御部11は、抽出したキーワードのリストから、特定したネガティブワードまたは意味不明ワードを排除する。
【0095】
制御部11は、ネガティブワード及び意味不明ワードを排除したキーワードのリストに対してベクトル化処理を行う(ステップS133)。例えば制御部11は、Word2vecのような単語をベクトル化する公知の手法を用いて、キーワードのリストに含まれる各々のキーワードをベクトル化しても良い。なお、ベクトル化に関しては、Word2Vecのほか、Doc2Vec(Paragraph2vec)、LDA(Latent Dirichlet Allocation)またはNTSG(Neural Tensor Skip Gram)等によって行われて良い。
【0096】
制御部11は、ベクトル化した各々のキーワードの特徴情報に基づいて、各々のキーワードを分類する(クラスタリング)(ステップS134)。クラスタリング(clustering)とは、自然言語処理の一種で、ベクトル化したキーワードを、その方向と大きさから、同一の概念に近い単語の集団(クラスタ)に分ける処理である。
【0097】
制御部11は、分類した各々のキーワードからパッケージデザインのイメージワードを特定し(ステップS135)、処理を終了する。例えば制御部11は、クラスタ毎にイメージワードの入力を受け付けても良い。なお、ステップS133の処理で、ベクトル化できていないキーワード(例えば、おいしそう)が手動入力によりイメージワードに追加されても良い。特定されたイメージワードは、パッケージ画像に対応付けて後述の訓練データの生成時に利用される。なお、本実施形態では、イメージワードの特定処理がサーバ1側で実行されたが、これに限らず、端末2または他の情報処理端末側で実行されても良い。
【0098】
続いて、出現割合予測モデル173を用いて、パッケージデザインのイメージワードの出現割合を出力する処理を説明する。
図17は、出現割合予測モデル173を説明する説明図である。出現割合予測モデル173は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。出現割合予測モデル173は、パッケージデザインを含むパッケージ画像を入力とし、該パッケージデザインのイメージワードの出現割合を出力とするニューラルネットワークを構築済みのイメージワードの出現割合の予測器である。
【0099】
サーバ1は、出現割合予測モデル173として、パッケージ画像に含まれるパッケージデザインのイメージワードの出現割合に影響を及ぼした箇所の特徴量を学習するディープラーニングを行うことで出現割合予測モデル173を構築する。例えば、出現割合予測モデル173はCNNであり、パッケージ画像の入力を受け付ける入力層と、活性化関数(本実施の形態ではソフトマックス関数)を用いて該パッケージ画像に含まれるパッケージデザインのイメージワードの出現割合を出力する出力層(ソフトマックス層:Softmax Layer)と、バックプロパゲーションにより学習済の中間層とを有する。
【0100】
なお、本実施の形態では出現割合予測モデル173がCNNであるものとして説明するが、出現割合予測モデル173はCNNに限定されず、CNN以外のニューラルネットワーク、SVM、ベイジアンネットワーク、または回帰木等の任意の学習アルゴリズムで構築された学習済みモデルであって良い。
【0101】
サーバ1は、パッケージデザインを含むパッケージ画像と、パッケージデザインのイメージワードとが対応付けられた訓練データの組み合わせを訓練データDB172から複数取得する。訓練データは、パッケージ画像に対し、該パッケージ画像に含まれるパッケージデザインのイメージワードがラベル付けされたデータである。
【0102】
サーバ1は、取得した訓練データ用いて学習を行う。具体的には、サーバ1は、訓練データであるパッケージ画像を入力層に入力し、中間層での演算処理を経て、出力層から該パッケージ画像に含まれるパッケージデザインのイメージワードの出現割合を取得する。サーバ1は、出力層から出力された予測結果(例えば、出現割合が最も高いイメージワード)を、訓練データにおいてパッケージ画像に対しラベル付けされた情報(イメージワード)、すなわち正解値と比較し、出力層からの予測値が正解値に近づくように、中間層での演算処理に用いるパラメータを最適化する。
【0103】
サーバ1は、訓練データに含まれる各パッケージ画像について上記の処理を行い、出現割合予測モデル173を生成する。これにより、例えばサーバ1は当該訓練データを用いて出現割合予測モデル173の学習を行うことで、パッケージデザインのイメージワードの出現割合を出力可能なモデルを構築することができる。
【0104】
サーバ1はパッケージ画像を取得した場合、取得したパッケージ画像を出現割合予測モデル173に入力する。サーバ1は、出現割合予測モデル173の中間層にてそれぞれのパッケージ画像の特徴量を抽出する演算処理を行う。サーバ1は、抽出した特徴量を出現割合予測モデル173の出力層に入力して、該パッケージ画像に含まれるパッケージデザインのイメージワードの出現割合を出力として取得する。
【0105】
図示のように、パッケージ画像に対し、「かわいい」、「シンプル」、「季節感」、「…」、「健康感がある」それぞれの出現割合が、「0.82」、「0.55」、「0.35」、「…」、「0.25」である予測結果が出力される。
【0106】
また、性別または年代ごとに出現割合予測モデル173を生成することができる。具体的には、サーバ1は、性別または年代の設定を受け付け、受け付けた性別または年代に応じて、出現割合予測モデル173の生成に用いる訓練データを訓練データDB172から複数取得する。サーバ1は、取得した訓練データを用いて、受け付けた性別または年代に対応する出現割合予測モデル173を生成する。
【0107】
サーバ1は、性別または年代ごとに生成した出現割合予測モデル173を大容量記憶部17に記憶する。サーバ1は、複数の性別または年代に対して用意された複数の出現割合予測モデル173を用いて、性別または年代ごとにパッケージ画像からパッケージデザインのイメージワードの出現割合を出力することができる。
【0108】
なお、上述した処理に限るものではない。商品のカテゴリ毎に設定されたスコアを用いて、出現割合予測モデル173を学習させても良い。この場合、サーバ1は、パッケージデザインを含むパッケージ画像と、カテゴリ毎に設定されたスコアとを出現割合予測モデル173に入力し、該パッケージデザインのイメージワードの出現割合を出力する。
【0109】
図18は、イメージワードの出現割合の表示画面の一例を示す説明図である。該画面は、選択コンボボックス13a及びグラフ表示欄13bを含む。選択コンボボックス13aは、イメージワードの選択を受け付けるためのコンボボックスである。グラフ表示欄13bは、パッケージ画像とイメージワードの出現割合との関係を示すグラフ(第1グラフ)を表示する表示欄である。
【0110】
端末2は、評価対象となる複数のパッケージ画像を取得する。端末2は、イメージワードの選択を受け付ける。例えば端末2は、10枚のパッケージ画像(1.jpg、2.jpg、…、10.jpg)を取得し、「おいしそう」の選択を受け付ける。端末2は、取得した複数のパッケージ画像と、受け付けたイメージワードとをサーバ1に送信する。サーバ1は、端末2から送信された複数のパッケージ画像及びイメージワードを受信する。
【0111】
サーバ1は、受信したそれぞれのパッケージ画像を出現割合予測モデル173に入力して、出現割合予測モデル173の学習時に設定された複数のイメージワードの出現割合それぞれを出力する。サーバ1は、出力した複数のイメージワードの出現割合から、選択されたイメージワード(例えば、おいしそう)に対応する出現割合を各々のパッケージ画像に対応付けて取得する。
【0112】
サーバ1は、パッケージ画像と、選択されたイメージワードの出現割合とに基づき、パッケージ画像とイメージワードの出現割合との関係を示す縦棒グラフを生成する。サーバ1は、生成した縦棒グラフを端末2に送信する。端末2は、サーバ1から送信された縦棒グラフを受信し、受信した縦棒グラフをグラフ表示欄13bに表示する。
【0113】
図示のように、縦棒グラフの縦軸は、選択されたイメージワードの出現割合を示す。横軸は、イメージワードの出現割合の降順に基づいてソートされた各々のパッケージ画像及びパッケージ画像のファイル名を示す。具体的には、サーバ1は、予測されたイメージワードの出現割合の降順に基づき、パッケージ画像及びファイル名を下方部に表示し、イメージワードの出現割合を示す縦棒を中央部に表示し、イメージワードの出現割合(値)及びパッケージ画像の選択時の順を上方部に表示する。なお、イメージワードの出現割合が降順で表示されたが、これに限らず、昇順またはソートなしで表示されても良い。
【0114】
なお、
図18では縦棒グラフの形式としたが、これに限らず、その他のグラフ形式で表示するようにもかまわない。
【0115】
図19は、イメージワードの出現割合を出力する際の処理手順を示すフローチャートである。端末2の制御部21は、複数のパッケージ画像を記憶部22または撮影部26により取得する(ステップS241)。制御部21は、取得した複数のパッケージ画像を通信部23によりサーバ1に送信する(ステップS242)。サーバ1の制御部11は、端末2から送信された複数のパッケージ画像を通信部13により受信する(ステップS141)。
【0116】
制御部11は、受信したそれぞれのパッケージ画像を出現割合予測モデル173に入力し、出現割合予測モデル173の学習時に設定された複数のイメージワードの出現割合を出力する(ステップS142)。学習時に設定されたイメージワードは、例えば「おいしそう」(非飲食系はなし)、「かわいい」、「シンプル」、「デザイン要素がよい」、「なつかしい」、「やさしい」、「安心感・信頼感がある」、「季節感」、「健康感がある」、「効果・効能を感じる」、「高級感・上質感」、「色味がよい」、「新しい・ユニーク」、「洗練」、「爽やか・清涼感」、「特徴がわかりやすい」、「目立つ・印象に残る」、「綺麗・美しい」または「清潔」等を含む。
【0117】
端末2の制御部21は、評価対象となるイメージワード(例えば、おいしそう)の選択を入力部24により受け付ける(ステップS243)。制御部21は、受け付けた評価対象となるイメージワードを通信部23によりサーバ1に送信する(ステップS244)。サーバ1の制御部11は、端末2から送信された評価対象となるイメージワードを通信部13により受信する(ステップS143)。制御部11は、出現割合予測モデル173が出力した複数のイメージワードの出現割合から、評価対象となるイメージワードに対応する出現割合を各々のパッケージ画像に対応付けて取得する(ステップS144)。
【0118】
制御部11は、パッケージ画像と、評価対象となるイメージワードの出現割合とに基づき、パッケージ画像とイメージワードの出現割合との関係を示すグラフを生成する(ステップS145)。制御部11は、生成したグラフを通信部13により端末2に送信する(ステップS146)。端末2の制御部21は、サーバ1から送信されたグラフを通信部23により受信し(ステップS245)、受信したグラフを表示部25により表示し(ステップS246)、処理を終了する。
【0119】
本実施形態によると、パッケージデザインを含むパッケージ画像に基づき、出現割合予測モデル173を用いて該パッケージデザインのイメージワードの出現割合を出力することが可能となる。
【0120】
本実施形態によると、パッケージデザインのイメージワードの出現割合を出力することにより、パッケージデザインの好意度の理由を明確にするため、適当なパッケージデザインを企画することが可能となる。
【0121】
(実施形態4)
実施形態4は、商品のパッケージデザインを含むパッケージ画像に基づき、人工知能を用いて該パッケージデザインの好意度の標準偏差を出力する形態に関する。なお、実施形態1~3と重複する内容については説明を省略する。
【0122】
性別または年代によって、同一パッケージデザインに対して異なる好意度を評価した場合がある。パッケージデザインの好き嫌いの差(バラつき)を好意度の標準偏差で解釈することができる。好意度の標準偏差が高いほど好き嫌いの差が大きくなり、逆に、好意度の標準偏差が低いほど好き嫌いの差が小さくなる。
【0123】
図20は、実施形態4のサーバ1の構成例を示すブロック図である。なお、
図14と重複する内容については説明を省略する。大容量記憶部17には、標準偏差予測モデル174(第3学習モデル)が記憶されている。標準偏差予測モデル174は、パッケージ画像に基づいて該パッケージ画像に含まれるパッケージデザインの好意度の標準偏差を予測する予測器であり、機械学習により生成された学習済みモデルである。
【0124】
図21は、実施形態4の訓練データDB172のレコードレイアウトの一例を示す説明図である。なお、
図3と重複する内容については同一の符号を付して説明を省略する。訓練データDB172は、標準偏差列を含む。標準偏差列は、パッケージデザインの好意度の標準偏差を記憶している。
【0125】
図22は、標準偏差予測モデル174を説明する説明図である。標準偏差予測モデル174は、人工知能ソフトウェアの一部であるプログラムモジュールとして利用される。標準偏差予測モデル174は、パッケージデザインを含むパッケージ画像を入力とし、該パッケージデザインの好意度の標準偏差を出力とするニューラルネットワークを構築済みの好意度の標準偏差の予測器である。
【0126】
サーバ1は、パッケージ画像に含まれるパッケージデザインの好意度に影響を及ぼした箇所の特徴量を学習するディープラーニングを行うことで標準偏差予測モデル174を構築する。例えば、標準偏差予測モデル174はCNNであり、パッケージデザインを含むパッケージ画像の入力を受け付ける入力層と、該パッケージデザインの好意度の標準偏差を出力する出力層と、バックプロパゲーションにより学習済の中間層とを有する。
【0127】
なお、本実施の形態では標準偏差予測モデル174がCNNであるものとして説明するが、標準偏差予測モデル174はCNNに限定されず、CNN以外のニューラルネットワーク、SVM、ベイジアンネットワーク、または回帰木等の任意の学習アルゴリズムで構築された学習済みモデルであって良い。
【0128】
サーバ1は、パッケージデザインを含むパッケージ画像と、複数人のパッケージデザインの好意度に関する情報に基づいて算出された標準偏差とが対応付けられた訓練データの組み合わせを訓練データDB172から複数取得する。訓練データは、パッケージデザインを含むパッケージ画像に対し、該パッケージデザインの好意度の標準偏差がラベル付けされたデータである。
【0129】
訓練データの作成に関しては、例えばサーバ1は、1つのパッケージ画像に対して1000人による回答の好意度を、最大5(好き)から最小1(嫌い)までの5段階で取得する。サーバ1は、取得した1000人による回答の好意度の平均値を算出する。サーバ1は、算出した好意度の平均値に基づき、1000人による回答の好意度の標準偏差を算出する。サーバ1は、パッケージ画像に対し、1000人の該パッケージデザインの好意度の標準偏差をラベル付けることにより、訓練データを作成することができる。
【0130】
サーバ1は、取得した訓練データを用いて学習を行う。具体的には、サーバ1は、訓練データであるパッケージ画像を入力層に入力し、中間層での演算処理を経て、出力層から該パッケージ画像に含まれるパッケージデザインの好意度の標準偏差を取得する。サーバ1は、出力層から出力された予測結果を、訓練データにおいてパッケージ画像に対しラベル付けされた情報、すなわち正解値と比較し、出力層からの予測値が正解値に近づくように、中間層での演算処理に用いるパラメータを最適化する。
【0131】
サーバ1は、訓練データに含まれる各パッケージ画像について上記の処理を行い、標準偏差予測モデル174を生成する。これにより、例えばサーバ1は当該訓練データを用いて標準偏差予測モデル174の学習を行うことで、パッケージデザインの好意度の標準偏差を出力可能なモデルを構築することができる。
【0132】
サーバ1は、パッケージデザインを含むパッケージ画像を取得した場合、取得したパッケージ画像を標準偏差予測モデル174に入力する。サーバ1は、標準偏差予測モデル174の中間層にてそれぞれのパッケージ画像の特徴量を抽出する演算処理を行う。サーバ1は、抽出した特徴量を標準偏差予測モデル174の出力層に入力して、パッケージデザインの好意度の標準偏差を出力として取得する。図示のように、「1.010」である好意度の標準偏差が標準偏差予測モデル174から出力される。
【0133】
なお、上述した処理に限るものではない。商品のカテゴリ毎に設定されたスコアを用いて、標準偏差予測モデル174を学習させても良い。この場合、サーバ1は、パッケージデザインを含むパッケージ画像と、カテゴリ毎に設定されたスコアとを標準偏差予測モデル174に入力し、該パッケージデザインの好意度の標準偏差を出力する。
【0134】
また、性別または年代ごとに標準偏差予測モデル174を生成することができる。具体的には、サーバ1は、性別または年代の設定を受け付け、受け付けた性別または年代に応じて、標準偏差予測モデル174の生成に用いる訓練データを訓練データDB172から複数取得する。サーバ1は訓練データを用いて、受け付けた性別または年代に対応する標準偏差予測モデル174を生成する。
【0135】
サーバ1は、性別または年代ごとに生成した標準偏差予測モデル174を大容量記憶部17に記憶する。サーバ1は、複数の性別または年代に対して用意された複数の標準偏差予測モデル174を用いて、性別または年代ごとにパッケージ画像からパッケージデザインの好意度の標準偏差を出力することができる。
【0136】
図23は、好意度の標準偏差の表示画面の一例を示す説明図である。該画面は、グラフ表示欄14a及び好意度表示欄14bを含む。グラフ表示欄14aは、パッケージ画像と好意度の標準偏差との関係を示すグラフを表示する表示欄である。好意度表示欄14bは、好意度に関する情報を表示する表示欄である。
【0137】
端末2は、評価対象となる複数のパッケージ画像を取得し、取得した複数のパッケージ画像をサーバ1に送信する。サーバ1は、端末2から送信された複数のパッケージ画像を受信する。サーバ1は、受信したそれぞれのパッケージ画像を好意度予測モデル171に入力して、それぞれのパッケージ画像に含まれるパッケージデザインの好意度に関する情報を出力する。好意度に関する情報は、例えば好意度の加重平均値である。サーバ1は、受信したそれぞれのパッケージ画像を標準偏差予測モデル174に入力して、それぞれのパッケージ画像に含まれるパッケージデザインの好意度の標準偏差を出力する。
【0138】
サーバ1は、パッケージ画像及び好意度の標準偏差に基づき、パッケージ画像と好意度の標準偏差との関係を示す縦棒グラフを生成する。サーバ1は、生成した縦棒グラフと、それぞれのパッケージデザインの好意度の加重平均値とを端末2に送信する。端末2は、サーバ1から送信された縦棒グラフ、及びそれぞれのパッケージデザインの好意度の加重平均値を受信する。端末2は、受信した縦棒グラフをグラフ表示欄14aに表示し、受信したそれぞれのパッケージデザインの好意度の加重平均値を該当するパッケージ画像に対応付けて好意度表示欄14bに表示する。
【0139】
図示のように、縦棒グラフの縦軸は、パッケージデザインの好意度の標準偏差を示す。横軸は、好意度の標準偏差の降順に基づいてソートされた各々のパッケージ画像を示す。具体的には、サーバ1は、予測された好意度の標準偏差の降順に基づき、パッケージ画像及び該パッケージ画像のファイル名を下方部に表示し、好意度の標準偏差を示す縦棒を中央部に表示し、好意度の標準偏差(値)及びパッケージ画像の選択時の順を上方部に表示する。パッケージデザインの好意度の加重平均値が、該当するパッケージ画像のファイル名の下方部に表示される。なお、好意度の標準偏差が降順で表示されたが、これに限らず、昇順またはソートなしで表示されても良い。
【0140】
なお、
図23では縦棒グラフの形式としたが、これに限らず、その他のグラフ形式で表示するようにもかまわない。
【0141】
図24は、好意度の標準偏差を出力する際の処理手順を示すフローチャートである。端末2の制御部21は、複数のパッケージ画像を記憶部22または撮影部26により取得する(ステップS251)。制御部21は、取得した複数のパッケージ画像を通信部23によりサーバ1に送信する(ステップS252)。サーバ1の制御部11は、複数のパッケージ画像を通信部13により端末2から受信する(ステップS151)。制御部11は、受信したそれぞれのパッケージ画像を標準偏差予測モデル174に入力し、該パッケージ画像に含まれるパッケージデザインの好意度の標準偏差を出力する(ステップS152)。
【0142】
制御部11は、パッケージ画像及びパッケージデザインの好意度の標準偏差に基づき、パッケージ画像と好意度の標準偏差との関係を示すグラフを生成する(ステップS153)。制御部11は、生成したグラフを通信部13により端末2に送信する(ステップS154)。端末2の制御部21は、サーバ1から送信されたグラフを通信部23により受信し(ステップS253)、受信したグラフを表示部25により表示し(ステップS254)、処理を終了する。
【0143】
本実施形態によると、パッケージデザインを含むパッケージ画像に基づき、標準偏差予測モデル174を用いて該パッケージデザインの好意度の標準偏差を出力することが可能となる。
【0144】
本実施形態によると、好意度の標準偏差を出力することにより、パッケージデザインの好き嫌いの傾向を把握することが可能となる。
【0145】
(実施形態5)
実施形態5は、パッケージ画像に基づいて各種の予測結果を出力する形態に関する。なお、実施形態1~4と重複する内容については説明を省略する。予測結果は、好意度予測モデル171から出力された好意度に関する情報、出現割合予測モデル173から出力されたイメージワードの出現割合、及び標準偏差予測モデル174から出力された好意度の標準偏差を含む。
【0146】
本実施形態では、サーバ1は、好意度に関する情報を表示するための第1オブジェクト、イメージワードの出現割合を表示するための第2オブジェクト、及び好意度の標準偏差を表示するための第3オブジェクトを選択可能に端末2に表示させる。端末2は、第1オブジェクト、第2オブジェクトまたは第3オブジェクトの選択を受け付け、受け付けたオブジェクトに応じて該当する予測結果を画面に表示する。
【0147】
図25は、各種の予測結果の表示画面の一例を示す説明図である。該画面は、好意度タブ15a、ヒートマップタブ15b、イメージワードタブ15c、標準偏差(バラつき)タブ15d及び予測結果表示欄15eを含む。
【0148】
好意度タブ15aは、好意度に関する情報を表示するためのタブである。ヒートマップタブ15bは、ヒートマップを表示するためのタブである。イメージワードタブ15cは、イメージワードの出現割合を表示するためのタブである。標準偏差タブ15dは、好意度の標準偏差を表示するためのタブである。予測結果表示欄15eは、好意度に関する情報、ヒートマップ、イメージワードの出現割合、または好意度の標準偏差を表示する表示欄である。
【0149】
端末2は、好意度タブ15aのタッチ操作を受け付けた場合、好意度に関する情報を予測結果表示欄15eに表示する。端末2は、ヒートマップタブ15bのタッチ操作を受け付けた場合、パッケージ画像と該パッケージ画像に対応するヒートマップとを対応付けて予測結果表示欄15eに表示する。端末2は、イメージワードタブ15cのタッチ操作を受け付けた場合、イメージワードの出現割合を予測結果表示欄15eに表示する。端末2は、標準偏差タブ15dのタッチ操作を受け付けた場合、好意度の標準偏差を予測結果表示欄15eに表示する。
【0150】
なお、好意度に関する情報、ヒートマップ、イメージワードの出現割合及び好意度の標準偏差の表示処理に関しては、
図8、
図13、
図18及び
図23での表示処理と同様であるため、説明を省略する。
【0151】
本実施形態によると、ユーザの選択により好意度に関する情報、イメージワードの出現割合または好意度の標準偏差を出力することが可能となる。
【0152】
なお、上述した好意度予測モデル171、出現割合予測モデル173及び標準偏差予測モデル174の生成(構築)、学習及び予測処理がサーバ1側で行われたが、これに限らず、端末2側で行われても良い。
【0153】
今回開示された実施形態はすべての点で例示であって、制限的なものではないと考えられるべきである。本発明の範囲は、上記した意味ではなく、特許請求の範囲によって示され、特許請求の範囲と均等の意味及び範囲内でのすべての変更が含まれることが意図される。
【符号の説明】
【0154】
1 情報処理装置(サーバ)
11 制御部
12 記憶部
13 通信部
14 入力部
15 表示部
16 読取部
17 大容量記憶部
171 好意度予測モデル
172 訓練データDB
173 出現割合予測モデル
174 標準偏差予測モデル
1a 可搬型記憶媒体
1b 半導体メモリ
1P 制御プログラム
2 情報処理端末(端末)
21 制御部
22 記憶部
23 通信部
24 入力部
25 表示部
26 撮影部
2P 制御プログラム