(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023144163
(43)【公開日】2023-10-11
(54)【発明の名称】飲料缶を含む画像の処理装置、処理方法及び処理プログラム
(51)【国際特許分類】
G06T 7/00 20170101AFI20231003BHJP
G06V 20/64 20220101ALI20231003BHJP
G06Q 10/06 20230101ALI20231003BHJP
【FI】
G06T7/00 300F
G06V20/64
G06Q10/06
【審査請求】有
【請求項の数】3
【出願形態】OL
(21)【出願番号】P 2022035954
(22)【出願日】2022-03-09
(11)【特許番号】
(45)【特許公報発行日】2023-09-28
【公序良俗違反の表示】
(特許庁注:以下のものは登録商標)
1.JAVASCRIPT
(71)【出願人】
【識別番号】320005501
【氏名又は名称】株式会社電通
(71)【出願人】
【識別番号】505340537
【氏名又は名称】株式会社電通デジタル
(74)【代理人】
【識別番号】100121083
【弁理士】
【氏名又は名称】青木 宏義
(74)【代理人】
【識別番号】100138391
【弁理士】
【氏名又は名称】天田 昌行
(74)【代理人】
【識別番号】100174528
【弁理士】
【氏名又は名称】木村 晋朗
(72)【発明者】
【氏名】前川 駿
(72)【発明者】
【氏名】鈴木 初実
(72)【発明者】
【氏名】エンフバヤル・エンフアマグラン
(72)【発明者】
【氏名】ミャホライ・バトビルグーン
(72)【発明者】
【氏名】木村 賢太
(72)【発明者】
【氏名】武市 典久
(72)【発明者】
【氏名】大久利 太輔
【テーマコード(参考)】
5L049
5L096
【Fターム(参考)】
5L049AA20
5L096DA02
5L096FA03
5L096FA06
5L096FA67
5L096HA08
5L096JA03
5L096JA11
(57)【要約】
【課題】画像に含まれる飲料缶の解析精度に優れた飲料缶を含む画像の処理装置、処理方法及び処理プログラ
ムを得る
。
【解決手段】本開示の一態様に係る飲料缶を含む画像の処理装置は、
角度算出部が、飲料缶の上面の飲み口のうち飲料缶の上面の中心点から最も離れた先端点と、飲料缶の上面の中心点とを結んだ第1の直線、及び、飲料缶の側面の表示部の一点を含んで飲料缶の上面に向かって垂直に延びる直線が飲料缶の上面と交わる点と、飲料缶の上面の中心点とを結んだ第2の直線を規定したとき、第1、第2の直線がなす角度を算出する。
【選択図】
図6
【特許請求の範囲】
【請求項1】
飲料缶を含む画像を取得する画像取得部と、
前記画像を解析して、前記飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出する角度算出部と、
前記第1の直線と前記第2の直線がなす前記角度を出力する角度出力部と、
を有することを特徴とする飲料缶を含む画像の処理装置。
【請求項2】
前記外郭特徴部は、前記飲料缶の上面の飲み口と、前記飲料缶の上面の中心部と、前記飲料缶の側面の表示部との少なくとも1つを含む、
ことを特徴とする請求項1に記載の飲料缶を含む画像の処理装置。
【請求項3】
前記第1の直線は、前記飲料缶の上面の飲み口の先端部と前記飲料缶の上面の中心部を結んだ直線であり、
前記第2の直線は、前記飲料缶の側面の表示部の一点を含んで前記飲料缶の高さ方向に延びる直線が前記飲料缶の上面と交わる点と、前記飲料缶の上面の中心部とを結んだ直線である、
ことを特徴とする請求項2に記載の飲料缶を含む画像の処理装置。
【請求項4】
前記画像を解析して、前記飲料缶が所定銘柄であるか否か、前記飲料缶が所定容量であるか否か、及び、前記画像がオリジナル性を欠いた既存画像であるか否を判定する判定部をさらに有する、
ことを特徴とする請求項1から請求項3のいずれかに記載の飲料缶を含む画像の処理装置。
【請求項5】
前記画像取得部は、同一のユーザ端末からの複数の画像を取得し、
前記角度算出部は、前記複数の画像について、前記第1、第2の直線がなす前記角度を算出し、
前記角度出力部は、前記複数の画像について、前記第1、第2の直線がなす前記角度を出力し、
前記複数の画像について、前記第1、第2の直線がなす前記角度が所定範囲にあるかどうかを比較する比較部をさらに有する、
ことを特徴とする請求項1から請求項4のいずれかに記載の飲料缶を含む画像の処理装置。
【請求項6】
前記複数の画像について、前記第1、第2の直線がなす前記角度が所定範囲にあるときに、前記ユーザ端末にその旨を通知する通知部をさらに有する、
ことを特徴とする請求項5に記載の飲料缶を含む画像の処理装置。
【請求項7】
前記複数の画像について、前記第1、第2の直線がなす前記角度が所定範囲にないときに、前記ユーザ端末に前記複数の画像の枚数に応じた特典を付与する特典付与部をさらに有する、
ことを特徴とする請求項5又は請求項6に記載の飲料缶を含む画像の処理装置。
【請求項8】
飲料缶を含む画像を取得するステップと、
前記画像を解析して、前記飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出するステップと、
前記第1の直線と前記第2の直線がなす前記角度を出力するステップと、
を有することを特徴とする飲料缶を含む画像の処理方法。
【請求項9】
飲料缶を含む画像を取得するステップと、
前記画像を解析して、前記飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出するステップと、
前記第1の直線と前記第2の直線がなす前記角度を出力するステップと、
をコンピュータに実行させることを特徴とする飲料缶を含む画像の処理プログラム。
【請求項10】
対象物を含む画像を取得する画像取得部と、
前記画像を解析して、前記対象物の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出する角度算出部と、
前記第1の直線と前記第2の直線がなす前記角度を出力する角度出力部と、
を有することを特徴とする対象物を含む画像の処理装置。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、飲料缶を含む画像の処理装置、処理方法及び処理プログラム、並びに対象物を含む画像の処理装置に関する。
【背景技術】
【0002】
特許文献1には、個体識別情報読取手段と、位置推定手段と、飲酒運転抑制制御手段とを備える飲酒運転防止装置が記載されている。個体識別情報読取手段は、車室内に存在するアルコール飲料の容器から個体識別情報を読み取り可能である。位置推定手段は、個体識別情報読取手段の出力に基づいて車室内におけるアルコール飲料の位置を推定する。飲酒運転抑制制御手段は、位置推定手段により推定されたアルコール飲料の位置に基づいて飲酒運転を抑制するための所定の制御を行う。また、特許文献1には、アルコール飲料の個体識別情報を読み取る装置の具体例としてRFID読取機が例示されている。さらに、特許文献1には、アルコール飲料の個体識別情報を読み取る装置が無線通信によるものに限定されず、例えばバーコード等を撮像し、画像認識によってアルコール飲料の個体識別情報を読み取るものとしてもよいことが記載されている。
【0003】
特許文献2には、利用者情報受付手段と、店舗情報受付手段と、マッチング手段と、仕入情報通知手段とを備える通知制御システムが記載されている。利用者情報受付手段は、利用者からの飲料に関する利用者情報の投稿を受付ける。店舗情報受付手段は、実店舗または仮想店舗における飲料の仕入れに関する店舗情報を受付ける。マッチング手段は、飲料の属性に関して利用者情報と店舗情報のマッチングを行う。仕入情報通知手段は、マッチング手段にてマッチングされた利用者情報および店舗情報に基づいて、仕入れ情報を利用者に通知する。また、特許文献1には、マッチング手段が、利用者情報の画像データの画像認識を行い、飲料の属性を特定すること、その際、公知の画像認識技術(OCR技術や形状判定技術等)を用いて利用者情報の画像データの画像認識を行い、飲料の属性を特定してもよいことが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009-258855号公報
【特許文献2】特開2017-091343号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1、2を含む従来技術は、画像に含まれる飲料缶の解析精度の観点において、改良の余地がある。
【0006】
そこで本開示は、画像に含まれる飲料缶の解析精度に優れた飲料缶を含む画像の処理装置、処理方法及び処理プログラムを得ることを目的の1つとする。また本開示は、画像に含まれる対象物の解析精度に優れた対象物を含む画像の処理装置を得ることを目的の1つとする。
【課題を解決するための手段】
【0007】
本開示の一態様に係る飲料缶を含む画像の処理装置は、飲料缶を含む画像を取得する画像取得部と、前記画像を解析して、前記飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出する角度算出部と、前記第1の直線と前記第2の直線がなす前記角度を出力する角度出力部と、を有することを特徴とする。
【発明の効果】
【0008】
本開示の一態様によれば、画像に含まれる飲料缶の解析精度に優れた飲料缶を含む画像の処理装置、処理方法及び処理プログラムを得ることができる。また、画像に含まれる対象物の解析精度に優れた対象物を含む画像の処理装置を得ることができる。
【図面の簡単な説明】
【0009】
【
図1】飲料缶を含む画像の処理装置を含むシステムの構成の一例を示す図である。
【
図4】飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。
【
図6】飲料缶の外郭特徴部に基づいて設定した第1、第2の直線とその角度の一例を示す図である。
【
図7】飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。
【
図8】飲料缶を含む画像の処理方法の流れの一例を示す図である。
【
図9】ユーザ端末及び飲料缶を含む画像の処理装置の機能構成の一例を示す図である。
【
図10】ユーザ端末及び飲料缶を含む画像の処理装置のハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【0010】
以下、本開示の実施形態について添付図面を参照して詳細に説明する。
【0011】
図1は、飲料缶を含む画像の処理装置20を含むシステム1の構成の一例を示す図である。「飲料缶を含む画像の処理装置」は、「飲料缶を含む画像の処理システム」と読み替えられてもよい(両者を同義としてもよい)。「飲料缶」は「対象物」に含まれる。また、飲料缶を含む画像の処理方法及び処理プログラムは、システム1(ユーザ端末10、飲料缶を含む画像の処理装置20)に含まれるコンピュータ(CPU:Central Processing Unit)に各種の処理ステップを実行させることによって実現される。
【0012】
図1に示すように、システム1は、ユーザ端末10と、飲料缶を含む画像の処理装置(以下では「画像処理装置」と呼ぶ)20と、ユーザ端末10と画像処理装置20を接続するネットワーク30とを有している。
図1では、ユーザ端末10と画像処理装置20を単一構成として簡略化して描いているが、これは作図の便宜上の理由によるものである。実際には、ハードウェア構成としても、ソフトウェア構成としても、ユーザ端末10と画像処理装置20は、
図1に描いたよりも複雑な構成を有している。例えば、画像処理装置20は、複数のサーバやデータベース等を含んで構成されていてもよい。
【0013】
システム1は、ユーザ端末10と画像処理装置20を含んだ構成として捉えてもよいし、ユーザ端末10を含まず画像処理装置20だけを含んだ構成として捉えてもよい。つまり、システム1において、ユーザ端末10は必須の構成要件ではない(後述する飲料缶を含む画像が画像処理装置20に入力されればよい)。
【0014】
ユーザ端末10は、例えば、携帯電話、スマートフォン、タブレット型端末などの携帯端末(移動通信端末)である。つまり、本明細書におけるユーザ端末10は、画像処理装置20との間で各種の通信を行うことができる通信デバイスである。ユーザ端末10は、例えば、有線及び/又は無線(例えば、Long Term Evolution(LTE)、5th Generation New Radio(5G NR)、Wi-Fi(登録商標)など)を介して、ネットワーク(インターネットなど)と通信してもよい。ユーザ端末10は、ユーザの操作により、ブラウザ及びその他の各種のアプリケーション(とりわけ後述する飲料缶画像解析アプリケーションサービス)を実行する。
【0015】
画像処理装置20は、ユーザ端末10との間で各種の通信を行うことができる通信デバイスであればよく、デバイス、回路などで読み替えられてもよい。とりわけ、画像処理装置20は、ユーザ端末10により取得(撮影)された飲料缶を含む画像を解析して、その解析結果に基づく種々のアプリケーションサービス(飲料缶画像解析アプリケーションサービス)を提供するべく、ユーザ端末10との間で各種の通信を行う。
【0016】
図2は、ユーザ端末10の構成の一例を示す図である。ユーザ端末10は、撮像部(画像取得部)11と、画像送信部12と、飲料缶画像解析アプリケーション部13とを有している。なお、ユーザ端末10は、
図2に描いた構成要素の他にも、一般的なユーザ端末が搭載している構成要素、例えば、ディスプレイ、スピーカー、マイクロフォン等を有している。
【0017】
撮像部11は、ユーザ端末10に搭載されたカメラシステムであり、飲料缶を含む画像を撮像(取得)する。画像送信部12は、撮像部11が撮像した飲料缶を含む画像を画像処理装置20に送信する。飲料缶画像解析アプリケーション部13は、画像送信部12から画像処理装置20に送信した飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスを利用するための各種の処理を実行する。
【0018】
例えば、撮像部11のカメラが起動されると、撮像素子(CCD:Charge Coupled Device)の受像画像の飲料缶が所定銘柄であるか否かを判定して写真が撮影されてもよい。画像を別途撮影するよりも快適なUX(User Experience)を実現するために、飲料缶の判定処理を分割してもよい。判定処理においては、例えば、撮像素子の受像画像に飲料缶の所定銘柄のロゴや飲料缶の上面が含まれているかどうか、飲料缶の外郭形状・意匠を解析して利用してもよい。その際、撮像素子で受像した飲料缶が所定銘柄である確率(信頼性スコア)を算出して、当該確率が所定値以上(例えば50%以上)である場合に撮影を実行してもよい。ここで、撮影の実行有無を決定する上記の所定値には自由度があり、種々の設計変更が可能である。もちろん、撮像素子で受像した飲料缶が所定銘柄であるか否かを1/0フラグで検出してもよい。
【0019】
図3は、飲料缶を含む画像の一例を示す図である。飲料缶は、例えば、アルコール飲料、ミネラルウォーター、炭酸水、清涼飲料水、コーンポタージュなどの任意の飲料を収容する容器である。飲料缶は、平面視円形の上面、平面視円形の下面、平面視環状で上面と下面を繋ぐ筒状の側面とを有している。飲料缶の上面には、中心部を挟んだ一方と他方に、飲み口と、飲み口を開放するためのプルタブが設けられている(
図3では飲料缶の上面の中心部より左側に飲み口が設けられて中心部より右側にプルタブが設けられている)。飲料缶の側面には、当該飲料缶のメーカーと商品名(銘柄)が表示部として描かれている。
図3では、飲料缶のメーカーとしてXYZが描かれており、飲料缶の商品名としてABCDEが描かれている。
図3では、作図の便宜上の理由により、飲料缶の側面の表示部(メーカーと商品名)を通常のフォントで描いているが、実際には、飲料缶の側面の表示部(メーカーと商品名)は、飲料缶の側面の丸みに応じて歪んで撮影される。
【0020】
図4A~
図4Cは、飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。飲料缶画像解析アプリケーションサービスは、飲料缶をカメラで捉えるという体験に基づいてブランドのファンを作りながら特典(お得な体験)を提供するものである。飲料缶画像解析アプリケーションサービスの提供を受けるためには、ユーザ端末10を介して、利用規約及びプライバシーポリシーをユーザが確認・同意した上で、参加の意思表示を示すことが必要である。また、飲料缶画像解析アプリケーションサービスには、キャンペーン名、応募期間、対象商品(飲料缶の種類やサイズ等)、景品、当選数、必要ポイント等が設定される。
【0021】
図4Aでは、ユーザ端末10の撮像部11によって、ユーザが飲んでいる飲料缶を撮影(スキャン)して、その撮影画像を画像処理装置20に送信する。ここで
図4Aの飲料缶画像の撮影・送信は、時間的・回数的な制限(例えば一日に一回)が設定されてもよい。
【0022】
図4Bでは、
図4Aの飲料缶画像の撮影・送信が所定回数に到達することで、オリジナルグッズ(景品)に自動応募される。
図4Bの例では、
図4Aの飲料缶画像の撮影・送信を1ポイントに換算して、5ポイント貯まる毎に、オリジナルグッズ(景品)に自動応募される。ここで、5ポイント毎の自動応募は、時間的・回数的な制限(例えばキャンペーン期間中に最大10回)が設定されてもよい。
【0023】
図4Cでは、5ポイント毎の自動応募に当選すると、ユーザに対してオリジナルグッズが当たる(提供される)。
図4Cでは、オリジナルグッズとして、飲料缶のメーカー(XYZ)と商品名(ABCDE)が描かれた携帯端末のケース(オリジナルスマホケース)を例示している。
【0024】
上述した飲料缶画像解析アプリケーションサービスは、飲料缶の販売促進を図るためのものであるため、その性質上、画像処理装置20に送信される飲料缶画像に係る飲料缶が同一のものではないことを想定している(前提としている)。すなわち、オリジナルグッズの自動応募に必要な所定ポイント(例えば5ポイント)の各々(1ポイント)は、同一の飲料缶を複数撮影したものやインターネット上から拾ってきたものであってはならず、ユーザが中身を飲んだ飲料缶の本数に応じて飲む度に撮影したものであることを想定している(前提としている)。さらに言えば、ユーザが中身を飲む飲料缶は、例えば、ユーザ自身、ユーザの家族や同居人、ユーザと一緒に飲料缶の中身を飲む友人や同僚などが購入したものであることを想定している(前提としている)。
【0025】
本開示の飲料缶を含む画像の処理装置、処理方法及び処理プログラムは、上記の想定・前提を盤石なものとする観点から、画像に含まれる飲料缶の解析精度に優れており、且つ、画像に含まれる飲料缶が同一のものであるか否か、さらには当該飲料缶の「購買証明」に繋げることができる構成要件を具備している。例えば、スムーズで信頼性の高い購買証明ができれば、インストア購買商材でもロイヤリティプログラムが組みやすくなり、デジタル販促をブランドのファンを増やすためのマーケティングCRP(Customer Relationship Process)に昇華することが可能になる。
【0026】
ここで、スムーズで信頼性の高い購買証明の難しさの要因として、以下が挙げられる。
(1)購買証明は、クレーム対応や不正を考えると間違えられない。
(2)はがきは、流通の手間が大きく広がらず、都度捨てることになるのでたまらない。
(3)シリアルは、工場の生産ラインでの対応、且つ、バーコードの発行やシールの印刷で膨大な数になってしまう。
(4)レシートは、煩雑で手間が掛かるとともに、正解判定のコストが掛かり、不正の抜け道がある。過去には、販促キャンペーンで組織的なレシート購買証明詐欺(日付改竄、折り込んで違う決済にする、背景色の加工、複数枚を重ねる)が発生した例も存在する。
(5)間違いが起こり難い「○○Pay」などの電子決済は、決済の制約や小売が限られ、プラットフォーマー主導である故の柔軟性の欠如が問題となる。
【0027】
このように、飲料缶のメーカー主導(内製)で、画像に含まれる飲料缶の解析精度に優れており、且つ、画像に含まれる飲料缶が同一のものであるか否か、さらには当該飲料缶の購買証明に繋げることができる仕組みが待たれている。そして本発明者は、かかる着眼に基づいて、このような仕組みを持つ飲料缶を含む画像の処理装置、処理方法及び処理プログラムを実現するに至った。この仕組みは、キャンペーンの購買証明を性悪説から性善説に発想転換し、明らかなる不正や詐欺さえ検知できれば多少ポイントを過剰に付与することを厭わない柔軟性を内包しており、あえて厳密に購買判定しなくてもよいという、いわゆる「疑似購買証明」の可能性に基づくものである。
【0028】
図5は、画像処理装置20の構成の一例を示す図である。画像処理装置20は、画像入力部(画像取得部)21と、第1の判定部22と、第2の判定部23と、第3の判定部24と、角度算出部25と、角度出力部26と、比較部27と、通知部28と、特典付与部29とを有している。
【0029】
画像入力部(画像取得部)21は、ユーザ端末10の撮像部11で撮像されて画像送信部12から送信されてきた飲料缶を含む画像が入力する(を取得する)。画像入力部(画像取得部)21は、同一のユーザ端末10からの複数の画像が入力する(を取得する)。
【0030】
第1の判定部22は、画像入力部21に入力した画像を解析して、当該画像に含まれる飲料缶が所定銘柄であるか否かを判定する。この判定は、ユーザ端末10の撮像部11で飲料缶を撮影するか否かを判定するときの処理と同じであってもよい。第1の判定部22は、画像入力部21に入力した画像に含まれる飲料缶が所定銘柄である確率(信頼性スコア)を算出してもよい。
【0031】
第2の判定部23は、画像入力部21に入力した画像を解析して、当該画像に含まれる飲料缶が所定容量であるか否かを判定する。第2の判定部23は、画像入力部21に入力した画像に含まれる飲料缶が500ml缶か、350ml缶か、それ以外の容量であるかを判定してもよい。第2の判定部23は、画像入力部21に入力した画像に含まれる飲料缶が500ml缶か、350ml缶か、それ以外の容量である確率(信頼性スコア)を算出してもよい。
【0032】
第3の判定部24は、画像入力部21に入力した画像を解析して、当該画像がオリジナル性を欠いた既存画像であるか否を判定する。第3の判定部24は、画像入力部21に入力した画像がインターネット上から拾ってきた画像(つまりユーザ端末10によりユーザが自分で撮影したものでない可能性が高い画像)を検出する。第3の判定部24は、テンプレートマッチングを利用して、バックエンドに画像が送られるインターネット画像との照合を行って両者の類似度を測定する。第3の判定部24は、画像入力部21に入力した画像がオリジナル性を欠いた既存画像である確率(信頼性スコア)を算出してもよい。
【0033】
角度算出部25は、画像入力部21に入力した画像を解析して、飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出する。飲料缶の外郭特徴部をどこにどのように注目して設定するかには自由度があり、種々の設計変更が可能ではあるが、本開示では、飲料缶の上面の飲み口と、飲料缶の上面の中心部と、飲料缶の側面の表示部とを用いている。
【0034】
図6は、飲料缶の外郭特徴部に基づいて設定した第1、第2の直線とその角度の一例を示す図である。
図6において、飲料缶の側面の表示部の一点、ここでは商品名ABCDEの真ん中のCの中心を点(1)で描いている。また、点(1)を含んで飲料缶の高さ方向に延びる直線が飲料缶の上面と交わる点を(2)で描いている。また、飲料缶の上面の中心部を点(3)で描いている。さらに、飲料缶の上面の飲み口の先端部を点(4)で描いている。そして、飲料缶の上面の飲み口の先端部と飲料缶の上面の中心部を結んだ第1の直線(点(3)と点(4)を結んだ直線)と、飲料缶の側面の表示部の一点を含んで飲料缶の高さ方向に延びる直線が飲料缶の上面と交わる点と、飲料缶の上面の中心部とを結んだ第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを算出している。飲料缶の上面が楕円になっている場合、適宜、算出した角度に補正をかけてもよい。
【0035】
角度算出部25による角度算出は、セグメンテーションと、キーポイント抽出と、幾何学的な処理による角度算出との3つの処理によって実行される。
【0036】
セグメンテーションは、画像に対してピクセル毎に何か写っているかを推定するモデルであり、一般的な物体検知で使われるモデルアーキテクチャを使って、独自に教師データを作成して追加の学習を行ってもよい。セグメンテーションでは、対象画像のうち、飲料缶の上面の領域がどこかをピクセル単位で判定する。
【0037】
キーポイント抽出は、画像に対して物体の特徴となる点の座標を検出するモデルであり、画像中の飲料缶に対して新規にキーポイントを設定して、モデルに基づく学習が可能である。キーポイント抽出では、対象画像のうち、第1、第2の直線を規定(特定)するための点(1)~(4)の座標を検出する。
【0038】
幾何学的な処理による角度算出では、セグメンテーションとキーポイント抽出によって検出されたデータに基づいて、第1の直線(点(3)と点(4)を結んだ直線)と、第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを算出する(
図6を参照)。
【0039】
角度算出部25は、画像入力部21に同一のユーザ端末10からの複数の画像が入力した場合、当該複数の画像について、第1の直線(点(3)と点(4)を結んだ直線)と、第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを算出する。
【0040】
上述したように、飲料缶の外郭特徴部をどこにどのように注目して設定するかには自由度がある。例えば、飲料缶の上面の飲み口と、飲料缶の上面の中心部と、飲料缶の側面の表示部(メーカーと商品名)との少なくとも1つを含むように外郭特徴部を設定してもよい。あるいは/加えて、飲料缶の上面の飲み口の基端部、飲料缶の上面のプルタブやその周辺部の凹みを外郭特徴部として利用してもよいし、将来的に新規かつ特徴的な飲料缶が登場したときにその飲料缶の一部を外郭特徴部として利用してもよい。
【0041】
角度出力部26は、角度算出部25が算出した、飲料缶の第1の直線(点(3)と点(4)を結んだ直線)と第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを出力する。角度出力部26は、画像入力部21に同一のユーザ端末10からの複数の画像が入力し、角度算出部25が当該複数の画像について第1、第2の直線がなす角度θを算出した場合、当該複数の画像について第1、第2の直線がなす角度θを出力する。
【0042】
比較部27は、同一のユーザ端末10からの複数の画像について、第1、第2の直線がなす角度θが所定範囲にあるかどうかを比較する。
【0043】
飲料缶の製造時に、飲料缶の上面の飲み口と、飲料缶の側面の表示部(メーカーや商品名)との位置関係を一律に同じように作り込むことは行われておらず、両者の位置関係は、いわば、個々の飲料缶のオリジナル度合いと捉えることができる。すなわち、厳密に見れば、個々の飲料缶について、第1、第2の直線がなす角度θは異なるケースが殆どであり、当該角度θに基づいて、複数の画像に同一の飲料缶が含まれる可能性を判定することができる。例えば、複数の画像に含まれる飲料缶について、第1、第2の直線がなす角度θが大きく異なっていれば、複数の画像に含まれる飲料缶が異なる可能性が高くなり、第1、第2の直線がなす角度θが同一又は殆ど同一であれば、複数の画像に含まれる飲料缶が同一である可能性が高くなる。
【0044】
比較部27は、例えば、複数の画像の任意の1枚の基準画像において第1、第2の直線がなす角度θを基準角度θstandardに設定し、複数の画像のその他の参照画像において第1、第2の直線がなす角度θを参照角度θreferenceに設定する。そして、基準角度θstandardと参照角度θreferenceが所定範囲内にあるかどうかを比較する。例えば、0.95×参照角度θreference≦基準角度θstandard≦1.05×参照角度θreferenceを満足する場合に、基準画像と参照画像に含まれる飲料缶が同一のものであると判定し、当該条件式を満足しない場合に、基準画像と参照画像に含まれる飲料缶が異なるものであると判定することができる。比較部27は、複数の画像(基準画像と参照画像)に含まれる飲料缶が同一のものであるか否かを示す確率(信頼性スコア)を算出してもよい。
【0045】
通知部28は、同一のユーザ端末10からの複数の画像について、第1、第2の直線がなす角度θが所定範囲にあるとき、すなわち、当該複数の画像に含まれる飲料缶が同一のものである可能性が高いときに、ユーザ端末10にその旨を通知する。ユーザ端末10への通知方法は、例えば、ディスプレイへの表示、及び/又は、スピーカーからの音声を採用することができる。その際、通知部28は、当該複数の画像については、後述する特典付与部29による特典付与の対象外とすることを通知してもよい。
【0046】
特典付与部29は、同一のユーザ端末10からの複数の画像について、第1、第2の直線がなす角度θが所定範囲にないとき、当該複数の画像に含まれる飲料缶が異なるものであると判定して、ユーザ端末10に複数の画像の枚数に応じた特典を付与する。例えば、飲料缶が写り込んだ画像1枚を1ポイントに換算して、画像5枚に対応する5ポイントに到達したときに自動応募を行い、抽選に当選した場合にオリジナルグッズが当たるようにしてもよい(
図4B、
図4Cを参照)。
【0047】
図7は、飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。
図7に示すように、ユーザ端末10のアプリケーションから画像処理装置20のAI(Artificial Intelligence)に飲料缶を含む画像が送信される。画像処理装置20のAIは、アップロードされた画像に対して飲料缶の情報を付与する。より具体的に、飲料缶の飲み口の角度(例えば第1、第2の直線がなす角度θ)、インターネット上の画像との類似度、同じユーザが直近にアップロードした飲料缶の飲み口の角度(例えば第1、第2の直線がなす角度θ)、商品情報(例えば飲料缶が350mlと500mlのいずれであるか)等の情報が得られる。画像処理装置20のAIが判定した結果は数値でキャンペーンシステムに渡され、ポイント付与、特典付与のレギュレーションは、キャンペーンシステムの側で行うことができるように構成されている。
【0048】
図8は、飲料缶を含む画像の処理方法の流れの一例を示す図である。
【0049】
ステップST1では、ユーザ端末10の撮像部11としてのカメラを起動する。ステップST2では、ユーザ端末10の撮像部11により飲料缶を含む画像を撮影(取得)する。カメラ起動状態で飲料缶のロゴや特定部位を認識したら(対象飲料缶である確率が所定値を超えたら)、自動的にシャッターを切ることにより、飲料缶を含む画像を撮影する。
【0050】
ステップST3では、画像処理装置20の第2の判定部23が、飲料缶が所定容量であることを判定する。この判定は、例えば、飲料缶の全体形状で500mlと350mlの区別を行ってもよいし、飲料缶に付されたプロダクトID(JANコード)を用いてもよい。ステップST4では、画像処理装置20の第3の判定部24が、飲料缶を含む画像がオリジナル性を欠いた既存画像(インターネット上から拾ってきた画像)でないことを確認する。
【0051】
ステップST5では、画像処理装置20の角度算出部25が、撮影画像に含まれる飲料缶について、第1、第2の直線がなす角度を算出する。ステップST6では、画像処理装置20の比較部27が、データベースと照合して、同じIDのユーザ(同一のユーザ)が直近に登録した画像に含まれる飲料缶の第1、第2の直線がなす角度と、ステップST5で算出した第1、第2の直線がなす角度とを比較してその一致度を判定する。ステップST7では、ステップST6で角度の比較・判定を行った複数の画像に含まれる飲料缶が、同一の飲料缶であるか、異なる飲料缶であるかの最終判定を行う。
【0052】
このように、本開示に係る飲料缶を含む画像の処理装置20では、画像入力部21が、飲料缶を含む画像を取得し、角度算出部25が、飲料缶を含む画像を解析して、飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出し、角度出力部26が、第1の直線と第2の直線がなす角度を出力する。これにより、画像に含まれる飲料缶の解析精度に優れており、且つ、画像に含まれる飲料缶が同一のものであるか否か、さらには当該飲料缶の購買証明に繋げることができる。
【0053】
また、本開示に係る飲料缶を含む画像の処理装置では、画像に含まれるのが特定の飲料缶か否か、同一の飲料缶であるか否かを確率として保有することで、正誤判定の柔軟性を確保している。また、判定周辺のメタデータを詳細にフィードバックすることで、キャンペーンの設計側での柔軟な変更が可能になる。また、解析処理をアプリサーバサイド(画像処理装置20)で行い、飲料缶の認識をアプリサイド(ユーザ端末10)で行うので、リアルタイム感などのUX(User Experience)を実現することができる。また、例えば、HTML言語で稼働するjavascriptで実現させることができるので、実装が容易である。
【0054】
上記の実施形態では、対象物を飲料缶とした飲料缶を含む画像の処理装置について説明したが、本発明は、飲料缶以外の任意の対象物を含む画像の処理装置に適用可能である。すなわち、対象物を含む画像の処理装置は、対象物を含む画像を取得する画像取得部と、前記画像を解析して、前記対象物の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出する角度算出部と、前記第1の直線と前記第2の直線がなす前記角度を出力する角度出力部と、を有していてもよい。
【0055】
例えば、対象物をペットボトルとして、ペットボトルの蓋の閉まり具合と側面ラベルのロゴとの位置関係等に着目した第1、第2の直線がなす角度に基づいて、ペットボトルを含む画像の処理(同一のペットボトルか否かの判定ひいては疑似購買証明)を行ってもよい。また、製造時のプリントがランダムに附番される商品全般を対象物としてもよい。さらに、製造過程において特徴差がない商品であったとしても、ガム等のお菓子や冷凍食品等のパッケージ系の商品を対象物として、空け口の曲線具合等に着目した第1、第2の直線がなす角度に基づいて、対象物を含む画像の処理(同一の対象物か否かの判定ひいては疑似購買証明)を行ってもよい。また、カップ麺を対象物として、カップ麺の蓋の空き具合等に着目した第1、第2の直線がなす角度に基づいて、個々の単品明細を見分けることもできる。
【0056】
図9は、一実施形態に係るユーザ端末10及び画像処理装置20の機能構成の一例を示す図である。
図9に示すように、ユーザ端末10及び画像処理装置20は、制御部110と、記憶部120と、通信部130と、入力部140と、出力部150と、を有する。なお、
図9では、ユーザ端末10及び画像処理装置20の機能ブロックの一例を示しており、
図9に描いていない他の機能ブロックを有していてもよい。また、一部の機能ブロックを含まない構成としてもよい。
【0057】
制御部110は、ユーザ端末10及び画像処理装置20の制御を実施する。制御部110は、本発明に係る技術分野での共通認識に基づいて説明されるコントローラ、制御回路又は制御装置により構成することができる。
【0058】
記憶部120は、ユーザ端末10及び画像処理装置20で利用する情報を記憶する。記憶部120は、例えば、本発明に係る技術分野での共通認識に基づいて説明されるメモリ、ストレージ、記憶装置などにより構成することができる。
【0059】
通信部130は、ユーザ端末10及び画像処理装置20の通信(例えば両者の相互通信)を行う。通信部130は、本発明に係る技術分野での共通認識に基づいて説明されるトランスミッター/レシーバー、送受信回路又は送受信装置により構成することができる。なお、通信部130は、送信部及び受信部から構成されてもよい。
【0060】
入力部140は、ユーザ端末10及び画像処理装置20における入力を受け付ける。また、入力部140は、所定の機器、記憶媒体などと接続され、データの入力を受け付けてもよい。入力部140は、入力結果を例えば制御部110に出力してもよい。入力部140は、本発明に係る技術分野での共通認識に基づいて説明されるキーボード、マウス、ボタンなどの入力装置、入出力端子、入出力回路などにより構成することができる。また、入力部140は、表示部と一体となった構成(例えば、タッチパネル)としてもよい。
【0061】
出力部150は、ユーザ端末10及び画像処理装置20における出力を行う。例えば、出力部150は、画像を表示する表示部、音声を出力する音声出力部などを含んで構成されてもよい。表示部は、例えば、本発明に係る技術分野での共通認識に基づいて説明されるディスプレイ、モニタなどの表示装置により構成することができる。また、音声出力部は、本発明に係る技術分野での共通認識に基づいて説明されるスピーカーなどの出力装置により構成することができる。
【0062】
なお、上記実施形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及び/又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的に結合した1つの装置により実現されてもよいし、物理的に分離した2つ以上の装置を有線又は無線によって接続し、これら複数の装置により実現されてもよい。
【0063】
例えば、本開示の一実施形態におけるユーザ端末10及び画像処理装置20は、本開示の飲料缶を含む画像の処理方法及び処理プログラムの処理を行うコンピュータとして機能してもよい。
図10は、一実施形態に係るユーザ端末10及び画像処理装置20のハードウェア構成の一例を示す図である。上述のユーザ端末10及び画像処理装置20は、物理的には、プロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、入力装置1005、出力装置1006、バス1007などを含むコンピュータ装置として構成されてもよい。
【0064】
なお、本開示において、装置、回路、デバイス、ユニット、サーバなどは、互いに読み替えることができる。ユーザ端末10及び画像処理装置20のハードウェア構成は、図に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
【0065】
例えば、プロセッサ1001は1つだけ図示されているが、複数のプロセッサがあってもよい。また、処理は、1のプロセッサによって実行されてもよいし、処理が同時に、逐次に、又はその他の手法を用いて、2以上のプロセッサによって実行されてもよい。なお、プロセッサ1001は、1以上のチップによって実装されてもよい。
【0066】
ユーザ端末10及び画像処理装置20における各機能は、プロセッサ1001、メモリ1002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることによって、プロセッサ1001が演算を行い、通信装置1004による通信、メモリ1002及びストレージ1003におけるデータの読み出し及び/又は書き込みなどを制御することによって実現される。
【0067】
プロセッサ1001は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ1001は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置(CPU:Central Processing Unit)によって構成されてもよい。なお、上述の制御部110などの各部は、プロセッサ1001によって実現されてもよい。
【0068】
また、プロセッサ1001は、プログラム(プログラムコード)、ソフトウェアモジュール、データなどを、ストレージ1003及び通信装置1004の少なくとも一方からメモリ1002に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施形態において説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、制御部110は、メモリ1002に格納され、プロセッサ1001において動作する制御プログラムによって実現されてもよく、他の機能ブロックについても同様に実現されてもよい。
【0069】
メモリ1002は、コンピュータ読み取り可能な記録媒体であり、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)、RAM(Random Access Memory)、その他の適切な記憶媒体の少なくとも1つによって構成されてもよい。メモリ1002は、レジスタ、キャッシュ、メインメモリ(主記憶装置)などと呼ばれてもよい。メモリ1002は、一実施形態に係る方法を実施するために実行可能なプログラム(プログラムコード)、ソフトウェアモジュールなどを保存することができる。
【0070】
ストレージ1003は、コンピュータ読み取り可能な記録媒体であり、例えば、フレキシブルディスク、フロッピー(登録商標)ディスク、光磁気ディスク(例えば、コンパクトディスク(CD-ROM(Compact Disc ROM)など)、デジタル多用途ディスク、Blu-ray(登録商標)ディスク)、リムーバブルディスク、ハードディスクドライブ、スマートカード、フラッシュメモリデバイス(例えば、カード、スティック、キードライブ)、磁気ストライプ、データベース、サーバ、その他の適切な記憶媒体の少なくとも1つによって構成されてもよい。ストレージ1003は、補助記憶装置と呼ばれてもよい。なお、上述の記憶部120は、メモリ1002及び/又はストレージ1003によって実現されてもよい。
【0071】
通信装置1004は、有線ネットワーク及び無線ネットワークの少なくとも一方を介してコンピュータ間の通信を行うためのハードウェア(送受信デバイス)であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。通信装置1004は、SIMカードを含んでもよい。なお、上述の通信部130は、通信装置1004によって実現されてもよい。
【0072】
入力装置1005は、外部からの入力を受け付ける入力デバイス(例えば、キーボード、マウスなど)である。出力装置1006は、外部への出力を実施する出力デバイス(例えば、ディスプレイ、スピーカーなど)である。なお、入力装置1005及び出力装置1006は、一体となった構成(例えば、タッチパネル)であってもよい。なお、上述の入力部140及び出力部150は、それぞれ入力装置1005及び出力装置1006によって実現されてもよい。
【0073】
また、プロセッサ1001、メモリ1002などの各装置は、情報を通信するためのバス1008によって接続される。バス1007は、単一のバスによって構成されてもよいし、装置間で異なるバスで構成されてもよい。
【0074】
また、ユーザ端末10及び画像処理装置20は、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ1001は、これらのハードウェアの少なくとも1つで実装されてもよい。
【0075】
(変形例)
なお、本開示において説明した用語及び/又は本開示の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。
【0076】
本開示において説明した情報、パラメータなどは、絶対値を用いて表されてもよいし、所定の値からの相対値を用いて表されてもよいし、対応する別の情報を用いて表されてもよい。また、本開示においてパラメータなどに使用する名称は、いかなる点においても限定的なものではない。
【0077】
本開示において説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
【0078】
情報、信号などは、複数のネットワークノードを介して入出力されてもよい。入出力された情報、信号などは、特定の場所(例えば、メモリ)に保存されてもよいし、テーブルを用いて管理してもよい。入出力される情報、信号などは、上書き、更新又は追記をされ得る。出力された情報、信号などは、削除されてもよい。入力された情報、信号などは、他の装置へ送信されてもよい。
【0079】
また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的な通知に限られず、暗示的に(例えば、当該所定の情報の通知を行わないことによって又は別の情報の通知によって)行われてもよい。
【0080】
ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。
【0081】
また、ソフトウェア、命令、情報などは、伝送媒体及び信号波形の少なくとも1つを介して送受信されてもよい。例えば、ソフトウェアが、有線技術(同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線(DSL:Digital Subscriber Line)など)及び無線技術(赤外線、マイクロ波など)の少なくとも一方を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び無線技術の少なくとも一方は、伝送媒体の定義内に含まれる。
【0082】
本開示において使用する「システム」及び「ネットワーク」という用語は、互換的に使用され得る。
【0083】
本開示において説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、本開示において説明した各態様/実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本開示において説明した方法については、例示的な順序を用いて様々なステップの要素を提示しており、提示した特定の順序に限定されない。
【0084】
本開示において使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。
【0085】
本開示において使用する「第1の」、「第2の」などの呼称を使用した要素へのいかなる参照も、それらの要素の量又は順序を全般的に限定しない。これらの呼称は、2つ以上の要素間を区別する便利な方法として本開示において使用され得る。したがって、第1及び第2の要素の参照は、2つの要素のみが採用され得ること又は何らかの形で第1の要素が第2の要素に先行しなければならないことを意味しない。
【0086】
本開示において、「含む(include)」、「含んでいる(including)」及びこれらの変形が使用されている場合、これらの用語は、用語「備える(comprising)」と同様に、包括的であることが意図される。さらに、本開示において使用されている用語「又は(or)」は、排他的論理和ではないことが意図される。
【0087】
本開示において、例えば、英語でのa, an及びtheのように、翻訳によって冠詞が追加された場合、本開示は、これらの冠詞の後に続く名詞が複数形であることを含んでもよい。
【0088】
以上、本開示に係る発明について詳細に説明したが、当業者にとっては、本開示に係る発明が本開示中に説明した実施形態に限定されないということは明らかである。本開示に係る発明は、特許請求の範囲の記載に基づいて定まる発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本開示の記載は、例示説明を目的とし、本開示に係る発明に対して何ら制限的な意味をもたらさない。
【符号の説明】
【0089】
1 システム
10 ユーザ端末
11 撮像部(画像取得部)
12 画像送信部
13 飲料缶画像解析アプリケーション部
20 飲料缶を含む画像の処理装置(画像処理装置)
21 画像入力部(画像取得部)
22 第1の判定部(判定部)
23 第2の判定部(判定部)
24 第3の判定部(判定部)
25 角度算出部
26 角度出力部
27 比較部
28 通知部
29 特典付与部
30 ネットワーク
【手続補正書】
【提出日】2022-12-23
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
平面視円形の上面と、
平面視円形の下面と、
平面視環状で前記上面と前記下面を繋ぐ筒状の側面と、
前記上面の中心点を挟んだ一方に設けられた飲み口と、
前記上面の中心点を挟んだ他方に設けられた、前記飲み口を開放するためのプルタブと、
前記側面に設けられた、飲料缶のメーカーと商品名を含む表示部と、
を有する飲料缶を含む画像の処理装置であって、
ユーザ端末の撮像部により撮像されて前記ユーザ端末の画像送信部により送信された、前記飲料缶を含む画像を取得する画像取得部と、
前記飲料缶の上面の前記飲み口のうち前記飲料缶の上面の前記中心点から最も離れた先端点と、前記飲料缶の上面の前記中心点とを結んだ第1の直線、及び、前記飲料缶の側面の前記表示部の一点を含んで前記飲料缶の上面に向かって垂直に延びる直線が前記飲料缶の上面と交わる点と、前記飲料缶の上面の前記中心点とを結んだ第2の直線を規定したとき、前記第1、第2の直線がなす角度を算出する角度算出部と、
を有することを特徴とする飲料缶を含む画像の処理装置。
【請求項2】
平面視円形の上面と、
平面視円形の下面と、
平面視環状で前記上面と前記下面を繋ぐ筒状の側面と、
前記上面の中心点を挟んだ一方に設けられた飲み口と、
前記上面の中心点を挟んだ他方に設けられた、前記飲み口を開放するためのプルタブと、
前記側面に設けられた、飲料缶のメーカーと商品名を含む表示部と、
を有する飲料缶を含む画像の処理方法であって、
ユーザ端末の撮像部により撮像されて前記ユーザ端末の画像送信部により送信された、前記飲料缶を含む画像を取得するステップと、
前記飲料缶の上面の前記飲み口のうち前記飲料缶の上面の前記中心点から最も離れた先端点と、前記飲料缶の上面の前記中心点とを結んだ第1の直線、及び、前記飲料缶の側面の前記表示部の一点を含んで前記飲料缶の上面に向かって垂直に延びる直線が前記飲料缶の上面と交わる点と、前記飲料缶の上面の前記中心点とを結んだ第2の直線を規定したとき、前記第1、第2の直線がなす角度を算出するステップと、
を有することを特徴とする飲料缶を含む画像の処理方法。
【請求項3】
平面視円形の上面と、
平面視円形の下面と、
平面視環状で前記上面と前記下面を繋ぐ筒状の側面と、
前記上面の中心点を挟んだ一方に設けられた飲み口と、
前記上面の中心点を挟んだ他方に設けられた、前記飲み口を開放するためのプルタブと、
前記側面に設けられた、飲料缶のメーカーと商品名を含む表示部と、
を有する飲料缶を含む画像の処理プログラムであって、
ユーザ端末の撮像部により撮像されて前記ユーザ端末の画像送信部により送信された、前記飲料缶を含む画像を取得するステップと、
前記飲料缶の上面の前記飲み口のうち前記飲料缶の上面の前記中心点から最も離れた先端点と、前記飲料缶の上面の前記中心点とを結んだ第1の直線、及び、前記飲料缶の側面の前記表示部の一点を含んで前記飲料缶の上面に向かって垂直に延びる直線が前記飲料缶の上面と交わる点と、前記飲料缶の上面の前記中心点とを結んだ第2の直線を規定したとき、前記第1、第2の直線がなす角度を算出するステップと、
をコンピュータに実行させることを特徴とする飲料缶を含む画像の処理プログラム。
【手続補正2】
【補正対象書類名】明細書
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【発明の詳細な説明】
【技術分野】
【0001】
本開示は、飲料缶を含む画像の処理装置、処理方法及び処理プログラムに関する。
【背景技術】
【0002】
特許文献1には、個体識別情報読取手段と、位置推定手段と、飲酒運転抑制制御手段とを備える飲酒運転防止装置が記載されている。個体識別情報読取手段は、車室内に存在するアルコール飲料の容器から個体識別情報を読み取り可能である。位置推定手段は、個体識別情報読取手段の出力に基づいて車室内におけるアルコール飲料の位置を推定する。飲酒運転抑制制御手段は、位置推定手段により推定されたアルコール飲料の位置に基づいて飲酒運転を抑制するための所定の制御を行う。また、特許文献1には、アルコール飲料の個体識別情報を読み取る装置の具体例としてRFID読取機が例示されている。さらに、特許文献1には、アルコール飲料の個体識別情報を読み取る装置が無線通信によるものに限定されず、例えばバーコード等を撮像し、画像認識によってアルコール飲料の個体識別情報を読み取るものとしてもよいことが記載されている。
【0003】
特許文献2には、利用者情報受付手段と、店舗情報受付手段と、マッチング手段と、仕入情報通知手段とを備える通知制御システムが記載されている。利用者情報受付手段は、利用者からの飲料に関する利用者情報の投稿を受付ける。店舗情報受付手段は、実店舗または仮想店舗における飲料の仕入れに関する店舗情報を受付ける。マッチング手段は、飲料の属性に関して利用者情報と店舗情報のマッチングを行う。仕入情報通知手段は、マッチング手段にてマッチングされた利用者情報および店舗情報に基づいて、仕入れ情報を利用者に通知する。また、特許文献1には、マッチング手段が、利用者情報の画像データの画像認識を行い、飲料の属性を特定すること、その際、公知の画像認識技術(OCR技術や形状判定技術等)を用いて利用者情報の画像データの画像認識を行い、飲料の属性を特定してもよいことが記載されている。
【先行技術文献】
【特許文献】
【0004】
【特許文献1】特開2009-258855号公報
【特許文献2】特開2017-091343号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
しかしながら、特許文献1、2を含む従来技術は、画像に含まれる飲料缶の解析精度の観点において、改良の余地がある。
【0006】
そこで本開示は、画像に含まれる飲料缶の解析精度に優れた飲料缶を含む画像の処理装置、処理方法及び処理プログラムを得ることを目的の1つとする。
【課題を解決するための手段】
【0007】
本開示の一態様に係る飲料缶を含む画像の処理装置は、平面視円形の上面と、平面視円形の下面と、平面視環状で前記上面と前記下面を繋ぐ筒状の側面と、前記上面の中心点を挟んだ一方に設けられた飲み口と、前記上面の中心点を挟んだ他方に設けられた、前記飲み口を開放するためのプルタブと、前記側面に設けられた、飲料缶のメーカーと商品名を含む表示部と、を有する飲料缶を含む画像の処理装置であって、ユーザ端末の撮像部により撮像されて前記ユーザ端末の画像送信部により送信された、前記飲料缶を含む画像を取得する画像取得部と、前記飲料缶の上面の前記飲み口のうち前記飲料缶の上面の前記中心点から最も離れた先端点と、前記飲料缶の上面の前記中心点とを結んだ第1の直線、及び、前記飲料缶の側面の前記表示部の一点を含んで前記飲料缶の上面に向かって垂直に延びる直線が前記飲料缶の上面と交わる点と、前記飲料缶の上面の前記中心点とを結んだ第2の直線を規定したとき、前記第1、第2の直線がなす角度を算出する角度算出部と、を有することを特徴とする。
【発明の効果】
【0008】
本開示の一態様によれば、画像に含まれる飲料缶の解析精度に優れた飲料缶を含む画像の処理装置、処理方法及び処理プログラムを得ることができる。
【図面の簡単な説明】
【0009】
【
図1】飲料缶を含む画像の処理装置を含むシステムの構成の一例を示す図である。
【
図4】飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。
【
図6】飲料缶の外郭特徴部に基づいて設定した第1、第2の直線とその角度の一例を示す図である。
【
図7】飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。
【
図8】飲料缶を含む画像の処理方法の流れの一例を示す図である。
【
図9】ユーザ端末及び飲料缶を含む画像の処理装置の機能構成の一例を示す図である。
【
図10】ユーザ端末及び飲料缶を含む画像の処理装置のハードウェア構成の一例を示す図である。
【発明を実施するための形態】
【0010】
以下、本開示の実施形態について添付図面を参照して詳細に説明する。
【0011】
図1は、飲料缶を含む画像の処理装置20を含むシステム1の構成の一例を示す図である。「飲料缶を含む画像の処理装置」は、「飲料缶を含む画像の処理システム」と読み替えられてもよい(両者を同義としてもよい)
。また、飲料缶を含む画像の処理方法及び処理プログラムは、システム1(ユーザ端末10、飲料缶を含む画像の処理装置20)に含まれるコンピュータ(CPU:Central Processing Unit)に各種の処理ステップを実行させることによって実現される。
【0012】
図1に示すように、システム1は、ユーザ端末10と、飲料缶を含む画像の処理装置(以下では「画像処理装置」と呼ぶ)20と、ユーザ端末10と画像処理装置20を接続するネットワーク30とを有している。
図1では、ユーザ端末10と画像処理装置20を単一構成として簡略化して描いているが、これは作図の便宜上の理由によるものである。実際には、ハードウェア構成としても、ソフトウェア構成としても、ユーザ端末10と画像処理装置20は、
図1に描いたよりも複雑な構成を有している。例えば、画像処理装置20は、複数のサーバやデータベース等を含んで構成されていてもよい。
【0013】
システム1は、ユーザ端末10と画像処理装置20を含んだ構成として捉えてもよいし、ユーザ端末10を含まず画像処理装置20だけを含んだ構成として捉えてもよい。つまり、システム1において、ユーザ端末10は必須の構成要件ではない(後述する飲料缶を含む画像が画像処理装置20に入力されればよい)。
【0014】
ユーザ端末10は、例えば、携帯電話、スマートフォン、タブレット型端末などの携帯端末(移動通信端末)である。つまり、本明細書におけるユーザ端末10は、画像処理装置20との間で各種の通信を行うことができる通信デバイスである。ユーザ端末10は、例えば、有線及び/又は無線(例えば、Long Term Evolution(LTE)、5th Generation New Radio(5G NR)、Wi-Fi(登録商標)など)を介して、ネットワーク(インターネットなど)と通信してもよい。ユーザ端末10は、ユーザの操作により、ブラウザ及びその他の各種のアプリケーション(とりわけ後述する飲料缶画像解析アプリケーションサービス)を実行する。
【0015】
画像処理装置20は、ユーザ端末10との間で各種の通信を行うことができる通信デバイスであればよく、デバイス、回路などで読み替えられてもよい。とりわけ、画像処理装置20は、ユーザ端末10により取得(撮影)された飲料缶を含む画像を解析して、その解析結果に基づく種々のアプリケーションサービス(飲料缶画像解析アプリケーションサービス)を提供するべく、ユーザ端末10との間で各種の通信を行う。
【0016】
図2は、ユーザ端末10の構成の一例を示す図である。ユーザ端末10は、撮像部(画像取得部)11と、画像送信部12と、飲料缶画像解析アプリケーション部13とを有している。なお、ユーザ端末10は、
図2に描いた構成要素の他にも、一般的なユーザ端末が搭載している構成要素、例えば、ディスプレイ、スピーカー、マイクロフォン等を有している。
【0017】
撮像部11は、ユーザ端末10に搭載されたカメラシステムであり、飲料缶を含む画像を撮像(取得)する。画像送信部12は、撮像部11が撮像した飲料缶を含む画像を画像処理装置20に送信する。飲料缶画像解析アプリケーション部13は、画像送信部12から画像処理装置20に送信した飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスを利用するための各種の処理を実行する。
【0018】
例えば、撮像部11のカメラが起動されると、撮像素子(CCD:Charge Coupled Device)の受像画像の飲料缶が所定銘柄であるか否かを判定して写真が撮影されてもよい。判定処理においては、例えば、撮像素子の受像画像に飲料缶の所定銘柄のロゴや飲料缶の上面が含まれているかどうか、飲料缶の外郭形状・意匠を解析して利用してもよい。その際、撮像素子で受像した飲料缶が所定銘柄である確率(信頼性スコア)を算出して、当該確率が所定値以上(例えば50%以上)である場合に撮影を実行してもよい。ここで、撮影の実行有無を決定する上記の所定値には自由度があり、種々の設計変更が可能である。もちろん、撮像素子で受像した飲料缶が所定銘柄であるか否かを1/0フラグで検出してもよい。
【0019】
図3は、飲料缶を含む画像の一例を示す図である。飲料缶は、例えば、アルコール飲料、ミネラルウォーター、炭酸水、清涼飲料水、コーンポタージュなどの任意の飲料を収容する容器である。飲料缶は、平面視円形の上面、平面視円形の下面、平面視環状で上面と下面を繋ぐ筒状の側面とを有している。飲料缶の上面には、中心部を挟んだ一方と他方に、飲み口と、飲み口を開放するためのプルタブが設けられている(
図3では飲料缶の上面の中心部より左側に飲み口が設けられて中心部より右側にプルタブが設けられている)。飲料缶の側面には、当該飲料缶のメーカーと商品名(銘柄)が表示部として描かれている。
図3では、飲料缶のメーカーとしてXYZが描かれており、飲料缶の商品名としてABCDEが描かれている。
図3では、作図の便宜上の理由により、飲料缶の側面の表示部(メーカーと商品名)を通常のフォントで描いているが、実際には、飲料缶の側面の表示部(メーカーと商品名)は、飲料缶の側面の丸みに応じて歪んで撮影される。
【0020】
図4A~
図4Cは、飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。飲料缶画像解析アプリケーションサービスは、飲料缶をカメラで捉えるという体験に基づいてブランドのファンを作りながら特典(お得な体験)を提供するものである。飲料缶画像解析アプリケーションサービスの提供を受けるためには、ユーザ端末10を介して、利用規約及びプライバシーポリシーをユーザが確認・同意した上で、参加の意思表示を示すことが必要である。また、飲料缶画像解析アプリケーションサービスには、キャンペーン名、応募期間、対象商品(飲料缶の種類やサイズ等)、景品、当選数、必要ポイント等が設定される。
【0021】
図4Aでは、ユーザ端末10の撮像部11によって、ユーザが飲んでいる飲料缶を撮影(スキャン)して、その撮影画像を画像処理装置20に送信する。ここで
図4Aの飲料缶画像の撮影・送信は、時間的・回数的な制限(例えば一日に一回)が設定されてもよい。
【0022】
図4Bでは、
図4Aの飲料缶画像の撮影・送信が所定回数に到達することで、オリジナルグッズ(景品)に自動応募される。
図4Bの例では、
図4Aの飲料缶画像の撮影・送信を1ポイントに換算して、5ポイント貯まる毎に、オリジナルグッズ(景品)に自動応募される。ここで、5ポイント毎の自動応募は、時間的・回数的な制限(例えばキャンペーン期間中に最大10回)が設定されてもよい。
【0023】
図4Cでは、5ポイント毎の自動応募に当選すると、ユーザに対してオリジナルグッズが当たる(提供される)。
図4Cでは、オリジナルグッズとして、飲料缶のメーカー(XYZ)と商品名(ABCDE)が描かれた携帯端末のケース(オリジナルスマホケース)を例示している。
【0024】
上述した飲料缶画像解析アプリケーションサービスは、飲料缶の販売促進を図るためのものであるため、その性質上、画像処理装置20に送信される飲料缶画像に係る飲料缶が同一のものではないことを想定している(前提としている)。すなわち、オリジナルグッズの自動応募に必要な所定ポイント(例えば5ポイント)の各々(1ポイント)は、同一の飲料缶を複数撮影したものやインターネット上から拾ってきたものであってはならず、ユーザが中身を飲んだ飲料缶の本数に応じて飲む度に撮影したものであることを想定している(前提としている)。さらに言えば、ユーザが中身を飲む飲料缶は、例えば、ユーザ自身、ユーザの家族や同居人、ユーザと一緒に飲料缶の中身を飲む友人や同僚などが購入したものであることを想定している(前提としている)。
【0025】
本開示の飲料缶を含む画像の処理装置、処理方法及び処理プログラムは、上記の想定・前提を盤石なものとする観点から、画像に含まれる飲料缶の解析精度に優れており、且つ、画像に含まれる飲料缶が同一のものであるか否か、さらには当該飲料缶の「購買証明」に繋げることができる構成要件を具備している。
【0026】
ここで、スムーズで信頼性の高い購買証明の難しさの要因として、以下が挙げられる。
(1)購買証明は、クレーム対応や不正を考えると間違えられない。
(2)はがきは、流通の手間が大きく広がらず、都度捨てることになるのでたまらない。
(3)レシートは、煩雑で手間が掛かるとともに、正解判定のコストが掛かり、不正の抜け道がある。過去には、販促キャンペーンで組織的なレシート購買証明詐欺(日付改竄、折り込んで違う決済にする、背景色の加工、複数枚を重ねる)が発生した例も存在する。
【0027】
このように、飲料缶のメーカー主導(内製)で、画像に含まれる飲料缶の解析精度に優れており、且つ、画像に含まれる飲料缶が同一のものであるか否か、さらには当該飲料缶の購買証明に繋げることができる仕組みが待たれている。そして本発明者は、かかる着眼に基づいて、このような仕組みを持つ飲料缶を含む画像の処理装置、処理方法及び処理プログラムを実現するに至った。この仕組みは、キャンペーンの購買証明を性悪説から性善説に発想転換し、明らかなる不正や詐欺さえ検知できれば多少ポイントを過剰に付与することを厭わない柔軟性を内包しており、あえて厳密に購買判定しなくてもよいという、いわゆる「疑似購買証明」の可能性に基づくものである。
【0028】
図5は、画像処理装置20の構成の一例を示す図である。画像処理装置20は、画像入力部(画像取得部)21と、第1の判定部22と、第2の判定部23と、第3の判定部24と、角度算出部25と、角度出力部26と、比較部27と、通知部28と、特典付与部29とを有している。
【0029】
画像入力部(画像取得部)21は、ユーザ端末10の撮像部11で撮像されて画像送信部12から送信されてきた飲料缶を含む画像が入力する(を取得する)。画像入力部(画像取得部)21は、同一のユーザ端末10からの複数の画像が入力する(を取得する)。
【0030】
第1の判定部22は、画像入力部21に入力した画像を解析して、当該画像に含まれる飲料缶が所定銘柄であるか否かを判定する。この判定は、ユーザ端末10の撮像部11で飲料缶を撮影するか否かを判定するときの処理と同じであってもよい。第1の判定部22は、画像入力部21に入力した画像に含まれる飲料缶が所定銘柄である確率(信頼性スコア)を算出してもよい。
【0031】
第2の判定部23は、画像入力部21に入力した画像を解析して、当該画像に含まれる飲料缶が所定容量であるか否かを判定する。第2の判定部23は、画像入力部21に入力した画像に含まれる飲料缶が500ml缶か、350ml缶か、それ以外の容量であるかを判定してもよい。第2の判定部23は、画像入力部21に入力した画像に含まれる飲料缶が500ml缶か、350ml缶か、それ以外の容量である確率(信頼性スコア)を算出してもよい。
【0032】
第3の判定部24は、画像入力部21に入力した画像を解析して、当該画像がオリジナル性を欠いた既存画像であるか否を判定する。第3の判定部24は、画像入力部21に入力した画像がインターネット上から拾ってきた画像(つまりユーザ端末10によりユーザが自分で撮影したものでない可能性が高い画像)を検出する。第3の判定部24は、画像入力部21に入力した画像がオリジナル性を欠いた既存画像である確率(信頼性スコア)を算出してもよい。
【0033】
角度算出部25は、画像入力部21に入力した画像を解析して、飲料缶の外郭特徴部に基づいて設定した第1、第2の直線がなす角度を算出する。
【0034】
図6は、飲料缶の外郭特徴部に基づいて設定した第1、第2の直線とその角度の一例を示す図である。
図6において、飲料缶の側面の表示部の一点、ここでは商品名ABCDEの真ん中のCの中心を点(1)で描いている。また、点(1)を含んで飲料缶の高さ方向に延びる直線が飲料缶の上面と交わる点を(2)で描いている。また、飲料缶の上面の中心部を点(3)で描いている。さらに、飲料缶の上面の飲み口の先端部を点(4)で描いている。そして、飲料缶の上面の飲み口の先端部と飲料缶の上面の中心部を結んだ第1の直線(点(3)と点(4)を結んだ直線)と、飲料缶の側面の表示部の一点を含んで飲料缶の高さ方向に延びる直線が飲料缶の上面と交わる点と、飲料缶の上面の中心部とを結んだ第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを算出している
。
【0035】
角度算出部25による角度算出は、セグメンテーションと、キーポイント抽出と、幾何学的な処理による角度算出との3つの処理によって実行される。
【0036】
セグメンテーションは、画像に対してピクセル毎に何か写っているかを推定するモデルであり、一般的な物体検知で使われるモデルアーキテクチャを使って、独自に教師データを作成して追加の学習を行ってもよい。セグメンテーションでは、対象画像のうち、飲料缶の上面の領域がどこかをピクセル単位で判定する。
【0037】
キーポイント抽出は、画像に対して物体の特徴となる点の座標を検出するモデルであり、画像中の飲料缶に対して新規にキーポイントを設定して、モデルに基づく学習が可能である。キーポイント抽出では、対象画像のうち、第1、第2の直線を規定(特定)するための点(1)~(4)の座標を検出する。
【0038】
幾何学的な処理による角度算出では、セグメンテーションとキーポイント抽出によって検出されたデータに基づいて、第1の直線(点(3)と点(4)を結んだ直線)と、第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを算出する(
図6を参照)。
【0039】
角度算出部25は、画像入力部21に同一のユーザ端末10からの複数の画像が入力した場合、当該複数の画像について、第1の直線(点(3)と点(4)を結んだ直線)と、第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを算出する。
【0040】
角度出力部26は、角度算出部25が算出した、飲料缶の第1の直線(点(3)と点(4)を結んだ直線)と第2の直線(点(2)と点(3)を結んだ直線)とがなす角度θを出力する。角度出力部26は、画像入力部21に同一のユーザ端末10からの複数の画像が入力し、角度算出部25が当該複数の画像について第1、第2の直線がなす角度θを算出した場合、当該複数の画像について第1、第2の直線がなす角度θを出力する。
【0041】
比較部27は、同一のユーザ端末10からの複数の画像について、第1、第2の直線がなす角度θが所定範囲にあるかどうかを比較する。
【0042】
飲料缶の製造時に、飲料缶の上面の飲み口と、飲料缶の側面の表示部(メーカーや商品名)との位置関係を一律に同じように作り込むことは行われておらず、両者の位置関係は、いわば、個々の飲料缶のオリジナル度合いと捉えることができる。すなわち、厳密に見れば、個々の飲料缶について、第1、第2の直線がなす角度θは異なるケースが殆どであり、当該角度θに基づいて、複数の画像に同一の飲料缶が含まれる可能性を判定することができる。例えば、複数の画像に含まれる飲料缶について、第1、第2の直線がなす角度θが大きく異なっていれば、複数の画像に含まれる飲料缶が異なる可能性が高くなり、第1、第2の直線がなす角度θが同一又は殆ど同一であれば、複数の画像に含まれる飲料缶が同一である可能性が高くなる。
【0043】
比較部27は、例えば、複数の画像の任意の1枚の基準画像において第1、第2の直線がなす角度θを基準角度θstandardに設定し、複数の画像のその他の参照画像において第1、第2の直線がなす角度θを参照角度θreferenceに設定する。そして、基準角度θstandardと参照角度θreferenceが所定範囲内にあるかどうかを比較する。例えば、0.95×参照角度θreference≦基準角度θstandard≦1.05×参照角度θreferenceを満足する場合に、基準画像と参照画像に含まれる飲料缶が同一のものであると判定し、当該条件式を満足しない場合に、基準画像と参照画像に含まれる飲料缶が異なるものであると判定することができる。比較部27は、複数の画像(基準画像と参照画像)に含まれる飲料缶が同一のものであるか否かを示す確率(信頼性スコア)を算出してもよい。
【0044】
通知部28は、同一のユーザ端末10からの複数の画像について、第1、第2の直線がなす角度θが所定範囲にあるとき、すなわち、当該複数の画像に含まれる飲料缶が同一のものである可能性が高いときに、ユーザ端末10にその旨を通知する。ユーザ端末10への通知方法は、例えば、ディスプレイへの表示、及び/又は、スピーカーからの音声を採用することができる。その際、通知部28は、当該複数の画像については、後述する特典付与部29による特典付与の対象外とすることを通知してもよい。
【0045】
特典付与部29は、同一のユーザ端末10からの複数の画像について、第1、第2の直線がなす角度θが所定範囲にないとき、当該複数の画像に含まれる飲料缶が異なるものであると判定して、ユーザ端末10に複数の画像の枚数に応じた特典を付与する。例えば、飲料缶が写り込んだ画像1枚を1ポイントに換算して、画像5枚に対応する5ポイントに到達したときに自動応募を行い、抽選に当選した場合にオリジナルグッズが当たるようにしてもよい(
図4B、
図4Cを参照)。
【0046】
図7は、飲料缶を含む画像に基づく飲料缶画像解析アプリケーションサービスの概念の一例を示す図である。
図7に示すように、ユーザ端末10のアプリケーションから画像処理装置20のAI(Artificial Intelligence)に飲料缶を含む画像が送信される。画像処理装置20のAIは、アップロードされた画像に対して飲料缶の情報を付与する。より具体的に、飲料缶の飲み口の角度(例えば第1、第2の直線がなす角度θ)、インターネット上の画像との類似度、同じユーザが直近にアップロードした飲料缶の飲み口の角度(例えば第1、第2の直線がなす角度θ)、商品情報(例えば飲料缶が350mlと500mlのいずれであるか)等の情報が得られる。画像処理装置20のAIが判定した結果は数値でキャンペーンシステムに渡され、ポイント付与、特典付与のレギュレーションは、キャンペーンシステムの側で行うことができるように構成されている。
【0047】
図8は、飲料缶を含む画像の処理方法の流れの一例を示す図である。
【0048】
ステップST1では、ユーザ端末10の撮像部11としてのカメラを起動する。ステップST2では、ユーザ端末10の撮像部11により飲料缶を含む画像を撮影(取得)する。
【0049】
ステップST3では、画像処理装置20の第2の判定部23が、飲料缶が所定容量であることを判定する。この判定は、例えば、飲料缶の全体形状で500mlと350mlの区別を行ってもよいし、飲料缶に付されたプロダクトID(JANコード)を用いてもよい。ステップST4では、画像処理装置20の第3の判定部24が、飲料缶を含む画像がオリジナル性を欠いた既存画像(インターネット上から拾ってきた画像)でないことを確認する。
【0050】
ステップST5では、画像処理装置20の角度算出部25が、撮影画像に含まれる飲料缶について、第1、第2の直線がなす角度を算出する。ステップST6では、画像処理装置20の比較部27が、データベースと照合して、同じIDのユーザ(同一のユーザ)が直近に登録した画像に含まれる飲料缶の第1、第2の直線がなす角度と、ステップST5で算出した第1、第2の直線がなす角度とを比較してその一致度を判定する。ステップST7では、ステップST6で角度の比較・判定を行った複数の画像に含まれる飲料缶が、同一の飲料缶であるか、異なる飲料缶であるかの最終判定を行う。
【0051】
このように、本開示に係る飲料缶を含む画像の処理装置20では、角度算出部が、飲料缶の上面の飲み口のうち飲料缶の上面の中心点から最も離れた先端点と、飲料缶の上面の中心点とを結んだ第1の直線、及び、飲料缶の側面の表示部の一点を含んで飲料缶の上面に向かって垂直に延びる直線が飲料缶の上面と交わる点と、飲料缶の上面の中心点とを結んだ第2の直線を規定したとき、第1、第2の直線がなす角度を算出する。これにより、画像に含まれる飲料缶の解析精度に優れており、且つ、画像に含まれる飲料缶が同一のものであるか否か、さらには当該飲料缶の購買証明に繋げることができる。
【0052】
また、本開示に係る飲料缶を含む画像の処理装置では、画像に含まれるのが特定の飲料缶か否か、同一の飲料缶であるか否かを確率として保有することで、正誤判定の柔軟性を確保している。また、判定周辺のメタデータを詳細にフィードバックすることで、キャンペーンの設計側での柔軟な変更が可能になる。また、例えば、HTML言語で稼働するjavascript(登録商標)で実現させることができるので、実装が容易である。
【0053】
図9は、一実施形態に係るユーザ端末10及び画像処理装置20の機能構成の一例を示す図である。
図9に示すように、ユーザ端末10及び画像処理装置20は、制御部110と、記憶部120と、通信部130と、入力部140と、出力部150と、を有する。なお、
図9では、ユーザ端末10及び画像処理装置20の機能ブロックの一例を示しており、
図9に描いていない他の機能ブロックを有していてもよい。また、一部の機能ブロックを含まない構成としてもよい。
【0054】
制御部110は、ユーザ端末10及び画像処理装置20の制御を実施する。制御部110は、本発明に係る技術分野での共通認識に基づいて説明されるコントローラ、制御回路又は制御装置により構成することができる。
【0055】
記憶部120は、ユーザ端末10及び画像処理装置20で利用する情報を記憶する。記憶部120は、例えば、本発明に係る技術分野での共通認識に基づいて説明されるメモリ、ストレージ、記憶装置などにより構成することができる。
【0056】
通信部130は、ユーザ端末10及び画像処理装置20の通信(例えば両者の相互通信)を行う。通信部130は、本発明に係る技術分野での共通認識に基づいて説明されるトランスミッター/レシーバー、送受信回路又は送受信装置により構成することができる。なお、通信部130は、送信部及び受信部から構成されてもよい。
【0057】
入力部140は、ユーザ端末10及び画像処理装置20における入力を受け付ける。また、入力部140は、所定の機器、記憶媒体などと接続され、データの入力を受け付けてもよい。入力部140は、入力結果を例えば制御部110に出力してもよい。入力部140は、本発明に係る技術分野での共通認識に基づいて説明されるキーボード、マウス、ボタンなどの入力装置、入出力端子、入出力回路などにより構成することができる。また、入力部140は、表示部と一体となった構成(例えば、タッチパネル)としてもよい。
【0058】
出力部150は、ユーザ端末10及び画像処理装置20における出力を行う。例えば、出力部150は、画像を表示する表示部、音声を出力する音声出力部などを含んで構成されてもよい。表示部は、例えば、本発明に係る技術分野での共通認識に基づいて説明されるディスプレイ、モニタなどの表示装置により構成することができる。また、音声出力部は、本発明に係る技術分野での共通認識に基づいて説明されるスピーカーなどの出力装置により構成することができる。
【0059】
なお、上記実施形態の説明に用いたブロック図は、機能単位のブロックを示している。これらの機能ブロック(構成部)は、ハードウェア及び/又はソフトウェアの任意の組み合わせによって実現される。また、各機能ブロックの実現手段は特に限定されない。すなわち、各機能ブロックは、物理的に結合した1つの装置により実現されてもよいし、物理的に分離した2つ以上の装置を有線又は無線によって接続し、これら複数の装置により実現されてもよい。
【0060】
例えば、本開示の一実施形態におけるユーザ端末10及び画像処理装置20は、本開示の飲料缶を含む画像の処理方法及び処理プログラムの処理を行うコンピュータとして機能してもよい。
図10は、一実施形態に係るユーザ端末10及び画像処理装置20のハードウェア構成の一例を示す図である。上述のユーザ端末10及び画像処理装置20は、物理的には、プロセッサ1001、メモリ1002、ストレージ1003、通信装置1004、入力装置1005、出力装置1006、バス1007などを含むコンピュータ装置として構成されてもよい。
【0061】
なお、本開示において、装置、回路、デバイス、ユニット、サーバなどは、互いに読み替えることができる。ユーザ端末10及び画像処理装置20のハードウェア構成は、図に示した各装置を1つ又は複数含むように構成されてもよいし、一部の装置を含まずに構成されてもよい。
【0062】
例えば、プロセッサ1001は1つだけ図示されているが、複数のプロセッサがあってもよい。また、処理は、1のプロセッサによって実行されてもよいし、処理が同時に、逐次に、又はその他の手法を用いて、2以上のプロセッサによって実行されてもよい。なお、プロセッサ1001は、1以上のチップによって実装されてもよい。
【0063】
ユーザ端末10及び画像処理装置20における各機能は、プロセッサ1001、メモリ1002などのハードウェア上に所定のソフトウェア(プログラム)を読み込ませることによって、プロセッサ1001が演算を行い、通信装置1004による通信、メモリ1002及びストレージ1003におけるデータの読み出し及び/又は書き込みなどを制御することによって実現される。
【0064】
プロセッサ1001は、例えば、オペレーティングシステムを動作させてコンピュータ全体を制御する。プロセッサ1001は、周辺装置とのインターフェース、制御装置、演算装置、レジスタなどを含む中央処理装置(CPU:Central Processing Unit)によって構成されてもよい。なお、上述の制御部110などの各部は、プロセッサ1001によって実現されてもよい。
【0065】
また、プロセッサ1001は、プログラム(プログラムコード)、ソフトウェアモジュール、データなどを、ストレージ1003及び通信装置1004の少なくとも一方からメモリ1002に読み出し、これらに従って各種の処理を実行する。プログラムとしては、上述の実施形態において説明した動作の少なくとも一部をコンピュータに実行させるプログラムが用いられる。例えば、制御部110は、メモリ1002に格納され、プロセッサ1001において動作する制御プログラムによって実現されてもよく、他の機能ブロックについても同様に実現されてもよい。
【0066】
メモリ1002は、コンピュータ読み取り可能な記録媒体であり、例えば、ROM(Read Only Memory)、EPROM(Erasable Programmable ROM)、EEPROM(Electrically EPROM)(登録商標)、RAM(Random Access Memory)、その他の適切な記憶媒体の少なくとも1つによって構成されてもよい。メモリ1002は、レジスタ、キャッシュ、メインメモリ(主記憶装置)などと呼ばれてもよい。メモリ1002は、一実施形態に係る方法を実施するために実行可能なプログラム(プログラムコード)、ソフトウェアモジュールなどを保存することができる。
【0067】
ストレージ1003は、コンピュータ読み取り可能な記録媒体であり、例えば、フレキシブルディスク、フロッピー(登録商標)ディスク、光磁気ディスク(例えば、コンパクトディスク(CD-ROM(Compact Disc ROM)など)、デジタル多用途ディスク、Blu-ray(登録商標)ディスク)、リムーバブルディスク、ハードディスクドライブ、スマートカード、フラッシュメモリデバイス(例えば、カード、スティック、キードライブ)、磁気ストライプ、データベース、サーバ、その他の適切な記憶媒体の少なくとも1つによって構成されてもよい。ストレージ1003は、補助記憶装置と呼ばれてもよい。なお、上述の記憶部120は、メモリ1002及び/又はストレージ1003によって実現されてもよい。
【0068】
通信装置1004は、有線ネットワーク及び無線ネットワークの少なくとも一方を介してコンピュータ間の通信を行うためのハードウェア(送受信デバイス)であり、例えばネットワークデバイス、ネットワークコントローラ、ネットワークカード、通信モジュールなどともいう。通信装置1004は、SIMカードを含んでもよい。なお、上述の通信部130は、通信装置1004によって実現されてもよい。
【0069】
入力装置1005は、外部からの入力を受け付ける入力デバイス(例えば、キーボード、マウスなど)である。出力装置1006は、外部への出力を実施する出力デバイス(例えば、ディスプレイ、スピーカーなど)である。なお、入力装置1005及び出力装置1006は、一体となった構成(例えば、タッチパネル)であってもよい。なお、上述の入力部140及び出力部150は、それぞれ入力装置1005及び出力装置1006によって実現されてもよい。
【0070】
また、プロセッサ1001、メモリ1002などの各装置は、情報を通信するためのバス1008によって接続される。バス1007は、単一のバスによって構成されてもよいし、装置間で異なるバスで構成されてもよい。
【0071】
また、ユーザ端末10及び画像処理装置20は、マイクロプロセッサ、デジタル信号プロセッサ(DSP:Digital Signal Processor)、ASIC(Application Specific Integrated Circuit)、PLD(Programmable Logic Device)、FPGA(Field Programmable Gate Array)などのハードウェアを含んで構成されてもよく、当該ハードウェアにより、各機能ブロックの一部又は全てが実現されてもよい。例えば、プロセッサ1001は、これらのハードウェアの少なくとも1つで実装されてもよい。
【0072】
(変形例)
なお、本開示において説明した用語及び/又は本開示の理解に必要な用語については、同一の又は類似する意味を有する用語と置き換えてもよい。
【0073】
本開示において説明した情報、パラメータなどは、絶対値を用いて表されてもよいし、所定の値からの相対値を用いて表されてもよいし、対応する別の情報を用いて表されてもよい。また、本開示においてパラメータなどに使用する名称は、いかなる点においても限定的なものではない。
【0074】
本開示において説明した情報、信号などは、様々な異なる技術のいずれかを使用して表されてもよい。例えば、上記の説明全体に渡って言及され得るデータ、命令、コマンド、情報、信号、ビット、シンボル、チップなどは、電圧、電流、電磁波、磁界若しくは磁性粒子、光場若しくは光子、又はこれらの任意の組み合わせによって表されてもよい。
【0075】
情報、信号などは、複数のネットワークノードを介して入出力されてもよい。入出力された情報、信号などは、特定の場所(例えば、メモリ)に保存されてもよいし、テーブルを用いて管理してもよい。入出力される情報、信号などは、上書き、更新又は追記をされ得る。出力された情報、信号などは、削除されてもよい。入力された情報、信号などは、他の装置へ送信されてもよい。
【0076】
また、所定の情報の通知(例えば、「Xであること」の通知)は、明示的な通知に限られず、暗示的に(例えば、当該所定の情報の通知を行わないことによって又は別の情報の通知によって)行われてもよい。
【0077】
ソフトウェアは、ソフトウェア、ファームウェア、ミドルウェア、マイクロコード、ハードウェア記述言語と呼ばれるか、他の名称で呼ばれるかを問わず、命令、命令セット、コード、コードセグメント、プログラムコード、プログラム、サブプログラム、ソフトウェアモジュール、アプリケーション、ソフトウェアアプリケーション、ソフトウェアパッケージ、ルーチン、サブルーチン、オブジェクト、実行可能ファイル、実行スレッド、手順、機能などを意味するよう広く解釈されるべきである。
【0078】
また、ソフトウェア、命令、情報などは、伝送媒体及び信号波形の少なくとも1つを介して送受信されてもよい。例えば、ソフトウェアが、有線技術(同軸ケーブル、光ファイバケーブル、ツイストペア、デジタル加入者回線(DSL:Digital Subscriber Line)など)及び無線技術(赤外線、マイクロ波など)の少なくとも一方を使用してウェブサイト、サーバ、又は他のリモートソースから送信される場合、これらの有線技術及び無線技術の少なくとも一方は、伝送媒体の定義内に含まれる。
【0079】
本開示において使用する「システム」及び「ネットワーク」という用語は、互換的に使用され得る。
【0080】
本開示において説明した各態様/実施形態は単独で用いてもよいし、組み合わせて用いてもよいし、実行に伴って切り替えて用いてもよい。また、本開示において説明した各態様/実施形態の処理手順、シーケンス、フローチャートなどは、矛盾の無い限り、順序を入れ替えてもよい。例えば、本開示において説明した方法については、例示的な順序を用いて様々なステップの要素を提示しており、提示した特定の順序に限定されない。
【0081】
本開示において使用する「に基づいて」という記載は、別段に明記されていない限り、「のみに基づいて」を意味しない。言い換えれば、「に基づいて」という記載は、「のみに基づいて」と「に少なくとも基づいて」の両方を意味する。
【0082】
本開示において使用する「第1の」、「第2の」などの呼称を使用した要素へのいかなる参照も、それらの要素の量又は順序を全般的に限定しない。これらの呼称は、2つ以上の要素間を区別する便利な方法として本開示において使用され得る。したがって、第1及び第2の要素の参照は、2つの要素のみが採用され得ること又は何らかの形で第1の要素が第2の要素に先行しなければならないことを意味しない。
【0083】
本開示において、「含む(include)」、「含んでいる(including)」及びこれらの変形が使用されている場合、これらの用語は、用語「備える(comprising)」と同様に、包括的であることが意図される。さらに、本開示において使用されている用語「又は(or)」は、排他的論理和ではないことが意図される。
【0084】
本開示において、例えば、英語でのa, an及びtheのように、翻訳によって冠詞が追加された場合、本開示は、これらの冠詞の後に続く名詞が複数形であることを含んでもよい。
【0085】
以上、本開示に係る発明について詳細に説明したが、当業者にとっては、本開示に係る発明が本開示中に説明した実施形態に限定されないということは明らかである。本開示に係る発明は、特許請求の範囲の記載に基づいて定まる発明の趣旨及び範囲を逸脱することなく修正及び変更態様として実施することができる。したがって、本開示の記載は、例示説明を目的とし、本開示に係る発明に対して何ら制限的な意味をもたらさない。
【符号の説明】
【0086】
1 システム
10 ユーザ端末
11 撮像部(画像取得部)
12 画像送信部
13 飲料缶画像解析アプリケーション部
20 飲料缶を含む画像の処理装置(画像処理装置)
21 画像入力部(画像取得部)
22 第1の判定部(判定部)
23 第2の判定部(判定部)
24 第3の判定部(判定部)
25 角度算出部
26 角度出力部
27 比較部
28 通知部
29 特典付与部
30 ネットワーク