IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ カシオ計算機株式会社の特許一覧

<>
  • 特許-輪郭検出装置及び輪郭検出方法 図1
  • 特許-輪郭検出装置及び輪郭検出方法 図2
  • 特許-輪郭検出装置及び輪郭検出方法 図3
  • 特許-輪郭検出装置及び輪郭検出方法 図4
  • 特許-輪郭検出装置及び輪郭検出方法 図5
  • 特許-輪郭検出装置及び輪郭検出方法 図6
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-02-19
(45)【発行日】2024-02-28
(54)【発明の名称】輪郭検出装置及び輪郭検出方法
(51)【国際特許分類】
   G06T 7/60 20170101AFI20240220BHJP
   G06T 7/00 20170101ALI20240220BHJP
【FI】
G06T7/60 300A
G06T7/00 350B
G06T7/00 660Z
【請求項の数】 6
(21)【出願番号】P 2022002673
(22)【出願日】2022-01-12
(62)【分割の表示】P 2017179698の分割
【原出願日】2017-09-20
(65)【公開番号】P2022036212
(43)【公開日】2022-03-04
【審査請求日】2022-01-26
【前置審査】
(73)【特許権者】
【識別番号】000001443
【氏名又は名称】カシオ計算機株式会社
(74)【代理人】
【識別番号】110001254
【氏名又は名称】弁理士法人光陽国際特許事務所
(72)【発明者】
【氏名】手島 義裕
【審査官】伊知地 和之
(56)【参考文献】
【文献】特開2009-211138(JP,A)
【文献】特許第4998637(JP,B1)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/60
G06T 7/00
(57)【特許請求の範囲】
【請求項1】
学習対象の輪郭を含む学習用のサンプル画像から、前記輪郭上に位置する輪郭点と、前記輪郭点とは異なる非輪郭点と、をそれぞれ複数選択する点選択部であって、前記輪郭点から第1の範囲内に位置する前記非輪郭点の数が、前記輪郭点から前記第1の範囲外に位置する前記非輪郭点の数よりも多くなるように、複数の前記非輪郭点を選択し、前記第1の範囲外で選択される前記非輪郭点を、前記第1の範囲よりも大きい第2の範囲内であって、予め設定された第2の範囲内で選択する点選択部と、
前記点選択部により選択された前記輪郭点及び前記非輪郭点についてそれぞれの特徴量を導出する特徴量導出部と、
前記特徴量導出部により導出された前記輪郭点の特徴量及び前記非輪郭点の特徴量を用いた学習により、輪郭らしさを評価する識別器を生成する識別器生成部と、
検出対象の輪郭を含む検出対象画像内の任意の点について、前記識別器を用いて輪郭らしさの評価値を導出する評価値導出部と、
を備えている輪郭検出装置。
【請求項2】
前記識別器生成部は、前記学習対象の輪郭を複数の領域に分割し、当該分割した領域ごとに前記輪郭点の特徴量及び前記非輪郭点の特徴量を用いた学習を行い、当該分割した領域ごとの前記識別器を生成する、請求項1に記載の輪郭検出装置。
【請求項3】
前記点選択部により選択される、前記第1の範囲内に位置する前記非輪郭点の数と、前記第1の範囲外に位置する前記非輪郭点の数と、の割合を設定する割合設定手段を更に備えた、請求項1または2に記載の輪郭検出装置。
【請求項4】
学習対象の輪郭を含む学習用のサンプル画像から選択された、前記輪郭上に位置する複数の輪郭点と、前記複数の輪郭点とは異なる複数の非輪郭点と、のそれぞれから導出された特徴量を用いた学習により生成された、輪郭らしさを評価する識別器を用いて、検出対象の輪郭を含む検出対象画像内の任意の点について輪郭らしさの評価値を導出する評価値導出部を備え、
前記複数の非輪郭点は、前記複数の輪郭点から第1の範囲内に位置する前記非輪郭点の数が前記輪郭点から前記第1の範囲外に位置する前記非輪郭点の数よりも多くなるように、選択され、前記第1の範囲外で選択される前記非輪郭点は、前記第1の範囲よりも大きい第2の範囲内であって、予め設定された第2の範囲内で選択される、
ことを特徴とする輪郭検出装置。
【請求項5】
学習対象の輪郭を含む学習用のサンプル画像から、前記輪郭上に位置する輪郭点と、前記輪郭点とは異なる非輪郭点と、をそれぞれ複数選択する点選択工程であって、前記輪郭点から第1の範囲内に位置する前記非輪郭点の数が、前記輪郭点から前記第1の範囲外に位置する前記非輪郭点の数よりも多くなるように、複数の前記非輪郭点を選択し、前記第1の範囲外で選択される前記非輪郭点を、前記第1の範囲よりも大きい第2の範囲内であって、予め設定された第2の範囲内で選択する点選択工程と、
前記点選択工程において選択された前記輪郭点及び前記非輪郭点についてそれぞれ特徴量を導出する特徴量導出工程と、
前記特徴量導出工程において導出された前記輪郭点の特徴量及び前記非輪郭点の特徴量を用いた学習により、輪郭らしさを評価する識別器を生成する識別器生成工程と、
検出対象の輪郭を含む検出対象画像内の任意の点について、前記識別器を用いて輪郭らしさの評価値を導出する評価値導出工程と、
を含む輪郭検出方法。
【請求項6】
学習対象の輪郭を含む学習用のサンプル画像から選択された、前記輪郭上に位置する複数の輪郭点と、前記複数の輪郭点とは異なる複数の非輪郭点と、のそれぞれから導出された特徴量を用いた学習により生成された、輪郭らしさを評価する識別器を用いて、検出対象の輪郭を含む検出対象画像内の任意の点について輪郭らしさの評価値を導出する評価値導出工程を備え、
前記複数の非輪郭点は、前記複数の輪郭点から第1の範囲内に位置する前記非輪郭点の数が前記輪郭点から前記第1の範囲外に位置する前記非輪郭点の数よりも多くなるように、選択され、前記第1の範囲外で選択される前記非輪郭点は、前記第1の範囲よりも大きい第2の範囲内であって、予め設定された第2の範囲内で選択される、
ことを特徴とする輪郭検出方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、輪郭検出装置及び輪郭検出方法に関するものである。
【背景技術】
【0002】
従来、検出対象を撮影した画像から画像処理によって検出対象の輪郭を検出する手法が知られている。
例えば、特許文献1には、医用画像中の腫瘍領域の輪郭を決定するカメラで人物を撮影した場合に、輪郭検出の技術を用いることで、撮影画像から当該人物の顔の輪郭や、目、鼻、口等の各パーツの輪郭を検出する手法が開示されている。
こうした輪郭検出の技術は、顔や顔のパーツの輪郭を検出する場合に限定されず、爪の輪郭等、各種の輪郭検出を行う場合に用いることができる。
【0003】
輪郭検出の技術としては、複数の学習用サンプルを集めて学習を行い、学習結果としての学習データを生成して、この学習データを用いて輪郭の検出を行う手法がある。
例えば、従来輪郭検出に用いられる手法として、AAM(Active Appearance Model)やASM(Active Shape Model)がある。これらの手法は、顔の輪郭や各パーツの輪郭の特徴点の配置を形状モデル(Shape Model)と呼ばれるモデルで表現する。そして、この形状モデルと検出対象を含む画像にフィッティングさせることで検出対象の輪郭検出を行う。
また、近時、ESR(Explicit Shape Regression)と呼ばれるアルゴリズムにより検出対象の輪郭を検出する技術も知られている。
ESRでは、重心の周囲に特徴点が配置された形状モデル(初期形状)を生成し、これと検出対象の輪郭を含む画像とのフィッティングを行う。この際、ESRでは、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、形状モデル(初期形状)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
このようなアルゴリズムを用いることで、ユーザの手を煩わせることなく自動的に高精度な輪郭検出を行うことができる。
【先行技術文献】
【特許文献】
【0004】
【文献】特開2007-307358号公報
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記のような輪郭検出の技術を用いる場合、複数回輪郭検出処理を行い、そのうち評価(信頼度)の高い検出結果を採用することで、より精度のよい検出結果を用いてその後の各種処理を行うことが可能となる。
しかしながら、輪郭を検出する手法の中には、例えばESR等のように検出した輪郭に対する信頼度を評価する指標を持たないものがある。
この場合、検出結果に対する信頼度が分からないため、仮に複数回の検出処理を行って複数回分の検出結果を取得した場合でも、そのうち評価(信頼度)の高い検出結果を選んで採用するといったことができず、複数回分の検出結果の平均値を採用する等の対応をするしかないとの問題がある。
また、輪郭検出を行う場合に、検出結果に対する信頼度を評価する指標を持つ手法を用いる場合でも、より精密に評価を行い、検出結果の信頼度を検証したいという場合も存する。
【0006】
本発明は以上のような事情に鑑みてなされたものであり、画像から検出対象の輪郭を自動で検出する場合に、検出された輪郭の輪郭らしさを評価することのできる輪郭検出装置及び輪郭検出方法を提供することを利点とするものである。
【課題を解決するための手段】
【0007】
前記課題を解決するために、本発明の輪郭検出装置は、
学習対象の輪郭を含む学習用のサンプル画像から、前記輪郭上に位置する輪郭点と、前記輪郭点とは異なる非輪郭点と、をそれぞれ複数選択する点選択部であって、前記輪郭点から第1の範囲内に位置する前記非輪郭点の数が、前記輪郭点から前記第1の範囲外に位置する前記非輪郭点の数よりも多くなるように、複数の前記非輪郭点を選択し、前記第1の範囲外で選択される前記非輪郭点を、前記第1の範囲よりも大きい第2の範囲内であって、予め設定された第2の範囲内で選択する点選択部と、
前記点選択部により選択された前記輪郭点及び前記非輪郭点についてそれぞれの特徴量を導出する特徴量導出部と、
前記特徴量導出部により導出された前記輪郭点の特徴量及び前記非輪郭点の特徴量を用いた学習により、輪郭らしさを評価する識別器を生成する識別器生成部と、
検出対象の輪郭を含む検出対象画像内の任意の点について、前記識別器を用いて輪郭らしさの評価値を導出する評価値導出部と、
を備えていることを特徴としている。
【発明の効果】
【0008】
本発明によれば、画像から検出対象の輪郭を自動で検出する場合に、検出された輪郭の輪郭らしさを評価することができる。
【図面の簡単な説明】
【0009】
図1】本実施形態における輪郭検出装置の外観構成を示す斜視図である。
図2】本実施形態における輪郭検出装置の機能的構成を示した要部構成図である。
図3】学習用のサンプル画像の一例を示す平面図である。
図4図3における領域IVの拡大図である。
図5】本実施形態における識別器生成処理を示すフローチャートである。
図6】本実施形態における輪郭検出処理を示すフローチャートである。
【発明を実施するための形態】
【0010】
図1から図6を参照しつつ、本発明に係る輪郭検出装置の一実施形態について説明する。
なお、以下の本実施形態では、輪郭の検出を行う対象である検出対象が指の爪である場合を例として説明する。
以下においては、本発明を実施するために技術的に好ましい種々の限定が付されているが、本発明の範囲を以下の実施形態及び図示例に限定するものではない。
【0011】
図1は、本実施形態における輪郭検出装置の外観を示す斜視図である。
図1に示すように、本実施形態における輪郭検出装置1は、ほぼ箱形に形成された筐体11を有している。
筐体11の上面(天板)には操作部12が設置されている。
操作部12は、ユーザが各種入力を行う入力部である。
操作部12には、例えば、輪郭検出装置1の電源をONする電源スイッチ釦、動作を停止させる停止スイッチ釦、爪Tの輪郭検出の開始を指示する検出開始釦等、各種の入力を行うための操作釦が配置されている。
【0012】
また、筐体11の上面(天板)には表示部13が設置されている。
表示部13は、例えば液晶ディスプレイ(LCD:Liquid Crystal Display)、有機エレクトロルミネッセンスディスプレイその他のフラットディスプレイ等で構成されている。
本実施形態において、この表示部13には、例えば、指U1を撮影して得た爪画像(爪Tの画像を含む指画像)、この爪画像中に含まれる爪Tの輪郭線等の画像、各種の指示を表示させる指示画面等が適宜表示される。
なお、表示部13の表面に各種の入力を行うためのタッチパネルが一体的に構成されていてもよい。この場合には、タッチパネルが操作部12として機能する。
【0013】
さらに、筐体11の前面側(図1において手前側)には、輪郭検出装置1による撮影時に検出対象である爪Tに対応する指U1を挿入し、撮影部50による撮影が可能な撮影可能位置にセットするための開口部14が形成されている。
開口部14の内側には、本実施形態における検出対象である爪T(爪Tを含む指U1)を固定する指固定部3が配置されている。
【0014】
図2は、本実施形態の輪郭検出装置の要部構成を機能的に示した説明図である。
図2に示すように、指固定部3は装置手前側に開口部31を有する箱状の部材であり、指固定部3内部には指U1を固定する指固定部材32が配置されている。
指固定部材32は、指U1を下側から押し上げ支持するものであり、例えば柔軟性を有する樹脂等で形成されている。
指固定部3の天面奥側は開口しており、この開口部分からは指固定部3内に挿入された指U1の爪Tが露出するようになっている。
また、指固定部3の天面手前側は指U1の浮き上がりを防止して指U1の上方向の位置を規制する指押え34となっている。指U1及びその爪Tは、下側から指固定部材32によって支持され、指U1の上側が指押え34によって押さえられることで、高さ方向の位置が所定の位置に位置決めされる。
また、本実施形態では、指挿入方向の奥側には、爪Tを載置する爪載置部35が設けられている。
この爪載置部35に爪Tの先を載置させることにより、爪Tの水平方向(すなわち、X方向及びY方向)の位置が規定されるとともに、その高さ方向の位置も規制される。
【0015】
筐体11内であって、指固定部3内に指U1を挿入した際に爪Tが配置される位置の上方には、撮影部50が配置されている。
撮影部50は、撮影装置51と、照明装置52とを備えている。
撮影装置51は、例えば、200万画素程度以上の画素を有する固体撮像素子とレンズ等を備えて構成された小型カメラである。
照明装置52は、例えば白色LED等の照明灯である。本実施形態では、撮影装置51を囲むように複数の照明装置52が配置されている。
なお、撮影装置51及び照明装置52の位置は図示例に限定されない。例えば、撮影部50の撮影装置51及び照明装置52は、爪Tの上方位置に固定配置されていてもよいし、撮影部50が移動手段によって移動可能に構成されている場合には、爪Tの上方位置に移動することが可能となっていればよい。
【0016】
撮影部50は、検出対象である爪Tを撮影して、検出対象(爪T)の輪郭を含む検出対象画像(すなわち、爪Tを含む指U1の画像である爪画像)を取得する撮影手段である。本実施形態では、爪Tを爪載置部35により位置決めした状態で撮影部50による撮影が行われる。
【0017】
この撮影部50は、後述する制御装置80の撮影制御部811に接続され、該撮影制御部811によって制御されるようになっている。
なお、撮影部50によって撮影された画像の画像データは、後述する記憶部82等に記憶されてもよい。
【0018】
また、図2に示すように、本実施形態の輪郭検出装置1は、制御装置80を備えている。
制御装置80は、例えば筐体11の天面の下面側等に配置された図示しない基板等に設置されている。
制御装置80は、図示しないCPU(Central Processing Unit)により構成される制御部81と、ROM(Read Only Memory)及びRAM(Random Access Memory)等(いずれも図示せず)で構成される記憶部82とを備えるコンピュータである。
【0019】
記憶部82には、輪郭検出装置1を動作させるための各種プログラム等が格納されているプログラム記憶領域820が設けられている。
本実施形態において、プログラム記憶領域820には、例えば識別器Cを生成する識別器生成プログラムや輪郭らしさの評価値を算出する評価値算出プログラム、検出対象の輪郭を検出するための輪郭検出プログラム等が格納されている。
また、本実施形態において記憶部82には、評価値算出部817が各点の評価値を算出するために用いる識別器Cを生成するために用いる識別器生成情報記憶領域821、生成された識別器C(本実施形態では、識別器C1~C3)を記憶する識別器記憶領域822、輪郭検出部816により検出された爪Tの輪郭の情報が記憶される輪郭情報記憶領域823等が設けられている。
【0020】
制御部81は、機能的に見た場合、撮影制御部811、識別器生成部813、輪郭検出部816、評価値算出部817等を備えている。これら撮影制御部811、識別器生成部813、輪郭検出部816、評価値算出部817等としての機能は、制御部81のCPUと記憶部82のプログラム記憶領域820に記憶されたプログラムとの協働によって実現される。
【0021】
撮影制御部811は、撮影部50の撮影装置51及び照明装置52を制御して撮影装置51により、指固定部3に位置決めされた検出対象としての爪Tの画像を含む指U1の画像(検出対象画像である爪画像)を撮影させるものである。
【0022】
識別器生成部813は、任意の点について、その「輪郭らしさ」、すなわち、検出対象(本実施形態では爪T)の輪郭TLを構成するものであるか否かを評価する識別器Cを生成する。
識別器生成部813は、学習対象(本実施形態では爪)の輪郭TLを含む学習用のサンプル画像S(図3参照)を複数取得して、この複数の学習用のサンプル画像Sを用いて学習を行い、この学習の結果としての識別器Cを生成する。
ここで、学習方法は特に限定されないが、例えばサポートベクターマシン(support vector machine, SVM)等の教師あり学習によることができる。
教師あり学習では、全ての学習用のサンプル画像Sについて、事前に人が正解である検出対象(本実施形態では爪T)の輪郭TLを入力し、サンプル画像Sと正解輪郭TLとが対応付けられる。そして、輪郭(正解輪郭)TL上に位置する輪郭点(当該点の座標データ)には正例、輪郭(正解輪郭)TL以外の部分に位置する非輪郭点(当該点の座標データ)には負例のクラスラベルを付与して2クラスに分類し、この学習用のサンプル画像Sの正例群と負例群とからなる学習データ群を、学習サンプルとして識別器生成情報記憶領域821に記憶させておく。
そして、サンプル画像Sから任意に選択した点についてサンプル画像Sから算出(抽出)した特徴量を識別器に入力して正例又は負例に識別させることで識別器の学習を行う。
【0023】
図3は、学習用のサンプル画像の一例を示すものであり、図4は、図3において一点鎖線で囲んだ領域IVを拡大して示したものである。
本実施形態では、識別器生成部813は、学習対象(本実施形態では爪)の輪郭TLを特徴の異なる領域ごとに分割し、当該分割した領域ごとに輪郭点Td及び非輪郭点Tnの特徴量を用いた学習を行い、当該分割した領域ごとの識別器Cを生成する。
すなわち、図3に示す例では、爪Tの輪郭TLを、その上部(すなわち、爪先部分)である領域A1、側部(すなわち、爪Tの両爪溝部分)である領域A2、下部(すなわち、爪Tの生え際部分)である領域A3に分割して、それぞれの領域A1~A3について識別器Cを生成する。
なお、以下において、爪Tの輪郭TLの上部である領域A1についての識別器を識別器C1とし、爪Tの輪郭TLの側部である領域A2についての識別器を識別器C2とし、爪Tの輪郭TLの下部である領域A3についての識別器を識別器C3とする。
【0024】
ここで、識別器生成部813による識別器Cの生成処理について詳細に説明する。
本実施形態において、識別器生成部813は、点選択部814、特徴量算出部815を備えている。
点選択部814は、学習対象である爪Tの輪郭TLを含む学習用のサンプル画像S(図3参照)から、輪郭TL上に位置する任意の輪郭点Td、及び輪郭TL以外の部分に位置する任意の非輪郭点Tn(図4参照)をそれぞれ選択する。なお、輪郭点Td及び非輪郭点Tnの選択は、領域A1~A3ごとにそれぞれ行う。
【0025】
本実施形態では、点選択部814は、非輪郭点Tnを選択する際、サンプル画像Sの全体からランダムに選択するのではなく、輪郭TLから所定範囲内の領域からそれ以外の領域よりも多くの非輪郭点Tnが採用されるように選択する。
図4では、「輪郭TLから所定範囲内の領域」を、輪郭TLから距離Dだけ離間した範囲内(図4において破線で画する範囲内)とし、この領域内の非輪郭点Tn(図4において非輪郭点Tni)がそれ以外の領域(すなわち、図4において破線で画する範囲の外側の領域)の非輪郭点Tn(図4において非輪郭点Tno)よりも多く採用されている例を示している。
【0026】
具体的には、予め距離Dを閾値として記憶部82等に記憶させておき、点選択部814は、任意の点を選択する際に、当該点が輪郭TLから距離D以内に含まれるものであるか否かを判断する。また、輪郭TLから所定範囲内の領域内の非輪郭点Tniと当該領域外の非輪郭点Tnoとの割合(例えば8対2等)についても予め記憶部82等に記憶させておき、点選択部814は、任意の点を選択する際に、所定の割合に達するまで輪郭TLから所定範囲内の領域内の非輪郭点Tniを選択するようにする。
なお、「輪郭TLから所定範囲内の領域」をどの程度の範囲とするか(距離Dをどの程度に設定するか)は、特に限定されず、適宜設定される事項である。
また、「輪郭TLから所定範囲内の領域」の非輪郭点Tniをそれ以外の領域の非輪郭点Tnoよりもどの程度多く採用するかについても、特に限定されず、適宜設定される。なお、点選択部814が選択する任意の点を全て輪郭TLから所定範囲内の領域内の非輪郭点Tniとしてもよい。
なお、「輪郭TLから所定範囲内の領域」以外の領域から非輪郭点Tn(Tno)を選択する場合にも、画像全体からランダムに選択するのではなく、輪郭TLから離れ過ぎないように一定の限界を設けておくことが好ましい。
また、点選択部814が選択する輪郭点Td及び非輪郭点Tnの数、両者の割合等についても、識別器Cの生成処理に掛ける時間や、識別器Cに要求される精度等に応じて任意に設定可能である。
【0027】
特徴量算出部815は、点選択部814によって選択された輪郭点Td及び非輪郭点Tnについてそれぞれ特徴量を算出する。
特徴量として、本実施形態では、HOG(Histograms of Oriented Gradients)を使用する。HOGとは局所領域(セル)における輝度の勾配方向をヒストグラム化した特徴量である。
HOG特徴量を算出するためには、画像(サンプル画像S)から輝度勾配を算出し、算出された勾配強度と勾配方向から輝度の勾配方向ヒストグラムを作成して正規化を行う。
なお、特徴量として何を使用するかは特に限定されず、HOG以外にも例えばSIFT(Scale Invariant Feature Transform)、BRISK(Binary Robust Invariant Scalable Keypoints)等の局所特徴量を用いてもよい。
【0028】
領域A1~A3についてそれぞれ点選択部814による輪郭点Td及び非輪郭点Tnの選択を行い、選択された各輪郭点Td及び非輪郭点Tnについて特徴量算出部815に特徴量が算出されると、識別器生成部813は、上部の領域A1における輪郭TL上に位置する点(輪郭点Td)の特徴量を正例、輪郭TL以外の部分に位置する点(非輪郭点Tn)の特徴量を負例として学習し、識別器C1を得る。同様に、側部の領域A2における輪郭TL上に位置する点(輪郭点Td)の特徴量を正例、輪郭TL以外の部分に位置する点(非輪郭点Tn)の特徴量を負例として学習し、識別器C2を得る。また、下部の領域A3における輪郭TL上に位置する点(輪郭点Td)の特徴量を正例、輪郭TL以外の部分に位置する点(非輪郭点Tn)の特徴量を負例として学習し、識別器C3を得る。
このようにして、識別器生成部813は、領域A1~A3ごとの識別器C1~C3を生成する。
【0029】
輪郭検出部816は、検出対象である爪Tの輪郭を含む検出対象画像から検出対象(本実施形態では爪T)の輪郭を検出する。
本実施形態において、検出対象はユーザが指固定部3内に挿入した指U1の爪Tであり、これを撮影部50によって撮影することで検出対象画像が取得される。
本実施形態において、輪郭検出部816は、例えばESR(Explicit Shape Regression)の手法を用いて、検出対象画像から検出対象である爪Tの輪郭の検出を行う。
【0030】
ESRは、重心の周囲に特徴点が配置された初期形状(形状モデル)を生成し、これと検出対象を含む画像とのフィッティングを行うものである。例えば「XudongCao,Yichen Wei, Fang Wen, Jian Sun “Face alignment by Explicit Shape Regression.”CVPR 2012:2887-2894.」等に紹介されているように、ESRを用いた輪郭検出では、2段階の弱リグレッサー(弱識別器)を組み合わせて適用し、初期形状(形状モデル)を徐々に正解位置である検出対象の輪郭に向かって収束させていくという回帰問題として輪郭検出を行う。
本実施形態では、輪郭検出部816は、例えば初期形状を配置する初期位置をずらしながら複数回輪郭検出処理を行い、n回分の検出結果を取得する。
なお、輪郭検出処理を行う回数は特に限定されず、輪郭検出処理に掛ける時間等を考慮しながら適宜設定される。輪郭検出処理を1回しか行わないものとしてもよい。
また、複数回輪郭検出処理を行う場合、各処理毎に何らかの条件を変えて検出結果にばらつきを生じさせることが好ましい。この場合に、各処理毎に変える条件は、上記の初期形状を配置する初期位置に限定されず、例えば検出に関わるパラメータや乱数等を変更するようにしてもよい。
【0031】
なお、ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせて輪郭検出を行うAAM等の手法と比較してロバスト性に優れるため、初期形状としてどのようなものを用いるかや、初期形状を配置する初期位置をそれほど厳密に設定しなくても検出結果の精度への影響が少ない。
このため、例えば、入力された検出対象画像が太い指の爪の画像であったり細く小さな指の爪の画像であったりというように大きくばらつきがあるような場合でも、共通の初期形状を適用して輪郭検出を行うことができる。
ただ、ESRのようなアルゴリズムを用いた輪郭検出では、検出結果の信頼度を評価する指標がない。このため、輪郭として検出された点がどの程度輪郭らしさを有しているか、別途評価値を得ることが望まれる。
本実施形態の輪郭検出装置1は、ESR等のアルゴリズムを用いた輪郭検出の検出結果に対して評価値を算出するものであり、上記のような要望に応えるものである。
【0032】
評価値算出部817は、検出対象(本実施形態では爪T)の輪郭を含む検出対象画像内の任意の点について、識別器生成部813において生成された識別器C(C1~C3)を用いて輪郭らしさの評価値を算出する。
本実施形態では、上記のように、輪郭検出部816により検出対象(本実施形態では爪T)の輪郭検出が行われるようになっており、評価値算出部817は、輪郭検出部816により検出された輪郭上の任意の点について、識別器C1~C3を用いて輪郭らしさの評価値を算出する。
なお、評価値算出部817による評価値の算出は、輪郭検出部816により検出された輪郭上の全ての点について行われてもよいし、ランダムに又は所定の数置き等に選択された点について行われてもよい。ただ、評価対象となる点をランダムに選択する場合でも、各点は、輪郭上の各領域A1~A3(図3参照)のそれぞれからできるだけ偏りなく選択されることが好ましい。
輪郭検出部816により輪郭上の点であると検出された点のうち、いくつの点について評価対象とするかは特に限定されず、点の数や、評価値の算出処理にかかる時間等を考慮して任意に設定される。なお、より多くの点を評価対象とした方がより正確に評価値を算出することが期待でき、好ましい。
【0033】
ここで、評価値算出部817による評価値の算出処理について詳細に説明する。
まず、評価値算出部817は、輪郭検出部816により検出された輪郭上の各点(全ての点について評価対象とする場合には輪郭上の全ての点、一部の点を選択して評価対象とする場合には、選択された点)についてそれぞれ特徴量fを算出する。
そして、各点ごとに、まず識別器C1を使用し、算出された特徴量fから当該点について輪郭らしさを表す評価値v1を出力する。次に、各点ごとに、識別器C2を使用し、算出された特徴量fから当該点について輪郭らしさを表す評価値v2を出力する。さらに、各点ごとに、識別器C3を使用し、算出された特徴量fから当該点について輪郭らしさを表す評価値v3を出力する。
そして、各点について得られた評価値v1、v2、v3のうち、最大の値を当該点の評価値vmとする。
輪郭検出部816により検出された輪郭上の各点(全ての点について評価対象とする場合には輪郭上の全ての点、一部の点を選択して評価対象とする場合には、選択された点)についてそれぞれ評価値vmを得ると、評価値算出部817は、これら各点で得られた評価値の平均を計算し、輪郭検出部816により検出された輪郭の評価値とする。
例えば、輪郭検出部816により輪郭上の点であると検出された点のうちn個を評価対象とした場合、vm1~vmnのn個の評価値vmが得られ、これを全て足し合わせてn個で除したものが当該輪郭の評価値となる。
【0034】
次に、図5及び図6を参照しつつ、本実施形態における輪郭検出装置1による識別器生成処理及び輪郭検出処理について説明する。
【0035】
まず、識別器生成処理では、図5に示すように、識別器生成部813は、学習対象(本実施形態では爪)の輪郭TLを含む学習用のサンプル画像S(図3参照)を複数取得する(ステップS1)。
そして、学習対象(本実施形態では爪)の輪郭TLを特徴の異なる領域ごとに分割する。前述のように、本実施形態では、領域A1~A3に分割する(ステップS2)。
そして、点選択部814は、当該分割された領域A1~A3ごとに輪郭上の点である輪郭点Tdを複数選択し(ステップS3)、選択された各点(輪郭点Td)について、特徴
量算出部815がそれぞれ特徴量を算出する(ステップS4)。
また、点選択部814は、分割された領域A1~A3ごとに輪郭以外の部分の点である非輪郭点Tnを複数選択し(ステップS5)、選択された各点(非輪郭点Tn)について、特徴量算出部815がそれぞれ特徴量を算出する(ステップS6)。
【0036】
識別器生成部813は、全ての学習用のサンプル画像Sについて輪郭点Td及び非輪郭点Tnの選択、各点の特徴量の算出が終了したか否かを判断し(ステップS7)、まだ処理が終了していないサンプル画像Sがある場合(ステップS7;NO)には、ステップS2に戻って処理を繰り返す。
他方、全ての学習用のサンプル画像Sについて処理が終了した場合(ステップS7;YES)には、まず領域A1に属する輪郭点Td及び非輪郭点Tnの特徴量を用いた学習を行い、識別器C1を生成する(ステップS8)。次に、領域A2に属する輪郭点Td及び非輪郭点Tnの特徴量を用いた学習を行い、識別器C2を生成する(ステップS9)。さらに、領域A3に属する輪郭点Td及び非輪郭点Tnの特徴量を用いた学習を行い、識別器C3を生成する(ステップS10)。
これにより、識別器生成部813は、領域A1~A3ごとの識別器C1~C3を生成し、識別器生成処理が終了する。
識別器生成部813により生成された識別器C(C1~C3)は、記憶部82の識別器記憶領域822に記憶される。
【0037】
次に、輪郭検出処理では、図6に示すように、検出対象である爪Tの輪郭を含む検出対象画像(爪画像)が入力されると(ステップS21)、輪郭検出部816は、例えばESR等の手法を用いて、初期形状を配置する初期位置をずらしながら複数回(n回)の輪郭検出処理を行い、n回分の輪郭検出結果を取得する(ステップS22)。
輪郭検出結果が取得されると、評価値算出部817は、まず1回目の輪郭検出処理において輪郭検出部816により輪郭上の点であると検出されたいずれかの点を選択する(ステップS23)。そして、選択された点について特徴量を算出し(ステップS24)、算出された特徴量について識別器C1~C3によりそれぞれ輪郭らしさの評価値を算出する(ステップS25)。
そして、識別器C1~C3により算出された評価値のうち、最大値を当該点の評価値とする(ステップS26)。
例えば評価値が、「1」に近いほど高く、「0」に近いほど低い場合、識別器C1~C3により算出された評価値のうち、最も「1」に近い値となったものを当該点の評価値として採用する。
【0038】
評価値算出部817は、輪郭検出部816により輪郭上の点であると検出された点のうち、所定数(全ての点を評価対象とする場合には全て、所定数に限定して評価を行う場合には当該所定数)の点について評価が終了したか否かを判断し(ステップS27)、所定数に達していないと判断する場合(ステップS27;NO)には、評価対象となる次の点を選択し(ステップS28)、ステップS24~ステップS27の処理を繰り返す。
他方、所定数に達したと判断する場合(ステップS27;YES)には、評価値算出部817は、各点について算出された評価値(すなわち、識別器C1~C3により算出された評価値のうちの最大値)の平均値を算出し(ステップS29)、これを当該輪郭検出結果についての評価値とする。
【0039】
評価値算出部817は、さらに、n回分の輪郭検出結果全てについて評価値の算出が終了したか否かを判断し(ステップS30)、n回分の輪郭検出結果についてまだ評価が終了していないと判断する場合(ステップS30;NO)には、次の輪郭検出処理において輪郭検出部816により輪郭上の点であると検出されたいずれかの点を選択し(ステップS31)、ステップS24~ステップS30の処理を繰り返す。
他方、n回分の輪郭検出結果について全て評価が終了したと判断する場合(ステップS30;YES)には、ステップS29で算出された評価値の平均値が最も高い回の輪郭検出結果を検出対象である爪Tの輪郭として採用する(ステップS32)。
最終的に爪Tの輪郭として採用された検出結果(輪郭を構成する各点の座標値)は、検出対象であるユーザの爪Tの輪郭として、輪郭情報記憶領域823に記憶される。
【0040】
なお、図6では、まず、輪郭検出部816によりn回分の輪郭検出結果を取得し(ステップS22)、当該n回分の輪郭検出結果について順次評価値算出部817による評価値の算出を行う場合を例示したが、輪郭検出処理の手順は、図6に示したものに限定されない。
例えば、輪郭検出部816により輪郭検出結果が取得されるとその都度当該輪郭検出結果についての評価値の算出を行ってもよい。この場合、例えば、評価値算出部817により算出された評価値が、輪郭としての信頼度が十分に高いと言える所定の閾値を超えた時点で輪郭検出部816による輪郭検出を終了するようにしてもよい。
【0041】
本実施形態の輪郭検出装置1によって検出された爪Tの輪郭は、例えば、爪Tにネイルプリントを施す場合に、描画装置の描画対象領域として設定される。
また、検出結果としての爪Tの輪郭は、ネイルプリント以外にも自動的に爪Tの表面を整えるオート爪磨き等、各種ネイルケア等を行う場合の対象領域とすることができる。
【0042】
以上のように、本実施形態によれば、輪郭検出装置1は、学習対象である爪Tの輪郭TLを含む学習用のサンプル画像Sから、輪郭TL上に位置する任意の輪郭点Td、及び輪郭TL以外の部分に位置する任意の非輪郭点Tnをそれぞれ選択する点選択部814と、点選択部814によって選択された輪郭点Td及び非輪郭点Tnについてそれぞれ特徴量を算出する特徴量算出部815とを有し、特徴量算出部815により算出された輪郭点Td及び非輪郭点Tnの特徴量を用いた学習により、輪郭らしさを評価する識別器Cを生成する識別器生成部813と、検出対象である爪Tの輪郭を含む検出対象画像内の任意の点について、識別器Cを用いて輪郭らしさの評価値を算出する評価値算出部817と、を備えている。
このように、学習により高い信頼度を有する識別器Cを用いて検出対象である爪Tの輪郭検出結果の評価を行うことができるため、輪郭検出結果の信頼度を検証し、より信頼度の高い輪郭検出結果を用いて各種処理を高精度に行うことが可能となる。
【0043】
また、本実施形態によれば、輪郭検出装置1は、輪郭として、爪Tの輪郭を検出する。爪Tは、爪Tと色合いや輝度が爪Tに比較的近い指U1と区別してその境界を検出しなければならないため、輪郭検出の難易度が高いが、このような爪Tの輪郭を検出する場合でも検出結果の信頼度を確かめることができるため、検出された爪Tの輪郭に基づいてネイルプリント等各種の処理を行う場合にも対象領域を精密に特定して高精度な処理を行うことができる。
【0044】
また、本実施形態によれば、識別器生成部813は、学習対象の輪郭を特徴の異なる領域ごとに分割し、当該分割した領域ごとに輪郭点Td及び非輪郭点Tnの特徴量を用いた学習を行って、当該分割した領域ごとの識別器C(C1~C3)を生成する。
特に本実施形態の検出対象である爪Tの輪郭のように、輪郭部分の形状や状態等の特徴が爪先部分と生え際等のように領域によって大きく異なっている場合、各領域ごとに識別器C(C1~C3)を生成することで、輪郭検出結果についてより精度の高い評価を行うことが可能となる。
【0045】
また、本実施形態によれば、点選択部814は、非輪郭点Tnを選択する際、輪郭TLから所定範囲内の領域からより多くの非輪郭点Tnが採用されるように選択する。
学習において負例となる非輪郭点Tnを、正例となる輪郭点Tdと全く無関係な領域から選択するよりも、本実施形態のように、正例となる輪郭点Tdの周辺から選択した方が、より識別力、分類力の高い高精度の識別器Cを生成することが可能となる。
【0046】
また、本実施形態によれば、検出対象である爪Tの輪郭を含む検出対象画像を撮影部50により取得して、輪郭検出部816が、この検出対象画像から検出対象の輪郭を検出する。そして、評価値算出部817は、輪郭検出部816により検出された輪郭上の任意の点について、識別器Cを用いて輪郭らしさの評価値を算出する。
このように、本実施形態では、輪郭検出部816により検出された検出結果について、さらに識別器による信頼性のチェックを行うことができ、より信頼性の高い高精度の輪郭検出を行うことができる。
【0047】
さらに、本実施形態によれば、輪郭検出部816は、ESRの手法を用いて検出対象画像から検出対象である爪Tの輪郭を検出する。
ESRのように回帰問題として輪郭検出を行う手法は、形状モデルをフィッティングさせて輪郭検出を行うAAM等の手法と比較してロバスト性に優れるため、初期形状としてどのようなものを用いても検出結果の精度に大きく影響しない。このため、検出対象となる爪Tの種類(例えば親指等の太い指の大きな爪か、小指等の細い指の小さな爪か、大人の爪か、子供の爪か等)に応じて複数種類の初期形状を用意し使い分けるといった必要がなく、一つの初期形状を共通して適用することができる。
また、初期形状を配置する初期位置についても厳密な設定が要求されないため、比較的簡易に、高精度の輪郭検出結果を得ることができる。
ESRは、このような簡易かつ精度の高い検出手法である一方で、検出結果の信頼度について評価指標を得ることができない。この点、本実施形態のように、識別器Cを用いて検出結果の評価を行い評価値を求めるとすることで、複数の検出結果がある場合により信頼性の高い検出結果を採用することができるようになり、より正解に近い輪郭を自動的に検出することができる。
【0048】
なお、以上本発明の実施形態について説明したが、本発明は、かかる実施形態に限定されず、その要旨を逸脱しない範囲で、種々変形が可能であることは言うまでもない。
【0049】
例えば、本実施形態では、輪郭検出部816がESRの手法を用いて輪郭検出を行う場合を例示したが、輪郭検出部816が輪郭検出を行う手法はESRに限定されない。
例えば、輪郭検出部816による輪郭検出に、Random Forestのような、複数の決定木構造を持った多クラス識別器を構築する学習アルゴリズムを適用してもよい。Random Forestは、学習サンプルをランダムサンプリングすることにより複数のサブセットを作成し、各サブセットごとに決定木を構築し、複数の決定木の結果を統合することで識別を行う。そこで、アルゴリズムとしてRandom Forestを用いる場合には、例えば異なるサブセットによるトレーニング結果を使って複数回の輪郭検出処理を行う等により、複数回分の輪郭検出結果を得るようにする。そして、これら複数の検出結果に対して識別器Cを用いた評価を行い、最も評価値の高い検出結果を検出対象の輪郭として採用する。
【0050】
また、輪郭検出部816は、例えば、AAM(Active appearance model)、ASM(Active Shape model)ACM(Active Contour Model)等を用いて検出対象である爪Tの輪郭検出を行ってもよい。この場合には、本実施形態で示したESRを用いる場合と同様、初期形状を配置する位置を変化させながら複数回分の輪郭検出結果を得るようにする。
また、本実施形態では、複数回分の検出結果を得る場合に、同じアルゴリズムを用い、初期形状の配置位置等をずらす等により異なる検出結果を導出する例を示したが、例えば、異なるアルゴリズムを用いて、複数回分の検出結果を取得し、各手法による検出結果を識別器Cにより評価してもよい。
【0051】
また、本実施形態では、検出対象が爪Tである場合を例示したが、輪郭検出装置1によって輪郭検出を行うことができる検出対象は爪Tに限定されない。
例えば、ネイルチップやアクセサリ等の輪郭を検出対象としてもよい。
顔の輪郭や目・鼻・口等の顔のパーツの輪郭等を検出対象としてもよい。
ネイルチップ等の輪郭検出や顔パーツの輪郭検出等の場合にも、輪郭検出結果に評価値を付してその信頼度を評価することができるため、より信頼度の高い検出結果を採用して、これを用いた各種処理を行うことができる。
【0052】
また、爪Tや顔の輪郭や顔のパーツの輪郭検出以外にも、画像に含まれる何らかのオブジェクトについて輪郭を検出するものについては、広くこの輪郭検出装置1を適用することができる。
例えば、カメラで撮影した人物や対象物(建物・乗り物等)を画像から切り抜いて他の画像に貼り付けたり、連写された対象物を画像から切り抜いて繋ぎ合わせ、動画のように構成する等、各種の加工を行う際にも各対象の輪郭を精密に検出する必要があるが、このように画像から特定のオブジェクトを切り抜く際にも、本輪郭検出装置1を適用することによって、より信頼度の高い検出結果を用いてその後の各種処理を行うことができる。
【0053】
また、本実施形態では、識別器Cを生成する場合に、輪郭を上部、側部、下部の3つの領域に分けて各領域ごとに識別器Cを生成する場合を例示したが、領域分割の仕方はこれに限定されない。例えば、さらに細かく領域を分割して複数種類の識別器Cを生成してもよい。また、特に領域を分けずに輪郭全体について1つの識別器を生成してもよい。
【0054】
また、本実施形態では、輪郭を複数の領域に分割して各領域ごとに識別器Cを生成した上で、評価値の算出に際しては、全ての識別器Cを用いて順次評価を行い、輪郭全体の評価値を算出する例を示したが、例えば、評価値の算出においても各領域ごとに、当該領域に対応する識別器Cを用いて行い、各領域ごとの評価値を算出してもよい。
このようにした場合には、各領域ごとに検出結果の信頼度を得ることができる。
このため、例えば、複数回輪郭検出を行った場合、いずれの検出結果においても信頼度が低い(すなわち、評価値の低い)領域がある場合に、当該領域を表示部13等に表示させて、ユーザに確認を求めたり、手動による修正を行うことができるようにしてもよい。
【0055】
以上本発明のいくつかの実施形態を説明したが、本発明の範囲は、上述の実施の形態に限定するものではなく、特許請求の範囲に記載された発明の範囲とその均等の範囲を含む。
以下に、この出願の願書に最初に添付した特許請求の範囲に記載した発明を付記する。付記に記載した請求項の項番は、この出願の願書に最初に添付した特許請求の範囲の通りである。
〔付記〕
<請求項1>
学習対象の輪郭を含む学習用のサンプル画像における輪郭点及び非輪郭点についてそれぞれ特徴量を算出する特徴量算出部と、
前記特徴量算出部により算出された前記輪郭点及び前記非輪郭点の前記特徴量を用いた学習により、輪郭らしさを評価する識別器を生成する識別器生成部と、
検出対象の輪郭を含む検出対象画像内の任意の点について、前記識別器を用いて輪郭らしさの評価値を算出する評価値算出部と、
を備えている輪郭検出装置。
<請求項2>
前記識別器生成部は、前記学習対象の輪郭を特徴の異なる領域ごとに分割し、当該分割した領域ごとに前記輪郭点及び前記非輪郭点の前記特徴量を用いた学習を行い、当該分割した領域ごとの前記識別器を生成する請求項1に記載の輪郭検出装置。
<請求項3>
前記輪郭は爪の輪郭であり、前記識別器生成部は、前記爪の輪郭を、爪先領域、爪溝領域、及び生え際領域に分割し、前記爪先領域、前記爪溝領域、及び前記生え際領域ごとに前記輪郭点及び前記非輪郭点の前記特徴量を用いた学習を行い、前記爪先領域、前記爪溝領域、及び前記生え際領域ごとの前記識別器を生成する請求項2に記載の輪郭検出装置。
<請求項4>
前記識別器生成部は、輪郭点の特徴量を正例、非輪郭点の特徴量を負例として学習し、前記識別器を生成する請求項1から請求項3のいずれか一項に記載の輪郭検出装置。
<請求項5>
前記サンプル画像から、輪郭上に位置する任意の輪郭点及び輪郭以外の部分に位置する任意の非輪郭点をそれぞれ選択する点選択部を更に備え、
前記特徴量算出部は、前記点選択部によって選択された前記輪郭点及び非輪郭点についてそれぞれ特徴量を算出する請求項1から請求項4のいずれか一項に記載の輪郭検出装置。
<請求項6>
前記点選択部は、前記非輪郭点を選択する際、前記輪郭から所定範囲内の領域からそれ以外の領域よりも多くの前記非輪郭点が採用されるように選択する請求項5に記載の輪郭検出装置。
<請求項7>
検出対象の輪郭を含む検出対象画像を取得する撮影部と、
前記検出対象画像から前記検出対象の輪郭を検出する輪郭検出部と、
をさらに備え、
前記評価値算出部は、前記輪郭検出部により検出された前記輪郭上の任意の点について、前記識別器を用いて輪郭らしさの評価値を算出する請求項1から請求項6のいずれか一項に記載の輪郭検出装置。
<請求項8>
前記輪郭検出部は前記検出対象の輪郭を複数回検出し、
前記評価算出部は前記輪郭検出部により複数回検出された複数の輪郭それぞれについて評価値を算出し、
前記輪郭検出部は前記複数の輪郭のうち、前記評価算出部により算出された評価値が最大のものを前記検出対象の輪郭として採用する請求項7に記載の輪郭検出装置。
<請求項9>
前記輪郭検出部は、ESRの手法を用いて前記検出対象画像から前記検出対象の輪郭を検出する請求項7又は請求項8に記載の輪郭検出装置。
<請求項10>
学習対象の輪郭を含む学習用のサンプル画像における輪郭点及び非輪郭点についてそれぞれ特徴量を算出する特徴量算出工程と、を含み、前記特徴量算出工程において算出された前記輪郭点及び前記非輪郭点の前記特徴量を用いた学習により、輪郭らしさを評価する識別器を生成する識別器生成工程と、
検出対象の輪郭を含む検出対象画像内の任意の点について、前記識別器を用いて輪郭らしさの評価値を算出する評価値算出工程と、
を含んでいる輪郭検出方法。
【符号の説明】
【0056】
1 輪郭検出装置
50 撮影部
81 制御部
82 記憶部
813 識別器生成部
814 点選択部
815 特徴量算出部
816 輪郭検出部
817 評価値算出部
821 識別器生成情報記憶領域
822 識別器記憶領域
823 輪郭情報記憶領域
C 識別器
T 爪
U1 指
図1
図2
図3
図4
図5
図6