IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ ユニファ株式会社の特許一覧

<>
  • 特開-画像選択システム 図1
  • 特開-画像選択システム 図2
  • 特開-画像選択システム 図3
  • 特開-画像選択システム 図4
  • 特開-画像選択システム 図5
  • 特開-画像選択システム 図6
  • 特開-画像選択システム 図7
  • 特開-画像選択システム 図8
  • 特開-画像選択システム 図9
  • 特開-画像選択システム 図10
  • 特開-画像選択システム 図11
  • 特開-画像選択システム 図12
  • 特開-画像選択システム 図13
  • 特開-画像選択システム 図14
  • 特開-画像選択システム 図15
  • 特開-画像選択システム 図16
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2023100112
(43)【公開日】2023-07-18
(54)【発明の名称】画像選択システム
(51)【国際特許分類】
   G06T 1/00 20060101AFI20230710BHJP
   G06F 16/532 20190101ALI20230710BHJP
【FI】
G06T1/00 200E
G06F16/532
【審査請求】未請求
【請求項の数】11
【出願形態】OL
(21)【出願番号】P 2022000551
(22)【出願日】2022-01-05
(71)【出願人】
【識別番号】515203631
【氏名又は名称】ユニファ株式会社
(74)【代理人】
【識別番号】100104776
【弁理士】
【氏名又は名称】佐野 弘
(74)【代理人】
【識別番号】100119194
【弁理士】
【氏名又は名称】石井 明夫
(72)【発明者】
【氏名】山口 隆広
(72)【発明者】
【氏名】太田 真理子
(72)【発明者】
【氏名】宮▲崎▼ 悠樹
【テーマコード(参考)】
5B050
5B175
【Fターム(参考)】
5B050BA12
5B050CA07
5B050EA04
5B050GA08
5B175DA02
5B175GA01
5B175GB05
5B175HA01
5B175HB03
(57)【要約】
【課題】きめの細かい選択条件を設定でき、その選択条件に基づいて画像を選択する画像選択システムを提供する。
【解決手段】この画像選択システム1は、利用者によって撮影された撮影画像を受け付ける画像受付部24と、その画像受付部24で受け付けた撮影画像を保存する画像保存部25と、撮影画像を選択する際の選択条件を入力する選択条件入力画面を提供する条件入力画面提供部26と、入力された選択条件を受け付ける選択条件受付部27と、その選択条件受付部27で受け付けた選択条件に基づいて、画像保存部25に保存されている複数の撮影画像の中から1以上の撮影画像を選択する画像選択部29とを備え、その選択条件には、人物を特定する顔画像、及び、表情を指定する指定表情が含まれており、画像選択部29は、顔画像により特定される人物である特定人物が指定表情で写っている撮影画像を選択する。
【選択図】図1
【特許請求の範囲】
【請求項1】
保存されている複数の画像の中から選択条件に基づいて1以上の画像を選択する画像選択システムであって、
利用者によって撮影された撮影画像を受け付ける画像受付部と、
該画像受付部で受け付けた前記撮影画像を保存する画像保存部と、
前記撮影画像を選択する際の選択条件を入力する選択条件入力画面を提供する条件入力画面提供部と、
入力された前記選択条件を受け付ける選択条件受付部と、
該選択条件受付部で受け付けた前記選択条件に基づいて、前記画像保存部に保存されている複数の前記撮影画像の中から1以上の前記撮影画像を選択する画像選択部とを備え、
前記選択条件には、
人物を特定する顔画像、及び、表情を指定する指定表情が含まれており、
前記画像選択部は、
前記顔画像により特定される人物である特定人物が前記指定表情で写っている前記撮影画像を選択することを特徴とする画像選択システム。
【請求項2】
画像に写っている人物の表情を検出する表情検出部を備え、
前記選択条件には、
前記利用者によって入力される表情設定画像が含まれており、
前記表情検出部は、
前記選択条件受付部で受け付けられた前記表情設定画像に写っている人物の表情である設定表情を検出して、
前記表情検出部で検出された前記設定表情が、前記選択条件の前記指定表情として設定され、
前記画像選択部は、
前記特定人物が前記指定表情としての前記設定表情で写っている前記撮影画像を選択することを特徴とする請求項1に記載の画像選択システム。
【請求項3】
前記選択条件に含まれる前記人物を特定する顔画像は、
複数人の顔画像であり、
前記画像保存部に保存されている複数の前記撮影画像の中から2以上の前記撮影画像を選択する場合、前記複数人の顔画像により特定されるそれぞれの前記特定人物について、該特定人物が写っている前記撮影画像の選択割合である人物選択割合を前記選択条件として設定できるようになっており、
前記画像選択部は、
前記選択条件に設定された前記人物選択割合となるように、2以上の前記撮影画像を選択することを特徴とする請求項1又は2に記載の画像選択システム。
【請求項4】
前記利用者には、
所定の施設における利用者である施設利用者と、家庭における利用者である家庭利用者とが含まれており、
前記画像保存部に保存されている複数の前記撮影画像の中から2以上の前記撮影画像を選択する場合、前記施設利用者により撮影された前記撮影画像と前記家庭利用者により撮影された前記撮影画像との選択割合である施設家庭画像選択割合が前記選択条件として設定され、
前記画像選択部は、
前記選択条件に設定された前記施設家庭画像選択割合となるように、2以上の前記撮影画像を選択することを特徴とする請求項1又は2に記載の画像選択システム。
【請求項5】
前記特定人物とともに写っている付随物が前記選択条件として設定され、
前記画像選択部は、
前記選択条件に設定された前記付随物とともに前記特定人物が写っている前記撮影画像を選択することを特徴とする請求項1乃至4の何れか一項に記載の画像選択システム。
【請求項6】
前記画像選択部は、
前記撮影画像のぼけ量、前記撮影画像のぶれ量、前記撮影画像全体に占める前記特定人物の顔部分の面積の割合、前記撮影画像中の前記特定人物の位置の中央からの位置ずれ量、前記撮影画像中の前記特定人物の顔の向きの正面方向からのずれ量、前記撮影画像中の前記特定人物の顔の欠け量、前記撮影画像中の前記特定人物の明るさを示す該特定人物の明度の少なくとも何れか一つの優先選択基準に基づいて、前記撮影画像を優先して選択することを特徴とする請求項1乃至5の何れか一項に記載の画像選択システム。
【請求項7】
前記画像選択部は、
前記撮影画像のぼけ量、前記撮影画像のぶれ量、前記撮影画像に写っている人物の該撮影画像全体に占める顔部分の面積の割合、前記撮影画像に写っている人物の該撮影画像中の中央位置からの位置ずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の向きの正面方向からのずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の欠け量、前記撮影画像に写っている人物の明度の少なくとも何れか一つに基づいて算出される画像の品質を示す画質スコアが、所定の閾値未満の前記撮影画像を選択せず、前記画質スコアが前記所定の閾値以上の前記撮影画像を選択することを特徴とする請求項1乃至6の何れか一項に記載の画像選択システム。
【請求項8】
前記画質スコアは、
前記撮影画像のぼけ量、前記撮影画像のぶれ量、前記撮影画像に写っている人物の該撮影画像全体に占める顔部分の面積の割合、前記撮影画像に写っている人物の該撮影画像中の中央位置からの位置ずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の向きの正面方向からのずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の欠け量、前記撮影画像に写っている人物の明度の少なくとも何れか一つに基づいて決定される正解画質スコアが設定された学習用画像を教師データとして用い機械学習を行い該機械学習により生成される、前記撮影画像を入力すると前記画質スコアが出力される学習済み画質スコア生成モデルによって算出されることを特徴とする請求項7に記載の画像選択システム。
【請求項9】
前記画質スコアに基づいて、前記撮影画像を優先して選択することを特徴とする請求項7又は8に記載の画像選択システム。
【請求項10】
前記画像選択部は、
所定の撮影期間に撮影された前記撮影画像を選択することを特徴とする請求項1乃至9の何れか一項に記載の画像選択システム。
【請求項11】
前記画像選択部は、
前記所定の撮影期間を複数の分割期間に区分して、区分された複数の前記分割期間に撮影された前記撮影画像の画像数が、前記分割期間ごとに等しくなるように選択することを特徴とする請求項10に記載の画像選択システム。
【発明の詳細な説明】
【技術分野】
【0001】
この発明は、複数の画像の中から選択条件に基づいて1以上の画像を選択する画像選択システムに関するものである。
【背景技術】
【0002】
近年、デジタルカメラやスマートフォンで撮影した画像データを素材として、アルバムや電子アルバムを作製することが一般化している。デジタルカメラ等を用いると、手軽に低コストで撮影と保存ができるため、電子アルバム等の素材となる画像データ量が膨大な容量に上ることがある。この膨大な画像データの中から必要とする画像を適切に選択する作業は、極めて煩雑な作業となり、過度の負担を伴う。この点に関して、これまでに画像の選択を支援する装置や方法が提案されている。例えば、下記の特許文献1に記載されている画像処理装置が知られている。この画像処理装置では、複数の画像の中から人物画像や特定人物が写っている画像を優先して選択できるようになっている。
【先行技術文献】
【特許文献】
【0003】
【特許文献1】特開2007-58795号公報
【発明の概要】
【発明が解決しようとする課題】
【0004】
しかしながら、特許文献1の発明では、風景画像でなく人物画像を優先して選択したり、特定人物の画像を優先して選択したりできるものの、それ以上のきめの細かい選択条件を設定できず、選択された画像は統一感に欠けるという問題があった。
【0005】
本発明はこのような事情に鑑みてなされたものであり、本発明の課題は、きめの細かい選択条件を設定でき、その選択条件に基づいて画像を選択する画像選択システムを提供することである。
【課題を解決するための手段】
【0006】
かかる課題を解決するために、請求項1に記載の発明は、保存されている複数の画像の中から選択条件に基づいて1以上の画像を選択する画像選択システムであって、利用者によって撮影された撮影画像を受け付ける画像受付部と、該画像受付部で受け付けた前記撮影画像を保存する画像保存部と、前記撮影画像を選択する際の選択条件を入力する選択条件入力画面を提供する条件入力画面提供部と、入力された前記選択条件を受け付ける選択条件受付部と、該選択条件受付部で受け付けた前記選択条件に基づいて、前記画像保存部に保存されている複数の前記撮影画像の中から1以上の前記撮影画像を選択する画像選択部とを備え、前記選択条件には、人物を特定する顔画像、及び、表情を指定する指定表情が含まれており、前記画像選択部は、前記顔画像により特定される人物である特定人物が前記指定表情で写っている前記撮影画像を選択することを特徴とする。
【0007】
請求項2に係る発明は、請求項1に記載の構成に加えて、画像に写っている人物の表情を検出する表情検出部を備え、前記選択条件には、前記利用者によって入力される表情設定画像が含まれており、前記表情検出部は、前記選択条件受付部で受け付けられた前記表情設定画像に写っている人物の表情である設定表情を検出して、前記表情検出部で検出された前記設定表情が、前記選択条件の前記指定表情として設定され、前記画像選択部は、前記特定人物が前記指定表情としての前記設定表情で写っている前記撮影画像を選択することを特徴とする。
【0008】
請求項3に係る発明は、請求項1又は2に記載の構成に加えて、前記選択条件に含まれる前記人物を特定する顔画像は、複数人の顔画像であり、前記画像保存部に保存されている複数の前記撮影画像の中から2以上の前記撮影画像を選択する場合、前記複数人の顔画像により特定されるそれぞれの前記特定人物について、該特定人物が写っている前記撮影画像の選択割合である人物選択割合を前記選択条件として設定できるようになっており、前記画像選択部は、前記選択条件に設定された前記人物選択割合となるように、2以上の前記撮影画像を選択することを特徴とする。
【0009】
請求項4に係る発明は、請求項1又は2に記載の構成に加えて、前記利用者には、所定の施設における利用者である施設利用者と、家庭における利用者である家庭利用者とが含まれており、前記画像保存部に保存されている複数の前記撮影画像の中から2以上の前記撮影画像を選択する場合、前記施設利用者により撮影された前記撮影画像と前記家庭利用者により撮影された前記撮影画像との選択割合である施設家庭画像選択割合が前記選択条件として設定され、前記画像選択部は、前記選択条件に設定された前記施設家庭画像選択割合となるように、2以上の前記撮影画像を選択することを特徴とする。
【0010】
請求項5に係る発明は、請求項1乃至4の何れか一項に記載の構成に加えて、前記特定人物とともに写っている付随物を前記選択条件として設定され、前記画像選択部は、前記選択条件に設定された前記付随物とともに前記特定人物が写っている前記撮影画像を選択することを特徴とする。
【0011】
請求項6に係る発明は、請求項1乃至5の何れか一項に記載の構成に加えて、前記画像選択部は、前記撮影画像のぼけ量、前記撮影画像のぶれ量、前記撮影画像全体に占める前記特定人物の顔部分の面積の割合、前記撮影画像中の前記特定人物の位置の中央からの位置ずれ量、前記撮影画像中の前記特定人物の顔の向きの正面方向からのずれ量、前記撮影画像中の前記特定人物の顔の欠け量、前記撮影画像中の前記特定人物の明るさを示す該特定人物の明度の少なくとも何れか一つの優先選択基準に基づいて、前記撮影画像を優先して選択することを特徴とする。
【0012】
請求項7に係る発明は、請求項1乃至6の何れか一項に記載の構成に加えて、前記画像選択部は、前記撮影画像のぼけ量、前記撮影画像のぶれ量、前記撮影画像に写っている人物の該撮影画像全体に占める顔部分の面積の割合、前記撮影画像に写っている人物の該撮影画像中の中央位置からの位置ずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の向きの正面方向からのずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の欠け量、前記撮影画像に写っている人物の明度の少なくとも何れか一つに基づいて算出される画像の品質を示す画質スコアが、所定の閾値未満の前記撮影画像を選択せず、前記画質スコアが前記所定の閾値以上の前記撮影画像を選択することを特徴とする。
【0013】
請求項8に係る発明は、請求項7に記載の構成に加えて、前記画質スコアは、前記撮影画像のぼけ量、前記撮影画像のぶれ量、前記撮影画像に写っている人物の該撮影画像全体に占める顔部分の面積の割合、前記撮影画像に写っている人物の該撮影画像中の中央位置からの位置ずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の向きの正面方向からのずれ量、前記撮影画像に写っている人物の該撮影画像中の顔の欠け量、前記撮影画像に写っている人物の明度の少なくとも何れか一つに基づいて決定される正解画質スコアが設定された学習用画像を教師データとして用い機械学習を行い該機械学習により生成される、前記撮影画像を入力すると前記画質スコアが出力される学習済み画質スコア生成モデルによって算出されることを特徴とする。
【0014】
請求項9に係る発明は、請求項7又は8に記載の構成に加えて、前記画質スコアに基づいて、前記撮影画像を優先して選択することを特徴とする。
【0015】
請求項10に係る発明は、請求項1乃至9の何れか一項に記載の構成に加えて、前記画像選択部は、所定の撮影期間に撮影された前記撮影画像を選択することを特徴とする。
【0016】
請求項11に係る発明は、請求項10に記載の構成に加えて、前記画像選択部は、前記所定の撮影期間を複数の分割期間に区分して、区分された複数の前記分割期間に撮影された前記撮影画像の画像数が、前記分割期間ごとに等しくなるように選択することを特徴とする。
【発明の効果】
【0017】
請求項1の発明によれば、複数の撮影画像の中から1以上の撮影画像を選択する選択条件として、人物を特定する顔画像、及び、表情を指定する指定表情が含まれており、その顔画像により特定される人物が指定表情で写っている撮影画像が選択される。このように、きめ細かく選択条件を設定できる。また、この選択条件により選択された画像に統一感を持たせることができる。
【0018】
請求項2の発明によれば、利用者によって表情設定画像が入力され、その表情設定画像に写っている人物の表情が検出される。そして、検出された表情の撮影画像が選択される。このように、喜怒哀楽のような基本的な表情と異なる特徴的な表情についても選択条件として設定でき、その特徴的な表情の撮影画像を抽出できる。
【0019】
請求項3の発明によれば、複数人の顔画像により特定されるそれぞれの人物について、その人物が写っている撮影画像の選択割合を選択条件として設定できる。このため、選択される撮影画像の中で、特定の人物が写っている画像の割合を自在に調整できる。
【0020】
請求項4の発明によれば、施設利用者により撮影された撮影画像と家庭利用者により撮影された撮影画像との選択割合を選択条件として設定できる。このため、選択される撮影画像の中で、施設や家庭において撮影された画像の割合を自在に調整できる。
【0021】
請求項5の発明によれば、顔画像により特定される人物とともに写っている付随物を選択条件として設定できる。このため、選択される撮影画像に写っている人物と付随物の組み合わせを自由に選ぶことができる。
【0022】
請求項6の発明によれば、撮影画像のぼけ量、撮影画像のぶれ量、撮影画像全体に占める特定人物の顔部分の面積の割合、撮影画像中の特定人物の位置の中央からの位置ずれ量、撮影画像中の特定人物の顔の向きの正面方向からのずれ量、撮影画像中の特定人物の顔の欠け量、撮影画像中の特定人物の明度の少なくとも何れか一つの優先選択基準に基づいて、優先して選択するため、高品質な撮影画像を選択できる。
【0023】
請求項7の発明によれば、画像の品質を示す画質スコアが算出され、この画質スコアが、所定の閾値未満の撮影画像は選択されない。このように低画質の撮影画像は選択されず除外することができる。
【0024】
請求項8の発明によれば、機械学習により生成される学習済み画質スコア生成モデルによって画質スコアが算出される。このため、様々な撮影画像に対して安定して適切な画質スコアを求めることができる。
【0025】
請求項9の発明によれば、画質スコアに基づいて、撮影画像を優先して選択するため、高品質な撮影画像を確実に選択できる。
【0026】
請求項10の発明によれば、所定の撮影期間に撮影された撮影画像が選択される。このため、長期間に渡り撮影された画像の中から特定の期間に撮影された画像を容易に選択できる。
【0027】
請求項11の発明によれば、所定の撮影期間を複数の分割期間に区分して、その複数の分割期間に撮影された撮影画像の画像数が、分割期間ごとに等しくなるように選択される。このため、撮影画像がある時期に集中して選択されることがなくなり、所定の期間全体に渡り満遍なく分散して選択される。この結果、多様な撮影画像を選択できる。
【図面の簡単な説明】
【0028】
図1】この発明の実施の形態に係る画像選択システムのシステム構成概略図である。
図2】同実施の形態に係る画像選択サーバの機能ブロック概略図である。
図3】同実施の形態に係る家庭端末の選択条件入力画面の例を示す概略図である。
図4】同実施の形態に係る家庭端末の選択条件入力画面において入力される表情設定画像の概略図の例であり、(a)と(b)はクシャっとした顔の表情、(c)と(d)は集中している顔の表情、(e)と(f)は可愛いけれども悪い顔の表情を示す図である。
図5】同実施の形態に係る画像選択サーバに保持される学習済み画質スコア生成モデルを機械学習により生成する際に教師データとして用いられる学習用画像の例を示す図であり、(a)~(d)は、学習用画像に設定される正解画質スコアが0.00の図である。
図6】同実施の形態に係る画像選択サーバに保持される学習済み画質スコア生成モデルを機械学習により生成する際に教師データとして用いられる学習用画像の例を示す図であり、(a)と(b)は学習用画像に設定される正解画質スコアが0.0より大きく0.1以下の図、(c)と(d)は、正解画質スコアが0.1より大きく0.2以下の図である。
図7】同実施の形態に係る画像選択サーバに保持される学習済み画質スコア生成モデルを機械学習により生成する際に教師データとして用いられる学習用画像の例を示す図であり、(a)と(b)は学習用画像に設定される正解画質スコアが0.2より大きく0.3以下の図、(c)と(d)は、正解画質スコアが0.3より大きく0.4以下の図である。
図8】同実施の形態に係る画像選択サーバに保持される学習済み画質スコア生成モデルを機械学習により生成する際に教師データとして用いられる学習用画像の例を示す図であり、(a)と(b)は学習用画像に設定される正解画質スコアが0.4より大きく0.5以下の図、(c)と(d)は、正解画質スコアが0.5より大きく0.6以下の図である。
図9】同実施の形態に係る画像選択サーバに保持される学習済み画質スコア生成モデルを機械学習により生成する際に教師データとして用いられる学習用画像の例を示す図であり、(a)と(b)は学習用画像に設定される正解画質スコアが0.6より大きく0.7以下の図、(c)と(d)は、正解画質スコアが0.7より大きく0.8以下の図である。
図10】同実施の形態に係る画像選択サーバに保持される学習済み画質スコア生成モデルを機械学習により生成する際に教師データとして用いられる学習用画像の例を示す図であり、(a)と(b)は学習用画像に設定される正解画質スコアが0.8より大きい図である。
図11】同実施の形態に係る画像選択サーバで行われる複数の撮影画像の中から選択候補画像を抽出する流れの例を示す図である。
図12】同実施の形態に係る画像選択サーバで算出される撮影画像の優先度スコアを求める際に使用される各スコアの例を示す図であり、(a)は画質スコア、(b)は人物表情スコア、(c)は施設家庭スコア、(d)お気に入りスコアを示す図である。
図13】同実施の形態に係る家庭端末の選択条件入力画面の例を示す概略図であり、(a)は電子アルバムに掲載する撮影画像の撮影開始月を設定する画面、(b)は設定内容の確認画面である。
図14】同実施の形態に係るサーバまたは情報端末の機能ブロック概略図であり、(a)は施設情報管理サーバ、(b)は施設端末、(c)は家庭端末を示す図である。
図15】同実施の形態に係る画像選択システムにおいて、家庭端末を用いて選択条件を設定する動作の流れの一例を示す概略図である。
図16】同実施の形態に係る家庭端末に表示される選択画像プレビュー画面から選択画像を修正する際の画面の遷移を示す概略図であり、(a)は選択画像プレビュー画面、(b)と(d)と(f)は編集画面、(c)は写真の削除画面、(e)は写真の選択画面である。
【発明を実施するための形態】
【0029】
この発明の実施の形態について、図1図16を用いて説明する。
【0030】
図1は、本発明の実施の形態に係る画像選択システム1のシステム構成概略図である。この画像選択システム1は、後述する画像選択サーバ2に保存されている利用者によって撮影された複数の撮影画像の中から選択条件に基づいて1以上の撮影画像を自動的に選択するためのシステムである。ここで、選択条件とは、あらかじめ画像選択サーバ2に保存されている複数の撮影画像の中から1以上の撮影画像を選択する際に用いられる条件のことである。
【0031】
この画像選択システム1は、画像選択サーバ2、施設情報管理サーバ4、「所定の施設」としての施設5において使用される情報端末である施設端末6、家庭7において使用される情報端末である家庭端末8などが、通信回線9を介して接続された構成になっている。この図には、施設端末6と家庭端末8がそれぞれ一台しか示されていないが、複数の施設端末6や複数の家庭端末8を使用してもよい。また、複数の施設5や複数の家庭7を含むように、このシステム1を構成してもよい。
【0032】
この画像選択システム1の利用者は、施設5における利用者である施設利用者と、家庭7における利用者である家庭利用者である。施設利用者が施設端末6を用いて撮影した撮影画像や、家庭利用者が家庭端末8を用いて撮影した撮影画像は、このシステム1の構成要素である画像選択サーバ2に保存される。家庭利用者や施設利用者がこのサーバ2に保存されている画像を用いて、アルバムや電子アルバムなどを作製する際には、保存される画像の中から目的とする画像を適切に選択する必要が生ずる。この選択作業を支援するシステムが、この画像選択システム1である。
【0033】
このシステム1では、選択条件を入力する選択条件入力画面が家庭端末8や施設端末6に提供され、家庭利用者等が、家庭端末8等に表示される選択条件入力画面に入力操作を行うことで選択条件が設定される。家庭利用者等によって入力された選択条件は、送信されて、画像選択サーバ2に受け付けられる。画像選択サーバ2では、受け付けた選択条件に基づいて、あらかじめ保存されている撮影画像の中から1以上の画像を選択する。そして、選択された画像は、家庭端末8等に送られ、家庭利用者等に提供される。
【0034】
なお、施設5としては、保育園、幼稚園、学校、塾、音楽教室、会社などの施設であってもよいし、屋外の工事現場などに対応させるようにしてもよい。本実施形態では、施設5を保育園として説明する。
【0035】
また、通信回線9は、インターネット、LAN(Local Area Network)、WAN(Wide Area Network)、VPN(Virtual Private Network)などで構成してもよい。
【0036】
次に、この画像選択システム1を構成する各要素について説明する。
【0037】
図2は、画像選択サーバ2の機能ブロック概略図である。このサーバ2は、制御部20、画像受付部24、画像保存部25、条件入力画面提供部26、選択条件受付部27、表情検出部28、画像選択部29、選択画像提供部30、通信回線9を介して情報を送信する送信部31、通信回線9を介して情報を受信する受信部32を含むように構成されている。
【0038】
制御部20は、プログラムの実行や演算処理を行うCPU21、HDD(Hard Disk Drive)やSSD(Solid State Drive)等が用いられプログラムやデータを記憶する補助記憶装置22、CPU21によるプログラムの実行や演算処理のワークエリアとして動作する揮発性メモリのRAM23を含むように構成されており、画像選択サーバ2を構成する各要素の動作を制御する。
【0039】
画像受付部24は、施設利用者や家庭利用者によって撮影された撮影画像を受け付ける。この画像選択システム1においては、施設利用者によって撮影された画像が、施設端末6から一旦、施設情報管理サーバ4に送られ、このサーバ4を経由してから、画像選択サーバ2に送信されるようになっている。一方、家庭利用者によって撮影された画像は、家庭端末8から、直接、この画像選択サーバ2に送信されるようになっている。ただし、施設端末6から送信される画像が施設情報管理サーバ4を経由するデータの流れは、このシステム1の構成上生じており、必須の流れでない。したがって、家庭端末8と同様に、施設端末6からの画像を、直接、画像選択サーバ2に送信するように構成してもよい。
【0040】
画像保存部25は、画像受付部24で受け付けた撮影画像を保存する。この画像保存部25には、家庭7や施設5で長期間に渡り撮影された画像が大量に保存されることになる。家庭利用者等が電子アルバム等を作製するときには、この画像保存部25にあらかじめ保存されている撮影画像の中からアルバムに掲載する画像が選択される。
【0041】
条件入力画面提供部26は、撮影画像を選択する際の選択条件を入力する選択条件入力画面を提供する。選択条件入力画面の構成データを含む入力画面情報が、施設端末6や家庭端末8に送信されると、この入力画面情報を受信した施設端末6や家庭端末8では、その情報に基づいて選択条件入力画面を構成して表示する。施設利用者や家庭利用者は、この選択条件入力画面に入力操作を行うことにより、選択条件を設定する。
【0042】
図3は、家庭端末8に表示される選択条件入力画面800の例を示す概略図である。この入力画面800には、人物の選択810、表情の選択820、人物の選択割合の設定830、園と家庭の写真の選択割合の設定840、人物以外の被写体設定850の各設定項目が含まれている。
【0043】
人物の選択810の項目表示の下部には、顔画像表示枠811が配置され、この表示枠811には、あらかじめ家庭利用者によって登録されている人物を特定する顔画像がそれぞれ表示される。例えば、顔画像表示枠811の左から順に、長男、母親(ママ)、父親(パパ)、長女の顔画像が表示される。この人物を特定する顔画像は、長男、母親、父親、長女などの続柄を含む家族情報と関連付けられており、この家族情報とともに画像選択サーバ2に登録されている。これにより、顔画像表示枠811の顔画像を選択すると、その人物の家族構成における続柄を取得できる。
【0044】
家庭利用者が、この表示枠811の顔画像を選択して指定すると、その顔画像の指定が選択条件として設定される。画像選択サーバ2では、選択条件に基づいて画像が選択されるため、指定された顔画像により特定される人物である特定人物の写っている撮影画像が選択される。例えば、長男の顔画像が指定されると、画像選択サーバ2の画像保存部25から特定人物である長男の画像が選択される。このとき、顔画像表示枠811に表示されている顔画像のみを用いて画像保存部25に保存されている撮影画像と照合し、特定人物の画像を選択するようにしてもよいし、その特定人物の複数の顔画像を画像選択サーバ2にあらかじめ登録しておき、その複数の顔画像を用いて画像保存部25に保存されている画像と照合して、特定人物の画像を選択するようにしてもよい。
【0045】
また、複数の顔画像表示枠811を選択して、複数人の顔画像を指定することもできる。この場合、複数人の顔画像により特定される複数の特定人物のそれぞれが写っている撮影画像が選択される。例えば、長男と母親と父親の顔画像が指定されると、長男の画像、母親の画像又は父親の画像が選択される。
【0046】
なお、顔画像表示枠811の選択が一人も行われない場合には、特定人物の設定がないものとして取り扱われる。この場合、特定人物以外の選択条件に基づいて撮影画像が選択される。
【0047】
表情の選択820の項目表示の下部には、笑顔、寝顔、泣き顔という基本的な表情(基本表情)が表示される基本表情表示枠821が配置されている。この図の例では、「笑顔」、「寝顔」、「泣き顔」の各表情が文字で表示されているが、これらの表情を絵柄などで表示するようにしてもよい。家庭利用者が、この表示枠821に表示されている基本表情を選択して指定すると、この基本表情が指定表情として選択条件に設定される。画像選択サーバ2では、上述の顔画像表示枠811で指定された特定人物の撮影画像であり、かつ、その人物の表情が指定表情と一致する画像が選択される。例えば、笑顔が指定されると、笑顔の特定人物が写っている画像が選択される。また、1枚の撮影画像中に複数の特定人物が写っている場合には、特定人物の中のいずれかが笑顔をしている画像が選択される。この例のように複数の特定人物の指定表情を一括して指定するようにしてもよいし、特定人物ごとに指定表情を指定するようにしてもよい。選択する画像の総数に対して、指定表情の画像の数が足りない場合、まず、指定表情の画像が選択され、残りは指定表情以外の画像が選択される。
【0048】
また、複数の基本表情表示枠821を同時に指定することもできる。この場合、指定されたいずれかの表情をしている特定人物の撮影画像が選択される。例えば、笑顔と泣き顔が指定されると、特定人物が笑顔で写っている画像と泣き顔で写っている画像が選択される。このように複数の指定表情が指定された場合には、それぞれの表情の選択割合を設定できるようにしてもよい。
【0049】
なお、基本表情表示枠821に表示される基本表情には、怒り顔などのその他の表情を含めてもよい。
【0050】
また、基本表情表示枠821のどの表情も選択されない場合には、基本表情の設定がないものとして取り扱われる。この場合、基本表情以外の選択条件に基づいて撮影画像が選択される。
【0051】
基本表情表示枠821の右側には、表情設定画像表示枠822が配置されている。家庭利用者は、この表情設定画像表示枠822に、上段の顔画像表示枠811に表示されている人物が特徴的な表情で写っている表情設定画像823を入力できる。入力された表情設定画像823は、選択条件として設定されるとともに、この表情設定画像表示枠822に表示される。そして、入力された表情設定画像823は、画像選択サーバ2に送信されて、画像選択サーバ2に登録される。画像選択サーバ2では、表情検出部28において、表情設定画像823が画像処理によって分析され、その表情設定画像823の表情が設定表情として検出される。このようにして検出された設定表情は、上述の基本表情表示枠821で指定された表情と同様に指定表情として選択条件に設定される。画像選択サーバ2では、選択条件に基づいて画像が選択されるため、特定人物が表情設定画像823の表情(指定表情として設定されている設定表情)をしている撮影画像が選択される。
【0052】
図4には、家庭端末8の選択条件入力画面800において入力される表情設定画像823の概略図の例が示されている。(a)と(b)はクシャっとした顔の表情、(c)と(d)は集中している顔の表情、(e)と(f)は可愛いけれども悪い顔の表情を示す表情設定画像823の例である。図4に示すどの表情も笑顔や泣き顔などの基本的な表情と異なる特徴的な表情となっている。
【0053】
図3に示す人物の選択割合の設定830の項目表示の下部には、特定人物の撮影画像の選択割合を設定する人物選択割合入力スライダ831が表示されている。この人物選択割合入力スライダ831は、複数の顔画像表示枠811の選択によって複数人の特定人物が指定された際に表示され、それぞれの特定人物の撮影画像の選択割合である人物選択割合を設定するために使用される。設定された人物選択割合は、画像の選択条件として用いられる。図3には、長男、母親、父親の3個の顔画像表示枠811の選択により、3人の特定人物が指定されたときの例が示されている。3人の特定人物に対応するように、3本の人物選択割合入力スライダ831が表示されており、最も上のスライダ831は長男、二番目は母親(ママ)、最も下のスライダ831は父親(パパ)の撮影画像の選択割合が設定される。この3本の人物選択割合入力スライダ831で設定される人物選択割合を合計すると100%になる。例えば、長男が70%、母親が20%及び父親が10%となるように人物選択割合を設定すると、その割合に応じて撮影画像が選択される。選択される画像総数が100枚であれば、長男が70枚、母親が20枚及び父親が10枚となる。また、1枚の画像に長男と母親、長男と父親、長男と母親と父親が写っている場合には、最も上のスライダ831に対応している長男の画像が選択されたものとして選択割合が算出される。
【0054】
なお、全ての人物選択割合入力スライダ831が0%に設定されている場合には、人物選択割合の設定がないものとして取り扱われる。この場合、人物選択割合以外の選択条件に基づいて撮影画像が選択される。
【0055】
また、人物選択割合入力スライダ831によって人物選択割合を設定するのでなく、撮影画像が選択される優先順位を設定するようにしてもよい。図3に示すように顔画像表示枠811で長男、母親、父親が選択されている場合、例えば、第1優先順位が長男、第2優先順位が母親、第3優先順位が父親というように設定できるようにしてもよい。
【0056】
また、人物選択割合入力スライダ831によって、人物選択割合を決定するのでなく、この入力スライダ831の設定に応じて、優先順位が設定されるようにしてもよい。例えば、この入力スライダ831により、長男が70%、母親が20%、父親が10%と設定されると、第1優先順位が長男、第2優先順位が母親、第3優先順位が父親というように設定される。
【0057】
園と家庭の写真の選択割合の設定840の項目表示の下部には、施設利用者により撮影された撮影画像と家庭利用者により撮影された撮影画像との選択割合である施設家庭画像選択割合を設定する施設家庭選択割合入力スライダ841が表示されている。このスライダ841により設定された施設家庭画像選択割合は、選択条件として撮影画像の選択に用いられる。ここで、本実施形態では、施設5を保育園としているため、施設5における利用者である施設利用者は、保育士などが該当する。また、家庭7における利用者である家庭利用者は、父親や母親などが該当する。また、保育士などの施設利用者により撮影された撮影画像としては、施設端末6を用いて撮影した画像が該当する。ただし、施設端末6とは異なるデジタルカメラなどで撮影した画像を施設端末6にコピーして保存した画像も施設利用者により撮影された撮影画像に含まれる。父親や母親などの家庭利用者により撮影された撮影画像としては、家庭端末8を用いて撮影した画像が該当する。また、家庭端末8以外のカメラなどで画像を撮影して、家庭端末8にコピーして保存した画像も家庭利用者により撮影された撮影画像に含まれる。
【0058】
この画像選択システム1では、施設端末6で撮影された画像が、施設情報管理サーバ4を経由して画像選択サーバ2に送信され保存される構成になっている。この画像データの流れを利用して、画像選択サーバ2では、施設情報管理サーバ4を経由してくる画像を施設利用者により撮影された撮影画像として識別している。また、家庭端末8で撮影された撮影画像は、直接、画像選択サーバ2に送信され保存される構成になっている。このため、画像選択サーバ2では、施設情報管理サーバ4を経由してこない画像を家庭利用者により撮影された撮影画像として識別している。
【0059】
これ以外の識別の方法として、施設利用者または家庭利用者により撮影された画像であることを示す識別情報を画像に付加し、画像選択サーバ2では、その識別情報を読み取って施設利用者により撮影された画像であるか、または、家庭利用者により撮影された画像であるかを判定するようにしてもよい。
【0060】
画像選択サーバ2の画像選択部29では、施設家庭選択割合入力スライダ841によって設定された施設家庭画像選択割合となるように撮影画像を選択する。例えば、このスライダ841で、施設家庭画像選択割合が25%になるように設定すると、その割合に応じて画像が選択され、100枚選択するのであれば、保育園の画像が25枚、家庭の画像が75枚となる。
【0061】
なお、この画像選択システム1では、プライバシー保護の観点から、情報端末に内蔵されているGPS(Global Positioning System)モジュールなどから取得される位置情報を使用していない。しかし、取得される位置情報を利用して、保育園の画像や、保育園以外の画像すなわち家庭の画像であることを識別するようにしてもよい。
【0062】
また、施設家庭選択割合入力スライダ841によって施設家庭画像選択割合を設定するのでなく、例えば、「家庭の写真優先」ボタン、「園の写真優先」ボタン、「園と家庭の写真が同じくらい」ボタンを用意してボタンを押下することにより、撮影画像が選択される優先度を設定するようにしてもよい。この場合、「家庭の写真優先」に設定されると、家庭の画像が保育園の画像に比べて優先して選択される。また、「園の写真優先」に設定されると、保育園の画像が優先して選択される。「園と家庭の写真が同じくらい」が設定されると、保育園または家庭の優先度の設定がないものとして取り扱われ、その他の選択条件に基づいて撮影画像が選択される。
【0063】
また、施設家庭選択割合入力スライダ841によって、施設家庭画像選択割合を設定するのでなく、この入力スライダ841の設定に応じて、保育園または家庭の優先度が設定されるようにしてもよい。例えば、この入力スライダ841により、保育園の画像の選択割合が50%未満に設定されると「家庭の写真優先」に設定され、保育園の選択割合が50%に設定されると「園と家庭の写真が同じくらい」に設定され、保育園の選択割合が50%より大きく設定されると「園の写真優先」に設定される。
【0064】
人物以外の被写体設定850の項目表示の下部には、特定人物とともに写っている付随物を選択条件として設定する付随物チェックボックス851が表示されている。このチェックボックス851にチェックを入力することにより、付随物として子どもの制作物、子どものおもちゃ、食べ物が指定され、指定された付随物とともに特定人物が写っている撮影画像が選択される。例えば、食べ物が指定され、顔画像表示枠811の指定により特定人物として長男が指定されていれば、長男が食べ物を食べている画像が選択される。また、複数のチェックボックス851を指定することもでき、例えば、子どものおもちゃと食べ物が指定されると、長男がおもちゃで遊んでいる画像や長男が食べ物を食べている画像が選択される。
【0065】
なお、付随物チェックボックス851のどれにもチェックが入力されない場合には、人物以外の被写体設定がないものとして取り扱われる。この場合、その他の選択条件に基づいて撮影画像が選択される。
【0066】
以上のように、選択条件入力画面800の各項目に入力を行った後、決定ボタン860を押下すると、入力した選択条件が選択条件情報として画像選択サーバ2に送信される。
【0067】
なお、選択条件の入力は、家庭利用者が家庭端末8から行うこともできるし、施設利用者が施設端末6から行うこともできる。
【0068】
ここで、図2に示す画像選択サーバ2の説明に戻る。
【0069】
選択条件受付部27は、家庭端末8や施設端末6から送られてくる選択条件情報を受け付ける。制御部20では、受け付けた選択条件情報から選択条件を構成し、その選択条件に基づいて画像選択部29を制御して、画像保存部25から撮影画像を選択する。
【0070】
表情検出部28は、上述の図3に示す選択条件入力画面800の表情設定画像表示枠822などに入力される表情設定画像823を画像処理により分析し、その人物の表情の特徴を検出する。
【0071】
表情の特徴を検出する方法としては、例えば、人工知能(AI:Artificial Intelligence)を利用できる。基本的な表情である笑顔、寝顔、泣き顔に対応する膨大な量の顔画像データを教師データとして、機械学習を実行すると、学習済み表情検出用モデルが生成される。この学習済み表情検出生成モデルに、顔画像データを入力して演算することにより、入力したその顔画像について笑顔、寝顔、泣き顔のそれぞれの表情の確率が算出される。検出する表情が笑顔、寝顔、泣き顔のいずれかの表情である場合には、笑顔、寝顔、泣き顔の中から確率の最も高い表情を選択する。ここで、表情設定画像823の人物の表情として、笑顔、寝顔、泣き顔の確率の組み合わせにより特徴付けるようにしてもよい。例えば、表情設定画像823の表情を、笑顔の確率30%、寝顔の確率20%、泣き顔の確率50%というように各表情の確率の組み合わせとして数値化し規定することができる。
【0072】
また、別の検出方法として、目、鼻、口などの相対的な位置関係や顔領域における配置や比率などの様々な特徴量を算出し、算出された特徴量を表情設定画像823の表情として規定してもよい。
【0073】
このように検出された表情設定画像823の表情が設定表情となり、この設定表情が選択条件の指定表情として設定される。
【0074】
図2に示す画像選択部29は、選択条件に基づいて、画像保存部25にあらかじめ保存されている複数の撮影画像の中から1以上の撮影画像を選択する。
【0075】
保存されている撮影画像の中から顔画像により特定される特定人物を検出する方法は、既存の顔認識技術により実現できる。例えば、機械学習により生成される学習済み生成モデルを用いる方法でもよいし、目、鼻、口などの位置関係に基づく特徴量を算出して照合を行い、類似度の高い画像を抽出する方法でもよい。
【0076】
また、顔画像の表情を検出する方法も、学習済み生成モデルを用いる方法や、目、鼻、口などの特徴量を用いる方法など既存技術を利用できる。
【0077】
上述の表情設定画像823の表情の検出のように、学習済み表情検出生成モデルを用いて、笑顔、寝顔、泣き顔の確率の組み合わせによって表情を規定する場合、それぞれの撮影画像についてその学習済み表情検出生成モデルによる演算を行い、表情ごとの確率の組み合わせを算出する。そして、算出された表情ごとの確率の組み合わせについて、設定表情と比較して類似度の高い画像が選択される。また、目、鼻、口などの特徴量により表情を規定する場合、表情設定画像823の表情の特徴量と、選択しようとするそれぞれの撮影画像に写っている表情の特徴量とを照合して、類似度の高い画像が選択される。
【0078】
また、既存の人工知能技術や画像処理技術を用いると、画像に写っている物品を検出できる。このため、特定人物とともに撮影されている付随物を識別することが可能になっており、特定人物と指定された付随物の写っている画像を選択できる。
【0079】
また、この画像選択部29による画像の選択について、撮影画像のぼけ量、撮影画像のぶれ量、撮影画像全体に占める特定人物の顔部分の面積の割合、撮影画像中の特定人物の位置の中央からの位置ずれ量、撮影画像中の特定人物の顔の向きの正面方向からのずれ量、撮影画像中の特定人物の顔の欠け量、撮影画像中の特定人物の明るさを示す特定人物の明度の少なくとも何れか一つの優先選択基準に基づいて、優先して選択するようにしてもよい。複数の優先選択基準に基づいて優先度を決定する場合、各優先選択基準に対する評価得点を求め、各評価得点に重みづけをして総合評価得点を算出し、得点の高い画像を優先して選択するようにしてもよい。このように優先度を定めることにより、画像を選択する候補の数が、あらかじめ設定されている撮影画像の選択総数である設定画像総数を超えている場合などでも、その候補の中から高品質な画像を適切に選択できるようになる。
【0080】
撮影画像のぼけ量やぶれ量の検出は、画像から人物の顔部分の領域を抜き出して、その領域内のエッジやコントラストを算出して数値化することにより行い、この数値に基づいて評価得点を求めるようにしてもよい。また、抜き出した顔領域の画素データについてフーリエ変換を施して、求められたスペクトラムの高周波成分を利用して数値化し、これに基づいて評価得点を算出するようにしてもよい。撮影画像のぼけ量やぶれ量が小さい方が高品質な画像と判定され、評価得点が高く設定される。
【0081】
また、撮影画像全体に占める人物の顔部分の面積の割合の検出は、画像から人物の顔部分の領域を抜き出して、その顔領域の面積を算出し、顔領域と撮影画像全体との面積の比率を計算することにより行い、この比率に基づいて評価得点を求めるようにしてもよい。画像全体に占める顔部分の領域が小さいと顔を判別しにくくなるため評価得点が低く設定される。一方、顔の領域が大きすぎて画像内のほとんどを顔が占める場合にも、背景が写らず画像の特徴や変化が乏しくなるため評価得点が低く設定される。全体に占める顔の大きさの割合が適正な範囲にあるときに評価得点が高く設定される。
【0082】
また、撮影画像中の人物の位置の中央からの位置ずれ量の検出は、画像から人物の顔部分の領域を抜き出して、その顔領域の位置を算出し撮影画像の中央位置からのずれ量を計算することにより行い、この中央からの位置ずれ量に基づいて評価得点を求めるようにしてもよい。この位置ずれ量が小さく顔部分が画像の中央にあるときに評価得点が高く設定される。
【0083】
また、撮影画像中の人物の顔の向きの正面方向からのずれ量の検出は、画像から人物の顔部分の領域を抜き出して、その目や鼻などの位置から顔面の向いている方向を算出し、表面方向からの顔面の向きのずれ量を演算することにより行い、この正面方向からのずれ量に基づいて評価得点を求めるようにしてもよい。このずれ量が小さく顔が正面方向を向いているときに評価得点が高く設定される。
【0084】
また、撮影画像中の人物の顔の欠け量の検出は、画像から人物の顔部分の領域を抜き出して、その顔の一部が撮影画像の縁となる画像境界やその人物の前に写っている障害物に遮られている場合、遮られていない部分の顔の面積を算出するとともに、遮られていない顔全体の面積を推定して、顔の遮られている部分の推定面積と顔全体の推定面積の比率を計算することにより行い、この比率に基づいて評価得点を求めるようにしてもよい。また、画像中の人物の片側の目が隠れていたり、口の一部が欠けていたりすることに基づいて、人物の顔の欠け量を検出し、評価得点を求めるようにしてもよい。この欠け量が小さく顔全体が写っている画像は評価得点が高く設定される。
【0085】
撮影画像中の人物の明るさを示すその人物の明度の検出は、画像から人物の顔部分の領域または人物の身体全体の領域を抜き出して、その領域の画素の信号レベルの大きさとして検出し、その信号レベルの大きさに基づいて評価得点を求めるようにしてもよい。この明度が高い画像は、人物の顔や身体が明るく明瞭に認識できるため評価得点が高く設定される。また、人物の顔部分や身体全体の領域の画素の信号レベルの大きさと、背景を構成する画素の信号レベルの大きさとを比較することにより、例えば、人物の信号レベルと背景の信号レベルの大きさの比率などによって、画像中の人物の明度の検出し、評価得点を求めるようにしてもよい。背景よりも人物の信号レベルの方が大きい画像を選択することにより、逆光によって人物の顔や身体が暗く写っている画像を除外して、顔や身体が明るくはっきり写っている画像を選択できる。
【0086】
なお、画像選択部29における撮影画像の選択は、画像の品質を示す画質スコア881に基づいて行うこともできる。画質スコア881とは、0以上1以下の範囲の数値をとり、この数値が高いほど画像の品質が高いことを示すスコアである。
【0087】
この画質スコア881は、上述のような方法により、画像のぼけ量、画像のぶれ量、撮影画像に写っている人物の画像全体に占める顔部分の面積の割合、撮影画像に写っている人物の画像中の中央位置からの位置ずれ量、撮影画像に写っている人物の画像中の顔の向きの正面方向からのずれ量、撮影画像に写っている人物の画像中の顔の欠け量、撮影画像に写っている人物の明るさを示すその人物の明度などを求めて、これらの項目の中の少なくとも何れか一つに基づいて算出するようにしてもよい。例えば、画像のぼけ量やぶれ量、撮影画像に写っている人物の撮影画像全体に占める顔部分の面積の割合などの各項目の検出結果を規格化して、各項目の寄与度を調整してから、各項目の数値を加算して画質スコア881を求めるようにしてもよい。また、各項目の検出結果の数値に重みづけをして加算し画質スコア881を求めるようにしてもよい。
【0088】
また、撮影画像を入力して演算すると画質スコア881が出力される学習済み画質スコア生成モデルによって算出するようにしてもよい。この学習済み画質スコア生成モデルは、画像選択サーバ2に保存され、制御部20が画像選択部29を制御することにより、撮影画像をこの画質スコア生成モデルに入力して演算が行われ画質スコア881が算出される。ただし、この学習済み画質スコア生成モデルを画像選択サーバ2に保存せず、別のサーバに保持し、この別のサーバに撮影画像を送信して演算させ画質スコア881を求めるようにしてもよい。
【0089】
この学習済み画質スコア生成モデルは、例えば、撮影画像のぼけ量、撮影画像のぶれ量、撮影画像に写っている人物の画像全体に占める顔部分の面積の割合、撮影画像に写っている人物の画像中の中央位置からの位置ずれ量、撮影画像に写っている人物の画像中の顔の向きの正面方向からのずれ量、撮影画像に写っている人物の画像中の顔の欠け量、撮影画像に写っている人物明るさを示すその人物の明度の少なくとも何れか一つに基づいて決定される正解画質スコアが設定された学習用画像を教師データとして機械学習を行い生成される。正解画質スコアは、機械学習の際に正解とする画質スコア881であり、画質スコア881と同様に0以上1以下の範囲の数値をとり、画像の品質が高いほどこの数値が大きく設定される。
【0090】
図5図10は、学習済み画質スコア生成モデルを生成する際に教師データとして用いられる学習用画像の例を示す図である。
【0091】
図5は、正解画質スコアが0.00に設定された学習用画像の例である。図5(a)に示す写真画像は、画像のぼけ量が大きく顔が判別できず、人物の画像中央から位置ずれ量が大きく人が画像の両端に位置している、また、顔の欠け量が半分程度と大きく欠けている。図5(b)は、全員の頭部のみが写っており誰の顔も判別できない。図5(c)は、床と机しか写っておらず、人が写っていない。図5(d)は、胴体と手足のみが写っており顔が写っていない。このように図5(a)~(d)に示す写真画像は、画像の品質が極めて低いため、正解画質スコアが0.00に設定される。
【0092】
図6(a)及び(b)は、正解画質スコアが0.0より大きく0.1以下に設定された学習用画像の例である。図6(a)に示す写真画像は、人物の明度が高く、画像全体に占める人物の顔部分の面積の割合も適度に大きいが、画像のぶれ量が大きく顔が不明瞭であり、また、顔の向きのずれ量が大きく正面方向から90度程度ずれている。図6(b)は、顔の面積が適度な大きさであり、正面を向いているが、画像がぼけて顔が明瞭でなく、また、顔の明るさである明度が低い。このように画像の品質が低いため、図6(a)及び(b)に示す写真画像の正解画質スコアは0.04に設定されている。
【0093】
図6(c)及び(d)は、正解画質スコアが0.1より大きく0.2以下に設定された学習用画像の例である。図6(c)及び(d)に示す写真画像は、背景の明るさに比べて人物の明度が低く顔を判別できない。また、画像全体に占める顔の大きさが小さい。このように画質が低いため、図6(c)及び(d)に示す写真画像の正解画質スコアは0.12に設定されている。
【0094】
図7(a)及び(b)は、正解画質スコアが0.2より大きく0.3以下に設定された学習用画像の例である。図7(a)に示す写真画像は、画像全体に占める顔領域の割合が大きく、画像の中央近くに位置しているが、顔の明度が低く、また、顔が下を向いており正面方向からのずれ量が大きい。図7(b)は、画像の右下部に位置する人物の顔の大きさが所定の適正範囲に収まっており、また、顔の欠けもないが、中央からの位置ずれが大きい。このように画像の品質が高くないため、図7(a)及び(b)に示す写真画像の正解画質スコアはそれぞれ0.21と0.25に設定されている。
【0095】
図7(c)及び(d)は、正解画質スコアが0.3より大きく0.4以下に設定された学習用画像の例である。この図7(c)及び(d)に示す写真画像は、顔領域の割合が大きくないが、ぼけやぶれがなく、比較的明度が高いため顔をはっきり認識できる。図7(c)及び(d)に示す写真画像の画質はやや低いため、正解画質スコアはそれぞれ0.33と0.38に設定されている。
【0096】
図8(a)及び(b)は、正解画質スコアが0.4より大きく0.5以下に設定された学習用画像の例である。図8(a)に示す写真画像は、顔が横を向いているが、顔の大きさが適正であり、明度も明るく、ぼけやぶれもない。図8(b)は、顔が画像のほぼ中央に位置し、正面を向き、明度もあり、明瞭を認識できる。しかし、画像全体に占める顔領域の割合が適正範囲より大きくなっている。このように画像の品質が中程度からやや低いため、図8(a)及び(b)に示す写真画像の正解画質スコアはそれぞれ0.42に設定されている。
【0097】
図8(c)及び(d)は、正解画質スコアが0.5より大きく0.6以下に設定された学習用画像の例である。このどちらの写真画像も、顔が横を向いているものの、顔の大きさが適正範囲に収まっており、ぼけもぶれも顔の欠けもない。画像の品質が中程度であるため、図8(c)及び(d)に示す写真画像の正解画質スコアはそれぞれ0.54と0.58に設定されている。
【0098】
図9(a)及び(b)は、正解画質スコアが0.6より大きく0.7以下に設定された学習用画像の例である。これらの写真画像は、顔の大きさが適正であり、ぼけもぶれも顔の欠けもなく、明度も十分である。これらの画質は中程度よりも高いため、図9(a)及び(b)に示す写真画像の正解画質スコアはそれぞれ0.62と0.67に設定されている。
【0099】
図9(c)及び(d)は、正解画質スコアが0.7より大きく0.8以下に設定された学習用画像の例である。これらの写真画像は、顔の大きさが適正で、ぼけもぶれも顔の欠けもなく、明度も十分であり、顔がほぼ正面を向いている。これらの画質は良好であるため、図9(c)及び(d)に示す写真画像の正解画質スコアはそれぞれ0.71と0.79に設定されている。
【0100】
図10(a)及び(b)は、正解画質スコアが0.8より大きく0.9以下に設定された学習用画像の例である。これらの写真画像は、画像全体に占める顔領域の割合も適正範囲に収まり、顔の欠けがなく、画像のぼけやぶれがなく人物の明度も高いため顔が明確に確認できる。これらの画質は非常に良好であるため、図10(a)及び(b)に示す写真画像の正解画質スコアはそれぞれ0.83に設定されている。
【0101】
図5図10に示すような正解画質スコアが設定された学習用画像を多数、教師データとして用いて機械学習を行い、学習済み画質スコア生成モデルが生成される。
【0102】
図2に示す画像選択部29における撮影画像の選択の際、この学習済み画質スコア生成モデルを利用して画質スコア881を算出する場合、画像をこの学習済み画質スコア生成モデルに入力して演算を行うと、出力として0以上1以下の範囲の画質スコア881が求められる。画像選択部29では、画質スコア881が大きい画像を優先して選択させることが好ましい。
【0103】
図11は、複数の撮影画像の中から選択候補画像を抽出する流れの例を示す図である。この処理は、画像選択部29において行われる。この処理の目的は、画像選択部29での画像の選択において、画質の低い画像を選択候補から除外したり、連続撮影された画像の中から画質の高い1枚以外の画像を選択候補から除外したりすることである。
【0104】
図11に示す選択候補画像を抽出する処理は、大きく分けて、画像単体評価処理P1と複数画像間評価処理P3とで構成される。
【0105】
この画像単体評価処理P1は、画像保存部25に保存されている画像の1枚ごと画質スコア881を算出して、画質スコア881が所定の閾値未満の画像を選択候補から除外する処理である。この画像単体評価処理P1により、画像選択部29で選択される画像は、画質スコア881が所定の閾値以上の画像の品質の高いもののみとなる。
【0106】
複数画像間評価処理P3は、連続撮影された一連の画像の中から画質の高い1枚以外の画像を選択候補から除外する処理である。この処理P3では、2枚の撮影画像の撮影時間を比較して撮影時間差が所定の時間差閾値以下であり、かつ、その2枚の画像の類否を検出して画像が類似すると判定された場合に、その2枚の画像は連続撮影されたものと判定される(連写画像グループ検出処理P2)。そして、連続撮影されたと判定される一連の画像の中で優先度スコア880が最も高い画像1枚を選択候補画像とし、一連の画像のそれ以外の画像を選択候補から除外する。
【0107】
優先度スコア880とは、画像を選択する際の撮影画像の優先度を示し、0以上1以下の範囲の数値をとり、この数値が大きいほど優先度が高くなる。
【0108】
この優先度スコア880は、例えば、画質スコア881と、人物表情スコア882と、施設家庭スコア883と、お気に入りスコア884とから算出するようにしてもよい。
【0109】
図12は、優先度スコア880を求める際に使用される各スコアの例を示す図であり、(a)は画質スコア881、(b)は人物表情スコア882、(c)は施設家庭スコア883、(d)お気に入りスコア884を示す図である。
【0110】
図12(a)に示す画質スコア881は、上述の通り画像の品質を示すスコアであり0以上1以下の範囲の数値となる。
【0111】
図12(b)に示す人物表情スコア882は、選択条件における特定人物の設定の有無と指定表情の設定の有無によって決定される。特定人物の設定の有無は、例えば、図3に示す選択条件入力画面800の人物の選択810において、顔画像表示枠811の選択が一人でも行われていれば特定人物の設定が有りとなり、一人も行われない場合、特定人物の設定が無しとなる。また、指定表情の設定の有無は、例えば、選択条件入力画面800の表情の選択820において基本表情表示枠821の選択が1個でもあるか、または、表情設定画像表示枠822に入力がある場合に、指定表情の設定が有りとなる。また、基本表情表示枠821が1個も選択されず、かつ、表情設定画像表示枠822にも入力がされない場合、指定表情の設定が無しとなる。
【0112】
特定人物の設定が有り指定表情の設定が無い場合、人物表情スコア882は、特定人物が写っている画像が1.0、その他の画像が0.0となる。特定人物の設定が無く指定表情の設定が有る場合、人物表情スコア882は、指定表情の人物が写っている画像が1.0、その他の画像が0.0となる。特定人物の設定が有り指定表情の設定も有る場合、特定人物が指定表情で写っている画像が1.0、その他の画像が0.0となる。特定人物の設定が無く指定表情の設定も無い場合、全ての画像で0.0となる。
【0113】
図12(c)に示す施設家庭スコア883は、選択条件における撮影画像の選択が、「家庭の写真優先」であるか、「園の写真優先」であるかによって決定される。例えば、図3に示す施設家庭選択割合入力スライダ841により、保育園の画像の選択割合が50%未満に設定されると「家庭の写真優先」とし、保育園の選択割合が50%に設定されると「園と家庭の写真が同じくらい」とし、保育園の選択割合が50%より大きく設定されると「園の写真優先」とするようにしてもよい。また、施設家庭選択割合入力スライダ841の代わりに、「家庭の写真優先」ボタン、「園の写真優先」ボタン、「園と家庭の写真が同じくらい」ボタンにより優先度を設定するようにしてもよい。
【0114】
「家庭の写真優先」の場合、施設家庭スコア883は、家庭の画像が1.0、保育園の画像が0.0となる。「園の写真優先」の場合、保育園の画像が1.0、家庭の画像が0.0となる。「園と家庭の写真が同じくらい」の場合、全ての画像で0.0となる。
【0115】
図12(d)に示すお気に入りスコア884は、利用者が指定したお気に入り画像について優先して選択する設定になっているかによって決定される。例えば、図3に示す選択条件入力画面800に先立って表示される撮影画像一覧表示(図示せず)の中から利用者がお気に入りとして指定した画像を、お気に入り画像として画像選択サーバ2に登録するようにしてもよい。そして、お気に入り画像として登録されている撮影画像を優先して選択させる設定を選択条件に取り入れてもよい。このような構成にした場合、選択条件として、お気に入り画像を優先する設定になっていれば、お気に入りスコア884は、お気に入り登録された画像が1.0、その他の画像が0.0となる。また、お気に入り画像を優先する設定になっていない場合、全ての画像で0.0となる。
【0116】
ここで、優先度スコア880をSとし、画質スコア881をS、人物表情スコア882をS、施設家庭スコア883をS、お気に入りスコア884をSとする。また、画質スコア881の重みをW、人物表情スコア882の重みをW、施設家庭スコア883の重みをW、お気に入りスコア884の重みをWとする。このとき、優先度スコア880を次式のように算出するようにしてもよい。重みW、W、W、Wは、全て0.25としてもよいが、それぞれの重みの大きさを変化させてもよい。なお、重みW、W、W、Wの和は、1.0となる。
【0117】
【数1】
【0118】
次に図11に示す選択候補画像を抽出する流れを詳細に説明する。
【0119】
まず、図2に示す画像保存部25に保存されている撮影画像の画質スコア881が算出される(S1ステップ)。算出されたこの画質スコア881は、所定の閾値以上であるか検査され(S2ステップ)、所定の閾値未満の場合(S2ステップのNo)、低画質であると判定されて、その画像に除外フラグが設定される(S4ステップ)。除外フラグが設定された画像は、選択候補から除外される。所定の閾値として0.3を設定してもよいが、求める画質に応じて閾値を変化させてもよい。画質スコア881が所定の閾値以上の場合(S2ステップのYes)、その撮影画像の優先度スコア880が算出される(S3ステップ)。
【0120】
画像保存部25に保存されており選択される可能性のある画像が他にあるか検査され(S5ステップ)、選択される可能性のある画像がある場合には(S5ステップのYes)、評価対象の画像があると判定されて、その他の画像についても画質スコア881の算出、画質の検査及び優先度スコア880の算出が行われる。以上の処理は、選択される可能性のある全ての画像に対して行われる(画像単体評価処理P1)。
【0121】
選択される可能性のある全ての画像について、画質スコア881が算出されると(S5ステップのNo)、複数画像間評価処理P3に移行する。
【0122】
この複数画像間評価処理P3では、まず、連写画像グループ検出処理P2により連続撮影された画像が検出され、その後、連続撮影された一連の画像の中から1枚の選択候補画像が抽出される。
【0123】
連写画像グループ検出処理P2では、画像保存部25に保存されている画像の中から2枚の画像が取り出され、その2枚の撮影時間の間隔(撮影時間差)が所定の時間差閾値以下であるか検査される(S10ステップ)。撮影時間差が所定の時間差閾値より大きい場合(S10ステップのNo)、その2枚の画像に対して連写フラグが設定済みであるか検査される(S14ステップ)。連写フラグは、連続撮影されたと判定されたときにその画像に設定される。また、連続撮影でないと判定された画像には、非連写フラグが設定される。所定の時間差閾値は、任意に設定すればよく、例えば、3秒間程度としてもよい。S14ステップの検査の結果、その画像に連写フラグが設定されていなければ(S14ステップのNo)、非連写フラグが設定される(S15ステップ)。
【0124】
撮影時間差が所定の時間差閾値以下の場合(S10ステップのYes)、その2枚の画像についての類似度が検出され、2枚の画像が類似しているか否かが判定される(S11ステップ)。画像の類似度の検出には、既存の検出方法を用いることができ、例えば、2枚の画像間の相関係数を利用する方法や、2枚の画像の赤、青、緑の画素の信号レベルのヒストグラム同士の関連性を利用する方法などを用いて検出すればよい。2枚の画像が類似すると判定される場合(S12ステップのYes)、それら2枚の画像には連写フラグが設定される(S13ステップ)。一方、2枚の画像が類似しないと判定される場合(S12ステップのNo)、その画像に連写フラグが設定されていなければ(S14ステップのNo)、非連写フラグが設定される(S15ステップ)。
【0125】
以上の連写画像グループ検出処理P2は、比較する2枚の画像がなくなるまで繰り返される(S16ステップのYes)。
【0126】
比較する必要のある2枚の画像の全ての組み合わせについて、連写画像グループ検出処理P2が行われると(S16ステップのNo)、連写フラグが設定されていて連続撮影されたと判定される一連の画像(連写画像グループ)の中から、優先度スコア880が最大の撮影画像を選択候補画像に決定し、その他の画像には除外フラグを設定し選択画像から除外する(S20ステップ)。
【0127】
以上のような、連続撮影された一連の画像を検出し、その中から選択候補画像を決定する処理を、評価対象となる画像がなくなるまで繰り返す(S21ステップのYes)。
【0128】
このようにして、選択候補画像が抽出される。
【0129】
画像選択部29では、抽出された選択候補画像の中から、画像を選択することになる。この選択は、優先度スコア880や画質スコア881が大きい順に優先して選び出すようにしてもよい。また、撮影日が集中しないように、ある一定期間ごとに撮影期間を分割し、その期間内で、優先度スコア880や画質スコア881が大きい画像を優先して選び出すようにしてもよい。
【0130】
図3に示す選択条件入力画面800に先立って表示される別の選択条件入力画面では、電子アルバムのページ数、電子アルバム1ページあたりの画像数や選択する画像総数、選択する撮影画像の撮影期間などを選択条件として設定できるようになっている。撮影期間としては、「所定の撮影期間」である例えば、4月から次の年の3月までの1年間、園児の誕生日を起点とする1年間、入園から卒園までの期間などを任意に設定できる。
【0131】
図13は、家庭端末8の選択条件入力画面の例を示す概略図であり、(a)は電子アルバムに掲載する撮影画像の選択開始月を設定する画面860、(b)は設定内容の確認画面870である。図13(a)に示す開始月設定プルダウンメニュー861によって画像の選択を開始する月を設定する。開始月のプルダウンメニュー861から2019年4月を選択して、設定ボタン862を押下すると、図13(b)に示す選択期間の設定内容確認画面870が表示される。画像を取り出す期間が、1年間とあらかじめ設定されている場合、この確認画面870の開始月表示欄871には、入力された開始月である2019年4月が表示され、選択期間表示欄872には、選択する撮影画像の撮影期間である2019年4月~2020年3月が表示される。また、選択期間内の撮影画像数表示欄873には、画像選択サーバ2に保存されている2019年4月~2020年3月に撮影された画像数が表示される。この確認画面870を確認して、「次へ」ボタン874を押下すると、入力内容が確定する。
【0132】
所定の撮影期間が設定されると、その期間に撮影された画像が選択される。画像には、Exif(Exchangeable image file format)情報が自動的に付加され、この情報の中に撮影日時が含まれている。この撮影日時を参照して所定の撮影期間に撮影された画像が選択される。
【0133】
また、図2に示す画像選択部29では、設定された所定の撮影期間を複数の分割期間に区分して、区分された複数の分割期間に撮影された撮影画像の画像数が、分割期間ごとに等しくなるように選択される。例えば、所定の撮影期間として4月から次の年の3月までの1年間が指定された場合、1年間を1か月ごとに12個の分割期間に区分して、各月に含まれる画像数が等しくなるように選択される。こうすることにより、特定の月に撮影された画像が集中することなく、全ての月からバランスよく選択される。
【0134】
選択画像提供部30は、画像選択部29で選択された画像を家庭端末8や施設端末6に提供する。この選択画像提供部30は、選択条件が入力された端末に画像を送信するようになっている。このため、家庭利用者が家庭端末8を用いて選択条件を入力すると、選択された撮影画像の構成データである撮影画像情報が家庭端末8に送信される。家庭端末8では、受信した撮影画像情報から画像を構成して表示する。また、施設利用者が施設端末6を用いて選択条件を入力すると、選択された撮影画像の撮影画像情報が施設端末6に送信され、その端末6に撮影画像が表示される。
【0135】
また、この選択画像提供部30から提供される撮影画像は、電子アルバムのレイアウトを構成する情報とともに端末に送信されるため、その情報を受信する家庭端末8や施設端末6では、電子アルバムのレイアウトに選択された画像が配置された態様で表示される。このレイアウトとしては、例えば、1年間の各月ごとに画像をまとめて配置したり、泣き顔や笑顔などの表情ごとにまとめて配置したりするようにしてもよい。
【0136】
図14(a)は、施設情報管理サーバ4の機能ブロック概略図である。この施設情報管理サーバ4は、施設5である保育園の情報を保存し管理する。このサーバ4は、図示しないCPU、補助記憶装置及びRAMを含むように構成され各構成要素の動作を制御する制御部40、保育園の情報を保存し管理する施設情報管理部41、施設画像受付部42、施設画像送信部43、通信回線9を介して情報を送信する送信部44、通信回線9を介して情報を受信する受信部45を含むように構成されている。
【0137】
施設情報管理部41は、施設端末6から送られてくる保育園の情報を保存し管理する。保育園の情報としては、例えば、園児の登園時刻・降園時刻データ、園児の健康管理データ、園児の指導計画データ、園児の日誌データ、保育士の勤務計画データ、保育士の勤怠データなどがある。
【0138】
施設画像受付部42は、施設端末6から送られてくる撮影画像を受け付ける。この撮影画像としては、成長の記録としての画像やイベント時の画像などがある。
【0139】
施設画像送信部43は、施設画像受付部42で受け付けた撮影画像を、画像選択サーバ2に向けて送信する。この画像選択システム1では、撮影画像を一括して画像選択サーバ2に保存する仕組みになっているため、画像が画像選択サーバ2に送信される。この施設情報管理サーバ4の処理において、画像が必要な場合、画像選択サーバ2から必要とする画像を取得して使用する。もちろん、このようなシステム構成にせず、施設端末6から受け付けた画像を施設情報管理サーバ4内に保存するようにしてもよい。
【0140】
図14(b)は施設端末6の機能ブロック概略図であり、図14(c)は家庭端末8の機能ブロック概略図である。施設端末6や家庭端末8には、PC(Personal Computer)、スマートフォン、タブレットなどの情報端末を用いることができる。施設端末6と家庭端末8は、同様の構成であるため、まとめて説明する。
【0141】
図14(b)と(c)に示すように、施設端末6と家庭端末8は、それぞれ、図示しないCPU、補助記憶装置及びRAMを含む制御部60、80と、LCD(Liquid Crystal Display)や有機EL(Electro Luminescence)ディスプレイ等の表示装置で構成される表示部61、81と、キーボードやタッチパネル等の入力装置で構成される入力部62、82と、CMOS(Complementary Metal Oxide Semiconductor)エリアセンサやCCD(Charge Coupled Device)エリアセンサ等の撮像素子を用いたカメラで構成される撮像部63、83と、前記撮像部63、83で撮影された画像を記憶する画像記憶部64、84と、通信回線9を介して画像を外部に送信する画像送信部65、85と、通信回線9を介して入力された選択条件を外部に送信する選択条件送信部66、86と、通信回線9を介して情報を送信する送信部67、87と、通信回線9を介して情報を受信する受信部68、88を含むように構成されている。
【0142】
この画像選択システム1では、施設端末6で撮影された画像や、デジタルカメラなどの撮影装置で撮影されその後その端末6に保存された画像などが、施設端末6から施設情報管理サーバ4に向けて送信される。上述のように施設情報管理サーバ4に送信された画像は、画像選択サーバ2に送られ保存される。一方、家庭端末8で撮影された画像や、他の撮影装置で撮影されその端末8に保存された画像などは、家庭端末8から画像選択サーバ2に向けて送信され保存される。
【0143】
なお、撮像部63、83を備えていない施設端末6や家庭端末8の構成もあり得るが、この構成の場合でも特に変わりはなく、他の撮影装置を用いて撮影された画像が施設端末6や家庭端末8の画像記憶部64、84にコピーされて記憶される。そして、画像記憶部64、84に記憶された画像が、画像送信部65、85から施設情報管理サーバ4、画像選択サーバ2に送信される。
【0144】
画像選択サーバ2に保存されている画像を用いて電子アルバム等を作製する場合、選択条件入力画面の要求信号が施設端末6や家庭端末8から送信され、この信号を受信した画像選択サーバ2からは入力画面情報が送られてくる。この入力画面情報を受信部68、88で受け付けると、制御部60、80の制御に基づいて、この入力画面情報から選択条件入力画面が構成され、構成された選択条件入力画面が表示部61、81に表示される。図3に示す選択条件入力画面800は、家庭端末8に表示される入力画面800であるが、施設端末6にもほぼ同様の選択条件入力画面が表示される。
【0145】
選択条件入力画面への入力操作は入力部62、82を介して行われる。この選択条件入力画面に入力された選択条件は、選択条件送信部66、86から画像選択サーバ2に向けて送信される。
【0146】
次に、本実施の形態に係る画像選択システム1の使用方法について説明する。
【0147】
図15は、この画像選択システム1において、家庭端末8を用いて選択条件を設定する動作の流れの一例を示す概略図である。
【0148】
まず、家庭端末8と画像選択サーバ2との接続を確立するため、利用者IDとパスワードを家庭端末8から画像選択サーバ2に向けて送信し、ログインを行う(S800ステップ)。
【0149】
次に、家庭端末8は、画像選択サーバ2に向けて選択条件入力画面を要求する(S801ステップ)。この選択条件入力画面の要求信号を受け付ける(S200ステップ)と、画像選択サーバ2は、選択条件入力画面を家庭端末8に提供する(S201ステップ)。具体的には選択条件入力画面を構成するデータである入力画面情報が家庭端末8に向けて送信され、この情報を受信した家庭端末8は、この入力画面情報から選択条件入力画面を構成して表示する(S802ステップ)。家庭端末8に提供される最初の選択条件入力画面では、電子アルバムのページ数、電子アルバム1ページあたりの画像数、選択する画像総数、選択する撮影画像の撮影期間などを選択条件として入力して設定できるようになっている。家庭利用者によって入力される電子アルバムのページ数などの選択条件は、画像選択サーバ2に送信される(S803ステップ、S804ステップ)。画像選択サーバ2がこの選択条件を受け付ける(S202ステップ)と、受信したこの選択条件を記憶する。
【0150】
次に、画像選択サーバ2から撮影画像一覧が家庭端末8に提供される(S203ステップ)。家庭利用者は、端末8に表示される撮影画像一覧の中からお気に入り画像を選択すること(S805ステップ)ができ、この情報が画像選択サーバ2に送信される。画像選択サーバ2では、このお気に入り画像選択情報を受け付ける(S204ステップ)と、選択された画像がお気に入り画像であることを登録する。
【0151】
続いて、画像選択サーバ2は、図3に示す選択条件入力画面800を家庭端末8に提供する(S205ステップ)。
【0152】
家庭端末8は、受信した入力画面情報に基づいて選択条件入力画面800を構成し表示する(S806ステップ)。家庭利用者が、この選択条件入力画面800から顔画像表示枠811に表示される人物を特定する顔画像や基本表情表示枠821に表示される指定表情などの選択条件を入力し、決定ボタン860を押下すると、入力された選択条件が画像選択サーバ2に送信される(S807ステップ、S808ステップ)。
【0153】
この入力された選択条件を受け付ける(S206ステップ)と、画像選択サーバ2は、この選択条件を記憶するとともに、この選択条件に基づいて画像保存部25に保存されている複数の撮影画像の中から1以上の画像を選択する(S207ステップ)。このようにして選択された1以上の画像は、家庭端末8に提供され(S208ステップ)、家庭端末8に選択画像プレビュー表示として画面表示される(S809ステップ)。
【0154】
この段階において家庭端末8に表示される画像は、確定前の画像であり、家庭利用者によって取捨選択され、電子アルバムに掲載される画像が修正される(S810ステップ)。この画像の修正情報が画像選択サーバ2に送信される(S811ステップ)と、これを受信した画像選択サーバ2では、その修正情報に基づいて画像の選択が修正され、電子アルバムに掲載される画像が確定する(S209ステップ、S210ステップ)。最後に、確定した画像が家庭端末8に向けて提供され(S211ステップ)、その画像が家庭端末8に表示される(S812ステップ)。
【0155】
図16は、家庭端末8に表示される選択画像プレビュー画面から選択画像を修正する際の画面の遷移を示す概略図である。
【0156】
図16(a)は、選択画像プレビュー画面900であり、画像選択サーバ2において選択条件に基づいて選択された画像が表示される(S809ステップ)。この図の例では、2020年4月に撮影された画像が画像表示領域902に表示されている。画像の編集を行う場合には、この画面900の「写真を修正する」ボタン904を押下する。
【0157】
そうすると、図16(b)に示す編集画面910が表示される。画像を削除する場合には、画像表示領域902から削除画像位置912の画像を選択し、削除ボタン914を押下する。続いて、図16(c)に示す写真の削除画面920が表示され、削除ボタン914を押下すると、削除画像位置912の画像の削除が確定する。
【0158】
その後は、図16(d)に示す編集画面910に戻る。
【0159】
次に、画像を追加する場合には、この編集画面910で追加画像位置922を選択して、追加ボタン924を押下する。そうすると、図16(e)に示す写真の選択画面930が表示される。この図の例では、2020年4月に撮影された画像一覧が写真一覧表示領域932に表示されている。この画像一覧の中から追加画像934を選択し、「選択した写真を追加」ボタン936を押下すると、図16(f)に示すように編集画面910の追加画像位置922に画像が追加される。最後にこの編集画面910の「編集を終了する」ボタン940を押下すると、選択画像の修正動作が終了する(S810ステップ)。
【0160】
次に、本実施の形態に係る画像選択システム1の効果について説明する。
【0161】
本実施の形態によれば、画像選択サーバ2に保存されている複数の撮影画像の中から1以上の画像を選択する選択条件として、人物を特定する顔画像、及び、表情を指定する指定表情が含まれている。画像選択サーバ2では、その顔画像により特定される人物(特定人物)が指定表情で写っている撮影画像が選択される。このように、きめ細かく選択条件を設定できる。また、この選択条件に基づいて選択された画像に、人物の表情が揃っているなどの統一感を持たせることができる。
【0162】
また、本実施の形態によれば、選択条件として表情設定画像823が入力され、その表情設定画像823に写っている人物の表情が検出される。そして、検出された表情(設定表情)の画像が選択される。このように、喜怒哀楽のような基本的な表情と異なる特徴的な表情についても選択条件として設定でき、その特徴的な表情の画像を抽出できる。
【0163】
また、本実施の形態によれば、複数人の顔画像により特定されるそれぞれの人物について、その人物が写っている画像の選択割合(人物選択割合)を選択条件として設定できる。このため、画像選択サーバ2により選択される撮影画像の中で、特定の人物が写っている画像の割合を自在に調整できる。
【0164】
また、本実施の形態によれば、施設利用者により撮影された画像と家庭利用者により撮影された画像との選択割合(施設家庭画像選択割合)を選択条件として設定できる。このため、選択される画像の中で、施設や家庭において撮影された画像の割合を自在に調整できる。
【0165】
また、本実施の形態によれば、顔画像により特定される人物(特定人物)とともに写っている付随物を選択条件として設定できる。このため、選択される画像に写っている人物と付随物の組み合わせを自由に選ぶことができる。
【0166】
また、本実施の形態によれば、画像選択サーバ2が、優先選択基準に基づいて、優先して選択するため、高品質な画像が選択される。
【0167】
また、本実施の形態によれば、画像の品質を示す画質スコア881が算出され、この画質スコア881が、所定の閾値未満の撮影画像は選択されない。このように低画質の撮影画像は選択されず除外することができる。
【0168】
また、本実施の形態によれば、機械学習により生成される学習済み画質スコア生成モデルによって画質スコア881が算出される。このため、様々な撮影画像に対して安定して適切な画質スコア881を求めることができる。
【0169】
また、本実施の形態によれば、画質スコア881に基づいて、撮影画像を優先して選択するため、高品質な撮影画像を確実に選択できる。
【0170】
また、本実施の形態によれば、所定の撮影期間に撮影された画像が選択される。このため、長期間に渡り撮影された画像の中から特定の期間に撮影された画像を容易に選択できる。
【0171】
また、本実施の形態によれば、所定の撮影期間を複数の分割期間に区分して、その複数の分割期間に撮影された撮影画像の画像数が、分割期間ごとに等しくなるように選択される。このため、画像がある時期に集中して選択されることがなくなり、所定の期間全体に渡り満遍なく分散して選択される。この結果、多様な画像を選択できる。
[その他の実施の形態]
なお、上述の画像選択システム1では、画像選択サーバ2などのサーバを用いたシステム構成を採用しているが、この画像選択システム1の機能を1台の装置に組み込みスタンドアローンの構成として実現するようにしてもよい。
【0172】
また、上述の画像選択システム1では、撮影画像を選択する際の画像処理の演算を画像選択サーバ2で行う構成としているが、画像処理用の別のサーバを追加して、このサーバで画像処理の演算を行うようにしてもよい。
【0173】
また、上述の画像選択システム1では、画像選択サーバ2に撮影画像が保存される構成となっているが、データベース用の別のサーバを追加して、このサーバに撮影画像を保存するようにしてもよい。
【0174】
また、上述の画像選択システム1は、本発明を実現するための一形態であり、本発明はこの形態に限定されない。各要素の構成に変更を加えて本発明を実現するようにしてもよい。
【符号の説明】
【0175】
1…画像選択システム、2…画像選択サーバ、4…施設情報管理サーバ、5…施設、6…施設端末、7…家庭、8…家庭端末、9…通信回線、20…制御部、24…画像受付部、25…画像保存部、26…条件入力画面提供部、27…選択条件受付部、28…表情検出部、29…画像選択部、30…選択画像提供部、800…選択条件入力画面、810…人物の選択、811…顔画像表示枠、820…表情の選択、821…基本表情表示枠、822…表情設定画像表示枠、823…表情設定画像、830…人物の選択割合の設定、831…人物選択割合入力スライダ、840…園と家庭の写真の選択割合の設定、841…施設家庭選択割合入力スライダ、850…人物以外の被写体設定、851…付随物チェックボックス、880…優先度スコア、881…画質スコア、882…人物表情スコア、883…施設家庭スコア、884…お気に入りスコア
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10
図11
図12
図13
図14
図15
図16