(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-27
(45)【発行日】2024-09-04
(54)【発明の名称】画像処理装置、プログラム、画像処理システム、及び画像処理方法
(51)【国際特許分類】
G06T 7/254 20170101AFI20240828BHJP
G06T 7/00 20170101ALI20240828BHJP
G06T 5/50 20060101ALI20240828BHJP
G06T 1/40 20060101ALI20240828BHJP
H04N 7/18 20060101ALI20240828BHJP
【FI】
G06T7/254 B
G06T7/00 350C
G06T5/50
G06T1/40
H04N7/18 D
(21)【出願番号】P 2022038559
(22)【出願日】2022-03-11
【審査請求日】2023-10-11
(73)【特許権者】
【識別番号】501440684
【氏名又は名称】ソフトバンク株式会社
(74)【代理人】
【識別番号】110000877
【氏名又は名称】弁理士法人RYUKA国際特許事務所
(72)【発明者】
【氏名】安居 覚
(72)【発明者】
【氏名】吉田 智博
(72)【発明者】
【氏名】石若 裕子
【審査官】橘 高志
(56)【参考文献】
【文献】特開2007-221757(JP,A)
【文献】特開2021-005775(JP,A)
【文献】特表2017-520135(JP,A)
【文献】特開2021-129146(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
G06T 7/254
G06T 7/00
G06T 5/50
G06T 1/40
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
対象範囲を第1のシャッタースピードで撮影した第1撮影画像と、前記対象範囲を前記第1のシャッタースピードよりも遅い第2のシャッタースピードで撮影した第2撮影画像とを取得する撮影画像取得部と、
前記第1撮影画像のうち前記第2撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去した画像を生成する除去処理部と
を備える画像処理装置。
【請求項2】
前記撮影画像取得部は、第1の被写体の動きの速度に対応する前記第2のシャッタースピードで撮影した前記第2撮影画像を取得し、
前記除去処理部は、前記第1撮影画像のうち前記第2撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去することによって、前記第1撮影画像から前記第1の被写体を抽出した前記画像を生成する、請求項1に記載の画像処理装置。
【請求項3】
前記撮影画像取得部は、前記対象範囲を、前記第1の被写体とは動きの速度が異なる第2の被写体に対応する第3のシャッタースピードで撮影した第3撮影画像を取得し、
前記除去処理部は、前記第1撮影画像のうち前記第3撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去することによって、前記第1撮影画像から前記第2の被写体を抽出した画像を生成する、請求項2に記載の画像処理装置。
【請求項4】
前記対象範囲を撮影可能な一のカメラを制御するカメラ制御部
を更に備え、
前記カメラ制御部は、前記対象範囲を前記第1のシャッタースピード及び前記第2のシャッタースピードで連続して撮影するように前記一のカメラを制御する、請求項1から3のいずれか一項に記載の画像処理装置。
【請求項5】
前記対象範囲を撮影可能な複数のカメラを制御するカメラ制御部
を更に備え、
前記カメラ制御部は、前記複数のカメラのうちの第1のカメラ及び第2のカメラに、撮影タイミングを合わせて、一方に前記対象範囲を前記第1のシャッタースピードで撮影させ、他方に前記対象範囲を前記第2のシャッタースピードで撮影させるよう制御する、請求項1から3のいずれか一項に記載の画像処理装置。
【請求項6】
対象範囲を異なるシャッタースピードで撮影した場合の複数の画像と、前記複数の画像のそれぞれに対応するシャッタースピードと、画像内の被写体の種類を識別可能な被写体情報とを含む学習データを用いた学習によって、対象範囲を撮影した複数の撮影画像から特定の被写体を抽出するニューラルネットワークをディープラーニングにより学習させる学習実行部と、
前記学習実行部による学習済みニューラルネットワークを用いて、対象範囲を撮影した複数の撮影画像から、特定の被写体を抽出した画像を生成する抽出処理部と
を更に備える、請求項1から5のいずれか一項に記載の画像処理装置。
【請求項7】
前記被写体の動きの速度が変化するシンセティックデータを用いて、前記学習データを生成する学習データ生成部
を更に備え、
前記学習実行部は、前記学習データ生成部によって生成された前記学習データを用いて前記ニューラルネットワークを学習させる、請求項6に記載の画像処理装置。
【請求項8】
前記撮影画像取得部は、動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得し、
前記画像処理装置は、前記複数の撮影画像のそれぞれについて、他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、前記複数種類の被写体のそれぞれの動きの速度を推定する速度推定部
をさらに備える、請求項1から7のいずれか一項に記載の画像処理装置。
【請求項9】
動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得する撮影画像取得部と、
前記複数の撮影画像のそれぞれについて、前記複数の撮影画像の他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、前記複数種類の被写体のそれぞれの動きの速度を推定する速度推定部と
を備える、画像処理装置。
【請求項10】
コンピュータを、請求項1から9のいずれか一項に記載の画像処理装置として機能させるためのプログラム。
【請求項11】
請求項5に記載の画像処理装置と、
前記複数のカメラと
を備える、画像処理システム。
【請求項12】
コンピュータによって実行される画像処理方法であって、
対象範囲を第1のシャッタースピードで撮影した第1撮影画像と、前記対象範囲を前記第1のシャッタースピードよりも遅い第2のシャッタースピードで撮影した第2撮影画像とを取得する撮影画像取得段階と、
前記第1撮影画像のうち前記第2撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去した画像を生成する除去処理段階と
を備える画像処理方法。
【請求項13】
コンピュータによって実行される画像処理方法であって、
動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得する撮影画像取得段階と、
前記複数の撮影画像のそれぞれについて、前記複数の撮影画像の他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、前記複数種類の被写体のそれぞれの動きの速度を推定する速度推定段階と
を備える画像処理方法。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、信号処理装置、プログラム、画像処理システム、及び画像処理方法に関する。
【背景技術】
【0002】
特許文献1には、水槽内の魚を撮像した画像を解析することによって、魚の生育状態を監視するシステムが記載されている。
[先行技術文献]
[特許文献]
[特許文献1]特開2003-250382号公報
【発明の概要】
【課題を解決するための手段】
【0003】
本発明の一実施態様によれば、信号処理装置が提供される。前記画像処理装置は、対象範囲を第1のシャッタースピードで撮影した第1撮影画像と、前記対象範囲を前記第1のシャッタースピードよりも遅い第2のシャッタースピードで撮影した第2撮影画像とを取得する撮影画像取得部を備えてよい。前記画像処理装置は、前記第1撮影画像のうち前記第2撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去した画像を生成する除去処理部を備えてよい。
【0004】
前記撮影画像取得部は、第1の被写体の動きの速度に対応する前記第2のシャッタースピードで撮影した前記第2撮影画像を取得してよく、前記除去処理部は、前記第1撮影画像のうち前記第2撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去することによって、前記第1撮影画像から前記第1の被写体を抽出した前記画像を生成してよい。前記撮影画像取得部は、前記対象範囲を、前記第1の被写体とは動きの速度が異なる第2の被写体に対応する第3のシャッタースピードで撮影した第3撮影画像を取得してよく、前記除去処理部は、前記第1撮影画像のうち前記第3撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去することによって、前記第1撮影画像から前記第2の被写体を抽出した画像を生成してよい。
【0005】
前記画像処理装置は、前記対象範囲を撮影可能な一のカメラを制御するカメラ制御部を更に備えてよく、前記カメラ制御部は、前記対象範囲を前記第1のシャッタースピード及び前記第2のシャッタースピードで連続して撮影するように前記一のカメラを制御してよい。前記画像処理装置は、前記対象範囲を撮影可能な複数のカメラを制御するカメラ制御部を更に備えてよく、前記カメラ制御部は、前記複数のカメラのうちの第1のカメラ及び第2のカメラに、撮影タイミングを合わせて、一方に前記対象範囲を前記第1のシャッタースピードで撮影させ、他方に前記対象範囲を前記第2のシャッタースピードで撮影させるよう制御してよい。
【0006】
前記画像処理装置は、対象範囲を異なるシャッタースピードで撮影した場合の複数の画像と、前記複数の画像のそれぞれに対応するシャッタースピードと、被写体の種類を識別可能な被写体情報とを含む学習データを用いた学習によって、対象範囲を撮影した複数の撮影画像から特定の被写体を抽出するニューラルネットワークをディープラーニングにより学習させる学習実行部と、前記学習実行部による学習済みニューラルネットワークを用いて、対象範囲を撮影した複数の撮影画像から、特定の被写体を抽出した画像を生成する抽出処理部とを更に備えてよい。前記画像処理装置は、前記複数種類の被写体の動きの速度が変化するシンセティックデータを用いて、前記学習データを生成する学習データ生成部を更に備えてよく、前記学習実行部は、前記学習データ生成部によって生成された前記学習データを用いて前記ニューラルネットワークを学習させてよい。
【0007】
前記撮影画像取得部は、動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得してよく、前記画像処理装置は、前記複数の撮影画像のそれぞれについて、他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、前記複数種類の被写体のそれぞれの動きの速度を推定する速度推定部をさらに備えてよい。
【0008】
本発明の一実施形態によれば、画像処理装置が提供される。前記画像処理装置は、動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得する撮影画像取得部を備えてよい。前記画像処理装置は、前記複数の撮影画像のそれぞれについて、前記複数の撮影画像の他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、前記複数種類の被写体のそれぞれの動きの速度を推定する速度推定部を備えてよい。
【0009】
本発明の一実施形態によれば、コンピュータを、前記画像処理装置として機能させるためのプログラムが提供される。
【0010】
本発明の一実施形態によれば、前記画像処理装置と、前記複数のカメラとを備える、画像処理システムが提供される。
【0011】
本発明の一実施形態によれば、コンピュータによって実行される画像処理方法が提供される。前記画像処理方法は、対象範囲を第1のシャッタースピードで撮影した第1撮影画像と、前記対象範囲を前記第1のシャッタースピードよりも遅い第2のシャッタースピードで撮影した第2撮影画像とを取得する撮影画像取得段階を備えてよい。前記画像処理方法は、前記第1撮影画像のうち前記第2撮影画像との差分が予め定められた閾値より少ない部分を、前記第1撮影画像から除去した画像を生成する除去処理段階を備えてよい。
【0012】
本発明の一実施形態によれば、コンピュータによって実行される画像処理方法が提供される。前記画像処理方法は、動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得する撮影画像取得段階を備えてよい。前記画像処理方法は、前記複数の撮影画像のそれぞれについて、前記複数の撮影画像の他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、前記複数種類の被写体のそれぞれの動きの速度を推定する速度推定段階を備えてよい。
【0013】
なお、上記の発明の概要は、本発明の必要な特徴の全てを列挙したものではない。また、これらの特徴群のサブコンビネーションもまた、発明となりうる。
【図面の簡単な説明】
【0014】
【
図1】画像処理システム10の一例を概略的に示す。
【
図2】画像処理装置100による処理内容について説明するための説明図である。
【
図3】画像処理装置100による処理内容について説明するための説明図である。
【
図4】画像処理装置100の機能構成の一例を概略的に示す。
【
図5】画像処理装置100による処理の流れの一例を概略的に示す。
【
図6】画像処理装置100による処理の流れの一例を概略的に示す。
【
図7】画像処理装置100として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。
【発明を実施するための形態】
【0015】
カメラによる撮影画像の被写体のうち、動いている被写体のみを取り出すことが望まれる場合がある。例えば、魚の養殖において、魚の検知をする際に、背景はノイズとなる。背景を除去することによって、魚の検知精度を向上させることができる。しかしながら、例えば、漁網等の背景となり得るものを設定したとしても、漁網に藻が着いたり、思いもよらない生物が付着していたりするので、例えばシンセティックデータによって全てを網羅することは難しい。また、地上であれば、グリーンバックを用いることによって、特定の対象物を取り出すことも考えられるが、魚の検知の場合には、水中ではグリーンバック自体が揺れてしまう等の問題によって、グリーンバックを用いることも難しい。本実施形態に係る信号処理システム10では、例えば、カメラのシャッタースピードをパラメータ化することによって、課題解決に貢献する技術を提供する。
【0016】
以下、発明の実施の形態を通じて本発明を説明するが、以下の実施形態は特許請求の範囲にかかる発明を限定するものではない。また、実施形態の中で説明されている特徴の組み合わせの全てが発明の解決手段に必須であるとは限らない。
【0017】
図1は、画像処理システム10の一例を概略的に示す。画像処理システム10は、画像処理装置100及びカメラ200を備える。画像処理システム10は、複数のカメラ200を備えてよい。画像処理システム10は、複数ではなく、1つのカメラ200のみを備えてもよい。
【0018】
画像処理装置100とカメラ200は、ネットワーク20を介して通信してよい。ネットワーク20は、インターネットを含んでよい。ネットワーク20は、LAN(Local Area Network)を含んでよい。
【0019】
ネットワーク20は、移動体通信ネットワークを含んでよい。移動体通信ネットワークは、3G(3rd Generation)通信方式、LTE(Long Term Evolution)通信方式、5G(5th Generation)通信方式、及び6G(6th Generation)通信方式以降の通信方式のいずれに準拠していてもよい。
【0020】
画像処理装置100は、ネットワーク20に有線接続されてよい。画像処理装置100は、ネットワーク20に無線接続されてよい。画像処理装置100は、無線基地局を介してネットワーク20に接続されてよい。画像処理装置100は、Wi-Fi(登録商標)アクセスポイントを介してネットワーク20に接続されてよい。
【0021】
カメラ200は、静止画像を撮影してよい。カメラ200は、動画像を撮影してよい。カメラ200は、ネットワーク20に有線接続されてよい。カメラ200は、ネットワーク20に無線接続されてよい。カメラ200は、無線基地局を介してネットワーク20に接続されてよい。カメラ200は、Wi-Fiアクセスポイントを介してネットワーク20に接続されてよい。
【0022】
画像処理装置100とカメラ200とは直接接続されてもよい。また、画像処理装置100が、カメラ200を内蔵してもよい。
【0023】
画像処理装置100は、カメラ200が対象範囲を異なるシャッタースピードで撮影した複数の撮影画像をカメラ200から取得する。カメラ200のシャッタースピードを通常のシャッタースピードよりも遅くして撮影すると、動いている被写体が、撮影画像に残らなくなる。画像処理装置100は、このような仕組みを利用して、例えば、対象範囲を、基準となる基準シャッタースピードで撮影した撮影画像と、対象範囲を基準シャッタースピードよりも遅いシャッタースピードで撮影した撮影画像との共通部分を、基準シャッタースピードで撮影した撮影画像から除去することによって、動いている被写体のみを抽出する。
【0024】
例えば、カメラ200が動画を撮影する場合において、画像処理装置100は、複数のフレームのそれぞれについて、動いている被写体のみを抽出する。これにより、物体認識や、物体追跡等の精度を向上することができたり、物体からモーションを生成しやすくしたりすることができる。
【0025】
図2及び
図3は、画像処理装置100による処理内容について説明するための説明図である。ここでは、対象範囲が生簀である場合を例に挙げて説明する。本例において、対象範囲には、魚22、漁網24、及び固定物体26が含まれる。
【0026】
画像処理装置100は、基準となる第1のシャッタースピードで対象範囲を撮影した撮影画像310と、第1のシャッタースピードよりも遅い第2のシャッタースピードで対象範囲を撮影した撮影画像320と、第2のシャッタースピードよりも遅い第3のシャッタースピードで対象範囲を撮影した撮影画像330とを取得する。
【0027】
画像処理装置100は、例えば、一のカメラ200によって撮影された、撮影時刻が十分に同じ時刻とみなすことが可能な撮影画像310、撮影画像320、及び撮影画像330を当該カメラ200から取得する。撮影時刻が十分に同じ時刻とみなすことが可能な撮影画像310、撮影画像320、及び撮影画像330とは、カメラ200によってほぼ同時に撮影された撮影画像310、撮影画像320、及び撮影画像330であってよい。撮影時刻が十分に同じ時刻とみなすことが可能な撮影画像310、撮影画像320、及び撮影画像330とは、カメラ200によって連写された撮影画像310、撮影画像320、及び撮影画像330であってよい。
【0028】
画像処理装置100は、例えば、並べて配置された複数のカメラ200によって撮影された、撮影時刻が同時、又は撮影時刻が十分に同じ時刻とみなすことが可能な撮影画像310、撮影画像320、及び撮影画像330を当該カメラ200から取得する。撮影時刻が同時の撮影画像310、撮影画像320、及び撮影画像330とは、複数のカメラ200が同期して撮影した撮影画像310、撮影画像320、及び撮影画像330であってよい。
【0029】
複数のカメラ200による撮影は、画像処理装置100の制御の元で実行されてよい。また、複数のカメラ200による撮影は、1人又は複数人が手動で行うことによって実現されてもよい。複数のカメラ200は、対象範囲を同様にとらえられるように、複数のカメラ200同士の間隔と、対象範囲からの距離とが調整されてよい。
【0030】
漁網24の動きの速度は、魚22の動きの速度よりも遅いことから、
図2及び
図3に示す例において、撮影画像310には、魚22、漁網24、及び固定物体26の全てが含まれ、撮影画像320には、魚22が含まれず、漁網24及び固定物体26が含まれ、撮影画像330には、漁網24が含まれずに、魚22及び固定物体26が含まれている。
【0031】
画像処理装置100は、例えば、撮影画像310のうち撮影画像320との差分が予め定められた閾値より少ない部分を、撮影画像310から除去する。画像処理装置100は、撮影画像310の各画素の画素値と、撮影画像320の各画素の画素値との差分を閾値と比較することによって、撮影画像310のうち撮影画像320との差分が予め定められた閾値より少ない部分を特定してよい。当該閾値として、変化していない部分が、当該部分として特定されないような値が設定されてよい。当該閾値として、対象物が動いていない場合の変化は閾値内に含まれ、対象物が動いているときには閾値を超えるような値が設定されてよい。当該閾値は、変更可能であってもよい。当該除去処理によって、漁網24が除去された結果画像410を生成することができる。
【0032】
画像処理装置100は、例えば、撮影画像310のうち撮影画像330との差分が予め定められた閾値より少ない部分を、撮影画像310から除去する。画像処理装置100は、撮影画像310の各画素の画素値と、撮影画像330の各画素の画素値との差分を閾値と比較することによって、撮影画像310のうち撮影画像330との差分が予め定められた閾値より少ない部分を特定してよい。当該除去処理によって、魚22が除去された結果画像420を生成することができる。
【0033】
図4は、画像処理装置100の機能構成の一例を概略的に示す。画像処理装置100は、記憶部102、登録部104、カメラ制御部106、撮影画像取得部108、除去処理部110、出力制御部112、学習データ生成部114、学習実行部116、抽出処理部118、及び速度推定部120を備える。なお、画像処理装置100がこれらの全てを備えることは必須とは限らない。
【0034】
記憶部102は、各種情報を記憶する。例えば、記憶部102は、複数種類の被写体のそれぞれに対応するシャッタースピードを含む被写体SS(Shutter Speed)情報を記憶する。被写体に対応するシャッタースピードとは、当該被写体を除去するためのシャッタースピードであってよい。例えば、記憶部102は、異なる動きの速度のそれぞれに対応するシャッタースピードを含む速度SS情報を記憶する。動きの速度に対応するシャッタースピードとは、当該動きの速度の被写体を除去するためのシャッタースピードであってよい。
【0035】
登録部104は、各種情報を登録して記憶部102に記憶させる。例えば、登録部104は、被写体SS情報を登録する。登録部104は、入力された被写体SS情報を登録してよい。被写体SS情報は、人手によって生成されたり、他の装置によって生成されたりしてよい。
【0036】
登録部104は、被写体SS情報を生成してもよい。例えば、登録部104は、複数種類の被写体を識別可能な情報を含み、複数種類の被写体の動きの速度が変化するシンセティックデータを用いて、被写体SS情報を生成する。登録部104は、例えば、シンセティックデータに対して、異なるシャッタースピードで撮影した場合の複数の画像をデータ処理によって生成する。登録部104は、例えば、シンセティックデータに対して、仮想的な撮影を実行することによって、シャッタースピードが異なる複数の画像を生成する。登録部104は、生成した複数の画像同士の除去処理を実行することによって、どのシャッタースピードによって、どの被写体が除去されるかを特定することによって、被写体SS情報を生成する。
【0037】
例えば、登録部104は、速度SS情報を登録する。登録部104は、入力された速度SS情報を登録してよい。速度SS情報は、人手によって生成されたり、他の装置によって生成されたりしてよい。
【0038】
登録部104は、速度SS情報を生成してもよい。例えば、登録部104は、被写体の動きの速度の情報を含み、被写体の動きの速度が変化するシンセティックデータを用いて、速度SS情報を生成する。登録部104は、例えば、シンセティックデータに対して、異なるシャッタースピードで撮影した場合の複数の画像をデータ処理によって生成する。登録部104は、例えば、シンセティックデータに対して、仮想的な撮影を実行することによって、シャッタースピードが異なる複数の画像を生成する。登録部104は、生成した複数の画像同士の除去処理を実行することによって、どのシャッタースピードによって、どの動きの速度の被写体が除去されるかを特定することによって、速度SS情報を生成する。
【0039】
カメラ制御部106は、対象範囲を撮影可能な一のカメラ200を制御してよい。カメラ制御部106は、対象範囲を異なるシャッタースピードで連続して撮影するようにカメラ200を制御してよい。カメラ制御部106は、対象範囲を異なるシャッタースピードで連写するようにカメラ200を制御してよい。カメラ制御部106は、画像処理装置100のユーザ等によって指定されたシャッタースピードで撮影を実行するようにカメラ200を制御してよい。画像処理装置100のユーザ等は、記憶部102に記憶されている被写体SS情報又は速度SS情報を参考にして、シャッタースピードを指定し得る。
【0040】
カメラ制御部106は、対象範囲を撮影可能な複数のカメラ200を制御してよい。カメラ制御部106は、複数のカメラ200に、撮影タイミングを合わせて、異なるシャッタースピードで対象範囲を撮影させるよう制御してよい。カメラ制御部106は、例えば、同時刻を示す撮影指示を複数のカメラ200に送信する。カメラ制御部106は、例えば、同じタイミングで撮影指示を複数のカメラ200に送信する。カメラ制御部106は、画像処理装置100のユーザ等によって指定されたシャッタースピードで撮影を実行するように、それぞれのカメラ200を制御してよい。画像処理装置100のユーザ等は、記憶部102に記憶されている被写体SS情報又は速度SS情報を参考にして、シャッタースピードを指定し得る。
【0041】
撮影画像取得部108は、対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を取得する。撮影画像取得部108は、一のカメラ200によって撮影された、対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を、当該一のカメラ200から取得してよい。撮影画像取得部108は、複数のカメラ200によって撮影された、対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を、当該複数のカメラ200から取得してよい。
【0042】
除去処理部110は、撮影画像取得部108が取得した複数の撮影画像同士の組み合わせについて、一方の撮影画像のうち他方の撮影画像との差分が予め定められた閾値より少ない部分を、一方の撮影画像から除去した画像を生成する。除去処理部110は、生成した画像を記憶部102に記憶させる。
【0043】
撮影画像取得部108は、例えば、対象範囲を第1のシャッタースピードで撮影した第1撮影画像と、当該対象範囲を第1のシャッタースピードよりも遅い第2のシャッタースピードで撮影した第2撮影画像とを取得する。撮影画像取得部108は、対象範囲を第2のシャッタースピードよりも遅い第3のシャッタースピードで撮影した第3撮影画像を取得してよい。
【0044】
第1のシャッタースピードは、対象範囲における複数種類の被写体のすべてが除去されないシャッタースピードであってよい。第2のシャッタースピードは、第1の被写体に対応するシャッタースピードであってよい。第2のシャッタースピードは、第1の被写体の動きの速度に対応するシャッタースピードであってよい。第1の被写体の動きの速度に対応するシャッタースピードとは、動いている第1の被写体が画像に残らないシャッタースピードであってよい。
【0045】
第3のシャッタースピードは、第1の被写体とは動きの速度が異なる第2の被写体に対応するシャッタースピードであってよい。第3のシャッタースピードは、第2の被写体の動きの速さに対応するシャッタースピードであってよい。第2の被写体の動きの速さに対応するシャッタースピードとは、動いている第2の被写体が画像に残らないシャッタースピードであってよい。
【0046】
除去処理部110は、第1撮影画像のうち第2撮影画像との差分が予め定められた閾値より少ない部分を、第1撮影画像から除去した画像を生成する。除去処理部110は、第1撮影画像のうち第2撮影画像との差分が予め定められた閾値より少ない部分を、第1撮影画像から除去することによって、第1撮影画像から第1の被写体を抽出した画像を生成してよい。除去処理部110は、第1撮影画像のうち第3撮影画像との差分が予め定められた閾値より少ない部分を、第1撮影画像から除去することによって、第1撮影画像から第2の被写体を抽出した画像を生成してよい。
【0047】
出力制御部112は、除去処理部110によって生成され、記憶部102に記憶された画像を出力するよう制御する。例えば、出力制御部112は、除去処理部110によって生成された画像を画像処理装置100のディスプレイに表示出力する。例えば、出力制御部112は、除去処理部110によって生成された画像を他の装置に対して送信出力する。
【0048】
学習データ生成部114は、学習データを生成する。学習データ生成部114は、対象範囲を撮影した撮影画像から特定の被写体を抽出するニューラルネットワークをディープラーニングにより学習させるための学習データを生成してよい。
【0049】
学習データ生成部114は、複数種類の被写体を識別可能な情報を含み、複数種類の被写体の動きの速度が変化するシンセティックデータを用いて、学習データを生成してよい。学習データ生成部114は、シンセティックデータを用いて、対象範囲を異なるシャッタースピードで撮影した場合の複数の画像と、当該複数の画像のそれぞれに対応するシャッタースピードと、被写体の種類を識別可能な被写体情報とを含む学習データを、複数生成してよい。具体例として、学習データ生成部114は、魚と、漁網と、固定物体とを含む生簀であって、魚及び漁網の動きの速度が変化するシンセティックデータを用いて、生簀における対象範囲を異なるシャッタースピードで撮影した場合の複数の画像と、当該複数の画像のそれぞれに対応するシャッタースピードと、画像内における魚、漁網、及び固定物体を識別可能な被写体識別情報とを含む学習データを複数生成する。
【0050】
学習実行部116は、対象範囲を撮影した複数の撮影画像から特定の被写体を抽出するニューラルネットワークをディープラーニングにより学習させる。学習実行部116は、学習データ生成部114によって生成された学習データを用いた学習によって、当該ニューラルネットワークをディープラーニングによって学習させてよい。学習実行部116は、例えば、撮影画像から魚だけを抽出するニューラルネットワークを学習させる場合に、学習データのうちの、魚だけが抽出された画像を正解データとして学習させる。
【0051】
学習実行部116は、例えば、撮影画像から漁網だけを抽出するニューラルネットワークを学習させる場合に、学習データのうちの、漁網だけが抽出された画像を正解データとして学習させる。また、学習実行部116は、魚だけを抽出するニューラルネットワークに対して、転移学習を実行することによって、撮影画像から漁網だけを抽出するニューラルネットワークを学習させてもよい。
【0052】
学習実行部116は、他の装置によって生成された学習データを用いた学習によって、ニューラルネットワークをディープラーニングによって学習させてもよい。学習実行部116は、学習済みのニューラルネットワークを記憶部102に記憶させる。
【0053】
抽出処理部118は、学習実行部116による学習済みニューラルネットワークを用いて、対象範囲を撮影した複数の撮影画像から、特定の被写体を抽出した画像を生成する。抽出処理部118は、例えば、撮影画像から魚だけを抽出するニューラルネットワークを用いて、一のカメラ200によって連続的に撮影された複数の撮影画像や、複数のカメラ200によって撮影された複数の撮影画像から、魚だけを抽出した画像を生成する。
【0054】
抽出処理部118は、生成した画像を記憶部102に記憶させる。出力制御部112は、抽出処理部118によって生成された画像を出力するよう制御する。例えば、出力制御部112は、抽出処理部118によって生成された画像を画像処理装置100のディスプレイに表示出力する。例えば、出力制御部112は、抽出処理部118によって生成された画像を他の装置に対して送信出力する。
【0055】
速度推定部120は、撮影画像取得部108が取得した、動くことが可能な複数種類の被写体が含まれる対象範囲を異なるシャッタースピードで撮影した複数の撮影画像を用いて、複数種類の被写体のそれぞれの動きの速度を推定する。速度推定部120は、複数の撮影画像のそれぞれについて、他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、複数種類の被写体のそれぞれの動きの速度を推定してよい。
【0056】
上述したように、ある速度で動く被写体は、あるシャッタースピードで撮影した場合に、撮影画像に残らない。したがって、あるシャッタースピードで撮影した場合に、ある被写体が撮影画像に残らなかった場合、当該被写体は、当該シャッタースピードに対応する速度で動いていることになる。当該速度と当該シャッタースピードとの関係は、多量のデータを解析することによって特定可能であり、学習によっても特定可能であり、人の経験によっても特定可能であり得る。速度推定部120は、これらのいずれかによって特定された関係を示す関係データを予め格納してよく、当該データを用いて、速度を推定してよい。
【0057】
図5は、画像処理装置100による処理の流れの一例を概略的に示す。ここでは、カメラ200によって継続的に撮影される撮影画像から特定の被写体を抽出した画像を生成する場合の処理の流れを説明する。
【0058】
ステップ(ステップをSと省略して記載する場合がある。)102では、登録部104が、条件を登録する。登録部104は、画像処理装置100のユーザによる指示に従って条件を登録してよい。登録部104は、例えば、抽出する対象となる被写体を登録する。
【0059】
S104では、カメラ制御部106が、カメラ200の制御を開始する。カメラ制御部106は、基準シャッタースピードと、S102において登録された被写体に対応するシャッタースピードとで、対象範囲を継続的に撮影するようにカメラ200を制御してよい。
【0060】
被写体の動く速度が時系列に変化する場合、カメラ制御部106は、基準シャッタースピードと、被写体の動く速度の範囲に対応する複数の異なるシャッタースピードとで、対象範囲を継続的に撮影するようにカメラ200を制御してよい。一のカメラ200を用いる場合、カメラ制御部106は、シャッタースピードを変化させながら連写するようにカメラ200を制御してよい。複数のカメラ200を用いる場合、カメラ制御部106は、複数カメラ200のうちの1つに基準シャッタースピードを設定し、他の複数のカメラ200に、複数のシャッタースピードのそれぞれを設定してよい。
【0061】
S106では、撮影画像取得部108が、カメラ200によって撮影された撮影画像を取得する。S108では、除去処理部110が、除去処理を実行する。除去処理部110は、基準シャッタースピードで撮影した撮影画像と、複数の異なるシャッタースピードで撮影した撮影画像との間で除去処理を実行することによって、複数の画像を生成してよい。これにより比較的高い確率で、生成した複数の画像のうちの少なくともいずれかが、対象となる被写体が抽出された画像となる。
【0062】
S110では、処理を終了するか否かを判定する。画像処理装置100は、例えば、画像処理装置100のユーザによる終了指示を受領した場合に、終了すると判定する。処理を終了すると判定した場合、カメラ制御部106が、カメラ200に撮影を停止させて、処理を終了する。処理を終了しないと判定した場合、S106に戻る。
【0063】
図6は、画像処理装置100による処理の流れの一例を概略的に示す。ここでは、カメラ200によって撮影された撮影画像に含まれる複数種類の被写体の速度を推定する処理の流れを説明する。
【0064】
S202では、カメラ制御部106が、対象範囲を異なるシャッタースピードで撮影するようにカメラ200を制御し、撮影画像取得部108が、カメラ200によって撮影された、シャッタースピードの異なる撮影画像を取得する。カメラ制御部106は、一のカメラ200に、シャッタースピードを変化させながら、基準シャッタースピードと、他の複数のシャッタースピードで撮影を行わせてよい。カメラ制御部106は、複数のカメラ200のうちの1つのカメラ200に基準シャッタースピードを設定し、他の複数のカメラ200のそれぞれに異なるシャッタースピードを設定して、撮影を行わせてもよい。
【0065】
S204では、速度推定部120が、S202において取得された複数の撮影画像のそれぞれについて、他の撮影画像との差分が予め定められた閾値より少ない部分を除去することによって残存する被写体及び削除される被写体を特定し、特定結果に基づいて、複数種類の被写体のそれぞれの動きの速度を推定する。速度推定部120は、基準シャッタースピードで撮影された撮影画像と、他の複数のシャッタースピードで撮影された複数の撮影画像との間で除去処理を実行して、残存する被写体及び削除される被写体を特定してよい。速度推定部120は、特定結果と、動きの速度とシャッタースピードとの関係を示す関係データとによって、複数種類の被写体の速度を推定してよい。
【0066】
S208では、出力制御部112が、S206における推定結果を出力する。例えば、出力制御部112は、推定結果を、画像処理装置100のディスプレイに表示出力させる。これにより、画像処理装置100のユーザ等に、対象範囲に含まれる被写体の動きの速度を知得させることができる。
【0067】
図7は、画像処理装置100として機能するコンピュータ1200のハードウェア構成の一例を概略的に示す。コンピュータ1200にインストールされたプログラムは、コンピュータ1200を、本実施形態に係る装置の1又は複数の「部」として機能させ、又はコンピュータ1200に、本実施形態に係る装置に関連付けられるオペレーション又は当該1又は複数の「部」を実行させることができ、及び/又はコンピュータ1200に、本実施形態に係るプロセス又は当該プロセスの段階を実行させることができる。そのようなプログラムは、コンピュータ1200に、本明細書に記載のフローチャート及びブロック図のブロックのうちのいくつか又はすべてに関連付けられた特定のオペレーションを実行させるべく、CPU1212によって実行されてよい。
【0068】
本実施形態によるコンピュータ1200は、CPU1212、RAM1214、及びグラフィックコントローラ1216を含み、それらはホストコントローラ1210によって相互に接続されている。コンピュータ1200はまた、通信インタフェース1222、記憶装置1224、DVDドライブ、及びICカードドライブのような入出力ユニットを含み、それらは入出力コントローラ1220を介してホストコントローラ1210に接続されている。DVDドライブは、DVD-ROMドライブ及びDVD-RAMドライブ等であってよい。記憶装置1224は、ハードディスクドライブ及びソリッドステートドライブ等であってよい。コンピュータ1200はまた、ROM1230及びキーボードのようなレガシの入出力ユニットを含み、それらは入出力チップ1240を介して入出力コントローラ1220に接続されている。
【0069】
CPU1212は、ROM1230及びRAM1214内に格納されたプログラムに従い動作し、それにより各ユニットを制御する。グラフィックコントローラ1216は、RAM1214内に提供されるフレームバッファ等又はそれ自体の中に、CPU1212によって生成されるイメージデータを取得し、イメージデータがディスプレイデバイス1218上に表示されるようにする。
【0070】
通信インタフェース1222は、ネットワークを介して他の電子デバイスと通信する。記憶装置1224は、コンピュータ1200内のCPU1212によって使用されるプログラム及びデータを格納する。DVDドライブは、プログラム又はデータをDVD-ROM等から読み取り、記憶装置1224に提供する。ICカードドライブは、プログラム及びデータをICカードから読み取り、及び/又はプログラム及びデータをICカードに書き込む。
【0071】
ROM1230はその中に、アクティブ化時にコンピュータ1200によって実行されるブートプログラム等、及び/又はコンピュータ1200のハードウェアに依存するプログラムを格納する。入出力チップ1240はまた、様々な入出力ユニットをUSBポート、パラレルポート、シリアルポート、キーボードポート、マウスポート等を介して、入出力コントローラ1220に接続してよい。
【0072】
プログラムは、DVD-ROM又はICカードのようなコンピュータ可読記憶媒体によって提供される。プログラムは、コンピュータ可読記憶媒体から読み取られ、コンピュータ可読記憶媒体の例でもある記憶装置1224、RAM1214、又はROM1230にインストールされ、CPU1212によって実行される。これらのプログラム内に記述される情報処理は、コンピュータ1200に読み取られ、プログラムと、上記様々なタイプのハードウェアリソースとの間の連携をもたらす。装置又は方法が、コンピュータ1200の使用に従い情報のオペレーション又は処理を実現することによって構成されてよい。
【0073】
例えば、通信がコンピュータ1200及び外部デバイス間で実行される場合、CPU1212は、RAM1214にロードされた通信プログラムを実行し、通信プログラムに記述された処理に基づいて、通信インタフェース1222に対し、通信処理を命令してよい。通信インタフェース1222は、CPU1212の制御の下、RAM1214、記憶装置1224、DVD-ROM、又はICカードのような記録媒体内に提供される送信バッファ領域に格納された送信データを読み取り、読み取られた送信データをネットワークに送信し、又はネットワークから受信した受信データを記録媒体上に提供される受信バッファ領域等に書き込む。
【0074】
また、CPU1212は、記憶装置1224、DVDドライブ(DVD-ROM)、ICカード等のような外部記録媒体に格納されたファイル又はデータベースの全部又は必要な部分がRAM1214に読み取られるようにし、RAM1214上のデータに対し様々なタイプの処理を実行してよい。CPU1212は次に、処理されたデータを外部記録媒体にライトバックしてよい。
【0075】
様々なタイプのプログラム、データ、テーブル、及びデータベースのような様々なタイプの情報が記録媒体に格納され、情報処理を受けてよい。CPU1212は、RAM1214から読み取られたデータに対し、本開示の随所に記載され、プログラムの命令シーケンスによって指定される様々なタイプのオペレーション、情報処理、条件判断、条件分岐、無条件分岐、情報の検索/置換等を含む、様々なタイプの処理を実行してよく、結果をRAM1214に対しライトバックする。また、CPU1212は、記録媒体内のファイル、データベース等における情報を検索してよい。例えば、各々が第2の属性の属性値に関連付けられた第1の属性の属性値を有する複数のエントリが記録媒体内に格納される場合、CPU1212は、当該複数のエントリの中から、第1の属性の属性値が指定されている条件に一致するエントリを検索し、当該エントリ内に格納された第2の属性の属性値を読み取り、それにより予め定められた条件を満たす第1の属性に関連付けられた第2の属性の属性値を取得してよい。
【0076】
上で説明したプログラム又はソフトウエアモジュールは、コンピュータ1200上又はコンピュータ1200近傍のコンピュータ可読記憶媒体に格納されてよい。また、専用通信ネットワーク又はインターネットに接続されたサーバシステム内に提供されるハードディスク又はRAMのような記録媒体が、コンピュータ可読記憶媒体として使用可能であり、それによりプログラムを、ネットワークを介してコンピュータ1200に提供する。
【0077】
本実施形態におけるフローチャート及びブロック図におけるブロックは、オペレーションが実行されるプロセスの段階又はオペレーションを実行する役割を持つ装置の「部」を表わしてよい。特定の段階及び「部」が、専用回路、コンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプログラマブル回路、及び/又はコンピュータ可読記憶媒体上に格納されるコンピュータ可読命令と共に供給されるプロセッサによって実装されてよい。専用回路は、デジタル及び/又はアナログハードウェア回路を含んでよく、集積回路(IC)及び/又はディスクリート回路を含んでよい。プログラマブル回路は、例えば、フィールドプログラマブルゲートアレイ(FPGA)、及びプログラマブルロジックアレイ(PLA)等のような、論理積、論理和、排他的論理和、否定論理積、否定論理和、及び他の論理演算、フリップフロップ、レジスタ、並びにメモリエレメントを含む、再構成可能なハードウェア回路を含んでよい。
【0078】
コンピュータ可読記憶媒体は、適切なデバイスによって実行される命令を格納可能な任意の有形なデバイスを含んでよく、その結果、そこに格納される命令を有するコンピュータ可読記憶媒体は、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を作成すべく実行され得る命令を含む、製品を備えることになる。コンピュータ可読記憶媒体の例としては、電子記憶媒体、磁気記憶媒体、光記憶媒体、電磁記憶媒体、半導体記憶媒体等が含まれてよい。コンピュータ可読記憶媒体のより具体的な例としては、フロッピー(登録商標)ディスク、ディスケット、ハードディスク、ランダムアクセスメモリ(RAM)、リードオンリメモリ(ROM)、消去可能プログラマブルリードオンリメモリ(EPROM又はフラッシュメモリ)、電気的消去可能プログラマブルリードオンリメモリ(EEPROM)、静的ランダムアクセスメモリ(SRAM)、コンパクトディスクリードオンリメモリ(CD-ROM)、デジタル多用途ディスク(DVD)、ブルーレイ(登録商標)ディスク、メモリスティック、集積回路カード等が含まれてよい。
【0079】
コンピュータ可読命令は、アセンブラ命令、命令セットアーキテクチャ(ISA)命令、マシン命令、マシン依存命令、マイクロコード、ファームウェア命令、状態設定データ、又はSmalltalk(登録商標)、JAVA(登録商標)、C++等のようなオブジェクト指向プログラミング言語、及び「C」プログラミング言語又は同様のプログラミング言語のような従来の手続型プログラミング言語を含む、1又は複数のプログラミング言語の任意の組み合わせで記述されたソースコード又はオブジェクトコードのいずれかを含んでよい。
【0080】
コンピュータ可読命令は、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路が、フローチャート又はブロック図で指定されたオペレーションを実行するための手段を生成するために当該コンピュータ可読命令を実行すべく、ローカルに又はローカルエリアネットワーク(LAN)、インターネット等のようなワイドエリアネットワーク(WAN)を介して、汎用コンピュータ、特殊目的のコンピュータ、若しくは他のプログラム可能なデータ処理装置のプロセッサ、又はプログラマブル回路に提供されてよい。プロセッサの例としては、コンピュータプロセッサ、処理ユニット、マイクロプロセッサ、デジタル信号プロセッサ、コントローラ、マイクロコントローラ等を含む。
【0081】
以上、本発明を実施の形態を用いて説明したが、本発明の技術的範囲は上記実施の形態に記載の範囲には限定されない。上記実施の形態に、多様な変更又は改良を加えることが可能であることが当業者に明らかである。その様な変更又は改良を加えた形態も本発明の技術的範囲に含まれ得ることが、特許請求の範囲の記載から明らかである。
【0082】
特許請求の範囲、明細書、及び図面中において示した装置、システム、プログラム、及び方法における動作、手順、ステップ、及び段階などの各処理の実行順序は、特段「より前に」、「先立って」などと明示しておらず、また、前の処理の出力を後の処理で用いるのでない限り、任意の順序で実現しうることに留意すべきである。特許請求の範囲、明細書、及び図面中の動作フローに関して、便宜上「まず、」、「次に、」などを用いて説明したとしても、この順で実施することが必須であることを意味するものではない。
【符号の説明】
【0083】
10 システム、22 魚、24 漁網、26 固定物体、100 画像処理装置、102 記憶部、104 登録部、106 カメラ制御部、108 撮影画像取得部、110 除去処理部、112 出力制御部、114 学習データ生成部、116 学習実行部、118 抽出処理部、120 速度推定部、310 撮影画像、320 撮影画像、330 撮影画像、410 結果画像、420 結果画像、1200 コンピュータ、1210 ホストコントローラ、1212 CPU、1214 RAM、1216 グラフィックコントローラ、1218 ディスプレイデバイス、1220 入出力コントローラ、1222 通信インタフェース、1224 記憶装置、1230 ROM、1240 入出力チップ