IP Force 特許公報掲載プロジェクト 2022.1.31 β版

知財求人 - 知財ポータルサイト「IP Force」

▶ 日本電気株式会社の特許一覧

特許7452620画像処理装置、画像処理方法、及びプログラム
<>
  • 特許-画像処理装置、画像処理方法、及びプログラム 図1
  • 特許-画像処理装置、画像処理方法、及びプログラム 図2
  • 特許-画像処理装置、画像処理方法、及びプログラム 図3
  • 特許-画像処理装置、画像処理方法、及びプログラム 図4
  • 特許-画像処理装置、画像処理方法、及びプログラム 図5
  • 特許-画像処理装置、画像処理方法、及びプログラム 図6
  • 特許-画像処理装置、画像処理方法、及びプログラム 図7
  • 特許-画像処理装置、画像処理方法、及びプログラム 図8
  • 特許-画像処理装置、画像処理方法、及びプログラム 図9
  • 特許-画像処理装置、画像処理方法、及びプログラム 図10
< >
(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-03-11
(45)【発行日】2024-03-19
(54)【発明の名称】画像処理装置、画像処理方法、及びプログラム
(51)【国際特許分類】
   H04N 23/60 20230101AFI20240312BHJP
   G06T 7/20 20170101ALI20240312BHJP
【FI】
H04N23/60 300
G06T7/20 100
【請求項の数】 10
(21)【出願番号】P 2022503117
(86)(22)【出願日】2020-12-23
(86)【国際出願番号】 JP2020048076
(87)【国際公開番号】W WO2021171763
(87)【国際公開日】2021-09-02
【審査請求日】2022-08-01
(31)【優先権主張番号】P 2020030451
(32)【優先日】2020-02-26
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000004237
【氏名又は名称】日本電気株式会社
(74)【代理人】
【識別番号】100103894
【弁理士】
【氏名又は名称】家入 健
(72)【発明者】
【氏名】城島 貴弘
【審査官】淀川 滉也
(56)【参考文献】
【文献】特開2017-049052(JP,A)
【文献】特開2009-237846(JP,A)
【文献】特開2007-134771(JP,A)
【文献】特開2012-216918(JP,A)
【文献】米国特許出願公開第2019/0019327(US,A1)
【文献】米国特許出願公開第2019/0005719(US,A1)
【文献】特表2020-513127(JP,A)
【文献】特開2006-344215(JP,A)
【文献】米国特許出願公開第2015/0049170(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/60
G06T 7/20
(57)【特許請求の範囲】
【請求項1】
撮影装置において生成された動画データを複数の静止画データへ変換する変換手段と、
前記複数の静止画データが表す個々の静止画の画質を算出する画質算出手段と、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択する選択手段と、を備え、
前記選択手段は、
前記画像処理用静止画データが最低限満たすべき最低品質値と、前記最低品質値よりも高い品質である指定品質値と、を保持し、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、前記指定品質を満たす静止画データが少なくとも1以上あれば、前記指定品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとして選択し、前記指定品質値を満たす静止画データがなければ、前記最低品質値を満たす静止画データが少なくとも1以上あれば、前記最低品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとして選択する、画像処理装置。
【請求項2】
前記選択手段は、
前記撮影装置に内蔵されたセンサによって測定された前記撮影装置の回転に関する回転情報を取得し、前記回転情報に基づいて前記回転角度を推定する、請求項1に記載の画像処理装置。
【請求項3】
前記回転情報は、
前記撮影装置の角速度及び所定の軸を基準とした前記撮影装置の傾きを示す角度のうち少なくとも一方を用いる、請求項2に記載の画像処理装置。
【請求項4】
前記指定角度は、
前回選択された前記画像処理用静止画データが表す静止画の画質に基づいて算出される、請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項5】
前記指定角度は、
前回選択された前記画像処理用静止画データが表す静止画の画質が所定の画質よりも良い場合、前回選択された前記画像処理用静止画データが表す静止画の画質が前記所定の画質よりも悪い場合と比較して大きい角度が設定される、請求項4に記載の画像処理装置。
【請求項6】
前記選択手段は、
前回選択された前記画像処理用静止画データが撮影されたタイミングから第1の期間が経過した場合に、前記第1の期間内に撮影された前記静止画データの中から、前記指定品質値を満たす静止画データが少なくとも1以上あれば、前記指定品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとして選択し、前記指定品質値を満たす静止画データがなければ、前記最低品質値を満たす満たす静止画データが少なくとも1以上あれば、前記最低品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとして選択する、請求項1乃至3のいずれか1項に記載の画像処理装置。
【請求項7】
前記第1の期間は、
前回選択された前記画像処理用静止画データが表す静止画の画質に基づいて算出される、請求項6に記載の画像処理装置。
【請求項8】
前記第1の期間は、
前回選択された前記画像処理用静止画データが表す静止画の画質が所定の画質よりも良い場合、前回選択された前記画像処理用静止画データが表す静止画の画質が前記所定の画質よりも悪い場合と比較して長い期間が設定される、請求項7に記載の画像処理装置。
【請求項9】
撮影装置において生成された動画データを複数の静止画データへ変換し、
前記複数の静止画データが表す個々の静止画の画質を算出し、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択し、
前記画像処理用静止画データが最低限満たすべき最低品質値と、前記最低品質値よりも高い品質である指定品質値と、を保持し、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、前記指定品質値を満たす静止画データが少なくとも1以上あれば前記指定品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとし、前記指定品質値を満たす静止画データがなければ、前記最低品質値を満たす静止画データが少なくとも1以上あれば、前記最低品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとして選択する、画像処理方法。
【請求項10】
撮影装置において生成された動画データを複数の静止画データへ変換し、
前記複数の静止画データが表す個々の静止画の画質を算出し、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択し、
前記画像処理用静止画データが最低限満たすべき最低品質値と、前記最低品質値よりも高い品質である指定品質値と、を保持し、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、前記指定品質値を満たす静止画データが少なくとも1以上あれば前記指定品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとし、前記指定品質値を満たす静止画データがなければ、前記最低品質値を満たす静止画データが少なくとも1以上あれば、前記最低品質値を満たす静止画データの中から最新の静止画データを前記画像処理用静止画データとして選択することをコンピュータに実行させるプログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本開示は画像処理装置、撮影装置、画像処理システム、画像処理方法、及びプログラムに関する。
【背景技術】
【0002】
近年、ロボットが自律的に移動することを前提としたサービスが普及している。ロボットが自律的に移動するには、ロボットが、周囲の環境を認識し、自己の位置を高精度に推定することが必要となる。そこで、ロボットが撮影した映像から、周囲の環境の地図を作成し、自己位置の推定を同時に実行するVSLAM(Visual Simultaneous Localization and Mapping)が検討されている。一般的なVSLAMでは、複数の映像に撮影された同一地点を特徴点として認識し、その特徴点の画像間の差異から撮影したカメラの位置を推定し、カメラの位置をロボットの位置として認識するということが行われる。このようなVSLAMでは、即時的な処理が必要とされるため、詳細な計算を実施する時間的な余裕がなく、実際のロボットの位置とVSLAMで推定した位置との間に誤差が生じ、この誤差は蓄積誤差として時間が経過する毎に蓄積され、より大きな誤差となる。また、一般的なVSLAMでは、初期に入力される映像の中の特徴点の動きからカメラ位置が相対的に推定される。そのため、推定されたカメラ位置の動きの距離と実際のカメラ位置の動きの距離との比(スケール)は一定とならず、VSLAMでの位置と実際の位置との間にもずれが発生する。ここで、スケールが不定であり、かつ、蓄積誤差を持つVSLAMでのカメラ位置を補正するための仕組みとして、予め生成されたマップを併用した仕組みが用いられる。特許文献1では、予め構築されたマップの特徴点と、現在の画像の特徴点とのマッチングを行い、現在の画像の相対姿勢を算出する。このような画像から予めマップを生成する手段として、SfM(Structure from Motion)が利用される。SfMでは、一連の既に獲得された2次元画像(もしくはフレーム)の全ての特徴点を算出し、時間的に前後する複数の画像から、マッチングする特徴点を推定する。さらに、SfMでは、各特徴点が現れたフレームにおける2次元平面上の位置の差異に基づいて各フレームを撮影したカメラの3次元位置を精度高く推定する。
【0003】
一般的にSfMを実行する場合の処理時間は、処理画像の枚数に依存する。具体的には、処理時間は、処理画像の増加枚数のおおよそ2乗に比例して長くなる。そのため、SfMを実行する場合に、処理画像の枚数を減少させることが望まれている。ただし、前記したように特徴点の3次元位置は複数の画像に撮影され、なおかつ、その特徴点が各画像で移動している場合にのみ推定できるため、ある程度以上に減少させると3次元位置を推定できなくなる。
【0004】
特許文献2には、カメラを用いて撮影された複数の画像の中から、3次元データの生成に適切な画像を選択する情報処理装置の構成が開示されている。特許文献2の情報処理装置は、画像に含まれる特徴点の数、特徴点の位置等を用いた評価を実施し、評価結果に応じて画像を選択する。
【先行技術文献】
【特許文献】
【0005】
【文献】特開2019-133658号公報
【文献】特開2009-237848号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
特許文献2における画像の選択処理においては、SfMに用いられる画像が選択される前の複数の画像において、特徴点の検出処理、特徴点の3次元位置に関する計算処理、カメラの位置及び姿勢に関する計算処理等が実行される。さらに、特許文献1における画像の選択処理においては、複数のフレームに共通する特徴点を追跡して、特徴点の軌跡を特定する処理も実行される。このような処理は、特徴点の解析処理を含むため、実質的には、SfMにおいて実行される処理と同等の負荷がかかる。そのため、複数の画像の中から、SfMにおいて用いられる画像を選択し、SfMにおいて用いられる画像を減少させたとしても、画像の選択処理における処理負荷が増加する。その結果、特許文献1における画像の選択処理を用いても、実質的にSfMに関する処理負荷が軽減されないという問題がある。
【0007】
本開示の目的は、SfMに関する処理負荷を軽減させることを目的とする画像処理装置、撮影装置、画像処理システム、画像処理方法、及びプログラムを提供することにある。
【課題を解決するための手段】
【0008】
本開示の第1の態様にかかる画像処理装置は、撮影装置において生成された動画データを複数の静止画データへ変換する変換部と、前記複数の静止画データが表す個々の静止画の画質を算出する画質算出部と、前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択する選択部と、を備え、前記選択部は、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する。
【0009】
本開示の第2の態様にかかる撮影装置は、動画データを生成する撮影部と、回転情報を測定するセンサと、前記回転情報が関連付けられた前記動画データを、前記動画データから変換された複数の静止画のうち所定の条件に従って画像処理に用いられる画像処理用静止画データを選択する画像処理装置へ送信する送信部と、を備える。
【0010】
本開示の第3の態様にかかる画像処理システムは、動画データを生成する撮影手段と、前記動画データを複数の静止画データへ変換する変換手段と、前記複数の静止画データが表す個々の静止画の画質を算出する画質算出手段と、前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択する選択手段と、を備え、前記選択手段は、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影手段の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する。
【0011】
本開示の第4の態様にかかる画像処理方法は、撮影装置において生成された動画データを複数の静止画データへ変換し、前記複数の静止画データが表す個々の静止画の画質を算出し、前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択し、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する。
【0012】
本開示の第5の態様にかかるプログラムは、撮影装置において生成された動画データを複数の静止画データへ変換し、前記複数の静止画データが表す個々の静止画の画質を算出し、前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択し、前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択することをコンピュータに実行させる。
【発明の効果】
【0013】
本開示により、SfMに関する処理負荷を軽減させることを目的とする画像処理装置、撮影装置、画像処理システム、画像処理方法、及びプログラムを提供することができる。
【図面の簡単な説明】
【0014】
図1】実施の形態1にかかる画像処理装置の構成図である。
図2】実施の形態2にかかる撮影装置の構成図である。
図3】実施の形態2にかかる画像処理装置の構成図である。
図4】実施の形態2にかかる撮影装置における動画データ送信処理の流れを示す図である。
図5】実施の形態2にかかる画像処理装置における画像の選択処理の流れを示す図である。
図6】実施の形態2にかかる画像処理装置における画像の選択処理の流れを示す図である。
図7】実施の形態2にかかる実施の形態2にかかる画像処理装置における画像の選択処理の流れを示す図である。
図8】実施の形態3にかかる撮影装置における動画データ送信処理の流れを示す図である。
図9】実施の形態3にかかる画像処理装置における画像の選択処理の流れを示す図である。
図10】それぞれの実施の形態にかかる画像処理装置及び撮影装置の構成図である。
【発明を実施するための形態】
【0015】
(実施の形態1)
以下、図面を参照して本開示の実施の形態について説明する。図1を用いて実施の形態1にかかる画像処理装置10の構成例について説明する。画像処理装置10は、プロセッサがメモリに格納されたプログラムを実行することによって動作するコンピュータ装置であってもよい。画像処理装置10は、例えば、サーバ装置であってもよい。
【0016】
画像処理装置10は、変換部11、画質算出部12、及び選択部13を有している。変換部11、画質算出部12、及び選択部13等の画像処理装置10の構成要素は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアもしくはモジュールであってもよい。または、画像処理装置10の構成要素は、回路もしくはチップ等のハードウェアであってもよい。
【0017】
変換部11は、撮影装置15において生成された動画データを複数の静止画データ(換言すれば、例えば、係る動画データを構成する複数のフレーム画像などの、複数の静止画を表すデータセット、或いはデータレコード)へ変換する。なお、以下の説明において、フレーム画像は、単にフレームとも称する。撮影装置15は、カメラ等の撮像装置であってもよく、カメラを内蔵したコンピュータ装置であってもよい。撮影装置15は、画像処理装置10に内蔵されていてもよい。図1においては、撮影装置15が、画像処理装置10と異なる装置である例を示している。
【0018】
カメラを内蔵したコンピュータ装置は、例えば、スマートフォン端末、タブレット端末等であってもよい。例えば、画像処理装置10は、スマートフォン端末のユーザが、移動しながらスマートフォン端末を用いて撮影した動画データを用いて、スマートフォン端末の周囲の環境地図作成し、スマートフォン端末の自己位置を推定してもよい。
【0019】
また、撮影装置15は、AGV(Automated Guided Vehicle)であってもよい。画像処理装置10は、例えば、工場内等の狭い範囲において、AGVから取得した動画データを用いて、AGVの移動の軌跡及び工場内の構造物の特徴点を含む地図を作成してもよい。
【0020】
画像処理装置10の変換部11は、撮影装置15からネットワーク(通信ネットワーク)を介して動画データを取得してもよい。ネットワークは、例えば、モバイルネットワークであってもよく、固定通信ネットワークであってもよい。また、変換部11は、無線回線もしくは有線回線を介して動画データを取得してもよい。もしくは、画像処理装置10は、取り外すことが可能な記録媒体を介して、動画データを取得してもよい。または、撮影装置15が、画像処理装置10に内蔵されているカメラ等である場合、変換部11は、画像処理装置10に内蔵されているカメラから、動画データを取得してもよい。
【0021】
動画データは、例えば、N(Nは1以上の整数)fps(frames per second)のように、フレームレートを用いて示されてもよい。変換部11は、動画データに含まれるフレームを静止画データとして抽出してもよい。フレームは、静止画像もしくは単に画像と称されてもよい。動画データを複数の静止画データへ変換するとは、動画データから複数の静止画データを抽出すると言い換えられてもよい。
【0022】
画質算出部12は、変換部11において得られた複数の静止画データが表す個々の画像の画質を算出する。静止画データが表す個々の画像の画質を算出するとは、例えば、静止画データに対応する画像の品質を評価することであってもよい。画質算出部12は、例えば、ブラー検出を行うことによって画質を算出してもよい。また、画質を算出するとは、画質を推定すると言い換えられてもよい。なお、以下の説明では、記載表現の便宜上、“静止画データが表す画像の画質”を、“静止画データの画質”とも称する。
【0023】
選択部13は、複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、画質に基づいて選択する。画像処理は、例えば、静止画データを用いた画像解析処理であってもよい。画像処理は、例えば、撮影装置15の位置を推定し、撮影装置15の周囲の環境地図を作成するSfM処理等であってもよい。例えば、選択部13は、フレームレートがN fpsであり、M(Mは0より大きい実数)秒の動画データに含まれるN×M(N×Mは1以上の整数)枚のフレームの中から、N×M枚より少ないフレームを選択する。
【0024】
例えば、選択部13は、複数の静止画データに含まれる第1の静止画データが撮影された際の撮影装置15の回転角度が指定角度を上回ったと判定した場合に、画像処理用静止画データを選択する。第1の静止画データは、例えば、前回選択された画像処理用静止画データが撮影された時刻以降に撮影された静止画データである。選択部13は、撮影された時間順に並べられた複数の静止画データのうち、前回選択された画像処理用静止画データから、第1の静止画データまでに含まれる静止画データまでの中から、少なくとも1以上の静止画データを選択する。この場合、選択部13は、基準品質を満たす静止画データを画像処理用静止画データとして選択する。
【0025】
回転角度及び指定角度は、3次元空間上に定められた軸を中心とした撮影装置15の回転量であってもよい。指定角度は、閾値として用いられる。例えば、選択部13は、前回選択した画像処理用静止画データが撮影された際の撮影装置15の傾きもしくは位置を基準として、第1の静止画データが撮影された際の撮影装置15の回転角度を算出もしくは推定してもよい。
【0026】
基準品質を満たす静止画データは、例えば、静止画データの画質が、基準品質以上の静止画データと言い換えられてもよい。選択部13は、基準品質を満たす静止画データが複数存在する場合、基準品質を満たす静止画データをすべて画像処理用静止画データとして選択してもよい。もしくは、選択部13は、基準品質を満たす複数の静止画データのうち、任意の1以上の静止画データを画像処理用静止画データとして選択してもよい。基準品質は、例えば、ブラー検出において推定されるブラーレベル、ブラー値等が用いられてもよい。
【0027】
以上説明したように、画像処理装置10は、複数の静止画データに含まれる第1の静止画データが撮影された際の撮影装置15の回転角度が指定角度を上回っている場合に画像処理用静止画データを選択することができる。
【0028】
これより、画像処理装置10におけるSfM等の画像処理において用いられる静止画データは、動画データに含まれるすべてのフレームを用いる場合と比較して減少する。そのため、画像処理装置10において選択された静止画データを用いた画像処理は、動画データに含まれるすべてのフレームを用いた場合と比較して、処理負荷が軽減される。
【0029】
また、選択された複数の静止画データに、同じ特徴点が含まれていない場合、撮影装置15の位置の推定等の画像処理を有効に行えない場合がある。これに対して、画像処理装置10は、撮影装置15の回転角度が指定角度を上回ったタイミングの近傍のタイミングに撮影された静止画データを選択することができる。これにより、画像処理装置10は、画像処理装置10の回転角度が大きく変動した期間においても、同じ特徴点が含まれる静止画データを選択する可能性を向上させることができる。
【0030】
(実施の形態2)
続いて、図2を用いて実施の形態2にかかる撮影装置20の構成例について説明する。撮影装置20は、実施の形態1にかかる撮影装置15に相当する。撮影装置20は、プロセッサがメモリに格納されたプログラムを実行することによって動作するコンピュータ装置であってもよい。
【0031】
撮影装置20は、タイマ21、撮影部22、センサ23、動画生成部24、及び送信部25を有している。撮影部22、動画生成部24、及び送信部25は、プロセッサがメモリに格納されたプログラムを実行することによって処理が実行されるソフトウェアもしくはモジュールであってもよい。または、撮影部22、動画生成部24、及び送信部25は、回路もしくはチップ等のハードウェアであってもよい。
【0032】
タイマ21は、撮影装置20の構成要素に対して、時刻を提供する。タイマ21は、例えば、ソフトウェアであってもよく、カウンタ回路等を用いたハードウェアであってもよい。
【0033】
撮影部22は、撮影装置20の周辺を撮影し、撮影したデータを動画生成部24へ出力する。
【0034】
センサ23は、撮影装置20の回転(回動)に関する情報(例えば、撮影装置20の傾き状態、回転態様、回転前後の姿勢を直接的あるいは間接的に表す情報:以下、回転情報と称する)を検出するセンサである。センサ23は、例えば、加速度センサ及び角速度センサ(ジャイロセンサ)を含んでもよく、IMU(Inertial Measurement Unit)センサであってもよい。従って、回転情報は、回転角度を算出もしくは推定するために用いられる情報であり、具体的には、角速度及び3次元空間上の軸を基準とした撮影装置20の傾きを示す値の少なくとも一方を含む情報であってもよい。撮影装置20の傾きは、例えば、加速度センサもしくはIMUセンサ等の出力に基づいて算出されてもよい。センサ23は、検出した回転情報を動画生成部24へ送信する。
【0035】
動画生成部24は、撮影部22から受け取ったデータを用いて、所定のフレームレートを有する動画データを生成する。動画生成部24は、タイマ21から提供された時刻情報と、動画データとを関連付ける。具体的には、動画生成部24は、動画データに含まれるそれぞれのフレームと、そのフレームが撮影された時刻とを関連付けてもよい。
【0036】
さらに、動画生成部24は、動画データと、センサ23から受け取った回転情報とを関連付ける。具体的には、動画生成部24は、動画データに含まれるそれぞれのフレームと、そのフレームが撮影された際の撮影装置20の角速度及び撮影装置20の傾きの少なくとも一方と、を関連付けてもよい。
【0037】
送信部25は、動画生成部24において生成された、時刻情報及び回転情報が関連付けられた動画データを画像処理装置30へ送信する。送信部25は、無線回線を介して動画データを送信してもよく、有線回線を介して動画データを送信してもよい。
【0038】
続いて、図3を用いて実施の形態2にかかる画像処理装置30の構成例について説明する。画像処理装置30は、図1の画像処理装置10に通信部31及び画像処理部32が追加された構成を有する。以下の画像処理装置30の説明においては、画像処理装置10と重複する処理、機能等の説明を省略する。
【0039】
通信部31は、撮影装置20から送信された動画データを受信する。通信部31が受信した動画データには、時刻情報及び回転情報が関連付けられている。
【0040】
変換部11は、動画データから変換された複数の静止画データを、時間順(時系列)に並べる。言い換えると、変換部11は、複数の静止画データを、撮影された時刻が古い静止画データから、撮影された時刻が新しい静止画データへ順に並べる。
【0041】
もしくは、変換部11は、動画データから変換された複数の静止画データを画質算出部12へ出力し、画質算出部12が、複数の静止画データを時間順に並べてもよい。
【0042】
選択部13は、初めに、撮影された時刻が一番古い静止画データを画像処理用静止画データとして選択する。もしくは、選択部13は、初めに、撮影された時刻が古い静止画データから順に確認し、最低品質を満たす最初の静止画データを画像処理用静止画データとして選択してもよい。最低品質は、例えば、SfM処理に用いることができる静止画データが最低限満たすべき品質であってもよい。もしくは、選択部13は、初めに、撮影された時刻が古い静止画データから順に確認し、指定品質を満たす最初の静止画データを選択してもよい。指定品質は、SfM処理を効率的に実施するために満たすべき品質であってもよい。指定品質は、最低品質よりも高い品質である。
【0043】
選択部13は、初めに画像処理用静止画データを選択した後、次の画像処理用静止画データを選択する際には、静止画データに関連付けられた時刻情報もしくは回転情報に基づいて画像処理用静止画データを選択する。
【0044】
選択部13は、前回選択した画像処理用静止画データの撮影時刻から、指定された期間経過した時刻までの間に撮影された静止画データの中から、画像処理用静止画データを選択してもよい。
【0045】
もしくは、選択部13は、複数の静止画データに含まれる第1の静止画データが撮影された際の撮影装置20の回転角度が指定角度を上回ったと判定した場合、所定の範囲の静止画データの中から、画像処理用静止画データを選択してもよい。所定の範囲の静止画データは、前回選択した画像処理用静止画データから、第1の静止画データまでであってもよい。選択部13は、静止画データを選択する際に、画像処理用静止画データとして、指定品質を満たす静止画データを少なくとも1つ選択してもよい。
【0046】
例えば、選択部13は、前回選択した静止画データに関連付けられた撮影装置20の傾きと、第1の静止画データに関連付けられた撮影装置20の傾きとの差分に基づいて回転角度を算出してもよい。もしくは、選択部13は、前回選択した静止画データから、第1の静止画データまでのそれぞれの静止画データに関連付けられた角速度を積分することによって、撮影装置20の回転角度を算出してもよい。
【0047】
画像処理部32は、選択部13において選択された複数の画像処理用静止画データを用いて、SfM等の画僧処理を行う。
【0048】
続いて、図4を用いて、実施の形態2にかかる撮影装置20における動画データ送信処理の流れについて説明する。はじめに、動画生成部24は、タイマ21から、現在時刻を取得する(S11)。次に、動画生成部24は、センサ23から、回転情報を取得する(S12)。次に、動画生成部24は、撮影部22から、動画データを取得する(S13)。ステップS11乃至S13における処理は、図4に示される順番に制限されず、任意の順番にて実行されてもよい。もしくは、ステップS11乃至S13における処理は、並列に処理されてもよい。
【0049】
次に、送信部25は、時刻情報及び回転情報が関連付けられた動画データを画像処理装置30へ送信する(S14)。
【0050】
続いて、図5乃至7を用いて、画像処理装置30における、画像の選択処理の流れについて説明する。はじめに、通信部31は、時刻情報及び回転情報が関連付けられた動画データを受信する(S21)。
【0051】
次に、変換部11は、動画データを複数の静止画データへ変換する(S22)。次に、画質算出部12は、複数の静止画データの画質を算出する(S23)。例えば、画質算出部12は、ブラー検出を行うことによってそれぞれの静止画データの画質を算出する。
【0052】
次に、変換部11もしくは画質算出部12は、複数の静止画データを、撮影された時刻が古い静止画データから、撮影された時刻が新しい静止画データへ順に並べる(S24)。ステップS24の処理は、ステップS23の前に行われてもよい。
【0053】
次に、選択部13は、画像処理用静止画データとして、任意の静止画データを選択する(S25)。例えば、選択部13は、撮影された時刻が一番古い静止画データを選択してもよい。もしくは、選択部13は、撮影された時刻が古い静止画データから順に確認し、最低品質を満たす最初の静止画データを選択してもよい。もしくは、選択部13は、撮影された時刻が古い静止画データから順に確認し、指定品質を満たす最初の静止画データを選択してもよい。
【0054】
次に、選択部13は、ステップS25において選択した静止画データの次に撮影された静止画データを抽出する(S26)。
【0055】
次に、選択部13は、出力推奨フラグをOFFに設定する(S27)。出力推奨フラグは、ステップS26において抽出された静止画データが、最低品質を満たす静止画データであるか否かを判定する処理を実施するか否かを決定するために用いられる。
【0056】
次に、選択部13は、ステップS26において抽出された現在の静止画データに関連付けられた時刻が、画像処理用静止画データとして、前回選択された静止画データに関連付けられた時刻から、指定期間経過しているか否かを判定する(S28)。指定期間は、予め定められた値であり、画像処理装置30内のメモリ等に保存されていてもよい。指定期間は、例えば、画像処理装置30の管理者等によって定められる期間であってもよい。
【0057】
選択部13は、指定期間経過していないと判定した場合、ステップS26において抽出された現在の静止画データが撮影された際の撮影装置20の回転角度が、指定角度を上回るか否かを判定する(S29)。
【0058】
選択部13は、ステップS26において抽出された現在の静止画データが撮影された際の撮影装置20の回転角度が、指定角度を上回ると判定した場合、ステップS30の処理を実行する。ステップS30において、選択部13は、前回選択した静止画データから、ステップS26において抽出された現在の静止画データの中に、指定品質を満たす静止画データが存在するか否かを判定する(S30)。ステップS28において、選択部13は、指定期間経過したと判定した場合も、ステップS30の処理を実行する。
【0059】
選択部13は、ステップS30において、前回選択した静止画データから、ステップS26において抽出された現在の静止画データの中に、指定品質を満たす静止画データが存在すると判定した場合、ステップS34の処理を実行する。ステップS34において、選択部13は、指定品質を満たす静止画データの中から最も新しい静止画データを選択する(S34)。最も新しい静止画データは、撮影された時刻が最も新しい静止画データである。
【0060】
選択部13は、ステップ30において、前回選択した静止画データから、ステップS26において抽出された現在の静止画データの中に、指定品質を満たす静止画データが存在しないと判定した場合、ステップS31の処理を実行する。ステップS31において、選択部13は、ステップS26において選択した現在の静止画データが、最低品質を満たすか否かを判定する(S31)。選択部13は、ステップS26において選択した現在の静止画データが、最低品質を満たすと判定した場合、画像処理用静止画データとして現在の静止画データを選択する(S33)。選択部13は、ステップS26において選択した現在の静止画データが、最低品質を満たさないと判定した場合、出力推奨フラグをONに設定する(S32)。
【0061】
選択部13は、ステップS32乃至34の後に、ステップS35の処理を実行する。さらに、選択部13は、ステップS29において、回転角度の差が、指定角度を上回らないと判定した場合も、ステップS35の処理を実行する。
【0062】
ステップS35において、選択部13は、すべての静止画データを抽出したか否かを判定する(S35)。すべての静止画データとは、ステップS22において動画データから変換されたすべての静止画データである。
【0063】
選択部13がすべての静止画データを抽出したとは、選択部13が、ステップS26において、時間順に並べられた静止画データのうち、最後の静止画データを抽出したことである。
【0064】
ステップS35において、選択部13がすべての静止画データを抽出したと判定した場合、画像処理部32は、画像処理用静止画データとして選択されたすべてのデータを用いて画像処理を実施する(S37)。ステップS35において、選択部13は、すべての静止画データを抽出していないと判定した場合、ステップS26において抽出した静止画データの次に古い静止画データを抽出する(S36)。ステップS26において抽出した静止画データの次に古い静止画データは、時間順に並べられた静止画データの中において、ステップS26において抽出した静止画データの次の静止画データである。つまり、選択部13は、ステップS26において抽出した静止画データの次に撮影された静止画データを抽出する。
【0065】
次に、選択部13は、現在の出力推奨フラグがONに設定されているか否かを判定する(S38)。選択部13は、現在の出力推奨フラグがONに設定されていると判定した場合、ステップS31以降の処理を繰り返す。選択部13は、現在の出力推奨フラグがOFFに設定されていると判定した場合、ステップS28以降の処理を繰り返す。
【0066】
以上説明したように、画像処理装置30は、指定期間を経過した際に、前回選択された静止画データから、現在抽出された静止画データまでの間の指定品質もしくは最低品質を満たす静止画データを選択することができる。画像処理装置30は、指定品質もしくは最低品質を満たす静止画データを選択することによって、特徴点がクリアに表示されている静止画データをSfM処理に用いることができる。また、指定品質もしくは最低品質を満たさない静止画データが選択された場合、静止画データ間の細かな差異が認識されず、際立つ特徴のみを用いてSfM処理が行われることになる。この場合、SfM処理の精度が低下することとなる。これに対して、画像処理装置30は、指定品質もしくは最低品質を満たす静止画データを選択することによって、静止画データ間の細かな差異を認識することができるため、SfM処理の精度を向上させることができる。
【0067】
さらに、画像処理装置30は、定期的に静止画データを選択することによって、複数の静止画データに同じ特徴点が含まれている可能性を向上させることができる。指定期間が長すぎる場合、定期的に選択される静止画データに同じ特徴点が含まれる可能性を低下させてしまうため、指定期間は、同じ特徴点が含まれる静止画データを選択することが可能な程度の期間を設定する必要がある。このように画像処理装置30は、定期的に静止画データを選択することによって、撮影装置20がカメラを揺らさずに直進し、指定角度を上回るほど回転していない場合であっても、同じ特徴点が含まれる静止画データを選択することができる。
【0068】
さらに、画像処理装置30は、指定期間を経過する前であっても、撮影装置20が指定角度を上回るほど回転した場合、静止画データを選択することができる。例えば、撮影装置20が、指定期間内に素早く方向転換した場合について説明する。この場合、画像処理装置30は、指定期間を経過するタイミングに静止画データを選択すると、撮影装置20が方向転換する前の静止画データと、方向転換した後の静止画データとにおいて、同じ特徴点が含まれなくなる。一方、画像処理装置30が、指定期間を経過する前であっても、撮影装置20の回転角度が指定角度を上回った場合に静止画データを選択することによって、方向転換中の静止画データを選択することができる。その結果、選択された複数の静止画データに、同じ特徴点が含まれる可能性を向上させることができる。
【0069】
(実施の形態3)
続いて、実施の形態3にかかる画像の選択処理について説明する。実施の形態3においては、時刻情報の代わりに、撮影装置20の移動速度や移動態様などの移動状態を直接的にあるいは間接的に表す、撮影装置20の移動に関する情報(以下、移動情報と称する)が用いられる。つまり、実施の形態3においては、選択部13は、静止画データに関連付けられた移動情報もしくは回転情報に基づいて静止画データを選択する。選択部13は、移動情報に基づいて撮影装置20の移動距離を測定してもよい。選択部13は、撮影装置20の移動距離が予め定められた指定距離を超えた場合に、前回選択した静止画データから、撮影装置20が指定距離離れた位置に移動するまでの間に撮影された静止画データの中から、静止画データを選択する。
【0070】
もしくは、選択部13は、移動情報に基づいて撮影装置20の速度を測定してもよい。選択部13は、撮影装置20の速度が指定速度を超えた場合に、前回選択した静止画データから、撮影装置20が指定速度を超えるまでの間に撮影された静止画データの中から、静止画データを選択してもよい。
【0071】
移動情報は、例えば、撮影装置20のセンサ23において検出する加速度であってもよい。例えば、撮影装置20の動画生成部24は、動画データに含まれるそれぞれのフレームと、そのフレームが撮影された際の撮影装置20の加速度とを関連付けてもよい。撮影装置20は、加速度が関連付けられた動画データを画像処理装置30へ送信する。
【0072】
選択部13は、時間順に並べられた静止画データに関連付けられた加速度を積分することによって、撮影装置20の移動距離もしくは速度を測定してもよい。
【0073】
ここで、図8を用いて、実施の形態3にかかる撮影装置20における動画データ送信処理の流れについて説明する。図8のステップS41及びS43は、図4のステップS11及びS13と同様であるため詳細な説明を省略する。ステップS41の次に、動画生成部24は、センサ23から、時間情報及び移動情報を取得する(S42)。さらに、ステップS43の次に、送信部25は、時間情報、移動情報及び回転情報が関連付けられた動画データを画像処理装置30へ送信する(S44)。
【0074】
続いて、図9を用いて、実施の形態3にかかる画像の選択処理の流れについて説明する。はじめに、通信部31は、時間情報、移動情報及び回転情報が関連付けられた動画データを受信する(S51)。ステップS52乃至S57は、図5のステップS22乃至S27と同様であるため詳細な説明を省略する。
【0075】
次に、選択部13は、前回選択された静止画データが撮影されてからステップS56において抽出された現在の静止画データが撮影されるまでの間に撮影装置20が移動した距離が、指定距離を超えているか否かを判定する(S58)。ステップS58以降の処理は、図6及び図7と同様であるため詳細な説明を省略する。ステップS58において、選択部13は、前回選択された静止画データが撮影されてからステップS56において抽出された現在の静止画データが撮影されるまでの間に撮影装置20の移動速度が、指定速度を超えているか否かを判定してもよい。
【0076】
以上説明したように、実施の形態3においては、画像処理装置30は、指定期間を経過する前であっても、撮影装置20が指定距離を上回るほど移動した場合、画像処理用静止画データとして静止画データを選択することができる。もしくは、画像処理装置30は、撮影装置20が指定速度を上回る速度にて移動した場合、画像処理用静止画データとして静止画データを選択することができる。
【0077】
例えば、撮影装置20が、指定期間内に指定距離以上に移動した場合、指定期間を経過するタイミングを開けて2枚分の静止画データが選択されると、当該2枚分の静止画データが表す個々の画像間の物理空間における距離が離れすぎてしまう(ここで、係る物理空間は、撮影装置20が存在する物理空間である)。この場合、選択された複数の静止画データに、同じ特徴点が含まれなくなる。一方、画像処理装置30が、指定期間を経過する前であっても、撮影装置20が指定距離に達した場合に、静止画データを選択することによって、指定距離以内の距離において撮影された静止画データを選択することができる。その結果、選択した複数の静止画データに、同じ特徴点が含まれる可能性を向上させることができる。
【0078】
画像処理装置30が、指定速度を上回る速度にて移動した場合にも、指定距離に基づいて静止画データを選択した場合と同様の効果を得ることができる。
【0079】
また、実施の形態3にかかる静止画データの選択処理は、実施の形態2にかかる静止画データの選択処理と組み合わされてもよい。例えば、図5のステップS28において、選択部13が、指定期間経過していないと判定した場合、図9のステップS58の処理以降の処理が実施されてもよい。
【0080】
もしくは、図5のステップS27の後に、図9のステップS58の処理が実行されてもよい。この場合、ステップS58において、選択部13が、撮影装置20の移動距離が指定距離を超えていないと判定した場合、図5のステップS28以降の処理が実施されてもよい。
【0081】
もしくは、図6のステップS29において、選択部13が、撮影装置20の回転角度の差が、指定角度を上回っていないと判定した場合、図9のステップS58の処理が実行されてもよい。この場合、ステップS58において、選択部13が、撮影装置20の移動距離が指定距離を超えていないと判定した場合、図7のステップS35以降の処理が実施されてもよい。さらに、ステップS58において、選択部13が、移動距離が指定距離を超えていると判定した場合、図6のステップS30以降の処理が実施されてもよい。
【0082】
(実施の形態4)
続いて、実施の形態4にかかる指定期間、指定角度、指定距離、もしくは指定速度の決定方法について説明する。実施の形態1乃至3においては、指定期間、指定角度、指定距離、もしくは指定速度として、予め定められた値もしくは管理者等が入力する値が用いられることを説明した。
【0083】
実施の形態4においては、指定期間、指定角度、指定距離、もしくは指定速度が、静止画データの品質に応じて選択することについて説明する。
【0084】
具体的には、選択した静止画データの品質が、指定品質よりも高い場合、指定期間、指定角度、指定距離、もしくは指定速度の値を現在の値よりも大きくしてもよい。さらに、選択した静止画データの品質が、指定品質よりも低い場合、指定期間、指定角度、指定距離、もしくは指定速度の値を現在の値よりも小さくしてもよい。
【0085】
例えば、静止画データの品質を数値で表せる場合であって、数値が高いほど品質が高い場合について説明する。この場合、現在の指定期間の値に、選択した静止画データの品質/指定品質、を乗算して、新たな指定期間の値を算出してもよい。選択した静止画データの品質/指定品質は、選択した静止画データの品質を指定品質にて除算したことを示している。指定角度、指定距離、もしくは指定速度についても同様に、現在の値に、選択した静止画データの品質/指定品質、を乗算して新たな値を算出してもよい。
【0086】
以上説明したように、実施の形態4においては、選択した静止画データの品質に応じて、指定期間、指定角度、指定距離、もしくは指定速度の値を最適化することができる。これにより、品質が高い静止画データを選択している間は、静止画データを選択する期間を延ばすことができる。この場合、品質の高い静止画データを選択し続けているため、SfMにおいても、精度の高い自己位置推定等を行うことができる。また、品質が低い静止画データを選択している間は、静止画データを選択する期間を狭めることができる。この場合、SfMに用いられる静止画データを増加させることによって、自己位置推定等の精度を維持することができる。
【0087】
また、指定期間、指定角度、指定距離、もしくは指定速度について、新たな値を算出する際に、重みづけを考慮してもよい。例えば、指定期間、指定角度、指定距離、もしくは指定速度について、それぞれの新しい値に、それぞれ異なる値が乗算されてもよい。例えば、算出された新しい値に、大きい値が乗算されるほど、静止画データを選択する期間を延ばすことができる。
【0088】
図10は、画像処理装置10、撮影装置20、及び画像処理装置30(以下、画像処理装置10等と称する)の構成例を示すブロック図である。図10を参照すると、画像処理装置10等は、ネットワークインタフェース1201、プロセッサ1202、及びメモリ1203を含む。ネットワークインタフェース1201は、ネットワークノード(e.g., eNB、MME、P-GW、)と通信するために使用される。ネットワークインタフェース1201は、例えば、IEEE 802.3 seriesに準拠したネットワークインタフェースカード(NIC)を含んでもよい。ここで、eNBはevolved Node B、MMEはMobility Management Entity、P-GWはPacket Data Network Gatewayを表す。IEEEは、Institute of Electrical and Electronics Engineersを表す。
【0089】
プロセッサ1202は、メモリ1203からソフトウェア(コンピュータプログラム)を読み出して実行することで、上述の実施形態においてフローチャートを用いて説明された画像処理装置10等の処理を行う。プロセッサ1202は、例えば、マイクロプロセッサ、MPU、又はCPUであってもよい。プロセッサ1202は、複数のプロセッサを含んでもよい。
【0090】
メモリ1203は、揮発性メモリ及び不揮発性メモリの組み合わせによって構成される。メモリ1203は、プロセッサ1202から離れて配置されたストレージを含んでもよい。この場合、プロセッサ1202は、図示されていないI/O(Input/Output)インタフェースを介してメモリ1203にアクセスしてもよい。
【0091】
図10の例では、メモリ1203は、ソフトウェアモジュール群を格納するために使用される。プロセッサ1202は、これらのソフトウェアモジュール群をメモリ1203から読み出して実行することで、上述の実施形態において説明された画像処理装置10等の処理を行うことができる。
【0092】
図10を用いて説明したように、上述の実施形態における画像処理装置10等が有するプロセッサの各々は、図面を用いて説明されたアルゴリズムをコンピュータに行わせるための命令群を含む1又は複数のプログラムを実行する。
【0093】
上述の例において、プログラムは、様々なタイプの非一時的なコンピュータ可読媒体(non-transitory computer readable medium)を用いて格納され、コンピュータに供給することができる。非一時的なコンピュータ可読媒体は、様々なタイプの実体のある記録媒体(tangible storage medium)を含む。非一時的なコンピュータ可読媒体の例は、磁気記録媒体(例えばフレキシブルディスク、磁気テープ、ハードディスクドライブ)、光磁気記録媒体(例えば光磁気ディスク)、CD-ROM(Read Only Memory)、CD-R、CD-R/W、半導体メモリ(例えば、マスクROM、PROM(Programmable ROM)、EPROM(Erasable PROM)、フラッシュROM、RAM(Random Access Memory))を含む。また、プログラムは、様々なタイプの一時的なコンピュータ可読媒体(transitory computer readable medium)によってコンピュータに供給されてもよい。一時的なコンピュータ可読媒体の例は、電気信号、光信号、及び電磁波を含む。一時的なコンピュータ可読媒体は、電線及び光ファイバ等の有線通信路、又は無線通信路を介して、プログラムをコンピュータに供給できる。
【0094】
なお、本開示は上記実施の形態に限られたものではなく、趣旨を逸脱しない範囲で適宜変更することが可能である。
【0095】
上記の実施形態の一部又は全部は、以下の付記のようにも記載されうるが、以下には限られない。
(付記1)
撮影装置において生成された動画データを複数の静止画データへ変換する変換部と、
前記複数の静止画データが表す個々の静止画の画質を算出する画質算出部と、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択する選択部と、を備え、
前記選択部は、
前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する、画像処理装置。
(付記2)
前記選択部は、
前記撮影装置に内蔵されたセンサによって測定された前記撮影装置の回転に関する回転情報を取得し、前記回転情報に基づいて前記回転角度を特定する、付記1に記載の画像処理装置。
(付記3)
前記回転情報は、
前記撮影装置の角速度及び所定の軸を基準とした前記撮影装置の傾きを示す角度のうち少なくとも一方を用いる、付記2に記載の画像処理装置。
(付記4)
前記指定角度は、
前回選択された前記画像処理用静止画データが表す静止画の画質に基づいて算出される、付記1乃至3のいずれか1項に記載の画像処理装置。
(付記5)
前記指定角度は、
前回選択された前記画像処理用静止画データが表す静止画の画質が所定の画質よりも良い場合、前回選択された前記画像処理用静止画データが表す静止画の画質が前記所定の画質よりも悪い場合と比較して大きい角度が設定される、付記4に記載の画像処理装置。
(付記6)
前記選択部は、
前回選択された前記画像処理用静止画データが撮影されたタイミングから第1の期間が経過した場合に、前記第1の期間内に撮影された前記静止画データの中から、前記基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する、付記1乃至5のいずれか1項に記載の画像処理装置。
(付記7)
前記第1の期間は、
前回選択された前記画像処理用静止画データが表す静止画の画質に基づいて算出される、付記6に記載の画像処理装置。
(付記8)
前記第1の期間は、
前回選択された前記画像処理用静止画データが表す静止画の画質が所定の画質よりも良い場合、前回選択された前記画像処理用静止画データが表す静止画の画質が前記所定の画質よりも悪い場合と比較して長い期間が設定される、付記7に記載の画像処理装置。
(付記9)
前記選択部は、
前記複数の静止画データに含まれる第2の静止画データが撮影された際の前記撮影装置の移動距離が指定距離を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第2の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する、付記1乃至8のいずれか1項に記載の画像処理装置。
(付記10)
前記選択部は、
前記撮影装置に内蔵されたセンサによって測定された加速度を取得し、前記加速度に基づいて前記移動距離を特定する、付記9に記載の画像処理装置。
(付記11)
前記指定距離は、
前回選択された前記画像処理用静止画データが表す静止画の画質に基づいて算出される、付記10に記載の画像処理装置。
(付記12)
前記指定距離は、
前回選択された前記画像処理用静止画データの画質が所定の画質よりも良い場合、前回選択された前記画像処理用静止画データが表す静止画の画質が前記所定の画質よりも悪い場合と比較して長い距離が設定される、付記11に記載の画像処理装置。
(付記13)
前記基準品質は、
指定品質及び前記指定品質よりも品質が劣る最低品質を含み、
前記選択部は、
指定品質を満たす少なくとも1以上の静止画データを選択し、前記指定品質を満たす静止画データが存在しない場合、前記最低品質を満たす少なくとも1以上の静止画データを選択する、付記1乃至12のいずれか1項に記載の画像処理装置。
(付記14)
動画データを生成する撮影部と、
前記撮影部の回転に関する回転情報を測定するセンサと、
前記回転情報が関連付けられた前記動画データを、前記動画データから変換された複数の静止画のうち所定の条件に従って画像処理に用いられる画像処理用静止画データを選択する画像処理装置へ送信する送信部と、を備える撮影装置。
(付記15)
前記送信部は、
前記回転情報とともに、さらに、前記動画データを撮影した時刻を示すタイマ情報及び前記撮影装置の移動距離の少なくとも一方が関連付けられた前記動画データを、前記画像処理装置へ送信する、付記14に記載の撮影装置。
(付記16)
動画データを生成する撮影手段と、
前記動画データを複数の静止画データへ変換する変換手段と、
前記複数の静止画データが表す個々の静止画の画質を算出する画質算出手段と、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択する選択手段と、を備え、
前記選択手段は、
前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影手段の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する、画像処理システム。
(付記17)
前記選択手段は、
センサによって測定された前記撮影手段の回転に関する回転情報に基づいて前記回転角度を特定する、付記16に記載の画像処理システム。
(付記18)
撮影装置において生成された動画データを複数の静止画データへ変換し、
前記複数の静止画データが表す個々の静止画の画質を算出し、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択し、
前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択する、画像処理方法。
(付記19)
撮影装置において生成された動画データを複数の静止画データへ変換し、
前記複数の静止画データが表す個々の静止画の画質を算出し、
前記複数の静止画データのうち、画像処理に用いられる画像処理用静止画データを、前記画質に基づいて選択し、
前記複数の静止画データに含まれる第1の静止画データが撮影された際の前記撮影装置の回転角度が指定角度を上回ったと判定した場合に、撮影された時間順に並べられた前記複数の静止画データのうち、前回選択された前記画像処理用静止画データから、前記第1の静止画データまでに含まれる静止画データの中から、基準品質を満たす少なくとも1以上の静止画データを前記画像処理用静止画データとして選択することをコンピュータに実行させるプログラム。
【0096】
以上、実施の形態を参照して本願発明を説明したが、本願発明は上記によって限定されるものではない。本願発明の構成や詳細には、発明のスコープ内で当業者が理解し得る様々な変更をすることができる。
【0097】
この出願は、2020年2月26日に出願された日本出願特願2020-030451を基礎とする優先権を主張し、その開示の全てをここに取り込む。
【符号の説明】
【0098】
10 画像処理装置
11 変換部
12 画質算出部
13 選択部
15 撮影装置
20 撮影装置
21 タイマ
22 撮影部
23 センサ
24 動画生成部
25 送信部
30 画像処理装置
31 通信部
32 画像処理部
図1
図2
図3
図4
図5
図6
図7
図8
図9
図10