(19)【発行国】日本国特許庁(JP)
(12)【公報種別】公開特許公報(A)
(11)【公開番号】P2022157303
(43)【公開日】2022-10-14
(54)【発明の名称】撮影画像処理装置、撮影画像処理システム、撮影画像処理方法、及び撮影画像処理プログラム
(51)【国際特許分類】
H04N 5/232 20060101AFI20221006BHJP
G06T 7/00 20170101ALI20221006BHJP
B64D 47/08 20060101ALI20221006BHJP
【FI】
H04N5/232 290
G06T7/00 350B
G06T7/00 640
B64D47/08
【審査請求】有
【請求項の数】14
【出願形態】OL
(21)【出願番号】P 2021061438
(22)【出願日】2021-03-31
(11)【特許番号】
(45)【特許公報発行日】2022-10-04
(71)【出願人】
【識別番号】501440684
【氏名又は名称】ソフトバンク株式会社
(71)【出願人】
【識別番号】596119179
【氏名又は名称】株式会社コア
(74)【代理人】
【識別番号】110002516
【氏名又は名称】特許業務法人白坂
(72)【発明者】
【氏名】張 亮
(72)【発明者】
【氏名】前迫 敬介
(72)【発明者】
【氏名】八尋 崇泰
【テーマコード(参考)】
5C122
5L096
【Fターム(参考)】
5C122EA61
5C122EA66
5C122EA68
5C122FA11
5C122FH11
5C122FH14
5C122FH15
5C122FH17
5C122HA88
5C122HB01
5L096AA06
5L096BA08
5L096BA18
5L096CA02
5L096DA01
5L096FA54
5L096FA64
5L096GA19
5L096HA11
(57)【要約】
【課題】上空から地表を撮影して地表映像を加工するに際し、AI(人工知能)による撮影画像の加工の負荷軽減、加工処理に要する時間短縮とともに、画像の加工、画像認識の精度向上を実現する撮影画像処理装置を提供する。
【解決手段】地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、地表映像の撮影に際し、高所撮影部の地表からの高度と、高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、高所撮影部の鉛直直下位置側から遠方側にかけて地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、複数の分割長に基づいて分割地表映像を出力する出力部と、複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部を備える。
【選択図】
図1
【特許請求の範囲】
【請求項1】
地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、
前記複数の分割長に基づいて分割地表映像を出力する出力部と、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部と、を備える
ことを特徴とする撮影画像処理装置。
【請求項2】
前記撮影画像処理装置は、前記地表映像を前記複数の分割長に基づいて前記複数の領域に分割して複数の分割地表映像を生成する分割処理部を備える請求項1に記載の撮影画像処理装置。
【請求項3】
前記出力部は、前記複数の分割地表映像を出力する請求項2に記載の撮影画像処理装置。
【請求項4】
前記分割長算出部は、前記地表映像を矩形状の複数の領域に分割する請求項1ないし3のいずれか1項に記載の撮影画像処理装置。
【請求項5】
前記分割長算出部は、前記複数の領域のそれぞれに対応する複数の分割長を前記複数の領域の一の辺の長さを前記鉛直直下位置側から遠方側にかけて短く設定する請求項1ないし4のいずれか1項に記載の撮影画像処理装置。
【請求項6】
前記撮影画像処理装置は、前記鉛直直下位置側から遠方となる所定の前記複数の分割地表映像が所定の画素数を満たさない場合に画素数を増加させる映像加工部を備える請求項1ないし5のいずれか1項に記載の撮影画像処理装置。
【請求項7】
前記映像加工部は、選択された前記複数の分割地表映像に対し、前記鉛直直下位置側から遠方となる所定の前記複数の分割地表映像が所定の画素数を満たさない場合、選択された前記複数の分割地表映像に対し画素数を増加させる請求項6に記載の撮影画像処理装置。
【請求項8】
前記撮影画像処理装置は、前記複数の分割地表映像に存在する認識対象物の有無により、前記認識対象物が存在する前記複数の分割地表映像を選択する選択部を備える請求項1ないし7のいずれか1項に記載の撮影画像処理装置。
【請求項9】
前記選択部は、所定期間に亘り前記複数の分割地表映像の全てを取得した後に当該取得された前記複数の分割地表映像内に前記認識対象物が存在する分割地表映像を選択する請求項8に記載の撮影画像処理装置。
【請求項10】
前記選択部は、前記認識対象物が存在する前記複数の分割地表映像を選択した後に前記高所撮影部が地表を撮影する際の前記高所撮影部の撮影に外乱要因が生じたか否かを判定する外乱判定部を備え、
前記外乱要因が生じた場合、再度所定期間に亘り前記複数の分割地表映像の全てを取得した後に当該取得された前記複数の分割地表映像内に前記認識対象物が存在する分割地表映像を選択する請求項8または9に記載の撮影画像処理装置。
【請求項11】
前記選択部は、前記気象条件の変動を取得する外部情報取得部を備え、
前記気象条件の変動が前記外乱判定部の外乱要因の判定に用いられる請求項10に記載の撮影画像処理装置。
【請求項12】
地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、
前記複数の分割長に基づいて分割地表映像を出力する出力部と、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部と、を備える
ことを特徴とする撮影画像処理システム。
【請求項13】
コンピュータが、
地表を撮影する高所撮影部により撮影された地表映像を取得する映像取得ステップと、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得ステップと、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出ステップと、
前記複数の分割長に基づいて分割地表映像を出力する出力ステップと、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理ステップと、を実行する
ことを特徴とする撮影画像処理方法。
【請求項14】
コンピュータに、
地表を撮影する高所撮影部により撮影された地表映像を取得する映像取得機能と、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得機能と、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出機能と、
前記複数の分割長に基づいて分割地表映像を出力する出力機能と、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理機能と、を実現させる
ことを特徴とする撮影画像処理プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮影画像処理装置、撮影画像処理システム、撮影画像処理方法、及び撮影画像処理プログラムに関する。
【背景技術】
【0002】
地上の様子を観測、撮影、さらには画像処理をする上で航空撮影は簡便であることから多用される。特に、近時、ドローンと称される無人航空機(UAV:Unmanned Aerial Vehicle)の活用が広まり、より頻繁に実施されている(例えば、特許文献1,2等参照)。
【0003】
ドローン等の無人航空機に搭載されたカメラにより、上空から地表の乗用車、建築物等の対象物が撮影される。しかしながら、上空のカメラと地表の対象物との距離、及び上空のカメラと地表の対象物との角度により、地表に存在する対象物の映り方が変化する。上空撮影の映像について、AI(人工知能)による処理(物体認識等)を実行する場合、地上撮影と同じ処理方法を使用すると、物体認識率は悪くなる。
【0004】
従って、ドローン等の無人航空機による上空からの撮影が安価に実施、利用されるとしても、実際のところ、撮影された映像の適切な処理が伴わなければ、上空からの物体認識率の向上とAI(人工知能)による処理量の削減につながらない。そのため、効率の良い映像加工の手法の開発が急務であった。
【先行技術文献】
【特許文献】
【0005】
【特許文献1】特開2019-163012号公報
【特許文献2】特開2021-014241号公報
【発明の概要】
【発明が解決しようとする課題】
【0006】
本発明は前記の点に鑑みなされたものであり、上空から地表を撮影して地表映像を加工するに際し、AI(人工知能)による撮影画像の加工の負荷軽減、加工処理に要する時間短縮とともに、画像の加工、画像認識の精度向上を実現する撮影画像処理装置、撮影画像処理システム、撮影画像処理方法、及び撮影画像処理プログラムを提供する。
【課題を解決するための手段】
【0007】
すなわち、実施形態の撮影画像処理装置は、地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、地表映像の撮影に際し、高所撮影部の地表からの高度と、高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、高所撮影部の鉛直直下位置側から遠方側にかけて地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、複数の分割長に基づいて分割地表映像を出力する出力部と、複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部とを備えることを特徴とする。
【0008】
さらに、撮影画像処理装置は、地表映像を複数の分割長に基づいて複数の領域に分割して複数の分割地表映像を生成する分割処理部を備えることとしてもよい。
【0009】
さらに、撮影画像処理装置の分割長算出部は、地表映像を矩形状の複数の領域に分割することとしてもよい。
【0010】
さらに、撮影画像処理装置の分割長算出部は、複数の領域のそれぞれに対応する複数の分割長を複数の領域の一の辺の長さを前記鉛直直下位置側から遠方側にかけて短く設定することとしてもよい。
【0011】
さらに、撮影画像処理装置は、鉛直直下位置側から遠方となる所定の複数の分割地表映像が所定の画素数を満たさない場合に画素数を増加させる映像加工部を備えることとしてもよい。
【0012】
さらに、映像加工部は、選択された複数の分割地表映像に対し、鉛直直下位置側から遠方となる所定の複数の分割地表映像が所定の画素数を満たさない場合、選択された複数の分割地表映像に対し画素数を増加させることとしてもよい。
【0013】
さらに、撮影画像処理装置は、複数の分割地表映像に存在する認識対象物の有無により、認識対象物が存在する複数の分割地表映像を選択する選択部を備えることとしてもよい。
【0014】
さらに、撮影画像処理装置の選択部は、所定期間に亘り複数の分割地表映像の全てを取得した後に当該取得された複数の分割地表映像内に認識対象物が存在する分割地表映像を選択することとしてもよい。
【0015】
さらに、撮影画像処理装置の選択部は、認識対象物が存在する複数の分割地表映像を選択した後に高所撮影部が地表を撮影する際の高所撮影部の撮影に外乱要因が生じたか否かを判定する外乱判定部を備え、外乱要因が生じた場合、再度所定期間に亘り複数の分割地表映像の全てを取得した後に当該取得された複数の分割地表映像内に認識対象物が存在する分割地表映像を選択することとしてもよい。
【0016】
さらに、撮影画像処理装置の選択部は、気象条件の変動を取得する外部情報取得部を備え、気象条件の変動が外乱判定部の外乱要因の判定に用いられることとしてもよい。
【発明の効果】
【0017】
本発明の撮影画像処理装置によると、地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、地表映像の撮影に際し、高所撮影部の地表からの高度と、高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、高所撮影部の鉛直直下位置側から遠方側にかけて地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、複数の分割長に基づいて分割地表映像を出力する出力部と、複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部とを備えるため、上空から地表を撮影して地表映像を加工するに際し、撮影画像の加工の負荷軽減、加工処理に要する時間短縮とともに、画像の加工、画像認識の精度向上を実現することができる。併せて、撮影画像処理システム、撮影画像処理方法、撮影画像処理プログラムにおいても、同様の効果が見込まれる。
【図面の簡単な説明】
【0018】
【
図1】実施形態の撮影画像処理装置を示す模式図である。
【
図2】撮影画像処理装置の構成を示す概略ブロック図である。
【
図3】撮影画像処理装置の機能部を示す概略ブロック図である。
【
図4】一般的な撮影映像を分割した画像の模式図である。
【
図5】実施形態の撮影映像を分割した画像の模式図である。
【
図6】複数の分割長の設定の様子を示す第1模式図である。
【
図7】複数の分割長の設定の様子を示す第2模式図である。
【
図8】画素数の設定の様子を示す第1模式図である。
【
図9】画素数の設定の様子を示す第2模式図である。
【
図10】認識対象物の存在する分割地表映像の模式図である。
【
図12】外乱要因の発生に伴う分割地表映像の取得を示す時系列図である。
【
図13】撮影画像処理装置の機能部の構成を示す概略ブロック図である。
【
図14】撮影画像処理装置の内部処理を示すシーケンス図である。
【
図15】撮影画像処理システムを示す模式図である。
【
図16】撮影画像処理方法の処理を説明する第1フローチャートである。
【
図17】撮影画像処理方法の処理を説明する第2フローチャートである。
【発明を実施するための形態】
【0019】
図1は実施形態の撮影画像処理装置1の概要を示す模式図である。撮影画像処理装置1は、上空から地表Eを撮影する高所撮影部2により撮影された地表映像(後出の
図4、
図5等参照)を取得し、当該地表映像を加工する装置である。
【0020】
実施形態の高所撮影部2はドローンと称される無人航空機(UAV:Unmanned Aerial Vehicle)であり、地表Eを撮影するためのカメラ3が機体の下部に装備されている。以降、高所撮影部2はドローンであるとして、図示し説明する。
【0021】
高所撮影部2は、ドローンの他に、航空機、グライダー、ヘリコプタ、気球、飛行船、HAPS(High Altitude Platform Station)、低軌道の人工衛星としてもよい。さらには、高所撮影部2は、高層建築物、電波塔等に設置されたカメラであってもよい。高所撮影部2は、地表から所定の高度離れた上空から撮影可能である限り適宜である。高所撮影部2は、専ら上空から地表Eを撮影する機能のみを有する。
【0022】
そして、高所撮影部2により撮影される地表Eの地表映像は、地上に設置される撮影画像処理装置1に高所撮影部2から常時送信される。なお、撮影された地表映像はデータとして高所撮影部2にて記憶され、地上に着陸後に地表映像のデータが撮影画像処理装置1に移されるようにしてもよい。高所撮影部2により撮影される地表Eの地表映像は、AI(人工知能)による機械学習を通じて、当該地表映像内に存在する物体についての認識精度の向上が図られる。AIの手法には、公知の画像認識のディープラーニング(深層学習)等が用いられる。
【0023】
高所撮影部2は、撮影時の地表からの高度、移動速度、カメラ3の角度等の撮影時の状態を示すデータとしての撮影時情報を取得し、撮影時情報は高所撮影部2から撮影画像処理装置1に送信等される。
【0024】
高所撮影部2から撮影画像処理装置1への送信に際し、2.4GHz、5.6ないし5.8GHz帯、さらには、3.6ないし6GHz、28GHz帯等の周波数により送信される。むろん、高所撮影部2がドローン以外の場合、さらには、電波使用の許認可等により使用可能な周波数帯は選択される。その他、セルラー通信、WiFi、WiMAX等の公知の無線通信技術により高所撮影部2から撮影画像処理装置1への送信は可能である。
【0025】
撮影画像処理装置1は、
図2の概略ブロック図に示されるように、ハードウェア的には、インプット/アウトプットインターフェイス11(図示のI/Oインターフェイス)、ROM12、RAM13、記憶部14、CPU15等を実装するコンピュータである。ソフトウェア的には、メインメモリにロードされた撮影画像処理プログラム等により実現される。撮影画像処理装置1(コンピュータ)は、具体的には、パーソナルコンピュータ(PC)、メインフレーム、ワークステーション、クラウドコンピューティングシステム等、種々の電子計算機(計算リソース)である。
【0026】
図1及び
図2の撮影画像処理装置1(コンピュータ)の各機能部をソフトウェアにより実現する場合、撮影画像処理装置1は、各機能を実現するソフトウェアであるプログラムの命令を実行することで実現される。このプログラムを格納する記録媒体は、「一時的でない有形の媒体」、例えば、CD、DVD、半導体メモリ、プログラマブルな論理回路などを用いることができる。また、このプログラムは、当該プログラムを伝送可能な任意の伝送媒体(通信ネットワーク、放送波等)を介して撮影画像処理装置1に供給されてもよい。
【0027】
撮影画像処理装置1(コンピュータ)の記憶部14は、HDDまたはSSD等の公知の記憶装置である。記憶部14は、各種のデータ、情報、撮影画像処理プログラム、同プログラムの実行に必要な各種のデータ等を記憶する。また、各種の算出、演算等の演算実行する各機能部はCPU15等の演算素子である。加えて、高所撮影部2からの信号を受信するアンテナ類、キーボード、マウス等の入力装置、ディスプレイ等の表示装置、データ類を出力する出力装置等も適式にインプット/アウトプットインターフェイス11に接続される。
【0028】
撮影画像処理装置1(コンピュータ)のCPU15における各機能部は、
図3の概略ブロック図のとおり、映像取得部110、撮影時情報取得部120、分割長算出部130、分割処理部140、選択部150、外乱判定部160、外部情報取得部170、映像加工部180、出力部190、画像認識処理部200を備える。撮影画像処理装置1の動作、実行は、ソフトウェア的に、メインメモリにロードされた撮影画像処理プログラム等により実現される。撮影画像処理装置1について、
図4以降の図面を交えて説明する。
【0029】
映像取得部110は、
図1のとおり、地表Eを撮影する高所撮影部2により撮影される地表映像を取得する。
【0030】
高所撮影部2のカメラ3により撮影される地表映像(
図4、
図5参照)は、高所撮影部2から無線により撮影画像処理装置1に送信され、当該撮影画像処理装置1にて受信の後、インプット/アウトプットインターフェイス11を通じてCPU15に送信される。実施形態では、高所撮影部2の撮影と同時に地表映像は撮影画像処理装置1に送信される。
【0031】
撮影時情報取得部120は、地表映像の撮影に際し、高所撮影部2の地表Eからの高度と、高所撮影部2が地表Eを撮影する際の撮影角度とを含む撮影時情報を取得する。なお、高所撮影部2の移動速度を撮影時情報に含めることができる。
【0032】
ドローン等の高所撮影部2には公知のジャイロスコープ、高度計、さらには、GNSS(Global Navigation Satellite System)を活用した測位装置が備えられている。そのため、撮影時の飛行中の機体の高度、高所撮影部2の位置と移動速度、機体の傾きを考慮したカメラ3の撮影角度の情報が、撮影時情報として地表映像の撮影と同時に記憶され、高所撮影部2から無線により撮影画像処理装置1に送信される。
【0033】
なお、実施形態の高所撮影部2からの常時無線送信に代えて一次的に記憶媒体に保存後、撮影画像処理装置1に送信するようにしてもよい。もしくは、高所撮影部2が高層建築物、鉄塔の場合、有線による送信とすることができる。また、高所撮影部2がドローンの場合は、RoF(Radio-of-Fibre)を使用して地上処理装置と有線接続されることもある。
【0034】
分割長算出部130は、高所撮影部2の鉛直直下位置9側から遠方側にかけて地表映像を複数の領域に分割するに際し、使用されるAI(人工知能)のモデルの特徴に基づいて、複数の領域のそれぞれに対応する複数の分割長を設定する。
【0035】
分割処理部140は、地表映像を複数の分割長に基づいて複数の領域に分割して複数の分割地表映像を生成する。
【0036】
図4は高所撮影部2により撮影される地表映像の例の模式図である。自明ながら地表映像中において、高所撮影部2に近い位置の撮影物は大きく、高所撮影部2から遠い位置の撮影物は小さくなる。従って、乗用車等の大きさの定まった対象物(
図10参照の認識対象物)であっても近景と遠景で大きく異なってしまう。映像中の画像認識に際しては、
図4のとおり、遠近法を無視して均等に領域分割する手法が一般的である。個々の長方形は地表映像の分割により生じた領域である。そうすると、分割により生じた領域の大きさ(個々の長方形)は同一であるとしても、対象物自体の大きさは全く異なり、対象物の存在の有無、数の特定等の検出精度と認識精度に影響が生じる。
【0037】
これに対し、
図5は
図4と同一の地表映像の例の模式図であっても、分割の仕方が変更されている。実施形態の撮影画像処理装置1では、地表映像は矩形状(長方形状)の複数の領域に分割される。むろん、矩形状として正方形としても良い。矩形状は4辺のみにより形成されることから領域の分割は容易である。なお、分割される領域の形状は、実施形態の矩形状に限らず、円等であっても良い。
【0038】
高所撮影部2の鉛直直下位置9側では、複数の領域は辺の長さ(分割長)の大きな長方形である。鉛直直下位置9側から遠くなるにつれて、複数の領域は辺の長さ(分割長)は徐々に短くなる。このように、複数の領域のそれぞれに対応する複数の分割長は、矩形状の複数の領域の一の辺の長さを鉛直直下位置9側から遠方側にかけて短く設定される。このような設定とすると、個々の領域における乗用車等の大きさの定まった対象物(認識対象物)の存在比率の変動は少なくなる。
【0039】
複数の分割長を設定するに際し、
図6及び
図7の模式図を用いて説明する。
図6は角度による複数の分割長の設定例である。高所撮影部2のカメラ3が地表Eを撮影すると、領域Ea1が地表映像として取得可能である。領域Ea1は
図5に示す地表映像として取得される範囲に対応する。カメラ3の位置が頂点となり、領域Ea1が底辺となり、実線が斜辺となる三角形が形成される(
図7も同様)。そこで、カメラ3の位置の頂点を挟む辺により生じる角度θ(図中の2つの実線の斜辺に挟まれる角度)は、カメラ3の画角であり、当該画角は複数の角度により区分される。当該角度の区分により底辺側の領域Ea1は鉛直直下位置9側から遠方側にかけて区分される。認識したい物体のサイズができるだけ分割した地表に対して一定の割合に映るようにするために底辺側の領域Ea1が等分に分割されるようにカメラ3の画角を分割する。
【0040】
図7は底辺側の領域Ea1(図示の底辺部)を等分割した場合にカメラ画像へ射影される様子であり、鉛直直下位置9の近くから遠くなるにつれて、徐々にカメラ画像を分割する分割長が短くなる。図中、符号Ecはカメラ画像への投影の大きさを示す線分である。
【0041】
具体的な分割数については、その個数、距離は、分割処理部140において使用されるAI(人工知能)のモデル(後出)の特徴により、高所撮影部2の高度、撮影される地表映像の大きさ、カメラ3の性能等の個々の要件に応じて最適な個数、距離として算出される。AI(人工知能)による機械学習としては、画像認識の深層学習の方法が利用される。例えば、高所撮影部2の高度が上空150mのとき、分割数は9.0である。また、高所撮影部2の高度が上空150mのとき、3840×2160px(ピクセル)の画像に対してY方向に500、400、・・・100px(ピクセル)のように、鉛直直下位置9側から遠くなるにつれてカメラ画像を分割する分割長が短くなる設定である。
【0042】
映像加工部180は、鉛直直下位置9側から遠方の複数の分割地表映像と、鉛直直下位置9側の複数の分割地表映像との解像度を変更する。
【0043】
出力部190は複数の分割長に基づいて分割地表映像を出力する。また、出力部190は複数の分割地表映像をディスプレイ等(図示せず)に出力する。
【0044】
画像認識処理部200は、複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う。
【0045】
一旦、撮影された地表映像(分割地表映像)を取得しようとする場合、鉛直直下位置9側の分割地表映像と、そこから遠方側の分割地表映像の分割の大きさを調整して解像度を変更する理由は、検出対象の物体が分割地表映像中に占める割合を一定範囲に抑えるためである。カメラ3直下の場合は、地表とカメラとの距離が短くなり、検出対象の物体の大きさは大きく、分割地表映像の大きさも相応に大きくなる。一方で、カメラ3直下から遠い場合は、分割地表映像の大きさは小さくしている。
【0046】
このように、鉛直直下位置を基準に複数の分割地表映像の解像度を変更することにより、物体認識率の向上が可能となる。
【0047】
図8及び
図9の模式図から理解されるように、高所撮影部2の鉛直直下位置9(
図1参照)から離れた位置となる所定の分割地表映像Ez1が切り出される。同分割地表映像Ez1はより少ない画素数で切り出される。例えば,
図8では、分割地表映像Ez1は300×200px(ピクセル)の画素数で切り出される。これに対し、
図9では、高所撮影部2の鉛直直下位置9(
図1参照)に近い位置となる所定の分割地表映像Ez2が切り出される。同分割地表映像Ez2はより多い画素数で切り出される。例えば、
図9では、分割地表映像Ez2は400×300px(ピクセル)の画素数で切り出される。
【0048】
具体的には、取得した地表映像に対して領域ごとに分割して分割地表映像が生成され、各分割地表映像(画像)に対して、設定した画素数になるように画素数を通じて解像度が変更される。画素数の選択に際してもAI(人工知能)を用いた物体認識の手法が用いられる。処理をまとめると、適切なサイズの分割地表映像が切り出される。切り出された分割地表映像に対して物体認識のAIモデルが投入される。その認識結果が出力、記憶される。すなわち、近い画像は大きく切り出され、その分、画素数は多くなる。遠い映像は小さく切り出され、その分、画素数の総数が少なくなる。画像は最適化した切り出しとすることにより、物体認識率は向上する。
【0049】
実施形態の撮影画像処理装置1は、複数の分割地表映像に存在する認識対象物の有無により、認識対象物が存在する複数の分割地表映像を選択する選択部150を備える。そして、所定期間に亘り複数の分割地表映像の全てを取得した後に当該取得された複数の分割地表映像内に認識対象物が存在する分割地表映像を選択する。
【0050】
撮影画像処理装置1を使用することにより、主に地表の撮影を通じて地表の交通状況、分布等の観察が可能となる。例えば、渋滞の有無、交通事故の発生等の交通状況の観察に際しては、乗用車、人等の位置が特定される必要がある。つまり、乗用車、人等の含まれる複数の分割地表映像は物体認識の対象となり、乗用車、人等の含まれない複数の分割地表映像は物体認識の対象から除外されることにより、処理が必要となる複数の分割地表映像の総数を削減することが可能となる。
【0051】
例えば、
図10の模式図のように、認識対象物(例では乗用車)が存在する複数の分割地表映像が選択される。このことにより、複数の分割地表映像の総数は少なくなり、当初の地表映像よりも画像処理が必要となる分割地表映像の数は削減され、撮影画像処理装置1(コンピュータ)の演算量及びデータ処理量の削減、処理時間の短縮に貢献する。従前の画像処理では、認識対象物の有無に関わらず、取得した映像の全てについて画像処理が行われていた。このため、目的とする認識対象物の無い(重要度の低い)映像に対しても演算実行する必要が生じていた。
【0052】
ここで言う認識対象物とは、所定の範囲の大きさに定まった種類の画像であり、前出の乗用車、人等である。他に、放牧地、牧草地において家畜を放し飼いする際の撮影と観察に撮影画像処理装置1を使用する場合、認識対象物は、牛、馬、山羊、羊、らくだ等の家畜である。これらの家畜も所定の範囲の大きさに定まった種類の画像となる。
【0053】
高所撮影部2のカメラ3により、上空から地表Eを撮影する撮影する際、突発的に撮影に支障を来す事態が生じることがある。そうすると、安定的に高所撮影部2は地表の撮影を継続することができない。また、乱れた撮影の地表映像をそのまま継続して取得すると、解析に使用するための物体認識の精度を劣化させかねない。よって、撮影に影響を与える要因の有無の確認が重要となる。
【0054】
そこで、選択部150は、認識対象物が存在する複数の分割地表映像を選択した後に、高所撮影部が地表を撮影する際の高所撮影部2の撮影に外乱要因が生じたか否かを判定する外乱判定部160を備える。なお、外乱要因発生の判定は実際に発生していることが優先される。
【0055】
図11の模式図のように、高所撮影部2のカメラ3の前に雲21が存在していたり、鳥の群れ22が存在していたりすると、高所撮影部2により撮影される映像に雲21、鳥の群れ22が映り込み、目的の地表映像を取得することができない。また、ドローン等の高所撮影部2が上空の突風または乱気流23に遭遇して機体の制御が一次的に不可能になる(平衡制御不能となる)場合も起こりえる。
【0056】
ここで言う外乱要因とは、高所撮影部による地表映像の撮影時に何らかの障害を発生させて正常な地表映像の撮影を阻害する要因である。前述のとおり、雲、鳥の群れ、さらには、突風または乱気流に伴う姿勢制御異常等の要因である。実施形態では、常時、高所撮影部2から撮影画像処理装置1に送信されている。このため、送信される地表映像中に外乱要因の発生が確認されると、外乱判定部160は、外乱要因が生じたと判定する。
【0057】
雲、突風、乱気流等の気象に起因する外乱要因については、気象観測により事前に予測が可能である。そこで、気象条件の変動を取得する外部情報取得部170が備えられる。気象条件の変動に関するデータは、撮影画像処理装置1に送信され、当該撮影画像処理装置1にて受信の後、インプット/アウトプットインターフェイス11を通じてCPU15に送信される。
【0058】
具体的には、気象条件の変動は、ドップラーレーダー等の気象観測用のレーダーの情報、気象情報を提供する情報配信者から送信される気象情報である。現在撮影中、またはこれから撮影する場所(上空)の気象条件の参考となり得る。そこで、送信されてくる気象条件の変動が外乱判定部160の外乱要因の判定に用いられる。
【0059】
次に、一度、高所撮影部の撮影に外乱要因が生じた場合の回復措置について説明する。
図11のような外乱要因が生じた場合には、再度所定期間に亘り複数の分割地表映像の全てが取得された後に、当該取得された複数の分割地表映像内に認識対象物が存在する分割地表映像が選択される。
【0060】
具体例について
図12の模式図を用いて説明する。図示の直線は矢印方向に流れる時間軸である。ドローン等の高所撮影部2は地上から上昇して目的の高度に到達する。この後、ドローン等の高所撮影部2はホバリング状態となって撮影するべき地表にカメラ3とその角度を合わせる。そして、暫くの間は複数枚の静止画(実施形態では30枚を例示している。)を撮影する。当該撮影による地表映像及び撮影時情報は高所撮影部2から撮影画像処理装置1に送信される。撮影画像処理装置1にて受信後に、前出の分割長算出部130、分割処理部140、選択部150における各処理が実行され、認識対象物が存在する分割地表映像が選択され、映像加工部180において画素数調整が実行され、最終的に出力部190、画像認識処理部200を経て一連の画像として、ディスプレイ等(図示せず)に出力される。
【0061】
ここで、図中のように、前出の分割長算出部130、分割処理部140、選択部150における各処理が実行され、認識対象物が存在する分割地表映像が選択され、映像加工部180において画素数調整が実行されている最中に外乱要因が発生したとき、再度同様の処理が実行される。すなわち、再度複数枚の静止画(実施形態では30枚を例示している。)が撮影される。そして、前出の分割長算出部130、分割処理部140、選択部150における各処理が実行され、認識対象物が存在する分割地表映像が選択され、映像加工部180において画素数調整が実行され、最終的に出力部190、画像認識処理部200を経て一連の画像として、ディスプレイ等(図示せず)に出力される。
【0062】
このように、外乱要因の発生の度に、最初からやり直しとなり、外乱要因発生中の映像が極力含まれないようにされている。
【0063】
なお、映像加工部180は、鉛直直下位置9側から遠方側となる複数の分割地表映像であっても、鉛直直下位置9側から遠方側となる複数の分割地表映像の画素数を増加させて設定することができる。
【0064】
前述のとおり、映像加工部180は鉛直直下位置9側から近くから遠くへと画素数を通じての解像度を変更する処理を実行している(
図8、
図9参照)。当該処理は、地表映像の全体のデータを効率良く減少させるためである。その上で、実施形態の撮影画像処理装置1は、認識対象物が存在する複数の分割地表映像を選択する機能を備える。そのため、選択された複数の分割地表映像の総数は減少している。しかしながら、鉛直直下位置9側から遠くの複数の分割地表映像であっても、それらの画素数は増加されて、解像度が高められる。これは、認識対象物が存在する複数の分割地表映像について、切り出された分割地表映像に対して、画素数を増加させる処理により補正して解像度を変更している。従って、上空からの監視等が必要となる地表映像の領域を中心に、処理するデータ量を減らしつつ一連の物体認識の精度の向上を図ることができる。
【0065】
図13は実施形態の撮影画像処理装置1の機能部の構成を示す概略ブロック図である。ドローン等の高所撮影部2から送信された各種のデータは、インプット/アウトプットインターフェイス11を通じてCPU15に送信される。そして、映像取得部110、撮影時情報取得部120の処理を経て、分割長算出部130、分割処理部140の処理を経て複数の分割地表映像を生成に至る。そして、選択部150において、認識対象物が存在する複数の分割地表映像が選択される。続いて、選択された複数の分割地表映像に対して映像加工部180において適式な画素数が設定され、画像認識処理部200によりAI(人工知能)による画像認識処理が実行される。一連の映像については記憶部14に記憶保持される。また、気象条件の変動については外部情報取得部170を通じて外乱要因の判定に供される。
【0066】
図14は実施形態の撮影画像処理装置1の内部処理を示すシーケンス図であり、主な処理の流れを示す。撮影時情報を取得後(S1)、当該撮影時情報に含まれる高所撮影部の高度または撮影角度のいずれかの変化が確認され(S2)、いずれの変化もなければ、分割処理部140の説明の通り複数の分割地表映像を生成として映像の分割処理が実行される(S3)。撮影時情報に含まれる高所撮影部の高度または撮影角度のいずれかが変化している場合(S2)、分割長算出部130の処理により再計算が実行され(S4)、計算結果が保存され(S5)、分割処理部140の説明の通り複数の分割地表映像を生成として映像の分割処理が実行される(S3)。
【0067】
映像の分割処理(S3)の後、複数の分割地表映像についての再計算が必要か否か確認され(S6)、再計算必要であれば、選択対象の再計算が実行され(S7)、再度分割処理部140の説明の通り複数の分割地表映像を生成として映像の分割処理が実行される(S3)。複数の分割地表映像についての再計算が必要か否か確認され(S6)、再計算不要であれば、各種の映像の処理が実行される(S10)。
【0068】
映像の分割処理(S3)の後、複数の分割地表映像の解像度の適否が判定され(S8)、解像度の修正の必要が無ければ、各種の映像の処理が実行される(S10)。複数の分割地表映像の解像度の適否が判定され(S8)、解像度の修正の必要があれば、適切な画素設定が行われ(S9)、AI(人工知能)による画像認識処理が実行される(S10)。
【0069】
複数の領域のそれぞれに対応する複数の分割長の設定、鉛直直下位置側から遠方側へと複数の分割地表映像の画素数を減少させる設定、認識対象物が存在する複数の分割地表映像の選択等に際しては、機械学習の手法が取り入れられる。AI(人工知能)によるモデルとして、具体的には、サポートベクター(Support Vector Machine:SVM)、モデルツリー、決定ツリー、ニューラルネットワーク、多重線形回帰、局部的重み付け回帰、確立サーチ方法等の機械学習の手法が用いられる。
【0070】
図15は、撮影画像処理装置1を実装する撮影画像処理システム1Sを示す模式図である。撮影画像処理装置1はインターネット回線7に接続され、さらに、受信部8がインターネット回線7に接続される。そうすると、ドローン等の高所撮影部2が複数機の場合であっても、集中的に映像処理を実行することができる。こうすると、広域の地表映像の取得からその監視等が容易となる。
【0071】
これより、
図16、
図17のフローチャートを用い、撮影画像処理装置1(撮影画像処理システム1S)における撮影画像処理方法と撮影画像処理プログラムをともに説明する。撮影画像処理方法は、撮影画像処理プログラムに基づいて、撮影画像処理装置1(コンピュータ)のCPU15により実行される。撮影画像処理プログラムは、
図2の撮影画像処理装置1(コンピュータ)に対して、映像取得機能、撮影時情報取得機能、分割長算出機能、分割処理機能、選択機能、外乱判定機能、外部情報取得機能、映像加工機能、出力機能の各種機能を実行させる。各機能は前述の撮影画像処理装置1の説明と重複するため、詳細は省略する。
【0072】
図16のフローチャートより、撮影画像処理装置1(コンピュータ)の処理は、映像取得ステップ(S110)、撮影時情報取得ステップ(S120)、分割長算出ステップ(S130)、分割処理ステップ(S140)、選択ステップ(S150)、映像加工ステップ(S180)、出力ステップ(S190)、画像認識処理ステップ(S200)、を備える。さらに、撮影画像処理装置1(コンピュータ)の処理は、
図12のフローチャートより、外部情報取得ステップ(S170)、外乱判定ステップ(S160)の各種ステップを備える。むろん、撮影画像処理装置1(コンピュータ)自体の可動に必要な各種ステップは当然に含まれる。
【0073】
映像取得機能は地表を撮影する高所撮影部により撮影される地表映像を取得する(S110;映像取得ステップ)。撮影時情報取得機能は地表映像の撮影に際し、高所撮影部の地表からの高度と、高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する(S120;撮影時情報取得ステップ)。分割長算出機能は、高所撮影部の鉛直直下位置側から遠方側にかけて地表映像を複数の領域に分割するに際し、AI(人工知能)による機械学習の結果に基づいて複数の領域のそれぞれに対応する複数の分割長を設定する(S130;分割長算出ステップ)。分割処理機能は、地表映像を複数の分割長に基づいて複数の領域に分割して複数の分割地表映像を生成する(S140;分割処理ステップ)。選択機能は、所定期間に亘り複数の分割地表映像の全てを取得した後に当該取得された複数の分割地表映像内に認識対象物が存在する分割地表映像を選択する(S150;選択ステップ)。映像加工機能は、鉛直直下位置側から遠方の複数の分割地表映像と、鉛直直下位置側の複数の分割地表映像との解像度を変更する(S180;映像加工ステップ)。出力機能は複数の分割長に基づいて分割地表映像を出力する(S190;出力ステップ)。画像認識処理機能は複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う(S200;画像認識処理ステップ)。
【0074】
外部情報取得機能は、気象条件の変動を取得する(S170;外部情報取得ステップ)。外乱判定機能は、認識対象物が存在する複数の分割地表映像を選択した後に高所撮影部が地表を撮影する際の高所撮影部の撮影に外乱要因が生じたか否かを判定する(S160;外乱判定ステップ)。これらの各機能は撮影画像処理装置1(コンピュータ)のCPU15により実行される。
【0075】
上述した本発明のコンピュータプログラムは、プロセッサが読み取り可能な記録媒体に記録されていてよく、記録媒体としては、「一時的でない有形の媒体」、例えば、テープ、ディスク、カード、半導体メモリ、プログラマブルな論理回路などを用いることができる。
【0076】
なお、上記コンピュータプログラムは、例えば、ActionScript、JavaScript(登録商標)などのスクリプト言語、Objective-C、Java(登録商標)などのオブジェクト指向プログラミング言語、HTML5などのマークアップ言語などを用いて実装できる。
【符号の説明】
【0077】
1 撮影画像処理装置
1S 撮影画像処理システム
2 高所撮影部
3 カメラ
7 インターネット回線
8 受信部
9 高所撮影部の鉛直直下位置
11 インプット/アウトプットインターフェイス
12 ROM
13 RAM
14 記憶部
15 CPU
110 映像取得部
120 撮影時情報取得部
130 分割長算出部
140 分割処理部
150 選択部
160 外乱判定部
170 外部情報取得部
180 映像加工部
190 出力部
200 画像認識処理部
E 地表
Ez1,Ez2 分割地表映像
【手続補正書】
【提出日】2022-07-08
【手続補正1】
【補正対象書類名】特許請求の範囲
【補正対象項目名】全文
【補正方法】変更
【補正の内容】
【特許請求の範囲】
【請求項1】
地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、前記鉛直直下位置側から遠くなるにつれて前記地表映像を分割する分割長を短くするように、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、
前記複数の分割長に基づいて分割地表映像を出力する出力部と、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部と、を備える
ことを特徴とする撮影画像処理装置。
【請求項2】
前記撮影画像処理装置は、前記地表映像を前記複数の分割長に基づいて前記複数の領域に分割して複数の分割地表映像を生成する分割処理部を備える請求項1に記載の撮影画像処理装置。
【請求項3】
前記出力部は、前記複数の分割地表映像を出力する請求項2に記載の撮影画像処理装置。
【請求項4】
前記分割長算出部は、前記地表映像を矩形状の複数の領域に分割する請求項1ないし3のいずれか1項に記載の撮影画像処理装置。
【請求項5】
前記分割長算出部は、前記複数の領域のそれぞれに対応する複数の分割長を前記複数の領域の一の辺の長さを前記鉛直直下位置側から遠方側にかけて短く設定する請求項1ないし4のいずれか1項に記載の撮影画像処理装置。
【請求項6】
前記撮影画像処理装置は、前記鉛直直下位置側から遠方となる所定の前記複数の分割地表映像の画素数を増加させる映像加工部を備える請求項1ないし5のいずれか1項に記載の撮影画像処理装置。
【請求項7】
前記映像加工部は、前記鉛直直下位置側から遠方となる所定の前記複数の分割地表映像の選択された前記複数の分割地表映像に対し画素数を増加させる請求項6に記載の撮影画像処理装置。
【請求項8】
前記撮影画像処理装置は、前記複数の分割地表映像に存在する認識対象物の有無により、前記認識対象物が存在する前記複数の分割地表映像を選択する選択部を備える請求項1ないし7のいずれか1項に記載の撮影画像処理装置。
【請求項9】
前記選択部は、所定期間に亘り前記複数の分割地表映像の全てを取得した後に当該取得された前記複数の分割地表映像内に前記認識対象物が存在する分割地表映像を選択する請求項8に記載の撮影画像処理装置。
【請求項10】
前記選択部は、前記認識対象物が存在する前記複数の分割地表映像を選択した後に前記高所撮影部が地表を撮影する際の前記高所撮影部の撮影に外乱要因が生じたか否かを判定する外乱判定部を備え、
前記外乱要因が生じた場合、再度所定期間に亘り前記複数の分割地表映像の全てを取得した後に当該取得された前記複数の分割地表映像内に前記認識対象物が存在する分割地表映像を選択する請求項8または9に記載の撮影画像処理装置。
【請求項11】
前記選択部は、気象条件の変動を取得する外部情報取得部を備え、
前記気象条件の変動が前記外乱判定部の外乱要因の判定に用いられる請求項10に記載の撮影画像処理装置。
【請求項12】
地表を撮影する高所撮影部により撮影される地表映像を取得する映像取得部と、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得部と、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、前記鉛直直下位置側から遠くなるにつれて前記地表映像を分割する分割長を短くするように、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出部と、
前記複数の分割長に基づいて分割地表映像を出力する出力部と、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理部と、を備える
ことを特徴とする撮影画像処理システム。
【請求項13】
コンピュータが、
地表を撮影する高所撮影部により撮影された地表映像を取得する映像取得ステップと、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得ステップと、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、前記鉛直直下位置側から遠くなるにつれて前記地表映像を分割する分割長を短くするように、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出ステップと、
前記複数の分割長に基づいて分割地表映像を出力する出力ステップと、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理ステップと、を実行する
ことを特徴とする撮影画像処理方法。
【請求項14】
コンピュータに、
地表を撮影する高所撮影部により撮影された地表映像を取得する映像取得機能と、
前記地表映像の撮影に際し、前記高所撮影部の地表からの高度と、前記高所撮影部が地表を撮影する際の撮影角度とを含む撮影時情報を取得する撮影時情報取得機能と、
前記高所撮影部の鉛直直下位置側から遠方側にかけて前記地表映像を複数の領域に分割するに際し、前記鉛直直下位置側から遠くなるにつれて前記地表映像を分割する分割長を短くするように、前記複数の領域のそれぞれに対応する複数の分割長を設定する分割長算出機能と、
前記複数の分割長に基づいて分割地表映像を出力する出力機能と、
前記複数の分割地表映像それぞれに対してAI(人工知能)による画像認識処理を行う画像認識処理機能と、を実現させる
ことを特徴とする撮影画像処理プログラム。