(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-08-05
(45)【発行日】2024-08-14
(54)【発明の名称】情報処理装置、情報処理方法、プログラム
(51)【国際特許分類】
H04N 23/695 20230101AFI20240806BHJP
H04N 23/63 20230101ALI20240806BHJP
H04N 7/18 20060101ALI20240806BHJP
【FI】
H04N23/695
H04N23/63
H04N7/18
(21)【出願番号】P 2021570665
(86)(22)【出願日】2020-11-24
(86)【国際出願番号】 JP2020043647
(87)【国際公開番号】W WO2021145071
(87)【国際公開日】2021-07-22
【審査請求日】2023-10-04
(31)【優先権主張番号】P 2020003506
(32)【優先日】2020-01-14
(33)【優先権主張国・地域又は機関】JP
(73)【特許権者】
【識別番号】000002185
【氏名又は名称】ソニーグループ株式会社
(74)【代理人】
【識別番号】110003410
【氏名又は名称】弁理士法人テクノピア国際特許事務所
(74)【代理人】
【識別番号】100116942
【氏名又は名称】岩田 雅信
(74)【代理人】
【識別番号】100167704
【氏名又は名称】中川 裕人
(72)【発明者】
【氏名】嶋内 和博
【審査官】吉田 千裕
(56)【参考文献】
【文献】米国特許出願公開第2002/0008758(US,A1)
【文献】米国特許出願公開第2019/0174070(US,A1)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 23/695
H04N 23/63
H04N 7/18
(57)【特許請求の範囲】
【請求項1】
撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行う提示処理部と、
前記提示処理部が提示した前記リストから前記ユーザにより
物体が選択されたことに応じて、被写体の追尾範囲として、該選択された物体に対応する追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う追尾処理部と、を備える
情報処理装置。
【請求項2】
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体の追尾開始範囲用の候補リストとを提示する処理を行い、
前記追尾処理部は、
前記追尾開始範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記追尾開始範囲を設定する
請求項1に記載の情報処理装置。
【請求項3】
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体をロストした際の前記被写体の探索範囲である探索範囲用の候補リストとを提示する処理を行い、
前記追尾処理部は、
前記探索範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記探索範囲を設定する
請求項1に記載の情報処理装置。
【請求項4】
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体の探索対象から除外する範囲である探索除外範囲用の候補リストとを提示する処理を行い、
前記追尾処理部は、
前記探索除外範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記探索除外範囲を設定する
請求項1に記載の情報処理装置。
【請求項5】
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記追尾範囲とは別の前記追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、
前記追尾範囲用の候補リスト及び前記別範囲用の候補リストとして、掲載される物体の少なくとも一部が異なるリストを提示する処理を行う
請求項1に記載の情報処理装置。
【請求項6】
前記提示処理部は、
前記追尾範囲、前記別範囲ごとに候補リストに掲載する物体の対応関係を示した対応関係情報に基づき、前記追尾範囲用の候補リスト、前記別範囲用の候補リストを提示する処理を行う
請求項5に記載の情報処理装置。
【請求項7】
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記追尾範囲とは別の前記追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、
前記追尾範囲用の候補リスト、前記別範囲用の候補リストを、それぞれの候補リストからの物体の選択履歴に基づいて提示する処理を行う
請求項1に記載の情報処理装置。
【請求項8】
前記提示処理部は、
前記追尾範囲用の候補リスト及び前記別範囲用の候補リストとして、前記選択履歴における選択回数の多さに基づき選出した物体の掲載リストを提示する処理を行う
請求項7に記載の情報処理装置。
【請求項9】
前記提示処理部は、
前記リストから物体が選択された場合に、該選択された物体に対応する範囲を示す情報を撮像画像上に提示する処理を行う
請求項1に記載の情報処理装置。
【請求項10】
前記提示処理部は、
前記撮像画像上に提示された前記範囲を示す情報に対する操作に応じて、前記範囲のサイズ又は形状を変化させる処理を行う
請求項9に記載の情報処理装置。
【請求項11】
前記提示処理部は、
前記リストから複数の物体が選択された場合は、選択された各物体を内包する範囲を示す情報を撮像画像上に提示する処理を行う
請求項9に記載の情報処理装置。
【請求項12】
前記提示処理部は、
前記追尾範囲用の候補リストと前記探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストに選択可能な状態で提示されないように候補リストの提示処理を行う
請求項4に記載の情報処理装置。
【請求項13】
前記提示処理部は、
前記追尾範囲用の候補リストと前記探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストで選択された場合は、エラー情報を提示する処理を行う
請求項4に記載の情報処理装置。
【請求項14】
前記提示処理部は、
前記被写体の位置の履歴情報に基づき設定した範囲である位置履歴依拠範囲を示す情報を選択肢の一つとして含む前記リストを生成し、前記ユーザに提示する処理を行う
請求項1に記載の情報処理装置。
【請求項15】
前記被写体は教師であり、
前記提示処理部は、
教師ごとに記憶された前記位置の履歴情報のうち、追尾対象とする教師の前記履歴情報に基づいて前記位置履歴依拠範囲の設定を行う
請求項14に記載の情報処理装置。
【請求項16】
前記物体認識処理では、教壇、教卓、被板書体の少なくとも何れかの物体の認識処理が行われ、
前記提示処理部は、
前記物体認識処理で認識された教壇、教卓、被板書体の少なくとも何れかを含む前記リストをユーザに提示する処理を行う
請求項1に記載の情報処理装置。
【請求項17】
情報処理装置が、
撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示した前記リストから前記ユーザにより
物体が選択されたことに応じて、被写体の追尾範囲として、該選択された物体に対応する追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う
情報処理方法。
【請求項18】
撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示した前記リストから前記ユーザにより
物体が選択されたことに応じて、被写体の追尾範囲として、該選択された物体に対応する追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う機能を、情報処理装置に実現させる
プログラム。
【発明の詳細な説明】
【技術分野】
【0001】
本技術は情報処理装置、情報処理方法、及びプログラムに関し、特には、被写体の追尾範囲の設定に係る技術分野に関する。
【背景技術】
【0002】
撮像装置として、いわゆるPTZカメラと呼ばれるタイプの撮像装置が知られている。PTZカメラは、ズームレンズによる撮像画角の変更を行うズーム機能を備えると共に、パン方向及びチルト方向に撮像方向を変化させるパン・チルト機能を備えたカメラである。
PTZカメラでは、ズーム機能を用いることで特定の被写体が画枠内で特定の大きさで捉えられるようにすることができ、また、パン・チルト機能を用いることで、いわゆる被写体の追尾として、特定の被写体が画枠内の中央位置等の特定位置に位置され続けるように撮像を行うことが可能とされている。
【0003】
なお、関連する従来技術については下記特許文献1を挙げることができる。該特許文献1では、監視カメラにおけるプリセット撮影位置を、監視対象の検出頻度が高い領域に応じた位置に設定する技術が開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
ここで、被写体の追尾が可能な範囲は、パン、チルト方向の可動範囲やレンズの焦点距離によって定まるものとなるが、被写体の追尾は、必ずしも追尾可能範囲全体を対象として行われるとは限らない。例えば、追尾可能範囲内に映したくない物体が含まれる場合等には、該物体が配置される領域を避けて、追尾を行う範囲(以下「追尾範囲」と表記)を設定し、設定した追尾範囲内でのみ被写体の追尾を行うという場合もある。
【0006】
従来、追尾範囲の設定は、ユーザの手動操作により行われることが一般的とされている。特に、PTZカメラによる被写体追尾を行う場合、追尾範囲の設定は、ユーザが撮像画像を目視しながらパン、チルトの調整操作を行って、探索範囲の左上端、右上端、左下端、右下端それぞれに対応するパン、チルトの角度を指示することで行われており、ユーザに多大な負担を強いるものとなっている。
【0007】
本技術は上記事情に鑑み為されたものであり、被写体の追尾範囲の設定に係るユーザの作業負担の軽減を図ることを目的とする。
【課題を解決するための手段】
【0008】
本技術に係る情報処理装置は、撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行う提示処理部と、前記提示処理部が提示した前記リストから前記ユーザにより物体が選択されたことに応じて、被写体の追尾範囲として、該選択された物体に対応する追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う追尾処理部と、を備えるものである。
これにより、被写体の追尾範囲の設定にあたって必要な操作を、少なくともリストから物体を選択する操作のみとすることが可能とされる。
【0009】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体の追尾開始範囲用の候補リストとを提示する処理を行い、前記追尾処理部は、前記追尾開始範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記追尾開始範囲を設定する構成とすることが可能である。
追尾開始範囲を設定することで、撮像開始時に被写体が存在するであろう範囲から被写体の追尾処理を開始することが可能となる。
【0010】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体をロストした際の前記被写体の探索範囲である探索範囲用の候補リストとを提示する処理を行い、前記追尾処理部は、前記探索範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記探索範囲を設定する構成とすることが可能である。
探索範囲の設定により、追尾中の被写体をロストした際に、被写体が存在している可能性の高い範囲を対象として被写体の探索を行うことが可能となる。
【0011】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体の探索対象から除外する範囲である探索除外範囲用の候補リストとを提示する処理を行い、前記追尾処理部は、前記探索除外範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記探索除外範囲を設定する構成とすることが可能である。
探索除外範囲を設定することで、追尾対象外の被写体が存在することが想定される範囲等、対象とする被写体の追尾を適切に行う上で被写体探索範囲に含まれることが望ましくない範囲を除外して、被写体探索を行うことが可能となる。
【0012】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記物体のリストとして、前記追尾範囲用の候補リストと、前記追尾範囲とは別の前記追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、前記追尾範囲用の候補リスト及び前記別範囲用の候補リストとして、掲載される物体の少なくとも一部が異なるリストを提示する処理を行う構成とすることが可能である。
これにより、追尾範囲、別範囲ごとにその候補として相応しい物体を提示することが可能となる。
【0013】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記追尾範囲、前記別範囲ごとに候補リストに掲載する物体の対応関係を示した対応関係情報に基づき、前記追尾範囲用の候補リスト、前記別範囲用の候補リストを提示する処理を行う構成とすることが可能である。
これにより、対応関係情報を参照して候補リストを生成するという簡易な処理により、範囲ごとにその候補として相応しい物体のみを提示することが可能となる。
【0014】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記物体のリストとして、前記追尾範囲用の候補リストと、前記追尾範囲とは別の前記追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、前記追尾範囲用の候補リスト、前記別範囲用の候補リストを、それぞれの候補リストからの物体の選択履歴に基づいて提示する処理を行う構成とすることが可能である。
これにより、物体の選択履歴に基づいて、範囲ごとに相応しい物体のみを候補として提示することが可能となる。
【0015】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記追尾範囲用の候補リスト及び前記別範囲用の候補リストとして、前記選択履歴における選択回数の多さに基づき選出した物体の掲載リストを提示する処理を行う構成とすることが可能である。
これにより、過去における選択回数の多さから範囲ごとに相応しいと推定される物体のみを候補として提示することが可能となる。
【0016】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記リストから物体が選択された場合に、該選択された物体に対応する範囲を示す情報を撮像画像上に提示する処理を行う構成とすることが可能である。
これにより、ユーザは自らが選択した物体の範囲を撮像画像上において確認することが可能となる。
【0017】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記撮像画像上に提示された前記範囲を示す情報に対する操作に応じて、前記範囲のサイズ又は形状を変化させる処理を行う構成とすることが可能である。
これにより、ユーザはリストからの物体の選択により対応する範囲を示す情報を提示させた上で、該範囲を示す情報に対する操作を行うことで、該範囲のサイズや形状の変更を指示することが可能となる。
【0018】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記リストから複数の物体が選択された場合は、選択された各物体を内包する範囲を示す情報を撮像画像上に提示する処理を行う構成とすることが可能である。
これにより、複数の物体に跨がる追尾範囲の設定を希望する場合、ユーザは少なくともリストからそれら物体を選択する操作を行えばよい。
【0019】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記追尾範囲用の候補リストと前記探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストに選択可能な状態で提示されないように候補リストの提示処理を行う構成とすることが可能である。
これにより、追尾範囲用に選択された物体が探索除外範囲用の物体としても選択されてしまったり、逆に探索除外範囲用の物体として選択された物体が追尾範囲用の物体としても選択されてしまったりする等、矛盾した選択が行われてしまうことの防止が図られる。
【0020】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記追尾範囲用の候補リストと前記探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストで選択された場合は、エラー情報を提示する処理を行う構成とすることが可能である。
これにより、矛盾した選択が行われた場合に対応してユーザにエラー報知が行われる。
【0021】
上記した本技術に係る情報処理装置においては、前記提示処理部は、前記被写体の位置の履歴情報に基づき設定した範囲である位置履歴依拠範囲を示す情報を選択肢の一つとして含む前記リストを生成し、前記ユーザに提示する処理を行う構成とすることが可能である。
これにより、例えば被写体が頻繁に通る範囲等、被写体の位置履歴から追尾を行うのに適切と考えられる範囲を追尾範囲の候補として提示することが可能となる。
【0022】
上記した本技術に係る情報処理装置においては、前記被写体は教師であり、前記提示処理部は、教師ごとに記憶された前記位置の履歴情報のうち、追尾対象とする教師の前記履歴情報に基づいて前記位置履歴依拠範囲の設定を行う構成とすることが可能である。
例えば、或る教師は講義中に頻繁に移動し、別の教師は講義中にあまり移動しない等、教師によって講義中における移動特性が異なる場合がある。
【0023】
上記した本技術に係る情報処理装置においては、前記物体認識処理では、教壇、教卓、被板書体の少なくとも何れかの物体の認識処理が行われ、前記提示処理部は、前記物体認識処理で認識された教壇、教卓、被板書体の少なくとも何れかを含む前記リストをユーザに提示する処理を行う構成とすることが可能である。
これにより、講義が行われる教室の配置物に基づいた追尾範囲の設定を行うことが可能とされる。
【0024】
また、本技術に係る情報処理方法は、情報処理装置が、撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示した前記リストから前記ユーザにより物体が選択されたことに応じて、被写体の追尾範囲として、該選択された物体に対応する追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う情報処理方法である。
このような情報処理方法によっても、上記した本技術に係る情報処理装置と同様の作用が得られる。
【0025】
また、本技術に係るプログラムは、撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示した前記リストから前記ユーザにより物体が選択されたことに応じて、被写体の追尾範囲として、該選択された物体に対応する追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う機能を、情報処理装置に実現させるプログラムである。
このようなプログラムにより、上記した本技術に係る情報処理装置が実現される。
【図面の簡単な説明】
【0026】
【
図1】本技術に係る実施形態としての情報処理装置を含んで構成される追尾撮像システムの構成例を示したブロック図である。
【
図2】実施形態としての情報処理装置のハードウェア構成例を示したブロック図である。
【
図3】被写体追尾に係る各種範囲の設定を行う際の流れを説明するためのフローチャートである。
【
図4】実施形態としての情報処理装置が有する各種機能をブロック化して示した機能ブロック図である。
【
図5】物体認識技術の例(一般物体認識技術)の説明図である。
【
図6】物体認識技術の例(セマンティックセグメンテーション)の説明図である。
【
図7】実施形態において物体認識の対象とされる各種物体の例を説明するための図である。
【
図8】同じく、実施形態において物体認識の対象とされる各種物体の例を説明するための図である。
【
図10】実施形態における対応関係情報の例を示した図である。
【
図11】実施形態における枠情報の提示例を示した図である。
【
図12】実施形態における枠情報の他の提示例を示した図である。
【
図13】選択した物体に対応する範囲の変更操作についての説明図である。
【
図14】選択画面の提示までに係る処理を示したフローチャートである。
【
図15】物体の選択から範囲の確定までに対応した処理のフローチャートである。
【
図16】各種範囲の設定に係る処理のフローチャートである。
【
図17】リストから複数の物体を選択可能とした選択画面の例を示した図である。
【
図18】リストから複数の物体が選択された場合の枠情報の提示例を示した図である。
【
図19】第三変形例における第一の提示処理例を説明するための図である。
【
図20】同じく、第三変形例における第一の提示処理例を説明するための図である。
【
図21】第三変形例における第二の提示処理例を説明するための図である。
【
図22】同じく、第三変形例における第二の提示処理例を説明するための図である。
【
図23】第四変形例におけるリストの提示例を示した図である。
【発明を実施するための形態】
【0027】
以下、実施の形態を次の順序で説明する。
<1.追尾撮像システム>
[1-1.システムの構成]
[1-2.追尾撮像について]
<2.実施形態としての範囲設定手法>
<3.処理手順>
<4.各種変形例>
[4-1.第一変形例]
[4-2.第二変形例]
[4-3.第三変形例]
[4-4.第四変形例]
<5.その他変形例>
<6.実施形態のまとめ>
<7.本技術>
【0028】
<1.追尾撮像システム>
[1-1.システムの構成]
図1は、本技術に係る実施形態としての情報処理装置1を含んで構成される追尾撮像システム100の構成例を示したブロック図である。
図示のように追尾撮像システム100は、情報処理装置1、撮像装置2、及び記録装置3を少なくとも備える。
【0029】
撮像装置2は、メカ的にパン及びチルトする機能を備え、且つ、ズームレンズによる焦点距離の調整(つまり画角の調整)を行うことが可能なPTZカメラとして構成されている。撮像装置2は、情報処理装置1が出力する制御信号に基づき、焦点距離の調整やパン、チルトによる撮像方向の調整を行う。
撮像装置2は、例えばCMOS(Complementary metal-oxide-semiconductor)イメージセンサやCCD(Charge Coupled Device)イメージセンサ等による撮像素子を備えて構成され、動画像による撮像画像データを生成可能とされている。撮像装置2で得られた撮像画像データは、情報処理装置1、及び記録装置3に出力される。
また、撮像装置2は、パン方向、チルト方向の角度情報や焦点距離の情報等のカメラ情報を情報処理装置1に出力する。
【0030】
情報処理装置1は、例えばコンピュータ装置として構成され、撮像装置2から入力した撮像画像について画像解析を行う画像解析機能や、上述した制御信号による撮像装置2の動作制御機能(パン、チルト、ズームの制御機能)を有する。
特に、本例の情報処理装置1は、画像解析機能の一つとして、特定の被写体を検出する被写体検出機能を有する。そして、情報処理装置1は、この被写体検出機能により特定の被写体を検出した場合は、該被写体を対象とした追尾処理を行う。ここで、被写体の追尾処理とは、対象とする被写体が、撮像画像の出力画枠内の特定位置に位置され続けるようにする処理を意味する。本例では、被写体の追尾は、パン、チルトによる撮像方向の制御により実現する。すなわち、この場合の追尾処理として情報処理装置1は、出力画枠内の特定位置に被写体が位置され続けるように、上述した制御信号により、撮像装置2のパン、チルトの制御を行う。
【0031】
また、本例の情報処理装置1は、被写体の追尾を行う範囲としての追尾範囲を始めとした、被写体の追尾処理に係る各種範囲の設定処理も行う。なお、このような各種範囲の設定処理については後に改めて説明する。
【0032】
記録装置3は、撮像装置2から入力した撮像画像データを記録する機能を有する。
【0033】
図2は、情報処理装置1のハードウェア構成例を示したブロック図である。
図示のように情報処理装置1は、CPU(Central Processing Unit)11、ROM(Read Only Memory)12、RAM(Random Access Memory)13、バス14、入出力インタフェース15、入力部16、表示部17、音声出力部18、記憶部19、通信部20、及びドライブ22を備えている。
【0034】
CPU11は、ROM12に記憶されているプログラム、または記憶部19からRAM13にロードされたプログラムに従って各種の処理を実行する。RAM13にはまた、CPU11が各種の処理を実行する上において必要なデータなども適宜記憶される。
CPU11、ROM12、及びRAM13は、バス14を介して相互に接続されている。このバス14にはまた、入出力インタフェース15も接続されている。
【0035】
入出力インタフェース15には、操作子や操作デバイスよりなる入力部16が接続される。
例えば入力部16としては、キーボード、マウス、キー、ダイヤル、タッチパネル、タッチパッド、リモートコントローラ等の各種の操作子や操作デバイスが想定される。
入力部16によりユーザの操作が検知され、入力された操作に応じた信号はCPU11によって解釈される。
【0036】
また入出力インタフェース15には、LCD(Liquid Crystal Display)或いは有機EL(Electro-luminescence)パネルなどよりなる表示部17や、スピーカなどよりなる音声出力部18が一体又は別体として接続される。
表示部17は各種表示を行う表示部であり、例えば情報処理装置1の筐体に設けられるディスプレイデバイスであったり、情報処理装置1に接続される別体のディスプレイデバイス等により構成される。
表示部17は、CPU11の指示に基づいて表示画面上に各種の情報表示を実行する。例えば、表示部17はCPU11の指示に基づき、各種操作メニュー、アイコン、メッセージ等、即ちGUI(Graphical User Interface)としての表示を行う。また、表示部17は、撮像装置2から入力された撮像画像の表示を行うこともできる。
【0037】
入出力インタフェース15には、ハードディスクや固体メモリなどより構成される記憶部19や、モデムなどより構成される通信部20が接続される。
通信部20は、インターネット等の伝送路を介しての通信処理を行ったり、各種機器との有線/無線通信、バス通信などによる通信を行う。本例では、撮像装置2と情報処理装置1との間の通信はこの通信部20を介して行われる。
【0038】
入出力インタフェース15にはまた、必要に応じてドライブ22が接続され、磁気ディスク、光ディスク、光磁気ディスク、或いは半導体メモリなどのリムーバブル記録媒体21が適宜装着される。
ドライブ22により、リムーバブル記録媒体21から画像ファイル等のデータファイルや、各種のコンピュータプログラムなどを読み出すことができる。読み出されたデータファイルは記憶部19に記憶されたり、データファイルに含まれる画像や音声が表示部17や音声出力部18で出力されたりする。またリムーバブル記録媒体21から読み出されたコンピュータプログラム等は必要に応じて記憶部19にインストールされる。
【0039】
[1-2.追尾撮像について]
ここで、以下の説明では、追尾撮像システム100がレクチャ(講義)のキャプチャに用いられる例を挙げる。具体的には、教室等の講義が行われる室内を撮像する位置に撮像装置2が配置され、教師が講義を行う様子を撮像した撮像画像を得る。このとき、追尾の対象は教師とされ、撮像画像内に教師としての被写体が検出されると、該教師を対象とした追尾処理が開始される。
【0040】
このような特定被写体を対象とした追尾撮像が適切に行われるようにするために、追尾撮像システム100においては、撮像の開始前に、追尾に係る以下のような各種範囲の設定が行われる。
●追尾開始範囲(ホームポジション)
追尾を開始する範囲であり、この追尾開始範囲内に対象の被写体が現れたら追尾を開始する。
●追尾範囲
対象の被写体を追尾する範囲。例えば、パン方向の角度範囲とチルト方向の角度範囲とで定められる。換言すれば、パン方向、及びチルト方向の可動範囲全体を最大範囲としたとき、該最大範囲以下の範囲として定められる。
●探索範囲(リカバリーポジション)
追尾対象の被写体をロストした際に該被写体の探索を行う範囲。一般的には、追尾対象の被写体がよく通る領域を含む範囲として設定すべきものとなる。
●探索除外範囲(マスクエリア)
追尾のための被写体探索を行わない範囲。例えば、オーディエンスが居る場所など、追尾対象でない被写体が存在する範囲を設定することで、追尾対象でない被写体が誤追尾されてしまうことの防止が図られる。
【0041】
図3のフローチャートを参照し、これら各種範囲の設定を行う際の流れを説明する。
先ず、図中のステップS1と示すように、各種範囲を設定済みか否かを判定し、設定済みでなければ、ステップS3に進んで各種範囲の設定処理を行う。すなわち、上記した追尾開始範囲、追尾範囲、探索範囲、及び探索除外範囲の各種範囲を設定するための処理を行う。
そして、ステップS3で各種範囲の設定処理を行ったことに応じ、ステップS4で追尾撮像を開始する。この追尾撮像では、ステップS3で設定した各種範囲の情報に基づいた追尾処理が行われる。
【0042】
一方、ステップS1で各種範囲を設定済みであると判定した場合は、ステップS2において、要設定変更か否かを判定する。すなわち、既に設定済みの各種範囲の情報の変更を要するか否かの判定を行う。例えば、同じ教室であっても、異なる講義が行われる場合には、撮像画像(追尾撮像画像)内に映したくないものの配置が異なる等して、例えば追尾範囲や探索範囲等を変更したくなることが想定される。ステップS2では、例えばこのような事情から既に設定済みの各種範囲の変更を要するか否かの判定が行われる。
ステップS2で要設定変更であると判定した場合には、ステップS3の設定処理が行われた上で、ステップS4で追尾撮像開始となる。一方、ステップS2で要設定変更でないと判定した場合は、ステップS3の設定処理がパスされ、ステップS4で追尾撮像開始となる。
【0043】
ここで、従来、ステップS3で行われる各種範囲の設定処理は、ユーザ操作に基づき各種範囲を設定する処理として行われていた。具体的には、上記した追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲ごとに、ユーザに撮像画像を目視させながらパン、チルトの調整操作を行わせて、範囲を定義するためのパン、チルトの角度を指示させるというものである。
このため従来では、ユーザに多大な作業負担を強いるものとなっている。
【0044】
そこで、本実施形態では、被写体の追尾に係る各種範囲の設定に関して、ユーザの作業負担の軽減を図ることを目的とする。
【0045】
<2.実施形態としての範囲設定手法>
図4は、情報処理装置1のCPU11が有する各種機能をブロック化して示した機能ブロック図である。なお、
図4ではCPU11が有する各種機能のうち追尾撮像に係る一部機能のみをブロック化して示している。
図示のようにCPU11は、物体認識部F1、提示処理部F2、及び追尾処理部F3としての機能を有している。
【0046】
物体認識部F1は、撮像装置2からの撮像画像について物体認識処理を行う。すなわち、画像内に映し出される物体を認識する処理である。この物体認識処理は、撮像画像に映し出される実空間の構造を解析する処理と換言することもできる。物体認識の具体的な手法については特に限定されるものではなく、例えばAI(人工知能)による画像認識技術などの従来技術を用いることができる。
例えば、
図5に示すような一般物体認識技術を用いて、画像内に映し出される物体の位置や物体の名称(カテゴリ)を特定する。或いは、
図6に示すようなセマンティックセグメンテーションを用いて、物体の位置や名称を特定することもできる。
【0047】
図7、
図8は、本実施形態において物体認識の対象とされる各種物体の例を説明するための図である。
前述のように本実施形態では撮像対象とする環境が講義の行われる教室とされるため、物体認識処理での認識の対象とされる物体は、教室内に配置される各種の物体となる。
図7では、教卓o1、被板書体o2、教壇o3、ディスプレイo4、及び座席部o5が配置された教室の例を示している。ここで、被板書体o2とは、教師による板書が行われる媒体を意味し、例えば黒板やホワイトボード等が該当する。ディスプレイo4は、例えば講義時に参照される画像を表示出力する表示装置であり、座席部o5は、生徒等の受講者が着座する座席や机が配置された部分を意味する。
【0048】
図8に示す教室は、
図7の教室から教壇o3が省略されたものである。
【0049】
図4において、物体認識部F1は、物体認識処理の結果を示す情報として、認識された物体ごとに、その物体の範囲を示す情報(例えば、物体の外接枠の座標とサイズ)と名称の情報とを出力する。
【0050】
提示処理部F2は、上記の物体認識処理で認識された物体のリストをユーザに提示する処理を行う。物体のリストは、
図2に示した表示部17を介してユーザに提示される。
【0051】
追尾処理部F3は、提示処理部F2が提示したリストからユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて被写体の追尾処理を行う。
以下で説明するように、本例では、提示処理部F2は、追尾範囲のみでなく、前述した追尾開始範囲、探索範囲、及び探索除外範囲の各範囲について物体のリストを提示するものとされ、これに対応して追尾処理部F3は、これら各範囲のリストからのユーザによる物体選択の結果に基づき、追尾開始範囲、追尾範囲、探索範囲、及び探索除外範囲をそれぞれ設定する。そして、設定したこれらの各範囲の情報に基づいて、被写体の追尾処理を実行する。
【0052】
図9は、物体のリストの提示例を説明するための図である。
図9Aは、各種範囲の設定にあたって提示処理部F2が表示部17に表示させる操作受付用の画像(GUI)の例を示している。
この操作受付用の画像においては、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲ごとに、プルダウンボタンBpが表示される。ここでは各プルダウンボタンBpを区別するため、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲のプルダウンボタンBpの符号を図示のように「Bp1」「Bp2」「Bp3」「Bp4」と表記する。
【0053】
図9Bは、
図9Aからの表示遷移の例として、プルダウンボタンBp1(追尾開始範囲)とプルダウンボタンBp4(探索除外範囲)が操作された場合の遷移例を示している。
プルダウンボタンBpの操作に応じて、操作されたプルダウンボタンBpに対応する範囲についての物体のリストがプルダウン表示される。図示の例では、プルダウンボタンBp1の操作に応じ、追尾開始範囲に対応する物体のリストとして「教壇」「被板書体」「教卓」を掲載したリストが表示され、また、プルダウンボタンBp4の操作に応じ、探索除外範囲に対応する物体のリストとして「座席部」「ディスプレイ」を掲載したリストが表示されている。
【0054】
例えば、追尾開始範囲のリストから「教卓」が選択された場合、追尾処理部F3は、教卓o1の位置に対応する範囲を追尾開始範囲として設定する。ここで、物体の選択操作としては、例えばクリック操作やタップ操作などの操作とすることが考えられる。
また、追尾処理部F3は、探索除外範囲のリストから「座席部」が選択された場合には、座席部o5の位置に対応した範囲を探索除外範囲として設定する。追尾範囲、探索範囲についても同様に、追尾処理部F3は、プルダウンボタンBp2、Bp3の操作によりプルダウン表示されたリストからの物体の選択があった場合に、該選択された物体の位置に応じた範囲をそれぞれ追尾範囲、探索範囲として設定する。
【0055】
これにより、被写体の追尾に係る各種範囲の設定にあたり、ユーザはパン、チルトの操作を行ってそれぞれの範囲指定を行う必要がなくなる。従って、被写体の追尾に係る各種範囲を設定する際のユーザの作業負担軽減を図ることができる。
【0056】
なお、図示の例では、物体のリストには、「座標を指定」の項目も掲載するものとしている。図示による説明は省略するが、この「座標を指定」の項目を選択した場合、ユーザは、表示部17に表示される撮像画像から範囲指定のための座標の指定を行うことが可能とされる。すなわち、認識された物体の範囲に左右されず、任意の範囲の設定を行うことが可能とされる。
【0057】
ここで、各種範囲ごとに提示する物体のリストに関して、各リストに何れの物体を掲載するかは任意に定めることができる。
本例では、少なくとも一部の範囲間で異なる物体が掲載されるようにしている。
【0058】
本例における提示処理部F2は、各種範囲の物体のリストを生成する際に、
図10に示すような対応関係情報I1を用いる。
図10に示すように対応関係情報I1は、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲ごとに、リストへの掲載対象とする物体の識別情報(例えば、名称情報)が対応づけられた情報とされる。具体的に、本例の対応関係情報I1では、追尾開始範囲のリストへの掲載対象物体として「教卓」「教壇」「被板書体」が定められ、追尾範囲のリストへの掲載対象物体として「教卓」「教壇」「被板書体」「ディスプレイ」が定められている。また、探索範囲のリストへの掲載対象物体として「教卓」「教壇」「被板書体」が定められ、探索除外範囲のリストへの掲載対象物体として「座席部」「ディスプレイ」が定められている。
【0059】
提示処理部F2は、物体認識部F1による物体認識結果が得られたことに応じて、このような対応関係情報I1に従って範囲ごとのリストを生成する。具体的には、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲について、対応関係情報I1で定義されている物体のうち実際に認識された全ての物体を含むリストをそれぞれ生成する。
【0060】
上記のような対応関係情報I1に基づき各範囲のリストを生成することで、範囲ごとにその候補として相応しい物体をユーザに提示することが可能となり、リスト上に不要な候補が掲載されることの防止が図られ、ユーザがリストから物体を選択する際の負担軽減を図ることができる。
【0061】
ここで、
図10の対応関係情報I1を参照して理解されるように、本例では、少なくとも追尾範囲と探索除外範囲との間で、掲載される物体の少なくとも一部が異なるリストを提示するものとしている。具体的には、探索除外範囲のリストには「座席部」を掲載するが、追尾範囲のリストには「座席部」を掲載しないようにしている。
前述のように座席部o5は追尾対象でない被写体が存在する場所となるため、追尾範囲に含まれてしまうと安定した被写体追尾を実現することが困難となる虞がある。このため本例では、探索除外範囲のリストには「座席部」を掲載するが、追尾範囲のリストには「座席部」を掲載しないようにしている。
追尾開始範囲や探索範囲についても、「座席部」について追尾範囲と同様のことが言えるため、本例では、これら追尾開始範囲、探索範囲のリストについても、「座席部」は掲載しないものとしている。
【0062】
ここで、「ディスプレイ」には、場合によっては人物の画像が映し出されることもあるため(つまり誤追尾の原因となり得るため)、本例では探索除外範囲のリストへの掲載候補に含めるものとしている。
【0063】
なお、上記では、探索除外範囲とそれ以外の範囲との間でリストに掲載する物体を異ならせる例を挙げたが、例えば、追尾開始範囲と追尾範囲との間や、追尾範囲と探索範囲との間等、別の組み合わせによる範囲同士の間で、リストに掲載する物体を異ならせることもできる。例えば
図10の例では、追尾開始範囲と追尾範囲との間でリストに掲載する物体を異ならせている(「ディスプレイ」の有無)。また、
図10の例では、追尾範囲と探索範囲との間でもリストに掲載する物体を異ならせている(同様に「ディスプレイ」の有無)。
【0064】
本例における提示処理部F2は、上記のように生成した各種範囲ごとのリストを、プルダウンボタンBpが操作されたことに応じて表示する(
図9参照)が、前述のようにユーザは、表示されたリストから任意の物体を選択することで、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲のそれぞれについて、選択した物体に対応する範囲を指定することができる。
【0065】
この際、本例の提示処理部F2は、リストから物体が選択された場合に、
図11や
図12に例示するように、選択物体に対応する範囲を示す情報を撮像画像上に提示する。
図11、
図12に示すように、本例の提示処理部F2は、物体の選択画面Gsとして、前述した各種範囲ごとのプルダウンボタンBp(Bp1からBp4)と共に、撮像装置2より取得した撮像画像を配置した画面を表示部17に表示させる。この撮像画像として、本例では物体認識部F1が物体認識処理の対象とした撮像画像を用いる。
図11では、リストに掲載された「教卓」が選択された場合における範囲情報の提示例を示している。本例では、選択された物体に対応する範囲として、矩形の範囲を設定するものとされ、これに対応し範囲情報としては、選択された物体に対応する範囲の外縁を示す枠情報Wを提示する。
図12は、「教壇」が選択された場合における枠情報Wの提示例を示している。
【0066】
ここで、枠情報Wの提示契機となる物体の選択操作は、クリック操作やタップ操作以外に、マウスオーバー操作とすることも考えられる。すなわち、リストにおける物体がマウスオーバーされたことに応じて、該マウスオーバーされた物体に対応した範囲を示す情報を撮像画像上に提示させるようにすることも可能である。
【0067】
なお、図示は省略するが、枠情報Wを提示する際には、撮像画像における選択された物体に対応する範囲が強調されるように、枠情報Wが示す範囲以外の画像領域の明度を下げる等の表示制御を行うこともできる。
【0068】
また、本例では、
図13に例示するように、提示された枠情報Wに対する操作によって範囲のサイズや形状を変化させることが可能とされる。
本例では、枠情報Wとして提示された枠に対するドラッグ操作に応じて、該枠の形状、サイズの変更を行う。すなわち、選択された物体に対応する範囲についての変更(調整)を行うものである。なお、ここで言う形状とは、あくまで矩形の範疇における形状であって、矩形以外の形状への変更は意味していない。
【0069】
追尾処理部F3は、各種範囲について、リストから物体が選択された以降に範囲を確定する操作を待機する。本例では、該範囲を確定する操作は、例えば対象の範囲についてのプルダウンボタンBpが再操作されること(つまりプルダウン表示されたリストを閉じる操作)としている。
範囲を確定する操作が行われた場合、追尾処理部F3は、範囲を示す情報を記憶する。
【0070】
さらに、追尾処理部F3は、各種範囲の全てについて選択が完了したことを示す操作である選択完了操作を待機し、該選択完了操作が行われた場合は、各種範囲の設定処理を行う。すなわち、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲について、上記した範囲を確定する操作に応じて記憶した範囲の情報に基づき、追尾撮像時に用いる各種範囲を設定する処理を行う。
このとき、設定する範囲情報としては、少なくとも撮像画像における座標の情報とする。
【0071】
本例では、物体認識に用いる画像の撮像は、ズームレンズを最大限広角側とした(つまりワイド端とした)広角撮像を行い、一方、被写体の追尾時には、広角撮像時よりも狭画角での撮像を行う。このため本例では、各種範囲についての範囲情報としては、上記した座標の情報と共に、広角撮像時の焦点距離の情報も設定する。
【0072】
なお、上記では範囲の変更操作を枠に対する操作とする例を挙げたが、範囲の変更操作は、例えば範囲の縁部であって枠よりも内側となる部分をドラッグする操作とする等、他の操作とすることも考えられる。範囲の変更操作は、少なくとも範囲を示す情報に対する操作とすればよい。
【0073】
<3.処理手順>
図14から
図16のフローチャートを参照し、上記した実施形態としての範囲設定手法を実現するために実行すべき具体的な処理の手順を説明する。
なお、ここでは実施形態としての範囲設定手法を実現するための処理がCPU11のソフトウェア処理で実現される場合を例示するが、以下で説明する処理をハードウェアにより実現することもできる。
【0074】
図14は、選択画面Gsの提示までに係る処理を示したフローチャートである。
先ず、CPU11はステップS101で、広角撮像処理を実行する。すなわち、前述した広角撮像が行われるように撮像装置2を制御する。
【0075】
ステップS101に続くステップS102でCPU11は、撮像画像を取得する。すなわち、ステップS101で実行させた広角撮像による撮像画像を撮像装置2から取得する。
【0076】
次いで、CPU11はステップS103で、撮像画像についての物体認識処理を実行する。すなわち、前述した物体認識部F1としての処理により、教卓o1、被板書体o2、教壇o3、ディスプレイo4、座席部o5などの所定の物体についての認識処理を行う。
【0077】
ステップS103の物体認識処理を実行したことに応じ、CPU11はステップS104で、物体認識結果に基づく候補リストの生成処理を実行する。つまり、本例では、
図10に示した対応関係情報I1に基づき、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲について、物体認識結果に基づく候補リストの生成を行う。具体的には、これら各種範囲について、対応関係情報I1で定義されている物体のうち実際に認識された全ての物体を含むリストをそれぞれ生成する。
【0078】
ステップS104に続くステップS105でCPU11は、選択画面Gsの提示処理として、
図11に示したような選択画面Gsを表示部17に表示させる処理を行い、
図14に示す一連の処理を終える。
前述のように、本例では、選択画面Gsには広角撮像で得られた撮像画像を表示させる。また、選択画面Gsにおいては、プルダウンボタンBpの操作に応じて、ステップS104で生成したリストのうち、プルダウンボタンBpが操作された範囲に対応するリストをプルダウン表示させる。
【0079】
図15は、物体の選択から範囲の確定までに対応した処理のフローチャートである。
なお、
図15に示す処理は、選択画面GsにおけるプルダウンボタンBpの操作に応じて物体のリストが提示されたことに応じて開始される。CPU11は、ユーザの操作に応じて
図15に示す処理を追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲について実行する。
【0080】
先ず、CPU11はステップS201で、リストからの物体選択が行われるまで待機し、リストからの物体選択が行われた場合は、ステップS202に進んで選択された物体に対応する範囲情報を取得する。すなわち、選択された物体について、物体認識処理で認識された該物体の範囲を示す情報を取得し、該情報に基づいて、物体に対応する範囲を計算し、取得する。本例では、物体に対応する範囲は、認識された物体の範囲よりも拡大した範囲(少なくとも縦方向を拡大した範囲)とする。このためステップS202では、認識された範囲よりも拡大された範囲を計算して取得している。
【0081】
ステップS202に続くステップS203でCPU11は、取得した範囲情報に基づく枠を選択画面Gsにおける撮像画像上に提示するための処理を実行する。すなわち、前述した枠情報Wとして、ステップS202で取得した範囲を示す枠情報Wを選択画面Gsにおける撮像画像上に表示させるための表示部17に対する制御を行う。
【0082】
ステップS203に続くステップS204でCPU11は、枠に対する操作が行われたか否かを判定し、枠に対する操作が行われていないと判定した場合は、ステップS205で範囲の確定操作(前述のように、本例ではプルダウンボタンBpの再操作)が行われたか否かを判定する。範囲の確定操作が行われていないと判定した場合、CPU11はステップS204に戻る。これらステップS204及びS205の処理より、枠に対する操作と範囲の確定操作の何れかを待機するループ処理が形成されている。
【0083】
ステップS204において、枠に対する操作が行われたと判定した場合、CPU11はステップS206に進み、操作に応じて枠のサイズ、形状を変更する処理を行い、ステップS204に戻る。
【0084】
一方、ステップS205において、範囲の確定操作が行われたと判定した場合、CPU11はステップS207に進んで範囲の記憶処理を実行し、
図15に示す一連の処理を終える。ステップS207の記憶処理では、枠に対する操作が行われていなければステップS202で取得した範囲の情報を記憶する処理を行い、枠に対する操作が行われてサイズ、形状の少なくとも何れかの変更があった場合には、範囲の確定操作が行われた時点での枠の範囲を示す情報を記憶する。
【0085】
図16は、各種範囲の設定に係る処理のフローチャートである。
先ず、CPU11はステップS301で、各種範囲の選択完了操作が行われるまで待機する。本例において、各種範囲の選択完了操作は、例えば選択画面Gsに設けられた不図示の選択完了ボタンの操作とされ、従ってステップS301の処理では、該選択完了ボタンの操作を待機する。
【0086】
各種範囲の選択完了操作が行われた場合、CPU11はステップS302で各種範囲の広角撮像画像上での座標情報を取得し、続くステップS303で各種範囲の座標情報と広角撮像の焦点距離情報とを記憶する処理を行い、
図16に示す一連の処理を終える。
ここで、広角撮像時の焦点距離情報は、撮像装置2から取得してもよいし、先のステップS101の広角撮像処理時に撮像装置2に指示した焦点距離の情報を用いてもよい。
また、追尾撮像時における焦点距離が予め所定の焦点距離に定められている場合には、範囲の情報としては、広角撮像時の座標情報を該所定の焦点距離としたときのパン、チルトの角度情報に換算して設定してもよい。
【0087】
<4.各種変形例>
[4-1.第一変形例]
ここで、上記では、リストに掲載する物体を対応関係情報I1で予め定めておく例を挙げたが、対応関係情報I1を用いることは必須ではない。
例えば、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の全てについて、物体認識処理で認識された全ての物体をリストに掲載するという手法を採ることもできる。
【0088】
或いは、初期状態では、上記のように全ての範囲のリストに認識物体の全てを掲載しておくが、その後における各範囲のリストからの物体の選択履歴に応じて、範囲ごとに掲載する物体を選ぶようにすることもできる。例えば、範囲ごとに、リストからの選択回数が多かった上位所定位までの物体を、その範囲のリストに掲載する等の手法を採ることが考えられる。
【0089】
その場合、CPU11は、範囲ごとに、リストからの物体選択が行われたことに応じ、何れの物体が選択されたかを示す情報を選択履歴として逐次記憶していく。そして、例えば所定回数以上の追尾撮像を行った以降(つまり履歴のサンプルを所定数以上収集できた以降)、選択画面Gsを提示する際に、各種範囲ごとに、それぞれ選択履歴を参照し、選択回数の多い上位所定位までの物体をリストへの掲載候補物体として選定する。そして、リストの提示時に、該候補物体を掲載したリストの提示処理を行う。
【0090】
上記のような選択履歴に基づくリスト提示を行うことで、対応関係情報I1を用いることなく、範囲ごとに相応しい物体のみを候補として提示することが可能となる。
従って、ユーザが候補リストから物体を選択する際の負担軽減を図るにあたり、対応関係情報I1を人手により予め作成しておく必要がなくなり、情報処理装置1の開発に係る作業負担軽減を図ることができる。
【0091】
[4-2.第二変形例]
これまでの説明では、範囲の設定にあたり、リストから一つの物体のみを選択させる例を挙げたが、複数の物体を選択可能とすることもできる。
図17は、リストから複数の物体を選択可能とした選択画面GsAの例を示している。
図示のように選択画面GsAでは、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲のうち対象とする範囲(図中では追尾範囲の例を示している)についての物体のリストにおいて、物体ごとにチェックボックスCbが用意されており、このチェックボックスCbにチェックを入れる操作により、物体の選択が可能とされている。
【0092】
ここで、本例では、リストから複数の物体が選択された場合は、
図18に例示するように、選択された各物体を内包する範囲を示す枠情報Wを撮像画像上に提示する処理を行う。図中では、リストから「教卓」と「教壇」の二つの物体が選択された場合に対応した枠情報Wを例示しているが、この場合の枠情報Wとしては、図中に示す「教卓」に対応した範囲である範囲H1と、「教壇」に対応した範囲である範囲H2とを内包する範囲を示す情報を提示している。
【0093】
この場合のCPU11は、上記のように提示した枠情報Wが示す範囲を確定する操作が行われた場合に、対象とする範囲(図中の例では追尾範囲)を、該枠情報Wが示す範囲に設定する。
【0094】
上記のような第二変形例としての処理を行うことで、ユーザは、複数の物体に跨がる範囲の設定を希望する場合において、少なくともリストからそれら物体を選択する操作を行えば足る。
従って、複数の物体に跨がる追尾範囲の設定に係るユーザの操作負担の軽減を図ることができる。
【0095】
なお、上記では追尾範囲を例に挙げたが、追尾開始範囲や探索範囲等の他の範囲についても同様に、リストから複数の物体が選択された場合に選択された各物体を内包する範囲を示す枠情報Wを撮像画像上に提示することができる。
【0096】
[4-3.第三変形例]
ここで、追尾開始範囲は、追尾撮像の開始時において追尾対象とする被写体の探索が行われる範囲と換言することができる。また、追尾範囲は、追尾撮像中において追尾対象とする被写体の探索が行われる範囲と換言することができる。探索範囲は、前述のように追尾対象とする被写体をロストした際に該被写体の探索を行う範囲である。これらの点より、追尾開始範囲、追尾範囲、及び探索範囲は、何れも、被写体の探索が行われる範囲であると換言できるものである。
一方で、探索除外範囲は、前述のように追尾対象以外の被写体に対する誤追尾防止のために被写体探索を行わない範囲であるため、仮に、探索除外範囲について選択された物体が、探索除外範囲以外の追尾開始範囲、追尾範囲、探索範囲の何れかにおいても選択された場合には、範囲設定の矛盾が生じてしまう。
【0097】
このような矛盾の発生防止を図るべく、本例では、次のような手法を提案する。すなわち、探索除外範囲以外の範囲用の候補リストと探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が、他方の候補リストに選択可能な状態で提示されないようにするものである。
【0098】
図19及び
図20に具体例を示す。
図19では、追尾範囲用の候補リストから「教卓」「教壇」「ディスプレイ」の各物体が選択された例を示している。
この場合におけるCPU11は、上記のような追尾範囲についての物体選択が行われた後、探索除外範囲についての候補リストを提示する際に、
図20に示すように、追尾範囲側で既に選択されている「ディスプレイ」について、例えばグレーアウト表示させる等、ユーザによる選択が可能な状態での表示が行われないようにリストの提示処理を行う。
【0099】
なお、ユーザによる選択が可能な状態にしないという意味では、該当する物体をグレーアウト表示させるのではなく、非表示とすることもできる。
【0100】
或いは、範囲設定の矛盾防止のためには、矛盾が生じる旨のエラー報知をユーザに対して行うことも考えられる。すなわち、探索除外範囲以外の範囲用の候補リストと探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストで選択された場合は、エラー情報を提示する処理を行うようにすることもできる。
図21及び
図22は、具体例の説明図であり、例えば
図21に示すように追尾範囲用の候補リストから「教卓」「教壇」「ディスプレイ」の各物体が選択された後、探索除外範囲についての候補リストから「ディスプレイ」が選択された場合は、該「ディスプレイ」が選択できない旨のエラー情報の提示処理を行う。
【0101】
これにより、矛盾した選択が行われた場合に対応してユーザにエラー報知が行われ、範囲の設定矛盾が生じてしまうことの防止を図ることができる。
【0102】
[4-4.第四変形例]
追尾撮像に係る各種範囲の候補としては、物体に対応した範囲以外にも、被写体の位置の履歴情報に基づいて設定した範囲(以下「位置履歴依拠範囲」と表記する)を提示することもできる。
位置履歴依拠範囲の一例としては、追尾対象とする被写体がよく通る範囲(頻繁に通る範囲)を挙げることができる。被写体がよく通る範囲とは、被写体の検出頻度が高い範囲と換言することができるものであり、従って、被写体の位置の履歴情報に基づき求めることができる。
【0103】
具体的に、この場合のCPU11は、位置の履歴情報として、過去に被写体の追尾撮像を行った際における該被写体の単位時間ごと(例えば数秒ごと等)の検出位置を蓄積した情報を生成する。そして、CPU11は、生成した履歴情報に基づき、被写体の検出頻度が一定以上となる範囲を「よく通る範囲」として設定する。
【0104】
この場合のCPU11は、上記のように設定した「よく通る範囲」を示す情報を選択肢の一つとして含むリストを生成する。該リストの生成は、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲のうち少なくとも追尾範囲について行う。
そして、CPU11は、生成したリストを、ユーザに対して提示するための処理を行う。
【0105】
図23は、リストの提示例を説明するための図である。
図示のようにこの場合のリストでは、撮像画像から認識された物体の名称を示す情報と共に、「よく通る範囲」の項目が掲載される。本例では、この「よく通る範囲」についても、選択操作が行われた場合にはその範囲を示す枠情報Wを撮像画像上に提示するものとしている。
【0106】
なお、
図23では追尾範囲のリストについて「よく通る範囲」を掲載する例を挙げたが、探索範囲や追尾開始範囲についても、同様に「よく通る範囲」をリストに掲載することもできる。
【0107】
ここで、位置履歴依拠範囲としては、「よく通る範囲」に限定されるものではない。例えば、被写体がよく留まる場所(頻繁に立ち止まる場所)は、探索範囲に含まれることが好適である。このため、被写体がよく留まる場所に対応する範囲を、位置履歴依拠範囲としてリストに掲載することもできる。或いは、被写体の検出頻度が低い場所は、探索の範囲から除外されるべきであるため、該検出頻度が低い場所に対応する範囲を位置履歴依拠範囲として探索除外範囲のリストに掲載すること等も考えられる。
【0108】
また、位置履歴依拠範囲については、追尾対象とする被写体ごと(つまり本例では教師ごと)に設定し分けることもできる。
その場合、CPU11は、位置の履歴情報として教師ごとの履歴情報を生成・記憶しておく。そして、教師ごとに記憶された履歴情報のうち、追尾対象とする教師の履歴情報に基づいて、位置履歴依拠範囲の設定を行う。このとき、追尾対象とする教師が何れの教師であるかは、ユーザ操作により選択させることが考えられる。或いは、教室で行われる講義についての時間割情報(少なくとも講義ごとの開始時刻、及び担当教師を示す情報を含む)に基づき、CPU11が追尾対象とする教師が何れの教師であるかを選択することも考えられる。
【0109】
なお、上記では位置履歴依拠範囲をリストにおける候補の一つとして提示する例を挙げたが、位置履歴依拠範囲は、認識された物体に対応する範囲を調整するための情報として用いることもできる。例えば、「教卓」や「教壇」に対応する範囲を、「よく通る範囲」を考慮して広げたり狭めたりする調整を行うことが考えられる。
【0110】
<5.その他変形例>
実施形態としては、上記により説明した具体例に限定されるものでなく、多様な変形例が考えられる。
例えば、追尾に係る各種範囲の設定や調整を行う際には、被板書体o2において板書が行われた領域である板書領域の情報を参照することもできる。
例えば、追尾範囲として「被板書体」に対応する範囲が設定されて被写体の追尾が行われている状況において、被板書体が比較的横長で、教師が被板書体の隅などの一部領域にしか板書を行っていない状況においては、追尾範囲を、被板書体全体に対応した範囲から、板書領域を含む一部の範囲に狭めるように調整するといったことが考えられる。
或いは、追尾範囲として「教卓」と「被板書体」とを含む範囲が指示された状況において、講義開始時(追尾撮像開始時)は「教卓」に対応した範囲のみを追尾範囲として被写体の追尾を行い、被板書体に対する板書が検出されたことに応じ、追尾範囲を「教卓」と「被板書体」とを含む範囲に拡大して追尾を行うということも考えられる。
なお、板書の検出は、OCR(Optical Character Recognition/Reader:光学的文字認識)などによる文字認識技術を用いて行うことができる。
【0111】
また、上記では、追尾開始範囲、追尾範囲、探索範囲、探索除外範囲の各種範囲について、基本的に全ての範囲についてリストからの物体選択が行われる前提としたが、各種範囲の選択については全て選択完了する必要はなく、選択がされなかった項目については予め定めている設定(初期設定)に応じて追尾に係る制御を行ってもよい。
例えば、追尾範囲を選択しない場合には、パン・チルトの駆動可能範囲を追尾範囲として設定することが考えられる。また、追尾開始範囲や探索範囲を選択しない場合には、撮像画像の中心位置から追尾を開始することが考えられる。また、探索除外範囲を選択しない場合には全範囲で被写体を探索することが考えられる。
【0112】
また、上記では、物体認識のための撮像をズーム機能を用いて広角撮像により行う例を挙げたが、物体認識のための撮像は、パノラマ撮像により行うこともできる。具体的に、その場合のCPU11は、撮像装置2をパン、チルトさせながら複数回の撮像を実行させて複数枚の撮像画像を得る。そして、それら撮像画像をパノラマ合成してパノラマ画像を生成し、該パノラマ画像を対象として物体認識処理を行う。
これにより、ズーム機能のない撮像装置2が用いられる場合にも追尾に係る各種範囲を適切に設定することが可能となる。
【0113】
ここで、これまでの説明では、メカ的なパン、チルト機能を用いて追尾撮像を行う場合に本技術を適用する例を挙げたが、本技術は、撮像画像からの切り出し位置(クロップする位置)の制御により被写体の追尾を行う場合にも好適に適用できる。
このような切り出し位置の制御により被写体の追尾画像を得る場合において、被写体の追尾処理とは、撮像画像の出力画枠内の特定位置に被写体が位置され続けるように切り出し位置を制御する処理であると定義できる。
【0114】
また、先の
図1では、情報処理装置1と撮像装置2とを別体とした例を示したが、情報処理装置1は撮像装置2を一体化した装置とすることもできる。また、情報処理装置1としては、記録装置3を一体化した装置とすることもできる。
【0115】
また、これまでの説明では、教室において講義を行う教師を対象として追尾撮像を行う場合に本技術を適用する例を挙げたが、本技術において、追尾対象とする被写体の例はこれに限定されない。例えば、社内研修における講師や、音楽ライブでの歌手や演奏者等を追尾対象とする場合にも本技術は好適に適用できる。
【0116】
<6.実施形態のまとめ>
上記のように実施形態としての情報処理装置(同1)は、撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行う提示処理部(同F2)と、提示処理部が提示したリストからユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて被写体の追尾処理を行う追尾処理部(同F3)と、を備えている。
これにより、被写体の追尾範囲の設定にあたって必要な操作を、少なくともリストから物体を選択する操作のみとすることが可能とされる。
従って、被写体の追尾範囲の設定に係るユーザの作業負担の軽減を図ることができる。
【0117】
また、実施形態としての情報処理装置においては、提示処理部は、物体のリストとして、追尾範囲用の候補リストと、被写体の追尾開始範囲用の候補リストとを提示する処理を行い、追尾処理部は、追尾開始範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する追尾開始範囲を設定している。
追尾開始範囲を設定することで、撮像開始時に被写体が存在するであろう範囲から被写体の追尾処理を開始することが可能となる。
従って、被写体の追尾がスムーズに開始されるように図ることができる。
【0118】
さらに、実施形態としての情報処理装置においては、提示処理部は、物体のリストとして、追尾範囲用の候補リストと、被写体をロストした際の被写体の探索範囲である探索範囲用の候補リストとを提示する処理を行い、追尾処理部は、探索範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する探索範囲を設定している。
探索範囲の設定により、追尾中の被写体をロストした際に、被写体が存在している可能性の高い範囲を対象として被写体の探索を行うことが可能となる。
従って、被写体のロスト後における追尾の再開がスムーズに行われるように図ることができる。
【0119】
さらにまた、実施形態としての情報処理装置においては、提示処理部は、物体のリストとして、追尾範囲用の候補リストと、被写体の探索対象から除外する範囲である探索除外範囲用の候補リストとを提示する処理を行い、追尾処理部は、探索除外範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する探索除外範囲を設定している。
探索除外範囲を設定することで、追尾対象外の被写体が存在することが想定される範囲等、対象とする被写体の追尾を適切に行う上で被写体探索範囲に含まれることが望ましくない範囲を除外して、被写体探索を行うことが可能となる。
従って、被写体の追尾性能の向上を図ることができる。
【0120】
また、実施形態としての情報処理装置においては、提示処理部は、物体のリストとして、追尾範囲用の候補リストと、追尾範囲とは別の追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、追尾範囲用の候補リスト及び別範囲用の候補リストとして、掲載される物体の少なくとも一部が異なるリストを提示する処理を行っている。
これにより、追尾範囲、別範囲ごとにその候補として相応しい物体を提示することが可能となる。
従って、リスト上に不要な候補が掲載されることの防止を図ることができ、ユーザが候補リストから物体を選択する際の負担軽減を図ることができる。
【0121】
さらに、実施形態としての情報処理装置においては、提示処理部は、追尾範囲、別範囲ごとに候補リストに掲載する物体の対応関係を示した対応関係情報に基づき、前記追尾範囲用の候補リスト、前記別範囲用の候補リストを提示する処理を行っている。
これにより、対応関係情報を参照して候補リストを生成するという簡易な処理により、範囲ごとにその候補として相応しい物体のみを提示することが可能となる。
従って、ユーザが候補リストから物体を選択する際の負担軽減を簡易な処理で実現することができる。
【0122】
さらにまた、実施形態としての情報処理装置においては、提示処理部は、物体のリストとして、追尾範囲用の候補リストと、追尾範囲とは別の追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、追尾範囲用の候補リスト、別範囲用の候補リストを、それぞれの候補リストからの物体の選択履歴に基づいて提示する処理を行っている。
これにより、物体の選択履歴に基づいて、範囲ごとに相応しい物体のみを候補として提示することが可能となる。
従って、ユーザが候補リストから物体を選択する際の負担軽減を図ることができる。また、そのような負担軽減を図るにあたり、各範囲と物体との対応関係を示す対応関係情報を人手により予め作成しておく必要がなくなり、情報処理装置の開発に係る作業負担軽減を図ることができる。
【0123】
また、実施形態としての情報処理装置においては、提示処理部は、追尾範囲用の候補リスト及び別範囲用の候補リストとして、選択履歴における選択回数の多さに基づき選出した物体の掲載リストを提示する処理を行っている。
これにより、過去における選択回数の多さから範囲ごとに相応しいと推定される物体のみを候補として提示することが可能となる。
従って、ユーザが候補リストから物体を選択する際の負担軽減を図ることができる。
【0124】
さらに、実施形態としての情報処理装置においては、提示処理部は、リストから物体が選択された場合に、該選択された物体に対応する範囲を示す情報を撮像画像上に提示する処理を行っている。
これにより、ユーザは自らが選択した物体の範囲を撮像画像上において確認することが可能となる。
従って、何れの物体の範囲を選択したかをユーザに直感的に理解させることができる。
また、物体の範囲を示す文字情報だけでなく撮像画像上で範囲を確認できるため、範囲の選択ミスを生じ難くすることができる。
【0125】
さらにまた、実施形態としての情報処理装置においては、提示処理部は、撮像画像上に提示された範囲を示す情報に対する操作に応じて、範囲のサイズ又は形状を変化させる処理を行っている。
これにより、ユーザはリストからの物体の選択により対応する範囲を示す情報を提示させた上で、該範囲を示す情報に対する操作を行うことで、該範囲のサイズや形状の変更を指示することが可能となる。
従って、範囲の設定に係る作業負担の軽減と、範囲の設定自由度向上との両立を図ることができる。
【0126】
また、実施形態としての情報処理装置においては、提示処理部は、リストから複数の物体が選択された場合は、選択された各物体を内包する範囲を示す情報を撮像画像上に提示する処理を行っている。
これにより、複数の物体に跨がる追尾範囲の設定を希望する場合、ユーザは少なくともリストからそれら物体を選択する操作を行えばよい。
従って、複数の物体に跨がる追尾範囲の設定に係るユーザの操作負担の軽減を図ることができる。
【0127】
さらに、実施形態としての情報処理装置においては、提示処理部は、追尾範囲用の候補リストと探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストに選択可能な状態で提示されないように候補リストの提示処理を行っている。
これにより、追尾範囲用に選択された物体が探索除外範囲用の物体としても選択されてしまったり、逆に探索除外範囲用の物体として選択された物体が追尾範囲用の物体としても選択されてしまったりする等、矛盾した選択が行われてしまうことの防止が図られる。
従って、追尾範囲と探索除外範囲とについて矛盾のない適切な範囲設定を実現することができる。
【0128】
さらにまた、実施形態としての情報処理装置においては、提示処理部は、追尾範囲用の候補リストと探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストで選択された場合は、エラー情報を提示する処理を行っている。
これにより、矛盾した選択が行われた場合に対応してユーザにエラー報知が行われる。
従って、追尾範囲と探索除外範囲とについて設定矛盾が生じてしまうことの防止を図ることができる。
【0129】
また、実施形態としての情報処理装置においては、提示処理部は、被写体の位置の履歴情報に基づき設定した範囲である位置履歴依拠範囲を示す情報を選択肢の一つとして含むリストを生成し、ユーザに提示する処理を行っている。
これにより、例えば被写体が頻繁に通る範囲等、被写体の位置履歴から追尾を行うのに適切と考えられる範囲を追尾範囲の候補として提示することが可能となる。
従って、追尾範囲を選択するための候補リストとして、被写体の位置履歴を考慮した適切なリストを提示することができる。
【0130】
さらに、実施形態としての情報処理装置においては、被写体は教師であり、提示処理部は、教師ごとに記憶された位置の履歴情報のうち、追尾対象とする教師の履歴情報に基づいて位置履歴依拠範囲の設定を行っている。
例えば、或る教師は講義中に頻繁に移動し、別の教師は講義中にあまり移動しない等、教師によって講義中における移動特性が異なる場合がある。
上記のように対象とする教師の位置履歴情報に基づいて追尾範囲の候補となる範囲を設定することで、対象とする教師の講義中における移動特性を考慮した適切な候補リストを提示することができる。
【0131】
さらにまた、実施形態としての情報処理装置においては、物体認識処理では、教壇、教卓、被板書体の少なくとも何れかの物体の認識処理が行われ、提示処理部は、物体認識処理で認識された教壇、教卓、被板書体の少なくとも何れかを含むリストをユーザに提示する処理を行っている。
これにより、講義が行われる教室の配置物に基づいた追尾範囲の設定を行うことが可能とされる。
従って、講義中の教師を対象として追尾を行う際の追尾範囲として適切な範囲の設定を行うことができる。
【0132】
また、実施形態としての情報処理方法は、情報処理装置が、撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示したリストからユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて被写体の追尾処理を行う情報処理方法である。
このような実施形態としての情報処理方法によっても、上記した実施形態としての情報処理装置と同様の作用及び効果を得ることができる。
【0133】
実施形態のプログラムは、撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示したリストからユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて被写体の追尾処理を行う機能を、情報処理装置に実現させるプログラムである。
すなわち、実施形態のプログラムは、
図14から
図16等で説明した処理を情報処理装置に実行させるプログラムである。
【0134】
このようなプログラムにより、実施形態としての情報処理装置の実現が容易となる。
そしてこのようなプログラムは、コンピュータ装置等の機器に内蔵されている記録媒体や、CPUを有するマイクロコンピュータ内のROM等に予め記憶しておくことができる。或いは、半導体メモリ、メモリカード、光ディスク、光磁気ディスク、磁気ディスク等のリムーバブル記録媒体に、一時的あるいは永続的に格納(記憶)しておくことができる。またこのようなリムーバブル記録媒体は、いわゆるパッケージソフトウェアとして提供することができる。
また、このようなプログラムは、リムーバブル記録媒体からパーソナルコンピュータ等にインストールする他、ダウンロードサイトから、LAN(Local Area Network)、インターネットなどのネットワークを介してダウンロードすることもできる。
【0135】
なお、本明細書に記載された効果はあくまでも例示であって限定されるものではなく、また他の効果があってもよい。
【0136】
<7.本技術>
なお本技術は以下のような構成も採ることができる。
(1)
撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行う提示処理部と、
前記提示処理部が提示した前記リストから前記ユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う追尾処理部と、を備える
情報処理装置。
(2)
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体の追尾開始範囲用の候補リストとを提示する処理を行い、
前記追尾処理部は、
前記追尾開始範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記追尾開始範囲を設定する
前記(1)に記載の情報処理装置。
(3)
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体をロストした際の前記被写体の探索範囲である探索範囲用の候補リストとを提示する処理を行い、
前記追尾処理部は、
前記探索範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記探索範囲を設定する
前記(1)又は(2)に記載の情報処理装置。
(4)
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記被写体の探索対象から除外する範囲である探索除外範囲用の候補リストとを提示する処理を行い、
前記追尾処理部は、
前記探索除外範囲用の候補リストから物体が選択された場合は、該選択された物体に対応する前記探索除外範囲を設定する
前記(1)から(3)の何れかに記載の情報処理装置。
(5)
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記追尾範囲とは別の前記追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、
前記追尾範囲用の候補リスト及び前記別範囲用の候補リストとして、掲載される物体の少なくとも一部が異なるリストを提示する処理を行う
前記(1)から(4)の何れかに記載の情報処理装置。
(6)
前記提示処理部は、
前記追尾範囲、前記別範囲ごとに候補リストに掲載する物体の対応関係を示した対応関係情報に基づき、前記追尾範囲用の候補リスト、前記別範囲用の候補リストを提示する処理を行う
前記(5)に記載の情報処理装置。
(7)
前記提示処理部は、
前記物体のリストとして、前記追尾範囲用の候補リストと、前記追尾範囲とは別の前記追尾処理に係る範囲である別範囲用の候補リストとを提示する処理を行うと共に、
前記追尾範囲用の候補リスト、前記別範囲用の候補リストを、それぞれの候補リストからの物体の選択履歴に基づいて提示する処理を行う
前記(1)から(6)の何れかに記載の情報処理装置。
(8)
前記提示処理部は、
前記追尾範囲用の候補リスト及び前記別範囲用の候補リストとして、前記選択履歴における選択回数の多さに基づき選出した物体の掲載リストを提示する処理を行う
前記(7)に記載の情報処理装置。
(9)
前記提示処理部は、
前記リストから物体が選択された場合に、該選択された物体に対応する範囲を示す情報を撮像画像上に提示する処理を行う
前記(1)から(8)の何れかに記載の情報処理装置。
(10)
前記提示処理部は、
前記撮像画像上に提示された前記範囲を示す情報に対する操作に応じて、前記範囲のサイズ又は形状を変化させる処理を行う
前記(9)に記載の情報処理装置。
(11)
前記提示処理部は、
前記リストから複数の物体が選択された場合は、選択された各物体を内包する範囲を示す情報を撮像画像上に提示する処理を行う
前記(9)又は(10)に記載の情報処理装置。
(12)
前記提示処理部は、
前記追尾範囲用の候補リストと前記探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストに選択可能な状態で提示されないように候補リストの提示処理を行う
前記(4)から(11)の何れかに記載の情報処理装置。
(13)
前記提示処理部は、
前記追尾範囲用の候補リストと前記探索除外範囲用の候補リストとについて、何れか一方の候補リストで選択された物体が他方の候補リストで選択された場合は、エラー情報を提示する処理を行う
前記(4)から(11)の何れかに記載の情報処理装置。
(14)
前記提示処理部は、
前記被写体の位置の履歴情報に基づき設定した範囲である位置履歴依拠範囲を示す情報を選択肢の一つとして含む前記リストを生成し、前記ユーザに提示する処理を行う
前記(1)から(13)の何れかに記載の情報処理装置。
(15)
前記被写体は教師であり、
前記提示処理部は、
教師ごとに記憶された前記位置の履歴情報のうち、追尾対象とする教師の前記履歴情報に基づいて前記位置履歴依拠範囲の設定を行う
前記(14)に記載の情報処理装置。
(16)
前記物体認識処理では、教壇、教卓、被板書体の少なくとも何れかの物体の認識処理が行われ、
前記提示処理部は、
前記物体認識処理で認識された教壇、教卓、被板書体の少なくとも何れかを含む前記リストをユーザに提示する処理を行う
前記(1)から(15)の何れかに記載の情報処理装置。
(17)
情報処理装置が、
撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示した前記リストから前記ユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う
情報処理方法。
(18)
撮像画像についての物体認識処理で認識された物体のリストをユーザに提示する処理を行い、提示した前記リストから前記ユーザにより選択された物体に対応する被写体の追尾範囲を設定し、該設定した追尾範囲に基づいて前記被写体の追尾処理を行う機能を、情報処理装置に実現させる
プログラム。
【符号の説明】
【0137】
100 追尾撮像システム
1 情報処理装置
2 撮像装置
11 CPU
16 入力部
17 表示部
F1 物体認識部
F2 提示処理部
F3 追尾処理部
o1 教卓
o2 被板書体
o3 教壇
o4 ディスプレイ
o5 座席部
Bp1,Bp2,Bp3,Bp4 プルダウンボタン
Gs,GsA 選択画面
W 枠情報
Cb チェックボックス