(19)【発行国】日本国特許庁(JP)
(12)【公報種別】特許公報(B2)
(11)【特許番号】
(24)【登録日】2024-12-11
(45)【発行日】2024-12-19
(54)【発明の名称】撮像装置、撮像方法、撮像プログラム及び記録媒体
(51)【国際特許分類】
H04N 23/60 20230101AFI20241212BHJP
H04N 5/77 20060101ALI20241212BHJP
【FI】
H04N23/60 300
H04N23/60 100
H04N5/77
(21)【出願番号】P 2021058109
(22)【出願日】2021-03-30
【審査請求日】2024-02-07
(73)【特許権者】
【識別番号】000005016
【氏名又は名称】パイオニア株式会社
(74)【代理人】
【識別番号】110001025
【氏名又は名称】弁理士法人レクスト国際特許事務所
(72)【発明者】
【氏名】新居 健太
【審査官】櫃本 研太郎
(56)【参考文献】
【文献】特開2020-127175(JP,A)
【文献】特開2018-038009(JP,A)
【文献】特開2010-181280(JP,A)
【文献】特開2019-027824(JP,A)
【文献】特開2020-003840(JP,A)
【文献】特開2020-160630(JP,A)
(58)【調査した分野】(Int.Cl.,DB名)
H04N 5/222-5/257、
5/76-5/775,5/80-5/956、
7/18
23/00、23/40-23/76、
23/90-23/959
B60R 1/00-1/04、1/08-1/31、
9/00-11/06
G07C 1/00-15/00
G08G 1/00-99/00
G01C 21/00-21/36、23/00-25/00
(57)【特許請求の範囲】
【請求項1】
移動体と共に移動し、前記移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶する記憶部と、
ユーザーの操作による撮像指示を受付ける受付部と、
前記受付部が撮像指示を受付けた時点から第1時間遡った時点までの期間内における前記移動体内の状況、又は前記移動体外の状況に基づいて、前記期間内における基準タイミングを設定する設定部と、
前記基準タイミングを基準とする1又は複数のタイミングの各々において前記撮像部により撮像された所定数の画像を、前記記憶部から撮像画像として抽出する抽出部と、
を備える撮像装置。
【請求項2】
前記撮像部は、前記移動体内の映像を撮像し、
前記設定部は、前記移動体内の映像に含まれる前記移動体の乗員の所定動作または前記乗員の表情の変化が検出されたタイミングを前記基準タイミングとして設定する請求項1に記載の撮像装置。
【請求項3】
前記設定部は、前記移動体と共に移動する集音部により集音された音の中に、所定の音が検出されたタイミングを前記基準タイミングとして設定する請求項1に記載の撮像装置。
【請求項4】
前記設定部は、前記移動体外の映像に含まれる障害物の見かけ上の大きさ、又は当該障害物と前記移動体との距離を検出し、前記期間内において前記見かけ上の大きさが最も小さい、又は前記距離が最も長いタイミングを前記基準タイミングとして設定する請求項1に記載の撮像装置。
【請求項5】
前記撮像部により撮像された前記移動体外の映像の撮像方向に存在する障害物と前記移動体との間の距離を測定する測定部を備え、
前記設定部は、前記測定部により測定された前記期間内における前記障害物と前記移動体との間の距離が最も長いタイミングを前記基準タイミングとして設定する請求項1に記載の撮像装置。
【請求項6】
前記受付部は、前記ユーザーの発話および接触操作に基づいて前記撮像指示を受付け、
前記抽出部は、前記受付部が前記発話に基づいて前記撮像指示を受付けた場合は、前記受付部が前記接触操作に基づいて前記撮像指示を受付けた場合よりも、前記第1時間を長く設定する請求項1乃至5のいずれか1項に記載の撮像装置。
【請求項7】
前記抽出部は、前記受付部が撮像指示を受付けた時点から前記第1時間遡った時点までの期間内に、前記移動体内の状況又は前記移動体外の状況が、前記設定部が前記基準タイミングを設定するための条件を満たさなかった場合に、前記撮像指示を受付けた時点から第2時間遡ったタイミングで前記撮像部により撮像された所定数の画像を前記記憶部から撮像画像として抽出する請求項1乃至6のいずれか1項に記載の撮像装置。
【請求項8】
前記受付部は、前記ユーザーの発話および接触操作に基づいて前記撮像指示を受付け、
前記抽出部は、前記受付部が撮像指示を受付けた時点から前記第1時間遡った時点までの期間内に、前記移動体内の状況又は前記移動体外の状況が、前記設定部が前記基準タイミングを設定するための条件を満たさなかった場合に、前記受付部が前記発話に基づいて前記撮像指示を受付けた場合は、前記受付部が前記接触操作に基づいて前記撮像指示を受付けた場合よりも、前記第2時間を長く設定する請求項7に記載の撮像装置。
【請求項9】
前記抽出部は、前記基準タイミングを基準とする1のタイミングで前記撮像部により撮像された1つの画像を前記記憶部から撮像画像として抽出する請求項1乃至8のいずれか1項に記載の撮像装置。
【請求項10】
前記抽出部により抽出された画像を、外部装置に送信する送信部を備える請求項1乃至8のいずれか1項に記載の撮像装置。
【請求項11】
撮像装置によって実行される撮像方法であって、
移動体と共に移動し、前記移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶部に記憶する記憶ステップと、
ユーザーの操作による撮像指示を受付ける受付ステップと、
前記受付ステップにおいて前記撮像指示を受付けた時点から第1時間遡った時点までの期間内における前記移動体内の状況、又は前記移動体外の状況に基づいて、前記期間内における基準タイミングを設定する設定ステップと、
前記設定ステップにおいて設定された前記基準タイミングを基準とする1又は複数のタイミングの各々において前記撮像部により撮像された所定数の画像を、前記記憶部から撮像画像として抽出する抽出ステップと、
を含む撮像方法。
【請求項12】
コンピュータを備える撮像装置によって実行される撮像プログラムであって、前記コンピュータに、
移動体と共に移動し、前記移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶部に記憶する記憶ステップと、
ユーザーの操作による撮像指示を受付ける受付ステップと、
前記受付ステップにおいて前記撮像指示を受付けた時点から第1時間遡った時点までの期間内における前記移動体内の状況、又は前記移動体外の状況に基づいて、前記期間内における基準タイミングを設定する設定ステップと、
前記設定ステップにおいて設定された前記基準タイミングを基準とする1又は複数のタイミングの各々において前記撮像部により撮像された所定数の画像を、前記記憶部から撮像画像として抽出する抽出ステップと、
を実行させる撮像プログラム。
【請求項13】
請求項12に記載の撮像プログラムを格納し、コンピュータが読取可能な記録媒体。
【発明の詳細な説明】
【技術分野】
【0001】
本発明は、撮像装置、撮像方法、撮像プログラム及び記録媒体に関する。
【背景技術】
【0002】
予め撮影された複数の画像の中から、ベストショットの静止画等の目的の画像を抽出する技術が知られている。
【0003】
例えば、特許文献1には、動画データを静止画像化する場合に、撮影タイミング(シャッター操作タイミング)で得られた画像をメインフレームとして配置すると共に、その撮影タイミングの前に得られた所定数分のフレーム画像をその他のフレーム画像として配置した静止画を作成する撮像装置が開示されている。
【先行技術文献】
【特許文献】
【0004】
【発明の概要】
【発明が解決しようとする課題】
【0005】
上記のような撮像装置において、ユーザーの撮影の指示のタイミングと、目的の画像が実際に撮影されたタイミングとが合わない場合も多く、ユーザーからの指示があったタイミングで得られた画像を静止画像化しても、ユーザーが撮像したいと希望する画像が抽出されない場合もあることが課題の1つとして挙げられる。
【0006】
本発明は上記した点に鑑みてなされたものであり、ユーザーによる撮像指示に従って撮像する撮像装置において、ユーザーが撮像を希望する風景が映った画像を高い確率で取得することを可能とする撮像装置、撮像方法、撮像プログラム及び記録媒体を提供することを目的の1つとしている。
【課題を解決するための手段】
【0007】
請求項1に記載の発明は、移動体と共に移動し、前記移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶する記憶部と、ユーザーの操作による撮像指示を受付ける受付部と、前記受付部が撮像指示を受付けた時点から第1時間遡った時点までの期間内における前記移動体内の状況、又は前記移動体外の状況に基づいて、前記期間内における基準タイミングを設定する設定部と、前記基準タイミングを基準とする1又は複数のタイミングの各々において前記撮像部により撮像された所定数の画像を、前記記憶部から撮像画像として抽出する抽出部と、を備える。
【0008】
請求項11に記載の発明は、撮像装置によって実行される撮像方法であって、移動体と共に移動し、前記移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶部に記憶する記憶ステップと、ユーザーの操作による撮像指示を受付ける受付ステップと、前記受付ステップにおいて前記撮像指示を受付けた時点から第1時間遡った時点までの期間内における前記移動体内の状況、又は前記移動体外の状況に基づいて、前記期間内における基準タイミングを設定する設定ステップと、前記設定ステップにおいて設定された前記基準タイミングを基準とする1又は複数のタイミングの各々において前記撮像部により撮像された所定数の画像を、前記記憶部から撮像画像として抽出する抽出ステップと、を含む。
【0009】
請求項12に記載の発明は、コンピュータを備える撮像装置によって実行される撮像プログラムであって、前記コンピュータに、移動体と共に移動し、前記移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶部に記憶する記憶ステップと、ユーザーの操作による撮像指示を受付ける受付ステップと、前記受付ステップにおいて前記撮像指示を受付けた時点から第1時間遡った時点までの期間内における前記移動体内の状況、又は前記移動体外の状況に基づいて、前記期間内における基準タイミングを設定する設定ステップと、前記設定ステップにおいて設定された前記基準タイミングを基準とする1又は複数のタイミングの各々において前記撮像部により撮像された所定数の画像を、前記記憶部から撮像画像として抽出する抽出ステップと、を実行させる。
【図面の簡単な説明】
【0010】
【
図1】実施例に係る撮像装置が搭載されている車両の前席部分を示す図である。
【
図2】実施例に係る撮像装置の構成を示すブロック図である。
【
図3】実施例に係る移動体外の画像の一例を示す図である。
【
図4】実施例に係る撮像装置によって実行されるルーチンの一例を示すフローチャートである。
【
図5】実施例に係る撮像装置によって実行されるサブルーチンの一例を示すフローチャートである。
【
図6】実施例に係る撮像装置によって実行されるサブルーチンの他の一例を示すフローチャートである。
【
図7】実施例に係る撮像装置によって実行されるルーチンの他の一例を示すフローチャートである。
【発明を実施するための形態】
【0011】
以下に本発明の実施例について詳細に説明する。なお、以下の説明及び添付図面においては、実質的に同一又は等価な部分には同一の参照符号を付している。
【実施例】
【0012】
図1~
図3を参照しつつ、実施例に係る撮像装置10の構成について説明する。
図1は、実施例に係る撮像装置10が搭載されている移動体の一例としての車両Mの前席部分を示す図である。
【0013】
図1に示すように、撮像装置10は、車両Mのセンターコンソールに配置されている。撮像装置10は、車両Mから外部の風景を映した映像を取得し、ユーザーからの撮像の指示に応じて当該映像から撮像画像として画像を抽出する装置である。
【0014】
以下の説明において、撮像指示をする者をユーザーと称し、ユーザーを含み車両M内に居る者を乗員と称する。
【0015】
撮像部としての車外カメラ11は、ルームミラーRMの裏、すなわちフロントガラスFGに対向する面に設けられている。車外カメラ11は、車両Mの進行方向を撮影方向としている。車両Mの進行方向を前方としたとき、車外カメラ11は、車両Mの前方、右前方及び左前方を含む範囲の画像を撮影可能に配置されている。従って、車外カメラ11は、車両Mの前席に搭乗する乗員の前方を見ている際の視界の範囲内の画像を撮影可能である。車外カメラ11は、撮像装置10と通信可能に接続されており、撮影した映像の信号を撮像装置10に送信することが可能である。
【0016】
撮像装置10は、車外カメラ11によって撮像された動画を取得して記憶する。言い換えれば、本実施例において、撮像装置10は、いわゆるドライブレコーダと同様の機能を有する。
【0017】
車外カメラ11は、車両Mの前方の映像を撮影可能であれば車両Mのいずれの箇所に設けられてもよい。例えば、車外カメラ11は、ダッシュボードDB上に配されていてもよく、車両Mの外側面(外装面)、例えばボンネット上またはフロントバンパー等に設けられていてもよい。
【0018】
撮像部としての車内カメラ13は、フロントガラスFGの上方の、車外カメラ11の近傍に設けられている。車内カメラ13は、車両Mの内部を撮影方向としている。車内カメラ13は、車両Mの前席に搭乗するユーザーを含む乗員の映像を撮像可能に配置されている。
【0019】
車内カメラ13は、撮像装置10と通信可能に接続されており、撮影した映像の信号を撮像装置10に送信することが可能である。撮像装置10は、車内カメラ13によって撮像された動画を取得して記憶する。
【0020】
車内カメラ13は、車両M内に居るユーザーを含む乗員を撮影可能であれば車両Mのいずれの箇所に設けられてもよい。例えば、車外カメラ11は、ダッシュボードDB上に配されていてもよい。
【0021】
マイク15は、車両M内の音を集音可能に配置された音声入力装置である。マイク15は、撮像装置10と通信可能に接続されており、集音した音を電気信号に変換して撮像装置10に送信することが可能である。
【0022】
撮像装置10は、マイク15から車両M内の音を示す信号を受信して、ユーザーの発話に基づく音声について音声認識を行い、特定の言葉を認識した場合に、当該音声をユーザーからの撮像指示として認識する。
【0023】
また、撮像装置10は、マイク15から受信した信号に基づいて、車両M内の音を示す情報を記憶する。例えば、当該車両M内の音には、車両M内の乗員が発する声又は当該乗員が立てる音が含まれる。
【0024】
タッチパネルディスプレイ17は、タッチパネル及びディスプレイからなる。タッチパネルディスプレイ17は、撮像装置10と通信可能に接続されている。タッチパネルディスプレイ17のディスプレイは、撮像装置10から供給される画像を表示する。タッチパネルディスプレイ17のタッチパネルは、タッチパネルへの接触による入力操作を示す信号を撮像装置10に送信する。
【0025】
例えば、タッチパネルディスプレイ17は、撮像装置10への撮像指示を示すボタンをディスプレイに表示する。例えば、撮像装置10は、当該撮像指示を示すボタンが押されると、タッチパネルディスプレイ17のタッチパネルを介して、ユーザーからの撮像指示を受け付ける。
【0026】
撮像装置10は、マイク15又はタッチパネルディスプレイ17を介してユーザーからの音声操作又はタッチパネルへの接触操作による撮像指示を示す入力操作を受け付けると、記憶している動画を用いて撮像画像としての静止画を撮像する。具体的には、撮像装置10は、記憶されている動画を構成する多数のフレーム画像の中から所定数のフレーム画像を抽出して静止画を生成する。撮像装置10は、当該抽出された静止画をサーバ(図示せず)に送信する、すなわちアップロードする。
【0027】
図2は、撮像装置10の構成を示すブロック図である。
図2に示すように、撮像装置10は、システムバス19を介して各部が接続されて構成されている。
【0028】
入力部21は、撮像装置10と車両M1に備えられた機器とを通信可能に接続するインターフェースである。
【0029】
入力部21は、撮像装置10と、車外カメラ11及び車内カメラ13とを通信可能に接続する。また、入力部21は、撮像装置10と、マイク15とを通信可能に接続する。
【0030】
入力部21は、撮像装置10と、タッチパネルディスプレイ17のタッチパネルとを通信可能に接続する。
【0031】
入力部21は、撮像装置10と測距センサ23とを通信可能に接続するインターフェースである。測距センサ23は、車両Mの周辺の、車外カメラ11の撮像方向に存在する物体と車両Mとの間の距離を測定するセンサである。
【0032】
本実施例において、車外カメラ11の撮像方向に存在し、測距センサ23によって検出される物体を、車両Mからの景色の視認を妨げる障害物とする。本実施例において、車両Mと障害物との距離が近い場合、車両Mからの景色の視認に対して障害物の影響が大きいと考える。また、車両Mと障害物との距離が遠い場合、車両Mからの景色の視認に対して障害物の影響は小さいと考える。
【0033】
測距センサ23は、超音波センサ(ソナー(SONAR;Sound Navigation And Ranging))、LiDAR(Light Detection and Ranging)又はミリ波レーダ等のセンサであって、車外カメラ11の撮像方向に存在する障害物の有無の検出及び距離の測定が可能であるように車両Mに取り付けられている。
【0034】
本実施例において、測距センサ23は、例えばミリ波レーダである。例えば、測距センサ23は、車両Mの前側のバンパーに取り付けられている。なお、測距センサ23は、ソナー、ミリ波レーダ及びLiDARのいずれかであってもよく、これらの任意の組み合わせでもよい。
【0035】
撮像装置10は、測距センサ23から距離を示す信号を受信して、車両Mの方の障害物と車両Mとの間の距離を示す距離情報を記憶する。
【0036】
大容量記憶装置25は、例えば、ハードディスク装置、SSD(solid state drive)、フラッシュメモリ等により構成された記憶装置である。大容量記憶装置25は、撮像装置10において実行される各種プログラムを記憶する。なお、各種プログラムは、例えば他のサーバ装置等からネットワークを介して取得されてもよく、記録媒体に記録されて各種ドライブ装置を介して読み込まれてもよい。
【0037】
例えば、大容量記憶装置25は、撮像装置10によって、動画から画像を抽出して静止画を作成する際に実行される撮像プログラムを記憶する。大容量記憶装置25は、各種プログラムを実行するために必要な情報を記憶している。
【0038】
また、大容量記憶装置25は、車両Mに備えられた機器によって、車両Mの走行中に取得される情報を記憶する。
【0039】
具体的には、大容量記憶装置25は、車外映像記憶部25Aを有している。車外映像記憶部25Aは、車外カメラ11によって撮像された動画像を記憶する。車外映像記憶部25Aは、例えば、一定時間分の動画像を保持する。また、車外映像記憶部25Aは、例えば、所定容量分の動画像を記憶する。
【0040】
大容量記憶装置25は、画像一時保存部25Bを有している。画像一時保存部25Bには、例えば、車外映像記憶部25Aに記憶されている動画像に含まれる画像が一部抜粋されて一時保存される。例えば、画像一時保存部25Bは、リングバッファのように、時々刻々と新しい画像が保存されるメモリ部分である。
【0041】
画像一時保存部25Bには、例えば、数十秒分の動画像の中の複数のフレーム画像が保存され得る。例えば、画像一時保存部25Bには、動画像の中から所定時間毎に抽出されたフレーム画像が保存される。画像一時保存部25Bにおいて、古いフレーム画像が新しいフレーム画像によって書き換えられることで、時々刻々と画像の更新がなされる。
【0042】
例えば、画像一時保存部25Bは、車外映像記憶部25Aに記憶されている動画像が15~30fps程度(例えば、27.5fps)のフレームレートで撮像されている場合に、例えば、約1秒毎に1つのフレーム画像を10枚、すなわち約10秒間分保存してもよい。例えば、1秒間に6つ程度の画像を等時間間隔で数十秒分保存してもよい。
【0043】
言い換えれば、大容量記憶装置25の車外映像記憶部25A及び画像一時保存部25Bには、移動体と共に移動する撮像部により最近撮像された連続画像が記憶される。なお、連続画像とは、時系列に沿って並んでいる画像を指す。
【0044】
大容量記憶装置25は、距離情報記憶部25Cを有している。距離情報記憶部25Cは、測距センサ23によって取得された、車両Mの前方の障害物との距離を示す距離情報を記憶する。距離情報は、例えば、車両Mの前方の障害物と車両Mとの距離と、当該距離が測定された時間とが対応付けられて記憶されている。
【0045】
大容量記憶装置25は、車内情報記憶部25Dを有している。車内情報記憶部25Dは、車両Mの車内の状況について取得された情報を記憶する。具体的には、車内情報記憶部25Dは、車内カメラ13によって撮像された車両M内の乗員を撮像した動画像を記憶する。言い換えれば、車内情報記憶部25Dは、移動体内の映像を記憶する。
【0046】
車内情報記憶部25Dは、例えば、一定時間分の動画像を保持する。また、車内情報記憶部25Dは、例えば、所定容量分の動画像を記憶する。
【0047】
また、車内情報記憶部25Dは、マイク15によって集音された音声に基づいて生成された音声情報を記憶する。車内情報記憶部25Dは、例えば、一定時間分の音声情報を記憶する。また、車内情報記憶部25Dは、例えば、所定容量分の音声情報を記憶する。当該音声情報は、例えば、車両Mの内部を撮像した動画像に対応付けられて記憶されていてもよい。
【0048】
なお、車内カメラ13が備えるマイクによって車両M内の撮像とともに集音された音についての音声情報が、当該撮像された動画像に対応付けられて車内情報記憶部25Dに記憶されていてもよい。
【0049】
制御部27は、CPU(Central Processing Unit)27A、ROM(Read Only Memory)27B、RAM(Random Access Memory)27C等により構成され、コンピュータとして機能する。そして、CPU27Aが、ROM27Bや大容量記憶装置25に記憶された各種プログラムを読み出し実行することにより各種機能を実現する。
【0050】
制御部27は、大容量記憶装置25に記憶された撮像プログラムを読み出して実行することで、ユーザーからの撮像指示に応じて、入力部21を介して取得した情報に基づいて、撮像画像を抽出する。
【0051】
制御部27は、入力部21を介して、車外カメラ11によって取得された動画像を大容量記憶装置25の車外映像記憶部25Aに記憶する。また、制御部27は、車外映像記憶部25Aに記憶されている動画像に含まれる画像を一部抜粋して画像一時保存部25Bに一時保存する。
【0052】
換言すれば、制御部27は、移動体と共に移動する撮像部により最近撮像された連続画像を、記憶部としての車外映像記憶部25A又は画像一時保存部25Bに記憶する記憶ステップを実行する。
【0053】
制御部27は、入力部21を介して、測距センサ23によって測定された、車両Mの車外カメラ11の撮像方向に存在する障害物との距離を取得し、当該距離を示す情報を距離情報記憶部25Cに記憶する。
【0054】
換言すれば、制御部27は、車外カメラ11によって撮像された移動体外の映像の撮像方向に存在する障害物と当該移動体との間の距離を測定する測定部として機能する。制御部27は、例えば、車両Mの前方の障害物と車両Mとの距離と、当該距離が測定された時刻を対応付けて記憶する。
【0055】
制御部27は、入力部21を介して、車内カメラ13によって取得された車両M内の動画像を車内情報記憶部25Dに記憶する。
【0056】
制御部27は、入力部21を介して、マイク15によって集音された車両M内の音から音声情報を生成し、車内情報記憶部25Dに記憶する。当該音声情報は、例えば音声と当該音声が集音された時刻とが対応付けられた情報である。当該音声情報は、例えば、車両Mの内部を撮像した動画像に対応付けられて記憶されていてもよい。
【0057】
なお、制御部27は、車両M内の音を示す情報を、車内カメラ13によって動画像の撮像とともに録音された音声に基づいて音声情報を生成してもよい。
【0058】
制御部27は、入力部21を介して、マイク15によって集音された車両M内の音を取得し、音声認識を行う。制御部27は、車両M内に居るユーザーの発話に基づいて特定の音声を認識した場合に、当該ユーザーからの撮像指示を受け付ける。例えば、制御部27は、所定のウェイクワード及び音声コマンドを認識した場合に、ユーザーからの撮像指示を受け付ける。言い換えれば、制御部27は、ユーザーの音声操作による撮像指示を受け付ける。
【0059】
制御部27は、入力部21を介して、タッチパネルディスプレイ17を用いた入力操作を認識する。制御部27は、タッチパネルディスプレイ17のタッチパネルになされた特定の接触操作を認識した場合に、ユーザーからの撮像指示を受け付ける。例えば、制御部27は、タッチパネルディスプレイ17のディスプレイに表示された撮像指示のボタンが押されたことを認識した場合に、ユーザーからの撮像指示を受け付ける。
【0060】
このように、制御部27は、ユーザーの発話による音声操作又はユーザーのタッチパネルへの接触操作等のユーザーによる操作を認識することによって当該ユーザーからの撮像指示を受け付ける。制御部27は、ユーザーからの操作による撮像指示を受付ける受付ステップを実行する受付部として機能する。
【0061】
制御部27は、ユーザーからの撮像指示を受け付けると、大容量記憶装置25の画像一時保存部25Bに記憶された画像の中から所定数の画像を撮像画像として抽出する。
【0062】
より詳細には、制御部27は、撮像指示を受付けた時点から所定の長さの時間(第1時間)だけ遡った時点までの期間内における基準タイミングを設定し、当該基準タイミングを基準とする1又は複数のタイミングの各々において撮像された所定数の画像を抽出する。制御部27は、当該基準タイミングを設定する設定ステップを実行する設定部として機能する。
【0063】
ところで、ユーザーが撮像指示の操作を行ってから、撮像装置10の制御部27がユーザーの操作による撮像指示を受付けるまでには、制御部27が撮像指示を認識するための処理時間を要する。さらに、ユーザーが撮像したいと思った時点から実際に撮像指示の操作を行うまでにも任意の時間を要する。特に車両Mが高速で走行している場合や、カーブを走行している場合、これらの時間分の遅れにより、撮像装置10の制御部27が撮像指示を認識したタイミングにおいて車外カメラ11により撮像されている風景と、ユーザーが撮影したいと思った風景は、大きく乖離している可能性がある。
【0064】
このような問題に対応するため、本実施例においては、例えば、撮像指示を受け付けた時点を時点t0とし、時点t0から第1時間遡った時点を時点t1とすると、制御部27は、時点t1から時点t0までの期間内の時点t3を、撮像画像を抽出するための基準となる時点である基準タイミングとして設定する。
【0065】
第1時間は、例えば、ユーザーからの撮像指示を受け付けるための音声認識又は接触操作の認識に必要な時間に加えて、ユーザーが撮像を希望した時点から実際に撮像指示を行う時点までの時間を考慮して十分な長さの時間が設定され得る。第1時間は、例えば5秒程度であってもよく、さらに長い時間であってもよい。基準タイミングは、例えば時刻であり、例えば走行開始時点からの経過時間によって示される時点であってもよい。
【0066】
制御部27は、当該基準タイミングを、車両M内の状況(移動体内の状況)又は車両M外の状況(移動体外の状況)に基づいて設定する。基準タイミングの設定について、以下に説明する。
【0067】
[移動体内の状況に基づく基準タイミングの設定]
制御部27は、車内カメラ13によって撮像された移動体内の映像から移動体内の状況を取得する。
【0068】
制御部27は、例えば、撮像指示を受付けた時点から第1時間遡った時点までの期間内における車両M内の映像について画像解析を行い、画像中の乗員の所定の動作又は所定の表情の変化を検出する。制御部27は、当該所定の動作又は所定の表情の変化が検出されたタイミング(例えば、時刻)を、撮像画像の抽出の基準となる基準タイミングとして設定する。
【0069】
当該所定の動作として、例えば、車両Mの外に向かって指をさす動作等の、注目すべき風景を見つけた際に想定される動作が挙げられる。当該所定の表情の変化として、例えば、驚いた表情や嬉しそうな表情等の、注目すべき風景を目の当たりにした際に想定される表情が挙げられる。
【0070】
所定の動作の判定基準として、例えば、車外に向かって指をさしている人物が映っている画像が予め大容量記憶装置25に記憶されていてもよい。また、所定の表情の判定基準として、例えば、驚いた顔をしている人物が映っている画像が予め大容量記憶装置25に記憶されていてもよい。
【0071】
制御部27は、例えば、予め大容量記憶装置25に記憶されている、所定動作又は所定の表情の画像と、車内カメラ13によって撮像された画像とを比較し、例えば一致度が所定値以上となった場合に、所定の動作又は所定の表情の変化を検出したこととしてもよい。なお、制御部27は、AI等を用いて表情の変化を検出しても良い。
【0072】
このように、設定部としての制御部27は、移動体内の映像に含まれる移動体の乗員の所定動作または乗員の表情の変化が検出されたタイミングを基準タイミングとして設定する。
【0073】
ユーザーが注目すべき風景に遭遇した際に発せられる可能性が高い動作又は表情を予め想定し、そのような動作又は表情が検出されたタイミングを基準タイミングとして撮像画像を抽出することで、ユーザーが撮像を希望したタイミングで撮像された画像を抽出する確率を高めることができる。
【0074】
また、制御部27は、マイク15によって集音された移動体内の音から移動体内の状況を取得する。
【0075】
制御部27は、例えば、撮像指示を受付けた時点から第1時間遡った時点までの期間内における車両M内の音について音声認識を行い、車両M内の乗員が発した声又は乗員が立てた音に関する所定の音を検出する。制御部27は、当該所定の音が検出されたタイミング(例えば、時刻)を、撮像画像の抽出の基準となる基準タイミングとして設定する。
【0076】
当該所定の音として、例えば、「おおっ!」等の歓声、「きれい」等の特定の言葉等の、乗員が注目すべき風景に遭遇した際に発すると予想される声が挙げられる。また、当該所定の音として、例えば、拍手の音等の、乗乗員が注目すべき風景に遭遇した際に立てると予想される音が挙げられる。
【0077】
所定の音の判定基準として、例えば、所定の音を発した際の音響特徴量のモデルが予め大容量記憶装置25に記憶されていてもよい。制御部27は、マイク15によって収音された音の音響特徴量と、予め記憶されている音響特徴量との比較を行って、例えば所定値以上の一致度が得られた場合に、所定の音を検出したこととしてもよい。
【0078】
このように、設定部としての制御部27は、移動体と共に移動する集音部により集音された音の中に、所定の音が検出されたタイミングを基準タイミングとして設定する。
【0079】
ユーザーが撮像を希望したことが現れている可能性が高い音を予め想定し、そのような音が検出されたタイミングを基準タイミングとして撮像画像を抽出することで、ユーザーが撮像を希望したタイミングで撮像された画像を抽出する確率を高めることができる。
【0080】
[移動体外の状況に基づく基準タイミングの設定]
制御部27は、車外カメラ11によって撮像された移動体外の映像から移動体外の状況を取得する。
【0081】
制御部27は、例えば、撮像指示を受付けた時点から第1時間遡った時点までの期間内における車両M外の映像について画像解析を行い、当該映像に含まれる物体のうち、景色の視認の妨げとなり得る障害物を検出し、当該障害物の見かけ上の大きさ又は当該映像に含まれる当該障害物と車両Mとの距離を検出する。制御部27は、当該障害物の見かけ上の大きさが最も小さいタイミング、又は当該障害物と車両Mとの距離が最も長いタイミングを撮像画像の抽出の基準となる基準タイミングとして設定する。
【0082】
当該障害物として、例えば、車両Mの前方に存在して車両Mからの景色の視認を妨げる他の車両等の物体が挙げられる。例えば、車両Mの前方、右側方、又は左側方に山や建物等の地物が視認可能な際に、車両Mから車外カメラ11によって撮像される景色の一部を遮る他の車両等が車両Mの近傍に存在する場合に、当該他の車両等が障害物となる。
【0083】
例えば、制御部27による障害物の検出のため、障害物の候補となる物体の画像が予め大容量記憶装置25に記憶されていてもよい。例えば、前方の車両、左前方の車両又は右前方の対向車等の画像が障害物のモデルとなる登録画像として予め大容量記憶装置25に記憶されていてもよい。制御部27は、例えば、予め記憶されている登録画像と、車外カメラ11によって撮像された画像とのマッチング処理によって、障害物を検出してもよい。
【0084】
図3は、車外カメラ11によって撮像された車両M外の映像に含まれるフレーム画像Fの一例を示す図である。
図3に示すように、フレーム画像Fには、車両Mの前方を走る他の車両である障害物OBが含まれる。
【0085】
制御部27は、障害物OBを検出すると、例えば、当該障害物OBがフレーム画像F全体に占める割合を、障害物OBの見かけ上の大きさとしてもよい。制御部27は、例えば、当該障害物OBが映っている領域ARを特定し、当該領域ARの面積がフレーム画像F全体の面積に占める割合を障害物OBの見かけ上の大きさとする。そして、当該障害物OBの見かけ上の大きさが最も小さいフレーム画像が撮像されたタイミングを基準タイミングとして設定する。
【0086】
或いは、制御部27は、フレーム画像Fに含まれる障害物OBを検出すると、当該障害物OBと車両Mとの距離を算出してもよい。制御部27は、例えば、フレーム画像Fに基づいて算出した当該障害物OBと車両Mとの距離が最も長いフレーム画像が撮像されたタイミングを、基準タイミングとして設定してもよい。
【0087】
このように、設定部としての制御部27は移動体外の映像に含まれる障害物の見かけ上の大きさ、又は当該障害物と移動体との距離を検出し、撮像指示を受け付けた時点から第1時間遡った時点までの期間内において、当該障害物の見かけ上の大きさが最も小さい、又は当該障害物と移動体との距離が最も長いタイミングを基準タイミングとして設定する。
【0088】
これによって、ユーザーが撮像を希望する景色が障害物によって遮られている可能性が最も低いタイミングを基準タイミングとして撮像画像を抽出することができる。従って、ユーザーが撮像を希望したタイミングで撮像された画像を抽出する確率を高めることができる。
【0089】
また、制御部27は、測距センサ23によって測定された車両Mと車両Mの前方の障害物との距離から移動体外の状況を取得する。
【0090】
制御部27は、例えば、距離情報記憶部25Cを参照し、撮像指示を受付けた時点から第1時間遡った時点までの期間(以下、第1期間とも称する)内における車両Mの前方の障害物との距離が最も長いタイミングを撮像画像の抽出の基準となる基準タイミングとして設定する。
【0091】
このように、測定部としての制御部27は、測距センサ23を介して、車外カメラ11により撮像された移動体外の映像の撮像方向に存在する障害物と移動体との間の距離を測定し、設定部としての制御部27は、測定部により測定された第1期間内における障害物と移動体との間の距離が最も長いタイミングを基準タイミングとして設定する。
【0092】
これによって、ユーザーが撮像を希望する景色の視認を妨げる障害物が最も遠くにあるタイミングを基準タイミングとして撮像画像を抽出することができ、ユーザーが撮像を希望したタイミングで撮像された画像を抽出する確率を高めることができる。
【0093】
[撮像画像の抽出]
制御部27は、基準タイミングを基準として、1又は複数のタイミングにおいて車外カメラ11によって撮像された所定数の画像を抽出する抽出ステップを実行する抽出部として機能する。
【0094】
具体的には、例えば、制御部27は、基準タイミングに撮像された1つの画像を撮像画像として抽出する。
【0095】
また、例えば、制御部27は、基準タイミングを中心として、その前後の所定時間内の複数のタイミングの各々において撮像された画像を抽出して所定数の複数の撮像画像として抽出してもよい。例えば、当該複数のタイミングは、等間隔のタイミングであってもよい。
【0096】
制御部27は、画像一時保存部25Bに記憶されている画像から所定数の画像を抽出する。画像一時保存部25Bにおいて、動画を構成する多数のフレーム画像を予め間引いた画像が保存されていることによって、撮像画像の抽出が効率良く実行される。なお、制御部27は、車外映像記憶部25Aに記憶されている動画像から所定数の画像を抽出してもよい。
【0097】
出力部29は、車両Mに備えられたタッチパネルディスプレイ17のディスプレイに接続されている。出力部29は、制御部27からの命令に従って、ディスプレイに表示させるための各種情報を供給するためのインターフェースである。
【0098】
出力部29は、制御部27からの指示に応じて、タッチパネルディスプレイ17のディスプレイに表示させるための画像を出力する。例えば、出力部29は、撮像指示を受け付けるための撮像指示ボタンをユーザーに提示するための画像をディスプレイに供給する。
【0099】
なお、出力部29は、車両M内に備えられたスピーカー(図示せず)に通信可能に接続されていてもよく、例えば撮像指示を受け付けた旨又は撮像が完了したことをユーザーに向けて音声によって報知してもよい。
【0100】
送受信部31は、無線装置(図示せず)に接続されているNIC(Network Interface Card)等のネットワークアダプタである。送受信部31は、制御部27からの命令に従って、撮像装置10と外部とのデータの送受信を行う。
【0101】
例えば、送受信部31は、撮像装置10において撮像画像として抽出された画像をサーバ等の外部装置に送信する送信部として機能する。
【0102】
図4~
図7を参照しつつ、本実施例における撮像装置10によって撮像が行われる際に制御部27によって実行される情報処理について説明する。
【0103】
図4は、制御部27によって実行されるルーチンの一例である撮像ルーチンRT1を示すフローチャートである。制御部27は、例えば、撮像装置10に電源が投入されると、撮像ルーチンRT1を開始する。また、制御部27は、例えば、撮像装置10に電源が投入されると、車外カメラ11によって取得された動画像の車外映像記憶部25Aへの記憶を開始する。また、制御部27は、例えば、動画像の車外映像記憶部25Aへの記憶を開始すると、車外映像記憶部25Aに記憶されている動画像に含まれる画像の画像一時保存部25Bへの一時保存を開始する。
【0104】
また、制御部27は、例えば、撮像装置10に電源が投入されると、距離情報記憶部25Cへの距離情報の記憶及び車内情報記憶部25Dへの車両M内の映像及び音声情報の記憶を開始する。
【0105】
制御部27は、撮像ルーチンRT1を開始すると、ユーザーからの撮像指示を受け付けたか否かを判定する(ステップS101)。ステップS101において、例えば、制御部27は、マイク15から入力された音声について音声認識を行い、例えばウェイクワードに続いて撮像指示を示す所定の音声コマンドを認識した場合に、ユーザーからの撮像指示を受け付けたと判定する。
【0106】
ステップS101において、例えば、制御部27は、タッチパネルディスプレイ17のディスプレイに表示された撮像指示のボタンが、タッチパネルへの接触操作によって押されたことを認識した場合に、撮像指示を受け付けたと判定してもよい。
【0107】
ステップS101において、制御部27は、ユーザー操作による撮像指示を受付ける受付部として機能する。
【0108】
制御部27は、ステップS101において、撮像指示を受け付けていないと判定する(ステップS101:NO)と、ステップS101を繰り返し、撮像指示を受け付けたか否かを再び判定する。
【0109】
制御部27は、ステップS101において、撮像指示を受け付けたと判定する(ステップS101:YES)と、画像抽出サブルーチンを実行し、画像一時保存部25Bに記憶されている画像から撮像画像を抽出する(ステップS102)。
【0110】
ステップS102において、例えば、制御部27は、撮像指示を受付けた時点から第1時間遡った時点までの期間内の車両M内の状況又は車両M外の状況に基づいて、当該期間内における基準タイミングを設定する。その後、制御部27は、当該基準タイミングを基準とする1又は複数のタイミングの各々において車外カメラ11によって撮像された画像を所定数の撮像画像として抽出する。
【0111】
制御部27は、ステップS102の実行後、ステップS102において抽出された画像を外部に送信する(ステップS103)。ステップS103において、例えば、制御部27は、抽出された画像を予め設定されたサーバに送信する。ステップS103において、例えば、制御部27は、抽出された画像をユーザーが保有する端末装置に送信してもよい。
【0112】
制御部27は、ステップS103の実行後、撮像ルーチンRT1を終了し、新たに撮像ルーチンRT1を開始する。
【0113】
図5は、撮像ルーチンRT1のステップS102において、制御部27によって実行される画像抽出サブルーチンの一例である画像抽出サブルーチンRT2を示すフローチャートである。
【0114】
制御部27は、画像抽出サブルーチンRT2を開始すると、撮像指示を受け付けた時点から第1時間遡った時点までの期間(第1期間)内における車両M内の状況を参照する(ステップS201)。
【0115】
制御部27は、ステップS201において、第1期間内において車内カメラ13によって撮像された映像を車内情報記憶部25Dから読み出す。
【0116】
また、制御部27は、ステップS201において、第1期間内においてマイク15によって集音された音を示す音声情報を車内情報記憶部25Dから読み出す。
【0117】
ステップS201における車内の状況として、例えば、車内の映像又は音声情報のいずれか一方が参照されてもよく、両方が参照されてもよい。
【0118】
制御部27は、ステップS201の実行後、第1期間内に車両M内で、所定のイベントがあったか否かを判定する(ステップS202)。ステップS202において、例えば、制御部27は、ステップS201において読み出した映像について画像解析を行い、画像中の乗員の所定の動作又は所定の表情の変化を検出すると、所定のイベントがあったと判定する。ステップS202において、例えば、指さし動作又は驚きの表情への変化が検出された場合、所定のイベントがあったと判定される。
【0119】
ステップS202において、例えば、制御部27は、ステップS201において読み出した音声情報について音声認識処理を行い、車両M内の乗員が発した声又は乗員が立てた音に関する所定の音を検出すると、所定のイベントがあったと判定する。ステップS202において、例えば、歓声等の声又は拍手等の音が検出された場合、所定のイベントがあったと判定される。
【0120】
制御部27は、ステップS202において、所定のイベントがあったと判定する(ステップS202:YES)と、所定のイベントがあった時点を基準タイミングとして設定する(ステップS203)。ステップS203において、例えば、乗員の所定の姿勢又は所定の表情を含む画像が撮像された時刻が基準タイミングとして設定される。また、ステップS203において、例えば、所定の音が集音された時刻が基準タイミングとして設定される。
【0121】
制御部27は、ステップS203の実行後、基準タイミングに基づいて、1又は複数の画像を撮像画像として大容量記憶装置25の画像一時保存部25Bに記憶されている画像から抽出する(ステップS204)。ステップS204において、例えば、基準タイミングに撮像された1つの画像が抽出される。
【0122】
ステップS204において、例えば、基準タイミングを含む複数のタイミングの各々において撮像された画像が抽出されてもよい。例えば、当該複数のタイミングの各々に撮像された画像として、基準タイミングの前後の所定の期間内に撮像された所定数の画像が抽出されてもよい。
【0123】
制御部27は、ステップS202において、車内で所定のイベントが無かったと判定する(ステップS202:NO)と、撮像指示を受け付けた時点から、第1時間とは別に設定された第2時間遡った時点に撮像された画像を抽出する(ステップS205)。
【0124】
例えば、第2時間として、制御部27が撮像指示を受け付けるための音声認識又はタッチパネルへの接触操作の認識にかかる時間に加えて、ユーザーが撮像を希望した時点からユーザーが撮像指示を行った時点までの時間を統計的に考慮して予め設定された長さの時間が設定される。例えば、十分に長い第1時間が設定されている場合、第2時間として、第1時間よりも短い時間が設定されてもよい。
【0125】
制御部27は、ステップS204の実行後、又はステップS205の実行後、画像抽出サブルーチンRT2を終了する。
【0126】
画像抽出サブルーチンRT2によれば、乗員の行動に起因する車内の所定のイベント、を検出し、検出されたイベントが起こったタイミングを基準タイミングとして撮像画像を抽出することで、ユーザーが撮像を希望したタイミングに撮像された画像を抽出する確率を高めることが可能となる。
【0127】
また、画像抽出サブルーチンRT2のステップS205によって、例えば、ユーザーが撮像を希望した時点において、車内の映像又は音に現れるような行動を起こさなかった場合であっても、音声認識に係る時間及びユーザーが撮像を希望してから撮像指示を行うまでの時間を考慮して、第2時間遡った時点に撮像された画像を抽出することができる。換言すれば、移動体内の状況が、設定部としての制御部27が基準タイミングを設定するための条件を満たさなかった場合にも、ユーザーが撮像を希望した時点に撮像された画像を抽出する確率を高めることができる。
【0128】
なお、画像抽出サブルーチンRT2によって、1つ以上の画像が抽出されるが、例えば1つの画像のみが抽出される場合、抽出された画像を保存する際の容量を小さくすることができる。また、1つの画像のみが抽出される場合、ユーザーにとっても撮像画像の取扱が容易になる。
【0129】
図6は、撮像ルーチンRT1のステップS103において、制御部27によって実行される画像抽出サブルーチンの他の一例である画像抽出サブルーチンRT3を示すフローチャートである。画像抽出サブルーチンRT3は、ステップS301及びステップS302を除いて画像抽出サブルーチンRT2(
図5参照)と同様に進行するため、説明の一部を省略する。
【0130】
制御部27は、画像抽出サブルーチンRT3を開始すると、撮像指示を受け付けた時点から第1時間遡った時点までの期間(第1期間)内における車外の状況を参照する(ステップS301)。
【0131】
制御部27は、ステップS301において、第1期間内において車外カメラ11によって撮像された映像を車外映像記憶部25Aから読み出す。
【0132】
また、制御部27は、ステップS301において、第1期間内において測距センサ23によって測定された車両Mの前方の障害物と車両Mとの距離を示す距離情報を距離情報記憶部25Cから読み出す。
【0133】
ステップS301における車外の状況として、例えば、車外カメラ11によって撮像された車外の映像又は車両Mの前方の障害物との距離情報のいずれか一方が参照されてもよく、両方が参照されてもよい。
【0134】
制御部27は、ステップS301の実行後、第1期間内に車両Mの前方に障害物が少ないタイミングがあったか否かを判定する(ステップS302)。ステップS302において、例えば、制御部27は、ステップS301において読み出した映像について画像解析を行い、画像中の障害物が例えば所定の割合以下の画像があった場合に、障害物が少ないタイミングがあったと判定する。
【0135】
ステップS302において、例えば、制御部27は、ステップS302において読み出した距離情報が示す距離が所定以上の距離となるタイミングがあった場合に、障害物が少ないタイミングがあったと判定する。
【0136】
制御部27は、ステップS302において、障害物が少ないタイミングがあったと判定する(ステップS302:YES)と、第1期間における車両M外の状況に基づいて基準タイミングを設定する(ステップS303)。ステップS303において、例えば、障害物が最も少なかったタイミングが基準タイミングとして設定される。
【0137】
ステップS303において、例えば、車両Mの外部の映像において、画像中の障害物が占める割合が最も小さい画像が撮像されたタイミングが、基準タイミングとして設定される。ステップS303において、例えば、障害物と車両Mとの距離が最も長いタイミングが基準タイミングとして設定される。
【0138】
制御部27は、ステップS303の実行後、基準タイミングに基づいて、1又は複数の画像を撮像画像として大容量記憶装置25の画像一時保存部25Bに記憶されている画像から抽出する(ステップS304)。ステップS304において、例えば、基準タイミングに撮像された1つの画像が抽出される。
【0139】
ステップS304において、例えば、基準タイミングを含む複数のタイミングの各々において撮像された画像が抽出されてもよい。例えば、当該複数のタイミングの各々に撮像された画像として、基準タイミングの前後の所定の期間内に撮像された所定数の画像が抽出されてもよい。
【0140】
制御部27は、ステップS302において、障害物が少ないタイミングが無かったと判定する(ステップS302:NO)と、撮像指示を受け付けた時点から、第1時間とは別に設定された第2時間遡った時点に撮像された画像を抽出する(ステップS305)。
【0141】
制御部27は、ステップS304の実行後、又はステップS305の実行後、画像抽出サブルーチンRT3を終了する。
【0142】
画像抽出サブルーチンRT3によれば、車両M外の状況として、車両Mの前方の障害物に関する情報を検出し、車両M内からの風景の視認について障害物の影響が最も少ないタイミングを基準タイミングとして撮像画像を抽出することができる。これによって、ユーザーが撮像を希望したタイミングに撮像された画像を抽出する確率を高めることが可能となる。
【0143】
また、画像抽出サブルーチンRT3のステップS305によって、例えば、ユーザーが撮像を希望した時点において、車両Mの近くに他の車両等の障害物が存在していた場合であっても、音声認識に係る時間及びユーザーが撮像を希望してから撮像指示を行うまでの時間を考慮して、第2時間遡った時点に撮像された画像を抽出することができる。換言すれば、移動体外の状況が、設定部としての制御部27が基準タイミングを設定するための条件を満たさなかった場合にも、ユーザーが撮像を希望した時点に撮像された画像を抽出する確率を高めることができる。
【0144】
なお、
図5において説明した画像抽出サブルーチンRT2と、
図6において説明した画像抽出サブルーチンRT3とは、並行して実行されてもよく、組み合わされて実行されてもよい。例えば、画像抽出サブルーチンRT2において、車内で所定のイベントが無かったと判定された場合(ステップS202:NO)に、画像抽出サブルーチンRT3が実行されてもよい。
【0145】
図7は、制御部27によって実行されるルーチンの他の一例である撮像ルーチンRT4を示すフローチャートである。撮像ルーチンRT4は、
図4において説明した撮像ルーチンRT1と、ステップS402及びステップS403を含む点において異なり、その余の点においては同様に進行するため、説明の一部を省略する。
【0146】
制御部27は、撮像ルーチンRT4を開始すると、ユーザーからの撮像指示を受け付けたか否かを判定する(ステップS401)。
【0147】
ステップS401において、制御部27は、ユーザーの発話に基づく撮像指示又はユーザーの接触操作に基づく撮像指示を受け付ける。例えば、制御部27は、マイク15から入力された、ユーザーの発話による音声について音声認識を行い、例えばウェイクワードに続いて撮像指示を示す所定の音声コマンドを認識した場合に、ユーザーからの撮像指示を受け付けたと判定する。例えば、制御部27は、タッチパネルディスプレイ17のタッチパネルへの接触操作による撮像指示を認識した場合に、撮像指示を受け付けたと判定する。
【0148】
制御部27は、ステップS401において、撮像指示を受け付けたと判定する(ステップS401:YES)と、受け付けた撮像指示がユーザーの発話に基づく撮像指示であるか否かを判定する(ステップS402)。ステップS401において、例えば、制御部27は、ステップS401において音声認識を実行していた場合に、ユーザーの発話に基づく撮像指示であると判定する。
【0149】
制御部27は、ステップS402において発話による撮像指示であると判定する(ステップS402:YES)と、撮像指示を受け付けた時点から第1時間遡って車両M内の状況又は車両M外の状況を参照する際の第1時間の長さを、ユーザーの接触操作による撮像指示を受け付けた場合よりも長く設定する(ステップS403)。
【0150】
ステップS403において、例えば、音声認識によるユーザーからの撮像指示の認識に係る時間が、タッチパネルへの接触操作の認識にかかる時間を超える分だけ、第1時間が長く設定される。
【0151】
制御部27は、ステップS402において、ユーザーの発話に基づく撮像指示ではないと判定した場合(ステップS402:NO)、又はステップS403の実行後、画像抽出サブルーチンを実行し、撮像画像として画像を抽出する(ステップS404)。
【0152】
ステップS404において、例えば、
図5に示した画像抽出サブルーチンRT2又は
図6に示した画像抽出サブルーチンRT3等のサブルーチンが実行される。ステップS404において、例えば、画像抽出サブルーチンRT2が実行されて第1時間遡って車内の状況が参照される際に(ステップS201)、ステップS403において長く設定された第1時間が適用される。
【0153】
ステップS404において、例えば、画像抽出サブルーチンRT3が実行されて第1時間遡って車外の状況が参照される際に(ステップS301)、ステップS403において長く設定された第1時間が適用される。
【0154】
制御部27は、ステップS404の実行後、サーバ等の外部装置に抽出した画像を送信し(ステップS405)、撮像ルーチンRT4を終了して新たに撮像ルーチンRT4を繰り返す。
【0155】
撮像ルーチンRT4によれば、ユーザーが撮像指示を行う際の操作方法に応じて適切に第1時間を設定することができる。従って、例えば音声認識に要する時間が接触操作の認識に要する時間よりも長い場合でも、基準タイミングを適切に設定して、当該基準タイミングに基づいて撮像画像を抽出することができる。従って、ユーザーが撮像を希望したタイミングに撮像された画像を抽出する確率を高めることができる。
【0156】
なお、撮像ルーチンRT4のステップS404において、例えば、ユーザーの発話に基づく撮像指示が受付けられていた場合には、サブルーチンにおける第2時間の長さ(ステップS205又はステップS305)についても、ユーザーの接触操作に基づく撮像指示が受付けられていた場合よりも長く設定されてもよい。これによって、音声認識に要する時間が接触操作の認識に要する時間よりも長い場合でも、ユーザーが撮像を希望したタイミングで撮像された画像を抽出する確率を高めることができる。
【0157】
以上、詳細に説明したように、本実施例の撮像装置10は、移動体と共に移動し、移動体外の映像を撮像する撮像部により最近撮像された連続画像を記憶する記憶部と、ユーザーの操作による撮像指示を受付ける受付部と、受付部が撮像指示を受付けた時点から第1時間遡った時点までの期間内における移動体内の状況、又は移動体外の状況に基づいて、当該期間内における基準タイミングを設定する設定部と、基準タイミングを基準とする1又は複数のタイミングの各々において撮像部により撮像された所定数の画像を、記憶部から撮像画像として抽出する抽出部と、を備える。
【0158】
従って、撮像装置10によれば、撮像指示を受け付けた時点よりも前の期間内の、ユーザーが撮像を希望したタイミング又はそれに近いタイミングとして、移動体内の状況、又は移動体外の状況に基づいて適切に基準タイミングを設定することができる。よって、当該基準タイミングを基準とするタイミングに撮像された画像を抽出することで、ユーザーが撮像を希望したタイミングに撮像された画像を抽出する確率を高めることができる。
【0159】
従って、撮像装置10によれば、ユーザーによる撮像指示に従って撮像する撮像装置において、ユーザーが撮像を希望する風景が映った画像を高い確率で取得することを可能とする撮像装置、撮像方法、撮像プログラム及び記録媒体を提供することができる。
【0160】
上記の第1時間として、任意の長さの時間を設定することができ、例えば、ユーザーの撮像指示を受け付けるために必要な時間に加えて、ユーザーが撮像を希望した時点から実際に撮像指示を行う時点までの時間を考慮した十分に長い時間を設定することができる。
【0161】
なお、上記の実施例において、撮像装置10は、ユーザーからの撮像指示をタッチパネルディスプレイ17を介して受け付けることが可能である場合について説明したが、これに限られない。例えば、撮像装置10は、タッチパネルディスプレイ17に接続されていなくともよい。例えば、車両Mにタッチパネルディスプレイ17が備えられていなくともよい。例えば、撮像装置10は、音声認識のみによって撮像指示を受け付けても良い。また、例えば、撮像装置10は、音声認識に加えて、例えば、タッチパネルディスプレイではないプッシュボタンを用いたボタン操作による撮像指示を受け付け可能に構成されていてもよい。
【0162】
なお、上記の実施例において、撮像装置10は、大容量記憶装置25が有する画像一時保存部25Bに保存されている画像から撮像画像を抽出する例について説明したが、これに限られない。例えば、撮像装置10は、車外映像記憶部25Aに逐次記憶されて一定時間保持されている動画から、撮像画像を抽出してもよい。
【0163】
なお、上記の実施例において、撮像画像として抽出した画像により静止画を生成する例について説明したが、これに限られない。撮像装置10は、例えば、撮像画像として抽出した複数のフレーム画像からなる動画を生成してもよい。
【0164】
なお、上記の実施例において、撮像装置10は、抽出した撮像画像をサーバに送信する例について説明したが、これに限られない。撮像装置10は、抽出した撮像画像を、ユーザーが保有する端末等の他の外部装置に送信してもよく、記憶部に保持してもよい。また、撮像装置10は、抽出した撮像画像が、移動体に備えられたディスプレイに表示されてもよい。
【0165】
なお、上記の実施例において、移動体外の映像を撮像する撮像部として、車外カメラ11の撮影方向が車両Mの前方である場合について説明したが、これに限られない。例えば、撮像装置10は、移動体の側方又は後方を撮影方向とする撮像部によって最近撮像された連続画像を記憶し、撮像画像を抽出してもよい。
【0166】
また、距離情報が距離情報記憶部25Cに記憶される例について説明したが、距離情報は、例えばフレーム画像に対応付けられて車外映像記憶部25A又は画像一時保存部25Bに記憶されていてもよい。
【0167】
なお、上記の説明において、制御部27が、撮像指示を受け付けた時点から第1時間遡った時点(t1)から撮像指示を受け付けた時点(t0)までの期間内における移動体内の状況又は移動体外の状況に基づいて基準タイミングを設定する例について説明したが、これに限られない。例えば、第1時間遡った時点(t1)の前後の所定の期間内に基準タイミングが設定されてもよい。
【0168】
上述した実施例における構成及びルーチンは例示に過ぎず、用途等に応じて適宜選択、組み合わせ、又は変更可能である。
【符号の説明】
【0169】
10 撮像装置
11 車外カメラ
13 車内カメラ
15 マイク
17 タッチパネルディスプレイ
19 システムバス
21 入力部
23 測距センサ
25 大容量記憶装置
25A 車外映像記憶部
25B 画像一時保存部
25C 距離情報記憶部
25D 車内情報記憶部
27 制御部
29 出力部
31 送受信部